检索结果-内蒙古大学图书馆

您好，读者！请登录

内蒙古大学图书馆

首页
概况
党建
资源
服务
科研支持
- 论文收录引用证明
- 科技查新
知识产权
档案馆
帮助

咨询与建议

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

您的常用邮箱：*

您的手机号码：*

问题描述：

当前已输入0个字，您还可以输入200个字

全部搜索
期刊论文
图书
学位论文
标准
纸本馆藏
外文资源发现
数据库导航
超星发现

高级检索

时间限定

出版年份：

文献类型

图书期刊文献学位论文多媒体

馆藏选择

电子馆藏纸本馆藏

核心期刊

全部期刊 SCI 收录期刊 SSCI 收录期刊 EI 收录期刊 CSCD 收录期刊 CSSCI 收录期刊

语言

中文英文

文献类型

期刊文献图书学位论文标准纸本馆藏

帮助

文字说明：

T=题名（书名、题名），A=作者（责任者），K=主题词，P=出版物名称，PU=出版社名称，O=机构（作者单位、学位授予单位、专利申请人），L=中图分类号，C=学科分类号，U=全部字段，Y=年（出版发行年、学位年度、标准发布年）

检索规则说明：

AND代表“并且”；OR代表“或者”；NOT代表“不包含”；(注意必须大写,运算符两边需空一格)

检索范例：

范例一：(K=图书馆学 OR K=情报学) AND A=范并思 AND Y=1982-2016
范例二：P=计算机应用与软件 AND (U=C++ OR U=Basic) NOT K=Visual AND Y=2011-2016

分类表

所选分类

>> <<

限定检索结果

文献类型

102 篇 学位论文
44 篇 期刊文献
1 篇 会议

馆藏范围

147 篇 电子文献
0 种 纸本馆藏

日期分布

学科分类号

141 篇 工学
- 94 篇 计算机科学与技术...
- 91 篇 软件工程
- 85 篇 控制科学与工程
- 66 篇 机械工程
- 10 篇 电子科学与技术（可...
- 9 篇 仪器科学与技术
- 7 篇 信息与通信工程
- 4 篇 电气工程
- 4 篇 交通运输工程
- 4 篇 航空宇航科学与技...
- 4 篇 农业工程
- 2 篇 材料科学与工程（可...
- 2 篇 生物医学工程（可授...
- 2 篇 食品科学与工程（可...
- 2 篇 网络空间安全
- 1 篇 光学工程
- 1 篇 动力工程及工程热...
- 1 篇 水利工程
- 1 篇 化学工程与技术
- 1 篇 轻工技术与工程
80 篇 管理学
- 80 篇 管理科学与工程(可...
6 篇 艺术学
- 6 篇 设计学（可授艺术学...
3 篇 理学
- 3 篇 系统科学
3 篇 农学
- 1 篇 作物学
3 篇 医学
- 2 篇 医学技术（可授医学...
1 篇 经济学
- 1 篇 理论经济学
- 1 篇 应用经济学
1 篇 教育学
- 1 篇 教育学
1 篇 军事学

主题

147 篇 模型量化
32 篇 卷积神经网络
30 篇 深度学习
27 篇 模型压缩
21 篇 目标检测
20 篇 模型剪枝
17 篇 知识蒸馏
7 篇 fpga
6 篇 注意力机制
5 篇 模型裁剪
5 篇 深度神经网络
4 篇 深度可分离卷积
4 篇 低秩分解
4 篇 轻量级网络
4 篇 嵌入式
4 篇 语义分割
3 篇 人脸识别
3 篇 轻量化
3 篇 混合精度量化
3 篇 量化感知训练

机构

9 篇 西安电子科技大学
7 篇 电子科技大学
6 篇 华南理工大学
6 篇 浙江大学
4 篇 华中科技大学
3 篇 中国科学院大学
3 篇 东南大学
3 篇 中国科学技术大学
3 篇 北京化工大学
2 篇 西南大学
2 篇 北京交通大学
2 篇 中国科学院光电技...
2 篇 江西财经大学
2 篇 国立台湾大学
2 篇 南京信息工程大学
2 篇 沈阳工业大学
2 篇 上海海洋大学
2 篇 清华大学
2 篇 西北工业大学
2 篇 北京邮电大学

作者

3 篇 杨帆
2 篇 郝立扬
2 篇 蔡敬菊
2 篇 li fan
2 篇 丁贵广
2 篇 陈辉
2 篇 ding guiguang
2 篇 yang fan
2 篇 张利红
2 篇 cai jing-ju
2 篇 chen hui
2 篇 王子越
2 篇 zhang li-hong
1 篇 sun jiande
1 篇 吴蔚
1 篇 张晓丽
1 篇 min huasong
1 篇 毛淑菲
1 篇 陈翊
1 篇 石丽月

语言

146 篇 中文
1 篇 英文

检索条件"主题词=模型量化"

共 147 条记录，以下是91-100 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

面向深度学习语义分割的DSA软硬件系统研究与实现

面向深度学习语义分割的DSA软硬件系统研究与实现

引用

作者：谢家骏东南大学

学位级别：硕士

随着深度学习算法对处理器计算能力的需求不断增加,传统通用CPU在面对例如卷积神经网络这类深度学习算法时性能明显不足。语义分割作为计算机视觉的一类任务,具有参数量大、计算复杂度高的特点,对芯片的并行计算能力有一定的要求。通用... 详细信息

随着深度学习算法对处理器计算能力的需求不断增加,传统通用CPU在面对例如卷积神经网络这类深度学习算法时性能明显不足。语义分割作为计算机视觉的一类任务,具有参数量大、计算复杂度高的特点,对芯片的并行计算能力有一定的要求。通用的深度学习加速器在设计时并没有考虑语义分割任务的特点,因此难以达到很高的吞吐和能效比。本文针对语义分割神经网络,采用数据流和算子融合等设计思想,研究并实现了一种专用领域架构处理器(DSA)——seg DSA,提高了片内数据复用率,并通过同构多核技术,提高了不同计算核心之间的并行性,达到了预期的加速效果。首先,本文介绍了研究中运用到的关键技术与平台,对需研究的问题进行了详细的分析。在此基础上,对seg DSA系统在软、硬件层面进行了整体设计。其次对seg DSA硬件系统进行了研究与设计。首先分析了限制seg DSA加速比的主要因素以及加速器的设计模式,研究了任务之间的并行性,建立了与之对应的模型。然后给出了计算核心的详细设计,包括数据通路、脉动阵列矩阵乘法单元、激活与池化单元等。接着对seg DSA的访存进行了建模和优化,提高了系统的有效带宽。最后给出了seg DSA的指令集架构和微控制器的设计。随后给出了seg DSA软件系统的研究与设计。包括模型分析器、模型量化器、模型编译器三个模块。其中模型分析器负责对原始语义分割模型进行解析,生成对应的计算图和二进制参数;模型量化器负责对前面得到的计算图和二进制参数进行量化和计算图融合操作;模型编译器负责对量化融合后的模型进行编译,生成seg DSA可识别的二进制指令。最后介绍了seg DSA硬件、软件系统主要部分的实现和测试,并将系统在FPGA平台上进行了逻辑验证。最终的实验结果表明,seg DSA具有单核300GOPS的算力,并且可以通过同构多核扩展,在计算语义分割任务时达到全核心90%以上的有效负载,获得高于NVIDIA P100 GPU的加速比和能效比。

关键词： DSA 语义分割脉动阵列同构多核模型量化

来源：评论

学校读者我要写书评

暂无评论

基于渐进优化和分布感知的量化算法研究

基于渐进优化和分布感知的量化算法研究

引用

作者：李慧霞厦门大学

学位级别：硕士

近年来,深度卷积神经网络推动了人工智能的快速发展,但神经网络模型庞大的参数量和计算量,严重制约了其在资源受限的移动嵌入式设备端的应用和部署。庞大的市场需求,促使越来越多的学者聚焦于神经网络压缩与加速的研究。本文致力于基于... 详细信息

近年来,深度卷积神经网络推动了人工智能的快速发展,但神经网络模型庞大的参数量和计算量,严重制约了其在资源受限的移动嵌入式设备端的应用和部署。庞大的市场需求,促使越来越多的学者聚焦于神经网络压缩与加速的研究。本文致力于基于量化的神经网络压缩与加速算法的探索,基于参数量化技术,分析量化误差,并据此提出提高量化模型性能的优化算法。本文研究内容和创新点如下:(1)基于渐进优化的量化算法。现有自动混合精度量化算法聚焦于搜索算法,忽略了庞大的搜索空间和性能评估准则不精确的问题。为了缩小搜索空间,本文从渐进优化的角度,分析量化截断误差和舍入误差对于量化模型性能的影响,发现对于给定的模型,量化截断误差是个常数,而量化舍入误差是量化精度的函数。基于此,本文提出了一种有限误差的渐进优化量化算法。为了解决性能评估准则不精确的问题,本文基于量化损失分析和推理,提出了一种基于海森矩阵的性能评估准则,将Adam的二阶梯度作为代理信息,降低了海森矩阵的计算复杂度。该方法以端对端的方式得到满足硬件约束的模型。严谨的数学推导和对比实验,证明了本文所提出的算法的合理性,性能远超当前主流算法。如:在ResNet-18的网络模型上,在实现了 1019×的搜索空间缩减的同时,模型性能评估准则的计算效率提升了 12倍,混合精度模型仅损耗0.3%的性能,同时获得了 5.7倍的压缩收益。(2)基于分布感知的量化算法。本文从量化截断参数优化的角度提出了针对底层视觉任务的量化算法,旨在解决:神经网络非正态离散激活值分布,对量化训练不友好的问题。基于对特征分布的分析和研究,发现可利用梯度信息,动态感知特征图分布变化,提出了一种硬件友好的可学习截断上界优化算法。同时,为了提高量化模型的精度,本文设计了新的结构化知识迁移损失,将结构化知识从单精度浮点网络迁移到量化网络,增强了低精度模型对特征空间相关性的学习能力,加速了多网络层之间的信息流动,提高了模型性能。该算法获得了网络紧凑性和模型性能之间的均衡,对应的低精度模型性能远超当前传统量化算法。如:8-bit PAMS-EDSR在不损失精度的情况下,分别获得了 58.4%压缩率和3.9倍加速收益。

关键词：神经网络压缩与加速模型量化渐进优化分布感知

来源：评论

学校读者我要写书评

暂无评论

基于FPGA的YOLOv2网络研究与实现

基于FPGA的YOLOv2网络研究与实现

引用

作者：何兆华华中科技大学

学位级别：硕士

目标检测是计算机视觉基本任务之一,随着深度学习时代的到来,基于卷积神经网络的目标检测算法得到长足的发展,然而算法的产品化落地问题还亟待解决。YOLOv2检测网络作为一个性能优良且能达到实时性要求的目标检测算法,具有结构简单,网... 详细信息

目标检测是计算机视觉基本任务之一,随着深度学习时代的到来,基于卷积神经网络的目标检测算法得到长足的发展,然而算法的产品化落地问题还亟待解决。YOLOv2检测网络作为一个性能优良且能达到实时性要求的目标检测算法,具有结构简单,网络层数相对较少的优点,是将目标检测算法进行产业化落地的一个很好的选择。FPGA的并行计算、可重构性与低功率使得其是将基于卷积神经网络的目标检测算法移植到嵌入式系统一个很好的平台方案。首先,为了在FPGA平台上能更高效部署YOLOv2检测网络,本文对YOLOv2检测网络的存储空间以及计算方式利用增量网络量化的方法进行优化,将单精度浮点数格式的权值量化成2的整次幂,利用4位位宽对其进行编码,使得YOLOv2检测网络模型大小减少了近8倍,同时,卷积层中的浮点数乘法可以转化成定点数的移位操作,并且量化后的YOLOv2网络在Pascal VOC2007数据集上的检测性能与量化前的性能保持一致。其次,考虑到YOLOv2检测网络是在卷积神经网络的基础上提出的,为了我们的设计适用于其他的基于卷积神经网络的目标检测算法,本文分析了并且在FPGA上实现卷积神经网络通用的模块,通过对各模块的功能仿真,验证了我们设计方案的正确性。最后,受限于FPGA平台的计算资源以及内存带宽,基于FPGA的YOLOv2检测网络在前向推断的计算过程中需要对每一层进行分块计算,为了充分利用FPGA平台的计算资源以及内存带宽,本文利用Roofline Model挑选最佳分块参数。另外,为了减少对外部存储的访问次数和推断时间,本文使用了双缓冲机制并且在不同的层之间引入了流水线操作。实验结果表明,在Zynq7000系列,芯片型号为xc7z035ffg676-2的开发板上,工作频率为100 MHz情况下,本文提出的基于FPGA的YOLOv2检测网络能达到3.2帧每秒。

关键词： YOLOv2 FPGA 目标检测模型量化

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的限速标志识别算法研究及实现

基于深度学习的限速标志识别算法研究及实现

引用

作者：吴云铎重庆邮电大学

学位级别：硕士

随着近几年汽车行业和芯片技术快速发展,车载嵌入式设备的部署量和计算力越来越高,所以基于离线模式的智能辅助驾驶设备也受到许多学者和研究人员的关注。本文研究内容是辅助驾驶下的分支:限速标志检测与识别。以深度学习为基础进行限... 详细信息

随着近几年汽车行业和芯片技术快速发展,车载嵌入式设备的部署量和计算力越来越高,所以基于离线模式的智能辅助驾驶设备也受到许多学者和研究人员的关注。本文研究内容是辅助驾驶下的分支:限速标志检测与识别。以深度学习为基础进行限速牌检测与识别,然后将模型部署到车载嵌入式平台上进行实时检测。论文的主要工作内容如下: 1.针对车载环境限速牌识别的难点提出了一个基于YOLOv3的改进网络。由于嵌入式内存和算力有限,引入轻量级特征提取网络Mobilenetv2作为骨干网络减少权重参数和计算量。针对原网络架构上的冗余,对网络结构进行精简。针对原YOLOv3网络采用的FPN结构在识别多限速牌时可能存在特征融合上的冲突,引入ASFF结构自适应融合不同尺寸的特征层提高识别率。引入GIOU和focal loss算法,优化网络的定位损失和置信度损失。 2.搭建了一个离线车载限速牌检测与识别的嵌入式平台,将改进的识别网络部署到该平台。在部署过程中对网络算子优化,将BN层数据和卷积算子合并减少计算量。为了适配硬件平台的并行加速模块,对float32型的网络进行8bit量化,针对传统量化方式Max Min法在量化特征图时无法有效映射数值分布,引入KL散度寻找饱和量化的阈值提高量化的精度。 3.搭建了一个限速牌数据集验证提出算法的有效性。为了提高网络模型的泛化能力和识别精度对数据集进行扩增,使用mosaic与传统图像处理融合的方法扩增了不同角度、大小的限速牌,通过模拟不同天气的图像增强方法扩增了不同天气、亮度下的限速牌。经过实验表明,在电脑端本文提出的基于YOLOv3改进的网络m AP可以达到83.9%,虽然检测精度略低于目前热门的目标检测算法,但是FPS可达到33.4,拥有较快的检测速度,而权重文件只有23.8MB。在嵌入式端网络经过8bit量化后m AP值为79.6%,但是利用硬件并行加速后推理速度是非量化的3.5倍,权重文件缩小2.7倍,极大地提高了车载环境下限速牌的检测速度,满足了实时性和硬件需求。

关键词： YOLOv3改进限速牌识别 ASFF 模型量化

来源：评论

学校读者我要写书评

暂无评论

面向边缘设备的DCNN模型压缩策略研究

面向边缘设备的DCNN模型压缩策略研究

引用

作者：许家瑞西安工业大学

学位级别：硕士

随着深度学习中卷积神经网络技术发展,现今的卷积神经网络的模型结构应用越加广泛。为了提升模型性能,网络模型通常变得更加复杂,规模日益庞大,且神经网络本身存在计算冗余,使得边缘设备无法满足复杂模型的运算需求。因此深度卷积神经... 详细信息

随着深度学习中卷积神经网络技术发展,现今的卷积神经网络的模型结构应用越加广泛。为了提升模型性能,网络模型通常变得更加复杂,规模日益庞大,且神经网络本身存在计算冗余,使得边缘设备无法满足复杂模型的运算需求。因此深度卷积神经网络的模型压缩工作被广泛研究,使用有效的模型压缩算法可以减少冗余度,让复杂模型转变为轻量模型以适应更丰富的应用场景。本文主要工作研究了轻量化卷积神经网络和结构化模型剪枝技术。首先是手动设计轻量化卷积模块来构建神经网络RDPNet。主要方法是基于深度可分离卷积和重参数化方法构建RDP模块,其多路结构模块用于训练,重参数化的单路结构模块用于推理。在此基础上,以适当的深度和宽度调整来构建整体网路结构。实验结果显示RDPNet在同类型轻量化神经网络的比较中表现突出,在模型性能和推理速度两方面达到了较好的平衡。然后是改进并提出了全局自适应剪枝方法,这是一种结构化动态剪枝方式。利用稀疏化训练得到带有稀疏解的模型,根据训练所得掩码对通道重要程度进行判别,进而对冗余通道进行剪枝以压缩模型。采用这种方式的优点在于算法注重探索模型的隐式架构,且动态地对处于训练状态的通道进行重要性判断,以达到更好的压缩效果。最后是将提出的两种网络压缩方法应用在了边缘设备环境中。通过使用INT8量化方法,在前两种方法基础上进一步压缩模型大小,加速计算。通过在边缘设备上对压缩模型进行推理,验证了本文提出的压缩方法的有效性。

关键词：卷积神经网络模型压缩轻量化CNN结构模型剪枝模型量化

来源：评论

学校读者我要写书评

暂无评论

面向CNN专用加速器的深度学习编译器优化设计与实现

面向CNN专用加速器的深度学习编译器优化设计与实现

引用

作者：张磊重庆大学

学位级别：硕士

由于人工智能算法的迅速发展,卷积神经网络(Convolutional Neural Networks,CNN)模型通过专用硬件加速平台逐渐应用于嵌入式等环境,但是需要设计相应的深度学习编译器才能充分发挥出硬件的性能。目前国内对面向CNN专用加速器的深度学习... 详细信息

由于人工智能算法的迅速发展,卷积神经网络(Convolutional Neural Networks,CNN)模型通过专用硬件加速平台逐渐应用于嵌入式等环境,但是需要设计相应的深度学习编译器才能充分发挥出硬件的性能。目前国内对面向CNN专用加速器的深度学习编译器的研究还比较少,模型在部署方面还存在很多挑战。首先,随着CNN算法的发展,跨层次跳跃连接(Skip Connect)等复杂网络结构层出不穷,然而CNN专用加速器难以灵活地支持这些结构。其次,模型的量化通常会受到固定硬件结构的限制,只能使用特定的量化方式。最后,因为加速器的片上资源比较有限,无法存储下完整的计算数据,需要将输入特征图和权重进行分块后才能完成整个模型的计算,因此如何根据加速器硬件架构对特征图进行分块来提高性能也是编译器所需要解决的重要问题。针对以上问题,本文对面向CNN专用加速器的深度学习编译器提出了优化设计,并在开源的CNN加速器上进行了实现。本文的重点研究工作包含如下:(1)研究了专用深度学习编译器的基本设计架构,在设计实现中通过算子融合等优化方法减少了加速器对内存的访问以及存储空间的浪费,同时使用内存分配地址叠加的方式避免了各张量之间的数据覆盖。(2)设计了一种内存共享和编址的方法,并通过特征图深度复制、算子执行顺序交换等策略使编译器可以支持复杂的跳跃连接网络结构。(3)设计了固定硬件下的多种模型量化部署方案,通过融合非对称量化的偏移和卷积偏置使硬件不需要额外的偏移计算也能支持非对称量化方式,以此实现不改变硬件也能提升运算精度,同时通过编译器与加速器的协同优化,将DSP的输入数据配置为两个数的移位相加从而在一个DSP中同时进行两次乘法运算,最终实现编译器对可变位宽量化的支持。(4)分析了编译器对特征图和权重进行分块后卷积计算的时间开销,基于加速器硬件架构提出了一种优化卷积循环平铺和循环重排的调度策略来提升加速器的性能。通过测试表明,优化设计后的编译器能支持INT8和INT16的可变位宽量化,在不增加额外DSP的情况下加速器INT8量化运算性能提高近一倍,同时在不改变加速器硬件的条件下实现了非对称量化,使加速器运算准确率提升了约6%,最后通过卷积循环调度优化后整体性能相比于手动调度提升了10%-20%。

关键词：深度学习编译器跳跃连接内存共享模型量化循环调度

来源：评论

学校读者我要写书评

暂无评论

基于侧信道与GBDT的模型逆向研究

基于侧信道与GBDT的模型逆向研究

引用

作者：李景海武汉大学

学位级别：硕士

深度神经网络模型是人工智能技术中应用最为广泛的学习模型,其安全研究也越来越受到重视。模型逆向攻击旨在恢复部署在推理终端的神经网络模型的结构和权重值,是AI安全中的基础问题,为对抗样本等高阶攻击提供数据支撑。文章从侧信道的... 详细信息

深度神经网络模型是人工智能技术中应用最为广泛的学习模型,其安全研究也越来越受到重视。模型逆向攻击旨在恢复部署在推理终端的神经网络模型的结构和权重值,是AI安全中的基础问题,为对抗样本等高阶攻击提供数据支撑。文章从侧信道的角度出发,将模型推理过程中产生的内存消耗与推理时间等数据作为攻击者可以获取的数据源,通过分析侧信道数据,文章对模型逆向的结构逆向和权重逆向两个方面进行了研究。在模型结构逆向方面,本文使用基于GBDT与网络层约束模型的方法对侧信道数据进行了分析。使用GBDT模型对网络层类型进行了逆向,并结合网络层计算约束逆向了网络层参数。最后通过字符串匹配算法寻找网络中可能存在的残差块从而恢复了网络的拓扑结构。文章提出的模型结构逆向方法在测试集上的LER指标为0.0911。在逆向出模型结构后,本文将逆向模型作为替代模型生成了对抗样本,使用这些对抗样本对原始目标模型进行了对抗样本攻击,称为灰盒对抗样本攻击。其中,PGD,FGSM,BIM三种对抗样本攻击成功率分别为29%,23%,25%,均高于随机选取的替代模型或选用经典模型作为的替代模型,证明了模型逆向攻击的实用性和有效性。在模型权重逆向方面,常规方法采用CPA方法,该方法要求攻击者构造准确的泄露模型,而在实际的终端环境下,攻击者往往无法构造出准确的泄露模型。本文在量化技术的背景下对权重逆向进行研究,提出了一种名为Cluster-based SCA的新型模型权重逆向方法,该方法不要求攻击者构造泄露模型。Cluster-based SCA方法以量化推理中存在的安全隐患为出发点,利用了量化推理中的分类不等价现象,以此来猜测权重值并进行验证,从而恢复权重值。文章实验使用汉明重模型来模拟AI芯片的泄露模型,对于目标CNN网络,Cluster-based SCA方法以70.14%的TOP2恢复率恢复了其第一层卷积层所有卷积核权重,对于取值位于显著区的权重,TOP2的恢复率均达到了100%。

关键词：模型逆向侧信道分析 GBDT 模型量化

来源：评论

学校读者我要写书评

暂无评论

采用知识蒸馏与模型压缩之低功耗可变关键字的唤醒词辨识系统

采用知识蒸馏与模型压缩之低功耗可变关键字的唤醒词辨识系统

引用

作者：简义国立台湾大学

学位级别：硕士

随着智慧装置的普及，语音唤醒技术日益重要。语音唤醒主要透过唤醒词辨识实现，目标为在一连续语音中辨识是否存在一特定关键字。由于深度神经网路快速的发展，采用深度神经网路的唤醒词辨识也在辨识精准度上获得了大幅的进步。传统基... 详细信息

随着智慧装置的普及，语音唤醒技术日益重要。语音唤醒主要透过唤醒词辨识实现，目标为在一连续语音中辨识是否存在一特定关键字。由于深度神经网路快速的发展，采用深度神经网路的唤醒词辨识也在辨识精准度上获得了大幅的进步。传统基于深度神经网路的唤醒词辨识系统需要使用大量目标关键字的语音作为训练资料，因此只能辨识固定的关键字且难以在完成训练后替换关键字。若是需要替换关键字，就需要重新搜集目标关键字的语料并重新训练模型。本论文聚焦于实作一可变关键字的唤醒词辨识系统，其采用连结时序分类（connectionist temporal classification，CTC）来训练声学模型，透过模型的输出计算信心分数并基于信心分数来决定是否唤醒系统。然而为了方便使用，唤醒词辨识系统需要部属于边缘装置上，为了达成此目标，本论文也采用了知识蒸馏（knowledge distillation）和模型量化（model quantization）方法，在不影响辨识精准度的前题下大幅提升系统的辨识速度。于Mobvoi Hotwords上进行实验，相较于基准方法，本研究提出的方法可以在运行速度相对提升40%时，同时使每小时错误唤醒次数为1时的错误拒绝率相对下降15.54%。

关键词：唤醒词辨识连结时序分类知识蒸馏模型量化 Mobvoi Hotwords

来源：评论

学校读者我要写书评

暂无评论

基于深度神经网络的光学遥感图像飞机目标检测与细粒度识别

基于深度神经网络的光学遥感图像飞机目标检测与细粒度识别

引用

作者：李珺西安电子科技大学

学位级别：硕士

飞机目标检测是遥感图像解译的一个重要分支,飞机在交通运输领域以及军事作战领域都有重要的应用,对其准确的位置与不同型号实现快速、高效的检测与识别具有重要的意义。本文针对高分辨光学遥感图像飞机检测任务中的复杂场景以及细粒度... 详细信息

飞机目标检测是遥感图像解译的一个重要分支,飞机在交通运输领域以及军事作战领域都有重要的应用,对其准确的位置与不同型号实现快速、高效的检测与识别具有重要的意义。本文针对高分辨光学遥感图像飞机检测任务中的复杂场景以及细粒度识别中的长尾问题和噪声标签问题,以自然图像经典单阶段目标检测算法做为基础,出了基于深度神经网络的光学遥感图像飞机目标检测与细粒度识别方法;并结合遥感图像解译的应用场景,针对性地升遥感图像解译的速度并节省计算开支。主要研究内容如下所述: (1)出了一种对噪声数据鲁棒的单阶段细粒度光学遥感图像飞机检测器。针对单阶段目标检测模型在细粒度识别任务上表现不佳的问题,基于经典单阶段目标检测模型Retina Net,引入细粒度分类模块将目标的特征细化后再进行分类。为了应对人工标注数据集中存在的类别噪声,将原始分类子网络的作用由类别区分转化为前背景区分,避免了错误的类别标签对模型学习是否存在目标的负面影响。出了一种噪声鲁棒的标签分配策略,在更好的对含有噪声的标签进行分配的同时使前背景分类器能够感知样本的质量。最后采集了数据集并进行细粒度标注,通过实验证明该方法比较于Retina Net方法以及其他一系列方法具有更高的检测和细粒度识别的精度。 (2)出了一种基于难样例聚焦与梯度停止的遥感图像飞机目标检测与识别方法。针对部分目标检测和识别困难的问题,受经典分类器SVM的启发,基于SVM的理论基础出了一种基于支持样本的难样例聚焦方法,以动态的寻找困难样本,同时出了一种损失函数对其进行额外的聚焦监督。此外,细粒度识别任务中常伴随着类别不平衡问题,针对长尾问题出了类别感知损失和对不同类别的梯度停止方法。有效的升了对困难样本的区分能力,并一定程度上缓解了长尾问题带来的负面影响。 (3)出了一种基于动态随机的8bit整型量化训练方法。针对8bit整型训练后量化方法误差较大的缺点,采用量化训练方法对模型进行8bit整型量化;采用逐通道非对称量化方法降低量化映射过程中的缩放误差;通过动态可学习的映射关系选取更合理的参数数值范围以最大化量化后权重的表达能力,并基于直通估计改进了梯度计算方法从而实现对映射关系的反向传播;最后,采用量化随机失活方法在训练过程中随机的选取参数进行量化,从而进一步降低量化误差,有效的使量化后的8bit整型模型保留了与全精度模型相近的精度表现。

关键词：光学遥感图像飞机检测细粒度识别噪声标签模型量化

来源：评论

学校读者我要写书评

暂无评论

面向AIoT芯片的实时OCR关键技术探究

面向AIoT芯片的实时OCR关键技术探究

引用

作者：甘芷莹合肥工业大学

学位级别：硕士

OCR的应用场景广,相关商业产品非常多,但是基于深度学习OCR模型在边缘设备中如何做到实时推理缺乏公开化的研究。基于深度学习的OCR模型通常由CNN和RNN/LSTM构成,模型计算量大、权重参数多,导致在边缘设备上推理OCR模型需要大量的计算... 详细信息

OCR的应用场景广,相关商业产品非常多,但是基于深度学习OCR模型在边缘设备中如何做到实时推理缺乏公开化的研究。基于深度学习的OCR模型通常由CNN和RNN/LSTM构成,模型计算量大、权重参数多,导致在边缘设备上推理OCR模型需要大量的计算资源才有可能达到性能要求。CPU和GPU这样的通用处理器无法同时满足处理速度和功耗要求,并且成本非常高。随着深度学习的普及,神经处理单元NPU在许多嵌入式和边缘设备中变得普遍,它具有高吞吐量和卓越的计算能力来处理神经网络所涉及的矩阵运算。在本研究中,利用压缩算法对OCR模型进行压缩,减小其网络冗余度和内存大小,然后将压缩后OCR模型部署在NPU上,并且根据OCR模型的网络结构进一步设计加速策略,满足OCR模型在AIoT芯片上的实时推理需求。具体工作如下:(1)本文提出了基于块的细粒度权重剪枝,解决了权重剪枝在边缘设备中带来的工作负载不均衡和剪枝率低的问题,并且采用动态渐进剪枝法,在模型训练过程中动态地更新修剪阈值,从而恢复原始模型的精度。(2)单个压缩算法的压缩效果有限,本文将剪枝和量化两种压缩算法相结合,采用基于KL散度模型量化方法,解决了硬件上浮点运算困难,以及参数分布不均衡产生极值对量化造成误差的问题。(3)根据OCR模型的网络结构进一步设计加速策略。针对神经网络加速器无法对LSTM层进行运算,提出了一种能量化部署LSTM层的方法,将LSTM转化成加速器能处理的常规层。由于在硬件上实现精确的非线性函数是相当困难的,所以使用分段多项式拟合和LUT查找表相结合的方式获取激活函数运算结果,提高模型在硬件设备上的推理速度。实验结果表明,通过剪枝-量化的压缩的方式可以将OCR模型的32位浮点型参数量化成8位,并且剪枝率达到78%。综合模型精度、模型大小和模型推理时间的比较,在模型精度下降不到3%,文字检测CTPN模型大小从67.6MB压缩为12.52MB,与在CPU和GPU上的实现相比,NPU在延迟上分别实现了36.35倍和7倍的加速;文字识别CRNN模型大小从15.87MB压缩为3.13MB,而与CPU和GPU相比,CRNN模型在NPU上延迟分别实现了28.87倍和6.1倍的加速。

关键词： AIoT 模型量化网络剪枝神经网络加速

来源：评论

学校读者我要写书评

暂无评论

没有更多数据了...

全选清除本页清除全部题录导出标记到“检索档案”

共15页 << < 6 7 8 9 10 11 12 13 14 15 > >>

检索报告对象比较合并检索0

隐藏清空

合并搜索

回到顶部

执行限定条件

内容：

评分：

请选择保存的检索档案：

请选择收藏分类：

订阅名称：

通借通还

温馨提示：

图书名称：

借书校区：

取书校区：

手机号码：

邮箱地址：

一卡通帐号：

电话和邮箱必须正确填写，我们会与您联系确认。

联系人：

所在院系：

联系邮箱：

联系电话：

内蒙古自治区呼和浩特市赛罕区大学西街235号邮编: 010021

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：