检索结果-内蒙古大学图书馆

您好，读者！请登录

内蒙古大学图书馆

首页
概况
党建
资源
服务
科研支持
- 论文收录引用证明
- 科技查新
知识产权
档案馆
帮助

咨询与建议

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

您的常用邮箱：*

您的手机号码：*

问题描述：

当前已输入0个字，您还可以输入200个字

全部搜索
期刊论文
图书
学位论文
标准
纸本馆藏
外文资源发现
数据库导航
超星发现

高级检索

时间限定

出版年份：

文献类型

图书期刊文献学位论文多媒体

馆藏选择

电子馆藏纸本馆藏

核心期刊

全部期刊 SCI 收录期刊 SSCI 收录期刊 EI 收录期刊 CSCD 收录期刊 CSSCI 收录期刊

语言

中文英文

文献类型

期刊文献图书学位论文标准纸本馆藏

帮助

文字说明：

T=题名（书名、题名），A=作者（责任者），K=主题词，P=出版物名称，PU=出版社名称，O=机构（作者单位、学位授予单位、专利申请人），L=中图分类号，C=学科分类号，U=全部字段，Y=年（出版发行年、学位年度、标准发布年）

检索规则说明：

AND代表“并且”；OR代表“或者”；NOT代表“不包含”；(注意必须大写,运算符两边需空一格)

检索范例：

范例一：(K=图书馆学 OR K=情报学) AND A=范并思 AND Y=1982-2016
范例二：P=计算机应用与软件 AND (U=C++ OR U=Basic) NOT K=Visual AND Y=2011-2016

分类表

所选分类

>> <<

限定检索结果

文献类型

848 篇 学位论文
817 篇 专利
364 篇 期刊文献
16 篇 会议
2 篇 报纸

馆藏范围

2,047 篇 电子文献
0 种 纸本馆藏

日期分布

学科分类号

1,180 篇 工学
- 790 篇 计算机科学与技术...
- 763 篇 软件工程
- 685 篇 控制科学与工程
- 570 篇 机械工程
- 89 篇 仪器科学与技术
- 61 篇 信息与通信工程
- 57 篇 交通运输工程
- 54 篇 电子科学与技术（可...
- 29 篇 航空宇航科学与技...
- 24 篇 电气工程
- 24 篇 公安技术
- 15 篇 土木工程
- 15 篇 网络空间安全
- 13 篇 材料科学与工程（可...
- 13 篇 生物医学工程（可授...
- 12 篇 农业工程
- 10 篇 光学工程
- 7 篇 动力工程及工程热...
- 7 篇 建筑学
- 7 篇 船舶与海洋工程
641 篇 管理学
- 640 篇 管理科学与工程(可...
54 篇 理学
- 39 篇 系统科学
43 篇 艺术学
- 43 篇 设计学（可授艺术学...
25 篇 农学
- 14 篇 植物保护
23 篇 医学
- 14 篇 临床医学
- 7 篇 医学技术（可授医学...
9 篇 军事学
- 7 篇 军队指挥学
6 篇 文学
5 篇 教育学
3 篇 法学
2 篇 经济学
1 篇 哲学
1 篇 历史学

主题

1,230 篇 模型压缩
334 篇 深度学习
254 篇 卷积神经网络
193 篇 知识蒸馏
181 篇 目标检测
66 篇 注意力机制
65 篇 深度神经网络
56 篇 神经网络
49 篇 网络剪枝
46 篇 通道剪枝
41 篇 剪枝
37 篇 边缘计算
34 篇 模型剪枝
32 篇 图像分类
28 篇 fpga
27 篇 模型量化
26 篇 结构化剪枝
25 篇 yolov3
24 篇 计算机视觉
23 篇 联邦学习

机构

61 篇 电子科技大学
59 篇 北京邮电大学
52 篇 中国科学院大学
51 篇 西安电子科技大学
41 篇 华南理工大学
39 篇 哈尔滨工业大学
37 篇 浙江大学
35 篇 中国科学技术大学
28 篇 北京交通大学
27 篇 华中科技大学
25 篇 南京大学
24 篇 上海交通大学
22 篇 腾讯科技有限公司
21 篇 南京航空航天大学
20 篇 天津大学
20 篇 浙江工业大学
20 篇 杭州电子科技大学
19 篇 清华大学
19 篇 江南大学
18 篇 重庆大学

作者

13 篇 张志勇
13 篇 刘洋
9 篇 杨强
8 篇 徐倩
8 篇 王晓锐
7 篇 聂礼强
7 篇 高鹏
7 篇 王伟
7 篇 陈宇
7 篇 林军
7 篇 王中风
6 篇 张逸
5 篇 于佃海
5 篇 陈莹
5 篇 刘思聪
5 篇 陈晋音
5 篇 刘宁
5 篇 郭斌
5 篇 陈伟
5 篇 高志鹏

语言

2,038 篇 中文
9 篇 英文

检索条件"主题词=模型压缩"

共 2047 条记录，以下是91-100 订阅

全选清除本页清除全部题录导出标记到"检索档案"

详细简洁

排序：

深度卷积神经网络模型压缩算法研究与部署实现

深度卷积神经网络模型压缩算法研究与部署实现

引用

作者：杨康四川师范大学

学位级别：硕士

随着信息时代的到来,人工智能浪潮迅速兴起。作为人工智能基础的神经网络,在近年来得到飞速发展。虽然神经网络性能已经达到一个很高的水准,但是其高资源、高耗能的现状依然存在。另一方面,边缘计算概念的兴起,边缘设备数量也正呈指数... 详细信息

随着信息时代的到来,人工智能浪潮迅速兴起。作为人工智能基础的神经网络,在近年来得到飞速发展。虽然神经网络性能已经达到一个很高的水准,但是其高资源、高耗能的现状依然存在。另一方面,边缘计算概念的兴起,边缘设备数量也正呈指数级的增长,然而边缘设备的特点是低资源、低能耗。这与神经网络目前的现状相违背。因此对已有神经网络模型进行压缩研究,然后将其部署在边缘设备上意义重大。本文研究核心是深度卷积神经网络模型压缩,并且最终部署在资源有限的边缘设备上,研究主要内容:1.深度卷积神经网络压缩算法(剪枝方法)的研究剪枝方法是目前深度卷积神经网络模型压缩的主流方法之一,但是目前如何对信息分布不均的各层设置不同剪枝率还是一个开放性问题。本文提出层恢复敏感度分析法,能够更加准确的探究各层对网络性能的贡献度。根据贡献度的差异,提出分级剪枝率法,将贡献度大小分级,更加准确的设置各层剪枝率。实验表明分级剪枝率法对比目前剪枝效果最好的FPGM剪枝法,在保证基本相同剪枝率条件下,剪枝模型的分类准确率能稳定提升;或者在保证分类准确率基本相同条件下,模型能够裁剪更高的比例。2.深度卷积神经网络模型综合压缩研究目前深度卷积神经网络模型压缩的方法有很多种,本文通过对现有压缩技术的分析研究,选择VGG-16深度卷积神经网络模型,运用多种方法对网络进行综合压缩。最终压缩成果:在保证深度卷积神经网络模型性能损失不超过3%的前提下,压缩模型计算量压缩超过45%,参数量压缩到10%以下,模型存储大小降到10%以下,且在寒武纪智能物端芯片上的能耗比达到1T(FLOPs/w)。3.综合压缩模型在边缘端快速部署的研究异构边缘计算已经成为一种新的计算范式,其目标是将计算从云端移动到边缘端。边缘计算任务的快速部署对于全面实施边缘计算至关重要。在本文中,设计一个可拓展的边缘端快速任务部署方法,采用跨平台的容器技术封装异构计算单元的软件环境和运行时所需的相关依赖,来实现边缘端实验任务的快速部署。大量实验表明,任务部署平台几乎不会带来额外的时间消耗,也不会占用额外的计算资源。

关键词：神经网络模型压缩剪枝任务部署综合压缩

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的目标检测算法模型压缩

基于深度学习的目标检测算法模型压缩

引用

作者：袁炅南京大学

学位级别：硕士

近几年随着深度学习的发展，基于深度学习的目标检测算法也取得了巨大的突破。相比于传统的算法，基于深度学习的目标检测算法具有更好的检测效果和鲁棒性等特点，且不需要人工进行特征设计。一些优秀的目标检测算法已被广泛运用于交通... 详细信息

近几年随着深度学习的发展，基于深度学习的目标检测算法也取得了巨大的突破。相比于传统的算法，基于深度学习的目标检测算法具有更好的检测效果和鲁棒性等特点，且不需要人工进行特征设计。一些优秀的目标检测算法已被广泛运用于交通识别，监控安防和自动驾驶等领域。但是这些算法存在模型庞大，运算量巨大等缺点。这些缺点使得算法很难被运用在移动端设备或是嵌入式设备上。　　本文研究了目前主流的目标检测算法，主要包括FasterR-CNN与SSD两大典型的目标检测算法，深入讨论了两大类算法的各自优劣。我们通过剪枝的方法对SSD模型进行压缩，将冗余的参数置零，从而减小计算量和存储空间。并且我们还尝试了不同的剪枝模式，分析了不同的剪枝粒度对模型性能的影响。我们使用细粒度剪枝对SSD300模型参数压缩10倍后在VOC2007测试集上mAP达到了77.48％，此时的模型有效参数仅为263万。而使用MobileNets为前置网络的轻型SSD模型，拥有577万参数，mAP为72.7％。随后我们对稀疏化后的SSD网络参数进行量化，并分析了不同量化位宽对模型性能的影响。当使用8比特位宽的新数据类型来代替原来的32位浮点数据，模型被继续压缩4倍后性能依然在76mAP以上。　　本文通过剪枝与量化将SSD模型压缩了近40倍，我们发现这样的方法在复杂的目标检测算法上是适用的。相较于基于轻型网络的目标检测算法，我们的模型拥有更少的参数和更好的性能。

关键词：目标检测 SSD 模型压缩剪枝

来源：评论

学校读者我要写书评

暂无评论

基于域间一致性与模型压缩的跨域行人重识别研究

基于域间一致性与模型压缩的跨域行人重识别研究

引用

作者：张栩嘉东北林业大学

学位级别：硕士

行人重识别是一种跨摄像头识别指定行人的技术,在监控领域有着广泛应用前景。目前,基于深度学习的有监督行人重识别方法越来越成熟,但这些方法依赖大量的有标注数据,且泛化能力差,并且由于网络参数量庞大,不便于部署到资源受限的工程应... 详细信息

行人重识别是一种跨摄像头识别指定行人的技术,在监控领域有着广泛应用前景。目前,基于深度学习的有监督行人重识别方法越来越成熟,但这些方法依赖大量的有标注数据,且泛化能力差,并且由于网络参数量庞大,不便于部署到资源受限的工程应用上。因此,近年来一些研究开始转向跨域行人重识别及其模型压缩方法。针对以上问题,本文进行了两方面的研究,主要研究内容如下: (1)针对目前跨域行人重识别任务中域间差距和噪声标签导致的模型识别准确率低、稳定性差的问题,提出一种基于域间一致性与抗噪学习的跨域行人重识别方法(SZTR)。该方法首先将生成对抗网络添加到有监督的预训练中,将源域的图像风格迁移到目标域中,并且设计一个预训练中的一致性正则化损失,用来保持模型对行人图片风格迁移前后预测概率的一致性,以减小模型在不同数据域间识别能力的差距。随后在目标域的训练中引入更稳定的动量对比模型来提取样本特征,加入鲁棒性更强的自适应权重损失,与一致性正则化损失协同参与模型微调,共同减小聚类过程中噪声标签的产生及其带来的负面影响,最后加入重排序方法进一步提升模型性能。实验结果表明,SZTR方法有助于提升模型在跨域行人重识别任务上的准确度,可以取得在不同数据域和复杂样本下更加稳定有效的识别效果。 (2)针对目前大多数行人重识别方法使用的卷积神经网络参数量庞大,不便于进行工程部署的问题,提出一种跨域行人重识别模型压缩方法(SZTRL)。该方法在SZTR的基础上进行网络压缩,首先对SZTR方法中初始化好的动量对比模型进行细粒度的权重剪枝,以初步减少网络参数。随后,使用更适用于嵌入式设备的聚类量化将网络参数量化为多个离散值,只需要存储有效权重集和对应的索引,生成对应码本。而后使用哈夫曼编码对码本进行无损压缩,得到一个轻量级的压缩模型。最后通过知识蒸馏的方式使得压缩模型的性能恢复到压缩前的状态,再用压缩模型继续进行目标域的跨域行人重识别训练。通过实验验证,使用该方法压缩后得到的SZTRL模型可以在达到较高压缩比例的同时几乎不损失识别精度,同时对于跨域行人重识别中的域间差异和噪声标签有一定的抗干扰性,可以捕捉到有效的行人特征。

关键词：行人重识别域间一致性噪声标签模型压缩

来源：评论

学校读者我要写书评

暂无评论

基于参数和特征冗余的神经网络模型压缩方法

基于参数和特征冗余的神经网络模型压缩方法

引用

作者：杨文慧西安电子科技大学

学位级别：硕士

近年来,由于卷积神经网络(Convolution Neural Network,CNN)在图像识别、语音识别、自然语言处理等诸多领域中取得了前所未有的成果而被广泛应用,CNN模型在不断逼近计算机视觉任务的精度极限的同时,其深度和尺寸也在成倍增长。模型体积... 详细信息

近年来,由于卷积神经网络(Convolution Neural Network,CNN)在图像识别、语音识别、自然语言处理等诸多领域中取得了前所未有的成果而被广泛应用,CNN模型在不断逼近计算机视觉任务的精度极限的同时,其深度和尺寸也在成倍增长。模型体积庞大、对硬件资源要求高、存储开销大以及功耗惊人等问题都非常不利于其在移动端和嵌入式端的部署和应用。在这样的情形下,对CNN模型进行压缩显得尤为重要。早期就有学者提出了一系列CNN模型压缩方法,如权值量化、低秩分解等,但是压缩率和效率远不能令人满意。目前,针对CNN模型参数冗余问题,研究者们通过设计高效的卷积结构代替传统的卷积层,以达到减少参数量和计算量的目的,但是此类方法仍然存在神经元(或特征)退化严重、模型泛化能力低等问题;另外,针对特征冗余问题,研究人员提出了以逐层的方式对通道进行剪枝的方法,此类方法对常规卷积层堆叠而成的结构剪枝效果较好,但不适用于高效卷积结构(如深度可分离卷积,高效残差单元等),具有较大的局限性。针对以上问题,本论文提出了一种基于非均匀分组逐点卷积的神经网络模型压缩方法及一种基于特征冗余分析的神经网络跨层剪枝方法。本论文的主要工作和贡献点在于:1.结合基于深度可分离卷积构建的扩张残差单元和降采样层后置策略,本文首先提出了一种高效的神经网络模型,该模型解决了现有模型存在的神经元退化严重、模型泛化能力低等问题;更进一步,针对上述模型中参数占比较大的逐点卷积层,利用卷积核在空间频率域的非线性分布关系对其进行分组,提出了一种基于非均匀分组逐点卷积的模型压缩方法。与基于均匀分组卷积的方法相比,该方法更有利于学到对输入图像(或特征)更合理的响应。最后,通过实验证明本方法在参数量有限的情况下,模型尺寸更小,预测时间更少,在分类任务上还能取得相比同类方法更高的准确率。2.针对扩张残差单元中深度卷积层参数量极少的特点,提出一种基于特征冗余分析的神经网络跨层剪枝方法,主要思想是将批量归一化层中的可学习参数?作为刻画特征重要性的因子,然后根据该重要性因子及全局剪枝阈值仅对模型中的逐点卷积层进行剪枝,从而更好地保留深度卷积层的有效信息。所提方法克服了现有逐通道剪枝方法只能逐层裁剪而不适用于高效卷积结构的局限性。实验仿真部分首先对贡献点1中提出的高效神经网络模型进行跨层剪枝验证,此外结合扩张残差单元和跨层剪枝方法对现有的经典去噪模型进行联合压缩。实验结果证明本文提出的方法在有效地降低模型参数和模型尺寸的同时,能够保持良好的分类精度和去噪性能。

关键词：模型压缩扩张残差单元非均匀分组逐点卷积跨层剪枝

来源：评论

学校读者我要写书评

暂无评论

基于量化卷积神经网络的模型压缩方法研究

基于量化卷积神经网络的模型压缩方法研究

引用

作者：郝立扬电子科技大学

学位级别：硕士

近几年来,深度学习发展非常迅速,在多个领域上深度神经网络具有最优的模型表现,然而模型复杂度越来越高,模型参数量越来越大并且训练需要大量数据支撑;由于结构特点,模型常具有大量冗余参数并且计算资源需求高昂,进一步阻碍了移动端部... 详细信息

近几年来,深度学习发展非常迅速,在多个领域上深度神经网络具有最优的模型表现,然而模型复杂度越来越高,模型参数量越来越大并且训练需要大量数据支撑;由于结构特点,模型常具有大量冗余参数并且计算资源需求高昂,进一步阻碍了移动端部署和推理,目前可以通过模型压缩手段,例如模型量化来减少信息冗余和模型复杂度。模型降低了复杂度除了性能具有部分优化且势必会带来精度损失,而压缩过程中如何尽可能弥补模型精度损失是一个非常关键的问题。本文针对卷积神经网络使用模型量化以及多种模型压缩手段和问题开展研究,主要工作内容和贡献如下:针对模型参数存在信息冗余以及直接模型量化较高精度损失等问题,本文提出了一种基于知识蒸馏的渐进式量化过程优化方法,该方法将全精度卷积神经网络作为教师网络,量化卷积神经网络作为学生网络,使用知识蒸馏的思想,通过相对熵或者特征图转移方法进行教师-学生的引导训练过程,并且使用了渐进式思想从模型渐进量化,量化等级渐进,组件渐进量化等多个方面进行网络渐进量化过程,并且通过多方位多角度的分析和实验结果,可以看出提出方法和其他方法相比有效地保留原始压缩模型性能的同时减少量化模型精度损失,为后续模型量化的优化方式提供了研究方案。针对结构带来信息冗余,模型参数量较大,紧凑模型量化精度损失较高等问题,本文提出了一种基于低秩分解的渐进量化优化方法,该方法对原始卷积层引入矩阵分解进行拆分为多个量化卷积层,并且使用张量分解思想张量化全连接层来在维持紧凑网络结构冗余减少参数量的同时平衡网络模型的精度损失提升模型推理速度,且网络某些超参数例如秩的选择无需精细调整。此外为了低秩分解理论可以快速结合应用于深度学习领域,设计开发了低秩分解工具包包含低秩分解所需的基本数学操作以及多种低秩分解算法等,工具包高度模块化可以内嵌于深度学习开发框架中并且进行了试验测试和分析。最后对提出方法在多个数据集上进行实验,均取得了较好的实验结果,并且和先进方法进行对比可以看到提出方法具有的优势,同时也为紧凑网络结构进一步进行压缩提供了研究思路。

关键词：模型压缩模型量化知识蒸馏低秩分解卷积神经网络

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的目标检测模型压缩技术研究

基于深度学习的目标检测模型压缩技术研究

引用

作者：李响上海交通大学

学位级别：硕士

得益于硬件计算能力的提升,深度神经网络越来越广泛地应用于计算机视觉任务中。为了提取更多的特征,提高网络的鲁棒性,神经网络呈现出层数越来越深,参数量越来越大的特点。桌面级GPU如NVIDIA 1080Ti完全可以训练和部署大型网络。但是移... 详细信息

得益于硬件计算能力的提升,深度神经网络越来越广泛地应用于计算机视觉任务中。为了提取更多的特征,提高网络的鲁棒性,神经网络呈现出层数越来越深,参数量越来越大的特点。桌面级GPU如NVIDIA 1080Ti完全可以训练和部署大型网络。但是移动设备如智能手机、无人机有着算力弱、带宽小、存储空间少的特点,使得大型的深度学习模型在其上部署面临很大挑战。因此将模型压缩后使其在资源受限的硬件平台上有效部署成为了学术界一个重要的研究方向。然而,大多数的模型压缩方法只针对图像分类模型,在目标检测等任务中的效果仍有待进一步研究。本文研究的重点便是高效的目标检测模型压缩方法。文章首先介绍了深度学习模型设计的发展趋势和常用的模型压缩方法,针对常用的目标检测模型YOLO,提出了一种基于LASSO回归的压缩方法,效果好于人工调参的模型压缩方法。针对嵌入式平台NVIDIA Jetson TX2,本文设计了一种基于深度可分离卷积和特征图融合的轻量级目标检测模型,并用提出的剪枝方法进一步压缩该模型,得到的模型大小只有6.8MB。在TX2平台上对1080P分辨率的视频做目标检测,该模型的运行速度达到了18FPS,可以应用到一些嵌入式目标检测应用中。对手机端表格文本识别任务,本文首先分析了限制PSENet检测速度的瓶颈,将标准卷积替换为空洞卷积来增大感受野,并用深度可分离卷积和分组卷积减少参数量。为了提升检测效果,在特征网络中引入了金字塔池化模块和特征金子塔。结合任务复杂性,对后处理算法提出优化。最后将模型转换成MNN格式并做INT8量化后有效部署在手机上,实现了快速的文本检测。

关键词：深度学习目标检测模型压缩

来源：评论

学校读者我要写书评

暂无评论

基于深度学习模型压缩的水下鱼类识别系统

基于深度学习模型压缩的水下鱼类识别系统

引用

作者：姚文龙中国海洋大学

学位级别：硕士

近年来各大渔场顺应科技时代发展的潮流，争相朝着智能化、信息化的方向迈进。在这样的背景下，为了方便智能化养殖和捕捞水产品，一种能够智能识别水下鱼类种类并且体积较小可以加载到水下机器人系统上的应用软件就成为了智能渔业亟需... 详细信息

近年来各大渔场顺应科技时代发展的潮流，争相朝着智能化、信息化的方向迈进。在这样的背景下，为了方便智能化养殖和捕捞水产品，一种能够智能识别水下鱼类种类并且体积较小可以加载到水下机器人系统上的应用软件就成为了智能渔业亟需的产品。为了满足这一需求，本文搭建了一个能够适应水下高模糊、高噪声、低分辨等恶劣条件，且能较好地识别水下视频中的动态鱼类的小型水下鱼类识别系统。本文搭建的水下鱼类识别系统的优势在于，冗余参数较少从而可以占用更少的计算资源，并且其较高的准确率可以满足渔业生产所需。　　针对深度卷积神经网络体积过大的问题，本文提出了新的模型压缩方法。该方法将图像注意力机制和知识蒸馏算法结合起来，构建一大一小两个深度学习网络，以参数多、表现好的网络作为教师网络，并将教师网络的通道注意力和空间注意力作为“暗知识”迁移到学生网络中，以此来指导参数少、表现较差的学生网络的训练，提升学生网络识别准确率。在学生网络训练结束后，本文运用传统的模型剪枝算法对训练得到的学生网络作进一步剪枝压缩。通过在公共的图片数据集上与传统算法进行对比，证明了本文提出的压缩算法可以做到在压缩模型体积的基础上较大限度地保证模型的识别准确率。　　在此基础上，从工程角度进行分析，本文针对水下鱼类数据集图片不足的问题，对鱼类数据集做了增扩操作。针对水下图片模糊的问题，本文采用直方图均衡化和白化的方法对图片进行了增强处理。针对水下图像分辨率较低的问题，本文对图片做了超分辨处理，增强了图片的分辨率。为了完成动态识别任务，本文采用ViBe算法对视频做动态监测，框选出每一帧图像中的鱼类。本文搭建的水下鱼类识别系统在实际海况下采集到的水下鱼类图片数据集上进行了实验。实验结果证明本文采用的方法对水下鱼类图片的识别准确率提升是有效的。

关键词：水下鱼类识别深度学习模型压缩注意力机制知识蒸馏算法

来源：评论

学校读者我要写书评

暂无评论

基于信息度量的模型压缩及实现

基于信息度量的模型压缩及实现

引用

作者：邵林松中国科学院大学(中国科学院光电技术研究所)

学位级别：硕士

目前,深度卷积神经网络已成为人工智能应用领域的主流算法,但其计算量巨大,边缘设备的处理能力难以满足算法实时性要求,不利于算法的实际工程应用。常通过提高算法效率来解决手机、机器人等边缘设备难以部署的问题,而模型压缩作为提高... 详细信息

目前,深度卷积神经网络已成为人工智能应用领域的主流算法,但其计算量巨大,边缘设备的处理能力难以满足算法实时性要求,不利于算法的实际工程应用。常通过提高算法效率来解决手机、机器人等边缘设备难以部署的问题,而模型压缩作为提高算法效率的手段之一,能有效地减少模型冗余,使其与完整模型相比具有相当甚至更好的性能,从而使压缩后的模型可以轻松地在资源有限的设备上运行。因此,模型压缩已成为当今热门课题之一。剪枝是目前实际应用最多的模型压缩方法之一,其优势如下:1)剪枝模型是结构化的,也称为结构化剪枝,可很好地被常规硬件和现成的基本线性代数子程序库(BLAS)支持。2)在线推理阶段,大大减少了存储量和计算量。3)可与其他压缩方法相结合,例如网络量化、低秩分解和权重剪枝,可实现更深入的压缩和更快的推理速度。虽然许多剪枝工作取得了一定效果,但在剪枝算法中仍然存在两个基本问题:(1)剪枝后的网络结构与每层剪枝率有关,不同层存在不同的剪枝率,对最终网络模型性能的影响显著,如何确定每层的剪枝率目前还没有确定性的算法。(2)过滤器重要性度量决定了预训练模型中过滤器的保留和继承,不同过滤器的权重初始化剪枝后的网络呈现出不同的性能效果,目前对如何确定过滤器重要性还没有深入研究。针对如上问题,本文重点研究了用于图像分类的过滤器剪枝并将其应用于实际目标检测任务,主要研究工作分为以下三个部分:1、提出了一种基于特征图信息度量的剪枝方法,以及在此基础上衍生的并行剪枝方法。基于特征图信息度量的剪枝方法是通过探索特征图中的信息来反映出相应过滤器的重要性。在特征信息越丰富,特征图所对应的过滤器越重要的前提下,利用特征图的信息熵来度量其特征信息,熵越小说明特征图包含的信息越丰富,以此评估当前对应过滤器的重要性。并且利用正则化来实现跨层比较,使得网络能够进行一次性剪枝。并行剪枝算法是一种结合了多种剪枝方法优点形成的剪枝算法,使网络在参数量和计算量方面优于单一剪枝方法。实验结果显示:运用基于特征图信息度量的剪枝方法,在Image Net上,Res Net50减少55.3%的参数和55%的FLOPs,精度仅损失4.13%。在CIFAR10上,Dense Net40剪掉64.2%的参数和61.8%的FLOPs,精度仅损失0.22%,而并行剪枝方法使Dense Net40的参数和FLOPs分别剪掉65.1%和65.5%,精度损失仅0.51%。2、提出了一种基于过滤器相似性的剪枝方法。将过滤器作为研究对象,以相似性作为评估依据来反映过滤器之间是否能相互替代。相似性越高,表示过滤器就能由其他过滤器替代的可能性越高,并将其视为冗余过滤器进行裁剪。该剪枝方法主要步骤为:首先,使用常见的剪枝重要性评估方法L1范数选出目标过滤器。然后,利用欧式距离来度量过滤器之间的相似性关系。与目标过滤器相似性越高的过滤器,认为能够被目标过滤器替代,从而将其剪掉。在CIFAR10数据集上,该算法使得Res Net56的参数量和计算量为0.53M和79.34M,精度仅下降1.28%。并将其成功应用于人脸检测识别任务,证明该算法具有一定的有效性。3、开展了剪枝算法实时部署技术研究,将三种剪枝方法分别应用于单阶段YOLO系列目标检测网络和双阶段Faster R-CNN目标检测网络等实际任务中。其中在VOC数据集上,并行剪枝方法剪枝率为70%时,剪枝后的YOLOv3网络仅比原始网络的精度下降0.067,检测速度达到25FPS,比剪枝前提高了14FPS。对于YOLOv4和Faster R-CNN网络,也能在精度损失不大的情况下完成网络加速推理。针对自建无人机数据集,采用YOLOv3网络实现目标实时检测,并部署在TX2硬件平台上,结合Tensor RT工具,速度达到24FPS。实验结果证实了本文提出的剪枝方法能够成功应用在实际嵌入式平台上具有一定的有效性和实用性。

关键词：模型压缩过滤器剪枝部署目标检测 TX2

来源：评论

学校读者我要写书评

暂无评论

深度学习模型压缩算法研究及其在目标检测的应用

深度学习模型压缩算法研究及其在目标检测的应用

引用

作者：苑怡璇中国石油大学(北京)

学位级别：硕士

人工智能的日渐发展无论在经济领域还是社会生活方面都展现了很大的应用价值。基于深度学习的目标检测算法之所以能够取得卓越的表现效果,是因为采用的深度卷积网络模型,得益于它大量的网络参数以及复杂的网络结构。但由此也带来了两方... 详细信息

人工智能的日渐发展无论在经济领域还是社会生活方面都展现了很大的应用价值。基于深度学习的目标检测算法之所以能够取得卓越的表现效果,是因为采用的深度卷积网络模型,得益于它大量的网络参数以及复杂的网络结构。但由此也带来了两方面的问题,一是运算量巨大,造成模型推理速度的降低,较难满足目标检测任务的实时和落地需求;二是大量的网络参数导致模型大小突增,导致需要更大的空间进行模型存储。而这些问题恰恰使得目标检测模型在一些存储、运算等资源有限的环境或者设备中的部署运行变得较难实现。因此如何在模型推理速度提升并且准确度可以接受的前提下,对目标检测网络模型进行参数、模型精简,这一问题具有很大的研究意义。本文首先深入分析了一阶段目标检测算法,分析基于不同骨干网络的YOLOv3的模型特点,选取模型研究对象。结合相关文献提出适合目标检测模型YOLOv3的模型压缩算法组合策略,并针对当前实时任务的落地需求,完成基于Jetson TX2的嵌入式平台设备的模型部署、测试与验证。实验结果表明使用本文的压缩方法得到的模型可以在嵌入式平台实现3.9倍的推理加速和4.19倍的体积压缩,并且还有1.1%的精度提升。

关键词：深度卷积神经网络模型压缩目标检测

来源：评论

学校读者我要写书评

暂无评论

卷积神经网络模型压缩方法研究与优化

卷积神经网络模型压缩方法研究与优化

引用

作者：张琦东北电力大学

学位级别：硕士

随着卷积神经网络在各个领域的广泛使用,参数总量在成倍增长,随之而来的是存储成本的高度消耗、计算成本的庞大增加,严重影响网络在嵌入式及移动设备上的进一步使用和部署。因此,针对卷积神经网络压缩问题进行研究,主要内容如下:(1)创... 详细信息

随着卷积神经网络在各个领域的广泛使用,参数总量在成倍增长,随之而来的是存储成本的高度消耗、计算成本的庞大增加,严重影响网络在嵌入式及移动设备上的进一步使用和部署。因此,针对卷积神经网络压缩问题进行研究,主要内容如下:(1)创新定义“边缘点”概念,提出一种基于网络剪枝和权值量化的卷积神经网络压缩方法,使用Caffe深度学习框架,以Le Net网络模型在MNIST数据集上进行实验,测试了方法对Le Net网络中Conv1层和Conv2层的压缩效果。实验结果表明:单独压缩Conv1层,内存由1.95KB压缩至0.069KB,压缩28倍左右;单独压缩Conv2层,内存由97.66KB压缩至3.06KB,压缩32倍左右;同时压缩Conv1层和Conv2层,内存由99.61KB压缩至3.13KB,压缩32倍左右。模型精度基本保持不变。(2)在网络剪枝和权值量化基础上,引入哈夫曼编码技术,对提出的卷积神经网络压缩方法进行改进,通过降低非零权重索引存储空间,进一步提升压缩效果。使用Caffe深度学习框架,以Caffe框架自带的CIFAR-10网络模型在CIFAR-10数据集上进行实验,测试了方法对CIFAR-10网络中Conv1层和Conv2层的压缩效果。实验结果表明:单独压缩Conv1层,权重索引比特位从3Bit压缩至2.72Bit,内存在由9.3KB压缩至0.507KB的基础上,进一步压缩至0.481KB,压缩效果由18.3倍提高至19.3倍;单独压缩Conv2层,权重索引比特位从4Bit压缩至3.16Bit,内存在由100KB压缩至3.85KB的基础上,进一步压缩至3.66KB,压缩效果由26倍提高至27.3倍;同时压缩Conv1层和Conv2层,内存在由109.38KB压缩至4.35KB的基础上,进一步压缩至4.17KB,压缩效果由25.1倍提高至26.2倍。模型精度基本保持不变。综上所述,为减少网络参数量和提高网络计算效率,提出了卷积神经网络压缩方法,并进行了实验论证及结果分析。结果表明,所提出的方法适用于至少两种不同的卷积神经网络模型,具有一定可行性和有效性。

关键词：卷积神经网络模型压缩网络剪枝权值量化哈夫曼编码

来源：评论

学校读者我要写书评

暂无评论

没有更多数据了...

全选清除本页清除全部题录导出标记到“检索档案”

共205页 << < 6 7 8 9 10 11 12 13 14 15 > >>

检索报告对象比较合并检索0

隐藏清空

合并搜索

回到顶部

执行限定条件

内容：

评分：

请选择保存的检索档案：

请选择收藏分类：

订阅名称：

通借通还

温馨提示：

图书名称：

借书校区：

取书校区：

手机号码：

邮箱地址：

一卡通帐号：

电话和邮箱必须正确填写，我们会与您联系确认。

联系人：

所在院系：

联系邮箱：

联系电话：

内蒙古自治区呼和浩特市赛罕区大学西街235号邮编: 010021

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：