检索结果-内蒙古大学图书馆

电子学报 2022年第10期50卷 2387-2397页

作者：李斌齐延荣周清雷郑州大学计算机与人工智能学院河南郑州450001 郑州大学信息工程学院河南郑州450001

卷积神经网络(Convolutional Neural Networks,CNN)已被广泛应用于图像处理领域.基于CNN的目标检测模型,如YOLO,已被证明在许多应用中是最先进的.CNN对计算能力和内存带宽要求极高,通常需要部署到专用硬件平台,FPGA因其高性能、低功耗... 详细信息

卷积神经网络(Convolutional Neural Networks,CNN)已被广泛应用于图像处理领域.基于CNN的目标检测模型,如YOLO,已被证明在许多应用中是最先进的.CNN对计算能力和内存带宽要求极高,通常需要部署到专用硬件平台,FPGA因其高性能、低功耗和可重配置性成为CNN的有效硬件加速器.以往的基于FPGA的目标检测加速器主要采用传统卷积算法,然而,传统卷积算法的高运算复杂度限制了加速器的性能.基于此,本文设计了一种基于winograd算法的目标检测加速器.考虑到各模块间的联系,采用模块融合策略融合卷积层和池化层模块,降低数据移动次数,减少片外存储器访问次数,提高加速器整体性能.以YOLO2模型为例,对数据访问模式、池化内核、参数重排序、数据通路优化进行分析设计,并部署在U280板卡上.实验结果表明,量化后mAP降低了0.96%,性能达249.65 GOP/s,是Xilinx官网所给数据的4.4倍.

关键词：目标检测 FPGA winograd算法模块融合 YOLO2

来源：评论

学校读者我要写书评

暂无评论

基于FPGA的winograd算法卷积神经网络加速器设计与实现

引用

液晶与显示 2023年第11期38卷 1521-1530页

作者：牛朝旭孙海江中国科学院长春光学精密机械与物理研究所吉林长春130033 中国科学院大学北京100049

为实现卷积神经网络在低功耗、边缘计算等场景中的加速计算,设计了一种基于现场可编程门阵列(FPGA)的winograd算法卷积神经网络加速器。首先,将图像数据和权重数据量化为8位定点数,并设计了硬件卷积计算过程中的量化流程,提升了数据传... 详细信息

为实现卷积神经网络在低功耗、边缘计算等场景中的加速计算,设计了一种基于现场可编程门阵列(FPGA)的winograd算法卷积神经网络加速器。首先,将图像数据和权重数据量化为8位定点数,并设计了硬件卷积计算过程中的量化流程,提升了数据传输速度和计算速度。接着,设计了输入数据缓存复用模块,将多输入通道数据融合后传输,复用了行重叠数据。然后设计了winograd流水线卷积模块,实现列数据的组合复用,从而最大化重用了片上数据,降低了片上数据存储的占用和带宽压力。最后将加速器在Xilinx的ZCU104开发板上部署。经过实验验证,加速器的卷积层计算性能达到354.5 GOPS,片上DSP计算效率达到0.69,与相关研究相比,实现了1.6倍以上的提升。该加速器能够以高能效比完成基于VGG-16网络的遥感图像分类任务。

关键词：卷积神经网络现场可编程门阵列 winograd算法流水线并行计算

来源：评论

学校读者我要写书评

暂无评论

基于二维winograd算法的深流水线5×5卷积方法

引用

计算机应用 2021年第8期41卷 2258-2264页

作者：黄程程董霄霄李钊山东理工大学计算机科学与技术学院山东淄博255049

针对二维winograd卷积算法中存储器带宽需求过高、计算复杂度高、设计探索周期漫长、级联的卷积存在层间计算延迟等问题,提出一种基于二维winograd算法的双缓冲区5×5卷积层设计方法。首先使用列缓冲结构完成数据布局,以重用相邻分... 详细信息

针对二维winograd卷积算法中存储器带宽需求过高、计算复杂度高、设计探索周期漫长、级联的卷积存在层间计算延迟等问题,提出一种基于二维winograd算法的双缓冲区5×5卷积层设计方法。首先使用列缓冲结构完成数据布局,以重用相邻分块之间的重叠数据,降低存储器带宽需求;然后精确搜索并复用winograd算法加法计算过程中重复的中间计算结果,来降低加法运算量,从而减小加速器系统的能耗开销和设计面积;最后根据winograd算法计算过程来完成6级流水线结构的设计,并实现针对5×5卷积的高效率计算。实验结果表明,这种5×5卷积的计算方法在基本不影响卷积神经网络(CNN)预测准确率的前提下,与传统卷积相比降低了83%的乘法运算量,加速倍率为5.82;该方法与级联3×3二维winograd卷积组成5×5卷积的方法相比降低了12%的乘法运算量,降低了约24.2%的存储器带宽需求,并减少了20%的运算时间。

关键词：卷积神经网络现场可编程逻辑门阵列 winograd算法双缓冲区深流水线

来源：评论

学校读者我要写书评

暂无评论

基于winograd算法的高效神经网络加速器及FPGA实现

引用

合肥工业大学学报（自然科学版） 2023年第12期46卷 1659-1665页

作者：王帅帅陈强郭剑博肖昊合肥工业大学微电子学院安徽合肥230601

为了加速卷积神经网络(convolutional neural networks,CNN)的推断过程,文章采用winograd算法,基于现场可编程门阵列(field programmable gate array,FPGA)设计一种高效CNN加速器。为解决winograd算法转置后的数据位宽与数字信号处理单... 详细信息

为了加速卷积神经网络(convolutional neural networks,CNN)的推断过程,文章采用winograd算法,基于现场可编程门阵列(field programmable gate array,FPGA)设计一种高效CNN加速器。为解决winograd算法转置后的数据位宽与数字信号处理单元(digital signal processing,DSP)位宽失配问题,文章提出部分积切割方法,充分利用DSP实现单周期多输出功能;为降低片上内存占用率,设计一种输入特征图可复用的数据流完成片内外数据交互。所设计的加速器在XCKU060板卡上部署,其吞吐率和每个DSP运算效率分别达2.358×10^(12)OPs和1.15×10^(9)OPs。结果表明该文提出的加速方法有效提升CNN加速器运算单元效率。

关键词：卷积神经网络(CNN) winograd算法现场可编程门阵列(FPGA) 处理单元并行架构

来源：评论

学校读者我要写书评

暂无评论

基于winograd算法的神经网络加速器设计

基于Winograd算法的神经网络加速器设计

引用

作者：施立瑞合肥工业大学

学位级别：硕士

近年来,卷积神经网络已被广泛应用于计算机视觉、语音处理等人工智能领域。然而,随着卷积神经网络模型的复杂度不断提高,将其部署到嵌入式硬件平台面临计算量大、耗费硬件资源多、计算时间长等问题。其中,又以卷积运算最为突出,占据了80... 详细信息

近年来,卷积神经网络已被广泛应用于计算机视觉、语音处理等人工智能领域。然而,随着卷积神经网络模型的复杂度不断提高,将其部署到嵌入式硬件平台面临计算量大、耗费硬件资源多、计算时间长等问题。其中,又以卷积运算最为突出,占据了80%以上的计算量和网络运行时间。因此,本文提出了一种基于winograd算法的神经网络加速器,通过winograd算法优化神经网络计算中的核心部分,即卷积计算进行优化。同时,针对winograd算法在CNN应用中存在的问题进行了研究,提出了相应的解决方法,本文工作主要可以概括如下:1、针对winograd算法计算中输入输出变换计算冗余问题,本文提出了一种深流水结构的矩阵变换方法,通过复用加法的中间结果减少变换中的加法计算量。同时,通过调整winograd算法在CNN计算中的计算顺序,将通道累加计算应用在输出变换之前,使得输出变换仅需执行一次即可。与直接winograd计算相比减少了18.75%的输入变换计算量和至少76.19%的输出变换计算量。2、针对在FPGA平台加速CNN计算中的资源利用率低问题,本文设计了一种高效的DSP阵列结构和数据流方式,在单个DSP中通过分时复用方法计算两个卷积核上的卷积计算,大幅提高了DSP的计算效率。同时,通过级联DSP计算通道间累加计算,无需使用额外的逻辑资源,充分利用了DSP内部计算资源。3、本文实现了基于winograd算法的神经网络加速器,相比CPU和GPU平台,本文加速器分别获得了32倍和2.6倍的速度提升;与同类型加速器相比,缩短了至少31.5%的网络运行时间。

关键词：卷积神经网络 CNN加速器 winograd算法 FPGA

来源：评论

学校读者我要写书评

暂无评论

基于winograd算法的卷积神经网络加速器设计

基于Winograd算法的卷积神经网络加速器设计

引用

作者：王帅帅合肥工业大学

学位级别：硕士

基于卷积神经网络的深度学习算法快速发展,提高了工业生产效率,在广泛的应用领域发挥着重要作用。为满足各类应用场景需求,卷积神经网络的规模和数据集容量逐步增加,对硬件平台的计算和存储能力提出更高需求,限制了深度学习算法部署至... 详细信息

基于卷积神经网络的深度学习算法快速发展,提高了工业生产效率,在广泛的应用领域发挥着重要作用。为满足各类应用场景需求,卷积神经网络的规模和数据集容量逐步增加,对硬件平台的计算和存储能力提出更高需求,限制了深度学习算法部署至资源受限的嵌入式设备。winograd算法通过数据域变换使用加法替代乘法,有效减少卷积中乘法次数,缓解了硬件加速平台的计算和存储压力。但初始winograd算法支持卷积类型有限,算法扩展过程中含有的无效运算导致加速器性能降低。而且winograd算法转置过程数据位宽变化,导致计算数据位宽与硬件资源失配,降低资源利用率。针对上述问题,该文采用现场可编程门阵列(FPGA)设计一种高效winograd快速卷积硬件加速器。本文主要工作包括: 1.设计高效winograd快速卷积扩展方法,扩大原始算法应用范围。winograd算法拓展过程中,需将待计算卷积分解为多个与winograd算子适配的部分卷积。传统分解过程使用零填充将分割后的不规则输入转化为与算子匹配的输入形式。本文通过配置一维和二维算子,使分解后的卷积输入适配不同维度算子,降低零填充数量,进而减少了冗余计算。 2.为解决winograd算法转置后的数据位宽与数字信号处理单元输入端位宽失配问题,提出部分积切割方法,充分利用数字信号处理单元实现单周期多输出功能,优化处理单元利用率。同时为降低片上内存占用率,减少数据搬运,采用基于权重的复用模式优化winograd卷积数据流。 3.探索并优化加速器各模块流水线耗时,优化硬件模块间流水线和并行操作,充分利用可编程逻辑器件独立性和高并行特征。所设计的加速器在XCKU060板卡上部署,其吞吐率和运算单元效率分别达2.35TOPs和1.15(GOPs/MUL)。实验结果表明,文章提出的加速方法有效提升了CNN加速器运算单元效率。

关键词： CNN加速器 winograd算法 FPGA

来源：评论

学校读者我要写书评

暂无评论

基于winograd算法的卷积神经网络加速器设计

基于winograd算法的卷积神经网络加速器设计

引用

作者：高钰峰中国科学院大学

学位级别：硕士

随着信息化时代的高速发展，人工智能与机器学习领域的研究炙手可热，相关产业也是蓬勃发展。卷积神经网络在计算机视觉、自动驾驶、机器翻译、语音识别、智能家居等各方面都有着广泛的作用。　　而在卷积神经网络遍及各领域的同时，它... 详细信息

随着信息化时代的高速发展，人工智能与机器学习领域的研究炙手可热，相关产业也是蓬勃发展。卷积神经网络在计算机视觉、自动驾驶、机器翻译、语音识别、智能家居等各方面都有着广泛的作用。　　而在卷积神经网络遍及各领域的同时，它的最主要的缺点就是卷积神经网络参数量大，运算量大。这一特点严重制约了卷积神经网络模型在便携移动终端有限面积和算力下的执行性能，同时非特异性设计的处理器进行卷积神经网络的运算也会进一步造成功耗的巨大开销。　　为了解决这些问题，多种可以在不同程度上降低卷积操作的运算复杂度的快速卷积实现算法被提出。而通过算法层面的分析比较，winograd快速卷积算法能够带来更好的运算加速效果，所需的额外开销也相对较低，是最有价值的卷积加速算法之一。　　同时winograd快速卷积算法在算法层面实现仅能利用部分加速能力，而通过硬件实现才能够得到更好的效果。winograd卷积流程比普通卷积更为复杂，额外的数据切分重构和矩阵乘法（可通过调度变为加法）会增加硬件资源开销，各流程之间严重的数据依赖会很大程度上影响流水线并行设计，权值和神经元的变换操作也会成倍数扩大所需数据吞吐量，运算流程的变化还可能带来网络精度损失，变换矩阵的差异化导致加速器支持的卷积参数的特异化。因此种种，本文在对winograd快速卷积算法进行深入详细的建模分析后，提出了基于winograd快速卷积算法的加速器架构设计方案，对上述困难都提出了有效的方法进行提升，与现有研究相比，能够获得更加优良的加速效果和更加高效的功耗面积比，同时还能够支持任意卷积规模的加速，实现架构上的通用性。　　本文将从算法与硬件设计量化分析展开，挖掘winograd快速卷积算法中的数据复用关系，运算算力需求以及功耗面积设计点，最终得出硬件设计关键参数。然后针对winograd卷积加速器设计了其特有的完备指令集，创新性地完成了winograd卷积加速指令设计。其次，利用从各种设计参数进行了硬件逻辑电路的设计，融入了原地操作、广播路由、ping-pongbuffer，流水线设计等诸多设计理念进行硬件设计优化。最后，贯穿软件调度层面对神经网络加速器的设计进行了相应的软件指令调度方案的实现，从而高效地将待运算网络模型转化为硬件调度指令序列控制加速器运行。　　此外，为了验证本文加速器设计的各项硬件指标，以及网络精度，进行了相关硬件设计的仿真综合与功能验证，同时设计模拟器进行性能评估与分析以及相应的网络实现精度。实验结果表明，在多种网络模型上，本文加速器能够在采样规模的卷积层取得相较于benchmark1.5-2.25倍的理论加速比例。进行算力归一化处理之后，相对于cuDNN优化后的TeslaV100GPU可以实现1.52-3.59x的加速比。同时，还可以实现GPU相比的17.84x的面积缩减以及1.75x的功耗降低。同时网络精度损失不超过1‰，甚至在某些网络模型下能够实现精度的提升。实验结果全面地证明了本文加速器设计的合理性、有效性。

关键词：卷积神经网络 winograd算法卷积拆分算法神经网络加速器

来源：评论

学校读者我要写书评

暂无评论

基于winograd算法的3D卷积神经网络权重剪枝方法

引用

长江信息通信 2024年第8期37卷 1-3,17页

作者：邹贵秦子然吴捷刘国梁赵军王迎雪林晖林巍峣上海交通大学电子信息与电气工程学院上海200240 中国航空无线电电子研究所上海200233 中国电子科技集团有限公司电子科学研究院北京100041

针对3D卷积神经网络在资源有限的环境下高计算成本的挑战,文章提出了一种融合winograd算法和网络剪枝技术的3D卷积神经网络优化方法。首先,将标准3D卷积层替换为效率更高的3D winograd层,实现对卷积操作的优化。接着,对3D winograd层的... 详细信息

针对3D卷积神经网络在资源有限的环境下高计算成本的挑战,文章提出了一种融合winograd算法和网络剪枝技术的3D卷积神经网络优化方法。首先,将标准3D卷积层替换为效率更高的3D winograd层,实现对卷积操作的优化。接着,对3D winograd层的权重进行重要性评估,保留重要的权重单元并剪枝获得稀疏模型。最后,对稀疏模型进行重训练,恢复剪枝后网络的性能。通过结合winograd算法和网络剪枝技术,能够在提高识别准确度的同时,显著降低了模型的计算需求。实验结果证实,与其他优化技术相比,本方法能有效减少计算资源消耗,同时保持甚至提高识别性能。

关键词： 3D卷积神经网络优化 winograd算法网络剪枝

来源：评论

学校读者我要写书评

暂无评论

基于winograd稀疏算法的卷积神经网络加速器设计与研究

引用

计算机工程与科学 2019年第9期41卷 1557-1566页

作者：徐睿马胜郭阳黄友李艺煌国防科技大学计算机学院

随着卷积神经网络得到愈加广泛的应用,针对其复杂运算的定制硬件加速器得到越来越多的重视与研究。但是,目前定制硬件加速器多采用传统的卷积算法,并且缺乏对神经网络稀疏性的支持,从而丧失了进一步改进硬件,提升硬件性能的空间。重新... 详细信息

随着卷积神经网络得到愈加广泛的应用,针对其复杂运算的定制硬件加速器得到越来越多的重视与研究。但是,目前定制硬件加速器多采用传统的卷积算法,并且缺乏对神经网络稀疏性的支持,从而丧失了进一步改进硬件,提升硬件性能的空间。重新设计一款卷积神经网络加速器,该加速器基于winograd稀疏算法,该算法被证明有效降低了卷积神经网络的计算复杂性,并可以很好地适应稀疏神经网络。通过硬件实现该算法,本文的设计可以在减少硬件资源的同时,获得相当大的计算效率。实验表明,相比于传统算法,该加速器设计方案将运算速度提升了近4.15倍;从乘法器利用率的角度出发,相比现有的其他方案,该方案将利用率最多提高了近9倍。

关键词：卷积神经网络加速器 winograd算法稀疏网络

来源：评论

学校读者我要写书评

暂无评论

winograd矩阵乘法算法用于任意阶矩阵时的一种新处理方法

引用

应用数学与计算数学学报 2004年第1期18卷 92-96页

作者：谭福平刘洪刚上海大学理学院数学系上海200436

摘要t矩阵乘法StraSsen算法及其变形winograd算法用分而治之的方法把矩阵乘法时间复杂性由传统的D(n。)改进到0(佗kg。n.但是对于奇数阶矩阵,在划分子矩阵时,要作特殊处理才能继续使用此算法.本文提出了一种非等阶“十”字架划分方法,... 详细信息

摘要t矩阵乘法StraSsen算法及其变形winograd算法用分而治之的方法把矩阵乘法时间复杂性由传统的D(n。)改进到0(佗kg。n.但是对于奇数阶矩阵,在划分子矩阵时,要作特殊处理才能继续使用此算法.本文提出了一种非等阶“十”字架划分方法,可以最少化填零,最大化性能,使得奇数阶矩阵乘法的时间复杂性更加接近偶数阶矩阵乘法的效果.计算实例显示该方法是有效的.

关键词：矩阵乘法 winograd算法 Strassen算法非等阶划分

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：