检索结果-内蒙古大学图书馆

作者：唐忆滨中国科学院大学

学位级别：博士

近年来，深度神经网络应用成为人工智能领域甚至是计算机领域的研究热点。随着应用场景的拓展和模型规模的扩大，对支持深度神经网络应用的计算平台提出了更高的要求。本文关注在云计算场景下深度学习计算平台的性能优化问题。尤其是由... 详细信息

近年来，深度神经网络应用成为人工智能领域甚至是计算机领域的研究热点。随着应用场景的拓展和模型规模的扩大，对支持深度神经网络应用的计算平台提出了更高的要求。本文关注在云计算场景下深度学习计算平台的性能优化问题。尤其是由边缘侧嵌入式平台发起的实时性深度学习应用，通常会消耗大量的计算资源，并且该算力需求与平台自身的能耗和资源限制严重冲突，难以达到用户对吞吐率方面的质量要求。针对深度神经网络应用模型的性能优化和针对处理器平台的结构优化是两类主要的深度学习计算平台的优化方法。深度神经网络应用模型的性能优化能够对深度神经网络结构直接进行高效地精度/性能折衷，但需要分析其在具体硬件平台上执行应用的优化效果。针对处理器平台的结构优化可根据深度学习应用的特点设计高性能的硬件加速器，然而会带来较高的实现成本，且降低了计算平台的通用性。　　本文针对多场景下不同计算平台上的深度学习应用，研究了性能优化和实时性任务调度方法，取得了以下创新性研究成果:　　1.针对嵌入式平台，提出了一种基于多分支深度神经网络结构的性能优化及其动态调度方法，通过灵活指定深度神经网络应用的执行路径，响应不同用户对应用延时和精度的不同需求，　　嵌入式平台相比高性能计算机在性能和能耗上有一定的限制，难以直接用来处理深度神经网络应用。本方法是一种新的深度神经网络应用优化调度方法:1）在深度神经网络结构方面，结合了其特征提取与资源消耗特点，以及具体执行模型的嵌入式平台，给出了多分支网络结构的自动化生成方法;2）在嵌入式系统的优化方面，基于其性能模型提出了深度学习应用的动态调度方法，并在此基础上利用多任务场景下计算资源争用性能模型，指导设计了并发任务条件下的动态调度方法。实验数据表明，相比于直接处理原始深度神经网络结构的方法，本方法拥有更高的灵活性，能够响应用户更加苛刻的执行条件约束。在多任务场景下，当指定的精度要求不低于70％时，本方法执行一次深度神经网络应用的推理性能相比于现有一些静态调度的提前退出方案平均提升了33.5％。　　2.针对云端高性能服务器，提出了一种基于近似计算和并行处理的存内计算结构优化方法，提高了处理各种复杂应用，包括深度神经网络应用的性能。　　云端需要处理的各种复杂计算任务都存在大量的访存需求，而深度神经网络应用对于访存带宽的需求更加旺盛。传统结构中存储墙问题的存在导致高性能服务器在处理这些应用时效率不高。本文通过利用现有量产的3D堆叠DRAM存储器作为硬件平台，设计了存内计算结构，通过引入近似计算方法和并行处理方法进一步提高了系统的整体处理效率。实验数据表明，与传统体系结构相比，不用引入任何性能优化技巧，该存内计算结构直接处理云端访存密集型通用计算指令时就能够实现45％以上的性能加速;而即使像简单机器学习应用和深度神经网络应用这样涉及到大量复杂运算、对于存内计算系统而言有一定算力压力的计算任务，也能够通过各种性能优化手段实现15X以上的性能提升。　　3.针对云计算场景下的实时性深度学习应用，提出了一种云端与边缘协同的任务调度方法，有效提高了应用的吞吐率与边缘设备的能效。　　近年来，云计算场景下实时性深度学习应用的处理遇到了前所未有的挑战。一方面，边缘设备上的算力难以满足深度学习应用的处理需求;同时，深度学习应用的不断普遍化，造成了云端高性能服务器需要服务的深度学习应用爆炸式增长。本方法定义了边缘设备的有效能效，以边缘设备有效能效最大化和云端机时占用率最低化为目标，将调度问题分解为多目标优化问题，采用启发式动态调度方法，在各平台性能模型的引导和总体调度逻辑的指挥下，实现对计算任务的动态分配。实验数据表明，本方法可以将任务占用的云端机时减少为原来的50％以下，对于应用发起者而言，系统处理应用的吞吐率提升了35％以上，同时边缘设备的有效能效也比现有方案平均提升了22倍以上。

关键词：深度学习计算平台性能优化任务调度云计算

来源：评论

学校读者我要写书评

暂无评论

面向3D生成对抗网络的频域加速器设计

引用

计算机辅助设计与图形学学报 2023年第6期35卷 953-960页

作者：江卓燊刘博生唐忆滨武继刚广东工业大学计算机学院广州510006 中国科学院计算技术研究所计算机体系结构国家重点实验室北京100190 武汉数字工程研究所武汉430074

三维生成对抗网络(3D generative adversarial networks,3D GANs)广泛应用于模型预测、对象生成等领域.针对当前3D GANs加速器存在计算开销高、访存能耗高等问题,提出一种基于快速傅里叶变换(FFTs)的3D GANs频域加速器设计(FAG).首先针... 详细信息

三维生成对抗网络(3D generative adversarial networks,3D GANs)广泛应用于模型预测、对象生成等领域.针对当前3D GANs加速器存在计算开销高、访存能耗高等问题,提出一种基于快速傅里叶变换(FFTs)的3D GANs频域加速器设计(FAG).首先针对3D GANs加速器计算开销高的问题,提出支持频域3D GANs计算的硬件架构,利用频域低计算复杂度特性和频域反卷积中的零值模式以减少计算开销;其次针对3D GANs加速器访存能耗高的问题,提出支持3D卷积和反卷积计算的频域映射调度流,利用频域共轭对称特性和反卷积中的零值模式减少访存开销.基于ModelNet数据集和3个3D GANs模型(3DGAN,3D-IWGAN和3D-PhysNet)的评估结果表明,与具有代表性的频域加速器相比,FAG可使性能提高76%,能效提高141%;与具有代表性的空间域加速器相比,FAG的性能提高6倍,能效提高46倍.

关键词：频域加速器 3D GANs 反卷积数据重用调度流

来源：评论

学校读者我要写书评

暂无评论

基于混合存储结构的分级协同节能方案

引用

计算机科学与探索 2024年第10期18卷 2690-2703页

作者：李大平史庆宇唐忆滨胡哲琨高毅武汉数字工程研究所武汉430000 湖南工商大学计算机学院长沙410205 湘江实验室长沙410083

新能源的应用已成为一种趋势,但具体到存储I/O领域,存储设备通常会根据存储负载的强度进行节点调度,而不规则波动的新能源和存储负载之间存在波峰波谷错位匹配的问题,增加了存储设备的调度难度。提出了一种针对NVM-SSD混合存储介质的分... 详细信息

新能源的应用已成为一种趋势,但具体到存储I/O领域,存储设备通常会根据存储负载的强度进行节点调度,而不规则波动的新能源和存储负载之间存在波峰波谷错位匹配的问题,增加了存储设备的调度难度。提出了一种针对NVM-SSD混合存储介质的分级协同节能方案MixSave,为每一层提供定制化节能方案并且协同调度,提升了新能源能效比。基于NVM和SSD存储介质的性能与能耗特点,MixSave采用NVMSSD的高性价比分级存储架构,为用户提供高性能、大容量存储服务,并且通过副本保证数据可靠性。NVM作为缓存层采用负载驱动型方案,以保证性能为优先目标,即根据负载变化动态调整高功耗状态的NVM设备数量,满足负载需求;SSD作为数据层采用新能源驱动型节能方案,以提升新能源利用率为目标,根据新能源的变化动态调整SSD启用数量,进行缓存数据同步与预取。测试表明,与未采取节能措施的标准方案相比,MixSave性能下降不超过4%,在轻负载模式下,MixSave可节省73%~80%的传统能源,在重负载模式下,可节省55%~61%的传统能源。

关键词：存储系统分级存储非易失性存储存储节能新能源

来源：评论

学校读者我要写书评

暂无评论

舰载神经网络算法处理拓扑生成、动态维护方法和设备

舰载神经网络算法处理拓扑生成、动态维护方法和设备

引用

作者：唐忆滨何鹏元胡哲琨高毅 430074 湖北省武汉市东湖新技术开发区凤凰产业园藏龙北路1号

本发明公开了舰载神经网络算法处理拓扑生成、动态维护方法和设备，属于智能计算领域。包括：舰载异构智能计算集群开机后，将各物理节点计算资源按照类型进行虚拟化，得到多个虚拟计算节点；针对所有虚拟计算节点，将具有相同类型不同... 详细信息

标准号: CN117787363A

本发明公开了舰载神经网络算法处理拓扑生成、动态维护方法和设备，属于智能计算领域。包括：舰载异构智能计算集群开机后，将各物理节点计算资源按照类型进行虚拟化，得到多个虚拟计算节点；针对所有虚拟计算节点，将具有相同类型不同型号的虚拟计算节点汇入同一个一级资源池，将类型相同的一级资源池合并成一个二级资源池，所有二级资源池合并成可用资源池；舰载神经网络处理任务到达后，从可用资源池中选出多个虚拟计算节点生成处理拓扑，用于执行该任务。本发明依托混合调度策略实现神经网络算法的高效执行；同时，通过可动态重组的计算资源组织拓扑，实现神经网络算法的任务/资源感知条件下的高可靠处理。

关键词：虚拟计算节点神经网络算法二级资源计算资源可用资源智能计算资源池拓扑混合调度策略神经网络处理方法和设备动态维护动态重组感知条件生成处理拓扑生成物理节点合并高可靠虚拟化集群异构开机

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：