面向CPU-GPU异构片上系统的深度学习神经网络功耗优化调度方法

专利申请号：CN202410035067.2

公 开 号：CN117851061A

发 明 人：韦志辉 黄祉峄 吴泽彬 徐洋 周俊龙 孙晋 张毅 

代 理 人：陈鹏

代理机构：南京理工大学专利中心

专利类型：发明专利

申 请 日：20240409

公 开 日：20240109

专利主分类号：G06F9/50

关 键 词：异构 学习神经网络 神经网络 边缘设备 片上系统 运行模式 动态电压调整 片上系统设备 优化调度算法 低电量状态 启发式算法 实时性要求 电池供电 电量状态 功耗数据 功耗优化 平台测试 续航 启发式 实时性 网络层 功耗 感知 电量 能耗 切割 迁移 调度 保存 网络 

摘      要：本发明公开了一种面向CPU‑GPU异构片上系统的深度学习神经网络功耗优化调度方法，包括：修改神经网络的实现代码以拆分神经网络，允许定义神经网络的运行模式，选择每一层网络是在CPU上运行还是在GPU上运行，在相应的CPU‑GPU异构片上系统平台测试所有可能的运行模式的时间和功耗数据，并保存；针对电池供电的CPU‑GPU异构片上系统设备，设计电量感知的深度学习神经网络功耗元启发式优化调度算法，根据电量状态并结合任务的实时性要求，使用元启发式算法寻找最适合当前状态的切割方式。本发明能够权衡深度学习神经网络在CPU‑GPU异构边缘设备上运行的实时性和能耗，通过在低电量状态下采用网络层迁移技术和动态电压调整技术，提高异构边缘设备运行深度学习神经网络的续航时间。