一种面向多模态深度学习模型的快速协同推断方法

专利申请号：CN202310718827.5

公 开 号：CN116911362A

发 明 人：肖亮 王楚璇 刘钰 吕泽芳 

代 理 人：马应森

代理机构：厦门南强之路专利事务所(普通合伙)

专利类型：发明专利

申 请 日：20231020

公 开 日：20230616

专利主分类号：G06N3/0495

关 键 词：多模态 推断 学习 协同 强化学习算法 计算密集型 计算密集性 特征编码器 边缘网络 动态选择 动态优化 服务移动 模型规模 模型推断 无线移动 移动设备 异构特征 编码器 分割点 能效 时延 异构 能耗 延迟 应用 部署 网络 服务 

摘      要：一种面向多模态深度学习模型的快速协同推断方法，涉及多模态深度学习模型。针对现有技术存在的面向计算密集性应用的异构多模态深度学习网络在资源紧缺的移动设备上部署时的高延迟和高能耗等问题，提供一种面向多模态深度学习模型的快速协同推断方法，利用强化学习算法动态优化无线移动边缘网络中多模态深度学习模型服务移动设备的协同推断策略。该策略适应计算密集型多模态深度学习应用具有多个异构特征编码器的特点，能在不显著降低推断质量的前提下，减少基于深度学习的多模态推断服务的时延和总体能耗。动态选择多模态深度学习模型各个特征编码器的分割点和深度学习模型规模，提高多模态深度学习模型推断的速度和能效。