版权所有:内蒙古大学图书馆 技术提供:维普资讯• 智图
内蒙古自治区呼和浩特市赛罕区大学西街235号 邮编: 010021
专利申请号:CN202211546683.1
公 开 号:CN116017507B
发 明 人:石远明
代 理 人:上海申汇专利代理有限公司翁若莹;柏子雵
代理机构:上海申汇专利代理有限公司
专利类型:发明专利
申 请 日:20230919
公 开 日:20221205
专利主分类号:H04W24/02
关 键 词:二阶 通信开销 训练过程 中心化 估计值更新 邻居设备 模型更新 曲率信息 损失函数 通信过程 通信轮数 通信效率 信息混合 优化算法 初始化 聚合 收敛 学习 更新 优化
摘 要:本发明涉及一种基于无线空中计算和二阶优化的去中心化联邦学习方法,其特征在于,包括以下步骤:初始化;信息混合;估计值更新;本地更新。为了设计高通信效率的去中心化联邦学习方法,本发明决定采用二阶优化算法来实现训练过程中的模型更新,通过利用损失函数中的二阶曲率信息来达到较快的收敛速度,从而使整个训练过程中的通信轮数大大减少。同时,为了进一步减少每轮通信过程中的通信开销,本发明决定结合空中计算技术来实现邻居设备上本地模型的快速聚合,从而大大减少这一过程的通信开销。