联邦学习(federated learning,FL)是一种以保护客户隐私数据为中心的分布式处理网络,为解决隐私泄露问题提供了前景良好的解决方案.然而,FL的一个主要困境是高度非独立同分布(non-independent and identically distributed,non-IID)的...
详细信息
联邦学习(federated learning,FL)是一种以保护客户隐私数据为中心的分布式处理网络,为解决隐私泄露问题提供了前景良好的解决方案.然而,FL的一个主要困境是高度非独立同分布(non-independent and identically distributed,non-IID)的数据会导致全局模型性能很差.尽管相关研究已经探讨了这个问题,但本文发现当面对non-IID数据、不稳定的客户端参与以及深度模型时,现有方案和标准基线FedAvg相比,只有微弱的优势或甚至更差,因此严重阻碍了FL的隐私保护应用价值.为解决这个问题,本文提出了一种对non-IID数据鲁棒的优化方案:FedUp.该方案在保留FL隐私保护特点的前提下,进一步提升了全局模型的泛化鲁棒性.FedUp的核心思路是最小化全局经验损失函数的上限来保证模型具有低的泛化误差.大量仿真实验表明,FedUp显著优于现有方案,并对高度non-IID数据以及不稳定和大规模客户端的参与具有鲁棒性.
随着虚拟化技术的成熟,云计算的优势逐渐显露出来,成本的低廉、资源利用率的提高、服务整合的节能以及服务使用的便捷。而获取这些优势的前提是需要一个有针对性的资源管理与应用服务平台,基于此,我们开发了CRANE云计算平台,融合了IaaS(Infrastructure as a Service)及PaaS(Platform as a Service)两个云计算服务层次,提出企业信息化云服务和科学计算云服务这两大类特色PaaS平台。CRANE平台采用虚拟化技术,在底层提供虚拟化资源,向IaaS和PaaS平台提供可定制的虚拟化环境支持。用户既可以利用PaaS平台享用通用的开发环境,又能通过IaaS平台申请所需资源,自主搭建满足自己需求的操作环境。
随着虚拟化技术的成熟,云计算的优势逐渐显露出来,成本的低廉、资源利用率的提高、服务整合的节能以及服务使用的便捷。而获取这些优势的前提是需要一个有针对性的资源管理与应用服务平台,基于此,我们开发了CRANE云计算平台,融合了IaaS(Infrastructure as a Service)及PaaS(Platform as a Service)两个云计算服务层次,提出企业信息化云服务和科学计算云服务这两大类特色PaaS平台。CRANE平台采用虚拟化技术,在底层提供虚拟化资源,向IaaS和PaaS平台提供可定制的虚拟化环境支持。用户既可以利用PaaS平台享用通用的开发环境,又能通过IaaS平台申请所需资源,自主搭建满足自己需求的操作环境。
暂无评论