中国国家网格(China National Grid,CNGrid)是聚合了高性能计算和事务处理能力的新一代信息基础设施的试验床。中国国家网格武汉结点高性能集群系统采用支持资源预留的开源集群管理器OAR,为用户提供具有服务质量保障的高性能计算服务。G...
详细信息
中国国家网格(China National Grid,CNGrid)是聚合了高性能计算和事务处理能力的新一代信息基础设施的试验床。中国国家网格武汉结点高性能集群系统采用支持资源预留的开源集群管理器OAR,为用户提供具有服务质量保障的高性能计算服务。GOS(Grid Operating System)是CNGrid网格中间件,CNGrideye是CNGrid监控系统。设计了CNGrideye/OAR监控桥接和GOS-HPCG/OAR作业管理桥接机制,使得CNGrideye支持对OAR的监控,GOSHPCG能通过OAR提交作业,充分利用OAR的资源预留等特性。GOS-HPCG/OAR进行基于QoS的作业调度,提高了作业的运行效率和资源的服务性能,达到整合资源的目的。
联邦学习(federated learning,FL)是一种以保护客户隐私数据为中心的分布式处理网络,为解决隐私泄露问题提供了前景良好的解决方案.然而,FL的一个主要困境是高度非独立同分布(non-independent and identically distributed,non-IID)的...
详细信息
联邦学习(federated learning,FL)是一种以保护客户隐私数据为中心的分布式处理网络,为解决隐私泄露问题提供了前景良好的解决方案.然而,FL的一个主要困境是高度非独立同分布(non-independent and identically distributed,non-IID)的数据会导致全局模型性能很差.尽管相关研究已经探讨了这个问题,但本文发现当面对non-IID数据、不稳定的客户端参与以及深度模型时,现有方案和标准基线FedAvg相比,只有微弱的优势或甚至更差,因此严重阻碍了FL的隐私保护应用价值.为解决这个问题,本文提出了一种对non-IID数据鲁棒的优化方案:FedUp.该方案在保留FL隐私保护特点的前提下,进一步提升了全局模型的泛化鲁棒性.FedUp的核心思路是最小化全局经验损失函数的上限来保证模型具有低的泛化误差.大量仿真实验表明,FedUp显著优于现有方案,并对高度non-IID数据以及不稳定和大规模客户端的参与具有鲁棒性.
暂无评论