面向边缘智能的大模型研究进展

作     者：王睿 张留洋 高志涌 姜彤雲 

作者机构：北京科技大学计算机与通信工程学院 

出 版 物：《计算机研究与发展》 (Journal of Computer Research and Development)

年 卷 期：2025年

核心收录：

学科分类：12[管理学] 1201[管理学-管理科学与工程(可授管理学、工学学位)] 081104[工学-模式识别与智能系统] 08[工学] 0835[工学-软件工程] 0811[工学-控制科学与工程] 0812[工学-计算机科学与技术（可授工学、理学学位）] 

主　　题：边缘智能 大模型 大模型联邦微调 边缘高效推理 

摘      要：随着大模型技术的迅猛发展，大模型在自然语言处理和计算机视觉等领域表现出卓越的性能，成为解决复杂问题的重要工具，并在科研和产业界引发了广泛关注.然而，当前基于云平台的大模型训练和推理方案面临诸多挑战，包括高昂的成本、有限的可扩展性和信息安全风险等.随着模型参数规模的不断扩大，对于低成本、高效训练和推理的需求愈发迫切.在端边侧进行大模型的协同训练和推理，可以显著降低延迟和带宽需求，同时增强数据隐私和操作效率，为大模型在多样化场景中的低成本应用提供关键技术支持，成为当前研究的热点之一.全面调研了面向边缘智能的大模型相关研究，主要从大模型边缘训练和推理2个角度对当前相关研究进行了深入分析和讨论.最后，提出了面向边缘智能的大模型技术发展所面临的挑战和未来展望.希望能促进学术界和产业界对面向边缘智能的大模型技术有更深入了解和关注，并能够启发更多的学者开展深入研究．