近年来，大语言模型（large language model，LLM）作为深度学习网络技术的关键分支，在自然语言处理（natural language processing，NLP）领域取得了一系列突破性成就，并被广泛采用.然而，在其包括预训练、微调和实际部署在内的完整...
详细信息
近年来，大语言模型（large language model，LLM）作为深度学习网络技术的关键分支，在自然语言处理（natural language processing，NLP）领域取得了一系列突破性成就，并被广泛采用.然而，在其包括预训练、微调和实际部署在内的完整生命周期中，多种安全威胁和隐私泄露的风险相继被发现，引起了学术和工业界越来越多的关注.首先以LLM发展过程中出现的预训练-微调范式、预训练-提示学习范式和预训练指令微调范式为线索，梳理了针对LLM的常规安全威胁，即3种对抗攻击（对抗样本攻击、后门攻击、投毒攻击）的代表性研究，接着总结了一些最新工作披露的新型安全威胁，然后介绍了LLM的隐私风险及其研究进展.相关内容有助于LLM的研究和部署者在模型设计、训练及应用过程中，识别、预防和缓解这些威胁与风险，同时实现模型性能与安全及隐私保护之间的平衡.
暂无评论