近年来，大语言模型（large language model，LLM）作为深度学习网络技术的关键分支，在自然语言处理（natural language processing，NLP）领域取得了一系列突破性成就，并被广泛采用.然而，在其包括预训练、微调和实际部署在内的完整...
详细信息
近年来，大语言模型（large language model，LLM）作为深度学习网络技术的关键分支，在自然语言处理（natural language processing，NLP）领域取得了一系列突破性成就，并被广泛采用.然而，在其包括预训练、微调和实际部署在内的完整生命周期中，多种安全威胁和隐私泄露的风险相继被发现，引起了学术和工业界越来越多的关注.首先以LLM发展过程中出现的预训练-微调范式、预训练-提示学习范式和预训练指令微调范式为线索，梳理了针对LLM的常规安全威胁，即3种对抗攻击（对抗样本攻击、后门攻击、投毒攻击）的代表性研究，接着总结了一些最新工作披露的新型安全威胁，然后介绍了LLM的隐私风险及其研究进展.相关内容有助于LLM的研究和部署者在模型设计、训练及应用过程中，识别、预防和缓解这些威胁与风险，同时实现模型性能与安全及隐私保护之间的平衡.
随着车联网、5G和人工智能技术的快速发展,智能交通成为交通技术发展趋势,车联网作为车-车、车-路信息交互平台,是智能交通信息共享和处理的基础。同时车联网安全备受关注,特别是数据安全问题,可能会造成用户隐私泄露。区块链技术的发展成为一种解决途径,但在效率、安全性等方面仍面临新挑战。随着车辆节点、信息增多,如何在车辆高速移动环境中高效完成信息共识也成为问题关键。针对上述问题,提出基于区块链及信任值的自下而上双层RSU(road side unit)链共识协议。对比几种典型的共识结构并依据实际车联网场景、符合速度、容错率以及减少通信量需求,选择自下而上双层共识结构。通过赋予每辆车信任值,并基于节点参与程度、工作完成情况及消息价值度提出组领导节点选举算法,以确保系统安全性。基于上述共识结构与算法工作,完整描述协议具体流程,分为区域划分、组领导节点选取、局部共识、领导主节点选取、全局共识、域内广播6个步骤。从安全性、通信复杂度、共识算法时延、容错率4个方面对实验进行分析。实验证明,与其他方案对比,本协议在可抵抗合谋攻击、女巫攻击等条件下,可以有效降低通信复杂度,缩短共识时延,并在安全前提下提高容错率,使更多节点参与信息共享,满足车联网场景需求。
暂无评论