检索结果-内蒙古大学图书馆

作者：陈珍珠南京理工大学

学位级别：博士

随着互联网通信技术的高速发展，云计算、人工智能、物联网等一批大数据相关技术相继涌现，将人类社会全面推进大数据时代。数据的海量增长和高效传输，使大数据与云计算、深度学习等技术发展相互促进又相互制约。数据量的增加加大了数... 详细信息

随着互联网通信技术的高速发展，云计算、人工智能、物联网等一批大数据相关技术相继涌现，将人类社会全面推进大数据时代。数据的海量增长和高效传输，使大数据与云计算、深度学习等技术发展相互促进又相互制约。数据量的增加加大了数据处理难度和本地计算资源的消耗，借助云计算平台虽然可以解决资源受限问题，但面临数据所有权和控制权的分离问题。学术界普遍认为，在无有效监督的情况下，将数据控制权转移到云计算服务提供商，存在用户数据隐私泄露风险。研究人员发现，数据在本地处理和外包计算过程中都容易受到内部和外部攻击，其隐私性和计算完整性面临威胁。本文以计算安全为主要目标，研究了云环境下的外包计算中数据隐私威胁以及模型安全问题。尽管目前已有针对此类问题的相关研究，但是现有研究仍然存在一些明显不足。具体而言，云计算安全研究中关于大规模矩阵求逆、非负矩阵分解等复杂计算的安全外包仍然缺乏对用户资源受限和数据动态更新的考虑，而且忽略了云计算环境下出现的生成对抗网络（Generative Adversarial Networks，GAN）等新型攻击操纵模型对数据隐私的威胁，以及“升级换代”而能力提升的后门攻击对模型安全的挑战。　　围绕上述问题，本文从安全性和实用性出发，主要研究了外包计算和模型训练云计算服务中的数据隐私和计算安全问题，从外包计算中对数据隐私和计算完整的显性威胁逐步深入解决多用户间攻击和后门植入对数据隐私和模型安全的隐性威胁，并针对典型计算任务设计了相应的外包计算协议和模型安全方案。本文工作的研究成果和创新点描述如下：　　（1）针对外包服务中云服务商对数据隐私和计算完整性的威胁问题，提出了一个适用于大规模矩阵求逆的高效安全外包计算协议。通过矩阵盲化技术加密外包数据和计算结果，防止公共云服务器获取外包数据的隐私信息，利用矩阵性质构建防欺骗的结果验证机制，实现了不可信云计算下的数据机密性和计算完整性保护。与已有的矩阵求逆外包方案相比，该方案免除了原始矩阵必须可逆的前提条件，使用户无需提前检查矩阵可逆性，有效降低了用户的计算开销。理论分析表明，该方案满足正确性和隐私保护性，可以将云服务器欺骗用户的成功率降低到1/2l。实验评估结果表明，该方案中用户端的计算复杂度不超过O(n2)，小于进行本地矩阵求逆的计算复杂度，而且用户端的效率增益随着数据维度增加而变大，方案可以为用户节省大量时间和计算资源。　　（2）针对现有大数据处理的外包方案不支持动态数据处理的问题，提出了一个支持数据动态、保护隐私和可验证的数据降维外包方案。考虑大数据呈现动态更新的现实情况，而传统非负矩阵分解方法处理增量数据需要消耗大量计算和存储资源，该方案利用增量非负矩阵分解算法特性设计了数据更新外包协议，解决了外包计算过程中的动态数据处理问题。此外，利用矩阵盲化技术保护输入和输出数据，避免数据隐私泄露，同时降低了用户计算开销。安全性分析表明，该方案具有数据隐私保护性以及结果可验证性。实验评估表明，该方案中用户端的计算开销远低于本地求解非负矩阵分解问题，可以节省大约 80% 以上的计算开销。与其它非负矩阵分解外包方案相比，该方案在实时数据处理时计算成本更低，更具优越性。　　（3）针对云环境下协作学习中存在恶意用户通过GAN攻击不经意获取其他参与者数据信息的问题，提出了一个支持数据保护的安全协作模型训练方案。针对GAN的建立需要动态的参数更新的特性，通过将参与者与模型参数隔离，并基于安全多方计算的思想设计了计算交互模式实现参与者的本地模型训练，能够有效抵御GAN攻击。此外，针对卷积神经网络中不同层的不同计算类型设计了具体的算法，实现参与者的本地训练和模型更新，适用于不同卷积神经网络模型中的GAN攻击防御。安全性分析表明服务器和参与者之间均无法获取彼此的隐私信息，攻击者无法在本地建立 GAN 实施攻击。仿真实验结果表明，防御方案保持了良好的模型准确性。此外，此方案在防御GAN攻击的同时具有合理的计算效率，易于服务器和参与者的交互实现。　　（4）针对云服务商通过后门攻击破坏深度学习模型完整性的问题，提出了一个防御后门的深度学习模型安全方案。方案通过研究深度神经网络中后门攻击的攻击原理，分析后门与触发器之间的连接特性，设计了一个神经元一致性检查机制，用于识别与触发器相关的受损神经元集，即后门。方案通过抑制受损神经元的作用，采用良性神经元集进行预测，切断后门和触发器之间的联系。与以前的防御措施相比，此方案不仅可以防御通用后门攻击，还能抵御源特定后门攻击以及对抗样本攻击，具有较强鲁棒性。实验评估表明，方案在保持模型在良性输入上的准确率的同时可以有效应对多种后门攻击。针对数据投毒类的后门攻击，方案可以区分触发器图像，防御有效性高达98%;针对模型投毒类的后门攻击，方案可以正确预测触发器样本，将攻击成功率压至1.3

关键词：云环境外包计算隐私保护模型安全

来源：评论

学校读者我要写书评

暂无评论

深度学习模型安全性研究综述

引用

信息对抗技术 2023年第4期2卷 93-112页

作者：孙钰媛王璇陆余良国防科技大学电子对抗学院安徽合肥230037 安徽省网络空间安全态势感知与评估重点实验室安徽合肥230037

随着智能化进程的不断加快,以深度学习为代表的人工智能技术得到不断发展。深度学习在众多领域得到广泛应用的同时,其中存在的安全问题也逐渐暴露。普通用户通常难以支撑深度学习所需的大量数据和算力,转而寻求第三方帮助,此时深度学习... 详细信息

随着智能化进程的不断加快,以深度学习为代表的人工智能技术得到不断发展。深度学习在众多领域得到广泛应用的同时,其中存在的安全问题也逐渐暴露。普通用户通常难以支撑深度学习所需的大量数据和算力,转而寻求第三方帮助,此时深度学习模型由于失去监管而面临严重安全问题。而深度学习模型在全周期内均会遭受后门攻击威胁,使得深度学习模型表现出极大脆弱性,严重影响人工智能的安全应用。从深度学习模型所需资源条件来看,训练数据、模型结构、支撑平台均能成为后门攻击的媒介,根据攻击媒介的不同将攻击方案划分为基于数据毒化、模型毒化、平台毒化3种类型。介绍了对其威胁模型及主要工作,在此基础上,梳理了针对现有后门攻击的防御措施。最后,结合所在团队的相关工作,并根据当前相关技术研究进展及实际,探讨未来研究方向。

关键词：深度学习模型安全后门攻击与防御

来源：评论

学校读者我要写书评

暂无评论

面向人工智能模型的安全攻击和防御策略综述

引用

计算机研究与发展 2024年第10期61卷 2627-2648页

作者：秦臻庄添铭朱国淞周尔强丁熠耿技网络与数据安全四川省重点实验室(电子科技大学) 成都610054

近年来,以深度学习为代表的人工智能技术发展迅速,在计算机视觉、自然语言处理等多个领域得到广泛应用.然而,最新研究表明这些先进的人工智能模型存在潜在的安全隐患,可能影响人工智能技术应用的可靠性.为此,深入调研了面向人工智能模... 详细信息

近年来,以深度学习为代表的人工智能技术发展迅速,在计算机视觉、自然语言处理等多个领域得到广泛应用.然而,最新研究表明这些先进的人工智能模型存在潜在的安全隐患,可能影响人工智能技术应用的可靠性.为此,深入调研了面向人工智能模型的安全攻击、攻击检测以及防御策略领域中前沿的研究成果.在模型安全攻击方面,聚焦于对抗性攻击、模型反演攻击、模型窃取攻击等方面的原理和技术现状;在模型攻击检测方面,聚焦于防御性蒸馏、正则化、异常值检测、鲁棒统计等检测方法;在模型防御策略方面,聚焦于对抗训练、模型结构防御、查询控制防御等技术手段.概括并扩展了人工智能模型安全相关的技术和方法,为模型的安全应用提供了理论支持.此外,还使研究人员能够更好地理解该领域的当前研究现状,并选择适当的未来研究方向.

关键词：人工智能安全攻击攻击检测防御策略模型安全

来源：评论

学校读者我要写书评

暂无评论

基于差分隐私与模型聚类的安全联邦学习方案

引用

计算机工程与科学 2024年第9期46卷 1606-1615页

作者：肖迪余柱阳李敏王莲重庆大学计算机学院重庆401331

联邦学习中的模型安全以及客户隐私是亟待解决的重要挑战。为了同时应对这2大挑战,提出了一项基于差分隐私与模型聚类的联邦学习方案,该方案兼顾模型安全与隐私保护。通过在客户更新中引入局部差分隐私扰乱客户上传的参数以保护客户的... 详细信息

联邦学习中的模型安全以及客户隐私是亟待解决的重要挑战。为了同时应对这2大挑战,提出了一项基于差分隐私与模型聚类的联邦学习方案,该方案兼顾模型安全与隐私保护。通过在客户更新中引入局部差分隐私扰乱客户上传的参数以保护客户的隐私数据。为保证对加噪模型更新的精准聚类,首次定义余弦梯度作为聚类指标,并根据聚类结果精准定位恶意模型。最后引入全局差分隐私以抵御潜在的后门攻击。通过理论分析得到全局噪声的噪声边界,并证明了本方案引入的噪声总量低于经典模型安全方案所引入的噪声总量。实验结果表明,本方案能够达成在精度、鲁棒以及隐私3方面的预期目标。

关键词：联邦学习模型安全后门攻击差分隐私隐私保护

来源：评论

学校读者我要写书评

暂无评论

面向模型量化的安全性研究综述

引用

小型微型计算机系统 2025年

作者：陈晋音曹志骐郑海斌郑雅羽浙江工业大学网络空间安全研究院浙江工业大学信息工程学院

随着边缘智能设备的飞速发展，为了在资源受限的边缘端设备上部署参数和存储需求巨大的深度模型，模型压缩技术显得至关重要.现有的模型压缩主要包含剪枝、量化、知识蒸馏和低秩分解四类，量化凭借推理快、功耗低、存储少的优势，使它... 详细信息

随着边缘智能设备的飞速发展，为了在资源受限的边缘端设备上部署参数和存储需求巨大的深度模型，模型压缩技术显得至关重要.现有的模型压缩主要包含剪枝、量化、知识蒸馏和低秩分解四类，量化凭借推理快、功耗低、存储少的优势，使它成为了边缘端部署的常用技术.然而，已有的量化方法主要关注的是模型量化后的模型精度损失和内存占用情况，而忽略模型量化可能面临的安全性威胁.因此，针对模型量化的安全性研究显得尤为重要.本文首次针对模型量化的安全性问题展开分析，首先定义了模型量化的攻防理论，其次按照模型量化前和模型量化过程中两个阶段对量化攻击方法和量化防御方法进行分析归纳，整理了针对不同攻击任务进行的通用基准数据集与主要评价指标，最后探讨了模型量化的安全性研究及其应用，以及未来潜在研究方向，进一步推动模型量化的安全性研究发展和应用.

关键词：模型量化模型安全对抗攻击后门攻击隐私窃取公平性模型防御

来源：评论

学校读者我要写书评

暂无评论

从算法解释到系统测评——人工智能法治的信息工具变革

引用

探索与争鸣 2025年第3期 107-116+179页

作者：苏宇中国人民公安大学法学院

大模型的兴起正在引起人工智能法律治理中基础性信息工具的变革。算法解释因存在计算量、随机性与理解力等局限，不足以独力承担人工智能治理基础信息工具的重任，而系统测评正日益发挥重要作用。系统测评有利于应对算法风险的全面扩张... 详细信息

大模型的兴起正在引起人工智能法律治理中基础性信息工具的变革。算法解释因存在计算量、随机性与理解力等局限，不足以独力承担人工智能治理基础信息工具的重任，而系统测评正日益发挥重要作用。系统测评有利于应对算法风险的全面扩张、模型安全的关切增强、关键性能的特殊需要、多维目标的综合考量等治理需求变化，但其原理与实践尚未成熟，在制度化过程中可能面临训练针对性、基准科学性、利益关联性等挑战。对此，应合理界定测评的应用场景，科学建立测评基准筛选机制、测评基准质量管理机制、测评过程公正保障机制，并通过多种途径实现系统测评与算法解释的制度化兼容。

关键词：系统测评算法解释模型安全人工智能法治

来源：评论

学校读者我要写书评

暂无评论

压缩深度神经网络模型应用场景下安全及隐私保护研究

压缩深度神经网络模型应用场景下安全及隐私保护研究

引用

作者：闫玉双西安电子科技大学

学位级别：博士

深度学习(DL)在许多领域都取得了显著成果。深度神经网络(DNNs)的最新进展促使现代人工智能(AI)应用取得重大突破。基于DNN的模型广泛应用在计算机视觉、语音识别、人脸识别和自然语言处理等领域。由于模型包含大量的参数,对计算能力和... 详细信息

深度学习(DL)在许多领域都取得了显著成果。深度神经网络(DNNs)的最新进展促使现代人工智能(AI)应用取得重大突破。基于DNN的模型广泛应用在计算机视觉、语音识别、人脸识别和自然语言处理等领域。由于模型包含大量的参数,对计算能力和存储空间有较高需求,从而模型在许多现实场景中不易部署,因此模型压缩是解决部署难题的有效方法。但是,压缩DNNs在深度学习管道系统中面临机密性攻击、完整性攻击和可用性攻击即CIA攻击,在训练阶段和推理阶段威胁模型安全及数据隐私。针对这些威胁,本文针对卷积神经网络(CNNs)展开研究,提出隐私深度学习方法和模型鲁棒机制,保护数据的隐私和提高模型的鲁棒性能。论文内容和主要贡献总结如下:针对模型泄露数据隐私的问题,设计基于隐私的压缩CNN模型的服务提供系统。在系统中,云服务器将大规模的预训练模型压缩为小规模的压缩模型,将压缩模型部署到边缘服务器,边缘服务器为邻近物联网设备提供优质的服务。为了保护训练数据的隐私,需要保证压缩模型和预训练模型的机密性。这是因为:一方面敌手可以通过压缩模型提取训练数据的隐私信息;另一方面压缩模型是由预训练模型通过裁剪得到的,压缩模型的权重分布也会暴露预训练模型的权重分布,从而敌手可通过预训练模型推测数据隐私。为了解决以上问题,引入差分隐私机制,提出一种基于差分隐私的压缩CNN模型的生成方案。压缩模型主要通过隐私预训练和隐私压缩训练两个步骤构成。在这两个步骤中分别使用差分隐私来保证训练数据的隐私。针对MNIST数据集和CIFAR-10数据集进行一系列实验,结果表明压缩模型能够同时兼顾高隐私性和高可用性。针对DNNs容易遭受对抗样本攻击的脆弱性,研究提高DNN模型抵御依赖于模型梯度生成的这类对抗样本的鲁棒性能,设计基于鲁棒的压缩CNN模型的系统架构。由于移动设备的计算能力有限,模型分割部署在移动设备和边缘服务器,移动设备和边缘服务器协同训练模型。为了增强压缩模型的鲁棒性,提出协同训练生成鲁棒的压缩CNN模型机制。为了保证压缩模型较高的测试准确率,向模型添加Laplace噪声时,考虑模型压缩后的权重分布,提出基于模型权重分布的防御机制。生成的压缩模型可作为移动设备和边缘服务器协同推理模型为邻近移动设备提供识别服务。同时,压缩模型适合部署在移动设备上。压缩后的模型可以保持高的鲁棒性和高的可用性。针对快速梯度标记法(FGSM)和基本迭代法(BIM)攻击,通过训练MNIST数据集评估模型的性能。通过与无防御机制的模型比较,实验结果表明生成的鲁棒的压缩模型抵御对抗样本更加有效。模型的性能取决于训练数据集的规模。然而,单个机构的训练数据数量有限。这两个原因驱动多方机构通过分布式深度学习训练方式,提高模型的可用性。但是,如果数据直接发送给第三方或者通过各方之间共享数据的方式训练模型,会泄露各方数据集的隐私。而且,模型一旦生成,会遭受对抗样本的攻击。因此,设计了MMD-ED系统,提出基于分布式隐私深度学习生成鲁棒的压缩模型机制,边缘服务器协助多个移动设备训练得到本地鲁棒的压缩模型,模型部署在移动设备和边缘服务器之间。每个移动设备首先训练一部分模型,边缘服务器学习另一部分模型。为了保护任一方移动设备的训数据集的隐私不被其它方移动设备推测出,安全多方计算(MPC)应用在深度学习中,提出分布式隐私深度学习机制,多个移动设备利用秘密共享计算中间结果的平均值并将其发送给边缘服务器。为了提高模型针对对抗攻击的鲁棒性,引入鲁棒机制。此外,由于向模型中加入Laplace噪声,对训练数据集起到隐私保护的作用。边缘服务器将模型压缩后发送给移动设备,各移动设备最终得到本地鲁棒的压缩模型。

关键词：深度学习压缩深度神经网络边缘服务器模型安全数据隐私

来源：评论

学校读者我要写书评

暂无评论

面向人工智能模型验证的安全风险治理研究

引用

中国高新科技 2023年第24期 63-65页

作者：冯九龙陶咏志杨海涛夏伟杰北京电信规划设计院有限公司北京100048

文章主要从面向人工智能模型验证的可信访问、数据安全、应用架构安全角度进行典型需求梳理,通过风险分析和治理设计思路,提出了关键应用技术的验证和方法,为人工智能模型安全提供方向性研究指引。

关键词：数据集模型安全人工智能训练集

来源：评论

学校读者我要写书评

暂无评论

基于触发差异优化的联邦学习持久后门攻击

引用

计算机科学 2025年第4期52卷 343-351页

作者：蒋雨霏田育龙赵彦超南京航空航天大学计算机科学与技术学院南京211106

联邦学习分布式的特性使其允许各客户端在保持数据独立性的同时进行模型训练,但这也使得攻击者可以控制或模仿部分客户端来发起后门攻击,通过植入精心设计的固定触发器操纵模型输出。触发器的有效性和持久性是衡量攻击效果的重要标准,... 详细信息

联邦学习分布式的特性使其允许各客户端在保持数据独立性的同时进行模型训练,但这也使得攻击者可以控制或模仿部分客户端来发起后门攻击,通过植入精心设计的固定触发器操纵模型输出。触发器的有效性和持久性是衡量攻击效果的重要标准,有效性即攻击成功率,持久性即停止攻击后维持高攻击成功率的能力。目前针对有效性的研究已经相对深入,但如何维持触发器的持久性仍然是一个有挑战性的问题。为延长触发器的持久性,提出了一种基于动态优化触发器的后门攻击方法。首先,在联邦学习动态更新时同步优化触发器,将触发器特征在攻击时模型与攻击后模型的潜在表示的差异最小化,以此训练全局模型对触发器特征的记忆能力。其次,使用冗余神经元作为植入后门是否成功的指标,通过自适应添加噪声来增强攻击的有效性。在MNIST,CIFAR-10和CIFAR-100数据集上进行广泛实验,结果表明,所提方案有效延长了联邦学习环境下触发器的持久性。在具有代表性的5种防御体系下攻击成功率高于98%,特别是在针对CIFAR-10数据集的攻击停止超过600轮后,攻击成功率仍然高于90%。

关键词：联邦学习后门攻击动态触发器攻击持久性模型安全

来源：评论

学校读者我要写书评

暂无评论

面向服务的云设计安全数据交换

引用

华中科技大学学报（自然科学版） 2016年第12期44卷 76-80,97页

作者：吴亦奇何发智李小霞蔡贤涛武汉大学计算机学院湖北武汉430072 华中农业大学信息学院湖北武汉430070

针对云设计与制造环境下的协同设计CAD模型安全共享问题,提出了一个基于服务的安全特征数据交换方法.使用基于模型变形的方法,改变特征模型建模参数,实现对模型敏感信息的加密隐藏;使用直接特征数据交换方法实现异构CAD系统间的参数化... 详细信息

针对云设计与制造环境下的协同设计CAD模型安全共享问题,提出了一个基于服务的安全特征数据交换方法.使用基于模型变形的方法,改变特征模型建模参数,实现对模型敏感信息的加密隐藏;使用直接特征数据交换方法实现异构CAD系统间的参数化建模数据交换;最后,采用面向服务的架构,将特征CAD模型数据交换与安全保护方法以云端服务的形式提供给协同设计成员,并引入访问及授权控制机制确保服务为合法授权用户使用.实验结果证明了该思路的合理性及方法的有效性,可为云设计与制造提供灵活、高效、可扩展的安全数据交换解决方案.

关键词：云设计与制造面向服务架构特征数据交换模型安全云安全

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：