检索结果-内蒙古大学图书馆

作者：陶略南京航空航天大学

学位级别：硕士

机器学习正在被越来越广泛地应用于现实任务,而现实环境的复杂性也对其发展提出了新的挑战。诸如,独立同分布假设不再成立,数据分布也并非一成不变等等。为了确保机器学习技术能够稳定地适应环境,我们需要考虑模型在各种极端情况下性能... 详细信息

机器学习正在被越来越广泛地应用于现实任务,而现实环境的复杂性也对其发展提出了新的挑战。诸如,独立同分布假设不再成立,数据分布也并非一成不变等等。为了确保机器学习技术能够稳定地适应环境,我们需要考虑模型在各种极端情况下性能的鲁棒性。其中一个已被广泛研究的极端情况是对抗鲁棒性,其目标是确保高性能模型在恶性输入扰动下的表现不会过分糟糕,即“好模型在坏的时候不宜太坏”。本文旨在研究对抗鲁棒性的一个被严重忽视的对立面,我们认为低性能模型在良性输入扰动下的表现也不宜过分优异,即“坏模型在好的时候不宜太好”。由于低性能模型在模型开发过程中经常产生,且从业者并不希望不合格的模型被允许部署到现实任务中,因此有必要重视其性能的鲁棒性。基于此,我们揭示了一种新颖的攻击形式——伪善攻击。我们指出,这种攻击能够通过操纵数据分布,假意使本身不合格的学习器临时表现出优异的性能。然而,这些学习器在现实数据上的真实性能并不会因为虚假的愚弄得到实质性的提升,甚至可能会因此疏于学习,对学习结果产生负面影响。为了解决以上问题,本文开展了对伪善攻击与防御的研究,并取得了以下研究成果: 1.模型验证阶段的伪善攻防。我们揭示了来自伪善样本的威胁,它是指原本因不合格而出错的模型,在其输入遭受到来自“假朋友”的微小扰动后,被迫产生正确的输出。虽然这种扰动乍一看似乎无害,但是我们指出,它可以被恶意利用以在评估时掩盖模型的错误。如此便能使得本身不合格的模型顺利地通过验证,从而被允许应用于现实任务。如果任由事态发展,伪善样本最终可能会导致系统丧失正常功能。为了应对这种威胁,我们提出了伪善风险的概念,对其进行了理论分析,并尝试了由此启发的多个防御策略。实验结果表明,虽然这些举措能够取得一定成效,但伪善风险依然不容忽视。 2.模型学习阶段的伪善攻防。我们指出模型训练时的伪善扰动实质上是一种有效的迷惑攻击方式,并据此提出了多种迷惑攻击算法。另一方面,为了应对迷惑攻击,我们证明了在被扰动的数据上进行对抗训练(即鲁棒优化)等价于最小化原始数据的自然风险的一个上界。这表明对抗训练能够抵抗训练分布的微小虚漂移,从而提高模型对这种恶意扰动的鲁棒性。因此,对抗训练是应对迷惑攻击的一种原则性的防御方法。最后,在基准数据集上的经验证据也很好地支撑了我们的理论结果。

关键词：机器学习对抗样本伪善样本数据投毒对抗训练鲁棒优化

来源：评论

学校读者我要写书评

暂无评论

面向联邦学习的安全防护关键技术研究

面向联邦学习的安全防护关键技术研究

引用

作者：张书琦电子科技大学

学位级别：硕士

最近二十年以来,机器学习技术飞速发展,深刻地改变了人类社会的生产生活方式。而与此同时,随着各国不断加强数据监管的力度、用户隐私保护意识不断增强,以联邦学习为代表的隐私计算领域快速发展,不断迭代进化。但是近几年来对于联邦学... 详细信息

最近二十年以来,机器学习技术飞速发展,深刻地改变了人类社会的生产生活方式。而与此同时,随着各国不断加强数据监管的力度、用户隐私保护意识不断增强,以联邦学习为代表的隐私计算领域快速发展,不断迭代进化。但是近几年来对于联邦学习安全性的研究表明,联邦学习本身依然面临着传统机器学习中的各类安全威胁,并且由于联邦学习的分布式架构特点,恶意攻击者能以更小的成本、更大的范围发起攻击、实现恶意目标,这严重影响到了联邦学习技术的发展和在实际应用场景的落地。联邦学习面临的安全威胁可以根据恶意目标的不同分为两大类:1.破坏模型完整性和可用性的安全类攻击;2.破坏模型机密性的隐私类攻击。本文面向联邦学习中三种主要的安全威胁展开深入研究:后门攻击、数据投毒攻击和梯度推理攻击,并针对各类安全威胁的特点提出了对应的防护方案。本文的主要工作内容如下:(1)提出基于聚类分析和神经元剪枝的联邦学习后门防御框架:首先构建白盒场景下的联邦学习后门攻击的威胁模型,分析攻击生效的原理,以及恶意客户端模型更新的特征,结合联邦学习的特点提出联邦学习后门防御框架:使用聚类分析算法和神经元裁剪技术,分别从恶意客户端更新的方向和大小两个角度进行防御,从两个维度综合解决联邦学习后门攻击检测难度大、隐蔽性强的问题。(2)提出基于求解最大团的联邦学习数据投毒恶意检测方案:首先构建基于标签翻转的联邦学习数据投毒攻击的威胁模型。然后从分布式系统的拜占庭鲁棒性的角度,研究了两种现有的安全聚合算法的防护思路和缺点。再通过对投毒攻击的攻击本质、数据特征的分析,提出基于求解最大团的恶意检测方案,通过自适应地检测恶意客户端,提高联邦学习系统的鲁棒性。(3)提出基于同态加密算法的联邦学习隐私保护方法:首先构建联邦学习梯度推理攻击的威胁模型,通过分析攻击路径,提出从阻止攻击者获取梯度信息的思路出发,设计了一种基于同态加密算法的联邦学习隐私保护方法,使得攻击者只能获取加密后的梯度和全局模型,无法进一步推理出用户敏感数据,增强了联邦学习系统的隐私保护能力。

关键词：联邦学习后门攻击数据投毒推理攻击聚类分析同态加密

来源：评论

学校读者我要写书评

暂无评论

基于触发器特征的神经网络后门攻击研究

基于触发器特征的神经网络后门攻击研究

引用

作者：卞绍鹏东南大学

学位级别：硕士

近些年,深度神经网络得到了飞速发展,已经广泛应用于图像识别、自然语言处理、自动驾驶等多个领域,但由于神经网络模型缺乏足够的可解释性,在我们享受着神经网络带来便利的同时,安全方面的威胁与挑战也随之而来。随着神经网络应用场景... 详细信息

近些年,深度神经网络得到了飞速发展,已经广泛应用于图像识别、自然语言处理、自动驾驶等多个领域,但由于神经网络模型缺乏足够的可解释性,在我们享受着神经网络带来便利的同时,安全方面的威胁与挑战也随之而来。随着神经网络应用场景的复杂性升级,训练这些模型需要一定的专业性知识,并且需要花费大量的精力用于收集数据和优化模型性能,因此许多用户选择将模型训练过程外包给第三方模型服务商。然而,这种模型外包训练服务可能会带来严重的安全问题,例如后门攻击。怀有恶意的模型服务商会在用户提供的训练集中添加一定比例“精心制作”的中毒数据,从而在模型中植入恶意行为。当模型训练完成后,作为攻击者的模型服务商只需要使用特殊的图案就能触发模型中的恶意行为,影响模型的决策结果。针对上述存在的安全问题,本文对图像识别领域神经网络中的后门攻击进行深入研究,具体内容包括以下三个方面:(1)为解决现有后门检测方法所需数据样本过多、检测效率低下等问题,本文研究并提出一种针对静态后门攻击的后门检测方法,能够实现高效快速的后门检测,且仅需要少量的数据样本参与计算即可达到较高的检测准确率。该方法由四部分组成:首先,利用后门对噪声数据的敏感性,在短时间内缩小检测标签范围;其次,基于梯度下降算法对少数的可疑标签进行求解,得到标签对应的决策捷径触发器;随后,根据求得的决策捷径触发器进行异常分析,判断模型中是否存在后门;最后,对于存在后门的模型,使用求解出的决策捷径触发器对模型进行再训练,在不影响模型正常功能性的情况下使得后门失效。本文在Youtube Face、GTSRB、CIFAR10这三个数据集上使用多种模型结构验证了检测方法的有效性,并且和目前最有效的两种后门检测方法Neural Cleanse及ABS进行对比,检测的准确率及检测效率提升显著,在相同任务上的检测时间缩短了90%左右。(2)现有后门一般都是使用固定的标记触发模型中的恶意行为,属于静态后门,为解决现有后门攻击方法没有让模型合理学习到触发器像素值、后门隐蔽性较差等问题,本文研究并提出了一种针对像素值的动态后门攻击方法。该方法能够在目标模型中植入两种不同的触发器模式,并且对于单个图像样本只能够使用唯一正确的触发器模式进行攻击,使用另一触发器模式无效。该方法由四部分组成:首先,基于梯度下降算法为目标模型求解出两种差异化最大的像素值图案;其次,使用目标模型卷积层的激活值训练聚类划分模型,制定样本与触发器之间的对应规则;随后,为实现后门的动态性,该方法制作了三种不同类型的中毒数据样本,分别是正确中毒样本、错误中毒样本和噪声中毒样本;最后,使用三种中毒样本与干净样本对目标模型进行再训练,可以在不影响模型正常功能性的情况下植入动态后门。本文在Youtube Face、GTSRB、CIFAR10这三个数据集上使用多种模型结构验证了攻击方法的有效性和隐蔽性,使用现有后门检测方法Neural Cleanse及ABS均无法检测出模型中的动态后门。(3)应用上述研究成果,设计并实现了一套模型安全检测及动态水印植入工具集,并基于该工具集使用Django框架为用户提供了Web页面下的静态后门安全检测及动态后门水印植入服务。用户可以对第三方模型服务商训练的模型进行检测确保模型的安全性,企业可以对出售的商业模型植入动态后门水印,从而保护商业模型的知识产权,避免模型被剽窃和二次传播。最后,本文通过Web页面下提供的服务验证了工具集的功能并给出应用示例。综上所述,本文对神经网络中的后门安全问题进行深入研究,提出针对静态后门的后门检测方法和针对像素值的动态后门攻击方法,最后提供了模型安全检测及动态水印植入工具集,为模型安全保护提供了强有力的技术支撑,本文的研究工作对于后门攻击的发展、保障神经网络的安全性具有重要意义。

关键词：后门攻击神经木马数据投毒神经网络图像识别

来源：评论

学校读者我要写书评

暂无评论

针对联邦学习的多后门攻击算法研究与实现

针对联邦学习的多后门攻击算法研究与实现

引用

作者：宋强西安电子科技大学

学位级别：硕士

随着人工智能逐渐走向大规模和分布式,联邦学习作为一种隐私保护的分布式模型训练技术逐渐成为研究人员的关注重点。联邦学习可以在多方数据拥有者不进行数据共享的情况下,共同学习得到一个全局最优的机器学习模型。但联邦学习框架分布... 详细信息

随着人工智能逐渐走向大规模和分布式,联邦学习作为一种隐私保护的分布式模型训练技术逐渐成为研究人员的关注重点。联邦学习可以在多方数据拥有者不进行数据共享的情况下,共同学习得到一个全局最优的机器学习模型。但联邦学习框架分布式特性也带来了潜在恶意参与者。本意为避免第三方进行隐私窥探的安全聚合协议,却使得针对联邦学习算法的模型攻击变得更加隐蔽且难以检测。基于数据投毒的后门攻击是一种隐蔽性极高的模型攻击方法,其目标是将隐藏后门嵌入到深度学习模型中,使得后门模型在良性样本上表现良好,而隐藏后门在攻击者定义的触发器激活下,预测结果可以发生定向恶意更改。联邦学习中的恶意节点对数据拥有完全的控制权,这为后门攻击进行数据投毒提供了天然攻击环境。联邦学习中的后门攻击,可以通过恶意参与者的投毒传递到整个联邦学习环境,危害性极强。本文深入研究了联邦学习系统中的多后门攻击问题,提出了一种触发器生成技术,为后门攻击引入了目标特征;同时,提出了一种针对联邦学习的多后门攻击方案,有效破坏了模型的鲁棒性。主要研究工作如下: 1.本文提出了一种基于生成对抗网络的触发器生成方案,可以在联邦学习训练之前完成触发器生成,保证后门攻击在联邦学习中的实施。通过特征提取网络提取目标标签的数据特征,并将其作为生成对抗网络的输入条件,增强了后门模型对目标标签的学习能力。通过设计GAN损失函数形式,使得生成的低可见性触发器可以平滑注入良性数据。实验结果表明,在可见性得分上,本文触发器生成方案优于先前的触发器方案。实验还证明了本文触发器触发的后门攻击效果显著且不会被用户察觉。此外,本文触发器后门攻击效果与对抗攻击不同,并不会受到模型差异影响。 2.本文研究了基于多目标优化的多后门攻击方案,可以在单次后门训练中兼顾不同的后门攻击任务,同时保证主任务的识别精度。多后门攻击考虑到了需要多种触发器共同定位目标的情况,还大大增加了后门攻击的灵活度和闪避性,使得后门攻击的危害性进一步加强。本文通过理论分析解释了所提多后门攻击的攻击有效性。本文在联邦学习场景中,将上述两种技术结合提出单触发器触发和多触发器叠加触发两种多后门攻击方案。实验表明,本文所提两种多后门攻击,在攻击成功率和模型进度下降两项指标上均取得了优秀的攻击效果。进一步地,两种多后门攻击方案可以轻松越过Neural Cleanse防御方法的防御。为了进一步探索多后门攻击的特性,本文还通过组织联邦学习环境中的多个攻击者,进行分布式多后门攻击,并与单个攻击者的多后门攻击方法进行了对比。

关键词：联邦学习模型安全生成对抗网络后门攻击数据投毒

来源：评论

学校读者我要写书评

暂无评论

针对人体关键点检测的后门攻击方法研究

针对人体关键点检测的后门攻击方法研究

引用

作者：邱千禧杭州师范大学

学位级别：硕士

深度学习在多个领域取得成功,尤其在人体关键点检测方面。然而,研究显示深度学习模型容易受到后门攻击的影响,即通过微小的特殊标签使其产生错误推理。当前,后门攻击研究主要集中在图像或点云分类任务,而人体关键点检测的研究较少。后... 详细信息

深度学习在多个领域取得成功,尤其在人体关键点检测方面。然而,研究显示深度学习模型容易受到后门攻击的影响,即通过微小的特殊标签使其产生错误推理。当前,后门攻击研究主要集中在图像或点云分类任务,而人体关键点检测的研究较少。后门攻击的核心思想是通过操纵训练数据来使模型学习与后门触发器相关的特征。然而,由于深度学习模型的复杂性,重新训练模型以适应受污染的数据集需要昂贵的计算资源和时间。此外,在注入后门标签时,训练过程可能对模型在干净数据上的性能产生潜在影响。本文旨在研究常见的人体关键点检测模型的后门攻击,评估攻击对性能的影响,并分析不同关键点的易受攻击程度,以确定其对模型输出的潜在影响。本文主要研究内容如下: (1)针对人体关键点检测任务提出了一种无需重复训练目标模型的后门攻击方法,称为HPE-Trojan Net Attack。该方法首先为不同的人体部位设计一个对应的触发器,然后将触发器嵌入到训练数据集中并训练Trojan Net分支网络,最后将Trojan Net插入到目标网络中,通过预设触发器的引导完成人体姿态估计的后门攻击。这种攻击方法不需要在污染数据集上重新训练目标模型,避免了消耗大量的时间和计算资源,同时也不会影响目标模型对未被污染的干净输入的推理能力。 (2)针对深度学习模型轻量化以及深度学习模型广泛应用于手机等轻量化移动终端的趋势,对轻量化人体关键点检测模型进行了一系列的后门攻击研究,首先选择生活中可见的真实图案作为后门触发器,其次对关键点数据进行了不同程度且更具有语义性的扰动。最终通过对AP结果、热图分析以及关键点偏移等不同角度展现了轻量化模型在面对后门攻击时的脆弱性。 (3)为了更深入地研究人体关键点检测模型的鲁棒性,本文还开发了一个用于创建定制的、专门针对人体关键点的投毒数据的工具。该工具的主要目标是用于评估人体关键点检测模型在不同威胁下的鲁棒性,使用者可以自定义投毒的方式、程度和类型,以满足特定研究需求,从而可以更全面地了解模型在面对不同类型、不同程度的攻击时的弱点。

关键词：后门攻击人体关键点检测数据投毒语义性扰动模型鲁棒性

来源：评论

学校读者我要写书评

暂无评论

面向联邦学习的非目标投毒攻击方法研究

面向联邦学习的非目标投毒攻击方法研究

引用

作者：陈震郑州大学

学位级别：硕士

联邦学习是一种新兴的分布式机器学习技术，允许多个机构或个人在不共享数据的情况下共同训练机器学习模型。在联邦学习中，多个参与方的数据和计算资源是分开的，每个参与方都在其本地训练模型，然后将模型参数发送给其他参与方或者中... 详细信息

联邦学习是一种新兴的分布式机器学习技术，允许多个机构或个人在不共享数据的情况下共同训练机器学习模型。在联邦学习中，多个参与方的数据和计算资源是分开的，每个参与方都在其本地训练模型，然后将模型参数发送给其他参与方或者中心服务器端进行联合训练。相较于传统的集中式学习，联邦学习避免了数据传输到中央服务器上的过程，从而提高了数据的安全性和隐私性。然而联邦学习仍然面临着一些安全问题，由于中心服务器对本地训练阶段过程的不可见，导致联邦学习容易受到投毒攻击的威胁。攻击者可以通过控制部分客户端发送恶意的模型参数，使联邦学习训练的全局模型受到破坏。　　本文以攻击者视角深入研究面向联邦学习的非目标投毒攻击，针对目前非目标投毒在联邦学习上隐蔽性差的问题，分别从数据投毒和模型投毒两个方面提出投毒攻击方法，实现对联邦学习可用性的破坏。　　(1)数据投毒攻击方面:目前对联邦学习中数据投毒攻击的研究集中于目标投毒，针对已有非目标数据投毒攻击方法隐蔽性低、在鲁棒聚合规则下攻击效果差的问题，提出一种基于对抗样本的数据投毒攻击方法。攻击者在每轮联邦训练中恶意提高对抗样本的噪声，使每轮聚合过程中全局模型更加依赖恶意更新,提升对鲁棒联邦学习的攻击效果。此外，还使用本文攻击对非鲁棒联邦学习进行投毒，实验结果表明了非鲁棒联邦学习面对投毒攻击的脆弱性，以及攻击对鲁棒联邦学习的有效性。　　(2)模型投毒攻击方面:目前的模型投毒中，攻击者通常在训练完成本地模型后，向其中加入微小的扰动来制作有害的本地更新，攻击者通过寻找合适的扰动大小，以绕过鲁棒检测方法并尽可能破坏全局模型。这些研究缺乏对扰动本身的深入研究，从而导致恶意更新的隐蔽性不足，使得恶意更新易被检测。针对该问题，提出一种基于历史信息动量的模型投毒攻击方法，利用本地训练中的历史信息动态制作扰动，以此制作更加隐蔽有效的恶意更新。实验表明，与其他攻击方法相比，本文攻击方法具有更高的有效性和隐蔽性，可以有效破坏联邦学习的可用性，阐明了联邦学习面对投毒攻击的脆弱性。

关键词：联邦学习数据投毒模型投毒可用性

来源：评论

学校读者我要写书评

暂无评论

面向牙齿医疗图像的小样本学习与投毒攻防研究

面向牙齿医疗图像的小样本学习与投毒攻防研究

引用

作者：吴寒杭州电子科技大学

学位级别：硕士

21世纪以来,人类的科技水平逐渐提高,这些最新产生的技术能够大幅降低人们的工作劳动强度,降低人工成本。但是如今仍有很多高成本的人工服务,例如牙齿诊断与治疗。随着社会科技不断的发展,越来越多的新技术逐渐涌现,诸如人工智能等技术... 详细信息

21世纪以来,人类的科技水平逐渐提高,这些最新产生的技术能够大幅降低人们的工作劳动强度,降低人工成本。但是如今仍有很多高成本的人工服务,例如牙齿诊断与治疗。随着社会科技不断的发展,越来越多的新技术逐渐涌现,诸如人工智能等技术自2012年得到长足的发展,相比于传统基于人工的方法,人工智能可以以较快的速度,较低的成本实现很多过去需要人类亲自行动的高成本工作,诸如自动或半自动的医疗诊断、自动驾驶、智能安防和推荐系统等等,但是人工智能也有些许不足。优秀的人工智能识别系统的生成往往依赖大量的数据集,此外有些手段可以对识别系统造成负面的影响,这些问题使得深度学习模型变得“昂贵”且“脆弱”。在医疗领域,深度神经网络对辅助诊断系统的检测能力的提升是巨大的,它可以帮助医生找到病灶,例如识别定位牙齿、龋齿诊断、年龄推断等等,但是医疗数据的获取是困难的,目前对于牙齿目标检测的研究基本依赖大体量的数据集,在小样本下的牙齿目标检测研究较为稀少。此外,基于深度神经网络的医疗图像诊断系统对于模型安全性的要求是比较高的,而且如果用于检测病灶的深度神经网络模型被恶意的攻击,那么其后果是十分危险的。目前相关研究者已经提出很多针对深度神经网络的攻击方法,它们可以对模型造成有效的攻击,因此我们需要将更多精力集中在提升医疗图像检测模型的安全性上。本文研究的内容首先为解决小样本医疗图像的目标检测难度较大的问题,其次还有针对医疗图像识别模型的标签翻转攻击问题。本文根据以上问题提出了两种方法,第一种方法可以很好的改善目标检测模型在小样本的情况下的性能表现,第二种方法可以以较高的鲁棒性抵御针对牙齿医疗数据的标签翻转攻击。(1)针对小样本牙齿目标检测提出了一种基于先验知识迁移、牙齿语义结构特征和信息熵压缩的小样本牙齿目标检测方法,验证实验显示该方法在十张小样本情况下表现良好。(2)针对牙齿医疗图像的标签翻转攻击,提出了一种基于离群点集合统计分析的中毒数据检测方法,提高了检测能力,同时具有较好的可解释性和泛化能力。无论训练集是常规样本或者小样本,本文所提的方法均能有效地检出标签翻转攻击。

关键词：目标检测医疗图像小样本学习数据投毒模型安全性

来源：评论

学校读者我要写书评

暂无评论

半监督图节点分类任务的清洁标签后门植入

引用

电子科技 2024年第9期37卷 57-63页

作者：杨潇李高磊上海交通大学电子信息与电气工程学院上海200240

半监督图学习旨在使用给定图中的各种先验知识推断未标记节点或图的类别,通过提升数据标注的自动化,使其具有较高的节点分类效率。作为一种深度学习架构,半监督图学习也面临后门攻击威胁,但目前尚未出现对半监督图节点分类任务有效的后... 详细信息

半监督图学习旨在使用给定图中的各种先验知识推断未标记节点或图的类别,通过提升数据标注的自动化,使其具有较高的节点分类效率。作为一种深度学习架构,半监督图学习也面临后门攻击威胁,但目前尚未出现对半监督图节点分类任务有效的后门攻击方法。文中提出了一种针对半监督图节点分类模型的持久性清洁标签后门攻击方法,通过在未标记的训练数据上自适应地添加触发器和对抗扰动生成中毒样本,并在不修改标签的情况下训练得到中毒的半监督图节点分类模型。而攻击者可以较为隐蔽地对模型进行投毒,且投毒率不高于4%。同时为了保证后门在模型中的持久性,设计了一种超参数调节策略以选择最佳的对抗扰动尺寸。在多个半监督图节点分类模型与开源数据集上进行的大量实验,结果表明所提方法的攻击成功率最高可达96.25%,而模型在正常样本上的分类精度几乎没有损失。

关键词：半监督图学习图神经网络节点分类对抗样本数据投毒后门攻击持久性攻击,清洁标签后门

来源：评论

学校读者我要写书评

暂无评论

基于边缘网络的联邦学习中毒攻击防御系统

引用

软件工程与应用 2024年第4期13卷 475-480页

作者：朱浩宇杨丁宇袁红星周凌枫宁波工程学院网络空间安全学院(计算机学院) 浙江宁波

随着大数据时代的到来,人工智能的应用取得了飞速发展。同时,数据隐私和安全问题也越来越受到人们的关注。这导致跨机构数据共享困难,数据孤岛现象愈演愈烈。投毒攻击是指恶意参与者发送虚假数据或模型参数。这种攻击可能导致模型改变... 详细信息

随着大数据时代的到来,人工智能的应用取得了飞速发展。同时,数据隐私和安全问题也越来越受到人们的关注。这导致跨机构数据共享困难,数据孤岛现象愈演愈烈。投毒攻击是指恶意参与者发送虚假数据或模型参数。这种攻击可能导致模型改变或性能下降,对联邦学习系统造成严重影响。目前,解决投毒问题的方法包括模型聚合算法改进、异常检测技术以及可信参与者的选择机制等。然而,这些方法在实践中仍然存在一定的局限,对于复杂的攻击方式缺乏足够的鲁棒性。为应对这一挑战,本文设计了基于边缘网络的投毒防御系统。它利用中毒攻击检测算法,在联邦学习过程中检测投毒攻击并进行防御。与传统方法相比,本系统具有更高的自适应性和鲁棒性,保障了模型的安全性和准确性。With the advent of the big data era, applications of artificial intelligence have experienced rapid development. At the same time, concerns about data privacy and security are increasingly prominent. This has led to difficulties in cross-institutional data sharing, exacerbating the phenomenon of data islands. Poisoning attacks refer to malicious actors sending false data or model parameters. Such attacks can lead to model alterations or performance degradation, severely impacting federated learning systems. Currently, methods to address poisoning issues include improvements in model aggregation algorithms, anomaly detection techniques, and mechanisms for selecting trusted participants. However, these methods still have certain limitations in practice and lack sufficient robustness against complex attack vectors. To tackle this challenge, this paper proposes a poisoning defense system based on edge networks. Leveraging poisoning attack detection algorithms, it detects and defends against poisoning attacks during the federated learning process. Compared to traditional methods, this system exhibits higher adaptability and robustness, ensuring the security and accuracy of models.

关键词：联邦学习边缘网络中毒攻击数据投毒隐私计算

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：