检索结果-内蒙古大学图书馆

作者：赵若琦北京邮电大学

学位级别：硕士

对抗样本是指经过故意设计的、针对深度学习模型的输入数据,使得模型输出结果被有意扭曲或误导。对抗样本的存在对模型的鲁棒性和安全性提出了挑战,研究对抗样本有助于更加深入理解深度学习模型的工作原理,为提高模型的鲁棒性和安全性... 详细信息

对抗样本是指经过故意设计的、针对深度学习模型的输入数据,使得模型输出结果被有意扭曲或误导。对抗样本的存在对模型的鲁棒性和安全性提出了挑战,研究对抗样本有助于更加深入理解深度学习模型的工作原理,为提高模型的鲁棒性和安全性提供理论依据。图像对抗攻击可分为黑盒攻击和白盒攻击,在黑盒攻击场景下攻击者无法直接访问被攻击模型的内部信息,相较于白盒攻击更具有挑战性。基于迁移的攻击是黑盒攻击的一种常见方法,本文提出了两种提高对抗样本迁移性的算法。针对在迭代生成对抗样本时梯度估计存在方差这一问题,提出了利用对偶采样实现方差调整的对抗样本生成算法,该算法借助对偶变量法缩减方差的思想,在每轮迭代时采样两个样本点从而实现梯度方差的调整,在不提高时间复杂度的前提下有效提高了对抗样本迁移性。针对神经网络中存在的梯度破碎问题,提出了一种基于高斯模糊的对抗样本生成算法,在每轮迭代时对当前样本进行多次高斯模糊,并利用生成的多张图像估计梯度,有效提高了对抗样本的迁移性能。本文在ILSVRC2012数据集上,设计了多组对比实验,观察了本文所提算法在攻击普通模型、防御模型、多个融合模型时的表现,实验结果表明本文所提算法能够提高生成对抗样本的迁移性,相较于以往的算法有良好的优势。

关键词：图像对抗样本深度学习黑盒攻击迁移性

来源：评论

学校读者我要写书评

暂无评论

基于特征空间扰动的图像对抗样本迁移性研究

基于特征空间扰动的图像对抗样本迁移性研究

引用

作者：王宝娟重庆理工大学

学位级别：硕士

深度学习已经被证明容易受到对抗样本的攻击。这种攻击通过在原始干净的输入样本上添加精心设计的扰动,使得分类器产生错误的结果。而且,对抗样本具有迁移性,即同一样本能够在多个分类模型或任务中实施迁移攻击。这种迁移性使得对抗样... 详细信息

深度学习已经被证明容易受到对抗样本的攻击。这种攻击通过在原始干净的输入样本上添加精心设计的扰动,使得分类器产生错误的结果。而且,对抗样本具有迁移性,即同一样本能够在多个分类模型或任务中实施迁移攻击。这种迁移性使得对抗样本的威胁更加普遍。随着深度学习模型的广泛应用和不断发展,对抗样本及其迁移性所带来的威胁已经渗透到人工智能的其他领域。因此,对抗样本攻击研究的推动有助于增强深度学习模型的鲁棒性和安全性研究,以应对现实世界中的挑战。目前,图像对抗样本的迁移攻击还存在一些问题。首先,不同模型结构对同一种对抗性攻击的鲁棒性可能存在显著差异,导致对抗样本的迁移效果仍然有待提升。其次,对抗样本的迁移性很大程度上取决于如何选择图像在特征空间中的表示进行攻击。然而,目前的方法尚未找到最有效的特征表示。另外,在跨任务的迁移攻击中,通用类对抗扰动也面临着数据分布差异的挑战。最近的研究关注了预训练模型鲁棒性的问题,尽管一些方法能够实现一定程度的下游任务迁移攻击,但是不同任务的数据分布差异导致其总体攻击成功率还不够理想,并且差异较大。针对以上图像对抗样本迁移性的问题,本文深入分析了图像的特征空间,并进行了以下方面的工作: 1)为了提高特定扰动下对抗样本在不同模型上的攻击成功率,本文通过对图像特征空间的关键进行深入分析,发现图像的主要特征相对于次要特征对每个图像样本迁移性有更重要的影响。基于此,本文提出了一个针对特定扰动生成的攻击算法,记为Content Feature Optimization Attack(CFOA),旨在通过破坏每个图像的关键特征来生成可迁移的对抗样本。CFOA首先提取了每个图像的内容特征,然后通过一个迭代优化过程,逐步改变这些内容特征的参数表示,最终为每个干净样本生成能够在多个模型之间迁移的特征级别扰动。该方法强调了特定图像的关键特征对于生成可迁移对抗样本的有效性。实验结果表明,CFOA所生成的对抗样本在多个目标模型上超过最新方法和基线方法,证明了该方法在生成可迁移对抗样本方面的有效性。 2)为了提高通用类对抗扰动对下游微调任务的攻击成功率,本文对预训练的卷积神经网络模型中的特定卷积层的输出进行分析,发现破坏较浅层的特征更能高效地引起从预训练模型到下游任务的迁移攻击。基于此,本文提出了一种针对微调模型的迁移攻击算法,称为Weighted Convolution Feature Attack(WCFA),旨在生成同时影响下游微调任务的图像样本的通用扰动,即预训练对抗扰动。相比于初始的预训练对抗扰动生成方法,WCFA首次引入了类标签信息的考虑,并利用类激活权重加权预训练模型的低层卷积输出特征图并对其优化提升。在不断的迭代优化后,生成的扰动能够将多个下游任务中的图像推离决策边界,实现对未知下游微调模型的迁移性攻击。这一方法强调了加权赋值后的低层卷积层的特征表示在迁移到下游微调模型中的关键作用。广泛的实验证明,在不了解具体下游任务的情况下,该算法在多种自监督预训练模型上生成的预训练对抗扰动在下游多个任务的平均攻击成功率超过了最新方法以及其他基线方法。综上所述,本研究聚焦于图像特征空间的深度探索,旨在揭示图像的关键特征并利用其生成可迁移的对抗样本,进而提出了两种扰动生成算法。最终的实验结果表明,这些算法在不同模型或未知下游任务上的迁移攻击性能表现优异,为深度学习应用的安全性提供了研究思路。

关键词：图像对抗样本迁移攻击对抗扰动深度学习特征空间

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的图像对抗样本攻击研究

基于深度学习的图像对抗样本攻击研究

引用

作者：王晓彤黑龙江大学

学位级别：硕士

在当今人工智能与数字信息化并行发展的时代背景下,神经网络模型在基于计算机视觉的识别和分类任务中表现出了优异的性能。相较于传统技术,深度神经网络能够提取出数据丰富的特征,进行高效地学习并将其表达出来,因此在许多图像分类领域... 详细信息

在当今人工智能与数字信息化并行发展的时代背景下,神经网络模型在基于计算机视觉的识别和分类任务中表现出了优异的性能。相较于传统技术,深度神经网络能够提取出数据丰富的特征,进行高效地学习并将其表达出来,因此在许多图像分类领域中得到了广泛应用。然而,研究表明,通过向输入图像添加某种对抗性扰动,就能使深度神经网络的分类结果输出错误,这种现象说明神经网络模型具有一定的脆弱性,给实际系统的部署与应用带来了极大的威胁。因此,研究对抗样本攻击方法,帮助推动深度学习领域安全发展至关重要。本文围绕对抗样本的生成过程进行研究,提高对抗样本的攻击性能,主要工作内容如下:(1)针对对抗样本在黑盒场景设置下攻击其他未知模型时迁移性较低的问题,本文提出一种基于数据增强技术的对抗攻击方法。由于输入图像单一,本文利用数据增强技术中的仿射-错切变换来增强输入信息,使得输入更加多样化。使用基于Nesterov加速梯度的对抗样本生成方法来指导梯度下降过程,进一步减轻过拟合现象。固定角度数值进行不同方向上的错切变换,充分利用被扰乱的图像像素点排列结构来生成对抗噪声,帮助提升对抗样本攻击未知模型的迁移性。设计了单模型与集合模型攻击实验,结果充分验证了所提方法的有效性。(2)针对目前一些基于信息混淆攻击方法存在的成功率较低且缺乏特征信息指导损失计算的问题,本文提出一种基于特征空间的信息类别混淆攻击方法。在该方法中,引入中间层的特征输出作为损失指导,以优化对抗扰动的计算方向。与其他方法不同的是,除了在输入层面加入其他类别的图像信息完成信息增强过程外,还利用模型输出标签损失和特征损失共同指导对抗样本远离实际的决策边界。通过与其他方法的比较,验证了所提出的方法具有良好的攻击性能。

关键词：图像分类图像对抗样本黑盒攻击迁移性信息混淆攻击

来源：评论

学校读者我要写书评

暂无评论

针对神经网络的图像对抗样本生成及应用研究

针对神经网络的图像对抗样本生成及应用研究

引用

作者：刘雨佳中国科学技术大学

学位级别：硕士

深度神经网络在机器学习领域的许多任务中取得了巨大的成功,例如图像分类、语音识别、自然语言处理、医疗健康等。然而,近期有研究表明深度神经网络很容易受到对抗样本的攻击。对抗样本,即在数据集中通过故意添加细微的干扰所形成的输... 详细信息

深度神经网络在机器学习领域的许多任务中取得了巨大的成功,例如图像分类、语音识别、自然语言处理、医疗健康等。然而,近期有研究表明深度神经网络很容易受到对抗样本的攻击。对抗样本,即在数据集中通过故意添加细微的干扰所形成的输入样本,导致模型以高置信度给出一个错误的输出。在安全要求严格的应用中,如自动驾驶汽车、人脸识别、监视系统等,这种攻击严重阻碍了神经网络系统的部署。对抗样本的存在对人工智能安全造成了极大的威胁,这些威胁可能导致人工智能所驱动的识别系统出现混乱,形成漏判误判,甚至导致系统崩溃或被劫持。另一方面,对抗样本的存在也可以激发更多关于如何防御此类攻击的研究,从而获得更加鲁棒的可信赖的神经网络。近几年来,国内外研究团队在该领域的研究可分为针对神经网络的攻击和防御两方面。攻击即为研究如何构造或生成对抗样本的算法来欺骗神经网络,防御即为采取某些手段将对抗样本恢复为可被正确识别的输入数据或者训练不受对抗样本干扰的更加鲁棒的神经网络,保证人工智能系统的安全。研究对抗样本的生成算法和研究防御算法同样重要,探究攻击算法不仅可以促进更加有效的防御算法的产生,而且可以使研究者关注对抗样本的积极应用。攻击者仍应挖掘除神经网络本身脆弱性外的其他漏洞,发现其他可攻击点,多角度设计对抗样本,从而促进防御者对神经网络的修复,提高系统稳健性。此外,攻击者还应探究如何在苛刻环境中进行攻击,如无法得知网络内部结构参数的黑盒攻击或在获得信息量极少的情形下的攻击。本文对图像对抗样本展开了四个方面的研究,主要贡献如下:1.针对防御蒸馏网络的对抗样本生成算法:防御性蒸馏是现有的一种强有效的对抗样本防御方法,本文提出了一种针对防御性蒸馏网络的对抗样本生成算法——“∈邻域攻击”,通过巧妙地设计目标函数,在其中加人攻击者可调参数来限制图像中每个像素的扰动上限,既提高了算法可控性,又确保了生成的对抗样本中不出现对图像视觉质量有较大伤害的亮点。实验表明,该方法也可以大大提高对抗样本的计算速度。2.针对图像缩放的对抗样本生成算法:图像缩放是深度学习流程中将输入图像调整为模型所需尺寸的常用操作。已有的工作大多基于利用神网络本身的弱点,本文从不同视角出发,提出了一种新的对抗样本生成方法——“嵌入攻击”。通过此攻击,可以将一个尺寸较小的目标图像嵌入到一个大的原始图像中,以生成对抗样本,而无需访问查询目标网络模型。当把对抗样本调整为模型规定的输入大小时,它将完全恢复为嵌入的目标图像。本文针对三种常见的图像缩放方法分别设计了嵌入攻击算法,为了提高攻击的实用性,同时设计了一种能够适用于不同图像缩放方法的通用的嵌入攻击。此外,为改善生成的对抗样本的视觉质量,本文在嵌入攻击的基础上添加了图像预选、色彩转移等步骤,从而形成了一个完整的对抗样本生成框架。3.基于决策的对抗样本生成算法:深度神经网络在黑盒情形下也会受到攻击,攻击者通过多次访问查询模型,可以只依赖模型每次返回的最终决策标签来进行攻击,而无需依赖任何概率信息,此类攻击称为“基于决策的攻击”,它是黑盒攻击中最具有挑战性的一种。本文提出了一种新的基于决策的攻击算法——“qFool”,该算法可以仅通过少量的对目标模型的访问查询生成对抗样本。与之前的攻击相比,qFool可以在达到相同的对抗样本视觉质量的情况下大大减少对模型的查询次数。此外,本文还通过将对抗扰动约束在低频子空间来进一步改进算法,并成功攻击了商业图像识别系统,显示了qFool在现实场景应用中的有效性。4.基于对抗样本的图像内容保护算法:社交平台上的在线图片分享可能使用户在不经意间泄露隐私,如一些企业会利用深度神经网络检测这些上传的图像,并出于商业目的对用户进行偏好分析。为了在不影响人眼视觉质量的情况下躲避此类神经网络检测器的检测,本文提出了一种对抗样本生成算法——“隐身算法”,使自动检测器无法确定图像中物体的位置,达到保护图像内容的目的。实验表明,隐身算法与其他图像内容保护方法相比,躲避检测器的成功率高,处理后图像的视觉质量好。同时,算法中的用户可调参数“隐身衣厚度”可用于调节图像扰动强度,提高算法可控性。此外,本文发现此算法生成的对抗样本具有可转移性,即针对某个特定的网络模型生成的对抗样本也会影响其他模型。

关键词：神经网络图像对抗样本对抗攻击图像内容保护

来源：评论

学校读者我要写书评

暂无评论

基于动量的映射式梯度下降算法

引用

计算机科学 2022年第S01期49卷 178-183页

作者：吴子斌闫巧深圳大学计算机与软件学院广东深圳518060

近年来,深度学习已被广泛应用于计算机视觉问题中,并取得了卓越的成功。但研究人员发现神经网络容易受到添加微弱扰动的原始样本的干扰,导致模型给出一个错误的输出,这类输入样本称为“对抗样本”。目前已有一系列生成对抗样本的算法被... 详细信息

近年来,深度学习已被广泛应用于计算机视觉问题中,并取得了卓越的成功。但研究人员发现神经网络容易受到添加微弱扰动的原始样本的干扰,导致模型给出一个错误的输出,这类输入样本称为“对抗样本”。目前已有一系列生成对抗样本的算法被提出。针对已有的对抗样本生成算法——映射式梯度下降算法(Projected Gradient Descent),提出了结合动量并采用新的损失函数的改进方法MPGD;算法,以确保更新方向的稳定且避免不良局部最大值的出现,同时避免交叉熵损失函数可能出现的梯度消失情况。通过与包含3种架构4个鲁棒模型的实验,证实了所提MPGD;算法具有更优的攻击效果和更强的攻击迁移性。

关键词：深度学习卷积神经网络图像对抗样本对抗攻击

来源：评论

学校读者我要写书评

暂无评论

高迁移性黑盒对抗攻击算法的研究与实现

高迁移性黑盒对抗攻击算法的研究与实现

引用

作者：陈诚中国石油大学(北京)

学位级别：硕士

图像对抗样本是通过人为地在原始图像上添加细微干扰噪声,在人眼看来和原始图像差异不大,但却能够误导深度学习模型分类的特殊图像样本。图像对抗样本还具有一定的迁移性,通过一种深度学习模型生成图像对抗样本也能够对其他模型造成影... 详细信息

图像对抗样本是通过人为地在原始图像上添加细微干扰噪声,在人眼看来和原始图像差异不大,但却能够误导深度学习模型分类的特殊图像样本。图像对抗样本还具有一定的迁移性,通过一种深度学习模型生成图像对抗样本也能够对其他模型造成影响。黑盒对抗攻击是图像对抗样本领域的重点研究问题,能够利用图像对抗样本的迁移性对未知结构和参数的深度学习模型进行攻击,以判断深度学习模型的鲁棒性并提升深度学习模型的性能。但是目前黑盒对抗攻击存在迁移性不足的问题,无法生成高迁移性的图像对抗样本,不能有效地对未知结构和参数的深度学习模型进行攻击。因此,为提升黑盒对抗攻击的迁移性,本文对两种不同类型的黑盒对抗攻击方法(基于梯度的黑盒对抗攻击方法和基于输入变换的黑盒对抗攻击方法)进行了详细的研究与分析,并分别提出了两种相应的黑盒对抗攻击方法: (1)在基于梯度的黑盒对抗攻击方法方面,该类方法使用固定大小干扰噪声生成图像对抗样本,这可能会削弱对抗攻击迁移性。为解决该问题,本文提出了NAI-FGM方法。NAI-FGM方法首先使用Nesterov优化算法让原始输入图像提前更新,并在更新后的图像上计算得到梯度。之后NAI-FGM方法使用Adam优化算法在利用梯度计算得到一阶动量估计和二阶动量估计后自适应地调整干扰噪声的大小,并生成高迁移性的图像对抗样本。经过大量实验验证,NAI-FGM方法可以取得比现有基于梯度的黑盒对抗攻击方法更高的迁移性。同时,实验验证了 NAI-FGM方法有着良好的迭代性,能够和基于输入变换的黑盒对抗攻击方法以及基于集成模型的黑盒对抗攻击方法结合,以进一步提升NAI-FGM方法的迁移性。 (2)在基于输入变换的黑盒对抗攻击方法方面,该类方法仅对单张图片进行数据增广处理,存在从单张图像上获取过多信息而减少对抗攻击迁移性的问题。为解决该问题,本文提出了 AdAugmix方法。AdAugmix方法首先使用多种数据增广操作处理原始输入图片,并得到和原始输入图片有差异的增广图片,之后将增广图片和原始输入图片进行混合,最后在混合后的图片上计算得到梯度并生成图像对抗样本。本文通过大量实验验证了 AdAugmix方法能够取得更高的攻击成功率,同时能够和其他黑盒对抗攻击方法结合并进一步提升AdAugmix方法的迁移性,展现出比现有基于输入变换的黑盒对抗攻击方法更高的迁移性以及迭代性。

关键词：图像对抗样本黑盒对抗攻击迁移性优化算法数据增广操作

来源：评论

学校读者我要写书评

暂无评论

面向机器学习模型的对抗样本生成技术

面向机器学习模型的对抗样本生成技术

引用

作者：胡丁洋电子科技大学

学位级别：硕士

当前,利用机器学习模型的各种技术广泛应用于自然语言处理、文字识别、计算机视觉等领域,但是各种模型十分容易受到对抗样本的影响,从而出现错误的输出结果。研究对抗样本的生成方式能够帮助人们认识机器学习模型的脆弱性,并为提高模型... 详细信息

当前,利用机器学习模型的各种技术广泛应用于自然语言处理、文字识别、计算机视觉等领域,但是各种模型十分容易受到对抗样本的影响,从而出现错误的输出结果。研究对抗样本的生成方式能够帮助人们认识机器学习模型的脆弱性,并为提高模型的安全性服务。本文针对深度学习模型和传统机器学习模型展开了对抗样本生成方式的研究。在传统机器学习模型中,以基于划分的聚类算法为攻击模型,提出了基于多粒子群优化的攻击算法。在深度学习模型的对抗样本生成中,给出了黑盒条件下的图像对抗样本生成方式和文本对抗样本生成方式。主要的工作及创新点如下:1)针对传统机器学习模型,提出了采用多粒子群优化算法来生成对抗样本的方法-PsoAttack。与传统粒子群优化方式不同的是,多粒子群优化方式是通过发现不同粒子群的全局最优粒子与计算粒子的最短欧式距离,来快速迭代生成对抗样本。在实验中发现该算法应用在KMeans聚类算法模型中能有效获取决策边缘,在对多维数据的攻击中也能获得良好的攻击效果。2)针对图像的对抗样本生成方式,提出了发现显著图形域的通用性对抗扰动生成方法-CjpAttack。一种利用生成式模型获取显著图像域,并在显著特征域中加入扰动从而生成对抗样本的方式。在Mnist数据集上的实验结果表明,在黑盒下,CjpAttack通过有条件提高对抗样本与原始样本的L2范式差值,使得攻击成功率高于FGSM、Deepfool等白盒方法,并相比与Deepfool有着更快的攻击速率。3)针对文本的对抗样本,提出了一种语义相似性约束条件下的多粒度文本对抗样本攻击方法-MultiAttack。通过单词替换(单词级)和短文本生成模型(语句级)相结合的方式来生成目标样本,并在生成对抗文本时加入了文本的语义相似性限制和词性限制,使得生成的对抗文本更具有语义相似性。由于整个攻击框架中采取遗传进化算法会产生大量子类,最坏情况会导致指数级的运算量增长,提出了一种动态调参方式,对产生的目标子类种群进行剪枝。实验证明采用这种多粒度攻击方式,对比于TextBugger、PWWS、VIPER等方法能够产生更高成功率并且具有更高的语义相似性的对抗样本。本文的成果可用于发现目标模型的脆弱性,为提高模型的安全性服务。

关键词：图像对抗样本文本对抗样本多粒度攻击黑盒攻击优化算法

来源：评论

学校读者我要写书评

暂无评论

多媒体模型对抗攻防综述

引用

计算机科学 2021年第3期48卷 27-39页

作者：陈凯魏志鹏陈静静姜育刚复旦大学计算机科学技术学院上海201203 上海市智能信息处理重点实验室上海200433

近年来,随着以深度学习为代表的人工智能技术的快速发展和广泛应用,人工智能正深刻地改变着社会生活的各方面。然而,人工智能模型也容易受到来自精心构造的“对抗样本”的攻击。通过在干净的图像或视频样本上添加微小的人类难以察觉的扰... 详细信息

近年来,随着以深度学习为代表的人工智能技术的快速发展和广泛应用,人工智能正深刻地改变着社会生活的各方面。然而,人工智能模型也容易受到来自精心构造的“对抗样本”的攻击。通过在干净的图像或视频样本上添加微小的人类难以察觉的扰动,就能够生成可以欺骗模型的样本,进而使多媒体模型在推理过程中做出错误决策,为多媒体模型的实际应用部署带来严重的安全威胁。鉴于此,针对多媒体模型的对抗样本生成与防御方法引起了国内外学术界、工业界的广泛关注,并出现了大量的研究成果。文中对多媒体模型对抗攻防领域的进展进行了深入调研,首先介绍了对抗样本生成与防御的基本原理和相关背景知识,然后从图像和视频两个角度回顾了对抗攻防技术在多媒体视觉信息领域的发展历程与最新成果,最后总结了多媒体视觉信息对抗攻防技术目前面临的挑战和有待进一步探索的方向。

关键词：对抗攻击对抗防御深度学习图像对抗样本视频对抗样本

来源：评论

学校读者我要写书评

暂无评论

卷积神经网络中对抗样本生成技术研究与实现

卷积神经网络中对抗样本生成技术研究与实现

引用

作者：陈秋希东南大学

学位级别：硕士

近年来,随着深度神经网络在人工智能领域中不断发展并取得优异成果,其所涉及的一些安全问题也逐渐引起了业界广泛关注,其中一类就是对抗样本攻击（Adversarial Example Attack）。攻击者通过向深度学习模型输入精心设计的对抗样本,致使... 详细信息

近年来,随着深度神经网络在人工智能领域中不断发展并取得优异成果,其所涉及的一些安全问题也逐渐引起了业界广泛关注,其中一类就是对抗样本攻击（Adversarial Example Attack）。攻击者通过向深度学习模型输入精心设计的对抗样本,致使被攻击模型以高置信度输出错误分类结果,这严重威胁着深度学习模型的安全性和鲁棒性。研究对抗样本生成有两大重要意义:一是能够帮助找到导致被攻击模型出现系统混乱、误判、漏判等现象的根本原因,进而研究如何改善深度神经网络的鲁棒性;二是能够激发对抗样本攻防算法和模型的研究,推动深度学习算法的发展。本文将重点针对目前主流的几种卷积神经网络,研究如何优化图像对抗样本的生成算法,具体工作如下:1.提出了将RMSProp与传统算法相结合:本文提出将RMSProp优化算法加入到传统生成算法IFGSM和IFGM中,解决了过去生成算法的三大问题:采用自适应学习率来解决梯度更新步长需要自行选择的问题;采用累积梯度平方的指数平均数来解决梯度更新方向不准确的问题;采用梯度平方的均方根来解决迭代次数不可控的问题。同时该方法可以很容易地推广到其他攻击情形中,并一定程度上缓解了在白盒攻击与可转移性之间权衡导致的折衷。2.生成了有效的无目标对抗样本:本文在L∞和L2范数约束下,分别采用RMSProp-IFGSM-Nontargeted和RMSProp-IFGM-Nontargeted算法,更加高效快速地生成两组无目标对抗样本,有效提升生成效率和综合能力。通过大量实验不断优化参数,分别在黑盒和白盒攻击条件下,对这两组对抗样本进行评估分析,系统化生成能欺骗大多数CNN的对抗样本。实验表明本文算法可为目前主流的卷积神经网络生成有效、隐蔽、鲁棒、有一定攻击强度且可迁移的无目标对抗样本,并在一定程度上提升了黑盒攻击的效果。与传统FGSM、IFGSM、MIFGSM、FGM、IFGM、MIFGM算法生成的对抗样本进行性能比较,证实本文算法在保持高攻击成功率的同时,还具有强大的可转移能力。3.生成了有效的有目标对抗样本:本文研究了同时攻击多个模型的方法,提出将多个模型组成为一个集合模型进行训练的策略,利用集合模型分别在L∞和L2范数约束下,利用RMSProp-IFGSM-Targeted和RMSProp-IFGM-Targeted生成两组有目标对抗样本。采用同无目标对抗样本类似的黑盒和白盒攻击条件进行评估分析,并同时与传统FGSM、IFGSM、MIFGSM、FGM、IFGM、MIFGM算法进行比较,验证本文算法生成对抗样本的有效性、鲁棒性、隐蔽性、可迁移性和优越性。

关键词：卷积神经网络图像对抗样本深度学习

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：