检索结果-内蒙古大学图书馆

石油学报(石油加工) 2025年第2期41卷 352-361页

作者：王晨中海油惠州石化有限公司广东惠州516086

基于神经网络的深度学习技术已广泛应用于炼油化工工业软测量,其安全性日益引起重视。以用于加氢裂化过程异常监测的深度学习模型为研究对象,提出了基于梯度的TRI-FGSM白盒对抗样本攻击算法,并首次系统考察了加氢裂化深度学习模型的对... 详细信息

基于神经网络的深度学习技术已广泛应用于炼油化工工业软测量,其安全性日益引起重视。以用于加氢裂化过程异常监测的深度学习模型为研究对象,提出了基于梯度的TRI-FGSM白盒对抗样本攻击算法,并首次系统考察了加氢裂化深度学习模型的对抗样本攻击效果的影响因素。结果表明:对抗攻击效果随着攻击迭代轮次而收敛至0.98,说明加氢裂化深度学习模型在面对对抗样本时易被误导、普遍存在安全性问题;对抗攻击算法中范数、扰动阈值的选择可提高攻击效率,但不能提高攻击质量,而加氢裂化回归任务中变量的输入维度和预测标签可显著影响生成的对抗样本的扰动程度,其中重石脑油收率预测案例中攻击收敛时对抗样本扰动度不足0.02,扰动最小,而2个换热器结垢预测案例相应扰动度则分别为0.04和0.12,扰动较大;在变量维度越高、异常监测初期实际标签值偏离模型理论预测值越小时,所生成的对抗样本扰动越小,隐蔽性越好且越不易被检测,攻击质量越高。通过揭露加氢裂化深度学习模型在炼油化工过程初期异常监测中的潜在脆弱性,强调安全性和可靠性,为构建炼油化工高鲁棒深度学习模型提供了有效见解。

关键词：加氢裂化神经网络深度学习对抗样本攻击安全异常监测脆弱性

来源：评论

学校读者我要写书评

暂无评论

基于可解释人工智能的流量对抗样本攻击及防御方法

引用

通信学报 2025年第4期46卷 160-173页

作者：马博文郭渊博田继伟马骏胡永进信息工程大学密码工程学院河南郑州450001 海南大学网络空间安全学院海南海口570100 空军工程大学空管领航学院陕西西安710000

针对基于人工智能的网络入侵检测系统,提出了一种基于可解释人工智能(XAI)的对抗样本攻击方法。利用XAI方法识别关键扰动特征,在保持流量功能时逐步进行针对性扰动,直至恶意流量被判定为良性,实现对抗流量样本攻击。这种方法可以大幅减... 详细信息

针对基于人工智能的网络入侵检测系统,提出了一种基于可解释人工智能(XAI)的对抗样本攻击方法。利用XAI方法识别关键扰动特征,在保持流量功能时逐步进行针对性扰动,直至恶意流量被判定为良性,实现对抗流量样本攻击。这种方法可以大幅减少扰动特征,增强了攻击隐蔽性,而且其所识别的关键特征对不同分类器具有一致性,使得攻击样本具有较强的迁移性。在防御方面,提出了一种基于对抗训练的防御方法,以提升网络入侵检测系统的鲁棒性。实验结果表明,所提攻击方法具有较高的攻击成功率和迁移成功率;所提防御方法可以有效降低对抗样本攻击的成功率,增强了系统的鲁棒性。

关键词：对抗样本攻击可解释人工智能网络入侵检测恶意对抗流量

来源：评论

学校读者我要写书评

暂无评论

物理域中针对人脸识别系统的对抗样本攻击方法

引用

信息安全学报 2023年第2期8卷 127-137页

作者：蔡楚鑫王宇飞章烈剽卓思超张娟苗胡永健华南理工大学电子与信息学院广州510641 中新国际联合研究院广州511356 广州广电卓识智能科技有限公司广州510663 广州广电运通金融电子股份有限公司广州510663

对抗样本攻击揭示了人脸识别系统可能存在不安全性和被攻击的方式。现有针对人脸识别系统的对抗样本攻击大多在数字域进行,然而从最近文献检索的结果来看,越来越多的研究开始关注如何能把带有对抗扰动的实物添加到人脸及其周边区域上,... 详细信息

对抗样本攻击揭示了人脸识别系统可能存在不安全性和被攻击的方式。现有针对人脸识别系统的对抗样本攻击大多在数字域进行,然而从最近文献检索的结果来看,越来越多的研究开始关注如何能把带有对抗扰动的实物添加到人脸及其周边区域上,如眼镜、贴纸、帽子等,以实现物理域的对抗攻击。这类新型的对抗样本攻击能够轻易突破市面上现有绝大部分人脸活体检测方法的拦截,直接影响人脸识别系统的结果。尽管已有不少文献提出数字域的对抗攻击方法,但在物理域中复现对抗样本的生成并不容易且成本高昂。本文提出一种可从数字域方便地推广到物理域的对抗样本生成方法,通过在原始人脸样本中添加特定形状的对抗扰动来攻击人脸识别系统,达到误导或扮演攻击的目的。主要贡献包括:利用人脸关键点根据脸型构建特定形状掩膜来生成对抗扰动;设计对抗损失函数,通过训练生成器实现在数字域的对抗样本生成;设计打印分数损失函数,减小打印色差,在物理域复现对抗样本的生成,并通过模拟眼镜佩戴、真实场景光照变化等方式增强样本,改善质量。实验结果表明,所生成的对抗样本不仅能在数字域以高成功率攻破典型人脸识别系统VGGFace10,且可方便、大量地在物理域复现。本文方法揭示了人脸识别系统的潜在安全风险,为设计人脸识别系统的防御体系提供了很好的帮助。

关键词：人脸识别对抗样本攻击数字域对抗样本物理域对抗样本打印分数损失函数

来源：评论

学校读者我要写书评

暂无评论

基于对抗样本攻击的图像隐写技术研究

基于对抗样本攻击的图像隐写技术研究

引用

作者：马赛中国科学院大学

学位级别：博士

隐写技术是一类重要的隐蔽通信技术。在图像隐写中，基于最小化隐写失真模型的自适应隐写技术是目前研究的主流技术。近年来深度学习技术的普及应用给诸多领域带来长足的进步。在隐写技术中，针对深度学习模型的对抗攻击技术的应用提升... 详细信息

隐写技术是一类重要的隐蔽通信技术。在图像隐写中，基于最小化隐写失真模型的自适应隐写技术是目前研究的主流技术。近年来深度学习技术的普及应用给诸多领域带来长足的进步。在隐写技术中，针对深度学习模型的对抗攻击技术的应用提升了自适应隐写方法的安全性能。对抗样本是一类针对目标分类器模型特殊构造的样本，欺骗目标模型，提升分类错误率，进而提升隐写安全性。在本文中，开展对抗样本攻击技术在图像隐写中的应用相关研究，从隐写对抗样本的构造底层机制，用于对抗样本攻击的敌手模型构造方法，以及迭代对抗攻击机制三方面进行研究。本文研究主题关注隐写技术与对抗样本攻击技术的结合，进一步推动深度学习相关技术在隐写技术中的深入应用。　　具体地，本论文的主要工作与创新如下:　　1.提出一种利用对抗梯度调制隐写代价的自适应隐写方法。该方法以基于敌手模型知识的自适应隐写方法为基础，引入对抗样本攻击机制。在本方法中，利用深度隐写分析模型作为敌手模型，结合基于梯度的对抗样本构造原理，利用梯度信息对隐写代价实施调整操作，控制隐写嵌入时的修改模式，以此引入对抗扰动，进而达成欺骗敌手的目的。该方法将对抗样本攻击机制结合到普通的自适应隐写算法中，提升了隐写算法的安全性能表现，是一种简单有效的隐写对抗样本的生成方式。　　2.提出一种基于隐写分析特征的对抗嵌入方法。敌手模型是基于对抗样本攻击的隐写方法中的重要组成部分，敌手模型通常为深度学习网络，基于特征的隐写分类器因其不可导操作无法直接作为敌手模型。本方法中使用特殊的神经网络模型近似基于隐写分析特征的敌手模型，并以此为基础提出了基于隐写分析特征的对抗嵌入方法。结合实验，该方法中使用的基于隐写分析特征的敌手模型可以有效地计算对抗梯度，对抗嵌入过程中生成的隐写对抗样本比普通的隐写样本具有更高的隐写安全性能。本工作中提出的神经网络模型近似方法可用于其他类型的敌手模型构造。　　3.提出一种基于分段隐写嵌入的迭代式对抗嵌入方法。迭代式构造隐写对抗样本方法是新的发展方向之一，敌手模型在迭代过程中使用生成的隐写对抗样本再次训练，进而获得更好的隐写安全性。本方法中，结合分段隐写嵌入，在不同嵌入阶段中迭代优化敌手模型;结合对抗梯度的实际性质提出新的隐写代价调整方法以适应本对抗嵌入方法。实验证明提出的分段式对抗嵌入方法可以有效提升普通自适应隐写算法的安全性能。

关键词：图像隐写深度学习对抗样本攻击敌手模型迭代式构造

来源：评论

学校读者我要写书评

暂无评论

一种面向无人机视觉目标检测的对抗样本攻击方法

引用

制造业自动化 2022年第7期44卷 149-153,188页

作者：付科涵王布宏王振空军工程大学信息与导航学院西安710077

无人机凭借其优越的机动性被广泛应用于远距离和复杂环境的关键任务之中,其中基于深度神经网络的无人机目标检测在军事侦察、工业巡检中发挥着重要作用,但也为无人机系统安全带来潜在的风险。针对无人机深度目标检测网络,基于投影梯度... 详细信息

无人机凭借其优越的机动性被广泛应用于远距离和复杂环境的关键任务之中,其中基于深度神经网络的无人机目标检测在军事侦察、工业巡检中发挥着重要作用,但也为无人机系统安全带来潜在的风险。针对无人机深度目标检测网络,基于投影梯度提出一种目标梯度对抗样本攻击算法,根据目标检测多任务学习的特点控制目标损失函数生成目标性对抗样本。在TPH-YOLOv5与ECascade-RCNN两种不同结构的无人机图像目标检测模型中,将对抗样本攻击方法在无人机图像数据集VisDrone上展开实验分析。与现有攻击算法相比,算法在攻击成功率与攻击效率上具有显著优势,并且具有更好的模型可用性,对单阶段与两阶段目标检测模型均可实现多类目标性攻击。

关键词：无人机目标检测深度神经网络对抗样本攻击目标性攻击

来源：评论

学校读者我要写书评

暂无评论

针对视频语义描述模型的稀疏对抗样本攻击

引用

计算机科学 2023年第12期50卷 330-336页

作者：邱江兴汤学明王天美王成崔永泉骆婷分布式系统安全湖北省重点实验室湖北省大数据安全工程技术研究中心网络空间安全学院华中科技大学武汉430074

在多模态深度学习领域,尽管有很多研究表明图像语义描述模型容易受到对抗样本的攻击,但是视频语义描述模型的鲁棒性并没有得到很多的关注。主要原因有两点:一是与图像语义描述模型相比,视频语义描述模型的输入是一个图像流,而不是单一... 详细信息

在多模态深度学习领域,尽管有很多研究表明图像语义描述模型容易受到对抗样本的攻击,但是视频语义描述模型的鲁棒性并没有得到很多的关注。主要原因有两点:一是与图像语义描述模型相比,视频语义描述模型的输入是一个图像流,而不是单一的图像,如果对视频的每一帧进行扰动,那么整体的计算量将会很大;二是与视频识别模型相比,视频语义描述模型的输出不是一个单词,而是更复杂的语义描述。为了解决上述问题以及研究视频描述模型的鲁棒性,提出了一种针对视频语义描述模型的稀疏对抗样本攻击方法。首先,基于图像识别领域的显著性分析的原理,提出了一种评估视频中不同帧对模型输出贡献度的方法。在此基础上,选择关键帧施加扰动。其次,针对视频语义描述模型,设计了基于L2范数的优化目标函数。在数据集MSR-VTT上的实验结果表明,所提方法在定向攻击上的成功率为96.4%,相比随机选择视频帧,查询次数减少了45%以上。上述结果验证了所提方法的有效性并揭示了视频语义描述模型的脆弱性。

关键词：多模态模型视频语义描述模型对抗样本攻击图像显著性关键帧选择

来源：评论

学校读者我要写书评

暂无评论

基于孪生结构的对抗样本攻击动态防御方法

引用

计算机工程与应用 2022年第17期58卷 230-238页

作者：熊夙凌捷广东工业大学计算机学院广州510006

神经网络模型已被广泛应用于多个研究领域,但神经网络模型本身存在易受到对抗样本攻击的缺点,如在图像分类中,只需在原始图片中添加微小的对抗扰动生成对抗样本,就可以轻易欺骗神经网络分类模型,这给许多领域的应用安全带来严重的威胁... 详细信息

神经网络模型已被广泛应用于多个研究领域,但神经网络模型本身存在易受到对抗样本攻击的缺点,如在图像分类中,只需在原始图片中添加微小的对抗扰动生成对抗样本,就可以轻易欺骗神经网络分类模型,这给许多领域的应用安全带来严重的威胁。因此,研究如何提高神经网络分类模型对对抗样本攻击的防御能力成为深度学习安全领域的研究热点。目前常用的对抗样本攻击防御方法往往只侧重于提高模型对对抗样本分类的鲁棒性,或者只侧重于检测拦截对抗样本,而对抗训练需要收集大量对抗样本,且难以防御新类型的对抗样本攻击,对于使用额外的分类器去检测对抗样本的方法,则存在着易受到二次攻击等缺点。针对这些问题,提出一种基于孪生神经网络结构的对抗样本攻击动态防御方法,利用孪生结构可比较两个输入相似性的特点,从孪生神经网络两侧的预测差异着手,检测图片在动态滤波前后是否存在不同的攻击效果,从而筛选出带有动态扰动的对抗样本。实验结果表明,在没有收集特定种类的对抗样本进行训练的情况下,该方法对多种对抗样本攻击取得了良好的通用防御效果,其中在FGSM对抗样本测试集上的防御准确率达到95.35%,在DeepFool和JSMA对抗样本测试集上的防御准确率达到93.52%和93.73%,且镜像防御模块中的动态滤波器能够有效地平滑对抗扰动、防御二次攻击,提高了方法的整体安全性。

关键词：深度学习孪生神经网络图像分类对抗样本攻击

来源：评论

学校读者我要写书评

暂无评论

面向自动驾驶感知系统的对抗样本攻击研究综述

引用

信息安全研究 2024年第9期10卷 786-794页

作者：顾芳铭况博裕许亚倩付安民南京理工大学计算机科学与工程学院南京210094 南京理工大学网络空间安全学院南京210094 中国电子信息产业发展研究院北京100081

自动驾驶感知系统通过多种传感器采集周围环境信息并进行数据处理,用于检测车辆、行人和障碍物等,为后续的控制决策功能提供实时的基础数据.由于传感器直接与外部环境相连,且其自身往往缺乏辨别输入可信度的能力,因此感知系统成为众多... 详细信息

自动驾驶感知系统通过多种传感器采集周围环境信息并进行数据处理,用于检测车辆、行人和障碍物等,为后续的控制决策功能提供实时的基础数据.由于传感器直接与外部环境相连,且其自身往往缺乏辨别输入可信度的能力,因此感知系统成为众多攻击的潜在目标.对抗样本攻击是一种具有高隐蔽性和危害性的主流攻击方式,攻击者通过篡改或伪造感知系统的输入数据,欺骗感知算法,导致系统产生错误的输出结果,从而严重威胁自动驾驶安全.系统总结分析了自动驾驶感知系统的工作方式和面向感知系统的对抗样本攻击进展.从基于信号的对抗样本攻击和基于实物的对抗样本攻击2方面对比分析了面向自动驾驶感知系统的对抗样本攻击方案.同时,从异常检测、模型防御和物理防御3个方面全面分析了面向感知系统的对抗样本攻击的防御策略.最后,给出了面向自动驾驶感知系统的对抗样本攻击未来研究方向.

关键词：车联网自动驾驶感知系统对抗样本攻击安全防御

来源：评论

学校读者我要写书评

暂无评论

基于Logits向量的JSMA对抗样本攻击改进算法

引用

信息网络安全 2022年第3期 62-69页

作者：胡卫赵文龙陈璐付伟海军工程大学信息安全系武汉430000

文章针对目前典型基于显著图的对抗样本攻击算法JSMA开展研究,提出基于Logits向量的JSMA对抗样本攻击改进算法L-JSMA。该算法在MNIST数据集和CIFAR-10数据集上证明了攻击效果与Logits排序成正相关。为进一步验证该理论,在Alexnet模型和I... 详细信息

文章针对目前典型基于显著图的对抗样本攻击算法JSMA开展研究,提出基于Logits向量的JSMA对抗样本攻击改进算法L-JSMA。该算法在MNIST数据集和CIFAR-10数据集上证明了攻击效果与Logits排序成正相关。为进一步验证该理论,在Alexnet模型和Inception-v3模型上对攻击目标根据Logits排序进行攻击,结论支持该理论。通过实验分析,攻击能力越强的JSMA衍生算法越能够充分利用神经网络的线性特性,在实验结果中表现出的线性相关性越强。由于神经网络同时具有线性特征和非线性特征,攻击效果并不是与Logits排序严格的正相关。文章通过对白盒攻击的神经网络性质探讨,有利于理解神经网络的本质特征,并对黑盒攻击的研究具有借鉴意义。

关键词：神经网络对抗样本攻击 JSMA Logits

来源：评论

学校读者我要写书评

暂无评论

抗隐写分析的对抗样本攻击技术

抗隐写分析的对抗样本攻击技术

引用

作者：杨敏湖南大学

学位级别：硕士

近几年,深度神经网络迅速成为人工智能领域的研究热点。然而,最新的研究证明DNN易受对抗样本攻击。攻击者通过在干净样本上添加微小的扰动生成对抗样本来欺骗分类器。它们无法被人眼识别,但会造成模型的高置信度分类出错,大大降低模型... 详细信息

近几年,深度神经网络迅速成为人工智能领域的研究热点。然而,最新的研究证明DNN易受对抗样本攻击。攻击者通过在干净样本上添加微小的扰动生成对抗样本来欺骗分类器。它们无法被人眼识别,但会造成模型的高置信度分类出错,大大降低模型分类的准确率。对抗样本攻击会对一些对安全性有严格要求的应用形成严重的负面影响,如自动驾驶、安全监视系统等,甚至会使系统崩溃或为攻击者所利用造成重大损失。但同时,对抗样本攻击的发展也会促进对抗样本防御技术的发展,相互对抗。由于隐写术与对抗样本攻击具有相似性,本文从隐写的角度研究对抗样本的攻击与防御,并探讨隐写术与对抗样本之间的关联。一方面,隐写分析有助于检测对抗性干扰。另一方面,隐写术有助于形成对抗性干扰,这种干扰不仅肉眼看不见,而且在统计上也无法检测。如何利用隐写分析器进行对抗样本检测以及如何将隐写术的思想应用于对抗样本的生成以提高抗检测性是本文的研究重点。本文的主要研究成果如下:1.本文从理论上全面地对比分析了对抗样本攻击与隐写术的相似性,并训练基于CNN的隐写分析器Xu Net和Ye Net来检测由FGSM、Deep Fool、C&W三种主流攻击算法所生成的对抗样本,且获得了较高的检测准确度,通过实验可以证明基于隐写分析的检测技术能够精准地检测到由各种攻击技术制作的对抗样本,即隐写图像与对抗样本存在相似特征,拓宽了对抗样本将来的研究方向,为对抗样本防御者提供了防御新思路。2.本文分析了自适应隐写算法绕过隐写分析器的原理,指出失真函数的重要性,并将其应用于生成对抗样本的过程中,提出了抗隐写分析的对抗样本生成算法。该算法基于自适应隐写术绕过隐写分析器的思想,将隐写算法HILL中的失真函数嵌入到对抗样本生成算法中,通过将梯度信息与失真图相结合从而选取合适的对抗扰动像素点,反复迭代生成对抗样本。相对于主流的攻击算法,既保持了对抗性又提高了抗检测性,且开销不大,生成一个对抗样本只需0.2s。该算法的提出,为对抗样本攻击者提供了提高对抗样本抗检测性的新思路。

关键词：深度神经网络对抗样本攻击隐写分析对抗样本检测

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：