检索结果-内蒙古大学图书馆

作者：颜菁杭州电子科技大学

学位级别：硕士

随着深度学习算法的进步和现实应用数据的增加,神经网络模型在计算机视觉和自然语言处理等领域展现出了卓越的性能。然而,在现实应用中,获得足够的经过标注的数据是一项昂贵的任务,因此迁移学习被广泛应用。通过微调开源的源模型(教师模... 详细信息

随着深度学习算法的进步和现实应用数据的增加,神经网络模型在计算机视觉和自然语言处理等领域展现出了卓越的性能。然而,在现实应用中,获得足够的经过标注的数据是一项昂贵的任务,因此迁移学习被广泛应用。通过微调开源的源模型(教师模型)来生成特定任务下的目标模型(学生模型),但是攻击者可以通过训练教师模型获取对应的对抗实例,从而轻易地对学生模型发起攻击,给终端应用带来安全隐患。同时,在迁移学习过程中,源域与目标域不相关的缺陷知识也能够通过教师模型迁移给学生模型。因此,无论是外部的对抗攻击还是模型内部的缺陷继承,都是目前有关迁移学习模型安全性的难点问题。针对上述问题,本文面向迁移学习的模型安全性开展相关的方法研究工作,主要贡献如下: (1)提出了一种基于增强模型缺陷多样性的安全迁移学习方法。首先,通过蒸馏过程获取教师模型中的非鲁棒知识;其次,根据模型缺陷多样性的训练目标,集成训练教师模型,以增强集成教师模型的缺陷多样性,提高教师模型的安全性(即对抗鲁棒性);然后,在迁移学习过程中,通过度量源任务和目标任务间的差异,计算神经网络中权重和神经元的重要性分数,并对教师模型中与目标任务无关的缺陷知识进行切片,以减少学生模型直接继承的教师模型缺陷知识;最后,通过模型缺陷多样性、模型缺陷继承率等指标探索模型的表现性能,验证本文方法设计在提高迁移学习模型安全性方面的有效性和可靠性。 (2)提出了一种诊断和提高迁移学习模型安全性的可视分析方法,并构建了对应的可视分析系统TLMRVis。该方法通过交互式探索帮助用户了解迁移学习过程中模型间的知识迁移与模型安全性之间的关系,并帮助用户理解模型底层的行为预测机制。首先,该可视分析方法可以根据用户选择的目标任务和教师模型,生成不同的学生模型,并通过横向比较学生模型的表现性能,分析得到迁移学习过程中的模型安全性问题;其次,TLMRVis支持可视分析目标数据集的预测结果,并针对任意实例展示对应的模型预测过程;然后,TLMRVis提供了缓解模型缺陷的算法设计接口,利用可视分析教师模型中已有的缺陷知识切片来初始化缺陷切片权重,并探索学生模型底层行为预测机制的变化过程;最后,结合两个具体的案例分析,向用户展示及探索迁移学习模型安全性的可视分析过程,帮助用户理解迁移学习中模型的表现性能,同时验证该可视分析方法的有效性。

关键词：迁移学习缺陷多样性集成训练可视分析缺陷缓解模型安全性

来源：评论

学校读者我要写书评

暂无评论

面向雷达图像分类模型的两步式对抗样本检测技术

引用

数据采集与处理 2024年第1期39卷 106-119页

作者：王见张赛楠陈芳南京航空航天大学计算机科学与技术学院南京211106

深度学习技术极大地提高了雷达图像目标分类的精度,但由于神经网络自身的脆弱性使得雷达图像分类系统的安全性受到威胁。本文对雷达对抗样本的攻击性及雷达对抗样本与原始样本在频率域上的差异性进行了分析,并在此基础上,提出了两步式... 详细信息

深度学习技术极大地提高了雷达图像目标分类的精度,但由于神经网络自身的脆弱性使得雷达图像分类系统的安全性受到威胁。本文对雷达对抗样本的攻击性及雷达对抗样本与原始样本在频率域上的差异性进行了分析,并在此基础上,提出了两步式雷达对抗样本检测技术来提升雷达分类模型的安全性。首先基于频率域对输入的雷达图像进行第1步对抗样本检测,分离出对抗样本,然后将剩下的图像分别送入到一个经过对抗训练的模型和一个未经过对抗训练的模型进行第2次对抗样本检测。通过这种两步式的检测方法,可以有效地检测出对抗样本,检测成功率不低于95.73%,有效提升了雷达分类模型的安全性。

关键词：合成孔径雷达深度神经网络对抗样本频率域转换模型安全性

来源：评论

学校读者我要写书评

暂无评论

基于安全熵的访问控制模型量化分析方法

引用

计算机工程与设计 2012年第8期33卷 2911-2914,2925页

作者：王超陈性元熊厚仁曾光解放军信息工程大学电子技术学院河南郑州450004

针对访问控制模型的量化分析问题,提出基于安全熵的安全性量化分析方法。结合信息论有关知识引入安全熵概念,基于安全熵对模型的安全性进行定义;应用该方法对BLP等经典安全模型进行了量化分析,验证了该方法的实用性,并指出了访问控制模... 详细信息

针对访问控制模型的量化分析问题,提出基于安全熵的安全性量化分析方法。结合信息论有关知识引入安全熵概念,基于安全熵对模型的安全性进行定义;应用该方法对BLP等经典安全模型进行了量化分析,验证了该方法的实用性,并指出了访问控制模型和BLP模型对非授权间接访问防护方面的不足。实验结果表明,该方法适用于访问控制模型的安全性度量以及系统的访问控制能力评估。

关键词：信息熵安全熵访问控制模型安全性量化分析方法模型安全性非授权间接访问

来源：评论

学校读者我要写书评

暂无评论

基于对抗攻击的人脸活体检测模型安全研究

基于对抗攻击的人脸活体检测模型安全研究

引用

作者：毛骏杰福建师范大学

学位级别：硕士

人脸活体检测作为一类保障人脸识别免遭表示攻击的安全性验证手段已经得到广泛的应用。然而,现有的研究主要从模型的检测精度和泛化性展开,对于模型本身安全性的研究甚少。同时,随着研究者们发现了深度神经网络中存在的对抗攻击威胁,人... 详细信息

人脸活体检测作为一类保障人脸识别免遭表示攻击的安全性验证手段已经得到广泛的应用。然而,现有的研究主要从模型的检测精度和泛化性展开,对于模型本身安全性的研究甚少。同时,随着研究者们发现了深度神经网络中存在的对抗攻击威胁,人脸活体检测模型中是否存在类似安全隐患也值得我们的探究。因此,本文基于对抗攻击的角度对人脸活体检测模型的安全性进行深入研究,主要从以下两个方面展开:1.结合块攻击、多流输入中的单流攻击和多流攻击等手段探究了模型抵御白盒与黑盒攻击的能力。针对人脸活体检测模型在面对对抗样本时的脆弱性问题,本文首先从频率分析的角度提出了一种基于功率谱的对抗样本检测方式,通过分析扰动聚集引起频谱能量的变化以有效实现对RGB图像的对抗性扰动检测,从而禁止此类图像对活脸检测系统的访问。其次,为了提升多模态模型的安全性,本文提出了一种混合对抗训练与高频抑制相结合的防御方法促使模型学习扰动特征的同时抑制高频对抗信息。实验表明,所提防御方法在模型遭遇对抗样本攻击时能较好的平衡检测精度与鲁棒性。2.通过在活脸检测和换脸检测模型中实施两类后门攻击证明了人脸真实性检测模型中的后门威胁。针对人脸活体检测模型易被嵌入后门,以及现有的后门防御难以在可见触发器和不可见触发器中均保持良好效果等问题。本文提出通过一种基于持续学习的残差注意力网络对中毒样本进行有效过滤。所提防御方法从攻击过程的角度思考对中毒样本中触发器的识别,即后门攻击的成功表明了DNNs具有匹配触发器的能力。同时,为了保持在多类触发器间的良好识别效果,本文又结合了持续学习策略,由此形成中毒样本识别的完整网络。实验证明,所提防御方法具有良好的过滤效果,经过滤后的数据集训练出的网络可以使得后门攻击的失效。

关键词：人脸活体检测对抗样本后门攻击模型安全性

来源：评论

学校读者我要写书评

暂无评论

深度神经网络的物理攻击和模型防御的研究

深度神经网络的物理攻击和模型防御的研究

引用

作者：黄恒熠南京航空航天大学

学位级别：硕士

深度神经网络是人工智能的重要方向之一,在计算机视觉领域取得了巨大的成功,使得机器可以成功代替人工执行大量的视觉任务,如安全监控和自动驾驶等任务。然而,部分任务对于安全性有着极高的要求,错误分类和误检漏检等情形甚至会带来致... 详细信息

深度神经网络是人工智能的重要方向之一,在计算机视觉领域取得了巨大的成功,使得机器可以成功代替人工执行大量的视觉任务,如安全监控和自动驾驶等任务。然而,部分任务对于安全性有着极高的要求,错误分类和误检漏检等情形甚至会带来致命的后果,这使得深度神经网络的安全性成为了一个重要的研究课题,其基本任务是设计更强力的攻击算法以揭示潜在安全威胁,设计更全面的防御算法以弥补安全漏洞。随着深度学习在各类任务中的应用,揭示现实场景中的安全威胁和提高模型部署的安全性逐渐成为热点。这两个任务相互推进,不断出现更强力的攻击算法和更全面的防御策略。因此,本文一方面研究了物理世界中潜在的攻击方式,深入探索并揭示了物理世界中自然光照带来的潜在威胁;另一方面研究了剪枝模型的防御问题,探索了剪枝对于模型鲁棒性的影响,平衡了模型压缩和对抗防御的效果。本文的主要工作包括: (1)本文首先介绍了课题的背景及意义,对近年来深度学习的安全性算法进行了广泛的调研,并对这些算法进行了系统的分类。本文主要围绕“数字领域中的攻击算法”和“物理扰动下的攻击算法”两个类别进行了讨论。在此基础上,对两个类别进一步细分,并介绍了多个代表性算法。 (2)本文结合对抗生成网络的思想,将物理世界中的自然光照条件作为后门触发器,对人脸肖像的光照条件进行修改,通过数据投毒的方式污染深度模型的训练过程,实现了一种物理世界可部署的后门攻击算法。为了解决数据投毒时图像的“类别-标签”不一致的问题,本文提出了一种基于肖像重照明生成模型的后门样本制作方法,修改了原数据集中人脸图像的光照,保证了样本与标签之间类别的一致性。该算法不需要对模型的训练过程进行额外的约束,多个实验也证明了该方法的有效性。 (3)本文综合考虑了模型压缩和对抗防御,在提高模型推理速度的同时增强了模型的对抗防御能力。尽管剪枝等压缩算法解决了深度模型的部署问题,但是忽略了对抗防御能力,且无法与对抗训练算法很好地兼容。针对这一问题,本文探究了模型剪枝对于对抗鲁棒性的影响,并为剪枝与防御这两个相互独立的任务提出了一个端到端的训练框架,减少了额外的运算量并提高了精度和鲁棒性。该方法使用良性样本和对抗样本之间的潜在特征差异指导剪枝,并设计了脆弱抑制损失函数以减少训练过程中的非鲁棒特征。通过大量的实验验证了所提出方法的有效性和可行性。

关键词：模型安全性肖像重照明后门攻击模型剪枝对抗训练

来源：评论

学校读者我要写书评

暂无评论

面向牙齿医疗图像的小样本学习与投毒攻防研究

面向牙齿医疗图像的小样本学习与投毒攻防研究

引用

作者：吴寒杭州电子科技大学

学位级别：硕士

21世纪以来,人类的科技水平逐渐提高,这些最新产生的技术能够大幅降低人们的工作劳动强度,降低人工成本。但是如今仍有很多高成本的人工服务,例如牙齿诊断与治疗。随着社会科技不断的发展,越来越多的新技术逐渐涌现,诸如人工智能等技术... 详细信息

21世纪以来,人类的科技水平逐渐提高,这些最新产生的技术能够大幅降低人们的工作劳动强度,降低人工成本。但是如今仍有很多高成本的人工服务,例如牙齿诊断与治疗。随着社会科技不断的发展,越来越多的新技术逐渐涌现,诸如人工智能等技术自2012年得到长足的发展,相比于传统基于人工的方法,人工智能可以以较快的速度,较低的成本实现很多过去需要人类亲自行动的高成本工作,诸如自动或半自动的医疗诊断、自动驾驶、智能安防和推荐系统等等,但是人工智能也有些许不足。优秀的人工智能识别系统的生成往往依赖大量的数据集,此外有些手段可以对识别系统造成负面的影响,这些问题使得深度学习模型变得“昂贵”且“脆弱”。在医疗领域,深度神经网络对辅助诊断系统的检测能力的提升是巨大的,它可以帮助医生找到病灶,例如识别定位牙齿、龋齿诊断、年龄推断等等,但是医疗数据的获取是困难的,目前对于牙齿目标检测的研究基本依赖大体量的数据集,在小样本下的牙齿目标检测研究较为稀少。此外,基于深度神经网络的医疗图像诊断系统对于模型安全性的要求是比较高的,而且如果用于检测病灶的深度神经网络模型被恶意的攻击,那么其后果是十分危险的。目前相关研究者已经提出很多针对深度神经网络的攻击方法,它们可以对模型造成有效的攻击,因此我们需要将更多精力集中在提升医疗图像检测模型的安全性上。本文研究的内容首先为解决小样本医疗图像的目标检测难度较大的问题,其次还有针对医疗图像识别模型的标签翻转攻击问题。本文根据以上问题提出了两种方法,第一种方法可以很好的改善目标检测模型在小样本的情况下的性能表现,第二种方法可以以较高的鲁棒性抵御针对牙齿医疗数据的标签翻转攻击。(1)针对小样本牙齿目标检测提出了一种基于先验知识迁移、牙齿语义结构特征和信息熵压缩的小样本牙齿目标检测方法,验证实验显示该方法在十张小样本情况下表现良好。(2)针对牙齿医疗图像的标签翻转攻击,提出了一种基于离群点集合统计分析的中毒数据检测方法,提高了检测能力,同时具有较好的可解释性和泛化能力。无论训练集是常规样本或者小样本,本文所提的方法均能有效地检出标签翻转攻击。

关键词：目标检测医疗图像小样本学习数据投毒模型安全性

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：