检索结果-内蒙古大学图书馆

作者：罗基哈尔滨工业大学

学位级别：硕士

机器学习即服务作为由云平台提供的云计算服务组件,是一系列提供机器学习工具的服务。这些服务包括用于机器学习算法训练和调整、数据预处理、数据可视化和预测API等工具。这些服务帮助用户快速开始机器学习,而无需设置任何专门的基础... 详细信息

机器学习即服务作为由云平台提供的云计算服务组件,是一系列提供机器学习工具的服务。这些服务包括用于机器学习算法训练和调整、数据预处理、数据可视化和预测API等工具。这些服务帮助用户快速开始机器学习,而无需设置任何专门的基础设施。用户通过API使用平台上的模型,获得洞察力和决策制定。然而,平台的模型受到模型提取攻击的威胁。攻击者对这些模型进行窃取,在本地建立具有类似功能的模型,以取代远程服务。在模型提取攻击中,将平台上被攻击的模型称为目标模型,将本地建立的模型称为替代模型。本文在图像分类任务上对模型提取攻击进行了研究。模型提取攻击面临的一个关键挑战是如何以更少的样本查询目标模型,同时实现高精度的模型提取。过多的查询样本会带来攻击成本高和被平台限制的问题。为了应对这个关键挑战,本文研究了将实例选择方法应用于攻击中以减少查询次数;将模型确定程度应用于攻击中以减少查询次数和提高精度;将半监督学的一致性正则化方法应用于攻击中以减少查询次数和提高精度。将以上方法结合起来,得到了一个低查询量高精度的模型提取攻击框架,并通过实验验证了该框架的有效性以及其抵抗防御方法的能力。在模型提取攻击中,攻击者所用的数据在很大程度上影响攻击的效果。本文研究了基于目标分布进行模型提取攻击的可行性问题。使用生成对抗网络学习目标分布并从中采样数据进行攻击。实验表明,该方法可以进行较为成功的模型提取攻击,并且攻击效果随着使用的分布接近目标分布而增强。此外,本文对是否可能仅在部分类上进行提取攻击的问题进行了研究,并提出了两种提取部分类的攻击方法:单类提取攻击和多类提取攻击的方法,丰富了模型提取攻击的攻击手段。本文的研究为模型提取攻击提供了更多的思路和方法,也为防御带来了启示。本文的研究也可以提高云平台重视模型安全的意识,促进云平台采取措施保护模型安全。

关键词：模型提取攻击机器学习即服务模型安全

来源：评论

学校读者我要写书评

暂无评论

基于目标分布的模型提取攻击方法研究

引用

网络空间安全 2023年第5期14卷 33-41页

作者：罗基刘洋哈尔滨工业大学(深圳)

[目的/意义]在模型提取攻击中，攻击者使用的数据极大地影响了攻击的有效性。在实践中，攻击者往往很难获取到精确的目标数据。相比之下，目标模型所用数据的分布可能更容易获得。基于目标分布进行模型提取攻击的方法，为攻击提供了新... 详细信息

[目的/意义]在模型提取攻击中，攻击者使用的数据极大地影响了攻击的有效性。在实践中，攻击者往往很难获取到精确的目标数据。相比之下，目标模型所用数据的分布可能更容易获得。基于目标分布进行模型提取攻击的方法，为攻击提供了新的思路和方法，同时也提醒拥有有价值模型的云平台和个人，需要采取措施防止攻击者获取目标分布。[方法/过程]使用一些生成对抗网络来学习目标分布并生成数据，并使用此数据执行模型提取攻击。研究了提取部分类攻击方法，并提供了两种提取部分类的方法，丰富了模型提取攻击的攻击手段。[结果/结论]实验结果表明，基于目标分布进行模型提取是可行的，得到的替换模型甚至在某些类别上超过了目标模型的性能，同时攻击效果随着使用的分布接近目标分布而增强。

关键词：模型提取攻击生成模型目标分布云平台模型安全

来源：评论

学校读者我要写书评

暂无评论

机器学习分类模型的模型提取和成员推理攻击方法研究

机器学习分类模型的模型提取和成员推理攻击方法研究

引用

作者：杨盼盼中国科学技术大学

学位级别：硕士

机器学习模型攻击方法的研究对于提高机器学习模型的安全性、保密性和鲁棒性具有重要的意义。通过研究机器学习模型的攻击方法,可以发现模型存在的漏洞和问题,并且提出相应的解决方案,从而保护机器学习模型的安全性和稳定性,提高人们对... 详细信息

机器学习模型攻击方法的研究对于提高机器学习模型的安全性、保密性和鲁棒性具有重要的意义。通过研究机器学习模型的攻击方法,可以发现模型存在的漏洞和问题,并且提出相应的解决方案,从而保护机器学习模型的安全性和稳定性,提高人们对机器学习的信任度,促进机器学习技术的广泛应用和发展。本文针对机器学习分类模型的模型提取攻击和成员推理攻击方法进行研究。在模型提取攻击方面,本文提出了数据预生成框架,在训练替代模型之前生成训练数据以减少查询代价和训练时间。在成员推理攻击方面,本文在目标模型仅返回标签的情况下,提出了基于影子模型和样本优化的成员推理攻击方法。总的来说,本文对分类模型中的模型提取攻击和成员推理攻击方法进行研究,主要工作如下:·提出了基于数据预生成框架的模型提取攻击方法。现有基于攻击者无训练数据信息场景下的攻击方法,存在查询冗余和训练时间较长的问题。因此本文提出在训练替代模型之前预先合成训练数据,以提升模型训练速度同时减少查询代价。具体来说,首先利用公开数据集训练生成模型,生成无标签样本,通过查询目标模型得到初始数据集。接下来,通过类别平衡和鲁棒性过滤策略对样本进行筛选,得到预生成的训练数据集。最后,利用该数据集在本地训练替代模型。我们在三个广泛使用的图像分类数据集上进行了评估,包括CIFAR-10、MNIST、Fashion-MNIST。相比于之前的方法,本文的方法极大的降低了模型提取攻击的查询代价与训练所需时间,同时达到了相当甚至更高的替代模型准确度。·提出了基于影子模型和样本优化的成员推理攻击方法。为了应对目标模型只返回标签的场景,本文利用影子模型代替目标模型对样本的预测概率向量进行估计。具体而言,首先利用生成的数据集训练得到本地的影子模型,并根据影子模型构造攻击模型的训练数据,最终训练一个成员推理攻击模型。同时,为了帮助影子模型更好地学习目标模型的决策边界,本文进一步提出样本优化策略对生成数据进行调整。对比其它方法利用对抗样本攻击来应对目标模型仅返回标签的场景,利用影子模型的方法在查询代价下更具优势。我们在CIFAR-10和MNIST这两个流行的图像分类数据集上进行了评估,实验结果证明了本文提出方法的优越性,同时消融实验也说明了样本优化策略的有效性。

关键词：隐私保护模型提取攻击成员推理攻击无需数据标签

来源：评论

学校读者我要写书评

暂无评论

面向深度神经网络的黑盒提取攻击方法研究

面向深度神经网络的黑盒提取攻击方法研究

引用

作者：王雨婷沈阳航空航天大学

学位级别：硕士

深度神经网络模型的输出隐含着关于模型的相关信息。尽管当前深度神经网络模型通常以黑盒形式为人们提供服务,即模型的内部信息是完全不透明的,模型的安全性仍然会受到严重威胁。模型提取攻击是当前最具威胁性的攻击之一,允许攻击者利... 详细信息

深度神经网络模型的输出隐含着关于模型的相关信息。尽管当前深度神经网络模型通常以黑盒形式为人们提供服务,即模型的内部信息是完全不透明的,模型的安全性仍然会受到严重威胁。模型提取攻击是当前最具威胁性的攻击之一,允许攻击者利用目标黑盒模型的输出来训练一个与其功能相似的替代模型,这极大地危及了人工智能应用和部署的安全。因此,研究模型提取攻击对于全面评估神经网络模型所面临的风险至关重要,促进模型防御方式的优化以确保人工智能系统免受攻击,为人工智能安全领域的进步做出了贡献。尽管目前在模型提取攻击方面已经取得了一定的研究进展,但是仍然存在以下问题有待解决:(1)模型提取攻击主要依靠与目标模型交互式的查询访问,来获取标签构造数据集,进而训练替代模型。目前输入到目标模型的查询样本质量较差,导致构建的数据集无法有效提高替代模型的性能。(2)大多数现有的模型提取攻击方法都假定攻击者可以获取目标黑盒的某些相关数据,或者攻击目标为全概率输出的黑盒模型,而对于只输出最高置信度对应类别的硬标签黑盒模型,这些方法的攻击能力较低,缺乏真实场景下的研究。因此,面向深度神经网络的黑盒提取攻击方法需要继续深入研究,以保障深度学习模型的安全性。本文以攻击为视角,针对上述问题提出了两种模型提取攻击方法:第一种是基于置信度样本池的主动学习提取攻击方法CAEA,其核心思想是构建高置信度样本的攻击数据集,采用主动学习作为攻击框架,结合基于池的主动学习子集采样策略挑选待查询样本,保证训练数据集的质量,以提升替代模型的训练效果,从而实现在有限的查询预算下,提高替代模型的攻击能力。第二种是基于置信度样本池的主动半监督学习提取攻击方法CAEA-SSL,该方法结合了主动学习和半监督学习的思想,充分发挥两者的优势。通过半监督学习将无标签数据引入到训练过程中,以辅助主动学习的标签数据训练,降低了只利用标签数据提升替代模型性能的依赖性,从而提高攻击效果和模型的泛化能力。特别是当面对硬标签黑盒模型时,该方法可以更好地挖掘无标签样本中的信息,在攻击性能方面有着较优的表现。最后,本文以多个黑盒模型作为攻击目标,分别对提出的两种模型提取攻击方法进行了实验验证。结果表明,这两种方法可以有效提取目标黑盒的分类功能,所生成的替代模型攻击性能优于当前的模型提取技术。

关键词：人工智能安全黑盒模型模型提取攻击主动学习半监督学习

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：