检索结果-内蒙古大学图书馆

计算机研究与发展 2021年第5期58卷 964-976页

作者：张颖君陈恺周赓吕培卓刘勇黄亮中国科学院软件研究所可信计算与信息保障实验室北京100190 信息安全国家重点实验室(中国科学院信息工程研究所) 北京100195 中国科学院大学网络空间安全学院北京100049 中国科学院大学计算机科学与技术学院北京100049 奇安信科技集团股份有限公司北京100015

随着深度神经网络的推广应用,训练后的神经网络模型已经成为一种重要的资产并为用户提供服务.服务商在提供服务的同时,也更多地关注其模型的版权保护,神经网络水印技术应运而生.首先,分析水印及其基本需求,并对神经网络水印涉及的相关... 详细信息

随着深度神经网络的推广应用,训练后的神经网络模型已经成为一种重要的资产并为用户提供服务.服务商在提供服务的同时,也更多地关注其模型的版权保护,神经网络水印技术应运而生.首先,分析水印及其基本需求,并对神经网络水印涉及的相关技术进行介绍;对深度神经网络水印技术进行对比,并重点对白盒和黑盒水印进行详细分析;对神经网络水印攻击技术展开对比,并按照水印攻击目标的不同,对水印鲁棒性攻击、隐蔽性攻击、安全性攻击等技术进行分类介绍;最后对未来方向与挑战进行探讨.

关键词：数字水印深度神经网络神经网络后门神经网络水印水印攻击

来源：评论

学校读者我要写书评

暂无评论

面向GAN模型的神经网络水印方法研究

面向GAN模型的神经网络水印方法研究

引用

作者：马鱼雁杭州电子科技大学

学位级别：硕士

生成式对抗网络(Generative Adversarial Networks,GAN)是一种具有突破性的深度学习模型,最近GAN活跃地应用于各个研究领域研究并取得了不错的进展。然而实际上,训练GAN模型需要大规模的数据集以及大量的算力。因此如何保护投入巨额成... 详细信息

生成式对抗网络(Generative Adversarial Networks,GAN)是一种具有突破性的深度学习模型,最近GAN活跃地应用于各个研究领域研究并取得了不错的进展。然而实际上,训练GAN模型需要大规模的数据集以及大量的算力。因此如何保护投入巨额成本训练得到的GAN模型不被窃取盗用成为了目前亟待解决的问题。虽然目前已经有研究者提出了有效的神经网络水印方法来证明被盗窃模型的所有权,能够实现版权保护。但是大部分都是针对目标检测的分类任务神经网络模型,这些方法往往无法很好地应用于GAN。针对现有的神经网络水印在GAN模型载体上研究不足的问题,本文面向GAN模型研究提出了两种模型水印方法。首先,面向根据特征控制生成图像的GAN模型场景,提出了一种针对GAN的黑盒水印方法。该方法利用水印验证图像和标签来生成触发集,并与原数据集一起训练得到带水印的GAN模型,从而就可以通过标签触发水印来实现版权保护。同时在验证过程中,只有验证者输入正确的水印标签才能够成功触发合成水印,保证了水印的安全性。实验在CIFAR10和Danbooru2018数据集上验证该方法能够在不影响原始模型性能的前提下,生成高质量的水印图像用于版权验证,并且该方法面对水印攻击中的模型微调和模型压缩仍具有鲁棒性。其次,从无盒水印的角度出发,提出了一种不需要依赖标签的轻量化GAN无盒水印。该方法将不可见水印嵌入在训练集中并设计优化水印损失函数,使训练后的神经网络可以在完成原始模型图像生成任务的同时在每一张输出的图像中均嵌入不可见水印。只有通过特定的水印提取算法和对应密钥才能够将水印提取出来。该方法只需要收集GAN模型生成的图像即可提取水印,不需要对模型的结构进行操作,同时在嵌入时通过增加水印损失函数训练水印任务。不同于之前提出的GAN无盒水印,该方法不需要额外训练水印网络。实验在Celeb A和LSUM bedroom数据集上验证显示该方法拥有很好的水印提取率并且对模型水印攻击中的模型微调、模型压缩和图像水印攻击的裁剪、加噪以及遮挡都具有鲁棒性。

关键词：数字水印人工智能安全神经网络水印生成式对抗网络

来源：评论

学校读者我要写书评

暂无评论

深度神经网络模型水印研究进展

引用

上海理工大学学报 2024年第3期46卷 225-242页

作者：谭景轩钟楠郭钰生钱振兴张新鹏复旦大学计算机科学技术学院上海200433

随着深度神经网络在诸多领域的成功应用,以神经网络水印为代表的深度模型知识产权保护技术在近年来受到了广泛关注。对现有的深度神经网络模型水印方法进行综述,梳理了目前为了保护模型知识产权而提出的各类水印方案,按照提取水印时所... 详细信息

随着深度神经网络在诸多领域的成功应用,以神经网络水印为代表的深度模型知识产权保护技术在近年来受到了广泛关注。对现有的深度神经网络模型水印方法进行综述,梳理了目前为了保护模型知识产权而提出的各类水印方案,按照提取水印时所具备的不同条件,将其分为白盒水印、黑盒水印和无盒水印3类方法,并对各类方法按照水印嵌入机制或适用模型对象的不同进行细分,深入分析了各类方法的主要原理、实现手段和发展趋势。然后,对模型水印的攻击方法进行了系统总结和归类,揭示了神经网络水印面对的主要威胁和安全问题。在此基础上,对各类模型水印中的经典方法进行了性能比较和分析,明确了各个方法的优势和不足,帮助研究者根据实际的应用场景选用合适的水印方法,为后续研究提供基础。最后,讨论了当前深度神经网络模型水印面临的挑战,并展望未来可能的研究方向,旨在为相关的研究提供参考。

关键词：深度神经网络知识产权保护神经网络水印白盒水印黑盒水印无盒水印水印攻击模型安全

来源：评论

学校读者我要写书评

暂无评论

深度神经网络模型的多用户溯源水印方法研究

深度神经网络模型的多用户溯源水印方法研究

引用

作者：刘雅蕾西南交通大学

学位级别：硕士

深度神经网络(Deep Neural Networks,DNN)模型目前已经作为机器学习即服务(Machine Learning as-a-Service)被广泛用于不同领域,用户可以方便地使用这些模型完成复杂的任务。然而,DNN模型一般不会携带所有者的版权信息,攻击者很有可能... 详细信息

深度神经网络(Deep Neural Networks,DNN)模型目前已经作为机器学习即服务(Machine Learning as-a-Service)被广泛用于不同领域,用户可以方便地使用这些模型完成复杂的任务。然而,DNN模型一般不会携带所有者的版权信息,攻击者很有可能在未经授权的情况下盗用模型。如今,越来越多的研究者关注到了DNN模型版权保护的问题,通过提出各种水印方法验证或声明模型的所有权。但是目前的DNN模型水印面临诸多问题:(1)基于网络参数嵌入水印的方案应用受限较多,需要完整地获得网络参数才能够进行所有权的验证,在只提供模型API的情况下无法使用;(2)面向图像分类模型的水印的方案中,是通过设置后门触发集的方式声明模型所有权,但是后门样本的分布与正常样本差异较大,容易被后门检测器检测,逃避水印的验证;(3)中在图像处理模型的输出图像中嵌入水印的方案则可能留下水印的伪影,影响待保护DNN模型的原始性能,且水印容易被检测到;(4)在DNN模型的使用用户数量比较大的情况下,为不同的用户重复训练多个嵌入、提取网络既消耗存储和计算资源,又需要大量的训练时间。针对以上问题,本文所做的研究工作如下: (1)设计一种面向图像处理DNN模型的多用户溯源水印算法:使用一个编解码器网络,将一张水印图像不可见地嵌入待保护的目标网络模型所有输出图像中;使用另一个残差网络从中提取水印,验证模型的所有权。在网络的训练中添加一个带有SRM滤波器的双流判别网络,解决输出图像可能出现的水印伪影问题,提升水印嵌入过程的隐蔽性,减少对待保护的DNN模型性能的影响。另外设计一种双阶段训练策略,实现多用户DNN模型的版权保护,降低模型分发的时间复杂度。 (2)设计一种面向图像分类DNN模型的多用户溯源水印算法:当模型输入了未加水印的图像时,待保护的DNN模型按照原有的既定功能正常运行;当模型输入的图像中嵌入了不可见的水印时,通过添加的水印判别网络,可以实现水印的识别与分类,声明DNN模型的所有权。通过嵌入不可见的水印以躲避人眼或检测器的检测,提升隐蔽性与安全性。使用一个水印生成网络,实现多用户情景下分类DNN模型的版权保护。 (3)实现一个B/S架构的机器学习即服务平台管理系统:结合本设计提出的DNN模型水印算法,搭建前后端分离的系统,为模型作者和用户提供便捷的DNN模型服务平台。模型作者可以在系统中上传并部署自己的DNN模型,同时可以维护模型的水印以并管理模型的授权用户;其他普通用户可以在系统中浏览、申请使用需要的模型。

关键词：深度神经网络信息安全神经网络水印版权保护

来源：评论

学校读者我要写书评

暂无评论

一种基于后门技术的深度强化学习水印框架

引用

福建师范大学学报（自然科学版） 2024年第1期40卷 96-105页

作者：陈瑜霖姚志强金彪李璇蔡娟娟熊金波福建师范大学计算机与网络空间安全学院福建福州350117 福建省大数据分析与应用工程研究中心福建福州350117

深度强化学习(DRL)已经证明了它在各种复杂任务中的有效性,因其出色的性能使其商业化正在急剧加速。生成一个DRL模型需要大量的计算资源和专业知识,使得一个训练有素的DRL模型已经成为人工智能应用程序和产品的核心知识产权。基于对DRL... 详细信息

深度强化学习(DRL)已经证明了它在各种复杂任务中的有效性,因其出色的性能使其商业化正在急剧加速。生成一个DRL模型需要大量的计算资源和专业知识,使得一个训练有素的DRL模型已经成为人工智能应用程序和产品的核心知识产权。基于对DRL模型的产权保护,防止非法抄袭、未经授权的分发和复制,提出一种后门技术的DRL水印框架DrlWF,并使用一个全新的评价指标水印动作实现比例来衡量水印性能。通过向训练状态中添加水印,并使用带有水印的水印状态训练模型从而实现将水印嵌入至模型中。框架中的水印嵌入操作可以通过将水印嵌入到少量的训练数据中(仅需0.025%的训练数据)和不影响性能的奖励修改来实现。实验结果证明,在标准状态下,DRL模型仍具有良好的性能;在水印状态下,DRL模型性能将急剧下降,不足原有性能的1%,且水印动作执行比例达到了99%。通过急剧下降的性能以及模型对水印状态的动作表现,即可验证模型的所有权。此外,该水印具有良好的鲁棒性,在模型微调和模型压缩下,模型依然能够识别出水印,性能急剧下降且水印动作执行比例依旧达到了99%以上,证明了该DRL水印具有良好的鲁棒性。

关键词：深度强化学习知识产权保护后门攻击神经网络水印黑盒模型

来源：评论

学校读者我要写书评

暂无评论

基于变色龙水印的模型所有权隐私保护技术研究

基于变色龙水印的模型所有权隐私保护技术研究

引用

作者：李威西安电子科技大学

学位级别：硕士

随着数据规模的爆发式增长和计算机技术的飞速进步,机器学习得到了迅速发展。数据驱动的深度学习技术作为一种有效的机器学习算法,已经成为计算机领域研究和应用最广泛的技术之一,并为计算机视觉、自然语言处理、医疗保健、金融服务和... 详细信息

随着数据规模的爆发式增长和计算机技术的飞速进步,机器学习得到了迅速发展。数据驱动的深度学习技术作为一种有效的机器学习算法,已经成为计算机领域研究和应用最广泛的技术之一,并为计算机视觉、自然语言处理、医疗保健、金融服务和智能交通等众多领域带来了革命性的变化。由于训练成本高昂,高性能的深度学习模型通常被视为模型所有者的知识产权。预先训练好的模型极易成为敌手攻击的目标,可能面临各种侵权风险,例如非法窃取或二次售卖。因此,如何保护深度学习模型的知识产权和防御侵权行为已成为机器学习隐私与安全领域中的重要问题。神经网络水印技术是一种有效的解决方案,可用于模型的所有权隐私保护。然而当深度学习模型应用到实际场景中,现有的水印方案存在以下缺陷:首先,是验证后的水印信息隐私泄露风险,由于模型一经发布就不可更改,提前嵌入到模型的水印实现单次验证后便会面临完全暴露风险,故现有水印方案大多只支持私有验证或者单次公开验证;其次,是模型购买者的合法使用权保障缺失,当前水印方案只考虑模型所有者和敌手两方的情况,而没有考虑到更为复杂的多方场景,仅支持模型所有者的所有权认证而忽视了合法用户的使用权认证;最后,是恶意用户身份的难追溯性,当模型被恶意窃取或二次售卖等造成侵权时,无法准确追踪到恶意用户身份,从而无法维护模型其他合法使用者的权益。针对这一系列问题,本文主要研究了神经网络水印技术与密码学承诺技术结合的可行性并提出相应的解决方案,在实验中证明了方案的安全性、有效性和可行性,本文的主要贡献点如下: 针对现有水印方案仅支持私有验证或单次公开验证的问题,本文提出了一种可支持多次公开验证的变色龙水印方案(Multiple Publicly Verifiable Chameleon DNNs Watermarking Scheme,MPV-CW)。该方案利用密码学中承诺的隐藏性解决验证阶段的水印信息隐私泄露问题,再通过变色龙承诺的陷门碰撞性生成同样可正确验证的不同于初始水印的影子水印,从而实现多次公开验证功能。与现有方案不同的是,MPV-CW方案实现了单次嵌入水印且支持多次公开验证,并能在所有验证阶段隐藏初始水印信息,解决了验证后水印信息隐私泄露问题。通过在CIFAR-10和CIFAR-100数据集上进行实验,本文证明了 MPV-CW方案在嵌入水印的同时可以维持模型原有性能。其与初始模型相比,对干净样本的分类准确率差距不超过1%,水印的识别准确率高达100%。此外,本方案还能够有效抵御微调攻击和水印覆写攻击,即使在遭受攻击后,水印的识别准确率仍能保持在95%以上。针对现有水印方案存在的使用者权益维护缺失以及恶意用户身份难溯源等问题,本文提出了一种可追溯用户身份的变色龙水印方案(Identity-traceable Chame-leon DNNs Watermarking Scheme,IT-CW)。本方案针对合法购买者,利用变色龙哈希的陷门碰撞性生成一对一的用户水印,在模型验证阶段结合变色龙承诺的抗碰撞性确认验证方身份,从而实现对恶意用户的身份追溯及合法用户的权益认证。与现有方案相比,本方案将水印场景从传统的两方拓展到了多方,将用户身份信息与模型进行绑定并生成定制水印,既满足了模型使用者对其合法使用权的认证需求,也实现了模型侵权行为发生时对恶意用户的身份追溯功能。本文在五个真实数据集 CIFAR-10、CIFAR-100、MNIST、GTSRB、Tiny-ImageNet上进行了大量的对比实验,证明IT-CW的有效性和鲁棒性。实验结果表明,该方案以接近100%的概率准确识别模型的合法使用者。此外,在面对微调、剪枝、模式连通、注意力蒸馏四种水印去除攻击时,IT-CW方案依然保持较高的识别率。

关键词：深度学习神经网络水印变色龙承诺模型所有权保护

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：