检索结果-内蒙古大学图书馆

作者：魏钒西华北水利水电大学

学位级别：硕士

近年来,机器学习已成为各行各业的核心驱动力,改变了人们与科技交互的方式,给人们的生活带来了极大的便利。然而,机器学习的广泛应用也引起了人们对隐私的担忧。同时,机器学习模型作为宝贵的知识产权,逐渐成为恶意攻击的目标。因此,实... 详细信息

近年来,机器学习已成为各行各业的核心驱动力,改变了人们与科技交互的方式,给人们的生活带来了极大的便利。然而,机器学习的广泛应用也引起了人们对隐私的担忧。同时,机器学习模型作为宝贵的知识产权,逐渐成为恶意攻击的目标。因此,实现数据隐私保护并确保机器学习模型安全得到广泛关注。相关研究从数据加密方案、隐私保护算法等着手并取得了显著研究进展,但仍存在效率不够高、方案不够全面等不足。支持向量机作为机器学习的代表算法之一,在处理高维稀疏数据时具有一定的优势,但构成模型的支持向量本身关联真实样本,不保护隐私。围绕数据隐私以及模型安全问题,本文以支持向量机为研究对象,分别从数据和模型两个方面对机器学习的安全与隐私问题进行研究。针对数据安全问题,本文以在线诊断为应用场景,通过引入一个包含医院、用户以及两个非共谋云服务器的四方架构,提出了一个基于加密医疗数据外包支持向量机的可控隐私保护在线诊断方案。方案使用一种基于整数向量的同态加密方法加密医疗数据和用户请求。为支持密文运算,设计了数据采集、序列最小优化求解、支持向量机模型构建以及在线诊断等一系列保护隐私的协作协议,在有效构建机器学习模型的同时避免了医院和用户端的计算量增加。此外,本方案允许医院将在线诊断服务委托给云服务器,并确保其对在线诊断服务的监管。实验分析表明,该方案在密文域内的数据分类可取得与明文域内相当的准确率,且能有效避免医院和用户昂贵的计算开销,同时防止云服务器滥用模型。针对于模型安全问题,本文利用侧信道分析的思想,提出通过动态资源占用来分析机器学习的行为模式,探索不同机器学习方法的行为模式与算法、模型及参数之间的关系,并实验证明了以CPU资源利用率为代表的支持向量机行为分析可取得与基于电磁侧信道分析诸多等价效果。此外,本文提出了算法优化、合理的线程管理等安全性建议,有助于机器学习安全性分析及防御方案设计。

关键词：支持向量机隐私保护模型安全侧信道攻击

来源：评论

学校读者我要写书评

暂无评论

隐私计算在卫生健康行业的应用与安全研究

引用

信息通信技术与政策 2023年第2期49卷 43-48页

作者：鞠鑫曹京陈佛忠刘文懋胡忠华苏州市卫生计生统计信息中心苏州215002 中国信息通信研究院安全研究所北京100191 绿盟科技集团股份有限公司北京100089

医疗健康数据难以安全共享、开放与利用是阻碍当前卫生健康行业信息化发展的最重要因素之一。研究探讨了卫生健康行业在数据共享与利用的实际应用场景下面临的困境,提出了隐私计算在各应用场景下的应用方案,并根据实际需求给出了对应场... 详细信息

医疗健康数据难以安全共享、开放与利用是阻碍当前卫生健康行业信息化发展的最重要因素之一。研究探讨了卫生健康行业在数据共享与利用的实际应用场景下面临的困境,提出了隐私计算在各应用场景下的应用方案,并根据实际需求给出了对应场景下隐私计算模型安全的建议。

关键词：隐私计算数据安全联邦学习模型安全可信执行环境

来源：评论

学校读者我要写书评

暂无评论

智能软件的后门攻击及检测综述

引用

软件导刊 2024年第6期23卷 185-197页

作者：肖子勤史涯晴曲豫宾王兴亚姚永明中国人民解放军陆军工程大学指挥控制工程学院江苏南京210001 南京工业大学计算机科学与技术学院江苏南京210007

智能软件作为人工智能技术快速发展的代表性应用之一,在解决软件工程类问题、提高软件运行效率方面发挥着关键作用,但其安全问题也逐渐受到关注。后门攻击作为一种常见的软件攻击方式,攻击者可通过操控在软件中隐藏的恶意功能控制软件行... 详细信息

智能软件作为人工智能技术快速发展的代表性应用之一,在解决软件工程类问题、提高软件运行效率方面发挥着关键作用,但其安全问题也逐渐受到关注。后门攻击作为一种常见的软件攻击方式,攻击者可通过操控在软件中隐藏的恶意功能控制软件行为,从而窃取数据或执行其他恶意操作,给用户带来巨大的安全威胁。为此,从软件工程角度进行综述,首先介绍后门攻击的基本概念、分类及与其他攻击方法的比较;其次分析后门攻击的常见手段并进行比较;最后讨论防御后门攻击的策略与技术,结合智能软件中的深度神经网络模型对后门植入检测与防御相关方法进行归纳、比较与展望。研究后门攻击与防御技术可以促进软件产业的创新发展,提高软件的安全性与可靠性。

关键词：智能软件深度学习后门攻防模型安全

来源：评论

学校读者我要写书评

暂无评论

基于目标分布的模型提取攻击方法研究

引用

网络空间安全 2023年第5期14卷 33-41页

作者：罗基刘洋哈尔滨工业大学(深圳)

[目的/意义]在模型提取攻击中，攻击者使用的数据极大地影响了攻击的有效性。在实践中，攻击者往往很难获取到精确的目标数据。相比之下，目标模型所用数据的分布可能更容易获得。基于目标分布进行模型提取攻击的方法，为攻击提供了新... 详细信息

[目的/意义]在模型提取攻击中，攻击者使用的数据极大地影响了攻击的有效性。在实践中，攻击者往往很难获取到精确的目标数据。相比之下，目标模型所用数据的分布可能更容易获得。基于目标分布进行模型提取攻击的方法，为攻击提供了新的思路和方法，同时也提醒拥有有价值模型的云平台和个人，需要采取措施防止攻击者获取目标分布。[方法/过程]使用一些生成对抗网络来学习目标分布并生成数据，并使用此数据执行模型提取攻击。研究了提取部分类攻击方法，并提供了两种提取部分类的方法，丰富了模型提取攻击的攻击手段。[结果/结论]实验结果表明，基于目标分布进行模型提取是可行的，得到的替换模型甚至在某些类别上超过了目标模型的性能，同时攻击效果随着使用的分布接近目标分布而增强。

关键词：模型提取攻击生成模型目标分布云平台模型安全

来源：评论

学校读者我要写书评

暂无评论

针对图像分类模型的对抗攻击及防御技术综述

引用

西安邮电大学学报 2024年第6期29卷 86-97页

作者：肖子勤史涯晴陆军工程大学指挥控制工程学院江苏南京210007

深度学习在图像分类领域取得了显著的成就,但在面对对抗攻击时却展现出了明显的脆弱性。因此,深入研究对抗攻击及防御对于提升图像分类模型的安全性与鲁棒性至关重要。通过介绍对抗攻击的相关方法,系统梳理当前主流的对抗攻击手段以及... 详细信息

深度学习在图像分类领域取得了显著的成就,但在面对对抗攻击时却展现出了明显的脆弱性。因此,深入研究对抗攻击及防御对于提升图像分类模型的安全性与鲁棒性至关重要。通过介绍对抗攻击的相关方法,系统梳理当前主流的对抗攻击手段以及相应的防御技术,探讨对抗攻击技术在实际应用中优势与劣势,并对未来的研究方向进行展望。

关键词：模型安全深度学习图像分类对抗攻击对抗防御

来源：评论

学校读者我要写书评

暂无评论

支持移动AIGC业务的边缘算力网络技术与安全性分析

引用

信息通信技术 2024年第3期18卷 19-26页

作者：刘银龙程新洲庄尚缘孙继燕中国科学院信息工程研究所北京100085 中国科学院大学网络空间安全学院北京100049 中国联通研究院北京100176

随着泛在分布的移动终端逐步具备搭载人工智能生成内容(AIGC)应用的能力,移动AIGC业务将迎来快速增长。这一趋势使得当前依赖算力中心集中处理AIGC业务请求的计算范式出现明显不足,因此亟须探索能够满足泛在AIGC业务需求的新型算力供给... 详细信息

随着泛在分布的移动终端逐步具备搭载人工智能生成内容(AIGC)应用的能力,移动AIGC业务将迎来快速增长。这一趋势使得当前依赖算力中心集中处理AIGC业务请求的计算范式出现明显不足,因此亟须探索能够满足泛在AIGC业务需求的新型算力供给方式。边缘算力网络可以在靠近用户处更快、更灵活地执行推理,并有效分散算力中心的计算压力。为此,文章探讨边缘算力网络给AIGC业务大规模应用带来的新机遇,并梳理其架构、技术优势与技术挑战。同时,注意到边缘算力节点天然的物理可接近性与弱防护特性,文章重点分析边缘算力网络给AIGC技术引入的安全挑战,旨在为未来AIGC技术的研究与应用提供新的视角。

关键词：人工智能生成内容边缘算力模型安全数据安全

来源：评论

学校读者我要写书评

暂无评论

人工智能在网络安全中的应用与挑战

引用

中文科技期刊数据库（引文版）工程技术 2024年第9期 0101-0104页

作者：意合巴古力·吴思满江新疆广电传输网络有限责任公司新疆乌鲁木齐830000

网络安全,一个新时代的关注热点,而人工智能在此领域的应用越来越被人们接受和了解。文章的开头,描述了人工智能在网络安全领域的使用,诸如辨识和防备网络进攻,和网络安全威胁情报的应用。人工智能的出色效果,让它在网络安全领域展现出... 详细信息

网络安全,一个新时代的关注热点,而人工智能在此领域的应用越来越被人们接受和了解。文章的开头,描述了人工智能在网络安全领域的使用,诸如辨识和防备网络进攻,和网络安全威胁情报的应用。人工智能的出色效果,让它在网络安全领域展现出广泛的应用可能。然而,人工智能的使用,也带了许多新的难题,譬如保护数据和隐私,保持模型的安全以及模拟进攻等等。对这些问题,深入的研究和探讨,才能找到解决的方法。人工智能虽然能够增强网络安全,但同时也可能会导致新的安全威胁和隐患,我们需要在利用其优势的同时,充分考量和防范可能出现的风险。本文的研究和探讨,对于理解人工智能在网络安全中的应用与挑战,以及如何平衡发展和安全问题有着深刻的借鉴意义。

关键词：人工智能网络安全数据保护安全威胁模型安全

来源：评论

学校读者我要写书评

暂无评论

人工智能应用面临的安全威胁研究

引用

信息通信技术与政策 2021年第8期47卷 64-68页

作者：宁庭勇熊婕胡永波云赛智联股份有限公司上海200233

当前自动驾驶技术、智能助理、人脸识别、智能工厂、智慧城市等人工智能技术已广泛落地,但相关领域安全事件的快速增长,使得消费者和业界对人工智能网络安全问题和威胁的关注度也在不断提高。人工智能应用的安全与智能化应用所带来的红... 详细信息

当前自动驾驶技术、智能助理、人脸识别、智能工厂、智慧城市等人工智能技术已广泛落地,但相关领域安全事件的快速增长,使得消费者和业界对人工智能网络安全问题和威胁的关注度也在不断提高。人工智能应用的安全与智能化应用所带来的红利,犹如一个硬币的两面,永远同时存在且重要性凸显。通过对近年来人工智能安全的政策、技术发展特点及人工智能应用落地所面临的安全威胁进行探讨,提出了一套可参考的安全框架和落地实施方法。

关键词：人工智能模型安全数据安全人工智能安全可信人工智能

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：