检索结果-内蒙古大学图书馆

燕山大学学报 2025年第1期49卷 44-54页

作者：乞文超鲍泰宇刘钰杰申利民陈真燕山大学信息科学与工程学院河北秦皇岛066004 燕山大学河北省计算机虚拟技术与系统集成重点实验室河北秦皇岛066004

准确可靠的服务质量预测是实现服务质量感知云API服务推荐和组合成功应用的关键,而现有研究通常假设预测模型的服务质量数据是可靠的,忽略了开放网络环境下恶意用户对云API服务质量预测模型的数据投毒攻击。本文从攻击机理和可解释的视... 详细信息

准确可靠的服务质量预测是实现服务质量感知云API服务推荐和组合成功应用的关键,而现有研究通常假设预测模型的服务质量数据是可靠的,忽略了开放网络环境下恶意用户对云API服务质量预测模型的数据投毒攻击。本文从攻击机理和可解释的视角提出数据投毒攻击下的云API服务质量预测模型鲁棒性分析与解释方法。首先,量化云API服务质量感知情境下的恶意用户行为,实现利用不同攻击方式对服务质量预测模型的数据投毒攻击,并在统一的框架下给出了考虑投毒攻击类别、攻击强度和攻击规模的鲁棒性分析方法。其次,定义5种服务质量数据特征作为解释因子,采用基于回归分析的建模方法,建立云API服务质量预测模型的鲁棒性解释模型。实验结果能够有效阐明面向云API服务质量预测模型的投毒攻击机理及其鲁棒性,解释并给出数据投毒下引起预测性能波动的关键数据特征,继而为数据投毒攻击防御提供支持。

关键词：数据投毒云API 服务质量预测鲁棒性可解释性

来源：评论

学校读者我要写书评

暂无评论

面向服务质量感知云API推荐系统的数据投毒攻击检测方法

引用

通信学报 2023年第8期44卷 155-167页

作者：陈真乞文超鲍泰宇申利民燕山大学信息科学与工程学院河北秦皇岛066004 燕山大学河北省计算机虚拟技术与系统集成重点实验室河北秦皇岛066004

针对现有研究通常假设云API推荐系统的服务质量数据是可靠的,忽略了开放网络环境中恶意用户对云API推荐系统的数据投毒攻击的问题,提出了一种基于多特征融合的数据投毒攻击检测方法。首先,依据设计的相似性度量函数构建用户连通网络图,... 详细信息

针对现有研究通常假设云API推荐系统的服务质量数据是可靠的,忽略了开放网络环境中恶意用户对云API推荐系统的数据投毒攻击的问题,提出了一种基于多特征融合的数据投毒攻击检测方法。首先,依据设计的相似性度量函数构建用户连通网络图,并利用Node2vec捕获用户邻域特征;其次,采用稀疏自编码器挖掘用户服务质量深度特征,并构建基于服务质量数据加权平均偏差的用户解释特征。进一步,融合用户邻域特征、服务质量深度特征和解释特征建立基于支持向量机的虚假用户检测模型,并使用网格搜索和交替迭代优化策略学习模型参数,继而实现虚假用户检测。最后,通过多组实验验证了所提方法的有效性和优越性,实现了服务质量感知云API推荐系统在数据端的投毒攻击防御。

关键词：推荐系统云API 服务质量数据投毒攻击检测

来源：评论

学校读者我要写书评

暂无评论

针对电力系统人工智能算法的数据投毒后门攻击方法与检测方案

引用

电网技术 2024年第12期48卷 5024-5033页

作者：崔晗薛彤王琦汤奕东南大学网络空间安全学院江苏省南京市210096 东南大学软件学院(苏州) 江苏省苏州市215000 东南大学电气工程学院江苏省南京市210096

人工智能(artificial intelligence,AI)算法已经成为应对新型电力系统不确定性和复杂性的重要手段,其利用历史或仿真数据拟合特征与问题间的关联关系,避免了对复杂物理机理的建模分析,从而可以降低问题维度并提高计算效率。然而,AI的黑... 详细信息

人工智能(artificial intelligence,AI)算法已经成为应对新型电力系统不确定性和复杂性的重要手段,其利用历史或仿真数据拟合特征与问题间的关联关系,避免了对复杂物理机理的建模分析,从而可以降低问题维度并提高计算效率。然而,AI的黑箱运行模式亦存在安全风险,攻击者可通过恶意手段影响算法模型的训练过程,在模型中植入后门,从而控制算法的输出结果,最终影响电力系统相关业务。该文分析了对电力系统AI植入后门的可行性,设计了一种针对电力系统基于数据投毒的后门攻击方法,根据系统节点入侵难度构造后门触发器致使AI对特定场景样本产生错误判别;为防御此类攻击,在模型层面和样本层面设计了后门攻击的检测方案。最后在AI驱动的暂态稳定评估案例中测试了所提攻击与检测效果。

关键词：人工智能深度学习数据投毒后门攻击

来源：评论

学校读者我要写书评

暂无评论

数据投毒语境的LLM黑化情报感知方法研究

引用

数据分析与知识发现 2024年

作者：周林兴王帅上海大学文化遗产与信息管理学院上海大学信息资源开发与利用研究中心

[目的]针对LLM频遭数据投毒攻击而使分配器不受控暗中输出黑化信息问题，分别设计投毒与黑化识别方案及模型，将其整合后形成情报感知方法运行机制。[方法]首先，分别以XMC-GAN+YOLO和New Phillips-Huber作为信息生成模式与数据投毒活... 详细信息

[目的]针对LLM频遭数据投毒攻击而使分配器不受控暗中输出黑化信息问题，分别设计投毒与黑化识别方案及模型，将其整合后形成情报感知方法运行机制。[方法]首先，分别以XMC-GAN+YOLO和New Phillips-Huber作为信息生成模式与数据投毒活动识别支撑方法并形成贯穿方案；其次，分别以RNASeq、KdV-IE、Percolation和AREMBMTD作为黑化分离、能量、渗透与破坏程度核心表示方法并得到实施模型；最后，根据重构机理与联动问题解决框架将上述方案模型连结为完整方法运行机制，使之有效输出情报感知结果。[结果]实证分析结果表明方法运行机制整体较于同类次优方法性能平均提升率为18.81%、领先率为7.48%，在该条件下能够输出（人工、融合与AI）3类信息生成模式、（单一、复合与混合）投毒方式及（分离、能量、渗透与破坏）4类情报感知结果。[局限]不同黑化信息模态情报感知效率降序为文本、图像和音视频，受制于内容解析粒度及渠道，没有特别关注文本以外的低效率情况。[结论]本文充分融合数据投毒原理与LLM黑化现象并提供情报感知方法，避免了深层原理与表层现象的研究割裂影响，能够有效输出投毒活动识别及黑化感知结果，且在提升与领先率等指标上优于对比模型。

关键词：大语言模型生成式信息技术黑化数据投毒情报感知胡塞空袭

来源：评论

学校读者我要写书评

暂无评论

干净标签数据投毒攻击及其于迁移学习中的应用研究

干净标签数据投毒攻击及其于迁移学习中的应用研究

引用

作者：侯哲贤西安电子科技大学

学位级别：硕士

随着近些年计算机算力的增加和数据信息大爆炸,深度学习逐渐受到人们的广泛关注,其在多种现实场景中都有应用。而迁移学习是在成熟的深度学习模型基础上对模型进行再训练,是利用少量数据和计算资源得到目标模型的方法。模型在提供便利... 详细信息

随着近些年计算机算力的增加和数据信息大爆炸,深度学习逐渐受到人们的广泛关注,其在多种现实场景中都有应用。而迁移学习是在成熟的深度学习模型基础上对模型进行再训练,是利用少量数据和计算资源得到目标模型的方法。模型在提供便利的同时也遭受着如对抗样本、模型窃取、数据投毒之类的安全问题。本文对其中的数据投毒攻击展开了深入研究,挖掘深度学习模型中存在的数据投毒问题,寻找和设计潜在的攻防方案。同时又把部分目光放在了迁移场景当中,挖掘数据投毒攻击在迁移学习中的作用和危害。为此本文制定了详细的方案以及实验,并通过实验对比分析寻找影响攻击的因素,成功降低模型的分类性能。本文的主要工作和创新如下: (1)设计基于噪声添加的干净标签毒物数据,并将其应用于网络模型训练当中。本文采用了干净标签攻击的策略,在深度学习的过程中通过制造在人类观察者看来“无比正常”的数据来躲避投毒检测机制并实施数据投毒攻击。其中毒物制作技术采用基于噪声的方式,通过更改原始图像像素值数据(变化的本质即向图像中添加噪声)来得到毒物样本。这些毒物样本会被神经网络中特征提取和处理算法放大,使得图像在特征空间中的张量表示呈现一定的规律,进而误导深度学习模型。 (2)设计并使用了一种基本的卷积神经网络模型BCNN,引入了两种成熟的模型和三种数据集,以对研究进行充分实践和评估。本文工作中单个图像噪声占比维持在0.1953%至0.5102%,预训练模型误判率最高达42.23%,已投毒模型针对目标数据的误判率维持在73.75%至99.4274%。其中误判率数值的高低只是一种数据表现,分类结果只是取分类占比的最高值对应结果。在相同的分类任务中,两个模型的运行时间相差微乎其微,可忽略不计,意即投毒攻击不会对模型分类功能产生过多干扰。 (3)提出了干净标签数据投毒攻击及其在迁移学习中的应用研究,旨在挖掘迁移学习面临的投毒攻击问题。根据分析研究,迁移学习之所以会继承投毒攻击的根本原因在于再训练模型和预训练模型的相似性,会使得模型在对数据进行处理的过程中用同样的方式对数据特征进行计算,对数据造成同样的误判。在本文工作中,已中毒模型再训练之后对目标数据的误判率维持在53.4557%至86.7%,非目标数据误判率以及模型运行效率基本同预训练模型保持一致。防御方案介入后的误判率下降了13.3557%至51.95%,可起到一定程度的防御。

关键词：人工智能干净标签数据投毒迁移学习深度学习模型安全

来源：评论

学校读者我要写书评

暂无评论

群智感知系统中针对真值发现的数据投毒攻击与防御

群智感知系统中针对真值发现的数据投毒攻击与防御

引用

作者：张慧阳广州大学

学位级别：硕士

群智感知(crowdsensing)基于普通用户个人的传感设备从各地收集海量的多维异构数据,从而解决大规模的数据需求问题。然而多源信息之间往往存在冲突,很多众包服务对用户身份也缺乏严格的认证机制,这使得恶意攻击者可以混入普通工人中,主... 详细信息

群智感知(crowdsensing)基于普通用户个人的传感设备从各地收集海量的多维异构数据,从而解决大规模的数据需求问题。然而多源信息之间往往存在冲突,很多众包服务对用户身份也缺乏严格的认证机制,这使得恶意攻击者可以混入普通工人中,主动的参与数据收集任务,向系统提交恶意篡改过的数据来发起数据投毒攻击。如何从这些冲突信息中发现数据真值,成为一个重要问题。真值发现(truth discovery)是一类在多数据源提供不一致数据的场景下计算数据源可信度并发现数据真值的技术,其可以帮助系统过滤掉一些质量不佳的数据提供者,因此可以一定程度上防御简单策略的数据投毒攻击,如随机攻击、最大值/最小值攻击等。然而,当进行多轮次的数据采集任务时,攻击者可能通过略微修改简单策略来欺骗真值发现算法,发起有效投毒攻击。具体地,攻击者通过持续交替提交真实和虚假数据,来骗取真值发现算法信任,扰乱真值发现结果,误导系统推断出错误的真值。基于上述攻击策略,攻击者可成功发起更长期、更隐蔽、危害也更大的投毒攻击,影响群智感知系统的正常运作。因此有必要在群智感知场景下,展开针对真值发现算法的数据投毒攻击和防御工作。本文主要工作和创新点包括以下部分:(1)本文的研究工作专注于数值型的传感任务和部分可观测的多轮次数据投毒攻击场景。本研究证明了对于冲突数据进行发现真值工作是有必要的,并将群智感知系统当作灰盒,使用深度强化学习来对多轮次的数据投毒攻击场景进行建模,该模型可批量培训恶意员工自动做出决策。(2)本文从恶意工人检测剔除和改进Truth Finder(使用最广泛的truth discovery框架之一)两个防御角度做了优化改进,提出了带有恶意工人检测的高鲁棒性真值发现算法(HRTDMD),使其能够抵御多轮次的数据投毒攻击。(3)本文设计了群智感知系统下针对真值发现的数据投毒与防御系统,该系统支持用户在测试平台进行攻击与防御演练,并对攻击和防御效果进行可视化展示。

关键词：数据投毒群智感知真值发现深度强化学习

来源：评论

学校读者我要写书评

暂无评论

基于数据投毒的后门攻击与防御的关键技术研究

基于数据投毒的后门攻击与防御的关键技术研究

引用

作者：王宇电子科技大学

学位级别：硕士

近几年,随着数据量的迅猛增长和计算能力的飞速提升,机器学习和深度学习技术取得了惊人的进步,令人瞩目。这些技术的快速发展极大的地促进了许多现实工业和生活领域的技术进步,使得人工智能已不再是一个仅仅用于科研的课题,而越来越多... 详细信息

近几年,随着数据量的迅猛增长和计算能力的飞速提升,机器学习和深度学习技术取得了惊人的进步,令人瞩目。这些技术的快速发展极大的地促进了许多现实工业和生活领域的技术进步,使得人工智能已不再是一个仅仅用于科研的课题,而越来越多地出现在人们的日常生活中。然而,由此引发的人工智能安全问题令人担忧,成为了研究人员热议的话题。其中,后门攻击是一种危害极大的攻击方式。该攻击方式源于数据投毒攻击,但比起数据投毒攻击,后门攻击具有更强的隐蔽性。后门攻击通过在训练数据中注入恶意的毒化样本,使得深度学习模型在特定的触发条件下产生错误的预测结果。后门攻击的危害性非常大,因为攻击者可以在不被察觉的情况下控制深度学习模型的输出。本文对深度学习中基于数据投毒的后门攻击相关研究进行了系统的概述。分别基于目前已有的后门攻击方案,研究了基于梯度优化的隐藏后门攻击技术与基于频域触发器的标签一致的后门攻击技术。同时基于已有的针对后门攻击的防御方案,并结合其他机器学习算法提出了基于离群点检测的后门攻击防御方案。本文的主要研究核心和成果包含以下几个方面:1.研究了基于梯度优化的隐藏后门攻击技术。此技术从改善后门攻击触发器隐蔽性和降低样本毒化率为主要研究方向,提出了基于梯度优化的隐藏后门触发器生成方案,使得触发器难以被人类检测,并可以用更少的毒化样本在神经网络中植入后门。2.研究了基于频域触发器的后门攻击技术。该技术从改善后门攻击中标签毒化现象以及现实可行性出发,通过设计频域触发器和限制敌手能力,提出了一种触发器不可见的,标签一致的后门攻击方案。3.研究了基于离群点检测的后门攻击防御技术。针对数据投毒式后门攻击威胁,通过设计离群点检测技术筛除毒化样本,提出了一种支持黑盒场景下的后门防御方案。本文的研究对于深度学习模型的安全性研究具有一定的参考价值,可以帮助人工智能研究者和实践者更好地了解深度学习中后门攻击相关的安全威胁并凸显出安全威胁的严重性,促进相关防御技术的研究,从而提高深度神经网络模型的安全性和鲁棒性。

关键词：人工智能数据投毒后门攻击后门防御异常检测

来源：评论

学校读者我要写书评

暂无评论

知识图谱层次语义嵌入及数据投毒研究

知识图谱层次语义嵌入及数据投毒研究

引用

作者：朱东广州大学

学位级别：硕士

知识图谱作为描述世界万物之间关联的语义网络,广泛地应用在智能问答、推荐计算等领域中。通过嵌入的方式,知识图谱可以自动完善,同时更方便地应用在下游任务中。层次语义是知识图谱中重要且广泛存在的关系模式,层次语义嵌入通过编码层... 详细信息

知识图谱作为描述世界万物之间关联的语义网络,广泛地应用在智能问答、推荐计算等领域中。通过嵌入的方式,知识图谱可以自动完善,同时更方便地应用在下游任务中。层次语义是知识图谱中重要且广泛存在的关系模式,层次语义嵌入通过编码层次语义可以极大地提高知识图谱嵌入的效果。随着层次增加,层次语义的复杂度呈现指数级增长,层次语义嵌入的维度也同步增加,然而,过高的维度导致嵌入模型难以在大规模知识图谱上应用。降低层次语义嵌入模型的复杂度并提升其准确度,是知识图谱应用的必然要求。另外,在商业化运作的知识图谱构建和应用中,数据采集处理的外包已是常见模式,但这一生产性环节可能引入对数数据的恶意攻击或偶然性数据异常,影响知识图谱的健壮性,给知识图谱应用带来安全隐患。因此,面向知识图谱嵌入的数据投毒和评估方法研究,已成为当前支撑知识图谱原生安全和安全应用的高价值问题。本文针对知识图谱层次语义嵌入中的维度和准确度问题,以及安全性支撑问题,研究了层次语义嵌入模型、数据投毒方法及其评价体系,主要工作和贡献如下: (1)提出了融合层次语义的知识图谱嵌入模型LMH-PKE。将知识库中的层次语义映射到双曲庞加莱圆盘空间中,利用双曲空间的可延伸性对层次语义进行编码。实验表明,本文方法可对知识图谱平面语义和层次语义进行融合编码,实现了嵌入空间低维特性的同时,提升了嵌入的准确性,在WN18RR数据集上将Hits@10值提升了1.2%,达到了双曲嵌入模型中的最好效果。 (2)提出了面向知识图谱层次语义嵌入的通用数据投毒H-Attack方法。针对知识图谱中层次语义嵌入的数据安全问题,首次提出了面向层次语义的数据投毒,通过构建表达层次结构的层次投毒树,缩小搜索空间,实现定向干扰目标三元组的层次语义。实验表明,H-Attack相比传统基于梯度等攻击方法更加有效,在Trans E,Conv E等多个嵌入模型中取得了最佳的攻击效果。 (3)提出了面向知识图谱嵌入数据投毒有效性的评估框架TS-Assessment。目前已有的数据投毒评估方法忽略了添加数据对模型性能的影响,对数据投毒效果评估存在偏差。另一方面,目前的数据投毒评估方法缺乏对全局影响的评估,导致在实际应用时投毒被防御者察觉的可能性极大。TS-Assessment提出了毒化性和隐蔽性概念用于评估数据投毒的干扰能力和隐蔽能力,引入被攻击模型的对照模型,提出了可评估数据投毒毒化性和隐蔽性的评估框架。本文在WN18RR和FB15k-237数据集上对5个模型及16种数据投毒方法进行了实验与评估,实验表明,TS-Assessment具备客观评估数据投毒的毒化性和隐蔽性的能力。综上,本文以层次语义为研究对象,以面向知识图谱嵌入层次语义的数据投毒为主体,提出了可表达层次语义的嵌入模型,可面向层次语义的通用数据投毒方法,以及对数据投毒效果进行毒化性和隐蔽性评估的客观评估框架。

关键词：知识图谱嵌入数据投毒层次语义

来源：评论

学校读者我要写书评

暂无评论

面向服务质量感知云API推荐系统的数据投毒攻击检测模型

面向服务质量感知云API推荐系统的数据投毒攻击检测模型

引用

作者：乞文超燕山大学

学位级别：硕士

云时代，云API是智能交互、能力开放和数据传输的最佳载体。云API的迅速增长为开发人员带来充足选择的同时也带来了众多安全威胁，这些威胁不止包括诸如分布式攻击、重放攻击在内的网络攻击，还包含针对面向云API推荐系统的数据投毒攻... 详细信息

云时代，云API是智能交互、能力开放和数据传输的最佳载体。云API的迅速增长为开发人员带来充足选择的同时也带来了众多安全威胁，这些威胁不止包括诸如分布式攻击、重放攻击在内的网络攻击，还包含针对面向云API推荐系统的数据投毒攻击。云API的数据攻击者通过向云服务平台注入虚假的云API服务质量数据来影响服务质量预测性能和推荐结果，严重影响了云服务平台的可信性。本文从攻击机理和可解释的角度出发探讨数据投毒攻击对云API服务质量预测算法鲁棒性的影响，提出面向服务质量感知云API推荐系统的数据投毒攻击检测模型，主要工作如下。　　首先，研究面向数据投毒攻击的云API服务质量预测算法鲁棒性分析问题。目前鲜有面向云API服务质量预测算法的数据投毒攻击相关研究，数据投毒攻击是否能对云API服务质量预测算法的预测性能造成影响尚不清晰。考虑量化云API服务质量感知情境下的恶意用户行为，研究不同种类数据投毒攻击的虚假用户生成方法，实现基于不同攻击方式、不同攻击强度和不同攻击规模的服务质量数据投毒攻击，从而在阐明面向云API服务质量预测算法的投毒攻击机理的同时，实现对现有云API服务质量预测算法鲁棒性分析。　　其次，研究基于数据特征的云API服务质量预测算法鲁棒性解释模型。数据投毒攻击对服务质量预测算法影响机理的解释还未探究，提出从服务质量数据特征视角采用回归分析的方法解释数据投毒攻击对服务质量预测模型的影响。具体的，包括定义五种服务质量数据特征作为解释因子，采用基于回归模型分析的建模方法，通过显著性检验解释数据特征对面向云API服务质量预测算法的数据投毒攻击是否有效，并基于实验结果分析给出引起预测性能波动的关键数据特征。　　最后，研究面向服务质量感知云API推荐系统的数据投毒攻击检测模型。云API服务质量数据脱胎于动态开放的网络环境，云API的数目往往数十倍的多于可统计的用户数目，在用户数目较少的前提下，传统聚类检测、概率检测算法不能充分学习出虚假用户和真实用户的差异，从而导致投毒攻击检测算法准确率不高。通过用户相似度计算和随机游走采样，提取用户领域特征。采用特征嵌入技术连接用户领域特征、隐藏特征与解释特征，实现用户的多元嵌入表示。在此基础上，结合网格搜索优化虚假用户检测器，提升高维稀疏环境下虚假用户的检测效果。

关键词：云API推荐系统服务质量感知数据投毒攻击检测特征嵌入

来源：评论

学校读者我要写书评

暂无评论

面向校园人脸识别的数据投毒攻击检测算法研究

引用

菏泽学院学报 2022年第2期44卷 15-20页

作者：龚成清何文华广东女子职业技术学院应用设计学院广东广州511450

随着人工智能技术的发展,机器学习的应用日益广泛,针对机器学习的攻击也相伴而生.数据投毒攻击是针对机器学习的一种攻击方式,它通过污染数据使得机器学习得到错误的结果,从而带来安全隐患.针对校园人脸识别的数据投毒攻击,通过孤立森... 详细信息

随着人工智能技术的发展,机器学习的应用日益广泛,针对机器学习的攻击也相伴而生.数据投毒攻击是针对机器学习的一种攻击方式,它通过污染数据使得机器学习得到错误的结果,从而带来安全隐患.针对校园人脸识别的数据投毒攻击,通过孤立森林算法对人脸图像进行清洗,加快过滤被污染的数据样本;针对单个谱聚类算法的不足,结合多谱聚类评估算法对训练样本进行客观评分,提高算法的鲁棒性;通过线性拟合得到数据清洗和算法鲁棒性的最优平衡点,最优化单个谱聚类算法的性能.使用本校人脸识别系统中的1500张人脸图像进行了仿真实验,实验表明,算法快速有效.

关键词：人脸识别数据投毒攻击数据清洗鲁棒性

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：