检索结果-内蒙古大学图书馆

中国科学院院刊 2025年第3期40卷 419-428页

作者：程学旗陈薇沈华伟山世光陈熙霖李国杰中国科学院计算技术研究所智能算法安全重点实验室中国科学院大学计算机科学与技术学院

智能算法是指实现智能的计算过程所体现的方法，大多具备数据驱动、不确定性计算、模型推断难解释等特性，而这些特性同时也给智能算法应用带来了潜在的安全风险。文章首先探讨智能算法安全的内涵。具体地，智能算法安全的内涵依据人机... 详细信息

智能算法是指实现智能的计算过程所体现的方法，大多具备数据驱动、不确定性计算、模型推断难解释等特性，而这些特性同时也给智能算法应用带来了潜在的安全风险。文章首先探讨智能算法安全的内涵。具体地，智能算法安全的内涵依据人机融合的程度，由算法自身的一元内生性安全，延伸到算法服务于人时的人机二元应用性安全，最终拓展为人机共生的复杂社会系统中多元系统性安全，故据此提出智能算法安全层级范式（以下简称“TRC范式”），分别涵盖内生决策可信（trustworthiness）的一元安全目标、应用服务可管（regulatability）的二元安全目标和系统风险可控（controllability）的多元安全目标。进一步，基于当前实现TRC范式中的技术难点与智能算法可信、可管、可控的目标，文章提出实现智能算法安全需要重点突破的不确定性算法的可信域判定、黑箱模型的透明化监测与人机共生智能系统的风险临界点感知3个重大科学问题。最后，围绕TRC范式的“度量—评估—增强”技术体系，提出7项研究方向建议与4个方面智能算法安全相关的发展建议，并展望其助力实现人机共治的未来愿景。

关键词：大数据智能算法智能算法安全人工智能伦理与安全智能算法安全层级范式

来源：评论

学校读者我要写书评

暂无评论

类别条件噪声下的半监督AUC优化理论与算法

引用

计算机学报 2025年第1期48卷 136-155页

作者：姜阳邦彦许倩倩杨智勇郝前秀操晓春黄庆明中国科学院大学计算机科学与技术学院北京101408 中国科学院计算技术研究所智能信息处理重点实验室北京100190 中山大学网络空间安全学院广东深圳518107

现有半监督AUC优化方法通常假设数据标注是准确的。然而在许多实际应用中,研究者往往会同时面临标注量不足和不准确的问题。为此,该文首次尝试在不完整和不准确的数据标注情况下优化AUC指标。具体而言,通过分析,对称替代损失在某些情况... 详细信息

现有半监督AUC优化方法通常假设数据标注是准确的。然而在许多实际应用中,研究者往往会同时面临标注量不足和不准确的问题。为此,该文首次尝试在不完整和不准确的数据标注情况下优化AUC指标。具体而言,通过分析,对称替代损失在某些情况下可以在半监督问题中具有噪声鲁棒性。在此基础上,该文构建了一个鲁棒半监督AUC优化框架,其导出的经验风险无需估计噪声率。此外,通过紧致泛化上界的分析表明,当模型基于足够大的训练数据集进行学习时,其在未见数据上能够很好地泛化。随后,使用Barrier hinge损失对该框架进行实例化。为加快训练过程,进一步开发了一种加速算法,将损失和梯度估计的复杂度从O(n^(2))降低至O(nlogn),在实验中可获得高达200倍的加速。最后,通过在15个基准数据集上进行实验验证,证明了所提方法的有效性。

关键词：半监督学习 AUC优化标签噪声二分类问题不平衡数据学习

来源：评论

学校读者我要写书评

暂无评论

面向信号调制识别的对抗攻击与防御综述

引用

计算机研究与发展 2025年

作者：徐冬月田蕴哲陈康李轶珂吴亚伦童恩栋牛温佳刘吉强史忠植智能交通数据安全与隐私保护北京市重点实验室(北京交通大学) 中国科学院计算技术研究所智能信息处理重点实验室

随着深度学习的飞速发展，基于深度神经网络的信号调制识别任务成为无线通信领域研究热门．然而研究发现，深度神经网络模型极易受到对抗性扰动的影响，使调制识别任务失效．目前面向无线通信安全性的研究工作仍存在些许瓶颈问题与理论... 详细信息

随着深度学习的飞速发展，基于深度神经网络的信号调制识别任务成为无线通信领域研究热门．然而研究发现，深度神经网络模型极易受到对抗性扰动的影响，使调制识别任务失效．目前面向无线通信安全性的研究工作仍存在些许瓶颈问题与理论空白，源于无线通信固有的实验环境、数据结构与信号特征等多维度特性，不能将其他领域较为成熟的攻防方法简单迁移到信号对抗攻击中．作为第1篇面向信号调制识别领域的对抗攻防中文综述，全面总结目前为止该领域对抗攻击与防御技术研究工作，首次提出信号调制识别领域的通用对抗攻击分类框架与威胁模型，将该领域研究工作分类为物理自我防御式攻击和数字直接访问式攻击，并以2维图形式进行系统化整合与可视化展示，详细阐述对抗攻击方法、对抗样本生成技术与理论公式、对抗检测与防御技术最新的研究工作，系统提炼无线通信对抗攻击研究的3个维度特性并归纳相应的处理方法，最后总结面向信号调制识别的攻防安全领域在末来的研究发展方向．

关键词：深度神经网络无线通信信号调制识别对抗攻击防御

来源：评论

学校读者我要写书评

暂无评论

基于融合特征多重异构网络的微博社交机器人检测方法

引用

中文信息学报 2025年第1期39卷 133-143页

作者：张怀博刘晓娜刘欣冯浩源尹芷仪沈华伟中国科学院计算技术研究所智能算法安全重点实验室北京100190 中国科学院大学北京101408 智能协同感知与分析认知实验室北京100193

基于图神经网络的社交机器人检测方法是近年来社交机器人检测领域的研究热点之一,该方法通过刻画社交平台账号的节点特征,并根据账号之间的多种社交网络关系构建异构图神经网络,进而使用图节点分类的方法识别社交机器人。基于异构图神... 详细信息

基于图神经网络的社交机器人检测方法是近年来社交机器人检测领域的研究热点之一,该方法通过刻画社交平台账号的节点特征,并根据账号之间的多种社交网络关系构建异构图神经网络,进而使用图节点分类的方法识别社交机器人。基于异构图神经网络的方法仍然存在两个方面的问题:一是现有的网络构建方法对传统用户社交关系如粉丝、关注等社交关系数据依赖性比较强,可扩展性比较差;二是现有特征构建方法重点关注社交机器人的个体特征,缺乏对社交机器人群体特征的引入,弱化了对具有相近群体特征的社交机器人的检测能力。基于以上问题,该文提出了融合群体特征的多重异构网络模型MCF-RGCN,该模型引入话题共现网络作为社交关系网络的补充,使模型在不依赖社交关系的情况下也能获得良好的社交机器人检测效果;同时,该文在账号元信息特征、行为特征、内容特征、时序特征、社交网络特征的基础上,引入了社群属性特征增强了账号在群体特征方面的表达,使模型进一步提升了对具有相似群体特征的社交机器人的检测能力。在微博数据集上的实验结果表明,该方法相比目前主流的社交机器人检测方法在F 1值上提升了近2.3%。

关键词：社交机器人检测多重异构图神经网络社群发现

来源：评论

学校读者我要写书评

暂无评论

半监督AUC优化的Boosting算法及理论

引用

计算机学报 2022年第8期45卷 1598-1617页

作者：杨智勇许倩倩何源操晓春黄庆明中国科学院大学计算机科学与技术学院中国科学院计算技术研究所智能信息处理重点实验室阿里安全图灵实验室中国科学院信息工程研究所信息安全国家重点实验室中国科学院大数据挖掘与知识管理重点实验室鹏城实验室

ROC曲线下面积（Area Under the ROC Curve,AUC）是类不均衡/二分排序等问题中的标准评价指标之一．本文主要聚焦于半监督AUC优化方法．现有大多数方法局限于通过单一模型进行半监督AUC优化，对如何通过模型集成技术融合多个模型则鲜有... 详细信息

ROC曲线下面积（Area Under the ROC Curve,AUC）是类不均衡/二分排序等问题中的标准评价指标之一．本文主要聚焦于半监督AUC优化方法．现有大多数方法局限于通过单一模型进行半监督AUC优化，对如何通过模型集成技术融合多个模型则鲜有涉及．考虑上述局限性，本文主要研究基于模型集成的半监督AUC优化方法．具体而言，本文提出一种基于Boosting算法的半监督AUC优化算法，并提出基于权重解耦的加速策略以降低算法时间/空间复杂度．进一步地，在优化层面，本文通过理论分析证明了所提出的算法相对于弱分类器的增加具有指数收敛速率；在模型泛化能力层面，本文构造了所提出算法的泛化误差上界，并证明增加弱分类器个数在提升训练集性能的同时并不会带来明显的过拟合风险．最后，本文在16个基准数据集上对所提出算法的性能进行了验证，实验结果表明所提出算法在多数情况下以0.05显著水平优于其他对比方法，并可在平均意义上产生0.9%～11.28%的性能提升．

关键词： AUC优化集成学习半监督学习提升法 Rademacher复杂度

来源：评论

学校读者我要写书评

暂无评论

基于威胁传播的复杂信息系统安全风险评估

引用

清华大学学报（自然科学版） 2014年第1期54卷 35-43,52页

作者：马刚杜宇鸽荣江甘家瑞史忠植安波中国科学院计算技术研究所智能信息处理重点实验室北京100190 中国科学院大学北京100049 中国信息安全测评中心北京100085

为评估复杂信息系统安全风险,该文提出了一种基于资产间威胁传播的风险评估方法。该方法将复杂信息系统各资产间的威胁传播路径定义为一棵威胁传播树,通过计算威胁传播树中各结点的期望损失以及威胁传播树出现的概率来对整个复杂信息系... 详细信息

为评估复杂信息系统安全风险,该文提出了一种基于资产间威胁传播的风险评估方法。该方法将复杂信息系统各资产间的威胁传播路径定义为一棵威胁传播树,通过计算威胁传播树中各结点的期望损失以及威胁传播树出现的概率来对整个复杂信息系统进行风险安全评估。为验证本文所提方法的正确性、可行性,该文选取了一个具有代表性的实例阐述了所提方法在复杂信息系统安全风险评估中的应用。通过实例分析表明基于威胁传播的复杂信息系统安全风险评估方法强调不同结点受到威胁作用概率的不同性,威胁在结点之间的传播性,并且能够提示在不同时间段的重点保护结点。比起传统的孤立结点分析方法更具客观性与准确性,能够很好地指导安全风险管理者为复杂信息系统制定合理的安全保护策略。

关键词：风险评估资产威胁传播树

来源：评论

学校读者我要写书评

暂无评论

基于对偶四元数的协同知识图谱推荐模型

引用

计算机学报 2022年第10期45卷 2221-2242页

作者：曹宗胜许倩倩李朝鹏姜阳邦彦操晓春黄庆明中国科学院信息工程研究所信息安全国家重点实验室北京100093 中国科学院计算技术研究所智能信息处理重点实验室北京100190 中国科学院大学计算机科学与技术学院北京101408 中国科学院大学网络空间安全学院北京100049 中国科学院大数据挖掘与知识管理重点实验室北京101408 鹏城实验室广东深圳518055

为减轻用户-商品交互数据稀疏和冷启动问题对协同过滤算法推荐效果的影响,许多研究者将知识图谱引入推荐系统.然而既往工作对协同知识图谱中关系的建模较为单一,表达能力较弱,不利于建模实体间的复杂关系以及学习用户和商品的嵌入.为克... 详细信息

为减轻用户-商品交互数据稀疏和冷启动问题对协同过滤算法推荐效果的影响,许多研究者将知识图谱引入推荐系统.然而既往工作对协同知识图谱中关系的建模较为单一,表达能力较弱,不利于建模实体间的复杂关系以及学习用户和商品的嵌入.为克服这一问题,本文提出基于对偶四元数的协同知识图谱推荐模型(DQKGR),利用富有表达力的对偶四元数嵌入表示用户和商品,以有效建模实体和关系之间复杂的潜在依赖.在商品和用户的嵌入学习部分,本文设计了一个新的知识图谱嵌入模型(DQKGE),可基于莫比乌斯变换捕捉协同知识图谱中实体间多种复杂关系,并基于此设计偏好传播与聚合方法以利用知识图谱中的结构信息进行推荐.为验证所提DQKGR模型的有效性,在公开的Last-FM、MovieLens-20M和Book-Crossing数据集上进行大量实验,结果表明所提DQKGR模型推荐结果在多个评测指标上优于现有方法,可在平均意义上产生2.83%以上的性能提升.

关键词：知识图谱推荐系统对偶四元数莫比乌斯变换偏好传播

来源：评论

学校读者我要写书评

暂无评论

基于自适应低秩表示的多任务AUC优化算法

引用

计算机学报 2024年第11期47卷 2678-2690页

作者：孙宇辰许倩倩王子泰杨智勇黄庆明中国科学院计算技术研究所智能信息处理重点实验室北京100190 中国科学院大学计算机科学与技术学院北京101408 中国科学院信息工程研究所信息安全国家重点实验室北京100093 中国科学院大学网络空间安全学院北京100049 中国科学院大学大数据挖掘与知识管理重点实验室北京101408 鹏城实验室广东深圳518055

多任务学习是一种基于相似任务之间的关联性进行学习迁移,使得模型在数据不足场景下仍能表现出良好泛化性能的学习方法.在该领域内,大多数现有以准确率作为基准评价标准的方法只适用于平衡分布场景.然而,诸多实际应用如疾病检测、垃圾... 详细信息

多任务学习是一种基于相似任务之间的关联性进行学习迁移,使得模型在数据不足场景下仍能表现出良好泛化性能的学习方法.在该领域内,大多数现有以准确率作为基准评价标准的方法只适用于平衡分布场景.然而,诸多实际应用如疾病检测、垃圾邮件检测等,均涉及样本分布不平衡问题.针对多任务学习面向任务相关性的高要求,即当模型学习和共享不相关知识时,负迁移可能会影响模型朝着错误方向训练.因此,大多数现有方法在此类场景中无法得到有效应用.为解决该实际问题,设计一种能适用于样本不平衡场景的多任务学习算法变得尤为重要.本文提出了一种基于自适应低秩表示的多任务AUC优化算法,首先引入了对标签分布不敏感的ROC曲线下面积(AUC)作为该学习任务的评价指标,并建立了一种用于AUC优化的多任务学习算法,以提高模型在样本不平衡场景下的性能表现.同时,为进一步有效优化模型,本文将原始成对优化问题重构为逐样本极大极小优化问题,使得每一轮迭代复杂度由O(Ln_(i,+)n_(i,-))降低至O(L(n_(i,+)+n_(i,-))).针对多任务学习中存在的负迁移现象,本文引入了一种自适应低秩正则项,以消除模型冗余信息,同时提高模型的泛化性能.最后,通过与多个对比方法在四个仿真数据集和三个真实数据集Landmine、MHC-I和USPS上的比较,所有实验结果一致证明了本文所提出算法的有效性.

关键词：多任务学习 AUC优化低秩表示

来源：评论

学校读者我要写书评

暂无评论

迭代式的深度PU学习与类别先验估计框架

引用

计算机学报 2022年第12期45卷 2667-2686页

作者：赵昀睿许倩倩姜阳邦彦黄庆明中国科学院大学计算机科学与技术学院北京101408 中国科学院计算技术研究所智能信息处理重点实验室北京100190 中国科学院信息工程研究所信息安全国家重点实验室北京100093 中国科学院大学网络空间安全学院北京100049 中国科学院大学大数据挖掘与知识管理重点实验室北京101408 鹏城实验室广东深圳518055

近年来,深度学习在诸多任务上展现了优异的性能,其一般基于海量数据并采用有监督的学习方式,依赖于完整的数据标签信息.然而在现实应用场景中,收集大量标签往往成本高昂.因此,如何利用未经充分标注的数据进行学习成为了当下的主要挑战.... 详细信息

近年来,深度学习在诸多任务上展现了优异的性能,其一般基于海量数据并采用有监督的学习方式,依赖于完整的数据标签信息.然而在现实应用场景中,收集大量标签往往成本高昂.因此,如何利用未经充分标注的数据进行学习成为了当下的主要挑战.二分类问题中的从正例和无标签(Positive-Unlabeled,PU)样本数据进行学习,简称PU学习,即为其一.当前主流的PU学习算法需要准确无误的类别先验知识,但实际上类别先验通常难以获得,需要估计.已有的类别先验估计算法则主要面向传统的机器学习分类器进行设计,无法直接运用在大规模数据集上,因而不利于发挥深度学习在大规模数据集上的优势.为克服以上问题,本文提出了一个基于无监督混合模型的迭代式深度PU学习与类别先验估计框架.它利用了深度神经网络对正例和负例给出的预测分数具有不同的分布这一特性,使用双高斯成分的混合模型近似拟合预测分数的混合分布.其中,各个高斯分量分别代表了正类和负类的条件概率分布,混合权重系数代表了类别先验.结合半监督学习中的平均教师和温度锐化技术,所提框架在类别先验未知以及数据缺失负例监督的条件下,估计类别先验的同时进行PU数据上的深度学习,二者相互促进.在基准数据集MNIST、Fashion-MNIST、CIFAR-10和实际应用数据集Alzheimer上的实验结果验证了所提框架的有效性,准确率分别为94.66%、95.16%、89.98%和73.20%,该结果不仅超越了现有基于类别先验估计的PU学习算法,更可与基于真实类别先验的最前沿算法相媲美.

关键词： PU学习类别先验估计半监督学习弱监督学习深度学习

来源：评论

学校读者我要写书评

暂无评论

移动视觉搜索综述

引用

计算机辅助设计与图形学学报 2017年第6期29卷 1007-1021页

作者：贾佳唐胜谢洪涛肖俊斌北京特种工程设计研究院北京100028 中国科学院计算技术研究所智能信息处理重点实验室北京100190 中国科学院信息工程研究所信息内容安全技术国家工程实验室北京100093

随着移动互联网、智能移动终端和云计算的高速发展,移动视觉搜索在移动电子商务和网络信息安全等方面具有重要的研究价值和应用前景.文中针对当前移动视觉搜索的国内外研究现状,探讨和分析了移动视觉搜索的系统框架及其关键方法,重点介... 详细信息

随着移动互联网、智能移动终端和云计算的高速发展,移动视觉搜索在移动电子商务和网络信息安全等方面具有重要的研究价值和应用前景.文中针对当前移动视觉搜索的国内外研究现状,探讨和分析了移动视觉搜索的系统框架及其关键方法,重点介绍其中的特征提取与表示、高维索引与匹配、几何一致性校验等方面的基本内容.最后对现有研究中存在的难点问题及其未来的发展趋势进行了展望.

关键词：移动视觉搜索特征提取特征表示高维索引几何一致性校验

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：