检索结果-内蒙古大学图书馆

高技术通讯 2024年第6期34卷 567-577页

作者：刘畅张蕊支天中国科学院大学北京100049 中国科学院计算技术研究所智能处理器研究中心北京100190 中国科学院计算技术研究所处理器芯片全国重点实验室北京100190

当前的深度神经网络的训练过程中需要包含大量的全精度乘累加(MAC)操作,导致神经网络模型的线性层(包含卷积层和全连接层)的计算过程所需的能耗占整体能耗的绝大部分,达90%以上。本文提出了一种自适应逐层缩放的量化训练方法,可支持在... 详细信息

当前的深度神经网络的训练过程中需要包含大量的全精度乘累加(MAC)操作,导致神经网络模型的线性层(包含卷积层和全连接层)的计算过程所需的能耗占整体能耗的绝大部分,达90%以上。本文提出了一种自适应逐层缩放的量化训练方法,可支持在神经网络计算全流程(前向传播和后向传播)将全部线性层中的全精度乘法替换为4位定点数加法计算和1位异或运算。实验结果表明,上述方法在能耗和准确率方面都优于现有方法,可支撑在训练过程中减少达95.8%的线性层能耗,在ImageNet数据集上的卷积神经网络和在WMT En-De任务上的Transformer网络得到小于1%的精度损失。

关键词：神经网络量化训练加速低能耗

来源：评论

学校读者我要写书评

暂无评论

标题与正文语义融合的新闻向量表示方法

引用

计算机工程与应用 2023年第4期59卷 89-96页

作者：连晓颖薛源海刘悦沈华伟中国科学院计算技术研究所数据智能系统研究中心北京100190 中国科学院大学北京101408

针对新闻正文文本长度大、语义信息复杂的问题,提出了一种标题与正文语义融合的新闻向量表示方法(NRTA模型)。以新闻标题为查询,从正文的多个区域中挖掘标题的补充信息,关注前文语义的同时也关注后文语义,减少对新闻正文理解的偏差。在... 详细信息

针对新闻正文文本长度大、语义信息复杂的问题,提出了一种标题与正文语义融合的新闻向量表示方法(NRTA模型)。以新闻标题为查询,从正文的多个区域中挖掘标题的补充信息,关注前文语义的同时也关注后文语义,减少对新闻正文理解的偏差。在两个真实新闻推荐数据集MIND和Adressa上的实验表明,该方法较基线方法在各评价指标上的提升幅度在0.86%到3.95%之间,验证了正文后文语义信息的重要性,进一步丰富了新闻向量表示。

关键词：新闻推荐正文语义信息向量表示注意力机制

来源：评论

学校读者我要写书评

暂无评论

社交知识图谱研究综述

引用

计算机学报 2023年第2期46卷 304-330页

作者：江旭晖沈英汉李子健王元卓尹芷仪沈华伟中国科学院计算技术研究所数据智能系统研究中心北京100190 中国科学院大学北京100049 中科大数据研究院郑州450046

作为通用的知识结构化表示形式,知识图谱被成功应用于医疗、金融、安全等领域.社交知识图谱是一种以人为中心的知识图谱,其融合了动态演化的社交知识.作为知识图谱概念的延伸,社交知识图谱涵盖人、物、事、地等异质信息及其复杂关联;由... 详细信息

作为通用的知识结构化表示形式,知识图谱被成功应用于医疗、金融、安全等领域.社交知识图谱是一种以人为中心的知识图谱,其融合了动态演化的社交知识.作为知识图谱概念的延伸,社交知识图谱涵盖人、物、事、地等异质信息及其复杂关联;由于其融入了来自社交网络的强时效性知识,能够准确地描述人员的即时状态及其演化趋势,被广泛应用于推荐系统、社交分析等以人为中心的应用中.当前,社交知识图谱的相关工作不断涌现,但缺乏统一的形式化定义以及系统性的分析.基于此,本文首先梳理了社交知识图谱的相关概念,并给出了社交知识图谱的形式化定义.然后从社交知识图谱的定义出发,对其动态性、异质性、情感性、互演化性等性质进行分析.接下来围绕社交知识图谱的生命周期,梳理了社交知识图谱的构建、融合、表示和推理的相关代表性工作.最后介绍了社交知识图谱的相关应用,并展望了社交知识图谱的未来发展蓝图.

关键词：社交知识图谱社交网络知识图谱知识推理图表示学习知识抽取网络融合

来源：评论

学校读者我要写书评

暂无评论

图分类研究综述

引用

软件学报 2022年第1期33卷 171-192页

作者：王兆慧沈华伟曹婍程学旗中国科学院计算技术研究所数据智能系统研究中心北京100190 中国科学院计算技术研究所网络数据科学与技术重点实验室北京100190 中国科学院大学北京100049

图数据广泛存在于现实世界中,可以自然地表示复合对象及其元素之间的复杂关联.对图数据的分类是一个非常重要且极具挑战的问题,在生物/化学信息学等领域有许多关键应用,如分子属性判断,新药发现等.但目前尚缺乏对于图分类研究的完整综述... 详细信息

图数据广泛存在于现实世界中,可以自然地表示复合对象及其元素之间的复杂关联.对图数据的分类是一个非常重要且极具挑战的问题,在生物/化学信息学等领域有许多关键应用,如分子属性判断,新药发现等.但目前尚缺乏对于图分类研究的完整综述.首先给出图分类问题的定义和该领域的挑战;然后梳理分析了两类图分类方法—基于图相似度计算的图分类方法和基于图神经网络的图分类方法;接着给出了图分类方法的评价指标、常用数据集和实验结果对比;最后介绍了图分类常见的实际应用场景,展望了图分类领域的未来研究方向并对全文进行总结.

关键词：图分类图核图卷积图池化图神经网络

来源：评论

学校读者我要写书评

暂无评论

染色体核型分析深度学习方法综述

引用

中国图象图形学报 2023年第11期28卷 3363-3385页

作者：罗纯龙赵屹中国科学院计算技术研究所泛在计算系统研究中心北京100080 中国科学院大学北京100049

染色体核型分析是细胞遗传学领域重要的实验技术,并逐步在包括生殖医学在内的诸多现代临床领域和科学研究方面得到广泛应用,但即使是经验丰富的细胞遗传学家也需要大量时间才能完成染色体核型分析。基于传统方法的染色体核型自动化分析... 详细信息

染色体核型分析是细胞遗传学领域重要的实验技术,并逐步在包括生殖医学在内的诸多现代临床领域和科学研究方面得到广泛应用,但即使是经验丰富的细胞遗传学家也需要大量时间才能完成染色体核型分析。基于传统方法的染色体核型自动化分析方法精度较低,仍需要细胞遗传学家花费大量时间、精力校正。目前基于深度学习的染色体核型自动分析方法成果较多,但缺乏对该领域现状的总结、对未来发展的展望等。因此,本文对基于深度学习的染色体核型自动分析方法进行综述,归纳总结了现有的研究分析任务,挑选了具有代表性的方法并梳理解决方案,展望了未来发展方向。通过整理发现,基于深度学习的染色体核型自动化分析方法取得了很多成果,但仍存在一些问题。首先,已有的中文综述性工作仅集中于某一子领域或者调研不够全面和深入。其次,染色体核型分析任务与临床紧密结合,受各种因素制约,任务类型繁多,解决方案复杂,难以窥斑见豹。最后,现有方法主要集中于染色体分类和染色体分割任务,而诸如染色体计数、染色体预处理等任务研究成果较少,需要厘清问题,吸引更多研究人员关注。综上所述,基于深度学习的染色体核型自动分析方法仍有较大发展空间。

关键词：深度学习计算机辅助诊断染色体核型分析染色体分类染色体分割

来源：评论

学校读者我要写书评

暂无评论

国产SW26010-Pro处理器上3级BLAS函数众核并行优化

引用

软件学报 2024年第3期35卷 1569-1584页

作者：胡怡陈道琨杨超马文静刘芳芳宋超博孙强史俊达中国科学院软件研究所并行软件与计算科学实验室北京100190 中国科学院大学北京100049 北京大学数学科学学院北京100871 国家并行计算机工程技术研究中心北京100190

BLAS(basic linear algebra subprograms)是最基本、最重要的底层数学库之一.在一个标准的BLAS库中,BLAS 3级函数涵盖的矩阵-矩阵运算尤为重要,在许多大规模科学与工程计算应用中被广泛调用.另外,BLAS 3级属于计算密集型函数,对充分发... 详细信息

BLAS(basic linear algebra subprograms)是最基本、最重要的底层数学库之一.在一个标准的BLAS库中,BLAS 3级函数涵盖的矩阵-矩阵运算尤为重要,在许多大规模科学与工程计算应用中被广泛调用.另外,BLAS 3级属于计算密集型函数,对充分发挥处理器的计算性能有至关重要的作用.针对国产SW26010-Pro处理器研究BLAS 3级函数的众核并行优化技术.具体而言,根据SW26010-Pro的存储层次结构,设计多级分块算法,挖掘矩阵运算的并行性.在此基础上,基于远程内存访问(remote memory access,RMA)机制设计数据共享策略,提高从核间的数据传输效率.进一步地,采用三缓冲、参数调优等方法对算法进行全面优化,隐藏直接内存访问(direct memory access,DMA)访存开销和RMA通信开销.此外,利用SW26010-Pro的两条硬件流水线和若干向量化计算/访存指令,还对BLAS 3级函数的矩阵-矩阵乘法、矩阵方程组求解、矩阵转置操作等若干运算进行手工汇编优化,提高了函数的浮点计算效率.实验结果显示,所提出的并行优化技术在SW26010-Pro处理器上为BLAS 3级函数带来了明显的性能提升,单核组BLAS 3级函数的浮点计算性能最高可达峰值性能的92%,多核组BLAS 3级函数的浮点计算性能最高可达峰值性能的88%.

关键词： BLAS 3级 SW26010-Pro众核处理器直接内存访问远程内存访问浮点计算效率

来源：评论

学校读者我要写书评

暂无评论

基于图卷积的异质网络节点分类方法

引用

计算机研究与发展 2022年第7期59卷 1470-1485页

作者：谢小杰梁英王梓森刘政君中国科学院计算技术研究所泛在计算系统研究中心北京100190 中国科学院大学计算机科学与技术学院北京100049 移动计算与新型终端北京市重点实验室(中国科学院计算技术研究所) 北京100190

图神经网络能够有效学习网络语义信息,在节点分类任务上取得了良好的效果.但仍面临挑战:如何充分利用异质网络丰富语义信息和全面结构信息使节点分类更精准.针对上述问题,提出了一种基于图卷积的异质网络节点分类框架(heterogeneous net... 详细信息

图神经网络能够有效学习网络语义信息,在节点分类任务上取得了良好的效果.但仍面临挑战:如何充分利用异质网络丰富语义信息和全面结构信息使节点分类更精准.针对上述问题,提出了一种基于图卷积的异质网络节点分类框架(heterogeneous network node classification framework, HNNCF),包括异质网络约简和图卷积节点分类,解决异质网络节点分类问题.通过设计转换规则约简异质网络,将异质网络化简为语义化同质网络,利用节点间的关系表示保留异质网络多语义信息,降低网络结构建模复杂度;基于消息传递框架设计图卷积节点分类方法,在语义化同质网络上学习无1-sum约束的邻居权重等网络结构信息,深入挖掘关系语义特征,发现不同连接关系和邻居语义提取的差异性,生成节点的异质语义表示用于节点分类,识别节点类别标签.在3个公开的节点分类数据集上进行了实验,结果表明HNNCF能够充分利用异质网络多种语义信息,有效学习邻居节点权重等网络结构信息,提升节点分类效果.

关键词：异质网络图神经网络节点分类语义关系邻居权重

来源：评论

学校读者我要写书评

暂无评论

基于数据包头序列的物联网恶意流量检测

引用

高技术通讯 2024年第8期34卷 798-806页

作者：卫重波谢高岗刁祖龙张广兴中国科学院计算技术研究所北京100190 中国科学院大学北京100190 中国科学院计算机网络信息中心北京100190 紫金山实验室南京211111

现有的基于机器学习(ML)的恶意流量检测方法,通常以高维的流量特征作为输入,并采用复杂模型,在实践中产生高误报率且资源占用较高。更重要的是,加密协议的广泛使用,使得数据包有效载荷特征很难被访问。幸运的是,物联网(IoT)设备的网络... 详细信息

现有的基于机器学习(ML)的恶意流量检测方法,通常以高维的流量特征作为输入,并采用复杂模型,在实践中产生高误报率且资源占用较高。更重要的是,加密协议的广泛使用,使得数据包有效载荷特征很难被访问。幸运的是,物联网(IoT)设备的网络行为通常是有规律和周期性的,该特征反映在通信数据包序列上,每个数据包一定程度上描述了一次网络事件。基于此,本文提出了基于数据包头序列的恶意流量检测方法。它将流量序列转换为网络事件序列,并计算一组特征(即序列性、频率性、周期性和爆发性)来描述网络行为。实验环境包含一组真实的物联网设备,并将提出的方法部署在树莓派模拟的网关上。实验结果表明,与最新的检测方法相比,本文提出的方法能够在复杂网络环境下保持高准确性和低误报率,并提升了处理速率。

关键词：机器学习(ML) 恶意流量检测网络行为物联网(IoT)安全数据包头序列

来源：评论

学校读者我要写书评

暂无评论

融合“科学—技术—舆情”数据特征的技术筛选方法研究

引用

情报理论与实践 2024年第10期47卷 173-182页

作者：吕璐成周健赵展一赵亚娟刘细文中国科学院文献情报中心北京100190 中国科学院大学经济与管理学院信息资源管理系北京100190 中国科学院计算技术研究所北京100190

[目的/意义]利用科技文献进行技术监测预警是科技情报工作的重要内容。目前,采用自然语言处理技术从科技文献中抽取的技术元素存在数量多、不易展示的问题,因此设计了一种融合“科学—技术—舆情”数据特征的技术筛选方法来实现科技文... 详细信息

[目的/意义]利用科技文献进行技术监测预警是科技情报工作的重要内容。目前,采用自然语言处理技术从科技文献中抽取的技术元素存在数量多、不易展示的问题,因此设计了一种融合“科学—技术—舆情”数据特征的技术筛选方法来实现科技文献技术挖掘结果的筛选。[方法/过程]以技术术语表示技术,基于词法结构分析和修饰符匹配方法构建技术术语层次结构体系,利用表征技术基础研究热度的论文数据、表征技术研发热度的专利数据、表征技术市场关注度的舆情数据,构建重要性、成长性、新颖性和持久性4类特征,采用机器学习方法训练和确定技术筛选模型。[结果/结论]通过与人工筛选结果对比发现,本方法能够更有效地筛选技术。在各种模型中,同时采用3类数据和4类特征构建的技术筛选模型效果最优,该方法可以为开展技术识别预测工作,研发技术挖掘工具提供依据。[局限]该方法仅在技术术语层次结构的第一层进行了效果验证,其领域适用性与数据类型方面还有待进一步研究。

关键词：技术筛选技术挖掘多源数据融合文本挖掘机器学习技术识别与预测

来源：评论

学校读者我要写书评

暂无评论

推荐系统中稀疏情景预测的特征-类别交互因子分解机

引用

计算机研究与发展 2022年第7期59卷 1553-1568页

作者：黄若然崔莉韩传奇中国科学院计算技术研究所泛在计算系统研究中心北京100190 中国科学院大学计算机科学与技术学院北京101408

随着Web信息的不断增长与发展,对用户稀疏行为的预测已成为目前推荐系统的研究热点.近年来,因子分解机(factorization machine, FM)的提出在一定程度上缓解了稀疏场景下预测精度不准确的问题.它的主要思想是通过2阶特征交互来获取特征... 详细信息

随着Web信息的不断增长与发展,对用户稀疏行为的预测已成为目前推荐系统的研究热点.近年来,因子分解机(factorization machine, FM)的提出在一定程度上缓解了稀疏场景下预测精度不准确的问题.它的主要思想是通过2阶特征交互来获取特征间丰富的语义关系.随后,感知交互因子分解机(interaction-aware factorization machines, IFM)在FM的特征交互基础上引入类别交互的概念来扩展潜在的交互特性,通过把特征和类别分别进行交互后再融合来得到更准确的预测结果.在IFM的基础上,提出了一种特征-类别交互因子分解机(FIFM)模型.FIFM不仅保留了特征交互和类别交互机制,还设计了一种新的特征-类别交互机制(FIM)来进一步挖掘交互信息中的有效信息,并利用融合交互感知来预测不同稀疏场景下的用户行为模式.此外,还基于深度学习提出了一种实现FIFM的神经网络模型GFIM.相比于FIFM,GFIM的参数量和时间复杂度更高,但同时也能捕获更多高阶的非线性特征交互信息,能适合算力较高的应用场景.在4个真实数据集上的实验结果表明,FIFM和GFIM在RMSE指标上超越了当前最好的方法IFM.实验工作探究了多类稀疏场景下的预测结果,记录了时间和空间复杂度的消耗情况,并进行了分析讨论.

关键词：因子分解机特征-类别交互注意力网络深度神经网络稀疏情景预测

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：