检索结果-内蒙古大学图书馆

计算机研究与发展 2024年第5期61卷 1276-1289页

作者：孙莹章玉婷庄福振祝恒书何清熊辉香港科技大学(广州)人工智能学域广州511458 中国科学院计算技术研究所专项技术研究中心北京100190 北京航空航天大学人工智能研究院北京100191 BOSS直聘职业科学实验室北京100028 中国科学院智能信息处理重点实验室(中国科学院计算技术研究所) 北京100190 中国科学院大学北京101408

知识技能对薪酬影响作用视为一种多变量影响下高维元素集合的效用建模问题.深度神经网络为解决复杂问题提供了新的机遇,但针对知识导向的细粒度薪酬预测问题,仍缺乏能够对复杂变量影响下的集合效用进行准确、可解释建模的神经网络结构.... 详细信息

知识技能对薪酬影响作用视为一种多变量影响下高维元素集合的效用建模问题.深度神经网络为解决复杂问题提供了新的机遇,但针对知识导向的细粒度薪酬预测问题,仍缺乏能够对复杂变量影响下的集合效用进行准确、可解释建模的神经网络结构.为此,提出一种基于边际贡献的增量式集合效用网络(marginal contribution-based incremental set utility network,MCISUN)来拟合元素加入时的效用增量,从而灵活且可解释地建模集合效用.区别于以往基于池化层的排列不变性建模算法,MCISUN构建顺序敏感的中间结果,利用集合的排列不变性实现数据增强,有效提升模型数据效率及泛化性.最后,大规模真实薪酬数据上的实验结果表明所提模型在基于技能的薪酬预测任务上比最先进的(state-of-the-art,SOTA)模型效果提升超过30%.同时,定性实验证明模型能够为技能设置合理的贡献值且发现技能间的关联.

关键词：集合效用建模边际贡献薪酬预测神经网络可解释性

来源：评论

学校读者我要写书评

暂无评论

基于差分注意力的时空小波分析视频预测算法

引用

计算机辅助设计与图形学学报 2022年第2期34卷 180-188页

作者：金贝贝胡瑜中国科学院计算技术研究所智能计算机研究中心北京100190 中国科学院大学北京100149

针对视频预测中空间结构信息细节和时序运动依赖关系难以准确预测的问题,受人类视觉过程的启发,提出一种基于差分注意力机制的时空小波分析视频预测算法.首先利用时空小波分析模块对视频内容进行多频分解,增强模型对于高频细节信息以及... 详细信息

针对视频预测中空间结构信息细节和时序运动依赖关系难以准确预测的问题,受人类视觉过程的启发,提出一种基于差分注意力机制的时空小波分析视频预测算法.首先利用时空小波分析模块对视频内容进行多频分解,增强模型对于高频细节信息以及过程性运动的理解能力;然后利用差分注意力机制指导模型更高效、合理地分配注意力资源,提升对瞬时运动特征的表达能力.在KTH, Cityscapes, BAIR, KITTI, Caltech Pedestrian数据集上的实验结果表明,所提算法在PSNR, SSIM, LPIPS评价指标上取得了比已有算法更优异的效果;同时,可视化的对比也表明所提算法的预测结果更加清晰.

关键词：视频预测时序小波变换注意力机制空间小波分析

来源：评论

学校读者我要写书评

暂无评论

Cloudless-Training:基于serverless的高效跨地域分布式ML训练框架

引用

高技术通讯 2024年第3期34卷 219-232页

作者：谭文婷吕存驰史骁赵晓芳中国科学院计算技术研究所北京100190 中国科学院大学北京100049 中科南京信息高铁研究院南京211135 中科苏州智能计算技术研究院苏州215028

跨地域分布式机器学习(ML)训练能够联合多区域的云资源协作训练,可满足许多新兴ML场景(比如大型模型训练、联邦学习)的训练需求。但其训练效率仍受2方面挑战的制约。首先,多区域云资源缺乏有效的弹性调度,这会影响训练的资源利用率和性... 详细信息

跨地域分布式机器学习(ML)训练能够联合多区域的云资源协作训练,可满足许多新兴ML场景(比如大型模型训练、联邦学习)的训练需求。但其训练效率仍受2方面挑战的制约。首先,多区域云资源缺乏有效的弹性调度,这会影响训练的资源利用率和性能;其次,模型跨地域同步需要在广域网(WAN)上高频通信,受WAN的低带宽和高波动的影响,会产生巨大通信开销。本文提出Cloudless-Training,从3个方面实现高效的跨地域分布式ML训练。首先,它基于serverless计算模式实现,使用控制层和训练执行层的2层架构,支持多云区域的弹性调度和通信。其次,它提供一种弹性调度策略,根据可用云资源的异构性和训练数据集的分布自适应地部署训练工作流。最后,它提供了2种高效的跨云同步策略,包括基于梯度累积的异步随机梯度下降(ASGD-GA)和跨云参数服务器(PS)间的模型平均(MA)。Cloudless-Training是基于OpenFaaS实现的,并被部署在腾讯云上评估,实验结果表明Cloudless-Training可显著地提高跨地域分布式ML训练的资源利用率(训练成本降低了9.2%~24.0%)和同步效率(训练速度最多比基线快1.7倍),并能保证模型的收敛精度。

关键词：跨地域分布式机器学习(ML)训练跨云ML训练分布式训练框架 serverless 跨云模型同步

来源：评论

学校读者我要写书评

暂无评论

时态知识图谱的推理研究综述

引用

计算机学报 2023年第6期46卷 1272-1301页

作者：沈英汉江旭晖王元卓李紫宣李子健谭鹤翔沈华伟中国科学院计算技术研究所数据智能系统研究中心北京100190 中国科学院大学北京100049 中科大数据研究院郑州450018 中国科学院计算技术研究所网络数据科学与技术重点实验室北京100190

随着社交网络、物端感知等技术快速发展,网络空间中涌现了大量的交互、话题、事件、新闻等数据,蕴含大量动态演化、强时效性的知识.较于忽略知识中时间信息的传统知识图谱,时态知识图谱通过建模知识的时效性以描述动态变化的现实世界,... 详细信息

随着社交网络、物端感知等技术快速发展,网络空间中涌现了大量的交互、话题、事件、新闻等数据,蕴含大量动态演化、强时效性的知识.较于忽略知识中时间信息的传统知识图谱,时态知识图谱通过建模知识的时效性以描述动态变化的现实世界,为时间紧耦合的应用提供有效支持.然而,时态知识图谱无法确保涵盖全量知识,知识的缺失严重影响应用性能,需要推理模型自动挖掘新的知识,以解释事物的历史状态,预测未来发展趋势并描述演化规律.由于实际应用的迫切需要,近年来,时态知识图谱的推理研究工作层出不穷,逐渐引起学术界和工业界的广泛关注.本文对近年来时态知识图谱的推理工作进行全面介绍和总结.首先,介绍了时态知识图谱的推理相关概念与问题描述;其次,介绍了面向补全任务的推理模型与面向预测任务的推理模型,对其进行比较分析;之后总结了时态知识图谱推理的数据集、推理任务、相关指标以及应用场景;最后展望时态知识图谱推理的未来研究趋势.综上,本文致力于为时态知识图谱的推理领域研究人员提供具有价值的参考,以推动该领域进一步发展.

关键词：时态知识图谱时态知识推理知识补全知识预测知识图谱

来源：评论

学校读者我要写书评

暂无评论

基于多视角融合的CBCT图像牙齿实例分割算法

引用

计算机辅助设计与图形学学报 2024年

作者：李孜政李淳芃黄晓峰肖云鹏郑州大学河南先进技术研究院中国科学院大学中国科学院计算技术研究所智能计算技术研究中心首都医科大学附属北京友谊医院口腔科

在牙科治疗中，准确、快速地从锥形束CT图像(CBCT)分割出单颗牙齿具有重要意义. 为了解决咬合面难以处理和CBCT图像分辨率较低的问题，提出一个基于多视角融合的CBCT图像牙齿实例分割算法. 首先，将CBCT数据转化为水平面和矢状面两... 详细信息

在牙科治疗中，准确、快速地从锥形束CT图像(CBCT)分割出单颗牙齿具有重要意义. 为了解决咬合面难以处理和CBCT图像分辨率较低的问题，提出一个基于多视角融合的CBCT图像牙齿实例分割算法. 首先，将CBCT数据转化为水平面和矢状面两个视角的序列切片; 其次，结合不同视图的数据特点，使水平面分割结果为矢状面分割提供分割指导和实例标签信息; 最后，基于矢状面图像的实例分割结果还原CBTC数据，得到高精度的牙齿实例分割结果. 以基于Test29构造的CBCT数据集为例，以平均Dice系数为评价指标，所提算法在牙齿和咬合面的平均Dice系数分别达到89.74%和93.56%，与CGDNet等算法相比，平均提升0.82～3.45个百分点; 同时，平均分割速度为9.2 s，实现短时间内完成CBCT数据高精度实例分割.

关键词：锥形束CT 深度学习实例分割数字化医疗

来源：评论

学校读者我要写书评

暂无评论

基于全局对抗负样本的图对比学习方法

引用

中文信息学报 2024年第1期38卷 65-73,85页

作者：岑科廷沈华伟曹婍徐冰冰程学旗中国科学院计算技术研究所数据智能系统研究中心北京100190 中国科学院大学北京101408 中国科学院计算技术研究所网络数据科学与技术重点实验室北京100190

图对比学习在无监督节点表示方面取得了巨大成功。该类模型旨在通过拉近同一节点对应的不同增强节点的表示(正样本),推远不同节点的表示(负样本)的方式为每个节点学习表示。其中负样本的选择是图对比学习的一个关键。现有的方法通过随... 详细信息

图对比学习在无监督节点表示方面取得了巨大成功。该类模型旨在通过拉近同一节点对应的不同增强节点的表示(正样本),推远不同节点的表示(负样本)的方式为每个节点学习表示。其中负样本的选择是图对比学习的一个关键。现有的方法通过随机采样或者根据一些启发式的重要性度量标准为每个节点选择对应的负样本。然而上述方法并不能准确地找到对模型关键的负样本。同时,由于需要为每一个节点选取其对应的负样本,导致高昂的时间开销。为了解决上述问题,该文提出通过对抗学习的方式,为所有节点学习一个全局共享的关键的负样本。在多个基准数据集上的实验结果证明了该方法的效率和有效性。

关键词：图表示学习图对比学习对抗负样本全局负样本

来源：评论

学校读者我要写书评

暂无评论

基于样本动态权重的课程式半监督学习方法

引用

高技术通讯 2024年第4期34卷 342-355页

作者：朱徽胡斌宋怡宁赵晓芳中国科学院计算技术研究所北京100190 中国科学院大学北京100049 中央军委国防动员部信息中心北京100034 中科苏州智能计算技术研究院苏州215028

本文针对半监督场景中极度匮乏的监督信号导致的标签传播困难、模型训练严重受噪声干扰等问题展开研究。伪标签化带来的噪声和低数据利用率导致的确认偏差,会随着自训练过程造成错误累积,进而形成不可逆偏差,损害性能。本文提出基于样... 详细信息

本文针对半监督场景中极度匮乏的监督信号导致的标签传播困难、模型训练严重受噪声干扰等问题展开研究。伪标签化带来的噪声和低数据利用率导致的确认偏差,会随着自训练过程造成错误累积,进而形成不可逆偏差,损害性能。本文提出基于样本动态权重的课程式半监督学习方法,旨在通过非离散的课程设计,鼓励模型由简单至困难地利用样本,逐步构建分类面,进而缓解伪标签化过程中的噪声产生,增强模型泛化能力。从类内角度,提供弱监督信号的高置信度伪标签被混合用于构建特征原型,估计样本的学习难度。从类间角度,标签嵌入被用于评估类间语义相关度,课程式地减弱训练前期对语义相关类别间的辨别。在通用的半监督学习基准数据集上进行了广泛的实验和分析,证明了方法的有效性。

关键词：半监督学习特征表示向量课程学习特征原型语义相关度

来源：评论

学校读者我要写书评

暂无评论

基于超低延迟SSD的页交换关键技术

引用

计算机研究与发展 2024年

作者：王紫芮 * 蒋德钧处理器芯片全国重点实验室(中国科学院计算技术研究所) 先进计算机系统研究中心(中国科学院计算技术研究所) 中国科学院大学

随着内存密集型应用的快速发展，应用对单机内存容量的需求日益增大.然而，受到颗粒密度的限制，内存容量的扩展度较低.页交换机制是进行内存扩展的经典技术，该机制通过将较少使用的内存页面暂存在存储设备，以达到扩展内存的目的.过... 详细信息

随着内存密集型应用的快速发展，应用对单机内存容量的需求日益增大.然而，受到颗粒密度的限制，内存容量的扩展度较低.页交换机制是进行内存扩展的经典技术，该机制通过将较少使用的内存页面暂存在存储设备，以达到扩展内存的目的.过去页交换机制由于慢速磁盘的读写速度限制，无法被广泛应用.近年来，得益于超低延迟固态硬盘（solid state drive, SSD）的快速发展，页交换机制可以利用其低延迟的读写特性，提升页交换效率.然而，在低I/O延迟的情况下，传统页交换机制的I/O栈存在巨大的软件开销.首先对使用超低延迟SSD的Linux页交换机制进行测试与分析，发现现有页交换机制的主要瓶颈在于发送请求时存在队头阻塞问题、I/O合并和调度开销，以及内核返回路径上的中断处理和直接内存回收开销.基于分析结果，提出基于超低延迟SSD的页交换机制***在Linux I/O栈的基础上增加对轮询请求的处理，并降低I/O合并与调度开销，实现轻量级的I/O栈.基于Ultraswap的I/O栈，对内核页交换机制的换入与换出路径进一步优化.通过优化对缺页、直接内存回收的处理，降低页交换机制关键路径上的时间开销.实验结果表明Ultraswap在应用测试场景下相比Linux页交换机制能够提升19%的平均性能；在可使用内存比例为20%的情况下，Ultraswap可达到33%的性能提升.

关键词：页交换 I/O栈超低延迟SSD 轮询 NVMe SSD

来源：评论

学校读者我要写书评

暂无评论

一种基于自适应PoT量化的无乘法神经网络训练方法

引用

高技术通讯 2024年第6期34卷 567-577页

作者：刘畅张蕊支天中国科学院大学北京100049 中国科学院计算技术研究所智能处理器研究中心北京100190 中国科学院计算技术研究所处理器芯片全国重点实验室北京100190

当前的深度神经网络的训练过程中需要包含大量的全精度乘累加(MAC)操作,导致神经网络模型的线性层(包含卷积层和全连接层)的计算过程所需的能耗占整体能耗的绝大部分,达90%以上。本文提出了一种自适应逐层缩放的量化训练方法,可支持在... 详细信息

当前的深度神经网络的训练过程中需要包含大量的全精度乘累加(MAC)操作,导致神经网络模型的线性层(包含卷积层和全连接层)的计算过程所需的能耗占整体能耗的绝大部分,达90%以上。本文提出了一种自适应逐层缩放的量化训练方法,可支持在神经网络计算全流程(前向传播和后向传播)将全部线性层中的全精度乘法替换为4位定点数加法计算和1位异或运算。实验结果表明,上述方法在能耗和准确率方面都优于现有方法,可支撑在训练过程中减少达95.8%的线性层能耗,在ImageNet数据集上的卷积神经网络和在WMT En-De任务上的Transformer网络得到小于1%的精度损失。

关键词：神经网络量化训练加速低能耗

来源：评论

学校读者我要写书评

暂无评论

图分类研究综述

引用

软件学报 2022年第1期33卷 171-192页

作者：王兆慧沈华伟曹婍程学旗中国科学院计算技术研究所数据智能系统研究中心北京100190 中国科学院计算技术研究所网络数据科学与技术重点实验室北京100190 中国科学院大学北京100049

图数据广泛存在于现实世界中,可以自然地表示复合对象及其元素之间的复杂关联.对图数据的分类是一个非常重要且极具挑战的问题,在生物/化学信息学等领域有许多关键应用,如分子属性判断,新药发现等.但目前尚缺乏对于图分类研究的完整综述... 详细信息

图数据广泛存在于现实世界中,可以自然地表示复合对象及其元素之间的复杂关联.对图数据的分类是一个非常重要且极具挑战的问题,在生物/化学信息学等领域有许多关键应用,如分子属性判断,新药发现等.但目前尚缺乏对于图分类研究的完整综述.首先给出图分类问题的定义和该领域的挑战;然后梳理分析了两类图分类方法—基于图相似度计算的图分类方法和基于图神经网络的图分类方法;接着给出了图分类方法的评价指标、常用数据集和实验结果对比;最后介绍了图分类常见的实际应用场景,展望了图分类领域的未来研究方向并对全文进行总结.

关键词：图分类图核图卷积图池化图神经网络

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：