检索结果-内蒙古大学图书馆

激光与光电子学进展 2025年第4期62卷 234-242页

作者：张伟曾志龙方麒宋杰桂冠王生怀王宸湖北汽车工业学院机械工程学院湖北中程科技产业技术研究院有限公司

在点云语义分割的领域中，高效准确地提取空间结构信息对于理解三维场景至关重要。针对点云数据的非结构化特性，通过有效整合位置编码和通道注意力机制，减少重复的关系学习和冗余计算，提出一种基于位置编码和通道注意力的点云分割方... 详细信息

在点云语义分割的领域中，高效准确地提取空间结构信息对于理解三维场景至关重要。针对点云数据的非结构化特性，通过有效整合位置编码和通道注意力机制，减少重复的关系学习和冗余计算，提出一种基于位置编码和通道注意力的点云分割方法（PCANet）。该方法首先利用位置编码技术对点云数据进行编码，以捕获点云的相对位置信息。随后，通过通道注意力机制，对编码后的特征图进行加权，以强化不同通道关键特征的表征能力来扩大网络的感受野。实验结果表明，PCANet在ShapeNet和S3DIS点云数据集上均取得了良好的分割性能，在ShapeNet数据集上的实例均交并比（Ins. mIoU）达到了87.4%，类别均交并比（Cat. mIoU）达到了85.8%，相较于PointNet++分别提高了2.3百分点和3.9百分点，在S3DIS数据集上的平均交并比（mIoU）达到了73.7%，相较于PointNet++提高了20.2百分点。这表明所提方法在小型零部件和室内点云场景中有良好的分割效果。

关键词：点云语义分割深度学习相对位置编码通道关联注意力机制感受野

来源：评论

学校读者我要写书评

暂无评论

基于DETR网络的小样本铸件飞边检测研究

引用

特种铸造及有色合金 2025年第2期45卷 187-192页

作者：王梦雪穆春阳马行李昌金北方民族大学电气信息工程学院银川750021 北方民族大学机电工程学院银川750021 北方民族大学宁夏智能信息与大数据处理重点实验室银川750021

为实现铸件飞边自动化检测,针对检测过程中铸件飞边样本量少,模型特征融合不充分的问题,基于DETR网络提出一种基于注意力加权特征融合的小样本目标检测算法。首先,设计坐标注意力加权的金字塔特征融合网络,以提高模型特征信息交互融合... 详细信息

为实现铸件飞边自动化检测,针对检测过程中铸件飞边样本量少,模型特征融合不充分的问题,基于DETR网络提出一种基于注意力加权特征融合的小样本目标检测算法。首先,设计坐标注意力加权的金字塔特征融合网络,以提高模型特征信息交互融合能力和感兴趣区域专注力;然后引入二维图像相对位置编码,增强对平移不变性的模式识别能力;后处理阶段引入Smooth-L1优化损失函数,提高模型检测精度。结果表明,改进算法在试验实例为3、5、10和30个时,检测精度分别为47.50%、54.06%、66.00%和79.32%,改进算法在自制铸件飞边数据集上的检测精确度更高。

关键词：目标检测小样本铸件特征加权融合相对位置编码

来源：评论

学校读者我要写书评

暂无评论

基于改进位置编码的谣言检测模型

引用

计算机科学 2022年第8期49卷 330-335页

作者：姜梦函李邵梅郑洪浩张建朋中国人民解放军战略支援部队信息工程大学信息技术研究所郑州450000

随着在线社交网络的兴起,人们传播和获取信息的方式发生了翻天覆地的变化。社交媒体在方便人们生活的同时,也加速了谣言的产生和传播。因此,如何准确高效地检测谣言成为了亟待解决的问题。为了提高谣言检测的精度,对基于全局-局部注意... 详细信息

随着在线社交网络的兴起,人们传播和获取信息的方式发生了翻天覆地的变化。社交媒体在方便人们生活的同时,也加速了谣言的产生和传播。因此,如何准确高效地检测谣言成为了亟待解决的问题。为了提高谣言检测的精度,对基于全局-局部注意网络的谣言检测模型进行了改进,考虑到文本中词与词之间的位置关系对谣言检测的影响,引入了一种新的相对位置编码方法来改进原有模型的局部特征提取模块。该方法能够更准确地提取谣言中文本的语义信息和位置信息并将它们聚合,得到更优的区分谣言与非谣言的文本特征,将该特征和描述转发行为的全局特征相结合,进而提升对谣言的检测效果。实验结果表明,与其他主流检测方法相比,所提方法在微博数据集上的F1值可达95.0%,具有更好的检测效果。

关键词：谣言检测深度学习注意力机制相对位置编码谣言文本特征

来源：评论

学校读者我要写书评

暂无评论

基于双位置编码Transformer的命名实体识别研究

引用

微电子学与计算机 2024年

作者：张有胜季伟东哈尔滨师范大学计算机科学与信息工程学院哈尔滨师范大学未来教师教学与发展智能实验室

Flat-LAttice Transformer（FLAT）经常被应用于中文命名实体识别任务中，平坦的格子结构在词典信息融合方面有巨大优势。但Transformer只是将位置编码加到上下文表示上，面对复杂多样的外部信息时，经过线性变换后无法很好地表征位置... 详细信息

Flat-LAttice Transformer（FLAT）经常被应用于中文命名实体识别任务中，平坦的格子结构在词典信息融合方面有巨大优势。但Transformer只是将位置编码加到上下文表示上，面对复杂多样的外部信息时，经过线性变换后无法很好地表征位置信息，进而无法充分利用格子中包含的多种信息。为了增强Transformer对相对位置信息的感知能力，本文提出Double Position Encoding Transformer (DPET)模型。DPET模型以BERT预训练模型和外部词典信息为嵌入层，在编码层设计一了种新的双位置编码的多头注意力机制，该机制融合了旋转位置编码和FLAT中的相对位置编码，旋转位置编码通过上下文表示与具有理论解释的旋转矩阵相乘来编码相对位置，并且与线性自注意力机制兼容。FLAT位置编码包含更多的单词边界信息。结合两者优势，使Transformer中的Query和Key乘以一个带有位置信息的权重。避免增加过多计算和内存开销的同时，使模型能够与上下文信息充分交互，使实体之间的距离更近，非实体之间的距离更远。在常用的四个中文数据集上做了对比实验和消融实验，证明了该方法的有效性。

关键词：中文命名实体识别预训练模型 Transformer 相对位置编码

来源：评论

学校读者我要写书评

暂无评论

基于SVMD-FE和改进Informer的短期负荷预测

引用

河北电力技术 2025年第1期44卷 51-58页

作者：印文博谷卫常州铁道高等职业技术学校江苏常州321000

针对电力负荷非平稳性导致负荷预测精度低的问题,采用改进Informer模型对经过逐次变分模态分解(sequential variational mode decomposition, SVMD)算法和模糊熵(fuzzy entropy, FE)综合处理后的子序列进行预测,构建了SVMD-FE和改进Info... 详细信息

针对电力负荷非平稳性导致负荷预测精度低的问题,采用改进Informer模型对经过逐次变分模态分解(sequential variational mode decomposition, SVMD)算法和模糊熵(fuzzy entropy, FE)综合处理后的子序列进行预测,构建了SVMD-FE和改进Informer的预测模型。首先,采用SVMD算法对负荷数据进行分解,降低数据的非平稳性,利用FE算法对分解后的各子序列进行熵值重组;其次,在Informer模型中引入相对位置编码取代传统的绝对位置编码,以捕获序列数据内部的依赖关系,避免信息泄漏;再次,采用扩展因果卷积代替正则卷积来增加接收和增强局部信息提取。最后,结合某市负荷数据对比验证多种深度学习模型预测效果,结果表明该模型具有更高精度的短期负荷预测能力。

关键词：短期负荷预测相对位置编码扩展因果卷积变分模态分解

来源：评论

学校读者我要写书评

暂无评论

基于图神经网络的固定骨架蛋白质设计方法研究

引用

南京理工大学学报 2023年第3期47卷 311-317,329页

作者：刘炎袁野沈红斌上海交通大学图像处理与模式识别研究所上海200240

针对图神经网络(GNN)ProteinSolver结构特征约束不充分的问题,增加了骨架二面角、配对氨基酸的相对位置编码和相对方向等结构约束,提出了一种基于GNN的固定骨架蛋白质设计方法。实现了基于Transformer多头注意力机制的GNN架构,将物理坐... 详细信息

针对图神经网络(GNN)ProteinSolver结构特征约束不充分的问题,增加了骨架二面角、配对氨基酸的相对位置编码和相对方向等结构约束,提出了一种基于GNN的固定骨架蛋白质设计方法。实现了基于Transformer多头注意力机制的GNN架构,将物理坐标添加到消息传递和更新步骤中,提高了原子坐标的等变特性。在CATH数据集上的训练和测试结果显示:该文模型平均困惑度为8.12,比ProteinSolver的平均困惑度8.97降低了0.85;在掩盖率为50%时,ProteinSolver的恢复率为28.7%;然后,增加更多的结构约束,恢复率达到了30.3%;随后,将ProteinSolver的GNN替换成基于Transformer的GNN,恢复率达到了34.3%;最后,通过再引入等变特性,恢复率进一步提高到35.0%。

关键词：图神经网络固定骨架蛋白质蛋白质设计结构特征约束骨架二面角配对氨基酸相对位置编码相对方向

来源：评论

学校读者我要写书评

暂无评论

基于改进Transformer模型的运动想象脑电分类方法研究

引用

计量学报 2023年第7期44卷 1147-1153页

作者：刘月峰刘好峰王越刘博暴祥内蒙古科技大学内蒙古包头014000

运动想象(MI)脑电信号本身是由一组较长且连续的特征值组成的信号序列,传统Transformer模型无法捕捉较长序列之间的依赖,设置固定长度的序列又会产生碎片化问题,因此有待进一步调整和优化。针对上述问题,在传统Transformer模型中加入了... 详细信息

运动想象(MI)脑电信号本身是由一组较长且连续的特征值组成的信号序列,传统Transformer模型无法捕捉较长序列之间的依赖,设置固定长度的序列又会产生碎片化问题,因此有待进一步调整和优化。针对上述问题,在传统Transformer模型中加入了片段重用的循环机制和重用之前片段信息的相对位置编码机制,使Transformer模型能够学习更长特征序列的特征信息,同时解决重用片段之间的位置编码信息错乱和重用等问题。然后,通过并行多分支CNN进一步捕捉脑电局部特征。最后,利用竞赛数据集2008 BCI-Competition 2A对改进的Transformer模型性能进行评估。结果表明,在不做任何人工特征提取的前提下,对于四分类数据集,改进Transformer模型的平均准确率和kappa值分别为94.27%和87.34%。

关键词：计量学脑电信号运动想象脑机接口卷积神经网络 Transformer模型片段循环机制相对位置编码

来源：评论

学校读者我要写书评

暂无评论

基于Transformer编码器的中文命名实体识别模型

引用

计算机工程 2022年第7期48卷 66-72页

作者：司逸晨管有庆南京邮电大学物联网学院南京210003

命名实体识别是自然语言处理中的重要任务,且中文命名实体识别相比于英文命名实体识别任务更具难度。传统中文实体识别模型通常基于深度神经网络对文本中的所有字符打上标签,再根据标签序列识别命名实体,但此类基于字符的序列标注方式... 详细信息

命名实体识别是自然语言处理中的重要任务,且中文命名实体识别相比于英文命名实体识别任务更具难度。传统中文实体识别模型通常基于深度神经网络对文本中的所有字符打上标签,再根据标签序列识别命名实体,但此类基于字符的序列标注方式难以获取词语信息。提出一种基于Transformer编码器的中文命名实体识别模型,在字嵌入过程中使用结合词典的字向量编码方法使字向量包含词语信息,同时针对Transformer编码器在注意力运算时丢失字符相对位置信息的问题,改进Transformer编码器的注意力运算并引入相对位置编码方法,最终通过条件随机场模型获取最优标签序列。实验结果表明,该模型在Resume和Weibo中文命名实体识别数据集上的F1值分别达到94.7%和58.2%,相比于基于双向长短期记忆网络和ID-CNN的命名实体识别模型均有所提升,具有更优的识别效果和更快的收敛速度。

关键词：自然语言处理中文命名实体识别 Transformer编码器条件随机场相对位置编码

来源：评论

学校读者我要写书评

暂无评论

基于改进型Transformer编码器和特征融合的行人重识别

引用

数据采集与处理 2023年第2期38卷 375-385页

作者：赵倩薛超晨赵琰上海电力大学电子与信息工程学院上海201306

为了解决Transformer编码器在行人重识别中因图像块信息丢失以及行人局部特征表达不充分导致模型识别准确率低的问题,本文提出改进型Transformer编码器和特征融合的行人重识别算法。针对Transformer在注意力运算时会丢失行人图像块相对... 详细信息

为了解决Transformer编码器在行人重识别中因图像块信息丢失以及行人局部特征表达不充分导致模型识别准确率低的问题,本文提出改进型Transformer编码器和特征融合的行人重识别算法。针对Transformer在注意力运算时会丢失行人图像块相对位置信息的问题,引入相对位置编码,促使网络关注行人图像块语义化的特征信息,以增强行人特征的提取能力。为了突出包含行人区域的显著特征,将局部patch注意力机制模块嵌入到Transformer网络中,对局部关键特征信息进行加权强化。最后,利用全局与局部信息特征融合实现特征间的优势互补,提高模型识别能力。训练阶段使用Softmax及三元组损失函数联合优化网络,本文算法在Market1501和DukeMTMC⁃reID两大主流数据集中评估测试,Rank⁃1指标分别达到97.5%和93.5%,平均精度均值(mean Average precision,mAP)分别达到92.3%和83.1%,实验结果表明改进型Transformer编码器和特征融合算法能够有效提高行人重识别的准确率。

关键词：计算机图像处理行人重识别局部注意力相对位置编码特征融合 Transformer

来源：评论

学校读者我要写书评

暂无评论

融合词汇信息与GlobalPointer的实体识别

引用

山东大学学报（工学版） 2024年第1期54卷 91-99页

作者：李明键李卫军王海荣北方民族大学计算机科学与工程学院宁夏银川750021 北方民族大学图形图像智能处理国家民委重点实验室宁夏银川750021

为了提升GlobaiPointer方法的实体边界区分性能,提出一种融合词汇信息与GlobalPointer的实体识别方法。对SoftLexicon提取的词汇特征与字符相结合,采用BiLSTM网络与RoPE编码捕捉时序与相对位置信息构建全面特征,通过实体矩阵实现实体识... 详细信息

为了提升GlobaiPointer方法的实体边界区分性能,提出一种融合词汇信息与GlobalPointer的实体识别方法。对SoftLexicon提取的词汇特征与字符相结合,采用BiLSTM网络与RoPE编码捕捉时序与相对位置信息构建全面特征,通过实体矩阵实现实体识别。对多个数据集进行试验,本研究提出的模型相较于其他基线模型,精确率、召回率、F_(1)均有一定的提升,Weibo数据集中F_(1)达到71.33%、CMeEE数据集中F_(1)达到63.45%,表明本研究提出的模型架构能够进一步扩充语义表征,增强识别性能。

关键词：相对位置编码词汇信息实体识别特征融合神经网络

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：