检索结果-内蒙古大学图书馆

作者：郑甜云南大学

学位级别：硕士

图像描述指采用自然语言描述图像的内容信息,涉及图像信息与文本信息的转换。该任务不仅涉及计算机视觉技术,还运用了自然语言处理的相关技术。图像描述模型采用编码器-解码器框架。在该架构中,首先由编码器将图像转换为中间特征向量,... 详细信息

图像描述指采用自然语言描述图像的内容信息,涉及图像信息与文本信息的转换。该任务不仅涉及计算机视觉技术,还运用了自然语言处理的相关技术。图像描述模型采用编码器-解码器框架。在该架构中,首先由编码器将图像转换为中间特征向量,再利用注意力机制对图像的特征区域进行权重赋值,接着将图像特征向量传输到解码器,由解码器生成描述。通用的注意力机制采取图像特征向量和文本向量单层线性融合的操作,而单层的线性融合作用有限,对图像深层次的图像特征信息推理不充分。另外图像描述模型的编码器对场景图的编码均采用的是关系图卷积神经网络,该网络只考虑自身结点信息与相对重要的图像结点信息,忽略整个场景图结点存在的潜在关系。除此之外,场景图的结构蕴含图像特征信息,然而图像描述模型中仅仅使用场景图的结点信息。针对分析的问题提出以下改进。具体如下:针对注意力机制对文本特征信息和图像特征信息融合交互能力有限的问题,提出增强注意力机制。该机制联合局部注意力机制与全局注意力机制共同作用,达到全局的角度下考虑细节信息,细节的特征信息从全局的角度下把握,提取更高层的特征向量,作为长短时记忆网络的输入,旨在增强文本与图像之间的交互,提高生成描述句子的质量和评估指标。针对图像描述模型中编码器没有考虑在全局结构下对图像特征向量编码更新的问题,提出多模式编码器结构。该编码器对场景图的各个结点的自身信息、邻居结点信息和整张图像的结点信息进行整合,在模型训练过程中通过编码器对场景图自身结点、邻居结点和整体图像信息更新,从三个不同角度综合图像信息,提高生成描述的质量。针对通用的注意力机制不能充分利用场景图的结构信息问题,本文提出结构注意力机制。结构注意力机制利用场景图的结构信息与结点信息,推理图像不同层次的特征信息,计算文本与图像之间的相似性,提高生成描述句子的质量。本文在MSCOCO和Visual Genome数据集上进行实验,使用CIDEr,BLEU,Meteor,Rouge指标和SPICE指标评估本文图像描述模型生成描述的质量,实验结果表明本文图像描述模型的有效性。

关键词：图像描述增强注意力机制结构注意力机制多模式编码器

来源：评论

学校读者我要写书评

暂无评论

基于多重相似性和增强注意力预测药物-靶标相互作用

引用

河南师范大学学报(自然科学版) 2025年第2期53卷 99-107页

作者：王伟余梦雪孙斌万仕彤刘栋周运张红军王鲜芳河南师范大学计算机与信息工程学院河南新乡453007 河南师范大学河南省教育人工智能与个性化学习重点实验室河南新乡453007 河南理工大学鹤壁工程技术学院河南鹤壁458030 河南工学院计算机科学与技术学院河南新乡453000

在新药发现和药物重定位研究中,发现药物与靶标之间的相互作用是重要的研究内容.针对药物与靶标相互作用网络,提出一种基于多重相似性和增强注意力机制的图卷积神经网络模型(RSGCN)预测药物-靶标相互作用.首先,提出了多重相似性来捕捉... 详细信息

在新药发现和药物重定位研究中,发现药物与靶标之间的相互作用是重要的研究内容.针对药物与靶标相互作用网络,提出一种基于多重相似性和增强注意力机制的图卷积神经网络模型(RSGCN)预测药物-靶标相互作用.首先,提出了多重相似性来捕捉网络结构特征,以充分利用节点间的直接或间接关系.然后,通过PCA降维减少相似性噪声对实验结果的影响.最后,采用图卷积神经网络(graph convolution neural network,GCN)获得节点嵌入表示,并融入基于注意力的增强层,通过增强注意力机制获得节点间的注意力权重,能够高效地预测药物与靶标之间的相互作用.在黄金标准数据集上的实验结果表明RSGCN模型具有较好的性能.

关键词：图卷积神经网络(GCN) 多重相似性 PCA 增强注意力机制药物-靶标相互作用

来源：评论

学校读者我要写书评

暂无评论

基于改进I-Attention U-Net的锌浮选泡沫图像分割算法

引用

湖南大学学报（自然科学版） 2023年第2期50卷 12-22页

作者：唐朝晖郭俊岑张虎谢永芳钟宇泽中南大学自动化学院湖南长沙410083

针对泡沫图像的高度复杂性导致其难以被准确分割的难题,本文提出了一种新的I-Attention U-Net网络用于泡沫图像分割.该算法以U-Net网络作为主干网络,使用Inception模块替换第一卷积池化层来提取泡沫图像的多尺度、多层次浅层特征信息;... 详细信息

针对泡沫图像的高度复杂性导致其难以被准确分割的难题,本文提出了一种新的I-Attention U-Net网络用于泡沫图像分割.该算法以U-Net网络作为主干网络,使用Inception模块替换第一卷积池化层来提取泡沫图像的多尺度、多层次浅层特征信息;引入金字塔池化模块,通过对不同尺度的特征图求和来提升分割效果;并对自注意力门控单元进行改进,使注意力单元更适合于浮选泡沫图像的分割,强化深层特征的重要性并对不同尺寸的泡沫边界进行强化学习.研究结果表明:本文所提出算法的Jaccard系数为91.73%,Dice系数为95.66%.与同类其他分割算法结果相比,Jaccard系数及Dice系数分别提高了1.59%、0.88%.该模型能够较好地对锌浮选泡沫图像进行分割,解决欠分割与过分割的问题,为后续的泡沫特征提取奠定基础.此外,该方法检测时间和模型参数少,具备可以部署在工业现场计算机的能力,有一定的实际应用价值.

关键词：泡沫浮选泡沫图像分割 U-Net Inception模块增强注意力机制

来源：评论

学校读者我要写书评

暂无评论

基于深度神经网络的机器翻译方法研究

基于深度神经网络的机器翻译方法研究

引用

作者：杨念顺电子科技大学

学位级别：硕士

近年来越来越多的国家积极参与全球化合作,在这个互联互通的背景下,基于深度神经网络的机器翻译模型在各个国家之间的语言交流以及文本翻译方面起着十分重要的作用。互联网的快速发展,积累了不少的平行语料数据,这为神经机器翻译的发展... 详细信息

近年来越来越多的国家积极参与全球化合作,在这个互联互通的背景下,基于深度神经网络的机器翻译模型在各个国家之间的语言交流以及文本翻译方面起着十分重要的作用。互联网的快速发展,积累了不少的平行语料数据,这为神经机器翻译的发展提供了更多的可能。编码器-解码器是目前神经机器翻译最常用的框架,编码器接收源句子序列并将源句子序列信息映射到一个语义空间,解码器接收处理语义空间中的信息,计算出当前时刻的概率分布,根据解码算法逐步输出目标序列。在这一框架下,涌现出了一大批翻译模型,它们都有自己的优缺点。本文在两个模型的基础上进行了创新和改动,使之提升翻译系统的性能,主要工作如下:(1)一般基于RNN的编码器-解码器模型存在不能较好地挖掘句子语义以及翻译长文本序列等问题,本文提出了基于LSTM增强注意力的神经机器翻译模型,在RNN基线模型上引入了多头注意力和多跳注意力机制。通过增加多头注意力计算,可以挖掘不同子空间的语法信息,进而关注到句子序列中的语义信息,然后分别在每个头上计算多次注意力,这样能够有效处理长距离依赖问题并且在长句子翻译方面表现较好。(2)虽然Transformer模型可以并行处理数据,加快了模型的计算效率,但是它的局部表征能力差。在Transformer模型基础上,本文提出了ELMo表征融合动态掩码注意力的神经机器翻译模型。在词向量嵌入模块使用ELMo模型获得单词的动态词向量表示,以获取丰富的单词表征并且能够很好地处理一词多义问题。在多头注意力模块混合多头注意力计算,将多个头部的注意力通过一个线性变换,充分考虑到各个头部的注意力信息,进而提升自我注意力的表达能力。在编码器端,加入一个动态掩码注意力层,重点关注当前单词周围的重要信息,摒弃不重要信息,进而提升模型的局部建模能力。这些做法使得模型能够充分获取局部信息以及句子语义信息,翻译出更符合人类自然语言的句子。

关键词：深度神经网络神经机器翻译增强注意力机制动态掩码注意力

来源：评论

学校读者我要写书评

暂无评论

基于深度学习的人机对话模型的研究与设计

基于深度学习的人机对话模型的研究与设计

引用

作者：何亚舟电子科技大学

学位级别：硕士

实现人和计算机使用自然语言进行交互,是自然语言处理领域的一项重要工作。随着人工智能技术的发展,尤其是深度神经网络的广泛应用,构建基于开放领域的对话系统已经越来越受到人们的关注。互联网的快速的发展,累积了大量对话数据,使得... 详细信息

实现人和计算机使用自然语言进行交互,是自然语言处理领域的一项重要工作。随着人工智能技术的发展,尤其是深度神经网络的广泛应用,构建基于开放领域的对话系统已经越来越受到人们的关注。互联网的快速的发展,累积了大量对话数据,使得由数据驱动的对话模型成为可能。目前的对话任务,大多仍然在生成式任务的大框架之下,而生成式任务一般都是序列到序列的。端到端的编码器-解码器模型是用于解决序列到序列任务的重要机制,对编码器-解码器模型的扩充和修改,使之应用于对话任务,是目前对话模型领域的主流做法。本文在编码器-解码器模型的基础上,提出新的修改和补充,使之应用于单轮对话和多轮对话任务。(1)对于单轮对话任务,针对一般的基于RNN的编码器-解码器模型无法很好地生成多样性和准确性回复的问题,本文提出融入顺序位置信息的增强注意力机制。经过RNN结构处理的序列信息带有顺序位置信息,同时又对序列信息进行了序列内部的注意力计算,这形成了一种增强的注意力,充分表达了序列内部丰富的信息关联,促进了多样性回复的生成。在解码时,增强注意力的计算,使得每一步生成预测时,能够按权重参照已生成序列信息,这提高了 RNN结构解码时对对话序列后端预测的准确性。接着,在Transformer的结构的基础上,针对其对顺序位置信息获取的不足,提出增加一个顺序位置信息模块,然后将模型运用于单轮对话任务。(2)对于多轮对话任务,针对多轮对话有效数据较少且模型结构过大,可能导致训练效果不好,在原有的层次循环编码器-解码器模型的基础上,提出对模型进行自编码预训练。在预训练中,利用变分自编码器的隐变量机制使得模型能够预先学习到大量普通对话内部多样的语义信息。正式训练时,虽然隐变量的加入增加了语义空间的多样性,使得在解码时有更多的随机性选择以生成多样性的回复,但是只有随机性也使得生成的回复存在随意性和信息不匹配的问题。针对这一问题,改进的模型向隐变量加入特定的背景条件信息,如主题或者目的等信息,以达到在全局随机性中增加一些局部确定性因素。这些操作使得模型能够充分获取对话数据的内部语义信息,同时生成相关性更强的内容。

关键词：深度神经网络对话模型编码器-解码器模型增强注意力机制条件变分自编码

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：