检索结果-内蒙古大学图书馆

计算机科学 2022年第1期49卷 17-23页

作者：刘俊鹏苏劲松黄德根大连理工大学计算机科学与技术学院辽宁大连116024 厦门大学信息学院福建厦门361005

多语言神经机器翻译利用单一的编码器-解码器模型对多种语言之间的翻译同时进行建模。多语言神经机器翻译不仅能够促进关联语言之间的知识迁移,提高低资源语言的翻译质量,并且能够实现未见语言对之间的翻译。现有多语言神经机器翻译仍... 详细信息

多语言神经机器翻译利用单一的编码器-解码器模型对多种语言之间的翻译同时进行建模。多语言神经机器翻译不仅能够促进关联语言之间的知识迁移,提高低资源语言的翻译质量,并且能够实现未见语言对之间的翻译。现有多语言神经机器翻译仍然存在语言多样性建模能力不足和未见语言对翻译质量不佳的问题。为此,首先在现有的适配器模型基础上提出变维双语适配器模型,在Transformer模型的每个子层之间加入双语适配器以抽取每个语言对的独特特征,并通过改变适配器隐层维度调整编码器和解码器两端的特定语言表达空间;其次,提出一种共享单语适配器模型,对每种语言的独特特征进行建模。在IWSLT多语言翻译数据集上的实验结果表明,变维双语适配器模型能够显著提升多语言翻译的性能,而单语适配器模型能够在不影响多语言翻译性能的条件下提高未见语言对的翻译质量。

关键词：多语言神经机器翻译特定语言建模双语适配器单语适配器

来源：评论

学校读者我要写书评

暂无评论

面向中亚的多语言神经机器翻译方法研究与实现

面向中亚的多语言神经机器翻译方法研究与实现

引用

作者：吴昊西北民族大学

学位级别：硕士

中亚地区是我国“一带一路”战略中重要参与成员,其中哈萨克斯语(西里尔)是中亚地区最具代表性语言。由于语料资源十分稀缺,导致地区之间的交流存在障碍。为了解决沟通困难的问题,促进地区间的经济文化交流合作,本文使用多语言神经机器... 详细信息

中亚地区是我国“一带一路”战略中重要参与成员,其中哈萨克斯语(西里尔)是中亚地区最具代表性语言。由于语料资源十分稀缺,导致地区之间的交流存在障碍。为了解决沟通困难的问题,促进地区间的经济文化交流合作,本文使用多语言神经机器翻译的方法,实现了面向中亚地区包含哈萨克语(西里尔字母)、汉语、俄语和英语四种不同语系的语言之间的翻译,重点解决了哈萨克语平行语料严重稀缺的问题,改善了翻译模型的性能,并实现了可交互的多语言翻译系统。本文主要工作有:(1)提出了双向迭代回译和枢轴语言回译的方法对所需训练语料进行规模扩充。为解决哈萨克语(西里尔)语料严重不足的问题,本文提出了双向迭代回译的方法,利用哈萨克语(西里尔)单语语料和汉语单语语料构建出更大规模的人工双语语料。同时利用枢轴回译的方法把汉语-英语平行语料和英语-哈萨克语(西里尔)合成为汉语-哈萨克语(西里尔)平行语料;(2)改进了完全参数共享的方法,训练出多语言神经机器翻译模型。本文精简了多语言随机对齐替代(mRASP)的方法,训练出了用于初始化模型的预训练框架,之后使用数据增强过后的语料作为训练集,在预训练模型的基础上进行微调,使用完全参数共享的方法实现了单一多语言翻译模型。此外本文对比了双语翻译系统和多语言翻译系统的的效果。实验结果显示,在语料数量合适的情况下,基于参数共享方法的多语言神经机器翻译模型对部分语言对之间的翻译效果有一定程度上的提升。(3)搭建了基于B/S架构的多语言翻译系统。在完成多语言翻译模型训练的基础上,构建了基于双层架构的翻译系统,分别是WEB层和翻译服务层,两层包含了多个功能模块。系统采用WEB服务器和翻译服务器组分布部署的模式,提高了系统的响应速度和稳定性。该系统除了能够提供即时的在线翻译服务,还能同时翻译源语言和目标语言均不同的多语言句子。本文从总体架构介绍、各具体功能模块、实现过程和系统部署等方面进行了详细介绍,并且展示了系统界面和部分翻译示例。

关键词：多语言神经机器翻译数据增强完全参数共享

来源：评论

学校读者我要写书评

暂无评论

基于标签句子重构的多语言零样本神经机器翻译

引用

中文信息学报 2025年第2期39卷 80-88页

作者：陈潇杨雅婷董瑞时现伟马博吐尔洪·吾司曼中国科学院新疆理化技术研究所新疆乌鲁木齐830011 中国科学院大学计算机科学与技术学院北京100049 新疆民族语音语言信息处理实验室新疆乌鲁木齐830011 新疆维吾尔自治区党委政法委新疆乌鲁木齐830011

针对当前多语言零样本翻译的标签策略难以提供丰富的翻译方向信息和模型对语言建模能力的不足,进而导致翻译脱靶的问题,该文提出了使用标签句子重构的多语言零样本神经机器翻译方法。具体而言,首先提出了一种词级别的标签策略,在编码器... 详细信息

针对当前多语言零样本翻译的标签策略难以提供丰富的翻译方向信息和模型对语言建模能力的不足,进而导致翻译脱靶的问题,该文提出了使用标签句子重构的多语言零样本神经机器翻译方法。具体而言,首先提出了一种词级别的标签策略,在编码器端增加目标语言标签嵌入,在源语言句子每个词的嵌入表示中注入目标语言信息;其次设计了标签句子重构任务,对句子添加噪声和使用词级别的标签策略后进行重构操作,以达到增强模型语言建模能力的目的。在MultiUN数据集和Europarl数据集上的零样本实验结果表明,所提方法在零样本翻译上的平均BLEU值分别超过强基线0.7和0.3。消融实验结果表明,所提出的语言标签嵌入策略和标签句子重构均能有效提升模型的零样本翻译性能。

关键词：零样本机器翻译多语言神经机器翻译自然语言处理

来源：评论

学校读者我要写书评

暂无评论

基于多语言联合训练的汉-英-缅神经机器翻译方法

引用

清华大学学报（自然科学版） 2021年第9期61卷 927-935页

作者：满志博毛存礼余正涛李训宇高盛祥朱俊国昆明理工大学信息工程与自动化学院云南省人工智能重点实验室昆明650500

多语言神经机器翻译是解决低资源语言翻译的有效方法,现有方法通常依靠共享词表的方式解决英语、法语以及德语等相似语言之间的多语言翻译问题。缅甸语属于典型的低资源语言。汉语、英语以及缅甸语之间的语言结构差异较大。为了缓解由... 详细信息

多语言神经机器翻译是解决低资源语言翻译的有效方法,现有方法通常依靠共享词表的方式解决英语、法语以及德语等相似语言之间的多语言翻译问题。缅甸语属于典型的低资源语言。汉语、英语以及缅甸语之间的语言结构差异较大。为了缓解由差异性引起的共享词表大小受限制问题,该文提出一种基于多语言联合训练的汉英缅神经机器翻译方法。在Transformer框架下将丰富的汉英平行语料与较少的汉缅、英缅语料进行联合训练,模型训练过程中分别在编码端和解码端将汉英缅映射在同一语义空间以降低汉英缅语言结构差异性对共享词表的影响,通过共享汉英语料训练参数来弥补汉缅、英缅语料缺失的问题。实验结果表明:在一对多、多对多的翻译场景下,所提方法的BLEU值比基线模型的汉英、英缅以及汉缅翻译结果有明显提升。

关键词：汉语-英语-缅甸语低资源语言多语言神经机器翻译联合训练语义空间映射共享参数

来源：评论

学校读者我要写书评

暂无评论

基于多语言联合训练的汉老泰神经机器翻译方法研究

基于多语言联合训练的汉老泰神经机器翻译方法研究

引用

作者：沈政昆明理工大学

学位级别：硕士

在国家“一带一路”战略下,泰国和老挝与国内的文化贸易交流日益密切,语言是人们日常交流的必要工具,因此,开展泰语、老挝语到汉语的神经机器翻译研究具有重要价值。神经机器翻译模型基于数据驱动,而泰语和老挝语同属于东南亚语系,平行... 详细信息

在国家“一带一路”战略下,泰国和老挝与国内的文化贸易交流日益密切,语言是人们日常交流的必要工具,因此,开展泰语、老挝语到汉语的神经机器翻译研究具有重要价值。神经机器翻译模型基于数据驱动,而泰语和老挝语同属于东南亚语系,平行语料稀缺,单独训练泰语-汉语和老挝语-汉语神经机器翻译模型效果不佳。多语言神经机器翻译方法可以利用不同语言的知识迁移提升翻译模型性能,是提升低资源语言翻译质量的有效手段,然而使用现有的多语言神经机器翻译方法实现对泰语-汉语和老挝语-汉语的多语言神经机器翻译时仍存在双语数据稀缺、泰语和老挝语词表征不统一、多语言参数干扰等问题。针对上述问题,本文充分利用了泰语和老挝语的语言特点,提出了基于多语言联合训练的汉老泰神经机器翻译方法,并基于该方法构建了汉老泰多语言神经机器翻译原型系统。本文主要完成了以下研究工作: (1)基于对比学习的汉-老、泰平行句对抽取方法:从可比语料中抽取平行句对是提升低资源神经机器翻译质量的有效手段。针对汉-泰和汉-老双语语料稀缺以及现有方法会误判相似不平行句对的问题,提出一种基于对比学习的汉-老、泰平行句对抽取方法。该方法首先通过多语言联合训练的方式缓解数据稀缺问题,其次,引入对比学习方法增强模型对相似不平行句对的判别能力,并为此设计了同批次数据构造和多语言词替换构造两种正负样例构造方式,使得在语义空间平行句对距离更近,不平行句对距离更远。同时,为了获得更丰富的语义表征,利用XLMR预训练模型对文本进行编码。实验结果表明,该方法可以有效提升平行句对抽取质量,为后续研究多语言神经机器翻译方法提供数据基础。 (2)融入音素特征的汉老泰多语言神经机器翻译方法:多语言神经机器翻译是提升低资源语言翻译质量的有效手段。由于不同语言之间字符差异较大,现有方法难以得到统一的词表征形式。泰语和老挝语属于具有音素相似性的低资源语言,考虑到利用语言相似性能够拉近语义距离,提出一种融入音素特征的汉老泰多语言神经机器翻译方法,目的是为进一步研究多语言神经机器翻译提供统一表示。该方法设计了音素特征表示模块和泰-老文本表示模块,并基于交叉注意力机制得到融合音素特征后的泰老文本表示,拉近泰老之间的语义距离。实验结果表明,提出方法的BLEU值相比基线模型有明显提升。 (3)基于分化适配器的汉老泰多语言神经机器翻译方法:单一的多语言神经机器翻译模型性能通常低于在高资源语言上训练的双语模型,这是由于多语言联合训练存在参数干扰的问题,为此,提出一种基于分化适配器的汉老泰多语言神经机器翻译方法。首先,训练一个统一的多语言神经机器翻译模型作为基础模型;其次,根据对应模块梯度差异寻找参数干扰较大的模块并为梯度差异较大的模块的每个语言对添加一个与该模块结构相同的额外适配器,同时利用该模块的参数对适配器进行初始化;最后,冻结基础模型参数并利用训练数据对适配器参数进行微调。实验结果表明,提出方法的BLEU值相比单一多语言模型有明显提升。 (4)汉老泰多语言神经机器翻译原型系统:基于上述理论研究成果,构建汉老泰多语言神经机器翻译原型系统,该系统的模块主要包括了输入模块、数据预处理模块、神经机器翻译模块及输出模块。

关键词：泰语-老挝语-汉语多语言神经机器翻译语言相似性平行句对抽取音素特征适配器

来源：评论

学校读者我要写书评

暂无评论

基于多语言的低资源神经机器翻译研究

基于多语言的低资源神经机器翻译研究

引用

作者：黎家全云南大学

学位级别：硕士

近年来,神经机器翻译迅猛发展,已经成为了主流的机器翻译技术。然而,神经机器翻译需要依赖于大量的平行语料训练,在低资源场景下,由于受平行语料匮乏的影响,神经机器翻译的性能并不理想。因此,低资源神经机器翻译一直是神经机器翻译领... 详细信息

近年来,神经机器翻译迅猛发展,已经成为了主流的机器翻译技术。然而,神经机器翻译需要依赖于大量的平行语料训练,在低资源场景下,由于受平行语料匮乏的影响,神经机器翻译的性能并不理想。因此,低资源神经机器翻译一直是神经机器翻译领域的重大挑战。多语言神经机器翻译通过引入其他语言的平行训练数据,将高资源语言对的翻译知识迁移到低资源语言对上,一定程度改善了低资源语言对的翻译质量,但也存在错误解码和参数干扰等问题,并且仍然受限于数据匮乏问题。为了进一步提高多语言神经机器翻译在低资源语言对上的翻译质量,本文在多语言翻译模型改进的基础上,再结合低资源语言数据扩充和增强的思路,将枢轴与数据增强技术融入到多语言神经机器翻译模型中。论文主要完成的工作如下:(1)多语言神经机器翻译的数据增强。针对低资源语言之间缺乏平行语料的问题,本文提出了一种多阶段数据增强方法,对低资源语言的平行训练数据进行数量扩充。本方法有机结合了回译法与基于枢轴的数据增强方法,利用基于枢轴的数据增强方法对反向翻译模型进行数据增强,从而提高了由回译法生成的伪平行数据的质量,同时又能利用丰富的单语语料实现伪平行数据的大量扩充。实验结果表明,相较于回译法和基于枢轴的数据增强方法,本文提出的多阶段数据增强方法能为低资源翻译任务带来更大的质量提升。(2)结合枢轴的多语言神经机器翻译研究。针对低资源语言采用单一枢轴语言难以实现平行语料的有效扩充的问题,本文将多种枢轴语言结合到多语言神经机器翻译中,提出了一种多枢轴神经机器翻译方法。该方法综合考虑了语料规模和语言相似度两个因素,既选用一种语料规模大的枢轴语言,又选用了一种与目标语言相似性高的枢轴语言,并将两种枢轴语言同时融入到多语言神经翻译中。为了充分利用语料规模和语言相似度的优势,本文基于共享的编码器-解码器架构完成多语言翻译模型的构建,使得低资源翻译任务能从多种枢轴语言的知识迁移中获益。实验结果表明,与仅使用一种枢轴语言相比,使用多种枢轴语言能够更有效地提高低资源神经机器翻译的质量。(3)多语言神经机器翻译系统实现。基于上述研究,构建了一个基于Web平台的多语言神经机器翻译系统。该系统包含Web界面层、中间接口层以及翻译模型层。本文围绕系统结构设计、翻译模型部署、各分层的具体实现等方面展开了详细介绍,并展示了系统的翻译结果。

关键词：多语言神经机器翻译枢轴方法多枢轴数据增强低资源语言

来源：评论

学校读者我要写书评

暂无评论

基于多模态联合建模的端到端语音到文本翻译

引用

小型微型计算机系统 2024年

作者：欧佳乐昝红英许鸿飞郑州大学计算机与人工智能学院

通过联合建模或多任务学习，可以利用大规模的语音识别和文本翻译数据来提升端到端语音到文本翻译的性能。然而，现有大多数方法通常需要对语音翻译模型进行架构调整，或者依赖多阶段的预训练和微调。此外，语音与文本之间的模态差异使... 详细信息

通过联合建模或多任务学习，可以利用大规模的语音识别和文本翻译数据来提升端到端语音到文本翻译的性能。然而，现有大多数方法通常需要对语音翻译模型进行架构调整，或者依赖多阶段的预训练和微调。此外，语音与文本之间的模态差异使得使用共享编码器同时处理二者变得具有挑战性。为了解决这些问题，本文提出了一个简单的多模态联合建模框架。该框架将语音翻译和文本翻译的联合建模视作多语言神经机器翻译建模，并在自注意层中引入模态感知的相对位置编码，使用模态感知的单一编码器来同时处理语音和文本编码，而无需复杂化模型架构。然后结合大规模语音识别数据，和提出的基于翻译损失方法筛选的文本翻译数据，进行多模态联合建模训练。在两个基准测试中的实验结果表明，与基线方法相比，使用单编码器方法对内部和外部的语音识别及文本翻译数据进行联合建模后，可以显著提高多个语音翻译任务上双向翻译（从英语和到英语）的性能。

关键词：端到端语音到文本翻译多模态联合建模多语言神经机器翻译相对位置编码

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：