检索结果-内蒙古大学图书馆

北京大学学报（自然科学版） 2018年第2期54卷 279-285页

作者：吴焕钦张红阳李静梅朱俊国杨沐昀李生哈尔滨工业大学计算机科学与技术学院哈尔滨150001 哈尔滨工程大学计算机科学与技术学院哈尔滨150001

为向基于深度学习的机器翻译质量估计模型提供高效的训练数据,提出面向目标数据集的伪数据构造方法,采用基于伪数据预训练与模型精调相结合的两阶段模型训练方法对模型进行训练,并针对不同伪数据规模设计实验。结果表明,在构造得到的伪... 详细信息

为向基于深度学习的机器翻译质量估计模型提供高效的训练数据,提出面向目标数据集的伪数据构造方法,采用基于伪数据预训练与模型精调相结合的两阶段模型训练方法对模型进行训练,并针对不同伪数据规模设计实验。结果表明,在构造得到的伪数据下,利用两阶段训练方法训练得到的机器翻译质量估计模型给出的得分与人工评分的相关性有显著的提升。

关键词：机器翻译质量估计深度学习伪数据

来源：评论

学校读者我要写书评

暂无评论

基于神经网络机器翻译的机器译文质量估计研究

基于神经网络机器翻译的机器译文质量估计研究

引用

作者：孙潇哈尔滨工业大学

学位级别：硕士

句子级别的机器翻译质量估计任务以源语言语句及对应的机器翻译译文为输入,对译文的质量进行估计。随着近几年机器翻译的发展,机器翻译质量估计逐渐成为自然语言处理领域内的一大研究热点。近些年,随着深度学习的发展,使得基于深度学习... 详细信息

句子级别的机器翻译质量估计任务以源语言语句及对应的机器翻译译文为输入,对译文的质量进行估计。随着近几年机器翻译的发展,机器翻译质量估计逐渐成为自然语言处理领域内的一大研究热点。近些年,随着深度学习的发展,使得基于深度学习的神经网络机器翻译模型得到广泛关注和应用。并且,机器翻译质量估计任务和机器翻译关系紧密,所以本课题希望借助神经网络机器翻译模型来提升机器翻译质量估计模型的性能。本文首先进行了一些基础实验,包括采用语句单词的词向量平均值作为特征的机器翻译质量估计实验等。通过这些实验,得出了在译文质量估计问题上,选用合适的特征比模型对预测效果的影响更大的结论。目前借助神经网络提取机器翻译质量估计特征的方法中,有一种是直接将语句单词的词向量求平均值的方法,该方法完全忽略了语序、词语间的相互联系等有效信息,因此本课题提出了一个借助神经网络机器翻译模型来提取融合了翻译知识的特征的方法,并通过实验证明该特征相比于词向量特征预测能力更强。然后在此基础上,尝试对上述融合翻译知识的特征的提取过程进行改进,但是实验结果表明改进后的特征的预测效果并没有提升。最后,课题对该特征和其他特征的不同组合方式进行了探索,添加其他特征之后,预测效果有所提升,证明了该特征和其他特征在一定程度上互补。本课题提出的融合翻译知识的特征提取过程,相当于是分别对源语句和目标语句建模,而句子级别的机器翻译质量估计任务要求预测译文的质量HTER,这需要对源语句和对应的机器翻译译文之间单词级别的联系进行更加细致的建模。而词级别的机器翻译质量估计模型是对译文的每个单词输出错误还是正确的标签,相比于分别对源语句和译文建模,这种方式更加细致,因此课题还探索了使用词级别的机器翻译质量估计模型来对句子级别的机器翻译质量估计任务进行预测。最终取得了较好的研究成果。

关键词：机器翻译质量估计特征工程神经网络机器翻译深度学习

来源：评论

学校读者我要写书评

暂无评论

基于QE的机器翻译重排序方法研究

引用

江西师范大学学报（自然科学版） 2020年第1期44卷 46-50,88页

作者：翟煜锦李培芸项青宇李茂西裘白莲钟茂生王明文江西师范大学计算机信息工程学院

该文提出了一种融合BERT语境向量的多模型集成的翻译质量估计方法,以及基于译文质量估计的多候选译文重排序方法,实验结果表明,这2种方法均取得了较好的实验效果.

关键词：机器翻译机器翻译质量估计重排序编码器-解码器模型卷积神经网络

来源：评论

学校读者我要写书评

暂无评论

翻译质量估计模型中训练样本改进方法研究

翻译质量估计模型中训练样本改进方法研究

引用

作者：王佳麒哈尔滨工业大学

学位级别：硕士

随着机器翻译技术的发展和应用,机器翻译结果出现在更多的场景中,但是翻译质量却无法保证,用户需要了解机器翻译结果的质量来决定是否对其进行采用。机器翻译质量估计(Quality Estimation,QE)是机器翻译领域的一项关键任务,可以仅根据... 详细信息

随着机器翻译技术的发展和应用,机器翻译结果出现在更多的场景中,但是翻译质量却无法保证,用户需要了解机器翻译结果的质量来决定是否对其进行采用。机器翻译质量估计(Quality Estimation,QE)是机器翻译领域的一项关键任务,可以仅根据源语言句子和机器译文来对译文的质量进行打分。与翻译自动评价的方法不同,翻译质量估计不需要使用参考译文,能够节省大量的人力和资源,适合于大规模无参考译文的机器译文质量评估场景。在QE任务中,一个关键的问题是数据稀缺,翻译质量估计数据的标注需要专业的翻译人员参与,对机器译文进行后编辑,从而得到质量较好的后编辑译文,这一过程费时费力。故现有的QE数据集的规模普遍较小,一般只有2万到3万,与平行语料百万上千万的规模相比,是十分稀少的。本文为解决翻译质量估计数据稀缺问题,从三个层面展开研究,分别为模型层面、训练任务层面和数据层面,提出了一种新的QE模型架构,并探索预训练任务对QE的影响,最后使用数据增强方法扩大了QE数据集的规模。本文的主要贡献如下:第一,本文提出了一个基于掩码预测的翻译质量估计模型,通过分析当前QE主流框架“Predictor-Estimator”的不足,提出有针对性的改进措施。模型采用两阶段训练模式,包括基于掩码预测任务的预训练和翻译质量估计任务训练,在预训练中进行掩码预测,得到基于深度双向的跨语言预训练模型,能有效的从大规模平行语料中学习知识,从而缓解数据稀缺问题。在翻译质量估计阶段仅引入一层全连接网络,并采用联合训练的方式,更新整个模型的参数,缩小了由两阶段训练任务导致的差异。本模型结构简单,参数量是基线模型的一半。实验证明,本模型在WMT2017和CCMT2019的四个数据集上性能都优于基线模型。第二,本文提出了一种面向翻译质量估计的训练方法,通过对掩码预测任务中的掩码策略进行变换,探究了其对翻译质量估计任务的影响。本文首先指出了掩码预测任务与翻译质量估计任务之间存在的联系,然后从不同角度采取不同的掩码策略对模型的预训练过程进行调整,包括掩码单元、掩码比例、掩码子类型比例等角度,对比模型在翻译质量估计任务上的表现。本文提出针对QE数据集中的错误分布对掩码策略进行设置,较默认设置提升了模型的性能,从而得到面向翻译质量估计的模型训练方法。第三,本文针对翻译质量估计任务中的数据稀缺问题提出了一种基于错误改正的翻译质量估计数据增强方法。为了探究QE模型对于“翻译质量”概念的理解,本文对已经训练好的QE模型进行了分析,通过修正译文中的某些翻译错误来对数据进行微小的修改,观察模型的预测结果是否符合预期,从而了解模型的泛化性和鲁棒性。随后,本文针对翻译质量估计数据集中的翻译错误,按照不同的类型对其进行修正,从而得到新的翻译质量估计数据,并将这些伪数据应用于模型训练。实验结果表明构造的伪数据不仅可以提升模型的鲁棒性,还能提升模型在原始数据集上的表现,在WMT2017 EN-DE数据集上达到了最好效果。

关键词：掩码预测翻译错误分布数据增强机器翻译质量估计机器翻译

来源：评论

学校读者我要写书评

暂无评论

基于翻译质量估计的神经网络译文自动后编辑

引用

北京大学学报（自然科学版） 2018年第2期54卷 255-261页

作者：谭亦鸣王明文李茂西江西师范大学计算机信息工程学院南昌330022

针对译文后编辑中的过度修正问题,提出利用神经网络自动后编辑方法,训练专门用于提供少量复合编辑修正和单一编辑类型修正的神经网络后编辑模型。在此基础上,通过建立一个基于翻译质量估计的译文筛选算法,将提出的模型与常规的神经网络... 详细信息

针对译文后编辑中的过度修正问题,提出利用神经网络自动后编辑方法,训练专门用于提供少量复合编辑修正和单一编辑类型修正的神经网络后编辑模型。在此基础上,通过建立一个基于翻译质量估计的译文筛选算法,将提出的模型与常规的神经网络自动后编辑模型进行联合。在WMT16自动后编辑任务测试集上的实验结果表明,与基准系统相比,所提方法显著提高了机器译文的翻译质量,实验分析也表明该方法能有效地处理过度修正造成的译文质量下降问题。

关键词：译文自动后编辑神经机器翻译机器翻译质量估计过度修正

来源：评论

学校读者我要写书评

暂无评论

基于子词切分的句子级别神经机器译文质量估计方法

基于子词切分的句子级别神经机器译文质量估计方法

引用

作者：项青宇江西师范大学

学位级别：硕士

在国际交流日趋频繁的当今时代,机器翻译减轻了不同国家和地区的人们在信息交流中因为语言差异带来的障碍。机器翻译质量估计是在不借助人工参考译文的情况下自动估计机器译文的翻译质量,它在机器翻译后编辑和辅助机器翻译中发挥着重要... 详细信息

在国际交流日趋频繁的当今时代,机器翻译减轻了不同国家和地区的人们在信息交流中因为语言差异带来的障碍。机器翻译质量估计是在不借助人工参考译文的情况下自动估计机器译文的翻译质量,它在机器翻译后编辑和辅助机器翻译中发挥着重要的作用。首先,本文针对句子级别的译文质量估计任务提出了一种联合神经网络模型。传统的神经译文质量估计模型由两部分组成:一部分是基于双向循环神经网络的编码器-解码器子模型,该部分可认为是特征提取模块;另一部分是计算译文质量估计得分的循环神经网络子模型,该部分可认为是有监督的回归模块。我们将这两部分子模型联合成单一的端到端的神经网络模型,该模型中编码器-解码器子模型使用大规模的双语平行语料进行预训练,而整体模型参数使用译文质量估计任务语料进行统一训练。其次,我们提出了融合不同子词切分方法的神经译文质量估计方法。为了克服词表过大给神经机器翻译模型构建和训练造成的不利影响,近年来,学者们提出了BPE和SentencePiece子词切分方法,它们极大地提升了机器翻译质量,但是,还没有研究工作调查不同子词切分方法对神经译文质量估计的影响。在深入分析BPE和SentencePiece子词切分方法优缺点的基础上,我们提出融合词语切分、BPE子词切分和SentencePiece子词切分的神经译文质量估计方法。我们在WMT17、WMT18句子级别译文质量估计任务上验证了本文提出的两种方法,实验结果表明我们提出的方法显著地提高了译文质量估计的性能。并且,我们使用本文提出的联合神经网络模型参加WMT18句子级别译文质量估计任务,评测官方公布的结果中,在6个机器翻译译文评测子方向上,联合神经网络模型在英语-捷克语、英语-拉脱维亚语的统计机器翻译和神经网络机器翻译方向上取得了第1名;在德语-英语、英语-德语神经网络机器翻译方向上与阿里团队参与的系统并列第1名;在英语-德语统计机器翻译方向上取得第3名。

关键词：机器翻译质量估计循环神经网络子词切分编码器-解码器结构联合训练

来源：评论

学校读者我要写书评

暂无评论

基于神经网络特征的句子级别译文质量估计

基于神经网络特征的句子级别译文质量估计

引用

作者：陈志明江西师范大学

学位级别：硕士

机器翻译质量估计对于机器翻译的发展起着重要的作用,它是最近兴起的一个研究方向。不同于传统的机器翻译自动评价方法,使用质量估计方法评价机器译文的质量不需要借助人工参考译文,这一特性使得质量估计方法相比于传统自动评价方法,具... 详细信息

机器翻译质量估计对于机器翻译的发展起着重要的作用,它是最近兴起的一个研究方向。不同于传统的机器翻译自动评价方法,使用质量估计方法评价机器译文的质量不需要借助人工参考译文,这一特性使得质量估计方法相比于传统自动评价方法,具有更强的灵活性和实用性。目前常见的句子级别译文质量估计方法大多依赖于句子的语言学分析提取特征,这些方法不能在所有语言之间通用。针对这个问题,有部分研究者开始提出利用神经网络的方法提取特征用于句子级别质量估计任务。Shah等人提出利用连续空间语言模型提取句子语言模型概率、句子向量特征、句子交叉熵特征用于句子级别质量估计任务。连续空间语言模型是一种前馈神经网络语言模型,输入是固定长度的词序列,随着隐层数目和隐单元数目的增加该模型计算复杂度将急剧增加。本文在Shah等人的工作基础上进行研究,首先,我们分别利用连续空间语言模型、上下文单词预测模型、基于词语共现关系模型提取句子向量特征,并对他们提取的句子向量特征进行对比。其次,我们利用循环神经网络语言模型提取句子交叉熵特征,与句子向量特征共同用于句子级别译文质量估计任务。考虑到句子向量特征和句子交叉熵特征都是单语特征,适用于反映翻译难度和流利度,但是在翻译的忠实度信息方面作用很小。为了进一步提取反映翻译忠实度的特征,我们训练一个神经机器翻译系统,利用此系统提取翻译词对齐特征,来衡量翻译的忠实度。最终,在基准特征的基础之上,我们将本文提取的神经网络特征与之组合,发现评估结果相比于baseline系统有了巨大的提升,并且我们获得的结果优于Shah等人,说明本文提取的神经网络特征能够捕获更多的翻译质量信息。

关键词：机器翻译质量估计句子级别词向量循环神经网络神经机器翻译支持向量回归

来源：评论

学校读者我要写书评

暂无评论

基于神经网络特征的句子级别译文质量估计

引用

计算机研究与发展 2017年第8期54卷 1804-1812页

作者：陈志明李茂西王明文江西师范大学计算机信息工程学院南昌330022

机器翻译质量估计是自然语言处理中的一个重要任务,与传统的机器翻译自动评价方法不同,译文质量估计方法评估机器译文的质量不使用人工参考译文.针对目前句子级别机器译文质量估计特征提取严重依赖语言学分析导致泛化能力不足,并且制约... 详细信息

机器翻译质量估计是自然语言处理中的一个重要任务,与传统的机器翻译自动评价方法不同,译文质量估计方法评估机器译文的质量不使用人工参考译文.针对目前句子级别机器译文质量估计特征提取严重依赖语言学分析导致泛化能力不足,并且制约着后续支持向量回归算法的性能,提出了利用深度学习中上下文单词预测模型和矩阵分解模型提取句子向量特征,并将其与递归神经网络语言模型特征相结合来提高译文质量自动估计与人工评价的相关性.在WMT15和WMT16译文质量估计子任务数据集上的实验结果表明:利用上下文单词预测模型提取句子向量特征的方法性能统计一致地优于传统的QuEst方法和连续空间语言模型句子向量特征提取方法,这揭示了提出的特征提取方法不仅不需要语言学分析,而且显著地提高了译文质量估计的效果.

关键词：机器翻译质量估计句子级别词向量递归神经网络语言模型支持向量回归

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：