检索结果-内蒙古大学图书馆

作者：王美琪中国海洋大学

学位级别：硕士

近年来，深度学习在自然语言处理领域中的应用成为一大研究热点。大部分自然语言处理问题都易于建成端到端的模型，从而能使用通用的编码器-解码器来解决。神经机器翻译是端到端模型的典型应用。神经机器翻译模型发展迅速，性能已超过... 详细信息

近年来，深度学习在自然语言处理领域中的应用成为一大研究热点。大部分自然语言处理问题都易于建成端到端的模型，从而能使用通用的编码器-解码器来解决。神经机器翻译是端到端模型的典型应用。神经机器翻译模型发展迅速，性能已超过了传统的基于词组的机器翻译方法。神经机器翻译模型在产业界普遍应用，已应用在Google、百度等公司的在线翻译系统中。　　为控制计算复杂度以及受GPU内存的限制，神经机器翻译系统通常会根据词频来限制源语言和目标语言的词表规模，这会造成大量罕见词以及集外词的出现，最终导致模型性能以及系统翻译效果不够好。如何在保证高质量翻译结果的同时最小化词表规模，一直是神经机器翻译的重要研究内容。此外，中文是世界上最难处理的语言之一，以中文为代表的亚洲语言明显区别于英语等字母语言，所以中文神经机器翻译面临着更大的挑战。　　目前中文神经机器翻译采用的建模单元通常是单词或者字符。采用单词这种较大的建模单元会导致词表规模庞大的问题，词表通常在十万级以上。采用汉字单元进行建模的效果也不会很好，因为虽然常用汉字数目大约是3500，但汉字的总数目仍然庞大，已超过了8万。此外，在以不损失翻译质量为前提，离线移动端神经机器翻译系统对最小化词表规模方面提出了更高的要求。因此，继续拆分汉字，在中文神经机器翻译中使用最小单元建模被提出并亟待实现。　　本文立足研究中文神经机器翻译的不同粒度等级的建模单元，并尝试将中文翻译语料拆分成最小建模单元——子字粒度单元，以达到保证高质量翻译结果的同时最小化词表规模的目的。本文的主要工作包括以下几个部分：　　（1）对中文翻译任务的语料粒度等级进行具体划分，创新性的提出了中文神经机器翻译任务中的子字粒度级别。利用中文最细翻译粒度——子字单元进行系统建模，以解决中文神经机器翻译的词表规模受限问题。并比较中文语料在各翻译粒度等级下的词表大小，证实使用细粒度建模单元的翻译系统的词表规模更小。　　（2）在神经机器翻译系统的语料预处理过程中应用字节对码化算法，并验证了字节对码化算法在中文语言上的有效性。　　（3）提出中文子字单元的拆分方法，构建无需显性分词的中文子字级神经机器翻译系统。　　实验结果表明本文的中文子字单元的拆分方法可以将中文语料拆分成最小建模单元以显著地缩小翻译任务的词表规模，中文子字级神经机器翻译系统可以在保证高质量翻译的基础上更好地解决词表规模受限问题，为离线移动端神经机器翻译系统占用更小的存储空间提供了可能，具有一定的科研和实用价值。

关键词：神经机器翻译词表规模翻译粒度子字单元集外词

来源：评论

学校读者我要写书评