一种基于解码器输入增强的非自回归神经机器翻译方法

专利申请号：CN202110592520.6

公 开 号：CN113468895B

发 明 人：杜权 徐萍 杨迪 

代 理 人：沈阳新科知识产权代理事务所(特殊普通合伙)李晓光

代理机构：沈阳新科知识产权代理事务所(特殊普通合伙)

专利类型：发明专利

申 请 日：20230815

公 开 日：20210528

专利主分类号：G06F40/58

关 键 词：机器翻译 自回归 解码器 神经 训练模型 编码器 构建 嵌入 替换 词表 模型编码器 预测编码器 目标语句 训练过程 真实数据 词义 初始化 词向量 目标语 映射 预测 语句 语料 源语 句子 平行 送入 

摘      要：本发明公开一种基于解码器输入增强的非自回归神经机器翻译方法，步骤为：构造非自回归神经机器翻译模型；构建双语混合预训练模型；将双语混合句子作为编码器的输入，通过解码器来预测编码器中被替换的片段；用双语混合预训练模型编码器的词嵌入初始化非自回归神经机器翻译模型编码器和解码器的词嵌入；构建训练平行语料，生成机器翻译词表；通过解码器预测对应的目标语句子；计算预测出的分布与真实数据分布的差异，完成非自回归神经机器翻译模型的训练过程；将源语句子送入非自回归神经机器翻译模型中。本发明通过词典替换的方式将源语与目标语的表示映射到了同一的词义空间下，丰富了词向量的表达能力，可被非自回归神经机器翻译模型更好利用。