(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211388320.X (22)申请日 2022.11.08 (71)申请人 苏州浪潮智能科技有限公司 地址 215128 江苏省苏州市吴中经济开发 区郭巷街道官浦路1号9幢 (72)发明人 于彤　 (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 杨明月 (51)Int.Cl. G06F 40/58(2020.01) G06F 40/56(2020.01) G06K 9/62(2022.01) (54)发明名称 机器翻译方法、 装置、 电子设备及存 储介质 (57)摘要 本发明提供一种机器翻译方法、 装置、 电子 设备及存储介质， 涉及自然语言处理技术领域， 该方法包括： 获取目标语句； 将目标语句输入至 机器翻译模 型中， 得到机器翻译模 型输出的目标 语句对应的目标语 言语句； 机器翻译模型是基于 样本语句、 样本语句对应的第一语 言语句和第二 语言语句进行蒸馏训练得到的。 本发 明实现通过 蒸馏训练， 得到具备多种语言知识的机器翻译模 型， 以在压缩模型规模、 降低计算资源消耗的同 时， 可以实现多语言的机器翻译， 最大限度地减 少初始语言模型结构的修改， 且 可在最大限度地 保留初始语言模型的基础上取得最优的翻译性 能， 以实现快速精准 地进行机 器翻译。 权利要求书3页 说明书15页 附图2页 CN 115438678 A 2022.12.06 CN 115438678 A 1.一种机器翻译方法， 其特 征在于， 包括： 获取目标语句； 将所述目标语句输入至机器翻译模型中， 得到所述机器翻译模型输出的所述目标语句 对应的目标语言语句； 所述机器翻译模型是基于样本语句、 所述样本语句对应的第 一语言语句和所述样本语 句对应的第二语言语句进 行蒸馏训练得到的； 所述第一语言语句的语言类型与所述样本语 句的语言类型相同， 所述第二语言语句的语言类型与所述样本语句的语言类型不相同。 2.根据权利要求1所述的机器翻译方法， 其特征在于， 所述机器翻译模型是基于如下步 骤训练得到的： 获取所述样本语句中的第一样本语句以及所述第一样本语句对应的第一语言语句； 基于所述第 一样本语句以及所述第 一样本语句对应的第 一语言语句， 进行蒸馏训练得 到预训练机器翻译模型； 获取所述样本语句中的第二样本语句以及所述第二样本语句对应的第二语言语句； 基于所述第 二样本语句以及所述第 二样本语句对应的第 二语言语句， 对所述预训练机 器翻译模型进行训练， 得到所述机器翻译模型。 3.根据权利要求2所述的机器翻译方法， 其特征在于， 所述基于所述第 一样本语句以及 所述第一样本语句对应的第一语言语句， 进行蒸馏训练得到预训练机器翻译模型， 包括： 基于所述第 一样本语句以及所述第 一样本语句对应的第 一语言语句， 对教师模型进行 训练； 将所述第一样本语句输入至训练后的教师模型， 得到所述训练后的教师模型输出的所 述第一样本语句对应的第一语言语句； 基于所述训练后的教师模型输出的所述第一样本语句对应的第一语言语句以及所述 第一样本语句， 对学生模型进行蒸馏训练， 得到所述预训练机器翻译模型。 4.根据权利要求3所述的机器翻译方法， 其特征在于， 在所述基于所述第 一样本语句以 及所述第一样本语句对应的第一语言语句， 对教师模型进行训练之前， 所述方法还 包括： 基于第一参数量的预训练语言模型构建教师模型， 基于第 二参数量的预训练语言模型 构建学生模型； 所述第二 参数量小于所述第一 参数量。 5.根据权利要求4所述的机器翻译方法， 其特征在于， 所述预训练语言模型是以所述样 本语句对应的第二语言语句所属的语言为主体语言， 对自回归语言模型进行预训练获取 的。 6.根据权利要求2 ‑5任一所述的机器翻译方法， 其特征在于， 所述获取所述样本语句中 的第一样本语句以及所述第一样本语句对应的第一语言语句， 包括： 从单语语料库中， 获取第一样本数据集； 对所述第一样本数据集进行数据处理； 所述数据处理包括删除数据长度小于目标长 度， 和/或包 含敏感词的单语 语句； 基于处理后的第一样本数据集， 获取所述第 一样本语句以及所述第 一样本语句对应的 第一语言语句。 7.根据权利要求2 ‑5任一所述的机器翻译方法， 其特征在于， 所述获取所述样本语句中 的第二样本语句以及所述第二样本语句对应的第二语言语句， 包括：权　利　要　求　书 1/3 页 2 CN 115438678 A 2从双语语料库中， 获取第二样本数据集； 对所述第二样本数据集进行数据处理； 所述数据处理包括删除任一语句的数据长度小 于目标长度， 和/或任一语句中包 含敏感词的双语 语句对； 基于处理后的第二样本数据集， 获取所述第 二样本语句以及所述第 二样本语句对应的 第二语言语句。 8.根据权利要求2 ‑5任一所述的机器翻译方法， 其特征在于， 所述获取所述样本语句中 的第二样本语句以及所述第二样本语句对应的第二语言语句， 包括： 根据所述第二样本语句确定 输入信息； 将所述输入信 息输入至所述预训练机器翻译模型中， 得到所述预训练机器翻译模型输 出的所述第二样本语句对应的第二语言语句。 9.根据权利要求8所述的机器翻译方法， 其特征在于， 所述根据 所述第二样本语句确定 输入信息， 包括： 将所述第二样本语句作为所述输入信息 。 10.根据权利要求8所述的机器翻译方法， 其特征在于， 所述根据所述第二样本语句确 定输入信息， 包括： 在所述第二样本语句之前增加多组目标语料语句对； 所述目标语料语句对中的目标语 句的语言类型与所述第二样本语句的语言类型相同， 所述目标语料语句对中的目标语言语 句的语言类型与所述第二样本语句对应的第二语言语句的语言类型相同； 根据增加结果， 确定所述输入信息 。 11.根据权利要求2 ‑5任一所述的机器翻译方法， 其特征在于， 所述基于所述第二样本 语句以及所述第二样本语句对应的第二语言语句， 对所述预训练机器翻译模型进行训练， 得到所述机器翻译模型， 包括： 将所述第二样本语句作为样本， 将所述第 二样本语句对应的第 二语言语句作为样本标 签， 对所述预训练机器翻译模型进行训练， 得到所述机器翻译模型。 12.根据权利要求2 ‑5任一所述的机器翻译方法， 其特征在于， 所述基于所述第二样本 语句以及所述第二样本语句对应的第二语言语句， 对所述预训练机器翻译模型进行训练， 得到所述机器翻译模型， 包括： 将所述第二样本语句作为样本标签， 将所述第 二样本语句对应的第 二语言语句作为样 本， 对所述预训练机器翻译模型进行训练， 得到所述机器翻译模型。 13.一种机器翻译装置， 其特 征在于， 包括： 获取模块， 用于获取目标语句； 翻译模块， 用于将所述目标语句输入至机器翻译模型中， 得到所述机器翻译模型输出 的所述目标语句对应的目标语言语句； 所述机器翻译模型是基于样本语句、 所述样本语句对应的第 一语言语句和所述样本语 句对应的第二语言语句进 行蒸馏训练得到的； 所述第一语言语句的语言类型与所述样本语 句的语言类型相同， 所述第二语言语句的语言类型与所述样本语句的语言类型不相同。 14.一种电子设备， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器执行所述程序时实现如权利要求 1至12任一项 所 述机器翻译方法。权　利　要　求　书 2/3 页 3 CN 115438678 A 3