[发明专利]多语言翻译模型的生成方法、翻译方法、终端及介质在审
申请号: | 202211011066.1 | 申请日: | 2022-08-23 |
公开(公告)号: | CN115796192A | 公开(公告)日: | 2023-03-14 |
发明(设计)人: | 陶恒韬;王晖;颜达森;王进;张艳;易泽轩 | 申请(专利权)人: | 鹏城实验室 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F18/214 |
代理公司: | 深圳市君胜知识产权代理事务所(普通合伙) 44268 | 代理人: | 刘芙蓉;温宏梅 |
地址: | 518000 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语言 翻译 模型 生成 方法 终端 介质 | ||
本发明实施例提供了一种多语言翻译模型的生成方法、翻译方法、终端及存储介质,通过获取多个第一单语语句,对预设自回归语言模型进行训练,生成预训练语言模型;所述预设自回归语言模型由解码器组成;获取多个双语语句对,并将所述双语语句对中互译的两个语句拼接,生成双语训练样本;基于所述双语训练样本对所述预训练语言模型进行训练,生成多语言翻译模型;所述多语言翻译模型用于将给定的源语言翻译出目标语句。通过上述方案,利用稀缺语言资源生成高翻译质量的多语言翻译模型,实现高质量的多语言翻译。
技术领域
本发明涉及人工智能技术领域,尤其涉及一种多语言翻译模型的 生成方法、翻译方法、终端及计算机可读存储介质。
背景技术
机器翻译又称为自动翻译,是利用计算机将一种自然语言(源语 言)转换为另一种自然语言(目标语言)的技术。神经网络翻译模型 是机器翻译的一种实现形式,其依赖于含有大量数据的语料库来进行 翻译模型的训练。但是机器翻译领域中翻译模型所需的训练语句属于 稀缺资源,不论是单语语料还是双语语料都十分的匮乏。
目前为了通过稀缺的训练语句实现多语言之间的翻译,通常采用 两种方式:第一种方式是通过多个不同的翻译模型(例如中-日、中- 英、中-俄),可以选定桥接语言实现从源语言到多种目标语言的翻 译(例如英-中-俄、英-中-日);第二种方式是基于传统的神经网络 翻译模型,强行将所有的双语语料进行共同训练,最终得到一个涉及 多语言(例如中文、英文、日文、俄文)的机器翻译模型。
通过以上两种处理方式虽然在一定程度上能够实现多语言翻译, 但是由于该两种处理方式本身存在的缺陷,导致翻译质量较差。对于 第一种方式,一方面多个不同的翻译模型需要大量的双语语料,而目 前的双语语料资源稀缺导致训练的翻译模型的翻译质量不能得到保 证,另一方面在采用桥接语言时至少需要进行两次翻译,容易带来错 误叠加,并且进行多次翻译也更加耗时。对于第二种方式,将多语言 语料一起进行训练,当不同语言之间语言特点或构成存在较大差别 时,传统的多语言翻译框架将无法解决由语言特点不同所带来的翻译 知识冲突问题,兼容性得不到保障,训练得到的多语言翻译模型的翻译质量差。
基于此,如何提供一种通过稀缺训练语言实现高翻译质量的多语 言翻译成为亟需解决的技术问题。
发明内容
本发明的主要目的在于提供多语言翻译模型的生成方法、翻译方 法、终端及计算机可读存储介质,旨在解决现有技术中无法通过稀缺 的语言资源实现高翻译质量的多语言翻译模型的问题。
为实现上述目的,本发明实施例提供了一种多语言翻译模型的生 成方法,所述多语言翻译模型的生成方法包括:
获取多个第一单语语句,对预设自回归语言模型进行训练,生成 预训练语言模型;所述预设自回归语言模型由解码器组成;
获取多个双语语句对,并将所述双语语句对中互译的两个语句拼 接,生成双语训练样本;
基于所述双语训练样本对所述预训练语言模型进行训练,生成多 语言翻译模型;所述多语言翻译模型用于将给定的源语言翻译出目标 语句。
可选地,所述多个第一单语语句由多种语言的单语语句组成;所 述多个双语语句对由至少三种互译语种不同的双语语句对组成。
可选地,所述第一单语语句和所述双语语句对中的源语句、目标 语句中的至少一种语句采用的语言相同。
可选地,获取多个双语语句对,并将所述双语语句对中互译的两 个语句拼接生成双语训练样本,具体包括:
确定各双语语句对中源语句的语言标识、目标语句的语言标识, 以及由所述源语句翻译至目标语句的翻译标识;
按照预设顺序,对所述双语语句对中源语句的语言标识、源语句、 翻译标识、目标语句的语言标识以及目标语句进行拼接,生成双语训 练样本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于鹏城实验室,未经鹏城实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211011066.1/2.html,转载请声明来源钻瓜专利网。