[发明专利]机器翻译模型的训练方法和机器翻译方法在审
| 申请号: | 202111475509.8 | 申请日: | 2021-12-06 |
| 公开(公告)号: | CN114372480A | 公开(公告)日: | 2022-04-19 |
| 发明(设计)人: | 林欢;姚亮;杨宝嵩;张海波;骆卫华 | 申请(专利权)人: | 阿里巴巴达摩院(杭州)科技有限公司 |
| 主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/216;G06K9/62 |
| 代理公司: | 北京成创同维知识产权代理有限公司 11449 | 代理人: | 刘静 |
| 地址: | 311121 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 机器翻译 模型 训练 方法 | ||
本公开提供了一种机器翻译模型的训练方法和训练装置。该训练方法包括:获得特定用户的待翻译文本和待翻译文本的期望译文;获得待翻译文本的第一编码表达,以及获得用于表征特定用户的语言特征的第二编码表达;根据第一编码表达和第二编码表达,获得输入给机器翻译模型的第三编码表达,以及待翻译文本的翻译结果;根据待翻译文本的翻译结果与待翻译文本的期望译文计算损失值;如果损失值大于或等于预设阈值,则根据损失值调整机器翻译模型的权重参数;如果损失值小于预设阈值,则停止训练方法。该方法中采用表征特定用户的语言特征第二编码表达调整输入给机器翻译模型的编码表达,以能够提供个性化的翻译结果。
技术领域
本公开涉及计算机技术领域,更具体而言,涉及一种机器翻译模型的训练方法和机器翻译方法。
背景技术
机器翻译是利用计算机程序将一种自然语言(源语言)转换为另一种自然语言(目标语言)。目前机器翻译的实施很多采用基于神经网络技术建模的机器翻译模型实现。但随着机器翻译的广泛应用,研发人员发现,即使是同一语义,不同用户也有不同文本表达。虽然目前改进的机器翻译模型能够从籍贯、职业、男女等维度控制翻译结果,但是,这种方式还不是真正意义上的个性化翻译,其本质上是基于群体特征去控制翻译结果,并没有达到基于单一个体的个性化语言特征提供翻译结果的目的。
发明内容
有鉴于此,本公开旨在提供一种机器翻译模型的训练方法和实施该机器翻译模型的方法,实施该机器翻译模型能够达到基于个体的个性化语言特征提供翻译结果的目的。
根据本公开的第一方面,提供一种机器翻译模型的训练方法,包括:
获得特定用户的待翻译文本和所述待翻译文本的期望译文;
获得所述待翻译文本的第一编码表达,以及,
获得用于表征所述特定用户的语言特征的第二编码表达;
根据所述第一编码表达和所述第二编码表达,获得输入给所述机器翻译模型的第三编码表达,以及所述待翻译文本的翻译结果;
根据所述待翻译文本的翻译结果与所述待翻译文本的期望译文计算损失值;
如果所述损失值大于或等于预设阈值,则根据所述损失值调整所述机器翻译模型的权重参数;
如果所述损失值小于预设阈值,则停止所述训练方法。
在一些实施例中,所述获得用于表征所述特定用户的语言特征的第二编码表达包括:
判断所述特定用户的历史输入是否存在;
基于所述特定用户的历史输入提取关键词,并据此获得所述第二编码表达。
在一些实施例中,所述基于所述特定用户的历史输入提取关键词,并据此获得所述第二编码表达包括:
基于所述待翻译文本与所述特定用户的历史输入获得上下文关键词;
基于所述待翻译文本与所有用户的历史输入获得主题关键词;
基于所述上下文关键词和所述主题关键词分别求取对应的编码表达;以及
根据所述上下文关键词和所述主题关键词分别对应的编码表达通过权重求和计算得到所述第二编码表达,其中,所述权重求和计算中的权重为可学习的参数矩阵。。
在一些实施例中,所述根据所述上下文关键词和所述主题关键词分别对应的编码表达通过权重求和计算得到所述第二编码表达包括:
将所述上下文关键词和所述主题关键词分别对应的编码表达分别与一参数矩阵进行矩阵相乘再求和计算,并将计算结果代入给一激活函数,以得到小于1的第一数值;
将所述第一数值与所述主题关键词对应的编码表达相乘,得到第一乘积;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴达摩院(杭州)科技有限公司,未经阿里巴巴达摩院(杭州)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111475509.8/2.html,转载请声明来源钻瓜专利网。





