[发明专利]面向小型CPU设备的神经机器翻译系统解码加速方法在审
申请号: | 202110861073.X | 申请日: | 2021-07-29 |
公开(公告)号: | CN113505615A | 公开(公告)日: | 2021-10-15 |
发明(设计)人: | 杜权;徐萍;姜炎宏 | 申请(专利权)人: | 沈阳雅译网络技术有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06N3/04;G06N3/063;G06N3/08 |
代理公司: | 沈阳新科知识产权代理事务所(特殊普通合伙) 21117 | 代理人: | 李晓光 |
地址: | 110004 辽宁省沈阳市*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种面向小型CPU设备的神经机器翻译系统解码加速方法,步骤为:构建训练平行语料及基于注意力机制的神经机器翻译的模型,利用平行语料生成机器翻译词表,进一步训练得到训练收敛后的模型作为对比的基线模型,用于和改进后模型进行对比;将注意力神经机器翻译模型中多头注意力模块中多头变为单头,进一步训练得到训练收敛后的模型作为对比的单头模型;将注意力神经机器翻译模型中多头注意力模块中多头变为单头后,其余部分的头由此单头和一个轻量级线性变换计算获得,减少注意力模块中的计算量,达到解码加速的目的。本发明能够在多个机器翻译任务数据集上显著加速模型CPU解码速度,并保证模型的性能没有明显下降。 | ||
搜索关键词: | 面向 小型 cpu 设备 神经 机器翻译 系统 解码 加速 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于沈阳雅译网络技术有限公司,未经沈阳雅译网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110861073.X/,转载请声明来源钻瓜专利网。