[发明专利]一种翻译模型、一种数据处理方法在审
申请号: | 202111087963.6 | 申请日: | 2019-07-09 |
公开(公告)号: | CN113762408A | 公开(公告)日: | 2021-12-07 |
发明(设计)人: | 史红亮;李长亮;廖敏鹏 | 申请(专利权)人: | 北京金山数字娱乐科技有限公司;成都金山数字娱乐科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 刘晓楠 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 翻译 模型 数据处理 方法 | ||
1.一种翻译模型,其特征在于,包括编码器和解码器,所述解码器中包括至少两个解码层,所述至少两个解码层中的至少一个解码层包括动态卷积层、多头注意力层和前馈网络层,其中,所述翻译模型被用于处理图片识别描述任务。
2.如权利要求1所述的翻译模型,其特征在于,所述动态卷积层、所述多头注意力层和所述前馈网络层顺次连接。
3.如权利要求1所述的翻译模型,其特征在于,所述动态卷积层包括门控线性单元、动态卷积单元和轻量级卷积单元。
4.如权利要求3所述的翻译模型,其特征在于,所述门控线性单元用于接收参考图片待解码矩阵,并根据所述参考图片待解码矩阵获取门控线性矩阵;
所述动态卷积单元用于接收所述门控线性矩阵,根据所述门控线性矩阵获取卷积权值;
所述轻量级卷积单元用于接收所述门控线性矩阵和所述卷积权值,经过轻量级卷积运算获取第一子层矩阵。
5.如权利要求1所述的翻译模型,其特征在于,所述多头注意力层用于接收所述动态卷积层输出的第一子层矩阵和所述编码器输出的图片编码矩阵,经过多次自注意力计算得到第二子层矩阵。
6.如权利要求1所述的翻译模型,其特征在于,所述前馈网络层用于接收所述多头注意力子层输出的第二子层矩阵,经过前馈计算获得第三子层矩阵,并对所述第三子层矩阵进行线性变换,获得图片解码矩阵。
7.如权利要求1~6任一项所述的翻译模型,其特征在于,所述编码器用于接收初始图片待编码矩阵,并对所述初始图片待编码矩阵进行编码,获得图片编码矩阵。
8.如权利要求1所述的翻译模型,其特征在于,所述解码器包括6个解码层。
9.如权利要求1所述的翻译模型,其特征在于,每个解码层均包括动态卷积层、多头注意力层和前馈网络层。
10.一种数据处理方法,其特征在于,应用于权利要求1-9任意一项所述的翻译模型,所述方法包括:
基于接收到的待识别图片,获得初始图片待编码矩阵;
将所述初始图片待编码矩阵输入至所述翻译模型的编码器进行编码,获得图片编码矩阵;
将所述图片编码矩阵输入至所述翻译模型的解码器进行解码,获得图片解码矩阵;
将所述图片解码矩阵经过归一化处理,输出所述图片解码矩阵的描述信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山数字娱乐科技有限公司;成都金山数字娱乐科技有限公司,未经北京金山数字娱乐科技有限公司;成都金山数字娱乐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111087963.6/1.html,转载请声明来源钻瓜专利网。