[发明专利]特征编码方法、装置、电子设备及可读存储介质在审
| 申请号: | 201911419048.5 | 申请日: | 2019-12-31 |
| 公开(公告)号: | CN111160043A | 公开(公告)日: | 2020-05-15 |
| 发明(设计)人: | 戴瑾;胡加学;赵乾;宋时德 | 申请(专利权)人: | 科大讯飞股份有限公司 |
| 主分类号: | G06F40/30 | 分类号: | G06F40/30;G06N3/04;G06N3/08 |
| 代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 郑朝然 |
| 地址: | 230088 安徽省*** | 国省代码: | 安徽;34 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 特征 编码 方法 装置 电子设备 可读 存储 介质 | ||
1.一种特征编码方法,其特征在于,包括:
获取待分析语句;
将所述待分析语句输入至预先训练好的特征编码模型中,获得所述特征编码模型输出的特征编码结果;
所述特征编码模型为注意力模块和训练好的生成对抗网络模型中的编码模块共同训练所得到。
2.根据权利要求1所述的语义理解处理方法,其特征在于,所述生成对抗网络模型为以语句样本对为训练样本,以与所述语句样本对对应的用于表征加噪类型的加噪向量为样本标签训练得到;所述特征编码模型为以所述语句样本对为训练样本训练得到;所述语句样本对包括原始语句和加噪语句,所述加噪语句为对所述原始语句进行加噪得到。
3.根据权利要求2所述的语义理解处理方法,其特征在于,所述生成对抗网络模型包括编码模块和判别模块,所述生成对抗网络模型通过如下方式训练得到:
将语句样本对中的原始语句和加噪语句分别进行向量化处理,得到原始语句向量和加噪语句向量;
将原始语句向量和加噪语句向量分别输入编码模块,得到所述编码模块输出的与原始语句向量和加噪语句向量分别对应的原始第一特征和加噪第一特征;
将所述原始第一特征和所述加噪第一特征分别输入判别模块,得到所述判别模块输出的所述原始第一特征对应的预测标签和所述加噪第一特征对应的预测标签;
以所述加噪第一特征对应的预测标签以及所述原始第一特征对应的预测标签均趋近于原始语句的样本标签为目标,对所述生成对抗网络模型的参数进行更新。
4.根据权利要求2所述的语义理解处理方法,其特征在于,所述特征编码模型通过以下方式训练得到:
将所述生成对抗网络模型训练完成后,将语句样本对中的原始语句和加噪语句分别进行向量化处理,得到原始语句向量和加噪语句向量;
将原始语句向量和加噪语句向量分别输入训练好的生成对抗网络模型中的编码模块,得到该编码模块输出的与原始语句向量和加噪语句向量分别对应的原始第二特征和加噪第二特征;
将原始第二特征和加噪第二特征分别输入注意力模块,得到所述注意力模块输出的与所述原始第二特征和所述加噪第二特征分别对应的原始关键特征和加噪关键特征;
以所述加噪关键特征趋近于原始关键特征为目标,对所述注意力模块和所述编码模块的参数进行更新,直到满足预设收敛条件,将所得的编码模块作为训练好的特征编码模型。
5.根据权利要求2-4任一项所述的语义理解处理方法,其特征在于,所述对所述原始语句进行加噪的方法包括:
对原始语句中的词进行随机调换顺序、对原始语句中的词进行随机删除、向原始语句中随机插入词、对原始语句中的字进行随机重复或者基于回译的加噪方法对原始语句进行加噪。
6.根据权利要求1所述的语义理解处理方法,其特征在于,所述方法还包括:
根据所述特征编码结果确定所述待分析语句的语义。
7.一种特征编码装置,其特征在于,包括:
语句获取单元,用于获取待分析语句;
特征编码单元,用于将所述待分析语句输入至预先训练好的特征编码模型中,获得所述特征编码模型输出的特征编码结果;
所述特征编码模型为注意力模块和训练好的生成对抗网络模型中的编码模块共同训练所得到。
8.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6任一项所述语义理解处理方法的步骤。
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至6任一项所述语义理解处理方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于科大讯飞股份有限公司,未经科大讯飞股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911419048.5/1.html,转载请声明来源钻瓜专利网。





