[发明专利]基于词混淆网络的语义理解方法及系统有效
申请号: | 201911339054.X | 申请日: | 2019-12-23 |
公开(公告)号: | CN110992943B | 公开(公告)日: | 2022-05-24 |
发明(设计)人: | 俞凯;刘辰;朱苏;赵子健;曹瑞升 | 申请(专利权)人: | 思必驰科技股份有限公司 |
主分类号: | G10L15/16 | 分类号: | G10L15/16;G10L15/18 |
代理公司: | 北京商专永信知识产权代理事务所(普通合伙) 11400 | 代理人: | 黄谦;车江华 |
地址: | 215123 江苏省苏州市苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 混淆 网络 语义 理解 方法 系统 | ||
1.一种基于词混淆网络的语义理解方法,包括:
接收用户输入的语音对话,确定所述语音对话的词混淆网络,将所述词混淆网络转化为单词序列、后验概率序列以及分段位置序列,对所述单词序列的开头进行标记,确定为初始位置的向量特征;
通过Transformer编码器对所述单词序列、后验概率序列以及分段位置序列编码,得到词级别的向量特征;
将所述词级别的向量特征输入至序列表示模型进行分段级别聚合,得到聚合后的分段级别的向量特征;
将所述分段级别的向量特征输入至自注意力模型,将所述自注意力模型的输出与所述初始位置的向量特征进行拼接,得到序列级别的向量特征;
将所述序列级别的向量特征输入至语义元组分类器,确定所述语音对话的语义。
2.根据权利要求1所述的方法,其中,所述接收用户输入的语音对话,确定所述语音对话的词混淆网络包括:
通过语音活性检测获取所述语音对话中的人声语音;
确定所述人声语音的词混淆网络。
3.根据权利要求1所述的方法,其中,所述对所述单词序列开头进行标记,确定为初始位置的向量特征包括:
在所述单词序列的开头添加特殊词标记;
将所述特殊词确定为所述单词序列的初始位置的向量特征;
通过所述序列表示模型将所述词级别的向量特征聚合为多个分段级别的向量特征;
分别对所述多个分段级别的向量特征进行后验概率加权,将权值最大的向量特征作为词级别聚合后的分段级别的向量特征。
4.根据权利要求1所述的方法,其中,所述Transformer编码器包括:基于注意力机制的Transformer编码器。
5.一种基于词混淆网络的语义理解系统,包括:
序列确定程序模块,用于接收用户输入的语音对话,确定所述语音对话的词混淆网络,将所述词混淆网络转化为单词序列、后验概率序列以及分段位置序列,对所述单词序列的开头进行标记,确定为初始位置的向量特征;
序列编码程序模块,用于通过Transformer编码器对所述单词序列、后验概率序列以及分段位置序列编码,得到词级别的向量特征;
聚合程序模块,用于将所述词级别的向量特征输入至序列表示模型进行分段级别聚合,得到聚合后的分段级别的向量特征;
序列拼接程序模块,用于将所述分段级别的向量特征输入至自注意力模型,将所述自注意力模型的输出与所述初始位置的向量特征进行拼接,得到序列级别的向量特征;
语义理解程序模块,用于将所述序列级别的向量特征输入至语义元组分类器,确定所述语音对话的语义。
6.根据权利要求5所述的系统,其中,所述序列确定程序模块用于:
通过语音活性检测获取所述语音对话中的人声语音;
确定所述人声语音的词混淆网络。
7.根据权利要求5所述的系统,其中,所述序列确定程序模块用于:
在所述单词序列的开头添加特殊词标记;
将所述特殊词确定为所述单词序列的初始位置的向量特征。
8.根据权利要求5所述的系统,其中,所述Transformer编码器包括:基于注意力机制的Transformer编码器。
9.一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4中任一项所述方法的步骤。
10.一种存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-4中任一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于思必驰科技股份有限公司,未经思必驰科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911339054.X/1.html,转载请声明来源钻瓜专利网。