[发明专利]一种基于变量绑定和关系激活的自动问答方法有效
申请号: | 201710755961.7 | 申请日: | 2017-08-29 |
公开(公告)号: | CN107544960B | 公开(公告)日: | 2020-01-14 |
发明(设计)人: | 许家铭;姚轶群;石晶;徐波 | 申请(专利权)人: | 中国科学院自动化研究所 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F16/36;G06F16/33;G06N3/08 |
代理公司: | 11482 北京瀚仁知识产权代理事务所(普通合伙) | 代理人: | 郭文浩;王世超 |
地址: | 100080 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 变量 绑定 关系 激活 推理 方法 | ||
1.一种基于变量绑定和关系激活的自动问答方法,其特征在于,包括:
通过词向量和编码模型对文本进行编码,得到所述文本的语义信息;
识别所述文本的语义信息中的实体,对所述实体进行映射和跟踪;
通过第一动作网络理解所述语义信息和问句,确定所述实体在逻辑规则中的位置,得到所述问句对应的查询语句;
通过第二动作网络激活实体关系,并将所述实体关系写入所述逻辑规则,得到意象图式;
利用所述查询语句对所述意象图式进行检索,得到检索结果,根据所述检索结果生成答案词,
所述通过词向量和编码模型对文本进行编码,其方法为:
将所述文本使用可训练的映射矩阵进行词向量表示,其中所述词向量作为所述文本的词粒度的编码,计算所述词向量ei(t)的具体公式为:
其中,|V|表示总词表大小,d表示词向量的维度,A表示映射矩阵,xi,t表示t时刻的文本,表示实数构成的矩阵;
使用编码模型将所述词向量拼接为句子向量,所述句子向量表示所述文本的语义信息,计算所述句子向量st的具体公式为:
st=concat(e1(t),e2(t),...en(t)),
其中,concat表示字符串连接函数。
2.根据权利要求1所述的基于变量绑定和关系激活的自动问答方法,其特征在于,所述编码模型为循环神经网络模型。
3.根据权利要求2所述的基于变量绑定和关系激活的自动问答方法,其特征在于,所述对所述实体进行映射和跟踪,其方法为:
使用命名空间为所述实体分配固定编号;
当所述文本中出现相同的实体时,所述命名空间为所述相同的实体映射相同的编号。
4.根据权利要求3所述的基于变量绑定和关系激活的自动问答方法,其特征在于,所述通过第一动作网络理解所述语义信息和问句之前,该方法还包括:
使用全连接的感知机将所述句子向量进一步编码为隐层表示,其中,计算隐层语义ht的具体公式为:
ht=σ(Whidst),
其中,Whid表示神经网络权重,其中,dim(s)表示句子向量的维度,d表示词向量的维度,表示实数构成的矩阵,σ表示sigmoid激活函数,st表示句子向量。
5.根据权利要求4所述的基于变量绑定和关系激活的自动问答方法,其特征在于,所述确定所述实体在逻辑规则中的位置,其方法为:
使用全连接的感知机理解所述隐层语义,根据变量绑定的动作决策输出可行动作的分布,所述可行动作确定所述实体在逻辑规则中的位置,其中,计算所述变量绑定的动作决策的具体公式为:
其中,softmax表示激活函数,Wbind表示变量绑定的动作网络参数,其中,dim(a)表示可行动作的个数,d表示词向量的维度,表示实数构成的矩阵,ht表示隐层语义,τ表示softmax激活函数中的温度常数。
6.根据权利要求5所述的基于变量绑定和关系激活的自动问答方法,其特征在于,所述通过第二动作网络激活实体关系,其方法为:
使用全连接的感知机理解所述隐层语义,通过第二动作网络的关系激活的动作决策计算要激活的实体关系,其中,计算所述关系激活的动作决策的具体公式为:
其中,softmax表示激活函数,Wactiv表示关系激活的动作网络参数,ht表示隐层语义,τ表示softmax激活函数中的温度常数。
7.根据权利要求6所述的基于变量绑定和关系激活的自动问答方法,其特征在于,所述第一动作网络与所述第二动作网络均为神经网络模型,其中,所述第一动作网络与所述第二动作网络的权重参数不同。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院自动化研究所,未经中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710755961.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:可清洗的饲料搅拌混匀装置
- 下一篇:一种双速搅拌系统及其搅拌方法