[发明专利]基于知识映射的事件关系抽取、语篇关系分析方法及装置有效
申请号: | 202110632197.0 | 申请日: | 2021-06-07 |
公开(公告)号: | CN113535973B | 公开(公告)日: | 2023-06-23 |
发明(设计)人: | 孙乐;唐家龙;廖梦;陆垚杰;韩先培;谢炜坚;徐进;林鸿宇 | 申请(专利权)人: | 中国科学院软件研究所;腾讯科技(深圳)有限公司 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06F16/35;G06F40/205;G06F40/30 |
代理公司: | 北京君尚知识产权代理有限公司 11200 | 代理人: | 余长江 |
地址: | 100190 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 知识 映射 事件 关系 抽取 分析 方法 装置 | ||
1.一种基于知识映射的事件关系抽取方法,其步骤包括:
1)基于语言模型,挖掘事件文本中存在相似的词法与句法结构,得到特殊字词[CLS]的嵌入表示h[CLS],其中特殊字词[CLS]是事件关系对的开始标记;
2)基于变分自编码的语义表示编码器,获取事件文本中可类推的语义关系表示hz;其中,所述基于变分自编码的语义表示编码器,获取事件文本中可类推的语义关系表示hz,包括:
通过独立的关系嵌入表示网络获得输出端的关系嵌入表示hY;
通过一个非线性的变换层,将嵌入表示h[CLS]与关系嵌入表示hY映射到一个公共的语义表示空间,得到在同一空间的语义表示h′z=tanh(Wz[h[CLS];hY]+bz),其中,Wz为第一可学习的参数矩阵,bz为第一可学习的偏置项;
通过线性回归方法,分别得到第一高斯语义表示的均值μ=Wμh′z+bμ与第二高斯语义表示的方差平方的对数log(σ2)=Wσh′z+bσ;其中,Wμ为第二可学习的参数矩阵,bμ为第二可学习的偏置项,Wσ为第三可学习的参数矩阵,bσ为第三可学习的偏置项,σ表示二高斯语义表示的方差;
通过重参数的方法,获得最终的语义关系表示hz=μ+σ⊙∈,其中∈是服从标准高斯分布的噪声;
3)根据嵌入表示h[CLS]与语义关系表示hz进行粗粒度关系分类,得到粗粒度分类结果Yc,并将粗粒度分类结果Yc输入粗粒度关系嵌入网络,获得粗粒度类别嵌入表示其中,所述粗粒度关系分类结果为时序关系、应变关系、比较关系和阐述关系中的一种,所述粗粒度关系嵌入网络是接受一个具体的关系,并通过一个映射矩阵得到该关系对应的稠密向量表示的网络;
4)利用嵌入表示h[CLS]、语义关系表示hz及粗粒度类别嵌入表示对事件文本中事件对的关系类别进行分类,得到事件关系抽取结果。
2.如权利要求1所述的方法,其特征在于,所述语言模型包括:BERT模型。
3.如权利要求1所述的方法,其特征在于,通过以下步骤得到事件对中特殊字词[CLS]的嵌入表示h[CLS]:
1)对于文本中的事件关系对E1,E2,序列化地表示为其中特殊字词[SEP]是事件关系对中每一个事件的结束标记,e是事件关系对中出现的自然语言字符;
2)对序列中的每一自然语言字符e,将获取的词向量、分割向量及位置向量拼接在一起,得到各字词的初始字词表示向量;
3)利用各字词的初始字词表示向量,获取序列表示向量;
4)将序列表示向量输入语言模型,得到特殊字词[CLS]的嵌入表示h[CLS]。
4.如权利要求1所述的方法,其特征在于,利用一分类器,对事件文本中事件对的关系类别进行分类,其中训练分类器的目标函数L(θ)=α(L(θ;Y)+λKL(P||Q))+(1-α(L(θ;Yc)),λ与α分别是两个超参数,Yc为粗粒度关系分类,KL(P||Q)是语义表示编码器中的KL距离,L(θ;Yc)=logp(Yc|h[CLS],hz),p为先验模型,Y表示事件关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院软件研究所;腾讯科技(深圳)有限公司,未经中国科学院软件研究所;腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110632197.0/1.html,转载请声明来源钻瓜专利网。