[发明专利]基于知识映射的事件关系抽取、语篇关系分析方法及装置有效

专利信息
申请号: 202110632197.0 申请日: 2021-06-07
公开(公告)号: CN113535973B 公开(公告)日: 2023-06-23
发明(设计)人: 孙乐;唐家龙;廖梦;陆垚杰;韩先培;谢炜坚;徐进;林鸿宇 申请(专利权)人: 中国科学院软件研究所;腾讯科技(深圳)有限公司
主分类号: G06F16/36 分类号: G06F16/36;G06F16/35;G06F40/205;G06F40/30
代理公司: 北京君尚知识产权代理有限公司 11200 代理人: 余长江
地址: 100190 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 知识 映射 事件 关系 抽取 分析 方法 装置
【权利要求书】:

1.一种基于知识映射的事件关系抽取方法,其步骤包括:

1)基于语言模型,挖掘事件文本中存在相似的词法与句法结构,得到特殊字词[CLS]的嵌入表示h[CLS],其中特殊字词[CLS]是事件关系对的开始标记;

2)基于变分自编码的语义表示编码器,获取事件文本中可类推的语义关系表示hz;其中,所述基于变分自编码的语义表示编码器,获取事件文本中可类推的语义关系表示hz,包括:

通过独立的关系嵌入表示网络获得输出端的关系嵌入表示hY

通过一个非线性的变换层,将嵌入表示h[CLS]与关系嵌入表示hY映射到一个公共的语义表示空间,得到在同一空间的语义表示h′z=tanh(Wz[h[CLS];hY]+bz),其中,Wz为第一可学习的参数矩阵,bz为第一可学习的偏置项;

通过线性回归方法,分别得到第一高斯语义表示的均值μ=Wμh′z+bμ与第二高斯语义表示的方差平方的对数log(σ2)=Wσh′z+bσ;其中,Wμ为第二可学习的参数矩阵,bμ为第二可学习的偏置项,Wσ为第三可学习的参数矩阵,bσ为第三可学习的偏置项,σ表示二高斯语义表示的方差;

通过重参数的方法,获得最终的语义关系表示hz=μ+σ⊙∈,其中∈是服从标准高斯分布的噪声;

3)根据嵌入表示h[CLS]与语义关系表示hz进行粗粒度关系分类,得到粗粒度分类结果Yc,并将粗粒度分类结果Yc输入粗粒度关系嵌入网络,获得粗粒度类别嵌入表示其中,所述粗粒度关系分类结果为时序关系、应变关系、比较关系和阐述关系中的一种,所述粗粒度关系嵌入网络是接受一个具体的关系,并通过一个映射矩阵得到该关系对应的稠密向量表示的网络;

4)利用嵌入表示h[CLS]、语义关系表示hz及粗粒度类别嵌入表示对事件文本中事件对的关系类别进行分类,得到事件关系抽取结果。

2.如权利要求1所述的方法,其特征在于,所述语言模型包括:BERT模型。

3.如权利要求1所述的方法,其特征在于,通过以下步骤得到事件对中特殊字词[CLS]的嵌入表示h[CLS]

1)对于文本中的事件关系对E1,E2,序列化地表示为其中特殊字词[SEP]是事件关系对中每一个事件的结束标记,e是事件关系对中出现的自然语言字符;

2)对序列中的每一自然语言字符e,将获取的词向量、分割向量及位置向量拼接在一起,得到各字词的初始字词表示向量;

3)利用各字词的初始字词表示向量,获取序列表示向量;

4)将序列表示向量输入语言模型,得到特殊字词[CLS]的嵌入表示h[CLS]

4.如权利要求1所述的方法,其特征在于,利用一分类器,对事件文本中事件对的关系类别进行分类,其中训练分类器的目标函数L(θ)=α(L(θ;Y)+λKL(P||Q))+(1-α(L(θ;Yc)),λ与α分别是两个超参数,Yc为粗粒度关系分类,KL(P||Q)是语义表示编码器中的KL距离,L(θ;Yc)=logp(Yc|h[CLS],hz),p为先验模型,Y表示事件关系。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院软件研究所;腾讯科技(深圳)有限公司,未经中国科学院软件研究所;腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110632197.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top