[发明专利]用于事件检测的网络训练方法及装置在审
申请号: | 202011111486.8 | 申请日: | 2020-10-16 |
公开(公告)号: | CN112199950A | 公开(公告)日: | 2021-01-08 |
发明(设计)人: | 徐军;黄伟鹏;徐学可;王峰 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06F40/216;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 北京亿腾知识产权代理事务所(普通合伙) 11309 | 代理人: | 陈霁;周良玉 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 事件 检测 网络 训练 方法 装置 | ||
本说明书实施例提供了一种用于事件检测的网络训练方法及装置。其中包括动态感知网络和目标反馈网络。动态感知网络包含顺序排列的多个备选的计算层,在对动态感知网络进行训练时,针对获取的样本文本中的任意一个词,从动态感知网络中逐渐增加地选择前若干个计算层,并通过前若干个计算层和该词的初始特征向量确定该词的中间特征向量,基于第一分类器和该词的中间特征向量确定第一预测标签,当第一预测标签与对应的标注标签的第一差异小于第一预设阈值时,将前若干个计算层作为与该词对应的计算层,将该词的中间特征向量作为该词的第一特征向量,基于第一差异确定第一预测损失,向减小第一预测损失的方向,调整与该词对应的计算层中的模型参数。
技术领域
本说明书一个或多个实施例涉及机器学习技术领域,尤其涉及用于事件检测的网络训练方法及装置。
背景技术
在各种新闻、消息爆量增长的环境下,从中检测出人们关心的各种事件,以便提供给需要者,使其及时充分地做出应对,是当前的一个重要研究方向。处理平台可以预先定义各种事件类型对应的事件触发词等,并为各种事件类型设置标签,通过对待检测文本中包含的词所归属的标签进行预测,进而从待检测文本中检测各种事件类型。例如,对于定义的“高层离职”事件类型,其对应的事件触发词可以包括高层离职、高层退休、管理层离职等等。从文本中检测其包含的事件类型,与对文本以及文本中词的语义理解密切相关。
因此,希望能有改进的方案,在对待检测文本进行事件检测时,可以更加准确地检测出其包含的事件类型。
发明内容
本说明书一个或多个实施例描述了用于事件检测的网络训练方法及装置,以提高事件检测的准确性。具体的技术方案如下。
第一方面,实施例提供了一种用于进行事件检测的动态感知网络训练方法,所述动态感知网络包含顺序排列的多个备选的计算层;所述方法通过处理平台执行,包括:
获取包含多个词的样本文本、多个词分别对应的初始特征向量和标注标签,所述标注标签包括与事件类型相关的第一类标签和与事件类型无关的第二类标签;
针对所述样本文本中的任意一个词,从所述动态感知网络中逐渐增加地选择前若干个计算层,并通过所述前若干个计算层和该词的初始特征向量确定该词的中间特征向量,基于第一分类器和该词的中间特征向量确定第一预测标签,当所述第一预测标签与对应的标注标签的第一差异小于第一预设阈值时,将所述前若干个计算层作为与该词对应的计算层,将该词的所述中间特征向量作为所述动态感知网络输出的该词的第一特征向量;预测标签是该词在所述第一类标签或所述第二类标签中归属的标签;
基于所述第一差异确定第一预测损失,向减小所述第一预测损失的方向,调整与该词对应的计算层中的模型参数。
在一种实施方式中,通过所述前若干个计算层和该词的初始特征向量确定该词的中间特征向量,包括:
通过所述前若干个计算层,基于该词的初始特征向量和所述样本文本中该词之前的词信息,确定该词的中间特征向量。
在一种实施方式中,确定该词的中间特征向量,包括:
将该词的初始特征向量和该词之前的词信息输入所述前若干个计算层中的第一个计算层,并至少将每个计算层的计算结果输入下一个计算层,将所述前若干个计算层中的最后一个计算层的计算结果,作为该词的中间特征向量。
在一种实施方式中,该方法还包括,将该词的初始特征向量输入所述下一个计算层。
在一种实施方式中,所述该词之前的词信息,基于该词之前的词的第一特征向量确定。
在一种实施方式中,基于第一分类器和该词的中间特征向量确定第一预测标签,包括:
基于该词的中间特征向量确定该词的特征概率,所述特征概率表示该中间特征向量作为第一特征向量的概率;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011111486.8/2.html,转载请声明来源钻瓜专利网。