[发明专利]一种文本处理方法、装置、计算机设备及存储介质在审
申请号: | 202011232565.4 | 申请日: | 2020-11-06 |
公开(公告)号: | CN112347790A | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 马东民;邱学侃 | 申请(专利权)人: | 北京乐学帮网络技术有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/289;G06N3/04;G06N3/08 |
代理公司: | 北京中知恒瑞知识产权代理事务所(普通合伙) 11889 | 代理人: | 谢玲 |
地址: | 100094 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 处理 方法 装置 计算机 设备 存储 介质 | ||
本公开提供了一种文本处理方法、装置、计算机设备及存储介质,其中,该方法包括:获取待处理文本的特征句向量、及待处理文本中多个字符分别对应的特征字向量;通过注意力机制对特征句向量、以及多个字符分别对应的特征字向量进行处理,得到多个字符分别与特征句向量之间的相关度信息;基于多个字符分别与特征句向量之间的相关度信息,得到多个字符分别对应的重要性程度信息。本公开实施例通过表征待处理文本特征的特征句向量,以及能够表征待处理文本中的多个字符分别对应特征的特征字向量,得到多个字符分别对应的重要性程度,能够在不依赖与上下文关联约束的情况下得到多个字符分别在待处理文本中的重要性程度,具有更高的准确性。
技术领域
本公开涉及语言文字处理技术领域,具体而言,涉及一种文本处理方法、装置、计算机设备及存储介质。
背景技术
目前,语句中重要性词语的筛选与确定在客服回复、信息检索、自动对话等领域应用广泛。例如在信息检索时,通过对用户输入的检索文本中各个词语的重要性做出判断,并基于不同词语的重要性确定关键词,根据关键词进行检索,以得到更加符合用户检索需求的检索结果。
当前,通常采取有监督的序列标注方式对语句中词语的重要性做出分析,但该种方法仅对有较好上下文关联约束,且句长较短的语句分析结果较为准确,而对于上下文关联较小或者句长较长的文本的分析结果误差较大,导致该种方法的应用场景具有较大的限制。
发明内容
本公开实施例至少提供一种文本处理方法、装置、计算机设备及存储介质。
第一方面,本公开实施例提供了一种文本处理方法,包括:
获取待处理文本的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量;
通过注意力机制对所述特征句向量、以及所述多个字符分别对应的特征字向量进行处理,得到所述多个字符分别与所述特征句向量之间的相关度信息;
基于所述多个字符分别与所述特征句向量之间的相关度信息,得到所述多个字符分别对应的重要性程度信息。
在一种可选的实施方式中,所述获取待处理文本的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量,包括:
获取待处理文本;其中,所述待处理文本包括多个字符;
基于所述待处理文本,确定所述待处理文本对应的句向量,以及基于所述待处理文本中的多个字符,确定所述多个字符分别对应的字向量;
对所述句向量、及所述多个字符分别对应的字向量进行联合特征提取,得到所述待处理文本对应的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量。
在一种可选的实施方式中,所述对所述句向量、及所述多个字符分别对应的字向量进行联合特征提取,包括:
利用预先训练的神经网络,对所述句向量、及所述多个字符分别对应的字向量进行联合特征提取,得到所述待处理文本对应的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量。
在一种可选的实施方式中,所述通过注意力机制对所述特征句向量、以及所述多个字符分别对应的特征字向量进行处理,得到所述多个字符分别与所述特征句向量之间的相关度信息,包括:
针对所述多个字符中的每个字符,确定所述每个字符对应的特征字向量、与所述特征句向量之间的距离;
基于所述距离,确定所述每个字符与所述特征句向量之间的相关度信息。
在一种可选的实施方式中,所述训练所述神经网络,包括:
获取样本文本;
利用待训练的神经网络,得到所述样本文本中的字符分别与所述样本文本的样本句向量之间的样本相关度信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京乐学帮网络技术有限公司,未经北京乐学帮网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011232565.4/2.html,转载请声明来源钻瓜专利网。