[发明专利]一种文本处理方法、装置、计算机设备及存储介质在审
申请号: | 202011232565.4 | 申请日: | 2020-11-06 |
公开(公告)号: | CN112347790A | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 马东民;邱学侃 | 申请(专利权)人: | 北京乐学帮网络技术有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/289;G06N3/04;G06N3/08 |
代理公司: | 北京中知恒瑞知识产权代理事务所(普通合伙) 11889 | 代理人: | 谢玲 |
地址: | 100094 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 处理 方法 装置 计算机 设备 存储 介质 | ||
1.一种文本处理方法,其特征在于,包括:
获取待处理文本的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量;
通过注意力机制对所述特征句向量、以及所述多个字符分别对应的特征字向量进行处理,得到所述多个字符分别与所述特征句向量之间的相关度信息;
基于所述多个字符分别与所述特征句向量之间的相关度信息,得到所述多个字符分别对应的重要性程度信息。
2.根据权利要求1所述的文本处理方法,其特征在于,所述获取待处理文本的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量,包括:
获取待处理文本;其中,所述待处理文本包括多个字符;
基于所述待处理文本,确定所述待处理文本对应的句向量,以及基于所述待处理文本中的多个字符,确定所述多个字符分别对应的字向量;
对所述句向量、及所述多个字符分别对应的字向量进行联合特征提取,得到所述待处理文本对应的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量。
3.根据权利要求2所述的文本处理方法,其特征在于,所述对所述句向量、及所述多个字符分别对应的字向量进行联合特征提取,包括:
利用预先训练的神经网络,对所述句向量、及所述多个字符分别对应的字向量进行联合特征提取,得到所述待处理文本对应的特征句向量、及所述待处理文本中多个字符分别对应的特征字向量。
4.根据权利要求1所述的文本处理方法,其特征在于,所述通过注意力机制对所述特征句向量、以及所述多个字符分别对应的特征字向量进行处理,得到所述多个字符分别与所述特征句向量之间的相关度信息,包括:
针对所述多个字符中的每个字符,确定所述每个字符对应的特征字向量、与所述特征句向量之间的距离;
基于所述距离,确定所述每个字符与所述特征句向量之间的相关度信息。
5.根据权利要求3所述的文本处理方法,其特征在于,所述训练所述神经网络,包括:
获取样本文本;
利用待训练的神经网络,得到所述样本文本中的字符分别与所述样本文本的样本句向量之间的样本相关度信息;
基于所述样本相关度信息,确定所述待训练的神经网络的损失,并基于所述损失,对所述待训练的神经网络进行训练;
经过对所述待训练的神经网络的多轮训练,得到所述神经网络。
6.根据权利要求1-5任一项所述的文本处理方法,其特征在于,所述基于所述多个字符分别与所述特征句向量之间的相关度信息,得到所述多个字符分别对应的重要性程度信息,包括:
对所述多个字符分别与所述特征句向量之间的相关度信息进行归一化处理,得到所述多个字符分别对应的重要性程度信息。
7.根据权利要求1-5任一项所述的文本处理方法,其特征在于,所述基于所述多个字符分别与所述特征句向量之间的相关度信息,得到所述多个字符分别对应的重要性程度信息,包括:
基于所述多个字符分别与所述特征句向量之间的相关度信息、及所述多个字符分别对应的字向量,确定表征所述待处理文本语义的目标句向量;
基于所述目标句向量、以及所述多个字符分别对应的字向量,确定所述多个字符分别对应的重要性程度信息。
8.根据权利要求7所述的文本处理方法,其特征在于,所述基于所述多个字符分别与所述特征句向量之间的相关度信息、及所述多个字符分别对应的字向量,确定表征所述待处理文本语义的目标句向量,包括:
针对所述多个字符中的每个字符,基于所述每个字符与所述特征句向量之间的相关度信息,确定所述每个字符对应的中间字向量;
对所述多个字符分别对应的中间字向量进行求和,得到所述目标句向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京乐学帮网络技术有限公司,未经北京乐学帮网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011232565.4/1.html,转载请声明来源钻瓜专利网。