[发明专利]文本处理方法、装置、设备及存储介质在审
申请号: | 202110017491.0 | 申请日: | 2021-01-07 |
公开(公告)号: | CN113392180A | 公开(公告)日: | 2021-09-14 |
发明(设计)人: | 欧子菁;赵瑞辉;林民龙;苏勤亮 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/30;G10L15/22 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 祝亚男 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 方法 装置 设备 存储 介质 | ||
1.一种文本处理方法,其特征在于,所述方法包括:
获取目标文本;
获取所述目标文本的语义特征向量;
获取语义特征向量条件下目标特征向量的条件分布,所述条件分布基于目标特征向量的先验分布联合所述至少两个样本文本的语义特征向量训练得到,所述先验分布为基于所述至少两个样本文本之间的关联关系信息得到的目标特征向量的分布;
基于所述目标文本的语义特征向量,从所述条件分布中,确定所述语义特征向量对应的均值,将所述均值作为所述目标文本的目标特征向量,所述目标特征向量用于与其他文本确定相似度。
2.根据权利要求1所述的方法,其特征在于,所述语义特征向量条件下目标特征向量的条件分布基于下述过程得到:
获取至少两个样本文本和所述至少两个样本文本的语义特征向量;
基于所述至少两个样本文本之间的引用关系或所述至少样本两个文本之间的相似度,获取所述至少两个文本样本之间的关联关系信息;
基于所述至少两个样本文本之间的关联关系信息,获取目标特征向量的先验分布;
基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量,获取所述语义特征向量条件下目标特征向量的条件分布。
3.根据权利要求2所述的方法,其特征在于,所述基于所述至少两个样本文本之间的引用关系或所述至少两个样本文本之间的相似度,获取所述至少两个样本文本之间的关联关系信息,包括下述任一项:
获取所述至少两个样本文本之间的引用关系;基于所述引用关系,获取所述至少两个样本文本之间的关联关系信息;
获取所述至少两个样本文本的嵌入向量;基于所述至少两个样本文本的嵌入向量中任一位置上的嵌入向量与所述位置的上下文向量,确定所述至少两个样本文本的特征向量;对所述至少两个样本文本的特征向量进行对比,得到所述至少两个样本文本之间的相似度;基于所述相似度,获取所述至少两个样本文本之间的关联关系信息。
4.根据权利要求3所述的方法,其特征在于,所述至少两个样本文本之间的关联关系信息为关联矩阵;所述关联矩阵中的一个元素用于指示两个样本文本之间的关联关系信息;
所述获取所述至少两个样本文本之间的引用关系,包括:
响应于第一样本文本与第二样本文本之间存在引用关系,确定所述第一样本文本和所述第二样本文本之间的关联关系信息为非零数值;
响应于第一样本文本与第二样本文本之间不存在引用关系,确定所述第一样本文本和所述第二样本文本之间的关联关系信息为0。
5.根据权利要求2所述的方法,其特征在于,所述基于目标特征向量的先验分布和所述至少两个样本文本的语义特征向量,获取所述语义特征向量条件下目标特征向量的条件分布,包括:
基于所述目标特征向量的先验分布,获取第一初始条件分布和第二初始条件分布,所述第一初始条件分布为语义特征向量条件下目标特征向量的条件分布,所述第二初始条件分布为目标特征向量条件下语义特征向量的条件分布;
基于所述至少两个样本文本的语义特征向量,从所述第一初始条件分布,确定所述语义特征向量对应的均值、协方差;
从所述第一初始条件分布中采样得到所述语义特征向量对应的候选目标特征向量;
基于所述候选目标特征向量、所述均值和所述协方差,从所述第二初始条件分布中采样得到所述候选目标特征向量对应的重构语义特征向量;
基于所述语义特征向量、所述重构语义特征向量、所述候选目标特征向量以及所述先验分布,对所述第一初始条件分布和所述第二初始条件分布进行更新,直至符合目标条件时停止,得到第一条件分布和第二条件分布,所述第一条件分布为所述语义特征向量条件下目标特征向量的条件分布。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110017491.0/1.html,转载请声明来源钻瓜专利网。