[发明专利]文本相似度的处理方法、装置、设备和计算机存储介质有效

专利信息
申请号: 201710841945.X 申请日: 2017-09-18
公开(公告)号: CN107729300B 公开(公告)日: 2021-12-24
发明(设计)人: 范淼;李传勇;孙明明;施鹏;冯悦;李平 申请(专利权)人: 百度在线网络技术(北京)有限公司
主分类号: G06F40/194 分类号: G06F40/194
代理公司: 北京鸿德海业知识产权代理有限公司 11412 代理人: 袁媛
地址: 100085 北京*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 文本 相似 处理 方法 装置 设备 计算机 存储 介质
【权利要求书】:

1.一种文本相似度的处理方法,其特征在于,所述方法包括:

获取由多种相似度确定方法得到的文本对的相似度确定结果,所述文本对的相似度确定结果包括文本对的相似度特征向量与相似度得分;

将所述文本对的相似度确定结果进行拼接,得到拼接特征;

将所述拼接特征作为相似度确定模型的输入,根据所述相似度确定模型的输出得到所述文本对的文本相似度;

其中,所述相似度确定模型是预先训练得到的;

所述将所述文本对的相似度确定结果进行拼接,得到拼接特征包括:

对所述相似度特征向量进行随机采样,得到采样特征向量;

将所述采样特征向量与所述相似度得分进行拼接,得到所述拼接特征;

所述相似度确定模型是采用如下方式预先训练得到的:

获取由多种相似度确定方法得到的已标注相似度的文本对的相似度确定结果;

将所述各文本对的相似度确定结果进行拼接,得到各文本对的拼接特征;

将所述各文本对的拼接特征与所述各文本对的标注相似度作为训练样本,训练分类模型,以得到相似度确定模型。

2.根据权利要求1所述的方法,其特征在于,所述分类模型的训练目标为最小化所述分类模型的损失值;

在所述训练分类模型的过程中,利用所述损失值对所述分类模型进行参数调整。

3.根据权利要求2所述的方法,其特征在于,所述损失值为所述分类模型输出的文本对的文本相似度与所述文本对的标注相似度之间的误差。

4.根据权利要求1所述的方法,其特征在于,所述对所述相似度特征向量进行随机采样,得到采样特征向量包括:

按照预设概率对所述相似度特征向量中的特征值进行随机采样,并将所述相似度特征向量中未被采样的特征值设置为0,得到采样特征向量。

5.根据权利要求1所述的方法,其特征在于,所述相似度确定模型为基于神经网络的分类模型。

6.一种文本相似度的处理装置,其特征在于,所述装置包括:

获取单元,用于获取由多种相似度确定方法得到的文本对的相似度确定结果,所述文本对的相似度确定结果包括文本对的相似度特征向量与相似度得分;

拼接单元,用于将所述文本对的相似度确定结果进行拼接,得到拼接特征;

处理单元,用于将所述拼接特征作为相似度确定模型的输入,根据所述相似度确定模型的输出得到所述文本对的文本相似度;

其中,所述相似度确定模型是预先训练得到的;

所述拼接单元在将所述文本对的相似度确定结果进行拼接,得到拼接特征时,具体执行:

对所述相似度特征向量进行随机采样,得到采样特征向量;

将所述采样特征向量与所述相似度得分进行拼接,得到所述拼接特征;

训练单元,用于采用如下方式预先训练得到所述相似度确定模型:

获取由多种相似度确定方法得到的已标注相似度的文本对的相似度确定结果;

将所述各文本对的相似度确定结果进行拼接,得到各文本对的拼接特征;

将所述各文本对的拼接特征与所述各文本对的标注相似度作为训练样本,训练分类模型,以得到相似度确定模型。

7.根据权利要求6所述的装置,其特征在于,所述分类模型的训练目标为最小化所述分类模型的损失值;

在所述训练分类模型的过程中,利用所述损失值对所述分类模型进行参数调整。

8.根据权利要求7所述的装置,其特征在于,所述损失值为所述分类模型输出的文本对的文本相似度与所述文本对的标注相似度之间的误差。

9.根据权利要求6所述的装置,其特征在于,所述拼接单元对所述相似度特征向量进行随机采样,得到采样特征向量时具体执行:

按照预设概率对所述相似度特征向量中的特征值进行随机采样,并将所述相似度特征向量中未被采样的特征值设置为0,得到采样特征向量。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710841945.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top