[发明专利]文本相似度的处理方法、装置、设备和计算机存储介质有效
申请号: | 201710841945.X | 申请日: | 2017-09-18 |
公开(公告)号: | CN107729300B | 公开(公告)日: | 2021-12-24 |
发明(设计)人: | 范淼;李传勇;孙明明;施鹏;冯悦;李平 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F40/194 | 分类号: | G06F40/194 |
代理公司: | 北京鸿德海业知识产权代理有限公司 11412 | 代理人: | 袁媛 |
地址: | 100085 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 相似 处理 方法 装置 设备 计算机 存储 介质 | ||
1.一种文本相似度的处理方法,其特征在于,所述方法包括:
获取由多种相似度确定方法得到的文本对的相似度确定结果,所述文本对的相似度确定结果包括文本对的相似度特征向量与相似度得分;
将所述文本对的相似度确定结果进行拼接,得到拼接特征;
将所述拼接特征作为相似度确定模型的输入,根据所述相似度确定模型的输出得到所述文本对的文本相似度;
其中,所述相似度确定模型是预先训练得到的;
所述将所述文本对的相似度确定结果进行拼接,得到拼接特征包括:
对所述相似度特征向量进行随机采样,得到采样特征向量;
将所述采样特征向量与所述相似度得分进行拼接,得到所述拼接特征;
所述相似度确定模型是采用如下方式预先训练得到的:
获取由多种相似度确定方法得到的已标注相似度的文本对的相似度确定结果;
将所述各文本对的相似度确定结果进行拼接,得到各文本对的拼接特征;
将所述各文本对的拼接特征与所述各文本对的标注相似度作为训练样本,训练分类模型,以得到相似度确定模型。
2.根据权利要求1所述的方法,其特征在于,所述分类模型的训练目标为最小化所述分类模型的损失值;
在所述训练分类模型的过程中,利用所述损失值对所述分类模型进行参数调整。
3.根据权利要求2所述的方法,其特征在于,所述损失值为所述分类模型输出的文本对的文本相似度与所述文本对的标注相似度之间的误差。
4.根据权利要求1所述的方法,其特征在于,所述对所述相似度特征向量进行随机采样,得到采样特征向量包括:
按照预设概率对所述相似度特征向量中的特征值进行随机采样,并将所述相似度特征向量中未被采样的特征值设置为0,得到采样特征向量。
5.根据权利要求1所述的方法,其特征在于,所述相似度确定模型为基于神经网络的分类模型。
6.一种文本相似度的处理装置,其特征在于,所述装置包括:
获取单元,用于获取由多种相似度确定方法得到的文本对的相似度确定结果,所述文本对的相似度确定结果包括文本对的相似度特征向量与相似度得分;
拼接单元,用于将所述文本对的相似度确定结果进行拼接,得到拼接特征;
处理单元,用于将所述拼接特征作为相似度确定模型的输入,根据所述相似度确定模型的输出得到所述文本对的文本相似度;
其中,所述相似度确定模型是预先训练得到的;
所述拼接单元在将所述文本对的相似度确定结果进行拼接,得到拼接特征时,具体执行:
对所述相似度特征向量进行随机采样,得到采样特征向量;
将所述采样特征向量与所述相似度得分进行拼接,得到所述拼接特征;
训练单元,用于采用如下方式预先训练得到所述相似度确定模型:
获取由多种相似度确定方法得到的已标注相似度的文本对的相似度确定结果;
将所述各文本对的相似度确定结果进行拼接,得到各文本对的拼接特征;
将所述各文本对的拼接特征与所述各文本对的标注相似度作为训练样本,训练分类模型,以得到相似度确定模型。
7.根据权利要求6所述的装置,其特征在于,所述分类模型的训练目标为最小化所述分类模型的损失值;
在所述训练分类模型的过程中,利用所述损失值对所述分类模型进行参数调整。
8.根据权利要求7所述的装置,其特征在于,所述损失值为所述分类模型输出的文本对的文本相似度与所述文本对的标注相似度之间的误差。
9.根据权利要求6所述的装置,其特征在于,所述拼接单元对所述相似度特征向量进行随机采样,得到采样特征向量时具体执行:
按照预设概率对所述相似度特征向量中的特征值进行随机采样,并将所述相似度特征向量中未被采样的特征值设置为0,得到采样特征向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710841945.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种拼单系统及方法
- 下一篇:经济共享租售管理平台