[发明专利]长文本语义相似度匹配方法、装置、电子设备及存储介质在审
申请号: | 202011042061.6 | 申请日: | 2020-09-28 |
公开(公告)号: | CN112183111A | 公开(公告)日: | 2021-01-05 |
发明(设计)人: | 徐晨兴;张雷 | 申请(专利权)人: | 亚信科技(中国)有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/194;G06F40/211;G06F40/284;G06F40/295 |
代理公司: | 北京市立方律师事务所 11330 | 代理人: | 张筱宁 |
地址: | 100193 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 语义 相似 匹配 方法 装置 电子设备 存储 介质 | ||
1.一种长文本语义相似度匹配方法,其特征在于,所述方法包括:
分别对长文本和基准文本进行预处理,以得到长文本的多个句子分别对应的多个第一词向量和基准文本的一个句子对应的多个第二词向量,所述长文本包括多个句子,所述基准文本包括一个句子;
分别对所述多个第一词向量和所述多个第二词向量进行池化处理,以得到所述长文本的多个句子分别对应的多个第一语义向量,以及所述第二文本的一个句子对应的一个第二语义向量;
将所述多个第一语义向量输入预设的实体识别模型,以确定所述长文本包括的段落的段落类型;
根据所述段落类型确定每个段落中的第一语义向量对应的权重;
基于所述第一语义向量、所述第一语义向量对应的权重以及第二语义向量,计算得到所述长文本相对所述基准文本的相似度。
2.根据权利要求1所述的长文本语义相似度匹配方法,其特征在于,所述实体识别模型,包括以下任一种模型:
长短时记忆LSTM-条件随机场CRF模型;或
双向长短时记忆BiLSTM-条件随机场CRF模型。
3.根据权利要求1所述的长文本语义相似度匹配方法,其特征在于,所述根据所述段落类型确定每个段落中的第一语义向量对应的权重,包括:
根据预设的类型权重对应表和所述段落类型确定每个段落中的第一语义向量对应的权重,所述类型权重对应表包括所述段落类型与权重的映射关系。
4.根据权利要求1所述的长文本语义相似度匹配方法,其特征在于,依据下式,基于所述第一语义向量、所述第一语义向量对应的权重以及第二语义向量,计算得到所述长文本相对所述基准文本的相似度:
其中,所述N为所述基准文本的第二语义向量,所述M为所述长文本的多个第一语义向量,所述L为所述长文本的句子数量,所述mi为所述长文本中的第i个句子的第一语义向量,所述λmi为所述长文本中的第i个句子的第一语义向量对应的权重;
其中,基于下式计算cosN,m,
其中,k为向量的维度,所述Nj为所述第二语义向量的在第j维度的投影向量,所述mj为所述第一语义向量在所述第j维度的投影向量。
5.根据权利要求1所述的长文本语义相似度匹配方法,其特征在于,所述分别对所述多个第一词向量和所述多个第二词向量进行池化处理,包括:
通过最大池化层或平均池化层分别对所述多个第一词向量和所述多个第二词向量进行池化处理。
6.根据权利要求1所述的长文本语义相似度匹配方法,其特征在于,所述分别对长文本和基准文本进行预处理,以得到长文本的多个句子分别对应的多个第一词向量和基准文本的一个句子对应的多个第二词向量,包括:
通过预设的分词算法,分别对所述长文本和所述基准文本进行分词处理,以得到所述长文本对应的多个第一分词和所述基准文本对应的多个第二分词;
通过预设的向量化模型,分别对所述第一分词和第二分词进行向量化处理,以得到长文本的多个句子分别对应的多个第一词向量和基准文本的一个句子对应的多个第二词向量。
7.根据权利要求6所述的长文本语义相似度匹配方法,其特征在于,所述分词算法包括结巴分词算法,所述向量化模型包括Word2vec模型、Glove模型或Bert模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于亚信科技(中国)有限公司,未经亚信科技(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011042061.6/1.html,转载请声明来源钻瓜专利网。