[发明专利]基于共现词的检索方法、装置、设备及可读存储介质在审
申请号: | 201910191570.6 | 申请日: | 2019-03-13 |
公开(公告)号: | CN110032675A | 公开(公告)日: | 2019-07-19 |
发明(设计)人: | 朱世新;田磊;王海君;李山亭;钟亮;韦柏松;王婉君 | 申请(专利权)人: | 平安城市建设科技(深圳)有限公司 |
主分类号: | G06F16/9532 | 分类号: | G06F16/9532;G06F16/332;G06F17/27 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 词组 检索 检索词 可读存储介质 分词 语料 搜索 文本 人工智能 分词处理 搜索效率 预设算法 相似词 匹配 存储 覆盖 | ||
1.一种基于共现词的检索方法,其特征在于,所述基于共现词的检索方法包括以下步骤:
爬取多个文本语料,并对各所述文本语料进行分词处理,生成多个分词;
根据各所述分词确定多个常用词,基于预设算法计算与各所述常用词对应的共现词,并将各所述常用词及对应共现词建立常用词组,形成词典存储;
当接收到检索词时,将所述检索词和所述词典中的各所述常用词组对比,确定目标常用词组,并以所述目标常用词组进行检索。
2.如权利要求1所述的基于共现词的检索方法,其特征在于,所述基于预设算法计算与各所述常用词对应的共现词的步骤包括:
基于预设算法计算各所述常用词的词向量,并逐个读取所述常用词,将当前读取的所述常用词作为目标常用词;
针对每个所述目标常用词执行以下步骤:
将所述目标常用词的词向量与各所述常用词中除所述目标常用词之外的其他常用词的词向量进行余弦计算,生成所述目标常用词与各所述其他常用词之间的余弦值;
对各所述余弦值进行排序,确定排列在前预设位的目标余弦值,并将生成各所述目标余弦值的其他常用词确定为与所述目标常用词对应的共现词。
3.如权利要求2所述的基于共现词的检索方法,其特征在于,所述生成所述目标常用词与各所述其他常用词之间的余弦值的步骤包括:
将所述目标常用词的词向量和各所述其他常用词的词向量分别传输到预设公式中,并根据所述预设公式,生成所述目标常用词与各所述其他常用词之间的余弦值;
其中,所述预设公式为:Yi表示各所述余弦值,A表示所述目标常用词的词向量,xi表示各所述其他常用词的词向量,cos表示余弦函数。
4.如权利要求1所述的基于共现词的检索方法,其特征在于,所述将所述检索词和所述词典中的各所述常用词组对比,确定目标常用词组的步骤包括:
将所述检索词和所述词典中的各所述常用词组对比,判断各所述常用词组中是否存在任意所述常用词组中具有所述检索词;
若存在任意所述常用词组中具有所述检索词,则将具有所述检索词的常用词组确定为目标常用词组。
5.如权利要求4所述的基于共现词的检索方法,其特征在于,所述判断各所述常用词组中是否存在任意所述常用词组中具有所述检索词的步骤之后包括:
若各所述常用词组中均不具有所述检索词,则对各所述检索词进行分词处理,生成各个检索分词;
将所述词典中各所述常用词组形成词序列,将各所述检索分词分别和所述词序列对比,生成句子向量;
根据所述所述句子向量,确定目标语句,并将所述目标语句设为目标常用词组。
6.如权利要求1-5任一项所述的基于共现词的检索方法,其特征在于,所述根据各所述分词确定多个常用词的步骤包括:
对各所述分词在各所述文本语料中的出现次数进行统计,生成各所述分词的分词数量;
将各所述分词数量和预设阈值对比,确定目标分词数量,并将生成各所述目标分词数量的分词确定为常用词。
7.如权利要求6所述的基于共现词的检索方法,其特征在于,所述对各所述文本语料进行分词处理,生成多个分词的步骤包括:
对各所述文本语料基于预设符进行分句处理,生成多个语句,并对各所述语句进行分词处理,生成待筛选分词;
将各所述待筛选分词和预设停用词对比,对各所述待筛选分词中的预设停用词进行删除,生成多个分词。
8.一种基于共现词的检索装置,其特征在于,所述基于共现词的检索装置包括:
分词模块,用于爬取多个文本语料,并对各所述文本语料进行分词处理,生成多个分词;
计算模块,用于根据各所述分词确定多个常用词,基于预设算法计算与各所述常用词对应的共现词,并将各所述常用词及对应共现词建立常用词组,形成词典存储;
检索模块,用于当接收到检索词时,将所述检索词和所述词典中的各所述常用词组对比,确定目标常用词组,并以所述目标常用词组进行检索。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安城市建设科技(深圳)有限公司,未经平安城市建设科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910191570.6/1.html,转载请声明来源钻瓜专利网。