[发明专利]一种实体词处理方法和装置有效
申请号: | 201710828725.3 | 申请日: | 2017-09-14 |
公开(公告)号: | CN107577667B | 公开(公告)日: | 2020-10-27 |
发明(设计)人: | 王天畅 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06K9/62 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 实体词 处理 方法 装置 | ||
1.一种实体词处理方法,其特征在于,所述方法包括:
针对预设第一时间段内的多条第一日志,提取所述第一日志中的查询字段作为候选文本,得到多个候选文本;
对所述多个候选文本进行筛选,得到至少一个目标文本;
提取查询字段为所述目标文本的第一日志的点击链接作为关联点击链接,得到与所述至少一个目标文本对应的至少一个关联点击链接;所述关联点击链接是用户以所述目标文本作为查询内容进行查询时所点击的链接;
针对预设第二时间段内的多条第二日志,将包含所述关联点击链接的第二日志对应的查询字段确定为所述目标文本的关联文本,得到至少一个关联文本;其中,所述预设第二时间段包括所述预设第一时间段,所述多条第二日志包括所述多条第一日志;
根据所述至少一个目标文本以及所述至少一个关联文本确定实体词;
其中,所述根据所述至少一个目标文本以及所述至少一个关联文本确定实体词的步骤,包括:
对于所述至少一个目标文本中的每一个目标文本,执行以下处理:
对所述目标文本进行分词处理,得到对应的多个目标分词,并将所述多个目标分词中每两个相邻的目标分词组合,得到多个目标词对;
对所述目标文本对应的多个关联文本进行分词处理,得到多个关联分词;
对于所述多个目标词对中的每个目标词对,统计所述目标词对中各个目标分词在所述多个关联分词中出现的频次;
根据所述目标词对中各个目标分词的频次计算所述目标词对的熵值;
根据所述目标文本对应的多个目标词对的熵值确定实体词。
2.根据权利要求1所述的方法,其特征在于,所述对所述多个候选文本进行筛选,得到至少一个目标文本的步骤,包括:
将多个候选文本中出现次数小于预设搜索次数阈值的候选文本去除,得到至少一个第一候选文本;
对于所述至少一个第一候选文本中的每个第一候选文本进行分词处理,统计每个第一候选文本对应的分词数;
将对应的分词数不大于1的第一候选文本去除,得到至少一个第二候选文本;
利用预设的格式模板匹配每个第二候选文本,将与所述预设的格式模板不匹配的第二候选文本作为目标文本,得到至少一个目标文本。
3.根据权利要求1所述的方法,其特征在于,所述根据所述目标词对中各个目标分词的频次计算所述目标词对的熵值的步骤,包括:
将第一目标分词的频次除以第一目标分词的频次与第二目标分词的频次之和的值,作为第一熵参数;
将第二目标分词的频次除以第一目标分词的频次与第二目标分词的频次之和的值,作为第二熵参数;
将所述第一熵参数和所述第二熵参数代入预设的熵值计算公式中,得到目标词对的熵值。
4.根据权利要求3所述的方法,其特征在于,所述根据所述目标文本对应的多个目标词对的熵值确定实体词的步骤,包括:
当目标文本对应的多个目标词对中熵值大于预设熵阈值的目标词对的个数等于1时,则将熵值大于预设熵阈值的目标词对确定为实体词;
当目标文本对应的多个目标词对中熵值大于预设熵阈值的目标词对的个数大于1时,确定熵值大于预设熵阈值的目标词对之间是否存在重叠分词;
若所述熵值大于预设熵阈值的目标词对之间存在重叠分词,则将存在重叠分词的目标词对组合为实体词;
若所述熵值大于预设熵阈值的目标词对之间不存在重叠分词,则将各个熵值大于预设熵阈值的目标词对分别确定为实体词。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710828725.3/1.html,转载请声明来源钻瓜专利网。