[发明专利]一种从多类文本中提取关键词的方法在审
申请号: | 202010266133.9 | 申请日: | 2020-04-07 |
公开(公告)号: | CN111401056A | 公开(公告)日: | 2020-07-10 |
发明(设计)人: | 元方;唐小波 | 申请(专利权)人: | 上海创蓝文化传播有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284;G06N20/00 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 201613 上*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 提取 关键词 方法 | ||
1.一种从多类文本中提取关键词的方法,包括以下步骤:步骤一,文本按类收集;步骤二,关键词按类提取;步骤三,关键词合并;步骤四,关键词精选;其特征在于:
其中在上述步骤一中,将相同类型的文档放到一个集合中,各个类别的文本集合记为D1,D2,D3等;
其中在上述步骤二中,利用关键词提取器提取每个类别下所有文档的关键词,关键词提取器可以利用上述机器学习方法实现,也可以利用上述统计学方法实现,此步骤不为本发明重点介绍内容,此次发明暂使用textrank与tfidf等多模型融合实现的关键词提取器,每个类别的候选关键词集合用s1,s2,s3...表示;
其中在上述步骤三中,此时通过关键词提取器内部的set(key1,key2...)集合中的add()方法将每个文档的候选关键词进行合并,然后通过set()集合的编程算法对候选关键词进行去重操作,将重复的候选关键词进行删除,此时剔除的词一般都为文本集中停用词,而停用词是在自然语言处理中为无作用词,而且会消耗过多的内存占用,特别在机器学习模型中表现为冗余,当单独分析一类文本时,停用词还会引入很多干扰信息;具体类别的文本中的关键词,只应该出现在该类的文本中;反之,如果某类文本的关键词,又出现在其他类的文本中,则该词跟多个主题相关联,这种情况是相矛盾的;要精准的找出每个类别文本中,与该类强相关的词,就不应该出现在其他类的文章,保证每个词只出现一次,这样生成的集合为全文档的候选关键词集合,用S表示;
其中在上述步骤四中,通过关键词提取器将每个类别中候选关键词集s与全文档候选关键词集S进行求差集,此差集即为该类的精准关键词,这样就完成了对关键词的精度筛选。
2.根据权利要求1所述的一种从多类文本中提取关键词的方法,其特征在于:所述步骤一中,将相同类型的文档放到一个文件中去。
3.根据权利要求1所述的一种从多类文本中提取关键词的方法,其特征在于:所述步骤二中,分别从每个类的全部文档集合中提取类别的候选关键词。
4.根据权利要求1所述的一种从多类文本中提取关键词的方法,其特征在于:所述步骤三中,合并各个类别的所有关键词,成为全集合文本的候选关键词。
5.根据权利要求1所述的一种从多类文本中提取关键词的方法,其特征在于:所述步骤四中,利用类别的候选关键词与全集合文本的候选关键词求差集,此差集为精确提取类关键词。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海创蓝文化传播有限公司,未经上海创蓝文化传播有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010266133.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:皮带传动的摆板式波浪能发电装置
- 下一篇:大气污染监测系统的数据校准系统