[发明专利]用于确定文本的关键词的方法和装置有效
| 申请号: | 201811074996.5 | 申请日: | 2018-09-14 |
| 公开(公告)号: | CN109325121B | 公开(公告)日: | 2021-04-02 |
| 发明(设计)人: | 邓江东 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/205;G06F40/279;G06F40/258 |
| 代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
| 地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 用于 确定 文本 关键词 方法 装置 | ||
本申请实施例公开了用于确定文本的关键词的方法和装置。该方法的一具体实施方式包括:获取目标文本集合和与目标文本集合对应的主题词;确定与主题词关联的至少一个第一关键词;对于目标文本集合中的目标文本,响应于确定该目标文本包含第一关键词,对该目标文本进行词性标注;基于词性标注结果,确定该目标文本中与所包含的第一关键词关联的目标关键词。该实施方式丰富了确定文本的关键词的方法。
技术领域
本申请实施例涉及计算机技术领域,具体涉及用于确定文本的关键词的方法和装置。
背景技术
为了了解用户对某类产品的看法,一般通过以下两种方式进行调查,进而得出结论。第一种,可以通过线下分发调查问卷或者线上发布调查问卷,然后,对用户返回的问卷进行统计,进而得到用户的观点。第二种,可以对来自某互联网平台的用户关于某类产品的评价进行统计,进而得到用户的观点。
发明内容
本申请实施例提出了用于确定文本的关键词方法和装置。
第一方面,本申请实施例提供了一种用于确定文本的关键词的方法,该方法包括:获取目标文本集合和与目标文本集合对应的主题词;确定与主题词关联的至少一个第一关键词;对于目标文本集合中的目标文本,响应于确定该目标文本包含第一关键词,对该目标文本进行词性标注;基于词性标注结果,确定该目标文本中与所包含的第一关键词关联的目标关键词。
在一些实施例中,目标文本集合通过如下步骤得到:获取第一文本集合;对于第一文本集合中的第一文本,将该第一文本输入至预先训练的分类模型,得到该第一文本的类别,其中,分类模型用于表征文本和文本的类别之间的对应关系,文本的类别包括目标类别;删除第一文本集合中属于目标类别的第一文本,得到目标文本集合。
在一些实施例中,分类模型包括奇数数目个分类器。
在一些实施例中,确定与主题词关联的至少一个第一关键词,包括:获取第二文本集合;对于第二文本集合中的第二文本,将该第二文本输入至预先训练的主题模型中,得到与该第二文本的主题关联的第二关键词集合,其中,主题模型用于表征文本和与文本的主题关联的关键词集合之间的对应关系;基于得到的至少一个第二关键词集合,确定与主题词关联的至少一个第一关键词。
在一些实施例中,主题模型通过如下步骤训练得到:获取样本文本集合;从样本文本集合中选取样本文本,以及执行如下训练步骤:将选取的样本文本输入至初始模型,得到与输入的样本文本的主题关联的关键词集合;基于得到的关键词集合,确定目标概率值;基于目标概率值和初始概率值,确定概率误差;基于概率误差,确定初始模型是否训练完成;响应于确定训练完成,将训练完成的初始模型确定为主题模型。
在一些实施例中,该方法还包括:响应于确定未训练完成,使用目标概率值作为初始概率值,从样本文本集合中选取未使用过的样本文本,继续执行训练步骤。
在一些实施例中,在确定与主题词关联的至少一个第一关键词之后,该方法还包括:获取第三文本;对第三文本进行切词,得到第三文本包含的词语;对于至少一个第一关键词中的第一关键词,确定该第一关键词与第三文本包含的词语的相似度;将相似度满足预设目标的词语确定为与该第一关键词关联的第三关键词;基于至少一个第一关键词和与至少一个第一关键词关联的第三关键词,生成第三关键词集合。
在一些实施例中,响应于确定该目标文本包含第一关键词,对该目标文本进行词性标注;基于词性标注结果,确定该目标文本中与所包含的第一关键词关联的目标关键词,包括:响应于确定该目标文本包含第三关键词集合中的第三关键词,对该目标文本进行词性标注;基于词性标注结果,确定该目标文本中与所包含的第三关键词关联的目标关键词。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811074996.5/2.html,转载请声明来源钻瓜专利网。





