[发明专利]词库的生成以及利用词库的文档分类方法及装置有效

专利信息
申请号: 201610048630.5 申请日: 2016-01-25
公开(公告)号: CN106997340B 公开(公告)日: 2020-07-31
发明(设计)人: 肖汉平;刘健鹏;沈栋 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06F40/216 分类号: G06F40/216;G06F16/35;G06F16/953
代理公司: 北京晋德允升知识产权代理有限公司 11623 代理人: 杨移
地址: 英属开曼群岛大开*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 词库 生成 以及 利用 文档 分类 方法 装置
【权利要求书】:

1.一种词库的生成方法,其特征在于,所述词库用于将目标网络交互平台中的文档分类到指定网络交互平台,所述目标网络交互平台为资源被整合的平台,包括:

获取指定网络交互平台中指定等级的各分类类目下的各文档的标题信息,其中,所述指定网络交互平台是接收整合资源的平台,所述指定等级的各分类类目具体包括各一级类目和/或各叶子类目;

通过各所述文档的标题信息,确定所述文档的标题对应的各实体词,所述实体词用于描述实体事物,所述实体词是通过对各所述文档的标题进行归一化处理,对归一化处理后的各所述文档的标题进行切词处理以及实体词识别获得的,所述归一化处理包括字母大小写转换、繁体和简体转换以及时态转换中的至少一种;根据所述实体词,确定各所述分类类目分别对应的各关键词以及各所述关键词在对应分类类目下的权重分,所述权重分用于评估在将关键词所在分类类目与所述分类类目之外的其它分类类目进行区分时的区分度,所述关键词指所述关键词对应的分类类目下根据预定规则的指定词;

根据各所述分类类目、各所述分类类目分别对应的各所述关键词以及各所述关键词的所述权重分生成词库。

2.如权利要求1所述方法,其特征在于,关键词在对应分类类目下的权重分通过如下方法确定:

确定所述关键词在对应的分类类目中的词频;

通过各所述分类类目下的各文档的标题中包含所述关键词的文档数以及各所述分类类目下文档的总数,确定所述关键词的反文档频率;

通过所述关键词在对应的分类类目中的词频以及所述关键词的所述反文档频率确定所述关键词在对应分类类目下的权重分。

3.如权利要求1所述方法,其特征在于,所述通过各所述文档的标题信息,确定所述文档的标题对应的各实体词,所述实体词用于描述实体事物;根据所述实体词,确定各所述分类类目分别对应的各关键词具体包括:

对各所述文档的标题进行归一化处理;

对归一化处理后的各所述文档的标题进行切词处理以及实体词识别,得到用于描述实体事物的实体词;

确定各所述分类类目分别对应的各实体词的词频,实体词的词频用于描述所述实体词在对应的所述分类类目中出现的次数或频率;

将各所述实体词分别作为当前实体词,判断所述当前实体词的词频是否大于预设阈值,若是,则将所述当前实体词确定为对应的分类类目的关键词。

4.如权利要求3所述方法,其特征在于,所述方法还包括,当当前分类类目对应的各实体词的词频均小于预设阈值时,将所述当前分类类目中词频最大的实体词确定为所述当前分类类目中的关键词,所述当前分类类目包括各所述分类类目中的任意一个分类类目。

5.如权利要求1所述方法,其特征在于,所述根据各所述分类类目、各所述分类类目分别对应的各所述关键词以及各所述关键词的所述权重分生成词库具体包括:

将各所述关键词分别作为当前关键词,根据所述当前关键词、所述当前关键词对应的分类类目以及所述当前关键词在对应分类类目下的权重分生成关联组;

根据各所述关联组生成词库。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201610048630.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top