[发明专利]一种区分主题的方法及装置有效
| 申请号: | 201610107373.8 | 申请日: | 2016-02-26 |
| 公开(公告)号: | CN107133226B | 公开(公告)日: | 2021-12-07 |
| 发明(设计)人: | 蔡宁;张凯;杨旭 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/36 |
| 代理公司: | 杭州君度专利代理事务所(特殊普通合伙) 33240 | 代理人: | 诸佩艳 |
| 地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 区分 主题 方法 装置 | ||
1.一种区分主题的方法,用于识别待训练数据属于已知主题还是新主题,其特征在于,所述区分主题的方法包括:
从已知主题对应的数据中抽取数据进行标注,将标注的数据与待训练数据合并成训练数据集;
对训练数据集进行聚类,聚类得到训练数据所属的主题;
根据标注的数据来区分聚类得到的主题是已知主题还是新主题;
其中,所述根据标注的数据来区分聚类得到的主题是已知主题还是新主题,包括:
如果一个已知主题的所有标注数据只出现在一个主题中,那么这个主题是已知主题;
如果一个主题中没有出现已知主题的标注数据,则该主题是新主题;
其中,所述对训练数据集进行聚类,所采用的聚类方法为LDA聚类方法,所述LDA聚类方法聚类的主题数目大于已知主题的数目。
2.根据权利要求1所述的区分主题的方法,其特征在于,所述从已知主题对应的数据中抽取数据进行标注,将标注的数据与待训练数据合并成训练数据集,包括:
所标注的标注数据少于待训练数据。
3.根据权利要求1所述的区分主题的方法,其特征在于,所述对训练数据集进行聚类,聚类得到训练数据所属的主题,还包括:
聚类出对应到每个主题下每一个关键词的概率。
4.根据权利要求3所述的区分主题的方法,其特征在于,所述根据标注的数据来区分聚类得到的主题是已知主题还是新主题,还包括:
根据每个聚类得到的主题对应的关键词,进一步判断聚类得到的主题是已知主题还是新主题。
5.一种区分主题的装置,用于识别待训练数据属于已知主题还是新主题,其特征在于,所述区分主题的装置包括:
数据抽取模块,用于从已知主题对应的数据中抽取数据进行标注,将标注的数据与待训练数据合并成训练数据集;
聚类模块,用于对训练数据集进行聚类,聚类得到训练数据所属的主题;
主题区分模块,用于根据标注的数据来区分聚类得到的主题是已知主题还是新主题;
其中,所述主题区分模块根据标注的数据来区分聚类得到的主题是已知主题还是新主题,执行如下操作:
如果一个已知主题的所有标注数据只出现在一个主题中,那么这个主题是已知主题;
如果一个主题中没有出现已知主题的标注数据,则该主题是新主题;
其中,所述对训练数据集进行聚类,所采用的聚类方法为LDA聚类方法,所述LDA聚类方法聚类的主题数目大于已知主题的数目。
6.根据权利要求5所述的区分主题的装置,其特征在于,所述数据抽取模块从已知主题对应的数据中抽取数据进行标注,将标注的数据与待训练数据合并成训练数据集,其中所标注的标注数据少于待训练数据。
7.根据权利要求5所述的区分主题的装置,其特征在于,所述聚类模块对训练数据集进行聚类,聚类得到训练数据所属的主题,还包括:
聚类出对应到每个主题下每一个关键词的概率。
8.根据权利要求7所述的区分主题的装置,其特征在于,所述主题区分模块根据标注的数据来区分聚类得到的主题是已知主题还是新主题,还执行如下步骤:
根据每个聚类得到的主题对应的关键词,进一步判断聚类得到的主题是已知主题还是新主题。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610107373.8/1.html,转载请声明来源钻瓜专利网。





