[发明专利]基于种子词的微博文本层次主题发现方法及系统有效
申请号: | 201410193725.7 | 申请日: | 2014-05-08 |
公开(公告)号: | CN103970865B | 公开(公告)日: | 2017-04-19 |
发明(设计)人: | 徐华;王玮 | 申请(专利权)人: | 清华大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙)11201 | 代理人: | 张大威 |
地址: | 100084 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 种子 文本 层次 主题 发现 方法 系统 | ||
1.一种基于种子词的微博文本层次主题发现方法,其特征在于,包括以下步骤:
从互联网上获取数据信息,其中,所述数据信息包括微博文本;
对所述微博文本进行分析以获取种子词簇,并将所述种子词簇作为先验知识;
对所述微博文本进行层次主题聚类以生成层次主题模型;以及
将所述先验知识集成至所述层次主题模型中以对所述微博文本层次主题进行发现,其中,所述将所述先验知识集成至所述层次主题模型,可通过如下公式实现:
p(cd|w,c-d,z,η,γ)∝(η'δ(wd,cd)+1-η')p(cd|cd,γ)p(wd|c,w-d,z,η),
其中,δ(wd,cd)为一个指示器函数,用于表示当前路径上的节点和文档之间的关系,η'为松弛变量,cd表示当前文档所采样的路径,w表示当前文档的单词集合,z表示当前文档选择的主题集合,η和γ为超参数,负号表示排除当前的文档,wd表示第d篇文档的单词集合。
2.根据权利要求1所述的基于种子词的微博文本层次主题发现方法,其特征在于,通过网络爬虫从互联网获取数据信息。
3.根据权利要求1所述的基于种子词的微博文本层次主题发现方法,其特征在于,所述对所述微博文本进行分析以获取种子词簇,进一步包括:
按照预定规则从所述微博文本中抽取名词或名词短语;
通过定义规则对所述名词或名词短语进行剪枝去噪处理以得到与所述微博文本相关的名词或名词短语,并将与所述微博文本相关的名词或名词短语作为种子词;
根据相似程度将高度相关的种子词进行合并,以得到种子词簇,并将所述种子词簇作为先验知识。
4.根据权利要求1-3任一项所述的基于种子词的微博文本层次主题发现方法,其特征在于,所述层次主题模型为变参的模型。
5.一种基于种子词的微博文本层次主题发现系统,其特征在于,包括:
用户界面模块,所述用户界面模块用于为用户提供图形化的操作界面,以使用户浏览所需的微博文本层次主题分析结果;
数据库接口模块,所述数据库接口模块用于为所述发现系统提供数据库读写接口;
功能模块,所述功能模块包括:
数据信息获取子模块,所述数据信息获取子模块用于从互联网上获取数据信息,其中,所述数据信息包括微博文本;
先验知识获取子模块,所述先验知识获取子模块用于对所述微博文本进行分析以获取种子词簇,并将所述种子词簇作为先验知识;
主题模型子模块,所述主题模型子模块用于对所述微博文本进行层次主题聚类以生成层次主题模型;
集成子模块,所述集成子模块用于将所述先验知识集成至所述层次主题模型中以对所述微博文本的层次主题进行发现,其中,所述集成子模块将所述先验知识集成至所述层次主题模型,可通过如下公式实现:
p(cd|w,c-d,z,η,γ)∝(η'δ(wd,cd)+1-η')p(cd|cd,γ)p(wd|c,w-d,z,η),
其中,δ(wd,cd)为一个指示器函数,用于表示当前路径上的节点和文档之间的关系,η'为松弛变量,cd表示当前文档所采样的路径,w表示当前文档的单词集合,z表示当前文档选择的主题集合,η和γ为超参数,负号表示排除当前的文档,wd表示第d篇文档的单词集合。
6.根据权利要求5所述的基于种子词的微博文本层次主题发现系统,其特征在于,所述数据信息获取子模块通过网络爬虫从互联网获取数据信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410193725.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于光传播的轮压监测系统
- 下一篇:泄气保用轮胎