[发明专利]一种词关系挖掘方法和装置有效
申请号: | 201010003423.0 | 申请日: | 2010-01-13 |
公开(公告)号: | CN102129427A | 公开(公告)日: | 2011-07-20 |
发明(设计)人: | 田国刚;贾自艳 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F17/27 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 何文彬 |
地址: | 518000 广东省深*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 关系 挖掘 方法 装置 | ||
1.一种词关系挖掘方法,其特征在于,所述方法包括:
获取两个词条之间的候选关系、所述候选关系的频度以及所述词条的词频;
根据所述候选关系、所述频度及所述词频获取互信息的统计值和对数似然比的统计值;
根据所述互信息的统计值和所述对数似然比的统计值获取可信度归一值;
根据所述可信度归一值进行排序,将符合预设阈值的候选关系作为词关系输出。
2.如权利要求1所述的方法,其特征在于,所述获取两个词条之间的候选关系、所述候选关系的频度以及所述词条的词频,具体包括:
对语料库中的每一个问答文档的标题和答案分别进行分词处理,获取标题词条集合和答案词条集合;
将所述标题词条集合中的标题词条与答案词条集合中的答案词条进行词条间的配对,若两个词条不同,则配对成功,获取两个词条之间的候选关系;
在语料库中所有的问答文档中以标题词条和所述标题词条相应的答案词条为单位查找所述候选关系,将所述候选关系出现的次数作为所述候选关系的频度;
在所述语料库中所有的问答文档的标题中查找所述标题词条,将所述标题词条出现的次数作为所述标题词条的词频;
在所述语料库中所有的问答文档的答案中查找所述答案词条,将所述答案词条出现的次数作为所述答案词条的词频。
3.如权利要求2所述的方法,其特征在于,所述对语料库中的每一个问答文档的标题和答案分别进行分词处理,获取标题词条集合和答案词条集合的步骤之后,所述方法还包括:
对所述标题词条集合和所述答案词条集合中的词条进行过滤,分别获取过滤后的所述标题词条集合和所述答案词条集合。
4.如权利要求1所述的方法,其特征在于,所述获取两个词条之间的候选关系、所述候选关系的频度以及所述词条的词频,具体包括:
对语料库中的每一个文档的每一个句子进行分词处理,获取词条集合;
将所述词条集合中的词条进行配对,若两个词条不同,则配对成功,获取两个词条之间的候选关系;
在语料库的所有文档中以句子为单位查找所述候选关系,将所述候选关系出现的次数作为所述候选关系的频度;
在所述语料库的所有文档中查找所述词条,将所述词条出现的次数作为所述词条的词频。
5.如权利要求4所述的方法,其特征在于,所述对语料库中的每一个文档的每一个句子进行分词处理,获取词条集合的步骤之后,所述方法还包括:
对所述词条集合中的词条进行过滤,获取过滤后的词条集合。
6.如权利要求1所述的方法,其特征在于,根据所述互信息的统计值和所述对数似然比的统计值获取可信度归一值,具体包括:
根据所述互信息的统计值和所述对数似然比的统计值获取可信度值;
通过获取到的所述可信度值获取可信度归一值。
7.一种词关系挖掘装置,其特征在于,所述装置包括:
第一获取模块,用于获取两个词条之间的候选关系、所述候选关系的频度以及所述词条的词频;
第二获取模块,用于根据所述候选关系、所述频度及所述词频获取互信息的统计值和对数似然比的统计值;
第三获取模块,用于根据所述互信息的统计值和所述对数似然比的统计值获取可信度归一值;
输出模块,用于根据所述可信度归一值进行排序,将符合预设阈值的候选关系作为词关系输出。
8.如权利要求7所述的装置,其特征在于,所述第一获取模块,具体包括:
第一获取单元,用于对语料库中的每一个问答文档的标题和答案分别进行分词处理,获取标题词条集合和答案词条集合;
第二获取单元,用于将所述标题词条集合中的标题词条与答案词条集合中的答案词条进行词条间的配对,若两个词条不同,则配对成功,获取两个词条之间的候选关系;
第一查找单元,用于在语料库中所有的问答文档中以标题词条和所述标题词条相应的答案词条为单位查找所述候选关系,将所述候选关系出现的次数作为所述候选关系的频度;
第二查找单元,用于在所述语料库中所有的问答文档的标题中查找所述标题词条,将所述标题词条出现的次数作为所述标题词条的词频;
第三查找单元,用于在所述语料库中所有的问答文档的答案中查找所述答案词条,将所述答案词条出现的次数作为所述答案词条的词频。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201010003423.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:信息定向推送方法和系统
- 下一篇:相关系数矩阵的生成方法及装置