[发明专利]一种汉语专业术语的识别方法及装置有效
| 申请号: | 201810680531.8 | 申请日: | 2018-06-27 |
| 公开(公告)号: | CN109033071B | 公开(公告)日: | 2022-11-25 |
| 发明(设计)人: | 王树明;赵建保;邱菊;胡艳杰 | 申请(专利权)人: | 北京中电普华信息技术有限公司;国网信息通信产业集团有限公司;国家电网有限公司 |
| 主分类号: | G06F40/289 | 分类号: | G06F40/289 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
| 地址: | 100192 北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 汉语 专业术语 识别 方法 装置 | ||
1.一种汉语专业术语的识别方法,其特征在于,包括:
对专业文本进行分词处理,获得第一数量的分词词汇;
从所述第一数量的分词词汇中筛选出第二数量的初始词根,所述第一数量大于所述第二数量;
基于每个所述初始词根的位置,对每个所述初始词根进行近邻拼接组合,生成第三数量的候选术语;
计算每个所述候选术语的稳定性值,并将稳定性值超过第一预设阈值的候选术语作为汉语专业术语;
从所述第一数量的分词词汇中筛选出第二数量的初始词根,包括:
利用TF-IDF模型,计算每个所述分词词汇的集中度值,并将集中度值达到第二预设阈值的分词词汇作为第一初始词根;
利用段落核心度模型和所述第一数量的分词词汇,计算所述专业文本中每个段落的核心度值,并选择最大核心度值对应的段落作为核心段落,所述段落核心度模型用于利用核心度值计算公式计算专业文本中每个段落的核心度值;
利用每个所述分词词汇的词性,从所述核心段落中筛选出预设实词,并将筛选出的所述预设实词作为第二初始词根;
将所述第一初始词根和所述第二初始词根作为所述第二数量的初始词根;
其中,所述核心度值计算公式为:
其中,KD(P)为每个段落的核心度值;TFi为分词词汇在段落P中的词频,IDFi为分词词汇的逆向段落频次,Den(T)为T在段落P中的词密度,T为第一数量的分词词汇,n为第一数量。
2.根据权利要求1所述的识别方法,其特征在于,所述对专业文本进行分词处理,获得第一数量的分词词汇,包括:
对所述专业文本进行分词,获得第一数量的初始分词词汇;
确定每个所述初始分词词汇的词性,并将携带有词性的第一数量的初始分词词汇作为所述第一数量的分词词汇。
3.根据权利要求1所述的识别方法,其特征在于,所述基于每个所述初始词根的位置,对每个所述初始词根进行近邻拼接组合,生成第三数量的候选术语,包括:
将位于每个所述初始词根的左边距离最近的初始词根和右边距离最近的初始词根,分别作为每个所述初始词根的左近邻词根和右近邻词根;
将每个所述初始词根的左近邻词根和右近邻词根分别与对应初始词根进行词根拼接组合,生成多个初始候选术语;
判断每个所述初始候选术语是否满足预设条件,所述预设条件为所述初始候选术语的词频大于平均词频,且所述初始候选术语属于所述核心段落,所述平均词频为将全部初始候选术语的词频相加,再除以初始候选术语的总个数后所获得的结果数值;
若所述初始候选术语满足所述预设条件,将满足所述预设条件的初始候选术语作为所述候选术语;
将满足所述预设条件的初始候选术语作为所述初始词根,并返回所述将位于每个所述初始词根的左边距离最近的初始词根和右边距离最近的初始词根,分别作为每个所述初始词根的左近邻词根和右近邻词根;
若所述初始候选术语不满足所述预设条件,去除不满足所述预设条件的初始候选术语。
4.根据权利要求1所述的识别方法,其特征在于,所述计算每个所述候选术语的稳定性值,并将稳定性值超过第一预设阈值的候选术语作为汉语专业术语,包括:
利用稳定性值计算公式,计算每个所述候选术语的稳定性值,所述稳定性值计算公式为:
其中,TC(T)为候选术语的稳定性值,T=W1W2...Wn为候选术语,n为组成候选术语T的初始词根总个数,|T|=n为候选术语的长度,tf(T)为候选术语在专业文本中出现的频次,Wj为组成候选术语T中的第j个初始词根,1≤j≤|T|,tf(Wj)为词根Wj在专业文本中出现的频次,log(|T|*tf(T))为奖励因子;
将稳定性值超过所述第一预设阈值的候选术语作为所述汉语专业术语。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京中电普华信息技术有限公司;国网信息通信产业集团有限公司;国家电网有限公司,未经北京中电普华信息技术有限公司;国网信息通信产业集团有限公司;国家电网有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810680531.8/1.html,转载请声明来源钻瓜专利网。





