[发明专利]领域词典构建方法及装置在审
| 申请号: | 202010820291.4 | 申请日: | 2020-08-14 |
| 公开(公告)号: | CN111931491A | 公开(公告)日: | 2020-11-13 |
| 发明(设计)人: | 张文慧;范晓东;李羊;唐伟佳 | 申请(专利权)人: | 工银科技有限公司 |
| 主分类号: | G06F40/242 | 分类号: | G06F40/242;G06F40/289;G06F40/216 |
| 代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 单晓双;董骁毅 |
| 地址: | 100029 北京*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 领域 词典 构建 方法 装置 | ||
1.一种领域词典构建方法,其特征在于,包括:
获取原始事务语料;
对所述原始事务语料进行字符处理,获得待分词事务语料;
对所述待分词事务语料进行n-gram分词处理,得到该待分词事务语料的多个词片段;
获取各个所述词片段的统计指标值,将统计指标值大于组合阈值的词片段作为过滤后词片段;
对所述过滤后词片段进行切分处理,判断切分处理后得到的各个第一切分词是否均为完整词汇,若否,则将所述过滤后词片段作为第一领域词,以构建目标事务领域词典。
2.根据权利要求1所述的领域词典构建方法,其特征在于,所述对所述原始事务语料进行字符处理,获得待分词事务语料,包括:
将所述原始事务语料中的符号作为分隔符,应用该分隔符切分所述原始事务语料,获得所述待分词事务语料。
3.根据权利要求1所述的领域词典构建方法,其特征在于,所述获取各个所述词片段的统计指标值,包括:
获取各个所述词片段的凝固度和第一词频;
基于各个所述词片段的第二词频、在所述待分词事务语料中的位置、左邻字个数以及每个左邻字词频,得到各个所述词片段的左自由度;
基于各个所述词片段的第二词频、在所述待分词事务语料中的位置、右邻字个数以及每个右邻字词频,得到各个所述词片段的右自由度;
将各个所述词片段的凝固度、第一词频、左自由度和右自由度的总和作为各个所述词片段的统计指标值。
4.根据权利要求1所述的领域词典构建方法,其特征在于,在所述将所述过滤后词片段作为第一领域词之后,还包括:
应用所述第一领域词对所述原始事务语料进行句子切分,获得第二切分词;
对所述第二切分词和所述第一领域词进行回溯处理,将回溯处理的结果作为第二领域词,以构建目标事务领域词典。
5.一种领域词典构建装置,其特征在于,包括:
获取模块,用于获取原始事务语料;
字符处理模块,用于对所述原始事务语料进行字符处理,获得待分词事务语料;
分词处理模块,用于对所述待分词事务语料进行n-gram分词处理,得到该待分词事务语料的多个词片段;
阈值判断模块,用于获取各个所述词片段的统计指标值,将统计指标值大于组合阈值的词片段作为过滤后词片段;
第一构建模块,用于对所述过滤后词片段进行切分处理,判断切分处理后得到的各个第一切分词是否均为完整词汇,若否,则将所述过滤后词片段作为第一领域词,以构建目标事务领域词典。
6.根据权利要求5所述的领域词典构建装置,其特征在于,所述字符处理模块,包括:
字符处理单元,用于将所述原始事务语料中的符号作为分隔符,应用该分隔符切分所述原始事务语料,获得所述待分词事务语料。
7.根据权利要求5所述的领域词典构建装置,其特征在于,所述阈值判断模块,包括:
获取单元,用于获取各个所述词片段的凝固度和第一词频;
获取左自由度单元,用于基于各个所述词片段的第二词频、在所述待分词事务语料中的位置、左邻字个数以及每个左邻字词频,得到各个所述词片段的左自由度;
获取右自由度单元,用于基于各个所述词片段的第二词频、在所述待分词事务语料中的位置、右邻字个数以及每个右邻字词频,得到各个所述词片段的右自由度;
获得指标值单元,用于将各个所述词片段的凝固度、第一词频、左自由度和右自由度的总和作为各个所述词片段的统计指标值。
8.根据权利要求5所述的领域词典构建装置,其特征在于,还包括:
获得切分词模块,用于应用所述第一领域词对所述原始事务语料进行句子切分,获得第二切分词;
第二构建模块,用于对所述第二切分词和所述第一领域词进行回溯处理,将回溯处理的结果作为第二领域词,以构建目标事务领域词典。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于工银科技有限公司,未经工银科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010820291.4/1.html,转载请声明来源钻瓜专利网。





