[发明专利]一种基于多工具的自然语言处理方法、设备及介质在审
申请号: | 202210209091.4 | 申请日: | 2022-03-03 |
公开(公告)号: | CN114580387A | 公开(公告)日: | 2022-06-03 |
发明(设计)人: | 赵志庆;侯玉柱;王巍;张雨铭威;董席峰;刘孟 | 申请(专利权)人: | 戎行技术有限公司 |
主分类号: | G06F40/268 | 分类号: | G06F40/268;G06F40/289;G06F40/30;G06K9/62;G06N20/00 |
代理公司: | 济南千慧专利事务所(普通合伙企业) 37232 | 代理人: | 傅静 |
地址: | 300143 天津市河北区铁东路街道志成路1*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 工具 自然语言 处理 方法 设备 介质 | ||
1.一种基于多工具的自然语言处理方法,其特征在于,包括:
获取多个开源NLP工具,所述开源NLP工具支持对特定语言进行处理;
根据所述特定语言的属性,将所述特定语言划分成与所述特定语言适配的多个维度;
确定预先获取的训练样本,所述训练样本中,至少部分结构以所述特定语言的形式体现;
针对每个所述开源NLP工具,使用其对所述训练样本进行自然语言处理分析,以将所述训练样本在每个所述维度下进行分析,得到所述多个维度分别对应的分析结果;
针对每个所述维度,获取所述多个开源NLP工具在该维度下的所述分析结果,以训练得到该维度对应的NLP维度模型;
根据多个所述NLP维度模型,实现对所述特定语言的自然语言处理。
2.如权利要求1所述的方法,其特征在于,所述特定语言为汉语,所述维度包括语言词性维度;
所述针对每个所述开源NLP工具,使用其对所述训练样本进行自然语言处理分析,以将所述训练样本在每个所述维度下进行分析,得到所述多个维度分别对应的分析结果,具体包括:
针对每个所述开源NLP工具,使用其对所述训练样本进行自然语言处理分析,以将所述训练样本在所述语言词性维度下进行分析,得到所述语言词性维度对应的第一分析结果;
将所述第一分析结果作为影响因子,将所述训练样本在其他维度下进行分析,得到所述其他维度对应的第二分析结果,以便通过所述第一分析结果和所述第二分析结果训练得到不同维度对应的NLP维度模型。
3.如权利要求2所述的方法,其特征在于,所述将所述第一分析结果作为影响因子,将所述训练样本在其他维度下进行分析,得到所述其他维度对应的第二分析结果,具体包括:
根据所述第一分析结果,确定所述训练样本中,所述语言词性维度为停用词的指定词语;
将所述指定词语替换为分隔符,以对通过所述分隔符分隔得到的其他词语,在其他维度下进行分析,得到所述其他维度对应的第二分析结果。
4.如权利要求3所述的方法,其特征在于,所述通过所述分隔符分隔得到的其他词语,在其他维度下进行分析,得到所述其他维度对应的第二分析结果,具体包括:
确定通过所述分隔符分隔得到的其他词语;
针对所述其他词语中的至少部分词语,在实体类型维度,和/或,情感分析维度,进行分析,得到所述实体类型维度,和/或,所述情感分析维度分别对应的第二分析结果。
5.如权利要求1所述的方法,其特征在于,所述根据多个所述NLP维度模型,实现对所述特定语言的自然语言处理,具体包括:
根据用户需求,在多个所述NLP维度模型中选择所需的NLP维度模型,并通过所述所需的NLP维度模型,实现对所述特定语言的自然语言处理。
6.如权利要求1所述的方法,其特征在于,所述训练得到该维度对应的NLP维度模型,具体包括:
确定该维度与各所述开源NLP工具之间的关联等级;
根据所述关联等级,确定各所述开源NLP工具在该维度中所占的占权重,所述关联等级和所述权重呈正相关;
根据所述权重,在该维度中各所述开源NLP工具对应的分析结果选取部分分析结果,用于训练得到该维度对应的NLP维度模型。
7.如权利要求1所述的方法,其特征在于,所述得到所述多个维度分别对应的分析结果之后,所述方法还包括:
将所述分析结果存储至基于指定搜索库的分布式搜索服务器存储中,所述指定搜索库为全文检索引擎的架构。
8.如权利要求2所述的方法,其特征在于,所述开源自然语言处理工具包括StanfordNLP模型、FudanNLP模型、HaNLP模型中的至少一种。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于戎行技术有限公司,未经戎行技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210209091.4/1.html,转载请声明来源钻瓜专利网。