[发明专利]文本分析方法及文本分析器有效

专利信息
申请号: 201210581448.8 申请日: 2012-12-27
公开(公告)号: CN103077164A 公开(公告)日: 2013-05-01
发明(设计)人: 戴明洋 申请(专利权)人: 新浪网技术(中国)有限公司
主分类号: G06F17/27 分类号: G06F17/27
代理公司: 北京市京大律师事务所 11321 代理人: 黄启行;方晓明
地址: 100080 北京市海淀*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 文本 分析 方法 分析器
【权利要求书】:

1.一种文本分析方法,包括:

对获取的文本以字符为单位进行切分处理,对切分得到的字符按照预先设置的字符特征进行特征标注,形成特征字串;

按照预先构建的分词模型,对特征字串进行分词处理,得到包含字序的分词结果;

根据分词结果中的字序进行合并处理,对合并得到的词按照预先设置的字符特征进行特征标注,形成特征词串;

根据预先构建的词性标注模型,对特征词串进行词性标注,得到词性标注结果;

确认词性标注结果中包含实体词词性标注,则按照相邻相同规则,合并词性标注结果中包含实体词词性标注的实体词,得到文本分析结果。

2.根据权利要求1所述的方法,其中,所述分词模型的预先构建包括:

采集语料;

对语料以字符为单位进行切分处理,对切分得到的字符按照预先设置的字符特征进行特征标注,形成特征字串;

通过条件随机场CRF算法,对特征字串采用分类标签方式进行训练,得到分词模型。

3.根据权利要求2所述的方法,其中,所述词性标注模型的预先构建包括:

基于分词模型,进行特征提取,形成词,以词的最后一个字符的字符特征作为词的字符特征,形成特征词串;

将特征词串分类为实体词以及非实体词,根据预先存储的词性库,分别提取实体词以及非实体词的特征值,通过CRF算法训练,对实体词以及非实体词进行词性标注,形成词性标注模型。

4.根据权利要求3所述的方法,其中,所述字符特征包括:汉字、英文字符、数字、时间以及符号;

所述对切分得到的字符按照预先设置的字符特征进行特征标注包括:

对文本中的各字符分别进行字符特征的标注,将各字符及其字符特征相连,形成特征字串;

所述对合并得到的词按照预先设置的字符特征进行特征标注,包括:

以词的最后一个字符的字符特征作为词的字符特征,对文本中的各词分别进行字符特征的标注,将各词及其字符特征相连,形成特征词串。

5.根据权利要求3所述的方法,其中,所述对实体词进行词性标注包括:

按照实体词的词性,分别标注实体词中的每个单元词,每个单元词的词性与实体词的词性相同。

6.根据权利要求1所述的方法,其中,所述方法进一步包括:

如果词性标注结果中不包含实体词词性标注,则直接输出词性标注结果作为文本分析结果。

7.一种文本分析器,其特征在于,该文本分析器包括:分词模型模块、词性标注模型模块、特征字串生成模块、分词处理模块、特征词串生成模块、词性标注模块以及实体词合并模块,其中,

分词模型模块,用于预先构建分词模型并存储构建的分词模型;

词性标注模型模块,用于预先构建词性标注模型并存储构建的词性标注模型;

特征字串生成模块,用于对获取的文本以字符为单位进行切分处理,对切分得到的字符按照预先设置的字符特征进行特征标注,形成特征字串,输出至分词处理模块;

分词处理模块,用于根据分词模型模块中预先构建的分词模型,对接收的特征字串进行分词处理,得到包含字序的分词结果,输出至特征词串生成模块;

特征词串生成模块,用于根据接收的分词结果中的字序,进行合并处理,并对合并得到的词按照预先设置的字符特征进行特征标注,形成特征词串;

词性标注模块,用于根据词性标注模型模块中预先构建的词性标注模型,对接收的特征词串进行词性标注,输出词性标注结果至实体词合并模块;

实体词合并模块,用于判断接收的词性标注结果中是否包含实体词词性标注,如果是,按照相邻相同规则,合并词性标注结果中包含实体词词性标注的实体词,得到文本分析结果并输出;如果否,将词性标注结果作为文本分析结果输出。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新浪网技术(中国)有限公司,未经新浪网技术(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201210581448.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top