[发明专利]一种文本矫正的方法和装置有效
| 申请号: | 201110276241.5 | 申请日: | 2011-09-16 |
| 公开(公告)号: | CN102999483A | 公开(公告)日: | 2013-03-27 |
| 发明(设计)人: | 刘占一;吴华;王海峰 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
| 主分类号: | G06F17/27 | 分类号: | G06F17/27 |
| 代理公司: | 北京鸿德海业知识产权代理事务所(普通合伙) 11412 | 代理人: | 袁媛 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 文本 矫正 方法 装置 | ||
1.一种文本矫正的方法,其特征在于,该方法包括:
S1、获取待矫正文本;
S2、利用预设的标准文本库查找所述待矫正文本的相似文本;
S3、将所述相似文本与待矫正文本进行比较,确定差异词对,其中所述差异词对中待矫正文本中的差异词为原始词,相似文本中的差异词为所述原始词对应的候选词;
S4、利用候选词分别对所述待矫正文本中对应的原始词进行替换构成M1个候选文本,M1为正整数;
S5、分别针对所述候选文本和所述待矫正文本计算文本流利度,选出流利度最高的M2个文本,M2为小于或等于M1+1的正整数;
S6、分别计算所述M2个文本的搭配概率,选出搭配概率排在前M3个的文本作为矫正后的文本,M3为小于或等于M2的正整数,其中文本的搭配概率由文本中对象词与其他各词语在所述标准文本库中的搭配概率确定,所述对象词为文本中的原始词或候选词。
2.根据权利要求1所述的方法,其特征在于,所述步骤S2具体包括:计算所述待矫正文本与所述标准文本库中文本的相似度,确定相似度满足预设相似度阈值的文本作为所述待矫正文本的相似文本。
3.根据权利要求2所述的方法,其特征在于,计算所述待矫正文本与所述标准文本库中文本的相似度具体包括:
计算所述待矫正文本与所述标准文本库中文本之间的编辑距离,利用所述编辑距离确定相似度;或者,
利用所述待矫正文本与所述标准文本库中文本的差异词特征向量之间的距离,计算所述待矫正文本与所述标准文本库中文本之间的相似距离,利用所述相似距离确定相似度。
4.根据权利要求1所述的方法,其特征在于,在所述步骤S3中确定出差异词对之后,还包括:
判断所述差异词对是否为同义词对,将不是同义词对的差异词对删除。
5.根据权利要求4所述的方法,其特征在于,判断所述差异词对是否为同义词对包括:
判断所述差异词对中的两个差异词是否在预设的同义词典中以同义词对的形式出现,如果是,则确定所述差异词对为同义词对;或者,
判断所述差异词对中的两个差异词是否在预设的翻译词典中具有相同的译文,如果是,则确定所述差异词对为同义词对。
6.根据权利要求1所述的方法,其特征在于,在所述步骤S5中,文本流利度由文本中对象词在大规模语料库中的出现概率以及对象词与上下文在所述标准文本库或大规模语料库中的共现概率确定。
7.根据权利要求1所述的方法,其特征在于,在所述S6中,所述文本的搭配概率为文本中各对象词与其他各词语在所述标准文本库中的搭配概率之和。
8.根据权利要求1所述的方法,其特征在于,该方法还包括:将所述矫正后的文本在弹出的文本框中显示,且将所述待矫正文本中对应的原始词进行突出显示,将矫正后文本中的候选词进行突出显示。
9.根据权利要求1所述的方法,其特征在于,在所述步骤S6之后还包括:
S7、分别计算所述矫正后文本中候选词的评分以及所述待矫正文本中对应原始词的评分,其中词语在文本中的评分由该词语与上下文在所述标准文本库中的共现概率和/或该词语与文本中其他词语在所述标准文本库中的搭配概率确定;
S8、根据所述矫正后文本中候选词的评分与所述待矫正文本中对应原始词的评分差异,为矫正后文本中候选词的置信度进行打分。
10.根据权利要求9所述的方法,其特征在于,该方法还包括:将所述矫正后文本中候选词的置信度的打分状况在弹出的文本框中显示。
11.根据权利要求1所述的方法,其特征在于,该方法还包括:
在所述矫正后文本中确定与候选词的搭配概率最大的词语,以确定的该词语和候选词的组合作为查询词在所述标准文本库中进行查询,确定包含所述组合的例句在弹出的文本框中显示。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201110276241.5/1.html,转载请声明来源钻瓜专利网。





