[发明专利]一种选择读取目标文档的编码格式的方法及其系统有效
申请号: | 201310456276.6 | 申请日: | 2013-09-29 |
公开(公告)号: | CN104516862B | 公开(公告)日: | 2018-05-01 |
发明(设计)人: | 叶茂;万巍;金立峰;王元龙 | 申请(专利权)人: | 北大方正集团有限公司;北京方正阿帕比技术有限公司;北京大学 |
主分类号: | G06F17/22 | 分类号: | G06F17/22 |
代理公司: | 北京三聚阳光知识产权代理有限公司11250 | 代理人: | 寇海侠 |
地址: | 100871 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 选择 读取 目标 文档 编码 格式 方法 及其 系统 | ||
1.一种选择读取目标文档的编码格式的方法,其特征在于,包括:
通过全部参考编码格式读取参考文档,确定利用所述参考编码格式读取参考文档时得到的全部或部分乱码模式,所述参考编码格式属于包含了全部编码格式的编码格式集;
每次利用一种编码格式读取目标文档;
对于每种编码格式,将该编码格式读取所述目标文档时产生的数据与确定的乱码模式进行比较,确定利用该编码格式读取所述目标文档时产生的乱码;对于使用参考编码格式读取参考文档时获得的乱码字符串,删除乱码字符串中的非有效判断字符,获取有效判断字符;统计有效判断字符中乱码字符的出现次数,获取乱码模式,其中按照比例取乱码字符出现次数较高的乱码字符作为乱码模式,过滤了一些非常见的乱码字符;
统计利用每种编码格式读取所述目标文档时产生的乱码,并进行比较,然后确定读取所述目标文档的编码格式。
2.根据权利要求1所述的选择读取目标文档的编码格式的方法,其特征在于,且所述参考编码格式是该编码格式集中读取所述参考文档时会产生乱码的编码格式。
3.根据权利要求1或2所述的选择读取目标文档的编码格式的方法,其特征在于,通过所有的参考编码格式读取参考文档,确定利用所述参考编码格式读取参考文档时得到的全部或部分乱码模式。
4.根据权利要求3所述的选择读取目标文档的编码格式的方法,其特征在于,所述非有效判断字符指英文字母、数字和空白字符;所述有效判断字符指除所述非有效判断字符以外的所有字符。
5.根据权利要求4所述的选择读取目标文档的编码格式的方法,其特征在于,统计有效判断字符中乱码字符的出现次数,获取乱码模式时,预先设定次数的阈值,对于出现次数大于所述阈值的所有乱码字符,保存为乱码模式。
6.根据权利要求4所述的选择读取目标文档的编码格式的方法,其特征在于,统计有效判断字符中乱码字符的出现次数,获取乱码模式时,按乱码字符出现次数倒序排列乱码字符;取得排列在前的部分乱码字符,并将所取的乱码字符保存为乱码模式。
7.根据权利要求6所述的选择读取目标文档的编码格式的方法,其特征在于,取得排列在前k%的乱码字符,并将所取的乱码字符保存为乱码模式,其中k为正数,50≤k≤100。
8.根据权利要求7所述的选择读取目标文档的编码格式的方法,其特征在于,所述每次利用一种编码格式读取目标文档时读取部分内容,直到获得预先设置的有效判断字符数为止;若读取所述文档的所有内容后仍未获得预先设置的有效判断字符数,则按实际获取的有效判断字符数为准。
9.根据权利要求8中所述的选择读取目标文档的编码格式的方法,其特征在于,有效判断字符数为50-1000。
10.根据权利要求9所述的选择读取目标文档的编码格式的方法,其特征在于,将该编码格式读取所述目标文档时产生的数据与确定的乱码模式进行比较,确定利用该编码格式读取所述目标文档时产生的乱码的过程为:
将通过每个编码格式读取所述目标文档时产生的数据逐个与所述乱码模式中的乱码字符比较,如果乱码字符包含此数据,则判定此数据为乱码,否则,则不认为该数据为乱码。
11.根据权利要求1所述的选择读取目标文档的编码格式的方法,其特征在于,统计利用每种编码格式读取所述目标文档时产生的乱码,并进行比较,然后确定读取所述目标文档的编码格式的过程为:
统计利用每种编码格式读取所述目标文档时产生的乱码比例,选择乱码比例最低的编码格式作为读取所述目标文档的编码格式。
12.根据权利要求1所述的选择读取目标文档的编码格式的方法,其特征在于,统计利用每种编码格式读取所述目标文档时产生的乱码,并进行比较,然后确定读取所述目标文档的编码格式的过程为:
统计利用每种编码格式读取所述目标文档时产生的乱码比例,选择乱码比例低于预设阈值的编码格式作为读取所述目标文档的编码格式。
13.根据权利要求12所述的选择读取目标文档的编码格式的方法,其特征在于:所述乱码比例为所述乱码字符占有效判断字符的比例。
14.根据权利要求13所述的选择读取目标文档的编码格式的方法,其特征在于:在每次利用一种编码格式读取目标文档时,所述编码格式属于所述编码格式集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北大方正集团有限公司;北京方正阿帕比技术有限公司;北京大学,未经北大方正集团有限公司;北京方正阿帕比技术有限公司;北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310456276.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种译文检查方法及其系统
- 下一篇:一种具有智能学习功能的处理方法及其系统