[发明专利]一种数据处理装置及方法在审
| 申请号: | 201110289520.5 | 申请日: | 2011-09-27 |
| 公开(公告)号: | CN103020088A | 公开(公告)日: | 2013-04-03 |
| 发明(设计)人: | 谭耀华;阮威;邓教武 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 北京派特恩知识产权代理事务所(普通合伙) 11270 | 代理人: | 蒋雅洁;迟姗 |
| 地址: | 518044 广东省深圳*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 数据处理 装置 方法 | ||
1.一种数据处理装置,其特征在于,所述装置包括:
数据抓取模块,用于根据预先配置的抓取规则,进行数据抓取;
数据处理模块,用于根据预先配置的数据转换规则,对所述数据抓取模块所抓取的数据进行处理,得到符合所述数据转换规则的标准数据。
2.根据权利要求1所述的数据处理装置,其特征在于,所述数据抓取模块包括:配置单元和抓取单元,其中,
配置单元,用于配置包含有数据源信息和类型信息的抓取规则;
抓取单元,用于根据所述配置单元配置的数据源信息,找到数据源,并从所述数据源中抓取、类型信息与配置单元所配置的类型信息相一致的数据。
3.根据权利要求2所述的数据处理装置,其特征在于,
所述配置单元包含有用于配置抓取规则的配置文件;
所述配置单元,具体用于通过在所述配置文件中写入需抓取数据的数据源信息和类型信息并保存,完成抓取规则的配置;
抓取单元,还用于读取所述配置单元中的配置文件,根据所述配置文件中数据源信息,找到数据源,从所述数据源中抓取类型信息与所述配置文件中的类型信息相一致的数据。
4.根据权利要求2或3所述的数据处理装置,其特征在于,所述数据源信息为数据源网站的URL;和/或,所述类型信息为数据的品类名称。
5.根据权利要求3所述的数据处理方法,其特征在于,所述配置文件为xml格式的文件。
6.根据权利要求1至3任一项所述的数据处理装置,其特征在于,
所述数据处理模块,还用于生成包含有所述标准数据的标准数据文本,并输出该标准数据文本。
7.根据权利要求6所述的数据处理装置,其特征在于,所述标准数据文本为TXT文本。
8.一种数据处理方法,其特征在于,所述方法包括:
根据预先配置的抓取规则,进行数据抓取;
根据预先配置的数据转换规则,对所抓取的数据进行处理,得到符合所述数据转换规则的标准数据。
9.根据权利要求8所述的数据处理方法,其特征在于,在进行数据抓取之前,所述方法还包括:
配置包含有数据源信息和类型信息的抓取规则;
所述进行数据抓取,为:根据所配置的数据源信息,找到数据源,并从所述数据源中抓取类型信息与所配置的类型信息相一致的数据。
10.根据权利要求9所述的数据处理方法,其特征在于,
配置包含有数据源信息和类型信息的抓取规则,包括:在用于配置抓取规则的配置文件中写入需抓取数据的数据源信息和需抓取数据的类型信息并保存;
所述进行数据抓取,为:读取所述配置文件,根据所述配置文件中数据源信息,找到数据源,从所述数据源中抓取类型信息与所述配置文件中的类型信息相一致的数据。
11.根据权利要求8至10任一项所述的数据处理方法,其特征在于,所述得到符合所述数据转换规则的标准数据之后,所述方法还包括:
生成包含有所述标准数据的标准数据文本,并输出该标准数据文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201110289520.5/1.html,转载请声明来源钻瓜专利网。





