[发明专利]一种数据采集方法、装置、电子设备及存储介质在审
| 申请号: | 201810521162.8 | 申请日: | 2018-05-28 |
| 公开(公告)号: | CN108829759A | 公开(公告)日: | 2018-11-16 |
| 发明(设计)人: | 沈文策 | 申请(专利权)人: | 沈文策 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 马敬;项京 |
| 地址: | 350003 福建省福州*** | 国省代码: | 福建;35 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 采集源 数据采集 网络地址 采集项 存储介质 电子设备 目标类别 网络爬虫 预设 发送 应用 | ||
1.一种数据采集方法,其特征在于,应用于电子设备,所述方法包括:
获得目标采集源的网络地址;
利用所述网络地址,确定所述目标采集源的目标类别;
从预设的关于采集源的类别和采集项的对应关系中,确定与所述目标类别所对应的目标采集项;
将所述网络地址和所述目标采集项发送至网络爬虫程序,以使得所述网络爬虫程序对具有所述网络地址的目标采集源中的所述目标采集项进行数据采集。
2.根据权利要求1所述的方法,其特征在于,所述获得目标采集源的网络地址的步骤,包括:
获得用户输入的目标采集源的地址;或
获得预设存储位置中存储的目标采集源的地址。
3.根据权利要求1所述的方法,其特征在于,所述利用所述网络地址,确定所述目标采集源的目标类别的步骤,包括:
识别所述网络地址的目标结构特征;
将所述目标结构特征分别与预设的各个样本结构特征组进行匹配;其中,所述样本结构特征组与类别具有唯一对应性;
将与所述目标结构特征相匹配的样本结构特征组对应的类别,作为所述目标采集源的目标类别。
4.根据权利要求3所述的方法,其特征在于,所述目标结构特征,包括:
所述网络地址中预设级的域名。
5.根据权利要求3所述的方法,其特征在于,所述目标类别,包括:
网站类别、微信类别或rss类别。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当所述目标采集源的目标类别确定失败时,将预设的通用采集项作为目标采集项,并执行所述将所述网络地址和所述目标采集项发送至网络爬虫程序的步骤。
7.一种数据采集装置,其特征在于,所述装置包括:
获得模块,用于获得目标采集源的网络地址;
第一确定模块,用于利用所述网络地址,确定所述目标采集源的目标类别;
第二确定模块,用于从预设的关于采集源的类别和采集项的对应关系中,确定与所述目标类别所对应的目标采集项;
发送模块,用于将所述网络地址和所述目标采集项发送至网络爬虫程序,以使得所述网络爬虫程序对具有所述网络地址的目标采集源中的所述目标采集项进行数据采集。
8.根据权利要求7所述的装置,其特征在于,所述获得模块具体用于:
获得用户输入的目标采集源的地址;或
获得预设存储位置中存储的目标采集源的地址。
9.一种电子设备,其特征在于,包括处理器和存储器,其中,
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序时,实现权利要求1-6任一所述的方法步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-6任一所述的方法步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于沈文策,未经沈文策许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810521162.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种网站构建方法和装置
- 下一篇:一种基于环境信息的搜索方法和系统





