[发明专利]一种网页内容有分页的抓取方法在审
| 申请号： | 201810438605.7 | 申请日： | 2018-05-11 |
| 公开（公告）号： | CN108563797A | 公开（公告）日： | 2018-09-21 |
| 发明（设计）人： | 陈林;张来卿;庞严冬 | 申请（专利权）人： | 珠海横琴盛达兆业科技投资有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 519031 广东省珠海*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 分页 抓取 爬虫工具 网络工具 网页内容 总页数 加载 页数 查询参数 数据保存 信息内容 循环变量 循环体 拼接 解析 替换 数据库 网页 展示 开发 | ||
1.一种网页内容有分页的抓取方法，其特征在于：首先查看当前待抓取页的URL是否带有分页数，如果没有，用开发人员工具进行解析，找出其查询参数与请求的URL，根据它们拼接出有分页数的URL；然后使用网络工具对其加载，获取Html信息内容，使用爬虫工具从中提取出总页数、当前页数等信息；接着以总页数为结束值，当前页数为开始值，循环，在循环体中使用循环变量替换掉URL中的分页数，生成每个分页的URL；最后使用网络工具对分页URL加载，使用爬虫工具对所需内容进行提取，把获得的数据保存到数据库中；从而解决了有分页的网页其没展示的分页部分不能直接抓取的问题。
2.根据权利要求1所述的基于JAVA平台的一种网页内容有分页的抓取方法，其特征在于：通过解析脚本函数，获取详情URL；所述的方法具体包括如下步骤：
步骤一、查看当前待抓取页的URL是否带有分页数，如果没有，用开发人员工具进行解析，找出其查询参数与请求的URL，根据它们拼接出有分页数的URL；
步骤二、使用网络工具对其加载，获取Html信息内容；
步骤三、使用爬虫工具从中提取出总页数、当前页数等信息；
步骤四、以总页数为结束值，当前页数为开始值，循环，在循环体中使用循环变量替换掉URL中的分页数，生成每个分页的URL；
步骤五、使用网络工具对分页URL加载，获取分页Html信息；
步骤六、使用爬虫工具对所需内容进行提取，把获得的数据保存到数据库中。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于珠海横琴盛达兆业科技投资有限公司，未经珠海横琴盛达兆业科技投资有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201810438605.7/1.html，转载请声明来源钻瓜专利网。
- 上一篇：区块链的数据压缩处理方法、装置及电子设备
- 下一篇：虚假网络舆情识别方法
