[发明专利]自动优化爬虫的抓取方法有效
| 申请号: | 200610145811.6 | 申请日: | 2006-11-17 |
| 公开(公告)号: | CN101187925A | 公开(公告)日: | 2008-05-28 |
| 发明(设计)人: | 陈华 | 申请(专利权)人: | 北京酷讯科技有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 北京中博世达专利商标代理有限公司 | 代理人: | 张岱 |
| 地址: | 100084北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 本发明公开了一种自动优化爬虫的抓取方法。现有的爬虫抓取网页的方法是用相同的频率去抓取发布高峰期的信息和发布低谷期的信息,影响了所抓取信息的时效性,降低了系统效能,增加了无谓的资源消耗。为解决上述问题,本发明包括以下步骤:(1)从互联网上抓取的信息页中抽取信息,如果抽取成功,加快再次抓取该信息页的频率;否则减慢再次抓取该信息页的频率;(2)在修改后的频率到时,重复步骤(1)。本发明适用于现有的各种搜索引擎。 | ||
| 搜索关键词: | 自动 优化 爬虫 抓取 方法 | ||
【主权项】:
1.一种自动优化爬虫的抓取方法,其特征在于:包括以下步骤:(1)从互联网上抓取的信息页中抽取信息,如果抽取成功,加快再次抓取该信息页的频率;否则减慢再次抓取该信息页的频率;(2)在修改后的频率到时,重复步骤(1)。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京酷讯科技有限公司,未经北京酷讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/200610145811.6/,转载请声明来源钻瓜专利网。





