[发明专利]自动优化爬虫的抓取方法有效
| 申请号： | 200610145811.6 | 申请日： | 2006-11-17 |
| 公开（公告）号： | CN101187925A | 公开（公告）日： | 2008-05-28 |
| 发明（设计）人： | 陈华 | 申请（专利权）人： | 北京酷讯科技有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 北京中博世达专利商标代理有限公司 | 代理人： | 张岱 |
| 地址： | 100084北京市海*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 自动 优化 爬虫 抓取 方法 | ||
1.一种自动优化爬虫的抓取方法，其特征在于：包括以下步骤：
(1)从互联网上抓取的信息页中抽取信息，如果抽取成功，加快再次抓取该信息页的频率；否则减慢再次抓取该信息页的频率；
(2)在修改后的频率到时，重复步骤(1)。
2.根据权利要求1所述的自动优化爬虫的抓取方法，其特征在于：步骤(1)进一步包括：
(11)抓取检测模块按照频道分类，从互联网上抓取内容与各频道分类相对应的索引列表页，如果抓取失败，则降低再次抓取这个索引列表页的频率，进入步骤(15)；如果抓取成功，进入步骤(12)；
(12)抓取检测模块检测抓取成功的索引列表页同上次抓取时相比是否添加了新的信息，如果是，进入步骤(13)；否则，降低再次抓取这个索引列表页的频率，进入步骤(15)；
(13)抓取检测模块下载索引列表页所添加的新的信息所对应的信息页，如果下载成功，进入步骤(14)；否则，降低再次抓取这个索引列表页的频率，进入步骤(15)；
(14)抓取检测模块将所述下载成功的信息页发送给抽取模块，抽取模块每成功从该信息页中抽取一条信息，通知抓取检测模块加快一次以后抓取包含该信息的信息页所属的索引列表页的频率，然后抽取模块将该信息存入与该信息内容的频道分类对应的频道，进入步骤(2)；
(15)抓取检测模块根据当前时间对修改后的再次抓取所述索引列表页的频率进行再修正。
3.根据权利要求2所述的自动优化爬虫的抓取方法，其特征在于：步骤(15)具体为：如果当前时间为晚上或节假日，将再次抓取这个索引列表页的频率的降低幅度减缓。
4.根据权利要求3所述的自动优化爬虫的抓取方法，其特征在于：在步骤(15)之后还包括：
(16)抓取检测模块再次对步骤(15)修正后的再次抓取这个索引列表页的频率进行修正，所述修正包括根据频道分类特性进行的修正和根据各频道共性进行的专家修正。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京酷讯科技有限公司，未经北京酷讯科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/200610145811.6/1.html，转载请声明来源钻瓜专利网。
