[发明专利]一种网站内链的部署方法及装置有效
| 申请号: | 201510669926.4 | 申请日: | 2015-10-13 |
| 公开(公告)号: | CN105183919B | 公开(公告)日: | 2018-10-12 |
| 发明(设计)人: | 郭明阳;王路;陈拓;陈敏锐;骆超锋;文帅营;彭东江;杨碧天 | 申请(专利权)人: | 郑州悉知信息科技股份有限公司 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
| 地址: | 450000 河南省郑*** | 国省代码: | 河南;41 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 网站 部署 方法 装置 | ||
1.一种网站内链的部署方法,其特征在于,包括:
根据爬虫日志记录,确定网站内被爬虫访问的次数超过阈值的目标页面;
从预置的链接地址存储队列中抽取最新产生的目标数量条的链接地址,所述链接地址存储队列中按照链接地址产生时间的先后顺序,存储有多条链接地址,所述目标数量为所述目标页面所能够展示的链接地址的条目数;
将抽取的目标数量条的链接地址展示在所述目标页面上。
2.根据权利要求1所述的方法,其特征在于,还包括:
在检测到爬虫访问所述目标页面后,确定爬虫抓取的N条链接地址;
从最新的链接地址存储队列中抽取最新产生的N条链接地址,所述最新的链接地址存储队列为上一次抽取链接地址后的链接地址存储队列,包括:每次从链接地址存储队列中抽取链接地址之后,被抽取的链接地址将从链接地址存储队列中删除,剩余的链接地址组成的链接地址存储队列即为最新的链接地址存储队列;
利用抽取的N条链接地址替换掉所述爬虫抓取的N条链接地址。
3.根据权利要求1所述的方法,其特征在于,还包括:
确定所述目标页面上,预置时间段内未被爬虫抓取过的X条链接地址;
从最新的链接地址存储队列中抽取最新产生的X条链接地址,所述最新的链接地址存储队列为上一次抽取链接地址后的链接地址存储队列,包括:每次从链接地址存储队列中抽取链接地址之后,被抽取的链接地址将从链接地址存储队列中删除,剩余的链接地址组成的链接地址存储队列即为最新的链接地址存储队列;
利用抽取的X条链接地址替换掉所述未被爬虫抓取过的X条链接地址。
4.根据权利要求2所述的方法,其特征在于,在所述检测到爬虫访问所述目标页面后,该方法还包括:
记录爬虫的访问记录,该访问记录用于更新所述爬虫日志记录。
5.根据权利要求1所述的方法,其特征在于,所述目标页面的个数为多个,所述将抽取的目标数量条的链接地址展示在所述目标页面上,包括:
将多个目标页面的集合确定为目标集合;
从所述目标集合中抽取一个被爬虫访问次数最多的目标页面,作为待定目标页面;
从抽取的目标数量条的链接地址中抽取最新产生的Y条链接地址,Y为所述待定目标页面所能够展示的链接地址的条目数;
将抽取的Y条链接地址展示在所述待定目标页面上;
将目标页面抽取后的目标集合确定为新的目标集合,包括:将目标集合中减少一个目标页面剩余的目标页面组成新的目标集合,返回执行所述从所述目标集合中抽取一个被爬虫访问次数最多的目标页面,作为待定目标页面的步骤,直至目标集合内不存在目标页面为止。
6.一种网站内链的部署装置,其特征在于,包括:
目标页面确定单元,用于根据爬虫日志记录,确定网站内被爬虫访问的次数超过阈值的目标页面;
第一链接地址抽取单元,用于从预置的链接地址存储队列中抽取最新产生的目标数量条的链接地址,所述链接地址存储队列中按照链接地址产生时间的先后顺序,存储有多条链接地址,所述目标数量为所述目标页面所能够展示的链接地址的条目数;
链接地址展示单元,用于将抽取的目标数量条的链接地址展示在所述目标页面上。
7.根据权利要求6所述的装置,其特征在于,还包括:
爬虫访问响应单元,用于在检测到爬虫访问所述目标页面后,确定爬虫抓取的N条链接地址;
第二链接地址抽取单元,用于从最新的链接地址存储队列中抽取最新产生的N条链接地址,所述最新的链接地址存储队列为上一次抽取链接地址后的链接地址存储队列,包括:每次从链接地址存储队列中抽取链接地址之后,被抽取的链接地址将从链接地址存储队列中删除,剩余的链接地址组成的链接地址存储队列即为最新的链接地址存储队列;
第一链接地址替换单元,用于利用抽取的N条链接地址替换掉所述爬虫抓取的N条链接地址。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于郑州悉知信息科技股份有限公司,未经郑州悉知信息科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510669926.4/1.html,转载请声明来源钻瓜专利网。





