[发明专利]网站内容监控方法和装置有效
申请号: | 201710195390.6 | 申请日: | 2017-03-29 |
公开(公告)号: | CN108664489B | 公开(公告)日: | 2022-12-23 |
发明(设计)人: | 唐文韬;郑云文;胡珀;郑兴;郭晶;张强;范宇河;王放;杨勇 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951 |
代理公司: | 北京德琦知识产权代理有限公司 11018 | 代理人: | 李华;王琦 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 网站 内容 监控 方法 装置 | ||
1.一种网站内容监控方法,其特征在于其包括:
接收第一爬虫程序根据预设的第一网站提供的第一网站内容的信息从第二网站爬取到的第二网站内容的信息;
根据所述第二网站内容的信息确定所述第二网站收录所述第一网站内容的情况;
根据所述第二网站收录所述第一网站内容的情况,统计所述第二网站对所述第一网站的盗版数据;
其中,所述方法进一步包括:
获取访问第一网站的第二爬虫程序的特征;
根据预设的监控策略对所述第二爬虫程序的特征进行统计,包括:统计第二爬虫程序是低频爬取还是高频爬取、爬取的路径是否是可疑路径、是否是用采集器爬取。
2.根据权利要求1的方法,其中,第一网站内容和第二网站内容包括网络出版物和/或在线播放的媒体内容。
3.根据权利要求2的方法,其中,所述第一网站内容的信息包括至少一个第一摘要信息项,所述第二网站内容的信息包括:至少一个第二摘要信息项;
所述确定第二网站收录第一网站内容的情况包括:判断所述至少一个第一摘要信息项是否与所述至少一个第二摘要信息项相匹配,如果匹配,则确定所述第二网站收录了所述第二网站内容。
4.根据权利要求3的方法,其中,第一爬虫程序根据第一网站提供的第一网站内容的信息从第二网站爬取第二网站内容的信息包括:
获取第二网站中用于在第二网站中搜索第二网站内容的接口;
通过所述接口,根据所述至少一个第一摘要信息项,搜索第二网站内容的信息。
5.根据权利要求1的方法,其中,根据所述第二网站收录所述第一网站内容的情况,统计所述第二网站对所述第一网站的盗版数据包括:
当确定所述第二网站收录了所述第一网站内容时,统计所述第二网站收录第一网站内容的数量。
6.根据权利要求3的方法,其中,所述第一网站内容和第二网站内容为网络出版物,所述根据所述第二网站收录所述第一网站内容的情况,统计所述第二网站对所述第一网站的盗版数据包括:
当确定所述第二网站收录了所述第一网站的网络出版物时,统计第二网站收录的第一网站的网络出版物章节和对应的第一网站的网络出版物的章节更新时间差。
7.根据权利要求6的方法,其中,统计第二网站收录的第一网站的网络出版物章节和对应的第一网站的网络出版物的章节更新时间差包括:
获取第一网站的第一网络出版物的第一标识;
从第二网站中的网络出版物的阅读入口中,获取第二网站收录的、和第一网络出版物相同的第二网络出版物的第二标识;
定期通过所述第一标识和第二标识获取第一网络出版物和第二网络出版物的章节标题;
记录首次获取到第一出版物的第一章节标题的时间和对应的第二网络出版物的第二章节标题的时间;
比较首次获取到第一章节标题的时间和第二章节标题的时间,计算二者的时间差,将该时间差作为第二网站的网络出版物章节和第一网站对应的网络出版物的章节更新时间差。
8.根据权利要求1-7任一项权利要求的方法,其中,所述方法进一步包括:
解析在预定时间段内访问第二网站的每日平均IP地址数量;
其中,统计第二网站对第一网站的盗版数据进一步包括:统计在预定期间段内访问第二网站的每日平均IP地址数量。
9.根据权利要求1的方法,其中,
获取访问第一网站的第二爬虫程序的特征包括:
获取所述第二爬虫程序访问第一网站的路径,根据所述路径和预设的访问第一网站受保护的接口的路径,计算所述第二爬虫程序在预定的时间段内访问第一网站受保护的接口占第二爬虫程序访问第一网站的接口的比例;
根据预设的监控策略对所述第二爬虫程序特征进行统计包括:
判断所述比例是否大于预设的比例;
如果所述比例大于预设的比例,则将所述第二爬虫程序计入到访问第一网站的爬虫数目中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710195390.6/1.html,转载请声明来源钻瓜专利网。
- 内容再现系统、内容提供方法、内容再现装置、内容提供装置、内容再现程序和内容提供程序
- 内容记录系统、内容记录方法、内容记录设备和内容接收设备
- 内容服务系统、内容服务器、内容终端及内容服务方法
- 内容分发系统、内容分发装置、内容再生终端及内容分发方法
- 内容发布、内容获取的方法、内容发布装置及内容传播系统
- 内容提供装置、内容提供方法、内容再现装置、内容再现方法
- 内容传输设备、内容传输方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容发送设备、内容发送方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容再现装置、内容再现方法、内容再现程序及内容提供系统
- 内容记录装置、内容编辑装置、内容再生装置、内容记录方法、内容编辑方法、以及内容再生方法