[发明专利]一种动态脚本网站数据快速收集方法无效
| 申请号: | 200910090288.5 | 申请日: | 2009-08-04 |
| 公开(公告)号: | CN101625692A | 公开(公告)日: | 2010-01-13 |
| 发明(设计)人: | 夏冰;高军;王腾蛟;杨冬青 | 申请(专利权)人: | 北京大学 |
| 主分类号: | G06F17/30 | 分类号: | G06F17/30 |
| 代理公司: | 北京纪凯知识产权代理有限公司 | 代理人: | 徐 宁;关 畅 |
| 地址: | 100871北京市海*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 动态 脚本 网站 数据 快速 收集 方法 | ||
1.一种动态脚本网站数据快速收集方法,其特征在于:它包括以下步骤:
i)获取Index页面并保存,将Index页面加入待处理队列;
ii)判断所述待处理队列是否为空,若为空则表明抓取完成,退出抓取过程; 否则从所述待处理队列中任意选择一个页面,利用页面相似性得到当前页面的类 型,根据训练步骤中提取出的XPath路径特征,确定所述类型需要触发哪些页面 元素上的哪些事件;所述训练步骤包括:
1)由人工给出各类型页面组成训练样本集合;
2)判断所述训练样本集合是否为空,若为空则跳转到步骤5),否则从所述训 练样本集合中选择一个页面;
3)判断当前页面上是否还有未触发过的事件,若没有则跳转到步骤2);否则 触发当前事件,记录当前事件的事件信息;
4)回退到触发事件前的页面状态,并跳转到步骤3);
5)根据所述事件信息提取各类型页面需触发事件的XPath路径特征及事件类 型;
iii)判断所述当前页面是否有未触发过的事件,若没有则跳转到步骤ii); 否则触发事件,判断所述当前页面是否变化且变化后的页面为新页面,若没有变 化或非新页面则跳转到步骤v);否则继续执行步骤iv);
iv)保存所述新页面并将所述新页面加入到步骤i)中的待处理队列;
v)回退到触发事件前的页面状态,并跳转到步骤iii)。
2.如权利要求1所述的一种动态脚本网站数据快速收集方法,其特征在于: 所述步骤3)中,所述当前页面的事件信息包括,事件类型、触发事件的页面元素、 页面是否变化、变化后页面是哪种类型。
3.如权利要求1或2所述的一种动态脚本网站数据快速收集方法,其特征在 于:所述步骤5)中,所述XPath路径特征的提取方法如下:被归约的XPath路径 经过的页面元素名称必须相同,对页面元素的序号进行归约。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/200910090288.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:自由伸缩广告旗
- 下一篇:自动暖瓶速热器控制装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





