[发明专利]一种基于网络资源的可视化采集系统及采集方法在审
申请号: | 201911050220.4 | 申请日: | 2019-10-31 |
公开(公告)号: | CN110765402A | 公开(公告)日: | 2020-02-07 |
发明(设计)人: | 韩文;张淇;秦越;刘畅;张娜 | 申请(专利权)人: | 同方知网(北京)技术有限公司 |
主分类号: | G06F16/958 | 分类号: | G06F16/958 |
代理公司: | 11340 北京天奇智新知识产权代理有限公司 | 代理人: | 陈新胜 |
地址: | 100084 北京市海淀区清华园清华*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 采集数据 标引 采集 数据存储模块 存储数据库 采集模块 处理规则 配置模块 页面数据 知识分类 可视化 浏览器 分类 页面 计算机网络技术领域 采集程序 采集系统 操作环境 分类单元 内容特征 配置程序 提取数据 网络资源 点选 调用 配置 存储 渲染 访问 | ||
本发明涉及计算机网络技术领域,公开了一种基于网络资源的可视化采集系统及采集方法,包括配置模块、采集模块、分类标引模块和数据存储模块。配置模块包括配置程序,其能够调用浏览器,使得浏览器对待配置页面进行渲染呈现,便于点选待配置页面的节点,生成页面数据提取和处理规则,实现了可视化的操作环境。采集模块包括采集程序,其根据页面数据提取和处理规则对待采集页面进行访问、提取数据,分类标引模块包括分类单元,其能够根据待采集页面的内容特征,建立待采集页面的知识分类体系,并根据知识分类体系对已采集数据进行分类,且根据已采集数据中的正文标引关键词,数据存储模块包括存储数据库,存储数据库能够存储已采集数据。
技术领域
本发明涉及计算机网络技术领域,尤其涉及一种基于网络资源的可视化采集系统及采集方法。
背景技术
近年来,随着信息技术和互联网的不断迅速发展,互联网信息在社会和生活中的地位越来越显著。其中,网站中包括了大量有价值的信息,例如公告内容信息,经济数据信息,金融信息,社交信息,消费信息等,因此为了快速有效的获取信息,故需要对网络资源信息进行有效的采集和归类。
目前的网络资源采集方式,通过程序员编写特定代码对指定网站内容进行采集加工保存。但面对采集网址过多、字段格式差异的问题时,通过编码的方式采集网络资源的效率就会很低。目前这种情况下,都是通过采集工具完成相应网站的采集与提取工作。主流工具如:火车头采集器等。但是用户在使用这种采集工具时,需要用户手动输入正则表达式或可扩展标记语言路径语言(Xml Path Language,XPath)等相应配置才能完成采集工作。而上面所说的输入正则表达式或XPath则需要用户了解相关技术,才可以操作采集工具,完成采集工作,使得学习成本较高,导致普通用户无法正常使用。
因此,亟需提出一种基于网络资源的可视化采集系统及采集方法,帮助普通用户甚至非技术人员均可完成相应的采集工作。
发明内容
本发明的一个目的在于提供一种基于网络资源的可视化采集系统,可以实现在数据采集的过程中,全程处于可视化的环境下,便于用户使用。
本发明的另一个目的在于提供一种采集方法,可以辅助用户使用上述的采集系统,从而有助于用户进行可视化的数据采集。
为达此目的,本发明采用以下技术方案:
一种基于网络资源的可视化采集系统,包括:
配置模块,包括配置程序,所述配置程序用于调用浏览器,所述浏览器用于对待配置页面进行渲染呈现,便于点选所述待配置页面的节点,生成页面数据提取和处理规则;
采集模块,包括采集程序,所述采集程序根据所述页面数据提取和处理规则对待采集页面进行访问、数据提取;
分类标引模块,包括分类单元,所述分类单元用于根据所述待采集页面的内容特征,建立所述待采集页面的知识分类体系,所述分类单元根据所述知识分类体系对已采集数据进行分类,并根据所述已采集数据中的正文标引关键词;以及
数据存储模块,包括存储数据库,所述存储数据库用于存储所述已采集数据。
进一步地,根据所述待采集页面的内容特征选择待采集数据的资源类别,确定所述待采集页面的元数据字段模板,并配置所述元数据字段模板内的每个元数据字段的所述页面数据提取和处理规则。
进一步地,所述存储数据库采用键值对的存储模式对所述已采集数据进行自定义存储。
进一步地,所述分类标引模块还包括排重单元,所述排重单元根据自定义的来源网站优先级列表,对所述已采集数据进行相似度排重,以保留优先级高的所述来源网站的所述已采集数据。
进一步地,所述配置程序包括辅助配置脚本,当点选所述待配置页面的节点时,所述辅助配置脚本生成可视化编辑框,以采集或标引所述元数据字段的信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于同方知网(北京)技术有限公司,未经同方知网(北京)技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911050220.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:网页顶部导航菜单的显示方法及系统
- 下一篇:页岩气储层水平应力计算方法及系统