[发明专利]一种大数据覆盖率采集分析方法在审
申请号: | 201810444688.0 | 申请日: | 2018-05-10 |
公开(公告)号: | CN108664606A | 公开(公告)日: | 2018-10-16 |
发明(设计)人: | 高强 | 申请(专利权)人: | 北京鼎泰智源科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京中企鸿阳知识产权代理事务所(普通合伙) 11487 | 代理人: | 郭鸿雁 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提出了一种大数据覆盖率分析方法,包括:对目标领域的数据源进行分析,根据分析结果划分为常备通用领域数据或客户定制领域数据;在常备通用领域中,将数据源的收集优先级划分为五级;在客户定制领域中,根据客户需求高低、需求明确程度和数据量,将数据源的收集优先级划分为两级;采用智能引擎搜索的方式对数据源进行收集,其中,采用智能引擎搜索对数据源进行搜索,完成对数据源的初步收集,包括:配置URL规则、名称Name规则和主体body规则,然后开始采集任务;分别计算常备通用领域和客户定制领域中数据源的覆盖率。本发明对目标领域的数据源划定收集优先级,从而解决目标领域数据源太多,短期内无法收集完全的问题,提高收集效率。 | ||
搜索关键词: | 数据源 客户定制 目标领域 搜索 领域数据 智能引擎 大数据 通用 覆盖率分析 覆盖率 采集 客户需求 收集效率 数据量 两级 分析 配置 | ||
【主权项】:
1.一种大数据覆盖率采集分析方法,其特征在于,包括如下步骤:步骤S1,对目标领域数据源进行分析,根据分析结果划分为常备通用领域数据或客户定制领域数据;步骤S2,在所述常备通用领域中,根据数据量的数据源、权威性、收集难易度和主站及子站的优先级,将数据源的收集优先级划分为五级;步骤S3,在所述客户定制领域中,根据客户需求高低、需求明确程度和数据量,将数据源的收集优先级划分为两级;步骤S4,根据所述步骤S2和步骤S3划分的优先级,采用智能引擎搜索的方式对数据源进行收集,其中,采用智能引擎搜索对数据源进行搜索,完成对数据源的初步收集,包括如下步骤:配置URL规则、名称Name规则和主体body规则,然后开始采集任务;步骤S5,计算常备通用领域数据的覆盖率或者客户定制领域数据的覆盖率,其中,常备通用领域数据覆盖率总分值=国家级数据源分值*国家级权值+大省大市级数据源分值*大省大市级权值+全省大市级数据源*全省大市级权值+全部地市级数据源分值*全部地市级权值+全部区县级数据源*全部区县级权值;客户定制领域数据覆盖率总分值=定向定制级数据源分值*定向定制级权值+非必需级数据源分值*非必需级权值。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京鼎泰智源科技有限公司,未经北京鼎泰智源科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810444688.0/,转载请声明来源钻瓜专利网。