[发明专利]一种大数据覆盖率采集分析方法在审
申请号: | 201810444688.0 | 申请日: | 2018-05-10 |
公开(公告)号: | CN108664606A | 公开(公告)日: | 2018-10-16 |
发明(设计)人: | 高强 | 申请(专利权)人: | 北京鼎泰智源科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京中企鸿阳知识产权代理事务所(普通合伙) 11487 | 代理人: | 郭鸿雁 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据源 客户定制 目标领域 搜索 领域数据 智能引擎 大数据 通用 覆盖率分析 覆盖率 采集 客户需求 收集效率 数据量 两级 分析 配置 | ||
1.一种大数据覆盖率采集分析方法,其特征在于,包括如下步骤:
步骤S1,对目标领域数据源进行分析,根据分析结果划分为常备通用领域数据或客户定制领域数据;
步骤S2,在所述常备通用领域中,根据数据量的数据源、权威性、收集难易度和主站及子站的优先级,将数据源的收集优先级划分为五级;
步骤S3,在所述客户定制领域中,根据客户需求高低、需求明确程度和数据量,将数据源的收集优先级划分为两级;
步骤S4,根据所述步骤S2和步骤S3划分的优先级,采用智能引擎搜索的方式对数据源进行收集,其中,采用智能引擎搜索对数据源进行搜索,完成对数据源的初步收集,包括如下步骤:配置URL规则、名称Name规则和主体body规则,然后开始采集任务;
步骤S5,计算常备通用领域数据的覆盖率或者客户定制领域数据的覆盖率,其中,
常备通用领域数据覆盖率总分值=国家级数据源分值*国家级权值+大省大市级数据源分值*大省大市级权值+全省大市级数据源*全省大市级权值+全部地市级数据源分值*全部地市级权值+全部区县级数据源*全部区县级权值;
客户定制领域数据覆盖率总分值=定向定制级数据源分值*定向定制级权值+非必需级数据源分值*非必需级权值。
2.如权利要求1所述的大数据覆盖率采集分析方法,其特征在于,在所述步骤S2中,所述将数据源的收集优先级划分为五级,由高到低依次为:
国家级:最高院、最高主管部门、最高机构发布的数据源;
大省大市级:十大省份/直辖市/副省级市的法院、主管部门、主管机构发布的数据源;
全省大市级:大省大市以外的全部省级和省会城市级的法院、主管部门、主管机构发布的数据源;
全部地市级:大市以外的全部地级市的法院、主管部门、主管机构发布的数据源;
全部区县级:全部县级市、县、镇级的法院,主管部门、主管机构发布的数据源。
3.如权利要求1所述的大数据覆盖率采集分析方法,其特征在于,在所述步骤S3中,将数据源的收集优先级划分为两级,由高到低依次为:
定向定制级:客户已明确提出的数据源;
非必需级:非客户提出,存在的其他数据源。
4.如权利要求1所述的大数据覆盖率采集分析方法,其特征在于,在所述步骤S4中,当监控出现新的数据源时,设置定期检测任务,由系统自动进行检测,自动补齐增量数据源,根据目标领域数据源整体变化的频繁度,设置不同的检测周期。
5.如权利要求4所述的大数据覆盖率采集分析方法,其特征在于,所述检测周期,包括:
1)数据源频繁增加的领域设置为每周全网域搜索检测一次;
2)数据源偶尔增加的领域设置为每月全网域搜索检测一次。
6.如权利要求1所述的大数据覆盖率采集分析方法,其特征在于,所述步骤S4,还包括:在智能引擎搜索的基础上,采用人工作业方式对数据源进行补充收集,以及由人工方式对所述智能引擎搜索得到的数据判断是否有效。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京鼎泰智源科技有限公司,未经北京鼎泰智源科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810444688.0/1.html,转载请声明来源钻瓜专利网。