[发明专利]一种基于配置的大数据监控方法及装置有效
申请号: | 201611107016.8 | 申请日: | 2016-12-06 |
公开(公告)号: | CN106776974B | 公开(公告)日: | 2019-08-20 |
发明(设计)人: | 张伟昌;许晓炼;何伟强;谢炬成 | 申请(专利权)人: | 广东金赋科技股份有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/25 |
代理公司: | 北京易捷胜知识产权代理事务所(普通合伙) 11613 | 代理人: | 齐胜杰 |
地址: | 528200 广东省佛山市南海区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 配置 数据 监控 方法 装置 平台 | ||
1.一种基于配置的大数据监控方法,其特征在于,所述方法包括:
101,获取离散的非结构化的原生态的原始数据;
102,对所述原始数据进行预处理;
103,确定预处理后数据中的结构项;
104,根据配置文件对所述结构项进行结构拼接,形成统一数据结构的最终数据;
105,发布所述最终数据;
步骤103具体包括:
103-1,确定预处理后数据的数据项总数量L;
103-2,根据如下公式确定预处理后数据中的各数据项的结构概率P;
其中,Wn为第n个数据项的权重值,i为第i个数据项,fn为预处理后数据中第n个数据项的有效数据量,L为预处理后数据的数据项总数量;
103-3,将结构概率大于预设阈值的数据项确定为结构项。
2.根据权利要求1所述的方法,其特征在于,步骤102具体包括:
对所述原始数据进行去噪处理。
3.根据权利要求1所述的方法,其特征在于,步骤104具体包括:
104-1,根据配置文件确定各结构项之间的结构关系;
104-2,根据结构关系对各结构项进行拼接,形成统一数据结构的最终数据;
所述结构关系包括隶属关系、相邻关系、交叉关系、同级关系、关联关系、主键关系、引用关系。
4.一种基于配置的大数据监控装置,其特征在于,所述装置包括:
获取单元,用于获取离散的非结构化的原生态的原始数据;
预处理单元,用于对所述原始数据进行预处理;
确定单元,用于确定预处理后数据中的结构项;
拼接单元,用于根据配置文件对所述结构项进行结构拼接,形成统一数据结构的最终数据;
发布单元,用于发布所述最终数据;
所述确定单元,包括:
第一确定子单元,用于确定预处理后数据的数据项总数量L;
第二确定子单元,用于根据如下公式确定预处理后数据中的各数据项的结构概率P;
其中,Wn为第n个数据项的权重值,i为第i个数据项,fn为预处理后数据中第n个数据项的有效数据量,L为预处理后数据的数据项总数量;
第三确定子单元,用于将结构概率大于预设阈值的数据项确定为结构项。
5.根据权利要求4所述的装置,其特征在于,所述预处理单元,用于对所述原始数据进行去噪处理。
6.根据权利要求4所述的装置,其特征在于,所述拼接单元,包括:
确定子单元,用于根据配置文件确定各结构项之间的结构关系;
拼接子单元,用于根据结构关系对各结构项进行拼接,形成统一数据结构的最终数据;
所述结构关系包括隶属关系、相邻关系、交叉关系、同级关系、关联关系、主键关系、引用关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东金赋科技股份有限公司,未经广东金赋科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611107016.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置