[发明专利]基于Spark技术的计量设备典型运行曲线评估方法及系统在审
申请号: | 201810866008.4 | 申请日: | 2018-08-01 |
公开(公告)号: | CN109376132A | 公开(公告)日: | 2019-02-22 |
发明(设计)人: | 许灵洁;郭鹏;陈骁;沈建良;张卫华;吕几凡;李航康;方良飞;严华江;何文林;楼平;韩中杰;魏泽民;范金玉 | 申请(专利权)人: | 国网浙江省电力有限公司电力科学研究院;国网浙江省电力有限公司湖州供电公司;国网浙江省电力有限公司嘉兴供电公司;国家电网有限公司;国网信息通信产业集团有限公司;福建亿榕信息技术有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/26;G06F16/28 |
代理公司: | 浙江翔隆专利事务所(普通合伙) 33206 | 代理人: | 张建青 |
地址: | 310014 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计量设备 运行数据 典型曲线 聚类 聚类分析 运行曲线 挖掘 评估 计量 可靠性分析手段 不同环境条件 机器学习算法 分布式运行 可视化技术 并行计算 海量数据 离线计算 数据存储 运行结果 运行趋势 可视化 应用 参考 分析 研究 | ||
1.基于Spark技术的计量设备典型运行曲线评估方法,其特征在于,包括步骤:
1)基于HDFS的分布式运行数据存储:通过构建虚拟情况下的HDFS分布式文件存储系统实现海量计量设备运行数据的统一规范存储,包含2个数据存储节点及1个管理节点;
2)基于Spark并行计算框架的MLlib机器学习算法应用:基于海量的计量设备运行数据,采用Spark离线计算的方式进行聚类挖掘分析,生成计量设备典型环境下运行的典型聚类曲线;
3)基于可视化技术实现计量运行数据典型曲线聚类可视化。
2.根据权利要求1所述的计量设备典型运行曲线评估方法,其特征在于,步骤1)中,选择应用点的计量设备,基于MOBUS协议读取运行环境、比差和电能数据进行关系型数据库写入操作,通过Sqoop进行各个应用点数据整合,实现从关系型数据库到HDFS分布式文件存储系统的转换统一存储。
3.根据权利要求1所述的计量设备典型运行曲线评估方法,其特征在于,所述的步骤2)具体包括:
21)构建海量计量设备运行数据的HDFS分布式存储数据库,为典型曲线的聚类计算提供数据;
22)实例化RDD对象并建立基于聚类算法的计量曲线提取模式;
23)构建spark聚类任务运算机制。
4.根据权利要求3所述的计量设备典型运行曲线评估方法,其特征在于,所述步骤22)中,
基于Spark并行计算框架实例化聚类分析所需的计量设备运行数据成为RDD对象,RDD为弹性分布式数据集,是分布式内存的对象,将数据保存在内存中且能极大地提高运算中间结果读写性能;MLlib提供聚类的算法,将计量设备运行数据以环境区间范围为单位,将每个类别的时间点数据进行24点聚类分析,进而计算其日典型运行曲线。
5.根据权利要求3所述的计量设备典型运行曲线评估方法,其特征在于,所述步骤23)中,所述的运算机制包括MLlib聚类算法和RDD对象任务分解计算与汇总输出。
6.根据权利要求1所述的计量设备典型运行曲线评估方法,其特征在于,所述步骤3)的具体内容如下:计量设备典型运行曲线图以X轴为时间坐标,Y轴为相对数坐标;相对数即最高值作为1,相应的其它时间点的运行数据值与最高值的比值,得到Y轴的数值。
7.基于Spark技术的计量设备典型运行曲线评估系统,其特征在于,包括数据存储模块、Spark聚类计算模块和可视化模块;
数据存储模块:通过构建虚拟情况下的HDFS分布式文件存储系统实现海量计量设备运行数据的统一规范存储,包含2个数据存储节点及1个管理节点;
Spark聚类计算模块:基于海量的计量设备运行数据,采用Spark离线计算的方式进行聚类挖掘分析,生成计量设备典型环境下运行的典型聚类曲线;
可视化模块:基于可视化技术实现计量运行数据典型曲线聚类可视化。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国网浙江省电力有限公司电力科学研究院;国网浙江省电力有限公司湖州供电公司;国网浙江省电力有限公司嘉兴供电公司;国家电网有限公司;国网信息通信产业集团有限公司;福建亿榕信息技术有限公司,未经国网浙江省电力有限公司电力科学研究院;国网浙江省电力有限公司湖州供电公司;国网浙江省电力有限公司嘉兴供电公司;国家电网有限公司;国网信息通信产业集团有限公司;福建亿榕信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810866008.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种日志分布式部署保存方法、装置及系统
- 下一篇:文件访问方法及文件访问系统