[发明专利]一种飞行器海量传感器试验数据的快速处理方法有效
申请号: | 201711339536.6 | 申请日: | 2017-12-14 |
公开(公告)号: | CN108132986B | 公开(公告)日: | 2020-06-16 |
发明(设计)人: | 高健;杨浩;房红征;汪家全;罗凯;王晓栋;杜方洲;余家豪 | 申请(专利权)人: | 北京航天测控技术有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/10 |
代理公司: | 北京方安思达知识产权代理有限公司 11472 | 代理人: | 陈琳琳;武玥 |
地址: | 100041 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种飞行器海量传感器试验数据的快速处理方法,所述方法包括:步骤1)采集飞行器传感器下传的原始并行数据,对并行数据进行切割,生成若干个原始数据包,上传至HDFS文件;步骤2)对原始数据包进行数据解析,得到时间对齐后的标准化数据;步骤3)将时间对齐后的标准化数据进行导出,生成列式数据,将每一列的数据分配到spark集群的每个计算机中进行分布式计算。本发明的方法可以尽可能减少分布式计算集群之间的数据通信,所有线程能够在互不干扰的情况下共享相同的资源,进而显著提高数据处理的速度;此外,本发明的方法能够提高飞行器试验数据处理的效率,缩短两次试验的时间间隔。 | ||
搜索关键词: | 一种 飞行器 海量 传感器 试验 数据 快速 处理 方法 | ||
【主权项】:
一种飞行器海量传感器试验数据的快速处理方法,所述方法包括:步骤1)采集飞行器传感器下传的原始并行HDFS数据,对并行数据进行切割,生成若干个原始数据包,上传至HDFS文件;步骤2)对原始数据包进行数据解析,得到时间对齐后的标准化数据;步骤3)将时间对齐后的标准化数据进行导出,生成列式数据,将每一列的数据分配到spark集群的每个计算机中进行分布式计算。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航天测控技术有限公司,未经北京航天测控技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711339536.6/,转载请声明来源钻瓜专利网。
- 上一篇:一种智慧安全生产监管执法系统
- 下一篇:一种数据查询系统及方法