[发明专利]一种数据处理方法以及相关设备有效
| 申请号: | 201910575638.0 | 申请日: | 2019-06-28 |
| 公开(公告)号: | CN110347708B | 公开(公告)日: | 2023-06-30 |
| 发明(设计)人: | 刘新;潘洋 | 申请(专利权)人: | 深圳市元征科技股份有限公司 |
| 主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/25 |
| 代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
| 地址: | 518000 广东省深圳市龙*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 数据处理 方法 以及 相关 设备 | ||
1.一种数据处理方法,其特征在于,包括:
服务器接收终端设备发送的终端数据,所述终端数据包括多个子数据;
所述服务器获取对所述终端数据的处理逻辑信息;其中,所述处理逻辑信息包括多个数据流转路径、数据逻辑图,每个数据流转路径对应处理一个子数据,所述多个数据流转路径和所述多个子数据之间的映射关系是预设的;其中,每个所述数据流转路径的组成节点的类型是任意组合的,每个所述数据流转路径所包括的节点数量各不相同,且每个所述数据流转路径中的各个节点的逻辑顺序是任意的;
所述服务器根据各个子数据对应的数据流转路径,对所述各个子数据进行处理;
其中,所述服务器获取对所述终端数据的处理逻辑信息,包括:所述服务器接收客户端发送的数据逻辑图,所述数据逻辑图表征对所述终端数据中的每个子数据的抽取、过滤、转换规则,所述抽取、过滤、转换规则是通过用户在所述客户端编辑获得的;所述服务器根据深度优先遍历算法遍历所述数据逻辑图,从而获得所述多个数据流转路径。
2.根据权利要求1所述的方法,其特征在于,所述多个数据流转路径中的任一数据流转路径包括数据抽取结点,数据过滤结点以及数据转化结点中的一个或多个,其中所述数据抽取节点用于从所述终端数据中抽取目标子数据,所述数据过滤结点用于剔除所述目标子数据中的无效数值,所述数据转化结点用于根据预设格式转化所述目标子数据。
3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
所述服务器将处理后的各个子数据存储至数据库中;
所述服务器统计所述数据库中的各个子数据,获得所述各个子数据的统计结果;
所述服务器向所述客户端发送各个子数据的统计结果。
4.根据权利要求1所述的方法,其特征在于,在所述服务器获取对所述终端数据的处理逻辑信息之前,所述方法还包括:
所述服务器向所述客户端发送前端界面,所述前端界面用于提供用户编辑所述数据逻辑图的操作环境。
5.根据权利要求1或2所述的方法,其特征在于,所述服务器根据各个子数据对应的数据流转路径,对所述各个子数据进行处理,包括:
所述服务器在Spark Streaming流式计算框架下,根据各个子数据对应的数据流转路径,对所述各个子数据进行处理。
6.根据权利要求1或2或4所述的方法,其特征在于,所述服务器根据深度优先遍历算法遍历所述数据逻辑图,从而获得所述多个数据流转路径,包括:
所述服务器根据深度优先遍历算法遍历数据逻辑图中的第一分支,直至遍历至所述第一分支的终止节点;
所述服务器从所述终止节点回溯至所述第一分支的起始节点后,根据所述深度优先遍历算法遍历所述数据逻辑图中的第二分支,所述第二分支是所述第一分支的下一分支。
7.一种数据处理装置,其特征在于,包括:
通信模块,用于接收终端设备发送的终端数据,所述终端数据包括多个子数据;
获取模块,用于获取对所述终端数据的处理逻辑信息;其中,所述处理逻辑信息包括多个数据流转路径、数据逻辑图,每个数据流转路径对应处理一个子数据,所述多个数据流转路径和所述多个子数据之间的映射关系是预设的;其中,每个所述数据流转路径的组成节点的类型是任意组合的,每个所述数据流转路径所包括的节点数量各不相同,且每个所述数据流转路径中的各个节点的逻辑顺序是任意的;
处理模块,用于根据各个子数据对应的数据流转路径,对所述各个子数据进行处理;
所述获取模块,具体用于接收客户端发送的数据逻辑图,所述数据逻辑图表征对所述终端数据中的每个子数据的抽取、过滤、转换规则,所述抽取、过滤、转换规则是通过用户在所述客户端编辑获得的;根据深度优先遍历算法遍历所述数据逻辑图,从而获得所述多个数据流转路径。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市元征科技股份有限公司,未经深圳市元征科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910575638.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:更新高速缓存数据
- 下一篇:数据提取方法、装置、设备及存储介质





