[发明专利]基于Kafka的实时数据解析订阅处理方法和装置在审
| 申请号: | 202010835457.X | 申请日: | 2020-08-19 |
| 公开(公告)号: | CN111930861A | 公开(公告)日: | 2020-11-13 |
| 发明(设计)人: | 岑勇;黄琎 | 申请(专利权)人: | 上海繁易信息科技股份有限公司 |
| 主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F21/62;H04L29/06;H04L29/08 |
| 代理公司: | 上海集信知识产权代理有限公司 31254 | 代理人: | 洪玲 |
| 地址: | 200433 上海市杨浦区*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 kafka 实时 数据 解析 订阅 处理 方法 装置 | ||
1.一种基于Kafka的实时数据解析订阅处理方法,其特征在于,包括步骤如下:
步骤1:订阅端向云端服务器发送订阅数据模型;
步骤2:订阅端与服务端建立数据推送通道;
步骤3:服务端接收用户数据并进行权限校验;
步骤4:服务端校验后发送消息给中间件进行数据转发;
步骤5:服务端的订阅关系部分通过消息中间件接收订阅关系并进行本地存储;
步骤6:服务端的数据解析部分在接收到数据后上报中间件;
步骤7:服务端的数据分发部分接收数据后与订阅关系进行数据合并处理;
步骤8:服务端向订阅端发送实时数据。
2.如权利要求1所述的一种基于Kafka的实时数据解析订阅处理方法,其特征在于,所述步骤3中的权限校验是用户订阅关系的合法性校验。
3.如权利要求1所述的一种基于Kafka的实时数据解析订阅处理方法,其特征在于,所述步骤4中的中间件为Kafka集群服务器。
4.如权利要求1所述的一种基于Kafka的实时数据解析订阅处理方法,其特征在于,所述步骤5中的服务端的订阅关系部分通过消息中间件接收订阅关系包括以下步骤:
S51:订阅端向云端服务器发起订阅关系;
S52:服务器进行设备权限判断并进行订阅关系处理;
S53:通过Kafka消费用户订阅关系;
S54:存储用户关系模型数据至本地库;
S55:存储用户关系模型数据进行数据库存储。
5.如权利要求1所述的一种基于Kafka的实时数据解析订阅处理方法,其特征在于,所述步骤7包括以下步骤:
S71:设备端发送用户数据;
S72:服务端进行数据解析;
S73:服务端加载订阅关系模型;
S74:服务端进行数据解析成用户所要的数据后进行与订阅关系进行复合运算;
S75:服务端对用户数据进行过滤筛选;
S76:服务端将用户数据上传至Kafka;
S77:由云端服务器发送进行消费Kafka中数据后根据用户进行数据转发。
6.如权利要求1所述的一种基于Kafka的实时数据解析订阅处理方法,其特征在于,所述步骤8中的实时数据是指设备数据,即设备终端上报的数据,设备终端上报的数据通过物联网网关上报给服务器。
7.一种基于Kafka的实时数据解析订阅处理方法的装置,其特征在于,包括:
数据推送模块,用于与服务端建立数据推送通道;
权限校验模块,用于接收用户数据并进行权限校验;
数据转发模块,用于发送消息给Kafka进行数据转发;
数据解析模块,用于对用户数据解析;
存储模块,用于存储用户订阅关系;
复合运算模块,用于对数据解析成用户所要的数据后进行与订阅关系进行复合运算;
过滤筛选模块,用于对用户所要的数据进行过滤筛选。
8.一种基于Kafka的实时数据解析订阅处理方法的系统,其特征在于,包括:
数据源端,用于读取消息队列中Kafka缓存的消息,加上临时缓存一天数据的量,并在客户端解析Kafka缓存消息后,将解析后的Kafka缓存消息存储在上述存储模块中;
客户端,用于初始化后,解析Kafka缓存消息的内容。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海繁易信息科技股份有限公司,未经上海繁易信息科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010835457.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种垂吊式试验平台
- 下一篇:一种机械零部件卡接固定连接件
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





