[发明专利]数据解析分发装置及高并发数据处理方法有效
申请号: | 201910010874.8 | 申请日: | 2019-01-07 |
公开(公告)号: | CN109783255B | 公开(公告)日: | 2021-02-23 |
发明(设计)人: | 梁磊;陈琦 | 申请(专利权)人: | 中国银行股份有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 李辉 |
地址: | 100818 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 解析 分发 装置 并发 数据处理 方法 | ||
1.一种数据解析分发装置,其特征在于,所述装置包括一个或者多个父线程、缓存队列管理器、缓存队列以及各缓存队列对应的子线程,其中,
所述父线程用于并列从上游服务器捞取待处理交易数据;
所述缓存队列管理器与所述父线程一一对应,用于设置各缓存队列对应的子线程数目,以及将父线程捞取的待处理交易数据放入所述缓存队列中;
所述缓存队列的数目与所述数据解析分发装置对应的下游系统应用数目相同,且各缓存队列与所述下游系统应用一一对应;
所述子线程用于从对应的缓存队列中捞取待处理交易数据,并逻辑加工处理成相应下游系统应用接口格式的数据,以及将逻辑加工处理后的数据发送给相应的下游系统应用。
2.根据权利要求1所述的数据解析分发装置,其特征在于,所述父线程以及子线程的数目根据数据解析分发处理装置布设的服务器的硬件配置及资源使用情况进行动态调整。
3.根据权利要求1所述的数据解析分发装置,其特征在于,所述缓存队列及子线程中的数据根据预设资源动态释放机制进行清空处理,所述预设资源动态释放机制包括根据服务器内存使用情况及数据发送次数进行数据清空处理。
4.根据权利要求1所述的数据解析分发装置,其特征在于,所述缓存队列管理器用于将父线程捞取的待处理交易数据根据预设策略放入所述缓存队列中,所述预设策略包括根据上游服务器参数及缓存队列存储空间动态调整放入缓存队列中的数据量。
5.一种基于权利要求1-4任一项所述的数据解析分发装置的高并发数据处理方法,其特征在于,包括:
利用所述父线程并列从上游服务器捞取待处理交易数据,并通过所述缓存队列管理器将所述待处理交易数据放入缓存队列;
所述缓存队列的子线程从所述缓存队列中读取待处理交易数据,并将待处理交易数据进行逻辑加工处理,获得所述缓存队列对应的下游系统应用接口格式的数据;
所述缓存队列的子线程将逻辑加工处理后的数据根据数据的接口格式发送给对应的下游系统应用。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
根据预设资源动态释放机制对所述缓存队列或子线程的缓存对象中的数据进行清空处理,所述预设资源动态释放机制包括根据服务器内存使用情况及数据发送次数进行数据清空处理。
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:
根据服务器的硬件配置以及资源使用情况动态调整所述父线程或者子线程的个数。
8.根据权利要求5所述的方法,其特征在于,所述将所述待处理交易数据放入缓存队列,包括:
所述缓存队列管理器将所述待处理交易数据根据预设策略放入所述缓存队列中,所述预设策略包括根据上游服务器参数及缓存队列存储空间动态调整放入缓存队列中的数据量。
9.一种高并发数据处理装置,其特征在于,所述装置包括:
数据捞取模块,用于利用父线程并列从上游服务器捞取待处理交易数据,并通过父线程对应的缓存队列管理器将所述待处理交易数据放入缓存队列,所述缓存队列与下游系统应用一一对应;
数据解析模块,用于所述缓存队列的子线程从所述缓存队列中读取待处理交易数据,并将待处理交易数据进行逻辑加工处理,获得所述缓存队列对应的下游系统应用接口格式的数据;
数据发送模块,用于所述缓存队列的子线程将逻辑加工处理后的数据根据数据的接口格式发送给对应的下游系统应用。
10.根据权利要求9所述的高并发数据处理装置,其特征在于,所述装置还包括:
数据清空模块,用于根据预设资源动态释放机制对所述缓存队列或子线程的缓存对象中的数据进行清空处理,所述预设资源动态释放机制包括根据服务器内存使用情况及数据发送次数进行数据清空处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国银行股份有限公司,未经中国银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910010874.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置