[发明专利]基于数据同步的压测方法、装置、计算机设备及存储介质在审
| 申请号: | 202011504827.8 | 申请日: | 2020-12-18 |
| 公开(公告)号: | CN112631884A | 公开(公告)日: | 2021-04-09 |
| 发明(设计)人: | 丁勇 | 申请(专利权)人: | 平安普惠企业管理有限公司 |
| 主分类号: | G06F11/34 | 分类号: | G06F11/34;G06F16/27 |
| 代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 汪琳琳 |
| 地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 数据 同步 方法 装置 计算机 设备 存储 介质 | ||
本申请公开了一种基于数据同步的压测方法、装置、计算机设备及存储介质,属于云技术领域,所述方法通过接收用户输入的压力测试请求,其中,压力测试请求包含模板数据、测试数据生成条件和测试指令,发送模板数据至源数据库,判断源数据库中是否存在与模板数据相匹配的历史数据,若存在,则发送模板数据和测试数据生成条件至造数平台,并指示造数平台基于模板数据和测试数据生成条件生成测试数据,发送测试指令和测试数据至kafka集群,并指示kafka集群进行压力测试,生成测试结果。此外,本申请还涉及区块链技术,压力测试请求可存储于区块链中。本申请不需要在源数据库进行批量造数,因此不会在源数据库中制造大量脏数据,保证了整个系统的稳定性。
技术领域
本申请属于云技术领域,具体涉及一种基于数据同步的压测方法、装置、计算机设备及存储介质。
背景技术
目前IT行业,由于大数据的流行和去IOE的普及,越来越多的公司期望将公司的业务数据落库到大数据环境当中。其中,ORACLE公司的OGG工具可以将oracle数据库中的数据同步到大数据环境,如通过OGG工具可以将oracle数据库中的数据同步到kafka集群。
在将oracle数据库中的数据同步到kafka的过程中,时常需要对kafka进行压力测试,现有的压力测试方式主要是通过在源数据库进行批量造数,以获得大量测试数据,然后再通过OGG链路同步测试数据到模板数据库,即通过OGG链路同步测试数据到kafka。但这样的操作一方面会耗费大量的时间在测试数据的传输上,同时会造成源数据库中有大量脏数据,等测试数据完全同步到kafka后,源数据库中有脏数据还需要测试人员手动删除,否则影响数据库性能,而由于测试数据量较大,测试数据在传输过程中,测试环境的链路容易因此中断,导致测试终止。
发明内容
本申请实施例的目的在于提出一种基于数据同步的压测方法、装置、计算机设备及存储介质,以解决现有的kafka集群压力测试方式需要在源数据库进行批量造数,造成源数据库中有大量脏数据,影响数据库性能的技术问题。
为了解决上述技术问题,本申请实施例提供一种基于数据同步的压测方法,采用了如下所述的技术方案:
一种基于数据同步的压测方法,其中,基于数据同步的压测方法应用于kafka集群的压力测试系统,kafka集群的压力测试系统包括源数据库、kafka集群和OGG链路,OGG链路用于连接源数据库和kafka集群,还包括造数平台,基于数据同步的压测方法具体包括:
接收用户输入的压力测试请求,其中,压力测试请求包含模板数据、测试数据生成条件和测试指令;
发送模板数据至源数据库,遍历存储在源数据库中的历史数据,判断源数据库中是否存在与模板数据相匹配的历史数据;
若存在,则发送模板数据和测试数据生成条件至造数平台,并指示造数平台基于模板数据和测试数据生成条件生成测试数据;
发送测试指令和测试数据至kafka集群,并指示kafka集群根据测试指令和测试数据进行压力测试,生成测试结果。
进一步的,发送模板数据至源数据库,遍历存储在源数据库中的历史数据,判断源数据库中是否存在与模板数据相匹配的历史数据的步骤,具体包括:
对模板数据进行解析,获取模板数据的格式信息;
遍历存储在源数据库中的历史数据,基于模板数据的格式信息,对模板数据与存储在源数据库中的所有历史数据进行格式比对;
根据比对结果判断源数据库中是否存在与模板数据相匹配的历史数据。
进一步的,在根据比对结果判断源数据库中是否存在与模板数据相匹配的历史数据之后,还包括:
若在源数据库中不存在与模板数据的格式完全一致历史数据,则计算模板数据与存储在源数据库中的所有历史数据的相似度;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安普惠企业管理有限公司,未经平安普惠企业管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011504827.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种具有移动功能的机器人
- 下一篇:一种道路施工用注浆机械及操作方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置





