[发明专利]一种面向并发数据分析任务的性能瓶颈分析系统在审
申请号: | 202110632205.1 | 申请日: | 2021-06-07 |
公开(公告)号: | CN113535526A | 公开(公告)日: | 2021-10-22 |
发明(设计)人: | 李晖;闵圣天;丁玺润 | 申请(专利权)人: | 贵州优联博睿科技有限公司 |
主分类号: | G06F11/34 | 分类号: | G06F11/34;G06K9/62 |
代理公司: | 北京华创智道知识产权代理事务所(普通合伙) 11888 | 代理人: | 彭随丽 |
地址: | 550081 贵州省贵阳*** | 国省代码: | 贵州;52 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 并发 数据 分析 任务 性能 瓶颈 系统 | ||
1.一种面向并发数据分析任务的性能瓶颈分析系统,其特征在于:所述系统包括:PeBAO框架,用于对数据分析系统提供性能指标异常检测、任务性能瓶颈判定、瓶颈相关性分析和瓶颈优化建议功能。
2.根据权利要求1所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:PeBAO框架包括:
时间序列异常检测模块,用于对数据分析系统采集性能指标数据,识别异常时间序列,并将异常时间序列输出至性能瓶颈判定模块;
性能瓶颈判定模块,用于收集异常时间段内执行的所有数据分析任务,将查询语句的结构特征和执行特征输入随机森林分类算法,判定每个任务的性能瓶颈等级,并将中等级性能瓶颈和高等级性能瓶颈类别的任务集合发送至性能瓶颈相关性分析及优化模块;
性能瓶颈相关性分析及优化模块,用于对任务与瓶颈的相关程度和查询操作与瓶颈的相关程度进行了量化,并结合启发式规则为每个数据分析任务提供查询优化建议。
3.根据权利要求2所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:时间序列异常检测过程包括性能指标监控、时间序列数据获取、异常检测算法、时间序列异常判定和异常时间序列的输出。
4.根据权利要求3所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:异常检测算法的处理流程如下:
在时间序列异常检测模块获取一段数据分析系统的性能指标数据后,对性能指标数据进行数据清洗;
对清洗完成的性能指标数据进行模式分片处理,将整段时序数据划分为若干时间窗口,每一个时间窗口为一个模式;其中,模式分片包含了固定分片和动态分片两种方法;
提取每一个模式的时序特征,并根据相似性度量方法计算模式之间的距离;
根据模式之间的距离求取所有模式的相关因子和异常因子,用于量化每一个模式的异常程度。
5.根据权利要求4所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:时间序列异常判定可设置参数m和r,用于过滤异常时间序列;过滤过程为:对于连续的m个模式,其异常程度总是大于r,则将m个模式组成的时间序列区间输出为异常时间序列。
6.根据权利要求5所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:输出异常时间序列后,性能瓶颈判定模块获取异常时间区间内正在执行的数据分析任务进行性能瓶颈等级判定。
7.根据权利要求6所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:通过建立任务性能瓶颈判定模型对任务与性能瓶颈的相关性进行分析,任务性能瓶颈判定模型通过查询语句的性能特征判定查询语句的性能瓶颈等级,性能特征包括结构特征和执行特征。
8.根据权利要求7所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:性能瓶颈相关性分析及优化模块包括查询解析器和性能优化器;查询解析器包括SQL解析器和E×plain解析器。
9.根据权利要求8所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:性能优化器包括启发式规则库和性能瓶颈相关性量化方法;其中,启发式规则库中存储着众多数据库运维人员的运维经验和基本的数据库优化原则。
10.根据权利要求9所述的面向并发数据分析任务的性能瓶颈分析系统,其特征在于:性能瓶颈相关性分析及优化模块将SQL语句解析结果传输至启发式规则库中进行筛选,得出相应的SQL改写优化建议和索引优化建议。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贵州优联博睿科技有限公司,未经贵州优联博睿科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110632205.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置