[发明专利]基于流量镜像的数据库自学习优化方法及装置有效
申请号: | 201910307572.7 | 申请日: | 2019-04-17 |
公开(公告)号: | CN110134665B | 公开(公告)日: | 2021-05-25 |
发明(设计)人: | 周坤龙 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/25 |
代理公司: | 北京润平知识产权代理有限公司 11283 | 代理人: | 肖冰滨;王晓晓 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 流量 数据库 自学习 优化 方法 装置 | ||
1.一种基于流量镜像的数据库自学习优化方法,所述自学习优化方法包括如下步骤:
S1)通过自适应学习方法获取待优化数据库的最新数据库配置参数,将所述最新数据库配置参数发送给训练数据库;
S2)建立与所述待优化数据库的数据库模型一致的数据库镜像模型,并将所述数据库镜像模型发送给所述训练数据库;
S3)建立与所述待优化数据库接收到的流量模型一致的流量镜像模型,将所述流量镜像模型中的流量按其倍数调整,并将调整后的流量镜像模型发送给所述训练数据库;
S4)获取反馈自所述训练数据库的训练结果;
S5)根据所述训练数据库的训练结果更新所述待优化数据库的数据库配置参数;
S6)重复执行步骤S1)~S5)R次,获取所述R次的训练结果中所述训练数据库的TPS吞吐量为最大值时的最新数据库配置参数,并将该最新数据库配置参数作为数据库最终配置参数配置给所述待优化数据库。
2.根据权利要求1所述的自学习优化方法,其特征在于,所述步骤S1)中,所述待优化数据库为含训练数据的待优化数据库、不含训练数据的待优化数据库和训练数据不足的待优化数据库中的一者;所述训练数据包括所述待优化数据库的数据库原始配置参数和TPS吞吐量。
3.根据权利要求2所述的自学习优化方法,其特征在于,在所述待优化数据库为含训练数据的待优化数据库的情况下,所述步骤S1)中的自适应学习方法实现步骤为:
S11)训练数据获取:对于具有K个数据库原始配置参数的待优化数据库,采用随机采样的方式在所述K个数据库原始配置参数的每个数据库原始配置参数的可选范围内选取一个值作为随机数据库配置参数;随机采样N组,组成N组随机数据库配置参数,每组包含K个随机数据库配置参数;使用所述N组随机数据库配置参数中的每一组随机数据库配置参数启动数据库实例,进行流量回放性能测试,获取每一组随机数据库配置参数的TPS吞吐量;
S12)训练数据特征化:对步骤S11)中获取的N组随机数据库配置参数进行特征向量化,建立特征矩阵;
S13)选取关键参数:使用高斯过程回归,从N组随机数据库配置参数中选取对TPS吞吐量影响力最大的M个随机数据库配置参数,为所述特征矩阵降维,获得参数配置与TPS结果模型,所述参数配置与TPS结果模型用于描述M个随机数据库配置参数与TPS吞吐量之间的关系;所述M是小于K的正整数;
S14)推荐配置参数:使用所述参数配置与TPS结果模型推荐所述最新数据库配置参数。
4.根据权利要求2所述的自学习优化方法,其特征在于,在所述待优化数据库为不含训练数据或训练数据不足的待优化数据库的情况下,所述步骤S1)中的自适应学习方法为采用深度强化学习模型获取所述最新数据库配置参数。
5.根据权利要求1所述的自学习优化方法,其特征在于,所述步骤S4)中,所述训练结果包括:TPS吞吐量、时延、CPU消耗、内存消耗和IO消耗。
6.根据权利要求1所述的自学习优化方法,其特征在于,所述训练数据库有P个,步骤S1)包括同时将P个不同的最新数据库配置参数分别发送给所述P个训练数据库;步骤S4)包括获取反馈自所述P个训练数据库的训练结果;步骤S5)包括根据所述P个训练数据库的训练结果更新所述待优化数据库的数据库配置参数。
7.根据权利要求1所述的自学习优化方法,其特征在于,步骤S6)中,所述数据库最终配置参数为支持在线调整类参数或重启数据库实例类参数;在所述数据库最终配置参数为支持在线调整类参数的情况下,步骤S6)还包括:自动将所述数据库最终配置参数配置给所述待优化数据库,并持续记录所述待优化数据库的负载情况;
在所述数据库最终配置参数为重启数据库实例类参数的情况下,步骤S6)还包括:由数据库管理人员将所述数据库最终配置参数配置给所述待优化数据库,以及重启所述待优化数据库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910307572.7/1.html,转载请声明来源钻瓜专利网。