[发明专利]一种改进贝叶斯优化的LightGBM故障诊断方法

权利要求书

1.一种改进贝叶斯优化的LightGBM故障诊断方法，其特征在于包括以下步骤：

1)确定LightGBM模型需要优化的超参数及超参数取值范围；

2)对贝叶斯优化算法进行改进，得到改进贝叶斯优化算法GP-ProbHedge；

步骤2)的对贝叶斯优化算法进行改进的步骤如下：

2.1)高斯过程改进：采用多策略组合形式的协方差函数用来同时捕捉目标函数的平滑性和振幅，协方差函数如式(1)所示：

其中，r＝|λ-λ′|，λ表示当前评估点，λ′表示下一个评估点，l为协方差函数的超参数，属于Matérn协方差函数簇，用来捕捉目标函数的波动情况；用来捕捉目标函数的长期变化趋势，ρ₁以及ρ₂分别为式中两项的系数，用来表示相应组合形式的协方差函数偏向于捕捉目标整体趋势或周期性；

超参数采用最大化边际似然的方法得到最优，具体如下：把式中ρ₁以及ρ₂作为超参数，则此组合形式的协方差函数中涉及到的超参数θ＝{ρ₁,ρ₂,l}通过最大化边际似然来优化，其log形式的边际似然如式(2)所示：

其中：y表示历史观测值，σ_n表示方差，I表示单位矩阵，k表示协方差函数，p表示概率；通过梯度下降方法来最大化上述边际似然，得到对θ的一个最优估计，使用最优的θ来更新高斯模型，便于下一步的迭代搜索最佳评估点；

2.2)采集函数改进：在贝叶斯优化算法GP-Hedge的基础上进行改进，得到改进后的采集函数GP-ProbHedge，所述采集函数在第t步迭代时，计算每种采集函数的最大值得到对应的候选点，并从所有候选点中选取最优的点，把每种采集函数的候选点与其有效概率相结合，把作为最佳评估点，式中N表示采集函数个数；

具体过程如下：首先设置参数η及初始累计收益然后根据每个采集函数计算对应的候选点λ_tⁱ，同时根据初始累计收益计算对应的有效概率p_t(j)，根据λ_tⁱ、p_t(j)及最终评估点的计算公式计算得到最佳评估点，最后更新原始数据集为D_t以及高斯模型的协方差超参数θ，并在更新此时的累计收益g_tⁱ之后进入下一轮迭代；

2.3)改进贝叶斯优化算法实现，包括如下计算步骤：

步骤2.3.1)根据提出的采集函数GP-ProbHedge计算方式，以及初始化5个超参数样本点，得到下一个最佳评估点λ_t；

步骤2.3.2)根据λ_t及高斯过程计算目标函数值y_t；

步骤2.3.3)使用历史样本D_1：t-1及新样本(λ_t,y_t)更新数据集为D_1：t；

步骤2.3.4)更新GP模型多策略组合形式协方差函数的超参数θ＝{ρ₁,ρ₂,l}；

步骤2.3.5)计算当前对应系数r_tⁱ及总收益g_tⁱ；

3)使用步骤2)的方法结合五折交叉验证方式选取故障诊断模型最优超参数组合；

4)构建改进贝叶斯优化LightGBM故障诊断模型，并给出模型迭代过程及优化结果。

2.根据权利要求1所述的一种改进贝叶斯优化的LightGBM故障诊断方法，其特征在于步骤1)的确定LightGBM模型需要优化的超参数及超参数取值范围如下：

超参数max_depth设定取值范围为区间[1,11]；

超参数learning_rate设定取值范围为区间[0.1,0.9]；

超参数colsample_bytree设定取值范围为区间[0.1,0.9]；

超参数subsample设定取值范围为区间[0.1,0.9]；

超参数max_bin设定取值范围为区间[25,150]。