[发明专利]基于多保真度贝叶斯优化的图像识别方法

权利要求书

1.一种基于多保真度贝叶斯优化的图像识别方法，其特征在于，包括：

步骤1)根据超参数搜索范围，从超参数搜索域中随机采样，每次并行训练M个神经网络，每个网络训练一个步长，分别得到一个预测误差，然后通过训练后的神经网络计算当前黑塞矩阵主特征值，得到初始观测集合；

步骤2)对观测集合进行检验，判断是否存在病态条件数问题；当条件数超过阈值，则对观测集进行筛选，降低协方差矩阵条件数；

步骤3)在每一个推断周期中，使用基于超参数和神经网络状态两个变量组成的乘积核的高斯过程拟合观测集合，得到变量后验分布，然后使用基于期望的采集函数推断下一个查询点；

步骤4)在每一个查询周期中，使用步骤1并行训练的M个神经网络进行训练，得到预测误差和当前的黑塞矩阵主特征值；

步骤5)将最新的观测点加入观测集合，并重复步骤2到步骤4，直至M个神经网络得到充分训练后，对搜索到的超参数组进行图像识别。

2.根据权利要求1所述的基于多保真度贝叶斯优化的图像识别方法，其特征是，所述的神经网络，采用ResNet-50图像分类网络以及EAST文本识别网络。

3.根据权利要求1所述的基于多保真度贝叶斯优化的图像识别方法，其特征是，所述的黑塞矩阵主特征值，通过以下方式计算得到：

①对神经网络进行两次反向传播求导，得到网络的黑塞矩阵；

②随机初始化与黑塞矩阵等秩的向量；

③将向量与黑塞矩阵进行矩阵乘法，得到新的向量；

④判断乘法前后的向量之间的差值是否小于阈值；

⑤重复步骤③-步骤④，直到完成预设次数或者差值小于预设阈值，得到最终主特征向量；

⑥根据黑塞矩阵和主特征向量计算主特征值。

4.根据权利要求1所述的基于多保真度贝叶斯优化的图像识别方法，其特征是，所述的降低协方差矩阵条件数是指：设定阈值为条件数的对数小于等于20；当对数大于20时，对所有观测点进行聚类，并删除部分过于接近的点，同时对剩余进行扰动，从而有效将条件数的对数从20-25降低到15-18。

5.根据权利要求1所述的基于多保真度贝叶斯优化的图像识别方法，其特征是，所述的乘积核为：κ((x，s)，(x′，s′))＝κ₁(x，x′)κ₂(s，s′)，其中：两个高斯核均为马顿核，即θ₀和λ为预设超参数，d_λ(x，x′)＝(x-x′)^Tdiag(λ)(x-x′)表示马氏距离。

6.根据权利要求1所述的基于多保真度贝叶斯优化的图像识别方法，其特征是，所述的拟合观测是指：根据观测数据集和已选定的马顿核，计算得到一个协方差矩阵，在后续计算中可以由该协方差矩阵计算得到查询点的后验分布，从而进行贝叶斯推断。

7.根据权利要求1所述的基于多保真度贝叶斯优化的图像识别方法，其特征是，所述的训练是指：在保持实验条件相同的情况下，根据由贝叶斯算法推断的超参数，包括学习率、训练批次、权重衰减对神经网络进行训练。