[发明专利]一种结合可解释性的图表示学习的超参数优化方法

权利要求书

1.一种考虑可解释性的图表示学习过程中确定最优超参数的方法，其特征在于该方法包括以下步骤：

(1)从待确定最优超参数的原图中采样多个子图；

(2)根据具有可解释性的特征，在子图上执行图表示学习算法，保留图表示学习算法的结果样本；

(3)从样本中消除图表示学习算法的超参数与子图特征之间的相关度；

设定循环次数K，初始化时设循环次数k为1；

设定有n个样本，其中每个样本包含p₁个图表示学习算法的超参数和p₂个子图特征，用一个n行(p₁+p₂)列的矩阵X表示超参数和图特征数据，X＝[A，B]，其中A为一个n行p₁列的超参数矩阵，B为一个n行p₂列的子图特征矩阵；

利用以下损失方程，求解样本权重γ，使得：

满足∑_γ＝diag(γ_i，...，γ_n)

式中，γ为一个n维向量，diag(γ_i，...，γ_n)为以γ_i，...，γ_n为对角线的对角矩阵，表示X的二范数，上标T表示矩阵转置，表示求期望；

用相关度L_Deco表示上述损失方程：

为了使得最小化的γ有唯一解，对γ作如下限制：

其中，λ₁和λ₂是人为设置的大常数，c为常数；

(4)确定原图上的图表示学习算法的最优超参数，包括以下步骤：

(4-1)以步骤(2)的图表示学习算法的超参数和子图特征作为多层感知机的输入，多层感知机的输出为图表示学习算法的性能结果；

(4-2)利用步骤(3)的样本权重，对步骤(4-1)的多层感知机进行训练，设定多层感知机的优化目标如下：

其中，Y_i表示第i个样本X_i中的超参数和图特征下的图表示学习算法性能，Φ是多层感知机的拟合函数，Θ是多层感知机自身的参数，训练过程中得到多层感知机全连接层的权重；

(4-3)根据步骤(4-2)所有超参数在多层感知机中全连接层的权重绝对值之和，利用下式计算该超参数对于图表示学习算法性能的重要度：

其中weight(x_i)表示第i个超参数对于图表示学习算法性能的重要度，表示多层感知机中计算使用的权重矩阵的第j行，第i列；

(4-4)对超参数进行重要性降序排序，依次对每个超参数进行优化，优化的过程中固定其他超参数的取值，优化的过程为对当前超参数在取值范围内进行均匀采样，将超参数的取值和原图的特征作为多层感知机的输入，多层感知机的输出为预测的图表示学习算法性能，取与图表示学习算法性能最高的值相对应的超参数作为待运行超参数取值；

(4-5)以步骤(4-4)的待运行超参数取值，在待确定最优超参数的原图上执行图表示学习算法，得到第k轮图表示学习算法性能，将原图的特征、使用的超参数以及第k轮图表示学习算法的结果作为一个新样本加入步骤(3)的n个样本中；

(4-6)对循环次数k进行判断，若k＜K，则令k＝k+1，返回步骤(3)，若k≥K，则将K轮超参数中与图表示学习算法性能Y_i的最大值相对应的超参数作为最优超参数，实现考虑可解释性的图表示学习过程中最优超参数的确定。

2.如权利要求1所述的确定最优超参数的方法，其特征在于还包括根据多层感知机中全连接层的权重绝对值之和，计算每个超参数对于图表示学习算法性能的重要度，根据影响度指导人工的后续调优。

3.如权利要求1所述的确定最优超参数的方法，其特征在于从待确定最优超参数的原图中采样多个子图的方法为：根据待确定最优超参数的原图中给定的多类型节点标签，从同一类型节点中确定子图的起点，每个时刻从当前节点随机跳动到一个临近节点，连续多个时刻的随机跳动，多个节点构成一条路径, 选取多个不同类型节点作为起点得到多条路径，多条路径上的所有节点集合的并集即为采样的节点集合，原图上由该采样节点集合诱导出一个子图；重复本步骤多次，得到多个子图。