[发明专利]一种应用于GNN的拓扑感知的后处理置信度校正方法

说明书

本发明公开了一种应用于GNN的拓扑感知的后处理置信度校正方法，利用GNN中置信度的同质性对置信度进行校正，该校正函数是一种非线性变换，但同样保存了原始GNN的分类精度。此外，本发明基于该校正方法提出了一种校正过后的GNN自训练方法，其中置信度首先由CaGCN校准，然后用于生成伪标签，可以有效地利用高置信度的预测，并通过大量的实验证明了本发明提出的方法在校正和准确性方面的有效性。

技术领域

本发明涉及光纤激光器技术领域，尤其涉及一种应用于GNN的拓扑感知的后处理置信度校正方法。

背景技术

图在现实世界中是无处不在的，包括社交网络、电子商务网络、交通网络等。最近，基于消息传递方式的图神经网络(GNN)在处理图数据方面引起了相当大的关注。迄今为止，GNN已被广泛应用于各种应用并且取得了显著的成果，例如节点分类、链接预测和图分类等。

然而在实际的应用中，准确性并不是唯一的目标。在许多尤其是和安全领域相关的应用中，非常需要一个值得信赖的模型。通常来说，一个值得信赖的模型意味着它应该知道它的预测结果什么时候可能是不正确的。换句话说，与预测的类别标签相关联的概率(置信度)应该反映其实际的准确性。例如，在自动驾驶场景中，只有当模型对其预测具有高置信度时，系统才会采纳模型给出的预测；否则，决策权将返回给驾驶员或者系统采取其他更安全的策略。置信度校正已经在深度学习中引起了相当大的关注，许多研究表明现代神经网络模型对预测过于自信，即模型的预测精度低于其置信度。然而置信度校正的问题还没有在GNN中进行过研究，因此，这引发了一个基本问题：当前的GNN是否会与其他神经网络一样对预测过于自信？

作为本发明的第一个贡献，我们展示了图卷积网络(GCN)和图注意力网络(GAT)在节点分类任务中置信度与精度的关系。我们惊奇地发现现有的GNN远没有被很好的校正，更重要的是GNN往往对其预测缺乏信心，这与其他现有的经常过度自信的深度学习模型大不相同。GNN置信度不足意味着其许多预测分布在低置信度范围内，则可用于安全关键应用的预测将相对较少。因此，本发明将探索如何校正GNN对预测的置信度，以使它们更值得信赖。

另外，当前多数自训练方法存在在高标签率数据集中表现不佳的问题。考虑到GCN的低置信度的问题，我们认为现有自训练方法表现不佳的原因是大量高精度的预测分布在在低置信区间中，导致他们无法被加入到训练集中。因此，本发明将同时探索如何通过校正的置信度改善GNN中自训练的精度。

发明内容

本发明的目的是提供一种应用于GNN的拓扑感知的后处理置信度校正方法，该方法能对GNN对预测结果的置信度进行校正，使其可以代表真实的分类概率，从而可以用于许多安全相关的应用，提高预测结果的可信赖性。

为了实现上述目的，本发明提供如下技术方案：

本发明提供一种应用于GNN的拓扑感知的后处理置信度校正方法，包括以下步骤：

S1、给定随机变量A和X，对于一个l层的GCN，通过公式(2)得到在softmax层前的输出v_i；

V＝Aσ(…Aσ(AXW^（1))W⁽²⁾…)W^(l)＝[v₁，…，v_N] (2)

其中，A∈R^n*N是相邻矩阵，X＝[x₁,...,x_N]是节点特征矩阵，W^(l)是GCN第l层的权重矩阵，σ(.)代表激活函数，V是节点集，N＝|V|是节点数；

S2、使用另一个l层GCN作为校正函数，从而沿着网络拓扑传播置信度，给定某个分类GCN的输出V，通过公式(3)得到节点校正后的输出v′_i和置信度

其中是softmax算子；