[发明专利]GNN编码器及基于图上下文学习的异常点检测方法在审
申请号: | 202110385328.X | 申请日: | 2021-04-09 |
公开(公告)号: | CN113076738A | 公开(公告)日: | 2021-07-06 |
发明(设计)人: | 陈波;唐杰;刘德兵;张静;仇瑜;宋健 | 申请(专利权)人: | 北京智谱华章科技有限公司 |
主分类号: | G06F40/216 | 分类号: | G06F40/216;G06F17/16;G06N3/04;G06N3/08 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 王萌 |
地址: | 100084 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | gnn 编码器 基于 上下文 学习 异常 检测 方法 | ||
1.一种GNN编码器,其特征在于,包括:
边更新器,在每层GNN编码开始时,估算每条边的可疑概率,并根据所述每条边的可疑概率移除可疑链接,以实现对邻接矩阵的调整;
节点表示更新器,根据调整后的所述邻接矩阵聚合节点的邻居信息,对当前节点的向量表示进行更新,得到更新后的节点向量;
图表示更新器,根据更新后的所述节点向量以及上一层的图表示来更新当前的图表示。
2.如权利要求1所述的GNN编码器,其特征在于,
在所述边更新器中引入图的全局信息,所述图的全局信息为节点与图的距离;其中,
将所述节点与图的距离作为潜在的标签,通过所述潜在的标签辅助所述可疑链接的进行概率估算;
在所述图表示更新器中引入记忆缓存,通过所述记忆缓存记录上一层的图表示,并用所述记忆缓存作为指导计算这层每个节点向量的重要性;
所述通过所述记忆缓存记录上一层的图表示,并用所述记忆缓存作为指导计算这层每个节点向量的重要度,包括以下步骤:
使用上一层的图表示q(l-1)作为记忆m,通过下述公式来计算每一个节点向量的重要度:
随后,新的图表示为其中,将所述新的图表示加入记忆缓存m=q(l)用于下一层的计算;
其中,表示第l层第i个结点的重要度得分,为结点i重要度得分的归一化表示,为结点i的向量表示,m表示上一层图表示q(l-1)记忆,q(l)为第l层的图表示;N为结点数量。
3.如权利要求2所述的GNN编码器,其特征在于,所述对边更新器进行更新的方法,包括以下步骤:
首先,基于所述图上下文构建链接预测模块,所述链接预测模块通过下述公式构建:
其中,为向量连接操作符,MLP为全连接层,(hi(l-1)-q(l-1))为图的全局信息,hi(l-1)为第l-1层结点i的向量表示,为结合图全局信息后结点i的向量表示;
其次,计算所述每条边的可信度得分pij,
其中,ReLU为非线性激活函数并将得分映射到[0,1],为结点i与结点j之间的边的可信度得分,为结合图全局信息后结点i的向量表示;
再次,通过Gumbel-Softmax重参数化技巧使得离散化移除边的过程变得可微分;
其中,对于每一条边的可信度得分从Gumbel分布中采样一个噪音ε∈Gumbel(0,1),将其与相加并且对数,
最后,调用Sigmoid激活函数将其映射到[0,1]之间,公式为:
其中,λ代表超参数,中括号代表向下取整,ε为从Gumbel分布中采样一个噪音ε∈Gumbel(0,1),λ为预先设置的超参数,为更新后的结点i与结点j之间的边,取值为0或者1,0代表删去该边,1代表保留该边,为结点i与结点j之间的边的可信度得分。
4.如权利要求3所述的GNN编码器,其特征在于,在所述边更新器中引入链接预测的交叉熵损失函数,通过所述的交叉熵损失函数对所述边更新器的拟合进行加速处理;
其中,所述交叉熵损失函数的公式为:
其中,为损失函数,为上层(第l-1层)的边,为结点i与结点j之间的边的可信度得分,i,j分别表示结点i,j。
5.如权利要求1所述的GNN编码器,其特征在于,所述对节点表示更新器进行更新中,聚合所述邻居信息的公式为:
其中,为结点i聚合后的邻居向量,AGGREGATION为邻居向量的聚合函数。
通过特征函数对当前节点的向量表示进行更新,得到更新后的节点向量,所述节点向量的表示公式为:
其中,COMBINE为聚合函数,为更新后的结点i的向量表示。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京智谱华章科技有限公司,未经北京智谱华章科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110385328.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种无翻边结构谐振杆的加工方法
- 下一篇:一种智慧灯杆集中调度方法