[发明专利]图神经网络训练方法、装置、计算设备及存储介质有效
申请号: | 202110605548.9 | 申请日: | 2021-05-31 |
公开(公告)号: | CN113221153B | 公开(公告)日: | 2022-12-27 |
发明(设计)人: | 李登昊;王健宗;黄章成 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F21/60 | 分类号: | G06F21/60;G06N3/08 |
代理公司: | 深圳国新南方知识产权代理有限公司 44374 | 代理人: | 周雷 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 装置 计算 设备 存储 介质 | ||
1.一种图神经网络训练方法,其特征在于,应用在一种图神经网络训练系统中,所述图神经网络训练系统包括多个训练终端以及可信终端;所述训练终端包括标签持有端;不同的训练终端包括不同的本地图数据以及本地图神经网络;所述图神经网络训练方法包括:
通过所述可信终端生成同态加密密钥对,并将所述同态加密密钥对中的公钥发送给各所述训练终端;
通过每一所述训练终端根据所述本地图数据计算对应的本地特征,并采用所述公钥对所述本地特征进行加密,得到本地特征密文;
基于同态加密机制,聚合每一所述训练终端的本地特征密文,得到聚合后的全局特征密文,并将所述全局特征密文发送给所述可信终端;
通过所述可信终端采用所述同态加密密钥对中的私钥对所述全局特征密文进行解密,以基于解密后的全局特征训练全局图神经网络,并将网络输出结果发送至所述标签持有端;
通过所述标签持有端根据所述网络输出结果计算网络梯度并返回给所述可信终端,以使所述可信终端根据所述网络梯度更新所述全局图神经网络,并将更新后的网络参数发送至对应的所述训练终端以更新所述本地图神经网络;
所述通过每一所述训练终端根据所述本地图数据计算对应的本地特征,包括:
通过每一所述训练终端构建对应的局部特征矩阵;
通过所述训练终端将所述局部特征矩阵与对应的本地图数据相乘,得到每一所述训练终端对应的本地特征;
所述本地图数据包括多个图节点、所述图节点对应的节点特征以及所述图节点之间的连接权值;所述标签持有端包括每一所述图节点对应的真实标签;
所述根据所述网络输出结果计算网络梯度并返回给所述可信终端,包括:
根据所述网络输出结果以及所述真实标签,计算网络损失;
基于所述网络损失,计算所述网络梯度。
2.如权利要求1所述图神经网络训练方法,其特征在于,所述通过所述训练终端将所述局部特征矩阵与对应的本地图数据相乘,得到每一所述训练终端对应的本地特征,包括:
基于所述连接权值对每一所述图节点的节点特征进行聚合,以更新每一所述图节点对应的节点特征;
将所述局部特征矩阵与更新后的每一所述图节点对应的节点特征相乘,以得到所述每一所述图节点的提取特征;
基于每一所述图节点对应的提取特征,获取所述训练终端对应的本地特征。
3.如权利要求2所述图神经网络训练方法,其特征在于,通过每一所述训练终端构建对应的局部特征矩阵,包括:
根据所述本地图数据构建对应的本地矩阵;其中,所述本地矩阵的矩阵大小为N行M列;所述N表示预设的提取特征数;所述M表示所述图节点对应的节点特征;
初始化所述本地矩阵,以得到所述局部特征矩阵。
4.如权利要求1所述图神经网络训练方法,其特征在于,所述基于同态加密机制,聚合每一所述训练终端的本地特征密文,得到聚合后的全局特征密文,包括:
计算当前训练终端对应的密文聚合结果,并将所述当前训练终端对应的密文聚合结果发送至下一训练终端;其中,所述密文聚合结果为每一所述训练终端的本地特征密文以及上一训练终端发送的密文聚合结果相加得到;
更新所述下一训练终端为当前训练终端,以重复执行所述计算当前训练终端对应的密文聚合结果的步骤,直至所述当前训练终端为最后一个训练终端,获取所述最后一个训练终端计算得到的全局特征密文。
5.如权利要求1所述图神经网络训练方法,其特征在于,所述根据所述网络输出结果以及所述真实标签,计算网络损失,包括:
若所述全局图神经网络的预测任务为分类任务,则调用交叉熵损失函数,根据所述网络输出结果以及所述真实标签,计算网络损失;
若所述全局图神经网络的预测任务为回归任务,则调用均方误差损失函数,根据所述网络输出结果以及所述真实标签,计算网络损失。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110605548.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种红外双谱段傅里叶变换成像光谱仪
- 下一篇:体外膜肺氧合器