[发明专利]图神经网络训练方法、装置、计算设备及存储介质有效

专利信息
申请号: 202110605548.9 申请日: 2021-05-31
公开(公告)号: CN113221153B 公开(公告)日: 2022-12-27
发明(设计)人: 李登昊;王健宗;黄章成 申请(专利权)人: 平安科技(深圳)有限公司
主分类号: G06F21/60 分类号: G06F21/60;G06N3/08
代理公司: 深圳国新南方知识产权代理有限公司 44374 代理人: 周雷
地址: 518000 广东省深圳市福田区福*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 神经网络 训练 方法 装置 计算 设备 存储 介质
【权利要求书】:

1.一种图神经网络训练方法,其特征在于,应用在一种图神经网络训练系统中,所述图神经网络训练系统包括多个训练终端以及可信终端;所述训练终端包括标签持有端;不同的训练终端包括不同的本地图数据以及本地图神经网络;所述图神经网络训练方法包括:

通过所述可信终端生成同态加密密钥对,并将所述同态加密密钥对中的公钥发送给各所述训练终端;

通过每一所述训练终端根据所述本地图数据计算对应的本地特征,并采用所述公钥对所述本地特征进行加密,得到本地特征密文;

基于同态加密机制,聚合每一所述训练终端的本地特征密文,得到聚合后的全局特征密文,并将所述全局特征密文发送给所述可信终端;

通过所述可信终端采用所述同态加密密钥对中的私钥对所述全局特征密文进行解密,以基于解密后的全局特征训练全局图神经网络,并将网络输出结果发送至所述标签持有端;

通过所述标签持有端根据所述网络输出结果计算网络梯度并返回给所述可信终端,以使所述可信终端根据所述网络梯度更新所述全局图神经网络,并将更新后的网络参数发送至对应的所述训练终端以更新所述本地图神经网络;

所述通过每一所述训练终端根据所述本地图数据计算对应的本地特征,包括:

通过每一所述训练终端构建对应的局部特征矩阵;

通过所述训练终端将所述局部特征矩阵与对应的本地图数据相乘,得到每一所述训练终端对应的本地特征;

所述本地图数据包括多个图节点、所述图节点对应的节点特征以及所述图节点之间的连接权值;所述标签持有端包括每一所述图节点对应的真实标签;

所述根据所述网络输出结果计算网络梯度并返回给所述可信终端,包括:

根据所述网络输出结果以及所述真实标签,计算网络损失;

基于所述网络损失,计算所述网络梯度。

2.如权利要求1所述图神经网络训练方法,其特征在于,所述通过所述训练终端将所述局部特征矩阵与对应的本地图数据相乘,得到每一所述训练终端对应的本地特征,包括:

基于所述连接权值对每一所述图节点的节点特征进行聚合,以更新每一所述图节点对应的节点特征;

将所述局部特征矩阵与更新后的每一所述图节点对应的节点特征相乘,以得到所述每一所述图节点的提取特征;

基于每一所述图节点对应的提取特征,获取所述训练终端对应的本地特征。

3.如权利要求2所述图神经网络训练方法,其特征在于,通过每一所述训练终端构建对应的局部特征矩阵,包括:

根据所述本地图数据构建对应的本地矩阵;其中,所述本地矩阵的矩阵大小为N行M列;所述N表示预设的提取特征数;所述M表示所述图节点对应的节点特征;

初始化所述本地矩阵,以得到所述局部特征矩阵。

4.如权利要求1所述图神经网络训练方法,其特征在于,所述基于同态加密机制,聚合每一所述训练终端的本地特征密文,得到聚合后的全局特征密文,包括:

计算当前训练终端对应的密文聚合结果,并将所述当前训练终端对应的密文聚合结果发送至下一训练终端;其中,所述密文聚合结果为每一所述训练终端的本地特征密文以及上一训练终端发送的密文聚合结果相加得到;

更新所述下一训练终端为当前训练终端,以重复执行所述计算当前训练终端对应的密文聚合结果的步骤,直至所述当前训练终端为最后一个训练终端,获取所述最后一个训练终端计算得到的全局特征密文。

5.如权利要求1所述图神经网络训练方法,其特征在于,所述根据所述网络输出结果以及所述真实标签,计算网络损失,包括:

若所述全局图神经网络的预测任务为分类任务,则调用交叉熵损失函数,根据所述网络输出结果以及所述真实标签,计算网络损失;

若所述全局图神经网络的预测任务为回归任务,则调用均方误差损失函数,根据所述网络输出结果以及所述真实标签,计算网络损失。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110605548.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top