[发明专利]数据处理方法、装置、设备及存储介质有效
申请号: | 202011385627.5 | 申请日: | 2020-12-02 |
公开(公告)号: | CN112217706B | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 程勇;陶阳宇 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | H04L12/42 | 分类号: | H04L12/42;H04L12/801;G06N20/00;G06N3/08;G06K9/62 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 徐立 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 | ||
本申请公开了一种数据处理方法、装置、设备及存储介质,属于人工智能技术领域。本申请实施例,一方面,数据处理系统中的设备采用环形结构连接,每个设备与其他设备有两条通信链路,即使其中一条通信链路暂时中断,该设备也可以通过其他通信链路与其他设备进行通信,该数据处理系统具有很好的稳定性和鲁棒性。另一方面,该数据处理系统在进行数据处理时,每个设备确定的模型参数按照上述通信链路依次传递,且每个设备对接收到的模型参数与自身确定的模型参数融合后再传递,设备之间传递的数据量较小,且无需向一个设备集中发送模型参数,能够有效避免过载和通信拥塞的问题,能够有效提高数据处理速度和效率,保证数据处理的稳定性。
技术领域
本申请涉及人工智能技术领域,特别涉及一种数据处理方法、装置、设备及存储介质。
背景技术
随着计算机技术的发展和人工智能(Artificial Intelligence,AI)技术的进步,联邦学习(Federated Learning)逐渐成为AI领域的一个热门课题,联邦学习能够通过多方协作完成机器学习模型的训练任务。
目前,多方协作的联邦学习采用客服-服务器架构,在联邦学习系统中包括中心联邦服务器,该联邦学习系统中的其它客服设备(在此称参与方)均与该中心联邦服务器连接以通信,形成星形拓扑。该联邦学习系统进行数据处理时,通常是由各个参与方根据样本数据对业务处理模型进行训练,得到模型参数后,将模型参数均发送至中心联邦服务器,由中心联邦服务器对各个参与方确定的模型参数进行融合。
这种客服-服务器架构(即星形拓扑)很容易出现单点通信拥塞,例如,当参与方都向中心联邦服务器发送他们模型参数时,中心联邦服务器很容易出现过载和通信拥塞,进而无法接收参与方发送的模型参数,导致系统崩溃。尤其是业务处理模型规模很大时,这种现象更严重。且星形拓扑里,一个参与方与中心联邦服务器之间只有一条通信链路,很容易出现因为暂时的通信链路中断而导致一个参与方掉线,暂时离开联邦学习系统,使得联邦学习流程中断。因而,上述数据处理方法的稳定性和鲁棒性很差。
发明内容
本申请实施例提供了一种数据处理方法、装置、设备及存储介质,能够提高数据处理的稳定性、鲁棒性以及处理效率。所述技术方案如下。
一方面,提供了一种数据处理方法,应用于数据处理系统中的第一设备,所述数据处理系统包括至少三个设备,所述数据处理系统中的设备采用环形结构连接,所述方法包括:
获取目标业务的第一样本数据;
基于所述第一样本数据对业务处理模型进行训练,得到所述业务处理模型的模型参数;
向与所述第一设备连接的第二设备发送所述模型参数,由所述第二设备基于接收到的模型参数与自身确定的模型参数得到融合模型参数后发送给其他第二设备,所述第二设备为所述数据处理系统中除所述第一设备之外的设备;
获取目标融合模型参数,所述目标融合模型参数融合有所述数据处理系统中所述至少三个设备确定的模型参数;
根据所述目标融合模型参数,确定所述业务处理模型的目标模型参数。
在一些实施例中,所述获取随机掩码,包括:
获取候选随机掩码;
对所述候选随机掩码进行取整处理,得到所述随机掩码。
在一些实施例中,所述根据所述目标融合模型参数,确定所述业务处理模型的目标模型参数,包括:
获取所述目标融合模型参数与总权重的商,将所述商作为所述业务处理模型的目标模型参数,所述总权重为所述数据处理系统中所述至少三个设备的权重之和。
一方面,提供了一种数据处理方法,应用于数据处理系统中的第二设备,所述数据处理系统包括至少三个设备,所述数据处理系统中的设备采用环形结构连接,所述方法包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011385627.5/2.html,转载请声明来源钻瓜专利网。