[发明专利]用于深度学习的方法、设备和计算机程序产品

说明书

本公开的实施例涉及用于深度学习的方法、设备和计算机程序产品。根据本公开的示例性实现，在客户端处获取与被分配给服务器的训练数据集的深度学习模型有关的参数；确定参数的传输状态，传输状态指示参数是否已被传输至服务器；以及基于传输状态，确定要向服务器发送的与参数相关联的信息，以更新深度学习模型。由此，可以提高深度学习的性能，并且降低深度学习的网络负载。

技术领域

本公开的各实现方式涉及深度学习，更具体地，涉及对深度学习模型的参数进行管理的方法、设备和计算机程序产品。

背景技术

诸如深度学习的应用驱动了针对诸如图形处理单元(GPU)或现场可编程门阵列(FPGA)的加速器/专用处理资源的大量需求。例如，当前存在如下问题：数据量、速度、种类日益增长；可扩展计算无法满足需求，而专用处理资源的使用日益普及；数据传输与计算同等重要；需要对引入数据中心的昂贵的专用处理资源的使用进行优化；以及需要连接到云。因此，在诸如医疗、制造、物联网、金融、石油、零售、咨询等领域中，对专用处理资源的使用进行优化对于用户是至关重要的。

发明内容

本公开的实施例提供了用于深度学习的方法、设备和计算机程序产品。

在本公开的第一方面，提供了一种用于深度学习的方法。该方法包括：在客户端处获取与被分配给服务器的训练数据集的深度学习模型有关的参数；确定参数的传输状态，传输状态指示参数是否已被传输至服务器；以及基于传输状态，确定要向服务器发送的与参数相关联的信息，以更新深度学习模型。

在本公开的第二方面，提供了一种用于深度学习的方法。该方法包括：在服务器处从客户端接收与第一参数相关联的信息，第一参数与被分配给服务器的训练数据集的深度学习模型有关；基于信息，确确定第一参数；以及使用所述第一参数更新深度学习模型。

在本公开的第三方面，提供了一种用于深度学习的设备。该设备包括至少一个处理单元和至少一个存储器。至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一个处理单元执行的指令。该指令当由至少一个处理单元执行时使得设备执行动作，该动作包括：在客户端处获取与被分配给服务器的训练数据集的深度学习模型有关的参数；确定参数的传输状态，传输状态指示参数是否已被传输至服务器；以及基于传输状态，确定要向服务器发送的与参数相关联的信息，以更新深度学习模型。

在本公开的第四方面，提供了一种用于深度学习的设备。该设备包括至少一个处理单元和至少一个存储器。至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一个处理单元执行的指令。该指令当由至少一个处理单元执行时使得设备执行动作，该动作包括：在服务器处从客户端接收与第一参数相关联的信息，第一参数与被分配给服务器的训练数据集的深度学习模型有关；基于信息，确确定第一参数；以及使用所述第一参数更新深度学习模型。

在本公开的第五方面，提供了一种计算机程序产品。计算机程序产品被有形地存储在非瞬态计算机可读介质上并且包括机器可执行指令，机器可执行指令在被执行时使机器实现根据本公开的第一方面所描述的方法的任意步骤。

在本公开的第六方面，提供了一种计算机程序产品。计算机程序产品被有形地存储在非瞬态计算机可读介质上并且包括机器可执行指令，机器可执行指令在被执行时使机器实现根据本公开的第二方面所描述的方法的任意步骤。

提供发明内容部分是为了以简化的形式来介绍对概念的选择，它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识本公开的关键特征或必要特征，也无意限制本公开的范围。

附图说明

通过结合附图对本公开示例性实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显，其中，在本公开示例性实施例中，相同的参考标号通常代表相同部件。

图1示出了本公开的多个实施例能够在其中实现的示例环境的示意图；