[发明专利]数据处理方法、逻辑模型系统以及数据处理系统

权利要求书

1.一种数据处理方法，该方法用于电子设备，所述电子设备包括参数服务器和多个计算节点，所述计算节点包括多个计算单元，所述每个计算单元包括初始逻辑模型，所述方法包括：

接收用户输入的训练逻辑数据，其中，所述训练逻辑数据能够用于构建初始逻辑模型；

基于所述训练逻辑数据构建多个初始逻辑模型；

控制每个计算单元从多个样本数据中获取子样本数据，并基于子样本数据训练对应的初始逻辑模型，得到对应的初始逻辑模型的模型梯度；

将每个计算单元训练得到的模型梯度上传到所述计算单元对应的计算节点；

控制所述计算节点处理接收到的模型梯度，并将处理后的模型梯度上传至所述参数服务器；

控制所述参数服务器基于接收到的处理后的模型梯度更新所述初始逻辑模型的模型参数；

将更新后的模型参数发送至所述每个计算单元；

控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型；以及

根据多个训练后的初始逻辑模型确定目标逻辑模型。

2.根据权利要求1所述的方法，其中，所述根据所述多个训练后的初始逻辑模型确定目标逻辑模型，包括：

获取所述多个训练后的初始逻辑模型的模型梯度；

基于所述模型梯度更新所述初始逻辑模型的模型参数，得到目标逻辑模型。

3.根据权利要求1所述的方法，其中，所述控制所述多个初始逻辑模型基于多个样本数据进行训练，包括：

控制所述多个初始逻辑模型中的每个初始逻辑模型从所述多个样本数据中获取子样本数据；

控制所述每个初始逻辑模型基于对应的子样本数据进行训练。

4.根据权利要求1所述的方法，其中：

所述训练逻辑数据包括：损失函数信息以及梯度信息；

所述基于所述训练逻辑数据构建多个初始逻辑模型，包括：

基于所述损失函数信息配置所述初始逻辑模型的模型参数；

基于所述模型参数以及所述梯度信息构建逻辑模型计算图以及梯度计算图。

5.根据权利要求1所述的方法，还包括：

接收用户输入的控制信息，所述控制信息能够用于生成控制指令，所述控制指令用于控制所述初始逻辑模型的训练。

6.根据权利要求1所述的方法，其中，所述控制每个计算单元从多个样本数据中获取子样本数据，并基于子样本数据训练对应的初始逻辑模型，得到对应的初始逻辑模型的模型梯度，包括根据预设循环次数循环执行：

控制所述多个初始逻辑模型中的每个初始逻辑模型从所述多个样本数据中获取子样本数据；

控制所述多个初始逻辑模型基于相应的子样本数据分别进行训练，得到与所述多个初始逻辑模型的对应的多组模型梯度；

基于所述多组模型梯度更新所述初始逻辑模型的模型参数。

7.根据权利要求1所述的方法，其中：

属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元；

基于损失函数信息配置所述初始逻辑模型的模型参数，包括：

控制所述主计算单元从所述训练逻辑数据中提取所述损失函数信息；

控制所述主计算单元根据所述损失函数信息配置所述模型参数；

控制所述副计算单元通过访问所述主计算单元复制配置的模型参数；

所述基于所述模型参数以及所述梯度信息构建模型计算图以及梯度计算图，包括：

控制所述主计算单元和所述副计算单元从所述训练逻辑数据中提取所述梯度信息；

控制所述主计算单元和所述副计算单元基于所述配置的模型参数以及所述梯度信息构建模型计算图以及梯度计算图。

8.一种基于权利要求1所述的方法的逻辑模型系统，包括：

多个初始逻辑模型，所述多个初始逻辑模型为基于用户输入的训练逻辑数据构建而成的逻辑模型，

其中，所述多个初始逻辑模型能够用于执行：

基于多个样本数据进行训练，得到多个训练后的初始逻辑模型，其中，所述多个训练后的初始逻辑模型能够用于确定目标逻辑模型。

9.一种数据处理系统，包括：

第一接收模块，接收用户输入的训练逻辑数据，其中，所述训练逻辑数据能够用于构建初始逻辑模型；

构建模块，基于所述训练逻辑数据构建多个初始逻辑模型；

训练模块，控制每个计算单元从多个样本数据中获取子样本数据，并基于子样本数据训练对应的初始逻辑模型，得到对应的初始逻辑模型的模型梯度；将每个计算单元训练得到的模型梯度上传到所述计算单元对应的计算节点；控制所述计算节点处理接收到的模型梯度，并将处理后的模型梯度上传至参数服务器；控制所述参数服务器基于接收到的处理后的模型梯度更新所述初始逻辑模型的模型参数；将所述更新后的模型参数发送至所述每个计算单元；控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型；以及

确定模块，根据多个训练后的初始逻辑模型确定目标逻辑模型。