[发明专利]一种模型计算方法及系统

权利要求书

1.一种模型计算方法，其特征在于，包括：

获取目标模型，所述目标模型至少有两个组成部分；

按照每个组成部分运行时所需的资源量，对所述目标模型进行切分，以将所述目标模型切分为与设有AI计算模块的存储端对应的第一子模型，以及与主机端对应的第二子模型；所述第一子模型和所述第二子模型分别包括至少一个组成部分；

在所述存储端计算所述第一子模型，在所述主机端计算所述第二子模型，并在计算过程中，使所述存储端和所述主机端同步所述第一子模型和所述第二子模型所需的数据。

2.根据权利要求1所述的模型计算方法，其特征在于，计算所述存储端的第一子模型所需的资源量小于计算主机端的第二子模型所需的资源量。

3.根据权利要求1所述的模型计算方法，其特征在于，若正向传播时所述存储端的第一子模型输出的第一结果是所述主机端的第二子模型的输入数据，则所述使所述存储端和所述主机端同步所述第一子模型和所述第二子模型所需的数据，包括：

使所述存储端将所述第一子模型输出的第一结果写入正向队列，以便所述主机端从所述正向队列中读取所述第一结果，并基于所述第一结果计算所述第二子模型。

4.根据权利要求3所述的模型计算方法，其特征在于，若正向传播时所述存储端的第一子模型输出的第一结果是所述主机端的第二子模型的输入数据，则所述使所述存储端和所述主机端同步所述第一子模型和所述第二子模型所需的数据，包括：

若所述第一子模型的第一参数需要更新，则使所述主机端将用于更新所述第一参数的目标数据写入反向队列，以便所述存储端从所述反向队列中读取所述目标数据，并利用所述目标数据计算所述第一参数的更新值，以基于所述更新值更新所述第一参数。

5.根据权利要求4所述的模型计算方法，其特征在于，所述存储端基于所述更新值更新所述第一参数，包括：

所述存储端将所述更新值记录至临时队列，并判断是否达到参数更新条件；

若达到参数更新条件，则计算所述临时队列中的所有更新值的平均值，基于所述平均值更新所述第一参数后，清空所述临时队列。

6.根据权利要求4所述的模型计算方法，其特征在于，所述存储端基于所述更新值更新所述第一参数之后，还包括：

使所述存储端将更新后的第一子模型发送至主机端，以便所述主机端记录所述更新后的第一子模型和自身更新得到的第二子模型。

7.根据权利要求4所述的模型计算方法，其特征在于，

若所述主机端检测到模型收敛，则发送模型收敛的通知消息至所述存储端，以使所述存储端释放相应资源。

8.根据权利要求4至7任一项所述的模型计算方法，其特征在于，还包括：

若任一队列的使用长度超过预设第一阈值，或任一队列的使用长度低于预设第二阈值，或所述正向队列和所述反向队列的使用长度差异超过预设第三阈值，则输出调整消息，以便基于所述调整消息调整所述主机端和所述存储端的资源使用情况；所述任一队列为所述正向队列或所述反向队列。

9.一种模型计算系统，其特征在于，包括：主机端和设有AI计算模块的存储端，其中：

所述主机端，用于获取目标模型，所述目标模型至少有两个组成部分；按照每个组成部分运行时所需的资源量，对所述目标模型进行切分，以将所述目标模型切分为与设有AI计算模块的存储端对应的第一子模型，以及与主机端对应的第二子模型；所述第一子模型和所述第二子模型分别包括至少一个组成部分；

所述主机端，还用于计算所述第二子模型，并同步所述第一子模型所需的数据至所述存储端；

所述存储端，用于计算所述第一子模型，并同步所述第二子模型所需的数据至所述主机端。

10.根据权利要求9所述的模型计算系统，其特征在于，所述AI计算模块包括：

模型管理子模块，用于解析所述第一子模型；

文件格式子模块，用于解析所述第一子模型对应的待处理数据；

传播队列子模块，用于管理正向队列，或所述正向队列和反向队列；

若正向传播时所述第一子模型输出的第一结果是所述第二子模型的输入数据，则所述正向队列用于记录所述第一子模型输出的第一结果；所述反向队列用于记录目标数据，所述目标数据用于更新所述第一子模型的第一参数。