[发明专利]数据加载的方法、装置、电子设备及存储介质

权利要求书

1.一种数据加载的方法，所述方法包括：

将待加载数据划分为多份数据，并分别存储于相应的存储节点上；

响应神经网络的训练操作，将所述存储节点上的所述多份数据动态加载到训练机器上；

在加载数据量未达到所述训练机器的硬件资源上限的情况下，循环加载所述多份数据，直至训练结束。

2.根据权利要求1所述的方法，其中，所述将待加载数据划分为多份数据，并分别存储于相应的存储节点上，包括：

将所述待加载数据进行均匀的划分处理，得到多份数据；

所述多份数据中，每份数据的数据量不超过所述训练机器的硬件资源上限。

3.根据权利要求2所述的方法，还包括：

将所述待加载数据的第一顺序进行随机排序处理，得到第二排序。

4.根据权利要求1-3中任一项所述的方法，其中，所述在加载数据量未达到所述训练机器的硬件资源上限的情况下，循环加载所述多份数据，直至训练结束，包括：

读取所述训练机器中当前已有数据量及即将加载的数据量的总和，得到第一数据量总和；

所述第一数据量总和未达到所述训练机器的硬件资源上限的情况下，循环加载所述多份数据，直至训练结束。

5.根据权利要求1-3中任一项所述的方法，还包括：

在所述加载数据量超出所述训练机器的硬件资源上限的情况下，丢弃所超出的数据量，循环加载所述多份数据，直至训练结束。

6.根据权利要求5所述的方法，其中，所述在所述加载数据量超出所述训练机器的硬件资源上限的情况下，丢弃所超出的数据量，循环加载所述多份数据，直至训练结束，包括：

读取所述训练机器中当前已有数据量及即将加载的数据量的总和，得到第二数据量总和；

所述第二数据量总和超出所述训练机器的硬件资源上限的情况下，丢弃所述当前已有数据量中的数据份额，将所述即将加载的数据量部署到所述训练机器中并循环加载，直至训练结束。

7.根据权利要求1-3中任一项所述的方法，还包括：

在循环加载所述多份数据的过程中，使用当前加载的全部数据进行神经网络的训练，得到训练后的目标网络模型。

8.一种图像处理方法，所述方法包括：

将待处理图像输入训练后的目标网络模型，所述训练后的目标网络模型所使用的训练数据根据权利要求1-7的数据加载方法获得；

根据所述训练后的目标网络模型，对所述待处理图像执行包括图像分类、图像识别、图像分割中的至少一种图像处理。

9.一种视频处理方法，所述方法包括：

从待处理视频数据流中提取出多个图像帧；

将所述多个图像帧输入训练后的目标网络模型，所述训练后的目标网络模型所使用的训练数据根据权利要求1-7的数据加载方法获得；

根据所述训练后的目标网络模型，对所述多个图像帧执行包括图像分类、图像识别、图像分割中的至少一种图像处理，得到图像处理结果；

根据所述图像处理结果，对所述待处理视频数据流中的目标对象执行包括识别、定位中的至少一种视频处理。

10.一种数据加载装置，所述装置包括：

数据划分模块，用于将待加载数据划分为多份数据，并分别存储于相应的存储节点上；

响应模块，用于响应神经网络的训练操作，将所述存储节点上的所述多份数据动态加载到训练机器上；

第一数据加载模块，用于在加载数据量未达到所述训练机器的硬件资源上限的情况下，循环加载所述多份数据，直至训练结束。

11.根据权利要求10所述的装置，其中，所述数据划分模块，用于：

将所述待加载数据进行均匀的划分处理，得到多份数据；

所述多份数据中，每份数据的数据量不超过所述训练机器的硬件资源上限。