[发明专利]一种面向海量数据的卷积神经网络训练引擎方法及系统

权利要求书

1.一种面向海量数据的卷积神经网络训练引擎方法，其特征在于，方法包括以下步骤：

S1，基于MapReduce框架搭建卷积神经网络并行化训练模型，统一配置训练模型的训练参数；

S2，收集训练数据形成训练数据集，根据训练参数使用NLineInputFormat方法对训练数据集进行等同记录数分片，得到多个训练子集；

S3，将标准误差和累积误差相结合，改进标准BP算法，同在每个训练子集采用改进后的BP算法进行N轮迭代串行训练，每个训练子集之间的迭代轮数相同，迭代训练结束后每个训练子集都各自输出一个连接权值；

S4，根据连接权值计算神经网络中权值参数的算术平均值，同时更新卷积神经网络中所有训练子集的权值参数，最终得到一个经过并行化训练的卷积神经网络模型。

2.根据权利要求1所述的一种面向海量数据的卷积神经网络训练引擎方法，其特征在于，所述步骤S1中训练模型的训练参数包括：标准误差BP模型文件初始化地址、A个样本的训练集地址、Mapper中的模型训练轮数N、切片数S，以及模型训练所需的环境配置文件地址。

3.根据权利要求1所述的一种面向海量数据的卷积神经网络训练引擎方法，其特征在于，所述步骤S2中根据配置的A个样本数据集地址和切片数S，按照A/S的比例将训练数据集分成具有相同样本数的训练子集。

4.根据权利要求1所述的一种面向海量数据的卷积神经网络训练引擎方法，其特征在于，所述步骤S3中N轮迭代串行训练过程包括以下子步骤：

S301，Mapper根据配置的标准误差BP模型文件初始化地址，从分布式系统上加载并行化训练模型得到CNNin初始权值；

S302，Mapper将加载的模型与数据预处理获取的数据进行N轮迭代训练，每个训练子集一次迭代训练产输出一个标准误差BP模型的CNNmiddle连接权值，且使用CNN类将模型的CNNmiddle连接权值序列化为CNN对象并传递给Reducer；

S303，Reducer读取各个Mapper传递过来的CNN序列化对象时，对CNN序列化对象中各个卷积层、全连接层中的相关参数计算出所有训练子集权值的算术平均值，得到的CNN对象最优的连接权值作为下一轮迭代训练的初始权值，实现卷积神经网络的权值参数更新；

S304，循环执行N轮迭代训练，最终每个Mapper对应的训练子集都产生一个局部训练结果。

5.基于海量数据的分布式卷积神经网络训练系统，其特征在于，包括

数据收集模块，用于收集多个卷积神经网络训练数据，并导入到训练系统中；

参数配置模块，用于统一配置系统调用接口参数和并行化训练模型的训练参数；

数据等分模块，用于对收集的卷积神经网络训练数据进行等同记录数分片，得到具有多个相同样本的训练子集；

迭代训练模块，用于对训练子集进行分布式迭代训练，每次训练过程中都输出一个CNNmiddle连接权值；

参数更新模块，用于根据多个训练子集的迭代训练后的连接权值计算神经网络中参数的算术平均值，更新神经网络中的权值参数，得到一个经过全家训练的卷积神经网络模型。