[发明专利]一种机器学习工具中间件及机器学习训练方法

摘要

本发明公开了一种机器学习工具中间件及机器学习训练方法，机器学习工具包括至少一个训练单元，每个训练单元都设置有与机器学习工具结合的中间件，中间件包括底层通信模块，以及数据分发模块、模型参数更新模块、训练参数调整模块和训练停止判断模块中的至少一块。训练单元通过所述中间件从数据存储设备中分发需要的数据到各个训练单元能够访问的存储单元，以便各个训练单元从所述存储单元中读取数据进行训练；并通过中间件之间对应模块的通信完成训练单元模型参数的更新、各训练单元训练参数的调整；以及基于所有训练单元的训练信息来进行是否停止训练的判断。本发明的中间件负责进行大规模并行训练所需要的处理，对各种机器学习工具方便扩展。

主权项

一种机器学习工具中间件，用于机器学习工具的模型训练，所述机器学习工具包括至少一个训练单元，其特征在于，每个训练单元都设置有与机器学习工具结合的中间件，所述中间件包括底层通信模块，以及数据分发模块、模型参数更新模块、训练参数调整模块和训练停止判断模块中的至少一块，其中：所述底层通信模块，用于实现训练单元之间对应模块之间的通信，以及训练单元之间的通信；所述数据分发模块，用于从数据存储设备中分发需要的数据到训练单元能够访问的存储单元，以便训练单元从所述存储单元中读取数据进行训练；所述模型参数更新模块，用于收集其他训练单元的训练信息，更新本训练单元的模型参数；所述训练参数调整模块，用于收集其他训练单元的训练信息，对本训练单元的训练参数进行调整；所述训练停止判断模块，用于收集其他训练单元的训练信息，来进行是否停止训练的判断。