[发明专利]基于学习自动机的深度神经网络增量式训练方法及系统

权利要求书

1.一种基于学习自动机的深度神经网络增量式训练方法，其特征在于，包括：

原始样本集训练步骤：采用原始训练样本集对深度神经网络模型进行训练；

增量样本集训练步骤：对前一次训练样本集进行类别扩充，采用扩充后的训练样本集对前一次训练好的深度神经网络模型进行增量式训练。

2.根据权利要求1所述的基于学习自动机的深度神经网络增量式训练方法，其特征在于，所述原始样本集训练步骤包括：

模型构建子步骤：构建深度神经网络模型，赋予深度神经网络的每个连接权重一个包含第一行为和第二行为的学习自动机；

采样子步骤：学习自动机根据选择概率进行采样，选择第一行为或第二行为；

梯度值计算子步骤：从第一训练样本集中抽取样本，计算损失函数对于深度神经网络的网络参数的梯度值，计算梯度值时忽略第二行为的连接；

更新子步骤：根据梯度值对深度神经网络的权重和偏置进行更新；

交互子步骤：每个学习自动机与深度神经网络交互，若学习自动机对应的当前权重大于第一阈值，则对学习自动机进行奖励，否则进行惩罚；

迭代子步骤：从采样子步骤至交互子步骤进行迭代，直至损失函数不能再继续减小，收敛到第一行为的连接为核心连接，收敛到第二行为的连接为边缘连接。

3.根据权利要求2所述的权利要求1所述的基于学习自动机的深度神经网络增量式训练方法，其特征在于，所述增量样本集训练步骤包括：

稀疏度计算子步骤：计算深度神经网络中每一层连接的稀疏度，若稀疏度小于第二阈值，则在对应层添加随机初始化的神经元，使稀疏度达到第二阈值，其中，在分类层中添加与新增类别数量相等的随机初始化的神经元，重置所有边缘连接的学习自动机状态；

迭代训练子步骤：对核心连接采用第一学习速率以及对边缘连接采用第二学习速率进行随机梯度下降的迭代训练，第一学习速率小于第二学习速率。

4.根据权利要求2所述的权利要求1所述的基于学习自动机的深度神经网络增量式训练方法，其特征在于，所述第一行为代表当前连接被激活，所述第二行为代表当前连接被休眠。

5.根据权利要求3所述的权利要求1所述的基于学习自动机的深度神经网络增量式训练方法，其特征在于，所述梯度值计算子步骤中，采用反向传播算法计算损失函数对于深度神经网络的网络参数的梯度值。

6.一种基于学习自动机的深度神经网络增量式训练系统，其特征在于，包括：

原始样本集训练模块：采用原始训练样本集对深度神经网络模型进行训练；

增量样本集训练模块：对前一次训练样本集进行类别扩充，采用扩充后的训练样本集对前一次训练好的深度神经网络模型进行增量式训练。

7.根据权利要求6所述的基于学习自动机的深度神经网络增量式训练系统，其特征在于，所述原始样本集训练模块包括：

模型构建子模块：构建深度神经网络模型，赋予深度神经网络的每个连接权重一个包含第一行为和第二行为的学习自动机；

采样子模块：学习自动机根据选择概率进行采样，选择第一行为或第二行为；

梯度值计算子模块：从第一训练样本集中抽取样本，计算损失函数对于深度神经网络的网络参数的梯度值，计算梯度值时忽略第二行为的连接；

更新子模块：根据梯度值对深度神经网络的权重和偏置进行更新；

交互子模块：每个学习自动机与深度神经网络交互，若学习自动机对应的当前权重大于第一阈值，则对学习自动机进行奖励，否则进行惩罚；

迭代子模块：从采样子模块至交互子模块进行迭代，直至损失函数不能再继续减小，收敛到第一行为的连接为核心连接，收敛到第二行为的连接为边缘连接。