[发明专利]一种深度神经网络训练方法、装置及计算机设备

权利要求书

1.一种深度神经网络训练方法，其特征在于，所述方法包括：

针对树状网络拓扑结构中的当前网络层，获取所述当前网络层中各节点的任务属性，其中，所述树状网络拓扑结构中的各节点为对应于不同任务的神经网络，所述树状网络拓扑结构中的叶节点为针对指定任务已完成训练的神经网络；

基于所述当前网络层中各节点的任务属性，对所述当前网络层中各节点进行聚类分析，提取同一类别中多个节点的任务属性的共性部分，作为所述多个节点的父节点的任务属性；

基于各父节点的任务属性，训练各父节点的网络参数；

在对各网络层中各节点完成训练后，确定所述树状网络拓扑结构对应的深度神经网络训练结束。

2.根据权利要求1所述的方法，其特征在于，所述基于所述当前网络层中各节点的任务属性，对所述当前网络层中各节点进行聚类分析，提取同一类别中多个节点的任务属性的共性部分，作为所述多个节点的父节点的任务属性，包括：

根据所述当前网络层中各节点的任务属性，通过预设算法，生成对应于各节点的任务属性的相似性度量矩阵；

根据所述相似性度量矩阵，将相似性大于预设阈值的多个节点确定为同一类别；

提取同一类别中多个节点的任务属性的共性部分，作为所述多个节点的父节点的任务属性。

3.根据权利要求1所述的方法，其特征在于，所述基于各父节点的任务属性，训练各父节点的网络参数，包括：

针对任一父节点，基于该父节点的任务属性，通过将该父节点的各子节点的输出特征作为该父节点的输入，训练该父节点的网络参数，完成对该父节点的训练。

4.根据权利要求1所述的方法，其特征在于，所述基于各父节点的任务属性，训练各父节点的网络参数，包括：

针对任一父节点，基于该父节点的任务属性，利用具有特征信号控制机制的预设结构生成该父节点，通过将该父节点的各子节点的输出特征作为该父节点的输入，选择与任务属性相关的特征信号，消除与任务属性不相关的特征信号，获取与任务属性相关的特征信号的加权组合，作为针对该父节点对应的神经网络的网络参数，完成对该父节点的训练。

5.根据权利要求1所述的方法，其特征在于，所述在对各网络层中各节点完成训练后，确定所述树状网络拓扑结构对应的深度神经网络训练结束，包括：

从叶节点所处的网络层开始，按照从底层至顶层的训练顺序，依次训练各网络层中节点的网络参数，完成各节点的训练；

在顶层的各节点训练完毕后，确定所述树状网络拓扑结构对应的深度神经网络训练结束。

6.一种深度神经网络训练装置，其特征在于，所述装置包括：

获取模块，用于针对树状网络拓扑结构中的当前网络层，获取所述当前网络层中各节点的任务属性，其中，所述树状网络拓扑结构中的各节点为对应于不同任务的神经网络，所述树状网络拓扑结构中的叶节点为针对指定任务已完成训练的神经网络；

聚类模块，用于基于所述当前网络层中各节点的任务属性，对所述当前网络层中各节点进行聚类分析，提取同一类别中多个节点的任务属性的共性部分，作为所述多个节点的父节点的任务属性；

训练模块，用于基于各父节点的任务属性，训练各父节点的网络参数；

确定模块，用于在对各网络层中各节点完成训练后，确定所述树状网络拓扑结构对应的深度神经网络训练结束。

7.根据权利要求6所述的装置，其特征在于，所述聚类模块，具体用于：

根据所述当前网络层中各节点的任务属性，通过预设算法，生成对应于各节点的任务属性的相似性度量矩阵；

根据所述相似性度量矩阵，将相似性大于预设阈值的多个节点确定为同一类别；

提取同一类别中多个节点的任务属性的共性部分，作为所述多个节点的父节点的任务属性。

8.根据权利要求6所述的装置，其特征在于，所述训练模块，具体用于：

针对任一父节点，基于该父节点的任务属性，通过将该父节点的各子节点的输出特征作为该父节点的输入，训练该父节点的网络参数，完成对该父节点的训练。