[发明专利]一种适于多任务迭代学习记忆的遥感图像分类方法

权利要求书

1.一种适于多任务迭代学习记忆的遥感图像分类方法，其特征在于，包括以下步骤：

步骤1，初始化模型分类器之前的参数、分类器的固定权重以及分类器的临时权重，使用随机梯度下降训练第一个任务，学习得到和，将分类器的临时权重赋值给固定权重，利用和预测性能；所述的将分类器的临时权重赋值给固定权重，包括以下步骤：

对于任务中的每个类j，按照下列公式将分类器的临时权重赋值给固定权重：

其中，为临时权重的所有类的均值；

步骤2，利用第一个任务的训练数据计算模型中每个参数的敏感性，得到参数的敏感性矩阵；所述的计算模型中每个参数的敏感性，得到参数的敏感性矩阵，包括以下步骤：

对于给定的样本，模型的输出记为，其中为模型的参数，将参数的微小改变量对模型最终的输出的改变进行二阶泰勒展开：

其中，为输出函数在样本上对参数的梯度，H为Hessian矩阵，代表输出函数在样本上参数的二阶偏导数，表示微小改变量的特定元素；

利用对角Fisher信息矩阵来近似的逼近Hessian矩阵，使用输出函数的l2范数的平方对参数的梯度来代替计算参数敏感性，通过一次反向传播就可以计算出参数的敏感性矩阵，公式如下：

按照下列公式计算模型中的每个参数的敏感性矩阵：

其中，代表网络模型中每个参数对于该任务的敏感性矩阵，表示第个样本点，表示样本总数，表示输出函数的l2范数的平方；

步骤3，当模型学习新的任务时，将参数的敏感性矩阵作为一个正则项添加到模型原有的损失函数中，然后使用修改后的损失函数对模型进行训练，学习得到分类器之前的参数；

步骤4，在分类器中拓展新的神经元用于学习新任务中的新的类，重新初始化分类器的临时权重，使用随机梯度下降训练模型，学习得到分类器的临时权重，将分类器的临时权重赋值给固定权重，利用和预测性能；

步骤5，利用新任务的训练数据计算模型中每个参数的敏感性矩阵，将当前任务的敏感性矩阵与之前任务的敏感性矩阵进行累加并取均值，作为下一个任务训练的损失函数中添加的参数的敏感性矩阵；具体按照下列公式计算累加之后取均值的参数的敏感性矩阵：

其中，为当前任务的敏感性矩阵，为之前任务的敏感性矩阵，

为任务数量；

步骤6，每当进来一个新任务对其进行训练时，重复步骤3、步骤4和步骤5即可；

步骤7，使用训练好的模型分类器对遥感图像进行分类。

2.根据权利要求1所述的遥感图像分类方法，其特征在于，步骤3中所述的当模型学习新的任务时，将参数的敏感性矩阵作为一个正则项添加到模型原有的损失函数中，然后使用修改后的损失函数对模型进行训练，学习得到分类器之前的参数，包括以下步骤：

每当新进来一个任务时，按照下列公式对在其任务的原有损失函数上添加一个正则项来限制分类器之前的参数的更新：

其中，代表修改之后模型总的损失函数，代表模型在当前任务上的损失函数，代表正则项的超参数，代表当前任务的分类器之前的参数，代表之前任务的分类器之前的参数。