[发明专利]基于记忆巩固机制与GAN模型的序列化任务完成方法及系统

权利要求书

1.一种基于记忆巩固机制与GAN模型的序列化任务完成方法，其特征在于，包括以下步骤：

11)序列化任务的获取：获得待进行处理的序列化任务；

12)设定索引器并生成任务索引：对索引器进行设定，将序列化任务输入索引器生成任务索引；

13)利用GAN模型进行任务训练：使用GAN模型对建立任务索引号后的任务进行训练；

14)进行伪样本的联合训练：利用记忆回放方式生成任务一的伪样本，利用GAN模型对建立任务索引号后的任务二和任务一的伪样本进行训练，训练中保护任务一的参数重要性；

15)新序列化任务的完成：获取新的序列化任务，重复上述11)-14)步骤，完成新的序列化任务。

2.根据权利要求1所述的基于记忆巩固机制与GAN模型的序列化任务完成方法，其特征在于，所述的对索引器进行设定中索引器为One-hot向量，其形式为：任务1(0，...，1)，任务2(0，...，1，0)，任务n(0，..1，..0)。

3.根据权利要求1所述的基于记忆巩固机制与GAN模型的序列化任务完成方法，其特征在于，所述的利用GAN模型进行任务训练包括以下步骤：

31)将序列化任务输入GAN模型；

32)利用GAN模型的生成器对建立任务索引号后的任务一进行训练，对任务一进行重要参数的保护，GAN模型的生成器生成任务一的伪样本；

33)利用GAN模型的生成器对建立任务索引号后的任务二进行训练，对任务二进行重要参数的保护，GAN模型的生成器生成任务二的伪样本；

34)利用GAN模型的生成器对建立任务索引号后的任务n进行训练，对任务n进行重要参数的保护，GAN模型的生成器生成任务n的伪样本。

4.根据权利要求3所述的基于记忆巩固机制与GAN模型的序列化任务完成方法，其特征在于，所述的进行重要参数的保护为计算GAN模型的生成器中每个参数的重要性，其包括以下步骤：

41)设定GAN模型的生成器中每个参数的衡量方式采用EWC方式或MAS方式，其表达式如下：

其中，I_EWC为EWC方式计算得到的参数重要性，G代表生成器，θ代表生成器中的参数，z代表生成器的输入即随机噪声，P_z是关于z的先验分布，代表z从P_z中采样；

I_MAS为MAS算法计算得到的参数重要性，l₂为L2范数；

42)若计算I_EWC或I_MAS为负数时，将此负值重新设置为0以防止其抵抗新任务的学习，并将表达式修改为以下形式：

I＝max(0，I_EWC/I_MAS)

其中，I为最终的参数重要性，max指取最大值；

43)基于学习新任务时保护重要性大的参数防止其被新任务完全覆盖掉、其允许重要性小的参数的更新以便继续学习新任务的原则，将保护重要参数的方式设定为以下表达式：

其中，L为原有新任务的目标函数，L_new为增加了重要参数保护模块的新任务的目标函数，λ代表当前任务对新任务的重要性，θ代表当前任务的生成器网络中的参数，θ′代表学习新任务后的生成器网络中的参数，argmin_θ，L_new指使得L_new取得最小值的θ′。