[发明专利]基于记忆巩固机制与GAN模型的序列化任务完成方法及系统

说明书

本发明涉及基于记忆巩固机制与GAN模型的序列化任务完成方法，与现有技术相比解决了多任务场景下模型会出现遗忘致使无法完成序列化任务的缺陷。本发明包括以下步骤：序列化任务的获取；设定索引器并生成任务索引；利用GAN模型进行任务训练；进行伪样本的联合训练；新序列化任务的完成。本发明通过重要参数的保护和记忆回放的设计，将记忆巩固机制应用于GAN模型，使得GAN模型具备了多任务处理能力，能够保留子任务中的重要信息、遗忘非重要信息，实现了序列化任务的完成。

技术领域

本发明涉及序列化任务处理方法技术领域，具体来说是基于记忆巩固机制与GAN模型的序列化任务完成方法及系统。

背景技术

生成式对抗网络(GAN，Generative Adversarial Networks)是一种深度学习模型，其由一个生成器和一个判别器构成,通过对抗学习的方式来训练，目的是估测数据样本的潜在分布并生成新的数据样本。生成器的目的是尽量去学习真实的数据分布，而判别器的目的是尽量正确判别输入数据是来自真实数据还是来自生成器；为了取得游戏胜利，这两个游戏参与者需要不断优化，各自提高自己的生成能力和判别能力，这个学习优化过程就是寻找二者之间的一个纳什均衡。

目前，GAN广泛应用于图像和视觉、语音和语言等领域，如图像生成，图像去噪，风格转移，高分辨率用重建，语音合成等。虽然GAN的应用场景丰富，但是在现实环境中，其面临着一个严重问题—灾难性遗忘。

灾难性遗忘指人工神经网络(Artificial neural networks,ANN)学习了新的知识之后，几乎彻底遗忘掉之前习得的内容。在现实世界中，很多任务不可能一次性得到所有的训练数据，例如开放的环境、非特定的任务。这就使得ANN必须能够利用不断产生的新数据持续地，增量地学习新知识，并且不遗忘之前所学过的重要内容，以致于GAN模型无法应用于序列化任务的应用。

序列化任务的最大特点是多任务的交错执行，不同的任务随着不同的请求进行不同的执行，通常任务一完成后，跟着的是并不相同的任务二、任务三、任务四。而由于GAN模型的灾难性遗忘，使得其在学习完任务二后不再记得任务一的内容，致使序列化任务无法完成。

因此，如何设计一种能够实现序列化、多任务的完成方法已经成为急需解决的技术问题。

发明内容

本发明的目的是为了解决现有技术中多任务场景下模型会出现遗忘致使无法完成序列化任务的缺陷，提供一种基于记忆巩固机制与GAN模型的序列化任务完成方法及系统来解决上述问题。

为了实现上述目的，本发明的技术方案如下：

一种基于记忆巩固机制与GAN模型的序列化任务完成方法，包括以下步骤：

11)序列化任务的获取：获得待进行处理的序列化任务；

12)设定索引器并生成任务索引：对索引器进行设定，将序列化任务输入索引器生成任务索引；

13)利用GAN模型进行任务训练：使用GAN模型对建立任务索引号后的任务进行训练；

14)进行伪样本的联合训练：利用记忆回放方式生成任务一的伪样本，利用GAN模型对建立任务索引号后的任务二和任务一的伪样本进行训练，训练中保护任务一的参数重要性；

15)新序列化任务的完成：获取新的序列化任务，重复上述11)-14)步骤，完成新的序列化任务。

所述的对索引器进行设定中索引器为One-hot向量，其形式为：任务1(0,…,1)，任务2(0,…,1,0)，任务n(0,..1,..0)。

所述的利用GAN模型进行任务训练包括以下步骤：

31)将序列化任务输入GAN模型；