[发明专利]一种深度神经网络的记忆方法及计算机设备

权利要求书

1.一种深度神经网络的记忆方法，深度神经网络包括编码模型、记忆单元、查询模型和解码模型，其特征在于：包括如下步骤：

步骤1、采集问题学习后的训练数据，所述学习后的训练数据包括问题信息和对应的解答信息，根据编码模型将所述学习后的训练数据编码成对应的求解特征向量，并将该求解特征向量存储在深度神经网络的记忆单元中；

步骤2、输入目标特征向量给深度神经网络；

步骤3、根据查询模型从记忆单元中查找各求解特征向量，分别计算出每个求解特征向量与目标特征向量之间的差值，从记忆单元中提取出与目标特征向量最接近的求解特征向量，差值越小，表示求解特征向量与目标特征向量越接近；

步骤4、将该差值作为新的目标特征向量，输入到深度神经网络中，重复步骤3至步骤4进行下一轮迭代，迭代次数由用户自行设定，若在设定的迭代次数内该差值位于设定范围内，则认为该问题信息描述的问题已被记忆单元中的解答信息所解决，最终提取出最接近的的求解特征向量给解码模型，进入步骤5；否则认为该问题需要新知识来解决，那么将最后的差值存放在记忆单元中；

步骤5、解码模型读取该求解特征向量，并根据该求解特征向量产生对应的指令序列，再根据该指令序列将求解特征向量还原成对应的学习后的训练数据，所述指令序列作为学习后的训练数据的调用接口，将学习后的训练数据从深度神经网络中解放出来用于学习问题的规律。

2.如权利要求1所述的一种深度神经网络的记忆方法，其特征在于：所述步骤1中采用seq2seq模型中的编码器将所述学习后的训练数据编码成对应的求解特征向量。

3.如权利要求1所述的一种深度神经网络的记忆方法，其特征在于：所述步骤3中计算出每个求解特征向量与问题特征向量之间的差值，具体为：将每个求解特征向量一一与目标特征向量进行比对，并通过向量距离计算公式计算出求解特征向量与目标特征向量之间的距离。

4.如权利要求1所述的一种深度神经网络的记忆方法，其特征在于：所述步骤5具体为：所述解析模型采用的是seq2seq模型，由seq2seq模型中的解码器产生的指令序列进行解码，该指令序列包括寻址、读、写和应用变换操作指令。

5.如权利要求1所述的一种深度神经网络的记忆方法，其特征在于：所述学习后的训练数据是包括描述问题的问题信息以及描述该问题对应的解答信息，解答信息为在深度神经网络中求解问题所需的求解步骤信息以及每个步骤所产生的状态信息。

6.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于：所述处理器执行所述程序时实现以下步骤：

步骤1、采集问题学习后的训练数据，所述学习后的训练数据包括问题信息和对应的解答信息，根据编码模型将所述学习后的训练数据编码成对应的求解特征向量，并将该求解特征向量存储在深度神经网络的记忆单元中；

步骤2、输入目标特征向量给深度神经网络；

步骤3、根据查询模型从记忆单元中查找各求解特征向量，分别计算出每个求解特征向量与目标特征向量之间的差值，从记忆单元中提取出与目标特征向量最接近的求解特征向量，差值越小，表示求解特征向量与目标特征向量越接近；

步骤4、将该差值作为新的目标特征向量，输入到深度神经网络中，重复步骤3至步骤4进行下一轮迭代，迭代次数由用户自行设定，若在设定的迭代次数内该差值位于设定范围内，则认为该问题信息描述的问题已被记忆单元中的解答信息所解决，最终提取出最接近的的求解特征向量给解码模型，进入步骤5；否则认为该问题需要新知识来解决，那么将最后的差值存放在记忆单元中；

步骤5、解码模型读取该求解特征向量，并根据该求解特征向量产生对应的指令序列，再根据该指令序列将求解特征向量还原成对应的学习后的训练数据，所述指令序列作为学习后的训练数据的调用接口，将学习后的训练数据从深度神经网络中解放出来用于学习问题的规律。

7.如权利要求5所述的一种计算机设备，其特征在于：所述步骤1中采用seq2seq模型中的编码器将所述学习后的训练数据编码成对应的求解特征向量。