[发明专利]模拟树突棘变化的神经网络架构的构建方法和装置

权利要求书

1.一种模拟树突棘变化的神经网络架构的构建方法，其特征在于，包括以下步骤：

使用神经网络模拟高等动物出生时大脑中的树突棘，并使用邻接矩阵储存所述神经网络的权重，生成权重矩阵，其中，所述神经网络为有向无环神经网络且所述神经网络包括的节点之间两两互相连接，所述权重矩阵包括输入层权重矩阵、隐层所有神经元之间的连接矩阵、输出层权重矩阵；

对所述权重矩阵进行初始化，模拟所述高等动物成长发育时大脑中的树突棘的剪枝过程，生成初始化后的权重矩阵；

获取训练样本，并将所述训练样本分为若干组，每组包含相同数量的训练样本，其中，所述训练样本包括样本特征向量以及期望的预测向量；

将所述若干组中的每一组输入所述初始化后的权重矩阵中进行训练，模拟所述高等动物的学习过程，生成训练好的权重矩阵；

将所述训练好的权重矩阵转换为真实网络架构，所述真实网络架构表示所述高等动物经过学习后的大脑的树突棘。

2.如权利要求1所述的方法，其特征在于，所述输入层权重矩阵、所述隐层所有神经元之间的连接矩阵、所述输出层权重矩阵，表示为：

其中，N_hid为神经网络中隐层所有神经元的总数，N_in为输入层神经元的数目即输入数据的维度，可根据图像识别问题的输入图像大小确定，N_out为输出层神经元的数目即输出数据的维度，可根据图像识别具体问题的图像类别数决定，W^Hid表示所述隐层所有神经元之间的连接矩阵，W^In表示所述输入层权重矩阵，W^Out表示所述输出层权重矩阵，

使用有向无环图表示所述神经网络，使用主对角线都为0的上三角矩阵W^Hid表示所述有向无环图，表示为：

Ⅲ^Hid(i，j)＝0

where i＝0，1，2...，N_hid-1 and 0≤j≤i

其中，i，j为隐层神经元的编号，N_hid为神经网络中隐层所有神经元的总数，W^Hid表示所述隐层所有神经元之间的连接矩阵。

3.如权利要求1所述的方法，其特征在于，使用现有初始化方法对所述权重矩阵进行初始化，或使用训练完毕或训练一半的神经网络对所述输入层权重矩阵、隐层所有神经元之间的连接矩阵、输出层权重矩阵进行赋值。

4.如权利要求1所述的方法，其特征在于，所述将所述若干组中的每一组输入所述权重矩阵中进行训练，包括前馈计算输出、修改一部分连接权重、部分连接的置零与固化，其中，所述修改一部分连接权重模拟所述高等动物学习新任务时，大脑中的树突棘增加、增强、减弱的过程，所述置零模拟所述高等动物遗忘的过程，所述固化模拟所述高等动物形成永久记忆的过程。