[发明专利]模拟树突棘变化的神经网络架构的构建方法和装置

说明书

本申请提出了一种模拟树突棘变化的神经网络架构的构建方法，包括：使用神经网络模拟高等动物出生时大脑中的树突棘，使用邻接矩阵储存神经网络的权重，生成权重矩阵；对权重矩阵进行初始化，模拟高等动物成长发育时大脑中的树突棘的剪枝过程，生成初始化后的权重矩阵；获取训练样本，并将训练样本分为若干组，每组包含相同数量的训练样本；将若干组中的每一组输入初始化后的权重矩阵中进行训练，模拟高等动物的学习过程，生成训练好的权重矩阵；将训练好的权重矩阵转换为真实网络架构，真实网络架构表示高等动物经过学习后的大脑的树突棘。本申请可以用于有监督的图像识别任务，并且针对不同问题可以训练出合适的神经网络架构，具备较强自适应性。

技术领域

本申请涉及计算机算法技术领域，尤其涉及一种模拟树突棘变化的神经网络架构的构建方法和装置。

背景技术

一、人工神经网路领域现状与弊端：

目前，随着深度学习的发展，各种不同架构神经网络的数量呈现井喷的态势，而现阶段的人工神经网络大多为层状结构。如卷积神经网络，采用了卷积层、池化层、全连接层这样的结构。循环神经网络引入了时序的概念，却依然没有摆脱神经网络的层状结构。目前，学者们提出了DenseNet等架构，将输入层与之后的任意层进行连接，但本质仍是层状结构。这些网络训练的过程、采取特定网络架构的原因不具备生物学理论依据。同时，现阶段的人工神经网络存在着以下弊病：根据不同的问题需要人为调整网络架构以得到较好的训练结果，而调整原因往往不具备可解释性。并且，由于该网络架构的搭建过程中，有很多主观决定或实验确定的因素，当将训练好的网络应用于其他类似问题，或应用于同一问题的其他特殊情况时，神经网络给出的结果较差。

二、脑科学领域记忆方面的理论与背景知识：

脑科学领域记忆方面的理论与背景知识：研究人员发现，树突棘在生物记忆领域有着至关重要的作用。树突棘是神经元树突的一个小的膜状突起，可以接受来自突触上单个轴突的输入。它是突触强度的储存场所，有助于将电信号传送到神经元的细胞体。大多数树突棘有一个球状的头，和一个连接树突棘头部和树突轴的细颈。单个神经元可能有成百上千的树突棘。它们可以为记忆储存和突触传递提供基础。G.Yang等人在2009年对小鼠的实验中发现，在新的动作学习的长期过程，小鼠树突棘缓慢出现并消除。可以从小鼠的反应体现出树突棘重塑的程度与小鼠的记忆的形成有关。通过之后一系列的实验，G.Yang等人得出结论：新的学习任务结束后形成的树突棘与大部分早期形成并消除后保留的树突棘，为动物生命记忆提供结构基础，而学习会在皮层留下永久记忆，该记忆保存在稳定连接的突触网络中。树突棘在大脑中的形成、消退、重塑的过程可以分为以下几个步骤：早期生物出生时，大脑中有大量的树突棘。随着年龄的增长与大脑的发育，树突棘渐渐变稀疏。通过新的学习事物的过程，会产生新的特定树突棘，这些树突棘会在之后的过程中消退一部分。各项学习任务最终留存下来的新经验树突棘与大脑中的初期树突棘构支撑这大脑突触网络的连接，作为记忆的基础。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请的第一个目的在于提出一种模拟树突棘变化的神经网络架构的构建方法，解决了现有人工神经网络需要根据不同的问题人为的调整网络架构以得到较好训练结果，而调整原因不具备可解释性的问题，同时解决了现有人工神经网络一旦确定架构很难在训练的过程中对其进行调整，比较不同的网络架构之间的区别也需要分别训练，且耗时巨大的问题，通过模拟树突棘的成长、消退以及在学习任务进行时产生的一系列变化设计一种具备生物学方面的可解释性的网状神经网络架构，可以应用于有监督的图像识别任务，并且可以直接在不同的网络架构中转变，针对不同问题也可以训练出较为合适的神经网络架构，具备较强自适应性。

本申请的第二个目的在于提出一种模拟树突棘变化的神经网络架构的构建装置。

本申请的第三个目的在于提出一种非临时性计算机可读存储介质。