[发明专利]一种回声状态网络的实现方法、装置、设备及可读介质

说明书

本发明公开了一种回声状态网络的实现方法，包括以下步骤：对时滞微分方程进行数值仿真分析得到全局动力学特征；基于节点间距对单节点进行分割形成环状拓扑以得到单节点储备池回声状态网络，并基于单节点储备池回声状态网络对输入信号进行处理；以及基于全局动力学特征对单节点储备池回声状态网络的性能进行测试验证，以得到最佳节点间距。本发明还公开了一种回声状态网络的实现装置、计算机设备和可读存储介质。本发明基于时滞系统的高维及短期记忆属性，构造了一类仅包含单个非线性节点的储备池回声状态网络，极大地简化了储备池的拓扑结构，使得网络结构稳定，在方便硬件实现的同时，保证了动态储备池优异的信息表达能力。

技术领域

本发明涉及神经网络技术领域，尤其涉及一种回声状态网络的实现方法、装置、设备及可读介质。

背景技术

人工递归神经网络(RNN)代表了一大类根据生物大脑的具体细节进行建模的计算模型，在模型中大量神经元按照某种方式进行连接，通过输入信号激活整个网络。RNN在一些领域的应用上取得了显著成果，主要有两个原因：一是网络可以无限逼近于动态系统；二是生物大脑模型大多数展现出递归连接的方式。然而，传统RNN在非线性建模方面仍然受到许多限制，主要原因是基于梯度下降法的递归神经网络训练复杂、计算量大且收敛速度慢。

Jaeger于2001年提出的回声状态网络(ESN)与Maass于2002年提出的液体状态机(LSM)巧妙地解决了上述由梯度下降法带来的问题；Verstraeten通过实验证明了ESN与LSM在本质上是相同的，并将两种方法统一命名为“储备池计算”，储备池计算模型较传统递归神经网络需要训练的参量少很多。但是，经典的储备池由大量(通常成百甚至上千)相互连接的节点组成，以完成从低维输入空间到高维状态空间的映射，这种由大量节点互连形成的复杂物理拓扑对硬件实现技术的要求很高，因此传统的储备池计算大多是基于软件完成的。从硬件实现的角度来看，需要设计尽可能简单的储备池，以降低硬件实现的复杂度。

发明内容

有鉴于此，本发明实施例的目的在于提出一种回声状态网络的实现方法、装置、设备及可读介质，基于时滞系统的高维及短期记忆属性，构造了一类仅包含单个非线性节点的储备池回声状态网络，极大地简化了储备池的拓扑结构，使得网络结构稳定，在方便硬件实现的同时，保证了动态储备池优异的信息表达能力。

基于上述目的，本发明实施例的一方面提供了一种回声状态网络的实现方法，包括在维护设备端执行以下步骤：对时滞微分方程进行数值仿真分析得到全局动力学特征；基于节点间距对单节点进行分割形成环状拓扑以得到单节点储备池回声状态网络，并基于单节点储备池回声状态网络对输入信号进行处理；以及基于全局动力学特征对单节点储备池回声状态网络的性能进行测试验证，以得到最佳节点间距。

在一些实施方式中，对时滞微分方程进行数值仿真分析得到全局动力学特征包括：对苍蝇运动方程、混沌延迟微分方程和红血球再生模型微分方程进行数值仿真分析得到全局动力学特征。

在一些实施方式中，全局动力学特征包括运动周期、吸引子和混沌时间。

在一些实施方式中，基于节点间距对单节点进行分割形成环状拓扑以得到单节点储备池回声状态网络包括：将时延与预设节点数的相除得到节点间距，并基于节点间距对单节点进行等分，形成包含预设节点数个节点的环状拓扑。

在一些实施方式中，基于单节点储备池回声状态网络对输入信号进行处理包括：对输入信号进行抽样处理，并将抽样后信号与随机信号相乘作为输入信号输入单节点储备池回声状态网络中进行处理。

在一些实施方式中，还包括：将一个时延周期内的输入信号与输入增益相乘，并基于得到的乘积对节点状态进行更新。

在一些实施方式中，基于全局动力学特征对单节点储备池回声状态网络的性能进行测试验证，以得到最佳节点间距包括：基于全局动力学特征对单节点储备池回声状态网络的性能进行测试，得到误差最小的节点间距作为最佳节点间距。