[发明专利]一种基于存储阵列的神经网络的训练方法

摘要

本发明提供一种基于存储阵列的神经网络的训练方法，在对各存储阵列的连接权重的参数修改时，分别将该存储阵列前向传播的输入数据离散化和将存储阵列反向传播的误差数据进行离散化，从而分别获得输入离散值和误差离散值，通过输入离散值和误差离散值，确定连接权重的修改条件。该方法中，在修改连接权重时，根据预设的修改条件进行调整，相当于修改幅度为随机的，并不是根据具体的权重修改目标值进行，这样，可以弥补神经网络算法实际修改要求与存储器件特有特性之间的差距，通过多次训练以及随机的修改，达到输出结果收敛的目的，获得满意的训练结果。

主权项

1.一种基于存储阵列的神经网络的训练方法，利用多个存储阵列进行神经网络的训练，各所述存储阵列分别用于神经网络各层之间的矩阵运算，各所述存储阵列由包括非易失性存储器的存储单元构成，所述存储阵列中的存储数据用于表征层之间的连接权重，其特征在于，所述训练方法包括：进行多次样本训练，直到输出误差收敛；其中，每次样本训练中各存储阵列的连接权重的参数修改包括：按照预设的第一连续区间与第一离散值的映射关系，将该存储阵列前向传播的输入数据进行离散化，以获得输入离散值；按照预设的第二连续区间与第二离散值的映射关系，将该存储阵列反向传播的误差数据进行离散化，以获得误差离散值，所述第一连续区间或所述第二连续区间中的一个至少包括三个连续的区间；根据权重变化量正比于所述前向传播的输入数据与所述反向传播的误差数据的乘积的相反数，通过所述输入离散值和所述误差离散值，确定连接权重的修改条件，所述修改条件为预设的擦操作偏置、写操作偏置或不操作偏置；按照所述修改条件，将相应的非易失性存储器进行偏置。