[发明专利]一种用于神经网络的片上存储处理系统

说明书

本发明提供一种用于神经网络的片上存储处理系统，其包括：编码器模块、解码器模块以及存储群模块；编码器模块被配置为接收目标数据序列，对所述目标数据序列中所有数据逐个比特位地提取各比特位的数值，并将所有数据中相同权值的比特位的数值进行顺序编码，再将相邻比特位的数值编码依次顺序相连，生成编码数据；解码器模块被配置为根据运算指令，读取并解码存储群模块中存储的编码数据；存储群模块被配置为根据接收到的控制信息，生成存储结构，存储编码数据。将本发明的片上存储处理系统用于神经网络的运算，可实现按照数据精度的进行数据存储，能够降低神经网络数据运算过程中的功耗消耗，避免发生数据冗余现象。

技术领域

本发明涉及神经网络技术领域，尤其涉及一种用于神经网络的片上存储处理系统。

背景技术

深度学习技术在近几年得到了飞速的发展，在解决高级抽象认知问题上，例如图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐和智能机器人等领域得到了广泛应用并具有出色的表现，因此成为了学术界和工业界的研究热点。

神经网络是人工智能领域具有最高发展水平的感知模型之一，该类网络通过建立模型模拟人类大脑的神经连接结构，通过多个变换阶段分层对数据特征进行描述，为图像、视频和音频等大规模数据处理任务带来了突破性进展。该模型结构是一种运算模型，由大量节点通过网状互连结构构成，这些节点被称为神经元。每两个节点间连接强度都代表通过该连接信号在两个节点间的加权值，被称为权重，与人类神经网络中的记忆相对应。

而现有技术中，神经网络进行数据处理过程的功耗消耗很大一部分来自于数据搬运过程，其中，数据搬运过程包括片外存储与片上存储之间的访问过程以及片上存储与计算部件之间的访问过程。对于使用定点数据进行计算的神经网络，当数据的参数数量一定时，参数的数据精度(数据位宽)决定着数据量的大小，从而影响数据搬运的功耗。神经网络针对不同的应用场景可使用不同的数据精度，比如手写数字识别、语音激活等功能可以采用低精度的数据表示，图像识别等复杂应用可以采用高精度的数据来保证其正确识别率。

而现有的神经网络处理器通常被设计为只支持一种数据精度或者简单支持2ⁿ(n为自然数)个bit位的数据精度，对于可能出现的多种数据精度的神经网络，并不能进行很好的支持，且会出现数据冗余现象。

发明内容

本发明的目的在于克服上述现有技术的缺陷，提供一种用于神经网络的片上存储处理系统。

根据本发明的第一方面，提供了一种用于神经网络的片上存储处理系统，该片上存储处理系统包括：编码器模块、存储群模块以及解码器模块；编码器模块被配置为接收目标数据序列，对目标数据序列中所有数据逐个比特位地提取各比特位的数值，并将所有数据中相同权值的比特位的数值进行顺序编码，再将顺序编码后的数值顺序相连，生成编码数据；存储群模块被配置为根据接收到的控制信息，生成对应的存储结构，并存储编码后的编码数据；解码器模块被配置为根据运算指令，读取并解码存储群模块中存储的编码数据，其中，解码过程为生成编码数据的逆过程。

在本发明的一个实施例中，存储群模块包括：至少一个存储单元组以及一个微控制器；微控制器根据控制信息中的访存地址信息和数据精度，生成组间组织关系和组内组织关系，或者，根据控制信息中的访存地址信息和数据精度，生成组内组织关系；相邻的两个存储单元组可根据组间组织关系进行结构排序，且任一个存储单元组内设置有预定数目的存储单元，存储单元之间可根据组内组织关系进行结构重组，存储单元组用于存储编码后的编码数据。

在本发明的一个实施例中，存储单元组被配置为进行结构重组时：存储单元依次按照m行n列的方式进行结构重组，m*n为存储单元数目，m、n为正整数，n的值代表数据精度，m的值代表存储单元组重组后所能存储的数据数目。