[发明专利]一种在存储器中为数据分配存储地址的方法和设备

说明书

本公开涉及一种在存储器中为数据分配存储地址的方法、设备和计算装置，其中计算装置可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。所述计算装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与计算装置和其他处理装置连接，用于计算装置和其他处理装置的数据。本公开的技术方案能够提高存储器的存储空间利用率。

技术领域

本发明涉及计算机领域，更具体地，涉及存储空间的管理。

背景技术

深层神经网络(DNN)已广泛用于各种应用，例如计算机视觉，语音识别，机器翻译和机器人技术，因为与传统的机器学习方法相比，其准确性有较大提高。但是，DNN的性能优势是以极高的计算和内存复杂性为代价的，底层硬件架构面临的挑战。为了提高DNN处理的效率，已经提出了各种专用加速器，以提供能够比通用架构(例如CPU和GPU)更好的性能和效能。

专用神经网络加速器通常需要各种新颖的架构组件，包括控制逻辑(例如，DianNao采用了带有专用控制指令的控制处理器，而Eyeriss采用了两级控制层级)，计算单元(例如，DianNao采用16个固定的固定的功能单元来利用智能应用的容错特征)以及应用程序)和存储器层级(例如，DianNao建议对神经元和权重使用单独的片上存储)。

现有技术的暂存存储器(SPM)对于灵活控制昂贵的数据转移至关重要。在神经网络加速器中使用SPM有三个原因：1)就性能、功率和面积而言，SPM的硬件开销相对于硬件管理的缓存而言更低；2)SPM编程的灵活性可以为挖掘性能和能量提供更多机会；3)额外的编程工作不会给程序员带来太多负担，因为与具有复杂控制流的通用应用程序相比，神经网络应用的执行模式相对规则。

但是，SPM的管理工作并不专门针对神经网络加速。现有工作的关键思想是将SPM的管理表达为作为寄存器分配问题，并且已经使用了各种技术，例如存储器着色(menorycoloring)，图形着色(graph coloring)，整数线性规划(ILP)和ILP的延伸等。

这样的技术非常适合寄存器分配，但对NN加速器的SPM管理效率低下。主要原因是寄存器(包括标量和向量寄存器)的长度是固定的，而NN加速器中SPM的内存请求通常具有可变长度以实现高效率。因此，如果将现有技术应用于NN加速器的SPM管理，那么寄存器和SPM之间的区别功能导致效率低下。

由此可见，现有技术中存在的问题是空间利用率较低，容易产生较多的存储空间碎片。

发明内容

本公开的目的之一是解决现有技术中的空间利用率低，存储空间碎片化的问题。

根据本公开的第一方面，提供一种在存储器中为数据分配存储地址的方法，包括：接收针对存储器中存储空间的空间分配请求，所述空间分配请求携带数据大小；根据接收到的所述空间分配请求来为数据分配目标存储空间；以及基于所分配的目标存储空间，为所述数据分配存储地址。

根据本公开的第二方面，提供一种对存储空间进行管理的方法，包括：形成多个存储块，每个存储块具有总存储空间标识和可用存储空间标识，其中总存储空间标识用于指示所述存储块的总存储空间，所述可用存储空间标识用于指示所述存储块的可用存储空间；将所述多个存储块作为节点形成为树状结构，所述树状结构包括多级节点，其中上级节点的总存储空间为下级节点的总存储空间之和。

根据本公开的第三方面，提供一种在存储器中为数据分配存储空间的方法，包括：接收针对存储器中存储空间的空间分配请求，所述空间分配请求携带数据大小；形成多个存储块，每个存储块具有总存储空间标识和可用存储空间标识，其中总存储空间标识用于指示所述存储块的总存储空间，所述可用存储空间标识用于指示所述存储块的可用存储空间；