[发明专利]内存管理方法、装置及存储介质

说明书

本发明实施例公开了一种内存管理方法、装置及存储介质，属于计算机技术领域。方法包括：根据神经网络中的特征单元连接关系，确定神经网络的至少一个分支；对于每个分支，根据分支上每个特征单元需要的输出内存的尺寸，为分支分配第一内存和第二内存，第一内存尺寸不小于第二内存尺寸，第一内存尺寸和第二内存尺寸均不小于分支需要的其他内存尺寸；将第一内存和第二内存轮流作为分支上特征单元的输入内存和输出内存。本发明实施例针对神经网络中的每个分支仅分配两个内存，轮流作为特征单元的输入内存和输出内存，既可以保证计算的正常进行，而且实现了内存复用，节省了占用的内存，降低了内存需求，保证在终端上能够正常实现神经网络。

技术领域

本发明实施例涉及计算机技术领域，特别涉及一种内存管理方法、装置及存储介质。

背景技术

近年来，深度学习在语音识别和计算机视觉等领域得到了广泛的应用，并且随着深度学习的快速发展，驱动着AI(Artificial Intelligence，人工智能)算法不断涌现，并迅速地改变了技术的发展方向和人们的生活。

深度学习离不开神经网络的实现，传统的神经网络通常在服务器端实现，然而，随着AI算法的不断发展，在服务器端实现神经网络的方式已不能满足人们日益增长的业务需求，亟需提出在终端实现神经网络的方式。

但是，神经网络中包括多个网络层，每个网络层又包括多个特征单元，每个特征单元计算完成输出数据时均需要占用一块内存，导致实现神经网络时需要占用大量的内存。而与服务器端相比，终端的内存有限，无法满足神经网络的内存需求，导致在终端实现神经网络的方式难以实现。

发明内容

本发明实施例提供了一种内存管理方法、装置及存储介质，可以解决相关技术的问题。所述技术方案如下：

第一方面，提供了一种内存管理方法，应用于终端中，所述方法包括：

根据神经网络中的特征单元连接关系，确定所述神经网络的至少一个分支，所述神经网络包括按照顺序排列的多个网络层，每个网络层包括至少一个特征单元，每个分支由位于不同网络层的多个特征单元连接构成；

对于每个分支，根据所述分支上每个特征单元需要的输出内存的尺寸，为所述分支分配第一内存和第二内存，第一内存尺寸不小于第二内存尺寸，所述第一内存尺寸和所述第二内存尺寸均不小于所述分支需要的其他内存尺寸；

将所述第一内存和所述第二内存轮流作为所述分支上特征单元的输入内存和输出内存。

第二方面，提供了一种内存管理装置，应用于终端中，所述装置包括：

确定模块，用于根据神经网络中的特征单元连接关系，确定所述神经网络的至少一个分支，所述神经网络包括按照顺序排列的多个网络层，每个网络层包括至少一个特征单元，每个分支由位于不同网络层的多个特征单元连接构成；

分配模块，用于对于每个分支，根据所述分支上每个特征单元需要的输出内存的尺寸，为所述分支分配第一内存和第二内存，第一内存尺寸不小于第二内存尺寸，所述第一内存尺寸和所述第二内存尺寸均不小于所述分支需要的其他内存尺寸；

所述分配模块，还用于将所述第一内存和所述第二内存轮流作为所述分支上特征单元的输入内存和输出内存。

第三方面，提供了一种内存管理装置，所述内存管理装置包括处理器和存储器，所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集，所述指令、所述程序、所述代码集或所述指令集由所述处理器加载并执行以实现如第一方面所述的内存管理方法中所执行的操作。

第四方面，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，所述指令、所述程序、所述代码集或所述指令集由处理器加载并执行以实现如第一方面所述的内存管理方法中所执行的操作。