[发明专利]内存调度方法及装置、电子设备和存储介质

说明书

本公开提供了一种内存调度方法及装置、电子设备和存储介质，涉及人工智能技术领域，尤其涉及深度学习和分布式计算技术领域。实现方案为：获取待训练的第一模型，第一模型包括多个前向算子；在执行多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及基于可用内存量和内存占用量，确定是否将中间计算结果保留于内存中。

技术领域

本公开涉及人工智能技术领域，尤其涉及深度学习和分布式计算技术领域，具体涉及一种内存调度方法及装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术

人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

随着人工智能技术的发展，人工智能所涉及的数据规模和模型规模越来越大。大数据和大模型的双重挑战导致人工智能模型的训练耗时较长。

在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明，否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地，除非另有指明，否则此部分中提及的问题不应认为在任何现有技术中已被公认。

发明内容

本公开提供了一种内存调度方法及装置、电子设备、计算机可读存储介质和计算机程序产品。

根据本公开的一方面，提供了一种内存调度方法，包括：获取待训练的第一模型，其中，所述第一模型包括多个前向算子；在执行所述多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中。

根据本公开的一方面，提供了一种内存调度装置，包括：第一获取模块，被配置为获取待训练的第一模型，其中，所述第一模型包括多个前向算子；第二获取模块，被配置为在执行所述多个前向算子中的任一前向算子之前，获取当前的可用内存量和该前向算子输出的中间计算结果的内存占用量；以及确定模块，被配置为基于所述可用内存量和所述内存占用量，确定是否将所述中间计算结果保留于内存中。

根据本公开的一方面，提供了一种电子设备，包括：至少一个处理器；以及与上述至少一个处理器通信连接的存储器，该存储器存储有可被上述至少一个处理器执行的指令，该指令被上述至少一个处理器执行，以使上述至少一个处理器能够执行上述内存调度方法。

根据本公开的一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行上述内存调度方法。

根据本公开的一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现上述内存调度方法。

根据本公开的一个或多个实施例，能够实现模型训练过程中的内存的动态、自适应调度，提高内存的利用效率和模型的训练效率。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图示例性地示出了实施例并且构成说明书的一部分，与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的，并不限制权利要求的范围。在所有附图中，相同的附图标记指代类似但不一定相同的要素。

图1示出了根据本公开一些实施例的内存调度方法的流程图；

图2示出了根据本公开一些实施例的流水线并行的模型训练模式的示意图；