[发明专利]执行运算的方法、装置、芯片、设备、介质和程序产品

说明书

本公开提供了一种执行运算的方法、装置、芯片、设备、介质和程序产品，涉及人工智能领域，尤其涉及深度学习领域。具体实现方案为：一种执行深度学习训练中的运算操作的方法，包括：获取用于运算操作的指令，运算操作包括多个向量操作；针对多个向量操作中的每个向量操作，确定用于比较的两个源操作数向量；以及利用针对向量操作的指令格式，对两个源操作数向量执行向量操作，以得到包括目的操作数向量的运算结果。利用上述方法，可以根据不同的数据类型对用于运算操作的指令进行向量化，增加运算操作的并行度，从而有效提高深度学习训练的计算速度。

技术领域

本公开涉及计算机技术领域，尤其涉及执行运算操作的方法、装置、芯片、电子设备、计算机可读存储介质和计算机程序产品，可以用于人工智能领域，尤其可以用于深度学习领域。

背景技术

随着深度学习训练的广泛应用，人们对提高深度学习训练的速度提出了越来越高的要求。深度学习训练中的运算操作可以涉及各种操作，例如标量运算操作(简称为标量操作)，向量运算操作(简称为向量操作)等。在深度学习算法中，常常需要针对各种应用场景进行复杂的运算，例如张量运算。张量运算可以利用编译器被分解为多个连续的向量运算操作，这些向量操作的执行往往需要占用大量的计算资源，导致无法及时处理大量的向量操作，甚至导致进行深度学习训练的系统因计算资源不足而退出运算操作的执行。因此，需要对大量的连续向量操作提高效率，以便提高整个深度学习训练的速度。

发明内容

本公开提供了一种用于执行运算操作的方法、装置、芯片、电子设备、存储介质和程序产品。

根据本公开的第一方面，提供了一种执行深度学习训练中的运算操作的方法，包括：获取用于运算操作的指令，运算操作包括多个向量操作；针对多个向量操作中的每个向量操作，确定用于比较的两个源操作数向量；以及利用针对向量操作的指令格式，对两个源操作数向量执行向量操作，以得到包括目的操作数向量的运算结果。

根据本公开的第二方面，提供了一种执行深度学习训练中的运算操作的装置，包括：获取模块，被配置为获取用于运算操作的指令，运算操作包括多个向量操作；向量确定模块，被配置为针对多个向量操作中的每个向量操作，确定用于比较的两个源操作数向量；以及向量计算模块，被配置为利用针对向量操作的指令格式来对两个源操作数向量执行向量操作，以得到包括目的操作数向量的运算结果。

根据本公开的第三方面，提供了一种芯片，包括至少一个处理器；以及与至少一个处理器通信连接的根据本公开的第二方面的装置。

根据本公开的第四方面，提供了一种电子设备，包括至少一个处理器；以及与至少一个处理器通信连接的存储器；其中存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器能够实现根据本公开的第一方面的方法。

根据本公开的第五方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机实现根据本公开的第一方面的方法。

根据本公开的第六方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时，执行根据本公开的第一方面的方法。

根据本公开的技术，提供了一种执行深度学习训练中的运算操作的方法，利用该方法，可以根据不同的数据类型对用于运算操作的指令进行向量化，增加运算操作的并行度，从而实现对运算操作的加速。由此，在深度学习训练中，占用大量的计算资源的大量的连续向量操作能够提高处理效率，进而能够提高整个深度学习训练的计算速度。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是可以在其中实现本公开的某些实施例的执行运算操作的方法的深度学习训练环境100的示意性框图；