[发明专利]电子装置和执行该电子装置的操作的方法

权利要求书

1.一种用于电子装置执行人工智能模型的操作的方法，该方法包括：

在用于神经网络模型的操作的多个数据存储在存储器中时，获得用于电子装置的硬件的资源信息，所述多个数据分别具有彼此不同的重要程度；

基于所获取的资源信息，根据所述多个数据中的每个的重要程度，获得所述多个数据之中的用于神经网络模型的操作的数据；以及

通过使用所获得的数据执行神经网络模型的操作。

2.根据权利要求1所述的方法，其中，所述多个数据包括用于神经网络模型的操作的量子化的矩阵的参数值。

3.根据权利要求2所述的方法，其中，所述量子化的矩阵的参数值包括分别具有彼此不同的重要程度的二进制数据。

4.根据权利要求3所述的方法，其中，在二进制数据中，二进制数据的重要程度分别随着二进制数据的比特顺序增加而降低。

5.根据权利要求3所述的方法，其中，所述执行神经网络模型的操作还包括：

对输入值和二进制数据的每个比特执行矩阵运算；

对每个比特的运算结果求和；以及

获取输出值。

6.根据权利要求3所述的方法，其中，所述执行神经网络模型的操作还包括分别基于二进制数据的每个比特的顺序使用多个神经网络处理单元来执行矩阵并行运算。

7.根据权利要求2所述的方法，其中，所述量子化的矩阵的参数值包括通过使用贪婪算法量子化的矩阵的参数值。

8.根据权利要求1所述的方法，其中，所述获得数据还包括通过参照其中定义多个调度模式的查找表获得将用于神经网络模型的操作的数据。

9.根据权利要求1所述的方法，其中，所述获得数据还包括获得所述多个数据之中的将用于神经网络模型的操作的二进制数据的数量，该二进制数据的数量少于所述多个数据的数量。

10.根据权利要求1所述的方法，其中，所述用于硬件的资源信息包括电子装置的功耗、执行神经网络模型的操作的处理单元的数量或神经网络模型的预定延迟中的至少一项。

11.一种电子装置，包括：

存储器，存储分别具有彼此不同的重要程度的多个数据；以及

处理器，被配置为：

基于用于电子装置的硬件的资源信息，根据存储在存储器中的所述多个数据中的每个的重要程度，获得所述多个数据之中的将用于神经网络模型的操作的数据，以及

通过使用所获得的数据执行神经网络模型的操作。

12.根据权利要求11所述的电子装置，其中，所述多个数据包括用于神经网络模型的操作的量子化的矩阵的参数值。

13.根据权利要求12所述的电子装置，其中，所述量子化的矩阵的参数值包括分别具有彼此不同的重要程度的二进制数据。

14.根据权利要求13所述的电子装置，其中，在二进制数据中，所述二进制数据的重要程度分别随着二进制数据的比特顺序增加而降低。

15.根据权利要求13所述的电子装置，其中，所述处理器还被配置为：

对输入值和二进制数据的每个比特执行矩阵运算，

对每个比特的运算结果求和，以及

获取输出值。