[发明专利]机器学习模型在运行时期间的可变参数

权利要求书

1.一种方法，包括：

接收对应于神经网络(NN)模型的代码以及用于所述NN模型的一组权重；

确定所述NN模型中的一组可变层；

确定用于将第二组权重映射至用于所述NN模型的所述一组权重的信息；以及

生成对应于所述一组可变层的元数据，以及用于将所述第二组权重映射至用于所述NN模型的所述一组权重的所述信息，其中所生成的元数据使得在执行所述NN模型期间能够更新所述一组可变层。

2.根据权利要求1所述的方法，还包括：

编译所述代码和所生成的元数据以创建所述NN模型的编译二进制文件；

提供用于存储在高速缓存中的所述编译二进制文件；以及

向安全应用程序提供句柄，其中所述句柄包括对存储在所述高速缓存中的所述编译二进制文件的引用。

3.根据权利要求1所述的方法，其中所述代码还包括与用于所述NN模型的所述权重对应的偏置值和缩放值的参数。

4.根据权利要求1所述的方法，其中所述第二组权重采用对应于文件的第一格式，所述文件包括具有第一组地址的所述第二组权重，所述第一组地址不同于用于所述NN模型中的所述一组权重的第二组地址。

5.根据权利要求1所述的方法，还包括：

为所述一组层中的每个层确定一组转换，所述一组转换将每个层更改为符合运行所述NN模型的目标平台的硬件要求的代码，其中生成所述元数据包括对应于所述一组转换的信息。

6.根据权利要求5所述的方法，其中所述一组转换包括融合缩放和偏置操作，将缩放和偏置层与另一缩放和偏置层融合，或展平层。

7.根据权利要求1所述的方法，其中所述元数据包括与由所述NN模型的相应可变层执行的一组操作的偏移对应的信息。

8.根据权利要求1所述的方法，其中所述元数据包括有关偏移到所述NN网络的编译二进制文件的可变内核数据节区的信息，所述可变内核节区包括在执行所述NN网络期间的可变的相应权重。

9.根据权利要求8所述的方法，其中基于由应用程序提供的权重文件，驱动器部件在运行时期间更新所述NN网络的相应可变权重。

10.根据权利要求9所述的方法，其中所述权重文件包括一组矢量，所述一组矢量包括对应于所述相应可变权重的数据。

11.一种系统，包括：

处理器；

存储器设备，所述存储器设备包含指令，所述指令在由所述处理器执行时使得所述处理器：

接收对应于神经网络(NN)模型的代码和用于所述NN模型的一组权重；

确定所述NN模型中的一组可变层；

确定用于将第二组权重映射至用于所述NN模型的所述一组权重的信息；以及

生成对应于所述一组可变层的元数据，以及用于将所述第二组权重映射至用于所述NN模型的所述一组权重的所述信息，其中所生成的元数据使得在执行所述NN模型期间能够更新所述一组可变层；以及

编译所述代码和所生成的元数据以创建所述NN模型的编译二进制文件。

12.根据权利要求11所述的系统，其中所述存储器设备还包含指令，所述指令在由所述处理器执行时还使得所述处理器：

提供用于存储在高速缓存中的所述编译二进制文件；以及

向安全应用程序提供句柄，其中所述句柄包括对存储在所述高速缓存中的所述编译二进制文件的引用。

13.根据权利要求11所述的系统，其中所述代码还包括与所述NN模型对应的偏置值、缩放值、权重值的参数和激活参数。