[发明专利]模型稳定性解释方法、装置、设备及存储介质

权利要求书

1.一种模型稳定性解释方法，其特征在于，所述模型稳定性解释方法包括：

在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；

确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；

基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。

2.如权利要求1所述的模型稳定性解释方法，其特征在于，所述在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数的步骤，包括：

在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；

其中，所述条件数通过待解释模型中各层矩阵的最大特征值确定。

3.如权利要求1所述的模型稳定性解释方法，其特征在于，所述确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据的步骤，包括：

确定所述待解释模型的输入数据，并从所述模型稳定性解释指令中提取扰动关联信息；

基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据。

4.如权利要求3所述的模型稳定性解释方法，其特征在于，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：

从所述扰动关联信息中提取扰动幅度信息；

基于所述扰动幅度信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。

5.如权利要求3所述的模型稳定性解释方法，其特征在于，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：

从所述扰动关联信息中提取扰动方向信息；

基于所述扰动方向信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。

6.如权利要求1所述的模型稳定性解释方法，其特征在于，所述基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型的步骤，包括：

确定所述扰动数据与所述输入数据的关联度，并确定所述关联度与所述待解释模型的条件数的关联关系；

若所述关联关系为所述扰动数据与所述输入数据的关联度大，所述待解释模型的条件数大时，确定所述待解释模型的稳定性结果为所述待解释模型的稳定性差，以基于所述待解释模型的稳定性差的稳定性解释结果优化所述待解释模型。

7.如权利要求1所述的模型稳定性解释方法，其特征在于，所述待解释模型为待解释人脸识别模型；

所述基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型的步骤，包括：

基于所述待解释人脸识别模型的条件数和所述扰动数据，确定所述待解释人脸识别模型的人脸识别稳定性解释结果，以基于所述人脸识别稳定性解释结果优化所述待解释模型。

8.一种模型稳定性解释装置，其特征在于，所述模型稳定性解释装置包括：

第一确定模块，用于在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；

第二确定模块，用于确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；

第三确定模块，用于基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。

9.一种模型稳定性解释设备，其特征在于，所述模型稳定性解释设备包括：存储器、处理器以及存储在存储器上的用于实现所述模型稳定性解释方法的程序，

所述存储器用于存储实现模型稳定性解释方法的程序；

所述处理器用于执行实现所述模型稳定性解释方法的程序，以实现如权利要求1至7中任一项所述模型稳定性解释方法的步骤。