[发明专利]模型稳定性解释方法、装置、设备及存储介质

说明书

本申请公开了一种模型稳定性解释方法、装置、设备和存储介质，该方法包括：在接收到模型稳定性解释指令时，确定待解释模型，确定与所述待解释模型各层矩阵关联的条件数；确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；基于待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。本申请在部署人工智能算法模型之前，对人工智能算法模型的应用可靠性进行准确验证以及校验，避免直接部署稳定性低的模型而造成的安全隐患，以避免人工智能算法模型的应用风险，解决了现有技术中都是直接部署人工智能算法模型，造成人工智能算法模型的应用风险的技术问题。

技术领域

本申请涉及金融科技(Fintech)的人工智能技术领域，尤其涉及一种模型稳定性解释方法、装置、设备及存储介质。

背景技术

随着金融科技，尤其是互联网科技金融的不断发展，越来越多的技术应用在金融领域，但金融业也对技术提出了更高的要求，如金融业对模型稳定性解释也有更高的要求。

人工智能算法模型在对抗攻击样本(对抗样本指的是样本参入特定噪声数据)时，极容易发生误判，例如，人脸识别程序将加有噪音数据的A判别成为C，而现有人工智能算法模型都是直接部署而忽视由于误判造成的安全隐患，很显然，这会对人工智能算法模型的应用可靠性带来风险。

发明内容

本申请的主要目的在于提供一种模型稳定性解释方法、装置、设备和存储介质，旨在解决现有技术中都是直接部署人工智能算法模型，造成人工智能算法模型的应用风险的技术问题。

为实现上述目的，本申请提供一种模型稳定性解释方法，所述模型稳定性解释方法包括：

在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；

确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据；

基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型。

可选地，所述在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数的步骤，包括：

在接收到模型稳定性解释指令时，确定待解释模型，并确定与所述待解释模型各层矩阵关联的条件数；

其中，所述条件数通过待解释模型中各层矩阵的最大特征值确定。

可选地，所述确定所述待解释模型的输入数据，并确定对所述输入数据进行扰动的扰动数据的步骤，包括：

确定所述待解释模型的输入数据，并从所述模型稳定性解释指令中提取扰动关联信息；

基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据。

可选地，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：

从所述扰动关联信息中提取扰动幅度信息；

基于所述扰动幅度信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。

可选地，所述基于所述扰动关联信息和所述输入数据，确定所述待解释模型的扰动数据的步骤，包括：

从所述扰动关联信息中提取扰动方向信息；

基于所述扰动方向信息，所述输入数据以及预设噪声数据生成规则，生成所述待解释模型的扰动数据。

可选地，所述基于所述待解释模型的条件数和所述扰动数据，确定所述待解释模型的稳定性解释结果，以基于所述稳定性解释结果优化所述待解释模型的步骤，包括：