[发明专利]监控模型的方法、装置、电子设备和介质

权利要求书

1.一种监控模型的方法，其特征在于，包括：

根据接收的波动信息，获取被监控的模型的当前样本中各个特征的定向贡献值；

将所述定向贡献值转换为定向权重偏移量，以控制对所述模型的更新。

2.根据权利要求1所述的方法，其特征在于，

通过发现所述波动信息对应的类型给予的提示，接收所述波动信息；

其中，所述波动信息为表示由于样本存在分布差异导致的波动指标变化；

所述定向贡献值包括：特征是导致所述模型在使用时变大的正向的贡献值，或者，特征是导致所述模型在使用时结果变小的负向的贡献值。

3.根据权利要求2所述的方法，其特征在于，

所述模型在使用时变大表示所述模型计算当日样本的结果比计算前一日样本的结果大；

所述模型在使用时变小表示所述模型计算当日样本的结果比计算前一日样本的结果小。

其中，当日样本与前一日样本是不同的样本。

4.根据权利要求2或3所述的方法，根据接收的波动信息，获取被监控的模型的当前样本中各个特征的定向贡献值，具体包括：

当所述波动信息表示的波动指标变化为：波动指标超过预先设定的阈值时，确定被监控的所述模型的出现不稳定状态；

基于所述不稳定状态，获取导致所述模型计算结果变大时的当前样本每个特征所对应的正向贡献值；以及/或者，基于所述不稳定状态，获取导致所述模型计算结果变小时的当前样本每个特征所对应的负向的贡献值。

5.根据权利要求2至4任一项所述的方法，其特征在于，将所述定向贡献值转换为定向权重偏移量，具体包括：

将正向的贡献值按照指定规则进行排序得到对应的各个特征的正向组实际排序值，和/或，将负向的贡献值按照同样的指定规则进行排序得到对应的各个特征的负向组实际排序值；

通过所述模型中各个特征对应的基准贡献值以按照同样的指定规则进行排序，得到对应的各个特征的基准排序值；

根据所述正向组实际排序值和/或负向组实际排序值，结合所述基准排序值，计算正向权重偏移量和/或负向权重偏移量。

6.根据权利要求5所述的方法，其特征在于，

所述波动指标采用模型稳定度指标，当所述稳定度指标大于预设的阈值时，确定被监控的所述模型出现不稳定状态，需要执行对应的更新模型策略；

所述定向贡献值为正向或负向SHAP值；

所述定向权重偏移量为正向或负向DNDPS值；

所述指定规则为SHAP值从大到小排列。

7.根据权利要求6所述的方法，其特征在于，计算正向权重偏移量和/或负向权重偏移量，具体包括：

将正向的SHAP值按照指定规则进行排序，得到第i个特征的正向组实际排序值rank_act,i+；和/或，将负向的SHAP值按照所述指定规则进行排序，得到第i个特征的负向组实际排序值rank_act,i-；

将基准SHAP值按照所述指定规则进行排序，得到第i个特征的基准排序值rank_BZ,i；

通过如下公式得到第i个特征的正向DNDPS值或负向DNDPS值：

其中：N为所述模型的特征总个数，rank_act,i为正向或负向SHAP值rank_act,i+或rank_act,i-。

8.根据权利要求1至7任一项所述的方法，其特征在于，控制对所述模型的更新，具体包括：

根据所述正向或负向DNDPS值及所述模型对应的更新模型的策略，将所述正向或负向DNDPS值输入到更新模型策略中，输出所述模型待调整的特征，并根据所述特征控制对所述模型进行调整，得到更新的模型。