[发明专利]一种模型特征分析方法、装置、设备及介质

权利要求书

1.一种模型特征分析方法，其特征在于，包括：

获取日志中的样本信息，所述日志为在目标模型在线预测时生成的；

对所述样本信息中的目标特征进行扰动，得到特征扰动信息；

依据所述特征扰动信息确定所述样本信息对应的排序变化信息；所述排序变化信息基于每一条样本信息对应的扰动排序分与所述样本信息中的排序分之间的差值确定，所述排序分表示在对目标特征扰动前目标模型输出的排序分，扰动排序分表示在对目标特征扰动后目标模型输出的排序分；

依据所述排序变化信息，确定所述目标特征的重要性分析结果；

其中，所述日志包含至少两条样本信息，所述对所述样本信息中的目标特征进行扰动，得到特征扰动信息包括：

从每一条样本信息中提取作为所述目标特征的待分析特征；

依据所述待分析特征对应的特征类型，确定扰动量信息；

基于所述扰动量信息和每一条样本信息中所述待分析特征的特征值信息，确定每一条样本信息对应的特征扰动信息；

所述依据所述待分析特征对应的特征类型，确定扰动量信息，包括：

当所述特征类型为连续类型时，确定所述待分析特征对应的取值分布信息；

若所述取值分布信息符合预设的幂律分布条件，则基于预设扰动增量信息，确定所述待分析特征对应的扰动量信息；

若所述取值分布信息符合预设的均匀分布条件，则基于所述待分析特征对应的特征阈值和预设扰动增量信息，确定所述扰动量信息。

2.根据权利要求1所述的模型特征分析方法，其特征在于，

所述依据所述待分析特征对应的特征类型，确定扰动量信息，包括： 当所述特征类型为无序离散类型时，将所述待分析特征对应的向量取反信息作为所述扰动量信息；

所述基于所述扰动量信息和每一条样本信息中所述待分析特征的特征值信息，确定每一条样本信息对应的特征扰动信息，包括：针对每一条样本信息，采用所述向量取反信息对所述特征值信息进行取反处理，得到对应的特征扰动信息。

3.根据权利要求1所述的模型特征分析方法，其特征在于，所述依据所述待分析特征对应的特征类型，确定扰动量信息，包括：

当所述特征类型为有序离散类型时，确定所述待分析特征对应的取值分布信息；

若所述取值分布信息符合预设的幂律分布条件，则基于所述待分析特征对应的单位变化信息和预设扰动增量信息，确定所述扰动量信息；

若所述取值分布信息符合预设的均匀分布条件，则基于所述待分析特征对应的单位变化信息和单位变化系数，确定所述扰动量信息。

4.根据权利要求1至3任一所述的模型特征分析方法，其特征在于，依据所述特征扰动信息确定所述样本信息对应的排序变化信息，包括：

基于每一条样本信息对应的特征扰动信息和模型特征信息，确定每一条样本信息对应的扰动排序分，其中，所述模型特征信息包括所述样本信息中除了所述目标特征之外的模型特征的特征值；

针对每一条样本信息，基于所述扰动排序分与所述样本信息中的排序分之间的差值，确定对应的排序变化信息。

5.根据权利要求4所述的模型特征分析方法，其特征在于，依据所述排序变化信息，确定所述目标特征的重要性分析结果，包括：

对所述日志中各样本信息对应的排序变化信息进行统计，得到所述目标特征对应的排序分变化值；

基于所述排序分变化值确定所述目标特征的重要性分析结果。