[发明专利]特征维度重要性分析方法、装置、设备及可读存储介质

权利要求书

1.一种特征维度重要性分析方法，其特征在于，所述方法包括以下步骤：

将原始样本输入目标机器学习模型得到原始输出结果，并对所述原始输出结果进行修改得到修改结果；

在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到修改样本；

对所述修改样本和所述原始样本的各个特征维度进行数据对比，基于对比结果得到各个特征维度的重要性分析结果。

2.如权利要求1所述的特征维度重要性分析方法，其特征在于，所述修改结果为所述原始样本对应的反例结果，

所述在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到修改样本的步骤包括：

在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到备选样本；

将所述备选样本输入所述目标机器学习模型得到备选结果，并检测所述备选结果是否构成所述原始样本的反例结果；

若检测到所述备选结果构成所述原始样本的反例结果，则将所述备选样本作为修改样本；

若检测到所述备选结果不构成所述原始样本的反例结果，则将所述备选结果作为新的原始输出结果，基于新的原始输出结果再执行所述步骤：在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到备选样本。

3.如权利要求1所述的特征维度重要性分析方法，其特征在于，所述在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到修改样本的步骤包括：

计算所述修改结果和所述原始输出结果之间的差值；

按照反向传播方法根据所述差值计算所述原始样本各个特征维度的梯度值；

根据所述梯度值对所述原始样本各个特征维度的数据进行修改得到修改样本。

4.如权利要求1所述的特征维度重要性分析方法，其特征在于，所述对所述修改样本和所述原始样本的各个特征维度进行数据对比，基于对比结果得到各个特征维度的重要性分析结果的步骤包括：

计算所述修改样本中各个特征维度的数据与所述原始样本中对应特征维度的数据之间的差值，得到各个特征维度的数据差值；

将各所述数据差值分别与对应特征维度的预设阈值进行比较，将数据差值大于预设阈值的特征维度确定为重要特征，以得到各个特征维度的重要性分析结果。

5.如权利要求1所述的特征维度重要性分析方法，其特征在于，所述对所述原始输出结果进行修改得到修改结果的步骤包括：

接收对所述原始输出结果进行修改的修改指令；

将所述修改指令中携带的结果作为所述原始输出结果的修改结果。

6.如权利要求1所述的特征维度重要性分析方法，其特征在于，当所述原始输出结果是概率值时，所述对所述原始输出结果进行修改得到修改结果的步骤包括：

检测所述原始输出结果是否大于预设分类阈值；

若所述原始输出结果大于所述预设分类阈值，则从第一区间选取一个概率值作为所述修改结果，其中，所述第一区间为大于或等于零，且小于所述预设分类阈值的区间。

若所述原始输出结果小于或等于所述预设分类阈值，则从第一区间选取一个概率值作为所述修改结果，其中，所述第二区间为小于或等于一，且大于所述预设分类阈值的区间。

7.如权利要求1至6任一项所述的特征维度重要性分析方法，其特征在于，所述重要性分析结果为指示各个特征维度中重要特征的结果，所述目标机器学习模型为风险授信模型，所述对所述修改样本和所述原始样本的各个特征维度进行数据对比，基于对比结果得到各个特征维度的重要性分析结果的步骤之后，还包括：

根据所述重要性分析结果，检测待预测用户的样本数据中所述重要特征对应的数据是否为异常数据；

若所述重要特征对应的数据为异常数据，则对所述重要特征对应的数据进行弱化处理；

将弱化处理后的样本数据输入所述目标机器学习模型得到风险授信结果。