[发明专利]特征维度重要性分析方法、装置、设备及可读存储介质

说明书

本发明公开了一种特征维度重要性分析方法、装置、设备及可读存储介质，所述方法包括：将原始样本输入目标机器学习模型得到原始输出结果，并对所述原始输出结果进行修改得到修改结果；在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到修改样本；对所述修改样本和所述原始样本的各个特征维度进行数据对比，基于对比结果得到各个特征维度的重要性分析结果。本发明提出了一种分析机器学习模型输入数据的各个特征维度重要性的有效途径。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种特征维度重要性分析方法、装置、设备及可读存储介质。

背景技术

大数据时代背景下，人工智能已经成为工业领域、金融领域以及科研领域中帮助人们对数据背后的事实进行挖掘与阐述的必要工具。另一方面，尽管人工智能会给出相应的预测结果，然而受限于人类对抽象事物理解能力的上限，大部分人工智能模型与方法都被视为黑箱模型，黑箱模型存在的一个问题是模型输入数据的各个特征维度对模型预测结果所起的作用，即其重要程度是未知的。然而在实际应用中，往往需要了解各个特征维度的重要程度，才能够更好地应用人工智能模型。且，随着计算机计算能力，存储能力与人工智能算法性能的不断提升，模型输入样本的特征维度也在不断增长，因此如何判断各个特征维度的重要性成为了一个急需解决的问题。

发明内容

本发明的主要目的在于提供一种特征维度重要性分析方法、设备、系统及可读存储介质，旨在解决如何判断人工智能模型输入样本的各个特征维度的重要性的问题。

为实现上述目的，本发明提供一种特征维度重要性分析方法，所述方法包括以下步骤：

将原始样本输入目标机器学习模型得到原始输出结果，并对所述原始输出结果进行修改得到修改结果；

在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到修改样本；

对所述修改样本和所述原始样本的各个特征维度进行数据对比，基于对比结果得到各个特征维度的重要性分析结果。

可选地，所述修改结果为所述原始样本对应的反例结果，

所述在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到修改样本的步骤包括：

在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到备选样本；

将所述备选样本输入所述目标机器学习模型得到备选结果，并检测所述备选结果是否构成所述原始样本的反例结果；

若检测到所述备选结果构成所述原始样本的反例结果，则将所述备选样本作为修改样本；

若检测到所述备选结果不构成所述原始样本的反例结果，则将所述备选结果作为新的原始输出结果，基于新的原始输出结果再执行所述步骤：在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到备选样本。

可选地，所述在所述目标机器学习模型中反向传播所述修改结果和所述原始输出结果之间的差值，以对所述原始样本进行修改得到修改样本的步骤包括：

计算所述修改结果和所述原始输出结果之间的差值；

按照反向传播方法根据所述差值计算所述原始样本各个特征维度的梯度值；

根据所述梯度值对所述原始样本各个特征维度的数据进行修改得到修改样本。

可选地，所述对所述修改样本和所述原始样本的各个特征维度进行数据对比，基于对比结果得到各个特征维度的重要性分析结果的步骤包括：