[发明专利]实体对象分类结果的解释方法和装置

说明书

说明书披露一种实体对象分类结果的解释方法和装置，所述方法包括：获取输入分类模型的业务数据，以及所述业务数据对应的实体对象的分类结果，所述模型是多层神经网络模型，所述多层神经网络模型隐藏层的激活函数为分段线性激活函数，所述业务数据是所述实体对象的特征数据；针对所述业务数据的每个特征，根据所述分类结果对所述特征求梯度，得到该特征的特征梯度；根据各个特征的特征梯度对所述实体对象的分类结果进行解释。

技术领域

本说明书涉及机器学习技术领域，尤其涉及一种实体对象分类结果的解释方法和装置。

背景技术

机器学习技术目前在各个领域中都得到广泛应用，例如电子商务、自动驾驶、医疗诊断等。然而，大多数机器学习模型相当于黑盒，根据输入数据得到输出结果，用户仅能知晓输出结果而无法了解其内部的决策机制。这些机器学习模型对其输出结果不具有解释性，无法满足业务场景的需求。

发明内容

有鉴于此，本说明书提供一种实体对象分类结果的解释方法和装置。

具体地，本说明书是通过如下技术方案实现的：

一种实体对象分类结果的解释方法，包括：

获取输入分类模型的业务数据，以及所述业务数据对应的实体对象的分类结果，所述模型是多层神经网络模型，所述多层神经网络模型隐藏层的激活函数为分段线性激活函数，所述业务数据是所述实体对象的特征数据；

针对所述业务数据的每个特征，根据所述分类结果对所述特征求梯度，得到该特征的特征梯度；

根据各个特征的特征梯度对所述实体对象的分类结果进行解释。

一种实体对象分类模型的训练方法，包括：

采用分段线性激活函数作为隐藏层的激活函数，构建多层神经网络模型；

采用样本对所述多层神经网络模型进行训练，得到实体对象分类模型，所述样本是实体对象的特征数据；

所述实体对象分类模型的分类结果在各特征下的特征梯度是所述实体对象分类结果的解释依据。

一种实体对象分类结果的解释装置，包括：

获取结果单元，获取输入分类模型的业务数据，以及所述业务数据对应的实体对象的分类结果，所述模型是多层神经网络模型，所述多层神经网络模型隐藏层的激活函数为分段线性激活函数，所述业务数据是所述实体对象的特征数据；

梯度计算单元，针对所述业务数据的每个特征，根据所述分类结果对所述特征求梯度，得到该特征的特征梯度；

结果解释单元，根据各个特征的特征梯度对所述实体对象的分类结果进行解释。

一种实体对象分类模型的训练装置，包括：

模型构建单元，采用分段线性激活函数作为隐藏层的激活函数，构建多层神经网络模型；

模型训练单元，采用样本对所述多层神经网络模型进行训练，得到实体对象分类模型，所述样本是实体对象的特征数据；

所述实体对象分类模型的分类结果在各特征下的特征梯度是所述实体对象分类结果的解释依据。

一种实体对象分类结果的解释装置，包括：

处理器；

用于存储机器可执行指令的存储器；

其中，通过读取并执行所述存储器存储的与实体对象分类结果的解释逻辑对应的机器可执行指令，所述处理器被促使：