[发明专利]一种确定卷积神经网络的决策因素的方法及电子设备

说明书

一种确定卷积神经网络的决策因素的方法及电子设备，涉及通信技术领域，确定出卷积神经网络的决策因素，方便用户理解卷积神经网络的决策过程，该方法包括：获取输入图像，以及识别输入图像的卷积神经网络模型；根据卷积神经网络模型中每个卷积层包含的卷积核，确定每个卷积层对应的第二权重矩阵；根据每个池化层包含的池化窗口矩阵，确定每个池化层对应的第三权重矩阵；根据每个全连接层包含的激活函数，确定每个全连接层对应的第四权重矩阵；根据这些权重矩阵确定第一权重矩阵；根据第一权重矩阵中各个元素的权重值确定与第一权重矩阵中各个元素位置对应的输入图像中的一个或多个像素，作为卷积神经网络模型的决策因素。

技术领域

本申请涉及神经网络技术领域，尤其涉及一种确定卷积神经网络的决策因素的方法及电子设备。

背景技术

卷积神经网络(convolutional neural networks,CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(feedforward neural networks)，是深度学习(deeplearning)的代表算法之一。随着深度学习和人工智能的发展，卷积神经网络得到了快速发展，并被大量应用于计算机视觉、自然语言处理等领域。

卷积神经网络最广为人知的缺点是“黑箱”性质，这意味着用户不知道卷积神经网络如何以及为何会得出一定的输出。例如，当用户将一张猫的图像输入卷积神经网络，卷积神经网络预测这是汽车时，很难理解为什么会导致它产生这个预测。换言之，卷积神经网络缺乏透明性和可解释性，这将严重影响用户对其的信任程度，进而限制卷积神经网络在现实任务(尤其是风险敏感类任务，如无人驾驶、医疗保健、金融类任务等)中的应用和发展。因此，如何准确解释卷积神经网络的决策过程以及分类结果称为亟待解决的问题。

发明内容

本申请提供的一种确定卷积神经网络的决策因素的方法及电子设备，可以确定出卷积神经网络的决策因素，即输入数据的哪些像素对决策结论起到重要作用，方便用户很直观的理解卷积神经网络的决策过程。

为了达到上述目的，本申请可采用如下方案：

第一方面、提供一种确定卷积神经网络的决策因素的方法，包括：

获取输入图像，以及识别输入图像的卷积神经网络模型，卷积神经网络模型包括至少一个卷积层，至少一个池化层，以及至少一个全连接层；根据至少一个卷积层中每个卷积层包含的一个或多个卷积核，确定每个卷积层对应的第二权重矩阵；根据至少一个池化层中每个池化层包含的池化窗口矩阵，确定每个池化层对应的第三权重矩阵；根据至少一个全连接层中每个全连接层包含的激活函数，确定每个全连接层对应的第四权重矩阵；根据第二权重矩阵、第三权重矩阵和第四权重矩阵确定第一权重矩阵，第一权重矩阵与输入图像像素尺寸的大小相同；根据第一权重矩阵中各个元素的权重值确定与第一权重矩阵中各个元素位置对应的输入图像中的一个或多个像素，作为卷积神经网络模型的决策因素。

可见，本申请将复杂的卷积神经网络的决策过程，等价转换为线性表达。其中线性表达的权重矩阵的权重值可以反映输入数据对决策过程的影响程度，方便用户很直观的理解卷积神经网络的决策过程。

一种可能的实现方式中，根据至少一个卷积层中每个卷积层包含的一个或多个卷积核，确定每个卷积层对应的第二权重矩阵，包括：根据每个卷积层的输入数据确定每个卷积层对应的第二权重矩阵的宽度；根据每个卷积层的一个或多个卷积核感受野和卷积步长，以及每个卷积层的输入数据的尺寸确定每个卷积层对应的第二权重矩阵的高度。

一种可能的实现方式中，至少一个卷积层中第一卷积层的输入数据为m1×n1×r1的多通道矩阵，m1×n1为通道矩阵的尺寸，r1为通道矩阵的数量，且包括k个卷积核，k个卷积核的感受野为p1×q1，卷积步长为s1，第一卷积层对应的第二权重矩阵的宽度为Wc_width＝m1×n1×r1；第一卷积层对应的第二权重矩阵的高度为