[发明专利]用于训练神经网络和用于使其生效的设备和方法

说明书

用于训练神经网络和用于使其生效的设备和方法。公开了用于训练神经网络的设备和方法以及用于使神经网络生效的设备和方法，其中用于训练神经网络的方法具有：通过神经网络来对输入数据进行分类，其中给所述输入数据中的每个输入数据都分配多个类别中的一个类别；基于被分类的输入数据来生成所述多个类别中的一个类别的显著图，其中给所述输入数据中的每个输入数据都分配分类重要性值；提供目标分割，在目标分割中，给所述输入数据中的每个输入数据都分配类别从属关系；通过所述被分类的输入数据与目标分割的比较来确定第一分类误差；通过显著图与目标分割的比较来确定第二分类误差；而且基于第一分类误差和第二分类误差来使神经网络自适应。

技术领域

不同的实施例一般涉及一种用于训练神经网络的设备和方法以及一种用于使神经网络生效的设备和方法。

背景技术

不同的神经网络例如被用于对数据的分类。这些神经网络可以依据基本真实数据来被训练。因为这些基本真实数据并不能覆盖所有可能的场景或上下文，所以可能导致不符合期望的相关被学习，这些不符合期望的相关可能导致错误分类。因而，可能需要与数据的上下文无关地进行分类。此外，在生效过程和/或验证过程的范围内，可能需要使通过神经网络所确定的分类的无上下文生效或验证通过神经网络所确定的分类的无上下文。

在K. Simonyan等人的Deep Inside Convolutional Networks: VisualisingImage Classification Models and Saliency Maps，ICLR Workshop，2014年中描述了一种用于确定显著图（也被称作Saliency Map）的方法。

发明内容

具有独立权利要求1（第一个示例）和11（第二十九个示例）的特征的方法和设备能够实现：有关无上下文的分类来训练神经网络。

具有独立权利要求14（第四十个示例）和15（第五十四个示例）的特征的方法和设备能够实现：有关无上下文的分类来使神经网络生效。

神经网络的至少一部分可以通过一个或多个处理器来实现。在本段中所描述的特征与第一个示例相结合地形成第二个示例。

被分配给一个类别的显著图的输入数据中的每个输入数据的分类重要性值都可以说明在分配该类别时相应的输入数据的重要性。换言之，被分类的输入数据中的至少一个输入数据可具有多个类别中的一个类别而且可以基于这些被分类的输入数据针对所述多个类别中的该类别生成显著图，其中该显著图针对这些输入数据中的每个输入数据都具有分类重要性值而且其中该分类重要性值说明了在将该类别分配给具有该类别的至少一个输入数据时这些输入数据中的相应的输入数据的重要性或意义/相关性。在本段中所描述的特征与第一个示例或第二个示例相结合地形成第三个示例。

对显著图的生成还具有：针对多个分类重要性值中的每个分类重要性值分配第一分类重要性值和第二分类重要性值。在本段中所描述的特征与第一个示例至第三个示例中的一个或多个示例相结合地形成第四个示例。

可以给低于阈值的每个分类重要性值分配第一分类重要性值，而可以给高于阈值的每个分类重要性值分配第二分类重要性值。这具有如下优点：可以给这些输入数据中的每个输入数据分配相应的输入数据在分配该类别时是“不重要”还是“重要”。换言之，第一分类重要性值或第二分类重要性值可以说明相应的输入数据对该类别的分配是否有影响。在本段中所描述的特征与第四个示例相结合地形成第五个示例。

对第一分类误差的确定可具有：基于针对所述多个类别中的所分配的类别的第一损失函数来确定第一损失值。在本段中所描述的特征与第一个示例至第五个示例中的一个或多个示例相结合地形成第六个示例。

第一损失函数可以是交叉熵损失函数。在本段中所描述的特征与第六个示例相结合地形成第七个示例。