[发明专利]用于训练人工神经网络的方法、人工神经网络和相应计算机程序

说明书

一种用于借助训练数据组来训练人工神经网络、尤其贝叶斯神经网络的方法，该方法具有根据损失函数来匹配人工神经网络的参数的步骤，其中，该损失函数包括第一项，该第一项表示对训练数据组的通过人工神经网络的分类与训练数据组的期望分类之间的距离的下边界的估计。此外，损失函数包括第二项，该第二项构型成使得通过人工神经网络的不同样本来调节训练数据组中的偶然不确定性的差异。

技术领域

本发明涉及一种用于训练人工神经网络的方法、一种人工神经网络、一种人工神经网络的应用、一种相应的计算机程序、一种机器可读的存储介质和一种相应的设备。

本发明的优选应用领域是自主系统领域、尤其至少部分自动化驾驶领域。

至少部分自动化驾驶意味着控制车辆，其中，由至少一个车辆系统接管至少部分的或全部的驾驶任务。如果接管全部的驾驶任务，则涉及全自动化或高度自动化运行的车辆。车辆通过如下方式来自动化地行驶：车辆例如通过相应的环境传感装置自主地识别道路走向、其他交通参与者或障碍物，并且至少部分地在车辆中计算相应的控制指令以及将这些控制指令传递给车辆中的执行器，由此，相应地影响车辆的行驶过程。人类驾驶员在全自动化或高度自动化运行的车辆中不再参与驾驶任务。

随着从以驾驶员全部注意力为前提的驾驶员辅助系统(所谓的1级和2级驾驶员辅助系统)逐步地向全自动化驾驶(所谓的3级至级5的驾驶员辅助系统)切换，产生关于系统安全性的基本问题。尤其将深度人工神经网络(Deep Neutral Network，DNN)用于对安全重要相关的任务(例如对象的识别和分类)产生了关于系统安全的全新问题。

在此，可以将车辆理解为陆地载具、飞行器、宇宙飞船和水上载具，所述车辆尤其包括轿车、载重货车、公共汽车、短驳车、两轮车、轮船、飞机、直升机和无人机。

背景技术

由C.Guo、G.Pleis、Y.Sun和K.Q.Weiterger的《现代神经网络的标定》(ArXiv电子版，2017年6月)中已知，深度神经网络(Deep Neutral Network，DNN)的输出概率没有被很好地校准。这意味着，用于对象识别的DNN仅说明其已识别的内容，但并不说明这种识别的确定性。在可靠的自动化驾驶中，了解识别模型在何种程度上是不确定的是至关重要的。例如，自动化运行的车辆虽然将前方的对象识别为行人，但是在其位置方面是不确定的。在这种情况下，系统可以提前警告驾驶员并且要求接管驾驶任务或制动，以便避免致命事故。

由A.Kenndall和Y.Gal的《在贝叶斯深度学习中我们需要什么样的不确定性》(CoRR,vol.abs/1703.04977，2017年，在线获取自http://arxiv.org/abs/1703.04977)已知，存在与人工神经网络相关联的两种类型的不确定性。认知不确定性(EpistemischeUnsicherheit)或模型不确定性说明人工神经网络的输出在其训练数据方面的不确定性。另一方面，偶然不确定性(Aleatorische Unsicherheit)反映输出中基于所处理的数据缺陷的不确定性。

这例如可能是传感器缺陷(例如噪声、运动模糊)等。因此，(不属于训练数据组的一部分的)异常对象的观察例如可能导致高的认知不确定性。而远处对象的观察可能导致较高的偶然不确定性。对于可靠的自动化驾驶而言，在用于对象识别的人工神经网络中考虑两种类型的不确定性是必不可少的，因为认知不确定性是对识别模型的边界的度量，而偶然不确定性是对对象跟踪情况下的传感器噪声的度量。作者建议，人工神经网络借助无监督损失强调(Verlustakzentuierung)来学习偶然不确定性。目前，这实际上是训练人工神经网络来预测偶然不确定性的标准方法。