[发明专利]人工神经网络

说明书

根据本发明的示例方面，提供了一种装置，该装置包括：存储器，其被配置为存储至少部分地定义人工神经网络的数据；以及至少一个处理核，其被配置为利用至少一个随机修正线性单元通过将测试数据集应用于人工神经网络来训练人工神经网络，至少一个随机修正线性单元被配置为通过将正输入与随机选择的值相乘来从正输入产生正输出。

技术领域

本发明涉及人工神经网络，诸如，例如，卷积人工神经网络。

背景技术

机器学习和机器识别有多种应用，诸如，例如，机场的自动护照控制，其中，可以将人脸的数字图像与被存储在护照中的以人脸为特征的生物统计信息作比较。

例如，机器识别的另一示例在手写或者打印文档文本识别中用于呈现可搜索书籍的内容。又一示例是行人识别，其中，最终，无人驾驶汽车由此被视为使得能够意识到前方有行人并且汽车可以避免从行人身上碾过。

除了视觉识别之外，口头语言可以是机器识别的主题。当识别到口头语言时，口头语言随后可能被输入至解析器以向数字个人助理提供命令，或者口头语言可以被提供至机器翻译程序，从而获得意思与口头语言相对应的另一语言的文本。

机器识别技术采用以此为目的而被设计的算法。例如，人工神经网络可以被用来实现机器视觉应用。人工神经网络在本文中可以被简称为神经网络。机器识别算法可以包括处理功能，在图像识别中，这种处理功能可以包括：例如，滤波(诸如，形态滤波)、阈值处理、边缘检测、模式识别和对象尺寸测量。

神经网络可以包括：例如，完全连接层和卷积层。完全连接层可以包括所有神经元都具有到相邻层上的所有神经元的连接的层，诸如，例如，前一层。例如，卷积层可以包括这样的层，在该层中，神经元接收来自前一层的一部分的输入，这个部分被称为相应字段。

发明内容

本发明由独立权利要求的特征定义。一些特定实施例在独立权利要求中被定义。

根据本发明的第一方面，提供了一种装置，包括：存储器，其被配置为存储至少部分地定义人工神经网络的数据；以及至少一个处理核，其被配置为通过利用至少一个随机修正线性单元将测试数据集应用于人工神经网络来训练人工神经网络，该至少一个随机修正线性单元被配置为通过将正输入与随机选择的值相乘来从正输入产生正输出。

第一方面的各种实施例可以包括来自以下项目列表的至少一个特征：

·随机选择包括随机的或者伪随机的随机选择；

·数据集包括多个测试图像并且至少一个处理核被配置为改变针对每个测试图像的随机选择的值；

·至少一个处理核被配置为在人工神经网络中的第一对卷积层之间应用第一随机修正线性单元和在人工神经网络中的第二对卷积层之间应用第二随机修正线性单元；

·至少一个随机修正线性单元被配置为从负输入产生零输出；

·至少一个处理核被配置为实现人工神经网络中的随机丢弃函数，对于每个训练样本，丢弃特征将层内的激励的一半随机地设置为零；

·随机选择包括值随机地或者伪随机地选自范围(1-a，1+a)；

·值a是0.8；

·值a是0.3；

·人工神经网络是模式识别神经网络。

根据本发明的第二方面，提供了一种方法，包括：存储至少部分地定义人工神经网络的数据；以及通过利用至少一个随机修正线性单元将测试数据集应用于人工神经网络来训练人工神经网络，至少一个随机修正线性单元被配置为通过将正输入与随机选择的值相乘来从正输入产生正输出。

第二方面的各种实施例可以包括来自以下项目列表的至少一个特征：

·随机选择包括随机的或者伪随机的随机选择；