[发明专利]处理卷积神经网络的方法和设备

说明书

公开处理卷积神经网络(CNN)的方法和设备。所述设备可基于卷积层的内核的特性和卷积层的输入的特性中的至少一个，从重复使用内核的第一操作模式和重复使用输入的第二操作模式选择一个操作模式，并且基于所选择的操作模式执行卷积操作。

本申请要求于2016年11月7日提交到韩国知识产权局的第10-2016-0147562号韩国专利申请的权益，所述韩国专利申请的全部公开出于所有目的通过引用包含于此。

技术领域

下面描述涉及卷积神经网络(CNN)处理技术。

背景技术

基于神经网络的深度学习技术广泛用于各种领域。例如，用于识别例如脸部、虹膜和语音的基于深度学习的生物识别和验证应用可用于终端(例如，智能电话)。卷积神经网络(CNN)指的是卷积操作被应用到的多层神经网络，并且在基于深度学习的图像识别和语音识别的领域中有效地执行。

发明内容

提供本发明内容来以简化的形式介绍以下在具体实施方式中进一步描述的构思的选择。本发明内容既不意在识别所要求保护的主题的关键特征或必要特征，也不意在用于帮助确定所要求保护的主题的范围。

一方面提供一种基于卷积神经网络(CNN)的识别技术，基于CNN的识别技术可在有限资源的终端环境下实现，并且在各种环境中表现出鲁棒性能。例如，这里描述的一种处理CNN的方法可被实现为允许面部识别器在智能电话的信任区域中在有限的时间段内做出响应。处理CNN的方法可仅使用作为单核操作的有限的计算资源来实现。在矩阵乘法运算被应用于给定数据的CNN中，处理CNN的方法可用于减少数据加载数量和操作执行数量以减少存储器的使用，并且还可以以高速度处理CNN。

在一个整体方面，一种处理CNN的方法包括：基于卷积层的内核的特性和卷积层的输入的特性中的至少一个，从重复使用内核的第一操作模式和重复使用输入的第二操作模式选择一个操作模式；基于所选择的操作模式执行卷积操作。

所述CNN可包括多个卷积层，并且所述方法还可包括：基于所述多个卷积层的内核的特性和所述多个卷积层的输入的特性，自适应地从第一操作模式和第二操作模式选择每个卷积层的操作模式。

内核的特性可包括在内核中包括的内核元素中的0的比率以及内核的大小中的至少一个，输入的特性可包括在输入中包括的输入元素中的0的比率以及输入的大小中的至少一个。

选择操作模式的步骤可包括：获得包括在输入中的输入元素中的0的比率；选择对应于所获得的比率以及包括在内核中的内核元素中的0的比率之间的较大的值的操作模式。

选择操作模式的步骤可包括：基于输入的大小和内核的大小之间的比率选择操作模式。

内核的特性和输入的特性可基于所述CNN中的卷积层的深度来确定，选择操作模式的步骤可包括：基于内核的特性和输入的特性中的至少一个，选择满足与数据加载数量和操作存储器的容量中的至少一个相关联的约束的操作模式。

选择操作模式的步骤可包括：选择对应于第一操作模式中的第一数据加载数量以及第二操作模式中的第二数据加载数量之间的较小的值的操作模式。

选择操作模式的步骤可包括获得第一数据加载数量，第一数据加载数量可基于内核加载数量与输入加载数量之和来计算，其中，内核加载数量基于内核的大小来计算，输入加载数量基于包括在内核中的内核元素之中的0的数量以及输入的大小来计算。

选择操作模式的步骤可包括获得包括在输入中的输入元素之中的0的数量；基于输入加载数量与内核加载数量之和来计算第二数据加载数量，其中，输入加载数量基于输入的大小来计算，内核加载数量基于输入元素之中的0的数量以及内核的大小来计算。