[发明专利]处理卷积神经网络的方法和设备

权利要求书

1.一种处理卷积神经网络CNN的方法，所述方法包括：

基于卷积层的内核的特性和卷积层的输入的特性，从重复使用内核的第一操作模式和重复使用输入的第二操作模式选择一个操作模式；

基于所选择的操作模式执行卷积操作，

其中，选择操作模式的步骤包括：选择对应于第一操作模式中的第一数据加载数量和第二操作模式中的第二数据加载数量之间的较小的值的操作模式，

其中，第一数据加载数量基于内核加载数量与输入加载数量之和来计算，其中，内核加载数量基于内核的大小来计算，输入加载数量基于包括在内核中的内核元素之中的0的数量以及输入的大小来计算，

其中，第二数据加载数量基于输入加载数量与内核加载数量之和来计算，其中，输入加载数量基于输入的大小来计算，内核加载数量基于输入元素之中的0的数量以及内核的大小来计算。

2.根据权利要求1所述的方法，其中，所述CNN包括多个卷积层，

所述方法还包括：

基于所述多个卷积层的内核的特性和所述多个卷积层的输入的特性，自适应地从第一操作模式和第二操作模式选择每个卷积层的操作模式。

3.根据权利要求1所述的方法，其中，内核的特性包括在内核中包括的内核元素中的0的比率以及内核的大小中的至少一个；

输入的特性包括在输入中包括的输入元素中的0的比率以及输入的大小中的至少一个。

4.根据权利要求1所述的方法，其中，执行卷积操作的步骤包括：

响应于第一操作模式被选择，基于第一信息和第二信息执行卷积操作，其中，第一信息指定包括在输入中的输入元素之中的与包括在内核中的内核元素相对应的输入元素，第二信息指定包括在卷积操作的输出中的输出元素之中的内核元素和指定的输入元素之间的操作的结果映射到的输出元素。

5.根据权利要求4所述的方法，其中，执行卷积操作的步骤包括：

加载内核元素中的一个内核元素；

基于第一信息加载对应于所加载的内核元素的输入元素；

基于第二信息更新所加载的内核元素和所加载的输入元素之间的操作的结果映射到的输出元素。

6.根据权利要求4所述的方法，其中，基于内核元素的位置、内核的大小和步长、以及输入的大小和填充来确定第一信息，

基于内核元素的位置以及指定的输入元素的位置来确定第二信息。

7.根据权利要求1所述的方法，其中，执行卷积操作的步骤包括：

响应于第一操作模式被选择，加载包括在内核中的内核元素之中的一个内核元素；

响应于所加载的内核元素为0，跳过对应于所加载的内核元素的输入元素的加载或者跳过与所加载的内核元素相关联的操作。

8.根据权利要求1所述的方法，其中，执行卷积操作的步骤包括：

响应于第一操作模式被选择，分配对应于包括在内核中的内核元素的至少一个临时缓冲器；

加载内核中的内核元素之中的一个内核元素；

基于所加载的内核元素以及对应于所加载的内核元素的临时缓冲器执行卷积操作。

9.根据权利要求8所述的方法，其中，执行卷积操作的步骤还包括：

加载内核元素中的与所加载的内核元素不同的另一内核元素；

响应于所述另一内核元素不为0，基于所述另一内核元素和存储在对应于所述另一内核元素的临时缓冲器中的输入元素之间的操作的结果来执行卷积操作。