[发明专利]基于重复使用小规模卷积神经网络模块的神经网络系统

权利要求书

1.一种卷积神经网络(CNN)系统，包括：

用于接收具有第一图像尺寸的输入图像的接收模块，其中，所述接收模块被配置成将所述输入图像划分为具有第二图像尺寸的子图像集合；

第一处理级，所述第一处理级包括最大输入图像尺寸受限制的第一硬件CNN模块，其中，所述第一硬件CNN模块进一步被配置成按顺序：

接收所述子图像集合中的每一个子图像；以及

处理所述接收到的每一个子图像，以生成对应所述子图像集合的输出集合；

合并模块，所述合并模块被配置成按顺序从所述第一处理级接收所述输出集合，并将所述输出集合合并成对应所述输入图像的特征图集合；以及

第二处理级，所述第二处理级被配置成接收已合并的特征图集合，并进一步处理所述已合并的特征图集合，以生成所述CNN系统的输出，其中，所述CNN系统的输出包括对所述输入图像的内容的至少一个预测，

其中，所述第一图像尺寸比所述第一硬件CNN模块所能处理的最大输入图像尺寸大得多；以及

其中，所述第二图像尺寸小于或等于所述第一硬件CNN模块所能处理的最大输入图像尺寸。

2.如权利要求1所述的CNN系统，其中，所述子图像集合包括两个子集，分别由下列操作生成：

将所述输入图像划分为由在水平和垂直方向有特定间隔的子图像集合成的第一子集，其中，所述子图像集合的第一子集中水平方向的一对相邻子图像通过第一间隔来分隔，所述子图像集合的第一子集中垂直方向的一对相邻子图像通过第二间隔来分隔；以及

生成所述子图像集合的第二子集，以便所述子图像集合的第二子集中的每一个子图像与所述子图像集合的第一子集中的至少一对相邻子图像在水平方向或垂直方向有适当的重叠。

3.如权利要求1所述的CNN系统，其中，所述第一硬件CNN模块包括串联的卷积(CONV)层集合、ReLU层集合，以及池化层集合，其中，使用所述第一硬件CNN模块来处理所述接收到的子图像集合中的每一个子图像，包括对所述接收到的子图像交替地使用所述CONV层集合中的一个CONV层，所述ReLU层集合中的一个ReLU层，以及所述池化层集合中的一个池化层。

4.如权利要求1所述的CNN系统，其中，所述第一硬件CNN模块的每一CONV层进一步包括滤波器集合，其中，与所述已处理的子图像集合中的每一个子图像相关联的所述输出集合对应于所述滤波器集合。

5.如权利要求1所述的CNN系统，其中，所生成的合并后的特征图集合与直接用一个大规模CNN系统的卷积-ReLU-池化层处理所述输入图像而不必划分所述输入图像所得到的特征图集合结果基本上相同。

6.如权利要求1所述的CNN系统，其中，所述第二处理级包括串联的完全连接(FC)层集合以及ReLU层集合， 其中，处理所述已合并的特征图集合包括对所述已合并的特征图集合交替地使用所述FC层集合中的一个FC层以及所述ReLU层集合中的一个ReLU层。

7.如权利要求1所述的CNN系统，其中，所述第二处理级以软件实现。

8.如权利要求1所述的CNN系统，其中，所述第二处理级以硬件方式用第二硬件CNN模块实现。

9.如权利要求8所述的CNN系统，其中，所述第一硬件CNN模块和所述第二硬件CNN模块两者都是用基于嵌入式系统的小规模硬件CNN模块来实现的，所述小规模硬件CNN模块包括卷积层集合、第ReLU层集合、池化层集合、完全连接(FC)层集合，以及第二ReLU层集合：

其中所述第一硬件CNN模块是通过跳过所述小规模硬件CNN模块中的所述FC层集合和所述第二ReLU层集合来实现的；以及

其中，所述第二硬件CNN模块是通过跳过所述小规模硬件CNN模块中的所述卷积层集合、所述第ReLU层集合，以及所述池化层集合来实现的。