[发明专利]一种海思无NPU硬件上实现的卷积神经网络方法

说明书

本发明涉及图像处理技术领域，公开了一种海思无NPU硬件上实现的卷积神经网络方法，包括以下步骤：修改网络结构，修改网络结构中的卷积单元，通过多个卷积单元设计出YOLO或SSD网络模型；训练网络模型使用8位图像作为YOLO或SSD网络模型的输入，对YOLO或SSD网络模型进行训练，使得卷积单元中的卷积层、池化层、反卷积层和激活层中的每一层的输出均通过激活函数变换为8位数据，卷积核也使用8位进行存储；使用训练好的YOLO或SSD网络模型通过IVE算子设计前向运算，这种实现卷积神经网络的方法，成本低廉，可以在现有大量使用的安防前端设备上完成高性能的视频检测、分析任务，不增加成本。

技术领域

本发明涉及图像处理技术领域，特别涉及一种海思无NPU硬件上实现的卷积神经网络方法。

背景技术

卷积神经网络在图像监测、识别等方面表现出非常好的效果，但是卷积神经网络计算量都比较大，需要大量CPU计算资源或者硬件的NPU(神经网络计算单元)来完成。如完成人脸检测、人脸识别、车辆检测跟踪等。这在安防市场有着较大的应用。现在安防监控市场中大量使用的监控摄像机、硬盘录像机等前端设备大多使用海思、MSTAR等硬件方案，90％都没有NPU资源、CPU计算能力也有限。

近年来，随着高清视频、智能分析、云计算和大数据相关技术的发展，安防产业从传统的被动防御向主动判断、预警发展，行业也从单一的安全领域向多行业应用、提高生活智能化程度方向进步，为更多的行业和人群提供智能化解决方案。目前视频监控前后端均已经实现了智能化，其中前端“智能化”，后端“云化”，并逐渐演变为“边缘节点”、“边缘域”、“云中心”三个层次，云边融合的产业生态圈成为安防产业的新趋势。从安防市场应用现状来看，非智能边缘节点依然占据市场最大份额(不带计算资源)。计算性能也最受限制，如何在有限的资源上实现智能算法是安防行业一个重要发展方向。

目前市场上80％的安防前端设备使用海思、MSTAR等方案，其中90％以上不具备计算资源。此类安防设备仅起到视频监控、录像的功能。极少数具备简单的视频分析功能、如边界入侵检测、行人入侵检测、遗留物检测等，且这些功能虚警率较高，实用价值不大。

近几年卷积神经网络在目标检测、目标识别、跟踪等方面取得了较好的效果，但是由于消耗资源较大，目前市场上使用卷积神经网络来完成视频检测、分析功能都需要硬件具备算力，也就是NPU资源。

现有技术在绝大多数安防前端设备中都不能使用卷积神经网络来实现视频检测、分析等功能。使用NPU或算力较强的CPU来完成成本较高，不适合目前国内大多安防市场，此外目前已安装有大量的安防设备，如果想让这些旧设备具备智能，目前只有更换高性能设备。

发明内容

本发明提供一种海思无NPU硬件上实现的卷积神经网络方法，成本低廉，可以在现有大量使用的安防前端设备上完成高性能的视频检测、分析任务，如人脸检测、车牌识别、视频结构化等，不增加成本。

本发明提供了一种海思无NPU硬件上实现的卷积神经网络方法，包括以下步骤：

S1、修改网络结构

修改网络结构中的卷积单元，所述卷积单元包括卷积层、池化层、反卷积层和激活层；

通过多个卷积单元设计出YOLO或SSD网络模型；

S2、训练网络模型

使用8位图像作为YOLO或SSD网络模型的输入，对YOLO或SSD网络模型进行训练，使得卷积单元中的卷积层、池化层、反卷积层和激活层中的每一层的输出均通过激活函数变换为8位数据，卷积核也使用8位进行存储；

S3、使用训练好的YOLO或SSD网络模型通过IVE算子设计前向运算。

进一步地，所述卷积单元的卷积层后增加量化层，量化层将网络权重量化到[-128-128]，在存储时候，网络权重存储量化后的数据。