[发明专利]基于海思平台的目标检测加速方法、系统及相关设备

说明书

本发明适用于人工智能技术应用领域，提供了一种基于海思平台的目标检测加速方法、系统及相关设备，所述方法包括：获取图像队列，并初始化目标检测算法和神经网络推理计算单元；根据所述图像队列中的图像分配处理进程，并根据预设初始进程规则对所述图像队列中的第一帧图像和第二帧图像对应的所述处理进程进行处理；判断所述预设初始进程规则执行时是否收到终止指令，其中：若未收到终止指令，则根据预设异步进程规则对所述图像队列中的图像按序分配所述处理进程；若收到终止指令，则根据预设终止进程规则处理当前的所有所述处理进程。本发明实现了异步的目标检测处理，提高了处理器和推理计算单元的利用率，进一步提高了算法的执行速度和效率。

技术领域

本发明属于人工智能技术应用领域，尤其涉及一种基于海思平台的目标检测加速方法、系统及相关设备。

背景技术

随着人工智能技术的不断发展，使得安防领域的硬件设备性能得到了提升，并进一步扩展了安防的使用场景，满足了不同规模的使用需求。其中，基于海思芯片设计的NNIE(Neural Network Inference Engine，神经网络推理引擎)平台常被用在安防领域边缘设备的硬件中，NNIE中包含针对浮点等数学计算的计算单元，其整体通过体积较小的芯片就能够实现神经网络的计算，并具有不亚于桌面级计算单元的性能。在智能安防领域中，神经网络常被用于目标检测、目标追踪等功能中，在精确度、清晰度等的要求日益渐增的背景下，以服务器、边缘端为拓扑的硬件网络会存在实时性的问题，而以边缘端本身作为计算单元的情况下，由于神经网络不断迭代后本身结构会更复杂，计算过程也会相应的变长，在海思NNIE平台中，对于一般的目标检测算法会采用同步进程的方式，这就使得NNIE的硬件资源被浪费，影响目标检测算法的效率。

发明内容

本发明实施例提供一种基于海思平台的目标检测加速方法、系统及相关设备，旨在解决NNIE的硬件资源在同步进程的运行中被浪费，导致计算效率低的问题。

第一方面，本发明实施例提供一种基于海思平台的目标检测加速方法，所述方法包括以下步骤：

获取图像队列，并初始化目标检测算法和神经网络推理计算单元；

根据所述图像队列中的图像分配处理进程，并根据预设初始进程规则对所述图像队列中的第一帧图像和第二帧图像对应的所述处理进程进行处理；

判断所述预设初始进程规则执行时是否收到终止指令，其中：

若未收到终止指令，则根据预设异步进程规则对所述图像队列中的图像按序分配所述处理进程；

若收到终止指令，则根据预设终止进程规则处理当前的所有所述处理进程。

更进一步地，所述根据预设异步进程规则对所述图像队列中的图像按序分配所述处理进程的步骤后，还包括步骤：

判断所述预设异步进程规则执行时是否收到终止指令，其中：

若未收到终止指令，则根据所述预设异步进程规则对所述图像队列中的图像按序分配所述处理进程；

若收到终止指令，则根据所述预设终止进程规则处理当前的所有所述处理进程。

更进一步地，所述处理进程包括以下步骤：

S1，获取所述图像队列中的未被分配所述处理进程的第一帧图像，并分配处理空间；；

S2，将所述图像输入所述神经网络推理计算单元，并根据所述目标检测算法进行目标检测，释放所述处理空间；

S3，获取所述神经网络推理计算单元的目标检测结果；

S4，对所述目标检测结果进行辅助优化，以完成所述图像的目标检测流程，并结束当前的所述处理进程。

更进一步地，所述预设初始进程规则根据执行先后时序分为以下步骤：