[发明专利]利用cuda并行加速Anchor-based数据的处理方法、装置以及电子设备有效
| 申请号: | 202111252339.7 | 申请日: | 2021-10-27 |
| 公开(公告)号: | CN113704520B | 公开(公告)日: | 2022-03-08 |
| 发明(设计)人: | 王浩;杨烟台;尹桂信;张天昊;傅春连;周晨磊;张玉晖;宋明武 | 申请(专利权)人: | 天津(滨海)人工智能军民融合创新中心 |
| 主分类号: | G06F16/51 | 分类号: | G06F16/51;G06F16/583;G06N3/04;G06N3/08 |
| 代理公司: | 北京辰权知识产权代理有限公司 11619 | 代理人: | 李小朋 |
| 地址: | 300450 天津市滨海新区天津*** | 国省代码: | 天津;12 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 利用 cuda 并行 加速 anchor based 数据 处理 方法 装置 以及 电子设备 | ||
本申请公开了一种利用cuda并行加速Anchor‑based数据的处理方法、装置、电子设备及介质。通过应用本申请的技术方案,可以将单目标追踪算法网络模型的输出值转移到GPU显卡上的核函数中,以达到将后续计算任务全部交由核函数并行处理的目的。从而可以避免现有技术中需要将模型输出参数拷贝到CPU上再进行计算所导致的处理效率低下的问题。
技术领域
本申请中涉及数据通信技术,尤其是一种利用cuda并行加速Anchor-based数据的处理方法、装置、电子设备及介质。
背景技术
基于深度卷积神经网络(Convolutional Neural Networks, CNN)的单目标追踪算法在计算机视觉领域取得了突破性进展,根据是否需要预设边框来区分,有Anchor-based和Anchor-free两类,许多算法在应用上的精度也逐渐达到工业化、产品化的标准,如daSiamRPN,SiamRPN++以及siamFC++等。
在追求精度的同时,如何提高算法的前端计算速度也被工业界角逐。主流前端推理框架,如Libtorch、TensorRT以及OpenCV等侧重于优化加速算法模型骨干网络的前向推理速度,多使用GPU来加速算法的执行速度,为深度学习算法提供低延迟、高吞吐率的部署推理。
其中,Anchor-based单目标追踪算法通过增设大量的预设边界框提升算法的性能,与此同时增加了GPU设备端到主机端的设备拷贝数据量。但是如何加速单目标追踪算法的计算速度,降低算法的整体推理时间成为了本领域技术人员需要解决的问题。
发明内容
本申请实施例提供一种利用cuda并行加速Anchor-based数据的处理方法、装置、电子设备及介质,其中,根据本申请实施例的一个方面,提供的一种利用cuda并行加速Anchor-based数据的处理方法,其特征在于,应用于在GPU显卡上,其中:
获取单目标追踪算法网络模型基于特征图像输出的第一输出参数,所述第一输出参数包括目标坐标偏移值以及置信度;
在cuda核函数中并行生成多尺寸预设边框和汉宁窗值,其中所述多尺寸预设边框与所述特征图像的尺寸相对应;
在所述cuda核函数中对所述置信度进行尺度惩罚与汉宁窗处理,得到最大置信度和索引值;
基于所述目标坐标偏移值,在所述cuda核函数中确定坐标偏移,得到所述特征图像对应的目标坐标。
可选地,在基于本申请上述方法的另一个实施例中,所述获取单目标追踪算法模型基于特征图像输出的第一输出参数,包括:
构建所述单目标追踪算法网络模型;
将所述特征图像以及初始目标坐标值输入至所述单目标追踪算法网络模型,得到所述目标坐标偏移值以及置信度。
可选地,在基于本申请上述方法的另一个实施例中,所述在cuda核函数中并行生成多尺寸预设边框和汉宁窗值,包括:
基于所述特征图像的每个网格,在所述cuda核函数中并行生成对应形状以及对应大小的所述多尺寸预设边框;以及,
在所述cuda核函数中并行生成与所述特征图像尺寸相同的所述汉宁窗值。
可选地,在基于本申请上述方法的另一个实施例中,所述在所述cuda核函数中对所述置信度进行尺度惩罚与汉宁窗处理,得到最大置信度和索引值,包括:
在所述cuda核函数中并行生成与所述特征图像尺寸对应的尺度惩罚系数,并利用所述尺度惩罚系数对所述置信度进行尺度惩罚;以及,
在所述cuda核函数中并行生成汉宁窗处理,得到所述最大置信度和索引值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津(滨海)人工智能军民融合创新中心,未经天津(滨海)人工智能军民融合创新中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111252339.7/2.html,转载请声明来源钻瓜专利网。





