[发明专利]基于知识蒸馏的轻量化单目标跟踪器训练方法在审
| 申请号: | 202210570157.2 | 申请日: | 2022-05-24 |
| 公开(公告)号: | CN115100238A | 公开(公告)日: | 2022-09-23 |
| 发明(设计)人: | 白永强;孙瀚;陈杰;窦丽华;邓方;甘明刚;蔡涛 | 申请(专利权)人: | 北京理工大学 |
| 主分类号: | G06T7/246 | 分类号: | G06T7/246;G06V10/764;G06V10/82;G06N3/08;G06N3/04 |
| 代理公司: | 北京理工大学专利中心 11120 | 代理人: | 郭德忠 |
| 地址: | 100081 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 基于 知识 蒸馏 量化 目标 跟踪 训练 方法 | ||
1.基于知识蒸馏的轻量化目标跟踪器训练方法,其特征在于,所述轻量化目标跟踪器由学生跟踪器和教师跟踪器组成,针对该轻量化目标跟踪器的训练包括如下步骤:
向学生跟踪器传递四部分知识进行学习:真实标签的监督信息GTS、教师自适应有界知识TAB、教师注意力引导知识TAG、学生相互学习知识SML;
所述的真实标签的监督信息GTS,为学生跟踪器提供了来自真实标签最真实的标准答案;
所述的教师自适应有界知识TAB,表示学生跟踪器从教师跟踪器的最终输出直接获取的知识;
所述的教师注意力引导知识TAG,为学生跟踪器提供来自教师跟踪器对输入图像的空间注意力及通道注意力的引导;
所述的学生相互学习知识SML,旨在让多个学生之间相互学习和指导,以达到共同进步的目的。
2.根据权利要求1所述的基于知识蒸馏的轻量化目标跟踪器训练方法,其特征在于,所述的真实标签的监督信息GTS,其转移的具体过程如下,
利用锚框与目标包围矩形框间的交并比信息,可以获取对应点标签信息,获得分类分支的真实标签信息GTcls和回归分支的真实标签信息GTreg;接着,将CS和RS分别表示学生跟踪器的分类输出和回归输出,于是GTS的损失表达式为:
其中,为分类分支的损失函数,采用交叉熵来计算损失,为回归分支的损失函数,采用平滑L1计算损失;超参数λ的定义被用于平衡两部分的重要性。
3.根据权利要求1或2所述的基于知识蒸馏的轻量化目标跟踪器训练方法,其特征在于,所述的教师自适应有界知识TAB,其转移的具体过程如下,
将自适应边界设置为学生跟踪器和教师跟踪器与真实标签值的损失之差;
分类边界从教师跟踪器和学生跟踪器的分类分支输出层提取,其定义为:
Bcls分类边界,为教师跟踪器和分类分支的真实标签值之间的损失,为学生跟踪器和分类分支的真实标签值之间的损失,CT是教师跟踪器的分类分支输出,CS是学生跟踪器的分类分支输出;
回归边界从教师跟踪器和学生跟踪器的回归分支输出层提取,其定义为:
Breg分类边界,是教师跟踪器和回归分支的真实标签值之间的损失,是学生跟踪器和回归分支的真实标签值之间的损失,RT是教师跟踪器的回归分支输出,RS是学生跟踪器的回归分支输出,
对于分类分支,只有在分类边界值小于预设阈值的情况下,TAB才为学生跟踪器提供来自教师跟踪器分类分支输出层的软化损失;当分类边界值超过预设阈值,TAB则停止为学生跟踪器提供损失;对于回归分支,只有在分类边界值和回归边界值均小于预设阈值的情况下,TAB才为学生跟踪器提供来自教师跟踪器回归分支输出层的软化损失;两边界值只要有其一超过预设阈值,TAB则停止为学生跟踪器提供损失。
4.根据权利要求3所述的基于知识蒸馏的轻量化目标跟踪器训练方法,其特征在于,分类分支的TAB转移损失定义为:
其中,KL表示KL散度损失,t为温度参数,表示将原先分类概率软化以提取暗知识thcls为分类边界值的预设阈值;;
回归分支的TAB转移损失定义为:
其中,表示平滑L1损失函数;thcls为回归边界值的预设阈值。
5.根据权利要求1、2或4所述的基于知识蒸馏的轻量化目标跟踪器训练方法,其特征在于,整体的TAB转移损失定义为:
其中λ为权重值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京理工大学,未经北京理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210570157.2/1.html,转载请声明来源钻瓜专利网。





