[发明专利]一种基于交叉蒸馏的单目深度估计模型训练方法在审
| 申请号: | 202310115401.0 | 申请日: | 2023-02-15 |
| 公开(公告)号: | CN116188904A | 公开(公告)日: | 2023-05-30 |
| 发明(设计)人: | 陈伟海;邵树威;裴忠才;刘中;吴星明 | 申请(专利权)人: | 北京航空航天大学杭州创新研究院;北京航空航天大学 |
| 主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/30;G06V20/10 |
| 代理公司: | 北京睿智保诚专利代理事务所(普通合伙) 11732 | 代理人: | 韩迎之 |
| 地址: | 310051 浙江省杭州市*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 交叉 蒸馏 深度 估计 模型 训练 方法 | ||
1.一种基于交叉蒸馏的单目深度估计模型训练方法,其特征在于,包括以下步骤:
将城市RGB图像输入到单目深度估计模型中;
所述单目深度估计模型对城市RGB图像生成第一深度预测和第二深度预测;
将第一深度预测和第二深度预测用作伪标签,并对伪标签降噪;
利用降噪后的伪标签对单目深度估计模型完成优化。
2.根据权利要求1所述的一种基于交叉蒸馏的单目深度估计模型训练方法,其特征在于,所述第一深度预测和所述第二深度预测的表达式分别为:
其中,表示来自Transformer分支的预测、表示来自CNN分支的预测,p表示像素点,rn(p)表示城市RGB图像。
3.根据权利要求1所述的一种基于交叉蒸馏的单目深度估计模型训练方法,其特征在于,采用基于不确定性的交叉蒸馏损失对伪标签降噪,所述交叉蒸馏损失的定义式如下:
其中,-是梯度停止操作,是逐元素乘法,是来自Transformer分支的不确定性映射,是来自CNN分支的不确定性映射,p表示像素点。
4.根据权利要求1所述的一种基于交叉蒸馏的单目深度估计模型训练方法,其特征在于,对于不确定图进行建模,建模公式如下:
其中,dn(p)代表预测的深度图,表示真值深度图,b是一个控制误差容限的系数,T表示具有有效真值深度的像素集合,p表示像素点。
5.根据权利要求4所述的一种基于交叉蒸馏的单目深度估计模型训练方法,其特征在于,应用Lu来预测不确定性以近似
其中,代表Transformer分支预测的不确定图,代表CNN分支预测的不确定图,代表Transformer分支不确定图的真值,代表CNN分支不确定图的真值,p表示像素点。
6.根据权利要求1所述的一种基于交叉蒸馏的单目深度估计模型训练方法,其特征在于,对单目深度估计模型完成优化的公式如下:
Ltotal=Lsl+λ1Lurcd+λ2Lu,
其中,Lsl是silog损失,λ1,λ2,κ,η是超参数,用于平衡损失中每一项的权重,|T|代表有值的像素点的个数,dn(p)代表预测的深度图,表示真值深度图,表示Transformer分支在log空间的深度误差,表示CNN分支在log空间的深度误差。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学杭州创新研究院;北京航空航天大学,未经北京航空航天大学杭州创新研究院;北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310115401.0/1.html,转载请声明来源钻瓜专利网。





