[发明专利]一种基于人眼立体视觉特性的立体图像显著性检测方法在审

专利信息
申请号: 201611244693.4 申请日: 2016-12-29
公开(公告)号: CN106780476A 公开(公告)日: 2017-05-31
发明(设计)人: 刘晓琪;周洋;何永健 申请(专利权)人: 杭州电子科技大学
主分类号: G06T7/00 分类号: G06T7/00;G06T7/11
代理公司: 杭州君度专利代理事务所(特殊普通合伙)33240 代理人: 杜军
地址: 310018 浙*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 立体 视觉 特性 图像 显著 检测 方法
【权利要求书】:

1.一种基于人眼立体视觉特性的立体图像显著性检测方法,其特征在于,该方法具体包括以下步骤:

步骤一:显著特征提取:从立体图像的二维、深度两个不同维度的视图信息进行显著性计算,分别提取二维显著区域和深度显著区域;

其中提取二维显著区域具体包括以下步骤:

首先采用SLIC算法对立体视图的左视图进行预处理,通过区域分割获取超像素区域并进行区域相似性合并,然后,再采用GBVS模型进行二维显著性计算,具体步骤为:

a)采用SLIC算法对输入左视图进行超像素分割获取分割区域,具体公式如下:

<mrow><msub><mi>d</mi><mi>c</mi></msub><mo>=</mo><msqrt><mrow><msup><mrow><mo>(</mo><msub><mi>l</mi><mi>j</mi></msub><mo>-</mo><msub><mi>l</mi><mi>i</mi></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo>(</mo><msub><mi>a</mi><mi>j</mi></msub><mo>-</mo><msub><mi>a</mi><mi>i</mi></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo>(</mo><msub><mi>b</mi><mi>j</mi></msub><mo>-</mo><msub><mi>b</mi><mi>i</mi></msub><mo>)</mo></mrow><mn>2</mn></msup></mrow></msqrt></mrow>

<mrow><msub><mi>d</mi><mi>s</mi></msub><mo>=</mo><msqrt><mrow><msup><mrow><mo>(</mo><msub><mi>x</mi><mi>j</mi></msub><mo>-</mo><msub><mi>x</mi><mi>i</mi></msub><mo>)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo>(</mo><msub><mi>y</mi><mi>j</mi></msub><mo>-</mo><msub><mi>y</mi><mi>i</mi></msub><mo>)</mo></mrow><mn>2</mn></msup></mrow></msqrt></mrow>

<mrow><msub><mi>D</mi><mi>S</mi></msub><mo>=</mo><msqrt><mrow><msup><mrow><mo>(</mo><mfrac><msub><mi>d</mi><mi>c</mi></msub><mi>m</mi></mfrac><mo>)</mo></mrow><mn>2</mn></msup><mo>+</mo><msup><mrow><mo>(</mo><mfrac><msub><mi>d</mi><mi>s</mi></msub><mi>S</mi></mfrac><mo>)</mo></mrow><mn>2</mn></msup></mrow></msqrt></mrow>

其中,(li,ai,bi)和(lj,aj,bj)分别表示(xi,yi)和(xj,yj)两点在LAB颜色空间对应的三个分量,dc表示两点在LAB颜色空间的距离,ds表示两点在二维平面内的距离,m为表示迭代次数,默认值取10,S为类间最大空间距离,Ds为所求的距离度量;

将超像素分割后的立体图像左视图进行区域相似性合并;经过SLIC算法分割后,图像中的每个分割区域都拥有自己的种子点,基于计算相邻种子点的颜色特征相似性进行区域合并,将超像素图中的n个区域进行合并,得到标签图Lr(x,y):

<mfenced open = "" close = ""><mtable><mtr><mtd><mrow><msup><mi>L</mi><mi>r</mi></msup><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>=</mo><mi>i</mi></mrow></mtd><mtd><mrow><mo>&ForAll;</mo><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>&Element;</mo><msubsup><mi>R</mi><mi>i</mi><mi>r</mi></msubsup></mrow></mtd></mtr></mtable></mfenced>

其中,1≤i≤n,Lr(x,y)为标签图;

b)对区域相似性合并后的标签图采用GBVS算法对区域合并后的图像进行二维空间显著计算,该模型主要包括两步:

1.二维图像特征的提取:采用线性滤波以及非线性滤波提取图像的亮度颜色以及方向的低阶视觉特征;得到特征图M;

2.二维显著图的生成:

首先给定输入图像的一张特征图:M:[n]2→R,然后定义两个特征点之间的距离公式为:

<mrow><mi>d</mi><mrow><mo>(</mo><mo>(</mo><mrow><mi>i</mi><mo>,</mo><mi>j</mi></mrow><mo>)</mo><mo>|</mo><mo>|</mo><mo>(</mo><mrow><mi>p</mi><mo>,</mo><mi>q</mi></mrow><mo>)</mo><mo>)</mo></mrow><mover><mo>=</mo><mi>&Delta;</mi></mover><mo>|</mo><mi>l</mi><mi>o</mi><mi>g</mi><mfrac><mrow><mi>M</mi><mrow><mo>(</mo><mi>i</mi><mo>,</mo><mi>j</mi><mo>)</mo></mrow></mrow><mrow><mi>M</mi><mrow><mo>(</mo><mi>p</mi><mo>,</mo><mi>q</mi><mo>)</mo></mrow></mrow></mfrac><mo>|</mo></mrow>

式中M(i,j)和M(p,q)分别代表节点(i,j)、(p,q)两点的相应特征值;将特征图M中的每一个像素点进行两两相连构建图GA,然后计算出(i,j)和(p,q)这两个节点的有向边的相应权重大小:

<mrow><msub><mi>&omega;</mi><mn>1</mn></msub><mrow><mo>(</mo><mo>(</mo><mrow><mi>i</mi><mo>,</mo><mi>j</mi></mrow><mo>)</mo><mo>,</mo><mo>(</mo><mrow><mi>p</mi><mo>,</mo><mi>q</mi></mrow><mo>)</mo><mo>)</mo></mrow><mover><mo>=</mo><mi>&Delta;</mi></mover><mi>d</mi><mrow><mo>(</mo><mo>(</mo><mrow><mi>i</mi><mo>,</mo><mi>j</mi></mrow><mo>)</mo><mo>|</mo><mo>|</mo><mo>(</mo><mrow><mi>p</mi><mo>,</mo><mi>q</mi></mrow><mo>)</mo><mo>)</mo></mrow><mo>&CenterDot;</mo><mi>F</mi><mrow><mo>(</mo><mi>i</mi><mo>-</mo><mi>p</mi><mo>,</mo><mi>j</mi><mo>-</mo><mi>q</mi><mo>)</mo></mrow></mrow>

<mrow><mi>F</mi><mrow><mo>(</mo><mi>a</mi><mo>,</mo><mi>b</mi><mo>)</mo></mrow><mover><mo>=</mo><mi>&Delta;</mi></mover><mi>exp</mi><mrow><mo>(</mo><mo>-</mo><mfrac><mrow><msup><mi>a</mi><mn>2</mn></msup><mo>+</mo><msup><mi>b</mi><mn>2</mn></msup></mrow><mrow><mn>2</mn><msup><mi>&sigma;</mi><mn>2</mn></msup></mrow></mfrac><mo>)</mo></mrow></mrow>

式中σ为一个自定义参数,默认取值为图像宽度大小的0.1到0.15倍左右,反向边具有同样大小的权重值;首先将每个节点的有向边权重大小都归一化到0到1区间,然后在图GA上定义一条马尔科夫链,通过马尔科夫链的均衡分布反映出每个特征节点之间的差异大小,即对应的显著值,进而得到二维显著图Simg:[n]2→R;

其中深度显著性计算,具体步骤为:

a)采用DERS软件根据输入的左视点图和右视点图计算出相应的原始视差图D;

b)对原始视差图D进行预处理,即首先计算原始视差图D中每行局部视差改变量,初步分离背景与物体:

<mrow><msubsup><mi>d</mi><mi>p</mi><mo>&prime;</mo></msubsup><mo>=</mo><msub><mi>d</mi><mi>p</mi></msub><mo>&CenterDot;</mo><mo>|</mo><msub><mi>d</mi><mi>p</mi></msub><mo>-</mo><msub><mover><mi>d</mi><mo>&OverBar;</mo></mover><mi>r</mi></msub><mo>|</mo></mrow>

其中,p表示视差图中的该点像素,d′p和dp分别表示预处理后p点像素的视差值和原始图中p点像素值,表示该行像素点的平均像素值,其中包括dp;得到图像D′;

采用区域对比度算法用于进一步的目标背景的显著性计算,该算法主要包括两大部分:(1)先将图像D′进行图像区域分割,(2)然后计算D′中的每个区域Ri与周围其他区域的视差对比度并进行显著性赋值:

<mrow><mi>S</mi><mrow><mo>(</mo><msub><mi>R</mi><mi>i</mi></msub><mo>)</mo></mrow><mo>=</mo><munder><mo>&Sigma;</mo><mrow><msub><mi>R</mi><mi>i</mi></msub><mo>&NotEqual;</mo><msub><mi>R</mi><mi>k</mi></msub></mrow></munder><msub><mi>n</mi><mi>k</mi></msub><msubsup><mi>d</mi><mi>R</mi><mo>&prime;</mo></msubsup><mrow><mo>(</mo><msub><mi>R</mi><mi>i</mi></msub><mo>,</mo><msub><mi>R</mi><mi>k</mi></msub><mo>)</mo></mrow></mrow>

其中,S(Ri)代表区域Ri的显著值,ni表示区域Ri的像素点个数,nk表示区域Rk的像素点个数,d′R(Ri,Rk)表示Ri和Rk两个区域之间的视差对比度大小:

<mrow><msubsup><mi>d</mi><mi>R</mi><mo>&prime;</mo></msubsup><mrow><mo>(</mo><msub><mi>R</mi><mi>i</mi></msub><mo>,</mo><msub><mi>R</mi><mi>k</mi></msub><mo>)</mo></mrow><mo>=</mo><mfrac><mrow><munder><mo>&Sigma;</mo><mrow><mi>p</mi><mo>&Element;</mo><msub><mi>R</mi><mi>i</mi></msub><mo>,</mo><mi>q</mi><mo>&Element;</mo><msub><mi>R</mi><mi>k</mi></msub></mrow></munder><mi>&omega;</mi><mrow><mo>(</mo><mi>p</mi><mo>,</mo><mi>q</mi><mo>)</mo></mrow><mo>&CenterDot;</mo><msup><mi>d</mi><mo>&prime;</mo></msup><mrow><mo>(</mo><mi>p</mi><mo>,</mo><mi>q</mi><mo>)</mo></mrow></mrow><mrow><msub><mi>n</mi><mi>i</mi></msub><msub><mi>n</mi><mi>k</mi></msub></mrow></mfrac></mrow>

其中,d′(p,q)表示p和q两点之间的视差差值,定义为|d′p-d′q|,ω(p,q)表示权重用来计算p和q两点之间的空间距离,其中σ'2为一个控制参数默认值取0.4,最后将计算后的图像归一化到[0,1]区间,基于屏幕前凸显的物体更为显著值进行显著性映射赋值:

<mrow><msubsup><mi>S</mi><mi>R</mi><mo>&prime;</mo></msubsup><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>=</mo><mfrac><mrow><msub><mi>S</mi><mi>R</mi></msub><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>-</mo><msub><mi>S</mi><mrow><mi>m</mi><mi>i</mi><mi>n</mi></mrow></msub></mrow><mrow><msub><mi>S</mi><mrow><mi>m</mi><mi>a</mi><mi>x</mi></mrow></msub><mo>-</mo><msub><mi>S</mi><mrow><mi>m</mi><mi>i</mi><mi>n</mi></mrow></msub></mrow></mfrac></mrow>

其中,S′R(x,y)代表(x,y)像素点位置的映射显著值,Smax和Smin分别代表SR(x,y)中的最大显著值以及最小显著值;得到视差显著图S′R

c)利用高斯差分滤波器提取重要的深度感知特征—深度对比度,实现公式下:

<mrow><mi>G</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>,</mo><msup><mi>&sigma;</mi><mrow><mo>&prime;</mo><mo>&prime;</mo></mrow></msup><mo>)</mo></mrow><mo>=</mo><mfrac><mn>1</mn><mrow><mn>2</mn><msup><mi>&pi;&sigma;</mi><mrow><mo>&prime;</mo><mo>&prime;</mo><mn>2</mn></mrow></msup></mrow></mfrac><mo>&lsqb;</mo><mrow><msup><mi>e</mi><mrow><mo>-</mo><mfrac><mrow><msup><mi>x</mi><mn>2</mn></msup><mo>+</mo><msup><mi>y</mi><mn>2</mn></msup></mrow><mrow><mn>2</mn><msup><mi>&sigma;</mi><mrow><mo>&prime;</mo><mo>&prime;</mo><mn>2</mn></mrow></msup></mrow></mfrac></mrow></msup><mo>-</mo><mfrac><mn>1</mn><msup><mi>K</mi><mn>2</mn></msup></mfrac><mi>e</mi><mfrac><mrow><msup><mi>x</mi><mn>2</mn></msup><mo>+</mo><msup><mi>y</mi><mn>2</mn></msup></mrow><mrow><mn>2</mn><msup><mi>K</mi><mn>2</mn></msup><msup><mi>&sigma;</mi><mrow><mo>&prime;</mo><mo>&prime;</mo><mn>2</mn></mrow></msup></mrow></mfrac></mrow><mo>&rsqb;</mo><mo>=</mo><mi>G</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>,</mo><msup><mi>&sigma;</mi><mrow><mo>&prime;</mo><mo>&prime;</mo></mrow></msup><mo>)</mo></mrow><mo>-</mo><mi>G</mi><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>,</mo><msup><mi>K&sigma;</mi><mrow><mo>&prime;</mo><mo>&prime;</mo></mrow></msup><mo>)</mo></mrow></mrow>

其中(x,y)代表滤波器位置,σ”和K分别用来控制滤波器的尺度和高斯核的半径比;取σ”=32,K=1.6;得到深度对比度图SE

d)再将获取的视差显著图S′R和深度对比度图SE采用线性加权的融合的方式获取深度显著图Sdep

Sdep=wrS′R+weSE

其中,wr和we分别为视差显著图S′R和深度对比度图SE的权重,这里

wr=we=0.5;

步骤二:显著特征融合

将提取的两种不同维度的显著特征图结合人眼视觉疲劳特性,采取线性加权的融合策略进行融合,进而获取立体图像的显著区域;

具体步骤如下:

SSM(x,y)=λ(γSimg(x,y)+(1-γ)Sdep(x,y))

其中,SSM(x,y),Simg(x,y)和Sdep(x,y)分别表示立体图像显著图,二维空间显著图和深度显著图,γ表示权重默认初始值设为0.5,λ参数表示像素点的视觉舒适特征:

<mrow><mi>&lambda;</mi><mo>=</mo><mfenced open = "{" close = ""><mtable><mtr><mtd><mrow><mn>1</mn><mo>-</mo><mfrac><mrow><mo>|</mo><msub><mi>d</mi><mi>p</mi></msub><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>-</mo><msub><mi>T</mi><mrow><mi>n</mi><mi>e</mi><mi>g</mi></mrow></msub><mo>|</mo></mrow><mrow><msub><mi>T</mi><mrow><mi>p</mi><mi>o</mi><mi>s</mi></mrow></msub><mo>-</mo><msub><mi>T</mi><mrow><mi>n</mi><mi>e</mi><mi>g</mi></mrow></msub></mrow></mfrac></mrow></mtd><mtd><mrow><msub><mi>d</mi><mi>p</mi></msub><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>&lt;</mo><msub><mi>T</mi><mrow><mi>n</mi><mi>e</mi><mi>g</mi></mrow></msub></mrow></mtd></mtr><mtr><mtd><mn>1</mn></mtd><mtd><mrow><msub><mi>T</mi><mrow><mi>n</mi><mi>e</mi><mi>g</mi></mrow></msub><mo>&le;</mo><msub><mi>d</mi><mi>p</mi></msub><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>&le;</mo><msub><mi>T</mi><mrow><mi>p</mi><mi>o</mi><mi>s</mi></mrow></msub></mrow></mtd></mtr><mtr><mtd><mrow><mn>1</mn><mo>-</mo><mfrac><mrow><msub><mi>d</mi><mi>p</mi></msub><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>-</mo><msub><mi>T</mi><mrow><mi>p</mi><mi>o</mi><mi>s</mi></mrow></msub></mrow><mrow><msub><mi>T</mi><mrow><mi>p</mi><mi>o</mi><mi>s</mi></mrow></msub><mo>-</mo><msub><mi>T</mi><mrow><mi>n</mi><mi>e</mi><mi>g</mi></mrow></msub></mrow></mfrac></mrow></mtd><mtd><mrow><msub><mi>d</mi><mi>p</mi></msub><mrow><mo>(</mo><mi>x</mi><mo>,</mo><mi>y</mi><mo>)</mo></mrow><mo>&gt;</mo><msub><mi>T</mi><mrow><mi>p</mi><mi>o</mi><mi>s</mi></mrow></msub></mrow></mtd></mtr></mtable></mfenced></mrow>

其中,Tneg和Tpos表示视差舒适区域的区域门限值,具体大小值通过实验统计手动设置。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州电子科技大学,未经杭州电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201611244693.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top