[发明专利]基于率失真敏感度的多视点视频编码快速模式选择方法

权利要求书

1.一种基于率失真敏感度的多视点视频编码快速模式选择方法，其特征在于：所述选择方法包括以下步骤：

(1)输入一帧多视点视频数据；

(2)从已编码帧中为当前编码帧选取率失真代价参考帧，并计算量化步长修正的率失真代价均值：

如果当前编码帧所在视点是基本视点，则将距当前编码帧时域方向最近的当前视点前向已编码帧选为率失真代价参考帧；如果当前编码帧所在视点是非基本视点，则将与当前编码帧具有同一采集时刻的邻近视点前向已编码帧选为率失真代价参考帧；在选定率失真代价参考帧之后，计算该帧的量化步长修正的率失真代价均值QRD_AVG，如式(I)所示：

QRDAVG=1NΣi=1NRDMB(i)QstepMB(i)---(I)]]>

式(I)中，N是所选率失真代价参考帧的宏块个数，i是宏块索引，Qstep_MB是宏块i的编码量化步长，RD_MB是宏块i最终编码模式的率失真代价；

(3)宏块的大尺寸帧间模式的估计：

先进行宏块大尺寸帧间模式Skip模式和Inter16x16模式的估计，然后从这两个模式估计得到的率失真代价中选取较小值作为Skip模式和Inter16x16模式的较小率失真代价RD_{Skip_Inter16x16}；

(4)宏块的率失真敏感度计算：

利用步骤(2)中得到的量化步长修正的率失真代价均值QRD_AVG和步骤(3)中得到的Skip模式和Inter16x16模式的较小率失真代价RD_{Skip_Inter16x16}，来计算当前编码宏块的率失真敏感度RDSensitivityDegree，如式(II)所示：

RDSensitivityDegree(n)=Low,ifRDSkip_Inter16x16(n)Qstepcur(n)<α×QRDAVGHigh,ifRDSkip_Inter16x16(n)Qstepcur(n)>β×QRDAVGMiddle,others---(II)]]>

式(II)中，n是当前编码帧的宏块索引，Low表示当前编码宏块的率失真敏感度低，High表示当前编码宏块的率失真敏感度高，Middle表示当前编码宏块的率失真敏感度中等，Qstep_cur为当前宏块的量化步长，α和β是率失真敏感度计算的阈值调整参数，β大于α；

(5)宏块的小尺寸帧间模式估计选择：

根据步骤(4)中计算得到的当前宏块率失真敏感度来选择是否进行Inter16x8模式、Inter8x16模式和Inter8x8模式等三种小尺寸帧间模式的估计；

如果当前宏块的率失真敏感度为Low，则不进行Inter16x8模式、Inter8x16模式和Inter8x8模式的估计，直接跳到步骤(6)；

如果当前宏块的率失真敏感度为Middle，则只进行Inter16x8模式和Inter8x16模式的估计，不进行Inter8x8模式的估计，并跳到步骤(6)；

如果当前宏块的率失真敏感度为High，则先进行Inter16x8模式和Inter8x16模式的估计，再利用估计得到的Inter16x8模式和Inter8x16模式的较小率失真代价RD_{Inter16x8_8x16}以及从步骤(3)得到Skip模式和Inter16x16模式的较小率失真代价RD_{Skip_Inter16x16}来计算Inter8x8模式估计的使能Inter8x8En，如式(III)所示：

Inter8×8En(n)=1,ifRDInter16x8_8x16<γ×RDSkip_Inter16x160,others---(III)]]>

式(III)中，1表示进行Inter8x8模式的估计，0表示不进行Inter8x8模式的估计，γ是Inter8x8模式估计选择的控制参数；如果当前宏块选择不进行Inter8x8模式的估计，则跳到步骤(6)；如果当前宏块选择进行Inter8x8模式的估计，则对Inter8x8模式估计中每个8x8块的不同尺寸划分模式的估计进行选择，具体如下：1)进行8x8划分模式的估计；2)选择是否进行8x4、4x8和4x4划分模式的估计，即如果8x8划分模式的率失真代价小于当前已估计帧间模式的最小率失真代价的四分之一，则不进行8x4、4x8和4x4划分模式的估计；否则先进行8x4和4x8划分模式的估计，再根据8x4和4x8划分模式的较小率失真代价Inter8x8RD_{8x4_4x8}和8x8划分模式的较小率失真代价Inter8x8RD_8x8来选择是否进行4x4划分模式的估计，如式(IV)所示：

Block8×8En4x4(k)=1,if Inter8x8RD8x4_4x8(k)<μ×Inter8x8RD8x8(k)0,others]]>

(IV)

式(IV)中，k是8x8块的索引，1表示Inter8x8模式的8x8块进行4x4划分模式的估计，0表示不进行4x4划分块的估计，μ是4x4划分模式估计选择的控制参数；

(6)宏块的帧内模式估计的选择：

根据帧间模式估计得到的率失真代价和大尺寸帧内模式的率失真代价来选择帧内模式的估计，如果已估计帧间模式中具有最小率失真代价的模式是Skip模式，则不进行所有帧内模式的估计，直接跳到步骤(7)；否则先进行大尺寸帧内模式Intra16x16模式的估计，然后利用Intra16x16模式的率失真代价RD_Intra16x16和步骤(3)中得到的Skip模式和Inter16x16模式的较小率失真代价RD_{Skip_Inter16x16}来决定是否进行Intra8x8模式和Intra4x4模式的估计，如式(V)所示：

IntraEn8x8_4x4(n)=1,ifRDIntra16x16<η×RDSkip_Inter16x160,others---(V)]]>

式(V)中，1代表进行Intra8x8模式和Intra4x4模式的估计，0代表不进行Intra8x8模式和Intra4x4模式的估计，参数η是用于调整算法选择精度和计算复杂度；

(7)宏块的最终编码模式的选取：

从已估计的帧间模式和帧内模式中选取率失真代价最小的模式作为当前宏块的最终编码模式。