[发明专利]一种可伸缩视频编码的空间增强层快速模式选择方法

权利要求书

1.一种可伸缩视频编码的空间增强层快速模式选择方法，其特征是：

若当前编码宏块的空间基本层对应宏块的最佳模式为帧内模式，则当前编码宏块选择帧内模式作为当前编码宏块的候选模式子集，并通过“率失真最优化”模型在所述候选模式子集中选择率失真代价最小的模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程。

若当前编码宏块的空间基本层对应宏块的最佳模式为帧间模式，则计算当前编码宏块Skip模式的率失真代价，并根据当前编码宏块的周围宏块计算当前编码宏块的Skip模式提早跳出的率失真代价门限；判断当前编码宏块Skip模式的率失真代价是否小于所述率失真代价门限：若是，则选择Skip模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程；否则，根据位于当前编码宏块的左方、上方和右上方的相邻已编码宏块的最佳模式计算当前编码宏块的模式质量，并根据所述当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集，并通过“率失真最优化”模型在该候选模式子集中选择率失真代价最小的模式作为当前编码宏块的最佳模式，后结束该快速模式选择过程。

2.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，“当前编码宏块选择帧内模式作为当前编码宏块的候选模式子集”按如下方法进行：

当所述当前编码宏块的空间基本层对应宏块的最佳模式为Intra4x4时，选择Intra4x4和INTRABL模式作为当前编码宏块的候选模式子集；

当所述当前编码宏块的空间基本层对应宏块的最佳模式为Intra16x16时，选择为Intra16x16和INTRABL模式作为当前编码宏块的候选模式子集。

3.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，“当前编码宏块的Skip模式提早跳出的率失真代价门限”的计算方法如下：

在当前编码宏块的左方、左上方、上方和右上方的四个相邻已编码宏块中，找到所有最佳模式为Skip模式的宏块，计算出这些宏块的Skip模式的率失真代价的平均值，把该平均值设定为所述率失真代价门限。

4.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，“根据所述当前编码宏块的模式质量和编码器所维护的当前编码参数下的模式质量门限表来选择当前编码宏块的候选模式子集”包括如下步骤：

1)若当前编码宏块的左方、上方、右上方均存在相邻已编码宏块，则利用公式(1)计算当前编码宏块的模式质量并执行步骤2)，否则将所述候选模式子集设置为Skip、16x16、16x8、8x16和Sub8x8模式，并执行步骤4)；

MW＝2A+2B+C          (1)

式(1)中，A、B、C分别表示当前编码宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值，A、B、C从由4个不同数值组成的同一个集合中任意选取一个数值；

2)根据当前编码宏块的空间基本层对应宏块的最佳模式在所述模式质量门限表中找出对应的3个模式质量门限，3个模式质量门限按其门限值由小到大依次为第一门限、第二门限、第三门限；若当前编码宏块的模式质量小于第一门限，则所述候选模式子集为Skip和16x16模式；若当前编码宏块的模式质量大于等于第一门限且小于第二门限，则所述候选模式子集为Skip、16x16、16x8和8x16模式；若当前编码宏块的模式质量大于等于第二门限且小于第三门限，则所述候选模式子集为Skip、16x16、16x8、8x16和8x8模式；若当前编码宏块的模式质量大于等于第三门限，则所述候选模式子集为Skip、16x8、8x16和8x8模式；

3)若所述候选模式子集包括8x8模式，则从该候选模式子集的除8x8模式以外的其他候选模式中选择率失真代价最小的模式作为暂时最佳模式；若所述暂时最佳模式为Skip或16x16模式，则从该候选模式子集中剔除8x8模式并执行步骤4)，否则首先计算8x8模式中的Sub8x8模式的率失真代价，再将该率失真代价与所述暂时最佳模式的率失真代价相比较：如果所述Sub8x8模式的率失真代价更大，则从该候选模式子集中剔除Sub8x4、Sub4x8、Sub4x4模式并执行步骤4)，否则直接执行步骤4)；

4)将BLSKIP和Intra4x4模式加入到候所述选模式子集中。

5.根据权利要求1所述的可伸缩视频编码的空间增强层快速模式选择方法，其特征是，所述“编码器维护的当前编码参数下的模式质量门限表”按如下方法获得：

a)在所述当前编码参数下，分别对Bus、Football和Forman测试序列按可伸缩视频编码标准方法进行编码测试，根据测试结果得到可伸缩视频编码空间增强层宏块的帧间模式的概率分布，以及可伸缩视频编码空间基本层对应宏块的最佳模式在每一种帧间模式下可伸缩视频编码空间增强层宏块的最佳模式的条件概率分布；

b)将公式(2)中的A、B、C的所有可能的取值进行任意组合得到64种取值组合，并按公式(2)计算每一种取值组合所对应的宏块的模式质量，同时利用步骤a)所述空间增强层宏块的帧间模式的概率分布计算出所述每一种取值组合的发生概率；

MW＝2A+2B+C            (2)

式(2)中，A、B、C分别表示任意一个所述空间增强层宏块的左方、上方、右上方的相邻已编码宏块的最佳模式所对应的权值，A、B、C从由4个不同数值组成的同一个集合中任意选取一个数值；

c)根据步骤b)所述64种取值组合的模式质量的由低到高顺序，对模式质量对应的发生概率进行排列，且对其中模式质量相同的发生概率按发生概率自身的由低到高顺序进行排列；

d)分别计算所述空间基本层对应宏块的最佳模式在每一种帧间模式下的第一门限、第二门限、第三门限，并根据计算得到的所有门限建立“编码器维护的当前编码参数下的模式质量门限表”；

所述第一门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip模式的概率，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip模式的概率”，此时截止项所对应的模式质量为第一门限；

所述第二门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip和16x16模式的概率和，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip和16x16模式的概率和”，此时截止项所对应的模式质量为第二门限；

所述第三门限的计算方法如下：首先根据所述空间基本层的最佳模式，找到所述空间增强层宏块的最佳模式的条件概率分布；计算该分布中Skip、16x16、16x8和8x16模式的概率和，接着从第一项开始逐项累加经步骤c)排列后的发生概率，直到累加得到的概率之和大于所述“该分布中Skip、16x16、16x8和8x16模式的概率和”，此时截止项所对应的模式质量为第三门限。