[发明专利]基于统计的H.264SVC增强层的快速模式选择方法

权利要求书

1.基于统计的H.264可伸缩视频编码中增强层的快速模式选择方法，其特征在于，包括以下步骤：

根据对多个视频序列H.264编码增强层中各个宏块与其上侧宏块、左侧宏块及基本层相应宏块的模式选择相关性的统计结果，建立上侧宏块、左侧宏块及基本层相应宏块在不同模式组合下，当前宏块对应的模式选择算法列表；

读取当前编码视频序列增强层当前宏块的上侧宏块、左侧宏块及基本层相应宏块的模式选择结果，从所述模式选择算法列表选取对应的模式选择算法，按该算法获得当前宏块的模式。

2.根据权利要求1所述的快速模式选择方法，其特征在于，所述模式选择算法列表包括以下模式选择算法：

算法case_1：首先检测当前宏块在SKIP模式和16×16模式下的率失真开销，若在SKIP模式下的率失真开销小，则选择SKIP模式；否则，若当前宏块在16×16模式下的率失真开销小于上侧宏块和左侧宏块率失真开销中的较大者，则选择16×16模式；否则，继续检测在其它帧间模式下的率失真开销，选择率失真开销最小的模式；

算法case_2：首先检测当前宏块在16×8模式和8×16模式下的率失真开销，若它们中的较小者小于上侧宏块和左侧宏块率失真开销中的较大者，则选择16×8模式和8×16模式中率失真开销较小者；否则，继续检测在其它帧间模式下的率失真开销，选择率失真开销最小的模式；

算法case_3：首先检测当前宏块在8×8及其子模式下的率失真开销，如果8×8模式率失真开销最小，继续检测在其它帧间模式下的率失真开销，选择率失真开销最小的模式；否则，选择8×8及其子模式中率失真开销最小的模式；

算法case_4：首先检测当前宏块在SKIP模式下的率失真开销，如果小于上侧宏块和左侧宏块率失真开销中的较大者，则选择SKIP模式；否则，继续检测在其它帧间模式下的率失真开销，选择率失真开销最小的模式；

算法case_5：检测所有帧间模式，选择率失真开销最小的模式；

算法case_x_1：在算法case_x的基础上，进一步检测在Intra4模式下的率失真开销，然后选择率失真开销最小的模式；

算法case_x_2：在算法case_x的基础上，进一步检测在各个帧内模式下的率失真开销，然后选择率失真开销最小的模式；

算法case_x_BL：在算法case_x的基础上，进一步检测在IntraBL模式下的率失真开销，然后选择率失真开销最小的模式；

算法case_x_y_BL：在算法case_x_y的基础上，进一步检测在IntraBL模式下的率失真开销，然后选择率失真开销最小的模式；

其中，x表示第x种帧间模式选择算法，x为1、或2、或3、或4、或5，y表示第y种帧内模式选择算法，y为1或2。

3.根据权利要求2所述的快速模式选择方法，其特征在于，所述算法Case_x_2中，帧内模式下率失真开销的检测采用以下快速算法：如果帧间预测的最佳模式是Skip或者16x16，那么只检测Intra16模式，否则继续检测其它帧内模式。

4.根据权利要求2所述的快速模式选择方法，其特征在于，所述模式选择算法列表中上侧宏块、左侧宏块及基本层相应宏块的各个模式组合对应的算法如下：

a.当上侧宏块和左侧宏块均为16×16模式时，若基本层相应宏块为16×16模式，选择算法case_1_1，若基本层相应宏块为16×8或8×16模式，选择算法case_2，若基本层相应宏块为P8×8模式，选择算法case_3，若基本层相应宏块为Intra模式，选择算法case-_5_1_BL；

b.当上侧宏块和左侧宏块均为SKIP模式时，若基本层相应宏块为16×16模式，选择算法case_1，若基本层相应宏块为16×8或8×16模式，选择算法case_5_1，若基本层相应宏块为P8×8模式，选择算法case_5，若基本层相应宏块为Intra模式，选择算法case_4_BL；

c.当上侧宏块和左侧宏块中有一个为16×16模式且另一个不是16×16模式和SKIP模式时、或上侧宏块和左侧宏块为16×8或8×16模式时，若基本层相应宏块为16×16模式，选择算法case_1_2，若基本层相应宏块为16×8或8×16模式，选择算法case_2_1，若基本层相应宏块为P8×8模式，选择算法case_3_1，若基本层相应宏块为Intra模式，选择算法case_5_2_BL；

d.当上侧宏块和左侧宏块中有一个为SKIP模式且另一个不是SKIP模式时，若基本层相应宏块为16×16模式，选择算法case_1_2，若基本层相应宏块为16×8或8×16模式，选择算法case_2_1，若基本层相应宏块为P8×8模式，选择算法case_3_1，若基本层相应宏块为Intra模式，选择算法case_5_2_BL；

e.当上侧宏块和左侧宏块的模式组合不属于所述a-d中的情形时，若基本层相应宏块为16×16模式，选择算法case_5_2，若基本层相应宏块为16×8或8×16模式，选择算法case_5_2，若基本层相应宏块为P8×8模式，选择算法case_5_2，若基本层相应宏块为Intra模式，选择算法case_5_2_BL。