[发明专利]一种基于帧间模式统计分类的H.264宏块模式选择方法

权利要求书

1.一种基于帧间模式统计分类的H.264宏块模式选择方法，其特征在于，该方法是在计算机中依次按照下面步骤实现的：

步骤(1)，针对设定的视频序列，在每一个连续帧开始编码时，计算前一帧的帧间划分模式所对应的各种宏块划分模式下不同的率失真开销值J_mode(16×16)在区间n_k内宏块个数的分布曲线，再据此计算当前帧的率失真开销阈值T，其步骤如下：

步骤(1.1)，帧间模式的分类，把H.264的多种帧间模式分为两类：大模式BSM，包括16×16、16×以及8×16三种宏块划分模式；小模式SSM，包括8×8、8×4、4×8以及4×4四种宏块划分模式；

步骤(1.2)，计算步骤(1.1)所述的前一帧内各种宏块划分模式下不同的率失真开销区间n_k内宏块个数的分布，k＝0，1，…63，n_k＝[k，k+1)

对于大模式，区间n_k内的宏块数N_BSM为

NBSM(k)=ΣJmode(16×16)∈nknBSM]]>

在小区间n_k内判断有大模式的宏块时，n_BSM＝1；

对于小模式，区间n_k内的宏块数N_SSM为

NSSM(k)=10×ΣJmode(16×16)∈nknSSM]]>

在小区间n_k内判断有小模式的宏块时，n_SSM＝1；

J_mode(16×16)∈n_k表示H.264帧间编码时16×16宏块划分模式下率失真开销值J_mode(16x16)在区间n_k内；

步骤(1.3)，根据步骤(1.2)的结果，分别得到：

帧间模式采用大模式时的各种宏块划分模式下的宏块个数在区间n_k内的分布曲线，用BSM曲线表示；

帧间模式采用小模式时的各种宏块划分模式下的宏块个数在区间n_k内的分布曲线，用SSM曲线表示；

所述宏块的率失真开销值J_mode是使用H.264基于绝对值之和SAD的率失真优化模型而计算得到的：J_mode＝D+λ_modeR，在本算法中，J_mode代表率失真开销(rate distortioncost)；λ_mode为拉格朗日乘数；D表示前一帧原始宏块与其预测宏块之间的失真度；R为当前划分模式下编码该宏块所需的实际比特数；

步骤(1.4)，根据步骤(1.3)得到的BSM和SSM曲线的曲线图，在其间选取一个合适的阈值T；

步骤(2)，开始对当前帧的每一个宏块进行编码，按步骤(1.3)所述的方法计算16×16模式下该宏块的率失真开销值J_mode(16×16)；

步骤(3)，若步骤(2)所述的J_mode(16×16)小于步骤(1.4)得到的T，则把BSM作为备选模式，计算J_mode(16×8)，J_mode(8×16)，J_mode(16×16)，选择其中最小率失真开销值对应的模式；若步骤(2)所述的J_mode(16×16)大于步骤(1.4)得到的T，则把BSM以及SSM作为备选模式，计算J_mode(16×16)，J_mode(16×8)，J_mode(8×16)，J_mode(8×8)(其中8x8模式还包括子宏块8×4 4×8 4×4的模式)，选择其中最小率失真开销值对应的模式；

步骤(4)，按照步骤(2)和步骤(3)的方法对本帧内所有帧间宏块进行模式选择。