[发明专利]一种H.264标准的帧内预测模式选择方法

权利要求书

1.一种H.264标准的帧内预测模式选择方法，所述模式选择方法包括：

a.输入帧图像；

b.进行16×16预测模式选择；所述步骤b包括：

b1.按照16×16预测模式对所述帧图像的当前宏块进行预测；

b2.计算所述16×16预测模式下的残差绝对值和SAD16并进行排序；

b3.如果所述16×16预测模式下的最小残差绝对值和SAD16_MIN小于阈值TH16_1，则将所述最小残差绝对值和SAD16_MIN所对应的预测模式作为所述当前宏块的最佳预测模式并结束所述当前宏块的预测模式选择；

b4.如果所述16×16预测模式下的次小残差绝对值和SAD16S_MIN与所述最小残差绝对值和SAD16_MIN的差Diff16大于阈值TH16_2，则将所述最小残差绝对值和SAD16_MIN所对应的模式作为所述当前宏块的最佳16×16预测模式；

b5.如果所述最小残差绝对值和SAD16_MIN大于阈值TH16_3，则结束所述步骤b，跳转到步骤c进行4×4预测模式选择；

b6.计算所述16×16预测模式下的再残差绝对值和SATD16并将最小再残差绝对值和SATD16_MIN所对应的预测模式作为所述当前宏块的最佳16×16预测模式；

b7.如果在步骤b4或b6中确定了所述当前宏块的最佳16×16预测模式，计算所述最佳16×16预测模式的率失真代价RDcost16；并结束16×16预测模式选择过程，跳转到步骤c进行4×4预测模式选择；

c.进行4×4预测模式选择；所述步骤c包括：

c1.按照4×4预测模式对所述帧图像的4×4宏块进行预测；

c2.计算所述4×4预测模式下的残差绝对值和SAD4并进行排序；

c3.如果所述4×4预测模式下的次小残差绝对值和SAD4S_MIN与最小残差绝对值和SAD4_MIN的差Diff4大于阈值TH4_1，则将所述最小残差绝对值和SAD4_MIN所对应的预测模式作为所述4×4宏块的最佳4×4预测模式；

c4.如果量化系数QP＞28，且所述最小残差绝对值和SAD4_MIN所对应的预测模式为最有可能模式，则将所述最小残差绝对值和SAD4_MIN所对应的模式作为所述4×4宏块的最佳4×4预测模式；

c5.以率失真最优化方法从所述最小残差绝对值和SAD4_MIN、所述次小残差绝对值和SAD4S_MIN与最有可能模式MPM中选择所述4×4宏块的最佳4×4预测模式；

c6.如果经所述步骤c5选择出的最佳4×4预测模式的4×4块的率失真代价RDcost4的和S_RDcost4大于所述步骤b中选择出的最佳16×16预测模式的率失真代价RDcost16，则将所述最佳16×16预测模式作为最佳预测模式并结束所述帧图像的模式选择；

d.如果同时存在最佳16×16预测模式和4×4预测模式，对所述步骤b中选择的最佳16×16预测模式与所述步骤c中选择的所述当前宏块的最佳4×4预测模式进行比较，以选出两种预测类型中的残差绝对值和最小的作为当前宏块的最佳模式。