[发明专利]一种基于纹理分析的HEVC帧内预测快速模式选择方法

权利要求书

1.一种基于纹理分析的HEVC帧内预测快速模式选择方法，其特征在于：该方法步骤如下：

步骤（1）、对当前编码树单元，计算每个可能的编码单元的图像复杂度和主纹理方向；

步骤（2）、对当前编码树单元，按照Z扫描顺序从上往下重复执行步骤（3）至步骤（6），直至扫描完当前编码树单元；

步骤（3）、若当前编码单元的图像复杂度小于或等于阈值，则判定该编码单元为平滑单元，否则判定为复杂单元；

步骤（4）、对于平滑的编码单元，利用步骤（5）计算当前编码单元的率失真代价；

步骤（5）、对于当前编码单元中的每一个预测单元，仅保留该单元主纹理方向周围的8个预测方向以及planar预测和DC预测模式，按照HEVC视频编码标准进行粗略模式选择和率失真优化选择；

步骤（6）、对于复杂的编码单元，按照步骤（3）至步骤（6）依次递归扫描四个子单元，若四个子单元都判定为平滑单元，则利用步骤（5）计算当前编码单元的率失真代价，并根据率失真代价最小原则判定当前编码单元是否划分，同时更新阈值。

2.如权利要求1所述的基于纹理分析的HEVC帧内预测快速模式选择方法，其特征在于：所述步骤（1）具体包括如下步骤：

步骤（11）、对当前编码树单元中的每一个4×4的单元，分别沿水平、垂直、左下、右下四个方向计算梯度并计算梯度的绝对值和SAG；

步骤（12）、将最小梯度绝对值和的梯度方向作为该单元的主纹理方向，所述主纹理方向是指该单元大部分像素的纹理方向；

步骤（13）、将主纹理方向与其正交方向上SAG差的绝对值定义为该单元的纹理复杂度，并利用量化步长与该单元大小的乘积作为初始阈值。

3.如权利要求1所述的基于纹理分析的HEVC帧内预测快速模式选择方法，其特征在于：所述步骤（5）具体包括如下步骤：

步骤（51）、定义一个候选预测模式数组；

步骤（52）、根据步骤（1）获取当前预测单元的主纹理方向，并将主纹理方向及其周围的8个预测方向作为候选预测方向；

步骤（53）、将候选预测方向映射到HEVC编码标准中的角度预测模式，并将选择的角度预测模式和planar以及DC模式添加到候选预测模式数组；

步骤（54）、对候选预测模式数组中的每一个预测模式，按照HEVC编码标准进行粗略模式选择和率失真优化模式选择。

4.如权利要求1所述的基于纹理分析的HEVC帧内预测快速模式选择方法，其特征在于：所述步骤（6）具体包括如下步骤：

步骤（61）、按照步骤（3）至步骤（6）依次递归扫描四个子单元，若四个子单元都判定为平滑单元，则利用步骤（5）计算当前编码单元的率失真代价Cost_coarse，否则继续递归扫描下一层次的子单元；

步骤（62）、若当前编码单元的率失真代价Cost_coarse小于或等于四个子单元的率失真代价和Cost_fine，则将阈值调大，否则将阈值调小。

5.如权利要求4所述的基于纹理分析的HEVC帧内预测快速模式选择方法，其特征在于：所述步骤（62）中阈值调大的更新策略为：

TH′＝TH+α×(Cost_fine-Cost_coarse)/2

式中TH为更新前的阈值，TH′为更新后的阈值，α为纹理复杂度与率失真代价间的线性模型的乘法因子。

6.如权利要求4所述的基于纹理分析的HEVC帧内预测快速模式选择方法，其特征在于：所述步骤（62）中阈值调小的更新策略为：

TH′＝TH-a

式中TH为更新前的阈值，TH′为更新后的阈值,a为常数。