[发明专利]一种HEVC帧内预测模式快速选择方法

权利要求书

1.一种HEVC帧内预测模式快速选择方法，其特征在于，所述的选择方法包括以下步骤：

(1)输入一个待估计PU，建立实际可用的帧内预测模式集合：

根据待估计PU已存在空间相邻的重建像素和每个HEVC帧内预测模式需要的空间相邻重建像素，为待估计PU选取所有实际可用的帧内预测模式，组成集合Ω；

(2)计算待估计PU中的所有像素与其不同方向的空间相邻像素的差值绝对值和：

当Ω中存在编号为18的角度预测模式，即待估计PU可以采用沿对角线往右下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左上方相邻像素的差值绝对值和SAD_LU，如式(1)所示：

SADLU=Σx=0N-1Σy=0N-1|p(x,y)-p(x-1,y-1)|---(1)]]>

式(1)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x-1,y-1)的像素位于坐标为(x,y)的左上方；

当Ω中存在编号为26的角度预测模式，即待估计PU可以采用竖直向下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其上方相邻像素的差值绝对值和SAD_U，如式(2)所示：

SADU=Σx=0N-1Σy=0N-1|p(x,y)-p(x,y-1)|---(2)]]>

式(2)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x,y-1)的像素位于坐标为(x,y)的正上方；

当Ω中存在编号为34的角度预测模式，即待估计PU可以采用沿对角线左下方向进行预测的角度预测模式，则计算待估计PU中所有像素与其右上方相邻像素的差值绝对值和SAD_RU，如式(3)所示：

SADRU=Σx=0N-1Σy=0N-1|p(x,y)-p(x+1,y-1)|---(3)]]>

式(3)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x+1,y-1)的像素位于坐标为(x,y)的右上方；

当Ω中存在编号为10的角度预测模式，即待估计PU可以采用水平向右方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左方相邻像素的差值绝对值和SAD_L，如式(4)所示：

SADL=Σx=0N-1Σy=0N-1|p(x,y)-p(x-1,y)|---(4)]]>

式(4)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x-1,y)的像素位于坐标为(x,y)的左方；

当Ω中存在编号为2的角度预测模式，即待估计PU可以采用沿对角线右上方向进行预测的角度预测模式，则计算待估计PU中所有像素与其左下方相邻像素的差值绝对值和SAD_LB，如式(5)所示：

SADLB=Σx=0N-1Σy=0N-1|p(x,y)-p(x-1,y+1)|---(5)]]>

式(5)中，待估计PU的尺寸为N×N(N＝4,8,16,32,64)，p(x,y)为待估计PU中坐标为(x,y)的像素的像素值，其中x为水平坐标，y为竖直坐标，在待估计PU中它们的值为大于等于0且小于N的整数，坐标为(x-1,y+1)的像素位于坐标为(x,y)的左下方；

(3)根据不同方向空间相邻像素的差值绝对值和判断待估计PU的纹理方向特性：

首先根据从步骤(2)计算得到的差值绝对值和SAD个数进行步骤选择：如果步骤(2)计算得到SAD个数小于3，则执行步骤(5)；否则先对步骤(2)计算得到的SAD进行从小到大排列，对待估计PU的纹理方向特性进行分类；

(4)根据纹理方向特性确定粗级模式搜索范围；

(5)根据粗级模式搜索范围和Ω建立率失真优化候选模式集合；

(6)选取最佳帧内预测模式：

采用率失真优化技术从步骤(5)得到的候选模式集合中选取率失真代价最小的候选模式作为待估计PU的最佳帧内预测模式，完成待估计PU的帧内预测模式选择。