[发明专利]一种基于HEVC的帧内编码方法

权利要求书

1.一种基于HEVC的帧内编码方法，其特征在于：包括以下步骤：

(1)获得临近当前编码块的左、左上、上块的尺寸，如果左、左上、上的尺寸全为2，将当前编码块的尺寸设置为2并执行步骤(3)；如果左、左上、上的尺寸全为3，将当前编码块的尺寸设置为3并执行步骤(3)；否则执行步骤(2)；

(2)根据概率，减少粗粒度模式选择RMD候选队列中的模式数量；

(3)如果预测块尺寸为32×32或者16×16，执行步骤(4)，否则执行步骤(5)；

(4)进行RMD，跳转步骤(9)；

(5)判断RMD候选队列与父预测块的候选队列的相似程度，相似执行步骤(6)，否则执行步骤(7)；

(6)用父预测块的最优模式作为当前预测块的最优模式，执行步骤(9)；

(7)对RMD候选队列进行模式过滤；

(8)对处理过的RMD候选队列进行分组；

(9)执行率失真最优化过程RDO；

其中

步骤(2)中

设候选队列为J＝(J₁,J₂...,J_n)，按照公式(4)得到模式数量

n为候选队列中的模式个数，m为需要测试的模式个数，P(C|X1,X2,X3)为条件概率P(C|X1,X2,X3)，根据条件概率公式在临近编码块的组合(X1,X2,X3)情况下，当前编码块的尺寸为C的概率，X1,X2,X3分别是左，左上，上临近编码块的尺寸大小，为对在其内部的数值取上整；

步骤(7)中对于队列中元素J_k依次做判断，在满足公式(6)时停止(J_k-J_k-1)/J_k＞T,k＝(2,…,n) (6)

其中T为设定阈值；

步骤(8)中根据相邻方向模式和RMD代价来对处理过的RMD候选队列进行分组。

2.根据权利要求1所述的方法，其特征在于：步骤(5)中在父预测块的尺寸是64×64和4×4的情况下通过公式(5)判断RMD候选队列与父预测块的候选队列的相似程度S

$S=\frac{{\mathrm{\Σ}}_1^n{a}_i\⊗b_i}{n}---\left(5\right)$

其中候选列表表示为向量，n为向量中元素的个数，a表示父预测块中的候选列表，b表示当前预测块的参考列表，表示同或，同或是指两边数值相同为1，不同为0。

3.根据权利要求2所述的方法，其特征在于：T＝0.27。