[发明专利]一种快速的HEVC帧间模式选择方法

摘要

本发明公开了一种快速的HEVC帧间模式选择方法。它首先提前判断是否跳过Rect模式：如果Skip预测模式优于Merge模式和2Nx2N模式，则将Skip预测模式作为当前CU层的最优帧间模式，从而跳过Rect模式；其次预测Rect的方向并提前跳过第二个Rect模式：现有方法依次求取Nx2N模式和2NxN模式的率失真代价，并将他们与2Nx2N等其他模式进行对比，选择具有最小率失真代价的模式来作为最优的预测模式，本发明则在编码Rect模式之前，预测当前编码单元的分块特性，确定先求取Nx2N还是2NxN，一旦第一个模式所求取的率失真代价满足一定的条件，即可跳过第二个模式。本发明的有益效果是：优化Rect模式选择的速度，从而节省了大量的时间，提升整体的编码速度。

主权项

1.一种快速的HEVC帧间模式选择方法，其特征是，具体实施步骤如下：(1)依次求取每个CU层中Skip、Merge、2Nx2N的率失真代价，分别标记为cost_skip、cost_merge、cost_2Nx2N，如果cost_skip小于cost_merge且cost_skip小于cost_2Nx2N，则将Skip预测模式作为当前CU层的最优帧间预测模式，执行步骤(5)；否则执行步骤(2)；(2)将2Nx2N预测模式求取的预测块分为4个大小为NxN的子块，分别标记为a、b、c、d块，并分别求取它们与原始像素块之间的差值平方和SSD值，依次标记为ssd_a、ssd_b、ssd_c、ssd_d，并定义diff_ver、diff_hor和diff_ratio，若满足diff_ratio>TH1且diff_ver>diff_hor，则执行步骤(3)，否则执行步骤(4)；(3)求取2NxN预测模式的率失真代价，标记为cost_2NxN，当满足cost_2NxN小于TH2*cost_2Nx2N，执行步骤(5)，否则求取Nx2N预测模式的率失真代价，标记为cost_Nx2N，并执行步骤(5)；(4)求取Nx2N预测模式的率失真代价，标记为cost_Nx2N，当满足cost_Nx2N小于TH2*cost_2Nx2N，执行步骤(5)，否则求取2NxN预测模式的率失真代价，标记为cost_2NxN，并执行步骤(5)；(5)将各个模式的率失真代价进行比较，确定最优帧间预测模式，并和Intra2Nx2N、IntraNxN模式进行比较，进一步确定当前CU层的最优预测模式。