[发明专利]一种基于机器学习算法多层次全零块预判决方法及系统

权利要求书

1.一种基于机器学习算法多层次全零块预判决方法，其特征在于包括：

S1：确定阈值Г₁，当max(|d_ij|)＜Γ₁时，判定TU块经过HDQ量化后，会量化为全零TU，所述d_ij是经过DCT变换后的系数；

S2：确定阈值Г₂，当TU中满足公式(4)的DCT变换系数的个数小于等于Γ₂时，则判定该TU经过HDQ方法后是non-AZB，但是经过RDOQ方法后为AZB，所述公式(4)为

所述Г₂为

其中QP表示量化参数；

S3：TU块采用机器学习的方法实现AZB预判决，机器学习方法分别提取了TU级别、系数级别和上下文语法元素级别的特征值；

所述Г₁的取得方法如下：

在视频编码标准HEVC中，硬判决量化(HDQ)公式如(1)所示：

|l_ij|＝(|d_ij|·M_QP/6+offset)＞＞Q_bits (1)

其中l_ij是经过HDQ量化后的系数，d_ij是经过DCT变换后的系数；在实际编码应用中，M_QP/6、offset和Q_bits的定义如公式(2)所示：

其中bitDepth表示视频编码深度，N表示TU块的宽度；当量化系数的最大值max(l_ij)小于1时，那么该TU块经过HDQ量化后，会量化为全零TU；经过公式推导得到如下判决公式，如公式(3)所示:

其中max(·)表示获取TU块中某一类型数值的最大值。

2.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述S3中TU级别特征值采用所述τ为直流分量以及相邻位置上DCT系数的能量总和；所述代表TU的总能量。

3.根据权利要求2所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述的τ通过三种扫描方式：水平、垂直和对角扫描选取直流分量及相邻位置上的三个DCT系数计算。

4.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述的系数级别特征值采用和η₁为经过HDQ方法后系数l_ij＝1的个数，η₂为经过HDQ方法后系数l_ij＝2的个数，Φ表示TU块中DCT系数的总数。

5.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述的上下文语法元素级别特征值采用CBF语法元素所对应的概率差值ρ作为特征值。

6.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述的上下文语法元素级别特征值采用直流分量以及相邻位置上的3个SCF语法元素所对应的概率差值ρ作为特征值。

7.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述的S3中机器学习包括七个特征值，所述机器学习采用全连接层网络，包括七个输入节点、两个隐藏层和一个输出层，两个隐藏层分别具有七个和四个隐藏节点。