[发明专利]一种基于机器学习算法多层次全零块预判决方法及系统

说明书

本发明公开了一种基于机器学习算法多层次全零块预判决方法及系统。包括：S1：确定阈值Г₁，当max(|d_ij|)＜Γ₁时，判定TU块经过HDQ量化后，会量化为全零TU，所述d_ij是经过DCT变换后的系数；S2：确定阈值Г₂，当TU中满足公式(4)的DCT变换系数的个数小于等于Γ₂时，则判定该TU经过HDQ方法后是non‑AZB，但是经过RDOQ方法后为AZB，所述公式(4)为所述Г₂为S3：TU块经过RDOQ方法后采用机器学习的方法实现AZB预判决，机器学习方法分别提取了TU级别、系数级别和上下文语法元素级别的特征值。能够在量化之前实现较为准确的AZB预判决，实现减少视频编码负担和节约编码时间的目的。

技术领域

本发明算法涉及视频编码领域，具体涉及一种基于机器学习算法多层次全零块预判决方法及系统。

背景技术

在视频编码过程中，变换和量化占据着大量的计算时间，然而在量化过程中会有大量的变换TU块经过量化算法后最终量化为全零块(AZB)，特别是在低比特率情况下。事实上，这些全零块(AZB)并不会传递任何编码信息，但却在量化过程中占据着大量的编码时间。因此如果能在量化之前实现全零块(AZB)预判决能够有效降低编码负担。目前视频编码领域常采用两种典型量化算法，一种是基于四舍五入、系数独立的硬判决量化(HDQ),如死区dead-zone硬判决量化，这类方法没有考虑系数之间的相关性；另一种是基于动态规划的软判决量化(SDQ)算法，其充分考虑了系数之间数据依赖关系，将维特比算法应用在块内系数联合优化量化，将块内系数联合优化量化问题转换为维特比最优路径选择问题。目前，广泛采用的率失真优化量化(RDOQ)就是一类典型的SDQ量化算法。与死区量化相比，RDOQ具有良好的编码率失真性能。为了获得良好编码性能，在HM实际编码应用中，RDOQ可以表示为预量化(HDQ)过程与系数级调节过程，即先进行HDQ预量化，然后对经过HDQ后的非全零TU块(non_AZB)再进行系数级别调节，因此需要针对不同的量化过程提出不同的全零块预判决技术。

在过去二十几年中，一些学者提出了几种AZB检测算法。从支持量化算法角度来看，这些AZB检测算法通常更适用于基于HDQ的视频编码，例如死区量化(dead-zone)，不太支持具有良好编码性能的RDOQ等软判决量化算法。另外一些学者针对RDOQ算法也提出了几种AZB检测算法，从选取判定是否为AZB的阈值角度来说，大多是将TU块内残差数据的绝对值和(SAD)或者经过哈德曼变换后的绝对值和(SATD)作为基准推导出自适应阈值。RDO算法是将码率-失真综合考虑进行优化量化，并且在编码过程中上下文模型的建立和选取对码率的大小有趋势性影响，但是SAD仅反映残差时域差异，不能有效反映码流的大小，SATD可以将其看作简单的时频变换，其值只能在很小程度上反映生成码流的大小，因此若只是单纯的将SAD或者SATD作为AZB预判决技术中的自适应阈值，不能完全适用于RDOQ方法的AZB预判决技术。

因此，本发明公开一种基于机器学习算法多层次全零块预判决技术，包括对TU块经过HDQ方法后是否为AZB以及经过RDOQ方法后是否为AZB的预判决技术，其中后者分别采用了自适应阈值和机器学习的方法实现AZB预判决技术。

(1)最接近的已有技术1：支持HDQ算法的AZB预判决技术

典型HDQ算法的AZB预判决技术列举如下：

[1]A novel algorithm for zero block detection in high efficiencyvideo coding

[2]Early detection of all-zero 4x4 blocks in high efficiency videocoding

[3]An all-zero block detection scheme for low-complexity HEVCencoders