[发明专利]视频编码中的量化方法、装置、设备和存储介质

权利要求书

1.一种视频编码中的量化方法，包括：

获取变换单元，所述变换单元中包括变换系数；

对所述变换系数执行第一硬决策量化HDQ处理，以获得HDQ系数；

若所述HDQ系数中的非零系数的个数小于预设阈值，对所述变换系数中的第一变换系数组CG或者待处理系数，执行率失真优化量化RDOQ处理；

其中，若所述变换系数被分为多个变换CG，且所述HDQ系数被分为多个量化CG，所述第一变换CG为所述多个变换CG中除了第二变换CG之外的其他变换CG，所述第二变换CG与所述多个量化CG中的全零量化CG对应；

所述待处理系数包括：最后编码位置及所述最后编码位置之前的预量化系数中的非零系数对应的变换系数，所述预量化系数是对所述变换系数执行预量化处理后得到的。

2.根据权利要求1所述的方法，其中，所述对所述变换系数中的第一变换CG执行RDOQ处理，包括：

对所述多个变换CG中的第一变换CG，基于率失真优化RDO准则确定所述第一变换CG中的变换系数的RDOQ结果。

3.根据权利要求2所述的方法，其中，所述对所述变换系数执行RDOQ处理，还包括：

将所述第二变换CG中的变换系数的RDOQ结果，直接确定为零。

4.根据权利要求1所述的方法，其中，所述对所述变换系数中的待处理系数执行RDOQ处理，包括：

对所述变换系数执行预量化处理，以获得预量化系数；

将所述预量化系数按照预设的扫描顺序，转换为预量化系数序列，所述预量化系数序列包括非零系数；

从所述预量化系数序列的基准位置开始，向前遍历所述预量化系数序列中的非零系数，基于RDO准则确定所述非零系数对应的变换系数的最优量化值，并在所述非零系数对应的变换系数属于待处理系数时，将所述最优量化值作为所述非零系数对应的变换系数的RDOQ结果，所述基准位置与所述HDQ系数对应的量化系数序列中的最后非零系数的位置对应。

5.根据权利要求4所述的方法，其中，所述对所述变换系数执行RDOQ处理，还包括：

从所述预量化系数序列的基准位置开始，向前遍历所述预量化系数序列中的非零系数，基于RDO准则，确定所述最后编码位置。

6.根据权利要求4所述的方法，其中，所述对所述变换系数执行RDOQ处理，还包括：

将所述变换系数中除了所述待处理系数之外的其他系数的RDOQ结果，直接确定为零。

7.根据权利要求1-6任一项所述的方法，其中，还包括：

若所述HDQ系数中的非零系数的个数大于或等于预设阈值，对所述变换系数执行第二HDQ处理。

8.一种视频编码中的量化装置，包括：

获取模块，用于获取变换单元，所述变换单元中包括变换系数；

第一硬决策量化HDQ处理模块，用于对所述变换系数执行第一HDQ处理，以获得HDQ系数；

率失真优化量化RDOQ处理模块，用于若所述HDQ系数中的非零系数的个数小于预设阈值，对所述变换系数中的第一变换系数组CG或者待处理系数，执行RDOQ处理；

其中，若所述变换系数被分为多个变换CG，且所述HDQ系数被分为多个量化CG，所述第一变换CG为所述多个变换CG中除了第二变换CG之外的其他变换CG，所述第二变换CG与所述多个量化CG中的全零量化CG对应；

所述待处理系数包括：最后编码位置及所述最后编码位置之前的预量化系数中的非零系数对应的变换系数，所述预量化系数是对所述变换系数执行预量化处理后得到的。

9.根据权利要求8所述的装置，其中，所述RDOQ处理模块具体用于：

对所述多个变换CG中的第一变换CG，基于率失真优化RDO准则确定所述第一变换CG中的变换系数的RDOQ结果。