[发明专利]用于无损视频编码的率失真优化方法及编码方法

摘要

本发明公开了一种无损视频编码的率失真优化方法及相应的编码方法，所述优化方法包括对于一个视频帧的未编码的CU，若其左边、上边和左上边都不存在相邻的已编码的CU，则对该未编码的CU进行粗略RDO的参数α和β进行赋值，否则根据其左边、上边和左上边的至少一个已编码的CU来计算该未编码的CU进行粗略RDO的参数α和β，其中Rresidue＝αDrough+β，参数α和β基于已编码CU的候选模式的Drough、RpredInf和Rtotal数据，通过最小二乘回归算法获得。本发明充分利用了HEVC既有的编码结构，保持了原有标准中的语义和语法结构，在编码复杂度上和HEVC原有技术几乎一样，在RA‑Main、LDB‑Main和LDP‑Main三种编码环境下比特率平均降低了1.0‑1.3％。

主权项

一种无损视频编码的率失真优化方法，包括以下步骤：S1、对于一个视频帧的未编码的CU，若其左边、上边和左上边都不存在相邻的已编码的CU，则对该未编码的CU进行粗略RDO的参数α和β进行赋值，否则根据其左边、上边和左上边的至少一个已编码的CU来计算该未编码CU进行粗略RDO的参数α和β，其中Rresidue＝αDrough+β，Drough表示在某个预测模式下进行粗略RDO时原始像素值和预测像素值之间的差值，Rresidue表示在某个预测模式下编码残差所需比特率；如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧内预测模式，则α和β分别设置为和所述取值范围为[0.0,0.5]，所述取值范围为[‑0.5,0.5]；如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧间预测模式，则α和β分别设置为和所述取值范围为[1.0,3.0]，所述取值范围为[‑0.5,0.5]；如果该CU左边、上边和左上边仅存在一个相邻的已编码的CU，则选择这个唯一相邻已编码CU计算出的拟合参数αreg和βreg作为所述未编码CU进行粗略RDO的参数；所述选择唯一相邻已编码CU计算出的拟合参数αreg和βreg作为所述未编码CU进行粗略RDO的参数的步骤为：将所述唯一相邻已编码CU的经过精确RDO的所有模式的Rtotal、Drough、RpredInf作为回归数据，基于最小二乘回归方法获得拟合参数αreg和βreg，分别作为公式(8)中的参数α和β：Rtotal‑RpredInf＝αDrough+β  (8)，其中Rtotal为某个模式所需的最终比特率，RpredInf为编码除残差信息外的其他预测模式信息所需比特率；该未编码CU进行粗略RDO的参数α通过式(9)获得，当参数α采用某一位置的已编码CU的拟合参数αreg时，则该未编码CU的参数β也采用该位置的已编码CU的拟合参数βreg：在公式(9)中，表示当前未编码CU进行粗略RDO的参数α，L、U和C分别代表当前未编码CU的左边、上边以及左上边的已编码的CU经过最小二乘回归算法获得的拟合参数αreg，即和其中，mode表示帧内预测或帧间预测的模式，left表示左边，upper表示上面，upperleft表示左上边，current表示当前，median(L,U,C)表示L、U、C三个数的中位数；计算某一已编码CU拟合参数αreg和βreg的步骤为：将某一已编码CU经过精确RDO的所有模式的Rtotal、Drough、RpredInf作为回归数据，基于最小二乘回归方法获得拟合参数αreg和βreg，分别作为公式(8)中的参数α和β：Rtotal‑RpredInf＝αDrough+β  (8)，其中Rtotal为某个模式所需的最终比特率，RpredInf为编码除残差信息外的其他预测模式信息所需比特率；S2、对于所述未编码的CU，利用所述步骤S1获得的参数α和β，先采用粗略RDO从众多预测模式中选择最有可能成为最优预测模式的几个候选模式，再通过精确RDO从这几个候选模式中选择率失真代价最小的预测模式作为最优预测模式。