[发明专利]用于无损视频编码的率失真优化方法及编码方法

权利要求书

1.一种无损视频编码的率失真优化方法，包括以下步骤：

S1、对于一个视频帧的未编码的CU，若其左边、上边和左上边都不存在相邻的已编码的CU，则对该未编码的CU进行粗略RDO的参数α和β进行赋值，否则根据其左边、上边和左上边的至少一个已编码的CU来计算该未编码CU进行粗略RDO的参数α和β，其中R_residue＝αD_rough+β，D_rough表示在某个预测模式下进行粗略RDO时原始像素值和预测像素值之间的差值，R_residue表示在某个预测模式下编码残差所需比特率；

如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧内预测模式，则α和β分别设置为和所述取值范围为[0.0,0.5]，所述取值范围为[-0.5,0.5]；

如果所述未编码的CU的左边、上边和左上边都不存在相邻的已编码的CU，且当前预测模式为帧间预测模式，则α和β分别设置为和所述取值范围为[1.0,3.0]，所述取值范围为[-0.5,0.5]；

如果该CU左边、上边和左上边仅存在一个相邻的已编码的CU，则选择这个唯一相邻已编码CU计算出的拟合参数α_reg和β_reg作为所述未编码CU进行粗略RDO的参数；所述选择唯一相邻已编码CU计算出的拟合参数α_reg和β_reg作为所述未编码CU进行粗略RDO的参数的步骤为：将所述唯一相邻已编码CU的经过精确RDO的所有模式的R_total、D_rough、R_predInf作为回归数据，基于最小二乘回归方法获得拟合参数α_reg和β_reg，分别作为公式(8)中的参数α和β：

R_total-R_predInf＝αD_rough+β(8)，

其中R_total为某个模式所需的最终比特率，R_predInf为编码除残差信息外的其他预测模式信息所需比特率；

该未编码CU进行粗略RDO的参数α通过式(9)获得，当参数α采用某一位置的已编码CU的拟合参数α_reg时，则该未编码CU的参数β也采用该位置的已编码CU的拟合参数β_reg：

在公式(9)中，表示当前未编码CU进行粗略RDO的参数α，L、U和C分别代表当前未编码CU的左边、上边以及左上边的已编码的CU经过最小二乘回归算法获得的拟合参数α_reg，即和其中，mode表示帧内预测或帧间预测的模式，left表示左边，upper表示上面，upperleft表示左上边，current表示当前，median(L,U,C)表示L、U、C三个数的中位数；

计算某一已编码CU拟合参数α_reg和β_reg的步骤为：

将某一已编码CU经过精确RDO的所有模式的R_total、D_rough、R_predInf作为回归数据，基于最小二乘回归方法获得拟合参数α_reg和β_reg，分别作为公式(8)中的参数α和β：

R_total-R_predInf＝αD_rough+β(8)，

其中R_total为某个模式所需的最终比特率，R_predInf为编码除残差信息外的其他预测模式信息所需比特率；

S2、对于所述未编码的CU，利用所述步骤S1获得的参数α和β，先采用粗略RDO从众多预测模式中选择最有可能成为最优预测模式的几个候选模式，再通过精确RDO从这几个候选模式中选择率失真代价最小的预测模式作为最优预测模式。