[发明专利]一种可分级视频编码空间增强层的快速模式选择方法

说明书

技术领域

本发明涉及一种可分级视频编码空间增强层的快速模式选择方法，主要是用于H.264可分级视频编码（SVC）标准的新型的空间增强层快速模式选择方法。

背景技术

缩略语和关键术语定义：

可分级视频编码(Scalable Video Coding，SVC)标准是基于H.264/AVC(Advanced Video Coding)^[1]的视频压缩技术，是应对传输系统异构性和终端多样性的解决方案。具有时间可分级、空间可分级和质量可分级三种形式，可以通过一次编码产生不同帧率，不同码率和不同视频质量的编码码流。目前，SVC的编码效率比以往标准有所提高，但同时也极大地增加了编码复杂度。如何根据SVC的特点对SVC编码器进行优化以提高编码速度是当前的研究热点。

在SVC空间可分级编码中，基本层编码沿用了H.264/AVC技术中已有的两种帧内(Intra)预测模式(Intra4×4、Intra16×16)和七种帧间(Inter)预测模式(16×16、16×8、8×16、8×8、8×4、4×8、4×4)。对于增强层，为了充分利用各空间层之间的相关性，减少层间冗余，在H.264/AVC原有的预测方式下，SVC又增加了三种预测方式：层间帧内预测、层间运动预测和层间残差预测。多模式的运用和层间预测工具的使用极大地提高了编码效率和率失真性能。然而，传统的模式选择方法是对所有模式在所有可能的层间预测选项下进行全搜索获得最优模式，运算复杂度极大。随着编码层数的扩充，其运算复杂度也将成倍增加。因此，模式选择的快速算法是目前SVC编码器研究中的重要内容。

对于空间分级增强层的快速算法是一个研究热点，并且有不少研究成果。文献［2］利用8×8和Intra4×4的搜索结果来选择Intra/Inter类型，然后根据基本层的宏块模式来筛选候选模式。文献［3］设计了宏块候选模式、基本层宏块模式以及量化参数(QP)之间的对照表。文献［4］则提出从基本层和空间相邻宏块中预测候选模式，通过与率失真代价门限值比较来确定是否提早退出模式搜索。文献［5］利用基本层对应位置的相邻宏块模式信息来预测候选模式。

然而，上述算法都有一定的局限性。文献［2］需要强制搜索8×8等所有小块模式，复杂度仍然很高；文献［3］中候选模式都是通过查表得到，不能根据实际编码情况进行调整；文献［5］需要进行多次阈值比较，编码效果依赖于阈值设定。

［1］SEGALL C A,SULLIVAN G J.Spatial scalability within the H.264/AVC scalable video coding extensions[J].IEEE Transactions on Circuits and Systems for Video Technology，2007，17(9):1121－1135．

［2］LI H，LI Z G，WEN C.Fast mode decision algorithm for inter‐frame coding in fully scalable video coding ［J］.IEEE Transactions on Circuits and Systems for Video Technology，2006，16(7):889－895．

［3］LIN H C，PENG W H，HANG H M，et al.Layer‐adaptive mode decision and motion search for scalable video coding with combined coarse granular scalability(CGS)and temporal scalability［C］//Proceedings of International Conference on Image Processing(ICIP).San Antonio:IEEE，2007:II289－II292．

［4］REN J，KEHTARNAVAZ N.Fast adaptive termination mode selection for H.264scalable video coding［J］.Journal of Real‐Time Image Processing，2009，4(1):13－21．