[发明专利]用于视频编解码中具有帧内方向预测模式的内含帧内编解码工具设定的方法和装置

说明书

本发明公开了一种用于由视频编码器或解码器执行的视频编码或解码的方法和装置，该视频编码器或视频解码器集成具有多个方向帧内预测模式的帧内预测的编解码工具。根据本发明，当帧内预测模式是方向模式时，基于帧内预测模式来确定一个或多个编解码工具设定，使得不需要显性信令基于帧内预测模式所确定的一个或多个编解码工具设定。在编码器侧处，将帧内预测和编解码工具应用于当前块以生成当前块的帧内预测残差或已变换帧内预测残差。

交叉申请

本发明要求2017年3月10日提出申请号为62/469,562的美国临时专利申请的优先权。上述美国临时申请整体以引用方式并入本文中。

技术领域

本发明通常涉及结合帧内预测的视频编解码。具体地，本发明涉及用于使用具有帧内预测基于位置帧内预测组合(Position Dependent Intra Prediction Combination，PDPC)或适应性参考样本平滑(Adaptive Reference Sample Smoothing，ARSS)或适应性多变换(Adaptive Multiple Transforms，AMT)编解码工具来提高视频编解码系统的编解码效率或降低其复杂度的技术。

背景技术

高效视频编解码(High Efficiency Video Coding，HEVC)标准是在 ITU-T视频编解码专家组(Video Coding Experts Group，VCEG)和ISO/ IEC运动图像专家组(MovingPicture Experts Group，MPEG)标准化组织的联合视频项目下开发的，并特别地与称为视频编解码联合协作小组 (Joint Collaborative Team on Video Coding，JCT-VC)存在伙伴关系。

在HEVC中，一个片段被分割成多个编解码树单元(Coding Tree Unit，CTU)。在主配置文件中，CTU的最小尺寸和最大尺寸由序列参数集(Sequence Parameter Set，SPS)中的语法元素指定。允许的CTU尺寸可以是8x8，16x16，32x32或64x64。对于每个片段，片段内的CTU根据光栅扫描顺序进行处理。

CTU进一步被分割成多个编解码单元(Coding Unit，CU)以适应各种局部特征。表示为编解码树的四叉树用于将CTU分割成多个CU。将 CTU尺寸设为M×M，其中M是值64，32或16中的一个。CTU可以是单个CU或可以被分割成四个相同尺寸的较小单元(即M/2xM/2)，其为编解码树的节点。如果这些单元是编解码树的叶节点，则这些单元变成 CU。否则，四叉树分割流程可以被迭代，直到节点的尺寸达到SPS中指定的最小允许CU尺寸。这种表示形成了如图1中的编解码树(也称为分割树结构)120所指定的递归结构。CTU分割110在图1中示出，其中实线表示CU边界。在CU层做出是使用图像间(时间)预测或是图像内(空间)预测来编解码图像区域的决定。由于最小CU尺寸可以是8x8，所以用于在不同基本预测类型之间切换的最小间隔尺寸是8x8。

给每个CU指定一个或多个预测单元(Prediction Unit，PU)。结合 CU，PU作为共享预测信息的基本表示块。在每个PU内部，应用相同的预测流程，并将相关信息以PU为基础发送给解码器。根据PU分割类型， CU可以被分割成一个，两个或四个PU。如图2所示，HEVC定义了用于将CU分成PU的八个形状。与CU不同，PU可以仅被分割一次。第二列所示的分割对应于不对称分割，其中两个分割部分具有不同的尺寸。

在透过基于PU分割类型应用预测进程来获得残差块之后，可以根据另一四叉树结构，其与CU的编解码树类似，将CU分割成变换单元 (Transform Unit，TU)。在图1中，块110中的实线表示CU边界，并且块110中的虚线表示TU边界。类似地，分割树结构120的实线对应于 CU分割树结构，分割树结构120的虚线对应于TU分割树结构。TU是用于应用整数变换和量化的残差或变换系数的基本代表块。对于每个 TU，将具有相同尺寸的一个整数变换应用于TU以获得残差系数。在以 TU基础的量化后，这些系数被传输到解码器。