[发明专利]基于概率的帧内编码器优化方法有效
申请号: | 201810882413.5 | 申请日: | 2018-08-04 |
公开(公告)号: | CN108881905B | 公开(公告)日: | 2021-08-31 |
发明(设计)人: | 魏宏安;王明海;赵铁松;周彬倩;庄重文 | 申请(专利权)人: | 福州大学 |
主分类号: | H04N19/11 | 分类号: | H04N19/11;H04N19/122;H04N19/124 |
代理公司: | 福州元创专利商标代理有限公司 35100 | 代理人: | 蔡学俊 |
地址: | 350108 福建省福*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 概率 编码器 优化 方法 | ||
1.一种基于概率的帧内编码器优化方法,其特征在于:包括以下步骤:
步骤S1:构建预测候选模式列表;
步骤S2:根据预测候选模式列表第一候选模式成为最佳预测模式的概率,提前终止模式选择;
步骤S3:基于RD cost的对数正态分布,设定CU划分与否的依据,完成提前终止CU划分;所述步骤S1基于35种模式成为最佳候选模式的概率,构建预测候选模式列表;
所述步骤S1具体为:
步骤S11:根据相邻PU块HCost的分布来预测当前PU块的分布,三个分布的依赖关系为:
其中,是预测当前PU块的HCost的分布,HL,HA是左边PU块和上边PU块的HCost分布,ωt是模型的权重,值介于0-1之间;
步骤S12:收集之前帧相同PU位置的信息,来动态调整ωt的值,定义t是当前帧的索引,L是已经编码帧的数量,Hi是第i帧相同位置HCost的分布,定义模型的错误率为:
通过推导和近似值,对于当前PU的权重最终被定义为:
其中ωt-1,分别代表t-1时刻,同一位置PU的实际和预测的HCost分布;
ωt-1定义为:
步骤S13:选取HCost较小的前8个模式带入实际的HCost计算,并且每一次更新完成减少预测模式的功能。
2.根据权利要求1所述的一种基于概率的帧内编码器优化方法,其特征在于:所述步骤S2具体为:
步骤S21:HEVC帧内预测中,不同的PU尺寸{64×64,32×32,16×16,8×8,4×4}对应的候选模式数量为{8,8,3,3,3},通过比较PU尺寸为,8×8,4×4候选模式RDcost的大小,来减少候选模式个数;
步骤S22:在编码PU尺寸为8×8,4×4时候,前三个候选模式进入RDO流程分别计算出RDcost0,RDcost1,RDcost2;
步骤S23:若RDcost0RDcost1RDcost2,提前终止模式选择,否则对第四个候选模式计算RDcost3;若RDcost1RDcost2RDcost3,则提前终止模式选择。
3.根据权利要求1所述的一种基于概率的帧内编码器优化方法,其特征在于:所述步骤S3具体为:
RD cost的对数正态分布表达式为:
式(5)中,fi(x)是当RDcost等于x时的概率密度值;No,Sp分别表示不分割与分割;E(X),Var(X)是集合X的均值和方差;
对于不分割的CU的RDcost集中在比较小的值,而对于分割CU的RDcost集中在相对较大的值,如果当前的CU的RDcost小于一个阈值,当前CU就被认为是最佳尺寸的CU,提前终止CU划分。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州大学,未经福州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810882413.5/1.html,转载请声明来源钻瓜专利网。