CN107343198A - 一种avs2帧间预测模式快速判决方法 - Google Patents

一种avs2帧间预测模式快速判决方法 Download PDF

Info

Publication number
CN107343198A
CN107343198A CN201710315131.2A CN201710315131A CN107343198A CN 107343198 A CN107343198 A CN 107343198A CN 201710315131 A CN201710315131 A CN 201710315131A CN 107343198 A CN107343198 A CN 107343198A
Authority
CN
China
Prior art keywords
mse
mode
mrow
hor
ver
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710315131.2A
Other languages
English (en)
Inventor
滕国伟
产小红
赵海武
李国平
王国中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Shanghai for Science and Technology
Original Assignee
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Shanghai for Science and Technology filed Critical University of Shanghai for Science and Technology
Priority to CN201710315131.2A priority Critical patent/CN107343198A/zh
Publication of CN107343198A publication Critical patent/CN107343198A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/563—Motion estimation with padding, i.e. with filling of non-object values in an arbitrarily shaped picture block or region for estimation purposes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明针对AVS2帧间编码复杂度的问题，提出一种快速模式判决的方法。在进行帧间编码时，首先计算编码块水平方向和垂直方向的纹理复杂度，若水平方向的纹理复杂度较小则计算水平对称划分模式(HOR_SYM)，否则计算垂直对称模式(VER_SYM)。同时使用最佳参考块的预测模式作为参考，避免因为外部因素而产生错误判断。若水平对称或垂直对称模式为当前最佳模式，则进一步分析水平非对称或垂直非对称模式下预测单元(PU)的纹理，并根据纹理特征选择是否进行各非对称模式的计算。此种方法最多可以减少5种模式计算，最少也可以减少3种模式计算，可显著降低编码复杂度，同时编码性能只有极小的损失。

Description

一种AVS2帧间预测模式快速判决方法
技术领域
本发明涉及一种AVS2帧间预测模式快速判决方法，是一种基于编码块的时空域相关性和纹理特种的算法。
背景技术
AVS2是新一代国家自主音视频编码标准，其压缩效率相比上一代标准(简称AVS1)和国际标准H.264/AVC提高了约一倍，特别在场景视频编码方面有更高的性能提升。AVS2采用了很多先进的编码技术，最具代表性的是灵活的四叉树划分结构和多样化的预测模式。其中在帧内预测方面，亮度有30个方向预测模式及3个非方向预测模式；在帧间预测方面则添加了双前向预测等帧间预测模式。先进的编码技术使编码效率提高了，但是编码过程更加复杂了。例如在采用四叉树划分结构进行编码时，如果最小编码单元的尺寸为8×8，则每个64×64的块共有1+174＝83522种可能的划分方式。而且AVS2采用了多参考帧技术，帧间预测的时候每个编码块都需要遍历缓冲区中的参考帧以找到最佳参考块，进一步增加了复杂度。
大量耗时的计算严重影响了AVS2在实际中的应用。AVS2在帧间预测过程中，并没有考虑序列的纹理特征，都是遍历尝试所有的预测模式以找到最佳模式。实际上，时域和空域相邻的编码块的纹理特征都非常接近，它们采用相同划分模式的概率也很大。而且各模式之间也有一定的联系，比如当水平对称模式的率失真比垂直对称的率失真小时，那么垂直非对称模式不太可能是最佳模式。以往针对这方面的研究也有不少，如把周围已编码图像块的预测模式作为候选模式对当前正在编码的块进行预测，虽然这些方法对减小当前块的模式计算有一定效果，但是往往因为信息利用得不全产生误差，而且误差会对预测下一编码单元产生影响。有的算法还会设定一个阈值用于判断是否进行预测，该阈值设定的精确性非常关键，其精确度直接影响模式选择的效果。
发明内容
本发明的目的是提供一种AVS2帧间预测模式快速判决算法，该方法利用编码单元(CU，Coding Unit)以及预测单元(PU，Prediction Unit)时域与空域的信息再结合编码单元的纹理信息来预测其划分方式，从而在帧间编码过程中避免遍历所有划分模式。
为达到上述目的，本发明的构思是：
对当前CU进行模式预测之前，可以选取多个时域、空域相邻块作为参考块，并且从参考块中选取一个和当前编码块纹理最接近的参考块作为最佳参考块。接着分析当前CU的纹理特性，根据纹理特性判断进行水平对称划分还是进行垂直对称划分，同时将最佳参考块的预测模式作为对比，避免产生差错。在确定了水平还是垂直划分之后，进一步分析CU的纹理特征，决定是否进行非对称划分。通过该算法可以使帧间预测的复杂度大大减小，而且最佳参考块的存在保证了算法的准确性。
根据以上构思，本发明的技术方案是：
一种AVS2帧间预测模式快速判决方法，操作步骤如下：
(1)对当前CU进行编码前，选取上一帧对应位置相同深度的CU，以及同一帧左边和上边相邻位置同一深度的CU作为参考CU，计算各参考CU和当前CU的纹理复杂度，并从所有的参考CU中选择一个与当前CU纹理最接近的作为最佳参考块，记录最佳参考块的划分模式为Mode0；
(2)计算NO_SPLIT模式的率失真代价，并将当前CU的最佳预测模BestMode设为NO_SPLIT模式；
(3)比较当前CU水平均方误差MSEHor和垂直均方误差MSEVer的大小，若MSEHor<MSEVer，跳转到步骤(4)；若MSEVer<MSEHor，跳转到步骤(5)；
(4)若Mode0为三种垂直划分模式VER_SYM、VER_LEFT、VER_RIGHT中的一种，则计算水平对称模式HOR_SYM和垂直对称模式VER_SYM的率失真代价，并且与当前最佳模式相比，选择代价最小的模式作为最佳预测模式BestMode；否则只计算水平对称模式HOR_SYM的率失真代价，并与当前最佳模式比较得到最佳模式BestMode；
(5)若Mode0为三种水平划分模式HOR_SYM、HOR_UP、HOR_DOWN中的一种，则计算垂直对称模式VER_SYM和水平对称模式HOR_SYM的率失真代价，并且与当前最佳模式相比，选择代价最小的模式作为最佳预测模式BestMode；否则只计算垂直对称模式VER_SYM的率失真代价，并与当前最佳模式比较得到最佳模式BestMode；
(6)若经过步骤(4)或步骤(5)之后最佳模式BestMode为NO_SPLIT模式，则结束后续非对称模式计算，跳转到步骤(9)；
(7)若经过步骤(4)或步骤(5)之后最佳模式BestMode为水平对称模式HOR_SYM，则计算水平非对称模式HOR_UP(HOR_DOWN)上方位置PU的水平均方误差MSEUpUp(MSEDownUp)和下方位置PU的水平均方误差MSEUpDown(MSEDownDown)。若MSEUpUp<MSEUpDown(MSEDownDown<MSEDownUp)，则对水平非对称模式HOR_UP(HOR_DOWN)进行模式计算；否则跳过该模式。
(8)若经过步骤(4)或步骤(5)之后最佳模式BestMode为垂直对称模式VER_SYM，则计算垂直非对称模式VER_LEFT(VER_RIGHT)左侧位置PU的垂直均方误差MSELeftLeft(MSERightLeft)和右侧位置PU的垂直均方误差MSELeftRight(MSERightRight)。若MSELeftLeft<MSELeftRight(MSERightRight<MSERightLeft)，则对垂直非对称模式VER_LEFT(VER_RIGHT)进行模式计算；否则跳过该模式。
(9)比较其它剩余模式。
上述步骤(1)中编码块的纹理复杂度本发明使用最小均方误差MSE来表示。可以利用公式(1)和(2)计算CU垂直方向和水平方向的均方误差。
式中，MSEVer和MSEHor表示CU垂直方向和水平方向的均方误差；W和H分别是待编码CU的宽度和高度(以像素点为单位)；α、β是系数值，用于调整不同划分模式下的水平与垂直方向上的像素点数，计算MSEVer和MSEHor时，α和β的值都为1；p(x,y)表示CU像素点的值；mx和my在计算MSEVer和MSEHor时分别表示当前CU的第x+1行的像素点的平均值和第y+1列的像素点的平均值。
两个编码块纹理特征的相似度，可以利用水平均方误差MSEHor和垂直均方误差MSEVer的绝对误差的和来表示，如公式(3)。abs越小就表示两个编码块的纹理特征越接近。
abs＝|MSEHor1-MSEHor2|+|MSEVer1-MSEVer2| (3)
上述步骤(2)中的率失真代价的计算公式为：
J(s,c,mode|QP,λmode)＝SAD(s,c,mode|QP)+λmotionR(s,c,mode|QP) (4)
式中SAD表示在给定量化参数QP的条件下，该模式的预测单元与重建单元块的差值平方和；s是当前预测单元；c是重建图像块；mode是所选的帧间编码模式；R是该模式下编码所需的比特数；拉格朗日因子λmotion是根据量化参数QP获得的。
上述步骤(3)中作出判决的原理：如果图像某个方向上像素的纹理复杂度(MSE)较小，也就是起伏程度较小，那么这个方向上的像素属于同一对象的概率就较大。
上述步骤(4)和(5)中使用最佳参考块的预测模式Mode0是为了避免因为外部因素而产生错误判断；比如由于光线等其他外部因素的影响可能导致一些并不属于同一个对象的像素点具有比较接近的像素值。
上述步骤(6)中若水平对称划分模式HOR_SYM和垂直划分模式VER_SYM的率失真代价都比NO_SPLIT大，那么水平非对称和垂直非对称划分也很可能不会是最佳模式。
上述步骤(7)中若当前最佳模式为水平对称模式，则进一步分析水平非对称模式下预测单元PU的纹理复杂度，并且根据PU的纹理特征决定是否进行各非对称模式的计算，而不是遍历所有水平非对称模式；分析水平非对称的两种模式HOR_UP和HOR_DOWN时，使用公式(2)，并用MSEUpUp和MSEUpDown分别代表HOR_UP模式下的上下块的MSE，α的值都为1，β的值分别为0.25和0.75；用MSEDownUp和MSEDownDown分别代表HOR_DOWN模式下的上下块的MSE，α的值都为1，β的值分别为0.75和0.25；计算这4个PU的MSE时mx表示当前PU的第x+1行像素点的平均值。
上述步骤(8)中若当前最佳模式为垂直对称模式，则进一步分析垂直非对称模式下预测单元PU的纹理复杂度，并且根据PU的纹理特征决定是否进行各非对称模式的计算，而不是遍历所有垂直非对称模式；分析垂直非对称的两种模式VER_LEFT和VER_RIGHT时，使用公式(1)，并用MSELeftLeft和MSELeftRight分别代表VER_LEFT模式下的左右块的MSE，α的值分别为0.25和0.75，β的值都为1；用MSERightLeft和MSERightRight分别代表VER_RIGHT模式下的左右块的MSE，α的值分别为0.75和0.25，β的值都为1；计算这4个PU的MSE时my表示当前PU第y+1列像素点的平均值。
上述步骤(9)中的剩余模式包括SKIP模式和SPLIT模式。
本发明与现有技术相比较，具有如下显而易见的突出实质性特点和显著技术进步：
本发明针对AVS2帧间编码复杂度的问题，提出一种快速模式判决的方法。在进行帧间编码时，首先计算编码块水平方向和垂直方向的纹理复杂度，若水平方向的纹理复杂度较小则计算水平对称划分模式(HOR_SYM)，否则计算垂直对称模式(VER_SYM)。同时使用最佳参考块的预测模式作为参考，避免因为外部因素而产生错误判断。若水平对称或垂直对称为当前最佳模式，则进一步分析水平非对称或垂直非对称模式下PU的纹理，并根据纹理特征选择是否进行各非对称模式的计算。此种方法最多可以减少5种模式计算，最少也可以减少3种模式计算，使帧间编码复杂度大大减小。更重要的是，该算法不需要设定阈值，这样产生误差的概率就很小，而且在利用纹理特征进行模式判决时，利用最佳参考块作比较，这样进一步保证了算法的准确性。
附图说明
图1是本发明的基于纹理复杂度和时空域相关性的AVS2帧间快速模式判决方法流程图。
具体实施方式
下面结合附图，对本发明的具体实施例做进一步的说明。
在计算机平台上AVS2参考代码的帧间编码部分编程实现本发明中的方法，具体的实现步骤如图1所示。步骤如下：
(1)对当前CU进行编码前，选取上一帧对应位置相同深度的CU，以及同一帧左边和上边相邻位置同一深度的CU作为参考CU，计算各参考CU和当前CU的纹理复杂度，并从所有的参考CU中选择一个与当前CU纹理最接近的作为最佳参考块，记录最佳参考块的划分模式为Mode0；
(2)计算NO_SPLIT模式的率失真代价，并将当前CU的最佳预测模BestMode设为NO_SPLIT模式；
(3)比较当前CU水平均方误差MSEHor和垂直均方误差MSEVer的大小，若MSEHor<MSEVer，跳转到步骤(4)；若MSEVer<MSEHor，跳转到步骤(5)；
(4)若Mode0为三种垂直划分模式VER_SYM、VER_LEFT、VER_RIGHT中的一种，则计算水平对称模式HOR_SYM和垂直对称模式VER_SYM的率失真代价，并且与当前最佳模式相比，选择代价最小的模式作为最佳预测模式BestMode；否则只计算水平对称模式HOR_SYM的率失真代价，并与当前最佳模式比较得到最佳模式BestMode；
(5)若Mode0为三种水平划分模式HOR_SYM、HOR_UP、HOR_DOWN中的一种，则计算垂直对称模式VER_SYM和水平对称模式HOR_SYM的率失真代价，并且与当前最佳模式相比，选择代价最小的模式作为最佳预测模式BestMode；否则只计算垂直对称模式VER_SYM的率失真代价，并与当前最佳模式比较得到最佳模式BestMode；
(6)若经过步骤(4)或步骤(5)之后最佳模式BestMode为NO_SPLIT模式，则结束后续非对称模式计算，跳转到步骤(9)；
(7)若经过步骤(4)或步骤(5)之后最佳模式BestMode为水平对称模式HOR_SYM，则计算水平非对称模式HOR_UP(HOR_DOWN)上方位置PU的水平均方误差MSEUpUp(MSEDownUp)和下方位置PU的水平均方误差MSEUpDown(MSEDownDown)。若MSEUpUp<MSEUpDown(MSEDownDown<MSEDownUp)，则对水平非对称模式HOR_UP(HOR_DOWN)进行模式计算；否则跳过该模式。
(8)若经过步骤(4)或步骤(5)之后最佳模式BestMode为垂直对称模式VER_SYM，则计算垂直非对称模式VER_LEFT(VER_RIGHT)左侧位置PU的垂直均方误差MSELeftLeft(MSERightLeft)和右侧位置PU的垂直均方误差MSELeftRight(MSERightRight)。若MSELeftLeft<MSELeftRight(MSERightRight<MSERightLeft)，则对垂直非对称模式VER_LEFT(VER_RIGHT)进行模式计算；否则跳过该模式。
(9)比较其它剩余模式。
利用AVS2参考软件RD14.0作为实验平台对多个视频序列进行编码，并且与原始遍历所有模式的算法进行比较，并且计算在各量化参数QP下编码时间time、峰值信噪比PSNR及编码比特率Bit-rate的变化，实验结果下表所示。
从上表可知，本文提出的基于时域、空域相关性以及纹理特征的帧间预测模式判决方法，可显著降低帧间编码时间。不同QP下平均编码时间都超过34％的下降，同时编码性能只有极小的损失。

Claims (8)

1.一种AVS2帧间预测模式快速判决方法，其特征在于，操作步骤如下：
1)对当前CU进行编码前，选取上一帧对应位置相同深度的CU，以及同一帧左边和上边相邻位置同一深度的CU作为参考CU，计算各参考CU和当前CU的纹理复杂度，并从所有的参考CU中选择一个与当前CU纹理最接近的作为最佳参考块，记录最佳参考块的划分模式为Mode0；
2)计算NO_SPLIT模式的率失真代价，并将当前CU的最佳预测模BestMode设为NO_SPLIT模式；
3)比较当前CU水平均方误差MSEHor和垂直均方误差MSEVer的大小，若MSEHor<MSEVer，跳转到步骤4)；若MSEVer<MSEHor，跳转到步骤5)；
4)若Mode0为三种垂直划分模式VER_SYM、VER_LEFT、VER_RIGHT中的一种，则计算水平对称模式HOR_SYM和垂直对称模式VER_SYM的率失真代价，并且与当前最佳模式相比，选择代价最小的模式作为最佳预测模式BestMode；否则只计算水平对称模式HOR_SYM的率失真代价，并与当前最佳模式比较得到最佳模式BestMode；
5)若Mode0为三种水平划分模式HOR_SYM、HOR_UP、HOR_DOWN中的一种，则计算垂直对称模式VER_SYM和水平对称模式HOR_SYM的率失真代价，并且与当前最佳模式相比，选择代价最小的模式作为最佳预测模式BestMode；否则只计算垂直对称模式VER_SYM的率失真代价，并与当前最佳模式比较得到最佳模式BestMode；
6)若经过步骤4)或步骤5)之后最佳模式BestMode为NO_SPLIT模式，则结束后续非对称模式计算，跳转到步骤9)；
7)若经过步骤4)或步骤5)之后最佳模式BestMode为水平对称模式HOR_SYM，则计算水平非对称模式HOR_UP/HOR_DOWN上方位置PU的水平均方误差MSEUpUp/MSEDownUp和下方位置PU的水平均方误差MSEUpDown/MSEDownDown；若MSEUpUp<MSEUpDown/MSEDownDown<MSEDownUp，则对水平非对称模式HOR_UP/HOR_DOWN进行模式计算；否则跳过该模式；
8)若经过步骤4)或步骤5)之后最佳模式BestMode为垂直对称模式VER_SYM，则计算垂直非对称模式VER_LEFT/VER_RIGHT左侧位置PU的垂直均方误差MSELeftLeft/MSERightLeft和右侧位置PU的垂直均方误差MSELeftRight/MSERightRight；若MSELeftLeft<MSELeftRight/MSERightRight<MSERightLeft，则对垂直非对称模式VER_LEFT/VER_RIGHT进行模式计算；否则跳过该模式；
9)比较其它剩余模式。
2.根据权利要求1所述的一种AVS2帧间预测模式快速判决方法，其特征在于，所述步骤1)中根据纹理特征从时域、空域相邻的块中为当前编码块找到一个最佳参考块，此处纹理采用最小均方误差MSE表示，便于计算并且准确度高；
纹理计算公式如下：
<mrow> <msub> <mi>MSE</mi> <mrow> <mi>V</mi> <mi>e</mi> <mi>r</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <mrow> <mi>&amp;alpha;</mi> <mi>W</mi> <mo>&amp;times;</mo> <mi>&amp;beta;</mi> <mi>H</mi> </mrow> </mfrac> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>y</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>&amp;alpha;</mi> <mi>W</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>x</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>&amp;beta;</mi> <mi>H</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <msup> <mrow> <mo>(</mo> <mi>p</mi> <mo>(</mo> <mrow> <mi>x</mi> <mo>,</mo> <mi>y</mi> </mrow> <mo>)</mo> <mo>-</mo> <msub> <mi>m</mi> <mi>y</mi> </msub> <mo>)</mo> </mrow> <mn>2</mn> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mn>1</mn> <mo>)</mo> </mrow>
<mrow> <msub> <mi>MSE</mi> <mrow> <mi>H</mi> <mi>o</mi> <mi>r</mi> </mrow> </msub> <mo>=</mo> <mfrac> <mn>1</mn> <mrow> <mi>&amp;alpha;</mi> <mi>W</mi> <mo>&amp;times;</mo> <mi>&amp;beta;</mi> <mi>H</mi> </mrow> </mfrac> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>x</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>&amp;beta;</mi> <mi>H</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>y</mi> <mo>=</mo> <mn>0</mn> </mrow> <mrow> <mi>&amp;alpha;</mi> <mi>W</mi> <mo>-</mo> <mn>1</mn> </mrow> </munderover> <msup> <mrow> <mo>(</mo> <mi>p</mi> <mo>(</mo> <mrow> <mi>x</mi> <mo>,</mo> <mi>y</mi> </mrow> <mo>)</mo> <mo>-</mo> <msub> <mi>m</mi> <mi>x</mi> </msub> <mo>)</mo> </mrow> <mn>2</mn> </msup> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mn>2</mn> <mo>)</mo> </mrow>
式中，MSEVer和MSEHor表示CU垂直方向和水平方向的均方误差；W和H分别是待编码CU的宽度和高度，以像素点为单位；α、β是系数值，用于调整不同划分模式下的水平与垂直方向上的像素点数，计算MSEVer和MSEHor时，α和β的值都为1；p[x][y]表示CU像素点的值；mx和my在计算MSEVer和MSEHor时分别表示当前CU的第x+1行的像素点的平均值和第y+1列的像素点的平均值；
abs＝|MSEHor1-MSEHor2|+|MSEVer1-MSEVer2| 3)
而表示两个编码块纹理接近程度使用公式3)，abs越小就表示两个编码块的纹理特征越接近。
3.根据权利要求1所述的一种AVS2帧间预测模式快速判决方法，其特征在于：所述步骤2)中将NO_SPLIT模式设为最佳模式，其率失真代价的计算公式为：
J(s,c,mode|QP,λmode)＝SAD(s,c,mode|QP)+λmotionR(s,c,mode|QP) 4)
式中SAD表示在给定量化参数QP的条件下，该模式的预测单元与重建单元块的差值平方和；s是当前预测单元；c是重建图像块；mode是所选的帧间编码模式；R是该模式下编码所需的比特数；拉格朗日因子λmotion是根据量化参数QP获得的。
4.根据权利要求1所述的一种AVS2帧间预测模式快速判决方法，其特征在于：所述步骤3)中根据编码块水平方向和垂直方向的纹理特征决定进行水平对称模式计算或垂直对称模式计算，而不是对两种对称模式都进行计算。
5.根据权利要求1所述的一种AVS2帧间预测模式快速判决方法，其特征在于：所述步骤4)和5)中利用最佳参考块的预测模式作为对照，避免步骤3)因为外部因素产生的错误结果对后续过程产生影响。
6.根据权利要求1所述的一种AVS2帧间预测模式快速判决方法，其特征在于：所述步骤6)中若水平对称和垂直对称的率失真代价都比NO_SPLIT模式要大，则水平非对称和垂直非对称模式也不能作为最佳模式，因此跳过这些模式，避免不必要的计算。
7.根据权利要求1所述的一种AVS2帧间预测模式快速判决方法，其特征在于：所述步骤7)中若当前最佳模式为水平对称模式，则进一步分析水平非对称模式下预测单元PU的纹理复杂度，并且根据PU的纹理特征决定是否进行各非对称模式的计算，而不是遍历所有水平非对称模式；分析水平非对称的两种模式HOR_UP和HOR_DOWN时，使用公式2)，并用MSEUpUp和MSEUpDown分别代表HOR_UP模式下的上下块的MSE，α的值都为1，β的值分别为0.25和0.75；用MSEDownUp和MSEDownDown分别代表HOR_DOWN模式下的上下块的MSE，α的值都为1，β的值分别为0.75和0.25；计算这4个PU的MSE时mx表示当前PU的第x+1行像素点的平均值。
8.根据权利要求1所述的一种AVS2帧间预测模式快速判决方法，其特征在于：所述步骤8)中若当前最佳模式为垂直对称模式，则进一步分析垂直非对称模式下预测单元PU的纹理复杂度，并且根据PU的纹理特征决定是否进行各非对称模式的计算，而不是遍历所有垂直非对称模式；分析垂直非对称的两种模式VER_LEFT和VER_RIGHT时，使用公式1)，并用MSELeftLeft和MSELeftRight分别代表VER_LEFT模式下的左右块的MSE，α的值分别为0.25和0.75，β的值都为1；用MSERightLeft和MSERightRight分别代表VER_RIGHT模式下的左右块的MSE，α的值分别为0.75和0.25，β的值都为1；计算这4个PU的MSE时my表示当前PU第y+1列像素点的平均值。
CN201710315131.2A 2017-05-08 2017-05-08 一种avs2帧间预测模式快速判决方法 Pending CN107343198A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710315131.2A CN107343198A (zh) 2017-05-08 2017-05-08 一种avs2帧间预测模式快速判决方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710315131.2A CN107343198A (zh) 2017-05-08 2017-05-08 一种avs2帧间预测模式快速判决方法

Publications (1)

Publication Number Publication Date
CN107343198A true CN107343198A (zh) 2017-11-10

Family

ID=60220207

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710315131.2A Pending CN107343198A (zh) 2017-05-08 2017-05-08 一种avs2帧间预测模式快速判决方法

Country Status (1)

Country Link
CN (1) CN107343198A (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108124154A (zh) * 2017-12-28 2018-06-05 北京数码视讯科技股份有限公司 帧间预测模式的快速选择方法、装置及电子设备
CN109151467A (zh) * 2018-09-10 2019-01-04 重庆邮电大学 基于图像块活动性的屏幕内容编码帧间模式快速选择方法
CN109547798A (zh) * 2018-12-17 2019-03-29 杭州当虹科技股份有限公司 一种快速的hevc帧间模式选择方法
CN111669602A (zh) * 2020-06-04 2020-09-15 北京大学深圳研究生院 编码单元的划分方法、装置、编码器及存储介质
CN111683245A (zh) * 2020-06-23 2020-09-18 北京工业职业技术学院 基于纹理相似度的cu划分决策
CN112804524A (zh) * 2019-11-13 2021-05-14 北京大学 一种针对avs2的帧内快速模式决策方法
CN112866691A (zh) * 2019-11-27 2021-05-28 北京大学 一种针对视频编码的帧间快速模式决策方法
WO2021164323A1 (zh) * 2020-02-17 2021-08-26 腾讯科技（深圳）有限公司 编码模式选择方法、装置、电子设备及计算机可读介质
CN113542753A (zh) * 2021-07-27 2021-10-22 杭州当虹科技股份有限公司 Avs3视频编码方法及编码器

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102984521A (zh) * 2012-12-12 2013-03-20 四川大学 基于时域相关性的高性能视频编码帧间模式判决方法
CN103384325A (zh) * 2013-02-22 2013-11-06 张新安 一种avs-m视频编码快速帧间预测模式选择方法
CN105141954A (zh) * 2015-08-19 2015-12-09 浙江工业大学 一种hevc帧间编码快速模式选择方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102984521A (zh) * 2012-12-12 2013-03-20 四川大学 基于时域相关性的高性能视频编码帧间模式判决方法
CN103384325A (zh) * 2013-02-22 2013-11-06 张新安 一种avs-m视频编码快速帧间预测模式选择方法
CN105141954A (zh) * 2015-08-19 2015-12-09 浙江工业大学 一种hevc帧间编码快速模式选择方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
产小红，滕国伟，王国中，赵海武，李国平: "AVS2帧间预测模式快速判决方法", 《电视技术》 *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108124154A (zh) * 2017-12-28 2018-06-05 北京数码视讯科技股份有限公司 帧间预测模式的快速选择方法、装置及电子设备
CN109151467A (zh) * 2018-09-10 2019-01-04 重庆邮电大学 基于图像块活动性的屏幕内容编码帧间模式快速选择方法
CN109547798A (zh) * 2018-12-17 2019-03-29 杭州当虹科技股份有限公司 一种快速的hevc帧间模式选择方法
CN109547798B (zh) * 2018-12-17 2020-09-18 杭州当虹科技股份有限公司 一种快速的hevc帧间模式选择方法
CN112804524B (zh) * 2019-11-13 2022-11-25 北京大学 一种针对avs2的帧内快速模式决策方法
CN112804524A (zh) * 2019-11-13 2021-05-14 北京大学 一种针对avs2的帧内快速模式决策方法
CN112866691B (zh) * 2019-11-27 2022-09-27 北京大学 一种针对视频编码的帧间快速模式决策方法
CN112866691A (zh) * 2019-11-27 2021-05-28 北京大学 一种针对视频编码的帧间快速模式决策方法
WO2021164323A1 (zh) * 2020-02-17 2021-08-26 腾讯科技（深圳）有限公司 编码模式选择方法、装置、电子设备及计算机可读介质
CN111669602A (zh) * 2020-06-04 2020-09-15 北京大学深圳研究生院 编码单元的划分方法、装置、编码器及存储介质
CN111683245B (zh) * 2020-06-23 2022-07-22 北京工业职业技术学院 基于纹理相似度的cu划分决策
CN111683245A (zh) * 2020-06-23 2020-09-18 北京工业职业技术学院 基于纹理相似度的cu划分决策
CN113542753B (zh) * 2021-07-27 2022-07-08 杭州当虹科技股份有限公司 Avs3视频编码方法及编码器
CN113542753A (zh) * 2021-07-27 2021-10-22 杭州当虹科技股份有限公司 Avs3视频编码方法及编码器

Similar Documents

Publication Publication Date Title
CN107343198A (zh) 一种avs2帧间预测模式快速判决方法
CN110087087B (zh) Vvc帧间编码单元预测模式提前决策及块划分提前终止方法
CN100534194C (zh) 用于视频帧内预测编码和解码的方法和装置
CN103517069B (zh) 一种基于纹理分析的hevc帧内预测快速模式选择方法
WO2018010492A1 (zh) 视频编码中帧内预测模式的快速决策方法
CN101964906B (zh) 基于纹理特性的快速帧内预测方法和装置
CN101309421B (zh) 帧内预测模式选择方法
CN106961606A (zh) 基于纹理划分特征的hevc帧内编码模式选择方法
CN105208387B (zh) 一种hevc帧内预测模式快速选择方法
CN102158709A (zh) 一种解码端可推导的运动补偿预测方法
CN100534195C (zh) 融合多参考帧选择和运动估计的快速帧间模式判决方法
CN105141954A (zh) 一种hevc帧间编码快速模式选择方法
CN105681808B (zh) 一种scc帧间编码单元模式的快速决策方法
CN105898332B (zh) 针对3d-hevc编码标准的快速深度图帧内模式判决方法
CN104811729B (zh) 一种视频多参考帧编码方法
CN103997645A (zh) 一种快速的hevc帧内编码单元和模式决策方法
CN106791828B (zh) 基于机器学习的视频转码方法及其转码器
CN100596202C (zh) 一种快速帧内模式选择方法
CN102186081A (zh) 一种基于梯度向量的h.264帧内模式选择方法
CN102164283A (zh) 一种基于avs的亚像素运动估计方法
Huang et al. Rate-distortion-complexity optimized coding mode decision for HEVC
JP5566786B2 (ja) 誤差絶対値和の推定システム及び推定方法
CN101867818B (zh) 宏块模式的选择方法和装置
CN101883275B (zh) 视频编码方法
CN102843555A (zh) 一种帧内预测方法和***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20171110