CN110622509A - 灵活树结构中的级联编码单元 - Google Patents
灵活树结构中的级联编码单元 Download PDFInfo
- Publication number
- CN110622509A CN110622509A CN201980002346.6A CN201980002346A CN110622509A CN 110622509 A CN110622509 A CN 110622509A CN 201980002346 A CN201980002346 A CN 201980002346A CN 110622509 A CN110622509 A CN 110622509A
- Authority
- CN
- China
- Prior art keywords
- tree structure
- size
- video
- concatenated
- cus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
- H04N19/64—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission
- H04N19/647—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by ordering of coefficients or of bits for transmission using significance based coding, e.g. Embedded Zerotrees of Wavelets [EZW] or Set Partitioning in Hierarchical Trees [SPIHT]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/96—Tree coding, e.g. quad-tree coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
一种用于对视频序列编码的树结构中的父编码单元(CU)进行分割的方法,包括将所述父CU划分为两个以上的CU,包括第一CU和第二CU,以及通过将所述第二CU级联到所述第一CU,生成级联的CU。
Description
相关申请的交叉引用
本申请根据美国专利法第119条,要求2018年4月2日在美国专利商标局提交的第62/651,566号美国申请的优先权,所述申请的公开内容以全文引用的方式并入本文中。
技术领域
本申请涉及混合视频编码中的高级块分割。更具体地,本申请公开了用于有效地进行块分割的灵活树结构中的级联编码单元(CU)。
背景技术
ITU-T VCEG(Q6/16)和ISO/IEC MPEG(JTC 1/SC 29/WG 11)在2013年(版本1)、2014年(版本2)、2015年(版本3)和2016年(版本4)发布了H.265/HEVC(高效视频编码)标准。从那时起,他们一直在研究压缩能力显著超过HEVC标准(包括其扩展)的未来视频编码技术的标准化的潜在需求。这些小组正在通过联合视频探索组(JVET)的联合合作,开展这项探索活动,以评估他们的专家在该领域提出的压缩技术。JVET开发了联合探索模型(JEM),以研究超出HEVC能力的视频编码技术,当前最新版本的JEM是JEM-7.0。由于JEM软件展现出相对于HEVC参考软件HM的显著改进,从2017年10月开始征集能力超过HEVC的视频压缩的联合提案。新一代的视频编码标准正在开发中。
在HEVC中,通过使用表示为编码树的四叉树结构,将编码树单元(CTU)划分为编码单元(CU),以适应各种局部特性。是使用帧间图像(时间)还是使用帧内图像(空间)预测对图片区域进行编码的决定,是在CU的级别做出的。根据预测单元(PU)的划分类型,将每个CU进一步划分为1个、2个或4个预测单元(PU)。在一个PU内部,应用相同的预测过程,并且基于PU,将相关信息传送给解码器。在通过基于PU的划分类型,应用预测过程,获取残差块后,可根据另一种四叉树结构,类似于CU所用的编码树,将CU分割为变换单元(TU)。HEVC结构的关键特征之一是,它具有多种分割概念,包括CU、PU和TU。在HEVC中,一个CU或一个TU仅可以为正方形,而对于帧间预测的块,一个PU可以为正方形或者矩形。在HEVC后期,提出了一些意见,允许用矩形的PU进行帧内预测和变换。这些提议没有被采纳到HEVC中,但是延伸到在JEM中使用。
在图片的边界,HEVC实行隐性的四叉树划分,使得一个块一直进行四叉树划分,直到其大小适合图片的边界。
受之前工作的启发,开发了四叉树二叉树(QTBT)结构,以统一CU、PU和TU的概念,并且支持更灵活的CU分割形状。在QTBT块结构中,一个CU可以具有正方形或者矩形的形状。如所示,一个编码树单元(CTU)首先由四叉树结构进行分割。四叉树叶节点进一步由二叉树结构进行分割。在二叉树划分中有两种划分类型:对称水平划分和对称垂直划分。二叉树叶节点称作编码单元(CU),所述分割用于预测和变换处理,无需任何进一步分割。这意味着,在QTBT编码块结构中,CU、PU和TU具有相同的块大小。在JEM中,有时一个CU由具有不同色彩分量的编码块(CB)构成,例如,在色度格式为4:2:0的P切片和B切片的情况下,一个CU包含一个亮度CB和两个色度CB,有时,一个CU由具有单个分量的CB构成,例如,在I切片的情况下,一个CU仅包含一个亮度CB或者仅包含两个色度CB。
以下是为QTBT分割策略定义的参数:
-CTU大小:四叉树的根节点大小,与HEVC中的概念相同
-MaxQTDepth:最大允许的四叉树深度
-MinQTSize:最小允许的四叉树叶节点大小
-MaxBTSize:最大允许的二叉树根节点大小
-MaxBTDepth:最大允许的二叉树深度
-MinBTSize:最小允许的二叉树叶节点大小
在一个QTBT分割结构的示例中,将CTU大小设置为128×128个亮度采样,具有两个对应的64×64个色度采样块,将MinQTSize设置为16×16,将MaxBTSize设为64×64,将MinBTSize(用于宽度和高度)设置为4×4,将MaxBTDepth设置为4。首先将四叉树分割应用于CTU,生成四叉树叶节点。四叉树叶节点的大小可以是从16×16(即,MinQTSize)到128×128(即,CTU大小)。如果四叉树叶节点为128×128,将不再对其进行进一步的二叉树划分,因为其大小超过了MaxBTSize(即,64×64)。否则,可以对四叉树叶节点进一步划分。因此,四叉树叶节点也是二叉树的根节点,其二叉树深度为0。当二叉树深度达到MaxBTDepth(即,4)时,不考虑进一步的划分。当二叉树节点的宽度等于MinBTSize(即,4)时,不考虑进一步的水平划分。类似地,当二叉树结点的高度等于MinBTSize的高度时,不考虑进一步的垂直划分。二叉树叶节点进一步通过预测和变换处理进行进一步处理,无需进行任何进一步的划分。在JEM中,最大CTU大小为256×256个亮度样本。
图1(左)示出了一个使用QTBT的块分割的示例,图1(右)示出了对应的树表示。其中,实线指四叉树划分,虚线指二叉树划分。在二叉树的每个划分(即,非叶)节点中,用信号表示一个标志,以指示使用的是哪种划分类型(即,水平划分或垂直划分),其中,“0”指示水平划分,“1”指示垂直划分。对于四叉树划分,无需指示划分类型,因为四叉树划分总是对一个块进行水平划分和垂直划分,生成大小相同的4个子块。
另外,QTBT策略支持亮度和色度具有单独的QTBT结构的能力。当前,对于P切片和B切片,一个CTU中的亮度CTB和色度CTB共享相同的QTBT结构。然而,对于I切片,亮度CTB由一个QTBT结构分割为CU,色度CTB由另一个QTBT结构分割为色度CU。这意味着,I切片中的一个CU是由亮度分量的编码块构成,或者是由两个色度分量的编码块构成,P切片或者B切片中的一个CU是由全部三个色彩分量的编码块构成。
在HEVC中,约束小的块的帧间预测,以减少运动补偿对存储器的访问,这样,不支持4×8的块和8×4的块的双向预测,不支持4×4的块的帧间预测。在JEM的QTBT中,去掉了这些约束。
多类型树(MTT)结构是比QTBT更灵活的树结构。在MTT中,支持四叉树(QT)及二叉树(BT)以外的树类型。如图2(d)及图2(e)分别所示,引入了水平中心侧三叉树(TT)和垂直中心侧三叉树。
图2(a)示出了一个四叉树分割的示例。图2(b)示出了一个垂直二叉树分割的示例。图2(c)示出了一个水平二叉树分割的示例。图2(d)示出了一个垂直中心侧三叉树分割的示例。图2(e)示出了一个水平中心侧三叉树分割的示例。
有两个级别的树,区域树(四叉树)和预测树(二叉树或三叉树)。一个CTU首先由区域树(RT)进行分割。一个RT叶可以进一步用预测树(PT)进行划分。PT节点还可进一步用PT进行划分,直至达到最大PT深度。在进入PT后,不再可以使用RT(四叉树)。PT叶是基本的编码单元。为方便起见,仍将其称为CU。CU不能进一步划分。与JEM-3或QTBT的方式相同,在CU上应用预测和变换两者。
三叉树分割的好处可以包括,作为四叉树和二叉树分割的补充,三叉树分割可采集位于块中心的对象,而四叉树和二叉树总是沿着块中心进行划分。而且,所提议的三叉树分割的宽度和高度总是2的幂,因此无需额外的变换。
两级树的设计主要受减小复杂度的驱动。理论上,遍历一个树的复杂度为TD,其中,T表示划分类型的数目,D是树的深度。因两级树的设计和约束,第一级只有四叉树(在某些级别减少了T的数目),大大减小了复杂度,同时可以保持合理的性能。
为了进一步提高在QTBT之上的编码效率,提出了非对称二叉树(ABT)。如所示,将大小为S的编码单元,在水平方向上或者垂直方向上划分为大小为S/4和3×S/4的2个子CU。实际上,增加的可用CU大小为12和24。在该工具的进一步扩展版本中,可以允许CU大小为6和48。
这种方法的一个主要问题是,如果一个块的宽度/高度不是2的幂,就不是很方便。例如,需要支持12和24这样的大小的变换。当对一个宽度/高度不是2的幂的块进行划分时,可能还需要特殊的处理。
使用SplitToSquare树类型,将一个块划分为最大的相同大小的正方形子块。也就是说,如果输入块为大小为2M×2N(M≠N)的矩形块,在进行SplitToSquare后,会得到2M +N-2×min(M,N)个大小为2min(M,N)×2min(M,N)的子块。如果输入块为正方形块,Split2ToSquare将生成四个正方形的大小相同的子块,这与四叉树划分相同。基本上,SplitToSquare可用来代替四叉树分割,因为它覆盖更多的情形。
发明内容
在一个实施例中,提供了一种用于对视频序列编码的树结构中的父编码单元(CU)进行分割的方法,该方法包括将父CU划分为两个以上的CU,包括第一CU和第二CU,并通过将第二CU级联到第一CU,生成级联的CU。
在一个实施例中,提供了一种用于对视频序列编码的树结构中的父编码单元(CU)进行分割的设备,该设备包括至少一个存储器,用于存储程序代码,和至少一个处理器,用于读取程序代码,并且按程序代码的指示进行操作,程序代码包括划分代码,用于将父CU划分为两个以上的CU,包括第一CU和第二CU;生成代码,用于通过将第二CU级联到第一CU,生成级联的CU。
在一个实施例中,提供了一种非易失性计算机可读介质,存储有指令,所述指令包括:一个或多个指令,该一个或多个指令,当由一种用于对视频序列编码的树结构中的父编码单元(CU)进行分割的设备的一个或多个处理器执行时,使一个或多个处理器将父CU划分为两个以上的CU,包括第一CU和第二CU,并通过将第二CU级联到第一CU,生成级联的CU。
附图说明
结合以下详细描述和附图,本申请主题的其他特征、本质和各种优点将会变得更加清楚,其中:
图1为一个QTBT结构的图示。
图2(a)至图2(e)为各种分割结构的图示。
图3为各种CU划分模式的图示。
图4为根据本申请实施例的一个通信***的简化框图。
图5为视频编码器及解码器在流式传输环境中的放置方式的示意图。
图6为根据本申请实施例的视频解码器的功能框图。
图7为根据本申请实施例的视频编码器的功能框图。
图8为根据本申请实施例的非相邻子块级联的图示。
图9为根据本申请实施例的分割和级联各种CU的一个示例的图示。
图10是根据本申请实施例的一个用于对视频序列编码的树结构中的父CU进行分割的示例性过程的流程图。
图11是根据一个实施例的计算机***的图。
要解决的问题
虽然非对称二叉树(ABT)展现出对编码效率有改进,但它与三叉树(TT)有许多重合部分。例如,对中的HOR_UP的第一分割是复制中的第一分割。由于该分割可以进一步划分为更小的子块,所以编码器在进行分割搜索期间的复杂性重合度实际上非常高。
虽然MTT(包括ABT和SplitToSquare)结构很灵活,但它仍不足以有效地采集视频中的不规则对象。
具体实施方式
图4是根据本申请公开的实施例的通信***(300)的简化框图。通信***(300)可以包括至少两个终端(410-420),所述终端通过网络(450)彼此通信。对于单向数据传输,第一终端(410)可以在本地位置对视频数据进行编码,以通过网络(450)传输到另一终端(420)。第二终端(420)可以从网络(450)接收另一终端的已编码视频数据,对已编码视频数据进行解码,并显示恢复的视频数据。单向数据传输在媒体服务等应用中是较常见的。
图4示出了第二对终端(430,440),用于支持已编码视频的双向传输,所述双向传输可例如在视频会议期间发生。对于双向数据传输,每个终端(430,440)可对在本地位置采集的视频数据进行编码,以通过网络(450)传输到另一终端。每个终端(430,440)还可接收由另一终端传输的已编码视频数据,且可对所述已编码视频数据进行解码,并可将恢复的视频数据在本地显示设备上显示。
在图4中,终端(410-440)可为服务器、个人计算机和智能电话,但本申请公开的原理可不限于此。本申请公开的实施例适用于膝上型计算机、平板电脑、媒体播放器和/或专用视频会议设备。网络(450)表示在各个终端(410-440)之间传送已编码视频数据的任何数目的网络,包括例如有线(连线的)和/或无线通信网络。通信网络(450)可在电路交换和/或分组交换信道中交换数据。代表性的网络可包括电信网络、局域网、广域网和/或互联网。出于本申请的目的,除非在下文中有所解释,否则网络(450)的架构和拓扑对于本申请公开的操作来说可能是无关紧要的。
作为本申请所公开主题的一个应用的示例,图5示出了视频编码器和视频解码器在流式传输环境中的放置方式。本申请所公开主题可同等地适用于其它支持视频的应用,包括例如视频会议、数字TV、在包括CD、DVD、存储棒等的数字介质上存储压缩视频等等。
流式传输***可包括采集子***(513),所述采集子***(513)可包括数码相机等视频源(501),所述视频源例如创建未压缩的视频样本流(502)。相较于已编码的视频码流,视频样本流(502)被描绘为粗线以强调高数据量,视频样本流(502)可由耦接到摄像头(501)的编码器(503)进行处理。编码器(503)可包括硬件、软件或软硬件组合以实现或实施如下文更详细地描述的所公开主题的各方面。相较于视频样本流,已编码的视频码流(504)被描绘为细线以强调较低数据量,其可存储在流式传输服务器(505)上以供将来使用。一个或多个流式传输客户端(506,508),可访问流式传输服务器(505)以检索已编码的视频码流(504)的副本(507,509)。客户端(506)可包括视频解码器(510),视频解码器(510)对已编码的视频码流的传入副本(507)进行解码,且产生可在显示器(512)或另一呈现装置(未描绘)上呈现的输出视频样本流(511)。在一些流式传输***中,可根据某些视频编码/压缩标准对视频码流(504、507、509)进行编码。该些标准例如包括ITU-T H.265。正在开发的视频编码标准非正式地称为视频编码(Versatile Video Coding,VVC),本申请可用于VVC标准的上下文中。
图6可以是根据本申请实施例的视频解码器(510)的功能框图。
接收器(610)可接收将由视频解码器(510)解码的一个或多个已编码视频序列;在同一实施例或另一实施例中,一次接收一个已编码视频序列,其中每个已编码视频序列的解码独立于其它已编码视频序列。可从信道(612)接收已编码视频序列,所述信道可以是通向存储已编码的视频数据的存储装置的硬件/软件链路。接收器(610)可接收已编码的视频数据以及其它数据,例如,可转发到它们各自的使用实体(未标示)的已编码音频数据和/或辅助数据流。接收器(610)可将已编码视频序列与其它数据分开。为了防止网络抖动,缓冲存储器(615)可耦接在接收器(610)与熵解码器/解析器(620)(此后称为“解析器”)之间。当接收器(610)从具有足够带宽和可控性的存储/转发装置或从等时同步网络接收数据时,也可能不需要配置缓冲存储器(615),或可以将所述缓冲存储器做得较小。当然,为了在互联网等业务分组网络上使用,也可能需要缓冲存储器(615),所述缓冲存储器可相对较大且可具有自适应性大小。
视频解码器(510)可包括解析器(520)以根据已熵编码视频序列重建符号(621)。这些符号的类别包括用于管理解码器(510)的操作的信息,以及用以控制显示器(512)等显示装置的潜在信息,所述显示装置不是解码器的组成部分,但可耦接到解码器,如图6中所示。用于显示装置的控制信息可以是辅助增强信息(Supplemental EnhancementInformation,SEI消息)或视频可用性信息(Video Usability Information,VUI)的参数集片段(未标示)。解析器(620)可对接收到的已编码视频序列进行解析/熵解码。已编码视频序列的编码可根据视频编码技术或标准进行,且可遵循本领域技术人员所知的原理,包括可变长度编码、霍夫曼编码(Huffman coding)、具有或不具有上下文灵敏度的算术编码等等。解析器(620)可基于对应于群组的至少一个参数,从已编码视频序列提取用于视频解码器中的像素的子群中的至少一个子群的子群参数集。子群可包括图片群组(Group ofPictures,GOP)、图片、图块、切片、宏块、编码单元(Coding Unit,CU)、块、变换单元(Transform Unit,TU)、预测单元(Prediction Unit,PU)等等。熵解码器/解析器还可从已编码视频序列提取信息,例如变换系数、量化器参数值、运动矢量等等。
解析器(620)可对从缓冲存储器(615)接收的视频序列执行熵解码/解析操作,从而创建符号(621)。解析器(620)可以接收已编码数据,并有选择地对特定的符号(621)进行解码。此外,解析器(620)可以判断是否要将特定的符号(621)提供给运动补偿预测单元(653)、缩放器/逆变换单元(651)、帧内预测单元(652)或环路滤波器(656)。
取决于已编码视频图片或一部分已编码视频图片(例如:帧间图片和帧内图片、帧间块和帧内块)的类型以及其它因素,符号(621)的重建可涉及多个不同单元。涉及哪些单元以及涉及方式可由解析器(620)从已编码视频序列解析的子群控制信息控制。为了简洁起见,未描述解析器(620)与下文的多个单元之间的此类子群控制信息流。
除已经提及的功能块以外,解码器(510)可在概念上细分成如下文所描述的数个功能单元。在商业约束下运行的实际实施例中,这些单元中的许多单元彼此紧密交互并且可以彼此集成。然而,出于描述所公开主题的目的,概念上细分成下文的功能单元是适当的。
第一单元是缩放器/逆变换单元(651)。缩放器/逆变换单元(651)从解析器(620)接收作为符号(621)的量化变换系数以及控制信息,包括使用哪种变换方式、块大小、量化因子、量化缩放矩阵等。它可以输出包括样本值的块,所述样本值可输入到聚合器(655)中。
在一些情况下,缩放器/逆变换单元(651)的输出样本可属于帧内编码块;即:不使用来自先前重建的图片的预测性信息,但可使用来自当前图片的先前重建部分的预测性信息的块。此类预测性信息可由帧内图片预测单元(652)提供。在一些情况下,帧内图片预测单元(652)采用从当前(部分已重建)图片(656)提取的周围已重建信息,生成大小和形状与正在重建的块相同的块。在一些情况下,聚合器(655)基于每个样本,将帧内预测单元(652)生成的预测信息添加到由缩放器/逆变换单元(651)提供的输出样本信息中。
在其它情况下,缩放器/逆变换单元(651)的输出样本可属于帧间编码和潜在运动补偿块。在此情况下,运动补偿预测单元(653)可访问参考图片缓冲器(657)以提取用于预测的样本。在根据符号(621)对提取的样本进行运动补偿之后,这些样本可由聚合器(655)添加到缩放器/逆变换单元的输出(在这种情况下被称作残差样本或残差信号),从而生成输出样本信息。运动补偿单元从参考图片缓冲器内的地址获取预测样本可受到运动矢量控制,且所述运动矢量以所述符号(621)的形式而供运动补偿单元使用,所述符号(621)例如是包括X、Y和参考图片分量。运动补偿还可包括在使用子样本精确运动矢量时,从参考图片存储器提取的样本值的内插、运动矢量预测机制等等。
聚合器(655)的输出样本可在环路滤波器单元(656)中被各种环路滤波技术采用。视频压缩技术可包括环路内滤波器技术,所述环路内滤波器技术受控于包括在已编码视频码流中的参数,且所述参数作为来自解析器(620)的符号(621)可用于环路滤波器单元(656),但是还可响应于在解码已编码图片或已编码视频序列的先前(按解码次序)部分期间获得的元信息,以及响应于先前重建且经过环路滤波的样本值。
环路滤波器单元(656)的输出可以是样本流,所述样本流可输出到显示装置(512)以及存储在参考图片缓冲器(656),以用于后续的帧间图片预测。
一旦完全重建,某些已编码图片就可用作参考图片以用于将来预测。一旦已编码图片被完全重建,且已编码图片(通过例如解析器(620))被识别为参考图片,则当前参考图片(656)可变为参考图片缓冲器(657)的一部分,且可在开始重建后续已编码图片之前重新分配新的当前图片存储器。
视频解码器(510)可根据例如ITU-T推荐标准H.265中记录的预定视频压缩技术执行解码操作。在已编码视频序列可能会遵循使用中的视频压缩技术或标准规定的语法的意义上,如视频压缩技术文档或标准中,尤其是其中的配置文件中所规定那样,已编码视频序列可符合所使用的视频压缩技术或标准指定的语法。对于合规性,还要求已编码视频序列的复杂度处于视频压缩技术或标准的层级所限定的范围内。在一些情况下,层级限制最大图片大小、最大帧率、最大重建取样率(以例如每秒兆(mega)个样本为单位进行测量)、最大参考图片大小等。在一些情况下,由层级设定的限制可通过假想参考解码器(HypotheticalReference Decoder,HRD)规范和在已编码视频序列中用信号表示的HRD缓冲器管理的元数据来进一步限定。
在实施例中,接收器(610)可连同已编码视频一起接收附加(冗余)数据。所述附加数据可以是已编码视频序列的一部分。所述附加数据可由视频解码器(510)用以对数据进行适当解码和/或较准确地重建原始视频数据。附加数据可呈例如时间、空间或信噪比(signal noise ratio,SNR)增强层、冗余切片、冗余图片、前向纠错码等形式。
图6可以是根据本申请公开的实施例的视频编码器(503)的功能框图。
编码器(503)可从视频源(501)(并非编码器的一部分)接收视频样本,所述视频源可采集将由编码器(503)编码的视频图像。
视频源(501)可提供将由编码器(503)编码的呈数字视频样本流形式的源视频序列,所述数字视频样本流可具有任何合适位深度(例如:8位、10位、12位……)、任何色彩空间(例如BT.601Y CrCB、RGB……)和任何合适取样结构(例如Y CrCb 4:2:0、Y CrCb 4:4:4)。在媒体服务***中,视频源(501)可以是存储先前已准备的视频的存储装置。在视频会议***中,视频源(503)可以是采集本地图像信息作为视频序列的相机。可将视频数据提供为多个单独的图片,当按顺序观看时,这些图片被赋予运动。图片自身可构建为空间像素阵列,其中取决于所用的取样结构、色彩空间等,每个像素可包括一个或多个样本。所属领域的技术人员可以很容易理解像素与样本之间的关系。下文侧重于描述样本。
根据实施例,编码器(503)可实时或在由应用所要求的任何其它时间约束下,将源视频序列的图片编码且压缩成已编码视频序列(743)。施行适当的编码速度是控制器(750)的一个功能。控制器(550)控制如下文所描述的其它功能单元且在功能上耦接到这些单元。为了简洁起见,图中未标示耦接。由控制器设置的参数可包括速率控制相关的参数(图片跳过、量化器、率失真优化技术的λ值等)、图片大小、图片群组(group of pictures,GOP)布局,最大运动矢量搜索范围等。本领域技术人员可以容易地识别控制器(750)的其他功能,因为这些功能可能涉及针对某一***设计优化的视频编码器(503)。
一些视频编码器在本领域技术人员容易认出的“编码环路”中进行操作。作为简单的描述,编码环路可包括编码器(730)的编码部分(下文称为“源编码器”)(负责基于待编码的输入图片和参考图片创建符号)和嵌入于编码器(503)中的(本地)解码器(733)。本地解码器(733)重建符号以创建(远程)解码器也会创建的样本数据(因为在本申请主题所考虑的视频压缩技术中,符号与已编码视频码流之间的任何压缩都是无损的)。将重建的样本流输入到参考图片存储器(734)。由于符号流的解码产生与解码器位置(本地或远程)无关的位精确结果,因此,参考图片缓冲内容在本地编码器与远程编码器之间也是按比特位精确对应的。换句话说,编码器的预测部分“看到”的参考图片样本与解码器将在解码期间使用预测时所“看到”的样本值完全相同。这种参考图片同步性基本原理(以及在例如因信道误差而无法维持同步性的情况下产生的漂移)是本领域技术人员熟知的。
“本地”解码器(733)的操作,可以与例如已在上文结合图6详细描述的“远程”解码器(510)相同。然而,另外简要参考图6,当符号可用且熵编码器(745)和解析器(620)能够无损地将符号编码/解码为已编码视频序列时,包括信道(612)、接收器(610)、缓冲存储器(615)和解析器(620)在内的视频解码器(510)的熵解码部分,可能无法完全在本地解码器(733)中实施。
此时可以观察到,除存在于解码器中的解析/熵解码之外的任何解码器技术,也必定以基本上相同的功能形式存在于对应的编码器中。可简化编码器技术的描述,因为编码器技术与全面地描述的解码器技术互逆。仅在某些区域中需要更详细的描述,并且在下文提供。
在操作期间,源编码器(730)可执行运动补偿预测编码。参考来自视频序列中被指定为“参考帧”的一个或多个先前已编码帧,所述运动补偿预测编码对输入帧进行预测性编码。以此方式,编码引擎(732)对输入帧的像素块与参考帧的像素块之间的差异进行编码,所述参考图片可被选作所述输入帧的预测参考。
本地视频解码器(733)可基于源编码器(730)创建的符号,对可指定为参考帧的帧的已编码视频数据进行解码。编码引擎(732)的操作可为有损过程。当已编码视频数据可在视频解码器(图6中未示)处被解码时,重建的视频序列通常可以是带有一些误差的源视频序列的副本。本地视频解码器(733)复制解码过程,所述解码过程可由视频解码器对参考帧执行,且可使重建的参考帧存储在参考图片缓存(734)中。以此方式,编码器(503)可在本地存储重建的参考帧的副本,所述副本与将由远端视频解码器获得的重建参考帧具有共同内容(不存在传输误差)。
预测器(735)可针对编码引擎(732)执行预测搜索。即,对于将要编码的新帧,预测器(735)可在参考图片存储器(734)中搜索可作为所述新图片的适当预测参考的样本数据(作为候选参考像素块)或某些元数据,例如参考图片运动矢量、块形状等。预测器(735)可基于样本块逐像素块操作,以找到合适的预测参考。在一些情况下,根据预测器(735)获得的搜索结果,可确定输入图片可具有从参考图片存储器(734)中存储的多个参考图片取得的预测参考。
控制器(750)可管理视频编码器(730)的编码操作,包括例如设置用于对视频数据进行编码的参数和子群参数。
可在熵编码器(745)中对所有上述功能单元的输出进行熵编码。熵编码器根据本领域技术人员所知的技术,例如霍夫曼编码、可变长度编码、算术编码等等,对各种功能单元生成的符号进行无损压缩,从而将所述符号转换成已编码视频序列。
传输器(740)可缓冲由熵编码器(745)创建的已编码视频序列,从而将其准备好以通过通信信道(760)进行传输,所述通信信道可以是通向将存储已编码的视频数据的存储装置的硬件/软件链路。传输器(740)可将来自视频编码器(730)的已编码视频数据与要传输的其它数据合并,所述其它数据例如是已编码音频数据和/或辅助数据流(未示出来源)。
控制器(750)可管理编码器(503)的操作。在编码期间,控制器(750)可以为每个已编码图片分配某一已编码图片类型,但这可能影响可应用于相应的图片的编码技术。例如,通常可将图片分配为以下任一种帧类型:
帧内图片(I图片),其可以是不将序列中的任何其它帧用作预测源就可被编码和解码的图片。一些视频编解码器容许不同类型的帧内图片,包括例如独立解码器刷新(Independent Decoder Refresh,“IDR”)图片。所属领域的技术人员了解I图片的变体及其相应的应用和特征。
预测性图片(P图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多一个运动矢量和参考索引来预测每个块的样本值。
双向预测性图片(B图片),其可以是可使用帧内预测或帧间预测进行编码和解码的图片,所述帧内预测或帧间预测使用至多两个运动矢量和参考索引来预测每个块的样本值。类似地,多个预测性图片可使用多于两个参考图片和相关联元数据以用于重建单个块。
源图片通常可在空间上细分成多个样本块(例如,4×4、8×8、4×8或16×16个样本的块),且逐块进行编码。这些块可参考其它(已编码)块进行预测编码,根据应用于块的相应图片的编码分配来确定所述其它块。举例来说,I图片的块可进行非预测编码,或所述块可参考同一图片的已经编码的块来进行非预测编码(空间预测或帧内预测)。P图片的像素块可参考一个先前编码的参考图片通过空间预测或通过时域预测进行预测编码。B图片的块可参考一个或两个先前编码的参考图片通过空间预测或通过时域预测进行非预测编码。
视频编码器(503)可根据例如ITU-T H.265建议书的预定视频编码技术或标准执行编码操作。在操作中,视频编码器(503)可执行各种压缩操作,包括利用输入视频序列中的时间和空间冗余的预测编码操作。因此,已编码视频数据可符合所用视频编码技术或标准指定的语法。
在实施例中,传输器(740)可传输附加数据和已编码的视频。视频编码器(730)可以包括诸如已编码视频序列的一部分的数据。附加数据可包括时间/空间/SNR增强层、冗余图片和切片等其它形式的冗余数据、SEI消息、VUI参数集片段等。
本申请公开的一些实施例允许将任一树结构中(例如,MTT中)的两个或两个以上空间相邻的CU进行级联,使级联的CU成为一个单个的CU,单个的CU可以视作一个规则的CU,并具有规则的CU级语法元素及编码工具。
可以约束CU级联,这样新CU的形状为矩形和/或新CU的大小受可用的变换支持。
在一个实施例中,如果级联的CU大于最大CU大小,则不允许级联。在另一个实施例中,如果对于级联的CU的宽度或高度,无变换适合,则即使级联的CU小于最大CU大小,也不允许级联。例如,两个相邻CU分别为16×16和16×4的CU。这两个CU级联的CU为16×20。如果无20点的变换可用,即使最大CU大小可为128×128,也不允许新级联的CU。
在一个实施例中,如果级联的CU的高度和/或宽度不适合可用变换大小,则可以将该CU划分为两个或两个以上的子块,使得每个子块的高度和宽度适合可用变换大小。如何将CU划分为子块,可以用信号表示或预定义。
在一个实施例中,可以约束CU级联,使得一个CU仅可级联到与当前CU共有相同父CU的CU。
在一个实施例中,可以约束CU级联的方向,使得一个CU仅可级联到其右侧或其底部的CU。
对于一个划分为2个以上子块(例如TT)的块,本申请公开的实施例允许将互不相邻的两个或两个以上的分块进行级联,级联的分块的残差可合为一个块,以用于进一步的处理,包括变换和运动补偿。
在一个实施例中,如果M×N的块划分为3个子块,例如TT,如图8所示,将两个较小的M/4×N(水平中心侧TT)的分块或M×N/4(垂直中心侧TT)的分块合在一起,形成一个M/2×N(水平中心侧TT)的块或M×N/2(垂直中心侧TT)的块。在此情况下,可改变这三个子块的编码/解码次序,例如,首先对级联的两侧子块进行编码/解码,然后是中心子块,或者,首先对中心子块进行编码/解码,然后是两个级联的两侧子块。
在一个实施例中,如果应用两个或两个以上的非相邻子块的级联,当空间相邻的右侧块和底部块的运动信息可用时,还可以用它们进行运动补偿。
在一个实施例中,如果水平中心侧TT的两个较小的M/4×N的子块合为一个M/2×N的子块,且该M/2×N的子块先于TT的中心M/2×N的子块被编码,则在预测中心分割的运动信息时,可以使用其右边的涉及级联的M/4×N的子块的运动信息。
本申请公开的实施例可用信号在码流中表示是否启用或禁用了CU/块级联的特征,例如,在序列参数集(SPS)、图片参数集(PPS)和/或切片头内表示。可在例如SPS、PPS和/或切片头内的码流中,用信号表示允许/不允许不同CU/块级联的组合。
在一个实施例中,在TT之上,可以用CU级联模拟ABT。在此实施例中,在TT分割之上,用提出的CU级联来模拟ABT分割。
假设在进行TT划分后,有三个分块P0、P1和P2,如图9中的左图所示。而对于此块,如右图上方所示的ABT分割更有效。目的是使用CU级联来模拟ABT分割P0’和P1’。
在此实施例中,除了用于TT分块的规则语法元素,还可以用信号表示一个新标志cu_concat_flag,以指示,对于通过TT划分得到的三个CU中的头两个CU,是否将一个CU级联到下一个CU。在上面的示例中,对于P0,cu_concat_flag为“真”(true),因此左图中的P0和P1级联为右图中的P0’,P2变为P1’。结果是,可以用TT和CU级联来模拟ABT分割。
相关的语法表可基于下面的伪码。请注意,在下面的伪码中,不允许对级联的CU进行进一步划分,因为使用了函数coding_unit()。或者,级联的CU可进一步分割。在此情况下,不用coding_unit(),而是使用函数coding_tree_unit。
图10为使用中间候选生成合并候选列表的示例性过程1000的流程图。在一些实施例中,图10中的一个或多个过程框可由解码器510执行。在一些实施方式中,图10中的一个或多个过程框,可由与解码器510分开或包括解码器510的另一设备或一群设备执行,例如编码器503。
在一个实施例中,过程1000可包括,通过将用于对视频序列编码的树结构中的一个父CU,划分为两个CU,包括第一CU和第二CU,并通过将第二个CU级联到第一CU上,生成级联的CU,对所述父CU进行分割。
例如,如图10所示,过程1000可包括,将一个CU划分为多个CU,例如两个以上的CU(框1010)。多个CU可包括第一CU和第二CU。
如图10进一步所示的,过程1000可包括,判断第一CU和第二CU是否具有相同的父CU(框1020)。
如图10进一步所示的,过程1000可包括,如果第一CU和第二CU具有相同的父CU,则通过将第一CU与第二CU进行级联,生成级联的CU(框1030)。
如图10进一步所示的,过程1000可包括,如果第一CU和第二CU不具有相同的父CU,则不生成级联的CU(框1040)。
在一个实施例中,将CU级语法元素或CU级编码工具中的至少一个,应用于级联的CU。
在一个实施例中,第二CU在空间上与第一CU相邻。
在一个实施例中,第二CU位于第一CU的右侧和第一CU的底部中的至少一处。
在一个实施例中,选择第二CU,使得级联的CU的大小小于最大CU大小,并且使得级联的CU的大小适合可用变换大小。
在一个实施例中,如果级联的CU的大小不适合可用变换大小,则可将级联的CU划分为多个子块,其中,多个子块中的每一个子块都适合可用变换大小。
在一个实施例中,树结构包括四叉树二叉树结构、三叉树结构、多类型树结构和非对称二叉树结构中的至少一个。
在一个实施例中,树结构包括三叉树结构,两个以上的CU可以包括第三CU,第三CU可位于第一CU和第二CU之间。第一CU可位于第三CU的左侧,第二CU可位于第三CU的右侧,第一CU的运动信息可以用于第二CU的运动补偿。
在一个实施例中,序列参数集(SPS)、图片参数集(PPS)或切片头中的至少一个包括一个指示,用于指示允许级联。
在一个实施例中,第一CU和第二CU仅能够与从相同父CU划分的其它CU进行级联。
尽管图10示出了过程1000的示例性框,但在一些实施方式中,过程1000可包括附加的框、更少的框、不同的框、或与图10中描绘的那些框的布置不同的框。另外,或可替代地,过程1000中的两个或两个以上的框可并行执行。
进一步地,所提出的方法可由处理电路实现(例如,一个或多个处理器或一个或多个集成电路)。在一个示例中,一个或多个处理器执行存储在非易失性计算机可读介质内的程序,以执行一种或多种所提出的方法。
上述技术可以通过计算机可读指令实施为计算机软件,并且以物理的方式存储在一个或多个计算机可读介质中。例如,图11示出了适于实施本身请主题的某些实施例的计算机***1100。
所述计算机软件可通过任何合适的机器代码或计算机语言进行编码,所述机器代码或计算机语言通过汇编、编译、链接等机制创建包括指令的代码,所述指令可由计算机中央处理单元(central processing unit,CPU)、图形处理单元(Graphics ProcessingUnit,GPU)等直接执行,或通过译码、微代码等方式执行。
所述指令可以在各种类型的计算机或计算机组件上执行,包括例如个人计算机、平板电脑、服务器、智能手机、游戏设备、物联网设备等。
图11中所示的用于计算机***1100的组件本质上是示例性的,并非旨在暗示对实施本申请实施例的计算机软件的使用范围或功能有任何限制。所述组件的配置也不应该解释为对计算机***1100的示例性实施例中所示的组件中的任意一个组件或组件的组合有任何依赖或要求。
计算机***1100可以包括某些人机接口输入设备。所述人机接口输入设备可以响应于一个或多个人类用户通过例如触觉输入(例如:按键、滑动、数据手套的移动)、音频输入(例如:声音、拍掌)、视觉输入(例如:手势)、嗅觉输入(未示出)进行的输入。所述人机接口设备还可用于采集未必与人的有意识输入直接相关的某些媒体,例如音频(例如:语音、音乐、环境声)、图像(例如:扫描图像、从静止图像相机获得的摄影图像)、视频(例如二维视频、包括立体视频的三维视频)。
人机接口输入设备可以包括以下一个或多个(每种仅描绘一个):键盘1101、鼠标1102、触控板1103、触摸屏1110、数据手套1104、操纵杆1105、麦克风1106、扫描仪1107、摄像头1108。
所述计算机***1100还可包括某些人机接口输出设备。所述人机接口输出设备可以通过例如触觉输出、声音、光和气味/味道来刺激一个或多个人工用户的感觉。所述人机接口输出设备可包括触觉输出设备(例如,通过触摸屏1110、数据手套1104或操纵杆1105的触觉反馈,但还可以存在不充当输入设备的触觉反馈设备)、音频输出设备(例如:扬声器1109、头戴式耳机(未示出))、视觉输出设备(例如,屏幕1110,包括阴极射线管(cathoderay tube,CRT)屏幕、液晶显示(liquid-crystal display,LCD)屏幕、等离子体屏幕、有机发光二极管(organic light-emitting diode,OLED)屏幕,其中,每个设备具有或不具有触摸屏输入功能,具有或不具有触觉反馈能力--其中的一些能够通过例如立体平画输出的方式输出二维视觉输出或三维以上的输出;虚拟现实眼镜(未示出)、全息显示器和烟雾箱(未示出))以及打印机(未示出)。
计算机***1100还可以包括人类可访问的存储设备和与存储设备相关联的介质,例如包括CD/DVD ROM/RW1120以及CD/DVD等介质1121的光学介质、拇指驱动器1122、可移除硬盘驱动器或固态驱动器1123、磁带和软盘(未示出)等传统磁介质、如安全软件保护器(未示出)等的基于ROM/ASIC/PLD的专用设备,等等。
本领域技术人员还应当理解,结合本申请的主题使用的术语“计算机可读介质”不包括传输介质、载波或其他易失性信号。
计算机***1100还可包括到一个或多个通信网络的接口。网络例如可以是无线的、有线的、光学的。网络还可为局域的、广域的、城域的、车载的和工业的、实时的、容忍延迟的等等。网络还包括以太网、无线局域网等局域网、蜂窝网络(包括全球移动通讯***(GSM)、第三代(3G)、***(4G)、第五代(5G)、长期演进(LTE)等)、电视有线或无线广域数字网络(包括有线电视、***、和地面广播电视)、车载网络和工业网络(包括控制器局域网络总线(CANBus))等等。某些网络通常需要连接到某些通用数据端口或***总线1149(例如,计算机***1100的通用串行总线(USB)端口)的外部网络接口适配器;另一些网络通常通过连接到如下文所描述的***总线的方式,集成到计算机***1100的核心中(例如,以太网接口到PC计算机***或蜂窝网络接口进入到智能手机计算机***)中。通过使用这些网络中的任意网络,计算机***1100可以与其他实体进行通信。所述通信可以是单向的,仅单向接收(例如,无线电视),仅单向发送(例如,连接到某些CAN总线设备的CAN总线),或者是双向的,例如,通过局域数字网络或广域数字网络连接到其他计算机***。上述的每个网络和网络接口可使用某些协议和协议栈。
上述的人机接口设备、人类可访问存储设备和网络接口可以连接到计算机***1100的核心1140。
核心1140可包括一个或多个中央处理单元(CPU)1141、图形处理单元(GPU)1142、现场可编程门阵列(FPGA)1143形式的专用可编程处理单元、用于特定任务的硬件加速器1144等。上述设备以及只读存储器(ROM)1145、随机存取存储器1146、内部大容量存储器(例如内部非用户可存取硬盘驱动器、固态硬盘等)1147等可通过***总线1148进行连接。在某些计算机***中,可以以一个或多个物理插头的形式访问***总线1148,以便通过额外的中央处理单元、图形处理单元等进行扩展。***设备可以直接连接到核心的***总线1148,也可以通过***总线1149进行连接。***总线的体系结构包括外部控制器接口(PCI)、通用串行总线(USB)等。
CPU1141、GPU1142、FPGA1143和加速器1144可用于执行某些指令,所述指令组合起来可以构成上述计算机代码。所述计算机代码可以存储在ROM1145或RAM1146中。过渡性数据也可存储在RAM1146中,而永久性数据可以存储在内部大容量存储器1147中。通过高速缓存可实现对任何内存设备的快速存储和检索,高速缓存可与一个或多个CPU1141、GPU1142、大容量存储器1147、ROM1145、RAM1146等紧密关联。
所述计算机可读介质上可具有用于执行各种计算机实现操作的计算机代码。介质和计算机代码可以是为本申请的目的而特别设计和构造的,也可以是计算机软件领域的技术人员所熟知和可用的介质和代码。
作为示例而非限制,具有架构的计算机***,特别是核心1140,可以作为处理器(包括CPU、GPU、FPGA、加速器等)提供功能,执行包含在一个或多个有形的、计算机可读介质中的软件。如前文所述,所述计算机可读介质可以是与用户可访问的大容量存储器相关的介质,以及具有核心1140的非易失性特定存储器,如核心内部大容量存储器1147或ROM1145。实施本申请各种实施例的软件可存储在所述设备中,并由核心1140执行。根据特定需要,计算机可读介质可以包括一个或多个存储器设备或芯片。软件可以使核心1140,具体而言,是使其中的处理器(包括CPU、GPU、FPGA等等),执行本文中所描述的特定过程或特定过程的特定部分,包括根据软件限定的过程,限定存储在RAM1146中的数据结构,以及修改此类数据结构。另外或作为替代方案,计算机***可以提供由硬接线的或以其他方式体现于电路(例如:加速器1144)中的逻辑所产生的功能,所述逻辑可代替或连同软件一起操作以执行本文描述的特定过程或特定过程的特定部分。合适时,对软件的引用可以涵盖逻辑,且反之亦然。合适时,对计算机可读介质的引用可以涵盖存储用于执行的软件的电路(例如,集成电路(IC))、体现用于执行的逻辑的电路或这两种电路。本申请涵盖硬件与软件的任何合适的组合。
尽管本申请描述了若干示范性实施例,但在本申请的范围内,可以有各种改动、排列组合方式以及各种替代等同物。因此,应该理解,在申请的精神和范围内,本领域技术人员能够设计出各种虽未在本文明确示出或描述、但可以体现本申请的原理的***和方法。
Claims (20)
1.一种用于对视频序列编码的树结构中的父编码单元(CU)进行分割的方法,所述方法包括:
将所述父CU划分为两个以上的CU,包括第一CU和第二CU;
通过将所述第二CU级联到所述第一CU,生成级联的CU。
2.根据权利要求1所述的方法,其中,将CU级语法元素和CU级编码工具中的至少一个,应用于所述级联的CU。
3.根据权利要求1所述的方法,其中,所述第二CU在空间上与所述第一CU相邻。
4.根据权利要求3所述的方法,其中,所述第二CU位于所述第一CU的右侧和所述第一CU的底部中的至少一处。
5.根据权利要求1所述的方法,其中,选择所述第二CU,使得所述级联的CU的大小小于最大CU大小,并且使得所述级联的CU的大小适合可用变换大小。
6.根据权利要求1所述的方法,其中,如果所述级联的CU的大小不适合可用变换大小,那么所述方法进一步包括:将所述级联的CU划分为多个子块,其中,所述多个子块中的每一个子块都适合所述可用变换大小。
7.根据权利要求1所述的方法,其中,所述树结构包括四叉树二叉树结构、三叉树结构、多类型树结构和非对称二叉树结构中的至少一个。
8.根据权利要求1所述的方法,其中,所述树结构包括三叉树结构,
其中,所述两个以上的CU包括第三CU,
其中,所述第三CU位于所述第一CU和所述第二CU之间。
9.根据权利要求8所述的方法,其中,所述第一CU位于所述第三CU的左侧,所述第二CU位于所述第三CU的右侧,所述第一CU的运动信息用于所述第二CU的运动补偿。
10.根据权利要求1所述的方法,其中,序列参数集(SPS)、图像参数集(PPS)或切片头中的至少一个包括一个指示,用于指示允许级联。
11.根据权利要求1所述的方法,其中,所述第一CU和所述第二CU仅能够与从所述父CU划分的其它CU级联。
12.一种用于对视频序列编码的树结构中的父编码单元(CU)进行分割的设备,所述设备包括:
至少一个存储器,用于存储程序代码;
至少一个处理器,用于读取所述程序代码,并且按所述程序代码的指示进行操作,所述程序代码包括:
划分代码,用于使所述至少一个处理器将所述父CU划分为两个以上的CU,包括第一CU和第二CU;
生成代码,用于使所述至少一个处理器通过将所述第二CU级联到所述第一CU,生成级联的CU。
13.根据权利要求12所述的设备,其中,将CU级语法元素和CU级编码工具中的至少一个,应用于所述级联的CU。
14.根据权利要求12所述的设备,其中,所述第二CU在空间上与所述第一CU相邻。
15.根据权利要求14所述的设备,其中,所述第二CU位于所述第一CU的右侧和所述第一CU的底部中的至少一处。
16.根据权利要求12所述的设备,其中,选择所述第二CU,使得所述级联的CU的大小小于最大CU大小,并且使得所述级联的CU的大小适合可用变换大小。
17.根据权利要求12所述的设备,其中,如果所述级联的CU的大小不适合可用变换大小,那么所述分割代码用于使所述至少一个处理器:将所述级联的CU划分为多个子块,其中,所述多个子块中的每一个子块都适合所述可用变换大小。
18.根据权利要求12所述的设备,其中,所述树结构包括四叉树二叉树结构、三叉树结构、多类型树结构和非对称二叉树结构中的至少一个。
19.根据权利要求12所述的设备,其中,序列参数集(SPS)、图像参数集(PPS)或切片头中的至少一个包括一个指示,用于指示允许级联。
20.一种非易失性计算机可读介质,存储有指令,所述指令包括:一个或多个指令,该一个或多个指令,当由一种用于对视频序列编码的树结构中的父编码单元(CU)进行分割的设备的一个或多个处理器执行时,使所述一个或多个处理器:
将所述父CU划分为两个以上的CU,包括第一CU和第二CU;
通过将所述第二CU级联到所述第一CU,生成级联的CU。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862651566P | 2018-04-02 | 2018-04-02 | |
US62/651,566 | 2018-04-02 | ||
US16/232,752 | 2018-12-26 | ||
US16/232,752 US10659781B2 (en) | 2018-04-02 | 2018-12-26 | Concatenated coding units in flexible tree structure |
PCT/US2019/023993 WO2019195026A1 (en) | 2018-04-02 | 2019-03-26 | Concatenated coding units in flexible tree structure |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110622509A true CN110622509A (zh) | 2019-12-27 |
CN110622509B CN110622509B (zh) | 2022-07-01 |
Family
ID=68055809
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980002346.6A Active CN110622509B (zh) | 2018-04-02 | 2019-03-26 | 用于对编码单元进行分割的方法及装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10659781B2 (zh) |
EP (1) | EP3777149A4 (zh) |
JP (1) | JP7061202B2 (zh) |
KR (1) | KR102456831B1 (zh) |
CN (1) | CN110622509B (zh) |
WO (1) | WO2019195026A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10812797B2 (en) * | 2018-02-05 | 2020-10-20 | Tencent America LLC | Method, apparatus and medium for decoding or encoding using a low-complexity transform |
US11589044B2 (en) | 2019-10-14 | 2023-02-21 | Hfi Innovation Inc. | Video encoding and decoding with ternary-tree block partitioning |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030059118A1 (en) * | 2001-09-27 | 2003-03-27 | Kabushiki Kaisha Toshiba | System for decoding packed coded image data while depacking same |
CN102893608A (zh) * | 2010-04-13 | 2013-01-23 | 弗兰霍菲尔运输应用研究公司 | 使用次分割的二维信息信号的空间取样的编码 |
CN104469376A (zh) * | 2011-12-19 | 2015-03-25 | 索尼公司 | 图像处理设备和方法 |
CN104641647A (zh) * | 2012-04-13 | 2015-05-20 | 弗兰霍菲尔运输应用研究公司 | 低延迟图像写码 |
US20170347128A1 (en) * | 2016-05-25 | 2017-11-30 | Arris Enterprises Llc | Binary ternary quad tree partitioning for jvet |
CA3037685A1 (en) * | 2016-09-20 | 2018-03-29 | Bae Keun Lee | Method and apparatus for processing video signal |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
PL3962088T3 (pl) * | 2010-11-04 | 2023-11-27 | Ge Video Compression, Llc | Kodowanie obrazu wspomagające scalanie bloków i tryb przeskoku |
-
2018
- 2018-12-26 US US16/232,752 patent/US10659781B2/en active Active
-
2019
- 2019-03-26 EP EP19781022.9A patent/EP3777149A4/en active Pending
- 2019-03-26 KR KR1020207027736A patent/KR102456831B1/ko active IP Right Grant
- 2019-03-26 WO PCT/US2019/023993 patent/WO2019195026A1/en unknown
- 2019-03-26 CN CN201980002346.6A patent/CN110622509B/zh active Active
- 2019-03-26 JP JP2020550637A patent/JP7061202B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030059118A1 (en) * | 2001-09-27 | 2003-03-27 | Kabushiki Kaisha Toshiba | System for decoding packed coded image data while depacking same |
CN102893608A (zh) * | 2010-04-13 | 2013-01-23 | 弗兰霍菲尔运输应用研究公司 | 使用次分割的二维信息信号的空间取样的编码 |
CN104469376A (zh) * | 2011-12-19 | 2015-03-25 | 索尼公司 | 图像处理设备和方法 |
CN104641647A (zh) * | 2012-04-13 | 2015-05-20 | 弗兰霍菲尔运输应用研究公司 | 低延迟图像写码 |
US20170347128A1 (en) * | 2016-05-25 | 2017-11-30 | Arris Enterprises Llc | Binary ternary quad tree partitioning for jvet |
CA3037685A1 (en) * | 2016-09-20 | 2018-03-29 | Bae Keun Lee | Method and apparatus for processing video signal |
Also Published As
Publication number | Publication date |
---|---|
KR20200124275A (ko) | 2020-11-02 |
WO2019195026A1 (en) | 2019-10-10 |
CN110622509B (zh) | 2022-07-01 |
EP3777149A4 (en) | 2021-05-19 |
US20190306505A1 (en) | 2019-10-03 |
JP7061202B2 (ja) | 2022-04-27 |
JP2021516915A (ja) | 2021-07-08 |
KR102456831B1 (ko) | 2022-10-21 |
US10659781B2 (en) | 2020-05-19 |
EP3777149A1 (en) | 2021-02-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102545299B1 (ko) | 비디오 디코딩을 위한 방법 및 장치 | |
JP7339389B2 (ja) | ビデオ圧縮における複数ラインのフレーム内予測のための方法および装置 | |
CN110708553B (zh) | 视频解码方法、解码器、计算机设备和存储装置 | |
JP2021518088A (ja) | 小ブロックの予測と変換のための方法、装置、及びプログラム | |
JP7244694B2 (ja) | 柔軟なツリー構造を提供する方法、装置およびプログラム | |
CN113875242A (zh) | 支持各种色度格式的视频编解码工具的信令 | |
CN113826384A (zh) | 对视频进行编码或解码的方法和装置 | |
CN113228649B (zh) | 视频解码方法、装置以及存储介质 | |
CN113424546A (zh) | 用于预测模式和已编码块标志(cbf)的进一步改进的上下文设计的方法和装置 | |
CN112005549B (zh) | 一种帧内-帧间预测控制方法、装置、设备及存储介质 | |
CN112514385B (zh) | 视频解码方法及装置、计算机设备和计算机可读介质 | |
CN113711586A (zh) | 简化的最可能模式列表生成方案 | |
JP2022515799A (ja) | ビデオ復号の方法および装置、並びにプログラム | |
CN112235573B (zh) | 视频编解码的方法、装置、电子设备、存储介质 | |
CN110719462A (zh) | 视频解码的方法和装置 | |
CN110622509B (zh) | 用于对编码单元进行分割的方法及装置 | |
CN112135151B (zh) | 视频解码方法、***、计算机设备和存储介质 | |
CN114073084A (zh) | 在视频码流中有效发信号通知图片大小和分区信息的方法和装置 | |
CN113728652A (zh) | 视频编解码方法和装置 | |
CN115176461A (zh) | 视频编解码的方法和装置 | |
CN110324616B (zh) | 用于基于运动场的树拆分的方法和设备 | |
JP7439344B2 (ja) | ビデオデコーディングのための方法、デバイス、およびコンピュータプログラム | |
JP2024518007A (ja) | 非インターリーブ分離ツリー | |
CN115804089A (zh) | 零残差标志编解码 | |
CN113785495A (zh) | 灵活的图片分割 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |