CN112640454A - 用于视频译码的参数化量化噪声感知的双边滤波器 - Google Patents
用于视频译码的参数化量化噪声感知的双边滤波器 Download PDFInfo
- Publication number
- CN112640454A CN112640454A CN201980055797.6A CN201980055797A CN112640454A CN 112640454 A CN112640454 A CN 112640454A CN 201980055797 A CN201980055797 A CN 201980055797A CN 112640454 A CN112640454 A CN 112640454A
- Authority
- CN
- China
- Prior art keywords
- video
- video data
- transform block
- block
- coding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002146 bilateral effect Effects 0.000 title claims abstract description 68
- 238000013139 quantization Methods 0.000 title claims description 53
- 230000008447 perception Effects 0.000 title description 2
- 238000000034 method Methods 0.000 claims abstract description 87
- 230000006870 function Effects 0.000 claims description 109
- 230000015654 memory Effects 0.000 claims description 62
- 238000003860 storage Methods 0.000 claims description 17
- 239000000872 buffer Substances 0.000 claims description 6
- 238000001914 filtration Methods 0.000 description 55
- 238000012545 processing Methods 0.000 description 47
- 230000008569 process Effects 0.000 description 34
- 238000005192 partition Methods 0.000 description 27
- 239000013598 vector Substances 0.000 description 22
- 238000000638 solvent extraction Methods 0.000 description 21
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 20
- 241000023320 Luma <angiosperm> Species 0.000 description 19
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 19
- 238000009795 derivation Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 230000005540 biological transmission Effects 0.000 description 8
- 238000013500 data storage Methods 0.000 description 7
- 230000011664 signaling Effects 0.000 description 7
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 6
- 230000003044 adaptive effect Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 230000001419 dependent effect Effects 0.000 description 4
- 238000012805 post-processing Methods 0.000 description 4
- 230000000903 blocking effect Effects 0.000 description 3
- 238000012886 linear function Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- VBRBNWWNRIMAII-WYMLVPIESA-N 3-[(e)-5-(4-ethylphenoxy)-3-methylpent-3-enyl]-2,2-dimethyloxirane Chemical compound C1=CC(CC)=CC=C1OC\C=C(/C)CCC1C(C)(C)O1 VBRBNWWNRIMAII-WYMLVPIESA-N 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000012432 intermediate storage Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/117—Filters, e.g. for pre-processing or post-processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/14—Coding unit complexity, e.g. amount of activity or edge presence estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
- H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/167—Position within a video image, e.g. region of interest [ROI]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
- H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/96—Tree coding, e.g. quad-tree coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
实施例包括用于对视频数据进行编码和解码的***、方法和设备。例如,视频编码器或解码器可以被配置为将双边滤波器应用于重构的变换块的样本。可以将双边滤波器定义为用于生成滤波器权重的分段可参数化函数。
Description
优先权要求
本专利申请要求享受2019年8月30日提交的美国非临时申请No.16/557,471的优先权,上述美国非临时申请要求享受2018年9月3日提交的美国临时申请No.62/726,380、2018年9月5日提交的美国临时申请No.62/727,487和2018年9月17日提交的美国临时申请No.62/732,471的权益,故以引用方式将这些申请中的每一份申请的全部内容并入本文。
技术领域
本公开内容涉及视频编码和视频解码。
背景技术
数字视频能力可以并入到各种各样的设备中,这些设备包括数字电视、数字直接广播***、无线广播***、个人数字助理(PDA)、膝上型计算机或桌面型计算机、平板计算机、电子书读取器、数码相机、数字记录装置、数字媒体播放器、视频游戏设备、视频游戏控制台、蜂窝或卫星无线电话、所谓的“智能电话”、视频电话会议设备、视频流设备等等。数字视频设备实现视频译码技术,例如,由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4第10部分、高级视频译码(AVC)、ITU-T H.265/高效率视频译码(HEVC)所规定的标准、以及这些标准的扩展里所描述的那些技术。视频设备可以通过实现这些视频译码技术,发送、接收、编码、解码和/或存储数字视频信息。
视频译码技术包括空间(帧内)预测和/或时间(帧间)预测以减少或消除视频序列中固有的冗余。对于基于块的视频译码,可以将视频片段(例如,视频图片或视频图片的一部分)划分为视频块,视频块还可以称为译码树单元(CTU)、译码单元(CU)和/或译码节点。使用相对于同一图片中相邻块中的参考样本的空间预测,对图片的帧内译码(I)片段中的视频块进行编码。图片的帧间译码(P或B)片段中的视频块可以使用相对于同一图片中相邻块中的参考样本的空间预测,或者使用相对于其它参考图片中的参考样本的时间预测。图片可以称为帧,而参考图片可以称为参考帧。
发明内容
通常,本公开内容描述了用于定义滤波器以对图片(其包括诸如视频中的图片序列)进行滤波的技术。例如,视频编码器或解码器可以被配置为将双边滤波器应用于重构的变换块的样本。可以将双边滤波器定义为用于生成滤波器权重的分段可参数化的函数,其相对于其它实施方式降低了存储成本。在一些实施例中,可以基于量化参数和译码模式,对该函数进行参数化。可以使用存储在设备上的一个或多个枢轴点来实现该函数。实施例包括用于在后处理阶段中使用、用于在循环译码中使用、或者用于在预测阶段中滤波的滤波器。它可以应用于任何现有的视频编解码器,也可以作为高效的译码工具包含在任何未来的视频译码标准中。
一个实施例包括一种对视频数据进行译码的方法。该方法包括:重构所述视频数据的变换块;以及使用一个或多个相邻样本,向所述变换块的样本应用双边滤波器。应用所述滤波器包括对于所述一个或多个相邻样本中的每个样本进行以下操作:确定所述样本与所述一个或多个相邻样本中的每个相邻样本之间的差值;基于将所述差值算术右移预定数量的位数,来确定多个值范围中的一个值范围;基于所述多个值范围中的所述一个值范围,确定多个加权参数中的一个加权参数;基于所确定的加权参数、与所述变换块相关联的量化参数、以及与所述变换块相关联的译码模式,来生成权重。该方法还包括:基于为所述一个或多个相邻样本中的每个相邻样本生成的所述权重,将所述双边滤波器应用于所述样本。
另一个实施例包括一种对视频数据进行译码的设备。该设备包括被配置为存储视频数据的存储器、以及在电路中实现的一个或多个处理器,所述一个或多个处理器被配置为:重构所述视频数据的变换块;以及使用一个或多个相邻样本,向所述变换块的样本应用双边滤波器。对于所述一个或多个相邻样本中的每个样本,所述一个或多个处理器进一步被配置为:确定所述样本与所述一个或多个相邻样本中的每个相邻样本之间的差值;基于将所述差值算术右移预定数量的位数,来确定多个值范围中的一个值范围;基于所述多个值范围中的所述一个值范围,确定多个加权参数中的一个加权参数;基于所确定的加权参数、与所述变换块相关联的量化参数、以及与所述变换块相关联的译码模式,来生成权重;基于为所述一个或多个相邻样本中的每个相邻样本生成的所述权重,将所述双边滤波器应用于所述样本。
另一个实施例包括一种对视频数据进行译码的设备。该设备包括:用于存储视频数据的单元和用于处理所述视频数据的单元。用于处理所述视频数据的单元包括:用于重构所述视频数据的变换块的单元;用于使用一个或多个相邻样本,向所述变换块的样本应用双边滤波器的单元。用于应用所述双边滤波器的单元还包括:用于确定所述样本与所述一个或多个相邻样本中的每个相邻样本之间的差值的单元;用于基于将所述差值算术右移预定数量的位数,来确定多个值范围中的一个值范围的单元;用于基于所述多个值范围中的所述一个值范围,确定多个加权参数中的一个加权参数的单元;用于基于所确定的加权参数、与所述变换块相关联的量化参数、以及与所述变换块相关联的译码模式,来生成权重的单元;用于基于为所述一个或多个相邻样本中的每个相邻样本生成的所述权重,将所述双边滤波器应用于所述样本的单元。
附图说明
图1是示出可以执行本公开内容的技术的示例性视频编码和解码***的框图。
图2A和图2B是示出示例性四叉树二叉树(QTBT)结构和相应的译码树单元(CTU)的概念图。
图3是示出可以执行本公开内容的技术的示例性视频编码器的框图。
图4是示出可以执行本公开内容的技术的示例性视频解码器的框图。
图5是示出在双边滤波处理中利用的变换单元的样本及其邻近的四个样本的概念图。
图6是示出包括有在双边滤波处理中使用的样本及其邻近的四个样本的变换的图。
图7是示出滤波器权重函数的例子的图。
图8是示出块内量化误差的方差的示例性空间分布的表面图。
图9是分段线性函数和参考函数的例子的图形图示。
具体实施方式
诸如HEVC之类的现有视频编解码器使用各种滤波器作为译码工具的一部分。HEVC还包括解块滤波器和一种称为样本自适应偏移(SAO)的技术。SAO的概念是通过以下方式来减少区域的平均样本失真:首先使用选定的分类器将区域样本分类为多个类别,获得每个类别的偏移,然后将偏移添加到该类别的每个样本,其中在比特流中对分类器索引和区域的偏移进行编码。在HEVC中,将区域(用于SAO参数信令的单元)定义为译码树单元(CTU)。
为了避免对边缘中的像素进行非期望的过度平滑,提出了可以用作循环编码工具的双边滤波。如下面进一步描述的,双边滤波使用相邻样本的加权,该加权考虑像素值本身以对具有相似亮度或色度值的那些像素加权更多。如下面还要进一步指出的,现有的双边滤波技术具有高存储要求,并且没有利用关于块的先验信息。
本文所描述的实施例可以包括双边滤波器的加权函数w(x),其由限定的有限参数集{Si}(比查询表(LUT)定义实现方式的长度少的参数数量)以及将这些参数转换为LUT条目的推导过程来定义。在一些实施例中,通过与样本k的空间位置(在当前块内的空间位置)相关联的可靠性成本Reliabilityk(x),来调整与第k个相邻样本相关联的加权函数w(x)。在首先为这些示例引入更多上下文之后,本文公开了许多示例。
图1是示出可以执行本公开内容的技术的示例性视频编码和解码***100的框图。本公开内容的技术通常针对于视频数据的译码(编码和/或解码)。通常,视频数据包括用于处理视频的任何数据。因此,视频数据可以包括原始的、未译码的视频、编码的视频、解码的(例如,重构的)视频以及视频元数据(例如,信令数据)。
如图1中所示,在该例子中,***100包括源设备102,其提供要由目的地设备116进行解码和显示的经编码的视频数据。具体而言,源设备102经由计算机可读介质110,将视频数据提供给目的地设备116。源设备102和目的地设备116可以包括广泛的设备中的任何设备,其包括桌面型计算机、笔记本(即,膝上型)计算机、平板计算机、机顶盒、电话手持装置(例如,智能手机)、电视、照相机、显示设备、数字媒体播放器、视频游戏机、视频流设备等等。在一些情况下,源设备102和目的地设备116可以被配备用于无线通信,因此可以称为无线通信设备。
在图1的例子中,源设备102包括视频源104、存储器106、视频编码器200和输出接口108。目的地设备116包括输入接口122、视频解码器300、存储器120和显示设备118。根据本公开内容,源设备102的视频编码器200和目的地设备116的视频解码器300可以被配置为应用用于使用如本文所公开的双边滤波进行视频译码的技术。因此,源设备102表示视频编码设备的例子,而目的地设备116表示视频解码设备的例子。在其它例子中,源设备和目的地设备可以包括其它组件或布置。例如,源设备102可以从诸如外部照相机之类的外部视频源接收视频数据。同样,目的地设备116可以与外部显示设备对接,而不是包括集成显示设备。
如图1中所示的***100仅仅是一个例子。通常,任何数字视频编码和/或解码设备都可以执行用于使用如本文所公开的双边滤波进行视频译码的技术。源设备102和目的地设备116仅仅是这样的译码设备的例子,其中,源设备102生成用于向目的地设备116传输的经编码的视频数据。本公开内容将“编码”设备称为执行数据的编码(编码和/或解码)的设备。因此,视频编码器200和视频解码器300分别表示编码设备(具体而言,视频编码器和视频解码器)的例子。在一些例子中,设备102、116可以以基本上对称的方式操作,使得设备102、116中的每一个包括视频编码和解码组件。因此,***100可以支持视频设备102、116之间的单向或双向视频传输,例如,用于视频流传输、视频回放、视频广播或视频电话。
通常,视频源104代表视频数据(即,原始的、未译码的视频数据)的源,并将视频数据的图片的连续序列(也称为“帧”)提供给视频编码器200,其中视频编码器200对图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备(例如,摄像机)、包含先前捕获的原始视频的视频档案和/或用于从视频内容提供商接收视频的视频馈送接口。作为另一替代方案,视频源104可以生成基于计算机图形的数据作为源视频、或者实时视频、存档视频和计算机生成的视频的组合。在每种情况下,视频编码器200对捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图像从接收到的顺序(有时称为“显示顺序”)重新排列为用于译码的译码顺序。视频编码器200可以生成包括有编码的视频数据的比特流。然后,源设备102可以经由输出接口108将编码的视频数据输出到计算机可读介质110上,以通过例如目的地设备116的输入接口122进行接收和/或检索。
源设备102的存储器106和目的地设备116的存储器120代表通用存储器。在一些例子中,存储器106、120可以存储原始视频数据,例如,来自视频源104的原始视频和来自视频解码器300的原始解码的视频数据。另外地或替代地,存储器106、120可以存储可由例如视频编码器200和视频解码器300分别执行的软件指令。尽管在该例子中,将存储器106、120与视频编码器200和视频解码器300分开地示出,但应当理解,视频编码器200和视频解码器300还可以包括内部存储器,以实现功能上相似或等效的目的。此外,存储器106、120可以存储编码的视频数据(例如,从视频编码器200输出并输入到视频解码器300的数据)。在一些例子中,可以将存储器106、120的一部分分配为一个或多个视频缓冲器,例如,用于存储原始的、解码和/或编码的视频数据。
计算机可读介质110可以代表能够将编码的视频数据从源设备102传输到目的地设备116的任何类型的介质或设备。在一个例子中,计算机可读介质110代表用于使源设备102能够实时地例如经由射频网络或基于计算机的网络将编码的视频数据直接发送到目的地设备116的通信介质。输出接口108可以根据诸如无线通信协议之类的通信标准,来调制包括编码的视频数据的传输信号,并且输入接口122可以对接收到的传输信号进行调制。通信介质可以包括任何无线或有线通信介质,例如射频(RF)频谱或一条或多条物理传输线。通信介质可以形成诸如局域网、广域网或全球网络(例如,互联网)的基于分组的网络的一部分。通信介质可以包括路由器、交换机、基站或者有助于从源设备102到目的地设备116的通信的任何其它设备。
在一些例子中,源设备102可以将编码的数据从输出接口108输出到存储设备116。类似地,目的地设备116可以经由输入接口122,从存储设备116访问编码的数据。存储设备116可以包括多种分布式或本地访问的数据存储介质(例如,硬盘驱动器、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器)或者用于存储编码的视频数据的任何其它适当的数字存储介质中的任何一种。
在一些例子中,源设备102可以将编码的视频数据输出到文件服务器114或可以存储源设备102所生成的编码的视频的另一个中间存储设备。目的地设备116可以经由流传输或下载,从文件服务器114访问所存储的视频数据。文件服务器114可以是能够存储编码的视频数据并将该编码的视频数据发送到目的地设备116的任何类型的服务器设备。文件服务器114可以代表网络服务器(例如,用于网站)、文件传输协议(FTP)服务器、内容交付网络设备或网络附加存储(NAS)设备。目的地设备116可以通过包括互连网连接的任何标准数据连接,从文件服务器114访问编码的视频数据。这可以包括适合于访问已存储在文件服务器114上的编码视频数据的无线信道(例如,Wi-Fi连接)、有线连接(例如,DSL、电缆调制解调器等等)或二者的组合。文件服务器114和输入接口122可以被配置为根据流传输协议、下载传输协议或者其组合来操作。
输出接口108和输入接口122可以代表无线发射器/接收器、调制解调器、有线网络组件(例如,以太网卡)、根据各种IEEE 802.11标准中的任何一种进行操作的无线通信组件、或者其它物理组件。在其中输出接口108和输入接口122包括无线组件的例子中,输出接口108和输入接口122可以被配置为根据诸如4G、4G-LTE(长期演进)、高级LTE、5G等等之类的蜂窝通信标准,来传输诸如编码的视频数据之类的数据。在输出接口108包括无线发射器的一些例子中,输出接口108和输入接口122可以被配置为根据其它无线标准(例如,IEEE802.11规范、IEEE 802.15规范(例如,ZigBeeTM)、BluetoothTM标准等等),来传输诸如编码的视频数据之类的数据。在一些例子中,源设备102和/或目的地设备116可以包括各自的片上***(SoC)设备。例如,源设备102可以包括SoC设备以执行归属于视频编码器200和/或输出接口108的功能,而目的地设备116可以包括SoC设备以执行归属于视频解码器300和/或输入接口122的功能。
本公开内容的技术可以应用于支持各种多媒体应用中的任何一种的视频编码,这些多媒体应用诸如为空中电视广播、有线电视传输、***传输、互联网流视频传输(如,基于HTTP的动态自适应流媒体(DASH)、编码到数据存储介质上的数字视频),对存储在数据存储介质上的数字视频的解码、或者其它应用。
目的地设备116的输入接口122从计算机可读介质110(例如,存储设备112、文件服务器114等等)接收编码的视频比特流。编码的视频比特流计算机可读介质110可以包括由视频编码器200定义的而且由视频解码器300使用的信令信息,例如,具有描述视频块或其它译码单元(例如,片段、图片、图片组、序列等等)的特性和处理的值的语法元素。显示设备118向用户显示解码的视频数据的解码图片。显示设备118可以代表多种显示设备中的任何一种,例如阴极射线管(CRT)、液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器、或者另一种类型的显示设备。
虽然没有在图1中示出,但在一些例子中,视频编码器200和视频解码器300可以分别与音频编码器和/或音频解码器集成在一起,并且可以包括适当的MUX-DEMUX单元或者其它硬件和/或软件,以处理包括共同数据流中的音频和视频两者的复用流。如果适用的话,MUX-DEMUX单元可以符合ITU H.223多路复用器协议或其它协议(例如,用户数据报协议(UDP))。
视频编码器200和视频解码器300各自可以实现为多种适当的编码器和/或解码器电路中的任何一种,例如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑、软件、硬件、固件或者其任意组合。当部分地以软件实现这些技术时,设备可以将用于软件的指令存储在适当的非临时性计算机可读介质中,并使用一个或多个处理器以硬件方式执行这些指令以执行本公开内容的技术。视频编码器200和视频解码器300中的每一个可以被包括在一个或多个编码器或解码器中,编码器或解码器中的任何一个可以集成为相应设备中的组合编码器/解码器(CODEC)的一部分。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器和/或无线通信设备(例如,蜂窝电话)。
视频编码器200和视频解码器300可以根据诸如ITU-T H.265之类的视频编码标准(也称为高效视频编码(HEVC))或者其扩展(例如,多视图和/或可扩展的视频编码扩展)进行操作。替代地,视频编码器200和视频解码器300可以根据诸如联合探索测试模型(JEM)或ITU-T H.266(也称为通用视频编码(VVC))之类的其它专有或工业标准来操作。Bross等人在以下文献中描述了VVC标准的最近草案:ITU-T SG 16WP 3的联合视频专家组(JVET)“通用视频编码(草案3)”,以及2018年10月3日至12日,ISO/IEC JTC 1/SC 29/WG 11在中国澳门的第12次会议的JVET-L1001-v9(以下简称“VVC草案3”)。然而,本公开内容的技术并不限于任何特定的编码标准。
通常,视频编码器200和视频解码器300可以执行图片的基于块的编码。术语“块”通常是指包括要处理的数据的结构(例如,在编码和/或解码过程中使用的编码、解码或其它方式)。例如,一个块可以包括亮度和/或色度数据的样本的二维矩阵。通常,视频编码器200和视频解码器300可以对以YUV(例如,Y、Cb、Cr)格式表示的视频数据进行编码。也就是说,不是对图片的样本的红色、绿色和蓝色(RGB)数据进行编码,而是视频编码器200和视频解码器300可以对亮度和色度分量进行编码,其中色度分量可以包括红色和蓝色色度分量。在一些例子中,视频编码器200在编码之前,将接收到的RGB格式的数据转换成YUV表示,而视频解码器300将YUV表示转换成RGB格式。替代地,预处理和后处理单元(没有示出)可以执行这些转换。
本公开内容通常可以涉及图片的编码(例如,编码和解码),以包括对图片的数据进行编码或解码的过程。类似地,本公开内容可以涉及对图片的块的编码,以包括对这些块的数据进行编码或解码的过程(例如,预测和/或残余编码)。编码的视频比特流通常包括用于语法元素的一系列值,其中这些语法元素表示译码决策(例如,译码模式)以及将图片划分成块的分割。因此,对图片或块进行译码的提及通常应当被理解为用于形成该图片或块的语法元素的译码值。
HEVC定义了各种块,其包括译码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC,视频译码器(例如,视频编码器200)根据四叉树结构,将译码树单元(CTU)划分为CU。也就是说,视频编码器将CTU和CU划分为四个相等的、不重叠的正方形,并且四叉树的每个节点具有零个或四个子节点。没有子节点的节点可以称为“叶节点”,并且这种叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频编码器可以进一步分割PU和TU。例如,在HEVC中,残余四叉树(RQT)表示TU的划分。在HEVC中,PU表示帧间预测数据,而TU表示残差数据。帧内预测的CU包括帧内预测信息(例如,帧内模式指示)。
再举一个例子,视频编码器200和视频解码器300可以被配置为根据JEM或VVC进行操作。根据JEM或VVC,视频编码器(例如,视频编码器200)将图片划分为多个译码树单元(CTU)。视频编码器200可以根据诸如四叉树-二叉树(QTBT)结构或多类型树(MTT)结构之类的树结构,对CTU进行划分。QTBT结构消除了多个分区类型的概念,例如HEVC的CU、PU和TU之间的分隔。QTBT结构包括两个层级:根据四叉树划分而划分的第一层级、根据二叉树划分而划分的第二层级。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于译码单元(CU)。
在MTT划分结构中,可以使用四叉树(QT)分割、二叉树(BT)分割和一种或多种类型的三叉树(TT)分割,对块进行划分。三叉树分割是将一个块分割成三个子块的划分。在一些例子中,三叉树分割将一个块划分为三个子块,而不穿过中心来划分原始块。MTT中的划分类型(例如,QT、BT和TT)可以是对称的,也可以是不对称的。
在一些例子中,视频编码器200和视频解码器300可以使用单个QTBT或MTT结构来表示亮度和色度分量中的每一个,而在其它例子中,视频编码器200和视频解码器300可以使用两个或更多QTBT或MTT结构,例如一个QTBT/MTT结构用于亮度分量,另一个QTBT/MTT结构用于两个色度分量(或者两个QTBT/MTT结构用于相应的色度分量)。
视频编码器200和视频解码器300可以被配置为使用每个HEVC的四叉树划分、QTBT划分、MTT划分或其它划分结构。为了便于说明起见,相对于QTBT划分给出了本公开内容的技术的描述。但是,应当理解的是,本公开内容的技术还可以应用于被配置为使用四叉树划分或其它类型的划分的视频编码器。
本公开内容可以互换地使用“NxN”和“N乘N”来指代块(例如,CU或其它视频块)的以垂直和水平维度的样本尺寸,例如16x16样本或16乘16样本。通常,一个16x16 CU在垂直方向上将有16个样本(y=16),在水平方向上将有16个样本(x=16)。同样地,一个NxN CU通常在垂直方向上具有N个样本,在水平方向上具有N个样本,其中N表示非负整数值。可以按行和列来排列CU中的样本。此外,CU在水平方向上不必具有与垂直方向上相同数量的样本。举例来说,CU可以包含NxM个样本,其中M不一定等于N。
视频编码器200对用于表示预测和/或残差信息以及其它信息的CU的视频数据进行编码。预测信息指示将如何预测CU,以便形成用于该CU的预测块。残差信息通常表示在编码之前的CU的样本与预测块之间的逐样本差异。
为了预测CU,视频编码器200通常可以通过帧间预测或帧内预测来形成用于CU的预测块。帧间预测通常指代从先前编码的图片的数据中预测CU,而帧内预测通常指代从同一图片的先前编码的数据中预测CU。为了执行帧间预测,视频编码器200可以使用一个或多个运动矢量来产生预测块。视频编码器200通常可以例如在CU与参考块之间的差异方面,执行运动搜索以识别与CU紧密匹配的参考块。视频编码器200可以使用绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)或其它此类差值计算来计算差值度量,以判断参考块是否紧密匹配当前CU。在一些例子中,视频编码器200可以使用单向预测或双向预测来预测当前CU。
JEM和VVC的一些例子还提供仿射运动补偿模式,其可以被认为是帧间预测模式。在仿射运动补偿模式中,视频编码器200可以确定表示非平移运动的两个或更多运动矢量,例如缩小或放大、旋转、透视运动或其它不规则运动类型。
为了执行帧内预测,视频编码器200可以选择帧内预测模式来生成预测块。JEM和VVC的某些例子提供了67种帧内预测模式,其包括各种定向模式以及平面模式和DC模式。通常,视频编码器200选择帧内预测模式,该帧内预测模式描述了到当前块(例如,CU的块)的相邻样本,从这些样本中预测当前块的样本。假设视频编码器200以光栅扫描顺序(从左到右、从上到下)对CTU和CU进行译码,则这些样本通常可以在与当前块相同的图片中的当前块的上方、左上方或左侧。
视频编码器200对表示当前块的预测模式的数据进行编码。举例来说,对于帧间预测模式,视频编码器200可以对表示使用各种可用帧间预测模式中的哪一个的数据、以及对应模式的运动信息进行编码。对于单向或双向帧间预测,例如,视频编码器200可以使用高级运动矢量预测(AMVP)或合并模式,来对运动矢量进行编码。视频编码器200可以使用类似模式来对仿射运动补偿模式的运动矢量进行编码。
在诸如块的帧内预测或帧间预测之类的预测之后,视频编码器200可以计算该块的残差数据。残差数据(例如,残差块)表示该块与使用相应预测模式形成的该块的预测块之间的逐样本差异。视频编码器200可以向残差块应用一个或多个变换,以在变换域而非样本域中产生经变换的数据。举例来说,视频编码器200可以向残差视频数据应用离散余弦变换(DCT)、整数变换、小波变换或概念上类似的变换。另外,视频编码器200可以在第一变换之后应用次级变换,例如依赖于模式的不可分离次级变换(MDNSST)、依赖于信号的变换、Karhunen-Loeve变换(KLT)等等。视频编码器200在应用所述一个或多个变换之后,产生变换系数。
如上所述,在进行任何变换以产生变换系数之后,视频编码器200可以执行变换系数的量化。量化通常指代这样的过程:对变换系数进行量化,以可能地减少用于表示这些系数的数据量,从而提供进一步压缩。通过执行量化过程,视频编码器200可以减小与一些或所有这些系数相关联的位深度。例如,视频编码器200可以在量化期间,将n位值舍入为m位值,其中n大于m。在一些例子中,为了执行量化,视频编码器200可以执行待量化的值的按位右移。
在量化之后,视频编码器200可以扫描变换系数,从而根据包括量化的变换系数的二维矩阵产生一维矢量。可以将该扫描设计为将较高能量(因此频率较低)的系数放在矢量的前面,并将较低能量(因此频率较高)的变换系数放在矢量的后面。在一些例子中,视频编码器200可以利用预定义的扫描顺序来扫描经量化的变换系数,以产生经串行化的矢量,然后对矢量的经量化的变换系数进行熵编码。在其它例子中,视频编码器200可以执行自适应扫描。在扫描量化的变换系数以形成一维矢量之后,视频编码器200可以例如根据上下文自适应二进制算术编码(CABAC)对一维矢量进行熵编码。视频编码器200还可以对语法元素的值进行熵编码,该语法元素描述与编码的视频数据相关联的元数据,以供视频解码器300在对视频数据进行解码时使用。
为了执行CABAC,视频编码器200可以将上下文模型内的上下文分配给要发送的符号。例如,该上下文可以涉及符号的相邻值是否为零值。概率确定可以基于分配给符号的上下文。
视频编码器200还可以在例如图片头、块头、片段头或其它语法数据(例如,序列参数集(SPS)、图片参数集(PPS)或视频参数集(VPS))中,生成针对视频解码器300的语法数据(例如,基于块的语法数据、基于图片的语法数据、以及基于序列的语法数据)。视频解码器300可以类似地对此类语法数据进行解码,以确定如何解码对应的视频数据。
用此方式,视频编码器200可以生成包括编码的视频数据的比特流,例如,用于描述将图片划分成块(例如,CU)的语法元素、以及这些块的预测和/或残差信息的语法元素。最终,视频解码器300可以接收比特流,并对编码的视频数据进行解码。
通常,视频解码器300执行与视频编码器200所执行的过程互易的过程,以解码比特流的编码的视频数据。举例来说,视频解码器300可以以与视频编码器200的CABAC编码过程实质上相似的方式(尽管互易),使用CABAC,对比特流的语法元素的值进行解码。语法元素可以将图片的分割信息定义为CTU,并根据相应的分割结构(例如,QTBT结构),对每个CTU进行划分以定义CTU的CU。这些语法元素可以进一步规定用于视频数据的块(例如,CU)的预测和残差信息。
可以通过例如量化的变换系数来表示残差信息。视频解码器300可以对块的量化的变换系数进行逆量化和逆变换,以再现该块的残差块。视频解码器300使用用信号通知的预测模式(帧内或帧间预测)和相关的预测信息(例如,用于帧间预测的运动信息)来形成用于该块的预测块。然后,视频解码器300可以组合预测块和残差块(在逐个样本的基础上)以再现原始块。视频解码器300可以执行其它的处理,例如执行滤波处理(如,解块处理)以减少沿块的边界的视觉伪像。在一些实施例中,视频解码器300可以执行根据本文所公开的各个实施例的双边滤波。
本公开内容通常涉及“用信号通知”某些信息(例如,语法元素)。术语“用信号通知”通常可以指代用于语法元素的值和/或用于对编码的视频数据进行解码的其它数据的通信。也就是说,视频编码器200可以在比特流中用信号通知用于语法元素的值。通常,用信号通知是指在比特流中生成值。如上所述,源设备102可以基本实时地或者不实时地,将比特流传输到目的地设备116,例如在将语法元素存储到存储设备112以便稍后由目的地设备116检索时,可能发生这种情形。
图2A和图2B是示出示例性四叉树二叉树(QTBT)结构130以及对应的译码树单元(CTU)132的概念图。实线表示四叉树分割,而虚线表示二叉树分割。在二叉树的每个分割(即,非叶)节点中,用信号通知一个标志以指示使用哪种分割类型(即,水平或垂直),在该例子中,0表示水平分割,而1表示垂直分割。对于四叉树分割,由于四叉树节点将一个块水平和垂直分割为大小相等的4个子块,因此无需指示分割类型。因此,视频编码器200可以对QTBT结构130的区域树层级(即,实线)的语法元素(例如,分割信息)和QTBT结构130的预测树层级(即,虚线)的语法元素(例如,分割信息)进行编码,并且视频解码器300可以对其进行解码。视频编码器200可以对QTBT结构130的终端叶节点表示的CU的视频数据(例如,预测和变换数据)进行编码,并且视频解码器300可以对其进行解码。
一般而言,图2B的CTU 132可以与规定块的大小的参数相关联,块的大小与第一层级和第二层级的QTBT结构130的节点相对应。这些参数可以包括CTU大小(其代表样本中CTU132的大小)、最小四叉树大小(MinQTSize,其代表最小允许的四叉树叶节点大小)、最大二叉树大小(MaxBTSize,其代表最大允许二叉树根节点大小)、最大二叉树深度(MaxBTDepth,其代表最大允许二叉树深度)和最小二叉树大小(MinBTSize,其代表最小允许二叉树叶子节点大小)。
对应于CTU的QTBT结构的根节点可以在QTBT结构的第一层级具有四个子节点,可以根据四叉树划分来划分每个子节点。即,第一层级的节点是叶节点(没有子节点)或者具有四个子节点。QTBT结构130的例子表示这样的节点,例如包括具有用于分支的实线的父节点和子节点。如果第一层级的节点不大于最大允许的二叉树根节点大小(MaxBTSize),则可以通过相应的二叉树进一步对这些节点进行划分。可以迭代一个节点的二叉树分割,直到分割产生的节点达到最小允许的二叉树叶节点大小(MinBTSize)或最大允许的二叉树深度(MaxBTDepth)为止。QTBT结构130的例子将这样的节点表示为具有用于分支的虚线。二进制树叶节点称为译码单元(CU),其用于预测(例如,帧内或帧间预测)和变换,而无需任何进一步的划分。如上所述,CU也可以称为“视频块”或“块”。
在QTBT划分结构的一个例子中,将CTU大小设置为128x128(亮度样本和两个相应的64x64色度样本),将MinQTSize设置为16x16,将MaxBTSize设置为64x64,将MinBTSize(对于宽度和高度二者)设置为4,将MaxBTDepth设置为4。首先,对CTU应用四叉树划分以生成四叉树叶节点。四叉树叶节点的大小可以从16x16(即,MinQTSize)到128x128(即,CTU大小)。如果叶四叉树节点为128x128,则由于大小超过MaxBTSize(即,在该例子中为64x64),因此不会通过二叉树进一步分割。否则,将通过二叉树,对叶四叉树节点进一步划分。因此,四叉树叶节点也是二叉树的根节点,并且二叉树的深度为0。当二叉树的深度达到MaxBTDepth(在该例子中为4)时,不允许进一步分割。当二叉树节点的宽度等于MinBTSize(在该例子中为4)时,表示不允许进一步的水平分割。类似地,高度等于MinBTSize的二叉树节点意味着该二叉树节点不允许进一步的垂直分割。如上所述,将二叉树的叶节点称为CU,并且根据预测和变换对其进行进一步处理而无需进一步划分。
图3是示出可以执行本公开内容的技术的示例性视频编码器200的框图。提供图3以便于解释的目的,故其不应被认为是对本公开内容中广泛例示和描述的技术的限制。为了便于说明起见,本公开内容在诸如开发中的HEVC视频译码标准和H.266视频译码标准之类的视频译码标准的上下文中,描述视频编码器200。但是,本公开内容的技术并不限于这些视频编码标准,并且通常可应用于视频编码和解码。
在图3的例子中,视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波单元216、解码图片缓冲器(DPB)218和熵编码单元220。视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波单元216、DPB 218和熵编码单元220中的任何一个或全部,可以在一个或多个处理器中或者在处理电路中实现。此外,视频编码器200可以包括另外的或替代的处理器或处理电路,以执行这些功能和其它功能。
视频数据存储器230可以存储将由视频编码器200的组件编码的视频数据。视频编码器200可以从例如视频源104(图1)接收存储在视频数据存储器230中的视频数据。DPB218可以充当参考图片存储器,该参考图片存储器存储参考视频数据,以供视频编码器200预测后续视频数据时使用。视频数据存储器230和DPB 218可以由多种存储设备(例如,动态随机存取存储器(DRAM)(其包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、电阻性RAM(RRAM)或其它类型的存储设备)中的任何一个形成。视频数据存储器230和DPB 218可以由相同的存储设备或不同的存储设备提供。在各个例子中,视频数据存储器230可以与视频编码器200的其它组件一起在芯片上,如图所示,或者相对于那些组件在芯片外。
在本公开内容中,对视频数据存储器230的引用不应被解释为限于视频编码器200内部的存储器(除非如此具体地描述),也不应被解释为限于视频编码器200之外的存储器(除非如此具体地描述)。而是,对视频数据存储器230的引用应当被理解为存储视频数据的参考存储器,其中视频编码器200接收该视频数据以进行编码(例如,要编码的当前块的视频数据)。图1的存储器106还可以提供对来自视频编码器200的各个单元的输出的临时存储。
示出了图3的各个单元以帮助理解由视频编码器200执行的操作。这些单元可以实现为固定功能电路、可编程电路或者其组合。固定功能电路指代提供特定功能、并在可以执行的操作上预先设置的电路。可编程电路指代可以被编程以执行各种任务,并且在可以执行的操作中提供灵活功能的电路。例如,可编程电路可以执行使可编程电路以软件或固件的指令所定义的方式进行操作的软件或固件。固定功能电路可以执行软件指令(例如,用于接收参数或输出参数),但是固定功能电路执行的操作的类型通常是不可变的。在一些例子中,这些单元中的一个或多个单元可以是不同的电路块(固定功能或可编程),并且在一些例子中,所述一个或多个单元可以是集成电路。
视频编码器200可以包括由可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核。在使用由可编程电路执行的软件来执行视频编码器200的操作的例子中,存储器106(图1)可以存储视频编码器200接收并执行的软件的目标代码,或者视频编码器200中的另一个存储器(没有示出)可以存储这样的指令。
视频数据存储器230被配置为存储接收到的视频数据。视频编码器200可以从视频数据存储器230检索视频数据的图片,并将视频数据提供给残差生成单元204和模式选择单元202。视频数据存储器230中的视频数据可以是将进行编码的原始视频数据。
模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括其它功能单元,以根据其它预测模式来执行视频预测。举例而言,模式选择单元202可以包括调色板单元、块内复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等等。
模式选择单元202通常协调多个编码通道,以测试编码参数的组合以及针对此类组合的最终速率失真值。编码参数可以包括:CTU到CU的划分、用于CU的预测模式、用于CU的残差数据的变换类型、用于CU的残差数据的量化参数等等。模式选择单元202可以最终选择具有比其它测试的组合更好的速率失真值的编码参数的组合。
视频编码器200可以将从视频数据存储器230检索到的图片划分为一系列CTU,并将一个或多个CTU封装在片段中。模式选择单元202可以根据树结构(例如,上面所描述的HEVC的QTBT结构或四叉树结构)来划分图片的CTU。如上所述,视频编码器200可以根据树结构,通过划分CTU来形成一个或多个CU。这样的CU通常也可以称为“视频块”或“块”。
通常,模式选择单元202还控制其组件(例如,运动估计单元222、运动补偿单元224和帧内预测单元226)以生成针对当前块(例如,当前CU、或者在HEVC中,PU和TU的重叠部分)的预测块。对于当前块的帧间预测,运动估计单元222可以执行运动搜索以识别一个或多个参考图片(例如,存储在DPB 218中的一个或多个先前编码的图片)中的一个或多个紧密匹配的参考块。具体而言,运动估计单元222可以例如根据绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)等等,来计算表示潜在参考块与当前块有多么相似的值。运动估计单元222通常可以使用当前块与正考虑的参考块之间的逐样本差异来执行这些计算。运动估计单元222可以识别具有由这些计算所产生的最小值的参考块,该参考块指示与当前块最紧密匹配的参考块。
运动估计单元222可以形成一个或多个运动矢量(MV),这些MV定义参考图片中的参考块相对于当前图片中的当前块的位置。然后,运动估计单元222可以将运动矢量提供给运动补偿单元224。例如,对于单向帧间预测,运动估计单元222可以提供单个运动矢量,而对于双向帧间预测,运动估计单元222可以提供两个运动矢量。然后,运动补偿单元224可以使用运动矢量来生成预测块。例如,运动补偿单元224可以使用运动矢量来检索参考块的数据。再举一个例子,如果运动矢量具有分数采样精度,则运动补偿单元224可以根据一个或多个插值滤波器,对用于预测块的值进行插值。此外,对于双向帧间预测,运动补偿单元224可以例如通过逐样本平均或加权平均,来检索由相应的运动矢量识别的两个参考块的数据,并对检索到的数据进行组合。
再举一个例子,对于帧内预测或帧内预测译码,帧内预测单元226可以根据与当前块相邻的样本生成预测块。例如,对于定向模式,帧内预测单元226通常可以在数学上组合相邻样本的值,并在当前块上沿定义的方向填充这些计算的值以产生预测块。再举一个例子,对于DC模式,帧内预测单元226可以计算与当前块的相邻样本的平均值,并且生成预测块以包括针对预测块的每个样本的该最终平均值。
模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始未编码版本,并从模式选择单元202接收预测块。残差生成单元204计算当前块和预测块之间的逐样本差异。所得的逐样本差异定义了当前块的残差块。在一些例子中,残差生成单元204还可以确定残差块中的样本值之间的差,以使用残余差分脉冲编码调制(RDPCM)来生成残差块。在一些例子中,可以使用执行二进制减法的一个或多个减法器电路,来形成残差生成单元204。
在模式选择单元202将CU划分为PU的例子中,每一个PU可以与亮度预测单元和对应的色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种大小的PU。如上所述,CU的大小可以指代CU的亮度译码块的大小,而PU的大小可以指代PU的亮度预测单元的大小。假设特定CU的大小为2Nx2N,则视频编码器200可以支持2Nx2N或NxN的PU大小来用于帧内预测,并支持2Nx2N、2NxN、Nx2N、NxN等等的对称PU大小来用于帧间预测。视频编码器200和视频解码器300还可以对于帧间预测,支持PU大小为2NxnU、2NxnD、nLx2N和nRx2N的非对称划分。
在模式选择单元不将CU进一步划分成PU的例子中,每个CU可以与亮度译码块和对应的色度译码块相关联。如上所述,CU的大小可以指代CU的亮度译码块的大小。视频编码器200和视频解码器120可以支持2Nx2N、2NxN或Nx2N的CU大小。
对于其它视频译码技术(例如,块内复制模式编码、仿射模式编码和线性模型(LM)模式编码,仅举几个例子),模式选择单元202经由与译码技术相关联的各个单元,针对正在编码的当前块来生成预测块。在一些例子中(例如,调色板模式编码),模式选择单元202可以不生成预测块,而是生成语法元素,这些语法元素指示基于所选的调色板来重构块的方式。在这样的模式下,模式选择单元202可以将这些语法元素提供给熵编码单元220以进行编码。
如上所述,残差生成单元204接收当前块和对应的预测块的视频数据。然后,残差生成单元204生成当前块的残差块。为了生成残差块,残差生成单元204计算预测块和当前块之间的逐样本差。
变换处理单元206将一个或多个变换应用于残差块以生成变换系数的块(本文称为“变换系数块”)。变换处理单元206可以将各种变换应用于残差块以形成变换系数块。例如,变换处理单元206可以将离散余弦变换(DCT)、方向变换、Karhunen-Loeve变换(KLT)或者概念上类似的变换应用于残差块。在一些例子中,变换处理单元206可以对残差块执行多个变换(例如,主变换和次要变换(如,旋转变换))。在一些例子中,变换处理单元206不向残差块应用变换。
量化单元208可以量化变换系数块中的变换系数,以产生量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值,来量化变换系数块的变换系数。视频编码器200(例如,经由模式选择单元202)可以通过调整与CU相关联的QP值,来调整应用于与当前块相关联的系数块的量化程度。量化可能导致信息的丢失,因此,量化后的变换系数的精度可能比变换处理单元206生成的原始变换系数的精度低。
逆量化单元210和逆变换处理单元212可以将逆量化和逆变换分别应用于量化的变换系数块,以根据变换系数块来重建残差块。重构单元214可以基于重构的残差块和由模式选择单元202生成的预测块,来产生与当前块相对应的重构块(尽管可能具有一定程度的失真)。例如,重构单元214可以将重构的残差块的样本添加到模式选择单元202所生成的预测块中的对应样本,以生成重构的块。
滤波单元216可以对重构的块执行一个或多个滤波操作。例如,滤波单元216可以执行解块操作以减少沿着CU的边缘的块状伪影。在一些例子中,可以跳过滤波单元216的操作。在一些实施例中,滤波单元216还可以被配置为根据本文所公开的实施例来执行双边滤波。
视频编码器200将重构的块存储在DPB 218中。例如,在不需要滤波单元216的操作的例子中,重构单元214可以将重构的块存储到DPB 218。在需要滤波单元216的操作的例子中,滤波单元216可以将滤波后的重构块存储到DPB 218。通常,根据本申请的实施例将滤波单元216作为译码工具包括在编码器200中。但是,实施例可以包括根据实施例的双边滤波器,其应用为后解码滤波器。运动估计单元222和运动补偿单元224可以从DPB 218检索参考图片,该参考图片由重构(并且可能滤波)的块形成,以对随后编码的图片进行帧间预测。另外,帧内预测单元226可以使用当前图片的DPB 218中的重构块,对当前图片中的其它块进行帧内预测。
通常,熵编码单元220可以对从视频编码器200的其它功能组件接收的语法元素进行熵编码。例如,熵编码单元220可以对来自量化单元208的量化的变换系数块进行熵编码。再举一个例子,熵编码单元220可以对来自模式选择单元202的预测语法元素(例如,用于帧间预测的运动信息或者用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对作为视频数据的另一个例子的语法元素执行一个或多个熵编码操作,以生成熵编码的数据。例如,熵编码单元220可以执行上下文自适应可变长度编码(CAVLC)操作、CABAC操作、变量至变量(V2V)长度编码操作、基于语法的上下文自适应二进制算术编码(SBAC)操作、概率间隔分割熵(PIPE)编码操作、指数格伦布编码操作、或者对数据的另一种类型的熵编码操作。在一些例子中,熵编码单元220可以在不对语法元素进行熵编码的旁通模式下操作。
视频编码器200可以输出比特流,该比特流包括用于重构片段或图片的块所需要的经熵编码的语法元素。具体而言,熵编码单元220可以输出比特流。
关于块描述了上面所描述的操作。这样的描述应当被理解为用于亮度译码块和/或色度译码块的操作。如上所述,在一些例子中,亮度译码块和色度译码块是CU的亮度和色度分量。在一些例子中,亮度译码块和色度译码块是PU的亮度和色度分量。
在一些例子中,不需要针对色度译码块重复针对亮度译码块执行的操作。举一个例子,不需要重复用于识别亮度译码块的运动矢量(MV)和参考图片的操作,来识别用于色度块的MV和参考图片。相反,可以缩放用于亮度译码块的MV以确定用于色度块的MV,并且参考图片可以是相同的。再举一个例子,对于亮度译码块和色度译码块,帧内预测处理可以是相同的。
视频编码器200表示被配置为对视频数据进行编码的设备的例子,该设备包括被配置为存储视频数据的存储器、以及在电路中实现并且被配置为使用如本文所公开的双边加权函数来编码视频数据的一个或多个处理单元。
图4是示出可以执行本公开内容的技术的示例性视频解码器300的框图。提供图4以便于解释的目的,故其不应被认为是对本公开内容中广泛例示和描述的技术的限制。为了便于说明起见,本公开内容描述了根据JEM、VVC和HEVC的技术来描述的视频解码器300。但是,本公开内容的技术可以由被配置为实现其它视频编码标准的视频编码设备来执行。
在图4的例子中,视频解码器300包括编码图片缓冲器(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波单元312和解码图片缓冲器(DPB)314。CPB存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波单元312和DPB 314中的任何一个或全部,可以在一个或多个处理器中或者在处理电路中实现。此外,视频解码器300可以包括另外的或替代的处理器或处理电路,以执行这些功能和其它功能。
预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括用于根据其它预测模式来执行预测的附加单元。举例而言,预测处理单元304可以包括调色板单元、块内复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等等。在其它例子中,视频解码器300可以包括更多、更少或者不同的功能组件。
CPB存储器320可以存储将由视频解码器300的组件解码的视频数据(例如,编码的视频比特流)。例如,可以从计算机可读介质110(图1)中获得存储在CPB存储器320中的视频数据。CPB存储器320可以包括存储来自编码视频比特流的编码视频数据(例如,语法元素)的CPB。而且,CPB存储器320可以存储除编码图片的语法元素之外的视频数据,例如,表示来自视频解码器300的各个单元的输出的临时数据。DPB 314通常存储解码的图片,视频解码器300在解码编码的视频比特流的后续数据或图片时,可以输出和/或使用该解码图片作为参考视频数据。CPB存储器320和DPB 314可以由诸如动态随机存取存储器(DRAM)(其包括同步DRAM(SDRAM)、磁阻RAM(MRAM)、电阻RAM(RRAM)或其它类型的存储设备)之类的各种存储设备中的任何一个来形成。CPB存储器320和DPB 314可以由相同的存储设备或不同的存储设备来提供。在各个例子中,CPB存储器320可以与视频解码器300的其它组件一起在芯片上,或者相对于那些组件在芯片外。
另外地或替代地,在一些例子中,视频解码器300可以从存储器120(图1)中检索译码的视频数据。也就是说,存储器120可以如上文参照CPB存储器320所讨论的来存储数据。类似地,当视频解码器300的一些或全部功能利用由视频解码器300的处理电路执行的软件来实现时,存储器120可以存储将由视频解码器300执行的指令。
示出了图4的各个单元以帮助理解由视频解码器300执行的操作。这些单元可以实现为固定功能电路、可编程电路或者其组合。类似于图3,固定功能电路指代提供特定功能、并在可以执行的操作上预先设置的电路。可编程电路指代可以被编程以执行各种任务,并且在可以执行的操作中提供灵活功能的电路。例如,可编程电路可以执行软件或固件,软件或固件使可编程电路以软件或固件的指令所定义的方式进行操作。固定功能电路可以执行软件指令(例如,用于接收参数或输出参数),但是固定功能电路执行的操作的类型通常是不可变的。在一些例子中,这些单元中的一个或多个单元可以是不同的电路块(固定功能或可编程),并且在一些例子中,所述一个或多个单元可以是集成电路。
视频解码器300可以包括ALU、EFU、数字电路、模拟电路和/或由可编程电路形成的可编程核。在通过在可编程电路上执行的软件来执行视频解码器300的操作的例子中,片上或片外存储器可以存储视频解码器300接收并执行的软件的指令(例如,目标代码)。
熵解码单元302可以从CPB接收编码的视频数据,并且对视频数据进行熵解码以再现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波单元312可以基于从比特流中提取的语法元素来生成解码的视频数据。
通常,视频解码器300在逐块的基础上重建图片。视频解码器300可以单独地对每个块执行重构操作(其中,当前正在重构(即,解码)的块可以称为“当前块”)。
熵解码单元302可以对定义量化的变换系数块的量化的变换系数的语法元素、以及诸如量化参数(QP)和/或变换模式指示之类的变换信息进行熵解码。逆量化单元306可以使用与量化的变换系数块相关联的QP来确定量化的度,并且同样地,确定用于逆量化单元306应用的逆量化度。例如,逆量化单元306可以执行按位左移运算以对量化的变换系数进行逆量化。逆量化单元306可以由此形成包括变换系数的变换系数块。
在逆量化单元306形成变换系数块之后,逆变换处理单元308可以将一个或多个逆变换应用于变换系数块以生成与当前块相关联的残差块。例如,逆变换处理单元308可以向这些系数块应用逆DCT、逆整数变换、逆Karhunen-Loeve变换(KLT)、逆旋转变换、逆方向变换或者另一种逆变换。
此外,预测处理单元304根据由熵解码单元302进行熵解码的预测信息语法元素,来生成预测块。例如,如果预测信息语法元素指示当前块是帧间预测的,则运动补偿单元316可以生成预测块。在这种情况下,预测信息语法元素可以指示DPB 314中的从其检索参考块的参考图片、以及标识参考图片中的参考块相对于当前图片中的当前块的位置的运动矢量。运动补偿单元316通常可以以与关于运动补偿单元224(图3)所描述的方式基本上相似的方式,来执行帧间预测处理。
再举一个例子,如果预测信息语法元素指示当前块是帧内预测的,则帧内预测单元318可以根据由预测信息语法元素指示的帧内预测模式来生成预测块。再次,帧内预测单元318通常可以以与关于帧内预测单元226(图3)所描述的方式基本上相似的方式来执行帧内预测处理。帧内预测单元318可以从DPB 314检索当前块的相邻样本的数据。
重构单元310可以使用预测块和残差块来重构当前块。例如,重构单元310可以将残差块的样本添加到预测块的对应样本以重构当前的块。
滤波单元312可以对重构的块执行一个或多个滤波操作。例如,滤波单元312可以执行解块操作,以减少沿着重构块的边缘的块状伪像。不一定在所有示例中都执行滤波单元312的操作。在一些实施例中,滤波单元312还可以被配置为根据本文公开的实施例执行双边滤波。在其它实施例中,滤波单元(没有示出)可以执行双边滤波,作为后处理过程的一部分。
视频解码器300可以将重构的块存储在DPB 314中。如上所述,DPB 314可以向预测处理单元304提供参考信息,例如用于帧内预测的当前图片的样本以及用于后续运动补偿的先前解码的图片。此外,视频解码器300可以从DPB输出解码的图片,以便随后在诸如图1的显示设备118之类的显示设备上呈现。
用此方式,视频解码器300表示视频解码设备的例子,该设备包括被配置为存储视频数据的存储器、以及在电路中实现并且被配置为使用如本文所公开的双边加权函数来编码视频数据的一个或多个处理单元。
如上所述,视频编码器200的滤波单元216和视频解码器300的滤波单元312(以及执行后处理或循环处理滤波过程的任何其它单元)可以采用双边滤波。
已经提出了双边滤波的形式,以避免对边缘中像素进行非期望的过度平滑。双边滤波包括对相邻样本进行加权,该加权将像素值本身考虑在内,以对具有相似亮度或色度值的那些像素进行更多加权。位于(i,j)的样本将使用其相邻样本(k,l)进行滤波。权重ω(i,j,k,l)是分配给样本(k,l)以滤波样本(i,j)的权重,其定义为:
I(I,j)和I(k,l)分别是样本(i,j)和(k,l)的强度值。σd是空间参数,σr是范围参数。具有用ID(i,j)表示的已滤波样本值的滤波过程可以定义为:
在双边滤波的一些例子中,可以通过这两个参数来控制双边滤波器的性质(或强度)。与要进行滤波的样本距离较近的样本以及与要进行滤波的样本具有较小强度差的样本,将比远离的并且具有较大强度差的样本具有更大的权重。
图5是示出在双边滤波过程中利用的变换单元502的一个样本504和四个相邻样本506的概念图。在这样的例子中,对于变换单元(TU)中的每个重构样本,仅使用其直接相邻的重构样本来滤波。该滤波器具有由相邻样本506限定的加号形状的滤波器孔径,其中相邻样本506以要进行滤波的样本504为中心。可以基于变换单元的大小来设置参数σd(在等式3中示出示例),并且可以基于用于当前块的QP来设置参数σr(在等式4中示出一个例子)。
先前已经提出,为了在低延迟配置下进一步减少编码损失,将滤波器强度进一步设计为取决于译码模式。参见,P.Wennersten、K.Andersson、J.Enhorn于2017年1月12日至20日在瑞士日内瓦举行的JVET-E0032,第5次会议上发表的“Bilateral filterstrength based on prediction mode”。对于帧内编码块,仍然使用上面的式(3)。而对于帧间编码块,则应用下式:
σd的不同值指示与帧内预测块相比,帧间预测块的滤波强度相对较弱。帧间预测块通常比帧内预测的块具有更少的残差,因此,可以将双边滤波器设计为对帧间预测块的重构进行较少的滤波。计算输出的经滤波样本值ID(i,j)可以包括计算下式:
由于滤波器仅接触该样本及其4个相邻样本,因此该式可以写为:
其中,IC是中心样本的强度,IL、IR,IA和IB分别是左、右、上和下各样本的强度。同样,ωC是中心样本的权重,而ωL、ωR、ωA和ωB是相邻样本的相应权重。该滤波器仅使用块内的样本进行滤波,将外部权重设置为0。
为了减少计算数量,已使用查找表(LUT)在JEM中实现了双边滤波器。对于每个QP,都存在一个对应于值ωL、ωR、ωA和ωB的一维LUT,其中值:
被存储,其中根据QP,通过式(4)来计算由于LUT中的 因此可以直接将其用于帧内MxN,其minimum(M,N)等于4、中心权重ωC为65(其表示1.0)的情形。对于其它模式(即,内部MxN,但最小(M,N)不等于4,帧间KxL块),该过程可以使用相同的LUT,但使用的中心权重为:
其中,通过(3)或(5)获得σd。可以使用以下公式来计算最终的滤波值:
其中,使用的除法是整数除法,并且将(ωC+ωL+ωR+ωA+ωB)>>1相加以获得正确的舍入。
在JEM参考软件中,式10中的除法运算使用查找表(LUT)以及乘法和移位运算进行替换。为了减小分子和分母的大小,可以将式10进一步精简为:
在JEM参考软件中,以通过两个查找表实现除法的方式来实现式11,并且可以将(11)重写为:
IF=IC+sign(PixelDeltaSum)*((sign(PixelDeltaSum)*PixelDeltaSum+o)*LUT(sumWeights)>>(14+DivShift(sumWeights))) (12)
其中:
PixelDeltaSum=(ωL(IL-IC)+ωR(IR-IC)+ωA(IA-IC)+ωB(IB-IC)
sumWeights=ωC+ωL+ωR+ωA+ωB
o=PixelDeltaSum+sign(PixelDeltaSum)
sign(x)=x>=0?1:-1;
这两个查找表是用于在移位后获得每个1/x的近似值(x是正整数值)的查找表LUT、以及用于定义输入x的附加移位值的查找表DivShift。参见P.Wennersten、K.Andersson、J.Enhorn于2017年3月31日至4月7日在瑞士霍巴特举行的JVET-F0096,第6次会议上发表的“EE2-JVET related:Division-free bilateral filter”。如果QP<18或者块为帧间类型并且块尺寸为16×16或更大,则可以关闭该滤波器。
应当注意,所提出的双边滤波方法仅应用于具有至少一个非零系数的亮度块。对于全零系数的色度块和亮度块,始终禁用双边滤波方法。
图6是示出包含在双边滤波过程中利用的样本606及其相邻的四个样本606的变换块602的图。对于位于TU顶部和左侧边界(即,顶部行和左侧列)的样本,仅使用当前TU内的相邻样本对当前样本进行滤波。如图6中所示,不使用左侧相邻块608对像素602进行滤波。
在JVET-K384文档中提出了用于视频编码的双边滤波器的另一种实现方式。为了解决涉及除法和高精度乘法的(X)双边滤波器问题,在JVET-K384文档中提出了无除法双边滤波。针对滤波后的样本IF的方程式如下所示:
其中,IC是当前样本的强度,IF是在执行DFBil后当前样本的修改强度,Ii和wi分别是第m个相邻样本的强度和加权参数。
如下所示地定义与第k个相邻样本相关联的权重w(x):
wk(x)=Distancek×Rangek(x) (14)
其中,
在该提议中,可以通过两个部分来表示加权因子wi,一部分(由Disi表示)包括当前样本与一个相邻样本之间的距离信息,另一部分(由Rangi表示)包括样本差信息,例如wi=Disi*Rangi。还提出了Rangi可以依赖于覆盖当前样本的块的量化参数(QP)。
图7是示出滤波器权重函数(沿垂直轴704的值)的示例的曲线图702,其中将滤波器权重函数示出为函数强度差(沿水平轴706的值)。一系列线针对从18(线712)到52(线714)的不同QP值绘制了一系列权函数,其中QP值为19、20、22、25、27、32、37、42和47之间的线在712和714之间。对于如图7中所示的权重函数系列,权重wi计算为诸如QP、强度差之类的多个参数的函数(如式(14-16)所示进行计算)。在滤波过程中,使用当前块的QP来确定特定的加权函数,并通过利用强度差访问LUT来导出权重。
双边滤波的现有设计方案可能具有一些问题,希望在基于HEVC或JEM模型或者包含与HEVC或JEM模型类似的相关译码工具的未来视频编解码器中,使用本文所公开的实施例来解决这些问题。
例如,如式12、13中的针对每个样本的双边滤波器的直接实现对于实时实现方式来说可能过高,而实际实现可能依赖于查找表(LUT)形式的预先计算的权重函数。这些LUT可能取决于强度差、QP和距离,因此将需要很大的存储器大小。这种用例的例子是文档JVET-K384中要求的存储器要求,其中LUT中的值的总数等于乘积Wk(x)=Distancek×Rangek(x)的总数,其是28795。这些值中的每个值的精度为18位。这是一个以复杂性换取存储器需求的例子。但是,可能认为存储器要求是不切实际的。
与当前提出的双边滤波器设计方案相关联的另一个问题是没有利用关于对在重构块内的量化误差分布的统计的先验知识。
图8是3d表面图802,其示出了在DCT域中相对于行和列位置进行了均匀量化处理的、大小为8x8的块内的量化误差的方差的示例性空间分布804。在图8中,轴806对应于行,轴808对应于列,并且轴810对应于均方误差。基于块的视频译码方法通常导致所谓的块状伪影,其特征是位于块边界处的样本处的量化误差明显更高,如图8所示。但是,在式中12或13并未使用该先验信息。
对于视频编码的双边滤波可能出现的另一个问题是,合理的性能可能以使用适合于不同译码模式、QP值和信号统计的加权函数族为特征。这些滤波器的当前实现导致对大量函数列表化以解决这些模式。如此大量的功能可能导致显着的存储器增加,从而限制了双边滤波器的适应性。为了解决这些问题中的一些或全部,实施例可以利用以下描述的实施例的一个或多个特征。
在一些实施例中,双边滤波器的加权函数w(x)由限定的有限参数集{Si}(比LUT的长度要小的数量的参数)和将所述参数转换为LUT的项(函数值)的推导过程来定义。在一些实施例中,可以通过包括线性模型、高阶模型或分段模型的分析参数函数来定义该函数。在一些这样的实施例中,w(x)的分段定义的参数模型可以采用:将x值划分成明确定义的范围数量,其大小、相等范围或指数排序的范围。在一些这样的实施例中,可以根据块的QP、块划分的参数(其包括信号的大小、形状或统计),来导出范围和模型参数的数量。
在一些实施例中,可以以构造w(x)函数的完整部分或相关部分的形式,来实现涉及重构w(x)的推导过程,该函数随后被传递给编码器200或解码器300的双边滤波器模块。在一些实施例中,可以通过指定的推导机制,在样本级别上实现加权函数w(x)。w(x)函数的参数可以可选地作为边信息来提供给解码器300,也可以从处理后的信号中导出或者从解码后的比特流的语法元素中导出。
在一些实施例中,通过与样本k的空间位置(在当前块内的空间位置)相关联的可靠性成本Reliabilityk(x),来调整与第k个相邻样本相关联的加权函数w(x):
Wk(x)=Distancek×Rangek(x)×Reliabilityk(x) (17)
在一些实施例中,根据{Reliability(x)}值集合来导出可靠性成本值,该值集合取决于经处理样本k在处理块内的相对空间位置。例如,可以将当前块的{Reliability(x)}函数定义为2D函数或者1D函数的乘积,其中这些1D函数是基于对k滤波器所属的块的块大小、译码模式、变换类型或QP参数中的一个或多个的考虑。可选地,可以通过具有指定函数重建方法(例如,线性、高阶插值)的参数模型,来定义Reliability(x)函数。替代地,可靠性函数可以作为边信息来提供给解码器,也可以从解码比特流的语法元素中导出。
在一些实施例中,可以将Reliability(x)函数定义为具有参数信令的自适应函数。在不同的例子中,权重函数w(x)和/或Reliability(x)函数的参数或标识可以按照序列/图片/片段级别来用信号通知,或者以每单位(例如,LCU/CU/四叉树划分)来用信号通知。
在一些实施例中,根据定义基本加权函数w(x)的参数集{Si},来构造一系列双边加权函数{w(x,QP,Mode)}。可以使用指定的推导过程来进行该系列函数{w(x,QP,Mode)}的构造,其中QP是量化参数,而Mode是译码模式(例如,帧内/帧间、块分割参数、变换参数或者其它一些译码参数)的标识符。
在一些实施例中,基本加权函数w(x)对于特定的QP值(例如,QP0)是最优的。在基本w(x)函数的构造之后,应用所述推导过程以针对特定的一组译码参数(例如,QP值、译码模式)来消减加权函数w(x,QP,Mode)。
在一些实施例中,定义基本加权函数w(x)的参数集{Si}可以包括以子采样速率定义w(x)函数的一组枢轴点。在另一个实施例中,该参数集可以包括用于逼近基本函数的分段线性模型的参数,例如,一组x值的Ri范围和应用于范围Ri以近似w(x)的一组比例值si。
在一些实施例中,用于从基本函数w(x)的参数构造双边加权函数{w(x,QP,Mode)}的推导过程可以包括:通过线性运算(例如缩放和偏移),从基本函数的比例值si推导比例值si(QP,Mode)。在一些实施例中,该推导过程可以包括:从给定的枢轴点,对中间样本进行插值。在一些这样的实施例中,调整可以包括:改变被内插的中间样本的数量,从而消减w(x)的长度。
如上面所定义的,该滤波过程可以用下式来表示:
可以通过输入值x的一组非重叠动态范围分割(范围){Ri},将函数w(x)定义为分段线性函数,其中i是范围为0到N-1(含)的范围的索引,其中N是用于定义w(x)函数的范围{Ri}的总数。对于这些{Ri}中的每个,都可以通过由比例Si和偏移量Oi所描述的线性模型来定义w(x)函数,其中比例Si和偏移量Oi应用于每个x∈[xi,xi+1-1],因此w(x)={Si,Oi}。
在一些实施例中,通过在加权函数w(x,QP,Mode)的项目值上引入与函数相关的约束,进一步构造一系列双边加权函数{w(x,QP,Mode)},从而可以实现更高的性能或者较低的复杂度。替代地,可以使函数推导算法适应于函数的特定特性,例如,可以使之适应于QP的值和/或Mode值或者从比特流导出的其它语法元素。
在一些实施例中,可以通过调整用于函数逼近的分段模型的范围的数量,或者通过调整所利用的范围的开始/结束,来实现函数推导过程的适应性。在一些实施例中,可以将范围的开始/结束设置为等于2的幂,以降低实现的计算复杂度,从而用算术移位运算来代替乘法器。在一些实施例中,根据函数特征(例如,函数的最大值/最小值和/或满足某个阈值的函数值的位置),来导出受约束分段模型的参数(范围数量、范围的开始/结束值)或者施加在函数上的约束条件。
图9是通过在DCT域中以均匀量化处理的块8x8内的量化误差的方差的空间分布来示出的分段线性函数912和参考函数910的示例的图形图示。图902示出了对两个表示(分段912(虚线)和参考函数910(实线))的紧密跟踪。
根据一些实施例,可以如下实现LUT构造过程:假设通过N个delta的范围大小,来定义长度被标识为wLength的w(x)函数,其中{Si}定义了i范围内的线性模型的参数。可以通过以下伪代码来导出函数x(x):
在另一个实施例中,可以通过由枢轴点{Pi}标识的N个范围来定义w(x)函数。在一些实施例中,可以通过可变大小的N个范围来定义w(x)函数,这些范围的大小遵循指数,例如,长度={1,2,4,8...}。在一些实施例中,可以根据诸如QP值、块大小或译码模式之类的处理块参数,来导出模型的参数。
根据另一个例子,并且基于如上定义的示例,滤波过程可以使用与第k个相邻样本相关联的加权函数w(x),其通过与样本k的空间位置(在当前块内的空间位置)相关联的可靠性成本Reliabilityk(x)来调整:
Wk(x)=Distancek×Rangek(x)×Reliabilityk(x) (19)
在一些实施例中,可以将样本可靠性函数导出为编码块的量化误差方差804的空间分布的倒数,诸如图8中所示。双边滤波器处可以利用可靠性函数来计算当前样本参与滤波的权重。
通常,2D函数Reliability(x)由于其对称性而可以分解,并根据所选模型来参数化为一组有限的参数。可以由编码器200将这种模型的参数作为边信息提供给解码器300,或者根据比特流的语法元素来导出。
在一些实施例中,用于从基本函数w(x)的参数构造双边加权函数{w(x,QP,Mode)}的推导过程可以包括:从给定枢轴点对中间样本进行插值。例如,可以仅针对每个QP和模式来预定义枢轴点。调整可以包括:改变枢轴点之间的中间插值的数量,从而消减w(x)的总长度和该函数的特性。
在一些实施例中,用于构造双边加权函数{w(x,QP,Mode)}的推导过程可以包括中间点的放置,该中间点的数量是从QP参数导出的,例如,其等于QP参数减去某个预定常数。
在一些实施例中,用于构造双边加权函数{w(x,QP,Mode)}的推导过程可以包括:通过将仅一个模式的预定义枢轴点乘以预定义整数值,然后右移预定义数量的位数,来推导每个模式的枢轴点。这可以包括调整预定数量的枢轴点。
在一些实施例中,用于构造双边加权函数{w(x,QP,Mode)}的推导过程可以包括:以定点算术(例如,使用16位无符号整数)实现的所有预定值。
以下是{w(x,QP,Mode)}推导过程的一种实现方式的非限制性示例。在该例子中,加权函数族存储在sigmaDistTab[qpIdx][k][count]变量中,该变量是所述{w(x,QP,Mode)}加权函数的实现。示例性伪代码:
在另一个示例性实施例中,可以利用下面的示例性实现:
在一些实施例中,权重的推导过程可以包括:x与某个预定义值之差的计算,该预定义值可以视作为加权函数w(x,QP,Mode)大于零的范围R_j的右端,然后乘以整数k(该整数仅取决于QP和Mode的值)。在一些实施例中,权重的推导过程可以包括:x与某个预定义或推导值xm之差的计算,该预定义或推导值可以视作为包括值{xi,…,xi+1}的范围Rj的右端,其中值{xi,…,xi+1}取自预定义的查找表LUT={w0,…,wN},该查找表针对不同范围的x的整数值X={x0,…,xN},确定了整数值范围的映射关系w(x,QP,Mode),然后乘以数字k,该数字k从所述查找表中得出,并取决于x和QP的值。在一些实施例中,从所述查找表导出的绝对值整数k对于一个子集的区域可以小于(wi-wi+1)/(xi-xi+1)的绝对值,并且对于其它区域,大于或等于(wi-wi+1)/(xi-xi+1)的绝对值。
在一些实施例中,查找表LUT可以包括N+1个值,其中N=2M等于2的某个正整数幂。在一些实施例中,在所述查找表LUT中针对所述值x的适当范围i的计算,可以实现为逐位向右算术移位预定义数量的比特。
在一些实施例和一些实施方式中,可以在不使用LUT(其中该LUT存储每个可能的输入x值的权重函数)的情况下实现双边滤波。取而代之的是,可以独立于权重函数的显著减少的参数的集合,针对每个输入值x导出权重函数,这可以减少存储器需求。在一种实现中,长度N的权重函数W表示为其大小M的枢轴点集合{Wpp},其中M<N或大小M-1的比例值集合{scalesD}和大小M-1的范围边界{r},其中r等于标记范围R的边界的x。这样,可以避免某些实现方式,并且在某些情况下,可以避免W函数的LUT构造,并且可以独立地为每个x值计算权重值,如下面的伪代码所示:
idx1=abs(x)/r;
idx2=abs(x)%r;
weightValue=std::max(0,Wpp[idx1]+scaleD[idx2]*idx2);
在一些实现中,可以将集合{r}的大小减小为单个条目,M=1,并且可以将r值设置为2的幂,使得可以通过topShift值来表示值r:topShift=log2(r)。在这样的实现中,可以使用输入参数x的权重W(x)的以下推导:
int idxJ=1<<topShift;
idx1=abs(x)>>topShift;
idx2=abs(x)-idx1;
weightValue=std::max(0,Wpp[idx1]+scaleD[idx2]*idx2);
特定实施例可以以任何适当的组合包括上述实施例的特征。例如,在一个实施例中,根据映射了w(x)加权值的范围的参数化分段函数来定义双边滤波器。可以通过一组枢轴点进行该映射,该组枢轴点存储在通过与范围相关联的值进行索引的表中。例如,作为推导相关联表条目的一部分,可以对w(x)进行右移。该映射可以进一步取决于以下中的一个或两者:译码模式、与变换块相关联的量化参数。根据以上任何示例,可以根据枢轴点的表来推导用于每个相邻样本的加权值。
应当认识到,根据示例,本文所描述的任何技术的某些动作或事件可以以不同的顺序执行、可以进行添加、合并或者完全省略(例如,并非所有描述的动作或事件都是实施该技术所必需的)。此外,在某些例子中,可以例如通过多线程处理、中断处理或多个处理器并发地而不是顺序地执行动作或事件。
在一个或多个例子中,所描述的功能可以利用硬件、软件、固件或者其任意组合来实现。当利用软件实现时,可以将这些功能存储在计算机可读介质上,或者作为计算机可读介质上的一个或多个指令或代码进行传输,并由基于硬件的处理单元来执行。计算机可读介质可以包括计算机可读存储介质,计算机可读存储介质对应于诸如数据存储介质或通信介质之类的有形介质,其中通信介质包括有助于例如根据通信协议,将计算机程序从一个地方传送到另一个地方的任何介质。用此方式,计算机可读介质通常可以对应于:(1)非临时性的有形计算机可读存储介质;或者(2)诸如信号或载波波形之类的通信介质。数据存储介质可以是一个或多个计算机或者一个或多个处理器能够进行访问以获取用于实现本公开内容中描述的技术的指令、代码和/或数据结构的任何可用介质。计算机程序产品可以包括计算机可读介质。
举例而言,但非做出限制,这种计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或者其它光盘存储器、磁盘存储器或其它磁存储设备、闪存或者能够用于存储具有指令或数据结构形式的期望的程序代码并能够由计算机进行存取的任何其它介质。此外,可以将任何连接适当地称作计算机可读介质。举例而言,如果指令是使用同轴电缆、光纤光缆、双绞线、数字用户线路(DSL)或者诸如红外线、无线和微波之类的无线技术,从网站、服务器或其它远程源传输的,那么所述同轴电缆、光纤光缆、双绞线、DSL或者诸如红外线、无线和微波之类的无线技术包括在所述介质的定义中。但是,应当理解的是,计算机可读存储介质和数据存储介质并不包括连接、载波波形、信号或者其它临时介质,而是针对于非临时的有形存储介质。如本文所使用的,磁盘和光盘包括压缩光盘CD、激光光盘、光盘、数字通用光盘(DVD)、软盘和蓝光光盘,其中磁盘通常磁性地复制数据,而光盘则用激光来光学地复制数据。上述的组合也应当包括在计算机可读介质的保护范围之内。
指令可以由诸如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)之类的一个或多个处理器或者其它等同的集成或分立逻辑电路来执行。因此,如本文所使用的,术语“处理器”和“处理电路”可以指代前述的结构或者适合于实现本文所描述的技术的任何其它结构中的任何一种。此外,在一些方面,本文所描述的功能可以提供在被配置为实现编码和解码的专用硬件和/或软件模块中,或者并入到组合的编解码器中。此外,这些技术可以在一个或多个电路或逻辑元件中完全实现。
本公开内容的技术可以使用多种多样的设备或装置来实现,其包括使用无线手持装置、集成电路(IC)或者一组IC(例如,芯片集)。本公开内容中描述了各种组件、模块或单元,以强调被配置为执行所公开的技术的设备的功能方面,但不一定需要由不同的硬件单元来实现。相反,如上所述,各个单元可以组合在编解码器硬件单元中,或者通过协作的硬件单元集合(其包括如上所述的一个或多个处理器)结合适当的软件和/或固件来提供。
描述了各个示例。这些和其它示例落入所附权利要求的保护范围之内。
Claims (20)
1.一种对视频数据进行译码的方法,所述方法包括:
重构所述视频数据的变换块;以及
使用一个或多个相邻样本向所述变换块的样本应用双边滤波器,包括对于所述一个或多个相邻样本中的每个相邻样本进行以下操作:
确定在所述样本与所述一个或多个相邻样本中的每个相邻样本之间的差值;
基于将所述差值算术右移预定数量的位数,来确定多个值范围中的一个值范围;
基于所述多个值范围中的所述一个值范围,确定多个加权参数中的一个加权参数;
基于所确定的加权参数、与所述变换块相关联的量化参数、以及与所述变换块相关联的译码模式,来生成权重;以及
基于针对所述一个或多个相邻样本中的每个相邻样本生成的所述权重,将所述双边滤波器应用于所述样本。
2.根据权利要求1所述的方法,其中,所述多个加权包括所述视频数据中不包括的边信息。
3.根据权利要求1所述的方法,其中,所述值范围中的每个值范围的开始或结束值中的一个或两个是2的幂。
4.根据权利要求1所述的方法,其中,所述多个加权参数包括多个枢轴点,所述多个枢轴点定义用于所述双边滤波器的分段线性加权函数。
5.根据权利要求4所述的方法,其中,所述多个枢轴点被存储在通过所述差值进行索引的值的表中。
6.根据权利要求5所述的方法,还包括:
将包含经滤波的变换块的图片存储到经解码图片缓冲器。
7.根据权利要求1所述的方法,其中,译码包括:对所述视频数据进行解码,所述方法还包括:
从指示所述译码模式、所述量化参数和所述变换块的视频比特流解码所述视频数据;以及
输出包括所述变换块的图片以进行显示。
8.根据权利要求1所述的方法,其中,译码包括对所述视频数据进行编码,所述方法还包括:将所述视频数据编码为指示所述译码模式、所述量化参数和所述变换块的视频比特流。
9.一种用于对视频数据进行译码的设备,所述设备包括:
存储器,其配置为存储所述视频数据;以及
在电路中实现的一个或多个处理器,所述一个或多个处理器被配置为:
重构所述视频数据的变换块;以及
使用一个或多个相邻样本向所述变换块的样本应用双边滤波器,包括所述一个或多个处理器进一步被配置为对于所述一个或多个相邻样本中的每个相邻样本进行以下操作:
确定在所述样本与所述一个或多个相邻样本中的每个相邻样本之间的差值;
基于将所述差值算术右移预定数量的位数,来确定多个值范围中的一个值范围;
基于所述多个值范围中的所述一个值范围,确定多个加权参数中的一个加权参数;
基于所确定的加权参数、与所述变换块相关联的量化参数、以及与所述变换块相关联的译码模式,来生成权重;以及
基于针对所述一个或多个相邻样本中的每个相邻样本生成的所述权重,将所述双边滤波器应用于所述样本。
10.根据权利要求9所述的设备,其中,所述多个加权包括在所述存储器中存储的边信息。
11.根据权利要求9所述的设备,其中,所述值范围中的每个值范围的开始或结束值中的一个或两个是2的幂。
12.根据权利要求9所述的设备,其中,所述多个加权参数包括多个枢轴点,所述多个枢轴点定义用于所述双边滤波器的分段线性加权函数。
13.根据权利要求12所述的设备,其中,所述多个枢轴点被存储在通过所述差值进行索引的值的表中。
14.根据权利要求13所述的设备,其中,所述一个或多个处理器被配置为将包含经滤波的变换块的图片存储到所述存储器中的经解码图片缓冲器。
15.根据权利要求9所述的设备,其中,所述设备包括用于对所述视频数据进行解码的设备,所述一个或多个处理器进一步被配置为:
从指示所述译码模式、所述量化参数和所述变换块的视频比特流解码所述视频数据;以及
输出包括所述变换块的图片以进行显示。
16.根据权利要求9所述的设备,其中,所述设备包括用于对所述视频数据进行编码的设备,所述一个或多个处理器进一步被配置为:
将所述视频数据编码为指示所述译码模式、所述量化参数和所述变换块的视频比特流。
17.根据权利要求9所述的设备,还包括显示器,所述显示器被配置为显示包含所述变换块的图片。
18.根据权利要求9所述的设备,还包括相机设备,所述相机设备被配置为捕获包含所述变换块的图片。
19.根据权利要求9所述的设备,其中,所述设备包括照相机、计算机、移动设备、广播接收器设备或机顶盒中的一个或多个。
20.一种具有其上存储的指令的非临时性计算机可读存储介质,当所述指令被执行时,使处理器进行以下操作:
重构所述视频数据的变换块;以及
使用一个或多个相邻样本向所述变换块的样本应用双边滤波器,包括所述一个或多个处理器进一步被配置为对于所述一个或多个相邻样本中的每个相邻样本进行以下操作:
确定在所述样本与所述一个或多个相邻样本中的每个相邻样本之间的差值;
基于将所述差值算术右移预定数量的位数,来确定多个值范围中的一个值范围;
基于所述多个值范围中的所述一个值范围,确定多个加权参数中的一个加权参数;
基于所确定的加权参数、与所述变换块相关联的量化参数、以及与所述变换块相关联的译码模式,来生成权重;以及
基于针对所述一个或多个相邻样本中的每个相邻样本生成的所述权重,将所述双边滤波器应用于所述样本。
Applications Claiming Priority (9)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862726380P | 2018-09-03 | 2018-09-03 | |
US62/726,380 | 2018-09-03 | ||
US201862727487P | 2018-09-05 | 2018-09-05 | |
US62/727,487 | 2018-09-05 | ||
US201862732471P | 2018-09-17 | 2018-09-17 | |
US62/732,471 | 2018-09-17 | ||
US16/557,471 | 2019-08-30 | ||
US16/557,471 US11064196B2 (en) | 2018-09-03 | 2019-08-30 | Parametrizable, quantization-noise aware bilateral filter for video coding |
PCT/US2019/049292 WO2020051115A1 (en) | 2018-09-03 | 2019-09-03 | Parametrizable, quantization-noise aware bilateral filter for video coding |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112640454A true CN112640454A (zh) | 2021-04-09 |
CN112640454B CN112640454B (zh) | 2023-07-25 |
Family
ID=69640214
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980055797.6A Active CN112640454B (zh) | 2018-09-03 | 2019-09-03 | 用于视频译码的参数化量化噪声感知的双边滤波器 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11064196B2 (zh) |
CN (1) | CN112640454B (zh) |
WO (1) | WO2020051115A1 (zh) |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006287848A (ja) * | 2005-04-05 | 2006-10-19 | Nippon Telegr & Teleph Corp <Ntt> | スケーラブル符号化方法,スケーラブル復号方法,これらの装置,およびそれらのプログラム,並びにそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体 |
US20110249894A1 (en) * | 2010-04-09 | 2011-10-13 | The Boeing Company | Method, apparatus and computer program product for compressing data |
US20130127844A1 (en) * | 2010-07-19 | 2013-05-23 | Frauhofer-Gesellschaft zur Foerderung der angerwandten Forschung e.V. | Filling disocclusions in a virtual view |
CA2863131A1 (en) * | 2012-02-01 | 2013-08-08 | Nokia Corporation | Method and apparatus for video coding |
CN104303501A (zh) * | 2012-04-03 | 2015-01-21 | 高通股份有限公司 | 用于视频译码的量化矩阵和解块滤波器 |
US20170230656A1 (en) * | 2016-02-05 | 2017-08-10 | Apple Inc. | Sample adaptive offset systems and methods |
US20170272758A1 (en) * | 2016-03-16 | 2017-09-21 | Mediatek Inc. | Video encoding method and apparatus using independent partition coding and associated video decoding method and apparatus |
CN107211154A (zh) * | 2015-02-11 | 2017-09-26 | 高通股份有限公司 | 译码树单元级自适应环路滤波器 |
US20180098065A1 (en) * | 2016-10-04 | 2018-04-05 | Qualcomm Incorporated | Peak sample adaptive offset |
WO2018068744A1 (en) * | 2016-10-14 | 2018-04-19 | Mediatek Inc. | Method and apparatus of smoothing filter for ringing artefact removal |
CN108028936A (zh) * | 2015-09-21 | 2018-05-11 | 高通股份有限公司 | 视频译码中成分的范围调整的固定点实施 |
US20180160134A1 (en) * | 2016-12-01 | 2018-06-07 | Qualcomm Incorporated | Indication of bilateral filter usage in video coding |
US20180184127A1 (en) * | 2016-12-22 | 2018-06-28 | Qualcomm Incorporated | Determining neighboring samples for bilateral filtering in video coding |
US20180184126A1 (en) * | 2016-12-22 | 2018-06-28 | Qualcomm Incorporated | Deriving bilateral filter information based on a prediction mode in video coding |
CN108259899A (zh) * | 2016-12-28 | 2018-07-06 | 富士通株式会社 | 视频编码设备和方法、视频解码设备和方法 |
US20180220130A1 (en) * | 2017-01-27 | 2018-08-02 | Qualcomm Incorporated | Bilateral filters in video coding with reduced complexity |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2536429B (en) * | 2015-03-13 | 2018-01-10 | Imagination Tech Ltd | Image noise reduction |
WO2017065422A1 (ko) * | 2015-10-12 | 2017-04-20 | 엘지전자(주) | 영상 처리 방법 및 이를 위한 장치 |
-
2019
- 2019-08-30 US US16/557,471 patent/US11064196B2/en active Active
- 2019-09-03 WO PCT/US2019/049292 patent/WO2020051115A1/en active Application Filing
- 2019-09-03 CN CN201980055797.6A patent/CN112640454B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006287848A (ja) * | 2005-04-05 | 2006-10-19 | Nippon Telegr & Teleph Corp <Ntt> | スケーラブル符号化方法,スケーラブル復号方法,これらの装置,およびそれらのプログラム,並びにそれらのプログラムを記録したコンピュータ読み取り可能な記録媒体 |
US20110249894A1 (en) * | 2010-04-09 | 2011-10-13 | The Boeing Company | Method, apparatus and computer program product for compressing data |
US20130127844A1 (en) * | 2010-07-19 | 2013-05-23 | Frauhofer-Gesellschaft zur Foerderung der angerwandten Forschung e.V. | Filling disocclusions in a virtual view |
CA2863131A1 (en) * | 2012-02-01 | 2013-08-08 | Nokia Corporation | Method and apparatus for video coding |
CN104303501A (zh) * | 2012-04-03 | 2015-01-21 | 高通股份有限公司 | 用于视频译码的量化矩阵和解块滤波器 |
CN107211154A (zh) * | 2015-02-11 | 2017-09-26 | 高通股份有限公司 | 译码树单元级自适应环路滤波器 |
CN108028936A (zh) * | 2015-09-21 | 2018-05-11 | 高通股份有限公司 | 视频译码中成分的范围调整的固定点实施 |
US20170230656A1 (en) * | 2016-02-05 | 2017-08-10 | Apple Inc. | Sample adaptive offset systems and methods |
US20170272758A1 (en) * | 2016-03-16 | 2017-09-21 | Mediatek Inc. | Video encoding method and apparatus using independent partition coding and associated video decoding method and apparatus |
US20180098065A1 (en) * | 2016-10-04 | 2018-04-05 | Qualcomm Incorporated | Peak sample adaptive offset |
WO2018068744A1 (en) * | 2016-10-14 | 2018-04-19 | Mediatek Inc. | Method and apparatus of smoothing filter for ringing artefact removal |
US20180160134A1 (en) * | 2016-12-01 | 2018-06-07 | Qualcomm Incorporated | Indication of bilateral filter usage in video coding |
US20180184127A1 (en) * | 2016-12-22 | 2018-06-28 | Qualcomm Incorporated | Determining neighboring samples for bilateral filtering in video coding |
US20180184126A1 (en) * | 2016-12-22 | 2018-06-28 | Qualcomm Incorporated | Deriving bilateral filter information based on a prediction mode in video coding |
CN108259899A (zh) * | 2016-12-28 | 2018-07-06 | 富士通株式会社 | 视频编码设备和方法、视频解码设备和方法 |
US20180220130A1 (en) * | 2017-01-27 | 2018-08-02 | Qualcomm Incorporated | Bilateral filters in video coding with reduced complexity |
Non-Patent Citations (3)
Title |
---|
AKSHAY GADDE ET AL: "CE2.1.3: In-loop bilateral filter", 《JOINT VIDEO EXPERTS TEAM (JVET)》 * |
FREDO DURAND ET AL: "Fast Bilateral Filtering for the Display of High-Dynamic-Range Images", 《ACM TRANSACTIONS ON GRAPHICS》 * |
朱金秀;曹宁;: "视频编解码器中去方块滤波器的实现", 仪器仪表学报 * |
Also Published As
Publication number | Publication date |
---|---|
CN112640454B (zh) | 2023-07-25 |
WO2020051115A1 (en) | 2020-03-12 |
US11064196B2 (en) | 2021-07-13 |
US20200077091A1 (en) | 2020-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200296405A1 (en) | Affine motion compensation refinement using optical flow | |
US11632563B2 (en) | Motion vector derivation in video coding | |
US11962796B2 (en) | Gradient-based prediction refinement for video coding | |
AU2020235622B2 (en) | Coefficient domain block differential pulse-code modulation in video coding | |
CN113508589A (zh) | 视频译码中的组合残差译码 | |
CN113748679A (zh) | 用于视频编解码的帧内块复制合并数据语法 | |
CN114258675A (zh) | 用于视频编码的跨分量自适应环路滤波 | |
US20200288126A1 (en) | Reshaping filter average calculation for video coding | |
CN112673636B (zh) | 将运动向量取整以自适应运动向量差分辨率及提高视频译码中的运动向量存储精度 | |
US11102476B2 (en) | Subblock based affine motion model | |
CN113545058A (zh) | 用于变换跳过模式的系数译码 | |
CN114223202A (zh) | 低频不可分离变换(lfnst)信令 | |
US10999596B2 (en) | Unification of affine motion field derivation and affine motion compensation | |
CN113597762A (zh) | 视频译码中具有非线性自适应环路滤波器的固定滤波器 | |
EP3864843A1 (en) | Quantization artifact suppression by transform domain filtering in video encoding/decoding | |
CN113924776A (zh) | 使用不同的色度格式的具有未经滤波的参考样本的视频译码 | |
CN113545054A (zh) | 视频编解码中子块变换的简化 | |
CN114846796A (zh) | 用于视频译码中的参考图片重采样的环绕偏移 | |
CN114402603A (zh) | 视频编解码中无损/有损编解码模式的rice参数推导 | |
CN112335251B (zh) | 以分组的旁路位元的系数编码 | |
TWI773977B (zh) | 用於視訊寫碼之最後位置寫碼之上下文導出 | |
CN116235498A (zh) | 去块滤波器参数信令 | |
CN114868400A (zh) | 用于视频译码中的常规变换系数的基于方程的莱斯参数推导 | |
CN112640454B (zh) | 用于视频译码的参数化量化噪声感知的双边滤波器 | |
CN117981308A (zh) | 用于高比特深度视频译码的上下文译码语法元素的基于历史的自适应判读 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |