CN101563926A - 图像压缩与解压缩 - Google Patents

图像压缩与解压缩 Download PDF

Info

Publication number
CN101563926A
CN101563926A CNA2007800468414A CN200780046841A CN101563926A CN 101563926 A CN101563926 A CN 101563926A CN A2007800468414 A CNA2007800468414 A CN A2007800468414A CN 200780046841 A CN200780046841 A CN 200780046841A CN 101563926 A CN101563926 A CN 101563926A
Authority
CN
China
Prior art keywords
image
control parameter
classification
cluster
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2007800468414A
Other languages
English (en)
Other versions
CN101563926B (zh
Inventor
F·卓
S·德韦尔
W·H·A·布鲁尔斯
K·J·G·欣南
M·J·弗伯恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN101563926A publication Critical patent/CN101563926A/zh
Application granted granted Critical
Publication of CN101563926B publication Critical patent/CN101563926B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/179Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

定义像素的聚类以便使用于图像压缩和解压缩。被使用来定义聚类的图像信息可包括在相对于像素的预定位置处的像素值、或相关的运动矢量、梯度、纹理等等。在图像压缩期间,相对于像素的图像信息被检验,以便确定它所属于的聚类。因此,像素可以按照用于其图像信息的聚类而被分类。在一个实施例中,聚类的定义根据图像内容而被动态地选择。对于每个聚类,计算一个控制参数组以用于后处理操作,诸如是用于滤波的滤波器系数、或用于本地生成纹理的统计数据。控制参数组根据图像内容而被选择成使得在解压缩后当后处理操作被应用于图像时,将改进对于被分类为属于该聚类的像素的图像质量。压缩的图像和控制参数组被传送到解压缩设备。在解压缩后,代表解压缩的图像的图像信息被检验,以便按照聚类来分类像素,以及用于所选聚类的不同的控制参数组被使用来控制在所述像素的位置处的后处理。

Description

图像压缩与解压缩
发明领域
本发明涉及用于图像压缩和解压缩的方法和设备。
发明背景
不但在视频压缩的上下文中而且对于个体图像,有损图像压缩的方法是已知的。主要的例子是在各种MPEG和JPEG压缩/解压缩标准中定义的方法,它们包括图像数据的粗量化。这些有损压缩方法引入了伪像(artefact),即,在原始图像与经压缩和解压缩之后得到的重建图像之间的差异。
在S.Wittmann和T.Wedi的、在18th meeting of the Joint Video Team(JVT)of ISP/IEC MPEG&ITU-T VCEG上的、题目为“Post filter SEImessage for 4:4:4 coding”的出版物(document number JVT S030)中已经描述了减小这些差异的方法。
在这份出版物中,提出了把定义用于FIR(有限脉冲响应)后滤波器的滤波器系数的消息添加到MPEG视频流,以便减小压缩伪像,其中所述FIR后滤波器要在译码器一侧被应用于译码的图像。使用了维纳滤波,也就是说,定义了对于在原始图像与经后滤波的解压缩图像之间的差异的统计测度(measure),并且选择滤波器系数,以便它们使这个测度的值最小化。正如可指出的,这意味着,滤波器系数的值取决于图像的内容。在编码器中计算滤波器系数,并将之包括在视频流中。译码器从所述流中提取系数,并使用所提取的系数来施加后滤波。
不幸的是,这种类型的后滤波只提供压缩伪像的有限减小。
发明概要
本发明的目的尤其是提供一种减小压缩伪像的方法。
提供了按照权利要求1的解压缩设备。这里,对于在解压缩图像中多个像素的每一个,根据相对于该像素的相应窗口中的图像内容来分类像素。所述分类被使用来从随图像一起被传送的多个控制参数组中选择一个控制参数组。所选择的控制参数组被使用来控制对于像素的后处理。以这种方式,使得有可能在图像的不同像素处使用不同的后处理。在检测到不同类别的特征的像素处,例如可以使用不同的控制参数组来进行后滤波。类似地,在出现不同方向的梯度的地方,可以使用不同的控制参数组来进行后滤波。
在本发明的框架内,“后滤波”和“后处理”包括在图像的完全译码之后,即在完全的译码处理过程之后的滤波和处理。经常使用循环过程来译码图像,其中在初始译码后执行循环过程,以便得到最后的译码的图像。最后的译码的图像接着在环外(out-of-loop)被滤波。本发明的这样的‘环外的’实施例形成优选的实施例组。
在本发明的构思内,也包括环内(in-loop)滤波器的应用,例如,也包括解块(deblocking)滤波器的环内应用。在初始译码步骤之后接着在环内应用“后滤波”。本发明的这样的‘环内’实施例也形成优选的实施例组。
在实施例中,控制参数组连同压缩的图像一起被复用成图像流。替换地,当解压缩设备的用户已预订以接收要施加后处理的图像时,控制参数组和压缩的图像可以分开地提供到解压缩设备,例如,提供到解压缩设备的输入的分开的子输入。
在实施例中,后处理包括用滤波器——例如有限脉冲响应滤波器——按由控制参数组定义的滤波器系数进行滤波。但替换地,可以使用其它形式的后处理,诸如用由控制参数组定义的统计参数进行纹理的本地添加。
提供了按照权利要求18的压缩设备。这个压缩设备为不同类别选择控制参数组,并把它们添加到压缩的图像信号。在一个实施例中,该压缩设备还根据图像的内容来选择类别定义,并把它添加到压缩的图像信号。所述类别定义可包括例如在解压缩图像的窗口中的像素值的代表性矢量。在一个实施例中,为多个输入图像共同地计算多个控制参数组。以这种方式,控制参数组可以被再利用(reuse)于不同的图像。这减小了压缩的信号所需要的带宽。控制参数组可以根据在输入图像与由解压缩的图像信号定义的解压缩图像之间的差异而被选择,以便对定义这个差异的后处理操作进行定义。
附图简述
从将要使用以下的附图予以描述的示例性实施例中,将明白这些和其它目的以及有利的诸方面。
图1显示压缩设备;
图2显示解压缩设备;
图3显示后滤波器的实施例;
图3a图示像素的聚类(cluster);
图3b和3c图示正面效果;
图4显示解压缩设备;
图5显示参数估计器16的图;
图6显示后处理器;
图7显示压缩-解压缩***;
图8显示压缩设备;
图9显示解压缩设备;
图10显示压缩-解压缩***;
图11图示其中梯度被用作为选择准则的实施例;
图12图示当梯度被用作为选择准则时聚类中心(cluster center)的位置;
图13图示使用梯度作为选择准则的优点;
图14图示分级结构;
图15a、15b和15c图示使用解块功能的另一个实施例;
图16图示被使用来决定像素p0和q0是否与子块边缘BE相邻的条件的例子;
图17提供比特率减小的测量结果;
图18图示另一个实施例;
图19图示显示旋转对称性的图案;
图20图示显示就移位来说的对称性的图案;
图21图示显示就翻转来说的对称性的图案;
图22a到22c图示显示在变换下的不变性的图案的例子;
图23示意性地图示一种信号。
实施例详细说明
图1显示一种压缩设备。该压缩设备包括流输入10、压缩器12、解压缩器14、参数估计器16、流复用器18和压缩流输出19。压缩器12具有被耦合到流输入10的输入和被耦合到流复用器18的输出。解压缩器14具有被耦合到压缩器12的输出的输入。参数估计器16具有被耦合到流输入10和被耦合到解压缩器14的输出的输入。参数估计器16具有被耦合到流复用器18的输出,用于提供参数数据17。流复用器18具有被耦合到压缩流输出19的输出。
图2显示一种解压缩设备。该解压缩设备包括压缩流输入20、流分用器(demultiplexer)22、解压缩器24、后滤波器26和解压缩的输出28。流分用器22具有被耦合到压缩流输入20的输入、以及被耦合到解压缩器24的输入与后滤波器26的控制输入的输出。后滤波器26具有被耦合到解压缩器24的输出的信号输入、以及被耦合到压缩流输出的输出。
在这两个图上,仅仅显示了与图像压缩和解压缩相关的部件。应当理解,可以存在例如用于音频压缩与解压缩、数据管理等等的其它部件。而且,应当意识到,不同的部件可以通过使用一个或多个可编程处理电路来实施,该可编程处理电路通过一个程序被编程为使得该处理电路作为相关的部件运行。一个可编程处理电路可被使用来在不同程序的控制下作为所述部件中不同的部件运行,或者可以使用不同的处理电路。作为替换例,所述部件可以通过使用专用电路来实施,或是作为被编程电路和专用电路的混合体而被实施。
在运行时,压缩设备产生压缩的流,且压缩流被施加到解压缩设备。可以使用任何方式的耦合。例如,来自压缩设备的压缩流可以被广播,或经由任何介质(未示出)一对一地传送,并被提供到解压缩设备,或者它可以被存储在存储装置中,然后从存储装置被施加到解压缩设备。当然,可以使用存储和广播或传输的任何混合。
压缩器12和解压缩器14、24执行图像的压缩和对应的解压缩。可以使用任何形式的压缩和解压缩,例如象由任何MPEG标准定义的。流复用器18把压缩的图像数据与任何想要的其它数据组合成压缩流。流分用器22提取压缩的图像数据,并把所提取的数据提供到解压缩器24。解压缩器解压缩图像数据,并把解压缩的图像数据提供到后滤波器26。后滤波器26对该数据进行滤波,并输出经滤波的图像数据,其例如可被使用来控制显示设备(未示出)以在屏幕上再现图像。
虽然复用器18和分用器22被显示,使得压缩的图像和用于后处理该图像的控制参数组可被组合在一个图像信号中,但应当意识到,压缩的图像和控制参数组也可以被分开地提供,例如通过给压缩设备和解压缩设备提供用于这些信号的分开的子输出和子输入来进行。这具有需要更复杂的转移信号的方法的缺点,但它具有如下优点:控制参数组可以在不需要时被省略,例如压缩的图像被带有和不带有后处理选项地给订户提供。
后滤波
参数估计器16选择用于控制由后滤波器26进行的后滤波的参数。参数估计器16把选择的参数提供到流复用器18,流复用器18把该参数添加到压缩流中。流分用器22提取参数,并把提取的参数提供到后滤波器26。后滤波器26使用所述参数来控制后滤波。
图3显示后滤波器的实施例。在这个实施例中,后滤波器包括窗口收集器30、聚类选择器32、聚类定义存储器34、系数存储器36、控制接口38和FIR滤波器39。窗口收集器30被耦合到解压缩器(未示出)的输出,并且具有被耦合到FIR滤波器39的输出。聚类选择器32具有被耦合到窗口收集器30和聚类定义存储器34的输出的输入。聚类选择器32具有被耦合到系数存储器36的输入的输出。系数存储器36具有被耦合到FIR滤波器39的系数输入的输出。控制接口38具有用于接收来自流分用器(未示出)的控制数据的输入、以及被耦合到聚类定义存储器34和系数存储器36的输出。虽然图1的各种单元,诸如存储器34、36,被显示为是后滤波器26的一些部分,但应当理解,它们也可以被看作为是解压缩设备的分开的部分,而不是后滤波器的部分。
在运行时,窗口收集器30为在图像中像素位置的移动窗口(例如,3×3像素位置窗口)中的像素位置收集像素值。窗口收集器30把对于窗口的像素值施加到FIR滤波器39。FIR滤波器39将输出像素值计算为像素值与滤波器系数的乘积的和值。对于窗口中的各个位置,依据像素值和与该位置相关联的滤波器系数来计算每个乘积。乘积的和值可被归一化,并作为对于一个对应于窗口位置的像素位置的、经后滤波的像素值而被输出。这对于一系列窗口位置重复进行,以产生对于在相对于窗口位置的预定相对位置处(例如,在3×3窗口的中心点处的输出像素位置,但可以使用其它预定的相对位置)的一系列像素位置的输出像素值。
聚类选择器32和系数存储器36控制被FIR滤波器39使用的系数。在聚类定义存储器34中的信息定义多个聚类,每个聚类对应于在窗口中的像素值的一组可能的组合。系数存储器36存储对于每个聚类的相应的滤波器系数组。聚类选择器32接收由解压缩器(未示出)产生的、在当前窗口中的像素值的组合,并依据这些像素值,聚类选择器32对窗口的内容分类,也就是,确定这个组合所属于的聚类。聚类选择器32使用这个聚类的标识来寻址系数存储器36,并且作为响应,系数存储器36把对应的滤波器系数组提供给FIR滤波器39。这对于一系列窗口位置重复进行。因此,对于每个窗口位置,按照窗口位置的分类(对于该窗口位置而选择的聚类)来滤波像素值,以产生对于相应像素位置的输出像素值。
在一个实施例中,聚类定义存储器34存储对于每个聚类的像素值的代表性组合。在这个实施例中,聚类由到这些代表性组合的距离来定义。像素值的任何给定的组合到像素值代表性组合中的不同组合具有不同的距离。给定的组合属于聚类中具有处于最短距离的代表性组合的那一个聚类。
在这个实施例中,聚类选择器32通过识别在最小距离上的代表性组合而进行分类。在另一个实施例中,仅仅使用像素值的亮度分量来定义聚类。因此,例如,如果使用3×3窗口,则每个代表性组合包括9个亮度值
(Y1(j),Y2(j),...Y9(j))
这里,“j”是聚类的标号。在这个实施例中,聚类选择器32接收对于在当前窗口中的像素位置的亮度值(L1,L2,...L9),并选择使得以下距离最小化的聚类j:
|L1-Y1(j)|+|L2-Y2(j)|+...+|L9-Y9(j)|
(||表示绝对值)。在这个实施例中,聚类选择器32使用标号j来选择滤波器系数组。
图3a显示其中几个关键帧被选择用于找出滤波器系数的场景的例子。用于聚类的特征矢量是在如上所述的围绕像素的本地3×3窗口中的亮度。图3a中的上部的行给出原始帧,底部的行给出译码的帧。几个聚类的单元被在底部行上指示。这些聚类包括具有相似图案的区域或像素。在本例中,使用20个聚类。图3a显示了把相似的图案聚合成聚类。聚类被散布在图像上,经常是这样,因为聚类由图像上的相似的图案组成。聚类算法可以是基于用来找出相似图案的不同方案和公式。在本例中,算法是基于亮度值。
图3b显示对于这种情景的正面效果。在一个曲线图中,形成平均的PSNR-Y,它是对于失真的测度。曲线A图示对于译码的信号的PSNR-Y值;曲线B图示在应用聚类并施加自适应滤波器后的PSNR-Y值。平均的PSNR-Y值从32.38dB增加到32.89dB,有0.5dB的改进。
应当指出,在帧315附近存在场景改变,以及在所述场景改变之后,先前的场景的聚类不再是最佳的。对降级的检测可被使用来动态地更新聚类选择和对应的滤波器系数。在离线情况下,可能的场景改变可以通过场景划分而被预先确定。
图3c图示对于H.264编码的视频的PSNR-Y值的增加,该PSNR-Y值是作为比特率的函数。在所有的比特率下,存在PSNR-Y值的显著的增加。
图3d图示作为聚类数目的函数的PSNR-Y值的增加。优选的聚类数目是5或更高,最优选地小于30。当聚类数目增加时计算负荷增加,而附加增益变为更小。
在本例中,对于一个视频场景,后处理函数包括40个浮点数(聚类中心和滤波器系数)。这个信息可被进一步量化并被熵编码,以便进一步减小比特代价。考虑可以用相同的数据进行后处理的图像帧(属于一个场景)的量,这个额外的代价在实际的意义上可被忽略,而好处是相当大的和可测量的。
应当强调指出,这个实施例仅仅是一个例子。可以使用任何其它的定义聚类的方法。例如,来自窗口中不同位置的像素值在计算距离时可以被不同地加权,或者颜色分量可以被不同地加权(例如,通过仅仅使用一个颜色分量来聚类)。代替绝对值的和,例如可以使用平方和。
代替使用到一组亮度值的距离,可以使用到亮度值组合与亮度值的标准矢量的一组标量积的距离等等。代替对于个体聚类的代表性矢量,可以使用参考矢量的***来控制沿着决策树的在聚类组之间的选择。代替提供代表性矢量,可以提供不同的矢量来用于在聚类或聚类组等等之间进行选择。这里“对矢量进行分类”将被使用于任何这样类型的分类,而不管所述分类是通过首先把矢量的相关分量分组成一个矢量、还是仅仅通过考虑这些分量而被执行的——在“分类”的上下文中,术语“矢量”被使用来表示:多个分量被使用于分类。对应地,聚类选择器32可以使用其它方法来选择在分类时被使用的聚类和“聚类矢量”的分量。
虽然描述了其中聚类是藉助于对于邻接像素位置的窗口的解压缩值Y1、Y2、...而被选择的实施例,但应当意识到,替换地可以使用对于位置的不同组合的信号值。例如,替代使用来自3×3窗口的个体像素值的组合,可以使用平均像素值的组合,其中每个平均像素值用于一组像素位置块中的相应的一个。例如,在8×8像素块的3×3窗口中的这样的8×8像素块。作为另一个例子,替代使用来自3×3窗口的个体像素值的组合,可使用子采样值来选择聚类,其中所述子采样值来自相对于当前像素位置的预定的非邻接位置。
作为再一个例子,可使用以下的步骤来得出类别:
1.从给定的图像信息中提取来自构成该图像信息的译码帧子集的每一个像素的所有M×M邻居窗口。每个窗口由一个特征矢量x’代表,该特征矢量x’由其亮度组成。该矢量可以通过从每个矢量减去所有分量的平均值而被归一化。因此,围绕一像素的4×4窗口由一个16维矢量代表,该16维矢量在它的所有轴上具有0....255的数值(对于256种颜色)。5×5窗口由25维矢量代表等等。
2.把该特征矢量采样成预定义的类别数目N,以使得总计类别内方差
V = Σ i = 1 N Σ x ′ ∈ C i | x ′ - μ i ′ | 2 ‾
在上文中有总共N个类别Ci(1≤i≤N),x’是16或25维矢量(分别对于4×4,5×5窗口)的样本,以及μi’是属于类别Ci的所有矢量x’的平均矢量。这样的分类可以通过使用迭代方法而容易地进行。结果,找到每个类别或聚类的中心,表示相同的,即,多个单元的聚类和类别。这个中心被存储来代表该类别。最接近每个中心的矢量形成一个聚类或类别的一部分。在本例中,使用平方和,在先前的例子中,使用绝对值的和。在每个例子中,使用总共N个类别。
3.对于每个被标识的类别,确定滤波器系数。滤波器对于译码帧的应用提供了对于在译码的低res帧中每个像素的新像素值p”,p”是基于该像素的M×M邻居。目标是使得对于在每个类别中的所有样本,预测的值p”与对应的原始像素值p之间的MSE(均方误差)最小化。这可被看作为一个标准的最小平方问题,它可以通过多变量线性回归或用来求解最小平方问题的其它已知的技术而被解决。
基于5×5窗口和总共5个类别来使用滤波器,与其它已知的技术相比较,发现有约1dB的PSNR-Y值的典型的改进。
另外,用于选择聚类的窗口不一定与在FIR滤波器中使用的窗口相同。虽然优选地,这些窗口至少重叠,以使得对于一像素位置的选择的滤波器系数依赖于该位置的一个接近的范围,但聚类也可以基于与由FIR滤波器所使用的窗口不重叠的窗口进行选择。
而且,代替使用像素值(或除了使用像素值以外),可以使用运动矢量来对位置进行分类。正如本身已知的,在视频流中的图像可以按照像素块的运动矢量进行编码,该运动矢量为每个块定义块在另一个图像中的位置,像素必须从该图像复制到所述块中。在一个实施例中,在相对于一像素位置的预定位置处的多个块的运动矢量可被使用来把该像素位置指派给聚类。这可以以几乎与按照像素值进行聚类相同的方式完成。
图4显示一个实施例,其中解压缩器24包括图像解压缩器240、运动矢量提取器242和参考图像存储器244。这里,运动矢量提取器242从进入的视频信息中提取运动矢量,并把提取的运动矢量提供到图像解压缩器240,以指示必须从参考图像存储器244中的何处取装像素块。另外,所提取的运动矢量被提供到聚类选择器32,它使用在对于相对于一像素位置的预定位置处的块的“运动矢量的矢量”与对于不同聚类的运动矢量的代表性矢量之间的运动矢量差异。当然,基于运动矢量的聚类选择也可以通过除确定与代表性矢量的差异之外的其它方法而被执行。另外,应当认识到,对于运动到图像的运动矢量和/或对于运动自图像的矢量都可以被使用于聚类。而且,虽然优选地可以使用来自视频流的编码的运动矢量,但应当意识到,替换地,可以使用以预定的方式从视频流的图像的图像内容确定的运动矢量。
在另一个实施例中,选择器32可以使用与包含像素值和运动矢量的代表性矢量的差异,其中在确定差异时对于代表性矢量的不同分量可以使用不同的权重。
应当指出,所使用的聚类是在窗口中像素值的可能组合的空间中的聚类,而不是像素位置的聚类。实际上,已看到,在相邻窗口位置处对于窗口的像素值的组合常常导致相同的聚类选择,但这并不定义聚类。即使--在图像区域具有一些窗口位置、其大部分有一个指派的聚类时--该区域中的许多窗口位置具有不同的指派的聚类,这种后滤波的形式也很适用。最终,是经滤波的像素值,而不是被使用来获得它的聚类有重要性。
而且,虽然作为例子使用了FIR滤波器39,但应当意识到,可以代之以使用其它类型的滤波器。例如,可以使用非线性滤波器,或使用其中输出依赖于对于一个或多个相邻位置的滤波器输出的递归滤波器。另外,当然,可以使用3×3之外的任何其它尺寸的窗口,例如,使用3×1尺寸的窗口(水平方向三个像素位置和垂直方向一个像素位置)。
在前述的例子中,定义图像的信息,诸如像素值、运动矢量等等,被使用来选择聚类。另外,明显的聚类选择信息也可以被包括在压缩的图像信号中。这增加了信号的尺寸,但它可有助于简化分类。在一个实施例中,这样的明显的聚类选择信号可以是由解压缩设备使用来选择聚类的最合适的信息。
可以使用后滤波器的部件的任何方便的实现。在一个例子中,后滤波器使用在存储器中的完整存储的图像,窗口收集器30从存储器中检索用于窗口的像素值。在另一个实施例中,窗口收集器30仅仅缓冲来自足够数目的图像行的像素值,以便提供用于窗口的像素值。不同的部件可以通过使用一个或多个可编程处理电路而被实施,该可编程处理电路通过程序被编程为使得该处理电路作为相关的部件运行。一个可编程处理电路可以在不同程序的控制下被使用来作为所述部件中不同的部件运行,或者可以使用不同的处理电路。作为替换例,所述部件可以通过使用专用电路来实施,或是作为编程的和专用的电路的混合体而被实施。
如所显示的,后滤波器26及关联部件是完整解压缩设备的一部分。然而,应当意识到,它可以被实施在分开的设备中。在一个实施例中,这样的设备可被用作为在诸如移动电话那样的移动设备和更高质量的显示设备(例如,电视监视器)之间的接口。在另一个实施例中,解压缩设备可以重新压缩后滤波的结果,以便生成改进质量的视频流。
参数估计
图5显示参数估计器16的图。参数估计器16包括聚类单元40、窗口收集器42、系数选择器44和输出接口46。系数选择器44具有被耦合到流输入10和经由窗口收集器42被耦合到解压缩器14的输入,以及具有被耦合到聚类单元40的控制输入。
在运行时,系数选择器44选择用于各自聚类的滤波器系数组。对于每个聚类,可以选择一个系数组,它使得差异的平均测度最小化,所述差异是指在来自流输入10的像素值与通过使用滤波器系数组来后滤波由压缩器12和解压缩器14进行的压缩和解压缩的结果而得到的像素值之间的差异。差异的平均测度是在被指派给相同聚类的像素位置上取平均。例如可以使用均方差,但可以使用任何其它测度,诸如感性差异的统计测度。用于选择系数组使得对于给定像素组的平均测度最小化的技术本身是已知的。
聚类单元40确定把像素指派给哪些聚类。这可以以对应于在解压缩设备中的聚类选择的方式来完成。在一个实施例中,聚类单元40还选择聚类。可以使用任何聚类技术(对于聚类,我们不仅仅是指盲寻找分开的聚类,而且分类到预定义聚类也将起作用)。通过使用多个不同的聚类,与使得在各个聚类内后滤波的结果与原始像素值之间的差异最小化的滤波器系数组相组合,可以保证在后滤波的图像与原始图像之间的差异的总测度(例如,平方差的和值)小于在对整个图像使用单一滤波器系数组的情况下得到的测度。这已经减小了对于任意选择的聚类的总的差异。然而,在几个实施例中,聚类被选择来使得差异的减小最佳化。聚类的选择可以在选择用于该聚类的滤波器系数之前执行,或与滤波器系数选择相组合地执行。
本发明的总的构思是基于通过施加图像最佳化/训练的滤波器组中的特定一个滤波器——所述滤波器的系数/参数被添加到信号上,而分析在原始图像中存在哪种结构,以及压缩的版本可如何在译码器一侧被改进(例如,典型地看起来更像原始的;或总体上具有更高的图像质量,例如,更高的锐度)。仅仅需要传送有限的额外数据来规定那些滤波器;以及例如,在其上施加那些滤波器中的一些的一对图像位置。
本发明构思的许多变例是可能的,许多变例在下面被描述,这样的变例可以改进现有的编码方案,诸如H265。
通常,人们可以把所有出现的结构简单地分类成几个类别(例如,边缘,高频水平纹理,...),但在本发明的更广义的构思内,人们可以以更加结构化的/分层次的参数方式进行分类,包括分层次的构建,例如首先找出哪种类型的分类是最适用的,然后执行分类,或者还重新分类或不同地分类,例如聚类和对应的滤波器或后处理参数的选择可以以迭代方式完成。
在第一步骤,可以定义聚类,随后定义与聚类相关联的后处理参数。
本方案通常将提供良好的结果,但在本发明的框架内,可以应用迭代过程。例如,找出试行的聚类,找出对于试行聚类的滤波器参数组,精细化聚类以找出更适当的聚类,精细化滤波器参数组等等;
多个可能的迭代过程例如是:
-初始地,聚类内的所有单元被给予相同的权重,用于确定后处理参数。一旦确定初始的参数组和对应的聚类中心,则提供对于在原始像素值与后处理后的像素值之间的平均差异的初始结果,取决于到聚类中心的距离测度,可变的权重例如以预定的但可调节的方式被加于聚类内的每个单元。使用这样的权重,滤波器系数被重新计算;如果结果改进,则过程被反复进行,直至得不到进一步的增益或增益的增加降低到阈值以下为止。这个方案的简单实施例是从对于聚类或后处理参数的计算中去除聚类内的‘奇数’点,即,对于这样的单元将权重设为零。
-其中,在以上的实施例中,聚类的单元保持不变,但它们对于系数的计算的影响被改变,替换的方案是保持所确定的滤波器系数不变以及聚类中心不变,但把单元从一个聚类移到另一个聚类,由此移位在聚类之间的边界,并重新计算在原始像素值与后处理后的像素值之间的差异。如果有改进,则边界再稍微地进一步移位。
-用以定义聚类中心和聚类的方式取决于聚类算法。正如上面以及下面说明的,有各种可能的聚类算法,不同点在于它们的聚类基础(根据像素值、根据运动矢量、根据边缘、根据纹理等等)以及用以确定聚类的方式(绝对值的和值的最小化,或平方和值的最小化)。另一个实施例是使用组合各种准则(诸如像素值和运动矢量和/或另外的准则)的聚类算法,以及使用这样的准则的混合,其中在迭代过程中找出准则的最佳混合和对应的参数组。
在本发明的框架内,还包含在编码一侧处快速找出最佳滤波器的变例,例如,通过在系数空间各处跟踪Pinput/Pcompressed的谱分析。
在一个实施例中,聚类单元40应用聚类技术来识别像素值的代表性组合,该代表性组合定义可能组合的空间到处于与各个代表性组合的最接近距离处的部分的划分。代表性组合是根据预定的聚类质量准则选择的。聚类质量准则例如可以是:在每个划分部分中实际观察到的组合的数目在某些预定的误差容限内是相同的,或在每个划分部分内实际观察到的组合的散布的测度(例如,离中心像素值的平方距离的和值)低于阈值。例如,可以使用对在窗口中出现的解压缩像素值的组合分组的K均值聚类算法。通过使用这样的聚类,保证每个滤波器系数组应用到具有相似内容的窗口。这使得后滤波后的误差最小化。
在再一个实施例中,使用了一种聚类方法,该聚类方法使用基于后滤波后的剩余误差的质量准则。在这样的实施例的例子中,作出聚类的初始定义,对于每个聚类选择出滤波器系数组,以及计算对于不同的像素位置的剩余误差的大小。如果一聚类的平均尺寸大于阈值,则该聚类被分割,从原始聚类取两个实际观察到的组合作为新的代表性组合。同样地,如果相邻聚类中的误差的平均大小低于阈值,和/或在对于这些聚类的滤波器系数组之间的差异低于阈值,则聚类可被合并。通过重复进行这个过程许多次,聚类组可被最佳化。这是迭代过程的另一个例子。
输出接口46具有被耦合到聚类单元40和系数选择器44的输入。输出接口46把代表聚类和滤波器系数的信息提供到流复用器18,用于提供到解压缩设备,在那里它们将被后滤波器26使用。
在其中视频图像流被压缩的一个实施例中,对于流中的每个图像选择聚类和系数。然而,这并不是必须的。聚类和系数典型地是与场景相关的。当场景(或类似的场景)被拍摄到一系列图像中时,相同的聚类和系数可被使用于所有的这些图像。在另一个实施例中,参数估计器16被配置成检测在其中可以使用相同的聚类和系数的图像组,以及仅仅当聚类和系数被改变时用信号通知。在这种情形下,后滤波器26保持先前接收的聚类定义和滤波器系数组,并施加它们以后滤波解压缩图像,直至被用信号通知聚类和系数改变为止。
在这个实施例中,参数估计器16可以通过使用对于每个进入的图像的当前组而计算在后滤波后的剩余误差的大小,以及仅仅在所述大小超过阈值时(以及,可选地,也在自从上一个新的系数和聚类组以来预定数目的图像后),才切换到新的系数和聚类组的计算。在另一个实施例中,参数估计器16可以首先选择视频流的部分,以及计算对于每个部分的系数和聚类组。在这种情形下,参数估计器16可以通过仅仅处理该部分中的图像之一或该部分中的图像子集而选择聚类和系数。
作为替换例,可以通过按照预定的函数来评估图像特性、并且如果图像特性的不同小于预定的阈值则把图像指派给同一个组,从而检测所述的组。可以接收每个新接收的图像的图像特性,并把这些图像特性与对其使用系数和聚类的当前组的图像的那些图像特性进行比较,如果图像特性的不同小于预定的阈值则该系数和聚类组保持不变。
在一个实施例中,对于不同地压缩的图像和/或不同的目标平面,可以使用不同的系数和聚类组。因此,例如,对于内部编码的图像(在MPEG的情形下的I帧)可以定义第一系数和聚类组,以及对于藉助于从附近的图像和可选的残余(residue)的预测而被编码的图像(在MPEG的情形下的P帧和B帧)可以定义第二系数和聚类组。作为另一个例子,如果图像内容在视频流中对于可被重叠来形成输出图像的多个平面来定义,则不同的系数和聚类组可被使用于不同的平面。
在一个实施例中,对于这些图像或平面,聚类组可以是相同的,但可以使用不同的系数,每个系数被选择成减小在不同类型的帧中的误差。在这个实施例中,后滤波器26同时存储多个聚类定义和/或系数,并根据编码类型(I或B,P)和/或平面从该多个聚类定义和/或系数中进行选择。同样地,参数估计器16根据编码类型和/或平面选择聚类和系数。
在一个实施例中,解压缩设备被配置成把多个聚类组和/或系数同时存储在例如后滤波器26中的聚类定义存储器34、以及系数存储器36。解压缩设备根据组选择信号从多个存储的组中选择当前的组,以便用来后滤波当前的图像。可以根据从压缩设备提供的选择信号、或根据图像和/或平面的类型,而从流分用器22提供所述的组选择信号。
在另一个实施例中,压缩设备被配置成存储对应的多个聚类组和/或系数。当新的图像(或目标平面)被接收时,参数估计器首先测试它是否可被指派给所存储的聚类组和/或系数之一。这例如可以通过以下操作来完成,即:压缩新的图像、将它解压缩、按照每个存储的系数和聚类组对它进行后滤波、把结果与原始的新图像进行比较、选择导致最小差异的聚类组和系数。如果这个差异低于预定的阈值,则压缩设备用信号通知解压缩设备:应当使用所选择的系数和/或聚类组。然而,替换地,系数和/或聚类组的选择可以通过以下方式而被执行,即:按照某些预定的图像特性来分类新的图像,并且选择与所选图像类别相关联的系数和/或聚类组。
当在新的图像与压缩、随后解压缩并用所选系数和/或聚类组进行后滤波的结果之间的差异超过阈值时,估计新的系数和/或聚类组并将之传送到解压缩设备,用来取代在存储器中的先前的系数和/或聚类组,该先前的组在压缩设备和解压缩设备中按照相同的准则来选择,例如是通过在从压缩设备到解压缩设备的信号中明确地标识这个先前的组、通过使用最近使用最少的组或最类似的组等等来选择。
虽然描述了其中通过使用由压缩设备指示的信息来控制在解压缩后的后滤波器的例子,但应当理解,也可以使用其它形式的后处理。
图6显示可被用来代替后滤波器26的后处理电路的例子,在这个后处理电路中,添加了(伪)随机信号发生器50和加法器52。随机信号发生器50在来自系数存储器36的一个或多个系数的控制下生成(伪)随机信号。加法器52把这些系数添加到解压缩的信号。随机信号发生器50可被配置成将随机信号的平均值和/或标准偏差、和/或所生成的随机信号的空间相关和/或谱包络和/或其它统计特性作为该一个或多个系数的函数来控制。这样,本地生成的纹理可被添加到解压缩的信号。有关的一个或多个系数在压缩设备的参数估计器中依据在原始图像与解压缩-压缩的图像之间的差异的统计值而被估计。估计出的有关的一个或多个系数从编码设备传送到译码设备。因此,代替传送代表实际像素值的数据,传送代表统计特性的系数。
应当强调指出,这仅仅是纹理生成的一个例子。代替使用(伪)随机信号发生器50,可以使用其它类型的信号发生器来用于把本地生成的信号添加到、或甚至部分地替换解压缩的图像,该本地生成的信号在由解压缩设备用信号通知的系数的控制下被生成。例如,随机发生器可以使用系数来控制一组值,它从其作出随机选择以生成像素值;或控制基本纹理图案,它从其把像素随机地映射到输出信号。为了提供更多的纹理生成自由度,纹理生成可以与如下的实施例相组合,即在该实施例中,藉助对于一组像素位置块中各个像素位置块(例如,对于在这样的块的3×3窗口中,使用例如8×8像素块)的平均像素值的组合的解压缩信号值,或非邻接的像素位置的子采样值来选择系数组。
在又一个实施例中,使用纹理生成与滤波的组合,使系数是在检测出的聚类的控制下被选择。在另一个实施例中,取决于聚类而使用仅仅后滤波或仅仅纹理生成。
在至此所描述的实施例中,诸如后滤波那样的后处理被施加到作为解压缩结果的最终图像。这具有如下优点:可以使用任何形式的压缩和解压缩。然而,应当意识到,替换地,后处理可被施加到解压缩的中间结果。例如,当使用解压缩的频率系数的逆DCT(离散余弦变换)作为解压缩的一部分时,也可以例如通过把对于不同频率的系数乘以不同的因子而将后处理施加到频率系数。类似地,纹理信息可被添加到这样的系数。
参数估计器和后滤波器可以与各种类型的压缩器和解压缩器相组合。在一个实施例中,压缩器是量化压缩器,例如是计算对于像素块的DCT(离散余弦变换)系数并量化这些系数的压缩器,或者是量化像素值的压缩器。在另一个实施例中,压缩器可以是减小图像的空间分辨率的压缩器。对应地,解压缩器可以应用逆量化或内插来重建解压缩的图像。
图7显示施加压缩,包括分辨率缩放(scaling)和量化。这里,滤波器系数组被使用来减小这两种形式的压缩的伪像。图上显示压缩设备66和解压缩设备68。在压缩设备66中,压缩器12包括串联的分辨率缩放器60和量化压缩器61。在一个实施例中,量化压缩器61计算对于像素块的DCT(离散余弦变换)系数,并量化这些系数。分辨率缩放器60可包括抗假频(anti-alias)滤波器和子采样单元。解压缩器包括串联的逆量化解压缩器63和逆分辨率缩放器62。在解压缩设备68中,解压缩器包括在后滤波器26前面的、串联的逆量化解压缩器65和逆分辨率缩放器64。
在运行时,可包括抗假频滤波器和子采样单元的分辨率缩放器60在压缩图像之前,减小用以表示所接收图像的分辨率。逆分辨率缩放器62重建有原始分辨率的图像,或是与被压缩并相继被解压缩的减小分辨率的图像相比有至少更高分辨率的图像。
参数估计器16选择滤波器系数组并可选地选择聚类,以用于后滤波器操作,当所述后滤波器操作被施加到重建的图像时,将使得这些图像更接近地对应于与原始输入图像相对应的图像。
在解压缩设备68中,图像被解压缩,并且随后分辨率被放大(scaleup)。放大的图像通过使用所选择的滤波器系数组被后滤波。虽然后滤波器26和逆分辨率缩放器64被显示为分开的单元,但应当意识到,它们可被集成,滤波器系数定义在放大期间像素值必须如何被内插。
虽然在所示的实施例中,可应用的聚类在放大的图像的像素值的控制下被选择,但应当理解,替换地,聚类可以根据来自解压缩的减小分辨率的图像——即来自逆量化解压缩器65的图像——的像素值而被选择。在一个实施例中,这是在压缩设备66和解压缩设备68中完成的。
在一个实施例中,量化压缩器61和逆量化解压缩器63可以被省略,以使得分辨率减小是压缩的唯一形式。在这种情形下,后滤波器26仅被使用来减小由于分辨率减小和随后重建更高分辨率的图像而引起的伪像。在图7上,后滤波器26被使用来减小由于分辨率减小和量化这两者引起的伪像。
此外,如图8所示,作为替换实施例,分开的后滤波器39a、39b可被串联地用作为在解压缩设备68中的子滤波器,用于校正由于压缩器12所进行的压缩而引起的伪像和由于分辨率缩放器60所进行的分辨率减小而引起的伪像。在这个实施例中,对于这些不同的后滤波操作,可以提供分开的滤波器系数组。这具有如下优点:不同的组可以对于不同的功能被最佳化。在一个实施例中,可以为后滤波器39a、b之中的不同后滤波器定义不同的聚类组,用于后滤波器的后滤波器系数可以被提供用于为该后滤波器39a、b定义的聚类。因此,事实上,对于第一和第二后滤波器39a、39b的组合的聚类定义了对于个体后滤波器的聚类的子聚类。在子聚类中不同的子聚类共享相同的滤波器系数组。替换地,子聚类可以首先被确定,然后被相继地联合成对于所选择的后滤波器的超级聚类,在每个超级聚类中的子聚类共享对于所选择的后滤波器的滤波器系数组。在这种情形下,对于不同的子聚类不需要传送分开的滤波器系数组,这节省了传输带宽。
图9显示用于生成这样的多个组的压缩设备的另一个实施例。在这个实施例中,压缩设备被添加附加参数估计器16a和后滤波器600。后滤波器600被耦合在逆量化解压缩器63和逆分辨率缩放器64之间。附加参数估计器16a具有被耦合到分辨率缩放器60的输出与逆量化解压缩器63的输出的输入,以及具有被耦合到后滤波器600的控制输入及复用器18的输出。
在这个实施例中,附加参数估计器16a用来提供用于减小由于压缩引起的伪像的控制参数组,而参数估计器16用来提供用于减小主要由于分辨率减小和放大而引起的剩余伪像的控制参数组。附加参数估计器16a选择后滤波器操作的控制参数组,其减小在由量化压缩器61进行压缩之前与在逆量化解压缩器63之后的图像之间的差异。在把图像传递到逆分辨率缩放器62之前,后滤波器600把通过这些控制参数组选择的后滤波器操作施加到解压缩的图像。复用器18把这些控制参数组添加到流中,供解压缩设备的后滤波器使用。
可以指出,图9的除了分辨率缩放器60、后滤波器600、逆分辨率缩放器62和参数估计器16以外的部分,基本上等同于图1的压缩设备,其中解压缩器14的输入形成图像输入。如图所示,图9的实施例添加了附加压缩层,具有在解压缩后的对应的参数估计。正如将会意识到的,在每种情形下,参数估计器被使用来通过比较在压缩处理操作之前和在解压缩处理操作——即这个压缩处理操作的逆操作——之后的图像而得出控制参数组。控制参数组是对于本地图像配置的不同的聚类而选择的。
如图9所示,当施加接连的压缩操作时,可以多次地施加参数估计,每一次用于相应的压缩操作。虽然已显示了其中压缩操作是抽取(decimation)和量化的例子,但可以使用其它的压缩操作。在一个实施例中,压缩操作、或为其使用后滤波与参数估计的压缩操作之一,可以是预测性压缩,其中后滤波被施加到藉助于参考——诸如运动矢量、相对于参考图像、或多个参考图像——而表示的图像。
聚类的选择可以由不同的参数估计器分开地执行。在这种情形下,聚类定义信息将被包括在流中用于所有的控制参数组。这使得有可能令聚类选择最佳化,这是以对于流的增加的带宽使用为代价。在替换实施例中,参数估计器共享相同的聚类选择。在这个实施例中,对于接连施加的后滤波器操作,包括对于多个控制参数组的共享的聚类定义信息就足够了。这减小了带宽使用。
图10显示施加预测性压缩,其中后滤波被施加到参考图像。这里,后滤波的解压缩的内部编码的图像被用作为用于预测性压缩和解压缩的参考。该图显示了压缩设备和解压缩设备,每个设备包含用于参考图像的存储器72、74。压缩设备包括被耦合在压缩器14的输出与存储器72之间的后滤波器70。压缩设备的存储器72被耦合到压缩器12的输入。参数估计器16的输出被耦合到后滤波器70的控制输入,后滤波器70的功能类似于解压缩设备的后滤波器26的功能。在运行时,存储器72存储通过按照滤波器系数组进行后滤波而得到的所选图像,以及压缩器12使用存储的图像、根据运动矢量和相对于所存储的图像的可选残余信息来编码其它图像。
同样地,解压缩设备的存储器74被耦合在从后滤波器26的输出到解压缩器24的输入的反馈环中。在运行时,存储器74存储选择的后滤波的图像,以及解压缩器24使用存储的图像来译码根据运动矢量和相对于所存储图像的可选残余信息被编码的其它图像。这样,改进的参考图像被提供来在预测性压缩和解压缩中使用。在预测性压缩和解压缩中,预测的图像可以通过使用仅仅一个参考图像而被预测,但替换地,可以使用依据多个参考图像的预测。
这里描述的方法和设备使得有可能通过在至少部分地解压缩后使用由压缩设备定义的后处理系数进行后处理而减小压缩伪像。后处理的质量通过在图像中不同位置处使用在解压缩图像的内容的控制下选择的不同系数组而被改进。链接低质量和高质量图像的许多应用是可能的,例如,在具有良好的内置照相机的移动电话上拍摄照片,但以较低的质量+辅助信息存储它,然后把它发送给朋友,他将在他的(高清晰度)电视机或PC上看到它。
人们可以将不同的最佳滤波器组用于不同的图片子组。例如,B图片可能需要与I和P图片不同地被滤波。在这种情形下,信号将典型地具有另外的信息例如用来将类别和对应的滤波参数进行分组(实际的格式保留为开放的,因为滤波器可以以许多方式被规定,例如,包含在底层的被滤波区域上执行的过程的算法描述),具有标签,像:B图片:聚类1:系数1,系数2,...;聚类2:系数3,系数4,...;聚类X;I图片:聚类Y:...。
构建的聚类的其它例子可以对压缩参数完成,例如用于高和低量化、或高和低运动等等的不同的组。
以上通过各种选择准则,尤其是像素值、运动矢量、以及像素值与运动矢量而描述了聚类选择。本发明不限于这样的示例性选择/分类准则。
例如,用于自适应滤波的再一个分类准则可以导致显著减小用于译码过程的计算代价,具有更加改进的视觉质量。它也减小在编码处的计算代价,并提供用于分类的更稳定的性能。这样的滤波是基于这样的理解:后处理的序列的质量改进主要集中在具有梯度改变的区域。
在优选实施例中,水平梯度值和/或垂直梯度值被计算,这些值在选择过程中被使用。选择器被配置成通过根据水平梯度值和/或垂直梯度值进行分类而相对于位置来对图像信息分类。
例如,当在编码器一侧得出场景自适应聚类时,代替直接使用归一化的孔径(例如,5×5)窗口作为用于聚类统计的基本图案,通过卷积每个窗口与如下定义的两个索贝尔(Sobel)边缘滤波器(水平和垂直)而计算水平梯度值ex和/或垂直梯度值ey:
-1  -2  -1     -1  0  1
0   0   0  和  -2  0  2
1   2   1      -1  0  1
结果,每个孔径由特征矢量{ex,ey}表示。然后对于这些聚类执行聚类算法,例如K均值。图11显示对于两个序列的两个典型的聚类结果。十字叉表示聚类中心。点显示对于大量点的结果。
已发现的附加优点是:聚类中心对于不同的序列是相当一致的。所以,有可能与序列无关地定义几个聚类轮廓(profile)。例如,在图12上,显示5个聚类轮廓和21个聚类轮廓的示例性定义。这些轮廓的定义是通过平均多个序列的自聚类结果而得到的。在这些二维曲线图上发现,由对于各种不同序列的K均值得出的聚类中心实际上共享如图12所示的非常类似的分布。十字叉表示聚类中心的位置。这允许预先定义聚类中心。
由于聚类轮廓可以被预先定义并因此被标准化,所以不再需要随流传送聚类中心的位置。因此,仅仅随流发送场景自适应滤波器(或更一般地,控制参数组),作为例如辅助信息。应当指出,控制参数组,诸如滤波器的参数,在编码期间仍旧需要对于每个聚类被动态地生成,以便反映不同视频(具有各种不同的场景特性,编码设置值等等)的不同特性。
通过应用以上的方案,在译码器处的节省是明显的:正确聚类的选择被很大地简化,仅仅牵涉到2维特征距离(而不是5×5=25维特征距离)。而且,在使用预定义的聚类轮廓的优选实施例中,例如可以通过预定义的2维查找表T而实施分类,
T(ex,ey)=类别-标签,
其中(ex,ey)是在像素(x,y)处的梯度值,以及T(ex,ey)直接给出对于给定轮廓的它的相关联的类别标签。因此,在译码器一侧,用于聚类选择的计算代价几乎可忽略。
另一个优点是更稳定的分类结果。已证明:梯度特征给出在视觉上比起原始亮度孔径更稳定的本地图案的分类,导致视觉上更吸引人的后处理的序列。
当应用预定义的基于梯度的轮廓时,对于辅助信息的附加比特成本被减小一半,因为不需要传送聚类中心信息。在编码器一侧的计算成本也被减小,因为不用计算自聚类,而仅仅执行MSE最佳化。
在译码器一侧,正确滤波器的选择耗费大部分的计算时间。假设我们使用N个聚类,那么滤波器的选择耗费滤波本身的N倍的计算成本。通过应用基于梯度的方案,滤波器的选择仅仅牵涉到索贝尔卷积和对于正确聚类的表查找。选择过程典型地耗费小于1/6的滤波过程的计算时间。这使得对于在译码器一侧的后滤波的实时实施成为可能。
通过应用基于梯度的选择方法,视觉质量比起基于像素值的方法甚至好出达0.5-0.7dB之多。图13上示出一个例子,其中显示了所谓的Shields序列的被修剪(crop)的例子。改进的视觉质量可以通过如下事实来说明,即:梯度信息是比原始亮度更好的代表,以及在X-Y梯度坐标中的类似性比在M×M维亮度空间中的MSE度量更适合于确定类别。
替换的或附加的简单聚类也可以根据纹理来完成。纹理常常较简单以用小数目的参数进行检测,所述参数例如,
1.标准偏差,表征亮度变化有多猛烈,
2.连续累积梯度(running accumulative gradient),是图案向上和向下移动有多频繁的一个可能的测度,以及
3.平均颜色
虽然在选择的梯度类型中定义了在二维空间中的多个聚类中心(见图11和12),但纹理聚类可以由在三维空间中的聚类中心点来定义,三个轴例如是标准偏差、连续累积梯度和平均颜色。一个点可以对应于例如蓝天(标准偏差小、累积梯度小和平均颜色为蓝色)。另一个点可以对应于草地。
在按照本发明的方法和设备的再一个实施例中,选择是在分级结构中进行的。
在实际的分类过程之前,进行用于选择的最适合形式的第一粗分类,例如,分类是在亮度值、运动矢量、梯度、纹理、还是在这样的准则的任何组合上发生。一旦作出第一分级的决定,就执行选择过程。
可以对于文件的任何部分、对于图像、对于图像的一部分、对于一系列图像作出分级的决定。另外,选择准则可以依赖于图像数据的类型,例如依赖于帧的类型。
图14示意地显示分级结构,其中选择各种可能的选择方法。
在步骤110,图像或部分图像的进入的数据首先经受在预选择器110中的边缘滤波器。在这个预选择中,确定图案主要是具有边缘特性还是主要是纹理。
如果分析表明图像或部分图像主要具有边缘特性,则数据被传送到最后选择器111,在其中根据梯度ex、ey,执行聚类选择和对于该聚类的控制参数组的确定,见图11和12。如果分析表明图案主要是纹理,则数据被传送到最后选择器112,在其中根据纹理参数执行聚类选择和对于该聚类的控制参数组的确定。
图15a到15c图示本发明的再一个实施例。
在许多压缩技术中,压缩是基于块的。在解压缩后块边缘可能出现错误,即,块的边缘可能是可见的。图像的划分和基于块的处理导致被称为分块伪像的误差。这些分块伪像使感知的图像质量降级,特别是在低比特率下。使用解块滤波器减小这样的分块误差。在标准H.264中,已知在译码器处应用解块滤波器,其中在译码器端,做出基于边缘条件的分类。该分类被使用来从多个可能的标准的预先安排(prefixed)解块滤波器中选择一个解块滤波器。不同的滤波器本身是固定的,以及在译码器一侧滤波器的选择可以无需任何来自编码器的辅助信息地被执行。
图15a图示本发明的实施例。在编码器端,进入的信号150在压缩器152中被压缩,以提供压缩的信号151。该压缩的信号在解压缩器154中被解压缩。在解压缩后,根据诸如在块中的位置、边缘步进尺寸和相邻块的编码模式之类的特征,形成C个聚类。对于每个聚类,根据块内的位置识别具有自适应滤波器参数F(C)的自适应滤波器,并使用具有滤波器参数F(C)的自适应滤波器。解块滤波器的输出被馈送到比较器154,该比较器比较经压缩-解压缩-滤波的图像与原始图像。该比较器提供误差信号E。分类(C)和用于各种不同类别的滤波器参数F(C)被适配来最小化误差E。解块滤波器可以在环内和在环外被使用,图15A显示在环外,即在完全的解压缩后,使用该滤波器的例子。解块滤波器也可以在环内被使用。
图15b和15c图示在译码器端的本发明。
VLD是指可变长度译码器,IQ是指逆量化,IDCT是指逆DCT,DF是指解块滤波器,以及MC代表运动补偿。滤波器操作由数据C(分类)和F(C)——即用于不同类别的滤波器参数组——来支配。在图15b上,处理电路被安排成在环外应用解块滤波器DF,在图15c上,解块滤波器DF被在环内应用。
这个实施例的简单形式使用与已知的解块滤波器相同的选择滤波器的准则,但用具有自适应参数的滤波器代替固定的滤波器。在这个简单的形式中,在译码器端的已知的分类确定因子是完全标准的,但滤波器参数是自适应的。
选择过程例如开始于指派边界强度参数给每个4×4亮度子块的边缘。边界强度由每个子块及其相邻块的模式和编码条件(例如,内部或之间,编码残余与否,运动矢量的尺寸)排他地确定,并且在以下操作之间作出第一选择,即:对多半由分块伪像造成的边缘进行强滤波、对可能受分块影响的边缘进行正常滤波、以及对多半是内容相关的边缘不进行滤波。在这个初始的再划分后,边缘活动性——即,在边缘两侧的像素值之间的绝对差异的不等性条件——确定是否施加滤波器。图16提供了一个被使用来决定与子块边缘BE相邻的像素p0和q0是否在正常滤波模式下被滤波的条件的例子。像素q0仅仅在满足条件(1)与(2)时才被滤波。同样地,p0仅仅在满足条件(1)与(3)时才被滤波。在已知的方法中,可以选择来自解块滤波器的固定滤波器组,所有的滤波器具有相同的结构。它们是有限脉冲响应(FIR)类型的一维滤波器,具有相对于被滤波的像素的最大2抽头位移。不同的固定滤波器被施加到距块边缘有不同距离的像素。远离边缘的像素不太可能受分块伪像的影响,因此将接收较弱的滤波。这样,解块滤波器以非常基本的方式计及块变换中对于相对位置的统计值的变化。在宏块级别上,滤波在适当的位置进行,首先水平滤波垂直边缘,随后垂直滤波水平边缘。
确定应用哪些滤波器的过程可被看作为分类过程,并且可以无需任何附加信息地在译码器一侧执行。这具有如下优点:不需要传送有关分类的信息,以及在译码器端可以使用已知的分类方案。本发明的方法归结为:代替只在译码器端使用标准固定的滤波器,用自适应滤波器取代标准滤波器并对于每个类别确立最佳参数组。在译码器端对于分类的计算需求没有改变,这是一个优点。
在简单的实施例中,在译码器端的已知的确定因子被简单复制,但滤波器参数是自适应的,在更先进的实施例中,例如,通过使得条件1与2是自适应的,用于类别选择的确定因子也是自适应的。
在一个实施例中,所述方法在两阶段(two pass)过程中被实施。在第一步骤,该算法处理所有的宏块,以便确定哪种类型的滤波器要施加到每个像素。
在下一个阶段中,收集受特定滤波器影响的所有的像素,并且在MSE(均方误差)的意义下估计最佳滤波器系数。这个处理过程对于所有的滤波器重复进行。然而,由于滤波在适当的位置被执行,所以参考帧优选地在其间被更新。也就是说,每次在对于一个像素类别计算滤波器系数后,在继续为下一个滤波器确定系数之前,该滤波器被施加到当前的参考帧。
如果场景自适应滤波器在环内运行,则重要的是在编码器一侧和译码器一侧滤波过程的有序匹配。在一个实施例中,这是通过使施加滤波器的次序固定而达到的。这样的实现的简单扩展是确定在编码器一侧的最佳滤波次序,并通过流用信号通知滤波器次序,输出157因而是F(C)和S(F),F(C)即滤波器系数,S(F)即滤波器要被施加的次序。因为是在适当的位置滤波,所以滤波操作不交换,并且改变滤波次序可以改进性能。为了避免由于环内运行造成的非线性,最佳滤波器系数逐帧地估计。
为了避免由于环内运行造成的非线性,最佳滤波器系数逐帧地估计。相比于等价的后滤波器,环内运行导致1-1.5%的附加比特率减小。这可以通过以下事实来说明,即:滤波器不单改进最后的图像,而且参考图像也为运动补偿提供更高的质量。环内滤波的另一个优点在于,它保证一定的性能水平,而后滤波通常是可选的。已经发现,与根据边缘类型和所选择的编码模式而在具有固定系数的预定义滤波器组中进行选择的解块滤波器算法相比较,通过估计与这些滤波器中的每个滤波器相关联的最佳系数并借助视频流用信号通知这些系数而进行的解块的性能大约是5-10%。图17提供与使用标准分类方法的标准H.264固定分块滤波器相比较的、使用自适应有源滤波器的比特率减小的测量值,其中所述标准分类方法使用由List等人在IEEE transaction on Circuits and Systems for Video Technolgy13(7):614-619中提出的分类算法。曲线C和D涉及到固定的indexA和indexB的不同的选择,见图16。本发明的优点是明显的,使用自适应滤波器系数,而不是使用固定滤波器,带来比特率的很大减小。
如上所述,通过使滤波器被施加的次序最佳化,可以得到另外的改进。
另外的改进是通过分类的自适应最佳化而得到的,例如,令自适应有源滤波器的分类依赖于在块变换中的相对位置。图17显示一个实施例的结果,其中标准固定解块滤波器的分类准则未对于本发明被最佳化,而只是简单地被复制。比特率减小方面的相当显著的效果暗示:还有通过对分类和/或滤波器选择准则的进一步最佳化来改进的空间。
基于块的分类的以上实施例是在其中分类和/或滤波是依赖于位置——在本例中依赖于块内的位置——而作出的一大批实施例中的一个例子。
在所述一批实施例内,其它的例子是:
根据在图像内的位置(例如靠近边界)而进行分类,与其中使用较大数量类别和/或更复杂的滤波器的中心区域相比较,使用了不同数目的类别和不同的更简单的自适应滤波器组。这对于必须被传递的数据是安全的。
使得分类是依赖于目标的,例如,天空区域可以使用较少的或不太复杂的滤波器。在一个实施例中,滤波器适应于它们在面部分段区域内的中心程度(例如,靠近面部边界上的阴影区域)。或者在草地或砖块图案内,在整个要被锐化的草地区域内,相对于内部,不同的滤波器被施加到草地叶片边缘(这可能需要更多的锐化)[以及译码器能够从砖块内部重新估计例如砖块分段边缘]。
在所有的实施例中,对于数据执行分类,以上也称为聚类,对于每个类别生成可适配的滤波器或更一般而言的后处理过程,以及在编码器一侧,滤波器参数或更一般而言的后处理被改变、并被施加到对应的数据类别和被最佳化,以便与原始图像相比较,产生低的或最小的失真,或更一般地,产生最佳值或质量测度的增加,正如对于在对应的一个类别中的位置的(压缩)伪像的减小。
译码器被给予信息(或者明显地或者隐含地),以便重新生成在编码器处使用的类别,对于聚类或类别的滤波器参数被传递到译码器,并在译码器中被应用。正如说明的,对于分类,根据不同的构思(值、边缘、运动、图案、位置以及这样的概念的组合)可以遵循众多的途径。用于分类的基础的再一个例子是:根据对于本地区域的压缩的选择而进行分类。再次地,译码侧知道这样的因子,如:使用哪种量化,块的运动是什么(和可能的预测误差,或减小的误差可视性)等等;再次地,取决于那些参数,滤波器可以是不同的(例如,对于高量化,使用更多地为了解块和更少地为了锐化而被偏置/被最佳化的滤波器)。
再一个实施例被图示于图18。图18示意性地图示围绕像素的两个窗口I和II。该窗口显示某个图案。窗口II可被看作为等价于被“翻转”的窗口I。换句话说,当比较这两个窗口时,在这两个窗口之间有某种类型的对称性。
在本发明的这些实施例中,有利地使用了对称性法则。
在基于分类的后滤波框架中,分类常常是基于自聚类策略,其中像素通过使用围绕像素的窗口,诸如n×n窗口,和窗口内的平均值而被分类。这是相当灵活的分类方法,因为可以预先规定任意数目的类别。然而,在许多应用中,由于带宽和/或存储限制,可被使用的类别的总数是有限的。对于有限数目的类别,非常难捕获在一个(或多个)帧中出现的局部图像图案的大方差。减小这种大方差的一个方法是在分类和实际滤波之前相对于它们的取向规格化(normalize)围绕像素的窗口。这些窗口然后形成一个类别,以及可以用同一个滤波器对它们进行后滤波。这样,相同数目的类别可以代表图像图案的大得多的多样性。除了旋转以外,也可以想到其它类型的几何规格化,诸如移位和镜像。
图19提供事实上等价的、但是是对于旋转90、180或270度的多个图案。
图20显示相互翻转的版本的、相同的或类似的图案,图21显示相互移位的版本的图案。这个实施例所基于的理解是:各种对称性被使用来减小这个大方差,这是通过在分类与实际滤波之前相对于其取向来规格化窗口而进行的。这些窗口然后形成一个类别,并可用相同的滤波器对它们进行后滤波。这样,相同数目的类别可以代表图像图案的大得多的多样性。除了如在图19上的旋转以外,也可以想到其它类型的几何规格化,诸如移位(图21)和镜像(图20)。
在这样的实施例中,参数估计器被安排来执行分类上的对称性操作。
在下面,我们给出例子,用来举例说明我们可以如何生成几何不变的分类,以便导致较少的类别。所述说明是在如上所述的进行聚类的上下文中,使用围绕像素的n×n窗口和有关最小化平方和的分类。然而,可以容易理解,类似的推理路线也可以应用于其它类型的分类方法。
示例性过程如下:
步骤1:从压缩的帧收集窗口样本。
步骤2:对于每个窗口样本x,得出它的对应于3个旋转图案、4个镜像图案和移位图案的变换版本xi(a是孔径尺寸)。假设孔径尺寸a=5,这意味着,必须生成总共N=3+4+8=15个附加的变换的图案。
步骤3:扩展在聚类算法中使用的距离度量。如果要计算在给定的样本x和聚类中心y之间的距离,则我们计算在样本x的每个变换版本和y之间的距离,然后选择最小距离。
步骤4:作为如上所述的修改的K均值算法的结果,我们得到相对于几何不变图案(在MSE意义上)最佳的多个聚类(类别)中心。然而,在滤波器生成期间,导致到聚类中心的最小距离的每个样本x的变换版本将被使用来最佳化滤波器系数。
得出的聚类(类别)中心和对应的滤波器系数将被传送到译码器一侧用于后处理。在译码器一侧,对于每个像素位置,除了使用用于分类的基本特征矢量以外,还必须生成多个变量(如在步骤2中),每个变量必须与聚类(类别)中心进行比较,以便得出在所有的变量与聚类中心之间的最小距离。然后选择对应的滤波器系数,并把它施加到所选择的变换的变量。应当指出,滤波的结果需要被变换回去,以便施加到译码的帧。
虽然以上的例子是基于使用最小化的距离的例子,但它也可以容易地扩展到例如基于梯度的分类策略,诸如在图11和12上示意性地图示的。在这种情形下,在步骤2后,对于每个候选的变换图案,必须计算对应的基于梯度的特征矢量,并在此后将其使用于聚类。
应当指出,所提出的方法也可以应用于环内滤波。
提供实验结果。
上述的实施例在H.264参考软件内被实施、并且用SD分辨率序列进行实验,量化参数QP被设置为从28到34。几何不变的滤波作为对环内后滤波的附加特征选项而被实施。我们测量了对于每个帧的PSNR增益,并且对于大多数帧,观察到与不使用几何不变性(具有相同数目的类别)相比较的0.03dB到0.06dB的增益。对于某些帧,达到高达0.1dB的增益。由于添加几何不变性不需要额外的比特率增加,几何不变性给现有的环内滤波提供了额外的增强,而不会有退步。
我们还在我们的实验中注意到:对于某些帧,启用几何不变滤波选项,可能提供相对于PSNR的负面影响。这可以是在帧中缺乏图案多样性的结果,且使用几何不变性对于质量没有正面的贡献。然而,由于分类和环内滤波在编码器一侧执行,所以如果出现这样的负增益的话,编码器可以决定对于当前帧禁止使用几何不变性。这意味着,对于每个帧必须发送附加的一个‘信号比特’,用来指示是否使用几何不变性。与总比特率相比较,这显然是可忽略的开销,而平均增益增加。
2.开启所有的变换模式(例如,3个旋转模式、4个镜像模式和多个移位模式)可能不能给出相对于PSNR的最佳性能。例如,对于序列直升机(Helicopter),我们发现平均起来使用2个镜像模式(垂直和水平翻转)和移位模式将给出最好的性能。然而,开启某些模式而禁止其它模式可以是依赖于序列的决定。这样的微调等价于使用几何不变性与否。
对称的不变性变换(翻转、移位和旋转)是一个大类别的图案不变性变换的子类别。
另一个简单的图案不变性操作是缩放。
显示在变换下的某个不变性的图案的其它例子被图示于图22a到22c。
例A:不精确的但类似蠕虫那样的结构:“不精确的旋转”的变换可以例如象这样地完成:把在块中的像素分类成暗的和明亮的[例如,以上的块平均],以及使用“链取向代码”测试类似性。例如:如果方向改变是在相同的罗盘方向,并且对于像素的每个定向游动(oriented run)来说长度差异不大于1个像素(例如,2相对3像素开始分段),则图案可以被类似地考虑,以及用类似的滤波器(例如,某个模糊核尺寸)来处理。
例B:人们也可以规格化边缘的(灰度值)高度。(虽然在某些滤波器情形下[例如,滤波器实施边缘强度改变],使滤波器也适配于边缘的高度可能是更明智的,但在那些情形下,人们例如可以把边缘步进高度分类到多个子类别中(强的、中等、最小边缘))。
例C给出另一个例子,它可被使用来例如处理(伪)周期性纹理(例如,具有非线性函数,它维持它们的灰度值顶部,但加深它们的谷底[例如,加深在草地的叶片之间的暗区域])。
图案被示例性地建模[这可以适于基础数据]为某个高度h[最亮的像素灰度/亮度/颜色值——例如240,减去最暗的——例如10]、斜率α(这导致顶部间距离D)的正弦栅格,以及它具有在块中的某个空间取向β(这里象征性地显示45度,但在灰度值截面图上不能同时显示,因为它只具有一个空间维度)。
具有差异不太大的值α、h、D的所有图案然后可被分类在相同的纹理类别中,或再次地,可以沿可能的值范围[线性地或非线性地]做出某些子类别,然后可以训练被参数化的滤波器f(h,α);这例如可以通过以下操作来完成,即:检验滤波器系数在不同的(h,α)范围类别上如何变化,以及用多项式对它们建模。
图23示意性地图示按照本发明的图像定义信号。该图像定义信号包括:图像信息,在本例中是定义图像内容的压缩数据CD;
多个控制参数组,定义图像处理电路的控制参数,该图像处理电路用于后处理在图像的各个位置处的所述内容,所述控制参数在本例中是类别定义参数C和对于每个类别的参数组F(C),诸如象滤波器系数组。
类别定义参数可以具有各种各样的形式,这取决于所选择的用来定义类别的途径。类别定义参数可以定义类别被定义的方式(通过值、边缘、图案、基于块的、运动矢量等等),或可以具有直接定义聚类中心的参数(见图12)。在某些实施例中,例如,如果使用固定的方式在编码器和译码器处定义类别,则可能不存在类别定义参数。
用于每个组的参数组可以是滤波器系数。参数组可以以绝对的方式被定义,例如,每个参数的精确值;或以相对方式被定义,例如,与在前的值相比较,参数组内的参数的改变。
在实施例内,图像定义信号可包括关于各种分开的操作的信息,各自具有分开的分类和对于类别的参数组。例如,根据在译码环路后的图像中的基于梯度的聚类,环内解块操作后面可以跟随另外的处理。对于所提到的两个处理步骤中的每个步骤,在图像定义信号中可以存在关于各种类别的分类和系数组的信息。每个分类是基于不同的原理,以及系数也将是不同的,所以该信息将是不同的。
类别定义数据和参数组可以以任何适当的方式被提供,例如作为头标,通过标记或作为分开的信号来提供。
在权利要求中阐述了本发明。正如这里使用的,术语“包括”并不排除其它单元或步骤,“一”或“一个”并不排除多个,以及单个处理器或其它单元可以完成在权利要求中列举的几个装置的功能。当术语“电路”被使用时,这包括被编程来执行该电路功能的可编程电路。在权利要求中的参考符号不应被解释为限制范围。
简而言之,本发明可被描述如下:
定义像素的聚类以便使用于图像压缩和解压缩。被使用来定义聚类的图像信息可包括在相对于像素的预定位置处的像素值、或相关的运动矢量、梯度、纹理等等。在图像压缩期间,相对于像素的图像信息被检验,以便确定它所属于的聚类。因此,像素可以按照用于其图像信息的聚类而被分类。在一个实施例中,聚类的定义根据图像内容而被动态地选择。对于每个聚类,计算一个控制参数组以用于后处理操作,诸如是用于滤波的滤波器系数、或用于本地生成纹理的统计数据。控制参数组根据图像内容而被选择成使得在解压缩后当后处理操作被应用于图像时,将改进对于被分类为属于该聚类的像素的图像质量。压缩的图像和控制参数组被传送到解压缩设备。在解压缩后,代表解压缩的图像的图像信息被检验,以便按照聚类分类像素,以及用于所选聚类的不同控制参数组被使用来控制在所述像素的位置处的后处理。

Claims (46)

1.一种解压缩设备,包括:
-一个或多个输入(20),用于接收图像信息和多个控制参数组,该图像信息定义图像的内容;
-存储器(36),用于存储所接收的多个控制参数组;
-解压缩器(24),被配置成至少部分地解压缩该图像信息;
-选择器(32),被配置成对于图像中多个像素的每一个来分类像素,并且根据对于像素的分类,选择所接收的多个控制参数组中的相应控制参数组;
-图像处理电路(39),被配置成后处理所述至少部分地解压缩的图像信息,使用来自存储器(36)的、用于所述经分类的像素的该控制参数组中的被选择的相应控制参数组来控制对于图像中像素的后处理。
2.按照权利要求1的解压缩设备,包括分用器(22),其被配置成从输入信号中分用图像信息和控制参数组。
3.按照权利要求2的解压缩设备,其中所述分用器(22)被配置成从输入信号中分用定义图像序列的图像信息,以及其中所述选择器(32)被配置成对于序列中多个图像的每一个,使用相同的分类参数而从相同的多个控制参数组进行选择。
4.按照权利要求1的解压缩设备,其中所述图像处理电路(39)包括滤波器,所述控制参数组包括供所述滤波器使用的滤波器系数。
5.按照权利要求4的解压缩设备,其中所述滤波器是解块滤波器。
6.按照权利要求5的解压缩设备,其中所述处理电路被安排成在环内应用解块滤波器。
7.按照权利要求5的解压缩设备,其中所述处理电路被安排成在环内应用解块滤波器。
8.按照权利要求4的解压缩设备,其中解压缩器包括逆分辨率缩放器(64),所述图像处理电路(39)被配置成通过使用由控制参数组定义的滤波器系数而执行分辨率放大的滤波。
9.按照权利要求4的解压缩设备,其中所述滤波器包括子滤波器(39a,b)的串联装置,所述控制参数组包括各个子滤波器的滤波器系数。
10.按照权利要求1的解压缩设备,其中所述图像处理电路包括随机或伪随机信号发生器(50),其被配置成生成具有由控制参数组定义的统计特性的随机或伪随机信号。
11.按照权利要求1的解压缩设备,包括参考存储器(74),用于存储在对预测地压缩的图像解压缩时使用的参考图像,该参考存储器(74)具有被耦合到图像处理器的输出的输入,用于存储经后处理的图像以便作为参考图像使用。
12.按照权利要求2的解压缩设备,其中所述分用器(22)被配置成从输入信号中分用类别定义数据,所述选择器(32)被配置成把内容分类成由类别定义数据定义的类别。
13.按照权利要求1的解压缩设备,所述选择器(32)被配置成:通过分类如下的矢量而分类图像中的多个像素,所述矢量包括在相对于相应像素的预定相对位置处的图像中的像素值;以及根据对于该矢量的分类,而选择所接收的多个控制参数组中的相应控制参数组。
14.按照权利要求1的解压缩设备,所述选择器(32)被配置成:通过分类包括运动矢量的矢量而分类图像中的多个像素,其中所述运动矢量表征在相对于相应像素的预定相对位置处的图像区域内的、视频流中的图像和相邻图像之间的运动;根据对于该矢量的分类,而选择所接收的多个控制参数组中的相应控制参数组。
15.按照权利要求1的解压缩设备,其中所述选择器(32)被配置成:通过分类在相对于像素的相应窗口中的图像的纹理内容,而分类图像中的多个像素;以及根据对于纹理的分类,而选择所接收的多个控制参数组中的相应控制参数组。
16.按照权利要求1的解压缩设备,其中所述选择器(32)被配置成:通过根据水平梯度值和/或垂直梯度值进行分类,而分类图像中的多个像素;以及根据水平和/或垂直梯度的分类,而选择所接收的多个控制参数组中的相应控制参数组。
17.按照权利要求1的解压缩设备,其中所述压缩是基于块的,以及所述选择器(32)被配置成:通过相对于在块内的位置和边缘活动性进行分类,而分类图像中的多个像素位置;以及根据在块内的位置和边缘活动性的分类,而选择所接收的多个控制参数组中的相应控制参数组。
18.一种压缩设备,包括:
-图像输入(10),用于接收定义输入图像的输入信号;
-图像信号压缩器(12),具有被耦合到图像输入(10)的压缩器输入,和用于至少部分地压缩图像的压缩器输出;
-参数估计器(16),具有被耦合到图像输入的输入,以及被配置成:根据在相对于像素的相应窗口中的图像内容,把图像中的像素分类成相应的类别;以及根据压缩的图像与输入图像的比较,计算多个控制参数组,每个控制参数组用于所述类别中的对应类别,定义后处理操作,以便为对应类别中的像素减小压缩伪像。
19.按照权利要求18的压缩设备,包括复用器(18),其被配置成把控制参数组与来自压缩器输出的压缩图像信号复用成复用的输出信号。
20.按照权利要求18的压缩设备,其中所述参数估计器(16)被配置成根据输入图像的内容来选择类别的定义。
21.按照权利要求18的压缩设备,其中类别的定义包括聚类矢量,它包括在相对像素位置的配置处的解压缩的图像内容。
22.按照权利要求18的压缩设备,其中类别的定义包括聚类矢量,它包括用于相对像素位置的配置的运动矢量。
23.按照权利要求18的压缩设备,其中类别的定义包括用于相对像素位置的配置的水平梯度值和/或垂直梯度值。
24.按照权利要求18的压缩设备,其中类别的定义包括在块内的位置和边缘活动性,以及所述参数组是解块滤波器参数组。
25.按照权利要求18的压缩设备,其中所述参数估计器被安排成执行对于分类的对称操作。
26.按照权利要求18的压缩设备,被配置成压缩包括输入图像的视频序列,以及其中参数估计器(16)被配置成为来自视频序列的多个输入图像共同地计算多个控制参数组。
27.按照权利要求18的压缩设备,包括:解压缩器(14),被配置成从压缩器输出接收压缩的图像信号;该参数估计器(16)具有被耦合到解压缩器的另一个输入,用于接收解压缩的图像信号,该参数估计器(16)被配置成根据在输入图像与由解压缩的图像信号定义的解压缩图像之间的差异而选择参数组。
28.按照权利要求27的压缩设备,其中参数估计器(16)被配置成为每个像素选择类别控制参数,当后处理在由控制参数定义的对应类别中的像素处被施加到来自图像信号解压缩器(14)的解压缩图像时,所述类别控制参数减小在输入图像与解压缩的图像之间的、在对应类别中的像素上求平均的差异。
29.按照权利要求18的压缩设备,其中由压缩器(12)执行的压缩包括量化。
30.按照权利要求18的压缩设备,其中由压缩器(12)执行的压缩包括分辨率缩减。
31.按照权利要求18的压缩设备,其中所述参数估计器(16)被配置成估计滤波器系数组,当在滤波器中被使用来在由控制参数定义的对应类别中的像素处滤波来自图像信号解压缩器(14)的解压缩图像时,所述滤波器系数组减小在输入图像与解压缩的图像之间的、在对应类别中的像素上求平均的差异。
32.按照权利要求31的压缩设备,其中所述滤波器系数组是解块滤波器系数。
33.按照权利要求18的压缩设备,其中所述滤波器包括多个子滤波器的串联装置,滤波器系数组包括对于每个子滤波器的滤波器系数。
34.按照权利要求33的压缩设备,其中所述参数估计器(16)被配置成:为多个类别共同地估计用于至少一个子滤波器的滤波器系数组。
35.按照权利要求18的压缩设备,其中所述参数估计器被配置成:估计表明在类别内的压缩信号与输入图像之间的差异范围的统计特性;以及表示在控制参数组中的统计特性。
36.按照权利要求18的压缩设备,包括参考存储器(70),用于存储参考图像,所述压缩器被配置成藉助于对参考图像的参考而表示另外的图像,该参考存储器(70)具有被耦合到图像处理器的输出的输入,用于存储经后处理的图像以便作为参考图像使用。
37.一种解压缩图像的方法,该方法包括:
-接收图像信息和控制参数组,该图像信息定义图像的内容;
-存储多个控制参数组;
-至少部分地解压缩图像信息;
-分类图像中多个像素的每一个;
-根据对像素的分类,而选择多个控制参数组中的相应控制参数组;
-后处理所述至少部分地解压缩的图像信息,使用来自存储器的、对于图像中所述像素的已接收控制参数组中的被选择的相应控制参数组,来控制对于图像中所述像素的后处理。
38.一种计算机程序产品,包括指令形式的程序,当由可编程计算机执行时,该指令使得可编程计算机执行按照权利要求37的方法。
39.一种压缩图像的方法,该方法包括:
-接收定义输入图像的输入信号;
-压缩该输入信号;
-根据在相对于像素的相应窗口中的图像内容,把图像中的位置分类成相应的类别;
-计算多个控制参数组,每个控制参数组用于所述类别中对应的类别,定义后处理操作,以便为对应的类别中的像素减小压缩伪像。
40.一种计算机程序产品,包括指令形式的程序,当由可编程计算机执行时,该指令使得可编程计算机执行按照权利要求39的方法。
41.一种图像定义信号,包括:
-定义图像的内容的图像信息;
-多个控制参数组,其定义图像处理电路的控制参数,以用于后处理在图像中相应像素处的所述内容。
42.按照权利要求41的图像定义信号,包括类别定义信息,用于定义图像中像素的类别,每个类别对应于控制参数组中的相应控制参数组。
43.按照权利要求41的图像定义信号,其中所述参数组是滤波器系数组。
44.按照权利要求43的图像定义信号,其中所述滤波器系数组是解块滤波器系数。
45.按照权利要求42的图像定义信号,其中所述类别定义信息包括关于聚类中心的x和y梯度坐标的信息。
46.按照权利要求41的图像定义信号,其中所述图像信息定义多个图像的内容,多个控制参数组中的至少一个控制参数组定义用于图像处理电路的控制参数,用以后处理在相应位置处的该多个图像中的所有图像。
CN2007800468414A 2006-12-18 2007-12-11 图像压缩与解压缩 Active CN101563926B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP06126324.0 2006-12-18
EP06126324 2006-12-18
PCT/IB2007/055011 WO2008075247A1 (en) 2006-12-18 2007-12-11 Image compression and decompression

Publications (2)

Publication Number Publication Date
CN101563926A true CN101563926A (zh) 2009-10-21
CN101563926B CN101563926B (zh) 2011-11-16

Family

ID=39400417

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2007800468414A Active CN101563926B (zh) 2006-12-18 2007-12-11 图像压缩与解压缩

Country Status (12)

Country Link
US (2) US8582666B2 (zh)
EP (1) EP2123051B1 (zh)
JP (1) JP2010514246A (zh)
KR (1) KR101545005B1 (zh)
CN (1) CN101563926B (zh)
AT (1) ATE488096T1 (zh)
DE (1) DE602007010514D1 (zh)
ES (1) ES2356023T3 (zh)
MX (1) MX2009006404A (zh)
PL (1) PL2123051T3 (zh)
RU (1) RU2461977C2 (zh)
WO (1) WO2008075247A1 (zh)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011089865A1 (ja) * 2010-01-21 2011-07-28 パナソニック株式会社 画像符号化方法、画像復号方法、それらの装置、プログラムおよび集積回路
CN102368329A (zh) * 2011-10-24 2012-03-07 龙芯中科技术有限公司 图形***中纹理图像透明度通道处理***与装置和方法
CN102427528A (zh) * 2011-09-30 2012-04-25 北京航空航天大学 一种基于聚类统计的视频运动估计方法
CN102447900A (zh) * 2010-08-31 2012-05-09 泰勒斯公司 用于生成可变优先级多窗口图像的设备和方法
CN102611823A (zh) * 2012-01-13 2012-07-25 百度在线网络技术(北京)有限公司 一种基于图片内容选择压缩算法的方法和设备
CN102714718A (zh) * 2009-12-28 2012-10-03 索尼公司 图像处理装置、方法和程序
CN102804781A (zh) * 2009-06-19 2012-11-28 三菱电机株式会社 图像编码装置、图像解码装置、图像编码方法以及图像解码方法
CN102884790A (zh) * 2010-04-09 2013-01-16 索尼公司 图像处理装置和方法
CN103430544A (zh) * 2011-03-24 2013-12-04 索尼公司 图像处理设备和方法
CN105718513A (zh) * 2016-01-14 2016-06-29 上海大学 jpg文件的压缩方法及解压缩方法
WO2017036061A1 (zh) * 2015-08-28 2017-03-09 京东方科技集团股份有限公司 一种图像编码方法、图像解码方法及装置
CN106548498A (zh) * 2015-09-22 2017-03-29 三星电子株式会社 用于处理压缩纹理的方法和设备
CN108604902A (zh) * 2016-02-08 2018-09-28 皇家飞利浦有限公司 确定聚类的设备和方法
CN108632502A (zh) * 2017-03-17 2018-10-09 深圳开阳电子股份有限公司 一种图像锐化的方法及装置
CN109643456A (zh) * 2016-06-17 2019-04-16 因默希弗机器人私人有限公司 图像压缩方法与设备
CN110060311A (zh) * 2018-09-09 2019-07-26 深圳硅基仿生科技有限公司 具有超大压缩比的视网膜刺激器的图像处理装置
CN110473209A (zh) * 2019-08-02 2019-11-19 武汉高德智感科技有限公司 红外图像处理方法、装置及计算机存储介质
CN111583158A (zh) * 2020-05-19 2020-08-25 国网吉林省电力有限公司 一种背景简化表达的票据电子影像压缩存储方法
US10880566B2 (en) 2015-08-28 2020-12-29 Boe Technology Group Co., Ltd. Method and device for image encoding and image decoding

Families Citing this family (92)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7974485B1 (en) * 2005-10-27 2011-07-05 Nvidia Corporation Split-frame post-processing in a programmable video pipeline
CA2683841A1 (en) * 2007-04-04 2008-10-16 Telefonaktiebolaget Lm Ericsson (Publ) Vector-based image processing
EP2003896A1 (en) * 2007-06-12 2008-12-17 Panasonic Corporation Statistical image enhancement
US8848794B2 (en) * 2007-12-18 2014-09-30 Humax Holdings Co., Ltd. Method and device for video coding and decoding
JP5137687B2 (ja) * 2008-05-23 2013-02-06 キヤノン株式会社 復号装置及び復号方法、プログラム
US8625681B2 (en) * 2008-07-09 2014-01-07 Intel Corporation Rate-distortion cost reducing video encoding techniques
US10123050B2 (en) 2008-07-11 2018-11-06 Qualcomm Incorporated Filtering video data using a plurality of filters
US20100014584A1 (en) * 2008-07-17 2010-01-21 Meir Feder Methods circuits and systems for transmission and reconstruction of a video block
EP2161936A1 (en) * 2008-09-04 2010-03-10 Panasonic Corporation Locally adaptive filters for video coding controlled by local correlation data
KR101323439B1 (ko) * 2008-11-12 2013-10-29 보드 오브 트러스티스 오브 더 리랜드 스탠포드 주니어 유니버시티 특징 디스크립터를 표현하고 식별하는 방법, 장치 및 컴퓨터 판독가능 저장 매체
US8831090B2 (en) * 2008-11-18 2014-09-09 Avigilon Corporation Method, system and apparatus for image capture, analysis and transmission
CN102292990B (zh) * 2008-11-25 2016-10-05 汤姆森特许公司 对视频编码和解码进行基于稀疏性的去伪像滤波的方法和装置
US9143803B2 (en) 2009-01-15 2015-09-22 Qualcomm Incorporated Filter prediction based on activity metrics in video coding
KR20100095992A (ko) 2009-02-23 2010-09-01 한국과학기술원 비디오 부호화에서의 분할 블록 부호화 방법, 비디오 복호화에서의 분할 블록 복호화 방법 및 이를 구현하는 기록매체
EP2226760A1 (en) * 2009-03-03 2010-09-08 Sony Corporation Method and apparatus for reducing compression artifacts in video signals
EP2406957A1 (en) * 2009-03-12 2012-01-18 Thomson Licensing Methods and apparatus for region-based filter parameter selection for de-artifact filtering
KR101647376B1 (ko) * 2009-03-30 2016-08-10 엘지전자 주식회사 비디오 신호 처리 방법 및 장치
EP2237557A1 (en) 2009-04-03 2010-10-06 Panasonic Corporation Coding for filter coefficients
ES2602326T3 (es) * 2009-04-20 2017-02-20 Dolby Laboratories Licensing Corporation Selección de filtro para pre-procesamiento de vídeo en aplicaciones de vídeo
WO2010137322A1 (ja) * 2009-05-29 2010-12-02 三菱電機株式会社 画像符号化装置、画像復号装置、画像符号化方法、および画像復号方法
KR101631270B1 (ko) * 2009-06-19 2016-06-16 삼성전자주식회사 의사 난수 필터를 이용한 영상 필터링 방법 및 장치
TWI401963B (zh) * 2009-06-25 2013-07-11 Pixart Imaging Inc Dynamic image compression method for face detection
KR101749269B1 (ko) * 2009-06-30 2017-06-22 삼성전자주식회사 적응적인 인루프 필터를 이용한 동영상 부호화와 복호화 장치 및 그 방법
JP2011049740A (ja) 2009-08-26 2011-03-10 Sony Corp 画像処理装置および方法
JP2011050001A (ja) * 2009-08-28 2011-03-10 Sony Corp 画像処理装置および方法
JP5818800B2 (ja) * 2009-10-05 2015-11-18 トムソン ライセンシングThomson Licensing 符号化方法及び復号化方法
CN102577382B (zh) 2009-10-15 2016-08-03 汤姆森特许公司 用于视频编码器和解码器的有效自适应滤波的方法和装置
KR101710883B1 (ko) 2009-11-04 2017-02-28 삼성전자주식회사 필터 정보를 이용한 영상 압축 장치 및 방법과 영상 복원 장치 및 방법
US20110135011A1 (en) * 2009-12-04 2011-06-09 Apple Inc. Adaptive dithering during image processing
JP5964755B2 (ja) * 2009-12-31 2016-08-03 トムソン ライセンシングThomson Licensing ビデオ符号化および復号化用の適応型結合前処理および後処理フィルタのための方法および装置
CN102823243B (zh) * 2010-02-02 2017-05-31 汤姆森特许公司 通过面片移动减小矢量量化误差的方法和装置
JP6029984B2 (ja) * 2010-03-09 2016-11-24 トムソン ライセンシングThomson Licensing 分類ベースのループ・フィルタのための方法と装置
TWI405147B (zh) * 2010-03-16 2013-08-11 Novatek Microelectronics Corp 單張影像的階層式去動態模糊方法
JP2011223337A (ja) * 2010-04-09 2011-11-04 Sony Corp 画像処理装置および方法
EP2375747B1 (en) 2010-04-12 2019-03-13 Sun Patent Trust Filter positioning and selection
US20130058421A1 (en) * 2010-05-17 2013-03-07 Thomson Licensing Methods and apparatus for adaptive directional filter for video restoration
JPWO2011158657A1 (ja) * 2010-06-17 2013-08-19 シャープ株式会社 画像フィルタ装置、復号装置、符号化装置、および、データ構造
CN102300044B (zh) * 2010-06-22 2013-05-08 原相科技股份有限公司 处理图像的方法与图像处理模块
JP5889899B2 (ja) 2010-08-09 2016-03-22 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. マルチ視野信号の2つの視野と対応する画像の対をエンコードする方法、デコードする方法、エンコーダ、デコーダ、コンピュータプログラム及びソフトウェアツール
FR2963865B1 (fr) * 2010-08-16 2013-09-27 Canon Kk Procede et dispositif de codage d'un signal numerique
US9674526B2 (en) 2010-09-20 2017-06-06 Canon Kabushiki Kaisha Method and device for encoding and decoding a digital image signal
US8976856B2 (en) * 2010-09-30 2015-03-10 Apple Inc. Optimized deblocking filters
EP4290848A3 (en) * 2010-10-18 2024-03-06 Dolby Laboratories Licensing Corporation Image processing methods and apparatus using localized gamut definitions
US9462220B2 (en) * 2010-12-17 2016-10-04 Microsoft Technology Licensing, Llc Auto-regressive edge-directed interpolation with backward projection constraint
JP5627507B2 (ja) * 2011-01-12 2014-11-19 Kddi株式会社 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、およびプログラム
US20120183078A1 (en) * 2011-01-14 2012-07-19 Samsung Electronics Co., Ltd. Filter adaptation with directional features for video/image coding
US20120189064A1 (en) * 2011-01-14 2012-07-26 Ebrisk Video Inc. Adaptive loop filtering using multiple filter shapes
US9930366B2 (en) * 2011-01-28 2018-03-27 Qualcomm Incorporated Pixel level adaptive intra-smoothing
US9001883B2 (en) 2011-02-16 2015-04-07 Mediatek Inc Method and apparatus for slice common information sharing
US8964852B2 (en) 2011-02-23 2015-02-24 Qualcomm Incorporated Multi-metric filtering
GB2488816A (en) * 2011-03-09 2012-09-12 Canon Kk Mapping motion vectors from a plurality of reference frames to a single reference frame
JP5291133B2 (ja) 2011-03-09 2013-09-18 日本電信電話株式会社 画像処理方法,画像処理装置,映像符号化/復号方法,映像符号化/復号装置およびそれらのプログラム
JP5291134B2 (ja) 2011-03-09 2013-09-18 日本電信電話株式会社 映像符号化/復号方法,映像符号化/復号装置およびそのプログラム
WO2013001720A1 (ja) * 2011-06-30 2013-01-03 三菱電機株式会社 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法
US9055304B2 (en) * 2011-07-01 2015-06-09 Qualcomm Incorporated Reduced resolution pixel interpolation
CN103718556B (zh) * 2011-07-22 2017-06-16 Sk电信有限公司 利用灵活解块滤波的编码解码装置和方法
US20130031063A1 (en) * 2011-07-26 2013-01-31 International Business Machines Corporation Compression of data partitioned into clusters
KR101828411B1 (ko) * 2011-09-21 2018-02-13 삼성전자주식회사 영상 처리 방법 및 영상 처리 장치
EP2767089A4 (en) * 2011-10-14 2016-03-09 Mediatek Inc METHOD AND APPARATUS FOR LOOP FILTERING
GB201119206D0 (en) 2011-11-07 2011-12-21 Canon Kk Method and device for providing compensation offsets for a set of reconstructed samples of an image
KR101462052B1 (ko) * 2011-11-09 2014-11-20 에스케이 텔레콤주식회사 변환을 이용한 주파수 도메인 상의 적응적 루프 필터를 이용한 영상 부호화/복호화 방법 및 장치
KR102094939B1 (ko) 2011-11-25 2020-03-31 선 페이턴트 트러스트 화상 처리 방법 및 화상 처리 장치
JP6222576B2 (ja) * 2012-03-21 2017-11-01 サン パテント トラスト 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、および画像符号化復号装置
US9613285B2 (en) * 2012-03-22 2017-04-04 The Charles Stark Draper Laboratory, Inc. Compressive sensing with local geometric features
WO2013155897A1 (en) * 2012-04-16 2013-10-24 Mediatek Inc. Method and apparatus for loop filtering across slice or tile boundaries
CN103065335B (zh) * 2012-12-28 2015-11-18 辽宁师范大学 基于轮廓波域四叉块***模型的图像编码方法
US9596465B2 (en) * 2013-01-04 2017-03-14 Intel Corporation Refining filter for inter layer prediction of scalable video coding
JP6311141B2 (ja) * 2013-10-02 2018-04-18 日本放送協会 フィルタ選択装置、フィルタ装置およびこれらのプログラム
US9940686B2 (en) * 2014-05-14 2018-04-10 Intel Corporation Exploiting frame to frame coherency in a sort-middle architecture
US10593019B2 (en) * 2014-10-17 2020-03-17 Samsung Electronics Co., Ltd. Method and apparatus for storing, processing and reconstructing full resolution image out of sub band encoded images
CN105791906A (zh) * 2014-12-15 2016-07-20 深圳Tcl数字技术有限公司 信息推送的方法和***
CN104700353B (zh) 2015-02-11 2017-12-05 小米科技有限责任公司 图像滤镜生成方法及装置
GB2536904B (en) * 2015-03-30 2017-12-27 Imagination Tech Ltd Image filtering based on image gradients
WO2016179226A1 (en) * 2015-05-04 2016-11-10 The Brigham And Women's Hospital, Inc. Oncolytic hsv1 vector and methods of use
CN105550979A (zh) * 2015-12-11 2016-05-04 中国航空工业集团公司西安航空计算技术研究所 一种高数据通量纹理Cache层次结构
US11405611B2 (en) 2016-02-15 2022-08-02 Qualcomm Incorporated Predicting filter coefficients from fixed filters for video coding
KR20180056313A (ko) 2016-11-18 2018-05-28 삼성전자주식회사 텍스처를 처리하는 방법 및 장치
US10354173B2 (en) * 2016-11-21 2019-07-16 Cylance Inc. Icon based malware detection
US10694202B2 (en) * 2016-12-01 2020-06-23 Qualcomm Incorporated Indication of bilateral filter usage in video coding
US10448054B2 (en) * 2017-01-11 2019-10-15 Groq, Inc. Multi-pass compression of uncompressed data
KR102053242B1 (ko) * 2017-04-26 2019-12-06 강현인 압축 파라미터를 이용한 영상 복원용 머신러닝 알고리즘 및 이를 이용한 영상 복원방법
US10212456B2 (en) * 2017-06-02 2019-02-19 Apple Inc. Deblocking filter for high dynamic range (HDR) video
US10349087B2 (en) * 2017-07-13 2019-07-09 The University Of North Carolina At Chapel Hill Methods, systems, and computer readable media for reconstructing images using blurring and noise-enhanced pixel intensity resampling
KR102381373B1 (ko) * 2017-08-16 2022-03-31 삼성전자주식회사 비정형적 분할을 이용한 영상 부호화 방법 및 그 장치, 영상 복호화 방법 및 그 장치
CN110490213B (zh) * 2017-09-11 2021-10-29 腾讯科技(深圳)有限公司 图像识别方法、装置及存储介质
KR102499286B1 (ko) * 2018-02-23 2023-02-14 삼성전자주식회사 이미지가 분할된 복수의 블록들의 압축과 관련된 압축 손실 데이터에 기반하여 이미지를 압축하는 전자 장치 및 그 동작 방법
US10687083B2 (en) * 2018-06-06 2020-06-16 Intel Corporation Loop restoration filtering for super resolution video coding
KR102622950B1 (ko) * 2018-11-12 2024-01-10 삼성전자주식회사 디스플레이장치, 그 제어방법 및 기록매체
CN113498605A (zh) * 2018-12-23 2021-10-12 华为技术有限公司 编码器、解码器及使用自适应环路滤波器的相应方法
US11335034B2 (en) * 2019-01-16 2022-05-17 Disney Enterprises, Inc. Systems and methods for image compression at multiple, different bitrates
US11430335B2 (en) * 2020-01-31 2022-08-30 Here Global B.V. Method and apparatus for providing large scale vehicle routing
US20210241024A1 (en) * 2020-02-02 2021-08-05 Emza Visual Sense Ltd. Jpeg classifier

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3759538B2 (ja) * 1994-09-14 2006-03-29 ソニー株式会社 画像信号処理方法及び画像信号伝送装置
JP3627291B2 (ja) * 1995-05-25 2005-03-09 ソニー株式会社 ブロック歪み除去装置および方法
JPH09251781A (ja) 1996-03-18 1997-09-22 Hitachi Ltd 半導体集積回路装置
JP4534951B2 (ja) * 1996-07-17 2010-09-01 ソニー株式会社 画像符号化装置および画像符号化方法、画像処理システムおよび画像処理方法、伝送方法、並びに記録媒体
US5796875A (en) * 1996-08-13 1998-08-18 Sony Electronics, Inc. Selective de-blocking filter for DCT compressed images
JPH10224790A (ja) * 1997-02-07 1998-08-21 Matsushita Electric Ind Co Ltd 圧縮伸張された画像中のブロック状ノイズを除去するフィルタおよびフィルタ方法
JP3095140B2 (ja) * 1997-03-10 2000-10-03 三星電子株式会社 ブロック化効果の低減のための一次元信号適応フィルター及びフィルタリング方法
US6075926A (en) * 1997-04-21 2000-06-13 Hewlett-Packard Company Computerized method for improving data resolution
JP4093621B2 (ja) 1997-12-25 2008-06-04 ソニー株式会社 画像変換装置および画像変換方法、並びに学習装置および学習方法
AU717480B2 (en) * 1998-08-01 2000-03-30 Korea Advanced Institute Of Science And Technology Loop-filtering method for image data and apparatus therefor
JP3959178B2 (ja) 1998-08-07 2007-08-15 住友化学株式会社 ヒドラジン誘導体の製造方法、その中間体および中間体の製造方法
JP2001204029A (ja) * 1999-08-25 2001-07-27 Matsushita Electric Ind Co Ltd ノイズ検出方法、ノイズ検出装置及び画像復号化装置
FI117533B (fi) * 2000-01-20 2006-11-15 Nokia Corp Menetelmä digitaalisten videokuvien suodattamiseksi
US6600517B1 (en) * 2000-03-07 2003-07-29 Koninklijke Philips Electronics N.V. System and method for improving the sharpness of a video image
US6823086B1 (en) 2000-08-29 2004-11-23 Analogic Corporation Adaptive spatial filter
JP3632591B2 (ja) * 2000-11-13 2005-03-23 日本電気株式会社 画像処理装置、方法及びコンピュータ読み取り可能な記録媒体
US7110455B2 (en) 2001-08-14 2006-09-19 General Instrument Corporation Noise reduction pre-processor for digital video using previously generated motion vectors and adaptive spatial filtering
ATE543339T1 (de) * 2001-09-12 2012-02-15 Panasonic Corp Bildkodierungsverfahren
ES2754625T3 (es) * 2001-11-29 2020-04-20 Godo Kaisha Ip Bridge 1 Método de extracción de distorsión de codificación
US7068722B2 (en) * 2002-09-25 2006-06-27 Lsi Logic Corporation Content adaptive video processor using motion compensation
US7116828B2 (en) 2002-09-25 2006-10-03 Lsi Logic Corporation Integrated video decoding system with spatial/temporal video processing
GB0228136D0 (en) * 2002-12-03 2003-01-08 Essential Viewing Ltd Improvements in video coding and decoding
US8625680B2 (en) 2003-09-07 2014-01-07 Microsoft Corporation Bitstream-controlled post-processing filtering
WO2005034517A1 (en) * 2003-09-17 2005-04-14 Thomson Licensing S.A. Adaptive reference picture generation
CN1875634A (zh) * 2003-10-31 2006-12-06 皇家飞利浦电子股份有限公司 编码视频信号的方法
US7630576B2 (en) * 2004-02-19 2009-12-08 Sony Corporation Signal processing apparatus and method, and command-sequence data structure
US7492848B2 (en) * 2005-04-13 2009-02-17 Texas Instruments Incorporated Method and apparatus for efficient multi-stage FIR filters
US7756350B2 (en) * 2006-11-13 2010-07-13 Global Ip Solutions, Inc. Lossless encoding and decoding of digital data

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102804781A (zh) * 2009-06-19 2012-11-28 三菱电机株式会社 图像编码装置、图像解码装置、图像编码方法以及图像解码方法
CN102714718A (zh) * 2009-12-28 2012-10-03 索尼公司 图像处理装置、方法和程序
WO2011089865A1 (ja) * 2010-01-21 2011-07-28 パナソニック株式会社 画像符号化方法、画像復号方法、それらの装置、プログラムおよび集積回路
CN102884790A (zh) * 2010-04-09 2013-01-16 索尼公司 图像处理装置和方法
CN102447900A (zh) * 2010-08-31 2012-05-09 泰勒斯公司 用于生成可变优先级多窗口图像的设备和方法
CN102447900B (zh) * 2010-08-31 2016-08-03 泰勒斯公司 用于生成可变优先级多窗口图像的设备和方法
US11095889B2 (en) 2011-03-24 2021-08-17 Sony Group Corporation Image processing apparatus and method
US10623739B2 (en) 2011-03-24 2020-04-14 Sony Corporation Image processing apparatus and method
CN103430544B (zh) * 2011-03-24 2017-02-08 索尼公司 图像处理设备和方法
US10306223B2 (en) 2011-03-24 2019-05-28 Sony Corporation Image processing apparatus and method
CN103430544A (zh) * 2011-03-24 2013-12-04 索尼公司 图像处理设备和方法
CN102427528B (zh) * 2011-09-30 2013-07-31 北京航空航天大学 一种基于聚类统计的视频运动估计方法
CN102427528A (zh) * 2011-09-30 2012-04-25 北京航空航天大学 一种基于聚类统计的视频运动估计方法
CN102368329A (zh) * 2011-10-24 2012-03-07 龙芯中科技术有限公司 图形***中纹理图像透明度通道处理***与装置和方法
CN102611823B (zh) * 2012-01-13 2014-06-04 百度在线网络技术(北京)有限公司 一种基于图片内容选择压缩算法的方法和设备
CN102611823A (zh) * 2012-01-13 2012-07-25 百度在线网络技术(北京)有限公司 一种基于图片内容选择压缩算法的方法和设备
WO2017036061A1 (zh) * 2015-08-28 2017-03-09 京东方科技集团股份有限公司 一种图像编码方法、图像解码方法及装置
US10880566B2 (en) 2015-08-28 2020-12-29 Boe Technology Group Co., Ltd. Method and device for image encoding and image decoding
CN106548498A (zh) * 2015-09-22 2017-03-29 三星电子株式会社 用于处理压缩纹理的方法和设备
CN105718513B (zh) * 2016-01-14 2019-11-15 上海大学 jpg文件的压缩方法及解压缩方法
CN105718513A (zh) * 2016-01-14 2016-06-29 上海大学 jpg文件的压缩方法及解压缩方法
CN108604902A (zh) * 2016-02-08 2018-09-28 皇家飞利浦有限公司 确定聚类的设备和方法
CN109643456A (zh) * 2016-06-17 2019-04-16 因默希弗机器人私人有限公司 图像压缩方法与设备
CN108632502A (zh) * 2017-03-17 2018-10-09 深圳开阳电子股份有限公司 一种图像锐化的方法及装置
CN110060311A (zh) * 2018-09-09 2019-07-26 深圳硅基仿生科技有限公司 具有超大压缩比的视网膜刺激器的图像处理装置
CN110473209A (zh) * 2019-08-02 2019-11-19 武汉高德智感科技有限公司 红外图像处理方法、装置及计算机存储介质
CN110473209B (zh) * 2019-08-02 2021-08-13 武汉高德智感科技有限公司 红外图像处理方法、装置及计算机存储介质
CN111583158A (zh) * 2020-05-19 2020-08-25 国网吉林省电力有限公司 一种背景简化表达的票据电子影像压缩存储方法
CN111583158B (zh) * 2020-05-19 2022-09-23 国网吉林省电力有限公司 一种背景简化表达的票据电子影像压缩存储方法

Also Published As

Publication number Publication date
PL2123051T3 (pl) 2011-04-29
RU2009127749A (ru) 2011-01-27
EP2123051A1 (en) 2009-11-25
US20100027686A1 (en) 2010-02-04
EP2123051B1 (en) 2010-11-10
DE602007010514D1 (de) 2010-12-23
RU2461977C2 (ru) 2012-09-20
US9786066B2 (en) 2017-10-10
ATE488096T1 (de) 2010-11-15
KR20090100402A (ko) 2009-09-23
ES2356023T3 (es) 2011-04-04
MX2009006404A (es) 2009-06-23
CN101563926B (zh) 2011-11-16
US20140079330A1 (en) 2014-03-20
JP2010514246A (ja) 2010-04-30
WO2008075247A1 (en) 2008-06-26
US8582666B2 (en) 2013-11-12
KR101545005B1 (ko) 2015-08-21

Similar Documents

Publication Publication Date Title
CN101563926B (zh) 图像压缩与解压缩
Meier et al. Reduction of blocking artifacts in image and video coding
US7551792B2 (en) System and method for reducing ringing artifacts in images
CN104982035B (zh) 用于对数字图像的序列进行编码的方法
EP1771818A1 (en) Apparatus and method for adaptive 3d artifact reducing for encoded image signal
Wige et al. Pixel-based averaging predictor for HEVC lossless coding
Wang et al. Hybrid image coding based on partial fractal mapping
EP3074946B1 (en) Method and device for quantising the floating value of a pixel in an image
Chen et al. Neural network-based video compression artifact reduction using temporal correlation and sparsity prior predictions
Abdollahzadeh et al. Multi-focus image fusion for visual sensor networks
CN110730347A (zh) 图像压缩方法、装置及电子设备
US7123776B2 (en) Method of processing digital images for low-bit rate applications
JP2005318614A (ja) 入力画像中のアーチファクトを低減する方法
Ho et al. A pyramidal image coder with contour-based interpolative vector quantization
Liu et al. A new postprocessing method for the block-based DCT coding based on the convex-projection theory
Kavitha et al. Lossy compression through segmentation on low depth-of-field images
CN115396670B (zh) 一种局域处理的图像数据压缩方法
Sadanandan et al. Image compression with modified skipline encoding and curve fitting
Santos Reducing the block effect in color images (RGB) using genetic algorithms
Patel et al. Analysis of novel de-blocking method for blocking artifacts reduction
Anagha et al. A machine learning approach for removal of JPEG compression artifacts: a survey
Makol et al. Review of Deblocking Of Compressed Images Using Post Processing Spatial Techniques
Mishra Suppression of blocking artifact in compressed image
Suresh et al. An Efficient VLSI Implementation of De-Blocking Filter with CSLA for H. 264
Sun et al. An efficient DCT-based image compression system based on transparent composite model

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant