CN101313586A - 小波变换多媒体编码中的内插技术 - Google Patents

小波变换多媒体编码中的内插技术 Download PDF

Info

Publication number
CN101313586A
CN101313586A CNA2006800436688A CN200680043668A CN101313586A CN 101313586 A CN101313586 A CN 101313586A CN A2006800436688 A CNA2006800436688 A CN A2006800436688A CN 200680043668 A CN200680043668 A CN 200680043668A CN 101313586 A CN101313586 A CN 101313586A
Authority
CN
China
Prior art keywords
frame
decoding
interpolation
wavelet information
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2006800436688A
Other languages
English (en)
Other versions
CN101313586B (zh
Inventor
陈培松
维贾雅拉克希米·R·拉韦恩德拉恩
石方
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN101313586A publication Critical patent/CN101313586A/zh
Application granted granted Critical
Publication of CN101313586B publication Critical patent/CN101313586B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/1883Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit relating to sub-band structure, e.g. hierarchical level, directional tree, e.g. low-high [LH], high-low [HL], high-high [HH]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
    • H04N19/635Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets characterised by filter definition or implementation details

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)

Abstract

本发明描述小波变换编码方案内的帧内插技术。帧内插可用于在根据小波变换编码方案编码的两个连续低频帧之间产生一个或一个以上内插的帧。所述内插可用于增加经由小波变换编码的多媒体序列的帧速率。而且,所述技术可用于内插丢失的帧,例如,可能在无线传输期间丢失的帧。

Description

小波变换多媒体编码中的内插技术
在35 U.S.C.§119下主张优先权
本专利申请案主张2005年9月27申请的第60/721,436号临时申请案的优先权,且所述临时申请案转让给本专利申请案的受让人,且因此特意以引用的方式并入本文中。
技术领域
本发明涉及多媒体编码和解码,且更明确地说,涉及用于小波变换编码方案的解码技术。
背景技术
已经建立了许多不同的用于对数字多媒体序列进行编码的多媒体编码技术和标准。许多当前技术利用基于区块的编码。在基于区块的编码中,多媒体序列的帧被划分成离散的数据区块,且基于与其它区块的差异而对所述区块进行编码。
基于运动的区块编码技术基于相对于多媒体序列中其它帧的区块内的像素的运动而利用运动向量来对多媒体帧的区块进行编码。所述运动向量识别用于对当前多媒体区块进行编码的不同帧的区块。通过使用所述运动向量,可通过发送指示正被编码的当前区块与由所述运动向量识别的预测性区块之间的差异的差异信息来减少传送多媒体序列所需的信息。
某些基于空间的编码技术也依靠区块编码技术。具体地说,基于空间的编码可使用给定帧内的区块来预测正被编码的相应区块。另外,离散余弦变换(DCT)技术通常对像素区块进行操作。DCT技术通常用于图像和视频压缩,且可单独使用或结合其它基于区块的编码技术而使用。
小波变换编码是一种对例如DCT技术的基于区块的编码技术的可行替代。小波变换编码有时被称为离散小波变换(DWT)。使用小波变换编码的视频或图像多媒体压缩可消除区块假像(blockiness artifact)(有时被称为平铺),所述区块假像通常随DCT编码而展现。此外,基于小波的多媒体压缩的工作性能通常优于基于区块的DCT压缩,特别是在使用峰值信噪比(PSNR)或均方误差(MSE)度量进行评估时。此外,对于同一压缩比,以基于小波的编码来压缩的多媒体帧或图像的主观质量可能看起来比以区块DCT方法压缩的多媒体帧或图像的主观质量好。
发明内容
本发明描述小波变换编码方案内的帧内插技术。所述帧内插技术可用于在根据小波变换编码方案而编码的两个连续帧或两个连续低频帧之间产生一个或一个以上内插的帧。所述内插可用于增加经由小波变换而编码的多媒体序列的有效帧速率,从而提供所谓的帧速率上转换(FRUC)。而且,所述技术可用于内插丢失的帧,例如,可能在无线传输期间丢失的帧。
本发明的技术可能对内插当在传输期间丢失一个或一个以上高频分量时原本会丢失的帧非常有用。举例来说,如果使用多级小波变换编码,那么若干原始帧可表示为一个低频分量、若干高频分量和运动场(motion field)。与所述高频分量相比,可用更多的位来对低频分量进行编码,且可用更高的功率来传输所述低频分量以确保接收。由于在此类高频分量在传输期间被丢失或破坏的情况下可使用丢失帧的内插,所以可用较少的保证措施来编码或传输所述高频分量。
在一些实施例中,本发明提供一种方法,其包括:接收与多媒体序列的经编码的帧相关联的小波信息;对所述多媒体序列的所述经编码的帧进行解码;以及基于所述小波信息,在所述经解码的帧之间内插一个或一个以上额外帧。
在一些实施例中,本发明提供一种设备,其包括:接收器,其接收与多媒体序列的经编码的帧相关联的小波信息;以及解码器,其对所述多媒体序列的所述经编码的帧进行解码,并基于所述小波信息,在所述经解码的帧之间内插一个或一个以上额外帧。
在一些实施例中,本发明提供一种处理器,其经配置以:对多媒体序列的帧进行解码,经由小波信息根据小波变换编码方案对所述帧进行编码;以及基于小波信息,在所述经解码的帧之间内插一个或一个以上额外帧。
在一些实施例中,本发明提供一种设备,其包括:用于接收与多媒体序列的经编码的帧相关联的小波信息的装置;用于对所述多媒体序列的所述经编码的帧进行解码的装置;以及用于基于所述小波信息而在所述经解码的帧之间内插一个或一个以上额外帧的装置。
本文所描述的技术可在硬件、软件、固件或其任一组合中实施。如果在软件中实施,那么所述软件可在数字信号处理器(DSP)或其它类型的处理器中执行。执行所述技术的软件最初可存储在机器可读媒体(例如计算机可读媒体)中,且加载在处理器或其它机器中并在其中执行,以允许具有如本文所描述的过渡效应的视频编码或解码。
因此,本发明还涵盖一种机器可读媒体,其包括指令,所述指令在执行后立即致使机器:接收与多媒体序列的经编码的帧相关联的小波信息;对所述多媒体序列的所述经编码的帧进行解码;以及基于所述小波信息,在所述经解码的帧之间内插一个或一个以上额外帧。
附图和下文的描述内容中陈述一个或一个以上实施例的细节。从所述描述内容和图式且从权利要求书中将明白其它特征、目的和优点。
附图说明
图1是说明可实施根据本发明的小波变换编码技术的视频编码与解码***的框图。
图2是说明小波变换编码的概念的概念图。
图3是说明根据本发明的小波变换解码技术的流程图。
图4是说明在小波变换解码过程期间在两个低频帧之间内插一个帧的概念图。
图5是说明在小波变换解码过程期间在两个低频帧之间内插三个帧的概念图。
图6是说明可实施根据本发明的小波变换编码技术的视频编码与解码***的另一框图。
具体实施方式
本发明描述小波变换编码方案内的帧内插技术。小波变换编码是对例如离散余弦变换(DCT)技术的基于区块的编码技术的替代,且通常工作性能优于基于区块的DCT压缩。基于小波的编码涉及对多媒体序列的连续帧进行组合以产生低频和高频小波分量(有时称为“子频带帧”)。低频分量和高频分量是低频和高频小波信息的实例,其可用于根据小波变换编码方案对多媒体帧进行编码。
具体地说,所述低频小波信息是正被编码的帧的粗略或低时间分辨率版本,且通常表示为两个正被编码的帧的平均像素值。高频小波信息提供正被编码的帧的附加细节,且通常表示为正被编码的帧的像素之间的差。用于两个连续帧的基于小波的编码信息包含低频小波信息、高频小波信息和指示所述两个连续帧的像素之间的运动的运动场。
通常,小波变换编码过程在多个等级上重复,且在编码过程的每个相应等级处相对于两个连续低频子频带帧而应用。举例来说,如果使用多级小波变换编码,那么若干原始帧可表示为一个低频分量、若干高频分量和运动场。
根据本发明,在基于小波的解码过程期间使用帧内插,以便在两个连续帧或两个连续低频帧之间产生一个或一个以上额外的内插帧。所述内插可用于增加经由小波变换而编码的多媒体序列的有效帧速率,支持所谓的帧速率上转换(FRUC)。而且,所述技术可用于内插丢失的帧,例如,可能在无线传输期间丢失的帧。同样,当使用多级小波变换编码时,若干原始帧可表示为一个低频分量、若干高频分量和运动场。在这种情况下,本发明的技术可能对内插当在传输期间丢失一个或一个以上高频分量时原本会丢失的帧非常有用。
图1是说明可实施根据本发明的小波变换编码技术的视频编码与解码***10的框图。如图所示,***10包含视频编码器装置2和视频解码器装置4。经编码的多媒体序列可从视频编码器装置2通过通信信道5传输到视频解码器装置4。为此,视频编码器装置2和视频解码器装置4分别包含发射器12和接收器16,以促进所述通信,所述通信可以是有线通信或无线通信。
举例来说,视频编码器装置2可形成广播网络装置的一部分,所述广播网络装置用来将一个或一个以上视频信道广播到无线订户装置。在这种情况下,视频编码器装置2可将经编码的数据传输到若干视频解码器装置(即,广播服务的许多订户)。然而,为简明起见,图1说明单个视频解码器装置4。视频编码器装置2和视频解码器装置4可实施为一个或一个以上处理器、数字信号处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑、软件、硬件、固件或其任一组合。
视频编码器装置2的实例可包含无线基站或用于广播经编码的视频数据的任何基础结构节点。另一方面,视频解码器装置4可包括用户装置,所述用户装置接收经编码的视频。举例来说,视频解码器装置4可实施为数字电视、无线通信装置、便携式数字助理(PDA)、膝上型计算机或桌上型计算机、数字音乐与视频装置(例如以“iPod”为商标出售的那些装置)或无线电话(例如蜂窝式、卫星或基于地面的无线电话)的一部分。在其它实例中,视频编码器装置2和视频解码器装置4两者都可包括用户装置,其经由视频电话技术(或类似技术)在此类装置之间传送视频数据。
所说明的***10中的组件是那些可应用于实施本文所描述的技术的组件的实例,尽管编码器装置2和解码器装置4可包含许多其它组件(如果需要的话)。此外,本发明的技术不一定限于在与***10类似的***中使用,也不限于在广播***中使用。所述技术可应用于使用小波变换编码技术来对多媒体序列进行编码的任何视频编码环境。
如图1所示,视频编码器装置2包含小波变换CODEC 14,其执行多媒体序列的小波变换编码。所述多媒体序列可原先存储在存储器位置中,为了简明起见,图1中未说明所述存储器位置。所述存储器可以是视频编码器装置2的一部分,或可以是向视频编码器装置2提供多媒体序列的外部存储器。由小波变换CODEC 14编码的多媒体序列可包括待编码且作为广播而传输的实况实时视频或视频与音频序列,或可包括待编码且作为广播传输或在要求时传输的预先记录并存储的视频或视频与音频序列。
小波变换CODEC 14可对多媒体序列的帧实施一个或一个以上等级的小波变换编码。具体地说,小波变换CODEC 14对多媒体序列的连续帧进行组合以产生低频和高频分量(子频带帧)。低频分量(低频子频带帧)是正被编码的帧的粗略或低时间分辨率版本,且通常表示为两个正被编码的连续帧的平均像素值。高频分量(高频子频带帧)提供正被编码的帧的附加细节,且通常表示为所述两个正被编码的连续帧的像素之间的差。小波变换CODEC 14产生低频分量、高频分量和指示所述两个连续帧的像素之间的运动的运动场。而且,在一些情况下,小波变换CODEC 14在多个等级上重复小波编码过程,且在所述编码过程的每个相应等级处相对于两个连续低频子频带帧应用所述过程。举例来说,如果使用多级小波变换编码,那么若干原始帧可表示为一个低频分量、若干高频分量和运动场。
小波变换CODEC 14可用比高频分量多的位来对低频分量进行编码。而且,发射器12可通过信道5用比高频分量多的功率来传输低频分量。本发明的技术可能在内插当在所述传输期间丢失一个或一个以上高频分量时原本会丢失的帧方面非常有用。本发明的技术还可能在将帧内插在原始帧之间以便在解码器处获得具有比编码器处的原始多媒体序列高的帧速率的多媒体输出方面非常有用。
视频解码器装置4的接收器16接收小波信息,其根据小波变换编码方案对多媒体序列的帧进行编码。接着,小波变换CODEC 18基于所述小波信息对所述多媒体序列的帧进行解码。具体地说,小波变换CODEC 18对所述帧进行解码,以重构由小波变换CODEC14编码的原始帧。根据本发明,小波变换CODEC 18包含内插单元15。在解码过程期间,内插单元15基于所述小波信息在经解码的帧或经解码的低频帧之间内插一个或一个以上额外帧。下文提供此解码与内插过程的额外细节。
图2是说明小波变换编码的概念的概念图。所述基于小波的编码可由编码侧的小波变换CODEC 14和解码侧的基于小波的变换CODEC 18来执行。更具体地说,图2说明三段式运动补偿时域滤波(MCTF)20,其产生基于倍频程的四频带分解。所述过程可使用哈尔滤波器(Haar filter)或类似物,像基于小波的编码中常见的那样。
图2的符号如下。帧t-1、t-2、t-3、t-4、t-5、t-6、t-7和t-8表示正被编码的视频序列的时间上相邻的帧。图2中未针对此第一分解等级处帧之间的运动而展示运动场。帧t-L1和t-H1表示与帧t-1和t-2的基于小波的编码相关联的低频分量和高频分量。帧t-L2和t-H2表示与帧t-3和t-4的基于小波的编码相关联的低频分量和高频分量。帧t-L3和t-H3表示与帧t-5和t-6的基于小波的编码相关联的低频分量和高频分量。帧t-L4和t-H4表示与帧t-7和t-8的基于小波的编码相关联的低频分量和高频分量。
在第二编码等级处,帧t-LL1和t-LH1表示与子频带帧t-L1和t-L2的基于小波的编码相关联的低频分量和高频分量。标记“mf2”是指帧t-L1与t-L2之间的运动场。帧t-LL2和t-LH2表示与子频带帧t-L3和t-L4的基于小波的编码相关联的低频分量和高频分量。标记“mf3”是指帧t-L3与t-L4之间的运动场。
在第三编码等级处,帧t-LLL1和t-LLH1表示与子频带帧t-LL1和t-LL2的基于小波的编码相关联的低频分量和高频分量。标记“mf1”是指帧t-LL1与t-LL2之间的运动场。
在图2所示的三段式MCTF 20中,在帧t-1到t-8的编码过程中产生并传输八个时域子频带帧:一个t-LLL帧、一个t-LLH帧、两个t-LH帧和四个t-H帧。存在七个运动场:t-LL1与t-LL2之间的运动场mf1,t-L1与t-L2之间的运动场mf2,t-L3与t-L4之间的运动场mf3以及在第一分解等级处的四个其它运动场(为简明起见未标记)。因此,为了以小波编码的三个阶段来对帧t-1到t-8进行编码,小波信息包含一个低频分量和七个不同的高频分量。
在每个等级处,对于每两个连续帧或每两个连续低频帧,可如下执行哈尔滤波:
L [ m - d m , n - d n ] = 1 2 B [ m , n ] + 1 2 A [ m - d m , n - d n ]
H [ m , n ] = 1 2 B [ m , n ] - 1 2 A [ m - d m , n - d n ] ,
其中L[m,n]和H[m,n]是时域低频和高频帧,A[m,n]和B[m,n]是第一和第二帧,且(dmdn)是运动向量。
所述分解在编码过程中是自上而下的程序,而重构在解码过程中是由下而上的程序。
A [ m - d m , n - d n ] = 1 2 L [ m - d m , n - d n ] - 1 2 H [ m , n ] ,
B [ m , n ] = 1 2 L [ m - d m , n - d n ] + 1 2 H [ m , n ] , .
运动信息在MCTF中起主要作用。沿运动轨迹执行时域滤波。解码器处需要MCTF期间编码器所使用的运动信息。
根据本发明的内插利用越过不同等级处的运动场的冗余。举例来说,mf1还含有mf2的信息。此类冗余为编码器辅助的帧速率上转换(EA-FRUC)提供良好的情况。具体地说,可使用所述内插技术从其它运动场导出至少一个运动场。
图3是说明根据本发明的小波变换解码技术的流程图。如图3所示,接收器16接收与多媒体序列的经编码的帧相关联的小波信息(31)。举例来说,所述小波信息可以是对多媒体序列的帧进行编码的信息,且可包含低频小波信息、高频小波信息和运动信息。如上文所描述,低频小波信息可包括一个或一个以上低频子频带帧,且与高频小波信息相比,可使用更多的位和更高的能量来发送低频小波信息,以确保所述低频小波信息的传输。
高频小波信息也可包括子频带帧,即,一个或一个以上高频子频带帧。与低频小波信息相比,可用更少的位和/或更低的能量来发送高频小波信息,因为高频信息的重要性较小,且内插可寻址一个或一个以上缺失的高频子频带帧。运动信息可包括指示两个连续低频帧和/或子频带帧之间的运动的运动场。
一旦接收到小波信息(31),小波变换CODEC 18就对所述多媒体序列的经编码的帧进行解码(32)。具体地说,(参看图2),接收器16可接收t-LLL1、t-H1、t-LH1、t-H2、t-LLH1、t-H3、t-LH2、t-H4和所述运动场。小波变换CODEC 18可基于t-LLL1和t-LLH1而产生t-LL1和t-LL2,基于t-LL1和t-LH1而产生t-L1和t-L2,且基于t-LL2和t-LH2而产生t-L3和t-L4。小波变换CODEC 18还可基于t-L1和t-H1而产生t-1和t-2,基于t-L2和t-H2而产生t-3和t-4,基于t-L3和t-H3而产生t-5和t-6,且基于t-L4和t-H4而产生t-7和t-8。
接下来,小波变换CODEC 18的内插单元15基于所述小波信息而在经解码的帧之间内插一个或一个以上额外帧(33)。可执行此内插以产生一个或一个以上缺失的帧,或引入额外帧以增加经解码的多媒体序列的有效帧速率。举例来说,如果未接收到t-H1、t-LH1或t-H2中的任一者,那么可使用t-LL1与t-LL2之间的内插来重构t-2、t-3和t-4。或者,可使用内插来产生额外帧,例如在t-1与t-2之间、在t-2与t-3之间、在t-3与t-4之间等等。
一般来说,内插单元15可基于两个经解码的低频帧与表示所述两个经解码的低频帧之间的运动的运动轨迹来内插一个或一个以上低频帧。在一些情况下,将一个或一个以上额外帧内插在两个时间上相邻的经解码的帧之间。可以此方式内插任何数目个帧。在内插过程中,基于两个时间上相邻的经解码的帧的像素之间的运动轨迹产生所述一个或一个以上额外帧的像素值。包括在运动场中的运动信息提供两个时间上相邻的经解码的帧的像素之间的运动轨迹。所述运动轨迹在所述两个时间上相邻的经解码的帧之间通常是线性的,尽管本发明不一定限于线性内插,且还可延伸到非线性内插。
内插可基于时间上相邻的经解码的帧的经解码的像素相对于被内插的帧的每一像素而进行。换句话说,内插可包含基于两个时间上相邻的经解码的帧的经解码的像素与所述两个时间上相邻的经解码的帧的经解码的像素之间的运动轨迹内插一个或一个以上额外帧的每一像素。
图4是说明包含在两个低频帧之间内插一个帧的小波变换解码的概念图。在此实例中,所述低频帧是t-LL1和t-LL2,其可从t-LLL1和t-LLH1产生(如所说明)。使用包含在运动场“mf1”中的运动信息来定义帧t-LL2的像素45与帧t-LL1的对应像素46之间的线性运动轨迹48。在这种情况下,被内插的帧42的相应像素的内插是沿运动轨迹48的像素44。为了简明起见,图4展示帧42的一个像素(像素44)的内插。然而,实际上,可以类似方式基于经解码的帧t-LL1和t-LL2中的对应像素和所述帧之间的运动轨迹内插帧42的每一像素。
在一些情况下,可沿经解码的帧(即,两个或两个以上帧)之间的运动轨迹内插若干个帧。图5是说明包含在两个低频帧之间内插三个帧的小波变换解码的概念图。如果需要,还可内插额外的帧。
在图5的实例中,说明低频帧为t-LL1和t-LL2,其从t-LLL1和t-LLH1产生。使用包含在运动场“mf1”中的运动信息来定义帧t-LL2的像素55与帧t-LL1的对应像素56之间的线性运动轨迹58。在这种情况下,被内插的帧52A、52B和52C的相应像素的内插分别形成被内插的像素54A、54B和54C,所有所述内插像素都沿运动轨迹58。如同图4,图5只展示每帧一个像素(帧52A、52B和52C的像素54A、54B和54C)的内插。然而,同样可以类似方式基于经解码的帧t-LL1和t-LL2中的对应像素和由所述帧之间的不同像素定义的运动轨迹内插帧52A、52B和52C的每一像素。
图6是说明可实施根据本发明的小波变换编码技术的视频编码与解码***的另一框图。如图6所示,***60包含视频编码器装置62和视频解码器装置64。经编码的多媒体序列从编码器装置62通过通信信道65传输到视频解码器装置64,所述通信信道65可以是有线的或无线的。
视频编码器装置62包含用于小波变换编码的模块74,其执行多媒体序列的小波变换编码。具体地说,用于小波变换编码的模块74可对多媒体序列的帧实施一个或一个以上等级的小波变换编码,例如,通过对多媒体序列的连续帧进行组合以产生低频和高频分量(子频带帧),以及指示连续帧的像素之间的运动的运动场。此外,用于小波变换编码的模块74可在多个等级上重复小波编码过程,并在编码过程的每个相应等级处,相对于两个连续低频子频带帧而应用所述过程。用于发射的模块72将所述经编码的小波信息(例如,一个或一个以上低频分量、一个或一个以上高频分量和一个或一个以上运动场)发射到视频解码装置64。用于小波变换编码的模块74可包括编码器,所述编码器根据小波变换编码方案而执行编码。用于发射的模块72可包括发送信息的发射器或既发送信息又接收信息的收发器。
用于接收的模块76接收小波信息,使用所述小波信息来根据小波变换编码方案对多媒体序列的帧进行编码。接着,用于小波变换解码的模块78基于所述小波信息而对所述多媒体序列的帧进行解码。具体地说,用于小波变换解码的模块78对所述帧进行解码,以重构由用于小波变换编码的模块74编码的原始帧。根据本发明,用于小波变换解码的模块78包含用于内插的模块75。因此,在解码过程期间,用于内插的模块75基于所述小波信息而在所述经解码的帧之间内插一个或一个以上额外帧。此内插可用来添加额外帧,以增加经解码的视频的帧速率,或内插一个或一个以上可能在传输所述小波信息期间已经丢失的帧。用于小波变换解码的模块78可包括解码器,所述解码器根据小波变换编码方案而执行解码,但经由用于内插的模块75来实施本文中的内插技术。用于接收的模块76可包括接收信息的接收器或既发送信息又接收信息的收发器。
根据本发明,用于发射的装置可包括发射器12(图1)或用于发射的模块72(图6)。类似地,用于接收的模块可包括接收器16(图1)或用于接收的模块76(图6)。用于小波变换编码的装置可包括小波变换CODEC 14(图1)或用于变换编码的模块74(图6)。用于小波变换解码的装置可包括小波变换CODEC 18(图1)或用于变换解码的模块78(图6)。用于内插的装置可包括内插单元15(图1)或用于内插的模块75(图6)。
已经在小波变换编码的上下文中针对内插帧描述了许多实施例。本文所描述的技术可实施在硬件、软件、固件或其任一组合中。如果实施在软件中,那么所述技术可部分地由包括含有指令的程序代码的计算机可读媒体(或其它机器可读媒体)来实现,所述指令在被执行时会执行本文所描述的技术中的一者或一者以上。在这种情况下,所述计算机可读媒体可包括随机存取存储器(RAM)(例如同步动态随机存取存储器(SDRAM))、只读存储器(ROM)、非易失性随机存取存储器(NVRAM)、电可擦除可编程只读存储器(EEPROM),快闪存储器、磁性或光学数据存储媒体等等。
所述指令可由一个或一个以上处理器或其它机器执行,例如一个或一个以上数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其它等效集成或离散逻辑电路。通常,执行所述指令的机器可包括设备。在一些实施例中,本文所描述的功能性可在经配置以用于编码和解码的专用软件模块或硬件单元中提供,或并入组合视频编解码器(CODEC)中。
尽管如此,可在不脱离所附权利要求书的范围的情况下,对所描述的技术作出各种修改。因此,上文所描述的特定实施例以及其它实施例在所附权利要求书的范围内。

Claims (29)

1.一种方法,其包括:
接收与多媒体序列的经编码的帧相关联的小波信息;
对所述多媒体序列的所述经编码的帧进行解码;以及
基于所述小波信息在所述经解码的帧之间内插一个或一个以上额外帧。
2.根据权利要求1所述的方法,其中所述小波信息包含低频小波信息、高频小波信息和运动信息。
3.根据权利要求1所述的方法,其中内插包括基于两个经解码的低频帧和表示所述两个经解码的低频帧之间的运动的运动轨迹而内插一个或一个以上低频帧。
4.根据权利要求1所述的方法,其进一步包括在两个时间上相邻的经解码的帧之间内插两个或两个以上额外帧。
5.根据权利要求1所述的方法,其中使用所述小波信息来根据小波变换编码方案对所述多媒体序列的所述经编码的帧进行编码。
6.根据权利要求1所述的方法,其中内插包括基于两个时间上相邻的经解码的帧的像素之间的运动轨迹定义所述一个或一个以上额外帧的像素值。
7.根据权利要求6所述的方法,其中所述运动轨迹在所述两个时间上相邻的经解码的帧之间是线性的。
8.根据权利要求2所述的方法,其中以与所述高频小波信息不同的位速率对所述低频小波信息进行编码。
9.根据权利要求2所述的方法,其中以与所述高频小波信息不同的功率电平传输所述低频小波信息。
10.根据权利要求1所述的方法,其中内插包括基于两个时间上相邻的经解码的帧的经解码的像素与所述两个时间上相邻的经解码的帧的所述经解码的像素之间的运动轨迹内插所述或所述额外帧的每一像素。
11.一种设备,其包括:
接收器,其接收与多媒体序列的经编码的帧相关联的小波信息;以及
解码器,其对所述多媒体序列的所述经编码的帧进行解码,并基于所述小波信息在所述经解码的帧之间内插一个或一个以上额外帧。
12.根据权利要求11所述的设备,其中所述小波信息包含低频小波信息、高频小波信息和运动信息。
13.根据权利要求11所述的设备,其中所述解码器基于两个经解码的低频帧与表示所述两个经解码的低频帧之间的运动的运动轨迹内插一个或一个以上低频帧。
14.根据权利要求11所述的设备,其中所述解码器在两个时间上相邻的经解码的帧之间内插两个或两个以上额外帧。
15.根据权利要求11所述的设备,其中使用所述小波信息来根据小波变换编码方案对所述多媒体序列的所述经编码的帧进行编码。
16.根据权利要求11所述的设备,其中所述解码器通过基于两个时间上相邻的经解码的帧的像素之间的运动轨迹定义所述一个或一个以上额外帧的像素值来内插所述一个或一个以上额外帧。
17.根据权利要求16所述的设备,其中所述运动轨迹在所述两个时间上相邻的经解码的帧之间是线性的。
18.根据权利要求12所述的设备,其中以与所述高频小波信息不同的位速率对所述低频小波信息进行编码。
19.根据权利要求12所述的设备,其中以与所述高频小波信息不同的功率电平来传输所述低频小波信息。
20.根据权利要求11所述的设备,其中所述解码器基于两个时间上相邻的经解码的帧的经解码的像素与所述两个时间上相邻的经解码的帧的所述经解码的像素之间的运动轨迹内插所述一个或一个以上额外帧的每一像素。
21.一种包括指令的机器可读媒体,所述指令在执行后立即致使机器:
接收与多媒体序列的经编码的帧相关联的小波信息;
对所述多媒体序列的所述经编码的帧进行解码;以及
基于所述小波信息在所述经解码的帧之间内插一个或一个以上额外帧。
22.根据权利要求21所述的机器可读媒体,其中所述小波信息包含低频小波信息、高频小波信息和运动信息。
23.根据权利要求21所述的机器可读媒体,其中机器可读指令基于两个经解码的低频帧与表示所述两个经解码的低频帧之间的运动的运动轨迹内插一个或一个以上低频帧。
24.根据权利要求21所述的机器可读媒体,其中所述机器可读指令通过基于两个时间上相邻的经解码的帧的像素之间的运动轨迹定义所述一个或一个以上额外帧的像素值来内插所述一个或一个以上额外帧。
25.一种处理器,其经配置以:
对多媒体序列的帧进行解码,经由小波信息根据小波变换编码方案对所述帧进行编码;以及
基于所述小波信息在所述经解码的帧之间内插一个或一个以上额外帧。
26.根据权利要求25所述的处理器,其中所述小波信息包含低频小波信息、高频小波信息和运动信息。
27.根据权利要求25所述的处理器,其中所述处理器基于两个经解码的低频帧与表示所述两个经解码的低频帧之间的运动的运动轨迹内插一个或一个以上低频帧。
28.根据权利要求25所述的处理器,其中所述处理器通过基于两个时间上相邻的经解码的帧的像素之间的运动轨迹定义所述一个或一个以上额外帧的像素值来内插所述一个或一个以上额外帧。
29.一种设备,其包括:
用于接收与多媒体序列的经编码的帧相关联的小波信息的装置;
用于对所述多媒体序列的所述经编码的帧进行解码的装置;以及
用于基于所述小波信息在所述经解码的帧之间内插一个或一个以上额外帧的装置。
CN2006800436688A 2005-09-27 2006-09-27 小波变换多媒体编码中的内插帧方法和装置 Expired - Fee Related CN101313586B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US72143605P 2005-09-27 2005-09-27
US60/721,436 2005-09-27
US11/505,789 2006-08-16
US11/505,789 US8755440B2 (en) 2005-09-27 2006-08-16 Interpolation techniques in wavelet transform multimedia coding
PCT/US2006/037990 WO2007038721A2 (en) 2005-09-27 2006-09-27 Interpolation techniques in wavelet transform multimedia coding

Publications (2)

Publication Number Publication Date
CN101313586A true CN101313586A (zh) 2008-11-26
CN101313586B CN101313586B (zh) 2010-12-08

Family

ID=37807873

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2006800436688A Expired - Fee Related CN101313586B (zh) 2005-09-27 2006-09-27 小波变换多媒体编码中的内插帧方法和装置

Country Status (9)

Country Link
US (1) US8755440B2 (zh)
EP (1) EP1938614A2 (zh)
JP (1) JP2009510934A (zh)
KR (1) KR20080066708A (zh)
CN (1) CN101313586B (zh)
AR (1) AR055187A1 (zh)
CL (1) CL2006002555A1 (zh)
TW (1) TW200729964A (zh)
WO (1) WO2007038721A2 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005025095A1 (de) * 2005-06-01 2006-12-07 Giesecke & Devrient Gmbh Datenträger und Verfahren zu seiner Herstellung
US8494049B2 (en) * 2007-04-09 2013-07-23 Cisco Technology, Inc. Long term reference frame management with error video feedback for compressed video communication
US9598011B2 (en) 2014-01-09 2017-03-21 Northrop Grumman Systems Corporation Artificial vision system
EP3170306B1 (en) * 2014-07-16 2020-01-29 Yamzz Ip Bv Multilevel video compression, decompression, and display for 4k and 8k applications

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4383272A (en) * 1981-04-13 1983-05-10 Bell Telephone Laboratories, Incorporated Video signal interpolation using motion estimation
US5995539A (en) * 1993-03-17 1999-11-30 Miller; William J. Method and apparatus for signal transmission and reception
JPH06319127A (ja) * 1993-05-06 1994-11-15 Mitsubishi Electric Corp 映像信号符号化装置
US5574747A (en) 1995-01-04 1996-11-12 Interdigital Technology Corporation Spread spectrum adaptive power control system and method
GB2305569B (en) * 1995-09-21 1999-07-21 Innovision Res Ltd Motion compensated interpolation
KR100359821B1 (ko) * 2000-01-20 2002-11-07 엘지전자 주식회사 움직임 보상 적응형 영상 압축과 복원방법 및 그 장치와디코더
US6738523B1 (en) * 2000-09-14 2004-05-18 Eastman Kodak Company Parallel inverse discrete wavelet transform
US6944225B2 (en) * 2001-07-24 2005-09-13 Sharp Laboratories Of America, Inc. Resolution-scalable video compression
JP2003069998A (ja) * 2001-08-28 2003-03-07 Canon Inc 画像処理装置及び画像処理方法
JP3620836B2 (ja) 2002-04-25 2005-02-16 アイシン精機株式会社 開閉体の動作機構
US20030202599A1 (en) 2002-04-29 2003-10-30 Koninklijke Philips Electronics N.V. Scalable wavelet based coding using motion compensated temporal filtering based on multiple reference frames
WO2003094526A2 (en) 2002-04-29 2003-11-13 Koninklijke Philips Electronics N.V. Motion compensated temporal filtering based on multiple reference frames for wavelet coding
US7515634B2 (en) * 2002-06-28 2009-04-07 Qualcomm Incorporated Computationally constrained video encoding
WO2004008770A1 (en) 2002-07-17 2004-01-22 Koninklijke Philips Electronics N.V. Video coding method and device
JP2005538637A (ja) 2002-09-11 2005-12-15 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 映像符合化方法及び装置
AU2002951574A0 (en) * 2002-09-20 2002-10-03 Unisearch Limited Method of signalling motion information for efficient scalable video compression
WO2004036919A1 (en) * 2002-10-16 2004-04-29 Koninklijke Philips Electronics N.V. Fully scalable 3-d overcomplete wavelet video coding using adaptive motion compensated temporal filtering
WO2004049723A1 (en) * 2002-11-27 2004-06-10 Koninklijke Philips Electronics N.V. Video encoding method
US7321625B2 (en) * 2002-12-13 2008-01-22 Ntt Docomo, Inc. Wavelet based multiresolution video representation with spatially scalable motion vectors
JP2006521039A (ja) * 2003-02-25 2006-09-14 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ オーバコンプリートウェーブレット展開での動き補償時間フィルタリングを使用した3次元ウェーブレットビデオ符号化
WO2005020581A1 (en) * 2003-08-26 2005-03-03 Samsung Electronics Co., Ltd. Scalable video coding method and apparatus using pre-decoder
KR100586882B1 (ko) * 2004-04-13 2006-06-08 삼성전자주식회사 모션 스케일러빌리티를 지원하는 코딩 방법 및 장치

Also Published As

Publication number Publication date
CN101313586B (zh) 2010-12-08
EP1938614A2 (en) 2008-07-02
KR20080066708A (ko) 2008-07-16
US8755440B2 (en) 2014-06-17
WO2007038721A2 (en) 2007-04-05
JP2009510934A (ja) 2009-03-12
CL2006002555A1 (es) 2008-01-04
TW200729964A (en) 2007-08-01
US20070201755A1 (en) 2007-08-30
AR055187A1 (es) 2007-08-08
WO2007038721A3 (en) 2007-06-14

Similar Documents

Publication Publication Date Title
US7027512B2 (en) Spatio-temporal hybrid scalable video coding apparatus using subband decomposition and method
CN101822060B (zh) 组合的空间和比特深度可缩放性
US20170034539A1 (en) Variable length coding method and variable length decoding method
EP1606950B1 (en) Scalable encoding and decoding of interlaced digital video data
US20050094726A1 (en) System for encoding video data and system for decoding video data
US20060008000A1 (en) Fully scalable 3-d overcomplete wavelet video coding using adaptive motion compensated temporal filtering
US20030043908A1 (en) Bandwidth scalable video transcoder
US20040028138A1 (en) Three-dimensional wavelet-based scalable video compression
JP2007531377A (ja) 順次走査変換機構を用いた多重記述符号化映像送信
JP2010516193A (ja) Svccgs拡張層コーディングに関するcavlc拡張
US20060146937A1 (en) Three-dimensional wavelet video coding using motion-compensated temporal filtering on overcomplete wavelet expansions
EP1504607A2 (en) Scalable wavelet coding using motion compensated temporal filtering based on multiple reference frames
US20050018771A1 (en) Drift-free video encoding and decoding method and corresponding devices
KR20050028019A (ko) 하나 및 다수의 기준 프레임을 기반으로 한 움직임 보상필터링을 사용한 웨이블릿 기반 코딩
US20100208797A1 (en) Distributed video encoder and decoder, and distributed video encoding and decoding method
CN101313586B (zh) 小波变换多媒体编码中的内插帧方法和装置
TW420955B (en) Image compression
CN1622593B (zh) 用于实现信噪比可伸缩性的视频处理的装置和方法
US7447264B2 (en) Moving-picture temporal scalable coding method, coding apparatus, decoding method, decoding apparatus, and computer program therefor
US6917648B1 (en) Encoder and decoder for moving picture
US20050129319A1 (en) Fast discrete wavelet encoding apparatus and method for encoding a still image at a high speed based on energy of each block
US20070110162A1 (en) 3-D morphological operations with adaptive structuring elements for clustering of significant coefficients within an overcomplete wavelet video coding framework
JP2003535496A (ja) 画像シーケンスを符号化する方法または復号する方法および装置
CN105144717A (zh) 视频数据的集成空间下取样
Maugey et al. Analysis of error propagation due to frame losses in a distributed video coding system

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20101208

Termination date: 20110927