CN101422047B - 图像边界处的运动估计方法及显示设备 - Google Patents
图像边界处的运动估计方法及显示设备 Download PDFInfo
- Publication number
- CN101422047B CN101422047B CN2007800134305A CN200780013430A CN101422047B CN 101422047 B CN101422047 B CN 101422047B CN 2007800134305 A CN2007800134305 A CN 2007800134305A CN 200780013430 A CN200780013430 A CN 200780013430A CN 101422047 B CN101422047 B CN 101422047B
- Authority
- CN
- China
- Prior art keywords
- block
- matching
- image
- mrow
- current block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 239000013598 vector Substances 0.000 claims abstract description 145
- 238000000034 method Methods 0.000 claims description 24
- 238000001514 detection method Methods 0.000 claims description 12
- 238000006073 displacement reaction Methods 0.000 claims description 4
- 230000002123 temporal effect Effects 0.000 description 10
- 238000012545 processing Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000010845 search algorithm Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/55—Motion estimation with spatial constraints, e.g. at image or region borders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/56—Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
- Television Systems (AREA)
Abstract
提供图像信号内的估计运动矢量以获得健壮的运动矢量,所述方法是通过以下步骤予以实现的:为信号图像内的至少一当前块创建至少一候选运动矢量;为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,然后基于至少移位后的当前块和移位后的匹配块,计算候选运动矢量;以及对至少当前块和匹配块进行移位,以使该匹配块位于图像的有效区域之内。
Description
技术领域
本专利申请大体涉及改进的有效图像边界处的运动估计。
背景技术
随着视频处理领域中新技术的出现,运动补偿视频算法对于高质量视频处理而言不仅十分必要,价格也日趋合理。为了提供高质量的视频处理,提供了不同的运动补偿应用。各种应用,如用于降低噪声的运动补偿(MC)滤波、用于编码的MC预测、用于将隔行格式转换为逐行格式的MC去隔行、或MC图像速率(picture rate)转换已为人们所熟知。在帧速率转换时,计算原始输入帧间的新视频帧。在不采用运动补偿的情况下,必须对帧进行重复或混合,后者导致非流动的运动(称作运动画面颤动)或模糊(fuzziness)。上述应用均受益于运动估计(ME)算法,对于运动估计已有多种方法为人们所熟知。例如,递归运动估计算法利用一组候选运动矢量的集合。这些候选运动矢量用于计算不同时刻内像素块之间的匹配误差。可以从矢量集合中选择提供最小匹配误差的候选运动矢量,将其作为用于进一步处理的运动矢量。
然而,在有效视频信号的边界附近,特定的候选运动矢量可能导致匹配区域之一至少部分地处于有效视频区域之外,因此无法计算匹配误差。例如,在屏幕的左或右边缘/顶部或底部,仅仅可以估计垂直/水平运动矢量的匹配误差。
根据现有技术,通过不对与图像边缘最接近的块做运动估计的方式,来解决该问题。取而代之,从离边缘较远的空间上相邻的块复制与图像边缘最接近的块的运动矢量。
例如,当将不作运动估计的边界的宽度确定为例如n*(8x8)个块时,对其计算匹配误差(SAD)的图像中的第一个块为SAD(n*8,n*8)。 当候选运动矢量具有大于n*8的绝对值v时,由于下一帧中匹配区域中的某些像素的值可能会在有效图像区域之外,因此无法计算这些像素的值。在上述情况下,如果无法对正确矢量计算匹配误差,则根据现有技术将会选择可以对其计算匹配误差的另一(错误)矢量。在许多情况下,该矢量将是零矢量。
在传统电视中,将对其估计出错误运动矢量的、不在有效区域内的块通常刚好处于过扫描区域内,并因此是不可见的。然而,由于不正确的运动矢量,以及运动矢量突变的缘故,在PC屏幕以及其他无过扫瞄区域的(矩阵)屏幕上,将会出现伪影。此外,这些错误矢量被用作空间上相邻的块的候选运动矢量。由于3D-RS算法本质上倾向于选择一致性运动场,所以这些错误的候选运动矢量还会影响其他块的可靠性,在具有极少细节和/或低对比度的、匹配误差对于所有候选运动矢量都较低的区域中尤其如此。
发明内容
因此,本专利申请的目的是,提供在图像边界处具有改进的估计结果的运动估计。本专利申请的另一个目的是,提供在图像边界处可靠的运动估计。本专利申请的另一个目的是,提供在图像边界处的健壮的运动估计。
为了克服这些问题中的一个或多个,本申请根据一个方面提供了一种用于确定图像信号内的估计运动矢量的方法,所述方法包括:为信号图像内的至少一当前块创建至少一个候选运动矢量;为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及对至少所述当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
根据本发明实施例的信号可以是任意图像序列,例如视频序列。信号内的图像可以由像素构成。像素可以是描述图像特定部分的亮度和色度的图像元素。可以将图像内的多个相邻像素理解为像素块。
图像内的元素常在数帧内发生运动。元素的运动可以用运动向量 加以描述。运动矢量可以描述特定像素或像素块的运动方向和速度。
可以将运动估计理解为计算运动概率。可以使用运动估计来计算最有可能描述图像中实际运动的运动矢量。利用这些运动矢量,能够预测后继帧的图像。估计运动矢量还可用于对隔行扫描图像进行去隔行。
候选运动矢量可以是一组描述像素或像素块的可能运动的可能矢量的集合。该候选运动矢量集可用于确定最符合图像内实际运动的估计运动矢量。可能需要运动估计的应用有,例如,诸如去隔行和时间上变换、计算机视觉应用以及视频压缩之类的高质量视频格式转换算法。
本专利申请使得还可以,针对可导致匹配区域之一至少部分地处于图像的有效区域之外的候选运动矢量,计算有效视频信号边界附近的匹配误差。为了为匹配误差的计算提供有效像素值,可以为匹配块和/或当前块给出偏移量,以便两个匹配块在移位后都完全处于有效视频区域内。使用移位后的块的像素值计算匹配误差。
必须注意的是,所述移位可以仅应用于块,而不应用于值。换句话说,对考虑用于计算匹配误差的块的区域进行移位。对于匹配误差的实际计算,使用了位于移位后区域中的像素的像素值。还应注意的是,这种移位不改变运动矢量。将以这种方式计算出的匹配误差用作与边缘最接近的像素块的正确的匹配误差,对于所述与边缘最接近的像素块,可以计算出该矢量的匹配误差。甚至可以以这种方式计算有效视频区域的第一个和最后一个块的矢量集合的匹配误差。
应当注意的是,图像中的当前块可以是信号的输入图像内的像素块。在这种情况下,匹配块可位于时间上相邻的(例如前一和后一)图像内。然而,也可以将图像中的当前块理解为需要基于前一和后一图像进行估计的图像内的块。此时,当前块的图像不需要存在于输入信号中。在上变换中,可以使用这种当前块。
本发明实施例提出了根据权利要求2所述的确定匹配块。可以将两个匹配块用于从一组多个候选运动矢量集中计算出正确的运动矢量。可以删除当前块而仅使用两个匹配块。可以针对匹配块内的像素 值计算每个候选运动矢量的误差度量。一旦一个块位于图像的有效区域之外,就可以将匹配块的区域移动一偏移量,以便对在有效图像区域内的像素中的有效像素值进行误差度量计算。
已发现,根据权利要求3所述的对块进行移位是优选的。可以以相同的值(如移位矢量)对两个匹配块和当前块进行移位,以便所有块都处于活动图像区域内。在匹配块处于有效图像区域的右侧之外的情况下,偏移量值可以是负的,而在匹配块处于有效图像区域的左侧之外的情况下,偏移量值可以是正的。
根据权利要求4所述的对块进行移位是优选的。以这种方式,可以基于在空间上被认为与当所有块都处于有效图像区域内时所使用的像素最接近的像素块计算匹配误差。通过以某一偏移量对匹配块进行移位的方式,基于与在不移位情况下所使用的块最近的匹配块,计算匹配误差,其中所述偏移量优选情况下是提供位于有效区域内匹配块和当前块的、尽可能小的偏移量。
根据权利要求5或6所述的计算匹配误差是优选的。
有效图像区域可以不总是等于实际屏幕或整个视频帧。例如,黑条(black bar)(如由于宽荧幕电影中的边框(letterbox))可以使实际视频区域更小。在这些黑条处(或附近)进行估计运动可能会产生与前面相同的问题。因此,根据权利要求7所述的使用黑条检测可以很大程度地提高黑条附近运动估计的效果。
根据权利要求8,候选运动矢量可以描述搜索区域内像素的可能位移。这种位移可以是沿x方向和y方向。矢量可以通过其x和y分量来描述运动方向。通过矢量的绝对值描述运动速度。
根据权利要求9,使用空间和/或时间预测来创建至少两个候选运动矢量。例如,在提供扫描图像线的扫描图像中,因果性限制了空间预测在尚未发送的图像块中的使用。取而代之,可以使用时间预测。
误差准则可以是根据权利要求10所述的准则。
本申请的另一个方面是一种计算机程序,用于确定图像信号内的估计运动矢量,所述程序包括若干指令,所述指令操可用于使处理器:为信号图像内的至少一当前块创建至少一候选运动矢量;为每一个所 述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
本申请的另一个方面是一种计算机程序产品,用于确定图像信号内的估计运动矢量,所述程序包括若干指令,所述指令可用于使处理器:为信号图像内的至少一当前块创建至少一候选运动矢量;为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内。
此外,本申请的另一个方面是一种显示设备,包括:接收机,被配置用于接收视频信号;以及运动估计单元,包括:候选运动矢量检测单元,被配置用于为信号图像内的至少一当前块检测候选运动矢量;匹配单元,被配置用于为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内;检测单元,被配置用于检测所述至少一匹配块是否至少部分地位于图像的有效区域之外;以及移位单元,被配置用于对所述至少当前块和该匹配块进行移位,以使该匹配块位于图像的有效区域之内。
参考以下实施例对本发明的这些和其他方面进行阐述,将使其变得更加清晰。
附图说明
在附图中示出了:
图1示出了块匹配方法;
图2A和B示出了一组递归搜索块匹配器的候选运动矢量集合;
图3示出了根据本发明实施例的流程图;
图4示出了根据本发明实施例的设备;以及
图5示出了根据本发明实施例的利用了块移位的块匹配方法。
具体实施方式
如以下将更详细地示出的那样,可以将所谓的3D递归搜索算法用于快速运动估计。在该算法中,通过使匹配误差(例如对于候选运动矢量集合而言两个像素块间的绝对误差和(SAD))最小,来进行运动估计。在常用的实现中,将8x8像素块用于块匹配。在图1中将更详细地描述块匹配。对于每个像素块,可以估计出多个候选运动矢量。这些候选运动矢量是通过相邻块的最佳匹配矢量获得的。在同一次运动估计中已经对这些块中的一部分进行了处理,并将得到的运动矢量称为空间候选运动矢量,而在本次运动估计中,尚未计算其他的块,因此它们包含前一次运动估计的运动矢量。由这些块产生的运动矢量被称作时间候选运动矢量。图2中示出了可能的候选运动矢量。除空间/时间候选运动矢量以外,还估计出了某些额外的矢量:零矢量以及一个或多个更新矢量。更新矢量是通过将(较小的)半随机偏移矢量(offset vector)与空间和/或时间候选运动矢量相加的方式获得的。当应用图1所示的块匹配时,匹配块可能位于图像的有效区域之外。正如将参考图3至5予以更详细的描述的那样,在这种情况下,应用块移位。
图1示出了视频流中图像102的时刻n-1、n、n+1。对于运动估计,使用候选运动矢量105来计算例如当前图像n中的块104、前一图像n-1中的匹配块110与后一图像n+1内的匹配块108之间的匹配值。在搜索区域106内,选择匹配块108、110。可以通过选择产生最小匹配误差的最佳候选运动矢量105的方式,优化相关度,即块104、108、110内像素值之间的匹配误差。由此,可以测试不同的候选运动矢量105,得到匹配块108、110的不同位置,从而可能产生不同的匹配误差。可以选择产生最小匹配误差的候选运动矢量,将其作为估计运动矢量。
在块匹配器中搜索最小匹配误差是一个可以采用许多方案的二维优化问题。一种可能的是实现是使用三步块匹配器、2维对数、或交叉搜索法、或一步一次搜索(one-at-a-time-search)的块匹配。在G.deHaan的“Progress in Motion Estimation for Consumer Video FormatConversion”,IEEE transactions on consumer electronics,vol.46,no.3,August2000,pp.449-459中公开了不同的块匹配策略。
一种可能的最优化策略的实现可以是3维递归搜索块匹配器(3DRS)。3D RS说明:对于比块大的对象,最佳候选运动矢量可能出现在像素或块的空间和/或时间邻域中。
如图2a所示,假定扫描方向为从左到右和从上到下,因果性限制了对当前块Dc 104右下方的块Ds的空间候选矢量的使用。相反,需要使用根据时间上的后继块Dt得到的时间预测矢量。对于当前块Dc,在搜索区域106内,空间预测矢量可从块Ds获得,时间预测矢量可从块Dt获得。由于仅已被扫描的块可用于当前块Dc的空间预测,所以只能以块Ds进行空间预测。由于可以从搜索区域105的前一时刻获得关于块Dt信息,所以可以利用块Dt进行时间预测。
已发现在搜索范围内估计所有可能的矢量没有意义。对取自空间相邻块矢量进行估计可能已经足够了,所述空间相邻块如下所示:
i,j=-1,0,+1
其中n和m是限制的常数。为了减小计算开销,仅对取自空间相邻块CS的矢量进行估计就足够了。X、Y可分别定义块的宽度和高度。因果性以及实现中对流水作业的需要使得不是所有相邻块都是可用的,在初始化时,所有矢量均可为零。
为了解决矢量的可用性,当前图像中尚未计算出的那些矢量可以取自前一矢量场中的相应位置。图2a示出了在从左上到右下对块进行扫描的情况下,当前块Dc和其结果矢量被作为候选运动矢量的块Ds、Dt的相对位置。
可以通过加入更新矢量,来解决初始化时零矢量的问题。图2b中 示出了从候选集中删去某些空间时间预测的一种可能的实现,其中候选集 可定义为:
其中 且
一种能够描述比单纯的平移更为复杂的物体运动(如旋转或缩放)的模型,可以将图像分割为独立的物体,并为这些物体中的每个物体估计运动参数集。由于块数通常比物体数大一个数量级,所以每幅图像需要计算的运动参数得以减少。然而,计算复杂度有所增加。由搜索块匹配过程产生的估计运动矢量是使至少一个误差函数产生最小值的候选矢量这可以用下式表示:
给定的候选运动矢量105的误差值可以是:当前块104以及匹配块(即前一匹配块110或后一匹配块108)中的像素的亮度值的函数在整个块104、108、110上的和。误差值还可以是像素值的任意其他函数,并可以被表示为代价函数的和:
其中,对于非隔行信号通常选择p=1,而对于隔行信号一般选择p=2。一个可能的误差函数可以是绝对误差和(SAD)标准。例如,当使用前一图像n-1(P)和后一图像n+1(N),为候选运动矢量105计算匹配误差时,可以按下式计算SAD:
已经解释了从一组候选运动矢量集中选择估计运动矢量的一般方法,接下来将要描述在匹配块位于图像的有效区域之外的情况下,如何计算估计运动矢量。
图3是一副流程图,示出了根据本发明的实施例的方法300。可以利用图4所示的设备执行图3中所示的方法300。
显示设备400包括接收机402。将输入至接收机402的输入信号转发至运动估计单元404。运动估计单元404包括:候选运动矢量检测单元406、检测单元408、移位单元410、匹配单元412和输出单元414。运动估计单元404可以用硬件(HW)和/或软件(SW)予以实现。就软件实现而言,当在显示设备400的处理单元中执行存储在计算机可读介质上的软件代码时,该软件代码就可以实现所述功能。
参考图3和图5,按以下方式操作显示设备400。
在接收机402处接收到输入信号之后,将该输入信号转发至运动估计单元404。在运动估计单元104中,为实现运动估计对输入信号进行处理。在运动估计期间,为输入图像内的多个块估计运动矢量,以便用于进一步的处理。为了估计运动矢量,在第一步骤302中,选择当前块。可以对每幅图像内的所有块执行步骤302-318。
对于该当前块,在候选运动矢量检测单元内选择(304)候选运动矢量集。这一步骤可以按图2所示的方式来实现。
在选择了当前块(302)和候选运动矢量集(304)之后,在检测单元408内,为候选运动矢量中的每一个矢量确定(306)前一匹配块和后一匹配块。图5针对一个运动矢量示出了这一步骤。对于当前块504,估计运动矢量集中的所有候选运动矢量505。在所示示例中,运动矢量505使得,前一匹配块510位于当前块504的左侧,后一匹配块508位于当前块504的右侧。
在下一步骤中,在检测单元408中检测(308)图像的有效区域502。该有效区域可以是图像内的区域。图像外的区域可被认为是无效的。有效区域502还可以通过图像的水平和垂直边缘上的黑条(black bar)予以界定。可以使用黑条检测单元(未示出)来检测黑条。
在检测出图像的有效区域502处之后,可以在检测单元408内估计(310)匹配块510和/或匹配块508是否都处于有效区域502内。在匹配块508、510都处于有效区域502内的情况下,在步骤316,继续执行处理。否则,以计算块移位的方式,来继续执行处理。
通常,当例如在当前块处必须计算SAD,x=0且候选运动矢量vx>0的情况下,x-vx的最小值将等于-vx,因此,匹配块510中的对应位置将位于有效区域502之外。应当向块504、508、510提供绝对值等于vx的x方向的偏移量(Δx),以确保下一帧中的匹配区域将会在有效区域502内。类似地,当候选运动矢量的x分量小于零时,x+vx的最小值将等于vx,因此匹配块510将在有效区域之外。这就需要等于vx的绝对值的偏移量,以确保匹配区域508、510都在有效视频区域内。通常:
在该方程中,应当选择Δx和Δy的值以使匹配区域508、510都在有效区域502内。当匹配块510之一处于屏幕左侧之外时,Δx的值将是正的,而当匹配块508之一处于屏幕右侧之外时,Δx的值将是负的。
在所示情况下,当为当前块504估计运动矢量505时,匹配块508处于有效区域502的右侧之外。图5仅示出了匹配块504、508、510的位置,匹配块504、508、510的像素来自不同的帧n-1、n、n+1。在所示情况下,所有x-vx的值都大于有效区域502的宽度。通过将所有块向左 移位(vx<Δx<0)使匹配块508刚好在有效区域502内,就可以计算匹配误差,尽管移位后的位置与当前块504以及匹配块508、510的预测位置略有不同。
在检测到(310)匹配块508部分处于有效区域502以外之后,移位单元410需要计算(312)移位值(Δx和Δy),以将匹配块508移位至有效视频区域502内。存在许多用于计算这些值的可能方案。一种方案是使Δx和Δy的绝对值最小化。在这种情况下,在其中计算匹配区域的实际块最接近于应当对其计算匹配区域的块。
然后,以由移位单元410计算出的偏移量,对两个图像中的匹配块510、508进行移位(314)。
在匹配单元412中,使用移位后的块510、508计算(316)匹配误差。按如上所述的方式进行计算。可选地,可以基于偏移矢量(即偏移量的绝对值),为匹配误差添加附加代价(extra penalty)。
在匹配单元412中,可以通过针对候选运动矢量集中的所有候选运动矢量计算出的匹配误差,选出(318)能够产生最小匹配误差的候选运动矢量,将其作为的估计运动矢量,并在输出单元414中将其输出,以进行进一步的处理。
根据本发明实施例的运动估计可应用于由视频信号进行估计运动的所有领域。在电视机中,可应用于例如自然动感技术(NaturalMotion)和运动补偿去隔行。还可以将根据本发明实施例的运动估计用于PC软件。此外,可以将其用于视频压缩。在该领域中,一般使用全搜索运动估计,而不是3D-RS。然而,本发明不依赖于使用精确的运动估计技术或在其中将结果矢量用于例如运动补偿步骤的方法。
虽然已经示出、描述并指出了应用于本发明优选实施例的本发明基本的新颖特征,但要理解的是,本领域技术人员可以在不背离本发明精神的情况下,对所述设备和方法的形式和细节作出各种省略、替换和修改。例如,在本意上十分明确的是,以基本相同的方式实现基本相同的功能以便实现相同结果的元件和/或方法步骤的所有组合都在本发明的范围之内。此外,应当认识到,结合本发明的任何公开形式或实施例所示和/或所述的结构和/或元件和/或方法步骤,都可以被 并入任何其他所公开的或所说明的或所提出的形式或实施例,作为设计选择的一般情况。因此,仅以此处所附的权利要求范围所指明的那样对本发明予以限制。还应当认识到,不应将任何参考标记解释为对权利要求范围的限制。
Claims (9)
1.一种用于确定图像信号内的估计运动矢量的方法,所述方法包括以下步骤:
为图像内的至少一当前块创建至少一候选运动矢量,
为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内,
检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,以及
对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内;
其中,所述确定匹配块的步骤还包括:为所述当前块确定至少两个匹配块,以便第一匹配块位于时间上的前一图像之内,且第二匹配块位于时间上的后一图像之内;
其中,所述移位步骤还包括:对所述至少两个匹配块和所述当前块进行移位。
2.根据权利要求1所述的方法,其中,所述移位步骤还包括:以相同的移位矢量对所述至少两个匹配块和所述当前块进行移位。
3.根据权利要求1所述的方法,还包括:基于至少移位后的当前块和移位后的匹配块,为候选运动矢量计算匹配误差,以便获得估计运动矢量。
4.根据权利要求1所述的方法,还包括:基于至少两个移位后的匹配块,计算匹配误差。
5.根据权利要求1所述的方法,还包括:利用黑条检测来检测图像的有效区域。
6.根据权利要求1所述的方法,其中,所述候选运动矢量描述了搜索区域内当前块内像素的可能位移。
7.根据权利要求1所述的方法,其中,使用以下预测中的至少一种来创建候选运动矢量:
A)空间预测,
B)时间预测。
8.根据权利要求3所述的方法,其中,所述计算匹配误差的步骤包括:计算以下至少一项:
A)绝对误差和;
B)均方误差;
C)归一化互相关;
D)有效像素数。
9.一种显示设备,包括:
接收机,被配置用于接收视频信号,以及
运动估计单元,包括:
候选运动矢量检测单元,被配置用于为信号图像内的至少一当前块检测候选运动矢量,
匹配单元,被配置用于为每一个所述候选运动矢量确定至少一匹配块,所述匹配块位于至少一幅与当前块的图像在时间上相邻的图像内,
检测单元,被配置用于检测所述至少一匹配块是否至少部分地位于图像的有效区域之外,以及
移位单元,被配置用于对所述至少当前块和匹配块进行移位,以使所述匹配块位于图像的有效区域之内;
其中,所述匹配单元还被配置用于为所述当前块确定至少两个匹配块,以便第一匹配块位于时间上的前一图像之内,且第二匹配块位于时间上的后一图像之内;
其中,所述移位单元还被配置用于对所述至少两个匹配块和所述当前块进行移位。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP06112676 | 2006-04-14 | ||
EP06112676.9 | 2006-04-14 | ||
PCT/IB2007/051264 WO2007119198A1 (en) | 2006-04-14 | 2007-04-10 | Motion estimation at image borders |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101422047A CN101422047A (zh) | 2009-04-29 |
CN101422047B true CN101422047B (zh) | 2011-01-12 |
Family
ID=38335705
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2007800134305A Expired - Fee Related CN101422047B (zh) | 2006-04-14 | 2007-04-10 | 图像边界处的运动估计方法及显示设备 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20090316786A1 (zh) |
EP (1) | EP2011342B1 (zh) |
JP (1) | JP4997281B2 (zh) |
CN (1) | CN101422047B (zh) |
WO (1) | WO2007119198A1 (zh) |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2443858A (en) * | 2006-11-14 | 2008-05-21 | Sony Uk Ltd | Alias avoiding image processing using directional pixel block correlation and predetermined pixel value criteria |
KR100939917B1 (ko) | 2008-03-07 | 2010-02-03 | 에스케이 텔레콤주식회사 | 움직임 예측을 통한 부호화 시스템 및 움직임 예측을 통한부호화 방법 |
JP2009223722A (ja) * | 2008-03-18 | 2009-10-01 | Sony Corp | 画像信号処理装置、画像信号処理方法、およびプログラム |
US9001271B2 (en) * | 2008-06-20 | 2015-04-07 | Mediatek Inc. | Method and related apparatus for generating interpolated frame according to spatial relationship result and temporal matching difference |
DE102008054503A1 (de) * | 2008-12-10 | 2010-06-17 | Trident Microsystems (Far East) Ltd. | Verfahren zur Bewegungsschätzung an Bildrändern |
JP2010147538A (ja) * | 2008-12-16 | 2010-07-01 | Sony Corp | 画像処理装置および方法、並びにプログラム |
JP2011147049A (ja) * | 2010-01-18 | 2011-07-28 | Sony Corp | 画像処理装置および方法、並びにプログラム |
KR101633153B1 (ko) | 2010-04-01 | 2016-06-23 | 소니 주식회사 | 화상 처리 장치 및 방법 |
CN102215387B (zh) * | 2010-04-09 | 2013-08-07 | 华为技术有限公司 | 视频图像处理方法以及编/解码器 |
KR101456499B1 (ko) * | 2010-07-09 | 2014-11-03 | 삼성전자주식회사 | 움직임 벡터의 부호화 방법 및 장치, 그 복호화 방법 및 장치 |
TWI423170B (zh) * | 2010-12-31 | 2014-01-11 | Altek Corp | 多畫面中物體移動的追蹤方法 |
GB2493755B (en) * | 2011-08-17 | 2016-10-19 | Canon Kk | Method and device for encoding a sequence of images and method and device for decoding a sequence of images |
US9083983B2 (en) | 2011-10-04 | 2015-07-14 | Qualcomm Incorporated | Motion vector predictor candidate clipping removal for video coding |
CN107396100B (zh) * | 2011-11-08 | 2020-05-05 | 株式会社Kt | 利用解码装置对视频信号进行解码的方法 |
CN102413270B (zh) * | 2011-11-21 | 2014-02-19 | 晶门科技(深圳)有限公司 | 校正边界区域运动向量的方法和装置 |
KR101818037B1 (ko) * | 2011-12-13 | 2018-01-16 | 한국전자통신연구원 | 움직임 추정장치 및 그 방법 |
CN105659602B (zh) | 2013-10-14 | 2019-10-08 | 微软技术许可有限责任公司 | 用于视频和图像编码的帧内块复制预测模式的编码器侧选项 |
RU2654129C2 (ru) | 2013-10-14 | 2018-05-16 | МАЙКРОСОФТ ТЕКНОЛОДЖИ ЛАЙСЕНСИНГ, ЭлЭлСи | Функциональные возможности режима внутреннего предсказания с блочным копированием для кодирования и декодирования видео и изображений |
MX368934B (es) | 2013-10-14 | 2019-10-22 | Microsoft Technology Licensing Llc | Caracteristicas de modo de mapa de indice de color base para codificacion y descodificacion de video e imagen. |
US10390034B2 (en) | 2014-01-03 | 2019-08-20 | Microsoft Technology Licensing, Llc | Innovations in block vector prediction and estimation of reconstructed sample values within an overlap area |
CN105917650B (zh) | 2014-01-03 | 2019-12-24 | 微软技术许可有限责任公司 | 视频和图像编/解码的方法、计算设备及计算机可读介质 |
US11284103B2 (en) | 2014-01-17 | 2022-03-22 | Microsoft Technology Licensing, Llc | Intra block copy prediction with asymmetric partitions and encoder-side search patterns, search ranges and approaches to partitioning |
US10542274B2 (en) | 2014-02-21 | 2020-01-21 | Microsoft Technology Licensing, Llc | Dictionary encoding and decoding of screen content |
WO2015131323A1 (en) | 2014-03-04 | 2015-09-11 | Microsoft Technology Licensing, Llc | Block flipping and skip mode in intra block copy prediction |
EP4354856A3 (en) | 2014-06-19 | 2024-06-19 | Microsoft Technology Licensing, LLC | Unified intra block copy and inter prediction modes |
JP2017535145A (ja) | 2014-09-30 | 2017-11-24 | マイクロソフト テクノロジー ライセンシング,エルエルシー | 波面並列処理が可能にされた場合のピクチャ内予測モードに関する規則 |
US9591325B2 (en) | 2015-01-27 | 2017-03-07 | Microsoft Technology Licensing, Llc | Special case handling for merged chroma blocks in intra block copy prediction mode |
CN106664405B (zh) | 2015-06-09 | 2020-06-09 | 微软技术许可有限责任公司 | 用调色板模式对经逸出编码的像素的稳健编码/解码 |
US10445862B1 (en) * | 2016-01-25 | 2019-10-15 | National Technology & Engineering Solutions Of Sandia, Llc | Efficient track-before detect algorithm with minimal prior knowledge |
CN105657319B (zh) * | 2016-03-09 | 2018-12-04 | 宏祐图像科技(上海)有限公司 | Me中基于特征动态控制候选矢量惩罚值的方法及*** |
US10986349B2 (en) | 2017-12-29 | 2021-04-20 | Microsoft Technology Licensing, Llc | Constraints on locations of reference blocks for intra block copy prediction |
CN108810549B (zh) * | 2018-06-06 | 2021-04-27 | 天津大学 | 一种面向低功耗的流媒体播放方法 |
CN111462170B (zh) * | 2020-03-30 | 2023-08-25 | Oppo广东移动通信有限公司 | 运动估计方法、运动估计装置、存储介质与电子设备 |
TWI768324B (zh) * | 2020-04-16 | 2022-06-21 | 瑞昱半導體股份有限公司 | 影像處理方法及影像處理裝置 |
CN111754429B (zh) * | 2020-06-16 | 2024-06-11 | Oppo广东移动通信有限公司 | 运动矢量后处理方法和装置、电子设备及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2248361A (en) * | 1990-09-28 | 1992-04-01 | Sony Broadcast & Communication | Motion dependent video signal processing |
GB2286500A (en) * | 1994-02-04 | 1995-08-16 | Sony Uk Ltd | Wide to standard format motion compensated video signal processor |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0220988A (ja) * | 1988-07-08 | 1990-01-24 | Fujitsu Ltd | 動画像符号化装置における動ベクトル検出方式 |
US5227878A (en) * | 1991-11-15 | 1993-07-13 | At&T Bell Laboratories | Adaptive coding and decoding of frames and fields of video |
US5270813A (en) * | 1992-07-02 | 1993-12-14 | At&T Bell Laboratories | Spatially scalable video coding facilitating the derivation of variable-resolution images |
US5412435A (en) * | 1992-07-03 | 1995-05-02 | Kokusai Denshin Denwa Kabushiki Kaisha | Interlaced video signal motion compensation prediction system |
JP2935357B2 (ja) * | 1997-06-02 | 1999-08-16 | 日本ビクター株式会社 | 映像信号高能率符号化装置 |
US20040001546A1 (en) * | 2002-06-03 | 2004-01-01 | Alexandros Tourapis | Spatiotemporal prediction for bidirectionally predictive (B) pictures and motion vector prediction for multi-picture reference motion compensation |
US7224731B2 (en) * | 2002-06-28 | 2007-05-29 | Microsoft Corporation | Motion estimation/compensation for screen capture video |
US7440500B2 (en) * | 2003-07-15 | 2008-10-21 | Lsi Logic Corporation | Supporting motion vectors outside picture boundaries in motion estimation process |
EP1585326A1 (en) * | 2004-03-30 | 2005-10-12 | Matsushita Electric Industrial Co., Ltd. | Motion vector estimation at image borders for frame rate conversion |
-
2007
- 2007-04-10 WO PCT/IB2007/051264 patent/WO2007119198A1/en active Application Filing
- 2007-04-10 EP EP07735431.4A patent/EP2011342B1/en not_active Not-in-force
- 2007-04-10 CN CN2007800134305A patent/CN101422047B/zh not_active Expired - Fee Related
- 2007-04-10 US US12/297,027 patent/US20090316786A1/en not_active Abandoned
- 2007-04-10 JP JP2009504883A patent/JP4997281B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2248361A (en) * | 1990-09-28 | 1992-04-01 | Sony Broadcast & Communication | Motion dependent video signal processing |
GB2286500A (en) * | 1994-02-04 | 1995-08-16 | Sony Uk Ltd | Wide to standard format motion compensated video signal processor |
Non-Patent Citations (3)
Title |
---|
HAAN DE G.IEEE TRANSACTIONS ON CONSUMER ELECTRONICS.PROGRESS IN MOTION ESTIMATION FOR CONSUMER VIDEO FORMAT CONVERSION.2000,46(3),449-459. * |
YEN-KUANG CHEN etc..A feature tracking algorithm using neighborhood relaxation with multi-candidate pre-screening.PROCEEDINGS OF THE INTERNATIONAL CONFERENCE ON IMAGE PROCESSING.1996,1(16),513-516. * |
Yen-Kuang Chen,etc..Frame-rate up-coversion using transmitted true motion vectors.SECOND IEEE WORKSHOP ON MULTIMEDIA SIGNAL PROCESSING.1998,622-627. * |
Also Published As
Publication number | Publication date |
---|---|
EP2011342B1 (en) | 2017-06-28 |
US20090316786A1 (en) | 2009-12-24 |
JP4997281B2 (ja) | 2012-08-08 |
WO2007119198A1 (en) | 2007-10-25 |
CN101422047A (zh) | 2009-04-29 |
JP2009533928A (ja) | 2009-09-17 |
EP2011342A1 (en) | 2009-01-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101422047B (zh) | 图像边界处的运动估计方法及显示设备 | |
JP5657391B2 (ja) | ハローを低減する画像補間 | |
US7519230B2 (en) | Background motion vector detection | |
EP2240905B1 (en) | Sparse geometry for super resolution video processing | |
JP2005287048A (ja) | 画像境界における動きベクトル検出の改良 | |
US20060045365A1 (en) | Image processing unit with fall-back | |
KR20050012766A (ko) | 현재 모션 벡터 추정을 위한 유닛 및 모션 벡터 추정 방법 | |
KR100942887B1 (ko) | 추정된 움직임 벡터 결정 방법 및 컴퓨터 판독가능한 기록매체 | |
WO2003102872A2 (en) | Unit for and method of estimating a motion vector | |
US7881500B2 (en) | Motion estimation with video mode detection | |
US8509552B1 (en) | Digital image processing error concealment method | |
AU2004200237B2 (en) | Image processing apparatus with frame-rate conversion and method thereof | |
JP5448983B2 (ja) | 解像度変換装置及び方法、走査線補間装置及び方法、並びに映像表示装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110112 Termination date: 20200410 |
|
CF01 | Termination of patent right due to non-payment of annual fee |