CN101427283A - 从视频序列中产生全景图像的方法和设备 - Google Patents
从视频序列中产生全景图像的方法和设备 Download PDFInfo
- Publication number
- CN101427283A CN101427283A CNA2007800146533A CN200780014653A CN101427283A CN 101427283 A CN101427283 A CN 101427283A CN A2007800146533 A CNA2007800146533 A CN A2007800146533A CN 200780014653 A CN200780014653 A CN 200780014653A CN 101427283 A CN101427283 A CN 101427283A
- Authority
- CN
- China
- Prior art keywords
- pixel
- component
- mix
- vision
- present image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 239000000203 mixture Substances 0.000 claims description 107
- 239000013598 vector Substances 0.000 claims description 27
- 230000014509 gene expression Effects 0.000 claims description 6
- 238000010008 shearing Methods 0.000 claims 1
- 230000006870 function Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
本发明涉及一种从视频序列中产生全景图像(3)的方法和设备,所述视频序列包括多个连续图像(I0,I1,Ik-1,Ik),所述方法包括以下连续步骤:-在输入(4)处接收具有第一和第二部分(40,42)的当前图像(I1,Ik);-如果当前图像的像素与源自多个图像的低于预定阈值(N)的分量的加权和而得到的分量相关联,则计算由与所述当前图像(I1,Ik)的所标识像素相关联的分量和与所谓的先前混合图像的对应像素相关联的分量的加权和而得到的分量。
Description
技术领域
本发明涉及一种从视频序列中产生全景图像的方法,以及实施所述产生方法的对应设备。
背景技术
通常,通过对从视频中提取的图像进行排列和融合,得到全景图像。为此,已经开发了马赛克(Mosaicing)方法,用于排列和融合图像。这些方法在计算机上离线工作。虽然非常有效,但是这些方法相当复杂并且对计算机要求很高。因此,这些方法很难在如移动电话、密钥环和PDA之类的移动设备上实现,这些设备具有较低的存储和能量容量。
因此,希望开发一种需要较低存储性能和能量的、用于产生全景图像的新方法。
发明内容
相应地,本发明的目的是提供一种从视频序列中产生全景图像的方法,所述视频序列包括多个连续图像(I0,I1,Ik-1,Ik),每个图像(I0,I1,Ik-1,Ik)包括与亮度和色度分量相关联的至少一个像素,所述方法由包括全景结构的设备来执行,所述全景结构具有与等于零的分量相关联的像素,其中,所述方法包括以下连续步骤:
a)将初始化为零的分量分配给被称为先前混合图像的图像(P0,Pk-1)的像素,并将所述先前混合图像(P0,Pk-1)存储在所述全景结构中;
b)相对于所述先前混合图像(P0,Pk-1),将具有第一和第二部分的当前图像(I1,Ik)放置入所述全景结构中,所述当前图像(I1,Ik)的像素的第一区域与所述先前混合图像(P0,Pk-1)的像素区域相对应,所述当前图像(I1,Ik)的像素的第二区域与所述全景结构的像素区域相对应;
c)标识属于所述当前图像(I1,Ik)的第一部分且属于第一区域的像素;
d)对于每个所标识的像素,如果所标识像素与源自多个图像的低于预定阈值(N)的分量的加权和而得到的分量相关联,则
-计算由与所述当前图像(I1,Ik)的所标识像素相关联的分量和
与所述先前混合图像(P0,Pk-1)的对应像素相关联的分量的加权和而得到的分量,
-将分量分配给所述先前混合图像(P0,Pk-1)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
e)对于属于所述当前图像(I1,Ik)的第二部分且属于第二区域的每个像素,将与所述当前图像(I1,Ik)的像素相关联的分量分配给所述全景结构的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
f)对于属于所述当前图像(I1,Ik)的第二部分且属于第一区域的每个像素,将与所述当前图像(I1,Ik)的像素相关联的分量分配给所述先前混合图像(P0,Pk-1)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
g)对于属于所述当前图像(I1,Ik)的第一部分且属于第二区域的每个像素,将与所述当前图像(I1,Ik)的像素相关联的分量分配给所述全景结构的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;以及
h)将所述当前混合图像(P1,Pk)的像素视为先前混合图像(P0,Pk-1)的像素,并重复步骤b)至h)直到满足停止条件为止。
所述方法的其他特征和优点在从属权利要求中叙述。
本发明的目的也在于,为了实施根据本发明的方法,提供一种用于从视频序列中产生全景图像的设备,所述视频序列包括多个连续图像(I0,I1,Ik-1,Ik),每个图像(I0,I1,Ik-1,Ik)包括与亮度和色度分量相关联的至少一个像素,所述设备包括:
-全景结构,具有与初始化为零的分量相关联的像素;
-计算模块,将初始化为零的分量分配给被称为先前混合图像的图像(P0,Pk-1)的像素,并将所述先前混合图像(P0,Pk-1)存储在所述全景结构中;
-输入,用于接收具有第一和第二部分的当前图像(I1,Ik);
所述计算模块相对于所述先前混合图像(P0,Pk-1),将所述当前图像(I1,Ik)放置入所述全景结构中,所述当前图像(I1,Ik)的像素的第一区域与所述先前混合图像(P0,Pk-1)的像素区域相对应,所述当前图像(I1,Ik)的像素的第二区域与所述全景结构的像素区域相对应;
所述计算模块标识属于所述当前图像(I1,Ik)的第一部分且属于第一区域的像素;
对于每个所标识的像素,所述计算模块检查所标识像素是否与源自多个图像的低于预定阈值(N)的分量的加权和而得到的分量相关联,
所述计算模块计算由与所述当前图像(I1,Ik)的所标识像素相关联的分量和与所述先前混合图像(P0,Pk-1)的对应像素相关联的分量的加权和而得到的分量,并将分量分配给所述先前混合图像(P0,Pk-1)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
对于属于所述当前图像(I1,Ik)的第二部分且属于第二区域的每个像素,所述计算模块将与所述当前图像(I1,Ik)的像素相关联的分量分配给所述全景结构的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
对于属于所述当前图像(I1,Ik)的第二部分且属于第一区域的每个像素,所述计算模块将与所述当前图像(I1,Ik)的像素相关联的分量分配给所述先前混合图像(P0,Pk-1)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
对于属于所述当前图像(I1,Ik)的第一部分且属于第二区域的每个像素,所述计算模块将与所述当前图像(I1,Ik)的像素相关联的分量分配给所述全景结构的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量,所述计算模块将所述当前混合图像(P1,Pk)的像素视为先前混合图像(P0,Pk-1)的像素。
附图说明
从以下描述、附图以及从权利要求中,本发明的这些和其他方面将变得显而易见。
-图1是根据本发明用于从视频序列中产生全景图像的设备的示意框图;
-图2是如在根据本发明的图1所示设备中实施的用于从视频序列中产生全景图像的方法的流程图;
-图3是示出了将图像放置入全景结构中的示意视图;
-图4是当前图像的示意视图;
-图5是针对每个像素存储视频序列中已经混合在全景结构中的图像的数目的年龄结构的示意视图;以及
-图6是融合并存储在全景结构中的第一和第二图像的示意视图。
具体实施方式
以从左至右方向进行拍摄的摄像机获得视频序列为例,描述根据本发明的方法和设备。然而,通过对以下定义的复制和混合区域进行简单的左/右镜像,根据本发明的解决方案也适用于从右至左方向获得的视频序列。
参照图1,示出了用于产生全景图像3的设备2。设备2包括输入4和输出6,输入4用于接收视频序列的连续图像I0,I1,...Ik-1,Ik,Ik+1等,输出6用于向例如摄像机或电视机的显示屏等呈现设备发送所产生的全景图像3。视频序列的图像I0、I1包括以列和行排列的像素矩阵。图像的每个像素由参考***Rx,Ry中的坐标x,y以及亮度分量和两个色度分量来定义。
例如由微处理器构成的设备2包括计算模块8和二值化(binarization)模块10,两者均与输入4连接,还包括与二值化模块10和计算模块8连接的运动估计模块12。设备2也包括与计算模块8链接的临时存储器14、与计算模块8连接的全景存储器17、以及与全景存储器17和输出6连接的剪切模块20。例如,临时存储器14和全景存储器17是RAM或EEPROM存储器。
临时存储器14适于存储由计算模块8产生的年龄(age)结构Ak。年龄结构Ak包括参考***Rx,Ry。位于年龄结构Ak的左上角的值位于该参考***的原点。
全景存储器17包括全景结构18。全景结构18能够将先前接收的图像存储至单个融合的全景图像中。如在以后的描述中将要解释的,在全景结构18中,通过逐步将新的输入图像和已经融合并存储在全景结构18中的图像进行融合,逐步创建全景图像3。
与年龄结构Ak的参考***Rx,Ry相同的参考***Rx,Ry与全景结构18相关联。位于年龄结构Ak的左上角的值也位于该参考***的原点。在这些参考***Rx,Ry中,年龄结构Ak的值表示在全景结构18中坐标与该年龄结构Ak的坐标相同的像素处融合的图像的数目。
年龄结构Ak反映了全景结构18中融合并存储的图像的数目和位置。由于全景结构18中融合的图像向右侧方向(摄像机移动的方向)移动,因此,所融合图像的数目是不均匀的,取决于全景结构18中的像素的位置。
如图2至6所示,用于产生全景图像3的设备2所实施的方法包括对视频序列的前两个图像I0、I1执行的第一组步骤22至28,以及对视频序列的每个后续图像Ik、Ik+1执行的第二组步骤30至60。对于视频序列的每个图像,迭代地执行这些第二步骤30至60,直到全景结构18中融合并存储的图像具有预定宽度为止,所述预定宽度与最终全景图像3所允许的最大宽度L相对应。
该方法开始于第一步骤22,该步骤接收视频序列的一组连续图像Ik、Ik+1中的初始图像I0。当前图像I1被认为由混合部分40和复制部分42组成。从图3可见,混合部分40位于图像的左侧,复制部分42位于图像的右侧。复制部分42是由具有预定宽度的条带(strip)组成,例如,该预定宽度等于当前图像I1宽度的1/4。创建复制部分42,从而避免在产生全景图像时排他性地使用图像边界。当更新全景图像时,场景中最新消失的部分总是位于侧边,由于广角镜头或遭受到如晕影(vignetting)之类的亮度伪像,这些部分通常是失真的。
在步骤24,将从输入4接收到的初始图像I0发送到二值化模块10并经由计算模块8发送到全景存储器17。在步骤24中,如图3中示意性示出的,将与初始图像I0的每个像素相关联的分量存储在存储器17的全景结构18中,使得位于初始图像I0的左上角的像素位于参考***Rx,Ry的原点。将全景结构18中存储的初始图像I0视为先前混合图像P0。
在步骤26,计算模块8产生年龄结构A0并将其存储在临时存储器14中。年龄结构A0包括对全景结构18中融合并存储的的图像的数目进行表示的值。一个值与全景结构18中存储的图像的一个像素相对应。与初始图像I0的第一部分40的像素相对应的年龄结构A0的值等于1。留下与初始图像I0的第二部分42的像素相对应的年龄结构A0的值等于0。
在步骤28,二值化模块10根据所接收的第一图像I0创建二值图像。此后,将所获得的二值图像发送至运动估计模块12。优选地,产生一比特图像,这是由于其显著降低了存储器限制。众所周知,为了创建二值化图像,使用异或(XOR)运算,在参考块与其他块之间计算绝对差值和(SAD)。
例如,按照以下方式来实现格雷编码的比特平面分解:
F(x,y)=aN-12N-1+aN-22N-2+...+ak2k+...+a121+a020 (1)
其中:-F(x,y)是位置(x,y)上的像素的亮度
-ak是0或1,以及
-N是表示亮度分量的比特数目。
根据等式g4=a4⊕a5来计算第4个格雷比特码g4,其中,⊕是异或运算,ak是等式(1)给出的基2表示的第k个比特。
在步骤30,将从设备2的输入4接收到的第二图像I1同时发送到二值化模块10和计算模块8。在以下的描述中,将该第二图像I1称为当前图像。
在步骤32,二值化模块10对当前图像I1进行二值化,并将所获得的图像发送至运动估计模块12。
在步骤34,运动估计模块12根据二值化的第一和当前图像,计算表示第一图像I0和第二图像I1之间的运动的全局运动向量U0。此后,将该全局运动向量U0发送至计算模块8。为了获得两个连续图像的全局运动向量U0,可以使用不同的方法。
其中一种方法包括考虑图像I0和后续图像I1,并确定这些连续图像的宏块的运动向量集合。在每个宏块(典型地,每个宏块包括图像的16×16个像素)中,每个运动向量表示从一个图像I0至后续图像I1的该宏块的移动。
对运动向量进行分组,检查其内部一致性,并拒绝包含独立运动的区域(移动的人或物)。确定每对后续图像I0、I1的运动向量集合的中值。该中值向量是全局运动向量U0,并表示图像I0和I1之间的摄像机实现的全局运动。因此,全局运动向量U0包含要考虑在正确映射全景图像3时要考虑的有意运动(全景)和非有意运动(高频抖动)。
在步骤36,向先前估计的全局运动向量U-1加上在步骤32计算的全局运动向量U0,以获得当前全局运动向量U1。该步骤由计算模块8执行。在本方法的第一次迭代之后,先前的全局运动向量U-1等于零。由于图像I0和I1是视频序列的第一和第二图像,因此当前全局运动向量U1等于全局运动向量U0。
在本方法的下一次迭代过程中,向先前估计的全局运动向量Ui-1加上全局运动向量Ui,以获得当前全局运动向量Ui+1。在下一次迭代过程中,为了计算当前全局运动向量Ui+2,将迭代过程中计算的当前全局运动向量Ui+1视为先前的全局运动向量。
在步骤38,相对于先前混合图像P0(即初始图像I0),将当前图像I1放置入全景结构18,使其以与全局运动向量U0相对应的量发生位移。在该位置,将第一区域41中的像素放置在先前混合图像P0之前。将第二区域43中的像素放置在全景结构18之前。
考虑到在先前混合图像的像素之前的当前图像I1的像素与该像素相对应,在全景结构的像素之前的当前图像I1的像素与该像素相对应。因此,当前图像I1的每个像素与先前混合图像P0的像素或全景结构18中的像素相对应。如图4所示,定义当前图像I1的第一区域41和第二区域43,使得第一区域41的像素由于先前混合图像的区域的像素相对应,第二区域43的像素与全景结构18的区域的像素相对应。
在步骤44,更新年龄结构A0,将其变为年龄结构A1。为此,将年龄结构A0中在参考***Rx,Ry中具有与属于第一部分40的像素相同坐标的值递增1。
与叠加在先前混合图像P0的第一部分40之上的当前图像I1的第一部分40的像素相对应的值等于2。与叠加在空的全景结构18之上的当前图像I1的第一部分40的像素相对应的值和与叠加在先前混合图像P0的第二部分42之上的像素相对应的值等于1。如图5所示,更新的年龄结构A1包括标记为46并且值等于1的一个部分、以及标记为48并且值等于2的一个部分。
在步骤50,计算模块8从左至右扫描年龄结构A1中与当前图像I1的第一部分40中的像素相对应的值,并检查这些值之一是否高于被称为混合值N的预定阈值N。如果年龄结构A1中的一个值高于该混合值N,则计算模块8从与第一部分40相对应的位置开始,继续从左至右扫描年龄结构A1,直到找到小于该混合值的定义的值。如果年龄结构A1中的值之一小于或等于混合值N,则过程前进至步骤52。
在步骤52,计算模块8标识属于第一部分40且属于第一区域41、并且对应值小于或等于混合值N的像素。
在步骤54,计算模块8计算由与当前图像I1的所标识像素相关联的分量和与先前混合图像P0的对应像素相关联的分量的加权和而得到的分量。对于属于当前图像I1的第一部分40且属于第一区域41的每个像素,由以下关系式来获得加权和:
其中:
-P1(x,y)是与当前混合图像的像素相关联的分量,该像素位于参考***中的坐标(x,y)处;
-P0(x,y)是与先前混合图像的像素相关联的分量;
-A1(x,y)是与年龄结构的参考***中坐标(x,y)处的像素相关联的值;以及
-I1(x,y)是与当前图像的像素相关联的分量。
对于该方法的下一次迭代,上述关系式推广为如下式子:
其中:
-(x,y)是像素的坐标;
-Pk是分配给当前混合图像的像素的分量;
-Pk-1是分配给先前混合图像的像素的分量;
-Ak是分量已经被分配给先前混合图像的像素的次数;以及
-Ik是与当前图像的像素相关联的分量。
在步骤56,如图6所示,将在步骤54获得的分量分配给先前混合图像P0的对应像素,以获得与当前混合图像的部分58中的像素相关联的分量。
在步骤60,对于属于当前图像I1的第二部分42且属于第二区域43的每个像素,计算模块8将与当前图像I1的像素相关联的分量分配给全景结构18的对应像素,以获得与当前混合图像P1的部分62中的像素相关联的分量(图6)。
在步骤63,对于属于当前图像I1的第二部分42且属于第一区域41的每个像素,计算模块8将与当前图像I1的像素相关联的分量分配给先前混合图像P0的对应像素,以获得与当前混合图像P1的部分64中的像素相关联的分量(图6)。
在步骤65,对于属于当前图像I1的第一部分40且属于第二区域43的每个像素,计算模块8将与当前图像I1的像素相关联的分量分配给全景结构18的对应像素,以获得与当前混合图像P1的部分66的像素相关联的分量(图6)。
在步骤67,在方法的每次迭代中,计算模块12检查全景结构18中融合并存储的所有图像的宽度是否等于或大于最终全景图像3的期望宽度L。如果所存储的图像的宽度不大于全景图像3的宽度L,则过程在步骤69中返回步骤30,否则该过程到达步骤70(如果没有更多的图像Ik则也可以到达该步骤)。
在步骤70,剪切模块20搜索与亮度和色度分量相关联的、并在参考***Rx,Ry中具有最低和最高坐标y的像素,剪切所产生的图像3中的上边界和下边界,以获得矩形画面。
当该过程返回步骤30进行新的迭代时,计算模块8在步骤68将计数器递增。在预定次数的迭代之后,根据预定函数来修改第一部分40和第二部分42的大小。例如,在创建了全景图像3的1/4的宽度之前,混合区域40与图像的左侧3/4部分相对应,并在创建了全景图像3的3/4的宽度之后,混合区域40逐渐减小至只有图像的左侧1/4部分(第二复制部分相应地增大)。在另一个实施例中,第一部分40和第二部分42的大小是常数。在一种变体中,年龄结构可以仅包括宽度为L个像素的一个行(全景图像的一列中的所有像素被认为具有相同的年龄)。在这种情况下,不考虑U向量的y坐标。这显著减小了所需的存储器,并只可能会在步骤70中剪切了的部分中、在全景图像的顶部和底部产生伪像。
显而易见,通过硬件或软件项目或两者结合,有许多方式来实现上述功能。关于这一点,附图是示意性的,仅表示本发明的一种可能的实施例。因此,虽然图1和2将不同的功能表示为不同的模块,但是,这绝不排除单个硬件或软件项目执行多种功能。也不排除硬件或软件或两者的组合来执行功能。
这里之前所做的描述表明,参照附图进行的详细描述是示意性的,而非限制了本发明。存在许多备选方案,这些备选方案落入所附权利要求的范围之内。权利要求中的任何参考标记不应解释为限制该权利要求。“包括”一词不排除出现除权利要求中所列之外的其他元件或步骤。在元件或步骤之前的“一”不排除出现多个这样的元件或步骤。
Claims (10)
1.一种从视频序列中产生全景图像(3)的方法,所述视频序列包括多个连续图像(I0,I1,Ik-1,Ik),每个图像(I0,I1,Ik-1,Ik)包括与亮度和色度分量相关联的至少一个像素,所述方法由包括全景结构(18)的设备(2)执行,所述全景结构(18)具有与等于零的分量相关联的像素,其中,所述方法包括以下连续步骤:
a)将初始化为零的分量分配给被称为先前混合图像的图像(P0Pk-1)的像素,并将所述先前混合图像(P0,Pk-1)存储(24)在所述全景结构(18)中;
b)相对于所述先前混合图像(P0,Pk-1),将具有第一(40)和第二(42)部分的当前图像(I1,Ik)放置(38)入所述全景结构(18)中,所述当前图像(I1,Ik)的像素的第一区域(41)与所述先前混合图像(P0,Pk-1)的像素区域相对应,所述当前图像(I1,Ik)的像素的第二区域(43)与所述全景结构(18)的像素区域相对应;
c)标识(52)属于所述当前图像(I1,Ik)的第一部分(40)且属于第一区域(41)的像素(58);
d)对于每个所标识的像素(58),如果所标识像素与源自多个图像的低于预定阈值(N)的分量的加权和而得到的分量相关联,则
-计算(54)由与所述当前图像(I1,Ik)的所标识像素相关联的分量和与所述先前混合图像(P0,Pk-1)的对应像素相关联的分量的加权和而得到的分量,
-将分量分配(56)给所述先前混合图像(P0,Pk-1)的对应像素,
以获得与当前混合图像(P1,Pk)的像素相关联的分量;
e)对于属于所述当前图像(I1,Ik)的第二部分(42)且属于第二区域(43)的每个像素(62),将与所述当前图像(I1,Ik)的像素相关联的分量分配(60)给所述全景结构(18)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
f)对于属于所述当前图像(I1,Ik)的第二部分(42)且属于第一区域(41)的每个像素(64),将与所述当前图像(I1,Ik)的像素相关联的分量分配(63)给所述先前混合图像(P0,Pk-1)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
g)对于属于第一部分(40)且属于第二区域(43)的每个像素(66),将与所述当前图像(I1,Ik)的像素相关联的分量分配(65)给所述全景结构(18)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;以及
h)将所述当前混合图像(P1,Pk)的像素视为先前混合图像(P0,Pk-1)的像素,并重复步骤b)至h),直到满足停止条件(67)为止。
2.如权利要求1所述的方法,其中,所述方法包括以下步骤:
i)考虑先前图像(I0,Ik-1);以及
j)计算表示先前图像(I0,Ik-1)与当前图像(I1,Ik)之间的运动的全局运动向量(U0,Uk-1),根据所述全局运动向量(U0,Uk-1),相对于所述先前混合图像(P0,Pk-1),将所述当前图像(I1,Ik)放置入所述全景结构(18)中。
3.如权利要求1或2所述的方法,其中,在所述当前混合图像(P1,Pk)中,使用相同的权值对与所述先前混合图像(P0,Pk-1)的第一部分(40)中的像素以及所述当前图像(I1,Ik)的第一部分(40)中的像素相关联的分量进行加权。
4.如权利要求1至3中任一项所述的方法,其中,在步骤e)由以下关系式来获得与所述当前混合图像(P1,Pk)的像素相关联的分量:
其中:
-(x,y)是像素的坐标;
-Pk是分配给当前混合图像的像素的分量;
-Pk-1是分配给先前混合图像的像素的分量;
-Ak是分量已经被分配给先前混合图像的像素的次数;以及
-Ik是与当前图像的像素相关联的分量。
5.如权利要求1至4中任一项所述的方法,其中,所述方法包括以下步骤:
-产生(26,38)包括值的年龄结构(A0,Ak),年龄结构(A0,Ak)的每个值与所述全景结构(18)或所述先前混合图像中的像素相对应,每个值表示分量已经被分配给所述全景结构(18)或所述先前混合图像中的像素的次数;
-在步骤h)之后,更新(38)所述年龄结构(A0,Ak);
-扫描(50)所述年龄结构(A0,Ak)的值,值是否大于所述预定阈值(N);
-重复步骤b)和c),直到将所述当前图像(I1,Ik)放置入所述全景结构(18)中像素与小于所述预定阈值(N)的值相对应的位置。
6.如之前任一权利要求所述的方法,其中,所述第一部分(40)与所述第二部分(42)之间的边界相对于将所述当前图像(I1,Ik)放置(38)入所述全景结构(18)中的放置而变化。
7.如之前任一权利要求所述的方法,其中,对所述视频序列的所有图像(I0,I1,Ik-1,Ik)应用所述方法。
8.如权利要求2至7中任一项所述的方法,其中,所述方法包括对所述先前图像和当前图像(I1,Ik)进行二值化的步骤(28,32),其中,对二值化图像执行计算全局运动向量(U0,Ui)的步骤(34)。
9.如之前任一权利要求所述的方法,其中,所述方法包括剪切所产生的全景图像(3)的上边界和下边界的步骤(70)。
10.一种用于从视频序列中产生全景图像的设备(2),所述视频序列包括多个连续图像(I0,I1,Ik-1,Ik),每个图像(I0,I1,Ik-1,Ik)包括与亮度和色度分量相关联的至少一个像素,所述设备(2)包括:
-全景结构(18),具有与初始化为零的分量相关联的像素;
-计算模块(8),将初始化为零的分量分配给被称为先前混合图像的图像(P0,Pk-1)的像素,并将所述先前混合图像(P0,Pk-1)存储(24)在所述全景结构(18)中;
-输入(4),用于接收具有第一(40)和第二(42)部分的当前图像(I1,Ik);
所述计算模块(8)相对于所述先前混合图像(P0,Pk-1),将所述当前图像(I1,Ik)放置(38)入所述全景结构(18)中,所述当前图像(I1,Ik)的像素的第一区域(41)与所述先前混合图像(P0,Pk-1)的像素区域相对应,所述当前图像(I1,Ik)的像素的第二区域(43)与所述全景结构(18)的像素区域相对应;
所述计算模块(8)标识属于所述当前图像(I1,Ik)的第一部分(40)且属于第一区域(41)的像素(58);
对于每个所标识的像素(58),所述计算模块(8)检查(50)所标识像素是否与源自多个图像的低于预定阈值(N)的分量的加权和而得到的分量相关联,
所述计算模块(8)计算(54)由与所述当前图像(I1,Ik)的所标识像素相关联的分量和与所述先前混合图像(P0,Pk-1)的对应像素相关联的分量的加权和而得到的分量,并将分量分配(56)给所述先前混合图像(P0,Pk-1)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
对于属于所述当前图像(I1,Ik)的第二部分(42)且属于第二区域(43)的每个像素(63),所述计算模块(8)将与所述当前图像(I1,Ik)的像素相关联的分量分配(60)给所述全景结构(18)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
对于属于所述当前图像(I1,Ik)的第二部分(42)且属于第一区域(41)的每个像素(64),所述计算模块(8)将与所述当前图像(I1,Ik)的像素相关联的分量分配(63)给所述先前混合图像(P0,Pk-1)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量;
对于属于第一部分(40)且属于第二区域(43)的每个像素(66),所述计算模块(8)将与所述当前图像(I1,Ik)的像素相关联的分量分配(65)给所述全景结构(18)的对应像素,以获得与当前混合图像(P1,Pk)的像素相关联的分量,所述计算模块将所述当前混合图像(P1,Pk)的像素视为先前混合图像(P0,Pk-1)的像素。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP06300398.2 | 2006-04-24 | ||
EP06300398 | 2006-04-24 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN101427283A true CN101427283A (zh) | 2009-05-06 |
Family
ID=38476137
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNA2007800146533A Pending CN101427283A (zh) | 2006-04-24 | 2007-04-23 | 从视频序列中产生全景图像的方法和设备 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20090153647A1 (zh) |
EP (1) | EP2013849A1 (zh) |
JP (1) | JP2009534772A (zh) |
CN (1) | CN101427283A (zh) |
WO (1) | WO2007122584A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107111877A (zh) * | 2014-12-19 | 2017-08-29 | 索尼公司 | 用于确定全向图像的面向前面的场景并对全向图像定心的***、方法以及计算机程序产品 |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5267396B2 (ja) * | 2009-09-16 | 2013-08-21 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
EP2439588A1 (en) * | 2010-09-30 | 2012-04-11 | ST-Ericsson SA | Method and device for forming a panoramic image |
EP2555156B1 (en) | 2011-08-05 | 2015-05-06 | ST-Ericsson SA | Image mosaicing |
RU2626551C1 (ru) * | 2016-06-07 | 2017-07-28 | Общество с ограниченной ответственностью "СИАМС" | Способ формирования панорамных изображений из видеопотока кадров в режиме реального времени |
RU2647645C1 (ru) * | 2016-12-29 | 2018-03-16 | Общество с ограниченной ответственностью "СИАМС" | Способ устранения швов при создании панорамных изображений из видеопотока кадров в режиме реального времени |
JP6545229B2 (ja) * | 2017-08-23 | 2019-07-17 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム |
CN109600543B (zh) * | 2017-09-30 | 2021-01-22 | 京东方科技集团股份有限公司 | 用于移动设备拍摄全景图像的方法以及移动设备 |
US10521883B1 (en) | 2018-07-26 | 2019-12-31 | Raytheon Company | Image turbulence correction using tile approach |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
US6173087B1 (en) * | 1996-11-13 | 2001-01-09 | Sarnoff Corporation | Multi-view image registration with application to mosaicing and lens distortion correction |
ATE280978T1 (de) * | 1997-01-30 | 2004-11-15 | Yissum Res Dev Co | Mosaikbildverarbeitungssystem |
US6249613B1 (en) * | 1997-03-31 | 2001-06-19 | Sharp Laboratories Of America, Inc. | Mosaic generation and sprite-based coding with automatic foreground and background separation |
US6268864B1 (en) * | 1998-06-11 | 2001-07-31 | Presenter.Com, Inc. | Linking a video and an animation |
US6307550B1 (en) * | 1998-06-11 | 2001-10-23 | Presenter.Com, Inc. | Extracting photographic images from video |
US6278466B1 (en) * | 1998-06-11 | 2001-08-21 | Presenter.Com, Inc. | Creating animation from a video |
AU2002308651A1 (en) * | 2001-05-04 | 2002-11-18 | Leberl, Franz, W. | Digital camera for and method of obtaining overlapping images |
US7277580B2 (en) * | 2001-12-12 | 2007-10-02 | Sony Corporation | Multiple thresholding for video frame segmentation |
KR20030059399A (ko) * | 2001-12-29 | 2003-07-10 | 엘지전자 주식회사 | 모자이크 영상 생성장치 및 방법과 모자이크 영상 기반동영상 재생방법 |
AU2002950210A0 (en) * | 2002-07-11 | 2002-09-12 | Mediaware Solutions Pty Ltd | Mosaic construction from a video sequence |
US6928194B2 (en) * | 2002-09-19 | 2005-08-09 | M7 Visual Intelligence, Lp | System for mosaicing digital ortho-images |
GB0227570D0 (en) * | 2002-11-26 | 2002-12-31 | British Telecomm | Method and system for estimating global motion in video sequences |
US7577314B2 (en) * | 2006-04-06 | 2009-08-18 | Seiko Epson Corporation | Method and apparatus for generating a panorama background from a set of images |
-
2007
- 2007-04-23 EP EP07735607A patent/EP2013849A1/en not_active Withdrawn
- 2007-04-23 WO PCT/IB2007/051479 patent/WO2007122584A1/en active Application Filing
- 2007-04-23 JP JP2009507225A patent/JP2009534772A/ja not_active Withdrawn
- 2007-04-23 CN CNA2007800146533A patent/CN101427283A/zh active Pending
- 2007-04-23 US US12/298,153 patent/US20090153647A1/en not_active Abandoned
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107111877A (zh) * | 2014-12-19 | 2017-08-29 | 索尼公司 | 用于确定全向图像的面向前面的场景并对全向图像定心的***、方法以及计算机程序产品 |
CN107111877B (zh) * | 2014-12-19 | 2020-03-31 | 索尼公司 | 用于确定面向前面的场景并对全向图像定心的方法及设备 |
Also Published As
Publication number | Publication date |
---|---|
US20090153647A1 (en) | 2009-06-18 |
JP2009534772A (ja) | 2009-09-24 |
WO2007122584A1 (en) | 2007-11-01 |
EP2013849A1 (en) | 2009-01-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101427283A (zh) | 从视频序列中产生全景图像的方法和设备 | |
Li et al. | Feedback network for image super-resolution | |
CN105611303B (zh) | 图像压缩***、解压缩***、训练方法和装置、显示装置 | |
CN1680978B (zh) | 确定对应于图像影像范围的运动矢量的方法和装置 | |
US7809212B2 (en) | Digital mosaic image construction | |
CN110163801B (zh) | 一种图像超分辨和着色方法、***及电子设备 | |
CN201523430U (zh) | 一种全景视频监控*** | |
US11727541B2 (en) | Video super resolution method | |
CN111696035A (zh) | 一种基于光流运动估计算法的多帧图像超分辨率重建方法 | |
CN101571954A (zh) | 亚像素配准 | |
CN101246680B (zh) | 一种图像帧速率转换方法、图像缩放转换装置及设备 | |
CN102741878A (zh) | 图像处理装置、图像处理方法以及图像处理程序 | |
CN105611213A (zh) | 一种图像处理方法、播放方法及相关的装置和*** | |
CN102006477A (zh) | 图像传输方法及*** | |
CN106489169A (zh) | 用于放大图像的方法和装置 | |
CN111860363A (zh) | 一种视频图像的处理方法及装置、电子设备、存储介质 | |
CN104796623B (zh) | 基于金字塔块匹配和泛函优化的拼接视频去结构偏差方法 | |
Zhang et al. | Optical flow reusing for high-efficiency space-time video super resolution | |
CN112002007B (zh) | 基于空地影像的模型获取方法及装置、设备、存储介质 | |
Kim et al. | Super-resolution of multi-view ERP 360-degree images with two-stage disparity refinement | |
KR101979584B1 (ko) | 디인터레이싱 방법 및 장치 | |
CN110390636A (zh) | 无人机超、高清图片或视频数据的模拟变焦方法 | |
CN115578260A (zh) | 针对图像超分辨率的方向解耦的注意力方法和*** | |
WO2016071566A1 (en) | Variable resolution image capture | |
CN205265822U (zh) | 一种图像处理*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20090506 |