CN101095078B - 数字成像的曝光 - Google Patents
数字成像的曝光 Download PDFInfo
- Publication number
- CN101095078B CN101095078B CN2004800447950A CN200480044795A CN101095078B CN 101095078 B CN101095078 B CN 101095078B CN 2004800447950 A CN2004800447950 A CN 2004800447950A CN 200480044795 A CN200480044795 A CN 200480044795A CN 101095078 B CN101095078 B CN 101095078B
- Authority
- CN
- China
- Prior art keywords
- value
- bsh
- gain
- max
- time shutter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B7/00—Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
- G03B7/08—Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
- G03B7/091—Digital circuits
- G03B7/097—Digital circuits for control of both exposure time and aperture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/72—Combination of two or more compensation controls
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B2207/00—Control of exposure by setting shutters, diaphragms, or filters separately or conjointly
- G03B2207/005—Control of exposure by setting shutters, diaphragms, or filters separately or conjointly involving control of motion blur
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Studio Devices (AREA)
Abstract
本发明涉及一种用于进行成像的电子设备(10),其包括:使用设定的曝光参数(ET,AG,DG)形成图像帧(FRp,FRc)的相机装置(CAM),确定总曝光量(EV)的装置(11),以从至少一些图像帧来确定曝光的总曝光量(EV),以及曝光参数的调整装置(12),其基于所述确定的曝光的总曝光量来调整所述曝光参数。另外,设备(10)还包括运动检测装置(13),用于从至少一些图像帧检测运动。在该设备内,曝光参数被配置为基于所述曝光的总曝光量和所述检测到的运动进行调整。
Description
技术领域
本发明涉及用于执行成像的电子设备,包括:
-使用设定的曝光参数形成图像帧的相机装置,
-确定总曝光量的装置,以从至少一些所述图像帧确定曝光的总曝光量,以及
-曝光参数调整装置,基于所述确定的曝光的总曝光量来调整所述曝光参数。
另外,本发明还涉及对应的方法、***以及程序产品。
背景技术
在实现移动物体对象的静止或视频成像时,例如,在低照度情况下(例如,当拍摄儿童的室内照片时),由于运动和长曝光时间导致的模糊,图像经常发生失真。图8d示出了根据现有技术的拍摄的例子,其中通过垂直移动相机来对静止对象进行成像。
在现有技术中,使用曝光时间以及模拟和数字增益来确定拍摄的总曝光。如果光圈为可调整的类型,则其大小也可被调整。然而,特别地,移动设备缺少调整光圈的可能性。更低的照度需要更长的曝光时间。不幸的是,更长的曝光时间会增加由于移动对象造成的模糊,或拍摄/成像时相机的抖动。模拟增益可被用来补偿所需要的曝光时间的一部分。其中,例如,加倍的模拟增益会使必要的曝光时间减半,但是同时,却会增加噪声水平。
模拟增益放大图像中已生成的噪声。不过,其可被用来降低伴随图像采集产生的量化噪声,其最严重时表现为图像水平的全部丢失。数字增益,被和模拟增益一起使用,实际中并没有给图像带来额外的信息。数字增益只简单放大图像信号和噪声,而这两者恰为使用的曝光时间以及模拟增益的结果。另外,使用模拟增益和曝光时间的可能性以及它们的可行性因不同的传感器而异。
在根据现有技术的AEC(自动曝光控制)方法中,数字照相机的AEC模式典型地以如下方式设定曝光时间,在最大,只使用正好量的模拟增益来避免模拟增益的噪声水平达到扰乱水平。在低照度的条件下,这会导致严重的模糊不清,特别是运动的对象(问题开始出现的实际照度水平取决于照相传感器的特性)。大量的运动-模糊(motion-blurring)比使用模拟增益产生的噪声更会毁掉图像的细节。
现有技术已知不同类的来自几个相机设备的用户可选的曝光程序,其可被称为,例如,曝光的“运动程序”,如果该程序想被用于以上描述类型的困难曝光条件(例如,对运动对象进行成像)的话。在这些之中,允许更高的模拟/数字增益来避免运动模糊,从而使得曝光时间更短。然而运动程序不能被作为缺省程序使用,因为其会致使不必要的高噪声水平,例如,在高照度条件或没有运动对象的低照度条件下。
完全手动调整曝光程序也为已知。在其中,最终用户可以选择精确的曝光时间和模拟增益(其被典型地称作ISO设置,为从传统相机传承下来的名字)并且因而在运动模糊和噪声之间进行折衷。
闪光灯也可作为解决静止图像情况下的问题的一种手段,但其无法被用于视频。另外,某些数字照相机特别是配备有数字照相机的移动终端,出于空间/价格/能耗的考虑完全不具备闪光灯。
发明内容
本发明旨在创造一种调整数字成像中的曝光的方式,与现有技术的方法相比,通过其可以避免或至少减小由成像对象和/或相机的运动造成的模糊。本发明特别适用于在具有有限处理能力的设备中的应用。根据本发明的设备的特征在所附权利要求1中声明,方法的特征在权利要求7中声明。另外,本发明还涉及对应的程序产品和***,其特征在所附权利要求14和20中声明。
根据本发明的用于进行成像的电子设备包括:
-使用设定的曝光参数形成图像帧的相机装置,
-确定总曝光量(total exposure level)的装置,以从至少一些所述图像帧确定曝光的总曝光量,以及
-曝光参数调整装置,基于所述确定的曝光的总曝光量来调整所述曝光参数。
该设备还包括:
-从至少一些所述图像帧检测运动的运动检测装置。
在该设备中,所述曝光参数被配置为可基于所述曝光的总曝光量和被检测到的运动进行调整。
运动可通过例如比较图像帧被检测到。根据一个实施例,所述图像帧的全部图像区(image area)的至少一部分可被以设定的方式分成区域,可为所述区域定义方差或者描述像素值变化的一些其它量。同样,已经收集到的被用于例如确定总曝光量的像素数据,可被应用于方差的计算。通过将图像帧的对应区域的方差相互进行比较,可能确定图像中是否有运动。该实施模型就所述设备的处理能力来说是有效的。
由于本发明,在静止和视频成像两种情况下,都获得了与数字成像中的曝光有关的很多优点。因为,根据一个实施例,根据本发明的方法甚至可以被当作完全自动或缺省的功能性应用于设备,然后作为第一优点,本发明允许这样的曝光模型,在其中最终用户不需要有曝光或成像的专门技术、经验或技巧,甚至是在最难的成像条件/环境下。根据本发明,不再需要选择手动的曝光程序,用户不用考虑当前的条件或成像习惯就可进行成像。本发明从很高照度到很低照度的条件范围内均可自动起作用。
根据第二实施例,本发明甚至可以在处理能力有限的设备,例如移动终端或数字照相机中实现。这可以通过用于检测图像中运动量的算法的令人惊讶的“轻巧度(lightness)”得以实现。另外,本发明还适用于具有不同成像链(imaging chain)和AEC算法的应用。
根据一个实施例,完全可以使用任意的AEC算法,相关于成像情形来确定所述总曝光量。一旦确定了总曝光量,就有可能应用本发明来确定不同的曝光参数之间最合适的比率,通过其可以实现所述想要的总曝光量。
由于根据本发明的运动表达,所述公开的解决方案对良好图像质量的影响超过可以通过例如根据现有技术的手动“运动模式”***所实现的,后者具有对曝光时间的静态限制。通过本发明,限制曝光时间的级别(level)可与在图像中检测到的运动量相结合,结果只使用生成噪声的模拟增益的基本量。这在低照度的情况下特别重要。
本发明的其它特征可见于所附权利要求,其所实现的其它优点在描述部分详细说明。
附图说明
本发明并不限于下面所公开的实施例,下面通过参考附图对本发明做出更详细的分析,其中:
图1示出了根据本发明的电子设备的应用的示意性例子的框图;
图2示出了根据本发明的程序产品的应用的例子,其用于在电子设备中以根据本发明的方式调整曝光;
图3示出了根据本发明的方法的示意性例子的大致流程图;
图4a更详细地示出了根据本发明的方法的一个子阶段的应用的示意性例子;
图4b更详细地示出了根据本发明的方法的第二个子阶段的应用的示意性例子;
图5-7示出了在不同成像情形下,形成总曝光的应用的不同的例子;
图8a-8d示出了在低照度成像情形下的图像拼贴,在其中根据本发明的方法所产生的图像拍摄被与根据现有技术的图像拍摄进行比较;以及
图9a-9d示出了在高照度成像情形下的图像拼贴,在其中根据本发明的方法所产生的图像拍摄被与根据现有技术的图像拍摄进行比较。
具体实施方式
基于下述对本发明做出的描述,图1示出了根据本发明的电子设备10的应用的示意性例子的框图。另外,图2示出了根据本发明的程序产品30的例子,其由存储介质MEM以及存储于其上的程序代码31构成,属于程序代码31的代码装置31.1-31.9在下面描述中的适当位置被参考,以便将其与根据本发明的方法和***相连接。
设备10可为例如配备有静止和/或视频成像能力的数字照相机、数码摄像机、移动台或其它类似的智能通信装置(PDA),对其与本发明不相关的部件就此不会做详细地描述。除了设备10,本发明还涉及成像链***IC,其可以例如在设备10中。
根据本发明的设备10,以及具有其的成像***,可以包括,作为模块化组件,相机装置CAM以及与其连接的数字成像链IC。所述相机装置可以包括图像传感器CAM和多套镜头,其已知且可被用来从被成像的对象形成连续的图像帧FR0-FR4。所述图像处理链IC可以包括这样的模块,其被用来例如在意欲存储的实际成像(静态成像/按下一半(halfpress))之前和/或在将被存储的实际成像期间(视频成像),调整由成像传感器CAM成像中所用的参数ET、AG和DG。在这两种情况下,是否在使用所述设备10时实现为了存储的成像,可进行所谓的取景器成像,为此设备10可具有专用模块VF。在本发明的语境下,这样的模块总体可以被理解为AEC控制电路。
图像处理链IC可以包括一个或多个处理电路/DSP CPU,对于其配置本发明所必需的处理/调整功能。对于本领域技术人员而言,其技术上的实施是显而易见的,所以这样就此而言,为了清楚起见,本发明由非常粗略的框图来描述。从实际实施本发明的角度来看,会平等地考虑硬件和软件解决方案,以及两者的结合。另外,一个电路甚至可以处理多个任务,而这当然也是显而易见的。
作为模块,图像处理链IC包括装置11,31.1,用于确定总曝光量EV。这可以被用来确定来自图像帧FR0-FR4...的曝光的总曝光量EV,其中所述图像帧是使用相机传感器CAM形成的。不能够、或者不值得、或没有必要对于从使用图像传感器CAM形成的每个图像FR0-FR4进行该确定,所述图像,而可以只对某些帧进行。然而,在把各种条件考虑在内的情况下,意图使用于确定的帧应该尽可能连续。稍后在描述中会回到这里。例如,一些已知的或者还在开发的确定方式可以被用于确定总曝光EV。这样的一个例子在申请人的PCT专利申请PCT/2004/050091中公开。
另一个令人惊讶的模块,其也属于根据本发明的设备10中的***链IC,其可以是运动检测装置13,31.3。所述模块13,31.3可以被用来从使用成像传感器CAM形成的图像帧FR1-FR4...检测运动。同样在这种情况下没有必要/可能性将检测针对使用传感器CAM形成的每个帧FR1-FR4...,而可以在连续帧FRp,FRc上以设定的方式进行。同样在这种情况下,将所有条件考虑在内,意图使帧FRp,FRc应该尽可能连续。根据一个实施例,用于运动检测的先前和当前的帧FRp,FRc甚至不需要与确定曝光的总量EV所用的帧相同。
然而另一个模块,其也可以属于设备链IC,是曝光参数ET、AG、DG的调整装置12,31.2,31.4,31.8。在这种情况下,曝光参数可以是,例如,曝光时间ET、模拟增益AG和数字增益DG。模拟增益和数字增益一起形成了总增益G=AG*DG。光圈大小可取而代之或者与增益AG、DG一起被应用。对于本领域技术人员来说,用光圈大小来取代增益G是显而易见的,这里没有必要就此深入探讨。也可以应用ND滤光器,其可被定向在传感器AM前面,或者远离该传感器。其可被用来减少光的量(所述量取决于滤光器)。模块12,31.2,31.4,31.8可以被用来根据本发明调整曝光参数ET、AG和DG,该调整基于使用模块11,31.1确定的曝光的总曝光量EV,并且令人惊讶地还取决于使用模块13,31.3检测到的运动。
图3示出了根据本发明的方法的示意性例子的大致流程图,该方法用于调整数字成像中的曝光。
在本方法的执行中的初始阶段300之后,在阶段(i)使用数字照相机的传感器CAM采集连续的原始图像帧FR0-FR4...。换言之,在阶段(i),以设定的方式使用设定的曝光参数ET、AG和DG形成连续的图像帧FR0-FR4...。
当该方法被初始化,从设备10的缺省值获得至少第一曝光迭代周期的曝光参数ET、AG和DG。在根据所述方法收集曝光参数ET、AG和DG时,在随后的或至少几个曝光周期(exposure cycle)之后,使用该方法准备曝光参数ET、AG和DG,以适合当前的成像情形。
在所示方法叙述中,刚好在已经进行了几个曝光周期后开始。这是因为在第一成像周期中,在此示出的实施例叙述所需的所有元素(其主要指“先前的”图像帧Fap,其中将“先前的”图像帧FRp和“当前的”图像帧FRc做比较时需要该帧)从本发明的观点来看尚不存在。在单独的执行周期中,可对帧FRc执行本发明的运动定义和计算,该帧被应用于该方法并且是在此刻最后被采集到的,即准确地说对于该周期是最后被采集到的。从先前周期的循环(cycle)中的帧FRp定义的因子(例如方差,以后会更详细探讨),当然可以被存储在所述设备10的存储器MEM中,并且可以从该存储器找回它们,例如用于确定运动的量。另外,传感器CAM使用的当前的曝光值ET、AG和DG也可以在存储器MEM中。
总而言之,使用图像传感器CAM形成的图像帧FR0,FR1,FR2,FR3,FR4...,其被应用在本发明中,以设定的方式连续。所述连续的帧FR0,FR1,...可被带到阶段(i′),其包括例如图像数据的(后)处理14。对例如旨在被存储于用于存储图像数据的存储器MEM的图像数据或被送至取景器VF(图1)的图像数据执行后处理。另一方面,数字增益也可以仅被作为后处理执行。
当应用常规的成像频率,例如每秒15-30帧时,本方法所用的帧,或是更具体地说本方法的各子阶段(运动检测,曝光量检测)所用的帧不一定必须为完全连续的,而可以是例如它们之间的几个帧。另外,本方法的某些子阶段甚至可以使用不同的帧。所用的帧FRp(=例如,FR2),FRc(=例如,FR3)的连续性通过例如设备10的处理速度,并且另一方面还通本发明的方法的基本原则的要求进行描述,下段马上会回到这个话题。
作为下一个子阶段(ii)从图像帧进行运动检测。稍后会在描述中以更详细的应用描述的形式更详细地讲这点。可从图像帧FR2、FR3检测运动,其中该两帧以设定的方式连续。连续帧FR2、FR3的应用,在本发明中并不一定完全可能或是想要它们一个紧接着另一个,原因例如在于传感器CAM的有限的读取速度,或是太高的图像频率。然而实际中,图像频率通常不会太高以至于避免使用完全连续的帧。如果图像频率确实高,就无法从完全连续的帧中检测到合理的运动,而不得不从当前帧FRc和先前帧FRp之间忽略一些帧。在其它情况下,使用尽可能连续的帧(即完全连续的帧,除非被例如从传感器CAM到存储器MEM的数据传输速度限制)。
根据令人惊讶的实施例,运动检测阶段(ii)还可以被作为其自己的连续循环执行,而独立于例如所述曝光定义以及调整阶段(iii和iv)的当前表现情况。更一般地,可基于两个最新近的图像帧FRp和FRc检测运动,而不管运动检测是作为其自身循环还是曝光调整循环的一部分被执行。
如果,例如,将使用基于帧FR1计算出的曝光调整来曝光图像帧FR3(=FRc),则当基于图像FR3(=FRc)为图像FR5计算新的曝光调整时,有可能使用在运动检测中的先前图像帧FR2(=FRp)的数据,其中从图像帧FR2,而不是图像帧FR1来计算该数据,并且基于该数据执行先前的曝光调整。在将使用不同的曝光参数形成的图像帧彼此进行比较时,更改的曝光参数并不会对运动检测造成问题。
从传感器CAM读取图像帧的速度可以为,例如每秒15/30帧。然而,为了还能够允许长曝光时间,可以例如仅在每四次时实际从传感器CAM中读出图像,这样真正的图像频率就只有每秒3.75/7.5帧。在任何情况下,就此而言,帧FRp、FRc的连续性是指它们或者完全连续,即一个接一个,例如当FRp=FR2且FRc=FR3,或者有可能在它们(例如FR2和FR3)之间有一个或多个帧,就本方法来说未加以考虑(即FRp=FR1且FRc=FR4)。如上已述,在例如为运动检测(ii)或曝光调整(iii)提供帧时,对于连续性可有不同的理解。
同样对曝光调整算法11提供尽可能连续的图像帧也是值得的。如果调整算法运转敏感,那么在当最新的图像帧还没有根据最近计算的曝光参数被曝光时,有必要原样保持曝光参数。在连续的曝光计算(0...n)之间有多少图像帧取决于传感器CAM并且对于同一传感器在不同时刻还会变化。例如,对于典型的CMOS传感器,通常在它们之间应该有至少一个图像帧,这是因为在前一个图像帧已能够被读取的时候下一个图像帧就已经开始被曝光。也会尝试从尽可能连续的图像帧来检测运动,除非成像频率过高,在这种情况下当前帧FRc和先前帧FRp之间的图像帧的数目可被忽略。
应用于运动检测13的当前图像FRc可以是,例如FR3,并且就此而言先前的图像FRp是指最后处理的图像且从其已经计算出值给存储器MEM。因此在这种情况下,先前的图像FRp可以是,例如,图像FR2,其还指顺次的先前图像。当然,如果未期望处理所有图像,或者如果不希望将它们用在根据本发明的实施中,先前的图像还可以是图像FR1或图像FR0。
将要执行的所述方法的如下子阶段(iii)可以是例如从图像帧FR3对所需的曝光的总曝光量EV的定义。其中,可以使用设备10的AEC算法11,31.1来确定所需的总曝光量EV(曝光值),根据一个实施例其可以是,例如,曝光时间ET和模拟增益AG的积,EV=ET*AG。应该理解本发明不固定该子阶段执行的位置,而其甚至可以在运动检测阶段(ii)之前进行。另一方面,该阶段还可以与运动检测阶段(ii)结合,从而形成单独的常用子阶段。为了执行该功能,可以应用例如在本说明书中之前引用的PCT申请中公开的方法,在其中例如像素的饱和度被很好地控制。然而,有理由注意任何AEC算法都可以被用于该阶段。所讨论的子阶段(iii)的细节不对本发明产生影响。
阶段(iii)之后为阶段(iv),其中曝光参数ET、AG和DG被调整。使用例如从最后的图像帧FR3定义的曝光的总曝光量EV,以及令人惊讶地还基于在先前的图像帧FRp和当前的图像帧FRc之间检测出的运动量C来发生此阶段。
一旦曝光参数ET、AG和DG被调整,就有可能从阶段(iv)回到图像帧采集阶段(i)。其中,传感器CAM可使用如上定义的新的曝光参数ET、AG和DG,来采集成像序列中的下一帧。使用可能的新曝光参数ET、AG和DG采集的后续帧可被设定为运动检测的当前帧FRc以及要结束的运动检测的当前帧,或者更具体地,从其确定的本发明的所述方法中所必需的值(例如,方差)被设定为运动检测的先前的帧(FRp)。
因为所述方法既可以用于静止成像也可以用于视频成像,实际上上述类型的循环运行于在相机CAM被用来形成图像信息的全部时间,这不但仅仅用于取景器VF,而且还用于存储器MEM,且甚至更一般地,在当设备10的照相功能起作用时。本发明包括阶段(ii)和(iv)。就本发明而言,阶段(ii)和(iii)的处理顺序并不重要。这意味着如果对本发明有利(如果例如具有两个模块在某种程度上会对整个***有害)可以将阶段(ii)和(iv)合并。
至少用于调整曝光所需的统计结果的计算可以发生自原始图像(如运动检测)。另一方面,其(特别是运动检测)还可以被实施于已经被处理过的图片。
图4a示出了根据本发明的方法的运动检测子阶段(ii)的更精确一些的实施例。已经在上面被描述过的子阶段(i-iv)的基本形式没必要被再次考虑。
根据一个实施例,在阶段(ii)图像帧FRp、FRc可以被以设定的方式在其自己的处理周期划分成例如(M×N)个彼此对应的区域,作为子阶段401。程序产品30包含将在处理器CPU上执行的用于此目的的代码31.5。然后将这些区域互相比较,以便检测在连续的图像帧FRp、FRc之间的运动。
根据一个实施例,图像帧Fap、FRc各自在其自己的处理周期可被例如均分为M×N个块。在这种情况下,M为水平方向上块的数目且N为垂直方向上块的数目。块的形状可为例如,矩形。可以给出块数的一个例子,M=8且N=6。更一般地,块数可以为M∈[1,图像的列数]且N∈[1,图像的行数]。实际上,可以从最大可能的理论值压缩至少上限,使得所需的内存量保持合理。则块的变化范围可以是,例如,M∈[4,256]且N∈[3,192]。通过保持块的数目合理,就有可能说在由像素而不是像素值形成的区域里发生的变化,即,区域的方差而不是例如像素值的差。甚至在两个方向上的下限可为M,N=1,因为就计算技术而言,对于一块来计算图像的方差格外地快(如果该图像的柱状图被另外收集),并且因而其已经可被用作运动的粗略预报。
根据一个实施例,并不强迫使用帧FRp、FRc的全部图像区域。事实上,如果图像不能被例如以想要的块数均匀分割,则就计算技术而言,块的大小可被限定到整数(或偶数)所表示的值。块外部的区域可被留置而不用于运动检测的计算。
接下来,如子阶段402-405,例如可以从各个处于设定的方式的连续图像帧FRp、FRc确定在相互对应的区域出现的变化。一种做法是定义一些适当地选择的统计数字,通过其可识别在帧FRp、FRc之间的图像对象/设备10的运动,或者表示运动量的统计数字。这样的统计数字的一个例子可以是区域的方差σ2。可以对于至少一些区域计算该方差。
可以例如对于两帧FRp、FRc的各块或者至少对于一些块,利用属于程序产品30的并可用处理器CPU执行的代码31.6,来计算方差σ2。如所知,方差σ2的数学定义为:
其中m为均值:
并且其中i∈[1,n],i为块中每个像素值xi的下标,所述块j∈[1,M×N]。如已知,像素值可以在例如0-255之间的范围变化。
如下面的子阶段403,当前帧FRc和先前帧FRp的彼此对应的区域的方差可被以设定的方式互相比较。可以通过对于至少一些方差使用代码装置31.5计算彼此对应的区域的方差的差,或其比率,来执行所述比较。在子阶段的子阶段404,在以设定的方式进行比较时,有可能确定当前帧FRc中的块j的方差δ2 jFRc和先前帧FRp的对应块j的方差δ2 jFRp是否不同。
如果没有在阶段404检测到足够的差,可以进行到阶段405′。其中,确定是否还有剩余的图像块要被比较。如果还有没被比较的图像块,可以回到阶段403。
如果图像帧FRp、FRc的彼此对应的区域的方差jFRp、jFRc在阶段404以设定的方式彼此不同,即,满足为所述比较所设定的特别的判别条件T,则考虑检测到的运动。然后就有可能进行到下面的子阶段的子阶段405。在其中,运动量的指示器以设定的方式增加。
没有必要在运动检测中考虑所有的颜色组分(如果颜色***为例如RGB),尽管当然这也是可能的。根据一个实施例,可以只从例如绿颜色组分G检测出运动。对于运动检测选择绿颜色组分G是有利的,因为其比红色R或蓝色B更接近亮颜色组分。
根据一个实施例,在阶段404调查的差可被定义为阙值T,其会由于出现在图像对象中的运动而被超出。方差的差的判别条件T可以是,例如,T=D/8和T∈[D/12,D/4]。在这种情况下,D是像素的G组分的值的量化级数,基于此计算出方差。这不必与例如输入图像的位深度所对应的相同。如果输入图像为,例如24bpp,即每个组分八位,在这种情况下像素的组分的值在范围0...255内,即有256个量化等级,那么方差就被利用例如只是四个最主要的(uppermost)的位更为近似地计算出来,因此D=24=16。
在阶段405,指示在帧FRp和FRc之间的运动的量的数字值“运动计算器”C被在该方法中定义为例如C∈[0,M*N]。在阶段405,可以总是加一,直到彼此对应的块jFRp、jFRc的方差δ2 jFRp,δ2 jFRc的差的绝对值超过为一个块j设定的阙值T。然后在帧FRp、FRc中彼此对应的块jFap、jFRc之间进行方差δ2的比较。有可能从阶段405′移动到增加阶段405。
指示运动的量的指示器,运动计算器C,即受到与先前帧Frp相比的变化的块的数目,是运动的量度,其作为来自运动定义模块13,31.3的输入值。可检测到的运动的量,即,可使用块的数目(变量M和N)调整运动定义模块13,31.1的分辨率,且可使用阙值参数T调整方差δ2的变化灵敏度。
上面所描述的运动检测就计算而言令人惊讶地简单,但并不足够好到可以对本方法的操作产生足够的鲁棒。小运动图像对象会产生比更大的运动区域较小的效果。在这种情况下,计算的低复杂度是一个重要的属性,因为运动检测模块13,31.1是实时***IC的一部分且设备10的处理能力是有限的。然而这实现了好的结果,正如可从后面会参照的图8a-8d以及9a-9d的图像拼贴可以轻易看到的那样。另外,可从已经可用的像素数据计算所述方差,用于总曝光的定义。
一旦在阶段405′发现不再有区域j可被比较,则进行下一步,12,31.2,31.4,31.8调整曝光参数,即,至所述方法的阶段(iii)。同时,还可执行有关所述方差的变量改变。在其中,当前帧FRc的方差δ2 jFRc被在下面的执行周期中设定为“先前的”图像帧FRp的方差δ2 jFRp。这个就使用设备10中的存储器来说也是重要的。从先前的图像帧FRp,存储器MEM只包含方差值δ2 jFRp是足够的,其占据很少的空间且被需要来检测在图像帧FRp、FRc之间的运动。如果应用了独立于曝光计算阶段的运动检测,则尚未被使用的先前帧FRp的方差值δ2 jFRp被存储在存储器MEM中,以用于下一个曝光调整周期。
图4b更详细地示出了阶段(iv)。在阶段(iv),曝光时间ET和模拟增益AG的结合,在这种情况下考虑到被检测到的运动,对连续的帧FRp、FRc计算,形成了所需的总曝光量EV。根据本发明的主要原理,非常小的运动会导致更长的曝光时间ET和较小的模拟增益AG,更一般地,增益G,如果数字增益系数DG被设定为1。相应地,大的运动会导致使用更短的曝光时间ET和更多模拟增益AG。
在阶段406和407,为曝光时间ET以及模拟增益AG定义和设定了特定的标准值。为此目的,程序产品30中有将由处理器CPU执行的代码31.7。至少曝光时间ET的至少部分标准值取决于在阶段(ii)中检测出的运动的量C。首先,借助于在后面将参照图5-7更详细地描述的内容,探究与本发明相关的标准值。
ETbsl:曝光时间,其就运动模糊而言是安全的(取决于被检测到的运动),
ETbsh:曝光时间,其就运动模糊而言是相对安全的(取决于被检测到的运动),
ETul:曝光时间上限(取决于被检测到的运动),
ETmax:最大可获得曝光时间(取决于传感器),
AGnsl:模拟增益,就噪声而言是安全的(取决于传感器),
AGnsh:最大模拟增益,其被允许用来防止图像模糊(取决于传感器),
AGmax:最大可能模拟增益(取决于传感器)。
子阶段(iv)的输入参数如下:
1)所需的总曝光量(从先前的子阶段(iii)获得的输出值,标以参考标记EV)以及
2)检测到的运动(从运动检测子阶段(ii)获得的输出值,标以参考标记C)。
从子阶段(iv)获得下述输出值:
1)曝光时间值ET,
2)模拟增益值AG,以及
3)(数字增益值DG)。
如果没有在帧FRp、FRc之间检测出运动(C=0),就运动模糊而言是安全的曝光时间ETbsl被以映射到E1的方式计算和设定,当在帧FRp、FRc之间检测出根据特定设定标准的最大运动(C=C1)时,则映射到E2,其中C1根据一个实施例可以是例如C1=M*N/4。因而,ETbsl=E1-(E1-E2)*min(C,C1)/C1,其中
C1=M*N/4,其中
M=水平方向上的区域的数目,以及
N=垂直方向上的区域的数目。
现在E1是当静态对象被徒手成像时,被估计为就运动模糊而言安全的曝光时间。这取决于例如传感器CAM的像素大小以及设备10的设计。E1值的一个例子可以是例如1/50s,更通常地E1=1/100s......1/25s(1/500s......1/2s)。函数min(C,C1)返回值C和C1中较小的一个。更一般地,应用最小函数可以实现标准值,其可取决于运动的量,但是它们不超过特定的最大级别,即使运动量增加变大。
E2现在是当运动图像对象被成像时,被估计为就运动模糊而言安全的曝光时间。E2值的一个例子可以是1/125s,更一般地E2=1/200s..1/50s(1/800s..1/2s)并且其中E1>E2。然而,E2的值最好不要被设定为绝对安全的值,例如1/1000s,因为这通常会需要传感器CAM太高的模拟增益能力。在所述方法中,可以自动使用例如1/1000s的非常小的曝光时间,例如,如果有足够的光线的话。然而在低照度情况下,必须在运动模糊和噪声之间折衷,因为自动***无法假定用户总是偏爱噪声胜过运动模糊。
2)当没有在先前和当前帧FRp、FRc之间检测到运动(C=0)时,就运动模糊而言相对安全的曝光时间ETbsh被以映射到E3方式计算和设定,在当在帧FRp、FRc之间检测到根据特定设定的标准的最大运动(C=C2)时,将其映射到E4,其中C2根据一个实施例可以是例如C2=M*N/3。
因此,ETbsh=E3-(E3-E4)*min(C,C2)/C2,其中,
E3=ETmax,其中,
ETmax=传感器特定的最大曝光时间,其可以是例如ETmax=1s,更
一般地ETmax∈[1/30s,30s],
E4=ETbsl并且其中E3>E4。
以上意味着随着光量减少,需要更多的运动以能够使用在亮条件下的短曝光时间,并且在低照度条件下如果相机设备10和对象均不移动的话,有可能使用具有低模拟增益的非常长的曝光时间。
3)曝光时间的上限可被设定为,例如,ETul=ETbsh+(ETmax-ETbsh)/2,或者其可为ETul=ETmax。这意味着在非常低照度的情况下运动模糊和噪声都会出现。不再能避免在这种曝光量下的运动模糊而没有干扰噪声出现在图像中。在这种照明度下,曝光时间ET和模拟增益AG均增加,以便将图像适当曝光。那就必须在运动模糊和噪声之间进行折衷。
增益G的标准值,在这种情况下为模拟增益AG,可以被设定为:
4)AGnsl=x1..x8(+0dB..+18dB),例如,x2,
5)AGnsh=x1..x16(+0dB..+24dB),例如,x4,
6)AGmax=x1..x32(+0dB..+30dB),例如,x8,
并且其中AGnsl≤AGnsh≤AGmax。
应该注意到的是,本发明还可被用于不能使用具有模拟增益AG的相机传感器CAM的情况(即AGmax=x1)。在这种情况下,模拟增益AG被数字增益DG所取代。然而,最终结果没有使用具有模拟增益AG的传感器CAM好。
另外,需注意到的是,以上给出的C1和C2的值为示例值。其自然可被更改,例如根据想要的调整和/或传感器CAM的属性。然后可在例如范围M*N/8...M*N内改变C1和C2。即,在实际中,如果C1和/或C2小于M*N,则在最大可能数目的块(=M*N)被检测出运动之前已经实现了最大调整。
一旦标准值已被计算出,就来到阶段408。在其中,使用在先前阶段定义的总曝光量EV以及标准值ETbsl,ETbsh,ETmax,ETul,AGnsl,AGnsh和AGmax计算要被使用的曝光参数,即,曝光时间ET、模拟增益AG以及可能的数字增益DG。总曝光量EV可用与曝光时间一样的单位表示(例如以微秒表示)。模拟增益AG可由例如系数来表示而不是分贝。图5至7示出了曝光时间ET和模拟增益AG之间的关系,作为在不同情形下的所需的总曝光量EV的函数。
在本发明中,总曝光量EV和曝光参数ET、AG满足如下关系:
EV=ET*G,其中G=AG*DG
可以如下所述根据上面定义的标准值所定义的数值区域来设定参数ET、AG,其取决于曝光的总曝光量EV以及被检测到的运动C的量。更一般地,可能参照曝光时间ET和增益G的积EV=ET*G,其中增益G=AG*DG。在应用的例子中,系数1(=0dB)被设定为数字增益DG的缺省值,当G=AG,这种情况下主要只有模拟增益在工作。另外,还需要注意如果必须使用或想使用数字增益DG的话,可以在处理链的多个点进行(在传感器CAM,或只在处理14中)。
这里,还参照了示出图5-7中的基本原理的图,其中相对于在图像中检测到的运动的量描述了不同的情形。在图5的图中,在拍摄中有某种程度的运动,然而非最大量C2。在下面会更详细描述的对曝光时间ET和模拟增益AG的调整中,精确参照根据图5的情况。在图6的图中,与图5的情况相比,检测到很多运动。另外,需注意对C1和C2所示的值意味着在C=M*N之前已经达到了最大的调整。在这一点,最大量如此表现,正如如图6的图所示的所有比C2大的量。在图7的图中,与图5和图6的情况相比,拍摄中没有运动。
在图6的图中,乘积ETbsl*AGnsl和ETbsh*AGnsl位于x轴上同一点,这是因为,根据以上标准值定义,当被检测到的运动C的量为最高级别时其得出相同的值。图5-7的下部还示出了在每个曝光时间ET和模拟增益AG期间对运动模糊和噪声的相对量的估计。根据在说明书的最后被更详细地描述的本发明的应用,可将这些估计轻易附加到AEC程序概念上。与之相关,参照程序代码31的代码装置31.9。
1)在总曝光量(EV)的值的范围[0,ETbsl]内,模拟增益AG的系数值被固定为1并且曝光时间(ET)被设定为与所述总曝光量相对应的值(EV)。
2)在总曝光量(EV)的值的范围[ETbsl,ETbsl*AGnsl]内,曝光时间的值被固定为ETbsl且模拟增益AG的系数值被设定为AG=EV/ET=EV/ETbsl。然后增益AG从系数1(=+0dB)增加到值AGnsl。
3)在总曝光量(EV)的值的范围[ETbsl*AGnsl,ETbsh*AGnsl]内,模拟增益AG的值被固定为AGnsl且曝光时间(ET)被设定为ET=EV/AG=EV/AGnsl。然后曝光时间ET从值ETbsl增加到值ETbsh。
4)在总曝光量(EV)的值的范围[ETbsh*AGnsl,ETbsh*AGnsh]内,曝光时间(ET)的值被固定为ETbsh且模拟增益AG的系数值从值AGnsl增加到值AGnsh,使得AG=EV/ET=EV/ETbsh。
5)在总曝光量(EV)的值的范围[ETbsh*AGnsh,ETul*AGmax]内,曝光时间ET的值从值ETbsh增加到值ETul,使得
ET=ETbsh+((EV-ETbsh*AGnsh)/(ETul*AGmax-ETbsh*AGnsh))*(ETul-ETbsh),并且模拟增益AG的系数值从值AGnsh增加到值AGmax,使得AG=EV/ET。
在部分5)的ET陈述中,ETbsh可以被认为是一种偏置量(bias level),在其之上添加最大曝光时间和该偏置量之差(ETul-ETbsh)与一个常数的乘积。该常数介于0和1之间且取决于总曝光EV的值有多大。
6)如果所需的曝光的总曝光量EV超过了值ETul*AGmax,则在这种情况下ETul被固定为曝光时间ET的值且AGmax被固定为模拟增益AG的系数值,以及使用数字增益DG进行最终的曝光。如果数字增益DG取代模拟增益AG或与其一起使用,则在上述内容中,可更加一般地参照增益G而不是AG。
可在链IC的不同点实现数字增益。根据第一实施例,可在相机传感器CAM实现数字增益,在其中修改该增益DG。根据第二实施例,有可能使数字增益DG更优,其能够只关于模块14中的图像处理被实现。阶段的一些例子可以是颜色组分的预放大,或者有关对白平衡的调整。通过将数字增益延迟直到采集到的图像的处理阶段,即,想要被存储的图像,即在实际的成像阶段之后,计算被保存且量化的量被减少为整数。当这样处理时,即使在这种情况下也完全不用在传感器CAM上改变数字增益DG。
阶段408的结果是调整好的曝光时间ET、模拟增益AG以及可能的数字增益DG。
在所述方法的以上描述中,没有参照例如特定的稳定性或特定传感器的部件,例如,实际的相机传感器为控制***所设定的限制。这包括对传感器的模拟增益和曝光时间的不连续调整,以及消除来自图像的光源的可能的抖动,对于此需要计划总曝光时间,具备球形的和卷帘式快门。需注意,实际的实施包括就此未描述的组件。然而对这些组件的实施对本领域的技术人员而言是显而易见的,所以没必要就此做更详细的描述。另外,它们不影响本发明的基本思想。事实上,本发明的基本思想可被大规模地与真实的曝光调整链所需要的这些其它组件一起应用。
此外,图8a-8d以及9a-9d示出了一些真实图像的例子,其中由本发明所获得的成像效果被非常说明性地示出。示例图像是使用诺基亚6600的原型移动台拍摄的,使用了东芝Mirage 1相机传感器。对曝光的调整是通过使用上述根据本发明的方法而实现的。
在图8a-8d中,说明了当成像同样的图像对象时在差照明条件下的本发明的实施。在图8a和8c中,相机被稳固地保持在适当位置,而在图8b和8d中相机被以大约相同的速度均匀向上移动。在图8a和8b中,使用了根据本发明的***,而没有在图8c和8d中对其进行使用。尽管图像是黑白的,它们极好地示出了本发明在实际中的表现。
正如可以如图示般从图像中观察到的,本发明只有在图像中存在运动时才会限制曝光时间。从图像中还可以看到,在没有使用根据本发明的解决方案的情况,运动模糊破坏了图像的所有细节。最后,可以从图像看到,由于更高的模拟增益,图8b中的噪声水平有所增加。尽管如此,大部分实现该成像的人还是觉得图8b好过图8d。
图9a-9d示出了相应的图像拼贴的例子。在其中,存在这样的情况,其中在亮室内照明条件下进行成像且相机被水平而不是垂直移动。否则,图像的顺序/观测的重要性相应于先前的例子。正如也可以从这些例子中所看到的,本发明明显减少了运动模糊,却还保持低噪声水平。
图2示出了根据本发明的程序产品30的应用例子的大致示意图。该程序产品30可以包括存储介质MEM和程序代码31,该代码被使用设备10的处理器装置CPU执行,并被写在存储介质MEM上,以便至少部分地在程序层次上实施根据本发明的AEC。程序代码31的存储介质MEM可以是,例如,设备10的静态或动态应用存储器,或在成像链IC上的AEC电路模块整体,其可以在成像链上被直接集成。
程序代码31可以包括由处理器装置CPU 11-13来实现的多个代码装置31.1-31.9,对其的操作可以精确地采用上述的方法描述。代码装置31.1-31.9可以形成一组将被顺序执行处理器指令,通过其可在根据本发明的设备10中实现就本发明而言所想要的功能性。
尽管没有在上述实施例中描述光圈调节的可能性,然而本发明也可以被应用在几个有可能调节光圈的设备中。因此,例如低照度条件下,光圈一般可以被调节到尽可能大,使得有尽可能多的光到达传感器CAM。
如果光圈可以被调节且其改变,在当计算总曝光量即EV值时,要考虑调节光圈的效果。另外,如果使用了具有光学变焦的设备,曝光量还会由于焦距的增加而减少。由此导致的改变还可由对曝光的调整(EV值计算)加以预测。然而焦距的改变不能被用来调整曝光,因为其还会影响对可视图像的裁切。
在相机中,通过调整曝光时间ET和模拟增益AG,本发明允许对运动对象获取清晰的图像,或者在各种照度条件下消除相机运动(例如,抖动),该调整甚至可以是完全自动的。抖动特别会在用移动台进行成像时出现,其中相机一般只用一只手手持,而该手也是按快门的手。通过本发明,运动模糊被避免而不用将噪声水平提高到太烦扰的程度。最后还需要声明的是,亮的曝光条件就图像模糊而言不是一个问题,即使是对于常规的AEC***。
本发明还可以根据各种用户友好的程序产品的需要而轻易调整。这样的例子可以参照实现于成像程序中的清楚语言选择情形(clear languageselection situation),由于本发明,对于没有任何特殊曝光专门技术的终端用户,例如“不使用会导致噪声的模拟增益,即使不使用其会导致运动模糊”,比对“允许少量噪声,如果其可以避免/减少运动模糊”。为了实施这种选择,在程序产品30的代码31中有子模块31.9,其为摄影师提供对于清楚语言选择的可能性。
必须理解的是以上描述和相关附图只是为了阐述本发明。因此本发明不应只被局限于权利要求所公开或陈述的实施例,而可以有多种不同的变型和改变,其在所附权利要求所限定的发明概念的范围内,这对本领域的技术人员来说是显而易见的。
Claims (16)
1.一种用于进行成像的电子设备(10),包括
使用设定的曝光参数(ET,AG,DG)形成连续的原始图像帧(FRp,FRc)的相机装置(CAM),
确定总曝光量(EV)的装置(11),以从至少一些所述原始图像帧(FRp,FRc)确定曝光的总曝光量(EV),以及
曝光参数(ET,AG,DG)的调整装置(12),基于所述确定的曝光的总曝光量(EV)来调整所述曝光参数(ET,AG,DG),
其特征在于,所述设备(10)还包括:
用于从至少一些所述原始图像帧(FRp,FRc)检测运动的运动检测装置(13),并且在所述设备(10)中,所述曝光参数(ET,AG,DG)被配置以基于所述曝光的总曝光量(EV)和所述检测到的运动被调整,并且所述确定总曝光量(EV)的装置(11)、所述曝光参数(ET,AG,DG)的调整装置(12)以及检测所述运动的所述运动检测装置(13)被配置为作为连续的循环进行工作,其中所述曝光参数包括:曝光时间ET、模拟增益AG和数字增益DG。
2.根据权利要求1所述的设备(10),其特征在于,所述运动检测装置(13)被配置为以设定的方式将所述原始图像帧(FRp,FRc)划分为区域,其中所述区域被配置为被互相比较,以便检测在该原始图像帧(FRp,FRc)之间的运动(C)。
3.根据权利要求2所述的设备(10),其特征在于,所述区域被配置为至少部分地覆盖所述原始图像帧(FRp,FRc)的全部图像区域。
4.根据权利要求2或3所述的设备(10),其特征在于,出现在相互对应的区域中的变化被配置为根据所述原始图像帧(FRp,FRc)的至少一部分所述区域来确定,并且,如果所述相互对应的区域的变化满足特定的判别条件,则通过以设定的方式增加运动量的指示符来考虑所检测到的运动。
5.根据权利要求4所述的设备(10),其特征在于,所述变化包括表达运动的统计数字,并且所述表达运动的统计数字包括相互对应的区域的方差σ2。
6.根据权利要求1-3中的任一个所述的设备(10),其特征在于,特定的标准值被定义给曝光时间(ET)和增益(G),所述增益是模拟和/或数字增益(AG,DG),所述曝光时间(ET)的标准值中包括ETbsl、ETbsh和ETul在内的至少一些标准值被配置为以下述方式取决于所述检测到的运动(C)的量:
1)ETbsl=E1-(E1-E2)*min(C,C1)/C1,其中,
E1=1/100秒......1/25秒,
E2=1/200秒......1/50秒,并且其中E1>E2,
C1=M*N/8......M*N/1,其中,
M=水平方向上的区域的数目,并且
N=垂直方向上的区域的数目,
以及
2)ETbsh=E3-(E3-E4)*min(C,C2)/C2,其中,
E3=ETmax,其中,
ETmax=1/30秒......30秒,
E4=ETbsl,并且其中E3>E4,
C2=M*N/8......M*N/1,其中,
M=水平方向上的区域的数目,并且
N=垂直方向上的区域的数目,
以及
3)ETul=ETbsh+(ETmax-ETbsh)/2
并且相对应地对于所述增益G的标准值:
4)Gnsl=x1......x8,
5)Gnsh=x1......x16,
6)Gmax=x1......x32,
以及Gnsl≤Gnsh≤Gmax,
其中C指的是检测到的运动,ETbsl指的是就运动模糊而言是安全的曝光时间,ETbsh指的是就运动模糊而言是相对安全的曝光时间,ETul指的是曝光时间上限,ETmax指的是最大可获得曝光时间,Gnsl指的是就噪声而言是安全的增益,Gnsh指的是被允许用来防止模糊的最大增益,Gmax指的是最大可能增益。
7.根据权利要求6中所述的设备(10),其特征在于,所使用的曝光参数(ET,AG,DG)被配置为利用所述总曝光量EV和所定义的标准值(ETbsl,ETbsh,ETmax,ETul,Gnsl,Gnsh以及Gmax)来计算,并且其中所述总曝光量EV和所述曝光参数ET,AG,DG具有下述关系:
EV=ET*G,其中G=AG*DG,
并且其中,
1)在所述总曝光量(EV)的值的范围[0,ETbsl]内,所述增益(G)的系数值被固定为1并且所述曝光时间(ET)被设定为与所述总曝光量相对应的值(EV),
2)在所述总曝光量(EV)的值的范围[ETbsl,ETbsl*Gnsl]内,所述曝光时间(ET)的值被固定为ETbsl且所述增益(G)的系数值被设定为G=EV/ET=EV/ETbsl,
3)在所述总曝光量(EV)的值的范围[ETbsl*Gnsl,ETbsh*Gnsl]内,所述增益(G)的系数值被固定为Gnsl且所述曝光时间(ET)被设定为E T=EV/G=EV/Gnsl,
4)在所述总曝光量(EV)的值的范围[ETbsh*Gnsl,ETbsh*Gnsh]内,所述曝光时间(ET)的值被固定为ETbsh且所述增益(G)的系数值被配置为从值Gnsl增加到值Gnsh,使得G=EV/ET=EV/ETbsh,
5)在所述总曝光量(EV)的值的范围[ETbsh*Gnsh,ETul*Gmax]内,所述曝光时间ET的值被配置为从值ETbsh增加到值ETul,使得
ET=ETbsh+((EV-ETbsh*Gnsh)/(ETul*Gmax-ETbsh*Gnsh))*(ETul-ETbsh),并且所述增益(G)的系数值被配置为从值Gnsh增加到值Gmax,使得G=EV/ET,以及
6)如果所需的总曝光量(EV)被发现超过了值ETul*Gmax,则所述曝光时间(ET)的值被固定为ETul,且所述增益(G)的模拟增益(AG)被固定为Gmax,以及最终的曝光被配置为使用数字增益(DG)进行。
8.一种调整数字成像中的曝光的方法,在该方法中,作为连续的循环:
使用设定的曝光参数(ET,AG,DG)形成连续的原始图像帧(FRp,FRc)(阶段(i))以及
调整所述曝光参数(ET,AG,DG)(阶段(iv))并且在其中,作为所述方法的一个子阶段(阶段(iii)),从至少一些所述原始图像帧(FRp,FRc)确定曝光的总曝光量(EV),基于该总曝光量进行对所述曝光参数(ET,AG,DG)的所述调整,其特征在于,
在所述方法中,从至少一些所述原始图像帧(FRp,FRc)检测运动(阶段(ii)),在该情况下基于所述曝光的总曝光量(EV)和所述检测到的运动调整所述曝光参数(ET,AG,DG)(阶段(iv)),其中所述曝光参数包括:曝光时间ET、模拟增益AG和数字增益DG。
9.根据权利要求8所述的方法,其特征在于,以设定的方式将所述原始图像帧(FRp,FRc)划分为区域(阶段401),其中所述区域被相互比较,以便检测在所述原始图像帧(FRp,FRc)之间的运动(C)(阶段403-404)。
10.根据权利要求9所述的方法,其特征在于,所述区域至少部分地覆盖所述原始图像帧(FRp,FRc)的全部图像区域。
11.根据权利要求9或10所述的方法,其特征在于,根据至少一部分所述区域来确定出现在相互对应的区域中的变化,并且,如果所述相互对应的区域的变化满足特定的判别条件,则通过以设定的方式增加运动量的指示符来考虑所检测到的运动(阶段402-405)。
12.根据权利要求11所述的方法,其特征在于,所述变化包括表达运动的统计数字,并且所述表达运动的统计数字包括相互对应的区域的方差σ2。
13.根据权利要求8-10中的任一个所述的方法,其特征在于,独立于曝光的所述确定和调整阶段(阶段(iii)和(iv))进行所述运动检测(阶段(ii))。
14.根据权利要求8-10中的任一个所述的方法,其特征在于,为曝光时间(ET)和增益(G)定义特定的标准值,其中所述增益是模拟和/或数字增益(AG,DG)(阶段406,407),所述曝光时间(ET)的标准值中包括ETbsl、ETbsh和ETul在内的至少一些标准值以下述方式取决于所述检测到的运动(C)的量:
1)ETbsl=E1-(E1-E2)*min(C,C1)/C1,其中,
E1=1/100秒......1/25秒,
E2=1/200秒......1/50秒,并且其中E1>E2,
C1=M*N/8......M*N/1,其中,
M=水平方向上的区域的数目,并且
N=垂直方向上的区域的数目,
以及
2)ETbsh=E3-(E3-E4)*min(C,C2)/C2,其中,
E3=ETmax,其中,
ETmax=1/30秒......30秒,
E4=ETbsl,并且其中E3>E4,
C2=M*N/8......M*N/1,其中,
M=水平方向上的区域的数目,并且
N=垂直方向上的区域的数目,
以及
3)ETul=ETbsh+(ETmax-ETbsh)/2
并且相对应地对于所述增益G的标准值:
4)Gnsl=x1......x8,
5)Gnsh=x1......x16,
6)Gmax=x1......x32,
以及Gnsl≤Gnsh≤Gmax,
其中C指的是检测到的运动,ETbsl指的是就运动模糊而言是安全的曝光时间,ETbsh指的是就运动模糊而言是相对安全的曝光时间,ETul指的是曝光时间上限,ETmax指的是最大可获得曝光时间,Gnsl指的是就噪声而言是安全的增益,Gnsh指的是被允许用来防止模糊的最大增益,Gmax指的是最大可能增益。
15.根据权利要求14所述的方法,其特征在于,利用所述总曝光量EV和所定义的标准值(ETbsl,ETbsh,ETmax,ETul,Gnsl,Gnsh以及Gmax)来计算所使用的曝光参数(ET,AG,DG)(阶段408),并且其中所述总曝光量EV和所述曝光参数ET,AG,DG具备下述关系:
EV=ET*G,其中G=AG*DG,
并且其中,
1)在所述总曝光量(EV)的值的范围[0,ETbsl]内,所述增益(G)的系数值被固定为1并且所述曝光时间(ET)被设定为与所述总曝光量相对应的值(EV),
2)在所述总曝光量(EV)的值的范围[ETbsl,ETbsl*Gnsl]内,所述曝光时间(ET)的值被固定为ETbsl且所述增益(G)的系数值被设定为G=EV/ET=EV/ETbsl,
3)在所述总曝光量(EV)的值的范围[ETbsl*Gnsl,ETbsh*Gnsl]内,所述增益(G)的系数值被固定为Gnsl且所述曝光时间(ET)被设定为ET=EV/G=EV/Gnsl,
4)在所述总曝光量(EV)的值的范围[ETbsh*Gnsl,ETbsh*Gnsh]内,所述曝光时间(ET)的值被固定为ETbsh且所述增益(G)的系数值被从值Gnsl增加到值Gnsh,使得G=EV/ET=EV/ETbsh,
5)在所述总曝光量(EV)的值的范围[ETbsh*Gnsh,ETul*Gmax]内,所述曝光时间ET的值被从值ETbsh增加到值ETul,使得ET=ETbsh+((EV-ETbsh*Gnsh)/(ETul*Gmax-ETbsh*Gnsh))*(ETul-ETbsh),并且所述增益(G)的系数值被从值Gnsh增加到值Gmax,使得G=EV/ET,以及
6)如果所需的总曝光量(EV)超过了值ETul*Gmax,则所述曝光时间(ET)的值被固定为ETul,且所述增益(G)的模拟增益(AG)被固定为Gmax,以及使用数字增益(DG)来进行最终的曝光。
16.一种用于进行成像的***(IC),所述***(IC)包括:
使用设定的曝光参数(ET,AG,DG)形成连续的原始图像帧(FRp,FRc)的相机装置(CAM),
确定总曝光量(EV)的装置(11),用于从至少一些所述原始图像帧(FRp,FRc)确定曝光的总曝光量(EV),以及
曝光参数(ET,AG,DG)的调整装置(12),基于所述确定的曝光的总曝光量(EV)来调整所述曝光参数(ET,AG,DG),
其特征在于,所述***(IC)还包括:
用于从至少一些所述原始图像帧(FRp,FRc)检测运动的运动检测装置(13),并且在所述***中,所述曝光参数(ET,AG,DG)被配置为基于所述曝光的总曝光量(EV)和所述检测到的运动被调整,并且所述确定总曝光量(EV)的装置(11)、所述曝光参数(ET,AG,DG)的调整装置(12)以及检测所述运动的所述运动检测装置(13)被配置为作为连续的循环进行工作。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/FI2004/050198 WO2006070046A1 (en) | 2004-12-29 | 2004-12-29 | Exposure of digital imaging |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101095078A CN101095078A (zh) | 2007-12-26 |
CN101095078B true CN101095078B (zh) | 2010-04-28 |
Family
ID=36614537
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2004800447950A Active CN101095078B (zh) | 2004-12-29 | 2004-12-29 | 数字成像的曝光 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8013909B2 (zh) |
EP (1) | EP1831761A1 (zh) |
JP (1) | JP4482037B2 (zh) |
CN (1) | CN101095078B (zh) |
WO (1) | WO2006070046A1 (zh) |
Families Citing this family (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7546026B2 (en) * | 2005-10-25 | 2009-06-09 | Zoran Corporation | Camera exposure optimization techniques that take camera and scene motion into account |
JP5507251B2 (ja) * | 2006-09-25 | 2014-05-28 | クゥアルコム・インコーポレイテッド | カメラの手ぶれ低減システム |
US7697836B2 (en) | 2006-10-25 | 2010-04-13 | Zoran Corporation | Control of artificial lighting of a scene to reduce effects of motion in the scene on an image being acquired |
WO2008075136A1 (en) * | 2006-12-20 | 2008-06-26 | Nokia Corporation | Exposure control based on image sensor cost function |
US7924316B2 (en) * | 2007-03-14 | 2011-04-12 | Aptina Imaging Corporation | Image feature identification and motion compensation apparatus, systems, and methods |
US7920746B2 (en) | 2007-04-23 | 2011-04-05 | Aptina Imaging Corporation | Compressed domain image summation apparatus, systems, and methods |
US8482620B2 (en) | 2008-03-11 | 2013-07-09 | Csr Technology Inc. | Image enhancement based on multiple frames and motion estimation |
KR101438480B1 (ko) * | 2008-04-01 | 2014-09-12 | 삼성전자 주식회사 | 영상 촬상 장치 및 방법 |
JP5476725B2 (ja) * | 2009-01-30 | 2014-04-23 | 株式会社ニコン | 電子カメラ |
US8659670B2 (en) * | 2009-04-20 | 2014-02-25 | Qualcomm Incorporated | Motion information assisted 3A techniques |
US8823808B2 (en) * | 2009-10-27 | 2014-09-02 | Intellectual Ventures Fund 83 Llc | Method for improved digital video image quality |
JP5864880B2 (ja) * | 2011-04-07 | 2016-02-17 | オリンパス株式会社 | 内視鏡装置及び内視鏡装置の作動方法 |
EP2549738B1 (en) | 2011-07-19 | 2013-08-28 | Axis AB | Method and camera for determining an image adjustment parameter |
JP5412692B2 (ja) * | 2011-10-04 | 2014-02-12 | 株式会社モルフォ | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 |
EP2608529B1 (en) | 2011-12-22 | 2015-06-03 | Axis AB | Camera and method for optimizing the exposure of an image frame in a sequence of image frames capturing a scene based on level of motion in the scene |
EP3046319A1 (en) * | 2015-01-19 | 2016-07-20 | Thomson Licensing | Method for generating an HDR image of a scene based on a tradeoff between brightness distribution and motion |
CN105323496B (zh) * | 2015-02-13 | 2019-01-11 | 维沃移动通信有限公司 | 自动曝光方法、拍照装置及移动终端 |
KR101598159B1 (ko) | 2015-03-12 | 2016-03-07 | 라인 가부시키가이샤 | 영상 제공 방법 및 영상 제공 장치 |
US9635276B2 (en) | 2015-06-10 | 2017-04-25 | Microsoft Technology Licensing, Llc | Determination of exposure time for an image frame |
US10354394B2 (en) | 2016-09-16 | 2019-07-16 | Dolby Laboratories Licensing Corporation | Dynamic adjustment of frame rate conversion settings |
KR101816449B1 (ko) | 2016-10-20 | 2018-01-08 | 현대자동차주식회사 | 다시점 카메라의 통합 노출 제어 장치, 그를 포함한 시스템 및 그 방법 |
CN107249104A (zh) * | 2017-06-15 | 2017-10-13 | 武汉云衡智能科技有限公司 | 一种行车记录仪智能相机自动曝光方法 |
CN109462728B (zh) | 2017-09-06 | 2020-01-14 | 浙江宇视科技有限公司 | 码率控制方法、装置、图像采集设备及可读存储介质 |
US10977809B2 (en) | 2017-12-11 | 2021-04-13 | Dolby Laboratories Licensing Corporation | Detecting motion dragging artifacts for dynamic adjustment of frame rate conversion settings |
US11838630B2 (en) * | 2020-06-04 | 2023-12-05 | Canon Kabushiki Kaisha | Image capturing apparatus, control method therefor, and storage medium |
WO2022160294A1 (zh) * | 2021-01-29 | 2022-08-04 | 深圳市大疆创新科技有限公司 | 曝光控制方法、装置及计算机可读存储介质 |
CN114245003B (zh) * | 2021-11-23 | 2023-10-27 | 浙江大华技术股份有限公司 | 曝光控制方法、电子设备及存储介质 |
CN115134492B (zh) * | 2022-05-31 | 2024-03-19 | 北京极光智芯科技有限公司 | 图像采集方法、电子设备和计算机可读介质 |
CN115967861B (zh) * | 2023-03-09 | 2023-06-16 | 杭州涂鸦信息技术有限公司 | 一种图像处理方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5227835A (en) * | 1990-12-21 | 1993-07-13 | Eastman Kodak Company | Teachable camera |
EP0886439A3 (en) * | 1997-06-20 | 2000-02-23 | Samsung Electronics Co., Ltd. | Device and method for controlling shutter speed of a digital still camera |
CN1369736A (zh) * | 2001-02-09 | 2002-09-18 | 佳能株式会社 | 曝光控制装置与曝光控制方法 |
CN1479155A (zh) * | 2003-07-16 | 2004-03-03 | 致伸科技股份有限公司 | 曝光量调整装置与调整方法 |
CN1547074A (zh) * | 2003-12-05 | 2004-11-17 | 一种数字亮度增益与曝光时间协同工作的自动曝光装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3681152B2 (ja) | 1999-02-25 | 2005-08-10 | 株式会社日立国際電気 | テレビカメラの制御方法及びテレビカメラ |
JP3880759B2 (ja) * | 1999-12-20 | 2007-02-14 | 富士通株式会社 | 移動物体検出方法 |
JP3677192B2 (ja) * | 2000-04-19 | 2005-07-27 | シャープ株式会社 | 画像処理装置 |
US6709387B1 (en) | 2000-05-15 | 2004-03-23 | Given Imaging Ltd. | System and method for controlling in vivo camera capture and display rate |
US20030098922A1 (en) * | 2001-11-27 | 2003-05-29 | Creo Il. Ltd. | Precision exposure setting in a digital imaging device |
FI116246B (fi) | 2003-06-30 | 2005-10-14 | Nokia Corp | Menetelmä ja järjestelmä digitaalisessa kuvannuksessa valotuksen säätämiseksi ja vastaava laite |
US8045009B2 (en) * | 2004-05-10 | 2011-10-25 | Hewlett-Packard Development Company, L.P. | Image-exposure systems and methods using detecting motion of a camera to terminate exposure |
-
2004
- 2004-12-29 EP EP04805229A patent/EP1831761A1/en not_active Withdrawn
- 2004-12-29 JP JP2007548847A patent/JP4482037B2/ja active Active
- 2004-12-29 US US11/667,140 patent/US8013909B2/en active Active
- 2004-12-29 CN CN2004800447950A patent/CN101095078B/zh active Active
- 2004-12-29 WO PCT/FI2004/050198 patent/WO2006070046A1/en active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5227835A (en) * | 1990-12-21 | 1993-07-13 | Eastman Kodak Company | Teachable camera |
EP0886439A3 (en) * | 1997-06-20 | 2000-02-23 | Samsung Electronics Co., Ltd. | Device and method for controlling shutter speed of a digital still camera |
CN1369736A (zh) * | 2001-02-09 | 2002-09-18 | 佳能株式会社 | 曝光控制装置与曝光控制方法 |
CN1479155A (zh) * | 2003-07-16 | 2004-03-03 | 致伸科技股份有限公司 | 曝光量调整装置与调整方法 |
CN1547074A (zh) * | 2003-12-05 | 2004-11-17 | 一种数字亮度增益与曝光时间协同工作的自动曝光装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2006070046A1 (en) | 2006-07-06 |
CN101095078A (zh) | 2007-12-26 |
EP1831761A1 (en) | 2007-09-12 |
JP2008526149A (ja) | 2008-07-17 |
JP4482037B2 (ja) | 2010-06-16 |
US20080043112A1 (en) | 2008-02-21 |
US8013909B2 (en) | 2011-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101095078B (zh) | 数字成像的曝光 | |
CN109753903B (zh) | 一种基于深度学习的无人机检测方法 | |
US9858651B2 (en) | Electronic device and method in an electronic device for processing image data | |
CN108322646B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN109688351B (zh) | 一种图像信号处理方法、装置及设备 | |
CN101365070B (zh) | 摄像装置 | |
US20070002152A1 (en) | Digital photographic instrument, method for adjusting focus of digital photographic instrument, and program for digital photographic instrument | |
CN100553301C (zh) | 亮度的修正方法 | |
CN108924427A (zh) | 一种摄像机聚焦方法、装置以及摄像机 | |
CN104637064A (zh) | 一种基于边缘强度权重的离焦模糊图像清晰度检测方法 | |
CN106131418A (zh) | 一种构图控制方法、装置及拍照设备 | |
CN101998053A (zh) | 图像处理方法、图像处理设备和成像设备 | |
CN110602467A (zh) | 图像降噪方法、装置、存储介质及电子设备 | |
US20180048829A1 (en) | Low complexity auto-exposure control for computer vision and imaging systems | |
CN109151329A (zh) | 拍照方法、装置、终端及计算机可读存储介质 | |
CN109286758A (zh) | 一种高动态范围图像的生成方法、移动终端及存储介质 | |
CN106773453B (zh) | 一种照相机曝光的方法、装置及移动终端 | |
KR100910361B1 (ko) | 디지털 이미지화의 노출 | |
CN115037867B (zh) | 拍摄方法、装置、计算机可读存储介质及电子设备 | |
CN111339330B (zh) | 照片处理方法、装置、存储介质及电子设备 | |
US7623179B2 (en) | Storage medium and method to control auto exposure by the same | |
CN106559621A (zh) | 画面亮度的计算方法 | |
CN111724300A (zh) | 单张图片背景虚化方法、装置及设备 | |
CN112489144B (zh) | 图像处理方法、图像处理装置、终端设备及存储介质 | |
JP2002300468A (ja) | 撮像装置及びその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C41 | Transfer of patent application or patent right or utility model | ||
TR01 | Transfer of patent right |
Effective date of registration: 20160121 Address after: Espoo, Finland Patentee after: Technology Co., Ltd. of Nokia Address before: Espoo, Finland Patentee before: Nokia Oyj |