CN103141081B - 高动态范围图像传感器 - Google Patents
高动态范围图像传感器 Download PDFInfo
- Publication number
- CN103141081B CN103141081B CN201180046572.8A CN201180046572A CN103141081B CN 103141081 B CN103141081 B CN 103141081B CN 201180046572 A CN201180046572 A CN 201180046572A CN 103141081 B CN103141081 B CN 103141081B
- Authority
- CN
- China
- Prior art keywords
- sample
- time
- pixel cell
- cell signal
- exposure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
- H04N25/587—Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
- H04N25/589—Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
Abstract
本发明描述用于通过在将样本与另一样本组合之前将可变加权因子应用于所述样本来产生高动态范围图像的技术。在一个实例中,一种方法包含:在第一时间对第一像素单元信号进行取样以产生第一样本;在第二时间对第二像素单元信号进行取样以产生第二样本;将可变加权因子应用于所述第二样本,其中所述可变加权因子是基于函数而界定;以及将所述第一样本与所述经加权第二样本组合。
Description
技术领域
本发明涉及图像传感器,且明确地说,涉及用于产生高动态范围图像的技术。
背景技术
场景的动态范围由所述场景的最高与最低光级的比率决定。传感器的动态范围由场景中不使传感器饱和的最高光级与可由传感器检测的最低光级(即,高于噪声下限)的比率决定。场景的动态范围可为(例如)100,000∶1,而传感器的动态范围可为(例如)100∶1。当场景的动态范围超过传感器的动态范围时,最高光级和最低光级的区中的细节被丢失。
可以使得传感器的动态范围涵盖尽可能多的有用光级的方式来调整曝光。曝光无法增加传感器的动态范围。然而,与单次曝光原本将可能的情况相比,组合场景的两次或两次以上不同曝光可准许捕获场景的较高动态范围。
相对于组合不同曝光以产生场景的HDR图像,各种传感器制造商已使用了各种技术来克服成像传感器的动态范围能力。一些技术提供软件解决方案,其使不同曝光时间的两个图像对准,以便形成比原本将可能的动态范围图像高的动态范围图像。其它技术提供硬件解决方案(例如,经修改的传感器),以捕获场景的两个图像,其将对准以形成较高动态范围图像。
发明内容
一般来说,本发明描述用于通过在将样本与另一样本组合之前将可变加权因子应用于所述样本来产生高动态范围图像的技术。一种图像传感器可在两个或两个以上不同曝光时间对像素单元信号进行取样,以便产生两个或两个以上样本,其可组合以产生高动态范围图像。然而,长曝光时间可导致所述像素单元的光敏半导体变为饱和。在组合所述两个或两个以上样本之前,可将可变加权因子应用于由所述长曝光时间产生的信号,以便减少或消除饱和光敏半导体的贡献。
在一个实例中,本发明是针对一种方法,其包括:在第一时间对第一像素单元信号进行取样以产生第一样本;在第二时间对第二像素单元信号进行取样以产生第二样本;将可变加权因子应用于所述第二样本,其中所述可变加权因子是基于函数而界定;以及将所述第一样本与所述经加权第二样本组合。
在另一实例中,本发明是针对一种***,其包括图像传感器,所述图像传感器包括多个像素单元以及控制器,所述控制器在第一时间从所述多个像素单元中的至少一者对第一像素单元信号进行取样以产生第一样本,且在第二时间从所述多个单元中的至少一者对第二像素单元信号进行取样以产生第二样本。所述***进一步包括处理器,其将可变加权因子应用于所述第二样本,其中所述可变加权因子是基于函数而界定,且将所述第一样本与所述经加权第二样本组合。
在另一实例中,本发明是针对一种***,其包括:用于在第一时间对第一像素单元信号进行取样以产生第一样本的装置;用于在第二时间对第二像素单元信号进行取样以产生第二样本的装置;用于将可变加权因子应用于所述第二样本的装置,其中所述可变加权因子是基于函数而界定;以及用于将所述第一样本与所述经加权第二样本组合的装置。
在另一实例中,本发明是针对一种计算机可读媒体,其包括指令,所述指令在由一个或一个以上处理器执行时,致使所述一个或一个以上处理器:在第一时间对第一像素单元信号进行取样以产生第一样本;在第二时间对第二像素单元信号进行取样以产生第二样本;将可变加权因子应用于所述第二样本,其中所述可变加权因子是基于函数而界定;且将所述第一样本与所述经加权第二样本组合。
在附图及下文描述中陈述本发明的一个或一个以上实例的细节。其它特征、目标及优势将从描述及附图和从权利要求书中显而易见。
附图说明
图1是可用以实施本发明的技术的实例像素单元的示意图。
图2是根据本发明的技术的可用于组合方案中的组合曲线的实例图表。
图3是可用以实施本发明的技术的图像传感器的框图。
图4是可用以实施本发明的技术的另一图像传感器的框图。
图5是可用以实施本发明的技术的另一图像传感器的框图。
图6描绘说明根据本发明的技术的来自偶数和奇数编号线的短和长曝光时间样本的组合的概念图。
图7是说明可用以实施本发明的技术的实例方法的流程图。
图8是说明可用以实施本发明的技术的另一实例方法的流程图。
图9是说明可用以实施本发明的技术的另一实例方法的流程图。
图10是说明可用以实施本发明的技术的另一实例方法的流程图。
具体实施方式
本发明描述用于通过在将样本与另一样本组合之前将可变加权因子应用于所述样本来产生高动态范围(HDR)图像(例如,静止图像和视频图像)的技术。HDR图像指代具有比标准成像技术产生的图像的动态范围大的动态范围(例如,图像中的最高强度光级相对于最低强度光级的比率)的图像。一个实例HDR成像技术组合以不同曝光时间捕获的图像,以创建具有比从所述曝光时间中的任一者产生的图像的动态范围大的动态范围的组合图像。本发明提供在组合图像之前将可变加权因子应用于以不同曝光时间捕获的图像中的一者以便产生HDR图像的技术。
图1是可用以实施本发明的技术的实例图元(“像素”)单元的示意图。在图1中,实例像素单元10包括光敏半导体12;开关14、16和18;电容器20;以及晶体管22、24。举例来说,开关14、16和18可为晶体管。电容与光敏半导体12相关联,如由等效电容器28(由虚线展示)指示。光敏半导体12的阴极通过开关14连接到电压源VDD,且光敏半导体12的阳极连接到参考电压Vss,其可为接地或小于电压源VDD的其它电位。因此,光敏半导体12经逆向加偏压,因为其在节点30处的阴极处于比其阳极高的电位。
晶体管22的栅极通过开关16连接到光敏半导体12的阴极。晶体管22的栅极还通过开关18连接到电容器20。晶体管22的漏极连接到电压源VDD,且晶体管22的源极连接到晶体管24的漏极。晶体管24的栅极26连接到行选择驱动器电路,如下文更详细地描述。晶体管24的源极连接到像素单元输出线32。
应注意,尽管将晶体管22和24描绘为不附接有相应块体的增强模式金属氧化物半导体场效晶体管(MOSFET),但大量其它配置是可能的。另外,尽管下文将晶体管22和24描述为n-MOS型晶体管,但在其它实例配置中,晶体管22和24可为p-MOS型晶体管。
光敏半导体12(例如,光电二极管)是将来自入射光的光子转换为电荷的装置。在其中光敏半导体12暴露于光的时间周期(即,积分时间)期间,来自入射光的光子致使光敏半导体在光敏半导体的区内产生电荷载流子。所产生的电荷载流子的量与入射光的量成比例。随着光强度增加,所产生的电荷载流子的量增加。如果电荷载流子的量不能再随着入射光的量增加而增加,那么光敏半导体可变为“饱和”。应了解,一旦光敏半导体变为饱和,其就不再是入射光的量的准确指示符。由此,饱和的光敏半导体具有很少有价值信息。
如上文所提到且如图1中的参考编号28处所示,光敏半导体12(例如,光电二极管)具有等效电容。在暴露于光之前,可使像素单元10复位到初始电压。明确地说,例如,可使光敏半导体12及其等效电容28复位到初始电压VDD。在图1中所描绘的实例中,可闭合复位开关14,以便使图1的像素单元10复位。闭合复位开关14将节点30(且明确地说,光敏半导体12及其等效电容器28)连接到供应电压VDD。尽管图1描绘像素单元10正复位到供应电压VDD,但在其它实例中,像素单元10可包含第二电压,类似于或不同于充当用于像素单元10的专用复位电压的供应电压VDD。闭合复位开关14从光敏半导体12中汲取电荷,且将等效电容器28充电到已知电压VDD。另外,开关16和18在复位时闭合,这可致使电容器20变为充电到已知电压VDD。
在像素单元10复位之后,复位开关14以及开关16和18断开,且光敏半导体12在暴露于光后即刻开始将光子转换为电荷。在暴露于光后(即,在其积分时间开始时),光敏半导体12开始产生电荷载流子。因为光敏半导体12经逆向加偏压,所以光电流将开始从光敏半导体12的阴极流向阳极。光电流与入射光的量成比例。随着光强度增加,由光敏半导体12产生的电荷载流子的量增加,从而增加光电流。光电流开始使等效电容器28放电。
像素单元10可用以在第一时间(例如,短曝光时间)对第一像素单元信号进行取样,且在第二时间(例如,长曝光时间)对第二像素单元信号进行取样。在短曝光时间(例如,Tshort)之后,像素单元10可通过闭合开关16和18而对来自光敏半导体12的第一信号进行取样。控制器(例如,图3的控制器54)闭合开关16和18以将来自光敏半导体12(且明确地说,其等效电容器28)的短曝光时间电荷传送到电容器20。在足以完成电荷从光敏半导体12到电容器20的传送的时间之后,控制器(例如,图3的控制器54)断开开关16和18,从而经由电容器20捕获表示在时间Tshort期间入射在光敏半导体12上的光的量的电压。以此方式,电容器20收集短曝光时间样本。
同时,光可继续撞击光敏半导体12。入射光可继续在光敏半导体12中产生电荷载流子,从而进一步使等效电容器28放电。在长曝光时间(例如,Tlong)之后,其中Tlong>Tshort,长曝光时间样本由等效电容器28上剩余的电压表示。此时,可通过闭合开关16且将行选择信号施加到晶体管24的栅极26(下文更详细地描述)来读出长曝光时间样本。控制器(例如,图3的控制器54)闭合开关16,且将行选择信号施加到晶体管24的栅极26以接通晶体管22和24。接着经由穿过晶体管22和24的线32从像素单元10(且明确地说,等效电容器28)读出表示长曝光时间样本的电压。
在读出长曝光时间样本之后,可读出存储在电容器20中的短曝光时间样本。可通过断开开关16、闭合开关18且将行选择信号施加到晶体管24的栅极26来读出短曝光时间样本。闭合开关18且将行选择信号施加到晶体管24的栅极26接通晶体管22和24。接着经由线32从像素单元10读出存储在电容器30上的电压(其表示短曝光时间样本)。所读出的电压大约等于电容器30上的电压减晶体管22和24的阈值电压。
在一些实施方案(例如,使用互补MOS(CMOS)图像传感器的实施方案)中,可希望执行关联双重取样。可通过使用关联双重取样来减少或消除一些类型的噪声,例如固定模式噪声(FPN)。就是说,因为贯穿阵列的光敏半导体是不同的,因此可使用关联双重取样来减少或消除阵列中的光敏半导体上的不均匀性。图像传感器上的控制器(例如,图3的控制器54)可通过闭合开关14来执行关联双重取样,从而使像素单元10复位到参考电压VDD,且接着在像素单元已复位之后,对像素单元的输出电平进行取样。就是说,在已读出像素单元值之后,控制器可对像素单元(例如,像素单元10)的复位值进行复位、取样和读出。接着,控制器可将像素单元的复位值从信号样本的值减去,以便提供所述信号的更准确表示。
根据本发明的技术,可在将可变加权因子应用于长曝光时间样本之后,通过处理器来组合短曝光时间样本与长曝光时间样本。通过应用由处于长曝光时间样本的值的函数界定的可变加权因子,可改进由两个不同曝光时间提供的动态范围。明确地说,如果像素单元在长曝光时间之后饱和,那么长曝光时间样本的贡献在短曝光时间样本与长曝光时间样本的组合期间可由加权因子减少或消除。如上文所提到,如果光敏半导体变为饱和,那么其不再是入射光的量的准确指示符。由此,饱和的光敏半导体具有很少有价值信息。然而,在短曝光时间期间,像素单元不可能饱和。因此,短曝光时间样本有可能具有比饱和或过度曝光的长曝光时间样本多的有价值信息。
为了减少或消除长曝光时间样本与短曝光时间样本的组合期间长曝光时间样本的贡献,可使用以下组合方案:
(1)M(i,j)=C(SLONG(i,j))
(2)SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i+H(i,j),j+V(i,j))*(1-M(i,j))
其中SCOMBINED是位于(i,j)的像素单元的短曝光时间样本SSHORT(i,j)与长曝光时间样本SLONG(i,j)的组合,C( )是组合曲线,其开始于值一,且随着长曝光时间样本SLONG(i,j)变为饱和而减小到值零,M(i,j)是由C( )加权的长曝光时间样本SLONG(i,j)的标度值,n是取决于短曝光时间(TSHORT)与长曝光时间(TLONG)之间的曝光时间的差的标度值,且等于TLONG/TSHORT,且H(i,j)和V(i,j)分别是水平和垂直对准变量,其对于补偿其中依序进行两次曝光的实施方案中的相机运动和/或对象运动可为必要的。
在其中连续而不是依序进行两次曝光的实例实施方案中,H(i,j)和V(i,j)等于零,且以上等式(2)可减少为以下:
(3)SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i,j)*(1-M(i,j))
如上文所提到,等式(2)和(3)中的长曝光时间样本SLONG(i,j)可由标度值n修改。标度值n可包括短曝光时间与长曝光时间的比率。可使用标度值n,以便通过使两个样本达到共同基础来标准化长曝光时间样本SLONG(i,j)和短曝光时间样本SSHORT(i,j)。换句话说,由等式(2)和(3)描述的组合方案调整了值n,使得对象在两个图像组合之前出现在所述两个图像中的同一水平处。举例来说,假定场景的帧的一半具有100lux的光度值,且另一半具有1000lux的光度值。所述帧具有光度比率10∶1。进一步假定SSHORT对应于所述帧的1000lux部分,SLONG对应于所述帧的100lux部分,长曝光时间TLONG等于一秒,且短曝光时间TSHORT等于0.1秒。为了组合两个不同曝光时间样本,1000lux的短曝光时间样本必须按比例缩小到100lux的长曝光时间样本。处理器(例如,图3的处理器76)可使短曝光时间样本SSHORT乘以曝光时间的比率(例如,TLONG/TSHORT),以标准化短曝光时间样本SSHORT,以便考虑曝光时间的差异。
除饱和之外,像素单元的“噪声下限”(即,在不存在入射光的情况下由像素单元产生的低电平信号)是减小动态范围时的因子。依据噪声下限,短曝光时间样本SSHORT(i,j)和长曝光时间样本SLONG(i,j)可以信噪比(SNR)高效方式组合。就是说,如果样本具有低于像素单元本身的SNR的值,那么可丢弃所述样本。
图2是根据本发明的技术的可用于组合方案中的组合曲线(即,C())的实例图表。图2中描绘的图表的x轴表示在长曝光时间之后位于像素单元阵列上的空间位置(i,j)处的像素单元的亮度值。图2中描绘的图表的y轴表示如由大体在40处展示的组合曲线C( )界定的SLONG(i,j)的经加权值M(i,j)。
如果位于(i,j)处的像素单元在长曝光时间期间未暴露于光,那么SLONG(i,j)的值为零。如果位于(i,j)处的像素单元在长曝光时间之后饱和,那么SLONG(i,j)的值处于最大值,例如,对于八位实施方案为255。如图2中所见,随着SLONG(i,j)的值增加,M(i,j)的值保持在值“1”,直到SLONG(i,j)值为约210为止。组合曲线C( )开始在约210和约230的SLONG(i,j)值之间急剧减小,直到经加权值M(i,j)在SLONG(i,j)值为约230时达到值“0”为止。在约210和约230的SLONG(i,j)值之间,经加权值M(i,j)可为介于“0”与“1”之间的值。举例来说,在SLONG(i,j)值为约220时,经加权值M(i,j)约为0.5。
作为一个实例,如果位于(i,j)处的像素单元饱和,那么SLONG(i,j)=255(对于八位实施方案),且M(i,j)=C(SLONG(i,j))=C(255)=0。参考等式(3),SCOMBINED(i,j)=n*SLONG(i,j)*0+SSHORT(i,j)*(1)=SSHORT(i,j)。因此,使用上文描述的组合方案,可将饱和样本SLONG(i,j)的贡献从组合值SCOMBINED(i,j)中完全去除。
如等式(2)和(3)中所见,基于SLONG(i,j)的饱和等级对组合结果SCOMBINED(i,j)进行加权。如果位于(i,j)处的像素单元在长曝光时间之后完全饱和,那么M(i,j)=0,且SLONG(i,j)对组合结果SCOMBINED(i,j)不具有影响。如上文所提到,饱和像素单元具有很少有价值信息,且可从组合结果SCOMBINED(i,j)去除,以便完全利用由两个不同曝光时间样本(即,SSHORT(i,j)和SLONG(i,j))提供的动态范围增加的益处。如果位于(i,j)处的像素单元在长曝光时间之后不接近饱和(例如,在图2中SLONG(i,j)小于约200),那么M(i,j)=1,且仅长曝光时间样本SLONG(i,j)具有影响。
图2中的40处描绘的实例组合曲线C( )包含三个区段42、44和46。在其它实例中,组合曲线C( )可具有更多或更少区段。如图2中所见,组合曲线C( )可大体上被视为随着长曝光时间样本SLONG(i,j)的值增加而衰减的函数。在其它实例中,组合曲线C( )可较不急剧地衰减。
上文描述了对应于区段42(其中M(i,j)=1)和区段46(其中M(i,j)=0)的两个极端情况。在这两个极端处,SLONG(i,j)或SSHORT(i,j)的贡献分别从组合值SCOMBINED(i,j)完全去除。然而,如果长曝光时间样本SLONG(i,j)的值对应于区段44,那么0<M(i,j)<1。因此,组合值SCOMBINED(i,j)将包含长曝光时间样本SLONG(i,j)和短曝光时间样本SSHORT(i,j)两者的贡献。如图2中所见,随着长曝光时间样本SLONG(i,j)的值增加,经加权值M(i,j)减小,且根据等式(2)和(3),长曝光时间样本SLONG(i,j)对组合值SCOMBINED(i,j)的贡献减小。
通过在本发明所述的组合方案中使用可变加权函数(例如,图2中描绘的函数C( )),可使传感器的动态范围可变且可编程。每个像素单元可具有不同的经加权值M(i,j),其根据所述特定像素单元的长曝光时间样本值SLONG(i,j)的值而变。不同于其中传感器的动态范围基于用以构造传感器的电容器的值而固定的其它图像传感器,使用本发明的技术,动态范围是可适应的(例如,对于特定场景)。举例来说,可能希望将数字相机设定为针对特定场景具有四个f制光圈(f制光圈是数字相机的动态范围的量度)。可调整曝光时间以提供四个f制光圈,且接着可组合来自两次曝光时间的两个样本。
如上文所提到,可使用大量组合曲线来组合不同曝光时间的图像,且由此,本发明不限于图2中所描绘的组合曲线,或上文的描述。在一个实例中,可根据以下三个指导方针中的一者或一者以上来产生组合曲线。第一,组合曲线可与图像层级有关。可结合可比较结果而使用两个图像中的任一者,但两个曲线将不同。第二,与噪声较多的图像相比,组合曲线可较重地加权噪声较少的图像。举例来说,与SSHORT相比,可较重地加权可能具有比短曝光时间样本SSHORT(i,j)少的噪声的长曝光时间样本SLONG。然而,在一些实例中,可使用等增益组合,而不是与一个图像相比较重地加权另一图像。第三,组合曲线可单调减小。
存在可基于事先知道关于图像噪声统计的多少信息而满足上述指导方针的若干组合方法。在第一实例方法中,可使用曲线是0还是1的选择组合。推理是如果长曝光图像层级不接近饱和,那么可完全使用长曝光时间图像,且如果长曝光图像接近饱和,那么可完全使用短曝光时间图像。
在第二实例组合方法中,可使用先前知识来基于图像层级对噪声统计进行建模,且利用其中每一图像与其噪声电平成反比的方式按比例缩放的最大比率组合。在此实例中,可使用第一实例方法的增强版本,针对其而使从1到0的过渡较平缓。可使用以下等式产生一个组合曲线C(L):
其中L是与SLONG(i,j)相关联的亮度值,例如R、G、B分量的组合,如(R+G+B)/2、max(R,G,B)等,且在8位实施方案中具有值0到255,其中T是控制组合曲线的过渡点的亮度值范围中的阈值(例如,在图2中所示的实例曲线中,T=220),其中Δ是控制组合曲线的过渡范围的L的范围内的范围(例如,在图2中所示的实例曲线中,Δ=30),且其中K是控制组合曲线的过渡区的斜率的数字(例如,在图2中所示的实例曲线中,K=10)。
应注意,特定场景可能需要最小动态范围。使用本发明的技术,可减小成像传感器的动态范围以改进传感器的噪声特性。收集和组合近似相等的曝光时间(即,TLONG约等于TSHORT)的两个样本可减少噪声。当组合时,噪声可在两个样本之间平均,且因此可显著减少。
图3是可用以实施本发明的技术的实例图像传感器的框图。尽管图3的图像传感器50为互补MOS (CMOS)图像传感器,但本发明中描述的信号组合技术也适用于其它图像传感器,包含(例如)电荷耦合装置(CCD)图像传感器。
如图3中所见,图像传感器50包含像素单元阵列52,其包括大量像素单元10。像素单元阵列52可以像素单元10的M个行和N个列布置,如图3中所示。像素单元阵列52的每一像素单元10可由行和列地址寻址。举例来说,为了存取位于像素单元阵列52的左下角(行M,列N)的像素单元,控制器54向行地址解码器56提供所要像素单元的行(例如,行M)的数字地址。行地址解码器56对接收到的行地址进行解码,且将“行选择”信号输出到行驱动器58,以将电压施加到行M,从而选择行M中的每一像素单元10,例如通过将电压施加在图1中的晶体管24的栅极26上。控制器54还向列地址解码器60提供所要像素单元的列(例如,列N)的数字地址。列地址解码器60对接收到的列地址进行解码,并将“列选择”信号输出到列驱动器62,以将电压施加到列N,从而选择列N中的每一像素单元10。以此方式,可选择行M、列N处的像素单元10,并读出其电压。控制器54可包含一个或一个以上微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑,或适合于处理计算机代码以促进执行本发明中描述的功能的其它处理器布置。
在由控制器54读出后,通过取样和保持(S/H)电路70来取样和保持(例如)行M、列N处的像素单元10的电压。通过处理电路72对模拟信号执行处理,例如黑电平补偿、噪声减少(例如,临时噪声和FPN),以及放大。
在已经由处理电路72对模拟信号进行黑电平补偿、噪声减少和放大之后,经由模/数转换器(ADC)74将来自像素单元10的模拟信号量化为数字值。接着将数字值输入到处理器76中。根据本发明中所描述的技术,特定参考上文的等式(1)到(3),处理器76可针对每一像素单元组合短曝光时间样本SSHORT与长曝光时间样本SLONG。
在一些实例中,处理器76可执行指令,以便执行本发明中所描述的功能。所述指令可存储在存储器78中。处理器76可包含一个或一个以上微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、离散逻辑,或适合于处理计算机代码以促进执行本发明中描述的功能的其它处理器布置。存储在存储器78中的可执行指令可包括编码在计算机可读媒体中的计算机可读指令,所述计算机可读媒体例如为随机存取存储器(RAM)、同步动态随机存取存储器(SDRAM)、只读存储器(ROM)、非易失性随机存取存储器(NVRAM)、电可擦除可编程只读存储器(EEPROM)、快闪存储器、磁性或光学数据存储媒体等。
继续以上实例,处理器76接收行M、列N处的像素单元10的数字化像素单元值。明确地说,处理器76从像素单元(m,n)接收长曝光时间样本SLONG(m,n)的数字值以及短曝光时间样本SSHORT(m,n)的数字值。根据本发明的技术,处理器76可组合来自像素单元(m,n)的长曝光时间样本SLONG(m,n)与短曝光时间样本SSHORT(m,n)的数字值。
处理器76可针对长曝光时间样本SLONG(m,n)计算、获得或以其它方式获取可变加权因子M(m,n),其中通过评估SLONG(m,n)处的C()或C(SLONG(m,n))来确定M(m,n)。在一个实例中,组合曲线C( )可由一个或一个以上等式界定。界定组合曲线C( )的每一等式可(例如)取决于所要动态范围,例如f制光圈值。举例来说,用户可能已选择某一f制光圈值来实现所要动态范围,其又对应于可从存储器78检索的特定组合曲线C( )。
使用长曝光时间样本SLONG(m,n)的所接收数字值,处理器76可通过针对值SLONG(m,n)处的所要动态范围评估界定例如从存储器78检索的组合曲线C( )的特定等式来确定可变加权因子M(m,n)的值。举例来说,假定像素单元10在长曝光时间样本SLONG(m,n)处饱和。不管实施方案中的位的数目如何,如果图2中描绘的组合曲线由处理器76使用,那么所得的可变加权因子M(m,n)为零。
在确定可变加权因子M(m,n)后,处理器76可即刻根据本发明中所描述的技术,在根据以上等式(2)到(3)应用可变加权因子M(m,n)之后,组合短曝光时间样本SSHORT(m,n)与长曝光时间样本SLONG(m,n)。举例来说,假定连续而不是依序地进行曝光,可使用等式(3):SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i,j)*(1-M(i,j))。此外,因为像素单元10在长曝光时间样本SLONG(m,n)处变为饱和,所以可变加权因子M(m,n)为零,如通过评估长曝光时间样本SLONG(m,n)处的组合曲线C( )或界定组合曲线C( )的等式来确定。因此,SCOMBINED(m,n)=SLONG(m,n)*0+n*SSHORT(m,n)*(1)=n*SSHORT(m,n)。换句话说,如果像素单元饱和,那么组合值SCOMBINED仅为由两个曝光时间的比率(TLONG/TSHORT)调整的短曝光时间样本SSHORT的值。
作为另一实例,假定像素单元10不在长曝光时间样本SLONG(m,n)处变为饱和,而是长曝光时间样本SLONG(m,n)具有值10。如果图2中描绘的组合曲线由处理器76使用,那么所得可变加权因子M(m,n)为一,如通过SLONG(m,n)的值10对应于组合曲线C( )的区段42的事实可见。
在确定可变加权因子M(m,n)后,处理器76在应用可变加权因子M(m,n)之后,组合短曝光时间样本SSHORT(m,n)与长曝光时间样本SLONG(m,n)。此外,假定连续而不是依序地进行曝光,可使用等式(3):SCOMBINED(i,j)=SLONGG,j)*M(i,j)+n*SSHORT(i,j)*0-M(i,j))。可变加权因子M(m,n)具有值“1”,如通过评估长曝光时间样本SLONG(m,n)处的组合曲线C( )或界定组合曲线C( )的等式所确定。因此,SCOMBINED(m,n)=SLONG(m,n)*1+n*SSHORT(i,j)*0。换句话说,组合值SCOMBINED为长曝光时间样本SLONG的值,其可能具有比短曝光时间样本SSHORT(i,j)少的噪声。
作为另一实例,假定像素单元10在长曝光时间样本SLONG(m,n)处未饱和,而是长曝光时间样本SLONG(m,n)针对8位实施方案具有亮度值220。如果图2中所描绘的组合曲线由处理器76使用,那么所得可变加权因子M(m,n)为0.5,如通过SLONG(m,n)的亮度值220在可变加权因子M(m,n)值0.5处与区段44中的组合曲线C()相交的事实所见。
在确定可变加权因子M(m,n)后,处理器76在应用可变加权因子M(m,n)之后,组合短曝光时间样本SSHORT(m,n)与长曝光时间样本SLONG(m,n)。此外,假定连续而不是依序地进行曝光,可使用等式(3):SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i,j)*(1-M(i,j))。可变加权因子M(m,n)可为0.5,如通过评估长曝光时间样本SLONG(m,n)处的组合曲线C( )或界定组合曲线C( )的等式所确定。因此,SCOMBINED(m,n)=SLONG(m,n)*0.5+n*SSHORT(i,j)*0.5。换句话说,组合值SCOMBINED确实是长曝光时间样本与短曝光时间样本两者的组合,因为两个样本的一部分用以计算组合值SCOMBINED。
在其它实例实施方案中,每一组合曲线C( )可以一个或一个以上查找表的形式存储在存储器(例如,存储器78)中。在此实施方案中,处理器76可存取对应于存储在存储器78中的特定组合曲线C( )的特定查找表,且针对SLONG(i,j)的给定值,检索可变加权因子M(i,j)的值。
图4是可用以实施本发明的技术的另一图像传感器的框图。图4中描绘的实例图像传感器100的一些方面类似于图3中描绘的图像传感器,且将不再详细描述。与图3形成对照,图4描绘两个ADC 74A、74B。为了简单起见,图3的ADC 74在图4中表示为74A和74B。ADC74A为用于转换短曝光时间样本SSHORT(i,j)的专用ADC,且ADC 74B是用于转换长曝光时间样本SLONG(i,j)的专用ADC。在分别通过ADC 74A和ADC 74B转换短曝光时间样本SSHORT(i,j)和长曝光时间样本SLONG(i,j)之后,将ADC 74A和ADC74B的输出输入到处理器76中。在接收到经转换样本后,处理器76即刻根据上文参考等式(1)到(3)所述的技术来组合所述样本。
如图4中所示,使用两个ADC的实例图像传感器配置可用于实施本发明的技术,因为如上文详细描述,针对每一像素单元读出两个样本,即短曝光时间样本SSHORT(i,j)和长曝光时间样本SLONG(i,j)。具有并行ADC(一者用于转换短曝光时间样本,且另一者用于转换长曝光时间样本)的图像传感器配置可通过允许大体上同时转换每一像素单元的短曝光时间样本和长曝光时间样本来改进通过量。尽管图4的实例图像传感器配置与图3中所描绘的图像传感器配置相比可能要求有额外电路,但此额外电路在一些实施方案(例如,CMOS背侧照明配置)中可添加在像素单元后面,而不干扰像素单元的光捕获表面积。换句话说,额外电路将不减小像素单元的填充因子,即光敏半导体的面积相对于像素单元的面积。
图5是可用以实施本发明的技术的另一图像传感器的框图。图5中描绘的实例图像传感器120的一些方面类似于图3中描绘的图像传感器,且将不再详细描述。图5中的图像传感器与图4中的图像传感器的相似之处在于并行使用两个ADC,一者用于转换短曝光时间样本SSHORT(i,j),且另一者用于转换长曝光时间样本SLONG(i,j),这可改进处理器76的通过量。除并行ADC 74A和74B之外,图5中描绘的实例配置进一步包含并行取样和保持电路(70A和70B),以及并行黑电平补偿、噪声减少和放大电路(72A和72B),其在一些例子中可进一步改进处理器76的信号通过量。图5中描绘的配置包含开关80,其用于指导短曝光时间样本SSHORT(i,j)以通过82处大体指示的电路进行处理,且指导长曝光时间样本SLONG(i,j)以通过84处大体指示的电路进行处理。在分别通过ADC 74A和ADC 74B转换短曝光时间样本SSHORT(i,j)和长曝光时间样本SLONG(i,j)之后,将ADC74A和ADC 74B的输出输入到处理器76中。在接收到经转换的样本后,处理器76根据上文特定参考等式(1)到(3)所述的技术来组合所述样本。
应注意,为了简单起见,上文已相对于组合仅两个样本(短曝光时间样本SSHORT(i,j)与长曝光时间样本SLONG(i,j))描述了本发明的技术。然而,本发明的技术不限于此。相反,本发明中所描述的组合方案可用以组合来自不同曝光时间的两个以上(例如,五个)样本。举例来说,为了取得非常亮的对象(例如,太阳)的图片,将需要宽的动态范围。由此,为了实现所述动态范围,两个以上图像可为必要的。为此,可使用上文所述的可变加权技术来收集和组合多个样本。
贯穿本发明而描述的组合方案可使用多种成像技术来实施以产生HDR图像。在一个实例技术中,可使像素单元阵列(例如,图3的像素单元阵列52)的偶数编号线曝光第一曝光时间(例如,时间=t/2),且可使所述像素单元阵列的奇数编号线曝光不同于第一曝光时间的第二曝光时间(例如,时间=2t)。两个不同曝光时间可对准,使得其在同一时间(例如,大体上同时)结束。接着,可组合两次曝光以产生图像,所述图像为两个经垂直向下取样的图像。
继续以上实例,可构造并布置像素单元阵列的奇数和偶数线,使得其可独立控制。对图像进行向下取样或向上取样,以便针对两个不同曝光时间产生像素单元阵列上的每一空间位置的值。举例来说,尽管仅偶数编号的线曝光第一曝光时间,且因此仅针对偶数编号的线收集第一曝光时间样本,但可通过对针对偶数编号的线收集的样本进行向下取样或向上取样来针对奇数编号的线上的光敏半导体中的每一者产生第一曝光时间样本。类似地,尽管仅奇数编号的线曝光第二曝光时间,且因此仅针对奇数编号的线收集第二曝光时间样本,但可通过对针对奇数编号的线收集的样本进行向下取样或向上取样来针对偶数编号的线上的光敏半导体中的每一者产生第二曝光时间样本。因此,通过对在第一曝光时间内从偶数编号的线收集的样本进行向下取样和向上取样中的一者来产生多个奇数编号的线中的每一者中的多个空间位置中的每一者的第一曝光时间样本,且通过对在第二曝光时间内从奇数编号的线收集的样本进行向下取样和向上取样中的一者来产生多个偶数编号的线中的每一者中的多个空间位置中的每一者的第二曝光时间样本。使用贯穿本发明而描述的技术,例如使用等式(1)到(3)来组合短曝光时间样本与长曝光时间样本。这些样本的组合可产生已经向上取样的半分辨率图像或全分辨率图像。
图6描绘说明使用上文所述技术对来自偶数和奇数编号线的短和长曝光时间样本组合的概念图。图6中150处所描绘的图像说明具有偶数和奇数编号线以及短和长曝光时间控制的传感器帧平面。针对奇数编号线收集长曝光时间(例如,第二曝光时间)样本,且在152处进行描绘。长曝光时间已致使153处的像素单元变为饱和。针对偶数收集短曝光时间(例如,第一曝光时间)样本,且在154处进行描绘。接下来,对针对奇数和偶数编号线而收集的样本进行向上取样。将来自奇数编号线的长曝光时间样本向上取样到所要帧大小(156处展示),但157处的像素单元保持饱和。将来自偶数编号线的短曝光时间样本向上取样到所要帧大小,展示于158处。最后,使用贯穿本发明而描述的组合技术来组合第二曝光时间图像156与第一曝光时间图像以产生全分辨率图像,展示于160处。在组合图像160中,161处的像素单元不再饱和。
可经由外部处理器在传感器上或传感器外组合两个图像。一般来说,传感器上或传感器外的组合之间的主要差异在于需要的额外存储器的量。传感器上的组合可允许样本的较快读出,从而减少等待时间。另外,传感器上的组合可允许减少的数据传送,例如减少的带宽。举例来说,如果组合不是在传感器上执行,那么可需要从传感器读出两个帧,例如,短曝光时间帧和长曝光时间帧。为了保持同一帧速率(例如,针对视频应用程序),数据速率必须加倍以便适应两个帧的读出。然而,如果组合是在传感器上执行,那么在一个帧持续时间内组合并读出长曝光时间帧和短曝光时间帧。
举例来说,在上文所述的实施方案中,其中像素单元阵列的偶数编号线在第一曝光时间曝光,且像素单元阵列的奇数编号线可在不同于第一曝光时间的第二曝光时间曝光,可在传感器上执行长曝光时间样本与短曝光时间样本的组合。为了在传感器上组合样本,额外存储器(例如,线缓冲器)可为必要的。在此实施方案中,整个偶数线可在短曝光时间读出、经由A/D转换器转换,且存储在存储器中。接着,整个奇数线可在长曝光时间读出,且经由A/D转换器转换。处理器可从存储器检索用于偶数线的值,使用本发明中所述的组合技术将其与用于奇数线的经转换值组合,且接着输出单个组合图像。此外,使用此传感器上方案可以额外存储器要求为代价减少成像处理管线所需的带宽。
上文相对于传感器上组合描述了图1中所示的实施方案。然而,图1中的像素单元10还可在利用传感器外组合方案的传感器(例如,CMOS传感器)中使用。在传感器外组合方案中,可以先前所述的方式使传感器复位,且接着传感器可立即开始获取光子。在短曝光时间(例如,t=t/2),可将电荷传送到电容器20。在一些实例中,可使用关联双重取样。接着,可使用滚动快门技术来读取样本。在长曝光时间(例如,t=2t),可将电荷传送到电容器20(已经读出来自t=t/2的先前值)。当已读出来自短曝光时间的所有值时,可再次执行关联双重取样。接着,可读出来自长曝光时间的值。接着可使用本发明的技术在传感器外将来自短曝光时间(t=0到t=t/2)的图像与来自长曝光时间(t=0到t=2t)组合。
如上文所提到,本发明中所述的信号组合技术适用于不同于CMOS传感器的图像传感器,例如CCD图像传感器。可在另一实例成像技术中使用CCD图像传感器以产生HDR图像。在一个实例中,可将机械快门添加到CCD传感器。在第一时间(例如,t=0),可打开机械快门,且传感器可立即开始获取光子。在时间上在第一时间之后的第二时间(例如,t=t/2),将电荷或第一样本传送到临时存储区,例如可存储像素单元的复本的屏蔽区。来自时间t=t/2的图像的读取可在积分(即,向光的暴露)继续时开始。在第三时间(例如,t=2t),关闭机械快门。当从临时存储装置完全读出来自时间t=t/2的图像时,可将来自时间t=2t的存储在像素单元上的电荷或第二样本传送到临时存储装置,且接着将其读出。在读出来自时间t=2t的第二样本之后,处理器76可将加权因子M(i,j)应用于第二样本。接着,处理器76可将经加权的第二样本与来自时间t=t/2的第一样本组合以产生HDR图像。
图7是说明可用以实施本发明的技术的实例方法的流程图。举例来说,图3的控制器54在第一时间(例如,短曝光时间)对第一像素单元信号进行取样,以产生第一样本,例如SSHORT(i,j),(200)。控制器54还在第二时间(例如,长曝光时间)对第二像素单元信号进行取样,以产生第二样本,例如SLONG(i,j)(200)。在一些实例中,第二时间在时间上在第一时间之后。在另一实例中,通过互补MOS(CMOS)图像传感器和电荷耦合装置(CCD)图像传感器中的一者产生第一像素单元信号和第二像素单元信号。
举例来说,图3的处理器76可将可变加权因子(例如,M(i,j))应用于第二样本,其中所述可变加权因子在第二样本(例如,SLONG(i,j))处由函数(例如,组合曲线C())界定(210)。在一个实例中,M(i,j)的值介于零与一之间,包含零和一。在一个实例中,可变加权因子M(i,j)=C(L),且由以下等式界定:
其中L、T、K和Δ在上文相对于等式(4)而描述。
举例来说,处理器76接着将第一样本与经加权第二样本组合以产生HDR图像(220)。在一个实例中,将第一样本与经加权第二样本组合包括在图像传感器(例如,图像传感器50)上将第一样本与经加权第二样本组合。
在一些实例中,图7中所示的方法包含根据等式SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i,j)*(1-M(i,j))来将第一样本与经加权第二样本组合,其中SCOMBINED表示位于(i,j)处的像素单元的第一样本(由SSHORT表示)与第二样本(由SLONG表示)的组合,n表示标度值,其取决于第一时间与第二时间之间的曝光时间差,且M(i,j)表示可变加权因子。
图8是说明可用以实施本发明的技术的另一实例方法的流程图。举例来说,图8的方法可结合CCD图像传感器使用。在图8中,控制器打开CCD图像传感器上的机械快门,从而使图像传感器暴露于光(300)。控制器在第一时间将基于光形成的第一样本传送到存储区(310),且接着从存储区读出第一样本(320)。在时间上在第一时间之后的第二时间,控制器关闭机械快门(330),且可将第二样本传送到存储区(340)。控制器可接着从存储区读出第二样本(350)。处理器将可变加权因子(例如,M(i,j))应用于第二样本(360)。处理器接着例如通过处理器76将第一样本与第二经加权样本组合(370),以产生HDR图像。
图9是说明可用以实施本发明的技术的另一实例方法的流程图。举例来说,图9的方法可结合CMOS图像传感器使用。在图9中,图3的控制器54可使第一曝光时间与第二曝光时间对准,使得第一曝光时间与第二曝光时间大体上同时结束(400)。控制器54可在第一时间使CMOS图像传感器的多个偶数编号线曝光,以针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者产生第一样本,且可在第二时间使CMOS图像传感器的多个奇数编号线曝光,以针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者产生第二样本(410)。举例来说,处理器76通过针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者的第一样本进行向下取样和向上取样中的一者,针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者产生第一样本(420)。举例来说,处理器76通过对所述多个奇数编号线中的每一者中的多个空间位置中的每一者的第二样本进行向下取样和向上取样中的一者,针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者产生第二样本(430)。处理器76将可变加权因子(例如,M(i,j))应用于第二样本(440)。处理器76接着将第一样本与第二经加权样本组合以产生HDR图像(450)。
图10是说明可用以实施本发明的技术的另一实例方法的流程图。举例来说,图10的方法可结合CMOS图像传感器使用。在图10中,图3的控制器54(例如)可使光敏半导体(例如,光敏半导体12)复位,并使所述光敏半导体暴露于光54(500)。在第一时间,控制器54可将基于所述光形成的第一样本传送到电容器(例如,图1的电容器20)(510)。在第二时间,控制器54可从光敏半导体读出基于所述光形成的第二样本(520)。在控制器54读出第二样本之后,控制器54可读出第一样本(530)。处理器76(例如)可将可变加权因子(例如,M(i,j))应用于第二样本(540)。处理器76可将第一样本与第二经加权样本组合以产生HDR图像(550)。
可至少部分地在硬件、软件、固件或其任何组合中实施本发明中所描述的技术。举例来说,所描述的技术的各个方面可在一个或一个以上处理器内实施,包含一个或一个以上微处理器、数字信号处理器(DSP)、网络处理器(NP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA),或任何其它等效集成或离散逻辑电路,以及这些组件的任何组合。术语“处理器”或“处理电路”通常可指代单独或与其它逻辑电路组合的前述逻辑电路中的任一者,或任何其它等效电路。包括硬件的控制单元也可执行本发明的技术中的一者或一者以上。
此硬件、软件和固件可在同一装置内或单独装置内实施,以支持本发明中所描述的各种操作和功能。此外,所描述的单元、模块或组件中的任一者可一起实施或单独地实施为离散但可共同操作的逻辑装置。将不同特征描绘为模块或单元意在突出不同功能方面,且未必意味着必须通过单独的计算硬件或软件组件来实现这些模块或单元。实情为,与一个或一个以上模块或单元相关联的功能性可由单独的硬件或软件组件来执行,或集成于共用或单独的硬件或软件组件内。
本发明中所描述的技术还可包含或编码在计算机可读媒体中,例如计算机可读存储媒体中,其含有指令。举例来说,在执行指令时,嵌入或编码于计算机可读媒体中的指令可致使可编程处理器或其它处理器执行方法。计算机可读存储媒体可包含:随机存取存储器(RAM)、只读存储器(ROM)、可编程只读存储器(PROM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、快闪存储器、硬盘、CD-ROM、软盘、盒式磁带、磁性媒体、光学媒体或其它计算机可读媒体。
已描述了本发明的各种实例。这些和其它实例属于所附权利要求书的范围内。
Claims (18)
1.一种用于图像处理的方法,其包括:
在第一时间对第一像素单元信号进行取样以产生第一样本;
在第二时间对第二像素单元信号进行取样以产生第二样本;
将第一可变加权因子应用于所述第一样本,其中所述第一可变加权因子是基于第一函数而界定;
将第二可变加权因子应用于所述第二样本,其中所述第二可变加权因子是基于第二函数而界定;以及
根据以下等式将所述经加权第一样本与所述经加权第二样本组合
SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i,j)*(1-M(i,j))
其中SCOMBINED表示位于(i,j)处的所述像素单元的由SSHORT表示的所述第一样本与由SLONG表示的所述第二样本的所述组合,n表示取决于所述第一时间与所述第二时间之间的曝光时间的差的标度值,M(i,j)表示可变加权因子,以及
其中在第一时间对第一像素单元信号进行取样以产生第一样本且在第二时间对第二像素单元信号进行取样以产生第二样本包括:
使所述第一时间与所述第二时间对准,使得所述第一时间与所述第二时间大体上同时结束;
在所述第一时间使互补MOS即CMOS图像传感器的多个偶数编号线曝光,以针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者产生所述第一样本,且在所述第二时间使所述CMOS图像传感器的多个奇数编号线曝光,以针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者产生所述第二样本;
通过针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者对所述第一样本进行向下取样和向上取样中的一者,针对所述多个奇数编号线中的每一者中的所述多个空间位置中的每一者产生所述第一样本;以及
通过针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者对所述第二样本进行向下取样和向上取样中的一者,针对所述多个偶数编号线中的每一者中的所述多个空间位置中的每一者产生所述第二样本。
2.根据权利要求1所述的方法,其中M(i,j)的值介于零与一之间,包含零和一。
3.根据权利要求1所述的方法,其中将所述经加权第一样本与所述经加权第二样本组合包括在传感器上将所述经加权第一样本与所述经加权第二样本组合。
4.根据权利要求1所述的方法,其中由所述CMOS图像传感器和电荷耦合装置CCD图像传感器中的一者产生所述第一像素单元信号和所述第二像素单元信号。
5.根据权利要求4所述的方法,其中在第一时间对第一像素单元信号进行取样以产生第一样本且在第二时间对第二像素单元信号进行取样以产生第二样本包括:
打开CCD图像传感器上的机械快门且使所述图像传感器暴露于光;
在第一时间将基于所述光形成的第一样本传送到存储区;
从所述存储区读出所述第一样本;
在第二时间关闭所述机械快门;
将第二样本传送到所述存储区;以及
从所述存储区读出所述第二样本。
6.根据权利要求4所述的方法,其中在第一时间对第一像素单元信号进行取样以产生第一样本且在第二时间对第二像素单元信号进行取样以产生第二样本包括:
使像素单元复位并使所述像素单元暴露于光;
在第一时间将基于所述光形成的第一样本传送到电容器;以及
在第二时间读出基于所述光形成的第二样本。
7.一种用于图像处理的***,其包括:
图像传感器,其包括:
多个像素单元;以及
控制器,其:
在第一时间从所述多个像素单元中的至少一者对第一像素单元信号进行取样以产生第一样本;且
在第二时间从所述多个像素单元中的所述至少一者对第二像素单元信号进行取样以产生第二样本;以及
处理器,其:
将第一可变加权因子应用于所述第一样本,其中所述第一可变加权因子是基于第一函数而界定;
将第二可变加权因子应用于所述第二样本,其中所述第二可变加权因子是基于第二函数而界定;且
根据以下等式将所述经加权第一样本与所述经加权第二样本组合:
SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i,j)*(1-M(i,j))
其中SCOMBINED表示位于(i,j)处的所述像素单元的由SSHORT表示的所述第一样本与由SLONG表示的所述第二样本的所述组合,n表示取决于所述第一时间与所述第二时间之间的曝光时间的差的标度值,M(i,j)表示可变加权因子,以及
其中所述控制器至少通过以下步骤在第一时间对第一像素单元信号进行取样以产生第一样本,且在第二时间对第二像素单元信号进行取样以产生第二样本:
使所述第一时间与所述第二时间对准,使得所述第一时间与所述第二时间大体上同时结束;
在所述第一时间使互补MOS即CMOS图像传感器的多个偶数编号线曝光,以针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者产生所述第一样本,且在所述第二时间使所述CMOS图像传感器的多个奇数编号线曝光,以针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者产生所述第二样本;
通过针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者对所述第一样本进行向下取样和向上取样中的一者,针对所述多个奇数编号线中的每一者中的所述多个空间位置中的每一者产生所述第一样本;以及
通过针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者对所述第二样本进行向下取样和向上取样中的一者,针对所述多个偶数编号线中的每一者中的所述多个空间位置中的每一者产生所述第二样本。
8.根据权利要求7所述的***,其中M(i,j)的值介于零与一之间,包含零和一。
9.根据权利要求7所述的***,其中所述处理器在传感器上将所述经加权第一样本与所述经加权第二样本组合。
10.根据权利要求7所述的***,其中所述第一像素单元信号和所述第二像素单元信号由所述CMOS图像传感器和电荷耦合装置CCD图像传感器中的一者产生。
11.根据权利要求10所述的***,其中所述控制器至少通过以下步骤在第一时间对第一像素单元信号进行取样以产生第一样本,且在第二时间对第二像素单元信号进行取样以产生第二样本:
打开CCD图像传感器上的机械快门且使所述图像传感器暴露于光;
在第一时间将基于所述光形成的第一样本传送到存储区;
从所述存储区读出所述第一样本;
在第二时间关闭所述机械快门;
将第二样本传送到所述存储区;以及
从所述存储区读出所述第二样本。
12.根据权利要求10所述的***,其中所述控制器至少通过以下步骤在第一时间对第一像素单元信号进行取样以产生第一样本,且在第二时间对第二像素单元信号进行取样以产生第二样本:
使像素单元复位并使所述像素单元暴露于光;
在第一时间将基于所述光形成的第一样本传送到电容器;以及
在第二时间读出基于所述光形成的第二样本。
13.一种用于图像处理的***,其包括:
用于在第一时间对第一像素单元信号进行取样以产生第一样本的装置;
用于在第二时间对第二像素单元信号进行取样以产生第二样本的装置;
用于将第一可变加权因子应用于所述第一样本的装置,其中所述第一可变加权因子是基于第一函数而界定;
用于将第二可变加权因子应用于所述第二样本的装置,其中所述第二可变加权因子是基于第二函数而界定;以及
用于根据以下等式将所述经加权第一样本与所述经加权第二样本组合的装置:
SCOMBINED(i,j)=SLONG(i,j)*M(i,j)+n*SSHORT(i,j)*(1-M(i,j))
其中SCOMBINED表示位于(i,j)处的所述像素单元的由SSHORT表示的所述第一样本与由SLONG表示的所述第二样本的所述组合,n表示取决于所述第一时间与所述第二时间之间的曝光时间的差的标度值,M(i,j)表示可变加权因子,以及
其中所述用于在第一时间对第一像素单元信号进行取样以产生第一样本的装置以及所述用于在第二时间对第二像素单元信号进行取样以产生第二样本的装置包括:
用于使所述第一时间与所述第二时间对准使得所述第一时间与所述第二时间大体上同时结束的装置;
用于在所述第一时间使互补MOS即CMOS图像传感器的多个偶数编号线曝光以针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者产生所述第一样本且在所述第二时间使所述CMOS图像传感器的多个奇数编号线曝光以针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者产生所述第二样本的装置;
用于通过针对所述多个偶数编号线中的每一者中的多个空间位置中的每一者对所述第一样本进行向下取样和向上取样中的一者而针对所述多个奇数编号线中的每一者中的所述多个空间位置中的每一者产生所述第一样本的装置;以及
用于通过针对所述多个奇数编号线中的每一者中的多个空间位置中的每一者对所述第二样本进行向下取样和向上取样中的一者而针对所述多个偶数编号线中的每一者中的所述多个空间位置中的每一者产生所述第二样本的装置。
14.根据权利要求13所述的***,其中M(i,j)的值介于零与一之间,包含零和一。
15.根据权利要求13所述的***,其中所述用于将所述经加权第一样本与所述经加权第二样本组合的装置包括用于在传感器上将所述经加权第一样本与所述经加权第二样本组合的装置。
16.根据权利要求13所述的***,其中所述第一像素单元信号和所述第二像素单元信号由所述CMOS图像传感器和电荷耦合装置CCD图像传感器中的一者产生。
17.根据权利要求16所述的***,其中所述用于在第一时间对第一像素单元信号进行取样以产生第一样本的装置以及所述用于在第二时间对第二像素单元信号进行取样以产生第二样本的装置包括:
用于打开CCD图像传感器上的机械快门且使所述图像传感器暴露于光的装置;
用于在第一时间将基于所述光形成的第一样本传送到存储区的装置;
用于从所述存储区读出所述第一样本的装置;
用于在第二时间关闭所述机械快门的装置;
用于将第二样本传送到所述存储区的装置;以及
用于从所述存储区读出所述第二样本的装置。
18.根据权利要求16所述的***,其中所述用于在第一时间对第一像素单元信号进行取样以产生第一样本的装置以及所述用于在第二时间对第二像素单元信号进行取样以产生第二样本的装置包括:
用于使像素单元复位并使所述像素单元暴露于光的装置;
用于在第一时间将基于所述光形成的第一样本传送到电容器的装置;以及
用于在第二时间读出基于所述光形成的第二样本的装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/873,981 US8994843B2 (en) | 2010-09-01 | 2010-09-01 | High dynamic range image sensor |
US12/873,981 | 2010-09-01 | ||
PCT/US2011/050068 WO2012031026A2 (en) | 2010-09-01 | 2011-08-31 | High dynamic range image sensor |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103141081A CN103141081A (zh) | 2013-06-05 |
CN103141081B true CN103141081B (zh) | 2016-12-07 |
Family
ID=44675825
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180046572.8A Active CN103141081B (zh) | 2010-09-01 | 2011-08-31 | 高动态范围图像传感器 |
Country Status (6)
Country | Link |
---|---|
US (1) | US8994843B2 (zh) |
EP (1) | EP2612492B1 (zh) |
JP (2) | JP2013537020A (zh) |
KR (1) | KR101473597B1 (zh) |
CN (1) | CN103141081B (zh) |
WO (1) | WO2012031026A2 (zh) |
Families Citing this family (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101665511B1 (ko) * | 2010-02-11 | 2016-10-12 | 삼성전자 주식회사 | 광역 역광 보정 하드웨어 장치 및 이를 포함하는 촬영 장치 |
JP6021465B2 (ja) * | 2011-07-11 | 2016-11-09 | キヤノン株式会社 | 画像処理装置及び画像処理装置の制御方法 |
US9338372B2 (en) * | 2012-09-19 | 2016-05-10 | Semiconductor Components Industries, Llc | Column-based high dynamic range imaging systems |
US10368053B2 (en) * | 2012-11-14 | 2019-07-30 | Qualcomm Incorporated | Structured light active depth sensing systems combining multiple images to compensate for differences in reflectivity and/or absorption |
US10255888B2 (en) * | 2012-12-05 | 2019-04-09 | Texas Instruments Incorporated | Merging multiple exposures to generate a high dynamic range image |
US8866927B2 (en) | 2012-12-13 | 2014-10-21 | Google Inc. | Determining an image capture payload burst structure based on a metering image capture sweep |
US9087391B2 (en) | 2012-12-13 | 2015-07-21 | Google Inc. | Determining an image capture payload burst structure |
US8866928B2 (en) | 2012-12-18 | 2014-10-21 | Google Inc. | Determining exposure times using split paxels |
US9247152B2 (en) | 2012-12-20 | 2016-01-26 | Google Inc. | Determining image alignment failure |
US9686537B2 (en) | 2013-02-05 | 2017-06-20 | Google Inc. | Noise models for image processing |
US9117134B1 (en) | 2013-03-19 | 2015-08-25 | Google Inc. | Image merging with blending |
US9066017B2 (en) | 2013-03-25 | 2015-06-23 | Google Inc. | Viewfinder display based on metering images |
US9077913B2 (en) | 2013-05-24 | 2015-07-07 | Google Inc. | Simulating high dynamic range imaging with virtual long-exposure images |
US9131201B1 (en) | 2013-05-24 | 2015-09-08 | Google Inc. | Color correcting virtual long exposures with true long exposures |
TWI464526B (zh) * | 2013-08-08 | 2014-12-11 | Quanta Comp Inc | 高動態範圍影像曝光時間控制方法 |
US9615012B2 (en) | 2013-09-30 | 2017-04-04 | Google Inc. | Using a second camera to adjust settings of first camera |
KR102149187B1 (ko) * | 2014-02-21 | 2020-08-28 | 삼성전자주식회사 | 전자 장치와, 그의 제어 방법 |
KR102191245B1 (ko) * | 2014-06-20 | 2020-12-15 | 삼성전자주식회사 | 이미지 센서 구동 방법, 이를 채용한 이미지 센서 및 이를 포함하는 휴대용 전자 기기 |
JP6299544B2 (ja) * | 2014-09-24 | 2018-03-28 | 株式会社Jvcケンウッド | 固体撮像装置 |
KR102273656B1 (ko) * | 2014-11-24 | 2021-07-05 | 삼성전자주식회사 | 광역 역광 보정 영상의 노이즈 레벨 제어 장치, 및 이를 포함하는 영상 처리 시스템 |
US9843737B2 (en) * | 2015-01-22 | 2017-12-12 | Panasonic Intellectual Property Management Co., Ltd. | Imaging device |
KR20160138685A (ko) | 2015-05-26 | 2016-12-06 | 에스케이하이닉스 주식회사 | 저 복잡도의 하이 다이나믹 레인지 이미지 생성 장치 및 그 방법 |
JP2017055248A (ja) | 2015-09-09 | 2017-03-16 | ルネサスエレクトロニクス株式会社 | 撮像素子 |
KR20190114332A (ko) | 2018-03-29 | 2019-10-10 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 및 그의 동작 방법 |
US11922639B2 (en) | 2018-06-07 | 2024-03-05 | Dolby Laboratories Licensing Corporation | HDR image generation from single-shot HDR color image sensors |
KR102648747B1 (ko) | 2019-01-18 | 2024-03-20 | 삼성전자주식회사 | Hdr 이미지를 생성하기 위한 이미징 시스템 및 그것의 동작 방법 |
CN109951656B (zh) * | 2019-04-23 | 2022-03-08 | Oppo广东移动通信有限公司 | 一种图像传感器和电子设备 |
US10855931B1 (en) * | 2019-11-07 | 2020-12-01 | Novatek Microelectronics Corp. | High dynamic range image sensing method for image sensing device |
DE102020123671B4 (de) | 2020-09-10 | 2022-12-22 | Ifm Electronic Gmbh | Verfahren und Vorrichtung zur Dynamikerweiterung eines Lichtlaufzeitkamerasystems |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005107240A1 (ja) * | 2004-04-28 | 2005-11-10 | Chuo Electronics Co., Ltd. | 自動撮影方法および装置 |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5471515A (en) | 1994-01-28 | 1995-11-28 | California Institute Of Technology | Active pixel sensor with intra-pixel charge transfer |
WO1997017800A1 (en) | 1995-11-07 | 1997-05-15 | California Institute Of Technology | An image sensor with high dynamic range linear output |
JP3755175B2 (ja) * | 1995-12-25 | 2006-03-15 | ソニー株式会社 | 固体撮像装置 |
JPH1023324A (ja) | 1996-07-03 | 1998-01-23 | Matsushita Electric Ind Co Ltd | 撮像装置 |
JP2000050151A (ja) * | 1998-07-28 | 2000-02-18 | Olympus Optical Co Ltd | 撮像装置 |
JP2001069408A (ja) | 1999-08-30 | 2001-03-16 | Sony Corp | 固体撮像素子およびその駆動方法ならびにカメラシステム |
JP4337177B2 (ja) | 1999-07-09 | 2009-09-30 | ソニー株式会社 | 固体撮像素子およびその駆動方法 |
US7023479B2 (en) * | 2000-05-16 | 2006-04-04 | Canon Kabushiki Kaisha | Image input apparatus having addition and subtraction processing |
US7050094B2 (en) * | 2000-10-26 | 2006-05-23 | Micron Technology, Inc. | Wide dynamic range operation for CMOS sensor with freeze-frame shutter |
JP3731729B2 (ja) | 2000-12-20 | 2006-01-05 | 松下電器産業株式会社 | 画像合成回路 |
JP2003219281A (ja) | 2002-01-18 | 2003-07-31 | Sony Corp | 撮像装置およびそのシャッタ駆動方法 |
JP4272443B2 (ja) * | 2003-02-05 | 2009-06-03 | パナソニック株式会社 | 画像処理装置および画像処理方法 |
US7019277B2 (en) | 2003-03-13 | 2006-03-28 | Psion Teklogix Systems Inc. | Imaging device |
KR100810310B1 (ko) | 2003-08-29 | 2008-03-07 | 삼성전자주식회사 | 조도차가 다른 영상의 재구성 장치 및 방법 |
JP4421353B2 (ja) | 2004-04-01 | 2010-02-24 | 浜松ホトニクス株式会社 | 固体撮像装置 |
EP1641249A1 (en) | 2004-09-27 | 2006-03-29 | STMicroelectronics Limited | Improvements in or relating to image sensors |
US7259413B2 (en) | 2004-09-28 | 2007-08-21 | Micron Technology, Inc. | High dynamic range image sensor |
CA2511220C (en) | 2005-03-21 | 2012-08-14 | Sunnybrook Technologies Inc. | Multiple exposure methods and apparatus for electronic cameras |
JP4855704B2 (ja) * | 2005-03-31 | 2012-01-18 | 株式会社東芝 | 固体撮像装置 |
JP4487944B2 (ja) * | 2006-02-09 | 2010-06-23 | ソニー株式会社 | 固体撮像装置 |
US7750960B2 (en) | 2006-03-15 | 2010-07-06 | Honeywell International Inc. | System and apparatus for high dynamic range sensor |
JP4998056B2 (ja) | 2006-05-11 | 2012-08-15 | セイコーエプソン株式会社 | 撮像装置、撮像システム及び撮像方法 |
JP2008042828A (ja) * | 2006-08-10 | 2008-02-21 | Matsushita Electric Ind Co Ltd | 固体撮像素子及びその駆動方法。 |
JP4961982B2 (ja) | 2006-12-07 | 2012-06-27 | ソニー株式会社 | 固体撮像装置、固体撮像装置の駆動方法および撮像装置 |
US7825969B2 (en) * | 2006-12-15 | 2010-11-02 | Nokia Corporation | Image stabilization using multi-exposure pattern |
US7616243B2 (en) * | 2007-03-07 | 2009-11-10 | Altasens, Inc. | Method and apparatus for improving and controlling dynamic range in an image sensor |
JP2008277894A (ja) | 2007-04-25 | 2008-11-13 | Matsushita Electric Ind Co Ltd | 撮像装置、撮像方法および集積回路 |
JP4438847B2 (ja) * | 2007-09-28 | 2010-03-24 | ソニー株式会社 | 撮像装置、撮像制御方法及び撮像制御プログラム |
US7777804B2 (en) * | 2007-10-26 | 2010-08-17 | Omnivision Technologies, Inc. | High dynamic range sensor with reduced line memory for color interpolation |
JP2010136078A (ja) * | 2008-12-04 | 2010-06-17 | Fujifilm Corp | 撮像装置及びその駆動制御方法 |
-
2010
- 2010-09-01 US US12/873,981 patent/US8994843B2/en active Active
-
2011
- 2011-08-31 CN CN201180046572.8A patent/CN103141081B/zh active Active
- 2011-08-31 KR KR1020137008243A patent/KR101473597B1/ko active IP Right Grant
- 2011-08-31 JP JP2013527289A patent/JP2013537020A/ja not_active Withdrawn
- 2011-08-31 WO PCT/US2011/050068 patent/WO2012031026A2/en active Application Filing
- 2011-08-31 EP EP11760911.5A patent/EP2612492B1/en active Active
-
2015
- 2015-12-11 JP JP2015242442A patent/JP2016096558A/ja active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005107240A1 (ja) * | 2004-04-28 | 2005-11-10 | Chuo Electronics Co., Ltd. | 自動撮影方法および装置 |
Also Published As
Publication number | Publication date |
---|---|
KR101473597B1 (ko) | 2014-12-24 |
US20120050557A1 (en) | 2012-03-01 |
CN103141081A (zh) | 2013-06-05 |
EP2612492B1 (en) | 2018-01-10 |
EP2612492A2 (en) | 2013-07-10 |
WO2012031026A2 (en) | 2012-03-08 |
JP2016096558A (ja) | 2016-05-26 |
JP2013537020A (ja) | 2013-09-26 |
WO2012031026A3 (en) | 2013-01-03 |
US8994843B2 (en) | 2015-03-31 |
KR20130049825A (ko) | 2013-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103141081B (zh) | 高动态范围图像传感器 | |
JP6039165B2 (ja) | 撮像素子及び撮像装置 | |
JP6765860B2 (ja) | 撮像素子、撮像装置、および撮像信号処理方法 | |
WO2016072289A1 (ja) | 撮像素子および駆動方法、並びに電子機器 | |
TW200529658A (en) | Method of controlling semiconductor device, signal processing method, semiconductor device, and electronic apparatus | |
TWI461054B (zh) | 用於控制抗暈光時序以減少暗電流效應之方法及裝置 | |
JP2006197393A (ja) | 固体撮像装置、カメラ、及び固体撮像装置の駆動方法 | |
US9826185B2 (en) | High signal to noise ratio of image based on signals with different sensitivities | |
US10033956B2 (en) | Image sensor | |
US7876371B2 (en) | Systems and methods to perform digital correlated double sampling using successive approximation analog to digital conversion techniques | |
JP4745735B2 (ja) | 画像入力装置及びその制御方法 | |
CN106664380A (zh) | 固体摄像元件与电子信息设备 | |
US11856301B2 (en) | Method and system for extending image dynamic range using per-pixel coding of pixel parameters | |
JP5569298B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
TWI720947B (zh) | 用以增加像素靈敏度及動態範圍之方法及裝置 | |
JP2007097127A (ja) | 固体撮像装置 | |
US8792032B2 (en) | Dynamic range enhancement | |
US20040239781A1 (en) | Image capture apparatus | |
JP6929106B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
US8817145B2 (en) | Hybrid CCD—CMOS camera adapted for forming images of moving scenes | |
JP2019004257A (ja) | 撮像装置及びその制御方法 | |
KR102690091B1 (ko) | 고체 촬상 장치, 그 구동 방법 및 전자 기기 | |
US20100141817A1 (en) | Imaging Array with Built-in Exposure Control |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |