CN107743590A - 用于使用飞行时间传感器来执行曝光估计的方法及设备 - Google Patents
用于使用飞行时间传感器来执行曝光估计的方法及设备 Download PDFInfo
- Publication number
- CN107743590A CN107743590A CN201680033889.0A CN201680033889A CN107743590A CN 107743590 A CN107743590 A CN 107743590A CN 201680033889 A CN201680033889 A CN 201680033889A CN 107743590 A CN107743590 A CN 107743590A
- Authority
- CN
- China
- Prior art keywords
- destination object
- exposure
- camera
- optical signal
- reflectivity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4865—Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4868—Controlling received signal intensity or exposure of sensor
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Studio Devices (AREA)
- Measurement Of Optical Distance (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Exposure Control For Cameras (AREA)
- Focusing (AREA)
- Stroboscope Apparatuses (AREA)
- Automatic Focus Adjustment (AREA)
Abstract
本申请涉及使用来自飞行时间传感器的信息来捕获目标对象的图像。在一个方面中,一种方法可包含经配置以发出光且感测所述所发出光的反射的飞行时间TOF***且可基于所述所发出光的所述反射而确定返回能量。所述方法可测量在发出所述光时与在感测到所述反射时之间的时间且可基于所述时间而确定所述目标对象与所述TOF***之间的距离。所述方法还可基于所述返回能量而识别所述目标对象的反射比且可基于所述目标对象与所述目标对象的反射比之间的距离而确定曝光水平。
Description
技术领域
本发明大体来说涉及在摄影及/或其它图像捕获装置中提供自动曝光控制。更具体来说,本发明涉及使用来自飞行时间传感器的信息来确定目标对象的曝光。
背景技术
用户经常经历其想要用照片或视频捕获场景的事件,且在稍后日期及/或时间观看,例如,孩子的第一步或第一句话、毕业典礼或婚礼。经常,这些事件可为几乎静态的且其发生通常可预测(例如,婚礼、毕业典礼、宁静的风景或绘像)且可使用成像***(例如,照相机、视频记录器或智能手机)容易捕获。针对此时刻,成像***可存在足够时间来确定并调整恰当曝光设置以捕获时刻事件。然而,有时候用恰当曝光捕获快速移动场景可存在挑战,尤其在场景为暂时(例如,在含有移动对象或成像***的场景经受快速摇摄穿过具有各种亮度水平的场景)的条件下。
甚至在设备的用户在恰当时刻捕获场景的图像或利用多重拍摄***时,用户必须意识到事件可能发生的时间且考虑用于确定焦点及曝光的成像***延迟。因此,用户必须注意预知此些时刻将发生的时间且相应地作出计划。此可能为困难的。经常,时刻或事件的至少某一部分可能在未经恰当捕获的情况下已经过去。因此,用于促进计算及调整成像***的曝光的***及方法将为有益的。
发明内容
本发明的***、方法及装置各自具有数个方面,其中无一者单独决定本文中所揭示的所要属性。在不如随后权利要求书所表达限制本发明的范围的情况下,现在将简洁地论述一些特征。在考虑本论述之后,且尤其在阅读标题为“具体实施方式”的章节之后,将理解本发明的各种实施例的特征提供包含较快速确定成像***的曝光参数的优点的方式。
本发明中所描述的标的物的一个方面提供用于捕获场景的设备。设备可包含飞行时间(TOF)***,所述飞行时间***包括:发射极,其经配置以发出光信号;及感测***,其经配置以感测所发出光信号从目标对象反射离开且基于所发出光信号的反射而确定返回能量。设备进一步包含时钟,其耦合到TOF***,所述时钟经配置以测量在发出光信号时与在通过感测***感测到所发出光信号时之间的时间;及处理器,其与TOF***、时钟及照相机通信。处理器经配置以基于所测量时间而确定目标对象与TOF***之间的距离,基于所发出光信号的返回能量而识别目标对象的反射比,及基于至目标对象的距离及目标对象的反射比而确定曝光水平。
本发明中所描述的标的物的另一方面提供用于捕获图像的方法。方法包含经由飞行时间(TOF)***发出光信号且经由TOF***感测所发出光信号从目标对象的反射。方法进一步包含基于所发出光信号的反射而确定返回能量且测量在发出光信号时与在感测到所发出光信号之间的时间。方法还包含:基于所测量时间而确定目标对象与TOF***之间的距离,基于所发出光信号的返回能量而识别目标对象的反射比,及基于到目标对象的距离及目标对象的反射比而确定曝光水平。
本发明中所描述的标的物的额外方面提供用于捕获场景的额外设备。成像设备包括用于识别光信号的飞行时间(TOF)的装置,包括用于发出光信号的装置,用于感测所发出光信号从目标对象的反射的装置,及用于基于所发出光信号的反射而确定返回能量。设备进一步包含用于测量在发出光信号时与在感测到所发出光信号时之间的时间的装置及用于基于所测量时间而确定目标对象与TOF***之间的距离的装置。设备还包含用于基于所发出光信号的返回能量而识别目标对象的反射比的装置及用于基于到目标对象的距离及目标对象的反射比而确定曝光水平的装置。
本发明中所揭示的标的物的另一方面提供计算机程序产品,所述计算机程序产品包括其上编码有指令的计算机可读存储媒体,所述指令在被执行时致使设备执行捕获图像的方法。方法包括经由飞行时间(TOF)***产生并发出光信号且经由TOF***感测所发出光信号从目标对象的反射。方法进一步包含基于所发出光信号的反射而确定返回能量且测量在发出光信号时与在感测到所发出光信号之间的时间。方法还包含:基于所测量时间而确定目标对象与TOF***之间的距离,基于所发出光信号的返回能量而识别目标对象的反射比,及基于到目标对象的距离及目标对象的反射比而确定曝光水平。
附图说明
现在将结合各种实施例参考附图描述本发明的上文所提及方面以及其它特征、方面及优点。然而,所说明实施例仅为实例且并不意欲为限制性。贯穿图式,除非上下文另有指示,否则类似符号通常识别类似组件。应注意,以下图的相对尺寸可未按比例绘制。
图1A说明根据一些实施例的自动曝光控制***的时序图的实例。
图1B说明根据三个例示性实施方案的自动曝光控制***的时序图的三个实例。
图2为根据示范性实施方案说明使用传感器(例如,照相机)来识别到目标对象的距离及目标对象的反射比的图。
图3为说明用于确定自动曝光校正及自动聚焦的图像捕获装置的一个实施例的实例的框图。
图4A为说明目标对象与成像装置之间的距离与曝光之间的关系的曲线图。
图4B为与图4A中所展示的曲线图相关联的图表,且说明与距离有关的信息、与曝光控制有关的信息及与TOF传感器数据有关的信息的实例。
图4C根据示范性实施例描绘说明预闪曝光对信噪比,说明给定距离下具有变化反射比值的目标对象的预闪曝光的曲线图。
图4D为说明与图4C相关联的信息的图表。
图5A为说明用于基于LED闪光自动曝光校正而估计闪光曝光的过程的实例的框图。
图5B为说明通过结合AEC模块利用TOF或激光传感器的照相机基于到目标对象的所识别距离及所述目标对象的反射比而估计闪光曝光的过程的实例的框图。
图6为根据一些实施例的说明用于确定曝光的方法的实例的流程图。
具体实施方式
下文中参考附图更全面地描述新颖***、设备及方法的各种方面。然而,本发明可以许多不同格式体现且不应理解为限制于贯穿本发明呈现的任何特定结构或功能。确切来说,这些方面经提供使得本发明可为透彻且完整的,且可向所属领域的技术人员充分地传达本发明的范围。本发明的范围意欲涵盖本文中所揭示的***、设计及方法的任何方面,无论是独立于本发明的任何其它方面抑或与其组合实施。举例来说,可使用本文中所阐明的任何数目个方面实施设备或可实践方法。另外,本发明的实施例(包含本文中所描述的彼等实施例)的范围意欲涵盖使用其它结构、功能性或除本文中所阐明的实施例的各种方面样外的结构及功能来实践的此设备或方法。应理解,本文中所揭示的任何方面可由权利要求书的一或多个元件体现。
尽管本文中描述特定方面,但这些方面的许多变化形式及排列归属于本发明的范围。尽管提及优选方面的一些益处及优点,但本发明的范围并不意欲限于特定益处、用途或目的。确切来说,本发明的方面意欲广泛地适用于各种成像及摄影技术、***配置、计算***、闪光***及曝光确定***。详细描述及图式意欲说明本发明的实施例的揭示内容,而非限制性。
在摄影中,在用户以手动模式使用成像***(或照相机)时用户可主动地成像***聚焦于何物且可选择控制曝光的各种特性(例如,光圈、快门速度、“胶片”感光速度)。此允许成像***在用户激活控制接口以捕获图像时几乎立即捕获图像。然而,在成像***用于自动聚焦(“自动聚焦”)及自动曝光模式时,在捕获图像之前,成像***经配置以确定正确曝光且执行自动聚焦程序。自动确定将使闪光灯捕获的图像的报告可涉及在捕获实际图像之前组合从目标对象(或场景,除非另有指示否则本文中与“目标对象”互换使用)的非闪光曝光确定的信息与从目标对象的预闪曝光确定的信息。因此,自动报告程序花费时间来执行且造成捕获图像的延迟。
“非闪光周期”为本文中用于大体指代在成像***可基于在仅周围照明(例如,阳光或并非来自成像***闪光灯的其它光)的情况下目标对象的亮度而确定并设置曝光水平时的时间周期。在非闪光周期期间,成像***的闪光灯不照明场景且可处于备用模式或关断。可在成像***作用中但尚未经激活来捕获图像的任何时间存在非闪光周期。
“预闪周期”为本文中用于大体指代在其期间成像***可以低于全功率的功率电平来激活闪光灯以确定并设置成像***的曝光参数的时间周期。在一些实施例中,闪光灯产生达两个或多于两个照明水平的目标对象的照度。然而,由于此过程可能并未执行直到用户激活成像***来捕获图像,成像***执行预闪曝光所需要的时间延迟图像的捕获。另外,由于闪光灯经常为有限功率,因此在预闪周期期间可能不充分照明距成像***远距离(例如,8到15+米)处的目标对象。此可致使成像***产生不恰当闪光曝光或花费延长时间周期来确定曝光。
用于促进所要图像的捕获的一个示范性解决方案可包含利用替代或额外传感器来确定图像***的曝光,例如经配置以确定目标对象的距离与反射比的传感器。
图1A说明自动曝光控制(AEC)***的时序图100的实例的图形表示。时序图100展示传感器的曝光水平及在使用闪光灯时捕获图像的成像***的闪光输出电平的实例。在时序图100中,时间沿着x轴从左到右增加。与成像***相关联的(所发出光的)相对闪光输出功率沿着y轴增加,即,接近y轴的零的低快闪输出电平到较高快闪输出电平沿着y轴增加。时序图100还指示相对曝光量沿着y轴增加,即,接近y轴的零的低曝光量到较高曝光量沿着y轴增加。闪光线102指示由成像***(在此实例中被称作照相机)的闪光灯发出的光的水平,而曝光线104指示如由成像***的AEC过程或***确定及设置的曝光。时序图100进一步包含沿着x轴的特定时间点。
如图1A中所说明,闪光线102在或接近零的非闪光周期151处开始,指示闪光灯未发出光,例如,在照相机关机或在照相机仅用于观看场景但尚未经指示捕获图像。在此周期期间(沿着x轴在时间t0之前),曝光线104处于非闪光曝光水平,指示可能比在照相机使用闪光灯时高的照相机的曝光设置。在t0之前时,照相机可识别非闪光曝光,例如,在无来自照相机的闪光灯的情况下目标对象的明度的水平及自然光在场景中及/或环境中的水平。照相机经配置有可用于确定曝光的AEC过程。
在时间t0,闪光线102在预闪周期152期间增加到恒定的预闪照明水平。预闪水平可以是在闪光灯被充电到低于其全功率电平的功率电平时,或者被控制为仅以比其以全功率电平发出的光低的电平发出光。在一些实施例中,预闪水平可为恒定照明水平或不增加超过给定照明临限值的变化照明水平。如时序图100中所展示,所描绘实施例的预闪水平在预闪周期152期间维持处于恒定照明水平。在此预闪周期期间,AEC过程可基于如由预闪所照明的目标对象的亮度而调整目标对象的曝光,如由曝光线104所指示在区段106处增加直到其达到曝光水平108。在时间t1,预闪周期结束,如由闪光线102所指示减少回到接近或处于零值的低水平153。
照相机花费在预闪周期期间调整曝光的时间可受例如环境的亮度、目标对象距照相机的距离及目标对象的反射比中的一或多者影响。例如,确定曝光的时间可在目标对象距照相机较远时或在目标对象具有低反射比时为低,这是因为来自照相机的闪光灯的光将不会由于目标对象的距离及/或反射比而大大地增加目标对象的亮度,因此恰当闪光曝光未必需要确定。
在时间t2,在闪光线102已下降回到接近或达零值时,AEC过程调整曝光到所估计闪光曝光水平110。所估计闪光曝光水平110可使用目标对象的非闪光曝光(在t0之前)及在预闪周期(在t0与t1之间)所识别的所测量及经调整曝光来计算。AEC过程可使用从在预闪周期期间所收集的一或多个图像收集的信息来计算在预闪周期期间所照明帧的帧亮度。AEC过程可进一步计算如在主闪光期间将被照明的目标对象的亮度,主闪光灯利用在预闪周期期间照明的闪光灯但出于较高功率电平,因此识别用于捕获图像的照相机的曝光。可使用目标对象的亮度来确定恰当曝光以用主闪光灯捕获图像,且AEC过程可在时间t2将曝光设置成估计闪光曝光水平110。
在时间t3,在主闪光周期154期间以较高功率电平激活主闪光灯达时间周期,即,直到时间t4,在时间t4期间捕获图像。在t5处,在捕获图像之后,AEC过程可将照相机的曝光复原至非闪光曝光设置115且可在非闪光周期155期间将闪光灯关断到接近零水平。
在上文所描述过程的情况下,所要目标对象所需要的曝光的调整及计算可花费多达十五(15)或多于十五个帧。在许多实施例中,整个过程可花费半秒或多于半秒。如可在时序图100中可见,可花费大部分时间等待在预闪周期期间调整的照相机的曝光。因此,使用上文所描述的AEC过程捕获图像可在捕获目标对象的图像的过程中引入显著等待时间。
各种过程可用于使用预闪过程来确定正确曝光,每一者造成在照相机接收用户命令来拍摄照片时与在实际上拍摄照片时之间的时间延迟。图1B展示照相机中可使用的闪光时序图(曲线图)的三个实例,且说明可由AEC***及曝光调整方案造成的可能延迟。三个曲线(类似于图1中的所述时序图的时序图)150、160及170分别经说明“时间”沿着x轴从左到右增加且“光强度”沿着y轴从下到上增加。所展示的时序图150、16及170包含对应于图1A的闪光时序图,使得在图1B的时序图中展示图1A的类似周期。例如,每一时序图150、160及170具有非闪光周期151、预闪周期152、主闪光周期154,及在主闪光周期154之后的另一非闪光周期155。这些实例说明成像过程中的显著延迟。针对时序图150中所说明的实例,执行预闪曝光确定过程的总时间为约1.2秒。针对时序图160,总时间为约4秒。针对时序图170,总时间为约1.8秒。
在一些实施例中,自动聚焦***可依赖于上文所描述的AEC***的类似时序问题。因此,自动聚焦***可能具有上文所描述的许多缺陷。例如,如果环境过于黑暗或低光照,那么自动聚焦***可因为环境过于黑暗而不恰当地工作。因此,自动聚焦***可使用照相机的闪光灯来辅助照相机的聚焦,此可能为缓慢的且造成从在命令照相机捕获图像时到照相机实际捕获图像的时间的时间延迟,类似于上文关于曝光所描述的延迟。自动聚焦可取决于初始透镜位置及用于聚焦照相机的聚焦算法的类型而进一步缓慢。
成像***可并入有激光传感器及/或飞行时间(TOF)***。这些TOF***可用于辅助照相机的曝光及聚焦,且显著地减少曝光确定过程。在各种实施例中,TOF***可用于:测量距离、测量返回或反射能量,及/或识别信噪比。TOF***可包含光发射极及光传感器。光发射极可经配置以发出光,而光传感器***可经配置以感测从目标对象反射且返回到光传感器的所发出光的部分。光从光发射极发出且从目标对象反射到光传感器所花费的时间可用于从TOF***识别目标对象的距离。TOF***还可经配置以确定所感测光(从目标对象反射)的能量且此可用于确定目标对象的反射比及曝光信息。在一些实施例中,所发出光与所感测光的相位差可用于确定距离。
图2为根据本发明的一些实施例说明图像捕获装置202的实例的图。在此实例中,图像捕获装置202为包含飞行时间(TOF)***214的照相机,但图像捕获装置202可为能够捕获静止或移动图像的任何装置,不管格式(数字、胶片,等)或类型(视频照相机、静物照相机、网络照相机,等)。图像捕获装置202经配置以确定到目标场景或目标对象的距离,及使用TOF***214确定目标场景或目标对象的曝光(例如,至少一个曝光参数)。为描述的清楚性,目标场景及目标对象两者将在为照相机聚焦于的标的物的上下文中被称作“目标对象”。曝光参数可为可确定曝光或影响曝光的各种参数中的任一者。曝光参数的实例为指示传播穿过透镜朝向传感器的光穿过的光圈或入射光瞳的参数(例如,f/#或物理光圈大小)。曝光参数的另一实例为照相机的快门打开以让光通过到照相机的传感器的持续时间(其可被称作“快门速度”)。曝光参数的另一实例为用于控制照相机的传感器的操作以感测光并捕获图像的参数,例如,“胶片感光速度”—所属领域的技术人员将理解为影响传感器的敏感性的设置的术语(胶片摄影术的进位术语,每一胶片使其敏感性以如由其ISO指示的相对规模额定)。曝光参数的另一实例为指示由目标对象反射的环境光的参数,且所述参数可用于确定用于捕获目标对象的图像的曝光。曝光参数的另一实例为指示由目标对象反射的来自光源的光的参数。例如,光(来自光源)可为由TOF***214的光发射极212产生的光。TOF***的光发射极212可并入于图像捕获装置202中或耦合到图像捕获装置202。在一些实施例中,光发射极212与图像捕获装置202分离,即,未并入到图像捕获装置202中或未在结构上附接到图像捕获装置202。
图2的实施例说明来自光发射极212沿着光路径206传播的所发出光204,所述光路径表示从光发射极212到目标对象210的光路径。图2还说明反射光208,所述反射光可表示光或照明目标对象210(例如,来自光发射极212)的光的反射路径且从目标对象210反射到TOF***214的光传感器220。在一些实施例中,图像捕获装置202可包含时钟、计时器或用于确定在所发出光204从光发射极212发出以照明目标对象210时与在由目标对象210发出的所发出光204由光传感器220感测到时之间的时间量的一些其它装置。在一些实施例中,替代为单个组件TOF***214的部分,光发射极212及光传感器220可为经配置以一起操作的两个组件。虽然光发射极212及光传感器220可能为两个不同组件及/或***,但出于本发明的目的,其将论述为形成TOF***214。在一些实施例中,TOF***214可为整体式TOF***,其中光发射极212及光传感器220为单个整体式***的部分。
在其操作的实例中,光发射极212可发出脉冲红外线(IR)光。此所发出光204(其可表征(且在本文中被称作)为光信号或包含多个光子)照明目标对象210且从目标对象反射到光传感器220。TOF***214的时钟或计时器或图像捕获装置202的另一组件可确定发出所发出光204与在光传感器220处感测所反射光208之间所花费的时间。使用此时间量及已知光速,可使用方程式1计算光从光发射极212行进到目标对象210且回到光传感器220的距离。
所行进距离=(光行进时间)×(光的速度) (1)
到目标对象的距离为所行进距离的一半。因此,与较接近于照相机的目标对象相比,位于离照相机较远的位置处的目标对象210将需要较多时间共所发出光204从光发射极212行进到目标对象210且返回到光传感器220。
TOF***214可经配置以识别来自目标对象的返回能量。返回能量识别所发出光在从目标对象反射之后具有的能量。在从目标对象反射之后由TOF***214的光传感器感测到时的所发出光的能量越大,目标对象的反射比越高。目标对象反射比可与目标对象看上去的明或暗的程度直接相关联。因此,针对给定光条件及距离,在光传感器220处感测到时的光的能量越低,目标对象的外观越暗。
TOF***可经配置以产生指示在返回信号(光)从目标对象反射之后TOF***处的返回信号的强度的信噪比(信噪比或SNR)。例如,在所接收的返回信号为强(与背景噪声或由环境引起的噪声有关)时,SNR较高。替代地,如果所接收的返回信号较弱(与背景噪声有关),那么SNR可能更低。关于目标对象的返回信号的反射,较高SNR可指示目标对象具有较高反射比(例如,目标对象可为反射光的颜色或材料),而较低SNR指示目标对象具有较低反射比(例如,目标对象可为吸收更多光的色彩或材料)。上述论述可应用于当在相同距离下从目标对象接收到反射时测量SNR时的情景。然而,SNR还可取决于目标对象距TOF***的距离而变化。因此,相同目标对象可基于目标对象距TOF***的距离而产生不同SNR值。随着目标对象从TOF***移动较远(例如,距离变得较大),SNR将变得较低。
图3说明图像捕获装置302(类似于图2的图像捕获装置202)的一个实施例的高级框图,所述图像捕获装置具有一组组件,包含链接到照相机315、闪光灯(或其它光源)316、TOF***317及用于确定自动曝光校正的模块(AEC模块360及自动聚焦(AF)模块365)的图像处理器320。图像处理器320还可与工作存储器305、存储器330及装置处理器350通信,所述装置处理器又可与电子存储模块310、显示器325(例如,电子或触摸屏显示器)及距离/反射比模块340通信。在一些实施例中,单个处理器可替代图3中所说明的两个单独处理器而包括图像处理器320及装置处理器350两者。在一些实施例中,图像处理器320及装置处理器350中的一者或两者可包括时钟351,所述时钟在图3中经展示为整合在装置处理器350内。一些实施例可包含三个或多于三个处理器。在一些实施例中,上文所描述的组件中的一些可不包含在图像捕获装置302中或上文为描述的额外组件可包含在图像捕获装置302中。在一些实施例中,上文所描述的或经描述为包含在图像捕获装置302中的组件中的一或多者可组合或整合到图像捕获装置302的任何其它组件中。
图像捕获装置302可为以下各项或可为其部分:移动电话、数字照相机、平板计算机、个人数字助理、笔记本电脑、个人照相机、动作照相机、安装式照相机、连接式照相机、可穿戴装置、汽车、无人机等等。图像捕获装置302还可为静态计算装置或其中TOF***317将为有利的任何装置。多个应用程序在图像捕获装置302上对用户可用。这些应用程序可包含传统摄影学及视频应用程序,高动态范围成像、全景照片及视频,或立体成像(例如3D图像或3D视频)。
仍参考图3,图像捕获装置302包含用于捕获目标对象及/或场景的图像的照相机/透镜(“照相机”)315。照相机315可包含至少一个传感器、将从图像捕获装置302的视野(FOV)(例如,照相机315的FOV)接收的光聚焦到至少一个传感器(例如,CMOS或CCD传感器)的至少一个光学成像组件、耦合到至少一个光学成像组件的AF模块365,及耦合到至少一个光学成像组件的AEC模块360。在一些实施例中,图像捕获装置302可包含多于一个照相机。照相机315可耦合到图像处理器320以将所捕获图像传输到图像处理器320。在此实施例中,通过图像处理器320传达来往照相机315的信号。
图像捕获装置可包含闪光灯316。在一些实施例中,图像捕获装置302可包含至少两个闪光灯。闪光灯316可包含例如闪光灯泡、反射体、几何光图案产生器或LED闪光灯。图像处理器320可经配置以从闪光灯316接收并传输信号以控制闪光灯。
图像处理器320可进一步耦合到TOF***317。在一些实施例中,TOF***317可包含两个组件,如上文所描述。在一些实施例中,TOF***317可包含光发射极318及光传感器319。光发射极318可经配置以从TOF***317发出辐射(例如,光)。为便于描述,从TOF***317发出的任何辐射将被称作包含可见及不可见辐射的“光”。光经引导于图像捕获装置302的目标对象处。光传感器319经配置以在由光发射极318发出的光已从对象反射之后感测所述光。在一些实施例中,光传感器319可经配置以感测从场景的多个目标对象反射的光。
如图3中说明,图像处理器320连接到存储器330及工作存储器305。在所说明实施例中,存储器330可经配置以存储捕获控制模块335、距离/反射比模块340、操作***345、飞行时间(TOF)模块355、AEC模块360及AF模块365。在一些实施例中可包含额外模块,或在一些实施例中可包含较少模块。这些模块可包含配置图像处理器320以执行各种图像处理及装置管理任务的指令。工作存储器305可由图像处理器320用于存储包含在存储器330的模块中的一或多者中的处理器指令或功能的工作集。工作存储器305可由图像处理器320用于存储在图像捕获装置302的操作期间所形成的动态数据(例如,一或多个目标对象距离测量或FOV距离测量阵列、一或多个目标对象的反射比或FOV反射比测量阵列,曝光估计、焦点估计,等)。虽然此图中可能未展示额外模块或到外部装置或硬件的连接,但其可能存在以提供其它曝光及聚焦调整及估计选项或动作。
如上文所提及,图像处理器320可通过存储在存储器330中的数个模块配置或可经配置以结合所述数个模块操作。捕获控制模块335可包含控制图像捕获装置302的整个图像捕获功能的指令。例如,捕获控制模块335可包含配置图像处理器320以使用照相机315捕获目标对象的原始图像数据的指令。捕获控制模块335还可经配置以在捕获原始图像数据时激活闪光灯316。在一些实施例中,捕获控制模块335可经配置以将所捕获原始图像数据存储在电子存储模块310中或在显示器325上显示所捕获原始图像数据。在一些实施例中,捕获控制模块335可引导所捕获原始图像数据以存储在工作存储器305中。在一些实施例中,捕获控制模块335可调用存储器330中的其它模块中的一或多者,例如,距离/反射比模块340、TOF模块355、AEC模块360或AF模块365。
距离/反射比模块340可包括允许图像处理器320或装置处理器350计算、估计或以其它方式确定到目标对象的距离与反射比或图像捕获装置302的FOV的指令。距离/反射比模块340可包含用于使用TOF***317、照相机315及时钟351来识别目标对象的距离的指令。在识别到目标对象的距离及其反射比时,距离/反射比模块340可经配置以确定到目标对象的距离。因此,距离/反射比模块340可包括经由光发射极318发出光信号及经由光传感器319感测光信号从目标对象的反射的指令。指令可进一步指示时钟351测量光信号的发出与光信号的反射的感测之间的时间。基于在光发射极318发出的光信号时与在光传感器319感测到光信号反射时之间流逝的时间量,距离/反射比模块340可包括用以例如使用上文的方程式1确定光信号所行进的距离的指令。距离/反射比模块340可进一步包括用于确定多个点在图像捕获装置302的FOV中的距离及用于形成距离阵列的指令。本文中所含有的指令可包含识别图像捕获装置302的FOV内的多个点或位置中的每一者的距离(如上文针对目标对象所描述)且将阵列存储在例如工作存储器305或电子存储模块310中的一者中。
另外,距离/反射比模块340可包括用于确定目标对象的反射比或图像捕获装置302的FOV内的点阵列的指令。如上文关于距离指令所描述,距离/反射比模块340可进一步包括用于经由TOF***317的光发射极318发出光信号及经由光传感器319感测反射光信号的指令。基于从目标对象反射的光的能量,距离/反射比模块340可识别目标对象的反射比。另外,本文中所包含的指令可指示距离/反射比模块340以识别图像捕获装置302的FOV内的多个点或位置中的每一者的反射比,且可提供所识别反射比值的存储或显示。
在一些实施例中,距离/反射比模块340可进一步包括用于产生下文参考图5B所描述的离线配置数据的指令。
AEC模块360可包括允许图像处理器320或装置处理器350计算、估计或调整照相机315且因此图像捕获装置302的曝光的指令。AEC模块360可包含允许上文参考图1及下文参考图5A及5B所描述的曝光估计的指令。因此,AEC模块360可包括用于使用TOF***317(包含光发射极318及光传感器319)、照相机315、时钟351及闪光灯316来识别及/或估计非闪光曝光、预闪曝光及闪光曝光的指令。另外,AEC模块360可包含用于将照相机315的曝光调整至非闪光曝光、预闪曝光及闪光曝光中的至少一者的指令。在一些实施例中,AEC模块可进一步包括用于以照明的非闪光、预闪光及主闪光水平来照明闪光灯的指令。
由于如由图像捕获装置302捕获的目标对象的亮度与图像捕获装置302的曝光直接相关,因此可在未照明闪光灯时但图像捕获装置302接通的任何时间识别图像捕获装置302的非闪光曝光。因此,在一些实施例中,AEC模块360可经配置以基于目标对象的亮度不断地监视图像捕获装置302的曝光。AEC模块360可与捕获控制模块335及操作***345中的一或多者整合或以其它方式与其通信,且替代地根据上文所描述的方法捕获图像。然而,如上文所描述,闪光灯316与AEC模块360的使用可在图像的捕获中引起不必要延迟。
替代地,TOF***317可替代仅单个点而提供FOV的不同部分的深度及SNR信息。AF模块365及AEC模块360可利用来自TOF***317的此信息且采用某些策略及方法来在FOV的各种位置处实现目标对象的最佳曝光及聚焦。例如,如果拍摄人的人物照片,且人并非站在图像的中心而是偏离中心,例如在FOV的左数第三处,那么TOF***317可准确地检测人的位置(假设人为最接近于照相机的对象)。因此,AF模块365及AEC模块360可选择聚焦于最近对象(在此状况下为人)并曝光其。
仍参考图3,操作***345可配置图像处理器320以管理工作存储器305及图像捕获装置302的处理资源。例如,操作***345可包含装置驱动器以管理硬件资源,例如照相机315、闪光灯316及TOF***317。因此,在一些实施例中,上文及下文所论述的处理模块中所含有的指令可不会与这些硬件资源直接交互,但替代地经由位于操作***345中的标准子例程或API与此硬件交互。操作***345内的指令可接着与这些硬件组件直接交互。操作***345可进一步配置图像处理器320以与装置处理器350分享信息。操作***345还可包含允许在图像捕获装置的各种处理模块之间分享信息及资源的指令。
AF模块365可包含配置图像处理器320以调整照相机315的焦点位置的指令。AF模块365可在一些实施例中包含配置图像处理器320以执行焦点分析且自动地确定焦点参数的指令,且可在一些实施例中包含配置图像处理器320以对用户输入焦点命令做出响应的指令。在一些实施例中,AF模块365可使用来自光发射极318及光传感器319的信息来确定目标对象(或图像捕获装置的FOV内的一或多个点或位置)位于特定距离及恰当焦点处的时间。在一些实施例中,AF模块365可包含用于基于从闪光灯316发出及从目标对象或FOV内的一或多个点或位置在光传感器319处接收的光而识别并调整照相机315的焦点的指令。在一些实施例中,AF模块365可经配置以接收来自捕获控制模块335、距离/反射比模块340、AEC模块360、TOF模块355,或来自图像处理器320或装置处理器350中的一者的命令。
AF模块365可经配置以仅在预闪周期期间执行搜索算法且在非闪光周期期间不执行任何功能。因此,如果将来自TOF***317的信息提供到AF模块365,那么可减少由AF模块365执行自动聚焦功能所花费的时间量。
在图3中,装置处理器350可经配置以控制显示器325向用户显示所捕获的图像,或所捕获的图像的预览(包含所估计曝光及焦点设置)。显示器325可在图像捕获装置302外部或可为图像捕获装置302的部分。显示器325还可经配置以提供寻像器(viewfinder),所述寻像器在捕获目标对象的图像之前向用户显示预览图像,或可经配置以显示存储于工作存储器305或电子存储模块310中或最近由用户捕获的所捕获图像。显示器325可包含面板显示器,例如,LCE屏幕、LED屏幕,或其它显示技术,且可实施触敏技术。装置处理器350还可经配置以接收来自用户的输入。例如,显示器325还可经配置成为触摸屏,且因此可经配置为接收来自用户的输入。用户可使用显示器325来输入处理器可提供到距离/反射比模块340或TOF模块355或AEC模块360或AF模块365的信息。例如,用户可使用触摸屏来从在显示器325上展示的FOV选择目标对象或设置或确立图像捕获装置302的曝光水平及焦点设置。装置处理器350可接收所述输入并将其提供到恰当模块,所述模块可使用输入来选择执行封围于其中的指令(例如在距离/反射比模块340处确定目标图像的距离或反射比,在AF模块365处确定目标图像的焦点,等)。
在一些实施例中,装置处理器350可经配置以控制存储器330中的处理模块中的一或多者或接收来自存储器330中的处理模块中的一或多者的输入。TOF模块355可经配置以与TOF***317交互。TOF模块355可包括用于如本文中所描述应用方程式1及2来基于由TOF***317执行的测量及动作而确定各种参数及值的指令。例如,TOF模块355可包含用于确定由光发射极318发出的信号行进的距离或包含用于与TOF***317及光发射极318以及光传感器319交互及/或控制其的软件的方程式。在一些实施例中。TOF模块355可经配置以存储或获取下文所描述的离线配置信息。在一些实施例中,装置处理器350或TOG模块355可选择多个方程式供与TOF***317使用且可基于所发出及所感测光信号而确定使用方程式中的一或多者来识别所要参数。
装置处理器350可将数据写入到电子存储模块310,例如表示所捕获图像的数据。虽然电子存储模块310以图形方式表示为传统磁盘装置,但在一些实施例中电子存储模块310可经配置为任何存储媒体装置。举例来说,电子存储模块310可包含磁盘驱动,例如,软盘磁盘驱动、硬磁盘驱动、光学磁盘驱动或磁光盘驱动,或固态存储器,例如快闪(FLASH)存储器、RAM、ROM及/或EEPROM。电子存储模块310还可包含多个存储器单元,且存储器单元中的任一者可经配置以位于图像捕获装置302内,或可在图像捕获装置302外部。举例来说,电子存储模块310可包含ROM存储器,所述ROM存储器含有存储在图像捕获装置302内的***程序指令。存储模块310还可包含经配置以存储可从照相机移除的所捕获的图像的存储卡或高速存储器。
尽管图3描绘具有单独组件的装置300以包含处理器、成像传感器及存储器,但在一些是实例中这些单独组件可以各种方式组合以实现特定设计目的。举例来说,在替代实施例中,存储器组件可与处理器组件组合以节省成本且改进性能。
另外,尽管图3说明多个存储器组件,包含包括数个处理模块的存储器330及包括工作存储器305的单独存储器,但在一些实施例中,可利用不同存储器架构。举例来说,设计可利用ROM或静态RAM存储器来存储实施含于存储器330中的模块的处理器指令。可将处理器指令载入到RAM中以促进由图像处理器320执行。举例来说,工作存储器305可包括RAM存储器,其中指令在由图像处理器320执行前经载入到工作存储器305。在一些实施例中,处理模块中的一或多者可为存储在存储器330中的软件或可包括与软件组件组合的硬件***。此外,上文与图像处理器320及装置处理器350中的一者相关联的功能可由图像处理器320及装置处理器350中的另一者或图像处理器320及装置处理器350两者执行,但上文并未如此描述。
在一些实施例中,图像处理器320可经进一步配置以在捕获图像之前、在捕获图像时及在捕获图像之后参与以或多个处理操作。例如,在捕获图像之前,图像处理器320可经配置以执行上文所描述的过程中的一或多者(例如,估计及调整照相机315的曝光及焦点)。在一些实施例中,图像处理器320可经配置以结合LED闪光灯、TOF***317、距离/反射比模块340、TOF模块355、AEC模块360及AF模块365中的一或多者调整图像捕获装置302(具体来说照相机315)的曝光及焦点。图像处理器320可因此经配置以使得图像捕获装置302能够以如用户所要的恰当设置(曝光及焦点)捕获目标对象或FOV的图像。
在一些实施例中,图像处理器320可与照相机315的曝光及焦点的调整及估计有关及/或控制所述调整及估计。图像处理器320可经配置以控制闪光灯316、照相机315、AEC模块360、距离/反射比模块340以确立所估计闪光曝光(如上文关于图1A所描述)。因此,图像处理器320可在来自闪光灯316的任何照明之前监视目标对象的亮度(如图2中所提及,监视目标对象210的亮度可包含使用照相机315来在无来自闪光灯316的光的情况下监视目标对象及检测或识别目标对象或环境的亮度)。图像处理器320可接着控制闪光灯316以发出预闪水平的光且基于从AEC模块360接收的命令及输入而调整图像捕获装置302的曝光。一旦达到预闪曝光,图像处理器320可关闭闪光灯316且设置图像捕获装置302的曝光以如由AEC模块360计算的闪光曝光。接着,图像处理器320可以主闪光光水平激活闪光灯316且捕获目标对象210的图像。
替代地,或另外,图像处理器320可经配置以在执行上文所论述的步骤之前产生所估计预闪曝光。例如,图像处理器320可经由TOF模块355、TOF***317及距离/反射比模块340中的一或多者配置以执行对目标对象或FOV内的点或位置阵列的距离与反射估计。如本文中所描述,距离与反射估计可基于在从光发射极318发出的光(或光信号)时与在光传感器319接收返回光信号(在从目标对象或在FOV内的点或位置反射之后)时之间流逝的时间量。在执行TOF反射比及估计之前、同时或之后,图像处理器320还可在来自闪光灯316的任何照明之前监视目标对象的亮度,如上文关于非闪光周期所论述,此可涉及在无来自闪光灯316的任何照明的情况下监视如由照相机315接收的亮度水平以识别图像捕获装置302的非闪光曝光(仅环境光)。图像处理器320可接着组合从TOF***317接收的信息(距离与反射比)与非闪光曝光以产生预闪曝光估计。在一些实施例中,预闪曝光估计可涉及参考离线预校准值,所述离线预校准值将在下文进一步详细论述。在一些实施例中,预闪曝光估计可足够准确使得图像处理器320可跳过上文所描述预闪曝光调整且直接继续进行估计闪光曝光供在图像捕获期间使用。在一些实施例中,TOF距离估计可在估计供在利用主闪光灯的图像捕获期间使用的闪光曝光之前与预闪曝光调整组合。
在一些实施例中,图像处理器320可使用由TOF***317、TOF模块355及距离/反射比模块340提供的TOF距离估计来改进对图像捕获装置302的焦点的估计且减少在预闪周期期间响应于闪光灯316而调整图像捕获装置302(具体来说,照相机/透镜(“照相机”)315)的焦点所需要的时间,其中可响应于如由照相机315观看的目标对象的亮度而调整照相机315的焦点。类似地,如上文对曝光估计所描述,图像处理器320可经配置以估计照相机315的预闪焦点,且可结合较少的预闪焦点调整及估计周期或替代预闪焦点调整及估计周期来使用所述估计。
替代地,或另外,图像处理器320可仅响应于来自图像捕获装置302的一或多个其它组件或模块的指令而动作。例如,AEC模块360或AF模块365可将指令发布到图像捕获装置302的其它组件以允许AEC模块360基于上文所描述的方法中的任一者(具有或不具有TOF***输入)而计算所估计闪光曝光或允许AF模块365如上文所描述计算所估计焦点。另外,可使用各种硬件(例如,图像信号处理器(ISP))基于实时来自传感器的图像数据而收集统计量。例如,所收集统计量可为特定大小网格(例如64×48)上的所有区域的和及平均数。所收集统计量还可包含图像数据的直方图。
图4A为说明目标对象与成像装置之间的距离与曝光之间的关系的曲线图400。曲线图400的x轴指示目标对象与照相机之间的距离(以厘米(cm)为单位),而曲线图400的y轴表示照相机的所确定“正确”(相对)曝光水平。例如,曲线图400展示预闪曝光信息对目标对象的距离的实例。图4B为与曲线图400相关联的图表425且说明关于距离426的信息的实例、关于曝光427的信息的实例及关于TOF传感器数据(例如信噪比(SNR)431)的信息的实例。曲线图400及图表425包括从测试所识别的实验数据及所揭示的各种方面非比较。图表425包含各种列:距离426包含目标对象与照相机之间的距离,对应于LED AEC估计数据的三个列包含描绘目标对象的预闪曝光的曝光427、描绘目标对象的预闪明度的明度428及包含预闪周期持续的时间量的预闪时间列429(以秒为单位(例如,照相机达到曝光427的曝光所花费的时间))。图表425还包含包括TOF***数据的列,包含测量距离430,包含如由TOF***所测量的目标对象与照相机之间的距离(以毫米为单位),以及指示如由TOF***识别的信噪比(SNR)的SNR 431。图表425还具有对应于不同距离(以厘米为单位)的四个行。距离包含10cm、17cm、27cm及43cm。
如在曲线图400中所展示,在目标对象与照相机之间的距离较小时,预闪曝光较低,这是因为在目标对象接近照相机时,来自闪光灯的光对如由照相机所看到的目标对象的亮度具有较大影响,且预闪曝光水平较低。对应地,随着照相机与目标对象之间的距离增加,曝光水平增大,这是因为来自闪光灯的光对如由照相机所看到的目标对象的亮度具有较少影响,且曝光水平必须较高以用给定亮度水平捕获图像。因此,如曲线图400及图表425中所展示,在目标对象距照相机10cm的距离时,照相机的预闪曝光可为249。在目标对象距照相机17cm的距离时,照相机的预闪曝光可为279。类似地,在距离为27cm时,预闪曝光可为302,且在距离为43cm时,预闪曝光可为340。图表425的明度(亮度)428指示假定给定距离下曝光427的预闪曝光水平如由照相机所看到的目标对象的明度。明度为预闪过程结束时的最终明度,且其对应于预闪曝光指数。例如,10cm距离下的目标对象的预闪明度为58,而17cm距离下的目标对象的预闪明度为55,在距离27cm为49,且在距离43cm为62。因此,如上文所描述,由于目标对象距照相机较远,因此所得预闪曝光可较高以获得相同或类似亮度水平。
预闪时间列429提供在AEC***将照相机的曝光调整成预闪曝光水平时流逝的时间。如通过在预闪时间列429的值对应于各种距离时比较所述值所见,时间随预闪曝光增加而减少。例如,在目标对象的距离为10cm且预闪曝光为249时,时间为0.675秒,但在目标对象距照相机43cm且预闪曝光为340时仅为0.447秒。此展示预闪曝光调整所损失的时间与所执行的曝光调整的量直接相关联。
所测量距离430指示目标对象与照相机之间的距离,如由TOF***所确定。通过比较所测量距离430与距离426,明白TOF提供目标对象与照相机之间的距离的准确测量。在此数据中,经由TOF***的所测量值偏离一厘米以下(距距离426 27cm对距测量距离430261.5mm)。最终,SNR 431将SNR描绘为由TOF***识别。SNR从照相机与目标对象之间的距离10cm下的60.8下降到照相机与目标对象之间的距离43cm下的1.7。
图4C根据示范性实施例描绘说明预闪曝光对信噪比,说明给定距离下具有变化反射比值的目标对象的预闪曝光的曲线图450。曲线图450的x轴指示目标对象的颜色(或反射比值),而曲线图450的y轴表示照相机的曝光水平。图4D为说明与图4C相关联的信息的图表475。曲线图450及图表475包括从测试及所揭示的各种方面的比较识别的实验数据。曲线图450描绘预闪曝光对目标对象的反射比。图表475包含各种列:对象476包含目标对象的颜色(反射比),对应于LED AEC估计数据的三个列包含描绘目标对象的预闪曝光信息的预闪曝光477、描绘目标对象的预闪明度信息的明度478及包含预闪周期持续的时间量的信息的预闪时间列479(以秒为单位(例如,照相机达到预闪曝光477的曝光所花费的时间))。图表475还包含包括TOF***数据的列,包含测量距离480(包含如由TOF***所测量的目标对象与照相机之间的距离(以毫米为单位))及指示如由TOF***识别的信噪比(SNR)的信噪比(SNR)481。图表475还具有对应于具有不同反射比值(以厘米为单位)的目标对象的不同颜色的三个行。颜色包含白色、灰色及黑色。
如曲线图450中所展示,在目标对象的信噪比较大时,预闪曝光值较低。如上文所描述,此可因为在目标对象具有较高反射比时,从目标对象反射的返回信号较高,且具有较高反射比的目标对象需要比具有较低反射比的那些少的曝光。此对应于上文对在目标对象较多反射(例如,具有较高反射比)时,闪光灯可影响照相机的曝光的描述。
如曲线图450及图表475中所展示,预闪曝光477对应于对象476中的目标对象的曝光(或颜色/材料)。例如,白色对象(具有比灰色或黑色目标对象高的反射比)具有较低曝光值249,而灰色及黑色目标对象分别具有曝光值313及343。这些值符合本文中对具有较高反射比值的目标对象可使用比具有较低反射比值的目标对象低的曝光值的论述。另外,明度478的明度(亮度)值指示如由照相机所看的目标对象的亮度量。如所展示,白色目标对象、黑色目标对象及灰色目标对象全部出于可比较值(分别为58、17及78)。在一些实施例中,可使用算法来操纵明度在合理范围内。例如,白色、黑色及灰色目标对象的明度值(分别为58、17及78)可各自被视为合理值。另外,在图表475中,随着明度478的预闪亮度增加,预闪时间479减少。另外,如曲线图450中所展示,SNR481中的目标对象中的每一者的SNR随着预闪曝光477的曝光水平增大而减少(249的曝光水平具有SNR 60.8,而313及344的曝光分别具有40.4及21.2的SNR)。如图10中所展示,SNR可与目标对象的反射比相关(例如,在大约相同距离下,白色目标对象具有比灰色对象高的SNR,灰色目标对象具有比黑色目标对象高的SNR)。如图10中所展示,与SNR相比,明度及预闪时间值可与预闪曝光具有较少相关性。
所测量距离480指示目标对象与照相机之间的距离,如由TOF***所确定。如所测量距离480中所展示,对象476的目标对象全部在彼此1cm内(白色经测量在100.6mm处,灰色在102.3mm处且黑色在106.1mm处)。最终,SNR 481将SNR描绘为由TOF***识别。SNR从白色目标对象的60.8下降到黑色目标对象的21.2。
图5A描绘成像装置可经配置以实施的用于使用未利用TOF或激光传感器的照相机基于LED闪光自动曝光校正而估计闪光曝光的过程500的框图,如上文所描述。如所描绘,过程500包含上文所描述的所估计闪光曝光的识别中所涉及的四个框。过程500在框505处以确定非闪光曝光开始。框505的非闪光曝光可对应于上文对在闪光灯未以任何水平作用时识别照相机的曝光的识别的论述。例如,此可在照相机接通但未从闪光灯316发出光时发生。非闪光曝光可经识别且存储供稍后使用。一旦在框505处确定非闪光曝光,过程500继续进行到框510及515,所述框可同时操作。
框510包含以预闪水平激活照相机的闪光灯。此可包含例如控制闪光灯以用小于全闪光水平照明目标对象。虽然以预闪水平激活闪光灯,但框515调整照相机的曝光到预闪曝光水平。在一些实施例中,预闪曝光水平可经调整使得明度在规定范围内(例如,如上文所描述,58、17及78中的每一者可在规定范围内)。在一些实施例中,反射比、目标对象的距离及预闪曝光水平可经调整以使明度值在规定范围内。此调整可由上文所描述的AEC模块或由经配置以控制照相机的曝光的任何其它模块执行。在框510及515期间,照相机可不捕获任何图像。替代地,照相机可仅监视目标对象及/或环境的亮度且根据所监视亮度将其曝光调整成目标曝光水平。另外,可存储预闪曝光供稍后使用。例如,AEC模块360可使用预闪及主闪光亮度比率(预定义/确定的某一值)连同所存储预闪曝光水平以估计最终闪光图像上的所要曝光水平。在一些实施例中,主闪光可比预闪光明亮(亮度比率>1),因此AEC模块360将使曝光水平从预闪曝光水平降低以使得最终图像可经恰当曝光。在一些实施例中,照相机的曝光的调整可由曝光算法执行。一旦在框515处确定预闪曝光,过程500继续进行到框520。
框520包含估计主闪光照明的照相机的曝光。此可由上文所描述曝光算法或AEC模块执行。曝光算法可经配置以利用在框505处获取的非闪光信息及在框515处获取的预闪曝光信息,经由上文所描述的所收集统计信息计算目标对象的亮度(具体来说,包含目标对象的帧的亮度,如由照相机所看同时由LED照明)。曝光算法可在由主闪光驱动电流(基本上大于预闪驱动电流)照明时进一步外推目标对象及场景的亮度。此外推亮度可表示在全电流(例如,主闪光驱动电流)下照明的主闪光灯时预期的目标对象或场景的所估计亮度水平。可接着使用所外推亮度将照相机的曝光设置成恰当水平使得目标或场景不会过曝光或欠曝光(例如,以使得捕获目标或场景处于恰当亮度)。一旦确定所估计闪光曝光,过程500结束。在一些实施例中,可存储所识别亮度及/或曝光供稍后使用。
图5B为说明成像装置可经配置以实施的用于通过例如如上文所描述结合AEC模块利用TOF***或激光传感器的照相机基于目标对象的所确定距离与反射比而估计闪光曝光的过程550的框图。如所描绘,过程550包含所估计预闪光的识别中所涉及的四个框,但可包含任选的第五框(但本文中未展示)。过程550以同时操作的框555及560开始。框555包含使用TOF***估计到目标对象的距离。
在一些实施例中,目标对象的距离的确定可仅包含基于目标对象的中心或照相机的FOV的中心的单个距离估计。在一些实施例中,可使用跨越照相机的FOV分布的各种点的距离信息的阵列来确定目标对象的距离。例如,TOF***可将光发出到FOV周围的各种位置且感测来自各种位置的光以产生距离信息阵列。在一些实施例中,照相机可接着对来自阵列的距离信息求平均以确定图像的距离。在一些实施例中,照相机可基于来自对应于FOV内的目标对象的位置的阵列中的点处的阵列的距离信息而识别FOV内的特定距离(如由用户选择,例如,在选择焦点时,等)处的目标对象的距离图像。
成像装置可经配置以使用TOF***确定目标对象的反射比。可基于从TOF发射极发出及由TOF传感器接收的光的返回能量而确定反射比。返回能量越大,目标对象的反射比越大,如上文所描述。类似于上述距离信息,反射比的确定可包含FOV的阵列的反射比的确定,其中可确定及/或计算FOV内的多个位置的反射比。
与TOF***距离估计同时,照相机可经配置以在框560处识别非闪光曝光。框560处非闪光曝光可类似于或相同于上文关于图5A所描述的框505处的非闪光曝光。框560的非闪光曝光可与框555的TOF距离估计同时确定,这是因为TOF***不利用影响目标对象或FOV的亮度的光。因此,由TOF***发出的光(例如,IR光)不影响在曝光检测期间由照相机所看的目标对象或FOV的亮度,且因此可与TOF***距离估计同时地执行非闪光曝光检测。在一些实施例中,可与任何TOF***估计同时地执行由照相机进行的曝光测量。一旦框555及560完成,过程550继续进行到框565。
图5B的照相机在框565处估计预闪曝光。照相机可使用框555处所识别的TOF距离估计及框560的非闪光曝光来在预闪周期之前计算初始预闪曝光,如上文所描述。在进入预闪周期之前应用所估计初始预闪曝光可减少照相机在预闪周期中可能花费的时间量,这是因为照相机的曝光将处于较接近于恰当预闪曝光的水平,因此减少在预闪周期期间需要的曝光调整。如上文所描述,在照相机使用预闪周期来调整非闪光曝光以达到预闪曝光时,照相机可至少取决于至少环境照明、目标对象与照相机之间的距离及目标对象的反射比来大量调整曝光。然而,由于框555及560提供目标对象的距离与反射比,框565可提供以所要亮度水平捕获目标装置的图像所需要的照相机的曝光的更准确估计,且应需要调整照相机的曝光小于预闪曝光估计水平。
在一些实施例中,可预校准框565的预闪曝光估计。在一些实施例中,离线预校准可涉及在捕获各种距离下的目标对象时识别照相机的曝光,因此建立各种距离下的目标对象的曝光值的库。在一些实施例中,离线预校准可包括在捕获相同距离下的具有变换反射比的各种目标对象时识别照相机的曝光值,因此建立变化反射比值情况下的距离的曝光值的库。在一些实施例中,预校准可提供有助于框565的预闪曝光估计发展预闪曝光的更准确估计的信息。在一些实施例中,可通过在各种反射比值情况下捕获各种距离下的目标对象来产生库或其它数据库。给定输入距离与反射比或SNR,库或数据库可覆盖所有情景且可允许算法准确地识别库或数据中的正确曝光水平。例如,预校准信息可允许框565在提供TOF距离估计时较佳地估计预闪曝光,因为框565可检阅所估计距离及估计反射比的校准信息中的曝光值。较佳估计可允许框565的预闪曝光估计更准确地估计预闪曝光值,因此进一步缩短照相机在预闪周期中可花费的时间量。
一旦框565完成预闪曝光估计,过程550继续进行到框570,其中照相机进入上文所描述预闪周期(例如,进入过程500的框510及515)。在一些实施例中(在此图中未展示),框565的预闪曝光估计可提供准确预闪曝光估计。因此,过程550可跳过预闪曝光调整周期且在主闪光周期直接继续进行到图像捕获。因此,在一些实施例中,框565的预闪曝光估计可包括分别使用框555及560的TOF距离与反射比估计及非闪光曝光的主闪光曝光估计框。预闪周期的此完全消除可大大地减少由在不与TOF***使用是由上文所描述AEC过程引起的等待时间。
在一些实施例中,照相机可使用框555的TOF距离估计来较佳地估计预闪焦点。例如,在照相机准备捕获图像时,照相机可使用来自TOF距离估计的信息来产生减少照相机花费聚焦于目标对象的时间量的更准确预闪焦点估计,但照相机可仍继续进行到预闪周期。
图6为根据一些实施例的说明用于确定曝光的方法600的实例的流程图。方法600可在框602处开始且继续进行到框604。在框604处,方法600可经由TOF***发出光信号到目标对象。TOF***可包括TOF***214/317(包含光发射极及光传感器两者),如上文关于图2及3所描述。在一些实施例中,TOF***可为图像捕获装置(例如,分别在图2及3中所展示的图像捕获装置202及302)的部分。TOF***可经由处理器(例如,图像处理器320或装置处理器350中的一者)或经由上文关于图3所描述的模块中的任一者控制。一旦已产生光信号且将其发出朝向目标对象,方法600继续进行到框606。
在框606处,方法600经由光传感器(例如分别如图2及3中所提及光传感器220/318)感测所发出光信号从目标对象的反射。在一些实施例中,TOF***的光传感器可将关于所接收反射的信息传递到图像捕获装置的处理器或可将信息存储在存储器(例如,工作存储器305或电子存储模块310)中。替代地,可将来自光传感器的信息传递到如图3中所展示的图像捕获装置302中的模块中的任一者。一旦所反射光由TOF***的光传感器感测到,方法600继续进行到框608。
在框608处,方法600基于如由光传感器感测的所发出光信号的反射确定返回能量。返回能量可由光传感器自身确定或可由处理器中的一者确定。替代地,或另外,可通过图3的图像捕获装置302的模块(例如,距离/反射比模块340或TOF模块355)中的一或多者进行所发出光信号的反射而确定返回能量。一旦方法600基于所发出光信号的反射而确定反射能量,方法600继续进行到框610。在框610处,方法600测量在光信号由TOF***的光发射极发出时与在TOF***的光传感器感测到所发出光信号从目标对象的反射之间的时间。在一些实施例中,时间的量测可由处理器或由图3的图像捕获装置302的模块中的一者(例如,距离/反射比模块340或TOF模块355)执行。在一些实施例中,时间的测量可涉及时钟351。在一些实施例中,测量的结果可存储在存储器中或传递到处理器或相关联模块中的任一者。一旦已测量时间,方法600继续进行到框612。
在框612处,方法600基于所测量时间而确定目标对象与TOF***之间的距离。在一些实施例中,此确定可由TOF***自身或处理器中的一者执行。在一些实施例中,确定可由图像捕获装置302的距离/反射比模块340做出。在一些实施例中,所确定距离可存储在存储器中的一者中或可由模块或处理器中的一者立即使用。一旦框612完成,方法600继续进行到框614。在框614处,方法600基于返回能量识别目标对象的反射比。在一些实施例中,反射比可由距离/反射比模块340或TOF***识别。在一些实施例中,处理器中的一者或其它模块中的一者可经配置以基于所感测反射及所识别环境或非闪光照明而识别目标对象的反射比。在一些实施例中,可基于如由光传感器所感测到的返回能量而确定反射比。在一些实施例中,识别反射比还可并入一或多个其它所测量、识别或确定参数(例如,环境光曝光,等)。一旦在框614处确定反射比,方法600继续进行到框616。
在框616处,方法600基于所确定距离及所识别反射比而确定目标对象的曝光水平。在一些实施例中,曝光水平的确定可由AEC模块360或处理器中的一者或图3的其它模块中的一者执行。在一些实施例中,曝光水平可由光传感器确定。在一些实施例中,曝光水平可存储在存储器中的一者中或可立即传递到图3的图像捕获装置302的模块中的一者。一旦确定曝光水平,方法600在框618处结束。
在一些实施例中,上文所描述的所确定、所识别、所测量或所产生值或量可例如在显示器325(如由图3所提及)上显示,或存储在工作存储器305或电子存储模块310中或由处理器中的一者处理。
如本文中所使用,术语“确定”囊括广泛各种动作。例如,“确定”可包含运算、计算、处理、导出、调查、查找(例如,在表、数据库或另一数据结构中查找),确定等等。另外,“确定”可包含接收(例如,接收信息)、存取(例如,存取存储器中的数据)等等。此外,“确定”可包含解析、选择、挑选、建立等等。此外,如本文中所使用“信道宽度”在某些方面中可囊括或还可被称作带宽。
如本文中所使用,关于一系列物项"中的至少一者"的短语是指那些物项的任何组合,包含单个部件。作为实例,“以下各项中的至少一者:a、b或c”意欲涵盖:a、b、c、a-b、a-c、b-c及a-b-c。
上文所描述的方法的各种操作可由能够执行操作的任何合适的装置(例如,各种硬件及/或软件组件、电路及/或模块)执行。通常,图中所说明的任何操作可由能够执行操作的对应功能装置执行。
如本文中所使用,术语接口可指经配置以将两个或多于两个装置连接在一起的硬件或软件。例如,接口可为处理器或总线的部分且可经配置以允许装置之间的信息或数据的通信。接口可整合到芯片或其它装置中。例如,在一些实施例中,接口可包括经配置以在装置处接收来自另一装置的信息或通信的接收器。(例如,处理器或总线的)接口可接收由前端或另一装置处理的信息或数据或可处理所接收信息。在一些实施例中,接口可包括经配置以将信息或数据传输或传递到另一装置的传输器。因此,接口可传输信息或数据或可准备信息或数据以用于输出用于传输(例如,经由总线)。
结合本发明所描述的实施例所描述的各种说明性逻辑块、模块及电路可通过以下各项来实施或执行:通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、场可编程门阵列信号(FPGA)或其它可编程逻辑装置(PLD)、离散门或晶体管逻辑、离散硬件组件或其经设计以执行本文中所描述的功能的任一组合。通用处理器可为微处理器,但在替代方案中,处理器可为任何市售处理器、控制器、微控制器或状态机。还可将处理器实施为计算装置的组合,例如DSP与微处理器的组合、多个微处理器、结合DSP核心的一或多个微处理器或任一其它此类配置。
在一或多个方面中,所描述的功能可以硬件、软件、固件或其任一组合来实施。如果以软件予以实施,那么所述功能可作为一或多个指令或代码而存储于计算机可读媒体上或经由计算机可读媒体进行传输。计算机可读媒体包含计算机存储媒体及通信媒体两者,包含促进将计算机程序从一个地方传送到另一地方的任一媒体。存储媒体可为可由计算机存取的任何可用媒体。通过实例的方式且非限制性,此些计算机可读媒体可包括RAM、ROM、EEPROM、CD-ROM或其它光学磁碟存储装置、磁盘存储装置或其它磁性存储装置或可用于以指令或数据结构的形式存储所要程序代码且可由计算机存取的其它媒体。此外,可将任何连接适当地称为计算机可读媒体。举例来说,如果使用同轴电缆、光缆、双绞线、数字订户线(DSL)或例如红外线、无线电及微波等无线技术从网站、服务器或其它远程源传输软件,那么同轴丁阿兰、光缆、双绞线、DSL或例如红外线、无线电及微波等无线技术包含于媒体的定义中。如本文中所使用,磁盘及光盘包含光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软盘及蓝光光盘,其中磁盘通常以磁性方式再现数据,而光盘通过激光以光学方式再现数据。因此,在一些方面中,计算机可读媒体可包括非暂时性计算机可读媒体(例如,有形媒体)。另外,在一些方面中,计算机可读媒体可包括暂时性计算机可读媒体(例如,信号)。上述各项的组合还应包括在计算机可读媒体的范围内。
本文中所揭示的方法包括用于实现所描述方法的一或多个步骤或动作。方法步骤及/或动作可彼此互换而不背离权利要求书的范围。换句话说,除非规定特定次序的步骤或动作,否则具体步骤及/或动作的次序及/或使用可被修改而不脱离权利要求书的范围。
所描述的功能可以硬件、软件、固件或其任一组合来实施。如果以软件予以实施,那么所述功能可作为一或多个指令而存储于计算机可读媒体上。存储媒体可为可由计算机存取的任何可用媒体。通过实例的方式且非限制性,此些计算机可读媒体可包括RAM、ROM、EEPROM、CD-ROM或其它光学磁碟存储装置、磁盘存储装置或其它磁性存储装置或可用于以指令或数据结构的形式存储所要程序代码且可由计算机存取的其它媒体。如本文中所使用的磁盘及光盘包含:光盘(CD)、激光光盘、光学盘、数字多功能光盘(DVD)、软盘及盘,其中磁盘通常以磁性方式再现数据,而光盘借助激光以光学方式再现数据。
因此,某些方面可包括用于执行本文中所呈现的操作的计算机程序产品。例如,此计算机程序产品可包括其上存储(及/或编码)有指令的计算机可读媒体,所述指令被一或多个处理器执行以执行本文中所描述的操作。针对某些方面,计算机程序产品可包含包装材料。
此外,应了解,用于执行本文中所描述的方法及技术的模块及/或其它适当装置可在适用时通过用户终端及/或基站下载及/或以它方式获得。例如,此装置可耦合到服务器以促使用于执行本文中所描述方法的装置的转移。替代地,本文中所描述的各种方法可经由存储装置(例如,RAM、ROM、例如光盘(CD)或软盘物理存储媒体,等)提供,使得用户终端及/或基站可在将存储装置耦合或提供到装置时获得各种方法。此外,可利用用于将本文中所描述的方法及技术提供到装置的任何其它合适的技术。
应理解,权利要求书并不限制于上文所说明的精确配置及组件。可在上文所描述的方法及设备的布置、操作及细节作出各种修改、改变及变化而不会背离权利要求书的范围。
虽然上述针对本发明的方面,但可设想本发明的其它及进一步方面而不背离本发明的基本范围,且本发明的范围是由以下的权利要求书确定。
Claims (30)
1.一种成像设备,其包括:
飞行时间TOF***,其包括:
发射极,其经配置以发出光信号,以及
感测***,其经配置以感测所述所发出光信号从目标对象的反射,所述TOF***经配置以基于所述所发出光信号的所述反射而确定返回能量;
时钟,其耦合到所述TOF***,所述时钟经配置以测量在发出所述光信号时与在通过所述感测***感测到所述所发出光信号时之间的时间;以及
处理器,其与所述TOF***及所述时钟通信,所述处理器经配置以:
基于所述所测量时间而确定所述目标对象与所述TOF***之间的距离,
基于所述所发出光信号的所述返回能量而识别所述目标对象的反射比,以及
基于到所述目标对象的所述距离及所述目标对象的所述反射比而确定曝光水平。
2.根据权利要求1所述的成像设备,其中所述处理器经进一步配置以基于所述返回能量而识别所述目标对象的信噪比SNR,且其中所述SNR对应于所述目标对象的所述反射比。
3.根据权利要求1所述的设备,其进一步包括经配置以确定所述目标对象在环境光条件下的亮度水平的照相机。
4.根据权利要求3所述的设备,其中所述处理器经进一步配置以基于所述目标对象在环境光条件下的所述亮度而确定所述曝光水平。
5.根据权利要求3所述的设备,其中所述照相机包括用于调整所述照相机的曝光的曝光组件及用于调整所述照相机的焦点的聚焦组件。
6.根据权利要求5所述的设备,其进一步包括经配置以基于所述所确定曝光水平而经由所述曝光组件调整所述照相机的所述曝光的自动曝光控制AEC模块,其中所述AEC模块使用所述所确定曝光水平将所述照相机的所述曝光调整成图像捕获曝光水平。
7.根据权利要求5所述的设备,其进一步包括经配置以基于所述所确定曝光水平而调整所述照相机的所述焦点的自动聚焦AF模块,其中所述AF模块使用所述所确定曝光水平将所述照相机的所述焦点调整成图像捕获焦点水平。
8.根据权利要求1所述的设备,其中所述TOF***经配置以产生针对跨越视野FOV的点或位置的阵列的距离信息及返回能量信息。
9.根据权利要求1所述的设备,其中所述TOF***经配置以跨越视野FOV检测一或多个物项的空间位置。
10.根据权利要求1所述的设备,其中所述处理器经进一步配置以基于所述目标对象与所述TOF***之间的所述所识别距离、所述目标对象的所述所识别反射比及所述目标对象的环境的外部照明条件而导出所述目标对象的暗度。
11.根据权利要求1所述的设备,其中所述处理器经进一步配置以基于校准信息而确定所述曝光水平,其中所述校准信息包括与在多个距离下捕获的第一对象的曝光水平有关的信息或与在固定距离下多个对象的曝光水平有关的信息,所述多个对象中的每一者具有不同反射比。
12.一种用于捕获图像的方法,其包括:
经由飞行时间TOF***发出光信号;
经由所述TOF***感测所述所发出光信号从目标对象的反射;
基于所述所发出光信号的所述反射而确定返回能量;
测量在发出所述光信号时与在感测到所述所发出光信号时之间的时间;
基于所述所测量时间而确定所述目标对象与所述TOF***之间的距离;
基于所述所发出光信号的所述返回能量而识别所述目标对象的反射比;以及
基于到所述目标对象的所述距离及所述目标对象的所述反射比而确定曝光水平。
13.根据权利要求12所述的方法,其进一步包括基于所述返回能量而识别所述目标对象的信噪比SNR,其中所述SNR对应于所述目标对象的所述反射比。
14.根据权利要求12所述的方法,其进一步包括经由照相机确定所述目标对象在环境光条件下的亮度水平。
15.根据权利要求14所述的方法,其进一步包括基于所述目标对象在环境光条件下的所述亮度而确定所述曝光水平。
16.根据权利要求14所述的方法,其进一步包括经由曝光组件调整所述照相机的曝光及经由聚焦组件调整所述照相机的焦点。
17.根据权利要求16所述的方法,其进一步包括经由自动曝光控制AEC模块基于所述所确定曝光水平而经由所述曝光组件调整所述照相机的所述曝光,其中所述AEC模块使用所述所确定曝光水平将所述照相机的所述曝光调整成图像捕获曝光水平。
18.根据权利要求16所述的方法,其进一步包括经由自动聚焦AF模块基于所述所确定曝光水平而调整所述照相机的所述焦点,其中所述AF模块使用所述所确定曝光水平将所述照相机的所述焦点调整成图像捕获焦点水平。
19.根据权利要求12所述的方法,其进一步包括基于所述目标对象与所述TOF***之间的所述所识别距离、所述目标对象的所述所识别反射比及所述目标对象的环境的外部照明条件而导出所述目标对象的暗度。
20.根据权利要求12所述的方法,其进一步包括基于校准信息而确定所述曝光水平,其中所述校准信息包括与在多个距离下捕获的第一对象的曝光水平有关的信息或与在固定距离下多个对象的曝光水平有关的信息,所述多个对象中的每一者具有不同反射比。
21.一种成像设备,其包括:
用于识别光信号的飞行时间TOF的装置,其包括:
用于发出所述光信号的装置;
用于感测所述所发出光信号从目标对象的反射的装置;以及
用于基于所述所发出光信号的所述反射而确定返回能量的装置;
用于测量在发出所述光信号时与在感测到所述所发出光信号时之间的时间的装置;
用于基于所述所测量时间而确定所述目标对象与所述TOF识别装置之间的距离的装置;
用于基于所述所发出光信号的所述返回能量而识别所述目标对象的反射比的装置,以及
用于基于到所述目标对象的所述距离及所述目标对象的所述反射比而确定曝光水平的装置。
22.根据权利要求21所述的成像设备,其中所述反射比识别装置经进一步配置以基于所述返回能量而识别所述目标对象的信噪比SNR,其中所述SNR对应于所述目标对象的所述反射比。
23.根据权利要求21所述的成像设备,其进一步包括经配置以确定所述目标对象在环境光条件下的亮度水平的用于捕获图像的装置。
24.根据权利要求23所述的成像设备,其中所述曝光水平确定装置经配置以基于所述目标对象在环境光条件下的所述亮度而确定所述曝光水平。
25.根据权利要求23所述的成像设备,其中所述图像捕获装置包括用于调整所述图像捕获装置的曝光的装置及用于调整所述图像捕获装置的焦点的装置。
26.根据权利要求25所述的成像设备,其进一步包括用于基于所述所确定曝光水平经由所述曝光调整装置对所述图像捕获装置进行自动曝光控制AEC的装置,其中所述AEC装置使用所述所确定曝光水平将所述图像捕获装置的所述曝光调整成图像捕获曝光水平。
27.根据权利要求25所述的成像设备,其进一步包括用于基于所述所确定曝光水平经由所述焦点调整装置自动聚焦AF所述图像捕获装置的装置,其中所述AF装置使用所述所确定曝光水平将所述图像捕获装置的所述焦点调整成图像捕获焦点水平。
28.根据权利要求21所述的成像设备,其中所述反射比识别装置经进一步配置以基于所述目标对象与所述产生、发出及感测装置之间的所述所识别距离、所述目标对象的所述所识别反射比及所述目标对象的环境的外部照明条件而导出所述目标对象的暗度。
29.根据权利要求21所述的成像设备,其中所述曝光水平确定装置经配置以基于校准信息而确定所述曝光水平,其中所述校准信息包括与在多个距离下捕获的第一对象的曝光水平有关的信息或与在固定距离下多个对象的曝光水平有关的信息,所述多个对象中的每一者具有不同反射比。
30.一种计算机程序产品,其包括其上编码有指令的计算机可读存储媒体,所述指令在被执行时致使设备执行捕获图像的方法,所述方法包括:
经由飞行时间TOF***发出光信号;
经由所述TOF***感测所述所发出光信号从目标对象的反射;
基于所述所发出光信号的所述反射而确定返回能量;
测量在发出所述光信号时与在感测到所述所发出光信号时之间的时间;
基于所述所测量时间而确定所述目标对象与所述TOF***之间的距离;
基于所述所发出光信号的所述返回能量而识别所述目标对象的反射比;以及
基于到所述目标对象的所述距离及所述目标对象的所述反射比而确定曝光水平。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/750,209 US9638791B2 (en) | 2015-06-25 | 2015-06-25 | Methods and apparatus for performing exposure estimation using a time-of-flight sensor |
US14/750,209 | 2015-06-25 | ||
PCT/US2016/029345 WO2016209359A1 (en) | 2015-06-25 | 2016-04-26 | Methods and apparatus for performing exposure estimation using a time-of-flight sensor |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107743590A true CN107743590A (zh) | 2018-02-27 |
CN107743590B CN107743590B (zh) | 2021-05-07 |
Family
ID=56069202
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680033889.0A Active CN107743590B (zh) | 2015-06-25 | 2016-04-26 | 用于使用飞行时间传感器来执行曝光估计的方法及设备 |
Country Status (7)
Country | Link |
---|---|
US (1) | US9638791B2 (zh) |
EP (1) | EP3314299A1 (zh) |
JP (1) | JP6756747B2 (zh) |
KR (1) | KR102604336B1 (zh) |
CN (1) | CN107743590B (zh) |
BR (1) | BR112017027969B1 (zh) |
WO (1) | WO2016209359A1 (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110243397A (zh) * | 2018-03-08 | 2019-09-17 | 西克股份公司 | 检测图像数据的相机和方法 |
CN110346780A (zh) * | 2019-07-31 | 2019-10-18 | 炬佑智能科技(苏州)有限公司 | 飞行时间传感相机及其局部检测精度调整方法 |
WO2020216039A1 (zh) * | 2019-04-23 | 2020-10-29 | 深圳市大疆创新科技有限公司 | 控制装置、摄像***、移动体、控制方法以及程序 |
CN112485807A (zh) * | 2019-08-22 | 2021-03-12 | 丰田自动车株式会社 | 物体识别装置 |
CN112715026A (zh) * | 2018-09-10 | 2021-04-27 | 图森有限公司 | 用于车辆上的飞行时间相机的自适应照射 |
CN113227839A (zh) * | 2018-11-01 | 2021-08-06 | 伟摩有限责任公司 | 具有结构光照明器的飞行时间传感器 |
US11932238B2 (en) | 2020-06-29 | 2024-03-19 | Tusimple, Inc. | Automated parking technology |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI706181B (zh) * | 2015-09-11 | 2020-10-01 | 新加坡商海特根微光學公司 | 具有自動對焦控制的成像裝置 |
US9912861B1 (en) * | 2016-03-02 | 2018-03-06 | Amazon Technologies, Inc. | Systems and methods for determining a depth or reflectance of objects |
US11560091B2 (en) * | 2016-06-13 | 2023-01-24 | Lg Electronics Inc. | Night vision display device |
US10904448B2 (en) * | 2017-07-13 | 2021-01-26 | Motorola Mobility Llc | Controlling flash behavior during capture of image data |
US11294039B2 (en) | 2018-07-24 | 2022-04-05 | Samsung Electronics Co., Ltd. | Time-resolving image sensor for range measurement and 2D greyscale imaging |
CN111372005B (zh) * | 2018-12-25 | 2023-03-24 | 浙江舜宇智能光学技术有限公司 | Tof摄像模组自动曝光补偿方法及其*** |
KR20200091197A (ko) | 2019-01-22 | 2020-07-30 | 엘지이노텍 주식회사 | 카메라 장치 및 그의 오토포커싱 방법 |
JP7214888B2 (ja) * | 2019-03-28 | 2023-01-30 | 華為技術有限公司 | レーダ電力制御方法および装置 |
CN112789522B (zh) * | 2019-09-11 | 2022-03-25 | 华为技术有限公司 | 一种目标物的反射率计算方法、装置及相关设备 |
US11070738B2 (en) * | 2019-10-02 | 2021-07-20 | Qualcomm Incorporated | Infrared-assisted pre-flash |
US11159737B2 (en) | 2019-10-14 | 2021-10-26 | Google Llc | Exposure change control in low light environments |
CN111679289B (zh) * | 2020-05-13 | 2023-05-05 | 奥比中光科技集团股份有限公司 | 一种深度计算***、方法及计算机可读存储介质 |
CN114697560A (zh) * | 2020-12-31 | 2022-07-01 | 浙江舜宇智能光学技术有限公司 | 基于tof成像***的主动曝光方法及曝光时间的计算方法 |
US11630211B1 (en) * | 2022-06-09 | 2023-04-18 | Illuscio, Inc. | Systems and methods for LiDAR-based camera metering, exposure adjustment, and image postprocessing |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2084750A (en) * | 1980-10-06 | 1982-04-15 | Polaroid Corp | Automatic camera |
JP2000347237A (ja) * | 1999-03-31 | 2000-12-15 | Seiko Precision Inc | 露光制御装置および測距装置 |
CN1502047A (zh) * | 2001-02-09 | 2004-06-02 | �����ѧ��ҵ�о���֯ | 激光雷达***和方法 |
EP2017651A2 (en) * | 2007-07-18 | 2009-01-21 | MESA Imaging AG | Reference pixel array with varying sensitivities for TOF sensor |
CN101627280A (zh) * | 2006-11-21 | 2010-01-13 | 曼蒂斯影像有限公司 | 三维几何建模和三维视频内容创建 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1073712C (zh) | 1992-11-30 | 2001-10-24 | 旭光学工业株式会社 | 具有根据焦距自动调节曝光量的装置的小型照相机 |
CA2203278C (en) * | 1995-01-19 | 2006-09-05 | Jeremy G. Dunne | Laser range finder |
JP3627111B2 (ja) * | 1995-05-26 | 2005-03-09 | フジノン株式会社 | ストロボ内蔵カメラ |
JP4389546B2 (ja) | 2003-10-23 | 2009-12-24 | 株式会社ニコン | カメラシステム |
JP4466366B2 (ja) * | 2004-12-27 | 2010-05-26 | パナソニック電工株式会社 | 距離画像を用いた人体検知方法および人体検知装置 |
US20070280673A1 (en) * | 2006-05-31 | 2007-12-06 | Kazuo Mikami | Lens-interchangeable digital camera |
JP4452951B2 (ja) * | 2006-11-02 | 2010-04-21 | 富士フイルム株式会社 | 距離画像生成方法及びその装置 |
WO2009072070A1 (en) | 2007-12-05 | 2009-06-11 | Nxp B.V. | Flash light compensation system for digital camera system |
EP2107446A1 (en) | 2008-04-04 | 2009-10-07 | ETH Zurich | System and a method for tracking input devices on LC-displays |
JP4604112B2 (ja) * | 2008-06-16 | 2010-12-22 | アキュートロジック株式会社 | 被写体情報測定方法及び被写体情報測定装置、並びに露光制御方法及び、露光制御装置 |
JP2011024003A (ja) * | 2009-07-16 | 2011-02-03 | Fujifilm Corp | 立体動画記録方法および装置、動画ファイル変換方法および装置 |
EP2510504A4 (en) * | 2009-12-07 | 2013-08-14 | Photon X Inc | 3D VISUALIZATION SYSTEM |
JP2011199798A (ja) * | 2010-03-24 | 2011-10-06 | Sony Corp | 物理情報取得装置、固体撮像装置、物理情報取得方法 |
US20120056982A1 (en) * | 2010-09-08 | 2012-03-08 | Microsoft Corporation | Depth camera based on structured light and stereo vision |
TWI526706B (zh) * | 2011-10-05 | 2016-03-21 | 原相科技股份有限公司 | 影像系統 |
JP5760938B2 (ja) * | 2011-10-14 | 2015-08-12 | オムロン株式会社 | 光学式センサ |
US8483557B1 (en) | 2012-01-31 | 2013-07-09 | Hewlett-Packard Development Company, L.P. | Camera flash filter |
JP6303304B2 (ja) * | 2013-07-03 | 2018-04-04 | リコーイメージング株式会社 | カメラ |
US10063844B2 (en) * | 2013-10-17 | 2018-08-28 | Microsoft Technology Licensing, Llc. | Determining distances by probabilistic time of flight imaging |
-
2015
- 2015-06-25 US US14/750,209 patent/US9638791B2/en active Active
-
2016
- 2016-04-26 CN CN201680033889.0A patent/CN107743590B/zh active Active
- 2016-04-26 WO PCT/US2016/029345 patent/WO2016209359A1/en active Application Filing
- 2016-04-26 JP JP2017565270A patent/JP6756747B2/ja active Active
- 2016-04-26 EP EP16724501.8A patent/EP3314299A1/en active Pending
- 2016-04-26 BR BR112017027969-0A patent/BR112017027969B1/pt active IP Right Grant
- 2016-04-26 KR KR1020177037159A patent/KR102604336B1/ko active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2084750A (en) * | 1980-10-06 | 1982-04-15 | Polaroid Corp | Automatic camera |
JP2000347237A (ja) * | 1999-03-31 | 2000-12-15 | Seiko Precision Inc | 露光制御装置および測距装置 |
CN1502047A (zh) * | 2001-02-09 | 2004-06-02 | �����ѧ��ҵ�о���֯ | 激光雷达***和方法 |
CN101627280A (zh) * | 2006-11-21 | 2010-01-13 | 曼蒂斯影像有限公司 | 三维几何建模和三维视频内容创建 |
EP2017651A2 (en) * | 2007-07-18 | 2009-01-21 | MESA Imaging AG | Reference pixel array with varying sensitivities for TOF sensor |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110243397A (zh) * | 2018-03-08 | 2019-09-17 | 西克股份公司 | 检测图像数据的相机和方法 |
CN112715026A (zh) * | 2018-09-10 | 2021-04-27 | 图森有限公司 | 用于车辆上的飞行时间相机的自适应照射 |
US11877066B2 (en) | 2018-09-10 | 2024-01-16 | Tusimple, Inc. | Adaptive illumination for a time-of-flight camera on a vehicle |
CN113227839A (zh) * | 2018-11-01 | 2021-08-06 | 伟摩有限责任公司 | 具有结构光照明器的飞行时间传感器 |
WO2020216039A1 (zh) * | 2019-04-23 | 2020-10-29 | 深圳市大疆创新科技有限公司 | 控制装置、摄像***、移动体、控制方法以及程序 |
CN110346780A (zh) * | 2019-07-31 | 2019-10-18 | 炬佑智能科技(苏州)有限公司 | 飞行时间传感相机及其局部检测精度调整方法 |
CN112485807A (zh) * | 2019-08-22 | 2021-03-12 | 丰田自动车株式会社 | 物体识别装置 |
CN112485807B (zh) * | 2019-08-22 | 2024-03-15 | 丰田自动车株式会社 | 物体识别装置 |
US11932238B2 (en) | 2020-06-29 | 2024-03-19 | Tusimple, Inc. | Automated parking technology |
Also Published As
Publication number | Publication date |
---|---|
JP6756747B2 (ja) | 2020-09-16 |
BR112017027969B1 (pt) | 2023-04-18 |
WO2016209359A1 (en) | 2016-12-29 |
EP3314299A1 (en) | 2018-05-02 |
JP2018528633A (ja) | 2018-09-27 |
BR112017027969A2 (pt) | 2018-08-28 |
KR20180019606A (ko) | 2018-02-26 |
US9638791B2 (en) | 2017-05-02 |
KR102604336B1 (ko) | 2023-11-20 |
CN107743590B (zh) | 2021-05-07 |
US20160377708A1 (en) | 2016-12-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107743590A (zh) | 用于使用飞行时间传感器来执行曝光估计的方法及设备 | |
EP3248374B1 (en) | Method and apparatus for multiple technology depth map acquisition and fusion | |
CN1926851B (zh) | 通过深度信息优化捕获装置设置的方法和设备 | |
CN101690243B (zh) | 摄像装置以及摄像方法 | |
CN105959581A (zh) | 具有动态控制闪光灯的用于图像捕捉的电子设备及相关的控制方法 | |
WO2018194759A1 (en) | Methods and apparatus for controlling exposure and synchronization of image sensors | |
CN108028887A (zh) | 一种终端的拍照对焦方法、装置及设备 | |
CN105306806B (zh) | 一种移动终端及其拍照的方法 | |
CN103945210A (zh) | 一种实现浅景深效果的多摄像头拍摄方法 | |
US10609265B2 (en) | Methods and apparatus for synchronizing camera flash and sensor blanking | |
WO2016000330A1 (zh) | 一种焦距调节方法、装置和终端、计算机存储介质 | |
CN112040139B (zh) | 一种相机成像的补光方法 | |
CN110035203A (zh) | 图像处理设备及其控制方法 | |
CN101170647A (zh) | 检测特定对象区域的方法和数码相机 | |
US20200382704A1 (en) | Method for controlling a dual camera unit and device | |
CN111866374A (zh) | 图像拍摄方法、装置、云台相机及存储介质 | |
CN105594196B (zh) | 摄像装置和摄像方法 | |
JP6960445B2 (ja) | 撮像装置、制御方法、プログラム、モデル生成システム、製造方法、及び撮影パラメータ決定システム | |
CN108777769A (zh) | 相机曝光时间调整方法、装置及设备 | |
CN103685964B (zh) | 一种控制方法、装置及电子设备 | |
CN111182199B (zh) | 电子装置及拍照方法 | |
CN116242254B (zh) | 手机屏体及fpc上预留基准点的同步检测方法和装置 | |
CN101729787A (zh) | 电子照相机 | |
CN117716703A (zh) | 低光条件下的计算摄影 | |
TWI405458B (zh) | Digital camera sensitivity adjustment method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |