CN107431758B - 成像装置、成像方法、信号处理装置、信号处理方法和记录介质 - Google Patents

成像装置、成像方法、信号处理装置、信号处理方法和记录介质 Download PDF

Info

Publication number
CN107431758B
CN107431758B CN201680017849.7A CN201680017849A CN107431758B CN 107431758 B CN107431758 B CN 107431758B CN 201680017849 A CN201680017849 A CN 201680017849A CN 107431758 B CN107431758 B CN 107431758B
Authority
CN
China
Prior art keywords
imaging
output image
pixel
exposure time
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680017849.7A
Other languages
English (en)
Other versions
CN107431758A (zh
Inventor
小泉诚
田中宽之
大野纯
川又大典
藤本昌胜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN107431758A publication Critical patent/CN107431758A/zh
Application granted granted Critical
Publication of CN107431758B publication Critical patent/CN107431758B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6845Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Mechanical Engineering (AREA)

Abstract

本发明涉及能够可靠地拍摄闪烁成像目标的成像装置、成像方法、信号处理装置、信号处理方法和程序。对预定成像单元成像时序进行控制,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在点亮时段中,成像目标点亮,且在闪烁周期中,被成像单元拍摄的成像目标发生闪烁,其中,N大于1。例如,本发明适用于拍摄图像的摄像机单元等。

Description

成像装置、成像方法、信号处理装置、信号处理方法和记录 介质
技术领域
本技术涉及成像装置、成像方法、信号处理装置、信号处理方法和记录介质,并特别地涉及例如能够可靠地对闪烁成像目标进行成像的成像装置、成像方法、信号处理装置、信号处理方法和记录介质。
背景技术
最近,用于交通信号或电子交通标志的光源被从白炽灯等替换为发光二极管(LED)。
LED具有比白炽灯更快的闪烁响应速度。因此,例如,通过被安装在汽车等上的车载摄像机等拍摄的基于LED的交通信号或交通标志可能发生闪烁,并因此可能在交通信号或交通标志熄灭时对其拍摄。
在由车载摄像机拍摄的拍摄图像中,在将车载摄像机例如用作行车记录仪的情况下,在熄灭状态下被映像的交通信号或交通标志作为发生事故时的证据的可接受性受到限制。
此外,在由车载摄像机拍摄的图像中,在将由车载摄像机拍摄的图像例如用于汽车的自动驾驶的情况下,在熄灭状态下被映像的交通信号或交通标志可能在包括汽车停止在内的驾驶控制中引起问题。
因此,提出了如下成像方法,在该方法中,在将具有诸如交通信号等闪烁光源的物体用作成像目标的情况下,以超过熄灭时段(其是闪烁光源熄灭时的时段)的曝光时间执行成像(例如,参照专利文献1)。
此外,还提出了如下方法,在该方法中,在由车载摄像机拍摄的输出图像的帧速率的时段期间以超过待被输出的输出图像的帧速率的帧速率来执行多次成像(例如,参照专利文献2)。然后,在由多次执行的成像获得的多个拍摄图像之中,随机地选择一个拍摄图像作为输出图像。
引用列表
专利文献
专利文献1:日本专利特开第2007-161189A号公报
专利文献2:日本专利特开第2009-278496A号公报
发明内容
技术问题
在以超过熄灭时段(在此熄灭时段内,闪烁光源熄灭)的曝光时间进行成像的情况下,在晴朗天气时具有可能使闪烁光源的能见性降低的室外高照度等的成像条件下,曝光可能过度。
此外,在从由以超过输出图像的帧速率的帧速率执行的多次成像获得的多个拍摄图像之中随机地选择一个拍摄图像作为输出图像的情况下,将闪烁光源映像为熄灭状态的拍摄图像可能被选择为输出图像。
本发明是鉴于这种情况提出的,并且允许可靠地拍摄闪烁成像目标。
问题的解决方案
根据本发明的成像装置或程序是如下的成像装置或使计算机用作该成像装置中包括的控制单元的程序,该成像装置包括:成像单元,所述成像单元用于按照预定的成像时序拍摄图像;以及控制单元,所述控制单元用于控制所述成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被所述成像单元拍摄的所述成像目标发生闪烁,其中,N大于1。
根据本发明的成像方法是如下的成像方法,该成像方法包括:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的成像目标发生闪烁,成像单元用于按照所述成像时序执行成像,其中,N大于1。
在如上所述的成像装置、成像方法以及程序中,控制预定的成像时间,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,成像单元用于按照所述成像时序执行成像,其中,N大于1。
根据本发明的信号处理装置或程序是如下的信号处理装置或以及使计算机用作该信号处理装置的程序,该信号处理装置包括:处理单元,所述处理单元被配置成用于处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
根据本发明的信号处理方法是如下的信号处理方法,该信号处理方法包括:处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
在根据本发明的信号处理装置、信号处理方法和程序中,处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
此外,成像装置和信号处理装置可能是独立的装置或者是构成单个装置的内部模块。
而且,程序可以经由传输介质被传送或被记录在记录介质中而被提供。
本发明的效果
本发明允许可靠地拍摄闪烁的成像目标。
此外,本发明不限于此处说明的效果,并且本说明书中说明的任何效果可被包括在内。
附图说明
图1是示出作为本发明的成像装置的摄像机单元的一个实施例的构造示例的框图
图2是示出在成像目标发生闪烁的情况下被拍摄的成像目标的示例的说明性示图。
图3是示出在正常模式下以超过熄灭时段(在此熄灭时段内,交通信号熄灭)的曝光时间执行的成像的说明性示图。
图4是示出高速模式下的成像的说明性示图。
图5是示出新高速模式下的成像的说明性示图。
图6是示出在新高速模式下启动摄像机单元时执行的启动处理的示例的说明性流程图。
图7是示出在新高速模式下针对输出图像的每个帧执行的每个帧的处理的示例的说明性流程图。
图8是示出从N个拍摄图像生成一个输出图像的生成过程的第一示例的说明性流程图。
图9是示出从N个拍摄图像生成一个输出图像的生成过程的第二示例的说明性流程图。
图10是示意地示出由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的图像的示例的说明性示图。
图11是示意地示出由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的图像的示例的说明性示图。
图12是示意地示出由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的图像的示例的说明性示图。
图13是示出新高速模式的第一应用示例的说明性示图。
图14是示出新高速模式的第二应用示例的说明性示图。
图15是示出新高速模式的第二应用示例的说明性示图。
图16是示出针对在由信号处理单元4执行的用于生成输出图像的生成过程中产生的闪烁的防护措施的应用的说明性示图。
图17是示出出现伪色的输出图像的示例的示图。
图18是示出从N个拍摄图像生成一个输出图像的生成过程的第三示例的说明性流程图。
图19是示出像素值逐渐变化的两个拍摄图像的像素值和通过使用这两个拍摄图像生成的输出图像的示例的说明性示图。
图20是示出用于混合最大值max和平均值ave的混合比率a1的示例的示图。
图21是示出从N个拍摄图像生成一个输出图像的生成处理的第四示例的说明性流程图。
图22是示出由生成过程生成的输出图像的示例的说明性示图。
图23是示出在输出图像中出现的运动模糊(motion blur)的说明性示图。
图24示出在获得与输出图像(或拍摄图像)上映像的物体的运动量对应的值作为混合比率a2的情况下的混合比率a2的示例的说明性示图。
图25示出在根据输出图像的关注像素的位置将平均值ave与生成图像的相应像素的像素值进行混合的情况下使用的混合比率a2的示例的示图。
图26是示出从N个拍摄图像生成一个输出图像的生成过程的第五个示例的说明性流程图。
图27是示出由生成过程生成的输出图像的示例的说明性示图。
图28是示出被构造成执行用于从N个拍摄图像生成一个输出图像的生成过程的第六示例的生成装置的构造示例的框图。
图29示意地示出由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的图像的示例的示图。
图30示意地示出由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的图像的示例的示图。
图31示出在白天和夜间通过成像获得的商用摄像机输出图像、正常模式输出图像、具有平均值ave的输出图像和具有最大值max的输出图像的能见性的评估的示例的示图。
图32是示出从N个拍摄图像生成一个输出图像的生成过程的第七示例的说明性流程图。
图33是示出从N个拍摄图像生成一个输出图像的生成过程的第八示例的说明性示图。
图34是示出使用摄像机单元的用途示例的示图。
图35是示出本发明的计算机的实施例的构造示例的框图。
具体实施方式
<本发明的摄像机单元的实施例>
图1是示出作为本发明的成像装置的摄像机单元的实施例的构造示例的框图。
此外,摄像机单元能够同时拍摄静止图像和运动图像。
在图1中,摄像机单元具有光学***1、图像传感器2、存储器3、信号处理单元4、输出单元5和时序控制单元6。
例如,光学***1具有变焦透镜(未示出)、聚焦透镜、光圈(diaphragm)等,且使来自外部的光入射在图像传感器2上以形成图像。
例如,图像传感器2是互补金属氧化物半导体(CMOS)图像传感器。图像传感器2接收来自光学***1的入射光,对入射光执行光电转换,并拍摄与来自光学***1的入射光相对应的拍摄图像(其图像数据)。
具体地,图像传感器2充当用于按照由时序控制单元6指定的成像时序来执行成像的成像单元。图像传感器2在由后面说明的输出单元5输出的输出图像的帧速率的时段内执行N次成像,并顺序地输出通过执行N次成像获得的N个拍摄图像,这里,N大于1。
存储器3顺序地存储由图像传感器2顺序地输出的N个拍摄图像,并且将N个拍摄图像同时地提供到信号处理单元4。
信号处理单元4对来自存储器3的N个拍摄图像执行处理,并生成一帧(单个帧)输出图像。此外,信号处理单元4对输出图像执行诸如去噪、白平衡(WB)调整等之类的处理,并将结果提供到输出单元5。
此外,信号处理单元4检测(波检测)来自存储器3的N个拍摄图像的亮度,将使拍摄图像的亮度成为合适水平的曝光时间设定成合适曝光时间,并将合适曝光时间提供到时序控制单元6。
输出单元5输出来自信号处理单元4的输出图像。
具体地,例如,输出单元5具有由液晶等构成的显示器(未示出),并将来自信号处理单元4的输出图像显示为所谓的穿过透镜(through-the-lens,TTL)图像。
此外,例如,输出单元5具有被构造为驱动诸如半导体存储器、磁盘和光盘之类的记录介质的驱动器(未示出),并在记录介质上记录来自信号处理单元4的输出图像。
时序控制单元6控制图像传感器2的成像时序。
具体地,时序控制单元6控制图像传感器2的成像时序,以便按照如下的时序执行成像,该时序将由图像传感器2拍摄的成像目标发生闪烁的闪烁周期N等分,其中N大于1。
此外,时序控制单元6控制图像传感器2的成像时序,以便可以以如下的曝光时间执行成像,该曝光时间使点亮时段(其是成像目标点亮时的时段)的至少一部分与N次成像之中的至少一次成像的曝光时间重叠。
而且,在从信号处理单元4提供的合适曝光时间长于稍后说明的下限曝光时间SHT_MIN的情况下,时序控制单元6控制图像传感器2的成像时序,以便可以以从信号处理单元4提供的合适曝光时间执行成像。
此外,在从信号处理单元4提供的合适曝光时间短于或等于下限曝光时间SHT_MIN的情况下,时序控制单元6控制图像传感器2的成像时序,以便可以以最小曝光时间执行成像,最小曝光时间是图像传感器2能够在大于下限曝光时间SHT_MIN的曝光时间内正常地操作时的时间。
在如上所述地构造的数码摄像机中,图像传感器2在时序控制单元6的控制下拍摄并输出N个拍摄图像。
从图像传感器2输出的N个拍摄图像被提供到并存储在存储器3中。信号处理单元4处理存储器3中存储的N个拍摄图像以生成一帧输出图像。此外,信号处理单元4的输出图像执行诸如WB调整之类的必要信号处理,并将结果提供到输出单元5。通过输出单元5输出来自信号处理单元4的输出图像。
例如,图1的摄像机单元适用于任何配备有成像功能的电子装置,例如数码摄像机、被安装在汽车等上的车载摄像机以及被安装在高速公路等上的监控摄像机。
在这方面,图1中的摄像机单元的成像模式的示例包括正常模式、高速模式和新高速模式。
在正常模式下,在输出图像的帧速率的时段期间执行一次成像,并且将通过成像获得的拍摄图像作为输出图像输出。
在高速模式下,在输出图像的帧速率的时段期间执行多次成像,并在由执行多次的成像获得的多个拍摄图像之中随机选择一个拍摄图像。
在新高速模式下,如上所述,按照将闪烁周期(在该周期中,被图像传感器2拍摄的成像目标发生闪烁)N等分的时序,以使点亮时段(其是成像目标点亮时的时段)的至少一部分与至少一次成像的曝光时间重叠的曝光时间,执行N次成像。
<拍摄闪烁成像目标的示例>
图2是示出在成像目标发生闪烁的情况下被拍摄的成像目标的示例的说明性示图。
具体地,图2示出通过在正常模式下拍摄作为闪烁成像目标的基于LED的交通信号获得的输出图像的示例。
在图2中,处于绿色相的交通信号被作为成像目标拍摄。
在图2中,在第一帧(帧1)和第二帧的输出图像中,被映像的交通信号的绿色相(左端)点亮,但在第三帧和第四帧的输出图像中,被映像的交通信号的绿色相熄灭。
如上所述,在例如车载摄像机被用作行车记录仪的情况下,在熄灭状态下被映像的交通信号作为事故发生时的证据的可接受性受到限制。
此外,在由摄像机单元获得的输出图像例如用于汽车的自动驾驶的情况下,在熄灭状态下被映像的交通信号在包括汽车停止在内的驾驶控制中引起问题。
<在正常模式下以超过熄灭时段(交通信号熄灭时的时段)的曝光时间执行的成像>
图3是示出在正常模式下以超过交通信号熄灭时的熄灭时段的曝光时间执行的成像的说明性示图。
在图3中,横轴表示时间,且纵轴表示构成交通信号的LED的光发射(量)。
在图3中,例如,通过对频率为50Hz的AC电源进行全波整流获得的频率为100Hz的电源被用作作为闪烁成像目标的交通信号的电源。
因此,交通信号以对应于100Hz的10毫秒(ms)间隔(闪烁周期)发生闪烁。
在图3中,例如,在交通信号点亮的点亮比例(占空比)是交通信号的10毫秒闪烁周期的60%。
因此,交通信号的10毫秒闪烁周期的6毫秒时段(=10ms×60/100)是交通信号点亮时的点亮时段,并且剩余的4毫秒时段是交通信号熄灭时的熄灭时段。
在正常模式下,如图2所示,如果仅在熄灭时段内执行成像,则由成像获得的拍摄图像(即输出图像)在交通信号熄灭的状态下被映像。
如上所述,在正常模式下,防止交通信号在熄灭状态下被映像的方法的示例包括以超过交通信号熄灭时的熄灭时段的曝光时间执行拍摄的方法。
在图3中,熄灭时间为4毫秒,且因此以超过4毫秒(其为熄灭时段)的曝光时间执行成像。因此,曝光时间的至少一部分与点亮时段重叠,且因此必定能够拍摄到处于点亮状态下的交通信号。
然而,可能存在如下情况:使用了其光学***1具有固定f数的摄像机单元,例如车载摄像头。在这种情况下,通常以超过熄灭时段的曝光时间进行成像,在晴朗天气时具有室外的高照度的成像条件下,曝光可能过度,这可能导致闪烁光源的可见性降低。
例如,可能存在如下情况:在某个图像传感器中使用F数为2的透镜。在这种情况下,在1毫秒的曝光时间(从图像传感器2输出的拍摄图像的像素值是可能值的最大水平(饱和水平))的情况下,在拍摄图像(输出图像)上映像的交通信号是饱和的。
<高速模式下的成像>
图4是示出高速模式下的成像的说明性示图。
类似于图3,在图4中,横轴表示时间,且纵轴表示构成交通信号的LED的光发射。
此外,类似于图3,在图4中,频率为100Hz的电源被用作作为闪烁成像目标的交通信号的电源,且闪烁周期是10毫秒。此外,在图4中,点亮占空比为60%。类似于图3,在交通信号的10毫秒闪烁周期中,6毫秒(=10毫秒×60/100)时段是交通信号点亮时的点亮时段,且剩余的4毫秒时段是交通信号熄灭时的熄灭时段。
在图4中,作为高速模式下的成像的示例,在输出图像的帧速率的时段中,以超过输出图像的帧速率的帧速率(例如,30Hz、60Hz等)执行多次成像,例如三次成像。
然后,从通过执行三次成像获得的三个拍摄图像S0、S1和S2之中随机地选择一个拍摄图像,以用作输出图像。
然而,在从三个拍摄图像S0至S2之中随机地选择一个拍摄图像用作输出图像的情况下,在熄灭状态下被映像的交通信号的拍摄图像可能被选择为输出图像。
在将从摄像机单元输出的输出图像用于高速汽车行驶的自动驾驶控制的情况下,输出图像上映像的交通信号必须处于点亮状态。因此,不期望的是,在熄灭状态下被映像的交通信号的拍摄图像可能被选择为输出图像。
此外,在高速模式下,三个拍摄图像S0至S2上映像的交通信号可能都处于熄灭状态。
<新高速模式下的成像>
图5是示出新高速模式下的成像的说明性示图。
类似于图3,在图5中,横轴表示时间,且纵轴表示构成交通信号的LED的光发射。
在图5中,全波整流后的电源的周期(作为闪烁成像目标的交通信号的闪烁周期)是Tb[秒]。此外,交通信号的点亮占空比是Db[%]。
在这种情况下,交通信号的点亮时段由Tb×Db/100表示,且熄灭时段由Tb×(1-Db/100)表示。
在新高速模式下,如通过参照图1所说明,按照将闪烁周期Tb(在该周期中,被图像传感器2拍摄的诸如交通信号之类的成像目标发生闪烁)N等分的时序,以使交通信号点亮时的点亮时段Tb×Db/100的至少一部分与至少一次成像的曝光时间重叠的曝光时间,执行N次成像。
例如,如果将成像设置成执行三次的成像以作为执行N次的成像,则在新高速模式下,按照将闪烁周期Tb三等分的时序执行三次成像。
这里,使交通信号点亮时的点亮时段Tb×Db/100的至少一部分与三次成像中的至少一次成像的曝光时间重叠的曝光时间被表示为Tc,且交通信号的闪烁周期Tb的前沿时刻被设置为0。
在这种情况下,通过执行三次的成像获得的三个拍摄图像S0、S1和S2的曝光(成像)开始时刻分别为0、Tb/3和2Tb/3。
此外,三个拍摄图像S0、S1和S2的曝光(成像)结束时刻分别由0+Tc、Tb/3+Tc和2Tb/3+Tc表示。
这里,在新高速模式下,允许至少一次成像的曝光时间Tc与点亮时段Tb×Db/100的至少一部分重叠的下限曝光时间由SHT_MIN[秒]表示,且下限曝光时间SHT_MIN由公式SHT_MIN=Tb/N-TbDb/100表示。
在N为3的情况下,下限曝光时间SHT_MIN由公式SHT_MIN=Tb/3-TbDb/100表达。
作为新高速模式下的曝光时间Tc,使用超过下限曝光时间SHT_MIN的时间。
在通过公式SHT_MIN=Tb/N-TbDb/100获得的SHT_MIN为负值的情况下,下限曝光时间SHT_MIN被设置为0。
当下限曝光时间SHT_MIN被设置为0的情况下,可以将能够由摄像机单元获得的作为曝光时间的任何值(正值)用作新高速模式下的曝光时间Tc。
例如,在点亮时间Tb为10ms且点亮占空比为60%的情况下,公式SHT_MIN=Tb/3-TbDb/100=10ms/3-10ms×60%/100是负值,且因此下限曝光时间SHT_MIN被设置为0。
因此,可以将曝光时间Tc减小到摄像机单元的极限。
此外,例如,在点亮时间Tb为10ms且点亮占空比为20%的情况下,公式SHT_MIN=Tb/3-TbDb/100=10ms/3-10ms×20%/100被设置为1.33。
因此,可以将超过下限曝光时间SHT_MIN(为1.33)且大于或等于摄像机单元可支持的最小曝光时间的时间设置为曝光时间Tc。
对于在新高速模式下拍摄的N个拍摄图像,即通过按照将闪烁周期Tb(在该周期中,作为成像目标的交通信号发生闪烁)N等分的时序并以使在交通信号处于点亮状态时的点亮时段Tb×Db/100的至少一部分与至少一次成像的曝光时间Tc重叠的曝光时间Tc执行N次成像获得的N个拍摄图像,至少一个拍摄图像的曝光时间Tc与点亮时段Tb×Db/100的至少一部分重叠。
因此,在高速模式下拍摄的N个拍摄图像之中的至少一个拍摄图像上应当必定映像有点亮的交通信号。
因此,在新高速模式下,可以可靠地拍摄诸如闪烁交通信号之类的成像目标。
此外,在新高速模式下,只要超过下限曝光时间SHT_MIN,任何时间都可以被设定为曝光时间Tc。因此,可以以合适曝光进行成像,使得拍摄图像上映像的物体不饱和或不太暗。
这里,在新高速模式下拍摄N个图像的情况下,如果闪烁周期Tb的前沿时间被设置为0,则通过N次成像获得的N个拍摄图像的曝光开始时间和曝光结束时间被如下地表示,其中Tc是表示超过下限曝光时间SHT_MIN的曝光时间。
具体地,拍摄图像的曝光开始时间和曝光结束时间的集合被如下地表示为(曝光开始时间、曝光结束时间):
第n=1个拍摄图像的(曝光开始时间,曝光结束时间)=(0,0+Tc)
第n=2个拍摄图像的(曝光开始时间,曝光结束时间)=(Tb/N,Tb/N+Tc)
第n=3个拍摄图像的(曝光开始时间,曝光结束时间)=(2Tb/N,2Tb/N+Tc)
...
第n=k个拍摄图像的(曝光开始时间,曝光结束时间)=((K-1)×Tb/N,(k-1)×Tb/N+Tc)
...
第n=N个拍摄图像的(曝光开始时间,曝光结束时间)=((N-1)×Tb/N,(N-1)×Tb/N+Tc)
<新高速模式下的处理>
图6是示出在新高速模式下启动摄像机单元时执行的启动处理的示例的说明性流程图。
在步骤S11中,时序控制单元6设置被摄像机单元拍摄的成像目标的闪烁周期Tb[秒]和点亮占空比Db[%],并且处理进入步骤S12。
这里,例如,闪烁周期Tb或者点亮占空比Db[%]可被设置为默认值或取决于用户操作的值等。在成像目标为交通信号等的情况下,可以根据不同的国家或地区等设置闪烁周期Tb(秒)和点亮占空比Db(%)。
在步骤S12中,时序控制单元6获得下限曝光时间SHT_MIN,如上面参照图5所说明,当在点亮时段Tb内执行N次等间隔成像(按照将闪烁周期Tb N等分的时序执行N次的成像)时,下限曝光时间SHT_MIN使至少一次成像的曝光时间Tc与成像目标的点亮时段Tb×Db/100重叠。
此外,例如,可以预先设置或者根据用户操作等来设置成像次数N。
然后,处理从步骤S12进入步骤S13。时序控制单元6获得将成像目标的闪烁周期TbN等分的时序,以作为在新高速模式下执行N次的等间隔成像的开始时刻(曝光开始时间)SHT_STA0、SHT_STA1、...、SHT_STA#N-1,且然后启动处理结束。
图7是示出在新高速模式下针对每帧输出图像执行的每帧处理的示例的说明性流程图。
在步骤S21中,时序控制单元6将超过由图6的启动处理获得的下限曝光时间SHT_MIN设置为指定曝光时间Tc,且将指定曝光时间Tc指定为用于成像的曝光时间,且然后处理进入步骤S22。
在步骤S22中,时序控制单元6控制图像传感器2的成像时序,使得可通过将由图6的启动处理获得的每个开始时刻SHT_STA0、SHT_STA1、...、SHT_STA#N-1用作曝光开始时刻来执行等间隔成像,其中,在等间隔成像中,仅以指定曝光时间Tc执行N次曝光。
由此,在步骤22中,图像传感器2以指定曝光时间Tc执行等间隔成像,且所产生的N个拍摄图像经由存储器3被提供到信号处理单元4。
当N个拍摄图像经由存储器3被从图像传感器2提供到信号处理单元4时,处理从步骤S22进入步骤S23。
在步骤S23中,信号处理单元4检测(波检测)经由存储器3提供的N个拍摄图像的亮度,并且处理进入步骤S24。
在步骤S24中,信号处理单元4基于在步骤S23中通过检测N个拍摄图像的亮度获得的结果来确定当前的指定曝光时间Tc是否是合适曝光时间。
如果在步骤S24中确定当前的指定曝光时间Tc是合适曝光时间,即,如果N个拍摄图像作为整体既不太亮也太暗,那么处理进入步骤S25。
在步骤S25中,信号处理单元4将当前的曝光时间作为指定曝光时间Tc提供到时序控制单元6。时序控制单元6将来自信号处理单元4的合适曝光时间指定为图像传感器2的曝光时间。
另一方面,如果在步骤S24中确定当前的指定曝光时间Tc不是合适曝光时间,即,如果N个拍摄图像作为整体太亮或太暗,那么处理进入步骤S26。
在步骤S26中,信号处理单元4基于在检测步骤S23中通过检测N个图像的亮度获得的结果来获得合适曝光时间,并将其提供到时序控制单元6。如果来自信号处理单元4的合适曝光时间超过下限曝光时间SHT_MIN,时序控制单元6将合适曝光时间作为指定曝光时间Tc指定到图像传感器2。
这里,如果来自信号处理单元4的合适曝光时间没有超过下限曝光时间SHT_MIN,时序控制单元6将大于下限曝光时间SHT_MIN的曝光时间之中的能够被图像传感器2支持的最小曝光时间作为指定曝光时间Tc指定到图像传感器2。
在步骤S25或S26的处理之后,处理返回到步骤S22。在步骤S22中,以在步骤S25或S26中指定的指定曝光时间Tc执行N次等间隔成像,且在之后重复类似处理。
<输出图像生成处理>
图8是示出从N个拍摄图像生成一个(帧)输出图像的生成处理的第一示例的说明性流程图。
信号处理单元4对通过执行N次的成像获得的N个拍摄图像执行处理,并生成一个输出图像。
图8示出由信号处理单元4执行的生成处理的第一示例。
在生成处理的第一示例中,在步骤S41中,信号处理单元4选择(待由信号处理单元产生的)输出图像中的处于在光栅扫描顺序(raster scan order)中未被选择为关注像素的最重要位置处的一个像素,并且处理进入步骤S42。
在步骤S42中,信号处理单元4获得所有N个拍摄图像的与关注像素相对应的相应像素(即,与关注像素处于相同位置的像素)的像素值之中的最大值max以作为关注像素的像素值,且处理进入步骤S43。
在步骤S43中,信号处理单元4确定输出图像的所有像素是否都被选择为关注像素。
如果在步骤S43中确定输出图像的不是所有的像素都被选择为关注像素,那么处理返回到步骤S41,且在之后重复类似处理。
此外,如果在步骤S43中确定输出图像的所有像素都被选择为关注像素,则生成一个输出图像的生成处理结束。
在处于点亮状态的成像目标被映像在像素值为N个拍摄图像之中的最大值max的相应拍摄物体上且N个拍摄图像的相应像素的像素值之中的最大值max被作为输出图像的像素值获得的情况下,可以生成其上映像出点亮的成像目标的输出图像。
而且,如图8所示,在将N个拍摄图像的相应像素的像素值之中的最大值被作为输出图像的像素值获得的情况下,在输出图像中可以减少拍摄图像中的作为闪烁出现的短周期照度的波动。
图9是示出从N个拍摄图像生成一个(帧)输出图像的生成处理的第二示例的说明性流程图。
在生成处理的第二示例中,在步骤S51中,类似于图8的步骤S41,信号处理单元4将输出图像的一个像素选择作为关注像素,并且处理进入步骤S52。
在步骤S52中,信号处理单元4获得所有N个拍摄图像的与关注像素相对应的相应像素的像素值的平均值ave以作为关注像素的像素值,且然后处理进入步骤S53。这里,对于N个拍摄图像的相应像素的像素值的平均值Ave,可以使用相应像素的像素值的简单平均值或加权平均值。在加权平均值中,例如,可以向N个拍摄图像的相应像素的像素值的最大值max赋予大的权重。
在步骤S53中,信号处理单元4确定输出图像的所有像素是否都被选择为关注像素。
如果在步骤S53中确定输出图像的不是所有的像素都被选择为关注像素,则处理返回到步骤S51,且之后重复类似处理。
此外,如果在步骤S53中确定输出图像的所有像素都被选择为关注像素,则生成输出图像的生成过程结束。
对于在新高速模式下拍摄的N个拍摄图像,点亮的成像目标被映像在这些图像中的至少一个拍摄图像上。因此,如上所述,在N个拍摄图像的相应像素的像素值的平均值ave被作为输出图像的像素值获得的情况下,可以生成其上映像出点亮的成像目标的输出图像。
此外,如图9所示,在N个拍摄图像的相应像素的像素值的平均值ave被作为输出图像的像素值获得的情况下,可以获得具有降低的随机噪声的输出图像。
<输出图像的示例>
图10、11和12是示意地示出由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的输出图像的示例的示图。
换句话说,图10到12示出了不同帧的输出图像。
此外,图10至图12的部分A示出如下情况下的输出图像:以未加修改的方式将由商用车载摄像机拍摄的拍摄图像用作输出图像。
图10至图12的部分B示出如下情况下的输出图像:以未加修改的方式将在正常模式下拍摄的拍摄图像用作输出图像。
图10至图12的C部分示出如下情况下的输出图像:将在新高速模式下拍摄的三个拍摄图像的相应像素的像素值的平均值ave用作输出图像的像素值。
图10至图12的D部分示出如下情况下的输出图像:将在新高速模式下拍摄的三个拍摄图像的相应像素的像素值的最大值max用作输出图像的像素值。
在图10所示的帧中,在由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的输出图像上都映像有转变为绿色(左端)的交通信号。
然而,如图11和12所示的帧中,在新高速模式下拍摄的输出图像上映像的交通信号是点亮的,但由商用车载摄像机拍摄的输出图像和在正常模式下拍摄的输出图像上映像的交通信号都是熄灭的。
此外,发明人发现,在白天拍摄交通信号的情况下,(在三个拍摄图像的相应像素的像素值中)具有最大像素值max的输出图像的交通信号的可见性高于具有平均像素值ave的输出图像的交通信号的可见性。
<新高速模式的应用示例>
图13是示出新高速模式的第一应用示例的说明性示图。
在新高速模式下,时序控制单元6控制图像传感器2的成像时序,以在输出图像的各帧中将成像目标的闪烁周期Tb固定为一个周期,并能够针对一个闪烁周期Tb执行N次等间隔成像。
此外,在新高速模式下,时序控制单元6控制图像传感器2的成像时序,使得对于输出图像的每一个帧或每多个帧,针对不同的闪烁周期Tb执行N次等间隔成像。
图13示出在新高速模式下对于输出图像的每个帧针对不同的闪烁周期Tb执行N次等间隔成像的示例。
在图13中,通过将等间隔成像的次数N设置为3,在输出图像的第一帧中针对闪烁周期Tb=1/100,在第二帧中针对闪烁周期Tb=1/200秒以及在第三帧中针对第三闪烁周期Tb=1/400秒执行等间隔成像。
然后,在输出图像的第四帧和后续帧中,顺序地重复等间隔成像,其中,在等间隔成像中,将闪烁周期Tb设置为1/100、1/200和1/400秒。
在执行三次的等间隔成像中,在闪烁周期Tb=1/100秒的情况下,以10/3毫秒(约3.3毫秒)的间隔拍摄三个拍摄图像。此外,在闪烁周期Tb=1/200秒的情况下,以5/3毫秒(约1.67毫秒)的时间间隔拍摄三个拍摄图像,且在闪烁周期Tb=1/400秒的情况下,以2.5/3毫秒(约0.8毫秒)的时间间隔拍摄三个拍摄图像。
如上所述,在对于输出图像的每个帧针对不同的闪烁周期Tb执行N次等时间间隔成像的情况下,可以拍摄处于点亮状态的以不同的闪烁周期Tb发生闪烁的不同闪烁成像目标。
图14和15是示出新高速模式的第二应用示例的说明性示图。
图14示出在新高速模式下如何通过执行三次的等间隔成像拍摄具有闪烁周期Tb的成像目标。
在图14中,按照将闪烁周期Tb三等分的时序执行三次成像,并获得三个拍摄图像S0、S1和S2。
拍摄三个拍摄图像S0至S2的时刻(成像开始时刻)由闪烁周期Tb唯一地确定。
因此,如参照图13所说明,在针对不同的闪烁周期Tb执行N次等间隔成像的情况下,执行N次的等间隔成像基本上需要对于输出图像的每一个帧或每多个帧针对不同的闪烁周期Tb来执行。
然而,在不同闪烁周期Tb处于特定关系的情况下,可以在输出图像的一个帧中针对不同的闪烁周期Tb同时执行N次等间隔成像。
图15示出如何在输出图像的一个帧中针对具有特定关系的不同闪烁周期Tb同时执行N次等间隔成像。
在一个成像目标(第一成像目标)的闪烁周期Tb_A是另一个成像目标(第二成像目标)的闪烁周期Tb_B和2的幂的乘积的情况下,对闪烁周期Tb_A执行N次等间隔成像。由此,可以在输出图像的一个帧中针对闪烁周期Tb_A和Tb_B二者执行N次等间隔成像。
具体地,图15示出三个不同的闪烁周期Tb1、Tb2和Tb3,这些闪烁周期分别为对应于500Hz的2毫秒周期、对应于250Hz的4毫秒周期和对应于125Hz的8毫秒周期。
此外,图15示出通过在将等间隔成像的执行次数N设置为3并且针对2毫秒(500Hz)的周期闪烁Tb1时执行三次等间隔成像获得的三个拍摄图像分别由S0(500)、S1(500)和S2(500)表示。
类似地,图15示出通过针对4毫秒(250Hz)的闪烁周期Tb2执行三次等间隔成像获得的三个拍摄图像S0(250)、S1(250)和S2(250)。另外,图15示出通过针对8毫秒(125Hz)的闪烁周期Tb3执行三次等间隔成像获得的三个拍摄图像S0(125)、S1(125)和S2(125)。
闪烁周期Tb3=8毫秒是闪烁周期Tb1=2毫秒及Tb2=4毫秒与2的幂的乘积。
在这种情况下,针对闪烁周期Tb3=8毫秒拍摄三个拍摄图像S0(125)、S1(125)和S2(125)中的任一者时的时刻与针对周期闪烁Tb1=2毫秒拍摄三个拍摄图像S0(500)、S1(500)和S2(500)中的任一者时的时刻重合。
具体地,如图15所示,闪烁周期Tb3=8毫秒的一个周期对应于周期闪烁Tb1=2毫秒的四个周期。在闪烁周期Tb3=8毫秒的第一周期中拍摄第一个拍摄图像S0(125)时的时刻与在闪烁周期Tb1=2毫秒的第一周期中拍摄第一个拍摄图像S0(500)时的时刻重合。此外,在闪烁周期Tb3=8毫秒的第一周期中拍摄第二个拍摄图像S1(125)时的时刻与在闪烁周期Tb1=2毫秒的第二个周期中拍摄第二个拍摄图像S1(500)时的时刻重合。而且,在闪烁周期Tb3=8毫秒的第一周期中拍摄第三个拍摄图像S2(125)时的时刻与在闪烁周期Tb1=2ms的第三个周期中拍摄第三个拍摄图像S2(500)时的时刻重合。
因此,在针对闪烁周期Tb3=8ms拍摄三个拍摄图像S0(125)、S1(125)和S2(125)的情况下,可以使用三个拍摄图像S0(125)、S1(125)和S2(125)分别作为针对闪烁周期Tb1=2ms的三个拍摄图像S0(500)、S1(500)和S2(500)。
类似地,在针对闪烁周期Tb3=8ms拍摄三个拍摄图像S0(125)、S1(125)和S2(125)中的任一者时的时刻与针对周期闪烁Tb2=4ms时拍摄三个拍摄图像S0(250)、S1(250)和S2(250)中的任一者时的时刻重合。
具体地,如图15所示,闪烁周期Tb3=8毫秒的一个周期对应于周期闪烁Tb2=4毫秒的两个周期。在闪烁周期Tb3=8毫秒的第一周期中拍摄第一个拍摄图像S0(125)时的时刻与在闪烁周期Tb2=4毫秒的第一周期中拍摄第一个拍摄图像S0(250)时的时刻重合。而且,在闪烁周期Tb3=8毫秒的第一周期中拍摄第二个拍摄图像S1(125)时的时刻与在闪烁周期Tb2=4毫秒的第一周期中拍摄第三个拍摄图像S2(250)时的时刻重合。此外,在闪烁周期Tb3=8毫秒的第一周期中拍摄第三个拍摄图像S2(125)时的时刻与在闪烁周期Tb2=4毫秒的第二个周期中拍摄第二个拍摄图像S1(250)时的时刻重合。
因此,在针对闪烁周期Tb3=8毫秒拍摄三个拍摄图像S0(125)、S1(125)和S2(125)的情况下,可以使用三个拍摄图像S0(125)、S1(125)和S2(125)分别作为针对闪烁周期Tb2=4毫秒的三个拍摄图像S0(250)、S1(250)和S2(250)。
从上面的说明可知,在针对特定闪烁周期Tb(闪烁周期Tb的2的M次幂的倍数的闪烁周期2M×Tb(M是大于或等于0的整数))执行等间隔成像的情况下,摄像机模块针对能够执行N次等间隔成像的最大闪烁周期2M′×Tb(M′是大于或等于0的整数)执行等间隔成像,并因此能够在输出图像的一个帧中针对20×Tb、21×Tb、22×Tb、…、2M′×Tb这M′+1个闪烁周期同时执行等间隔成像。
<生成处理的防闪烁措施应用>
图16是示出由信号处理单元4执行的用于产生输出图像的生成处理的防闪烁措施应用的说明性示图。
具体地,图16示意地示出闪烁成像目标的光反射量和通过在正常模式和新高速模式下拍摄成像目标获得的输出图像的照度随时间的变化。
在正常模式下,在输出图像的一个帧时段期间拍摄一个拍摄图像,并将拍摄图像作为输出图像输出。因此,在正常模式下获得的输出图像的照度根据闪烁成像目标的光反射量而发生变化。这种照度变化被作为闪烁观察到。
另一方面,在新高速模式下,在输出图像的一个帧时段期间以等间隔拍摄N个拍摄图像。然后,在生成处理中,将N个拍摄图像的相应像素的像素值的最大值max或平均值ave被作为输出像素的像素值获得。
如图15所示,如果像素值为N个拍摄图像的相应像素的像素值的最大值max或平均值ave的输出图像被设置为具有最大值max的输出图像或具有平均值ave的输出图像,则具有最大值max的输出图像或具有平均值ave的输出图像的照度变化小于在正常模式下获得的输出图像的照度变化。
具体地,在具有最大值max的输出图像或具有平均值ave的输出图像中,闪烁(短周期照度的波动)降低。因此,可以利用由信号处理单元4执行的用于生成输出图像的生成处理来降低闪烁。
在图16中,可以发现,在具有最大值max的输出图像与具有平均值ave的输出图像相比较的情况下,具有最大值max的输出图像能更好地降低闪烁。
而且,在新高速模式下,可以测量成像目标的闪烁周期Tb,并针对所测量的闪烁周期Tb执行N次等间隔成像。
此外,在摄像机单元中,可以针对每一个帧或每多个帧彼此替换在新高速模式下拍摄的帧和在正常模式下拍摄的帧。在这种情况下,可以提高输出图像的可见性。
此外,在摄像机单元中,可以在新高速模式和正常模式之间无缝地变化。在新高速模式和正常模式之间无缝变化的方法的示例例如包括在新高速模式下逐渐增加或减少等间隔成像的次数N的方法。
此外,新高速模式适用于构成的图像传感器2的所有像素(未示出),或仅适用于一部分像素。例如,可以将新高速模式应用到构成图像传感器2的像素的中心部分中的像素,并将正常模式应用到周边像素。
而且,在新高速模式下,作为成像目标,可以采用基于LED的交通信号、交通标志和其它以固定频率(周期)闪烁的物体。
<输出图像生成处理的另一示例>
图17是示出出现假色的输出图像的示例的示图。
在输出图像生成处理中,在生成具有平均值ave的输出像素(具体地,通过把N个拍摄图像的相应像素的像素值的平均值ave设置为像素值而获得的输出图像)的情况下,当运动物体(移动体)被映像在输出图像上时,在运动物体的运动模糊中可能出现假色。
具体地,在用于生成具有平均值ave的输出图像的N个拍摄图像的相应像素的任一者饱和的情况下,如果将用于WB调整的WB增益在信号处理单元4中应用到具有平均值ave的输出图像,则被映像在具有平均值ave的输出图像上的移动物体的运动模糊部分中出现假色。
例如,假设作为拍摄图像的像素值的R(红色)、G(绿色)和B(Blue)的值被表示为(R,G,B),WB增益被表示为(Gr,Gg,Gb),并且应用WB增益之后的像素值被表示为(R′,G′,B′)。
应用WB增益之后的像素值(R′,G′,B′)由以下方程表示。
R′=MIN(MM,R×Gr)
G′=MIN(MM,G×Gg)
B′=MIN(MM,B×Gb)
其中,MIN(A,B)表示A和B中的较小者。
在拍摄图像的像素值(R,G,B)饱和的情况下,具体地,在像素值(R,G,B)为作为饱和的白色的(MM,MM,MM)的情况下(MM是能够作为像素值获得的最大值),通过将WB增益(Gr,Gg,Gb)应用到像素值(R,G,B)=(MM,MM,MM)而获得的像素值(R′,G′,B′)保持为(MM,MM,MM)。
另一方面,在拍摄图像的像素值(R,G,B)为作为黑色的(0,0,0)的情况下,通过将WB增益(Gr,Gg,Gb)应用到像素值(R,G,B)=(0,0,0)而获得的像素值(R′,G′,B′)保持为(0,0,0)。
因此,当一个拍摄图像的相应像素的像素值(R,G,B)为(MM,MM,MM),且另一个拍摄图像的相应像素的像素值(R,G,B)为(0,0,0)时,作为输出像素的关注像素的像素值的平均值为(MM/2,MM/2,MM/2)。
而且,通过将WB增益(Gr,Gg,Gb)应用到输出图像的关注像素的像素值(MM/2,MM/2,MM/2)而获得的像素值(R′,G′,B′)为(Gr,Gg,Gb)×MM/2。
因此,例如假设WB增益(Gr,Gg,Gb)存在由关系式Gg<Gr≈Gb(其中Gg<2)表示的关系,则通过将WB增益(Gr,Gg,Gb)应用到作为饱和的白色的像素值(R,G,B)=(MM,MM,MM)和作为黑色的像素值(R,G,B)=(0,0,0)之间的平均值ave(=(MM/2,MM/2,MM/2))而获得的像素值(R′,G′,B′)=(Gr×MM/2,Gg×MM/2,Gb×MM/2)为不存在于拍摄图像中的紫色。
换句话说,在具有平均值ave的输出图像中出现紫色假色。
图17示出将三个拍摄图像的相应像素的像素值的平均值作为像素值的输出图像的示例,并在附图中的由阴影所示的部分中出现紫色假色。
具体地,作为从左到右移动的移动物体的白色汽车被映像在三个拍摄图像上。而且,三个拍摄图像中的第一个拍摄图像的相应像素值(R,G,B)为作为黑色的(0,0,0),但第二个拍摄图像的相应像素的像素值(R,G,B)为作为饱和的白色的(M,M,M)。
在简单地将如上所述的相应像素的像素值平均化并将WB增益应用于所获得的平均值的情况下,如图17中的阴影所示,出现假色。
而且,在这种情况下,像素值具有三个值R、G和B。然而,即使在图像传感器2是诸如Bayer阵列之类的图像传感器且像素值只是R,G,B中的一种颜色的原始数据的情况下,同样出现假色。
在处于饱和状态的相应像素中,在应用WB增益之前WB发生崩塌,且在处于WB发生崩塌的饱和状态的相应像素的像素值和处于WB未发生崩塌的非饱和状态的相应像素的像素值之间进行平均化的情况下,通过平均化获得的平均值ave的WB发生变化。
如上所述,利用平均值ave的WB的这种变化是出现假色的原因。
减少如上所述的假色的方法的示例包括如下方法:在生成处理中,在相应像素处于饱和状态的情况下,将N个拍摄图像的相应像素的像素值的最大值,而不是使用相应像素的像素值的平均值,用作输出图像(关注像素)的像素值。
图18是示出从N个拍摄图像生成一个(帧)输出图像的生成处理的第三个示例的说明性流程图。
具体地,图18是示出如下生成处理示例的说明性流程图:在相应像素没处于饱和状态的情况下将平均值ave用作输出图像的像素值,且在相应像素处于饱和状态的情况下将最大值max用作输出图像的像素值。
在生成处理的第三示例中,在步骤S61中,类似于图8的步骤S41,信号处理单元4选择输出图像的一个像素作为关注像素,并且然后处理进入步骤S62。
在步骤S62中,信号处理单元4获得所有N个拍摄图像的与关注像素相对应的相应像素的像素值的最大值max和平均值ave,并且然后处理进入步骤S63。
在步骤S63中,信号处理单元4确定在N个拍摄图像的相应像素中是否存在处于饱和状态的饱和像素。
如果在步骤S63中确定在N个拍摄图像的相应像素中没有饱和像素,即N个拍摄图像的相应像素中的具有最大值max的相应像素不饱和,则处理进入步骤S64。
在步骤S64中,信号处理单元4选择在步骤S62中获得的平均值ave作为关注像素的像素值,并且然后处理进入步骤S66。
如果在步骤S63中确定在N个拍摄图像的相应像素中存在饱和像素,即在N个拍摄图像的相应像素之中的具有最大值max的相应像素饱和,则处理进入步骤S65。
在步骤S65中,信号处理单元4选择在步骤S62中获得的最大值max(饱和像素的像素值)作为关注像素的像素值,并且然后处理进入步骤S66。
在步骤S66中,信号处理单元4确定输出图像的所有像素是否都被选择为关注像素。
如果在步骤S66中确定输出图像的不是所有的像素都被选择为关注像素,则处理返回到步骤S61,并且之后重复类似处理。
此外,如果在步骤S66中确定输出图像的所有像素都被选择为关注像素,则生成输出图像的生成处理结束。
如上所述,当N个拍摄图像的相应像素的像素值之中的最大值max饱和时,最大值max被作为输出图像的关注像素的像素值获得,且当N个拍摄图像的相应像素的像素值都不饱和时,N个拍摄图像的相应像素的像素值的平均值ave被作为输出图像的关注像素的像素值获得,且因此可以防止如图17所示的假色出现在输出图像中。
顺便说一下,如图18的生成处理的第三示例中,取决于拍摄图像的相应像素是否为饱和像素,将拍摄图像的相应像素的平均值ave或最大值max选择为输出像素的像素值。
在这种情况下,在输出图像中的像素值逐渐变化的部分中可能突然出现水平差。
图19是示出像素值逐渐变化的两个拍摄图像与通过使用两个拍摄图像生成的输出图像之间的像素值变化的示例的示图。
而且,在图19中,横轴表示像素的位置(例如,水平方向上的位置),并且纵轴表示拍摄图像和输出图像的像素值。
如图19所示,两个拍摄图像的像素值以类似斜坡信号的方式从左到右逐渐上升,并到达像素值的饱和水平(饱和状态)。
然而,两个拍摄图像的像素值不同相。换句话说,两个拍摄图像中的一个拍摄图像的像素值是通过将另一个拍摄图像的像素值在水平方向上偏移而获得的像素值。
在这种情况下,在生成过程中的第三示例(图18)中,在两个拍摄图像的相应像素的像素值中的一个像素值到达饱和水平之前,两个拍摄图像的相应像素的像素值的平均值ave一直被作为输出图像的像素值获得。
两个拍摄图像的像素值从左到右逐渐上升,并因此两个拍摄图像的像素值的平均值ave从左到右逐渐上升。
在相位偏移的状态下,两个拍摄图像的像素值从左到右逐渐上升,并因此两个拍摄图像中的一者的像素值先于另一者到达饱和水平。
当两个拍摄图像中的一者的像素值先于另一者到达饱和水平时,饱和水平的像素值被作为输出图像的像素值获得。
因此,对于输出图像的水平方向上的像素,从左到右的两个拍摄图像的像素值的平均值被作为输出图像的像素值获得。然而,当两个拍摄图像中的一者的像素值到达饱和水平时,饱和水平从具有已到达饱和水平的像素值的像素的位置开始被作为输出图像的像素值获得。
结果,在处于饱和水平的像素的位置上,输出图像的像素值突然上升到饱和水平,从而导致水平差。然后,由于这种水平差,输出图像的图像质量劣化。
例如,用于防止由如上所述的像素值的水平差的出现引起的输出图像的图像质量劣化的方法的示例包括如下方法:将最大值max和平均值ave按照预定的混合比a1(0=<a1<=1)进行混合,并获得通过混合获得的混合值以作为生成处理中的输出图像的像素值。
图20是示出用于混合最大值max和平均值ave的混合比a1的示例的示图。
例如,可以将与N个拍摄图像的相应像素的像素值的最大值相对应的值用作混合比a1。
在图20中,在最大值max等于或小于最大值max的阈值SAT_TH的情况下,将值SAT_OFS(>=0)用作混合比a1。
此外,在图20中,在最大值max大于阈值SAT_TH的情况下,将与最大值max成比例的值SAT_SLOPE(>SAT_OFS)用作混合比a1。
然后,在与最大值max成比例的值SAT_SLOPE大于或等于混合比a1的阈值SAT_LIMIT(其中SAT_OFS<SAT_LIMIT=<1)的情况下,将阈值SAT_LIMIT用作混合比a1。
图21是示出从N个拍摄图像生成一个(帧)输出图像的生成过程的第四示例的说明性流程图。
具体地,图21是示出获得通过最大值max和平均值ave按照混合比a1进行混合获得的混合值以作为输出图像的像素值的生成过程的示例的说明性流程图。
在生成过程的第四示例中,信号处理单元4分别在步骤S71和S72中执行与图18的步骤S61和S62类似的过程。因此,选择输出图像的关注像素,并获得与关注像素相对应的相应像素的像素值的最大值max和平均值ave,然后处理从步骤S72进入步骤S73。
在步骤S73中,如图20所示,信号处理单元4获得与最大值max相对应的值以作为混合比a1,并且然后处理进入步骤S74.
在步骤S74中,例如,信号处理单元4将最大值max和平均值ave按照公式bld1=max×a1+ave×(1-a1)进行混合,并获得最终的混合值bld1以作为关注像素的像素值。接着,处理进入步骤S75。
在步骤S75中,信号处理单元4确定输出图像的所有像素是否都被选择为关注像素。
如果在步骤S75中确定输出图像的不是所有的像素都被选择为关注像素,则处理返回到步骤S71,且之后重复类似处理。
此外,如果在步骤S75中确定输出图像的所有的像素都被选择为关注像素,则生成一个输出图像的生成过程结束。
如上所述,与最大值max相对应的值被作为混合比a1获得,且通过将最大值max和平均值ave按照混合比a1进行混合获得的混合值bld1被作为关注像素的像素值获得。因此,在最大值max为小的情况下,通过对平均值ave进行加权而获得的值被作为关注像素的像素值获得。此外,随着最大值max增大,通过对最大值max进行加权获得的值被作为关注像素的像素值获得。
因此,可以消除通过参照图17所说明的假色在输出图像中的出现,并防止由通过参照图19所说明的像素值的水平差引起的输出图像的图像质量的劣化。
此外,在最大值max处于饱和水平的情况下,混合比a1被设置为1,且在最大值max小于饱和水平的情况下,混合比a1被设置为0。这使得图21的生成处理等效于图18的生成处理。
图22是示出由图9的生成过程生成的输出图像(具有平均值ave的输出图像)以及由图18或21的生成过程生成的输出图像的示例的示图。
由图9的生成过程生成的输出图像(具有平均值ave的输出图像)也被称为不具有防着色措施功能(coloring preventive measure function)的输出图像,且由图18或21的生成过程生成的输出图像也被称为具有防着色措施功能的输出图像。
在不具有防着色措施功能的输出图像中,如图中的阴影所示,可能出现假色,而在具有防着色措施功能的输出图像中,可防止假色的出现。
这里,拍摄图像的像素值仅是R、G和B中的一种颜色的原始数据,并且在这种拍摄图像中,彼此靠近的三个像素Pr、Pg和Pb的像素值分别为R、G和B。
例如,假设在两个拍摄图像中,第一个拍摄图像的三个像素Pr、Pg和Pb的像素值(R,G,B)是(2000,4000,2000),且第二个拍摄图像的三个像素Pr、Pg和Pb的像素值(R,G,B)是(0,0,0)。此外,例如,假定WB增益(GR,GG,GB)为(2,1,2)。
再者,假定饱和度为4000。第一个拍摄图像的像素Pg的像素值G是4000且是饱和的。
通过将WB增益(Gr,Gg,Gb)=(2,1,2)应用于第一个拍摄图像的三个像素Pr、Pg和Pb的像素值(R,G,B)=(2000,4000,2000)获得的结果(R’,G’,B’)为(4000,4000,4000),且是饱和的。
通过将WB增益(Gr,Gg,Gb)=(2,1,2)应用于第二个拍摄图像的三个像素Pr、Pg和Pb的像素值(R,G,B)=(0,0,0)获得的结果(R’,G’,B’)为(0,0,0),且为黑色。
因此,期望的是,输出图像的三个像素Pr、Pg和Pb是白色或黑色。
然而,在仅根据拍摄图像的相应像素选择拍摄图像的相应像素的平均值ave或最大值max(其是输出图像的像素值)的情况下(图18),或者获得混合比a1的情况下(图21),在输出图像中可能出现具有高灵敏度的绿色着色(低WB增益)。
换句话说,为了简化说明,假定仅根据拍摄图像的相应像素来选择拍摄图像的相应像素的平均值ave或最大值max作为输出图像的像素值。
对于像素Pr,第一个拍摄图像的像素值R=2000和第二拍摄图像的像素值R=0都不饱和,并因此,像素值R=2000和像素值R=0的平均值ave=1000为被选择为输出图像的像素值。
类似地,对于像素Pb,第一个拍摄图像的像素值B=2000和第二个拍摄图像的像素值B=0都不饱和,并因此,像素值B=2000和像素值B=0的平均值ave=1000为被选择为输出图像的像素值。
另一方面,对于像素Pg,在第一个拍摄图像的像素值G=4000和第二个拍摄图像的像素值G=0之中,第一个拍摄图像的像素值G=4000饱和,并因此饱和像素值G=4000被选择为输出图像的像素值。
因此,输出像素的三个像素Pr、Pg和Pb的像素值(R,G,B)为(1000,4000,1000)。
通过将WB增益(Gr,Gg,Gb)=(2,1,2)应用于输出图像的像素值(R,G,B)=(1000,4000,1000)获得的结果(R′,G′,B′)是通过将大于或等于饱和水平的值消减到饱和水平4000而获得的(2000,4000,2000),并因此它变为绿色。
在拍摄图像中的像素P为相应像素的情况下,能够通过使用应用LPF(例如,LPF的应用可以通过对拍摄图像应用低通滤波器(LPF)来实现)之后的像素P的像素值执行生成过程来防止在输出图像中出现但不存在于拍摄图像中的上述绿色着色。
换句话说,除在应用LPF之前的像素P的像素值之外,也将像素P周围的像素的像素值合并到应用LPF之后的像素P的像素值。
根据应用LPF之后的像素P的像素值,可以选择拍摄图像的相应像素的平均值ave或最大值max(其是图18中的输出像素的像素值),或者可以通过获得混合比a1来防止在输出图像中出现但不存在于拍摄图像中的绿色着色。
此外,期望的是,在将LPF应用于像素P时使用的像素值包括像素P周围的包括像素P在内的像素的三个颜色R、G和B的像素值。然而,可仅通过使用像素P以及像素P的在水平方向上相邻的数个像素的像素值来有效地防止在输出图像中出现但不存在于拍摄图像中的绿色着色。
图23是示出出现在输出图像中的运动模糊的说明性示图。
图23的部分A示出在新高速模式下拍摄的拍摄图像的示例。
在被映像在拍摄图像上的对象正在移动的情况下,即,例如,在作为车载摄像机的摄像机单元被安装到诸如汽车之类的移动物体上时,被映像在拍摄图像上的移动对象具有运动模糊。
例如,在汽车正在直线前进的情况下,拍摄图像的水平方向上的***部分(端部)上映像的对象比水平方向上的中心部分上映像的对象更快地移动。因此,如图23的部分A所示,在拍摄图像的水平方向上的***部分而不是中心部分中发生较大的运动模糊。
图23的部分B示出在新高速模式下拍摄的拍摄图像的示例。
例如,在汽车曲线前进的情况下,在拍摄图像的水平方向上,与弯曲方向相反的方向上的对象比弯曲方向上的对象更快地移动。因此,如图23的部分B所示,在拍摄图像的水平方向上,较大的运动模糊发生在与弯曲方向相反的方向上的部分,而不是弯曲方向上的部分。
此外,例如,在拍摄图像中,随着汽车速度的提高,运动模糊增加。
在N个拍摄图像中出现运动模糊的情况下,如果发生运动模糊的N个拍摄图像的像素值的平均值ave被作为输出像素的像素值获得,则会出现更大程度的运动模糊。
此外,在N个拍摄图像中出现运动模糊的情况下,被映像在一个拍摄图像上的对象在另一拍摄图像中被映像在偏移位置处,并且因此,如果N个拍摄图像的像素值的平均值ave被作为输出像素的像素值获得,则在输出图像中依然会出现更大程度的运动模糊。
另一方面,在N个拍摄图像中出现运动模糊的情况下,在通过N个拍摄图像获得的输出图像之中,如下的输出图像成为具有最小程度的运动模糊的图像,在该输出图像中,N个拍摄图像中的一个拍摄图像的像素值被不加修改地作为输出图像的像素值获得。
然后,为了防止在输出图像中出现运动模糊,在输出图像的生成处理中,可以获得取决于如下条件的混合比a2(0=<a2<=1):被映像在输出图像(即,拍摄的图像)上的对象的运动量、关注像素的位置、包括安装在其上的摄像机单元的汽车的速度或当汽车在曲线上行驶时曲线的弯曲方向或弯曲程度等。此外,可以通过按照混合比a2将平均值ave或最大值max与任一拍摄图像的像素值混合来获得输出图像。
此外,例如,在汽车曲线前进时,可以将汽车的方向盘的转向角度用作弯曲方向或弯曲程度(代表曲线的物理量)。
图24是示出当与被映像在输出图像(或拍摄图像)上的对象的运动量对应的值被作为混合比a2获得时混合比a2的示例的示图。
例如,当与被映像在输出图像(或拍摄图像)上的对象的运动量对应的值被作为混合比a2获得时,信号处理单元4通过区块匹配(block matching)或特征点匹配(featurepoint matching)等来获得N个拍摄图像之中的一个拍摄图像的相应像素的运动,以作为关注像素的运动量。
此外,如图24所示,随着运动量的幅值(绝对值)变大(这取决于关注像素的运动量),信号处理单元4获得具有更大值的混合比a2。
此外,例如,响应于用户操作等,信号处理单元4从N个拍摄图像之中选择一个用于生成拍摄图像的生成图像。
然后,信号处理单元4根据公式bld=side×a2+ave×(1-a2)将N个拍摄图像的相应像素的像素值的平均值ave(或最大值max)和生成图像的相应像素的像素值side进行混合。然后,信号处理单元4获得最终的混合值bld,以作为输出图像的关注像素的像素值。
图25是示出在根据输出图像的关注像素的位置(拍摄图像的相应像素的位置)将平均值ave(或最大值max)与生成图像的相应图像的像素值进行混合的情况下用于混合的混合比a2的示例的示图。
在根据输出图像的关注像素的位置执行混合的情况下,取决于关注像素的位置,随着关注像素在水平方向上的位置变得更远离输出图像的在水平方向上的中心部分,信号处理单元4获得具有更大值的混合比a2。
此外,响应于用户操作等,信号处理单元4从N个拍摄图像之中选择一个用于生成输出图像的生成图像。
接着,信号处理单元4根据公式bld=side×a2+ave×(1-a2)将N个拍摄图像的相应像素的像素值的平均值ave(或最大值max)与生成图像的相应像素的像素值side进行混合。然后,信号处理单元4获得最终的混合值bld,以作为输出图像的关注像素的像素值。
如上所述,除了关注像素的运动量或位置之外,还可以根据安装有摄像机单元的汽车的速度和方向盘的转向角来获得混合比a2。
换句话说,仅根据关注像素的运动量、关注像素的位置、安装有摄像机单元的汽车的速度和方向盘的转向角度中的一项,可以获得作为该项的函数的混合比a2。
此外,根据关注像素的运动量、关注像素的位置、安装有摄像机单元的汽车的速度和方向盘的转向角度中的两个以上的项,可以获得作为两个以上的项的函数的混合比a2。
图26是示出从N个拍摄图像生成一个(帧)输出图像的生成过程的第五示例的说明性流程图。
具体地,图26是示出如下的生成过程的示例的说明性流程图,该生成过程通过将平均值ave(或最大值max)与生成图像的像素值进行混合来获得作为输出图像的像素值的混合值。
在生成过程的第五示例中,在步骤S81中,信号处理单元4将N个拍摄图像之中的一个拍摄图像选择为生成图像,且然后处理进入步骤S82。
这里,在步骤S81中,例如,可以响应于用户操作将N个拍摄图像之中的一个拍摄图像选择为生成图像。此外,在步骤S81中,例如,可以将在N个拍摄图像之中的数量为被预先设置在摄像机单元中的数量的拍摄图像选择为生成图像。
在步骤S82中,类似于图8的步骤S41,信号处理单元4选择输出图像的关注像素,并且然后处理进入步骤S83。
在步骤S83中,类似于图9的步骤S52(或图8的步骤S42),信号处理单元4获得与关注像素相对应的相应像素的像素值的平均值ave(或最大值max),并且然后处理进入步骤S84。
在步骤S84中,信号处理单元4获得关注像素的运动量,并且然后处理进入步骤S85。
在步骤S85中,信号处理单元4获得(设置)取决于关注像素的运动量和位置的混合比a2,并且然后处理进入步骤S86。
这里,在步骤S85中,信号处理单元4可以获得如参考图24所述的取决于关注像素的运动量的混合比a2′,可以获得如参考图25所述的取决于关注像素的位置的混合比a2″,并且可以获得取决于运动量的混合比a2′和取决于位置的混合比a2″之间的平均值或乘积值等,以作为取决于关注像素的运动量和位置的混合比a2。
在步骤S86中,例如,信号处理单元4根据公式bld=side×a2+ave×(1-a2)将平均值ave(或最大值max)和生成图像的相应像素的像素值side进行混合,并获得最终的混合值bld以作为关注像素的像素值。然后,处理进入步骤S87。
在步骤S87中,信号处理单元4确定输出图像的所有像素是否都被选择为关注像素。
如果在步骤S87中确定输出图像的不是所有的像素都被选择为关注像素,则处理返回到步骤S82,且之后重复类似的处理。
此外,如果在步骤S87中确定输出图像的所有像素都被选择为关注像素,则生一个输出图像的生成过程结束。
图27是示出通过图9的生成过程生成的输出图像(具有平均值ave的输出图像)和通过图26的生成过程生成的输出图像的示例的示图。
通过图9的生成过程生成的输出图像(具有平均值ave的输出图像)也被称为不具有防运动模糊措施功能的输出图像,且通过图26的生成过程生成的输出图像被称为具有防运动模糊措施功能的输出图像。
图27示出不具有防运动模糊措施功能的输出图像和具有防运动模糊措施功能的输出图像中的每一者的在水平方向上的***部分(边缘部分)处的图像的示例。在不具有防运动模糊措施功能的输出图像的***部分中出现较大的运动模糊,但可以发现,在具有防运动模糊措施功能的输出图像的***部分中可以防止运动模糊的程度。
这里,在下列说明中,图20等中说明的混合比a1也被称为防着色措施混合比a1,且图24和25等中说明的混合比a2也被称为防运动模糊措施混合比a2。
图28是示出用于执行从N个拍摄图像生成一个(帧)输出图像的生成过程的第六示例的生成装置的结构示例的框图。
具体地,图28是示出用于执行生成过程第六示例的生成装置的结构示例的框图,该生成过程根据防着色措施混合比a1和防运动模糊措施混合比a2将平均值ave、最大值max和生成图像的像素值进行混合获得作为输出图像的像素值的混合值。
图28的生成装置被组合在信号处理单元4中。
在图28中,生成装置被构造为包括平均值图像生成单元51、最大值图像生成单元52、生成图像选择单元53、混合比(用于防着色措施)设置单元54、混合比(用于防运动模糊措施)设置单元55以及混合单元56、57和58。
例如,平均值图像生成单元51、最大值图像生成单元52和生成图像选择单元53被提供三个拍摄图像(其像素值)S0、S1和S2,以作为N个拍摄图像。
平均值图像生成单元51获得平均值图像,并将其提供到混合单元56,其中,被提供的三个拍摄图像中的相同位置处的像素的像素值S0、S1和S2的平均值ave=(S0+S1+S2)/3被设置为平均值图像的像素值。
最大值图像生成单元52获得最大值图像,并将其提供到混合比设置单元54和混合单元56,其中,被提供的三个拍摄图像中的相同位置处的像素的像素值S0、S1和S2的最大值max=max(S0,S1,S2)被设置为最大值图像的像素值。这里,max(S0,S1,S2)表示S0、S1和S2中的最大值。
生成图像选择单元53将被提供的三个拍摄的图像中的一个拍摄图像选择为生成图像,并将其提供到混合比设置单元55和混合单元57。
例如,如参考图20所说明,混合比设置单元54根据从最大值图像生成单元52提供的最大值图像的像素值的最大值max来获得输出像素的各像素的防着色措施混合比a1,并将其提供到混合单元56和58。
混合比设置单元55通过使用来自生成图像选择单元53的生成图像来获得输出图像的每个像素的运动量。然后,如参考图24至26所说明,混合比设置单元55根据输出图像的每个像素的运动量以及每个像素的位置来获得输出图像的每个像素的防运动模糊措施混合比a2,并把它提供到混合单元57。
此外,例如,不同于上述方式,混合比设置单元55可以仅根据输出图像的像素的运动量和位置、安装有摄像机单元的汽车的速度以及方向盘的转向角中的一项来获得防运动模糊措施混合比a2。
而且,例如,混合比设置单元55可以根据输出图像的像素的运动量和位置、安装有摄像机单元的汽车的速度以及方向盘的转向角中的多项来获得防运动模糊措施混合比a2。
混合单元56使用来自混合比设置单元54的混合比a1并根据公式bld1=max×a1+ave×(1-a1)将平均值ave和最大值max进行混合,其中,平均值ave是从平均值图像生成单元51提供的平均值图像的每个像素的像素值,且最大值max是从最大值图像生成单元52提供的最大值图像的每个像素的像素值。然后,混合单元56将第一混合图像(bld1)提供到混合单元57,第一混合图像的像素值是通过混合获得的混合值bld1。
由混合单元56执行的混合防止通过参照图17说明的假色的出现。
混合单元57使用来自混合比设置单元55的混合比a2并根据公式bld2=side×a2+bld1×(1-a2)将从生成图像选择单元53提供的生成图像的每个像素的像素值side和从混合单元56提供的第一混合图像的每个像素的像素值bld1进行混合。然后,混合单元57将第二混合图像(bld2)提供到混合单元58,第二混合图像的像素值是通过混合获得的混合值bld2。
此外,混合单元57还获得max2图像,并将其提供到混合单元58,其中,max2图像的像素值是从生成图像选择单元53提供的生成图像的每个像素的像素值side和从混合单元56提供的第一混合图像的相同位置处的像素的像素值bld1中的最大值max2=max(bld1,side)。这里,max(bld1,side)表示bld1和side之间的最大值。
由混合单元57执行的混合防止通过参照图23说明的运动模糊。
混合单元58使用来自混合比设置单元54的混合比a1并根据公式bld3=max2×a1+bld2×(1-a1)将从混合单元57提供的第二混合图像的每个像素的像素值bld2和从混合单元57提供的max2图像的相同位置处的像素的像素值max2进行混合。然后,混合单元58输出作为输出图像的图像,输出图像的像素值是通过混合获得的混合值bld3。
由混合单元58执行的混合可防止最初不存在于如下像素中的颜色的出现,该像素的像素值是通过在混合单元57将第一混合图像的像素值bld1和生成图像的像素值side进行混合获得的混合值bld2。
此外,在混合单元58中,可以仅使如下像素的混合比a1有效,在该像素中,在前一级的混合单元57中用于混合的混合比a2不为0或1。
在这种情况下,混合单元58仅针对混合比a1为有效的像素执行第二混合图像的像素值bld2和max2图像的像素值max2的混合,并且例如,在混合比a1=0的情况下,可以将第二混合图像的像素值bld2未加修改地设置为输出图像的像素值。
图29和30是示意地示出由商用车载摄像机拍摄的输出图像、在正常模式下拍摄的输出图像和在新高速模式下拍摄的输出图像的示例的示图。
具体地,图29和30示出在不同成像条件下获得的输出图像。
图29示出例如在白天通过高照度的成像获得的输出图像,并且图30示出例如在夜间通过低照度的成像获得的输出图像。
此外,图29和图30的部分A示出在将由商用车载摄像机拍摄的拍摄图像未加修改地用作输出图像的情况下的输出图像(以下也被称为商用摄像机输出图像)。
图29和图30的部分B示出在将正常模式下拍摄的拍摄图像未加修改地用作输出图像的情况下的输出图像(以下也被称为正常模式输出图像)。
图29和图30的部分C示出在将新高速模式下拍摄的三个拍摄图像的相应像素的像素值的平均值ave设置为输出图像的像素值的情况下的输出图像(具有平均值ave的输出图像)。
图29和图30的部分C示出在将新高速模式下拍摄的三个拍摄图像的相应像素的像素值的最大值max设置为输出图像的像素值的情况下的输出图像(具有最大值max的输出图像)。
由图29和30可知,在新高速模式下获得输出图像上映像的交通标志是可见的。
图31示出评估通过在白天和黑夜间的成像获得的市售摄像机输出图像、正常模式输出图像、具有平均值ave的输出图像和具有最大值max的输出图像的可见性的示例。
对作为被映像在(通过在白天和黑夜间的成像获得的)市售摄像机输出图像、正常模式输出图像、具有平均值ave的输出图像和具有最大值max的输出图像上的成像目标的基于LED的交通信号(Signal)和交通标志(Traffic Sign)进行可见性评估。
对于交通信号,闪烁频率(频率)为100Hz,且点亮占空比(占空比)为70%。此外,对于交通标志,闪烁频率为250Hz,且点亮占空比为50%或20%。
在图31中,符号×、Δ、〇和◎的可见性的满意程度依次增加。
由图31可知,可能存在如下情形:根据诸如白天或者黑夜之类的成像条件,具有最大值max的输出图像可能比具有平均值ave的输出图像更具令人满意的可见性,或者相反地,具有平均值ave的输出图像可能比具有最大值max的输出图像更具令人满意的可见性。
因此,可以通过在输出图像生成过程中根据成像条件将平均值ave和最大值max进行混合来获得输出图像,从而提高输出图像的可见性。
图32是示出从N个拍摄图像生成一个(帧)输出图像的生成过程的第七示例的说明性流程图。
具体地,图32是示出如下生成过程的示例的流程图,该生成过程根据取决于成像条件的混合比a1′将平均值ave和最大值max进行混合来获得混合值,以作为输出图像的像素值。
在生成过程的第七示例,在步骤S91中,信号处理单元4根据成像条件获得(设置)混合比a1′,并且然后处理进入步骤S92。
这里,在步骤S91中,例如,在对拍摄图像进行拍摄时的照度增加的情况下,信号处理单元4设置具有较大值的混合比a1′(0=<a1′=<1)。
在步骤S92中,类似于图8的步骤S41,信号处理单元4将输出图像的一个像素选择为关注像素,并且然后处理进入步骤S93。
在步骤S93中,信号处理单元4获得与N个拍摄图像中的每者的关注像素相对应的相应像素的像素值的最大值max和平均值ave,并且然后处理进入步骤S94。
在步骤S94中,例如,信号处理单元4根据公式bld1′=max×a1′+ave×(1-a1′)将最大值max和平均值进行混合,并获得通过混合获得的混合值bld1′以作为关注像素的像素值,并且然后处理进入步骤S95。
在步骤S95中,信号处理单元4确定输出图像的所有像素是否都被选择为关注像素。
如果在步骤S95中确定输出图像的不是所有的像素都被选择为关注像素,则处理进入步骤S92,且之后重复类似处理。
如果在步骤S95中确定输出图像的所有像素都被选择为关注像素,则生成一个输出图像的生成过程结束。
如上所述,可以通过根据成像条件获得混合比a1′并根据混合比a1′将最大值max和平均值ave进行混合来获得具有满意可见性的输出图像。
图33是示出从N个拍摄图像生成一个(帧)输出图像的生成过程的第八示例的说明性示图。
如参照图23说明,例如,在作为车载摄像机的摄像机单元被安装在诸如汽车之类的移动物体上的情况下,当将平均值ave设置为输出图像的像素值时,在输出图像的在水平方向上的***部分中出现较大的运动模糊。
此外,如参照图23所说明,在N个拍摄图像中出现运动模糊的情况下,通过使用N个拍摄图像获得的输出图像之中的如下输出图像成为具有最小程度的运动模糊的图像,该输出图像的像素值未加修改地使用N个拍摄图像之中的某个拍摄图像的像素值。
因此,如参照图32所说明,在根据取决于成像条件的混合比a1′将平均值ave和最大值max进行混合的情况下,如图33所示,可以将通过混合平均值ave和最大值max获得的混合值bld1′用作输出图像的在水平方向上的中心部分的像素值,并可以将作为从N个拍摄图像之中选择的一个拍摄图像的生成图像的像素值side用作输出图像的在水平方向上的周边部分的像素值。
在此情况下,可获得具有满意可见性和降低的运动模糊的输出图像。
此外,根据由信号处理单元4执行的生成处理,在对包括映像出闪烁成像目标的拍摄图像在内的任意N个拍摄图像进行组合的情况下,可防止在这些拍摄图像之中的一个或多个拍摄图像的像素值饱和时出现的假色。
此外,根据由信号处理单元4执行的信号处理,除了摄像机单元被安装在诸如汽车之类的移动体上并且摄像机单元本身移动的情况之外,在摄像机单元如高速公路上的监视摄像机那样是固定的情况下,可防止输出图像(拍摄图像)上映像的移动对象的运动模糊。
<摄像机单元的用途示例>
图34是示出使用图1所示的摄像机单元的用途示例的示图。
例如,上述摄像机单元可以如下所述地用于对诸如可见光、红外光、紫外光或X射线之类的光进行检测的各种情形。
-用于拍摄观赏用图像的装置,例如,数码摄像机和具有摄像机功能的便携式装置
-用于交通的装置,这些装置用于诸如自动停车或驾驶员状态的识别等,并包括用于拍摄汽车前方、后方、周围、内部等的图像的车载传感器、用于监控行驶车辆或道路的监控摄像机、用于测量车辆等之间的距离的距离传感器等
-用于包括电视机、冰箱和空调器在内的家用电器的装置,这些装置用于拍摄用户手势的图像,并按照手势执行装置操作。
-用于医疗或保健的装置,这些装置包括内窥镜和通过接收红外光执行血管造影的装置。
-用于安全的装置,这些装置包括用于罪犯预防的监控摄像机和用于个人认证的摄像机
-用于美容护理的装置,这些装置包括用于拍摄皮肤图像的皮肤测量装置和用于拍摄头皮图像的显微镜
-用于体育的装置,这些装置包括运动摄像机或用于运动的可穿戴摄像机等
-用于农业的装置,这些装置包括用于监控田野和作物的状况的摄像机
<本发明的计算机的说明>
图1所示的信号处理单元4和时序控制单元6的处理系列可以通过硬件或软件执行。在通过软件执行处理系列的情况下,构成软件的程序被安装在微计算机等中。
图35是示出安装有执行上述处理系列的程序的计算机的实施例的构造示例的框图。
可以将程序预先记录在计算机中包含的作为记录介质的硬盘105或ROM 103上。
另外,程序可以被存储(记录)在可移除记录介质111上。可以提供这种可移除记录介质111作为所谓的软件包(packaged software)。在这方面,可移除记录介质111的示例包括软磁盘、光盘只读存储器(CD-ROM)、磁光(MO)盘、数字多用途光盘(DVD)、磁盘和半导体存储器。
此外,可以从如上所述的可移除记录介质111将程序安装在计算机中,或者可以通过通信网络或广播网络将程序下载到计算机从而将其安装在计算机中包括的硬盘105中。也就是说,例如,可以以无线的方式通过用于数字卫星广播的卫星从下载站点将程序传送到计算机,或者以有线的方式通过诸如局域网(LAN)或因特网之类的网络将其传送到计算机。
计算机具有内置的中央处理单元(CPU)102,并且通过总线101将输入/输出接口110连接到CPU 102。
如果用户通过操作输入单元107等经由输入/输出接口110将命令输入到CPU 102,则CPU 102按照命令执行被存储在只读存储器(ROM)103中的程序。替代地,CPU 102将被存储在硬盘105中的程序加载到随机存取存储器(RAM)104并执行该程序。
这允许CPU 102能够执行与上述流程图重合的处理或者能够执行通过使用上述框图的构造执行的处理。然后,例如,CPU 102通过输出单元106输出由处理获得的结果,或者必要时通过输入/输出接口110并经由通信单元108发送结果,并将结果存储在硬盘105中。
此外,输入单元107包括键盘、鼠标、麦克风等。此外,输出单元106包括液晶显示器(LCD)、扬声器等。
在这方面,在本说明书中,计算机不必根据程序以流程图所示的次序按照时间序列执行处理。也就是说,计算机根据程序执行的处理还包括并行地或单独地执行的处理(例如,并行处理或面向对象处理)。
此外,程序可以由单个计算机来处理(处理器),或由多个计算机分散地处理。此外,可将程序传送到远程计算机以用于执行。
此外,在本说明书中,***是指多个构成元件(装置、模块(组件)等)的集合,并且所有构成元件可以被同一壳体中或者不被容纳在同一壳体中。因此,被容纳在不同壳体中并经由网络连接的多个装置组成***,并且在单个壳体中容纳多个模块的任何单个装置组成***。
此外,本发明的实施例不限于上述实施例,并且可以在本发明的范围内进行各种修改。
例如,本技术可以采用云计算构造,在云计算构造中,单个功能被多个装置通过网络共用,并被多个装置协同地处理。
流程图中所示的上述步骤可以由单个装置执行,或者可以由多个装置协同地执行。
此外,在多个步骤包含多个处理的情况下,单个步骤中包含的多个处理可以由单个装置执行,或可以由多个装置协同地执行。
本说明书中说明的效果仅仅是示例且不限于此,并且可以产生其它效果。
此外,本技术还可以被构造如下。
<1>一种成像装置包括:
成像单元,所述成像单元用于按照预定的成像时序拍摄图像;以及
控制单元,所述控制单元用于控制所述成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被所述成像单元拍摄的所述成像目标发生闪烁,其中,N大于1。
<2>如<1>所述的成像装置,其中,
所述控制单元控制所述成像时序,以便以超过下限曝光时间SHT_MIN的曝光时间执行N次成像,所述下限曝光时间SHT_MIN是根据公式SHT_MIN=Tb/N–TbDb/100获得的,其中,Tb[秒]表示所述成像目标的闪烁周期,Db[%]表示所述成像目标在所述闪烁周期中点亮的点亮占空比,且SHT_MIN[秒]表示允许至少一次成像的曝光时间与所述点亮时段的至少一部分重叠的所述下限曝光时间。
<3>如<1>或<2>所述的成像装置,其中,
对于每一个帧或每多个帧,所述控制单元针对不同的闪烁周期控制所述成像时序。
<4>如<1>或<2>所述的成像装置,其中,
当第一成像目标的闪烁周期为第二成像目标的闪烁周期与2的幂的乘积时,所述控制单元针对所述第一成像目标的闪烁周期控制所述成像时序。
<5>如<1>到<4>中任一项所述的成像装置,其还包括:
处理单元,所述处理单元用于通过执行N次的成像获得N个拍摄图像,并生成一帧输出图像。
<6>如<5>所述的成像装置,其中,
所述处理单元获得所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值,以作为所述输出图像的像素值。
<7>如<5>所述的成像装置,其中,
所述处理单元获得所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值的平均值,以作为所述输出图像的像素值。
<8>如<5>所述的成像装置,其中,
当所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值饱和时,所述处理单元获得所述最大值,以作为所述输出图像的像素值,且
当所述相应像素的像素值都不饱和时,所述处理单元获得所述N个拍摄图像的所述相应像素的像素值的平均值,以作为所述输出图像的像素值。
<9>如<5>所述的成像装置,其中,
所述处理单元获得如下的值,以作为用于将所述N个拍摄图像的所述相应像素的像素值的所述最大值和平均值进行混合的混合比,该值对应于所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值,且所述处理单元获得通过根据所述混合比将所述最大值和所述平均值进行混合而获得的混合值,以作为所述输出图像的像素值。
<10>如<5>所述的成像装置,其中,
所述处理单元获得与所述输出图像的像素的运动量相对应的值,以作为用于将所述所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值或所述相应像素的像素值的平均值与生成图像的相应像素的像素值进行混合的混合比,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像,且所述处理单元获得通过根据所述混合比将所述最大值或所述平均值与所述生成像素的所述相应像素的像素值进行混合而获得的混合值,以作为所述输出图像的像素值。
<11>如<5>所述的成像装置,其中,
所述处理单元根据所述输出图像的像素的位置来获得混合比,所述混合比用于将所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值或所述相应像素的像素值的平均值与生成图像的相应像素的像素值进行混合,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像,且所述处理单元获得通过根据所述混合比将所述最大值或所述平均值与所述生成图像的所述相应像素的像素值进行混合而得到的混合值,以作为所述输出图像的像素值。
<12>如<5>所述的成像装置,其中,
当所述成像装置被安装在移动物体上时,所述处理单元根据所述移动物体的速度、所述移动物体的方向盘的转向角度以及所述输出图像的像素的位置之中的一项或多项来获得混合比,所述混合比用于将所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值或所述相应像素的像素值的平均值与生成图像的相应像素的像素值进行混合,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像,且所述处理单元获得通过根据所述混合比将所述最大值或所述平均值与所述生成图像的所述相应像素的像素值进行混合而得到的混合值,以作为所述输出图像的像素值。
<13>如<5>所述的成像装置,其中,
当所述成像装置被安装在移动物体上时,所述处理单元根据所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值并根据所述移动物体的速度、所述移动物体的方向盘的转向角度以及所述输出图像的像素的位置之中的一项或多项来获得混合值,以作为所述输出图像的像素值,所述混合值是通过将所述最大值、所述相应像素的像素值的平均值以及生成图像的相应像素的像素值进行混合而获得的,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像。
<14>如<5>所述的成像装置,其中,
所述处理单元根据成像条件获得混合比,所述混合比用于将所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值和所述相应像素的像素值的平均值进行混合,且所述处理单元获得通过根据所述混合比将所述最大值和所述平均值进行混合而获得的混合值,以作为所述输出图像的像素值。
<15>如<14>所述的成像装置,其中,
所述处理单元根据所述输出图像的像素的位置获得所述混合值或生成图像的相应像素的像素值,以作为所述输出图像的像素值,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像。
<16>一种成像方法,其包括:
控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
<17>一种程序,所述程序使计算机用作:
控制单元,所述控制单元被配置成控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
<18>信号处理装置包括:
处理单元,所述处理单元被配置成用于处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
<19>一种信号处理方法,其包括:
处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
<20>一种程序,所述程序使计算机用作:
处理单元,所述处理单元被配置成用于处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1。
附图标记列表
1 光学*** 2 图像传感器
3 存储器 4 信号处理单元
5 输出单元 6 时序控制单元
51 平均值图像生成单元 52 最大值图像生成单元
53 生成图像选择单元 54、55 混合比设置单元
56至58 混合单元 101 总线
102 CUP 103 ROM
104 RAM 105 硬盘
106 输出单元 107 输入单元
108 通信单元 109 驱动器
110 输入/输出接口 111 可移除记录介质

Claims (19)

1.一种成像装置,其包括:
成像单元,所述成像单元用于按照预定的成像时序拍摄图像;以及
控制单元,所述控制单元用于控制所述成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被所述成像单元拍摄的所述成像目标发生闪烁,其中,N大于1,
其中,所述控制单元控制所述成像时序,以便以超过下限曝光时间的曝光时间执行N次成像,所述下限曝光时间是根据公式SHT_MIN=Tb/N–Tb×Db/100获得的,其中,Tb表示所述成像目标的闪烁周期,Db表示所述成像目标在所述闪烁周期中点亮的点亮占空比,且SHT_MIN表示允许至少一次成像的曝光时间与所述点亮时段的至少一部分重叠的所述下限曝光时间。
2.如权利要求1所述的成像装置,其中,
对于每一个帧或每多个帧,所述控制单元针对不同的闪烁周期控制所述成像时序。
3.如权利要求1所述的成像装置,其中,
当第一成像目标的闪烁周期为第二成像目标的闪烁周期与2的幂的乘积时,所述控制单元针对所述第一成像目标的闪烁周期控制所述成像时序。
4.如权利要求1-3中任一项所述的成像装置,其还包括:
处理单元,所述处理单元用于通过执行N次的成像获得N个拍摄图像,并生成一帧输出图像。
5.如权利要求4所述的成像装置,其中,
所述处理单元获得所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值,以作为所述输出图像的像素值。
6.如权利要求4所述的成像装置,其中,
所述处理单元获得所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值的平均值,以作为所述输出图像的像素值。
7.如权利要求4所述的成像装置,其中,
当所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值饱和时,所述处理单元获得所述最大值,以作为所述输出图像的像素值,且
当所述相应像素的像素值都不饱和时,所述处理单元获得所述N个拍摄图像的所述相应像素的像素值的平均值,以作为所述输出图像的像素值。
8.如权利要求4所述的成像装置,其中,
所述处理单元获得如下的值,该值对应于所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值,以作为用于将所述N个拍摄图像的所述相应像素的像素值的所述最大值和平均值进行混合的混合比,且
所述处理单元获得通过根据所述混合比将所述最大值和所述平均值进行混合而获得的混合值,以作为所述输出图像的像素值。
9.如权利要求4所述的成像装置,其中,
所述处理单元获得与所述输出图像的像素的运动量相对应的值,以作为用于将所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值或所述相应像素的像素值的平均值与生成图像的相应像素的像素值进行混合的混合比,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像,且
所述处理单元获得通过根据所述混合比将所述最大值或所述平均值与所述生成像素的所述相应像素的像素值进行混合而获得的混合值,以作为所述输出图像的像素值。
10.如权利要求4所述的成像装置,其中,
所述处理单元根据所述输出图像的像素的位置来获得混合比,所述混合比用于将所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值或所述相应像素的像素值的平均值与生成图像的相应像素的像素值进行混合,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像,且
所述处理单元获得通过根据所述混合比将所述最大值或所述平均值与所述生成图像的所述相应像素的像素值进行混合而得到的混合值,以作为所述输出图像的像素值。
11.如权利要求4所述的成像装置,其中,
当所述成像装置被安装在移动物体上时,所述处理单元根据所述移动物体的速度、所述移动物体的方向盘的转向角度以及所述输出图像的像素的位置之中的一项或多项来获得混合比,所述混合比用于将所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值或所述相应像素的像素值的平均值与生成图像的相应像素的像素值进行混合,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像,且
所述处理单元获得通过根据所述混合比将所述最大值或所述平均值与所述生成图像的所述相应像素的像素值进行混合而得到的混合值,以作为所述输出图像的像素值。
12.如权利要求4所述的成像装置,其中,
当所述成像装置被安装在移动物体上时,所述处理单元根据所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值并根据所述移动物体的速度、所述移动物体的方向盘的转向角度以及所述输出图像的像素的位置之中的一项或多项来获得混合值,以作为所述输出图像的像素值,所述混合值是通过将所述最大值、所述相应像素的像素值的平均值以及生成图像的相应像素的像素值进行混合而获得的,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像。
13.如权利要求4所述的成像装置,其中,
所述处理单元根据成像条件获得混合比,所述混合比用于将所述N个拍摄图像的与所述输出图像的像素相对应的相应像素的像素值之中的最大值和所述相应像素的像素值的平均值进行混合,且
所述处理单元获得通过根据所述混合比将所述最大值和所述平均值进行混合而获得的混合值,以作为所述输出图像的像素值。
14.如权利要求13所述的成像装置,其中,
所述处理单元根据所述输出图像的像素的位置获得所述混合值或生成图像的相应像素的像素值,以作为所述输出图像的像素值,所述生成图像是所述N个拍摄图像之中的一个预定拍摄图像。
15.一种成像方法,其包括:
控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1,
其中,控制所述成像时序,以便以超过下限曝光时间的曝光时间执行N次成像,所述下限曝光时间是根据公式SHT_MIN=Tb/N–Tb×Db/100获得的,其中,Tb表示所述成像目标的闪烁周期,Db表示所述成像目标在所述闪烁周期中点亮的点亮占空比,且SHT_MIN表示允许至少一次成像的曝光时间与所述点亮时段的至少一部分重叠的所述下限曝光时间。
16.一种存储有程序的记录介质,所述程序使计算机用作:
控制单元,所述控制单元被配置成控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1,
其中,所述控制单元控制所述成像时序,以便以超过下限曝光时间的曝光时间执行N次成像,所述下限曝光时间是根据公式SHT_MIN=Tb/N–Tb×Db/100获得的,其中,Tb表示所述成像目标的闪烁周期,Db表示所述成像目标在所述闪烁周期中点亮的点亮占空比,且SHT_MIN表示允许至少一次成像的曝光时间与所述点亮时段的至少一部分重叠的所述下限曝光时间。
17.一种信号处理装置,其包括:
处理单元,所述处理单元被配置成用于处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1,
其中,控制所述成像时序,以便以超过下限曝光时间的曝光时间执行N次成像,所述下限曝光时间是根据公式SHT_MIN=Tb/N–Tb×Db/100获得的,其中,Tb表示所述成像目标的闪烁周期,Db表示所述成像目标在所述闪烁周期中点亮的点亮占空比,且SHT_MIN表示允许至少一次成像的曝光时间与所述点亮时段的至少一部分重叠的所述下限曝光时间。
18.一种信号处理方法,其包括:
处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1,
其中,控制所述成像时序,以便以超过下限曝光时间的曝光时间执行N次成像,所述下限曝光时间是根据公式SHT_MIN=Tb/N–Tb×Db/100获得的,其中,Tb表示所述成像目标的闪烁周期,Db表示所述成像目标在所述闪烁周期中点亮的点亮占空比,且SHT_MIN表示允许至少一次成像的曝光时间与所述点亮时段的至少一部分重叠的所述下限曝光时间。
19.一种存储有程序的记录介质,所述程序使计算机用作:
处理单元,所述处理单元被配置成用于处理通过如下方式执行N次的成像获得的N个拍摄图像并生成一帧输出图像:控制预定的成像时序,以便按照将闪烁周期N等分的时序,以点亮时段的至少一部分与至少一次成像的曝光时间发生重叠的情况下的曝光时间,执行N次成像,其中,在所述点亮时段中,成像目标点亮,且在所述闪烁周期中,被成像单元拍摄的所述成像目标发生闪烁,所述成像单元用于按照所述成像时序执行成像,其中,N大于1,
其中,控制所述成像时序,以便以超过下限曝光时间的曝光时间执行N次成像,所述下限曝光时间是根据公式SHT_MIN=Tb/N–Tb×Db/100获得的,其中,Tb表示所述成像目标的闪烁周期,Db表示所述成像目标在所述闪烁周期中点亮的点亮占空比,且SHT_MIN表示允许至少一次成像的曝光时间与所述点亮时段的至少一部分重叠的所述下限曝光时间。
CN201680017849.7A 2015-04-13 2016-04-01 成像装置、成像方法、信号处理装置、信号处理方法和记录介质 Active CN107431758B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015081607 2015-04-13
JP2015-081607 2015-04-13
PCT/JP2016/060894 WO2016167137A1 (ja) 2015-04-13 2016-04-01 撮影装置、撮影方法、信号処理装置、信号処理方法、及び、プログラム

Publications (2)

Publication Number Publication Date
CN107431758A CN107431758A (zh) 2017-12-01
CN107431758B true CN107431758B (zh) 2020-06-16

Family

ID=57127242

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680017849.7A Active CN107431758B (zh) 2015-04-13 2016-04-01 成像装置、成像方法、信号处理装置、信号处理方法和记录介质

Country Status (5)

Country Link
US (2) US10412309B2 (zh)
EP (1) EP3285478B1 (zh)
JP (1) JP6627866B2 (zh)
CN (1) CN107431758B (zh)
WO (1) WO2016167137A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10412309B2 (en) 2015-04-13 2019-09-10 Sony Corporation Image capture device, method of image capture, signal processing device, method of signal processing, and program
JP2019036907A (ja) * 2017-08-21 2019-03-07 ソニーセミコンダクタソリューションズ株式会社 撮像装置及び機器
JP6958199B2 (ja) * 2017-09-29 2021-11-02 株式会社ジェイテクト 設備管理システム
US10939046B2 (en) * 2017-11-30 2021-03-02 BAE Systems Imaging Solutions Inc. LED flicker mitigation for motion pictures
WO2020188669A1 (ja) * 2019-03-15 2020-09-24 株式会社ニコン 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム
JP2021022057A (ja) * 2019-07-25 2021-02-18 ファナック株式会社 設置支援装置、設置支援システム及び設置支援プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007161189A (ja) * 2005-12-16 2007-06-28 Auto Network Gijutsu Kenkyusho:Kk 車載カメラ及びドライブレコーダ
JP2011234318A (ja) * 2010-04-30 2011-11-17 Yamaha Corp 撮像装置
CN103703768A (zh) * 2012-08-01 2014-04-02 株式会社Jai 监视用照相机装置
CN104268508A (zh) * 2014-09-15 2015-01-07 济南大学 便携式色盲色弱人员交通信号灯辨别方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7920175B2 (en) * 2005-01-13 2011-04-05 Canon Kabushiki Kaisha Electronic still camera performing composition of images and image capturing method therefor
JP4937851B2 (ja) * 2007-07-05 2012-05-23 パナソニック株式会社 撮像装置
JP2009278496A (ja) * 2008-05-16 2009-11-26 Victor Co Of Japan Ltd 撮像装置
JP5419390B2 (ja) * 2008-06-13 2014-02-19 富士通テン株式会社 ドライブレコーダ及びシステム
US8384800B2 (en) * 2009-11-23 2013-02-26 Samsung Electronics Co., Ltd. Methods of acquiring images
US10412309B2 (en) 2015-04-13 2019-09-10 Sony Corporation Image capture device, method of image capture, signal processing device, method of signal processing, and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007161189A (ja) * 2005-12-16 2007-06-28 Auto Network Gijutsu Kenkyusho:Kk 車載カメラ及びドライブレコーダ
JP2011234318A (ja) * 2010-04-30 2011-11-17 Yamaha Corp 撮像装置
CN103703768A (zh) * 2012-08-01 2014-04-02 株式会社Jai 监视用照相机装置
CN104268508A (zh) * 2014-09-15 2015-01-07 济南大学 便携式色盲色弱人员交通信号灯辨别方法

Also Published As

Publication number Publication date
US20180084175A1 (en) 2018-03-22
US10412309B2 (en) 2019-09-10
EP3285478A4 (en) 2019-02-13
EP3285478A1 (en) 2018-02-21
CN107431758A (zh) 2017-12-01
EP3285478B1 (en) 2021-10-06
JP6627866B2 (ja) 2020-01-08
JPWO2016167137A1 (ja) 2018-02-08
WO2016167137A1 (ja) 2016-10-20
US10999520B2 (en) 2021-05-04
US20200029005A1 (en) 2020-01-23

Similar Documents

Publication Publication Date Title
CN107431758B (zh) 成像装置、成像方法、信号处理装置、信号处理方法和记录介质
JP3214195B2 (ja) 運転者撮影装置
CN102682710B (zh) 显示控制装置、图像显示***以及显示控制方法
US20130050462A1 (en) Face image detection apparatus
KR20090117586A (ko) 적외선 발광다이오드를 이용한 카메라 및 적외선 발광다이오드 제어 방법
CN107431759B (zh) 摄像装置、摄像方法、电子设备以及车载电子设备
US9615031B2 (en) Imaging device and scene determination method
CN111263035B (zh) 拍摄高动态范围图像的***、方法与照相机
JP2014110621A (ja) 評価値算出装置および評価値算出方法
JP2012005054A (ja) 低照度対応カメラ
JP6935815B2 (ja) 照明撮像装置
JP4782491B2 (ja) 撮像装置
KR20150057041A (ko) 카메라의 led 조명제어 방법 및 그 장치
US11812179B2 (en) Input apparatus for vehicle and method thereof
CN112930679A (zh) 电子设备及其控制方法
CN112140877A (zh) 车载抬头显示装置的显示效果控制方法、装置及车辆
JP2007251555A (ja) 診断装置および方法、プログラム、並びに、記録媒体
KR101601324B1 (ko) 차량용 카메라 시스템의 영상 획득 방법
JP2009253316A (ja) 車載カメラ及びドライブレコーダ
JP2004297645A (ja) 撮像システム
JP2013009041A (ja) 車両用撮影表示制御システム
CN115769250A (zh) 用于机动车的视觉***
JP2017192115A (ja) 車両用視認装置
KR20170074128A (ko) 차량용 감시 장치 및 차량용 이동 객체 감지 방법
JP2010147876A (ja) 撮像装置並びに撮像システム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant