CN115314628B - 一种成像方法、***及摄像机 - Google Patents
一种成像方法、***及摄像机 Download PDFInfo
- Publication number
- CN115314628B CN115314628B CN202110502428.6A CN202110502428A CN115314628B CN 115314628 B CN115314628 B CN 115314628B CN 202110502428 A CN202110502428 A CN 202110502428A CN 115314628 B CN115314628 B CN 115314628B
- Authority
- CN
- China
- Prior art keywords
- image
- gain
- exposure time
- image sensor
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 48
- 238000012545 processing Methods 0.000 claims abstract description 122
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 30
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 30
- 238000000034 method Methods 0.000 claims description 66
- 230000008569 process Effects 0.000 claims description 27
- 230000003287 optical effect Effects 0.000 claims description 24
- 238000001514 detection method Methods 0.000 description 66
- 238000004364 calculation method Methods 0.000 description 52
- 238000013527 convolutional neural network Methods 0.000 description 22
- 238000001914 filtration Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 19
- 101100400452 Caenorhabditis elegans map-2 gene Proteins 0.000 description 15
- 101150064138 MAP1 gene Proteins 0.000 description 15
- 238000005286 illumination Methods 0.000 description 9
- 239000002131 composite material Substances 0.000 description 8
- 238000007499 fusion processing Methods 0.000 description 5
- 241001465754 Metazoa Species 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000010355 oscillation Effects 0.000 description 4
- 230000002194 synthesizing effect Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000006872 improvement Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000004148 unit process Methods 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Landscapes
- Studio Devices (AREA)
Abstract
本申请提供一种成像方法、***及摄像机,该成像方法包括:获取第一图像传感器在第一工作模式时的输出图像,该输出图像包括第一图像,获取第二图像传感器在第一工作模式时的输出图像,该输出图像包括第二图像;所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于或等于第二增益;第一图像与第二图像用于处理得到第三图像,所述处理至少包括合成处理。该成像方法可以提高输出图像的质量。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及一种成像方法、***及摄像机。
背景技术
随着图像传感器技术和图像处理技术的发展,对于光照充足的场景,主流图像处理***可以获得较高质量的图像。而对于低照度环境,获得的图像容易出现亮度低、噪声大的问题。主流图像处理***通过增长曝光时间的方式来增加进光量,提高图像亮度,降低图像噪声,但是曝光时间的增长会导致图像中运动区域拖影加重,并导致视频流的帧率下降,可能会出现视频卡顿的现象。
如何提高低照度环境下的图像质量成为一个亟待解决的技术问题。
发明内容
有鉴于此,本申请提供一种成像方法、***及摄像机。
具体地,本申请是通过如下技术方案实现的:
根据本申请实施例的第一方面,提供一种成像方法,包括:
获取第一图像传感器在第一工作模式时的输出图像,该输出图像包括第一图像,获取第二图像传感器在第一工作模式时的输出图像,该输出图像包括第二图像;
所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于或等于第二增益;
第一图像与第二图像用于处理得到第三图像,所述处理至少包括合成处理。
根据本申请实施例的第二方面,提供一种成像***,包括:
第一图像传感器,用于在第一工作模式时的输出图像,该输出图像包括第一图像;
第二图像传感器,用于在第一工作模式时的输出图像,该输出图像包括第二图像;
所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于或等于第二增益;
处理单元,用于将第一图像与第二图像进行处理得到第三图像,所述处理至少包括合成处理。
根据本申请实施例的第三方面,提供一种摄像机,包括:第一镜头、第二镜头、第一图像传感器、第二图像传感器以及处理器;其中:
所述第一镜头,用于将入射光处理为入射所述第一图像传感器的第一光信号;
所述第二镜头,用于将入射光处理为入射所述第二图像传感器的第二光信号;
所述第一图像传感器,用于在第一工作模式时,依据所述第一光信号输出图像,该输出图像包括第一图像;
所述第二图像传感器,用于在第一工作模式时,依据所述第二光信号输出图像,该输出图像包括第二图像;
所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于或等于第二增益;
所述处理器,用于将第一图像与第二图像用于处理得到第三图像,所述处理至少包括合成处理。
本申请实施例的成像方法,通过控制两个不同的图像传感器按照不同的曝光参数产生第一图像和第二图像,并对第一图像与第二图像进行至少合成处理得到第三图像,提高了输出图像的质量;此外,由于第一图像和第二图像通过不同图像传感器产生,因此,第二图像的曝光时间可以不受第一图像的帧率限制,第二图像传感器可以获得更多光信号,从而提高第二图像的信噪比,进而显著提升合成图像的非目标区域信噪比。
附图说明
图1是本申请一示例性实施例示出的一种成像方法的流程示意图;
图2A是本申请一示例性实施例示出的一种单控制单元的成像***的结构示意图;
图2B是本申请一示例性实施例示出的一种双控制单元的成像***的结构示意图;
图2C~图2F是本申请示例性实施例示出的不同增益计算方式的成像***的结构示意图;
图2G~图2I是本申请示例性实施例示出的不同权重图确定方式的成像***的结构示意图;
图3是本申请一示例性实施例示出的一种曝光时序示意图;
图4A是本申请一示例性实施例示出的一种采用分光方案的光学部分的结构示意图;
图4B是本申请一示例性实施例示出的一种采用双目方案的光学部分的结构示意图;
图5A~图5D本申请示例性实施例示出的增益计算单元计算增益的示意图;
图6A~图6H是本申请示例性实施例示出的权重计算单元依据像素值差异进行滤波处理得到权重图的示意图;
图7是本申请示例性实施例示出的权重计算单元利用运动检测模型得到权重图的示意图;
图8A~图8C是本申请示例性实施例示出的权重计算单元利用目标检测模型得到权重图的示意图;
图9是本申请一示例性实施例示出的一种成像***的结构示意图;
图10是本申请一示例性实施例示出的一种成像装置的结构示意图;
图11是本申请一示例性实施例示出的一种电子设备的硬件结构示意图;
图12是本申请一示例性实施例示出的一种摄像机的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
为了使本领域技术人员更好地理解本申请实施例提供的技术方案,并使本申请实施例的上述目的、特征和优点能够更加明显易懂,下面结合附图对本申请实施例中技术方案作进一步详细的说明。
请参见图1,为本申请实施例提供的一种成像方法的流程示意图,如图1所示,该成像方法可以包括以下步骤:
步骤S100、获取第一图像传感器在第一工作模式时的输出图像,输出图像包括第一图像,获取第二图像传感器在第一工作模式时的输出图像,输出图像包括第二图像;第一图像传感器产生第一图像时的曝光时间为第一曝光时间,第二图像传感器产生第二图像时的曝光时间为第二曝光时间,第一曝光时间小于第二曝光时间;第一图像传感器产生第一图像时的增益为第一增益,第二图像传感器产生第二图像时的增益为第二增益,第一增益大于或等于第二增益。
本申请实施例中,在低照度环境下,可以考虑以增加曝光时间的方式,来提高进光量,进而提高图像亮度,提高图像质量。
然而,当场景中存在可能发生运动的目标,如行人或车辆等,或其它运动物体时,在曝光时间较长的情况下,会出现目标区域拖影程度大的问题,导致图像质量较差,例如,当场景中存在行驶中的车辆时,目标区域拖影程度大会导致车辆的车牌成像质量差。
基于上述考虑,图像传感器在采集长短帧图像时,按照曝光时间不同的成像控制方法来生成第一图像和第二图像,该成像方法能够兼顾提升非目标区域的信噪比问题和避免目标区域的拖影问题,可以分别保障第一图像和第二图像可以分别保障目标区域的成像质量和非目标区域的成像质量。
示例性的,第一图像的曝光时间可以小于第二图像的曝光时间,以降低第一图像的目标区域的拖影程度,并提高非目标区域的信噪比。
第二图像的增益可以小于或等于第一图像的增益,降低第二图像的非目标区域的噪声,提高信噪比。
从而,将第一图像与第二图像处理得到第三图像时,可以兼顾目标区域与非目标区域的质量,降低目标区域的拖影程度,并提高非目标区域的信噪比,提高低照度环境下的图像质量。
示例性的,图像传感器的增益(即传感器增益)可以包括模拟增益和/或数字增益。考虑到模拟增益对噪声的放大程度小于数字增益,因此,在控制图像传感器设置增益时,可以优先控制图像传感器设置模拟增益。
需要说明的是,下文中若未特殊说明,所提及的增益均指代传感器增益。
示例性的,第一增益可以包括第一模拟增益和第一数字增益,第一数字增益大于或等于0;第二增益可以包括第二模拟增益和第二数字增益,第二数字增益大于或等于0。
上述第一增益大于第二增益可以包括:
第一模拟增益大于第二模拟增益,即生成第一图像和第二图像时,图像传感器均不设置数字增益。
作为另一种示例,第一增益大于第二增益可以包括:
第一模拟增益与第一数字增益之和大于第二模拟增益;第一数字增益大于0,即生成第二图像时,图像传感器不设置数字增益。
作为另一种示例,第一增益大于第二增益可以包括:
第一模拟增益与第一数字增益之和大于第二模拟增益与第二数字增益之和;第一数字增益大于0,且第二数字增益大于0。
此外,为了使第一图像和第二图像中的长帧的曝光时间可以突破短帧的帧率限制,可以分别通过不同的图像传感器(本文中称为第一图像传感器和第二图像传感器)产生第一图像和第二图像。
示例性的,第一图像传感器在第一工作模式时,可以按照第一曝光时间和第一增益,产生第一图像。
示例性的,第二图像传感器在第一工作模式时,可以按照第二曝光时间和第二增益,产生第二图像。
由于第一图像与第二图像通常不同的图像传感器产生,因此,第二图像的曝光时间可以不受第一图像的帧率限制,即第二图像的最大曝光时间可以超出第一图像的帧率限制,第二图像的曝光时间可以有更大的选择范围,第二图像传感器可以获得更多光信号,从而提高第二图像的信噪比,进而显著提升合成图像的非目标区域信噪比。
例如,假设第一图像以每秒25帧(即帧率为25Hz)输出,则第一图像的最大曝光时间为40ms,此时,通过双图像传感器设置,第二图像可以采用大于40ms的曝光时间,如1s,第二图像传感器可以获得更多光信号,从而提高第二图像的信噪比,进而显著提升合成图像的非目标区域信噪比。
步骤S110、第一图像与第二图像用于处理得到第三图像,该处理至少包括合成处理。
本申请实施例中,为了提高输出图像的质量,可以将获取到第一图像传感器在第一工作模式时输出的第一图像与第二图像传感器在第一工作模式时输出的第二图像进行处理得到第三图像。
例如,可以将第一图像与第二图像进行合成处理,得到第三图像。
在图1所示方法流程中,通过控制两个不同的图像传感器按照不同的曝光参数产生第一图像和第二图像,并对第一图像与第二图像进行至少合成处理得到第三图像,提高了输出图像的质量;此外,由于第一图像和第二图像通过不同图像传感器产生,因此,第二图像的曝光时间可以不受第一图像的帧率限制,第二图像传感器可以获得更多光信号,从而提高第二图像的信噪比,进而显著提升合成图像的非目标区域信噪比。
在一些实施例中,第一曝光时间与第二曝光时间之和大于或等于T,T根据f确定,f为第三图像的输出帧率。
示例性的,考虑到环境光弱时,图像亮度达到合适水平需要较长的曝光时间或较大增益,而图像传感器设置增益会给图像带来噪声,降低图像信噪比,因此,为了保证图像亮度,提高图像信噪比,可以尽量增长长帧图像的曝光时间。
此外,为了充分利用双图像传感器的硬件优势,可以依据第三图像的输出帧率f确定时间T,并控制第一曝光时间与第二曝光时间之和大于或等于T,使长帧图像通过足够长的曝光时间来提升图像亮度,提高图像质量。
在一个示例中,T=1/f。
在一个示例中,第二曝光时间大于或等于1/f,提高第二图像的曝光时间,进而,提高第二图像的图像质量,提高第二图像的非目标区域(也可以称为背景区域)的信噪比。
在一些实施例中,第一图像传感器的曝光起始时刻晚于或等于第二图像传感器的曝光起始时刻,第一图像传感器的曝光结束时刻早于或等于第二图像传感器的曝光结束时刻。
示例性的,为了避免第一图像与第二图像的曝光时间错位,避免运动错位,提高图像质量,第一图像传感器的曝光起始时刻晚于或等于第二图像传感器的曝光起始时刻,第一图像传感器的曝光结束时刻早于或等于第二图像传感器的曝光结束时刻,即第一图像传感器的曝光时间范围在第二图像传感器的曝光时间范围内。
在一些实施例中,第一曝光时间与第二曝光时间的比值为第一比值,第二增益与第一增益的比值为第二比值,第一比值等于第二比值。
示例性的,由于长短帧图像采集时,长帧增益与短帧增益相等,那么为了使短帧图像达到合适亮度,需要在后续算法处理对短帧乘以较大的数字增益,导致短帧图像目标区域的噪声过大,因此,为了降低第一图像的目标区域的噪声,可以依据第一图像与第二图像的曝光时间比,确定第一图像与第二图像的增益比,并控制第二增益与第一增益的比值(本文中称为第二比值)等于第一曝光时间与第二曝光时间的比值(本文中称为第一比值),即控制第一增益大于第二增益,从而,针对第一图像设置更大的增益(传感器增益),相应地,就可以减少后续算法处理流程中需要额外设置的数字增益,降低第一图像目标区域的噪声。
在一些实施例中,第一曝光时间与第二曝光时间的比值为第一比值,第二增益与第一增益的比值为第二比值,第一比值与第二比值的差异小于10%。
示例性的,可以依据第一图像与第二图像的曝光时间比,确定第一图像与第二图像的增益比,并第一曝光时间与第二曝光时间的比值(本文中称为第一比值)与第二增益与第一增益的比值(本文中称为第二比值)的差异小于10%,以使第一图像与第二图像在合成之前的亮度近似相同,提高合成图像质量。
示例性的,第一比值可以小于第二比值。
在一些实施例中,本申请实施例提供的成像方法还可以包括:
当第一图像传感器由第一工作模式切换为第二工作模式时,获取第一图像传感器在第二工作模式时的输出图像,该输出图像为第四图像;
当第二图像传感器由第一工作模式切换为第二工作模式时,获取第二图像传感器在第二工作模式时的输出图像,该输出图像为第五图像。
示例性的,为了提高图像传感器工作的灵活性,可以为图像传感器(包括第一图像传感器和第二图像传感器)设置多种不同的工作模式,并根据实际场景控制图像传感器在多种工作模式之间进行切换。
示例性的,以图像传感器的工作模式包括第一工作模式和第二工作模式为例,当第一图像传感器由第一工作模式切换为第二工作模式时,可以控制第一图像传感器生成并输出第四图像;当第二图像传感器由第一工作模式切换为第二工作模式时,可以控制第一图像传感器生成并输出第五图像。
示例性的,第一图像传感器产生第四图像时的曝光时间为第三曝光时间,第二图像传感器产生第五图像时的曝光时间为第四曝光时间,第三图像曝光时间小于或等于第四图像曝光时间。
在一个示例中,第一图像传感器产生第四图像时的增益为第三增益,第二图像传感器产生第五图像时的增益为第四增益,第三增益等于第四增益,第三增益小于第二增益,第四增益小于第二增益。
示例性的,为了提高图像质量,在第一图像传感器和第二图像传感器工作于第二工作模式时,第一图像传感器产生第四图像的增益(可以称为第三增益)可以与第二图像传感器产生第五图像的增益(可以称为第四增益)相等,且均小于第二增益,以降低增益带来的噪声,提高图像质量。
作为一种示例,基于环境光强弱进行第一工作模式与第二工作模式的切换。
示例性的,考虑到当环境光强弱不同时,图像传感器需要按照不同的曝光参数进行图像生成,以保证图像质量,且当环境光较强时,图像传感器生成的图像质量通常可以满足要求,当环境光较弱时,图像传感器生成的图像质量可能会较差,需要进行处理,以提高图像质量,如按照上述实施例中描述的方式进行处理。
示例性的,可以基于环境光强弱进行第一工作模式与第二工作模式的切换。
在一个示例中,可以在环境光弱时,控制图像传感器(包括第一图像传感器和第二图像传感器)工作于第一工作模式;在环境光强时,控制图像传感器(包括第一图像传感器和第二图像传感器)工作于第二工作模式。
在一个示例中,在第一图像传感器处于第二工作模式,且第二图像传感器处于第二工作模式时,本申请实施例提供的成像方法还可以包括:
基于对第四图像、第五图像进行宽动态处理,得到目标宽动态图像,该目标宽动态图像为第六图像。
示例性的,为了提高第二工作模式下的图像质量,当第一图像传感器与第二图像传感器处于第二工作模式时,可以对第四图像和第五图像进行宽动态处理,得到目标宽动态图像(可以称为第六图像)。
通过采用两个图像传感器进行宽动态合成,可以控制第一图像传感器的曝光时间范围包含在第二图像传感器的曝光时间范围内,即第一图像传感器的曝光起始时刻晚于或等于第二图像传感器的曝光起始时刻,第一图像传感器的曝光结束时间早于或等于第二图像传感器的曝光结束时刻(曝光起始时刻以及曝光结束时刻不同时相等),从而有效缓解宽动态合成技术中心高亮运动区域的运动瑕疵等问题。
在一些实施例中,步骤S110中,将第一图像与第二图像用于处理得到第三图像,可以包括:
基于权重图将第一图像与第二图像进行合成处理得到第三图像;该权重图依据第一图像序列或第二图像序列确定;第一图像序列至少包括一帧第一图像,第二图像序列至少包括一帧第二图像,第一图像序列和第二图像序列根据单个图像传感器在第一工作模式时的输出图像来确定。
示例性的,为了提高图像合成的图像质量提升效果,可以依据第一图像传感器在第一工作模式输出的第一图像确定第一图像序列,并依据第一图像序列确定用于对第一图像与第二图像进行合成处理的权重图。
或者,可以依据第二图像传感器在第一工作模式输出的第二图像确定第二图像序列,并依据第二图像序列确定用于对第一图像与第二图像进行合成处理的权重图。
示例性的,第一图像序列包括至少一帧第一图像;第二图像序列至少包括一帧第二图像。
示例性的,可以依据所确定的权重图,将第一图像与第二图像进行合成处理得到第三图像。
在一个示例中,依据第一图像序列确定权重图,可以包括:
第一图像序列包含当前帧第一图像与历史帧第一图像,依据当前帧第一图像与历史帧第一图像的像素值差异确定权重图。
示例性的,历史帧第一图像可以指输出时刻在当前帧第一图像的输出时刻之前的第一图像。
例如,历史帧第一图像可以包括邻近当前帧第一图像的一帧或多帧第一图像。
示例性的,考虑到长短帧融合方案通过长短帧差异以及长短帧亮度计算权重,无法解决由于曝光时间不同导致的频闪灯等震荡现象。
针对上述问题,在本申请实施例中,在第一图像序列中存在至少两帧第一图像的情况下,可以依据当前帧第一图像与历史帧第一图像的像素值差异确定权重图,由于当前帧第一图像与历史帧第一图像的曝光时间相同,因此,可以避免由于曝光时间不同导致的频闪灯等震荡现象,提高低照度环境下物体运动信息检测的准确性和检出率。
示例性的,当前帧第一图像与历史帧第一帧图像可以尽量邻近,以提高合成图像的质量。
在一个示例中,当前帧第一图像与历史帧第一图像为第一图像序列中的相邻帧。
在一个示例中,依据第二图像序列确定权重图,可以包括:
第二图像序列包含当前帧第二图像与历史帧第二图像,依据当前帧第二图像与历史帧第二图像的像素值差异确定所述权重图。
示例性的,历史帧第二图像可以指输出时刻在当前帧第二图像的输出时刻之前的第二图像。
例如,历史帧第二图像可以包括邻近当前帧第二图像的一帧或多帧第二图像。
示例性的,考虑到长短帧融合方案通过长短帧差异以及长短帧亮度计算权重,无法解决由于曝光时间不同导致的频闪灯等震荡现象。
针对上述问题,在本申请实施例中,在第二图像序列中存在至少两帧第二图像的情况下,可以依据当前帧第二图像与历史帧第二图像的像素值差异确定权重图,由于当前帧第二图像与历史帧第二图像的曝光时间相同,因此,可以避免由于曝光时间不同导致的频闪灯等震荡现象,提高低照度环境下物体运动信息检测的准确性和检出率。
示例性的,当前帧第二图像与历史帧第二帧图像可以尽量邻近,以提高合成图像的质量。
在一个示例中,当前帧第二图像与历史帧第二图像为第二图像序列中的相邻帧。
需要说明的是,在本申请实施例中,除了可以按照上述方式依据当前帧第一图像与历史帧第一图像的像素值差异确定权重图,或者,依据当前帧第二图像与历史帧第二图像的像素值差异确定权重图之外,还可以依据当前帧第一图像与历史帧第一图像的像素值差异以及第二图像与历史帧第二图像的像素值差异确定权重图。
例如,可以依据当前帧第一图像与历史帧第一图像的像素值差异确定对应的权重图(假设为权重图1),依据当前帧第二图像与历史帧第二图像的像素值差异确定对应的权重图(假设为权重图2),并依据权重图1和权重图2,确定最终的权重图。
例如,可以对权重图1和权重图2进行融合,如进行加权,确定最终的权重图。
此外,还可以分别对当前帧第一图像与当前帧第二图像进行加权,得到当前帧加权图像,以及,对历史帧第一图像与历史帧第二图像进行加权,得到历史帧加权图像,并依据当前帧加权图像与历史帧加权图像,确定权重图。
在一个示例中,依据像素值差异确定权重图,可以包括:
利用像素值差异进行滤波处理得到权重图。
示例性的,可以通过对像素值差异进行滤波处理的方式得到权重图。
例如,以依据第一图像序列包含的当前帧第一图像与历史帧第一图像的像素值差异确定权重图为例,可以将当前帧第一图像与历史帧第一图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,并依据各像素点的残差均值,通过阈值化的手段将残差均值转化为权重图。
在另一个示例中,依据像素值差异确定权重图,可以包括:
将像素值差异送入预先训练好的卷积神经网络得到权重图,该预先训练好的卷积神经网络用于对输入的像素值差异进行运动检测并得到权重图。
示例性的,为了提高运动检测的效率和准确性,可以预先训练用于对输入的像素值差异进行运动检测得到权重图的卷积神经网络模型(可以称为运动检测模型),当按照上述方式确定了像素差异值时,可以将所确定的像素差异值输入该预先训练好的运动检测模型,得到对应的权重图。
例如,以依据第二图像序列包含的当前帧第二图像与历史帧第二图像的像素值差异确定权重图为例,可以将当前帧第二图像与历史帧第二图像的像素值差异输入预先训练好的运动检测模型,得到对应的权重图。
又例如,以依据当前帧第一图像与历史帧第一图像的像素值差异以及第二图像与历史帧第二图像的像素值差异确定权重图为例,可以分别将当前帧第一图像与历史帧第一图像的像素值差异输入预先训练好的运动检测模型,得到对应的权重图(假设为权重图1),以及,将当前帧第二图像与历史帧第二图像的像素值差异输入预先训练好的运动检测模型,得到对应的权重图(假设为权重图2),并依据权重图1与权重图2,得到最终的权重图。
在一些实施例中,还可以通过对图像进行目标检测,确定图像中关键目标的位置信息,并依据图像中关键目标的位置信息确定权重图,从而,通过至少一帧图像即可得到合成权重,节省缓存与计算量消耗。
示例性的,关键目标可以包括但不限于车辆、行人、动物或信号灯等。
在一个示例中,依据第一图像序列确定权重图,可以包括:
第一图像序列为第一图像,依据第一图像中的关键目标的位置信息确定权重图。
示例性的,可以对第一图像进行目标检测,确定第一图像中的关键目标的位置信息,并依据第一图像中的关键目标的位置信息确定权重图。
在一个示例中,依据第二图像序列确定权重图,可以包括:
第二图像序列为第二图像,依据第二图像中的关键目标的位置信息确定权重图。
需要说明的是,在本申请实施例中,除了可以按照上述方式中描述的依据第一图像中的关键目标的位置信息确定权重图,或,依据第二图像中的关键目标的位置信息确定权重图之外,还可以依据第一图像中的关键目标的位置信息与第二图像中的关键目标的位置信息确定权重图。例如,可以分别对第一图像进行目标检测,确定第一图像中的关键目标的位置信息,以及对第二图像进行目标检测,确定第二图像中的关键目标的位置信息,并依据第一图像中的关键目标的位置信息与第二图像中关键目标的位置信息确定权重图。
在一个示例中,依据关键目标的位置信息确定权重图,可以包括:
利用预先训练好的卷积神经网络得到权重图,所述预先训练好的卷积神经网络用于对输入的图像进行目标检测并得到所述权重图。
示例性的,为了提高目标检测的准确性,可以预先训练用于对输入的图像进行目标检测并得到权重图的卷积神经网络模型(可以称为目标检测模型),并利用训练好的目标检测模型确定权重图。
例如,以依据第一图像中的关键目标的位置信息确定权重图为例,可以将第一图像输入预先训练好的目标检测模型,得到对应的权重图。
又例如,以依据第一图像中的关键目标的位置信息与第二图像中关键目标的位置信息确定权重图为例,可以分别将第一图像输入预先训练好的目标检测模型,得到对应的权重图(假设为权重图1),以及,将第二图像输入预先训练好的目标检测模型,得到对应的权重图(假设为权重图2),并依据权重图1和权重图2,确定最终的权重图。
在一些实施例中,将第一图像与第二图像进行处理得到第三图像,可以包括:
依据权重图中各像素位置的配置权重,对第一图像与第二图像的各像素值进行加权处理,得到第三图像;任一像素位置的配置权重用于确定所述第一图像与所述第二图像在该像素位置的加权权重。
示例性的,当按照上述方式得到用于对第一图像与第二图像进行合成的权重图时,可以依据权重图中各像素位置的配置权重,对第一图像与第二图像的各像素值进行加权处理,得到第三图像。
例如,可以依据权重图,按照以下公式对第一图像与第二图像进行处理得到第三图像:
img_fus=(img_1*alpha+img_2*(n-alpha))/n
其中,img_fus表示合成图像(即第三图像),img_1表示第一图像,img_2表示第二图像,alpha表示权重图, n表示归一化权重。
在一个示例中,将第一图像与第二图像进行处理得到第三图像,可以包括:
当第一图像的平均亮度与第二图像的平均亮度不同时,在进行合成处理之前将第一图像的平均亮度调整为与第二图像的平均亮度相同。
示例性的,考虑到宽动态合成方案为了保证合成图像动态范围高于合成前图像,必须保证长短帧亮度不同,其限制了方案适用场景,而本申请实施例提供的成像方案在解决低照度图像噪声大问题时,并不需要限制长短帧的亮度不同。
示例性的,为了提高合成图像的质量,可以尽量保证第一图像与第二图像的平均亮度相同。
需要说明的是,本申请实施例中所提及的平均亮度相同并不要求平均亮度严格相等,其允许存在可以容忍的偏差,即若第一图像的平均亮度和第二图像的平均亮度之差在预设差值范围内,则可以认为第一图像的平均亮度和第二图像的平均亮度相同;若第一图像的平均亮度和第二图像的平均亮度之差未在预设差值范围内,则可以认为第一图像的平均亮度和第二图像的平均亮度不同。
示例性的,当第一图像的平均亮度与第二图像的平均亮度不同时,可以在对第一图像与第二图像进行合成处理之前,将第一图像的平均亮度调整为与第二图像的平均亮度相同。
作为一种示例,可以通过将第一图像乘以第二图像平均亮度与第一图像平均亮度的比值,达到第一图像的平均亮度与第二图像的平均亮度相同。
例如,假设第一图像的平均亮度为L1,第二图像的平均亮度为L2,则可以通过将第一图像乘以L2/L1的方式,使第一图像的平均亮度与第二图像的平均亮度相同。
在一些实施例中,上述第一增益与第二增益可以由同一个控制单元通过以下方式确定:
依据第一图像的亮度信息,确定第一增益;
依据第一增益,以及第二曝光时间与第一曝光时间的比值,确定第二增益。
示例性的,为了使合成图像中目标区域的亮度处于较合适水平,在进行增益计算时,可以依据第一图像传感器输出的第一图像,确定对应的增益(即第一增益),并依据第一增益,以及第一曝光时间和第二曝光时间的比值,确定第二图像对应的增益(即第二增益)。
需要说明的是,在本申请实施例中,也可以依据第二图像传感器输出的第二图像的亮度信息,计算得到第二增益,并依据第二增益,第二曝光时间与第一曝光时间的比值,确定第一增益。
在一些实施例中,上述第一增益与第二增益可以由同一个控制单元通过以下方式确定:
依据第三图像的亮度信息,确定第二增益;
依据第二增益,以及第二曝光时间与第一曝光时间的比值,确定第一增益。
示例性的,为了提高输出图像的非目标区域的信噪比,可以依据第三图像的亮度信息,计算第二增益,并依据第二增益,第二曝光时间与第一曝光时间的比值,确定第一增益。
需要说明的是,在本申请实施例中,也可以由同一个控制单元分别依据第一图像的亮度信息,确定第一增益,以及,依据第二图像的亮度信息,确定第二增益;或者,还可以通过两个控制单元分别依据第一图像的亮度信息,确定第一增益,以及,依据第二图像的亮度信息,确定第二增益,例如,第一控制单元依据第一图像的亮度信息,确定第一增益,第二控制单元依据第二图像的亮度信息,确定第二增益,提高增益控制的精确性。
在一些实施例中,入射光通过第一镜头进入第一图像传感器,并通过第二镜头进入第二图像传感器;第一镜头的光圈大于或等于第二镜头的光圈。
示例性的,为了提高第一图像传感器与第二图像传感器的入光量,可以分别通过不同镜头获取进入图像传感器的光信号。
入射光可以通过第一镜头进入第一图像传感器,并通过第二镜头进入第二图像传感器。
示例性的,为了第一图像的目标区域的进光量,可通过大光圈配合自动对焦算法提高目标区域的进光量。
此外,由于第二图像传感器可以通过采用较长的曝光时间来保证进光量,因此,第二镜头可以通过缩小光圈来提高景深,从而保证合成图像非目标区域既有高信噪比,同时还处处对焦清晰。
示例性的,第一镜头的光圈大于或等于第二镜头的光圈。
需要说明的是,在本申请实施例中,也可以通过单个镜头,利用分光的方式,使入射光分别进入第一图像传感器和第二图像传感器,其具体实现可以在下文中结合具体实例进行说明。
为了使本领域技术人员更好地理解本申请实施例提供的技术方案,下面结合具体实例对本申请实施例提供的技术方案进行说明。
请参见图2A,本申请实施例提供的成像***可以包括控制单元、图像传感器1(即上述第一图像传感器)、图像传感器2(即上述第二图像传感器)、权重计算单元以及处理单元。
需要说明的是,在实际应用中,权重计算单元可以作为处理单元的一个功能子单元,即权重计算也可以作为处理单元的一个功能,由处理单元实现权重计算功能。
通过控制控制单元控制两个图像传感器(图像传感器1和图像传感器2)的曝光参数,并由权重计算单元依据两个图像传感器在第一工作模式下输出的图像(第一图像和第二图象)中的至少一帧图像进行权重计算,得到权重图,由处理单元依据该权重图对第一图像和第二图像进行处理,得到第三图像。
如图2A所示,控制单元可以依据第一图像的亮度信息进行增益计算,或,依据第二图像的亮度信息进行增益计算,或,依据第三图像的亮度信息进行增益计算,或,分别依据第一图像的亮度信息和第二图像的亮度信息进行增益计算。
权重计算单元可以依据第一图像进行权重图确定,或,可以依据第二图像进行权重图确定,或,可以依据第一图像与第二图像进行权重图确定。
需要说明的是,控制单元进行增益计算的各种不同实现方式可以与权重计算单元确定权重图的各种不同实现方式灵活组合。
例如,控制单元可以依据第一图像的亮度信息进行增益计算(即得到第一增益),依据该第一增益,以及曝光时间比,确定第二增益;权重计算单元依据第一图像确定权重图。该方法能够大幅改善低照度条件下图像噪声大的问题,提高低照度条件下的图像质量。
需要说明的是,在本申请实施例中,也可以分别通过不同的控制单元控制图像传感器1和图像传感器2的曝光参数。
如图2B所示,可以通过控制单元1控制图像传感器1的曝光参数,通过控制单元2控制图像传感器2的曝光参数。
下文中以图2A所示***结构为例进行说明。
一、主要技术特征
1、控制单元
1.1、控制单元:生成曝光参数,该曝光参数包括增益与曝光时间。
1.2、控制单元:当图像传感器1和图像传感器2均在第一工作模式时,曝光时间包括第一曝光时间与第二曝光时间,第一曝光时间用于图像传感器1产生第一图像,第二曝光时间用于图像传感器2产生第二图像。
1.3、控制单元:当图像传感器在第一工作模式时,增益包括第一增益与第二增益,第一增益用于图像传感器1产生第一图像,第二增益用于图像传感器2产生第二图像。
1.4、控制单元:第一曝光时间小于第二曝光时间。
1.5、控制单元:第一增益大于或等于第二增益。
2、图像传感器
2.1、图像传感器:在第一工作模式时,图像传感器1依据第一曝光时间和第一增益产生第一图像,图像传感器依据第二曝光时间与第二增益产生第二图像;
2.2、图像传感器:第一曝光时间与第二曝光时间之和大于T,T由第三图像的输出帧率f确定;
2.3、图像传感器:第二曝光时间大于或等于1/f。
3、权重计算单元
3.1、权重计算单元:依据第一图像与第二图像中的至少一帧图像进行权重计算,得到权重图。
4、处理单元
4.1、处理单元:至少包括合成处理。
4.2、处理单元:合成处理包括依据权重计算单元计算得到的权重图,对第一图像与第二图像进行合成,输出合成图像(即第三图像)。
二、其他技术特征
1、控制单元
1.6、控制单元:依据第一图像计算出第一增益,依据第一增益、第二曝光时间与第一曝光时间的比值,计算出第二增益;
或,依据第二图像计算出第二增益,依据第二增益、第二曝光时间与第一曝光时间的比值,计算出第一增益;
或,依据第三图像计算出第二增益,依据第二增益、第二曝光时间与第一曝光时间的比值,计算出第一增益;
或,依据第一图像计算出第一增益,依据第二图像计算出第二增益。
1.7、控制单元:第一增益包括第一模拟增益与第一数字增益;第二增益包括第二模拟增益与第二数字增益。
示例性的,第一数字增益大于或等于0,第二数字增益大于或等于0。
1.8、控制单元:第一模拟增益大于或等于第二模拟增益。
2、图像传感器
2.4、图像传感器:图像传感器1的曝光起始时刻晚于或等于图像传感器2的曝光起始时刻,图像传感器1的曝光结束时刻早于或等于图像传感器2的曝光结束时刻,其示意图可以如图3所示。
3、权重计算单元
3.2、权重计算单元:依据当前帧图像与历史帧图像的像素值差异计算出权重图;
3.3、权重计算单元:依据当前帧第一图像与历史帧第一图像的像素值差异,得到权重图;
或,依据当前帧第二图像与历史帧第二图像的像素值差异,得到权重图;
或,上述两种权重图加权得到权重图;
或,对当前帧第一图像与当前帧第二图像进行加权,得到当前帧加权图像,以及,对历史帧第一图像与历史帧第二图像进行加权,得到历史帧加权图像,依据当前帧加权图像与历史帧加权图像的像素值差值,得到权重图。
3.4、权重计算单元:上述当前帧图像与历史帧图像尽可能邻近。
3.5、权重计算单元:用于确定权重图的图像至少应包括当前帧第一图像和当前帧第二图像中的任意一帧图像;
3.6、权重计算单元:依据第一图像进行目标检测得到权重图;
或,依据第二图像进行目标检测得到权重图。
或,上述两种权重图加权得到权重图。
4、处理单元
4.3、处理单元:进行合成处理的第一图像与第二图像的平均亮度相同。
4.4、处理单元:依据权重图对第一图像与第二图像进行加权处理,得到第三图像,最终输出第三图像。
4.5、处理单元:第三图像的目标区域优先选用第一图像。
4.6、处理单元:目标区域至少为图像中的物体运动区域、图像中例如行人、车辆、动物或信号灯等关键目标区域的一种区域。
下面结合实施例对上述特征进行说明。
实施例一
控制单元确定曝光参数。
示例性的,当图像传感器1和图像传感器2均在第一工作模式时,曝光参数包括第一曝光时间和第二曝光时间,第一增益和第二增益,第一曝光时间小于第二曝光时间;第一增益大于或等于第二增益。
图像传感器1在第一工作模式时,输出第一图像;图像传感器2在第一工作模式时,输出第二图像。
示例性的,在第一工作模式时,图像传感器1按照第一曝光时间与第一增益生成并输出第一图像;图像传感器2按照第二曝光时间与第二增益生成并输出第二图像。
处理单元将第一图像与第二图像进行处理得到第三图像,该处理至少包括合成处理。
实施例二
控制单元依据环境光强弱控制图像传感器进行第一工作模式与第二工作模式的切换。
示例性的,在环境光弱时,控制图像传感器1和图像传感器2切换为第一工作模式;在环境光强时,控制图像传感器1和图像传感器2切换为第二工作模式。
当图像传感器1在第一工作模式时,输出第一图像;当图像传感器2在第一工作模式时,输出第二图像。
示例性的,在第一工作模式时,图像传感器1按照第一曝光时间与第一增益生成并输出第一图像;图像传感器2按照第二曝光时间与第二增益生成并输出第二图像。
处理单元将第一图像与第二图像处理得到第三图像。
当在第二工作模式时,图像传感器1输出第五图像,图像传感器2输出第六图像。
示例性的,在第一工作模式时,图像传感器1按照第三曝光时间与第三增益生成并输出第一图像;图像传感器2按照第四曝光时间与第四增益生成并输出第二图像。
示例性的,第三曝光时间小于或等于第四曝光时间,第三增益等于第四增益,且第三增益和第四增益均小于第二增益。
处理单元对第四图像、第五图像进行宽动态处理,得到目标宽动态图像(即第六图像)。
实施例三
光学部分采用分光方案
请参见图4A,图像传感器1和图像传感器2通过一个镜头以及光学分光棱镜分成两路光到两个图像传感器上。
示例性的,分光棱镜的作用是将入射光按照比例进行图像分光。
示例性的,分光比例可以为1:1。
示例性的,图像传感器1和图像传感器2可以是两个相同格式的Bayer传感器,也可以是两种不同的图像传感器,如一路是Bayer传感器,一路是黑白传感器,或两路是RGBW格式的传感器等。
实施例四
光学部分采用双目方案。
请参见图4B,图像传感器1和图像传感器2通过两个镜头到两个图像传感器上。
示例性的,图像传感器1和图像传感器2可以是两个相同格式的Bayer传感器,也可以是两种不同的图像传感器,如一路是Bayer传感器,一路是黑白传感器,或两路是RGBW格式的传感器等。
示例性的,两个镜头的光圈可相同或不同。
示例性的,图像传感器1的光圈大于或等于图像传感器2的光圈。
图像传感器1主要保持目标区域的进光量,可通过大光圈配合自动对焦算法提高目标区域的进光量。图像传感器2保持非目标区域的信噪比,由于其可以采用较长的曝光时间保证进光量,因此镜头缩小镜头光圈以提高景深。
实施例五
对于双目方案,图像处理单元中还包括图像配准处理,校正由两个镜头而引起的图像双目视差。
在一种可能的实现方式中,以第一图像为参照,将第二图像的坐标通过配准矩阵进行转换:
其中,为配准后的坐标,/>为配准前的坐标,/>为配准矩阵。
下面分别对各单元进行说明。
1、控制单元
控制单元的作用是确定曝光参数。
示例性的,曝光参数可以包括增益与曝光时间。
示例性的,当图像传感器在第一工作模式时,增益可以包括第一增益与第二增益,曝光时间可以包括第一曝光时间与第二曝光时间。
示例性的,控制单元控制第一曝光时间小于第二曝光时间。
示例性的,控制单元通过增益计算单元计算第一增益与第二增益。
示例性的,增益计算单元可选择的依据第一图像、第二图像、第三图像,以及第二曝光时间与第一曝光时间的比值,计算出第一增益与第二增益。
示例性的,第一增益大于或等于第二增益。
示例性的,第一增益与第二增益可以分别包括模拟增益与数字增益;其中,模拟增益对噪声的放大程度小于数字增益。
本申请实施例利用上述优势的可行实施例包括:
实施例六
请参见图2C和图5A,增益计算单元依据第一图像的亮度信息计算出第一增益gain1,并依据第二曝光时间exp_tim2与第一曝光时间exp_tim1的比值,通过如下公式计算出第二图像增益:
gain2=gain1 / (exp_tim2 / exp_tim1)
实施例七
请参见图2D和图5B,增益计算单元依据第二图像的亮度信息计算出第二增益gain2,并依据第二曝光时间exp_tim2与第一曝光时间exp_tim1的比值,通过如下公式计算出第一图像增益gain1。
gain1=gain2*(exp_tim2 / exp_tim1)
gain1=max (gain1,max_sensor_gain)
其中,max_sensor_gain表示传感器最大增益,max(x,y)为取x和y中的最大值。
实施例八
请参见图2E和图5C,增益计算单元依据合成图像(即第三图像)的亮度信息计算出第二增益gain2,并依据第二曝光时间exp_tim2与第一曝光时间exp_tim1的比值,通过如下公式计算出第一图像增益gain1。
gain1=gain2*(exp_tim2 / exp_tim1)
gain1=max(gain1,max_sensor_gain)
其中max_sensor_gain表示传感器最大增益,max(x,y)为取x和y中的最大值。
实施例九
请参见图2F和图5D,对于双控制单元方案,增益计算单元1依据第一图像的亮度信息计算出第一增益gain1,以及,增益计算单元2依据第二图像的亮度信息计算出第二增益gain2。
2、图像传感器
图像传感器用于生成图像序列。
示例性的,在第一工作模式时,图像传感器1可以依据第一曝光时间与第一增益生成第一图像,图像传感器2依据第二曝光时间与第二增益生成第二图像。
在第二工作模式时,图像传感器1可以依据第三曝光时间与第三增益生成第四图像,图像传感器2依据第四曝光时间与第四增益生成第五图像。
3、权重计算单元
权重计算单元的主要作用是通过至少使用运动检测、目标检测中的一种技术得到权重图。
示例性的,权重图至少表示物体运动信息,以及行人、车辆、动物或信号灯等关键目标位置信息中的一种。
实施例十
请参见图2G和图6A,权重计算单元对第一图像序列中不同时刻的至少两帧图像差异进行运动检测,得到权重图。
示例性的,以两帧为例,如图6A所示,当前帧第一图像为第一图像序列中的当前时刻图像(即第一图像序列中当前参与图像合成的第一图像),历史帧第一图像(可以称为第七图像)为第一图像序列中的更早时刻图像。
示例性的,如图6A所示,可以将第一图像与第七图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理。
示例性的,邻域大小本申请实施例不做限定。
通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图。
实施例十一
请参见图2H和图6B,权重计算单元对第二图像序列中不同时刻的至少两帧图像差异进行运动检测,得到权重图。
示例性的,以两帧为例,如图6B所示,当前帧第二图像为第二图像序列中的当前时刻图像(即第二图像序列中当前参与图像合成的第二图像),历史帧第二图像为第二图像序列中的更早时刻图像(可以称为第八图像)。
示例性的,如图4B所示,可以将第二图像与第八图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理。
示例性的,邻域大小本申请实施例不做限定。
通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图。
实施例十二
请参见图2I和图6C,权重计算单元对第一图像与第二图像差异进行运动检测,得到权重图。
示例性的,如图6C所示,可以将第一图像与第二图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理。
示例性的,邻域大小本申请实施例不做限定。
通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图。
本申请实施例中,还可以对按照上述方式得到的权重图进行融合的方式,得到参与融合的权重图中包括的物体运动信息的全集,作为最终的权重图(即上述融合权重图)。
实施例十三
将实施例十与实施例十一进行组合,对实施例十与实施例十一各自确定的权重图进行融合处理,得到两者物体运动信息的全集,作为最终的权重图。
一种组合方式如下:
请参见图2I和图6D,一方面,权重计算单元可以将第一图像与第七图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图1。
另一方面,权重计算单元可以将第二图像与第八图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图2。
权重计算单元可以对权重图1和权重图2进行融合,得到最终的权重图。
实施例十四
将实施例十与实施例十一进行组合,对实施例十与实施例十一各自确定的权重图进行融合处理,得到两者物体运动信息的全集,作为最终的权重图。
另一种组合方式如下:
请参见图2I和图6E,权重计算单元可以依据第一图像和第二图像进行加权得到第九图像(即上述当前帧加权图像),并依据第七图像和第八图像进行加权得到第十图像(即上述历史帧加权图像)。
权重计算单元可以将第九图像与第十图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图。
实施例十五
将实施例十与实施例十二进行组合,对实施例十与实施例十二各自确定的权重图进行融合处理,得到两者物体运动信息的全集,作为最终的权重图。
请参见图2I和图6F,一方面,权重计算单元可以将第一图像与第七图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图1。
另一方面,权重计算单元可以将第一图像与第二图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图2。
权重计算单元可以对权重图1和权重图2进行融合,得到最终的权重图。
实施例十六
将实施例十一与实施例十二进行组合,对实施例十一与实施例十二各自确定的权重图进行融合处理,得到两者物体运动信息的全集,作为最终的权重图。
请参见图2I和图6G,一方面,权重计算单元可以将第二图像与第八图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图1。
另一方面,权重计算单元可以将第一图像与第二图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图2。
权重计算单元可以对权重图1和权重图2进行融合,得到最终的权重图。
实施例十七
将实施例十~实施例十二进行组合,对实施例十~实施例十二各自确定的权重图进行融合处理,得到三者物体运动信息的全集,作为最终的权重图。
请参见图2I和图6H,一方面,权重计算单元可以将第一图像与第七图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图1。
另一方面,权重计算单元可以将第二图像与第八图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图2。
再者,权重计算单元可以将第一图像与第二图像通过减法单元做差得到残差图像,而后将残差图像在指定邻域大小内进行均值滤波处理,通过上述方法得到每个像素点的残差均值,通过阈值化的手段将残差均值转化为权重图3。
权重计算单元可以对权重图1、权重图2和权重3进行融合,得到最终的权重图。
实施例十八
对于实施例十~实施例十七中任一实施例,可以通过用于对输入图像进行运动检测并得到权重图的卷积神经网络(即运动检测模型)替代减法单元与残差累计单元,通过卷积神经网络估算得到权重图。
以实施例八所示权重计算为例,可以将第一图像与第七图像输入到预先训练的运动检测模型,通过该预先训练的运动检测模型估算得到权重图,其示意图可以如图7所示。
实施例十九
利用预先训练的用于对输入图像进行目标检测并得到权重图的卷积神经网络模型(即目标检测模型),对第一图像和第二图像中的至少一帧图像进行目标检测,得到关键目标的位置信息,作为权重图。
以对第一图像进行目标检测为例,请参见图2G和图8A,可以将第一图像输入预先训练的目标检测模型,利用该目标检测模型对第一图像进行目标检测,得到第一图像中关键目标的位置信息,作为权重图。
实施例二十
利用预先训练的用于对输入图像进行目标检测并得到权重图的卷积神经网络模型(即目标检测模型),对第一图像和第二图像中的至少一帧图像进行目标检测,得到关键目标的位置信息,作为权重图。
以对第二图像进行目标检测为例,请参见图2H和图8B,可以将第二图像输入预先训练的目标检测模型,利用该目标检测模型对第二图像进行目标检测,得到第二图像中关键目标的位置信息,作为权重图。
实施例二十一
利用预先训练的用于对输入图像进行目标检测并得到权重图的卷积神经网络模型(即目标检测模型),对第一图像和第二图像中的至少一帧图像进行目标检测,得到目标位置信息,作为权重图。
以对第一图像和第二图像进行目标检测为例,请参见图图2I和8C,可以分别将第一图像输入到预先训练的目标检测模型,利用该目标检测模型对第一图像进行目标检测,得到第一图像中关键目标的位置信息,作为权重图1;以及,将第二图像输入预先训练的目标检测模型,利用该目标检测模型对第二图像进行目标检测,得到第二图像中关键目标的位置信息,作为权重图2。
权重计算单元可以对权重图1和权重图2进行融合,得到最终的权重图。
4、处理单元
处理单元的主要作用是依据权重计算单元输出的权重图对第一图像与第二图像进行合成,输出合成图像序列。
示例性的,合成图像序列目标区域优先选用第一图像序列,非目标区域使用第一图像序列与第二图像序列加权,达到图像目标区域清晰无拖影,同时非目标区域信噪比显著提升的目的。
示例性的,目标区域既可以指代图像中的物体运动区域,也可以是图像中的关键信息,例如行人、车辆、动物或信号灯等。
示例性的,在对第一图像与第二图像进行合成处理之前,处理单元需保证第一图像与第二图像的平均亮度相同。
实施例二十二
第一图像的平均亮度与第二图像平均亮度相同时:
处理单元根据以下公式对第一图像与第二图像进行合成:
img_fus=(img_1*alpha+img_2*(n-alpha))/n
其中,img_fus表示合成图像,img_1表示第一图像,img_2表示第二图像,alpha表示权重图, n表示归一化权重。
实施例二十三
第一图像的平均亮度与第二图像的平均亮度不相同时:
处理单元将第一图像的平均亮度调整至为与第二图像的平均亮度相同。
示例性的,处理单元可以将第一图像乘以第二图像的平均亮度与第一图像的平均亮度的比值,使第一图像的平均亮度与第二图像的平均亮度相同。
然后,处理单元依据以下公式对第一图像与第二图像进行合成:
img_fus=(img_1*alpha+img_2*(n-alpha))/n
其中,img_fus表示合成图像,img_1表示第一图像,img_2表示第二图像,alpha表示权重图,n表示归一化权重。
需要说明的是,上述实施例仅仅是本申请实施例的实现方式的具体示例,而并不是对本申请保护范围的限定,基于上述实施例,可以通过实施例之间的组合,或对实施例进行变型,得到新的实施例,其均应属于本申请的保护范围。
以上对本申请提供的方法进行了描述。下面对本申请提供的装置及成像***进行描述:
请参见图9,为本申请实施例提供的一种成像***的结构示意图,如图9所示,该成像***可以包括:第一图像传感器910、第二图像传感器920和处理单元930;其中:
第一图像传感器910,用于在第一工作模式时的输出图像,该输出图像包括第一图像;
第二图像传感器920,用于在第一工作模式时的输出图像,该输出图像包括第二图像;
所述第一图像传感器910产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器920产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器910产生第一图像时的增益为第一增益,所述第二图像传感器920产生第二图像时的增益为第二增益,所述第一增益大于或等于第二增益;
处理单元930,用于将第一图像与第二图像进行处理得到第三图像,所述处理至少包括合成处理。
在一些实施例中,所述第一曝光时间与所述第二曝光时间之和大于或等于T,T根据f确定,f为所述第三图像的输出帧率。
在一些实施例中,T等于1/f。
在一些实施例中,所述第二曝光时间大于或等于1/f。
在一些实施例中,所述第一图像传感器910的曝光起始时刻晚于或等于第二图像传感器920的曝光起始时刻,所述第一图像传感器910的曝光结束时刻早于或等于第二图像传感器920的曝光结束时刻。
在一些实施例中,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值等于第二比值。
在一些实施例中,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值与第二比值的差异小于10%。
在一些实施例中,所述第一图像传感器910,还用于当由第一工作模式切换为第二工作模式时,输出第四图像;
所述第二图像传感器920,还用于当由第一工作模式切换为第二工作模式时,输出第五图像;
所述第一图像传感器910产生第四图像时的曝光时间为第三曝光时间,所述第二图像传感器920产生第五图像时的曝光时间为第四曝光时间,所述第三曝光时间小于或等于第四曝光时间。
在一些实施例中,所述第一图像传感器910产生第四图像时的增益为第三增益,所述第二图像传感器920产生第五图像时的增益为第四增益,所述第三增益等于第四增益,所述第三增益小于所述第二增益。
在一些实施例中,第一工作模式与第二工作模式切换基于环境光强弱进行。
在一些实施例中,所述处理单元930,还用于在所述第一图像传感器910处于第二工作模式,且所述第二图像传感器920处于第二工作模式时,基于对所述第四图像、第五图像进行宽动态处理,得到目标宽动态图像,所述目标宽动态图像为第六图像。
在一些实施例中,所述处理单元930将所述第一图像与所述第二图像用于处理得到第三图像,包括:
依据权重图中各像素位置的配置权重,对所述第一图像与所述第二图像的各像素值进行加权处理,得到所述第三图像;所述权重图依据第一图像序列或第二图像序列确定;所述第一图像序列至少包括一帧第一图像,所述第二图像序列至少包括一帧第二图像;任一像素位置的配置权重用于确定所述第一图像与所述第二图像在该像素位置的加权权重。
在一些实施例中,所述处理单元930,用于依据第一图像序列确定权重图,包括:
所述第一图像序列包含当前帧第一图像与历史帧第一图像,依据所述当前帧第一图像与所述历史帧第一图像的像素值差异确定所述权重图。
在一些实施例中,所述处理单元930,用于依据第二图像序列确定权重图,包括:
所述第二图像序列包含当前帧第二图像与历史帧第二图像,依据所述当前帧第二图像与历史帧第二图像的像素值差异确定所述权重图。
在一些实施例中,所述权重计算单元940依据像素值差异确定所述权重图,包括:
利用所述像素值差异进行滤波处理得到权重图;
和/或,将所述像素值差异送入预先训练好的卷积神经网络得到权重图,所述预先训练好的卷积神经网络用于对输入的像素值差异进行运动检测并得到所述权重图。
在一些实施例中,所述处理单元930依据第一图像序列或第二图像序列确定权重图,包括:
所述第一图像序列为第一图像,依据所述第一图像中的关键目标的位置信息确定所述权重图;
和/或,所述第二图像序列为第二图像,依据所述第二图像中的关键目标的位置信息确定所述权重图。
在一些实施例中,所述处理单元930依据关键目标的位置信息确定所述权重图,包括:
利用预先训练好的卷积神经网络得到权重图,所述预先训练好的卷积神经网络用于对输入的图像进行目标检测并得到所述权重图。
在一些实施例中,所述处理单元930将所述第一图像与所述第二图像用于处理得到第三图像,包括:
当所述第一图像的平均亮度与所述第二图像的平均亮度不同时,在进行所述合成处理之前将所述第一图像的平均亮度调整为与所述第二图像的平均亮度相同。
在一些实施例中,所述处理单元930,具体用于通过将第一图像乘以第二图像平均亮度与第一图像平均亮度的比值,达到第一图像的平均亮度与第二图像的平均亮度相同。
在一些实施例中,第一增益与所述第二增益由同一个控制单元(未在图中示出)通过以下方式确定:
依据所述第一图像的亮度信息,确定所述第一增益;
依据所述第一增益,以及所述第二曝光时间与所述第一曝光时间的比值,确定所述第二增益。
在一些实施例中,入射光通过第一镜头进入所述第一图像传感器,并通过第二镜头进入所述第二图像传感器;所述第一镜头的光圈大于或等于所述第二镜头的光圈。
请参见图10,为本申请实施例提供的一种成像装置的结构示意图,如图10所示,该成像装置可以包括:
获取单元1010,获取第一图像传感器在第一工作模式时的输出图像,该输出图像包括第一图像,获取第二图像传感器在第一工作模式时的输出图像,该输出图像包括第二图像;
所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于或等于第二增益;
处理单元1020,用于将所述第一图像与所述第二图像进行处理得到第三图像,所述处理至少包括合成处理。
在一些实施例中,所述第一曝光时间与所述第二曝光时间之和大于或等于T,T根据f确定,f为所述第三图像的输出帧率。
在一些实施例中,T等于1/f。
在一些实施例中,所述第二曝光时间大于或等于1/f。
在一些实施例中,所述第一图像传感器的曝光起始时刻晚于或等于第二图像传感器的曝光起始时刻,所述第一图像传感器的曝光结束时刻早于或等于第二图像传感器的曝光结束时刻。
在一些实施例中,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值等于第二比值。
在一些实施例中,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值与第二比值的差异小于10%。
在一些实施例中,所述获取单元1010,还用于当所述第一图像传感器由第一工作模式切换为第二工作模式时,获取所述第一图像传感器在第二工作模式时的输出图像,该输出图像为第四图像,
当所述第二图像传感器由第一工作模式切换为第二工作模式时,获取所述第二图像传感器在第二工作模式时的输出图像,该输出图像为第五图像;
所述第一图像传感器产生第四图像时的曝光时间为第三曝光时间,所述第二图像传感器产生第五图像时的曝光时间为第四曝光时间,所述第三曝光时间小于或等于第四曝光时间。
在一些实施例中,所述第一图像传感器产生第四图像时的增益为第三增益,所述第二图像传感器产生第五图像时的增益为第四增益,所述第三增益等于第四增益,所述第三增益小于所述第二增益。
在一些实施例中,第一工作模式与第二工作模式切换基于环境光强弱进行。
在一些实施例中,所述处理单元1020,还用于在所述第一图像传感器处于第二工作模式,且所述第二图像传感器处于第二工作模式时,基于对所述第四图像、第五图像进行宽动态处理,得到目标宽动态图像,所述目标宽动态图像为第六图像。
在一些实施例中,所述处理单元1020将所述第一图像与所述第二图像用于处理得到第三图像,包括:
依据权重图中各像素位置的配置权重,对所述第一图像与所述第二图像的各像素值进行加权处理,得到所述第三图像;所述权重图依据第一图像序列或第二图像序列确定;所述第一图像序列至少包括一帧第一图像,所述第二图像序列至少包括一帧第二图像;任一像素位置的配置权重用于确定所述第一图像与所述第二图像在该像素位置的加权权重。
在一些实施例中,所述处理单元1020依据第一图像序列确定权重图,包括:
所述第一图像序列包含当前帧第一图像与历史帧第一图像,依据所述当前帧第一图像与所述历史帧第一图像的像素值差异确定所述权重图。
在一些实施例中,所述处理单元1020依据第二图像序列确定权重图,包括:
所述第二图像序列包含当前帧第二图像与历史帧第二图像,依据所述当前帧第二图像与历史帧第二图像的像素值差异确定所述权重图。
在一些实施例中,所述处理单元1020依据像素值差异确定所述权重图,包括:
利用所述像素值差异进行滤波处理得到权重图;
和/或,将所述像素值差异送入预先训练好的卷积神经网络得到权重图,所述预先训练好的卷积神经网络用于对输入的像素值差异进行运动检测并得到所述权重图。
在一些实施例中,所述处理单元1020依据第一图像序列或第二图像序列确定权重图,包括:
所述第一图像序列为第一图像,依据所述第一图像中的关键目标的位置信息确定所述权重图;
和/或,所述第二图像序列为第二图像,依据所述第二图像中的关键目标的位置信息确定所述权重图。
在一些实施例中,所述处理单元1020依据关键目标的位置信息确定所述权重图,包括:
利用预先训练好的卷积神经网络得到权重图,所述预先训练好的卷积神经网络用于对输入的图像进行目标检测并得到所述权重图。
在一些实施例中,所述处理单元1020将所述第一图像与所述第二图像用于处理得到第三图像,包括:
当所述第一图像的平均亮度与所述第二图像的平均亮度不同时,在进行所述合成处理之前将所述第一图像的平均亮度调整为与所述第二图像的平均亮度相同。
在一些实施例中,所述处理单元1020,具体用于通过将第一图像乘以第二图像平均亮度与第一图像平均亮度的比值,达到第一图像的平均亮度与第二图像的平均亮度相同。
在一些实施例中,第一增益与所述第二增益由同一个控制单元(未在图中示出)通过以下方式确定:
依据所述第一图像的亮度信息,确定所述第一增益;
依据所述第一增益,以及所述第二曝光时间与所述第一曝光时间的比值,确定所述第二增益。
在一些实施例中,入射光通过第一镜头进入所述第一图像传感器,并通过第二镜头进入所述第二图像传感器;所述第一镜头的光圈大于或等于所述第二镜头的光圈。
请参见图11,为本申请实施例提供的一种电子设备的硬件结构示意图。该电子设备可包括处理器1101、存储有机器可执行指令的存储器1102。处理器1101与存储器1102可经由***总线1103通信。并且,通过读取并执行存储器1102中的机器可执行指令,处理器1101可执行上文描述的成像方法。
本文中提到的存储器1102可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:RAM(RadomAccess Memory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。
在一些实施例中,还提供了一种机器可读存储介质,如图11中的存储器1102,该机器可读存储介质内存储有机器可执行指令,所述机器可执行指令被处理器执行时实现上文描述的成像方法。例如,所述机器可读存储介质可以是ROM、RAM、CD-ROM、磁带、软盘和光数据存储设备等。
请参见图12,为本申请实施例提供的一种摄像机的结构示意图,如图12所示,该摄像机可以包括:第一镜头1210、第二镜头1220、第一图像传感器1230、第二图像传感器1240、以及处理器1250;其中:
所述第一镜头1210,用于将入射光处理为入射所述第一图像传感器1230的第一光信号;
所述第二镜头1220,用于将入射光处理为入射所述第二图像传感器1240的第二光信号;
所述第一图像传感器1230,用于在第一工作模式时,依据所述第一光信号输出图像,该输出图像包括第一图像;
所述第二图像传感器1240,用于在第一工作模式时,依据所述第二光信号输出图像,该输出图像包括第二图像;
所述第一图像传感器1230产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器1240产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器1230产生第一图像时的增益为第一增益,所述第二图像传感器1240产生第二图像时的增益为第二增益,所述第一增益大于或等于第二增益;
所述处理器1250,用于将第一图像与第二图像用于处理得到第三图像,所述处理至少包括合成处理。
在一些实施例中,所述第一曝光时间与所述第二曝光时间之和大于或等于T,T根据f确定,f为所述第三图像的输出帧率。
在一些实施例中,T等于1/f。
在一些实施例中,所述第二曝光时间大于或等于1/f。
在一些实施例中,所述第一图像传感器1230的曝光起始时刻晚于或等于第二图像传感器1240的曝光起始时刻,所述第一图像传感器1230的曝光结束时刻早于或等于第二图像传感器1240的曝光结束时刻。
在一些实施例中,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值等于第二比值。
在一些实施例中,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值与第二比值的差异小于10%。
在一些实施例中,所述第一图像传感器1230,还用于当由第一工作模式切换为第二工作模式时,输出图像第四图像;
所述第二图像传感器1240,还用于当由第一工作模式切换为第二工作模式时,输出图像第五图像;
所述第一图像传感器1230产生第四图像时的曝光时间为第三曝光时间,所述第二图像传感器1240产生第五图像时的曝光时间为第四曝光时间,所述第三曝光时间小于或等于第四曝光时间。
在一些实施例中,所述第一图像传感器1230产生第四图像时的增益为第三增益,所述第二图像传感器1240产生第五图像时的增益为第四增益,所述第三增益等于第四增益,所述第三增益小于所述第二增益。
在一些实施例中,基于环境光强弱进行第一工作模式与第二工作模式切换。
在一些实施例中,所述处理器1250,还用于在所述第一图像传感器处于第二工作模式,且所述第二图像传感器处于第二工作模式时,基于对所述第四图像、第五图像进行宽动态处理,得到目标宽动态图像,所述目标宽动态图像为第六图像。
在一些实施例中,所述处理器1250将第一图像与第二图像用于处理得到第三图像,包括:
依据权重图中各像素位置的配置权重,对将第一图像与第二图像的各像素值进行加权处理,得到第三图像;所述权重图依据第一图像序列或第二图像序列确定;所述第一图像序列至少包括一帧第一图像,所述第二图像序列至少包括一帧第二图像;任一像素位置的配置权重用于确定所述第一图像与所述第二图像在该像素位置的加权权重。
在一些实施例中,所述处理器1250依据第一图像序列确定所述权重图,包括:
所述第一图像序列包含当前帧第一图像与历史帧第一图像,依据所述当前帧第一图像与所述历史帧第一图像的像素值差异确定所述权重图。
在一些实施例中,所述处理器1250依据第二图像序列确定所述权重图,包括:
所述第二图像序列包含当前帧第二图像与历史帧第二图像,依据所述当前帧第二图像与历史帧第二图像的像素值差异确定所述权重图。
在一些实施例中,所述处理器1250依据像素值差异确定所述权重图,包括:
利用所述像素值差异进行滤波处理得到所述权重图;
和/或,将所述像素值差异送入预先训练好的卷积神经网络得到所述权重图,所述预先训练好的卷积神经网络用于对输入的像素值差异进行运动检测并得到所述权重图。
在一些实施例中,所述处理器1250依据第一图像序列或第二图像序列确定所述权重图,包括:
所述第一图像序列为第一图像,依据所述第一图像中的关键目标的位置信息确定所述权重图;
和/或,所述第二图像序列为第二图像,依据所述第二图像中的关键目标的位置信息确定所述权重图。
在一些实施例中,所述处理器1250依据关键目标的位置信息确定所述权重图,包括:
利用预先训练好的卷积神经网络得到所述权重图,所述预先训练好的卷积神经网络用于对输入的图像进行目标检测并得到所述权重图。
在一些实施例中,所述处理器1250将所述第一图像与所述第二图像用于处理得到第三图像,包括:
当所述第一图像的平均亮度与所述第二图像的平均亮度不同时,在进行所述合成处理之前将所述第一图像的平均亮度调整为与所述第二图像的平均亮度相同。
在一些实施例中,通过将第一图像乘以第二图像平均亮度与第一图像平均亮度的比值,达到第一图像的平均亮度与第二图像亮度相同。
在一些实施例中,所述处理器1250通过以下方式确定:
依据所述第一图像的亮度信息,确定所述第一增益;
依据所述第一增益,以及所述第二曝光时间与所述第一曝光时间的比值,确定所述第二增益。
在一些实施例中,所述第一镜头1210的光圈大于或等于所述第二镜头1220的光圈。
需要说明的是,上述摄像机、成像***、成像装置和成像方法的实施例之间可以相互参照,相同的步骤不做赘述。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅为本申请的较佳实施例而已,并不用以限制本申请,凡在本申请的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本申请保护的范围之内。
Claims (23)
1.一种成像方法,其特征在于,包括:
获取第一图像传感器在第一工作模式时的输出图像,该输出图像包括第一图像,获取第二图像传感器在第一工作模式时的输出图像,该输出图像包括第二图像;
所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于第二增益;
第一图像与第二图像用于处理得到第三图像,所述处理至少包括合成处理,所述第一图像与所述第二图像在所述合成处理之前的亮度近似相同。
2.根据权利要求1所述的方法,其特征在于,所述第一曝光时间与所述第二曝光时间之和大于或等于T,T根据f确定,f为所述第三图像的输出帧率。
3.根据权利要求2所述的方法,其特征在于,T等于1/f。
4.根据权利要求2所述的方法,其特征在于,所述第二曝光时间大于或等于1/f。
5.根据权利要求1~4任一所述的方法,其特征在于,所述第一图像传感器的曝光起始时刻晚于或等于第二图像传感器的曝光起始时刻,所述第一图像传感器的曝光结束时刻早于或等于第二图像传感器的曝光结束时刻。
6.根据权利要求1所述的方法,其特征在于,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值等于第二比值。
7.根据权利要求2所述的方法,其特征在于,所述第一曝光时间与第二曝光时间的比值为第一比值,所述第二增益与第一增益的比值为第二比值,第一比值与第二比值的差异小于10%。
8.根据权利要求1-4任一项所述的方法,其特征在于,当所述第一图像传感器由第一工作模式切换为第二工作模式时,获取所述第一图像传感器在第二工作模式时的输出图像,该输出图像为第四图像,
当所述第二图像传感器由第一工作模式切换为第二工作模式时,获取所述第二图像传感器在第二工作模式时的输出图像,该输出图像为第五图像;
所述第一图像传感器产生第四图像时的曝光时间为第三曝光时间,所述第二图像传感器产生第五图像时的曝光时间为第四曝光时间,所述第三曝光时间小于或等于第四曝光时间;
所述第一图像传感器产生第四图像时的增益为第三增益,所述第二图像传感器产生第五图像时的增益为第四增益,所述第三增益等于第四增益,所述第三增益小于所述第二增益。
9.据权利要求8所述的方法,其特征在于,基于环境光强弱进行第一工作模式与第二工作模式切换。
10.根据权利要求9所述的方法,其特征在于,在所述第一图像传感器处于第二工作模式,且所述第二图像传感器处于第二工作模式时,所述方法还包括:
基于对所述第四图像、第五图像进行宽动态处理,得到目标宽动态图像,所述目标宽动态图像为第六图像。
11.根据权利要求1所述的方法,其特征在于,所述第一图像与第二图像用于处理得到第三图像,包括:
依据权重图中各像素位置的配置权重,对第一图像与第二图像的各像素值进行加权处理,得到第三图像;所述权重图依据第一图像序列或第二图像序列确定;所述第一图像序列至少包括一帧第一图像,所述第二图像序列至少包括一帧第二图像;任一像素位置的配置权重用于确定所述第一图像与所述第二图像在该像素位置的加权权重。
12.根据权利要求11所述的方法,其特征在于,依据第一图像序列确定所述权重图,包括:
所述第一图像序列包含当前帧第一图像与历史帧第一图像,依据所述当前帧第一图像与所述历史帧第一图像的像素值差异确定所述权重图。
13.根据权利要求11所述的方法,其特征在于,依据第二图像序列确定所述权重图,包括:
所述第二图像序列包含当前帧第二图像与历史帧第二图像,依据所述当前帧第二图像与历史帧第二图像的像素值差异确定所述权重图。
14.根据权利要求11所述的方法,其特征在于,依据第一图像序列或第二图像序列确定所述权重图,包括:
所述第一图像序列为第一图像,依据所述第一图像中的关键目标的位置信息确定所述权重图;
和/或,所述第二图像序列为第二图像,依据所述第二图像中的关键目标的位置信息确定所述权重图。
15.根据权利要求1所述的方法,其特征在于,所述第一图像与第二图像用于处理得到第三图像,包括:
当所述第一图像的平均亮度与所述第二图像的平均亮度不同时,在进行所述合成处理之前将所述第一图像的平均亮度调整为与所述第二图像的平均亮度相同。
16.根据权利要求1所述的方法,其特征在于,所述第一增益与所述第二增益由同一个控制单元通过以下方式确定:
依据所述第一图像的亮度信息,确定所述第一增益;
依据所述第一增益,以及所述第二曝光时间与所述第一曝光时间的比值,确定所述第二增益。
17.根据权利要求1所述的方法,其特征在于,入射光通过第一镜头进入所述第一图像传感器,并通过第二镜头进入所述第二图像传感器;所述第一镜头的光圈大于或等于所述第二镜头的光圈。
18.一种成像***,其特征在于,包括:
第一图像传感器,用于在第一工作模式时的输出图像,该输出图像包括第一图像;
第二图像传感器,用于在第一工作模式时的输出图像,该输出图像包括第二图像;
所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于第二增益;
处理单元,用于将第一图像与第二图像进行处理得到第三图像,所述处理至少包括合成处理,所述第一图像与所述第二图像在所述合成处理之前的亮度近似相同。
19.根据权利要求18所述的成像***,其特征在于,
所述第一曝光时间与所述第二曝光时间之和大于或等于T,T根据f确定,f为所述第三图像的输出帧率。
20.根据权利要求19所述的成像***,其特征在于,T等于1/f。
21.根据权利要求19所述的成像***,其特征在于,所述第二曝光时间大于或等于1/f。
22.根据权利要求18-21任一项所述的成像***,其特征在于,所述第一图像传感器的曝光起始时刻晚于或等于第二图像传感器的曝光起始时刻,所述第一图像传感器的曝光结束时刻早于或等于第二图像传感器的曝光结束时刻。
23.一种摄像机,其特征在于,包括:第一镜头、第二镜头、第一图像传感器、第二图像传感器以及处理器;其中:
所述第一镜头,用于将入射光处理为入射所述第一图像传感器的第一光信号;
所述第二镜头,用于将入射光处理为入射所述第二图像传感器的第二光信号;
所述第一图像传感器,用于在第一工作模式时,依据所述第一光信号输出图像,该输出图像包括第一图像;
所述第二图像传感器,用于在第一工作模式时,依据所述第二光信号输出图像,该输出图像包括第二图像;
所述第一图像传感器产生第一图像时的曝光时间为第一曝光时间,所述第二图像传感器产生第二图像时的曝光时间为第二曝光时间,所述第一曝光时间小于第二曝光时间;
所述第一图像传感器产生第一图像时的增益为第一增益,所述第二图像传感器产生第二图像时的增益为第二增益,所述第一增益大于第二增益;
所述处理器,用于将第一图像与第二图像用于处理得到第三图像,所述处理至少包括合成处理,所述第一图像与所述第二图像在所述合成处理之前的亮度近似相同。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110502428.6A CN115314628B (zh) | 2021-05-08 | 2021-05-08 | 一种成像方法、***及摄像机 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110502428.6A CN115314628B (zh) | 2021-05-08 | 2021-05-08 | 一种成像方法、***及摄像机 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115314628A CN115314628A (zh) | 2022-11-08 |
CN115314628B true CN115314628B (zh) | 2024-03-01 |
Family
ID=83853843
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110502428.6A Active CN115314628B (zh) | 2021-05-08 | 2021-05-08 | 一种成像方法、***及摄像机 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115314628B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118075617A (zh) * | 2024-04-22 | 2024-05-24 | 杭州涂鸦信息技术有限公司 | 图像曝光方法、装置、电子设备以及存储介质 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101729789A (zh) * | 2008-10-21 | 2010-06-09 | 索尼株式会社 | 成像装置、成像方法以及程序 |
CN108259774A (zh) * | 2018-01-31 | 2018-07-06 | 珠海市杰理科技股份有限公司 | 图像合成方法、***和设备 |
CN109863742A (zh) * | 2017-01-25 | 2019-06-07 | 华为技术有限公司 | 图像处理方法和终端设备 |
CN109862269A (zh) * | 2019-02-18 | 2019-06-07 | Oppo广东移动通信有限公司 | 图像采集方法、装置、电子设备和计算机可读存储介质 |
CN109951646A (zh) * | 2017-12-20 | 2019-06-28 | 杭州海康威视数字技术股份有限公司 | 图像融合方法、装置、电子设备及计算机可读存储介质 |
CN110493494A (zh) * | 2019-05-31 | 2019-11-22 | 杭州海康威视数字技术股份有限公司 | 图像融合装置及图像融合方法 |
CN110557572A (zh) * | 2018-05-31 | 2019-12-10 | 杭州海康威视数字技术股份有限公司 | 一种图像处理方法、装置及卷积神经网络*** |
JP2020010140A (ja) * | 2018-07-05 | 2020-01-16 | オリンパス株式会社 | 撮像装置及び表示方法 |
WO2020038069A1 (zh) * | 2018-08-22 | 2020-02-27 | Oppo广东移动通信有限公司 | 曝光控制方法、装置和电子设备 |
CN111064899A (zh) * | 2019-12-06 | 2020-04-24 | 成都华为技术有限公司 | 一种曝光参数的调节方法及装置 |
JP2020088791A (ja) * | 2018-11-30 | 2020-06-04 | パナソニックIpマネジメント株式会社 | 画像処理装置、画像処理方法及びプログラム |
CN111601044A (zh) * | 2019-02-20 | 2020-08-28 | 杭州海康威视数字技术股份有限公司 | 图像的曝光时间比确定方法及装置 |
CN112422784A (zh) * | 2020-10-12 | 2021-02-26 | 浙江大华技术股份有限公司 | 成像方法、成像装置、电子装置和存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4127411B1 (ja) * | 2007-04-13 | 2008-07-30 | キヤノン株式会社 | 画像処理装置及び方法 |
US20150022687A1 (en) * | 2013-07-19 | 2015-01-22 | Qualcomm Technologies, Inc. | System and method for automatic exposure and dynamic range compression |
-
2021
- 2021-05-08 CN CN202110502428.6A patent/CN115314628B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101729789A (zh) * | 2008-10-21 | 2010-06-09 | 索尼株式会社 | 成像装置、成像方法以及程序 |
CN109863742A (zh) * | 2017-01-25 | 2019-06-07 | 华为技术有限公司 | 图像处理方法和终端设备 |
CN109951646A (zh) * | 2017-12-20 | 2019-06-28 | 杭州海康威视数字技术股份有限公司 | 图像融合方法、装置、电子设备及计算机可读存储介质 |
CN108259774A (zh) * | 2018-01-31 | 2018-07-06 | 珠海市杰理科技股份有限公司 | 图像合成方法、***和设备 |
CN110557572A (zh) * | 2018-05-31 | 2019-12-10 | 杭州海康威视数字技术股份有限公司 | 一种图像处理方法、装置及卷积神经网络*** |
JP2020010140A (ja) * | 2018-07-05 | 2020-01-16 | オリンパス株式会社 | 撮像装置及び表示方法 |
WO2020038069A1 (zh) * | 2018-08-22 | 2020-02-27 | Oppo广东移动通信有限公司 | 曝光控制方法、装置和电子设备 |
JP2020088791A (ja) * | 2018-11-30 | 2020-06-04 | パナソニックIpマネジメント株式会社 | 画像処理装置、画像処理方法及びプログラム |
CN109862269A (zh) * | 2019-02-18 | 2019-06-07 | Oppo广东移动通信有限公司 | 图像采集方法、装置、电子设备和计算机可读存储介质 |
CN111601044A (zh) * | 2019-02-20 | 2020-08-28 | 杭州海康威视数字技术股份有限公司 | 图像的曝光时间比确定方法及装置 |
CN110493494A (zh) * | 2019-05-31 | 2019-11-22 | 杭州海康威视数字技术股份有限公司 | 图像融合装置及图像融合方法 |
CN111064899A (zh) * | 2019-12-06 | 2020-04-24 | 成都华为技术有限公司 | 一种曝光参数的调节方法及装置 |
CN112422784A (zh) * | 2020-10-12 | 2021-02-26 | 浙江大华技术股份有限公司 | 成像方法、成像装置、电子装置和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115314628A (zh) | 2022-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8208803B2 (en) | Focus adjusting device, image pickup apparatus, and focus adjustment method | |
JP4497001B2 (ja) | 画像処理装置、電子カメラ、および画像処理プログラム | |
US9113059B2 (en) | Image pickup apparatus and image region discrimination method | |
US8294785B2 (en) | Method for adjusting photosensitiveness of digital camera | |
CN111246092B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN111246093B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US8941763B2 (en) | Image capture device, method for generating composite image, and storage medium | |
CN115314628B (zh) | 一种成像方法、***及摄像机 | |
JP2010072619A (ja) | 露出演算装置およびカメラ | |
JP5762156B2 (ja) | 撮像装置、その焦点調整方法およびプログラム | |
US8023744B2 (en) | Pattern matching system and targeted object pursuit system using light quantities in designated areas of images to be compared | |
JP6336337B2 (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
US10944929B2 (en) | Imaging apparatus and imaging method | |
CN115314629B (zh) | 一种成像方法、***及摄像机 | |
CN102096174B (zh) | 在低亮度场景执行自动对焦的***与方法 | |
CN111212231B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP2015080157A (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN115314627B (zh) | 一种图像处理方法、***及摄像机 | |
JP2021153229A (ja) | 情報処理装置、撮像装置、方法、プログラム及び記憶媒体 | |
WO2024087183A1 (en) | Imaging device, imaging device control method, and computer program product | |
US8670044B2 (en) | Photometric device with accumulation control | |
CN114762313B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP6570230B2 (ja) | 撮像装置および撮像方法 | |
JP2006157344A (ja) | 撮像装置 | |
JP4360307B2 (ja) | 撮像装置及び露出制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |