CN117135455A - 一种图像处理方法及电子设备 - Google Patents
一种图像处理方法及电子设备 Download PDFInfo
- Publication number
- CN117135455A CN117135455A CN202310151718.XA CN202310151718A CN117135455A CN 117135455 A CN117135455 A CN 117135455A CN 202310151718 A CN202310151718 A CN 202310151718A CN 117135455 A CN117135455 A CN 117135455A
- Authority
- CN
- China
- Prior art keywords
- image
- exposure time
- exposure
- optical flow
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 13
- 230000033001 locomotion Effects 0.000 claims abstract description 51
- 238000000034 method Methods 0.000 claims abstract description 47
- 230000004927 fusion Effects 0.000 claims abstract description 9
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 4
- 230000003287 optical effect Effects 0.000 claims description 142
- 238000004891 communication Methods 0.000 claims description 63
- 238000004590 computer program Methods 0.000 claims description 11
- 238000007499 fusion processing Methods 0.000 claims 1
- 230000006870 function Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 14
- 238000007726 management method Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 11
- 238000010295 mobile communication Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 238000006073 displacement reaction Methods 0.000 description 7
- 238000013461 design Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 102100037651 AP-2 complex subunit sigma Human genes 0.000 description 2
- 101000806914 Homo sapiens AP-2 complex subunit sigma Proteins 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 206010044565 Tremor Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000002547 anomalous effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
- H04N23/6845—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
本申请提供一种图像处理方法及电子设备,涉及图像技术领域。该方法可以在被摄对象和电子设备存在相对运动时,获得清晰且信噪比高的图像。该方法包括:响应于用户开启摄像头的操作,利用摄像头采集图像序列,图像序列包括交替的长曝光图像和短曝光图像;在确定摄像头采集的第一图像中存在运动模糊的情况下,降低采集短曝光图像所采用的曝光时间,第一图像为摄像头最新采集到的一帧长曝光图像或最新采集到的一帧短曝光图像;基于降低后的采集短曝光图像所采用的曝光时间重新采集得到第一短曝光图像,以及重新采集得到第一长曝光图像;合成第一短曝光图像和第一长曝光图像,得到融合图像;显示融合图像。
Description
技术领域
本申请涉及图像技术领域,尤其涉及一种图像处理方法及电子设备。
背景技术
随着电子设备和半导体技术的发展,手机、平板电脑等电子设备一般都被配置有摄像头。用户在拍摄图像或者视频(包括多个图像帧)的过程中,时常会得到模糊的图像。特别的,在拍摄运动物体,或者拍摄设备移动(例如手抖)的场景中,由于被摄对象和拍摄设备之间的相对运动,更容易导致拍摄得到的图像发生模糊,画质较差。
发明内容
本申请实施例提供一种图像处理方法及电子设备,可以在被摄对象和电子设备存在相对运动时,获得清晰且信噪比高、画质较佳的图像。
为达到上述目的,本申请的实施例采用如下技术方案:
第一方面,本申请提供一种图像处理方法,应用于电子设备,电子设备包括摄像头,方法包括:响应于用户开启摄像头的操作,利用摄像头采集图像序列,图像序列包括交替的长曝光图像和短曝光图像,短曝光图像的曝光时间小于长曝光图像的曝光时间;在确定摄像头采集的第一图像中存在运动模糊的情况下,降低采集短曝光图像所采用的曝光时间,第一图像为摄像头最新采集到的一帧长曝光图像或最新采集到的一帧短曝光图像;基于降低后的采集短曝光图像所采用的曝光时间重新采集得到第一短曝光图像,以及重新采集得到第一长曝光图像;合成第一短曝光图像和第一长曝光图像,得到融合图像;显示融合图像。
可以理解地,由于通过更小的曝光时间采集到的第一短曝光图像具有更高的清晰度,同时融合图像是融合第一短曝光图像和第一长曝光图像得到的,使得该融合图像即具备长曝光图像的高信噪比,又具备短曝光图像的高清晰度。
在第一方面提供的一种实施方式中,降低采集短曝光图像所采用的曝光时间,包括:确定曝光时间调整量;根据曝光时间调整量,将采集短曝光图像所采用的曝光时间从第一曝光时间降低至目标曝光时间,第一曝光时间为摄像头最新采集到的一帧短曝光图像所采用的曝光时间。
在第一方面提供的一种实施方式中,图像序列还包括第二图像,第二图像与第一图像为连续的两帧长曝光图像,或者为连续的两帧短曝光图像,确定曝光时间调整量,包括:根据第一图像、第二图像,确定第一图像中至少一个联通区域的光流;根据第一深度、第一焦距及至少一个联通区域的光流中的最大光流确定第一速度;其中,第一深度为被摄对象与电子设备之间的距离,第一速度为被摄对象的运动速度,第一焦距为第一图像对应的焦距;以第一深度、第一焦距、第一速度以及最大光流为基准参数在预设的第一对应关系表中进行查询,得到第一目标曝光时间;其中,预设的第一对应关系表包括多组参数及其对应的理论曝光时间,每组参数包括距离、焦距、光流以及速度,第一目标曝光时间是电子设备在第一深度、第一焦距、第一速度及最大光流的情况下获得清晰的短曝光图像所需要的曝光时间;将第一曝光时间与第一目标曝光时间的差值确定为曝光时间调整量。
在第一方面提供的一种实施方式中,确定曝光时间调整量,还包括:查询预设的曝光比查询表,确定最大曝光比;其中,预设的曝光比查询表包括电子设备在不同场景下可采用的曝光比,曝光比为短曝光图像的曝光时间与长曝光图像的曝光时间的比值;根据第二曝光时间及最大曝光比确定第二目标曝光时间,第二曝光时间为摄像头最新采集到的一帧长曝光图像所采用的曝光时间,第二目标曝光时间为电子设备按照曝光比调整采集短曝光图像所采用的曝光时间的情况下,采集短曝光图像所采用的最小曝光时间;将第一曝光时间与第一目标曝光时间的差值确定为曝光时间调整量,包括:在第一目标曝光时间小于第二目标曝光时间的情况下,将第一曝光时间与第一目标曝光时间的差值确定为曝光时间调整量。
可以理解地,该第一目标曝光时间是指要获得清晰的短曝光图像所需的曝光时间,该第二目标曝光时间是指在保证短曝光图像的信噪比与清晰度比较均衡的情况下,所需的曝光时间。而在第一目标曝光时间小于第二目标曝光时间的情况下,将第一曝光时间与第一目标曝光时间的差值确定为曝光时间调整量,可以确保下一帧短曝光图像的清晰度。
在第一方面提供的一种实施方式中,确定曝光时间调整量,还包括:在第一目标曝光时间大于第二目标曝光时间的情况下,将第一曝光时间与第二目标曝光时间的差值确定为曝光时间调整量。
可以理解地,在第二目标曝光时间小于第二目标曝光时间的情况下,将第一曝光时间与第二目标曝光时间的差值确定为曝光时间调整量,既能保证下一帧短曝光图像的清晰度,又能使其信噪比与清晰度比较均衡。
在第一方面提供的一种实施方式中,第一比值与第二比值相等,第一比值为第一深度与第一焦距的比值,第二比值为第一深度和最大光流的比值。
在第一方面提供的一种实施方式中,以第一深度、第一焦距、第一速度以及最大光流为基准参数在预设的第一对应关系表中进行查询,得到第一目标曝光时间,包括:以第一深度、第一焦距、第一速度以及最大光流为基准参数在预设的第一对应关系表中进行查询,若预设的第一对应关系表中存在基准参数,则将基准参数对应的理论曝光时间确定为第一目标曝光时间。
在第一方面提供的一种实施方式中,以第一深度、第一焦距、第一速度以及最大光流为基准参数在预设的第一对应关系表中进行查询,得到第一目标曝光时间,还包括:若预设的第一对应关系表中不存在基准参数,分别计算第一对应关系表中多组参数与基准参数的相似度;将第一对应关系表中与基准参数具有最高相似度的一组参数对应的理论曝光时间,确定为第一目标曝光时间。如此,总是能从根据第一对应关系表确定对应的曝光时间。
在第一方面提供的一种实施方式中,分别计算第一对应关系表中多组参数与基准参数的相似度,包括:针对任意一组参数,任意一组参数包括第二深度、第二焦距、第二速度以及第二光流;确定第二深度与第一深度的第一差值,根据第一差值确定第一相似度,第一相似度与第一差值呈负相关;确定第二焦距与第一焦距的第二差值,根据第二差值确定第二相似度,第二相似度与第二差值呈负相关;确定第二速度与第一速度的第三差值,根据第三差值确定第三相似度,第三相似度与第三差值呈负相关;确定第二光流与最大光流的第四差值,根据第四差值确定第四相似度,第四相似度与第四差值呈负相关;将第一相似度、第二相似度、第三相似度和第四相似度的和作为任意一组参数与基准参数的相似度。
在第一方面提供的一种实施方式中,根据第一图像、第二图像,确定第一图像中至少一个联通区域的光流,包括:分别将第一图像、第二图像划分为多个区域;根据第二图像的多个区域和第一图像的多个区域,确定第一图像中每个区域的光流;基于每个区域的光流合并第一图像的多个区域,得到至少一个联通区域的光流。
在第一方面提供的一种实施方式中,基于每个区域的光流合并第一图像的多个区域,得到至少一个联通区域的光流,包括:对于任意一个区域,合并与任意一个区域相邻的且满足合并条件的区域,以得到至少一个联通区域;对于任意一个联通区域,根据合成任意一个联通区域的多个区域的光流确定任意一个联通区域的光流。
在第一方面提供的一种实施方式中,满足合并条件包括:区域Ri的光流与区域Rj的满足|L1-L2|≤S1,且|α1-α2|≤S2;其中,L1为区域Ri的光流的长度,α1为区域Ri的光流与x轴的夹角,L2为区域Rj的光流的长度,α2为区域Rj的光流与x轴的夹角,x轴为第一图像的上边所在的直线,S1为预设的第一阈值,S2为预设的第二阈值。
第二方面,本申请还提供一种曝光时间调整方法,应用于电子设备,电子设备包括摄像头,方法包括:响应于用户开启摄像头的操作,利用摄像头采集图像序列,图像序列包括交替的长曝光图像和短曝光图像,短曝光图像的曝光时间小于长曝光图像的曝光时间;在确定摄像头采集的第一图像中存在运动模糊的情况下,降低采集短曝光图像所采用的曝光时间,第一图像为摄像头最新采集到的一帧长曝光图像或最新采集到的一帧短曝光图像。
第三方面,本申请还提供一种电子设备,电子设备包括:存储器和处理器;处理器与存储器耦合;其中,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令;当计算机指令被处理器执行时,使得电子设备执行如第一方面、第二方面中任一实施方式的方法。
第四方面,本申请还提供一种计算机可读存储介质,包括计算机指令;当计算机指令在电子设备上运行时,使得电子设备执行如第一方面、第二方面中任一实施方式的方法。
第五方面,本申请提供一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行如第一方面、第二方面及其任一种可能的设计方式的方法。
第六方面,本申请提供一种芯片***,该芯片***包括一个或多个接口电路和一个或多个处理器。该接口电路和处理器通过线路互联。上述芯片***可以应用于包括通信模块和存储器的终端设备。该接口电路用于从终端设备的存储器接收信号,并向处理器发送接收到的信号,该信号包括存储器中存储的计算机指令。当处理器执行该计算机指令时,终端设备可以执行如第一方面、第二方面及其任一种可能的设计方式的方法。
其中,第二方面至第六方面中任一种设计方式所带来的技术效果可参见第一方面中不同设计方式所带来的技术效果,此处不再赘述。
附图说明
图1为本申请实施例提供的一种拍摄场景示意图;
图2为本申请实施例提供的一种HDR融合示意图;
图3为一种HDR的出帧方式示意图;
图4为一种stagger HDR的出帧方式示意图;
图5为另一种stagger HDR的出帧方式示意图;
图6为本申请实施例提供的一种像素阵列的示意图;
图7为本申请实施例提供的一种电子设备的结构示意图;
图8为本申请实施例提供的一种图像处理方法的流程图;
图9为本申请实施例提供的另一种图像处理方法的流程图;
图10为本申请实施例提供的一种光流的示意图;
图11为本申请实施例提供的一种合并区域的过程示意图;
图12为本申请实施例提供的一种电子设备的成像示意图;
图13为本申请实施例提供的一种成像效果对比图;
图14为本申请实施例提供的一种芯片***的结构示意图。
具体实施方式
下面结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。其中,在本申请实施例的描述中,以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一种”、“所述”、“上述”、“该”和“这一”旨在也包括例如“一个或多个”这种表达形式,除非其上下文中明确地有相反指示。还应当理解,在本申请以下各实施例中,“至少一个”、“一个或多个”是指一个或两个以上(包含两个)。术语“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系;例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A、B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。
在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。术语“连接”包括直接连接和间接连接,除非另外说明。“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。
在本申请实施例中,“示例性地”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性地”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性地”或者“例如”等词旨在以具体方式呈现相关概念。
在具体介绍本申请实施例之前,先对本申请涉及的技术术语做简单介绍:
1、运动模糊
可理解,在拍摄运动的物体或人时,若物体或人移动的速度过快,而拍摄设备拍摄图像时的曝光时间过长,拍摄的图像容易出现运动模糊(motion blur)。运动模糊是景物图像中的移动效果,一般是由于拍摄设备与被摄对象之间相对运动而造成的。运动模糊会使得获取的图像中存在明显的模糊拖动痕迹。可以理解的是,拍摄设备可指数码相机、手机等电子设备;被摄对象为拍摄设备进行拍摄的对象。
示例性的,如图1所示,被摄对象正在走路,用户在利用电子设备进行拍摄时会发现该电子设备上显示的被摄对象比较模糊。在这种情况下进行拍摄无法获得清晰的图像或视频。
需要说明的是,该运动模糊也可以称为“拖影”、“鬼影”等,在此不做具体限制。
2、光流
一般而言,光流是在被摄对象和拍摄设备(例如,手机、平板等电子设备)之间有相对运动的情况下产生的,具体包括如下三种情况,分别为:
情况一,被摄对象运动。例如,使用手机拍摄运动员跑步的场景。
情况二,在拍摄过程中拍摄设备处于移动状态。例如,手抖的场景。
情况三,上述情况一和情况二共同作用。例如,在运动员跑步的过程中,用户拍摄时手抖。
在上述三种情况中,在拍摄过程中,随着被摄对象和拍摄设备的相对运动,被摄对象在成像平面上会形成一系列连续变化的图像,这一系列连续变化的信息不断“流过”成像平面,好像一种光的“流”,故称之为光流。
光流具体是被摄对象在成像平面上的像素运动的瞬时速度,在时间间隔很小(比如视频的连续前后两帧之间)时,光流也等同于像素运动的位移。
在本申请实施例中,主要以位移来表示光流。并且,光流可以通过OpenCV中的calcOpticalFlowPyrLK、calcOpticalFlowFarneback、CalcOpticalFlowBM、CalcOpticalFlowHS、calcOpticalFlowSF等算法来计算,本申请对此不作具体限定。
3、高动态范围(high-dynamic range,HDR)
HDR可以理解为将多种曝光度的多帧低动态范围(low-dynamic range,LDR)图像融合为一帧HDR图像的技术。在该HDR图像中可以包括更多画面细节。
示例性的,图2为拍摄海平面风景的照片示意图,其中图2的(a)为曝光度较大的LDR图像,图2的(b)为曝光度较小的LDR图像。可以看出,在图2的(a)中,由于曝光度较大,画面中的高光区域由于过曝而失真,暗部区域则由于曝光值的补偿可以看清楚细节、轮廓;在图2的(b)中,由于曝光度较小,导致画面中的高光区域有较为清晰的轮廓,但暗部区域由于缺乏曝光较为模糊。进而,通过HDR可以将图2的(a)和(b)融合为图2的(c),可以看出图2的(c)中既能够显示高光区域的轮廓、细节,又能够显示暗部区域的轮廓、细节。
具体的,图3为本申请实施例提供的一种拍照过程中的时序图。其中,该时序图中包括两条时间轴,上方的时间轴用于反映摄像头中感光元件进行图像曝光的时间,下方的时间轴用于反映摄像头读取感光数据的时间。
其中,电子设备在t1时间点接收用户的拍照操作。电子设备在接收到拍照操作后,需要一段时间来生成曝光参数、将曝光参数发送至摄像头以及使摄像头执行该曝光参数。具体的,假设电子设备生成曝光参数、将曝光参数发送至摄像头以及使摄像头执行该曝光参数所占用时间为一个采集周期T,则如图3所示电子设备在虚线框中的6个采集周期中采集4帧EV0图像、一帧EV-2图像、一帧EV-4图像。之后,电子设备再根据采集到的6帧图像,合成HDR图像。
需要说明的是,为了描述简洁,本申请实施例中将正常曝光的曝光度的表示为EV0,将曝光度EV0×2n表示为EVn。例如,EV-1表示曝光度为EV0的一半,EV-2表示曝光度为EV-1的一半;再例如,EV1表示曝光度为EV0的二倍,EV2表示曝光度为EV1的二倍。EVn图像即为曝光度为EVn的图像。
4、交错高动态范围(stagger high-dynamic range,stagger HDR)
stagger HDR通过提高传感器的帧率,可以在一个采集周期内,采集不同曝光度的多帧图像的技术。例如,stagger HDR可以在一个采集周期内生成长曝光图像和短曝光图像,例如图4所示,电子设备在一个采集周期T内可以采集EV0和EV-4两帧图像。再例如,stagger HDR可以在一个采集周期内生成长曝光图像、中曝光图像和短曝光图像,例如图5所示,电子设备在一个采集周期T内可以采集EV0、EV-2和EV-4三帧图像。相比较而言,在stagger HDR的场景下,由于要采集多种曝光参数的图像,因此相邻两帧图像之间的间隔时间(可以称为帧间隔)相比于非stagger HDR的场景下的帧间隔会更短。其中,长曝光图像的曝光时间大于中曝光图像的曝光时间,中曝光图像的曝光时间大于短曝光图像的曝光时间。
一般来说,电子设备可以采取降低曝光时间来减弱运动模糊。示例性的,图6为对被摄对象(以三角形指示被摄对象)进行拍摄时像素阵列的采样示意图。其中,图6中的(a)为曝光时间较长时像素阵列的采样情况,图6中的(b)为曝光时间较短时像素阵列的采样情况。可以看出,在图6的(a)中,由于曝光时间较长,有4个像素点对被摄对象进行采样(图中黑色填充的像素点);在图6的(b)中,由于曝光时间较短,有2个像素点对被摄对象进行采样。也即,拍摄一帧图像的曝光时间越短,拍摄这一帧图像的过程中被摄对象的位移越小。这样可以减少拍摄得到的一帧图像中由于被摄对象移动而产生的模糊拖动痕迹,从而获得较为清晰的图像。
相关技术提供的一种技术方案中,针对HDR模式或者stagger HDR模式,设备可以通过降低长曝光图像的曝光时间来减轻图像的模糊现象。例如降低图3中EV0图像的曝光时间,或者图4、图5中EV0图像的曝光时间。但这种方式会导致图像的信噪比降低,影响图像质量。
本申请提供了一种图像处理方法,应用于包括摄像头的电子设备。该方法可以利用摄像头采集图像序列,该图像序列中包括交替的长曝光图像和短曝光图像,且短曝光图像的曝光时间小于长曝光图像的曝光时间;若确定摄像头采集的第一图像(摄像头最新采集到的一帧长曝光图像或最新采集到的一帧短曝光图像)存在运动模糊的情况,电子设备可以降低采集短曝光图像所采用的曝光时间。其中,通过降低采集短曝光图像所采用的曝光时间可以提升即将采集到的短曝光图像的清晰度。
进一步的,电子设备还可以基于降低后的采集短曝光图像所采用的曝光时间重新采集得到第一短曝光图像,以及重新采集得到第一长曝光图像,以及合成第一短曝光图像和第一长曝光图像,得到融合图像,并显示融合图像。其中由于通过更小的曝光时间采集到的第一短曝光图像相对于已经采集到的短曝光图像具有更高的清晰度,同时融合图像是融合第一短曝光图像和第一长曝光图像得到的,使得该融合图像即具备长曝光图像的高信噪比,又具备短曝光图像的高清晰度。
其中,本申请实施例提供的电子设备可以是手机、平板电脑、桌面型计算机、膝上型计算机、手持计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personalcomputer,UMPC)、上网本,以及蜂窝电话、个人数字助理(personal digital assistant,PDA)、增强现实(augmented reality,AR)设备、虚拟现实(virtual reality,VR)设备、人工智能(artificial intelligence,AI)设备、可穿戴式设备、车载设备、智能家居设备和/或智慧城市设备等具有摄像头的设备,或者相机、摄像机等具有拍摄功能的设备,本申请实施例对该电子设备的具体类型不作特殊限制。
图7为本申请实施例提供的一种电子设备的结构示意图。如图7所示,电子设备可以包括:处理器110,外部存储器接口120,内部存储器121,通用串行总线(universalserial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。
其中,上述传感器模块180可以包括压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器和骨传导传感器等传感器。
可以理解的是,本实施例示意的结构并不构成对电子设备的具体限定。在另一些实施例中,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以是电子设备的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
可以理解的是,本实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备的结构限定。在另一些实施例中,电子设备也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。在一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。在一些实施例中,电子设备的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备可以通过无线通信技术与网络以及其他设备通信。
天线1和天线2用于发射和接收电磁波信号。电子设备中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。
移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
无线通信模块160可以提供应用在电子设备上的包括WLAN(如(wirelessfidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigationsatellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(nearfield communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。
无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
电子设备通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。该显示屏194包括显示面板。
电子设备可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。ISP用于处理摄像头193反馈的数据。摄像头193用于捕获静态图像或视频。在一些实施例中,电子设备可以包括1个或N个摄像头193,N为大于1的正整数。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备的各种功能应用以及数据处理。例如,在本申请实施例中,处理器110可以通过执行存储在内部存储器121中的指令,内部存储器121可以包括存储程序区和存储数据区。
其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flashstorage,UFS)等。
电子设备可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。SIM卡接口195用于连接SIM卡。SIM卡可以通过***SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备的接触和分离。电子设备可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。
本申请提供一种图像处理方法,可应用于拍摄预览场景、拍照场景以及录像场景等。下面以拍摄预览场景为例进行说明。示例性的,如图8所示,响应于用户开启摄像头的操作,电子设备利用摄像头采集获取图像序列,其中图像序列包括交替的长曝光图像和短曝光图像,且长曝光图像的曝光时间大于短曝光图像的曝光时间。若摄像头最新采集到的一帧长曝光图像或最新采集到的一帧短曝光图像(可以称为第一图像)中存在运动模糊的情况,电子设备可降低采集短曝光图像所采用的曝光时间;以及,电子设备根据降低后的短曝光图像所采用的曝光时间重新采集得到第一短曝光图像,以及重新采集得到第一长曝光图像,合成该第一短曝光图像和第一长曝光图像,得到融合图像。
其中,开启摄像头的操作可包括,用户开启相机应用的操作、使摄像头开始拍摄或录制的操作等,在此不做具体限制。
电子设备识别第一图像中是否存在运动模糊的方式有多种。
在一种可选的实施方式中,电子设备可以将第一图像输入识别模型,该识别模型可用于识别图像的模糊程度。示例性的,服务器或电子设备可以将大量存在运动模糊的图像作为训练样本,并结合每个训练样本对应的模糊标签(用于标识模糊程度的标签)进行训练,得到该识别模型。如此,将第一图像输入识别模型后,便可确定第一图像是否存在运动模糊。
在另一种可选的实施方式中,电子设备可将第一图像划分为多个区域,并计算第一图像中每个区域的光流,光流用于反映该区域内的像素点的位移;以及,根据该多个区域的光流确定第一图像是否存在运动模糊。
其中,第一图像中每个区域的光流需要参照图像序列中的第二图像确定。该第二图像与第一图像为连续的两帧长曝光图像,或者为连续的两帧短曝光图像。具体的,电子设备可以将第二图像划分为对应的多个区域,第二图像的多个区域与第一图像的多个区域一一对应。电子设备可计算第二图像中的多个区域向第一图像中对应的区域运动的光流,该光流可以(u,v)表示。
需要说明的是,关于光流的具体计算,可以使用稀疏光流(Lucas-kanade)算法,并使用OpenCV中的calcOpticalFlowPyrLK、calcOpticalFlowFarneback、CalcOpticalFlowBM、CalcOpticalFlowHS、calcOpticalFlowSF等函数来实现,本申请对此不作具体限定。
在一种可选的实施方式中,电子设备可按照预设的尺寸[H,W]分别将第一图像和第二图像划分为多个区域。其中,H为每个区域的长,W为每个区域的宽。例如,第一图像和第二图像的分辨率为3840×2160,若预设的尺寸为[160,90],则电子设备可以将第一图像划分为24个区域,以及将第二图像划分为24个区域。需要说明的是,该H、W也可以为其他正整数,在此不做具体限制。特别的,当H和W均为1时,每个像素点即为一个区域,这种情况下,区域的数量为第一图像中像素点的数量。
其中,多个区域的光流可分别为(u1,v1),(u2,v2)……(ui,vi)……(um,vm)。其中,(ui,vi)表示多个区域中第i个区域从第二图像向第一图像运动的光流,m为区域的数量,m为正整数。
如果光流(u,v)中的u和v都接近于0,则表明像素点的运动幅度较小。如果多个区域点中大部分区域的运动幅度都较小,则表明采集图像的过程中,被摄对象与电子设备之间相对运动的幅度较小,从而第一图像的模糊程度也较小,可以认为第一图像不存在运动模糊的情况。反之,如果多个区域中大部分区域的运动幅度都较大,则表明采集图像的过程中,被摄对象与电子设备之间相对运动的幅度较大,从而第一图像的模糊程度也较大,可以认为第一图像存在运动模糊的情况。
在一些实施例中,电子设备可以统计多个光流(u,v)中u和v都接近于0的数量,数量越小,则模糊程度越低;数量越大,则模糊程度越高。其中,电子设备可以u+v、|u|+|v|或者等值来衡量光流(u,v)中u和v是否都接近于0。那么,多个光流(u,v)中,u+v、|u|+|v|或者等值等于或约等于0的数量(记为sum,下文中相同)越多,则模糊程度越低;多个光流(u,v)中,u+v、|u|+|v|或者/>等值等于或约等于0的数量越少,则模糊程度越高。
以模糊程度包括清晰和模糊两种为例,如果sum≥M1,则电子设备确定第一图像比较清晰(即不存在运动模糊);如果sum<M1,则电子设备确定第一图像存在运动模糊。
在确定第一图像存在运动模糊后,为减轻图像的模糊程度,电子设备可以降低采集短曝光图像所采用的曝光时间。具体的,电子设备可以确定曝光时间调整量,并根据该曝光时间调整量,将采集短曝光图像所采用的曝光时间从第一曝光时间降低至目标曝光时间。其中,该第一曝光时间为摄像头最新采集到的一帧短曝光图像所采用的曝光时间。
在一种可选的实施方式中,电子设备可利用自动曝光算法,基于环境亮度调整采集长曝光图像所采用的曝光时间,并基于调整后的采集长曝光图像所采用的曝光时间重新采集得到第一长曝光图像。
在一种可选的实施方式中,在重新采集得到第一长曝光图像和第一短曝光图像后,电子设备仍然可以判断第一短曝光图像或第一长曝光图像中是否存在运动模糊现象。若第一短曝光图像或第一长曝光图像中仍然存在运动模糊现象,电子设备还可以继续降低采集短曝光图像所采用的曝光时间。
可选的,仍然如图8所示,在确定摄像头最新采集到的一帧长曝光图像或最新采集到的一帧短曝光图像中存在运动模糊的情况下,电子设备还可以对该长曝光图像和短曝光图像进行去模糊处理;以及,显示去模糊处理后的图像。
下面将结合附图详细说明电子设备确定曝光时间调整量的具体过程。
在图8提供的图像处理方法的基础上,下面结合图9具体说明电子设备确定曝光时间调整量的过程。如图9所示,该图像处理方法还包括:
S901,按照预设的尺寸分别将第一图像和第二图像划分为多个区域。
S902,根据第一图像的多个区域和第二图像的多个区域,确定第一图像中每个区域的光流。
其中,S901~S902的具体内容参见前文电子设备判断第一图像是否存在运动模糊的相关内容,在此不再赘述。
S903,基于每个区域的光流合并第一图像的多个区域,得到至少一个联通区域的光流。
合并区域主要是合并光流相近、且位置相邻的区域。可以理解地,区域的光流代表该区域内像素点位移的大小和方向。在两个区域的光流相近的情况下,可以认为两个区域内像素点位移的大小和方向相近。
在本实施例中,电子设备可采用深度优先搜索的方法进行相邻区域的合并。其中,对于任意一个区域,合并与所述任意一个区域相邻的且满足合并条件的区域,以得到至少一个联通区域。具体的,电子设备可以先将一个区域作为联通区域,逐个分析它的相邻区域,把满足合并条件的相邻区域合并到该联通区域,构成一个新的联通区域,再分析这个新的联通区域的相邻区域,将满足合并条件的相邻区域合并到该新的联通区域中,重复上述步骤直至没有相邻区域能合并到联通区域为止;然后电子设备再选择一个新的区域作为新的联通区域,重复上述步骤;当没有区域可以作为联通区域时,合并完成。
其中,对于两个相邻的区域,电子设备可以通过比较这两个区域的光流的接近程度决定是否合并这两个区域。以区域Ri和区域Rj为两个相邻的区域,且区域Ri的光流为(ui,vi),区域Rj的光流为(uj,vj)为例,下面说明几种比较两个区域的光流的接近程度的方法。
在一种可选的实施方式中,电子设备可计算光流(ui,vi)的大小L1,光流(ui,vi)与x轴的夹角α1,光流(uj,vj)的大小L2,以及光流(uj,vj)与x轴的夹角α2。其中,
α1=arctan(vi/ui),α2=arctan(vj/uj)
进一步的,电子设备可以预先设置第一阈值S1和第二阈值S2(单位为度)。若|L1-L2|≤S1,且|α1-α2|≤S2,则电子设备可以合并区域Ri和区域Rj。若|L1-L2|>S1,或|α1-α2|大于S2,则电子设备不合并区域Ri和区域Rj。
示例性的,如图10所示,区域A的光流为(1,1),区域B的光流为(1,-1)。则电子可确定光流(1,1)的长度L1为光流(1,-1)的长度L2为/>光流(1,1)与x轴的夹角α1为45°,光流(1,-1)与x轴的夹角α2为135°。以第一阈值S1=1,第二阈值S2=0.5°为例,其中|L1-L2|=0<1,|α1-α2|=90°>0.5°,则可以确定区域A与区域B不能合并。
在另一种可选的实施方式中,电子设备可计算du和dv,并根据du和dv来确定是否合并区域Ri和区域Rj。其中,du和dv满足以下算式:
其中,du是光流在x轴方向的分量之差的绝对值,dv是光流在y轴方向的分量之差的绝对值。在本申请实施例中,可以预先设置两个分割阈值Du和Dv,并在du≤Du和dv≤Dv同时成立时,合并区域Ri和Rj;在du>Du,或dv≤Dv时,不合并区域Ri和区域Rj。
在又一种可选的实施方式中,电子设备可计算两个光流的相似度,在该相似度大于或等于预设阈值时,合并区域Ri和Rj;在该相似度小于预设阈值时,不合并区域Ri和Rj。其中,该相似度可以通过两个光流的余弦值来度量。
联通区域的光流与合成该联通区域的多个区域的光流有关。以联通区域是由n个区域合成,且n个区域的光流为(uk,vk),其中k=1~n,n为正整数为例,可以确定联通区域L的光流为:
例如,如图11所示,第一图像包括R1~R12共12个区域。在合并过程中,电子设备可先以区域R5作为联通区域,其中与区域R5相邻的区域包括:区域R2、区域R4、区域R6以及区域R8。电子设备可根据区域R2的光流(u2,v2)以及区域R5的光流(u5,v5)决定区域R2是否能够与区域R5合并,根据区域R4的光流(u4,v4)以及区域R5的光流(u5,v5)决定区域R4是否能够与区域R5合并,根据区域R6的光流(u6,v6)以及区域R5的光流(u5,v5)决定区域R6是否能够与区域R5合并,根据区域R8的光流(u8,v8)以及区域R5的光流(u5,v5)决定区域R8是否能够与区域R5合并。若确定区域R2、R4不能与区域R5合并,区域R6、R8能够与区域R5合并,则电子设备可合并区域R5、R6、R8,得到联通区域L1。接着,电子设备可确定与联通区域L1相邻的区域包括:区域R2、R3、R4、R7、R9及R11,并判断区域R2、R3、R4、R7、R9及R11是否能够与联通区域L1合并。依次类推,直至没有区域可以合并后,可得到联通区域L2、联通区域L3以及联通区域L4。
其中,联通区域L2是由区域R5、R6、R8、R9、R11及R12合成的,可以确定联通区域L2的光流为:
联通区域L3是由区域R1、R2、R3、R4及R7合成的,可以确定联通区域L3的光流为:
联通区域L4即为原本的区域R10,则联通区域L4的光流为(u10,v10)。
S904,确定至少一个联通区域的光流中的最大光流。
其中,最大光流是指长度最大的光流。
可以理解地,光流最大的区域,其运动模糊的程度最高。因此,以最大光流为基准来降低采集短曝光图像所采用的曝光时间,可以达到减轻模糊程度最高的区域的运动模糊的效果。同时,在运动模糊程度最高的区域的模糊程度得到缓解的情况下,其他运动模糊程度较低的区域的模糊程度必然也可以得到缓解。
在一种可选的实施方式中,在确定最大光流之前,电子设备可剔除所有光流中的离群值。例如,电子设备可以计算各个联通区域的光流的长度的均值μ1与方差σ1,以及与x轴的夹角的均值μ2与方差σ2,并利用3sigma(3σ)原则剔除其中的离群值,然后从中确定最大光流。其中,可以将长度在(μ1-3σ1,μ1+3σ1)之外的光流作为离群值剔除,以及将夹角在(μ2-3σ2,μ2+3σ2)之外的光流作为离群值剔除。可以理解地,通过剔除离群值能够减少明显异常的数据对曝光时间调整过程的干扰。
S905,获取被摄对象的第一深度。
该第一深度为被摄对象与电子设备之间的距离。
在一种可选的实施方式中,电子设备包括飞行时间(time of flight,TOF)摄像头,电子设备可通过该TOF摄像头确定被摄对象相对于电子设备的距离,即被摄对象的第一深度。
S906,基于第一深度、第一焦距及最大光流确定第一速度。
其中,第一焦距是指电子设备利用摄像头拍摄第一图像时所采用的焦距。
该第一速度为被摄对象的运动速度,图12示出了电子设备的成像示意图。如图12所示,被摄对象运动的速度v、深度l、摄像头的焦距f以及图像中被摄对象的光流OF满足算式:
也即,速度v与光流OF的比值,等于深度l与焦距f的比值。
如此,在确定第一深度、第一焦距及最大光流的情况下,可通过上述算式确定第一速度。
S907,基于第一深度、第一焦距、最大光流以及第一速度在预设的第一对应关系表中进行查询,得到第一目标曝光时间。
其中,该第一对应关系表包括多组参数及其对应的理论曝光时间。其中,一组参数包括深度、速度、焦距以及光流。该理论曝光时间是指对应的深度、速度、焦距以及光流的情况下,电子设备获得清晰的短曝光图像理论上所需的曝光时间。在本实施例中,电子设备可以根据速度v、深度l、焦距f以及光流OF所满足的算式预先生成多组参数,并利用多次实验确定在每组参数下获得清晰的短曝光图像所需要的曝光时间,以此得到第一对应关系表。
示例性的,该第一对应关系表可以如表1所示:
表1
深度(m) | 速度(m/s) | 焦距(mm) | 光流 | 理论曝光时间(ms) |
1 | 1 | 12 | 12 | 30 |
1 | 2 | 18 | 36 | 20 |
2 | 2 | 12 | 12 | 38 |
2 | 3 | 18 | 27 | 25 |
4 | 1 | 24 | 6 | 45 |
10 | 1 | 50 | 5 | 50 |
…… | …… | …… | …… | …… |
需要说明的是,表1仅为示例,第一对应关系表还可包括比表1更多或更少的数据,在此不做具体限制。
进一步的,电子设备可以第一深度、第一焦距、最大光流及第一速度作为基础参数,在第一对应关系表中进行查询,得到第一目标曝光时间。
在一种可选的实施方式中,第一对应关系表中包括该基础参数,电子设备可直接将该基础参数对应的理论曝光时间确定为第一目标曝光时间。示例性的,若第一深度为1m,第一速度为2m/s,焦距为18mm且光流的长度为12,可得到第一目标曝光时间为38ms。
在另一种可选的实施方式中,第一对应关系表中不包括该基础参数。这种情况下,电子设备可以确定该基础参数与第一对应关系表中各组参数的相似度,并从中确定与基础参数具有最高相似度的一组参数,进而将与基础参数具有最高相似度的一组参数对应的理论曝光时间作为第一目标曝光时间。
示例性的,以第一对应关系表包括一组参数:第二深度、第二速度、第二焦距以及第二光流为例,说明电子设备确定该组参数与第一深度、第一焦距、最大光流以及第一速度这一组参数的相似度的过程。
电子设备可计算第一深度与第二深度的相似度,得到相似度1(即第一相似度);计算第一焦距和第二焦距的相似度,得到相似度2(即第二相似度);计算第一速度和第二速度的相似度,得到相似度3(即第三相似度);以及计算最大光流和第二光流的相似度(即第四相似度),得到相似度4。然后,将相似度1、相似度2、相似度3以及相似度4相加得到两组参数之间的相似度。可选的,相似度1、相似度2、相似度3以及相似度4具有不同的权重,可叠加各相似度与对应权重的乘积,以得到两组参数之间的相似度。
在一种可选的实施方式中,两个参数(例如深度、速度、焦距或光流)的相似度可以通过两个参数的差值来衡量。例如,电子设备可预先给差值设置多个阈值区间,每个阈值区间对应不同的相似度,且相似度与差值呈负相关,即差值越大相似度越低;差值越低则相似度越大。需要注意的是,不同类型的参数可具有不同的阈值区间。
示例性的,电子设备可以计算第一深度和第二深度的第一差值,并判断该差值所在阈值区间,并将该阈值区间所对应的相似度作为相似度1。又例如,电子设备可以计算第一焦距和第二焦距的第二差值,并判断该第二差值所在阈值区间,并将该阈值区间所对应的相似度作为相似度2。又例如,电子设备可以计算第一速度和第二速度的第三差值,并判断该第三差值所在阈值区间,并将该阈值区间所对应的相似度作为相似度3。又例如,电子设备可以计算最大光流和第二光流的第四差值,并判断该第四差值所在阈值区间,并将该阈值区间所对应的相似度作为相似度4。
S908,查询预设的曝光比查询表,确定最大曝光比。
该预设的曝光比查询表中包含电子设备处于不同场景亮度,以及不同ISO增益下可采用的曝光比。该曝光比是指短曝光图像的曝光时间与长曝光图像的曝光时间的比。需要说明的是,该曝光比查询表是工作人员预先根据多次实验得到,其指示电子设备利用摄像头以曝光比查询表中的曝光比采集图像时,采集到的图像通常具有良好的质量,例如信噪比和清晰度比较平衡。
示例性的,该预设的曝光比查询表可以如表2所示:
表2
曝光比 | ISO增益 | 场景亮度(LUX) |
1:4 | 100 | 2000 |
1:5 | 260 | 3000 |
1:10 | 640 | 5000 |
例如,根据表2可确定,最大曝光比为1:10。当然,该曝光比查询表也可包括比表2更多或更少的数据,在此不做具体限制。
可以理解地,本申请的目的在于缓解被摄对象与电子设备之间的相对运动造成的运动模糊。且根据图6及其对应的文字内容可以得知,拍摄一帧图像的曝光时间越短,则拍摄这一帧图像的过程中被摄对象的位移越小,即运动模糊越少。因此,本实施例可以从曝光比查询表中查询得到最大曝光比,以确定在当前的长曝光图像的曝光时间一定,根据该曝光比查询表调整短曝光图像的曝光时间的情况下,短曝光图像所能支持的最小曝光时间。
S909,根据最新一帧长曝光图像的曝光时间及最大曝光比得到第二目标曝光时间。
该第二目标曝光时间即为根据曝光比查询表调整短曝光图像的曝光时间的情况下,短曝光图像的最小曝光时间。
示例性的,以最新一帧长曝光图像的曝光时间为第二曝光时间为例,电子设备可直接将该第二曝光时间除以最大曝光比即可得到第二目标曝光时间。例如,若第二曝光时间为70ms,最大曝光比为1:10,则该第二目标曝光时间为7ms。
S910,将第一目标曝光时间及第二目标曝光时间中的较小值作为目标曝光时间。可以理解地,该第一目标曝光时间是指要获得清晰的短曝光图像所需的曝光时间,该第二目标曝光时间是指在保证短曝光图像的信噪比与清晰度比较均衡的情况下,所需的曝光时间。而本申请的目的在于获得清晰的短曝光图像,因此将第一目标曝光时间及第二目标曝光时间中的较小值作为目标曝光时间。如此,在第一目标曝光时间小于第二目标曝光时间的情况下,将第一目标曝光时间确定为目标曝光时间,可以确保下一帧短曝光图像的清晰度;在第二目标曝光时间小于第二目标曝光时间的情况下,将第二目标曝光时间确定为目标曝光时间,既能保证下一帧短曝光图像的清晰度,又能使其信噪比与清晰度比较均衡。也即,将第一目标曝光时间及第二目标曝光时间中的较小值作为目标曝光时间,可以在保证下一帧短曝光图像的清晰度的同时,尽可能增大其信噪比。
S911,根据最新一帧短曝光图像的曝光时间及该目标曝光时间得到曝光时间调整量。
也就是说,在第一目标曝光时间小于第二目标曝光时间的情况下,曝光时间调整量为第一曝光时间与第一目标曝光时间的差值;在第一目标曝光时间大于第二目标曝光时间的情况下,曝光时间调整量为第一曝光时间与第二目标曝光时间的差值。
前文已经说明,摄像头最新采集到的一帧短曝光图像的曝光时间为第一曝光时间,电子设备将第一曝光时间与目标曝光时间的差值作为该曝光时间调整量。如此,电子设备可基于该曝光时间调整量将短曝光图像的曝光时间从第一曝光时间调整至目标曝光时间。
在一种可选的实施方式中,电子设备也可以不执行S908~S910,而是直接将第一目标曝光时间作为目标曝光时间,并根据第一曝光时间及该第一目标曝光时间得到曝光时间调整量。这样也能有效保证下一短曝光图像的清晰度。
如图13所示,示出了相关技术中降低曝光时间得到的图像以及本申请降低采集短曝光图像所采用的曝光时间后得到的图像。如图13中的(a)所示,对于不交替采集长曝光图像和短曝光图像的采集方式,直接降低采集图像所采用的曝光时间,会导致摄像头所采集的图像具有较多噪点,即信噪比降低。如图13中的(b)所示,对于交替采集长曝光图像和短曝光图像的采集方式,通过降低采集长曝光图像所采用的曝光时间,会导致摄像头所采集的长曝光图像具有较多噪点,但拥有较高的清晰度;但由于短曝光图像中仍然具有较多噪点,使得融合得到的图像虽然具有较高的清晰度,但信噪比交底(噪点较多)。如图13中的(c)所示,对于交替采集长曝光图像和短曝光图像的采集方式,通过降低采集短曝光图像所采用的曝光时间,虽然会使得采集得到的短曝光图像具有较多噪点,但该短曝光图像中可具备清晰的图像(即不存在运动模糊);但由于该长曝光图像中的噪点较少,信噪比较高,通过融合具有高信噪比的长曝光图像和比较清晰的短曝光图像,可以得到清晰且信噪比高的融合图像。
综上所述,本申请通过降低采集短曝光图像所采用的曝光时间,使得短曝光图像具有较高的清晰度。如此可以在不损失长曝光图像的信噪比的情况下,得到信噪比高且清晰度高的融合图像。
本申请实施例还提供了一种电子设备,该电子设备可以包括:存储器和一个或多个处理器。存储器和处理器耦合。该存储器用于存储计算机程序代码,该计算机程序代码包括计算机指令。当处理器执行计算机指令时,电子设备可执行上述方法实施例中手机执行的各个功能或者步骤。
本申请实施例还提供一种芯片***,如图14所示,该芯片***1400包括至少一个处理器1401和至少一个接口电路1402。处理器1401和接口电路1402可通过线路互联。例如,接口电路1402可用于从其它装置(例如电子设备的存储器)接收信号。又例如,接口电路1402可用于向其它装置(例如处理器1401)发送信号。示例性的,接口电路1402可读取存储器中存储的指令,并将该指令发送给处理器1401。当所述指令被处理器1401执行时,可使得电子设备或者服务器执行上述实施例中的各个步骤。当然,该芯片***还可以包含其他分立器件,本申请实施例对此不作具体限定。
本实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机指令,当该计算机指令在电子设备上运行时,使得电子设备或者服务器执行上述方法实施例中的各个功能或者步骤。
本实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述方法实施例中的各个功能或者步骤。
另外,本申请的实施例还提供一种装置,这个装置具体可以是芯片,组件或模块,该装置可包括相连的处理器和存储器;其中,存储器用于存储计算机执行指令,当装置运行时,处理器可执行存储器存储的计算机执行指令,以使芯片执行上述方法实施例中手机执行的各个功能或者步骤。
其中,本实施例提供的电子设备、通信***、计算机可读存储介质、计算机程序产品或芯片均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,该模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
该作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是,以上实施例仅用以说明本申请的技术方案而非限制,尽管参照较佳实施例对本申请进行了详细说明,本领域的普通技术人员应当理解,可以对本申请的技术方案进行修改或等同替换,而不脱离本申请技术方案的精神和范围。
Claims (14)
1.一种图像处理方法,其特征在于,应用于电子设备,所述电子设备包括摄像头,所述方法包括:
响应于用户开启所述摄像头的操作,利用所述摄像头采集图像序列,所述图像序列包括交替的长曝光图像和短曝光图像,所述短曝光图像的曝光时间小于所述长曝光图像的曝光时间;
在确定所述摄像头采集的第一图像中存在运动模糊的情况下,降低采集短曝光图像所采用的曝光时间,所述第一图像为所述摄像头最新采集到的一帧长曝光图像或最新采集到的一帧短曝光图像;
基于降低后的采集短曝光图像所采用的曝光时间采集得到第一短曝光图像;
采集得到第一长曝光图像;
对所述第一短曝光图像和所述第一长曝光图像进行融合处理,得到融合图像;
显示所述融合图像。
2.根据权利要求1所述的方法,其特征在于,所述降低采集短曝光图像所采用的曝光时间,包括:
确定曝光时间调整量;
根据所述曝光时间调整量,将采集短曝光图像所采用的曝光时间从第一曝光时间降低至目标曝光时间,所述第一曝光时间为所述摄像头最新采集到的一帧短曝光图像所采用的曝光时间。
3.根据权利要求2所述的方法,其特征在于,所述图像序列还包括第二图像,所述第二图像与所述第一图像为连续的两帧长曝光图像,或者为连续的两帧短曝光图像,所述确定曝光时间调整量,包括:
根据所述第一图像、所述第二图像,确定所述第一图像中至少一个联通区域的光流;
根据第一深度、第一焦距及所述至少一个联通区域的光流中的最大光流确定第一速度;其中,所述第一深度为被摄对象与所述电子设备之间的距离,所述第一速度为所述被摄对象的运动速度,所述第一焦距为所述第一图像对应的焦距;
以所述第一深度、所述第一焦距、所述第一速度以及所述最大光流为基准参数在预设的第一对应关系表中进行查询,得到第一目标曝光时间;其中,所述预设的第一对应关系表包括多组参数及其对应的理论曝光时间,每组所述参数包括距离、焦距、光流以及速度,所述第一目标曝光时间是所述电子设备在所述第一深度、第一焦距、所述第一速度及所述最大光流的情况下获得清晰的短曝光图像所需要的曝光时间;
将所述第一曝光时间与所述第一目标曝光时间的差值确定为所述曝光时间调整量。
4.根据权利要求3所述的方法,其特征在于,所述确定曝光时间调整量,还包括:
查询预设的曝光比查询表,确定最大曝光比;其中,所述预设的曝光比查询表包括所述电子设备在不同场景下可采用的曝光比,所述曝光比为短曝光图像的曝光时间与长曝光图像的曝光时间的比值;
根据第二曝光时间及所述最大曝光比确定第二目标曝光时间,所述第二曝光时间为所述摄像头最新采集到的一帧长曝光图像所采用的曝光时间,所述第二目标曝光时间为所述电子设备按照曝光比调整采集短曝光图像所采用的曝光时间的情况下,采集短曝光图像所采用的最小曝光时间;
所述将所述第一曝光时间与所述第一目标曝光时间的差值确定为所述曝光时间调整量,包括:
在所述第一目标曝光时间小于所述第二目标曝光时间的情况下,将所述第一曝光时间与所述第一目标曝光时间的差值确定为所述曝光时间调整量。
5.根据权利要求4所述的方法,其特征在于,所述确定曝光时间调整量,还包括:
在所述第一目标曝光时间大于所述第二目标曝光时间的情况下,将所述第一曝光时间与所述第二目标曝光时间的差值确定为所述曝光时间调整量。
6.根据权利要求3-5中任意一项所述的方法,其特征在于,第一比值与第二比值相等,所述第一比值为所述第一深度与所述第一焦距的比值,所述第二比值为所述第一深度和所述最大光流的比值。
7.根据权利要求3-5中任意一项所述的方法,其特征在于,所述以所述第一深度、所述第一焦距、所述第一速度以及所述最大光流为基准参数在预设的第一对应关系表中进行查询,得到第一目标曝光时间,包括:
以所述第一深度、所述第一焦距、所述第一速度以及所述最大光流为基准参数在预设的第一对应关系表中进行查询,若所述预设的第一对应关系表中存在所述基准参数,则将所述基准参数对应的理论曝光时间确定为所述第一目标曝光时间。
8.根据权利要求7所述的方法,其特征在于,所述以所述第一深度、所述第一焦距、所述第一速度以及所述最大光流为基准参数在预设的第一对应关系表中进行查询,得到第一目标曝光时间,还包括:
若所述预设的第一对应关系表中不存在所述基准参数,分别计算所述第一对应关系表中多组参数与所述基准参数的相似度;
将所述第一对应关系表中与所述基准参数具有最高相似度的一组参数对应的理论曝光时间,确定为所述第一目标曝光时间。
9.根据权利要求8所述的方法,其特征在于,所述分别计算所述第一对应关系表中多组参数与所述基准参数的相似度,包括:
针对任意一组参数,所述任意一组参数包括第二深度、第二焦距、第二速度以及第二光流;
确定所述第二深度与所述第一深度的第一差值,根据所述第一差值确定第一相似度,所述第一相似度与所述第一差值呈负相关;
确定所述第二焦距与所述第一焦距的第二差值,根据所述第二差值确定第二相似度,所述第二相似度与所述第二差值呈负相关;
确定所述第二速度与所述第一速度的第三差值,根据所述第三差值确定第三相似度,所述第三相似度与所述第三差值呈负相关;
确定所述第二光流与所述最大光流的第四差值,根据所述第四差值确定第四相似度,所述第四相似度与所述第四差值呈负相关;
将所述第一相似度、所述第二相似度、所述第三相似度和所述第四相似度的和作为所述任意一组参数与所述基准参数的相似度。
10.根据权利要求3-5中任意一项所述的方法,其特征在于,所述根据所述第一图像、所述第二图像,确定所述第一图像中至少一个联通区域的光流,包括:
分别将所述第一图像、所述第二图像划分为多个区域;
根据所述第二图像的多个区域和所述第一图像的多个区域,确定所述第一图像中每个所述区域的光流;
基于每个所述区域的光流合并所述第一图像的多个区域,得到所述至少一个联通区域的光流。
11.根据权利要求10所述的方法,其特征在于,所述基于每个所述区域的光流合并所述第一图像的多个区域,得到至少一个联通区域的光流,包括:
对于任意一个区域,合并与所述任意一个区域相邻的且满足合并条件的区域,以得到至少一个联通区域;
对于任意一个联通区域,根据合成所述任意一个联通区域的多个区域的光流确定所述任意一个联通区域的光流。
12.根据权利要求11所述的方法,其特征在于,所述满足合并条件包括:
区域Ri的光流与区域Rj的满足|L1-L2|≤S1,且|α1-α2|≤S2;其中,L1为区域Ri的光流的长度,α1为区域Ri的光流与x轴的夹角,L2为区域Rj的光流的长度,α2为区域Rj的光流与x轴的夹角,x轴为所述第一图像的上边所在的直线,S1为预设的第一阈值,S2为预设的第二阈值。
13.一种电子设备,其特征在于,所述电子设备包括:存储器和处理器;所述处理器与所述存储器耦合;其中,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述计算机指令被所述处理器执行时,使得所述电子设备执行如权利要求1-12中任一项所述的方法。
14.一种计算机可读存储介质,其特征在于,包括计算机指令;当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1-12中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310151718.XA CN117135455A (zh) | 2023-02-14 | 2023-02-14 | 一种图像处理方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310151718.XA CN117135455A (zh) | 2023-02-14 | 2023-02-14 | 一种图像处理方法及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117135455A true CN117135455A (zh) | 2023-11-28 |
Family
ID=88857037
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310151718.XA Pending CN117135455A (zh) | 2023-02-14 | 2023-02-14 | 一种图像处理方法及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117135455A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080253758A1 (en) * | 2007-04-13 | 2008-10-16 | Choon Hwee Yap | Image processing method |
US20150348242A1 (en) * | 2014-05-30 | 2015-12-03 | Apple Inc. | Scene Motion Correction In Fused Image Systems |
CN106254782A (zh) * | 2016-09-28 | 2016-12-21 | 北京旷视科技有限公司 | 图像处理方法及装置和相机 |
CN109167931A (zh) * | 2018-10-23 | 2019-01-08 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
-
2023
- 2023-02-14 CN CN202310151718.XA patent/CN117135455A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080253758A1 (en) * | 2007-04-13 | 2008-10-16 | Choon Hwee Yap | Image processing method |
US20150348242A1 (en) * | 2014-05-30 | 2015-12-03 | Apple Inc. | Scene Motion Correction In Fused Image Systems |
CN106254782A (zh) * | 2016-09-28 | 2016-12-21 | 北京旷视科技有限公司 | 图像处理方法及装置和相机 |
CN109167931A (zh) * | 2018-10-23 | 2019-01-08 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109671106B (zh) | 一种图像处理方法、装置与设备 | |
CN104205804B (zh) | 图像处理装置、拍摄装置以及图像处理方法 | |
CN113810598B (zh) | 一种拍照方法、电子设备及存储介质 | |
CN116582741B (zh) | 一种拍摄方法及设备 | |
CN111953899B (zh) | 图像生成方法、图像生成装置、存储介质与电子设备 | |
CN113850726A (zh) | 图像变换方法和装置 | |
CN113747058B (zh) | 基于多摄像头的图像内容屏蔽方法和装置 | |
CN116055844B (zh) | 一种跟踪对焦方法、电子设备和计算机可读存储介质 | |
WO2021032117A1 (zh) | 一种拍摄方法及电子设备 | |
CN111835973A (zh) | 拍摄方法、拍摄装置、存储介质与移动终端 | |
CN113810590A (zh) | 图像处理方法、电子设备、介质和*** | |
CN113711123B (zh) | 一种对焦方法、装置及电子设备 | |
CN113850709A (zh) | 图像变换方法和装置 | |
CN115150542B (zh) | 一种视频防抖方法及相关设备 | |
CN112037157B (zh) | 数据处理方法及装置、计算机可读介质及电子设备 | |
CN114143471B (zh) | 图像处理方法、***、移动终端及计算机可读存储介质 | |
CN114979458B (zh) | 一种图像的拍摄方法及电子设备 | |
CN117135455A (zh) | 一种图像处理方法及电子设备 | |
CN115484383B (zh) | 拍摄方法及相关装置 | |
CN113486714B (zh) | 一种图像的处理方法及电子设备 | |
CN111294905B (zh) | 图像处理方法、图像处理装置、存储介质与电子设备 | |
CN113709353B (zh) | 图像采集方法和设备 | |
WO2024093854A1 (zh) | 一种图像处理方法及电子设备 | |
WO2024078032A1 (zh) | 信号处理方法、装置、设备、存储介质及计算机程序 | |
CN116703701B (zh) | 一种图片裁剪方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |