CN117714835A - 一种图像处理方法、电子设备及可读存储介质 - Google Patents
一种图像处理方法、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN117714835A CN117714835A CN202310970674.3A CN202310970674A CN117714835A CN 117714835 A CN117714835 A CN 117714835A CN 202310970674 A CN202310970674 A CN 202310970674A CN 117714835 A CN117714835 A CN 117714835A
- Authority
- CN
- China
- Prior art keywords
- image
- frame
- exposure
- image frame
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 15
- 238000000034 method Methods 0.000 claims abstract description 83
- 230000008569 process Effects 0.000 claims abstract description 26
- 230000006870 function Effects 0.000 claims description 53
- 230000015654 memory Effects 0.000 claims description 29
- 230000035945 sensitivity Effects 0.000 claims description 20
- 238000012545 processing Methods 0.000 abstract description 33
- 230000000694 effects Effects 0.000 abstract description 26
- 238000003384 imaging method Methods 0.000 abstract description 15
- 230000004044 response Effects 0.000 abstract description 15
- 230000001976 improved effect Effects 0.000 abstract description 5
- 238000004891 communication Methods 0.000 description 38
- 230000006854 communication Effects 0.000 description 38
- 238000007726 management method Methods 0.000 description 29
- 238000005538 encapsulation Methods 0.000 description 13
- 230000005236 sound signal Effects 0.000 description 13
- 238000010295 mobile communication Methods 0.000 description 12
- 238000004422 calculation algorithm Methods 0.000 description 10
- 210000000988 bone and bone Anatomy 0.000 description 9
- 238000004590 computer program Methods 0.000 description 9
- 238000003825 pressing Methods 0.000 description 9
- 238000001514 detection method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000009471 action Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000008447 perception Effects 0.000 description 5
- 206010070834 Sensitisation Diseases 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000008313 sensitization Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000003416 augmentation Effects 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000002096 quantum dot Substances 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 230000004304 visual acuity Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 239000010985 leather Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000002138 osteoinductive effect Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000008093 supporting effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Landscapes
- Studio Devices (AREA)
Abstract
本申请公开了一种图像处理方法、电子设备及可读存储介质,涉及图像处理技术领域,该方法中在电子设备的拍摄功能的HDR模式已被开启的情况下,电子设备检测到请求电子设备进行拍摄的拍摄指令,响应于拍摄指令,电子设备从预览过程中缓存的多帧原始图像帧中确定第一图像帧;并根据第一图像帧确定第一曝光序列,电子设备根据第一曝光序列依次获取多帧第二图像帧,根据多帧第二图像帧与第一图像帧生成HDR图像。基于上述技术方案,在不稳定场景下拍摄HDR图像时,多帧第二图像帧和第一图像帧的曝光量的差距较小,由此,使用多帧第二图像帧和第一图像帧生成HDR图像时,能够得到较好的HDR成像效果,提高拍摄稳定性。
Description
技术领域
本申请涉及图像处理技术领域,特别涉及一种图像处理方法、电子设备及可读存储介质。
背景技术
目前,用户对电子设备的拍照效果要求越来越高,随之出现各种提升图像质量的技术,例如高动态范围成像(high dynamic range,HDR)。高动态范围成像通常对同一场景采用不同的曝光量获取多张图像,然后将这些不同曝光量的图像合成为一张HDR图像,例如,拍摄景物时,景物环境明暗差距较大,拍摄的图像容易太亮或太暗导致看不清细节,通过HDR拍摄可以获得具有更多细节的图像。
但是,基于现有方法合成HDR图像时,在电子设备出现抖动或者拍摄场景内有人物和物体移动等不稳定的情况下,HDR的成像效果较差。
发明内容
本申请提供了一种图像处理方法、电子设备及可读存储介质,在电子设备出现抖动或者拍摄场景内有人物和物体移动等情况下,能够提高HDR的成像效果。所述技术方案如下:
第一方面,本申请实施例提供了一种图像处理方法,应用于电子设备,该方法包括:在电子设备的拍摄功能的高动态范围HDR模式已被开启的情况下,电子设备检测到请求电子设备进行拍摄的拍摄指令,响应于拍摄指令,电子设备从预览过程中缓存的多帧原始图像帧中确定第一图像帧;根据第一图像帧确定第一曝光序列,电子设备根据第一曝光序列依次获取多帧第二图像帧,根据多帧第二图像帧与第一图像帧生成高动态范围图像。其中,第一曝光序列包括多组曝光参数,多组曝光参数中至少两组曝光参数的取值不同,第二图像帧与多组曝光参数对应。
基于上述技术方案,在根据第一图像帧与多帧第二图像帧生成HDR图像时,由于多帧第二图像帧是根据第一曝光序列生成的,第一曝光序列中的曝光参数用于确定第二图像帧的曝光量,而第一曝光序列是根据第一图像帧确定的,即,在确定第一曝光序列时与在结合多帧第二图像帧生成HDR图像时使用的是同一图像帧(即,第一图像帧),因此,多帧第二图像帧的曝光量与第一图像帧的曝光量的差距较小。
相比于在确定第一曝光序列时与在结合多帧第二图像帧生成HDR图像时使用的是不同图像帧的情况,例如,计算第一曝光序列时使用第一图像帧,而生成HDR图像时使用多帧第二图像帧和其他图像帧,第一图像帧和其他图像帧的曝光量在不稳定情况下的差距可能较大,本申请均使用第一图像帧,因此不受不稳定情况的影响,能够避免后续在生成HDR图像的过程中,由于多帧第二图像帧和其他图像帧的曝光量差距过大,导致丢弃多帧第二图像帧中的部分图像帧,即没有使用所有第二图像帧生成HDR图像,导致HDR的成像效果较差的问题,而且,本申请实施例提供的方法能够在各种不稳定的情况下呈现较好的HDR的成像效果,提高拍摄稳定性。
其中,预览过程中获取的多帧原始图像帧可以按照时间序列缓存在一个队列中。该队列可以缓存预设数量的图像帧,例如可同时存储至多8个图像帧。缓存时还可以存储每帧原始图像的拍摄数据,拍摄数据可以包括角速度,时间戳,曝光参数等等。曝光参数可以包括曝光时间、感光度、光圈系数等。其中,时间戳指的是获取到原始图像帧的时刻。
电子设备可以根据第一图像帧的拍摄数据确定第一曝光序列。应理解,第一曝光序列包括多组曝光参数,一组曝光参数中的参数可以包括曝光时间、感光度、光圈系数等,多组曝光参数中至少两组曝光参数的取值不同,例如曝光时间的取值不同,感光度的取值不同,或者每个参数的取值均不同。
结合上述第一方面和上述实现方式,第一图像帧为中曝光图像帧,第一曝光序列中包括长曝光图像帧、中曝光图像帧、短曝光图像帧中的至少两种对应的曝光参数,其中,长曝光图像帧的曝光时间大于中曝光图像帧的曝光时间,中曝光图像帧的曝光时间大于短曝光图像帧的曝光时间。也就是说,多帧第二图像帧中包括长曝光图像帧、中曝光图像帧、短曝光图像帧中的至少两种,且多帧第二图像帧需要按照确定的出帧顺序依次输出。
应理解,针对不同的拍摄场景,如白天和夜景,第一曝光序列中的长短帧、出帧顺序、曝光参数可能是不同的。例如在某一拍照场景下,需要输出的多帧第二图像帧依次为一帧长曝光图像帧、一帧中曝光图像帧、一帧短曝光图像帧,在另一个拍照场景下,需要输出的多帧第二图像帧依次为一帧短曝光图像帧、一帧中曝光图像帧、两帧短曝光图像帧、一帧长曝光图像帧。
结合上述第一方面,在一些实现方式中,电子设备可以根据从预览过程中缓存的多帧原始图像帧中的第三图像帧,确定第二曝光序列;根据第二曝光序列和多帧原始图像帧对应的拍摄数据,从多帧原始图像帧中确定第一图像帧,第一图像帧对应的时间戳早于第三图像帧对应的时间戳。
结合上述第一方面和上述实现方式,在一些实现方式中,第三图像帧可以是检测到拍摄指令时对应的多帧原始图像帧中的最后一帧。
结合上述第一方面,在一些实现方式中,电子设备可以根据检测到拍摄指令的时刻,从多帧原始图像帧中确定第一图像帧。
上述实现方式中,选取的第一图像帧的选择更接近用户发出拍摄指令的时间输出的原始图像帧作为第一图像帧,用以生成HDR图像,能够达到所见即所得的效果,提升用户体验。
结合上述第一方面和上述实现方式,在一些实现方式中,曝光参数包括曝光时间和感光度中的至少一个。
结合上述第一方面和上述实现方式,在一些实现方式中,拍摄指令可以是用户对拍摄控件的点击操作,还可以是语音指令,或者手势指令等。
当拍摄指令是用户对拍摄控件的点击操作时,可以将“点击拍摄控件”这一动作细分为按下和抬起两个阶段。在一种实现方式中,在检测到用户按下电子设备中拍摄功能的拍摄控件的操作时,即可下发拍摄指令,并进行后续流程,在“点击拍摄控件”这一动作按下和抬起的过程中进行选帧、计算曝光序列、输出第二图像帧等流程,在抬起阶段,图像传感器可能已经输出第二图像帧,这样,能够减少等待处理时间,提升拍摄响应速度。
第二方面,本申请实施例提供一种电子设备,包括:一个或多个处理器;一个或多个存储器;存储器存储有一个或多个程序,当一个或者多个程序被处理器执行时,使得电子设备执行上述第一方面任一项可能的方法。
第三方面,本申请实施例提供了一种装置,该装置包含在电子设备中,该装置具有实现上述各方面及上述各方面的可能实现方式中电子设备行为的功能。功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。硬件或软件包括一个或多个与上述功能相对应的模块或单元。例如,显示模块或单元、检测模块或单元、处理模块或单元等。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述第一方面所述的方法。
第五方面,本申请实施例提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述第一方面所述的方法。
上述第二方面、第三方面、第四方面和第五方面所获得的技术效果与上述第一方面中对应的技术手段获得的技术效果近似,在这里不再赘述。
附图说明
图1示出了本申请实施例提供的一例应用场景示意图;
图2示出了本申请实施例提供的一例电子设备的结构示意图;
图3示出了本申请实施例提供的一例软件结构框图;
图4示出了本申请实施例提供的一例基于软件结构的流程示意图;
图5示出了本申请实施例提供的一例图像处理方法的流程示意图;
图6示出了本申请实施例提供的一例缓存队列的结构示意图;
图7示出了本申请实施例提供的又一例图像处理方法的流程示意图;
图8示出了本申请实施例提供的一例装置示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请的实施方式作进一步地详细描述。以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
首先,对本申请实施例中的部分用语进行解释说明,以便于本领域技术人员理解。
1、曝光量(Exposure Value,简称EV)
曝光量指的是相机感受到光亮的强弱及时间的长短。当通过相机拍摄时,由于受到动态范围的限制,曝光量可能过高或者过低,会直接导致被拍摄对象和背景发生曝光过度或者曝光不足。如果曝光过度,那么拍摄的图像会太亮,无法体现亮部细节;如果曝光不足,那么拍摄的图像会偏暗,无法体现暗部细节。
曝光参数包括光圈、曝光时间和感光度。其中,通过控制快门速度,可以调整曝光时间。快门速度越快,曝光时间越短,曝光量就越少;相反,快门速度越慢,曝光时间越长,曝光量就越多,图像亮度增加。
其中,光圈越大(数值越小),如F2.8,曝光量越多,图像亮度增加。光圈越小(数值越大),如F16,曝光量减少,图像亮度降低。
其中,感光度用于衡量感光元器件对于光线的敏感程度。具体地,感光度越高,对光线的解析能力越强,感应到的光线越多,图像亮度增加;相反,感光度越低,对光线的解析能力越弱,感应到的光线就越少,图像亮度降低。感光度常用ISO感光值表示,ISO感光值可以分为若干个档位,例如50、100、200、400、800、1600、3200、……。ISO感光值越高,说明感光元器件的感光能力越强。
在实际应用时,可以通过控制光圈、曝光时间和感光度等参数,控制拍摄时的曝光量,从而可以控制拍摄效果,通过合理调整曝光参数,可以使得生成的图像色彩更鲜明、对比度更高、图像细节更清晰。
2、长帧图像、中帧图像和短帧图像
在本申请实施例中,为了便于描述,将曝光时间长的图像帧称为长帧图像或者长曝光图像帧,记为L帧。将曝光时间短的图像帧称为短帧图像或者短曝光图像帧,记为S帧。将介于长帧图像和短帧图像的曝光时间之间的图像帧称为中帧图像或者中曝光图像帧,记为N帧。长帧图像的曝光时间大于中帧图像的曝光时间,中帧图像的曝光时间大于短帧图像的曝光时间。需要说明的是,这里曝光时间的长短是相对而言的,具体曝光时间的取值可以根据实际使用需求确定,本申请实施例不作限定。
3、高动态范围(High-Dynamic Range,简称HDR)
高动态范围是一种通过连续的多帧、不同曝光量的图像合成具有高动态范围的图像的技术。相对于普通图像而言,高动态范围图像的亮部不过曝,暗部细节清晰可见,能够提供更多的动态范围和图像细节。
以上是对本申请实施例所涉及术语的简单介绍,以下不再赘述。
电子设备的拍摄功能中可以提供HDR模式或者功能。图1示出了本申请实施例中在相机应用中开启HDR模式的界面示意图。如图1中(a)所示,电子设备上安装有相机应用。示例性的,响应于用户对相机应用的点击操作,电子设备运行相机应用,显示如图1中的(b)所示的拍摄界面。该拍摄界面包括有多个选项,用于提供给用户以选择不同的拍摄模式。例如,大光圈模式、夜景模式、人像模式、拍照模式、录像模式、专业模式、更多等。
用户点击“更多”选项可以显示如图1中的(c)所示的对应的菜单栏,菜单栏中显示有HDR控件11,响应于用户在HDR控件11上的触发操作,电子设备启用HDR模式。如图1中(d)所示,在电子设备启用HDR模式之后,拍摄界面中显示有HDR标识12,提示用户当前相机已开启HDR模式。拍摄界面中还包括拍摄按钮20和预览窗口30,预览窗口可以显示预览图像。在HDR模式下,响应于用户对拍摄按钮20的触发操作(拍摄指令的一种示例),相机可以向图像传感器下发拍摄指令,进而图像传感器输出不同曝光量的图像帧,电子设备根据不同曝光量的图像帧生成HDR图像。
电子设备在预览过程中可以将图像传感器(sensor)输出的原始图像帧缓存在一个缓存队列中,该缓存队列可以缓存多帧原始图像帧。从应用接收到用户的拍摄指令到电子设备的处理模块接收到拍摄指令期间,sensor输出的图像帧都可以缓存在缓存队列中。
在一种实现方式中,响应于用户的拍摄指令,电子设备可以根据收到拍摄指令时缓存队列中的最后一帧图像(记为原始图像帧z,如图6所示的第7帧图像),根据原始图像帧z确定曝光序列;并且从缓存队列中选择出图像质量较好的一帧图像帧(记为原始图像帧y,如图6所示的第2帧图像)。相机应用将曝光序列下发至图像传感器,图像传感器根据曝光序列输出多帧原始图像帧m,电子设备根据原始图像帧y和多帧原始图像帧m生成HDR图像。
上述实现方式中,在确定曝光序列时与在结合多帧第二图像帧生成HDR图像时使用的是不同的图像帧。由于计算原始图像帧m的曝光序列时使用的是原始图像帧z,因此多帧原始图像帧m的曝光量和原始图像帧z的曝光量的差距较小,而原始图像帧z和原始图像帧y有可能不是一帧,在运动场景或者电子设备抖动、晃动较大的场景以及有物体、人物移动等不稳定场景下,原始图像帧z和原始图像帧y的曝光量可能差距过大,因此,多帧原始图像帧m的曝光量和原始图像帧y的曝光量可能差距过大,例如,多帧原始图像帧m中的中帧图像的曝光量和原始图像帧y的曝光量的差距过大。而曝光量差距过大不符合后续校验要求,与原始图像帧y的曝光量的差距过大的原始图像帧m将被丢弃,这会导致后续生成HDR图像时使用的是部分原始图像帧m,即没有使用所有第二图像帧生成HDR图像,导致多帧原始图像帧m和原始图像帧y无法完整融合,导致HDR的成像效果较差,例如,丢失HDR效果,图像曝光过度,图像有噪声等。
有鉴于此,本申请实施例提供一种图像处理方法,在HDR模式下,响应于拍摄指令,电子设备可以从缓存队列中选择第一图像帧,根据第一图像帧确定第一曝光序列,并将第一曝光序列下发至图像传感器,图像传感器根据第一曝光序列依次输出多帧第二图像帧,进而,电子设备根据第一图像帧和第二图像帧生成HDR图像。
本申请实施例的方法,在不稳定场景下,根据第一图像帧与多帧第二图像帧生成HDR图像时,由于多帧第二图像帧是根据第一曝光序列生成的,而第一曝光序列是根据第一图像帧确定的,因此,多帧第二图像帧的曝光量与第一图像帧的曝光量的差距较小,即,在确定第一曝光序列时与在结合多帧第二图像帧生成HDR图像时使用的是同一图像帧(即,第一图像帧),不受不稳定情况的影响。相比于在确定第一曝光序列时与在结合多帧第二图像帧生成HDR图像时使用的是不同图像帧的情况,能够避免由于多帧第二图像帧和其他图像帧的曝光量差距过大,丢弃多帧第二图像帧中的部分图像帧,即没有使用所有第二图像帧生成HDR图像,导致HDR成像效果较差的问题,能够使得多帧第二图像帧和第一图像帧更好的融合,从而HDR的成像效果较好。而且,本申请实施例提供的方法能够在各种不稳定的场景下都能够使得HDR的成像效果较好,提高拍摄稳定性。
本申请实施例提供的图像处理方法可以适用于各种具备拍摄功能且拍摄功能中提供HDR模式的电子设备。拍摄功能可以拍摄照片,也可以拍摄视频。电子设备可以是但不限于手机、平板电脑、桌面型、膝上型、手持计算机、笔记本电脑、车载设备、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、蜂窝电话、个人数字助理(personal digital assistant,PDA)、增强现实(augmented reality,AR)\虚拟现实(virtual reality,VR)设备等,本申请实施例对此不作限定。
下面将结合附图对本申请实施例提供的实施方式进行详细描述。示例性的,图2示出了本申请实施例提供的电子设备100的一种硬件结构示意图。
电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现电子设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等***器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与***设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯***(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位***(global positioning system,GPS),全球导航卫星***(global navigation satellite system,GLONASS),北斗卫星导航***(beidounavigation satellite system,BDS),准天顶卫星***(quasi-zenith satellitesystem,QZSS)和/或星基增强***(satellite based augmentation systems,SBAS)。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行电子设备100的各种功能应用以及数据处理。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音,语音通话,视频通话等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,电子设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过***SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时***多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备100中,不能和电子设备100分离。
以下实施例中,以电子设备100是手机为例,介绍本申请实施例的方法。下面以分层架构的Android***为例,示例性说明电子设备100的软件结构。图3示出了本申请实施例提供的电子设备100的软件结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,Android***从上至下分别为应用程序层,应用程序框架层(Application Framework),硬件抽象层(Hardware Abstract Layer,HAL),内核层以及硬件层。应理解,本申请实施例是以Android***为例,而电子设备的操作者***可以包括但不限于(Symbian)、/>(Andriod)、/>(iOS)、/>(Blackberry)、鸿蒙(HarmonyOS)等操作***,本申请不作任何限定,只要各个功能模块实现的功能和本申请的实施例类似也能实现本申请的方案。
应用程序层中可以安装具有拍摄功能的应用,例如,相机应用,相机应用提供HDR模式。当然,其他应用需要使用拍摄功能时,也可以调用相机应用实现拍摄功能。
应用程序层的其他应用包括但不限于音乐、图库、日历、短信息、通话、导航、视频等应用程序。
应用框架层可以向应用层的应用程序提供应用程序编程接口(applicationprogramminginterface,API)和编程框架;应用框架层可以包括一些预定义的函数。
例如,应用框架层可以包括相机访问接口;相机访问接口中可以包括相机管理与相机设备;其中,相机管理可以用于提供管理相机的访问接口;相机设备可以用于提供访问相机的接口。
应用框架层还可以包括窗口管理器,内容提供器,视图***,资源管理器,通知管理器等(图中未示出),本申请实施例对此不做任何限制。
硬件抽象层用于将硬件抽象化。通过调用硬件抽象层中的硬件抽象层接口,可以实现硬件抽象层上方的应用程序层、应用框架层与下方的驱动层、硬件层的连接,实现拍摄数据传输及功能控制。
本申请实施例中,硬件抽象层可以包括第一硬件抽象层和第二硬件抽象层,第一硬件抽象层包括图像管理模块chi和图像处理模块camx,第二硬件抽象层包括感知引擎等。其中,图像管理模块用于定制化流程管理,厂商可以根据需求在此定制功能。图像处理模块用于与底层驱动交互,根据图像管理模块下发的拍摄指令,向传感器驱动下发出图指令,图像处理模块还用于接收sensor输出的原始图像,对原始图像进行图像处理。
感知引擎中封装了smartAE封装模块,smartAE封装模块能够在不同拍摄场景下,使用不同的拍照方法(例如拍照方法1至拍照方法4)进行曝光序列的计算,场景包括白天,黑夜,风景、人像等,例如,在白天使用拍照方法1计算生成HDR图像所需的曝光序列。感知引擎中还包括缓存队列,图像传感器输出的每一原始图像帧都可以缓存在缓存队列中,例如缓存预览过程中图像传感器输出的多帧原始图像帧,以及每帧原始图像帧的拍摄数据,拍摄数据包括但不限于自动对焦(AF)统计数据、自动曝光(AE)统计数据、自动白平衡(AWB)统计数据、角速度、时间戳、对比度等,AE统计数据包括但不限于曝光时间、像素的亮度、ISO感光值等。其中,时间戳指的是获取到原始图像帧的时刻。
内核层用于为不同硬件设备提供驱动。例如,驱动层可以包括摄像头驱动、显示驱动和传感器驱动。
硬件层可以包括多个图像传感器、多个图像信号处理器、摄像头、显示屏以及其他硬件设备。
下面结合图3和图4示例性说明电子设备100软件以及硬件的工作流程。
以相机应用为例,当相机应用运行在电子设备100上时,相机应用调用应用框架层中的相机应用对应的接口,然后,通过调用硬件抽象层启动摄像头驱动,开启电子设备100上的多个摄像头193,并通过目标摄像头获取原始图像,图像处理模块对原始图像进行处理得到预览图像,相机应用显示预览图像。
在HDR模式开启的情况下,应用层的相机应用接收到拍摄指令,调用应用框架层中的相机应用对应的接口将拍摄指令发送给图像管理模块,图像管理模块调用smartAE封装模块计算变曝光序列(第二曝光序列)。具体的,如图4中的步骤①所示,图像管理模块通过第一硬件抽象层和第二硬件抽象层之间的连接模块FilterBridgelmpl,将拍摄指令传输至第二硬件抽象层的拍照方法基类,以调度smartAE封装模块进行计算。smartAE封装模块根据当前拍照场景对应的拍照方法和第一参考帧的拍摄数据计算变曝光序列(第二曝光序列),将变曝光序列(第二曝光序列)返回给图像管理模块,如图4中的步骤②和③所示。其中,第一参考帧可以是smartAE接收到拍摄指令时,缓存队列中的最后一帧图像。
图像管理模块中的选帧模块根据缓存队列中的多帧原始图像帧的拍摄数据和变曝光序列(第二曝光序列),从缓存队列中选出第二参考帧,并确定第二参考帧的时间戳。其中,选帧模块中封装有选帧算法,选帧算法仅仅是对能够对参考帧进行选择的算法的统称,具体算法本申请实施例对此不作限定。
确定第二参考帧之后,图像管理模块再次调度smartAE封装模块进行计算,如图4中的步骤④所示,图像管理模块通过FilterBridgelmpl向感知引擎发送请求,请求调度smartAE封装模块进行计算,并且请求中携带第二参考帧的时间戳。如图4中的步骤⑤所示,FilterBridgelmpl接收到请求后,获取smartAE封装模块实例,根据第二参考帧的时间戳获取第二参考帧的拍摄数据,此时场景信息已经确定,只需调度smartAE封装模块根据第二参考帧的拍摄数据重新计算变曝光序列(第一曝光序列),向图像管理模块返回第一曝光序列的结果,如图4中的步骤⑥所示。由于选帧模块集成在第一硬件抽象层中,感知引擎和smartAE封装模块集成在第二硬件抽象层中,第一硬件抽象层和第二硬件抽象层的数据不完全共享,通过再次调度smartAE封装模块来重新确定变曝光序列,对***的修改量比较小,易于维护。
图像管理模块将第一曝光序列下发给图像处理模块,由图像处理模块通过内核层下发至sensor,sensor根据第一曝光序列依次输出对应的图像帧,并上报至图像处理模块。图像处理模块调用HDR算法根据对应的图像帧和第二参考帧,生成HDR图像。
基于上述技术方案,第一次计算曝光序列属于预计算,选帧过程可以使用第一次计算的曝光序列结果。第二次计算的曝光序列结果再下发至图像传感器,如此保证smartAE封装模块计算曝光序列和图像处理模块生成HDR图像使用都是第二参考帧,从而曝光序列中的N帧和第二参考帧的曝光量差距较小,或者曝光序列中的S帧、L帧与第二参考帧的曝光量的差距满足阈值要求,避免后续校验不通过需要丢弃某些图像帧,导致HDR的成像效果较差的问题。
图5是本申请实施例提供的一种图像处理方法的示意性流程图。该方法可以由图2所示的电子设备执行,或者,由图3所示的各个模块执行;该方法包括步骤S501至步骤S507,下面分别对步骤S501至步骤S507进行详细的描述。
S501,电子设备启动拍摄功能,并开启HDR模式。
电子设备可以通过运行相机应用来启动拍摄功能,示例性地,用户可以通过单击“相机”应用的图标,指示电子设备运行相机应用;或者,电子设备处于锁屏状态时,用户可以通过在电子设备的显示屏上向右滑动的手势,指示电子设备运行相机应用。又或者,电子设备处于锁屏状态,锁屏界面上包括相机应用的图标,用户通过点击相机应用的图标,指示电子设备运行相机应用。又或者,电子设备在运行其他应用时,该应用具有调用相机应用的权限;用户通过点击相应的控件可以指示电子设备运行相机应用程序。例如,电子设备在运行即时通信类应用程序时,用户可以通过选择相机功能的控件,指示电子设备运行相机应用程序等。
应理解,上述为对运行相机应用的操作的举例说明;还可以通过语音指示,或者其它方式指示电子设备运行相机应用程序;本申请对此不作任何限定。
在运行相机应用后,用户可以根据图1所示的流程开启拍摄功能的HDR模式。
S502,电子设备检测到拍摄指令,拍摄指令请求电子设备进行拍摄。
电子设备的拍摄功能的HDR模式被开启之后,用户可以下发拍摄指令,请求电子设备在HDR模式下拍摄,以获取HDR图像。示例性的,拍摄指令可以是用户对拍摄控件的点击操作,拍摄控件可以是如图1中的(d)所示的拍摄按钮20。应理解,还可以通过语音指令,或者手势指令等触发电子设备进行拍摄,本申请对此不作任何限定。
当拍摄指令是用户对拍摄控件的点击操作时,可以将“点击拍摄控件”这一动作细分为按下和抬起两个阶段。在一种实现方式中,在检测到用户按下拍摄控件的操作时,应用层即可向HAL层下发拍摄指令,并进行后续流程,在“点击拍摄控件”这一动作按下和抬起的过程中进行选帧、计算曝光序列、输出原始图像帧等流程,在抬起阶段,图像传感器可能已经输出第二图像帧,这样,本申请的图像处理方法能够提升拍摄响应速度。
在另一种实现方式中,在检测到用户按下拍摄控件并抬起的操作时,应用层向HAL层下发拍摄指令,并进行后续流程。
S503,电子设备根据多帧原始图像帧中的第三图像帧,确定第二曝光序列。
其中,多帧原始图像帧是在预览过程中缓存到缓存队列中的,缓存时还存储每帧原始图像的拍摄数据,拍摄数据中包括AE统计数据。AE统计数据可以包括图像亮度,曝光参数等。曝光参数可以包括曝光时间、感光度、光圈系数等等。
电子设备可以根据多帧原始图像帧中的第三图像帧的AE统计数据,确定生成HDR图像需要拍摄的图像帧的帧数,每帧图像帧的曝光参数,以及出帧顺序。将曝光参数按照出帧顺序排列生成第二曝光序列。应理解,第二曝光序列包括多组曝光参数,多组曝光参数中至少两组曝光参数的取值不同,例如曝光时间的取值不同,感光度的取值不同,或者每个参数的取值均不同。
示例性的,以曝光时间为例,电子设备可以根据第三图像帧的曝光时间计算需要的长帧图像、中帧图像、短帧图像分别对应的曝光时间,并确定所需长帧图像、中帧图像、短帧图像分别对应的数量,例如,白天场景下拍摄HDR图像时需要一帧长帧图像,一帧中帧图像,两帧短帧图像,顺序依次为短帧图像、中帧图像、短帧图像、长帧图像,曝光时间依次为5ms、10ms、5ms、50ms,则第二曝光序列可以表示为{S,N,S,L,S=5,N=10,S=5,L=50}。
需说明的是,第三图像帧为中帧图像。第三图像帧对应前述第一参考帧。
上述缓存队列可以是ZSL队列,在上述相机应用处于预览状态时,图像传感器将采集到的原始图像帧按照时间序列逐个存入ZSL队列。在ZSL队列中的存储位全部被占用时,ZSL队列实时利用最新所采集的原始图像帧逐个替换上述ZSL队列中的历史图像帧。图6为本申请实施例适用的一种ZSL队列的结构示意图。参照图6,以一个ZSL队列中包括8个存储位为例,该ZSL队列可同时存储至多8个图像帧。在该ZSL队列中的图像帧个数小于8个时,图像帧按照时间序列在该ZSL队列中从左到右依次进行存储,即最早输出的第一个图像帧存储在1号存储位,第二个图像帧存储在2号存储位,以此类推;在该ZSL队列中的图像帧个数等于8个时,若有第九个图像帧待存储,则第一个图像帧会被删除,第二个图像帧向右移动到1号存储位,第三个图像帧向右移动到2号存储位,以此类推,第八个图像帧向上移动到7号存储位,此时8号存储位未被占用,将第九个图像帧存储在8号存储位。
应理解,上述ZSL队列结构仅为示例,ZSL队列中也可以包括更多个存储位,ZSL队列中的存储位个数本申请在此不做限定。上述ZSL队列中图像帧的存储方法仅为示例,具体存储方法本申请在此不做限定。
在一个示例中,第三图像帧可以是smartAE封装模块接收到拍摄指令时,缓存队列中的最后一帧图像。
S504,电子设备根据第二曝光序列和多帧原始图像帧对应的拍摄数据,从多帧原始图像帧中确定第一图像帧。
应理解,从上层应用(如图1所示的相机应用)接收到用户的拍摄指令,到HAL层的smartAE封装模块收到拍摄指令需要时间(如图6所示的延迟时长),在这段时间中,Sensor可能输出了多个原始图像帧。例如,如图6所示,假设Sensor输出第3帧原始图像帧时,上层应用接收到拍摄指令;Sensor输出第7帧原始图像帧时,拍摄指令传递到HAL层的smartAE封装模块。因为图6所示的延迟时长,所以第7帧图像不是用户发出拍摄指令瞬间的一帧图像,因此第7帧图像可能并不是用户真实想要的一帧图像,根据第7帧图像生成的HDR图像可能并不能使用户满意。
本申请实施例中,电子设备或者电子设备中的选帧模块,可以根据第二曝光序列中的出帧顺序确定当前拍摄处于哪种拍摄场景,然后根据多帧原始图像帧对应的拍摄数据,从多帧原始图像帧中选出第一图像帧,基于第一图像帧去生成HDR图像,其中,第一图像帧对应的时间戳早于第三图像帧对应的时间戳。通过选帧选择更接近用户发出拍摄指令的时间输出的原始图像帧用以生成HDR图像,能够达到所见即所得的效果,提升用户体验。
其中,选帧模块中设置选帧算法,选帧算法仅仅是对能够对参考帧进行选择的算法的统称,具体算法本申请实施例对此不作限定。
示例性的,可以从多帧原始图像帧中选择角速度最小的图像帧作为第一图像帧。其中,角速度可以是陀螺仪传感器采集的。角速度越小,图像传感器采集原始图像帧时抖动越小,角速度越大,图像传感器采集原始图像帧时抖动越大。这样选择的第一图像帧的图像质量更好。
示例性的,可以根据曝光时间从多帧原始图像帧中选择曝光量偏低的图像帧作为第一图像帧。曝光量偏低能够保留更多的细节,这样选择的第一图像帧具有更多的细节,有利于与其他图像帧融合生成质量更高的HDR图像。
示例性的,可以从多帧原始图像帧中选择时间戳与用户下发拍摄指令的时间最近的图像帧作为第一图像帧。
需要说明的是,第一图像帧为中帧图像。第一图像帧对应前述第二参考帧。
S505,电子设备根据第一图像帧确定第一曝光序列。
电子设备根据多帧原始图像帧中的第一图像帧的AE统计数据,重新确定生成HDR图像需要拍摄的图像帧的帧数,每帧图像帧的曝光参数,以及出帧顺序。将曝光参数按照出帧顺序排列生成第一曝光序列。
示例性的,电子设备可以根据第一图像帧的曝光时间计算需要的长帧图像、中帧图像、短帧图像分别对应的曝光时间,并确定所需长帧图像、中帧图像、短帧图像分别对应的数量。
应理解,第一曝光序列包括多组曝光参数,一组曝光参数中的参数可以包括曝光时间、感光度、光圈系数等,多组曝光参数中至少两组曝光参数的取值不同,例如曝光时间的取值不同,感光度的取值不同,或者每个参数的取值均不同。
应理解,针对不同的拍摄场景,如白天和夜景,第一曝光序列中的长短帧、出帧顺序、曝光参数可能是不同的。
S506,电子设备根据第一曝光序列依次获取多帧第二图像帧。
电子设备或者电子设备的HAL层的模块,将第一曝光序列下发至图像传感器,图像传感器根据出帧顺序和每帧对应的曝光参数,依次输出第二图像帧,其中,第二图像帧与曝光参数一一对应。
S507,电子设备根据多帧第二图像帧与第一图像帧生成高动态范围图像。
本申请实施例中,以第一图像帧作为基准,通过曝光融合算法将多帧第二图像帧融合到第一图像帧中,使得图像帧中的暗区由长曝光提亮,亮区由短曝光恢复,生成HDR图像,整张HDR图像亮暗合适。
在另一种实现方式中,图7是本申请实施例提供的另一种图像处理方法的示意性流程图。该方法可以由图2所示的电子设备执行,或者,由图3所示的各个模块执行;该方法包括步骤S701至步骤S706,下面分别对步骤S701至步骤S706进行详细的描述。
S701,电子设备启动拍摄功能,并开启HDR模式。
电子设备可以通过运行相机应用来启动拍摄功能,示例性地,用户可以通过单击“相机”应用的图标,指示电子设备运行相机应用;或者,电子设备处于锁屏状态时,用户可以通过在电子设备的显示屏上向右滑动的手势,指示电子设备运行相机应用。又或者,电子设备处于锁屏状态,锁屏界面上包括相机应用的图标,用户通过点击相机应用的图标,指示电子设备运行相机应用。又或者,电子设备在运行其他应用时,该应用具有调用相机应用的权限;用户通过点击相应的控件可以指示电子设备运行相机应用程序。例如,电子设备在运行即时通信类应用程序时,用户可以通过选择相机功能的控件,指示电子设备运行相机应用程序等。
应理解,上述为对运行相机应用的操作的举例说明;还可以通过语音指示,或者其它方式指示电子设备运行相机应用程序;本申请对此不作任何限定。
在运行相机应用后,用户可以根据图1所示的流程开启拍摄功能的HDR模式。
S702,电子设备检测到拍摄指令,拍摄指令请求电子设备进行拍摄。
电子设备的拍摄功能的HDR模式被开启之后,用户可以下发拍摄指令,请求电子设备在HDR模式下拍摄,以获取HDR图像。示例性的,拍摄指令可以是用户对拍摄控件的点击操作,拍摄控件可以是如图1中的(d)所示的拍摄按钮20。应理解,还可以通过语音指令,或者手势指令等触发电子设备进行拍摄,本申请对此不作任何限定。
当拍摄指令是用户对拍摄控件的点击操作时,可以将“点击拍摄控件”这一动作细分为按下和抬起两个阶段。在一种实现方式中,在检测到用户按下拍摄控件的操作时,应用层即可向HAL层下发拍摄指令,并进行后续流程,在“点击拍摄控件”这一动作按下和抬起的过程中进行选帧、计算曝光序列、输出原始图像帧等流程,在抬起阶段,图像传感器可能已经输出第二图像帧,这样,本申请的图像处理方法能够提升拍摄响应速度。
在另一种实现方式中,在检测到用户按下拍摄控件并抬起的操作时,应用层向HAL层下发拍摄指令,并进行后续流程。
S703,电子设备从预览过程中获取的多帧原始图像帧中确定第一图像帧。
本申请实施例中,预览过程中获取的多帧原始图像帧可以缓存在前述ZLS队列中。缓存时还可以缓存每个原始图像帧的拍摄数据。
电子设备或者电子设备中的选帧模块,根据多帧原始图像帧对应的拍摄数据,从多帧原始图像帧中选出第一图像帧,基于第一图像帧去生成HDR图像。通过选帧选择更接近用户触发拍摄指令的时间输出的原始图像帧用以生成HDR图像,能够达到所见即所得的效果,提升用户体验。
示例性的,可以从多帧原始图像帧中选择角速度最小的图像帧作为第一图像帧。其中,角速度可以是陀螺仪传感器采集的。角速度越小,图像传感器采集原始图像帧时抖动越小,角速度越大,图像传感器采集原始图像帧时抖动越大。这样选择的第一图像帧的图像质量更好。
示例性的,可以根据曝光时间从多帧原始图像帧中选择曝光量偏低的图像帧作为第一图像帧。
示例性的,可以从多帧图像中选择时间戳与用户下发拍摄指令的时间最近的图像帧作为第一图像帧。
示例性的,可以结合上述角速度、曝光时间、时间戳选择第一图像帧。
S704,电子设备根据第一图像帧确定第一曝光序列。
电子设备根据多帧原始图像帧中的第一图像帧的AE统计数据,重新确定生成HDR图像需要拍摄的图像帧的帧数,每帧图像帧的曝光参数,以及出帧顺序。将曝光参数按照出帧顺序排列生成第一曝光序列。
应理解,第一曝光序列包括多组曝光参数,一组曝光参数中的参数可以包括曝光时间、感光度、光圈系数等,多组曝光参数中至少两组曝光参数的取值不同,例如曝光时间的取值不同,感光度的取值不同,或者每个参数的取值均不同。由此,输出的多帧图像中至少两帧的曝光量不相同。
应理解,针对不同的拍摄场景,如白天和夜景,第一曝光序列中的长短帧、出帧顺序、曝光参数可能是不同的。本申请实施例中可以根据拍照方法基类中的拍照场景算法,确定当前拍摄处于哪种拍摄场景,进而根据拍摄场景和第一图像帧确定第一曝光序列。
示例性的,以曝光时间为例,电子设备根据第一图像帧的曝光时间计算需要的长帧图像、中帧图像、短帧图像分别对应的曝光时间,并确定所需长帧图像、中帧图像、短帧图像分别对应的数量,例如,白天场景下拍摄HDR图像时需要一帧长帧图像,一帧中帧图像,两帧短帧图像,顺序依次为短帧图像、中帧图像、短帧图像、长帧图像,曝光时间依次为5ms、10ms、5ms、50ms,则第一曝光序列可以表示为{S,N,S,L,S=5,N=10,S=5,L=50}。
S705,电子设备根据第一曝光序列依次获取多帧第二图像帧。
电子设备或者电子设备的HAL层的模块,将第一曝光序列下发至图像传感器,图像传感器根据出帧顺序和每帧对应的曝光参数,依次输出第二图像帧,其中,一帧第二图像帧与一组曝光参数一一对应。
S706,电子设备根据多帧第二图像帧与第一图像帧生成高动态范围图像。
本申请实施例中,以第一图像帧作为基准,通过曝光融合算法将多帧第二图像帧融合到第一图像帧中,使得图像帧中的暗区由长曝光提亮,亮区由短曝光恢复,生成HDR图像,整张HDR图像亮暗合适。
基于上述技术方案,在根据第一图像帧与多帧第二图像帧生成HDR图像时,由于多帧第二图像帧是根据第一曝光序列生成的,第一曝光序列中的曝光参数用于确定第二图像帧的曝光量,而第一曝光序列是根据第一图像帧确定的,即,在确定第一曝光序列时与在结合多帧第二图像帧生成HDR图像时使用的是同一图像帧(即,第一图像帧),因此,多帧第二图像帧的曝光量与第一图像帧的曝光量的差距较小。
相比于在确定第一曝光序列时与在结合多帧第二图像帧生成HDR图像时使用的是不同图像帧的情况,例如,计算第一曝光序列时使用第一图像帧,而生成HDR图像时使用多帧第二图像帧和其他图像帧,第一图像帧和其他图像帧的曝光量在不稳定情况下的差距可能较大,本申请均使用第一图像帧,因此不受不稳定情况的影响,能够避免后续在生成HDR图像的过程中,由于多帧第二图像帧和其他图像帧的曝光量差距过大,导致丢弃多帧第二图像帧中的部分图像帧,即没有使用所有第二图像帧生成HDR图像,导致HDR的成像效果较差的问题,而且,本申请实施例提供的方法能够在各种不稳定的情况下呈现较好的HDR的成像效果,提高拍摄稳定性。
上文结合图1至图7详细描述了本申请实施例提供的图像处理方法,下面结合图8描述对本申请的装置实施例。应理解,本申请实施例中的装置可以执行前述本申请实施例的各种方法,即以下各种产品的具体工作过程,可以参考前述方法实施例中的对应过程。
图8是本申请实施例提供的一种电子设备的装置示意图。该装置800包括检测模块810和处理模块820。
其中,检测模块810用于检测拍摄指令,拍摄指令请求电子设备进行拍摄,其中,在检测到拍摄指令时电子设备的拍摄功能的高动态范围HDR模式已被开启。处理模块820用于响应于拍摄指令,从预览过程中缓存的多帧原始图像帧中确定第一图像帧,根据第一图像帧确定第一曝光序列,第一曝光序列包括多组曝光参数,多组曝光参数中至少两组曝光参数的取值不同;根据第一曝光序列依次获取多帧第二图像帧,所述第二图像帧与多组曝光参数对应;根据多帧第二图像帧与第一图像帧生成高动态范围图像。
装置800还包括存储模块830(图中未示出),存储模块830用于存储预览过程中缓存的多帧原始图像帧,以及每个原始图像帧的拍摄数据。
其中,拍摄数据可以包括以下内容中的一个或多个:角速度、曝光时间、时间戳。曝光参数可以包括曝光时间和感光度。
可选地,作为一个实施例,处理模块820具体用于:根据多帧原始图像帧中的第三图像帧,确定第二曝光序列;根据第二曝光序列和多帧原始图像帧对应的拍摄数据,从多帧原始图像帧中确定第一图像帧,第一图像帧对应的时间戳早于第三图像帧对应的时间戳。
可选地,作为一个实施例,第三图像帧是检测到拍摄指令时对应的多帧原始图像帧中的最后一帧。
可选地,作为一个实施例,处理模块820具体还用于:根据检测到拍摄指令的时刻,从多帧原始图像帧中确定第一图像帧。
其中,第一图像帧为中曝光图像帧,第一曝光序列中包括长曝光图像帧、中曝光图像帧、短曝光图像帧中的至少两种对应的曝光参数,其中,长曝光图像帧的曝光时间大于中曝光图像帧的曝光时间,中曝光图像帧的曝光时间大于短曝光图像帧的曝光时间。
可选地,作为一个实施例,拍摄指令包括第一操作,第一操作为用户按压电子设备中拍摄功能的拍摄控件的操作。
需要说明的是,上述电子设备以功能模块的形式体现。这里的术语“模块”可以通过软件和/或硬件形式实现,对此不作具体限定。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在移动终端上运行时,使得电子设备执行时实现可实现上述各个方法实施例中的步骤。
另外,本申请的实施例还提供一种装置,这个装置具体可以是芯片,组件或模块,该装置可包括相连的处理器和存储器;其中,存储器用于存储计算机执行指令,当装置运行时,处理器可执行存储器存储的计算机执行指令,以使芯片执行上述各方法实施例中的方法。芯片可以使用下述电路或者器件来实现:一个或多个现场可编程门阵列(fieldprogrammable gate array,FPGA)、可编程逻辑器件(programmable logic device,PLD)、控制器、状态机、门逻辑、分立硬件部件、任何其他适合的电路、或者能够执行本申请通篇所描述的各种功能的电路的任意组合。
在本申请所提供的实施例中,应该理解到,所揭露的装置/电子设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/电子设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
本实施例提供的电子设备,用于执行上述方法,因此可以达到与上述实现方法相同的效果。在采用集成的单元的情况下,电子设备可以包括处理模块、存储模块和通信模块。其中,处理模块可以用于对电子设备的动作进行控制管理,例如,可以用于支持电子设备执行处理单元执行的步骤。存储模块可以用于支持电子设备执行存储程序代码和数据等。通信模块,可以用于支持电子设备与其他设备的通信。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(read-only memory,ROM)、随机存取存储器(random accessmemory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,本申请说明书和所附权利要求书中提及的“多个”是指两个或两个以上。在本申请的描述中,除非另有说明,“/”表示或的意思,比如,A/B可以表示A或B;本文中的“和/或”仅仅是一种描述关联对象的关联关系,是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合,比如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,为了便于清楚描述本申请的技术方案,采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定,不能理解为指示或暗示相对重要性,并且“第一”、“第二”等字样也并不限定一定不同。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种图像处理方法,其特征在于,应用于电子设备,所述方法包括:
检测到拍摄指令,所述拍摄指令请求电子设备进行拍摄,其中,所述电子设备的拍摄功能的高动态范围HDR模式已被开启;
响应于所述拍摄指令,从预览过程中缓存的多帧原始图像帧中确定第一图像帧;
根据所述第一图像帧确定第一曝光序列,所述第一曝光序列包括多组曝光参数,所述多组曝光参数中至少两组曝光参数的取值不同;
根据所述第一曝光序列依次获取多帧第二图像帧,所述第二图像帧与所述多组曝光参数对应;
根据所述多帧第二图像帧与所述第一图像帧生成高动态范围图像。
2.根据权利要求1所述的方法,其特征在于,所述从预览过程中缓存的多帧原始图像帧中确定第一图像帧,包括:
根据所述多帧原始图像帧中的第三图像帧,确定第二曝光序列;
根据所述第二曝光序列和所述多帧原始图像帧对应的拍摄数据,从所述多帧原始图像帧中确定所述第一图像帧,所述第一图像帧对应的时间戳早于所述第三图像帧对应的时间戳。
3.根据权利要求2所述的方法,其特征在于,所述第三图像帧是检测到所述拍摄指令时对应的所述多帧原始图像帧中的最后一帧。
4.根据权利要求2或3所述的方法,其特征在于,所述拍摄数据包括以下内容中的一个或多个:角速度、曝光时间、时间戳,其中,所述时间戳为获取到所述原始图像帧的时刻。
5.根据权利要求1所述的方法,其特征在于,所述从预览过程中缓存的多帧原始图像帧中确定第一图像帧,包括:
根据检测到所述拍摄指令的时刻,从所述多帧原始图像帧中确定所述第一图像帧。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述曝光参数包括曝光时间和感光度中的至少一个。
7.根据权利要求6所述的方法,其特征在于,所述第一图像帧为中曝光图像帧,所述第一曝光序列中包括长曝光图像帧、中曝光图像帧、短曝光图像帧中的至少两种对应的曝光参数,其中,所述长曝光图像帧的曝光时间大于所述中曝光图像帧的曝光时间,所述中曝光图像帧的曝光时间大于所述短曝光图像帧的曝光时间。
8.根据权利要求1至7中任一项所述的方法,其特征在于,所述拍摄指令包括第一操作,所述第一操作为用户按压所述电子设备的所述拍摄功能的拍摄控件的操作。
9.一种电子设备,其特征在于,包括:一个或多个处理器;一个或多个存储器;所述存储器存储有一个或多个程序,当所述一个或者多个程序被所述处理器执行时,使得所述电子设备执行权利要求1至8中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行如权利要求1至8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310970674.3A CN117714835A (zh) | 2023-08-02 | 2023-08-02 | 一种图像处理方法、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310970674.3A CN117714835A (zh) | 2023-08-02 | 2023-08-02 | 一种图像处理方法、电子设备及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117714835A true CN117714835A (zh) | 2024-03-15 |
Family
ID=90153964
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310970674.3A Pending CN117714835A (zh) | 2023-08-02 | 2023-08-02 | 一种图像处理方法、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117714835A (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014060578A (ja) * | 2012-09-18 | 2014-04-03 | Olympus Imaging Corp | 撮像装置 |
CN107809593A (zh) * | 2017-11-13 | 2018-03-16 | 广东欧珀移动通信有限公司 | 拍摄图像的方法、装置、终端和存储介质 |
US20190138259A1 (en) * | 2017-11-03 | 2019-05-09 | Qualcomm Incorporated | Systems and methods for high-dynamic range imaging |
CN109743506A (zh) * | 2018-12-14 | 2019-05-10 | 维沃移动通信有限公司 | 一种图像拍摄方法及终端设备 |
CN111402135A (zh) * | 2020-03-17 | 2020-07-10 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
US11151702B1 (en) * | 2019-09-09 | 2021-10-19 | Apple Inc. | Deep learning-based image fusion for noise reduction and high dynamic range |
CN115205172A (zh) * | 2022-05-23 | 2022-10-18 | 深圳市慧鲤科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
-
2023
- 2023-08-02 CN CN202310970674.3A patent/CN117714835A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014060578A (ja) * | 2012-09-18 | 2014-04-03 | Olympus Imaging Corp | 撮像装置 |
US20190138259A1 (en) * | 2017-11-03 | 2019-05-09 | Qualcomm Incorporated | Systems and methods for high-dynamic range imaging |
CN107809593A (zh) * | 2017-11-13 | 2018-03-16 | 广东欧珀移动通信有限公司 | 拍摄图像的方法、装置、终端和存储介质 |
CN109743506A (zh) * | 2018-12-14 | 2019-05-10 | 维沃移动通信有限公司 | 一种图像拍摄方法及终端设备 |
US11151702B1 (en) * | 2019-09-09 | 2021-10-19 | Apple Inc. | Deep learning-based image fusion for noise reduction and high dynamic range |
CN111402135A (zh) * | 2020-03-17 | 2020-07-10 | Oppo广东移动通信有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
CN115205172A (zh) * | 2022-05-23 | 2022-10-18 | 深圳市慧鲤科技有限公司 | 图像处理方法及装置、电子设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
付争方 等: "多尺度细节融合的多曝光高动态图像重建", 计算机工程与应用, no. 24, 8 April 2018 (2018-04-08), pages 187 - 192 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3893491A1 (en) | Method for photographing the moon and electronic device | |
CN112532859B (zh) | 视频采集方法和电子设备 | |
WO2021052232A1 (zh) | 一种延时摄影的拍摄方法及设备 | |
WO2020073959A1 (zh) | 图像捕捉方法及电子设备 | |
KR102577396B1 (ko) | 녹화 프레임 레이트 제어 방법 및 관련 장치 | |
CN113810600B (zh) | 终端的图像处理方法、装置和终端设备 | |
CN112532892B (zh) | 图像处理方法及电子装置 | |
CN113810601B (zh) | 终端的图像处理方法、装置和终端设备 | |
CN112492193B (zh) | 一种回调流的处理方法及设备 | |
CN113810603B (zh) | 点光源图像检测方法和电子设备 | |
CN114863494A (zh) | 屏幕亮度的调整方法、装置和终端设备 | |
CN115705241B (zh) | 应用的调度方法及电子设备 | |
CN116389884B (zh) | 缩略图显示方法及终端设备 | |
CN115412678B (zh) | 曝光处理方法、装置及电子设备 | |
CN116055859B (zh) | 图像处理方法和电子设备 | |
CN116048831B (zh) | 一种目标信号处理方法和电子设备 | |
CN115706869A (zh) | 终端的图像处理方法、装置和终端设备 | |
CN117714835A (zh) | 一种图像处理方法、电子设备及可读存储介质 | |
CN116233599B (zh) | 一种录像模式推荐方法和电子设备 | |
CN116055872B (zh) | 图像获取方法、电子设备和计算机可读存储介质 | |
CN116055870B (zh) | 一种拍照方法和电子设备 | |
CN116708317B (zh) | 数据包mtu的调整方法、装置和终端设备 | |
CN114520870B (zh) | 一种显示方法及终端 | |
WO2023020420A1 (zh) | 音量显示方法、电子设备及存储介质 | |
CN117729420A (zh) | 一种连拍方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |