CN116055857B - 拍照方法及电子设备 - Google Patents

拍照方法及电子设备 Download PDF

Info

Publication number
CN116055857B
CN116055857B CN202211018122.4A CN202211018122A CN116055857B CN 116055857 B CN116055857 B CN 116055857B CN 202211018122 A CN202211018122 A CN 202211018122A CN 116055857 B CN116055857 B CN 116055857B
Authority
CN
China
Prior art keywords
image
request
preview
module
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211018122.4A
Other languages
English (en)
Other versions
CN116055857A (zh
Inventor
许集润
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202211018122.4A priority Critical patent/CN116055857B/zh
Priority to PCT/CN2023/088068 priority patent/WO2024040990A1/zh
Publication of CN116055857A publication Critical patent/CN116055857A/zh
Application granted granted Critical
Publication of CN116055857B publication Critical patent/CN116055857B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72439User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本申请实施例提供了一种拍照方法及电子设备。在该方法中,电子设备显示目标应用的图像预览界面;其中,所述目标应用为具有相机功能的应用;在所述图像预览界面中显示的预览图像帧是基于所述目标应用持续下发的图像预览请求采集的;响应于接收到的用户操作,目标应用生成图像拍摄请求;其中,所述图像拍摄请求的曝光参数与所述图像预览请求的曝光参数不同;如果同时存在未处理的所述图像预览请求和所述图像拍摄请求,则电子设备调用图像传感器采集与所述图像拍摄请求对应的拍摄图像帧。这样,图像拍摄请求会跳过图像预览请求优先被处理,以此缩短了改变曝光参数的拍摄图像帧的出图时长。

Description

拍照方法及电子设备
技术领域
本申请涉及智能终端技术领域,尤其涉及一种拍照方法及电子设备。
背景技术
随着人们对电子设备的功能的日益完善,人们对电子设备的拍照效果的需求也不断地提高。
当用户打开电子设备的拍照功能时,通常电子设备的显示屏上会显示预览画面。当电子设备捕捉到用户心仪的画面时,用户点击拍照控件拍照。为了提高拍照质量,通常根据电子设备在预览画面的状态下采集的图像帧及响应用户的拍照操作得到的图像帧,合成最终输出的图像。其中,如何缩短输出图像的时间,是需要解决的问题。
发明内容
为了解决上述技术问题,本申请实施例提供一种拍照方法及电子设备。其中,改变图像曝光参数的图像拍摄请求会跳过图像预览请求优先被处理,缩短了改变曝光参数的拍摄图像帧的出图时长。
第一方面,本申请实施例提供一种拍照方法。该方法应用于电子设备中,包括:
电子设备显示目标应用的图像预览界面;其中,目标应用为具有相机功能的应用;在图像预览界面中显示的预览图像帧是基于目标应用持续下发的图像预览请求采集的;
响应于接收到的用户操作,目标应用生成图像拍摄请求;其中,图像拍摄请求的曝光参数与图像预览请求的曝光参数不同;
如果同时存在未处理的图像预览请求和图像拍摄请求,则电子设备调用图像传感器采集与图像拍摄请求对应的拍摄图像帧。
其中,拍摄图像帧与预览图像帧的曝光参数不同。
在目标应用显示图像预览界面的过程中,目标应用可以按照预设频率下发图像预览请求,以持续采集与各图像预览请求对应的预览图像帧,确保目标应用的图像预览界面中预览图像帧显示得流畅性、平滑性。
这样,改变图像曝光参数的图像拍摄请求会跳过图像预览请求优先被处理,缩短了改变曝光参数的拍摄图像帧的出图时长。
根据第一方面,该方法还包括:目标应用持续下发的图像预览请求存储于请求队列中,目标应用下发的图像拍摄请求存储于目标模块中;其中,请求队列为先进先出队列。
示例性的,目标模块可以是下文提及的Bridge模块。
其中,在本申请实施例中,目标模块是在***拍照通路中新增的模块,用于桥接相机HAL模块和ISP模块。其中,目标模块是一个单实例类,用于存储图像曝光参数不同的图像拍摄请求。
这样,与已有技术不同,目标应用下发的图像拍摄请求不再与图像预览请求一同存储于请求队列中,而是单独存储于目标模块中,以避免只有早于图像拍摄请求入队列的图像预览请求处理完成之后,才可以处理图像拍摄请求的问题,减少了图像拍摄请求的通路时延。
根据第一方面,或者以上第一方面的任意一种实现方式,同时存在未处理的图像预览请求和图像拍摄请求,可以具体为:如果请求队列中存在图像预览请求,目标模块中存在图像拍摄请求,则电子设备确定同时存在未处理的图像预览请求和图像拍摄请求。
根据第一方面,或者以上第一方面的任意一种实现方式,电子设备包括相机硬件抽象层HAL模块、图像信号处理ISP模块和图像传感器驱动模块,方法包括:
相机HAL模块在请求队列中依次获取一个图像预览请求,并将图像预览请求发送至 ISP模块;
ISP模块接收图像预览请求;
ISP模块如果在目标模块中读取到图像拍摄请求,则将图像拍摄请求发送至图像传感器驱动模块,以使图像传感器驱动模块驱动图像传感器采集与图像拍摄请求对应的拍摄图像帧;
ISP模块如果在目标模块中未读取到图像拍摄请求,则将图像预览请求发送至图像传感器驱动模块,以使图像传感器驱动模块驱动图像传感器采集与图像预览请求对应的预览图像帧。
这样,ISP模块在向图像传感器驱动模块发送图像预览请求之前,首先会确定当前是否存在图像拍摄请求,若存在,则优先处理图像拍摄请求,否则才处理图像预览请求,以此确保能够及时处理图像拍摄请求,减少拍摄图像帧的出图时长。
根据第一方面,或者以上第一方面的任意一种实现方式,该方法还包括:ISP模块如果在目标模块中读取到图像拍摄请求,则将图像预览请求丢弃。
这样,当同时存在未处理的图像预览请求和图像拍摄请求时,图像拍摄请求替换图像预览请求被处理,通过将图像拍摄请求插队来减少拍摄图像帧的出图时长。而且,丢弃被替换的图像预览请求,也不会对后续的图像预览请求产生影响。
根据第一方面,或者以上第一方面的任意一种实现方式,该方法还包括:相机HAL模块接收目标应用下发的图像预览请求或图像拍摄请求,并将图像预览请求存储在请求队列中,将图像拍摄请求存储于目标模块中。
根据第一方面,或者以上第一方面的任意一种实现方式,该方法还包括:ISP模块将图像传感器驱动模块反馈的预览图像帧或拍摄图像帧发送至相机HAL模块;相机HAL 模块依次将预览图像帧或拍摄图像帧存储于零秒延迟队列中。
根据第一方面,或者以上第一方面的任意一种实现方式,该方法还包括:在多帧合成拍摄的场景下,相机HAL模块在零秒延迟队列中读取相应数量的预览图像帧和拍摄图像帧,并采用与拍摄模式匹配的图像处理算法执行多帧图像合成操作,得到目标图像;其中,目标图像用于存储至图库应用。
这样,在多帧融合的拍照场景中,由于图像拍摄请求跳过了请求队列中的各个图像预览请求,使得图像拍摄请求对应的拍摄图像帧与ZSL队列中的预览图像帧之间的帧间隔更小,进而使得用于合成最终输出图像的多帧图像的连续性更佳,多帧图像合成的图像效果更优。尤其是,在动态拍照的场景下,图像传感器采集到的图像帧可能存在“拖影”,因此,拍摄图像帧与预览图像帧之间的帧间隔越小,拍摄图像帧与预览图像帧之间的图像差异性就越小,使得通过多帧图像合成的最终图像的效果就越好,避免图像中出现动态模糊的问题。
根据第一方面,或者以上第一方面的任意一种实现方式,目标应用为相机应用。
第二方面,本申请实施例提供一种电子设备。该电子设备包括:一个或多个处理器;存储器;以及一个或多个计算机程序,其中一个或多个计算机程序存储在存储器上,当计算机程序被一个或多个处理器执行时,使得电子设备执行第一方面以及第一方面中任意一项的拍照方法。
第二方面以及第二方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第二方面以及第二方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
第三方面,本申请实施例提供一种计算机可读存储介质。该计算机可读存储介质包括计算机程序,当计算机程序在电子设备上运行时,使得电子设备执行第一方面以及第一方面中任意一项的拍照方法。
第三方面以及第三方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第三方面以及第三方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
第四方面,本申请实施例提供一种计算机程序产品,包括计算机程序,当计算机程序被运行时,使得计算机执行如第一方面或第一方面中任意一项的拍照方法。
第四方面以及第四方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第四方面以及第四方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
第五方面,本申请提供了一种芯片,该芯片包括处理电路、收发管脚。其中,该收发管脚和该处理电路通过内部连接通路互相通信,该处理电路执行如第一方面或第一方面中任意一项的拍照方法,以控制接收管脚接收信号,以控制发送管脚发送信号。
第五方面以及第五方面的任意一种实现方式分别与第一方面以及第一方面的任意一种实现方式相对应。第五方面以及第五方面的任意一种实现方式所对应的技术效果可参见上述第一方面以及第一方面的任意一种实现方式所对应的技术效果,此处不再赘述。
附图说明
图1为示例性示出的电子设备的硬件结构示意图;
图2为示例性示出的电子设备的软件结构示意图;
图3a为示例性示出的电子设备的用户界面之一;
图3b为示例性示出的电子设备的用户界面之一;
图4a为示例性示出的已有的图像预览请求的处理流程;
图4b为示例性示出的已有的图像拍摄请求的处理流程;
图4c为示例性示出的已有的预览图像帧以及拍摄图像帧的出图序列;
图5为本申请实施例提供的拍照流程示意图;
图6a为本申请实施例提供的图像预览请求及图像拍摄请求的存储流程示意图;
图6b为本申请实施例提供的图像预览请求及图像拍摄请求的处理流程示例;
图6c为本申请实施例提供的图像预览请求及图像拍摄请求的处理流程示例;
图6d为本申请实施例提供的图像预览请求及图像拍摄请求的处理流程示例;
图7为本申请实施例提供的拍照流程示意图;
图8a为本申请实施例提供的多帧图像合成示例;
图8b为本申请实施例提供的多帧图像合成示例。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。
本申请实施例的说明书和权利要求书中的术语“第一”和“第二”等是用于区别不同的对象,而不是用于描述对象的特定顺序。例如,第一目标对象和第二目标对象等是用于区别不同的目标对象,而不是用于描述目标对象的特定顺序。
在本申请实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
在本申请实施例的描述中,除非另有说明,“多个”的含义是指两个或两个以上。例如,多个处理单元是指两个或两个以上的处理单元;多个***是指两个或两个以上的***。
本申请实施例提供的拍照方法,可以应用于电子设备。可选的,本申请实施例中的电子设备可以是具有拍照功能的手机、运动相机(GoPro)、数码相机、平板电脑、桌面型、膝上型、手持计算机、笔记本电脑、车载设备、超级移动个人计算机(ultra-mobile personalcomputer,UMPC)、上网本,以及蜂窝电话、个人数字助理(personal digital assistant,PDA)、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备等,本申请实施例对该电子设备的具体形态不作特殊限制。
如图1所示为电子设备100的结构示意图。可选地,电子设备100可以为终端,也可以称为终端设备,终端可以为蜂窝电话(cellular phone)(如手机)或平板电脑(pad) 等具有摄像头的设备,本申请不做限定。应该理解的是,图1所示的电子设备100仅是电子设备的一个范例,并且电子设备100可以具有比图中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图1中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
电子设备100可以包括:处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器,陀螺仪传感器,加速度传感器,温度传感器,运动传感器,气压传感器,磁传感器,距离传感器,接近光传感器,指纹传感器,触摸传感器,环境光传感器,骨传导传感器等。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit, GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器 (neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB 接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与***设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142 充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth, BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术 (infrared,IR)等无线通信的解决方案。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP 还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体 (complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理,例如使得电子设备100实现本申请实施例中的拍照方法。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或收听免提通话。在一些实施例中,电子设备100可以设置多个扬声器170A。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100 接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备 100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器可以设置于显示屏194。电子设备100也可以根据压力传感器的检测信号计算触摸的位置。
陀螺仪传感器可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。
加速度传感器可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时加速度传感器可检测出重力的大小及方向。加速度传感器还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
触摸传感器,也称“触控面板”。触摸传感器可以设置于显示屏194,由触摸传感器与显示屏194组成触摸屏,也称“触控屏”。触摸传感器用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。
按键190包括开机键(或称电源键),音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
电子设备100的软件***可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。需要说明的是,本申请实施例中,电子设备的操作***可以包括但不限于塞班(Symbian)、安卓(Android)、Windows、苹果(iOS)、黑莓(Blackberry)、鸿蒙 (Harmony)等操作***,本申请不限定。
本申请实施例以分层架构的Android***为例,示例性说明电子设备100的软件结构。
图2是本申请实施例的电子设备100的软件结构框图。
电子设备100的分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android***分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android Runtime)和***库,硬件抽象层(hardware abstraction layer,HAL),以及内核层。
应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机、图库以及具有相机功能的第三方应用等。示例性的,应用程序包还可以包括通话、日历、地图、导航、音乐、视频、短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图***,资源管理器,通知管理器,相机服务(Camera Service)等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图***包括可视控件,例如显示文字的控件,显示图片的控件等。视图***可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知信息被用于告知下载完成,消息提醒等。通知信息还可以是以图表或者滚动条文本形式出现在***顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。通知信息例如为在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
相机服务用于响应于应用的请求,调用摄像头(包括前置摄像头和/或后置摄像头)。具体到本实施例中,相机服务可以响应于应用下发的图像预览请求以及图像拍摄请求,进而根据相应的请求调用摄像头进行图像采集,得到相应的图像帧。
Android Runtime包括核心库和虚拟机。Android Runtime负责安卓***的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
***库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(Media Libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子***进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG 等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
HAL为位于操作***内核与硬件电路之间的接口层。HAL层包括但不限于:相机HAL模块,音频HAL模块。其中,相机HAL模块用于对图像流进行处理,音频HAL 模块用于对音频流进行处理(例如,对音频流进行降噪、定向增强等处理)。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,音频驱动,图像传感器驱动模块,图像信号处理模块等。硬件至少包括处理器、显示屏、摄像头、ISP等。其中,图像信号处理模块用于根据相机HAL模块的指令处理图像预览请求和拍照请求,以使图像传感器驱动模块根据相应的请求采集图像。图像信号处理模块还可以用于对摄像头采集的原始图像进行处理,例如图像去噪、图像优化等。
可以理解的是,图2示出的软件结构中的层以及各层中包含的部件,并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的层,以及每个层中可以包括更多或更少的部件,本申请不做限定。
可以理解的是,电子设备为了实现本申请实施例中的拍照方法,其包含了执行各个功能相应的硬件和/或软件模块。结合本文中所公开的实施例描述的各示例的算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以结合实施例对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
首先,对本申请中所涉及的部分用语和相关技术进行解释说明,以便于本领域技术人员理解。
曝光是一切光化学成像方法的基本过程与主要特征。通过曝光可以获得可见图像。曝光模式即计算机采用自然光源的模式,通常分为多种,手动曝光、自动曝光等模式。照片的好坏与曝光有关,也就是说应该通多少的光线使感光元件能够得到清晰的图像。曝光量由曝光时间、光圈大小决定。
感光度,又称为ISO(International Organization for Standardization)值,是衡量底片对于光的灵敏程度,由敏感度测量学及测量数个数值来决定,最近已经被国际标准化组织标准化。对于较不敏感的底片,需要曝光更长的时间以达到跟较敏感底片相同的成像,因此通常被称为慢速底片。高度敏感的底片因而称为快速底片。无论是数位或是底片摄影,为了减少曝光时间,相对使用较高敏感度通常会导致影像质量降低(由于较粗的底片颗粒或是较高的影像噪声或其他因素)。
曝光是拍摄中一个非常重要的环节,它决定了获取图像时感光元件能获取多少光线。也就是说,曝光决定图像的亮度(即明暗)。而曝光量反映了曝光多少,是具体表征获感光元件获取多少光线的一个参数。根据曝光量的定义可知:曝光量由曝光时间、通光面积以及环境光强度决定。其中,快门速度决定曝光时间,光圈大小决定通光面积。一般来说,在自然光下进行拍摄时,几乎无法改变环境光,但是ISO可以影响感光元件对光线的敏感度,所以可以认为ISO影响感光元件获取的环境光强度。
综上所述,曝光量受曝光时间(快门速度)、光圈大小以及ISO三个因素影响,可以将这三个影响曝光的因素称为曝光参数。其中,EV(Exposure Value,曝光度)是由快门速度值和光圈值组合表示摄影镜头通光能力的一个数值。快门速度越低,光圈越大,通光时间和面积就越大,即曝光度大。
下面介绍本申请实施例提供的一种拍照的场景。在本场景中,以手机为例进行解释说明。
可以理解的,本申请的说明书和权利要求书及附图中的术语“用户界面”,是应用程序或操作***与用户之间进行交互和信息交换的介质接口,它实现信息的内部形式与用户可以接受形式之间的转换。用户界面常用的表现形式是图形用户界面(Graphic UserInterface,GUI),是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备的显示屏中显示的一个图标、窗口、控件等界面元素,其中控件可以包括图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。
图3a示例性示出了手机上的用于展示应用程序的示例性用户界面300。用户界面300 显示了一个放置有应用图标的页面,该页面可包括多个应用图标(例如,时钟应用图标、日历应用图标、图库应用图标、备忘录应用图标、电子邮件应用图标、应用商店应用图标、设置应用图标等等)。上述多个应用图标下方还可显示有页面指示符,以表明当前显示的页面与其他页面的位置关系。页面指示符的下方有多个托盘图标(例如,相机应用图标310、联系人应用图标、电话应用图标、信息应用图标)。托盘图标在页面切换时保持显示。本申请实施例对用户界面300上显示的内容不作限定。
可以理解的,手机可以检测到用户作用于相机应用图标310的用户操作(比如触摸/ 点击操作),响应于该操作,手机可以显示图3b所示的拍摄界面400。拍摄界面400可以是相机应用程序的默认拍照模式的用户界面,用户可以在该界面上完成拍照。相机应用程序是智能手机、平板电脑等电子设备上的一款图像拍摄的应用程序,本申请对该应用程序的名称不做限制。也就是说,用户可以通过点击相机应用图标310来打开相机应用程序的拍摄界面400。可以理解的,默认拍照模式下的默认摄像头不限于为后置摄像头,手机也可以将前置摄像头设置为默认摄像头,也就是说,在开启相机应用程序之后,手机可以在预览区域420中显示前置摄像头采集的图像,可用于用户通过默认前置摄像头进行拍照。
图3b示例性示出了手机中相机应用程序的一个用户界面400。如图3b所示,拍摄界面400可包括参数调节区域410、预览区域420、相机模式选项区域430、图库快捷控件 441、快门控件442、摄像头翻转控件443。其中,参数调节区域410中的各个控件用于相应的拍摄参数调整,包括但不限于:闪光灯设置控件、AI识别开关设置控件、色彩标准设置控件、以及更加详细的相机设置控件。
预览区域420可用于显示预览图像,该预览图像为手机通过摄像头实时采集的图像。手机可以实时刷新预览区域420中的显示内容,以便于用户预览摄像头当前采集的图像。
相机模式选项430中可以显示有一个或多个拍摄模式选项。这一个或多个拍摄模式选项可以包括:光圈模式选项431、夜景模式选项432、人像模式选项433、拍照模式选项434、录像模式选项435、专业选项模式436和更多选项437。可以理解的,这一个或多个拍摄模式选项在界面上可以表现为文字信息,例如“光圈”、“夜景”、“人像”、“拍照”、“录像”、“专业”、“更多”,还可以表现为图标或者其他形式的交互元素(interactive element,IE),本申请对此不作限制。
当检测到作用于拍摄模式选项上的用户操作,手机可以开启用户选择的拍摄模式。特别的,当检测到作用于更多选项437的用户操作,手机可以进一步显示更多的其他拍摄模式选项,如延时摄影模式选项、连拍模式选项等等,可以向用户展示更丰富的摄像功能。可以理解的,相机模式选项430中还可以包含更多或更少的拍摄模式选项,图3b 所示的相机模式选项仅为本申请的一种实现方式,不应视为对本申请的限制。
图库快捷控件441可用于开启图库应用程序。响应于作用在图库快捷控件441上的用户操作,例如触摸操作,手机可以开启图库应用程序。
快门控件442可用于监听触发拍照的用户操作。手机可以检测到作用于快门控件442 的用户操作,响应于该操作,手机获取到相应的图像帧,并合成最终输出的图像保存为图库应用程序中的图片。另外,手机还可以在图库快捷控件441中显示所保存的图像的缩略图。也就是说,用户可以通过作用于快门控件442的操作来触发拍照。可以理解的,快门控件442可以是按钮或者其他形式的控件,本申请对此不作限制。
摄像头翻转控件443可用于监听触发翻转摄像头的用户操作。手机可以检测到作用于摄像头翻转控件443的用户操作,例如触摸操作,响应于该操作,手机可以切换用于拍摄的摄像头,例如将后置摄像头切换为前置摄像头,或者将前置摄像头切换为后置摄像头。
拍摄界面400中还可以包含更多或更少的控件,本申请实施例对此不作限定。
继续参照图3b,用户点击快门控件442,响应于用户操作,相机应用向内核层(kernel) 下发拍照请求后,内核层(kernel)收到拍照请求后将图像传感器后续输出的连续多帧图像数据上报至相机HAL模块,相机HAL模块会回调(callback)一张拍照帧和缩略图给相机应用,相机应用可以根据收到拍照帧或缩略图确认此次拍照完成,然后恢复快门控件442为使能状态,用户才能够进行下一次拍照。
目前,为了提高拍照质量,通常根据电子设备在预览画面的状态下采集的预览图像帧及响应用户的拍照操作得到的拍照图像帧,合成最终输出的图像。其中,预览图像帧是基于相机应用下发的图像预览请求采集的,拍照图像帧是基于相机应用下发的图像拍摄请求采集的。需要指出的是,为了提升最终输出的图像质量,图像预览请求和图像拍摄请求中携带的曝光参数不同,曝光参数包括但不限于EV值和ISO值。
示例性的,当环境光较暗的时候,相机应用响应于用户的操作生成的图像拍摄请求中携带的曝光参数相比于图像预览请求中携带的曝光参数会更强,以使图像传感器基于图像拍摄请求采集到的图像帧的亮度会更高。又示例性的,当环境光较亮的时候,相机应用响应于用户的操作生成的图像拍摄请求中携带的曝光参数相比于图像预览请求中携带的曝光参数会更弱,以防止图像传感器基于图像拍摄请求采集到的图像帧过曝导致图像细节不清楚。由此,相对于图像预览请求,图像拍摄请求可以称之为改变图像曝光的拍摄请求。
继续参照图3b,在预览区域420中显示预览图像的过程中,相机应用按照预设频率(例如每秒几十次)向内核层下发图像预览请求。内核层接收到图像预览请求之后,驱动图像传感器(sensor)采集与该图像预览请求对应的预览图像帧。类似的,当用户点击快门控件时,响应于用户操作,相机应用向内核层下发图像拍摄请求。内核层接收到图像拍摄请求之后,驱动图像传感器采集与该图像拍摄请求对应的拍摄图像帧。其中,拍摄图像帧可以理解为改变曝光参数得到的图像帧。
需要指出的是,响应于用户操作,相机应用向内核层下发的图像拍摄请求可以是一个,也可以是多个。拍摄模式不同,相机应用向内核层下发的图像拍摄请求数量不一定相同,例如可以是连续下发两个或四个图像拍摄请求等。其中,相邻两个图像拍摄请求的时间可以相同,也可以不同,相机应用向内核层下发的图像拍摄请求的曝光参数可以相同,也可以不同,本申请实施例不做限定。
下面结合图4a-图4c对多帧图像合成拍照场景下,图像预览请求和图像拍摄请求的处理流程进行详细解释说明。
参照图4a,示例性的,当相机应用预览区域420中显示预览图像的过程中,相机应用生成图像预览请求57,并将图像预览请求57经相机服务(Camera Server)发送至HAL 中相机HAL模块。其中,图像预览请求57中包括但不限于请求类型、曝光参数(如EV 值、ISO值等)、分辨率、抖动量等。
相机HAL模块接收到图像预览请求57之后,将图像预览请求57存储于请求队列中。该请求队列中顺序存储有来自相机应用的请求,包括但不限于图像预览请求和图像拍摄请求。其中,该请求队列为先进先出队列。相机HAL模块依次将请求队列中的各个请求发送至内核层中的ISP模块进行处理。
继续参照图4a,示例性的,相机HAL模块在请求队列中获取到图像预览请求52,并将图像预览请求52发送至ISP模块。ISP模块接收到图像预览请求52,将图像预览请求52发送至图像传感器驱动模块,以使图像传感器驱动模块驱动图像传感器按照与图像预览请求52匹配的图像采集参数采集图像数据。进而,图像传感器驱动模块可以将图像传感器按照与图像预览请求52匹配的预览图像帧52发送ISP模块,以通过ISP模块将预览图像帧52发送至相机HAL模块。其中,ISP模块可以对预览图像帧进行原始图像数据处理,例如图像去噪、图像优化等。
相机HAL模块接收到预览图像帧52之后,会将预览图像帧52存储于ZSL(ZeroShutter Lag,零秒延迟)队列中。其中,电子设备将预览图像和实际的拍摄图像按时间顺序依次缓存在一个图像队列中,该图像队列被称为ZSL队列。需要说明的是,ZSL队列中的图像通常是RAW图像。其中,设置ZSL队列的意义在于,消除使用手机相机拍照时存在延迟,提供一种“拍即视”的体验。
需要指出的是,在ZSL队列中存储的图像帧都是最新生成的。关于ZSL队列中存储的图像帧的数量,本申请实施例不做限定。
在相机应用预览区域420中显示预览图像的过程中,相机HAL模块会持续在ZSL 队列中读取预览图像,并通过Camera Server发送至相机应用中进行显示的。示例性的,参照图4a,相机HAL模块在ZSL队列中读取预览图像51,并将预览图像51通过Camera Server发送至相机应用中进行显示。
需要指出的是,在上述流程中,相机HAL模块将接收到的图像预览请求存储于请求队列的操作,相机HAL模块在请求队列中读取图像预览请求下发至ISP模块的操作,以及相机HAL模块在ZSL队列中读取预览图像帧经相机服务发送至相机应用的操作,是异步进行的。
在图4a所示的场景中,示例性的,预览图像帧50正在显示,预览图像帧51帧刚生产出来准备显示,预览图像帧52正在生产。与此同时,请求队列中还存在多个图像预览请求以待生成预览图像帧。其中,在如图4a所示的场景中,图像预览请以及预览图像帧的序号仅为示例性的表达,本申请实施例对此不做限定。
示例性的,假设在相机应用显示预览图像帧50,预览图像帧51帧刚生产出来准备显示,预览图像帧52正在生产时,用户点击快门控件以触发相机应用的拍照流程。响应于用户的操作,相机应用通过相机服务向相机HAL模块发送图像拍摄请求。其中,与图像拍照请求对应的曝光参数不同于与图像预览请求对应的曝光参数。
参照图4b,响应于用户点击的快门控件的操作,相机应用生成图像拍摄请求58,并将图像拍摄请求58经相机服务发送至HAL中相机HAL模块。其中,图像拍摄请求58 中包括但不限于请求类型、曝光参数(如EV值、ISO值等)、分辨率、抖动量等。其中,与图像拍照请求58对应的曝光参数不同于与图像预览请求57对应的曝光参数。
相机HAL模块接收到图像拍摄请求58之后,将图像拍摄请求58存储于请求队列中。示例性的,参照图4b,在请求队列中还存在图像预览请求56和图像预览请求57未被相机HAL模块处理。
继续参照图4b,示例性的,相机HAL模块在请求队列中获取到图像预览请求55,并将图像预览请求55发送至ISP模块。ISP模块接收到图像预览请求55,将图像预览请求55发送至图像传感器驱动模块,以使图像传感器驱动模块驱动图像传感器按照与图像预览请求55匹配的图像采集参数采集图像数据。进而,图像传感器驱动模块可以将图像传感器按照与图像预览请求55匹配的预览图像帧55发送ISP模块,以通过ISP模块将预览图像帧55发送至相机HAL模块。其中,ISP模块可以对预览图像帧进行原始图像数据处理,例如图像去噪、图像优化等。
相机HAL模块接收到预览图像帧55之后,会将预览图像帧55存储于ZSL队列中,以待相机HAL模块将其在ZSL队列中取出经相机服务发送至相机应用中显示。
在相机应用预览区域420中显示预览图像的过程中,相机HAL模块会持续在ZSL 队列中读取预览图像,并通过Camera Server发送至相机应用中进行显示的。示例性的,参照图4b,相机HAL模块在ZSL队列中读取预览图像54,并将预览图像54通过Camera Server发送至相机应用中进行显示。
类似的,在上述流程中,相机HAL模块将接收到的图像拍摄请求存储于请求队列的操作,相机HAL模块在请求队列中读取图像预览请求下发至ISP模块的操作,以及相机 HAL模块在ZSL队列中读取预览图像帧经相机服务发送至相机应用的操作,是异步进行的。
响应于用户点击的快门控件的操作,如果相机应用生成多个图像拍摄请求,则相机应用需要依次将这个多个图像拍摄请求均发送至相机HAL模块,以存储于请求队列中待处理。示例性的,假设响应于用户点击的快门控件的操作,相机应用生成两个图像拍摄请求,如图像拍摄请求58和图像拍摄请求59。关于图像拍摄请求59的下发流程,可以参照图像拍摄请求58的下发流程,本实施例不再赘述。
继续参照图4b,待相机HAL模块在请求队列中读取到图像预览请求57之后,才会继续在请求队列中读取到图像拍摄请求58,以采集与图像拍摄请求58对应的拍摄图像帧 58。
待快门控件恢复使能的状态,相机应用继续按照预设频率生成图像预览请求,并通过相机服务向相机HAL模块下发图像预览请求,以使相机应用预览区域420中可以继续显示预览图像。
如图4c所示,示例性的,图像预览请求以及图像拍摄请求入请求队列的顺序依次为:图像预览请求56、图像预览请求57、图像拍摄请求58、图像拍摄请求59、图像预览请求60、图像预览请求61、图像预览请求62。相机HAL模块按照请求出队列的顺序依次获取每个图像预览请求或图像拍摄请求进行处理,以通过图像传感器采集到相应的图像预览请求或图像拍摄请求对应的图像帧。由此,图像帧的生成顺序依次为:预览图像帧 56、预览图像帧57、拍摄图像帧58、拍摄图像帧59、预览图像帧60、预览图像帧61、预览图像帧62。
其中,在多帧合成拍摄的场景中,为了实现“拍即视”的效果,预览图像帧是在ZSL队列中读取的,只需改变曝光参数重新采集图像拍照帧(如拍摄图像帧58、拍摄图像帧59)。然而,只有将请求队列中在图像拍摄请求之前入队列的各个图像预览请求处理完成之后,才会处理各个图像拍摄请求,这样无疑影响了改变曝光的图像拍摄帧的生成,产生了处理图像拍摄请求的通路延时。
为了解决上述问题,本申请实施例提供了一种拍照方法。其中,在改变曝光参数的拍照场景中,图像拍摄请求(其曝光参数与图像预览请求不同)在HAL中跳过请求队列中的各个图像预览请求,以插队的方式直接下发至ISP模块以通过图像传感器采集图像,以此缩短拍摄图像帧的出图时长。
如图5所示为各模块的交互示意图。参照图5,本申请实施例提供的拍照方法的流程,具体包括:
S601,相机应用向相机服务发送图像采集请求。
图像采集请求可以是图像预览请求,也可以是图像拍摄请求。
示例性的,响应于用户点击相机应用的图标,相机应用启动,向相机服务发送多个图像预览请求。其中,在相机应用显示预览图像的过程中,相机应用继续按照预设频率向相机服务发送图像预览请求。
又示例性的,响应于用户点击快门控件的操作,相机应用向相机服务发送图像拍摄请求。其中,在不同的拍摄模式下,相机应用发送的图像拍摄请求的数量可以是一个,也可以是多个,本实施例不做限定。
其中,图像采集请求中可以包括但不限于请求类型、曝光参数(如EV值、ISO值等)、分辨率、抖动量等。
为了提升最终输出的图像质量,图像预览请求和图像拍摄请求中携带的曝光参数不同,曝光参数包括但不限于EV值和ISO值。示例性的,当环境光较暗的时候,相机应用响应于用户的操作生成的图像拍摄请求中携带的曝光参数相比于图像预览请求中携带的曝光参数会更强,以使图像传感器基于图像拍摄请求采集到的图像帧的亮度会更高。又示例性的,当环境光较亮的时候,相机应用响应于用户的操作生成的图像拍摄请求中携带的曝光参数相比于图像预览请求中携带的曝光参数会更弱,以防止图像传感器基于图像拍摄请求采集到的图像帧过曝导致图像细节不清楚。由此,相对于图像预览请求,图像拍摄请求可以称之为改变图像曝光的拍摄请求。
S602,相机服务将图像采集请求发送至相机HAL模块。
相机服务接收到图像采集请求,执行与该图像采集请求对应的相关处理,例如创建相应的服务实例等,并将图像采集请求发送至相机HAL模块。其中,关于相机服务的相关处理,可以参照已有技术,在此不再赘述。
S603,相机HAL模块接收到图像采集请求。其中,若图像采集请求为图像预览请求,则将图像预览请求存储至请求队列,若图像采集请求为图像拍摄请求,则将图像拍摄请求存储至Bridge模块。
示例性的,相机HAL模块接收到图像采集请求之后,根据图像采集请求中携带的请求类型识别图像采集请求是图像预览请求还是图像拍摄请求。
如果接收到的是图像预览请求,相机HAL模块则将该图像预览请求存入请求队列中。其中,该请求队列为先进先出队列。
如果接收到的是图像拍摄请求,相机HAL模块则将该图像拍摄请求存入Bridge模块中。其中,Bridge模块仅为示例性的命名,也可以称之为优先模块、插队模块等等。
在本申请实施例中,Bridge模块是在***拍照通路中新增的模块,用于桥接相机HAL 模块和ISP模块。其中,Bridge模块是一个单实例类,用于存储图像拍摄请求(与图像预览请求的曝光参数不同)。示例性的,Bridge模块也可以通过先进先出队列来实现。
由此,与已有技术不同,相机HAL将接收到的图像预览请求和图像拍摄请求分别进行存储,而非都存入已有的请求队列中。
如图6a所示,示例性的,相机HAL接收到图像预览请求57之后,将图像预览请求 57存储至先进先出的请求队列中。
继续参照图6a,示例性的,相机HAL接收到图像拍摄请求58之后,将图像拍摄请求58存储至Bridge模块中。类似的,相机HAL接收到图像拍摄请求59之后,将图像拍摄请求59存储至Bridge模块中。其中,Bridge模块中的图像拍摄请求也是按照存入的先后顺序存储的。
S604,相机HAL模块在请求队列中读取图像预览请求,并将图像预览请求发送至ISP 模块。
相机HAL模块在请求队列中读取图像预览请求,向ISP发送指令以及相应的图像预览请求,以通过ISP模块执行相应的操作。
其中,相机HAL模块接收相机应用下发请求并存储,与相机HAL模块在请求队列中读取图像预览请求下发至ISP模块,是异步的流程。本实施例对S603和S604的执行顺序不做限定。
S605,ISP模块接收到图像预览请求后,读取Bridge模块中是否存在图像拍摄请求。
ISP模块接收到相机HAL模块下发的图像预览请求后,写入相应的寄存器。ISP模块在将该图像预览请求向图像传感器驱动模块下发之前,首先会读取Bridge模块中是否存在图像拍摄请求。
S606,若Bridge模块中不存在图像拍摄请求,则ISP模块将图像预览请求发送至图像传感器驱动模块。
ISP模块如果读取到Bridge模块中不存在图像拍摄请求,则直接将写入寄存器中的图像预览请求发送至图像传感器驱动模块,以使图像传感器可以根据相应的图像采集参数进行图像采集操作。
S607,若Bridge模块中存在图像拍摄请求,则ISP模块按顺序读取一个图像拍摄请求,并将图像拍摄请求发送至图像传感器驱动模块。
ISP模块如果读取到Bridge模块中存在图像拍摄请求,则会在Bridge模块读取一个图像拍摄请求,写入寄存器,并将该图像拍摄请求发送至图像传感器驱动模块,以使图像传感器可以根据相应的图像采集参数进行图像采集操作。
其中,当Bridge模块中只存在一个图像拍摄请求,则ISP模块读取该图像拍摄请求下发至图像传感器驱动模块;当Bridge模块中存在多个图像拍摄请求,则ISP模块会按照存入的先后顺序读取一个图像拍摄请求下发至图像传感器驱动模块。
S608,若Bridge模块中存在图像拍摄请求,则ISP模块丢弃图像预览请求。
相应的,ISP模块如果读取到Bridge模块中存在图像拍摄请求,则会将接收到的图像预览请求丢弃,即将写入寄存器中的那个图像预览请求丢弃。
这样,在Bridge模块中存在图像拍摄请求的情况下,原本ISP模块要下发给图像传感器驱动模块的那个图像预览请求会被图像拍摄请求替换掉,相应的图像拍摄请求会被下发至图像传感器驱动模块优先处理。
S609,图像传感器驱动模块根据图像预览请或图像拍摄请求对应的拍摄参数,采集图像帧,并将图像帧发送至ISP模块。
S610,ISP模块将图像帧发送至相机HAL模块。
S611,相机HAL模块将图像帧存储在ZSL队列中。
在一种具体的示例中,响应于用户点击快门控件的操作,相机应用下发两个图像拍摄请求(假设为图像拍摄请求58和图像拍摄请求59)。其中,图像拍摄请求的曝光参数与在此之前下发的图像预览请求的曝光参数不同。
如图6b所示,示例性的,相机HAL模块在请求队列中读取到图像预览请求56,发送至ISP模块。ISP模块在将图像预览请求56发送至图像传感器驱动模块之前,在Bridge 模块中读取到图像拍摄请求58,则将图像拍摄请求58发送至图像传感器驱动模块,并丢弃图像预览请求56。此时,图像传感器驱动模块根据与图像拍摄请求58对应的图像采集参数进行图像采集操作,得到与图像拍摄请求58对应拍摄图像帧58。由此,缩短了拍摄图像帧58的出图时长。
继续参照图6c,示例性的,相机HAL模块在请求队列中读取到图像预览请求57,发送至ISP模块。ISP模块在将图像预览请求57发送至图像传感器驱动模块之前,在 Bridge模块中读取到图像拍摄请求59,则将图像拍摄请求59发送至图像传感器驱动模块,并丢弃图像预览请求57。此时,图像传感器驱动模块根据与图像拍摄请求59对应的图像采集参数进行图像采集操作,得到与图像拍摄请求59对应拍摄图像帧59。由此,缩短了拍摄图像帧59的出图时长。
继续参照图6d,示例性的,相机HAL模块在请求队列中读取到图像预览请求60,发送至ISP模块。ISP模块在将图像预览请求60发送至图像传感器驱动模块之前,在 Bridge模块中未读取到图像拍摄请求,则将图像预览请求60发送至图像传感器驱动模块。此时,图像传感器驱动模块根据与图像预览请求60对应的图像采集参数进行图像采集操作,得到与图像预览请求60对应预览图像帧60。
这样,为了优化拍照,在改变曝光参数的拍照场景中,图像预览请求依旧存入请求队列中被依次处理,图像拍摄请求(其曝光参数与图像预览请求不同)不再存入请求队列按请求顺序处理,而是在HAL中跳过请求队列中的各个图像预览请求,以插队的方式直接下发至ISP模块以通过图像传感器采集图像,以此缩短了拍摄图像帧的出图时长。
在多帧融合的拍照场景中,由于图像拍摄请求跳过了请求队列中的各个图像预览请求,使得图像拍摄请求对应的拍摄图像帧与ZSL队列中的预览图像帧之间的帧间隔更小,进而使得用于合成最终输出图像的多帧图像的连续性更佳,多帧图像合成的图像效果更优。尤其是,在动态拍照的场景下,图像传感器采集到的图像帧可能存在“拖影”,因此,拍摄图像帧与预览图像帧之间的帧间隔越小,拍摄图像帧与预览图像帧之间的图像差异性就越小,使得通过多帧图像合成的最终图像的效果就越好,避免图像中出现动态模糊的问题。
如图7所示为各模块的交互示意图。参照图7,本申请实施例提供的拍照方法的流程,具体包括:
S701,响应于用户点击快门控件的操作,相机应用向相机服务发送图像拍摄请求。
其中,相机应用所处的拍摄模式不同,例如高亮顺光模式、高亮逆光模式、大光圈模式、人像模式、夜景模式等,与拍摄模式相应的多帧合成算法所需的改变曝光参数的拍摄图像帧的数量不一定相同,进而相机应用下发的图像拍摄请求的数量也不一定相同。本实施例对图像拍摄请求的数量不做限定。
示例性的,多帧合成算法需要7帧图像预览帧以及2帧改变曝光参数的拍摄图像帧,则相机应用依次下发两个图像拍摄请求。
又示例性的,多帧合成算法需要5帧图像预览帧以及4帧改变曝光参数的拍摄图像帧,则相机应用依次下发四个图像拍摄请求。
其中,不同图像拍摄请求对应的曝光参数也不一定相同,本实施例也不做限定。
S702,相机服务将图像拍摄请求发送至相机HAL模块。
相机服务接收到图像拍摄请求,执行与该图像拍摄请求对应的相关处理,例如创建相应的服务实例等,并将图像拍摄请求发送至相机HAL模块。其中,关于相机服务的相关处理,可以参照已有技术,在此不再赘述。
S703,相机HAL模块接收图像拍摄请求,并将图像拍摄请求存储至Bridge模块中。
与图像预览请求不同,如果接收到的是图像拍摄请求,相机HAL模块则将该图像拍摄请求存入Bridge模块中。
以相机应用依次下发两个图像拍摄请求为例,如图像拍摄请求58和图像拍摄请求59,则将图像拍摄请求58和图像拍摄请求59存储至HAL的Bridge模块中,可以参照图6a所示。其中,在此之前以及之后,相机应用下发的图像预览请求依旧是存储于HAL 的请求队列中。
S704,相机HAL模块在请求队列中读取图像预览请求,并将图像预览请求发送至ISP 模块。
其中,相机HAL模块接收相机应用下发请求并存储,与相机HAL模块在请求队列中读取图像预览请求下发至ISP模块,是异步的流程。本实施例对S703和S704的执行顺序不做限定。
S705,ISP模块接收到图像预览请求后,读取Bridge模块中是否存在图像拍摄请求。
S706,若Bridge模块中存在图像拍摄请求,则ISP模块在Bridge模块中按顺序读取一个图像拍摄请求,并将该图像拍摄请求发送至图像传感器驱动模块。
S707,ISP模块丢弃图像预览请求。
S708,图像传感器驱动模块根据图像拍摄请求对应的拍摄参数,采集拍摄图像帧,并将拍摄图像帧发送至ISP模块。
接续前例,参照图6b和图6c,图像预览请求56和图像预览请求57被丢弃,图像拍摄请求58和图像拍摄请求59以插队的形式被优先处理,缩短了拍摄图像帧58和拍摄图像帧59的出图时长。
S709,ISP模块将拍摄图像帧发送至相机HAL模块。
其中,ISP模块还可以对拍摄图像帧进行相应的图像处理,例如图像去噪,图像优化等,本实施例对此不做限定。关于ISP模块对图像帧的处理流程,可以参照已有技术,在此不再赘述。
S710,相机HAL模块将拍摄图像帧存储在ZSL队列中。
S711,相机HAL模块根据拍照场景对应的算法,在ZSL队列中获取相应数量的预览图像帧和拍摄图像帧,执行多帧融合操作,得到目标图像。
接续前例,相机HAL模块依次将生成的拍摄图像帧58和拍摄图像帧59存储至ZSL队列中。图8a示例性的示出了一种应用场景,如图8a所示,ZSL队列中存储的图像帧可以至少包括:预览图像帧49、预览图像帧50、预览图像帧51、预览图像帧52、预览图像帧53、预览图像帧54、预览图像帧55、拍摄图像帧58以及拍摄图像帧59。
在本示例中,多帧合成算法需要7帧图像预览帧以及2帧改变曝光参数的拍摄图像帧,则相机HAL可以基于预览图像帧49、预览图像帧50、预览图像帧51、预览图像帧 52、预览图像帧53、预览图像帧54、预览图像帧55、拍摄图像帧58以及拍摄图像帧59,采用相应的算法进行多帧融合,得到最终要输出的目标图像。
其中,图像拍摄请求58和图像拍摄请求59以插队的形式被优先处理,图像预览请求56和图像预览请求57被丢弃,缩短了预览图像帧55与拍摄图像帧58之间的帧间隔,使得用于多帧融合的这些图像帧连续性更佳,多帧图像合成的目标图像效果更优。尤其是,在动态拍照的场景下,拍摄图像帧与预览图像帧之间的帧间隔越小,拍摄图像帧与预览图像帧之间的图像差异性就越小,使得通过多帧图像合成的最终图像的效果就越好。
又示例性的,在某个拍摄模式下,响应于用户点击快门控件的操作,相机应用依次下发四个改变曝光参数的图像拍摄请求(如图像拍摄请求58、图像拍摄请求59、图像拍摄请求60以及图像拍摄请求61),则相机HAL模块会依次将生成的拍摄图像帧58、拍摄图像帧59、拍摄图像帧60和拍摄图像帧61存储至ZSL队列中。图8b示例性的示出了一种应用场景,如图8b所示,ZSL队列中存储的图像帧可以至少包括:预览图像帧 49、预览图像帧50、预览图像帧51、预览图像帧52、预览图像帧53、预览图像帧54、预览图像帧55、拍摄图像帧58、拍摄图像帧59、拍摄图像帧60以及拍摄图像帧61。
在本示例中,多帧合成算法需要5帧图像预览帧以及4帧改变曝光参数的拍摄图像帧,则相机HAL可以基于预览图像帧51、预览图像帧52、预览图像帧53、预览图像帧 54、预览图像帧55、拍摄图像帧58、拍摄图像帧59、拍摄图像帧60以及拍摄图像帧61,采用相应的算法进行多帧融合,得到最终要输出的目标图像。
其中,图像拍摄请求58、图像拍摄请求59、图像拍摄请求60及图像拍摄请求61以插队的形式被优先处理,图像预览请求56和图像预览请求57被丢弃,缩短了预览图像帧55与拍摄图像帧58之间的帧间隔,使得用于多帧融合的这些图像帧连续性更佳,多帧图像合成的目标图像效果更优。尤其是,在动态拍照的场景下,拍摄图像帧与预览图像帧之间的帧间隔越小,拍摄图像帧与预览图像帧之间的图像差异性就越小,使得通过多帧图像合成的最终图像的效果就越好。
S712,相机HAL模块将目标图像发送至相机服务。
S713,相机HAL模块生成目标图像的缩略图,并将目标图像的缩略图发送至相机服务。
本实施例对S712和S713的执行顺序不做限定。
S714,相机服务将目标图像发送至图库应用。
S715,相机服务将目标图像的缩略图发送至相机应用。
S716,图库应用存储目标图像。
S717,相机应用刷新缩略图的显示。
其中,在上述流程中,当相机应用展示预览窗口时,预览图像也会实时刷新。关于预览图像的刷新流程以及缩略图的刷新流程可以参照已有技术,在此不再赘述。
本流程未尽详细解释之处可以参照前文,在此不再赘述。
其中,图像传感器曝光一帧图像数据耗时一般在33ms,当改变曝光参数的拍摄图像帧向前插队两帧图像预览帧时,拍照时间整体可以缩减66ms。而且,用于多帧合成的各图像帧之间的帧间隔更小,合成的目标图像的效果更优。
需要指出是,在上述实施例中以相机应用为例进行解释说明的,其它具有相机功能的第三方应用亦是如此,在此不再赘述。
本实施例还提供一种计算机存储介质,该计算机存储介质中存储有计算机指令,当该计算机指令在电子设备上运行时,使得电子设备执行上述相关方法步骤实现上述实施例中的拍照方法。
本实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述相关步骤,以实现上述实施例中的拍照方法。
另外,本申请的实施例还提供一种装置,这个装置具体可以是芯片,组件或模块,该装置可包括相连的处理器和存储器;其中,存储器用于存储计算机执行指令,当装置运行时,处理器可执行存储器存储的计算机执行指令,以使芯片执行上述各方法实施例中的拍照方法。
其中,本实施例提供的电子设备(如手机等)、计算机存储介质、计算机程序产品或芯片均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
通过以上实施方式的描述,所属领域的技术人员可以了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。

Claims (9)

1.一种拍照方法,其特征在于,应用于电子设备中,包括:
显示目标应用的图像预览界面;其中,所述目标应用为具有相机功能的应用;在所述图像预览界面中显示的预览图像帧是基于所述目标应用持续下发的图像预览请求采集的;所述目标应用持续下发的图像预览请求存储于请求队列中,所述请求队列为先进先出队列;
响应于接收到的用户操作,目标应用生成图像拍摄请求;其中,所述图像拍摄请求的曝光参数与所述图像预览请求的曝光参数不同;所述图像拍摄请求被存储于目标模块中;
在所述请求队列中依次获取一个所述图像预览请求作为当前图像预览请求;
若在所述目标模块中按先入先出顺序读取到一个图像拍摄请求,所述图像拍摄请求的生成时间晚于所述当前图像预览请求的生成时间,则丢弃所述当前图像预览请求,并调用图像传感器采集与所述图像拍摄请求对应的拍摄图像帧;
若在所述目标模块中未读取到图像拍摄请求,则调用所述图像传感器采集与所述当前图像预览请求对应的预览图像帧。
2.根据权利要求1所述的方法,其特征在于,所述电子设备包括相机硬件抽象层HAL模块、图像信号处理ISP模块和图像传感器驱动模块,所述方法包括:
所述相机HAL模块在所述请求队列中依次获取一个所述图像预览请求,并将所述图像预览请求发送至所述ISP模块;
所述ISP模块接收所述图像预览请求;
所述ISP模块如果在所述目标模块中读取到图像拍摄请求,则将所述图像拍摄请求发送至所述图像传感器驱动模块,以使所述图像传感器驱动模块驱动所述图像传感器采集与所述图像拍摄请求对应的拍摄图像帧;
所述ISP模块如果在所述目标模块中未读取到图像拍摄请求,则将所述图像预览请求发送至所述图像传感器驱动模块,以使所述图像传感器驱动模块驱动所述图像传感器采集与所述图像预览请求对应的预览图像帧。
3.根据权利要求2所述的方法,其特征在于,还包括:
所述ISP模块如果在目标模块中读取到图像拍摄请求,则将所述图像预览请求丢弃。
4.根据权利要求2所述的方法,其特征在于,还包括:
所述相机HAL模块接收所述目标应用下发的图像预览请求或图像拍摄请求,并将所述图像预览请求存储在所述请求队列中,将所述图像拍摄请求存储于所述目标模块中。
5.根据权利要求2所述的方法,其特征在于,还包括:
所述ISP模块将所述图像传感器驱动模块反馈的预览图像帧或拍摄图像帧发送至所述相机HAL模块;
所述相机HAL模块依次将所述预览图像帧或所述拍摄图像帧存储于零秒延迟队列中。
6.根据权利要求5所述的方法,其特征在于,还包括:
在多帧合成拍摄的场景下,所述相机HAL模块在所述零秒延迟队列中读取相应数量的所述预览图像帧和所述拍摄图像帧,并采用与拍摄模式匹配的图像处理算法执行多帧图像合成操作,得到目标图像;其中,所述目标图像用于存储至图库应用。
7.根据权利要求1所述的方法,其特征在于,所述目标应用为相机应用。
8.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储器;
以及一个或多个计算机程序,其中所述一个或多个计算机程序存储在所述存储器上,当所述计算机程序被所述一个或多个处理器执行时,使得所述电子设备执行如权利要求1-7中任一项所述的拍照方法。
9.一种计算机可读存储介质,包括计算机程序,其特征在于,当所述计算机程序在电子设备上运行时,使得所述电子设备执行如权利要求1-7中任一项所述的拍照方法。
CN202211018122.4A 2022-08-24 2022-08-24 拍照方法及电子设备 Active CN116055857B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202211018122.4A CN116055857B (zh) 2022-08-24 2022-08-24 拍照方法及电子设备
PCT/CN2023/088068 WO2024040990A1 (zh) 2022-08-24 2023-04-13 拍照方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211018122.4A CN116055857B (zh) 2022-08-24 2022-08-24 拍照方法及电子设备

Publications (2)

Publication Number Publication Date
CN116055857A CN116055857A (zh) 2023-05-02
CN116055857B true CN116055857B (zh) 2023-11-24

Family

ID=86118827

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211018122.4A Active CN116055857B (zh) 2022-08-24 2022-08-24 拍照方法及电子设备

Country Status (2)

Country Link
CN (1) CN116055857B (zh)
WO (1) WO2024040990A1 (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116528038B (zh) * 2023-07-03 2023-10-20 荣耀终端有限公司 一种处理图像的方法、电子设备及存储介质
CN117692753A (zh) * 2023-08-25 2024-03-12 上海荣耀智慧科技开发有限公司 一种拍照方法及电子设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110719409A (zh) * 2019-11-07 2020-01-21 维沃移动通信有限公司 一种连拍方法及电子设备
CN112217990A (zh) * 2020-09-27 2021-01-12 北京小米移动软件有限公司 任务调度方法、任务调度装置及存储介质

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101838033B1 (ko) * 2011-11-25 2018-03-15 삼성전자 주식회사 사용자 디바이스의 영상 촬영 방법 및 장치
US9225904B2 (en) * 2012-02-13 2015-12-29 Htc Corporation Image capture method and image capture system thereof
CN110913138B (zh) * 2019-11-28 2021-03-02 Oppo广东移动通信有限公司 连拍方法、装置、终端及计算机可读存储介质
CN111447370B (zh) * 2020-05-19 2021-07-27 Oppo广东移动通信有限公司 摄像头访问方法、访问装置、终端设备及可读存储介质
US11825187B2 (en) * 2020-11-07 2023-11-21 Ping-Chun Wang Transferring preview streams of cameras

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110719409A (zh) * 2019-11-07 2020-01-21 维沃移动通信有限公司 一种连拍方法及电子设备
CN112217990A (zh) * 2020-09-27 2021-01-12 北京小米移动软件有限公司 任务调度方法、任务调度装置及存储介质

Also Published As

Publication number Publication date
CN116055857A (zh) 2023-05-02
WO2024040990A1 (zh) 2024-02-29

Similar Documents

Publication Publication Date Title
US11669242B2 (en) Screenshot method and electronic device
US11785329B2 (en) Camera switching method for terminal, and terminal
CN114205522B (zh) 一种长焦拍摄的方法及电子设备
WO2020073959A1 (zh) 图像捕捉方法及电子设备
CN115473957B (zh) 一种图像处理方法和电子设备
CN116055857B (zh) 拍照方法及电子设备
US20230276014A1 (en) Photographing method and electronic device
CN113891009B (zh) 曝光调整方法及相关设备
US20230353862A1 (en) Image capture method, graphic user interface, and electronic device
CN115967851A (zh) 快速拍照方法、电子设备及计算机可读存储介质
CN115964231A (zh) 基于负载模型的评估方法和装置
CN115150542A (zh) 一种视频防抖方法及相关设备
CN117135470B (zh) 拍摄方法、电子设备及存储介质
CN116708751B (zh) 一种拍照时长的确定方法、装置和电子设备
WO2021204103A1 (zh) 照片预览方法、电子设备和存储介质
CN117082295B (zh) 图像流处理方法、设备及存储介质
CN114143456B (zh) 拍照方法及装置
CN113382162B (zh) 一种视频拍摄方法及电子设备
WO2024078275A1 (zh) 一种图像处理的方法、装置、电子设备及存储介质
WO2022206600A1 (zh) 一种投屏方法、***及相关装置
CN114125197A (zh) 移动终端及其拍照方法
CN113452895A (zh) 一种拍摄方法及设备
CN115460343A (zh) 图像处理方法、设备及存储介质
CN117689796A (zh) 一种渲染处理方法及电子设备
CN116757963A (zh) 图像处理方法、电子设备、芯片***及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant