CN106254782A - 图像处理方法及装置和相机 - Google Patents
图像处理方法及装置和相机 Download PDFInfo
- Publication number
- CN106254782A CN106254782A CN201610862533.XA CN201610862533A CN106254782A CN 106254782 A CN106254782 A CN 106254782A CN 201610862533 A CN201610862533 A CN 201610862533A CN 106254782 A CN106254782 A CN 106254782A
- Authority
- CN
- China
- Prior art keywords
- frame
- image
- exposed images
- long exposure
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/62—Control of parameters via user interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种图像处理方法及装置和相机。该图像处理方法包括:采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧;对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上;以及对叠加视频分析结果后的长曝光图像帧进行编码。根据本发明实施例的图像处理方法及装置和相机采用长短交替曝光的方式采集图像,以获得长曝光图像帧和短曝光图像帧分别用于后期编码和算法分析,能够在保证算法分析准确度的基础上兼顾后端用户的查看体验。
Description
技术领域
本发明涉及图像处理技术领域,更具体地涉及一种图像处理方法及装置和相机。
背景技术
普通相机通常采用一个成像模组加一个处理单元来完成视频流或者图片的采集、分析、编码、存储、传输等任务。双目相机通常采用两个成像模组加上一个或者两个处理单元,在普通相机的基础上实现测量物体角度、距离等功能。
其中,成像模组通常包括图像传感器和图像信号处理器(Image SignalProcessor,缩写为ISP)。图像传感器用于采集图像,其每秒钟输出一定数目的图像帧,图像信号处理器通常用于对前端图像传感器输出的信号做处理。
然而,图像传感器在采集图像时采用的曝光时间对于算法分析和后端用户观看体验是一个矛盾:图像传感器延长曝光时间会使图像亮度增加,噪声会相对减少,从而后端用户观看体验好;但是由于曝光时间的延长,在物体运动时会有拖尾的现象,此时算法分析会降低准确度和分析速度。
因此,需要能够兼顾算法分析和后端用户观看体验的技术。
发明内容
考虑到上述问题而提出了本发明。根据本发明一方面,提供了一种图像处理方法,所述图像处理方法包括:采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧;对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上;以及对叠加视频分析结果后的长曝光图像帧进行编码。
在本发明的一个实施例中,所述图像处理方法还包括:在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧进行第一处理操作、并且对所述短曝光图像帧进行第二处理操作,其中,经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息。
在本发明的一个实施例中,所述图像处理方法还包括:在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧和所述短曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果。
在本发明的一个实施例中,所述第一处理操作包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。
在本发明的一个实施例中,所述第二处理操作包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换。
在本发明的一个实施例中,所述图像处理方法还包括:通过判断图像帧的亮度来确定获得的图像帧是短曝光图像帧还是长曝光图像帧。
在本发明的一个实施例中,所述图像处理方法还包括:基于短曝光和长曝光交替的采集图像的方式对获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。
在本发明的一个实施例中,所述对获得的图像帧进行标识包括对获得的图像帧标记时间戳。
在本发明的一个实施例中,所述图像处理方法还包括:基于对短曝光图像帧和长曝光图像帧的标识,将所述短曝光图像帧和所述长曝光图像帧分别存入不同的存储区域;并且所述对每一个所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与该短曝光图像帧紧邻的下一个长曝光图像帧上包括:从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;以及基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
在本发明的一个实施例中,所述图像处理方法还包括:在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
在本发明的一个实施例中,所述第一处理操作与所述第二处理操作并行进行。
在本发明的一个实施例中,所述图像处理方法在相机内部实现。
根据本发明另一方面,提供了一种图像处理装置,所述图像处理装置包括:图像信号处理单元,用于采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧;以及分析编码单元,用于对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上,以及对叠加视频分析结果后的长曝光图像帧进行编码。
在本发明的一个实施例中,所述图像信号处理单元还用于:在所述分析编码单元对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧进行第一处理操作、并且对所述短曝光图像帧进行第二处理操作,其中,经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息。
在本发明的一个实施例中,所述图像信号处理单元还用于:在所述分析编码单元对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧和所述短曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果。
在本发明的一个实施例中,所述图像信号处理单元所进行的所述第一处理操作包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。
在本发明的一个实施例中,所述图像信号处理单元所进行的所述第二处理操作包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换。
在本发明的一个实施例中,所述图像信号处理单元还用于:通过判断图像帧的亮度来确定获得的图像帧是短曝光图像帧还是长曝光图像帧。
在本发明的一个实施例中,所述图像信号处理单元还用于:基于短曝光和长曝光交替的采集图像的方式对获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。
在本发明的一个实施例中,所述图像信号处理单元对获得的图像帧进行标识包括对获得的图像帧标记时间戳。
在本发明的一个实施例中,所述图像信号处理单元还用于:基于对短曝光图像帧和长曝光图像帧的标识,将所述短曝光图像帧和所述长曝光图像帧分别存入不同的存储区域;并且所述分析编码单元还用于:从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;以及基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
在本发明的一个实施例中,所述分析编码单元还用于:在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
在本发明的一个实施例中,所述图像信号处理单元并行进行所述第一处理操作与所述第二处理操作。
在本发明的一个实施例中,所述图像处理装置在相机内部实现。
根据本发明又一方面,提供了一种相机,所述相机包括图像采集装置和上述任一项所述的图像处理装置。
根据本发明实施例的图像处理方法及装置和相机采用长短交替曝光的方式采集图像,以获得长曝光图像帧和短曝光图像帧分别用于后期编码和算法分析,能够在保证算法分析准确度的基础上兼顾后端用户的查看体验。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是用于实现根据本发明实施例的图像处理方法和装置的示例电子设备的示意性框图;
图2是根据本发明实施例的图像处理方法的示意性流程图;
图3是根据本发明另一实施例的图像处理方法的示意性流程图;
图4是根据本发明实施例的图像处理装置的示意性框图;
图5是根据本发明实施例的图像处理***的示意性框图;以及
图6是根据本发明实施例的相机的示意性框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
首先,参照图1来描述用于实现本发明实施例的图像处理方法和装置的示例电子设备100。
如图1所示,电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像传感器110,这些组件通过总线***112和/或其它形式的连接机构(未示出)互连。应当注意,图1所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音),并且可以包括显示器、扬声器等中的一个或多个。
所述图像传感器110可以拍摄用户期望的图像(例如照片、视频等),并且将所拍摄的图像存储在所述存储装置104中以供其它组件使用。
示例性地,用于实现根据本发明实施例的图像处理方法和装置的示例电子设备可以被实现为诸如智能手机、平板电脑、相机等。
下面,将参考图2描述根据本发明实施例的图像处理方法200。
在步骤S210,采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧。
在一个实施例中,可以控制图像采集装置采用短曝光时间和长曝光时间交替的曝光方式采集图像,例如可以由相机的图像信号处理器(ISP)控制其图像传感器采用短曝光时间和长曝光时间交替的曝光方式采集图像。再如,可以由智能手机、平板电脑等的处理器控制其摄像头采用短曝光时间和长曝光时间交替的曝光方式采集图像等。
其中,所述短曝光时间和所述长曝光时间是一个彼此相对的概念,不限定短曝光时间和长曝光时间各自的具体曝光时间,可以根据图像采集装置或其他需求来设置短曝光时间和长曝光时间各自的具体曝光时间。在一个示例中,长曝光时间比短曝光时间长40毫秒。在另一个示例中,图像传感器采用长曝光时间采集图像时每秒输出25帧或30帧图像数据;图像传感器采用短曝光时间采集图像时每秒输出50帧或60帧图像数据等。
在一个示例中,可以控制图像采集装置先以短曝光时间采集图像,后以长曝光时间采集图像,也就是说,所采集的图像帧按照短曝光图像帧、长曝光图像帧、短曝光图像帧、长曝光图像帧……的方式交替输出。这样可以避免在采集图像的第一帧出现物体运动的拖尾现象,从而避免对后续处理产生影响。根据待采集图像的对象的不同(例如静止对象等),在另一个示例中,也可以控制图像采集装置先以长曝光时间采集图像,后以短曝光时间采集图像。
在一个示例中,所控制的图像采集装置可以包括一个图像传感器,即可以控制该图像传感器采用短曝光时间和长曝光时间交替的曝光方式采集图像。在另一个示例中,所控制的图像采集装置可以包括两个图像传感器,即可以控制其中一个图像传感器采用短曝光时间采集图像,而控制另一个图像传感器采用长曝光时间采集图像,并且这两个图像传感器交替采集图像。
在步骤S220,对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上。
由于长曝光图像帧不利于算法分析,因此可对短曝光图像帧进行算法分析(诸如视频分析等)。使用短曝光图像帧进行算法分析相对于使用长曝光图像帧会提高算法分析的效率和准确度。在一个示例中,视频分析可以包括人脸检测和/或人脸识别。视频分析结果(例如人脸识别结果)可以包括该人脸对应对象的姓名、性别、年龄等。在其他示例中,视频分析也可以包括其他属于视频分析的内容。
在对短曝光图像帧进行视频分析后,可将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上。由于长短曝光帧的图像之间的时间间隔特别小,因此可以认为图像中的任一个物体(例如,人)在短曝光帧图像及紧邻的下一个长曝光帧图像之间的位移近似为零,即认为该物体在长短曝光帧交替时间内没有移动,仍然处于同一个位置坐标。基于此,可以将短曝光帧图像的视频分析结果(例如人脸检测结果或人脸识别结果)直接叠加到与该短曝光帧图像紧邻的下一个长曝光帧图像上。
在步骤S230,对叠加视频分析结果后的长曝光图像帧进行编码。
在一个示例中,对被叠加了视频分析结果的长曝光图像帧进行编码,例如进行H.264、MJPEG编码,或其他编码等,以用于后续的处理,例如固态硬盘(SSD)或串口硬盘(SATA)存储、网络传输、显示等。
由于长曝光图像帧曝光时间相对较长,图像亮度相对增加,噪声会相对减少,因此后端用户的查看体验得到了保证。此外,对不影响算法分析准确度的短曝光图像帧进行算法分析,因此保证了算法分析的准确度。经过算法分析后,将分析结果叠加在紧邻的下一长曝光图像帧上,该长曝光图像帧的图像数据连同被叠加的分析结果一起被编码,在经传输到后端解码后,可将图像连同分析结果同时显示出来。
基于上面的描述,根据本发明实施例的图像处理方法采用长短交替曝光的方式采集图像,以获得长曝光图像帧和短曝光图像帧分别用于后期编码和算法分析,能够在保证算法分析准确度的基础上兼顾后端用户的查看体验。
图3是根据本发明另一实施例的图像处理方法300的示意性流程图。如图3所示,根据本发明另一实施例的图像处理方法300可以包括以下步骤:
在步骤S310,采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧。
该步骤S310与关于图2所描述的图像处理方法200的步骤S210相似,为了简洁,此处不再赘述。
在步骤S320,对短曝光图像帧和长曝光图像帧进行图像处理。
为了进一步提高后期的图像质量,可在获得短曝光图像帧和长曝光图像帧之后,先对它们进行图像处理,再进行后续的视频分析、编码操作。
在一个示例中,可以对所获得的短曝光图像帧和长曝光图像帧进行相同的处理。例如,可以对所获得的短曝光图像帧和长曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果(例如,经过第一处理操作处理后的图像帧的清晰度大于预设阈值)。示例性地,第一处理操作可以包括图像信号处理器(ISP)对前端图像传感器输出信号所做的常规处理。例如,第一处理操作可以包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。对所获得的短曝光图像帧和长曝光图像帧执行这些操作可以使后端图像看起来舒服,提高后端用户的查看体验。
在另一个示例中,可以分别对所获得的短曝光图像帧和长曝光图像帧进行不同的处理。例如,可以对所获得的长曝光图像帧进行第一处理操作,并对所获得的短曝光图像帧进行第二处理操作。经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息(例如,经过第二处理操作处理后的图像帧不会丢失图像数据或者丢失的图像数据较少,如不会丢失图像像素,或者丢失的图像像素的数量在预设范围内,或者图像数据的频率响应变化在预设变化范围内)。示例性地,第一处理操作与述第二处理操作可以并行进行,以提高处理速度。
如上所述,第一处理操作可以包括图像信号处理器(ISP)对前端图像传感器输出信号所做的常规处理。例如,第一处理操作可以包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。第二处理操作可以仅包括第一处理操作的一部分,且所述部分的处理操作不会使短曝光图像帧丢失图像信息,或者仅使短曝光图像帧丢失最少图像信息以使其不会影响、甚至有利于后续算法分析的准确度。
由于第一处理操作中的一些操作(例如去噪声、图像锐化等)会导致图像数据中图像信息的丢失或改变图像的频率响应,这对于算法分析(例如对图像的视频分析等)是非常不利的。因此,对短曝光图像帧的图像处理仅包括第一处理操作中不会使短曝光图像帧丢失图像信息或者仅使短曝光图像帧丢失最少图像信息的部分,即对短曝光图像帧进行第二处理操作,有利于提高后续对短曝光图像帧进行视频分析时的分析速度和准确度。第二处理操作例如可以包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换等,这样的处理不会对算法分析造成不利影响。
在其他示例中,还可以对短曝光图像帧进行有利于算法分析的任何处理,也可以对长曝光图像帧进行有利于清晰显示、编码、传输等的任何处理。
在步骤S330,将经处理的短曝光图像帧和长曝光图像帧存储在不同的存储区域。
在对短曝光图像帧和长曝光图像帧进行图像处理后,可以将它们分别存储到不同的存储区域(例如将短曝光图像帧存储到内存1中,将长曝光图像帧存储到内存2中),便于后续处理时从各自的存储区域中取出使用。
此处,虽然将对短曝光图像帧和长曝光图像帧的存储步骤S330示出在对它们的处理步骤S320之后,但是其仅是示例性的,也可以先将从图像采集装置所获得的短曝光图像帧和长曝光图像帧存储在不同的存储区域,再对它们进行如步骤S320的处理。
在步骤S340,对短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上。
在步骤S350,对叠加视频分析结果后的长曝光图像帧进行编码。
步骤S340和S350分别与关于图2所描述的图像处理方法200的步骤S220和S230相似,为了简洁,此处不再赘述。
基于上面的描述,根据本发明实施例的图像处理方法300在获得长曝光图像帧和短曝光图像帧后先对其进行存储和图像处理,再分别用于后期编码和算法分析,能够进一步提高保证算法分析准确度,并进一步提高后端用户的查看体验。
根据本发明实施例,由于需要对所获得的短曝光图像帧和长曝光图像帧分别进行不同的处理(例如分别对其进行第二处理操作和第一处理操作,分别对其进行视频分析和编码),因此需要对从图像采集装置所获得的图像帧进行区分或判断。
在一个示例中,可以通过判断图像帧的亮度来确定从图像采集装置所获得的图像帧是短曝光图像帧还是长曝光图像帧。例如,长曝光帧图像的亮度会高于短曝光帧图像的亮度,因此,可以通过判断图像帧的亮度来确定是长曝光帧还是短曝光帧。在另一个示例中,通过判断图像帧的亮度来确定从图像采集装置所获得的图像帧是短曝光图像帧还是长曝光图像帧具体可以包括:判断图像帧的亮度是否大于或者等于第一阈值(例如,第一阈值等于128Lux),如果是,则该图像帧为长曝光图像帧,以及判断图像帧的亮度是否小于或者等于第二阈值(例如,第一阈值等于40Lux),如果是,则该图像帧为短曝光图像帧。
在另一个示例中,可以基于短曝光和长曝光交替的采集图像的方式对获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。例如,前面已经描述,可以控制图像采集装置先以短曝光时间采集图像,后以长曝光时间采集图像,或者先以长曝光时间采集图像,后以短曝光时间采集图像。基于这样的控制,可以事先已知所获得的图像帧的顺序。例如,控制图像采集装置先以短曝光时间采集图像,后以长曝光时间采集图像,则已知第一帧为短曝光图像帧,第二帧为长曝光图像帧,第三帧为短曝光图像帧,第四帧为长曝光图像帧……以此类推。那么,从图像采集装置接收图像帧时,可以基于这样的已知对从图像采集装置所获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。
示例性地,可以通过在图像帧上标记时间戳以将长短曝光帧区分开。例如,在控制图像采集装置交替长短曝光采集图像时,可以已知第一帧是长曝光帧还是短曝光帧。例如,假设第一帧为短曝光帧,则标记时间戳001。对应地,第二帧则为长曝光帧,则标记时间戳002。以此类推,则长曝光帧的时间戳均标记为偶数,短曝光帧的时间戳均标记为奇数,则可基于对短曝光图像帧和长曝光图像帧的标识,将所述短曝光图像帧和所述长曝光图像帧分别存入不同的存储区域。例如,将标记为奇数的图像帧存入内存1中,将标记为偶数的图像帧存入内存2中,再分别用于后续的处理。
采用时间戳对图像帧进行标识实现简单,方便快捷,不过其仅是示例性的,还可以为采用其他的标识方式来区分短曝光图像帧和长曝光图像帧。
基于对短曝光图像帧和长曝光图像帧的标识,当对每一个所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与该短曝光图像帧紧邻的下一个长曝光图像帧上时,可以从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;然后基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
根据本发明的实施例,图像处理方法200(或300)还可以包括以下步骤(未在图2(或图3)中示出):在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
以上示例性地描述了根据实施例的图像处理方法的详细过程。
示例性地,根据本发明实施例的图像处理方法可以在具有存储器和处理器的设备、装置或者***中实现。
根据本发明实施例的图像处理方法可以部署在个人终端处,诸如智能电话、平板电脑、个人计算机、相机等。例如,根据本发明实施例的图像处理方法可以在相机内部实现,原始图像数据可以来自图像传感器,所述第一处理操作可以由第一图像信号处理单元实现,所述第二处理操作可以由第二图像信号处理单元实现。替代地,根据本发明实施例的图像处理方法还可以部署在服务器端(或云端)。替代地,根据本发明实施例的图像处理方法还可以分布地部署在服务器端(或云端)和个人终端处。
图4示出了根据本发明实施例的图像处理装置400的示意性框图。
如图4所示,根据本发明实施例的图像处理装置400包括图像信号处理单元410和分析编码单元420。上述各个单元可分别执行上文中结合图2或图3描述的图像处理方法的各个步骤/功能。以下仅对该图像处理装置400的各部件的主要功能进行描述,而省略以上已经描述过的细节内容。
图像信号处理单元410用于采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧。分析编码单元420用于对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上,以及对叠加视频分析结果后的长曝光图像帧进行编码。图像信号处理单元410和分析编码单元420均可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
根据本发明实施例,图像信号处理单元410可以控制智能手机、平板电脑等的摄像头,或控制相机的图像传感器采用短曝光时间和长曝光时间交替的曝光方式采集图像等。
其中,所述短曝光时间和所述长曝光时间是一个彼此相对的概念,不限定短曝光时间和长曝光时间各自的具体曝光时间,可以根据图像采集装置或其他需求来设置短曝光时间和长曝光时间各自的具体曝光时间。
在一个示例中,图像信号处理单元410可以控制图像采集装置先以短曝光时间采集图像,后以长曝光时间采集图像。在另一个示例中,图像信号处理单元410也可以控制图像采集装置先以长曝光时间采集图像,后以短曝光时间采集图像。
在一个示例中,图像信号处理单元410所控制的图像采集装置可以包括一个图像传感器,即图像信号处理单元410可以控制该图像传感器采用短曝光时间和长曝光时间交替的曝光方式采集图像。在另一个示例中,图像信号处理单元410所控制的图像采集装置可以包括两个图像传感器,即图像信号处理单元410可以控制其中一个图像传感器采用短曝光时间采集图像,而控制另一个图像传感器采用长曝光时间采集图像,并且这两个图像传感器交替采集图像。从装置角度而言,例如被控制的图像传感器是相机内的图像传感器,相机内仅包括一个图像传感器用于由图像信号处理单元控制,相对于包括两个图像传感器,会节省体积,降低成本。
分析编码单元420对短曝光图像帧进行视频分析,由于长曝光图像帧不利于算法分析,因此使用短曝光图像帧进行算法分析相对于使用长曝光图像帧会提高算法分析的效率和准确度。在一个示例中,分析编码单元420所进行的视频分析可以包括人脸检测和/或人脸识别。视频分析结果(例如人脸识别结果)可以包括该人脸对应对象的姓名、性别、年龄等。在其他示例中,分析编码单元420所进行的视频分析也可以包括其他属于视频分析的内容。
在对短曝光图像帧进行视频分析后,分析编码单元420将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上,并对叠加视频分析结果后的长曝光图像帧进行编码。
根据本发明实施例,在分析编码单元420对短曝光图像帧进行视频分析之前,图像信号处理单元410可先对短曝光图像帧和长曝光图像帧进行图像处理。
在一个示例中,图像信号处理单元410可以对所获得的短曝光图像帧和长曝光图像帧进行相同的处理。例如,图像信号处理单元410可以对所获得的短曝光图像帧和长曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果。示例性地,第一处理操作可以包括图像信号处理器(ISP)对前端图像传感器输出信号所做的常规处理。例如,第一处理操作可以包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。图像信号处理单元410对所获得的短曝光图像帧和长曝光图像帧执行这些操作可以使后端图像看起来舒服,提高后端用户的查看体验。
在另一个示例中,图像信号处理单元410可以分别对所获得的短曝光图像帧和长曝光图像帧进行不同的处理。例如,图像信号处理单元410可以对所获得的长曝光图像帧进行第一处理操作,并对所获得的短曝光图像帧进行第二处理操作。经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息。示例性地,第一处理操作与述第二处理操作可以并行进行,以提高处理速度。
如上所述,第一处理操作可以包括图像信号处理器(ISP)对前端图像传感器输出信号所做的常规处理,如上所述。第二处理操作可以仅包括第一处理操作的一部分。
由于第一处理操作中的一些操作(例如去噪声、图像锐化等)会导致图像数据中图像信息的丢失或改变图像的频率响应,这对于算法分析(例如对图像的视频分析等)是非常不利的。因此,对短曝光图像帧的图像处理仅包括第一处理操作中不会使短曝光图像帧丢失图像信息或者仅使短曝光图像帧丢失最少图像信息的部分,即对短曝光图像帧进行第二处理操作,有利于提高后续对短曝光图像帧进行视频分析时的分析速度和准确度。第二处理操作例如可以包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换等,这样的处理不会对算法分析造成不利影响。
在其他示例中,图像信号处理单元410还可以对短曝光图像帧进行有利于算法分析的任何处理,也可以对长曝光图像帧进行有利于清晰显示、编码、传输等的任何处理。
根据本发明实施例,在从图像采集装置获得短曝光图像帧和长曝光图像帧后,或者在对短曝光图像帧和长曝光图像帧进行上述处理操作后,图像信号处理单元410可以将短曝光图像帧和长曝光图像帧分别存入不同的存储区域,以用于在后续处理时从各自的存储区域取出使用。
根据本发明实施例,由于需要对所获得的短曝光图像帧和长曝光图像帧分别进行不同的处理(例如分别对其进行第二处理操作和第一处理操作,分别对其进行视频分析和编码),因此图像信号处理单元410需要对从图像采集装置所获得的图像帧进行区分或判断。
在一个示例中,图像信号处理单元410可以通过判断图像帧的亮度来确定从图像采集装置所获得的图像帧是短曝光图像帧还是长曝光图像帧。
在另一个示例中,图像信号处理单元410可以基于短曝光和长曝光交替的采集图像的方式对获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。例如,前面已经描述,图像信号处理单元410可以控制图像采集装置先以短曝光时间采集图像,后以长曝光时间采集图像,或者先以长曝光时间采集图像,后以短曝光时间采集图像。基于这样的控制,可以事先已知所获得的图像帧的顺序。例如,图像信号处理单元410控制图像采集装置先以短曝光时间采集图像,后以长曝光时间采集图像,则已知第一帧为短曝光图像帧,第二帧为长曝光图像帧,第三帧为短曝光图像帧,第四帧为长曝光图像帧……以此类推。那么,图像信号处理单元410从图像采集装置接收图像帧时,可以基于这样的已知对从图像采集装置所获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。示例性地,图像信号处理单元410可以通过在图像帧上标记时间戳以将长短曝光帧区分开。采用时间戳对图像帧进行标识实现简单,方便快捷,不过其仅是示例性的,还可以为采用其他的标识方式来区分短曝光图像帧和长曝光图像帧。
基于图像信号处理单元410对短曝光图像帧和长曝光图像帧的标识,当分析编码单元420对每一个所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与该短曝光图像帧紧邻的下一个长曝光图像帧上时,可以从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;然后基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
根据本发明的实施例,分析编码单元420还可以用于:在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
基于上面的描述,根据本发明实施例的图像处理装置采用长短交替曝光的方式采集图像,以获得长曝光图像帧和短曝光图像帧分别用于后期编码和算法分析,能够在保证算法分析准确度的基础上兼顾后端用户的查看体验。此外,根据本发明实施例的图像处理装置在获得长曝光图像帧和短曝光图像帧后先对其进行存储和图像处理,再分别用于后期编码和算法分析,能够进一步提高保证算法分析准确度,并进一步提高后端用户的查看体验。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的模块及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
图5示出了根据本发明实施例的图像处理***500的示意性框图。图像处理***500包括图像采集装置510、存储装置520以及处理器530。
其中,图像采集装置510经控制用于采用短曝光时间和长曝光时间交替的曝光方式采集图像。存储装置520存储用于实现根据本发明实施例的图像处理方法中的相应步骤的程序代码。处理器530用于运行存储装置530中存储的程序代码,以执行根据本发明实施例的图像处理方法的相应步骤,并且用于实现根据本发明实施例的图像处理装置中的相应模块。
在一个实施例中,在所述程序代码被处理器530运行时使得图像处理***500执行以下步骤:采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧;对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上;以及对叠加视频分析结果后的长曝光图像帧进行编码。
在一个实施例中,在所述程序代码被处理器530运行时还使得图像处理***500执行以下步骤:在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧进行第一处理操作、并且对所述短曝光图像帧进行第二处理操作,其中,经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息。
在一个实施例中,在所述程序代码被处理器530运行时还使得图像处理***500执行以下步骤:在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧和所述短曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果。
在一个示例中,所述第一处理操作可以包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。
在一个示例中,所述第二处理操作可以包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换。
在一个示例中,在所述程序代码被处理器530运行时还使得图像处理***500执行以下步骤:通过判断图像帧的亮度来确定获得的图像帧是短曝光图像帧还是长曝光图像帧。
在一个示例中,在所述程序代码被处理器530运行时还使得图像处理***500执行以下步骤:基于短曝光和长曝光交替的采集图像的方式对获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。
示例性地,对获得的图像帧进行标识包括对获得的图像帧标记时间戳。
在一个实施例中,在所述程序代码被处理器530运行时还使得图像处理***500执行以下步骤:基于对短曝光图像帧和长曝光图像帧的标识,将所述短曝光图像帧和所述长曝光图像帧分别存入不同的存储区域;并且所述对每一个所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与该短曝光图像帧紧邻的下一个长曝光图像帧上包括:从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;以及基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
在一个示例中,在所述程序代码被处理器530运行时还使得图像处理***500执行以下步骤:在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
在一个示例中,所述第一处理操作与所述第二处理操作并行进行。
在一个示例中,所述图像处理***500在相机内部实现。
此外,根据本发明实施例,还提供了一种存储介质,在所述存储介质上存储了程序指令,在所述程序指令被计算机或处理器运行时用于执行本发明实施例的图像处理方法的相应步骤,并且用于实现根据本发明实施例的图像处理装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合,例如一个计算机可读存储介质包含控制图像采集装置采用短曝光时间和长曝光时间交替的曝光方式采集图像的计算机可读的程序代码,另一个计算机可读存储介质包含对短曝光图像帧进行视频分析以及进行视频分析结果叠加的计算机可读的程序代码,又一个计算机可读存储介质包含对叠加视频分析结果后的长曝光图像帧进行编码的计算机可读的程序代码。
在一个实施例中,所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的图像处理装置的各个功能模块,并且/或者可以执行根据本发明实施例的图像处理方法。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:控制图像采集装置采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧;对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上;以及对叠加视频分析结果后的长曝光图像帧进行编码。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧进行第一处理操作、并且对所述短曝光图像帧进行第二处理操作,其中,经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧和所述短曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果。
在一个示例中,所述第一处理操作可以包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。
在一个示例中,所述第二处理操作可以包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换。
在一个示例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:通过判断图像帧的亮度来确定从所述图像采集装置所获得的图像帧是短曝光图像帧还是长曝光图像帧。
在一个示例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:基于图像采集装置短曝光和长曝光交替的采集图像的方式对从图像采集装置所获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。
示例性地,对从图像采集装置所获得的图像帧进行标识包括对从图像采集装置所获得的图像帧标记时间戳。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:基于对短曝光图像帧和长曝光图像帧的标识,将所述短曝光图像帧和所述长曝光图像帧分别存入不同的存储区域;并且所述对每一个所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与该短曝光图像帧紧邻的下一个长曝光图像帧上包括:从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;以及基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
在一个示例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
在一个示例中,所述第一处理操作与所述第二处理操作并行进行。
在一个示例中,所述存储介质在相机内部实现。
根据本发明实施例的图像处理装置中的各模块可以通过根据本发明实施例的图像处理的电子设备的处理器运行在存储器中存储的计算机程序指令来实现,或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。
根据本发明实施例的图像处理方法、装置、***以及存储介质控制图像采集装置采用长短交替曝光的方式采集图像,以获得长曝光图像帧和短曝光图像帧分别用于后期编码和算法分析,能够在保证算法分析准确度的基础上兼顾后端用户的查看体验。此外,根据本发明实施例的图像处理方法、装置、***以及存储介质在获得长曝光图像帧和短曝光图像帧后先对其进行存储和图像处理,再分别用于后期编码和算法分析,能够进一步提高保证算法分析准确度,并进一步提高后端用户的查看体验。
进一步地,根据本发明实施例,还提供了一种相机,如图6所示,所述相机600包括图像采集装置610和图像处理装置620。其中,图像处理装置620用于经控制而采用短曝光时间和长曝光时间交替的曝光方式采集图像。在一个示例中,图像采集装置610可以包括一个图像传感器(未在图6中示出),以用于由图像处理装置620控制其采用短曝光时间和长曝光时间交替的曝光方式采集图像。在另一个示例中,图像采集装置610也可以包括两个图像传感器(未在图6中示出),以用于由图像处理装置620控制其中一个图像传感器采用短曝光时间采集图像,而控制另一个图像传感器采用长曝光时间采集图像,并且控制这两个图像传感器交替采集图像。相对而言,相机内仅包括一个图像传感器用于由图像处理装置控制,相对于包括两个图像传感器,会节省体积,降低成本。图像处理装置620的具体结构和操作可以参见图4中关于根据本发明实施例的图像处理装置的描述,为了简洁,此处不再赘述。
根据本发明实施例的相机采用长短交替曝光的方式采集图像,以获得长曝光图像帧和短曝光图像帧分别用于后期编码和算法分析,能够在保证算法分析准确度的基础上兼顾后端用户的查看体验。此外,根据本发明实施例的相在获得长曝光图像帧和短曝光图像帧后先对其进行存储和图像处理,再分别用于后期编码和算法分析,能够进一步提高保证算法分析准确度,并进一步提高后端用户的查看体验。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本发明的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的物品分析设备中的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本发明的具体实施方式或对具体实施方式的说明,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。
Claims (25)
1.一种图像处理方法,其特征在于,所述图像处理方法包括:
采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧;
对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上;以及
对叠加视频分析结果后的长曝光图像帧进行编码。
2.根据权利要求1所述的图像处理方法,其特征在于,所述图像处理方法还包括:
在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,
并且对所述短曝光图像帧进行第二处理操作,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息。
3.根据权利要求1所述的图像处理方法,其特征在于,所述图像处理方法还包括:
在对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧和所述短曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果。
4.根据权利要求2或3所述的图像处理方法,其特征在于,所述第一处理操作包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。
5.根据权利要求2所述的图像处理方法,其特征在于,所述第二处理操作包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换。
6.根据权利要求1所述的图像处理方法,其特征在于,所述图像处理方法还包括:
通过判断图像帧的亮度来确定获得的图像帧是短曝光图像帧还是长曝光图像帧。
7.根据权利要求1或6所述的图像处理方法,其特征在于,所述图像处理方法还包括:基于短曝光和长曝光交替的采集图像的方式对获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。
8.根据权利要求7所述的图像处理方法,其特征在于,所述对获得的图像帧进行标识包括对获得的图像帧标记时间戳。
9.根据权利要求7所述的图像处理方法,其特征在于,
所述图像处理方法还包括:基于对短曝光图像帧和长曝光图像帧的标识,将所述短曝光图像帧和所述长曝光图像帧分别存入不同的存储区域;并且
所述对每一个所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与该短曝光图像帧紧邻的下一个长曝光图像帧上包括:从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;以及基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
10.根据权利要求1所述的图像处理方法,其特征在于,所述图像处理方法还包括:
在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
11.根据权利要求2所述的图像处理方法,其特征在于,所述第一处理操作与所述第二处理操作并行进行。
12.根据权利要求1所述的图像处理方法,其特征在于,所述图像处理方法在相机内部实现。
13.一种图像处理装置,其特征在于,所述图像处理装置包括:
图像信号处理单元,用于采用短曝光时间和长曝光时间交替的曝光方式采集图像,以交替地获得短曝光图像帧和长曝光图像帧;以及
分析编码单元,用于对所述短曝光图像帧进行视频分析、并将视频分析结果叠加在与所述短曝光图像帧紧邻的下一个长曝光图像帧上,以及对叠加视频分析结果后的长曝光图像帧进行编码。
14.根据权利要求13所述的图像处理装置,其特征在于,所述图像信号处理单元还用于:
在所述分析编码单元对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧进行第一处理操作、并且对所述短曝光图像帧进行第二处理操作,其中,经过所述第一处理操作处理后的所述长曝光图像帧具有更好的视觉效果,经过所述第二处理操作处理后的所述短曝光图像帧具有更多的可用于视频分析的信息。
15.根据权利要求13所述的图像处理装置,其特征在于,所述图像信号处理单元还用于:
在所述分析编码单元对所述短曝光图像帧进行视频分析之前,对所述长曝光图像帧和所述短曝光图像帧进行第一处理操作,经过所述第一处理操作处理后的所述长曝光图像帧和所述短曝光图像帧均具有更好的视觉效果。
16.根据权利要求14或15所述的图像处理装置,其特征在于,所述图像信号处理单元所进行的所述第一处理操作包括以下中的至少一种:自动增益、去噪声、自动白平衡、色彩滤波、色彩空间转换、图像锐化、对比度增强、以及边缘检测增强。
17.根据权利要求14所述的图像处理装置,其特征在于,所述图像信号处理单元所进行的所述第二处理操作包括以下中的至少一种:自动增益、自动白平衡、色彩滤波、以及色彩空间转换。
18.根据权利要求13所述的图像处理装置,其特征在于,所述图像信号处理单元还用于:通过判断图像帧的亮度来确定获得的图像帧是短曝光图像帧还是长曝光图像帧。
19.根据权利要求13或18所述的图像处理装置,其特征在于,所述图像信号处理单元还用于:基于短曝光和长曝光交替的采集图像的方式对获得的图像帧进行标识,以区分短曝光图像帧和长曝光图像帧。
20.根据权利要求19所述的图像处理装置,其特征在于,所述图像信号处理单元对获得的图像帧进行标识包括对获得的图像帧标记时间戳。
21.根据权利要求19所述的图像处理装置,其特征在于,
所述图像信号处理单元还用于:基于对短曝光图像帧和长曝光图像帧的标识,将所述短曝光图像帧和所述长曝光图像帧分别存入不同的存储区域;并且
所述分析编码单元还用于:从存有所述短曝光图像帧的存储区域获取任一个所述短曝光图像帧,并对该短曝光图像帧进行视频分析,得到视频分析结果;以及基于所述获取的短曝光图像帧的标识,从存有长曝光图像帧的存储区域获取与所述短曝光帧紧邻的下一个长曝光图像帧,将所述视频分析结果叠加至该长曝光图像帧上。
22.根据权利要求13所述的图像处理装置,其特征在于,所述分析编码单元还用于:在对叠加视频分析结果后的长曝光图像帧进行编码后,存储和/或传输该长曝光图像帧。
23.根据权利要求14所述的图像处理装置,其特征在于,所述图像信号处理单元并行进行所述第一处理操作与所述第二处理操作。
24.根据权利要求13所述的图像处理装置,其特征在于,所述图像处理装置在相机内部实现。
25.一种相机,其特征在于,所述相机包括图像采集装置和权利要求13-24中的任一项所述的图像处理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610862533.XA CN106254782A (zh) | 2016-09-28 | 2016-09-28 | 图像处理方法及装置和相机 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610862533.XA CN106254782A (zh) | 2016-09-28 | 2016-09-28 | 图像处理方法及装置和相机 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106254782A true CN106254782A (zh) | 2016-12-21 |
Family
ID=57612072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610862533.XA Pending CN106254782A (zh) | 2016-09-28 | 2016-09-28 | 图像处理方法及装置和相机 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106254782A (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109413335A (zh) * | 2017-08-16 | 2019-03-01 | 福州瑞芯微电子股份有限公司 | 一种双重曝光合成hdr图像的方法和装置 |
CN110893096A (zh) * | 2018-09-12 | 2020-03-20 | 上海逸思医学影像设备有限公司 | 一种基于图像曝光的多光谱成像***和方法 |
WO2020103786A1 (zh) * | 2018-11-23 | 2020-05-28 | 华为技术有限公司 | 多路视频流生成方法及装置 |
CN113170158A (zh) * | 2018-11-19 | 2021-07-23 | 杜比实验室特许公司 | 视频编码器和编码方法 |
CN113347368A (zh) * | 2020-03-03 | 2021-09-03 | 华为技术有限公司 | 一种基于曝光控制的视频采集方法及装置 |
CN113382162A (zh) * | 2021-04-28 | 2021-09-10 | 荣耀终端有限公司 | 一种视频拍摄方法及电子设备 |
CN113840160A (zh) * | 2021-09-29 | 2021-12-24 | 重庆紫光华山智安科技有限公司 | 事件数据传输方法、***、电子设备及可读存储介质 |
CN113891012A (zh) * | 2021-09-17 | 2022-01-04 | 北京极豪科技有限公司 | 一种图像处理方法、装置、设备以及存储介质 |
CN114173064A (zh) * | 2021-12-07 | 2022-03-11 | 天地伟业技术有限公司 | 一种多重曝光方法、装置及电子设备 |
CN114339062A (zh) * | 2021-12-29 | 2022-04-12 | 盯盯拍(深圳)技术股份有限公司 | 一种提升特定区域图像清晰度的方法、装置及电子设备 |
WO2022140897A1 (zh) * | 2020-12-28 | 2022-07-07 | 深圳元戎启行科技有限公司 | 图像生成方法、装置、计算机设备和存储介质 |
WO2023279457A1 (zh) * | 2021-07-05 | 2023-01-12 | 深圳市阿达视高新技术有限公司 | 高动态范围图像合成方法、***、图像处理设备和介质 |
CN117135469A (zh) * | 2023-02-23 | 2023-11-28 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
CN117135455A (zh) * | 2023-02-14 | 2023-11-28 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101764959A (zh) * | 2008-12-25 | 2010-06-30 | 昆山锐芯微电子有限公司 | 图像拾取***及图像处理方法 |
JP2014030073A (ja) * | 2012-07-31 | 2014-02-13 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
CN104134352A (zh) * | 2014-08-15 | 2014-11-05 | 青岛比特信息技术有限公司 | 基于长短曝光结合的视频车辆特征检测***及其检测方法 |
CN104851079A (zh) * | 2015-05-06 | 2015-08-19 | 中国人民解放军国防科学技术大学 | 基于噪声/模糊图像对的低照度车牌图像恢复方法 |
CN104966071A (zh) * | 2015-07-03 | 2015-10-07 | 武汉烽火众智数字技术有限责任公司 | 一种基于红外补光的夜间车牌检测和识别方法以及装置 |
-
2016
- 2016-09-28 CN CN201610862533.XA patent/CN106254782A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101764959A (zh) * | 2008-12-25 | 2010-06-30 | 昆山锐芯微电子有限公司 | 图像拾取***及图像处理方法 |
JP2014030073A (ja) * | 2012-07-31 | 2014-02-13 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
CN104134352A (zh) * | 2014-08-15 | 2014-11-05 | 青岛比特信息技术有限公司 | 基于长短曝光结合的视频车辆特征检测***及其检测方法 |
CN104851079A (zh) * | 2015-05-06 | 2015-08-19 | 中国人民解放军国防科学技术大学 | 基于噪声/模糊图像对的低照度车牌图像恢复方法 |
CN104966071A (zh) * | 2015-07-03 | 2015-10-07 | 武汉烽火众智数字技术有限责任公司 | 一种基于红外补光的夜间车牌检测和识别方法以及装置 |
Non-Patent Citations (2)
Title |
---|
徐之海: "《现代成像***》", 30 September 2001 * |
韩建国: "《工程光学》", 30 September 2005 * |
Cited By (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109413335A (zh) * | 2017-08-16 | 2019-03-01 | 福州瑞芯微电子股份有限公司 | 一种双重曝光合成hdr图像的方法和装置 |
CN110893096A (zh) * | 2018-09-12 | 2020-03-20 | 上海逸思医学影像设备有限公司 | 一种基于图像曝光的多光谱成像***和方法 |
CN113170158A (zh) * | 2018-11-19 | 2021-07-23 | 杜比实验室特许公司 | 视频编码器和编码方法 |
CN113170158B (zh) * | 2018-11-19 | 2023-07-11 | 杜比实验室特许公司 | 视频编码器和编码方法 |
WO2020103786A1 (zh) * | 2018-11-23 | 2020-05-28 | 华为技术有限公司 | 多路视频流生成方法及装置 |
CN113347368A (zh) * | 2020-03-03 | 2021-09-03 | 华为技术有限公司 | 一种基于曝光控制的视频采集方法及装置 |
CN113347368B (zh) * | 2020-03-03 | 2023-04-18 | 华为技术有限公司 | 一种基于曝光控制的视频采集方法及装置 |
WO2022140897A1 (zh) * | 2020-12-28 | 2022-07-07 | 深圳元戎启行科技有限公司 | 图像生成方法、装置、计算机设备和存储介质 |
CN113382162B (zh) * | 2021-04-28 | 2022-06-07 | 荣耀终端有限公司 | 一种视频拍摄方法及电子设备 |
CN113382162A (zh) * | 2021-04-28 | 2021-09-10 | 荣耀终端有限公司 | 一种视频拍摄方法及电子设备 |
WO2023279457A1 (zh) * | 2021-07-05 | 2023-01-12 | 深圳市阿达视高新技术有限公司 | 高动态范围图像合成方法、***、图像处理设备和介质 |
CN113891012A (zh) * | 2021-09-17 | 2022-01-04 | 北京极豪科技有限公司 | 一种图像处理方法、装置、设备以及存储介质 |
CN113891012B (zh) * | 2021-09-17 | 2024-05-28 | 天津极豪科技有限公司 | 一种图像处理方法、装置、设备以及存储介质 |
CN113840160A (zh) * | 2021-09-29 | 2021-12-24 | 重庆紫光华山智安科技有限公司 | 事件数据传输方法、***、电子设备及可读存储介质 |
CN113840160B (zh) * | 2021-09-29 | 2023-09-29 | 重庆紫光华山智安科技有限公司 | 事件数据传输方法、***、电子设备及可读存储介质 |
CN114173064A (zh) * | 2021-12-07 | 2022-03-11 | 天地伟业技术有限公司 | 一种多重曝光方法、装置及电子设备 |
CN114173064B (zh) * | 2021-12-07 | 2024-04-09 | 天地伟业技术有限公司 | 一种多重曝光方法、装置及电子设备 |
CN114339062A (zh) * | 2021-12-29 | 2022-04-12 | 盯盯拍(深圳)技术股份有限公司 | 一种提升特定区域图像清晰度的方法、装置及电子设备 |
CN117135455A (zh) * | 2023-02-14 | 2023-11-28 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
CN117135469A (zh) * | 2023-02-23 | 2023-11-28 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
CN117135469B (zh) * | 2023-02-23 | 2024-07-12 | 荣耀终端有限公司 | 一种图像处理方法及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106254782A (zh) | 图像处理方法及装置和相机 | |
US11107205B2 (en) | Techniques for convolutional neural network-based multi-exposure fusion of multiple image frames and for deblurring multiple image frames | |
CN106650662A (zh) | 目标对象遮挡检测方法及装置 | |
US10949952B2 (en) | Performing detail enhancement on a target in a denoised image | |
CN108875486A (zh) | 目标对象识别方法、装置、***和计算机可读介质 | |
CN106203305A (zh) | 人脸活体检测方法和装置 | |
CN106934376B (zh) | 一种图像识别方法、装置及移动终端 | |
CN110189285A (zh) | 一种多帧图像融合方法及装置 | |
CN106454079A (zh) | 图像处理方法及装置和相机 | |
CN106952303A (zh) | 车距检测方法、装置和*** | |
CN108764039B (zh) | 神经网络、遥感影像的建筑物提取方法、介质及计算设备 | |
CN102113017A (zh) | 使用边缘检测产生深度数据的***及方法 | |
CN107844794A (zh) | 图像识别方法和装置 | |
CN108875535A (zh) | 图像检测方法、装置和***及存储介质 | |
CN111079507B (zh) | 一种行为识别方法及装置、计算机装置及可读存储介质 | |
CN107909016A (zh) | 一种卷积神经网络生成方法及车系识别方法 | |
CN112749666B (zh) | 一种动作识别模型的训练及动作识别方法与相关装置 | |
CN109089046A (zh) | 图像降噪方法、装置、计算机可读存储介质及电子设备 | |
CN108921876A (zh) | 视频处理方法、装置和***及存储介质 | |
CN110461215A (zh) | 使用便携式设备确定健康标志 | |
CN108875519B (zh) | 对象检测方法、装置和***及存储介质 | |
CN107908998B (zh) | 二维码解码方法、装置、终端设备及计算机可读存储介质 | |
CN106203425A (zh) | 字符识别方法及装置 | |
CN106331518A (zh) | 图像处理方法及装置和电子*** | |
CN108764371A (zh) | 图像处理方法、装置、计算机可读存储介质和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313 Applicant after: MEGVII INC. Applicant after: Beijing maigewei Technology Co., Ltd. Address before: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313 Applicant before: MEGVII INC. Applicant before: Beijing aperture Science and Technology Ltd. |
|
CB02 | Change of applicant information | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20161221 |
|
RJ01 | Rejection of invention patent application after publication |