CN108492266A - 图像处理方法、装置、存储介质及电子设备 - Google Patents
图像处理方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN108492266A CN108492266A CN201810222001.9A CN201810222001A CN108492266A CN 108492266 A CN108492266 A CN 108492266A CN 201810222001 A CN201810222001 A CN 201810222001A CN 108492266 A CN108492266 A CN 108492266A
- Authority
- CN
- China
- Prior art keywords
- image
- face
- face information
- preview
- recognition module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 31
- 230000001815 facial effect Effects 0.000 claims abstract description 57
- 238000012545 processing Methods 0.000 claims description 65
- 239000000872 buffer Substances 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 14
- 239000000463 material Substances 0.000 claims description 10
- 238000012163 sequencing technique Methods 0.000 claims description 9
- 239000000284 extract Substances 0.000 claims description 4
- 238000012360 testing method Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 8
- 230000007613 environmental effect Effects 0.000 description 6
- 230000005611 electricity Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000011946 reduction process Methods 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 230000004069 differentiation Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000006467 substitution reaction Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000006641 stabilisation Effects 0.000 description 2
- 238000011105 stabilization Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/30—Noise filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
- H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
本申请实施例公开了一种图像处理方法、装置、存储介质及电子设备,其中,本申请实施例首先获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;然后获取人脸识别模块完成人脸识别操作所需的识别时长;再确定距离当前时刻该识别时长之前、历史时刻的第二预览图像;最后解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定。采用本申请提供的技术方案,可以使得预览图像所绑定的人脸信息集合是与其所匹配的,能够准确的描述其中人脸图像的人脸特征,从而达到提高图像处理准确度的目的。
Description
技术领域
本申请涉及图像处理技术领域,具体涉及一种图像处理方法、装置、存储介质及电子设备。
背景技术
电子设备除了提供基础的图像拍摄功能之外,还进一步提供了图像处理功能,比如,可以对图像中的人脸进行美化和修饰等。实现图像处理的前提是识别到图像中的人脸信息,目前,电子设备在开启摄像头后,实时通过摄像头采集外部场景的图像,并将采集到这些图像作为外部场景的预览图像进行展示,同时将采集到的图像送入内部集成的人脸识别模块进行人脸识别,并在人脸识别模块输出人脸信息时,将该人脸信息与该时刻的预览图像绑定。但是,若该人脸信息并不是从该时刻的预览图像中识别得到的,则将影响后续对该预览图像进行图像处理的准确度。
发明内容
本申请实施例提供了一种图像处理方法、装置、存储介质及电子设备,能够提高图像处理的准确度。
第一方面,本申请实施例了提供了的一种图像处理方法,包括:
获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;
获取所述人脸识别模块完成人脸识别操作所需的识别时长;
确定距离当前时刻所述识别时长之前、历史时刻的第二预览图像;
解除所述第一人脸信息集合与所述第一预览图像的绑定关系,并将所述第一人脸信息集合与所述第二预览图像绑定。
第二方面,本申请实施例了提供了的一种图像处理装置,包括:
信息获取模块,用于获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;
时长获取模块,用于获取所述人脸识别模块完成人脸识别操作所需的识别时长;
图像确定模块,用于确定距离当前时刻所述识别时长之前、历史时刻的第二预览图像;
关系绑定模块,用于解除所述第一人脸信息集合与所述第一预览图像的绑定关系,并将所述第一人脸信息集合与所述第二预览图像绑定。
第三方面,本申请实施例提供的存储介质,其上存储有计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如本申请任一实施例提供的图像处理方法。
第四方面,本申请实施例提供了一种电子设备,包括中央处理器、存储器和人脸识别模块,所述人脸识别模块被配置为对输入图像进行人脸识别操作,并输出人脸信息集合,所述存储器有计算机程序,所述中央处理器通过调用所述计算机程序,用于执行如本申请任一实施例提供的图像处理方法;
本申请实施例首先获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;然后获取人脸识别模块完成人脸识别操作所需的识别时长;再确定距离当前时刻该识别时长之前、历史时刻的第二预览图像;最后解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定。采用本申请提供的技术方案,可以使得预览图像所绑定的人脸信息集合是与其所匹配的,能够准确的描述其中人脸图像的人脸特征,从而达到提高图像处理准确度的目的。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的图像处理方法的一个流程示意图。
图2是本申请实施例中某场景中人物的示意图。
图3是本申请实施例中触发图像拍摄请求的操作示意图。
图4是本申请实施例中选取待处理第一图像并对待处理第一图像进行预设处理的示例图。
图5是本申请实施例中提供的图像处理方法的另一个流程示意图。
图6是本申请实施例中提供的图像处理方法的又一个流程示意图。
图7是本申请实施例提供的图像处理装置的一结构示意图。
图8是本申请实施例提供的电子设备的一个结构示意图。
图9是本申请实施例提供的电子设备的另一结构示意图。
图10是本申请实施例中图像处理电路的细化结构示意图。
具体实施方式
请参照图式,其中相同的组件符号代表相同的组件,本申请的原理是以实施在一适当的运算环境中来举例说明。以下的说明是基于所例示的本申请具体实施例,其不应被视为限制本申请未在此详述的其它具体实施例。
在以下的说明中,本申请的具体实施例将参考由一部或多部计算机所执行的步骤及符号来说明,除非另有述明。因此,这些步骤及操作将有数次提到由计算机执行,本文所指的计算机执行包括了由代表了以一结构化型式中的数据的电子信号的计算机处理单元的操作。此操作转换该数据或将其维持在该计算机的内存***中的位置处,其可重新配置或另外以本领域测试人员所熟知的方式来改变该计算机的运作。该数据所维持的数据结构为该内存的实***置,其具有由该数据格式所定义的特定特性。但是,本申请原理以上述文字来说明,其并不代表为一种限制,本领域测试人员将可了解到以下所述的多种步骤及操作亦可实施在硬件当中。
本文所使用的术语“模块”可看做为在该运算***上执行的软件对象。本文所述的不同组件、模块、引擎及服务可看做为在该运算***上的实施对象。而本文所述的装置及方法可以以软件的方式进行实施,当然也可在硬件上进行实施,均在本申请保护范围之内。
本申请中的术语“第一”、“第二”和“第三”等是用于区别不同对象,而不是用于描述特定顺序。此外,术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或模块的过程、方法、***、产品或设备没有限定于已列出的步骤或模块,而是某些实施例还包括没有列出的步骤或模块,或某些实施例还包括对于这些过程、方法、产品或设备固有的其它步骤或模块。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
本申请实施例提供一种图像处理方法,该图像处理方法的执行主体可以是本申请实施例提供的图像处理装置,或者集成了该图像处理装置的电子设备,其中该图像处理装置可以采用硬件或者软件的方式实现。其中,电子设备可以是智能手机、平板电脑、掌上电脑、笔记本电脑、或者台式电脑等设备。
请参阅图1,图1为为本申请实施例提供的图像处理方法的流程示意图。本申请实施例提供的图像处理方法的具体流程可以如下:
在步骤101中,获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合。
需要说明的是,在具体实施时,人脸识别模块可以采用硬件或者软件的方式实现,本申请实施例对此不做具体限制。其中,人脸识别模块可以对电子设备采集到的图像进行人脸识别操作,得到对应该图像的人脸信息集合。某图像中包括3个不同人物的人脸图像,则人脸识别模块对该图像进行识别后,输出的人脸信息集合中包括分别描述这3个不同人物的人脸特征的人脸信息,人脸信息包括但不限于人脸大小、人脸位置、眼睛开合度和表情类型(如生气、厌恶、恐惧、高兴、悲伤和吃惊等)等。需要说明的是,人脸识别模块输出的人脸信息集合中可以存在对应多个不同人物的人脸信息,也可仅存在一个人物的人脸信息。
此外,对于人脸识别模块采用何种人脸识别技术完成人脸操作,本申请实施例对此不做具体限制。
在本申请实施例中,电子设备会将采集到外部场景的预览图像实时送入人脸识别模块进行人脸识别,由于预览图像间的时间间隔为毫秒级,考虑到该时间间隔内人物的人脸特征通常不会发生较大变化,人脸识别模块被默认配置为:在完成对输入预览图像的人脸识别操作且得到输入预览图像的人脸信息集合时,会将输出的人脸信息集合与当前时刻的预览图像进行绑定,作为从当前时刻的预览图像中识别得到的人脸信息集合。
其中,为便于区分,将当前时刻的预览图像记为第一预览图像,将人脸识别模块输出的、与第一预览图像绑定的人脸信息集合记为第一人脸信息集合。
在步骤102中,获取人脸识别模块完成人脸识别操作所需的识别时长。
其中,人脸识别模块完成人脸识别操作所需的识别时长可以预先测试得到,并将测试得到的识别时长存储在本地。这样,在需要获取人脸识别模块完成人脸识别操作所需的识别时长时,提取本地预先存储的识别时长即可。
比如,可以首先提供多个分辨率相同的、包括人脸图像的测试图像;然后分别将这些测试图像输入到人脸识别模块中进行识别,并记录各测试图像从输入、到人脸识别模块输出相应的人脸信息集合的时长,作为人脸识别模块对各测试图像的识别时长,由此得到多个识别时长;最后计算前述多个识别时长的平均识别时长,将计算得到的平均识别时长作为人脸识别模块完成人脸识别操作所需的识别时长。
在一些实施例中,也可以根据人脸识别模块的软件或硬件处理能力,确定该识别时长。
在步骤103中,确定距离当前时刻该识别时长之前、历史时刻的第二预览图像。
本申请实施例中,在获取到人脸识别模块完成人脸识别操作所需的时长之后,进一步根据该识别时长,确定距离当前时刻该识别时长之前、历史时刻的第二预览图像,也即是确定前述第一人脸信息集合对应的输入图像。
比如,在当前时刻t1获取到人脸识别模块输出的第一人脸信息集合,且人脸识别模块将该第一人脸信息集合与当前时刻的第一预览图像绑定;之后获取到人脸识别模块完成人脸识别操作所需的识别时长Δt;最后确定距离当前时刻t1该识别时长Δt之前、历史时刻t2(即t2=t1-Δt)的第二预览图像。
在步骤104中,解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与确定的第二预览图像绑定。
其中,由于第一人脸信息集合并非基于第一预览图像识别得到,此时解除第一人脸信息集合与第一预览图像的绑定关系,然后将第一人脸信息集合与确定的第二预览图像进行绑定,作为第二预览图像的人脸信息,用于描述第二预览图像中人脸图像的人脸特征。
请参照图2,在某场景中,包括“丙”、“丁”以及“戊”三个不同的人物,当电子设备启动摄像头并将摄像头对准该场景时,电子设备将通过摄像头按照设定的帧率实时对该场景进行图像采集,并将采集到的图像作为预览图像进行展示。于此同时,电子设备会将采集到预览图像实时送入到人脸识别模块进行人脸识别,人脸识别模块将输出识别得到的人脸信息集合,人脸信息集合中将包括丙、丁以及戊三人各自的人脸信息,比如,输出的人脸信息集合为{丙、丁、戊},其中丙代表人物丙的人脸信息,丁代表人物丁的人脸信息,戊代表人物戊的人脸信息。
但是,在实际使用中,对于同一场景在不同时刻的预览图像所对应的人脸信息集合,人脸信息集合中人脸信息的顺序可能不同,比如,对于某时刻的预览图像,人脸识别模块首先识别到了其中的丙,再识别到了其中的丁,最后识别到了其中的戊,如此得到的人脸信息集合为{丙、丁、戊};对于另一时刻的预览图像,人脸识别模块首先识别到了其中的丙,再识别到了其中的戊,最后识别到了其中的丁,如此得到的人脸信息集合为{丙’、戊’、丁’}。显然的,之前两个人脸信息集合中人脸信息的顺序并不相同,而人脸信息的顺序不同将导致无法正常进行图像处理,因此,需要对人脸信息集合中人脸信息的顺序进行调整,在一实施例中,将第一人脸信息集合与第二预览图像绑定之后,还包括:
获取人脸识别模块上一次输出的第二人脸信息集合中、人脸信息的排序信息;
根据获取到排序信息对第一人脸信息集合中人脸信息的顺序进行调整。
比如,人脸识别模块上一次输出的第二人脸信息集合为{丙、丁、戊},人脸识别模块输出的第一人脸信息集合为{丙’、戊’、丁’},其中,丙和丙’表示人物丙在不同时刻的人脸信息,丁和丁’表示人物丁在不同时刻的人脸信息,戊和戊’表示人物戊在不同时刻的人脸信息;此时,获取到第二人脸信息集合的排序信息为人物丙→人物丁→人物戊,根据该排序信息对第一人脸信息集合中人脸信息的顺序进行调整,得到调整后的第一人脸信息集合{丙’、丁’、戊’}。
为了提升人脸识别的效率,在一实施例中,获取人脸识别模块完成人脸识别操作所输出的第一人脸信息集合之前,还包括:
获取图像信号处理器输出的图像内容相同的第一图像和第二图像,其中,第一图像的分辨率大于第二图像的分辨率;
将第二图像输入人脸识别模块,指示人脸识别模块对第二图像进行人脸识别操作;
将第一图像作为预览图像存入预设的图像缓存队列中。
本申请实施例中,摄像头采集到的原始图像会传输至图像信号处理器进行初步处理,由图像信号处理器输出与该原始图像内容相同的第一图像和第二图像,其中,第一图像的分辨率大于第二图像的分辨率。
具体的,第一图像的分辨率与摄像头采集原始图像的分辨率相同(也即是电子设备配置的、拍摄图像的分辨率),第二图像的分辨率小于摄像头采集原始图像的分辨率。由于第一图像和第二图像的图像内容相同,若由人脸识别模块分别对第一图像和第二图像进行人脸识别,那么识别得到的两个人脸信息集合也将相同。由此,可以将分辨率较大的第一图像作为预览图像,用于展示和后续的图像处理,将分辨率较小的第二图像用于人脸识别,将从第二图像识别出的人脸信息集合作为第一图像的人脸信息集合,达到提高人脸识别效率的目的。
本申请实施例中,确定距离当前时刻识别时长之前、历史时刻的第二预览图像,包括:
确定存入时刻距离当前时刻的间隔为识别时长的第一图像;
将确定的第一图像作为第二预览图像。
比如,当前时刻t1获取到人脸识别模块输出的第一人脸信息集合,该第一人脸信息集合与当前时刻t1的预览图像绑定;然后获取到人脸识别模块完成人脸识别操作所需的识别时长为Δt;然后确定存入时刻为t2=t1-Δt的第一图像,将确定的第一图像作为前述第二预览图像;最后解除第一人脸信息集合与当前时刻t1的预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定,也即是与存入时刻t2的第一图像绑定。
可选的,在一实施例中,将第一人脸信息集合与第二预览图像绑定之后,还包括:
在接收到图像拍摄请求时,获取摄像头的帧率信息;
确定对应该帧率信息的目标个数,并从图像缓存队列中提取目标个数的第一图像,得到第一图像集合;
根据第一图像集合中各第一图像所绑定的人脸信息集合,从第一图像集合中确定出待处理第一图像,待处理第一图像包括至少一个符合预设条件的人脸图像;
根据第一图像集合中的其它第一图像对待处理第一图像进行预设处理;
将完成预设处理后的待处理第一图像作为图像拍摄请求的结果图像。
其中,对于图像拍摄请求的输入方式,本申请实施例不做具体限制。
比如,请参照图3,使用者在操作电子设备启动拍照类应用(比如电子设备的***应用“相机”)之后,通过移动电子设备,使得电子设备的摄像头对准待拍摄场景(待拍摄场景中包括图3所示的多个人物)之后,可以通过点击“相机”应用提供的“拍照”按键(为虚拟按键)触发图像拍摄请求。
又例如,使用者在操作电子设备启动拍照类应用之后,通过移动电子设备,使得电子设备的摄像头对准待拍摄场景之后,可以说出语音指令“拍照”,触发图像拍摄请求,或者是直接点击电子设备设置的物理拍照按键,触发图像拍摄请求。
本申请实施例中,在接收到图像拍摄请求时,获取摄像头的帧率信息,其中,帧率信息用于描述摄像头在单位时间内采集到图像的个数,比如,在获取到的帧率信息为30fps时,说明摄像头每秒采集待拍摄场景的30个图像,相应的,采集的这30个图像作为预览图像在一秒内依次展示;又比如,在获取到的帧率信息为15fps时,说明摄像头每秒采集待拍摄场景的15个图像,相应的,采集的这15个图像作为预览图像在一秒内依次展示。
其中,影响摄像头帧率信息的主要原因是环境光亮度,当环境光亮度较高(或者说电子设备处于亮光环境)时,摄像头可以在较短的曝光时间内(如30ms)完成曝光,使得其帧率较高;而当环境光亮度较低(或者说电子设备处于暗光环境)时,摄像头需要花费较长的曝光时间(如40ms-60ms,或更多)来完成曝光,使得其帧率较低。
之后,根据摄像头的帧率信息,确定对应该帧率信息的目标个数,其中,目标个数和帧率信息可以成正比关系,比如,在摄像头的帧率信息为30fps,可以确定目标个数为8,在摄像头的帧率信息为15fps时,可以确定目标个数为6。
在确定对应摄像头帧率信息的目标个数之后,从图像缓存队列中提取目标个数的第一图像,得到第一图像集合。
之后,根据第一图像集合中各第一图像所绑定的人脸信息集合,从第一图像集合中确定出待处理第一图像,待处理第一图像包括至少一个符合预设条件的人脸图像。
比如,在摄像头的帧率信息为30fps时,从图像缓存队列中提取8个第一图像,这8个第一图像构成第一图像集合。然后,可以根据第一图像集合中各第一图像所绑定的人脸信息集合,确定出一个第一图像作为待处理第一图像,该待处理第一图像包括至少一个符合预设条件的人脸图像。其中,预设条件可以是:待处理第一图像中某人物人脸图像的眼睛开合度、大于该人物在第一图像集合中各其它第一图像中人脸图像的眼睛开合度。
在确定待处理第一图像之后,根据第一图像集合中的其它第一图像对待处理第一图像进行预设处理,并将完成预设处理后的待处理第一图像作为图像拍摄请求的结果图像。
具体的,根据第一图像集合中的其它第一图像对待处理第一图像进行预设处理,包括:
根据待处理第一图像所绑定的人脸信息集合,确定待处理第一图像中不符合预设条件的待替换人脸图像;
从其它第一图像中确定出符合预设条件的目标人脸图像,且目标人脸图像和待替换人脸图像属于相同人物;
将待替换人脸图像替换为目标人脸图像。
比如,请参照图4,得到的第一图像集合包括A、B、C、D、E以及F共六个第一图像,根据各第一图像所绑定的人脸信息集合,获取到人物丙在这六个第一图像中的眼睛开合度分别为85、70、71、86、72、73,获取到人物丁在这六个第一图像中的眼睛开合度分别为71、72、73、87、71、61,获取到人物戊在这六个第一图像中的眼睛开合度分别为60、62、72、64、84、73。
对于丙而言,其眼睛开合度最大的人脸图像出现在第一图像A和第一图像D中,对于丁而言,其眼睛开合度最大的人脸图像出现在第一图像D中。对于戊而言,其眼睛开合度最大的图像出现在图像E中。由于第一图像D中出现了二个人的眼睛开合度最大的人脸图像,因此可以将第一图像D确定为待处理第一图像。
在将第一图像D确定为待处理第一图像后,进一步地将第一图像D中人物戊的人脸图像确定为待替换人脸图像;然后将第一图像E中戊的人脸图像(眼睛开合度最大)确定为目标人脸图像;然后,在待处理第一图像(即第一图像D)中,使用第一图像E中戊的人脸图像(即目标人脸图像)替换掉第一图像D中戊的人脸图像,从而得到经过图像替换处理后的第一图像D。如图4所示,处理后的第一图像D中各人物的眼睛开合度均较大。
可选的,在其他实施例中,将完成预设处理后的待处理第一图像作为图像拍摄请求的结果图像之前,还包括:
对完成预设处理后的待处理第一图像进行降噪处理。
其中,可以采用多帧降噪的方式对待处理第一图像进行降噪处理。比如,第一图像D被确定为待处理第一图像,那么可以根据包含第一图像D在内的连续采集的4个第一图像,对完成前述预设处理后的第一图像D进行多帧降噪处理。例如,可以根据第一图像C、第一图像E以及第一图像F对第一图像D进行多帧降噪。
在进行多帧降噪时,可以先将第一图像C、第一图像D、第一图像E以及第一图像F对齐,并获取每一组对齐像素的像素值。若同一组对齐像素的像素值相差不多,那么可以计算这组对齐像素的像素值均值,再用该像素值均值替换掉第一图像D的对应像素的像素值。若同一组对齐像素的像素值相差较多,那么可以不对第一图像D中的像素值进行调整。
例如,第一图像C中的像素P1、第一图像D中的像素P2、第一图像E中的像素P3以及第一图像F中的像素P4是一组相互对齐的像素,其中P1的像素值为101,P2的像素值为102,P3的像素值为103,P4的像素值为104,那么这组相互对齐的像素的像素值均值为102.5,那么终端就可以将第一图像D中的P2像素的像素值由102调整为102.5,从而对第一图像D中的P2像素进行降噪处理。若P1的像素值为80,P2的像素值为102,P3的像素值为83,P4的像素值为90,那么由于它们的像素值相差较多,此时终端可以不调整P2的像素值,即P2的像素值保持102不变。
由上可知,本申请实施例首先获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;然后获取人脸识别模块完成人脸识别操作所需的识别时长;再确定距离当前时刻该识别时长之前、历史时刻的第二预览图像;最后解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定。采用本申请提供的技术方案,可以使得预览图像所绑定的人脸信息集合是与其所匹配的,能够准确的描述其中人脸图像的人脸特征,从而达到提高图像处理准确度的目的。
下面将在上述实施例描述的方法基础上,对本申请的图像处理方法做进一步介绍。请参照图5,该图像处理方法可以包括:
在步骤201中,获取图像信号处理器输出的图像内容相同的第一图像和第二图像,其中,第一图像的分辨率大于第二图像的分辨率。
本申请实施例中,摄像头采集到的原始图像会传输至图像信号处理器进行初步处理,由图像信号处理器输出与该原始图像内容相同的第一图像和第二图像,其中,第一图像的分辨率大于第二图像的分辨率。
具体的,第一图像的分辨率与摄像头采集原始图像的分辨率相同(也即是电子设备配置的、拍摄图像的分辨率),第二图像的分辨率小于摄像头采集原始图像的分辨率。由于第一图像和第二图像的图像内容相同,若由人脸识别模块分别对第一图像和第二图像进行人脸识别,那么识别得到的两个人脸信息集合也将相同。由此,可以将分辨率较大的第一图像作为预览图像,用于展示和后续的图像处理,将分辨率较小的第二图像用于人脸识别,达到提高人脸识别效率的目的。
在步骤202中,将第二图像输入人脸识别模块,指示人脸识别模块对第二图像进行人脸识别操作。
其中,将分辨率较小的第二图像输入人脸识别模块进行人脸识别,能够较快的得到第二图像的人脸信息集合。
在步骤203中,将第一图像作为预览图像存入预设的图像缓存队列中。
其中,将分辨率较大的第一图像作为预览图像存入预设的图像缓存队列中,用于展示,以及后续的图像处理。
需要说明的是,步骤202和步骤203可以同时进行。
在步骤204中,获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;
需要说明的是,在具体实施时,人脸识别模块可以采用硬件或者软件的方式实现,本申请实施例对此不做具体限制。其中,人脸识别模块可以对电子设备采集到的图像进行人脸识别操作,得到对应该图像的人脸信息集合。某图像中包括3个不同人物的人脸图像,则人脸识别模块对该图像进行识别后,输出的人脸信息集合中包括分别描述这3个不同人物的人脸特征的人脸信息,人脸信息包括但不限于人脸大小、人脸位置、眼睛开合度和表情类型(如生气、厌恶、恐惧、高兴、悲伤和吃惊等)等。需要说明的是,人脸识别模块输出的人脸信息集合中可以存在对应多个不同人物的人脸信息,也可仅存在一个人物的人脸信息。
此外,对于人脸识别模块采用何种人脸识别技术完成人脸操作,本申请实施例对此不做具体限制。
在本申请实施例中,电子设备会将采集到外部场景的预览图像实时送入人脸识别模块进行人脸识别,由于预览图像间的时间间隔为毫秒级,考虑到该时间间隔内人物的人脸特征通常不会发生较大变化,人脸识别模块被默认配置为:在完成对输入预览图像的人脸识别操作且得到输入预览图像的人脸信息集合时,会将输出的人脸信息集合与当前时刻的预览图像进行绑定,作为从当前时刻的预览图像中识别得到的人脸信息集合。
其中,为便于区分,将当前时刻的预览图像记为第一预览图像,将人脸识别模块输出的、与第一预览图像绑定的人脸信息集合记为第一人脸信息集合。
在步骤205中,获取人脸识别模块完成人脸识别操作所需的识别时长;
其中,人脸识别模块完成人脸识别操作所需的识别时长可以预先测试得到,并将测试得到的识别时长存储在本地。这样,在需要获取人脸识别模块完成人脸识别操作所需的识别时长时,提取本地预先存储的识别时长即可。
比如,可以首先提供多个分辨率相同的、包括人脸图像的测试图像;然后分别将这些测试图像输入到人脸识别模块中进行识别,并记录各测试图像从输入、到人脸识别模块输出相应的人脸信息集合的时长,作为人脸识别模块对各测试图像的识别时长,由此得到多个识别时长;最后计算前述多个识别时长的平均识别时长,将计算得到的平均识别时长作为人脸识别模块完成人脸识别操作所需的识别时长。
在一些实施例中,也可以根据人脸识别模块的软件或硬件处理能力,确定该识别时长。
在步骤206中,确定存入时刻距离当前时刻的间隔为该识别时长的第一图像。
比如,当前时刻t1获取到人脸识别模块输出的第一人脸信息集合,该第一人脸信息集合与当前时刻t1的预览图像绑定;然后获取到人脸识别模块完成人脸识别操作所需的识别时长为Δt;然后确定存入时刻为t2=t1-Δt的第一图像。
在步骤207中,解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与确定的第一图像绑定。
其中,由于第一人脸信息集合并非基于第一预览图像识别得到,而第一图像和第二图像的图像内容相同,因此可将从第二图像识别出的人脸信息集合作为第一图像的人脸信息集合,此时解除第一人脸信息集合与第一预览图像的绑定关系,然后将第一人脸信息集合与确定的第一图像进行绑定,作为该第一图像的人脸信息,用于描述第一图像中人脸图像的人脸特征。
请参照图6,在本申请图像处理方法的又一实施例中,该图像处理方法的可以包括:
在步骤301中,获取图像信号处理器输出的图像内容相同的第一图像和第二图像,其中,第一图像的分辨率大于第二图像的分辨率。
本申请实施例中,摄像头采集到的原始图像会传输至图像信号处理器进行初步处理,由图像信号处理器输出与该原始图像内容相同的第一图像和第二图像,其中,第一图像的分辨率大于第二图像的分辨率。
具体的,第一图像的分辨率与摄像头采集原始图像的分辨率相同(也即是电子设备配置的、拍摄图像的分辨率),第二图像的分辨率小于摄像头采集原始图像的分辨率。由于第一图像和第二图像的图像内容相同,若由人脸识别模块分别对第一图像和第二图像进行人脸识别,那么识别得到的两个人脸信息集合也将相同。由此,可以将分辨率较大的第一图像作为预览图像,用于展示和后续的图像处理,将分辨率较小的第二图像用于人脸识别,达到提高人脸识别效率的目的。
在步骤302中,将第二图像输入人脸识别模块,指示人脸识别模块对第二图像进行人脸识别操作。
其中,将分辨率较小的第二图像输入人脸识别模块进行人脸识别,能够较快的得到第二图像的人脸信息集合。
在步骤303中,将第一图像作为预览图像存入预设的图像缓存队列中。
其中,将分辨率较大的第一图像作为预览图像存入预设的图像缓存队列中,用于展示,以及后续的图像处理。
需要说明的是,步骤302和步骤303可以同时进行。
在步骤304中,获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合。
需要说明的是,在具体实施时,人脸识别模块可以采用硬件或者软件的方式实现,本申请实施例对此不做具体限制。其中,人脸识别模块可以对电子设备采集到的图像进行人脸识别操作,得到对应该图像的人脸信息集合。某图像中包括3个不同人物的人脸图像,则人脸识别模块对该图像进行识别后,输出的人脸信息集合中包括分别描述这3个不同人物的人脸特征的人脸信息,人脸信息包括但不限于人脸大小、人脸位置、眼睛开合度和表情类型(如生气、厌恶、恐惧、高兴、悲伤和吃惊等)等。需要说明的是,人脸识别模块输出的人脸信息集合中可以存在对应多个不同人物的人脸信息,也可仅存在一个人物的人脸信息。
此外,对于人脸识别模块采用何种人脸识别技术完成人脸操作,本申请实施例对此不做具体限制。
在本申请实施例中,电子设备会将采集到外部场景的预览图像实时送入人脸识别模块进行人脸识别,由于预览图像间的时间间隔为毫秒级,考虑到该时间间隔内人物的人脸特征通常不会发生较大变化,人脸识别模块被默认配置为:在完成对输入预览图像的人脸识别操作且得到输入预览图像的人脸信息集合时,会将输出的人脸信息集合与当前时刻的预览图像进行绑定,作为从当前时刻的预览图像中识别得到的人脸信息集合。
其中,为便于区分,将当前时刻的预览图像记为第一预览图像,将人脸识别模块输出的、与第一预览图像绑定的人脸信息集合记为第一人脸信息集合。
在步骤305中,获取人脸识别模块完成人脸识别操作所需的识别时长。
其中,人脸识别模块完成人脸识别操作所需的识别时长可以预先测试得到,并将测试得到的识别时长存储在本地。这样,在需要获取人脸识别模块完成人脸识别操作所需的识别时长时,提取本地预先存储的识别时长即可。
比如,可以首先提供多个分辨率相同的、包括人脸图像的测试图像;然后分别将这些测试图像输入到人脸识别模块中进行识别,并记录各测试图像从输入、到人脸识别模块输出相应的人脸信息集合的时长,作为人脸识别模块对各测试图像的识别时长,由此得到多个识别时长;最后计算前述多个识别时长的平均识别时长,将计算得到的平均识别时长作为人脸识别模块完成人脸识别操作所需的识别时长。
在一些实施例中,也可以根据人脸识别模块的软件或硬件处理能力,确定该识别时长。
在步骤306中,确定存入时刻距离当前时刻的间隔为该识别时长的第一图像。
比如,当前时刻t1获取到人脸识别模块输出的第一人脸信息集合,该第一人脸信息集合与当前时刻t1的预览图像绑定;然后获取到人脸识别模块完成人脸识别操作所需的识别时长为Δt;然后确定存入时刻为t2=t1-Δt的第一图像。
在步骤307中,解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与确定的第一图像绑定。
其中,由于第一人脸信息集合并非基于第一预览图像识别得到,而第一图像和第二图像的图像内容相同,因此可将从第二图像识别出的人脸信息集合作为第一图像的人脸信息集合,此时解除第一人脸信息集合与第一预览图像的绑定关系,然后将第一人脸信息集合与确定的第一图像进行绑定,作为该第一图像的人脸信息,用于描述第一图像中人脸图像的人脸特征。
在步骤308中,在接收到图像拍摄请求时,获取摄像头的帧率信息。
其中,对于图像拍摄请求的输入方式,本申请实施例不做具体限制。
比如,请参照图3,使用者在操作电子设备启动拍照类应用(比如电子设备的***应用“相机”)之后,通过移动电子设备,使得电子设备的摄像头对准待拍摄场景(待拍摄场景中包括图3所示的多个人物)之后,可以通过点击“相机”应用提供的“拍照”按键(为虚拟按键)触发图像拍摄请求。
又例如,使用者在操作电子设备启动拍照类应用之后,通过移动电子设备,使得电子设备的摄像头对准待拍摄场景之后,可以说出语音指令“拍照”,触发图像拍摄请求,或者是直接点击电子设备设置的物理拍照按键,触发图像拍摄请求。
本申请实施例中,在接收到图像拍摄请求时,获取摄像头的帧率信息,其中,帧率信息用于描述摄像头在单位时间内采集到图像的个数,比如,在获取到的帧率信息为30fps时,说明摄像头每秒采集待拍摄场景的30个图像,相应的,采集的这30个图像作为预览图像在一秒内依次展示;又比如,在获取到的帧率信息为15fps时,说明摄像头每秒采集待拍摄场景的15个图像,相应的,采集的这15个图像作为预览图像在一秒内依次展示。
其中,影响摄像头帧率信息的主要原因是环境光亮度,当环境光亮度较高(或者说电子设备处于亮光环境)时,摄像头可以在较短的曝光时间内(如30ms)完成曝光,使得其帧率较高;而当环境光亮度较低(或者说电子设备处于暗光环境)时,摄像头需要花费较长的曝光时间(如40ms-60ms,或更多)来完成曝光,使得其帧率较低。
在步骤309中,确定对应该帧率信息的目标个数,并从图像缓存队列中提取目标个数的第一图像,得到第一图像集合。
其中,目标个数和帧率信息可以成正比关系,比如,在摄像头的帧率信息为30fps,可以确定目标个数为8,在摄像头的帧率信息为15fps时,可以确定目标个数为6。
在确定对应摄像头帧率信息的目标个数之后,从图像缓存队列中提取目标个数的第一图像,得到第一图像集合。
在步骤310中,根据第一图像集合中各第一图像所绑定的人脸信息集合,从第一图像集合中确定出待处理第一图像,待处理第一图像包括至少一个符合预设条件的人脸图像。
比如,在摄像头的帧率信息为30fps时,从图像缓存队列中提取8个第一图像,这8个第一图像构成第一图像集合。然后,可以根据第一图像集合中各第一图像所绑定的人脸信息集合,确定出一个第一图像作为待处理第一图像,该待处理第一图像包括至少一个符合预设条件的人脸图像。其中,预设条件可以是:待处理第一图像中某人物人脸图像的眼睛开合度、大于该人物在第一图像集合中各其它第一图像中人脸图像的眼睛开合度。
在步骤311中,根据第一图像集合中的其它第一图像对所述待处理第一图像进行预设处理。
具体的,根据第一图像集合中的其它第一图像对待处理第一图像进行预设处理,包括:
根据待处理第一图像所绑定的人脸信息集合,确定待处理第一图像中不符合预设条件的待替换人脸图像;
从其它第一图像中确定出符合预设条件的目标人脸图像,且目标人脸图像和待替换人脸图像属于相同人物;
将待替换人脸图像替换为目标人脸图像。
比如,请参照图4,得到的第一图像集合包括A、B、C、D、E以及F共六个第一图像,根据各第一图像所绑定的人脸信息集合,获取到人物丙在这六个第一图像中的眼睛开合度分别为85、70、71、86、72、73,获取到人物丁在这六个第一图像中的眼睛开合度分别为71、72、73、87、71、61,获取到人物戊在这六个第一图像中的眼睛开合度分别为60、62、72、64、84、73。
对于丙而言,其眼睛开合度最大的人脸图像出现在第一图像A和第一图像D中,对于丁而言,其眼睛开合度最大的人脸图像出现在第一图像D中。对于戊而言,其眼睛开合度最大的图像出现在图像E中。由于第一图像D中出现了二个人的眼睛开合度最大的人脸图像,因此可以将第一图像D确定为待处理第一图像。
在将第一图像D确定为待处理第一图像后,进一步地将第一图像D中人物戊的人脸图像确定为待替换人脸图像;然后将第一图像E中戊的人脸图像(眼睛开合度最大)确定为目标人脸图像;然后,在待处理第一图像(即第一图像D)中,使用第一图像E中戊的人脸图像(即目标人脸图像)替换掉第一图像D中戊的人脸图像,从而得到经过图像替换处理后的第一图像D。如图4所示,处理后的第一图像D中各人物的眼睛开合度均较大。
在步骤312中,将完成预设处理后的待处理第一图像作为图像拍摄请求的结果图像。
其中,在完成对待处理第一图像的预设处理之后,将完成预设处理后的待处理第一图像作为图像拍摄请求的结果图像,进行输出。
在一实施例中还提供了一种图像处理装置。请参阅图7,图7为本申请实施例提供的图像处理装置400的结构示意图。其中该图像处理装置400应用于电子设备,该图像处理装置400包括信息获取模块401、时长获取模块402、图像确定模块403以及关系绑定模块404,如下:
信息获取模块401,用于获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;
时长获取模块402,用于获取人脸识别模块完成人脸识别操作所需的识别时长;
图像确定模块403,用于确定距离当前时刻识别时长之前、历史时刻的第二预览图像;
关系绑定模块404,用于解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定。
在一实施例中,图像处理装置400还包括顺序调整模块,用于:
获取人脸识别模块上一次输出的第二人脸信息集合中、人脸信息的排序信息;
根据获取到的排序信息对第一人脸信息集合中人脸信息的顺序进行调整。
在一实施例中,图像处理装置400还包括图像获取模块,用于:
获取图像信号处理器输出的图像内容相同的第一图像和第二图像,其中,第一图像的分辨率大于第二图像的分辨率;
将第二图像输入人脸识别模块,指示人脸识别模块对第二图像进行人脸识别操作;
将第一图像作为预览图像存入预设的图像缓存队列中。
在一实施例中,时长获取模块402具体用于:
确定存入时刻距离当前时刻的间隔为识别时长的第一图像;
将确定的第一图像作为第二预览图像。
在一实施例中,图像处理装置400还包括图像处理模块,用于:
在接收到图像拍摄请求时,获取摄像头的帧率信息;
确定对应获取到的帧率信息的目标个数,并从图像缓存队列中提取目标个数的第一图像,得到第一图像集合;
根据第一图像集合中各第一图像所绑定的人脸信息集合,从第一图像集合中确定出待处理第一图像,该待处理第一图像包括至少一个符合预设条件的人脸图像;
根据第一图像集合中的其它第一图像对待处理第一图像进行预设处理;
将完成预设处理后的待处理第一图像作为图像拍摄请求的结果图像。
在一实施例中,图像处理模块具体用于:
根据待处理第一图像所绑定的人脸信息集合,确定待处理第一图像中不符合预设条件的待替换人脸图像;
从其它第一图像中确定出符合预设条件的目标人脸图像,且目标人脸图像和待替换人脸图像属于相同人物;
将待替换人脸图像替换为目标人脸图像。
具体实施时,以上各个模块可以作为独立的实体实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个单位的具体实施可参见前面的实施例,在此不再赘述。
由上可知,本实施例图像处理装置400可以首先由信息获取模块401获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;然后由时长获取模块402获取人脸识别模块完成人脸识别操作所需的识别时长;再由图像确定模块403确定距离当前时刻识别时长之前、历史时刻的第二预览图像;最后由关系绑定模块404解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定。采用本申请提供的技术方案,可以使得预览图像所绑定的人脸信息集合是与其所匹配的,能够准确的描述其中人脸图像的人脸特征,从而达到提高图像处理准确度的目的。
本申请实施例还提供一种电子设备。请参阅图8,电子设备500包括中央处理器501以及存储器502。其中,中央处理器501与存储器502电性连接。
所述中央处理器500是电子设备500的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或加载存储在存储器502内的计算机程序,以及调用存储在存储器502内的数据,执行电子设备500的各种功能并处理数据,从而实现对用户性别的准确识别。
所述存储器502可用于存储软件程序以及模块,中央处理器501通过运行存储在存储器502的计算机程序以及模块,从而执行各种功能应用以及数据处理。存储器502可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需的计算机程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器502还可以包括存储器控制器,以提供中央处理器501对存储器502的访问。
此外,电子设备500中还集成有人脸识别模块,该人脸识别模块可以采用硬件或者软件的方式实现,该人脸识别模块被配置为对输入图像进行人脸识别操作,并输出人脸信息集合。
在本申请实施例中,电子设备500中的中央处理器501通过运行存储在存储器502中的计算机程序,执行上述任一实施例中的图像处理方法,比如:首先获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;然后获取人脸识别模块完成人脸识别操作所需的识别时长;再确定距离当前时刻该识别时长之前、历史时刻的第二预览图像;最后解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定。
请一并参阅图9,在某些实施方式中,电子设备500还可以包括:显示器503、射频电路504、音频电路505、电源506、图像处理电路507以及图形处理器508。其中,其中,显示器503、射频电路504、音频电路505以及电源506分别与中央处理器501电性连接。
显示器503可以用于显示由用户输入的信息或提供给用户的信息以及各种图形用户接口,这些图形用户接口可以由图形、文本、图标、视频和其任意组合来构成。显示器503可以包括显示面板,在某些实施方式中,可以采用液晶显示器(Liquid Crystal Display,LCD)、或者有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板。
射频电路504可以用于收发射频信号,以通过无线通信与网络设备或其他电子设备建立无线通讯,与网络设备或其他电子设备之间收发信号。
音频电路505可以用于通过扬声器、传声器提供用户与电子设备之间的音频接口。
电源506可以用于给电子设备500的各个部件供电。在一些实施例中,电源506可以通过电源管理***与中央处理器501逻辑相连,从而通过电源管理***实现管理充电、放电、以及功耗管理等功能。
图像处理电路507可以利用硬件和/或软件组件实现,可包括定义ISP(ImageSignal Processing,图像信号处理)管线的各种处理单元,请参照图10,在一实施例中,图像处理电路507包括ISP处理器5071和控制逻辑器5072。摄像头5073捕捉的图像数据首先由ISP处理器5071处理,ISP处理器5071对图像数据进行分析以捕捉可用于确定和/或摄像头5073的一个或多个控制参数的图像统计信息。摄像头5073可包括具有一个或多个透镜50731和图像传感器50732的照相机。图像传感器50732可包括色彩滤镜阵列(如Bayer滤镜),图像传感器50732可获取用图像传感器50732的每个成像像素捕捉的光强度和波长信息,并提供可由ISP处理器5071处理的一组原始图像数据。传感器5074(如陀螺仪)可基于传感器5074接口类型把采集的图像处理的参数(如防抖参数)提供给ISP处理器5071。传感器5074接口可以利用SMIA(Standard Mobile Imaging Architecture,标准移动成像架构)接口、其它串行或并行照相机接口或上述接口的组合。
此外,图像传感器50732也可将原始图像数据发送给传感器5074,传感器5074可基于传感器5074接口类型把原始图像数据提供给ISP处理器5071,或者传感器5074将原始图像数据存储到图像存储器5075中。
ISP处理器5071按多种格式逐个像素地处理原始图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,ISP处理器5071可对原始图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
ISP处理器5071还可从图像存储器5075接收图像数据。例如,传感器5074接口将原始图像数据发送给图像存储器5075,图像存储器5075中的原始图像数据再提供给ISP处理器5071以供处理。图像存储器5075可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自图像传感器50732接口或来自传感器5074接口或来自图像存储器5075的原始图像数据时,ISP处理器5071可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器5075,以便在被显示之前进行另外的处理。ISP处理器5071从图像存储器5075接收处理数据,并对所述处理数据进行原始域中以及RGB和YCbCr颜色空间中的图像数据处理。ISP处理器5071处理后的图像数据可输出给显示器503,以供用户观看和/或由图形引擎或图像处理器507进一步处理。此外,ISP处理器5071的输出还可发送给图像存储器5075,且显示器503可从图像存储器5075读取图像数据。在一个实施例中,图像存储器5075可被配置为实现一个或多个帧缓冲器。此外,ISP处理器5071的输出可发送给编码器/解码器5076,以便编码/解码图像数据。编码的图像数据可被保存,并在显示于显示器503设备上之前解压缩。编码器/解码器5076可由CPU或GPU或协处理器实现。
ISP处理器5071确定的统计数据可发送给控制逻辑器5072单元。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、透镜50731阴影校正等图像传感器50732统计信息。控制逻辑器5072可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定摄像头5073的控制参数及ISP处理器5071的控制参数。例如,摄像头5073的控制参数可包括传感器5074控制参数(例如增益、曝光控制的积分时间、防抖参数等)、照相机闪光控制参数、透镜50731控制参数(例如聚焦或变焦用焦距)、或这些参数的组合。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及透镜50731阴影校正参数等。
图像处理器508对电子设备需要进行显示的显示数据进行转换驱动,并向显示器503提供行扫描信号,控制显示器503的正确显示。
本申请实施例还提供一种存储介质,存储介质存储有计算机程序,当计算机程序在计算机上运行时,使得计算机执行上述任一实施例中的图像处理方法,比如:获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;然后获取人脸识别模块完成人脸识别操作所需的识别时长;再确定距离当前时刻该识别时长之前、历史时刻的第二预览图像;最后解除第一人脸信息集合与第一预览图像的绑定关系,并将第一人脸信息集合与第二预览图像绑定。
在本申请实施例中,存储介质可以是磁碟、光盘、只读存储器(Read Only Memory,ROM,)、或者随机存取记忆体(Random Access Memory,RAM)等。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
需要说明的是,对本申请实施例的图像处理方法而言,本领域普通测试人员可以理解实现本申请实施例的图像处理方法的全部或部分流程,是可以通过计算机程序来控制相关的硬件来完成,计算机程序可存储于一计算机可读取存储介质中,如存储在电子设备的存储器中,并被该电子设备内的至少一个中央处理器执行,在执行过程中可包括如图像处理方法的实施例的流程。其中,的存储介质可为磁碟、光盘、只读存储器、随机存取记忆体等。
对本申请实施例的图像处理装置而言,其各功能模块可以集成在一个处理芯片中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中,存储介质譬如为只读存储器,磁盘或光盘等。
以上对本申请实施例所提供的一种图像处理方法、装置、存储介质及电子设备进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本申请的限制。
Claims (10)
1.一种图像处理方法,其特征在于,包括:
获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;
获取所述人脸识别模块完成人脸识别操作所需的识别时长;
确定距离当前时刻所述识别时长之前、历史时刻的第二预览图像;
解除所述第一人脸信息集合与所述第一预览图像的绑定关系,并将所述第一人脸信息集合与所述第二预览图像绑定。
2.如权利要求1所述的图像处理方法,其特征在于,将所述第一人脸信息集合与所述第二预览图像绑定之后,还包括:
获取所述人脸识别模块上一次输出的第二人脸信息集合中、人脸信息的排序信息;
根据所述排序信息对所述第一人脸信息集合中人脸信息的顺序进行调整。
3.如权利要求1或2所述的图像处理方法,其特征在于,获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合之前,还包括:
获取图像信号处理器输出的图像内容相同的第一图像和第二图像,其中,所述第一图像的分辨率大于所述第二图像的分辨率;
将所述第二图像输入所述人脸识别模块,指示所述人脸识别模块对所述第二图像进行人脸识别操作;
将所述第一图像作为预览图像存入预设的图像缓存队列中。
4.如权利要求3所述的图像处理方法,其特征在于,确定距离当前时刻所述识别时长之前、历史时刻的第二预览图像,包括:
确定存入时刻距离当前时刻的间隔为所述识别时长的第一图像;
将确定的第一图像作为所述第二预览图像。
5.如权利要求4所述的图像处理方法,其特征在于,将所述第一人脸信息集合与所述第二预览图像绑定之后,还包括:
在接收到图像拍摄请求时,获取摄像头的帧率信息;
确定对应所述帧率信息的目标个数,并从所述图像缓存队列中提取所述目标个数的第一图像,得到第一图像集合;
根据所述第一图像集合中各第一图像所绑定的人脸信息集合,从第一图像集合中确定出待处理第一图像,所述待处理第一图像包括至少一个符合预设条件的人脸图像;
根据所述第一图像集合中的其它第一图像对所述待处理第一图像进行预设处理;
将完成预设处理后的所述待处理第一图像作为所述图像拍摄请求的结果图像。
6.如权利要求5所述的图像处理方法,其特征在于,根据所述第一图像集合中的其它第一图像对所述待处理第一图像进行预设处理,包括:
根据所述待处理第一图像所绑定的人脸信息集合,确定所述待处理第一图像中不符合所述预设条件的待替换人脸图像;
从所述其它第一图像中确定出符合所述预设条件的目标人脸图像,且所述目标人脸图像和所述待替换人脸图像属于相同人物;
将所述待替换人脸图像替换为所述目标人脸图像。
7.一种图像处理装置,其特征在于,包括:
信息获取模块,用于获取人脸识别模块输出的、与当前时刻的第一预览图像所绑定的第一人脸信息集合;
时长获取模块,用于获取所述人脸识别模块完成人脸识别操作所需的识别时长;
图像确定模块,用于确定距离当前时刻所述识别时长之前、历史时刻的第二预览图像;
关系绑定模块,用于解除所述第一人脸信息集合与所述第一预览图像的绑定关系,并将所述第一人脸信息集合与所述第二预览图像绑定。
8.如权利要求7所述的图像处理装置,其特征在于,所述图像处理装置还包括顺序调整模块,用于:
获取所述人脸识别模块上一次输出的第二人脸信息集合中、人脸信息的排序信息;
根据所述排序信息对所述第一人脸信息集合中人脸信息的顺序进行调整。
9.一种存储介质,其上存储有计算机程序,其特征在于,当所述计算机程序在计算机上运行时,使得所述计算机执行如权利要求1至6任一项所述的图像处理方法。
10.一种电子设备,包括中央处理器、存储器和人脸识别模块,所述人脸识别模块被配置为对输入图像进行人脸识别操作,并输出人脸信息集合,所述存储器存储有计算机程序,其特征在于,所述中央处理器通过调用所述计算机程序,用于执行如权利要求1-6任一项所述的图像处理方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810222001.9A CN108492266B (zh) | 2018-03-18 | 2018-03-18 | 图像处理方法、装置、存储介质及电子设备 |
US16/183,840 US10769416B2 (en) | 2018-03-18 | 2018-11-08 | Image processing method, electronic device and storage medium |
EP18211839.8A EP3543900A1 (en) | 2018-03-18 | 2018-12-12 | Image processing method and electronic device |
PCT/CN2019/073328 WO2019179242A1 (en) | 2018-03-18 | 2019-01-28 | Image processing method and electronic device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810222001.9A CN108492266B (zh) | 2018-03-18 | 2018-03-18 | 图像处理方法、装置、存储介质及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108492266A true CN108492266A (zh) | 2018-09-04 |
CN108492266B CN108492266B (zh) | 2020-10-09 |
Family
ID=63339666
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810222001.9A Active CN108492266B (zh) | 2018-03-18 | 2018-03-18 | 图像处理方法、装置、存储介质及电子设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10769416B2 (zh) |
EP (1) | EP3543900A1 (zh) |
CN (1) | CN108492266B (zh) |
WO (1) | WO2019179242A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109871766A (zh) * | 2019-01-17 | 2019-06-11 | 安徽酷哇机器人有限公司 | 行李箱的控制方法和装置 |
WO2019179242A1 (en) * | 2018-03-18 | 2019-09-26 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Image processing method and electronic device |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111126568B (zh) * | 2019-12-09 | 2023-08-08 | Oppo广东移动通信有限公司 | 图像处理方法及装置、电子设备及计算机可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110013038A1 (en) * | 2009-07-15 | 2011-01-20 | Samsung Electronics Co., Ltd. | Apparatus and method for generating image including multiple people |
US20110019936A1 (en) * | 2009-07-22 | 2011-01-27 | Satish Kumar Bhrugumalla | Imaging system with multiframe scaler |
CN103888658A (zh) * | 2012-12-21 | 2014-06-25 | 索尼公司 | 信息处理设备和记录介质 |
CN107124560A (zh) * | 2017-06-19 | 2017-09-01 | 上海爱优威软件开发有限公司 | 一种自拍***、媒质和方法 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8593542B2 (en) * | 2005-12-27 | 2013-11-26 | DigitalOptics Corporation Europe Limited | Foreground/background separation using reference images |
US8896725B2 (en) * | 2007-06-21 | 2014-11-25 | Fotonation Limited | Image capture device with contemporaneous reference image capture mechanism |
US8682097B2 (en) * | 2006-02-14 | 2014-03-25 | DigitalOptics Corporation Europe Limited | Digital image enhancement with reference images |
US7792335B2 (en) * | 2006-02-24 | 2010-09-07 | Fotonation Vision Limited | Method and apparatus for selective disqualification of digital images |
US7804983B2 (en) * | 2006-02-24 | 2010-09-28 | Fotonation Vision Limited | Digital image acquisition control and correction method and apparatus |
JP5517435B2 (ja) * | 2008-10-22 | 2014-06-11 | キヤノン株式会社 | 自動合焦装置および自動合焦方法、ならびに、撮像装置 |
KR20100073765A (ko) | 2008-12-23 | 2010-07-01 | 삼성전자주식회사 | 디지털 촬영장치, 그 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체 |
KR101240901B1 (ko) | 2011-10-14 | 2013-03-18 | 인텔 코오퍼레이션 | 얼굴 인식 방법, 장치, 및 이 방법을 실행하기 위한 컴퓨터 판독 가능한 기록 매체 |
CN104346159A (zh) | 2013-08-09 | 2015-02-11 | 联想(北京)有限公司 | 信息处理的方法及电子设备 |
CN103824068B (zh) | 2014-03-19 | 2018-06-01 | 上海看看智能科技有限公司 | 人脸支付认证***及方法 |
CN105491284B (zh) * | 2015-11-30 | 2018-12-18 | 小米科技有限责任公司 | 预览图像的显示方法和装置 |
KR20180014624A (ko) * | 2016-08-01 | 2018-02-09 | 삼성전자주식회사 | 홍채 인증 시스템 및 방법 |
CN106372856A (zh) | 2016-08-31 | 2017-02-01 | 北京汇通天下物联科技有限公司 | 一种司机考勤方法及*** |
CN106657759A (zh) | 2016-09-27 | 2017-05-10 | 奇酷互联网络科技(深圳)有限公司 | 防闭眼的拍照方法及装置 |
CN106650583B (zh) | 2016-09-28 | 2019-07-23 | Oppo广东移动通信有限公司 | 人脸检测方法、装置及终端设备 |
KR102301599B1 (ko) * | 2017-09-09 | 2021-09-10 | 애플 인크. | 생체측정 인증의 구현 |
CN108492266B (zh) * | 2018-03-18 | 2020-10-09 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
-
2018
- 2018-03-18 CN CN201810222001.9A patent/CN108492266B/zh active Active
- 2018-11-08 US US16/183,840 patent/US10769416B2/en active Active
- 2018-12-12 EP EP18211839.8A patent/EP3543900A1/en active Pending
-
2019
- 2019-01-28 WO PCT/CN2019/073328 patent/WO2019179242A1/en active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110013038A1 (en) * | 2009-07-15 | 2011-01-20 | Samsung Electronics Co., Ltd. | Apparatus and method for generating image including multiple people |
US20110019936A1 (en) * | 2009-07-22 | 2011-01-27 | Satish Kumar Bhrugumalla | Imaging system with multiframe scaler |
CN103888658A (zh) * | 2012-12-21 | 2014-06-25 | 索尼公司 | 信息处理设备和记录介质 |
CN107124560A (zh) * | 2017-06-19 | 2017-09-01 | 上海爱优威软件开发有限公司 | 一种自拍***、媒质和方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019179242A1 (en) * | 2018-03-18 | 2019-09-26 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Image processing method and electronic device |
US10769416B2 (en) | 2018-03-18 | 2020-09-08 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Image processing method, electronic device and storage medium |
CN109871766A (zh) * | 2019-01-17 | 2019-06-11 | 安徽酷哇机器人有限公司 | 行李箱的控制方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN108492266B (zh) | 2020-10-09 |
US20190286887A1 (en) | 2019-09-19 |
US10769416B2 (en) | 2020-09-08 |
WO2019179242A1 (en) | 2019-09-26 |
EP3543900A1 (en) | 2019-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9451173B2 (en) | Electronic device and control method of the same | |
CN108322646B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP2022505086A (ja) | 画像処理方法および画像処理装置、ならびにデバイス | |
CN110784660B (zh) | 一种摄像亮度控制方法、***、设备和介质 | |
WO2022160895A1 (zh) | 图像处理方法、图像处理装置、电子***及可读存储介质 | |
CN108513069B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN107704798B (zh) | 图像虚化方法、装置、计算机可读存储介质和计算机设备 | |
CN108520493A (zh) | 图像替换的处理方法、装置、存储介质及电子设备 | |
CN110198418A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN108492266A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US8798369B2 (en) | Apparatus and method for estimating the number of objects included in an image | |
CN103096094A (zh) | 视觉识别装置和方法 | |
CN113452969B (zh) | 图像处理方法和装置 | |
CN110198419A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP2010016826A (ja) | 画像処理オペレーションを効率的に実行するためのシステム及び方法 | |
CN110290325A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN108401110A (zh) | 图像的获取方法、装置、存储介质及电子设备 | |
CN111881862A (zh) | 手势识别方法及相关装置 | |
CN107977437B (zh) | 图像处理方法、装置、存储介质和电子设备 | |
US20220301278A1 (en) | Image processing method and apparatus, storage medium, and electronic device | |
CN112087569B (zh) | 一种摄像机及摄像机启动方法、装置 | |
CN108259767B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN110278375A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN108282616A (zh) | 图像的处理方法、装置、存储介质及电子设备 | |
CN117135470B (zh) | 拍摄方法、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 1252690 Country of ref document: HK |
|
CB02 | Change of applicant information |
Address after: Changan town in Guangdong province Dongguan 523860 usha Beach Road No. 18 Applicant after: GUANGDONG OPPO MOBILE TELECOMMUNICATIONS Corp.,Ltd. Address before: Changan town in Guangdong province Dongguan 523860 usha Beach Road No. 18 Applicant before: GUANGDONG OPPO MOBILE TELECOMMUNICATIONS Corp.,Ltd. |
|
CB02 | Change of applicant information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |