具体实施方式
以下,说明本发明的实施方式。
图1是表示本发明的一实施方式的数码相机的外观图。
在数码相机100的正面上,外观上具备:摄影时被按下的快门按钮120、与快门按钮120的按下同步发光的闪光发光装置140、测量从闪光发光装置140发出的光量的调光传感器150、摄影者为了确定被摄体的位置而进行观察的取景器110以及由将焦点聚集在被摄体上的聚焦透镜或切换摄影视角的变焦透镜等构成的摄影镜头130。快门按钮120可以分为半按下及全按下的2个阶段,若半按下快门按钮120,则沿光轴延伸的方向驱动安装在摄影镜头130内的聚焦透镜上的电机,使焦点聚焦在摄影视角的中央区域上,设定将聚焦透镜的位置一直维持到被摄体像的读出(曝光)的聚焦锁定,若全按下快门按钮120,则快门动作,进行实际的摄影。另外,闪光发光装置140设置于距摄影镜头130极近的位置上,成为故意使红眼发生的设计。
在这里,对数码相机100的内部结构进行说明。
图2是数码相机的框图。
该数码相机100,具备:图像处理器200、时序发生器、CCD(ChargeCouple Device:电荷耦合器件)211、AD(Analog-Degital)转换器220、图像显示LCD(Liquid Crystal Display)230、高速运算用存储器240、图像存储器250、控制用微型计算机300、曝光控制部310、快门311、聚焦控制部320、变焦控制部330、闪光发光部340、电源控制部350、开关组360、状态LCD370及图1中也示出的摄影镜头130,可以与个人电脑等外部装置500连接。
首先,对开关组360进行说明。
在开关组360中,虽然未图示,但具备:伴随图1的快门按钮120的按下而入切的快门开关;启动摄影镜头130内的变焦透镜,在望远摄影·广角摄影中切换摄影视角的变焦开关;将存储模式切换为存储摄影图像的通常存储模式与存储提取摄影图像中所包含的人物面部的面部图像的面部图像存储模式的任意一种的模式切换开关;将摄影图像显示在图像显示LCD230上的图像显示开关;以及将数码相机100的状态显示在状态LCD370上的状态开关。快门开关是可以设定为2个阶段的开关,若快门按钮120被半按下,则接通第1阶段的开关,设定聚焦锁定,若快门按钮120被全按下,则接通第2阶段的开关,快门311动作。
接着,对开关组360以外的各部分进行说明。
图像处理器200,对已拍摄被摄体的摄影图像施行图像处理,对到被摄体的距离进行测定(测距)及进行光亮度测定(测光)。另外,图像处理器200,在摄影图像上施行所谓的灰度修正或白平衡修正等规定的图像修正处理的同时,检测摄影图像中的红眼,根据上述存储模式,进行修正摄影图像中红眼的红眼修正处理;根据红眼识别摄影图像中包含面部的面部识别处理;和从红眼修正后的摄影图像中提取面部的面部提取处理。对这些红眼修正处理、面部识别处理及面部提取处理将在后面叙述。
CCD211,接收被摄体光,将该被摄体光变换为属于模拟信号的被摄体信号。已被变换的被摄体信号,按照在时序发生器中生成的时序,从CCD211传送至AD转换器220。AD转换器220将从CCD211取得的被摄体信号变换为属于数字数据的摄影图像数据。
图像显示LCD230是显示基于从图像处理器200传送来的图像数据的图像的液晶监视器。另外,高速运算用存储器240,是在图像处理器200中使用的暂时存储器,图像存储器250是存储从图像处理器200送来的图像数据的存储器。
控制用微型计算机300,在进行摄影张数的监视、电池余量的监视等的同时,取得图像处理器200的测距信息及光亮度信息等,确定使焦点对准位于摄影视角内的中央区域的被摄体时的聚焦透镜的位置、遵从开关组360所包含的变焦开关的设定的变焦透镜位置、调节进入摄影镜头130的光量的光圈量及调节在CCD211接收光时间的快门速度等。另外,根据从开关组360传送的各开关的设定状况,向图2的各部分传送上述各镜头位置等的各信息及动作指示。
若曝光控制部310从控制用微型计算机300取得光圈量及快门速度的信息后,则驱动安装在快门311上的电机,调节光圈量,同时按照所指示的快门速度让快门动作,控制由CCD211接收被摄体光时的曝光。
聚焦控制部320从控制用微型计算机300取得聚焦透镜位置的信息后,则驱动安装摄影镜头130包含的聚焦透镜中的电机,使聚焦透镜向被指示的聚焦透镜位置移动。
若变焦控制部330从控制用微型计算机300取得变焦透镜位置的信息,则驱动安装在摄影镜头130包含的变焦透镜中的电机,使变焦透镜向被指示的变焦透镜位置移动。
若闪光发光部340从控制用微型计算机300取得闪光的合适发光量的信息,则从图1所示的闪光发光装置140发出闪光。此时发出的闪光发光量由调光传感器150测量,若发光量达到合适发光量,则停止发光。
电源控制部350,控制从电源400供给的电力。状态LCD370是从控制用微型计算机300取得摄影张数或电池余量等信息,并显示这些信息的液晶监视器。
本实施方式的数码相机100,基本上如上述构成。在这里,在数码相机100中,作为本发明的一实施方式的特征是由图像处理器200进行的红眼修正处理、面部识别处理及面部提取处理,以下对这些处理进行详细的说明。
图3是图像处理器的红眼修正处理、面部识别处理及面部提取处理相关功能的功能框图。
图像处理器200具有检测功能201、识别功能202、修正功能203、及面部图像生成功能204等功能。
检测功能201,从图2的AD转换器220中取得已被数字化的摄影图像。再有,检测功能201,探测摄影图像中颜色为红色且圆形状的图像部分,检测出摄影图像所包含的红眼,生成表示已被检测出的红眼位置的红眼位置信息。红眼相当于本发明所说的红眼的一例,同时相当于产生规定变色的眼睛部分的一例。该检测功能201,相当于本发明的摄像装置及面部识别装置中检测部功能的一例。
识别功能202,根据检测功能201中生成的红眼位置信息,识别摄影图像所包含的人物面部,生成表示识别出的面部位置的面部位置信息。该识别功能202,相当于本发明的摄像装置及面部识别装置中的识别部的功能的一例。
修正功能203,根据摄影图像及检测功能201中生成的红眼位置信息,将摄影图像中红眼的图像部分的色度调整为规定的值,将红眼的图像部分修正为作为相片优选的与一般的人物眼睛的颜色及亮度相等的颜色及亮度,生成修正后摄影图像。修正功能203,相当于本发明的摄像装置中的修正部的功能的一例。
面部图像生成功能204,取得修正功能203中生成的修正后摄影图像及识别功能202中生成的面部位置信息,生成从修正后摄影图像提取人物面部图像的面部图像。该面部图像生成功能204相当于本发明的摄像装置中的面部图像生成部的功能的一例。
图像处理器200,作为与面部识别处理及面部提取处理相关的功能,基本上具有以上所述的功能。
在这里,以下,对摄影者拍摄被摄体,存储摄影图像的一系列流程进行说明。
首先,摄影者作为存储模式选择面部图像存储模式,存储摄影图像的例子进行说明。
摄影者,采用图中未示出的存储模式切换按钮,作为存储模式选择面部图像存储模式。
若由摄影者选择面部图像存储模式,则在数码相机100的内部,用图2的开关组360所包含的模式切换开关设定面部图像存储模式,将被设定后的存储模式传送至控制用微型计算机300。控制用微型计算机300,在接收到存储模式后,则将该存储模式送至图像处理器200。
再有,摄影者观察图1的取景器110,以使所希望的被摄体配置于摄影视角内的中央区域的方式移动数码相机100,半按下快门按钮120。
若由摄影者半按下图1的快门按钮120,则在数码相机100内部,接通图2的开关组360所包含的快门开关的第1阶段,向控制用微型计算机300传送已接通快门开关的第1阶段的信息。
此时,在图像处理器200中,取得应用于测距等处理的分辨率低的摄影图像数据。即,用CCD211粗略地读取被摄体光,生成低分辨率的被摄体信号,向AD转换器220传送低分辨率的被摄体信号。低分辨率的被摄体信号,在AD转换器220变换为属于数字信号的摄影图像数据,该低分辨率的摄影图像数据被送至图像处理器200。
图像处理器200,使用低分辨率的摄影图像数据,计算摄影视角内的光亮度(测光),同时,测定相当于低分辨率图像数据的中央区域的部分的对比度,计算到被摄体的距离(测距)。作为计算结果的光亮度信息及测距信息被送到控制用微型计算机300。
控制用微型计算机300,根据从图像处理器200取得的光亮度信息确定快门速度及光圈量,由测距信息确定用于将焦点对准被摄体的聚焦透镜位置。另外,控制用微型计算机300向聚焦控制部320传送聚焦透镜位置的信息,保持快门速度及光圈量,直到由摄影者将图1的快门按钮120全按下。
聚焦控制部320,从控制用微型计算机300取得聚焦透镜位置的信息,驱动安装在摄影镜头130包含的聚焦透镜中的电机,使聚焦透镜向被指示的聚焦透镜位置移动。
若上述的正式摄影用的一系列准备处理(以下将该一系列的准备处理称为预摄影处理)完成,则开始以下所说明的正式摄影处理。
摄影者将图1的快门按钮120全按下。
若快门按钮120被全按下,则接通图2所示的开关组360所包含的快门开关的第2阶段,并将已接通快门开关的第2阶段的信息送至控制用微型计算机300。
控制用微型计算机300,若被传送已接通快门开关的第2阶段的信息,则向曝光控制部310传送快门速度及光圈量的信息。曝光控制部310若从控制用微型计算机300取得快门速度及光圈量的信息,则根据指示的快门速度及光圈量,调节光圈,让快门311动作。
若快门311动作,则由CCD211接收的被摄体光被变换为分辨率高的被摄体信号,送至AD转换器220,该被摄体信号在AD转换器220中被变换为分辨率高的摄影图像信号。接着,摄影图像信号被送至图像处理器200。
图4是表示摄影图像被送至图像处理器,该摄影图像存储于图2所示的图像存储器时在图像处理器中进行的一系列处理的流程图。以下,使用该图4的流程图,对从摄影图像被送至图像处理器200到该摄影图像被存储的一系列处理的流程进行说明。再有,参照图4的同时,也参照图5到图9的各图进行说明。
在图3所示的图像处理器200的检测功能201中,从图2的控制用微型计算机300传送作为存储模式设定为面部图像存储模式的情况,从AD转换器220传送摄影图像数据(图4的步骤S1)。
如上所述,进行正式摄影处理,取得摄影图像。
图5是表示输入给检测功能的摄影图像数据所表示的摄影图像的图。摄影图像600是包含多个人物601的集体照用的摄影图像。数码相机100是故意产生红眼的相机,使摄影图像600所包含的全部人物601的眼睛产生红眼。红眼,是在发出闪光拍摄人物时,在眼睛的瞳孔打开的状态下闪光的强光由眼底的毛细血管反射,结果摄影图像所拍摄的人物的眼睛颜色成为红色的现象。该红眼由于是在相机的镜头与闪光发光装置近的情况下容易发生,本实施方式的数码相机100,如图1所示,摄影镜头130与闪光发光装置140被配置在极近的位置上。
图3的检测功能201,探测图5的摄影图像600中颜色为红色且形状为圆形的图像部分,检测出摄影图像600所包含的红眼(图4的步骤S2)。
图6是表示检测出摄影图像所包含的红眼的检测结果的图。在图5的摄影图像600中所包含的人物601的眼睛中,由于全部发生红眼,故在红眼的检测结果610中,包含摄影图像600中的全部人物的眼睛611。
图3的检测功能201,生成表示检测出红眼的位置的红眼位置信息,向修正功能203传送摄影图像数据、红眼的位置信息及作为存储模式的面部图像存储模式。再有,检测功能201,也向识别功能202传送摄影图像数据及红眼的位置信息。在检测功能201中进行的步骤S2的处理,相当于本发明的面部识别方法及面部提取方法中的检测过程的一例。
在图4的流程图中,由于在这里作为存储模式选择的是面部图像存储模式,故从步骤S3进入步骤S5。
图3的识别功能202,在从检测功能传来红眼的位置信息及摄影图像数据后,则根据该红眼的位置信息,识别出摄影图像数据所代表的摄影图像中的人物(图4的步骤S5)。
图7是表示根据图6的红眼检测结果,识别出图5的摄影图像中所包含的人物的面部的结果的图。在面部的识别结果620中,图5的摄影图像600中由图6的红眼检测结果610表示的眼睛611的周边部作为面部621被识别。
图3的识别功能202,生成表示识别出的面部位置的面部位置信息,并将该面部的位置信息向修正功能203传送。在识别功能202中进行的步骤S5的处理,相当于本发明的面部识别方法与面部提取方法中的识别过程的一例。
修正功能203,根据从检测功能201传送的摄影图像数据及红眼的位置信息,降低摄影图像数据所代表的摄影图像中的表示红眼位置信息的位置的图像部分色度,修正摄影图像中所包含的红眼(图4的步骤S6)。
图8是表示根据图6的红眼检测结果修正了图5的摄影图像中所包含的红眼的修正后摄影图像的图。图5的摄影图像600所包含的人物601的眼睛产生的红眼被修正为,修正后摄影图像630所包含的人物631的眼睛。
图3的修正功能203向面部图像生成功能204传送代表修正后摄影图像630的修正后摄影图像数据及从识别功能202被传送的面部位置信息。在修正功能203中进行的步骤S5的处理相当于本发明的面部提取方法中的修正过程的一例。
面部图像生成功能204,若从修正功能203传送修正后摄影图像数据及面部的位置信息,则从修正后摄影图像数据所代表的修正后摄影图像提取表示面部位置信息的图像部分,生成面部图像。(图4的步骤S6)。
图9是表示从图8的修正后摄影图像提取了基于图7的面部识别结果的面部的图像部分的面部图像的图。如图9所示,面部图像640中所包含的人物的眼睛,红眼被修正,且生成图5所示的摄影图像600所包含的人物601全员的面部图像640。
面部图像生成功能204将基于面部图像的面部图像数据送至图2所示的图像存储器250。在该面部图像生成功能204中进行的步骤S6的处理,相当于本发明的面部提取方法中的面部图像生成过程的一例。
面部图像数据被传送到图像存储器250,被存储在图像存储器250中。(图4的步骤S8)。
上述各处理反复进行直到摄影结束(图4的步骤S9)。
这样,若利用本实施方式的数码相机100,则可以可靠地使红眼发生,根据该红眼精度优良地识别面部,准确地提取面部。
以上,对作为存储模式选择面部图像存储模式,来存储摄影图像的示例进行的说明结束,接下来说明作为存储模式选择通常存储模式来存储摄影图像的示例。
摄影者用图中未示出的存储模式切换按钮,作为存储模式选择通常存储模式。
若由摄影者选择通常存储模式,则在数码相机100的内部,由图2的开关组360所包含的模式切换开关设定为通常存储模式,向控制用微型计算机300传送已被设定的存储模式。与上述面部图像存储模式时同样,控制用微型计算机300将存储模式送至图像处理器200。
再有,摄影者与面部图像存储模式选择时同样,观察图1的取景器110,半按下快门按钮120,设定聚焦锁定。
若由摄影者将图1的快门按钮120半按下,则在数码相机100内部,与上述面部图像存储模式时同样,进行一系列的预摄影处理。
在这里,摄影者全按下图1的快门按钮120。
若快门按钮120被全按下,则进行与上述面部图像存储模式同样的正式摄影处理,将代表摄影图像的摄影图像数据输入图2所示的图像处理器200。
以下,与作为存储模式选择的是面部图像存储模式时的上述说明同样,使用图4的流程图进行说明。
图3所示的图像处理器200的检测功能201,传送摄影图像数据的同时,从图2的控制用微型计算机300传来作为存储模式设定的是通常存储模式的情况(图4的步骤S1)。检测功能201,虽然与上述面部图像存储模式时同样,检测红眼并生成红眼的位置信息(图4的步骤S2),但在本例中不进行面部的提取(图4的步骤S3),不向识别功能202传送摄影图像及红眼的位置信息,只向修正功能203传送摄影图像、红眼的位置信息及作为存储模式的通常存储模式。在图4的流程图中从步骤S3进入步骤S4。
在修正功能203中,根据从检测功能201送来的摄影图像数据及红眼的位置信息,进行与上述面部图像存储模式同样的摄影图像中的红眼的修正处理(图4的步骤S4)。另外,在本例中,修正功能203,不向面部图像生成功能204传送代表修正了摄影图像中的红眼的修正后摄影图像的修正后摄影图像数据,而是直接送至图2所示的图像存储器250中。
修正后摄影图像数据,被传送至图像存储器250,和面部图像数据同样在图像存储器250中存储(图4的步骤S8),上述那样的处理直到摄影结束之前反复进行(图4的步骤S9)。
这样,若利用本实施方式的数码相机,即使在选择了通常存储模式的情况下,也可以存储修正了红眼的看上去好看的图像。
以上,对本发明的第1实施方式的说明结束,接着说明本发明的第2实施方式。本实施方式的数码相机虽然具有与第1实施方式的数码相机100同样的构成要素,但与第1实施方式不同的是进行红眼检测的时序。以下,第1实施方式的说明中使用的图1及图2在这里也使用,主要说明与第1实施方式的不同方面。
图10是用表示本实施方式的数码相机进行的一系列摄影处理的流程图。
首先,摄影者朝向所希望的被摄体移动图1的数码相机100,半按下快门按钮120。
若图1的快门按钮120被半按下,则在数码相机100的内部,接通图2的开关组360所包含的快门开关的第1阶段。此时,从控制用微型计算机300向闪光发光部340提供发光量的指示,闪光发光部340,从图1所示的闪光发光装置140发出所指示的发光量的闪光(图10的步骤S21)。
若发出闪光,则与第1实施方式相同,由CCD211粗略地读取被摄体光,生成分辨率低的摄影图像数据(图10的步骤S22)。该低分辨率的摄影图像数据所代表的图像,成为与图5所示的摄影图像600同样,但画质粗糙的图像。
图像处理器200,根据与图4的步骤S2同样的处理,检测出低分辨率的摄影图像数据代表的图像中所包含的红眼(图10的步骤S23)。
在检测出红眼的情况下,从图10的步骤S24进入步骤S25。图像处理器200,进行与图4的步骤S5同样的处理,检测出低分辨率的摄影图像数据所代表的图像中人物的面部(图10的步骤S25),生成表示检测出面部位置的位置信息。
图像处理器200进一步根据低分辨率的摄影图像数据,计算出面部位置信息所代表的位置(以下将该面部位置信息所代表的位置称为被摄***置)中的测距信息及被摄***置中的光亮度信息,并将这些信息传送至控制用微型计算机300。
控制用微型计算机300,由从图像处理器200取得的光亮度信息确定快门速度及光圈量,由测距信息确定用于让焦点对准被摄体的聚焦透镜位置。根据这样确定的快门速度或光圈量、聚焦透镜位置,调整图2所示的各构成要素(图10的步骤S26)。
若从图10的步骤S21到步骤S26中的一系列预摄影处理完成,则由摄影者将图1的快门按钮120全按下,进行与在图4的步骤S1中说明的第1实施方式中的正式摄影处理同样的正式摄影处理(图10的步骤S27)。
在这里,由图像处理器200计算出的测距信息或光亮度信息,是根据摄影图像数据代表的摄影图像所包含的红眼,检测出人物的面部,与该人物的位置配合而计算出的信息。因此,通过根据该测距信息或光亮度信息,进行AF(聚焦调整)、AE(曝光调整)、AWB(白平衡修正)等,高精度让焦点与被检测出的人物对准,从而可以以最佳的曝光进行摄影。另外,用可以拍摄动画的数码相机,在上述的预摄影处理中预先检测出人物,例如通过追踪该被检测出的人物的颜色连续摄影,使焦点始终与该检测出的人物对准,可以得到画质好的动画。
另外,在图10的步骤S24中,在低分辨率的摄影图像数据代表的摄影图像中未检测出红眼的情况下,表示该摄影图像中不包含人物。在这种情况下,从步骤S24进入步骤S27,根据规定的快门速度、光圈量或聚焦透镜位置进行正式摄影。
以上,对本发明的第2实施方式的说明结束,接下来说明本发明的第3实施方式。本实施方式具备有与第1实施方式的数码相机100同样构成的摄像装置,是对用该摄像装置拍摄的摄影图像中的人物进行个人识别的***。
图11是适用于本发明的第3实施方式的个人识别***的功能框图。
个人识别***700,由具有与图2所示的第1实施方式的数码相机100同样构成的摄像装置710和与摄像装置710连接的个人电脑720构成。在个人电脑720中,具备分别作为红眼检测部721、面部识别部722、个人识别部723、存储部724及图像显示部725的功能。该红眼检测部721,相当于本发明的检测部的一例,面部检测部722相当于本发明的面部识别部的一例。存储部724中预先将人物的面部图像与有关该人物的信息相关联后进行保存。
图12是表示根据用摄像装置拍摄的摄影图像来识别摄影图像中的人物的一系列处理的流程图。
在摄像装置710中,进行与第1实施方式的数码相机100中的一系列摄影处理(图4的步骤S1)同样的一系列摄影处理,生成代表摄影图像的摄影图像数据(图12的步骤S31)。在该摄像装置710中,与图1所示的数码相机100同样,具有闪光装置与镜头被配置于非常接近的位置上,使摄影图像容易产生红眼的特征。在该摄像装置710中生成的摄影图像数据被送至红眼检测部721。
在红眼检测部721中,根据与图4的步骤S2或图10的步骤S23同样的处理,检测出被送来的摄影图像数据所代表的摄影图像中的红眼(图12的步骤S32)。
由红眼检测部721在摄影图像中检测出红眼的情况下,从步骤S33进入步骤S34,将摄影图像数据与红眼位置信息送至面部识别部722,开始面部识别处理。在面部识别部722中,进行与图4的步骤S4或图10的步骤S25同样的处理,检测出摄影图像中的人物的面部(图12的步骤S34)。代表在面部识别部722中检测出面部的面部图像被送至个人识别部723。
个人识别部723在存储于存储部724中的面部图像中,检索与具有从面部识别部722送来的面部图像的容貌的人物相同的人物面部图像。识别该个人的处理,是以往广泛进行的处理,在本说明书中省略其详细说明。再有,个人识别部723取得与检索到的面部图像对应的人物的相关信息(图12的步骤S35)。将取得的人物相关信息与人物的面部图像送至图像显示部725,这些与人物相关的信息与人物的面部图像被显示在显示画面(图中未示出)上。
另外,在图12的步骤S33中,在摄影图像中没有检测出红眼的情况下,省略步骤S34及步骤S35,不进行个人识别处理。这种情况下,将摄影图像从图11的红眼检测部721送至图像显示部725,在显示画面(图中未示出)上显示摄影图像与“不能识别个人”的信息。
在以往广泛应用的根据摄影人物而得到的摄影图像进行个人识别的个人识别***中,例如,若将人物的相片或面具配置于照相机前,则根据拍摄这些相片或面具的摄影图像就可以进行人物的识别,有可能骗过个人识别***。若根据本实施方式的个人识别***,则只对产生所谓的红眼等眼睛变色的摄影图像中的人物进行个人识别,对拍摄相片或面具但未产生红眼的摄影图像中的人物不进行个人识别,输出错误信息。因此,例如,若将本实施方式的个人识别***适用于安全***中,则可以构成坚固的安全***。
在这里,上述虽然对检测摄影图像中的红眼来识别面部的数码相机、面部识别方法及面部提取方法进行了说明,但本发明的摄像装置、面部识别方法及面部提取方法也可以是在图像中检测出产生规定变色的眼睛部分来识别面部的装置及方法,例如也可以是检测出摄影图像中的金眼来识别面部的装置及方法。
另外,在上述中,作为摄像装置虽然说明的是使用了数码相机的示例,但本发明的摄像装置,例如可以是装载于移动电话上的小型照相机等。
再有,在上述中,虽然对由闪光发光装置发出可见光,检测出以该可见光进行摄影的摄影图像中的眼睛的示例,但本发明的摄像装置、面部识别方法及面部提取方法也可以是从闪光发光装置发出红外线等可见光以外的光,检测出用该光摄影的摄影图像中的眼睛的装置及方法。通过用可见光以外的光拍摄被摄体,可以更容易检测摄影图像中的眼睛。