JP2012003576A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2012003576A JP2012003576A JP2010139026A JP2010139026A JP2012003576A JP 2012003576 A JP2012003576 A JP 2012003576A JP 2010139026 A JP2010139026 A JP 2010139026A JP 2010139026 A JP2010139026 A JP 2010139026A JP 2012003576 A JP2012003576 A JP 2012003576A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- face
- correction
- face image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/165—Detection; Localisation; Normalisation using facial parts and geometric relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Geometry (AREA)
- Ophthalmology & Optometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Processing Or Creating Images (AREA)
- Editing Of Facsimile Originals (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】撮像装置100であって、顔画像を取得するレンズ部1、電子撮像部2及び撮像制御部3と、取得された顔画像において組をなす2つの対応する領域を特定する顔画像処理部11の特定部11aと、特定された顔画像の2つの対応する領域のうち、一方の領域を基準として他方の領域を補正した顔画像を生成する顔画像処理部11の補正部11cと、を備えている。
【選択図】図8
Description
前記補正手段は、前記領域特定手段によって特定された前記顔画像の2つの対応する顔構成部のうち、一方の顔構成部を基準として他方の顔構成部を補正した顔画像を生成することを特徴とする。
画像処理装置として機能する撮像装置100は、顔画像の画像データを取得し、取得した顔画像の略中央部を所定方向に延在する中心線を基準として2つの領域を特定し、特定された顔画像の2つの領域のうち、一方の領域を基準として他方の領域を補正する。
具体的には、図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、撮像制御部3と、画像データ生成部4と、画像メモリ5と、記録媒体6と、表示制御部7と、表示部8と、操作入力部9と、CPU10と、顔画像処理部11と、を備えている。
また、撮像制御部3と、CPU10は、顔画像処理部11と、例えば、カスタムLSI1Aとして設計されている。
また、レンズ部1は、図示は省略するが、被写体(例えば顔F;図7参照)の撮像の際に、ズームレンズを光軸方向に移動させるズーム駆動部、フォーカスレンズを光軸方向に移動させる合焦駆動部等を備えていても良い。
また、撮像制御部3は、AF(自動合焦処理)、AE(自動露出処理)、AWB(自動ホワイトバランス)等の被写体Sの撮像条件の調整制御を行う。
ここで、レンズ部1、電子撮像部2及び撮像制御部3は、顔画像の画像データを取得する取得手段を構成している。
図7は、顔画像の画像データを表示部8に表示させた一例を示す。
カラープロセス回路から出力される輝度信号Y及び色差信号Cb,Crは、図示しないDMAコントローラを介して、バッファメモリとして使用される画像メモリ5にDMA転送される。
具体的には、表示制御部7は、VRAM、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、CPU10の制御下にて画像メモリ5から読み出されてVRAM(図示略)に記憶されている輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから定期的に読み出して、これらのデータを元にビデオ信号を発生して表示部8に出力する。
さらに、表示制御部7は、補正結果の表示を表示部8に行わせると共に、表示された補正結果を保存するか否かをユーザに確認するための確認処理を行う。確認処理として、例えば、表示制御部7は、表示された補正結果を顔画像に保存するか否かを選択するための保存可否選択表示を表示部8に表示させる。
そして、保存可否選択処理に対して、補正結果を保存するか否かの選択入力として、操作入力部9の決定ボタン9cや取消ボタン9d(後述)に対する入力操作がユーザにより行われる。
具体的には、特定部11aは、顔画像の画像フレーム内から2つの目に相当する顔構成部を検出する。また、特定部11aは、2つの目のそれぞれの黒目の中心の座標(例えば図8に示す座標(Xa,Ya)及び座標(Xb,Yb)等)を検出する。ここでいう座標とは、顔画像の画像データの所定位置を原点として、画像領域に対して互いに直行する所定の2方向(例えば図8に示すX方向及びY方向)に基づいて表される原点(例えば図8に示す原点O)に対する位置情報である。2つの目のそれぞれの黒目の中心の座標を検出すると、特定部11aは、検出された2つの目のそれぞれの黒目の中心の座標の中間点を通り、かつ、検出された2つの目のそれぞれの黒目の中心の座標を結ぶ線分に略直交するように延在する線分(例えば図8に示す線分C)の軌跡を算出し、当該線分を顔画像の略中央部を所定方向に延在する中心線とする。特定部11aは、当該線分を基準として分かたれた顔画像の2つの領域(例えば図8に示す領域F1、F2)を特定する。
ここで、特定部11aは、レンズ部1、電子撮像部2及び撮像制御部3により取得された顔画像において、組をなす2つの対応する領域を特定する領域特定手段を構成している。ここでいう「組」とは、共通の構成又は共通の構成を含む2つの領域をさす。例えば、2つの目(例えば図7に示す左目El、右目Er)や2つの口角(例えば図7に示す左の口角Ml、右の口角Mr)等の顔構成部や、これらの構成部をそれぞれ1つ以上含む顔画像の領域が挙げられる。
例えば、特定部11aは、顔画像において組をなす2つの対応する顔構成部として、両目(例えば図7に示す左目El、右目Er)を特定する。例えば、特定部11aは、顔画像に存在する黒目や白目を特定することで両目(2つの目)を特定する。この場合、特定部11aは、黒目や白目とその周囲の顔画像の領域との画素値、明るさ等の差に基づいて目を特定する。
また、特定部11aは、目の大きさに関する情報を取得する。例えば、特定部11aは、2つの目のそれぞれの黒目のY方向に沿った連続する画素数を取得する。
ここで、特定部11aは、顔画像において組をなす2つの対応する顔構成部をそれぞれ特定する顔構成部特定手段を構成している。
また、図7に示す顔画像において存在する2つの口角のうち、向かって左に位置する目を左の口角Mlとし、向かって右に存在する口角を右の口角Mrとしている。左の口角Mlは、被写体にとっての右の口角であり、右の口角Mrは、被写体にとっての左の口角である。
また、特定部11aは、2つの口角の位置に関する情報として、口の最下端の位置に関する情報を取得するここでいう「口の最下端」とは、顔画像の略中央部を所定方向に延在する中心線(例えば図8に示す線分C)に沿う方向側の口の端部であって、目に対して遠い方の端部である。図8に示す顔画像の場合、特定部11aは、図8に示す口の最下端の位置に関するY方向の座標(Y3)を取得する。
例えば、比較部11bは、特定部11aにより組をなす2つの対応する顔構成部として特定された、2つの目の大きさを比較する。具体的には、例えば、比較部11bは、特定部11aにより取得された2つの目のそれぞれの黒目のY方向に沿った連続する画素数を比較する。そして、比較部11bは、当該画素数が相対的に大きい方の目を特定する。また、比較部11bは、2つの目の大きさの比率を取得する。例えば、比較部11bは、2つの目のそれぞれの黒目のY方向に沿った連続する画素数の比率を算出し、2つの目の大きさの比率とする。
図8は、補正後の顔画像の画像データの一例を示す。図8では、目の大きさの補正結果について明確にするため、図7において網掛けされた黒目の部分の網掛けを省略している。
具体的には、補正部11cは、特定部11aにより特定された、顔画像の2つの顔構成部のうち、一方の顔構成部を基準として他方の顔構成部を補正する。例えば、補正部11cは、一方の目を基準として他方の目を補正する。
また、例えば、補正部11cは、一方の口角を基準として他方の口角を補正する。
図8に示す例では、比較部11bにより口角の位置が高い口角として特定された口角(図7、図8に示す左の口角Ml)を一方の口角とし、他方の口角(図7に示す右の口角Mr)のY方向の座標を一方の口角のY方向の座標に合わせるように補正しており、補正後の他方の口角を右の口角Mr2として示している。
ここで、補正部11cは、特定部11aにより特定された顔画像の2つの対応する領域のうち、一方の領域を基準として他方の領域を補正した顔画像を生成する補正手段を構成している。
例えば、所定条件として、「比較部11bにより大きい方の目と特定された目を、補正の基準とする一方の目とする」を用いる場合、補正基準決定部11dは、比較部11bによる特定結果の入力を受け、補正の基準となる一方の目を決定する。
同様に、例えば、所定条件として、「比較部11bにより口角の位置が高い口角として特定された口角を、補正の基準とする一方の口角とする」を用いる場合、補正基準決定部11dは、比較部11bによる特定結果の入力を受け、補正の基準となる一方の口角を決定する。
ここで、補正基準決定部11dは、補正部11cによる補正の基準となる一方の顔構成部を、所定条件に基づいて決定する補正基準決定手段を構成している。
図2は、撮像処理の流れの一例を示すフローチャートである。
まず、レンズ部1が被写体(例えば顔F;図7参照)にフォーカスを合わせるよう動作し、撮像制御部3の制御のもとで電子撮像部2が被写体を撮像して画像データを生成する(ステップS1)。その後、顔画像処理部11の特定部11aは、ステップS1の処理により取得された画像データから顔画像を検出する(ステップS2)。そして、顔画像処理部11は、顔画像に対して補正処理を行う(ステップS3)
まず、特定部11aが、領域特定処理を行う(ステップS11)。
領域特定処理において、特定部11aは、顔画像の画像フレーム内から2つの目に相当する顔構成部を検出する(ステップS31)。また、特定部11aは、2つの目のそれぞれの黒目の中心の座標を検出する(ステップS32)。そして、特定部11aは、2つの黒目の中心の座標を結ぶ線分の中間点に略直交する線分(例えば図8に示す線分C)の軌跡を算出し、当該線分を顔画像の略中央部を所定方向に延在する中心線とする(ステップS33)。特定部11aは、当該中心線を基準として顔画像を左右の領域(例えば図8に示す領域F1、F2)に分ける(ステップS34)。以上で、領域特定処理が終了する。
ステップS13の処理後、顔画像処理部11は、目の補正処理を行う(ステップS14)。
比較部11bは、ステップS13の処理により取得された2つの目の大きさに関する情報に基づいて2つの目の大きさを比較する(ステップS41)。そして、比較部11bは、大きい方の目を特定する(ステップS42)。具体的には、例えば、比較部11bは、2つの目のそれぞれの黒目のY方向に沿った連続する画素数を比較する。そして、比較部11bは、当該画素数が相対的に大きい方の目を特定する。
また、比較部11bは、2つの目の大きさの比率を取得する(ステップS43)。例えば、比較部11bは、2つの目のそれぞれの黒目のY方向に沿った連続する画素数の比率を算出し、2つの目の大きさの比率とする。
ステップS43の処理後、補正部11cは、ステップS43の処理により比較部11bにより算出された2つの目の大きさの比率に基づいて、ステップS42の処理により大きい方の目として特定された一方の目の幅方向の大きさと、他方の目の幅方向の大きさとがほぼ同一になるように、他方の目、即ち小さい方の目を大きくするように補正する(ステップS44)(図8を参照)。以上で目の補正処理が終了する。
目の補正処理後、顔画像処理部11は、口角の補正処理を行う(ステップS15)。
比較部11bは、ステップS13の処理により取得された2つの口角の位置に関する情報に基づいて、2つの口角の位置をそれぞれ算出する(ステップS51)。そして、比較部11bは、2つの口角の位置を比較し(ステップS52)、口角の位置が高い口角を特定する(ステップS53)。
ステップS53の処理後、補正部11cは、ステップS53の処理により口角の位置が高い口角として特定された口角を一方の口角とし、他方の口角の位置を一方の口角の位置に合わせるように補正する(ステップS54)(図8を参照)。以上で、口角の補正処理が終了する。
図2のフローチャートでは、ステップS1の処理による顔画像の撮像により取得された顔画像に対する補正処理について記載しているが、補正処理は顔画像の撮像時に限らず行うことができる。例えば、記録媒体6に既に記憶されている顔画像の画像データに対して補正処理を施すこともできる。
また、図2のフローチャートでは、撮像された顔画像の画像データに対して自動的に補正処理が行われているが、撮像後すぐに顔画像の補正を自動的に行うか否かを予め設定することができるようにしてもよい。例えば、撮像前に、撮像後すぐに顔画像の補正を自動的に行うか否かの設定を操作入力部9の決定ボタン9c又は取消ボタン9dに対する入力操作等に基づいて決定する等の方法が挙げられる。決定された、撮像後すぐに顔画像の補正を自動的に行うか否かの設定を、記録媒体6等の記憶装置に記録、保持させるようにしてもよい。
つまり、顔画像の一方の領域は、何ら補正を施していない自然な状態の顔画像であるので、一方の領域を基準として他方の領域を補正することで、補正が施された他方の領域の補正結果も自然な印象とすることができる。このように、撮像装置100によれば、より自然な画像処理を顔画像に施すことができる。
これによって、顔画像の2つの領域のうち一の領域(他方の領域)全体を補正せずとも、顔構成部を補正することで顔画像に対して補正を行うことができる。このため、顔画像の一の領域を補正する場合に比して補正に係る処理負荷を軽減することができる。また、顔画像の顔構成部に補正を行うことで、顔画像に対して局所的な補正を施すことができる。
また、特定部11aが、2つの顔構成部として顔画像の2つの領域の各々に共に存在する目をそれぞれ特定し、補正部11cが、特定された2つの目のうち、一方の目を基準として他方の目を補正する。
これによって、顔画像の目(他方の目)を、一方の目に基づいて補正することができるので、目に対する補正結果を自然な印象とすることができる。
また、補正基準決定部11dが、2つの目のうち、大きい方の目を補正の基準とする一方の目とし、補正部11cが、一方の目の大きさに基づいて他方の目の大きさを補正することによって、相対的に小さい他方の目の大きさを相対的に大きい一方の目に合わせることができる。一般的に、目の大きい顔画像は、表情豊かで明るい印象を与えるので、大きい方の目に基づいて小さい方の目を補正することにより、補正を施さない場合に比して顔画像を表情豊かで明るい印象とし、美しく見せることができる。
また、特定部11aが、2つの顔構成部として顔画像の2つの領域の各々に共に存在する口角をそれぞれ特定し、補正部11cが、特定された2つの口角のうち、一方の口角に基づいて他方の口角を補正する。
これによって、顔画像の口角(他方の口角)を、一方の口角に基づいて補正することができるので、口角に対する補正結果を自然な印象とすることができる。
これによって、補正の基準となる一方の領域を容易に決定することができる。
例えば、上記実施形態において示した「比較部11bにより大きい方の目と特定された目を、補正の基準とする一方の目とする」とする所定条件や「比較部11bにより口角の位置が高い口角として特定された口角を、補正の基準とする一方の口角とする」とする所定条件を用いることにより、補正の基準となる目や口角を自動的に決定することができる。この場合、顔画像の補正処理を自動化することができるので、ユーザに煩雑な操作を行わせることなく顔画像の補正処理を行うことができる。
これによって、ユーザは、顔画像の補正結果を確認した上で、顔画像に補正を施すか否かを意思決定することができる。
図9は、変形例の撮像装置100Aを示す図である。
変形例の操作入力部9は、更に、補正を行う顔構成部の指定入力に係る選択ボタン9eを具備する。
補正部11cは、操作入力部9の選択ボタン9eを介して行われた指定入力の内容に基づいて補正する顔構成部を決定する。
具体的には、特定部11aにより特定された2つ以上の組をなす2つの対応する顔構成部、即ち2種類以上の、組をなす2つの対応する顔構成部(例えば目と口等)について、操作入力部9の選択ボタン9eが、補正部11cによる補正を行う顔構成部の種類の指定入力を受け付ける。このとき、表示部8により補正する顔画像の表示を行い、ユーザが顔画像を確認した上で補正を行う顔構成部の種類を決定できるようにしてもよい。
ここで、操作入力部9の選択ボタン9eは、特定部11aにより特定された2つ以上の組をなす2つの対応する顔構成部のうち、補正部11cによる補正を行う顔構成部の指定入力を受け付ける補正対象指定受付手段を構成している。
まず、特定部11aが、領域特定処理を行う(ステップS61)。
領域特定処理の後、特定部11aは、2つの領域の各々に共に存在する顔構成部(例えば2つの目及び2つの口角)を特定する(ステップS62)。特定部11aは、例えば目や口とその周囲の顔画像の領域との画素値、明るさ等の差に基づいて目や口を特定する。また、特定部11aは、2つの目の大きさに関する情報ならびに口の最下端の位置に関する情報及び2つの口角の位置に関する情報を示す座標を取得する(ステップS63)。特定部11aは、例えば、2つの目のそれぞれの黒目のY方向に沿った連続する画素数を2つの目の大きさに関する情報として取得する。また、特定部11aは、例えば、図8に示す口の最下端の位置に関するY方向の座標(Y3)と、2つの口角のY方向の座標(Y1、Y2)を口の最下端の位置に関する情報及び口角の位置に関する情報として取得する。
これによって、ユーザの希望による顔構成部に対して補正を行うことができ、ユーザの所望する顔画像の補正結果をより容易に得られる。
補正の基準となる一方の目は、大きい方の目に限らず、小さい方の目でもよい。また、補正の基準となる一方の口角は、口角の位置が高い口角に限らず、口角の位置が低い口角でもよい。
また、 顔画像の補正は、目の大きさの補正や口角の位置の補正に限らない。例えば、目や口等の顔構成部の形状や色、また顔画像の2つの領域の形状や色等の補正を行ってもよい。また、3つ以上の領域を組とすることを妨げない。例えば、額の領域の肌の色に基づいて顔画像の他の領域(例えば両頬等)の肌の色を補正した顔画像を生成する等が挙げられる。
また、目や口角の特定方法は、上記各実施形態の記載内容に限らない。例えば、特定する顔構成部の輪郭を抽出する方法が挙げられる。また、抽出された輪郭内の画素のみを顔構成部としてもよいし、輪郭を含む方形状の領域を顔構成部としてもよい。
また、顔画像を左右に分けて、例えば左側の顔画像を基準にして右側の顔画像を補正するようにしてもよし、左右どちらかの顔画像を反転させた画像を生成して左右対称な顔画像を生成するように補正してもよい。
また、顔画像を二分する処理を省略し、特定部11aが組となる2つの対応する顔構成部を特定するようにしてもよい。
互いに異なる複数の補正結果を生成し、保存する補正結果に選択肢を設けることで、ユーザにとってより好みの補正結果を反映しやすくなり、補正後の顔画像はユーザの好みに一層近づく。つまり、ユーザの所望する顔画像の補正結果をより容易に得られる。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、取得処理ルーチン、領域特定処理ルーチン、顔構成部特定処理ルーチン、補正処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンによりCPU10を、顔画像を取得する取得手段として機能させるようにしてもよい。また、領域特定処理ルーチンによりCPU10を、取得手段により取得された顔画像において、組をなす2つの対応する領域を特定する領域特定手段として機能させるようにしても良い。また、顔構成部特定処理ルーチンによりCPU10を、取得手段により取得された顔画像において、組をなす2つの対応する顔構成部を特定する顔構成部特定手段として機能させるようにしても良い。また、補正処理ルーチンによりCPU10を、領域特定手段により特定された顔画像の2つの対応する領域又は顔構成部特定手段により特定された顔画像の2つの対応する顔構成部のうち、一方を基準として他方を補正した顔画像を生成する補正手段として機能させるようにしても良い。
2 電子撮像部
3 撮像制御部
4 画像データ生成部
5 画像メモリ
6 記録媒体
7 表示制御部
8 表示部
9 操作入力部
10 CPU
11 顔画像処理部
11a特定部
11b比較部
11c補正部
11d補正基準決定部
11e補正実行決定部
100撮像装置
画像処理装置として機能する撮像装置100は、顔画像の画像データを取得し、取得した顔画像の略中央部を所定方向に延在する中心線を基準として複数の領域を特定し、特定された顔画像の複数の領域のうち、一の領域を基準として他の領域を補正する。
具体的には、図1に示すように、撮像装置100は、レンズ部1と、電子撮像部2と、撮像制御部3と、画像データ生成部4と、画像メモリ5と、記録媒体6と、表示制御部7と、表示部8と、操作入力部9と、CPU10と、顔画像処理部11と、を備えている。
また、撮像制御部3と、CPU10は、顔画像処理部11と、例えば、カスタムLSI1Aとして設計されている。
具体的には、特定部11aは、顔画像の画像フレーム内から2つの目に相当する顔構成部を検出する。また、特定部11aは、2つの目のそれぞれの瞳の中心の座標(例えば図8に示す座標(Xa,Ya)及び座標(Xb,Yb)等)を検出する。ここでいう座標とは、顔画像の画像データの所定位置を原点として、画像領域に対して互いに直行する所定の2方向(例えば図8に示すX方向及びY方向)に基づいて表される原点(例えば図8に示す原点O)に対する位置情報である。2つの目のそれぞれの瞳の中心の座標を検出すると、特定部11aは、検出された2つの目のそれぞれの瞳の中心の座標の中間点を通り、かつ、検出された2つの目のそれぞれの瞳の中心の座標を結ぶ線分に略直交するように延在する線分(例えば図8に示す線分C)の軌跡を算出し、当該線分を顔画像の略中央部を所定方向に延在する中心線とする。特定部11aは、当該線分を基準として分かたれた顔画像の2つの領域(例えば図8に示す領域F1、F2)を特定する。
ここでいう「組」とは、共通の構成又は共通の構成を含む2つの領域をさす。例えば、2つの目(例えば図7に示す左目El、右目Er)や2つの口角(例えば図7に示す左の口角Ml、右の口角Mr)等の顔構成部や、これらの構成部をそれぞれ1つ以上含む顔画像の領域が挙げられる。
例えば、特定部11aは、顔画像において組をなす複数の対応する顔構成部として、両目(例えば図7に示す左目El、右目Er)を特定する。例えば、特定部11aは、顔画像に存在する瞳や白目を特定することで両目(2つの目)を特定する。この場合、特定部11aは、瞳や白目とその周囲の顔画像の領域との画素値、明るさ等の差に基づいて目を特定する。
また、特定部11aは、目の大きさに関する情報を取得する。例えば、特定部11aは、2つの目のそれぞれの瞳のY方向に沿った連続する画素数を取得する。
例えば、比較部11bは、特定部11aにより組をなす複数の対応する顔構成部として特定された、2つの目の大きさを比較する。具体的には、例えば、比較部11bは、特定部11aにより取得された2つの目のそれぞれの瞳のY方向に沿った連続する画素数を比較する。そして、比較部11bは、当該画素数が相対的に大きい方の目を特定する。また、比較部11bは、2つの目の大きさの比率を取得する。例えば、比較部11bは、2つの目のそれぞれの瞳のY方向に沿った連続する画素数の比率を算出し、2つの目の大きさの比率とする。
図8は、補正後の顔画像の画像データの一例を示す。図8では、目の大きさの補正結果について明確にするため、図7において網掛けされた瞳の部分の網掛けを省略している。
具体的には、補正部11cは、特定部11aにより特定された、顔画像の複数の顔構成部のうち、一の顔構成部を基準として他の顔構成部を補正する。例えば、補正部11cは、一方の目を基準として他方の目を補正する。
また、例えば、補正部11cは、一方の口角を基準として他方の口角を補正する。
図8に示す例では、比較部11bにより口角の位置が高いほうの口角として特定された口角(図7、図8に示す左の口角Ml)を一方の口角とし、他方の口角(図7に示す右の口角Mr)のY方向の座標を一方の口角のY方向の座標に合わせるように補正しており、補正後の他方の口角を右の口角Mr2として示している。
領域特定処理において、特定部11aは、顔画像の画像フレーム内から2つの目に相当する顔構成部を検出する(ステップS31)。また、特定部11aは、2つの目のそれぞれの瞳の中心の座標を検出する(ステップS32)。そして、特定部11aは、2つの瞳の中心の座標を結ぶ線分の中間点に略直交する線分(例えば図8に示す線分C)の軌跡を算出し、当該線分を顔画像の略中央部を所定方向に延在する中心線とする(ステップS33)。特定部11aは、当該中心線を基準として顔画像を左右の領域(例えば図8に示す領域F1、F2)に分ける(ステップS34)。以上で、領域特定処理が終了する。
ステップS13の処理後、顔画像処理部11は、目の補正処理を行う(ステップS14)。
比較部11bは、ステップS13の処理により取得された2つの目の大きさに関する情報に基づいて2つの目の大きさを比較する(ステップS41)。そして、比較部11bは、大きい方の目を特定する(ステップS42)。具体的には、例えば、比較部11bは、2つの目のそれぞれの瞳のY方向に沿った連続する画素数を比較する。そして、比較部11bは、当該画素数が相対的に大きい方の目を特定する。
また、比較部11bは、2つの目の大きさの比率を取得する(ステップS43)。例えば、比較部11bは、2つの目のそれぞれの瞳のY方向に沿った連続する画素数の比率を算出し、2つの目の大きさの比率とする。
ステップS43の処理後、補正部11cは、ステップS43の処理により比較部11bにより算出された2つの目の大きさの比率に基づいて、ステップS42の処理により大きい方の目として特定された一方の目の幅方向の大きさと、他方の目の幅方向の大きさとがほぼ同一になるように、他方の目、即ち小さい方の目を大きくするように補正する(ステップS44)(図8を参照)。以上で目の補正処理が終了する。
目の補正処理後、顔画像処理部11は、口角の補正処理を行う(ステップS15)。
つまり、顔画像の一の領域は、何ら補正を施していない自然な状態の顔画像であるので、一の領域を基準として他の領域を補正することで、補正が施された他の領域の補正結果も自然な印象とすることができる。このように、撮像装置100によれば、より自然な画像処理を顔画像に施すことができる。
これによって、顔画像の顔画像領域全体を補正せずとも、顔構成部を補正することで顔画像に対して補正を行うことができる。このため、顔画像の一の領域を補正する場合に比して補正に係る処理負荷を軽減することができる。また、顔画像の顔構成部に補正を行うことで、顔画像に対して局所的な補正を施すことができる。
また、特定部11aが、複数の顔構成部として顔画像の2つの領域の各々に共に存在する目をそれぞれ特定し、補正部11cが、特定された2つの目のうち、一方の目を基準として他方の目を補正する。
これによって、顔画像の目(他方の目)を、一方の目に基づいて補正することができるので、目に対する補正結果を自然な印象とすることができる。
また、補正基準決定部11dが、2つの目のうち、大きい方の目を補正の基準とする一方の目とし、補正部11cが、一方の目の大きさに基づいて他方の目の大きさを補正することによって、相対的に小さい他方の目の大きさを相対的に大きい一方の目に合わせることができる。一般的に、目の大きい顔画像は、表情豊かで明るい印象を与えるので、大きい方の目に基づいて小さい方の目を補正することにより、補正を施さない場合に比して顔画像を表情豊かで明るい印象とし、美しく見せることができる。
また、特定部11aが、2つの顔構成部として顔画像の2つの領域の各々に共に存在する口角をそれぞれ特定し、補正部11cが、特定された2つの口角のうち、一方の口角に基づいて他方の口角を補正する。
これによって、顔画像の口角(他方の口角)を、一方の口角に基づいて補正することができるので、口角に対する補正結果を自然な印象とすることができる。
これによって、補正の基準となる一の領域を容易に決定することができる。
例えば、上記実施形態において示した「比較部11bにより大きい方の目と特定された目を、補正の基準とする一の目とする」とする所定条件や「比較部11bにより口角の位置が高いほうの口角として特定された口角を、補正の基準とする一の口角とする」とする所定条件を用いることにより、補正の基準となる目や口角を自動的に決定することができる。この場合、顔画像の補正処理を自動化することができるので、ユーザに煩雑な操作を行わせることなく顔画像の補正処理を行うことができる。
図9は、変形例の撮像装置100Aを示す図である。
変形例の操作入力部9は、更に、補正を行う顔構成部の指定入力に係る選択ボタン9eを具備する。
補正部11cは、操作入力部9の選択ボタン9eを介して行われた指定入力の内容に基づいて補正する顔構成部を決定する。
具体的には、特定部11aにより特定された2つ以上の組をなす複数の対応する顔構成部、即ち2種類以上の、組をなす複数の対応する顔構成部(例えば目と口等)について、操作入力部9の選択ボタン9eが、補正部11cによる補正を行う顔構成部の種類の指定入力を受け付ける。このとき、表示部8により補正する顔画像の表示を行い、ユーザが顔画像を確認した上で補正を行う顔構成部の種類を決定できるようにしてもよい。
まず、特定部11aが、領域特定処理を行う(ステップS61)。
領域特定処理の後、特定部11aは、2つの領域の各々に共に存在する顔構成部(例えば2つの目及び2つの口角)を特定する(ステップS62)。特定部11aは、例えば目や口とその周囲の顔画像の領域との画素値、明るさ等の差に基づいて目や口を特定する。また、特定部11aは、2つの目の大きさに関する情報ならびに口の最下端の位置に関する情報及び2つの口角の位置に関する情報を示す座標を取得する(ステップS63)。特定部11aは、例えば、2つの目のそれぞれの瞳のY方向に沿った連続する画素数を2つの目の大きさに関する情報として取得する。また、特定部11aは、例えば、図8に示す口の最下端の位置に関するY方向の座標(Y3)と、2つの口角のY方向の座標(Y1、Y2)を口の最下端の位置に関する情報及び口角の位置に関する情報として取得する。
補正の基準となる一の目は、大きい方の目に限らず、小さい方の目でもよい。また、補正の基準となる一の口角は、口角の位置が高いほうの口角に限らず、口角の位置が低いほうの口角でもよい。
即ち、プログラムを記憶するプログラムメモリ(図示略)に、取得処理ルーチン、領域特定処理ルーチン、顔構成部特定処理ルーチン、補正処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンによりCPU10を、顔画像を取得するように機能させてもよい。また、領域特定処理ルーチンによりCPU10を、取得された顔画像において、組をなす複数の対応する領域を特定するように機能させても良い。また、顔構成部特定処理ルーチンによりCPU10を、取得された顔画像において、組をなす複数の対応する顔構成部を特定するように機能させても良い。また、補正処理ルーチンによりCPU10を、特定された顔画像の複数の対応する領域又は特定された顔画像の複数の対応する顔構成部のうち、一の顔講成部を基準として他を補正した顔画像を生成するように機能させても良い。
Claims (13)
- 顔画像を取得する取得手段と、
この取得手段により取得された顔画像において、組をなす2つの対応する領域を特定する領域特定手段と、
この領域特定手段により特定された前記顔画像の2つの対応する領域のうち、一方の領域を基準として他方の領域を補正した顔画像を生成する補正手段と、
を備えたことを特徴とする画像処理装置。 - 前記領域特定手段により特定された2つの対応する領域のうち、前記補正手段による補正の基準となる領域を、所定条件に基づいて決定する決定手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
- 前記領域特定手段により特定された2つの対応する領域のうち、前記補正手段による補正の基準となる領域の指定入力を受け付ける補正基準指定受付手段を更に有し、
前記決定手段は、前記補正基準指定受付手段により受け付けられた指定入力の内容に基づいて前記補正手段による補正の基準となる一方の領域を決定することを特徴とする請求項2に記載の画像処理装置。 - 前記領域特定手段は、更に前記顔画像において組をなす2つの対応する顔構成部を特定し、
前記補正手段は、前記領域特定手段によって特定された前記顔画像の2つの対応する顔構成部のうち、一方の顔構成部を基準として他方の顔構成部を補正した顔画像を生成することを特徴とする請求項1〜3の何れか一項に記載の画像処理装置。 - 前記領域特定手段は、組をなす2つの対応する顔構成部として前記顔画像に存在する両目をそれぞれ特定し、
前記補正手段は、前記領域特定手段により特定された両目のうち、一方の目を基準として他方の目を補正することを特徴とする請求項4に記載の画像処理装置。 - 前記領域特定手段は、組をなす2つの対応する領域として前記顔画像に存在する両目をそれぞれ特定し、
前記決定手段は、前記領域特定手段により特定された両目のうち、大きい方の目を補正の基準とする一方の目とし、
前記補正手段は、前記決定手段により決定された前記一方の目の大きさに基づいて他方の目の大きさを補正することを特徴とする請求項2に記載の画像処理装置。 - 前記領域特定手段は、組をなす2つの対応する顔構成部として前記顔画像に存在する2つの口角をそれぞれ特定し、
前記補正手段は、前記領域特定手段により特定された2つの口角のうち、一方の口角に基づいて他方の口角を補正することを特徴とする請求項4に記載の画像処理装置。 - 前記領域特定手段により特定された2つ以上の組をなす2つの対応する顔構成部のうち、前記補正手段による補正を行う顔構成部の指定入力を受け付ける補正対象指定受付手段を更に有し、
前記補正手段は、前記補正対象指定受付手段により受け付けられた指定入力の内容に基づいて補正すべき顔構成部を決定することを特徴とする請求項4〜7の何れか一項に記載の画像処理装置。 - 顔画像を取得する取得手段と、
この取得手段により取得された顔画像において、組をなす2つの対応する顔構成部を特定する顔構成部特定手段と、
この顔構成部特定手段により特定された前記顔画像の2つの対応する顔構成部のうち、一方の顔構成部を基準として他方の顔構成部を補正した顔画像を生成する補正手段と、
を備えたことを特徴とする画像処理装置。 - 画像処理装置に、
顔画像を取得する処理と、
取得された顔画像において、組をなす2つの対応する領域を特定する処理と、
特定された前記顔画像の2つの対応する領域のうち、一方の領域を基準として他方の領域を補正した顔画像を生成する処理と、
を実行させることを特徴とする画像処理方法。 - 画像処理装置に、
顔画像を取得する処理と、
取得された顔画像において、組をなす2つの対応する顔構成部を特定する処理と、
特定された前記顔画像の2つの対応する顔構成部のうち、一方の顔構成部を基準として他方の顔構成部を補正した顔画像を生成する処理と、
を実行させることを特徴とする画像処理方法。 - 画像処理装置が備えるコンピュータを、
顔画像を取得する取得手段、
この取得手段により取得された顔画像において、組をなす2つの対応する領域を特定する領域特定手段、
この領域特定手段により特定された前記顔画像の2つの対応する領域のうち、一方の領域を基準として他方の領域を補正した顔画像を生成する補正手段、
として機能させることを特徴とするプログラム。 - 画像処理装置が備えるコンピュータを、
顔画像を取得する取得手段、
この取得手段により取得された顔画像において、組をなす2つの対応する顔構成部を特定する顔構成部特定手段、
この顔構成部特定手段により特定された前記顔画像の2つの対応する顔構成部のうち、一方の顔構成部を基準として他方の顔構成部を補正した顔画像を生成する補正手段、
として機能させることを特徴とするプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010139026A JP2012003576A (ja) | 2010-06-18 | 2010-06-18 | 画像処理装置、画像処理方法及びプログラム |
KR1020110056226A KR20110138162A (ko) | 2010-06-18 | 2011-06-10 | 화상 처리 장치, 화상 처리 방법 및 프로그램을 기록한 기록 매체 |
US13/158,614 US8842932B2 (en) | 2010-06-18 | 2011-06-13 | Image processing apparatus, image processing method, and recording medium recording a program |
CN2011101587527A CN102289785B (zh) | 2010-06-18 | 2011-06-14 | 图像处理装置以及图像处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010139026A JP2012003576A (ja) | 2010-06-18 | 2010-06-18 | 画像処理装置、画像処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012003576A true JP2012003576A (ja) | 2012-01-05 |
Family
ID=45328735
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010139026A Pending JP2012003576A (ja) | 2010-06-18 | 2010-06-18 | 画像処理装置、画像処理方法及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US8842932B2 (ja) |
JP (1) | JP2012003576A (ja) |
KR (1) | KR20110138162A (ja) |
CN (1) | CN102289785B (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5450739B2 (ja) * | 2012-08-30 | 2014-03-26 | シャープ株式会社 | 画像処理装置及び画像表示装置 |
JP6423625B2 (ja) * | 2014-06-18 | 2018-11-14 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
US10638037B2 (en) * | 2015-09-30 | 2020-04-28 | Nikon Corporation | Image-capturing device and image processing device |
WO2018123413A1 (ja) * | 2016-12-27 | 2018-07-05 | シャープ株式会社 | 画像処理装置、画像印刷装置、撮像装置、および画像処理プログラム |
JP6731073B2 (ja) * | 2016-12-27 | 2020-07-29 | シャープ株式会社 | 画像処理装置、撮像装置、画像印刷装置、画像処理装置の制御方法、および画像処理プログラム |
CN110603565A (zh) * | 2017-04-21 | 2019-12-20 | 夏普株式会社 | 图像处理装置、拍摄装置、图像打印装置、图像处理装置的控制方法以及图像处理程序 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009223566A (ja) * | 2008-03-14 | 2009-10-01 | Seiko Epson Corp | 画像処理装置、画像処理方法および画像処理プログラム |
JP2009245166A (ja) * | 2008-03-31 | 2009-10-22 | Seiko Epson Corp | 顔認識装置、顔認識プログラム、顔認識方法 |
JP2009265726A (ja) * | 2008-04-22 | 2009-11-12 | Seiko Epson Corp | 画像処理装置及び画像処理方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000267156A (ja) | 1999-03-18 | 2000-09-29 | Hitachi Software Eng Co Ltd | 自動写真撮影装置 |
US6504546B1 (en) * | 2000-02-08 | 2003-01-07 | At&T Corp. | Method of modeling objects to synthesize three-dimensional, photo-realistic animations |
US6499843B1 (en) * | 2000-09-13 | 2002-12-31 | Bausch & Lomb Incorporated | Customized vision correction method and business |
US6919892B1 (en) * | 2002-08-14 | 2005-07-19 | Avaworks, Incorporated | Photo realistic talking head creation system and method |
US7027054B1 (en) * | 2002-08-14 | 2006-04-11 | Avaworks, Incorporated | Do-it-yourself photo realistic talking head creation system and method |
JP4218348B2 (ja) | 2003-01-17 | 2009-02-04 | オムロン株式会社 | 撮影装置 |
JP2005215750A (ja) | 2004-01-27 | 2005-08-11 | Canon Inc | 顔検知装置および顔検知方法 |
US7819818B2 (en) * | 2004-02-11 | 2010-10-26 | Jamshid Ghajar | Cognition and motor timing diagnosis using smooth eye pursuit analysis |
US7245449B2 (en) * | 2005-07-28 | 2007-07-17 | Guzik Technical Enterprises | Timing analysis of read back signals in magnetic recording devices |
EP2030171A1 (en) * | 2006-04-10 | 2009-03-04 | Avaworks Incorporated | Do-it-yourself photo realistic talking head creation system and method |
JP4264663B2 (ja) | 2006-11-21 | 2009-05-20 | ソニー株式会社 | 撮影装置、画像処理装置、および、これらにおける画像処理方法ならびに当該方法をコンピュータに実行させるプログラム |
CN106919911A (zh) * | 2008-07-30 | 2017-07-04 | 快图有限公司 | 使用脸部检测的自动脸部和皮肤修饰 |
TW201103787A (en) * | 2009-07-31 | 2011-02-01 | Automotive Res & Testing Ct | Obstacle determination system and method utilizing bird's-eye images |
-
2010
- 2010-06-18 JP JP2010139026A patent/JP2012003576A/ja active Pending
-
2011
- 2011-06-10 KR KR1020110056226A patent/KR20110138162A/ko not_active Application Discontinuation
- 2011-06-13 US US13/158,614 patent/US8842932B2/en not_active Expired - Fee Related
- 2011-06-14 CN CN2011101587527A patent/CN102289785B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009223566A (ja) * | 2008-03-14 | 2009-10-01 | Seiko Epson Corp | 画像処理装置、画像処理方法および画像処理プログラム |
JP2009245166A (ja) * | 2008-03-31 | 2009-10-22 | Seiko Epson Corp | 顔認識装置、顔認識プログラム、顔認識方法 |
JP2009265726A (ja) * | 2008-04-22 | 2009-11-12 | Seiko Epson Corp | 画像処理装置及び画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
CN102289785B (zh) | 2013-05-15 |
US20110311159A1 (en) | 2011-12-22 |
CN102289785A (zh) | 2011-12-21 |
US8842932B2 (en) | 2014-09-23 |
KR20110138162A (ko) | 2011-12-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8446485B2 (en) | Image processing apparatus, image processing method, and storage medium thereof | |
US7826730B2 (en) | Image capturing device having a hand shake correction function, hand shake correction method, and storage medium storing a hand shake correction process program | |
JP5136669B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4752941B2 (ja) | 画像合成装置及びプログラム | |
JP5939705B2 (ja) | 被写体判定装置、被写体判定方法及びプログラム | |
JP4798236B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
US9900523B2 (en) | Image processing apparatus which performs image processing on photographic subject | |
JP2011135438A (ja) | 画像合成装置、画像合成方法及びプログラム | |
JP2010152871A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2012003576A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2018117288A (ja) | 画像処理装置及び画像処理方法 | |
JP2014053664A (ja) | 撮像装置、撮像方法及びプログラム | |
JP5504990B2 (ja) | 撮像装置、画像処理装置及びプログラム | |
JP5370555B2 (ja) | 撮像装置、撮像方法及びプログラム | |
US20130343656A1 (en) | Image creating device, image creating method and recording medium | |
JP5493839B2 (ja) | 撮像装置、画像合成方法及びプログラム | |
JP5636660B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2014174855A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5338248B2 (ja) | 画像処理装置、電子カメラおよび画像処理プログラム | |
JP2010028237A (ja) | 撮影装置及び撮影パラメータ決定方法 | |
JP6668646B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6476811B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP5310361B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
JP5565227B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2017117143A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120405 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120410 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120531 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120619 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130108 |