JP2009071772A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2009071772A
JP2009071772A JP2007240890A JP2007240890A JP2009071772A JP 2009071772 A JP2009071772 A JP 2009071772A JP 2007240890 A JP2007240890 A JP 2007240890A JP 2007240890 A JP2007240890 A JP 2007240890A JP 2009071772 A JP2009071772 A JP 2009071772A
Authority
JP
Japan
Prior art keywords
luminance
image
target
subject
gradation conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007240890A
Other languages
English (en)
Other versions
JP4402710B2 (ja
Inventor
Saori Shimizu
さおり 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2007240890A priority Critical patent/JP4402710B2/ja
Priority to CN2008102135900A priority patent/CN101394484B/zh
Priority to US12/211,959 priority patent/US8106965B2/en
Publication of JP2009071772A publication Critical patent/JP2009071772A/ja
Application granted granted Critical
Publication of JP4402710B2 publication Critical patent/JP4402710B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】白とびや黒つぶれが少なく、ダイナミックレンジが広く、かつ、主要な被写体が適正な明るさの画像を取得する。
【解決手段】本撮影の前に取得された画像中の主要な被写体を前記画像の画像信号から検出する被写体検出手段と、被写体に関する輝度情報を画像信号から取得する被写体輝度情報取得手段と、画像中の複数の領域の輝度分布を算出する輝度分布算出手段と、輝度分布に基づいて露光に関する目標輝度を決定する目標輝度算出手段と、目標輝度と被写体の輝度との差が基準範囲外の場合に目標輝度を補正する目標輝度補正手段と、目標輝度または補正後の目標輝度に基づいて本撮影の露光条件を決定する露光条件決定手段とを具備し、目標輝度補正手段は、基準範囲を決定する基準範囲決定手段と、目標輝度と被写体の輝度との差を用いて補正量を決定する補正量決定手段とを有する撮像装置である。
【選択図】図1

Description

本発明は、デジタルカメラ等の撮像装置に関するものである。
従来、主要被写体の輝度を測定し、被写体に露出が合うような露光を行う撮像装置が知られている。
また、被写体輝度分布情報を元に、画面全体に対して白とびや黒つぶれがなく、ダイナミックレンジが広くなるような露光調節と階調変換処理を行う撮像装置が知られている。
特開2000−184272号公報 特開2004−229054号公報 特許第3478769号公報
しかしながら、主要被写体の輝度を測定し、被写体に露出が合うように露光を調節する撮像装置では、輝度差の大きなシーンでは主要被写体以外の部分が白とびや黒つぶれとなる可能性があり、画面全体として不自然な画像となってしまうおそれがある。
また、露光調節と階調変換処理とを行う撮像装置においては、人物が被写体となるような場合には、被写体の明るさが過剰となる或いは不足する場合があり、人物の顔の表情がわからなくなってしまう等の問題がある。
このように、従来の撮像装置においては、撮影者が所望する画像を得ることができない場合があった。
本発明は、上記問題を解決するためになされたもので、白とびや黒つぶれが少なく、ダイナミックレンジが広く、かつ、主要な被写体を適正な明るさとすることで、撮影者の望む画質の画像を提供することのできる撮像装置を提供することを目的とする。
上記課題を解決するために、本発明は以下の手段を採用する。
本発明は、本撮影の前に取得された画像中の主要な被写体を前記画像の画像信号から検出する被写体検出手段と、前記被写体に関する輝度情報を前記画像信号から取得する被写体輝度情報取得手段と、前記画像中の複数の領域について、各領域の輝度分布を算出する輝度分布算出手段と、前記輝度分布に基づいて露光に関する目標輝度を決定する目標輝度算出手段と、前記目標輝度と前記被写体の輝度との差が基準範囲外の場合に前記目標輝度を補正する目標輝度補正手段と、前記目標輝度または前記目標輝度補正手段により補正が実施された場合には補正後の前記目標輝度に基づいて本撮影の露光条件を決定する露光条件決定手段とを具備し、前記目標輝度補正手段は、前記基準範囲を決定する基準範囲決定手段と、前記目標輝度と前記被写体の輝度との差を用いて前記補正量を決定する補正量決定手段とを有する撮像装置を提供する。
本発明は、本撮影の前に取得された画像信号を複数の領域に分割し、各分割領域の輝度分布を算出する輝度分布算出手段と、前記輝度分布に基づいて露光に関する目標輝度を決定する目標輝度算出手段と、前記画像信号中の主要な被写体を検出する被写体検出手段と、前記被写体に関する輝度情報を取得する被写体輝度情報取得手段と、前記画像信号の注目画素に対して注目画素の近傍領域の情報をもとに局所的な階調変換処理を行う画像処理手段と、前記局所的な階調変換処理後の画像信号を用いて前記被写体の輝度評価値を算出する輝度評価値算出手段と、前記輝度評価値と前記目標輝度との差分が所定範囲外であった場合に、前記所定範囲内となるように、前記目標輝度を補正する目標輝度補正手段と、補正後の前記目標輝度に基づいて本撮影における露光条件を決定する露光条件決定手段とを具備する撮像装置を提供する。
本発明によれば、白とびや黒つぶれが少なく、主要な被写体を適正な明るさとするので、撮影者が望む画質の画像を得ることが可能となる。
以下に、本発明に係る撮像装置の実施形態について、図面を参照して説明する。
〔第1の実施形態〕
図1は、本発明の第1の実施形態に係る撮像装置の概略構成を示したブロック図である。本実施形態に係る撮像装置1は、例えば、デジタルカメラであり、撮像部2と画像処理装置3とを備えている。撮像部2は、レンズ10、シャッタ11、CCD12、CCD制御部13、レンズ駆動部14、及びストロボ15を備えている。
レンズ10には、ピント調節および焦点距離調節用の撮影レンズと、開口量を調節するための絞り10aが配置されている。この絞り10aの役割は、撮影制御部20からの制御指令に基づいて、撮像面へ照射する光の明るさと深度を調整することであるが、深度調整の必要性の少ない廉価な撮像装置においては、明るさ調節の目的のために、例えば、光量調節のためのNDフィルタで代用することも可能である。
レンズ10は、後述する撮影制御部20の制御によりレンズ駆動部14が作動することにより駆動される。これにより、撮影制御部20からの制御指令に基づいて、ピント合わせ、ズーム駆動等が行われる。ストロボ15は、撮影制御部107の制御により、被写体に光を照射可能となっている。
レンズ10の後方には、露光時間制御用のシャッタ11が配置されている。このシャッタ11は撮影制御部20によって駆動制御される。
シャッタ11はスルー画像撮影時には常に開いた状態とされる。このとき、CCD12の露光量制御はCCD12の有する電子シャッタ機能を用いて実現される。また、いわゆる静止画(以下「スチル撮影」という。)撮影時にはシャッタ11によりCCD12への露光量が制御される。
シャッタ11の後方には二次元撮像素子としてのCCD12が配置されており、レンズ10によって結像される被写体像を電気信号に光電変換する。なお、本実施形態では撮像素子としてCCDを用いているが、これに限らずCMOS(Complementary Metal Oxide Semiconductor)等の二次元撮像素子を使用できることはいうまでもない。
CCD制御部13はCCDインターフェイス21に接続されている。CCD制御部13は、CCDインターフェイス21を介して後述するシーケンスコントローラ(以下「ボディCPU」という。)からの制御信号を受信し、この制御信号に基づいてCCD12の電源のオン・オフ制御等を行い、撮像のタイミングを調整し、光電変換信号の増幅(ゲイン調整)等を行う。
CCD12により取得されたアナログ信号の画像信号は、CCDインターフェイス21によりデジタル信号に変換され、画像処理装置3に入力される。
画像処理装置3は、例えば、ASICであり、上述の撮影制御部20、CCDインターフェイス21、ボディCPU22、輝度算出部23、AF演算部24、第1画像処理部25、顔検出部26、第2画像処理部27、及び第3画像処理部28等を備えている。これら各部は、画像処理装置3内のデータバス30を介して相互に接続されている。
ボディCPU22は、撮像装置1が備える各部の制御を行う。
輝度算出部23は、画像信号を所定の分割エリアごとに平均して、輝度信号に変換し、被写体の輝度分布情報を算出する。
AF演算部24は、画像信号を所定の領域に分割し、領域毎にコントラスト情報を算出し、レンズ駆動部14の制御と同期して、所定領域のコントラストが最大となるように、レンズ10を駆動することにより、被写体に焦点を合わせる。
第1画像処理部25、第2画像処理部27、及び第3画像処理部28は、撮像部2により取得された画像信号に対してOB減算、色補正、階調変換、白黒・カラーモード処理、スルー画像処理といった各種の画像処理を行う。
顔検出部26は、画像信号を元に、顔検出に適したサイズの画像を作成し、例えば、特開2006−227995号公報に開示されているような公知の技術を用いて、処理対象画像中から顔の部品に類似する特徴量を持つ部分を探索して顔候補領域を抽出し、顔候補領域の種々の情報を用いて、顔か否かの判断を行い、顔領域の位置と大きさを検出する。
ここで、より具体的な顔検出方法は、例えば、P. Viola and M. Jones, “Rapid object detection using a boosted cascade of simple features,” Proc. of CVPR, 2001に開示されているような、Viola-Jonesの顔検出方法である。Viola-Jonesの顔検出方法は、Adaboostの学習によって選択された顔検出に最適な矩形フィルターを顔検出対象画像に照合させ、顔を検出する方法である。前記矩形フィルターをカスケード型に配することで処理を高速化している。また、上記検出処理時に各矩形フィルターとの照合結果を積算し規格化したものを評価値とし、上記処理により顔が検出された場合には、検出した顔の信頼度をあらわす指標として顔検出結果とともに出力する。本実施形態では、この指標を顔検出信頼性と記載し、検出した顔の確からしさを表す指標として、顔検出結果を使用するシーケンスで使用する。
また、上記データバス30には、上述した構成要素のほか、圧縮部31、SDRAM(Synchronous Dynamic Random Access Memory)制御部32、フラッシュメモリ制御部33、操作検出部34、記録媒体制御部35、ビデオ信号出力部36などが接続されている。
圧縮部31は後述するSDRAM41に記憶された画像データ等をJPEGで圧縮するためのブロックである。なお、画像圧縮はJPEGに限らず、他の圧縮方法も適用できる。フラッシュメモリ制御部33は、フラッシュメモリ42に接続されている。このフラッシュメモリ42には、撮像装置1における各処理を制御するための画像処理プログラムが記憶されており、ボディCPU22はこのフラッシュメモリ42に記憶されたプログラムに従って各部の制御を行う。なお、フラッシュメモリ42は、電気的に書換可能な不揮発性メモリである。SDRAM41は、SDRAM制御部32を介してデータバス30に接続されている。SDRAM41は、第1画像処理部25等によって画像処理された画像情報または圧縮部31によって圧縮された画像情報を一時的に記憶するためのメモリである。
撮影制御部20は、データバス30を介してボディCPU22等の各部と接続している。記録媒体制御部35は、記録媒体43に接続され、この記録媒体43への画像データ等の記録の制御を行う。記録媒体43は、xDピクチャーカード(登録商標)、コンパクトフラッシュ(登録商標)、SDメモリカード(登録商標)、メモリスティック(登録商標)またはハードディスクドライブ(HD)等の書換可能な記録媒体で構成され、撮像装置本体に対して着脱可能とされている。
ビデオ信号出力部36は、表示モニタ制御部45を介して表示モニタ46に接続されている。ビデオ信号出力部36は、SDRAM41または記録媒体43に記憶された画像データを、表示モニタ46に表示するためのビデオ信号に変換するための回路である。表示モニタ46は、例えば、撮像装置本体の背面に配置されている液晶表示装置であるが、撮影者が観察できる位置であれば、背面に限らないし、また液晶に限らず他の表示装置でも構わない。
操作部47は、撮像装置1の撮影指示を示すレリーズを検出するスイッチや、モードダイヤル、パワースイッチ、コントロールダイヤル、再生釦、メニュー釦、十字キー、OK釦等を含み、操作検出部34を介してデータバス30に接続されている。
このような構成を備える撮像装置1において、ユーザによってパワースイッチ(図示略)がオンされると、以下に示す表示シーケンスがボディCPU22によって実行され、ボディCPU22からの制御により各部が作動する。以下、表示シーケンスの動作フローについて図2を参照して説明する。
〔表示シーケンス〕
まず、ユーザによって電源がオンされると、ユーザによって設定された階調モードの判別が行われる(図2のステップSA1)。本実施形態では、階調モードとして、オート、オフ、マニュアルの3つのモードが選択可能とされている。
オートは、処理対象とされる画像信号の特徴に合わせて、たとえば画像の位置ごとに適切な階調変換特性曲線を選定し、選定した階調変換特性曲線を用いて階調変換を行うなどして、より処理対象画像に適した階調変換を自動で行うモードである(第1設定モード)。オフは、予め決定されている所定の階調変換特性曲線を用いて画像信号に対し画面一律に階調変換を行うモードである(第2設定モード)。マニュアルは、上記オートによって得られた画像信号に対して、更に、ユーザが操作部47を操作することで微調整を行うことが可能なモードである。
次に、撮像部2によるスルー画像の撮影が行われ、画像信号が取得される(ステップSA2)。この画像信号は、CCDインターフェイス21によりデジタル信号に変換され、変換後の画像信号(以下「スルー画像信号」という。)が画像処理装置3内に入力される。
次に、スルー画像信号に対して第1画像処理部25、第2画像処理部27、第3画像処理部28により、色変換処理、強調処理、階調変換処理、圧縮、リサイズ等の処理が行われ(ステップSA3)、処理後のスルー画像信号が表示モニタ46に表示される(ステップSA4)。なお、スルー画像信号に対しても、後述する局所的な階調変換処理を実施すれば、よりスチル撮影に近い画像を得ることができる。
続いて、顔検出部26によりスルー画像信号が顔検出に適した画像に変換され、所定の領域毎に顔の特徴量とのマッチング比較が行われ、顔の位置と大きさが検出される(ステップSA5)。この結果、顔が検出された場合には、検出結果がモニタ表示される。
なお、顔検出に使用するスルー画信号は、上記もろもろの処理の途中で、顔検出に適した画像を格納しておき、使用する。
次に、顔検出の結果が前回の検出結果と変化したか否かを判断する(ステップSA6)。この結果、検出結果が変動していた場合、例えば、前回のスルー画像信号においては顔検出がされたのに、今回のスルー画像信号においては検出されなかった場合や、逆に、前回のスルー画像信号においては顔検出がされなかったのに今回のスルー画像信号において検出された場合や、顔の位置や大きさが変化した場合にはステップSA7に進む。
ステップSA7では、被写体の距離が前回のスルー画像信号のときと変動しているか否かを判定する。この距離の変動は、例えば、以前にオートフォーカスを行って取得したスルー画像信号における合焦エリアと今回得られたスルー画像信号の同エリアにおけるコントラストの差分を算出し、その差分が所定値以上であれば、被写体の距離が変動していると判断する。この結果、被写体の距離が変動していた場合には、ステップSA8に進む。
ステップSA8では、オートフォーカスを行う。具体的には、オートフォーカス用に撮影とレンズ駆動を複数回繰り返し、撮影により得られた信号を複数のエリアに分割(例えば、縦10分割、横15分割)し、エリア毎のコントラストを算出し、コントラスト値が最大となる位置にレンズ10を駆動することで、被写体への合焦動作を行う。
分割したエリアのうち、どのエリアのコントラストを重視して、レンズ駆動を行うかは、公知のアルゴリズムにより決定される。例えば、本実施形態では、直前の顔検出の結果を用いて、顔が検出された場合には、顔の位置情報、大きさ情報を元に顔に近いエリアを重視し、顔検出が検出されなかった場合には最も至近のエリアを重視する。そして、レンズ駆動終了後に、各撮影時のコントラスト情報とそのときのレンズ位置、最終駆動終了時のレンズ位置情報を元に、現在の撮影距離と焦点距離ならびに、各エリアの被写体距離を算出する。そして、この撮影距離、焦点距離、被写体距離を被写体距離分布情報として所定のメモリに記憶するとともに、重視したエリア並びにそのエリアのコントラスト値についてもメモリに記憶する。この処理が終了すると、ステップSA9に進む。
一方、上記ステップSA6において顔検出の結果が前回と今回とで変化していなかった場合、或いは、ステップSA7において距離変動がなかった場合には、ステップSA9に進む。
ステップSA9では、スルー画像信号を用いて、被写体の輝度分布を算出するとともに、上記顔検出結果を用いて、被写体エリア、被写体周囲エリアの輝度を算出する。続くステップSA10、SA11では、ステップSA9で得られた被写体の輝度分布情報をもとに、スルー画中のシャッタ速度、絞り、ISO感度を決定し、これらのAPEX値(av,tv,sv)をメモリに記憶し、次回のスルー画露出時に反映する。なお、顔輝度分布算出に使用するスルー画信号は、上記もろもろの処理の途中で、顔輝度分布算出に適した画像を格納しておき、使用する。
ステップSA12では、操作検出部34で撮影者によりレリーズボタンが押されたかどうかを判定し、レリーズボタンが押された場合には、ステップSA13に進み、スチル撮影を実施する。
そして、スチル撮影が終了した場合、或いは、ステップSA12においてレリーズボタンが押されていない場合には、ステップSA1に戻り、ユーザによって電源がオフされるまで上述の処理を繰り返し実行する。
なお、上記表示シーケンスにおいて、システム構成等の関係により、ステップSA4以降の処理に時間がかかるような場合には、上記ステップSA1からSA3の処理を他の処理と並行に行うこととしてもよい。
〔スチル撮影〕
次に、上記表示シーケンスのステップSA13において行われるスチル撮影について図3を参照して説明する。図3は、スチル撮影のシーケンスを示した図である。
まず、図3のステップSB1において、直前に得られたスルー画像信号を用いて顔検出が行われる。ステップSB2では、プリ撮影が必要であるか否かが判断される。この判断は、スチル撮影の直前に得られたスルー画像信号において、輝度が下限輝度値を下回っている画素数と、輝度が上限輝度値を上回っている画素数とをそれぞれカウントし、黒つぶれしている画素数および白とびしている画素数をカウントする。そして、黒つぶれしている画素数が所定の閾値以下であり、かつ、白とびしている画素数が所定の閾値以下であった場合には、十分なダイナミックレンジのスルー画像信号が得られているため、プリ撮影の必要がないと判断する。一方、上記条件を満たしていない場合、つまりいずれかの画素数が閾値以上であった場合には、プリ撮影の必要があると判断する。
また、プリ撮影における露光量は以下の条件式で決定される。
例えば、白とびの画素数が所定の閾値以上であった場合には、露光量を直近のスルー画像撮影に比べて所定量小さく設定する。一方、黒つぶれの画素数が所定の閾値以上であった場合には、露光量を直近のスルー画像撮影に比べて所定量大きく設定する。なお、白とびの画素数と黒つぶれの画素数とがいずれもそれぞれの閾値以上であった場合には、白とびを優先し、露光量を前回に比べて所定量小さく設定する。
なお、上記白とびか黒つぶれかを判断するための下限輝度値、上限輝度値、所定量、並びに所定の各閾値は、撮像装置1の性能等に応じて適宜設定することが可能である。
ステップSB3では、上記ステップSB2においてプリ撮影が必要であると判定されたか否かを判別し、プリ撮影が必要である場合には、上記露光条件にてプリ撮影が実施される(ステップSB4)。撮像部2にて取得された画像信号は、CCDインターフェイス21においてデジタル化された後、撮像処理装置3内の各部へ転送される。
ステップSB5では、オートフォーカスが行われる。オートフォーカス処理については、上述した表示シーケンスにおけるステップSA8と同様であるので、説明を省略する。
ステップSB6では、ステップSB4において求められた撮影距離、現在のレンズの焦点距離を用いて以下の(1)式により撮影倍率を計算する。
撮影倍率=焦点距離/撮影距離 (1)
ステップSB7では、被写体の輝度分布を算出するとともに、オートフォーカスの結果並びに顔検出の結果を用いて、被写体エリア及び被写体周囲エリアの輝度を算出する。なお、この輝度分布算出処理についての詳細は後述する。
ステップSB8では、ステップSB7にて得られた被写体の輝度分布情報をもとに露光条件を決定するための目標輝度を求め、続くステップSB9において、目標輝度に基づいて本撮影でのシャッタ速度、絞り、ISO感度を決定し、これらのAPEX値(av,tv,sv)を記憶する(露光条件決定手段)。
続いて、ステップSB10において、ストロボの発光の必要性の有無を判断する。例えば、逆光時や低輝度時には、ストロボの発光が必要であると判断する。この結果、ストロボ発光が必要でないと判断された場合には、ステップSB11において、絞り10a、シャッタ11、CCD12を制御し、ステップSB9にて決定した露光条件で、撮影を行う。撮像部2において取得された画像信号は、CCDインターフェイス21においてデジタル信号に変換され、画像処理装置3内の各部に転送される。
また、ステップSB10において、ストロボの発光が必要であると判断された場合には、ステップSB12においてストロボ発光と撮像を行うプリ露光を実施し、得られたCCD出力データを読み出して所定の処理を行う。続くステップSB13では、ステップSB12にて得られたCCD出力データを元にストロボ光照射時の被写体の輝度分布情報を作成し、その値に基づいてストロボ発光量を演算する。そして、ステップSB14において、絞り10a、シャッタ11、ストロボ15、CCD12等を制御して、ステップSB6にて決定された露光条件と、ステップSB13で得られた発光量で、ストロボ発光および撮影を行う。撮像部2にて得られた画像信号は、CCDインターフェイス21においてデジタル信号に変換され、画像処理装置3内の各部に転送される。
続くステップSB15では、第1画像処理部25にて、画像信号に対して公知のOB減算、ホワイトバランス補正等の補正が実施され、処理後の画像信号が第2画像処理部27に転送される。
ステップSB16では、第2画像処理部27において、第1画像処理部25から転送されてきた画像信号に対して階調変換処理が実施され、処理後の画像信号が第3画像処理部28に転送される。なお、ここで行われる階調変換処理の詳細については後述する。
ステップSB17では、第3画像処理部28において、第2画像処理部27から転送されてきた画像信号に対して色補正、ノイズ補正、YC変換、圧縮等の種々の画像処理が実施される。続く、ステップSB18において、画像処理の終了した画像が記録媒体43に記録され、ステップSB19において、画像処理の終了した画像がビデオ信号出力部36等を介して表示モニタ46に表示される。なお、ここでは、階調変換後に、色補正、ノイズ補正、YC変換、圧縮等の種々の画像処理が行われているがこれらの実施順序は、処理の速度や画質性能に応じて入れ替え可能である。
〔輝度分布算出処理〕
次に、上記スチル撮影シーケンスのステップSB7において実行される輝度分布算出処理について図4を参照して詳しく説明する(被写体検出手段・被写体輝度情報取得手段・輝度分布算出手段)。図4は、輝度分布算出処理のシーケンスを示した図である。
まず、ステップSC1において、画像信号を図5に示すように複数の分割エリア(本実施形態では、縦30分割、横20分割)に分割し、分割エリア毎の輝度の平均値を算出する。なお、この分割輝度算出処理についての詳細は後述する。
このようにして、各分割エリアの輝度平均値が得られると、続くステップSC2において、顔検出がされたか否かを判定する。具体的には、図3のステップSB1において、スチル撮影の直前に得られたスルー画像信号で顔検出がされたか否かを判定する。この結果、顔検出がされていた場合には、ステップSC3に進む。
ステップSC3では、検出された顔位置と大きさに基づいて顔エリアを特定し、この顔エリアの輝度平均値を算出する。続くステップSC4では、ステップSC3において算出した顔エリアの輝度平均値を被写体輝度bv_oとする。例えば、図5に示されるように顔エリアが特定された場合、この顔エリアに属する7×7のエリアの輝度平均値が被写体輝度bv_oとなる。
続いて、ステップSC5では、ステップSC3で特定した顔エリアの情報に基づいて被写体周囲エリアの輝度を算出する。この被写体周辺エリアは、顔エリアを左右上下にそれぞれ4エリア拡張したエリアとする。例えば、図5に示されるように顔エリアが特定された場合には、この顔エリアを囲むように15×15の被写体周囲エリア(顔エリアを除く)が特定される。このようにして、被写体周囲エリアを特定すると、被写体周囲エリアの輝度平均値を算出し、これを被写体周囲輝度bv_nearとする。
次に、ステップSC6において、顔エリアの面積を求め、続くステップSC7において顔エリアと撮影エリアの面積割合を以下の(2)式を用いて算出する。
面積割合=顔エリア面積/撮影エリア面積*100(%) (2)
例えば、図5に示される画像の場合、面積割合は以下のように求められる。
面積割合=7×7×分割エリア一個の面積/(30×20×分割エリア一個の面積)
=8.1%
他方、上記ステップSC2において、顔検出がされなかったと判定された場合には、ステップSC8に進み、被写体までの距離が計測可能か否かを判断する。換言すると、図3のステップSB5においてオートフォーカス可能であったかを判定する。この結果、オートフォーカス可能だった場合には、測距可能であると判断し、ステップSC9に進む。
ステップSC9では、測距時に重視したエリアである測距点を特定し、続くステップSC10にて測距点近辺の所定の大きさのエリアを測距エリアとして特定し、ステップSC11にて測距エリアに属するエリアの輝度平均値を算出し、ステップSC12にて測距エリアの輝度平均値を被写体輝度bv_o及び被写体周囲輝度bv_nearとする。
ここで、bv_near=bv_oとする理由は、測距点情報によって被写体の位置についてはわかるが、被写体の大きさについては正確な情報が得られないことから、処理上問題のない輝度に設定するためである。図6は、測距点および測距エリアの一例を示した図である。
そして、続くステップSC13において、撮影エリアに対する測距エリア(被写体エリア)の面積割合を撮影倍率を用いて算出する。例えば、面積割合は以下の(3)式を用いて求められる。
面積割合=測距エリア(被写体エリア)面積/撮影エリア面積 (3)
被写体エリア面積=(被写体倍率×200mm)
被写体倍率=焦点距離/距離
他方、ステップSC8において測距不可と判断した場合には、ステップSC14に進む。ステップSC14では、図7に示されるように撮影エリアの中央に所定の大きさの中央エリアを特定し、中央エリアの輝度平均値を算出する。本実施形態では、中央エリアを13×13のエリアで構成している。
ステップSC15では、中央エリアの輝度平均値を被写体輝度bv_o及び被写体周囲輝度bv_nearとする。
そして、続くステップSC16において、撮影エリアに対する中央エリア(被写体エリア)の面積割合を算出する。この面積割合は上述した(2)式を用いて求められる。
このようにして、顔検出された場合、又は顔検出はされないが測距が可能であった場合、又は顔検出及び測距が不可能であった場合について、被写体輝度bv_o、被写体周囲輝度bv_near、及び面積割合について算出すると、当該輝度分布算出処理を終了する。
次に、上述した輝度分布算出処理のステップSC1において実行される分割輝度算出処理について図8を参照して具体的に説明する。
図8は、分割輝度算出処理のシーケンスを示した図である。
まず、ステップSD1において、スチル撮影を行う直前に取得されたスルー画像信号の撮影エリアを格子状に分割し、複数の分割エリアに区分し、各分割エリアの輝度平均値を算出する。本実施形態においては、図5に示されるように撮影エリアを縦30分割、横20分割する。また、輝度平均値は、各分割エリアの階調変換前の画像信号のグリーンの出力信号の平均値とする。
続いて、ステップSD2において、各分割エリアの画像信号のグリーンの出力信号のエリア平均値をプリ撮影時の露光条件を用いて演算し、APEX単位での各分割エリアの輝度信号に変換する。
例えば、図5において分割エリア(i,j)の輝度信号d_bv_s(i,j)は、以下の(4)式で与えられる。
d_bv_s(i,j)=log2(G(i,j)/ref) (4)
上記(4)式において、G(i,j)は分割エリア(i,j)でのグリーンの出力信号平均値である。refは、基準とされるグリーンの出力信号であり、所定の輝度の光源を、所定の絞り値、シャッタ速度、感度で撮影したときのグリーン出力平均値であり、あらかじめカメラごとに設定されている。
続く、ステップSD3では、図3に示したスチル撮影シーケンスのステップSB3においてプリ撮影を行ったか否かを判定する。プリ撮影がなかった場合には、ステップSD2で得た輝度信号d_bv_s(i,j)にスルー画像撮影時のAPEX値を反映させ、最終的な各分割エリアの輝度信号を算出する(ステップSD10)。
即ち、プリ撮影がなかった場合には、スルー画像として十分なダイナミック画像が取得できているとみなせることから、上記ステップSD2で得た輝度信号d_bv_s(i,j)にスルー画像撮影時のAPEX値を反映させることで、信頼性の高い輝度値を算出することが可能となる。各分割エリアの輝度信号は、以下の(5)式で得られる。
bv(i,j)
=(av_s)+(tv_s)−(sv_s)+(d_bv_s(i,j)) (5)
上記(5)式において、(av_s)は絞り値、(tv_s)はシャッタ速度、(sv_s)は感度に相当するAPEX値である。
一方、ステップSD3において、プリ撮影が行われた場合には、上記輝度信号d_bv_s(i,j)を算出したときのスルー画像は、白とびや黒つぶれが生じていたと判断でき、上記d_bv_s(i,j)は信頼性の高い値でないと判断できる。従って、この場合には、プリ撮影によって取得した画像信号の情報も用いて、上記ステップSD2において得た輝度信号d_bv_s(i,j)を補正或いは変更することにより、信頼性の高い輝度を算出する。
具体的には、ステップSD4において、上述した図3のステップSB4にて実施されたプリ撮影の画像信号の撮影エリアを格子状に分割し、複数の分割エリアに区分し、各分割エリアのグリーンの出力信号の輝度平均値を得る。続いて、ステップSD5において、各分割エリアの輝度平均値をプリ撮影時の露光条件を用いて演算し、APEX単位での各分割エリアの輝度信号に変換する。
例えば、図5において分割エリア(i,j)の輝度信号d_bv_p(i,j)は、上述したスルー画像のときと同様に求められる。
次に、ステップSD6では、ステップSD2において得られたスルー画像信号の輝度信号d_bv_s(i,j)とステップSD5にて得たプリ撮影時の画像信号の輝度信号d_bv_p(i,j)とを分割エリア毎に比較する。この結果、スルー画像信号の輝度信号d_bv_s(i,j)の絶対値がプリ撮影時の画像信号の輝度信号d_bv_p(i,j)の絶対値よりも大きかった場合には、ステップSD7に進み、当該分割エリアのスルー画像信号の輝度信号をプリ撮影時の画像信号の輝度信号d_bv_p(i,j)に置き換える。つまり、このような分割エリアについては、プリ撮影時の輝度信号を採用する。更に、ステップSD8において、スルー画像撮影時の絞り値、シャッタ速度、ISO感度のAPEX値(av_s)、(tv_s)、(sv_s)をプリ撮影時のこれらのAPEX値(av_p)、(tv_p)、(sv_p)に置き換える。
一方、ステップSD6において、上記条件を満たさなかった場合には、輝度信号の置き換えは行わず、ステップSD9に進む。
ステップSD9では、全ての分割エリアについて輝度信号の比較が終了したか否かを判定する。この結果、比較が終了していなければ、ステップSD6に戻り未比較の各分割エリアについて上記ステップSD6以降の処理を行う。一方、全ての分割エリアについて比較が終了した場合には、ステップSD10に進み、上記(5)式に従って各分割エリアの輝度信号を算出する。
このように、露光条件におけるAPEX値を反映させることで、露光条件によらない定量化された被写体の輝度信号を得ることが可能となる。
上述したように、分割輝度算出処理が実行されることにより、プリ撮影が行われていた場合には、スルー画像信号とプリ撮影にて得られた画像信号との双方を比較してより適切な画像信号に基づいて各分割エリアの輝度信号を得ることが可能となる。これにより、輝度信号のダイナミックが広くなり、信頼性の高い輝度信号を得ることが可能となる。
また、このような信頼性の高い輝度信号を用いて、図4に示した輝度分布算出処理を行うことにより、信頼性の高い被写体輝度bv_o、被写体周囲輝度bv_nearを得ることが可能となる。
〔測光演算処理〕
次に、図3に示したスチル撮影シーケンスのステップSB8において実行される測光演算処理について詳しく説明する。この測光演算処理は、図9に示す目標輝度算出処理(目標輝度算出手段)と図12に示す目標輝度補正処理(目標輝度補正手段)とから構成されている。目標輝度算出処理は、上述の分割輝度算出で得られたスルー輝度信号に基づいて、白とび黒つぶれしないようバランスをとり、露光条件を決定するための最適な目標輝度を決定する処理である。換言すると、本処理では、白とびや黒つぶれが発生しにくい目標輝度を決定する。
以下、目標輝度算出処理について図9〜図11を参照して説明する。図9は、目標輝度算出処理のシーケンスを示した図である。
〔目標輝度算出処理〕
まず、ステップSE1において、撮影エリア全体の輝度平均値bv_avgを算出する。これは、上述した分割輝度算出処理(図8参照)のステップSD10において得られた各分割エリアの輝度信号の平均を算出することで得られる。
ステップSE2では、ダイナミックレンジスレッシュを設定する。このダイナミックレンジスレッシュは、画像における白とびと黒つぶれとを判別するために利用される閾値である。本実施形態では、予め登録されている値を設定する。例えば、白とびを判別するための上限閾値d_th_high、黒つぶれを判別するための下限閾値d_th_lowは以下のように設定される。
d_th_high=1.5
d_th_low=−2.0
ステップSE3では、上記上限閾値を用いて白とびしている(ハイライト輝度)画素数がカウントされる。具体的には、以下の(6)式を満たす分割エリアの数をカウントする。
bv(i,j)>bv_avg+d_th_high (6)
(6)式において、輝度信号bv(i,j)は分割エリア(i,j)の輝度信号、bv_avgは撮影エリア全体の輝度平均値、d_th_highは上限閾値である。
ステップSE4では、上記下限閾値を用いて黒つぶれしている(ノイズ輝度)画素数がカウントされる。具体的には、以下の(7)式を満たす分割エリアの数をカウントする。
bv(i,j)<bv_avg+d_th_low (7)
ステップSE5では、上記ステップSE3における白とびのカウント値count_dhigh1がゼロであるか否かを判定する。この結果、カウント値count_dhigh1がゼロであった場合、つまり、白とびの分割エリアが存在していなかった場合には、ステップSE6に進み、シフト値を−1に設定する。一方、カウント値count_dhigh1がゼロでなかった場合、つまり、白とびの分割エリアが存在していた場合には、ステップSE7に進み、シフト値を+1に設定する。ここで、シフト値については、後述する。
ステップSE8では、白とびを判定するための上限閾値に更にステップSE6またはSE7において設定されたシフト値shiftを加算することにより、新たな白とび判別閾値を設定し、この白とび判別閾値を用いて白とびの分割エリア数をカウントする。具体的には、以下の(8)式を満たす分割エリアの数をカウントする。
bv(i,j)>bv_avg+shift+d_th_high (8)
ステップSE9では、黒つぶれを判定するための下限閾値d_th_lowに更にステップSE6またはSE7において設定されたシフト値shiftを加算することにより、新たな黒つぶれ判別閾値を設定し、この黒つぶれ判別閾値を用いて黒つぶれの分割エリア数をカウントする。具体的には、以下の(9)式を満たす分割エリアの数をカウントする。
bv(i,j)<bv_avg+shift+d_th_low (9)
次に、ステップSE10では、ステップSE3で得たカウント値count_dhigh1とステップSE8で得たカウント値count_dhigh2との差分の絶対値、並びに、ステップSE4で得たカウント値count_dlow1とステップSE9で得たカウント値count_dlow2との差分の絶対値がいずれも所定値(本実施形態では、「3」)未満であるかを判定する。
この結果、差分の絶対値がいずれも所定値未満であった場合には、ステップSE11に進み、シフト値shiftを現在設定されている値の2倍に設定し、ステップSE12並びにステップSE13において、このシフト値を用いた新たな白つぶれ判別閾値、新たな黒つぶれ判別閾値を設定し、再度、白つぶれの分割エリアの数並びに黒つぶれの分割エリアの数をカウントし、ステップSE14に進む。一方、差分の絶対値がいずれも所定値以上であった場合には、上記ステップSE11〜SE13を行わずに、そのままステップSE14に進む。ステップSE14では、上記ステップSE1からSE13において得られた結果を用いて、目標輝度bv_pを算出する。ここで、目標輝度bv_pは、白とびも黒つぶれも発生しにくい輝度である。
以下、ステップSE14にて行われる目標輝度の算出方法について図を参照して説明する。
まず、ステップSE3、SE4、SE8、SE9において得られた各カウント値count_dhigh1、count_dlow1、count_dhigh2、count_dlow2、及びステップSE7またはSE6において設定したシフト値shiftを用いて、図10に示すようなグラフを作成する。
図10において、横軸は輝度bv、縦軸はカウント値である。まず、撮影エリア全体の輝度平均値bv_avgのライン上にカウント値count_dhigh1、count_dlow1をとり、輝度平均値bv_avgにシフトshiftを加算したライン上にカウント値count_dhigh2、count_dlow2をとる。ここで、図11は、シフト値shiftを1に設定した場合、つまり図9のステップSE5において、白とびの分割エリアが存在していた場合のグラフを示している。なお、シフト値shiftを−1に設定した場合には、図10において、bv_avg+shiftのラインがbv_avgの左側にくることとなる。
次に、上記グラフにおいて白とびに関するカウント値count_dhigh1、count_dhigh2を直線で結ぶとともに、黒とびに関するカウント値count_dlow1、count_dlow2を直線で結ぶ。そして、ちょうどこの直線の交点がくる輝度を目標輝度bv_pとして決定する。
このように、目標輝度bv_pを決定することで、白とびの分割エリア数と黒つぶれの分割エリア数とのバランスがとれた目標輝度bv_pを決定することが可能となる。
なお、図9のステップSE10において判断処理を設けているのは、例えば、図11に示されるように、白とびに関するカウント値count_dhigh1、count_dhigh2の差分及び黒とびに関するカウント値count_dlow1、count_dlow2の差分が小さかった場合には、交点を特定することが不可能であり、適切な目標輝度bv_pを決定できなくなってしまう。このような場合には、図9のステップSE11〜SE13の処理を行うことで、シフトshiftを2倍に設定し、このときのカウント値count_dhigh3,count_dlow3を用いることで、上述と同様に目標輝度bv_pを決定する(図11の破線参照)。
なお、上記目標輝度bv_pの決定では、撮影エリア全体の輝度平均値bv_avgに対して目標輝度bv_pがあまりにもかけ離れてしまうのは好ましくないので、輝度平均値bv_avgと目標輝度bv_pとの差が所定値(本実施形態では、|1.5|)以上となった場合には目標輝度bv_pの値を制限し、所定の範囲内としている。
上述した説明を演算式にて示すと以下の(10)式となる。
bv_p=bv_avg+shift×(count_dlow1−count_dhigh1)/(count_dhigh2−count_dhigh1−count_dlow2+count_dlow1) (10)
ただし、|bv_p−bv_avg|>1.5の場合には、bv_p=bv_avg+1.5またはbv_p=bv_avg−1.5とする。
〔目標輝度補正処理〕
このようにして、目標輝度bv_pを決定すると、続いて、上記目標輝度を補正する目標輝度補正処理(目標輝度補正手段)を実行する。この処理は、例えば、上述の目標輝度算出処理において決定した目標輝度bv_pを被写体輝度bv_oとの関係で補正するもので、目標輝度bv_pと被写体輝度vb_oとの輝度差が大きい場合には、被写体の条件に応じて目標輝度bv_pを調整するものである。これにより、被写体輝度とのバランスがとれた目標輝度とすることが可能となる。
以下、目標輝度補正処理について図12を参照して説明する。図12は、目標輝度補正処理のシーケンスを示した図である。
まず、ステップSF1、SF2において、目標輝度bv_pの補正係数および補正上限値bv_hos_max、補正下限値bv_hos_minを設定する。具体的には、図13に示すような補正係数テーブルを予め保有しており、この補正係数テーブルを参照することにより、補正係数k_low、k_highおよび上下限値を設定する。図13に示すように、本実施形態では、図3のステップSB1において、顔が検出された場合には以下の(11−1)、(11−2)式に基づいて補正係数k_low、k_highを設定する。
k_low=0.85×(face_l)/100 (11−1)
k_high=0.9×(face_l)/100 (11−2)
上記(11−1)、(11−2)式において、face_lは顔検出の信頼性である。例えば、上述したViola-Jonesの顔検出方法において検出処理時に各矩形フィルターとの照合結果を積算し規格化した評価値を上記face_lとして用いる。
また、同様に補正係数テーブルから、上限値bv_hos_maxを1.5、下限値bv_hos_minを−2と設定する。
また、顔検出は不可能であったが測距は可能であった場合には補正係数k_lowを0.6、k_highを0.7に設定するとともに、上限値bv_hos_maxを1.0、下限値bv_hos_minを−0.75と設定する。
顔検出も測距も不可能であった場合には、補正係数k_lowを0.4、k_highを0.5に設定するとともに、上限値bv_hos_maxを0.5、下限値bv_hos_minを−0.5と設定する。ここで本実施形態では補正係数はk_low、k_highと二種類用い、後述のステップSF5,SF7で選択使用している。
このように、被写体検出の信頼精度が高いほど補正係数k_low、k_highを高く設定することとしている。このように補正係数k_low、k_highを設定することで、被写体の検出精度の信頼性が高い場合には、この被写体輝度に応じた適切な補正係数k_low、k_highを設定することで最適な輝度の画像を取得することが可能となる。また、被写体の検出精度の信頼性が低い場合には、それなりの適度な補正係数kとすることで、最適な輝度とはいかないまでもある程度の輝度調整がとれた画像を取得することが可能となる。さらに、本実施形態では、補正係数k_low、k_highを用意し、後述のステップSF4,SF6の判断結果に基づいて、被写体が目標輝度に比べて明るい場合と暗い場合に応じて使い分けている。この補正係数k_low、k_highの値は、後の処理で行われる階調変換特性等を考慮して決定された値となっている。本実施形態では後の処理の階調変換特性が暗いものを明るくする傾向があるので、階調変換特性での変化(暗いものを明るくする)を見込んで、k_low<k_highとし、被写体輝度が目標輝度よりも暗い場合には少し補正係数を小さくしている。
次に、ステップSF3において、下限閾値o_th_lowおよび上限閾値o_th_highを設定する(基準範囲設定手段)。この下限閾値および上限閾値は、目標輝度bv_pと被写体輝度bv_oとの差分がどの程度離れていた場合に上述した補正係数kを用いて目標輝度bv_pを補正するかという閾値である。本実施形態では、下限閾値o_th_lowを−1.0、上限閾値o_th_highを0.5に設定する。
ここで、上記下限閾値o_th_lowおよび上限閾値o_th_highは、撮像素子のダイナミックレンジやノイズ特性、後の処理で行われる階調変換特性等を考慮して決定された値となっている。また、一般的に露出の狙いの出力レベルに対して撮像素子のダイナミックレンジは明るい側が狭くなるため、上限閾値の絶対値は、下限閾値の絶対値よりも小さく設定することが好ましい。
次に、目標輝度と被写体輝度との差分が下限閾値o_th_lowよりも小さいか否かを判定し、小さい場合には、補正量bv_hosを算出する際に考慮する変数thに下限閾値を設定し、補正量係数kにk_lowを設定し(ステップSF5)、ステップSF8に進む。一方、目標輝度と被写体輝度との差分が下限閾値以上であった場合には、該差分が上限閾値o_th_highよりも大きいかを判定する(ステップSF6)。この結果、差分が上限閾値よりも大きければ、変数thに上限閾値を設定し、補正量係数kにk_highを設定し(ステップSF7)、ステップSF8に進む。ステップSF8では、以下の(12)式を用いて目標輝度の補正量bv_hosを算出する(補正量決定手段)。
bv_hos=k×(bv_o−bv_p−th) (12)
次に、上記補正量bv_hosが補正下限値bv_hos_minと補正上限値bv_hos_maxとの間に属しているか否かを判定し(ステップSF9、SF11)、補正量が補正下限値bv_hos_minよりも小さかった場合には、補正量bv_hosを補正下限値に設定し(ステップSF10)、また、補正量が補正上限値bv_hos_maxよりも大きかった場合には、補正量bv_hosを補正上限値に設定する(ステップSF12)。
一方、ステップSF4、SF6において、目標輝度と被写体輝度との差分が下限閾値以上であり、かつ、上限閾値以下であった場合には、ステップSF13に進み、補正量bv_hosをゼロとする。つまり、この場合には、目標輝度vb_pの補正を行わない。
そして、ステップSF14において、上述の処理において求められた補正量bv_hosを用いて目標輝度bv_pを補正し、最終的な目標輝度bv_p´を得る。最終的な目標輝度bv_p´は以下の(13)式で求められる。
bv_p´=bv_p+bv_hos (13)
図14は、上述した目標輝度補正処理における補正量bv_hosと被写体輝度bv_oとの差分(以下「輝度差」という。)の関係を示した図である。図14において、横軸は輝度差、縦軸は補正量を示している。輝度差が下限閾値以上かつ上限閾値以下の場合には、補正量はゼロである。輝度差が下限閾値よりも小さい場合または上限閾値よりも大きい場合には、図13を参照して決定される所定の補正係数kに応じた補正量とされ、補正下限値または補正上限値に達したところで一定とされる。ここで補正係数kは、輝度差が下限閾値よりも小さい場合または上限閾値よりも大きい場合で補正下限値または補正上限値に達しない場合の傾きを示している。輝度差が下限閾値よりも小さい場合と上限閾値よりも大きい場合で傾きを変えることで、被写体輝度bv_oの重視度を変える働きをしている。
このようにして、最終的な目標輝度bv_p´が決定されると、図3に示した露光演算(ステップSB9)において、上記目標輝度bv_p´が得られるように、本撮影でのシャッタ速度、絞り、ISO感度が決定され、決定されたこれらの露光条件でスチル撮影(本撮影)が実施される(図3のステップSB9〜SB14参照)。
〔第2画像処理〕
次に、上述したように露光が調整されたスチル撮影にて得られた画像信号に対して第2画像処理部(画像処理手段)27が実施する階調変換処理について説明する。この処理は、図3のステップSB16において実行される処理である。図15は、第2画像処理のシーケンスを示した図である。この図に示されるように、階調変換処理では、まず、第1画像処理部25(図1参照)によってOB補正等が施された画像信号に対して第1階調変換処理が実施される(ステップSG1)。この第1階調変換処理は、予め設定されている標準の階調変換特性曲線γ2(図19参照)を用いて画像信号に一律な階調変換処理を実行する。第1階調変換処理後の画像信号は、所定のメモリ、例えば、図1の記録媒体43に格納される。
次に、第2階調変換処理を実行する(ステップSG2)。
〔第2階調変換処理〕
第2階調変換処理では、第1階調変換処理後の画像信号に対して、一律な階調変換処理を実行した後、更に、局所的な階調変換処理を実行する。以下、第2階調変換処理について、図16を参照して簡単に説明する。図16は、第2階調変換処理のシーケンスを示した図である。
まず、第2階調変換処理を行う際に使用されるパラメータの選択が行われる(ステップSH1)。パラメータとしては、一律な階調変換に使用される階調変換特性曲線(以下「γ特性」という。)、後段の合成処理における合成比等の各種パラメータが選択される。これらのパラメータの選択処理についての詳細は後述する。
次に、パラメータ選択処理で決定されたγ特性を用いて、一律な階調変換処理が行われる(ステップSH2)。次に、注目画素を中心とする上記パラメータ選択処理で決定された所定の大きさの局所領域を順次抽出し(ステップSH3)、各局所領域のヒストグラムを作成する(ステップSH4)。続いて、ヒストグラムを累積,正規化することで階調変換曲線を生成し(ステップSH5)、この階調変換曲線に基づき、注目画素に対して階調変換処理を行う(ステップSH6)。そして、全画素に対して階調変換処理が終了したか否かを判定し(ステップSH7)、終了していなかった場合には次の注目画素に対して局所領域を抽出し、ステップSH3以降の処理を繰り返し行う。また、全画素に対して局所的な階調変換処理が終了した場合には、最終的に得られた画像を第2画像信号としてメモリに格納し、当該第2階調変換処理を終了する。
ここで、上記ステップSH3〜SH7が局所的な階調変換処理に相当する。
続いて、上記第1階調変換処理により得られた第1画像信号と第2階調変換処理により得られた第2画像信号とをパラメータ選択処理において選択された合成比で合成し、これを階調変換の最終的な画像信号として第3画像処理部28(図1参照)に出力し、当該第2画像処理を終了する(図15のステップSG3)。
〔パラメータ選択処理〕
次に、図16のステップSH1において実施されるパラメータ選択処理について詳しく説明する。図17〜図18は、パラメータ選択処理のシーケンスを示した図である。
まず、一律な階調変換処理に用いるγ特性を図19に示される複数のγ特性γ1〜γ4の中から選定する(ステップSJ1)。本実施形態では、γ1を選定する。ここで、γ特性は、γ1が最もコントラストが弱く暗い緩やかな特性を示し、γ2,3,4になるほど、コントラストの高く、かつ明るい絵が得られるような特性とされている。次に階調モードがオフか否かを判定する(図17のステップSJ2)。これは図2のステップSA1における判定結果を参照することで行われる。階調モードがオフであった場合には、合成比をゼロに設定し(ステップSJ3)、当該処理を終了する。
一方、階調モードがオフでなかった場合には、階調モードがマニュアルか否かを判定する(ステップSJ4)。この結果、マニュアルであった場合には、撮影者によって設定された合成比を読み出して設定し(ステップSJ5)、当該処理を終了する。
また、階調モードがマニュアルでなかった場合、即ち、階調モードがオートだった場合には、スチル撮影時の被写体やその周辺が暗すぎるか否かを判定する。具体的には、最終的な目標輝度bv_p´がゼロより小さく、かつ、露光補正量cvが−2よりも大きいか否かを判定する(ステップSJ6)。ここで、露光補正量cvは、撮影者が露出を変更したい場合に操作部47(図1参照)から設定する情報である。この結果、上記条件を満たしていなかった場合、つまり撮影時の被写体やその周辺が暗くなかった場合にはステップSJ7に進む。
ステップSJ7では、画像信号の最大輝度と最小輝度との差分が所定値(本実施形態では4)よりも大きいか否かを判定し、所定値よりも大きければ合成比を5%に設定し(ステップSJ8)、小さければ撮影倍率が10分の1よりも大きいか否かを判定する(ステップSJ9)。この結果、10分の1よりも大きければ合成比を20%に設定し(ステップSJ10)、大きくなければF値がF2よりも小さいか否か、つまり画像の背景がぼけているか否かを判定する(ステップSJ11)。F値がF2よりも小さい場合には合成比を20%に設定し(ステップSJ10)、小さくなければ、被写体エリアの面積割合が30%以上か否かを判定する(ステップSJ12)。この結果、30%以上であった場合には、合成比を35%に設定し(ステップSJ13)、30%よりも小さければ、ステップSJ14に進む。
ステップSJ14では、上記ステップSJ1において設定した一律な階調変換処理に用いられるγ特性を変更する。例えば、被写体エリアが比較的小さい場合(30%未満)には、局所的な階調変換処理による効果が少ない。この様なシーンは、局所的な階調変換処理を行っても好ましい画像を得ることが難しい。このような場合、局所的な階調変換処理の前の一律な階調変換処理のγ特性を変更した後に局所的な階調変換処理を行うことにより、好ましい画質の画像を得ることが可能となる。ここで、この場合のγ特性の変更方法は撮影シーンを考慮してより適正なγを選択変更することが望ましい。さらに、以下のステップSJ15で説明するように、合成比をあげることにより明るさを上げ、局所的な階調変換処理の効果を向上させることができる。
具体的には、図20に示されるように、被写体輝度bv_oと被写体周囲輝度bv_nearとの差が所定値th2以上であった場合にはγ2を、所定値th1以上所定値th2未満であった場合にはγ3を、所定値th1未満であった場合にはγ4を選択する。γ特性については図19に示した通りである。このように撮影シーンを考慮してより適正なγを選択変更する。
続いて、ステップSJ15において、合成比を決定する。具体的には、図21に示されるように、被写体輝度bv_oと被写体周囲輝度bv_nearとの差が−3以下であった場合には合成比を55%に、−1以上であった場合には合成比を35%に、−3と−1との間であった場合には、以下の(14)式を用いて合成比を決定する。
合成比=−(bv_o−bv_near+1)×10+35 (14)
このようにして合成比を決定すると、当該処理を終了する。
一方、上述したステップSJ6において、撮影時の被写体やその周辺が暗かった場合、つまり条件を満たしていた場合には、図18のステップSJ16に進む。ステップSJ16では、スチル撮影時にストロボ発光したか否かを判定する。この結果、発光していた場合は合成比を決定するために必要となる係数aを0.5に設定し(ステップSJ17)、ステップSJ21に進む。
一方、ステップSJ16においてストロボ発光していた場合には、ストロボが未到達か否かを判定する(ステップSJ18)。このストロボ未到達については、例えば、図3のステップSB13において発光量を演算するときに、フル発光しても光量が足りないと判断した場合には、ストロボ領域未到達という情報が発生するので、この情報が発生しているか否かを確認することにより判定される。この結果、ストロボ未到達であった場合には係数aに1.5を設定して(ステップSJ19)、ステップSJ21に進む。一方、ストロボが到達していた場合には係数aに1を設定し(ステップSJ20)、ステップSJ21に進む。
ステップSJ21では、スチル撮影にて取得された画像信号における黒エリアの面積割合(黒つぶれしている面積が撮影画像に占める割合)を算出する。具体的には、まず、スチル撮影にて取得された画像信号を所定エリアに分割して複数の分割エリアとし、各分割エリアのY出力の平均値をそれぞれ算出する。続いて、Y出力が所定の黒判定閾値dark_thよりも大きい分割エリアの数をカウントすることで、黒つぶれしている分割エリア数をカウントし、この分割エリア数を画像全体の分割エリア数で除算し、%単位とすることで、黒エリアの面積割合dark_area(%)を算出する。
ここで、上記黒判定閾値dark_thは、ISO感度、係数a、基準閾値ref、及び基準ISO感度ref_isoに基づいて決定される。具体的には、以下の(15)式で与えられる。
dark_th=iso×a×ref/ref_iso (15)
次に、ステップSJ22において合成比を決定する。合成比は、上記黒エリアの面積割合dark_areaを用いて以下の(16)式で求められる。
合成比=(100−dark_area)×35/100 (16)
続いて、合成比が35%か否かを判定し(ステップSJ23)、35%以内であれば当該処理を終了し、35%であれば、ステップSJ7に戻り、それ以降の処理を実行する。
このように、低輝度した出撮影された場合であっても、合成比が高い場合には、黒い部分が少なく画像そのものは明るく局所的な階調変換処理の効果が望めそうな場合なので、ステップSJ7に戻り、顔やその他の条件に応じて合成比を再度求めることにより、更に好ましい明るさを持つ画像を得ることが可能となる。
なお、上述したステップSJ16〜SJ23までの処理は、夜景等の暗い画像を対象とした処理であり、夜景等の場合には、例えば、0〜十数%の合成比が設定される。また、ステップSJ7〜SJ15までの処理は、明るい画像を対象とした処理である。
なお、上記パラメータ選択処理では、第2画像処理(図15参照)における一律な階調変換処理にて用いられるγ特性と、合成処理にて採用される合成比を決定することとしたが、これらのパラメータに加えて、局所的な階調変換における局所の大きさを決定することとしてもよい。
このように、第2階調変換処理においては、準備処理として画像の位置に寄らない一律のγ曲線に従って一律の階調変換処理を行った後に、スチル撮影において取得した画像信号を局所領域に分割し、局所のヒストグラムが平滑化されるように再度、局所的な階調変換を行うので、輝度差の大きなシーンであっても、極端に白とびとりしたり、黒つぶれしたりすることのない自然な階調の画像を得ることができる。
以上説明してきたように、本実施形態に係る撮像装置によれば、スルー画像の輝度情報やプリ撮影の輝度情報を用いて露光条件を求めるための目標輝度を算出する。この場合において、目標輝度は、黒つぶれや白とびの状況を推定して設定されるので、この目標輝度を用いて露光条件を決定することにより、黒つぶれや白とびが少ない画像を得ることが可能となる。更に、目標輝度と被写体輝度との輝度差が所定の範囲(基準範囲)を超えていた場合には、この輝度差に基づいて目標輝度を補正するので、より最適な目標輝度を得ることが可能となる。
また、これらの目標輝度を演算する際に、後で実施される局所的な階調変換の効果を加味して、目標輝度を決定するので、背景と被写体の明るさを適正な値にすることができ、撮影者の望む画質の画像を提供することが可能となる。
また、本実施形態によれば、スチル撮影で取得された画像信号に対して、局所的な階調変換処理を行い、その際のパラメータ(局所的な階調変換の前処理の諧調曲線、合成率)を撮影シーンに関する情報(輝度分布、被写体輝度、被写体の大きさ、撮影F値、被写体倍率)に応じて決定する。従って、取得画像の特徴に応じた最適な階調変換処理を実施することが可能となる。
更に、目標輝度を演算する際に、後で実施される局所的な階調変換の効果を加味して、目標輝度を決定するので、背景と被写体の明るさを適正な値にすることができ、撮影者の望む画質の画像を提供することが可能となる。
〔第2の実施形態〕
次に、本発明の第2の実施形態について、図を用いて説明する。
上述した第1の実施形態に係る撮像装置1においては、図3のステップSB8の測光演算処理で実行される目標輝度補正処理(図12参照)において、予め設定されている下限閾値o_th_lowおよび上限閾値o_th_highを用いて目標輝度bv_pを補正するか否かを判断していた(図12のステップSF3等参照)。本実施形態に係る撮像装置では、この下限閾値o_th_lowおよび上限閾値o_th_highを階調モードに応じて変更する。
以下、本実施形態に係る撮像装置について、第1の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
図22は、図12に示した目標輝度補正処理のステップSF3において用いられる下限閾値o_th_lowおよび上限閾値o_th_highを階調モードに応じて決定するための上下限閾値決定処理のシーケンスを示した図である。
まず、上限閾値o_th_highに初期値である0.5を設定し(ステップSL1)、下限閾値o_th_lowに初期値である−1.0を設定する。続いて、階調モードがオフか否かを判定し(ステップSL3)、階調モードがオフであれば、上限閾値o_th_highを0.3に変更し(ステップSL4)、下限閾値o_th_lowを−0.5に変更し(ステップSL5)、当該処理を終了する。一方、ステップSL3において、階調モードがオフでなかった場合には、階調モードがマニュアルか否かを判定し(ステップSL6)、マニュアルであれば、上限閾値o_th_highを0.4に変更し(ステップSL7)、下限閾値o_th_lowを−0.8に変更し(ステップSL8)、当該処理を終了する。
一方、ステップSL6において、階調モードがマニュアルでなかった場合には、上限閾値o_th_highおよび下限閾値o_th_lowを初期値に設定したまま当該処理を終了する。
このようにして、各階調モードに応じた上限閾値o_th_highおよび下限閾値o_th_lowが決定されると、これらの値を用いて上述した目標輝度補正処理(図12参照)が実行される。
以上説明してきたように、本実施形態によれば、階調モードに応じて上限閾値o_th_highおよび下限閾値o_th_lowを変更するので、第2画像処理において行われる階調変換処理を加味したより好ましい目標輝度を決定することが可能となる。
なお、階調モードがマニュアルであった場合には、ユーザによって設定された情報(例えば、第2画像処理における合成比、局所的な階調変換における局所領域の大きさ等)に基づいて上限閾値o_th_highおよび下限閾値o_th_lowを変更することとしてもよい。この場合、合成比、局所的な階調変換における局所領域の大きさが大きくなると、上限閾値o_th_highの絶対値および下限閾値o_th_lowの絶対値が初期値よりも大きくなるように変更することが好ましい。このようにすることで、ユーザ設定に従っても良好な画像を得ることが可能となる。
また、階調モードに応じて補正係数k_high、k_lowを変更するようにしてもよい。これにより、階調モードがオフの場合には、主要被写体を重視することで、階調モードオフであってもある程度良好な画像を得ることができる。
〔第3の実施形態〕
次に、本発明の第3の実施形態について、図を用いて説明する。
本実施形態に係る撮像装置は、上記第2の実施形態と同様、下限閾値o_th_lowおよび上限閾値o_th_highの設定方法が上記第1の実施形態と異なる。具体的には、スルー画像において顔検出が可能であった場合、顔検出は不可能であったが測距が可能であった場合、または顔検出並びに測距のいずれもできなかった場合の3つの場合に応じて、下限閾値o_th_lowおよび上限閾値o_th_highを変更する。
図23は、本実施形態に係る下限閾値o_th_lowおよび上限閾値o_th_highの一例を示した図である。図23において、縦軸は各閾値の値、横軸は撮影エリアに対する被写体エリアの面積割合を示している。図23からわかるように、顔が検出された場合、並びに、顔は検出されなかったが測距が可能であった場合には、被写体エリアの面積割合が高くなるほど、下限閾値o_th_lowおよび上限閾値o_th_highの絶対値が大きくなるように設定される。なお、いずれの場合も面積割合がある一定の値(例えば、30%)以上の領域においては、一定の値に設定される。
本実施形態では、顔検出がされた場合であって、面積割合が0%のときに下限閾値o_th_lowを−0.7、上限閾値o_th_highを0.3に設定し、面積割合が30%のとき下限閾値o_th_lowを−1.5、上限閾値o_th_highを0.8に設定する。また、この間の領域においては、線形的に変化させる。
また、顔が検出されなかった場合で測距が可能であった場合には、顔が検出された場合よりも絶対値を小さく設定する。本実施形態では、面積割合が0%のときに下限閾値o_th_lowを−0.4、上限閾値o_th_highを0.1に設定し、面積割合が30%のとき下限閾値o_th_lowを−0.9、上限閾値o_th_highを0.7に設定する。また、この間の領域においては、値を線形的に変化させる。
一方、顔も検出できず、かつ、測距もされなかった場合には、被写体エリアの面積割合にかかわらず、下限閾値o_th_lowは−0.5、上限閾値o_th_highは0.3でそれぞれ一定とされる。
なお、被写体エリアの面積割合、顔検出が可能であったか否か等については、図4に示した輝度分布算出処理における各判定結果を用いればよい。
以上、説明してきたように、本実施形態においては、被写体の検出並びに測距の可否に応じて上下限閾値を設定するので、顔検出等が行われなかった場合であっても、第2画像処理において行われる階調変換処理を加味したより好ましい目標輝度を決定することが可能となる。
〔第4の実施形態〕
次に、本発明の第4の実施形態について、図を用いて説明する。
上述した第1の実施形態に係る撮像装置1においては、図3のステップSB8の測光演算処理で実行される目標輝度算出処理(図9参照)において、予め設定されている下限閾値d_th_lowおよび上限閾値d_th_highを用いてハイライト輝度とノイズ輝度をカウントし、目標輝度bv_pを算出していた(図9のステップSE3等参照)。本実施形態に係る撮像装置では、この下限閾値d_th_lowおよび上限閾値_th_highをISO感度に応じて変更する。以下、本実施形態に係る撮像装置について、第1の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
図24はISO感度に対する下限閾値o_th_lowおよび上限閾値o_th_highの値を数値化して表した表であり、図25は図24に示した表をグラフ化して示した図である。図24および図25に示されるように、下限閾値d_th_lowはISO感度が高くなるほど大きな値に設定され、上限閾値d_th_highはISO感度にかかわらず1.0で一定とされる。
以上、説明してきたように、本実施形態においては、ISO感度によって目標輝度算出処理の際の上下限閾値を設定するので、第2画像処理の効果が高くない高感度であってもより好ましい目標輝度を決定することが可能となる。
〔第5の実施形態〕
次に、本発明の第5の実施形態について、図を用いて説明する。
上述した第1の実施形態においては、スルー画像の輝度信号を用いて、図3に示されるような輝度分布算出処理、測光演算処理、露出演算処理を実施し、これらの処理結果に基づいてスチル撮影における露光条件や第2画像処理部27(図1参照)による第2画像処理の各パラメータ等を決定していた。この場合スルー画撮像時には局所的な階調変換処理を実施しても、実施しなくてもよい。
本実施形態では、上述したスルー画像信号に局所的な階調変換処理を実施し、当該処理後のスルー画像信号を用いて露光条件や第2画像処理の各パラメータ等を決定する。
以下、本実施形態に係る撮像装置について、第1の実施形態と共通する点については説明を省略し、異なる点について主に説明する。
まず、図3に示したスチル撮影シーケンスにおけるステップSB1の顔検出を行う前に、スルー画像撮影において撮像部2で取得された画像信号に対して、第1画像処理、第2画像処理(一律な階調変換処理および局所的な階調変換処理)、第3画像処理等の処理を実行し、最終的なスルー画像を得、この画像およびスルー画像撮影時の露光条件(例えば、AE等)を記録媒体に記録する。そして、続く顔検出等の各種処理については、この最終的に得られたスルー画像を用いて行う。
例えば、本実施形態においては、測光演算処理(図3のステップSB8)で行われる目標輝度補正処理(図12参照)を図26に示すようなシーケンスとしてもよい。なお、図26に示したパラメータ選択処理において、上述した第1の実施形態に係る目標輝度補正処理(図12)と同様の処理については、同一の符号を付し、説明を省略する。
まず、上述した第1の実施形態と同様に、図12のステップSF1〜SF8が実行されることにより、目標輝度の補正量bv_hosが決定されると(図26のステップSM1)、局所的な階調変換処理等が行われた最終的なスルー画像信号を用いて被写体エリアの明るさ平均値light_o_throughを算出する(ステップSM2)。スチル撮影を行う直前に取得されたスルー画像信号に対して階調変換等の画像処理を行った後の明るさ信号Yに対して、撮影エリアを格子状に分割し、複数の分割エリアに区分し、被写体エリアに相当する部分のY信号の平均値を算出し、明るさ平均値light_o_throughとする。
次に、スルー画像撮影時の露光条件に相当するAPEX値と目標輝度bv_pとの差分d_bvを算出する(ステップSM3)。
d_bv
=(av_s)+(tv_s)−(sv_s)−bv_p(17−1)
上記(17−1)式において、(av_s)は絞り値、(tv_s)はシャッタ速度、(sv_s)は感度に相当するAPEX値である。そして、ステップSM2で得た被写体エリアの明るさ平均値light_o_throughにステップSM3で得た差分d_bvを反映させることにより、最終的な明るさ推定値light_oを得る(ステップSM4)。最終的な明るさ推定値light_oは、例えば、以下の(17−2)式で与えられる。
light_o=light_o_through+g(d_bv) (17−2)
これにより、露光条件等の違いによらない定量的な被写体エリアの明るさ推定値が得られる。
続いて、ステップSM4で得た明るさ推定値light_oを以下の(18)を用いて輝度に変換し、輝度評価値を得る(ステップSM5)。
bv_light_o=h(light_o) (18)
次に、輝度評価値bv_light_oと目標輝度bv_pとの差分が第2上限閾値light_th_highよりも大きい否かを判定し(ステップSM6)、大きい場合には、補正量bv_hos2を以下の(19)式を用いて算出する(ステップSM7)。
bv_hos2
=bv_hos+bv_light_o−bv_p−o_th_high (19)
一方、小さい場合には、輝度評価値bv_light_oと目標輝度bv_pとの差分が第2下限閾値light_th_lowよりも小さい否かを判定し(ステップSM8)、小さい場合には、補正量bv_hos2を以下の(20)式を用いて算出する(ステップSM9)。
bv_hos2
=bv_hos+bv_light_o−bv_p−o_th_low (20)
なお、上記第2下限閾値light_th_lowおよび第2上限閾値については予めフラッシュメモリ42等(図1参照)に記録されており、これを読み出すことにより設定される。
一方、輝度評価値bv_light_oと目標輝度bv_pとの差分が第2下限閾値light_th_low以上第2上限閾値light_th_high以下であった場合には、bv_hosをbv_hos2に置き換える(ステップSM10)。
次に、補正量bv_hos2が補正下限値bv_hos_minと補正上限値bv_hos_maxとの間に属しているか否かを判定し(ステップSM11、SM12)、補正量bv_hos2が補正上限値bv_hos_maxよりも大きかった場合には、補正量bv_hos2を補正上限値bv_hos_maxに設定し(ステップSM13)、補正量が補正下限値bv_hos_minよりも小さかった場合には、補正量bv_hos2を補正下限値bv_hos_minに設定する(ステップSM14)。
そして、ステップSM15において、上述の処理において求められた補正量bv_hos2を用いて目標輝度bv_pを補正し、最終的な目標輝度bv_p2´を算出し、当該処理を終了する。最終的な目標輝度bv_p2´は以下の(20)式で求められる。
bv_p2´=bv_p+bv_hos2 (20)
また、本実施形態においては、第2画像処理の中で行われるパラメータ選択処理を図27に示すようなシーケンスとしてもよい。なお、図27に示したパラメータ選択処理において、上述した第1の実施形態に係るパラメータ選択処理(図17参照)と同様の処理については、同一の符号を付し、説明を省略する。
ステップSJ12において、被写体エリアの面積割合が30%未満であると判定された場合には、ステップSN10´において合成比を25%に設定し、当該処理を終了する。一方、被写体エリアの面積割合が30%未満でないと判定された場合には、顔検出がされたか否かを判定する(ステップSN3)。この結果、顔検出がされていなかった場合には合成比を35%に設定し(ステップSN4)、当該処理を終了する。一方、顔検出がされていた場合には、最終的なスルー画像における顔エリア(被写体エリア)の輝度推定処理を行う(ステップSN5)。
輝度推定処理は、図28に示されるように、まず、スチル撮影を行う直前に取得されたスルー画像信号に対して階調変換等の画像処理を行った後の明るさ信号Yに対して、撮影エリアを格子状に分割し、複数の分割エリアに区分し、被写体エリアに相当する部分のY信号の平均値を算出し、明るさ平均値light_o_throughとする(ステップSP1)。
続いて、スルー画像撮影時の露出条件とスチル画像撮影時の露出条件との違いに起因する輝度差d_evを以下の(21−1)式を用いて算出する(ステップSP2)。なお、このパラメータ選択処理が行われるときには、既にスチル撮影が行われた後となるので、スチル露出条件も確定していることとなる。
d_ev
=(av_s)+(tv_s)−(sv_s)−(av_still)+(tv_still)−(sv_still) (21−1)
上記(21−1)式において、(av_s)はスルー画撮影時の絞り値、(tv_s)はスルー画撮影のシャッタ速度、(sv_s)はスルー画撮影の感度に相当するAPEX値である。(av_still)はスチル画撮影時の絞り値、(tv_still)はスチル画撮影のシャッタ速度、(sv_still)はスチル画撮影の感度に相当するAPEX値である。
次に、ステップSP1において取得した被写体エリアの明るさ平均値light_o_throughにステップSP2において得た差分d_evを反映させることにより、最終的な明るさ推定値light_oを得る(ステップSP3)。最終的な明るさ推定値light_oは、例えば、以下の(21−2)式で与えられる。
light_o=light_o_through+f(d_ev) (21−2)
このようにして、輝度推定処理において被写体エリアの明るさ推定値light_oを得ると、図27のステップSN6に進む。ステップSN6では、ステップSJ3(図17参照)において設定した一律な階調変換処理で用いられるγ特性を変更する。
具体的には、図29に示されるように、被写体エリアの明るさ推定値light_oが所定値th2´以上であった場合にはγ2を、所定値th1´以上所定値th2´未満であった場合にはγ3を、所定値th1´未満であった場合にはγ4を選択する。γ特性については図19に示した通りである。
続いて、ステップSN7において、合成比を決定する。具体的には、図30に示されるように、被写体エリアの明るさ推定値light_oが所定値th2´以上であった場合には30%に、所定値th1´以上所定値th2´未満であった場合には45%に、所定値th1´未満であった場合には50%に合成比を決定する。
以上説明してきたように、本実施形態に係る撮像装置によれば、種々の画像処理、特に、局所的な階調変換処理を実施した後のスルー画像を用いて露光条件または第2画像処理(図15参照)における各種パラメータ等を決定するので、より信頼性の高いパラメータを決定することが可能となる。特に、局所的な階調変換処理は処理結果が予測しにくく、また、顔のエリア(被写体エリア)が小さい場合には、局所的な階調変換処理の影響を受けやすい。このような場合に、局所的な階調変換処理が実施された後の実際のスルー画像を用いてスチル撮影で得られた画像信号に対して行われる第2画像処理の各種パラメータを決定したり、露光条件の補正を行ったりすることで、処理後の画像を予測しやすく、信頼性の高いパラメータを選定することができ、より好ましい画質のスチル画像を取得することが可能となる。
以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
例えば、上述の実施形態では測光演算処理において計算により測光を行っていたが、これに代えて、センサ等を取り付け、センサにより測光を行うこととしてもよい。
本発明の第1の実施形態に係る撮像装置の全体概略構成を示した図である。 表示シーケンスを示した図である。 スチル撮影のシーケンスを示した図である。 輝度分布算出処理のシーケンスを示した図である。 被写体が顔である場合の顔エリアおよび被写体周辺エリアを説明するための図である。 被写体が顔以外であり、測距可能であった場合の測距エリアおよび被写体周辺エリアを説明するための図である。 被写体が顔以外であり、測距不可能であった場合の中央エリアおよび被写体周辺エリアを説明するための図である。 分割輝度算出処理のシーケンスを示した図である。 目標輝度算出処理のシーケンスを示した図である。 目標輝度の算出方法について説明するための説明図である。 目標輝度の算出方法について説明するための説明図である。 目標輝度補正処理のシーケンスを示した図である。 補正係数テーブルの一例を示した図である。 目標輝度補正処理における補正量と被写体輝度との差分の関係を示した図である。 第2画像処理のシーケンスを示した図である。 第2階調変換処理のシーケンスを示した図である。 パラメータ選択処理のシーケンスを示した図である。 パラメータ選択処理のシーケンスを示した図である。 階調変換特性曲線の一例を示した図である。 被写体輝度と被写体周囲輝度との差分と階調変換特性曲線との関係を示した図である。 写体輝度と被写体周囲輝度との差分と合成比との関係を示した図である。 本発明の第2の実施形態に係る上下限閾値決定シーケンスを示した図である。 本発明の第3の実施形態に係る下限閾値および上限閾値の設定方法の一例を示した図である。 本発明の第4の実施形態に係る下限閾値および上限閾値の設定方法の一例を示した図であり、ISO感度に対する下限閾値および上限閾値の値を数値化して表した表である。 図24に示した表をグラフ化して示した図である。 本発明の第5の実施形態に係る目標輝度補正処理のシーケンスを示した図である。 本発明の第5の実施形態に係るパラメータ選択処理のシーケンスを示した図である。 図27に示したパラメータ選択処理で実施される輝度推定処理のシーケンスを示した図である。 輝度推定処理において用いられる被写体エリアの輝度平均値と階調変換特性曲線との関係を示した図である。 輝度推定処理において用いられる被写体エリアの輝度平均値と合成比との関係を示した図である。
符号の説明
1 撮像装置
2 撮像部
3 画像処理装置
10 レンズ
11 シャッタ
12 CCD
13 CCD制御部
14 レンズ駆動部
15 ストロボ
20 撮影制御部
21 CCDインターフェイス
22 システムコントローラ
23 輝度算出部
24 AF演算部
25 第1画像処理部
26 顔検出部
27 第2画像処理部
28 第3画像処理部
30 データバス
41 SDRAM
42 フラッシュメモリ
43 記録媒体
47 操作部
46 表示モニタ

Claims (13)

  1. 本撮影の前に取得された画像中の主要な被写体を前記画像の画像信号から検出する被写体検出手段と、
    前記被写体に関する輝度情報を前記画像信号から取得する被写体輝度情報取得手段と、
    前記画像中の複数の領域について、各領域の輝度分布を算出する輝度分布算出手段と、
    前記輝度分布に基づいて露光に関する目標輝度を決定する目標輝度算出手段と、
    前記目標輝度と前記被写体の輝度との差が基準範囲外の場合に前記目標輝度を補正する目標輝度補正手段と、
    前記目標輝度または前記目標輝度補正手段により補正が実施された場合には補正後の前記目標輝度に基づいて本撮影の露光条件を決定する露光条件決定手段と
    を具備し、
    前記目標輝度補正手段は、
    前記基準範囲を決定する基準範囲決定手段と、
    前記目標輝度と前記被写体の輝度との差を用いて前記補正量を決定する補正量決定手段と
    を有する撮像装置。
  2. 前記基準範囲は、前記目標輝度よりも高く設定される上限閾値と、該目標輝度よりも低く設定される下限閾値とで特定され、かつ、前記下限閾値の絶対値は前記上限閾値の絶対値よりも大きく設定されている請求項1に記載の撮像装置。
  3. 前記基準範囲決定手段は、撮像素子の感度設定に応じて前記基準範囲を決定する請求項1または請求項2に記載の撮像装置。
  4. 前記被写体検出手段は、主要な前記被写体の面積割合を算出する面積割合算出手段を有し、
    前記基準範囲算出手段は、前記面積割合に応じて前記基準範囲を決定する請求項1から請求項3のいずれかに記載の撮像装置。
  5. 前記被写体検出手段は、顔を検出する顔検出手段を有し、
    前記基準範囲算出手段は、前記顔検出手段の検出結果に応じて前記基準範囲を決定する請求項1から請求項4のいずれかに記載の撮像装置。
  6. 前記被写体検出手段は、顔を検出する顔検出手段を有し、
    前記補正量決定手段は、前記顔検出手段の検出結果に応じて補正量を決定する請求項1から請求項5のいずれかに記載の撮像装置。
  7. 前記画像の注目画素に対して注目画素の近傍領域についての前記画像信号に基づいて実施される局所的な階調変換処理を行う第1設定モードと、
    前記局所的な階調変換処理を行わない第2設定モードと
    を有し、
    前記基準範囲算出手段は、設定モードに応じて前記基準範囲を決定する請求項1から請求項5のいずれかに記載の撮像装置。
  8. 前記画像の各画素に対して一律な階調変換特性曲線に従って一律な階調変換処理を行う第1階調変換処理と、前記画像の注目画素に対して注目画素の近傍領域についての前記画像信号に基づいて局所的な階調変換処理を行う第2階調変換処理の少なくとも何れか一方を行う画像処理手段を有し、
    前記基準範囲決定手段は、前記画像処理手段によって実施される階調変換処理に応じて前記基準範囲を決定する請求項1から請求項6のいずれかに記載の撮像装置。
  9. 前記基準範囲決定手段は、前記局所的な階調変換処理が実施される場合には、前記局所的な階調変換処理が行われない場合に比べて前記基準範囲を広く設定する請求項7または請求項8に記載の撮像装置。
  10. 前記画像処理手段は、前記一律な階調変換処理が実施された結果の第1画像と、前記局所的な階調変換処理が実施された結果の第2画像とを所定の合成比で合成する合成手段と、
    被写体エリアの輝度が所定の輝度範囲内となるように、前記合成比および前記一律な階調変換処理に用いられる階調変換特性曲線の少なくともいずれか一方を設定するパラメータ選択手段と
    を具備する請求項7から請求項9のいずれかに記載の撮像装置。
  11. 前記画像信号は、前記撮像素子の出力信号に対して前記局所的な階調変換処理を実施した後の画像信号である請求項1から請求項10のいずれかに記載の撮像装置。
  12. 前記目標輝度補正手段は、前記画像における被写体エリアの輝度と前記目標輝度との差分に応じて、前記目標輝度を補正する請求項11に記載の撮像装置。
  13. 本撮影の前に取得された画像中の複数の領域についての前記画像の画像信号から輝度分布を算出する輝度分布算出手段と、
    前記輝度分布に基づいて露光に関する目標輝度を決定する目標輝度算出手段と、
    前記画像中の主要な被写体を前記画像信号から検出する被写体検出手段と、
    前記被写体に関する輝度情報を前記画像信号から取得する被写体輝度情報取得手段と、
    前記画像の注目画素に対して注目画素の近傍領域についての前記画像信号をもとに局所的な階調変換処理を行う画像処理手段と、
    前記局所的な階調変換処理後の画像信号を用いて前記被写体の輝度評価値を算出する輝度評価値算出手段と、
    前記輝度評価値と前記目標輝度との差分が所定範囲外であった場合に、前記所定範囲内となるように、前記目標輝度を補正する目標輝度補正手段と、
    補正後の前記目標輝度に基づいて本撮影における露光条件を決定する露光条件決定手段と
    を具備する撮像装置。
JP2007240890A 2007-09-18 2007-09-18 撮像装置 Expired - Fee Related JP4402710B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007240890A JP4402710B2 (ja) 2007-09-18 2007-09-18 撮像装置
CN2008102135900A CN101394484B (zh) 2007-09-18 2008-09-16 摄像装置
US12/211,959 US8106965B2 (en) 2007-09-18 2008-09-17 Image capturing device which corrects a target luminance, based on which an exposure condition is determined

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007240890A JP4402710B2 (ja) 2007-09-18 2007-09-18 撮像装置

Publications (2)

Publication Number Publication Date
JP2009071772A true JP2009071772A (ja) 2009-04-02
JP4402710B2 JP4402710B2 (ja) 2010-01-20

Family

ID=40454013

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007240890A Expired - Fee Related JP4402710B2 (ja) 2007-09-18 2007-09-18 撮像装置

Country Status (3)

Country Link
US (1) US8106965B2 (ja)
JP (1) JP4402710B2 (ja)
CN (1) CN101394484B (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101963527A (zh) * 2009-07-23 2011-02-02 松下电工株式会社 亮度感测***和使用该***的照明***
JP2011035740A (ja) * 2009-08-03 2011-02-17 Samsung Techwin Co Ltd 撮像装置及び撮像方法
JP2011066752A (ja) * 2009-09-18 2011-03-31 Hoya Corp 撮像装置
JP2012119997A (ja) * 2010-12-01 2012-06-21 Canon Inc 画像処理方法及び画像処理装置
JP2014153959A (ja) * 2013-02-08 2014-08-25 Canon Inc 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP2014534659A (ja) * 2011-09-23 2014-12-18 クリエイツ インコーポレイテッドCreatz Inc. 周辺の明るさに応じてカメラを制御して良好なボールのイメージを取得するための仮想スポーツシステム
JP2015144328A (ja) * 2014-01-31 2015-08-06 株式会社 日立産業制御ソリューションズ 撮像装置
JP2017011762A (ja) * 2016-10-04 2017-01-12 オリンパス株式会社 撮像装置及び撮像方法
JP2017229058A (ja) * 2016-06-15 2017-12-28 キヤノン株式会社 画像処理装置およびその制御方法
JP2018074438A (ja) * 2016-10-31 2018-05-10 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記憶媒体

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006319714A (ja) * 2005-05-13 2006-11-24 Konica Minolta Photo Imaging Inc 画像処理方法、画像処理装置及び画像処理プログラム
JP4967992B2 (ja) * 2007-10-30 2012-07-04 株式会社ニコン 画像認識装置及び焦点検出装置並びに撮像装置
JP4678060B2 (ja) * 2009-03-25 2011-04-27 株式会社ニコン 撮像装置および画像処理プログラム
US8339506B2 (en) * 2009-04-24 2012-12-25 Qualcomm Incorporated Image capture parameter adjustment using face brightness information
GB2471099A (en) * 2009-06-16 2010-12-22 Aptina Imaging Corp Scanning a scene and buffer use
JP2011015277A (ja) * 2009-07-03 2011-01-20 Olympus Corp 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが記録された記録媒体
JP2011035643A (ja) * 2009-07-31 2011-02-17 Fujifilm Corp 多眼撮影方法および装置、並びにプログラム
JP5520038B2 (ja) * 2009-12-25 2014-06-11 キヤノン株式会社 映像処理装置及び映像処理方法
JP2011223378A (ja) * 2010-04-12 2011-11-04 Sanyo Electric Co Ltd 電子カメラ
JP5624809B2 (ja) * 2010-06-24 2014-11-12 株式会社 日立産業制御ソリューションズ 画像信号処理装置
KR101720189B1 (ko) * 2010-09-13 2017-03-27 삼성전자주식회사 디지털 촬영 장치 및 이의 제어 방법
JP5968068B2 (ja) * 2011-05-24 2016-08-10 キヤノン株式会社 露出制御を行う撮像装置、撮像装置の制御方法、プログラム及び記録媒体
US10356336B2 (en) 2011-08-10 2019-07-16 National Ict Australia Limited Automatic exposure control for cameras
JP5882644B2 (ja) * 2011-09-13 2016-03-09 キヤノン株式会社 画像処理装置、その制御方法、及びプログラム
JP5978829B2 (ja) * 2011-09-14 2016-08-24 株式会社リコー 撮像素子の露光制御装置及び方法、並びに画像撮像装置
US9385324B2 (en) * 2012-05-07 2016-07-05 Samsung Electronics Co., Ltd. Electronic system with augmented reality mechanism and method of operation thereof
US20150242701A1 (en) * 2012-09-20 2015-08-27 Sharp Kabushiki Kaisha Image processing device, image display device, image capture device, image printing device, gradation conversion method, and computer readable medium
JP6193721B2 (ja) * 2013-10-23 2017-09-06 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP6121058B2 (ja) * 2014-09-08 2017-04-26 オリンパス株式会社 内視鏡システム、内視鏡システムの作動方法
EP3358819B1 (en) * 2015-11-25 2021-09-15 Huawei Technologies Co., Ltd. Photographing method, photographing device and terminal
JP6611576B2 (ja) * 2015-11-30 2019-11-27 キヤノン株式会社 画像処理装置および画像処理方法
CN105516613A (zh) * 2015-12-07 2016-04-20 凌云光技术集团有限责任公司 基于人脸识别的智能曝光方法及***
JP6675194B2 (ja) 2015-12-15 2020-04-01 キヤノン株式会社 撮像装置及びその制御方法、プログラム並びに記憶媒体
CN106295596A (zh) * 2016-08-17 2017-01-04 深圳市金立通信设备有限公司 一种基于人脸识别的解锁方法及终端
JP6765919B2 (ja) * 2016-09-27 2020-10-07 キヤノン株式会社 画像処理装置、その制御方法、プログラム
JP6883971B2 (ja) 2016-10-24 2021-06-09 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
CN108111745B (zh) * 2016-11-25 2020-06-12 努比亚技术有限公司 一种峰值对焦显示装置和方法
CN107197146B (zh) 2017-05-31 2020-06-30 Oppo广东移动通信有限公司 图像处理方法和装置、移动终端、计算机可读存储介质
CN107977946A (zh) * 2017-12-20 2018-05-01 百度在线网络技术(北京)有限公司 用于处理图像的方法和装置
CN110569822A (zh) * 2019-09-16 2019-12-13 深圳市商汤科技有限公司 图像处理方法及装置、电子设备和存储介质
CN110661983B (zh) * 2019-11-12 2021-03-19 腾讯科技(深圳)有限公司 图像采集方法、装置、设备及存储介质
JP6817590B1 (ja) * 2020-07-27 2021-01-20 パナソニックIpマネジメント株式会社 撮像装置
CN112839182B (zh) * 2020-12-30 2022-07-15 上海磐启微电子有限公司 一种自动曝光控制***及方法
CN113780173B (zh) * 2021-09-10 2023-09-22 黄河水利职业技术学院 一种面部识别***及识别方法
CN114173062B (zh) * 2021-12-15 2024-02-09 长视科技股份有限公司 摄像设备图像处理方法、装置、设备和存储介质
CN116647760B (zh) * 2023-07-21 2023-10-13 清华大学 用于目标检测的宽动态实现方法、装置、相机及存储介质
CN118038826B (zh) * 2024-04-11 2024-06-07 深圳市中电绿能电子有限公司 一种led屏幕的节能方法、装置和存储介质

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3314195B2 (ja) * 1992-12-28 2002-08-12 ミノルタ株式会社 画像処理装置
US6583820B1 (en) * 1997-03-17 2003-06-24 Konica Corporation Controlling method and apparatus for an electronic camera
JPH11250222A (ja) * 1998-02-27 1999-09-17 Canon Inc 画像処理方法及びその装置
CN1229977C (zh) * 1998-06-22 2005-11-30 富士写真胶片株式会社 摄影装置及其方法
JP2002520968A (ja) * 1998-07-15 2002-07-09 イメイション・コーポレイション 画像表示システム及び方法
US6825884B1 (en) * 1998-12-03 2004-11-30 Olympus Corporation Imaging processing apparatus for generating a wide dynamic range image
JP3849333B2 (ja) 1998-12-17 2006-11-22 コニカミノルタホールディングス株式会社 デジタルスチルカメラ
JP3478769B2 (ja) 1999-11-05 2003-12-15 キヤノン株式会社 撮像装置及び方法、並びにコンピュータ読み取り可能な記録媒体
TW518882B (en) * 2000-03-27 2003-01-21 Hitachi Ltd Liquid crystal display device for displaying video data
JP4454882B2 (ja) 2001-03-30 2010-04-21 キヤノン株式会社 撮像装置及びその制御方法
US7068841B2 (en) * 2001-06-29 2006-06-27 Hewlett-Packard Development Company, L.P. Automatic digital image enhancement
JP3992177B2 (ja) * 2001-11-29 2007-10-17 株式会社リコー 画像処理装置、画像処理方法及びコンピュータ・プログラム
JP2003337944A (ja) * 2002-03-14 2003-11-28 Ricoh Co Ltd 画像処理装置、画像処理用のホスト装置及び画像処理方法、並びに画像処理プログラム及びコンピュータ読み取り可能な記憶媒体
JP2004062651A (ja) * 2002-07-30 2004-02-26 Canon Inc 画像処理装置、画像処理方法、その記録媒体およびそのプログラム
JP4269699B2 (ja) 2003-01-24 2009-05-27 株式会社ニコン 電子カメラ
JP4311186B2 (ja) * 2003-12-10 2009-08-12 カシオ計算機株式会社 携帯情報機器、及びプログラム
JP4466261B2 (ja) * 2004-07-30 2010-05-26 カシオ計算機株式会社 撮像装置、明るさ補正方法及びプログラム
JP2006157599A (ja) 2004-11-30 2006-06-15 Olympus Corp 撮像装置
JP2006227995A (ja) 2005-02-18 2006-08-31 Olympus Corp 顔検出方法、顔検出装置及びプログラム
CN101000445A (zh) * 2006-01-10 2007-07-18 明基电通股份有限公司 相机拍照时的闪光灯曝光补偿方法
JP4867365B2 (ja) * 2006-01-30 2012-02-01 ソニー株式会社 撮像制御装置、撮像装置および撮像制御方法

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101963527A (zh) * 2009-07-23 2011-02-02 松下电工株式会社 亮度感测***和使用该***的照明***
JP2011035740A (ja) * 2009-08-03 2011-02-17 Samsung Techwin Co Ltd 撮像装置及び撮像方法
JP2011066752A (ja) * 2009-09-18 2011-03-31 Hoya Corp 撮像装置
JP2012119997A (ja) * 2010-12-01 2012-06-21 Canon Inc 画像処理方法及び画像処理装置
JP2014534659A (ja) * 2011-09-23 2014-12-18 クリエイツ インコーポレイテッドCreatz Inc. 周辺の明るさに応じてカメラを制御して良好なボールのイメージを取得するための仮想スポーツシステム
JP2014153959A (ja) * 2013-02-08 2014-08-25 Canon Inc 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP2015144328A (ja) * 2014-01-31 2015-08-06 株式会社 日立産業制御ソリューションズ 撮像装置
JP2017229058A (ja) * 2016-06-15 2017-12-28 キヤノン株式会社 画像処理装置およびその制御方法
JP2017011762A (ja) * 2016-10-04 2017-01-12 オリンパス株式会社 撮像装置及び撮像方法
JP2018074438A (ja) * 2016-10-31 2018-05-10 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記憶媒体

Also Published As

Publication number Publication date
US8106965B2 (en) 2012-01-31
US20090073287A1 (en) 2009-03-19
CN101394484B (zh) 2013-05-22
JP4402710B2 (ja) 2010-01-20
CN101394484A (zh) 2009-03-25

Similar Documents

Publication Publication Date Title
JP4402710B2 (ja) 撮像装置
JP5308792B2 (ja) ホワイトバランス調整装置、ホワイトバランス調整方法、ホワイトバランス調整プログラム、および、撮像装置
KR101633460B1 (ko) 다중 노출 제어 장치 및 그 방법
JP5719418B2 (ja) ハイダイナミックレンジ画像の露光時間制御方法
JP4923005B2 (ja) ディジタル・スチル・カメラおよびその制御方法
CN104702824B (zh) 摄像装置及摄像装置的控制方法
JP2016213718A (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
US20110279709A1 (en) Shooting apparatus and method for controlling shooting apparatus
US9712753B2 (en) Exposure control apparatus and control method thereof, image capturing apparatus, and storage medium
JP2016081466A (ja) 画像処理装置、画像処理方法及びプログラム
JP6025472B2 (ja) 画像処理装置及び画像処理方法
JP5096089B2 (ja) 画像信号処理装置、画像信号処理方法及び撮像装置
JP6108680B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
CN111434104A (zh) 图像处理装置、摄像装置、图像处理方法及程序
JP2018050149A (ja) 画像処理装置
JP2018074199A (ja) 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
JP6795062B2 (ja) 検出装置、検出方法及びプログラム
US20190007593A1 (en) Image capturing apparatus, control method for the same, and storage medium
JP5747595B2 (ja) 露出制御装置及びカメラ
JP6573392B2 (ja) 映像信号処理装置、映像信号処理方法、及びプログラム
JP6701299B2 (ja) 画像処理装置および画像処理方法
JP2014179919A (ja) 撮像装置及び撮像方法
JP2010271507A (ja) 撮像装置、露出調整方法及びプログラム
US20240022829A1 (en) Imaging apparatus and control method for imaging apparatus
JP5393189B2 (ja) 撮像装置及び画像処理方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091006

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091029

R151 Written notification of patent or utility model registration

Ref document number: 4402710

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121106

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131106

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees