JP2008079143A - ホワイトバランス補正方法及び撮像装置 - Google Patents

ホワイトバランス補正方法及び撮像装置 Download PDF

Info

Publication number
JP2008079143A
JP2008079143A JP2006257803A JP2006257803A JP2008079143A JP 2008079143 A JP2008079143 A JP 2008079143A JP 2006257803 A JP2006257803 A JP 2006257803A JP 2006257803 A JP2006257803 A JP 2006257803A JP 2008079143 A JP2008079143 A JP 2008079143A
Authority
JP
Japan
Prior art keywords
flash
luminance value
light emission
amount
main
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006257803A
Other languages
English (en)
Other versions
JP2008079143A5 (ja
JP4761066B2 (ja
Inventor
Shinya Fujiwara
慎也 藤原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2006257803A priority Critical patent/JP4761066B2/ja
Priority to US11/859,195 priority patent/US7868929B2/en
Publication of JP2008079143A publication Critical patent/JP2008079143A/ja
Publication of JP2008079143A5 publication Critical patent/JP2008079143A5/ja
Application granted granted Critical
Publication of JP4761066B2 publication Critical patent/JP4761066B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

【課題】本発光時に主被写体に到達するフラッシュ到達量を正確に予測し、主被写体に対するホワイトバランス補正を適切に行う。
【解決手段】フラッシュ撮影に先立って所定の発光量のプリ発光を行わせ、該プリ発光時に撮像したプリ発光画像と、非発光時に撮像した非発光画像とを取り込む(ステップS10)。前記プリ発光画像と非発光画像とに基づいて主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出するとともに、プリ発光時の発光量が主被写体に与える輝度値を算出する(ステップS12、S14)。前記プリ発光時の発光量、前記フラッシュ到達量、及び本発光時の発光量に基づいて目標輝度値に対して本発光時の発光量が主被写体に与える輝度値の割合を示す予測到達量を算出し(ステップS16)、この予測到達量に基づいてフラッシュ撮影時に取得した本発光画像のホワイトバランス補正を行う。
【選択図】 図3

Description

本発明はホワイトバランス補正方法及び撮像装置に係り、特にフラッシュ撮影時に最適なホワイトバランス補正を行う技術に関する。
フラッシュ撮影された画像(以下、「本発光画像」という)は、主被写体と背景で照明光源が異なるため(主被写体=周囲光+フラッシュ光、背景=周囲光)、適切なホワイトバランス補正を行うのが難しいという問題がある。
特に、近年ではデジタルカメラの高感度化に伴い、フラッシュ撮影時に主被写体を照明する環境光の影響が大きくなり、フラッシュの光源色に対応して予め設定されているR、G、Bの各色ごとのホワイトバランスゲイン(以下、「フラッシュゲイン」という)でホワイトバランス補正を行うと、主被写体の色味が悪化するという問題がある。
このような問題を解決するために、特許文献1に記載の画像処理装置は、フラッシュ光と外光との光量比を求め、この光量比に基づいてフラッシュ撮影された画像のホワイトバランスを制御するようにしている。
また、特許文献2に記載のデジタルカメラは、本撮影前にフラッシュを予備発光(プリ発光)させ、プリ発光時に取得したプリ発光画像の被写体輝度値と、非発光時に取得した非発光画像の被写体輝度値とを比較し、プリ発光による被写体輝度値の変化量と、プリ発光が被写体輝度値に及ぼす影響度とを求め、両者の値に基づいてフラッシュゲインと、環境光(定常光)用のホワイトバランスゲインとを重み付け加算して、最終的なホワイトバランスゲインを求めるようにしている。
特開2003−283918号公報 特開2003−309854号公報
しかしながら、特許文献1に記載の画像処理装置は、フラッシュ光の発光量が同じであっても主被写体に照射されるフラッシュ光の割合は、距離によって変化するため(距離が近いとフラッシュ光の割合が高く、遠いとフラッシュ光の割合が低くなる)、良好なホワイトバランス補正を行うことができないという問題がある。
また、特許文献2に記載のデジタルカメラの場合、プリ発光画像と非発光画像の両者の被写体輝度値に基づいてフラッシュゲインと定常光用のホワイトバランスゲインとを重み付け加算する際の重み付け係数を決定しているが、本発光時の発光量は、プリ発光時の発光量とは異なるため、「プリ発光到達量:外光=本発光到達量:外光」の関係が成り立たず、特許文献2に記載のデジタルカメラによって算出される最終的なホワイトバランスゲインは精度の悪く、その結果、最適なホワイトバランス補正を行うことができないという問題がある。
本発明はこのような事情に鑑みてなされたもので、本発光時に主被写体に到達するフラッシュ到達量を正確に予測することができ、この予測到達量に応じてホワイトバランス補正を行うようにしたため、主被写体にフラッシュ光と環境光とのミックス光が照射されている場合であっても主被写体に対するホワイトバランス補正を適切に行うことができるホワイトバランス補正方法及び撮像装置を提供することを目的とする。
前記目的を達成するために請求項1に係るホワイトバランス方法は、フラッシュ撮影に先立ってフラッシュ発光手段から所定の発光量のプリ発光を行わせ、該プリ発光時に撮像したプリ発光画像を取り込むステップと、フラッシュ撮影に先立って非発光時に撮像した非発光画像を取り込むステップと、前記プリ発光画像と非発光画像とを比較してプリ発光時の発光量が主被写体に与える輝度値を算出するステップと、前記算出したプリ発光時の発光量が主被写体に与える輝度値に基づいて目標輝度値に対してプリ発光時の発光量が主被写体に与える輝度値の割合を示すフラッシュ到達量を算出するステップと、前記取り込んだプリ発光画像と非発光画像とに基づいて前記主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出するステップと、フラッシュ撮影時に前記フラッシュ発光手段から前記算出された発光量の本発光を行わせ、本発光画像を取り込むステップと、前記算出されたプリ発光時のフラッシュ到達量、及び前記算出された本発光時の発光量と前記プリ発光時の発光量との比に基づいて目標輝度値に対して前記本発光時の発光量が主被写体に与える輝度値の割合を示す予測到達量を算出するステップと、前記算出された予測到達量に基づいてフラッシュ撮影時に取得した本発光画像のホワイトバランス補正を行うステップと、を含むことを特徴としている。
即ち、フラッシュ撮影前に取り込んだプリ発光画像と非発光画像とに基づいてプリ発光時の発光量が主被写体に与える輝度値を算出する。この輝度値は、両画像の被写体輝度値の差分から求めることができる。このプリ発光時の発光量が主被写体に与える輝度値に基づいてプリ発光時のフラッシュ到達量を算出する。このフラッシュ到達量は、前記算出した輝度値と目標輝度値との比をとることによって求めることができる。
一方、前記取り込んだプリ発光画像と非発光画像とに基づいて前記主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出する。この本発光時の発光量の算出方法としては、目標輝度値から非発光画像の輝度値を減算することにより、本発光で補うべき輝度値を求めることができる。そして、この輝度値を、前記算出したプリ発光時の発光量が主被写体に与える輝度値で除算することにより、プリ発光時の発光量に対する倍率が求めることができ、プリ発光時の発光量に前記求めた倍率を乗算することによって本発光量を求めることができる。このようにして求めた本発光時の発光量によってフラッシュ撮影を行って本発光画像を取り込む。
また、「プリ発光時の発光量:フラッシュ到達量=本発光時の発光量:予測到達量」の関係から正確に予測到達量を算出することができる。
このようして算出された目標輝度値に対して本発光時の発光量が主被写体に与える輝度値の割合を示す予測到達量によってホワイトバランス補正を行うことにより適切なホワイトバランス補正を行うことができる。
請求項2に示すように請求項1に記載のホワイトバランス補正方法において、前記ホワイトバランス補正を行うステップは、フラッシュ撮影時に取得した本発光画像又は被写体の環境光に基づいてR、G、Bの各色ごとに決定した第2のホワイトバランスゲインと、予めフラッシュの光源色に対応してR、G、Bの各色ごとに設定された第1のホワイトバランスゲインとを前記算出された予測到達量に応じて重み付け加算してなるホワイトバランスゲインを算出するステップと、前記算出されたホワイトバランスゲインに基づいて前記フラッシュ撮影時に取得した本発光画像を示すR、G、B信号のゲイン補正を行うステップと、を有することを特徴としている。即ち、予測到達量の割合が大きくなるにしたがって主被写体に対する照明光はフラッシュ光が支配的になるため、ホワイトバランスゲインを第2のホワイトバランスゲインに近づけ、逆に予測到達量の割合が小さくなるにしたがって主被写体に対する照明光は環境光が支配的になるため、ホワイトバランスゲインを第1のホワイトバランスゲインに近づけるようにしている。
請求項3に示すように請求項1に記載のホワイトバランス補正方法において、前記非発光画像及びプリ発光画像からそれぞれ顔を検出するステップを有し、前記プリ発光時の発光量が主被写体に与える輝度値を求めるステップは、前記非発光画像又はプリ発光画像から顔が検出されると、前記検出された顔を含む顔エリア内の非発光画像とプリ発光画像とを比較して前記輝度値を求めることを特徴としている。
即ち、主被写体を顔とし、顔エリア内の非発光画像とプリ発光画像とを用いてプリ発光時の発光量が主被写体に与える輝度値を求めるようにしたため、特に顔に対するホワイトバランス補正を適切に行うことができる。
請求項4に示すように請求項2に記載のホワイトバランス補正方法において、フラッシュ撮影時に取得した本発光画像の輝度値を検出するステップを有し、前記ホワイトバランスゲインを算出するステップは、前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出することを特徴としている。
即ち、本発光時の発光量にバラツキがあると、本発光画像の輝度値が目標輝度値から外れるが、この場合であっても適切なホワイトバランスゲインを求めるようにしている。本発光画像の輝度値が目標輝度値よりも大きい場合には、前記算出された予測到達量よりも実際の到達量は大きくなっているため、第2のホワイトバランスゲインの重みをより大きくし、逆に本発光画像の輝度値が目標輝度値よりも小さい場合には、前記算出された予測到達量よりも実際の到達量は小さくなっているため、第2のホワイトバランスゲインの重みをより小さくして最終的なホワイトバランスゲインを求めるようにしている。
請求項5に示すように請求項2に記載のホワイトバランス補正方法において、フラッシュ撮影時に取得した本発光画像の輝度値を検出するステップと、被写体の環境光の光源種を検出するステップと、を有し、前記ホワイトバランスゲインを算出するステップは、前記検出された光源種が蛍光灯であり、かつ前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出することを特徴としている。
即ち、フラッシュ調光時に蛍光灯のフリッカの影響を受ける場合がある。従って、環境光の光源種が蛍光灯と判別され、かつ本発光画像の輝度値が目標輝度値よりも大きい場合には(環境光の光量を小さく評価しているため、本発光量が大きめになっている)、本発光画像は、調光時よりも環境光(蛍光灯)の影響が大きくなっている。従って、この場合には、第2のホワイトバランスゲインの重みをより小さくし、逆に、本発光画像の輝度値が目標輝度値よりも小さい場合には(環境光の光量を大きく評価しているため、本発光量が小さめになっている)、第2のホワイトバランスゲインの重みをより大きくするようにしている。
請求項6に示すように請求項1に記載のホワイトバランス補正方法において、前記本発光画像を取り込むステップは、前記算出された発光量が前記フラッシュ発光手段の最大発光量を超える場合には、フラッシュ撮影時に前記最大発光量となるようにフラッシュの発光量を制限して本発光画像を取り込み、前記予測到達量を算出するステップは、前記算出された本発光時の発光量が、前記フラッシュ発光手段の最大発光量を超える場合には、前記目標輝度値の代わりに、前記算出された本発光時の発光量が前記最大発光量を超える発光超過量から予測される予測輝度値、又は前記本発光画像から算出した実測輝度値を使用して、前記予測輝度値又は前記実測輝度値に対して前記最大発光量が主被写体に与える輝度値の割合を示す予測到達量を算出することを特徴としている。
即ち、フラッシュ発光手段の最大発光量の影響により、本発光画像の輝度値が目標輝度値に達しない場合がある。この場合には、本発光時の発光量を最大発光量にクリップするとともに、目標輝度値の代わりに本発光画像の予測輝度値、又は本発光画像から算出した実測輝度値を求め、この予測輝度値又は実測輝度値に対するプリ発光時のフラッシュ到達量、及び最大発光量とプリ発光時の発光量との比から予想到達量を算出するようにしている。
請求項7に係る撮像装置は、フラッシュ発光手段と、非発光時、プリ発光時、及び本発光時にそれぞれ被写体を撮像する撮像手段と、フラッシュ撮影に先立って前記フラッシュ発光手段から所定の発光量のプリ発光を行わせ、該プリ発光時に撮像したプリ発光画像を取り込むとともに、非発光時に撮像した非発光画像を取り込む画像取込手段と、前記取り込まれたプリ発光画像と非発光画像とを比較してプリ発光時の発光量が主被写体に与える輝度値を算出する輝度値算出手段と、前記算出したプリ発光時の発光量が主被写体に与える輝度値に基づいて目標輝度値に対してプリ発光時の発光量が主被写体に与える輝度値の割合を示すフラッシュ到達量を算出するフラッシュ到達量算出手段と、前記取り込んだプリ発光画像と非発光画像とに基づいて前記主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出する発光量算出手段と、フラッシュ撮影時に前記算出された本発光時の発光量となるように前記フラッシュ手段の発光量を調整するフラッシュ調光手段と、前記算出されたプリ発光時のフラッシュ到達量、及び前記算出された本発光時の発光量と前記プリ発光時の発光量との比に基づいて目標輝度値に対して前記本発光時の発光量が主被写体に与える輝度値の割合を示す予測到達量を算出する予測到達量算出手段と、前記算出された予測到達量に基づいてフラッシュ撮影時に取得した本発光画像のホワイトバランス補正を行うホワイトバランス補正手段と、を備えたことを特徴としている。
請求項8に示すように請求項7に記載の撮像装置において、前記ホワイトバランス補正手段は、フラッシュ撮影時に取得した本発光画像又は被写体の環境光に基づいてR、G、Bの各色ごとに決定した第2のホワイトバランスゲインと、予めフラッシュの光源色に対応してR、G、Bの各色ごとに設定された第1のホワイトバランスゲインとを前記算出された予測到達量に応じて重み付け加算してなるホワイトバランスゲインを算出するホワイトバランスゲイン算出手段と、前記ホワイトバランスゲイン算出手段によって算出された前記ホワイトバランスゲインに基づいて前記フラッシュ撮影時に取得した本発光画像を示すR、G、B信号のゲイン補正を行うゲイン補正手段と、を有することを特徴としている。
請求項9に示すように請求項7に記載の撮像装置において、前記非発光画像又はプリ発光画像から顔を検出する顔検出手段を有し、前記輝度値算出手段は、前記顔検出手段によって顔が検出されると、前記検出された顔を含む顔エリア内のプリ発光画像と非発光画像とを比較して前記プリ発光時の発光量が主被写体に与える輝度値を算出することを特徴としている。
請求項10に示すように請求項8に記載の撮像装置において、フラッシュ撮影時に取得した本発光画像の輝度値を検出する輝度値検出手段を備え、前記ホワイトバランスゲイン算出手段は、前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出することを特徴としている。
請求項11に示すように請求項8に記載の撮像装置において、フラッシュ撮影時に取得した本発光画像の輝度値を検出する輝度値検出手段と、被写体の環境光の光源種を検出する光源種検出手段と、を備え、前記ホワイトバランスゲイン算出手段は、前記検出された光源種が蛍光灯であり、かつ前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出することを特徴としている。
請求項12に示すように請求項7に記載の撮像装置において、前記フラッシュ調光手段は、前記発光量算出手段によって算出された発光量が、前記フラッシュ発光手段の最大発光量を超える場合には、本発光時に前記最大発光量となるようにフラッシュの発光量を調整し、前記予測到達量算出手段は、前記発光量算出手段によって算出された発光量が、前記フラッシュ発光手段の最大発光量を超える場合には、前記目標輝度値の代わりに、前記算出された本発光時の発光量が前記最大発光量を超える発光超過量から予測される予測輝度値、又は前記本発光画像から算出した実測輝度値を使用して、前記予測輝度値又は前記実測輝度値に対して前記最大発光量が主被写体に与える輝度値の割合を示す予測到達量を算出することを特徴としている。
本発明によれば、本発光時に主被写体に到達するフラッシュ到達量を正確に予測することができ、この予測到達量に応じてホワイトバランス補正を行うようにしたため、主被写体にフラッシュ光と環境光とのミックス光が照射されている場合であっても主被写体に対するホワイトバランス補正を適切に行うことができる。
以下、添付図面に従って本発明に係るホワイトバランス補正方法及び撮像装置の好ましい実施の形態について説明する。
[撮像装置の構成]
図1は本発明に係る撮像装置(デジタルカメラ)10の内部構成の実施の形態を示すブロック図である。
同図に示すように、本実施の形態のデジタルカメラ10は、撮影光学系12、CCD等の固体撮像素子からなるメージセンサ14(以下「CCD」という)、タイミングジェネレータ(TG)16、アナログ信号処理部18、A/D変換器20、画像入力コントローラ22、デジタル信号処理部24、エンコーダ28、画像表示部30、圧縮・伸張処理部32、メディアコントローラ34、記憶メディア36、オートエクスポージャ(AE)検出部38、オートフォーカス(AF)検出部40、中央処理装置(CPU)42、ROM44、RAM46、フラッシュROM48、顔検出部49、操作部50、及びフラッシュ装置52等から構成されている。
尚、操作部50は、シャッタボタン、電源スイッチ、撮影/再生モード選択スイッチ、バックスイッチ、メニュー/OKスイッチ、及びマルチファンクションの十字キー等を含んで構成されており、シャッタボタンは、2段ストロークのボタンで、半押し時にONしてAF、AE等の撮影準備を行わせるスイッチS1と、全押し時にONして画像の取り込みを行わせるスイッチS2とを有している。
デジタルカメラ10の全体の動作は、CPU42によって統括制御されており、CPU42は操作部50からの入力に基づき所定のプログラムに従ってデジタルカメラ10の各部を制御する。
ROM44には、このCPU42が実行するプログラムの他、プログラム線図等の各種制御に必要なデータが格納されている。CPU42は、このROM44に格納されたプログラムをRAM46に展開し、RAM46を作業メモリとして使用しながら各種処理を実行する。また、フラッシュROM48には、ユーザ設定情報等のデジタルカメラ10の動作に関する各種設定情報等が格納されている。
撮影光学系12は、ズームレンズ12z、フォーカスレンズ12f、絞り(例えば、虹彩絞り)12iを含み、それぞれズームモータ60z、フォーカスモータ60f、アイリスモータ60iに駆動されて作動する。即ち、ズームレンズ12zは、ズームモータ60zに駆動されて撮影光軸上を前後移動し、これにより、焦点距離を変化させる。また、フォーカスレンズ12fは、フォーカスモータ60fに駆動されて撮影光軸上を前後移動し、これにより結像位置を変化させる。また、絞り12iは、アイリスモータ60iに駆動されて開口量が連続的、又は段階的に変化し、これにより絞り値を変化させる。CPU42は、ズームモータドライバ62z、フォーカスモータドライバ62f、アイリスモータドライバ62iを介してズームモータ60z、フォーカスモータ60f、アイリスモータ60iの駆動を制御し、ズームレンズ12z、フォーカスレンズ12f、絞り12iの動作を制御する。
CCD14は、所定のカラーフィルタ配列(例えば、ハニカム配列)のカラーCCDで構成されている。撮影光学系12を介してCCD14の受光面に入射した光は、その受光面に配列された各フォトダイオードによって入射光量に応じた量の信号電荷に変換される。そして、各フォトダイオードに蓄積された信号電荷は、タイミングジェネレータ(TG)16から加えられるタイミング信号に従って読み出され、電圧信号(画像信号)としてCCD14から順次出力される。
尚、このCCD14は、シャッタゲートとシャッタドレインを備えており、シャッタゲートにシャッタゲートパルスを印加することで各フォトダイオードに蓄積された信号電荷をシャッタドレインに掃き出すことができるようにされている。CPU42は、TG16を介してシャッタゲートへのシャッタゲートパルスの印加を制御することにより、各フォトダイオードに蓄積される信号電荷の電荷蓄積時間(いわゆる電子シャッタによるシャッタ速度)を制御する。
アナログ信号処理部18は、CDS回路及びアナログアンプを含み、CDS回路は、TG16から加えられるCDSパルスに基づいてCCD出力信号を相関二重サンプリング処理し、アナログアンプは、CPU42から加えられる撮影感度に応じて設定されたゲインによってCDS回路から出力される画像信号を増幅する。A/D変換器20は、このアナログ信号処理部18から出力されたアナログの画像信号をデジタルの画像信号に変換する。
画像入力コントローラ22は、所定容量のバッファメモリを内蔵しており、A/D変換器20から出力された画像信号を1コマ分蓄積して、RAM46に格納する。
図2はデジタル信号処理部24の構成を示すブロック図である。
このデジタル信号処理部24は、オフセット補正回路24A、ゲイン補正回路24B、ガンマ補正回路24C、同時化回路24D、RGB/YC変換回路24E、ノイズフィルタ回路24F、輪郭補正回路24G、及び色差マトリクス回路24H、ホワイトバランス(WB)ゲイン補正回路I、及び調光部25から構成されており、CPU42からの指令に従ってRAM46に格納された画像信号(R、G、BのRAWデータ)を処理し、輝度信号と色差信号とからなるYC信号を生成する。
即ち、R、G、BのRAWデータ(R、G、B信号)が、CCD14のカラーフィルタ配列に応じて、例えばRGBGRGBGの点順次で順次取り込まれる。このR、G、B信号は、オフセット補正回路24Aに加えられ、ここでR、G、B信号の黒レベルを揃えるオフセット処理がなされるのち、ゲイン補正回路24Bに加えられる。
ゲイン補正回路24Bの他の入力には、WBゲイン算出回路24Iによって決定された、R、G、B信号別のWBゲインRg,Gg,Bgが加えられており、ゲイン補正回路24Bは、入力するR、G、B信号に対応するWBゲインRg,Gg,Bgにより、R、G、B信号のゲイン補正を行い、これによりWB補正が行われる。尚、WBゲイン算出回路24I及び調光部25の詳細については、後述する。
WB補正されたR、G、B信号は、ガンマ補正回路24Cに加えられる。ガンマ補正回路24Cは、入力するR、G、B信号の階調変換(ガンマ補正)を行い、ガンマ補正したR、G、B信号を同時化処理回路24Dに加えられる。同時化処理回路24Dは、単板CCDのカラーフィルタ配列に伴うR,G,B信号の空間的なズレを補間してR,G,B信号を同時式に変換する処理を行い、同時化したR,G,B信号をRGB/YC変換回路24Eに出力する。
RGB/YC変換回路24Eは、R,G,B信号を輝度信号Y,色差信号Cr,Cbに変換し、輝度信号Yをノイズフィルタ回路24Fを介して輪郭補正回路170に出力するとともに、色差信号Cr,Cbをノイズフィルタ回路24Fを介して色差マトリクス回路24Hに出力する。輪郭補正回路24Gは、輝度信号Yの輪郭部(輝度変化の大きい部分)を強調する処理を行い、色差マトリクス回路24Hは、色差信号Cr,Cbに対して所要のマトリクス変換を行って良好な色再現性を実現させる。
画像表示部30にスルー画像(ライブ画像)を表示させる場合は、CCD14で画像を連続的に撮像し、得られた画像信号を連続的に処理してYC信号を生成する。生成されたYC信号は、RAM46を介してエンコーダ28に加えられ、表示用の信号形式に変換されて画像表示部30に出力される。これにより、画像表示部30にスルー画像が表示される。
画像を記録する場合は、シャッタボタンからの撮影指令に応じてCCD14で画像を撮像し、得られた画像信号を処理してYC信号を生成する。生成されたYC信号は、圧縮・伸張処理部32に加えられ、所定の圧縮画像データ(例えば、JPEG)とされたのち、メディアコントローラ34を介して記憶メディア36に格納される。
記憶メディア36に格納された圧縮画像データは、再生指令に応じて記憶メディア36から読み出され、圧縮・伸張処理部32で非圧縮のYC信号とされたのち、エンコーダ28を介して画像表示部30に出力される。これにより、記憶メディア36に記録された画像が画像表示部30に再生表示される。
AE検出部38は、CPU42からの指令に従い、入力された画像信号からAE制御に必要な物理量を算出する。例えば、AE制御に必要な物理量として、1画面を複数のエリア(例えば、8×8)に分割し、分割したエリアごとにR、G、Bの画像信号の積算値を算出する。CPU42は、このAE検出部38から得た積算値、及び画像信号取得時の絞り値、シャッタ速度に基づいて被写体の明るさを検出してEV値を求め、求めたEV値に基づいてプログラム線図等に基づいて露出を設定する。
AF検出部40は、CPU42からの指令に従い、入力された画像信号からAF制御に必要な物理量を算出する。本実施の形態のデジタルカメラ10では、画像のコントラストによりAF制御を行うものとし、AF検出部40は、入力された画像信号から画像の鮮鋭度を示すAF評価値を算出する。CPU42は、このAF検出部40で算出されるAF評価値が極大となるように、フォーカスモータドライバ62fを介してフォーカスモータ60fを駆動し、フォーカスレンズ12fの移動を制御する。
顔検出部49は、画像照合回路及び顔画像テンプレートを含み、撮影画像中に含まれる被写体(人物)の顔を検出し、その顔の位置や大きさの情報をCPU42に出力する。
即ち、顔検出部49の画像照合回路は、予め設定した顔エリアを検出するための最も大きな対象エリアを、画面内で少しずつ移動させながら顔画像テンプレートとの相関を調べる。そして、相関スコアが予め設定された閾値を越えると、その対象エリアを顔エリアとして認定する。続いて、対象エリアを少し小さくし、再度、顔画像テンプレートとの相関を調べる。これを検出したい最小の検出エリアまで繰り返し、顔エリアを求める。このようにして求めた顔エリアの情報(顔エリアの大きさ及び位置を示す情報)をCPU42に出力する。
このようにして検出された顔エリアの情報は、AF、AE制御等に利用される。尚、顔検出方法は、上記の例に限らず、エッジ検出又は形状パターン検出による顔検出方法、色相検出又は肌色検出による顔検出方法等の公知の方法を利用することができる。
フラッシュ装置52は、キセノン管を含むフラッシュ発光部54と、CPU42からの発光指令及び発光停止指令によってフラッシュ発光部54から発光させるフラッシュの発光量(発光時間)の制御や、図示しないメインコンデンサの充電制御を行うフラッシュ制御部56とを有している。
このフラッシュ装置52は、低輝度時に自動的に発光させるオートフラッシュ、強制発光フラッシュ、赤目軽減フラッシュ、フラッシュ発光禁止等のフラッシュモードのうちの選択されたフラッシュモードに応じて動作する。
以下、本発明に係るホワイトバランス補正方法、特にフラッシュ撮影時におけるホワイトバランス補正方法について説明する。
<第1の実施の形態>
図3は本発明に係るデジタルカメラ10の第1の実施の形態を示すフローチャートであり、特にフラッシュ撮影時におけるWBゲインの算出処理に関して示している。
同図において、シャッタボタンが全押しされると、本撮影前にフラッシュ調光用の非発光画像とプリ発光画像の撮影を実施する(スイッチS10)。即ち、本撮影前にフラッシュ装置52を発光させずに撮影を行って非発光画像を取り込み、続いてフラッシュ装置52から所定の発光量のプリ発光を行わせて撮影を行い、このプリ発光時に撮影したプリ発光画像を取り込む。尚、非発光画像とプリ発光画像の撮影順序は、上記と逆でもよい。
次に、図2に示した調光部25内の発光量算出回路25Aは、上記非発光画像とプリ発光画像とに基づいて人物等の主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出する(スイッチS12)。
即ち、図4に示すように非発光画像とプリ発光画像とのそれぞれの輝度値の差分をとり、プリ発光時の発光量が主被写体に与える輝度値を算出する。ここで、目標輝度値Eaと、非発光画像の輝度値Eと、本発光時の発光量が主被写体に与える輝度値Emとは、次式の関係にある。
[数1]
Ea=E+Em
上記[数1]において、目標輝度値Eaは固定値であり、非発光画像の輝度値Eは、非発光画像から算出することができるため、本発光時の発光量が主被写体に与える輝度値Emを求めることができる。
一方、非発光画像とプリ発光画像との比較により求めたプリ発光時の発光量が主被写体に与える輝度値をPEとすると、本発光の発光量と、プリ発光の発光量と、輝度値PEと、輝度値Emとは、次式の関係にある。
[数2]
本発光の発光量:プリ発光の発光量=Em:PE
本発光の発光量=プリ発光の発光量×(Em/PE)
従って、上記[数2]により、主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出することができる。
次に、フラッシュ到達量算出回路25B(図2参照)は、プリ発光時の発光量が主被写体に与える輝度値PEに基づいてプリ発光時のフラッシュ到達量を算出する(ステップ14)。
ここで、プリ発光時のフラッシュ到達量は、前記輝度値PEの目標輝度値に対する比を示し、フラッシュ到達量をPEvとすると、次式で表すことができる。
[数3]
PEv=PE/目標輝度値
即ち、プリ発光時のフラッシュ到達量PEvは、プリ発光時の発光量が目標輝度値に寄与する割合を示す。
続いて、予測到達量算出回路25C(図2参照)は、目標輝度値に対して、ステップS12で算出した本発光時の発光量が主被写体に与える輝度値の割合を示す予測到達量を算出する(ステップS16)。
この予測到達量は、プリ発光時の発光量(固定値)、発光量算出回路25Aにより算出された本発光時の発光量、及びフラッシュ到達量算出回路25Bにより算出されたフラッシュ到達量PEvに基づいて、次式により算出することができる。
[数4]
予測到達量=PEv×ΔEv
但し、ΔEv=本発光時の発光量/プリ発光時の発光量
次に、フラッシュ撮影(本撮影)が行われ、本発光画像が取り込まれる(ステップS18)。尚、このときフラッシュ装置52から発光されるフラッシュ光は、ステップ12で算出した本発光時の発光量となるように調光される。
図2に示したWBゲイン算出回路24Iは、上記のようにした撮影した本発光画像のR、G、B信号と、予測到達量算出回路25Cから入力される予測到達量とに基づいて、本発光画像のWB補正を行うためのWBゲインRg,Gg,Bgを算出する(ステップS18)。
以下、WBゲイン算出回路24IによるWBゲインRg,Gg,Bgの算出方法について詳述する。
まず、環境光及びフラッシュ光のミックス光の下で撮影された本発光画像に対するWBゲインRg1,Gg1,Bg1を算出する。即ち、本発光画像のR,G,B信号を用いて、1画面が8×8に分割された64個の分割エリアごとにRGB信号の色別の平均積算値を算出し、各分割エリアごとにR,G,Bの平均積算値の比(即ち、R/G及びB/Gの比)を算出する。
このようにして算出された64個の分割エリアごとの色情報は、前記R/G、B/Gの値に基づいてR/G、B/Gの色空間上で分布する64個の点として表すことができる。
そして、R/G、B/Gの色空間上で、上記の点が密集するグループの代表点の位置(重心位置又は平均位置)を、環境光とフラッシュ光のミックス光の色情報とする。この代表点の色情報を、ニュートラル・グレー(Nグレー)にするためのR信号に対するWBゲインRg1、及びB信号に対するWBゲインGg1を求める。
尚、この実施の形態では、G信号に対するWBゲインGg1は、固定値としている。また、WBゲインの算出方法は、上記の例に限らず、特許文献1、2、特開平11−25523号公報、又は特開2006−222672号公報に記載の方法等を適用することができる。
一方、WBゲイン算出回路24Iには、フラッシュ光の光源色(通常、昼光色)に対応して、予め適切なWB補正を行うことができるゲインWBゲインRg2,Gg2,Bg2が設定されており、WBゲイン算出回路24Iは、本発光画像に対して算出したWBゲインRg1,Gg1,Bg1と、フラッシュ光に対して設定されたWBゲインRg2,Gg2,Bg2とを、予測到達量算出回路25Cから入力される予測到達量に応じて重み付け加算し、本発光画像のWB補正を行うための最終的なWBゲインRg,Gg,Bgを算出する。
図5は、R信号に対するWBゲインRgの算出方法の一例を示しており、図5のグラフの横軸は予測到達量を示し、縦軸はWBゲインRgを示している。
同グラフに示すように、予測到達量が0%の場合には、WBゲインRgは、本発光画像を解析して算出したWBゲインRg1となり、予測到達量が増加するにしたがってWBゲインRgは、WBゲインRg1からWBゲインRg2に近づいていく。そして、予測到達量が100%の場合には、フラッシュ光に対して設定されたWBゲインRg2となる。
また、WBゲインRgは、予測到達量に応じて直線aに沿って変化するように算出してもよいし、破線で示す上に凸の曲線bに沿って変化するように算出するようにしてもよい。
B信号に対するWBゲインBgも同様にして算出することがでるが、WBゲインRgを、破線で示す上に凸の曲線bに沿って変化するように算出する場合には、WBゲインBgは、下に凸の曲線(WBゲインBg1からWBゲインBg2への変化曲線)に沿って変化するように算出する。
次に、上記のように予測到達量に応じてWBゲインRg,Bgを曲線に沿って変化させる理由について説明する。
図6は、R/G、B/G色空間上での黒体軌跡Lを示すグラフである。黒体軌跡Lは、光源の色温度を変化させた際の黒体の色変化の軌跡であり、R/G、B/G色空間における基準点D50(1,1)を通っている。
いま、本発光画像に基づいて算出されたR/G、B/G色空間上の本発光画像の代表点を黒体軌跡L上の点P1とする。また、フラッシュ光の色温度は、黒体軌跡L上の点P2(=基準点D50)に対応する。尚、本発光画像の色情報を示す代表点が、黒体軌跡Lから外れている場合には、例えば最も近い黒体軌跡Lに移動させる。このように黒体軌跡Lに移動させることにより、本発光画像中の色情報における物体色の影響を抑えて、この物体色の影響を抑えた色情報に基づいて光源色を求めることができる。
そして、予測到達量に応じて、点P1と点P2との間の黒体軌跡L上を移動するように最終的なWBゲインRg,Gg,Bg算出用の点Pを決定する。図6に示すように、黒体軌跡Lは、R/G、B/G色空間上で曲線を描いており、黒体軌跡Lに沿った点に基づいてWBゲインRg,Gg,Bgを決定する場合には、図5に示すようにWBゲインRg,Bgの変化も曲線を描くように変化させる。
図2に示すゲイン補正回路24Bは、上記のようにして算出されたR、G、B信号別のWBゲインRg,Gg,BgをWBゲイン算出回路24Iから入力し、オフセット補正回路2Aから点順次で入力するR、G、B信号を、R、G、B信号別のWBゲインRg,Gg,Bgによってゲイン補正を行い、これによりホワイトバランス補正を行う。
このように主被写体に到達するフラッシュ到達量を予測し、この予測到達量に応じてホワイトバランス補正を行うようにしたため、主被写体にフラッシュ光と環境光とのミックス光が照射されている場合であっても主被写体に対するホワイトバランス補正を適切に行うことができる。
尚、この実施の形態では、フラッシュ光と環境光とのミックス光が主被写体に照射されている本発光画像からWBゲインRg1,Gg1,Bg1を求めるようにしているが、これに限らず、環境光のみが主被写体に照射されている非発光画像からWBゲインRg1,Gg1,Bg1を求めるようにしてもよい。
<第2の実施の形態>
図7は本発明に係るデジタルカメラ10の第2の実施の形態を示すフローチャートである。尚、図3に示した第1の実施の形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
第2の実施の形態は、人物の顔が検出された場合には、顔を主被写体として処理するものであり、図7に示すように第2の実施の形態は、第1の実施の形態に対してステップS30、S32、及びS34の処理が追加されている。
ステップS30は、ステップS10で撮影した非発光画像、プリ発光画像の画角内に顔があるか否かを判別し、顔がない場合にはステップS12に遷移させ、第1の実施の形態と同様な処理を行わせ、顔がある場合にはステップS32に遷移させる。
ステップS32では、ステップS12と同様に非発光画像とプリ発光画像とに基づいて主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出するが、主被写体を顔エリアに限定して本発光時の発光量を算出する。
即ち、デジタルカメラ10の顔検出部49は、非発光画像、及びプリ発光画像のうちの一方の画像(好ましくはプリ発光画像)から顔エリアを検出する。ステップS32では、顔検出部49によって検出された顔エリアの情報に基づいて、図8に示すように非発光画像及びプリ発光画像からそれぞれ顔エリアの画像を抽出し、顔エリアの画像のそれぞれの輝度値の差分をとり、プリ発光時の発光量が主被写体(顔)に与える輝度値を算出する。
この算出されたプリ発光時の発光量が主被写体(顔)に与える輝度値に基づいて、前述の[数1]式、及び[数2]により、主被写体(顔)を目標輝度値で撮影するために必要な本発光時の発光量を算出する。
続いて、プリ発光時の発光量が主被写体(顔)に与える輝度値に基づいて、前述の[数3]により、プリ発光時のフラッシュ到達量を算出する(ステップ34)。
次に、目標輝度値に対して、ステップS32で算出した本発光時の発光量が主被写体(顔)に与える輝度値の割合を示す予測到達量を算出する(ステップS36)。この予測到達量は、プリ発光時の発光量(固定値)、ステップS32により算出された本発光時の発光量、及びステップS34により算出されたフラッシュ到達量に基づいて、前述した[数4]により算出することができる。
このように画角内に顔がある場合には、顔に対する予測到達量が算出され、その予測到達量に基づいて、本発光画像のWB補正を行うためのWBゲインRg,Gg,Bgが算出される。これにより、本発光画像の顔エリアに対するホワイトバランス補正を適切に行うことができる。
図9は第2の実施の形態に対応するデジタル信号処理部24−1の詳細を示すブロック図である。尚、図9において、図2に示した第1の実施の形態のデジタル信号処理部24と共通する部分には同一の符号を付し、その詳細な説明は省略する。
第2の実施の形態では、デジタル信号処理部24−1内の調光部25−1に顔エリア抽出回路25Dが追加されている。この顔エリア抽出回路25Dは、顔検出部49(図1)によって顔が検出されると、顔検出部49からの顔エリアの情報に基づいて非発光画像、プリ発光画像のうちの顔エリアに対応する画像のみをそれぞれ後段の発光量算出回路25A、及びフラッシュ到達量算出回路25Bに出力し、顔が検出されない場合には、非発光画像、プリ発光画像の全体画像をそれぞれ発光量算出回路25A、及びフラッシュ到達量算出回路25Bに出力する。
<第3の実施の形態>
図10は本発明に係るデジタルカメラ10の第3の実施の形態を示すフローチャートである。尚、図3に示した第1の実施の形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
第3の実施の形態は、本発光時の発光量のバラツキがWBゲインの算出(ホワイトバランス補正)に影響しないようにするものであり、図10に示すように第3の実施の形態は、第1の実施の形態に対してステップS40、S42、S44、及びS46の処理が追加されている。
ステップS40は、フラッシュ撮影(本撮影)によって取得した本発光画像から輝度値を算出し、その輝度値が適切(目標輝度値)か否かを判別し、目標輝度値を一致している場合には、第1の実施の形態と同様にステップS20に遷移させ、一致していない場合には、本発光時の発光量にバラツキがあると見なし、ステップS42に遷移させる。
ステップS42では、本発光画像の輝度値が目標輝度値よりも高いか否かを判別し、高い場合にはステップS44に遷移させ、低い場合にはステップS46に遷移させる。
本発光画像の輝度値が目標輝度値よりも高い場合には、本発光時の発光量のバラツキのために本発光時の発光量が大きすぎたと見なし、フラッシュ光に対して設定されたWBゲイン(フラッシュゲイン)の重みが大きくなるようにWBゲインを設定する(ステップS44)。即ち、ステップS20では、予測到達量に基づいてWBゲインを算出するが、この予測到達量を、ステップS16で算出した値よりも大きくなるようにする。
一方、本発光画像の輝度値が目標輝度値よりも低い場合には、本発光時の発光量のバラツキのために本発光時の発光量が小さすぎたと見なし、フラッシュ光に対して設定されたWBゲイン(フラッシュゲイン)の重みが小さくなるようにWBゲインを設定する(ステップS46)。
図11は第3の実施の形態に対応するデジタル信号処理部24−2の詳細を示すブロック図である。尚、図11において、図2に示した第1の実施の形態のデジタル信号処理部24と共通する部分には同一の符号を付し、その詳細な説明は省略する。
第3の実施の形態では、デジタル信号処理部24−2に輝度値算出回路24J,及びフラッシュゲイン重み算出回路24Kが追加されるとともに、WBゲイン算出回路24I’が変更されている。
即ち、輝度値算出回路24Jは、本発光画像の輝度値を算出し、その輝度値をフラッシュゲイン重み算出回路24Kに出力する。フラッシュゲイン重み算出回路24Kは、前記算出された輝度値と目標輝度値とを比較し、その比較結果に応じてフラッシュゲイン重み係数を求め、WBゲイン算出回路24I’に出力する。
WBゲイン算出回路24I’は、調光部25の予測到達量算出回路25Cから入力される予測到達量をフラッシュゲイン重み係数によって修正し、その修正した予測到達量に基づいてWBゲインRg,Gg,Bgを算出する。
<第4の実施の形態>
図12は本発明に係るデジタルカメラ10の第4の実施の形態を示すフローチャートである。尚、図3に示した第1の実施の形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
第4の実施の形態は、蛍光灯のフリッカがWBゲインの算出(ホワイトバランス補正)に影響しないようにするものであり、図10に示すように第3の実施の形態は、第1の実施の形態に対してステップS50、S52、S54、S56、及びS58の処理が追加されている。
ステップS50は、フラッシュ撮影(本撮影)によって取得した本発光画像から輝度値を算出し、その輝度値が適切(目標輝度値)か否かを判別し、目標輝度値を一致している場合には、第1の実施の形態と同様にステップS20に遷移させ、一致していない場合には、蛍光灯のフリッカの影響により、本発光の本発光量が適切でないと見なし、ステップS52に遷移させる。即ち、蛍光灯は、50Hz又は60Hzのフリッカが発生しており、非発光画像を蛍光灯が明るい時に撮影したか、暗いときに撮影したかによって本発光の発光量が異なる。
ステップS52では、非発光画像(環境光)の光源種が蛍光灯であるか否かを判別し、環境光の光源種が蛍光灯でないと判別されると、ステップS20に遷移させ、蛍光灯であると判別されると、ステップS54に遷移させる。
ここで、光源種の判別は、非発光画像の画面を8×8の64個の分割エリアに分割し、各分割エリアごとにRGB信号の色別の平均積算値を算出し、R,G,Bの平均積算値の比(即ち、R/G及びB/Gの比)を算出する。このようにして算出された64個の分割エリアごとの色情報は、前記R/G、B/Gの値に基づいてR/G、B/Gの色空間上で分布する64個の点として表すことができる。そして、R/G、B/Gの色空間上で、上記の点が密集するグループの代表点の位置(重心位置又は平均位置)を環境光の色情報し、この色情報に基づいて環境光の光源種を判別する。
ステップS54では、本発光画像の輝度値が目標輝度値よりも高いか否かを判別し、高い場合にはステップS56に遷移させ、低い場合にはステップS58に遷移させる。
本発光画像の輝度値が目標輝度値よりも高い場合には、蛍光灯のフリッカの影響により非発光画像が本来の明るさよりも暗いと判断しているため、フラッシュ光に対して設定されたWBゲイン(フラッシュゲイン)の重みが小さくなるようにWBゲインを設定する(ステップS56)。即ち、ステップS20では、予測到達量に基づいてWBゲインを算出するが、この予測到達量を、ステップS16で算出した値よりも小さくなるようにする。
一方、本発光画像の輝度値が目標輝度値よりも低い場合には、蛍光灯のフリッカの影響により非発光画像が本来の明るさよりも明るいと判断しているため、フラッシュ光に対して設定されたWBゲイン(フラッシュゲイン)の重みが大きくなるようにWBゲインを設定する(ステップS58)。
このように蛍光灯のプリ発光時の発光量にバラツキがあっても、適切なホワイトバランスゲインを求めることができる。
図13は第4の実施の形態に対応するデジタル信号処理部24−3の詳細を示すブロック図である。尚、図13において、図11に示した第3の実施の形態のデジタル信号処理部24−2と共通する部分には同一の符号を付し、その詳細な説明は省略する。
第4の実施の形態では、デジタル信号処理部24−3に光源種検出回路24Lが追加されるとともに、フラッシュゲイン重み算出回路24K’が変更されている。
即ち、光源種検出24Kは、前述したように非発光画像に基づいて非発光画像の光源種を検出し、この検出した光源種が蛍光灯の場合には、その検出結果をフラッシュゲイン重み算出回路24K’に出力する。
フラッシュゲイン重み算出回路24K’は、輝度値算回路24Jで算出された本発光画像の輝度値と目標輝度値とを比較し、その比較結果と光源種の検出結果に応じてフラッシュゲイン重み係数を求め、WBゲイン算出回路24I’に出力する。即ち、光源種が蛍光灯であり、かつ本発光画像が輝度値が目標輝度値よりも高い場合には、フラッシュゲインの重みを弱くするフラッシュゲイン重み係数を求め、一方、本発光画像が輝度値が目標輝度値よりも低い場合には、フラッシュゲインの重みを強くするフラッシュゲイン重み係数を求める。
WBゲイン算出回路24I’は、調光部25の予測到達量算出回路25Cから入力される予測到達量をフラッシュゲイン重み係数によって修正し、その修正した予測到達量に基づいてWBゲインRg,Gg,Bgを算出する。
<第5の実施の形態>
図14は本発明に係るデジタルカメラ10の第5の実施の形態を示すフローチャートである。尚、図3に示した第1の実施の形態と共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
第5の実施の形態は、フラッシュ装置52の最大発光量の影響で本発光画像の輝度値が目標輝度値に届かない場合でも適切なホワイトバランス補正を行うもので、図14に示すように第5の実施の形態は、第1の実施の形態に対してステップS600、S62、S64、S66、及びS68の処理が追加されている。
ステップS60は、ステップS12で算出された本発光の発光量が、フラッシュ装置52の最大発光量以下か否かを判別し、本発光の発光量が最大発光量以下の場合には、第1の実施の形態と同様にステップS16に遷移させ、本発光の発光量が最大発光量を超える場合には、ステップS62に遷移させる。
ステップS62では、本発光の発光量から最大発光量を減算することにより、発光超過量を算出する。
続いて、フラッシュ撮影(本撮影)時における本発光画像の予測輝度値を、発光超過量等に基づいて、次式により算出する(ステップS64)。
[数5]
予測輝度値=目標輝度値−PEv×(ΔEv−ΔEvmax
但し、PEv:プリ発光時のフラッシュ到達量([数3]式参照)
ΔEv=本発光時の発光量/プリ発光時の発光量
ΔEvmax=最大発光量/プリ発光時の発光量
次に、ステップS64で算出した本発光時の本発光量(最大発光量)が主被写体に与える輝度値の割合を示す予測到達量を、次式により算出する(ステップS66)。
[数6]
予測到達量=PEv’×ΔEvmax
但し、PEv’=PEv/予測輝度値(PEv:プリ発光時のフラッシュ到達量)
ステップ68では、フラッシュ装置52の発光量をステップ12で算出した発光量の代わりに最大発光量にクリップする。
ステップ20は、予測到達量に基づいてWBゲインを算出するが、本発光の発光量が最大発光量以下の場合には、ステップS16で算出した予測到達量を使用し、本発光の発光量が最大発光量を越える場合には、ステップS66で算出した予測到達量を使用する。
これにより、本発光の発光量が最大発光量を越え、本発光時の輝度値が目標輝度値に届かない場合でも正確に予測到達量を算出し、その予測到達量に基づいてWBゲインを算出するようにしたため、適正なホワイトバランス補正を行うことができる。
尚、第5の実施の形態では、[数5]式により予測輝度値を算出するようにしたが、本発光画像から輝度値を算出し、この輝度値(実測輝度値)を予測輝度値の代わりに使用するようにしてもよい。
図1は本発明に係る撮像装置(デジタルカメラ)の内部構成の実施の形態を示すブロック図である。 図2は図1に示したデジタル信号処理部の第1の実施の形態を示すブロック図である。 図3は本発明に係る撮像装置の第1の実施の形態を示すフローチャートである。 図4は撮像素子による調光の概念図である。 図5はWBゲインの算出方法を説明するために用いたグラフである。 図6はR/G、B/G色空間上での黒体軌跡を示すグラフである。 図7は本発明に係る撮像装置の第2の実施の形態を示すフローチャートである。 図8はプリ発光が主被写体(顔)に与える影響(輝度値)の算出方法を説明するために用いた図である。 図9は図1に示したデジタル信号処理部の第2の実施の形態を示すブロック図である。 図10は本発明に係る撮像装置の第3の実施の形態を示すフローチャートである。 図11は図1に示したデジタル信号処理部の第3の実施の形態を示すブロック図である。 図12は本発明に係る撮像装置の第4の実施の形態を示すフローチャートである。 図13は図1に示したデジタル信号処理部の第4の実施の形態を示すブロック図である。 図14は本発明に係る撮像装置の第5の実施の形態を示すフローチャートである。
符号の説明
10…撮像装置(デジタルカメラ)、12…撮影光学系、14…CCD、24、24−1、24−2、24−3…デジタル信号処理部、24B…ゲイン補正回路、24I、24I’…WBゲイン算出回路、24J…輝度値算出回路、24K、24K’…フラッシュゲイン重み算出回路、24L…光源種検出回路、25…調光部、25A…発光量算出回路、25B…フラッシュ到達量算出回路、25C…予測到達量算出回路、25D…顔エリア抽出回路、42…中央処理装置(CPU)、49…顔検出部、52…フラッシュ装置

Claims (12)

  1. フラッシュ撮影に先立ってフラッシュ発光手段から所定の発光量のプリ発光を行わせ、該プリ発光時に撮像したプリ発光画像を取り込むステップと、
    フラッシュ撮影に先立って非発光時に撮像した非発光画像を取り込むステップと、
    前記プリ発光画像と非発光画像とを比較してプリ発光時の発光量が主被写体に与える輝度値を算出するステップと、
    前記算出したプリ発光時の発光量が主被写体に与える輝度値に基づいて目標輝度値に対してプリ発光時の発光量が主被写体に与える輝度値の割合を示すフラッシュ到達量を算出するステップと、
    前記取り込んだプリ発光画像と非発光画像とに基づいて前記主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出するステップと、
    フラッシュ撮影時に前記フラッシュ発光手段から前記算出された発光量の本発光を行わせ、本発光画像を取り込むステップと、
    前記算出されたプリ発光時のフラッシュ到達量、及び前記算出された本発光時の発光量と前記プリ発光時の発光量との比に基づいて目標輝度値に対して前記本発時の発光量が主被写体に与える輝度値の割合を示す予測到達量を算出するステップと、
    前記算出された予測到達量に基づいてフラッシュ撮影時に取得した本発光画像のホワイトバランス補正を行うステップと、
    を含むことを特徴とするホワイトバランス補正方法。
  2. 前記ホワイトバランス補正を行うステップは、
    フラッシュ撮影時に取得した本発光画像又は被写体の環境光に基づいてR、G、Bの各色ごとに決定した第1のホワイトバランスゲインと、予めフラッシュの光源色に対応してR、G、Bの各色ごとに設定された第2のホワイトバランスゲインとを前記算出された予測到達量に応じて重み付け加算してなるホワイトバランスゲインを算出するステップと、
    前記算出されたホワイトバランスゲインに基づいて前記フラッシュ撮影時に取得した本発光画像を示すR、G、B信号のゲイン補正を行うステップと、
    を有することを特徴とするホワイトバランス補正方法。
  3. 前記非発光画像又はプリ発光画像から顔を検出するステップを有し、
    前記プリ発光時の発光量が主被写体に与える輝度値を求めるステップは、前記非発光画像又はプリ発光画像から顔が検出されると、前記検出された顔を含む顔エリア内の非発光画像とプリ発光画像とを比較して前記輝度値を求めることを特徴とする請求項1に記載のホワイトバランス補正方法。
  4. フラッシュ撮影時に取得した本発光画像の輝度値を検出するステップを有し、
    前記ホワイトバランスゲインを算出するステップは、前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出することを特徴とする請求項2に記載のホワイトバランス補正方法。
  5. フラッシュ撮影時に取得した本発光画像の輝度値を検出するステップと、
    被写体の環境光の光源種を検出するステップと、を有し、
    前記ホワイトバランスゲインを算出するステップは、前記検出された光源種が蛍光灯であり、かつ前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出することを特徴とする請求項2に記載のホワイトバランス補正方法。
  6. 前記本発光画像を取り込むステップは、前記算出された発光量が前記フラッシュ発光手段の最大発光量を超える場合には、フラッシュ撮影時に前記最大発光量となるようにフラッシュの発光量を制限して本発光画像を取り込み、
    前記予測到達量を算出するステップは、前記算出された本発光時の発光量が、前記フラッシュ発光手段の最大発光量を超える場合には、前記目標輝度値の代わりに、前記算出された本発光時の発光量が前記最大発光量を超える発光超過量から予測される予測輝度値、又は前記本発光画像から算出した実測輝度値を使用して、前記予測輝度値又は前記実測輝度値に対して前記最大発光量が主被写体に与える輝度値の割合を示す予測到達量を算出することを特徴とする請求項1に記載のホワイトバランス補正方法。
  7. フラッシュ発光手段と、
    非発光時、プリ発光時、及び本発光時にそれぞれ被写体を撮像する撮像手段と、
    フラッシュ撮影に先立って前記フラッシュ発光手段から所定の発光量のプリ発光を行わせ、該プリ発光時に撮像したプリ発光画像を取り込むとともに、非発光時に撮像した非発光画像を取り込む画像取込手段と、
    前記取り込まれたプリ発光画像と非発光画像とを比較してプリ発光時の発光量が主被写体に与える輝度値を算出する輝度値算出手段と、
    前記算出したプリ発光時の発光量が主被写体に与える輝度値に基づいて目標輝度値に対してプリ発光時の発光量が主被写体に与える輝度値の割合を示すフラッシュ到達量を算出するフラッシュ到達量算出手段と、
    前記取り込んだプリ発光画像と非発光画像とに基づいて前記主被写体を目標輝度値で撮影するために必要な本発光時の発光量を算出する発光量算出手段と、
    フラッシュ撮影時に前記算出された本発光時の発光量となるように前記フラッシュ手段の発光量を調整するフラッシュ調光手段と、
    前記算出されたプリ発光時のフラッシュ到達量、及び前記算出された本発光時の発光量と前記プリ発光時の発光量との比に基づいて目標輝度値に対して前記本発時の発光量が主被写体に与える輝度値の割合を示す予測到達量を算出する予測到達量算出手段と、
    前記算出された予測到達量に基づいてフラッシュ撮影時に取得した本発光画像のホワイトバランス補正を行うホワイトバランス補正手段と、
    を備えたことを特徴とする撮像装置。
  8. 前記ホワイトバランス補正手段は、フラッシュ撮影時に取得した本発光画像又は被写体の環境光に基づいてR、G、Bの各色ごとに決定した第1のホワイトバランスゲインと、予めフラッシュの光源色に対応してR、G、Bの各色ごとに設定された第2のホワイトバランスゲインとを前記算出された予測到達量に応じて重み付け加算してなるホワイトバランスゲインを算出するホワイトバランスゲイン算出手段と、
    前記ホワイトバランスゲイン算出手段によって算出された前記ホワイトバランスゲインに基づいて前記フラッシュ撮影時に取得した本発光画像を示すR、G、B信号のゲイン補正を行うゲイン補正手段と、
    を有することを特徴とする請求項7に記載の撮像装置。
  9. 前記非発光画像又はプリ発光画像から顔を検出する顔検出手段を有し、
    前記輝度値算出手段は、前記顔検出手段によって顔が検出されると、前記検出された顔を含む顔エリア内のプリ発光画像と非発光画像とを比較して前記プリ発光時の発光量が主被写体に与える輝度値を算出することを特徴とする請求項7に記載の撮像装置。
  10. フラッシュ撮影時に取得した本発光画像の輝度値を検出する輝度値検出手段を備え、
    前記ホワイトバランスゲイン算出手段は、前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出することを特徴とする請求項8に記載の撮像装置。
  11. フラッシュ撮影時に取得した本発光画像の輝度値を検出する輝度値検出手段と、
    被写体の環境光の光源種を検出する光源種検出手段と、を備え、
    前記ホワイトバランスゲイン算出手段は、前記検出された光源種が蛍光灯であり、かつ前記検出された本発光画像の輝度値が目標輝度値よりも大きい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも小さくして前記ホワイトバランスゲインを算出し、前記検出された本発光画像の輝度値が目標輝度値よりも小さい場合には、前記第2のホワイトバランスゲインの重みを前記算出された予測到達量に応じて決定される重みよりも大きくして前記ホワイトバランスゲインを算出することを特徴とする請求項8に記載の撮像装置。
  12. 前記フラッシュ調光手段は、前記発光量算出手段によって算出された発光量が、前記フラッシュ発光手段の最大発光量を超える場合には、本発光時に前記最大発光量となるようにフラッシュの発光量を調整し、
    前記予測到達量算出手段は、前記発光量算出手段によって算出された発光量が、前記フラッシュ発光手段の最大発光量を超える場合には、前記目標輝度値の代わりに、前記算出された本発光時の発光量が前記最大発光量を超える発光超過量から予測される予測輝度値、又は前記本発光画像から算出した実測輝度値を使用して、前記予測輝度値又は前記実測輝度値に対して前記最大発光量が主被写体に与える輝度値の割合を示す予測到達量を算出することを特徴とする請求項7に記載の撮像装置。
JP2006257803A 2006-09-22 2006-09-22 ホワイトバランス補正方法及び撮像装置 Expired - Fee Related JP4761066B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006257803A JP4761066B2 (ja) 2006-09-22 2006-09-22 ホワイトバランス補正方法及び撮像装置
US11/859,195 US7868929B2 (en) 2006-09-22 2007-09-21 White balance correcting method and image-pickup apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006257803A JP4761066B2 (ja) 2006-09-22 2006-09-22 ホワイトバランス補正方法及び撮像装置

Publications (3)

Publication Number Publication Date
JP2008079143A true JP2008079143A (ja) 2008-04-03
JP2008079143A5 JP2008079143A5 (ja) 2010-06-24
JP4761066B2 JP4761066B2 (ja) 2011-08-31

Family

ID=39350699

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006257803A Expired - Fee Related JP4761066B2 (ja) 2006-09-22 2006-09-22 ホワイトバランス補正方法及び撮像装置

Country Status (2)

Country Link
US (1) US7868929B2 (ja)
JP (1) JP4761066B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012513163A (ja) * 2008-12-19 2012-06-07 クゥアルコム・インコーポレイテッド 自動露出制御及び自動ホワイト・バランスを推定するシステム及び方法
US8237854B2 (en) 2008-07-22 2012-08-07 Fujifilm Corporation Flash emission method and flash emission apparatus
JP2014038269A (ja) * 2012-08-20 2014-02-27 Panasonic Corp ストロボ装置、撮像装置及び画像処理方法
JP2014078925A (ja) * 2012-09-24 2014-05-01 Canon Inc 撮像装置及び制御方法
KR101457417B1 (ko) 2008-08-22 2014-11-03 삼성전자주식회사 스트로보를 이용한 촬영 제어 방법 및 장치
JP2019028338A (ja) * 2017-08-01 2019-02-21 キヤノン株式会社 撮像装置、その制御方法及びプログラム

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8634014B2 (en) * 2004-04-05 2014-01-21 Hewlett-Packard Development Company, L.P. Imaging device analysis systems and imaging device analysis methods
JP5066398B2 (ja) * 2007-06-29 2012-11-07 富士フイルム株式会社 画像処理装置および方法並びにプログラム
JP5064947B2 (ja) * 2007-09-11 2012-10-31 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
JP2009105579A (ja) * 2007-10-22 2009-05-14 Sony Corp 色信号処理回路、撮像装置及び色信号処理方法
US8018525B2 (en) * 2007-12-21 2011-09-13 Nokia Corporation Camera flash module and method for controlling same
US8922672B2 (en) 2008-01-03 2014-12-30 Apple Inc. Illumination systems and methods for imagers
JP5197083B2 (ja) * 2008-03-21 2013-05-15 キヤノン株式会社 撮像装置及びその制御方法
TWI394443B (zh) * 2008-09-19 2013-04-21 Altek Corp Image brightness correction method
US8885066B2 (en) * 2009-02-13 2014-11-11 Disney Enterprises, Inc. System and method for differentiating subjects using a virtual green screen
JP5610762B2 (ja) 2009-12-21 2014-10-22 キヤノン株式会社 撮像装置及び制御方法
US8488055B2 (en) * 2010-09-30 2013-07-16 Apple Inc. Flash synchronization using image sensor interface timing signal
TWI572966B (zh) * 2013-04-10 2017-03-01 群邁通訊股份有限公司 拍照系統及方法
US9525811B2 (en) 2013-07-01 2016-12-20 Qualcomm Incorporated Display device configured as an illumination source
CN105814887B (zh) * 2014-01-08 2017-10-27 三菱电机株式会社 图像生成装置
JP6063093B2 (ja) * 2014-03-31 2017-01-18 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
US11178391B2 (en) * 2014-09-09 2021-11-16 Hewlett-Packard Development Company, L.P. Color calibration
US10602111B2 (en) 2016-09-06 2020-03-24 Apple Inc. Auto white balance control algorithm based upon flicker frequency detection
JP6778602B2 (ja) 2016-12-14 2020-11-04 三星電子株式会社Samsung Electronics Co.,Ltd. 撮像装置、画像データ生成方法および画像データ生成プログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0851632A (ja) * 1994-05-31 1996-02-20 Asahi Optical Co Ltd ホワイトバランス調整装置
JP2001358986A (ja) * 2000-06-13 2001-12-26 Sony Corp 画像処理装置および画像処理方法、並びに記録媒体
JP2003309854A (ja) * 2002-04-17 2003-10-31 Minolta Co Ltd デジタルカメラ
JP2005184508A (ja) * 2003-12-19 2005-07-07 Canon Inc 撮像装置及びその制御方法
JP2006108970A (ja) * 2004-10-04 2006-04-20 Sony Ericsson Mobilecommunications Japan Inc カメラ撮影画像色調補正装置および携帯端末装置
JP2006324851A (ja) * 2005-05-18 2006-11-30 Casio Comput Co Ltd ホワイトバランス調整装置及びデジタルカメラ、ホワイトバランス調整方法、プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4847680A (en) * 1986-09-24 1989-07-11 Canon Kabushiki Kaisha Image pickup apparatus with white balance control
JP2003283918A (ja) 2002-03-22 2003-10-03 Canon Inc 画像処理装置、画像処理方法、プログラム及び記録媒体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0851632A (ja) * 1994-05-31 1996-02-20 Asahi Optical Co Ltd ホワイトバランス調整装置
JP2001358986A (ja) * 2000-06-13 2001-12-26 Sony Corp 画像処理装置および画像処理方法、並びに記録媒体
JP2003309854A (ja) * 2002-04-17 2003-10-31 Minolta Co Ltd デジタルカメラ
JP2005184508A (ja) * 2003-12-19 2005-07-07 Canon Inc 撮像装置及びその制御方法
JP2006108970A (ja) * 2004-10-04 2006-04-20 Sony Ericsson Mobilecommunications Japan Inc カメラ撮影画像色調補正装置および携帯端末装置
JP2006324851A (ja) * 2005-05-18 2006-11-30 Casio Comput Co Ltd ホワイトバランス調整装置及びデジタルカメラ、ホワイトバランス調整方法、プログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8237854B2 (en) 2008-07-22 2012-08-07 Fujifilm Corporation Flash emission method and flash emission apparatus
KR101457417B1 (ko) 2008-08-22 2014-11-03 삼성전자주식회사 스트로보를 이용한 촬영 제어 방법 및 장치
JP2012513163A (ja) * 2008-12-19 2012-06-07 クゥアルコム・インコーポレイテッド 自動露出制御及び自動ホワイト・バランスを推定するシステム及び方法
JP2014038269A (ja) * 2012-08-20 2014-02-27 Panasonic Corp ストロボ装置、撮像装置及び画像処理方法
JP2014078925A (ja) * 2012-09-24 2014-05-01 Canon Inc 撮像装置及び制御方法
JP2019028338A (ja) * 2017-08-01 2019-02-21 キヤノン株式会社 撮像装置、その制御方法及びプログラム

Also Published As

Publication number Publication date
JP4761066B2 (ja) 2011-08-31
US7868929B2 (en) 2011-01-11
US20080252749A1 (en) 2008-10-16

Similar Documents

Publication Publication Date Title
JP4761066B2 (ja) ホワイトバランス補正方法及び撮像装置
US8289441B2 (en) Imaging apparatus and imaging control method
JP5049490B2 (ja) デジタルカメラ、ゲイン算出装置
JP6049343B2 (ja) 画像処理装置、画像処理方法及びプログラム
TWI331280B (en) Imaging apparatus and imagine method
JP4791331B2 (ja) 撮像装置及び露出制御方法
US7826662B2 (en) Digital camera provided with gradation correction function
US8237854B2 (en) Flash emission method and flash emission apparatus
JP5743696B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5004544B2 (ja) 撮影装置及び露出制御方法
JP2008148180A (ja) 撮像装置、画像処理装置、および方法、並びにコンピュータ・プログラム
JP4626432B2 (ja) 撮像装置における色判別方法及び装置並びに撮像装置の露出制御方法
JP5048599B2 (ja) 撮像装置
JP4813839B2 (ja) 露出制御方法及び撮像装置
JP5569361B2 (ja) 撮像装置およびホワイトバランス制御方法
JP2009033289A (ja) 撮像装置及び撮像方法
JP6570311B2 (ja) 画像処理装置及び画像処理方法
JP2005122016A (ja) オートフォーカスカメラ
JP5387645B2 (ja) 撮像装置及びそのプログラム
JP2017192027A (ja) 画像処理装置、画像処理方法、プログラム
JP5043178B2 (ja) 像振れ補正装置及びその補正方法
JP4915272B2 (ja) 撮像装置及びそのプログラム
JP2008312057A (ja) 撮影方法及び装置
JP2017034536A (ja) 画像処理装置、画像処理方法、及びプログラム
JP5387639B2 (ja) 撮像装置及びそのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100507

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110511

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110524

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140617

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4761066

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees