JP2003087816A - ホワイトバランス調整装置、ホワイトバランス調整プログラム、ホワイトバランス調整方法およびディジタルカメラ - Google Patents

ホワイトバランス調整装置、ホワイトバランス調整プログラム、ホワイトバランス調整方法およびディジタルカメラ

Info

Publication number
JP2003087816A
JP2003087816A JP2001272282A JP2001272282A JP2003087816A JP 2003087816 A JP2003087816 A JP 2003087816A JP 2001272282 A JP2001272282 A JP 2001272282A JP 2001272282 A JP2001272282 A JP 2001272282A JP 2003087816 A JP2003087816 A JP 2003087816A
Authority
JP
Japan
Prior art keywords
white balance
color component
image
color
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001272282A
Other languages
English (en)
Other versions
JP4003037B2 (ja
Inventor
Masanobu Shirakawa
政信 白川
Kohei Magaki
耕平 籬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2001272282A priority Critical patent/JP4003037B2/ja
Publication of JP2003087816A publication Critical patent/JP2003087816A/ja
Application granted granted Critical
Publication of JP4003037B2 publication Critical patent/JP4003037B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

(57)【要約】 【課題】 画像内に特定色の大きな部位があったり、分
光分布が特定色に偏った光源下での撮像画像であったり
すると、これらの特定色の影響によってホワイトバラン
ス調整が失敗するカラーフェリアが生じてしまう。 【解決手段】 画像の輝度成分を取得して帯域分割し、
所定の帯域内にある画像の色成分分布情報に基づいてホ
ワイトバランスを調整するためのホワイトバランス補正
係数を算出する。従って、画像内の特定色や特定色に偏
った光源に影響されることなくホワイトバランス調整を
実施可能となる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ホワイトバランス
調整装置、ホワイトバランス調整プログラム、ホワイト
バランス調整方法およびディジタルカメラに関する。
【0002】
【従来の技術】人間の目は色順応によって色成分を調整
しており、光源が変化しても白い物体を白と認識するこ
とができる。しかし、ディジタルカメラ等の画像機器に
おいてその撮像素子自体には色順応の機能が存在しない
ため、従来からオートホワイトバランスなどと呼ばれる
技術によって色のバランスを調整している。例えば、カ
ラー画像データがR(レッド),G(グリーン),B
(ブルー)の3成分から構成されるときに、3成分それ
ぞれの階調値を画像全体で積算し、それぞれの積算比率
がR:G:B=1:1:1になるように、各色成分の階
調値に補正をかけている。
【0003】
【発明が解決しようとする課題】上述した従来のディジ
タルカメラにおいては、被写体の色成分総てを加算する
と無彩色になると言う仮説に基づいて、画像全体の平均
的な色がグレーになるように補正をしているので、画像
内に特定色の大きな部位があったり、分光分布が特定色
に偏った光源下での撮像画像であったりすると、これら
の特定色の影響によってホワイトバランス調整が失敗す
るカラーフェリアが生じてしまう。本発明は、上記課題
にかんがみてなされたもので、画像内の特定色や特定色
に偏った光源に影響されることなくホワイトバランス調
整を実施可能なホワイトバランス調整装置、ホワイトバ
ランス調整プログラム、ホワイトバランス調整方法およ
びディジタルカメラの提供を目的とする。
【0004】
【課題を解決するための手段】上記目的を達成するた
め、請求項1にかかる発明は、画像を複数部位から構成
される複数の参照領域に分割する画像分割手段と、同画
像分割手段によって分割された参照領域であって他の参
照領域と比較して領域内の色成分分布の偏りが少ない所
定領域についての色成分分布情報を取得する色成分分布
情報取得手段と、同取得した色成分分布情報に基づいて
上記画像の色成分を補正してホワイトバランスを制御す
るホワイトバランス制御手段とを具備する構成としてあ
る。上記のように構成した請求項1にかかる発明におい
ては、画像を複数部位から構成される複数の参照領域に
分割し、この参照領域のいずれか又は組み合わせについ
ての色成分分布情報を取得し、この色成分分布情報に基
づいて画像の色成分を補正してホワイトバランスを制御
する。ここで色成分分布情報取得手段は、他の参照領域
と比較して領域内の色成分分布の偏りが少ない領域につ
いて色成分分布情報を取得する。
【0005】すなわち、色成分分布の偏りが少ない領域
の色成分に基づいてホワイトバランスを調整しており、
画像全体の色成分に基づいて全体のバランスを整えるわ
けではない。従って、画像に単色の大きな部位が存在し
てもこの部位を除外可能であり、この単色部位に大きな
影響を受けることが無くカラーフェリアを防止すること
ができる。ここで、色成分分布の偏りが少ない領域は、
他の参照領域と比較してのものであり、絶対的に色成分
の偏在が少ない領域すなわち、無彩色の領域を選択肢そ
の色成分分布情報を取得するというわけではない。ま
た、参照領域は連続した領域である必要はなく、画像全
体から抽出した複数部位から構成されていればよい。例
えば、画像全体からまんべんなく複数部位を抽出しても
良いし、輝度が所定範囲内にあるものを抽出しても良
く、種々の指標に基づいて抽出した部位にて参照領域を
構成可能である。所定の色としては、画像が3色の色成
分で構成されるとき、そのいずれかの色成分であっても
良いし、その組み合わせによって表現される所定の色で
あっても良い。
【0006】また、請求項2にかかる発明は、画像が第
1色成分〜第3色成分で表現されるときに、基準となる
第1色成分に対して他の第2色成分および第3色成分が
画像内の他の領域と比較して比較的均等に分布している
領域の色成分分布情報を取得する色成分分布情報取得手
段と、同取得した色成分分布情報に基づいて上記画像の
色成分を補正してホワイトバランスを制御するホワイト
バランス制御手段とを具備する構成としてある。
【0007】上記のように構成した請求項2にかかる発
明においては、画像が第1色成分〜第3色成分で表現さ
れており、ホワイトバランスの制御にあたり、第1色成
分を基準とする。そして、基準となる第1色成分に対し
て他の第2色成分および第3色成分が画像内の他の領域
と比較して比較的均等に分布している領域について色成
分分布情報を取得し、この領域の色成分分布情報に基づ
いて画像の色成分を補正する。
【0008】すなわち、第2色成分と第3色成分が基準
の第1色成分に対して偏った分布となっていない領域の
色成分分布情報に基づいてホワイトバランスを調整する
ので、特定色の存在に大きな影響を受けることが無くカ
ラーフェリアを防止することができる。ここで、第1色
成分〜第3色成分としてはRGB成分やCMY成分等種
々の色成分で実現可能であるが、人間の錐体が感じる色
分布に近いRGB成分であると好ましい。また、輝度成
分の大部分を占めるG成分を基準色とすることが好まし
い。
【0009】さらに、請求項3にかかる発明は、画像の
輝度成分を取得する輝度成分取得手段と、上記画像にお
いて当該輝度成分が所定の帯域内にある部位の画像の色
成分分布情報を取得する色成分分布情報取得手段と、同
取得した色成分分布情報に基づいて上記画像の色成分を
補正してホワイトバランスを制御するホワイトバランス
制御手段とを具備する構成としてある。
【0010】上記のように構成した請求項3にかかる発
明においては、輝度成分取得手段にて画像の輝度成分を
取得し、色成分分布情報取得手段では当該輝度成分が所
定の帯域内にある部位の画像の色成分分布情報を取得す
る。そして、ホワイトバランス制御手段は、上記取得し
た色成分分布情報に基づいて上記画像の色成分を補正し
てホワイトバランスを制御する。
【0011】すなわち、輝度成分が所定の帯域内にある
部位の画像についての色成分分布情報を使用しているの
で、画像全体の大きな特定色に大きな影響を受けること
が無くカラーフェリアを防止することができる。尚、上
述の総ての発明においては、色成分分布情報を取得する
ので、ディジタル画像データを扱う画像機器について適
用すると処理が容易となって好ましいが、むろんテレビ
ジョン等アナログデータを扱う画像機器について本発明
を適用することもできる。
【0012】ここで、輝度成分取得手段は画像の輝度成
分を取得することができればよく、種々の構成を採用可
能である。その構成例として請求項4にかかる発明で
は、上記輝度成分取得手段は、ドットマトリクス状の画
像データを所定区画に分割するとともに各区画毎の色成
分の平均値を上記輝度成分として取得する構成としてあ
る。すなわち、近年の画像機器においては数百万画素等
非常に多くの画素データを扱うことができ、このような
画像機器においてドットマトリクス状の画像データの総
てについて輝度成分を参照し、総てについての色成分分
布情報を処理するには、非常に多くの計算時間を要し、
また非常に多くのバッファメモリを必要とする。
【0013】そこで、全体のホワイトバランスを調整可
能である限りにおいて参照するデータを間引くと好適で
あり、本発明においては画像データを所定区画に分割し
て区画毎の色成分の平均値を取得している。また、画像
データに輝度成分としてのデータが含まれる場合にはそ
のデータを使用すればよいが、色成分のデータからなる
場合には、一般に、当該色成分データから輝度成分を算
出することができる。輝度成分を算出するための式とし
ても種々のものがあるが、本発明のように色成分の平均
値を算出するのであれば、その計算は非常に単純であり
容易に実行可能である。むろん、輝度成分としては例え
ば、RGB成分に基づいてY=0.30R+0.59G
+0.11B等として算出すること等も可能である。
【0014】さらに、輝度成分取得手段においては、ホ
ワイトバランス調整のために参照する画素を帯域毎に抽
出するための指標を与えることができればよく、そのた
めの構成として請求項5にかかる発明では、上記輝度成
分取得手段は、画像の輝度成分をヒストグラム化すると
ともに所定の輝度範囲に帯域分割する構成としてある。
すなわち、輝度成分をヒストグラム化すると、輝度成分
のレベル毎、例えば階調値毎の分布を把握することがで
き、輝度成分の分布が分かれば容易に帯域分割をするこ
とができる。例えば、各帯域内に存在する画素数をほぼ
等しくなるように帯域分割すること等が可能になる。
【0015】色成分分布情報としては、ホワイトバラン
スを調整するための指針となる種々の情報を取得するこ
とができ、その一例として請求項6にかかる発明では、
上記色成分分布情報取得手段は、上記画像の色成分毎の
分布比を取得する構成としてある。すなわち、画像に特
定の色成分が多く含まれるときにホワイトバランスがず
れやすいことから、当該色成分毎に分布比を取得すれば
各色成分の分布比を比較しやすくなり、ホワイトバラン
スを容易に調整することができる。
【0016】ここで、色成分分布情報は、所定の参照領
域について取得したり、基準の第1色成分に対して第2
色成分と第3色成分が比較的均等に分布している領域に
ついて取得したり、所定の帯域毎に取得するなどすれ
ば、画像全体の特定色に大きく影響を受けることが無く
カラーフェリアを防止することができる。また、この場
合も色成分としてはRGB成分やCMY成分等種々の色
成分を採用可能であるが、人間の錐体が感じる色分布に
近いRGB成分であると好ましい。さらに、分布比は色
成分の分布を反映した比であれば良く、種々の態様を採
用可能である。例えば、各色成分毎の階調値やレベルの
積分値でもよいし平均値でも良い。また、色成分分布に
ついての比であれば良く、いずれの色成分が分母あるい
は分子になっても良い。
【0017】さらに、請求項7にかかる発明は、上記色
成分分布情報取得手段は、上記画像が第1色成分〜第3
色成分で表現されるときに、色成分分布情報として第1
色成分について「1」を取得し、第2色成分について第
1色成分の分布と第2色成分の分布との比を取得し、第
3色成分について第1色成分の分布と第3色成分の分布
との比を取得する構成としてある。
【0018】すなわち、分布比としてホワイトバランス
の調整に使用可能な色成分分布情報を取得すると好適で
あり、第1色成分の分布と第2色成分の分との比を取得
すれば、第1色成分を基準とした第2色成分の相対的な
分布を把握することができ、同時に第2色成分の相対的
な補正量を把握することができる。第3色成分について
も同様であり、第1色成分の分布と第3色成分の分との
比を取得すれば、第1色成分を基準とした第3色成分の
相対的な分布を把握することができる。
【0019】従って、画像全体における第1色成分のそ
れぞれについて「1」,第2色成分のそれぞれについて
「第1色成分の分布と第2色成分の分布との比」,第3
色成分のそれぞれについて「第1色成分の分布と第3色
成分の分布との比」を乗じると色成分の分布の偏りを減
じるような調整、すなわちホワイトバランスの調整を行
うことができる。
【0020】さらに、請求項8にかかる発明は、上記ホ
ワイトバランス制御手段は、少なくとも2以上の輝度帯
域について上記分布比を平均化して色成分毎の補正量決
定に使用する構成としてある。すなわち、画像全体につ
いての色成分分布情報を参照せずに、所定の参照領域や
色成分の分布比が均等な領域や輝度成分が所定帯域内に
ある部位についての色成分分布情報を参照してホワイト
バランスを制御するに当たり、どのように色成分分布情
報を取得するのかを示す指針は様々なものを採用可能で
ある。その一例として、少なくとも2以上の輝度帯域に
ついて分布比を平均化すれば、輝度レンジ全体について
の色成分分布のずれを補償することができ、さらにこの
分布比を色成分毎の係数にするなどして補正量を決定す
れば、色成分分布のずれを補償しつつホワイトバランス
制御を行うことができる。
【0021】より具体的な例としては、画像機器の色域
のずれを補償することが挙げられる。すなわち、画像機
器の色域をLuv空間で考えたときには一般にL軸に対
して略軸対象であるが、高輝度部位と低輝度部位では逆
方向に色域が広がっている。従って、高輝度部位と低輝
度部位とでの色成分分布比を平均化すれば、輝度軸に沿
った色域のずれを補償することができる。また、分布比
の平均化は一回だけで済ませる必要はなく、多くの領域
について分布比を平均化し、最も好ましい平均値を採用
して色成分毎の補正量を決定する構成にすることも可能
である。
【0022】さらに、平均化する際の具体的な構成例と
して請求項9にかかる発明では、上記ホワイトバランス
制御手段は、輝度帯域をN分割したときに、帯域iの分
布比と帯域N+1−iの分布比とを平均化する構成とし
てある。すなわち、輝度帯域をN分割(Nは正の整数)
して輝度の階調値やレベルが小さい方から帯域番号i
(iは正の整数)を付与したときに、帯域iの分布比と
帯域N+1−iの分布比とを平均化すれば、輝度帯域の
両端の2帯域について平均化し、輝度帯域の両端からそ
れぞれ2番目の2帯域について平均化するようにして順
次帯域を平均化することができ、画像機器の色域につい
て色域が上記L軸に対して略逆側にずれた部位について
色成分分布比が平均化され、色域のずれを補償すること
ができる。
【0023】上述したように色成分分布比を色成分毎の
係数として画像全体の色成分の補正量を決定すれば、色
成分分布のずれを補償しつつホワイトバランス制御を行
うことができる。ホワイトバランスを制御するに当たり
好ましい色成分分布比を取得するために好適な構成の一
例として請求項10にかかる発明では、上記ホワイトバ
ランス制御手段は、上記分布比で1に近い値をホワイト
バランス補正のための係数として取得する構成としてあ
る。
【0024】すなわち、分布比はホワイトバランスを調
整するための係数となるが、上記分割された帯域を考え
るなどして複数の分布比を算出したときに、分布比が1
から非常に遠い値となっているものを上記係数としてし
まうと、任意の画像データの係数として乗ぜられたとき
に、非常に大きくカラーバランスを変化させてしまう。
従って、カラーフェリアを招く可能性が非常に大きい。
そこで、分布比が1に近いものを採用することとして係
数による補正量を抑えることにすれば、カラーフェリア
になることはほとんど無い。
【0025】また、分布比が1に近いものを選択するこ
とは、補正量が小さいものを選択することと等価である
が、補正量が小さいと言ってもホワイトバランスの調整
としては十分機能し、好ましい係数となることが多い。
具体的には、最も1に近いものを取得すれば最も好まし
い係数となることが多いが、むろん、最も1に近いこと
は必須ではなく、2番目に近いものであっても良いし、
所定のしきい値を超えない範囲で1に近いものを取得す
るなど種々の構成を採用可能である。さらに、上述のよ
うに平均化された分布比であっても1に近いものを取得
するのが好適である。
【0026】さらに、請求項11にかかる発明は、上記
ホワイトバランス制御手段は、上記画像を形成するドッ
トマトリクス状の画像データの各色成分に上記係数を乗
じることによってホワイトバランスを制御する構成とし
てある。すなわち、上述のように上記分布比はホワイト
バランスを調整するための係数となるので、画像がドッ
トマトリクス状の画像データで表現されているときに、
当該画像データの各色成分に上記係数を乗じると容易に
ホワイトバランスを制御することができる。また、非常
に高い確立でカラーフェリアの発生を防止可能である。
【0027】ところで、このようなホワイトバランス調
整装置は単独で存在する場合もあるし、ある機器に組み
込まれた状態で利用されることもあるなど、発明の思想
としてはこれに限らず、各種の態様を含むものである。
従って、ソフトウェアであったりハードウェアであった
りするなど、適宜、変更可能である。発明の思想の具現
化例としてホワイトバランス調整装置のソフトウェアと
なる場合に対応させ、請求項12〜請求項14にかかる
発明は上記ホワイトバランス調整装置をコンピュータで
実施させる各機能に対応した構成としてある。請求項4
〜請求項11に対応させたプログラムとしても有効であ
ることは言うまでもない。
【0028】むろん、そのソフトウェアの記録媒体は、
磁気記録媒体であってもよいし光磁気記録媒体であって
もよいし、今後開発されるいかなる記録媒体においても
全く同様に考えることができる。また、一次複製品、二
次複製品などの複製段階については全く問う余地無く同
等である。その他、上記媒体ではないが供給方法として
通信回線を利用して行なう場合でも本発明が利用されて
いることにはかわりない。さらに、一部がソフトウェア
であって、一部がハードウェアで実現されている場合に
おいても発明の思想において全く異なるものはなく、一
部を記録媒体上に記憶しておいて必要に応じて適宜読み
込まれるような形態のものとしてあってもよい。
【0029】また、このようなホワイトバランス調整プ
ログラムはかかる制御に従って処理を進めていく上でそ
の根底にはその手順に発明が存在するということは当然
であり、方法としても適用可能であることは容易に理解
できる。このため、請求項15〜請求項17にかかる発
明は、上記ホワイトバランス調整装置が実施するホワイ
トバランス調整方法に対応した構成としてある。すなわ
ち、必ずしも実体のある装置に限らず、その方法として
も有効であることに相違はない。むろん、上記請求項4
〜請求項11に対応させた方法としても有効である。さ
らに、本発明を具体的な装置に適用することも可能であ
り、請求項18のようにホワイトバランス調整を実行可
能な各手段を搭載したディジタルカメラとしても本発明
を実現可能である。
【0030】
【発明の効果】以上説明したように請求項1,請求項1
2,請求項15にかかる発明においては、単色部位に大
きな影響を受けることが無くカラーフェリアを防止可能
なホワイトバランス調整装置、ホワイトバランス調整プ
ログラムおよびホワイトバランス調整方法を提供するこ
とができる。また、請求項2,請求項13,請求項16
にかかる発明においては、特定色の存在に大きな影響を
受けることが無くカラーフェリアを防止することが可能
なホワイトバランス調整装置、ホワイトバランス調整プ
ログラムおよびホワイトバランス調整方法を提供するこ
とができる。
【0031】さらに、請求項3,請求項14,請求項1
7,請求項18にかかる発明においては、画像全体の大
きな特定色に大きな影響を受けることが無くカラーフェ
リアを防止することが可能なホワイトバランス調整装
置、ホワイトバランス調整プログラム,ホワイトバラン
ス調整方法およびディジタルカメラを提供することがで
きる。さらに、請求項4にかかる発明によれば、リソー
スを低減することができる。
【0032】さらに、請求項5にかかる発明によれば、
輝度成分を容易に帯域分割をすることができる。さら
に、請求項6にかかる発明によれば、画像の各色成分の
分布比を比較することにより、容易にホワイトバランス
を調整することができる。さらに、請求項7にかかる発
明によれば、ホワイトバランスの調整に直接的に使用可
能な色成分分布情報を取得することができる。さらに、
請求項8にかかる発明によれば、輝度レンジ全体につい
ての色成分分布のずれを補償しつつホワイトバランス調
整可能になる。
【0033】さらに、請求項9にかかる発明によれば、
容易に色域のずれを補償することができる。さらに、請
求項10にかかる発明によれば、カラーフェリアの発生
率を非常に低くしながらホワイトバランス調整可能にな
る。さらに、請求項11にかかる発明によれば、係数の
乗算により容易にホワイトバランスを制御可能になる。
【0034】
【発明の実施の形態】ここでは、下記の順序に従って本
発明の実施の形態について説明する。 (1)ディジタルスチルカメラの概略構成: (2)画像処理の概略: (3)ホワイトバランス測定及び制御のための構成: (4)ホワイトバランス測定及び制御処理: (4−1)輝度成分取得処理: (4−2)色成分分布情報取得処理: (4−3)ホワイトバランス制御処理: (4−3−1)光源種別に対応した補正:
【0035】(1)ディジタルスチルカメラの概略構
成:図1は、本発明のホワイトバランス制御が適用され
るディジタルスチルカメラの概略構成をブロック図によ
り示している。ディジタルスチルカメラ10は、光学部
20と、CPU32を核とする制御部30とから構成さ
れている。光学部20は、光学レンズ系21と、オート
フォーカス機構22と、測距部23と、オートフォーカ
スコントローラ24とを備え、オートフォーカスコント
ローラ24がコントローラ25からの制御信号に基づい
て測距部23にて被写体までの距離を測定しつつオート
フォーカス機構22にて光学レンズ系21を駆動してピ
ントを合わせる。光学レンズ系21にて被写体像を結像
するのは撮像素子としてのCCD26の撮像面であり、
本CCD26は1800×1200画素を有する単板で
構成されている。単板で構成しているため、2×2画素
について、グリーン(G)、マゼンタ(M)、イエロー
(Y)、シアン(C)のカラーフィルタを順次形成して
ある。なお、シャッターについては電子シャッターとと
もにメカニカルシャッターを備えているが、メカニカル
シャッターについては図示を省略している。
【0036】この他、光学部20にはストロボ27も備
えられており、コントローラ25からの駆動信号に応じ
て所定光量および所定回数の発光を行う。これにより、
赤目防止であるとかスローシンクといった撮影を実現し
ている。なお、CCD26が出力するアナログ量の電気
信号を増幅するオートゲインコントローラ(AGC)2
8が備えられ、増幅後のアナログ電気信号をディジタル
値に変換して出力するA/Dコンバータ29が備えられ
ている。むろん、以上の光学部20については、ディジ
タルスチルカメラ10としての一般的な構成の一例に過
ぎず、各種の変更が可能であることはいうまでもない。
例えば、光学レンズ系21にはズームレンズを備えるこ
ともできるし、あるいは固定焦点としてオートフォーカ
スの機能を備えない廉価なものであっても良い。
【0037】また、制御部30はバス31を備えてお
り、当該バス31にCPU32とROM33とRAM3
4と上記A/Dコンバータ29が接続されている。CP
U32はROM33に書き込まれたファームウェアを実
行して光学部20の制御や画像処理の演算等を実行する
ものであり、その際にRAM34は画像データを保存す
る画像エリア34aとして機能したり演算処理のための
ワークエリア34bとして機能したりする。CPU32
が光学部20を制御する際には、コントローラ25に対
して制御信号を出力し、同コントローラ25が各構成回
路などに対する適宜制御信号を生成して出力する。
【0038】制御部30はマンマシンインターフェイス
としての機能も有しており、操作ボタンなどを配置した
操作パネル35と、撮影画像や操作指示などを表示する
LCDパネル36を備えており、CPU32は操作パネ
ル35の操作を監視し、適宜、操作を受けつつ対応する
制御を実行する。また、LCDパネル36への表示はR
AM34に割り当てられたビデオRAMエリア34cに
対してCPU32が所定のデータを書き込むことによ
り、LCDパネル36に備えられたディスプレイコント
ローラが適宜同データを読み込んで表示を行う。そし
て、撮影され、所定の画像処理を経て生成される画像デ
ータはI/O37aを介して外部メモリであるフラッシ
ュメモリカード37bに書き込まれ、また、必要に応じ
て同フラッシュメモリカード37bから読み出される。
【0039】制御部30の構成もこの種のディジタルス
チルカメラ10の典型例であって、各種の変更が可能で
ある。例えば、外部メモリの種類については適宜他の種
類のものに置き換えることは容易であるし、さらには着
脱可能なメモリとのインターフェイスを備えなくてもU
SBインターフェイスを介してコンピュータに画像デー
タを出力するようにしてもよい。表示部としてのLCD
パネル36に付随して他のLCD表示器を備えてもよい
し、CPU32については制御対象が異なる複数のCP
Uを備えても良い。
【0040】光学部20で撮像された画像はCCD26
からアナログ電気信号として出力された後、AGC28
を経てA/Dコンバータ29にてディジタルデータに変
換され、さらにバス31を介してRAM34の画像エリ
ア34aに記録される。そして、CPU32が所定の画
像処理を実行することによりJPEG画像データに変換
されて上述したフラッシュメモリカード37bに書き込
まれることになる。
【0041】(2)画像処理の概略:図2は、この画像
処理の主要な流れを示している。細部においては後述す
るような具体的な処理が実行されるものの、概略的には
この流れに従って処理を進めている。まず、この概略に
ついて説明する。ステップS102では、欠陥画素補間
を実行する。およそ200万画素を有するCCD26に
は欠陥画素は避けられず、所定の基準値以下のものであ
れば良品として供給される。このため、良品の範囲内で
の欠陥画素については同色画素だけを基準とした5×5
画素のメヂアンフィルタを使用して補う。すなわち、欠
陥画素がシアンの画素であるとすると、この欠陥画素の
周囲に位置する5×5のシアン画素の出力値を順番に並
べ、中央値を欠陥画素の値とする。なお、欠陥画素自体
は光学部20において既に検出されている。
【0042】次のステップS104ではホワイトバラン
スの測定を行う。撮影時の光源の種類、およびCCD2
6とカラーフィルタとの組合せによっては、ホワイトバ
ランスがずれることがあり、本実施形態においては、各
撮影ごとにステップS104にてホワイトバランスを測
定し、その結果を反映させてずれを少なくするようにス
テップS110にてホワイトバランスの制御をする。ホ
ワイトバランスを測定するときには間引き処理で選択し
た113×75画素の画像データを利用し、RGB表色
系においてG成分を基準としたR成分の偏りとB成分の
偏りを測定する。なお、本CCD26は補色系のカラー
フィルタを備えており、補色系であることを踏まえて制
御をしている。
【0043】本実施形態では三種類の画像を生成する。
一つ目は確認画像であり、二つ目はサムネール画像であ
り、三つ目は主画像である。確認画像は撮影後速やかに
LCDパネル36に表示するための画像であり、720
×240画素の画像データで構成される。サムネール画
像は主画像とともに画像データとして記録されるもので
あり160×120画素の画像データで構成される。主
画像は操作者の選択によって三つのサイズを選択可能で
あり、E−mail画像という720×480画素か、
Print画像という1800×1200画素か、Hy
pict2という高解像度化した2160×1440画
素かのいずれかである。
【0044】図2において、ステップS106〜ステッ
プS114は破線で囲む表示をしてあり、すくなくとも
これらの処理は生成される三種類の画像ごとに実施され
る。ステップS106ではデータ補間を実施する。CC
D26は単板で構成され、200万画素を有しているも
のの全画素のそれぞれで色情報が完結しているわけでは
ない。すなわち、ある画素についてはシアンの情報だ
け、ある画素についてはマゼンタの情報だけ、ある画素
についてはイエローの情報だけ、ある画素についてはグ
リーンの情報だけとなっている。このデータをモザイク
データと呼ぶ。データ補間では各画素に対して不足する
他の色の情報を補うことにより、各画素ごとに色情報を
完結させるための処理である。不足する情報は注目画素
に隣接して取り囲む8画素に含まれる色情報の平均値で
ある。例えば、シアン画素(C1)の周囲にはイエロー
の画素が二個(Y1,Y2)、マゼンタの画素が二個
(M1,M2)、グリーンの画素が四個(G1〜G4)
存在する。
【0045】従って、このシアン画素の色情報(C,
M,Y,G)については、 C=C1 M=(M1+M2)/2 Y=(Y1+Y2)/2 G=(G1+G2+G3+G4)/4 として計算する。
【0046】ステップS108では、表色系を変えてR
GB画像データに変換する。変換のための一般式も存在
するが、実際には単純な一般式を利用するのではなく、
チューニングを施したルックアップテーブルを利用した
り行列式を利用したりして変換を行う。RGB画像デー
タに変換後、ステップS110では、上述したようにR
GB表色系におけるR成分の偏りとB成分の偏りを少な
くする制御を実行する。次のステップS112ではトー
ンカーブ補正を行う。トーンカーブ補正はいわゆるγ補
正とも呼ばれ、このときに各成分について10ビットの
画像データを8ビットの画像データに変換しつつ、さら
に白色側領域と黒色側領域でのノイズの低減や階調性の
保持のためにγカーブ自体についての調整も行ってい
る。トーンカーブ補正自体はルックアップテーブルを利
用しており、予めチューニングして作成した10ビット
→8ビットのルックアップテーブルを参照して変換す
る。
【0047】この後、JPEG画像圧縮技術を利用する
ため、RGB表色系からYUV表色系へと色変換する。
なお、輝度とイエローを区別するため、以後において輝
度はYmと表示し、また、後述するようにモザイクカラ
ーデータから直接導き出す輝度を単純輝度Ysとして表
示することにする。RGB表色系からYUV表色系への
色変換は一般式あるいは行列式を利用して変換する。な
お、モザイクカラーデータからYUV表色系への変換の
一般式は、 Ys=0.25×(C+M+Y+G) U=C+M−(Y+G) V=−C+M+Y−G となっているが、実際には上述したようなチューニング
やホワイトバランスの制御が実施され、この通りの対応
関係を採用しているわけではない。
【0048】ステップS116とステップS118は主
画像の作成の際にのみ実施される処理である。ノイズ除
去は色成分としてUV成分についてのみいわゆるローパ
スフィルタを適用する演算を行なう。すなわち、色変化
が急峻すぎるものについては押さえ気味に作用する。ま
た、エッジ強調は輝度成分についてのみ当該輝度成分に
基づくエッジ量から非線形関数値(例えばコアリング関
数値)を算出し、同非線形関数値を元の輝度成分に加重
して演算している。従って、隣接する画素間で輝度値が
変化する場合にそのエッジ量を算出し、当該エッジ量の
絶対値が大きければその変化量を大きく輝度値に反映さ
せるし、同絶対値が小さければ元輝度値はほぼ元のまま
の値となる。
【0049】以上が画像処理の概略であるが、上記手順
は実際の演算処理において複数の処理を同時に行うなど
することにより、演算処理時間の短縮を図ることも行な
う。撮影は上述した三種類の画像ごとに上述した画像処
理を実行し、最終的にはサムネール画像を含んだ主画像
のJPEG圧縮画像をフラッシュメモリカード37bに
書き込むことによって完了する。この他にも、本ディジ
タルスチルカメラではフラッシュメモリカード37bか
ら画像データを読み込んでLCDパネル36に表示した
り、データの削除や各種の設定を実行可能であるが、こ
れについては一般的な技術を適用可能であるので説明を
省略する。
【0050】(3)ホワイトバランス測定及び制御のた
めの構成:以下、上記画像処理のステップS104にお
けるホワイトバランスの測定と当該測定結果を反映した
ホワイトバランス制御について詳細に説明する。図3
は、上記図1に示す構成にて実現されるホワイトバラン
スの測定系及び制御系を示すブロック図である。同図に
おける輝度成分取得モジュール33aと色成分分布情報
取得モジュール33bとホワイトバランス制御モジュー
ル33cとはROM33に予め記録されたプログラムモ
ジュールを上記CPU32が適宜読み出すことにより実
行される。また、各モジュールは上記RAM34の画像
エリア34aおよびワークエリア34bに記録されたデ
ータを適宜使用し、必要に応じて中間データを書き込ん
でホワイトバランスを制御するためのマトリクスを決定
する。ホワイトバランスの制御は画像データにこのマト
リクスを乗じることによって実現される。
【0051】輝度成分取得モジュール33aは、画像エ
リア34aに記録されたCCDのRawデータを取得し
て輝度成分を取得する。ここで、輝度成分取得モジュー
ル33aは、演算量を低下させるための間引き処理やG
MYCのRawデータをRGBYsデータに変換する処
理、ヒストグラム処理と同ヒストグラムの帯域分割処理
を行っており、それぞれの処理にて生成され、適宜使用
される間引き済データ34b1,RGBYsデータ34
b2,ヒストグラムデータ34b3,帯域データ34b
4は上記RAM34のワークエリア34bに記録され
る。それぞれの処理は後に詳述する。尚、原色系のフィ
ルタを搭載したディジタルスチルカメラであればGMY
CデータからRGBデータへの変換は不要であるが、C
CDのRGBデータをsRGBデータの特性に近似させ
るような補正処理が必要である。
【0052】色成分分布情報取得モジュール33bは、
上記分割された帯域であってホワイトバランスを調整す
るための指標として好適な帯域内の色成分分布情報とし
てRGB色成分の積分データ34b5とその比である分
布比データ34b6を取得する。ホワイトバランス制御
モジュール33cは得られた分布比データ34b6か
ら、ホワイトバランス調整に使用するための係数であっ
てG成分に対してR成分を相対的に補正するための補正
係数R’,およびG成分に対してB成分を相対的に補
正するための補正係数B’(34b7)を求める。そ
して、この補正係数を生理的三原色による表色空間での
係数に変換するとともに当該表色空間内で補正を施して
補正係数R,Bを算出し、当該補正係数に基づいて
最終的なホワイトバランス制御マトリクス34b9を算
出する。
【0053】尚、上記ROM33にはEstevez−
Hunt−Pointerの式などの順応変換式に基づ
いて、sRGB座標系のRGB色成分を生理的三原色の
RGB色成分に変換する変換マトリクスA(33d1)
と当該変換の逆変換を実施する逆変換マトリクスA−1
(33d2)が記録されており、上記ホワイトバランス
制御モジュール33cにて使用される。以上のようにし
て作成された上記ホワイトバランス制御マトリクス34
b9と上記画像エリア34a内のCCDRawデータを
RGB色成分に変換したものとを乗じると、当該画像の
ホワイトバランスを制御することができる。
【0054】本実施形態においては、ホワイトバランス
の補正係数を2段階で求めている。すなわち、第1段階
として一旦補正係数R’,B’を求めた後、さらに
第2段階として補正係数R,Bを求めている。この
ようにして補正係数を2段階で求めていることによっ
て、画像内の大きな単色部位に影響を受けてホワイトバ
ランス制御が失敗したり、特定の光源であるときにホワ
イトバランス制御が失敗するような、カラーフェリア等
を防止することができるが、上記段階のそれぞれは単独
で実施されてもホワイトバランス制御として機能する
し、別手法のホワイトバランス制御に対してそれぞれの
段階を付加してホワイトバランスを制御する構成として
も良い。例えば、第1段階で算出された補正係数
R’,B’を使用してホワイトバランス制御マトリ
クス34b8を算出するような構成であってもホワイト
バランス調整装置として機能する。
【0055】(4)ホワイトバランス測定及び制御処
理:以下、上記構成においてホワイトバランスの測定及
び制御のために実施される処理を詳細に説明する。図
4,図5はホワイトバランス測定及び制御を示すフロー
チャートである。図4は上記第1段階に該当し、図5は
第2段階及び最終的なホワイトバランス制御マトリクス
34b9を算出する段階に相当する。また、図4のステ
ップS200〜S220が上記輝度成分取得モジュール
33aの処理に該当し、図4のステップS225〜S2
50が上記色成分分布情報取得モジュール33bの処理
に該当し、図4,図5のステップS250〜ステップS
275およびステップS110が上記ホワイトバランス
制御モジュール33cの処理に該当する。ここでは、各
モジュール毎の処理に分けつつ一連の処理を説明する。
【0056】(4−1)輝度成分取得処理:輝度成分取
得モジュール33aがステップS200にて上記画像エ
リア34a内のCCDRawデータを取得すると、ステ
ップS205においては当該CCDRawデータに対し
て間引き処理を実施する。すなわち、CCDRawデー
タは上述のように1800×1200画素を有するデー
タであり、全画素について以後の処理を実行すると非常
に時間がかかり、また、RAM34に必要とされる空き
記憶容量も非常に大きなものとなることから、以下のよ
うにして画素を間引いている。
【0057】図6は、この間引き処理を説明するための
説明図である。同図右側の四角はCCDRawデータの
模式図であり、1800×1200画素のGMYCモザ
イクデータである。本実施形態においては、このモザイ
クデータの1/16の大きさの画像データを使用するこ
とにしており、まず、図におけるモザイクデータ左上の
16×16画素群(Gr1)を取得する。画素群Gr1
内にはGMYCの各色成分データが64個ずつ含まれて
おり、各色成分毎に64個のデータの階調値平均を取
る。そして、これらの平均を一画素分の色成分データ|
G|,|M|,|Y|,|C|とする。
【0058】以降は同様にして逐次上記CCDRawデ
ータから16×16画素の画素群を取得して平均化する
処理を行う。この結果、上記CCDRawデータは1/
16の大きさすなわち113×75画素の階調値データ
となる。この階調値データは間引き済データ34b1と
して上記ワークエリア34bに記憶される。むろん、こ
の間引き処理においてその圧縮率1/16は必須の値で
はなく、上記RAM34や処理負担等に応じて適宜変更
することが可能である。また、上述のように平均化する
とCCDRawデータの総ての情報を加味することがで
きて好適であるものの、CCDRawデータの縦横16
画素につき各色1画素残すように間引くなど、他にも種
々の手法を採用可能である。
【0059】本実施形態においては、RGB空間でホワ
イトバランスの調整を考えており、上記ステップS20
5にて間引き処理を行った後の間引き済データ34b1
はステップS210にてRGB成分および単純輝度Ys
に変換される。GMYC成分からRGB成分への変換
は、上記ステップS108における変換式と同様の変換
式を使用しており、この変換式では上述のようにチュー
ニングが施されていることにより、高精度に色変換を行
うことができる。図7は、ステップS210における変
換後の画素データ(RGBYsデータ34b2)を示し
ている。変換後の画素データは、同図に示すように11
3×75画素であるとともに各画素についてRGBYs
の4成分の階調値データから構成されている。
【0060】輝度成分取得モジュール33aはこの時点
で画素の輝度成分を取得しているが、本実施形態では後
の処理のため、ステップS215において各画素の単純
輝度Ysを各階調値についてヒストグラム化してヒスト
グラムデータ34b3を生成する。図8は、このヒスト
グラムの一例を示すグラフである。同図においては、階
調値ピッチが細かいため連続的な曲線として示している
が、実際のヒストグラムは離散的な値である。尚、以下
のヒストグラムのグラフでも同様に曲線として示してい
るが実際は離散的な値である。
【0061】ステップS215にてヒストグラムを作成
すると、ステップS220にて当該ヒストグラムを10
個の輝度帯域に分割する。図9は、同ステップS220
における帯域分割の様子を説明する説明図である。同図
上部の表は帯域を決定していく作業を示しており、下部
のグラフは帯域が分割されたヒストグラムを示してい
る。帯域を分割する際には、上部の表に示すように単純
輝度Ysの階調値が「0」のものからヒストグラムを積
算し、積算値が847(約113×75/10)を超え
た段階で次の帯域に移って積算を繰り返す。
【0062】このような積算を10個の帯域について繰
り返すと、各帯域に属する画素数がほぼ等しくなる。す
なわち、図9のグラフに示す各帯域の面積はほぼ等し
い。帯域分割された後のデータは、いずれの画素がいず
れの帯域に属するか判別可能な帯域データ34b4とし
て上記ワークエリア34bに記憶される。ここで、ヒス
トグラムは離散的な値であるため、各帯域に属する画素
数が厳密に等しくなるとは限らないが、後述の色成分分
布情報取得モジュール33bによって分布比の算出プロ
セスが存在するので画素数の厳密性は問題とならない。
積算値が上記847を超えた段階で、その階調値の画素
については一方の帯域のみに含まれるとしても良いし双
方に含まれるとしても良い。また、この帯域分割におい
ては、後にホワイトバランス調整のために使用して好適
な輝度帯域を特定することができればよく、分割数が1
0個であることが必須ではないし、分割の手法は上述の
ものに限られない。
【0063】(4−2)色成分分布情報取得処理:色成
分分布情報取得モジュール33bは、上記帯域データ3
4b4に基づいてホワイトバランス制御に好ましい帯域
から色分布情報を取得する。このために、まずステップ
S225にて上記分割された帯域毎に同一帯域内に属す
る画素のRGB成分をそれぞれ積分し、RGB積分デー
タ34b5として上記ワークエリア34bに記憶する。
ステップS230では、分布比として各帯域毎に「G成
分の積分値/R成分の積分値」と「G成分の積分値/B
成分の積分値」とを求め、分布比データ34b6として
上記ワークエリア34bに記憶する。図10は積分値と
分布比とを算出する様子を説明する説明図である。上記
帯域データ34b4ではいずれの画素がいずれの帯域に
属するか判別可能であるため、同図に示すように各帯域
に属する画素のRGB成分を容易に知ることができる。
【0064】このRGB成分値から、積分値は以下の式
(1)にて算出し、
【数1】 分布比は以下の式(2)にて算出する。
【数2】 ここで、Rij,Gij,Bijは各色成分毎の階調値
であり、「i」は帯域の番号に該当し「j」は画素を区
別するための便宜的な番号である。また、Iri,Ig
i,Ibiは各帯域毎、各成分毎の積分値であり、Ri
cとBicは各帯域毎の分布比である。
【0065】ここで、上記積分値は色成分の階調値の積
算値であることから、各帯域毎にどれほどの値の階調値
がどれほど分布しているかを反映した値となっている。
また、この積分値を使用して分布比を算出することは帯
域毎の色成分毎の平均階調値を使用して分布比を算出す
ることと等価である。帯域毎の色成分毎の平均階調値
は、帯域内に属する画素の所定色成分の階調値を足し合
わせ、画素数で除したものであり、色成分毎の画素数は
各帯域で同数であるところ、分布比にした場合には分母
と分子で画素数が相殺されて結局分布比に寄与するのは
階調値を足し合わせた成分のみとなるからである。
【0066】この分布比Ricは「帯域毎のG成分の平
均値/帯域毎のR成分の平均値」,分布比Bicは「帯
域毎のG成分の平均値/帯域毎のB成分の平均値」であ
り、この分布比はホワイトバランスを調整する性質を持
った係数となる。すなわち、ある画素のRGB色成分そ
れぞれがその画素の属する帯域の各色成分の平均階調値
と等しい場合、分布比RicとR成分の階調値とを乗じ
ると分母が相殺してG成分の平均値と等しくなり、分布
比BicとB成分の階調値とを乗じても分母が相殺して
G成分の平均値と等しくなる。従って、当該画素の全色
成分が等しくなり無彩色になる。
【0067】このように、分布比Ricと分布比Bic
とはそれぞれ画素のR成分とB成分とに作用し、その帯
域のG成分の平均値を基準としつつ当該基準に近づける
ようにR成分とB成分とを相対的に変化させるので、ホ
ワイトバランスを調整するための係数であると言える。
従って、上記ステップS230まででは、帯域毎のホワ
イトバランス補正係数を算出したと言える。本発明にお
いては、所定帯域の分布比を参照して画像全体のホワイ
トバランスを調整するとともに、画像内容や光源等の差
異にかかわらずより好ましい結果を得るための補正を加
えている。
【0068】ステップS230にて分布比データを取得
すると、上記色成分分布情報取得モジュール33bはス
テップS235にて以下の式(3)に従って分布比の組
みの平均値R’nc,B’ncを算出する。
【数3】 ここで、nは帯域の組番号であり「1〜5」の整数であ
る。
【0069】図11は、組みの平均値R’ncについて
2つの帯域を組みにする様子を説明する説明図である。
同図に示す上部のグラフは上述のようにして10個の帯
域に分割されたヒストグラムを示している。上記式
(3)においては、n番目の帯域と(11−n)番目の
帯域についての平均を算出していることから、同図に示
すように両端の帯域(1番目と10番目)が組みとな
り、両端から2番目の帯域(2番目と9番目)が組みと
なるようにして順次組み合わせられる。B’ncについ
ての組み合わせの考え方も同様である。
【0070】図12は、分布比を組みにして平均化する
際の考え方を説明する説明図であり、同図はYUV色空
間のU−Y平面に写像されたRGB色空間の色域を示
す。同図において、RGB色空間の色域は、高輝度領域
で負のU方向に偏り、低輝度領域で正のU方向に偏って
いる。V−Y平面に写像した場合も同様で、高輝度領域
で負のV方向に偏り、低輝度領域で正のV方向に偏るこ
ととなる。すなわち、高輝度領域と低輝度領域とで逆の
性質を有しており、この性質を上記分布比で考えると高
輝度領域と低輝度領域とで大きな差が発生することとな
るが、両者を平均すればその差を相殺することができ、
色域形状に起因する分布比の偏りを除去した当該分布比
を評価することができる。尚、この偏りを除去するよう
に分布比を平均化する考え方は、RGB色空間とYUV
色空間との関係から発生したものであり、多くの画像機
器についてのホワイトバランス調整にて採用することが
できる。
【0071】ステップ235にて分布比の組みの平均値
が算出されると、ステップS240にてR’nc
「1」より小さいか否かを判別し、同ステップS240
にてR’ ncが「1」より小さいと判別されたときには
ステップS245にてR’ncに対して当該R’nc
逆数を代入する。このステップS240,ステップS2
45の判別処理は、ステップS240での判別結果にか
かわらず、組み番号1〜5の総てについて、また、B’
ncについても同様に独立に実行される。ここでの処理
はR’ncとB’ncとの総てについて、「1」より小
さければ「1」より大きな数に変換する処理をしている
ものであり、次の評価関数eによる判別のための変換
であるとともに、評価関数による判別後は元の値に戻さ
れる。
【0072】(4−3)ホワイトバランス制御処理:ス
テップS250では、評価関数eに対して、各組の
R’ncとB’ncとを代入し、上記ホワイトバランス
制御モジュール33cは当該評価関数eが最小となる
組み番号nのR’ncとB’ncとの値を第1段階のホ
ワイトバランス補正係数R’およびB’として決定
する。この第1段階のホワイトバランス補正係数も上述
の分布比と同様の性質を有しており、上記図3に示すホ
ワイトバランス制御マトリクス34b8の所定成分とな
り得る係数である。すなわち、画像内の任意の画素のR
GB成分を成分とする行列にホワイトバランス制御マト
リクス34b8を乗じると、その画像のホワイトバラン
スを制御することができる。
【0073】ここで、評価関数が最小のものを選択する
処理は、R’ncとB’ncとのそれぞれと「1」との
差が最小のものを選択している処理であり、補正量が最
も小さいものを選択していることになる。すなわち、ホ
ワイトバランス調整においてはカラーフェリアを防止す
ることが重要であり、補正量の大きなものをホワイトバ
ランス補正係数としてしまうと大きな補正によってカラ
ーフェリアが発生することが多いが、補正量が小さいも
のを選択しておけば、カラーフェリアの発生確率を非常
に小さくすることができる。また、補正量が小さいもの
を選択しているとともに、他の領域と比較して色成分分
布の偏りが少ない領域を選択していると言うこともでき
る。この場合、上記輝度成分取得モジュール33aが上
記画像分割手段に該当するし、色成分分布情報取得モジ
ュール33bにて評価関数が最小となるものを選択する
処理が上記色成分分布の偏りが少ない領域を選択するこ
とに該当する。さらに、評価関数が最小となるものを選
択する処理は、G成分に対してR成分およびB成分が他
の領域と比較して比較的均等に分布している領域を選択
している処理であると言うこともできる。
【0074】本出願人は、上述の処理によって決定され
たホワイトバランス補正係数が非常に効果的にホワイト
バランス調整可能であることを確認しているが、ここで
は、カラーフェリアを防止することができればよく、評
価関数が2番目に「1」に近いものを選択する構成にす
るなど適宜変更可能である。このとき、例えば、所定の
値域内であれば2番目,3番目に「1」に近いものを選
択するようにするなどの工夫を施せばカラーフェリアを
防止可能である。また、本発明においては、画像の一部
の輝度帯域に属するデータに基づいてホワイトバランス
補正係数を算出しており、上述のように補正量の小さい
ものを選択しているため、上述の従来例のように画像全
体のRGB積分値を反映させるホワイトバランス調整と
比較して、非常にカラーフェリアが発生しにくい。
【0075】(4−3−1)光源種別に対応した補正:
上述のように第1段階のホワイトバランス補正係数でホ
ワイトバランス制御を行うことも可能であるが、本実施
形態においてはより見た目に近づけるために、さらに図
5のステップS255以降の処理を実行している。ステ
ップS255では、G成分の階調値「128」(中央
値)を基準としたホワイトバランス補正係数となるよう
に以下の式にて上記第1段階のホワイトバランス補正係
数R’およびB’を変換する。 R=128/R’,G=128,B=128/B’
【0076】ステップS260では、当該変換後の係数
RGBを以下の式(4)に従ってEstevez−Hu
nt−Pointerの式にて生理的三原色の空間R’
G’B’に変換する。
【数4】
【0077】ここで、マトリクスAは上記ROM33に
記憶されたマトリクスであり、sRGB座標を生理的三
原色のRGB座標に変換する。また、マトリクスAはマ
トリクスBとマトリクスCとを乗じて生成されたもので
あり、それぞれのマトリクスは上述した値であるととも
にマトリクスBはsRGB座標をXYZ座標に変換する
変換マトリクスであり、マトリクスCはXYZ座標を生
理的三原色のRGB座標に変換するマトリクスである。
尚、上記式において斜体の文字はマトリクスを示してい
る。ステップS260にて生理的三原色の空間データ
R’G’B’が得られると、ステップS265にて以下
の式に従って最終的なホワイトバランス補正係数Rc,
Bcを決定する。 Rc=G’/R’,Bc=G’/B’
【0078】これらステップS255〜S265の処理
は、sRGB座標を一旦生理的三原色のR’G’B’座
標に変換し、当該変換後の空間でホワイトバランス補正
係数を補正(ステップS265)していることに該当す
る。この処理によって人間の見た目に応じた良好なホワ
イトバランスに近づけることができ、光源種に依存しな
いホワイトバランス制御を実施することができる。図1
3,図14は生理的三原色に変換してホワイトバランス
補正係数を補正する様子を説明する説明図である。
【0079】図13はsRGBの理想光源(CIE標準
の光源D65)の分光分布を示す図であり、図14は生
理的三原色についての分光分布を示す図である。図にお
いて横軸は波長(nm)であり、縦軸は分光分布の相対
値である。尚、図13,図14において450nm付近
にピークがあるカーブはB成分、540nm付近にピー
クがあるカーブはG成分の分光分布であり、図13の6
10nm付近,図14の580nm付近にピークがある
カーブはR成分の分光分布である。上記ホワイトバラン
ス補正係数はR成分とB成分とに対してそれぞれ乗ぜら
れるので、ホワイトバランス補正係数による調整は、上
記図13,14における分光分布に対してはB成分とR
成分のカーブを拡大したり縮小したりするように作用す
る。
【0080】図14に示す分光分布は生理的三原色につ
いての分布であることから、人間の色の感じ方はこの分
布に非常に近く、この分布となるRGB空間でホワイト
バランス補正係数の補正を行うと、人間の色の感じ方に
非常に近い形でホワイトバランスを制御することができ
る。具体的には、図13に示す分光分布においてはR成
分のピーク波長およびピーク強度が図14に示す分光分
布のR成分のピーク波長およびピーク強度より大きい。
従って、上記ステップS260における変換を実施せず
にホワイトバランスの調整をしようとすると、R成分に
対する補正が相対的に大きくなり、R成分を強調しすぎ
たり、弱めすぎたりしてしまう。そこで、上記ステップ
S260における変換を実施した後にホワイトバランス
補正係数を補正することにより、より見た目に近い赤と
なるようにホワイトバランスを調整可能である。むろ
ん、青に関しても同様で見た目に近い青となる。従っ
て、白熱灯かでの撮影画像等であっても適切なホワイト
バランスとなるよう調整されるようにホワイトバランス
補正係数を決定可能である。
【0081】ステップS265にて最終的なホワイトバ
ランス補正係数Rc,Bcを決定したら、ステップS2
70において当該ホワイトバランス補正係数Rc,Bc
を1行1列目および3行3列目の成分とし、2行2列目
の成分を「1」とし、他の成分を「0」としたマトリク
スの左から上記逆変換マトリクスA−1を乗じ、右から
上記マトリクスAを乗じてホワイトバランス制御マトリ
クスW(34b9)を生成し、ステップS275にて当
該ホワイトバランス制御マトリクスWを上記RAM34
のワークエリア34bに保存する。
【0082】尚、逆変換マトリクスA−1は以下の式
(5)にて表現される。
【数5】 上記式においても斜体の文字はマトリクスを示してい
る。
【0083】このホワイトバランス制御マトリクスWの
算出/保存までがホワイトバランスの測定に該当し、デ
ィジタルスチルカメラ10の処理としてはこの後図2に
示すフローチャートに戻ってステップS106以降の処
理を実行する。そして、ステップS110においてCC
DRawデータをsRGBデータに変換した画像データ
に対してホワイトバランス制御マトリクスWを乗じるこ
とによって個々の撮像画像のホワイトバランスを制御す
る。
【0084】すなわち、ホワイトバランス制御マトリク
スWは、sRGB座標で表現されたカラー画像データの
画像についてホワイトバランスを調整するように作用す
るマトリクスであり、入力および出力データはsRGB
データである。上記ホワイトバランス補正係数はsRG
Bに対する補正係数ではないため、上記マトリクスA等
による空間の変換を行って入出力データがsRGBデー
タになるようにしてある。図15は、かかるホワイトバ
ランス制御マトリクスWによる演算を説明するための説
明図であり、上部のマトリクス演算式において右辺のR
GBは入力sRGBデータであり、左辺のR’’G’’
B’’は出力sRGBデータである。また、本実施形態
の実際の処理においてホワイトバランス制御マトリクス
Wは3個の3×3の行列を予め計算して得られる1個の
3×3の行列であるが、ここでは便宜上3個のマトリク
スに分けて説明する。
【0085】図15においてマトリクス演算式の下方に
は3個のマトリクスによる各演算段階を示している。上
述のように入力データはsRGBデータである。マト
リクスAはsRGB座標系のRGB色成分を生理的三原
色のRGB色成分に変換するマトリクスであるので、当
該入力データにマトリクスAを乗じると、に示すよ
うに生理的三原色のRGB色成分に変換される。この変
換結果に対して上記ホワイトバランス補正係数Rc,B
cを成分として含むマトリクスを乗じると、に示すよ
うに生理的三原色のRGB色成分にてホワイトバランス
が調整される。この調整後のRGBデータに逆変換マト
リクスA−1を乗じると、に示したようにホワイトバ
ランス調整後の画像データがsRGBデータに変換され
る。従って、ディジタルスチルカメラの画像処理過程に
おいてsRGBデータに1個の3×3の行列であるホワ
イトバランス制御マトリクスWを乗じるとホワイトバラ
ンスが調整される。
【0086】以上説明したように、本発明においては画
像の輝度成分を取得して帯域分割し、所定の帯域内にあ
る画像の色成分分布情報に基づいてホワイトバランスを
調整するためのホワイトバランス補正係数を算出する。
従って、画像内の特定色や特定色に偏った光源に影響さ
れることなくホワイトバランス調整を実施可能となる。
【図面の簡単な説明】
【図1】ディジタルスチルカメラの概略構成を示すブロ
ック図である。
【図2】画像処理の主要な流れを示すフローチャートで
ある。
【図3】ホワイトバランスの測定系及び制御系を示すブ
ロック図である。
【図4】ホワイトバランス測定及び制御を示すフローチ
ャートである。
【図5】ホワイトバランス測定及び制御を示すフローチ
ャートである。
【図6】間引き処理を説明するための説明図である。
【図7】RGBYs変換後の画素データを示す図であ
る。
【図8】ヒストグラムの一例を示すグラフである。
【図9】帯域分割の様子を説明する説明図である。
【図10】積分値と分布比とを算出する様子を説明する
説明図である。
【図11】2つの帯域を組みにする様子を説明する説明
図である。
【図12】分布比を組みにして平均化する際の考え方を
説明する説明図である。
【図13】sRGBの理想光源の分光分布を示す図であ
る。
【図14】生理的三原色についての分光分布を示す図で
ある。
【図15】ホワイトバランス制御マトリクスによる演算
を説明するための説明図である。
【符号の説明】
10…ディジタルスチルカメラ 20…光学部 21…光学レンズ系 22…オートフォーカス機構 23…測距部 24…オートフォーカスコントローラ 25…コントローラ 26…CCD 27…ストロボ 28…オートゲインコントローラ(AGC) 29…A/Dコンバータ 30…制御部 31…バス 32…CPU 33…ROM 33a…輝度成分取得モジュール 33b…色成分分布情報取得モジュール 33c…ホワイトバランス制御モジュール 33d1…変換マトリクスA 33d2…逆変換マトリクスA−1 34…RAM 34a…画像エリア 34b…ワークエリア 34b1…間引き済データ 34b2…RGBYsデータ 34b3…ヒストグラムデータ 34b4…帯域データ 34b5…RGB積分データ 34b6…分布比データ 34b7…補正係数R’,B’ 34b8…ホワイトバランス制御マトリクス 34b9…ホワイトバランス制御マトリクス 34c…ビデオRAMエリア 35…操作パネル 36…LCDパネル 37a…I/O
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5C065 AA03 BB02 CC01 DD01 GG21 GG22 GG23 GG32 5C066 AA01 CA05 CA13 CA17 EA14 EA15 GA01 GA05 GB01 JA01 JA02 KD06

Claims (18)

    【特許請求の範囲】
  1. 【請求項1】 画像を複数部位から構成される複数の参
    照領域に分割する画像分割手段と、 同画像分割手段によって分割された参照領域であって他
    の参照領域と比較して領域内の色成分分布の偏りが少な
    い所定領域についての色成分分布情報を取得する色成分
    分布情報取得手段と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御手段とを具備することを特徴とするホワイトバラ
    ンス調整装置。
  2. 【請求項2】 画像が第1色成分〜第3色成分で表現さ
    れるときに、基準となる第1色成分に対して他の第2色
    成分および第3色成分が画像内の他の領域と比較して比
    較的均等に分布している領域の色成分分布情報を取得す
    る色成分分布情報取得手段と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御手段とを具備することを特徴とするホワイトバラ
    ンス調整装置。
  3. 【請求項3】 画像の輝度成分を取得する輝度成分取得
    手段と、 上記画像において当該輝度成分が所定の帯域内にある部
    位の画像の色成分分布情報を取得する色成分分布情報取
    得手段と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御手段とを具備することを特徴とするホワイトバラ
    ンス調整装置。
  4. 【請求項4】 上記輝度成分取得手段は、ドットマトリ
    クス状の画像データを所定区画に分割するとともに各区
    画毎の色成分の平均値を上記輝度成分として取得するこ
    とを特徴とする上記請求項3に記載のホワイトバランス
    調整装置。
  5. 【請求項5】 上記輝度成分取得手段は、画像の輝度成
    分をヒストグラム化するとともに所定の輝度範囲に帯域
    分割することを特徴とする上記請求項3または請求項4
    のいずれかに記載のホワイトバランス調整装置。
  6. 【請求項6】 上記色成分分布情報取得手段は、上記画
    像の色成分毎の分布比を取得することを特徴とする上記
    請求項1〜請求項5のいずれかに記載のホワイトバラン
    ス調整装置。
  7. 【請求項7】 上記色成分分布情報取得手段は、上記画
    像が第1色成分〜第3色成分で表現されるときに、色成
    分分布情報として第1色成分について「1」を取得し、
    第2色成分について第1色成分の分布と第2色成分の分
    布との比を取得し、第3色成分について第1色成分の分
    布と第3色成分の分布との比を取得することを特徴とす
    る上記請求項1〜請求項6のいずれかに記載のホワイト
    バランス調整装置。
  8. 【請求項8】 上記ホワイトバランス制御手段は、少な
    くとも2以上の輝度帯域について上記分布比を平均化し
    て色成分毎の補正量決定に使用することを特徴とする上
    記請求項6または請求項7のいずれかに記載のホワイト
    バランス調整装置。
  9. 【請求項9】 上記ホワイトバランス制御手段は、輝度
    帯域をN分割したときに、帯域iの分布比と帯域N+1
    −iの分布比とを平均化することを特徴とする上記請求
    項8に記載のホワイトバランス調整装置。
  10. 【請求項10】 上記ホワイトバランス制御手段は、上
    記分布比で1に近い値をホワイトバランス補正のための
    係数として取得することを特徴とする上記請求項6〜請
    求項9のいずれかに記載のホワイトバランス調整装置。
  11. 【請求項11】 上記ホワイトバランス制御手段は、上
    記画像を形成するドットマトリクス状の画像データの各
    色成分に上記係数を乗じることによってホワイトバラン
    スを制御することを特徴とする上記請求項6〜請求項1
    0のいずれかに記載のホワイトバランス調整装置。
  12. 【請求項12】 画像を構成する色成分の情報を含む画
    像データを取得する画像データ取得機能と、 同取得した画像データに基づいて画像を複数部位の画像
    データから構成される複数の参照領域に分割する画像分
    割機能と、 同画像分割機能によって分割された参照領域であって他
    の参照領域と比較して領域内の色成分分布の偏りが少な
    い所定領域についての色成分分布情報を取得する色成分
    分布情報取得機能と、 同取得した色成分分布情報に基づいて上記画像データの
    色成分の情報を補正してホワイトバランスを制御するホ
    ワイトバランス制御機能とをコンピュータに実現させる
    ことを特徴とするホワイトバランス調整プログラム。
  13. 【請求項13】 第1色成分〜第3色成分で表現された
    画像データを取得する画像データ取得機能と、 同取得した画像データにて構成される画像内で、基準と
    なる第1色成分に対して他の第2色成分および第3色成
    分が画像内の他の領域と比較して比較的均等に分布して
    いる領域の色成分分布情報を取得する色成分分布情報取
    得機能と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御機能とをコンピュータに実現させることを特徴と
    するホワイトバランス調整プログラム。
  14. 【請求項14】 画像を構成する色成分の情報を含む画
    像データを取得する画像データ取得機能と、 当該取得した画像データに基づいて画像の輝度成分を取
    得する輝度成分取得機能と、 上記画像において当該輝度成分が所定の帯域内にある部
    位の画像の色成分分布情報を上記画像データに基づいて
    取得する色成分分布情報取得機能と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御機能とをコンピュータに実現させることを特徴と
    するホワイトバランス調整プログラム。
  15. 【請求項15】 画像を複数部位から構成される複数の
    参照領域に分割する画像分割工程と、 同画像分割工程によって分割された参照領域であって他
    の参照領域と比較して領域内の色成分分布の偏りが少な
    い所定領域についての色成分分布情報を取得する色成分
    分布情報取得工程と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御工程とを具備することを特徴とするホワイトバラ
    ンス調整方法。
  16. 【請求項16】 画像が第1色成分〜第3色成分で表現
    されるときに、基準となる第1色成分に対して他の第2
    色成分および第3色成分が画像内の他の領域と比較して
    比較的均等に分布している領域の色成分分布情報を取得
    する色成分分布情報取得工程と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御工程とを具備することを特徴とするホワイトバラ
    ンス調整方法。
  17. 【請求項17】 画像の輝度成分を取得する輝度成分取
    得工程と、 上記画像において当該輝度成分が所定の帯域内にある部
    位の画像の色成分分布情報を取得する色成分分布情報取
    得工程と、 同取得した色成分分布情報に基づいて上記画像の色成分
    を補正してホワイトバランスを制御するホワイトバラン
    ス制御工程とを具備することを特徴とするホワイトバラ
    ンス調整方法。
  18. 【請求項18】 CCD素子にて撮像された画像を所定
    の要素色の階調値で表現したドットマトリクス状のカラ
    ー画像データを取得するカラー画像データ取得手段と、 このカラー画像データを所定区画に分割するとともに各
    区画毎の色成分の平均値を輝度成分とし、当該輝度成分
    をヒストグラム化するとともに所定の輝度範囲に帯域を
    N分割して取得する輝度成分取得手段と、 上記輝度成分の帯域毎に上記カラー画像データの色成分
    毎の分布比を取得し、帯域iの分布比と帯域N+1−i
    の分布比とを平均化する色成分分布情報取得手段と、 同平均化された分布比で1に近い値をホワイトバランス
    補正のための係数として取得し、上記カラー画像データ
    において補正対象となる色成分に上記係数を乗じること
    によってホワイトバランスを制御することを特徴とする
    ディジタルカメラ。
JP2001272282A 2001-09-07 2001-09-07 ホワイトバランス調整装置、ホワイトバランス調整プログラム、ホワイトバランス調整方法およびディジタルカメラ Expired - Fee Related JP4003037B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001272282A JP4003037B2 (ja) 2001-09-07 2001-09-07 ホワイトバランス調整装置、ホワイトバランス調整プログラム、ホワイトバランス調整方法およびディジタルカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001272282A JP4003037B2 (ja) 2001-09-07 2001-09-07 ホワイトバランス調整装置、ホワイトバランス調整プログラム、ホワイトバランス調整方法およびディジタルカメラ

Publications (2)

Publication Number Publication Date
JP2003087816A true JP2003087816A (ja) 2003-03-20
JP4003037B2 JP4003037B2 (ja) 2007-11-07

Family

ID=19097678

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001272282A Expired - Fee Related JP4003037B2 (ja) 2001-09-07 2001-09-07 ホワイトバランス調整装置、ホワイトバランス調整プログラム、ホワイトバランス調整方法およびディジタルカメラ

Country Status (1)

Country Link
JP (1) JP4003037B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008113171A (ja) * 2006-10-30 2008-05-15 Fujifilm Corp 撮像装置
CN114390266A (zh) * 2021-12-28 2022-04-22 杭州涂鸦信息技术有限公司 一种图像白平衡处理方法、设备及计算机可读存储介质
CN114630095A (zh) * 2022-03-15 2022-06-14 锐迪科创微电子(北京)有限公司 目标场景图像的自动白平衡方法及装置、终端

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008113171A (ja) * 2006-10-30 2008-05-15 Fujifilm Corp 撮像装置
CN114390266A (zh) * 2021-12-28 2022-04-22 杭州涂鸦信息技术有限公司 一种图像白平衡处理方法、设备及计算机可读存储介质
CN114390266B (zh) * 2021-12-28 2024-05-21 杭州涂鸦信息技术有限公司 一种图像白平衡处理方法、设备及计算机可读存储介质
CN114630095A (zh) * 2022-03-15 2022-06-14 锐迪科创微电子(北京)有限公司 目标场景图像的自动白平衡方法及装置、终端
CN114630095B (zh) * 2022-03-15 2024-02-09 锐迪科创微电子(北京)有限公司 目标场景图像的自动白平衡方法及装置、终端

Also Published As

Publication number Publication date
JP4003037B2 (ja) 2007-11-07

Similar Documents

Publication Publication Date Title
EP0757473B1 (en) Image processing apparatus and method
US8103119B2 (en) Image processing device, image processing method, image processing program product, and image-capturing device
US8199227B2 (en) Image-signal processing apparatus for performing space-variant image-signal processing
US7710470B2 (en) Image processing apparatus that reduces noise, image processing method that reduces noise, electronic camera that reduces noise, and scanner that reduces noise
US8243164B2 (en) Method, apparatus, and system for selecting pixels for automatic white balance processing
US20060092444A1 (en) Matrix coefficient determining method and image input apparatus
US20090060326A1 (en) Image processing apparatus and method
JP2005210526A (ja) 画像処理装置、撮像装置、画像処理方法、画像データ出力方法、画像処理プログラム及び画像データ出力プログラム
US6822657B2 (en) Method and apparatus for improving image quality in digital cameras
JP2005210495A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP4544308B2 (ja) 画像処理装置、撮像装置、方法およびプログラム
US20020085750A1 (en) Image processing device
JP2014033273A (ja) 色域変換装置、デジタルカメラ、色域変換プログラムおよび色域変換方法
US7701462B2 (en) Simple and robust color saturation adjustment for digital images
US7852380B2 (en) Signal processing system and method of operation for nonlinear signal processing
US7184174B2 (en) Color picture signal processing method and color picture using the method
JP2002109523A (ja) 撮像装置、光学フィルタ群および画像データ変換装置
JP4003037B2 (ja) ホワイトバランス調整装置、ホワイトバランス調整プログラム、ホワイトバランス調整方法およびディジタルカメラ
KR101137611B1 (ko) 이미지 데이터 변환 절차를 효과적으로 수행하는 시스템 및 방법
KR102318196B1 (ko) 영상을 자동 백색 보정하기 위한 방법 및 이를 위한 전자 장치
JP4025962B2 (ja) ホワイトバランス調整
JP4168229B2 (ja) エッジ強調処理装置
EP2209298A1 (en) Method for adjusting white balance
JP4150878B2 (ja) 画像データ生成装置
JP2003087807A (ja) 画像データ変換装置、画像データ変換方法、画像データ変換プログラムおよび画像データ変換プログラムを記録した媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070725

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070807

R150 Certificate of patent or registration of utility model

Ref document number: 4003037

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100831

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120831

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130831

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees