JP2011199787A - 画像処理装置及び画像処理方法 - Google Patents
画像処理装置及び画像処理方法 Download PDFInfo
- Publication number
- JP2011199787A JP2011199787A JP2010067018A JP2010067018A JP2011199787A JP 2011199787 A JP2011199787 A JP 2011199787A JP 2010067018 A JP2010067018 A JP 2010067018A JP 2010067018 A JP2010067018 A JP 2010067018A JP 2011199787 A JP2011199787 A JP 2011199787A
- Authority
- JP
- Japan
- Prior art keywords
- gradation conversion
- image
- images
- luminance value
- conversion characteristic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000012545 processing Methods 0.000 title claims abstract description 117
- 238000003672 processing method Methods 0.000 title claims description 8
- 238000006243 chemical reaction Methods 0.000 claims abstract description 193
- 239000002131 composite material Substances 0.000 claims abstract description 51
- 230000003321 amplification Effects 0.000 claims abstract description 48
- 238000003199 nucleic acid amplification method Methods 0.000 claims abstract description 48
- 239000000203 mixture Substances 0.000 claims abstract description 40
- 238000012937 correction Methods 0.000 claims description 26
- 238000000034 method Methods 0.000 claims description 23
- 238000004364 calculation method Methods 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 11
- 230000008859 change Effects 0.000 abstract description 11
- 238000003384 imaging method Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 13
- 230000015572 biosynthetic process Effects 0.000 description 12
- 238000003786 synthesis reaction Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 7
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000009499 grossing Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000035945 sensitivity Effects 0.000 description 4
- 239000006185 dispersion Substances 0.000 description 3
- 210000003127 knee Anatomy 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012887 quadratic function Methods 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000014616 translation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
- Studio Devices (AREA)
Abstract
【課題】輝度に依存したノイズを考慮し、特定の輝度においてノイズ量が不連続に変化することを抑制することにより、より自然な画像を出力することを目的とする。
【解決手段】階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定手段50と、基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出手段51と、コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定手段52と、合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように合成比率を決定する合成比率決定手段53と、を備える。
【選択図】図5
【解決手段】階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定手段50と、基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出手段51と、コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定手段52と、合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように合成比率を決定する合成比率決定手段53と、を備える。
【選択図】図5
Description
本発明は、画像処理装置及び画像処理方法に関し、特に、画像信号に対して階調変換処理を行う画像処理装置及び画像処理方法に関するものである。
一般に、実際の撮影シーンや視察者である人間の視覚特性におけるダイナミックレンジに比して、デジタルカメラに適用されるCCDセンサやCMOSセンサなどの撮像デバイスにおけるダイナミックレンジが狭いことが知られている。このため、この差異を補間するために種々の技術が提案されている。また、監視カメラの様に、観察者の視覚の受容とは関係なく、被写体を検出・認識を行うために、広ダイナミックレンジ画像をより低いダイナミックレンジのデータに変換するトーンマッピングにかかる技術が開発されている。さらに、副次的な問題として、広ダイナミックレンジの画像をそのまま転送するとより多くのbit数の演算器やデータバスを必要とすることから、これらを節約するための技術についても開示されている。
上述した技術の具体例として、特許文献1(特開平8−125924号公報)には、多重露光回数とダイナミックレンジを連動させて、A/D変換後の信号強度が所定bit数を超えた場合に、ダイナミックレンジの広い被写体の撮影のため画素毎にA/D変換のビット数と撮影の露光時間を変更して出力する技術が開示されている。また、特許文献2(特開2003−259200号公報)には、異なる露光により複数の画像を撮影し、合成することでダイナミックレンジを拡大する技術が開示されている。さらに、特許文献3(特表2004−530368号公報)には、局所的なヒストグラム平均化処理を行い、非局所的なガンマ変換による階調補正に比べ見た目のダイナミックレンジを拡大する技術が開示されている。さらにまた、特許文献4(特許第4111980号公報)には、非局所的な階調変換として、入力画像を画素毎に補正して、補正後の画像信号を生成し、その際に当該画素とその周りの画素の情報を用いて、平均輝度を求めて、利得を計算する技術が開示されている。
ところで、このようなダイナミックレンジを拡大させた画像を生成する画像処理装置においては、ノイズと階調飛びを抑制すると共に、輝度に応じたノイズ量の変動を滑らかにし、かつ演算途中での桁数を抑制することも課題となる。
演算器及び演算器間において使用可能なデータの桁数が充分な場合、例えば、20bitの画像データを伝送又は演算可能なデータバス及び演算器においては、16bitのデータは何れの領域を16枚使用しても桁あふれはおこらない。画像データにおいて、高輝度領域は相対的にノイズ量が少ないことから所定以上のデータの加算平均を必要としない。一方、低輝度領域は相対的にノイズ量が多いことに加え、通常は、階調変換によって階調増幅を大きくさせる。階調変換の増幅率が大きいことに起因する階調飛び等の不自然な画像が得られるのを防止するためには、低輝度領域ほど輝度に対して精度の要求が高くなり、より多くの画像の重畳によるデータ、より大きい露光時間のデータを必要とする。
しかし、高速処理を低消費電力で行おうとする場合には、むやみにデータバスを広げることは得策でなく、既存のデータバスを有効に利用して十分な階調再現性を得ることが望まれる。
また、上記のデータ深度の観点に加えて、複数枚の位置あわせおよび加算処理において、複数枚の位置あわせ処理の不整合による鮮鋭感の劣化の影響を考慮すると、相対的にノイズ量が少ない高輝度領域に関しては、位置あわせ処理を必要以上に行わない方が好ましい。
演算器及び演算器間において使用可能なデータの桁数が充分な場合、例えば、20bitの画像データを伝送又は演算可能なデータバス及び演算器においては、16bitのデータは何れの領域を16枚使用しても桁あふれはおこらない。画像データにおいて、高輝度領域は相対的にノイズ量が少ないことから所定以上のデータの加算平均を必要としない。一方、低輝度領域は相対的にノイズ量が多いことに加え、通常は、階調変換によって階調増幅を大きくさせる。階調変換の増幅率が大きいことに起因する階調飛び等の不自然な画像が得られるのを防止するためには、低輝度領域ほど輝度に対して精度の要求が高くなり、より多くの画像の重畳によるデータ、より大きい露光時間のデータを必要とする。
しかし、高速処理を低消費電力で行おうとする場合には、むやみにデータバスを広げることは得策でなく、既存のデータバスを有効に利用して十分な階調再現性を得ることが望まれる。
また、上記のデータ深度の観点に加えて、複数枚の位置あわせおよび加算処理において、複数枚の位置あわせ処理の不整合による鮮鋭感の劣化の影響を考慮すると、相対的にノイズ量が少ない高輝度領域に関しては、位置あわせ処理を必要以上に行わない方が好ましい。
そこで、特許文献5(特開2008−60855号公報)には、複数枚の入力画像を対象として、所定の画像の階調変換特性に合わせて、階調変換時に用いる画像の枚数を適応的に選択する技術が開示されている。具体的には、図19(a)に示すような、入力階調(輝度)Iに対して、出力階調(輝度)Q(I)の階調変換特性に基づく処理を行う場合、この階調変換特性Q(I)から、入力階調のレベルがどの程度引き延ばされたかを示すコントラスト増幅率R(I)が、以下の数1のように求められる(図19(b)参照)。
また、コントラスト増幅率R(I)に対して、階調変換時に用いる画像の枚数F(I)を以下の数2のように定義する(図19(c)参照)。
この階調変換時に用いる画像の枚数F(I)に対して、補正係数G(I)が以下の数3で与えられる(図19(d)参照)。
このとき、以下の数4のような全体的に滑らかに変動する階調変換特性Q“(I)が得られる。
しかしながら、上記した特許文献5に開示された発明では、画像の合成枚数を増幅率に対応させているため、補正係数G(I)によって、全体的に滑らかに変動する階調変換特性が得られるが、これはノイズが考慮されていないという問題がある。すなわち、ノイズを考慮し、画像の加算枚数をNとした場合の画像1枚のノイズ分散σに対する加算画像信号のノイズ分散σ(N)は以下の数5で表される。
従って、画像のうち特定の輝度を有する領域においてはNが切り替わる前後となりノイズ分散すなわちノイズ量の段差が目立つこととなる。具体的には、例えば、図19(d)に示す画像の加算枚数が変化する輝度A(I=70付近)においては、2枚の画像をそれぞれ0.5の合成比率で加算するが、この輝度よりも低い輝度の領域では、3枚の画像をそれぞれ0.33の合成比率で加算することとなる。このため、画像においてグラデーションの如く、連続的に輝度が変化する領域においては、画像の加算枚数が変化数領域の前後でノイズ分散がσ/√2からσ/√3と大きな段差が生じ、不自然な画像となってしまうという問題があった。
本発明は、上記問題を解決するためになされたもので、輝度に依存したノイズを考慮し、特定の輝度においてノイズ量が不連続に変化することを抑制することにより、より自然な画像を出力することのできる画像処理装置及び画像処理方法を提供することを目的とする。
上記課題を解決するために、本発明は以下の手段を採用する。
本発明は、階調変換処理を行うと共に複数枚の画像を合成して1枚の合成画像を生成する画像処理装置において、前記階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定手段と、前記基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出手段と、前記コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定手段と、前記合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように該合成比率を決定する合成比率決定手段と、を備えたことを特徴とする画像処理装置を提供する。
本発明は、階調変換処理を行うと共に複数枚の画像を合成して1枚の合成画像を生成する画像処理装置において、前記階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定手段と、前記基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出手段と、前記コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定手段と、前記合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように該合成比率を決定する合成比率決定手段と、を備えたことを特徴とする画像処理装置を提供する。
また、本発明は、階調変換処理を行うと共に複数枚の画像を合成して1枚の合成画像を生成する画像処理方法において、前記階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定ステップと、前記基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出ステップと、前記コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定ステップと、前記合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように該合成比率を決定する合成比率決定ステップと、を備えたことを特徴とする画像処理方法を提供する。
本発明によれば、輝度に依存したノイズを考慮し、特定の輝度においてノイズ量が不連続に変化することを抑制して、より自然な画像を出力する。
以下に、本発明に係る画像処理装置の実施形態について、図面を参照して説明する。
〔第1の実施形態〕
図1は、本発明の第1の実施形態に係る画像処理装置を適用した例として、所謂デジタルカメラ、すなわち、撮像装置の概略構成を示したブロック図である。
図1は、本発明の第1の実施形態に係る画像処理装置を適用した例として、所謂デジタルカメラ、すなわち、撮像装置の概略構成を示したブロック図である。
図1に示すように、撮像装置101は、表示素子2001、被写体の撮像を行うレリーススイッチ3001、撮像装置101のメニュー画面を表示素子2001に表示可能なメニュースイッチ3002、該メニュー画面における操作を実現する操作キー3003、及び決定位置に合わせられた内容の設定が可能な撮影モード選択ダイヤル3004を備えている。
また、撮像装置101は、撮像装置101の各部の制御を行うシステムコントローラ100、被写体の像を集光及び結像するレンズ1001、レンズ1001の結像位置に配置され、該被写体の像を撮像する固体撮像素子1002、固体撮像素子1002において結像される被写体の像に応じた撮像信号を出力すると共に輝度補正機能を有し、アナログフロントエンドプロセッサ等により構成される撮像回路1003、撮像回路1003から出力されるアナログの撮像信号をデジタルの画像データに変換して出力するA/D変換回路1004、画像データのブレを検出するブレ検出回路4000、複数枚の画像データの相対的な位置を補正するブレ補正機構4002を備えている。
ブレ検出回路4000は、固体撮像素子1002のシフト量を計算し、固体撮像素子1002を機械的にシフトさせる、又は、MOSイメージャのようなX−Yアドレス方式である場合には、読み出し開始位置のシフトを行う等により画像データのブレを検出する。ブレ補正機構4002は、ブレ検出回路4000の検出結果に基づいて、画像データに対してブレ補正処理を行うことにより、複数枚の画像データの相対的な位置を補正する。なお、ブレを検出する手段としては、ジャイロの如く画像データそのものを使用しない構成とすることも、フレーム間の動きベクトルの如く、画像データから計算によって検出するものでもよい。
また、撮像装置101は、A/D変換回路1004出力される画像データに対して、階調変換処理を含む所定の信号処理を行う信号処理回路1005、信号処理回路から出力された画像データを蓄積するメモリ1006,1008、メモリ1006に蓄積された画像データを表示する表示素子2001、メモリ1006に蓄積された画像データに対して画像圧縮処理を行い、該画像圧縮処理後の画像データを、可搬性を有する記録メディア2002に対して出力する圧縮回路1007を備えている。
以下、このように構成された撮像装置101のうち、本発明の画像処理装置として機能する信号処理回路1005について説明する。図2は、信号処理回路1005の概略構成を示すブロック図である。図2に示すように、信号処理回路1005は、メモリ1008に記録された画像データに対してデモザイキング処理を行うデモザイキング回路1051、デモザイキング処理を施した画像データに対して階調変換処理及び画像合成処理を行う階調補正合成回路1052、画像データに対して所定の色信号処理を施す色信号処理回路1053、及び階調補正合成回路1052における階調変換処理の際の階調変換特性を定める階調変換特性決定部1054を備えている。
図3は、階調変換特性、すなわち、階調変換曲線の一例を示す参考図であり、図4は、階調補正合成回路1052においてなされる階調変換処理及び画像合成処理を模式的に示した説明図である。階調補正合成回路1052では、画像データに対して、階調変換処理及び画像合成処理が行われるが、この際、コントラストの増幅が生じる。これは、処理前の画像データの階調が、例えば、8bitで1LSB(全階調を256階調としたときの1階調)の変化を、出力階調で2階調といったように階調差を増幅することを示している。ここで、コントラストの増幅は、階調変換曲線を階調で微分することにより得られる。従って、図3において、階調変換特性では、相対的に輝度値の低い領域のコントラストが増幅することとなり、このトラストの増幅による階調飛びを抑制するためには、輝度の低い領域に対してより多くの画像を用いて階調変換処理を行うことが必要となる。
具体的には、図4に示すように、階調補正合成回路1052は、例えば、画像上の各位置のうち、相対的に輝度値が低い位置Aに存在する画素に対し、この輝度値の増幅率が相対的に高くなるように、相対的に多くの枚数の画像を用いつつ階調補正処理を行う必要がある。また、図4に示すように、階調補正合成回路1052は、例えば、画像上の各位置のうち、相対的に輝度値が高い位置Bに存在する画素に対しては、この輝度値の増幅率が相対的に低くなるように、相対的に少ない枚数の画像を用いつつ階調補正処理を行うことができる。
このため、階調変換特性決定部1054は、画像上の相対的に輝度が低い位置に対してはその輝度値の増幅率が相対的に高くなるように相対的に多くの枚数の画像を用いるように、かつ、相対的に輝度値が高い位置に対してはその輝度値の増幅率が相対的に低くなるように相対的に少ない枚数の画像を用いるように、階調変換特性メモリ1008に格納された複数の画像のそれぞれに対する固有の階調変換特性を設定する。
具体的には、階調変換特性決定部1054は、図5に示すように、階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定部50、基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出部51、コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定部52、合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように合成比率を決定する合成比率決定部53、基準階調変換特性及び合成比率に基づいて、複数枚の画像それぞれに対して、階調変換特性を画像毎に設定する階調変換特性設定部54を備えている。
そして、階調変換特性決定部1054では、図6に示すフローチャートに従って、階調変換特性メモリ1008に格納された複数の画像のそれぞれに対する固有の階調変換特性を設定される。すなわち、ステップS1では、基準階調変換特性設定部50により、画像処理装置において階調変換処理を施した上で合成画像を生成する際に基準となる基準階調変換特性として、図7(a)に示す階調変換曲線を設定する。図7(a)は、入力輝度値Iをx軸とし、これに対して出力輝度値Q(I)をy軸に示している。この階調変換曲線の設定は、得られた画像の輝度階調に対して都度演算することもできるが、例えば、ルックアップテーブルを使用するなど予め記憶しておくこともできる。
続いて、ステップS2で、コントラスト増幅率算出部51により、ステップS1で設定された階調変換曲線から、図7(b)に示すように、輝度値に対するコントラスト増幅率を算出し、ステップS3で、コントラスト増幅率を離散化することで、図7(c)に示すような輝度値に対する量子化されたコントラスト増幅率を算出する。合成画像を生成する際に、必要な画像の枚数を推定する方法は図4に示したようにコントラストの増幅から入力輝度の1階調が何倍になるかを計算するが、図7(c)で示す量子化コントラスト増幅率から必要な枚数を推定することが出来る。すなわち、例えば、以下の数6のような切り上げを行って離散化することで枚数の推定が可能となる。
図7(c)のグラフは、コントラスト増幅率R(I)から、階調変換を行い1枚の合成画像を生成するのに必要な枚数を示している。すなわち、R’(I)=1の領域では、階調変換は1枚の画像だけを使い、R’(I)=2の領域では階調変換は2枚の画像を使用することを示している。
次に、ステップS4で、合成枚数決定部52により、合成枚数を算出する。図7(d)は図7(c)から複数枚の加算比率を算出したものである。すなわち、図7(c)で量子化した結果が「1」であれば1枚の画像を使用し、「2」であれば2枚の画像を使用して階調変換と加算後に1/2にすることを意味する。すなわち、図7(d)において、例えばI=0.26付近画像の合成枚数が1枚から2枚へ変化している。同じ明るさに対して、画像合成の際に、1枚使用した場合と2枚使用した場合では、画像のショットノイズ(明るさに依存するノイズ成分)は√2倍異なるため、I=0.26付近で明るさがほぼ同じ状態であるにもかかわらず、ノイズの振幅だけが√2倍異なることになり、不自然な画像が得られることとなる。そこで、ステップS5で、合成比率決定部53により、階調変換後の合成比率を連続的に変化させる為に、図7(d)の輝度値を変数として平滑化処理を行って、輝度に依存する各画像の合成比率W(I,k)を算出する(図7(e)参照)。なお、この平滑化としては、輝度値に対して、ルックアップテーブルのなどにより数値限定する方法や、輝度値の関数として数式的に指定する方法が考えられる。
図9(a)に図7(d)の詳細を、図9(b)に図7(e)の詳細を示した。輝度値が高い範囲においては1枚の画像を使用し、図9中、画像の合成枚数が1枚から2枚へ変化する輝度値を含む範囲である中間領域Iと示した範囲では、1枚目の画像と2枚目の画像の合成比率を連続的に変化させるようにしている。また、画像の合成枚数が2枚である範囲は1枚目及び2枚目の画像は同じ合成比率になっている。画像の合成枚数が2枚から3枚へ変化する輝度値を含む範囲である中間領域IIでは、3枚目の画像の合成比率が連続的に、徐々に大きくなるようにしている。以下、複数枚の合成比率を輝度に依存して変化させ、合成比率が連続的に変化する範囲(中間領域)を設けている。
ステップS6では、図7(a)の基準階調変換曲線とステップS5で求めた合成比率W(I,k)に基づいて、数7に従って、各画像に対する階調変換特性Q(I,k)をそれぞれ算出する。
図8に各画像の階調変換特性を示した。
ところで、図10に示すように、階調補正合成回路1052は、各画像それぞれに対して階調変換処理を行う階調変換処理部57を取得する画像と同数備えており、さらに、この階調変換処理部57により階調変換処理がなされた画像から合成画像を生成する階調合成処理部58を備えている。各画像に対応する階調変換処理の前に、各画像の撮像時の露光データ(シャッタ速度、絞り、感度)に対応した輝度補正処理が行われる。従って、各画像に対する階調変換特性Q(I,k)に基づいて、階調変換処理部57により、複数の画像がそれぞれ階調変換処理され、階調変換処理後の複数枚の画像が階調合成処理部58により加算されることで、1枚の合成画像が生成される。生成された画像は、メモリ1006に一旦記憶され、表示素子2001に表示される、又は圧縮回路1007により圧縮されて記憶メディア2002に記憶される。
このように、本実施の形態によれば、複数の画像に対応する階調変換曲線を算出し、これに基づいてそれぞれの画像に対して階調変換処理を施している。この各画像に対する階調変換曲線は、入力階調に応じて、各画像の寄与が連続的に変化しながら階調変換出力をする様に設定されているため、特定の入力階調において、使用する画像の枚数が切り替わり、各画像の寄与が不連続に変化することがなく、特定の階調でノイズ量が不連続に変化することを抑制でき、より自然な画像を得ることができる。
また、複数の画像がそれぞれ階調変換されることで、各画像のデータ量が小さくなりバスラインの節約も可能となる。
また、複数の画像がそれぞれ階調変換されることで、各画像のデータ量が小さくなりバスラインの節約も可能となる。
〔第1の実施形態の変形例〕
上記した本発明の第1の実施形態において、階調補正合成回路1052は、複数の階調変換処理部57を備え、各階調変換処理部57において階調変換処理がなされた画像を短銃加算することにより1枚の合成画像を得ていた。本変形例では、図10に示すように階調補正合成回路1052が一つの階調変換処理部59を備えるのみである点が相違する。以下、本変形例について第1の実施形態と共通する点については説明を省略し、異なる点について説明する。
上記した本発明の第1の実施形態において、階調補正合成回路1052は、複数の階調変換処理部57を備え、各階調変換処理部57において階調変換処理がなされた画像を短銃加算することにより1枚の合成画像を得ていた。本変形例では、図10に示すように階調補正合成回路1052が一つの階調変換処理部59を備えるのみである点が相違する。以下、本変形例について第1の実施形態と共通する点については説明を省略し、異なる点について説明する。
図11に示すように、階調補正合成回路1052は、一つの階調変換処理部59と、複数の画像に対応した複数の合成比率乗算部60と、階調合成処理部58とを備えている。各画像に対応する階調変換処理の前に、各画像の撮像時の露光データ(シャッタ速度、絞り、感度)に対応した輝度補正処理が行われる。階調変換処理部59では、メモリ1008に格納されている全ての画像に対して基準階調変換特性に基づいて階調変換処理を行い、各画像をそれぞれの合成比率乗算部60に出力する。各合成比率乗算部60において、階調変換処理後の画像にそれぞれ合成比率W(I,k)が乗じられることで、上述した第1の実施形態における階調変換特性Q(I,k)に基づいて、複数の画像それぞれに階調変換処理を施したのと同様の効果が得られる。
そして階調変換処理がなされ、さらに合成比率が乗じられた複数枚の画像が、階調合成処理部58により加算されることで、1枚の合成画像が生成される。生成された画像は、メモリ1006に一旦記憶され、表示素子2001に表示される、又は圧縮回路1007により圧縮されて記憶メディア2002に記憶される。
〔第2の実施形態〕
本実施形態においては、上記した実施形態の構成に加えて輝度値に依存するノイズ量を予測し、このノイズ量を考慮して合成枚数及び合成比率を決定するものである。
すなわち、ノイズ量Nをガウスノイズとすると、ノイズの分散は、2次関数でモデル化した以下の数8で表される。
本実施形態においては、上記した実施形態の構成に加えて輝度値に依存するノイズ量を予測し、このノイズ量を考慮して合成枚数及び合成比率を決定するものである。
すなわち、ノイズ量Nをガウスノイズとすると、ノイズの分散は、2次関数でモデル化した以下の数8で表される。
ここで、α、β、γは定数項である。この数8から、ノイズNはイメージャ出力の輝度信号L0に対して2次曲線的に増加していることがわかる。
しかしながら、ノイズ量は信号レベルだけではなく、素子の温度やゲインによっても変化する。図12に、一例として、ある温度tにおけるゲインに関連する3種類のISO感度100,200,400に対するノイズ量をプロットした図を示す。図11の個々の曲線は数8に示される形態となっているが、その係数はゲインに関連するISO感度により異なる。そこで、温度をt、ゲインをgとし、これらを考慮した形でモデルの定式化を行うと、以下の数9となる。
しかしながら、ノイズ量は信号レベルだけではなく、素子の温度やゲインによっても変化する。図12に、一例として、ある温度tにおけるゲインに関連する3種類のISO感度100,200,400に対するノイズ量をプロットした図を示す。図11の個々の曲線は数8に示される形態となっているが、その係数はゲインに関連するISO感度により異なる。そこで、温度をt、ゲインをgとし、これらを考慮した形でモデルの定式化を行うと、以下の数9となる。
ここで、αgt, βgt,γgtはゲイン、温度で決まる定数項である。このノイズモデルは、RGB独立で適用させることもできる。
デジタル信号処理の入力信号を12bit出力信号を8bitとした処理系でのKnee(ニー)処理、又はγ変換は、8bitにおいて、輝度が高い領域に対しての階調を圧縮する変換で、撮像機器の信号処理では一般に良く用いられる。従って、式(15),(16)の様な、A/D変換直後の輝度値−ノイズの分散値の特性とKnee(ニー)処理を考慮すると、8bit変換後の輝度階調とノイズの分散値を対応させると、単峰の曲線となる。
図13は、本実施形態における構成を示した図であり、ノイズ量推定部4003を備え、ノイズ量推定部は信号処理部1005に含まれる階調変換特性決定部にノイズ推定量を与える。
図13は、本実施形態における構成を示した図であり、ノイズ量推定部4003を備え、ノイズ量推定部は信号処理部1005に含まれる階調変換特性決定部にノイズ推定量を与える。
図14に本実施形態において階調変換特性を設定する演算の過程を示す場合のフローチャートを、図15に本実施形態において階調変換特性を設定する演算の過程をグラフで示した。
ステップS11及びステップS12では、上記した第1の実施形態と同様に、基準階調変換特性としての基準の階調変換曲線を設定し、その後コントラスト増幅率を算出する(図15(a)参照)。ステップS13は、ノイズ量推定部4003から与えられたデータで図15(b)に示すように、上記した数9に基づいたノイズ量を設定する。ステップS14では、図15(a)及び図15(b)から、コントラスト増幅を考慮したノイズモデルを算出する。図15(c)はコントラスト増幅率を考慮したノイズモデルを示している。ステップS15では、第1の実施形態と同様に、画像の合成枚数を計算するために、前記のコントラスト増幅率を考慮したノイズモデルを量子化し(図15(d)参照)、次のステップS16では、画像の合成枚数と合成比率を計算すると共に、図15(d)に平滑化処理を施すことにより、滑らかな合成比率変化になるように平滑化を行う。ステップS17では、各画像の合成比率曲線(W(I,k))を計算する。図15(e)は、ノイズモデルの対応した合成比率W(I,k)を示している。そして、ステップS18において、以下の数10に基づいて、図16に示す、各画像に対する階調変換特性Q(I,k)を算出する。
このように、コントラスト増幅率と輝度に依存するノイズの振幅を考慮して、複数枚画像の合成枚数及び合成比率を算出するため、コントラスト増幅率とノイズ振幅の相対量が大きいところでは、より多くの枚数の画像の合成を行うようにすることによって、階調変化後のノイズの増幅を抑制することが出来る。
〔第3の実施形態〕
上記した実施形態において、基準階調変換特性とは異なる基準階調変換特性(第1の基準階調変換特性)が与えられる場合、基準階調変換特性及び合成比率に基づいて定められる複数の画像それぞれに対する階調変換特性Q(I)と、第1の基準階調変換特性とに基づいて、前記複数枚の画像それぞれに対して、前記第1の基準階調変換特性に応じた第1の階調変換特性Q2(I)を演算することができる。より具体的には、上記した実施形態において、各画像に対する階調変換特性Q(I)が既に得られており、この階調変換特性Q(I)の逆変数Q−1(I)が定義でき、更に、写像の交換則が成り立つ場合には、階調変換特性Q(I)から他の階調変換特性Q2(I)を演算することができる(図17参照)。すなわち、上記した条件を満たす場合には、輝度Iを以下の数11で定義することができる。
上記した実施形態において、基準階調変換特性とは異なる基準階調変換特性(第1の基準階調変換特性)が与えられる場合、基準階調変換特性及び合成比率に基づいて定められる複数の画像それぞれに対する階調変換特性Q(I)と、第1の基準階調変換特性とに基づいて、前記複数枚の画像それぞれに対して、前記第1の基準階調変換特性に応じた第1の階調変換特性Q2(I)を演算することができる。より具体的には、上記した実施形態において、各画像に対する階調変換特性Q(I)が既に得られており、この階調変換特性Q(I)の逆変数Q−1(I)が定義でき、更に、写像の交換則が成り立つ場合には、階調変換特性Q(I)から他の階調変換特性Q2(I)を演算することができる(図17参照)。すなわち、上記した条件を満たす場合には、輝度Iを以下の数11で定義することができる。
従って、階調変換特性Q2(I,k)は、数12で表される。
階調変換特性Q(I)及びQ2(I)が、複数枚の階調変換を想定している場合に、階調変換特性Q(I,k)及びQ2(I,k)が数14で定義できるとき、
従って、上述の実施形態の様に合成比率W(I,k)を求めるためにコントラスト増幅率とそれに必要な画像の枚数を計算せずに、基準の階調変換特性Q(I)に対する各画像の階調変換特性Q(I,k)を用いて異なる階調変換特性Q2(I)を出力する各画像の階調変換特性Q2(I,k)を得ることができる。尚、階調変換の演算はルックアップテーブルを使用しても良い。図17では、階調変換特性を演算するための演算器としての階調変換特性決定部1054の概略構成を示すブロック図であり、701は基準の階調変換曲線を示しており、705では上述した実施形態と同様に基準の階調変換曲線に対する各画像の階調変換曲線を演算している。逆関数計算手段702は、基準の階調変換曲線に対する逆関数の特性を演算している。階調変換演算手段704は、目的とする階調変換特性の引数に逆関数演算手段702で演算された逆関数特性を与え、上記の数13の右辺の括弧内Q2(Q−1(I))を計算している。代入演算手段706は、各画像の階調変換特性設定手段705で取得した基準階調変換特性に対応した各画像の階調変換特性の引数としてQ2(Q−1(I))を与え、数15の計算を行っている。
参考例として、図18に基準の階調変換曲線A(図18(a))と目的とする階調変換特性B(図18(b))と基準の階調変換特性に対応する各画像の階調変換特性(図18(c))と上記の方法で取得した、階調変換特性Bに対応する各画像の階調変換特性(図18(d))を示した。また、上記した数16に代えて、数17を用いることができる。
数17により、合成比率W(I,k)を演算して、図11に示す構成に適用することもできる、すなわち、基準となる階調変換特性に基づいて複数の画像全ての階調変換処理を施し、階調変換処理後の画像に合成比率W(I,k)を乗じる構成とすることもできる。
このようにすることで、コントラスト増幅率を求めるステップと、コントラスト増幅率から画像の合成枚数や合成比率を演算する必要がなく、演算を高速化することが出来る。
なお、上述した実施形態では、画像処理装置としてハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、別途ソフトウェアにて処理する構成も可能である。この場合、CPU(中央演算装置)、ROM(Read Only Memory)、RAM(Random Access Memory)等を備えた汎用又は専用のコンピュータが、CPU等により、上記処理の全て或いは一部を実現させるためのプログラムが記録されたコンピュータ読み取り可能な記録媒体に記録されているプログラムを読み出して、プログラムをROMやRAMなどに展開し、情報の加工・演算処理を実行することにより、上述の画像処理装置と同様の処理を実現させる。
ここでコンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしても良い。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
50 基準階調変換特性設定部(基準階調変換特性設定手段)
51 コントラスト増幅率算出部(コントラスト増幅率算出手段)
52 合成枚数決定部(合成枚数決定手段)
53 合成比率決定部(合成比率決定手段)
54 階調変換特性設定部
57,59 階調変換処理部
58 階調合成処理部
1054 階調変換特性決定部
51 コントラスト増幅率算出部(コントラスト増幅率算出手段)
52 合成枚数決定部(合成枚数決定手段)
53 合成比率決定部(合成比率決定手段)
54 階調変換特性設定部
57,59 階調変換処理部
58 階調合成処理部
1054 階調変換特性決定部
Claims (8)
- 階調変換処理を行うと共に複数枚の画像を合成して1枚の合成画像を生成する画像処理装置において、
前記階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定手段と、
前記基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出手段と、
前記コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定手段と、
前記合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように該合成比率を決定する合成比率決定手段と、
を備えたことを特徴とする画像処理装置。 - 輝度値に依存するノイズ量を予測するノイズ量予測手段を更に備え、
前記合成枚数決定手段は、前記ノイズ量と前記コントラスト増幅率に基づいて、輝度値に応じた合成枚数を決定することを特徴とする請求項1に記載の画像処理装置。 - 前記基準階調変換特性及び前記合成比率に基づいて、前記複数枚の画像それぞれに対して、階調変換特性を前記画像毎に設定する階調変換特性設定手段を更に備えたこと、を特徴とする請求項1又は請求項2に記載の画像処理装置。
- 前記複数の画像に対して階調変換処理を行う階調変換処理手段と、
前記前記複数枚の画像を合成して合成画像を生成する合成画像生成手段を更に備え、
前記階調変換処理手段は、前記複数の画像に対して基準階調変換特性に基づいて階調変換処理を行うと共に、前記合成画像生成手段は、階調変換処理がなされた前記複数枚の画像を前記合成枚数及び前記合成比率に従って合成することにより合成画像を生成する、請求項1又は請求項2に記載の画像処理装置。 - 前記複数の画像に対して階調変換処理を行う階調変換処理手段と、
前記前記複数枚の画像を合成して合成画像を生成する合成画像生成手段を更に備え、
前記階調変換処理手段は、前記複数の画像に対して前記各階調変換特性に基づいてそれぞれ階調変換処理を行うと共に、前記合成画像生成手段は、前記階調変換処理がなされた前記複数枚の画像を加算することにより合成画像を生成する、請求項3に記載の画像処理装置。 - 前記合成画像生成手段による合成画像生成に際して、前記複数の画像間の輝度差を補正する輝度補正手段を更に備えたことを特徴とする請求項4又は請求項5に記載の画像処理装置。
- 前記基準階調変換特性と異なる第1の基準階調変換特性、前記基準階調変換特性及び前記合成比率に基づいて、前記複数枚の画像それぞれに対して、前記第1の基準階調変換特性に応じた第1の階調変換特性を演算する演算手段を更に設けたことを特徴とする請求項1乃至請求項6の何れか1項に記載の画像処理装置。
- 階調変換処理を行うと共に複数枚の画像を合成して1枚の合成画像を生成する画像処理方法において、
前記階調変換処理における基準となる基準階調変換特性を設定する基準階調変換特性設定ステップと、
前記基準階調変換特性に基づいて、輝度値に対するコントラスト増幅率を算出するコントラスト増幅率算出ステップと、
前記コントラスト増幅率に基づいて、輝度値に応じた画像の合成枚数を決定する合成枚数決定ステップと、
前記合成枚数が変化する輝度値を含む所定の輝度値の範囲において、合成比率が連続的に変化するように該合成比率を決定する合成比率決定ステップと、
を備えたことを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010067018A JP2011199787A (ja) | 2010-03-23 | 2010-03-23 | 画像処理装置及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010067018A JP2011199787A (ja) | 2010-03-23 | 2010-03-23 | 画像処理装置及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011199787A true JP2011199787A (ja) | 2011-10-06 |
Family
ID=44877378
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010067018A Withdrawn JP2011199787A (ja) | 2010-03-23 | 2010-03-23 | 画像処理装置及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011199787A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013162247A (ja) * | 2012-02-02 | 2013-08-19 | Canon Inc | 画像処理装置およびその制御方法 |
JP2013162246A (ja) * | 2012-02-02 | 2013-08-19 | Canon Inc | 画像処理装置およびその制御方法 |
-
2010
- 2010-03-23 JP JP2010067018A patent/JP2011199787A/ja not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013162247A (ja) * | 2012-02-02 | 2013-08-19 | Canon Inc | 画像処理装置およびその制御方法 |
JP2013162246A (ja) * | 2012-02-02 | 2013-08-19 | Canon Inc | 画像処理装置およびその制御方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101247646B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 기록 매체 | |
JP6020199B2 (ja) | 画像処理装置、方法、及びプログラム、並びに撮像装置 | |
JP5408053B2 (ja) | 画像処理装置、画像処理方法 | |
JP5672796B2 (ja) | 画像処理装置、画像処理方法 | |
JP4479527B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラム、および電子カメラ | |
JP2004221644A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP2009027258A (ja) | 画像処理装置、画像処理方法及び撮影装置 | |
JP2014179756A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2014021928A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6611543B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
CN106575434B (zh) | 图像处理装置、摄像装置以及图像处理方法 | |
JP2007180851A (ja) | Raw画像の階調変換装置、プログラム、方法、および電子カメラ | |
JP2011015277A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが記録された記録媒体 | |
US10387999B2 (en) | Image processing apparatus, non-transitory computer-readable medium storing computer program, and image processing method | |
JP2011199785A (ja) | 撮像装置及び方法 | |
JP5365881B2 (ja) | 画像処理装置、画像処理方法 | |
JP2006114006A (ja) | 階調変換装置、プログラム、電子カメラ、およびその方法 | |
JP2011199787A (ja) | 画像処理装置及び画像処理方法 | |
JP2020145553A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2016127388A (ja) | 画像処理装置およびその制御方法、プログラムならびに記憶媒体 | |
KR102282464B1 (ko) | 영상 처리 장치 및 영상 처리 방법 | |
JP2007306083A (ja) | 撮像装置および信号処理装置 | |
JP5624896B2 (ja) | 画像処理装置、画像処理プログラム、及び、画像処理方法 | |
JP6514577B2 (ja) | 画像処理装置および画像処理方法ならびに撮像装置 | |
JP6025555B2 (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20130604 |