JP2018186317A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2018186317A JP2018186317A JP2017084982A JP2017084982A JP2018186317A JP 2018186317 A JP2018186317 A JP 2018186317A JP 2017084982 A JP2017084982 A JP 2017084982A JP 2017084982 A JP2017084982 A JP 2017084982A JP 2018186317 A JP2018186317 A JP 2018186317A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- pixel
- value
- sensitivity pixel
- output signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】 画像の白飛びを高精度に補正可能することが可能な信号処理装置を提供する。【解決手段】 低感度画素出力信号に基づいて通常感度画素出力信号を補正する信号処理装置であって、低感度画素出力信号にゲイン補正を行い第1の出力信号を得るゲイン補正手段と、複数の低感度画素に対して、通常感度画素との距離に関する第1の重み付け係数と、通常感度画素出力信号と第1の出力信号の間の信号差に関する第2の重み付け係数とを算出し、各重み付け係数により決定される第3の重み付け係数に基づいて第1の出力信号に対して補間処理を行うことにより、通常感度画素位置における補間信号値を算出する補間処理手段と、所定の合成係数に基づいて補間信号値と通常感度画素の合成した合成信号値を算出し、合成信号値で通常感度画素出力信号を置換する合成処理手段とを有する。【選択図】 図4
Description
本発明は、画像の白飛びを高精度に補正可能な信号処理装置に関する。
従来より、通常画素と通常画素よりも低感度に設定された低感度画素とを撮像素子に配置し、低感度画素の出力を用いることで取得した画像の白飛びを補正することが可能な撮像装置が提案されている。
例えば、特許文献1に開示の発明では、第1の光感度を有する第1の複数の画素センサと、前記第1の光感度よりも低い第2の光感度を有する第2の複数の画素センサとを有する画像センサアレイによって取り込まれた画像において、前記第2の画素センサによって取り込まれた飽和画素データを補正する方法であって、a)前記第2の複数の画素センサの画素値に画素利得を適用する段階と、b)前記第1の複数の画素センサにおいて少なくとも1つの飽和色成分をもつ画素を選択する段階と、c)前記選択された第1の画素センサの局所近傍における前記第2の複数の画素センサのうちの少なくとも1つを識別する段階と、d)前記第1の複数の画素センサにおける前記選択された画素の前記飽和色成分を、前記第1の複数の画素センサにおける前記選択された画素の前記不飽和色成分と、前記第2の複数の画素センサにおいて識別された前記局所的に利用可能な画素の不飽和色チャネルからの画素データと飽和色チャネルからの画素データとの間の対応する平均または加重平均の差との和と取り替える段階と、e)少なくとも1つの飽和色チャネルを有するすべての画素センサからの画素データが処理されるまで、段階b)から段階d)を繰り返す段階とを含む画像復元方法が開示されている。
また、特許文献2に開示の発明では、基準色差生成部1340は、R画素におけるR成分値とB画素におけるB成分値とG画素におけるG成分値とに基づいてR画素およびB画素における基準色差CrおよびCbを生成し、R画素およびB画素における基準色差CrおよびCbに基づいてG画素における基準色差CrおよびCbを生成する。基準色差生成部1340は、R画素およびB画素の近傍のD画素における感度補正後のG成分値が飽和レベル以上である場合、かつ基準色差生成部1340によるR画素およびB画素における基準色差CrおよびCbの生成に用いられたG成分値がすべて飽和レベルに達している場合、R画素およびB画素の近傍のD画素における感度補正後のG成分値と飽和レベルとの差に基づいて、R画素およびB画素における基準色差CrおよびCbを補正する。画像生成部1380は、G画素、R画素およびB画素の各画素におけるR成分値およびB成分値を、G画素、R画素およびB画素の各画素におけるG成分値ならびに基準色差CrおよびCbに基づいて生成することを特徴とする撮像素子が開示されている。
しかしながら、上述した従来技術では以下のような問題点があった。すなわち、特許文献1に開示の発明では、飽和している第2の画素センサと、その飽和画素データの補正に用いる第1の画素センサの位置とが異なっているので、第1の画素センサと第2の画素センサが異なる被写体の情報を持っていた場合には、第2の画素センサが持つべきものとは異なる画像データを推定してしまうおそれがある。更に、飽和色チャンネルに対してのみ推定された画像データとの置換を行うので、不飽和色チャンネルとの整合が崩れて不自然な色が生じるおそれがある。
特許文献2に開示の発明では、G画素の一部をD画素とし、色差信号Cr、Cbを用いる仕組みのため、R画素、B画素のいずれかが飽和してしまった場合は正しい色差を得ることができない。また、通常画素が飽和していた場合に最近傍のD画素を参照するので、D画素の配置密度が低下するにつれて画素間の距離が長くなり特許文献1と同様の理由により補間精度が悪化するおそれがある。
本発明はこのような状況に鑑みてなされたものであり、画像の白飛びを高精度に補正可能な信号処理装置を提供することを目的とする。
上記目的を達成するために、本発明を実施の信号処理装置は、低感度画素出力信号に所定のゲイン補正を行い、第1の出力信号を得るゲイン補正手段と、通常感度画素を含む所定の領域内に位置する複数の低感度画素に対して、通常感度画素と低感度画素との距離に関する第1の重み付け係数と、通常感度画素の出力信号と第1の出力信号の間の信号差に関する第2の重み付け係数とを算出し、各重み付け係数により決定される第3の重み付け係数に基づいて第1の出力信号に対して補間処理を行うことにより、通常感度画素位置における補間信号値を算出する補間処理手段と、所定の合成係数に基づいて、補間信号値と通常感度画素の出力信号とを合成した合成信号値を算出し、合成信号値で通常感度画素の出力信号を置換する合成処理手段と、を有すること特徴とする。
さらに本発明を実施の信号処理装置は、上記発明において、通常感度画素は少なくとも3つの色成分の出力信号を出力可能であり、低感度画素は少なくとも3つの色成分のうち、少なくとも1つの色成分の出力信号を出力可能であり、補間処理手段及び合成処理手段は、低感度画素が出力可能な色成分に対して補間処理及び合成処理を行うことを特徴とする。
さらに本発明を実施の信号処理装置は、上記発明において、補間処理手段は、通常感度画素の少なくとも1つの色成分の出力信号が第1の閾値以上であった場合に通常感度画素を補正対象とし、補正対象である通常感度画素において、第1の閾値との大小関係に関わらず、全ての色成分に対して補間処理及び合成処理を行うことを特徴とする。
さらに本発明を実施の信号処理装置は、上記発明において、第1の重み付け係数は、通常感度画素と低感度画素との距離が離れるほど小さい値をとることを特徴とする。
さらに本発明を実施の信号処理装置は、上記発明において、第2の重み付け係数は、通常感度画素の出力信号と第1の出力信号の同一色成分間の差分値において、差分値が負値のときは差分値が小さいほど小さい値をとり、差分値が非負値のときは差分値が大きいほど大きい値をとることを特徴とする。
さらに本発明を実施の信号処理装置は、上記発明において、第2の重み付け係数は、差分値の絶対値が増加するに従い差分値が負値のときにより早く減少することを特徴とする。
さらに本発明を実施の信号処理装置は、上記発明において、合成係数は、通常感度画素の全ての色成分が第1の閾値を下回るときには0をとり、通常感度画素のいずれかの色成分が第2の閾値以上のときには1をとることを特徴とする。
本発明を実施の信号処理装置によれば、白飛びした通常画素の信号補間のために周辺の白飛び補正画素の全ての色成分を参照するようにしたので、より精度の高い補正を行うことが可能となる。
図1に示すブロック図には、本発明の一実施形態である撮像装置の主要な構成が示されている。撮影レンズ100はカメラ本体200に着脱可能な交換レンズであり、カメラ本体200と共に撮像装置300を構成している。
撮影レンズ100は、ズームレンズ111と、フォーカスレンズ121と、絞りユニット131と、ズーム制御部110と、フォーカス制御部120と、絞り制御部130と、レンズCPU140と、を備えている。
ズームレンズ111及びフォーカスレンズ121は図中において簡単のためにそれぞれ1枚のレンズで描写しているが、これに限らない。ズームレンズ111及びフォーカスレンズ121はズーム制御部110とフォーカス制御部120とにそれぞれ接続されており、レンズの駆動や位置検出等の制御が行われる。
絞りユニット131は、絞り制御部130に接続されている。絞り制御部130は絞りユニット131の絞り値(F値)を制御する。
レンズCPU140は、後述するメインCPU240と協働して上述した各種制御部の制御内容を決定し、指示を出す。また、レンズCPU140は撮影レンズ100のズーム位置、フォーカス位置、F値等の撮影条件を各種制御部から取得し、メインCPU240に出力する。また、不図示のメモリ部に格納されたレンズIDを必要に応じてメインCPU240に出力する。
カメラ本体200は、撮像素子210と、信号処理部220と、画像処理部230と、メインCPU240と、記録媒体インターフェース(I/F)241と、ユーザインターフェース(I/F)242と、画像表示部250と、を備えている。
撮像素子210は、撮影レンズ100により集光された光線を受光して光電変換し、画像信号を出力する。本実施形態の撮像素子210としては、CMOSイメージセンサが用いられている。撮像素子210の受光面は多数の画素から構成されている。これらの画素は、その内部において、入射光の波長により光電変換される深さの違いを用いることで、単一画素からRGBの各色成分信号を出力可能な垂直色分離型のイメージセンサである。垂直色分離型のイメージセンサについて詳しくは後述する。撮像素子210は内部に不図示のゲイン可変アンプ、ゲイン補正回路、A/Dコンバータを備えており、画像信号はデジタルデータとして出力される。
撮像素子210には通常感度を有する通常画素と、通常画素と比較して低い感度を有する低感度画素とがそれぞれ複数含まれており、それらは所定の配列をもって撮像素子210を構成している。それぞれの画素に同量の光が入射した場合、低感度画素では光電変換により生成される信号値が通常画素と比べて低下する。低感度画素は、画像データにいわゆる白飛びが発生した場合に、発生した白飛びを修正するための補正に使用される画素である。以降では、この低感度画素を指して白飛び補正画素と呼ぶ場合もある。低感度画素についても詳しくは後述する。
信号処理部220は撮像素子210から読み出された色成分信号に対して各種の信号処理を施す。信号処理としては、例えば、画素受光量と出力値との間の線形性を確保するためのガンマ補正処理や、読み出した色成分信号を増幅するための増幅処理がある。
この信号処理部220は撮像素子210の出力に対して前段処理を行うフロントエンド装置である。例えばFPGAやASICといった画像処理を実行するIC(半導体)で構成され、所定のハードウェア処理(専用ハードウェアによる特定のデータ処理)を行うロジック回路である。
画像処理部230は、信号処理部220から送られてきた色成分信号に対して各種の画像処理を施す。低感度画素を用いた白飛び補正処理も、この画像処理部230で行われる。白飛び補正処理について詳しくは後述する。その他の画像処理として、例えば、ホワイトバランス処理、色再現処理、RAWデータ生成、JPEG形式やTIFF形式の画像データへの現像処理等がある。
この画像処理部230は信号処理部220から出力された信号に対して後段処理を行うバックエンド装置である。例えばDSPといった、ソフトウェアによってプログラミングされた所定のデータ処理を実行するプロセッサである。
メインCPU240は、撮像装置100全体の包括的な制御を行う。例えば、撮像素子210の読み出し制御を行う。メインCPU240が撮像素子210の駆動タイミングを決定する信号を出力することで、画素毎の水平駆動並びに垂直駆動が制御され、各画素からRGBの各色成分信号が読み出される。さらに、メインCPU240はレンズCPU140と電気的に接続されており、協働して撮影レンズ100の制御を行う。
記録媒体I/F241は、不図示の記録媒体との間でRAWデータや現像後の画像データの記録又は読み出しを行う。この記録媒体は、半導体メモリ等の着脱可能な記録媒体である。
ユーザI/F242は、例えば、レリーズボタン、電源ボタン、コマンドダイヤル、十字キー等の操作部材を有しており、ユーザがこれらの操作部材を操作すると、メインCPU240は所定の動作を行う指示を出す。
画像表示部250は、撮影画像や不図示の記録媒体から読み出された画像等を表示する。
なお、上述したゲイン可変アンプ、ゲイン補正回路、A/Dコンバータを内蔵していない撮像素子210を採用する場合には、これらのデバイスを個別に搭載すればよい。
図2は、撮像装置300に実装される垂直色分離型の撮像素子210を単純化して示した断面図である。上述したように、本実施形態の撮像素子210はいわゆる垂直色分離型のイメージセンサであり、簡単には、光電変換層であるところのフォトダイオードが深さ方向に3つ積層されて構成されている。ある画素に光が入射すると、入射光中の青色(B)成分は主に最上層に位置するBフォトダイオード211で光電変換される。同様に、入射光中の緑色(G)成分は主に中間層に位置するGフォトダイオード212で光電変換され、赤色(R)成分は主に最下層に位置するRフォトダイオード213で光電変換される。これらの垂直方向の色分離は、撮像素子210の材料として用いるシリコン(Si)の特性を利用したものである。
3層のフォトダイオードは、Si基板内部の異なる深さに所定のドープ処理を行うことで形成される。具体的には、Bフォトダイオー211は約0.2〜0.5μmの間の深さに形成され、Gフォトダイオード212は約0.5〜1.5μmの間の深さに形成され、Rフォトダイオード213は約1.5〜3.0μmの間の深さに形成される。従って、本実施形態の撮像素子210はベイヤー型イメージセンサに必須のカラーフィルタが不要でありながら、1つの画素でRGB3色の色成分信号を取得することが可能である。各画素が3色全ての波長成分を光電変換できるため、ベイヤー型イメージセンサにおいては必須の画素補間を行う必要がないというメリットもある。
なお、フォトダイオードに換えて、有機物や無機物等により形成され特定の吸収特性を有する光電変換膜を光電変換層として複数積層させた構成としてもよい。
上述したように本実施形態の撮像素子210は通常画素と低感度画素とを有しており、どちらも上述した垂直色分離構造を有している。低感度画素とは、通常画素に比べて各フォトダイオードが低感度となるように構成された画素であり、それ以外の構造は通常画素と同様であるとする。
低感度画素を得る方法としては複数考えられる。例えば、金属等を画素上面にエッチングしてマスクとなる遮光部を形成し、これによって開口面積が制限されることで画素中のフォトダイオードに届く光量を減少させればよい。また、画素位置に応じて露光時間を制御可能な撮像素子であれば、低感度画素として機能させたい画素についてのみ露光時間を短くするように制御すればよい。
本実施形態の低感度画素については、最上層であるBフォトダイオード211に対応する不図示のメタルマスクを各フォトダイオード上方に設ける構成としている。この構成とすることで、Bフォトダイオード211の入射光量を減少させられるだけでなく、それよりも下層に位置するGフォトダイオード212及びRフォトダイオード213についても同様に入射する光量を減らすことが可能となる。これにより、低感度画素の各フォトダイオードはそれぞれ通常画素の各フォトダイオードよりも低感度となる。本実施例の低感度画素では、理想的には通常画素と比べて感度が1/4に減少しているものとする。
図3は、撮像素子210上方から見た各画素の配置を模式的に表した図であり、各矩形がそれぞれ画素を表している。白い矩形が通常画素を、濃い色の矩形が低感度画素を表している。本図に示すように、低感度画素は2次元状に配置された通常画素の中に離散的に分布する構成となっていることがわかる。
上記撮像素子210に対して、上述したようにメインCPU240が画素信号の読み出し制御を行う。詳しくは、水平駆動信号によってある行が選択され読み出しが開始されると、まず、その行内の全ての画素のBフォトダイオード211からの信号が端から順番に読み出される。B信号の読み出しが完了すると、続いて同一行から中間層のGフォトダイオード212の信号を端から順に読み出し、最後に最下層のRフォトダイオード213の信号を端から順に読み出す。これにより1行の全ての画素からBGR全ての色成分信号の読み出しが完了する。
そして、以上の読み出しを撮像素子210上の全ての行に対して行うことで、画像1フレーム分の信号読み出しが完了する。撮像素子210から読み出された各色成分信号は、順次信号処理部220に送られる。
次に、本実施形態の撮像装置で行われる白飛び補正処理について説明する。図4は、画像処理部230で行われる白飛び補正に係る処理を示した模式図である。また、図5は、この白飛び補正処理を説明するためのフローチャートである。
上述したように、白飛び補正処理は画像処理部230において行われる。図4に示すように、画像処理部230内には、この白飛び補正処理を行う白飛び補正処理ブロック231が設けられている。この他にも、所定の画像処理を実行する不図示の処理ブロックも設けられている。
信号処理部220において所定の信号処理を施された画素出力信号は、画像処理部230に入力されて白飛び補正処理ブロック231に送られる。白飛び補正処理ブロック231は本図に示すように、ゲイン補正部232と、白飛び判定部233と、補間処理部234と、合成処理部235と、エラー判定部236と、を有している。
ゲイン補正部232では、入力された白飛び補正画素の信号値に対して所定のゲイン補正を行い、通常画素との間の感度差を補償する。白飛び判定部233では、通常画素の信号値が所定の条件を満たすか否かを検証し、当該通常画素に対する白飛び補正処理の要否を判定する。補間処理部234では、白飛び補正画素の信号値に対して所定の補間処理を施し、通常画素による画像データと同等のサイズとなるよう空間的な補間を行う。合成処理部235では、補間処理で得られた補間値と補正対象である通常画素の信号値とを合成し、通常画素の新たな信号値とする置換を行う。エラー判定部236では、合成処理部235で得られた新たな信号値が適切であるか否かの判定を行い、エラーと判定された場合には信号値に対して所定の補間処理を施す。
図5に示すフローチャートを用いて、白飛び補正処理について具体的に説明する。
ステップS101では、ゲイン補正部232において、白飛び補正画素からの信号値に対する公知のゲイン補正が行なわれ、白飛び補正画素のゲイン補正後の信号値Hが算出される。これにより、白飛び補正画素と通常画素との間の感度差が補償される。この処理に用いるゲイン値は、例えば、撮像装置300の生産工程においてあらかじめ取得しておいた値を、撮像装置300内の不図示のメモリ部に格納しておく。
また、装着されている交換レンズ100から受信するレンズデータを用いて、カメラ本体200内でより高精度のゲイン値算出を行うことも可能である。算出に用いるレンズデータとしては、フォーカスポジション、ズームポジション、F値等が考えられる。
ステップS102では、白飛び判定部233において、座標(x,y)に位置する通常画素信号に対して白飛び補正処理が必要か否か、すなわち通常画素からの出力信号R(x,y)が飽和して白飛び状態となっているか否かが判定される。本処理では、白飛び要否判定に2つの閾値T1,T2を用いる。T1は白飛び補正を開始する信号値、T2は入力画像データの飽和値を意味する。よって、以降通常画素の信号値はT2を越えないものとする。詳しくは、白飛び判定部233は読み出された通常画素の3つの色成分信号値R(x,y,c)をそれぞれ所定の閾値T1と比較する。そして、そのうち1つでも閾値T1よりも大きい信号値R(x,y,c)があれば当該通常画素に対して白飛び補正処理が必要と判定し、白飛び補正フラグを立てる。
いずれの信号値R(x,y,c)も閾値T1未満であれば当該通常画素は白飛び補正処理が不要であると判定し、本フローチャートを終了する。なお、この白飛び補正処理の要否判定は、全ての通常画素に対して行ってもよいし、所定の領域に対してのみ行ってもよい。
ステップS103からS104では白飛び補正画素による補間処理を行う。本実施例において白飛び補正画素による補間処理とは、白飛び補正フラグの立った通常画素(x,y)に対して定まる所定の領域D(x,y)に含まれる白飛び補正画素によって、通常画素位置(x,y)における信号値を推定するものである。通常画素の周囲の白飛び補正画素との間の距離及び信号差と、当該通常画素自身の飽和レベルとに基づいて、補間処理に用いる重み付け係数を算出する。
ここで、補間処理に利用される重み付け係数の算出について詳しく説明する。重み付け係数は、上述したステップS102において補正フラグの立った通常画素に対して算出される。図6は、この重み付け係数算出に係るフローチャートである。
本発明において白飛び補正処理に用いる重み付け係数は、白飛び補正フラグの立った通常画素(x,y)と補間処理の参照先である白飛び補正画素(xHLP,yHLP)との間の距離に関する要素と、上記2画素の信号差に関する要素と、から成る。以降では、この距離に関する重み付け係数をwd、信号差に関する重み付け係数をwvと呼ぶこととする。本図のフローチャートにより、これらの係数wdと係数wvとからなる重み付け係数wが得られる。
ここで、sdは任意のスケーリング係数である。
この式によれば、補正対象通常画素と白飛び補正画素との間の距離が近いほど大きい値となり、補正対象通常画素と白飛び補正画素との間の距離が離れるほど小さい値となることがわかる。また、スケーリング係数sdを適切に選択することで、ある距離に位置する白飛び補正画素による白飛び補正への寄与の大小を制御することが可能となる。すなわち、係数sdを大きくするほど関数wdの減衰が早くなるので、通常画素から離れた位置にある白飛び補正画素の白飛び補正への寄与をより小さくすることができる。実際には、スケーリング係数sdは補正効果を検証する中で良好だと思われる値が決定される。
領域Dとしては例えば、補正対象の通常画素を含み、その周囲の低感度画素を8×8個含むような矩形領域を考える。補間処理部234は、あらかじめ保存してある各画素の座標を用いて領域D内の画素間距離を算出する。そして、得られた各距離情報を用いて、参照する白飛び補正画素にそれぞれ対応する重み付け係数wdを算出する。
次に、信号差に関する重み付け係数wvを算出する。上述したように距離に関する重み付け係数wdは、1組の白飛び補正画素・通常画素に対して1つ算出した。これに対して信号差に関する重み付け係数wvは、1組の白飛び補正画素・通常画素に対して3つ算出する。これは、本実施例の撮像素子210が垂直色分離構造を有しており、1画素でRGB3つの色成分信号を出力可能なためである。そのため、1組の画素の信号差としてR信号差、G信号差、B信号差の3つが定義される。
ステップS102で行った白飛び補正の要否判定では、通常画素の3つの色成分信号値R(x,y,c)を閾値T1と比較し、これよりも大きい色成分信号を1つでも有する通常画素に対して白飛び補正フラグを立てていた。ステップS202では、再度各色成分信号値を閾値T1と比較する。
この比較を行うことで、通常画素の色成分毎に、各色成分信号値R(x,y,c)が2つの範囲に分類される。すなわち、補正対象通常画素の色成分信号値R(x,y,c)が、不飽和状態、飽和付近状態のいずれの領域に含まれるかが判別される。
本発明の白飛び補正では、飽和付近にある色成分信号値R(x,y,c)だけでなく、飽和していない色成分信号値R(x,y,c)についても補正の際に参照することができる。そして、色成分信号値R(x,y,c)が含まれる領域に応じて、信号差に関する重み付け係数wvの算出方法を異ならせている。
上述したようにステップS202では、補間処理部234において、通常画素の各色成分信号値R(x,y,c)と閾値T1とを比較する。比較の結果、色成分信号値R(x,y,c)の値が閾値T1未満、すなわち不飽和状態であった場合にはステップS203に進む。一方、色成分信号値R(x,y,c)の値が閾値T1以上、すなわち飽和付近状態であった場合にはステップS204に進む。
ここで、sc,+及びsc,−は共にスケーリング係数である。
上述したように、信号差に関する重み付け係数wvは補正対象通常画素の色成分信号値R(x,y,c)が含まれる領域に応じて算出方法が異なる。これは、本式に含まれる各スケーリング係数を場合分けして設定することで達成される。具体的なスケーリング係数の設定はそれぞれステップS203及びS204で行なわれる。
ステップS203では、補間処理部234において、前ステップにて不飽和状態(T1未満)であると判定された色成分信号値R(x,y,c)に対応するスケーリング係数を設定する。不飽和状態である色成分信号値R(x,y,c)に対してはスケーリング係数を定数としている。具体的には、以下の数式3により設定する。
ここで、sはスケーリング係数であり任意の定数である。
一方ステップS204では、補間処理部234において、ステップS202にて飽和付近状態(T1〜T2)であると判定された色成分信号値R(x,y,c)に対応するスケーリング係数を設定する。具体的には、以下の数式4により設定する。
ここで、s+及びs−は、共にスケーリング係数であり任意の定数である。また、tcは飽和度であり、補正対象である色成分信号値R(x,y,c)が所定の範囲(T1〜T2)の間のどの辺りに位置するかを表す値である。
この式によれば、スケーリング係数sc,+、sc,−それぞれが、上述した飽和度tcを合成係数として、定数s+又はs−とsとから決定されることがわかる。
この式によれば、所定範囲の下限をT1、上限をT2としたとき、色成分信号値R(x,y,c)が閾値T1に近いほど飽和度tcはゼロに近づき、色成分信号値R(x,y,c)が閾値T2に近いほど飽和度tcは1に近づく値を取る。
色成分信号値R(x,y,c)が閾値T1とT2の中間域にあった場合のスケーリング係数を算出するには、数式5から色成分信号値R(x,y,c)の飽和度tcを算出し、得られた飽和度tcと数式4を用いて2つのスケーリング係数を算出すればよい。
例えば、色成分信号値R(x,y,c)が上限値である閾値T2と同等であった場合には、上記式に当てはめて飽和度tcは1となることがわかる。その結果、このときのスケーリング係数として以下のものが得られる(数式6)。
以上で説明した色成分信号値R(x,y,c)に対応するスケーリング係数の設定を、白飛び補正処理において参照する全ての白飛び補正画素との組み合わせについて行う。
ステップS205では、補間処理部234において、上記各ステップで得られたスケーリング係数を用いて、各白飛び補正画素について信号差に関する重み付け係数wvを算出する。具体的には、上述した数式2により求められる。
上述したように、重み付け係数wvは、通常画素の色成分信号値R(x,y,c)とゲイン補正後の白飛び補正画素の色成分信号値H(xHLP,yHLP,c)の大小関係により異なるスケーリング係数を用いている。すなわち、縦軸を係数wv、横軸をH−Rとしたときに、横軸が正であるか負であるかによって関数wvの減衰に仕方が異なることを意味している。
H−Rは同一色成分における各画素間の信号差である。補間処理部234は、読み出し済みの補正対象である通常画素信号値R(x,y)から領域D内のゲイン補正後の白飛び補正画素信号値H(xHLP,yHLP)を同一色成分毎にそれぞれ減算して、各白飛び補正画素に対応する信号差H−Rを算出する。例えば、白飛び補正画素信号値HのB成分H(xHLP,yHLP,b)と通常画素信号値RのB成分R(x,y,b)とが比較されて信号差が算出される。
以上で、補正対象である通常画素と参照対象である白飛び補正画素との組み合わせに対して、信号差とスケーリング係数とが得られたので、補間処理部234はそれぞれの重み付け係数wvを算出する。
図7は、各種スケーリング係数を所定の値としたときの、重み付け係数wvと信号差H−Rの関数を示すグラフである。(a)は補正対象である通常画素の色成分信号値R(x,y)が不飽和状態である場合、(b)は補正対象である通常画素の色成分信号値R(x,y)が飽和付近状態である場合をそれぞれ示している。
これらのグラフ形状は、上述した任意の定数である3つのスケーリング係数s、s+、s−により決定される。本図(a)に示した不飽和状態の色成分信号値R(x,y)についての関数では、重み付けの減少の仕方がマイナス領域(H−Rが負)とプラス領域(H−Rが正)とで同じであり、左右対称になっている。また、本図(b)に示した飽和付近状態の色成分信号値R(x,y)についての関数では、マイナス領域(H−Rが負)における重み付けが不飽和状態の関数と比較して信号差の絶対値の増加に伴って急激に小さくなる。一方で、プラス領域(H−Rが正)における重み付けは不飽和状態の関数と比較して信号差の絶対値の増加に伴って緩やかに小さくなっており、全体として左右非対称になっていることがわかる。
これらのスケーリング係数は、上述したスケーリング係数sdと同様に任意の定数であるが、実際には白飛び補正処理の効果を検証する中で良好だと思われる値が決定される。
次に、本図で示した重み付けの特徴について説明する。
不飽和状態の色成分信号値R(x,y,c)に対する重み付け係数wvの関数は、上述したように左右対称の凸形状をしている。通常画素と白飛び補正画素の色成分信号値差H−Rの絶対値が小さいことは、通常画素と白飛び補正画素が同じ被写体の情報を持っているであろうことを意味するので、そのような場合には関数wvの凸性により大きい重み付けがなされる。一方、信号差が大きい組み合わせに対しては重み付けを小さくしている。
飽和付近状態の色成分信号値R(x,y,c)に対する重み付け係数wvの関数は、上述したように左右非対称の凸形状をしている。信号差H−Rが負値の領域では、白飛び補正画素の信号値が閾値T1よりも低いことから、白飛び補正画素の信号値が小さいほど通常画素と白飛び補正画素が違う被写体の情報を持っているであろうことを意味するため、信号差H−Rの絶対値が大きいほど小さい重み付けを行う。一方、信号差H−Rが非負値の領域では、白飛び補正画素の信号値が閾値T1以上であることから、閾値T1と白飛び補正画素の信号値の比較によって同じ被写体の情報を持っているかどうかを推測することができない。このような場合は、信号差H−Rが大きいときの重み付けを信号差が負値の場合に比べて緩やかに減衰させる。
以上で説明したように、本発明の白飛び補正処理においては、補正対象である通常画素信号の色成分信号値R(x,y,c)が飽和しているか否かによって、重み付け係数wvの決定に用いる関数を異ならせている。そして、中間域に含まれる信号値R(x,y,c)については、これらの関数から得られた重み付け係数wvをリニア補間することで決定している。これにより、信号差が負値の場合と非負値の場合の2状態の間を滑らかに推移させることが可能となる。
以上で、補正対象である通常画素の色成分信号値R(x,y,c)の信号差に関する重み付け係数wvの算出が完了する。
ステップS208では、補間処理部234において、ステップS201及びS207で得られた各重み付け係数から、各白飛び補正画素の補間処理時に適用する最終的な重み付け係数wを算出する。すなわち、単一の白飛び補正画素・通常画素の組み合わせに対応した1つの重み付け係数wd及び3つの重み付け係数wvが得られているので、それらから1つの重み付け係数wを算出する。具体的には、以下の数式8により求められる。
ここで、c∈{r,g,b}は出力信号に含まれる3つの色成分RGBを意味する。
この重み付け係数wの算出を、上記ステップで得られた各重み付け係数の全ての組み合わせに対して行う。これにより、領域D内の全ての参照白飛び補正画素を補間処理するための重み付け係数wが得られる。全ての係数wの算出が完了すると本詳細フローは終了し、図5のフローチャートに戻る。
なお、上述したステップS201の処理についてはこの位置に限られるものではなく、適宜後段のステップと順番が入れ替わっても何ら問題はない。例えば、ステップS202〜S204で各スケーリング係数が決定されてから重み付け係数wdを算出するようにしてもいいし、ステップS205で重み付け係数wvが算出されてから重み付け係数wdを算出するようにしてもいい。
また、上述したステップS206において、重み付け係数wを算出する際に、各色成分信号に対応した信号差に関する重み付け係数wvは色成分毎に計算したものを乗算していたが、これに限られるものではない。すなわち、3つの係数wvの合計値を算出して係数wdと乗算してもいいし、3つの係数wvの最小値のみを選択して係数wdと乗算してもいい。
図5のフローチャートに戻って説明を続ける。ステップS104では、補間処理部234において、上述したステップS103で得られた重み付け係数wを用いて、色成分毎に参照する領域D内の白飛び補正画素を補間処理した補間信号値U(x,y,c)を算出する。具体的には、白飛び補正画素による当該通常画素位置における補間信号値U(x,y,c)は、以下の数式9により求められる。
ここで、D(x,y)は補間処理において参照する領域である。
この式によれば、補間信号値U(x,y,c)は、領域Dに含まれる複数の白飛び補正画素それぞれについて、対応する重み付け係数wと白飛び補正画素の信号値Hとの積を全て加算した値を、対応する重み付け係数wを全て加算した値で除算することで得られる。
ステップS105では、合成処理部235において、上述したステップS104で得られた補間信号値U(x,y,c)と補正対象である通常画素の信号値R(x,y,c)とを用いて、色成分毎に合成信号値B(x,y,c)を算出する。具体的には、合成信号値B(x,y,c)は以下の数式10により求められる。
合成処理部235は、白飛び補正フラグの立った全ての通常画素に対応する合成信号値Bを算出する。
本実施例の白飛び補正処理においては、念のため、上記ステップにて算出された合成信号値Bに対して補正エラー判定ステップを設けている。本エラー判定に係るステップは省略可能である。ステップS106では、エラー判定部236において、上述したステップS105で得られた合成信号値B(x,y,c)が適切に算出されたか否かの判定を行う。エラー判定には、例えば以下の数式12を用いる。
ここで、V(x,y)は3つの補間信号値U(x,y,c)のうちの最大値である。
V(x,y)がこの式を満たしている場合に、エラー判定部236は当該合成信号値Bに対して補正エラーフラグを立てる。これは、参照対象の白飛び補正画素から補間処理により得られた補間信号値U(x,y,c)が飽和値T2の1/2以下になることが考えにくいからである。なお、ここでは1/2倍としたがこれには限られず、実際の補正処理結果から良好な値を見出して設定すればよい。
補正エラーフラグの立った合成信号値B(x,y,c)については、ステップS107に進む。補正エラーフラグの立たなかった合成信号値B(x,y,c)については、ステップS108に進む。
ステップS107では、エラー判定部236において、上述したステップS106で補正エラーフラグの立った合成信号値B(x,y,c)に対して補間処理を行う。すなわち、補正エラーフラグの立った合成信号値B(x,y,c)を持つ補正対象通常画素の周囲に位置し、補正エラーフラグの立たなかった補正対象の通常画素位置における合成信号値B(x,y,c)を用いて信号値の補間を行う。補間方法としては、例えばニアレストネイバー法やバイリニア法を用いることができる。
ステップS108では、合成処理部235において、白飛び補正対象である通常画素信号値を得られた合成信号値B(x,y,c)で置換する。この合成信号値B(x,y,c)は、上述したステップS106において補正エラーフラグが立たなかった合成信号値、又は、ステップS107において補間処理を施された合成信号値である。以上により、白飛び補正処理に係る本フローチャートが終了する。
なお、上述した実施例においては垂直色分離型の撮像素子を用いていたが、利用可能な撮像素子はこれに限らない。例えば、カラーフィルタアレイにより赤(R)、緑(Gr,Gb)、青(B)の4つの色成分を出力可能ないわゆるベイヤー型撮像素子に対して本発明を適用することも可能である。この場合、補間信号値Uを得るための重み付け係数wを求める式は以下のように記述される(数式13)。
また、例えば1つの色成分のみ出力可能なモノクロセンサにおいても本発明は適用可能である。このようにして、本発明は撮像素子が出力可能な色成分の数によらず、適切に白飛び補正処理を行うことができる。
以上で説明したように、白飛びした通常画素の信号補間のために周辺の白飛び補正画素の全ての色成分を参照するようにしたので、より精度の高い補正を行うことが可能となる。
Claims (7)
- 低感度画素の出力信号に基づいて補正対象である通常感度画素の出力信号を補正する信号処理装置であって、
前記信号処理装置は、
前記低感度画素出力信号に所定のゲイン補正を行い、第1の出力信号を得るゲイン補正手段と、
前記通常感度画素を含む所定の領域内に位置する複数の前記低感度画素に対して、前記通常感度画素と前記低感度画素との距離に関する第1の重み付け係数と、前記通常感度画素の出力信号と前記第1の出力信号の間の信号差に関する第2の重み付け係数とを算出し、前記各重み付け係数により決定される第3の重み付け係数に基づいて前記第1の出力信号に対して補間処理を行うことにより、前記通常感度画素位置における補間信号値を算出する補間処理手段と、
所定の合成係数に基づいて、前記補間信号値と前記通常感度画素の出力信号とを合成した合成信号値を算出し、前記合成信号値で前記通常感度画素の出力信号を置換する合成処理手段と、
を有することを特徴とする信号処理装置。 - 前記通常感度画素は少なくとも3つの色成分の出力信号を出力可能であり、
前記低感度画素は前記少なくとも3つの色成分のうち、少なくとも1つの色成分の出力信号を出力可能であり、
前記補間処理手段及び前記合成処理手段は、前記低感度画素が出力可能な色成分に対して補間処理及び合成処理を行う
ことを特徴とする請求項1に記載の信号処理装置。 - 前記補間処理手段は、前記通常感度画素の少なくとも1つの色成分の出力信号が第1の閾値以上であった場合に前記通常感度画素を補正対象とし、補正対象である前記通常感度画素において、前記第1の閾値との大小関係に関わらず、全ての色成分に対して補間処理及び合成処理を行う
ことを特徴とする請求項2に記載の信号処理装置。 - 前記第1の重み付け係数は、前記通常感度画素と前記低感度画素との距離が離れるほど小さい値をとる
ことを特徴とする請求項1乃至3のいずれかに記載の信号処理装置。 - 前記第2の重み付け係数は、前記通常感度画素の出力信号と前記第1の出力信号の同一色成分間の差分値において、前記差分値が負値のときは前記差分値が小さいほど小さい値をとり、前記差分値が非負値のときは前記差分値が大きいほど大きい値をとる
ことを特徴とする請求項2乃至4のいずれかに記載の信号処理装置。 - 前記第2の重み付け係数は、前記差分値の絶対値が増加するに従い前記差分値が負値のときにより早く減少する
ことを特徴とする請求項5に記載の信号処理装置。 - 前記合成係数は、前記通常感度画素の全ての色成分が前記第1の閾値を下回るときには0をとり、前記通常感度画素のいずれかの色成分が第2の閾値以上のときには1をとる
ことを特徴とする請求項2乃至5のいずれかに記載の信号処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017084982A JP2018186317A (ja) | 2017-04-24 | 2017-04-24 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017084982A JP2018186317A (ja) | 2017-04-24 | 2017-04-24 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018186317A true JP2018186317A (ja) | 2018-11-22 |
Family
ID=64355206
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017084982A Pending JP2018186317A (ja) | 2017-04-24 | 2017-04-24 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018186317A (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005286104A (ja) * | 2004-03-30 | 2005-10-13 | Fuji Film Microdevices Co Ltd | 広ダイナミックレンジカラー固体撮像装置及びこの固体撮像装置を搭載したデジタルカメラ |
JP2013081154A (ja) * | 2011-07-26 | 2013-05-02 | Foveon Inc | 異なる光感度をもつフォトダイオードを有する画像化アレイおよび関連する画像復元方法 |
JP2013175907A (ja) * | 2012-02-24 | 2013-09-05 | Toshiba Corp | 画像処理装置及び固体撮像装置 |
-
2017
- 2017-04-24 JP JP2017084982A patent/JP2018186317A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005286104A (ja) * | 2004-03-30 | 2005-10-13 | Fuji Film Microdevices Co Ltd | 広ダイナミックレンジカラー固体撮像装置及びこの固体撮像装置を搭載したデジタルカメラ |
JP2013081154A (ja) * | 2011-07-26 | 2013-05-02 | Foveon Inc | 異なる光感度をもつフォトダイオードを有する画像化アレイおよび関連する画像復元方法 |
JP2013175907A (ja) * | 2012-02-24 | 2013-09-05 | Toshiba Corp | 画像処理装置及び固体撮像装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4253634B2 (ja) | デジタルカメラ | |
JP2017118197A (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
WO2013065518A1 (ja) | 撮像装置及び画像処理方法 | |
US9813687B1 (en) | Image-capturing device, image-processing device, image-processing method, and image-processing program | |
US7202895B2 (en) | Image pickup apparatus provided with image pickup element including photoelectric conversion portions in depth direction of semiconductor | |
JP5826901B2 (ja) | 撮像装置及び光軸位置算出方法 | |
JP5033711B2 (ja) | 撮像装置及び撮像装置の駆動方法 | |
JP4352331B2 (ja) | 信号処理装置、信号処理方法及び信号処理プログラム | |
JP4993670B2 (ja) | 撮像装置及びその制御方法 | |
JP5786355B2 (ja) | デフォーカス量検出装置および電子カメラ | |
JP4581633B2 (ja) | 色信号補正方法、装置及びプログラム | |
JP2018186317A (ja) | 撮像装置 | |
JP6547645B2 (ja) | 画像処理方法 | |
JP2010239192A (ja) | 固体撮像素子及び撮像装置及び画像信号処理方法 | |
JP2006279389A (ja) | 固体撮像装置およびその信号処理方法 | |
JP6519276B2 (ja) | 撮像装置及び欠陥画素補正方法 | |
JP6837652B2 (ja) | 撮像装置及び信号処理方法 | |
JP2015159472A (ja) | 撮像装置 | |
JP2017208651A (ja) | 撮像装置 | |
JP2009303020A (ja) | 撮像装置及び欠陥画素補正方法 | |
JP6857341B2 (ja) | 撮像装置及び信号処理方法 | |
JP6451315B2 (ja) | 撮像装置 | |
JP5267290B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP2024012869A (ja) | 撮像装置及び撮像装置の画像データ読み出し方法 | |
JP2019161384A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200120 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200929 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210420 |