以下、実施例を図面を用いて説明する。なお、同一要素には同一符号を用い、重複する説明は省略する。
非可視光(第1の波長帯の光)として赤外光を例に説明するが、各実施例はイメージセンサ部の色フィルタを、可視光(第2の波長帯の光)と赤外光ではなく、可視光と非可視光(第1の波長帯の光)として紫外光に対して感度を持つように構成することも可能である。色フィルタが非可視光としての赤外光に対して感度を持つ場合は、可視光に所定の光量の非可視光としての赤外光を加えた光を、画像が暗い領域の被写体に照射することにより、画像全体として色再現性のよい画像が得られる。色フィルタが非可視光としての紫外光に感度を持つ場合は紫外光領域の画像と可視光のカラー画像を合成することで、色の着いた紫外光画像が得られる。
以下、非可視光(第1の波長帯の光)として近赤外の波長帯を含む赤外光を、可視光(第2の波長帯の光)として、赤色信号、緑色信号、青色信号、及び青色から赤色まで含む可視光である白色信号を例に説明する。
本実施例の撮像装置は、撮影した画像を複数の領域に分割した画像領域毎に、可視光の光量と、非可視光と可視光との光量の割合とに基づいて、被写体に照射する非可視光源の光量を調節する。画像を複数の領域に分割した画像領域につては、例示と共に後述する。
図1は、本実施例の撮像装置の構成例である。撮像装置は、撮像部101、信号処理部103、可視光信号生成部104、非可視光信号生成部105、白調整部106、画像合成部107、輝度信号生成部108、色差信号生成部109、制御部110、可視光量検波部112、非可視光量検波部113、信号レベル検波部114、および光源部116を有する。以下、各部について説明する。
撮像部101は、非可視光と可視光とに感度を有し、被写体を撮像して画像信号を生成して出力する。撮像部101は、撮像レンズ、ズームレンズ及びフォーカスレンズを含むレンズ群、絞り、シャッター、CCDまたはCMOSなどのイメージセンサ、増幅器及びADコンバータ等を含み、レンズ群によって結像された可視光及び非可視光を、イメージセンサの色フィルタにより所定の波長成分対応に分光して光電変換することで、所定の波長成分に対応した画素信号を出力する。所定の波長成分は、非可視光と可視光とが加算された成分であり、たとえば、赤色光+赤外光、緑色光+赤外光、青色光+赤外光、及び青色から赤色まで含む可視光+赤外光の4種である。
信号処理部103は、撮像部101から出力された画素信号(各画素信号は、所定の波長成分のいずれか1つに対応しているRAWデータ)から、デモザイク処理により、所定の波長成分毎の画素信号(1画素信号は、4つの波長成分の各々に対応している画素データ)を、画像の全領域に亘って出力する。以下、各部の動作において、特に説明を要しない場合は、所定の波長成分毎の画素信号に対応する動作を説明し、その動作が画像の全領域に亘っているものとする。
可視光信号生成部104は、信号処理部103から出力された所定の波長成分毎の画素信号を対象に、マトリクス演算処理を実行することにより、各所定の波長成分の画素信号から各可視光成分の信号である可視光信号を抽出して出力する。可視光信号は、所定の波長成分から赤外光成分を減じた、たとえば、赤色光、緑色光、青色光、及び青色から赤色まで含む可視光に対応する、赤色信号、緑色信号、青色信号、及び青色から赤色まで含む可視光である白色信号である。
非可視光信号生成部105は、信号処理部103から出力された所定の波長成分毎の画素信号を対象に、マトリクス演算処理を実行することにより非可視光成分に対する信号である非可視光信号を抽出して出力する。非可視光信号は赤外光信号である。
可視光信号生成部104および非可視光信号生成部105を分かり易くするために、図示及び説明を別々にしたが、マトリクス演算処理は、たとえば、白色信号=赤色信号+緑色信号+青色信号として、赤色信号、緑色信号、青色信号および赤外光信号を変数とした連立方程式を解くことに等しい。
白調整部106は、可視光信号生成部104から出力される各可視光信号に、ホワイトバランスのずれ量に応じた各利得(各可視光信号対応の利得)を乗算することによりホワイトバランス補正を行い、ホワイトバランス補正した各可視光信号を出力する。すなわち、ホワイトバランス補正は、各可視光信号の間で色に関連する信号である、赤色信号、緑色信号及び青色信号の割合を変えることである。なお、白調整部106は、ホワイトバランス補正した赤色信号、緑色信号及び青色信号を加算した白色信号も出力する。
画像合成部107は、非可視光信号生成部105から出力される非可視光信号と白調整部106から出力される可視光信号の各々とを合成した、所定の波長成分毎の合成信号を出力する。所定の波長成分の合成信号は、赤色信号+赤外光信号に対応した赤色合成信号、緑色信号+赤外光信号に対応した緑色合成信号、青色信号+赤外光信号に対応した青色合成信号、及び白色信号+赤外光信号に対応した白色合成信号である。
輝度信号生成部108は、画像合成部107が出力した各合成信号を所定の割合で加算する合成処理により生成した輝度信号を出力する。色差信号生成部109は、画像合成部107が出力した各合成信号から色に関係する合成信号である、赤色合成信号、緑色合成信号、及び青色合成信号を選択し、選択した合成信号から色差信号に変換する変換式を用いた合成処理を実行し、色差信号を出力する。
可視光量検波部112は、可視光信号生成部104が出力した可視光信号の大きさを画像領域別に(撮像した画像を複数の領域(画像領域)に分割し、分割した各々に関して)検出する処理を実行し、可視光信号の大きさに関する情報を画像領域別に出力する。可視光信号の大きさの検出処理は、各画素の可視光信号の信号レベルを、画像領域毎に加算し、画像領域毎の可視光信号の大きさとして、加算結果をそのまま、又は変換して出力する。そのまま又は変換のいずれでもよいのは、後述するように、画像領域毎に可視光信号の大きさと非可視光信号の大きさとの割合を光量の割合として用いるので、各画像領域について同じ処理(変換するのであれば、いずれの画像領域を対象にしても同様に変換する。)であればよいことによる。また、可視光信号として、赤色信号+緑色信号+青色信号、白色信号、および白色信号+赤色信号+緑色信号+青色信号のいずれかを用いて、同じ処理により画像領域毎に可視光信号の大きさを検出すればよい。
非可視光量検波部113は、非可視光信号生成部105が出力した非可視光信号の大きさを、可視光量検波部112と同様の画像領域別に検出する処理を実行し、非可視光信号の大きさに関する情報を画像領域別に出力する。非可視光信号の大きさの検出処理は、各画素の非可視光信号の信号レベルを、画像を複数に分割した、可視光量検波部112と同様の画像領域毎に加算し、画像領域毎の非可視光信号の大きさとして、加算結果をそのまま、又は変換して出力する。そのまま又は変換のいずれでもよいのは、可視光量検波部112の場合と同様の理由である。
信号レベル検波部114は、信号処理部103が出力した各画素信号の信号レベルを画像領域別に積算、または画像領域別のピーク値の検出等により、撮像画像の明るさまたはコントラスト等の明るさに係る情報を画像領域別に出力する。
光源部116は、撮像装置が撮影対象(以下、被写体)に照射する光量を画像領域別に調節できる、非可視光の赤外光源であり、後述する制御部110から設定される画像領域毎の光量制御パラメータに対応した電圧を各画像領域に対応した発光部(光源)に印加することにより、制御した光量の非可視光を被写体に照射する。光源部116の各発光部による非可視光の照射方向および照射領域は、昨今のプロジェクションマッピング(ビデオマッピングやマッピングプロジェクションとも呼ばれる)技術を用いることにより、容易に制御される。
制御部110は、制御部110に予め設定された明るさの目標値等と、信号レベル検波部114が出力する明るさに係る情報に基づいて、撮像部101の露光制御を行う。このとき、信号レベル検波部114は画像領域別に明るさに係る情報を出力するので、画像全体としての明るさに係る情報に変換して用いる。撮像部101の露光制御は、制御部110が撮像部101に設定する露光制御パラメータを用いる。露光制御パラメータは、撮像部101のレンズの絞り、シャッター速度、増幅器の利得であり、撮像部101に入力する光量および撮像部101から出力する画素信号の信号レベルを制御するパラメータである。ここで、予め露光制御パラメータ、信号レベル検波部114の出力情報(明るさに係る情報)、及び被写体の光量の関係を制御部110に予め設定しておくことにより、制御部110は、撮像部101に設定した露光制御パラメータと信号レベル検波部114の出力情報から画像全体としての光量を算出することができる。
被写体に照射されている可視光の光量を可視光の絶対量と呼び、被写体に照射されている非可視光の光量を非可視光の絶対量と呼ぶ。制御部110に、可視光の絶対量に対する適切な赤外光量の情報(適切赤外光量)を予め設定しておく。赤外光は、可視光の絶対量が十分にある場合には不要である。可視光の絶対量が少ない場合に、撮像装置でノイズが少ない画像を生成するために赤外光の被写体への照射が有効であるが、赤外光量を多くすると被写体の色を再現するのが難しくなる。撮像部101には、可視光の絶対量に対応して、生成する画像のノイズ量と色の再現性のバランスで、実験的または経験的に視認性がよい画像が得られる赤外光量を、適切赤外光量として予め設定しておく。
なお、適切赤外光量は制御部110内に予め設定しても良いし、撮像装置にメモリを設け、メモリに設定された適切赤外光量の設定値を制御部110が読み出すことにより、適切赤外光量を得ても良い。また、可視光の絶対量と適切赤外光量の関係が、関係式で表される場合、制御部110はその関係式から適切赤外光量を算出する。また、可視光の絶対量をいくつかの範囲(段階)に分け、分けられた各範囲内の可視光の絶対量に対応した適切赤外光量が設定されている場合、制御部110は可視光の絶対量に対応した適切赤外光量を選択する。
制御部110は、可視光量検波部112が出力する画像領域別の可視光信号の大きさと、非可視光量検波部113が出力する画像領域別の非可視光信号の大きさに基づいて、可視光と赤外光の光量の割合(可視光比)を画像領域別に算出する。制御部110は、画像領域別に算出した可視光比および信号レベル検波部114が出力する画像領域別の明るさに係る情報から得られる被写体の画像領域別の光量の絶対量(可視光の絶対量と赤外光の絶対量の和)を用いて、可視光の絶対量と赤外光の絶対量を画像領域別に算出する。制御部110は、算出した画像領域別の可視光の絶対量に対応して制御部110に予め設定されている適切赤外光量から目標赤外光量(後述)を画像領域別に算出または選択する。制御部110は、画像領域の各々において、算出した可視光の絶対量に対応した適切赤外光量に、算出した赤外光の絶対量が合致するように、光量制御パラメータ(適切赤外光量と赤外光の絶対量との差分に応じた目標赤外光量の設定)により光源部116を制御する。赤外光の絶対量が適切赤外光量501より少ない画像領域には光源部116から照射する赤外光の光量が多くなるように、赤外光の絶対量が適切赤外光量501より多い画像領域には光源部116から照射する赤外光の光量が少なくなるように、制御部110は、画像領域毎の光量制御パラメータにより光源部116を制御する。
説明した撮像装置を用いた撮影の例は、後述する。説明したように、本実施例の撮像装置では、撮像部101に設定した画像領域毎の光量制御パラメータと、信号レベル検波部114、可視光量検波部112、及び非可視光量検波部113の画像領域毎の出力から、光源部116から被写体に画像領域毎に適切な光量の赤外光を照射することができ、画像領域毎の可視光量に増減が生じても、色再現性の高く視認性の良い画像を生成できる。
以上、本実施例の撮像装置について説明したが、回路構成は本実施例に限定されるものではなく、たとえば、信号レベル検波部114による、撮像画像の明るさ、あるいはコントラスト等の明るさに係る情報の画像領域毎の取得に替えて、制御部110が、可視光量検波部112の出力情報と非可視光量検波部113の出力情報を合わせたものを画像領域毎の明るさに係る情報として、露光制御および画像領域毎の可視光および非可視光の光量の絶対量の算出に用いても良い。これにより、回路規模が低減できる。また、白バランス検波部111は、可視光量検波部112により色信号ごとに検波し、各色信号の検波結果の差からホワイトバランスのずれ量を取得してもよい。これにより、回路規模が低減できる。
以下、撮像部101を構成する各部の一例について説明する。
図2は、撮像部101の一例を示す構成図である。撮像部101は、レンズ部201と絞り202を含む光学部200、イメージセンサ部203、信号レベルを増幅する増幅部204、および、アナログ信号をデジタル信号に変換するAD変換部205を有する。レンズ部201は、撮像レンズ、ズームレンズやフォーカスレンズを含むレンズ群であり、制御部110からの露光制御パラメータに従って絞り202を開閉することにより、光学部200が出力する光量を調整する。
撮像部101への入射光は、光学部200を通してイメージセンサ部203に入射する。イメージセンサ部203は、後述する色フィルタを介した入射光を光電変換し、イメージセンサ部203への入射光の光量に対応した信号を出力する。増幅部204は、イメージセンサ部203から出力された信号を増幅する。AD変換部205は、増幅部204で増幅されたアナログ信号をデジタル信号に変換する。
撮像部101から出力される信号のレベル(信号レベル)は、光学部200の絞り202やイメージセンサ部203の露光時間、および増幅部204の利得の調整により制御される。明るさが同じ被写体であり、光学部200の絞り202やイメージセンサ部203の露光時間、増幅部204の利得を同じ値に設定すれば、撮像部101から出力される信号レベルは等しくなる。したがって、光学部200の絞り202やイメージセンサ部203の露光時間、増幅部204の利得と信号レベルから被写体の画像全体としての光量を求めることができる。
夜間等の暗い被写体を撮像する監視カメラ用途における動画像ではイメージセンサ部203の露光時間が動画像の1フレームの時間(フレームレートの逆数)より短いため、光学部200の絞り202を開き、増幅部204の利得を大きくして撮影する場合が多い。さらに、非可視光である赤外光を使って、夜間等の暗い被写体においても撮像装置の出力画像の視認性を向上させている。
図3は、赤外光を利用するイメージセンサ部203の色フィルタ配列の一例である。RIR301は赤色光と赤外光に感度を持つ色フィルタ、GIR302は緑色光と赤外光に感度を持つ色フィルタ、BIR303は青色光と赤外光に感度を持つ色フィルタBIR、WIR304は青色から赤色光までの可視光と赤外光に感度を持つ色フィルタである。各々の色フィルタに赤外光の感度を持たせることにより、夜間等の暗い被写体においても撮像部101から出力される信号レベルを高くすることができる。
図4は、図3で説明した色フィルタの分光特性の一例である。色フィルタRIR301が配置されたRIR画素は可視光の赤の波長と赤外光の波長の各々に感度を持つ。色フィルタGIR302が配置されたGIR画素は可視光の緑の波長と赤外光の波長の各々に感度を持つ。色フィルタBIR303が配置されたBIR画素は可視光の青の付近と赤外光の波長の各々に感度を持つ。色フィルタWIR304が配置されたWIR画素は可視光の赤、緑および青の波長と赤外光の波長の各々に感度を持つ。
信号処理部103は、異なる色フィルタで配列されたイメージセンサ部203の出力画素信号をAD変換した撮像部101の出力(所定の波長成分のいずれか1つに対応しているRAWデータ)に対して,補間処理などによってデモザイク処理を実行する。あるRIR画素信号の画素位置にGIR画素信号、BIR画素信号およびWIR画素信号は存在しないため、信号処理部103は、周囲の存在しない各色の画素信号から補間処理によって各色の補間信号を生成し、補間信号により補間した画素信号を出力する。
図5は、光源部116の光量制御の一例である。横軸は被写体に照射されている可視光量(可視光の光量)、縦軸は被写体に照射されている赤外光量(非可視光の光量)である。適切赤外光量501は、可視光量に対して出力画像の色再現性が良く、視認性が最もよくなる赤外光量である。環境赤外光量502は、光源部116から光を照射していないときに被写体に照射されている赤外光量である。目標光量503は、光源部116から被写体に照射する赤外光の目標の光量であり、適切赤外光量501から環境赤外光量502を減じた光量である。
制御部110は、前述のように、画像領域別に算出した可視光比および信号レベル検波部114が出力する画像領域別の明るさに係る情報から得られる被写体の画像領域別の光量の絶対量(可視光の絶対量と赤外光の絶対量の和)を用いて、可視光の絶対量と赤外光の絶対量を画像領域別に算出する。制御部110は、各画像領域において、算出した可視光の絶対量に対応した適切赤外光量501に、算出した赤外光の絶対量が合致するように光源部116を制御する。赤外光の絶対量が適切赤外光量501より少ない画像領域には光源部116から照射する赤外光の光量が多くなるように、赤外光の絶対量が適切赤外光量501より多い画像領域には光源部116から照射する赤外光の光量が少なくなるように、制御部110は、画像領域毎の光量制御パラメータにより光源部116を制御する。
なお、図5では可視光量と適切赤外光量501の関係を線形で示しているが、可視光量と適切赤外光量501の関係は線形に限ったものではなく、撮像素子(イメージセンサ部203)の特性により非線形になる場合がある。
前述のように撮像部101の出力の画素信号(各画素信号は、所定の波長成分のいずれか1つに対応しているRAWデータ)はデジタル信号であるので、信号処理部103以降の処理をプロセッサにより実行するのに好適である。したがって、撮像装置は、撮像部101、光源部116、プロセッサ及びメモリを含んで構成できる。プロセッサは、図1の信号処理部103〜信号レベル検波部114の各部の処理を前述したように実行し、メモリに、露光制御パラメータ、図5に示した可視光量、適切赤外光量501、環境赤外光量502及び目標光量503の関係、画像領域毎の光量制御パラメータなどを格納する。ただし、プロセッサは、メモリに格納した画像領域毎の光量制御パラメータを光源部116に出力し、光源部116は出力された画像領域毎の光量制御パラメータに対応した電圧を各画像領域に対応した発光部に印加する。
以上のように、撮像装置は、光源部116から照射する赤外光の光量を、被写体に照射されている可視光の光量に対して、画像領域毎に適切に制御することで、画像全体として色再現性が良く、視認性の良い画像を得ることができる。説明した撮像装置に対する理解を深めるために、以下に撮像装置を用いた撮影の例を説明する。
図6は、撮像装置を用いて撮影する撮影シーンの一例である。光源部116は、撮影方向に向かって左側に対して非可視光を照射する光源部Aと、撮影方向に向かって右側に対して非可視光を照射する光源部Bを有している。撮影方向の被写体には周辺光が照射されており、人物Aは物陰にいるために周辺光が当たらず、人物Bにのみ周辺光が照射されている撮影条件である。なお、光源部116が有する光源による非可視光の照射方向を、制御部110が制御すれば、光源の数を少なくできる。
図7は、図6の撮影条件で撮像装置により撮影された画像である。被写体として人物Aと人物Bが撮影され、人物Aを含む画像領域Aと人物Bを含む画像領域Bとに画像が領域分割されている。画像領域Aは、光源部Aにより非可視光が照射される画像領域であり、画像領域Bは、光源部Bにより非可視光が照射される画像領域である。
図8は、光源部Aにより非可視光が被写体の人物Aに照射されている撮影シーンである。図6の撮影条件により、画像領域Aの非可視光の光量が目標光量より少ないならば、制御部110は図8に示すように光源Aが照射する非可視光の光量を多くする。
図9は、光源部Aにより非可視光が被写体の人物Aに照射されて撮影された画像である。このように、画像領域Aの被写体に照射される非可視光量が適切な画像を取得することができる。
以上の例示から分かるように、画像を複数の領域に分割した画像領域は、光源部116による被写体への、例示の光源部Aおよび光源部Bのように、独立した非可視光の照射領域に対応する。ただし、照射領域を円形に、画像領域を矩形に例示しているように、照射領域と画像領域とは一致する必要はない。
また、撮像装置の各部の動作における画像領域は、撮像方向の明るさに応じて予め設定した、光源部116による照射領域に対応するように、画像領域に分割し、分割した画像領域を画素位置として制御部110に予め記憶しておき、ある画素信号を処理するときに、その画素信号がどの画像領域の画素位置にあるかにより把握される。画像領域が矩形であれば、4角の画素位置の座標を制御部110に予め記憶しておく。
以上のように、画像内の被写体毎に対応する画像領域毎に、照射する非可視光の光量を制御することで、画像内の画像領域毎に可視光量の増減が生じても、撮像装置は、色再現性が高く、視認性の良い画像を生成する。
図10は本実施例の撮像装置の構成例である。本実施例の撮像装置は、実施例1の撮像装置に、新たに非可視光調整部701を含み、非可視光信号生成部105および画像合成部107の動作が実施例1と異なる。非可視光調整部701は、非可視光信号生成部105から出力された画像領域毎の非可視光信号に、制御部110で指定された画像領域毎の利得を乗算した画像領域毎の非可視光信号を、画像合成部107へ出力する。
画像合成部107は、画像領域毎の非可視光信号と白調整部106から出力される可視光信号の各々とを合成した、所定の波長成分毎の合成信号を出力する。画像合成部107は、実施例1では非可視光信号生成部105から出力される非可視光信号を画像の合成に用いるが、本実施例では、非可視光調整部701から出力される画像領域毎の非可視光信号を用い、画像領域毎に非可視光信号の信号レベルが制御された、所定の波長成分毎の合成信号を出力する。
以上により、非可視光信号の信号レベルが画像領域毎に制御されることにより、画像領域毎の非可視光の絶対量が等価的に制御されることになり、画像内の画像領域毎に可視光量の増減が生じても、撮像装置は、色再現性が高く、視認性の良い画像を生成する。
図11は、光源部116および非可視光調整部701の、制御部110による制御方法の一例である。図11の(1)は、図5と同じものには同じ符号を付している。閾値1は、被写体に照射されている可視光量に対して視認性の良い画像を生成するのに適切な赤外光量である適切赤外光量501と光源部116の赤外光源を点灯しなくても被写体に照射されている環境赤外光量502とが等しい場合の可視光量であり、被写体に照射されている可視光量が閾値1より多ければ、光源部116からの赤外光の照射は不要であり、かつ、可視光量の増加に応じて、環境赤外光量502を減らした方が、色再現性が良いことを示している。閾値2は、色再現性が良く、視認性の良い画像を生成するための可視光量として十分であり、赤外光が不要になる可視光量を示している。撮像装置が出力する画像を色再現性が良く、視認性の良いものにするには、閾値1から非可視光の信号レベルを下げていき、閾値2で信号レベルを最小にする制御をする。
図11の(2)は、制御部110が非可視光調整部701に設定する利得801の例を示している。制御部110は、可視光量が少ない画像領域では非可視光調整部701の利得を1倍とし、画像合成部107は非可視光信号生成部105から出力される、その画像領域の非可視光の信号レベルを使用する。非可視光調整部701の利得が1の画像領域では、その画像領域の被写体に照射する赤外光量を、光源部116からその画像領域の被写体に照射する非可視光の光量を増減することにより、非可視光信号生成部105から出力される、その画像領域の非可視光信号レベルを制御する。
制御部110は、可視光量が閾値1を超える画像領域は、可視光量の増加に応じて非可視光調整部701に出力する利得を下げていき、閾値2で最小値(たとえば、0.01)とする。制御部110では、非可視光調整部701で非可視光信号レベルを画像領域毎に制御することにより、光源部116からの光量が必要な可視光量から赤外光量が不要な可視光量まで、画像合成部107に入力する可視光成分に対する、画像領域毎の非可視光成分の割合を制御でき、撮像装置から出力される画像の色再現性を向上させることができる。
以上説明した撮像装置により、非可視光調整部701を設けることにより、画像領域毎に、赤外光の光源が必要な低照度から赤外光が不要な高照度の被写体まで視認性の良い画像を得ることができる。
なお、図11の(2)に示す閾値1および閾値2は固定値ではなく、撮影環境によって異なる。また、可視光量と赤外光利得の関係は1例であり、撮像部101の特性や撮像環境によって異なる場合があり、図示した関係に限定されるものではない。
本実施例の撮像装置は、実施例1で説明したように、プロセッサにより、図10の信号処理部103〜信号レベル検波部114および非可視光調整部701の各部の処理を実行してもよい。
以上説明したように、被写体に照射されている非可視光量が、必要な非可視光量よりも多い画像領域では、非可視光調整部701で赤外光量の信号レベルを小さくすることにより、色再現性の良い画像を得ることができる。
以上では、実施例1と同様に、色差信号を生成する色差信号生成部109を、画像合成部107の後に配置した例で説明しているが、色差信号生成部109では色差信号生成時に非可視光信号成分が減算されてなくなるので、白調整部106の出力信号を用いるように配置しても同様の色差信号が得られる。
本実施例は、画像の領域によって可視光量や非可視光量に差異がある場合の光量制御の例である。本実施例でも、非可視光を赤外光として説明する。
また、説明を分かり易くするために、実施例1、2の画像領域ではなく、本実施例では画像として説明するが、画像を画像領域と読み替えることにより、本実施例が、画像を複数の分割した画像領域においても同様であることが理解される。
図12は、被写体を撮像装置で撮像した画像の一例である。画像1000は、被写体1001および被写体1002を撮像し、被写体1001は撮像装置に近く、被写体1002は撮像装置から遠い例を示している。被写体1001の近くに可視光源があり、被写体1002の近くには可視光源がない場合、被写体1001の可視光量は被写体1002の可視光量より多くなる。このように、画像1000内の被写体によって、可視光量が異なることから、適切赤外光量も異なることになる。
また、光源部116により被写体に照射される赤外光の光量は、光源部116が照射する赤外光の光量と、光源部116と被写体との距離で決定されるので、同じ光源部116か撮像範囲に同じ光量の赤外光を照射しても、被写体1001が受ける赤外光量と被写体1002が受ける赤外光量は異なる。そこで、撮像装置が撮像する画面内の各被写体を視認性の良い画像として出力するために、画素毎に非可視光調整部701の利得を制御する。以下、制御方法について説明する。
本実施例の撮像装置は、実施例2の撮像装置(図10)との比較で、可視光量検波部112が出力する可視光信号の大きさ(信号レベル)と、非可視光量検波部113が出力する非可視光信号の大きさ(信号レベル)を入力し、動作する制御部110が実施例2と異なる。したがって、本実施例の撮像装置の構成例として、実施例2と同様の図10を用いて説明する。
制御部110は、光源部116が撮像範囲に向けて照射する赤外光の光量(実施例1で説明した目標光量503)を決定する。目標光量503は、実施例1で説明したように、適切赤外光量501から決定される。適切赤外光量501は、信号レベル検波部114が出力する明るさに係る情報から得られる画像の光量の絶対量、並びに、可視光量検波部112が出力する可視光信号の大きさ、および非可視光量検波部113が出力する非可視光信号の大きさから得られる可視光比に基づいて決定される。
目標光量503は、実施例1では、画像領域毎に決定されるが、本実施例では、局所的に可視光量が少ない領域に対応するために、画像を複数の小領域に分割し、小領域毎に目標光量503を決定する。実施例1の画像領域が、局所的に可視光量が少ない領域を判別するために十分であれば小領域を画像領域としてもよいが、一般に小領域は画像領域より小さく設定する。小領域は、光源部116を制御するためではなく、撮像装置内の各部の処理のために設定する領域であるので、任意に小さくできる。
したがって、本実施例では、可視光量検波部112、非可視光量検波部113、および信号レベル検波部114の各出力は、小領域毎に制御部110に入力される。制御部110は、小領域毎の可視光の絶対量を求め、可視光の絶対量が最も少ない小領域の可視光の絶対量を用いて、適切赤外光量501および目標光量503を決定し、光源部116を制御する。
制御部110は、可視光信号生成部104からの画素毎の可視光信号と、非可視光信号生成部105からの画素毎の非可視光信号とから、画素毎の適切赤外光量501を求め、さらに非可視光調整部701の画素毎の利得を決定する。
制御部110による、非可視光調整部701の画素毎の利得の決定方法の例を説明する。図12の被写体1002が最も可視光量が少ない小領域にあるとする。図13は、被写体1002の可視光量と赤外光量との関係を示す例である。図13の横軸は被写体に照射されている可視光量(可視光信号生成部104からの画素毎の可視光信号の信号レベル)を表し、縦軸は被写体に照射されている赤外光量(非可視光信号生成部105からの画素毎の非可視光信号の信号レベル)を表し、可視光量に対する適切赤外光量501を表す。図13において、被写体1001の可視光量1101、被写体1002の可視光量1102、被写体1001の赤外光量1111、被写体1002の赤外光量1112、被写体1001の可視光の光量に対して適切赤外光量1113、被写体1002の可視光の光量に対して適切赤外光1114示している。ここでの赤外光量は、光源部116からの照射する赤外光と環境赤外光との光量が加算された光量である。
図13では、被写体1002の可視光量1102に対する赤外光量1112が適切赤外光量1114であるが、被写体1001では適切赤外光量1113より被写体1001に照射されている赤外光量1111が多いことを示している。被写体1002が最も可視光量が少ない小領域にあるとして、光源部116を制御しているので、被写体1002は適切赤外光量1114が照射されている。したがって、被写体1002を含む小領域以外の小領域では、照射されている赤外光量は適切赤外光量1113より多くなっている。
図14は、非可視光調整部701へ設定する画素毎の利得の制御曲線である。図14は、横軸が照射されている赤外光量と適切赤外光量1113との差を表し、縦軸が非可視光調整部701へ設定する画素毎の利得を表し、横軸の値に対する縦軸の値の制御曲線1301を表している。ここで、赤外光量に対して非可視光調整部701で非可視光信号レベルを調整することなく出力する場合の利得を1としている。
制御部110は、被写体に照射されている赤外光量と適切赤外光量の差分がない場合では利得を1とし、被写体に照射されている赤外光量と適切赤外光量との差が大きくなるにつれ利得を制御曲線1301に沿って曲線的に下げていく。なお、図14ではノイズの増幅を考慮し、適切赤外光量のほうが被写体に照射されている赤外光量よりも大きい場合は利得が1になるように制御しているが、不足分を補うように利得を大きくしてもよい。
非可視光調整部701は、制御部110によって決定された画素毎の利得を、非可視光信号生成部105からの画素毎の非可視光信号の信号レベルに乗算して、乗算結果としての非可視光信号の信号レベルを画像合成部107に出力する。
以上説明したように、制御部110は、光源部116の光量を最も可視光の光量が少ない小領域の光量を補うように制御し、可視光の画素毎の信号レベルに対応する適切赤外光量と非可視光の画素毎の信号レベルとの差に基づいて、制御曲線に従って画素毎の利得を決定する。さらに、非可視光調整部701が、画素毎の利得を用いて、画像合成部107へ出力する非可視光の画素毎の信号レベルを制御する。以上のような制御により、撮像装置で撮像した映像の画面内で可視光量にばらつきがある場合にも、画像合成部107に入力する非可視光信号レベルを適切に制御でき、色再現性がよい画像を生成できる。
なお、本実施例では画素単位での制御について説明したが、画素間で急激に利得が変化することにより擬似輪郭等の視認性の低下がある場合は、例えば、ローバスフィルタを設け、画素間の利得の変化を滑らかにしてもよい。
図15は、本実施例の撮像装置の構成例である。本実施例の撮像装置は、実施例1(図1)の構成の光源部116の前面(照射方向)に、フィルタ1401を有する。フィルタ1401は、画像を複数に分割した分割領域毎に、光源部116が照射する光の透過率を調整できる液晶パネル等により構成されており、光の透過率の変化により各分割領域に対応する被写体に照射される光量を制御する。
光源部116は、実施例1と同様に、少なくともオン・オフ制御できる赤外光源である。ただし、本実施例では、フィルタ1401の透過率を分割領域毎に調整するので、実施例1で例示したように分割領域に対応した光源を設ける必要はない。
図16は、光源部116およびフィルタ1401の制御例である。図16の(1)は、図5と同様である。
図16の(2)の横軸は分割領域に対応した被写体に照射されている可視光量を表し、縦軸はフィルタ1401の透過率を表し、被写体に照射されている可視光量に応じて、制御部110が制御する透過率1501を表す。可視光量が少ないときは、フィルタ1401の透過率を大きくし、光源部116の赤外光の多くを透過させる。可視光量が大きくなり、必要な赤外光少なくなるにつれ、フィルタ1401の透過率を下げていき、画像合成部107に入力する分割領域毎の赤外光の成分を少なくする。
以上の制御により、光源から被写体に照射される赤外光量を分割領域毎に調節することができ、実施例1と同様に、色再現性が良く、視認性の良い画像が得られる。また、第2および第3の実施例のように非可視光調整部701を設けることにより、それぞれ同様な効果を得ることができる。
なお、実施例1では分割領域に対応して物理的大きさに制約のある光源を設けるが、本実施例で用いるフィルタは小型で物理的制約が小さいので、分割領域の数を大きくでき、きめ細かい制御により、色再現性が良く、視認性の良い画像が得られる。
図17は、本実施例の撮像装置の構成例である。本実施例の撮像装置は、実施例1(図1)の構成の、非可視光生成部105と画像合成部107との間に非可視光調整部701を設け、白調整部106と画像合成部107との間に可視光調整部702を有する。実施例2、3と比較すると可視光調整部702を追加したことになる。撮像装置は、実施例1と同様に画像領域対応に光源を制御し、新たに非可視光調整部701および可視光調整部702により非可視光および可視光の信号レベルを画像領域毎に調整する。
非可視光調整部701は、実施例2と同様に、非可視光信号生成部105から出力された画像領域毎の非可視光信号に、制御部110により指定された画像領域毎の利得を乗算した画像領域毎の非可視光信号を、画像合成部107へ出力する。また、可視光調整部702は、可視光信号生成部104から出力された画像領域毎の可視光信号に、制御部110により指定された画像領域毎の利得を乗算した画像領域毎の可視光信号を、画像合成部107へ出力する。
制御部116は、実施例1と同様に、予め可視光の絶対量に対する適切赤外光量の関係に基づいて、光源部116から照射する非可視光(赤外光)の光量を画像領域毎に制御する。本実施例の制御部116は、さらに、画像領域毎の非可視光量と目標非可視光量との関係に基づいて、非可視光調整部701および可視光調整部702の各々が用いる利得を設定する。非可視光調整部701の動作は実施例2と同様であり、可視光調整部702の動作は、白調整部106が出力する可視光信号を対象にすること以外は、非可視光調整部701の動作と同様である。
図18は、撮像装置を用いて撮影する撮影シーンの一例である。光源部116は、実施例1の撮影シーンの例示(図6)と同様に、撮影方向に向かって左側に対して非可視光を照射する光源部Aと、撮影方向に向かって右側に対して非可視光を照射する光源部Bを有している。撮影方向の被写体には周辺光が照射されており、人物Aは物陰にいるために周辺光が当たらず、人物B、人物Cおよび人物Dに周辺光が照射されている撮影条件である。
図19は、図18の撮影条件で撮像装置により撮影された画像である。被写体として人物A〜Dが撮影され、各人物を含む画像領域A〜Dに画像が領域分割されている。画像領域AおよびCは、光源部Aにより非可視光が照射される画像領域であり、画像領域BおよびDは、光源部Bにより非可視光が照射される画像領域である。したがって、本実施例の画像領域は、実施例1の画像領域をさらに分割した領域である。
図20は、光源部Aにより非可視光が被写体の人物Aに照射されている撮影シーンである。図18の撮影条件により、画像領域Aの非可視光の光量が目標光量より少ないとするならば、制御部110は図20に示すように光源Aが照射する非可視光の光量を多くする。
図21は、光源部Aにより非可視光が被写体の人物Aに照射されて撮影された画像である。このように、画像領域Aの被写体に照射される非可視光量が適切な画像を取得することができる。
一方、光源Aの照射光量を多くしたために、画像領域Cの非可視光量が目標非可視光量より多くなる。このような場合、制御部110は、画像領域Cに対応する、非可視光調整部701利得及び可視光調整部702の利得の少なくとも一方を低くし、画像合成部107に入力する画像領域Cの信号レベル(非可視光の信号レベルと可視光の信号レベルとの和)が大きくならないように制御する。
また図19の画像において、画像領域Aの非可視光量が目標非可視光量より少ない状態であるとするならば、制御部110は、図21に示すように光源Aの照射光量を多くし、且つ露光時間が短くなるよう撮像部101に露光制御パラメータを設定する。この手順により、さらに画像領域A、B、Dに対応する非可視光調整部701の利得及び可視光調整部702の利得を高くして増幅させることで、信号レベルが低くならないよう制御する。
以上により、撮影画像内に存在する被写体毎に個別に非可視光の照射光量を適正に制御し、さらに光源の制御に対応する画像領域よりも細かい画像領域毎に信号レベルを調整する利得を制御することで、撮像装置は、撮影画像内の画像領域毎に可視光量の増減が生じた場合であっても、色再現性が高く視認性の良い画像を生成する。
なお、非可視光調整部701及び可視光調整部702に設定する利得は、画像領域毎に設定するものとしたが、画像領域間の利得差が小さくなるよう画像領域間の所定の範囲で徐々に変化させるように構成してもよい。この構成であれば、画像領域間の利得差を小さくすることができるので、エッジ発生などの弊害を抑制できる。
本実施例の撮像装置は、被写体に照射される光源の非可視光の光量が目標光量に満たない画像領域に存在する被写体に対して非可視光を照射するように光源を制御し、さらに、非可視光および可視光の信号レベルを画像領域別に変更し、且つ非可視光および可視光のノイズ除去の強度を画像領域別に制御する。
図22は、本実施例の構成例である。本実施例の撮像装置は、実施例5(図17)の構成の、非可視光調整部701と画像合成部107との間に非可視光ノイズ除去部2701を設け、可視光調整部702と画像合成部107との間に可視光ノイズ除去部2702を設けている。
非可視光ノイズ除去部2701は、非可視光信号に対するノイズ除去処理の強度を画像領域別に変更する。すなわち、非可視光ノイズ除去部2701は、非可視光信号に対するノイズ除去を強くするか、ノイズ除去を弱くしつつ解像度を維持するかを、画像領域別に変更できる。
可視光ノイズ除去部2702は、可視光信号に対するノイズ除去処理の強度を画像領域別に変更する。すなわち、可視光ノイズ除去部2702は、可視光信号に対するノイズ除去を強くするか、ノイズ除去を弱くしつつ解像度を維持するかを、画像領域別に変更できる。
可視光ノイズ除去部2702及び非可視光ノイズ除去部2701のノイズ除去方法は、画像に重畳されるノイズを除去する方法であればよい。たとえば、移動平均フィルタやメディアンフィルタなどの空間フィルタを適用する方法、またはフレーム間画像の積算によるフレーム間フィルタを適用する方法である。
制御部110は、実施例1と同様に、予め可視光の絶対量に対する適切赤外光量の関係に基づいて、光源部116から照射する非可視光(赤外光)の光量を画像領域毎に制御する。また制御部110は、実施例5と同様に、画像領域別に可視光信号と非可視光信号の信号利得を制御する。
本実施例では、制御部110はさらに、画像領域毎に、非可視光量の目標非可視光量との大小関係に応じて、非可視光ノイズ除去部2701のノイズ除去強度を画像領域毎に制御し、可視光ノイズ除去部2702のノイズ除去強度を画像領域毎に制御する。
以上の構成によれば、光源部116から照射される光量を多くし、且つ非可視光調整部701及び可視光調整部702により信号を増幅した画像領域であってもなお、非可視光量が目標非可視光量より少なかった場合に、極めて暗い領域である(=ノイズが目立つ画像領域である)としてノイズ除去強度を強くすることができる。一方、それ以外の画像領域に対しては、ノイズ除去強度を弱くすることで、解像度の低下などの弊害を抑制することが可能となる。
また、可視光信号及び非可視光信号の各々について個別にノイズ除去を行う構成とすることができ、可視光及び非可視光の比率に応じたノイズ除去強度の変更が可能となる。
なお、非可視光ノイズ除去部2701及び可視光ノイズ除去部2702は、ノイズ除去強度を画像領域別に設定するものとしたが、画像領域間のノイズ除去強度の差が小さくなるよう、画像領域間の所定の範囲で徐々に変化させるように構成してもよい。この構成であれば、画像領域間のノイズ除去強度差を小さくすることができ、偽エッジ発生などの弊害を抑制することができる。
説明した実施形態の撮像装置によれば、画像内の少なくとも所望の領域の色再現性が良くなる。
また、部分的に照明が照射された被写体を撮影する場合、または自発光する被写体が撮影画像内に部分的に存在するような状況で撮影する場合,撮像装置は好適な画質の画像を出力できる。
さらに、撮像装置にノイズ除去部を設けることにより、撮像装置は、画像内の少なくとも所望の領域の色再現性が良く、信号対雑音比が大きい画像を出力できる。