JP2018117309A - 撮像装置、画像処理方法および画像処理システム - Google Patents

Abstract

【課題】１つの撮像素子によりセンシング画像とビューイング画像を得る。
【解決手段】撮像装置は、不可視光の照射を制御する制御部と、前記不可視光を検出可能な第１の画素、および、可視光を検出可能な第２の画素を備える撮像素子と、前記第１の画素からの第１の画素信号および前記第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像生成部とを備える。本技術は、例えば、監視カメラに適用できる。
【選択図】図１

Description

本技術は、撮像装置、画像処理方法および画像処理システムに関し、特に、不可視光を照射して撮像する場合に用いて好適な撮像装置、画像処理方法および画像処理システムに関する。

従来、コヒーレントなランダムスペックルパターンを対象物に投影して撮像し、得られた画像におけるパターンと参照画像におけるパターンとのズレに基づいて、対象物の３次元マップを構築することが提案されている（例えば、特許文献１参照）。

国際公開第２００７／０４３０３６号

しかしながら、特許文献１に記載の発明では、３次元マップを構築するためのセンシング画像とは別に、対象物を観察するための可視光成分からなるビューイング画像を撮像することは考慮されていない。

また、一般的に、デプスセンシングを行う場合、ＴｏＦ（Time-of-Flight）センサ、ステレオカメラ、ＩＲセンサ等のセンシング用センサが、ビューイング画像を撮像するためのビューイング用センサとは別に設けられる。しかし、センシング用センサとビューイング用センサとが別に設けられると、両者の間に視差が生じるため、例えば、デプスセンシングの結果をビューイング画像に適用する場合、視差補正を行う必要がある。

本技術は、このような状況に鑑みてなされたものであり、１つの撮像素子によりセンシング画像とビューイング画像を得ることができるようにするものである。

本技術の第１の側面の撮像装置は、不可視光の照射を制御する制御部と、前記不可視光を検出可能な第１の画素、および、可視光を検出可能な第２の画素を備える撮像素子と、前記第１の画素からの第１の画素信号および前記第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像生成部とを備える。

前記第１の画像に基づいて物体までの距離の検出を行い、物体までの距離の検出結果に基づいて、前記第２の画像内の物体の検出を行う物体検出部をさらに設けることができる。

前記制御部には、所定のパターンを投影する前記不可視光の照射を制御させることができる。

前記撮像素子には、各前記第２の画素の受光部への入射光に含まれる前記不可視光成分を減衰するフィルタを設けることができる。

前記制御部には、前記不可視光を連続して照射するように制御させることができる。

前記制御部には、各フレーム期間において前記第１の画素および前記第２の画素の露光期間を設けながら、前記第１の画素のみが露光している期間である単独露光期間を設けるとともに、前記単独露光期間内に前記不可視光を照射するように制御させることができる。

前記制御部には、フレーム期間毎に前記不可視光の照射の有無を制御させ、前記画像生成部には、前記不可視光が照射されたフレーム期間における前記第１の画素信号に基づいて、前記第１の画像を生成させ、前記不可視光が照射されていないフレーム期間における前記第２の画素信号に基づいて、前記第２の画像を生成させることができる。

前記第１の画素には、赤外光の検出に用いるＩＲ画素を含ませ、前記第２の画素には、所定の色の検出に用いるカラー画素を含ませ、前記不可視光を、赤外光とすることができる。

前記カラー画素には、赤色の検出に用いるＲ画素、緑色の検出に用いるＧ画素、および、青色の検出に用いるＢ画素を含ませることができる。

前記第１の画素には、ホワイト画素を含ませ、前記第２の画素には、所定の色の検出に用いるカラー画素を含ませ、前記不可視光を、赤外光とすることができる。

前記カラー画素には、赤色の検出に用いるＲ画素、緑色の検出に用いるＧ画素、および、青色の検出に用いるＢ画素を含ませることができる。

前記不可視光を照射する照射部をさらに設けることができる。

前記照射部には、明るさが一様な前記不可視光、または、所定のパターンを投影する前記不可視光を照射させることができる。

本技術の第１の側面の画像処理方法は、不可視光の照射を制御する制御ステップと、撮像素子の前記不可視光を検出可能な第１の画素からの第１の画素信号、および、前記撮像素子の可視光を検出可能な第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像生成ステップとを含む。

本技術の第２の側面の画像処理システムは、不可視光を照射する照射装置と、前記不可視光を検出可能な第１の画素、および、可視光を検出可能な第２の画素を備える撮像素子を備える撮像装置と、前記第１の画素からの第１の画素信号および前記第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像処理装置とを備える。

本技術の第１の側面においては、不可視光の照射が制御され、撮像素子の前記不可視光を検出可能な第１の画素からの第１の画素信号、および、前記撮像素子の可視光を検出可能な第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像が生成される。

本技術の第２の側面においては、不可視光が照射され、撮像素子の前記不可視光を検出可能な第１の画素からの第１の画素信号、および、前記撮像素子の可視光を検出可能な第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像が生成される。

本技術の第１の側面または第２の側面によれば、１つの撮像素子によりセンシング画像とビューイング画像を得ることができる。

なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。

本技術を適用した撮像装置の構成例を示すブロック図である。 赤外光の波長特性の例を示すグラフである。 光学フィルタの透過特性の例を示すグラフである。 撮像素子の構成例を示すブロック図である。 撮像素子の画素配列の例を示す図である。 撮像素子の各画素のフィルタの構成例を示す模式図である。 ＩＲカットフィルタの透過特性の例を示すグラフである。 画素ごとの感度特性の第１の例を示すグラフである。 画像生成部の構成例を示すブロック図である。 補間前後の画像信号の例を示す図である。 各画素の成分分離後の感度特性の例を示す図である。 成分分離後の色信号の例を示す図である。 ベイヤ化前後の画像信号の例を示す図である。 色差調整部の構成例を示すブロック図である。 色差信号補正部の構成例を示すブロック図である。 クロマゲインの設定例を示すグラフである。 画像変換部の構成例を示すブロック図である。 センシング部の構成例を示すブロック図である。 撮像モード設定処理の例を示すフローチャートである。 ビューイングモード設定処理の例を示すフローチャートである。 周囲の明るさの判定処理に用いる閾値の例を示す図である。 環境赤外光の強度の判定処理に用いる閾値の例を示す図である。 センシングモードまたはＣＮＶモード時の赤外光の照射期間および各画素の露光期間の例を示す図である。 デイモード時の赤外光の照射期間および各画素の露光期間の例を示す図である。 ナイトモード時の赤外光の照射期間および各画素の露光期間の例を示す図である。 赤外光のパターンの例を示す図である。 撮像処理の例を示すフローチャートである。 画像生成処理の例を示すフローチャートである。 物体検出処理の例を示すフローチャートである。 被写体の例を示す図である。 ベイヤ画像の例を示す図である。 ＩＲ画像の例を示す図である。 キャリブレーション画像の例を示す図である。 物体までの距離の検出方法を説明するための図である。 物体の領域の検出方法を説明するための図である。 物体の検出結果の例を示す図である。 輝度・色差調整部の構成例を示すブロック図である。 輝度信号補正部の構成例を示すブロック図である。 合成比率の設定例を示すグラフである。 撮像素子の画素配列の第１の変形例を示す図である。 撮像素子の画素配列の第２の変形例を示す図である。 撮像素子の画素配列の第３の変形例を示す図である。 画素ごとの感度特性の第２の例を示すグラフである。 コンピュータの構成例を示すブロック図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 図４５に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。

以下、本技術を実施するための形態（以下、実施の形態と称する）について説明する。
説明は以下の順序により行う。
１．実施の形態
２．変形例
３．応用例

＜１．第１の実施の形態＞
まず、図１乃至図３６を参照して、本技術の実施の形態について説明する。

｛撮像装置１００の構成例｝
図１は、本技術の一実施の形態である撮像装置１００の構成例を示すブロック図である。撮像装置１００は、測光部１０１、制御部１０２、赤外光照射部１０３、撮像レンズ１０４、光学フィルタ１０５、撮像素子１０６、画像処理部１０７および出力部１０８を備える。また、画像処理部１０７は、画像生成部１２１、画像変換部１２２およびセンシング部１２３を備える。

測光部１０１は、撮像装置１００の周囲の明るさを測定し、測定結果を示す測光量Ｑを制御部１０２および画像生成部１２１に供給する。

制御部１０２は、撮像装置１００全体を制御する。例えば、制御部１０２は、画像信号における可視光成分の比率を示す可視光比率Ｒｃを画像生成部１２１から取得する。そして、制御部１０２は、ユーザ設定、測光量Ｑおよび可視光比率Ｒｃに基づいて、撮像装置１００の撮像モードを設定する。制御部１０２は、設定した撮像モードを示すモード信号を画像生成部１２１に供給する。

撮像モードは、例えば、センシングモードおよびビューイングモードの２つに分かれる。センシングモードは、例えば物体の検出等のセンシングを行う場合のモードであり、ビューイングモードは、センシングを行わずに、被写体の観察を行う場合のモードである。なお、センシングモードにおいても、センシングと並行して、被写体を観察することが可能である。

ビューイングモードは、さらにデイモード、ＣＮＶモード、ナイトモードの３つに分かれる。デイモードは、例えば、撮像装置１００の周囲が明るい状態で撮像する場合に用いられるモードである。ＣＮＶモードは、例えば、撮像装置１００の周囲が暗く、環境光に含まれる赤外光（以下、環境赤外光と称する）の強度が低い状態で撮像する場合に用いられるモードである。ナイトモードは、例えば、撮像装置１００の周囲が非常に暗い状態、または、撮像装置１００の周囲が暗く、環境赤外光の強度が高い状態で撮像する場合に用いられるモードである。デイモードとＣＮＶモードでは、カラー画像およびモノクロ画像が得られ、ナイトモードでは、モノクロ画像が得られる。

なお、各撮像モードの詳細は、後述する。

また、例えば、制御部１０２は、ユーザの操作などに従って撮像素子１０６を制御して画像信号を生成させる。例えば、制御部１０２は、撮像のタイミングを示す垂直同期信号ＶＳＹＮＣを生成して撮像素子１０６に供給する。また、制御部１０２は、撮像モードに応じて、撮像素子１０６の画素別シャッタのオン／オフを制御する。画素別シャッタとは、後述するように、画素の色毎に露光期間を制御する機能である。

さらに、例えば、制御部１０２は、撮像モードに応じて、赤外光照射部１０３の照射期間を制御する。

また、例えば、制御部１０２は、撮像モードに応じて、画像生成部１２１の成分分離部３０３（図９）のオン、オフを制御する。

赤外光照射部１０３は、制御部１０２の制御に従って、赤外光を撮像範囲（被写体）に照射する。

図２は、赤外光照射部１０３から照射される赤外光の波長特性の例を示すグラフである。同図において横軸は、光の波長を示し、縦軸は、赤外光の強度を正規化した値を示す。同図に例示するように、赤外光照射部１０３は、例えば、８４５ｎｍ付近をピークとし、半値幅が約８２０ｎｍから約８６５ｎｍの範囲となる赤外光を照射する。

撮像レンズ１０４は、被写体からの光を集光して、光学フィルタ１０５を介して撮像素子１０６に導く。

光学フィルタ１０５は、例えば、撮像レンズ１０４からの光のうち可視光および赤外光を透過するデュアルバンドパスフィルタにより構成される。

図３は、光学フィルタ１０５の透過特性の例を示すグラフである。同図の横軸は、光の波長を示し、縦軸は、光学フィルタ１０５の分光透過率を示す。同図に例示するように、光学フィルタ１０５は、例えば、３８０ｎｍ乃至６５０ｎｍ付近の波長域の可視光と、８３０ｎｍ乃至８７０ｎｍ付近の波長域の赤外光とを透過する。

なお、光学フィルタ１０５を設けない構成とすることもできるが、赤外光を高い精度で分離する観点から、光学フィルタ１０５を設けることが望ましい。

撮像素子１０６は、撮像レンズ１０４および光学フィルタ１０５を介して受光した光を電気信号に変換して、画像データを生成する。撮像素子１０６には、例えば、図５を参照して後述するように、赤色の検出に用いるＲ（Red）画素、緑色の検出に用いるＧ(Green)画素、青色の検出に用いるＢ（Blue）画素、および、赤外光の検出に用いるＩＲ（Infrared）画素のそれぞれが２次元格子状に設けられる。

撮像素子１０６は、各画素で光電変換したアナログの電気信号を画素毎にＡＤ（Analog to Digital）変換し、デジタル信号である画素信号を生成し、これらの画素信号を含む画像信号（以下、ＲＡＷ画像信号と称する）を生成する。撮像素子１０６としては、例えば、ＣＣＤ（Charge Coupled Device）センサやＣＭＯＳ（Complementary Metal Oxide Semiconductor）センサが用いられる。撮像素子１０６は、生成したＲＡＷ画像信号を画像生成部１２１に供給する。

画像生成部１２１は、ＲＡＷ画像信号から不可視光成分（例えば、赤外光成分）を除去し、不可視光成分を除去したＲＡＷ画像信号を、画素信号がベイヤ配列に従って並べられたベイヤ画像信号に変換する。また、画像生成部１２１は、ＲＡＷ画像信号から不可視光成分（例えば、赤外光成分）を抽出し、抽出した不可視光成分からなるＩＲ画像信号を生成する。画像生成部１２１は、ベイヤ画像信号を画像変換部１２２およびセンシング部１２３に供給する。また、画像生成部１２１は、ＩＲ画像信号をセンシング部１２３および出力部１０８に供給する。

画像変換部１２２は、デモザイク処理などの所定の信号処理をベイヤ画像信号に対して行う。画像変換部１２２は、デモザイク処理後の画像信号を、輝度信号および色差信号を画素毎に含むＹＣ画像信号に変換し、出力部１０８に供給する。

センシング部１２３は、ＩＲ画像信号およびベイヤ画像信号に基づいて、物体の検出等のセンシングを行う。センシング部１２３は、センシング結果を出力部１０８に供給する。

出力部１０８は、ＹＣ画像信号、ＩＲ画像信号およびセンシング結果を撮像装置１００の外部の装置（例えば、表示装置等）へ出力する。

なお、撮像装置１００は、ＹＣ画像信号、ＩＲ画像信号およびセンシング結果を外部へ出力しているが、この構成に限定されない。例えば、撮像装置１００は、メモリ等の記録部をさらに備え、その記録部にＹＣ画像信号、ＩＲ画像信号およびセンシング結果を記録してもよい。また、撮像装置１００は、液晶モニタなどの表示部をさらに備え、その表示部にＹＣ画像信号に基づく画像、ＩＲ画像信号に基づく画像またはセンシング結果を表示してもよい。

また、図１では、測光部１０１、制御部１０２、赤外光照射部１０３、撮像レンズ１０４、光学フィルタ１０５、撮像素子１０６、画像処理部１０７および出力部１０８を全て撮像装置１００内に設ける例を示しているが、これらを複数の装置に分散して設けてもよい。例えば、測光部１０１、制御部１０２、撮像レンズ１０４、光学フィルタ１０５および撮像素子１０６を撮像装置１００に設け、画像処理部１０７および出力部１０８を画像処理装置に設けてもよい。また、例えば、赤外光照射部１０３を撮像装置１００とは別に設けるようにしてもよい。

｛撮像素子の構成例｝
図４は、撮像素子１０６の構成例を示すブロック図である。撮像素子１０６は、行走査回路２０１、画素アレイ部２０２、タイミング制御回路２０３、ＡＤ（Analog to Digital）変換部２０４および列走査回路２０５を備える。画素アレイ部２０２には、２次元格子状に複数の画素２１１が設けられる。

タイミング制御回路２０３は、行および列の走査のタイミングを制御する。ここで、行は画素アレイ部２０２において、ある一方向に複数の画素２１１が配列されたものであり、ラインとも呼ばれる。また、列は画素アレイ部２０２において行と直交する方向に複数の画素２１１が配列されたものである。画素アレイ部２０２には、ｎ行、ｍ列の画素２１１が配列される。ここで、ｎおよびｍは整数である。

タイミング制御回路２０３は、制御部１０２からの垂直同期信号ＶＳＹＮＣに同期して、行を走査するタイミングを指示する水平同期信号ＨＳＹＮＣを生成し、行走査回路２０１に供給する。また、タイミング制御回路２０３は、水平同期信号ＨＳＹＮＣに同期して列を走査するタイミングを指示するタイミング信号を生成し、列走査回路２０５に供給する。

行走査回路２０１は、水平同期信号ＨＳＹＮＣに同期して行の各々を選択する。行走査回路２０１は、行選択信号を行の各々へ信号線２０６を介して順に出力することにより行を選択する。また、行走査回路２０１は、行を選択するたびに、その行の画素２１１を、撮像モードに応じて、所定の露光期間に亘って露光させる。

画素２１１は、入射光を電気信号に変換し、対応する列の信号線２０７を介して、生成した電気信号をＡＤ変換部２０４に供給する。

図５は、画素アレイ部２０２の画素２１１の配列の例を示している。この例では、縦４画素×横４画素からなるパターンを１単位とする画素配列の例が示されており、Ｒ画素：Ｇ画素：Ｂ画素：ＩＲ画素＝２：８：２：４の割合で、画素２１１が配置されている。より具体的には、Ｇ画素は、市松状に配置されている。Ｒ画素は、１行目の１列目と３行目の３列目に配置されている。Ｂ画素は、１行目の３列目と３行目の１列目に配置されている。ＩＲ画素は、残りの画素位置に配置されている。そして、この画素配列のパターンが、画素アレイ部２０２上の行方向及び列方向に繰り返し配置される。

図６は、各画素２１１のフィルタの構成例を模式的に示している。この例では、Ｂ画素、Ｇ画素、Ｒ画素、ＩＲ画素が、左から右に並べられている。

Ｒ画素、Ｇ画素およびＢ画素においては、光の入射側から順に、マイクロレンズアレイ２３１、カラーフィルタ２３２、ＩＲカットフィルタ２３３が積層されている。カラーフィルタ２３２においては、Ｒ画素に対して赤及び赤外光の波長域を透過するＲフィルタが設けられ、Ｇ画素に対して緑及び赤外光の波長域を透過するＧフィルタが設けられ、Ｂ画素に対して青及び赤外光の波長域を透過するＢフィルタが設けられている。

図７は、ＩＲカットフィルタ２３３の透過特性の例を示すグラフである。同図の横軸は、光の波長を示し、縦軸は、分光透過率を示す。また、点線は、ＩＲカットフィルタ２３３の透過特性を示し、実線は、図３と同様に、光学フィルタ１０５の透過特性を示す。

ＩＲカットフィルタ２３３は、光学フィルタ１０５が透過する８３０ｎｍ乃至８７０ｎｍ付近の波長域の赤外光を主に減衰させる。従って、Ｒ画素、Ｇ画素、Ｂ画素の図示せぬ受光部（例えば、フォトダイオード）への入射光に含まれる赤外光成分が、ＩＲカットフィルタ２３３により減衰される。

ＩＲ画素においては、光の入射側から順に、マイクロレンズアレイ２３１、カラーフィルタ２３２が積層されおり、ＩＲカットフィルタ２３３は積層されていない。カラーフィルタ２３２においては、ＩＲ画素に対して、可視光を減衰させ、赤外光を透過するＩＲフィルタが設けられている。

図８は、画素２１１ごとの感度特性の例を示すグラフである。同図の横軸は、光の波長を示し、縦軸は、その波長の光に対する画素２１１の感度を示す。また、実線は、ＩＲ画素の感度特性を示し、細かい点線は、Ｒ画素の感度特性を示す。また、一点鎖線は、Ｇ画素の感度特性を示し、粗い点線は、Ｂ画素の感度特性を示す。

Ｒ画素、Ｇ画素およびＢ画素のそれぞれの感度は、赤、緑および青のそれぞれの可視光に対してピークを示す。また、ＩＲカットフィルタ２３３が完全には赤外光を遮断できないため、Ｒ画素、Ｇ画素およびＢ画素のそれぞれは、赤外光に対しても若干の感度を有する。なお、Ｒ画素、Ｇ画素およびＢ画素の赤外光に対する感度は、同程度であり、ＩＲ画素と比べて極めて低い。

ＩＲ画素の感度は、波長が８４５ｎｍ付近の赤外光に対してピークを示す。また、ＩＲフィルタ（Ｒフィルタ＋Ｂフィルタ）が完全には可視光を遮断できないため、ＩＲ画素は、可視光に対しても若干の感度を有する。なお、ＩＲ画素の可視光に対する感度は、Ｒ画素、Ｇ画素およびＢ画素と比べて極めて低い。

図４に戻り、ＡＤ変換部２０４は、列ごとに設けられ、画素２１１からの電気信号をＡＤ変換してデジタル信号を生成する。また、列走査回路２０５により選択された列のＡＤ変換部２０４は、生成したデジタル信号を画素信号として画像処理部１０７の画像生成部１２１に供給する。

列走査回路２０５は、タイミング信号に従って、列選択信号をＡＤ変換部２０４のそれぞれに順に出力することにより列を選択する。

｛画像生成部の構成例｝
図９は、画像生成部１２１の構成例を示すブロック図である。画像生成部１２１は、ＲＧＢＩＲ補間フィルタ３０１、高周波用Ｇ補間フィルタ３０２、成分分離部３０３、ホワイトバランス処理部３０４、比率算出部３０５、色差調整部３０６、高周波成分抽出部３０７、高周波成分復元部３０８、ベイヤ画像信号出力部３０９およびＩＲ画像信号出力部３１０を備える。

ＲＧＢＩＲ補間フィルタ３０１は、ＲＡＷ画像信号において、画素信号ごとに色信号の全てを補間する。

ここで、図８を参照して上述したように、Ｒ画素、Ｇ画素およびＢ画素のそれぞれは、赤外光に対して若干の感度を有している。このため、これらの画素の色信号は、可視光から光電変換された信号である可視光成分と、赤外光から光電変換された信号である赤外光成分とを含む。したがって、赤外光成分を分離する前のＲ画素、Ｇ画素およびＢ画素の各色信号を以下、「Ｒ_+ΔIR」、「Ｇ_+ΔIR」および「Ｂ_+ΔIR」と称する。添え字の「_+ΔIR」は、色信号に若干の赤外光成分が含まれていることを示す。

また、図８を参照して上述したように、ＩＲ画素は、可視光に対して若干の感度を有している。このため、ＩＲ画素の色信号（以下、赤外光信号またはＩＲ信号と称する）は、赤外光から光電変換された信号である赤外光成分と、可視光から光電変換された信号である可視光成分とを含む。したがって、可視光成分を分離する前のＩＲ画素の赤外光信号を以下、「ＩＲ_+ΔV」と称する。添え字の「_+ΔV」は、赤外光信号に若干の可視光成分が含まれていることを示す。

ＲＧＢＩＲ補間フィルタ３０１は画素信号に順に着目し、着目した画素信号を補間対象として、その周囲の画素信号を用いて、例えば、次の式（１）乃至（４）を使用して色信号を補間する。

式（１）乃至（４）において、Ｍは、補間に用いられる画素信号の個数であり、以下、タップ数と称する。ｉは、０乃至Ｍ−１の整数であり、補間に用いられる画素信号を識別する番号を示す。ｋ_iは実数の係数である。係数ｋ_iは、ｉに係る画素信号から補間対象までの距離が近いほど大きな値に設定され、その距離が同一であれば同じ値に設定される。例えば、補間対象の上下左右のＲ_+ΔIR_₀乃至Ｒ_+ΔIR_₃が補間に用いられる場合には、それらの補間対象までの距離は同一であるため、係数ｋ₀乃至ｋ₃の全てに１／４が設定される。

ＲＧＢＩＲ補間フィルタ３０１は、補間後のＲ_{+ΔIR_L}信号、Ｂ_{+ΔIR_L}信号およびＩＲ_{+ΔV_L}を成分分離部３０３に供給し、Ｇ_{+ΔIR_L}信号を成分分離部３０３、高周波成分抽出部３０７および高周波成分復元部３０８に供給する。

図１０は、ＲＧＢＩＲ補間フィルタ３０１による補間前後の画像信号の例を示している。補間前のＲＡＷ画像信号３２１において、Ｒ_+ΔIR信号、Ｇ_+ΔIR信号、Ｂ_+ΔIR信号およびＩＲ_+ΔV信号のそれぞれが、上述した図５と同様の配列により並べられている。

データ３２２ＩＲは、補間後のＩＲ_{+ΔV_L}信号からなるデータの例を示している。データ３２２Ｒは、補間後のＲ_{+ΔIR_L}信号からなるデータの例を示している。データ３２２Ｇは、補間後のＧ_{+ΔIR_L}信号からなるデータの例を示している。データ３２２Ｂは、補間後のＢ_{+ΔIR_L}信号からなるデータの例を示している。これらのデータ３２２ＩＲ乃至３２２Ｇに示すように、画素ごとに、全ての色信号が補間される。

高周波用Ｇ補間フィルタ３０２は、ＲＧＢ画像信号において、画素ごとにＧ信号のみを補間する。

例えば、高周波用Ｇ補間フィルタ３０２は、次式（５）を使用して、Ｇ信号を補間する。

なお、式（５）において、Ｎはタップ数である。ｉ、ｋ_iは、それぞれ上述した式（２）と同様のものである。なお、タップ数Ｎは、例えば、ＲＧＢＩＲ補間フィルタ３０１のタップ数Ｍより小さな値に設定される。例えば、ＲＧＢＩＲ補間フィルタ３０１では、タップ数Ｍは８１（＝９行×９列）に設定される。一方、高周波用Ｇ補間フィルタ３０２では、タップ数Ｎは、２５（＝５行×５列）に設定される。

高周波用Ｇ補間フィルタ３０２は、補間後のＧ_{+ΔIR_H}信号を高周波成分抽出部３０７に供給する。

なお、高周波用Ｇ補間フィルタ３０２は、特定方向におけるエッジを検出し、そのエッジの方向に沿った画素信号を優先的に用いて補間を行ってもよい。例えば、高周波用Ｇ補間フィルタ３０２は、水平方向や垂直方向におけるエッジを検出する。そして、高周波用Ｇ補間フィルタ３０２は、水平方向のエッジを検出した場合には、補間対象の上下の画素信号の平均により補間し、垂直方向のエッジを検出した場合には、補間対象の左右の画素信号の平均により補間する。ＲＧＢＩＲ補間フィルタ３０１も同様に、エッジを検出し、そのエッジの方向に沿った画素信号を優先的に用いて補間を行ってもよい。

成分分離部３０３は、制御部１０２の制御に従って、オンまたはオフする。成分分離部３０３は、オンしている場合、例えば、次式（６）を使用して、Ｒ_{+ΔIR_L}信号、Ｇ_{+ΔIR_L}信号およびＢ_{+ΔIR_L}信号のそれぞれから赤外光成分を分離して除去し、ＩＲ_{+ΔV_L}信号から可視光成分を分離して除去する。

式（６）において、Ｒ_L、Ｇ_LおよびＢ_Lは、赤外光成分が除去された色信号を示し、ＩＲは、可視光成分が除去された赤外光信号を示す。

次式（７）は、式（６）の右辺の分離マトリクスの係数の例を示している。

なお、式（６）は、赤外光成分又は可視光成分の分離および除去を行うための数式の一例であり、成分分離部３０３は、他の数式を用いて赤外光成分又は可視光成分の分離および除去を行うことも可能である。

成分分離部３０３は、Ｒ_L信号、Ｇ_L信号およびＢ_L信号をホワイトバランス処理部３０４および比率算出部３０５に供給する。また、成分分離部３０３は、ＩＲ信号を比率算出部３０５およびＩＲ画像信号出力部３１０に供給する。

図１１は、各画素の成分分離後の感度特性の例を示すグラフである。同図の横軸は、光の波長を示し、縦軸は、その光に対する画素の感度を示す。実際には、感度でなく、画素信号から赤外光成分と可視光成分とが分離されるが、同図では、これらの成分を感度に置き換えて表している。同図の実線は、ＩＲ信号の感度特性を示し、細かい点線は、Ｒ_L信号の感度特性を示す。また、一点鎖線は、Ｇ_L信号の感度特性を示し、粗い点線は、Ｂ_L信号の感度特性を示す。同図に例示するように、Ｒ_L信号、Ｇ_L信号およびＢ_L信号のそれぞれにおいて、ある程度、赤外光成分が除去されている。また、ＩＲ_L信号において、ある程度、可視光成分が除去されている。

図１２は、赤外線分離後の色信号の例を示している。データ３２３Ｒは、図１０のデータ３２２Ｒに対して赤外線分離を行った後のＲ_L信号からなるデータの例を示している。データ３２３Ｇは、図１０のデータ３２２Ｇに対して赤外線分離を行った後のＧ_L信号からなるデータの例を示している。データ３２３Ｂは、図１０のデータ３２２Ｂに対して赤外線分離を行った後のＢ_L信号からなるデータの例を示している。これらのデータ３２３Ｒ乃至３２３Ｂに示すように、色信号のそれぞれから赤外光成分が除去される。

また、データ３２３ＩＲは、図１０のデータ３２２ＩＲに対して可視光分離を行った後のＩＲ信号からなるデータの例を示している。データ３２３ＩＲに示すように、赤外光信号のそれぞれから可視光成分が除去される。

一方、成分分離部３０３は、オフしている場合、Ｒ_{+ΔIR_L}信号、Ｇ_{+ΔIR_L}信号およびＢ_{+ΔIR_L}信号のそれぞれから赤外光成分を分離および除去せずに、そのままＲ_L信号、Ｇ_L信号およびＢ_L信号としてホワイトバランス処理部３０４および比率算出部３０５に供給する。また、成分分離部３０３は、オフしている場合、ＩＲ_{+ΔV_L}信号から可視光成分を分離および除去せずに、そのままＩＲ信号として比率算出部３０５およびＩＲ画像信号出力部３１０に供給する。この場合、Ｒ_{+ΔIR_L}信号、Ｇ_{+ΔIR_L}信号、Ｂ_{+ΔIR_L}信号およびＩＲ_{+ΔV_L}信号と、Ｒ_L信号、Ｇ_L信号、Ｂ_L信号およびＩＲ信号との関係は、次の式（８）乃至（１１）のようになる。

Ｒ_L＝Ｒ_{+ΔIR_L} ・・・（８）
Ｇ_L＝Ｇ_{+ΔIR_L} ・・・（９）
Ｂ_L＝Ｂ_{+ΔIR_L} ・・・（１０）
ＩＲ＝ＩＲ_{+ΔV_L} ・・・（１１）

なお、成分分離部３０３がオンしている場合にも、式（１１）を使用して、ＩＲ_{+ΔV_L}信号を、そのままＩＲ信号として出力するようにしてもよい。

ホワイトバランス処理部３０４は、Ｒ_L信号、Ｇ_L信号およびＢ_L信号においてホワイトバランスを調整する。ホワイトバランス処理部３０４は、例えば、Ｒ_L信号およびＢ_L信号のそれぞれに対して、ゲインを乗算することにより、ホワイトバランスを調整する。ホワイトバランス処理部３０４は、ホワイトバランスを調整したＲ_L信号、Ｇ_L信号およびＢ_L信号を色差調整部３０６に供給する。

比率算出部３０５は、例えば、次の式（１２）乃至（１５）を使用して可視光比率Ｒｃを算出し、制御部１０２および色差調整部３０６に供給する。

式（１２）において、Ｒ_{L_j、}Ｇ_{L_j、}Ｂ_{L_j}は、それぞれｊ（ｊは、０乃至Ｎ−１の整数）番目のＲ_L信号、Ｇ_L信号、Ｂ_L信号を示す。Ｙ_jは、ｊ番目の画素信号内の輝度成分を示す。式（１３）において、Ｎは、画像信号内の画素信号の個数である。ＩＲ_jは、ｊ番目のＩＲ信号を示す。ＩＲ_avは、ＩＲ信号の平均値である。式（１４）において、Ｙ_avは、輝度成分の平均値である。

色差調整部３０６は、撮像モードに応じて、可視光比率Ｒｃおよび測光量Ｑに基づいて、色差信号を調整する。具体的には、色差調整部３０６は、画素信号ごとに、その画素信号内のＲ_L信号、Ｇ_L信号およびＢ_L信号を輝度信号および色差信号に変換する。そして、色差調整部３０６は、色差信号を撮像モードに応じて、可視光比率Ｒｃおよび測光量Ｑに基づいて調整し、輝度信号および色差信号を、Ｒ_L信号、Ｇ_L信号およびＢ_L信号に戻して高周波成分復元部３０８に供給する。

高周波成分抽出部３０７は、低周波用ＲＧＢＩＲ補間フィルタ３０１からのＧ_{+ΔIR_L}信号と、高周波用Ｇ補間フィルタ３０２からのＧ_{+ΔIR_H}信号との差分を高周波成分Ｇ_Hとして抽出する。前述したように、高周波用Ｇ補間フィルタ３０２のタップ数Ｎは、ＲＧＢＩＲ補間フィルタ３０１のタップ数Ｍより小さい。このため、高周波用Ｇ補間フィルタ３０２からのＧ_{+ΔIR_H}信号には、ＲＧＢＩＲ補間フィルタ３０１からのＧ_{+ΔIR_L}信号よりも高い周波数成分が含まれている。したがって、それらの差分をとることにより、その高周波成分Ｇ_Hを抽出することができる。高周波成分抽出部３０７は、抽出した高周波成分Ｇ_Hを高周波成分復元部３０８に供給する。

高周波成分復元部３０８は、Ｒ_L信号、Ｇ_L信号およびＢ_L信号において高周波成分Ｇ_Hを復元する。高周波成分復元部３０８は、例えば、次の式（１６）乃至（１８）を使用して、高周波成分Ｇ_Hを復元する。

Ｒ＝Ｒ_L＋（Ｇ_H／Ｇ_{+ΔIR_L}）×Ｒ_L ・・・（１６）
Ｇ＝Ｇ_L＋（Ｇ_H／Ｇ_{+ΔIR_L}）×Ｇ_L ・・・（１７）
Ｂ＝Ｂ_L＋（Ｇ_H／Ｇ_{+ΔIR_L}）×Ｂ_L ・・・（１８）

式（１６）乃至（１８）において、Ｒ、ＧおよびＢは、復元後の色信号である。ＲＧＢＩＲ補間フィルタ３０１における補間により、各色信号の高周波成分が失われるため、そのままでは画像の画質が低下してしまう。しかし、その高周波成分を高周波成分復元部３０８において復元することにより、復元しない場合と比較して画質が向上する。高周波成分復元部３０８は、復元したＲ信号、Ｇ信号およびＢ信号をベイヤ画像信号出力部３０９に供給する。

ベイヤ画像信号出力部３０９は、Ｒ信号、Ｇ信号およびＢ信号をベイヤ配列に従って並べ、ベイヤ画像信号として画像変換部１２２およびセンシング部１２３へ出力する。

図１３は、ベイヤ化前後の画像信号の例を示している。データ３２４Ｒは、高周波成分を復元した後のＲ信号からなるデータの例を示している。データ３２４Ｇは、高周波成分を復元した後のＧ信号からなるデータの例を示している。データ３２４Ｂは、高周波成分を復元した後のＢ信号からなるデータの例を示している。なお、データ３２４Ｒ乃至３２４Ｂにおいて、Ｒ信号、Ｇ信号およびＢ信号のそれぞれの添え字は、画素信号が並べられる行および列の位置を示す。例えば、１行目および１列目のＲ信号は、Ｒ₁₁と表記され、１行目および２列目のＲ信号は、Ｒ₁₂と表記される。

そして、高周波成分復元後のＲ信号、Ｇ信号およびＢ信号のそれぞれが、ベイヤ配列に従って並べられ、ベイヤ画像信号３２５が生成される。例えば、データ３２４Ｒの４×４のＲ信号のうち、Ｒ₂₁、Ｒ₂₃、Ｒ₄₁およびＲ₄₃が選択され、ベイヤ画像信号３２５において行および列の位置を変えずに並べられる。また、例えば、データ３２４Ｇの４×４のＧ信号のうち、Ｇ₁₁、Ｇ₁₃、Ｇ₂₂、Ｇ₂₄、Ｇ₃₁、Ｇ₃₃、Ｇ₄₂およびＧ₄₄が選択され、ベイヤ画像信号３２５において行および列の位置を変えずに並べられる。また、例えば、データ３２４Ｂの４×４のＢ信号のうち、Ｂ₁₂、Ｂ₁₄、Ｂ₃₂およびＢ₃₄が選択され、ベイヤ画像信号３２５において行および列の位置を変えずに並べられる。このようにして、Ｒ信号、Ｇ信号およびＢ信号がベイヤ配列で並べられたベイヤ画像信号３２５が生成される。

ＩＲ画像信号出力部３１０は、ＩＲ信号を２次元格子状に並べ、ＩＲ画像信号として出力部１０８およびセンシング部１２３へ出力する。

なお、高周波用Ｇ補間フィルタ３０２、高周波成分抽出部３０７および高周波成分復元部３０８により、高周波成分の抽出および復元を行っているが、これらを設けない構成としてもよい。ただし、画質を向上させる観点から、高周波用Ｇ補間フィルタ３０２、高周波成分抽出部３０７および高周波成分復元部３０８を設けることが望ましい。

また、比率算出部３０５および色差調整部３０６を画像生成部１２１に設けているが、これらを後段の画像変換部１２２に設けてもよい。ただし、画質を向上させる観点から、比率算出部３０５および色差調整部３０６を画像生成部１２１に設けることが望ましい。

さらに、ベイヤ画像信号出力部３０９を設けない構成とし、画像信号をベイヤ化せずに画像変換部１２２およびセンシング部１２３に供給するようにしてもよい。

｛色差調整部の構成例｝
図１４は、色差調整部３０６の構成例を示すブロック図である。色差調整部３０６は、ＹＣ変換部３５１、色差信号補正部３５２およびＲＧＢ変換部３５３を備える。

ＹＣ変換部３５１は、画素毎に、Ｒ_L信号、Ｇ_L信号およびＢ_L信号を輝度信号Ｙ_Lと色差信号ＣｒおよびＣｂとに変換する。ＹＣ変換部３５１は、例えば、ＩＴＵ−Ｒ(International Telecommunication Union Radiocommunication Sector) ＢＴ．６０１の規格に基づいて次の式（１９）乃至（２１）により変換を行う。ＹＣ変換部３５１は、色差信号ＣｒおよびＣｂを色差信号補正部３５２に供給し、輝度信号Ｙ_LをＲＧＢ変換部３５３に供給する。

Ｙ_L＝０．２９９×Ｒ_L＋０．５８７×Ｇ_L＋０．１４４×Ｂ_L
・・・（１９）
Ｃｂ＝−０．１６８７３６×Ｒ_L−０．３３１２６４×Ｇ_L＋０．５×Ｂ_L
・・・（２０）
Ｃｒ＝０．５×Ｒ_L−０．４１８６８８×Ｇ_L−０．０８１３１２×Ｂ_L
・・・（２１）

色差信号補正部３５２は、色差信号ＣｒおよびＣｂを補正する。具体的には、色差信号補正部３５２は、撮像モード、測光量Ｑおよび可視光比率Ｒｃに基づいて、クロマゲインＧｃを設定する。そして、色差信号補正部３５２は、設定したゲインを色差信号ＣｒおよびＣｂのそれぞれに乗じる補正を行い、補正後の色差信号Ｃｒ’およびＣｂ’信号をＲＧＢ変換部３５３に供給する。クロマゲインの設定方法の詳細については後述する。

ＲＧＢ変換部３５３は、画素毎に、輝度信号Ｙ_Lおよび色差信号Ｃｒ’，Ｃｂ’をＲ_L信号、Ｇ_L信号およびＢ_L信号に変換して高周波成分復元部３０８に供給する。ＲＧＢ変換部３５３は、例えば、ＩＴＵ−Ｒ ＢＴ．６０１の規格に基づいて次の式（２２）乃至（２４）を使用して変換を行う。

Ｒ_L＝Ｙ_L＋１．４０２×Ｃｒ’ ・・・（２２）
Ｇ_L＝Ｙ_L−０．３４４１３６×Ｃｒ’−０．７１４１３６×Ｃｂ’
・・・（２３）
Ｂ_L＝Ｙ_L＋１．７７２×Ｃｂ’ ・・・（２４）

｛色差信号補正部の構成例｝
図１５は、色差信号補正部３５２の構成例を示すブロック図である。色差信号補正部３５２は、クロマゲイン制御部４０１と、乗算器４０２および４０３とを備える。

クロマゲイン制御部４０１は、撮像モード、測光量Ｑおよび可視光比率Ｒｃに基づいて、色差信号に乗算するゲインであるクロマゲインＧｃを制御する。

例えば、クロマゲイン制御部４０１は、センシングモード、デイモードまたはＣＮＶモードに設定されている場合、図１６のグラフを用いて、クロマゲインＧｃを設定する。

図１６の縦軸は、クロマゲインＧｃを示し、横軸は測光量Ｑを示す。また、同図の一点鎖線は、可視光比率Ｒｃが１．０の場合のクロマゲインＧｃの設定例であり、実線は、可視光比率Ｒｃが０．９の場合のクロマゲインＧｃの設定例である。また、点線は、可視光比率Ｒｃが０．８の場合のクロマゲインＧｃの設定例である。同図に例示するように、測光量Ｑが小さいほど、また、可視光比率Ｒｃが低い（すなわち、赤外光成分の割合が高い）ほど、小さなクロマゲインＧｃが設定される。この結果、撮像装置１００の周囲が暗いほど、あるいは、赤外光成分の割合が高いほど、画像をモノクロ画像に近づけて、画像信号のＳＮ（Signal-to-Noise）比を良好に保つことができる。

一方、クロマゲイン制御部４０１は、ナイトモードに設定されている場合、クロマゲインＧｃの値を０に設定する。

クロマゲイン制御部４０１は、設定したクロマゲインＧｃを乗算器４０２および４０３に供給する。

なお、クロマゲイン制御部４０１を画像処理部１０７内に設けているが、例えば、このクロマゲイン制御部４０１を制御部１０２内に設けてもよい。

乗算器４０２は、色差信号ＣｒにクロマゲインＧｃを乗算し、乗算結果である色差信号Ｃｒ’をＲＧＢ変換部３５３に供給する。

乗算器４０３は、色差信号ＣｂにクロマゲインＧｃを乗算し、乗算結果である色差信号Ｃｂ’をＲＧＢ変換部３５３に供給する。

従って、センシングモード、デイモードまたはＣＮＶモードに設定されている場合、色差信号Ｃｒ’、Ｃｂ’は、次の式（２５）および（２６）のようになる。

Ｃｒ’＝Ｇｃ×Ｃｒ ・・・（２５）
Ｃｂ’＝Ｇｃ×Ｃｂ ・・・（２６）

一方、ナイトモードに設定されている場合、色差信号Ｃｒ’、Ｃｂ’は、次の式（２７）および（２８）のようになる。

Ｃｒ’＝０ ・・・（２７）
Ｃｂ’＝０ ・・・（２８）

従って、ナイトモードに設定されている場合、ＲＧＢ変換部３５３から出力されるＲ_L信号、Ｇ_L信号およびＢ_L信号は、輝度信号Ｙ_Lのみを含むようになり、モノクロの画像信号となる。

｛画像変換部の構成例｝
図１７は、画像変換部１２２の構成例を示すブロック図である。画像変換部１２２は、デモザイク処理部５０１、リニアマトリックス演算部５０２、ガンマ補正部５０３およびＹＣ変換部５０４を備える。

デモザイク処理部５０１は、所定のデモザイクアルゴリズムを使用して、ベイヤ画像信号を、画像信号ごとにＲ信号、Ｇ信号およびＢ信号を含むデモザイク画像信号に変換する。デモザイク処理部５０１は、変換後のデモザイク画像信号をリニアマトリックス演算部５０２に供給する。

リニアマトリックス演算部５０２は、色再現性を高める目的でリニアマトリックス演算を行う。リニアマトリックス演算部５０２は、例えば、次の式（２９）乃至（３１）に示すリニアマトリックス演算を行う。

Ｒ’＝Ｒ＋ｋ_a×（Ｒ−Ｇ）＋ｋ_b×（Ｒ−Ｂ） ・・・（２９）
Ｇ’＝Ｒ＋ｋ_c×（Ｇ−Ｒ）＋ｋ_d×（Ｇ−Ｂ） ・・・（３０）
Ｂ’＝Ｂ＋ｋ_e×（Ｂ−Ｒ）＋ｋ_f×（Ｂ−Ｇ） ・・・（３１）

式（２９）乃至（３１）において、ｋ_a、ｋ_b、ｋ_c、ｋ_d、ｋ_eおよびｋ_fは、実数の係数である。

リニアマトリックス演算部５０２は、演算後のＲ’信号、Ｇ’信号およびＢ’信号をガンマ補正部５０３に供給する。このリニアマトリックス演算により、輝度信号や色差信号の信号レベルが変化する。このため、リニアマトリックス演算の前に、色差信号補正部３５２における色信号の補正を行うことが望ましい。この補正を、前述したように画像生成部１２１で行うことにより、画質を向上させることができる。

ガンマ補正部５０３は、ディスプレイの特性に合わせて、ガンマ補正を行う。ガンマ補正部５０３は、補正後のデモザイク画像信号をＹＣ変換部５０４に供給する。

ＹＣ変換部５０４は、デモザイク画像において、Ｒ’信号、Ｇ’信号およびＢ’信号を輝度信号および色差信号に変換する。ＹＣ変換部５０４は、例えば、上述した式（１９）乃至（２１）を使用して変換を行い、変換後の画像信号をＹＣ画像信号として出力する。なお、ＹＣ変換部５０４は、式（１９）乃至（２１）において、Ｒ_L信号、Ｇ_L信号およびＢ_L信号の代わりに、Ｒ’信号、Ｇ’信号およびＢ’信号を用いる。

なお、上述したように画像生成部１２１においてベイヤ画像信号出力部３０９を設けない構成とした場合、画像変換部１２２において、デモザイク処理部５０１を設けない構成とすることが可能である。

｛センシング部の構成例｝
図１８は、センシング部１２３の構成例を示すブロック図である。センシング部１２３は、物体検出部５５１を備える。物体検出部５５１は、距離計測部５６１、記憶部５６３および認識部５６２を備える。

距離計測部５６１は、ＩＲ画像信号出力部３１０から供給されるＩＲ画像信号に基づくＩＲ画像、および、記憶部５６３に予め記憶されているキャリブレーション画像に基づいて、デプスセンシングを行い、ＩＲ画像内の各物体までの距離を計測する。そして、距離計測部５６１は、各物体までの距離の分布を示すデプスマップを生成し、認識部５６２に供給する。

認識部５６２は、デプスマップに基づいて、物体が存在する領域を検出する。また、認識部５６２は、検出した領域を対象にして、ベイヤ画像信号出力部３０９から供給されるベイヤ画像内の物体の認識を行う。そして、認識部５６２は、物体の検出結果を出力部１０８に供給する。

｛撮像装置１００の処理｝
次に、図１９乃至図３６を参照して、撮像装置１００の処理について説明する。

（撮像モード設定処理）
まず、図１９
のフローチャートを参照して、撮像装置１００により実行される撮像モード設定処理について説明する。この処理は、例えば、撮像を開始するときや、撮像中の所定の間隔ごと等の所定のタイミングで実行される。

ステップＳ１において、制御部１０２は、ユーザ設定等に基づいて、センシングを行うか否かを判定する。センシングを行うと判定された場合、処理はステップＳ２に進む。

ステップＳ２において、制御部１０２は、センシングモードに設定する。制御部１０２は、センシングモードに設定したことを示すモード信号をクロマゲイン制御部４０１に供給する。

ステップＳ３において、撮像装置１００は、赤外光の間欠照射を開始し、画素別シャッタをオンする。具体的には、制御部１０２は、赤外光照射部１０３を制御して、赤外光の間欠照射を開始させる。また、制御部１０２は、撮像素子１０６を制御して、画素別シャッタをオンする。

なお、センシングモードに設定されている場合の赤外光の照射期間および各画素の露光期間の例は、図２３を参照して後述する。

ステップＳ４において、制御部１０２は、成分分離部３０３をオフする。

その後、撮像モード設定処理は終了する。

一方、ステップＳ１において、センシングを行わないと判定された場合、処理はステップＳ５に進む。

ステップＳ５において、撮像装置１００は、ビューイングモード設定処理を実行し、その後、撮像モード設定処理は終了する。

ここで、図２０のフローチャートを参照して、ビューイングモード設定処理の詳細について説明する。

ステップＳ２１において、撮像装置１００は、赤外光の照射、画素別シャッタをオフする。具体的には、制御部１０２は、赤外光照射部１０３を制御して消灯させる。また、制御部１０２は、撮像素子１０６を制御して、画素別シャッタをオフする。

ステップＳ２２において、制御部１０２は、成分分離部３０３をオンする。

ステップＳ２３において、制御部１０２は、周囲の明るさの判定を行う。例えば、制御部１０２は、図２１に示されるように、測光部１０１による測光量Ｑに基づいて、周囲の明るさを「明るい」、「暗い」、「非常に暗い」の３段階に分ける。具体的には、測光量Ｑが０から撮像素子１０６の光電変換素子が飽和するレベルまでの範囲内において、閾値ＴＨ_Q0及び閾値ＴＨ_Q1が予め設定されている。そして、制御部１０２は、測光量Ｑ≧閾値ＴＨ_Q1の場合、周囲が明るいと判定し、閾値ＴＨ_Q0≦測光量Ｑ＜閾値ＴＨ_Q1の場合、周囲が暗いと判定し、測光量Ｑ＜閾値ＴＨ_Q0の場合、周囲が非常に暗いと判定する。そして、周囲が暗いと判定された場合、処理はステップＳ２４に進む。

ステップＳ２４において、制御部１０２は、環境赤外光の強度の判定を行う。具体的には、上述したように、比率算出部３０５は、式（１２）乃至（１５）を使用して可視光比率Ｒｃを算出し、制御部１０２に供給する。

制御部１０２は、可視光比率Ｒｃに基づいて、環境赤外光の強度の判定を行う。例えば、図２２に示されるように、可視光比率Ｒｃの０から１までの範囲内において、閾値ＴＨ_Rcが予め設定されている。制御部１０２は、可視光比率Ｒｃ≧ＴＨ_Rcの場合、環境赤外光の強度が低いと判定し、可視光比率Ｒｃ＜ＴＨ_Rcの場合、環境赤外光の強度が高いと判定する。そして、環境赤外光の強度が高いと判定された場合、処理はステップＳ２５に進む。

一方、ステップＳ２３において、周囲が非常に暗いと判定された場合、ステップＳ２４の処理はスキップされ、処理はステップＳ２５に進む。

ステップＳ２５において、制御部１０２は、ナイトモードに設定する。すなわち、制御部１０２は、周囲が非常に暗い状態、または、周囲が暗く、環境赤外光の強度が高い状態の場合、ナイトモードに設定する。制御部１０２は、ナイトモードに設定したことを示すモード信号をクロマゲイン制御部４０１に供給する。

ステップＳ２６において、赤外光照射部１０３は、制御部１０２の制御に従って、赤外光の連続照射を開始する。このとき、画素別シャッタはオフされたままとなる。また、成分分離部３０３は、オンされたままとなる。

なお、ナイトモードに設定されている場合の赤外光の照射期間および各画素の露光期間の例は、図２５を参照して後述する。

その後、ビューイングモード設定処理は終了する。

一方、ステップＳ２４において、環境赤外光の強度が低いと判定された場合、処理はステップＳ２７に進む。

ステップＳ２７において、制御部１０２は、ＣＮＶモードに設定する。すなわち、制御部１０２は、周囲が暗く、環境赤外光の強度が低い状態の場合、ＣＮＶモードに設定する。制御部１０２は、ＣＮＶモードに設定したことを示すモード信号をクロマゲイン制御部４０１に供給する。

ステップＳ２８において、図１９のステップＳ３の処理と同様に、赤外光の間欠照射が開始され、画素別シャッタがオンされる。

なお、ＣＮＶモードに設定されている場合の赤外光の照射期間および各画素の露光期間の例は、図２３を参照して後述する。

ステップＳ２９において、図１９のステップＳ４の処理と同様に、成分分離部３０３がオフされる。

その後、ビューイングモード設定処理は終了する。

一方、ステップＳ２３において、周囲が明るいと判定された場合、処理はステップＳ３０に進む。

ステップＳ３０において、制御部１０２は、デイモードに設定する。制御部１０２は、デイモードに設定したことを示すモード信号をクロマゲイン制御部４０１に供給する。このとき、画素別シャッタはオフされたままとなる。また、赤外光照射部１０３は消灯したままとなる。さらに、成分分離部３０３は、オンされたままとなる。

なお、デイモードに設定されている場合の赤外光の照射期間および各画素の露光期間の例は、図２４を参照して後述する。

その後、ビューイングモード設定処理は終了する。

ここで、図２３乃至図２５を参照して、各撮像モードにおける赤外光の照射期間および各画素の露光期間の例について説明する。なお、図２３乃至図２５において、時刻ｔ０からｔ４の期間、時刻ｔ４から時刻ｔ８の期間が、それぞれ１フレーム期間である。

図２３は、センシングモードまたはＣＮＶモードに設定されている場合の赤外光の照射期間および各画素の露光期間の例を示している。センシングモードまたはＣＮＶモードに設定されている場合、撮像素子１０６の画素アレイ部２０２の１行目から最終行に向かう掃引方向に従って、行単位に露光期間がずらされる。また、画素別シャッタがオンされることにより、同じ行の画素であっても、Ｒ画素、Ｇ画素およびＢ画素（以下、カラー画素と称する）とＩＲ画素とで異なる露光期間が設定される。

例えば、時刻ｔ２において、画素アレイ部２０２の１行目のカラー画素の露光期間が開始される。その後、所定の時間間隔で、掃引方向の順に画素アレイ部２０２の各行のカラー画素の露光期間が開始される。そして、時刻ｔ３において、画素アレイ部２０２の最終行のカラー画素の露光期間が開始される。このように、時刻ｔ２から時刻ｔ３の期間において、カラー画素の露光期間が、掃引方向の順に所定の時間間隔で開始される。

次に、時刻ｔ４において、画素アレイ部２０２の１行目のカラー画素の露光期間が終了し、露光期間中に得られた電荷信号が読み出される。その後、所定の時間間隔で、掃引方向の順に画素アレイ部２０２の各行のカラー画素の露光期間が終了し、露光期間中に得られた電荷信号が読み出される。そして、時刻ｔ５において、画素アレイ部２０２の最終行のカラー画素の露光期間が終了し、露光期間中に得られた電荷信号が読み出される。このように、時刻ｔ４から時刻ｔ５の期間において、カラー画素の露光期間が、掃引方向の順に所定の時間間隔で終了し、露光期間中に得られた電荷信号が読み出される。

次に、時刻ｔ６から時刻ｔ７の期間において、時刻ｔ２から時刻ｔ３の期間と同様に、カラー画素の露光期間が、掃引方向の順に所定の時間間隔で開始される。

次に、時刻ｔ８から時刻ｔ９の期間において、時刻ｔ４から時刻ｔ５の期間と同様に、カラー画素の露光期間が、掃引方向の順に所定の時間間隔で終了し、露光期間中に得られた電荷信号が読み出される。

以降、同様の処理が繰り返される。

一方、時刻ｔ０において、画素アレイ部２０２の１行目のＩＲ画素の露光期間が開始される。その後、所定の時間間隔で、掃引方向の順に画素アレイ部２０２の各行のＩＲ画素の露光期間が開始される。そして、時刻ｔ１において、画素アレイ部２０２の最終行のＩＲ画素の露光期間が開始される。このように、時刻ｔ０から時刻ｔ１の期間において、ＩＲ画素の露光期間が、掃引方向の順に所定の時間間隔で開始される。

次に、時刻ｔ４において、画素アレイ部２０２の１行目のＩＲ画素の露光期間が終了し、露光期間中に得られた電荷信号が読み出される。その後、所定の時間間隔で、掃引方向の順に画素アレイ部２０２の各行のＩＲ画素の露光期間が終了し、露光期間中に得られた電荷信号が読み出される。そして、時刻ｔ５において、画素アレイ部２０２の最終行のＩＲ画素の露光期間が終了し、露光期間中に得られた電荷信号が読み出される。このように、時刻ｔ４から時刻ｔ５の期間において、ＩＲ画素の露光期間が、掃引方向の順に所定の時間間隔で終了し、露光期間中に得られた電荷信号が読み出される。

次に、時刻ｔ４から時刻ｔ５の期間において、時刻ｔ０から時刻ｔ１の期間と同様に、ＩＲ画素の露光期間が、掃引方向の順に所定の時間間隔で開始される。

次に、時刻ｔ８から時刻ｔ９の期間において、時刻ｔ４から時刻ｔ５の期間と同様に、ＩＲ画素の露光期間が、掃引方向の順に所定の時間間隔で終了し、露光期間中に得られた電荷信号が読み出される。

以降、同様の処理が繰り返される。

このように、各フレーム期間内にカラー画素とＩＲ画素の露光期間が設定される。また、赤外光受光用のＩＲ画素の露光期間が、赤外光の受光に用いられないカラー画素の露光期間より長く設定される。さらに、各フレーム期間において、時刻ｔ１から時刻ｔ２の期間、時刻ｔ５から時刻ｔ６の期間、および、時刻ｔ９から時刻ｔ１０の期間のように、ＩＲ画素とカラー画素の露光期間が重複していない期間、より具体的には、全てのＩＲ画素が露光しており、全てのカラー画素が露光していない期間（以下、単独露光期間と称する）が設けられる。

一方、赤外光は、各フレーム期間の一部の期間のみ照射される。具体的には、赤外光は、各フレーム期間のうち単独露光期間内に集中的に照射される。

なお、必ずしも単独露光期間の全期間において赤外光を照射する必要はなく、単独露光期間の一部の期間においてのみ赤外光を照射するようにしてもよい。

このように、センシングモードまたはＣＮＶモードに設定されている場合、ＩＲ画素のみが赤外光照射部１０３からの赤外光を受光し、カラー画素は赤外光照射部１０３からの赤外光を受光しない。また、図６を参照して上述したように、カラー画素にはＩＲカットフィルタ２３３が設けられており、カラー画素は環境赤外光を受光しない。ここで、上述したように、Ｒ、Ｇ、Ｂの色情報はカラー画素の画素信号から生成されるが、カラー画素は、照射した赤外光および環境赤外光を受光しないため、色再現性の低下が防止される。

一方、ＩＲ画素は、赤外光照射部１０３からの赤外光を受光するため、高画質のＩＲ画像を得ることができる。

また、ＣＮＶモードに設定することにより、周囲が暗くても、赤外光を照射しながら、フレームレートを落とすことなく、高画質のカラー画像を得ることができる。

以上のように、センシングモードまたはＣＮＶモードに設定することにより、１つの撮像素子１０６を用いて、各フレーム期間内に高画質のカラー画像とＩＲ画像を並行して得ることができる。

図２４は、デイモードに設定されている場合の赤外光の照射期間および各画素の露光期間の例を示している。デイモードに設定されている場合、センシングモードまたはＣＮＶモードに設定されている場合と同様に、撮像素子１０６の画素アレイ部２０２の１行目から最終行に向かう掃引方向に従って、行単位に露光期間がずらされる。また、画素別シャッタがオフされることにより、カラー画素とＩＲ画素の露光期間が合わせられる。

例えば、時刻ｔ０から時刻ｔ１の期間において、カラー画素およびＩＲ画素の露光期間が、掃引方向の順に所定の時間間隔で開始される。

次に、時刻ｔ４から時刻ｔ５の期間において、カラー画素およびＩＲ画素の露光期間が掃引方向の順に終了し、露光期間中に得られた電荷信号が読み出され、新たな露光期間が開始される。

次に、時刻ｔ８から時刻ｔ９の期間において、カラー画素およびＩＲ画素の露光期間が掃引方向の順に終了し、露光期間中に得られた電荷信号が読み出され、新たな露光期間が開始される。

以降、同様の処理が繰り返される。

なお、デイモードに設定されている場合、環境光の強度が十分であるため、赤外光の照射は行われない。

図２５は、ナイトモードに設定されている場合の赤外光の照射期間および各画素の露光期間の例を示している。ナイトモードに設定されている場合、他のモードに設定されている場合と同様に、撮像素子１０６の画素アレイ部２０２の１行目から最終行に向かう掃引方向に従って、行単位に露光期間がずらされる。また、画素別シャッタがオフされることにより、カラー画素とＩＲ画素の露光期間が合わせられる。

例えば、時刻ｔ０から時刻ｔ１の期間において、カラー画素およびＩＲ画素の露光期間が、掃引方向の順に所定の時間間隔で開始される。

次に、時刻ｔ４から時刻ｔ５の期間において、カラー画素およびＩＲ画素の露光期間が掃引方向の順に終了し、露光期間中に得られた電荷信号が読み出され、新たな露光期間が開始される。

次に、時刻ｔ８から時刻ｔ９の期間において、カラー画素およびＩＲ画素の露光期間が掃引方向の順に終了し、露光期間中に得られた電荷信号が読み出され、新たな露光期間が開始される。

以降、同様の処理が繰り返される。

一方、赤外光は連続して照射される。

上述したように、ナイトモードに設定されている場合、色情報を用いずに、モノクロの画像が生成される。従って、赤外光を連続照射することにより、輝度情報の再現性が向上し、撮像装置１００により生成される画像の画質が向上する。

なお、センシングモードに設定されている場合、所定のパターンを示す赤外光（以下、ストラクチャードライトと称する）が赤外光照射部１０３から照射される。例えば、図２６に示されるドットパターンを示すストラクチャードライトが赤外光照射部１０３から照射される。一方、ＣＮＶモードまたはナイトモードに設定されている場合、特定のパターンがなく、明るさが一様な赤外光（以下、フラットライトと称する）が赤外光照射部１０３から照射される。

（撮像処理）
次に、図２７のフローチャートを参照して、撮像装置１００により実行される撮像処理について説明する。

ステップＳ１０１において、撮像素子１０６は、ＲＡＷ画像を撮像する。具体的には、撮像素子１０６は、撮像レンズ１０４および光学フィルタ１０５を介して受光した光の像を撮像し、撮像の結果得られたＲＡＷ画像信号をＲＧＢＩＲ補間フィルタ３０１および高周波用Ｇ補間フィルタ３０２に供給する。

ステップＳ１０２において、撮像装置１００は、画像生成処理を実行する。ここで、図２８のフローチャートを参照して、画像生成処理の詳細について説明する。

ステップＳ１５１において、ＲＧＢＩＲ補間フィルタ３０１および高周波用Ｇ補間フィルタ３０２は、画素の補間を行う。

具体的には、ＲＧＢＩＲ補間フィルタ３０１は、上述したように、ＲＡＷ画像信号において、画素ごとに色信号の全てを補間する。ＲＧＢＩＲ補間フィルタ３０１は、補間後のＲ_{+ΔIR_L}信号、Ｂ_{+ΔIR_L}信号およびＩＲ_{+ΔV_L}信号を成分分離部３０３に供給し、Ｇ_{+ΔIR_L}信号を成分分離部３０３、高周波成分抽出部３０７および高周波成分復元部３０８に供給する。

高周波用Ｇ補間フィルタ３０２は、上述したように、ＲＡＷ画像信号において、画素ごとにＧ信号のみを補間する。高周波用Ｇ補間フィルタ３０２は、補間後のＧ_{+ΔIR_H}信号を高周波成分抽出部３０７に供給する。

ステップＳ１５２において、成分分離部３０３がオンされているか否かが判定される。成分分離部３０３がオンされていると判定された場合、処理はステップＳ１５３に進む。

ステップＳ１５３において、成分分離部３０３は、不要な成分を分離、除去する。具体的には、成分分離部３０３は、上述したように、Ｒ_{+ΔIR_L}信号、Ｇ_{+ΔIR_L}信号およびＢ_{+ΔIR_L}信号のそれぞれから赤外光成分を分離して除去する。成分分離部３０３は、赤外光成分が除去されたＲ_L信号、Ｇ_L信号およびＢ_L信号をホワイトバランス処理部３０４に供給する。

また、成分分離部３０３は、上述したように、ＩＲ_{+ΔV_L}信号から可視光成分を分離して除去する。成分分離部３０３は、可視光成分が除去されたＩＲ信号をＩＲ画像信号出力部３１０に供給する。

その後、処理はステップＳ１５４に進む。

一方、ステップＳ１５２において、成分分離部３０３がオフされていると判定された場合、ステップＳ１５３の処理はスキップされ、処理はステップＳ１５４に進む。このとき、成分分離部３０３に入力されたＲ_{+ΔIR_L}信号、Ｇ_{+ΔIR_L}信号およびＢ_{+ΔIR_L}信号は、赤外光成分の分離および除去が行われることなく、そのままＲ_L信号、Ｇ_L信号およびＢ_L信号としてホワイトバランス処理部３０４に供給される。また、成分分離部３０３に入力されたＩＲ_{+ΔV_L}信号は、可視光成分の分離および除去が行われることなく、そのままＩＲ信号としてＩＲ画像信号出力部３１０に供給される。

ステップＳ１５４において、ホワイトバランス処理部３０４は、ホワイトバランス処理を行う。具体的には、ホワイトバランス処理部３０４は、上述したように、Ｒ_L信号、Ｇ_L信号およびＢ_L信号においてホワイトバランスを調整し、ホワイトバランスを調整したＲ_L信号、Ｇ_L信号およびＢ_L信号をＹＣ変換部３５１に供給する。

ステップＳ１５５において、クロマゲイン制御部４０１は、ナイトモードに設定されているか否かを判定する。ナイトモードに設定されていると判定された場合、処理はステップＳ１５６に進む。

ステップＳ１５６において、色差調整部３０６は、ナイトモード用の色差の調整を行う。

具体的には、ＹＣ変換部３５１は、上述したように、画素毎に、Ｒ_L信号、Ｇ_L信号およびＢ_L信号を輝度信号Ｙ_Lと色差信号ＣｒおよびＣｂとに変換する。ＹＣ変換部３５１は、輝度信号Ｙ_LをＲＧＢ変換部３５３に供給する。また、ＹＣ変換部３５１は、色差信号Ｃｒを乗算器４０２に供給し、色差信号Ｃｂを乗算器４０３に供給する。

クロマゲイン制御部４０１は、クロマゲインＧｃを０に設定する。クロマゲイン制御部４０１は、設定したクロマゲインＧｃを乗算器４０２および４０３に供給する。

乗算器４０２は、色差信号ＣｒにクロマゲインＧｃ（＝０）を乗算し、乗算結果である色差信号Ｃｒ’をＲＧＢ変換部３５３に供給する。

乗算器４０３は、色差信号ＣｂにクロマゲインＧｃ（＝０）を乗算し、乗算結果である色差信号Ｃｂ’をＲＧＢ変換部３５３に供給する。

ＲＧＢ変換部３５３は、上述したように、画素毎に、輝度信号Ｙ_Lおよび色差信号Ｃｒ’，Ｃｂ’を、Ｒ_L信号、Ｇ_L信号およびＢ_L信号に変換して高周波成分復元部３０８に供給する。

ここで、色差信号Ｃｒ’，Ｃｂ’は０なので、Ｒ_L信号、Ｇ_L信号およびＢ_L信号からなる画像はモノクロ画像となる。

その後、処理はステップＳ１５８に進む。

一方、ステップＳ１５５において、センシングモード、デイモードまたはＣＮＶモードに設定されていると判定された場合、処理はステップＳ１５７に進む。

ステップＳ１５７において、色差調整部３０６は、センシングモード、デイモード、ＣＮＶモード用の色差の調整を行う。

具体的には、ＹＣ変換部３５１は、上述したように、画素毎に、Ｒ_L信号、Ｇ_L信号およびＢ_L信号を輝度信号Ｙ_Lと色差信号ＣｒおよびＣｂとに変換する。ＹＣ変換部３５１は、輝度信号Ｙ_LをＲＧＢ変換部３５３に供給する。また、ＹＣ変換部３５１は、色差信号Ｃｒを乗算器４０２に供給し、色差信号Ｃｂを乗算器４０３に供給する。

比率算出部３０５は、上述したように、可視光比率Ｒｃを算出し、制御部１０２およびクロマゲイン制御部４０１に供給する。

クロマゲイン制御部４０１は、上述したように、測光量Ｑおよび可視光比率Ｒｃに基づいて、図１６のグラフを用いて、クロマゲインＧｃを設定する。クロマゲイン制御部４０１は、設定したクロマゲインＧｃを乗算器４０２および４０３に供給する。

乗算器４０２は、色差信号ＣｒにクロマゲインＧｃを乗算し、乗算結果である色差信号Ｃｒ’をＲＧＢ変換部３５３に供給する。

乗算器４０３は、色差信号ＣｂにクロマゲインＧｃを乗算し、乗算結果である色差信号Ｃｂ’をＲＧＢ変換部３５３に供給する。

ＲＧＢ変換部３５３は、上述したように、画素毎に、輝度信号Ｙ_Lおよび色差信号Ｃｒ’，Ｃｂ’をＲ_L信号、Ｇ_L信号およびＢ_L信号に変換して高周波成分復元部３０８に供給する。

その後、処理はステップＳ１５８に進む。

ステップＳ１５８において、高周波成分抽出部３０７は、上述したように、Ｇ_{+ΔIR_L}信号およびＧ_{+ΔIR_H}信号に基づいて、高周波成分Ｇ_Hを抽出する。高周波成分抽出部３０７は、抽出した高周波成分Ｇ_Hを高周波成分復元部３０８に供給する。

ステップＳ１５９において、高周波成分復元部３０８は、上述したように、Ｒ_L信号、Ｇ_L信号およびＢ_L信号において高周波成分Ｇ_Hを復元する。高周波成分復元部３０８は、高周波成分を復元したＲ信号、Ｇ信号およびＢ信号をベイヤ画像信号出力部３０９に供給する。

ステップＳ１６０において、画像生成部１２１は、ベイヤ画像信号およびＩＲ画像信号を出力する。具体的には、ベイヤ画像信号出力部３０９は、Ｒ信号、Ｇ信号およびＢ信号をベイヤ配列に従って並べ、ベイヤ画像信号としてデモザイク処理部５０１および認識部５６２に供給する。ＩＲ画像信号出力部３１０は、ＩＲ信号を２次元格子状に並べ、ＩＲ画像信号として出力部１０８および距離計測部５６１に供給する。

その後、画像生成処理は終了する。

図２７に戻り、物体検出部５５１は、ユーザ設定等に基づいて、物体検出を行うか否かを判定する。物体検出を行わないと判定された場合、処理はステップＳ１０４に進む。

ステップＳ１０４において、画像変換部１２２は、画像変換を行う。

具体的には、デモザイク処理部５０１は、上述したように、ベイヤ画像信号を、画像信号ごとにＲ信号、Ｇ信号およびＢ信号を含むデモザイク画像信号に変換し、変換後のデモザイク画像信号をリニアマトリックス演算部５０２に供給する。

リニアマトリックス演算部５０２は、上述したように、デモザイク画像信号に対してリニアマトリックス演算を行い、演算後のデモザイク画像信号をガンマ補正部５０３に供給する。

ガンマ補正部５０３は、ディスプレイの特性に合わせて、デモザイク画像信号のガンマ補正を行い、補正後のデモザイク画像信号をＹＣ変換部５０４に供給する。

ＹＣ変換部５０４は、上述したように、デモザイク画像信号をＹＣ画像信号に変換し、変換後のＹＣ画像信号を出力部１０８に供給する。

ステップＳ１０５において、出力部１０８は、画像信号を出力する。すなわち、出力部１０８は、ＹＣ画像信号およびＩＲ画像信号を出力する。

その後、処理はステップＳ１０９に進む。

一方、ステップＳ１０３において、物体検出を行うと判定された場合、処理はステップＳ１０６に進む。

ステップＳ１０６において、物体検出部５５１は、物体検出処理を実行する。ここで、図２９のフローチャートを参照して、物体検出処理の詳細について説明する。

なお、以下、図３０に示される被写体を撮像した場合を適宜例に挙げて説明する。なお、図３０では、各被写体がモノクロで表されているが、実際には色が付いている。

また、図３１及び図３２は、Ｓ１０２の画像生成処理により得られるベイヤ画像信号に基づくベイヤ画像、および、ＩＲ画像信号に基づくＩＲ画像の例を示している。図３１のベイヤ画像および図３２のＩＲ画像は、ともに同じフレーム期間内に図３０の被写体を撮像した画像の一部である。また、図３２のＩＲ画像は、図３０の被写体にストラクチャードライトを照射した状態で撮像されたものである。なお、図３１のベイヤ画像は、モノクロで表されているが、実際にはカラーの画像である。

ステップＳ２０１において、距離計測部５６１は、キャリブレーション画像を取得する。

ここで、キャリブレーション画像とは、撮像装置１００（撮像レンズ１０４）の光軸に対して垂直に設置された模様のない平面を、ストラクチャードライトを照射した状態で撮像装置１００により撮像することにより得られるＩＲ画像のことである。従って、図３３に示されるように、キャリブレーション画像は、ストラクチャードライトのパターンがそのまま投影された画像となる。

キャリブレーション画像は予め撮像され、キャリブレーション画像を示すＩＲ画像信号（以下、キャリブレーション画像信号と称する）が記憶部５６３に記憶されている。距離計測部５６１は、キャリブレーション画像信号を記憶部５６３から読み出す。

ステップＳ２０２において、距離計測部５６１は、距離計測を行う。例えば、距離計測部５６１は、キャリブレーション画像における各ドットと、被写体を撮像したＩＲ画像における各ドットとの対応付けを行う。例えば、図３４に示されるように、距離計測部５６１は、ＩＲ画像において、キャリブレーション画像におけるドットＤ１乃至Ｄ３に対応するドットＤ１’乃至Ｄ３’の検出を行う。そして、距離計測部５６１は、対応するドット間の距離に基づいて、ＩＲ画像の各ドットにおける物体までの距離を算出する。

例えば、図３４の例において、物体６０１にストラクチャードライトが投影されることにより、ＩＲ画像のドットＤ２’は、対応するキャリブレーション画像のドットＤ２の位置から左方向に移動している。距離計測部５６１は、このドットＤ２’とドットＤ２の間の距離に基づいて、ＩＲ画像のドットＤ２’の位置における物体までの距離を算出する。そして、距離計測部５６１は、ＩＲ画像の全てのドットについて同様の処理を行うことにより、各ドットの位置における物体までの距離を算出する。また、距離計測部５６１は、物体までの距離の分布を示すデプスマップを生成し、生成したデプスマップを認識部５６２に供給する。

図３５は、デプスマップの例を示している。この例では、デプスマップがモノクロの画像により示されているが、実際の画像では、物体までの距離に応じて画素の色が変化する。

ステップＳ２０３において、認識部５６２は、物体の認識を行う。例えば、認識部５６２は、デプスマップに基づいて、物体が存在する領域を検出する。例えば、図３５の例において、領域Ｒ１乃至Ｒ６が検出される。

そして、認識部５６２は、ベイヤ画像に基づいて、検出した各領域内の物体の認識を行う。認識部５６２の物体の認識方法には、任意の方法を採用することが可能であるが、例えば、ＣＮＮ（Convolutional Neural Network）が用いられる。これにより、例えば、図３６に示されるように、領域Ｒ１およびＲ３乃至Ｒ６内の人形、並びに、領域Ｒ２内のカラーチャートが認識される。

認識部５６２は、物体の検出結果を出力部１０８に供給する。

その後、物体検出処理は終了する。

このように、ＩＲ画像に基づいて物体が存在する領域を検出してから、検出した領域を対象に物体の認識処理が行われる。その結果、計算量が削減され、処理の高速化や負荷の軽減が実現される。また、ＩＲ画像とベイヤ画像が同じ撮像素子１０６により撮像され、撮像範囲が同じになるため、視差補正を行う必要がない。さらに、ＩＲ画像とベイヤ画像が同じフレーム期間内に撮像されるため、物体の動き等を考慮する必要がない。

従って、少ない処理量で高精度の物体検出が実現される。

図２７に戻り、ステップＳ１０７において、ステップＳ１０４の処理と同様に、画像変換が行われる。

ステップＳ１０８において、出力部１０８は、画像信号および検出結果を出力する。すなわち、出力部１０８は、ＹＣ画像信号およびＩＲ画像信号、並びに、物体の検出結果を出力する。

ステップＳ１０９において、制御部１０２は、撮像を停止するか否かを判定する。撮像を停止しないと判定された場合、処理はステップＳ１０１に戻り、ステップＳ１０９において、撮像を停止すると判定されるまで、ステップＳ１０１乃至Ｓ１０９の処理が繰り返し実行される。

一方、ステップＳ１０９において、制御部１０２は、例えば、ユーザにより所定の操作が行われた場合や、撮像を継続する時間が経過した場合等に、撮像を停止すると判定し、撮像処理は終了する。

＜２．変形例＞
以下、上述した本技術の実施の形態の変形例について説明する。

上述したように、撮像装置１００は、１つの撮像素子１０６を用いて、同じフレーム期間内にカラー画像とＩＲ画像を並行して取得することができる。以上の説明では、ＩＲ画像を用いて、物体までの距離の検出（デプスセンシング）を行い、デプスセンシングの結果を用いて物体の検出を行う例を示したが、デプスセンシングの結果を他の用途に用いることも可能である。

例えば、カラー画像を用いた顔検出や顔認識では、写真等の画像を用いたなりすましを検出することが困難である。これに対して、ＩＲ画像を用いたデプスセンシングにより平面検出を行うことにより、なりすましの検出が容易になる。

また、ＩＲ画像を他のセンシング用途に用いてもよい。

例えば、フラットライトを用いて撮像したＩＲ画像を用いて、虹彩認証、オートフォーカス、オートホワイトバランス、逆光補正等の処理を行うことができる。ＩＲ画像を用いることにより、カラー画像を用いる場合と比較して、暗時や暗所における上記の処理の性能が向上する。

さらに、例えば、フラットライトを用いて撮像したＩＲ画像を、特に暗時や暗所のビューイング用途（例えば、監視等）に用いることができる。

また、例えば、撮像装置１００に２つの撮像素子１０６を設けることにより、カラー画像とＩＲ画像のステレオ撮像を並行して行うことができる。

さらに、例えば、図９の画像生成部１２１において、色差調整部３０６の代わりに、図３７の輝度・色差調整部７０１を設け、色差信号だけでなく、輝度信号の補正も行うようにしてもよい。なお、図３７において、図１４と対応する部分には同じ符号を付してある。

図３７の輝度・色差調整部７０１は、図１４の色差調整部３０６と比較して、輝度信号生成部７１１および輝度信号補正部７１２が追加されている点が異なる。

輝度信号生成部７１１は、次の式（３２）を使用して、撮像素子１０６から供給されるＲ_+ΔIR信号、Ｇ_+ΔIR信号およびＢ_+ΔIR信号から輝度信号Ｙ_+ΔIRを生成する。

Ｙ_+ΔIR＝（５Ｇ_+ΔIR＋２Ｒ_+ΔIR＋Ｂ_+ΔIR）／８ ・・・（３２）

輝度信号生成部７１１は、生成した輝度信号Ｙ_+ΔIRを輝度信号補正部７１２に供給する。

図３８は、輝度信号補正部７１２の構成例を示すブロック図である。輝度信号補正部７１２は、合成比率制御部７５１と、乗算器７５２および７５３と、加算器７５４とを備える。

合成比率制御部７５１は、撮像モード、測光量Ｑおよび可視光比率Ｒｃに基づいて、合成比率αを制御する。

例えば、合成比率制御部７５１は、センシングモード、デイモードまたはＣＮＶモードに設定されている場合、図３９のグラフを用いて、合成比率αを設定する。

図３９の縦軸は、合成比率αを示し、横軸は測光量Ｑを示す。また、同図の一点鎖線は、可視光比率Ｒｃが１．０の場合の合成比率αの設定例であり、実線は、可視光比率Ｒｃが０．９の場合の合成比率αの設定例である。また、点線は、可視光比率Ｒｃが０．８の場合の合成比率αの設定例である。

同図に例示するように、測光量Ｑが小さいほど、また、赤外光成分の割合が高いほど、小さな合成比率αが設定される。

一方、合成比率制御部７５１は、ナイトモードに設定されている場合、合成比率αの値を０に設定する。

合成比率制御部７５１は、設定した合成比率αを乗算器７５２に供給し、合成比率αを１から減算した減算結果１−αを乗算器７５３に供給する。

なお、合成比率制御部７５１を画像処理部１０７内に設けているが、例えば、この合成比率制御部７５１を制御部１０２内に設けてもよい。

乗算器７５２は、合成比率αを輝度信号Ｙ_Lに乗算して乗算結果を加算器７５４に供給する。

乗算器７５３は、合成比率制御部７５１からの減算結果１−αをＹ_+ΔIR信号に乗算して乗算結果を加算器７５４に供給する。

加算器７５４は、乗算器７５２および７５３のそれぞれの乗算結果を加算し、その加算結果を輝度信号Ｙ_L’としてＲＧＢ変換部３５３に供給する。

従って、センシングモード、デイモードまたはＣＮＶモードに設定されている場合、輝度信号Ｙ_L’は、次の式（３３）のようになる。

Ｙ_L’＝α×Ｙ_L＋（１−α）×Ｙ_+ΔIR ・・・（３３）

一方、ナイトモードに設定されている場合、輝度信号Ｙ_L’は、次の式（３４）のようになる。

Ｙ_L’＝Ｙ_+ΔIR ・・・（３４）

輝度信号補正部７１２は、輝度信号Ｙ_L’をＲＧＢ変換部３５３に供給する。

ＲＧＢ変換部３５３は、上述した式（２２）乃至（２４）を使用して、輝度信号Ｙ_L’と色差信号Ｃｒ’およびＣｂ’を、Ｒ_L信号、Ｇ_L信号およびＢ_L信号に変換する。ＲＧＢ変換部３５３は、変換後のＲ_L信号、Ｇ_L信号およびＢ_L信号を高周波成分復元部３０８に供給する。

また、上述した画素の配列は、その一例であり、他の配列を用いることも可能である。

例えば、図４０に示されるように、縦２画素×横２画素からなるパターンを１単位として、各パターン内にＲ画素：Ｇ画素：Ｂ画素：ＩＲ画素＝１：１：１：１の割合で、画素２１１を配置するようにしてもよい。

また、例えば、図４１および図４２に示されるように、ＩＲ画素の代わりに、Ｗ（ホワイト）画素を用いるようにしてもよい。図４１は、図５の画素配列のＩＲ画素をＧ画素に置き換え、Ｇ画素をＷ画素に置き換えたものである。図４２は、図４０の画素配列のＩＲ画素をＷ画素に置き換えたものである。

図４３は、画素２１１ごとの感度特性の例を示すグラフである。同図の横軸は、光の波長を示し、縦軸は、その波長の光に対する画素２１１の感度を示す。また、実線は、Ｗ画素の感度特性を示し、細かい点線は、Ｒ画素の感度特性を示す。また、一点鎖線は、Ｇ画素の感度特性を示し、粗い点線は、Ｂ画素の感度特性を示す。

Ｒ画素、Ｇ画素およびＢ画素のそれぞれの感度は、赤、緑および青のそれぞれの可視光に対してピークを示す。Ｗ画素の感度は、Ｒ画素、Ｇ画素およびＢ画素の感度の波形を包含するような波形を示す。Ｒ、Ｇ、ＢおよびＷ画素の赤外光に対する感度は同程度である。

Ｗ画素を用いた場合、例えば、Ｗ画素の画素信号から可視光成分が除去されることにより、赤外光成分が抽出され、ＩＲ画像が生成される。

また、赤外光以外の不可視光（例えば、紫外光）を用いるとともに、その不可視光を検出可能な画素をＩＲ画素の代わりに設け、その不可視光による画像を取得するようにしてもよい。

さらに、例えば、カラー画素として、Ｒ画素、Ｇ画素、Ｂ画素以外の３色以上の画素の組合せを用いるようにしてもよい。

また、例えば、ビューイングモードにおいて、ナイトモードを設けずに、デイモードとＣＮＶモードのみを設けるようにしてもよい。例えば、周囲の明るさを「明るい」、「暗い」の２段階に分け、周囲が明るい場合に、デイモードに設定し、周囲が暗い場合に、ＣＮＶモードに設定するようにしてもよい。

さらに、例えば、センシングモード及びＣＮＶモードにおいて、画素別シャッタをオンせずに、フレーム期間毎にＩＲ光の照射の有無を制御するようにしてもよい。この場合、例えば、ＩＲ光を照射するフレーム期間とＩＲ光を照射しないフレーム期間とが交互に繰り返される。そして、ＩＲ光が照射されているフレーム期間のＲＡＷ画像信号（特に、ＩＲ画素またはＷ画素の信号）に基づいて、ＩＲ画像信号が生成され、ＩＲ光が照射されていないフレーム期間のＲＡＷ画像信号（特に、Ｒ画素、Ｇ画素およびＢ画素の信号）に基づいて、ベイヤ画像信号およびＹＣ画像信号が生成される。

また、例えば、ＩＲカットフィルタ２３３がほぼ完全に赤外光成分を除去できる場合、センシングモードおよびＣＮＶモードをナイトモードと同様のモードに設定することが可能である。すなわち、画素別シャッタを用いずに、赤外光を連続して照射しても、カラー画素が赤外光を受光しないため、高画質のカラー画像およびＩＲ画像を取得することができる。

さらに、例えば、撮像素子１０６にＩＲカットフィルタ２３３を設けずに、成分分離部３０３において、Ｒ信号、Ｇ信号、Ｂ信号の赤外光成分を分離して除去するようにしてもよい。

また、以上の説明では、撮像装置１００からＹＣ画像信号を出力する例を示したが、他のフォーマットの画像信号を出力するようにしてもよい。例えば、ベイヤ配列の画像信号や、各画素がＲ、ＧおよびＢの各信号を含む画像信号を出力するようにしてもよい。

＜３．応用例＞
｛コンピュータの構成例｝
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。

図４４は、上述した一連の処理をプログラムにより実行するコンピュータ９００のハードウエアの構成例を示すブロック図である。

コンピュータ９００において、CPU（Central Processing Unit）９０１，ROM（Read Only Memory）９０２，RAM（Random Access Memory）９０３は、バス９０４により相互に接続されている。

バス９０４には、さらに、入出力インタフェース９０５が接続されている。入出力インタフェース９０５には、入力部９０６、出力部９０７、記憶部９０８、通信部９０９、及びドライブ９１０が接続されている。

入力部９０６は、キーボード、マウス、マイクロフォンなどよりなる。出力部９０７は、ディスプレイ、スピーカなどよりなる。記憶部９０８は、ハードディスクや不揮発性のメモリなどよりなる。通信部９０９は、ネットワークインタフェースなどよりなる。ドライブ９１０は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア９１１を駆動する。

以上のように構成されるコンピュータ９００では、CPU９０１が、例えば、記憶部９０８に記憶されているプログラムを、入出力インタフェース９０５及びバス９０４を介して、RAM９０３にロードして実行することにより、上述した一連の処理が行われる。

コンピュータ９００（CPU９０１）が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア９１１に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。

コンピュータ９００では、プログラムは、リムーバブルメディア９１１をドライブ９１０に装着することにより、入出力インタフェース９０５を介して、記憶部９０８にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部９０９で受信し、記憶部９０８にインストールすることができる。その他、プログラムは、ROM９０２や記憶部９０８に、あらかじめインストールしておくことができる。

なお、コンピュータ９００が実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。

｛内視鏡手術システムへの適用例｝
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。

図４５は、本開示に係る技術が適用され得る内視鏡手術システム５０００の概略的な構成の一例を示す図である。図４５では、術者（医師）５０６７が、内視鏡手術システム５０００を用いて、患者ベッド５０６９上の患者５０７１に手術を行っている様子が図示されている。図示するように、内視鏡手術システム５０００は、内視鏡５００１と、その他の術具５０１７と、内視鏡５００１を支持する支持アーム装置５０２７と、内視鏡下手術のための各種の装置が搭載されたカート５０３７と、から構成される。

内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５０２５ａ〜５０２５ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５０２５ａ〜５０２５ｄから、内視鏡５００１の鏡筒５００３や、その他の術具５０１７が患者５０７１の体腔内に挿入される。図示する例では、その他の術具５０１７として、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３が、患者５０７１の体腔内に挿入されている。また、エネルギー処置具５０２１は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５０１７はあくまで一例であり、術具５０１７としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。

内視鏡５００１によって撮影された患者５０７１の体腔内の術部の画像が、表示装置５０４１に表示される。術者５０６７は、表示装置５０４１に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５０２１や鉗子５０２３を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３は、手術中に、術者５０６７又は助手等によって支持される。

（支持アーム装置）
支持アーム装置５０２７は、ベース部５０２９から延伸するアーム部５０３１を備える。図示する例では、アーム部５０３１は、関節部５０３３ａ、５０３３ｂ、５０３３ｃ、及びリンク５０３５ａ、５０３５ｂから構成されており、アーム制御装置５０４５からの制御により駆動される。アーム部５０３１によって内視鏡５００１が支持され、その位置及び姿勢が制御される。これにより、内視鏡５００１の安定的な位置の固定が実現され得る。

（内視鏡）
内視鏡５００１は、先端から所定の長さの領域が患者５０７１の体腔内に挿入される鏡筒５００３と、鏡筒５００３の基端に接続されるカメラヘッド５００５と、から構成される。図示する例では、硬性の鏡筒５００３を有するいわゆる硬性鏡として構成される内視鏡５００１を図示しているが、内視鏡５００１は、軟性の鏡筒５００３を有するいわゆる軟性鏡として構成されてもよい。

鏡筒５００３の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５００１には光源装置５０４３が接続されており、当該光源装置５０４３によって生成された光が、鏡筒５００３の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５０７１の体腔内の観察対象に向かって照射される。なお、内視鏡５００１は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。

カメラヘッド５００５の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera Control Unit）５０３９に送信される。なお、カメラヘッド５００５には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。

なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５００５には撮像素子が複数設けられてもよい。この場合、鏡筒５００３の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。

（カートに搭載される各種の装置）
ＣＣＵ５０３９は、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等によって構成され、内視鏡５００１及び表示装置５０４１の動作を統括的に制御する。具体的には、ＣＣＵ５０３９は、カメラヘッド５００５から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５０３９は、当該画像処理を施した画像信号を表示装置５０４１に提供する。また、ＣＣＵ５０３９は、カメラヘッド５００５に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。

表示装置５０４１は、ＣＣＵ５０３９からの制御により、当該ＣＣＵ５０３９によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５００１が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５０４１としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５０４１として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５０４１が設けられてもよい。

光源装置５０４３は、例えばＬＥＤ（light emitting diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５００１に供給する。

アーム制御装置５０４５は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５０２７のアーム部５０３１の駆動を制御する。

入力装置５０４７は、内視鏡手術システム５０００に対する入力インタフェースである。ユーザは、入力装置５０４７を介して、内視鏡手術システム５０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５０４７を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５０４７を介して、アーム部５０３１を駆動させる旨の指示や、内視鏡５００１による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５０２１を駆動させる旨の指示等を入力する。

入力装置５０４７の種類は限定されず、入力装置５０４７は各種の公知の入力装置であってよい。入力装置５０４７としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５０５７及び／又はレバー等が適用され得る。入力装置５０４７としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５０４１の表示面上に設けられてもよい。

あるいは、入力装置５０４７は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head Mounted Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５０４７は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５０４７は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５０４７が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５０６７）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。

処置具制御装置５０４９は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５０２１の駆動を制御する。気腹装置５０５１は、内視鏡５００１による視野の確保及び術者の作業空間の確保の目的で、患者５０７１の体腔を膨らめるために、気腹チューブ５０１９を介して当該体腔内にガスを送り込む。レコーダ５０５３は、手術に関する各種の情報を記録可能な装置である。プリンタ５０５５は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。

以下、内視鏡手術システム５０００において特に特徴的な構成について、更に詳細に説明する。

（支持アーム装置）
支持アーム装置５０２７は、基台であるベース部５０２９と、ベース部５０２９から延伸するアーム部５０３１と、を備える。図示する例では、アーム部５０３１は、複数の関節部５０３３ａ、５０３３ｂ、５０３３ｃと、関節部５０３３ｂによって連結される複数のリンク５０３５ａ、５０３５ｂと、から構成されているが、図４５では、簡単のため、アーム部５０３１の構成を簡略化して図示している。実際には、アーム部５０３１が所望の自由度を有するように、関節部５０３３ａ〜５０３３ｃ及びリンク５０３５ａ、５０３５ｂの形状、数及び配置、並びに関節部５０３３ａ〜５０３３ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５０３１は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５０３１の可動範囲内において内視鏡５００１を自由に移動させることが可能になるため、所望の方向から内視鏡５００１の鏡筒５００３を患者５０７１の体腔内に挿入することが可能になる。

関節部５０３３ａ〜５０３３ｃにはアクチュエータが設けられており、関節部５０３３ａ〜５０３３ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５０４５によって制御されることにより、各関節部５０３３ａ〜５０３３ｃの回転角度が制御され、アーム部５０３１の駆動が制御される。これにより、内視鏡５００１の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５０４５は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５０３１の駆動を制御することができる。

例えば、術者５０６７が、入力装置５０４７（フットスイッチ５０５７を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５０４５によってアーム部５０３１の駆動が適宜制御され、内視鏡５００１の位置及び姿勢が制御されてよい。当該制御により、アーム部５０３１の先端の内視鏡５００１を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５０３１は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５０３１は、手術室から離れた場所に設置される入力装置５０４７を介してユーザによって遠隔操作され得る。

また、力制御が適用される場合には、アーム制御装置５０４５は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５０３１が移動するように、各関節部５０３３ａ〜５０３３ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５０３１に触れながらアーム部５０３１を移動させる際に、比較的軽い力で当該アーム部５０３１を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５００１を移動させることが可能となり、ユーザの利便性を向上させることができる。

ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５００１が支持されていた。これに対して、支持アーム装置５０２７を用いることにより、人手によらずに内視鏡５００１の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。

なお、アーム制御装置５０４５は必ずしもカート５０３７に設けられなくてもよい。また、アーム制御装置５０４５は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５０４５は、支持アーム装置５０２７のアーム部５０３１の各関節部５０３３ａ〜５０３３ｃにそれぞれ設けられてもよく、複数のアーム制御装置５０４５が互いに協働することにより、アーム部５０３１の駆動制御が実現されてもよい。

（光源装置）
光源装置５０４３は、内視鏡５００１に術部を撮影する際の照射光を供給する。光源装置５０４３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５０４３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。

また、光源装置５０４３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。

また、光源装置５０４３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow Band Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５０４３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。

（カメラヘッド及びＣＣＵ）
図４６を参照して、内視鏡５００１のカメラヘッド５００５及びＣＣＵ５０３９の機能についてより詳細に説明する。図４６は、図４５に示すカメラヘッド５００５及びＣＣＵ５０３９の機能構成の一例を示すブロック図である。

図４６を参照すると、カメラヘッド５００５は、その機能として、レンズユニット５００７と、撮像部５００９と、駆動部５０１１と、通信部５０１３と、カメラヘッド制御部５０１５と、を有する。また、ＣＣＵ５０３９は、その機能として、通信部５０５９と、画像処理部５０６１と、制御部５０６３と、を有する。カメラヘッド５００５とＣＣＵ５０３９とは、伝送ケーブル５０６５によって双方向に通信可能に接続されている。

まず、カメラヘッド５００５の機能構成について説明する。レンズユニット５００７は、鏡筒５００３との接続部に設けられる光学系である。鏡筒５００３の先端から取り込まれた観察光は、カメラヘッド５００５まで導光され、当該レンズユニット５００７に入射する。レンズユニット５００７は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５００７は、撮像部５００９の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。

撮像部５００９は撮像素子によって構成され、レンズユニット５００７の後段に配置される。レンズユニット５００７を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５００９によって生成された画像信号は、通信部５０１３に提供される。

撮像部５００９を構成する撮像素子としては、例えばＣＭＯＳ（Complementary Metal Oxide Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５０６７は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。

また、撮像部５００９を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５０６７は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５００９が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５００７も複数系統設けられる。

また、撮像部５００９は、必ずしもカメラヘッド５００５に設けられなくてもよい。例えば、撮像部５００９は、鏡筒５００３の内部に、対物レンズの直後に設けられてもよい。

駆動部５０１１は、アクチュエータによって構成され、カメラヘッド制御部５０１５からの制御により、レンズユニット５００７のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５００９による撮像画像の倍率及び焦点が適宜調整され得る。

通信部５０１３は、ＣＣＵ５０３９との間で各種の情報を送受信するための通信装置によって構成される。通信部５０１３は、撮像部５００９から得た画像信号をＲＡＷデータとして伝送ケーブル５０６５を介してＣＣＵ５０３９に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５０６７が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５０１３には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５０６５を介してＣＣＵ５０３９に送信される。

また、通信部５０１３は、ＣＣＵ５０３９から、カメラヘッド５００５の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５０１３は、受信した制御信号をカメラヘッド制御部５０１５に提供する。なお、ＣＣＵ５０３９からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５０１３には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５０１５に提供される。

なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５０３９の制御部５０６３によって自動的に設定される。つまり、いわゆるＡＥ（Auto Exposure）機能、ＡＦ（Auto Focus）機能及びＡＷＢ（Auto White Balance）機能が内視鏡５００１に搭載される。

カメラヘッド制御部５０１５は、通信部５０１３を介して受信したＣＣＵ５０３９からの制御信号に基づいて、カメラヘッド５００５の駆動を制御する。例えば、カメラヘッド制御部５０１５は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５００９の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５０１５は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５０１１を介してレンズユニット５００７のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５０１５は、更に、鏡筒５００３やカメラヘッド５００５を識別するための情報を記憶する機能を備えてもよい。

なお、レンズユニット５００７や撮像部５００９等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５００５について、オートクレーブ滅菌処理に対する耐性を持たせることができる。

次に、ＣＣＵ５０３９の機能構成について説明する。通信部５０５９は、カメラヘッド５００５との間で各種の情報を送受信するための通信装置によって構成される。通信部５０５９は、カメラヘッド５００５から、伝送ケーブル５０６５を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５０５９には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５０５９は、電気信号に変換した画像信号を画像処理部５０６１に提供する。

また、通信部５０５９は、カメラヘッド５００５に対して、カメラヘッド５００５の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。

画像処理部５０６１は、カメラヘッド５００５から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５０６１は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。

画像処理部５０６１は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５０６１が複数のＧＰＵによって構成される場合には、画像処理部５０６１は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。

制御部５０６３は、内視鏡５００１による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５０６３は、カメラヘッド５００５の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５０６３は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５００１にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５０６３は、画像処理部５０６１による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。

また、制御部５０６３は、画像処理部５０６１によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５０４１に表示させる。この際、制御部５０６３は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５０６３は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５０２１使用時のミスト等を認識することができる。制御部５０６３は、表示装置５０４１に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５０６７に提示されることにより、より安全かつ確実に手術を進めることが可能になる。

カメラヘッド５００５及びＣＣＵ５０３９を接続する伝送ケーブル５０６５は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。

ここで、図示する例では、伝送ケーブル５０６５を用いて有線で通信が行われていたが、カメラヘッド５００５とＣＣＵ５０３９との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５０６５を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５０６５によって妨げられる事態が解消され得る。

以上、本開示に係る技術が適用され得る内視鏡手術システム５０００の一例について説明した。なお、ここでは、一例として内視鏡手術システム５０００について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。

本開示に係る技術は、以上説明した構成のうち、カメラヘッド５００５およびＣＣＵ５０３９の少なくとも一方に好適に適用され得る。具体的には、例えば、図１の制御部１０２および撮像素子１０６をカメラヘッド制御部５０１５および撮像部５００９に適用し、図１の撮像レンズ１０４および光学フィルタ１０５をレンズユニット５００７に適用し、図１の画像処理部１０７を画像処理部５０６１に適用し、赤外光照射部１０３をカメラヘッド５００５に設けることができる。これにより、例えば、より鮮明な術部画像を得たり、術部画像における物体の検出精度が向上するため、手術をより安全にかつより確実に行うことが可能になる。

｛車両制御システムへの適用例｝
また、例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。

図４７は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図４７に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller Area Network）、ＬＩＮ（Local Interconnect Network）、ＬＡＮ（Local Area Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。

各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図４７では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。

駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock Brake System）又はＥＳＣ（Electronic Stability Control）等の制御装置としての機能を有してもよい。

駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。

ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。

バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。

車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time Of Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。

環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light Detection and Ranging、Laser Imaging Detection and Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。

ここで、図４８は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。

なお、図４８には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。

車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０〜７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。

図４７に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。

また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。

車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。

統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal Digital Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。

記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read Only Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random Access Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard Disc Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。

汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（Global System of Mobile communications）、ＷｉＭＡＸ、ＬＴＥ（Long Term Evolution）若しくはＬＴＥ−Ａ（LTE−Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ−Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer To Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine Type Communication）端末）と接続してもよい。

専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless Access in Vehicle Environment）、ＤＳＲＣ（Dedicated Short Range Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle to Vehicle）通信、路車間（Vehicle to Infrastructure）通信、車両と家との間（Vehicle to Home）の通信及び歩車間（Vehicle to Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。

測位部７６４０は、例えば、ＧＮＳＳ（Global Navigation Satellite System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global Positioning System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。

ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。

車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）又はＷＵＳＢ（Wireless USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal Serial Bus）、ＨＤＭＩ（High-Definition Multimedia Interface）、又はＭＨＬ（Mobile High-definition Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。

車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。

統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced Driver Assistance System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。

マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。

音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図４７の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。

なお、図４７に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。

以上説明した車両制御システム７０００において、図１を用いて説明した本実施形態に係る撮像装置１００は、図４７に示した応用例の撮像部７４１０や運転状態検出部７５１０に適用することができる。これにより、例えば、暗時や暗所において、車外の物体の検出精度や、車内の運転者の顔および顔の各部の検出精度が向上し、危険回避や自動運転等の運転支援の精度が向上する。

また、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。

さらに、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。

例えば、本技術は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。

また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。

さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。

また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他の効果があってもよい。

さらに、例えば、本技術は以下のような構成も取ることができる。

（１）
不可視光の照射を制御する制御部と、
前記不可視光を検出可能な第１の画素、および、可視光を検出可能な第２の画素を備える撮像素子と、
前記第１の画素からの第１の画素信号および前記第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像生成部と
を備える撮像装置。
（２）
前記第１の画像に基づいて物体までの距離の検出を行い、物体までの距離の検出結果に基づいて、前記第２の画像内の物体の検出を行う物体検出部を
さらに備える前記（１）に記載の撮像装置。
（３）
前記制御部は、所定のパターンを投影する前記不可視光の照射を制御する
前記（２）に記載の撮像装置。
（４）
前記撮像素子は、各前記第２の画素の受光部への入射光に含まれる前記不可視光成分を減衰するフィルタを備える
前記（１）乃至（３）のいずれかに記載の撮像装置。
（５）
前記制御部は、前記不可視光を連続して照射するように制御する
前記（４）に記載の撮像装置。
（６）
前記制御部は、各フレーム期間において前記第１の画素および前記第２の画素の露光期間を設けながら、前記第１の画素のみが露光している期間である単独露光期間を設けるとともに、前記単独露光期間内に前記不可視光を照射するように制御する
前記（１）乃至（５）のいずれかに記載の撮像装置。
（７）
前記制御部は、フレーム期間毎に前記不可視光の照射の有無を制御し、
前記画像生成部は、前記不可視光が照射されたフレーム期間における前記第１の画素信号に基づいて、前記第１の画像を生成し、前記不可視光が照射されていないフレーム期間における前記第２の画素信号に基づいて、前記第２の画像を生成する
前記（１）乃至（５）のいずれかに記載の撮像装置。
（８）
前記第１の画素は、赤外光の検出に用いるＩＲ画素を含み、
前記第２の画素は、所定の色の検出に用いるカラー画素を含み、
前記不可視光は、赤外光である
前記（１）乃至（７）のいずれかに記載の撮像装置。
（９）
前記カラー画素は、赤色の検出に用いるＲ画素、緑色の検出に用いるＧ画素、および、青色の検出に用いるＢ画素を含む
前記（８）に記載の撮像装置。
（１０）
前記第１の画素は、ホワイト画素を含み、
前記第２の画素は、所定の色の検出に用いるカラー画素を含み、
前記不可視光は、赤外光である
前記（１）乃至（７）のいずれかに記載の撮像装置。
（１１）
前記カラー画素は、赤色の検出に用いるＲ画素、緑色の検出に用いるＧ画素、および、青色の検出に用いるＢ画素を含む
前記（１０）に記載の撮像装置。
（１２）
前記不可視光を照射する照射部を
さらに備える前記（１）乃至（１１）のいずれかに記載の撮像装置。
（１３）
前記照射部は、明るさが一様な前記不可視光、または、所定のパターンを投影する前記不可視光を照射する
前記（１２）に記載の撮像装置。
（１４）
不可視光の照射を制御する制御ステップと、
撮像素子の前記不可視光を検出可能な第１の画素からの第１の画素信号、および、前記撮像素子の可視光を検出可能な第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像生成ステップと
を含む画像処理方法。
（１５）
不可視光を照射する照射装置と、
前記不可視光を検出可能な第１の画素、および、可視光を検出可能な第２の画素を備える撮像素子を備える撮像装置と、
前記第１の画素からの第１の画素信号および前記第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像処理装置と
を備える画像処理システム。

１００ 撮像装置， １０１ 測光部， １０２ 制御部， １０３ 赤外光照射部， １０４ 撮像レンズ， １０５ 光学フィルタ， １０６ 撮像素子， １０７ 画像処理部， １０８ 出力部， １２１ 画像生成部， １２２ 画像変換部， １２３ センシング部， ２０２ 画素アレイ部， ２１１ 画素， ２３１ マイクロレンズアレイ， ２３２ カラーフィルタ， ２３３ ＩＲカットフィルタ， ２３４ カラーフィルタ， ３０１ ＲＧＢＩＲ補間フィルタ， ３０２ 高周波用Ｇ補間フィルタ， ３０３ 成分分離部， ３０５ 比率算出部， ３０９ ベイヤ画像信号出力部， ３１０ ＩＲ画像信号出力部， ５５１ 物体検出部， ５６１ 距離計測部， ５６２ 認識部

Claims (15)

1. 不可視光の照射を制御する制御部と、
   前記不可視光を検出可能な第１の画素、および、可視光を検出可能な第２の画素を備える撮像素子と、
   前記第１の画素からの第１の画素信号および前記第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像生成部と
   を備える撮像装置。
2. 前記第１の画像に基づいて物体までの距離の検出を行い、物体までの距離の検出結果に基づいて、前記第２の画像内の物体の検出を行う物体検出部を
   さらに備える請求項１に記載の撮像装置。
3. 前記制御部は、所定のパターンを投影する前記不可視光の照射を制御する
   請求項２に記載の撮像装置。
4. 前記撮像素子は、各前記第２の画素の受光部への入射光に含まれる前記不可視光成分を減衰するフィルタを備える
   請求項１に記載の撮像装置。
5. 前記制御部は、前記不可視光を連続して照射するように制御する
   請求項４に記載の撮像装置。
6. 前記制御部は、各フレーム期間において前記第１の画素および前記第２の画素の露光期間を設けながら、前記第１の画素のみが露光している期間である単独露光期間を設けるとともに、前記単独露光期間内に前記不可視光を照射するように制御する
   請求項１に記載の撮像装置。
7. 前記制御部は、フレーム期間毎に前記不可視光の照射の有無を制御し、
   前記画像生成部は、前記不可視光が照射されたフレーム期間における前記第１の画素信号に基づいて、前記第１の画像を生成し、前記不可視光が照射されていないフレーム期間における前記第２の画素信号に基づいて、前記第２の画像を生成する
   請求項１に記載の撮像装置。
8. 前記第１の画素は、赤外光の検出に用いるＩＲ画素を含み、
   前記第２の画素は、所定の色の検出に用いるカラー画素を含み、
   前記不可視光は、赤外光である
   請求項１に記載の撮像装置。
9. 前記カラー画素は、赤色の検出に用いるＲ画素、緑色の検出に用いるＧ画素、および、青色の検出に用いるＢ画素を含む
   請求項８に記載の撮像装置。
10. 前記第１の画素は、ホワイト画素を含み、
    前記第２の画素は、所定の色の検出に用いるカラー画素を含み、
    前記不可視光は、赤外光である
    請求項１に記載の撮像装置。
11. 前記カラー画素は、赤色の検出に用いるＲ画素、緑色の検出に用いるＧ画素、および、青色の検出に用いるＢ画素を含む
    請求項１０に記載の撮像装置。
12. 前記不可視光を照射する照射部を
    さらに備える請求項１に記載の撮像装置。
13. 前記照射部は、明るさが一様な前記不可視光、または、所定のパターンを投影する前記不可視光を照射する
    請求項１２に記載の撮像装置。
14. 不可視光の照射を制御する制御ステップと、
    撮像素子の前記不可視光を検出可能な第１の画素からの第１の画素信号、および、前記撮像素子の可視光を検出可能な第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像生成ステップと
    を含む画像処理方法。
15. 不可視光を照射する照射装置と、
    前記不可視光を検出可能な第１の画素、および、可視光を検出可能な第２の画素を備える撮像素子を備える撮像装置と、
    前記第１の画素からの第１の画素信号および前記第２の画素からの第２の画素信号に基づいて、前記不可視光成分からなる第１の画像、および、可視光成分からなる第２の画像を生成する画像処理装置と
    を備える画像処理システム。

Images