JP6569157B1 - 制御装置、撮像装置、移動体、制御方法、及びプログラム - Google Patents

Abstract

【課題】フォーカスレンズの移動量を抑制しつつ、デプスマップを生成する。【解決手段】撮像装置の撮像面と撮像装置のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲を撮像装置に撮像させ、かつ、撮像装置の撮像面と撮像装置のフォーカスレンズとが第２位置関係にある状態で、第１撮像範囲と異なり、かつ第１撮像範囲と重複する第１重複範囲を含む第２撮像範囲を撮像装置に撮像させる制御部と、撮像装置に撮像された第１撮像範囲の第１撮像画像、及び第２撮像範囲の第２撮像画像を取得する取得部と、第１撮像画像に含まれる第１重複範囲に対応する第１画像、及び第２撮像画像に含まれる第１重複範囲に対応する第２画像のそれぞれのぼけ量を算出する算出部と、第１画像及び第２画像のそれぞれのぼけ量に基づいて、第１重複範囲に対応する深度情報を含むデプスマップを生成する生成部とを備えてよい。【選択図】図９

Description

本発明は、制御装置、撮像装置、移動体、制御方法、及びプログラムに関する。

光学系のフォーカス位置を至近端側から無限端側まで移動させながら画像処理部に動画データを生成させ、動画データに含まれる複数のフレーム画像の中から指定領域にピントが合った静止画像を抽出する撮像装置が開示されている。
特許文献１ 国際公開第２０１７／００６５３８号公報

フォーカスレンズの移動量を抑制しつつ、デプスマップを生成できるようにすることが望まれている。

本発明の一態様に係る制御装置は、撮像装置の撮像面と撮像装置のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲を撮像装置に撮像させ、かつ、撮像装置の撮像面と撮像装置のフォーカスレンズとが第２位置関係にある状態で、第１撮像範囲と異なり、かつ第１撮像範囲と重複する第１重複範囲を含む第２撮像範囲を撮像装置に撮像させる制御部を備えてよい。制御装置は、撮像装置に撮像された第１撮像範囲の第１撮像画像、及び第２撮像範囲の第２撮像画像を取得する取得部を備えてよい。制御装置は、第１撮像画像に含まれる第１重複範囲に対応する第１画像、及び第２撮像画像に含まれる第１重複範囲に対応する第２画像のそれぞれのぼけ量を算出する算出部を備えてよい。制御装置は、第１画像及び第２画像のそれぞれのぼけ量に基づいて、第１重複範囲に対応する深度情報を含むデプスマップを生成する生成部を備えてよい。

第１撮像範囲は、第２撮像範囲と半分以上重複してよい。

制御部は、撮像装置の撮像面と撮像装置のフォーカスレンズとが第３位置関係にある状態で、第２撮像範囲と異なり、かつ第２撮像範囲と重複する第２重複範囲を含む第３撮像範囲を撮像装置に撮像させてよい。取得部は、撮像装置に撮像された第３撮像範囲の第３撮像画像を取得してよい。算出部は、第２撮像画像に含まれる第２重複範囲に対応する第３画像、及び第３撮像画像に含まれる第２重複範囲に対応する第４画像のそれぞれのぼけ量を算出してよい。生成部は、第３画像及び第４画像のそれぞれのぼけ量に基づいて、第２重複範囲に対応する深度情報をさらに含むデプスマップを生成してよい。

第２撮像範囲は、第３撮像範囲と半分以上重複してよい。

制御部は、撮像装置の撮像方向が変化している間に、撮像装置の撮像面と撮像装置のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲を撮像装置に撮像させ、かつ、撮像装置の撮像面と撮像装置のフォーカスレンズとが第２位置関係にある状態で、第２撮像範囲を撮像装置に撮像させてよい。

制御部は、第１回転目に、撮像装置の撮像方向が変化するように第１点を中心に撮像装置を回転させている間に、撮像装置に第１撮像画像、及び第２撮像画像を撮像させてよい。制御部は、第２回転目に、撮像装置の撮像方向が変化するように第１点を中心に撮像装置を回転させている間に、デプスマップに従って、撮像装置のフォーカスレンズの位置を制御して、撮像装置に新たに複数の撮像画像を撮像させてよい。

制御部は、デプスマップと、複数の撮像画像とを関連付けて記憶部に記憶させてよい。

制御部は、撮像装置が第１軌跡に沿って移動する間に、撮像装置の撮像面と撮像装置のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲を撮像装置に撮像させ、かつ、撮像装置の撮像面と撮像装置のフォーカスレンズとが第２位置関係にある状態で、第２撮像範囲を撮像装置に撮像させてよい。

制御部は、第１回目に、撮像装置が第１軌跡に沿って移動する間に、撮像装置に第１撮像画像、及び第２撮像画像を撮像させ、第２回目に、撮像装置が第１軌跡に沿って移動する間に、デプスマップに従って、撮像装置のフォーカスレンズの位置を制御して、撮像装置に新たに複数の撮像画像を撮像させてよい。

制御部は、デプスマップと、複数の撮像画像とを関連付けて記憶部に記憶させてよい。

本発明の一態様に係る撮像装置は、上記制御装置を備えてよい。撮像装置は、フォーカスレンズを備えてよい。

本発明の一態様に係る移動体は、上位撮像装置を備えて移動する移動体でよい。

本発明の一態様に係る制御方法は、撮像装置の撮像面と撮像装置のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲を撮像装置に撮像させ、かつ、撮像装置の撮像面と撮像装置のフォーカスレンズとが第２位置関係にある状態で、第１撮像範囲と異なり、かつ第１撮像範囲と重複する第１重複範囲を含む第２撮像範囲を撮像装置に撮像させる段階を備えてよい。制御方法は、撮像装置に撮像された第１撮像範囲の第１撮像画像、及び第２撮像範囲の第２撮像画像を取得する段階を備えてよい。制御方法は、第１撮像画像に含まれる第１重複範囲に対応する第１画像、及び第２撮像画像に含まれる第１重複範囲に対応する第２画像のそれぞれのぼけ量を算出する段階を備えてよい。制御方法は、第１画像及び第２画像のそれぞれのぼけ量に基づいて、第１重複範囲に対応する深度情報を含むデプスマップを生成する段階を備えてよい。

本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。

本発明の一態様によれば、フォーカスレンズの移動量を抑制しつつ、デプスマップを生成できる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

無人航空機及び遠隔操作装置の外観の一例を示す図である。 無人航空機の機能ブロックの一例を示す図である。 ぼけ量とレンズ位置との関係を示す曲線の一例を示す図である。 ぼけ量に基づいてオブジェクトまでの距離を算出する手順の一例を示す図である。 オブジェクトの位置、レンズの位置、及び焦点距離との関係について説明するための図である。 無人航空機が回転しながら撮像装置が撮像する形態について説明するための図である。 無人航空機が回転しながら撮像装置が撮像する形態について説明するための図である。 撮像画像とフォーカスレンズの合焦距離との関係の一例を示す図である。 複数の撮像画像から生成されるパノラマ画像の一例を示す図である。 ＵＡＶに搭載された撮像装置の撮像手順の一例を示すフローチャートである。 ハードウェア構成の一例を示す図である。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備える。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、ＵＡＶの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

図２は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３７、通信インタフェース３６、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０及び撮像装置１００を備える。

通信インタフェース３６は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３６は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３７は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像装置１００を制御するのに必要なプログラム等を格納する。メモリ３７は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、ＵＳＢメモリ、及びソリッドステートドライブ（ＳＳＤ）等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３７は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。

ＵＡＶ制御部３０は、メモリ３７に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３６を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。

ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置（緯度及び経度）、つまりＵＡＶ１０の位置（緯度及び経度）を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。湿度センサ４６は、ＵＡＶ１０の周囲の湿度を検出する。

撮像装置１００は、撮像部１０２及びレンズ部２００を備える。レンズ部２００は、レンズ装置の一例である。撮像部１０２は、イメージセンサ１２０、撮像制御部１１０、及びメモリ１３０を有する。イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、複数のレンズ２１０を介して結像された光学像を撮像し、撮像された画像を撮像制御部１１０に出力する。撮像制御部１１０は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。撮像制御部１１０は、ＵＡＶ制御部３０からの撮像装置１００の動作命令に応じて、撮像装置１００を制御してよい。撮像制御部１１０は、第１制御部及び第２制御部の一例である。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、ＵＳＢメモリ、及びソリッドステートドライブ（ＳＳＤ）などのフラッシュメモリの少なくとも１つを含んでよい。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。

レンズ部２００は、複数のレンズ２１０、複数のレンズ駆動部２１２、及びレンズ制御部２２０を有する。複数のレンズ２１０は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ２１０の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部２００は、撮像部１０２に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部２１２は、カム環などの機構部材を介して、複数のレンズ２１０の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部２１２は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部２２０は、撮像部１０２からのレンズ制御命令に従って、レンズ駆動部２１２を駆動して、機構部材を介して１または複数のレンズ２１０を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。

レンズ部２００は、メモリ２２２、位置センサ２１４をさらに有する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ２１０の一部または全部は、光軸に沿って移動する。レンズ制御部２２０は、レンズ２１０の少なくとも１つを光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。位置センサ２１４は、レンズ２１０の位置を検出する。位置センサ２１４は、現在のズーム位置またはフォーカス位置を検出してよい。

レンズ駆動部２１２は、振れ補正機構を含んでよい。レンズ制御部２２０は、振れ補正機構を介して、レンズ２１０を光軸に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。レンズ駆動部２１２は、ステッピングモータにより振れ補正機構を駆動して、振れ補正を実行してよい。なお、振れ補正機構は、ステッピングモータにより駆動されて、イメージセンサ１２０を光軸に方向に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。

メモリ２２２は、レンズ駆動部２１２を介して移動する複数のレンズ２１０の制御値を記憶する。メモリ２２２は、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。

このように構成された撮像装置１００は、オートフォーカス処理（ＡＦ処理）などを実行するために、レンズから被写体までの距離（被写体距離）を決定する機能を有する。被写体距離を決定するための方式として、レンズと撮像面との位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいて決定する方式がある。ここで、この方式を、ぼけ検出オートフォーカス（Ｂｏｋｅｈ Ｄｅｔｅｃｔｉｏｎ Ａｕｔｏ Ｆｏｕｃｕｓ：ＢＤＡＦ）方式と称する。

例えば、画像のぼけ量（Ｃｏｓｔ）は、ガウシアン関数を用いて次式（１）で表すことができる。式（１）において、ｘは、水平方向における画素位置を示す。σは、標準偏差値を示す。

図３は、式（１）に表される曲線の一例を示す。曲線５００の極小点５０２に対応するレンズ位置にフォーカスレンズを合わせることで、画像Ｉに含まれるオブジェクトに焦点を合わせることができる。

図４は、ＢＤＡＦ方式の距離算出手順の一例を示すフローチャートである。まず、撮像装置１００で、レンズと撮像面とが第１位置関係にある状態で、１枚目の画像Ｉ_１を撮像してメモリ１３０に格納する。次いで、フォーカスレンズまたはイメージセンサ１２０の撮像面を光軸方向に移動させることで、レンズと撮像面とが第２位置関係にある状態にして、撮像装置１００で２枚目の画像Ｉ_２を撮像してメモリ１３０に格納する（Ｓ１０１）。例えば、いわゆる山登りＡＦのように、合焦点を超えないようにフォーカスレンズまたはイメージセンサ１２０の撮像面を光軸方向に移動させる。フォーカスレンズまたはイメージセンサ１２０の撮像面の移動量は、例えば、１０μｍでよい。

次いで、撮像装置１００は、画像Ｉ_１を複数の領域に分割する（Ｓ１０２）。画像Ｉ２内の画素ごとに特徴量を算出して、類似する特徴量を有する画素群を一つの領域として画像Ｉ_１を複数の領域に分割してよい。画像Ｉ_１のうちＡＦ処理枠に設定されている範囲の画素群を複数の領域に分割してもよい。撮像装置１００は、画像Ｉ_１の複数の領域に対応する複数の領域に画像Ｉ_２を分割する。撮像装置１００は、画像Ｉ_１の複数の領域のそれぞれのぼけ量と、画像Ｉ_２の複数の領域のそれぞれのぼけ量とに基づいて、複数の領域ごとに複数の領域のそれぞれに含まれるオブジェクトまでの距離を算出する（Ｓ１０３）。

図５を参照して距離の算出手順についてさらに説明する。レンズＬ（主点）から被写体５１０（物面）までの距離をＡ、レンズＬ（主点）から被写体５１０が撮像面で結像する位置（像面）までの距離をＢ、焦点距離をＦとする。この場合、距離Ａ、距離Ｂ、及び焦点距離Ｆの関係は、レンズの公式から次式（２）で表すことができる。

焦点距離Ｆはレンズ位置で特定される。したがって、被写体５１０が撮像面で結像する距離Ｂが特定できれば、式（２）を用いて、レンズＬから被写体５１０までの距離Ａを特定することができる。

図５に示すように、撮像面上に投影された被写体５１０のぼけの大きさ（錯乱円５１２及び５１４）から被写体５１０が結像する位置を算出することで、距離Ｂを特定し、さらに距離Ａを特定することができる。つまり、ぼけの大きさ（ぼけ量）が撮像面と結像位置とに比例することを考慮して、結像位置を特定できる。

ここで、撮像面から近い像Ｉ_１からレンズＬまでの距離をＤ_１とする。像面から遠い像Ｉ_２からレンズＬまでの距離をＤ_２とする。それぞれの画像はぼけている。このときの点像分布関数（Ｐｏｉｎｔ Ｓｐｒｅａｄ Ｆｕｎｃｔｉｏｎ）をＰＳＦ、Ｄ_１及びＤ_２における画像をそれぞれ、Ｉ_ｄ１及びＩ_ｄ２とする。この場合、例えば、像Ｉ_１は、畳み込み演算により次式（３）で表すことができる。

さらに、画像データＩ_ｄ１及びＩ_ｄ２のフーリエ変換関数をｆとして、画像Ｉ_ｄ１及びＩ_ｄ２の点像分布関数ＰＳＦ_１及びＰＳＦ_２をフーリエ変換した光学伝達関数（Ｏｐｔｉｃａｌ Ｔｒａｎｓｆｅｒ Ｆｕｎｃｔｉｏｎ）をＯＴＦ_１及びＯＴＦ_２として、次式（４）のように比をとる。

式（４）に示す値Ｃは、画像Ｉ_ｄ１及びＩ_ｄ２のそれぞれのぼけ量の変化量、つまり、値Ｃは、画像Ｉ_ｄ１のぼけ量と画像Ｉ_ｄ２ｎのぼけ量との差に相当する。

以上のように構成された撮像装置１００により撮像された撮像画像に基づいて、フォーカスレンズの移動量を抑制しつつ、デプスマップを生成する。デプスマップは、画素毎、または複数の画素を含むブロック毎に、被写体までの距離を表すデータである。

撮像制御部１１０は、取得部１１２、算出部１１４、生成部１１６、及び合成部１１８を備える。

撮像制御部１１０は、撮像装置１００の撮像方向が変化している間、または撮像装置１００が第１軌跡に沿って移動している間に、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとの位置関係が異なる状態で、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させる。撮像制御部１１０は、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとの位置関係が異なる状態で、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させてよい。ここで、撮像範囲は、撮像装置１００により撮像されている空間の範囲である。

撮像制御部１１０は、ＵＡＶ１０が移動している間に、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとの位置関係が異なる状態で、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させてよい。撮像制御部１１０は、ＵＡＶ１０が撮像装置１００の撮像方向と異なる方向に移動している間に、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとの位置関係が異なる状態で、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させてよい。

撮像制御部１１０は、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、フォーカスレンズを移動させて、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させてよい。撮像制御部１１０は、ＵＡＶ１０が第１軌跡に沿って移動している間に、フォーカスレンズを移動させて、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させてよい。

撮像制御部１１０は、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、フォーカスレンズの位置を第１位置及び第２位置に交互に切り替えながら、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させてよい。撮像制御部１１０は、ＵＡＶ１０が第１軌跡に沿って移動している間に、フォーカスレンズの位置を第１位置及び第２位置に交互に切り替えながら、撮像装置１００に重複範囲を含む複数の撮像範囲で複数の撮像画像を撮像させてよい。

撮像制御部１１０は、図６に示すように、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲６０１を撮像装置１００に撮像させてよい。撮像制御部１１０は、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとが第２位置関係にある状態で、第１撮像範囲６０１と異なり、かつ第１撮像範囲６０１と重複する第１重複範囲６１１を含む第２撮像範囲６０２を撮像装置１００に撮像させてよい。撮像制御部１１０は撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとが第３位置関係にある状態で、第２撮像範囲６０２と異なり、かつ第２撮像範囲６０２と重複する第２重複範囲６１２を含む第３撮像範囲６０３を撮像装置１００に撮像させてよい。第１撮像範囲６０１は、第２撮像範囲６０２と異なるが、第２撮像範囲６０２と半分以上重複してよい。第２撮像範囲６０２は、第３撮像範囲６０３と異なるが、第３撮像範囲６０３と半分以上重複してよい。第２撮像範囲６０２は、第１撮像範囲６０１及び第３撮像範囲６０３と異なるが、第３撮像範囲６０３と半分以上重複してよい。

取得部１１２は、撮像装置１００の撮像方向が変化している間、または撮像装置１００が第１軌跡に沿って移動している間に撮像装置１００に撮像された複数の撮像画像を取得する。取得部１１２は、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとが位置関係が異なる状態で撮像装置１００に撮像された複数の撮像範囲の撮像画像を取得してよい。取得部１１２は、ＵＡＶ１０が第１軌跡に沿って移動している間に、撮像装置１００の撮像面と撮像装置１００のフォーカスレンズとが位置関係が異なる状態で撮像装置１００に撮像された複数の撮像範囲の撮像画像を取得してよい。

算出部１１４は、複数の撮像画像のそれぞれに含まれる重複範囲の画像のそれぞれのぼけ量を算出する。算出部１１４は、ガウシアン関数を用いた式（１）に基づいて、それぞれの画像のぼけ量（Ｃｏｓｔ）を算出してよい。

生成部１１６は、複数の重複範囲の画像のそれぞれのぼけ量に基づいて、複数の重複範囲のそれぞれに対応する深度情報を含むデプスマップを生成する。生成部１１６は、複数の重複範囲の画像のそれぞれのぼけ量に基づいて、ＢＤＡＦ方式で、複数の重複範囲の画像の画素毎、または複数の画素を含むブロック毎に、被写体までの距離を示す深度情報を含むデプスマップを生成してよい。

撮像制御部１１０は、図７Ａ及び図７Ｂに示すように、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、フォーカスレンズの合焦距離を第１位置（１．０ｍ）に設定して、第１撮像範囲６０１を撮像装置１００に撮像させてよい。取得部１１２は、第１撮像範囲６０１の第１撮像画像７０１を取得してよい。撮像制御部１１０は、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、フォーカスレンズの合焦距離を第２位置（０．５ｍ）に設定して、第２撮像範囲６０２を撮像装置１００に撮像させてよい。取得部１１２は、第２撮像範囲６０２の第２撮像画像７０２を取得してよい。さらに、撮像制御部１１０は、ＵＡＶ１０が予め定められた地点でホバリングしながら回転している間に、フォーカスレンズの合焦距離を第１位置（１．０ｍ）に設定して、第３撮像範囲６０３を撮像装置１００に撮像させてよい。取得部１１２は、第３撮像範囲６０３の第３撮像画像７０３を取得してよい。

算出部１１４は、第１撮像画像７０１に含まれる第１重複範囲６１１に対応する第１画像７１０、及び第２撮像画像７０２に含まれる第１重複範囲６１１に対応する第２画像７１１のそれぞれのぼけ量を算出してよい。算出部１１４は、第２撮像画像７０２に含まれる第２重複範囲６１２に対応する第３画像７１２、及び第３撮像画像７０３に含まれる第２重複範囲６１２に対応する第４画像７１３のそれぞれのぼけ量を算出してよい。

生成部１１６は、第１画像７１０及び第２画像７１１のそれぞれのぼけ量に基づいて、第１重複範囲６１１に対応する深度情報を含むデプスマップを生成してよい。生成部１１６は、第３画像７１２及び第４画像７１３のそれぞれのぼけ量に基づいて、第２重複範囲６１２に対応する深度情報をさらに含むデプスマップを生成してよい。

以上のように、本実施形態に係る撮像装置１００によれば、互いに異なり、かつ一部が重複する撮像範囲の複数の撮像画像に基づいて、ＢＤＡＦ方式に従って重複範囲に対応するデプスマップを生成する。ＢＤＡＦ方式の場合、フォーカスレンズを至近端側から無限端まで移動させることなく、被写体までの距離を特定できる。さらに、撮像装置１００の撮像方向を変化させている間、または撮像装置１００を第１軌跡に従って移動させている間に撮像された撮像画像に基づいて、デプスマップを生成する。よって、比較的短時間に広範囲の深度情報を含むデプスマップを生成することができる。

撮像制御部１１０は、デプスマップに基づいて、撮像装置１００のフォーカスレンズの位置を制御して、さらに撮像装置１００に複数の撮像画像を撮像させてよい。

撮像制御部１１０は、第１回転目に、撮像装置１００の撮像方向が変化するように第１点を中心に撮像装置１００を回転させている間に、撮像装置１００に第１撮像画像、及び第２撮像画像を撮像させてよい。撮像制御部１１０は、第２回転目に、撮像装置１００の撮像方向が変化するように第１点を中心に撮像装置を回転させている間に、デプスマップに従って、撮像装置１００のフォーカスレンズの位置を制御して、撮像装置１００に新たに複数の撮像画像を撮像させてよい。

撮像制御部１１０は、第１回目に、撮像装置１００が第１軌跡に沿って移動する間に、撮像装置１００に第１撮像画像、及び第２撮像画像を撮像させ、第２回目に、撮像装置１００が第１軌跡に沿って移動する間に、デプスマップに従って、撮像装置１００のフォーカスレンズの位置を制御して、撮像装置１００に新たに複数の撮像画像を撮像させてよい。

撮像制御部１１０は、第１回転目に、ＵＡＶ１０をホバリングさせながら第１地点を中心に回転させている間に、互いに異なり、かつ一部が重複する撮像範囲の複数の撮像画像を撮像装置１００に撮像させてよい。取得部１１２は、互いに異なり、かつ一部が重複する撮像範囲の複数の撮像画像を取得してよい。算出部１１４は、重複範囲の画像のぼけ量を算出してよい。さらに、生成部１１６は、重複範囲の画像のぼけ量に基づいて、重複範囲に対応する深度情報を含むデプスマップを生成してよい。

撮像制御部１１０は、デプスマップに従って、所望の被写体までの距離を特定してよい。撮像制御部１１０は、第２回転目に、ＵＡＶ１０をホバリングさせながら第１地点を中心に回転させている間に、特定された所望の被写体までの距離に従ってフォーカスレンズの位置を制御して、撮像装置１００に複数の撮像画像を撮像させてよい。撮像制御部１１０は、第２回転目に、ＵＡＶ１０をホバリングさせながら第１地点を中心に回転させている間に、デプスマップに従わず、予め定められた合焦距離にフォーカスレンズを制御して、撮像装置１００に複数の撮像画像を撮像させてよい。

撮像制御部１１０は、デプスマップと、複数の撮像画像とを関連付けてメモリ１３０などの記憶部に記憶させてよい。

合成部１１８は、複数の撮像画像を合成して、図８に示すようなパノラマ画像を生成してよい。合成部１１８は、パノラマ画像と、デプスマップとを関連付けて、メモリ１３０などの記憶部に記憶させてよい。

隣接する撮像範囲同士の重複範囲の割合は、撮像範囲が異なれば、任意の割合でよい。撮像装置１００により撮像される全撮像範囲の深度情報を含むデプスマップを生成する場合には、隣接する撮像範囲同士の重複範囲の割合は、１より小さくかつ１／２以上である。一方、撮像装置１００により撮像される一部の撮像範囲の深度情報を含むデプスマップを生成する場合には、隣接する撮像範囲同士の重複範囲の割合は、１／２より小さくかつ０より大きい割合でよい。

図９は、ＵＡＶ１０に搭載された撮像装置１００の撮像手順の一例を示すフローチャートである。

ＵＡＶ１０が飛行を開始する（Ｓ２００）。遠隔操作装置３００を介したユーザからの指示に応じて、撮像装置１００の撮像モードをデプスマップ付きパノラマモードに設定する（Ｓ２０２）。ＵＡＶ制御部３０が、ＵＡＶ１０を所望の第１地点に移動させる。次いで、撮像制御部１１０は、ＵＡＶ制御部３０を介してＵＡＶ１０を第１地点でホバリングさせながら回転させ、かつフォーカスレンズを移動させながら、撮像装置１００に、互いに異なり、かつ一部が重複する撮像範囲の複数の撮像画像を撮像させる（Ｓ２０４）。撮像制御部１１０は、フォーカスレンズの位置を第１位置と第２位置との間で交互に切り替えながら、撮像装置１００に、互いに異なり、かつ一部が重複する撮像範囲の複数の撮像画像を撮像させてよい。

算出部１１４が、重複範囲の画像のぼけ量を算出し、生成部１１６が、そのぼけ量に基づいて、重複範囲に対応する深度情報を含むデプスマップを生成する（Ｓ２０６）。

次いで、撮像制御部１１０は、ＵＡＶ制御部３０を介してＵＡＶ１０を第１地点でホバリングさせながら再度回転させ、かつデプスマップに従ってフォーカスレンズを制御しながら、撮像装置１００に複数の撮像画像を撮像させる（Ｓ２０８）。撮像制御部１１０は、デプスマップに従って所望の被写体までの距離を特定して、その距離に応じてフォーカスレンズの位置を調整してよい。そして、撮像制御部１１０は、ＵＡＶ制御部３０を介してＵＡＶ１０を第１地点でホバリングさせながら回転させながら、調整されたフォーカスレンズの位置で、複数の撮像画像を撮像させてよい。撮像制御部１１０は、例えば、複数の合焦距離のそれぞれで撮像装置１００に撮像させる場合には、合焦距離ごとにＵＡＶ１０をその都度回転させて、撮像装置１００に撮像させてよい。ＵＡＶ１０が複数の撮像装置１００を搭載している場合には、撮像制御部１１０は、複数の撮像装置１００のそれぞれの合焦距離を異ならせて、ＵＡＶ１０が１回転する間に、複数の撮像装置１００のそれぞれに異なる合焦距離で複数の撮像画像を撮像させてもよい。

撮像制御部１１０は、撮像された複数の撮像画像と、デプスマップとを関連付けてメモリ１３０に保存する（Ｓ２１０）。合成部１１８が、複数の撮像画像を合成してパノラマ画像を生成して、撮像制御部１１０は、そのパノラマ画像とデプスマップとを関連付けてメモリ１３０に保存してもよい。

上記では、ＵＡＶ１０が３６０度回転し、生成部１１６が３６０度の範囲の深度情報を含むデプスマップを生成する例について説明した。しかし、ＵＡＶ１０は、３６０度より小さい回転角度だけ回転して、生成部１１６がその回転角度の範囲に対応する深度情報を含むデプスマップを生成してもよい。ＵＡＶ１０の撮像装置１００がヨー軸周りに３６０度回転する例を説明した。しかしながら、撮像装置１００は、３次元空間において撮像することも可能である。撮像装置１００が３次元空間において撮像する場合には、ジンバル５０を制御することにより撮像装置１００の姿勢を調整することで、撮像装置１００は撮影可能である。例えば、はじめはジンバル５０のピッチ軸とロール軸を固定してヨー軸周りで撮像装置１００を回転させ、その後にピッチ軸回りに撮像装置１００をプラス又はマイナス方向へ傾けて再びヨー軸周りで撮像装置１００を回転させる。ＵＡＶ１０のバランスが取れるなら、ジンバルにより撮像装置１００の姿勢を制御する代わりに、ＵＡＶ１０の姿勢を制御することで撮像装置１００の姿勢を制御してもよい。このようにすれば３次元空間でデプスマップを取得することができる。他にも重複範囲ができるように撮像装置１００を複数設ければ撮像装置１００が１つの場合よりも短い工数でデプスマップを取得することが可能である。

図１０は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

１０ ＵＡＶ
２０ ＵＡＶ本体
３０ ＵＡＶ制御部
３６ 通信インタフェース
３７ メモリ
４０ 推進部
４１ ＧＰＳ受信機
４２ 慣性計測装置
４３ 磁気コンパス
４４ 気圧高度計
４５ 温度センサ
４６ 湿度センサ
５０ ジンバル
６０ 撮像装置
１００ 撮像装置
１０２ 撮像部
１１０ 撮像制御部
１１２ 取得部
１１４ 算出部
１１６ 生成部
１１８ 合成部
１２０ イメージセンサ
１３０ メモリ
２００ レンズ部
２１０ レンズ
２１２ レンズ駆動部
２１４ 位置センサ
２２０ レンズ制御部
２２２ メモリ
３００ 遠隔操作装置
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

Claims (14)

1. 撮像装置の撮像面と前記撮像装置のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲を前記撮像装置に撮像させ、かつ、前記撮像装置の撮像面と前記撮像装置のフォーカスレンズとが第２位置関係にある状態で、前記第１撮像範囲と異なり、かつ前記第１撮像範囲と重複する第１重複範囲を含む第２撮像範囲を前記撮像装置に撮像させる制御部と、
   前記撮像装置に撮像された前記第１撮像範囲の第１撮像画像、及び前記第２撮像範囲の第２撮像画像を取得する取得部と、
   前記第１撮像画像に含まれる前記第１重複範囲に対応する第１画像、及び前記第２撮像画像に含まれる前記第１重複範囲に対応する第２画像のそれぞれのぼけ量を算出する算出部と、
   前記第１画像及び前記第２画像のそれぞれのぼけ量に基づいて、前記第１重複範囲に対応する深度情報を含むデプスマップを生成する生成部と
   を備える制御装置。
2. 前記第１撮像範囲は、前記第２撮像範囲と半分以上重複する、請求項１に記載の制御装置。
3. 前記制御部は、前記撮像装置の撮像面と前記撮像装置のフォーカスレンズとが第３位置関係にある状態で、前記第２撮像範囲と異なり、かつ前記第２撮像範囲と重複する第２重複範囲を含む第３撮像範囲を前記撮像装置に撮像させ、
   前記取得部は、前記撮像装置に撮像された前記第３撮像範囲の第３撮像画像をさらに取得し、
   前記算出部は、前記第２撮像画像に含まれる前記第２重複範囲に対応する第３画像、及び前記第３撮像画像に含まれる前記第２重複範囲に対応する第４画像のそれぞれのぼけ量をさらに算出し、
   前記生成部は、前記第３画像及び前記第４画像のそれぞれのぼけ量に基づいて、前記第２重複範囲に対応する深度情報をさらに含む前記デプスマップを生成する、請求項１に記載の制御装置。
4. 前記第２撮像範囲は、前記第３撮像範囲と半分以上重複する、請求項３に記載の制御装置。
5. 前記制御部は、前記撮像装置の撮像方向が変化している間に、前記撮像装置の撮像面と前記撮像装置のフォーカスレンズとが前記第１位置関係にある状態で第１撮像範囲を前記撮像装置に撮像させ、かつ、前記撮像装置の撮像面と前記撮像装置のフォーカスレンズとが前記第２位置関係にある状態で、前記第２撮像範囲を前記撮像装置に撮像させる、請求項１に記載の制御装置。
6. 前記制御部は、第１回転目に、前記撮像装置の撮像方向が変化するように第１点を中心に前記撮像装置を回転させている間に、前記撮像装置に前記第１撮像画像、及び前記第２撮像画像を撮像させ、第２回転目に、前記撮像装置の撮像方向が変化するように前記第１点を中心に前記撮像装置を回転させている間に、前記デプスマップに従って、前記撮像装置のフォーカスレンズの位置を制御して、前記撮像装置に新たに複数の撮像画像を撮像させる、請求項５に記載の制御装置。
7. 前記制御部は、前記デプスマップと、前記複数の撮像画像とを関連付けて記憶部に記憶させる、請求項６に記載の制御装置。
8. 前記制御部は、前記撮像装置が第１軌跡に沿って移動する間に、前記撮像装置の撮像面と前記撮像装置のフォーカスレンズとが前記第１位置関係にある状態で第１撮像範囲を前記撮像装置に撮像させ、かつ、前記撮像装置の撮像面と前記撮像装置のフォーカスレンズとが前記第２位置関係にある状態で、前記第２撮像範囲を前記撮像装置に撮像させる、請求項１に記載の制御装置。
9. 前記制御部は、第１回目に、前記撮像装置が前記第１軌跡に沿って移動する間に、前記撮像装置に前記第１撮像画像、及び前記第２撮像画像を撮像させ、第２回目に、前記撮像装置が前記第１軌跡に沿って移動する間に、前記デプスマップに従って、前記撮像装置のフォーカスレンズの位置を制御して、前記撮像装置に新たに複数の撮像画像を撮像させる、請求項８に記載の制御装置。
10. 前記制御部は、前記デプスマップと、前記複数の撮像画像とを関連付けて記憶部に記憶させる、請求項９に記載の制御装置。
11. 請求項１から１０の何れか１つに記載の制御装置と、
    前記フォーカスレンズと
    を備える撮像装置。
12. 請求項１１に記載の撮像装置を備えて移動する移動体。
13. 撮像装置の撮像面と前記撮像装置のフォーカスレンズとが第１位置関係にある状態で第１撮像範囲を前記撮像装置に撮像させ、かつ、前記撮像装置の撮像面と前記撮像装置のフォーカスレンズとが第２位置関係にある状態で、前記第１撮像範囲と異なり、かつ前記第１撮像範囲と重複する第１重複範囲を含む第２撮像範囲を前記撮像装置に撮像させる段階と、
    前記撮像装置に撮像された前記第１撮像範囲の第１撮像画像、及び前記第２撮像範囲の第２撮像画像を取得する段階と、
    前記第１撮像画像に含まれる前記第１重複範囲に対応する第１画像、及び前記第２撮像画像に含まれる前記第１重複範囲に対応する第２画像のそれぞれのぼけ量を算出する段階と、
    前記第１画像及び前記第２画像のそれぞれのぼけ量に基づいて、前記第１重複範囲に対応する深度情報を含むデプスマップを生成する段階と
    を備える制御方法。
14. 請求項１から１０の何れか１つに記載の制御装置としてコンピュータを機能させるためのプログラム。

Images