JP7173657B2 - 制御装置、撮像装置、制御方法、及びプログラム - Google Patents

制御装置、撮像装置、制御方法、及びプログラム Download PDF

Info

Publication number
JP7173657B2
JP7173657B2 JP2019171306A JP2019171306A JP7173657B2 JP 7173657 B2 JP7173657 B2 JP 7173657B2 JP 2019171306 A JP2019171306 A JP 2019171306A JP 2019171306 A JP2019171306 A JP 2019171306A JP 7173657 B2 JP7173657 B2 JP 7173657B2
Authority
JP
Japan
Prior art keywords
imaging
imaging device
light receiving
distance
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019171306A
Other languages
English (en)
Other versions
JP2021047367A (ja
Inventor
謙一 本庄
佳範 永山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2019171306A priority Critical patent/JP7173657B2/ja
Priority to CN202080003318.9A priority patent/CN112313941A/zh
Priority to PCT/CN2020/113963 priority patent/WO2021052216A1/zh
Publication of JP2021047367A publication Critical patent/JP2021047367A/ja
Priority to US17/683,163 priority patent/US20220188993A1/en
Application granted granted Critical
Publication of JP7173657B2 publication Critical patent/JP7173657B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/40Systems for automatic generation of focusing signals using time delay of the reflected waves, e.g. of ultrasonic waves
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18Focusing aids
    • G03B13/20Rangefinders coupled with focusing arrangements, e.g. adjustment of rangefinder automatically focusing camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、制御装置、撮像装置、制御方法、及びプログラムに関する。
特許文献1には、M×N個の画素それぞれのためのTOFアルゴリズムから距離値を計算し、その距離情報を深度マップメモリに記憶させることが開示されている。
[先行技術文献]
[特許文献]
[特許文献1] 特表2019-508717号公報
TOFセンサの受光面と、撮像装置のイメージセンサの受光面との位置関係は、TOFセンサで測距される被写体までの距離によって変化する。TOFセンサの受光面上の被写体の位置と撮像装置のイメージセンサの受光面上のその被写体の位置との位置関係の誤差により、所望の被写体に合焦できない場合がある。
本発明の一態様に係る制御装置は、受光素子の受光面上の複数の測距領域のそれぞれに関連する被写体までの距離を測距する測距センサと、被写体を撮像するイメージセンサと、を備える撮像装置を制御する制御装置でよい。制御装置は、測距センサにより測距された複数の距離に基づいて、受光素子の受光面上の複数の測距領域と、イメージセンサの受光面上の複数の撮像領域との予め定められた位置関係を補正するように構成される回路を備える。回路は、補正された位置関係に基づいて、合焦対象の第1撮像領域に対応する第1測距領域を特定するように構成されてよい。回路は、測距センサにより測距された第1測距領域の距離に基づいて、撮像装置の合焦制御を実行するように構成されてよい。
回路は、測距センサにより測距された複数の距離に基づいて、複数の測距領域を、予め定められた距離範囲に属する隣接する測距領域毎のグループ領域に分類するように構成されてよい。回路は、グループ領域毎に位置関係を補正するように構成されてよい。回路は、補正された位置関係に基づいて、第1撮像領域に対応するグループ領域を特定するように構成されてよい。回路は、測距センサにより測距された複数の距離に基づくグループ領域の距離に基づいて、撮像装置の合焦制御を実行するように構成されてよい。
回路は、グループ領域に含まれる複数の測距領域のうち基準位置に位置する測距領域の距離に基づいて、撮像装置の合焦制御を実行するように構成されてよい。
回路は、撮像装置に撮像される画像のグループ領域に対応する位置に被写体の位置を示す枠を重畳させて表示部に表示させるように構成されてよい。
回路は、補正された位置関係における複数の測距領域を、予め定められた距離範囲に属する隣接する測距領域毎のグループ領域に分類するように構成されてよい。回路は、補正された位置関係に基づいて、第1撮像領域に対応するグループ領域を特定するように構成されてよい。回路は、測距センサにより測距された複数の距離に基づくグループ領域の距離に基づいて、撮像装置の合焦制御を実行するように構成されてよい。
回路は、グループ領域に含まれる複数の測距領域のうち基準位置に位置する測距領域の距離に基づいて、撮像装置の合焦制御を実行するように構成されてよい。
回路は、撮像装置に撮像される画像のグループ領域に対応する位置に被写体の位置を示す枠を重畳させて表示部に表示させるように構成されてよい。
予め定められた位置関係は、受光素子の受光面上の光軸中心の位置と、イメージセンサの受光面上の光軸中心の位置との位置関係に基づいて定められてよい。
予め定められた位置関係は、受光素子の受光面に関連する第1座標系と、イメージセンサの受光面に関連する第2座標系との対応関係を示してよい。
回路は、測距センサの画角、撮像装置の画角、及び被写体までの距離に対応する位置関係の補正量を示す予め定められた補正条件に基づいて、測距センサにより測距された複数の距離に応じた補正量を決定し、決定された補正量に基づいて位置関係を補正するように構成されてよい。
本発明の一態様に係る撮像装置は、上記制御装置と、測距センサと、第2イメージセンサとを備えてよい。
本発明の一態様に係る制御方法は、受光素子の受光面上の複数の測距領域のそれぞれに関連する被写体までの距離を測距する測距センサと、被写体を撮像するイメージセンサと、を備える撮像装置を制御する制御方法でよい。制御方法は、測距センサにより測距された複数の距離に基づいて、受光素子の受光面上の複数の測距領域と、イメージセンサの受光面上の複数の撮像領域との予め定められた位置関係を補正する段階を備えてよい。制御方法は、補正された位置関係に基づいて、合焦対象の第1撮像領域に対応する第1測距領域を特定する段階を備えてよい。制御方法は、測距センサにより測距された第1測距領域の距離に基づいて、撮像装置の合焦制御を実行する段階を備えてよい。
本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。
本発明の一態様によれば、TOFセンサの受光素子の受光面上の被写体の位置と撮像装置のイメージセンサの受光面上のその被写体の位置との位置関係の誤差の影響で、所望の被写体に合焦できないことを防止できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
撮像システムの外観斜視図である。 撮像システムの機能ブロックを示す図である。 撮像装置のレンズ光軸とTOFセンサのレンズ光軸との位置関係の一例を示す図である。 イメージセンサの複数の撮像領域と、TOFセンサの複数の測距領域との位置関係の一例を示す図である。 イメージセンサの複数の撮像領域と、TOFセンサの複数の測距領域との位置関係の一例を示す図である。 TOFセンサの受光面に関連する座標系と、イメージセンサの受光面に関連する座標系との対応関係を示すテーブルの一例を示す図である。 被写体までの距離と補正量との関係を示す補正条件の一例を示す図である。 TOFセンサの受光面に関連する座標系と、イメージセンサの受光面に関連する座標系との補正後の対応関係を示すテーブルの一例を示す図である。 撮像制御部による合焦制御の手順の一例を示すフローチャートである。 撮像制御部による合焦制御の手順の一例を示すフローチャートである。 撮像システムの他の形態を示す外観斜視図である。 無人航空機及び遠隔操作装置の外観の一例を示す図である。 ハードウェア構成の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等の様なメモリ要素等を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図1は、本実施形態に係る撮像システム10の外観斜視図の一例である。撮像システム10は、撮像装置100、支持機構200、及び把持部300を備える。支持機構200は、撮像装置100を、アクチュエータを用いてロール軸、ピッチ軸、ヨー軸のそれぞれを中心に回転可能に支持する。支持機構200は、ロール軸、ピッチ軸、及びヨー軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更、または維持してよい。支持機構200は、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203を備える。支持機構200は、ヨー軸駆動機構203が固定される基部204をさらに備える。把持部300は、基部204に固定される。把持部300は、操作インタフェース301、及び表示部302を備える。撮像装置100は、ピッチ軸駆動機構202に固定される。
操作インタフェース301は、撮像装置100及び支持機構200を操作するための命令をユーザから受け付ける。操作インタフェース301は、撮像装置100による撮影または録画を指示するシャッター/録画ボタンを含んでよい。操作インタフェース301は、撮像システム10の電源をオンまたはオフ、及び撮像装置100の静止画撮影モードまたは動画撮影モードの切り替えを指示する電源/ファンクションボタンを含んでよい。
表示部302は、撮像装置100により撮像される画像を表示してよい。表示部302は、撮像装置100及び支持機構200を操作するためのメニュー画面を表示してよい。表示部302は、撮像装置100及び支持機構200を操作するための命令を受け付けるタッチパネルディスプレイでよい。
ユーザは、把持部300を把持して撮像装置100により静止画または動画を撮影する。
図2は、撮像システム10の機能ブロックを示す図である。撮像装置100は、撮像制御部110、イメージセンサ120、メモリ130、レンズ制御部150、レンズ駆動部152、複数のレンズ154、及びTOFセンサ160を備える。
イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、撮像用のイメージセンサの一例である。イメージセンサ120は、複数のレンズ154を介して結像された光学像の画像データを撮像制御部110に出力する。撮像制御部110は、CPUまたはMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。
撮像制御部110は、把持部300からの撮像装置100の動作命令に応じて、撮像制御部110は、イメージセンサ120から出力された画像信号にデモザイク処理を施すことで画像データを生成する。撮像制御部110は、画像データをメモリ130に格納する。撮像制御部110は、TOFセンサ160を制御する。撮像制御部110は、回路の一例である。TOFセンサ160は、対象物までの距離を測距する飛行時間型センサである。撮像装置100は、TOFセンサ160により測距された距離に基づいて、フォーカスレンズの位置を調整することで、合焦制御を実行する。
メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120等を制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。把持部300は、撮像装置100により撮像された画像データを保存するための他のメモリを備えてよい。把持部300は、把持部300の筐体からメモリを取り外し可能なスロットを有してよい。
複数のレンズ154は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ154の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ制御部150は、撮像制御部110からのレンズ制御命令に従って、レンズ駆動部152を駆動して、1または複数のレンズ154を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。レンズ駆動部152は、複数のレンズ154の少なくとも一部または全部を光軸方向に移動させるボイスコイルモータ(VCM)を含んでよい。レンズ駆動部152は、DCモータ、コアレスモータ、または超音波モータ等の電動機を含んでよい。レンズ駆動部152は、電動機からの動力をカム環、ガイド軸等の機構部材を介して複数のレンズ154の少なくとも一部または全部に伝達して、複数のレンズ154の少なくとも一部または全部を光軸に沿って移動させてよい。本実施形態では、複数のレンズ154は、撮像装置100と一体型の例について説明する。しかし、複数のレンズ154は、交換レンズでよく、撮像装置100とは別体で構成されてもよい。
撮像装置100は、姿勢制御部210、角速度センサ212、及び加速度センサ214をさらに備える。角速度センサ212は、撮像装置100の角速度を検出する。角速度センサ212は、撮像装置100のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を検出する。姿勢制御部210は、角速度センサ212から撮像装置100の角速度に関する角速度情報を取得する。角速度情報は、撮像装置100のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を示してよい。姿勢制御部210は、加速度センサ214から撮像装置100の加速度に関する加速度情報を取得する。加速度情報は、撮像装置100のロール軸、ピッチ軸、及びヨー軸のそれぞれの方向の加速度を示してもよい。
角速度センサ212、及び加速度センサ214は、イメージセンサ120及びレンズ154等を収容する筐体内に設けられてよい。本実施形態では、撮像装置100と支持機構200とが一体的に構成される形態について説明する。しかし、支持機構200が、撮像装置100を着脱可能に固定する台座を備えてよい。この場合、角速度センサ212、及び加速度センサ214は台座等、撮像装置100の筐体の外に設けられてよい。
姿勢制御部210は、角速度情報及び加速度情報に基づいて、撮像装置100の姿勢を維持または変更すべく、支持機構200を制御する。姿勢制御部210は、撮像装置100の姿勢を制御するための支持機構200の動作モードに従って、撮像装置100の姿勢を維持または変更すべく、支持機構200を制御する。
動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203のそれぞれを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のピッチ軸駆動機構202、及びヨー軸駆動機構203のそれぞれを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるようにヨー軸駆動機構203のみを動作させるモードを含む。
動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200を動作させるFPV(First Person View)モードと、撮像装置100の姿勢を維持するように支持機構200を動作させる固定モードとを含んでよい。
FPVモードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードである。固定モードは、撮像装置100の現在の姿勢を維持するように、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードである。
TOFセンサ160は、発光部162、受光部164、発光制御部166、受光制御部167、及びメモリ168を備える。TOFセンサ160は、測距センサの一例である。
発光部162は、少なくとも1つの発光素子163を含む。発光素子163は、LEDまたはレーザ等の高速変調されたパルス光を繰り返し出射するデバイスである。発光素子163は、赤外光であるパルス光を出射してよい。発光制御部166は、発光素子163の発光を制御する。発光制御部166は、発光素子163から出射されるパルス光のパルス幅を制御してよい。
受光部164は、複数の測距領域のそれぞれに関連する被写体までの距離を測距する複数の受光素子165を含む。受光部164は、測距用センサの一例である。複数の受光素子165は、複数の測距領域のそれぞれに対応する。受光素子165は、対象物からのパルス光の反射光を繰り返し受光する。受光制御部167は、受光素子165の受光を制御する。受光制御部167は、予め定められた受光期間に受光素子165が繰り返し受光する反射光の量に基づいて、複数の測距領域のそれぞれに関連する被写体までの距離を測距する。受光制御部167は、予め定められた受光期間に受光素子165が繰り返し受光する反射光の量に基づいて、パルス光と反射光との間の位相差を特定することで、被写体までの距離を測距してよい。受光部164は、反射波の周波数変化を読み取ることで、被写体までの距離を測距してよい。これはFMCW(Frequency Modulated Continuous Wave)方式と呼ばれる。
メモリ168は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、及びEEPROMの少なくとも1つを含んでよい。メモリ168は、発光制御部166が発光部162を制御するために必要なプログラム、及び受光制御部167が受光部164を制御するのに必要なプログラム等を格納する。
TOFセンサ160は、受光部164の画素数に対応する複数の測距領域のそれぞれに関連する被写体までの距離を測距できる。しかし、一般的に、受光部164の画素数は、撮像装置100の撮像用のイメージセンサ120の画素数より少ない。また、TOFセンサ160の受光部164の受光面と、撮像装置100のイメージセンサ120の受光面との位置関係は、TOFセンサ160で測距される被写体までの距離によって変化する。したがって、TOFセンサ160からの距離情報に基づいて被写体を検出して、TOFセンサ160で測距されたその被写体の距離に基づいて撮像装置100で合焦制御を実行しても、ユーザが意図する被写体に合焦させられない場合がある。
図3は、TOFセンサ160の受光部164の受光面上の被写体の位置と撮像装置100のイメージセンサ120の受光面上の被写体の位置との位置関係を示す。図3は、撮像装置100が、撮像装置100からの距離がLである被写体(Obj1)501と、撮像装置100からの距離がLである被写体(Obj2)502とを撮像している様子を示す。
撮像装置100の画角は、θであり、TOFセンサ160の画角は、φである。撮像装置100の光軸Pと、TOFセンサ160の光軸Pとの間の距離は、hである。TOFセンサ160の測距領域は、8pixel×8pixelの64エリアである。ここで、1つの測距領域が、受光部164の1pixelに相当する。
領域511は、撮像装置100からの距離がLである場合の測距領域と、撮像装置100の撮像領域との位置関係を示す。領域512は、撮像装置100からの距離がLである場合の測距領域と、撮像装置100の撮像領域との位置関係を示す。
イメージセンサ120の光軸PとTOFセンサ160の光軸Pとの間の距離は、hだけ離間している。TOFセンサ160の光軸Pは、TOFセンサ160の複数の測距領域の中心を通る。しかし、距離Lにおいて、撮像装置100の光軸Pは、TOFセンサ160の複数の測距領域の中心から1.9pixelだけ離間している。一方、距離Lにおいて、撮像装置100の光軸Pは、TOFセンサ160の複数の測距領域の中心から1.2pixelだけ離間している。すなわち、撮像装置100から被写体までの距離に応じて、撮像装置100の光軸Pと、TOFセンサ160の複数の測距領域の中心との間の距離は異なる。このような現象は、いわゆるパララックス現象と称される。
本実施形態に係る撮像装置100は、イメージセンサ120の受光面とTOFセンサ160の受光部164の受光面との位置関係を、TOFセンサで測距される被写体までの距離に基づいて補正する。さらに、撮像装置100は、補正後の位置関係に従って撮像装置100により撮像される画像上の被写体の位置に対応するTOFセンサ160の測距領域を特定し、その特定された測距領域についてTOFセンサ160で測距された距離に基づいて合焦制御を実行する。
撮像制御部110は、TOFセンサ160により測距された複数の測距領域のそれぞれに関連する被写体までの距離を取得する。撮像制御部110は、複数の距離に基づいて、受光部164の受光面上の複数の測距領域と、イメージセンサ120の受光面上の複数の撮像領域との予め定められた位置関係を補正する。
撮像制御部110は、TOFセンサ160の画角、撮像装置100の画角、及び被写体までの距離に対応する位置関係の補正量を示す予め定められた補正条件に基づいて、TOFセンサ160により測距された複数の距離に応じた補正量を決定し、決定された補正量に基づいて位置関係を補正してよい。撮像制御部110は、補正量に対応するピクセル数だけ、イメージセンサ120の受光面上の位置に対応するTOFセンサ160の受光面上の位置を移動させることで、位置関係を補正してよい。
予め定められた位置関係は、受光部164の受光面上の光軸中心の位置と、イメージセンサ120の受光面上の光軸中心の位置との位置関係に基づいて定められてよい。予め定められた位置関係は、受光部164の受光面に関連する第1座標系と、イメージセンサ120の受光面に関連する第2座標系との対応関係を示してよい。
撮像制御部110は、補正された位置関係に基づいて、複数の測距領域のうち合焦対象の第1撮像領域に対応する第1測距領域を特定してよい。撮像制御部110は、TOFセンサ160により測距された第1測距領域の距離に基づいて、撮像装置100の合焦制御を実行する。合焦制御は、第1測距領域の距離に存在する被写体に焦点が合うようにフォーカスレンズを移動させる制御である。撮像制御部110は、TOFセンサ160により測距された複数の距離に基づいて、複数の測距領域を、予め定められた距離範囲に属する隣接する測距領域毎のグループ領域に分類してよい。予め定められた距離範囲に属する隣接する測距領域で取り囲まれた領域は、その距離範囲に被写体が存在する可能性が高い領域である。予め定められた距離範囲は、基準の距離Lとすると、L±αL(0<α<1)でよい。例えば、Lが1mの場合、α=0.1として、予め定められた距離範囲は、0.9m~1.1mでよい。撮像制御部110は、TOFセンサ160により測距された複数の距離に基づいて、複数の測距領域を、同一の距離範囲に属する隣接する測距領域毎のグループ領域に分類してよい。撮像制御部110は、グループ領域毎に位置関係を補正してよい。
撮像制御部110は、補正された位置関係に基づいて、第1撮像領域に対応するグループ領域を特定してよい。撮像制御部110は、TOFセンサ160により測距された複数の距離に基づくグループ領域の距離に基づいて、撮像装置100の合焦制御を実行してよい。撮像制御部110は、グループ領域に含まれる複数の測距領域のうち、グループ領域の基準位置に位置する測距領域の距離に基づいて、撮像装置100の合焦制御を実行してよい。基準位置は、例えばグループ領域の列方向の最大の長さと行方向の最大の長さの半分である。半分でなくとも、行方向と列方向に対してそれぞれ重み付けを行って基準位置を設定してもよい。撮像制御部110は、グループ領域に含まれる複数の測距領域のそれぞれの距離の平均に基づいて、撮像装置100の合焦制御を実行してよい。
撮像制御部110は、複数の測距領域の距離に基づいて、位置関係を補正した後、補正された位置関係における複数の測距領域を、予め定められた距離範囲に属する隣接する測距領域毎のグループ領域に分類してもよい。撮像制御部110は、複数の測距領域の距離に基づいて、位置関係を補正した後、補正された位置関係における複数の測距領域を、同一の距離範囲に属する隣接する測距領域毎のグループ領域に分類してもよい。撮像制御部110は、複数の測距領域がグループ領域に分類された後の位置関係に基づいて、第1撮像領域に対応するグループ領域を特定し、TOFセンサ160により測距された複数の距離に基づくグループ領域の距離に基づいて、撮像装置100の合焦制御を実行してよい。
撮像制御部110は、撮像装置100に撮像される撮像画像上のグループ領域に対応する位置に被写体の位置を示す枠を重畳させて表示部302などに表示させてよい。
例えば、撮像装置100は、TOFセンサ160により測距された予め定められた距離範囲に属する隣接する複数の測距領域を特定し、特定された複数の測距領域を含む枠を、被写体が存在する位置を示す枠として、撮像画像に重畳させてプレビュー画像として表示部302などに表示させてよい。
図3において、撮像制御部110は、距離Lを示す距離範囲に含まれる隣接する7pixelを被写体501に対応するグループ領域531として分類してよい。撮像制御部110は、距離Lを示す距離範囲に含まれる隣接する3pixelを被写体502に対応するグループ領域532として分類してよい。メモリ130は、TOFセンサ160の画角φ、撮像装置100の画角θ、距離Lに対応する位置関係の補正量として、1.9pixelを記憶している。また、メモリ130は、TOFセンサ160の画角φ、撮像装置100の画角θ、距離Lに対応する位置関係の補正量として、1.2pixelを記憶している。撮像制御部110は、グループ領域531に対応する撮像領域の位置を1.9pixel相当分だけ上側に移動させることで、位置関係を補正する。撮像制御部110は、グループ領域532に対応する撮像領域の位置を1.2pixel相当分だけ上側に移動させることで、位置関係を補正する。
図4及び図5は、イメージセンサ120の複数の撮像領域601と、TOFセンサ160の複数の測距領域602との位置関係の一例を示す。撮像制御部110は、図4に示すように、複数の測距領域602の中から、同一の距離範囲に属する隣接する複数の測距領域を含むグループ領域611及びグループ領域622を特定する。撮像制御部110は、メモリ130に記憶された予め定められた補正条件に基づいて、グループ領域611及びグループ領域622の距離に対応する補正量を特定する。撮像制御部110は、図5に示すように、特定された補正量だけ、グループ領域611及びグループ領域622のそれぞれに対応する撮像領域のそれぞれの位置を移動させることで、位置関係を補正する。
メモリ130は、予め定められた位置関係として、図6に示すように、TOFセンサ160の受光面に関連する座標系と、イメージセンサ120の受光面に関連する座標系との対応関係を示すテーブルを記憶してよい。すなわち、メモリ130は、TOFセンサ160のそれぞれの測距領域の座標値に対応するイメージセンサ120の複数の撮像領域の座標値を記憶してよい。メモリ130は、予め定められた補正条件として、図7に示すように、TOFセンサ160の画角及び撮像装置100の画角の組み合わせ毎に、被写体までの距離に対応する補正量を記憶してよい。
撮像制御部110は、メモリ130に記憶された予め定められた位置関係と、予め定められた補正条件とを参照して、図8に示すように、測距領域毎に、撮像領域の位置を対応する補正量だけ移動させることで、予め定められた位置関係を補正してよい。
図9は、撮像制御部110による合焦制御の手順の一例を示すフローチャートである。撮像制御部110は、TOFセンサ160から測距領域毎の距離を取得する(S100)。撮像制御部110は、2pixel以上で距離が同一の距離範囲に属する隣接した測距領域を選択して、グループ領域に分類する(S102)。撮像制御部110は、グループ領域毎に距離を特定する。撮像制御部110は、例えば、グループ領域に含まれる複数の測距領域のうち、基準位置に位置する測距領域の距離を、グループ領域の距離として特定する。撮像制御部110は、グループ領域に含まれる複数の測距領域のそれぞれの距離の平均の距離を、グループ領域の距離として特定してよい。撮像制御部110は、グループ領域に含まれる複数の測距領域のそれぞれに重み付けを行い、重み付けされたそれぞれの距離の平均の距離を、グループ領域の距離として特定してよい。
撮像制御部110は、グループ領域の距離に基づいて、イメージセンサ120の撮像領域と、TOFセンサ160の測距領域との予め定められた位置関係をグループ領域毎に補正する。撮像制御部110は、TOFセンサ160の画角と、撮像装置100の画角との組み合わせに対応する距離毎の補正量を示す予め定められた補正条件に従って、予め定められた位置関係を補正してよい。
撮像制御部110は、撮像装置100により撮像された撮像画像を取得する(S106)。撮像装置100は、撮像画像のグループ領域に対応する位置に、被写体が存在する位置を示す枠を重畳させたプレビュー画像を表示部302などに表示させてよい。撮像制御部110は、表示部302に表示された撮像画像上でユーザによりタッチされた合焦対象の撮像領域に対応するグループ領域の距離を特定する。ユーザは、プレビュー画像に表示された少なくとも1つの枠の中から、所望の被写体を含む枠をタッチしてよい。撮像制御部110は、特定されたグループ領域の距離に基づいて、オートフォーカス動作、すなわち合焦制御を実行する(S108)。
図10は、撮像制御部110による合焦制御の手順の一例を示すフローチャートである。
撮像制御部110は、TOFセンサ160から測距領域毎の距離を取得する(S200)。撮像制御部110は、TOFセンサ160の測距領域のそれぞれの距離に基づいて、イメージセンサ120の撮像領域と、TOFセンサ160の測距領域との予め定められた位置関係を補正する(S202)。撮像制御部110は、TOFセンサ160の画角と、撮像装置100の画角との組み合わせに対応する距離毎の補正量を示す予め定められた補正条件に従って、TOFセンサ160の測距領域のそれぞれの距離に基づいて、予め定められた位置関係を補正してよい。
撮像制御部110は、補正された位置関係におけるTOFセンサ160の測距領域を、同一の距離範囲に属する測距領域毎のグループ領域に分類する(S204)。撮像制御部110は、撮像装置100により撮像された撮像画像を取得する(S206)。撮像装置100は、撮像画像のグループ領域に対応する位置に、被写体が存在する位置を示す枠を重畳させたプレビュー画像を表示部302などに表示させてよい。撮像制御部110は、表示部302に表示された撮像画像上でユーザによりタッチされた合焦対象の撮像領域に対応するグループ領域の距離を特定する。撮像制御部110は、グループ領域の距離に基づいて、オートフォーカス動作を実行する(S208)。
本実施形態によれば、TOFセンサ160の受光面と、撮像装置100のイメージセンサ120の受光面との位置関係が、TOFセンサ160で測距される被写体までの距離によって変化することを考慮して、TOFセンサ160の受光面上の被写体の位置と撮像装置100のイメージセンサ120の受光面上の被写体の位置との位置関係を補正する。よって、TOFセンサ160の測距情報に基づいて検知された被写体の距離に基づいて、撮像装置100は、合焦制御を実行することで、所望の被写体に合焦させることができる。
例えば、撮像装置100が、白色の壁の前に立った白色の服を着用した人物を撮影する場合、撮像装置100が撮像画像からその人物を特定できない場合がある。このような場合でも、TOFセンサ160は、その人物の距離を測距できる。撮像装置100は、TOFセンサ160の複数の測距領域を、TOFセンサ160により測距された距離に基づいて同一の距離範囲の隣接する測距領域ごとにグループ領域として分類する。さらに撮像装置100は、グループ領域の距離に応じて、TOFセンサ160の受光面上の位置と、イメージセンサ120の受光面上の位置との位置関係を補正する。撮像装置100は、撮像画像上のそのグループ領域に対応する位置に、その人物が存在する位置を示す枠を重畳させた撮像画像を、プレビュー画像として表示部302に表示する。ユーザは、その枠をタッチする。撮像装置100は、タッチされた枠の位置に対応するグループ領域を、補正後の位置関係に基づいて特定する。撮像装置100は、TOFセンサ160により測距されたそのグループ領域の距離に基づいて、合焦制御を実行する。これにより、撮像装置100が撮像画像から被写体を特定できない場合でも、任意の距離に存在する所望の被写体に確実に合焦させることができる。
本実施形態では、イメージセンサ120の光軸とTOFセンサ160の光軸とは平行である例について説明した。しかし、イメージセンサ120の光軸とTOFセンサ160の光軸とは平行でなくてもよい。撮像装置100の画角は、TOFセンサ160の画角より小さくてもよい。
撮像システム10の他の形態を示す外界斜視図の一例である。図11に示すように、撮像システム10は、把持部300の脇に、スマートフォン400などのディスプレイを備えるモバイル端末を固定した状態で、使用されてよい。
上記のような撮像装置100は、移動体に搭載されてもよい。撮像装置100は、図12に示すような、無人航空機(UAV)に搭載されてもよい。UAV1000は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備えてよい。ジンバル50、及び撮像装置100は、撮像システムの一例である。UAV1000は、推進部により推進される移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV1000を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV1000を飛行させる。回転翼の数は、4つには限定されない。また、UAV1000は、回転翼を有さない固定翼機でもよい。
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
複数の撮像装置60は、UAV1000の飛行を制御するためにUAV1000の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV1000の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV1000の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV1000の周囲の3次元空間データが生成されてよい。UAV1000が備える撮像装置60の数は4つには限定されない。UAV1000は、少なくとも1つの撮像装置60を備えていればよい。UAV1000は、UAV1000の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置600は、UAV1000と通信して、UAV1000を遠隔操作する。遠隔操作装置600は、UAV1000と無線で通信してよい。遠隔操作装置600は、UAV1000に上昇、下降、加速、減速、前進、後進、回転等のUAV1000の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV1000の高度を上昇させる指示情報を含む。指示情報は、UAV1000が位置すべき高度を示してよい。UAV1000は、遠隔操作装置600から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV1000を上昇させる上昇命令を含んでよい。UAV1000は、上昇命令を受け付けている間、上昇する。UAV1000は、上昇命令を受け付けても、UAV1000の高度が上限高度に達している場合には、上昇を制限してよい。
図13は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR-ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 撮像システム
20 UAV本体
50 ジンバル
60 撮像装置
100 撮像装置
110 撮像制御部
120 イメージセンサ
130 メモリ
150 レンズ制御部
152 レンズ駆動部
154 レンズ
160 TOFセンサ
162 発光部
163 発光素子
164 受光部
165 受光素子
166 発光制御部
167 受光制御部
168 メモリ
200 支持機構
201 ロール軸駆動機構
202 ピッチ軸駆動機構
203 ヨー軸駆動機構
204 基部
210 姿勢制御部
212 角速度センサ
214 加速度センサ
300 把持部
301 操作インタフェース
302 表示部
400 スマートフォン
600 遠隔操作装置
1200 コンピュータ
1210 ホストコントローラ
1212 CPU
1214 RAM
1220 入力/出力コントローラ
1222 通信インタフェース
1230 ROM

Claims (15)

  1. 受光素子の受光面上の複数の測距領域のそれぞれに関連する被写体までの距離を測距するTOFセンサと、前記被写体を撮像するイメージセンサと、を備える撮像装置を制御する制御装置であって、
    前記TOFセンサにより測距された複数の前記距離に基づいて、予め定められた距離範囲に属する隣接する複数の測距領域をグループ領域として特定し、
    前記グループ領域に対応する撮像領域を含む少なくとも1つの枠を、被写体が存在する位置を示す枠として表示部に表示させるように構成される回路を備え
    前記表示部に表示された前記少なくとも1つの枠の中から前記表示部上で合焦対象の撮像領域として選択された枠が、前記撮像装置の合焦制御に用いられる、制御装置。
  2. 前記回路は、前記TOFセンサにより測距された複数の前記距離に基づいて、前記受光素子の前記受光面上の前記複数の測距領域と、前記イメージセンサの受光面上の複数の撮像領域との予め定められた位置関係を補正し、
    補正された前記位置関係に基づいて、合焦対象である前記枠内の第1撮像領域に対応する第1測距領域を特定し、
    前記TOFセンサにより測距された前記第1測距領域の前記距離に基づいて、前記撮像装置の合焦制御を実行するように構成される、請求項に記載の制御装置。
  3. 前記回路は、
    前記TOFセンサにより測距された前記複数の距離に基づいて、前記複数の測距領域を、予め定められた距離範囲に属する隣接する測距領域毎のグループ領域に分類し、
    前記グループ領域毎に前記位置関係を補正し、
    補正された前記位置関係に基づいて、前記第1撮像領域に対応するグループ領域を特定し、
    前記TOFセンサにより測距された前記複数の距離に基づく前記グループ領域の距離に基づいて、前記撮像装置の合焦制御を実行するように構成される、請求項に記載の制御装置。
  4. 前記回路は、
    前記グループ領域に含まれる複数の測距領域のうち基準位置に位置する測距領域の距離に基づいて、前記撮像装置の合焦制御を実行するように構成される、請求項に記載の制御装置。
  5. 前記回路は、前記撮像装置に撮像される画像の前記グループ領域に対応する位置に被写体の位置を示す前記枠を重畳させて前記表示部に表示させるように構成される、請求項1からの何れか1つに記載の制御装置。
  6. 前記回路は、
    補正された前記位置関係における前記複数の測距領域を、予め定められた距離範囲に属する隣接する測距領域毎のグループ領域に分類し、
    補正された前記位置関係に基づいて、前記第1撮像領域に対応するグループ領域を特定し、
    前記TOFセンサにより測距された前記複数の距離に基づく前記グループ領域の距離に基づいて、前記撮像装置の合焦制御を実行するように構成される、請求項に記載の制御装置。
  7. 前記回路は、
    前記グループ領域に含まれる複数の測距領域のうち基準位置に位置する測距領域の距離に基づいて、前記撮像装置の合焦制御を実行するように構成される、請求項に記載の制御装置。
  8. 前記回路は、前記撮像装置に撮像される画像の前記グループ領域に対応する位置に被写体の位置を示す前記枠を重畳させて前記表示部に表示させるように構成される、請求項に記載の制御装置。
  9. 前記予め定められた位置関係は、前記受光素子の前記受光面上の光軸中心の位置と、前記イメージセンサの前記受光面上の光軸中心の位置との位置関係に基づいて定められる、請求項に記載の制御装置。
  10. 前記予め定められた位置関係は、前記受光素子の前記受光面に関連する第1座標系と、前記イメージセンサの前記受光面に関連する第2座標系との対応関係を示す、請求項に記載の制御装置。
  11. 前記回路は、
    前記TOFセンサの画角、前記撮像装置の画角、及び被写体までの距離に対応する前記位置関係の補正量を示す予め定められた補正条件に基づいて、前記TOFセンサにより測距された複数の前記距離に応じた補正量を決定し、決定された前記補正量に基づいて前記位置関係を補正する、請求項に記載の制御装置。
  12. 請求項1から11の何れか1つに記載の制御装置と、
    前記TOFセンサと、
    前記イメージセンサと
    を備える撮像装置。
  13. 受光素子の受光面上の複数の測距領域のそれぞれに関連する被写体までの距離を測距するTOFセンサと、前記被写体を撮像するイメージセンサと、を備える撮像装置を制御する制御方法であって、
    前記TOFセンサにより測距された複数の前記距離に基づいて、予め定められた距離範囲に属する隣接する複数の測距領域をグループ領域として特定する段階と、
    前記グループ領域に対応する撮像領域を含む少なくとも1つの枠を、被写体が存在する位置を示す枠として表示部に表示させる段階と
    を備え
    前記表示部に表示された前記少なくとも1つの枠の中から前記表示部上で合焦対象の撮像領域として選択された枠が、前記撮像装置の合焦制御に用いられる、制御方法。
  14. 前記TOFセンサにより測距された複数の前記距離に基づいて、前記受光素子の前記受光面上の前記複数の測距領域と、前記イメージセンサの受光面上の複数の撮像領域との予め定められた位置関係を補正する段階と、
    補正された前記位置関係に基づいて、合焦対象である前記枠内の第1撮像領域に対応する第1測距領域を特定する段階と、
    前記TOFセンサにより測距された前記第1測距領域の前記距離に基づいて、前記撮像装置の合焦制御を実行する段階と
    をさらに備える請求項13に記載の制御方法。
  15. 請求項1から11の何れか1つの制御装置としてコンピュータを機能させるためのプログラム。
JP2019171306A 2019-09-20 2019-09-20 制御装置、撮像装置、制御方法、及びプログラム Active JP7173657B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019171306A JP7173657B2 (ja) 2019-09-20 2019-09-20 制御装置、撮像装置、制御方法、及びプログラム
CN202080003318.9A CN112313941A (zh) 2019-09-20 2020-09-08 控制装置、摄像装置、控制方法以及程序
PCT/CN2020/113963 WO2021052216A1 (zh) 2019-09-20 2020-09-08 控制装置、摄像装置、控制方法以及程序
US17/683,163 US20220188993A1 (en) 2019-09-20 2022-02-28 Control apparatus, photographing apparatus, control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019171306A JP7173657B2 (ja) 2019-09-20 2019-09-20 制御装置、撮像装置、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2021047367A JP2021047367A (ja) 2021-03-25
JP7173657B2 true JP7173657B2 (ja) 2022-11-16

Family

ID=74876295

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019171306A Active JP7173657B2 (ja) 2019-09-20 2019-09-20 制御装置、撮像装置、制御方法、及びプログラム

Country Status (2)

Country Link
JP (1) JP7173657B2 (ja)
WO (1) WO2021052216A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005300925A (ja) 2004-04-12 2005-10-27 Konica Minolta Photo Imaging Inc 撮像装置
JP2006317959A (ja) 2006-06-01 2006-11-24 Sharp Corp 合焦エリア調節カメラ付携帯端末
WO2016088186A1 (ja) 2014-12-02 2016-06-09 オリンパス株式会社 フォーカス制御装置、内視鏡装置及びフォーカス制御装置の制御方法
JP2017173802A (ja) 2016-03-16 2017-09-28 リコーイメージング株式会社 撮影装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004361431A (ja) * 2003-05-30 2004-12-24 Minolta Co Ltd 撮像装置
JP5272551B2 (ja) * 2008-07-15 2013-08-28 株式会社リコー 撮像装置及び方法
JP5444651B2 (ja) * 2008-07-16 2014-03-19 カシオ計算機株式会社 カメラ装置、その撮影方法と撮影制御プログラム
JP5495683B2 (ja) * 2009-09-10 2014-05-21 キヤノン株式会社 撮像装置および測距方法
US8648702B2 (en) * 2010-08-20 2014-02-11 Denso International America, Inc. Combined time-of-flight and image sensor systems
US20180352167A1 (en) * 2016-02-19 2018-12-06 Sony Corporation Image pickup apparatus, image pickup control method, and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005300925A (ja) 2004-04-12 2005-10-27 Konica Minolta Photo Imaging Inc 撮像装置
JP2006317959A (ja) 2006-06-01 2006-11-24 Sharp Corp 合焦エリア調節カメラ付携帯端末
WO2016088186A1 (ja) 2014-12-02 2016-06-09 オリンパス株式会社 フォーカス制御装置、内視鏡装置及びフォーカス制御装置の制御方法
JP2017173802A (ja) 2016-03-16 2017-09-28 リコーイメージング株式会社 撮影装置

Also Published As

Publication number Publication date
JP2021047367A (ja) 2021-03-25
WO2021052216A1 (zh) 2021-03-25

Similar Documents

Publication Publication Date Title
JP2019110462A (ja) 制御装置、システム、制御方法、及びプログラム
JP6630939B2 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
CN112335227A (zh) 控制装置、摄像***、控制方法以及程序
US20220188993A1 (en) Control apparatus, photographing apparatus, control method, and program
JP2021085893A (ja) 制御装置、撮像装置、制御方法、及びプログラム
JP6768997B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
CN112292712A (zh) 装置、摄像装置、移动体、方法以及程序
JP7173657B2 (ja) 制御装置、撮像装置、制御方法、及びプログラム
WO2021031833A1 (zh) 控制装置、摄像***、控制方法以及程序
JP6543875B2 (ja) 制御装置、撮像装置、飛行体、制御方法、プログラム
US11265456B2 (en) Control device, photographing device, mobile object, control method, and program for image acquisition
JP2019220834A (ja) 無人航空機、制御方法、及びプログラム
JP6972456B1 (ja) 測距センサ、撮像装置、制御方法、及びプログラム
JP6805448B2 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
WO2021031840A1 (zh) 装置、摄像装置、移动体、方法以及程序
JP7043707B2 (ja) シーン認識装置、撮像装置、シーン認識方法、及びプログラム
JP7043706B2 (ja) 制御装置、撮像システム、制御方法、及びプログラム
US20220070362A1 (en) Control apparatuses, photographing apparatuses, movable objects, control methods, and programs
JP6961889B1 (ja) 制御装置、撮像装置、制御方法、及びプログラム
WO2021249245A1 (zh) 装置、摄像装置、摄像***及移动体
JP6746857B2 (ja) 画像処理装置、撮像装置、無人航空機、画像処理方法、及びプログラム
JP6743337B1 (ja) 制御装置、撮像装置、撮像システム、制御方法、及びプログラム
JP6459012B1 (ja) 制御装置、撮像装置、飛行体、制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201022

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210720

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211130

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211130

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211207

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211214

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20220107

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20220118

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20220726

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20220830

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20221004

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221028

R150 Certificate of patent or registration of utility model

Ref document number: 7173657

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150