JP2020181028A - 制御装置、撮像装置、移動体、制御方法、及びプログラム - Google Patents

制御装置、撮像装置、移動体、制御方法、及びプログラム Download PDF

Info

Publication number
JP2020181028A
JP2020181028A JP2019082336A JP2019082336A JP2020181028A JP 2020181028 A JP2020181028 A JP 2020181028A JP 2019082336 A JP2019082336 A JP 2019082336A JP 2019082336 A JP2019082336 A JP 2019082336A JP 2020181028 A JP2020181028 A JP 2020181028A
Authority
JP
Japan
Prior art keywords
distance
image pickup
optical axis
lens
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019082336A
Other languages
English (en)
Other versions
JP6768997B1 (ja
Inventor
本庄　謙一
Kenichi Honjo
謙一 本庄
佳範 永山
Yoshinori Nagayama
佳範 永山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Priority to JP2019082336A priority Critical patent/JP6768997B1/ja
Priority to CN202080002854.7A priority patent/CN112154371A/zh
Priority to PCT/CN2020/083101 priority patent/WO2020216037A1/zh
Application granted granted Critical
Publication of JP6768997B1 publication Critical patent/JP6768997B1/ja
Publication of JP2020181028A publication Critical patent/JP2020181028A/ja
Priority to US17/506,426 priority patent/US20220046177A1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/67—Focus control based on electronic image sensor signals
    • H04N23/671—Focus control based on electronic image sensor signals in combination with active ranging signals, e.g. using light or sound signals emitted toward objects
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06—Systems determining position data of a target
    • G01S17/08—Systems determining position data of a target for measuring distance only
    • G01S17/10—Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28—Systems for automatic generation of focusing signals
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28—Systems for automatic generation of focusing signals
    • G02B7/30—Systems for automatic generation of focusing signals using parallactic triangle with a base line
    • G02B7/32—Systems for automatic generation of focusing signals using parallactic triangle with a base line using active means, e.g. light emitter
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28—Systems for automatic generation of focusing signals
    • G02B7/36—Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18—Focusing aids
    • G03B13/20—Rangefinders coupled with focusing arrangements, e.g. adjustment of rangefinder automatically focusing camera
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32—Means for focusing
    • G03B13/34—Power focusing
    • G03B13/36—Autofocus systems
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00—Special procedures for taking photographs; Apparatus therefor
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/67—Focus control based on electronic image sensor signals
    • H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Electromagnetism (AREA)
  • Optics & Photonics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】測距センサにより測距される複数の領域におけるそれぞれの距離の中で、撮像装置のレンズ光軸を通る被写体に対応する距離は、被写体までの距離によって異なる。【解決手段】制御装置は、第１イメージセンサを用いて複数の領域のそれぞれに関連する被写体までの距離を測距する測距センサを備える撮像装置を制御する制御装置でよい。制御装置は、測距センサによって測距された複数の距離、撮像装置のレンズ光軸と測距センサのレンズ光軸との第１距離、及び測距センサの画角に基づいて、複数の距離の中から、撮像装置のレンズ光軸を通る被写体までの距離を特定するように構成される回路を備えてよい。【選択図】図４

Description

本発明は、制御装置、撮像装置、移動体、制御方法、及びプログラムに関する。
各距離補正ＴＯＦ画素と、各距離補正ＴＯＦ画素に対応する各撮像画素との比較結果に基づいて、各撮像画素との明度差が閾値以上である各距離画素補正ＴＯＦ画素について距離補正ＴＯＦ画素に対応する各距離画素を誤差画素として検出することが記載されている。
［先行技術文献］
［特許文献］
［特許文献１］ 特開２０１４−７０９３６号公報
イメージセンサを用いて複数の領域における被写体までの距離を測距する測距センサを備える撮像装置において、測距センサのレンズ光軸と、撮像装置のレンズ光軸とは物理的にずれている。したがって、測距センサにより測距される複数の領域におけるそれぞれの距離の中で、撮像装置のレンズ光軸を通る被写体に対応する距離は、被写体までの距離によって異なる。
本発明の一態様に係る制御装置は、第１イメージセンサを用いて複数の領域のそれぞれに関連する被写体までの距離を測距する測距センサを備える撮像装置を制御する制御装置でよい。制御装置は、測距センサによって測距された複数の距離、撮像装置のレンズ光軸と測距センサのレンズ光軸との第１距離、及び測距センサの画角に基づいて、複数の距離の中から、撮像装置のレンズ光軸を通る被写体までの距離を特定するように構成される回路を備えてよい。
回路は、複数の距離のそれぞれ、第１距離、及び画角に基づいて、複数の距離のそれぞれにおける測距センサの測距範囲の、撮像装置のレンズ光軸から測距センサのレンズ光軸に向かう方向の幅を特定し、それぞれの幅と第１距離との比に基づいて、複数の距離の中から、撮像装置のレンズ光軸を通る被写体までの距離を特定するように構成されてよい。
回路は、特定された距離に基づいて、撮像装置の合焦制御を実行するようにさらに構成されてよい。
回路は、複数の距離の中から、撮像装置のレンズ光軸を通る被写体までの距離を特定できない場合、撮像装置により撮像される画像のコントラスト評価値に基づいて撮像装置の合焦制御を実行するように構成されてよい。
回路は、第１距離に基づいて撮像装置のフォーカスレンズの第１目標位置を特定し、フォーカスレンズを第１目標位置に基づいて移動させる間に撮像装置により撮像される少なくとも２つの画像のぼけ量に基づいてフォーカスレンズの第２目標位置を特定し、フォーカスレンズを第２目標位置まで移動させることで合焦制御を実行するように構成されてよい。
本発明の一態様に係る撮像装置は、上記制御装置と、測距センサと、被写体を撮像する第２イメージセンサとを備えてよい。
本発明の一態様に係る移動体は、上記撮像装置を搭載して移動する移動体でよい。
本発明の一態様に係る制御方法は、第１イメージセンサを用いて複数の領域のそれぞれに関連する被写体までの距離を測距する測距センサを備える撮像装置を制御する制御方法でよい。制御方法は、測距センサによって測距された複数の距離、撮像装置のレンズ光軸と測距センサのレンズ光軸との第１距離、及び測距センサの画角に基づいて、複数の距離の中から、撮像装置のレンズ光軸を通る被写体までの距離を特定する段階を備えてよい。
本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。
本発明の一態様によれば、第１イメージセンサを用いて複数の領域のそれぞれの被写体までの距離を測距する測距センサにより、精度よく所望の被写体までの距離を測距できる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
撮像システムの外観斜視図である。 撮像システムの機能ブロックを示す図である。 撮像装置のレンズ光軸とＴＯＦセンサのレンズ光軸との位置関係の一例を示す図である。 撮像制御部の合焦制御の手順の一例を示すフローチャートである。 ぼけ量とレンズ位置との関係を示す曲線の一例を示す図である。 ぼけ量に基づいてオブジェクトまでの距離を算出する手順の一例を示す図である。 オブジェクトの位置、レンズの位置、及び焦点距離との関係について説明するための図である。 フォーカスレンズの移動方向について説明するための図である。 フォーカスレンズの移動方向について説明するための図である。 撮像制御部の合焦制御の手順の他の一例を示すフローチャートである。 撮像システムの他の形態を示す外観斜視図である。 無人航空機及び遠隔操作装置の外観の一例を示す図である。 ハードウェア構成の一例を示す図である。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等の様なメモリ要素等を含んでよい。
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
図１は、本実施形態に係る撮像システム１０の外観斜視図の一例である。撮像システム１０は、撮像装置１００、支持機構２００、及び把持部３００を備える。支持機構２００は、撮像装置１００を、アクチュエータを用いてロール軸、ピッチ軸、ヨー軸のそれぞれを中心に回転可能に支持する。支持機構２００は、ロール軸、ピッチ軸、及びヨー軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更、または維持してよい。支持機構２００は、ロール軸駆動機構２０１、ピッチ軸駆動機構２０２、及びヨー軸駆動機構２０３を備える。支持機構２００は、ヨー軸駆動機構２０３が固定される基部２０４をさらに備える。把持部３００は、基部２０４に固定される。把持部３００は、操作インタフェース３０１、及び表示部３０２を備える。撮像装置１００は、ピッチ軸駆動機構２０２に固定される。
操作インタフェース３０１は、撮像装置１００及び支持機構２００を操作するための命令をユーザから受け付ける。操作インタフェース３０１は、撮像装置１００による撮影または録画を指示するシャッター／録画ボタンを含んでよい。操作インタフェース３０１は、撮像システム１０の電源をオンまたはオフ、及び撮像装置１００の静止画撮影モードまたは動画撮影モードの切り替えを指示する電源／ファンクションボタンを含んでよい。
表示部３０２は、撮像装置１００により撮像される画像を表示してよい。表示部３０２は、撮像装置１００及び支持機構２００を操作するためのメニュー画面を表示してよい。表示部３０２は、撮像装置１００及び支持機構２００を操作するための命令を受け付けるタッチパネルディスプレイでよい。
ユーザは、把持部３００を把持して撮像装置１００により静止画または動画を撮影する。
図２は、撮像システム１０の機能ブロックを示す図である。撮像装置１００は、撮像制御部１１０、イメージセンサ１２０、メモリ１３０、レンズ制御部１５０、レンズ駆動部１５２、複数のレンズ１５４、及びＴＯＦセンサ１６０を備える。
イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、撮像用の第２イメージセンサの一例である。イメージセンサ１２０は、複数のレンズ１５４を介して結像された光学像の画像データを撮像制御部１１０に出力する。撮像制御部１１０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。
撮像制御部１１０は、把持部３００からの撮像装置１００の動作命令に応じて、撮像制御部１１０は、イメージセンサ１２０から出力された画像信号にデモザイク処理を施すことで画像データを生成する。撮像制御部１１０は、画像データをメモリ１３０に格納する。撮像制御部１１０は、ＴＯＦセンサ１６０を制御する。撮像制御部１１０は、回路の一例である。ＴＯＦセンサ１６０は、対象物までの距離を測距する飛行時間型センサである。撮像装置１００は、ＴＯＦセンサ１６０により測距された距離に基づいて、フォーカスレンズの位置を調整することで、合焦制御を実行する。
メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０等を制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。把持部３００は、撮像装置１００により撮像された画像データを保存するための他のメモリを備えてよい。把持部３００は、把持部３００の筐体からメモリを取り外し可能なスロットを有してよい。
複数のレンズ１５４は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ１５４の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ制御部１５０は、撮像制御部１１０からのレンズ制御命令に従って、レンズ駆動部１５２を駆動して、１または複数のレンズ１５４を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。レンズ駆動部１５２は、複数のレンズ１５４の少なくとも一部または全部を光軸方向に移動させるボイスコイルモータ（ＶＣＭ）を含んでよい。レンズ駆動部１５２は、ＤＣモータ、コアレスモータ、または超音波モータ等の電動機を含んでよい。レンズ駆動部１５２は、電動機からの動力をカム環、ガイド軸等の機構部材を介して複数のレンズ１５４の少なくとも一部または全部に伝達して、複数のレンズ１５４の少なくとも一部または全部を光軸に沿って移動させてよい。
撮像装置１００は、姿勢制御部２１０、角速度センサ２１２、及び加速度センサ２１４をさらに備える。角速度センサ２１２は、撮像装置１００の角速度を検出する。角速度センサ２１２は、撮像装置１００のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を検出する。姿勢制御部２１０は、角速度センサ２１２から撮像装置１００の角速度に関する角速度情報を取得する。角速度情報は、撮像装置１００のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を示してよい。姿勢制御部２１０は、加速度センサ２１４から撮像装置１００の加速度に関する加速度情報を取得する。加速度情報は、撮像装置１００のロール軸、ピッチ軸、及びヨー軸のそれぞれの方向の加速度を示してもよい。
角速度センサ２１２、及び加速度センサ２１４は、イメージセンサ１２０及びレンズ１５４等を収容する筐体内に設けられてよい。本実施形態では、撮像装置１００と支持機構２００とが一体的に構成される形態について説明する。しかし、支持機構２００が、撮像装置１００を着脱可能に固定する台座を備えてよい。この場合、角速度センサ２１２、及び加速度センサ２１４は台座等、撮像装置１００の筐体の外に設けられてよい。
姿勢制御部２１０は、角速度情報及び加速度情報に基づいて、撮像装置１００の姿勢を維持または変更すべく、支持機構２００を制御する。姿勢制御部２１０は、撮像装置１００の姿勢を制御するための支持機構２００の動作モードに従って、撮像装置１００の姿勢を維持または変更すべく、支持機構２００を制御する。
動作モードは、支持機構２００の基部２０４の姿勢の変化に撮像装置１００の姿勢の変化を追従させるように支持機構２００のロール軸駆動機構２０１、ピッチ軸駆動機構２０２、及びヨー軸駆動機構２０３の少なくとも１つを動作させるモードを含む。動作モードは、支持機構２００の基部２０４の姿勢の変化に撮像装置１００の姿勢の変化を追従させるように支持機構２００のロール軸駆動機構２０１、ピッチ軸駆動機構２０２、及びヨー軸駆動機構２０３のそれぞれを動作させるモードを含む。動作モードは、支持機構２００の基部２０４の姿勢の変化に撮像装置１００の姿勢の変化を追従させるように支持機構２００のピッチ軸駆動機構２０２、及びヨー軸駆動機構２０３のそれぞれを動作させるモードを含む。動作モードは、支持機構２００の基部２０４の姿勢の変化に撮像装置１００の姿勢の変化を追従させるようにヨー軸駆動機構２０３のみを動作させるモードを含む。
動作モードは、支持機構２００の基部２０４の姿勢の変化に撮像装置１００の姿勢の変化を追従させるように支持機構２００を動作させるＦＰＶ（Ｆｉｒｓｔ Ｐｅｒｓｏｎ Ｖｉｅｗ）モードと、撮像装置１００の姿勢を維持するように支持機構２００を動作させる固定モードとを含んでよい。
ＦＰＶモードは、支持機構２００の基部２０４の姿勢の変化に撮像装置１００の姿勢の変化を追従させるように、ロール軸駆動機構２０１、ピッチ軸駆動機構２０２、及びヨー軸駆動機構２０３の少なくとも１つを動作させるモードである。固定モードは、撮像装置１００の現在の姿勢を維持するように、ロール軸駆動機構２０１、ピッチ軸駆動機構２０２、及びヨー軸駆動機構２０３の少なくとも１つを動作させるモードである。
ＴＯＦセンサ１６０は、発光部１６２、受光部１６４、発光制御部１６６、受光制御部１６７、及びメモリ１６８を備える。ＴＯＦセンサ１６０は、測距センサの一例である。
発光部１６２は、少なくとも１つの発光素子１６３を含む。発光素子１６３は、ＬＥＤまたはレーザ等の高速変調されたパルス光を繰り返し出射するデバイスである。発光素子１６３は、赤外光であるパルス光を出射してよい。発光制御部１６６は、発光素子１６３の発光を制御する。発光制御部１６６は、発光素子１６３から出射されるパルス光のパルス幅を制御してよい。
受光部１６４は、複数の領域のそれぞれに関連する被写体までの距離を測距する複数の受光素子１６５を含む。受光部１６４は、測距用の第１イメージセンサの一例である。複数の受光素子１６５は、複数の領域のそれぞれに対応する。受光素子１６５は、対象物からのパルス光の反射光を繰り返し受光する。受光制御部１６７は、受光素子１６５の受光を制御する。受光制御部１６７は、予め定められた受光期間に受光素子１６５が繰り返し受光する反射光の量に基づいて、複数の領域のそれぞれに関連する被写体までの距離を測距する。受光制御部１６７は、予め定められた受光期間に受光素子１６５が繰り返し受光する反射光の量に基づいて、パルス光と反射光との間の位相差を特定することで、被写体までの距離を測距してよい。
メモリ１６８は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、及びＥＥＰＲＯＭの少なくとも１つを含んでよい。メモリ１６８は、発光制御部１６６が発光部１６２を制御するために必要なプログラム、及び受光制御部１６７が受光部１６４を制御するのに必要なプログラム等を格納する。
このように構成された撮像システム１０において、撮像装置１００のレンズ光軸とＴＯＦセンサ１６０のレンズ光軸とは物理的にずれている。例えば、図３に示すように、撮像装置１００のレンズ光軸１０１と、ＴＯＦセンサ１６０のレンズ光軸１６１とは、平行であるが、レンズ光軸１０１とレンズ光軸１６１とは距離ｈだけ離れている。レンズ光軸１０１は、撮像装置１００のイメージセンサ１２０の受光面に光を結像させるレンズ１５４を含むレンズ系の光軸である。レンズ光軸１６１は、ＴＯＦセンサ１６０の受光部１６４であるイメージセンサの受光面に光を結像させるレンズ系の光軸である。撮像装置１００の画角は、θであり、ＴＯＦセンサ１６０の画角は、φである。
このように２つの光軸がずれているので、ＴＯＦセンサ１６０が測距する測距範囲に存在する被写体までの距離が異なると、ＴＯＦセンサ１６０の複数の受光素子１６５のうち被写体までの距離を測距する受光素子１６５が異なる。
図３では、説明を簡略化するために、ＴＯＦセンサ１６０の測距範囲１６０１を４×４の受光素子１６５で示している。例えば、被写体までの距離がＸ１の場合、測距範囲１６０１内の上から３列目に対応する受光素子１６５が、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を測距する。一方、被写体までの距離がＸ２の場合、測距範囲１６０１内の上から４列目に対応する受光素子１６５が、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を測距する。つまり、レンズ光軸１０１を通る被写体までの距離が異なると、その被写体の距離を測距する受光素子１６５は異なる。
そこで、撮像制御部１１０は、ＴＯＦセンサ１６０によって測距された複数の距離Ｘｎ、撮像装置１００のレンズ光軸１０１とＴＯＦセンサ１６０のレンズ光軸１６１との距離ｈ、及びＴＯＦセンサ１６０の画角φに基づいて、複数の距離Ｘｎの中から、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定する。撮像装置１００は、複数の距離Ｘｎのそれぞれ、距離ｈ、及び画角φに基づいて、複数の距離ＸｎのそれぞれにおけるＴＯＦセンサ１６０の測距範囲１６０１の、撮像装置１００のレンズ光軸１０１からＴＯＦセンサ１６０のレンズ光軸１６１に向かう方向の幅Ｈｎを特定してよい。さらに、撮像制御部１１０は、それぞれの幅Ｈｎと距離ｈとの比ｈ／Ｈｎに基づいて、複数の距離Ｘｎの中から、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定してよい。
ここで、Ｈｎは、Ｈｎ＝２×Ｘｎ×ｔａｎ（φ／２）を満たす。例えば、ＴＯＦセンサ１６０が、４×４の受光素子１６５を有する。この場合、０＜ｈ／Ｈｎ＜１／４を満たす場合、測距範囲１６０１内の上から３列目に対応する受光素子１６５が、撮像装置１００のレンズ光軸１０１を通る被写体までの距離Ｘ１を測距する。一方、１／４＜ｈ／Ｈｎ＜１／２を満たす場合、測距範囲１６０１内の上から４列目に対応する受光素子１６５が、撮像装置１００のレンズ光軸１０１を通る被写体までの距離Ｘ２を測距する。
このように、撮像制御部１１０は、ＴＯＦセンサ１６０によって測距された複数の距離Ｘｎ、距離ｈ、及び画角φに基づいて、複数の距離Ｘｎの中から、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定する。さらに、撮像制御部１１０は、特定された距離に基づいて、撮像装置１００の合焦制御を実行する。
ここで、被写体までの距離が短すぎると、ＴＯＦセンサ１６０の画角によっては、ＴＯＦセンサ１６０によって測距された複数の距離Ｘｎのいずれも、撮像装置１００のレンズ光軸１０１を通る被写体までの距離に該当しない場合がある。この場合、ＴＯＦセンサ１６０により被写体までの距離を測距できない。そこで、撮像制御部１１０は、複数の距離Ｘｎの中から、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定できない場合、画像のコントラスト評価値に基づいて撮像装置１００の合焦制御を実行してよい。すなわち、撮像制御部１１０は、複数の距離Ｘｎの中から、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定できない場合、コントラスオートフォーカスを実行してよい。
図４は、撮像制御部１１０の合焦制御の手順の一例を示すフローチャートである。
撮像制御部１１０は、複数の領域（受光素子１６５）のそれぞれにおける被写体までの距離をＴＯＦセンサ１６０に測距させる（Ｓ１００）。撮像制御部１１０は、測距された複数の距離Ｘｎのそれぞれに対応するＴＯＦセンサ１６０の測距範囲の幅Ｈｎを、Ｈｎ＝２×Ｘｎ×ｔａｎ（φ／２）に従って算出する（Ｓ１０２）。撮像制御部１１０は、幅Ｈｎ及びレンズ光軸１０１とレンズ光軸１６１との間の距離ｈに基づいて、複数の距離Ｘｎの中から撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定できるか判定する（Ｓ１０４）。
撮像制御部１１０は、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定できた場合、撮像制御部１１０は、特定された距離に基づいて、その被写体に合焦させるためのフォーカスレンズの目標位置を特定する（Ｓ１０６）。撮像制御部１１０は、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定できなかった場合、コントラストＡＦを実行して、画像のコントラスト評価値に基づいて、その被写体に合焦させるためのフォーカスレンズの目標位置を特定する（Ｓ１０８）。
次いで、撮像制御部１１０は、特定された目標位置に向けてフォーカスレンズを移動させる（Ｓ１１０）。
以上の通り、本実施形態によれば、ＴＯＦセンサ１６０の測距対象の複数の領域のうち、撮像装置１００のレンズ光軸１０１を通る被写体の距離を測距する領域を正確に特定できる。したがって、被写体までの距離を精度よく測距でき、ＴＯＦセンサ１６０による測距結果に基づく合焦制御の精度を向上させることができる。
ところで、撮像装置１００による合焦制御の方式として、被写体距離を決定するための方式として、フォーカスレンズを移動させながら、フォーカスレンズとイメージセンサ１２０の受光面との位置関係が異なる状態で撮像された複数の画像のぼけ量に基づいて決定する方式がある。ここで、この方式を、ぼけ検出オートフォーカス（Ｂｏｋｅｈ Ｄｅｔｅｃｔｉｏｎ Ａｕｔｏ Ｆｏｕｃｕｓ：ＢＤＡＦ）方式と称する。
例えば、画像のぼけ量（Ｃｏｓｔ）は、ガウシアン関数を用いて次式（１）で表すことができる。式（１）において、ｘは、水平方向における画素位置を示す。σは、標準偏差値を示す。
図５は、式（１）に表される曲線の一例を示す。曲線５００の極小点５０２に対応するレンズ位置にフォーカスレンズを合わせることで、画像Ｉに含まれるオブジェクトに焦点を合わせることができる。
図６は、ＢＤＡＦ方式の距離算出手順の一例を示すフローチャートである。まず、撮像装置１００で、レンズと撮像面とが第１位置関係にある状態で、１枚目の画像Ｉ１を撮像してメモリ１３０に格納する。次いで、フォーカスレンズまたはイメージセンサ１２０の撮像面を光軸方向に移動させることで、レンズと撮像面とが第２位置関係にある状態にして、撮像制御部１１０は、撮像装置１００で２枚目の画像Ｉ２を撮像してメモリ１３０に格納する（Ｓ２０１）。例えば、いわゆる山登りＡＦのように、合焦点を超えないようにフォーカスレンズまたはイメージセンサ１２０の撮像面を光軸方向に移動させる。フォーカスレンズまたはイメージセンサ１２０の撮像面の移動量は、例えば、１０μｍでよい。
次いで、撮像制御部１１０は、画像Ｉ１を複数の領域に分割する（Ｓ２０２）。撮像制御部１１０は、画像Ｉ２内の画素ごとに特徴量を算出して、類似する特徴量を有する画素群を一つの領域として画像Ｉ１を複数の領域に分割してよい。撮像制御部１１０は、画像Ｉ１のうちＡＦ処理枠に設定されている範囲の画素群を複数の領域に分割してもよい。撮像制御部１１０は、画像Ｉ１の複数の領域に対応する複数の領域に画像Ｉ２を分割する。撮像制御部１１０は、画像Ｉ１の複数の領域のそれぞれのぼけ量と、画像Ｉ２の複数の領域のそれぞれのぼけ量とに基づいて、複数の領域ごとに複数の領域のそれぞれに含まれるオブジェクトまでの距離を算出する（Ｓ２０３）。
図７を参照して距離の算出手順についてさらに説明する。レンズＬ（主点）から被写体５１０（物面）までの距離をＡ、レンズＬ（主点）から被写体５１０が撮像面で結像する位置（像面）までの距離をＢ、焦点距離をＦとする。この場合、距離Ａ、距離Ｂ、及び焦点距離Ｆの関係は、レンズの公式から次式（２）で表すことができる。
焦点距離Ｆはレンズ位置で特定される。したがって、被写体５１０が撮像面で結像する距離Ｂが特定できれば、式（２）を用いて、レンズＬから被写体５１０までの距離Ａを特定することができる。
図７に示すように、撮像面上に投影された被写体５１０のぼけの大きさ（錯乱円５１２及び５１４）から被写体５１０が結像する位置を算出することで、距離Ｂを特定し、さらに距離Ａを特定することができる。つまり、ぼけの大きさ（ぼけ量）が撮像面と結像位置とに比例することを考慮して、結像位置を特定できる。
ここで、撮像面から近い像Ｉ１からレンズＬまでの距離をＤ１とする。像面から遠い像Ｉ２からレンズＬまでの距離をＤ２とする。それぞれの画像はぼけている。このときの点像分布関数（Ｐｏｉｎｔ Ｓｐｒｅａｄ Ｆｕｎｃｔｉｏｎ）をＰＳＦ、Ｄ１及びＤ２における画像をそれぞれ、Ｉｄ１及びＩｄ２とする。この場合、例えば、像Ｉ１は、畳み込み演算により次式（３）で表すことができる。
さらに、画像データＩｄ１及びＩｄ２のフーリエ変換関数をｆとして、画像Ｉｄ１及びＩｄ２の点像分布関数ＰＳＦ１及びＰＳＦ２をフーリエ変換した光学伝達関数（Ｏｐｔｉｃａｌ Ｔｒａｎｓｆｅｒ Ｆｕｎｃｔｉｏｎ）をＯＴＦ１及びＯＴＦ２として、次式（４）のように比をとる。
式（４）に示す値Ｃは、画像Ｉｄ１及びＩｄ２のそれぞれのぼけ量の変化量、つまり、値Ｃは、画像Ｉｄ１のぼけ量と画像Ｉｄ２ｎのぼけ量との差に相当する。
ここで、上記のように特定された距離であっても、ＴＯＦセンサ１６０により測距された被写体までの距離に誤差が生じる可能性がある。そこで、撮像制御部１１０は、ＴＯＦセンサ１６０の測距に基づく合焦制御と、ＢＤＡＦ方式での合焦制御とを組み合わせてもよい。
撮像制御部１１０は、複数の距離Ｘｎの中から、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定し、その距離に基づいて、撮像装置１００のフォーカスレンズの第１目標位置を特定してよい。さらに、撮像制御部１１０は、フォーカスレンズを第１目標位置に基づいて移動させる間に撮像装置１００により撮像される少なくとも２つの画像のぼけ量に基づいてフォーカスレンズの第２目標位置を特定してよい。すなわち、撮像制御部１１０は、第１目標位置に向けてフォーカスレンズを移動させている間に、ＢＤＡＦを実行して、被写体に合焦させるフォーカスレンズの目標位置をさらに精度よく特定してよい。そして、撮像制御部１１０は、フォーカスレンズを第２目標位置まで移動させることで合焦制御を実行してよい。
ここで、撮像制御部１１０が、ＢＤＡＦ方式の合焦制御を行う場合には、ぼけの大きさが異なる少なくとも２つの画像が必要である。しかし、フォーカスレンズの移動量が小さいと、２つの画像のぼけの大きさの違いが小さすぎ、撮像制御部１１０が精度よく目標位置を特定できない可能性がある。
そこで、撮像制御部１１０は、複数の距離Ｘｎの中から、撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定し、その距離に基づいて、撮像装置１００のフォーカスレンズの第１目標位置を特定する。その後、撮像制御部１１０は、フォーカスレンズの現在の位置からフォーカスレンズを第１目標位置まで移動させるのに必要なフォーカスレンズの移動量を特定する。撮像制御部１１０は、その移動量が、ＢＤＡＦを実行できる予め定められた閾値以上であるか否かを判定する。
移動量が閾値以上あれば、撮像制御部１１０は、フォーカスレンズを第１目標位置に向けて移動を開始させる。一方、移動量が閾値より小さい場合、撮像制御部１１０は、フォーカスレンズの移動量が閾値以上になるようにフォーカスレンズを第１目標位置から遠ざける方向に一旦移動させた後、フォーカスレンズを第１目標位置に向けて逆方向に移動させる。これにより、撮像制御部１１０は、フォーカスレンズを第１目標位置に移動させている間に、ＢＤＡＦを実行して、より精度よく合焦制御を実行できる。
撮像制御部１１０は、図８Ａに示すように、フォーカスレンズの移動量が閾値以上になるように、一旦、第１目標位置に向かう方向と逆方向８０１にフォーカスレンズを移動させた後、第１目標位置に向かう方向８０２にフォーカスレンズを移動させてよい。もしくは、撮像制御部１１０は、図８Ｂに示すように、第１目標位置に向かう方向８０３に移動を開始して、フォーカスレンズの移動量が閾値以上になるように、第１目標位置を超えてフォーカスレンズを一旦移動させた後、改めて第１目標位置に向かうように逆方向８０４にフォーカスレンズを移動させてもよい。
図９は、撮像制御部１１０の合焦制御の手順の他の一例を示すフローチャートである。
撮像制御部１１０は、複数の領域（受光素子１６５）のそれぞれにおける被写体までの距離をＴＯＦセンサ１６０に測距させる（Ｓ３００）。撮像制御部１１０は、測距された複数の距離Ｘｎのそれぞれに対応するＴＯＦセンサ１６０の測距範囲の幅Ｈｎを、Ｈｎ＝２×Ｘｎ×ｔａｎ（φ／２）に従って算出する（Ｓ３０２）。撮像制御部１１０は、幅Ｈｎ及びレンズ光軸１０１とレンズ光軸１６１との間の距離ｈに基づいて、複数の距離Ｘｎの中から撮像装置１００のレンズ光軸１０１を通る被写体までの距離を特定する（Ｓ３０４）。
撮像制御部１１０は、特定された距離に基づいて、その被写体に合焦させるためのフォーカスレンズの第１目標位置を特定する（Ｓ３０６）。次いで、撮像制御部１１０は、特定された第１目標位置に向けてフォーカスレンズを移動させる（Ｓ３０８）。
撮像制御部１１０は、フォーカスレンズを第１目標位置に向けて移動させている間に、撮像装置１００により撮像された第１画像を取得する（Ｓ３１０）。さらに、撮像制御部１１０は、予め定められた距離だけフォーカスレンズを移動させた後、撮像装置１００により撮像された第２画像をさらに取得する（Ｓ３１２）。撮像制御部１１０は、第１画像及び第２画像のぼけ量に基づいてＢＤＡＦ方式でフォーカスレンズの第２目標位置を導出する（Ｓ３１４）。撮像制御部１１０は、第１目標位置から第２目標位置にフォーカスレンズの目標位置に修正して、フォーカスレンズを目標位置まで移動させる（Ｓ３１６）。
以上の通り、本実施形態によれば、ＴＯＦセンサ１６０により測距された距離に誤差が含まれる場合でも、ＢＤＡＦを実行することで、フォーカスレンズの目標位置を修正できるので、精度よく所望の被写体に合焦させることができる。また、ＴＯＦセンサ１６０により測距された距離に基づく目標位置に基づいて、撮像制御部１１０は、フォーカスレンズの移動を開始させる方向を正確に判断できる。すなわち、撮像制御部１１０が、フォーカスレンズを逆方向に無駄に移動させてしまうことで、合焦制御の時間が長くなる、または消費電力が増加することを防止できる。
撮像システム１０の他の形態を示す外界斜視図の一例である。図１０に示すように、撮像システム１０は、把持部３００の脇に、スマートフォン４００などのディスプレイを備えるモバイル端末を固定した状態で、使用されてよい。
上記のような撮像装置１００は、移動体に搭載されてもよい。撮像装置１００は、図１１に示すような、無人航空機（ＵＡＶ）に搭載されてもよい。ＵＡＶ１０００は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備えてよい。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０００は、推進部により推進される移動体の一例である。移動体とは、ＵＡＶの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０００を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０００を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０００は、回転翼を有さない固定翼機でもよい。
撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。
複数の撮像装置６０は、ＵＡＶ１０００の飛行を制御するためにＵＡＶ１０００の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０００の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０００の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０００の周囲の３次元空間データが生成されてよい。ＵＡＶ１０００が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０００は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０００は、ＵＡＶ１０００の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。
遠隔操作装置６００は、ＵＡＶ１０００と通信して、ＵＡＶ１０００を遠隔操作する。遠隔操作装置６００は、ＵＡＶ１０００と無線で通信してよい。遠隔操作装置６００は、ＵＡＶ１０００に上昇、下降、加速、減速、前進、後進、回転等のＵＡＶ１０００の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０００の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０００が位置すべき高度を示してよい。ＵＡＶ１０００は、遠隔操作装置６００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０００を上昇させる上昇命令を含んでよい。ＵＡＶ１０００は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０００は、上昇命令を受け付けても、ＵＡＶ１０００の高度が上限高度に達している場合には、上昇を制限してよい。
図１２は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。
本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
１０ 撮像システム
２０ ＵＡＶ本体
５０ ジンバル
６０ 撮像装置
１００ 撮像装置
１０１ レンズ光軸
１１０ 撮像制御部
１２０ イメージセンサ
１３０ メモリ
１５０ レンズ制御部
１５２ レンズ駆動部
１５４ レンズ
１６０ ＴＯＦセンサ
１６１ レンズ光軸
１６２ 発光部
１６３ 発光素子
１６４ 受光部
１６５ 受光素子
１６６ 発光制御部
１６７ 受光制御部
１６８ メモリ
２００ 支持機構
２０１ ロール軸駆動機構
２０２ ピッチ軸駆動機構
２０３ ヨー軸駆動機構
２０４ 基部
２１０ 姿勢制御部
２１２ 角速度センサ
２１４ 加速度センサ
３００ 把持部
３０１ 操作インタフェース
３０２ 表示部
４００ スマートフォン
６００ 遠隔操作装置
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

Claims (9)

  1. 第１イメージセンサを用いて複数の領域のそれぞれに関連する被写体までの距離を測距する測距センサを備える撮像装置を制御する制御装置であって、
    前記測距センサによって測距された複数の前記距離、前記撮像装置のレンズ光軸と前記測距センサのレンズ光軸との第１距離、及び前記測距センサの画角に基づいて、前記複数の距離の中から、前記撮像装置のレンズ光軸を通る被写体までの距離を特定するように構成される回路を備える制御装置。
  2. 前記回路は、前記複数の距離のそれぞれ、前記第１距離、及び前記画角に基づいて、前記複数の距離のそれぞれにおける前記測距センサの測距範囲の、前記撮像装置のレンズ光軸から前記測距センサのレンズ光軸に向かう方向の幅を特定し、それぞれの前記幅と前記第１距離との比に基づいて、前記複数の距離の中から、前記撮像装置のレンズ光軸を通る被写体までの距離を特定するように構成される、請求項１に記載の制御装置。
  3. 前記回路は、前記特定された距離に基づいて、前記撮像装置の合焦制御を実行するようにさらに構成される、請求項１に記載の制御装置。
  4. 前記回路は、前記複数の距離の中から、前記撮像装置のレンズ光軸を通る被写体までの距離を特定できない場合、前記撮像装置により撮像される画像のコントラスト評価値に基づいて前記撮像装置の合焦制御を実行するように構成される、請求項３に記載の制御装置。
  5. 前記回路は、
    前記第１距離に基づいて前記撮像装置のフォーカスレンズの第１目標位置を特定し、
    前記フォーカスレンズを前記第１目標位置に基づいて移動させる間に前記撮像装置により撮像される少なくとも２つの画像のぼけ量に基づいて前記フォーカスレンズの第２目標位置を特定し、
    前記フォーカスレンズを前記第２目標位置まで移動させることで合焦制御を実行するように構成される、請求項１に記載の制御装置。
  6. 請求項１から５の何れか１つに記載の制御装置と、
    前記測距センサと、
    前記被写体を撮像する第２イメージセンサと
    を備える撮像装置。
  7. 請求項６に記載の撮像装置を搭載して移動する移動体。
  8. 第１イメージセンサを用いて複数の領域のそれぞれに関連する被写体までの距離を測距する測距センサを備える撮像装置を制御する制御方法であって、
    前記測距センサによって測距された複数の前記距離、前記撮像装置のレンズ光軸と前記測距センサのレンズ光軸との第１距離、及び前記測距センサの画角に基づいて、前記複数の距離の中から、前記撮像装置のレンズ光軸を通る被写体までの距離を特定する段階を備える制御方法。
  9. 請求項１から５の何れか１つに記載の制御装置としてコンピュータを機能させるためのプログラム。
JP2019082336A 2019-04-23 2019-04-23 制御装置、撮像装置、移動体、制御方法、及びプログラム Expired - Fee Related JP6768997B1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019082336A JP6768997B1 (ja) 2019-04-23 2019-04-23 制御装置、撮像装置、移動体、制御方法、及びプログラム
CN202080002854.7A CN112154371A (zh) 2019-04-23 2020-04-03 控制装置、摄像装置、移动体、控制方法以及程序
PCT/CN2020/083101 WO2020216037A1 (zh) 2019-04-23 2020-04-03 控制装置、摄像装置、移动体、控制方法以及程序
US17/506,426 US20220046177A1 (en) 2019-04-23 2021-10-20 Control device, camera device, movable object, control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019082336A JP6768997B1 (ja) 2019-04-23 2019-04-23 制御装置、撮像装置、移動体、制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP6768997B1 JP6768997B1 (ja) 2020-10-14
JP2020181028A true JP2020181028A (ja) 2020-11-05

Family

ID=72745108

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019082336A Expired - Fee Related JP6768997B1 (ja) 2019-04-23 2019-04-23 制御装置、撮像装置、移動体、制御方法、及びプログラム

Country Status (4)

Country Link
US (1) US20220046177A1 (ja)
JP (1) JP6768997B1 (ja)
CN (1) CN112154371A (ja)
WO (1) WO2020216037A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022213339A1 (zh) * 2021-04-09 2022-10-13 深圳市大疆创新科技有限公司 对焦方法、拍摄设备、拍摄***以及可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001221945A (ja) * 2000-02-08 2001-08-17 Ricoh Co Ltd 自動合焦装置
JP2009175279A (ja) * 2008-01-22 2009-08-06 Olympus Imaging Corp カメラシステム
JP2012141436A (ja) * 2010-12-28 2012-07-26 Canon Inc 焦点検出装置およびその制御方法
JP2013247543A (ja) * 2012-05-28 2013-12-09 Sony Corp 撮像装置、表示装置、および画像処理方法、並びにプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6975361B2 (en) * 2000-02-22 2005-12-13 Minolta Co., Ltd. Imaging system, two-dimensional photographing device and three-dimensional measuring device
JP4593736B2 (ja) * 2000-07-14 2010-12-08 オリンパス株式会社 測距装置
JP2004240054A (ja) * 2003-02-04 2004-08-26 Olympus Corp カメラ
CN101430477B (zh) * 2007-11-09 2011-06-08 鸿富锦精密工业（深圳）有限公司 判断被摄物体距离的方法
CN101701793B (zh) * 2009-10-29 2011-11-02 天津三星光电子有限公司 利用数码相机测定物体与拍摄相机之间距离的方法
JP5609270B2 (ja) * 2010-05-28 2014-10-22 ソニー株式会社 撮像装置、撮像システム、撮像装置の制御方法およびプログラム
CN101968354A (zh) * 2010-09-29 2011-02-09 清华大学 基于激光探测和图像识别的无人直升机测距方法
JP5834410B2 (ja) * 2011-01-13 2015-12-24 株式会社リコー 撮像装置および撮像方法
US9551914B2 (en) * 2011-03-07 2017-01-24 Microsoft Technology Licensing, Llc Illuminator with refractive optical element
CN102445183B (zh) * 2011-10-09 2013-12-18 福建汇川数码技术科技有限公司 基于激光与摄像机平行实现的远程测距***测距激光点的定位方法
KR102312273B1 (ko) * 2014-11-13 2021-10-12 삼성전자주식회사 거리영상 측정용 카메라 및 그 동작방법
CN108780262B (zh) * 2016-05-19 2021-05-28 深圳市大疆创新科技有限公司 一种相对于成像装置内的图像传感器移动光学器件的方法和装置
CN107333036A (zh) * 2017-06-28 2017-11-07 驭势科技（北京）有限公司 双目相机
CN107544073A (zh) * 2017-08-29 2018-01-05 北醒（北京）光子科技有限公司 一种飞行器探测方法及高度控制方法
CN108303702B (zh) * 2017-12-30 2020-08-04 武汉灵途传感科技有限公司 一种相位式激光测距***及方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001221945A (ja) * 2000-02-08 2001-08-17 Ricoh Co Ltd 自動合焦装置
JP2009175279A (ja) * 2008-01-22 2009-08-06 Olympus Imaging Corp カメラシステム
JP2012141436A (ja) * 2010-12-28 2012-07-26 Canon Inc 焦点検出装置およびその制御方法
JP2013247543A (ja) * 2012-05-28 2013-12-09 Sony Corp 撮像装置、表示装置、および画像処理方法、並びにプログラム

Also Published As

Publication number Publication date
WO2020216037A1 (zh) 2020-10-29
JP6768997B1 (ja) 2020-10-14
CN112154371A (zh) 2020-12-29
US20220046177A1 (en) 2022-02-10

Similar Documents

Publication Publication Date Title
WO2018185939A1 (ja) 撮像制御装置、撮像装置、撮像システム、移動体、撮像制御方法、及びプログラム
JP6733106B2 (ja) 決定装置、移動体、決定方法、及びプログラム
JP2019110462A (ja) 制御装置、システム、制御方法、及びプログラム
JP2020012878A (ja) 制御装置、移動体、制御方法、及びプログラム
CN112335227A (zh) 控制装置、摄像***、控制方法以及程序
JP6768997B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
CN112292712A (zh) 装置、摄像装置、移动体、方法以及程序
JP2021085893A (ja) 制御装置、撮像装置、制御方法、及びプログラム
US20220188993A1 (en) Control apparatus, photographing apparatus, control method, and program
JP6543875B2 (ja) 制御装置、撮像装置、飛行体、制御方法、プログラム
JP6503607B2 (ja) 撮像制御装置、撮像装置、撮像システム、移動体、撮像制御方法、及びプログラム
WO2021031833A1 (zh) 控制装置、摄像***、控制方法以及程序
WO2021031840A1 (zh) 装置、摄像装置、移动体、方法以及程序
JP2019082539A (ja) 制御装置、レンズ装置、飛行体、制御方法、及びプログラム
JP6641574B1 (ja) 決定装置、移動体、決定方法、及びプログラム
JP6696092B2 (ja) 制御装置、移動体、制御方法、及びプログラム
JP6714802B2 (ja) 制御装置、飛行体、制御方法、及びプログラム
CN112313943A (zh) 装置、摄像装置、移动体、方法以及程序
JP7173657B2 (ja) 制御装置、撮像装置、制御方法、及びプログラム
JP6805448B2 (ja) 制御装置、撮像システム、移動体、制御方法、及びプログラム
JP7043706B2 (ja) 制御装置、撮像システム、制御方法、及びプログラム
WO2021249245A1 (zh) 装置、摄像装置、摄像***及移动体
JP6569157B1 (ja) 制御装置、撮像装置、移動体、制御方法、及びプログラム
JP6413170B1 (ja) 決定装置、撮像装置、撮像システム、移動体、決定方法、及びプログラム
JP2022011685A (ja) 制御装置、撮像装置、制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200430

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200825

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200827

R150 Certificate of patent or registration of utility model

Ref document number: 6768997

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees