JP6700482B2 - プロペラの羽根に統合された撮像装置を用いたステレオ距離情報の判定 - Google Patents

プロペラの羽根に統合された撮像装置を用いたステレオ距離情報の判定 Download PDF

Info

Publication number
JP6700482B2
JP6700482B2 JP2019508940A JP2019508940A JP6700482B2 JP 6700482 B2 JP6700482 B2 JP 6700482B2 JP 2019508940 A JP2019508940 A JP 2019508940A JP 2019508940 A JP2019508940 A JP 2019508940A JP 6700482 B2 JP6700482 B2 JP 6700482B2
Authority
JP
Japan
Prior art keywords
image
propeller
distance
scene
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019508940A
Other languages
English (en)
Other versions
JP2019532268A (ja
Inventor
スコット パトリック ボイド
スコット パトリック ボイド
バリー ジェームス オーブライエン
バリー ジェームス オーブライエン
ジョシュア ジョン ワトソン
ジョシュア ジョン ワトソン
スコット マイケル ウィルコックス
スコット マイケル ウィルコックス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Amazon Technologies Inc
Original Assignee
Amazon Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amazon Technologies Inc filed Critical Amazon Technologies Inc
Publication of JP2019532268A publication Critical patent/JP2019532268A/ja
Application granted granted Critical
Publication of JP6700482B2 publication Critical patent/JP6700482B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C11/00Propellers, e.g. of ducted type; Features common to propellers and rotors for rotorcraft
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C11/00Propellers, e.g. of ducted type; Features common to propellers and rotors for rotorcraft
    • B64C11/16Blades
    • B64C11/20Constructional features
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D31/00Power plant control systems; Arrangement of power plant control systems in aircraft
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U50/00Propulsion; Power supply
    • B64U50/10Propulsion
    • B64U50/19Propulsion using electrically powered motors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/10Measuring distances in line of sight; Optical rangefinders using a parallactic triangle with variable angles and a base of fixed length in the observation station, e.g. in the instrument
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B29/00Combinations of cameras, projectors or photographic printing apparatus with non-photographic non-optical apparatus, e.g. clocks or weapons; Cameras having the shape of other objects
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/02Stereoscopic photography by sequential recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • B64U10/14Flying platforms with four distinct rotor axes, e.g. quadcopters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U30/00Means for producing lift; Empennages; Arrangements thereof
    • B64U30/20Rotors; Rotor supports

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Measurement Of Optical Distance (AREA)

Description

飛行機、ヘリコプターまたは他の飛行船などの多くの航空機は、航空機が空間における1つの点(例えば、地上の点または、代替として、水上のもしくは空上の点)から別の点に、地球の少なくとも一部の上を移動することによって移動する前方飛行モード(または実質的に水平な飛行モード)を含む2つ以上の飛行モードで運航するように構成される。航空機はまた、航空機が、地表に実質的に垂直に、1つの高度から別の高度に垂直方向にもしくは実質的に垂直方向に(例えば、地上、水上または空中の第1の点から空中の第2の点に、またはその逆で、上方にまたは下方に)移動する、または、水平位置もしくは横方向位置の変化をごくわずかなものとしてホバリングする(例えば、実質的に一定の高度を保つ)垂直飛行モードに携わるようにも構成され得る。航空機は、さらに、例えば航空機の位置が水平方向及び垂直方向の両方で変化するハイブリッドモードといった、前方垂直両飛行モードに携わるように構成され得る。揚力及び推力は、一般に、1つまたは複数のプロペラ、または航空機の運航中、数千の毎分回転数の角速度で回転し得る、ハブの周りに取り付けられ原動機のシャフトまたは他の構成要素に結合される羽根を有するデバイスを用いて航空機に加えられる。
航空機(具体的には無人航空機すなわちUAVを含む)には、しばしば、航空機の誘導もしくは自律運航を支援するために、航空機が所与の場所に到着したもしくは通過したときを、または、1つもしくは複数の構造物、地物、対象物もしくは人間(もしくは他の動物)の範囲内にあるときを判定するために、監視もしくはモニタリング動作を行うために、または、任意の他の目的のために用いられ得るデジタルカメラなどの1つまたは複数の撮像装置が備えられる。1つまたは複数の撮像装置を航空機に装備することは、通常、ハウジング、タレット、または撮像装置がそれらによって航空機に取り付けられ得る他の構造物もしくは機構の設置を必要とする。そのような構造物または機構は、航空機の重量を増やし、飛行中に直面する抗力の量または程度を増大させ得、それによって、撮像装置が提供し得る多くの利益と引き換えに、航空機に運航コストを強いる。
ステレオ測距(またはステレオ三角測量)とは、対象物までの隔たりまたは距離が、一定の距離離れているデジタルカメラなどの撮像措置を用いてキャプチャされるそのような対象物を描いているデジタル画像から判定され得るプロセスである。例えば、撮像措置によってキャプチャされる環境の画像の対を処理することによって、画像の両方に表現される点(限定されるものではないが、特定の対象物に関連する点を含む)までの距離が、撮像装置のそれぞれのレンズまたはセンサから各画像内のそのような点の表現に延在する線の対の仮想交点を発見することによって判定され得る。環境の画像の各々が実質的に同時にキャプチャされる場合、または、画像の各々がキャプチャされるときの環境の条件が実質的に変化しない場合、所与の時間における環境内の単一の点までの距離は、そのような画像及び視差をキャプチャした撮像装置のレンズまたはセンサ間の基線距離、または、画像が互いに重ね合わせられるとき両方の画像内に表現される空間における単一の点の対応する表現間の距離に基づいて判定され得る。そのようなプロセスは、画像両方に表現される3次元空間における任意の数の点に対して完了され得、そのような点のモデル、例えば点群、デプスマップまたはデプスモデルは、適切に規定され得る。そのような点のモデルは、画像の対がその後キャプチャされ処理されてそのような点までの距離を判定すると更新され得る。
本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムのブロック図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのプロセスの流れ図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのプロセスの流れ図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、ステレオ距離情報を判定する、内部に撮像装置が統合されたプロペラの羽根の図である。 本開示の実施形態による、ステレオ距離情報を判定する、内部に撮像装置が統合されたプロペラの羽根の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。 本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図である。
以下でより詳細に説明するように、本開示は、飛行中の航空機から1つまたは複数の対象物までの距離または隔たりを判定することを対象とする。より具体的には、本明細書中に開示されるシステム及び方法は、1つまたは複数の動作するプロペラの羽根に統合されている撮像装置(例えばデジタルカメラ)を用いてステレオ距離情報を判定することを対象とする。撮像装置は、デジタルカメラ(例えば、白黒、グレースケールまたはカラーカメラ)または1つもしくは複数の対象物から反射する光を捉え解釈する任意の他の装置であり得る。一部の実施形態では、撮像装置は、揚力または推力を航空機に提供するプロペラの羽根の表面に、プロペラのハブから所定距離(例えば固定半径)において設けられた状態で埋め込まれ得る、設置され得る、またはそれ以外の方法で統合され得る。プロペラの羽根が、例えば数千以上の毎分回転数といった動作角速度で回転中に、第1の画像は、プロペラの羽根が第1の角度方位にある状態で、撮像装置を用いてキャプチャされ得、第2の画像は、プロペラの羽根が第2の角度方位にある状態でキャプチャされ得る。第1の画像及び第2の画像は、互いに対して位置合わせされ得、画像の各々に表現される対象物までの距離は、1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって判定され得る。
プロペラの羽根の動作角速度が十分に高速である場合、プロペラの羽根に統合された単一の撮像装置は、ほんの一瞬での空間における第1の位置から空間における第2の位置への移動によって、2つの撮像装置として機能し得、第1の位置で撮像装置によってキャプチャされた第1の画像及び第2の位置で撮像装置によってキャプチャされた第2の画像は、実質的に同時にキャプチャされていると判定され得る。例えば、プロペラの羽根の第1の角度方位及び羽根の第2の角度方位が、例えば反対方向角度といった約180度(180°)離れている場合、プロペラのハブと羽根に統合された撮像装置の間の所定距離または半径の2倍に等しい基線距離または分離を用いて、画像の各々に表現される対象物までの距離を計算し得る。他の実施形態では、撮像装置は、ハブから等しいまたは異なる半径において、プロペラの同じ羽根に、または、プロペラの羽根のうち2つ以上に統合され得る。そのようなプロペラの回転中にそのようなデバイスによってキャプチャされた画像は、互いに対して位置合わせされ得、そのような画像の各々に表現される対象物までの距離は、ステレオ三角測量を用いて、例えば1つまたは複数のコンピュータベースのステレオ測距アルゴリズムまたは技術を用いて判定され得る。
図1A〜図1Eを参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定するシステムが示される。図1Aに示すように、航空機110は、制御センター120、複数のモータ130−1、130−2、130−3、130−4及び複数のプロペラ140−1、140−2、140−3、140−4を含み、プロペラ140−1、140−2、140−3、140−4の各々は、モータ130−1、130−2、130−3、130−4の1つに回転可能に結合される。プロペラ140−4は、ハブ142−4、第1の羽根144−4及び第2の羽根146−4を含み、撮像装置150が、第1の羽根144−4の裏面に、ハブ142−4から半径rにおいて統合される。図1Aに示すように、第1の羽根144−4は、時間tにおいて、角度θに位置合わせされる。
図1Bに示すように、例えばモータ130−4の動力下で、撮像装置150が時間tにおいて実質的に下方に配向された状態で、第1の羽根144−4が角度θに位置合わせされるとき、航空機110は、プロペラ140−4が回転しながら、画像10−1をキャプチャする。例えば、撮像装置150は、撮像装置150が飛行する領域の地上ベースの地物(例えば、構造物、乗物または他の機械、植物または動物生命体)または航空機110に接近し得るまたは近傍に位置し得る空中の要素(例えば、鳥、他の航空機、または任意の他の空中の対象物)のカラー画像またはグレースケール画像をキャプチャするように構成され得る。
図1Cに示すように、第1の羽根144−4は、半回転を完了し、時間tにおいて角度θに位置合わせされる。例えば、プロペラ140−4が約3000の毎分回転数(3000rmp)の動作角速度で回転している場合、第1の羽根144−4は、1分の6000分の1(1/6000分)すなわち1秒の100分の1(0.01秒)の経過時間(例えば、t−t)で、角度θから角度θに回転するであろう。図1Dに示すように、プロペラ140−4が回転しながら、かつ、第1の羽根144−4が角度θに位置合わせされる状態で、航空機110は、時間tにおいて、撮像装置150が実質的に下方に配向された状態で、画像10−2をキャプチャする。画像10−1と一致する、回転された画像10−2’は、画像10−2を、角度θと角度θの差Δθすなわちθ−θ回転させることによって取得され得る。
先に論じたように、プロペラの表面に統合された1つまたは複数の撮像装置によってキャプチャされる画像の対は、画像の両方に表現される任意の数の点までの距離を判定するために、共に位置合わせされ、1つまたは複数のステレオ測距分析をされ得る。例えば、画像の各々に出現する環境内の複数の点までの距離は組み合わされて、点群、デプスマップまたは環境の3次元形状の別の表現を形成し得る。図1Eに示すように、画像10−1及び回転された画像10−2’は、処理のためにコンピュータデバイス112に提供され得る。コンピュータデバイス112は、航空機110に、または、1つもしくは複数のサーバもしくは他のコンピュータデバイスを有する地上ベースのもしくは「クラウド」ベースの設備、1つもしくは複数の他の航空機(図示せず)に搭載される設備、または任意の他の場所における設備を含む1つもしくは複数の外部の場所に存在し得る。コンピュータデバイス112は、ほんの一瞬異なる時間であるt及びtにおいて撮像装置150によってキャプチャされた画像10−1、10−2’の特徴を融合し、画像10−1に表現されるどの点が、回転された画像10−2’に表現される点に対応するかを判定し得る。そのような特徴に対応する点までの隔たりは、ステレオ測距アルゴリズムまたは技術にしたがって判定され得、1つまたは複数のデータストアに格納され得、または、限定されるものではないが、ナビゲーション、案内、監視もしくは衝突回避を含む任意の目的のために用いられ得る。
例えば、図1Eに示すように、画像10−1及び回転された画像10−2’の両方に表現される、航空機110下部の特徴に対応する領域までの平均的なまたは基準距離及びそのような距離に関連する公差のデプスマップ15が生成され、1つまたは複数のデータストアに格納され得る。図1Eのデプスマップ15は、第1の自動車に対応する領域15−1までの距離(例えば、約119フィート)、第1の自動車が移動する道に対応する領域15−2までの距離(例えば、約122.5フィート)、道の上の第2の自動車に対応する領域15−3までの距離(例えば、約118フィート)、住居に対応する領域15−4までの距離(例えば、約101フィート)、木に対応する領域15−5までの距離(例えば、約86フィート)、ペットに対応する領域15−6までの距離(例えば、約122フィート)及び住居、木またはペットが占有していないまたはそれらに覆われていない地上領域全般に対応する領域15−7までの距離(例えば、約124フィート)を含む。デプスマップ15は、限定されるものではないが、航空機110の1つまたは複数の寸法を収容し得る適切に大きな、平坦な、かつ頑丈な着陸場所を識別することを含む任意の目的のために用いられ得る。
したがって、本開示のシステム及び方法は、飛行中の航空機のプロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定することを対象とする。プロペラは、モータに関連するトランスミッションのマストまたはシャフトを受けるように、かつ、航空機に揚力または推力を提供するために所望の角速度でモータによってマストまたはシャフトの周りを回転されるように構成されているハブの周りに取り付けられた任意の数の羽根(例えば、図1A〜図1Dのプロペラ140−4などの2つの羽根、ならびに3つ、4つまたはそれ以上の羽根)を含み得る。任意の数の羽根は、例えば図1A〜図1Dの羽根144−4に埋め込まれた単一の撮像装置150といった、内部に統合された任意の数の撮像装置、または任意の数の他の撮像装置を含み得る。
本開示によれば、動作プロペラの羽根に統合された撮像装置、及びそのような撮像装置によってキャプチャされた画像を用いて、任意の数のステレオ測距アルゴリズムまたは技術にしたがって、ステレオ距離情報を判定し得る。そのようなアルゴリズムまたは技術からの出力は、任意の形式で生成または格納され得、任意の目的のために用いられ得る。例えば、一部の実施形態では、ステレオ測距アルゴリズムまたは技術にしたがって判定された、環境における対象物または特徴までの隔たりはまとめられ、そのような対象物または特徴までの基準のまたは平均の隔たり及びそのような隔たりに関連する公差を識別または表現する、図1Eのデプスマップ15などのデプスマップを形成し得る。
一部の他の実施形態では、環境の点群または他の3次元表現が生成され、1つまたは複数のデータファイルに格納され得る。点群は、対の画像の両方に出現する点の各々の位置を、画素レベルの解像度で表現し得る。回転しているプロペラの羽根の高速で確実な反復性により、そのような点までの距離に関してデータを高い速度率でキャプチャすることが可能になり、それによって、そのような位置に関連する公差または信頼水準を、いくつかの画像をキャプチャしただけで、短い期間にかなり狭めることが可能になる。
撮像装置は、任意の手法で、例えば本開示にしたがって、撮像装置を羽根に埋め込むことによって、または、撮像装置を羽根の表面に接着することによって、プロペラの羽根に統合され得る。そのような羽根に統合された撮像装置は、そのような羽根の表面に垂直なまたは任意の他の角度または方位に位置合わせされた視野または方位軸を有し得る。一部の実施形態では、撮像装置は、例えば撮像装置の焦点距離または角度方位のいずれかを調整するための1つまたは複数の作動されたまたは動力化された機能による、調整可能な視野または方位軸を有し得る。追加して、撮像装置は、プロペラのハブから任意の半径において、プロペラの羽根に統合され得る。同様に、1つまたは複数の撮像装置がプロペラに統合された航空機は、方位が固定されている航空機の一部に、例えば航空機の機体または他の非回転部分に統合された1つまたは複数の追加の撮像装置をさらに含み得、そういった撮像装置は、測距用途において、統合された撮像装置と協動して用いられ得る。
撮像データ(例えば視覚撮像データ)は、デジタルカメラなどの1つまたは複数の撮像装置を用いてキャプチャされ得る。そのような装置は、一般に、対象物から反射される光を捕捉することにより、そしてその後に、例えば画素といった、反射された光の様相に、1つまたは複数の定量的な値を計算しまたは割り当て、そのような値に基づく出力を生成し、それらの値を1つまたは複数のデータストア内に格納することにより、作動し得る。デジタルカメラは、1つまたは複数のフィルタを伴って有する1つまたは複数のセンサを含み得、そのようなセンサは、反射された光の1色以上の基本色(例えば、赤色、緑色または青色)に対応する反射された光の任意の数の画素の様相についての情報を検出し得る。そのようなセンサは、そのような情報、例えばデジタル画像を含むデータファイルを生成し、1つまたは複数のオンボードデータストアもしくはアクセス可能なデータストア(例えば、ハードドライブまたは他の同様のコンポーネント)内に、ならびに1つまたは複数のリムーバブルデータストア(例えば、フラッシュメモリデバイス)内に、そのようなデータファイルを格納し、または、1つもしくは複数のブロードキャストもしくは閉回路テレビネットワークに、もしくはインターネットのようなコンピュータネットワークを介して表示し得る。
デジタル画像は、シーンの1つもしくは複数の対象物、背景または他の特徴の光学的に形成された複製を規定する、通常アレイ状に配置された画素の集合であり、データファイルに格納され得る。視覚画像において、画素の各々は、そのような対象物、背景または特徴の一部に関連する色または他の光条件を表現または識別する。例えば、白黒の視覚画像は、画素の光条件をバイナリに(例えば白か黒のいずれか)表現する単一ビットを含み、グレースケール視覚画像は、光条件を複数ビット(例えば白と黒のパーセンテージまたは分担率の点からグレーのトーンを画定する2〜8ビット)で表現し得、カラー視覚画像は、複数の基本色(例えば赤、緑または青)の各々に対応するビット群を含み得、ビット群は、画素に関連する色を集合的に表現し得る。デプス画像もまた、シーンの1つもしくは複数の対象物、背景または他の特徴の光学的に形成された複製を規定する画素の集合であり、やはりデータファイルに格納され得る。しかしながら、視覚映像の画素とは異なり、デプス画像の画素の各々は、そのような対象物、背景または特徴の光条件または色ではなく、対象物、背景または特徴までの隔たりを表現または識別する。例えば、デプス画像の画素は、デプス画像をキャプチャした撮像装置のセンサ(例えば、デプスカメラまたは距離センサ)と画素が対応するそれぞれの対象物、背景または特徴の間の隔たりを表現し得る。
1つまたは複数のデータストア内に格納された撮像データファイルは、紙に印刷される、1つまたは複数のコンピュータディスプレイ上に提示される、または、そこに表現されるアイテムを識別するなどのために、1つもしくは複数の分析を受け得る。そのようなデータファイルは、限定されるものではないが、.JPEGもしくは.JPGファイル、またはグラフィックスインターチェンジフォーマット(すなわち「.GIF」)、ビットマップ(すなわち「.BMP」)、ポータブルネットワークグラフィックス(すなわち「.PNG」)、タグ付き画像ファイルフォーマット(すなわち「.TIFF」)ファイル、オーディオビデオインタリーブ(すなわち「.AVI」)、QuickTime(すなわち「.MOV」)、ムービングピクチャエクスパーツグループ(すなわち「.MPG」、「.MPEG」もしくは「.MP4」)もしくはWindows Mediaビデオ(すなわち「.WMV」)ファイルを含み得る任意の数のフォーマットで格納され得る。
反射された光は、装置内のセンサとレンズの間の距離、すなわち焦点距離、ならびに装置の場所及び装置のレンズの角度方位に応じて定義される、デバイスの視野内に在る場合に、反射された光は撮像装置によって捕捉され得る、または検出され得る。それに応じて、対象物が被写界深度内に、すなわち視野内で明瞭度及び焦点が十分に鮮明であるの距離内に出現する場合に、撮像装置は、その1つまたは複数のセンサを使用して十分に高解像度に任意の種類の対象物から反射される光を捕捉し、反射された光についての情報を1つまたは複数のデータファイル内に格納し得る。
多くの撮像装置はまた、それらのそれぞれの視野または方位を修正する手動のまたは自動の機能も含む。例えば、デジタルカメラは、固定位置に、または固定焦点距離(例えば、固定焦点レンズ)もしくは角度方位をもって構成され得る。代替として、撮像装置は、センサとレンズの間の距離における変化(例えば、光学ズームレンズまたはデジタルズームレンズ)、撮像装置の場所における変化、または角度方位を定義する角度のうちの1つまたは複数における変化を生じさせることにより、撮像装置の位置を調整するための、または、焦点距離(例えば、撮像装置をズームする)もしくは角度方位(例えば、ロール角、ピッチ角またはヨー角)のいずれかを調整するための、1つまたは複数の作動されたまたは動力化された機能を含み得る。
例えば、撮像装置は、1軸、2軸または3軸に関して固定された構成または角度に装置を維持する支持体またはマウンティングにハードマウントされ得る。代替として、しかしながら、撮像装置は、構成要素のうちの1つまたは複数を手動でもしくは自動で動作させるための、または装置の軸もしくは方向を再配向するための(すなわち、この装置をパンする、または傾けることによる)、1つまたは複数のモータ及び/またはコントローラを提供し得る。撮像装置をパンすることは、水平面内の、または垂直軸(例えば、ヨー)周りの回転を引き起こし得、撮像装置を傾けることは、垂直面内の、または水平軸(例えば、ピッチ)周りの回転を引き起こし得る。加えて、撮像装置は、その回転軸周りに、かつ、この回転軸に垂直でありこの装置の視野に実質的に平行である平面内で、ロールされ得、すなわち回転され得る。
いくつかの最新式の撮像装置は、1つまたは複数の物理的制約及び動作上の制約に従い、視野内に識別される画像をデジタル方式でまたは電子的に調整し得る。例えば、デジタルカメラは、デジタルカメラの視野に合焦するまたはこの視野を広げるために、画像の画素を仮想的に伸縮し、または凝縮し得、また視野内の画像の1つまたは複数の部分を並進させ得る。光学的に調整可能な焦点距離または方位の軸を有する撮像装置は、パンチルトズーム(すなわち「PTZ」)撮像装置と一般に称され、デジタル方式でまたは電子的に調整可能なズームまたは並進機能を有する撮像装置は、電子PTZ(すなわち「ePTZ」)撮像装置と一般に称される。
特徴または対象物の色、テクスチャまたは輪郭を含む、撮像データ内に表現される特徴または対象物についての情報及び/またはデータは、任意の数の方式でデータから抽出され得る。例えば、デジタル画像内の、画素の色、または画素のグループの色は、画素内の赤色、緑色または青色の部分を0から255の値内の範囲の3つの対応する数値で表現するRGB(「赤−緑−青」)色モデル、または画素の色を6文字コードに表現し、その中で各文字が16の範囲を有することができる16進数モデルなどの、1つまたは複数の規格にしたがい決定され、定量化され得る。また色は、6文字16進数モデル、すなわち♯NNNNNNにしたがい、表現され得、そこで各文字Nは、16桁(すなわち、0から9の数字、及びAからFの文字)の範囲を有する。16進数モデルの最初の2文字NNは、この色の中に含まれる赤色の部分を指し、二番目の2文字NNは、この色の中に含まれる緑色の部分を指し、三番目の2文字NNは、この色の中に含まれる青色の部分を指す。例えば、白色及び黒色は、16進数モデルに従い♯FFFFFF及び♯000000とそれぞれ表現され、キャンディアップルレッドの色は、♯31314Aと表現される。画像または写真内の色またはカラースキームを定量化するための任意の手段またはモデルが、本開示にしたがい利用され得る。さらに、デジタル画像に表現される対象物のテクスチャまたは特徴は、画像の領域またはセクタ内の強度における変化を識別することによる、または特定の表面に対応する画像の領域を画定することによるような、1つまたは複数のコンピュータベースの方法を使用して識別され得る。
さらに、デジタル静止画またはデジタル動画に表現される、対象物または対象物の部分のエッジ、コンター、輪郭、色、テクスチャ、シルエット、形状または他の特徴は、1つまたは複数のアルゴリズムまたは機械学習ツールを使用して識別され得る。対象物、または対象物の部分は、静止している、または動いていることができ、単一の、有限の期間に、または1つまたは複数の期間もしくは持続時間にわたり識別され得る。そのようなアルゴリズムまたはツールは、可能な限り密接にデジタル画像内に、かつノイズ及び途絶を最小にして偽の遷移を作成しない方式において、遷移(例えば、対象物またはその部分のエッジ、コンター、輪郭、色、テクスチャ、シルエット、形状または他の特徴)を認識し、マーク付けすることを対象とし得る。本開示によってデジタル画像内の対象物またはその部分の特徴を認識するために利用され得るいくつかの検出アルゴリズムまたは技術は、限定されるものではないが、Cannyエッジ検出器またはアルゴリズムか、Sobel演算子、アルゴリズムまたはフィルタか、Kayyali演算子か、Robertsエッジ検出アルゴリズムか、Prewitt演算子か、Frei−Chen方法か、当業者に知られている可能性がある任意の他のアルゴリズムまたは技術を含む。
先に論じたように、本開示のシステム及び方法は、飛行中の航空機のプロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定することを対象とする。そのような撮像装置によってキャプチャされた画像は、1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって処理され得る。そのようなアルゴリズムまたは技術を用いることによって動的環境からデプス情報を判定することは、通常、基線距離離れている少なくとも2つの撮像装置の使用、及びそのような撮像装置からの実質的に同時の撮像データのキャプチャを必要とするが、本開示のシステム及び方法は、一部の実施形態では、ステレオ測距のために、プロペラの羽根に埋め込まれた単一の撮像装置によってキャプチャされた撮像データを用い得る。撮像装置は、プロペラの羽根が異なる方位にある状態で撮像データをキャプチャし得、それによって、航空機のプロペラの高い回転速度に通常依存して、撮像装置を2つの場所に一度に効果的に配置する。
例えば、1秒当たり数百フレーム(fps)程度のフレームレートで画像をキャプチャし得、数千程度の毎分回転数(rpm)の角速度で回転しているプロペラの羽根の表面に埋め込まれた撮像装置は、プロペラが異なる方位にある状態で鮮明な画像をキャプチャし得、そのような画像を処理して、画像の両方に表現される任意の対象物に関するデプス判定を行い得る。具体的には、撮像装置が、プロペラが約180度すなわち180°互いから離れたすなわち反対の方位にある状態で画像をキャプチャするように構成され得る場合、基線距離または分離(例えば、プロペラのハブからの撮像装置の半径の2倍)、視差(例えば、画像の各々における共通点の隔たり)、撮像装置の焦点距離及びそれぞれの画像の内容が処理されて、2つの画像に表現される対象物の各々までの距離を判定し得、環境のデプスマップ、デプスモデルまたは別のデプス画像をそれに従って画定し得る。
少なくとも部分的に重畳する視野を有する撮像装置(例えばデジタルカメラ)によってキャプチャされた一対のステレオ画像に表現される対象物までの隔たり(またはデプスまたは距離)。画像の両方に出現する各対象物の各点に対して、それぞれの撮像装置のそれぞれのレンズ、レンズモジュールまたは他のセンサから画像の各々における対象物の点の表現を通って延在する線は、3次元空間において、その点の実際の位置に対応する場所で仮想的に交差するであろう。従来の幾何学的な原理及び特性、例えば相似三角形の特性、ならびに撮像装置間の基線距離または分離などの既知のまたは知り得る変数、それぞれの画像内の点の間の視差及びそれぞれの撮像装置の焦点距離を用いることによって、交点の座標が適切に判定され得る。
航空機のプロペラは、通常、数千の毎分回転数の角速度で回転するので、単一の撮像装置をプロペラの羽根に、例えばプロペラの表面に埋め込むことにより、ステレオ画像が、既知の位置でかつ所与の時間に単一の撮像装置によってキャプチャされることが可能になる。一対の画像からステレオ距離情報を判定するために、画像のうちの第1の画像内に可視の各面の点が画像のうちの第2の画像において識別されなければならず、画像の各々がキャプチャされたときの撮像装置の幾何学的位置が把握されなければならない。2つのステレオ画像内の共通点の表現は、エピポール、またはそのようなエピポールの共役対と称されることがあり、視差は、2つの画像が重畳されたときのエピポールの共役対間の距離として定義される。
空間における点が例えばエピポールとして2つの画像に出現する場合、画像内のそれぞれのエピポールの位置及び空間における点の実際の位置によって画定される平面は、エピポーラ平面と称される。画像は、次いで、それらの内容に基づいて、例えば、それぞれの画像平面とのエピポーラ平面の交点に対応する線、すなわちそれらのそれぞれのエピポーラ線に沿って共に位置合わせされ得る。画像がそれらの内容に基づいて位置合わせされた後で、対象物の実際の位置は、撮像装置のレンズ、レンズモジュールまたは他のセンサから結像面内のそれぞれの画像における点の表現を通って延在する三角測量線によって判定され得る。そのような線の交点は、点の実際の位置に対応し、点までの距離は、この実際の位置に基づいて、それに従い判定され得る。ステレオ測距アルゴリズムまたは技術を用いて、画像の両方に出現する点の各々までの距離または隔たりを判定し得、そのような距離または隔たりを用いて、対象物が提供される環境の点群、デプスマップまたは別の3次元モデルを規定し得る。デプスモデルは、データファイル(例えばデプス画像)に格納され得、または、限定されるものではないが、ナビゲーション、案内、監視または衝突回避を含む任意の目的のために利用され得る。
かくして、ステレオ測距アルゴリズムまたは技術は、対の画像の各々のエピポールの対応を判定することを必要とし、エピポールの各々は、3次元空間における共通点に対応するものである。エピポールの複数の対応が、シーンの一対の画像の各々から識別されると、エピポールの共役対の各々に対する視差が判定され得、シーンの3次元構造を再現するそのような視差のマップが、シーンの様相、例えば基線距離または分離などの幾何学的パラメータ、撮像装置の焦点距離などに関する情報が既知の場合、適切に再構築され得る。
シーンの対の画像に表現される点の、現実世界での位置を判定するための、そして、そのような位置に基づくそのようなシーンのデプスマップ、点群または他の3次元表現を生成するためのいくつかのコンピュータベースのステレオ測距アルゴリズム及び技術が在る。そのようなアルゴリズムまたは技術は、較正の、対応の及び/または再構築の機能の実施を支援し得る。例えば、Open Source Computer Vision(すなわち「OpenCV」)ライブラリは、対の画像から隔たりまたは距離を判定することを対象とするいくつかのコンピュータベースのアルゴリズムまたは他のプログラミング機能を含む。同様に、MATLAB言語でプログラミングされているいくつかの他のステレオ測距アルゴリズムまたは技術が公的に利用可能である。また、いくつかの他のソースからコンピュータベースのアルゴリズムまたは技術が利用可能である。
撮像装置は、水平にまたは垂直に、例えば前方方位もしくは後方方位に、または、上方方位もしくは下方方位に、または、相対的であってもよくまたは絶対的であってもよい任意の他の方位にもしくは角度に位置合わせされるプロペラに統合され得る。一部の実施形態では、2つ以上のデジタルカメラが、同一の羽根または別々の羽根のいずれかにおいて、プロペラに統合され得る。デジタルカメラは、均質であってもよく(例えば機能的に同等すなわち同一の性能を有する)、または、代替として、不均質であってもよく(例えば異なる性能を有する)、デプスを判定するためにそのようなカメラによってキャプチャされたステレオ画像は、複数の計算において処理され得る。一部の実施形態では、航空機は、回転プロペラの羽根に統合された、及び航空機の非回転機構にやはり取り付けられた1つまたは複数の撮像装置を含み得る。撮像装置の各々によってキャプチャされた画像は、例えばそのような撮像装置間の基線距離または分離、そのような画像内の対象物の視差、それぞれの撮像装置の焦点距離を判定することによって、ステレオ測距目的のために用いられ得る。
図2を参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステム200のブロック図が示される。図2のシステム200は、全体的にまたは部分的にインターネットを含み得るネットワーク280経由で相互と接続される航空機210及びデータ処理システム270を含む。別段に記述される場合を除き、図2に示される数字「2」に続く参照番号は、図1Aから1Eに示される数字「1」に続く参照番号を有する構成要素または特徴に類似する構成要素または特徴を示す。
航空機210は、プロセッサ212、メモリ214及びトランシーバ216を含む。航空機210は、さらに、制御システム220、複数の推進モータ230−1、230−2...230−n、複数のプロペラ240−1、240−2...240−n及び複数の撮像装置250−1、250−2...250−nを含む。
プロセッサ212は、限定されるものではないが、1つまたは複数の機械学習アルゴリズムまたは技術の実行を含む任意の種類または形式の計算機能を実行するように構成されてもよい。例えば、プロセッサ212は、航空機210、ならびに、限定されるものではないが、推進モータ230−1、230−2...230−n、プロペラ240−1、240−2...240−n及び撮像装置250−1、250−2...250−nを含む1つまたは複数のコンピュータベースの構成要素の動作の任意の側面を制御し得る。例えば、プロセッサ212は、推進モータ230−1、230−2...230−n、プロペラ240−1、240−2...240−n及び撮像装置250−1、250−2...250−nのうち1つまたは複数の動作を実行する命令を生成するために、制御システム220などの1つまたは複数の制御システムまたはモジュールの動作を制御し得る。そのような制御システムまたはモジュールは、1つまたは複数の他のコンピューティングデバイスまたは機械と関連付けられ得、データ処理システム270または1つもしくは複数の他のコンピュータデバイス(図示せず)とネットワーク280を経由して、デジタルデータの送信及び受信を介して通信し得る。
プロセッサ212は、1つのプロセッサを含むユニプロセッサシステム、またはいくつかのプロセッサ(例えば、2つ、4つ、8つまたは別の適切な数)を含むマルチプロセッサシステムであってもよく、命令を実行することが可能であり得る。例えば、一部の実施形態では、プロセッサ212は、x86、PowerPC、SPARC、もしくはMIPS ISA、または任意の他の適切なISAなどの、いくつかの命令セットアーキテクチャ(ISA)のいずれかを実装する、汎用または組み込みプロセッサであり得る。プロセッサ212がマルチプロセッサシステムである場合、マルチプロセッサシステム内の各プロセッサは、同一のISA、または異なるISAを動作させ得る。
追加して、航空機210は、例えば航空機210を動作させるための命令といった情報もしくはデータ、または、航空機210の動作中に捕捉される情報もしくはデータの任意のタイプを格納するための1つもしくは複数のメモリまたはストレージ構成要素214(データベースまたはデータストアなど)をさらに含む。メモリ214は、プロセッサ212により、またはこのプロセッサにアクセス可能な、実行可能な命令、飛行経路、飛行制御パラメータ及び/または他のデータアイテムを格納するように構成され得る。メモリ214は、スタティックランダムアクセスメモリ(SRAM)、同期ダイナミックRAM(SDRAM)、不揮発性/フラッシュタイプメモリ、または任意の他のタイプのメモリなど、任意の適切なメモリ技術を使用して実装されてもよい。一部の実施形態では、プログラム命令、飛行経路、飛行制御パラメータ及び/または他のデータアイテムは、例えば、有線及び/または無線リンクなどの通信媒体を介して搬送され得る、電気、電磁またはデジタル信号などの伝送媒体または信号により、トランシーバ216を介して受信され得る、または送信され得る。
トランシーバ216は、例えば、ユニバーサルシリアルバス(すなわち「USB」)もしくは光ファイバケーブルなどの有線技術、またはBluetooth(登録商標)もしくは任意のワイヤレスフィデリティー(すなわち「WiFi」)プロトコルなどの標準無線プロトコルといった1つまたは複数の有線または無線手段を介して、例えば、ネットワーク280を介して、または直接的に航空機210が通信することを可能にするように構成され得る。トランシーバ216は、1つまたは複数の入力/出力(すなわち「I/O」)インターフェース、ネットワークインタフェース及び/または入力/出力デバイスをさらに含み得、またはこれらと通信し得、情報もしくはデータを航空機210の構成要素のうちの1つまたは複数の間で、または1つもしくは複数の他のコンピュータデバイスもしくはシステム(例えば、示されない、他の航空機)へネットワーク280経由で交換することを可能にするように構成され得る。例えば、一部の実施形態では、トランシーバ216は、プロセッサ212と1つまたは複数のオンボードまたは外部のコンピュータデバイスまたは構成要素との間のI/Oトラフィックを調整するように構成され得る。トランシーバ216は、データ信号を一つの構成要素による使用に適切である第1のフォーマットから別の構成要素による使用に適切である第2のフォーマットに変換するために、任意の必要なプロトコル、タイミングまたは他のデータ変換を実行し得る。一部の実施形態では、トランシーバ216は、例えば、ペリフェラルコンポーネントインターコネクト(PCI)バス規格、またはユニバーサルシリアルバス(USB)規格の異形などの様々なタイプのペリフェラルバスを通じて取設されるデバイスに対するサポートを含んでもよい。一部の他の実施形態では、トランシーバ216の機能は、2つ以上の別々の構成要素に分割され得る、またはプロセッサ212と統合され得る。
制御システム220は、1つまたは複数の電子速度コントロール、電源、ナビゲーションシステム及び/または要望通りに航空機210の動作を制御するためのかつアイテムと係合するまたは解放するためのペイロード係合コントローラを含み得る。例えば、制御システム220は、推進モータ230−1、230−2...230−n、プロペラ240−1、240−2...240−n及び撮像装置250−1、250−2...250−nのうち1つまたは複数の動作を生じさせるまたは制御するように構成され得、例えば、航空機210を、判定されたまたは要求された飛行路に沿って案内するために、推進モータ230−1、230−2...230−nのうち1つまたは複数にプロペラ240−1、240−2...240−nを所望速度で回転させる、撮像装置250−1、250−2...250−nのうち1つまたは複数に任意の撮像データ(例えば静止画または動画)ならびに任意の関連する音声データ及び/またはメタデータをキャプチャさせるといったことを行う。制御システム220は、さらに、限定されるものではないが、翼、ラダー、補助翼、エレベータ、フラップ、ブレーキ、スラットもしくは他の機能などの1つもしくは複数の制御面(図示せず)の所望の範囲内での動作、または、1つもしくは複数の係合システム(図示せず)による1つもしくは複数のアイテムの施行または取り外しを含む、航空機210の他の側面を制御し得る。一部の実施形態では、制御システム220は、プロセッサ212、メモリ214及び/またはトランシーバ216のうち1つまたは複数と統合され得る。
推進モータ230−1、230−2...230−nは、1つもしくは複数のプロペラまたは他の構成要素の十分な回転速度を生じさせて、揚力及び/または推力を航空機210及び任意の係合されたペイロードに与えることにより、係合されたペイロードを空中輸送することが可能である、任意のタイプまたは形態のモータ(例えば、電気の、ガソリン動力の、または任意の他のタイプのモータ)であり得る。例えば、推進モータ230−1、230−2...230−nのうち1つまたは複数は、アウトランナーブラシレスモータまたはインランナーブラシレスモータなどのブラシレス直流(DC)モータであり得る。
航空機210は、任意の種類の任意の数のそのような推進モータ230−1、230−2...230−nを含み得る。例えば、推進モータ230−1、230−2...230−nのうち1つまたは複数は、専ら揚力を航空機210に与えるように位置合わせされ得または構成され得、推進モータ230−1、230−2...230−nのうち1つまたは複数は、専ら推力を航空機210に与えるように位置合わせされ得または構成され得る。代替として、推進モータ230−1、230−2...230−nのうち1つまたは複数は、必要に応じて、航空機210に揚力及び推力を与えるように位置合わせされ得または構成され得る。例えば、推進モータ230−1、230−2...230−nは、航空機210上でのそれらの方位は固定され得る、または、例えばティルトローター航空機といった、それらのそれぞれの方位は変化するように構成され得る。さらに、推進モータ230−1、230−2...230−nは、異なる性能もしくは定格によって、もしくは異なる速度において作動するように位置合わせされ得もしくは構成され得る、または、異なるサイズ及び形状を有するプロペラに結合され得る。
プロペラ240−1、240−2...240−nは、複数の成形された羽根がハブまたはボスに結合された任意のロータまたは回転可能なシステムであり得る。プロペラ240−1、240−2...240−nの各々は、推進モータ230−1、230−2...230−nのそれぞれに伴うマストまたはシャフトに回転可能に取り付けられ、流体内で回転されると推力を生成するように構成される。プロペラ240−1、240−2...240−nの各々は、任意の数の羽根を含み得、固定ピッチ、調整可能ピッチまたは可変ピッチという性質であり得る。さらに、プロペラ240−1、240−2...240−nのうち1つまたは複数は、任意の手法で縞模様がつけられ得または保護され得る。一部の実施形態では、プロペラ240−1、240−2...240−nのうち1つまたは複数は、垂直軸の周りを回転するように、及び、それに従って推力を垂直方向(例えば上方に)に提供するように構成され得る。一部の実施形態では、プロペラ240−1、240−2...240−nのうち1つまたは複数は、水平軸の周りを回転するように、及び、それに従って推力を水平方向に(例えば前方に)に提供するように構成され得る。さらに他の実施形態では、プロペラ240−1、240−2...240−nのうち1つまたは複数は、水平でもなく垂直でもない軸の周りを回転するように、及び、それに従って推力をそのような軸に対応する方向に提供するように構成され得る。
撮像装置250−1、250−2...250−nは、それぞれのプロペラ240−1、240−2...240−nの表面に埋め込まれた任意の形式の光学記録装置であり得、構造物、施設、地域もしくは航空機210の飛行中に遭遇する任意の他の要素の撮像データを撮影またはそれ以外の方法で記録するために、または、任意の他の目的のために用いられ得る。撮像装置250−1、250−2...250−nは、1つもしくは複数のセンサ、メモリまたは記憶コンポーネント及びプロセッサを含み得、そのようなセンサ、メモリコンポーネントまたはプロセッサは、さらに、1つまたは複数の感光面、フィルタ、チップ、電極、クロック、基板、タイマーまたは任意の他の関連する機能部品(図示せず)を含み得る。そのような撮像装置250−1、250−2...250−nは、任意の種類または形式の1つまたは複数の静止画または動画の形式で撮像データ、ならびに任意の関連音声信号、または、限定されるものではないが、そのような撮像装置250−1、250−2...250−nが内部で統合されたプロペラ240−1、240−2...240−nのうち1つまたは複数が作動速度で回転するときを含む航空機210の飛行中における他の情報をキャプチャし得る。
撮像装置250−1、250−2...250−nは、プロセッサ212及び/もしくは制御システム220と、または互いに、内部ネットワーク(図示せず)の全てまたは一部に専用であってもよくまたは内部ネットワーク(図示せず)の全てまたは一部を備えてもよい有線または無線接続で通信し得る。追加して、撮像装置250−1、250−2...250−nは、ネットワーク280によって、データ処理システム270と通信するようになされ得るまたは構成され得る。図2のプロペラ240−1、240−2...240−nの各々は、撮像装置250−1、250−2...250−nの1つに対応する単一のボックスを含むが、当業者は、限定されるものではないが、デジタルカメラ、デプスセンサまたは距離カメラ、赤外線カメラ、放射線カメラまたは他の光学センサを含む任意の数または種類の撮像装置が、本開示にしたがってプロペラ240−1、240−2...240−nの任意の数の羽根に提供され得ることを理解するであろう。
撮像装置250−1、250−2...250−nに加えて、航空機210はまた、外的情報もしくはデータ、または内的情報もしくはデータを含む、航空機210が作動している、または作動することを予期され得る環境の1つまたは複数の属性を決定するために、限定されるものではないが、1つまたは複数の環境または動作センサを含む、航空機210の動作における制御または支援のための任意の数の他のセンサ、構成要素または他の特徴も含み得る。例えば、航空機210は、1つまたは複数の全地球測位システム(「GPS」)受信器もしくはセンサ、コンパス、速度計、高度計、温度計、気圧計、湿度計、ジャイロスコープ、空気監視センサ(例えば、酸素、オゾン、水素、一酸化炭素または二酸化炭素のセンサ)、オゾンモニタ、pHセンサ、磁気異常検出器、金属探知器、放射線センサ(例えば、ガイガーカウンタ、中性子検出器、アルファ検出器)、姿勢指示器、深度計、加速度計、または音センサ(例えば、1つまたは複数の方向からの音響エネルギーを検出し、記録するための、マイクロホン、圧電センサ、振動センサまたは他のトランスデューサ)を含み得る。
データ処理システム270は、1つまたは複数のコンピュータプロセッサ274及びそれらに伴う任意の数のデータストア276(例えばデータベース)を有し、ならびに任意の特定または汎用目的で提供される1つまたは複数の物理コンピュータサーバ272を含む。例えば、図2のデータ処理システム270は、航空機210から受信する、撮像データ、または他の情報もしくはデータを受信する、分析する、または格納する専用の目的のために独立して設けられ得、または代替として、このような撮像データ、または他の情報もしくはデータ、及び1つまたは複数の他の機能を受信する、分析する、もしくは格納するように構成される1つまたは複数の物理的または仮想サービスと関連して設けられ得る。サーバ272は、プロセッサ274及び、限定されるものではないが、音声信号、撮像データに関する情報もしくはデータ、または環境条件に関する情報もしくはデータ、動作特性、または位置を含む任意の種類の情報またはデータを任意の目的のために格納し得るデータストア276と接続またはそれ以外の方法で通信し得る。サーバ272及び/またはコンピュータプロセッサ274はまた、デジタルデータを送信する及び受信することを通じて、線278によって示されるように、ネットワーク280に接続またはそれ以外の方法で通信してもよい。例えば、データ処理システム270は、例えばネットワーク280を介して航空機210から、または互いから、または1つもしくは複数の他の外部コンピュータシステム(図示せず)から受信されたメディアファイルといったメディアファイルなどの情報またはデータを受信し、1つまたは複数のデータストアに記憶する能力または容量を有する任意の施設、ステーション、または場所を含んでもよい。一部の実施形態では、データ処理システム270は、物理的な場所に設けられてもよい。他のそのような実施形態では、データ処理システム270は、例えば「クラウド」ベースの環境といった1つまたは複数の代替のまたは仮想の場所に設けられてもよい。さらに他の実施形態では、データ処理システム270は、航空機210を含むが、これに限定されるものではない1つまたは複数の航空機に搭載されて設けられてよい。
ネットワーク280は、任意の有線ネットワーク、無線ネットワーク、またはその組み合わせであってもよく、全体的にまたは部分的にインターネットを含んでもよい。さらに、ネットワーク280は、パーソナルエリアネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク、ケーブルネットワーク、衛星ネットワーク、携帯電話ネットワーク、またはその組み合わせであってもよい。ネットワーク280はまた、インターネットなどのさまざまな異なる当事者らによって運用される可能性がある、リンクされたネットワークの公共的にアクセス可能なネットワークであってもよい。一部の実施形態では、ネットワーク280は、企業または大学のイントラネットなどのプライベートまたはセミプライベートネットワークであってもよい。ネットワーク280は、グローバルシステムフォーモバイルコミュニケーションズネットワーク、符号分割多元接続(CDMA)ネットワーク、ロングタームエボリューション(LTE)ネットワーク、またはいくつかの他の種類の無線ネットワークなどの1つまたは複数の無線ネットワークを含んでもよい。インターネットまたは他の前述のタイプの通信ネットワークのいずれかを介して通信するためのプロトコル及び構成要素は、コンピュータ通信の当業者に周知であり、したがって、本明細書により詳細に記載される必要はない。
本明細書で説明されるコンピュータ、サーバ、装置などは、必要な電子機器、ソフトウェア、メモリ、ストレージ、データベース、ファームウェア、ロジック/ステートマシン、マイクロプロセッサ、通信リンク、ディスプレイまたは他のビジュアルもしくはオーディオユーザインタフェース、印刷装置、及び本明細書に記載された機能またはサービスのいずれかを提供する、かつ/または本明細書に記載の結果を達成するための任意の他の入力/出力インターフェースを有する。また、当業者であれば、係るコンピュータ、サーバ、装置などのユーザが、コンピュータ、サーバ、装置などと対話するために、または本開示のアイテム、リンク、ノード、ハブもしくは任意の他の態様を「選択」するために、キーボード、キーパッド、マウス、スタイラス、タッチスクリーン、または他の装置(図示せず)もしくは方法を操作し得ることを認識するだろう。
航空機210及び/またはデータ処理システム270は、ウェブによって有効化される任意のインターネットのアプリケーションもしくは機能、あるいはEメールまたは他のメッセージング技術を含む任意の他のクライアント/サーバアプリケーションまたは機能を使用してネットワーク280に接続し得る、またはショートメッセージングサービスもしくはマルチメディアメッセージングサービス(SMSもしくはMMS)のテキストメッセージを介してなどで互いに通信し得る。例えば、航空機210は、ネットワーク280を介して、リアルタイムもしくはほぼリアルタイムで、または1つもしくは複数のオフラインプロセスで、データ処理システム270に、または任意の他のコンピュータデバイスに(例えば、1機以上の他の航空機に)、同期メッセージまたは非同期メッセージの形で情報またはデータを送信するように適合されてよい。当業者であれば、航空機210またはデータ処理システム270が以下に限定するものではないがセットトップボックス、パーソナルデジタルアシスタント、デジタルメディアプレーヤー、ウェブパッド、ラップトップコンピュータ、デスクトップコンピュータ、電子書籍リーダなどを含む、ネットワークを介して通信することができる多数のコンピューティングデバイスのいずれかを操作し得る、またはこれらのいずれかにより操作され得ることを認識するであろう。係る装置間で通信を提供するためのプロトコル及び構成要素は、コンピュータ通信の当業者には周知であり、本明細書でより詳細に説明される必要はない。
本明細書で説明されるデータ及び/またはコンピュータ実行可能命令、プログラム、ファームウェア、ソフトウェアなど(本明細書では「コンピュータ実行可能」構成要素とも呼ばれる)は、コンピュータまたはコンピュータ構成要素の中にあるか、コンピュータまたはコンピュータ構成要素によってアクセス可能なコンピュータ可読媒体に記憶されてよく、例えば、プロセッサ212もしくはプロセッサ274などのコンピュータまたはコンピュータ構成要素、または任意の他のコンピュータもしくは制御システムは、航空機210またはデータ処理システム270によって(例えば、1機以上の他の航空機によって)利用され、プロセッサ(例えば、中央処理装置、すなわち「CPU」)による実行時に、プロセッサに本明細書に記載された機能、サービス及び/または方法のすべてまたは一部分を実行させる命令シーケンスを有する。係るコンピュータ実行可能命令、プログラム、ソフトウェアなどは、フロッピードライブ、CD−ROMドライブ、DVD−ROMドライブなどのコンピュータ可読媒体に関連付けられたドライブ機構、ネットワークインタフェースなどを使用し、または外部接続を介して1つまたは複数のコンピュータのメモリにロードされ得る。
本開示のシステム及び方法のいくつかの実施形態はまた、本明細書中に記載されたプロセスまたは方法を実行するようにコンピュータ(または他の電子機器)をプログラムするのに用いられ得る命令(圧縮形式で、または非圧縮形式で)を格納する非一時的な機械可読記憶媒体を含むコンピュータ実行可能プログラム製品として提供されてもよい。本開示の機械可読記憶媒体は、ハードドライブ、フロッピーディスク、光ディスク、CD−ROM、DVD、ROM、RAM、消去可能プログラマブルROM(「EPROM」)、電気的消去可能プログラマブルROM(「EEPROM」)、フラッシュメモリ、磁気カードもしくは光カード、ソリッドステートメモリデバイス、または電子命令を記憶するのに適し得る他の種類の媒体/機械可読媒体を含んでよいが、これに限定されるものではない。さらに、実施形態はまた、一時的な機械可読信号(圧縮形式で、または非圧縮形式で)を含むコンピュータ実行可能プログラム製品として提供されてもよい。機械可読信号の例としては、搬送波を使用して変調されるか否かに関わらず、限定されるものではないが、コンピュータプログラムをホスティングまたは実行するコンピュータシステムまたは機械がアクセスするように構成され得る信号、またはインターネットもしくは他のネットワークを介してダウンロードされ得る信号を含む信号が挙げられ得る。
先に論じたように、航空機は、航空機の回転プロペラの1つまたは複数の羽根内に埋め込まれたまたはそれ以外の方法で統合された撮像装置を含み得る。撮像装置によってキャプチャされた画像は、ステレオ測距アルゴリズムまたは技術によって処理されて、画像の各々に表現される任意の対象物までの距離を判定し得る。図3を参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのプロセスの流れ図300が示される。
ボックス310では、デジタルカメラが回転プロペラの表面に埋め込まれた航空機が、目的地への移動のために起点から出発する。航空機は、例えば、起点から目的地までペイロードを運搬するといった任意の任務を行うようにプログラミングされ得、デジタルカメラが埋め込まれた回転プロペラは、推力、揚力または推揚力を生成するために提供され得る。
ボックス320では、航空機は、時間tにおいてプロペラが方位角θにある状態で、デジタルカメラを用いて第1の画像をキャプチャする。デジタルカメラは、航空機が所与の場所に到着した際、または航空機が所与の速度または所与の高度に到達した際、または1つもしくは複数の対象物を近傍に感知した際(例えば衝突の危険性)、または任意の所定の環境もしくは動作条件を検出した際、または任意の他の理由で、1つまたは複数の画像のキャプチャを自動的に開始するようにプログラミングされ得る。ボックス330では、航空機は、時間tにおいてプロペラが方位角θにある状態で、デジタルカメラを用いて第2の画像をキャプチャする。デジタルカメラは、所定時間に、または任意の他の理由で、プロペラの角度方位または位置に基づいて別の画像をキャプチャするようにプログラミングされ得る。例えば、一部の実施形態では、デジタルカメラは、プロペラの方位の角度が、第1の画像がキャプチャされたときのプロペラの方位の角度より180度(180°)大きいまたは小さいときに第2の画像をキャプチャするように構成され得る。さらに別の例として、一部の実施形態では、デジタルカメラは、第1の画像のキャプチャに続き所定の時間が経過した後、第2の画像をキャプチャするように構成され得る。
ボックス340では、第1の画像及び第2の画像は、方位の角度θとθの差Δθ、すなわちθ−θに基づいて互いに対して配向される。例えば、第1の画像は、第2の画像に対して再配向され得、または、第2の画像は、第1の画像に対して再配向され得る。代替として、第1の画像及び第2の画像の各々は、共通基準角に対して独立して配向され得る。
ボックス350では、第1の画像及び第2の画像は、内容ベースの分析を受ける。例えば、第1の画像及び第2の画像の各々は評価されて、第1の画像及び第2の画像のいずれかまたは両方に表現される、限定されるものではないが、1つまたは複数のアルゴリズムまたは機械学習ツールを用いて内部に表現される対象物のまたは対象物の一部の任意の数のエッジ、コンター、輪郭、色、テクスチャ、シルエット、形状、または他の特徴を含む任意の点の属性を識別し得る。いくつかのそのようなアルゴリズムまたはツールとして、限定されるものではないが、Cannyエッジ検出器またはアルゴリズム;Sobel演算子、アルゴリズムまたはフィルタ;Kayyali演算子;Robertsエッジ検出アルゴリズム;Prewitt演算子;Frei−Chen方法;または当業者に既知であり得る任意の他のアルゴリズムまたは技術が挙げられ得る。
ボックス360では、第1の画像及び第2の画像の各々において対象物が識別される。例えば、対象物は、画像の一方で識別され得、画像の他方において対象物に対して検索が行われ得る。一部の実施形態では、それぞれの画像のエピポーラ線は、エピポーラ線を画像のスキャン線と位置合わせするために、1つまたは複数の変換を用いて修正され得、それによって、画像の一方において識別された対象物に対する、画像の他方での検索を容易にする。その後、対象物が識別されるまで、1つの画像における対象物の点に対応する画素が、例えばそれぞれの画像間で画素を整合させることによって画像の他方において識別され得る。
ボックス370では、対象物までの距離データは、1つまたは複数のステレオアルゴリズム及び/または技術にしたがって、第1の画像及び第2の画像内の対象物の視差、時間t及びtにおけるデジタルカメラの基線分離及びデジタルカメラの焦点距離に基づいて判定される。先に記述したように、視差は、同一シーンの2つの画像間の所与の点の分離として規定され、基線分離は、第1の画像がキャプチャされたときの(例えば時間tにおける)デジタルカメラの位置と第2の画像がキャプチャされたときの(例えば時間tにおける)デジタルカメラの第2の位置の間の距離であり、デジタルカメラの焦点距離は、デジタルカメラ内のセンサとレンズの間の距離である。ステレオ測距アルゴリズムまたは技術は、対象物までの距離もしくは隔たり、または対象物の1つもしくは複数の様相までの距離もしくは隔たりを判定するために、視差、基線分離及び焦点距離を用い得る。ボックス380では、距離データは、1つまたは複数のデータストアに格納され、プロセスは終了する。距離データは、例えばナビゲーション、案内、監視、衝突回避といった任意の目的のために、または任意の他の目的のために利用され得る。
図4A、図4B及び図4Cを参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステム400の態様の図が示される。別段に記述される場合を除き、図4A、図4Bまたは図4Cに示される数字「4」に続く参照番号は、図2に示される数字「2」に続く、または図1Aから1Eに示される数字「1」に続く参照番号を含む構成要素または特徴に類似する構成要素または特徴を示す。
図4Aに示すように、裏面に撮像装置450が埋め込まれたプロペラ440を有する航空機410が示される。航空機410は、1つまたは複数の構造物、障害物及び/または他の対象物(例えば、家及び自転車)を有するシーン内の空間における点P(x、y、z)に接近しているところが示される。点P(x、y、z)は、プロペラ440が角度θ及びθに位置合わせされるとき、時間t及びtにおいて撮像装置450の視野内にある。図4Aにやはり示すように、プロペラ440が角度θに位置合わせされた状態で、時間tにおいてキャプチャされた画像40−1は、点P(x、y、z)の投影Uを含む。時間tにキャプチャされかつプロペラ440が角度θに位置合わせされた状態の反転画像40−2’は、点P(x、y、z)の投影Uを含む。角度θと角度θが180度(180°)離れている場合、反転画像40−2’は、時間tにおいてキャプチャされた画像を180度(180°)回転させることによって誘導され得る。時間tにおける撮像装置450の位置と時間tにおける撮像装置450の位置との基線分離は、約2r、すなわち、プロペラ440のハブから撮像装置450までの隔たりの半径rの2倍である。
空間における点P(x、y、z)までの、または、画像40−1及び反転画像40−2’の両方内に表現される1つもしくは複数の他の点までの距離または隔たりは、画像40−1、40−2’を仮想的に重畳させ、画像40−1、40−2’の両方に示される各点の投影間の視差を判定することによって判定され得る。図4Bに示すように、画像40−1及び反転画像40−2’が互いに重畳された場合、画像40−1、40−2’内の空間における点P(x、y、z)の投影U、Uの間の視差は明白である。
図4Cに示すように、点P(x、y、z)までの距離zは、既知の基線分離2r、焦点距離f、画像40−1及び回転された画像40−2’内の点P(x、y、z)の投影U、Uを用いて、ステレオ測距によって判定され得る。ステレオ測距アルゴリズム及び技術は、時間t及び時間tにおける撮像装置450の位置、焦点距離fを用いた投影U、U及び基線分離2rを三角測量することによって、点P(x、y、z)の位置、ひいては点P(x、y、z)までの距離zを自動的に判定し得る。
図4A、4B及び4Cは空間における単一の点P(x、y、z)の位置及び/またはそれまでの距離を判定することを描写するが、本開示のシステム及び方法はそれに限定されておらず、同じステレオ測距アルゴリズムもしくは技術、または1つもしくは複数の他のアルゴリズムもしくは技術にしたがって、画像40−1、40−2’の両方に出現する点(複数)の各々の位置及び/またはそれまでの距離を判定するのに用いられ得る。そのような位置または距離を用いて、限定されるものではないが、画像40−1、40−2’の両方に出現する点の各々の画素レベルの位置を表現する点群、またはデプスマップ、例えば、シーン内の対象物の1つまたは複数までの平均的なまたは基準距離を、そのような距離の正確さまたは精密さを表す1つまたは複数の公差または信頼レベルとともに示す図1Eのデプスマップ15を含む、シーン及び/または構造物、対象物または他の特徴の任意の形式の3次元表現が構築され得る。図4Aの航空機410のプロペラ440は通常、数千の毎分回転数の角速度で回転するので、撮像装置450は、同時に2つの場所に効果的に出現する(例えば、ほんの一瞬のうちに)。したがって、単一の撮像装置450によってキャプチャされた画像は、プロペラ440から、そのような画像のうち2つ以上に表現される1つまたは複数の対象物までの距離を判定するのに利用され得る。
先に記述したように、プロペラ表面に統合された撮像装置によってキャプチャされた画像は、1つの画像を別の画像に対して再配向することによって、または、画像の各々を共通基準に対して再配向することによってなどで、任意の基準で互いに対して配向され得る。図5A〜図5Cを参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図が示される。別段に記述される場合を除き、図5A、図5Bまたは図5Cに示される数字「5」に続く参照番号は、図4A,図4Bまたは図4Cに示される数字「4」に続く、図2に示される数字「2」に続く、または図1Aから1Eに示される数字「1」に続く参照番号を含む構成要素または特徴に類似する構成要素または特徴を示す。
図5Aを参照すると、プロペラに埋め込まれた撮像装置によってキャプチャされた2つの画像50A−1、50A−2が示される。画像50A−1は、プロペラがゼロ度(0°)の角度θにある状態でキャプチャされたものであり、画像50A−2は、プロペラがゼロ度より大きい角度θにある状態でキャプチャされたものである。したがって、画像50A−1、50A−2を互いに対して適切に配向するために、画像50A−2は、反対方向に角度θで回転されて、画像50A−2’を形成し得、それによって、画像50A−1、50A−2’が互いに対して適切に位置合わせされることを確保し、それぞれの画像50A−1、50A−2へのプロペラの方位の影響を打ち消す。画像50A−1、50A−2’が互いに対して適切に位置合わせされた状態で、画像50A−1、50A−2’の各々に出現する対象物に対応する点が識別され得、そのような対象物までの隔たり(または距離)は、例えばステレオ測距アルゴリズムまたは技術によって判定され得る。
逆に、図5Bを参照すると、プロペラに埋め込まれた撮像装置によってキャプチャされた2つの画像50B−1、50B−2が示される。画像50B−1は、プロペラがゼロ度(0°)より小さい角度θにある状態でキャプチャされたものであり、画像50B−2は、プロペラがゼロ度と等しい角度θにある状態でキャプチャされたものである。したがって、画像50B−1、50B−2を互いに対して適切に配向するために、画像50B−1は、反対方向に角度θ回転されて、画像50B−1’を形成し得、それによって、画像50B−1’、50B−2が互いに対して適切に位置合わせされることを確保し、それぞれの画像50B−1、50B−2へのプロペラの方位の影響を打ち消す。
画像はまた、画像のいずれかの方位の角度ではなく、基準の方位の角度に対して再配向され得る。図5Cを参照すると、プロペラに埋め込まれた撮像装置によってキャプチャされた2つの画像50C−1、50C−2が示される。画像50C−1は、プロペラがゼロ度(0°)より大きい角度θにある状態でキャプチャされたものであり、画像50C−2は、プロペラがゼロ度より小さい角度θにある状態でキャプチャされたものである。したがって、画像50C−1、50C−2を互いに対して適切に配向するために、基準の方位の角度θSTDにおいて、画像50C−1は、反対方向に角度(θ−θSTD)回転されて、画像50C−1’を形成し得、画像50C−2は、反対方向に角度(θSTD−θ)回転されて、画像50C−2’を形成し得、それによって、基準の方位の角度θSTDにおいて、画像50C−1’、50C−2’が互いに対して適切に位置合わせされることを確保し、それぞれの画像50C−1、50C−2へのプロペラの方位の影響を打ち消す。
先に論じたように、本開示のシステム及び方法は、航空機の回転プロペラの羽根に統合された撮像装置によってまたは航空機に設けられた任意の数の他の撮像装置によってキャプチャされたシーンの2つ以上の画像に出現する任意の数の点の位置(またはそのような点までの距離もしくは隔たり)を判定するのに用いられ得る。そのような位置(またはそれまでの距離もしくは隔たり)を用いて、シーンの点群、デプスマップまたは地理的または地形的レイアウトを表現する任意の他の仮想構造を含むシーンの3次元表現は構築され得る。図6を参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのプロセスの流れ図600が示される。ボックス610では、航空機は、少なくとも1つの撮像装置が少なくとも1つのプロペラ表面に埋め込まれた状態で作動する。航空機は、図1A〜図1Dのプロペラ140−4の第1の羽根144−4に埋め込まれた撮像装置150といった1つのプロペラの単一の羽根に埋め込まれた単一の撮像装置、または、複数のプロペラの複数の羽根の表面に埋め込まれた複数の撮像装置を含み得る。
ボックス620では、航空機は、測距動作を開始し、その動作においては、航空機は、航空機が任意の理由で着陸するのに適した場所を探索するときなどに、航空機下部に存在する任意の数の点(例えば、構造物または対象物の表面に対応する点)までの距離または隔たりを判定するように構成されている。代替として、航空機は、測距動作を行って、航空機の上部、前方、後方、左または右にある、または航空機に対して任意の他の方向にあり、かつ、動作プロペラに統合された撮像装置によってキャプチャされた2つ以上の画像に出現している点までの距離または隔たりを判定し得る。
ボックス630では、撮像装置は、プロペラの羽根が第1の選択された角度方位にある状態で画像をキャプチャする。羽根は、航空機に対して任意の角度で、例えば移動方向に対して横方向に、移動方向に沿って、または任意の他の方位で位置合わせされ得る。ボックス635では、撮像装置は、第1の画像を、オンボードメモリに、例えば1つもしくは複数のデータベース、データストアまたは航空機に搭載され設けられている他のコンポーネントに格納する。代替として、一部の実施形態では、航空機は、第1の画像を地上ベースもしくは「クラウド」ベースの処理設備に、または、そのような設備の1つもしくは複数に、1つもしくは複数のトランシーバを用いて送信し得る。第1の画像は、同期プロセスまたは非同期プロセスにおいて、例えばリアルタイムでまたはほとんどリアルタイムで、及び単独でまたはバッチプロセスの一部としてのいずれかで、そのような設備の1つまたは複数に送信され得る。代替として、第1の画像及び任意の数の他の画像は、任務が完了すると、例えば撮像装置によってキャプチャされた画像に表現される任意の表面特徴の法医学的分析のために別の設備に送信され得る。
ボックス640では、撮像装置は、第1の画像内の複数の点を認識する。例えば、そのような点は、1つまたは複数のアルゴリズムまたは機械学習ツールを用いて内部で識別され得る、第1の画像に示される対象物またはそのような対象物の一部の1つまたは複数のエッジ、コンター、輪郭、色、テクスチャ、シルエット、形状、または他の特徴に対応し得る。代替として、点は、地上ベースもしくは「クラウド」ベースの処理設備にまたはそのような設備の1つもしくは複数に設けられたコンピュータデバイスによって、例えばリアルタイムで、またはほとんどリアルタイムで、または任意の後の時点で認識され得る。
ボックス650では、撮像装置は、プロペラの羽根が次の選択された角度方位にある状態で次の画像をキャプチャする。例えば、撮像装置は、所定時間に、または、プロペラの羽根が所定方位に到達したときに、次の画像をキャプチャするように構成され得る。一部の実施形態では、所定時間または所定方位は、プロペラのまたはプロペラが回転可能に結合されたモータの動作速度(例えば角速度)に基づいて選択され得る。ボックス655では、撮像装置は、次の画像をオンボードメモリに格納し、ボックス660では、撮像装置は、次の画像において、以前に認識された複数の点のうち少なくともいくつかを認識する。代替として、先に論じたように、撮像装置は、次の画像を、地上ベースもしくは「クラウド」ベースの処理設備に、またはそのような設備の1つもしくは複数に、格納または処理のために、例えばリアルタイムで、またはほとんどリアルタイムで、または任意の後の時点で送信し得る。
ボックス670では、撮像装置は、最新の画像内のそのような点の視差、最新の画像の各々がキャプチャされたときの撮像装置の基線分離及び/または最新の画像がキャプチャされたときの撮像装置の焦点距離に基づいて、認識された点までの距離を判定する。例えば、先に論じたように、画像は、互いに対して(例えばその内容に対して)再位置合わせされ得、2つの最新の画像の各々の内部で認識される点の投影が、その内部で識別され得る。次いで、そのような投影間の視差が判定され得、視差、基線分離及び撮像装置の焦点距離を用いて、認識された点までの距離が、1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって判定され得る。ボックス680では、最新の画像の時点での認識された点までの距離が、オンボードメモリにまたは代替として1つもしくは複数の地上ベースもしくは「クラウド」ベースの設備に格納され、任意の目的のために用いられ得る。例えば、距離を用いて、所与の領域の点群またはデプスマップを規定し得、点群またはデプスマップは、航空機が着陸するための具体的な場所を識別するために、または、測距動作がボックス620で開始された任意の他の理由のために利用され得る。
ボックス690では、測距動作が完了したかどうかが判定される。例えば、動作の測距の目標が完了している場合(例えば、着陸現場もしくは場所の識別、または、適切な解像度もしくは精度を有する点群もしくはデプスマップの構築)、プロセスは終了する。しかしながら、測距動作が完了していない場合、プロセスはボックス650に戻り、撮像装置は、次の画像を、プロペラの羽根が次の選択された角度方位にある状態、例えば所定時間に、またはプロペラの羽根が選択された角度方位に到達したときに、キャプチャし、プロセスは、測距動作が完了したと判定されるまで、繰り返される。航空機(例えばUAV)に搭載されたプロペラの動作中に通常観察される高い角速度を考えると、そのような点群またはデプスマップの精度は、高頻度でキャプチャされた対の画像に基づいて迅速にかつ精密に改良され得る。
先に論じたように、本開示のシステム及び方法は、限定されるものではないが、所与の領域のデプスマップの構築を含む、航空機を用いた任意の測距動作を行うのに利用され得る。図7を参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステム700の態様の図が示される。別段に記述される場合を除き、図7に示される数字「7」に続く参照番号は、図5A、図5Bまたは図5Cに示される数字「5」に続く、図4A、図4Bまたは図4Cに示される数字「4」に続く、図2に示される数字「2」に続く、または図1Aから1Eに示される数字「1」に続く参照番号を含む構成要素または特徴に類似する構成要素または特徴を示す。
図7に示すように、ハブ742の周りに取り付けられた第1の羽根744及び第2の羽根746を有するプロペラ740が示される。第1の羽根744は、その一表面に埋め込まれた撮像装置750を含む。プロペラ740は、例えばハブ742に結合された1つまたは複数のモータ(図示せず)によって、動力下でハブ742の周りを回転するように構成される。
撮像装置750は、任意の数の画像を一定の角度間隔でキャプチャするように、及び、そのような画像を、デプスマップまたはデプスもしくは距離情報の他の表現を規定することに利用するように構成され得る。図7に示すように、撮像装置750は、第1の羽根744がハブ742に対してそれぞれ角度θ及び−θで位置合わせされた状態で、画像70−1、70−2、70−3、70−4等々をキャプチャする。次いで、画像70−1、70−2、70−3、70−4は、1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって、その内部の1つまたは複数の対象物を認識するために分析され得、そのような対象物までの距離またはそのような対象物に対応する画像の領域までの距離を判定するために処理され得る。画像70−1、70−2、70−3、70−4の分析に基づいて判定された距離は、まとめられて、複数のデプスマップ75−1、75−2、75−3等々を形成し得、それらは、そのような対象物または領域までの距離が変更されたかどうか及びどの程度まで変更されたかを判定するために、連続的にキャプチャされた画像を用いて反復的に更新され得、それによって、経時的に変化する、航空機が飛行するシーンの動的な点群、デプスマップまたは他の3次元モデルを効果的に構築する。画像70−1、70−2、70−3、70−4は、そのような画像を互いに対して分析する前に、または、その内部の1つもしくは複数の対象物の探索の前に、必要に応じて、回転され得またはそれ以外の方法で再位置合わせされ得る。
したがって、本開示によって、動的な距離マップは、測距情報が回転プロペラの羽根の表面に埋め込まれたまたはそれ以外方法で統合された撮像装置を用いてキャプチャされた画像を用いて判定されると、必要に応じて生成かつ更新され得る。プロペラが十分に高い角速度、例えば数千程度の毎分回転数(rpm)で回転している場合、プロペラの羽根に埋め込まれた撮像装置は、一度に2つの場所に効果的に存在し得、異なる場所の撮像装置によってキャプチャされた画像は、その距離情報を導出するために、1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって分析され得る。距離は、限定されるものではないが、航空機の着陸する現場または場所(例えば、航空機の1つまたは複数の寸法を収容し得る十分に大きく、平坦な、耐久性のある面)を識別すること、航空機をナビゲートすること(例えば、ナビゲーション目的で地域または等高線を識別するために)、または1つもしくは複数の空中もしくは地上ベースの対象物を探索することもしくは回避することを含む、任意の理由のために判定され得る。
本開示によれば、任意の数のプロペラの羽根は、内部に統合された任意の数の撮像装置を含み得、そのような撮像装置は、プロペラの羽根が取り付けられたハブに対して異なる半径において統合され得る。図8A及び図8Bを参照すると、本開示の実施形態による、ステレオ距離情報を判定するための撮像装置が内部に統合されたプロペラの羽根840A、840Bの図が示される。別段に記述される場合を除き、図8Aまたは8Bに示される数字「8」に続く参照番号は、図7に示される数字「7」に続く、図5A、図5Bまたは図5Cに示される数字「5」に続く、図4A、図4Bまたは図4Cに示される数字「4」に続く、図2に示される数字「2」に続く、または図1Aから1Eに示される数字「1」に続く参照番号を含む構成要素または特徴に類似する構成要素または特徴を示す。
図8Aに示すように、プロペラ840Aは、ハブ842A及び一対の羽根844A−1、844A−2を含む。羽根844A−1は、ハブ842Aから距離rA−1において内部に埋め込まれた撮像装置850A−1を含む。羽根844A−2は、ハブ842Aから距離rA−2において内部に埋め込まれた撮像装置850A−2を含む。
プロペラ840Aは、デプス情報を任意のモードまたは形式でキャプチャするのに利用され得る。例えば、撮像装置850A−1、850A−2は、例えば距離rA−1、rA−2の和といった互いから一定の基線距離に配置されるので、撮像装置850A−1、850A−2は、互いに連携して画像をキャプチャし得、そのような画像は、例えば1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって評価されてそれから距離情報を判定し得る。代替として、撮像装置850A−1、850A−2は、任意の数の点(例えば、1つまたは複数の対象物の表面に対応する点)までの距離情報を判定するために分析かつ処理され得る画像を独立してキャプチャするのに用いられ得る。例えば、撮像装置850A−1は、羽根844A−1が1つもしくは複数の所定方位にまたは1つもしくは複数の所定時間に位置合わせされるとき画像をキャプチャするように構成され得、撮像装置850A−2は、羽根844A−2が1つもしくは複数の所定方位にまたは1つもしくは複数の所定時間に位置合わせされるとき画像をキャプチャするように別に構成され得る。それぞれの撮像装置850A−1、850A−2によって別々にキャプチャされた画像は、それぞれの羽根844A−1、844A−2から1つまたは複数の点までの距離に関するデプス情報を判定するのに用いられ得る。隔たりrA−1、rA−2は、互いと等しい必要はなく、撮像装置850A−1、850A−2の各々は、異なる能力、仕様または定格が組み込まれ得、そのような撮像装置は、異なる目的のために適切に利用される。
図8Bに示すように、プロペラ840Bは、3つの羽根844B−1、844B−2、844B−3を有するハブ8423Bを含む。羽根844B−1は、ハブ842Bから距離rB−1の距離において内部に埋め込まれた撮像装置850B−1を含む。羽根8444B−2は、ハブ842Bから距離rB−2において内部に埋め込まれた撮像装置850B−2を含む。羽根844B−3は、ハブ842Bから距離rB−3において内部に埋め込まれた撮像装置850B−3を含む。図8Aのプロペラ840A及び撮像装置850A−1、850A−2に関して先に論じたように、撮像装置850B−1、850B−2、850B−3は、画像を、互いと連携してキャプチャし得、そのような画像は、例えば1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって評価されてそれから距離情報を判定し得る。撮像装置850B−1、850B−2、850B−3のうちの任意の2つの間の基線距離は、三角形の特性及び/または従来の三角関数にしたがって判定され得る。代替として、撮像装置850B−1、850B−2、850B−3は、例えば羽根844B−1、844B−2、844B−3が所定方位にまたは所定時間に位置合わせされるときに、独立して画像をキャプチャするのに用いられ得、そのような画像は、空間における1つまたは複数の点までの距離情報を判定するために分析かつ処理され得る。距離rB−1、rB−2、rB−3は、互いに等しい必要はない。撮像装置850B−1、850B−2、850B−3の各々は、異なる能力、仕様または定格が組み込まれ得、そのような撮像装置は、異なる目的のために適切に利用される。
本開示にしたがって、航空機に搭載されたプロペラの羽根に統合された撮像装置によってキャプチャされた画像を用いたデプス情報の判定は、フレーム、機体、制御面または1つもしくは複数の他のコンポーネントまたはその表面といった、航空機の非回転部分に統合された撮像装置を用いてキャプチャされた画像によって向上させられ得る。図9A〜図9Dを参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図が示される。別段に記述される場合を除き、図9A、図9B、図9Cまたは図9Dに示される数字「9」に続く参照番号は、図8Aまたは図8Bに示される数字「8」に続く、図7に示される数字「7」に続く、図5A、図5Bまたは図5Cに示される数字「5」に続く、図4A、図4Bまたは図4Cに示される数字「4」に続く、図2に示される数字「2」に続く、または図1Aから1Eに示される数字「1」に続く参照番号を含む構成要素または特徴に類似する構成要素または特徴を示す。
図9Aを参照すると、航空機910は、制御センター920、複数のモータ930−1、930−2、930−3、930−4及び複数のプロペラ940−1、940−2、940−3、940−4を含み、プロペラ940−1、940−2、940−3、940−4の各々は、モータ930−1、930−2、930−3、930−4の1つと回転可能に結合される。航空機910は、さらに、複数の撮像装置950−1、950−2、950−3、950−4、950−5を含み、撮像装置950−1、950−2、950−3、950−4の各々は、プロペラ940−1、940−2、940−3、940−4のうちの1つのプロペラの羽根に取り付けられ、撮像装置950−5は、例えば制御センター920下部の、航空機910のフレームに取り付けられている。
非回転の撮像装置950−5によってキャプチャされた画像は、回転撮像装置950−1、950−2、950−3、950−4のうち1つまたは複数によってキャプチャされた画像と連携して用いられて、航空機910下部の点までの隔たりまたは距離に関する情報を判定し得る。例えば、図9Bに示すように、プロペラ940−4は、モータ930−4に結合されたハブ942−4に取り付けられた第1の羽根944−4及び第2の羽根946−4を含み、第1の羽根944−4には、撮像装置950−4がハブ942−4から距離rにおいて内部に埋め込まれている。モータ930−4及びハブ942−4は、非回転撮像装置950−5から距離lにおいて配置される。かくして、第1の羽根944ー4が図9Bに示す角度θに配向されているときの非回転撮像装置950−5と回転撮像装置950−4の間の基線分離は、l+rに等しい。図9Cに示すように、第1の羽根944−4が図9Cに示す角度θに配向されているときの非回転撮像装置950−5と回転撮像装置950−4の間の基線分離は、l−rに等しい。任意の数の他の基線分離が、第1の羽根944−4の方位の角度に基づいて、三角形の特性及び/または従来の三角関数にしたがって判定され得る。
したがって、非回転撮像装置950−5及び回転撮像装置950−4、または他の回転撮像装置950−1、950−2、950−3のいずれかを用いてキャプチャされた画像は、例えばステレオ測距アルゴリズムまたは技術によって、航空機910下部の1つまたは複数の点までのデプス情報の独立した判定を行うのに用いられ得る。そのような判定は、航空機910に関連する利用可能なデプス情報またはそれから生成される任意のデプスマップもしくはデプスモデルの精度を高め得、撮像装置950−1、950−2、950−3、950−4、950−5のいずれか1つによってキャプチャされた画像を用いてステレオ測距アルゴリズムまたは技術によって判定される外れまたは不正確な結果を除去し得る。
さらに、撮像装置950−1、950−2、950−3、950−4、950−5のいずれも、撮像データを同時にキャプチャするように構成され得、そのような撮像データのいずれも、限定されるものではないが、航空機910下部の1つまたは複数の点までのステレオ距離情報を判定することを含む任意の目的のために処理され得る。図9Dに示すように、航空機910及び/または制御センター920は、撮像装置950−1、950−2、950−3、950−4、950−5を別々にまたは連携して作動させて、撮像装置950−1、950−2、950−3、950−4、950−5のうち1つまたは複数によってキャプチャされた2つ以上の画像に出現する、航空機910下部の任意の数の点に関する静止画または動画、及び任意の関連する音声情報またはメタデータをキャプチャし得る。
羽根に統合された撮像装置を有するプロペラまたはそのようなプロペラを軸周りに回転させるモータは、さらに、軸に沿って位置合わせされた撮像装置を含み得、それぞれの撮像装置によってキャプチャされた画像を用いて、1つまたは複数のステレオ測距アルゴリズムまたは技術にしたがって、点までの距離または隔たりを判定し得る。図10A〜図10Cを参照すると、本開示の実施形態による、プロペラの羽根に統合された撮像装置を用いてステレオ距離情報を判定する1つのシステムの態様の図が示される。別段に記述される場合を除き、図10A、図10Bまたは図10Cに示される数字「10」に続く参照番号は、図9A、図9B、図9Cまたは図9Dに示される数字「9」がに続く、図8Aまたは図8Bに示される数字「8」に続く、図7に示される数字「7」に続く、図5A、図5Bまたは図5Cに示される数字「5」に続く、図4A、図4Bまたは図4Cに示される数字「4」に続く、図2に示される数字「2」に続く、または図1Aから1Eに示される数字「1」に続く参照番号を含む構成要素または特徴に類似する構成要素または特徴を示す。
図10A〜図10Cに示すように、モータ1030は、それに回転可能に結合されたプロペラ1040を含む。プロペラ1040は、第1の羽根1044及び第2の羽根1046を含み、撮像装置1050−1は、第1の羽根1044の裏面に統合される。追加して、撮像装置1050−2も、モータ1030の裏面に統合される。撮像装置1050−1及び撮像装置1050−2は、それらのそれぞれの方位の軸が互いに対して平行になるように位置合わせされ、それぞれの撮像装置1050−1、1050−2の視野は、かなりの程度まで交差し重なり、その交差及び重なりは、モータ1030の下で基準距離から始まる。
モータ1030は、プロペラ1040を、撮像装置1050−2の方位の軸と一致する軸の周りに回転させるように構成されている。したがって、撮像装置1050−1は、プロペラ1040のハブまたはボスから距離rにおいて第1の羽根1044の裏面に統合されるので、撮像装置1050−1及び撮像装置1050−2は、第1の羽根1044の方位の角度にかかわらず、互いから固定距離rを保つ。例えば、図10A、図10B及び図10Cに示すように、第1の羽根1044は、第1の角度θか第2の角度θか第3の角度θに位置合わせされるかである。かくして、プロペラ1040及びモータ1030、ならびにそれら上に設けられた撮像装置1050−1、1050−2は、第1の羽根1044が任意の角度方位に、例えば、第1の角度θ、第2の角度θもしくは第3の角度θの1つもしくは複数に、または任意の中間角度にある際、撮像装置1050−1、1050−2の両方の視野内の点までのステレオ距離情報を判定するのに利用され得る。さらに、撮像装置1050−2はシーンの画像を高い速度率で連続してまたは実質的に連続してキャプチャするのに用いられ得るので、撮像装置1050−2は、様々な視点からシーンの画像をキャプチャし得、それによって、そのような画像を用いて判定される任意のステレオ距離情報の精度を高め、ステレオ距離情報から生成される任意の点群、デプスモデルまたは他の表現の解像度を向上させる。
本明細書中に開示される実装例は、フレームと;第1のシャフトを、第1のシャフトによって画定される第1の軸周りに回転させるように構成された、フレームに取り付けられた第1の推進モータと;第1のシャフトに回転可能に結合された、第1の複数の羽根を有する第1のプロペラと;第1の複数の羽根の第1の羽根の裏面に埋め込まれた第1のデジタルカメラと;少なくとも1つのコンピュータプロセッサとを含む、無人航空機を含み得る。少なくとも1つのコンピュータプロセッサは、少なくとも、第1の推進モータに、第1のプロペラを第1の所定速度で回転させ;第1のデジタルカメラに、第1のデジタル画像を第1の時間にキャプチャさせ、第1のデジタルカメラが内部に埋め込まれた第1の羽根は、第1の時間において、第1の角度方位に位置合わせされ;第1のデジタルカメラに、第2のデジタル画像を第2の時間にキャプチャさせ、第1のデジタルカメラが内部に埋め込まれた第1の羽根は、第2の時間において、第2の角度方位に位置合わせされ;第1の時間における第1のデジタルカメラの第1の位置と第2の時間における第1のデジタルカメラの第2の位置の間の基線距離を判定し;第1の画像の少なくとも一部内の、無人航空機下部の対象物の一部の第1の表現を認識し;第2の画像の少なくとも一部内の、無人航空機下部の対象物の一部の第2の表現を認識し;対象物の一部の第1の位置を、基線距離、第1のデジタルカメラの焦点距離、第1の表現及び第2の表現に少なくとも部分的に基づいて判定し;第1の位置に少なくとも部分的に基づいて無人航空機下部の対象物の一部までの第1の距離を判定するように構成され得る。
任意選択的に、無人航空機の少なくとも1つのコンピュータプロセッサは、さらに、少なくとも、撮像装置の第1の位置から対象物の一部の第1の表現を通って延在する第1の線を画定し;撮像装置の第2の位置から対象物の一部の第2の表現を通って延在する第2の線を画定し;第1の線と第2の線の交点を識別し、対象物の一部の第1の位置は、第1の線と第2の線の交点に少なくとも部分的に基づいて判定されるように構成され得る。任意選択的に、無人航空機の少なくとも1つのコンピュータプロセッサは、さらに、少なくとも、第1の所定速度に少なくとも部分的に基づいて、第2の角度方位または第2の時間の少なくとも1つを選択するように構成され得る。任意選択的に、無人航空機は、さらに、フレームに取り付けられた第2の推進モータであって、第2の推進モータは第2のシャフトを、第2のシャフトによって画定される第2の軸の周りを回転させるように構成された、第2の推進モータと;第2のシャフトに回転可能に結合されている、第2の複数の羽根を有する第2のプロペラと;第2の複数の羽根のうち第2の羽根の裏面に埋め込まれた第2のデジタルカメラとを含み得る。
本明細書中に開示される実装例は、第1の時間において第1の撮像装置によってシーンの少なくとも一部の第1の画像をキャプチャすることであって、第1の撮像装置は、第1の航空機の第1のプロペラの第1の羽根の第1の表面に、第1のプロペラの第1のハブから第1の半径において統合され得、第1のプロペラは、第1の角速度で回転していてもよい、キャプチャすることと;第2の時間において第1の撮像装置によってシーンの少なくとも一部の第2の画像をキャプチャすることと;第1の画像におけるシーンの少なくとも一つの点を少なくとも1つのコンピュータプロセッサによって認識することと;第2の画像におけるシーンの少なくとも1つの点を少なくとも1つのコンピュータプロセッサによって認識することと;シーンの少なくとも1つの点までの第1の距離を、第1の画像及び第2の画像に少なくとも部分的に基づいて少なくとも1つのコンピュータプロセッサによって判定することとを含む方法を有し得る。
任意選択的に、方法はまた、第1の時間における第1の撮像装置の第1の位置を判定することと;第2の時間における第1の撮像装置の第2の位置を判定することと;第1の位置と第2の位置の間の基線距離を判定することとを含み得、シーンの少なくとも1つの点までの第1の距離は、基線距離に少なくとも部分的に基づいて判定され得る。任意選択的に、第1の羽根は、第1の時間において第1の角度方位にあり得、第2の時間において第2の角度方位にあり得、第2の角度方位は、第1の角度方位から約180度離れており、基線距離は、第1の半径の約2倍である。任意選択的に、方法はまた、第1の画像におけるシーンの少なくとも1つの点の第1の表現を少なくとも1つのコンピュータプロセッサによって識別することと;第2の画像におけるシーンの少なくとも1つの点の第2の表現を少なくとも1つのコンピュータプロセッサによって識別することと;第1の位置から第1の表現を通る第1のエピポーラ線を少なくとも1つのコンピュータプロセッサによって画定することと;第2の位置から第2の表現を通る第2のエピポーラ線を少なくとも1つのコンピュータプロセッサによって画定することと;第1のエピポーラ線と第2のエピポーラ線の交点の位置を少なくとも1つのコンピュータプロセッサによって判定することと;対象物までの第1の距離を、第1のエピポーラ線と第2のエピポーラ線の交点の位置に少なくとも部分的に基づいて、少なくとも1つのコンピュータプロセッサによって判定することとを含み得る。
任意選択的に、方法はまた、第1の時間における第1の羽根の第1の角度方位を判定することと;第2の時間における第1の羽根の第2の角度方位を判定することと;第1の角度方位と第2の角度方位の差に基づいて、第1の画像及び第2の画像を互いに対して位置合わせすることとを含み得る。
任意選択的に、方法はまた、第1の画像の複数の点を少なくとも1つのコンピュータプロセッサによって認識することと;第2の画像における複数の対象物の少なくともいくつかの部分を少なくとも1つのコンピュータプロセッサによって認識することと;シーンの複数の点のうち少なくともいくつかまでの距離を、第1の画像及び第2の画像に少なくとも部分的に基づいて、少なくとも1つのコンピュータプロセッサによって判定することであって、第1の距離は、距離のうちの1つであり得る、判定することと;シーンに対する点群を、距離に少なくとも部分的に基づいて画定することとを含み得、デプスマップは、複数の領域の各々までの隔たりを表現し、デプスマップの領域の各々は、複数の対象物のうち少なくともいくつかの部分のうちの1つに対応する。任意選択的に、方法はまた、航空機の着陸地点を、少なくとも1つのコンピュータプロセッサによって、点群に少なくとも部分的に基づいて選択することを含み得る。
任意選択的に、方法はまた、第1の時間または第2の時間において第2の撮像装置によってシーンの少なくとも一部の第3の画像をキャプチャすることであって、第2の撮像装置は、第1のプロペラの第2の羽根の第2の表面に、第1のハブから第2の半径において統合され得る、キャプチャすることと;第3の画像におけるシーンの少なくとも1つの点を、少なくとも1つのコンピュータプロセッサによって認識することと;シーンの少なくとも1つの点までの第2の距離を、第3の画像、及び第1の画像または第2の画像の一方に少なくとも部分的に基づいて、少なくとも1つのコンピュータプロセッサによって判定することとを含み得る。任意選択的に、方法はまた、シーンの少なくとも一部の第3の画像を、第1の時間または第2の時間において第2の撮像装置によってキャプチャすることであって、第2の撮像装置は、第1の航空機のフレームまたは第1のプロペラに回転可能に結合されている第1のモータのうち少なくとも一方の第2の表面に統合され得る、キャプチャすることと;第3の画像におけるシーンの少なくとも1つの点を、少なくとも1つのコンピュータプロセッサによって認識することと;シーンの少なくとも1つの点までの第2の距離を、第3の画像、及び第1の画像または第2の画像の一方に少なくとも部分的に基づいて判定することとを含み得る。
任意選択的に、方法はまた、シーンの少なくとも一部の第3の画像を、第1の時間または第2の時間の一方において第2の撮像装置によってキャプチャすることであって、第2の撮像装置は、第1の航空機の第2のプロペラの第2の羽根の第2の表面に、第2のプロペラの第2のハブから第2の半径において統合され得、第2のプロペラは、第2の角速度で回転中であり得る、キャプチャすることと;第3の画像におけるシーンの少なくとも1つの点を、少なくとも1つのコンピュータプロセッサによって認識することと;シーンの少なくとも1つの点までの第2の距離を、第3の画像、及び第1の画像または第2の画像のうちの一方に少なくとも部分的に基づいて判定することとを含み得る。任意選択的に、第1の時間と第2の時間の差は、約100分の1秒であり得る。任意選択的に、第1の角速度は、少なくとも3000の毎分回転数であり得る。
本明細書中に開示される実装例は、推進モータのシャフトに取り付けるように構成されたハブを含むプロペラであって、シャフトは回転の軸を画定する、プロペラと;ハブに結合された第1の羽根と;第1の羽根の第1の表面内に、ハブから第1の半径において組み込まれた第1の撮像装置であって、シャフトによって画定された回転の軸に実質的に平行に位置合わせされた第1の方位の軸を有する第1のレンズを備える、第1の撮像装置とを含み得る。任意選択的に、プロペラはまた、推進モータのシャフトに回転可能に取り付けられ得、第1の撮像装置は、第1の時間においてすなわち第1の羽根が第1の角度方位に位置合わせされた状態で、第1の画像をキャプチャするように構成され得、かつ、第2の時間においてすなわち第1の羽根が第2の角度方位に位置合わせされた状態で、第2の画像をキャプチャするように構成され得る。任意選択的に、第1の方位は、第2の方位から180度にあり得る。
任意選択的に、プロペラはまた、ハブに結合された第2の羽根と;第2の羽根の第2の表面内に、ハブから第2の半径において埋め込まれた第2の撮像装置とを含み得、第2の撮像装置は、シャフトによって画定される回転の軸に実質的に平行に位置合わせされた第2の方位の軸を有する第2のレンズを含み得る。
本開示は、本開示のシステム及び方法を実施するための例示的な技術、構成要素、及び/またはプロセスを使用して本明細書に記載されているが、当業者であれば、本明細書に記載された同一の機能(複数可)及び/または結果(複数可)を達成し、かつ本開示の範囲内に含まれる、他の技術、構成要素、及び/またはプロセス、または本明細書に記載の技術、構成要素、及び/またはプロセスの他の組み合わせ及びシーケンスが使用または実行され得ることを理解すべきである。
本明細書中で用いる「前方」飛行または「水平」飛行という用語は、地面(すなわち海面)に実質的に平行な方向における飛行を指す。本明細書で用いる「垂直」飛行という用語は、地心から実質的に半径方向外側に拡張する方向における飛行を指す。当業者は、飛行軌跡が「前方」飛行すなわち「水平」飛行及び「垂直」飛行のベクトルの両方の成分を含み得ることを認識するであろう。
本明細書中に開示する実施形態のいくつかは、倉庫または他の同様の設備から顧客にペイロードを配達するための無人航空機の使用を参照するが、当業者は、本明細書に開示されるシステム及び方法はそのように限定されず、任意の意図された工業的用途、商業的用途、娯楽的用途または他の用途のために固定翼または回転翼を有する任意の種類または形の航空機(例えば、有人または無人)と関連して利用され得ることを認識するであろう。
本明細書中に明示的にまたは黙示的に別段の指示がない限り、本明細書中で特定の実施形態に関して記載された特徴、特性、代替物または変形のいずれも、本明細書中に記載された任意の他の実施形態にも適用、使用、または組み込み得ること、及び本開示の図面と詳細な説明は、添付の特許請求の範囲によって定義される様々な実施形態に対する全ての変形、等価物及び代替物を網羅することを意図することが理解されるべきである。さらに、図3または6の流れ図に表現されるプロセスを含むが、これらに限定されない、本明細書に記載される本開示の1つまたは複数の方法またはプロセスに関して、そのような方法またはプロセスが提示される順番は、特許請求された発明に対する制限として解釈されることを意図しておらず、本明細書に記載される任意の数の方法またはプロセスステップまたはボックスは、本明細書に記載された方法またはプロセスを実現するために、任意の順番において、及び/または並列して組み合わされることが可能である。また、本明細書の図面は縮尺通りに描かれていない。
特に断りのない限り、または使用されている文脈の中でそれ以外に理解されない限り、とりわけ、「できる」、「場合がある」、「可能性がある」または「してよい」等の条件付き言語は、概して、特定の実施形態が特定の特徴、要素、及び/またはステップを含む場合がある、または含む可能性があるが、特定の特徴、要素、及び/またはステップを要求しないまたは必要としないことを許容的に伝達することを意図する。同様に、「include(含む)」、「including(含んでいる)」及び「includes(含む)」などの用語は、一般に、「含むがこれに限定するものではない」ことを意味することが意図される。したがって、そのような条件付き言語は、一般に、特徴、要素及び/もしくはステップが1つもしくは複数の実施形態にいずれにせよ必要とされること、または、1つもしくは複数の実施形態が、これらの特徴、要素及び/もしくはステップが任意の特定の実施形態に含まれているまたは実行されるかどうかを、ユーザ入力またはプロンプトを用いてまたは用いずに、決定する論理を必ず含むことを黙示することを意図しない。
特に明記しない限り、「X、YまたはZのうちの少なくとも1つ」または「X、Y及びZのうちの少なくとも1つ」という句などの選言的な言葉は、そうでなければ項目、用語等がX、YもしくはZまたはそのいずれかの組み合わせ(例えば、X、Y及び/またはZ)であってよいことを示すために一般的に用いられるとして文脈の中で理解される。ゆえに、このような選言的言語は、特定の実施形態がXの少なくとも1つ、Yの少なくとも1つ、またはZの少なくとも1つがそれぞれ存在することを必要とすることを黙示することを一般的に意図しておらず、意図するべきではない。
特に明記しない限り、「a」または「an」などの冠詞は、一般に、1つまたは複数の記載された項目を含むと解釈すべきである。したがって、「a device configured to(〜するように構成された装置)」等の句は、1つまたは複数の列挙された装置を含むことを意図する。そのような1つまたは複数の列挙された装置は、記載された列挙を実行するように集合的に構成されることもできる。例えば、「列挙A、B及びCを実行するように構成されたプロセッサ」は、列挙B及びCを実行するように構成された第2のプロセッサと連動して機能し、列挙Aを実行するように構成された第1のプロセッサを含む場合がある。
本明細書中で使用される「約」、「およそ」、「概して」、「ほぼ」または「実質的に」という用語のような本明細書中で使用される程度の言語は、記載された値、量、または依然として所望の機能を果たすかもしくは所望の結果を達成する特性に近似の値、量または特性を示す。例えば、用語「約」、「およそ」、「概して」、「ほぼ」または「実質的に」という用語は、記載された量の10%未満の範囲内、5%未満の範囲内、1%未満の範囲内、0.1%未満の範囲内、及び0.01%未満の範囲内である量を指してよい。
本発明をその例示的な実施形態に関して説明し示したが、前述の、及び様々な他の追加及び省略が、本開示の趣旨及び範囲から逸脱することなく、その中で、及びそれになされ得る。

Claims (14)

  1. 無人航空機であって、
    フレームと、
    前記フレームに取り付けられた第1の推進モータであって、第1のシャフトを前記第1のシャフトによって画定された第1の軸周りに回転させるように構成されている、前記第1の推進モータと、
    前記第1のシャフトに回転可能に結合されている、第1の複数の羽根を有する第1のプロペラと、
    前記第1の複数の羽根のうちの第1の羽根の裏面に埋め込まれた第1のデジタルカメラと、
    少なくとも1つのコンピュータプロセッサとを備え、
    前記少なくとも1つのコンピュータプロセッサは、少なくとも、
    前記第1の推進モータに、前記第1のプロペラを第1の所定速度で回転させ、
    前記第1のデジタルカメラに、第1の時間において第1のデジタル画像をキャプチャさせ、前記第1のデジタルカメラが内部に埋め込まれた前記第1の羽根は、前記第1の時間において第1の角度方位に位置合わせされており、
    前記第1のデジタルカメラに、第2の時間において第2のデジタル画像をキャプチャさせ、前記第1のデジタルカメラが内部に埋め込まれた前記第1の羽根は、前記第2の時間において第2の角度方位に位置合わせされており、
    前記第1の時間における前記第1のデジタルカメラの第1の位置と前記第2の時間における前記第1のデジタルカメラの第2の位置の間の基線距離を判定し、
    前記第1の画像の少なくとも一部内の、前記無人航空機下部の対象物の一部の第1の表現を認識し、
    前記第2の画像の少なくとも一部内の、前記無人航空機下部の前記対象物の前記一部の第2の表現を認識し、
    前記基線距離、前記第1のデジタルカメラの焦点距離、前記第1の表現及び前記第2の表現に基づいて、前記対象物の前記一部の第1の位置を判定し、
    前記第1の位置に基づいて、前記無人航空機下部の前記対象物の前記一部までの第1の距離を判定するように構成されている、前記無人航空機。
  2. 前記少なくとも1つのコンピュータプロセッサが、さらに、少なくとも、
    前記撮像装置の前記第1の位置から前記対象物の前記一部の前記第1の表現を通って延在する第1の線を画定し、
    前記撮像装置の前記第2の位置から前記対象物の前記一部の前記第2の表現を通って延在する第2の線を画定し、
    前記第1の線と前記第2の線の交点を識別するように構成され、
    前記対象物の前記一部の前記第1の位置は、前記第1の線と前記第2の線の前記交点に基づいて判定される、請求項1に記載の無人航空機。
  3. 前記少なくとも1つのコンピュータプロセッサが、さらに、少なくとも、
    前記第2の角度方位または前記第2の時間のうち少なくとも一方を、前記第1の所定速度に基づいて選択するように構成されている、請求項1に記載の無人航空機。
  4. シーンの少なくとも一部の第1の画像を、第1の時間において第1の撮像装置によってキャプチャすることであって、前記第1の撮像装置は、第1の航空機の第1のプロペラの第1の羽根の第1の表面に、前記第1のプロペラの第1のハブから第1の半径において統合され、前記第1のプロペラは、第1の角速度で回転中である、前記キャプチャすることと、
    前記シーンの少なくとも前記一部の第2の画像を第2の時間において前記第1の撮像装置によってキャプチャすることと、
    前記第1の画像における前記シーンの少なくとも1つの点を、少なくとも1つのコンピュータプロセッサによって認識することと、
    前記第2の画像における前記シーンの前記少なくとも1つの点を、前記少なくとも1つのコンピュータプロセッサによって認識することと、
    前記第1の時間における前記第1の撮像装置の第1の位置を判定することと、
    前記第2の時間における前記第1の撮像装置の第2の位置を判定することと、
    前記第1の位置と前記第2の位置の間の基線距離を判定することと、
    前記シーンの前記少なくとも1つの点までの第1の距離を、前記少なくとも1つのコンピュータプロセッサによって、前記基線距離、前記第1の画像及び前記第2の画像に基づいて判定することとを含む、方法。
  5. 前記第1の羽根が、前記第1の時間において第1の角度方位にあり、
    前記第1の羽根が、前記第2の時間において第2の角度方位にあり、
    前記第2の角度方位は、前記第1の角度方位から約180度離れており、
    前記基線距離は、前記第1の半径の約2倍である、請求項4に記載の方法。
  6. 前記第1の画像における前記シーンの前記少なくとも1つの点を認識することが、
    前記第1の画像における前記シーンの前記少なくとも1つの点の第1の表現を、前記少なくとも1つのコンピュータプロセッサによって識別することを含み、
    前記第2の画像における前記シーンの前記少なくとも1つの点を認識することが、
    前記第2の画像における前記シーンの前記少なくとも1つの点の第2の表現を、前記少なくとも1つのコンピュータプロセッサによって識別することを含み、
    前記対象物の前記一部までの前記第1の距離を判定することが、
    前記第1の位置から前記第1の表現を通る第1のエピポーラ線を、前記少なくとも1つのコンピュータプロセッサによって画定することと、
    前記第2の位置から前記第2の表現を通る第2のエピポーラ線を、前記少なくとも1つのコンピュータプロセッサによって画定することと、
    前記第1のエピポーラ線と前記第2のエピポーラ線の交点の位置を、前記少なくとも1つのコンピュータプロセッサによって判定することと、
    前記対象物までの前記第1の距離を、前記第1のエピポーラ線と前記第2のエピポーラ線の前記交点の前記位置に基づいて、前記少なくとも1つのコンピュータプロセッサによって判定することとを含む、請求項4に記載の方法。
  7. 前記第1の時間における前記第1の羽根の第1の角度方位を判定することと、
    前記第2の時間における前記第1の羽根の第2の角度方位を判定することとをさらに含み、
    前記シーンの前記少なくとも1つの点までの前記第1の距離を、前記第1の画像及び前記第2の画像に基づいて判定することが、
    前記第1の画像及び前記第2の画像を、前記第1の角度方位と前記第2の角度方位の差に基づいて互いに対して位置合わせすることを含む、請求項4に記載の方法。
  8. 前記第1の画像における前記シーンの前記少なくとも1つの点を認識することが、
    前記第1の画像の複数の点を前記少なくとも1つのコンピュータプロセッサによって認識することを含み、
    前記第2の画像における前記シーンの前記少なくとも1つの点を認識することが、
    前記第2の画像における前記複数の対象物のうち少なくともいくつかの一部を、前記少なくとも1つのコンピュータプロセッサによって認識することを含み、
    前記シーンの前記少なくとも1つの点までの前記第1の距離を判定することが、
    前記シーンの前記複数の点のうち少なくともいくつかまでの距離を、前記第1の画像及び前記第2の画像に基づいて、前記少なくとも1つのコンピュータプロセッサによって判定することであって、前記第1の距離は、前記距離のうちの1つである、判定することと、
    前記シーンに対する点群を、前記距離に基づいて画定することとを含み、前記デプスマップは、複数の領域の各々までの距離を表現し、前記デプスマップの前記領域の各々は、前記複数の対象物のうち前記少なくともいくつかの前記一部のうち1つに対応する、請求項4に記載の方法。
  9. 前記シーンの少なくとも前記一部の第3の画像を、前記第1の時間または前記第2の時間において第2の撮像装置によってキャプチャすることであって、前記第2の撮像装置は、前記第1のプロペラの第2の羽根の第2の表面に、前記第1のハブから第2の半径において統合されている、前記キャプチャすることと、
    前記第3の画像における前記シーンの前記少なくとも1つの点を、前記少なくとも1つのコンピュータプロセッサによって認識することと、
    前記シーンの前記少なくとも1つの点までの第2の距離を、前記少なくとも1つのコンピュータプロセッサによって、前記第3の画像、及び前記第1の画像または前記第2の画像の一方に基づいて判定することとをさらに含む、請求項4に記載の方法。
  10. 前記シーンの少なくとも前記一部の第3の画像を、前記第1の時間または前記第2の時間において第2の撮像装置によってキャプチャすることであって、前記第2の撮像装置は、前記第1の航空機のフレームまたは前記第1のプロペラに回転可能に結合されている第1のモータの少なくとも一方の第2の表面に統合されている、前記キャプチャすることと、
    前記第3の画像における前記シーンの前記少なくとも1つの点を、前記少なくとも1つのコンピュータプロセッサによって認識することと、
    前記シーンの前記少なくとも1つの点までの第2の距離を、前記第3の画像、及び前記第1の画像または前記第2の画像のうち一方に基づいて判定することとをさらに含む、請求項4に記載の方法。
  11. 前記シーンの少なくとも前記一部の第3の画像を、前記第1の時間または前記第2の時間の一方において第2の撮像装置によってキャプチャすることであって、前記第2の撮像装置は、前記第1の航空機の第2のプロペラの第2の羽根の第2の表面に、前記第2のプロペラの第2のハブから第2の半径において統合され、前記第2のプロペラは、第2の角速度で回転中である、前記キャプチャすることと、
    前記第3の画像における前記シーンの前記少なくとも1つの点を、前記少なくとも1つのコンピュータプロセッサによって認識することと、
    前記シーンの前記少なくとも1つの点までの第2の距離を、前記第3の画像、及び前記第1の画像または前記第2の画像のうち一方に基づいて判定することとをさらに含む、請求項4に記載の方法。
  12. プロペラであって、
    回転の軸を画定し前記プロペラが回転可能に取り付けられる、推進モータのシャフトに取り付けるように構成されたハブと、
    前記ハブに結合された第1の羽根と、
    前記第1の羽根の第1の表面内に、前記ハブから第1の半径において埋め込まれた第1の撮像装置とを備え、
    前記第1の撮像装置は、前記シャフトによって画定された回転の前記軸に実質的に平行に位置合わせされた第1の方位の軸を有する第1のレンズを有し、
    前記第1の撮像装置は、第1の時間に又は前記第1の羽根が第1の角度方位に位置合わせされた状態で、第1の画像をキャプチャするように構成され、
    前記第1の撮像装置は、第2の時間に又は前記第1の羽根が第2の角度方位に位置合わせされた状態で、第2の画像をキャプチャするように構成されている、プロペラ。
  13. 前記第1の方位は、前記第2の方位から180度にある請求項12に記載のプロペラ
  14. 前記ハブに結合された第2の羽根と、
    前記第2の羽根の第2の表面内に、前記ハブから第2の半径において埋め込まれた第2の撮像装置とをさらに備え、
    前記第2の撮像装置は、前記シャフトによって画定された回転の前記軸に実質的に平行に位置合わせされた第2の方位の軸を有する第2のレンズを備える、請求項12に記載のプロペラ。

JP2019508940A 2016-08-22 2017-08-04 プロペラの羽根に統合された撮像装置を用いたステレオ距離情報の判定 Active JP6700482B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/243,844 US10033980B2 (en) 2016-08-22 2016-08-22 Determining stereo distance information using imaging devices integrated into propeller blades
US15/243,844 2016-08-22
PCT/US2017/045597 WO2018038897A1 (en) 2016-08-22 2017-08-04 Determining stereo distance information using imaging devices integrated into propeller blades

Publications (2)

Publication Number Publication Date
JP2019532268A JP2019532268A (ja) 2019-11-07
JP6700482B2 true JP6700482B2 (ja) 2020-05-27

Family

ID=59626720

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019508940A Active JP6700482B2 (ja) 2016-08-22 2017-08-04 プロペラの羽根に統合された撮像装置を用いたステレオ距離情報の判定

Country Status (5)

Country Link
US (2) US10033980B2 (ja)
EP (1) EP3500821A1 (ja)
JP (1) JP6700482B2 (ja)
CN (1) CN109564092B (ja)
WO (1) WO2018038897A1 (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9798322B2 (en) 2014-06-19 2017-10-24 Skydio, Inc. Virtual camera interface and other user interaction paradigms for a flying digital assistant
US9678506B2 (en) 2014-06-19 2017-06-13 Skydio, Inc. Magic wand interface and other user interaction paradigms for a flying digital assistant
US12007763B2 (en) 2014-06-19 2024-06-11 Skydio, Inc. Magic wand interface and other user interaction paradigms for a flying digital assistant
JPWO2016035181A1 (ja) 2014-09-03 2017-06-22 株式会社ニコン 撮像装置、情報処理装置、及び撮像システム
US20180376051A9 (en) * 2015-12-31 2018-12-27 Ground Zero at Center Stage LLC Surface integrated camera mesh for semi-automated video capture
US10417918B2 (en) * 2016-01-20 2019-09-17 Honeywell International Inc. Methods and systems to assist in a search and rescue mission
JPWO2017154706A1 (ja) * 2016-03-09 2018-12-27 株式会社ニコン 検出装置、情報処理装置、検出方法、検出プログラム、及び検出システム
US9963246B2 (en) * 2016-03-28 2018-05-08 Amazon Technologies, Inc. Combining depth and thermal information for object detection and avoidance
CN107305374A (zh) * 2016-04-22 2017-10-31 优利科技有限公司 无人机航拍***
US20170358101A1 (en) * 2016-06-10 2017-12-14 Apple Inc. Optical Image Stabilization for Depth Sensing
US10520943B2 (en) 2016-08-12 2019-12-31 Skydio, Inc. Unmanned aerial image capture platform
US10078908B2 (en) * 2016-08-12 2018-09-18 Elite Robotics Determination of relative positions
US10033980B2 (en) 2016-08-22 2018-07-24 Amazon Technologies, Inc. Determining stereo distance information using imaging devices integrated into propeller blades
US10642271B1 (en) * 2016-08-26 2020-05-05 Amazon Technologies, Inc. Vehicle guidance camera with zoom lens
US11042984B2 (en) * 2016-11-10 2021-06-22 Movea Systems and methods for providing image depth information
US11295458B2 (en) 2016-12-01 2022-04-05 Skydio, Inc. Object tracking by an unmanned aerial vehicle using visual sensors
CN109983468A (zh) * 2016-12-01 2019-07-05 深圳市大疆创新科技有限公司 使用特征点检测和跟踪对象的方法和***
US10223591B1 (en) 2017-03-30 2019-03-05 Amazon Technologies, Inc. Multi-video annotation
US10354400B2 (en) * 2017-05-19 2019-07-16 Samsung Electronics Co., Ltd. Method and system for matching stereo images
US10721461B2 (en) * 2017-07-28 2020-07-21 California Institute Of Technology Collaborative stereo system for three-dimensional terrain and object reconstruction
US20190100306A1 (en) * 2017-09-29 2019-04-04 Intel IP Corporation Propeller contact avoidance in an unmanned aerial vehicle
US10607310B1 (en) 2017-10-17 2020-03-31 Amazon Technologies, Inc. Determining ranges by imaging devices with dynamic baseline reconfiguration
CN108140245B (zh) * 2017-12-25 2022-08-23 深圳市道通智能航空技术股份有限公司 测距方法、装置以及无人机
WO2020076737A1 (en) * 2018-10-07 2020-04-16 Ocula Corporation Fixed-element digital-optical measuring device
AU2019205949A1 (en) 2018-01-07 2020-07-16 Ocula Corporation Digital-optical object tracker
US10691943B1 (en) * 2018-01-31 2020-06-23 Amazon Technologies, Inc. Annotating images based on multi-modal sensor data
DE102018109828B4 (de) 2018-04-05 2022-02-17 Sick Ag Vorrichtung zur Bestimmung eines Abstandes zu einem Objekt in einem Raum
CN108680143A (zh) * 2018-04-27 2018-10-19 南京拓威航空科技有限公司 基于远程测距的目标定位方法、装置及无人机
US11120277B2 (en) * 2018-10-10 2021-09-14 Denso Corporation Apparatus and method for recognizing road shapes
US11151737B1 (en) * 2018-12-20 2021-10-19 X Development Llc Automatic field of view detection
CN109754420B (zh) * 2018-12-24 2021-11-12 深圳市道通智能航空技术股份有限公司 一种目标距离估计方法、装置及无人机
US11783475B2 (en) * 2020-02-07 2023-10-10 Meta Platforms Technologies, Llc In ear device customization using machine learning
CN111784766B (zh) * 2020-06-08 2024-05-24 易思维(杭州)科技股份有限公司 一种含螺纹目标物位姿的计算方法
US20220390964A1 (en) * 2021-06-04 2022-12-08 Thomas Andrew Youmans Cloud & hybrid-cloud flight vehicle & robotic control system ai & ml enabled cloud-based software & data system method for the optimization and distribution of flight control & robotic system solutions and capabilities

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5769359A (en) 1993-01-22 1998-06-23 Freewing Aerial Robotics Corporation Active feedback loop to control body pitch in STOL/VTOL free wing aircraft
US6056237A (en) 1997-06-25 2000-05-02 Woodland; Richard L. K. Sonotube compatible unmanned aerial vehicle and system
US20030230671A1 (en) 2000-08-24 2003-12-18 Dunn James P. Fuel cell powered electric aircraft
JP2004198732A (ja) * 2002-12-18 2004-07-15 Sony Computer Entertainment Inc 撮影補助器、画像処理方法、画像処理装置、コンピュータプログラム、プログラムを格納した記録媒体
US7616332B2 (en) 2004-12-02 2009-11-10 3M Innovative Properties Company System for reading and authenticating a composite image in a sheeting
TWI324576B (en) 2005-11-09 2010-05-11 Morgan Aircraft Llc Aircraft attitude control configuration
DE102010041096B4 (de) 2010-09-21 2024-05-08 Osram Gmbh Leuchtvorrichtung
US9208689B2 (en) 2011-08-19 2015-12-08 Aerovironment Inc. Deep stall aircraft landing
US20140024999A1 (en) 2012-07-17 2014-01-23 Elwha LLC, a limited liability company of the State of Delaware Unmanned device utilization methods and systems
US9214021B2 (en) 2012-10-09 2015-12-15 The Boeing Company Distributed position identification
DE202013012546U1 (de) 2012-11-15 2017-05-30 SZ DJI Technology Co., Ltd. Unbemanntes Luftfahrzeug mit mehreren Rotoren
US9085355B2 (en) 2012-12-07 2015-07-21 Delorean Aerospace, Llc Vertical takeoff and landing aircraft
US9633442B2 (en) * 2013-03-15 2017-04-25 Fotonation Cayman Limited Array cameras including an array camera module augmented with a separate camera
EP2973476A4 (en) 2013-03-15 2017-01-18 Pelican Imaging Corporation Systems and methods for stereo imaging with camera arrays
US9025825B2 (en) 2013-05-10 2015-05-05 Palo Alto Research Center Incorporated System and method for visual motion based object segmentation and tracking
US9802693B2 (en) 2013-06-14 2017-10-31 The Boeing Company Control surface calibration system
US20150252789A1 (en) * 2014-03-04 2015-09-10 Steffen Bunge Method for Detecting Deflection of the Blades of a Wind Turbine
CN106444795B (zh) 2014-03-27 2019-12-20 深圳市大疆创新科技有限公司 可移动物体的起飞辅助的方法以及***
JP6469962B2 (ja) * 2014-04-21 2019-02-13 薫 渡部 監視システム及び監視方法
CN104823018A (zh) * 2014-04-28 2015-08-05 深圳市大疆创新科技有限公司 测量装置及无人飞行器
US20150367957A1 (en) 2014-06-18 2015-12-24 Aai Corporation Providing visibility to a vehicle's environment via a set of cameras which is conformal to the vehicle
CN105659020B (zh) 2014-07-29 2018-04-03 深圳市大疆灵眸科技有限公司 增稳平台及保持负载稳定的方法
FR3029284B1 (fr) 2014-11-27 2016-12-09 Airbus Helicopters Dispositif de mesure des positions angulaires d'un element de pale de giravion par rapport a un moyen de rotor, giravion associe et procede de mesure correspondant
US20160214713A1 (en) 2014-12-19 2016-07-28 Brandon Cragg Unmanned aerial vehicle with lights, audio and video
KR20160112252A (ko) * 2015-03-18 2016-09-28 엘지전자 주식회사 무인항공장치 및 이의 제어방법
WO2017032335A1 (en) 2015-08-26 2017-03-02 Zhejiang Dahua Technology Co., Ltd. Methods and systems for traffic monitoring
CN105141815B (zh) * 2015-09-02 2018-07-31 小米科技有限责任公司 摄像头自动弹出装置和终端
US9828096B2 (en) 2016-02-23 2017-11-28 The Boeing Company Movable control surface ejection system
US9840339B1 (en) 2016-04-26 2017-12-12 Amazon Technologies, Inc. Sensors embedded within aerial vehicle control surfaces
US10654584B2 (en) * 2016-08-13 2020-05-19 Modern Technology Solutions, Inc. Refueling system and method
US10033980B2 (en) 2016-08-22 2018-07-24 Amazon Technologies, Inc. Determining stereo distance information using imaging devices integrated into propeller blades

Also Published As

Publication number Publication date
US20180054604A1 (en) 2018-02-22
JP2019532268A (ja) 2019-11-07
EP3500821A1 (en) 2019-06-26
US20180324403A1 (en) 2018-11-08
US10033980B2 (en) 2018-07-24
CN109564092B (zh) 2020-11-06
WO2018038897A1 (en) 2018-03-01
CN109564092A (zh) 2019-04-02
US10728516B2 (en) 2020-07-28

Similar Documents

Publication Publication Date Title
JP6700482B2 (ja) プロペラの羽根に統合された撮像装置を用いたステレオ距離情報の判定
JP7252943B2 (ja) 航空機のための対象物検出及び回避
US11704812B2 (en) Methods and system for multi-target tracking
US11263761B2 (en) Systems and methods for visual target tracking
US20210350111A1 (en) Camera configuration on movable objects
US10599149B2 (en) Salient feature based vehicle positioning
CN109417596B (zh) 多传感器图像稳定技术
CN108419446B (zh) 用于激光深度图取样的***及方法
EP3347789B1 (en) Systems and methods for detecting and tracking movable objects
WO2017147731A1 (en) Uav hardware architecture
US20200357141A1 (en) Systems and methods for calibrating an optical system of a movable object
US10992921B1 (en) Self-calibrating stereo camera pairs provided aboard aerial vehicles
US11321873B1 (en) Calibrating and detecting vibration of stereo ranging systems
US10896512B1 (en) Determining and controlling propeller speeds using imaging devices
US10607310B1 (en) Determining ranges by imaging devices with dynamic baseline reconfiguration
US11869236B1 (en) Generating data for training vision-based algorithms to detect airborne objects

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200430

R150 Certificate of patent or registration of utility model

Ref document number: 6700482

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250