JP6205069B2 - 画像化システム及び方法 - Google Patents

画像化システム及び方法 Download PDF

Info

Publication number
JP6205069B2
JP6205069B2 JP2016547557A JP2016547557A JP6205069B2 JP 6205069 B2 JP6205069 B2 JP 6205069B2 JP 2016547557 A JP2016547557 A JP 2016547557A JP 2016547557 A JP2016547557 A JP 2016547557A JP 6205069 B2 JP6205069 B2 JP 6205069B2
Authority
JP
Japan
Prior art keywords
reference line
imaging
imaging device
imaging system
object distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016547557A
Other languages
English (en)
Other versions
JP2017505903A (ja
Inventor
ジョウ,グーユエ
タン,カータン
ヂャン,シンユー
ジャオ,ツォン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SZ DJI Technology Co Ltd
Original Assignee
SZ DJI Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SZ DJI Technology Co Ltd filed Critical SZ DJI Technology Co Ltd
Publication of JP2017505903A publication Critical patent/JP2017505903A/ja
Application granted granted Critical
Publication of JP6205069B2 publication Critical patent/JP6205069B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/246Calibration of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U20/00Constructional aspects of UAVs
    • B64U20/80Arrangement of on-board electronics, e.g. avionics systems or wiring
    • B64U20/87Mounting of imaging devices, e.g. mounting of gimbals
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U60/00Undercarriages
    • B64U60/40Undercarriages foldable or retractable
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S11/00Systems for determining distance or velocity not using reflection or reradiation
    • G01S11/12Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/001Constructional or mechanical details

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Studio Devices (AREA)

Description

本発明は、デジタル画像化に関し、より詳細には基準線を調整するための画像化システム及び方法に関するが、これに限定されない。
複数の画像化装置を使用して、立体視により3次元画像を形成する立体画像化技術は、多くの分野でますます一般的になってきている。立体画像化は、特に、機械の環境における3次元情報を収集することが望まれるロボット工学で役立つ場合が多い。立体画像化は、人間の目の両眼視を刺激し、立体視の原理を用いて奥行きを認知できるようにする。この技法によれば、複数の画像化装置を使用して所与の注目物体をわずかに異なる視点から観察し、人工画像化装置を使用することにより物体を再現できる。注目物体の画像は変化して複数の画像間に差異が生じる。この差異は、物体の位置に関する奥行き情報を伝達し、それによって物体の3次元画像化を可能にする。
立体を画像化する画像化システムの奥行きを解像する能力は、基準線、つまり2台の画像化装置間の距離の関数である。基準線は、立体画像化のためのシステムの有効視野を制限するが、次ぎに説明するように異なる方法が用いられる。例えば、基準線が小さすぎると、画像化システムは遠い物体を解像できない。基準線が大きすぎると、画像化システムは近傍の物体を見ることができない(結果的に、近傍物体の盲点が生じる)。さらに、基準線が大きすぎると、2台の画像化装置の視野の重複が少なくなり、奥行きを認知できる物体の数が制限される。さらに、基準線が大きく固定された場合、立体画像化システムが大きな空間を占め、扱いにくくなり得る。したがって、現在の多くの立体画像化システムにおいて、基準線は、画像化が望まれている物体が、近傍にあるか、あるいは遠くに離れているか、に応じて固定される。
上記の状態に対応するために、立体画像化のための基準線を自動的に調整することを支援する画像化システム及び方法が必要とされている。
本発明の第1の実施形態に従って、
画像化システムと注目物体の間の物体距離を取得するステップと、物体距離に従って基準線を自動的に調整するステップと、を含み、
少なくとも第1の画像化装置及び第2の画像化装置を含む複数の画像化装置を有する画像化システムの基準線を自動的に調整する方法、について説明する。
本発明に関わる方法において、物体距離を取得するステップは、第1の画像化装置を使用し、注目物体の第1の画像を取得するステップと、第2の画像化装置を使用し、注目物体の第2の画像を取得するステップと、第1の画像と第2の画像の間の両眼視差を決定するステップと、両眼視差を使用し、物体距離を決定するステップと、を含む。
本発明に関わる方法において、物体距離を取得するステップは、両眼視差を決定する前に第1の画像と第2の画像を修正するステップをさらに含む。
本発明に関わる方法において、物体距離を取得するステップは、注目物体上の複数の特徴点を取得するステップと、画像化システムと特徴点のそれぞれの間のそれぞれの特徴距離を決定するステップと、特徴距離を使用し、物体距離を決定するステップと、を含む。
本発明に関わる方法において、物体距離を決定するステップは、特徴距離の平均に基づいて物体距離を決定するステップを含む。
本発明に関わる方法において、物体距離を決定するステップは、特徴点の内の1つ以上を選択するステップと、選択された特徴点の特徴距離に基づいて物体距離を取得するステップと、を含む。
本発明に関わる方法において、特徴点を選択するステップは、画像化システムに最も近い特徴点の所定のパーセンテージを選択するステップと、画像化システムから最も遠い選択された特徴点の特徴距離として物体距離を取得するステップと、を含む。
本発明に関わる方法において、画像化システムと特徴点のそれぞれの間のそれぞれの特徴距離を決定するステップは、第1の画像化装置または第2の画像化装置によって取得された画像上の特徴点に対応するピクセルに基づいて特徴距離を決定するステップを含む。
本発明に関わる方法において、物体距離を取得するステップは、レーザーまたは超音波システムを使用し、物体距離を取得するステップを含む。

本発明に関わる方法において、調整するステップは、基準線が最小基準線以下である場合に、基準線を増加させるステップを含む。

本発明に関わる方法において、最小基準線は4×Z×L/fであり、Zは物体距離であり、Lは画像化装置の内の少なくとも1台のピクセル幅であり、fは画像化装置の内の少なくとも1台の焦点距離である。
本発明に関わる方法において、調整するステップは、基準線が最大基準線を超える場合に、基準線を減少させるステップを含む。

本発明に関わる方法において、調整するステップは、基準線が最大基準線以下の場合に、基準線を増加させるステップを含む。

本発明に関わる方法において、最大基準線はZ×tan(θ/2)であり、Zは物体距離であり、θは画像化装置の内の少なくとも1台の視角である。
本発明に関わる方法において、調整するステップは、第1の画像化装置の視野が、少なくとも閾値分、第2の画像化装置の視野と重複するまで基準線を増加させるステップを含む。

本発明に関わる方法は、基準線の自動調整後に画像化システムの外因性のパラメータを較正するステップをさらに含む。
本発明に関わる方法において、較正するステップは、画像化システムの並進外因性パラメータまたは回転外因性パラメータの内の少なくとも1つを較正するステップを含む。
本発明に関わる方法において、較正するステップは、基準線を自動的に調整するステップに従って並進外因性パラメータを初期較正するステップを含む。
本発明に関わる方法において、較正するステップは、初期較正するステップの後に外因性パラメータをさらに較正し、外因性パラメータを最適化するステップを含む。
本発明に関わる方法において、画像化システムは、無人航空機(UAV)であり、自動的に調整するステップは、UAVの飛行モードに依存している。
本発明に関わる方法において、調整するステップは、飛行モードが着陸モードであるときに基準線を減少させるステップを含む。

本発明に関わる方法において、調整するステップは、飛行モードが離陸モードであるときに基準線を増加させるステップを含む。

本発明に関わる方法において、調整するステップは、飛行モードが空中画像取得モードであるときに基準線を増加させるステップを含む。

本発明の他の実施形態に従って、上記方法の内のいずれか1つに従って自動基準線調整を実行する画像化システム、について説明する。
本発明の他の実施形態に従って、上記方法の内のいずれか1つに従って第1の画像化装置と第2の画像化装置を有する画像化システムの基準線を自動的に調整する命令を含むコンピュータプログラム、について説明する。

本発明の他の実施形態に従って、第1の画像化装置及び第2の画像化装置に接続される基準線調整機構と、画像化システムと注目物体の間の物体距離に従って基準線を自動的に調整するための基準線調整機構に制御信号を提供するコントローラと、を含み、複数の画像化装置を有する画像化システムの第1の画像化装置と第2の画像化装置の間の基準線を自動的に調整する装置、について説明する。
本発明に関わる装置において、コントローラは、第1の画像化装置を使用して注目物体の第1の画像を取得し、第2の画像化装置を使用して注目物体の第2の画像を取得するし、第1の画像と第2の画像の間の両眼視差を決定し、両眼視差を使用して物体距離を決定すること、によって物体距離を取得する。
本発明に関わる装置において、コントローラは、両眼視差を決定する前に第1の画像と第2の画像を修正する。
本発明に関わる装置において、コントローラは、
注目物体上の複数の特徴点を取得し、画像化システムと特徴点のそれぞれの間のそれぞれの特徴距離を決定し、特徴距離を使用して物体距離を決定すること、によって物体距離を取得する。
本発明に関わる装置において、コントローラは、特徴距離の平均に基づいて物体距離を取得する。
本発明に関わる装置において、コントローラは、特徴点の内の1つ以上を選択し、選択された特徴点の特徴距離に基づいて物体距離を取得する。
本発明に関わる装置において、コントローラは、画像化システムに最も近い特徴点の所定のパーセンテージを選択することによって特徴点を選択し、画像化システムから最も遠い選択された特徴点の特徴距離として物体距離を取得する。
本発明に関わる装置において、画像化システムと特徴点のそれぞれの間のそれぞれの特徴距離を決定することは、第1の画像化装置または第2の画像化装置によって取得された画像上の特徴点に対応するピクセルに基づいて特徴距離を決定することを含む。
本発明に関わる装置は、物体距離を取得するためのレーザーまたは超音波システムをさらに含む。

本発明に関わる装置において、基準線調整機構は、スクリュー軸機構、ラックアンドピニオン機構、スライダクランク機構、リニアモータ及び調整可能なフレームのうち少なくとも1つを含む。

本発明に関わる装置において、制御信号は、基準線が最小基準線以下である場合に、基準線を自動的に増加させるための信号である。
本発明に関わる装置において、最小基準線は4×Z×L/fであり、Zは物体距離であり、Lは画像化装置の内の少なくとも1台のピクセル幅であり、fは画像化装置の内の少なくとも1台の焦点距離である。
本発明に関わる装置において、制御信号は、基準線が最大基準線を超える場合に、基準線を自動的に減少させるための信号である。
本発明に関わる装置において、制御信号は、基準線が最大基準線以下である場合に、基準線を自動的に増加させるための信号である。
本発明に関わる装置において、コントローラは、第1の画像化装置の視野が少なくとも閾値分、第2の画像化装置の視野と重複するまで、基準線を自動的に増加させる。
本発明に関わる装置において、コントローラは、基準線の自動調整後に画像化システムの外因性パラメータを較正する。
本発明に関わる装置において、コントローラは、並進外因性パラメータまたは回転外因性パラメータの内の少なくとも1つを較正する。
本発明に関わる装置において、コントローラは、基準調整機構の線形変位に従って並進外因性パラメータを初期較正する。
本発明に関わる装置において、基準線調整機構はスクリュー軸機構を備え、コントローラはスクリュー軸機構の回転の程度に従って並進外因性パラメータを初期較正する。
本発明に関わる装置において、コントローラは、初期較正した後に外因性パラメータをさらに較正し、外因性パラメータを最適化する。
本発明に関わる装置において、コントローラは、バンドル調整を使用し、外因性パラメータをさらに較正する。
本発明に関わる装置において、画像化システムは、可動プラットフォームである。
本発明に関わる装置において、画像化システムは、無人航空機(UAV)である。
本発明に関わる装置において、コントローラは、UAVの飛行モードに応じて基準線を自動的に調整する。
本発明に関わる装置において、コントローラは、飛行モードが着陸モードであるときに基準線を減少させる。
本発明に関わる装置において、コントローラは、飛行モードが離陸モードであるときに基準線を増加させる。
本発明に関わる装置において、コントローラは、飛行モードが空中画像取得モードであるときに基準線を増加させる。
本発明の実施形態に関わる、複数の画像化装置を含んだ画像化システムのブロック図である。 画像化システムが基準線を調整する基準線調整機構を含む、図1に示した画像化システムのブロック図である。 図1に示した画像化システムの基準線調整を自動的に調整する方法のステップを示すフローチャートである。 物体距離を、複数の画像化装置を使用して決定する、図3に示した方法の代替実施形態を示す図である。 物体距離を、三角測量を使用して決定する、図4に示した方法の代替実施形態を示す図である。 物体距離を、両眼視差を使用して決定する、図3に示した方法のステップを示すフローチャートである。 物体距離を、複数の特徴点を使用して決定する、図3に示した方法のステップを示すフローチャートである。 基準線を物体距離に基づいて調整する、図3に示した方法のステップを示すフローチャートである。 外因性パラメータを基準線の調整後に較正する、図3に示した方法のステップを示すフローチャートである。 基準線調整機構がスクリュー軸機構を含む、図2に示した画像化システムの基準線調整機構の実施形態を示す詳細図である。 画像化システムが無人航空機(UAV)内に取り付けられる、図1に示した画像化システムの実施形態を示す図である。 画像化システムの基準線が調整された、図11に示した画像化システムの実施形態を示す図である。 画像化システムがUAVの機体に取り付けられる、図11に示した画像化システムの代替実施形態を示す図である。 画像化装置が調整可能なフレームに取り付けられる、図11に示した画像化システムの実施形態を示す図である。 画像化システムの基準線が調整された、図14に示した画像化システムの代替実施形態を示す図である。 注目物体に向けられた図1に示した画像化システムの実施形態を示す図である。 図1に示した画像化システムの基準線を調整する装置の実施形態を示す図である。
図が縮尺通りに描画されていないこと、及び類似する構造または機能の要素が図を通じて例示的な目的で類似した参照番号により表されることに留意する必要がある。図が好ましい実施形態の説明を容易にすることだけを目的としていることにも留意する必要がある。図は、すべての実施形態を説明するわけではなく、本発明の範囲を制限しない。
以下に、本発明に関わる、立体を画像化するための画像化システムの基準線を自動的に調整するシステム及び方法を説明する。本発明によるシステム及び方法は、従来の固定基準線画像化システムの限界を克服する。また、画像化システムにおける画像化装置は、外因性パラメータのセットによって細かく較正される。これらの外因性パラメータは、画像化装置の相対的な位置を画定し、異なる視点から撮影された異なる2次元画像に基づいて単一の3次元物体を再構築できる。基準線調整後、さらに画像化を実行する前に、対応する外因性パラメータを調整することも望ましい。したがって、以下に、基準線調整後に外因性パラメータを自動的に較正するシステム及び方法も説明する。
図1において、画像化システム100は、複数の画像化装置110とコントローラ190を備えている。画像化システム100は、場合により、任意の所定数の画像化装置110を含み得る。例えば、画像化システム100は、2台、3台、4台、5台、6台、またはより大きな数の画像化装置110を有し得る。図1には、4台の画像化装置110を含む画像化システム100が示されている。しかし、本発明はこの例に限定されない。画像化システム100の多様な追加の実施形態の例として、2台の画像化装置110を有するものを図示し、説明する。しかし、画像化システム100は、画像化装置110を2台だけ有することに制限されない。2台以上の画像化装置110を有する画像化システム100の場合、本明細書に示される自動基準線調整とパラメータ較正は、任意の組の画像化装置110として実施可能である。
画像化システム100において、画像化装置110を、希望する位置に任意に配置できる。画像化装置110の配置は、画像化の用途に依存し得る。例えば、ある実施形態において、画像化装置110は、(図5に示される)平行する光軸130を有するように並んで位置決めできる。他の実施形態では、画像化装置110は、画像化装置110の内の少なくとも2台の光軸130が平行にならないように位置決めできる。任意の2台の画像化装置110の(本明細書では原点とも称する)中心間の直線距離は、これらの画像化装置110間の(図2に示される)基準線bである。より詳細には、基準線bは、第1の画像化装置110のレンズ105の中心と第2の画像化装置110のレンズ105の中心との間の距離を指し得る。
画像化装置110のそれぞれは、光を検知し、検知した光を、画像として最終的にレンダリングできる電子信号に変換できる。本発明に関わるシステム及び方法において、使用するのに適する画像化装置110は、例えば、市販のカメラ及びカムコーダを含むが、これらに限定されない。適切な画像化装置110は、アナログ画像化装置(例えば、ビデオ撮像管)またはデジタル画像化装置(例えば、電荷接続素子(CCD)、相補型金属酸化物半導体素子(CMOS)、N型金属酸化物半導体素子(NMOS)画像化装置、及びそのハイブリッドまたは変形)の少なくとも一方を含み得る。デジタル画像化装置は、例えば、それぞれ1ピクセルの画像情報を取り込むことができる光検出器要素(図示しない)の2次元アレイを含み得る。画像化装置110は、少なくとも0.1メガピクセル、0.5メガピクセル、1メガピクセル、2メガピクセル、5メガピクセル、10メガピクセル、20メガピクセル、50メガピクセル、100メガピクセル、またはさらに大きな数のピクセルの解像度を有することが好ましい。また、画像化装置110は、デジタル一眼レフ(DSLR)レンズ、ピンホールレンズ、生物学レンズ、単凸ガラスレンズ、マクロレンズ、ズームレンズ、望遠レンズ、魚眼レンズ、広角レンズ等の光検出器要素の上に光の焦点を合わせるためのレンズ105も含み得る。画像化装置110は、色に基づいて検知された光を分離すること、またはフィルターにかけることの少なくとも一方を実行し、適切な光検出器要素の上に光を向ける装置(図示しない)を含むこともある。例えば、画像化装置110は、赤の光、緑の光、または青の光を選択されたピクセルセンサに通し、ベイヤパターンでインタレース方式のカラーモザイクグリッドを形成するカラーフィルタアレイを含み得る。また、例えば、画像化装置110は、光検出器要素の特性に基づいて異なる波長の光を分離する層状ピクセル光検出器要素のアレイを含んでも良い。画像化装置110は、サーモグラフィ、多重スペクトル画像の作成、赤外線検出、ガンマ検出、X線検出等の多様な用途での使用のための特異性機能を有し得る。画像化装置110は、例えば電気光学センサ、熱センサまたは赤外線センサ、カラーセンサまたは白黒センサ、多重スペクトル画像化センサ、分光光度計、分光計、温度計、または照度計の少なくとも1つを含み得る。
図1において、画像化装置110は、1台以上のコントローラ190と接続できる。例えば、画像化装置110は、それぞれ(図4から図5に示される)注目物体150の2次元画像120を取得し、データ通信システム(図示しない)を介して局所的にまたは遠隔の少なくとも一方で、画像120をコントローラ190に中継できる。コントローラ190は、例えば、立体視された2次元画像120を使用して注目物体150の3次元表示を再構築できる。また、コントローラ190は、画像化装置110と注目物体150の間の距離に基づいて基準線調整が必要かどうかを判断できる。また、コントローラ190は、基準線調整のために、画像化システム110のあらゆる構成部品に制御信号を伝達できる。また、コントローラ190は、立体画像化のために1つ以上の外因性パラメータを自動的に較正できる、という利点を有する。
コントローラ190は、画像取得、基準線調整、較正、及び本明細書で説明するあらゆる他の機能と動作を実行するために必要とされる任意の処理ハードウェアを含み得る。制限なく、コントローラ190は、1台以上の汎用マイクロプロセッサ(例えば、単一コアプロセッサまたはマルチコアプロセッサ)、特定用途向け集積回路、特定用途向け命令セットプロセッサ、グラフィックスプロセシングユニット、物理学処理ユニット、デジタル信号処理装置、副処理装置、ネットワーク処理装置、音声処理装置、暗号化処理装置等を含み得る。ある実施形態では、コントローラ190は、画像捕捉動作、画像フィルタリング動作、及び画像処理動作の速度と効率を強化するための特殊化されたハードウェアを含む画像処理エンジンまたは媒体処理装置を含み得る。このような動作は、例えば、ベイヤ変換、デモザイシング動作、雑音除去動作、画像鮮明化動作、または画像軟化動作の少なくとも1つを含む。
ある実施形態では、コントローラ190は、基準線調整とパラメータ較正を実行するために特殊化されたハードウェアを含み得る。例えば、特殊化されたハードウェアは、以下の(a)〜(e)の少なくとも1つを実行可能であるが、その機能はそれらに限定されない。(a)立体視された2次元画像120を使用し、注目物体150の3次元表示を再構築すること、(b)画像化装置110と注目物体150との間の距離に基づいて基準線調整が必要とされるかどうかを判断すること、(c)最適な基準線を決定すること、(d)基準線調整のための画像化システム100のあらゆる構成部品に制御信号を伝達すること、(e)立体画像化のための1つ以上の外因性パラメータを較正すること。
ある実施形態では、コントローラ190は、画像化装置110に物理的に隣接して配置される。この場合、コントローラ190と画像化装置110との間のデータは局所的に通信できる。局所通信の利点は、伝送遅延を削減し、リアルタイム基準線調整、画像処理、及びパラメータ較正を容易にできる点である。他の実施形態では、コントローラ190は、画像化装置110から遠隔に配置される。遠隔処理は、例えば重量の制限または画像化システム100の操作環境に関係する他の理由のために適切であり得る。ある実施形態において、本発明はこれに限定されないが、画像化装置110は、(図11から図13に示される)無人航空機200(UAV)等の可動プラットフォームの中に搭載される場合、地上端末または基地局等の集中処理のための遠隔端末(図示しない)に画像化データを伝達することが望ましくあり得る。集中処理は、例えば複数の無人航空機200が調整されたやり方で、関心のある所与の物体150を画像化する場合に望ましくあり得る。
多様な通信方法が、画像化装置110とコントローラ190との間の遠隔通信に使用できる。適切な通信方法は、例えば、無線、ワイヤレスフィディリティー(Wi−Fi)、セルラー、衛星、及び放送を含む。無線通信技術は、例えば、汎用性デジタル移動電話方式(GSM)、汎用パケット無線方式(GPRS)、符号分割多重アクセス(CDMA)、広帯域CDMA(W−CDMA)、CDMA2000、IMTシングルキャリア、GSM進化型高速データレート(EDGE)、ロングタームエボリューション(LTE)、LTEアドバンスト、時分割LTE(TD−LTE)、高性能無線広域ネットワーク(HiperWAN)、高性能無線メトロポリタンエリアネットワーク(HiperMAN)、ローカルマルチポイント配信サービス(LMDS)、Worldwide Interoperability for Microwave Access(WiMAX)、ジグビー、ブルートゥース、フラッシュ直交周波数分割多重化方式(Flash−OFDM)、高容量空間分割多元接続(HC−SDMA)、アイバースト、ユニバーサル移動体通信システム(UMTS)、UMTS時分割二重化(UMTS−TDD)、次世代高速パケットアクセス(HSPA+)、時分割同期符号分割多元接続(TD−SCDMA)、エボリューションデータ最適化(EV−DO)、デクト(DECT)等を含むが、これらに限定されない。
ある実施形態において、画像化システム100は、必要に応じて、1つ以上の追加のハードウェア構成部品(図示しない)を含み得る。追加ハードウェア構成部品は、例えば、メモリ(例えば、ランダムアクセスメモリ(RAM)、スタティックRAM、ダイナミックRAM、リードオンリーメモリ(ROM)、プログラマブルROM、電気的消去可能・プログラムROM、電気的消去可能・プログラム可能型読取専用メモリ、フラッシュメモリ、セキュアデジタル(SD)カード等)、または1つ以上の入出力インタフェース(例えば、ユニバーサルシリアルバス(USB)、デジタルビジュアルインタフェース(DVI)、ディスプレイポート、シリアルATA(SATA)、IEEE1394インタフェース(FireWireとしても知られる)、シリアル、ビデオグラフィックスアレイ(VGA)、スーパービデオグラフィックスアレイ(SVGA)、小型コンピュータ用周辺機器インタフェース(SCSI)、高精細度マルチメディアインタフェース(HDMI)、音声ポート、または専用の入出力インタフェースの少なくとも1つ)の少なくとも1つを含むが、これらに限定されない。また、画像化システム100は、制限なく、1台以上の入出力装置(例えば、ボタン、キーボード、キーパッド、トラックボール、ディスプレイ、及びモニタ)を含み得る。
図2において、画像化システム100は、基準線調整機構170を有している。基準線調整機構170は、第1の画像化装置110aと第2の画像化装置110bの間の基準線bを自動的に調整する。画像化システム100はさらに、コントローラ190を含む。コントローラ190は、図1に関して詳細に上述されている。基準線調整機構170は、その両端に、端部領域ユニット1001aと1001b(図10に示される)が設けられている。端部領域ユニット1001aと1001bは、それぞれ、画像化装置110a及び110bを取り付けるためのユニットである。基準線調整機構170は、画像化装置110aと110bが他方に対して移動できるようにする。ある実施形態では、一方の画像化装置110は移動できるが、他方の画像化装置110は移動しない。他の実施形態では、画像化装置110aと110bの両方とも移動できる。基準線調整機構170によって可能になる画像化装置の相対運動は、単一次元に沿うこともあれば複数の次元に沿うこともある。好ましい実施形態では、相対運動は単一次元に沿っている。他の実施形態では、相対運動は複数の次元に沿って、複数の画像化用途に応じ得る。
本明細書において、基準線bは、第1の画像化装置110aの中心(本明細書では起点とも称する)と第2の画像化装置110bの中心との間の距離を指す。したがって、この例において、基準線bの最小の長さは、画像化装置110の幅に依存し得る。また、この例において、基準線bの最大の長さは、基準線調整機構170が取り付けられる物理的なシステムの長さ、または画像化システム100が動作する動作環境の次元の少なくとも一方に依存し得る。また、基準線調整機構170の運動の範囲は、基準線調整機構170に特有の形態に依存し得る。例えば、ある実施形態では、基準線bの調整可能な範囲は約3センチメートルから約20センチメートルであり得る。また、ある実施形態では、基準線bは、3センチメートルから5センチメートル、3センチメートルから7センチメートル、3センチメートルから9センチメートル、3センチメートルから10センチメートル、3センチメートルから12センチメートル、3センチメートルから15センチメートル、3センチメートルから20センチメートル、5センチメートルから7センチメートル、5センチメートルから10センチメートル、5センチメートルから12センチメートル、5センチメートルから15センチメートル、5センチメートルから17センチメートル、5センチメートルから20センチメートル、5センチメートルから25センチメートル、7センチメートルから10センチメートル、7センチメートルから12センチメートル、7センチメートルから15センチメートル、7センチメートルから17センチメートル、7センチメートルから20センチメートル、7センチメートルから25センチメートル、10センチメートルから15センチメートル、10センチメートルから17センチメートル、10センチメートルから20センチメートル、10センチメートルから25センチメートル、または10センチメートルから30センチメートルの調整可能範囲内であり得る。さらに他の実施形態では、基準線bは最高30センチメートル、35センチメートル、40センチメートル、50センチメートル、60センチメートル、70センチメートル、80センチメートル以上に増加させられる。好ましい実施形態では、基準線bは5センチメートルから15センチメートルに及ぶことがあり得る。
図3には、画像化システム100の基準線bを自動的に調整する方法300のステップが、フローチャートによって示されている。ステップ301で、画像化システム100と注目物体150の間の物体距離Zを取得する。物体距離Zは、必要に応じて多様な方法のいずれかから選択された方法を使用して取得できる。ある実施形態では、物体距離Zは、立体視による画像化システム100の複数の画像化装置110を使用し、取得できる。例えば、2台の画像化装置110のそれぞれは、注目物体150の(図4から図5に示される)画像120を取得できる。そして、取得された画像120の重複部分を分析すると、注目物体150の奥行きを評価できる。また、物体距離Zは、レーザーを使用する、または超音波を使用する等、立体視以外の方法を使用して取得できる。ステップ302で、基準線bを、物体距離Zに従って自動的に調整する。
図4は、立体視を使用して物体距離Zを確かめる方法を説明する図である。図4において、2台の画像化装置110、つまり左の画像化装置110aと右の画像化装置110bが示されている。画像化装置110aと110bのそれぞれは、座標軸(x1、y1、z1)と(x2、y2、z2)で示される異なる空間座標系にあるが、同じ注目物体150を知覚する。画像化装置110aと110bは、そのそれぞれの光軸130aと130bに沿って注目物体150を知覚し、それにより注目物体150の2つの異なる2次元画像120aと120bを取得する。画像化装置110aと110bが、それらの光軸130aと130bが一致するように位置決めされない限り、2次元画像120aと120bは、通常、異なる位置から撮影されて異なっている。したがって、ほとんどの場合、(例えば、方程式(4)で表される)両眼視差dは、図5を参照して以下に説明するように、画像120aと120bの間で検出できる。
図5において、2次元画像120aと120bとを比較すると、1組の画像化装置110aと110b(または、同等に、画像化システム100)と注目物体150の間の物体距離Zを確かめることができる。三角測量の方法を用いると、画像120aと120bの間の両眼視差dを使用して物体距離Zを確かめることができる。具体的には、その座標(Xi、Yi、Zi)で表される指数iを有する注目物体150の位置は、以下の方程式によって示すことができる。
Figure 0006205069
上記の方程式において、cとcは画像化装置110aと110bのそれぞれの中心座標を表し、xとyは、画像120aと120bの一方または両方での注目物体150の座標を表す。そして、bは基準線(言い換えると、画像化装置110aと110bの中心座標間の距離)であり、(ここでは画像化装置が同じ焦点長さを有すると仮定すると)fは各画像化装置110aと110bの焦点距離である。また、iは関心のある150の複数の物体に関するまたは注目物体150の複数の特徴点155に関する指数である。dは、次の方程式で示される、画像120aと120bの間の両眼視差である。
Figure 0006205069
図6には、物体距離Zを取得する方法600のステップがフローチャートにより示されている。図6に示した方法では、第1の画像化装置110aと第2の画像化装置110bを使用し、上述の原理および立体視に基づいて、物体距離Zを取得する。ステップ601で、第1の画像化装置110aを使用して、注目物体150の(図4及び図5に示される)第1の画像120aを取得する。ステップ602で、第2の画像化装置110bを使用して、注目物体150の(図4及び図5に示される)第2の画像120bを取得する。第1の画像と第2の画像120a、120bは、同時にまたは連続的に、希望に応じて、どちらかの方法で取得できる。ある実施形態において、第1の画像と第2の画像120a、120bを同時に取得すると、注目物体150または画像化システム100の少なくとも一方の経時的なシフトに起因する誤差を削減できる、という利点がある。
ステップ603で、注目物体150の第1の画像と第2の画像120a、120bは、必要に応じて、両眼視差dを決定する前に修正され得る。すなわち、画像120a、120bは補正され、歪みが除去される。このような補正は、例えば、次の(a)〜(c)によって実行され得る。(a)画像120a、120bを回転させて同じ平面上に置く、(b)画像120a、120bを拡大・縮小して画像120a、120bを同じサイズにする、(c)画像120a、120bの対応するピクセルが並ぶようにスキューがないか調整する。修正は、2台の画像化装置110間の並進関係性と回転関係性を伝達する外因性パラメータのセットに基づいて実行できる。外因性パラメータは、例えば画像化システム100のメモリ(図示しない)に記憶できる。
ステップ604で、第1の画像120aと第2の画像120bの間で、両眼視差dを検出する。例えば、両眼視差dは、第1の画像120a及び第2の画像120bのそれぞれにおける、注目物体150の位置に基づいて検出できる。選択された画像120における注目物体150の位置は、多様な設定値(例えば、接写、中間距離、遠い、人、景色等)に基づいて、任意の希望するやり方で決定し得る。注目物体150は、マシンビジョンまたは人工知能の少なくとも一方の方法等に基づいて特定できる。適切な方法は、RANSAC(ランダムサンプルコンセンサス)、Shi&Tomasiコーナー検出、SURFブロブ(加速ロバスト特徴)検出、MSERブロブ(最大安定極値領域)検出、SURF(加速ロバスト特徴)記述子、SIFT(スケール不変特徴変換)記述子、FREAK(高速網膜キーポイント)(Fast REtinA Keypoint) 記述子、BRISK(バイナリロバスト不変スケーラブルキーポイント)記述子、HOG (Histogram of Oriented Gradients)(配向傾きのヒストグラム)記述子等の特徴検出技法、特徴抽出技法、または特徴一致技法の少なくとも1つを含む。同様に、これらの方法は、注目物体150の中で(図5に示される)1つ以上の特徴点155を特定するために使用できる。
ある実施形態では、注目物体150は、画像化装置110の視野全体を含み得る。例えば、選択された画像化装置110は注目物体150に非常に近いことがあり、注目物体150は画像化装置110の視野全体をふさぐ。また、注目物体150は、画像化装置110の視野の中の多くの個々の物体の複合物(例えば、景色)でもあり得る。このような場合、複合物の中の個々の物体に焦点を合わせることは望まれていない。そして、複合物の画像の各ピクセルは別個の特徴点155と見なすことができ、特徴点155またはピクセルに基づいて物体距離Zを検出できる。また、注目物体150は、画像化装置110の視野の一部を含むこともある。例えば、視野の中心(例えば、視野のピクセルの10パーセント、20パーセント、30パーセント、40パーセント、50パーセント、60パーセント、70パーセント、80パーセント、または90パーセント)は、注目物体150であるとみなし得る。また、注目物体150は、第1の画像化装置110aにより取得された第1の画像120aと、第2の画像化装置110bにより取得された第2の画像120bの間の重複領域のすべてまたは一部を含み得る。
ステップ605で、両眼視差dを使用して、物体距離Zを検出する。例えば、物体距離Zは、方程式(1)から(4)を使用し、両眼視差d、第1の画像装置110aと第2の画像装置110bとの間の基準線b、及び第1の画像化装置と第2の画像化装置110aと110bの内の少なくとも1台の焦点距離の関数として検出できる。ある実施形態では、第1の画像化装置110aと第2の画像化装置110bは、同じ焦点距離fを有する。
図7には、注目物体150の特徴点155を使用し、物体距離Zを取得する方法700のステップがフローチャートにより示されている。ステップ701で、注目物体150上の複数の特徴点155を取得する。特徴点155は、さまざまな異なる方法を使用し、取得できる。ある実施形態では、例えば、特徴点155は、注目物体150の予め定められた形状として特定される。他の実施形態では、特徴点155は、ある色または輝度を有する注目物体150の1つ以上の部分として認識される。他の実施形態では、特徴点155は、注目物体150の任意の部分が選択される。他の実施形態では、特徴点155は、例えば毎ピクセル、1ピクセルおき、2ピクセルおき、3ピクセルおき等の注目物体150上で規則正しく離間された間隔で選択される。特徴点155は、希望に応じてさまざまな形状とサイズをとることができる。また、上述した方法の組合せを使用して、特徴点155を選択し得る。
ステップ702で、各特徴点155と画像化システム100との間の特徴距離zを検出する。各特徴距離zは、任意の適切な方法で検出できる。例えば、その方法は、(図4及び図5に示される)第1の画像化装置110aによって取得された(図4及び図5に示される)第1の画像120aでの特徴点155の位置と(図4及び図5に示される)第2の画像化装置110bによって取得される(図4及び図5に示される)第2の画像120bの特徴点155の位置の間の両眼視差dを使用することを含む。両眼視差dを使用し、特徴距離zは、図3から図6について上述したように、物体距離Zとして同様に方程式(1)から(4)を使用して検出できる。
ステップ703で、ステップ702で検出された特徴距離zを使用して、物体距離Zを検出する。任意のさまざまな方法を用いて、注目物体150の個々の特徴距離zに基づいて物体距離Zを決定できる。ある実施形態では、特徴距離zの平均に基づいて物体距離Zを検出する。例えば、平均の種類は、算術平均、代数平均、中央値、またはモードを含み得る。他の実施形態では、物体距離Zは、特徴点155の内の1つ以上を選択し、選択された特徴点155の特徴距離zに基づいて物体距離Zを取得することによって検出される。特徴点155の選択されたサブセットから物体距離Zを計算する利点は、例えば雑音を除外できること、遠すぎる(または近すぎる)特徴点を除外できること、または輝度もしくは色に基づいて特徴点155を除外できること、を含み得る。例えば、画像化システム100から遠く離れすぎた特徴点155は、物体距離Zを推定する際に誤差を生じやすいことがある。したがって、ある実施形態では、物体距離Zを決定するために、画像化システム100に最も近い特徴点155の所定のパーセンテージを選択し、残りの特徴点155は除外し得る。例えば、選択される特徴点155のパーセンテージは10パーセント、20パーセント、30パーセント、40パーセント、50パーセント、60パーセント、70パーセント、80パーセント、または90パーセントである。好ましい実施形態では、特徴点155の80パーセントを選択する。他の好ましい実施形態では、特徴点155は画像内のピクセルであり、物体距離Zを決定するために、このピクセルの80パーセントを選択する。望ましくない特徴点155を除外した後、画像化システム100から最も遠い、選択された(言い換えると、除外されて残っている)特徴点155を使用して物体距離Zを決定できる。言い換えると、物体距離Zは、画像化システム100から最も遠い選択された特徴点155の特徴距離zである。
図8には、物体距離Zに従って基準線bを自動的に調整する方法800のステップがフローチャートにより示されている。方法800は、基準線bの値の好ましい範囲を定義する最小基準線bminと最大基準線bmaxを利用する。ある実施形態では、bminとbmaxの内の一方または両方とも、物体距離Zの関数となり得る。また、bminとbmaxの一方または両方とも物体距離Zとは無関係であることもある。
ステップ801で、画像化システム100の基準線b(言い換えると、基準線bの現在値)を検出する。例えば、基準線bは、内部パラメータであり得る。この内部パラメータは(図1に示される)コントローラ190によって追跡調査されるか、またはメモリ(図示しない)に記憶されるかの少なくとも一方である。また、基準線bは(図2から図3に示される)基準線調整機構170の物理的な位置またはその1つ以上の構成部品の少なくとも一方に基づいて検出される。基準線bが検出された後、基準線bは、最小基準線bminと最大基準線bmaxに比較され、基準線調整が実行されるべきかどうかを判断し得る。
ステップ802で、基準線bを最小基準線bminと比較する。基準線bが最小基準線bmin以上である場合、次にステップ805で基準線bが最大基準線bmaxより大きいかどうかを判断する。基準線bが最小基準線bmin未満である場合、次に、場合に応じて、ステップ803で、基準線bと最小基準線bminの差異が第1の公差δよりも大きいかどうかを、さらに判断する。基準線bと最小基準線bminの差異が第1の公差δよりも大きい場合、基準線bはステップ804で増加し得る。基準線bと最小基準線bminの差異が第1の公差δ以下である場合、ステップ801に戻り、画像化システム100の基準線bを検出する。第1の公差δは、基準線bまたは最小基準線bmin(例えば分数として)の少なくとも一方に依存することもあれば、依存しないこともある。
ステップ805で、基準線bが最大基準線bmaxよりも大きいかどうかを判断する。基準線bが基準線bmax以下である場合、次にステップ808で基準線bが最大基準線bmax未満であるかどうかを判断する。基準線bが最大基準線bmaxよりも大きい場合、次に、場合に応じて、ステップ806に進み、基準線bと最大基準線bmaxの差異が第2の公差δよりも大きいかどうかをさらに判断する。基準線bと最大基準線bmaxの差異が第2の公差δよりも大きい場合、基準線bはステップ807で減少され得る。基準線bと最大基準線bmaxの差異が第2の公差δ以下の場合、ステップ801に戻り、画像化システム100の基準線bを検出する。第2の公差δは基準線bまたは最大基準線bmax(例えば、その分数)の少なくとも一方に依存することもあれば、依存しないこともある。公差δ及び公差δは、基準線調整と画像化の最小化混乱のバランスをとることができる。
ステップ808で、基準線bが最大基準線bmax未満であるかどうかを判断する。未満である場合、次にステップ809で、場合に応じて、基準線bは、基準線bが最大基準線bmaxに達するまで増加され得る。ステップ809で基準線bが増加すると、基準線bを最大基準線bmaxに設定することによって、注目物体150を最も少ない量の誤差で解像できるという利点がある。
基準線bが減少するにつれて遠い物体を解像することがますます困難になるという事実がある。例えば、最小基準線bminは、この事実に基づいて設定できる。三角測量によって、及び上記に示された方程式(3)に従って、物体距離Zは基準線bに正比例し、両眼視差dに反比例する。したがって、両眼視差dを測定できる解像度は、物体距離Zを測定する精度を制約することがある。例えば、デジタル画像化装置110を有するデジタル画像化システムの場合、両眼視差dの解像度は画像化装置110の解像度に依存し得る。1ピクセルの長さL未満である画像120の位置シフトを、デジタル画像化装置110によって検出することは困難である。したがって、デジタル画像での物体の位置は1ピクセルの長さLまでの誤差を有し得る。両眼視差dは2つの画像を使用して検出されるので、両眼視差dの累積誤差は最大2L(言い換えると、2ピクセル長)になり得る。したがって、よりよい精度で検出するためには、所与の物体距離Zの場合、最小基準線bminを、1、2、3、4、5、6、7、8、9、10以上等のピクセル長等の少なくとも所与の両眼視差dを示す可能性のある値に設定できる。好ましい実施形態では、最小基準線bminは、両眼視差dが、所与の物体距離Zの場合、少なくとも4ピクセル長となるように設定される。言い換えると、最小基準線bminは、4×Z×L/fで設定できる。ここで、Zは物体距離、Lは画像化装置110の内の少なくとも1台のピクセル幅、fは画像化装置110の内の少なくとも1台の焦点距離である。ある実施形態では、画像化システム100の第1の画像化装置110a及び第2の画像化装置110bは、同じ焦点距離fまたは同じピクセル幅Lの少なくとも一方を有し得る。
基準線bが大きすぎる場合、2台の画像化装置110によって取得される画像120間の重複領域が小さすぎるという事実があり得る。例えば、最大基準線bmaxは、この事実に基づいて設定できる。したがって、最大基準線bmaxは、例えば少なくとも10パーセント、20パーセント、30パーセント、40パーセント、50パーセント、60パーセント、70パーセント、80パーセント、または90パーセントの閾値を超えた画像間で重複を維持することに基づき得る。好ましい実施形態では、閾値は50パーセントである。好ましい実施形態では、自動的に調整することは、重複が、例えば50パーセント等の閾値に達するまで基準線bを増加することを含む。数学的に表すと、最大基準線bmaxはZ×tan(θ/2)で設定できる。ここで、Zは物体距離、θは画像化装置110の内の少なくとも1台の視角である。ある実施形態では、画像化システム100の第1の画像化装置110aと第2の画像化装置110bは、同じ視角θを有する。
画像化システム100が、(図11から図13に示される)UAV200等の可動プラットフォームであるか、または画像化システム100が移動プラットフォームに搭載されるか、の少なくとも一方である実施形態においては、基準線調整は、移動プラットフォームの操作モードを考慮に入れることが有利である。可動プラットフォームが、例えばUAV200である場合、操作モードはUAV200の飛行モードを含み得る。例えば、UAV200は着陸中にUAV200の真下の区域の近接撮影画像を有効利用し得る。したがって、基準線bは飛行モードが着陸モードであるときに減少できる。同様に、UAV200が離陸中にUAV200の周囲のよりよい画像を有効利用し得る。したがって、基準線bは飛行モードが離陸モードであるときに増加できる。また、通常、空中画像化中はより遠くを見ることが好ましい。したがって、基準線bは飛行モードが空中画像取得モードであるときに増加できる。
図9には、基準線bの自動調整後、画像化システム100の外因性パラメータを較正する方法900のステップがフローチャートにより示されている。外因性パラメータは、例えば、3×3回転行列Rと3次元並進ベクトルtを含む。言い換えると、外因性パラメータは、回転行列Rによってカプセル化された複数の回転パラメータと、並進ベクトルtによってカプセル化された複数の並進パラメータを含み得る。外因性パラメータは、画像化装置110の相対位置を定義し、立体視を使用し、注目物体150の3次元画像化を可能にする。ある実施形態では、回転行列Rは直交行列または正規直交行列であり得る。例えば、RRT=I及びRTR=Iであることが望ましいことがある。ある実施形態では、回転行列Rは、3×3(例えば、同次行列)以外の次元性を有し得る。また、並進ベクトルtは3以外の次元性を有し得る。
画像化システム100の基準線bが調整された後、外因性パラメータは陳腐化し、較正(または再較正)の効果を得られる。通常、基準線調整は、物体距離Zが基準線bよりもはるかに大きいと仮定し、注目物体を基準にして画像化装置110の回転方向では相対的にほとんど変化を生じさせない。したがって、好ましい実施形態では、外因性パラメータは2ステッププロセスを使用して較正できる。ステップ901で、並進パラメータtを、基準線bの自動調整に基づいて初期較正する。言い換えれば、初期調整後の外因性パラメータはR0及びλt0である。ここで、R0とt0は事前調整外因性パラメータ、λは初期調整の量をt0に反映する定数である。
例えば、画像化システム100の基準線調整機構170が(図10に示される)スクリュー軸機構1000を含む場合、並進パラメータtの初期較正は、基準線調整中にスクリュー軸機構1000の回転の程度に基づき得る。基準線調整の量は、(図10に示される)スクリュー軸1002の半径及び溝ピッチにさらに基づき得る。また、ラックアンドピニオン機構、スライダクランク機構、リニアモータ等の類似する方法を使用して、他の基準線調整機構のための並進パラメータtの初期較正を検出できる。
ステップ902で、初期較正後、R及びtの外因性パラメータを最適化のためにさらに較正できる。さまざまな最適化方法は、外因性パラメータを使用して、さらに較正できる。最適化に適するアルゴリズムは、例えば、線形計画法、補間、メメティックアルゴリズム、微分展開、進化アルゴリズム、遺伝的アルゴリズム、動的緩和、山登りアルゴリズム、ランダム再起動アルゴリズム、焼き鈍し法、傾斜降下等を含む。好ましい実施形態では、追加の較正は、以下に示すようにバンドル調整最適化法を使用する。例えば、バンドル調整最適化方法は、以下の適合度関数の値を最小限に抑えることによって続けて実行され得る。
Figure 0006205069
ここで、PlとPrは、それぞれ(図4から図5に示される)第1の画像化装置110aと第2の画像化装置110bの射影行列である。xlとxrはそれぞれ第1の画像化装置110aと第2の画像化装置110bの位置である。Xは注目物体の位置であり、iは(図4から図5に示される)複数の注目物体150に関するまたは(図5に示される)特徴点155に関する指数である。射影行列PlとPrは外因性パラメータRとtを以下の関係を通してカプセル化できる。
Figure 0006205069
上式において、KlとKrは、それぞれ第1の画像化装置110aと第2の画像化装置110b(図4から図5に示される)に内因性のパラメータであり、例えば、画像化装置の工場設定値から決定され得る。したがって、PlとPrの最適値が方程式(5)の最適度関数を最小限に抑えることによって検出された場合、外因性パラメータRとtは、内因性パラメータKlとKrに基づいて方程式(6)と(7)を使用して検出できる。
図3から図9に関して上述した方法は、第1の画像化装置110aと第2の画像化装置110bを有する画像化システムの基準線を自動的に調整するための命令を含むコンピュータプログラム製品(図示しない)として実装できる。コンピュータプログラム製品の命令は、例えばメモリ上の(図1に示される)コントローラ190に記憶できる。命令は、例えばコントローラ190のプロセッサ(図示しない)上で実行できる。制御信号は、例えば、画像化システム100と注目物体150の間の物体距離Z、及び物体距離Zに基づいて望まれる任意の基準線調整に基づいてコントローラによって生成できる。制御信号は、望まれるように(図2に示される)基準線調整機構170に出力され、コントローラの命令に従って基準線調整が行われる。
図10には、スクリュー機構1000を含む基準線調整機構170が、図2に示した画像化システムの好ましい実施形態として示されている。スクリュー軸機構1000は、スクリュー軸1002aと1002b、それと回転自在に接続された中心ハウジング1003、及びスクリュー軸1002aと1002b上において回転自在にスリーブで繋がれた端部領域ユニット1001aと1001bを含む。各端部領域ユニット1001aと1001bは、画像化装置110(図示しない)に接続される。スクリュー軸1002aと1002bは、例えばステッピングモータ等のアクチュエータ(図示しない)を介して互いとは無関係に回転し、端部領域ユニット1001aと1001bを互いに関して直線状に移動させることができる。各端部領域ユニット1001aと1001bは、内部に配置された複数の玉軸受け(図示しない)を含んでおり、スクリュー軸1002aと1002bとの摩擦を削減できるという利点がある。基準線調整のためのスクリュー軸機構1000の利点は、スクリュー軸1002aと1002bの回転運動を、端部領域ユニット1001aと1001bの並進運動に正確に変換できることである。このことは、(図2に示される)基準線bの微調整のために望ましいことであり得る。基準線調整のためのスクリュー軸機構1000の他の利点は、直線運動の程度が回転運動の程度に正比例することである。したがって、例えばスクリュー軸1002aと1002bの半径と溝ピッチに基づいて、基準線調整を正確に推定できる。
また、基準線調整機構170は、例えばスライダクランク機構、ラックアンドピニオン機構、リニアモータ等の回転運動を直線運動に変換するための機構を含み得る。基準線調整機構170は、画像化装置110の直線運動または非直線運動を容易にするまたは達成することの少なくとも一方を可能にする追加の構成部品をさらに含み得る。これは、例えばレールシステムとランナーブロック、端部軸受支え、ボールねじ、スライドブッシュ、スライドネジ、コンベヤベルト、滑車等を含むが、これらに限定されない。
基準線調整機構170は、希望に応じて画像化システム100のいずれかの支持構造(図示しない)に取り付けられる。また、図10において、基準線調整機構170は、単一ユニットとして示されている。しかし、これは説明を目的とするだけであり、これに制約されない。ある実施形態では、基準線調整機構170は、画像化システム100の部分に別々に取り付けられる複数のユニット(例えば、別々のスクリュー軸機構、ラックアンドピニオン機構、またはスライダクランク機構の少なくとも1つ)を含み得る。ある実施形態では、各画像化装置110は、基準線調整機構170の別々に可動のユニットに取り付けられ得る。基準線調整機構170は、希望に応じて、画像化システム100の異なる部分に位置決めできる利点がある。基準線調整機構170が単一ユニットとして実装される場合、基準線調整機構170が回転すると、それに取り付けられた画像化装置110もともに回転する。このことは、画像化装置110間の調整のために有利である。画像化装置110が、基準線調整機構170の可動ユニットに別々に取り付けられる場合、画像化装置110の回転を(例えば、図1に示されるコントローラ190によって)調整できる。
図11から図13には、画像化システム100が、本発明の実施形態に従って示されている。ここで、画像化システム100は、無人航空機(UAV)200等の可動プラットフォームである。言い換えると、画像化システム100は、UAV200等の可動プラットフォームに取り付けることができる。図11から図13において、画像化装置110は、それぞれ異なる構成でUAV200に取り付けられている。
一般的に「ドローン」と呼ばれるUAV200は、人間のパイロットが車両に搭乗しない航空機であり、ドローンの飛行は自律的にまたはリモートパイロット(またはときには両方)によって制御される。UAVは、多様な形式の空中データ収集を必要とする民間の用途において使用される場合が増えている。多様なタイプのUAV200は、画像化システム100として使用するのに適している。例えば、UAV200の適切なタイプの1つは、複数の回転翼によって推進される空中回転翼航空機である。1つの適切なタイプの回転翼航空機は4つの回転翼を有し、クワッドコプター、クワッドロータヘリコプター、またはクワッドロータとして知られている。画像化(例えば、立体画像化)するための本発明に関わるシステム及び方法に適切なクワッドコプターは、例えば、現在市販されている多数のモデルを含む。本発明に関わるシステム及び方法に適したUAV200は、シングルロータ、デュアルロータ、トリロータ、ヘクサロータ、及びオクタロータの設計等の他の回転翼設計をさらに含むが、これらに限定されない。固定翼UAV200、及びハイブリッド回転翼‐固定翼UAV200も使用できる。
図11には、UAV200に取り付けられた画像化システムが、本発明の実施形態に従って示されている。図11において、画像化システム100は、UAV200に取り付けられた左(つまり左舷)画像化装置110aと右(つまり右舷)画像化装置110bを有している。多様な画像化装置110は、UAV200で使用する場合、一般に軽量かつコンパクトであることが好ましい。図11の例では、画像化装置110aと110bは、基準線調整機構170を介してUAV200の底面に取り付けられる。画像化装置110aと110bをUAV200の底面に位置決めする利点は、底面位置がUAV200の飛行動作に対して相対的に目立たない点である。さらに、画像化装置110aと110bをUAV200の底面に位置決めすると、UAV200の直下の区域を画像化でき、このことは着陸及び他の空中監視目的に有利であり得る。基準線調整機構170は、UAV200に取り付けられる単一のユニットまたはUAV200に別々に取り付けられる複数のユニットであり得る。基準線bは、左右の画像化装置110aと110bの中心間の距離として示される。この例では、左右の画像化装置110aと110bは物理的に接しているため、基準線bは最小値に達している。
この例では、(図1に示される)コントローラ190からの制御信号に基づいて、基準線調整機構170は、UAV200の物理的な構成に基づいて最大値まで、希望する値に基準線bを拡大できる。最小値に達する基準線bの例を示す実施形態は、図11の実施形態に関して図12に示される。この例では、基準線bを増加する能力は、さらにUAV200に追加される構成部品に依存し得る。構成部品は例えば、UAV200の側面フランクに位置決めされた着陸ギヤ210等である。この例では、着陸ギヤ210が、画像化装置110aと110bの視野を遮ること、または画像化装置110aと110bがある点を過ぎて移動するのを物理的に妨げること、の少なくとも一方のことがあり得る。したがって、これらのことに有利となるように、ある実施形態では、着陸ギヤ210を格納できる、または自動的に退けることができる。
図13には、UAV200に取り付けられた画像化システム100が、本発明の他の実施形態に従って示されている。図13において、左画像化装置110aと右画像化装置110bが、UAV200の本体(つまり機体)220の側面に取り付けられている。この例では、画像化装置110aと110bは、基準線調整機構170の別々のユニットを介してUAV200に別々に取り付けられる。本実施形態の利点は、基準線bが図示されるようにより大きな値をとることができる点、及び画像化装置110aと110bの視野が着陸ギヤ210によって妨害されない点を含む。
図14において、調整可能なフレームに取り付けられる画像化システム100が、本発明の他の実施形態に従って示されている。図14において、左画像化装置110aと右画像化装置110bが、UAV200の調整可能なフレーム250に取り付けられている。言い換えると、基準線調整機構170は、調整可能なフレーム250である、または調整可能なフレーム250の一部であり得る。調整可能なフレーム250は、UAV200の機体220に調整可能に取り付けられた1つ以上の調整可能な部材251を含み得る。調整可能な部材251は、付着点252に関して枢動するようにできるが、部材251はこのことに制限されない。ある実施形態では、機体220に付着点252が設けられている。左画像化装置110aと右画像化装置110bは、それぞれ調整可能な部材251の末端部に取り付けできる。図14には、コンパクトな構成に調整できる部材251が示されている。(例えば、1つ以上の付着点252の回りで枢動することによって)調整可能な部材251の位置を調整すると、画像化装置110aと110bの間の基準線bは増加して、図15に示す拡張構成となる。同様に、図14に示すように、調整可能な部材251をコンパクトな構成に折り畳むと、基準線bは希望に応じて減少する。
この例では、画像化装置110aと110bは、基準線調整機構170の別々のユニットを介してUAV200に別々に取り付けられる。この実施形態の利点は、基準線bが図示されるようにより大きな値をとることができる点、及び画像化装置110aと110bの視野が着陸ギヤ210によって妨害されない点を含む。
画像化システム100がUAV200である(または、画像化システム100がUAV200に取り付けられる)実施形態では、コントローラ190は、UAVの飛行モードに応じて基準線を調整できる利点がある。例えば、コントローラ190は、飛行モードが着陸モードであるとき、基準線bを減少させ得る。また、コントローラ190は、飛行モードが離陸モードであるとき、基準線bを増加させ得る。また、コントローラ190は、飛行モードが空中画像取得モードであるとき、基準線bを増加させ得る。
図11から図15において、画像化装置110は、UAV200に関して対称的に位置決めされて示されているが、必ずしもその必要はない。ある実施形態では、画像化装置110は非対称に位置決めされる。また、画像化システム100は、例示のためだけにUAV200に関して図示され、説明されている。しかし、画像化システム100は任意のタイプの可動プラットフォームであり得ると共に、任意のタイプの可動プラットフォーム上に取り付けることができる。適切な可動プラットフォームは、例えば、自転車、自動車、トラック、船、ボート、列車、ヘリコプター、航空機、その多様なハイブリッド等を含むが、これらに限定されない。
図16には、注目物体に向けられた画像化システム100が、本発明の実施形態に従って示されている。図16において、画像化システム100は、画像化システム100から注目物体150までの間の物体距離Zを決定するための構成部品を含む。好ましい実施形態では、画像化システム100の複数の画像化装置110aと110bは、図3の方法に関して詳細に説明されるように物体距離を決定するために立体視を使用できる。また、奥行きを評価できる1台以上の補助装置180を使用して、物体距離Zを決定できる。
ある実施形態では、補助装置180は、注目物体150に対して特有の空間構造で光を発することができる光源を有するレーザー(例えば、赤外線レーザー)である。さらに、このような補助レーザー装置180は、注目物体150から発せられた光を受光するためのレンズとフィルターチップを備え得る。(図1に示される)コントローラ190は、受光した光の構造を計算し、光構造の変動を通して、注目物体150の構造と距離情報を知覚できる。レーザーの出力を必要に応じて増加させ、屋外環境で機能させて太陽光の赤外線シグネチャーを克服し得る。
他の実施形態では、補助装置180は超音波システムである。超音波補助装置180は、例えば注目物体150によって超音波が補助装置180に再反射するのに要する時間を使用し、物体距離Zを決定する1台以上の超音波エミッタとセンサ(例えば、配列された超音波振動子)を有し得る。ある実施形態では、超音波補助装置180は、単一装置として(例えば、奥行き知覚用のRGB−Dカメラとして)1台以上の画像化装置110と統合できる。物体距離を検知するための複数のタイプの装置を使用することの利点は、冗長性によって測定値がより正確になることである。また測定値は、あるタイプの補助装置180では誤差を生じさせるが他のタイプでは生じさせないことがある環境条件に対して、より堅牢であること、またはその環境条件を免れていることの少なくとも一方の利点がある。
図17には、(図2に示される)第1の画像化装置110aと(図2に示される)第2の画像化装置110bの間の基準線を自動的に調整するスタンドアロン装置1700が示されている。自動基準線調整用のスタンドアロン装置1700の利点は、スタンドアロン装置1700が、異なるタイプの画像化装置110とともに使用する、または壊れた画像化装置110を新しい画像化装置110に交換する等、異なる画像化装置110とともに使用することが容易な点である。スタンドアロン装置1700は、スタンドアロン装置1700を異なる画像化システム100とともに(例えば、異なるUAV等の異なる可動プラットフォームとともに)使用できる、という利点も有する。スタンドアロン装置1700は、(図2に示される)基準線bを調整する基準線調整機構170及び基準線bを自動的に調整するコントローラ190を含む。コントローラ190は、画像化システムと注目物体150(図示しない)の間の物体距離に従い、基準線調整機構170を使用して基準線bを自動的に調整する。基準線調整機構170は、画像化システム100に関連して上述されている(例えば、図3の例を参照)。基準線調整機構170は、互いに対するまたは周囲に対する画像化装置110の直線運動または非直線運動をもたらすために、希望に応じて、さまざまな構成部品を含み得る。運動をもたらす構成部品は、例えば、モータ(例えば、ステッピングモータ)、スクリュー軸機構、スライドクランク機構、ラックアンドピニオン機構、リニアモータ等を含むが、これに限定されない。追加の構成部品は、画像化装置110の運動を容易にすること、または運動をもたらすことの少なくとも一方を可能にし得る。追加の構成部品は、例えば、玉軸受け、レールシステムとランナーブロック、端部軸受支え、ボールねじ、スライドブッシュ、スライドネジ、コンベヤベルト、滑車、多様なタイプの潤滑剤等を含むが、これらに限定されない。装置1700は、互いに関して直線状に移動する端部領域ユニット1001aと1001bを含み得る。画像化装置110は、端部領域ユニット1001aと1001bのそれぞれに取り付けることができる。それにより、端部領域ユニットそれぞれに対する画像化装置110の並進運動を可能にし、基準線b(図示しない)の調整を容易にできる。
コントローラ190は、基準線調整機構170の機能を制御し、それによって基準線bの調整を自動化できる。コントローラ190は、データ通信の構成部品(例えば、シリアルバス:図示しない)を介して基準線調整機構170に制御データを送信できる。コントローラ190は、基準線調整(例えば、入出力ポートを通して)のために、さらに外部でデータを受信すること、または送信することの少なくとも一方を実行できる。また、コントローラ190は、リモートデータ通信システム(図示しない)を使用し、外部でデータを受信すること、または送信することの少なくとも一方を実行できる。コントローラ190によって送信されるデータは、例えば基準線調整機構170への制御信号を含み得る。さらに、コントローラは、1台以上の画像化装置110によって取得される画像を受信できる。コントローラ190は、例えば、立体視を使用し、注目物体150の3次元表示を再構築すること、注目物体150に基づいて基準線調整が必要であるかどうかを判断すること、等が可能である。また、コントローラ190は、図9に関してより詳細に上述した方法のように、立体視画像化のための1つ以上の外因性パラメータを自動的に較正できるという利点も有する。
開示した実施形態は、多様な修正形態及び代替形態を受け入れる余地が大きく、その特定の例が図面中で一例として示されており、本明細書に詳細に説明されている。ただし、説明した実施形態は、特定の形式または方法に制限されるものではなく、逆に説明した実施形態がすべての修正形態、同等物及び代替物をカバーすることが理解されるべきである。

Claims (45)

  1. 少なくとも第1の画像化装置及び第2の画像化装置を含む複数の画像化装置を有する画像化システムの基準線を自動調整する方法において、
    前記画像化システムと注目物体の間の物体距離を取得するステップと、
    前記物体距離に従って前記基準線を自動的に調整するステップと、
    を含み、
    前記調整するステップは、
    前記基準線が最小基準線以下である場合に、前記基準線を増加させるステップを含み、
    前記最小基準線は4×Z×L/fであり、Zは前記物体距離であり、Lは前記画像化装置の内の少なくとも1台のピクセル幅であり、fは前記画像化装置の内の少なくとも1台の焦点距離であり、
    前記調整するステップは、
    前記基準線が最大基準線を超える場合に、前記基準線を減少させるステップを含み、
    前記最大基準線はZ×tan(θ/2)であり、θは前記画像化装置の内の少なくとも1台の視角である、方法。
  2. 前記物体距離を取得するステップが、
    前記第1の画像化装置を使用し、前記注目物体の第1の画像を取得するステップと、
    前記第2の画像化装置を使用し、前記注目物体の第2の画像を取得するステップと、
    前記第1の画像と前記第2の画像の間の両眼視差を決定するステップと、
    前記両眼視差を使用し、前記物体距離を決定するステップと、
    を含む、請求項1に記載の方法。
  3. 前記物体距離を取得するステップが、
    前記両眼視差を決定する前に前記第1の画像と前記第2の画像を修正するステップをさらに含む、請求項2に記載の方法。
  4. 前記物体距離を取得するステップが、
    前記注目物体上の複数の特徴点を取得するステップと、
    前記画像化システムと前記特徴点のそれぞれの間のそれぞれの特徴距離を決定するステップと、
    前記特徴距離を使用し、前記物体距離を決定するステップと、
    を含む、請求項1から請求項3のいずれか1つに記載の方法。
  5. 前記物体距離を決定するステップが、
    前記特徴距離の平均に基づいて前記物体距離を決定するステップを含む、請求項4に記載の方法。
  6. 前記物体距離を決定するステップが、
    前記特徴点の内の1つ以上を選択するステップと、
    前記選択された特徴点の前記特徴距離に基づいて前記物体距離を取得するステップと、を含む、請求項4または請求項5に記載の方法。
  7. 前記特徴点を選択するステップは、
    前記画像化システムに最も近い特徴点の所定のパーセンテージを選択するステップと、
    前記画像化システムから最も遠い前記選択された特徴点の前記特徴距離として前記物体距離を取得するステップと、
    を含む、請求項6に記載の方法。
  8. 前記画像化システムと前記特徴点のそれぞれとの間の前記特徴距離を決定するステップが、
    前記第1の画像化装置または前記第2の画像化装置によって取得された画像上の前記特徴点に対応するピクセルに基づいて前記特徴距離を決定するステップを含む、請求項4から請求項7のいずれか1つに記載の方法。
  9. 前記物体距離を取得するステップが、
    レーザーまたは超音波システムを使用し、前記物体距離を取得するステップを含む、請求項1から請求項8のいずれか1つに記載の方法。
  10. 前記調整するステップが、
    前記基準線が前記最大基準線以下の場合に、前記基準線を増加させるステップを含む、請求項1から請求項のいずれか1つに記載の方法。
  11. 前記調整するステップが、
    前記第1の画像化装置の視野が少なくとも閾値分前記第2の画像化装置の視野と重複するまで前記基準線を増加させるステップを含む、請求項1から請求項10のいずれか1つに記載の方法。
  12. 前記基準線の前記自動調整後に前記画像化システムの外因性のパラメータを較正するステップをさらに含む、請求項1から請求項11のいずれか1つに記載の方法。
  13. 前記較正するステップが、
    前記画像化システムの並進外因性パラメータまたは回転外因性パラメータの少なくとも一方を較正するステップを含む、請求項12に記載の方法。
  14. 前記較正するステップが、
    前記基準線を自動的に調整するステップに従って前記並進外因性パラメータを初期較正するステップを含む、請求項13に記載の方法。
  15. 前記較正するステップが、
    前記初期較正するステップの後に前記外因性パラメータを追加較正して前記外因性パラメータを最適化するステップを含む、請求項14に記載の方法。
  16. 前記画像化システムが無人航空機(UAV)であり、
    前記自動的に調整するステップが前記UAVの飛行モードに依存している、請求項15に記載の方法。
  17. 前記調整するステップが、
    前記飛行モードが着陸モードであるときに前記基準線を減少させるステップを含む、請求項16に記載の方法。
  18. 前記調整するステップが、
    前記飛行モードが離陸モードであるときに前記基準線を増加させるステップを含む、請求項16または請求項17に記載の方法。
  19. 前記調整するステップが、
    前記飛行モードが空中画像取得モードであるときに前記基準線を増加させるステップを含む、請求項16から請求項18のいずれか1つに記載の方法。
  20. 請求項1から請求項19のいずれか1つに記載の方法に従って、基準線を自動的に調整する、
    ことを特徴とする、画像化システム。
  21. 請求項1から請求項19のいずれか1つに記載の方法に従って、第1の画像化装置と第2の画像化装置を有する画像化システムの基準線を自動的に調整するための命令を備える、
    ことを特徴とする、コンピュータプログラム。
  22. 複数の画像化装置を有する画像化システムの第1の画像化装置と第2の画像化装置の間の基準線を自動的に調整する装置において、
    前記第1の画像化装置と前記第2の画像化装置と接続されている基準線調整機構と、
    前記画像化システムと注目物体の間の物体距離に従って前記基準線を自動的に調整する前記基準線調整機構に制御信号を提供するコントローラと、
    を備え
    前記制御信号は、
    前記基準線が最小基準線以下である場合に、前記基準線を増加させる信号を含み、
    前記最小基準線は4×Z×L/fであり、Zは前記物体距離であり、Lは前記画像化装置の内の少なくとも1台のピクセル幅であり、fは前記画像化装置の内の少なくとも1台の焦点距離であり、
    前記制御信号は、
    前記基準線が最大基準線を超える場合に、前記基準線を減少させる信号を含み、
    前記最大基準線はZ×tan(θ/2)であり、θは前記画像化装置の内の少なくとも1台の視角である、
    ことを特徴とする、装置。
  23. 前記コントローラが、
    前記第1の画像化装置を使用し、前記注目物体の第1の画像を取得し、
    前記第2の画像化装置を使用し、前記注目物体の第2の画像を取得し、
    前記第1の画像と前記第2の画像の間の両眼視差を決定し、
    前記両眼視差を使用し、前記物体距離を決定すること、によって前記物体距離を取得する、
    ことを特徴とする、請求項22に記載の装置。
  24. 前記コントローラが、
    前記両眼視差を決定する前に前記第1の画像と前記第2の画像を修正する、
    ことを特徴とする、請求項23に記載の装置。
  25. 前記コントローラが、
    前記注目物体上の複数の特徴点を取得し、
    前記画像化システムと前記特徴点のそれぞれの間の特徴距離を決定し、
    前記特徴距離を使用し、前記物体距離を決定すること
    によって前記物体距離を取得する、
    ことを特徴とする請求項22から請求項24のいずれか1つに記載の装置。
  26. 前記コントローラが、
    前記特徴距離の平均に基づいて前記物体距離を取得する、
    ことを特徴とする、請求項25に記載の装置。
  27. 前記コントローラが、
    前記特徴点の内の1つ以上を選択し、前記選択された特徴点の前記特徴距離に基づいて前記物体距離を取得する、
    ことを特徴とする、請求項25または請求項26に記載の装置。
  28. 前記コントローラが、
    前記画像化システムに最も近い特徴点の所定のパーセンテージを選択することによって前記特徴点を選択し、前記画像化システムから最も遠い選択された特徴点の前記特徴距離として前記物体距離を取得する、
    ことを特徴とする、請求項27に記載の装置。
  29. 前記画像化システムと前記特徴点のそれぞれの間の前記それぞれの特徴距離を決定することが、前記第1の画像化装置または前記第2の画像化装置によって取得された画像上の前記特徴点に対応するピクセルに基づいて特徴距離を決定することを含む、
    ことを特徴とする、請求項25から請求項28のいずれか1つに記載の装置。
  30. 前記物体距離を取得するレーザーまたは超音波システムをさらに備える、
    ことを特徴とする、請求項22から請求項29のいずれか1つに記載の装置。
  31. 前記基準線調整機構が、スクリュー軸機構、ラックアンドピニオン機構、スライダクランク機構、リニアモータ及び調整可能なフレームのうち少なくとも1つを備える、
    ことを特徴とする、請求項22から請求項30のいずれか1つに記載の装置。
  32. 前記制御信号は、前記基準線が前記最大基準線以下である場合に、前記基準線を自動的に増加させる信号である、
    ことを特徴とする、請求項22から請求項31のいずれか1つに記載の装置。
  33. 前記コントローラが、前記第1の画像化装置の視野が少なくとも閾値分、前記第2の画像化装置の視野と重複するまで、前記基準線を自動的に増加させる、
    ことを特徴とする、請求項22から請求項32のいずれか1つに記載の装置。
  34. 前記コントローラが、前記基準線の前記自動調整後に前記画像化システムの外因性パラメータを較正する、
    ことを特徴とする、請求項22から請求項33のいずれか1つに記載の装置。
  35. 前記コントローラが、並進外因性パラメータまたは回転外因性パラメータの内の少なくとも1つを較正する、
    ことを特徴とする、請求項34に記載の装置。
  36. 前記コントローラが、前記基準線調整機構の線形変位に従って前記並進外因性パラメータを初期較正する、
    ことを特徴とする、請求項35に記載の装置。
  37. 前記基準線調整機構が、スクリュー軸機構を備え、
    前記コントローラが、前記スクリュー軸機構の回転の程度に従って前記並進外因性パラメータを初期較正する、
    ことを特徴とする、請求項36に記載の装置。
  38. 前記コントローラが、前記初期較正の後に前記外因性パラメータをさらに較正し、前記外因性パラメータを最適化する、
    ことを特徴とする、請求項36または請求項37に記載の装置。
  39. 前記コントローラが、バンドル調整を使用し、前記外因性パラメータをさらに較正する、
    ことを特徴とする、請求項38に記載の装置。
  40. 前記画像化システムが、可動プラットフォームである、
    ことを特徴とする、請求項22から請求項39のいずれか1つに記載の装置。
  41. 前記画像化システムが、無人航空機(UAV)である、
    ことを特徴とする、請求項40に記載の装置。
  42. 前記コントローラが、前記UAVの飛行モードに応じて前記基準線を自動的に調整する、
    ことを特徴とする、請求項41に記載の装置。
  43. 前記コントローラが、前記飛行モードが着陸モードであるときに前記基準線を減少させる、
    ことを特徴とする、請求項42に記載の装置。
  44. 前記コントローラが、前記飛行モードが離陸モードであるときに前記基準線を増加させる、
    ことを特徴とする、請求項42または請求項43に記載の装置。
  45. 前記コントローラが、前記飛行モードが空中画像取得モードであるときに前記基準線を増加させる、
    ことを特徴とする、請求項42から44のいずれか1つに記載の装置。



JP2016547557A 2014-12-04 2014-12-04 画像化システム及び方法 Expired - Fee Related JP6205069B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2014/092992 WO2016086379A1 (en) 2014-12-04 2014-12-04 Imaging system and method

Publications (2)

Publication Number Publication Date
JP2017505903A JP2017505903A (ja) 2017-02-23
JP6205069B2 true JP6205069B2 (ja) 2017-09-27

Family

ID=56090825

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016547557A Expired - Fee Related JP6205069B2 (ja) 2014-12-04 2014-12-04 画像化システム及び方法

Country Status (4)

Country Link
US (2) US10728514B2 (ja)
JP (1) JP6205069B2 (ja)
CN (1) CN106471803A (ja)
WO (1) WO2016086379A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9503623B2 (en) 2014-06-03 2016-11-22 Applied Minds, Llc Color night vision cameras, systems, and methods thereof
US12007763B2 (en) 2014-06-19 2024-06-11 Skydio, Inc. Magic wand interface and other user interaction paradigms for a flying digital assistant
CN107000840B (zh) * 2016-01-26 2019-07-26 深圳市大疆创新科技有限公司 无人飞行器及多目成像***
US10706569B2 (en) 2016-06-08 2020-07-07 Amazon Technologies, Inc. Selectively paired imaging elements for stereo images
CN109328460A (zh) * 2016-07-01 2019-02-12 脸谱公司 立体图像捕获
US10805600B2 (en) * 2016-07-29 2020-10-13 Applied Minds, Llc Methods and associated devices and systems for enhanced 2D and 3D vision
US10520943B2 (en) * 2016-08-12 2019-12-31 Skydio, Inc. Unmanned aerial image capture platform
KR102462502B1 (ko) 2016-08-16 2022-11-02 삼성전자주식회사 스테레오 카메라 기반의 자율 주행 방법 및 그 장치
US11295458B2 (en) 2016-12-01 2022-04-05 Skydio, Inc. Object tracking by an unmanned aerial vehicle using visual sensors
JP6900609B2 (ja) * 2016-12-06 2021-07-07 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 広角画像を修正するシステム及び方法
CN107071389A (zh) * 2017-01-17 2017-08-18 亿航智能设备(广州)有限公司 航拍方法、装置和无人机
WO2018139879A1 (en) * 2017-01-25 2018-08-02 Samsung Electronics Co., Ltd. Method and apparatus for determining stereoscopic multimedia information
CN108615243A (zh) * 2017-01-25 2018-10-02 北京三星通信技术研究有限公司 立体多媒体信息的确定方法、装置及***
CN106657974B (zh) * 2017-02-27 2024-02-09 北京图森智途科技有限公司 双目摄像机的控制方法及装置、双目摄像机
US10721461B2 (en) * 2017-07-28 2020-07-21 California Institute Of Technology Collaborative stereo system for three-dimensional terrain and object reconstruction
EP3459462A1 (en) * 2017-09-26 2019-03-27 Koninklijke Philips N.V. Mobile x-ray imaging system
CN107687841A (zh) * 2017-09-27 2018-02-13 中科创达软件股份有限公司 一种测距方法及装置
CN108230397B (zh) * 2017-12-08 2021-04-02 深圳市商汤科技有限公司 多目摄像机标定与校正方法和装置、设备、程序和介质
US11073841B2 (en) 2018-01-08 2021-07-27 GEOSAT Aerospace & Technology Methods and systems for launching an unmanned aerial vehicle
US11884406B2 (en) * 2018-01-08 2024-01-30 GEOSAT Aerospace & Technology Parachute landing methods and systems for an unmanned aerial vehicle
US11057553B2 (en) 2018-07-06 2021-07-06 Samsung Electronics Co., Ltd. Electronic device for capturing media using a bendable display and method thereof
KR20200005440A (ko) * 2018-07-06 2020-01-15 삼성전자주식회사 벤더블 디스플레이를 이용하여 미디어를 촬영하는 디바이스 및 그 방법
CN108810384A (zh) * 2018-07-19 2018-11-13 柳景耀 一种3d摄像机
CN111220120B (zh) * 2019-12-02 2021-09-07 上海航天控制技术研究所 一种动平台双目测距自校准方法及装置
JP7283413B2 (ja) * 2020-02-17 2023-05-30 株式会社デンソー 車載用の計測装置ユニットおよび車載用の計測装置ユニットにおける統合データ生成方法
US11513266B2 (en) * 2020-12-09 2022-11-29 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for an improved camera system using directional optics to estimate depth
JP2022099764A (ja) * 2020-12-23 2022-07-05 ソニーグループ株式会社 移動体、移動体の制御方法、及びプログラム
JP2022184138A (ja) * 2021-05-31 2022-12-13 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6822563B2 (en) * 1997-09-22 2004-11-23 Donnelly Corporation Vehicle imaging system with accessory control
US6023588A (en) * 1998-09-28 2000-02-08 Eastman Kodak Company Method and apparatus for capturing panoramic images with range data
JP2001041740A (ja) * 1999-07-27 2001-02-16 Japan Atom Energy Res Inst 基線長可動型距離測定装置
JP2001305681A (ja) * 2000-04-19 2001-11-02 Nippon Signal Co Ltd:The ステレオカメラ装置
JP3925129B2 (ja) * 2001-09-18 2007-06-06 富士ゼロックス株式会社 3次元画像撮像装置および方法
JP2007288229A (ja) * 2004-08-09 2007-11-01 Sharp Corp 画像撮影装置
US7590263B2 (en) * 2004-11-30 2009-09-15 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
KR20060063265A (ko) * 2004-12-07 2006-06-12 삼성전자주식회사 영상 처리 방법 및 장치
US20070091174A1 (en) * 2005-09-30 2007-04-26 Topcon Corporation Projection device for three-dimensional measurement, and three-dimensional measurement system
JP2009047496A (ja) * 2007-08-17 2009-03-05 Fujifilm Corp 立体撮像装置および立体撮像装置の制御方法並びにプログラム
CN101276138B (zh) * 2008-04-30 2010-11-24 北京工业大学 一种基线长度自动调节的双目立体摄像机
WO2011009108A2 (en) * 2009-07-17 2011-01-20 Universal Robotics, Inc. System and method for automatic calibration of stereo images
CN101727670B (zh) * 2009-11-10 2012-01-04 西安交通大学 一种可变幅面多相机***柔性标定方法及装置
JP5553202B2 (ja) * 2010-01-14 2014-07-16 株式会社リコー 距離測定装置及び距離測定方法
US9188849B2 (en) * 2010-03-05 2015-11-17 Panasonic Intellectual Property Management Co., Ltd. 3D imaging device and 3D imaging method
MX340111B (es) * 2010-03-31 2016-06-27 Thomson Licensing * Mapas de disparidad 3d.
CN102474647B (zh) * 2010-05-25 2015-08-19 松下电器(美国)知识产权公司 图像编码装置、图像编码方法以及集成电路
JP2012189324A (ja) * 2011-03-08 2012-10-04 Ricoh Co Ltd ステレオカメラ
EP2687904B1 (en) * 2011-03-18 2017-02-15 FUJIFILM Corporation Lens system for capturing stereoscopic images
JP5158223B2 (ja) * 2011-04-06 2013-03-06 カシオ計算機株式会社 三次元モデリング装置、三次元モデリング方法、ならびに、プログラム
CN202075794U (zh) * 2011-05-24 2011-12-14 段连飞 一种无人机航摄立体成像处理设备
JP5891645B2 (ja) * 2011-08-09 2016-03-23 株式会社ニコン 撮像装置およびプログラム
CN102298818B (zh) 2011-08-18 2013-07-10 中国科学技术大学 双目摄像火灾探测与定位装置及其火灾定位方法
EP2752014A1 (en) * 2011-08-30 2014-07-09 Telefonaktiebolaget LM Ericsson (PUBL) Receiver-side adjustment of stereoscopic images
US10778949B2 (en) * 2012-04-06 2020-09-15 Adobe Inc. Robust video-based camera rotation estimation
CN103424105B (zh) * 2012-05-16 2016-02-10 株式会社理光 对象检测方法和装置
JP2013242378A (ja) * 2012-05-18 2013-12-05 Sharp Corp 撮像装置、表示方法、およびプログラム
CN202600337U (zh) * 2012-06-07 2012-12-12 北京奥博迪光电技术有限公司 一种多维调节的立体摄像双机位装置
JP5745178B2 (ja) * 2012-06-29 2015-07-08 富士フイルム株式会社 3次元測定方法、装置及びシステム、並びに画像処理装置
CN202814399U (zh) * 2012-09-27 2013-03-20 王桥生 一种可用于立体影像航拍装置***
US10659763B2 (en) * 2012-10-09 2020-05-19 Cameron Pace Group Llc Stereo camera system with wide and narrow interocular distance cameras
CN102980556B (zh) 2012-11-29 2015-08-12 小米科技有限责任公司 一种测距方法及装置
CN103888750B (zh) * 2012-12-20 2016-02-24 比比威株式会社 三维影像拍摄控制***及方法
TWI503618B (zh) * 2012-12-27 2015-10-11 Ind Tech Res Inst 深度影像擷取裝置、其校正方法與量測方法
US10192312B2 (en) 2013-04-08 2019-01-29 C3D Augmented Reality Solutions Ltd Distance estimation using multi-camera device
US9451162B2 (en) * 2013-08-21 2016-09-20 Jaunt Inc. Camera array including camera modules

Also Published As

Publication number Publication date
US10728514B2 (en) 2020-07-28
US20200358999A1 (en) 2020-11-12
US20170251193A1 (en) 2017-08-31
CN106471803A (zh) 2017-03-01
JP2017505903A (ja) 2017-02-23
WO2016086379A1 (en) 2016-06-09

Similar Documents

Publication Publication Date Title
JP6205069B2 (ja) 画像化システム及び方法
EP3195594B1 (en) Automatic white balancing system and method
US11100671B2 (en) Image generation apparatus, image generation system, image generation method, and image generation program
CN109470158B (zh) 影像处理装置及测距装置
CN107534764B (zh) 增强图像分辨率的***及方法
CN107111598B (zh) 使用超声深度感测的光流成像***以及方法
EP3610459A1 (en) System and apparatus for co-registration and correlation between multi-modal imagery and method for same
TWI693959B (zh) 控制裝置、飛行體以及記錄媒體
US10198829B2 (en) Systems and methods for extrinsic calibration of a plurality of sensors
WO2019155335A1 (en) Unmanned aerial vehicle including an omnidirectional depth sensing and obstacle avoidance aerial system and method of operating same
CN109415126B (zh) 用于改进的移动平台成像的***和方法
US20210314543A1 (en) Imaging system and method
US20190121156A1 (en) Imaging system
WO2013047627A1 (ja) 画像取得装置
US20210215996A1 (en) Low-profile multi-band hyperspectral imaging for machine vision
WO2019125427A1 (en) System and method for hybrid depth estimation
CN114812558B (zh) 一种结合激光测距的单目视觉无人机自主定位方法
WO2020207411A1 (zh) 一种图像数据处理方法、装置、图像处理芯片及飞行器
US10142615B2 (en) System for three-dimensional image capture while moving
JP5802516B2 (ja) 画像取得装置
JP6188750B2 (ja) 画像取得装置
WO2018212008A1 (ja) 撮像装置及び画像合成装置
WO2021117390A1 (ja) 画像処理方法、画像処理装置、及び画像処理プログラム
US11882262B2 (en) System and method for stereoscopic image analysis

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170515

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170901

R150 Certificate of patent or registration of utility model

Ref document number: 6205069

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees