JP6430073B2 - 姿勢推定装置、姿勢推定方法及び観測システム - Google Patents

姿勢推定装置、姿勢推定方法及び観測システム Download PDF

Info

Publication number
JP6430073B2
JP6430073B2 JP2018520304A JP2018520304A JP6430073B2 JP 6430073 B2 JP6430073 B2 JP 6430073B2 JP 2018520304 A JP2018520304 A JP 2018520304A JP 2018520304 A JP2018520304 A JP 2018520304A JP 6430073 B2 JP6430073 B2 JP 6430073B2
Authority
JP
Japan
Prior art keywords
unit
data
image
coordinates
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018520304A
Other languages
English (en)
Other versions
JPWO2017208424A1 (ja
Inventor
百代 日野
百代 日野
秀明 前原
秀明 前原
謙二 平
謙二 平
純雄 加藤
純雄 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2017208424A1 publication Critical patent/JPWO2017208424A1/ja
Application granted granted Critical
Publication of JP6430073B2 publication Critical patent/JP6430073B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C23/00Combined instruments indicating more than one navigational value, e.g. for aircraft; Combined measuring devices for measuring two or more variables of movement, e.g. distance, speed or acceleration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C27/00Rotorcraft; Rotors peculiar thereto
    • B64C27/22Compound rotorcraft, i.e. aircraft using in flight the features of both aeroplane and rotorcraft
    • B64C27/28Compound rotorcraft, i.e. aircraft using in flight the features of both aeroplane and rotorcraft with forward-propulsion propellers pivotable to act as lifting rotors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C15/00Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
    • G01C15/002Active optical surveying means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/08Control of attitude, i.e. control of roll, pitch, or yaw
    • G05D1/0808Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Navigation (AREA)

Description

本発明は、観測機器を搭載した航空機などの飛行体の飛行姿勢を推定する技術に関する。
上空から地表面または構造物などの地物(地上にある物)の測量または調査を行うために、撮像カメラ及びレーザ測距計などの観測機器を搭載した飛行体を使用することがある。この種の飛行体を使用した測量システムは、たとえば、特許文献1(特開2014−145762号公報)に開示されている。
航空レーザ測量の場合には、飛行体の現在位置を取得する技術と、飛行体の飛行姿勢(たとえば、ローリング方向、ピッチング方向、ヨーイング方向の角度)を検出する技術とが必要である。飛行体の現在位置は、たとえば、GNSS(Global Navigation Satellite System:全地球的航法衛星システム)装置を用いて取得することができる。GNSS装置は、飛行体に搭載された状態でGNSS衛星から電波を一定周期ごとに受信し、その受信電波を解析して当該飛行体の現在位置を検出することができる。また、飛行体の飛行姿勢は、慣性計測装置(Inertial Measurement Unit,IMU)を用いて検出することができる。しかしながら、IMUは、非常に高価であるうえ、その持ち運びに一定の制限があり、その取り扱いに注意が必要であることから、IMUを搭載可能な飛行体の種類が限定されてしまうという課題がある。高い測定精度を維持するように構成されたIMUの場合、その重量が比較的重い(たとえば4kg〜20kg程度)ことから、積載可能重量(たとえば積載可能重量2.5kg〜3.5kg程度)が制限された飛行体(たとえば、無線遠隔操縦される小型無人ヘリコプター)にそのIMUを搭載することが難しい。
特許文献1に開示されている測量システムは、IMUを使用せずに、2以上の異なる位置から撮像された複数の撮像画像を用いたバンドル計算を実行することによって飛行姿勢を推定する。この測量システムにおける測量用カメラは、スタビライザーと呼ばれる姿勢安定化機構によって支持されるので、飛行中の飛行体の姿勢に依らずに撮影方向を鉛直下向きに保つことができる。
特開2014−145762号公報(たとえば、図1,図3及び図20、並びに段落0152〜0160)
特許文献1に開示されている測量システムでは、測量用カメラの撮影方向を常に鉛直下向きに維持する姿勢安定化機構を飛行体に搭載することが必要であるため、測量システムの構成が複雑化するという課題がある。また、撮像画像のみを用いて飛行体の姿勢が推定されるので、その推定精度には限界がある。
本発明の一態様による姿勢推定装置は、測地座標系における飛行体の位置を示す測位データを出力する測位部と、前記飛行体から地上の測距点までの距離と当該測距点に対する角度方向とを計測して測距データを出力する測距部と、前記飛行体に搭載された状態で複数の撮像位置から当該測距点を撮像して撮像画像群を出力する撮像部と、重力方向を基準とした当該飛行体の姿勢を検出して実姿勢データを出力する姿勢センサとを含む観測装置と連携して動作する姿勢推定装置であって、前記測位データ、前記測距データ、前記実姿勢データ及び前記撮像画像群を前記観測装置から取得するデータ取得部と、前記測位データ、前記測距データ、前記実姿勢データ及び前記飛行体の姿勢を示す未知のパラメータの推定値を用いて、前記測地座標系における当該測距点の位置を示す測地座標を算出する測距点座標算出部と、前記測地座標系から、前記撮像画像群の中から選択された第1の撮像画像に対応する第1の画像座標系への投影変換を前記測地座標に施して第1の投影点座標を算出し、前記測地座標系から、前記撮像画像群の中から選択された第2の撮像画像に対応する第2の画像座標系への投影変換を前記測地座標に施して第2の投影点座標を算出する画像座標算出部と、前記第2の撮像画像から前記第2の投影点座標で指定される局所領域画像を抽出し、当該局所領域画像と前記第1の撮像画像との間の画像マッチングを実行して前記第1の撮像画像に現れる当該測距点の画像座標を検出する画像マッチング部と、前記第1の投影点座標と前記画像座標との間の差分の大きさが小さくなるように前記推定値を補正する姿勢推定部とを備えることを特徴とする。
本発明の一態様による姿勢推定装置は、測地座標系における飛行体の位置を示す測位データを出力する測位部と、前記飛行体から地上の測距点までの距離と当該測距点に対する角度方向とを計測して測距データを出力する測距部と、前記飛行体に搭載された状態で複数の撮像位置から当該測距点を撮像して撮像画像群を出力する撮像部と、重力方向を基準とした当該飛行体の姿勢を検出して実姿勢データを出力する姿勢センサとを含む観測装置と連携して動作する姿勢推定装置であって、前記測位データ、前記測距データ、前記実姿勢データ及び前記撮像画像群を前記観測装置から取得するデータ取得部と、前記測位データ、前記測距データ、前記実姿勢データ及び前記飛行体の姿勢を示す未知のパラメータの推定値を用いて、前記測地座標系における当該測距点の位置を示す測地座標を算出する測距点座標算出部と、前記測地座標系から画像座標系への投影変換を前記測地座標に施して投影点座標を算出する画像座標算出部と、前記撮像画像群から選択された第1の撮像画像と第2の撮像画像との間の画像マッチングを実行して前記第1の撮像画像に現れる当該測距点の画像座標を検出する画像マッチング部と、前記投影点座標と前記画像座標との間の差分の大きさが小さくなるように前記推定値を補正する姿勢推定部とを備えることを特徴とする。
本発明の他の態様による観測システムは、前記観測装置と前記姿勢推定装置とを備えることを特徴とする。
本発明によれば、簡単な構成で飛行体の姿勢を高精度に推定することができる。
本発明に係る実施の形態1である観測システムの概略構成を示すブロック図である。 実施の形態1の飛行体の一例を示す概略斜視図である。 実施の形態1の飛行ルート設定装置の概略構成を示すブロック図である。 図4A及び図4Bは、実施の形態1の飛行ルート設定装置のハードウェア構成例を概略的に示すブロック図である。 実施の形態1に係る飛行ルート設定処理の手順の一例を示すフローチャートである。 実施の形態1に係るルートデータの一例をテーブル形式で示す図である。 ルートデータで定められた飛行ルートを説明するための図である。 飛行ルートの他の例を説明するための図である。 実施の形態1の観測装置におけるレーザ測距部、右カメラ及び左カメラの構成例の斜視図である。 図10Aは、図9に示した観測装置の正面図であり、図10Bは、図9に示した観測装置の上面図であり、図10Cは、図9に示した観測装置の右側面図である。 時刻t=0,1,2,3におけるレーザ測距部の照射基準点RPの3次元座標の例をテーブル形式で示す図である。 図12A〜図12Cは、時刻t=0におけるレーザ測距部、右カメラ及び左カメラの位置座標を示すグラフである。 図13A〜図13Cは、時刻t=1におけるレーザ測距部、右カメラ及び左カメラの位置座標を示すグラフである。 図14A〜図14Cは、時刻t=2におけるレーザ測距部、右カメラ及び左カメラの位置座標を示すグラフである。 図15A〜図15Cは、時刻t=3におけるレーザ測距部、右カメラ及び左カメラの位置座標を示すグラフである。 図16Aは、レーザ測距部によって得られた照射角度及び測定距離の数値例をテーブル形式で示す図であり、図16Bは、図16Aに示した照射角度と測定距離との間の関係を示すグラフである。 時刻t=0,1,2における右カメラ画像及び左カメラ画像の例を示す図である。 実施の形態1の姿勢推定装置の概略構成を示すブロック図である。 図19A及び図19Bは、実施の形態1の姿勢推定装置のハードウェア構成例を概略的に示すブロック図である。 実施の形態1に係る姿勢推定処理の手順の一例を概略的に示すフローチャートである。 図21Aは、時刻t=t,tにおける実施の形態1の観測装置の配置を概略的に示す図であり、図21Bは、時刻t=t,tにそれぞれ取得された撮像画像の例を示す図であり、図21Cは、時刻t=t,tにおける観測装置と測距点との間の位置関係を概略的に示す図である。 図22Aは、時刻t=t,tにそれぞれ取得された撮像画像の他の例を示す図であり、図22Bは、時刻t=t,tにおける観測装置と測距点との間の位置関係を概略的に示す図である。 図23A及び図23Bは、実施の形態1に係る観測結果及び計算結果の数値例をテーブル形式で示す図である。 実施の形態1に係る他の観測結果及び計算結果の数値例をテーブル形式で示す図である。 画像座標の数値例をテーブル形式で示す図である。 誤差ベクトルの計算例を示す図である。 計画行列の一例を示す図である。 補正ベクトルの計算例を示す図である。 時刻t=0.00〜3.00における姿勢角の計算結果をテーブル形式で示す図である。 本発明に係る実施の形態2である観測システムの概略構成を示すブロック図である。 実施の形態2の姿勢推定装置の概略構成を示すブロック図である。 実施の形態2の飛行ルート設定装置の概略構成を示すブロック図である。
以下、図面を参照しつつ、本発明に係る種々の実施の形態について詳細に説明する。なお、図面全体において同一符号を付された構成要素は、同一構成及び同一機能を有するものとする。
実施の形態1.
図1は、本発明に係る実施の形態1である観測システム1の概略構成を示すブロック図である。図1に示されるようにこの観測システム1は、飛行体である航空機2に搭載された状態で使用される観測装置10と、この観測装置10で得られた観測データが記憶されるメモリ17と、当該観測データに基づいて航空機2の飛行姿勢(飛行中の姿勢)を推定する姿勢推定装置30と、航空機2の飛行ルートを設定する飛行ルート設定装置40とを備えて構成されている。或る瞬間の航空機2の姿勢状態は、重力方向を基準とした3つの回転角の組み合わせによって特定可能である。たとえば、航空機2のローリング方向、ピッチング方向及びヨーイング方向の姿勢角であるロール角、ピッチ角及びヨー角という3つの回転角の組み合わせによって航空機2の姿勢状態を特定することができる。
なお、本実施の形態の姿勢推定装置30及び飛行ルート設定装置40は、航空機2とは物理的に分離して別に設けられているが、これに限定されるものではない。姿勢推定装置30及び飛行ルート設定装置40の一方または双方が航空機2に搭載されていてもよい。
航空機2は、当該航空機2の推力(推進力)を発生させる推力発生機構22と、メモリ17と、このメモリ17に記憶されているデータを用いて推力発生機構22の動作を制御する飛行制御装置21とを備えている。航空機2は、当該航空機2に搭乗したパイロットによって操縦される有人航空機でもよいし、あるいは、無人航空機(Unmanned Aerial Vehicle:UAV)であってもよい。推力発生機構22は、固定翼機または回転翼機を構成するためのプロペラ、ロータまたはジェットエンジンなどの推力発生源を有する。飛行制御装置21は、推力発生機構22を制御することにより機体の位置及び姿勢を自動的にコントロールすることができ、メモリ17に記憶されているルートデータ(飛行ルートを定めるデータ)に従って推力発生機構22を制御することにより機体の速度、進路及び姿勢を制御することができる。ルートデータは、飛行ルート設定装置40によって設定される。飛行ルート設定装置40の構成については後述する。
メモリ17としては、たとえば、SD(Secure Digital)メモリカードなどの携帯型の不揮発性メモリである可搬記録媒体が使用可能である。メモリ17は、ルートデータだけでなく、観測装置10で得られる観測データ(撮像画像群、測距データ、測位データ及び実姿勢データ)、及び観測装置10におけるデータ取得周期を記憶するために使用される。
図2は、航空機2の構成例を示す斜視図である。図2に示される航空機2は、機体20と、この機体20の周縁部に取り付けられた複数の推力発生器22A〜22Fとを有する無人航空機(UAV)である。機体20には、図示されていないが、図1に示した観測装置10、メモリ17及び飛行制御装置21が取り付けられている。推力発生器22A〜22Fの各々は回転翼(ロータ)で構成されている。飛行制御装置21は、メモリ17から読み出されたルートデータで定められた飛行ルートに沿って航空機2を飛行させることができる。すなわち、飛行制御装置21は、そのルートデータに従って推力発生器22A〜22Fの動作を個別に制御することにより、航空機2を図2のZ軸方向に沿って上昇または下降させたり、X−Y面における任意の方向に沿って、指定された飛行速度で水平移動させたり、あるいは、指定された時間だけ空中で静止(ホバリング)させたりすることが可能である。観測装置10は、鉛直下方(Z軸正方向)を観測することができるように機体20の下部に取り付けられている。
観測装置10は、図1に示されるように、地上を撮像する撮像部11と、航空機2から地上の単数または複数の測距点までの距離及びこれらの角度方向を測定するレーザ測距部13と、複数のGNSS(Global Navigation Satellite System)衛星を利用して観測装置10の現在位置を測位するGNSS測位部14と、重力方向を基準とした航空機2の姿勢を検出して実姿勢データを出力する姿勢センサ15と、これら撮像部11,レーザ測距部13、GNSS測位部14及び姿勢センサ15のそれぞれの動作を制御する観測制御部16とを備えて構成されている。
撮像部11は、第1撮像部である左カメラ12Lと、第2撮像部である右カメラ12Rとを有する。左カメラ12L及び右カメラ12Rの各々は、たとえば、光学レンズと固体撮像素子とを有するディジタルカメラで構成されていればよい。固体撮像素子としては、CCD(Charge−Coupled Device)イメージセンサまたはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサが挙げられる。右カメラ12R及び左カメラ12Lの配置例については後述する。観測制御部16は、撮像部11で撮像された各撮像画像を観測日時(撮像日時)と関連付けてメモリ17に格納する。
観測制御部16は、左カメラ12L及び右カメラ12Rを制御して、メモリ17に記憶されている予め定められたデータ取得周期すなわち撮像周期ごとに(たとえば、1秒ごとに)地表面の撮像を実行させることができる。撮像周期については、航空機2の実際の飛行前にユーザが飛行ルート設定装置40を用いてその撮像周期の値を設定することができる。
レーザ測距(Laser Ranging)部13は、照射角度を変えながらレーザ光を測量対象である地表面に向けて照射し、当該地表面の単数または複数の測距点から反射レーザ光をそれぞれ受光する。レーザ測距部13は、その受光結果に基づいて、観測装置10の基準点(具体的には、レーザ測距部13の照射基準点)から各測距点までの距離Lを計測し、且つ当該各測距点に対する角度方向を示す照射角度θを計測することができる。レーザ測距部13は、たとえば、TOF(Time of Flight)方式に従って、レーザ光を各測距点に向けて出射した時点から反射レーザ光が戻ってきた時点までの伝播時間を計測し、その計測結果に基づいて各測距点までの距離L及び照射角度θを計測すればよい。照射角度θは、予め定められた特定方向からの角度が計測される。観測制御部16は、各測距点までの距離L及び照射角度θを示す測距データを観測日時(測距日時)と関連付けてメモリ17に格納する。
GNSS測位部14は、GNSS(全地球航法衛星システム)による航法信号を複数のGNSS衛星から受信し、当該航法信号に基づいて測地座標系における観測装置10の現在位置(具体的には、レーザ測距部13の照射基準点の現在位置)を測位する。その測位結果を示す測位データは観測制御部16に出力される。測地座標系には、たとえば、WGS(World Geodetic System)−84座標系あるいはITRF(International Terrestrial Reference Frame)座標系が使用可能であるが、これに限定されるものではない。GNSSとしては、たとえば、米国により運用されるGPS(Global Positioning System)、ロシア連邦により運用されるGLONASS(GLObal NAvigation Satellite System)、欧州連合により運用されるGalileoシステム、または日本により運用されるQZSS(Quasi−Zenith Satellite System:準天頂衛星システム)を利用することができる。観測制御部16は、その測位データを観測時刻(測位時刻)と関連付けてメモリ17に格納する。
観測制御部16は、GNSS測位部14を制御して、メモリ17に記憶されている予め定められたデータ取得周期すなわち測位周期ごとに(たとえば、1秒ごとに)測位を実行させることができる。測位周期については、航空機2の実際の飛行前にユーザが飛行ルート設定装置40を用いて測位周期の値を設定することができる。観測制御部16は、上記の撮像周期と同期した測位周期でGNSS測位部14に測位を実行させてもよい。
なお、GNSS測位部14の測位基準点とレーザ測距部13の照射基準点との間の差は、GNSS測位部14の測定精度に対して許容範囲内にあるものとする。すなわち、GNSS測位部14の測位基準点は、レーザ測距部13の照射基準点と同一の位置に配置されているとみなされる。本実施の形態では、レーザ測距部13の照射基準点の位置は、観測装置10の位置とみなされている。
姿勢センサ15は、静加速度である重力加速度の方向すなわち重力方向を検出し、当該重力方向と当該姿勢センサ15の基準方向との間の角度情報を実姿勢データとして検出する。具体的には、姿勢センサ15は、航空機2の進行方向(すなわちX軸方向)の周りの回転角であるロール角と、当該進行方向及び重力方向(すなわちZ軸方向)の双方に垂直なY軸方向の周りの回転角であるピッチ角との組み合わせを実姿勢データとして検出することができる。このような姿勢センサ15は、たとえば、単体で2つの回転角を検出可能な2軸式重力方向センサでもよいし、あるいは、2個の1軸式重力方向センサの組み合わせであってもよい。ここで、2軸式加速度センサの2本の基準軸、または2個の1軸式加速度センサの組み合わせの2本の基準軸は、互いに90度で交差するように配置される。また、2軸式重力方向センサまたは1軸式重力方向センサは、たとえば、ピエゾ抵抗型または静電容量型の加速度センサで構成可能であり、MEMS(Micro Eletro Mechanical Systems)デバイスとして構成されてもよい。
本実施の形態の航空機2は、予め設定されたルートデータで定められる周期ごとにホバリングする。このホバリング時に、姿勢センサ15は、航空機2のロール角及びピッチ角の組み合わせを実姿勢データとして検出する。観測制御部16は、その実姿勢データを観測日時(検出日時)と関連付けてメモリ17に格納する。航空機2が水平状態から傾いたとき、X軸方向周りのロール角、Y軸方向周りのピッチ角及びZ軸方向周りのヨー角という3種類の姿勢角のうちの少なくとも1つの姿勢角が非零の値となる。或る時刻における航空機2の完全な姿勢状態を特定するには、ロール角及びピッチ角だけでなく、ヨー角を取得する必要がある。このヨー角は、後述するように姿勢推定装置30によって推定される。
次に、飛行ルート設定装置40の構成について説明する。図3は、本発明に係る実施の形態1の飛行ルート設定装置40の概略構成を示すブロック図である。
図3に示されるように飛行ルート設定装置40は、入出力インタフェース部(入出力I/F部)41、入力データ処理部42、ルートデータ生成部43及びメモリインタフェース部(メモリI/F部)44を有する。入出力I/F部41は、操作入力部46及び表示部47と接続されている。メモリI/F部44には、可搬記録媒体であるメモリ17が着脱自在に装着される。
操作入力部46は、ユーザによる操作入力を検出し、当該検出された操作入力を入出力I/F部41に出力する。操作入力部46は、ユーザによる操作入力を受け付ける入力ボタンまたは入力キーを有する入力デバイスである。たとえば、キーボード、あるいは、マウスもしくはタッチパネルなどのポインティングデバイスを操作入力部46として使用可能である。入出力I/F部41は、その操作入力を、航空機2の飛行ルートまたは上述のデータ取得周期を指示する設定データとして入力データ処理部42に供給することができる。また、入力データ処理部42は、設定用画面を表示部47に表示させることもできる。ユーザは、その設定用画面を視認しつつ操作入力部46を操作して設定データを入力することが可能である。表示部47は、たとえば、液晶表示パネルまたは有機EL表示パネルなどの画像表示デバイスで構成されればよい。
入力データ処理部42は、飛行ルートまたはデータ取得周期を指示する設定データを受け付けると、当該設定データを解釈してその解釈結果をルートデータ生成部43に出力する。ルートデータ生成部43は、その解釈結果に基づき、航空機2の飛行ルートを定めるルートデータを生成し、またはデータ取得周期を定める周期データを生成する。メモリI/F部44は、当該ルートデータまたは当該周期データをメモリ17に格納する。メモリ17にルートデータまたは周期データが格納された後は、ユーザは、このメモリ17を飛行ルート設定装置40から取り外して当該航空機2に装着することができる。
上記飛行ルート設定装置40のハードウェア構成は、たとえば、ワークステーションまたはメインフレームなどのCPU(Central Processing Unit)内蔵のコンピュータで実現可能である。あるいは、飛行ルート設定装置40のハードウェア構成は、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)もしくはFPGA(Field−Programmable Gate Array)またはこれらの組み合わせなどのLSI(Large Scale Integrated circuit)により実現されてもよい。
図4Aは、飛行ルート設定装置40のハードウェア構成例である情報処理装置40Sの概略構成を示すブロック図である。図4Aに示されるように情報処理装置40Sは、CPU60cを含むプロセッサ60と、メモリインタフェース回路(メモリI/F回路)61と、プロセッサ60の作業用メモリとして使用されるRAM(Random Access Memory)62と、ソフトウェア及びファームウェアの一方または双方のコンピュータ・プログラムが格納される不揮発性メモリ63と、操作入力部46に接続される入力インタフェース回路(入力I/F回路)64Aと、表示部47に接続される表示インタフェース回路(表示I/F回路)64Bとを備えて構成されている。この情報処理装置40Sの構成要素60〜63,64A,64Bは、バス回路などの信号路65を介して相互に接続されている。メモリI/F回路61は、図3のメモリI/F部44の機能を実現する回路であり、入力I/F回路64A及び表示I/F回路64Bは、図3の入出力I/F部41の機能を実現する回路である。
プロセッサ60は、不揮発性メモリ63から、ソフトウェアもしくはファームウェアまたはこれらの組み合わせであるコンピュータ・プログラムを読み出して実行することにより、図3の入力データ処理部42及びルートデータ生成部43の機能を実現することができる。不揮発性メモリ63としては、たとえば、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)、磁気ディスクまたは光ディスクを使用することができるが、これらに限定されるものではない。
図4Bは、飛行ルート設定装置40の他のハードウェア構成例である情報処理装置40Hの概略構成を示すブロック図である。図4Bに示されるように情報処理装置40Hは、DSP、ASICまたはFPGAなどの専用ハードウェアの処理回路66と、メモリインタフェース回路(メモリI/F回路)67と、操作入力部46に接続される入力インタフェース回路(入力I/F回路)68Aと、表示部47に接続される表示インタフェース回路(表示I/F回路)68Bとを備えて構成されている。この情報処理装置40Hの構成要素66,67,68A,68Bは、バス回路などの信号路69を介して相互に接続されている。メモリI/F回路67は、図3のメモリI/F部44の機能を実現する回路であり、入力I/F回路68A及び表示I/F回路68Bは、図3の入出力I/F部41の機能を実現する回路である。処理回路66は、入力データ処理部42及びルートデータ生成部43の機能を実現する。
次に、図5を参照しつつ、上記飛行ルート設定装置40の動作例を以下に説明する。図5は、実施の形態1に係る飛行ルート設定処理の手順の一例を概略的に示すフローチャートである。
図5を参照すると、入力データ処理部42は、操作入力部46から入出力I/F部41を介して設定データが入力されるまで待機している(ステップST1のNO)。設定データが入力されると(ステップST1のYES)、入力データ処理部42は、当該入力された設定データを解釈する(ステップST2)。当該解釈結果は、ルートデータ生成部43に供給される。ユーザは、所定のフォーマットによる設定コマンドを設定データとして入力することができる。入力データ処理部42は、設定終了コマンドが入力されていないと解釈した場合には(ステップST3のNO)、「次の設定データを入力してください」などの、更なる入力を促すメッセージを表示部47に表示させる(ステップST4)。その後、入力データ処理部42は、ステップST1を実行する。
たとえば、日付「2015年12月24日」の時刻「21時56分30秒」において緯度「35度21分14.572秒」及び経度「139度31分52.676秒」で指定される地点の通過を指示する場合、ユーザは、以下の例1の通過コマンド(ダブルクォーテーションマークを除く。)を設定コマンドとして入力することができる。緯度及び経度の表記は、WGS−84座標系によるものである。
例1:"35.354048,139.531299, 2015/12/24/21:56:30"
また、日付「2015年12月24日」の時刻「21時56分30秒」において緯度「35度21分14.572秒」及び経度「139度31分52.676秒」で指定される地点での「10秒間」のホバリングを指示する場合、ユーザは、以下の例2のホバリングコマンド(ダブルクォーテーションマークを除く。)を設定コマンドとして入力することができる。
例2:"35.354048,139.531299, 2015/12/24/21:56:30 10secHov"
また、右カメラ画像のデータ取得周期(取得間隔)を1秒間に設定する場合、ユーザは、以下の例3のデータ取得間隔設定コマンド(ダブルクォーテーションマークを除く。)を入力することができる。
例3:"Set RightCamera Interval 1sec"
そして、ユーザは、以下の例4の設定終了コマンド(ダブルクォーテーションマークを除く。)を入力することができる。
例4:"END"
入力データ処理部42が設定終了コマンドが入力されたと解釈した場合(ステップST3のYES)、ルートデータ生成部43は、設定終了コマンド以外の入力済み設定コマンドに基づいてルートデータを生成し(ステップST5)、このルートデータをメモリI/F部44を介してメモリ17に格納する(ステップST6)。なお、データ取得間隔設定コマンドが入力された場合には、ステップST5で周期データが生成され、ステップST6でこの周期データがメモリ17に格納される。以上で飛行ルート設定処理は完了する。
図6は、ルートデータの内容の一例をテーブル形式で示す図である。図6に示されるように、ルートデータは、1件当たり、「地点ID(地点識別子)」、「緯度」、「経度」、「日付」及び「時刻」からなるレコードの集合である。図7は、図6のテーブルに示した地点A1から地点A5までの飛行ルートを説明するための図である。図7の例では、航空機2は、2016年yy月zz日の10時30分30秒に地点A1の上空を出発する。その後、航空機2は、10時31分30秒に地点A2の上空に到着し、10時31分30秒から10時32分00秒までの30秒間だけホバリングする。次に、航空機2は、10時32分00秒に地点A2の上空を出発する。その後、航空機2は、10時34分00秒に地点A3の上空を通過し且つ旋回して地点A4の上空に向けて飛行する。航空機2は、10時36分00秒に地点A4の上空を通過し且つ旋回して地点A5の上空に向けて飛行する。そして、航空機2は、10時38分00秒に地点A5の上空に到着する。地点A1〜A5の各地点は、「緯度」及び「経度」で指定される点である。
また、ルートデータ生成部43は、指定された飛行ルートに基づいて地点間の各区間における航空機2の飛行速度を自動で計算する。ルートデータ生成部43は、各区間における当該飛行速度を指定するデータをルートデータの一部としてメモリ17に格納することができる。
なお、図7の例では、航空機2の飛行経路は直線経路であるが、これに限定されるものではない。たとえば、ルートデータ生成部43は、複数地点を結ぶ曲線経路を多項式近似で算出してもよい。曲線経路を設定することで航空機2の急旋回を防ぐことができるので、航空機2の姿勢制御にかかる負荷の軽減が可能となる。
また、ルートデータ生成部43は、ユーザにより、複数の地点を示す座標データと計測開始時間とが入力されれば、当該座標データと当該計測開始時間とに基づいてルートデータを自動で生成することもできる。この場合、ルートデータ生成部43は、最短時間で計測が完了し且つ高い計測精度が実現されるようにそのルートデータを生成することが望ましい。図8は、自動生成されたルートデータで定められる飛行ルートの一例を概略的に示す図である。このルートデータは、図面右下の計測開始地点SP、図面左下の通過地点、図面右上の通過地点及び図面左上の計測終了地点EPという4つの地点を示す座標データと計測開始時間とが入力された場合に自動生成されるものである。
図8の例では、飛行ルートは、矢印付きの太線で示されている。図8に示されるように、航空機2は、計測開始地点SPと図面左側(西側)の通過地点との間の第1の飛行ルートを東側から西側へ一軸方向に沿って飛行した後に、この第1の飛行ルートと並行して北側に隣接する第2の飛行ルートを西側から東側へ一軸方向に沿って飛行する。ここで、航空機2が第1の飛行ルートと第2の飛行ルートとをそれぞれ飛行する際の測距用レーザ光の走査範囲は、互いに異なるパターンのハッチングで示されている。図8に示されるように、航空機2が第1の飛行ルートを飛行する際の測距用レーザ光の走査範囲と、航空機2が第1の飛行ルートを飛行する際の測距用レーザ光の走査範囲とは、互いにオーバラップする。これにより、レーザ測距部13は高い計測精度で測距データを生成することができる。
また、航空機2は、図8に示されるように、計測開始地点SPに近い通過地点と図面上側(北側)の通過地点との間の第3の飛行ルートを南側から北側へ一軸方向に沿って飛行した後に、この第3の飛行ルートと並行し西側に隣接する第4の飛行ルートを北側から南側へ一軸方向に沿って飛行する。その後、航空機2は、第4の飛行ルートと並行し西側に隣接する第5の飛行ルートを南側から北側へ一軸方向に沿って飛行し、この第5の飛行ルートと並行し西側に隣接する第6の飛行ルートを北側から南側へ一軸方向に沿って飛行する。そして、航空機2は、第6の飛行ルートと並行し西側に隣接する第7の飛行ルートを南側から北側へ一軸方向に沿って計測終了地点EPまで飛行する。このとき、航空機2が第3及び第4の飛行ルートを飛行する際の測距用レーザ光の走査範囲は、互いにオーバラップし、航空機2が第4及び第5の飛行ルートを飛行する際の測距用レーザ光の走査範囲も、互いにオーバラップし、航空機2が第5及び第6の飛行ルートを飛行する際の測距用レーザ光の走査範囲も、互いにオーバラップする。
このようにルートデータ生成部43は、互いに隣接する飛行ルートにそれぞれ対応する測距用レーザ光の走査範囲が互いにオーバラップするようにルートデータを生成するので、レーザ測距部13は、オーバラップする走査範囲における各測距点までの距離L及び角度方向θを複数回測定することができる。これにより、レーザ測距部13は、当該測定結果に基づいて、たとえば当該測定結果を平均化することにより、誤差の小さな測距データを生成することが可能である。また、図8に示されるように、東西方向にオーバラップする走査範囲と南北方向にオーバラップする走査範囲とが生成されることから、東西方向の誤差の小さな測距データの生成が可能であり、南北方向の誤差の小さな測距データの生成も可能である。特に、東西方向及び南北方向の双方にオーバラップする走査範囲内の測距点については、東西方向及び南北方向の双方において誤差の小さな測距データを生成することができる。
次に、図1に示した観測装置10の構成について説明する。図9は、観測装置10のうちのレーザ測距部13及び撮像部11からなるユニットの構成例を概略的に示す斜視図である。
図9に示されるようにレーザ測距部13は、照射基準点RPを有し、鉛直下方(Z軸正方向)の地上面に向けてレーザ光を出射する。本実施の形態のレーザ測距部13は、航空機2の進行方向(すなわちX軸方向)とZ軸方向との双方に垂直なY軸方向にレーザ光を走査させることができる。右カメラ12R及び左カメラ12Lは、照射基準点RPに関して幾何学的に互いに対称な位置に配置され、且つ鉛直下方の地上面を撮像できるように配置されている。右カメラ12Rは、レーザ測距部13からY軸負方向に延びるアーム19Rの一端部と接続されており、左カメラ12Lは、レーザ測距部13からY軸正方向に延びるアーム19Lの一端部と接続されている。たとえば、右カメラ12Rは、レーザ測距部13の照射基準点RPからY軸負方向に1メートル離れた位置に配置され、左カメラ12Lは、照射基準点RPからY軸正方向に1メートル離れた位置に配置されればよい。
図10Aは、X軸正方向から視たときのレーザ測距部13及び撮像部11からなるユニットの概略構成図であり、図10Bは、Z軸負方向から視たときの当該ユニットの概略構成図であり、図10Cは、Y軸正方向から視たときの当該ユニットの概略構成図である。図10Aに示されるレーザ測距部13は、地上の測距点Kにレーザ光を照射し、当該測距点Kから反射レーザ光を受光する。レーザ測距部13は、照射基準点RPと測距点Kとの間の距離Lを計測し、且つ、照射基準点RPと測距点Kとの間の線分がY軸正方向となす角度を照射角度θとして計測することができる。レーザ測距部13は、X軸正方向から視たときに照射基準点RPを中心とした照射角度θを時計回りに18度刻みで変化させてレーザ光で地上を走査することができる。なお、照射基準点RPから鉛直下方(Y軸正方向)にレーザ光が照射されたときの照射角度θは、90度である。
本実施の形態では、航空機2の位置は、照射基準点RPの位置と同じであると仮定する。よって、航空機2がX軸正方向に飛行するとき、レーザ測距部13、右カメラ12R及び左カメラ12Lも、X軸正方向に飛行する。図11は、航空機2の飛行に伴うレーザ測距部13の照射基準点RPの位置座標(X,Y,Z)の一例をテーブル形式で示す図である。図11のテーブルは、航空機2がX軸正方向に沿って一定速度で3秒間の飛行をしたときの位置を示すものである。図11のテーブルでは、時刻t=0,1,2,3(単位:秒)でのそれぞれの照射基準点RPの位置座標(X,Y,Z)の座標値が示されている。なお、位置座標(X,Y,Z)は、GNSS測位部14の測位結果に基づいて算出されるべき測位座標であるが、図11のテーブルに示される座標値X,Y,Zは、説明の便宜上、時刻t=0での位置座標を基準とする値(単位:メートル)である。
図12A,図12B及び図12Cは、図11に示した時刻t=0での照射基準点RPの位置座標に対応する右カメラ12R、左カメラ12L及びレーザ測距部13のそれぞれの位置を表すグラフである。また、図13A,図13B及び図13Cは、図11に示した時刻t=1での照射基準点RPの位置座標に対応する右カメラ12R、左カメラ12L及びレーザ測距部13のそれぞれの位置を表すグラフであり、図14A,図14B及び図14Cは、図11に示した時刻t=2での照射基準点RPの位置座標に対応する右カメラ12R、左カメラ12L及びレーザ測距部13のそれぞれの位置を表すグラフであり、図15A,図15B及び図15Cは、図11に示した時刻t=2での照射基準点RPの位置座標に対応する右カメラ12R、左カメラ12L及びレーザ測距部13のそれぞれの位置を表すグラフである。図12A,図13A,図14A及び図15Aは、X−Z面における位置座標を表し、図12B,図13B,図14B及び図15Bは、Y−Z面における位置座標を表し、図12C,図13C,図14C及び図15Cは、X−Y面における位置座標を表している。ここで、右カメラ12Rの位置は、右カメラ12Rの投影中心の位置であり、三角形の記号で示されている。左カメラ12Lの位置は、左カメラ12Lの投影中心の位置であり、四角形の記号で示されている。そして、レーザ測距部13の位置は、照射基準点RPの位置であり、丸印で示されている。
時刻t=0では、図12A〜図12Cに示されるように、右カメラ12R、レーザ測距部13及び左カメラ12Lは、Y軸方向に沿って配列されている。時刻t=1では、図13A〜図13Cに示されるように、右カメラ12R、レーザ測距部13及び左カメラ12Lは、X軸正方向に1メートルだけ進行すると同時に、Y軸正方向に0.5メートルだけシフトしている。時刻t=2では、図14A〜図14Cに示されるように、右カメラ12R、レーザ測距部13及び左カメラ12Lは、X軸正方向に更に1メートルだけ進行すると同時に、Z軸負方向に0.5メートルだけシフトしている。そして、時刻t=3では、図15A〜図15Cに示されるように、右カメラ12R、レーザ測距部13及び左カメラ12Lは、X軸正方向に更に1メートルだけ進行すると同時に、Y軸負方向に0.5メートルだけシフトし、且つZ軸負方向に0.5メートルだけシフトしている。よって、時刻t=3でのZ軸方向の位置は、時刻t=0でのZ軸方向の位置に戻っている。
実際の飛行環境では、X−Y面に沿った水平飛行を意図していても、航空機2は、風などの外的要因の影響によって水平飛行することは難しい。たとえば、航空機2は、X軸周りのローリング方向、Y軸周りのピッチング方向、及びZ軸周りのヨーイング方向にそれぞれに傾いた状態で飛行し得る。
次に、図16A及び図16Bは、航空機2の飛行に伴うレーザ測距部13の測定結果(距離L及び照射角度θ)の例を示す図である。図16Aは、時刻t=0.00〜2.15(単位:秒)の期間におけるレーザ測距部13の測定結果の変化をテーブル形式で示す図であり、図16Bは、時刻t=0.00〜2.15の期間におけるレーザ測距部13の測定結果の変化をグラフで示す図である。図16Bにおいて、白色三角形の記号は、時刻t=0.00〜0.15に計測された距離L及び照射角度θを示し、黒色三角形の記号は、時刻t=1.00〜1.15に計測された距離L及び照射角度θを示し、白色四角形の記号は、時刻t=2.00〜2.15に計測された距離L及び照射角度θを示している。
図16Aに示されるようにレーザ測距部13の測定結果は、1回の測定ごとに、測定された時刻t、照射角度θ及び距離Lの組み合わせを1レコードとしてメモリ17に記憶される。図16Aの例では、1秒間に4回の測定が行われている。
右カメラ12R及び左カメラ12Lの各々は、たとえば、1秒ごとに鉛直下方の地上の矩形範囲を撮像範囲として撮像することができる。図17は、時刻t=0,1,2(単位:秒)における撮像画像群の例を示す図である。時刻t=0では、右カメラ画像R0及び左カメラ画像L0が撮像され、時刻t=1では、右カメラ画像R1及び左カメラ画像L1が撮像され、時刻t=2では、右カメラ画像R2及び左カメラ画像L2が撮像されている。このような撮像画像群がメモリ17に記憶される。
次に、図1に示した姿勢推定装置30の構成について説明する。図18は、本発明に係る実施の形態1の姿勢推定装置30の概略構成を示すブロック図である。
図18に示されるように姿勢推定装置30は、メモリインタフェース部(メモリI/F部)31、データ取得部32、座標算出部33、画像マッチング部34及び姿勢推定部35を備えている。座標算出部33は、測距点座標算出部33A及び画像座標算出部33Bを有する。メモリI/F部31には、可搬記録媒体であるメモリ17が着脱自在に装着される。
データ取得部32は、メモリ17から、メモリI/F部31を介して、測位データ、測距データ、実姿勢データ及び撮像画像群を含む観測データを取得する。本実施の形態では、姿勢推定装置30は観測装置10と直接接続されていない。このため、データ取得部32が観測データを取得するために、ユーザは、航空機2からメモリ17を取り外し、この取り外されたメモリ17を姿勢推定装置30に装着する必要がある。なお、後述する実施の形態2の姿勢推定装置30Aは、観測装置10Aから観測データを無線通信で取得することが可能である。
測距点座標算出部33Aは、当該観測データのうちの測位データ、測距データ及び実姿勢データと、航空機2の姿勢を示す未知パラメータの推定値とを用いて、WGS−84座標系などの測地座標系における単数または複数の測距点の位置座標(以下「測地座標」ともいう。)を算出することができる。今、p番目の測距点の測地座標の3次元ベクトルをQ(p)=[X,Y,Zで表すものとする。ここで、上付き添え字Tは、行列の転置を示す記号である。測距点座標算出部33Aは、たとえば、次式(1)に従ってp番目の測距点の測地座標Q(p)を算出することができる。
Figure 0006430073
ここで、[X,Y,Zは、測位データを基に算出される照射基準点RPの位置座標を示す3次元位置ベクトルである。また、Dは、照射基準点RPを基準として測距データを基に算出される測距点の相対位置ベクトルである。言い換えれば、相対位置ベクトルDは、照射基準点RPを原点とする測距点の位置座標を表すベクトルである。測距点座標算出部33Aは、たとえば、次式(2)に従って相対位置ベクトルDを算出することができる。
Figure 0006430073
また、上式(1)において、M(ω)は、3次元座標をX軸方向周りに回転角ωだけ回転させる回転行列であり、M(φ)は、3次元座標をY軸方向周りに回転角φだけ回転させる回転行列であり、M(κ)は、3次元座標をZ軸方向周りに回転角κだけ回転させる回転行列である。これら回転行列M(ω),M(φ),M(κ)は、たとえば、次式(3)で表現される。
Figure 0006430073
測位座標Q(p)を算出するための時刻tにおける回転角ω,φ,κが存在しない場合は、測距点座標算出部33Aは、撮像時刻t=tにおける回転角ω,φ,κと、別の撮像時刻t=t(i≠j)における回転角ω,φ,κとを用いて、撮像時刻t,t間の時刻tにおける回転角ω,φ,κを補間する。たとえば、測距点座標算出部33Aは次式(3a)により回転角ω,φ,κを補間することができる。
Figure 0006430073
上式(3a)において、rは、補間係数であり、たとえば次式(3b)で与えられる。
Figure 0006430073
ここで、Δtは、サンプリング間隔(=|t−t|)であり、floor(x)は、実数xに対してx以下の最大の整数を与える床関数である。
回転角ωはX軸方向周りのロール角に対応し、回転角φはY軸周りのピッチ角に対応し、回転角κはZ軸周りのヨー角に対応する。航空機2が傾いたとき、X軸方向周りのロール角、Y軸周りのピッチ角及びZ軸周りのヨー角という3種類の姿勢角のうちの少なくとも1つの姿勢角が非零の値となる。この航空機2の傾きに起因して、測距データを基に算出される相対位置ベクトルDに誤差が発生する。回転行列M(ω),M(φ),M(κ)は、航空機2の傾きに起因する相対位置ベクトルDの誤差を補正するものである。
上述のとおり、本実施の形態の姿勢センサ15は、航空機2の姿勢を示すロール角とピッチ角との組み合わせを実姿勢データとして検出することができるが、ヨー角を検出しない。よって、一定精度の実姿勢データが検出されている場合、測距点座標算出部33Aは、その実姿勢データから、回転行列M(ω),M(φ)を定める回転角ω,φを知ることができるが、回転行列M(κ)を定める回転角κは未知のパラメータである。この場合、測距点座標算出部33Aは、回転角κの推定値の初期値を0度に設定する。これにより、測距点座標算出部33Aは、上式(1)に従って各測距点の測地座標Q(p)を算出することができる。
一方、実姿勢データが検出されていない場合、あるいは、実姿勢データの検出精度が低い場合には、回転角ω,φ,κのすべてが未知のパラメータとなる。実姿勢データが検出されていない場合、測距点座標算出部33Aは、回転角ω,φ,κの推定値の初期値をすべて0度に設定する。一方、実姿勢データの検出精度が低い場合には、測距点座標算出部33Aは、回転角ω,φの推定値の初期値を当該実姿勢データに基づく値に設定し、回転角κの推定値の初期値を0度に設定する。これにより、測距点座標算出部33Aは、上式(1)に従って各測距点の測地座標Q(p)を算出することができる。後述するように、これら未知のパラメータの推定値に対する補正値が、非線形最小自乗法に基づいて算出される。
画像座標算出部33Bは、各測距点について測地座標系から右カメラ12Rの投影面座標系(画像座標系)への第1の投影変換を測地座標Q(p)に施して2次元の画像座標である第1の投影点座標Sを算出するとともに、各測距点について測地座標系から左カメラ12Lの投影面座標系(画像座標系)への第2の投影変換を測地座標Q(p)に施して2次元の画像座標である第2の投影点座標Sを算出する。これら第1及び第2の投影変換の詳細については後述する。
画像マッチング部34は、撮像画像群から選択された2つの撮像画像(第1の撮像画像及び第2の撮像画像)間の画像マッチングを実行してそれら2つの撮像画像のうちの一方に現れる測距点の画像座標を検出する。
姿勢推定部35は、画像マッチング部34で検出された画像座標とこれに対応する投影点座標SまたはSとの間の差分の大きさが小さくなるように上記の未知のパラメータの推定値に対する補正量を算出する。ここで、姿勢推定部35は、後述する非線形最小自乗法に基づいて当該補正量を算出することが可能である。姿勢推定部35は、当該補正量を用いて未知パラメータの推定値を補正することができる。
上記姿勢推定装置30のハードウェア構成は、たとえば、ワークステーションまたはメインフレームなどのCPU内蔵のコンピュータで実現可能である。あるいは、姿勢推定装置30のハードウェア構成は、DSP、ASICもしくはFPGAまたはこれらの組み合わせなどのLSIにより実現されてもよい。
図19Aは、姿勢推定装置30のハードウェア構成例である情報処理装置30Sの概略構成を示すブロック図である。図19Aに示されるように情報処理装置30Sは、CPU50cを含むプロセッサ50と、メモリインタフェース回路(メモリI/F回路)51と、プロセッサ50の作業用メモリとして使用されるRAM52と、ソフトウェア及びファームウェアの一方または双方のコンピュータ・プログラムが格納される不揮発性メモリ53とを備えて構成されている。この情報処理装置30Sの構成要素50〜53は、バス回路などの信号路54を介して相互に接続されている。メモリI/F回路51は、図18のメモリI/F部31の機能を実現する回路である。プロセッサ50は、不揮発性メモリ53から、ソフトウェアもしくはファームウェアまたはこれらの組み合わせであるコンピュータ・プログラムを読み出して実行することにより、図18のデータ取得部32,座標算出部33、画像マッチング部34及び姿勢推定部35の機能を実現することができる。不揮発性メモリ53としては、たとえば、ROM、フラッシュメモリ、EPROM、EEPROM、磁気ディスクまたは光ディスクを使用することができるが、これらに限定されるものではない。
図19Bは、姿勢推定装置30の他のハードウェア構成例である情報処理装置30Hの概略構成を示すブロック図である。図19Bに示されるように情報処理装置30Hは、DSP、ASICまたはFPGAなどの専用ハードウェアの処理回路56と、メモリインタフェース回路(メモリI/F回路)57とを備えている。これら処理回路56とメモリI/F回路57とは、バス回路などの信号路58を介して相互に接続されている。メモリI/F回路57は、図18のメモリI/F部31の機能を実現する回路である。処理回路56は、図18のデータ取得部32,座標算出部33、画像マッチング部34及び姿勢推定部35の機能を実現する。
なお、データ取得部32,座標算出部33、画像マッチング部34及び姿勢推定部35の機能の一部が専用のハードウェアで実現されるとともに、その機能の他の一部がソフトウェアまたはファームウェアで実現されてもよい。たとえば、データ取得部32の機能が専用ハードウェアの処理回路で実現されるとともに、座標算出部33、画像マッチング部34及び姿勢推定部35の機能がCPUを含むプロセッサで実現されてもよい。
次に、図20を参照しつつ、上記姿勢推定装置30の動作例を以下に説明する。図20は、実施の形態1に係る姿勢推定処理の手順の一例を概略的に示すフローチャートである。
図20を参照すると、先ず、データ取得部32は、測位データ、測距データ、実姿勢データ及び撮像画像群を含む観測データを取得する(ステップST11)。実姿勢データは、上述のとおり、航空機2が傾いたときに非零の姿勢角を示すデータである。図21A〜図21Cは、航空機2が傾いていないときの撮像画像IMG0,IMG1と測距点Kとの間の関係の例を示す図であり、図22A及び図22Bは、航空機2が傾いたときの撮像画像IMG0,IMG1と測距点Kとの間の関係の例を示す図である。図21Aは、時刻t,tにおける右カメラ12R及び左カメラ12Lの配置例を示し、図21Bは、時刻tに左カメラ12Lで撮像された左カメラ画像IMG0と、時刻tに右カメラ12Rで撮像された右カメラ画像IMG1とを示している。図21Cは、時刻t,tにおける右カメラ12R及び左カメラ12Lと測距点Kとの間の位置関係を概略的に示す図である。航空機2が傾いていないとき、図21Bに示されるように左カメラ画像IMG0及び右カメラ画像IMG1には同一測距点Kを表す測距点像80,81が現れている。一方、図22Bに示されるように時刻tで航空機2が傾いたとき、右カメラ画像IMG1には、図22Aに示されるように、図21Bの測距点像81の位置から右方へΔuだけシフトした位置に、測距点像82が現れる。
ステップST11の後、座標算出部33における測距点座標算出部33Aは、未知のパラメータである未知の姿勢角を特定し、当該未知の姿勢角の推定値に対する補正量を初期化する(ステップST12)。具体的には、測距点座標算出部33Aは、未知の姿勢角の推定値をすべて0度に初期化することができる。たとえば、時刻tでは、ロール角、ピッチ角及びヨー角のうちヨー角のみが未知であり、時刻tでは、ロール角、ピッチ角及びヨー角のすべてが未知である場合、時刻tでのヨー角と、時刻tでのロール角、ピッチ角及びヨー角とが未知の姿勢角となるので、測距点座標算出部33Aは、これら未知の姿勢角の推定値を初期値(0度)に設定することができる。
次に、測距点座標算出部33Aは、測位データ、測距データ、実姿勢データ及び未知の姿勢角の推定値に基づいて、測地座標系における各測距点の位置座標である測地座標Q(p)を算出する(ステップST13)。測地座標Q(p)の算出方法は、上述したとおりである。
次に、画像座標算出部33Bは、各測距点の測地座標Q(p)に対して、測地座標系から右カメラ12Rの投影面座標系への第1の投影変換を実行して2次元の画像座標である第1の投影点座標を算出し(ステップST14)、更に、各測距点の測地座標Q(p)に対して、測地座標系から左カメラ12Lの投影面座標系への第2の投影変換を実行して2次元の画像座標である第2の投影点座標を算出する(ステップST15)。
ステップST14,ST15において、具体的には、画像座標算出部33Bは、先ず、撮像画像群の中から、撮像時刻t=tに撮像された左カメラ画像と、撮像時刻t=t(i≠j)に撮像された右カメラ画像とのペアを選択する。撮像時刻t,tは、撮像画像のサンプリング間隔(データ取得周期)だけ互いに離れている。以下、このペアの選択をペアリングと呼ぶ。また、その右カメラ画像を第1の撮像画像と呼び、その左カメラ画像を第2の撮像画像と呼ぶこととする。説明の便宜上、本実施の形態では、撮像部11は、1秒間隔で測距点を撮像するものとする。本実施の形態では、撮像時刻t,tは互いに異なる時刻であるが、これに限定されず、同一の時刻であってもよい。また、本実施の形態では、左カメラ画像と右カメラ画像とのペアが選択されているが、これに限定されるものではなく、互いに異なる時刻に異なる位置から撮像された2枚の左カメラ画像のペア、あるいは、互いに異なる時刻に異なる位置から撮像された2枚の右カメラ画像のペアが選択されてもよい。このような撮像画像のペアを用いることで、航空機2の姿勢に応じた画像上の被写体の変化を航空機2の姿勢推定に利用することができる。言い換えれば、航空機2の姿勢に応じた画像上の被写体の変化が航空機2の姿勢推定に利用されるため、左カメラ12Lと右カメラ12Rとの視野安定化のためのスタビライザーを使用せずに済む。
次に、画像座標算出部33Bは、次式(4L)に従って、測地座標Q(p)を、左カメラ12Lの投影中心を基準とする相対位置ベクトルCLi (p)に変換し、次式(4R)に従って、測地座標Q(p)を、右カメラ12Rの投影中心を基準とする相対位置ベクトルCRj (p)に変換する。
Figure 0006430073

Figure 0006430073
ここで、回転行列M(−ω),M(−φ),M(−κ)を定める−ω,−φ,−κは、それぞれ、撮像時刻t=tでのロール角,ピッチ角及びヨー角(未知の姿勢角の推定値を含む。)に対応する量である。また、Q(t)は、撮像時刻tにおける左カメラ12Lの投影中心座標であり、Q(t)は、時刻tにおける右カメラ12Rの投影中心座標である。投影中心座標Q(t),Q(t)は、次式(5L),(5R)で与えられる。
Figure 0006430073

Figure 0006430073
ここで、RLCは、左カメラ12Lの投影中心の相対位置ベクトルであり、RRCは、右カメラ12Rの投影中心の相対位置ベクトルである。たとえば、相対位置ベクトルRLC,RRCは次式(6)で与えられる。
Figure 0006430073
そして、画像座標算出部33Bは、上記相対位置ベクトルCLi (p),CRj (p)を用いて、次式(7)に従って第1の投影点座標S (p)及び第2の投影点座標S (p)を算出する。
Figure 0006430073
ここで、fは、左カメラ12L及び右カメラ12Rの焦点距離である。
上記したステップST14,ST15の後は、画像マッチング部34は、ペアをなす第1の撮像画像(右カメラ画像)と第2の撮像画像(左カメラ画像)との間で画像マッチングを実行して、第1の撮像画像に現れる各測距点の画像座標を検出する(ステップST16)。具体的には、画像マッチング部34は、第2の撮像画像から第2の投影点座標で指定される局所領域画像をテンプレート画像として抽出し、このテンプレート画像と第1の撮像画像との間で周知のテンプレートマッチング法を実行することにより、第1の撮像画像に現れる各測距点の画像座標を検出すればよい。
以下、p番目の測距点の画像座標のx座標値をSCAN(xLi (p),yLi (p))と表し、当該画像座標のy座標値をSCAN(xLi (p),yLi (p))と表すものとする。ここで、(xLi (p),yLi (p))は、p番目の測距点の第2の投影点座標である。
次に、姿勢推定部35は、未知の姿勢角の推定値に対して、第1の投影点座標と画像座標との間の差分の大きさを小さくする補正量を算出する(ステップST17)。具体的には、非線形最小自乗法を用いて補正量が算出されればよい。非線形最小自乗法については後述する。次いで、姿勢推定部35は、補正量を用いて未知の姿勢角の推定値を補正する(ステップST18)。そして、ステップST12〜ST18の繰り返し回数が所定回数に到達していない場合には(ステップST19のNO)、姿勢推定部35は、ステップST12に処理を移行させる。ステップST12〜ST18が一定回数繰り返されると、未知の姿勢角の推定値は補正により収束する。ステップST12〜ST18の繰り返し回数が所定回数に到達した場合には(ステップST19のYES)、姿勢推定部35は、未知の姿勢角の推定値と実姿勢データとを含む姿勢データをメモリI/F部31に出力する(ステップST20)。メモリI/F部31は、その姿勢データをメモリ17に格納する。以上で姿勢推定処理は終了する。
次に、実施の形態1に係る非線形最小自乗法について説明する。未知の姿勢角α,α,…,αがN+1個あるとき、未知の姿勢角ベクトルαは、次式(8)で与えられる。
Figure 0006430073
ここで、αは、未知の姿勢角の推定値からなる推定値ベクトルである。また、Δαは、推定値ベクトルαに対する補正量(補正ベクトル)であり、次式(9)で与えられるものとする。
Figure 0006430073
ここで、p番目の測距点についての画像座標と第1の投影点座標との間の差分を示す観測関数Fxij (p)(α),Fyij (p)(α)を次式(10),(11)で定義する。
Figure 0006430073

Figure 0006430073
このとき、非線形最小自乗法により次式(12),(13)の1組の観測方程式を構成することができる。
Figure 0006430073

Figure 0006430073
ここで、右辺第1項に付された下付き添え字αは、推定値ベクトルαの値を代入することを意味する。また、左辺のvxij (p),vyij (p)は残差である。
第1の撮像画像及び第2の撮像画像のペアは(i,j)の組で指定可能である。よって、(i,j)=(0,1),(1,2),(2,3),…の各々について観測方程式(10),(11)を構成することができる。今、残差ベクトルVを次式(14)で定義し、誤差ベクトルwを次式(15)で定義することができる。
Figure 0006430073

Figure 0006430073
また、推定値ベクトルαにおける計画行列Φを次式(16)で定義することができる。

Figure 0006430073
このとき、観測方程式の組は、次式(17)で表現可能である。
Figure 0006430073
残差ベクトルVの二乗和V・Vを最小にする補正ベクトルΔαは、次式(18)のとおりである。
Figure 0006430073
したがって、姿勢推定部35は、上記ステップST17では、式(18)に従って補正ベクトルΔαを算出し、上記ステップST18では、上式(8)に従って推定値を補正することが可能である。
たとえば、未知の姿勢角として、α=κ(時刻t),α=ω(時刻t),α=φ(時刻t),α=κ(時刻t)が与えられたとき、補正ベクトルΔαは、次式(19)で表現される。
Figure 0006430073
このとき、未知の姿勢角ベクトルαは、次式(20)で与えられる。
Figure 0006430073
ここで、<κ>,<ω>,<φ>,<κ>は、推定値ベクトルαの要素である。また、このときの観測方程式は、次式(21),(22)のとおりである。
Figure 0006430073

Figure 0006430073
更に、これら観測方程式(21),(22)に基づいて次式(23)の計画行列Φを構成することができる。

Figure 0006430073
図23Aは、上式(1)に基づいて算出された0番目〜11番目の測距点の各測距点の測地座標(X,Y,Z)の数値例(pは測距点番号)を表すテーブルであり、図23Bは、上式(5L),(5R)に基づいて算出された投影中心座標(X,Y,Z),(X,Y,Z)の数値例を表すテーブルである。時刻t=0.0,t=1.0,t=2.0,t=3.0のそれぞれの時刻で、右カメラ画像及び左カメラ画像が撮像される。また、図24は、上式(7)に基づいて算出された第1の投影点座標及(x,y)び第2の投影点座標(x,y)の数値例を表すテーブルである。そして、図25は、画像座標(SCAN(xLi,yLi)、SCAN(xLi,yLi))の数値例を表す図である。α=κ(時刻t),α=ω(時刻t),α=φ(時刻t),α=κ(時刻t)が与えられたとき、これら図23A,23B、図24及び図25に示す数値を用いて、図26の誤差ベクトルw、図27の計画行列Φ、図28の補正ベクトルΔαをそれぞれ算出することができた。また、図29に示すように、時刻t=0.00,1.00,2.00,3.00での姿勢データが得られることが確認された。
なお、異なる位置のカメラにより撮像された画像間で対応点を探索して観測対象までの距離及び奥行き情報などの3次元情報を取得するステレオ画像処理には、固定ステレオと呼ばれる方法と、モーションステレオと呼ばれる方法とがある。固定ステレオは、2つのカメラを間隔を空けて配置して撮像する手法である。時刻tでの左カメラ画像と時刻tの右カメラ画像のペアリングは、固定ステレオに相当する。また、モーションステレオでは、カメラを飛行させて異なる撮影位置から撮影する方法である。時刻tでのカメラ画像と時刻tでのカメラ画像とのペアリングは、モーションステレオに相当する。
また、これまでの説明では、左カメラ12Lと右カメラ12Rとを利用する構成を示したが、1台のカメラであってもよい。この場合、時刻tのカメラ画像と時刻tのカメラ画像とのペアが用いられればよい。
更に、上記では、未知のパラメータは、時刻ごとの姿勢角の3つのパラメータのいずれかであったが、航空機2の3次元位置座標を加えた6つのパラメータとされてもよく、焦点距離fなどの内部パラメータを含んでもよい。
以上に説明したように実施の形態1に係る観測システム1は、異なる撮像位置でそれぞれ撮像された画像間の対応する点の座標が航空機2の姿勢によってずれることに着目し、これらの座標の差分の大きさが小さくなるように未知の姿勢角の推定値を補正することができる。したがって、IMUやスタビライザーを使用しなくても航空機2の姿勢を高精度に推定することができる。
なお、実施の形態1では、回転角κの推定値の初期値を0度として座標計算が実行されたが、回転角κの近似解は、GNSS測位部14によって測定された測位座標の時系列から得ることもできる。よって、回転角κの推定値の初期値をその近似解に設定してもよい。
更に、実施の形態1に係る観測システム1では、可搬記録媒体であるメモリ17が航空機2に搭載されて使用される。このように航空機2の飛行中にメモリ17に蓄積された観測データを用いることで、航空機2の姿勢角を飛行終了後に推定することができ、推定された姿勢角を用いて測量結果を補正することもできる。
実施の形態2.
次に、本発明に係る実施の形態2について説明する。図30は、本発明に係る実施の形態2の観測システム1Aの概略構成を示すブロック図である。図30に示されるように、この観測システム1Aは、観測装置10A,メモリ17,飛行制御装置21及び推力発生機構22を含む航空機2Aと、姿勢推定装置30Aと、飛行ルート設定装置40Aとを備えて構成されている。
航空機2Aに搭載される観測装置10Aの構成は、無線通信部18を有する点を除いて、上記実施の形態1の観測装置10の構成と同じである。無線通信部18は、姿勢推定装置30A及び飛行ルート設定装置40Aとの間で無線通信を実行してルートデータや観測データなどのデータを送受信する機能を有する。
図31は、実施の形態2の姿勢推定装置30Aの概略構成を示すブロック図である。この姿勢推定装置30Aの構成は、図18のメモリI/F部31に代えて無線インタフェース部(無線I/F部)31WLを有する点を除いて、上記実施の形態1の姿勢推定装置30の構成と同じである。無線I/F部31WLは、図30に示した観測装置10Aの無線通信部18との間で無線通信する機能を有するので、無線通信部18から上記の観測データなどのデータを受信し、姿勢推定部35で生成された姿勢データを無線通信部18に送信することができる。
図32は、実施の形態2の飛行ルート設定装置40Aの概略構成を示すブロック図である。この飛行ルート設定装置40Aの構成は、図3のメモリI/F部44に代えて無線インタフェース部(無線I/F部)44WLを有する点を除いて、上記実施の形態1の飛行ルート設定装置40の構成と同じである。無線I/F部44WLは、図30に示した観測装置10Aの無線通信部18との間で無線通信する機能を有するので、ルートデータ生成部43で生成されたルートデータ及び周期データを無線通信部18に送信することができる。観測制御部16は、無線通信部18で受信された当該周期データを用いて撮像部11、レーザ測距部13、GNSS測位部14及び姿勢センサ15を制御することができる。
また、観測制御部16は、無線通信部18で受信された当該ルートデータをメモリ17に格納する。飛行制御装置21は、当該ルートデータに従って航空機2の速度、進路及び姿勢を制御することができる。したがって、飛行ルート設定装置40Aは、メモリ17を使用せずに、飛行中の航空機2Aにルートデータをリアルタイムに供給して航空機2を遠隔制御することが可能である。
以上、図面を参照して本発明に係る種々の実施の形態について述べたが、これら実施の形態は本発明の例示であり、これら実施の形態以外の様々な形態を採用することもできる。なお、本発明の範囲内において、上記実施の形態1,2の自由な組み合わせ、各実施の形態の任意の構成要素の変形、または各実施の形態の任意の構成要素の省略が可能である。
本発明に係る姿勢推定装置、観測システム及び姿勢推定方法は、観測機器を搭載した飛行体の姿勢を高精度に推定することができるので、たとえば、測量システム及びUAV用の航法(ナビゲーション)システムに適用可能である。
1,1A 観測システム、2,2A 航空機、10,10A 観測装置、11 撮像部、12L 左カメラ、12R 右カメラ、13 レーザ測距部、14 GNSS測位部、15 姿勢センサ、16 観測制御部、17 メモリ、18 無線通信部、19R,19L アーム、20 機体、21 飛行制御装置、22 推力発生機構、22A〜22F 推力発生器、30,30A 姿勢推定装置、30S 情報処理装置、30H 情報処理装置、31 メモリインタフェース部(メモリI/F部)、31WL 無線インタフェース部(無線I/F部)、32 データ取得部、33 座標算出部、33A 測距点座標算出部、33B 画像座標算出部、34 画像マッチング部、35 姿勢推定部、40,40A 飛行ルート設定装置、40S 情報処理装置、40H 情報処理装置、41 入出力インタフェース部(入出力I/F部)、42 入力データ処理部、43 ルートデータ生成部、44 メモリインタフェース部(メモリI/F部)、44WL 無線インタフェース部(無線I/F部)、46 操作入力部、47 表示部、50 プロセッサ、50c CPU、51 メモリインタフェース回路(メモリI/F回路)、52 RAM、53 不揮発性メモリ、54 信号路、56 処理回路、57 メモリインタフェース回路(メモリI/F回路)、58 信号路、60 プロセッサ、60c CPU、61 メモリインタフェース回路(メモリI/F回路)、61 メモリI/F回路、62 RAM、63 不揮発性メモリ、64A 入力インタフェース回路(入力I/F回路)、64B 表示インタフェース回路(表示I/F回路)、65 信号路、66 処理回路、67 メモリI/F回路、68A 入力インタフェース回路(入力I/F回路)、68B 表示インタフェース回路(表示I/F回路)、69 信号路。

Claims (18)

  1. 測地座標系における飛行体の位置を示す測位データを出力する測位部と、前記飛行体から地上の測距点までの距離と当該測距点に対する角度方向とを計測して測距データを出力する測距部と、前記飛行体に搭載された状態で複数の撮像位置から当該測距点を撮像して撮像画像群を出力する撮像部と、重力方向を基準とした当該飛行体の姿勢を検出して実姿勢データを出力する姿勢センサとを含む観測装置と連携して動作する姿勢推定装置であって、
    前記測位データ、前記測距データ、前記実姿勢データ及び前記撮像画像群を前記観測装置から取得するデータ取得部と、
    前記測位データ、前記測距データ、前記実姿勢データ及び前記飛行体の姿勢を示す未知のパラメータの推定値を用いて、前記測地座標系における当該測距点の位置を示す測地座標を算出する測距点座標算出部と、
    前記測地座標系から、前記撮像画像群の中から選択された第1の撮像画像に対応する第1の画像座標系への投影変換を前記測地座標に施して第1の投影点座標を算出し、前記測地座標系から、前記撮像画像群の中から選択された第2の撮像画像に対応する第2の画像座標系への投影変換を前記測地座標に施して第2の投影点座標を算出する画像座標算出部と、
    前記第2の撮像画像から前記第2の投影点座標で指定される局所領域画像を抽出し、当該局所領域画像と前記第1の撮像画像との間の画像マッチングを実行して前記第1の撮像画像に現れる当該測距点の画像座標を検出する画像マッチング部と、
    前記第1の投影点座標と前記画像座標との間の差分の大きさが小さくなるように前記推定値を補正する姿勢推定部と
    を備えることを特徴とする姿勢推定装置。
  2. 請求項1記載の姿勢推定装置であって、前記測距点座標算出部、前記画像座標算出部、前記画像マッチング部及び前記姿勢推定部は、非線形最小自乗法に基づき、前記測地座標を算出する処理と、前記第1の投影点座標及び前記第2の投影点座標を算出する処理と、前記画像座標を検出する処理と、前記推定値を補正する処理とを反復して実行することを特徴とする姿勢推定装置。
  3. 請求項2記載の姿勢推定装置であって、前記第1の撮像画像及び前記第2の撮像画像は、互いに異なる第1の撮像時刻及び第2の撮像時刻にそれぞれ撮像された画像であることを特徴とする姿勢推定装置。
  4. 請求項3記載の姿勢推定装置であって、前記撮像部は、互いに異なる位置に配置された第1撮像部及び第2撮像部を有し、前記第1撮像部が前記第1の撮像画像を出力し、前記第2撮像部が前記第2の撮像画像を出力することを特徴とする姿勢推定装置。
  5. 請求項1記載の姿勢推定装置であって、前記測位部は、全地球的航法衛星システムを構成する複数の衛星から航法信号を受信し、当該航法信号を解析して前記測位データを生成することを特徴とする姿勢推定装置。
  6. 請求項1記載の姿勢推定装置であって、前記測距部は、前記測距点にレーザ光を照射し、前記測距点から反射レーザ光を受光して前記距離及び前記角度方向を測定することを特徴とする姿勢推定装置。
  7. 測地座標系における飛行体の位置を示す測位データを出力する測位部と、前記飛行体から地上の測距点までの距離と当該測距点に対する角度方向とを計測して測距データを出力する測距部と、前記飛行体に搭載された状態で複数の撮像位置から当該測距点を撮像して撮像画像群を出力する撮像部と、重力方向を基準とした当該飛行体の姿勢を検出して実姿勢データを出力する姿勢センサとを含む観測装置と、
    前記観測装置と連携して動作する姿勢推定装置と
    を備え、
    前記姿勢推定装置は、
    前記測位データ、前記測距データ、前記実姿勢データ及び前記撮像画像群を前記観測装置から取得するデータ取得部と、
    前記測位データ、前記測距データ、前記実姿勢データ及び前記飛行体の姿勢を示す未知のパラメータの推定値を用いて、前記測地座標系における当該測距点の位置を示す測地座標を算出する測距点座標算出部と、
    前記測地座標系から、前記撮像画像群の中から選択された第1の撮像画像に対応する第1の画像座標系への投影変換を前記測地座標に施して第1の投影点座標を算出し、前記測地座標系から、前記撮像画像群の中から選択された第2の撮像画像に対応する第2の画像座標系への投影変換を前記測地座標に施して第2の投影点座標を算出する画像座標算出部と、
    前記第2の撮像画像から前記第2の投影点座標で指定される局所領域画像を抽出し、当該局所領域画像と前記第1の撮像画像との間の画像マッチングを実行して前記第1の撮像画像に現れる当該測距点の画像座標を検出する画像マッチング部と、
    前記第1の投影点座標と前記画像座標との間の差分の大きさが小さくなるように前記推定値を補正する姿勢推定部と
    を含むことを特徴とする観測システム。
  8. 請求項7記載の観測システムであって、前記測距点座標算出部、前記画像座標算出部、前記画像マッチング部及び姿勢推定部は、非線形最小自乗法に基づき、前記測地座標を算出する処理と、前記第1の投影点座標及び前記第2の投影点座標を算出する処理と、前記画像座標を検出する処理と、前記推定値を補正する処理とを反復して実行することを特徴とする観測システム。
  9. 請求項7記載の観測システムであって、前記飛行体の飛行ルートを設定するための飛行ルート設定装置を更に備え、
    前記飛行ルート設定装置は、
    前記飛行ルートを指示する入力データを受け付ける入力データ処理部と、
    前記入力データ処理部で受け付けられた当該入力データに基づき、前記飛行ルートを定めるルートデータを生成するルートデータ生成部と
    を含み、
    前記飛行体は、前記ルートデータで定められた当該飛行ルートに沿って前記飛行体を飛行させる飛行制御装置を備える
    ことを特徴とする観測システム。
  10. 請求項9記載の観測システムであって、
    前記飛行ルート設定装置は、ユーザによる操作入力を検出する操作入力部と接続された入力インタフェース部を更に含み、
    前記入力インタフェース部は、前記操作入力部で検出された操作入力を前記入力データとして前記入力データ処理部に供給する
    ことを特徴とする観測システム。
  11. 請求項9記載の観測システムであって、前記飛行ルート設定装置は、前記ルートデータを記録媒体に格納するメモリインタフェース部を更に備えることを特徴とする観測システム。
  12. 請求項9記載の観測システムであって、
    前記飛行ルート設定装置は、前記ルートデータを無線で送信する無線インタフェース部を更に備え、
    前記飛行体は、
    前記無線インタフェース部から前記ルートデータを受信する無線通信部と、
    前記無線通信部で受信された当該ルートデータで定められた当該飛行ルートに沿って前記飛行体を飛行させる飛行制御装置とを備える
    ことを特徴とする観測システム。
  13. 請求項7記載の観測システムであって、
    前記観測装置は、前記測位データ、前記測距データ、前記実姿勢データ及び前記撮像画像群を含む観測データを無線で送信する無線通信部を更に備え、
    前記姿勢推定装置は、前記無線通信部から当該観測データを受信する無線インタフェース部を更に備える
    ことを特徴とする観測システム。
  14. 請求項9記載の観測システムであって、前記測距部は、レーザ光で前記地上を走査し前記測距点から反射レーザ光を受光して前記距離及び前記角度方向を測定することを特徴とする観測システム。
  15. 請求項14記載の観測システムであって、
    前記飛行制御装置は、前記ルートデータで定められた第1の飛行ルートを所定方向に沿って前記飛行体に自動で飛行させた後に、前記第1の飛行ルートと並行する第2の飛行ルートを前記所定方向とは逆方向に沿って前記飛行体に自動で飛行させ、
    前記飛行体が前記第1の飛行ルートを飛行する際の前記レーザ光の走査範囲と、前記飛行体が前記第2の飛行ルートを飛行する際の前記レーザ光の走査範囲とは、互いにオーバラップすることを特徴とする観測システム。
  16. 請求項15記載の観測システムであって、前記所定方向は一軸方向であることを特徴とする観測システム。
  17. 測地座標系における飛行体の位置を示す測位データを出力する測位部と、前記飛行体から地上の測距点までの距離と当該測距点に対する角度方向とを計測して測距データを出力する測距部と、前記飛行体に搭載された状態で複数の撮像位置から当該測距点を撮像して撮像画像群を出力する撮像部と、重力方向を基準とした当該飛行体の姿勢を検出して実姿勢データを出力する姿勢センサとを含む観測装置と連携して動作する姿勢推定装置において実行される姿勢推定方法であって、
    前記測位データ、前記測距データ、前記実姿勢データ及び前記撮像画像群を前記観測装置から取得するステップと、
    前記測位データ、前記測距データ、前記実姿勢データ及び前記飛行体の姿勢を示す未知のパラメータの推定値を用いて、前記測地座標系における当該測距点の位置を示す測地座標を算出するステップと、
    前記測地座標系から、前記撮像画像群の中から選択された第1の撮像画像に対応する第1の画像座標系への投影変換を前記測地座標に施して第1の投影点座標を算出するステップと、
    前記測地座標系から、前記撮像画像群の中から選択された第2の撮像画像に対応する第2の画像座標系への投影変換を前記測地座標に施して第2の投影点座標を算出するステップと、
    前記第2の撮像画像から前記第2の投影点座標で指定される局所領域画像を抽出するステップと、
    当該局所領域画像と前記第1の撮像画像との間の画像マッチングを実行して前記第1の撮像画像に現れる当該測距点の画像座標を検出するステップと、
    前記第1の投影点座標と前記画像座標との間の差分の大きさが小さくなるように前記推定値を補正するステップと
    を備えることを特徴とする姿勢推定方法。
  18. 請求項17記載の姿勢推定方法であって、前記測地座標を算出する当該ステップと、前記第1の投影点座標を算出する当該ステップと、前記第2の投影点座標を算出する当該ステップと、前記局所領域画像を抽出する当該ステップと、前記画像座標を検出する当該ステップと、前記推定値を補正する当該ステップとは、非線形最小自乗法に基づいて反復して実行されることを特徴とする姿勢推定方法。
JP2018520304A 2016-06-02 2016-06-02 姿勢推定装置、姿勢推定方法及び観測システム Expired - Fee Related JP6430073B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/066444 WO2017208424A1 (ja) 2016-06-02 2016-06-02 姿勢推定装置、姿勢推定方法及び観測システム

Publications (2)

Publication Number Publication Date
JPWO2017208424A1 JPWO2017208424A1 (ja) 2018-11-01
JP6430073B2 true JP6430073B2 (ja) 2018-11-28

Family

ID=60479233

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018520304A Expired - Fee Related JP6430073B2 (ja) 2016-06-02 2016-06-02 姿勢推定装置、姿勢推定方法及び観測システム

Country Status (4)

Country Link
US (1) US11099030B2 (ja)
JP (1) JP6430073B2 (ja)
CN (1) CN109477716A (ja)
WO (1) WO2017208424A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6707098B2 (ja) * 2018-01-31 2020-06-10 田中 成典 三次元モデル生成システム
CN108399641B (zh) * 2018-03-12 2019-10-11 北京华捷艾米科技有限公司 重新检测地面的判定方法及装置
US11426059B2 (en) * 2018-06-02 2022-08-30 Ankon Medical Technologies (Shanghai) Co., Ltd. Control system for capsule endoscope
CN112128055B (zh) * 2019-09-27 2022-09-20 青岛航天半导体研究所有限公司 基于陀螺仪自动导航***的发电控制方法
CN112880661B (zh) * 2021-01-11 2022-11-11 北京中科宇航技术有限公司 一种垂直降落飞行器的位置姿态测量方法及装置
US20220390964A1 (en) * 2021-06-04 2022-12-08 Thomas Andrew Youmans Cloud & hybrid-cloud flight vehicle & robotic control system ai & ml enabled cloud-based software & data system method for the optimization and distribution of flight control & robotic system solutions and capabilities
CN114839196B (zh) * 2022-07-01 2022-10-14 中国标准化研究院 一种基于计算机视觉的无接触式质量测量研究方法的***
CN115016524B (zh) * 2022-08-10 2022-10-21 东方空间技术(北京)有限公司 一种飞行器控制方法、***、计算机设备及可读存储介质
CN115218928B (zh) * 2022-08-11 2023-05-26 湖南科天健光电技术有限公司 校准方法、测量待测目标的方法、装置、***及飞行***
CN116430427B (zh) * 2023-06-12 2023-08-25 湖南中车时代通信信号有限公司 铁路区间信号设备坐标自动获取方法、***及存储介质
CN116576850B (zh) * 2023-07-12 2023-10-20 北京集度科技有限公司 一种位姿确定方法、装置、计算机设备及存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08268393A (ja) 1995-03-29 1996-10-15 Toshiba Tesco Kk 駐機位置指示装置のキャリブレーション方法
US6597818B2 (en) * 1997-05-09 2003-07-22 Sarnoff Corporation Method and apparatus for performing geo-spatial registration of imagery
JP2003075152A (ja) * 2001-09-07 2003-03-12 Starlabo Corp 航空機搭載撮像装置および航空撮像データ処理装置
JP2004177252A (ja) 2002-11-27 2004-06-24 Nippon Telegr & Teleph Corp <Ntt> 姿勢計測装置および方法
JP2007240506A (ja) 2006-03-06 2007-09-20 Giyourin Cho 3次元形状と3次元地形計測法
EP2511781A1 (de) * 2011-04-14 2012-10-17 Hexagon Technology Center GmbH System und Verfahren zur Steuerung eines unbemannten Fluggeräts
JP5841346B2 (ja) * 2011-04-18 2016-01-13 朝日航洋株式会社 航空レーザ測量システム
JP5920807B2 (ja) * 2011-07-26 2016-05-18 国際航業株式会社 光軸方向特定方法、光軸方向特定装置、及び光軸方向特定プログラム
JP2013096745A (ja) 2011-10-28 2013-05-20 Hokuriku Kosoku Co Ltd 三次元モデルの作成方法
GB2501684B (en) * 2012-04-30 2018-12-12 2D3 Ltd Collaborative sighting
JP5963353B2 (ja) 2012-08-09 2016-08-03 株式会社トプコン 光学データ処理装置、光学データ処理システム、光学データ処理方法、および光学データ処理用プログラム
JP6135972B2 (ja) 2012-10-29 2017-05-31 国際航業株式会社 標定方法、標定プログラム、及び標定装置
JP2014089113A (ja) * 2012-10-30 2014-05-15 Yamaha Corp 姿勢推定装置及びプログラム
JP5561843B1 (ja) 2013-01-07 2014-07-30 株式会社amuse oneself 制御装置、測量システム、プログラム及び記録媒体並びに計測方法
WO2015143615A1 (zh) * 2014-03-24 2015-10-01 深圳市大疆创新科技有限公司 飞行器状态实时修正的方法和装置
KR101776620B1 (ko) * 2014-06-17 2017-09-11 주식회사 유진로봇 검색 기반 상관 매칭을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법
EP3159121A4 (en) * 2014-06-17 2018-05-16 Yujin Robot Co., Ltd. Device for updating map of mobile robot and method therefor

Also Published As

Publication number Publication date
US11099030B2 (en) 2021-08-24
WO2017208424A1 (ja) 2017-12-07
CN109477716A (zh) 2019-03-15
JPWO2017208424A1 (ja) 2018-11-01
US20190293450A1 (en) 2019-09-26

Similar Documents

Publication Publication Date Title
JP6430073B2 (ja) 姿勢推定装置、姿勢推定方法及び観測システム
JP4448187B2 (ja) 映像の幾何補正方法およびその装置
JP6560337B2 (ja) 遠隔画像の安定化及び表示
KR100556103B1 (ko) 자동촬영시스템을 이용한 항공촬영방법
JP6878567B2 (ja) 3次元形状推定方法、飛行体、モバイルプラットフォーム、プログラム及び記録媒体
JP6765512B2 (ja) 飛行経路生成方法、情報処理装置、飛行経路生成システム、プログラム及び記録媒体
EP3348963B1 (en) Navigation system and survey system
JP5748561B2 (ja) 航空写真撮像方法及び航空写真撮像装置
JP6675537B1 (ja) 飛行経路生成装置、飛行経路生成方法とそのプログラム、構造物点検方法
JP2016057108A (ja) 演算装置、演算システム、演算方法およびプログラム
JP2008304260A (ja) 画像処理装置
CN102840852A (zh) 航空摄影图像拾取方法和航空摄影图像拾取装置
JP6289750B1 (ja) 移動体、移動体制御方法、移動体制御システム、及び移動体制御プログラム
EP4246088A1 (en) Surveying system, surveying method, and surveying program
JP2018021865A (ja) 移動体、移動体の制御方法、移動体を制御するプログラム、制御システム、及び情報処理装置
WO2019230604A1 (ja) 検査システム
WO2020062356A1 (zh) 控制方法、控制装置、无人飞行器的控制终端
US20210229810A1 (en) Information processing device, flight control method, and flight control system
JP2019191888A (ja) 無人飛行体、無人飛行方法及び無人飛行プログラム
JP2016223934A (ja) 位置補正システム、位置補正方法、および位置補正プログラム
JP6681101B2 (ja) 検査システム
JP2021143861A (ja) 情報処理装置、情報処理方法及び情報処理システム
Jia et al. Modeling image motion in airborne three-line-array (TLA) push-broom cameras
CN110892353A (zh) 控制方法、控制装置、无人飞行器的控制终端
JP6373046B2 (ja) 携帯型撮影装置及び撮影プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180615

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180615

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181002

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181030

R150 Certificate of patent or registration of utility model

Ref document number: 6430073

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees