JP2017174159A - 無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置 - Google Patents

無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置 Download PDF

Info

Publication number
JP2017174159A
JP2017174159A JP2016059529A JP2016059529A JP2017174159A JP 2017174159 A JP2017174159 A JP 2017174159A JP 2016059529 A JP2016059529 A JP 2016059529A JP 2016059529 A JP2016059529 A JP 2016059529A JP 2017174159 A JP2017174159 A JP 2017174159A
Authority
JP
Japan
Prior art keywords
image
uav
camera
information image
projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016059529A
Other languages
English (en)
Inventor
典良 広井
Noriyoshi Hiroi
典良 広井
振斌 許
Shinhin Kyo
振斌 許
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2016059529A priority Critical patent/JP2017174159A/ja
Publication of JP2017174159A publication Critical patent/JP2017174159A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Transforming Electric Information Into Light Information (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】無人飛行装置が撮像した画像に基づき無人飛行装置を制御して対象物の付近の目標位置近傍に無人飛行装置を誘導する場合において、無人飛行装置の影響による、撮像された画像の欠落を防止すること。【解決手段】画像投影部101は、撮像装置を搭載する無人飛行装置の動作を制御するための画像を対象物に投影する。制御部103は、撮像装置によって撮像された画像に基づき、無人飛行装置の動作を制御する。位置設定部105は、画像投影部の位置と無人飛行装置が画像を撮像する撮像位置と画像が投影される投影位置との関係に基づいて、投影される画像の光束の範囲内における無人飛行装置の存在の有無を判定し、判定結果に基づいて、撮像位置および前記投影位置の一方あるいは両方を設定する。【選択図】図21

Description

本発明は、無人飛行装置を制御する無人飛行装置制御システム、無人飛行装置制御方法、および、その無人飛行装置制御システムに適用可能な画像投影装置に関する。
無人飛翔体を用いた建築物の状態検査(インフラストラクチャ劣化診断)が行われている。例えば、無人飛翔体に搭載されたカメラにより撮像された建築物の表面状態から、建築物の劣化状態を推定できる。以下、無人飛翔体をUAV(Unmanned Aerial Vehicle )と記す。なお、UAVは、無人飛行装置と称することもできる。
UAVをインフラストラクチャ劣化診断に用いるために、診断対象の建築物の付近にUAVを誘導する制御が必要である。
一般的な技術では、UAVの制御部は、UAVを目標位置に誘導するために、GPS(Global Positioning System )信号を用いてUAVの位置を把握する。特許文献1には、GPSアンテナを有するGPS装置と、撮像部とを備えたカメラを具備する航空写真装置が記載されている。
特開2014−62789号公報
GPS信号によって位置を把握するUAVを用いて、インフラストラクチャ劣化診断を行う場合、以下に示す問題が生じる。単体アンテナをUAV等の移動体に取り付けたGPSでは、リアルタイム測位精度は数メートルの誤差を含む。その結果、インフラストラクチャ劣化診断の対象となる建築物にUAVが近付く場合、UAVのGPS測定位置誤差が大きいため、建築物とUAVとの距離が遠すぎたり近すぎたりすることがある。また、UAVと、GPS衛星との位置関係によっては、GPS信号の強度が弱い場所をUAVが通過することもあり得る。GPS信号の強度が弱い場所をUAVが通過する場合、UAVは、そのUAVの位置を正確に把握できず、目標位置への誘導精度が悪くなる。
この問題を簡易な構成で解決するために、建築物等の対象物にUAVの動作を制御するための画像を投影し、投影された画像をUAVに搭載されたカメラにより撮像することで、対象物の付近の目的位置近傍にUAVを誘導することが考えられる。
このような画像に基づくUAVの誘導制御において、画像を投影するために対象物に照射される光がUAVにより遮られる場合がある。その結果、UAVに搭載されたカメラにより撮像された画像の一部が欠落し、画像に基づくUAV制御が正しく行われない場合がある。
なお、このような課題は、インフラストラクチャ劣化診断におけるUAV制御に限らず、建築物の巡回監視等、対象物の付近の目標位置へ誘導するためのUAV制御においても同様に生じ得る。
そこで、本発明は、無人飛行装置が撮像した画像に基づき無人飛行装置を制御して対象物の付近の目標位置近傍に無人飛行装置を誘導する場合において、無人飛行装置の影響による、撮像された画像の欠落を防止することができる無人飛行装置制御システム、無人飛行装置制御方法、および、その無人飛行装置制御システムに適用可能な画像投影装置を提供することを目的とする。
本発明による無人飛行装置制御システムは、撮像装置を搭載する無人飛行装置の動作を制御するための画像を対象物に投影する画像投影部と、撮像装置によって撮像された画像に基づき、無人飛行装置の動作を制御する制御部と、画像投影部の位置と無人飛行装置が画像を撮像する撮像位置と画像が投影される投影位置との関係に基づいて、投影される画像の光束の範囲内における無人飛行装置の存在の有無を判定し、判定結果に基づいて、撮像位置および投影位置の一方あるいは両方を設定する位置設定部とを備える。
また、本発明による無人飛行装置制御方法は、画像投影部により、撮像装置を搭載する無人飛行装置の動作を制御するための画像を対象物に投影し、撮像装置によって撮像された画像に基づき、無人飛行装置の動作を制御し、画像投影部の位置と無人飛行装置が画像を撮像する撮像位置と画像が投影される投影位置との関係に基づいて、投影される画像の光束の範囲内における無人飛行装置の存在の有無を判定し、判定結果に基づいて、撮像位置および投影位置の一方あるいは両方を設定する。
また、本発明による画像投影装置は、撮像装置を搭載する無人飛行装置の動作を制御するための画像を対象物に投影する画像投影装置であって、画像投影装置の位置と無人飛行装置が画像を撮像する位置と画像が投影される位置との関係に基づいて、投影される画像の光束の範囲内に無人飛行装置の存在の有無を判定し、判定結果に基づいて、撮像位置および投影位置の一方あるいは両方を設定する位置設定部を備える。
本発明によれば、無人飛行装置が撮像した画像に基づき無人飛行装置を制御して対象物の付近の目標位置近傍に無人飛行装置を誘導する場合において、無人飛行装置の影響による、撮像された画像の欠落を防止することができる。
本発明の無人飛行装置制御システムおよび検査対象となる建築物を示す模式図である。 目標位置からずれた箇所でUAVが撮影を行った場合に、UAVが次の目標位置までの移動制御内容を把握する状況を示す模式図である。 情報画像の例を示す説明図である。 図3に例示した情報画像内の記号の意味を示す説明図である。 バーの表示態様の例を示す説明図である。 UAVの構成例を示すブロック図である。 カメラの視野の例を示す模式図である。 図7(b)に示す視野を撮像することによって生成したカメラ画像の例を示す模式図である。 図8に示すカメラ画像に、輪郭情報が示すカメラ画像内の輪郭を重ね合わせた状態の例を示す模式図である。 投影ステーションの構成例を示す模式的ブロック図である。 本発明の第1の実施形態の処理経過の例を示すフローチャートである。 情報画像を認識できないカメラ画像の例を示す模式図である。 情報画像とUAVの影とが重なって写ったカメラ画像の例を示す模式図である。 UAVが移動することによって、情報画像とUAVの影とが重ならない状態になったカメラ画像の例を示す模式図である。 UAVの経路の例を示す模式図である。 情報画像の投影面と、状態検査のための撮像の対象面とが異なる状況の例を示す模式図である。 水平な直線を表すパターン画像の例を示す模式図である。 段差が生じた建築物の表面にパターン画像を投影し、カメラがその投影箇所を撮像している状態を示す模式図である。 図18に示す状態の模式的側面図である。 パターン画像を撮像した結果得られたカメラ画像の例を示す模式図である。 本発明の無人飛行装置制御システムの概要を示す模式図である。
以下、本発明の実施形態を図面を参照して説明する。
実施形態1.
図1は、本発明の無人飛行装置制御システムおよび検査対象となる建築物を示す模式図である。本発明の無人飛行装置制御システムは、無人飛翔体(以下、UAVと記す。)10と、投影ステーション20とを備える。前述のように、UAVは、無人飛行装置と称することもできる。
UAV10は、カメラを搭載している。UAV10に搭載されたカメラは、検査対象となる建築物30の表面を撮像し、建築物の表面の画像を生成する。この画像によって、建築物の状態検査(インフラストラクチャ劣化診断)を行える。
投影ステーション20は、プロジェクタ21を備え、プロジェクタ21から、UAV10の制御内容を示す情報を含む画像(以下、情報画像と記す)を、建築物30の表面に投影する。投影ステーション20は、車両29に搭載され、移動したり、同じ場所で停止し続けたりすることができる。
投影ステーション20は、検査対象の建築物30の外観および3次元形状の情報を予め記憶している。さらに、投影ステーション20は、投影ステーション20と建築物30との位置関係を認識する。投影ステーション20と建築物30との位置関係は、図示しない様々な測量装置を用いて行い、3次元空間上の位置だけでなく、向きも高精度に測定しておく。なお、建築物30の3次元形状を得る方法は、設計時の図面や3D−CAD(3Dimension Computer-Aided Design)データを用いる方法でもよいし、3D−LiDAR(3Dimension Light Detection and Ranging)等を用いて現物を予め測定する方法でもよい。また、建築物30の3次元形状の情報は、建築物30全体に関する情報に限らず、建築物30のうち本発明を用いて観察する部分に関する情報であってもよい。また、建築物30と投影ステーション20との位置関係を精度良く知る方法については、トータルステーション等を用いた三角測量等、既知の手法が多数あるため、説明を省略する。投影ステーション20と建築物30との位置関係は予め計測しておくのが基本である。ただし、風等の影響で作業中に建築物30が変形する可能性がある場合や、投影ステーション20が船上等の不安定な位置にある場合には、本発明による作業中に位置関係を計測してもよい。
投影ステーション20は、その位置関係および記憶している情報に基づいて、建築物30の表面上における情報画像の投影箇所を複数定め、UAV10の経路35を導出する。また、投影ステーション20は、その各投影箇所に投影する情報画像を生成する。また、投影ステーション20は、UAV10が情報画像を撮像するための位置(以下、目標位置と記す。)やその目標位置での姿勢(傾きまたは向き)やカメラの向きを定める。この姿勢やカメラの向きは、情報画像を撮像する際の姿勢やカメラの向きである。投影ステーション20は、例えば、次の目標位置までの移動制御内容や、移動時の姿勢やカメラの向きを指示するための情報画像を、目標位置間の位置関係に基づいて生成する。また、情報画像には、UAV10に状態検査のための撮像を指示する情報も含まれる。投影ステーション20は、順次、情報画像を建築物30の表面に投影する。なお、後述するように、実際には、UAV10は目標位置からずれた位置で情報画像を撮像することが一般的であり、情報画像を撮像する際の姿勢やカメラの向きも、定められた姿勢でなくてよい。
UAV10は、情報画像が投影された建築物30の表面をカメラによって撮像する。以下、UAV10のカメラが撮像したことによって得られた画像をカメラ画像と記す。UAV10は、カメラ画像内の情報画像(カメラ画像内に写っている情報画像)が示している制御内容に従って動作する。例えば、UAV10は、カメラ画像内の情報画像に基づいて、状態検査のための撮像を行ったり、次の目標位置の方向に移動したりする。
UAV10は、カメラ画像内の情報画像に基づいて動作することによって、経路35の近傍を移動しつつ、状態検査のために建築物30の表面を撮像する。
UAV10は、経路35上の目標位置で情報画像を撮像するとは限らない。UAV10は風等の種々の影響を受けるので、UAV10が予め定められた目標位置と同一の箇所に到達することは困難であることが一般的である。そのため、UAV10は、目標位置の近傍に到達したならば、建築物30の表面を撮像する。UAV10は、その結果得られたカメラ画像に基づいて、その位置と、目標位置のずれを計算する。そして、UAV10は、カメラ画像内の情報画像が示す移動制御内容と、計算したずれとに基づいて、現在位置から次の目標位置までの移動のための制御内容を導出する。
図2は、目標位置からずれた箇所でUAV10が撮影を行った場合に、UAV10が次の目標位置までの移動制御内容を把握する状況を示す模式図である。図2に示す例において、建築物30の表面の領域A1,A2は、情報画像の投影箇所である。また、領域A1に投影された情報画像を撮像するための位置として目標位置P1が定められているとする。同様に、領域A2に投影された情報画像を撮像するための位置として目標位置P2が定められているとする。また、目標位置P1,P2それぞれにおけるUAV10の姿勢やカメラの向きも定められている。上記のように、UAV10は風等の種々の影響を受けるので、UAV10は、目標位置P1と完全に一致する位置で、領域A1に投影された情報画像を撮像することは困難である。そのため、UAV10は、目標位置P1の近傍の位置P1’で、領域A1に投影された情報画像を撮像する。このときの、UAV10の姿勢やカメラの向きも、予め定められた目標位置P1における姿勢やカメラの向きと一致していないことが一般的である。
UAV10は、目標位置P1において、定められた姿勢およびカメラの向きで、領域A1に投影された情報画像を撮像したと仮定した場合におけるカメラ画像内の情報画像の輪郭と、実際に、位置P1’で情報画像を撮像して得たカメラ画像内の情報画像の輪郭とに基づいて、目標位置P1と位置P1’とのずれM(図2参照)を計算する。また、領域A1に投影された情報画像には、目標位置P1から目標位置P2に移動するための移動制御内容が示されている。UAV10は、その移動制御内容と、計算したずれMとに基づいて、位置P1’から目標位置P2に移動するための制御内容を導出し、その制御内容に基づいて、次の目標位置P2に向けて移動する。UAV10は、領域A2に投影された情報画像を撮像する場合にも、目標位置P2の近傍で情報画像を撮像し、同様に、次の目標位置に移動するための制御内容を導出する。
なお、予め定められた目標位置において、定められた姿勢およびカメラの向きで、情報画像を撮影したと仮定した場合におけるカメラ画像内の情報画像の輪郭の情報は、事前にUAV10に与えられる。
また、UAV10は、風等の種々の影響により、情報画像の正面位置で情報画像を撮影できないことが一般的である。そのため、カメラ画像において、情報画像は歪んで写っていることが一般的である。UAV10は、その情報画像の歪みを取り除く処理を行ってから、カメラ画像内に写っている情報画像が示している制御内容を認識する。
図3は、投影ステーション20が投影する情報画像の例を示す説明図である。図4は、図3に例示した情報画像内の記号の意味を示す説明図である。
情報画像40は、例えば、移動制御記号41と、カメラ向き制御記号43と、姿勢制御記号44とを含む。
移動制御記号41は、UAV10の移動に関する制御内容を示す記号である。移動制御記号41によって、進行方向の指示、滞空指示および速度指示を行うことができる。図3に例示する移動制御記号41は、矢印の形状をしており、その矢印の示す方向が、指示している進行方法である。図3に示す例では、下方への移動を指示している。移動制御記号41によって指示する進行方向は、下方向に限定されない。
また、移動制御記号41は、付加されているバー42によって、UAV10に滞空することを指示することができる。バー42は、滞空の指示を意味している。移動制御記号41のアローヘッド(arrowhead )とは反対側の端部にバー42が設けられた場合、滞空してから、矢印方向(本例では、下方)に移動することを意味する。また、移動制御記号41のアローヘッド側の端部にバー42を表示することによって、移動してから滞空することを指示することもできる。以下の説明では、説明を簡単にするために、UAV10が、情報画像40が示す制御内容を認識してから滞空し、その滞空時間内に状態検査のための撮像を行い、その後、指示された方向に移動するものとして説明する。この場合、バー42はアローヘッドとは反対側の端部に表示される。また、バー42は、滞空中に状態検査のための撮像を指示する意味も有しているものとして説明する。
また、移動制御記号41は、移動制御記号41(矢印形状の記号)の内部の色の濃淡の変化の仕方によって、UAV10が移動する際の移動速度を指示する。なお、図3および図4では、矢印形状の記号の色の濃淡の変化を、便宜的に、模様の変化で表している。実際の矢印形状内の色の濃淡は、例えば、徐々に変化してもよい。
なお、バー42の向きは、例えば、矢印の向きと垂直に定められる。ただし、バー42の向きの定め方は、この例に限られず、例えば、常に水平であってもよい。図5は、バー42の表示態様の例を示す説明図である。図5では、移動制御記号41内部の色の濃淡の表示を省略している。図5(a)は、バー42の向きを矢印の向きと垂直に定める場合の例を示している。図5(b)は、バー42の向きを常に水平に定める場合の例を示している。図5に例示するように矢印が右向きである場合、図5(a)に示す例では、バー42は縦向きのバーとして定められる。一方、図5(b)に示す例では、バー42は水平であり、矢印の内部に示される。
カメラ向き制御記号43は、UAV10に搭載されているカメラの向きに関する制御内容を表す記号である。カメラ向き制御記号43によって、カメラの仰俯角および水平角が制御される。図3では、カメラ向き制御記号43がU字回転矢印である場合を例示している。本例では、U字回転矢印は、カメラの仰俯角を上向きにし、水平角は固定することを意味しているものとする。カメラの向きに関する制御内容と、カメラ向き制御記号43の形状との対応関係は、予め定めておけばよい。
なお、次の目標位置までの移動中のカメラの向きと、次の目標位置に対応する撮影時のカメラの向きとを別々に規定している場合には、投影ステーション20は、それぞれの向きに対応するカメラ向き制御記号を、情報画像40に含めてもよい。
姿勢制御記号44は、UAV10の姿勢に関する制御内容を表す記号である。図3では、姿勢制御記号44が半円図形である場合を例示している。本例では、半円図形は、UAV10の姿勢を水平に制御することを意味しているものとする。UAV10の姿勢に関する制御内容と、姿勢制御記号44の形状との関係は、予め定めておけばよい。
なお、次の目標位置までの移動中の姿勢と、次の目標位置に対応する撮影時の姿勢とを別々に規定している場合には、投影ステーション20は、それぞれの姿勢に対応する姿勢制御記号を、情報画像40に含めてもよい。
また、図3では、図示を省略しているが、ある目標位置で、その目標位置に対応して定められた姿勢およびカメラの向きで情報画像を撮像したと仮定した場合におけるカメラ画像内の情報画像の輪郭を表す情報が、情報画像40に含まれていてもよい。以下、ある目標位置で、その目標位置に対応して定められた姿勢およびカメラの向きで情報画像を撮像したと仮定した場合におけるカメラ画像内の情報画像の輪郭を表す情報を輪郭情報と記す。
移動制御記号41、バー42、カメラ向き制御記号43および姿勢制御記号44は、UAV10の制御内容を識別する識別情報であり、情報画像40は、そのような識別情報を含む画像であると言うことができる。また、図3では、制御内容を識別する識別情報(移動制御記号41、バー42、カメラ向き制御記号43および姿勢制御記号44)が図形の記号で表されている場合を例示している。制御内容を識別する識別情報を、図3に例示するように、図形の記号等で表すことにより、検査作業者が遠方からでも視認しやすくすることができる。
また、UAV10の制御内容を識別する識別情報は、QRコード(登録商標)やバーコード等の記号であってもよい。
また、UAV10の制御内容を識別する識別情報は、漢字、数字または象形文字等の記号であってもよい。
また、UAV10の制御内容を識別する識別情報は、例えば、「30秒滞在後下に1メートル飛行」のような文章であってもよい。
また、検査作業者の見やすさの観点から、投影ステーション20は、情報画像40内の情報(制御内容を識別する識別情報)を、例えば、点滅させるようにして、情報画像40を投影してもよい。このように情報画像40を投影することで、情報画像40の内容を目立たせることができ、検査作業者は、その内容を認識しやすくなる。
また、投影ステーション20は、制御内容を識別する識別情報の他に、他の情報も情報画像40に含めてよい。例えば、投影ステーション20は、状態情報(例えば、UAV10の現在の高度や、作業の進み具合を示すステップ番号等)を情報画像40に含めてもよい。
前述の輪郭情報は、目標位置P1と実際の位置P1’とのずれMを求める際に用いられる。目標位置P1と実際の位置P1’とのずれMを求めるために必要な情報は、前述の輪郭情報でなくてもよい。投影ステーション20は、目標位置P1と実際の位置P1’とのずれMを求めるために必要な情報を情報画像40に含め、UAV10はその情報を予め記憶していてもよい。例えば、投影ステーション20は、輪郭情報の代わりに4隅に特別なアイコンを含んだ情報画像40を投影し、UAV10はカメラ画像内に写ったそれらのアイコンの位置関係によって、ずれMを求めてもよい。このように、輪郭を用いずに認識しやすい形状を用いることで、UAV10がずれMを誤認識する可能性を減らすことができる。
また、投影ステーション20は、目標位置P1と実際の位置P1’とのずれMを求めるために必要な情報を、情報画像40内に固定的に含めてもよい。例えば、検査区域を示す検査区域番号(図示略)が情報画像40に含まれるとする。投影ステーション20は、検査区域番号の前半部分を例えばアルファベット等で固定的に定め、後半部分を任意に定めてもよい。UAV10はカメラ画像内に写ったその固定的な部分の変形によって、ずれMを求めてもよい。このように情報画像40の一部を固定的に定め、カメラ画像内におけるその部分の画像に基づいてずれMを求めることによって、ずれMを求めるための情報画像40内の要素が、検査作業者の邪魔にならないようにすることができる。
次に、UAV10の構成例について説明する。図6は、UAV10の構成例を示すブロック図である。本例では、UAV10が4つのプロペラ(図6において図示略)を有し、4つのプロペラと一対一に対応する4つのモータを有する場合を例にして説明する。ただし、プロペラおよびモータの数は、上記の例に限定されない。
UAV10は、カメラ11と、制御部13と、カメラ角度制御部15と、モータドライバ16と、4つのモータ17a〜17dと、通信部18とを備える。
カメラ11は、インフラストラクチャ劣化診断の検査対象となる建築物30(図1参照)の表面を撮像し、建築物の表面を写したカメラ画像を生成する。カメラの視野内に情報画像が投影されている場合には、その情報画像もカメラ画像内に写っている。カメラ11は、生成したカメラ画像を制御部13に入力する。カメラ11の向きは制御可能である。
ここで、建築物30(図1参照)の表面におけるカメラの視野と、その視野を撮影した場合のカメラ画像について説明する。
図7は、建築物30(図1参照)の表面におけるカメラの視野の例を示す模式図である。図7(a)は、UAV10(図7において図示略)のカメラ11が、建築物30の表面30aを撮像する状況の例を示す模式的上面図である。また、建築物30の表面30aには、情報画像40が投影されているものとする。風等の影響により、カメラ11が建築物30の表面30aと完全に正対して表面30aを撮像することは困難である。そのため、図7(a)に示すように、カメラ11が、斜め方向から建築物30の表面30aを撮像することが一般的である。図7(b)は、図7(a)に示す状態における建築物30の表面30a上のカメラ11の視野を示す模式図である。表面30aにおけるカメラ11の視野49は、四角形である。図7(b)に示す例では、カメラ11が斜め方向から建築物30の表面30aを撮像する状態となっていることによって、視野49が台形である場合を例示している。視野49が台形になるとは限らない。ただし、視野49が長方形になるのは、カメラ11が建築物30の表面30aと正対している場合であり、図7(a)に示すようにカメラ11が斜め方向から建築物30の表面30aを撮像する場合、視野49が長方形になることはない。また、投影ステーション20は、表面30a上で情報画像40が長方形になるように、情報画像40を投影する。従って、表面30a上に投影された情報画像40は長方形である。視野49の頂点をA,B,C,Dとする。また、建築物30の表面30aに投影された情報画像40の頂点をa,b,c,dとする。なお、図7(b)において、情報画像40内の種々の記号の図示は省略している。この点は、図8等においても同様である。
カメラ11は、視野49を撮像し、カメラ画像を生成する。図8は、図7(b)に示す視野49を撮像することによって生成したカメラ画像の例を示す模式図である。カメラ画像50は、長方形である。カメラ画像50の個々の頂点はそれぞれ、図7(b)に示す視野49の個々の頂点と対応している。視野49の頂点Aに対応するカメラ画像50の頂点も符号Aで表す。他のカメラ画像の頂点も同様である。また、カメラ画像50に写った情報画像40(図8参照)の個々の頂点は、建築物30の表面30aに投影された情報画像40(図7(b)参照)の個々の頂点と対応している。図7(b)に示す情報画像40の頂点aに対応するカメラ画像50内の情報画像40(図8参照)の頂点も符号aで表す。カメラ画像50内の情報画像40の他の頂点も同様である。以下、カメラ画像50内の情報画像40の輪郭を、輪郭abcdと記す。
カメラ11は、長方形ではない視野49を撮影し、長方形のカメラ画像50を生成する。従って、カメラ11の視野49内に投影されていた長方形の情報画像40は、図8に示すように、カメラ画像50内で歪んで写っている。
制御部13は、カメラ11からカメラ画像50が入力されると、カメラ画像50内の情報画像40の輪郭abcdを検出する。
また、制御部13には、事前に輪郭情報が与えられている。既に説明したように、輪郭情報は、ある目標位置で、その目標位置に対応して定められた姿勢およびカメラの向きで情報画像を撮像したと仮定した場合におけるカメラ画像内の情報画像の輪郭を表す情報である。図9は、図8に示すカメラ画像に、輪郭情報が示すカメラ画像内の輪郭を重ね合わせた状態の例を示す模式図である。制御部13は、輪郭情報が示すカメラ画像50内の輪郭51と、カメラ画像50内の情報画像40の輪郭abcdとに基づいて、UAV10の現在位置と目標位置とのずれMを計算する。なお、ずれMには位置に留まらず姿勢情報も含まれる。以後も同様であるので、特に記載がない場合は姿勢情報について省略する。
制御部13は、カメラ画像内に情報画像を認識できなかった場合には、モータドライバ16を介して各モータ17a〜17dを制御することで、UAV10を移動させる。
また、制御部13は、カメラ画像内に情報画像を認識できた場合には、UAV10の現在位置と目標位置とのずれMを計算する。さらに、制御部13は、カメラ画像50内の情報画像40の歪みを取り除く処理(換言すれば、カメラ画像50内の情報画像40を長方形にする処理)を行い、その処理後の情報画像40が示す制御内容を把握し、その制御内容に従って、UAV10を制御する。例えば、制御部13は、情報画像40が示す制御内容に従って、建築物30の表面の状態検査のための撮像を行う。また、制御部13は、計算したずれM(UAV10の現在位置と目標位置のずれ)と、情報画像40が示す次の目標位置までの移動制御内容と、現在位置から次の目標位置までの移動のための制御内容を導出し、その制御内容に応じてモータドライバ16を介して各モータ17a〜17dを制御することで、UAV10を移動させる。また、制御部13は、情報画像40が示す制御内容に従って、UAV10の姿勢を制御したり、カメラ角度制御部15を介してカメラ11の向きを制御したりする。
カメラ角度制御部15は、制御部13に従い、カメラ11の向きを制御する。具体的には、カメラ角度制御部15は、カメラ角度制御部15は、カメラ11の仰俯角および水平角を制御する。
モータドライバ16は、制御部13に従って、各モータ17a〜17dを駆動する。モータドライバ16は、各モータ17a〜17dを別々に駆動可能である。従って、制御部13は、UAV10を前後に移動させる制御、UAV10を左右に移動させる制御、UAV10を上下に移動させる制御、ピッチ角制御、ロール角制御およびヨー角制御を実現できる。
通信部18は、投影ステーション20との通信に用いられる通信インタフェースである。
制御部13およびカメラ角度制御部15は、例えば、プログラムに従って動作するコンピュータのCPUによって実現されていてもよい。この場合、CPUがそのプログラムを読み込み、そのプログラムに従って、制御部13およびカメラ角度制御部15として動作すればよい。また、制御部13およびカメラ角度制御部15がそれぞれ別々のハードウェアで実現されていてもよい。
次に、投影ステーション20の構成例について説明する。図10は、投影ステーション20の構成例を示す模式的ブロック図である。投影ステーション20は、プロジェクタ21と、プロジェクタ制御部22と、データ記憶部23と、経路導出部24と、情報画像生成部25と、通信部27とを備える。
データ記憶部23は、建築物の外観および建築物の3次元形状の情報を記憶する記憶装置である。
経路導出部24は、投影ステーション20と建築物との位置関係を認識する。このとき、経路導出部24は、投影ステーション20の現在位置を、例えば、外部から与えられてもよい。経路導出部24は、その位置関係と、建築物の外観および建築物の3次元形状の情報との情報に基づいて、建築物30の表面上における情報画像の投影箇所を複数定める。さらに、経路導出部24は、UAV10の経路を導出する。
経路導出部24は、例えば、データ記憶部23に記憶されている情報に基づいて、建築物の表面を格子状に区切ることによって、複数の検査区域を定め、個々の検査区域内の所定箇所(例えば、検査区域の中央)を情報画像の投影箇所として定めてもよい。ただし、情報画像の投影箇所の決定方法は、上記の例に限られず、他の方法で、投影箇所を決定してもよい。また、経路導出部24は、その各投影箇所に投影された情報画像を撮像できるようにUAV10の経路を定めればよい。このとき、経路導出部24は、UAV10の消費電力が最小となる経路を定めることが好ましい。ただし、経路導出部24は、消費電力以外の基準に基づいて経路を定めてもよい。
このとき、経路導出部24は、投影箇所に投影された情報画像をUAV10が撮影するための目標位置を、投影箇所に対応させて決定する。さらに、経路導出部24は、その目標位置でのUAV10の姿勢やカメラの向きを定める。この姿勢やカメラの向きは、情報画像を撮像する際の姿勢やカメラの向きである。ただし、風等の影響により、実際に移動するUAV10が、定められた目標位置で、定められた姿勢およびカメラの向きで情報画像を撮像することは困難である。そのため、UAV10は、目標位置の近傍で情報画像を撮像すればよい。また、そのときのUAV10の姿勢やカメラの向きも、目標位置とともに定められた姿勢やカメラの向きと一致していなくよい。
情報画像生成部25は、投影箇所毎に、情報画像を生成する。情報画像生成部25は、投影箇所(#iとする。)に対応する目標位置(#Pとする。)と、その次の投影箇所(#i+1とする。)に対応する目標位置(#Pi+1とする。)との位置関係に基づいて、投影箇所#iに投影する情報画像を生成すればよい。また、情報画像生成部25は、目標位置毎に輪郭情報を生成する。
プロジェクタ21は、情報画像を建築物の表面に投影する。プロジェクタ21の向きは可変である。
プロジェクタ制御部22は、プロジェクタ21の向きを制御する。プロジェクタ制御部22がプロジェクタ21の向きを変えることで、定められた投影箇所に情報画像を投影することができる。
また、プロジェクタ制御部22は、プロジェクタ21を情報画像の投影箇所に向ける際に、そのプロジェクタ21の向き、建築物の外観および建築物の3次元形状の情報に基づいて、建築物の表面上で情報画像が歪まないように、情報画像を補正する。換言すれば、プロジェクタ制御部22は、建築物の表面上に長方形の情報画像が投影されるように、情報画像を補正する。プロジェクタ21は、プロジェクタ制御部22によって補正された情報画像を投影する。なお、以降の説明では、プロジェクタ制御部22による情報画像の補正動作についての説明を省略する場合がある。
通信部27は、UAV10との通信に用いられる通信インタフェースである。
経路導出部24、情報画像生成部25およびプロジェクタ制御部22は、例えば、プログラムに従って動作するコンピュータのCPUによって実現されていてもよい。この場合、CPUがそのプログラムを読み込み、そのプログラムに従って、経路導出部24、情報画像生成部25およびプロジェクタ制御部22として動作すればよい。また、経路導出部24、情報画像生成部25およびプロジェクタ制御部22がそれぞれ別々のハードウェアで実現されていてもよい。
また、制御部13(図6参照)が、UAV10ではなく、投影ステーション20または他の情報処理装置に設けられていてもよい。そして、制御部13の動作が、投影ステーション20または他の情報処理装置で行われ、UAV10の移動制御、姿勢制御、カメラ11の向きの制御等が外部(例えば、投影ステーション20)との通信によって実現されてもよい。
次に、本発明の第1の実施形態の処理経過について説明する。図11は、本発明の第1の実施形態の処理経過の例を示すフローチャートである。なお、図11に示すフローチャートは例示であり、本発明の処理経過は、図11に示すフローチャートに限定されない。
また、投影ステーション20の経路導出部24は、予め、建築物の表面上における情報画像の投影箇所を複数定め、UAV10の経路を導出し、UAV10が情報画像を撮像するための各目標位置、並びに、各目標位置でのUAV10の姿勢およびカメラの向きを定めているものとする。また、第1の実施形態では、説明を簡単にするために、検査途中での経路の変更はないものとして説明する。また、瞬間的に生じた大きな外乱によるUAV10への影響(例えば、瞬間的な突風によりUAV10が経路から大きく外れてしまうこと等)はないものとして説明する。ただし、通常の風等に起因する目標位置からのずれ(図2参照)は生じ得る。
投影ステーション20は、プロジェクタ21から、情報画像を、建築物の表面上におけるその画像の投影箇所に投影する(ステップT1)。1回目のステップT1では、投影ステーション20は、1番目の情報画像をその画像の投影箇所に投影する。
また、制御部13は、ステップT1で投影された目標画像を撮像するための目標位置に向けてUAV10を移動させる(ステップB1)。1番目の情報画像が投影されている場合には、検査作業者がUAV10を遠隔操作する。検査作業者は、1番目の情報画像がカメラ11の視野内に入るように、UAV10を移動させる。制御部13は、検査作業者による遠隔操作に従い、建築物の表面上に投影された情報画像がカメラ11の視野内に入るようにUAV10を移動させる。
また、UAV10は、移動しながら、カメラ11によって建築物の表面を撮像し、カメラ画像を得る(ステップB2)。カメラ11は、生成したカメラ画像を制御部13に入力する。
制御部13は、カメラ画像が入力されると、カメラ画像の中の情報画像を検索する(ステップB3)。検索に成功したということは、カメラ画像内に情報画像を認識できたということである。また、検索に失敗したということは、カメラ画像内に情報画像を認識できなかったということである。カメラ画像内に情報画像を認識できた場合(ステップB3のYes)、制御部13は、UAV10の現在位置と目標位置とのずれを計算する(ステップB4)。情報画像がカメラ画像内にない場合や、情報画像が途切れている場合等、ステップB3でカメラ画像内に情報画像を認識できなかった場合、UAV10は移動を続ける。
図12は、情報画像を認識できないカメラ画像の例を示す模式図である。
図12(a)は、カメラ画像50内に情報画像が写っていない場合を示している。この場合、カメラ画像内に情報画像が存在しないので、制御部13は、カメラ画像内に情報画像を認識できない。
図12(b)は、カメラ画像50内に情報画像40の一部のみが写っている場合を示している。この場合、情報画像40が途切れているので、制御部13は、カメラ画像内に情報画像を認識できない。
図12(c)は、カメラ画像50内に情報画像40が写っているが、カメラ画像50内の情報画像40の面積が非常に小さい場合(閾値よりも小さい場合)である。この場合、情報画像40の面積が小さすぎるために、制御部13は、カメラ画像内に情報画像を認識できない。
カメラ画像内に情報画像を認識できなかった場合(ステップB3のNo)、UAV10は、ステップB1以降の動作を繰り返す。なお、1番目の投影箇所に対応する目標位置方向に移動している場合、制御部13は、直近に得られたカメラ画像に基づいてどの方向に移動すればよいのかを判定できない場合には、引き続き、検査作業者による遠隔操作に従ってUAV10を移動させる。例えば、直近に得られたカメラ画像に情報画像が全く写っていない場合、制御部13は、引き続き、検査作業者による遠隔操作に従ってUAV10を移動させる。また、制御部13は、直近に得られたカメラ画像に基づいてどの方向に移動すればよいのかを判定できる場合には、検査作業者による遠隔操作に依らず、自律的な動作を開始する。例えば、図12(b)に例示するように、直近に得られたカメラ画像50内に情報画像40の一部が写っている場合、制御部13は、情報画像40全体をカメラ11の視野内に入れるためには、どちらの方向にUAV10を移動させればよいのかを判定できる。この場合、制御部13は、情報画像40全体をカメラ11の視野内に入れるように、自律的にUAV10を移動させる。
カメラ画像の中に情報画像を認識できなかった場合(ステップB3のNo)、カメラ画像の中に情報画像を認識できるまで、ステップB1〜B3を繰り返す。
カメラ画像の中に情報画像を認識できる場合は、図9に例示するように、カメラ画像50内に情報画像40が適度な大きさで写っていて(換言すれば閾値以上の面積で写っていて)、情報画像40の輪郭abcdを検出できる場合である。この場合、制御部13は、輪郭情報が示すカメラ画像50内の輪郭51(図9参照)と、カメラ画像50内の情報画像40の輪郭abcd(図9参照)とに基づいて、UAV10の現在位置と目標位置とのずれを計算する(ステップB4)。
カメラ画像の中に情報画像を認識できたということは、UAV10が目標位置の近傍に存在していると言うことができる。なお、実際には、UAV10は、移動しながらステップB1〜B3の処理を繰り返している。そのため、カメラ画像の中に情報画像が全て入った瞬間に、ステップB3で情報画像が完全に認識されたとして、ステップB4に進んでしまう。換言すると、UAV10が目標位置から比較的離れた位置であってもカメラ画像の端の方に情報画像が入った瞬間に、制御部13は、ステップB4を実行してしまう。これを防ぐため、図11では省略しているが、「情報画像がカメラ画像のある一定の範囲に入るまでステップB4への移行を停止する」、あるいは、「カメラ画像のある一定の範囲に情報画像を入れるための移動方向を判定しステップB1以降を繰り返す」、あるいは、「一定時間(または一定フレーム数)、情報画像がカメラ画像内で認識されるまでステップB4への移行を停止する」等の処理があってもよい。あるいは、ステップB4においてずれMを計算できるため、このずれMに対応した移動量を計算しステップB1以降を繰り返すとなお良い。これに加えて、ずれMが規定の形状となるようカメラの向きを制御しつつステップB1を繰り返すとさらに良い。ずれMを基にしたUAV10の移動やカメラ11の制御により、より精確な位置にUAV10を移動させたり、より精確な姿勢にUAV10をさせたりすることができるからである。
UAV10の現在位置と目標位置とのずれを計算した後、制御部13は、カメラ画像50内の情報画像40の歪みを取り除く(ステップB5)。既に説明したように、建築物の表面に投影されている情報画像40は長方形であり、カメラの視野49は長方形ではない(図7(b)参照)。一方、その視野49を撮像することによって得られるカメラ画像50は長方形である。従って、カメラ画像50内に写っている情報画像40は、長方形ではなく、歪んだ状態になっている(図8参照)。ステップB5において、制御部13は、この歪みを取り除く。
続いて、制御部13は、歪みが取り除いた後の情報画像40が示す命令(制御内容)を認識し、その命令を実行する(ステップB6)。
本例では、制御部13が、図3に例示する情報画像40が示す命令(制御内容)を認識し、その命令を実行する場合を例にして説明する。
具体的には、制御部13は、その場で所定時間滞空し、滞空中に建築物の表面の状態検査のための撮像をする旨を認識する。そして、制御部13は、その命令に従って、その場で所定時間滞空し、滞空中に建築物の表面をカメラ11によって撮像する。このとき、カメラ11の視野内に情報画像40が投影された状態のままであってもよい。
また、制御部13は、所定時間滞空後に下降する旨、下降する際にカメラ11の水平角を固定したままカメラ11を上向きにする旨、および、UAV10の姿勢を水平に制御する旨を認識する。このとき、制御部13は、ステップB4で計算したUAV10の現在位置と目標位置とのずれと、下降する旨の移動制御内容とに基づいて、次の目標位置までの移動のための制御内容を導出し、その制御内容に応じてモータドライバ16を介して各モータ17a〜17dを制御することで、UAV10を移動させる。すなわち、制御部13は、情報画像40が示す移動に関する制御内容を、ステップB4で計算したずれによって補正し、補正後の制御内容に基づいて、UAV10を移動させる。
また、制御部13は、情報画像40が示す命令を認識した後、命令認識が完了した旨を、投影ステーション20に通知する(ステップB7)。
制御部13は、上述の補正後の制御内容に基づいて、UAV10の移動を開始すると、ステップB1以降の動作を繰り返す。このステップB1では、1番目の投影箇所に対応する目標位置に向けて移動する場合と異なり、制御部13は、検査作業者による遠隔操作に依らず、自律的にUAV10を移動させる。
プロジェクタ制御部22は、命令認識が完了した旨の通知をUAV10から受信すると、プロジェクタ21にそれまで投影していた情報画像の投影を停止させる。また、情報画像生成部25は、命令認識が完了した旨の通知をUAV10から受信すると、次の情報画像の投影箇所(ここでは、2番目の情報画像の投影箇所)を特定し、その投影箇所に投影する2番目の情報画像を生成する(ステップT2)。本例では、情報画像生成部25は、2番目の目標位置の近傍で状態検査のための撮像を指示する命令や、2番目の目標位置から3番目の目標位置までUAV10を移動させるための命令等を含む情報画像を生成する。
UAV10は、移動しながらカメラ11によって建築物の表面を撮像し(ステップB2)、制御部13は、ステップB3を実行する。2番目の情報画像が投影されるまでの間、2番目の情報画像はカメラ画像に写らないので、UAV10は、ステップB1〜B3を繰り返す。
プロジェクタ制御部22は、情報画像生成部25がステップT2で、次の投影箇所に投影する情報画像(ここでは、2番目の情報画像)を生成すると、その情報画像をその投影箇所に投影するようにプロジェクタ21を制御する。この結果、プロジェクタ21は、2番目の情報画像の投影箇所に、2番目の情報画像を投影する(ステップT1)。
新たに投影された情報画像がカメラ11の視野内に入る位置までUAV10が移動し、カメラ画像内に情報画像を認識できた場合(ステップB3のYes)、UAV10は、ステップB4以降の処理を繰り返せばよい。また、投影ステーション20は、ステップB7の通知を受けた場合、それまで投影していた情報画像の投影を停止し、ステップT2,T1を実行すればよい。
上記の処理を繰り返すことによって、UAV10は、定められた経路の近傍を移動しつつ、状態検査のために建築物の表面を撮像することができる。
また、投影ステーション20が、最後の情報画像を投影し、制御部13が、最後の情報画像に示されている命令を実行した場合、ステップB7の通知を行うことなく、無人飛行装置制御システムは処理を終了してよい。この場合、投影ステーション20が、最後の情報画像内に、最後の情報画像であることを示す所定の記号を含めておき、制御部13が最後の情報画像であることを認識できるようにしておけばよい。
本実施形態によれば、制御部13は、カメラ画像内に情報画像を認識できるまで、ステップB1〜B3を繰り返し、カメラ画像内に情報画像を認識できた場合には、ずれMを計算し、カメラ画像内の情報画像のゆがみを取り除き、情報画像が示す命令を認識し、その命令に従って動作する。制御部13がこの動作を繰り返すことで、定められた経路の近傍を移動しつつ、状態検査のために建築物の表面を撮像することができる。従って、簡易な構成で、建築物の付近の目標位置近傍にUAV10を誘導することができる。
また、本発明では、情報画像によってUAV10を誘導するので、UAV10はGPS信号を受信する必要がない。従って、本発明では、どの場所においてもGPS信号による位置情報を得るために、GPS衛星の代わりとなる設備を多数設ける必要がない。この点でも、本発明では、システムの構成を簡易にすることができる。
また、本発明では、情報画像によってUAV10を誘導する。UAV10は情報画像に近付いてずれを求めるため、情報画像とUAV10の位置および姿勢を精確に得ることが可能である。すなわち、測定装置であるUAV10は、測定対象である情報画像に近接しているため誤差要因が少なくなり、この結果、GPSや他の方法に比べて精緻な位置測定、および、測定結果に基づいた誘導が可能となる。
また、UAV10は、UAV10の現在位置と目標位置とのずれを、情報画像に基づいて導出する。このずれを差分として用いることで、UAV10は精確に目標位置に移動することもできる。
また、UAV10は、UAV10の現在位置と目標位置とのずれと、情報画像が示す移動制御内容とに基づいて、次の目標位置までの移動制御内容を導出する。この結果、UAV10は、次の目標位置の近傍まで移動することができる。すなわち、良好な精度でUAV10の移動を制御することができる。また、上記のように、本発明では、UAV10はGPS信号を受信する必要がない。従って、GPS信号の受信が困難な場所であっても、精度良くUAV10を制御することができる。
また、投影ステーション20は情報画像を一定の大きさで建築物に投影しており、UAV10はこの情報画像を監視している。また、この情報画像とUAV10との位置関係はUAV10の内部で計算できるため、UAV10は、その位置関係を、ほぼリアルタイムで連続して取得できる。従って、例えば、突風等の外乱によりUAV10の位置が大きく変化したり姿勢が崩れたりしても、UAV10は建築物に接触する前に位置や姿勢を補正することができる。
次に、第1の実施形態の変形例について説明する。
上記の実施形態では、ステップB5において、制御部13は、カメラ画像50内の情報画像40の歪みを取り除く場合を説明した。情報画像40の歪みを取り除かなくても、情報画像40が示す命令を制御部13が認識できるのであれば、ステップB5を省略してもよい。
また、上記の実施形態では、ステップB6において、建築物の状態検査のために建築物の表面を撮像する際、カメラ11の視野内に情報画像40が投影された状態のまま、建築物の表面を撮像する場合を示した。建築物の状態検査のために建築物の表面を撮像する際、制御部13が、投影ステーション20に情報画像の投影の停止を指示してもよい。この場合、投影ステーション20の情報画像生成部25は、1つの投影箇所に対して、状態検査のための撮像を指示する情報画像と、次の目標位置への移動を指示する情報画像とを生成すればよい。情報画像生成部25は、状態検査のための撮像を指示する情報画像内に、その情報画像の投影中止を投影ステーション20に通知する旨の命令、その通知後に(換言すれば、投影ステーション20がその通知に応じて投影を中止した後に)状態検査のために建築物を撮像する旨の命令、およびその撮像完了後に撮像完了を投影ステーション20に通知する旨の命令を含める。投影ステーション20は、その情報画像を先に投影箇所に投影する。制御部13がそれらの命令を認識し、投影中止を投影ステーション20に通知した場合、投影ステーション20は、その情報画像の投影を中止する。UAV10は、その状態で、建築物の表面を撮像する。また、UAV10が、撮像完了を投影ステーション20に通知した場合には、次の目標位置への移動を指示する情報画像を同じ投影箇所に投影する。このとき、状態検査のための撮像を行っている間に、風等の影響によりUAV10が多少移動することがある。そのため、次の目標位置への移動を指示する情報画像が投影後も、UAV10は、ステップB2以降の動作を再度行うことが好ましい。UAV10の現在位置と目標位置とのずれを再度計算するためである。そして、ステップB6において、制御部13は、その情報画像が示す移動に関する制御内容をそのずれによって補正すればよい。
情報画像が投影された状態で建築物の表面を撮像すると、カメラ画像において、情報画像以外の部分が相対的に暗くなってしまう場合がある。上記のように、UAV10が状態検査のための撮像を行う場合に、投影ステーション20が情報画像の投影を停止することで、そのようなことを防止できる。
また、UAV10が状態検査のための撮像を行うときに投影ステーション20が情報画像の投影を停止する場合、プロジェクタ制御部22は、プロジェクタ21に情報画像の投影を停止させた後、プロジェクタ21に白色光または適当な色の光を照射させてもよい。このとき、プロジェクタ21は、プロジェクタ制御部22に従い、状態検査の対象となる建築物の表面に光を照射する。この結果、UAV10は、建築物の表面に光が照射された状態で、建築物の状態検査のために建築物の表面を撮像する。
プロジェクタ21が建築物の表面に光を照射することによって、UAV10のカメラ11が建築物の表面を撮像する際における光量不足を補える。例えば、カメラ11が建築物の奥まった箇所を撮像する場合や、夜間に無人飛行装置制御システムを運用する場合、光量が不足して、建築物の表面が明瞭に写っているカメラ画像が得られない。UAV10のカメラ11が建築物の状態検査のために建築物の表面を撮像する時に、プロジェクタ21が建築物の表面に光を照射することによって、上記のように光量不足を補うことができ、カメラ11は、建築物の表面が明瞭に写っているカメラ画像を生成することができる。
なお、投影ステーション20は、プロジェクタ21とは別に、光を照射するための投光器を備えていてもよい。
また、投光ステーション20から投影する情報画像の輪郭の形状は、常に同じでなくてもよい。輪郭情報は、情報画像を認識するステップB3の前に既知である必要がある。そのため、1つ前の情報画像に含めておいたり、投影ステーション20が通信によってUAV10に通達したり、あるいは、予め情報画像毎の輪郭情報をUAV10に記憶させておいたりすればよい。制御部13は、ずれMを計算する毎に、情報画像に対応する輪郭情報を適用すればよい。また、情報画像の輪郭の形状を変形させることにより、建築物の状態検査の際に情報画像が邪魔にならないようにすることができる。
以下に示す各実施形態では、既に説明した事項と同様の事項については、説明を省略する。
実施形態2.
本発明の第2の実施形態では、UAV10が大きな外乱を受けたことによって、UAV10の姿勢や位置が変化し、制御部13がカメラ画像内に写っていた情報画像を見失った場合の動作について説明する。UAV10が外乱を受ける前にカメラ画像内に情報画像が写っていて、制御部13がその情報画像を認識していたとしても、外乱によってUAV10の姿勢や位置が変化したことによって、建築物に投影されている情報画像がカメラ11の視野外に出てしまうと、カメラ画像内に情報画像が写らなくなる。すなわち、制御部13がカメラ画像内の情報画像を見失うことになる。
この場合、制御部13は、UAV10の姿勢を各方向に変化させ、カメラ11により撮像を行う。あるいは、制御部13は、カメラ角度制御部15を介して、カメラ11の向きを変化させ、カメラ11により撮像を行う。このとき、制御部13は、UAV10の姿勢を変化させるととともに、カメラ11の向きを変化させてもよい。この結果、制御部13は、情報画像が写っているカメラ画像を取得したならば、ステップB4(図11参照)以降の動作を行えばよい。
また、このとき、制御部13は、直近の複数のフレームのカメラ画像に基づいて、UAV10の位置および姿勢が、制御部13がカメラ画像内の情報画像を認識していた時の位置および姿勢からどれだけ変化したかを検出してもよい。
あるいは、UAV10が慣性航法装置を備えていてもよい。そして、UAV10の位置および姿勢が、制御部13がカメラ画像内の情報画像を認識していた時の位置および姿勢からどれだけ変化したかを、慣性航法装置が検出してもよい。
そして、制御部13は、UAV10の位置および姿勢それぞれの変化量に基づいて、カメラ11の視野を情報画像方向に向けるために、UAV10の姿勢やカメラ11の向きをどの方向に向けるかを判定してもよい。制御部13は、その判定結果に応じて、UAV10の姿勢やカメラ11の向きを変化させればよい。この場合、制御部13は、迅速に、カメラ11の視野を情報画像方向に向けることができ、投影されている情報画像を早めに撮像することができる。
また、制御部13は、制御部13がカメラ画像内の情報画像を認識していた時からのUAV10の位置および姿勢の変化量を投影ステーション20に通知してもよい。制御部13は、上記の例と同様に、この変化量を、直近の複数のフレームのカメラ画像に基づいて検出してもよい。あるいは、UAV10が慣性航法装置を備え、制御部13がカメラ画像内の情報画像を認識していた時からのUAV10の位置および姿勢の変化量を慣性航法装置が検出してもよい。
UAV10の位置および姿勢の変化量を通知されると、投影ステーション20の情報画像生成部25(図10参照)は、その変化量に基づいて、カメラ11の視野範囲を計算し、その視野範囲に投影する情報画像を生成する。この情報画像は、制御部13がカメラ画像内の情報画像を認識していた位置までUAV10を誘導するための情報画像である。プロジェクタ制御部22は、計算されたカメラの視野範囲の方向にプロジェクタ21を向け、プロジェクタ21にその情報画像を投影させる。そして、カメラ11が撮像を行い(ステップB2)、その後、UAV10は、ステップB3以降の動作を行えばよい。この結果、UAV10は、その情報画像に従って、制御部13がカメラ画像内の情報画像を認識していた位置まで戻ることができる。また、プロジェクタ制御部22は、ステップ7の通知を受けた後に、元の投影箇所に元の情報画像をプロジェクタに再度投影させればよい。この場合にも、カメラ11が撮像を行い(ステップB2)、その後、UAV10は、ステップB3以降の動作を行えばよい。
また、投影ステーション20が、UAV10を追尾しながらUAV10を撮像する追尾カメラ(図示略)と、その追尾カメラによって得られたUAV10の画像に基づいて、UAV10の位置および姿勢の変化量を検出する状態変化量検出部(図示略)とを備える構成であってもよい。この場合、状態変化量検出部は、追尾カメラによって得られた画像に基づいて、UAV10が外乱によって急激に移動したことを検出した場合、その移動の直前の時点からのUAV10の位置および姿勢の変化量を検出する。そして、上記の場合と同様に、情報画像生成部25(図10参照)は、その変化量に基づいて、カメラの視野範囲を計算し、その視野範囲に投影する情報画像を生成する。この情報画像は、制御部13がカメラ画像内の情報画像を認識していた位置までUAV10を誘導するための情報画像である。プロジェクタ制御部22は、計算されたカメラの視野範囲の方向にプロジェクタ21を向け、プロジェクタ21にその情報画像を投影させる。その後の動作については、上記と同様であり、説明を省略する。
第2の実施形態によれば、UAV10は、外乱によって、カメラ11の視野が情報画像とは異なる方向に向いてしまったとしても、UAV10は、再度、その情報画像を捉え、通常の制御に復帰することができる。
実施形態3.
本発明の第3の実施形態では、無人飛行装置制御システムは、情報画像とUAV10の影とが重なってカメラ画像に写る状態を回避する。
投影ステーション20の経路導出部24は、情報画像の投影箇所として、UAV10の影と重ならない投影箇所やUAV10の撮像目標位置を定める。
例えば、経路導出部24が情報画像の投影箇所を定める際に、投影ステーション20の位置と情報画像の投影位置との3次元空間上の位置関係より、情報画像の光束(Light flux、光源束、プロジェクタから出る放射光、または光のまとまり。情報画像を含む。以下光束と記す。)の位置を求める。また、経路導出部24が情報画像の位置からUAV10の撮影目標位置を求める際に、3次元空間上の光束の位置とUAV10の位置関係を比較し、重なるか近接する(UAV10が光束の位置に基づく所定の範囲内に含まれる)場合は情報画像の投影位置やUAV10の目標位置を変更(設定)する。UAV10の撮影目標位置とは、前述のように3次元空間におけるUAV10の対空予定位置を示す。すなわち、UAV10の撮影目標位置は、UAV10が画像を撮像する撮像位置ともいえる。
また光束の位置とは、3次元空間上でプロジェクタ21から出た光が通過する立体的な範囲を示す。光束とUAV10の位置が重なるということは、プロジェクタ21から出た光が途中でUAV10に遮られ、この遮られた光の部分は投影面に到達していないが、他の部分は到達している、ということである。投影面の情報画像は一部が欠けた状態となり、この欠けの部分が影のように見えるため、本発明ではこの欠けの部分を影と称する。またUAV10が実際に移動する位置は、風などの影響により予め定めた目標位置からずれることを考慮すると、計算上UAV10が光束と重ならなくても実際は重なってしまい影ができる可能性がある。そこで、UAV10は光束の位置に対し一定の距離以下とならないよう、予め余裕を持って移動するようにすると良い。
なお、光束は、プロジェクタ21のレンズ端と投影された情報画像を結んだ四角錐に近い形状である。より正確には、レンズ端において光束は1点に集まらず、ある一定の大きさを持つ。また光束の光軸に沿った断面は、レンズ端近傍では完全な四角形ではなく円形に近い。
また例えば、経路導出部24が、データ記憶部23に記憶されている情報に基づいて、建築物の表面を格子状に区切ることによって、複数の検査区域を定め、個々の検査区域内の所定箇所(例えば、検査区域の中央)を情報画像の投影箇所として定めるとする。また、経路導出部24は、投影箇所毎に、UAV10の目標位置、並びに、その目標位置でのUAV10の姿勢およびカメラの向きも定める。そして、経路導出部24は、投影箇所毎に、投影箇所とUAV10の影とが重なるか否かを判定する。この判定は、情報画像の光束と目標位置との位置関係に基づいて行うことができる。すなわち、経路導出部24は、建築物の画像投影面を分割した複数の領域ごとに、投影される画像の光束の範囲内にUAV10の存在の有無を判定する。
また、経路導出部24は、UAV10の影と重なる投影箇所に関して、検査区域内で、UAV10の影と重ならない位置に変更し、その変更に合わせて、投影箇所に対応するUAV10の姿勢およびカメラの向きも変更する。このとき、経路導出部24がUAV10の目標位置も変更することがあってもよい。検査区域内で、投影箇所の位置を変更しても、UAV10の影と重なってしまう場合には、その検査区域に関しては、投影箇所を定めないと決定する。そして、経路導出部24は、UAV10の影と重ならない投影箇所を対象として、その各投影箇所に投影された情報画像を撮像するための経路を決定する。
また例えば、UAV10のカメラ11の光軸と、光束の中心線(プロジェクタ21の光軸)が平行にならないよう、各々の角度を制御すると良い。UAV10のカメラ11が認識している瞬間に情報画像に影ができるのは、光束上にUAV10が存在し、なおかつUAV10が投影画像を観察している場合である。すなわち、光束の中心線とカメラ11の光軸がほぼ一致する場合である。したがって、カメラ11の光軸とプロジェクタ21の光軸の向きが一致しないように投影位置またはUAV10のカメラ11を制御すれば、影ができる可能性は大幅に減少する。
この機能を実現するため、UAV10のカメラ11の方位(地磁気の向きを基準とした方向)を固定し、プロジェクタ21の向きとカメラ11の方位との差異を情報画像生成部25が検出する。そしてこの差異が小さくなる場合は、投影位置やUAV10の目標位置を変更する。なお、UAV10のカメラ11の方位を固定する理由は、投影ステーション20とプロジェクタ21と建築物30との位置関係は変えない方が望ましいが、様々な位置に投影するためプロジェクタ21の光軸は様々な方向を向く必要があるからである。
また例えば、経路導出部24が求めたUAV10の目標位置と、実際のUAV10との位置を記録し、目標位置と実際の位置より風または外乱の影響を推定する。経路導出部24は、外乱の影響の推定より、将来のUAV10の位置が目標位置に対しどの程度ずれるかを予測し、この推定位置と光束の位置関係を比較し、重なるか近接する場合は情報画像の投影位置やUAV10の目標位置を変更する。すなわち、経路導出部24は、直前までの飛行データを用いて、風などによるUAV10の位置ずれを予測し、予測結果を考慮した目標位置を常に再設定して、影ができないようにする。
例えば、東からの風により西側にUAV10が流される傾向があり、UAV10が東側に在るうちは影が出来ないが西側に在ると影が生じるなら、経路導出部24は、目標位置を当初の位置よりも東の位置に変更する。その結果、UAV10は、風で流されても当初位置より西側に行かないように制御される。なお、実際の影響予測の際は、風などの外乱は一定ではなく時間的に変化しているため、外乱の変化幅を考慮してUAV10の位置予測も幅を持たせるとなお良い。例えば先の例に追加すると、UAV10が1〜3m流されると予測されるのであれば、経路導出部24は、3m東に目標位置を変更する。
すなわち、経路導出部24は、UAV10の撮像位置と、撮像位置に基づき制御されたUAV10の位置との差異に基づき、他の撮像位置に基づき制御されるUAV10の位置を算出し、算出されたUAV10の位置と他の撮像位置から撮像される画像の光束の範囲とに基づき、他の撮像位置および他の撮像位置から撮像される画像の投影位置の一方あるいは両方を設定する。
このように情報画像の投影箇所や目標位置を予め定めることによって、投影箇所に投影される情報画像とUAV10の影とが重なった状態でカメラ画像に写ってしまうことを防止しやすくなる。
また、上記のように、経路導出部24がUAV10の影と重ならない投影箇所を定めた場合であっても、UAV10が風等の影響を受けるので、投影箇所に対応する目標位置で情報画像を撮像することは一般的に少ない。その結果、上記のように投影箇所を定めた場合であっても、投影箇所に投影される情報画像とUAV10の影とが重なる場合が生じ得る。
この場合、制御部13は、UAV10を移動させればよい。図13は、情報画像とUAV10の影とが重なって写ったカメラ画像の例を示す模式図である。制御部13は、情報画像40の輪郭の一部が不連続であり途切れている(欠落している)と判定した場合、図13に例示するように、情報画像40の外周部の一部分と影55とが重なっていると判定する。制御部13は、このように判定した場合、例えば、任意の方向にUAV10を移動し、ステップB1(図11参照)以降の動作を実行すればよい。
または、投影ステーション20の経路導出部24は、任意の方向に情報画像の位置を移動させればよい。制御部13は、投影ステーション20に影が出来ていることを通達し、例えば、投影ステーション20の経路導出部24は、任意の方向に情報画像の位置を移動し、ステップB1(図11参照)以降の動作を実行すればよい。また、このとき、制御部13は、情報画像40の輪郭のうち影55によって途切れている箇所(欠落している位置)に基づいて、UAV10または情報画像の投影位置を移動させる方向を判定し、その方向にUAV10または情報画像を移動させてもよい。
なお、このように撮像された画像が欠落している場合に、無人飛行装置を移動させる制御部13及び画像の投影位置を移動させる経路導出部24は、無人飛行装置または投影されえちる画像を移動させる移動制御部として機能する。
さらに、情報画像の外側に影を検出する領域(以降「検出領域」とする)を設け、情報画像と共にプロジェクタ21で投影し、この検出領域に影が生成された場合、上記処理を行うとなお良い。例えば、検出領域は、プロジェクタ21から一様な光を建築物に投影する。検出領域は、プロジェクタ21の光が当たっているため、UAV10のカメラ11で観察すると光が当たっていない部分よりも高輝度で撮像される。そして、UAV10が検出領域に影を落とすと、その領域のみ光が照射されていない元の部分と同じ輝度になる。図14は情報画像40にはUAV10の影55が重なっていないが、検出領域にUAV10の影があり、輝度が低い状態になったカメラ画像の例を示す模式図である。
図14に例示するカメラ画像では、情報画像40の全体の位置を検出可能であるが、影の領域も同時に検出する。この影を元に、前述の処理を行う。UAV10が風などにより移動している場合、先に検出領域に影が検出され、次いで情報画像40の領域に影が出来る。すなわち情報画像が完全に認識出来る状態でも予め影の検出が可能なため、影を検出した時点で影を回避する制御をすることで情報画像への影の投影を防ぐことができる。また、上記では説明を簡単にするため、外周に検出領域を設けているが、検出領域は情報画像の外側に限らなくても良い。すなわち、例えば外乱の影響により影の生成が予測される場合は、その位置にのみ検出領域を設けても良い。
またプロジェクタ21の投影範囲に対する情報画像の位置は中央とは限らず、投影範囲の端に情報画像を投影する場合も有るが、この場合は一部検出領域を生成できなくても良い。なお上記は以下のように言い換えることも出来る。すなわち、投影ステーション20は、識別情報を示す領域以外の領域を含む画像を対象物に投影する。また、移動制御部(制御部13や経路導出部24)は、該画像をカメラ11により撮像した撮像画像のうち、識別情報を示す領域以外の領域の撮像画像が欠落している場合に、UAV10または投影されている画像を移動させる。
なお図13および14ではUAV10の影55の位置を明示するため黒く示しているが、実際はUAV10によりプロジェクタの光束が途中で遮られているだけのため、本実施形態においてUAVの影と表記している部分は、情報画像が投影されていない部分と同じ輝度となる。
また、投影面は一様な面として示しているが、実際には投影面の模様や環境光が原因で、投影光の影と区別のつかない模様や環境光の影が見える場合もある。この場合は、予め投影面の反射率情報を取得し、反射率情報と合わせて影を検出しても良い。
このように、情報画像40とUAV10の影との重なりを検出した場合、情報画像40とUAV10の影との重なりを回避することができる。この動作は、UAV10の影と投影箇所とが重ならないように経路導出部24が投影箇所を決定していない場合であっても適用可能である。以上の説明したように、本発明の第3の実施形態によれば、無人飛行装置が撮像した画像に基づき無人飛行装置を制御して対象物の付近の目標位置近傍に無人飛行装置を誘導する場合において、無人飛行装置の影響による、撮像された画像の欠落を防止することが可能になる。
なお、本実施形態においては、UAV10が画像を撮像する撮像位置や情報画像40の投影位置を変更(設定)する処理が、投影ステーション20に含まれる経路導出部24によって行われる場合を具体例として説明した。しかしながら、この処理は、経路導出部24に限定されず、他の構成部によって行われてもよいし、投影ステーション20以外の他の装置に含まれる構成部によって行われてもよい。
実施形態4.
本発明の第4の実施形態では、UAV10は、天候等の影響によって消費電力が大きく、全ての検査区域で状態検査のための撮像を行えない場合に、経路の途中で経路を変更する。
第1の実施形態で説明したように、経路導出部24は、例えば、各投影箇所に投影された情報画像を撮像できるようにUAV10の経路を定める。すなわち、各投影箇所の付近を通過するようにUAV10の経路を定める。
このとき、経路導出部24は、UAV10の消費電力が最小となる経路を定めることが好ましい。ここで、UAV10が電力を多く消費するのは、飛行の速度ベクトルが変わる場合である。従って、経路導出部24は、例えば、UAV10の速度ベクトル変更が最小となる経路を定めればよい。
経路導出部24が、図15に例示する経路を定めたとする。図15では、建築物の表面上の各検査区域およびUAV10の経路61を図示している。また、検査区域Raは、最初の検査区域であり、検査区域Rzは、最後の検査区域である。
経路導出部24は、経路61上に、UAV10が近道となる経路に切り替え可能な位置(以下、切り替え可能位置と記す。)を定める。切り替え可能位置は、1つであっても、複数であってもよい。図15に示す切り替え可能位置71を例にして説明する。
経路導出部24は、経路61を定めた後、切り替え可能位置71から終点79までの近道となる経路の候補を複数定める。経路導出部24は、既に通過した検査区域を通過しないように、経路の候補を定める。また、経路の候補は、切り替え可能位置71から終点79までの近道であるので、未通過の検査区域を全て通過する必要はない。また、切り替え可能位置71に関して定められる複数の経路の候補が通過する検査区域の数は、経路の候補毎に異なっていてよい。換言すれば、切り替え可能位置71から終点79まで経路の候補の長さは、それぞれ異なっていてよい。なお、本例では説明を簡単にするため、経路の各候補において、切り替え可能位置71から次の検査区域までの一区間分の移動経路は、予め定められた経路と変わらないものとする。
経路導出部24は、切り替え可能位置71以外の各切り替え可能位置に対しても、切り替え可能位置毎に、終点79までの近道となる経路の候補を複数定める。
以下、説明を簡単にするため、検査区域に対応するUAV10の目標位置が、切り替え可能位置として定められるものとする。
UAV10の制御部13は、命令認識が完了した旨を投影ステーション20に通知する際(ステップB7)、飛行開始後の消費エネルギ、その時点における電池残量、および天候(ここでは、横風の風速を例にする。)を計測し、それらの値も、投影ステーション20に通知する。なお、これらの値を計測するためのセンサをUAV10に搭載しておけばよい。ただし、制御部13は、例えば、飛行可能距離が十分確保できる条件(例えば、電池残量が閾値以上残っているという条件)が満たされている場合には、消費エネルギ、電池残量および天候(横風の風速)を投影ステーション20に通知しなくてもよい。
また、経路導出部24は、予め、消費エネルギ、電池残量および天候(横風の風速)を説明変数とし、UAV10の飛行可能距離を被説明変数とする飛行可能距離の予測式を保持している。この予測式は、例えば、回帰分析等の機械学習によって予め定めておけばよい。経路導出部24は、UAV10から消費エネルギ、電池残量および天候を通知されると、それらの値を、予測式の説明変数に代入することによって、UAV10の飛行可能距離を算出する。
さらに、経路導出部24は、UAV10が存在している切り替え可能位置に対して予め定めていた経路の候補毎に、経路の候補の長さから、予測式によって算出した飛行可能距離を減算する。経路導出部24は、この減算結果が最も小さい経路の候補を、最適な近道と判定し、以降、その経路の候補をUAV10の経路とする。
UAV10の消費電力は、風等の天候に影響を受ける。例えば、強風が吹いている場合は、その強風に対向する推力が必要なるため、無風時よりも消費電力が大きくなる。この結果、最初に定められた経路61に沿ってUAV10が移動し続けようとした場合、経路の途中で電池残量が0になってしまう場合が起こり得る。本実施形態によれば、切り替え可能位置で終点79までの近道となる経路に切り替えることができるので、通過する検査区画の数を少なくすることと引き換えに、終点79までUAV10の飛行を維持することができる。
なお、上記の例では、飛行可能距離の予測式に用いられる説明変数として、消費エネルギ、電池残量および天候を例示したが、他の説明変数を用いてもよい。
実施形態5.
本発明の第5の実施形態では、UAV10が大きな外乱を受けたことによって、UAV10の位置が変化した場合、投影ステーション20は、その変化後の位置から経路の終点までの経路を、再度、導出する。
外乱によってUAV10が移動し、UAV10の制御部13がカメラ画像内の情報画像を見失った場合、制御部13は、第2の実施形態で例示した場合と同様に、カメラ画像内の情報画像を認識していた時からのUAV10の位置および姿勢の変化量を投影ステーション20に通知する。
投影ステーション20の経路導出部24は、この通知を受けると、この通知に基づいて、現在のUAV10の位置を計算する。そして、経路導出部24は、その位置からの経路を再度、導出する。ただし、経路導出部24は、既にUAV10が通過した検査区域を通過しないように、新たに経路を導出すればよい。また、新たな経路は、未通過の検査区域を全て通過しなくてもよい。また、このとき、経路導出部24は、例えば、消費電力が最小となる経路を選択することが好ましい。例えば、前述のように、経路導出部24は、UAV10の速度ベクトルの変化が最小となる経路を定めてもよい。
本実施形態によれば、突風等の外乱によってUAV10が移動したとしても、その位置からの経路を経路導出部24が再度定める。従って、UAV10の消費電力の増加を抑えることができ、UAV10の運用効率を上げることができる。
実施形態6.
本発明の第6の実施形態では、プロジェクタ制御部22は、生成された情報画像を、投影時に歪まないように補正するだけでなく、情報画像の色味や輝度の補正も行う。
第6の実施形態では、プロジェクタ21は、予め定められた基準となる画像(本実施形態では、白色の枠形状の画像とする。)も、建築物の表面に投影する。プロジェクタ制御部22は、カメラ画像内に写っている枠形状部分の色に応じて、情報画像の色を補正する。なお、プロジェクタ21は、常に白色の枠形状の画像を投影してもよい。あるいは、プロジェクタ21は、情報画像の投影箇所が変化したときに、先に白色の枠形状の画像を投影し、その後、カメラ画像内に写っている枠形状部分の色に応じて補正された情報画像を投影してもよい。
以下、より具体的に説明する。UAV10のカメラ11が、白色の枠形状の画像が投影された建築物の表面を撮像し、カメラ画像を生成した場合、制御部13は、カメラ画像内におけるその枠形状部分の色(白色の枠形状の画像がカメラ内でどのような色で写っているか)を認識する。そして、制御部13は、カメラ画像内における枠形状部分の色の情報を投影ステーション20に通知する。
投影ステーション20のプロジェクタ制御部22は、カメラ画像内における枠形状部分の色の情報を受信すると、その色の情報に応じて、情報画像生成部25によって生成された情報画像の色を補正する。
白色光で投影した枠形状の画像が、カメラ画像内で何らかの色になっているということは、建築物の表面は、その色のみを反射する状態になっていることになる。例えば、建築物の表面が緑色であり、550nm±30nmの波長のみを反射する状態であるとする。この場合、カメラ画像内における枠形状部分の色は、550nm±30nmの範囲内の波長の色である。プロジェクタ制御部22は、この情報をUAV10から受信すると、その波長に応じて、情報画像の色を、例えば、色の波長が530nm〜570nmの範囲内になるように補正する。
この結果、カメラ11は、建築物の表面に投影された情報画像を撮像することができる。上記の例では、仮に、波長が520nm未満の色、または、波長が580nmより大きい色の情報画像を反射面に投影しても、その光は反射されず、情報画像はカメラ画像に写らない。本実施形態では、白色光で投影した形状の画像がカメラ画像内でどのような色で写っているかに応じて、プロジェクタ制御部22が情報画像の色を補正するので、建築物の表面が特定の波長の光しか反射しない場合であっても、カメラ11は、情報画像が写ったカメラ画像を生成することができる。
また、プロジェクタ制御部22は、色の他に、情報画像の輝度を補正してもよい。この場合、制御部13は、カメラ画像内における枠形状部分の画像に基づいて、情報画像が投影された建築物の表面の明るさを認識する。制御部13は、その明るさを投影ステーション20に通知する。
投影ステーション20のプロジェクタ制御部22は、建築物の表面に投影された情報画像の明るさが通知されると、その明るさに応じて、情報画像の輝度を補正する。例えば、プロジェクタ制御部22は、建築物の表面が暗く見える場合には、情報画像の輝度を上げるように補正する。
このように輝度を補正することによって、建築物の表面に投影した情報画像が環境光に埋もれることを防止することができる。
制御部13が、カメラ画像内におけるその枠形状部分の色と建築物の表面の明るさとを認識し、プロジェクタ制御部22が、情報画像の色および輝度の両方を補正してもよい。
なお、上記の例では、建築物の表面に投影された枠形状の画像を、UAV10のカメラ11が撮像し、UAV10の制御部13がカメラ画像内における枠形状部分の色や、建築物の表面の明るさを認識する場合を示した。投影ステーション20もカメラを備え、そのカメラが建築物の表面に投影された枠形状の画像を撮像してもよい。そして、投影ステーション20が、カメラ画像内における枠形状部分の色や、建築物の表面の明るさを認識する画像認識部(図示略)を備えていてもよい。すなわち、カメラ画像内における枠形状部分の色や、建築物の表面の明るさの認識を投影ステーション20側で行ってもよい。ただし、この場合であっても、UAV10は、図6に示すようにカメラ11および制御部13を備える。
また、上記のように、投影ステーション20もカメラを備える場合、予め投影ステーション20のカメラが建築物の表面の画像を撮像し、カメラ画像を生成してもよい。そして、経路導出部24は、そのカメラ画像に基づいて、建築物の表面のうち、直射日光が当たっておらず影(UAV10の影ではない。)が生じている領域や、亀裂が生じている領域を特定してもよい。そして、経路導出部24が、その影が生じている領域内であって、亀裂が生じていない領域の中で、情報画像の投影箇所を定めてもよい。
本実施形態によれば、建築物の表面が特定の波長の光しか反射しない場合であっても、カメラ11は、情報画像が写ったカメラ画像を生成することができる。また、建築物の表面に投影した情報画像が環境光に埋もれることを防止することができる。従って、カメラ画像内の情報画像を検出しやすくすることができる。
また、プロジェクタ21は、例えば、赤色、緑色および青色のそれぞれの色毎に、所定の波長の光のみを照射する光源を有するプロジェクタ(例えば、レーザプロジェクタ)であってもよい。プロジェクタ制御部22は、UAV10の制御部13から通知された色の情報に応じて、プロジェクタ21の光源を切り替えることによって、情報画像の色を補正してもよい。このような構成によれば、選択された光源が照射する光の波長が限られているので、太陽光が存在する環境下であっても、UAV10のカメラ11は、情報画像が明瞭に写ったカメラ画像を得ることができる。
さらに、UAV10のカメラ11には、所定の波長の光のみを透過させるフィルタであって、透過させる光の波長を切り替え可能な構成のフィルタを備えていてもよい。例えば、フィルタが透過させる光の波長は、プロジェクタ21が有する個々の光源に合わせて定められていればよい。例えば、カメラ11のフィルタは、プロジェクタ21の赤色の光源に対応する波長の光のみを透過させる状態、プロジェクタ21の緑色の光源に対応する波長の光のみを透過させる状態、および、プロジェクタ21の青色の光源に対応する波長の光のみを透過させる状態のいずれかに切り替え可能なフィルタである。例えば、制御部13は、赤色という情報を投影ステーション20に通知した場合、カメラ11のフィルタをプロジェクタ21の赤色の光源に対応する波長の光のみを透過させる状態に切り替える。同様に、制御部13は、緑色という情報を投影ステーション20に通知した場合、カメラ11のフィルタをプロジェクタ21の緑色の光源に対応する波長の光のみを透過させる状態に切り替える。同様に、制御部13は、青色という情報を投影ステーション20に通知した場合、カメラ11のフィルタをプロジェクタ21の青色の光源に対応する波長の光のみを透過させる状態に切り替える。カメラ11が上記のフィルタを備えていることにより、太陽光が存在する環境下であっても、カメラ11が、情報画像が明瞭に写ったカメラ画像を得られるという効果をより向上させることができる。なお、カメラ11が備えるフィルタの態様は特に限定されない。例えば、一般的なカラーカメラには、各画素にベイヤー配列(Bayer arrangement )のR/G/Bフィルタが配置されている。このフィルタによって対応する光源の光のみを用いてもよい。すなわち、緑色の光源のみを用いるのであれば、緑色の画素のみを用いてもよい。同様に、他の色の光源を用いるのであれば、その光源に対応する画素のみを用いてもよい。また、モノクロカメラと、外部に取り付けた交換式カラーフィルタとの組み合わせを用いてもよい。また、カメラ11に上記のフィルタが設けられていなくてもよい。
また、建築物の表面の色が既知であり一色である場合には、プロジェクタ21は、その色に応じた所定の波長の光のみを照射する1つの光源を備える構成であってもよい。また、この場合、カメラ11には、その光源に対応する波長の光のみを透過させるフィルタが設けられていてもよい。すなわち、建築物の表面の色が既知であり一色である場合、プロジェクタ21の光源やカメラ11のフィルタは、切り替え可能でなくてもよい。なお、既に述べたように、カメラ11にフィルタが設けられていなくてもよい。
また、特に直射日光下等、プロジェクタの輝度に対して周辺光が強い場合、投影ステーション20のプロジェクタ21にはレーザ等、波長幅の狭い光源を用い、この波長の光のみを透過させる狭帯域フィルタをUAV10に取り付けるとなお良い。太陽光は、広い波長範囲に渡って光を照射しており、また、一般的なカメラは、広い波長範囲の光を積分した値を明るさとして出力する。しかし、狭帯域フィルタを付けると、太陽光成分は、このフィルタの透過範囲のみとなるため、太陽光成分の検出値は低下する。一方、レーザ光線は狭帯域フィルタの影響を受けない。従って、レーザ光源と、それに対応した狭帯域フィルタとを用いることで、外乱光の影響を受けにくくすることができる。
実施形態7.
本発明の第7の実施形態では、情報画像の投影面と、状態検査のための撮像の対象面が異なる場合の動作について説明する。
図16は、情報画像の投影面と、状態検査のための撮像の対象面とが異なる状況の例を示す模式図である。状態検査のための撮像対象となる領域が、領域82であるとする。しかし、領域82は、水平である。また、領域82には、建築物30の構造物39によって、プロジェクタ21から見て死角となる領域が存在する。また、プロジェクタ21から見て死角となる領域には、情報画像を投影することができない。領域82のうち、プロジェクタ21から見て死角とならない領域にプロジェクタ21が情報画像を投影したとしても、UAV10は、水平な領域82に投影された情報画像を撮像できない場合がある。
このような状況では、情報画像の投影面と、状態検査のための撮像の対象面とを異なる面とすればよい。
領域81は、情報画像の投影箇所を含む領域である。プロジェクタ21は、領域81に情報画像(以下、この情報画像を情報画像Qと記す。)を投影する。プロジェクタ21の情報画像生成部25(図10参照)は、情報画像Qを生成する際、移動中のカメラの向きの制御内容とは別に、滞空中のカメラの向きの制御内容も情報画像Qに含めておく。本例では、情報画像生成部25は、滞空中にはカメラの向きを真上方向に向けることを指示する制御内容を、情報画像Qに含めておく。
UAV10は、情報画像Qの一つ前の情報画像に基づいて、目標位置P3の方向に進み、ステップB1〜B3(図11参照)を行う。そして、カメラ画像内に情報画像を認識できたならば、UAV10は、ステップB4以降の動作を行う。
UAV10の制御部13(図6参照)、ステップB6において、情報画像Qに従い、その場でUAV10を滞空させる。さらに、制御部13は、情報画像Qに含まれる上記の制御内容に従い、滞空中にカメラの向きを真上方向に向ける。制御部13は、この状態で滞空している間に、状態検査のための撮像を行う。このとき、カメラ11は真上方向を向いているので、検査対象となる領域82を撮像でき、領域82のカメラ画像を生成することができる。
本実施形態によれば、状態検査のための撮像の対象面に情報画像を投影できなくても、他の面に投影された情報画像Qを利用して目標位置の近傍に到達することができる。そして、情報画像Qに含まれている制御内容に従って、UAV10は、滞空中におけるカメラ方向を変え、状態検査のための撮像の対象面を撮像し、その面のカメラ画像を生成することができる。
実施形態8.
建築物の経年劣化により、建築物の表面にひび割れや浮き等の欠陥が生じる場合がある。本発明の第8の実施形態の無人飛行装置制御システムは、そのような欠陥を検出する。また、無人飛行装置制御システムは、その欠陥に応じて、投影された情報画像が歪まないように情報画像を補正する。
本発明の第8の実施形態では、プロジェクタ21は、所定のパターンを表す画像(以下、パターン画像と記す。)も、建築物の表面に投影する。UAV10の制御部13は、カメラ画像内に写っているパターンの形状に応じて、建築物の表面の欠陥の状態を検出する。投影ステーション20は、その欠陥の状態に応じて、情報画像を補正する。
以下、より具体的に説明する。プロジェクタ21は、パターン画像を建築物の表面に投影する。パターン画像は、例えば、メッシュパターンを表す画像であってもよい。本実施形態では、説明を簡単にするために、所定のパターンとして水平な直線を例にして説明する。図17は、水平な直線を表すパターン画像の例を示す模式図である。図17では、1本の直線を表すパターン画像を示しているが、パターン画像内に複数の直線が表わされていてもよい。
図18は、経年劣化によって段差が生じた建築物の表面にパターン画像を投影し、UAV10のカメラ11がその投影箇所を撮像している状態を示す模式図である。図19は、図18に示す状態の模式的側面図である。図18および図19に示す例では、建築物の面91は、面92よりも浮いた状態となり、段差が生じている
カメラ11が、パターン画像(水平な直線)が投影された面91および面92を撮像し、カメラ画像を生成する。図20は、パターン画像を撮像した結果得られたカメラ画像の例を示す模式図である。図20に示すカメラ画像には、面91,92および線93が写っている。プロジェクタ21は、水平な直線を面91,92に投影しているが、面91,92の段差により、その直線では、カメラ画像内では、曲がった線93として写る。
また、投影ステーション20は、パターン画像の投影方向と壁面とがなす角度をUAV10に伝達する。投影ステーション20は、通信によって、この角度をUAV10に伝達してもよい。あるいは、投影ステーション20は、この角度の情報を含む情報画像を投影し、UAV10の制御部13が、カメラ画像内の情報画像によって、角度の情報を認識してもよい。
UAV10の制御部13は、カメラ画像内に写ったパターン(本例では、線93)の形状を認識する。制御部13は、カメラ画像内に写ったパターンの形状に基づいて、建築物の表面の状態を判定する。本例では、制御部13は、カメラ画像内に写った線93の形状から、面91と面92との段差があると判定する。すなわち、制御部13は、面91と面92との段差の大きさおよび段差が生じている位置を検出する。例えば、制御部13に、パターン画像の投影方向と壁面とがなす角度と、カメラ画像内のパターンの形状変形との対応関係を予め記憶させておけばよい。そして、制御部13は、カメラ画像内のパターンの形状変形に対応する建築物の表面の状態を特定することによって、建築物の表面の状態を判定すればよい。
制御部13は、建築物の表面の状態の情報(本例では、面91と面92との段差の大きさ、および段差が生じている位置)を投影ステーション20に送信する。
投影ステーション20のプロジェクタ制御部22は、制御部13から送信された建築物の表面の状態の情報を受信する。すると、プロジェクタ制御部22は、データ記憶部23に記憶されている建築物の外観および建築物の3次元形状の情報と、UAV10(制御部13)から受信した建築物の表面の状態の情報とに基づいて、投影された情報画像が歪まないように、情報画像を補正する。
本実施形態によれば、制御部13は、経年劣化等により生じた建築物の欠陥とその欠陥の大きさを検出することができる。さらに、制御部13は、建築物の表面の状態の情報を投影ステーション20に送信するので、投影ステーション20(プロジェクタ制御部22)は、投影された情報画像が歪まないように、情報画像を補正することができる。従って、投影ステーション20は、良好な状態で情報画像を建築物の表面に投影することができ、UAV10の誘導精度をより高くすることができる。
本発明の各実施形態は、インフラストラクチャ劣化診断の他、建築物の巡回監視を行うためにUAVを制御する場合等にも適用可能である。
次に、本発明の概要について説明する。図21は、本発明の無人飛行装置制御システムの概要を示す模式図である。無人飛行装置制御システム100は、画像投影部101と、制御部103と、位置設定部105とを備える。
画像投影部101(例えば、投影ステーション20)は、撮像装置(例えば、カメラ11)を搭載する無人飛行装置(例えば、UAV10)を制御するための画像(例えば、情報画像)を対象物(例えば、状態検査の対象となる建築物)に投影する。
制御部103(例えば、制御部13)は、撮像装置によって撮像された画像に基づき、無人飛行装置の動作を制御する。
位置設定部105(例えば、経路導出部24)は、画像投影部101の位置と無人飛行装置が画像を撮像する撮像位置と画像が投影される投影位置との関係に基づいて、投影される画像の光束の範囲内における無人飛行装置の存在の有無を判定し、判定結果に基づいて、撮像位置および投影位置の一方あるいは両方を設定する。
そのような構成により、無人飛行装置が撮像した画像に基づき無人飛行装置を制御して対象物の付近の目標位置近傍に無人飛行装置を誘導する場合において、無人飛行装置の影響による、撮像された画像の欠落を防止することができる。
本発明は、無人飛行装置を制御する無人飛行装置制御システムに好適に適用される。
10 UAV(無人飛翔体)
11 カメラ
13 制御部
15 カメラ角度制御部
16 モータドライバ
17a〜17d モータ
18 通信部
20 投影ステーション
21 プロジェクタ
22 プロジェクタ制御部
23 データ記憶部
24 経路導出部
25 情報画像生成部
27 通信部

Claims (10)

  1. 撮像装置を搭載する無人飛行装置の動作を制御するための画像を対象物に投影する画像投影部と、
    前記撮像装置によって撮像された前記画像に基づき、前記無人飛行装置の動作を制御する制御部と、
    前記画像投影部の位置と前記無人飛行装置が前記画像を撮像する撮像位置と前記画像が投影される投影位置との関係に基づいて、投影される前記画像の光束の範囲内における前記無人飛行装置の存在の有無を判定し、判定結果に基づいて、前記撮像位置および前記投影位置の一方あるいは両方を設定する位置設定部と
    を備える無人飛行装置制御システム。
  2. 前記位置設定部は、
    3次元空間における前記画像投影部の位置と前記投影位置との関係に基づき、3次元空間上の前記光束の位置を算出し、
    前記撮像位置が、算出された前記光束の位置に基づく所定の範囲内に含まれる場合、前記光束の範囲内に前記無人飛行装置が存在すると判定する
    請求項1に記載の無人飛行装置制御システム。
  3. 前記位置設定部は、前記撮像装置の光軸と前記光束の中心線との向きの関係に基づいて、前記撮像位置および前記投影位置の一方あるいは両方を設定する
    請求項1または2に記載の無人飛行装置制御システム。
  4. 前記位置設定部は、
    設定された前記撮像位置と、設定された前記撮像位置に基づき制御された前記無人飛行装置の位置との差異に基づき、他の撮像位置に基づき制御される前記無人飛行装置の位置を算出し、
    算出された前記無人飛行装置の位置と前記他の撮像位置から撮像される画像の光束の範囲とに基づき、前記他の撮像位置および前記他の撮像位置から撮像される画像の投影位置の一方あるいは両方を設定する
    請求項1から請求項3のうちのいずれか1項に記載の無人飛行装置制御システム。
  5. 前記撮像装置により撮像された撮像画像が欠落している場合に、前記無人飛行装置または投影されている前記画像を移動させる移動制御部を備える
    請求項1から請求項4のうちのいずれか1項に記載の無人飛行装置制御システム。
  6. 前記移動制御部は、前記撮像装置により撮像された撮像画像が欠落している位置に基づいて、前記無人飛行装置または投影されている前記画像の移動方向を決定する
    請求項5に記載の無人飛行装置制御システム。
  7. 前記画像投影部は、前記無人飛行装置の制御内容を識別する識別情報を示す領域以外の領域を含む画像を前記対象物に投影し、
    前記移動制御部は、該画像を前記撮像装置により撮像した撮像画像のうち、前記識別情報を示す領域以外の領域の撮像画像が欠落している場合に、前記無人飛行装置または投影されている前記画像を移動させる
    請求項5又は6に記載の無人飛行装置制御システム。
  8. 前記位置設定部は、前記対象物の画像投影面を分割した複数の領域ごとに、投影される前記画像の光束の範囲内における前記無人飛行装置の存在の有無を判定する
    請求項1から請求項7のうちのいずれか1項に記載の無人飛行装置制御システム。
  9. 画像投影部により、撮像装置を搭載する無人飛行装置の動作を制御するための画像を対象物に投影し、
    前記撮像装置によって撮像された前記画像に基づき、前記無人飛行装置の動作を制御し、
    前記画像投影部の位置と前記無人飛行装置が前記画像を撮像する撮像位置と前記画像が投影される投影位置との関係に基づいて、投影される前記画像の光束の範囲内における前記無人飛行装置の存在の有無を判定し、判定結果に基づいて、前記撮像位置および前記投影位置の一方あるいは両方を設定する
    無人飛行装置制御方法。
  10. 撮像装置を搭載する無人飛行装置の動作を制御するための画像を対象物に投影する画像投影装置であって、
    前記画像投影装置の位置と前記無人飛行装置が前記画像を撮像する位置と前記画像が投影される位置との関係に基づいて、投影される前記画像の光束の範囲内に前記無人飛行装置の存在の有無を判定し、判定結果に基づいて、前記撮像位置および前記投影位置の一方あるいは両方を設定する位置設定部を備える
    画像投影装置。
JP2016059529A 2016-03-24 2016-03-24 無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置 Pending JP2017174159A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016059529A JP2017174159A (ja) 2016-03-24 2016-03-24 無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016059529A JP2017174159A (ja) 2016-03-24 2016-03-24 無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置

Publications (1)

Publication Number Publication Date
JP2017174159A true JP2017174159A (ja) 2017-09-28

Family

ID=59973135

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016059529A Pending JP2017174159A (ja) 2016-03-24 2016-03-24 無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置

Country Status (1)

Country Link
JP (1) JP2017174159A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019073182A (ja) * 2017-10-17 2019-05-16 株式会社トプコン 無人航空機の制御装置、無人航空機、測量装置、無人航空機の制御方法および無人航空機の制御用プログラム
CN111470055A (zh) * 2020-04-09 2020-07-31 北京航宇测通电子科技有限公司 光电导航吊舱及光电导航***
WO2022158387A1 (ja) * 2021-01-21 2022-07-28 ソニーグループ株式会社 移動体、情報処理方法及びコンピュータプログラム
JP7409324B2 (ja) 2019-01-17 2024-01-09 日本電気株式会社 制御装置、情報処理装置、並びに、移動制御システム、方法及びプログラム
JP7504502B2 (ja) 2019-04-05 2024-06-24 株式会社Liberaware 飛行体

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019073182A (ja) * 2017-10-17 2019-05-16 株式会社トプコン 無人航空機の制御装置、無人航空機、測量装置、無人航空機の制御方法および無人航空機の制御用プログラム
JP7022559B2 (ja) 2017-10-17 2022-02-18 株式会社トプコン 無人航空機の制御方法および無人航空機の制御用プログラム
JP7409324B2 (ja) 2019-01-17 2024-01-09 日本電気株式会社 制御装置、情報処理装置、並びに、移動制御システム、方法及びプログラム
JP7504502B2 (ja) 2019-04-05 2024-06-24 株式会社Liberaware 飛行体
CN111470055A (zh) * 2020-04-09 2020-07-31 北京航宇测通电子科技有限公司 光电导航吊舱及光电导航***
WO2022158387A1 (ja) * 2021-01-21 2022-07-28 ソニーグループ株式会社 移動体、情報処理方法及びコンピュータプログラム

Similar Documents

Publication Publication Date Title
JP6672857B2 (ja) 無人飛行装置制御システム、無人飛行装置制御方法および無人飛行装置
WO2017169516A1 (ja) 無人飛行装置制御システム、無人飛行装置制御方法および検査装置
CA3006155C (en) Positioning system for aerial non-destructive inspection
EP3460393B1 (en) Methods for measuring and inspecting structures using cable-suspended platforms
JP2017174159A (ja) 無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置
JP6658532B2 (ja) 制御装置、制御方法および飛行体デバイス
US11048276B2 (en) Measuring device, control device for unmanned aerial vehicle and computer program product for controlling unmanned aerial vehicle
JP2024063175A (ja) 飛行情報制御方法、制御装置及びコンピュータプログラム
JP6601554B2 (ja) 無人航空機、無人航空機制御システム、飛行制御方法およびコンピュータプログラム
JP7044293B2 (ja) 設備点検システム
JP2006027448A (ja) 無人飛行体を利用した空撮方法及びその装置
JP6707933B2 (ja) 無人飛行装置制御システム、無人飛行装置制御方法および無人飛行装置
US11430101B2 (en) Unmanned aerial vehicle, inspection method, and storage medium
EP3850456A1 (en) Control and navigation systems, pose optimisation, mapping, and localisation techniques
JP2017037008A (ja) 構造物の状態検査方法
US20220307834A1 (en) Surveying System
JP7504502B2 (ja) 飛行体
JP7031698B2 (ja) 無人飛行装置制御システムおよび無人飛行装置制御方法
JP6733247B2 (ja) 無人飛行装置制御システム、無人飛行装置制御方法および画像投影装置
CN106127736A (zh) 一种泊车检测方法及处理器
JP6770826B2 (ja) 構造物の配置位置測定用の自動視準方法及び自動視準装置
KR102504743B1 (ko) 시설물의 모델링을 기반으로 하는 점검 드론의 위치 보정장치 및 보정방법
CN116027798B (zh) 基于图像修正的无人机电力巡检***及方法
US20240111311A1 (en) Control apparatus, base station, control method, and program
CN115586792B (zh) 基于铁塔参数的无人机电力巡检***及方法