JP2023043575A - 移動体システム - Google Patents
移動体システム Download PDFInfo
- Publication number
- JP2023043575A JP2023043575A JP2021151276A JP2021151276A JP2023043575A JP 2023043575 A JP2023043575 A JP 2023043575A JP 2021151276 A JP2021151276 A JP 2021151276A JP 2021151276 A JP2021151276 A JP 2021151276A JP 2023043575 A JP2023043575 A JP 2023043575A
- Authority
- JP
- Japan
- Prior art keywords
- image
- fpv
- moving body
- camera
- range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 claims abstract description 58
- 230000005540 biological transmission Effects 0.000 claims abstract description 31
- 238000003384 imaging method Methods 0.000 claims description 40
- 238000001514 detection method Methods 0.000 claims description 14
- 238000000034 method Methods 0.000 abstract description 13
- 230000001133 acceleration Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 230000010365 information processing Effects 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001141 propulsive effect Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Abstract
【課題】FPV映像を見ながら移動体を操縦する際に、操縦者が移動体を操縦しやすくするための技術を提供する。【解決手段】移動体システムは、移動体2と、移動体と通信可能な表示装置4と、を備える。移動体2において、機体姿勢推定部27bは、移動体2の姿勢を推定する。FPV用カメラ24は、FPV映像を撮影する。送信部28は、FPV映像を表示装置4に送信する。表示装置4において、受信部42は、移動体2からFPV映像を受信する。映像加工部44は、FPV映像に映る景色と関連する情報を示す画像である情報画像を、FPV映像の画像対応位置に重畳する。画像対応位置は、FPV映像における情報画像に対応する位置であって、移動体2の姿勢を用いて特定される位置である。表示部41は、情報画像が重畳されたFPV映像を表示する。【選択図】図3
Description
本開示は、移動体システムに関する。
特許文献1には、操縦者により遠隔で操縦される無人飛行体が記載されている。
特許文献1に記載の無人飛行体に例示される移動体には、移動体の一人称視点の映像であるFPV映像を撮影するFPV用カメラが搭載される場合がある。この場合、操縦者は、例えば表示装置に表示されるFPV映像を見ながら、移動体を操縦することが考えられる。しかしながら、発明者の詳細な検討の結果、FPV映像に映る景色だけでは操縦者が移動体を操縦しにくい場合があるという課題が見出された。
本開示の一局面は、FPV映像を見ながら移動体を操縦する際に、操縦者が移動体を操縦しやすくするための技術を提供する。
本開示の一態様は、移動体システム(1)である。移動体システムは、移動体(2)と、移動体と通信可能な表示装置(4)と、を備える。移動体は、機体姿勢推定部(27b)と、FPV用カメラ(24)と、送信部(28)と、を備える。機体姿勢推定部は、移動体の姿勢を推定する。FPV用カメラは、移動体の一人称視点の映像であるFPV映像を撮影する。送信部は、FPV映像を表示装置に送信する。表示装置は、受信部(42)と、表示部(41)と、を備える。受信部は、移動体からFPV映像を受信する。表示部は、受信されたFPV映像を表示する。移動体及び表示装置の少なくとも一方は、映像加工部(44)を更に備える。映像加工部は、FPV映像に映る景色と関連する情報を示す画像である情報画像を、FPV映像における情報画像に対応する位置であって、移動体の姿勢を用いて特定される位置である画像対応位置に重畳する。表示部は、情報画像が重畳されたFPV映像を表示する。
このような構成によれば、FPV映像を見ながら移動体を操縦する際に、操縦者が移動体を操縦しやすくすることができる。
以下、本開示の例示的な実施形態について図面を参照しながら説明する。
[1.移動体システムの全体構成]
図1に示す移動体システム1は、移動体2、操作装置3、及び表示装置4を備える。本実施形態の移動体2は、操縦者50により遠隔で操縦される無人飛行体である。このような無人飛行体は、UAVとも称される。UAVは、Unmanned Aerial Vehicleの略である。操縦者50は、移動体2と通信可能な操作装置3に移動体2の飛行指示等を入力することにより、移動体2を遠隔で操縦する。このとき、後述するように移動体2の一人称視点の映像であるFPV映像が表示装置4に表示されるため、操縦者50は、FPV映像を見ながら移動体2を操縦することができる。FPVは、First Person Viewの略である。
[1.移動体システムの全体構成]
図1に示す移動体システム1は、移動体2、操作装置3、及び表示装置4を備える。本実施形態の移動体2は、操縦者50により遠隔で操縦される無人飛行体である。このような無人飛行体は、UAVとも称される。UAVは、Unmanned Aerial Vehicleの略である。操縦者50は、移動体2と通信可能な操作装置3に移動体2の飛行指示等を入力することにより、移動体2を遠隔で操縦する。このとき、後述するように移動体2の一人称視点の映像であるFPV映像が表示装置4に表示されるため、操縦者50は、FPV映像を見ながら移動体2を操縦することができる。FPVは、First Person Viewの略である。
本実施形態の移動体システム1は、例えば、橋梁100の点検用の写真を撮影するために用いられる。橋梁100は、橋梁本体101、及び橋脚102を備える。橋梁本体101は、橋梁100の上部において水平方向に延びる部分である。橋脚102は、橋梁本体101を下方から支える部分である。操縦者50は、例えば、橋梁本体101の下面に沿って移動体2を飛行させ、移動体2における後述する撮影用カメラ25を用いて橋梁本体101の下面の写真を撮影する。
移動体2は、操作装置3及び表示装置4のそれぞれと無線通信可能に構成されている。図2に示すように、移動体2は、本体部21、複数の腕部22、腕部22と同数のスラスタ23、FPV用カメラ24、撮影用カメラ25、及び各種センサ26を備える。
本体部21は、移動体2の中心部分に位置し、複数の腕部22を支持する部分である。複数の腕部22は、本体部21から放射線状に延びる部分である。各腕部22の先端部分には、スラスタ23が1つずつ設けられている。すなわち、スラスタ23は、腕部22における本体部21側と反対側の端部に位置している。
スラスタ23は、プロペラ231を備える。プロペラ231は、図示省略のモータにより、その回転及びピッチ角が制御される。プロペラ231が回転駆動され、且つプロペラ231のピッチ角が変更されることにより、スラスタ23は推進力を発生する。移動体2は、この推進力により飛行する。また、移動体2は、あらかじめ定められた基準姿勢を取ることができる。本実施形態でいう移動体2の姿勢とは、移動体2のヨー軸、ロール軸及びピッチ軸の各軸周りの回転姿勢を指す。本実施形態では、各プロペラ231が水平に保たれているときの移動体2の姿勢、すなわち図2に示す移動体2の姿勢が、移動体2の基準姿勢として定められている。移動体2のロール角及びピッチ角は、移動体2の姿勢が基準姿勢であるときにそれぞれ0度となるように設計されている。
FPV用カメラ24は、FPV映像を撮影する。本実施形態のFPV用カメラ24は、画角θが90度以上の広角レンズを有する。より詳細には、本実施形態のFPV用カメラ24は、画角θが120度の広角レンズを有する。
また、本実施形態のFPV用カメラ24は、移動体2の姿勢が基準姿勢である場合に、鉛直方向に沿った移動体2の上方と、水平方向に沿った移動体2の前方と、を併せてFPV映像に映すことが可能となるように、移動体2に配置されている。より詳細には、本実施形態のFPV用カメラ24は、移動体2の姿勢が基準姿勢である状態において、レンズの光軸方向が水平方向に対して45度上方を向くように、移動体2に配置されている。前述したとおり、本実施形態のFPV用カメラ24は、画角θが90度以上の広角レンズを有する。このため、上記のように移動体2に配置されることにより、FPV用カメラ24は、移動体2の姿勢が基準姿勢である場合に、鉛直方向に沿った移動体2の上方と、水平方向に沿った移動体2の前方と、を併せてFPV映像に映すことが可能となる。後に詳述するように、FPV用カメラ24により撮影されたFPV映像は、表示装置4に送信され、表示装置4において表示される。
撮影用カメラ25は、所定の対象物を撮影する。以下では、撮影用カメラ25による撮影の対象物を、撮影対象物という。例えば、前述したように移動体システム1が図1に示す橋梁100の点検用の写真を撮影するために用いられる場合には、橋梁100が撮影対象物に該当する。図2に示すように、本実施形態の撮影用カメラ25は、移動体2の姿勢が基準姿勢である状態において、レンズの光軸方向が鉛直方向に沿った移動体2の上方を向くように、移動体2に配置されている。
FPV用カメラ24及び撮影用カメラ25は、撮影可能領域同士が重複するように、移動体2に配置されている。撮影可能領域とは、画角に収まる領域である。撮影可能領域同士が重複することとは、一方の撮影可能領域の少なくとも一部が他方の撮影可能領域と重なっていることを意味する。
FPV用カメラ24及び撮影用カメラ25は、単一のカメラとして、言い換えればFPV用及び撮影用双方の機能を兼ね備えるカメラとして構成されてもよいが、本実施形態では、別個のカメラとして構成されている。このようにFPV用カメラ24及び撮影用カメラ25が別個のカメラとして構成される場合、各カメラに対して、それぞれの用途に合わせたレンズや撮像素子等を適用することが可能となる。例えば、撮影用カメラ25には、撮影対象物をより高い精度で撮影するために、高い解像度を実現可能なレンズや撮像素子等が適用される。これに対して、FPV用カメラ24には、表示装置4にFPV映像をリアルタイムで表示可能にするためにFPV映像の処理速度の速さが要求されることから、FPV映像の処理速度と視認性との兼ね合いを見て、レンズや撮像素子等が選択される。また例えば、画角の広さや重量の観点から、各カメラのレンズや撮像素子等が選択される場合もある。
各種センサ26には、図2に示す2つのライダ261a,261bと、図示省略の加速度センサ、角速度センサ、地磁気センサ、高度センサ、及びGPSセンサと、が含まれる。
2つのライダ261a,261bは、移動体2の周囲に存在する物体を検出可能である。2つのライダ261a,261bは、物体検出センサに相当する。2つのライダ261a,261bは、移動体2の周囲にレーザ光を送信し、その反射光を受信することにより、移動体2の周囲に存在する物体までの距離を測定する。本実施形態では、2つのライダ261a,261bは、レーザ光の走査は行わず、一定の方向のみにレーザ光を送信する、いわゆる非走査型である。本実施形態では、一方のライダ261aは、移動体2の姿勢が基準姿勢である状態において、鉛直方向に沿った移動体2の上方にレーザ光を送信するように、移動体2に配置されている。他方のライダ261bは、移動体2の姿勢が基準姿勢である状態において、水平方向に沿った移動体2の前方にレーザ光を送信するように、移動体2に配置されている。なお、ライダはLiDARとも表記され、Light Detection and Rangingの略である。
加速度センサは、X軸、Y軸及びZ軸の三次元の各軸方向における加速度を検出する。角速度センサは、三次元の各軸回りの角速度を検出する。地磁気センサは、三次元の各軸方向における地磁気を検出する。高度センサは、例えば大気圧に基づいて高度を検出する。GPSセンサは、GPS衛星からGPS信号を受信する。GPSは、Global Positioning Systemの略である。
図3に示すように、移動体2は、前述したFPV用カメラ24及び撮影用カメラ25に加え、機能的な構成として、機***置推定部27a、機体姿勢推定部27b、距離測定部27c、撮影用カメラ姿勢推定部27d、撮影済み範囲記憶部27e、撮影予定範囲記憶部27f、情報処理部27g、移動体時計部27h、及び送信部28を備える。送信部28には、情報送信部28a、及び映像送信部28bが含まれる。これら構成については後に詳述するが、これら構成の機能を実現する手段は特に限定されず、少なくとも一部の機能は、ソフトウェアを用いて実現されてもよいし、ハードウェアを用いて実現されてもよい。ソフトウェアを用いて実現される方法として、例えば、CPU、ROM、RAM等を有する周知のマイクロコンピュータにおいて、CPUが非遷移的実体的記録媒体であるROMに格納されたプログラムを実行することにより当該プログラムに対応する方法が実行されて、各機能が実現されてもよい。あるいは、ハードウェアを用いて実現される方法として、デジタル回路、アナログ回路、又はこれらの組み合わせ等の電子回路により、各機能が実現されてもよい。
図1に戻り、操作装置3は、操縦者50による入力操作を受け付けるデバイス、いわゆるプロポである。操作装置3は、移動体2と無線通信可能に構成されている。操縦者50による入力操作には、移動体2の飛行に関する、上昇及び下降、前進及び後退、左右方向への移動、旋回といった指示や、撮影用カメラ25による撮影の指示が含まれる。操作装置3は、操縦者50による入力操作を受け付けると、当該入力操作に応じた情報を移動体2に送信する。
表示装置4も、移動体2と無線通信可能に構成されている。表示装置4は、移動体2から受信されたFPV映像を表示する表示部41を備える。本実施形態の表示装置4は、操縦者50の頭部に装着可能なヘッドマウントディスプレイである。図3に示すように、表示装置4は、機能的な構成として、表示部41に加えて、受信部42、地上時計部43、及び映像加工部44を備える。受信部42には、情報受信部42a、及び映像受信部42bが含まれる。これら構成については後に詳述するが、前述した移動体2の機能的な構成と同様に、これら構成の機能を実現する手段は特に限定されない。少なくとも一部の機能は、ソフトウェアを用いて実現されてもよいし、ハードウェアを用いて実現されてもよい。
[2.移動体及び表示装置における機能的な構成及び処理]
図3に示す移動体2及び表示装置4における機能的な構成、及び各構成にて実行される処理について、詳細を説明する。
図3に示す移動体2及び表示装置4における機能的な構成、及び各構成にて実行される処理について、詳細を説明する。
移動体2において、FPV用カメラ24は、前述したようにFPV映像を撮影する。そして、FPV用カメラ24は、撮影しているFPV映像を、送信部28における映像送信部28bに順次出力する。移動体時計部27hは、現在時刻を計時し、その時刻を映像送信部28bに出力する。
送信部28は、表示装置4における受信部42と無線通信可能に構成されている。送信部28における映像送信部28bは、FPV用カメラ24から入力されたFPV映像を、表示装置4に順次送信する。また、映像送信部28bは、移動体時計部27hから入力された時刻のうち、FPV用カメラ24からFPV映像が入力された時点における時刻を、当該FPV映像が撮影された時刻として、表示装置4に送信する。以下では、FPV映像が撮影された時刻を、FPV映像の撮影時刻という。映像送信部28bから送信されたFPV映像及びその撮影時刻は、表示装置4の受信部42における映像受信部42bにより受信される。
機体姿勢推定部27bは、所定の周期毎に、加速度センサにより検出された加速度、及び角速度センサにより検出された角速度に基づいて、移動体2の姿勢を推定する。ここでいう加速度センサ及び角速度センサは、前述した各種センサ26に含まれる構成を指す。機体姿勢推定部27bは、推定した移動体2の姿勢を、情報処理部27gを介して情報送信部28aに出力する。
距離測定部27cは、所定の周期毎に、前述した2つのライダ261a,261bを用いて、移動体2の周囲に存在する物体までの距離を測定する。本実施形態では、一方のライダ261aが移動体2の上方にレーザ光を送信するため、例えば図1に示すように、撮影対象物に該当する橋梁本体101の下面側に移動体2が位置する状態においては、橋梁本体101に向けてレーザ光が送信される。つまり、距離測定部27cにより測定される距離には、撮影対象物までの距離が含まれる。図3に示すように、距離測定部27cは、測定した距離を、情報処理部27gを介して情報送信部28aに出力する。
情報送信部28aは、機体姿勢推定部27bから入力された移動体2の姿勢、及び距離測定部27cから入力された距離を、表示装置4に送信する。情報送信部28aから送信されたこれら情報は、表示装置4の受信部42における情報受信部42aにより受信される。また、これら情報は、後に詳述するように、表示装置4における映像加工部44にて、図5に示す現カメラ範囲Aを推定するために用いられる。現カメラ範囲Aとは、撮影用カメラ25の画角に入っている撮影対象物における範囲である。より詳細には、現カメラ範囲Aとは、現時点において撮影用カメラ25の画角に入っている、撮影対象物の表面における範囲である。
図3に戻り、撮影用カメラ25、機***置推定部27a及び撮影用カメラ姿勢推定部27dは、前述した操作装置3からトリガー情報を受信する。トリガー情報は、前述したように操作装置3が操縦者50による入力操作として撮影用カメラ25による撮影の指示を受け付けた場合に、操作装置3から送信される情報である。
撮影用カメラ25は、トリガー情報を受信すると、撮影を行う。例えば図1に示すように、撮影対象物に該当する橋梁本体101の下面側に移動体2が位置する状態において撮影用カメラ25がトリガー情報を受信した場合、本実施形態では、撮影用カメラ25のレンズの光軸方向が移動体2の上方に向けられているため、橋梁本体101が撮影される。図3にて図示は省略しているが、撮影用カメラ25は、撮影した画像である撮影画像を、移動体2あるいは表示装置4に設けられた画像記憶部に記憶させる。画像記憶部が表示装置4に設けられた場合、撮影用カメラ25は、送信部28を介して表示装置4に撮影画像を送信することにより、撮影画像を画像記憶部に記憶させる。
機***置推定部27aは、トリガー情報を受信すると、高度センサにより検出された高度、及びGPSセンサにより受信されたGPS信号に基づいて、移動体2の位置を推定する。ここでいう高度センサ及びGPSセンサは、前述した各種センサ26に含まれる構成を指す。また、ここでいう移動体2の位置は、より詳細には、移動体2と撮影対象物とを含む三次元空間における移動体2の位置である。移動体2と撮影対象物とを含む三次元空間における移動体2の位置は、当該三次元空間に設定された三次元座標により特定される。この三次元座標を、以下ではローカル座標という。本実施形態では、撮影対象物に該当する橋梁100について、その位置及び外形を特定するローカル座標があらかじめ設定されている。橋梁100の外形は、実際の外形と比べて簡略化して設定されている。例えば、橋梁100における橋梁本体101の下面の形状は、水平方向に拡がる平面状に簡略化して設定されている。なお、ローカル座標は、絶対的な座標であってもよいし、例えば撮影対象物を基準とした相対的な座標であってもよい。
機***置推定部27aは、トリガー情報を受信すると、移動体2の位置を特定するローカル座標を推定する。前述したように撮影用カメラ25はトリガー情報を受信すると撮影を行うため、当該ローカル座標により特定される移動体2の位置、言い換えれば機***置推定部27aにより推定される移動体2の位置は、撮影用カメラ25による撮影が行われたときの移動体2の位置に該当する。機***置推定部27aは、推定した移動体2の位置、具体的には当該位置を特定するローカル座標を、撮影済み範囲記憶部27eに出力する。
撮影用カメラ姿勢推定部27dは、トリガー情報を受信すると、加速度センサにより検出された加速度及び角速度センサにより検出された角速度により推定される移動体2の姿勢と、移動体2に対する撮影用カメラ25の向きと、に基づいて、撮影用カメラ25の姿勢を推定する。ここでいう加速度センサ及び角速度センサは、前述した各種センサ26に含まれる構成を指す。本実施形態では、撮影用カメラ25が移動体2に固定されているため、移動体2に対する撮影用カメラ25の向きは一定である。前述したように、撮影用カメラ25はトリガー情報を受信すると撮影を行うため、撮影用カメラ姿勢推定部27dにより推定される撮影用カメラ25の姿勢は、撮影用カメラ25による撮影が行われたときの撮影用カメラ25の姿勢に該当する。撮影用カメラ姿勢推定部27dは、推定した撮影用カメラ25の姿勢を、撮影済み範囲記憶部27eに出力する。
撮影用カメラ25による撮影が行われたときの移動体2の位置が機***置推定部27aから入力され、撮影用カメラ25による撮影が行われたときの撮影用カメラ25の姿勢が撮影用カメラ姿勢推定部27dから入力されると、撮影済み範囲記憶部27eは、これら情報に基づいて、図5に示す撮影済み範囲Bを推定する。撮影済み範囲Bとは、撮影用カメラ25により既に撮影された撮影対象物における範囲である。なお、以下の説明において、今回のトリガー情報の受信を契機に推定された撮影済み範囲Bと、前回以前のトリガー情報の受信を契機に推定された撮影済み範囲Bと、を区別する必要がある場合には、前者を撮影済み範囲B1、後者を撮影済み範囲B2と表記する。
本実施形態では、前述したように、撮影対象物に該当する橋梁100の位置及び外形を特定するローカル座標があらかじめ設定されている。このため、撮影済み範囲記憶部27eは、撮影用カメラ25による撮影が行われたときの移動体2の位置及び撮影用カメラ25の姿勢と、撮影用カメラ25の画角と、に基づいて、撮影対象物の表面における撮影用カメラ25の画角に入っている範囲を撮影済み範囲B1として推定する。より詳細には、撮影済み範囲記憶部27eは、撮影済み範囲B1を特定するローカル座標を推定する。例えば、撮影対象物の表面の形状が本実施形態の橋梁本体101の下面のように平面状であって、撮影済み範囲B1が四角形状である場合、撮影済み範囲B1は、四角形状の四隅に対応する4点のローカル座標により特定される。図3に示すように、撮影済み範囲記憶部27eは、推定した撮影済み範囲B1を記憶すると共に、情報処理部27gを介して撮影済み範囲B1を情報送信部28aに出力する。具体的には、撮影済み範囲記憶部27eは、撮影済み範囲B1を特定するローカル座標を記憶すると共に、情報処理部27gを介して当該ローカル座標を情報送信部28aに出力する。その際、前回以前のトリガー情報の受信を契機に推定された撮影済み範囲B2が既に記憶されている場合には、撮影済み範囲記憶部27eは、その撮影済み範囲B2、具体的にはその撮影済み範囲B2を特定するローカル座標も、情報処理部27gを介して情報送信部28aに併せて出力する。
撮影予定範囲記憶部27fには、図5に示す撮影予定範囲Cがあらかじめ記憶されている。撮影予定範囲Cとは、撮影用カメラ25による撮影が予定されている撮影対象物における全範囲である。言い換えれば、撮影予定範囲Cとは、撮影対象物の表面における、撮影用カメラ25による撮影が予定されている範囲の全域である。撮影予定範囲記憶部27fには、具体的には、撮影予定範囲Cの少なくとも外縁を特定するローカル座標があらかじめ記憶されている。図3に示すように、撮影予定範囲記憶部27fは、撮影予定範囲Cを特定するローカル座標を、情報処理部27gを介して情報送信部28aに出力する。
情報送信部28aは、撮影済み範囲記憶部27eから入力された撮影済み範囲B、及び撮影予定範囲記憶部27fから入力された撮影予定範囲Cを、表示装置4に送信する。具体的には、情報送信部28aは、各範囲を特定するローカル座標を、表示装置4に送信する。情報送信部28aから送信されたこれら情報は、表示装置4の受信部42における情報受信部42aにより受信される。
なお、撮影済み範囲B及び撮影予定範囲Cについては、表示装置4に図示しない範囲記憶部を設け、情報受信部42aにより受信された各範囲を範囲記憶部に記憶させてもよい。この場合、表示装置4に送信済みの撮影済み範囲B及び撮影予定範囲Cについては、情報送信部28aから再度送信しなくてもよい。
表示装置4において、映像受信部42bは、映像送信部28bから受信したFPV映像及びその撮影時刻を、映像加工部44に出力する。情報受信部42aは、情報送信部28aから受信した、移動体2の姿勢、移動体2の周囲に存在する物体までの距離、撮影済み範囲Bを特定するローカル座標、及び撮影予定範囲Cを特定するローカル座標を、映像加工部44に出力する。地上時計部43は、現在時刻を計時し、その時刻を映像加工部44に出力する。
映像加工部44は、映像受信部42bから入力されたFPV映像に、情報画像を重畳する。情報画像とは、FPV映像に映る景色と関連する情報を示す映像である。映像加工部44は、具体的にはFPV映像の画像対応位置に、情報画像を重畳する。画像対応位置とは、FPV映像における情報画像に対応する位置であって、移動体2の姿勢を用いて特定される位置である。本実施形態では、映像加工部44は、情報画像として以下の6種の画像を重畳する。
1種目の画像は、鉛直方向に沿った移動体2の上方を示す画像である。具体的には、映像加工部44は、当該1種目の画像として、図4に示す上方基準線Fの画像を、FPV映像の画像対応位置に重畳する。上方基準線Fとは、移動体2の真上を通り、移動体2の左右方向に延びる線である。移動体2の真上とは、移動体2の中心から見て、鉛直方向に沿った移動体2の上方の位置である。また、移動体2の左右方向とは、FPV用カメラ24の画角の中心線と垂直な方向であって、水平方向に沿った方向である。本実施形態では、FPV用カメラ24の画角の中心線は、FPV用カメラ24が備える広角レンズの光軸方向と一致する。上方基準線Fの画像についての画像対応位置は、FPV映像における、移動体2の真上に対応する位置を通り、移動体2の左右方向に対応する方向に延びる部分である。映像加工部44は、移動体2の姿勢を用いて当該画像対応位置を特定し、当該画像対応位置に上方基準線Fの画像を重畳する。
2種目の画像は、水平方向に沿った移動体2の前方を示す画像である。具体的には、映像加工部44は、当該2種目の画像として、第1前方基準線G1の画像及び第2前方基準線G2の画像を、FPV映像の各画像対応位置に重畳する。第1前方基準線G1とは、移動体2の真正面を通り、移動体2の左右方向に延びる線である。移動体2の真正面とは、移動体2の中心から見て、投影中心線に沿った移動体2の前方である。投影中心線とは、FPV用カメラ24の画角の中心線を水平面に平行投影した線を指す。第1前方基準線G1の画像についての画像対応位置は、FPV映像における、移動体2の真正面に対応する位置を通り、移動体2の左右方向に対応する方向に延びる部分である。
第2前方基準線G2とは、移動体2の真正面から移動体2の真上に向けて、移動体2の左右方向と垂直に延びる線である。第2前方基準線G2の画像についての画像対応位置は、FPV映像における、移動体2の真正面に対応する位置から移動体2の真上に対応する位置に向けて、移動体2の左右方向と垂直な方向に対応する方向に延びる部分である。映像加工部44は、移動体2の姿勢を用いて各画像対応位置を特定し、第1前方基準線G1の画像及び第2前方基準線G2の画像を各画像対応位置に重畳する。
3種目の画像は、前述した現カメラ範囲Aを示す画像である。映像加工部44は、移動体2の姿勢、移動体2に対する撮影用カメラ25の向き、撮影用カメラ25の画角、及び撮影対象物までの距離に基づいて、現カメラ範囲Aを推定する。この処理は、現カメラ範囲推定部としての処理に相当する。本実施形態では、移動体2に対する撮影用カメラ25の向き、及び撮影用カメラ25の画角は、一定である。また、撮影対象物が橋梁本体101の下面である前提において、移動体2の周囲の存在する物体までの距離のうち、移動体2の上方に向けてレーザ光を送信するライダ261aにより測定された距離を、撮影対象物までの距離として取り扱う。
本実施形態では、FPV用カメラ24も、撮影用カメラ25と同様に移動体2に対する向きが一定であるため、FPV用カメラ24と撮影用カメラ25との撮影可能領域同士の重複度合いは一定である。したがって、前述したように橋梁本体101の下面の形状が水平方向に拡がる平面状であると設定すると、FPV映像における現カメラ範囲Aに対応する部分は、移動体2の姿勢及び撮影対象物までの距離に基づいて特定可能である。そこで、本実施形態の映像加工部44には、移動体2の姿勢及び撮影対象物までの距離から、FPV映像における現カメラ範囲Aに対応する部分を算出するための数式あるいはテーブルが、あらかじめ用意されている。映像加工部44は、この数式あるいはテーブルを用いて算出したFPV映像における部分に、現カメラ範囲Aを示す画像を重畳する。
4種目の画像は、図6に示すように、前述した撮影済み範囲Bを示す画像である。映像加工部44は、撮影済み範囲Bを特定するローカル座標に対応するFPV映像上の位置を、撮影済み範囲Bを示す画像についての画像対応位置として特定する。具体的には、FPV用カメラ24の撮影可能領域には、FPV用カメラ24の位置を基準とした三次元座標が設定されている。当該三次元座標を、以下ではカメラ座標という。映像加工部44は、撮影済み範囲Bを特定するローカル座標をカメラ座標に変換し、FPV映像における当該カメラ座標に対応する位置を、撮影済み範囲Bを示す画像についての画像対応位置として特定する。そして、映像加工部44は、撮影済み範囲Bの少なくとも外縁を示す画像を、当該画像対応位置に重畳する。
5種目の画像は、前述した撮影予定範囲Cを示す画像である。映像加工部44は、撮影済み範囲Bを示す画像を重畳するときと同様にして、撮影予定範囲Cを示す画像についての画像対応位置を特定し、当該画像対応位置に撮影予定範囲Cを示す画像を重畳する。
6種目の画像は、図5及び図6に示す次回撮影範囲Dを示す画像である。次回撮影範囲Dとは、撮影用カメラ25が次に撮影すべき撮影対象物における範囲である。映像加工部44は、撮影予定範囲Cと撮影済み範囲Bとに基づいて、次回撮影範囲Dを算出する。この処理は、次回撮影範囲算出部としての処理に相当する。具体的には、映像加工部44は、撮影予定範囲Cにおける撮影済み範囲Bと重複しない範囲である未撮影範囲Eを算出する。未撮影範囲Eは、撮影用カメラ25による撮影が未だ行われていない範囲とも言い換えられる。未撮影範囲Eは、撮影予定範囲C及び撮影済み範囲Bと同様に、ローカル座標により特定される。映像加工部44は、例えば未撮影範囲Eに対する移動体2の位置に基づいて、次回撮影範囲Dを算出する。次回撮影範囲Dも、ローカル座標により特定される。そして、映像加工部44は、撮影済み範囲Bを示す画像を重畳するときと同様にして、次回撮影範囲Dを示す画像についての画像対応位置を特定し、当該画像対応位置に次回撮影範囲Dを示す画像を重畳する。
なお、図4及び図6は、情報画像の理解を容易にするために便宜上2つの図に分けて示したものであって、実際には、全ての情報画像がFPV映像に併せて重畳されている。図4では、現カメラ範囲Aの画像として、現カメラ範囲Aの外縁を示す四角形状の枠の画像を例示している。図6における撮影済み範囲B2及び撮影予定範囲Cを示す各画像についても、同様である。図6における現カメラ範囲A及び次回撮影範囲Dを示す各画像も基本的には同様であるが、他の範囲を示す画像と区別しやすくするためにハッチングを付している。
図3に示すように、映像加工部44は、情報画像が重畳されたFPV映像を、表示部41に出力する。その際、映像加工部44は、FPV映像の撮影時刻と現在時刻との差分である遅延時間も、表示部41に併せて出力する。また、映像加工部44は、移動体2の周囲に存在する物体までの距離も、表示部41に併せて出力する。
図4及び図6に示すように、表示部41は、情報画像が重畳されたFPV映像を表示する。また、表示部41は、図4に示すように、2つのライダ261a,261bによる物体の検出結果H1,H2を、情報画像が重畳されたFPV映像と共に表示する。具体的には、表示部41は、当該検出結果H1,H2として、移動体2の周囲に存在する物体までの距離を示す文字画像を表示する。また、表示部41は、2つのライダ261a,261bによるレーザ光の送信方向を示す画像I1,I2も、これら文字画像と共に表示する。さらに、表示部41は、図8に示すように、遅延時間Jについても、情報画像が重畳されたFPV映像と共に表示する。
[3.効果]
以上詳述した実施形態によれば、以下の効果が得られる。
(3a)移動体2と表示装置4とを備える移動体システム1では、移動体2は、機体姿勢推定部27bと、FPV用カメラ24と、送信部28と、を備える。表示装置4は、受信部42と、表示部41と、を備える。表示装置4は、映像加工部44を更に備える。映像加工部44は、情報画像をFPV映像の画像対応位置に重畳する。表示部41は、情報画像が重畳されたFPV映像を表示する。
以上詳述した実施形態によれば、以下の効果が得られる。
(3a)移動体2と表示装置4とを備える移動体システム1では、移動体2は、機体姿勢推定部27bと、FPV用カメラ24と、送信部28と、を備える。表示装置4は、受信部42と、表示部41と、を備える。表示装置4は、映像加工部44を更に備える。映像加工部44は、情報画像をFPV映像の画像対応位置に重畳する。表示部41は、情報画像が重畳されたFPV映像を表示する。
このような構成によれば、操縦者50は、表示部41に表示されたFPV映像から、当該FPV映像に映る景色に加えて、重畳された情報画像が示す当該景色に関連する情報を得ることができる。したがって、FPV映像を見ながら移動体2を操縦する際に、操縦者50が移動体2を操縦しやすくすることができる。
(3b)FPV用カメラ24は、移動体2の姿勢が基準姿勢である場合に、鉛直方向に沿った移動体2の上方と、水平方向に沿った移動体2の前方と、を併せてFPV映像に映すことが可能となるように、移動体2に配置される。映像加工部44は、情報画像として、鉛直方向に沿った移動体2の上方と、水平方向に沿った移動体2の前方と、のそれぞれを示す画像を、FPV映像の画像対応位置に重畳する。
このような構成によれば、FPV映像に映る景色に対する、鉛直方向に沿った移動体2の上方を示す画像及び水平方向に沿った移動体2の前方を示す画像それぞれの位置から、操縦者50が移動体2の位置を把握しやすくすることができる。したがって、FPV映像を見ながら移動体2を操縦する際に、操縦者50が移動体2を一層操縦しやすくすることができる。
(3c)FPV用カメラ24は、上記(3b)の構成を達成するために、例えば、画角が90度未満の複数の非広角レンズを有してもよいが、本実施形態のFPV用カメラ24は、画角が90度以上の広角レンズを有する。
このような構成によれば、広角レンズを有さない場合と比較してFPV用カメラ24の軽量化を図りつつ、上記(3b)の構成を達成することが可能になる。
このような構成によれば、広角レンズを有さない場合と比較してFPV用カメラ24の軽量化を図りつつ、上記(3b)の構成を達成することが可能になる。
(3d)移動体2は、撮影用カメラ25を更に備える。FPV用カメラ24は、撮影可能領域同士が撮影用カメラ25と重複するように、移動体2に配置される。映像加工部44は、移動体2の姿勢と、移動体2に対する撮影用カメラ25の向きと、に基づいて、現カメラ範囲Aを推定する。また、映像加工部44は、情報画像として、現カメラ範囲Aを示す画像を、FPV映像の画像対応位置に重畳する。
例えば、本実施形態のように撮影用カメラ25による撮影を目的として移動体2を操縦する場合、操縦者50は、撮影対象物における撮影したい部分が現カメラ範囲Aに含まれるように、移動体2の位置及び姿勢を制御する必要がある。上記のような構成によれば、操縦者50は、表示装置4に表示されたFPV映像から現カメラ範囲Aを把握しながら、移動体2を操縦することが可能となる。このため、撮影用カメラ25による撮影を目的とする場合においても、操縦者50が移動体2を操縦しやすくすることができる。
(3e)移動体2は、撮影済み範囲記憶部27eを更に備える。撮影済み範囲記憶部27eは、撮影済み範囲Bを記憶する。撮影済み範囲Bは、撮影用カメラ25による撮影が行われたときの、移動体2の位置及び姿勢と、移動体2に対する撮影用カメラ25の向きと、に基づいて推定される。映像加工部44は、情報画像として、撮影済み範囲Bを示す画像を、FPV映像の画像対応位置に重畳する。
このような構成によれば、操縦者50は、表示装置4に表示されたFPV映像から撮影済み範囲Bを把握しながら、移動体2を操縦することが可能となる。このため、例えば、本実施形態のように撮影対象物を複数回に分けて撮影する場合に、撮影対象物の撮影漏れを抑制することができる。
また、上記のような構成を上記(3d)の構成と共に備えることにより、操縦者50は、撮影用カメラ25による撮影を行う際に、現カメラ範囲Aと撮影済み範囲Bとが適当な重複度合いになるように、あるいはこれら範囲同士が重複しないように、移動体2の位置を調整することが可能になる。これにより、より効率よく撮影対象物を撮影することも可能になる。
(3f)映像加工部44は、情報画像として、撮影予定範囲Cを示す画像を、FPV映像の画像対応位置に重畳する。
このような構成によれば、操縦者50は、表示装置4に表示されたFPV映像から撮影予定範囲Cを把握しながら、移動体2を操縦することが可能となる。このため、上記(3e)と同様に、撮影対象物の撮影漏れを抑制することができる。また、例えば、撮影予定範囲Cを把握できない場合には、操縦者50が撮影予定範囲Cよりも過度に広い範囲まで撮影用カメラ25による撮影を行ってしまうことも考えられるが、上記のような構成によれば、このような事態を回避することも可能になる。このため、より効率よく撮影用カメラ25による撮影を行うことが可能になる。
このような構成によれば、操縦者50は、表示装置4に表示されたFPV映像から撮影予定範囲Cを把握しながら、移動体2を操縦することが可能となる。このため、上記(3e)と同様に、撮影対象物の撮影漏れを抑制することができる。また、例えば、撮影予定範囲Cを把握できない場合には、操縦者50が撮影予定範囲Cよりも過度に広い範囲まで撮影用カメラ25による撮影を行ってしまうことも考えられるが、上記のような構成によれば、このような事態を回避することも可能になる。このため、より効率よく撮影用カメラ25による撮影を行うことが可能になる。
(3g)映像加工部44は、情報画像として、次回撮影範囲Dを示す画像を、FPV映像の画像対応位置に重畳する。このような構成によれば、操縦者50は、FPV映像を見ながら、次回撮影範囲Dを撮影可能な位置まで移動体2を操縦することが可能になる。
(3h)特に本実施形態では、映像加工部44は、撮影予定範囲Cと、撮影済み範囲Bと、に基づいて、次回撮影範囲Dを算出する。このような構成によれば、映像加工部44が例えば移動体2の総移動距離が短くなるように次回撮影範囲Dを算出することで、より効率よく撮影用カメラ25による撮影を行うことが可能になる。
(3i)移動体2及び表示装置4のそれぞれは、現在時刻を計時する時計部を更に備える。本実施形態では、移動体時計部27h及び地上時計部43が、時計部に相当する。送信部28は、FPV映像の撮影時刻をFPV映像と共に表示装置4に送信する。表示部41は、受信された撮影時刻と、現在時刻と、の差分である遅延時間を、情報画像が重畳されたFPV映像と共に表示する。
このような構成によれば、操縦者50は、遅延時間を把握しながら移動体2を操縦することができるため、遅延時間を把握していないことに起因する移動体2の操縦誤りを低減することができる。
特に移動体システム1では、上記(3a)のとおり、情報画像を重畳してからFPV映像を表示部41に表示する。したがって、情報画像を重畳せずにFPV映像を表示する場合と比較して、情報画像を重畳する処理の分だけFPV映像の撮影から表示までの時間、つまり上記の遅延時間が長くなる可能性が考えられる。遅延時間が比較的長くなってしまう場合、操縦者50が遅延時間を把握しながら移動体2を操縦できることは、一層有用になる。
[4.他の実施形態]
以上、本開示の実施形態について説明したが、本開示は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
以上、本開示の実施形態について説明したが、本開示は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
(4a)上記実施形態では、表示装置4に映像加工部44が設けられ、この映像加工部44にてFPV映像に情報画像が重畳される。しかし、FPV映像に情報画像が重畳される処理は、必ずしも表示装置4にて行われなくてもよい。例えば、図7に示すように、移動体2に映像加工部27iが設けられ、この映像加工部27iにてFPV映像に情報画像が重畳されてもよい。また例えば、上記実施形態のように複数の情報画像がFPV映像に重畳される場合、移動体2にて一部の情報画像がFPV映像に重畳され、表示装置4にて他の一部の情報画像がFPV映像に重畳されてもよい。
ただし、上記実施形態のように、表示装置4にて全ての情報画像がFPV映像に重畳される場合、言い換えればFPV映像と情報画像に関する情報とが移動体2から表示装置4に独立して送信される場合、次の効果が得られる点で有益である。すなわち、表示装置4は、仮にFPV映像を受信できず、表示部41におけるFPV映像の表示が途切れてしまったとしても、情報画像に関する情報についてはFPV映像と独立して受信するため、情報画像の表示は継続可能である。したがって、仮に表示部41におけるFPV映像の表示が途切れてしまっても、情報画像により示される情報を頼りに操縦者50が移動体2の操縦を継続しやすくすることができる。
(4b)上記実施形態では、図3に示すように、表示装置4における映像加工部44にて現カメラ範囲A及び次回撮影範囲Dが推定されるが、現カメラ範囲A及び次回撮影範囲Dを推定する処理は、必ずしも表示装置4にて行われなくてもよい。例えば、移動体2における情報処理部27gにて現カメラ範囲A及び次回撮影範囲Dが推定され、推定された各範囲が情報送信部28aから表示装置4に送信されてもよい。
(4c)上記実施形態では、撮影済み範囲記憶部27eは、移動体2に設けられているが、例えば表示装置4に設けられてもよい。言い換えれば、上記実施形態では、撮影済み範囲Bは、移動体2にて推定されるが、例えば表示装置4にて推定されてもよい。
また、上記実施形態では、撮影予定範囲記憶部27fは、移動体2に設けられているが、例えば表示装置4に設けられてもよい。言い換えれば、上記実施形態では、撮影予定範囲Cは、移動体2に記憶されているが、例えば表示装置4に記憶されていてもよい。
(4d)上記実施形態では、次回撮影範囲Dは撮影予定範囲Cと撮影済み範囲Bとに基づいて算出されるが、次回撮影範囲Dの算出方法は特に限定されない。例えば、撮影予定範囲C内における撮影用カメラ25による撮影順序があらかじめ定められていてもよい。
(4e)上記実施形態では、FPV用カメラ24は、移動体2の姿勢が基準姿勢である場合に、鉛直方向に沿った移動体2の上方と、水平方向に沿った移動体2の前方と、を併せてFPV映像に映すことが可能となるように、移動体2に配置されている。しかし、移動体2に対するFPV用カメラ24の向きは、特に限定されない。例えば、FPV用カメラ24は、移動体2の姿勢が基準姿勢である場合に、鉛直方向に沿った移動体2の上方に加えて又は代えて、鉛直方向に沿った移動体2の下方についても、水平方向に沿った移動体2の前方と併せてFPV映像に映すことが可能となるように、移動体2に配置されてもよい。
また、上記実施形態では、FPV用カメラ24は、移動体2に対する向きが一定であるが、FPV用カメラ24は、移動体2に対する向きを変更可能に構成されてもよい。例えば、FPV用カメラ24は、移動体2の姿勢が基準姿勢である場合に、鉛直方向に沿った移動体2の上方及び下方の少なくとも一方と、水平方向に沿った移動体2の前方と、をFPV映像に映すように、移動体2に対する向きを変更可能に構成されてもよい。
移動体2の姿勢が基準姿勢である場合に、鉛直方向に沿った移動体2の下方についてもFPV映像に映すことが可能となるように、FPV用カメラ24が移動体2に配置される場合、映像加工部44は、例えば鉛直方向に沿った移動体2の下方を示す画像についても、情報画像としてFPV映像の画像対応位置に重畳してもよい。
(4f)また、上記(4e)のFPV用カメラ24と同様に、撮影用カメラ25も、移動体2に対する向きを変更可能に構成されてもよい。FPV用カメラ24あるいは撮影用カメラ25が、移動体2に対する向きを変更可能に構成された場合、移動体2に対する各カメラの向きは、例えば、各カメラの向きを制御するためのジンバルにおけるモータの制御量に基づいて推定可能である。
(4g)上記実施形態では、映像加工部44は、1種目の情報画像として、鉛直方向に沿った移動体2の上方を示す画像を、FPV映像に重畳する。鉛直方向に沿った移動体2の上方を示す画像の具体例として、上記実施形態では上方基準線Fの画像を挙げているが、鉛直方向に沿った移動体2の上方を示す画像は、上方基準線Fのような線を示す画像に限定されない。例えば、鉛直方向に沿った移動体2の上方を示す画像は、移動体2の真上の点を示す画像等であってもよい。
上記実施形態にて2種目の情報画像として挙げている、水平方向に沿った移動体2の前方を示す画像についても、同様である。すなわち、水平方向に沿った移動体2の前方を示す画像は、第1前方基準線G1及び第2前方基準線G2のような線を示す画像に限定されず、例えば、移動体2の真正面の点を示す画像等であってもよい。
(4h)上記実施形態では、映像加工部44は、計6種の情報画像をFPV映像に重畳する。しかし、映像加工部44は、必ずしも上記実施形態で例示した6種の情報画像の全てをFPV映像に重畳しなくてもよい。
(4i)図6に示すように、上記実施形態では、現カメラ範囲A、撮影済み範囲B、撮影予定範囲C、及び次回撮影範囲Dの画像として、各範囲の外縁を示す四角形状の枠の画像がFPV映像に重畳される。しかし、これら範囲の画像は、四角形状の枠の画像に限定されず、例えば塗りつぶしにより各範囲を示す画像等であってもよい。その際、各範囲を示す塗りつぶしは、例えば半透明であってもよい。また例えば、撮影用カメラ25による撮影画像が、撮影済み範囲Bを示す画像として用いられてもよい。また例えば、図9及び図10に示すように、撮影済み範囲Bではなく未撮影範囲Eが、塗りつぶし等により示されてもよい。
(4j)上記実施形態では、移動体2は、2つのライダ261a,261bを備える。2つのライダ261a,261bは、いわゆる非走査型であり、移動体2の姿勢が基準姿勢である状態において、鉛直方向に沿った移動体2の上方及び水平方向に沿った移動体2の前方にそれぞれレーザ光を送信することで、これらレーザ光の送信方向に存在する物体までの距離を測定可能である。しかし、移動体2は、例えば、2つのライダ261a,261bに加えて、他の非走査型のライダを備えたり、2つのライダ261a,261bに加えて又は代えて、走査型のライダを備えたりすることで、その他の方向に存在する物体までの距離についても測定可能に構成されてもよい。なお、走査型のライダとは、レーザ光を所定の領域に走査可能なライダを指す。
例えば、移動体2が、移動体2の全周囲に存在する物体を検出可能に構成される場合、表示部41は、図8に示すようにして、物体の検出結果K1,K2をFPV映像と共に表示してもよい。検出結果K1は、移動体2から物体までの鉛直面に沿った距離を示す。検出結果K2は、移動体2から物体までの水平面に沿った距離を示す。なお、図8に示す例では、検出結果K1,K2における数値は、物体までの距離をメートル単位で示している。
(4k)また例えば、表示部41は、移動体2の飛行モードL、移動体2のピッチ角M、移動体2の上方から見て撮影予定範囲Cと撮影済み範囲Bとの位置関係を示す図N、風向きや風力といった風状況等を、FPV映像と共に表示してもよい。なお、風状況は、移動体2のプロペラ231を制御するモータの制御量に基づいて算出可能である。
(4l)表示部41は、上記実施形態及び上記(4j)で例示した物体の検出結果H1,H2,K1,K2や、上記(4k)で例示した移動体2の飛行モードL等を、情報画像が重畳されたFPV映像と共に表示可能である。しかし、表示部41は、これら情報を必ずしもFPV映像上に重ねて表示しなくてもよく、例えばFPV映像と横並びで表示してもよい。
(4m)上記実施形態では、移動体システム1は、操縦者50への報知を行う構成として表示部41を備える。しかし、移動体システム1は、表示部41に加えて、振動や音声等により操縦者50への報知を行う表示部41以外の報知部を備えてもよい。そして、移動体システム1は、例えば障害物の接近を検出した場合や、移動体2のプロペラ231を制御するモータの制御量が異常値となった場合等に、当該報知部により操縦者50へ報知を行ってもよい。
(4n)上記実施形態では、表示装置4は、操縦者50の頭部に装着可能なヘッドマウントディスプレイである。しかし、表示装置4は、このようなヘッドマウントディスプレイに限定されず、例えば操作装置3に取り付けられたディスプレイであってもよい。
(4o)上記実施形態では、移動体2は無人飛行体、いわゆるUAVであるが、移動体2はUAVに限定されない。例えば、移動体2は、無人潜水機や無人地上車両等であってもよい。なお、無人潜水機は、UUVとも称され、Unmanned Underwater Vehicleの略である。無人地上車両は、UGVとも称され、Unmanned Ground Vehicleの略である。
(4p)上記実施形態における1つの構成要素が有する機能を複数の構成要素として分散させたり、複数の構成要素が有する機能を1つの構成要素に統合したりしてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加、置換等してもよい。
(4q)本開示は、前述した移動体システム1の他、当該移動体システム1としてコンピュータを機能させるためのプログラム、このプログラムを記録した媒体、FPV映像表示方法など、種々の形態で実現することができる。
1…移動体システム、2…移動体、3…操作装置、4…表示装置、24…FPV用カメラ、25…撮影用カメラ、27b…機体姿勢推定部、28…送信部、41…表示部、42…受信部、44…映像加工部、50…操縦者、100…橋梁。
Claims (11)
- 移動体(2)と、前記移動体と通信可能な表示装置(4)と、を備える移動体システム(1)であって、
前記移動体は、
前記移動体の姿勢を推定する機体姿勢推定部(27b)と、
前記移動体の一人称視点の映像であるFPV映像を撮影するFPV用カメラ(24)と、
前記FPV映像を前記表示装置に送信する送信部(28)と、
を備え、
前記表示装置は、
前記移動体から前記FPV映像を受信する受信部(42)と、
受信された前記FPV映像を表示する表示部(41)と、
を備え、
前記移動体及び前記表示装置の少なくとも一方は、前記FPV映像に映る景色と関連する情報を示す画像である情報画像を、前記FPV映像における前記情報画像に対応する位置であって、前記移動体の姿勢を用いて特定される位置である画像対応位置に重畳する映像加工部(44)を更に備え、
前記表示部は、前記情報画像が重畳された前記FPV映像を表示する、移動体システム。 - 請求項1に記載の移動体システムであって、
前記FPV用カメラは、前記移動体の姿勢があらかじめ定められた基準姿勢である場合に、鉛直方向に沿った前記移動体の上方及び下方の少なくとも一方と、水平方向に沿った前記移動体の前方と、を併せて前記FPV映像に映すことが可能となるように、前記移動体に配置され、
前記映像加工部は、前記情報画像として、鉛直方向に沿った前記移動体の上方及び下方の少なくとも一方と、水平方向に沿った前記移動体の前方と、のそれぞれを示す画像を、前記FPV映像の前記画像対応位置に重畳する、移動体システム。 - 請求項2に記載の移動体システムであって、
前記FPV用カメラは、画角が90度以上の広角レンズを有する、移動体システム。 - 請求項1に記載の移動体システムであって、
前記FPV用カメラは、前記移動体の姿勢があらかじめ定められた基準姿勢である場合に、鉛直方向に沿った前記移動体の上方及び下方の少なくとも一方と、水平方向に沿った前記移動体の前方と、を前記FPV映像に映すように、前記移動体に対する向きを変更可能に構成され、
前記映像加工部は、前記情報画像として、鉛直方向に沿った前記移動体の上方及び下方の少なくとも一方と、水平方向に沿った前記移動体の前方と、のそれぞれを示す画像を、前記FPV映像の前記画像対応位置に重畳する、移動体システム。 - 請求項1から請求項4までのいずれか1項に記載の移動体システムであって、
前記移動体は、対象物を撮影する撮影用カメラ(25)を更に備え、
前記移動体及び前記表示装置の少なくとも一方は、前記移動体の姿勢と、前記移動体に対する前記撮影用カメラの向きと、に基づいて、前記撮影用カメラの画角に入っている前記対象物における範囲である現カメラ範囲を推定する現カメラ範囲推定部(44)を更に備え、
前記FPV用カメラは、画角に収まる領域である撮影可能領域同士が前記撮影用カメラと重複するように、前記移動体に配置され、
前記映像加工部は、前記情報画像として、前記現カメラ範囲を示す画像を、前記FPV映像の前記画像対応位置に重畳する、移動体システム。 - 請求項5に記載の移動体システムであって、
前記移動体及び前記表示装置の少なくとも一方は、前記撮影用カメラによる撮影が行われたときの、前記移動体の位置及び姿勢と、前記移動体に対する前記撮影用カメラの向きと、に基づいて推定される、前記撮影用カメラにより既に撮影された前記対象物における範囲である撮影済み範囲を記憶する撮影済み範囲記憶部(27e)を更に備え、
前記映像加工部は、前記情報画像として、前記撮影済み範囲を示す画像を、前記FPV映像の前記画像対応位置に重畳する、移動体システム。 - 請求項5又は請求項6に記載の移動体システムであって、
前記映像加工部は、前記情報画像として、前記撮影用カメラによる撮影が予定されている前記対象物における全範囲を示す画像を、前記FPV映像の前記画像対応位置に重畳する、移動体システム。 - 請求項5から請求項7までのいずれか1項に記載の移動体システムであって、
前記映像加工部は、前記情報画像として、前記撮影用カメラが次に撮影すべき前記対象物における範囲である次回撮影範囲を示す画像を、前記FPV映像の前記画像対応位置に重畳する、移動体システム。 - 請求項8に記載の移動体システムであって、
前記移動体及び前記表示装置の少なくとも一方は、
前記撮影用カメラによる撮影が行われたときの、前記移動体の位置及び姿勢と、前記移動体に対する前記撮影用カメラの向きと、に基づいて推定される、前記撮影用カメラにより既に撮影された前記対象物における範囲である撮影済み範囲を記憶する撮影済み範囲記憶部(27e)と、
前記撮影用カメラによる撮影が予定されている前記対象物における全範囲と、前記撮影済み範囲と、に基づいて、前記次回撮影範囲を算出する次回撮影範囲算出部(27f)と、
を更に備える、移動体システム。 - 請求項1から請求項9までのいずれか1項に記載の移動体システムであって、
前記移動体及び前記表示装置のそれぞれは、現在時刻を計時する時計部(27h,43)を更に備え、
前記送信部は、前記FPV映像が撮影された時刻である撮影時刻を前記FPV映像と共に前記表示装置に送信し、
前記表示部は、受信された前記撮影時刻と、現在時刻と、の差分である遅延時間を、前記情報画像が重畳された前記FPV映像と共に表示する、移動体システム。 - 請求項1から請求項10までのいずれか1項に記載の移動体システムであって、
前記移動体は、前記移動体の周囲に存在する物体を検出可能な物体検出センサ(261a,261b)を更に備え、
前記送信部は、前記物体検出センサによる検出結果を前記表示装置に送信し、
前記表示部は、受信された前記物体検出センサによる検出結果を表示する、移動体システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021151276A JP2023043575A (ja) | 2021-09-16 | 2021-09-16 | 移動体システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021151276A JP2023043575A (ja) | 2021-09-16 | 2021-09-16 | 移動体システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023043575A true JP2023043575A (ja) | 2023-03-29 |
Family
ID=85725110
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021151276A Pending JP2023043575A (ja) | 2021-09-16 | 2021-09-16 | 移動体システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023043575A (ja) |
-
2021
- 2021-09-16 JP JP2021151276A patent/JP2023043575A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109470158B (zh) | 影像处理装置及测距装置 | |
JP5618840B2 (ja) | 飛行体の飛行制御システム | |
JP6055274B2 (ja) | 航空写真測定方法及び航空写真測定システム | |
EP2527787B1 (en) | Aerial photograph image pickup method and aerial photograph image pickup apparatus | |
JP6812667B2 (ja) | 無人飛行装置制御システム、無人飛行装置制御方法および無人飛行装置 | |
JP6430073B2 (ja) | 姿勢推定装置、姿勢推定方法及び観測システム | |
JP5775632B2 (ja) | 飛行体の飛行制御システム | |
US20180143636A1 (en) | Autonomous system for shooting moving images from a drone, with target tracking and holding of the target shooting angle | |
WO2018210078A1 (zh) | 无人机的距离测量方法以及无人机 | |
US20220210335A1 (en) | Autofocusing camera and systems | |
US20180095469A1 (en) | Autonomous system for shooting moving images from a drone, with target tracking and holding of the target shooting angle | |
JP2018084528A (ja) | 航空写真測量装置及び航空写真測量方法 | |
US20180022472A1 (en) | Autonomous system for taking moving images from a drone, with target tracking and improved target location | |
JP2012242321A (ja) | 航空写真撮像方法及び航空写真撮像装置 | |
JP2007240506A (ja) | 3次元形状と3次元地形計測法 | |
KR101769602B1 (ko) | 옵티컬 플로우와 imu 및 초음파센서를 이용한 호버링용 위치보정장치 및 위치보정방법 | |
JP2010145389A (ja) | 単一映像を利用した姿勢角センサー三次元誤整列補正方法 | |
WO2021217371A1 (zh) | 可移动平台的控制方法和装置 | |
JP2017201757A (ja) | 画像取得システム、画像取得方法、画像処理方法 | |
JP6001914B2 (ja) | 目標位置特定装置、目標位置特定システム、および目標位置特定方法 | |
WO2019230604A1 (ja) | 検査システム | |
WO2020048365A1 (zh) | 飞行器的飞行控制方法、装置、终端设备及飞行控制*** | |
CN113795803B (zh) | 无人飞行器的飞行辅助方法、设备、芯片、***及介质 | |
JP7024997B2 (ja) | 飛行体操縦システム及び飛行体操縦システムを用いて飛行体を操縦する方法 | |
JP6482856B2 (ja) | 監視システム |