JP6719738B2 - 自律移動撮影制御システムおよび自律移動体 - Google Patents
自律移動撮影制御システムおよび自律移動体 Download PDFInfo
- Publication number
- JP6719738B2 JP6719738B2 JP2018116366A JP2018116366A JP6719738B2 JP 6719738 B2 JP6719738 B2 JP 6719738B2 JP 2018116366 A JP2018116366 A JP 2018116366A JP 2018116366 A JP2018116366 A JP 2018116366A JP 6719738 B2 JP6719738 B2 JP 6719738B2
- Authority
- JP
- Japan
- Prior art keywords
- control
- autonomous mobile
- electromagnetic field
- camera
- autonomous
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005672 electromagnetic field Effects 0.000 claims description 66
- 238000013459 approach Methods 0.000 claims description 59
- 230000005540 biological transmission Effects 0.000 claims description 34
- 238000010191 image analysis Methods 0.000 claims description 28
- 238000005259 measurement Methods 0.000 claims description 14
- 239000013598 vector Substances 0.000 claims description 10
- 230000002159 abnormal effect Effects 0.000 claims description 5
- 238000000034 method Methods 0.000 description 43
- 238000003384 imaging method Methods 0.000 description 29
- 230000008569 process Effects 0.000 description 18
- 230000010354 integration Effects 0.000 description 16
- 230000005856 abnormality Effects 0.000 description 15
- 238000001514 detection method Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 9
- 238000007689 inspection Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000000926 separation method Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000035945 sensitivity Effects 0.000 description 3
- 229910000831 Steel Inorganic materials 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 239000010959 steel Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- RZVHIXYEVGDQDX-UHFFFAOYSA-N 9,10-anthraquinone Chemical compound C1=CC=C2C(=O)C3=CC=CC=C3C(=O)C2=C1 RZVHIXYEVGDQDX-UHFFFAOYSA-N 0.000 description 1
- 244000000626 Daucus carota Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 235000005770 birds nest Nutrition 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000002845 discoloration Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000012212 insulator Substances 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 235000021419 vinegar Nutrition 0.000 description 1
- 239000000052 vinegar Substances 0.000 description 1
- 235000005765 wild carrot Nutrition 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Description
無人航空機などの自律移動体に搭載したカメラよって撮影対象物を撮影する場合、同じ位置を同じ方向から定期的に撮影することも多く、同じ種別の撮影対象物であれば形状の差異があろうとも撮影する目的からその手順は類似してくる。よって、地図情報、対象物情報などの撮影に関する既知の情報、センサ、カメラからの情報を整えることにより、自位置と対象物との位置関係を認識できるため、移動制御情報を予め決めた撮影手順および制御則に基づき各種制御手順を自動生成することが可能である。
自律移動体に付与すべき機能に応じて、制御則を個別に構成することにより、各機能を実現するために使用するセンサやカメラからの情報や設備情報、周辺情報を無駄なくかつ最大限に利用することが可能となる。
図5に、本発明の一実施形態に係る自律移動撮影制御システムにおいてステップ1で使用する制御則を示す。ステップ1では、姿勢制御31および速度制御32に加え、無人航空機100を離陸させて撮影対象物の撮影位置まで効率的かつ高速に接近させるために、高速位置制御33、接近回避制御37の2つの制御則を採用する。後述のステップ2でセンサが確実に検知するエリアに無人航空機100が侵入できれば良いが、飛行時間はバッテリー容量の制約を受けるため、飛行開始前に衛星測位部22を使用して取得した自位置情報と対象設備情報1から取得した撮影対象設備200の位置情報とから飛行経路を自動生成する。
図7に、本発明の一実施形態に係る自律移動撮影制御システムにおいてステップ2で使用する制御則を示す。ステップ1において高速位置制御出力と接近回避制御出力の大きさが十分に小さく、かつ測位センサ25が安定的に撮影対象物との離隔距離を計測できる位置まで無人航空機100が接近したとき、ステップ2に移行する。ステップ2では測距センサ25から計測される離隔距離に基づき撮影対象物の撮影位置までさらに接近する。ステップ2ではステップ3で高精細な画像を取得するために精度の高い相対位置を維持するとともに、無人航空機100が停止することが求められる。そのため、ステップ1で用いた高速位置制御33および接近回避制御37に代えて、高精度位置制御34、特徴接近制御35、および電磁界回避制御38を使用する。
図9に、本発明の一実施形態に係る自律移動撮影制御システムにおいてステップ3で使用する制御則を示す。ステップ3では、ステップ2により撮影対象物の撮影位置に高精度で到達しているので、撮影制御39において、カメラ5のカメラ駆動部51およびカメラ撮影部52に対し、測距センサ25により得られた相対位置に基づいてPTZ制御量を算出し撮影開始の指令を出力する。また同時に、接近追従制御36ではステップ2の特徴接近制御35と同様、衛星測位情報に頼らず、測距センサ25により求められる撮影対象物との相対位置に基づいて撮影対象物に沿って移動しながら位置制御を行う。図10は架空地線に沿って高精度に移動するため、自ずと電線が描くカテナリ曲線に沿った飛行軌跡を描く。また、仮に撮影対象物の架空地線が揺れた場合は、その揺れに追従して飛行する。
図11に、本発明の一実施形態に係る自律移動撮影制御システムにおいてステップ3aで使用する制御則を示す。また、図12(a)に、本発明の一実施形態に係る自律移動撮影制御システムの異常検知時の接近追従制御出力と撮影制御出力とを統合して速度制御指令を生成する例を示し、図12(b)に、本発明の一実施形態に係る自律移動撮影制御システムのステップ3aにおける異常検知箇所撮影の過程を示す。ステップ3において、指令統合部40が画像解析部41から異常検知の通知情報を受けると、ステップ3aへ移行する。ステップ3aでは、指令統合部40から接近追従制御36に対して異常検知があった場所に停止するよう指令し、撮影制御39からのカメラ駆動部51により高精細な画像が撮影できるように、ズームにより高倍率側に再調整を行う指令を出力する。
図13に、本発明の一実施形態に係る自律移動撮影制御システムにおいてステップ3bで使用する撮影地点間移動の制御則を示す。撮影対象物が単一でない場合、次の撮影対象物まで移動する際の制御はステップ2と同様に撮影対象物の撮影開始位置まで接近する。なお、ステップ3で撮影が完了した撮影対象物は、新たな障害物となることから、特徴接近制御35は離脱出力と新たな接近出力との合成指令となる。別の方法としては、元の撮影対象物が既知の障害物となることから、離脱出力については高速位置制御33を利用しても良い。また別の方法としては、一旦撮影が完了した撮影対象物から距離を置いてから次の撮影対象物まで移動させてもよい。
図15に、本発明の一実施形態に係る自律移動撮影制御システムにおいてステップ3cで使用する固定設備点検の制御則を示す。また図16に、本発明の一実施形態に係る自律移動撮影制御システムのステップ3cにおける固定設備点検時の様子を示す。
図17に、本発明の一実施形態に係る自律移動撮影制御システムにおいてステップ4で使用する目標位置に着陸する制御則を示す。また図18に、本発明の一実施形態に係る自律移動撮影制御システムのステップ4における撮影位置から着陸までの移動過程を示す。
2 センサ部
3 制御部
4 モータ駆動部
5 カメラ
21 IMU部
22 衛星測位部
23 気圧センサ
24 高度LIDAR部
25 測距センサ
26 障害物LIDAR部
27 赤外線センサ
28 超音波センサ
29 電磁界センサ
31 姿勢制御
32 速度制御
33 高速位置制御
34 高精度位置制御
35 特徴接近制御
36 接近追従制御
37 接近回避制御
38 電磁界回避制御
39 撮影制御
40 指令統合部
41 画像解析部
51 カメラ駆動部
52 カメラ撮影部
100 無人航空機
200 撮影対象設備
300 未知の障害物
301 メモリ
302 CPU
303 ストレージ
304 GPU
305 DRAM
306 移動体制御ユニット
307 通信部
308 入出力I/F
Claims (5)
- カメラを搭載し、駆動部を有して自律的に移動可能な自律移動体であって、電力設備の送電線・架空地線に沿って移動しながら当該送電線・架空地線を撮影する自律移動体において、
前記送電線・架空地線を含む撮影対象物の形状情報および撮影場所の位置情報を含む対象設備情報を予め記憶する設備情報記憶部と、
前記自律移動体の姿勢と方位を計測するIMU部と、
前記自律移動体の水平方向および鉛直方向の位置を測位する衛星測位センサと、
前記自律移動体の鉛直方向の位置を測位する高度計測センサと、
前記自律移動体周囲の障害物との離隔を計測する障害物計測センサと、
前記自律移動体と前記自律移動体周囲の前記送電線・架空地線との相対距離および相対角度を計測する測距センサと、
前記送電線・架空地線からの電磁界を計測する電磁界センサと、
前記カメラで撮影した画像を解析する画像解析部であって、前記カメラで撮影した複数の画像を連結して前記送電線・架空地線全体の画像を合成する画像解析部と、
飛行状況に応じた複数の指令を統合した統合指令に基づき前記自律移動体の位置および姿勢を制御する制御部であって、
a)前記IMU部から取得した方位の情報、前記衛星測位センサおよび前記高度計測センサから取得した前記水平方向の位置および前記鉛直方向の位置を含む自位置情報から前記送電線・架空地線の位置情報が示す撮影開始位置までの経路を生成し、前記経路に沿って前記撮影開始位置まで移動するための経路追従指令と、前記障害物計測センサにより前記自律移動体と前記自律移動体周囲の障害物との離隔距離が所定の離隔距離よりも短くなった場合に前記自律移動体が前記自律移動体周囲の障害物から遠ざかる接近回避制御指令とを統合した統合指令、
b)前記衛星測位センサによる自位置情報によらず、前記測距センサから計測される相対距離に基づいて、前記送電線・架空地線の前記撮影開始位置まで接近する特徴接近制御指令と、前記電磁界センサで所定値以上の値を計測した場合、前記送電線・架空地線から遠ざかる電磁界回避制御指令とを統合した統合指令、および、
c)前記衛星測位センサによる自位置情報によらず、前記測距センサから計測される相対距離に基づいて、前記送電線・架空地線に接近する接近追従制御指令と、前記画像解析部により生成された、前記カメラで撮影した画像から、前記自律移動体と前記撮影対象物との相対角度を補正する指令と、前記カメラで撮影した画像から検知した異常箇所の撮影位置に移動する指令のうち、複数の指令を統合した統合指令に基づき前記自律移動体の位置および姿勢を制御する制御部と、
前記相対距離に基づき前記カメラの焦点を調整して前記撮影対象物を撮影するカメラ制御部と
を備えたことを特徴とする自律移動体。 - 前記制御部は、前記電磁界センサで所定値以上の値を計測した場合、前記自位置情報が示す自位置に最も近い電磁界発生源の位置を前記対象設備情報から特定し、前記電磁界発生源から遠ざかる電磁界回避制御指令をさらに生成することを特徴とする請求項1に記載の自律移動体。
- 前記カメラ制御部は、前記電磁界センサで所定値以上の値を計測した場合、前記電磁界回避制御指令による前記自律移動体に追従して前記カメラのズーム倍率を調整し、
前記画像解析部は、追従速度を調整するための撮影制御出力を前記制御部に出力し、
前記カメラ制御部は、前記電磁界センサの値が所定値以下となる位置で撮影を継続することを特徴とする請求項1または2に記載の自律移動体。 - 前記画像解析部は、前記送電線・架空地線の画像のフレーム各辺に対する傾き角度を算出し、前記傾き角度に基づき前記自律移動体と前記送電線・架空地線との相対角度を補正する撮影制御出力を前記制御部に出力することを特徴とする請求項1、2または3に記載の自律移動体。
- 前記制御部が生成する各前記指令は、速度ベクトルであり、前記統合指令は、前記速度ベクトルを合成したものであることを特徴とする請求項1乃至4のいずれか一項に記載の自律移動体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018116366A JP6719738B2 (ja) | 2018-06-19 | 2018-06-19 | 自律移動撮影制御システムおよび自律移動体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018116366A JP6719738B2 (ja) | 2018-06-19 | 2018-06-19 | 自律移動撮影制御システムおよび自律移動体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019219874A JP2019219874A (ja) | 2019-12-26 |
JP6719738B2 true JP6719738B2 (ja) | 2020-07-08 |
Family
ID=69096654
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018116366A Active JP6719738B2 (ja) | 2018-06-19 | 2018-06-19 | 自律移動撮影制御システムおよび自律移動体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6719738B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230221721A1 (en) * | 2020-05-11 | 2023-07-13 | Canon U.S.A., Inc. | An unmanned autonomous vehicle and method for controlling the same |
CN114040072A (zh) * | 2021-11-08 | 2022-02-11 | Oppo广东移动通信有限公司 | 摄像头机构及其驱动方法和电子设备 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103490842B (zh) * | 2013-09-26 | 2016-09-28 | 深圳市大疆创新科技有限公司 | 数据传输***及方法 |
WO2015180180A1 (en) * | 2014-05-30 | 2015-12-03 | SZ DJI Technology Co., Ltd. | Systems and methods for uav docking |
JP6387782B2 (ja) * | 2014-10-17 | 2018-09-12 | ソニー株式会社 | 制御装置、制御方法及びコンピュータプログラム |
FR3035523B1 (fr) * | 2015-04-23 | 2017-04-21 | Parrot | Systeme de pilotage de drone en immersion |
WO2017029982A1 (ja) * | 2015-08-14 | 2017-02-23 | ソニー株式会社 | 移動体、情報処理装置、移動体システム、情報処理方法および情報処理プログラム |
US20190055017A1 (en) * | 2016-03-02 | 2019-02-21 | Nec Corporation | Unmanned aircraft, unmanned aircraft control system, and flight control method |
-
2018
- 2018-06-19 JP JP2018116366A patent/JP6719738B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019219874A (ja) | 2019-12-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2879371B1 (en) | System for following an object marked by a tag device with a camera | |
US10273000B2 (en) | Control of image triggering for aerial image capturing in nadir alignment for an unmanned aircraft | |
CN108323190B (zh) | 一种避障方法、装置和无人机 | |
KR101769718B1 (ko) | 송전선로 전자계 및 순시 점검 영상 취득 장치 및 방법 | |
CN111953892B (zh) | 无人飞行器、检查方法 | |
JP2006027448A (ja) | 無人飛行体を利用した空撮方法及びその装置 | |
JP6957304B2 (ja) | 架線撮影システム及び架線撮影方法 | |
JP2018084571A (ja) | 処理装置、撮像装置および自動制御システム | |
FI3596570T4 (fi) | Menetelmä polun määrittämiseksi objektiä pitkin, järjestelmä ja menetelmä objektin tutkimiseksi automaattisesti | |
CN107820585B (zh) | 飞行器降落方法、飞行器和计算机可读存储介质 | |
CN107580161B (zh) | 摄影设备及方法、移动摄影装置、摄影用移动体及其控制装置 | |
JP6719738B2 (ja) | 自律移動撮影制御システムおよび自律移動体 | |
CN114827462B (zh) | 对焦方法、对焦装置、电子设备及无人机 | |
JP2020191523A (ja) | 無人移動体 | |
JP2021096865A (ja) | 情報処理装置、飛行制御指示方法、プログラム、及び記録媒体 | |
CN114096929A (zh) | 信息处理设备、信息处理方法和信息处理程序 | |
KR101541783B1 (ko) | 타임 랩스 영상 제작 장치 및 그 방법 | |
JP6515423B2 (ja) | 制御装置、移動体、制御方法、及びプログラム | |
JP7468523B2 (ja) | 移動体、位置推定方法、およびプログラム | |
KR20200008281A (ko) | 무인항공기의 도로차선 추종장치 및 그 방법 | |
JP2019018664A (ja) | 撮像制御システム | |
RU2722521C1 (ru) | Способ точной посадки беспилотного летательного аппарата на посадочную платформу | |
KR102149494B1 (ko) | 드론을 이용한 구조물 검사 시스템 및 검사 방법 | |
CN112154650A (zh) | 一种拍摄装置的对焦控制方法、装置及无人飞行器 | |
KR102609467B1 (ko) | Gnss 이상 상황에서의 영상 항법을 사용하는 자동 비행방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180619 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180619 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180712 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180830 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180911 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181127 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190128 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190212 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190513 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20190513 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20190521 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20190528 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20190614 |
|
C211 | Notice of termination of reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C211 Effective date: 20190618 |
|
C22 | Notice of designation (change) of administrative judge |
Free format text: JAPANESE INTERMEDIATE CODE: C22 Effective date: 20191105 |
|
C13 | Notice of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: C13 Effective date: 20200225 |
|
C302 | Record of communication |
Free format text: JAPANESE INTERMEDIATE CODE: C302 Effective date: 20200325 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200401 |
|
C23 | Notice of termination of proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C23 Effective date: 20200421 |
|
C03 | Trial/appeal decision taken |
Free format text: JAPANESE INTERMEDIATE CODE: C03 Effective date: 20200526 |
|
C30A | Notification sent |
Free format text: JAPANESE INTERMEDIATE CODE: C3012 Effective date: 20200526 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200602 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6719738 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |