JP2021092465A - System, method and program for correcting estimated location of unmanned aircraft, and storage medium having program stored - Google Patents
System, method and program for correcting estimated location of unmanned aircraft, and storage medium having program stored Download PDFInfo
- Publication number
- JP2021092465A JP2021092465A JP2019223731A JP2019223731A JP2021092465A JP 2021092465 A JP2021092465 A JP 2021092465A JP 2019223731 A JP2019223731 A JP 2019223731A JP 2019223731 A JP2019223731 A JP 2019223731A JP 2021092465 A JP2021092465 A JP 2021092465A
- Authority
- JP
- Japan
- Prior art keywords
- aerial vehicle
- unmanned aerial
- feature points
- image
- bridge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 23
- 238000003384 imaging method Methods 0.000 claims abstract description 16
- 238000001514 detection method Methods 0.000 claims 1
- 230000000007 visual effect Effects 0.000 abstract description 16
- 239000000284 extract Substances 0.000 abstract 1
- 230000010365 information processing Effects 0.000 description 23
- 238000012937 correction Methods 0.000 description 19
- 238000012545 processing Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 10
- 230000015654 memory Effects 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 8
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 7
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 7
- 238000010586 diagram Methods 0.000 description 4
- RZVHIXYEVGDQDX-UHFFFAOYSA-N 9,10-anthraquinone Chemical group C1=CC=C2C(=O)C3=CC=CC=C3C(=O)C2=C1 RZVHIXYEVGDQDX-UHFFFAOYSA-N 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- WHXSMMKQMYFTQS-UHFFFAOYSA-N Lithium Chemical compound [Li] WHXSMMKQMYFTQS-UHFFFAOYSA-N 0.000 description 1
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 229910052744 lithium Inorganic materials 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Landscapes
- Navigation (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
Description
本発明は、無人航空機の推定位置を修正するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体に関する。 The present invention relates to a system, method, program for modifying the estimated position of an unmanned aerial vehicle and a storage medium storing the program.
近時ドローンによる建築構造物の点検が試みられている。ドローンは、GPSの衛星測位情報を利用して自己位置を推定し、飛行計画経路に沿って自律飛行することができるが、橋梁の下や建築構造物の周囲などでは、GPSによって正確な位置情報を得ることが難しい。そのため、そのような環境においては、Visual SLAMによる自己位置推定をGPSによる自己位置推定の代替とする技術が提案されている(下記非特許文献1)。ここで、Visual SLAMとは、連続して撮影された画像の複数のフレーム間で複数の特徴点を追跡することにより自己位置とマップの推定を並行して行う技術である。 Recently, drone inspections of building structures have been attempted. Drones can estimate their own position using GPS satellite positioning information and fly autonomously along the flight plan route, but under bridges and around building structures, GPS can provide accurate position information. Is difficult to obtain. Therefore, in such an environment, a technique has been proposed in which self-position estimation by Visual SLAM is an alternative to self-position estimation by GPS (Non-Patent Document 1 below). Here, Visual SLAM is a technique for estimating the self-position and the map in parallel by tracking a plurality of feature points between a plurality of frames of continuously captured images.
しかしながら、Visual SLAMによる自己位置推定においては、飛行距離が大きくなるにつれて誤差が累積するため、実際の飛行経路が、飛行計画経路とずれてきてしまう。 However, in the self-position estimation by Visual SLAM, the error accumulates as the flight distance increases, so that the actual flight path deviates from the flight plan path.
そこで、本発明は、無人航空機がVisual SLAMによる自己位置推定により自律飛行を行う場合に、無人航空機の推定位置を修正するためのシステム及び方法を提供することを目的の1つとする。 Therefore, one of the objects of the present invention is to provide a system and a method for correcting the estimated position of the unmanned aerial vehicle when the unmanned aerial vehicle performs autonomous flight by self-position estimation by Visual SLAM.
本発明の1つの態様は、上方を撮像可能な撮像装置を備え、前記撮像装置により取得された画像から特徴点を抽出し、該特徴点に基づいて自己位置推定しながら飛行する無人航空機が、橋梁を横断する複数の横断経路の端部を、前記橋梁の側端に沿って延びる連結経路を介して相互に連結して形成された飛行計画経路に基づいて、前記橋梁を前記橋梁の下方から撮像しながら飛行するときに、前記無人航空機の推定位置を修正するシステムであって、前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正するシステムを提供するものである。 One aspect of the present invention is an unmanned aerial vehicle equipped with an image pickup device capable of capturing an image above, extracting feature points from an image acquired by the image pickup device, and flying while estimating a self-position based on the feature points. Based on a flight plan path formed by connecting the ends of a plurality of crossing paths crossing the bridge to each other via a connecting path extending along the side end of the bridge, the bridge is connected from below the bridge. A system that corrects the estimated position of the unmanned aerial vehicle when flying while imaging, the connecting path having a first end and a second end in the order of flight of the unmanned aerial vehicle. In the planned route, the first end is set as a waypoint, and while the unmanned aerial vehicle is flying on the crossing route, the estimated position of the unmanned aerial vehicle estimated by the self-position estimation becomes the waypoint. When it is detected in the image that the region where the feature points are distributed is biased to the side opposite to the traveling direction of the unmanned aerial vehicle by a first predetermined degree or more before reaching. , The system provides a system for correcting the estimated position of the unmanned aerial vehicle so that the estimated position of the unmanned aerial vehicle at that time corresponds to the way point.
前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することは、前記特徴点が分布する領域の第1の代表点が、前記画像中の前記無人航空機の進行方向とは反対側の第1の領域に入ったことであるものとすることができる。 Corresponding to the fact that the region where the feature points are distributed is biased to the side opposite to the traveling direction of the unmanned aerial vehicle by a first predetermined degree or more in the image is the region where the feature points are distributed. It can be assumed that the first representative point of the above is that it has entered the first region on the side opposite to the traveling direction of the unmanned aerial vehicle in the image.
前記特徴点が分布する領域の第1の代表点は、抽出された前記特徴点のうちの最も前記無人航空機の進行方向側の点であるものとすることができる。 The first representative point of the region where the feature points are distributed can be the most extracted point on the traveling direction side of the unmanned aerial vehicle.
前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することは、前記特徴点が分布する領域の面積に関するパラメータが、第1の閾値以下であるものとすることができる。 Corresponding to the fact that the region where the feature points are distributed is biased to the side opposite to the traveling direction of the unmanned aerial vehicle by a first predetermined degree or more in the image is the region where the feature points are distributed. The parameter for the area of can be less than or equal to the first threshold.
本発明の1つの態様は、上方を撮像可能な撮像装置を備え、前記撮像装置により取得された画像から特徴点を抽出し、該特徴点に基づいて自己位置推定しながら飛行する無人航空機が、橋梁を横断する複数の横断経路の端部を、前記橋梁の側端に沿って延びる連結経路を介して相互に連結して形成された飛行計画経路に基づいて、前記橋梁を前記橋梁の下方から撮像しながら飛行するときに、前記無人航空機の推定位置を修正するシステムであって、前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正するシステムを提供するものである。 One aspect of the present invention is an unmanned aircraft equipped with an image pickup device capable of capturing an image above, extracting feature points from an image acquired by the image pickup device, and flying while estimating a self-position based on the feature points. Based on a flight plan route formed by connecting the ends of a plurality of crossing paths across the bridge to each other via a connecting path extending along the side end of the bridge, the bridge is connected from below the bridge. A system that corrects the estimated position of the unmanned aircraft when flying while imaging, the connecting path having a first end and a second end in the order of flight of the unmanned aircraft, said flight. In the planned route, the first end is set as a waypoint, and while the unmanned aircraft is flying on the crossing route, the estimated position of the unmanned aircraft estimated by the self-position estimation becomes the waypoint. When it is detected that the region where the feature points are distributed is biased toward the traveling direction side of the unmanned aircraft by a second predetermined degree or more when it is reached, the unmanned aircraft is detected. It corresponds to the fact that the region where the feature points are distributed no longer exists biased toward the traveling direction side of the unmanned aircraft by a second predetermined degree or more in the image by advancing the aircraft as it is in the traveling direction. When detected, the system provides a system for correcting the estimated position of the unmanned aircraft so that the estimated position of the unmanned aircraft at that time corresponds to the way point.
前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することは、前記特徴点が分布する領域の第2の代表点が、前記画像中の前記無人航空機の進行方向側の第2の領域に位置していたことを検知したことであり、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することは、前記特徴点が分布する領域の第2の代表点が、前記画像中の前記第2の領域から外れたことを検知したことであるものとすることができる。 Corresponding to the fact that the region where the feature points are distributed is biased toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image is the second of the region where the feature points are distributed. Is that the representative point of the above is detected to be located in the second region on the traveling direction side of the unmanned aerial vehicle in the image, and the region in which the feature points are distributed is the second region in the image. Corresponding to the fact that the unmanned aerial vehicle no longer exists biased toward the traveling direction side by a predetermined degree or more, the second representative point of the region where the feature points are distributed is the second region in the image. It can be assumed that it is detected that the image is out of the range.
前記特徴点が分布する領域の第2の代表点は、抽出された前記特徴点のうちの最も前記無人航空機の進行方向側の点であるものとすることができる。 The second representative point of the region where the feature points are distributed can be the most extracted point on the traveling direction side of the unmanned aerial vehicle.
前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することは、前記特徴点が分布する領域の面積に関するパラメータが、第2の閾値以上であることを検知したことであり、
前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することは、前記特徴点が分布する領域の面積に関するパラメータが、前記第2の閾値よりも小さくなったことを検知したことであるものとすることができる。
Corresponding to the fact that the region where the feature points are distributed is biased toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image is related to the area of the region where the feature points are distributed. It means that it is detected that the parameter is equal to or higher than the second threshold value.
Corresponding to the fact that the region where the feature points are distributed no longer exists biased toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image is the region where the feature points are distributed. It can be assumed that it is detected that the parameter related to the area becomes smaller than the second threshold value.
本発明の1つの態様は、上方を撮像可能な撮像装置を備え、前記撮像装置により取得された画像から特徴点を抽出し、該特徴点に基づいて自己位置推定しながら飛行する無人航空機が、橋梁を横断する複数の横断経路の端部を、前記橋梁の側端に沿って延びる連結経路を介して相互に連結して形成された飛行計画経路に基づいて、前記橋梁を前記橋梁の下方から撮像しながら飛行するときに、前記無人航空機の推定位置を修正するシステムであって、前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正し、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正するシステム。 One aspect of the present invention is an unmanned aerial vehicle equipped with an image pickup device capable of capturing an image above, extracting feature points from an image acquired by the image pickup device, and flying while estimating a self-position based on the feature points. Based on a flight plan path formed by connecting the ends of a plurality of crossing paths crossing the bridge to each other via a connecting path extending along the side end of the bridge, the bridge is connected from below the bridge. A system that corrects the estimated position of the unmanned aerial vehicle when flying while imaging, the connecting path having a first end and a second end in the order of flight of the unmanned aerial vehicle. In the planned route, the first end is set as a waypoint, and while the unmanned aerial vehicle is flying on the crossing route, the estimated position of the unmanned aerial vehicle estimated by the self-position estimation becomes the waypoint. When it is detected in the image that the region where the feature points are distributed is biased to the side opposite to the traveling direction of the unmanned aerial vehicle by a first predetermined degree or more before reaching. , The estimated position of the unmanned aerial vehicle at that time is modified so that the estimated position of the unmanned aerial vehicle corresponds to the way point, and the estimated position of the unmanned aerial vehicle is estimated by the self-position estimation while the unmanned aerial vehicle is flying in the crossing route. When the estimated position of the unmanned aerial vehicle reaches the way point, the region where the feature points are distributed exists biased toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image. When it is detected that this corresponds to the above, the unmanned aerial vehicle is advanced in the traveling direction as it is, and the region where the feature points are distributed is on the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image. A system that corrects the estimated position of the unmanned aerial vehicle so that the estimated position of the unmanned aerial vehicle at that time corresponds to the way point when it is detected that it corresponds to the fact that it no longer exists unevenly.
本発明の1つの態様は、前記システムを搭載した無人航空機を提供するものである。 One aspect of the present invention is to provide an unmanned aerial vehicle equipped with the system.
本発明の1つの態様は、上方を撮像可能な撮像装置を備え、前記撮像装置により取得された画像から特徴点を抽出し、該特徴点に基づいて自己位置推定しながら飛行する無人航空機が、橋梁を横断する複数の横断経路の端部を、前記橋梁の側端に沿って延びる連結経路を介して相互に連結して形成された飛行計画経路に基づいて、前記橋梁を前記橋梁の下方から撮像しながら飛行するときに、コンピュータにより実行される前記無人航空機の推定位置を修正する方法であって、前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正する方法を提供するものである。 One aspect of the present invention is an unmanned aircraft equipped with an image pickup device capable of capturing an image above, extracting feature points from an image acquired by the image pickup device, and flying while estimating a self-position based on the feature points. Based on a flight plan route formed by connecting the ends of a plurality of crossing paths across the bridge to each other via a connecting path extending along the side end of the bridge, the bridge is connected from below the bridge. A method of modifying the estimated position of the unmanned aircraft executed by a computer when flying while imaging, wherein the connecting path is a first end, a second end in the order of flight of the unmanned aircraft. In the flight plan route, the first end is set as a waypoint, and the estimated position of the unmanned aircraft estimated by the self-position estimation while the unmanned aircraft is flying on the crossing route. Corresponds to the fact that the region where the feature points are distributed is biased to the side opposite to the traveling direction of the unmanned aircraft by a first predetermined degree or more before reaching the way point. When it is detected, it provides a method of correcting the estimated position of the unmanned aircraft so that the estimated position of the unmanned aircraft at that time corresponds to the way point.
本発明の1つの態様は、上方を撮像可能な撮像装置を備え、前記撮像装置により取得された画像から特徴点を抽出し、該特徴点に基づいて自己位置推定しながら飛行する無人航空機が、橋梁を横断する複数の横断経路の端部を、前記橋梁の側端に沿って延びる連結経路を介して相互に連結して形成された飛行計画経路に基づいて、前記橋梁を前記橋梁の下方から撮像しながら飛行するときに、コンピュータにより実行される前記無人航空機の推定位置を修正する方法であって、前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正する方法を提供するものである。 One aspect of the present invention is an unmanned aircraft equipped with an image pickup device capable of capturing an image above, extracting feature points from an image acquired by the image pickup device, and flying while estimating a self-position based on the feature points. Based on a flight plan route formed by connecting the ends of a plurality of crossing paths across the bridge to each other via a connecting path extending along the side end of the bridge, the bridge is connected from below the bridge. A method of modifying the estimated position of the unmanned aircraft executed by a computer when flying while imaging, wherein the connecting path is a first end, a second end in the order of flight of the unmanned aircraft. In the flight plan route, the first end is set as a waypoint, and the estimated position of the unmanned aircraft estimated by the self-position estimation while the unmanned aircraft is flying on the crossing route. When the aircraft reaches the way point, it is detected that the region in which the feature points are distributed corresponds to the presence of the unmanned aircraft in the image in a biased manner toward the traveling direction of the unmanned aircraft by a second predetermined degree or more. When this is done, the unmanned aircraft is advanced in the traveling direction as it is, and the region where the feature points are distributed no longer exists biased toward the traveling direction side of the unmanned aircraft by a second predetermined degree or more in the image. When it is detected that the unmanned aircraft corresponds to, the method of modifying the estimated position of the unmanned aircraft so that the estimated position of the unmanned aircraft at that time corresponds to the way point is provided.
本発明の1つの態様は、上方を撮像可能な撮像装置を備え、前記撮像装置により取得された画像から特徴点を抽出し、該特徴点に基づいて自己位置推定しながら飛行する無人航空機が、橋梁を横断する複数の横断経路の端部を、前記橋梁の側端に沿って延びる連結経路を介して相互に連結して形成された飛行計画経路に基づいて、前記橋梁を前記橋梁の下方から撮像しながら飛行するときに、コンピュータにより実行される前記無人航空機の推定位置を修正する方法であって、前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正し、前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正する方法を提供するものである。 One aspect of the present invention is an unmanned aerial vehicle equipped with an image pickup device capable of capturing an image above, extracting feature points from an image acquired by the image pickup device, and flying while estimating a self-position based on the feature points. Based on a flight plan path formed by connecting the ends of a plurality of crossing paths across the bridge to each other via a connecting path extending along the side end of the bridge, the bridge is connected from below the bridge. A method of modifying the estimated position of the unmanned aerial vehicle executed by a computer when flying while imaging, wherein the connecting path is a first end, a second end in the order of flight of the unmanned aerial vehicle. In the flight planning route, the first end is set as a waypoint, and while the unmanned aerial vehicle is flying on the crossing route, the estimated position of the unmanned aerial vehicle estimated by the self-position estimation. Corresponds to the fact that the region where the feature points are distributed is biased to the side opposite to the traveling direction of the unmanned aerial vehicle by a first predetermined degree or more before reaching the way point. When it is detected, the estimated position of the unmanned aerial vehicle is corrected so that the estimated position of the unmanned aerial vehicle at that time corresponds to the way point, and the self When the estimated position of the unmanned aerial vehicle estimated by the position estimation reaches the way point, the region where the feature points are distributed is equal to or more than a second predetermined degree in the image on the traveling direction side of the unmanned aerial vehicle. When it is detected that the unmanned aerial vehicle is biased toward the presence of the unmanned aerial vehicle, the unmanned aerial vehicle is advanced in the traveling direction as it is, and the region where the feature points are distributed is equal to or more than the second predetermined degree in the image. When it is detected that the flight is biased toward the direction of travel and no longer exists, the estimated position of the unmanned aerial vehicle at that time is corrected so that the estimated position of the unmanned aerial vehicle corresponds to the way point. It provides a method.
本発明の1つの態様は、前記方法をコンピュータに実行させるためのプログラムを提供するものである。 One aspect of the present invention is to provide a program for causing a computer to execute the method.
本発明の1つの態様は、前記プログラムを記録したコンピュータ読み取り可能な記録媒体を提供するものである。 One aspect of the present invention is to provide a computer-readable recording medium on which the program is recorded.
上記構成による本発明によれば、無人航空機がVisual SLAMによる自己位置推定により自律飛行を行う場合に、無人航空機の推定位置を修正するためのシステム及び方法を提供することができる。 According to the present invention having the above configuration, it is possible to provide a system and a method for correcting the estimated position of the unmanned aerial vehicle when the unmanned aerial vehicle performs autonomous flight by self-position estimation by Visual SLAM.
以下、本発明の実施形態について図面を参照して説明する。ただし、本発明は以下に説明する具体的態様に限定されるわけではなく、本発明の技術思想の範囲内で種々の態様を取り得る。例えば、本発明の無人航空機は、図1に示すマルチコプタに限らず、回転翼機、固定翼機等、任意の無人航空機であってもよい。また、無人航空機1のシステム構成も、図に示されるものに限らず同様の動作が可能であれば任意の構成を取ることができる。例えば通信回路の機能を飛行制御部に統合する等、複数の構成要素が実行する動作を単独の構成要素により実行してもよいし、あるいは主演算部の機能を複数の演算部に分散する等、単独の構成要素が実行する動作を複数の構成要素により実行してもよい。また、無人航空機1のメモリ内に記憶される各種データは、それとは別の場所に記憶されていてもよいし、各種メモリに記録される情報も、1種類の情報を複数の種類に分散して記憶してもよいし、複数の種類の情報を1種類にまとめて記憶してもよい。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. However, the present invention is not limited to the specific aspects described below, and various aspects can be taken within the scope of the technical idea of the present invention. For example, the unmanned aerial vehicle of the present invention is not limited to the multicopter shown in FIG. 1, and may be any unmanned aerial vehicle such as a rotary wing aircraft and a fixed wing aircraft. Further, the system configuration of the unmanned aerial vehicle 1 is not limited to that shown in the figure, and any configuration can be adopted as long as the same operation is possible. For example, the function of the communication circuit may be integrated into the flight control unit, or the operation executed by a plurality of components may be executed by a single component, or the function of the main calculation unit may be distributed to a plurality of calculation units. , The operation performed by a single component may be performed by a plurality of components. Further, various data stored in the memory of the unmanned aircraft 1 may be stored in a different location, and the information recorded in the various memories also distributes one type of information to a plurality of types. It may be stored together, or a plurality of types of information may be collectively stored in one type.
図1は、本実施形態に係る無人航空機(マルチコプタ)1の一例であるマルチコプタの外観図である。無人航空機1は、外観に関しては、制御ユニット101と、制御ユニット101からの制御信号により駆動される6つのモータ102と、各々のモータ102の駆動により回転して揚力を発生させる6つのロータ(回転翼)103と、制御ユニット101と各々のモータ102とを接続する6つのアーム104と、着陸時に無人航空機を支える着陸脚105とを備える。モータ102、ロータ103、及びアーム104の数は、それぞれ、3、4などのような3以上の数とすることもできる。制御ユニット101からの制御信号により6つのモータ102が回転させられ、それにより6つのロータ103の各々の回転数を制御することにより、上昇、下降、前後左右への飛行、旋回等、無人航空機1の飛行が制御される。また、制御ユニット101には台座106が取り付けられており、高解像度で対象物を撮影するための第1のカメラ108が、第1のカメラ108を回転可能に支持する支持部材107を介して台座106に取り付けられている。また、台座106の前方には後述のVisual SLAM処理を行うための対象物の画像を撮影するための第2のカメラ109が真上に向けて取り付けられており、台座106の下側にはVSLAM処理ユニット124が取り付けられている。また、無人航空機1は、飛行位置センサ110、アンテナ117も有している。
FIG. 1 is an external view of a multicopter which is an example of an unmanned aerial vehicle (multicopter) 1 according to the present embodiment. In terms of appearance, the unmanned aerial vehicle 1 has a
図2は、図1に示す無人航空機1の全体構成を示す図である。無人航空機1は、大きく、制御ユニット101、制御ユニット101に電気的に接続されたモータ102、モータ102に機械的に接続されたロータ103、第1のカメラ108、第2のカメラ109、飛行位置センサ110、姿勢センサ111、方位センサ112、高度センサ113、距離センサ115、アンテナ117から構成される。
FIG. 2 is a diagram showing the overall configuration of the unmanned aerial vehicle 1 shown in FIG. The unmanned aerial vehicle 1 is large, and includes a
制御ユニット101は、無人航空機1の飛行制御を行うための情報処理や、そのための電気信号の制御を行うための構成であり、典型的には基板上に各種の電子部品を配置して配線することによってそのような機能の実現に必要な回路を構成したユニットである。制御ユニット101は、さらに、情報処理ユニット120、通信回路121、制御信号生成部122、スピードコントローラ123、インターフェイス125から構成される。
The
第1のカメラ108は、高解像度で対象物を撮像するためのカメラである。第1のカメラ108は、第1のカメラ108を回転可能に支持する支持部材107を介して台座106に取り付けられていて、これにより撮像方向を変えることができるようになっている。第1のカメラ108は、無人航空機1の飛行中、それの撮影範囲の画像のデータを取得し、取得された画像は、後述の記憶部221に記憶される。画像は、典型的には一連の静止画像からなる動画の画像である。
The
第2のカメラ109は、後述のVisual SLAM処理を行うための対象物の画像を撮影するためのカメラであり、台座106に真上を向くように取り付けられている。Visual SLAM処理の負荷を低減するために、低解像度での撮像を行う第2のカメラ109が、第1のカメラ108とは別個に設けられている。第2のカメラ109は、無人航空機1の飛行中、それの撮影範囲の画像のデータを取得し、取得された画像は、情報処理ユニット120や後述の記憶部207に記憶される。画像は、典型的には一連の静止画像からなる動画の画像である。
The
飛行位置センサ110は、GPS(Global Positioning System)センサのような無人航空機1の飛行位置の座標を感知するナビゲーションのためのセンサである。飛行位置センサ110は、好適には、三次元的な座標を感知する。飛行位置センサ110は、主として、GPS信号が良好に受信可能な環境下で、無人航空機1が飛行計画経路に沿って飛行する時の位置を制御するために使用される。
The
姿勢センサ111は、例えば6軸ジャイロ(加速度/角速度センサ)のような、無人航空機1の移動と傾きなどを検出するためのセンサであり、無人航空機1の飛行時の姿勢を制御するために使用される。 The attitude sensor 111 is a sensor for detecting the movement and tilt of the unmanned aerial vehicle 1, such as a 6-axis gyro (acceleration / angular velocity sensor), and is used to control the attitude of the unmanned aerial vehicle 1 during flight. Will be done.
方位センサ112は、例えば磁気センサのような、飛行方向を制御するためのセンサである。
The
高度センサ113は、例えば気圧センサのような、無人航空機1の高度を検出するセンサであり、無人航空機1の飛行高度を制御するために使用される。
The
無人航空機1は、超音波センサのような距離センサを備えていてもよい。距離センサ115は、例えば超音波センサのような、障害物や地面との間の距離を測定し、障害物との衝突を避けたり、対地高度を精密に測定するためのセンサである。 The unmanned aerial vehicle 1 may be provided with a distance sensor such as an ultrasonic sensor. The distance sensor 115 is a sensor such as an ultrasonic sensor for measuring the distance between an obstacle or the ground, avoiding a collision with the obstacle, or accurately measuring the altitude above ground level.
アンテナ117は、無人航空機1を操縦したり制御するための情報や各種データを含む無線信号を受信したり、テレメトリ信号を含む無線信号を無人航空機1から送信するための空中線である。
The
通信回路121は、アンテナ117を通じて受信した無線信号から、無人航空機1のための操縦信号、制御信号や各種データなどを復調して情報処理ユニット120に入力したり、無人航空機1から出力されるテレメトリ信号などを搬送する無線信号を生成するための電子回路であり、典型的には無線信号処理ICである。なお、例えば、操縦信号の通信と、制御信号、各種データの通信とを別の周波数帯の異なる通信回路で実行するようにしてもよい。例えば、手動での操縦を行うためのコントローラ(プロポ)の送信器と950MHz帯の周波数で通信し、データ通信を2GHz帯/1.7GHz帯/1.5GHz帯/800MHz帯の周波数で通信するような構成を採ることも可能である。
The
制御信号生成部122は、情報処理ユニット120によって演算により得られた制御指令値データを、電圧を表わすパルス信号(PWM信号など)に変換する構成であり、典型的には、発振回路とスイッチング回路を含むICである。スピードコントローラ123は、制御信号生成部122からのパルス信号を、モータ102を駆動する駆動電圧に変換する構成であり、典型的には、平滑回路とアナログ増幅器である。図示していないが、無人航空機1は、リチウムポリマーバッテリやリチウムイオンバッテリ等のバッテリデバイスや各要素への配電系を含む電源系を備えている。
The control
VSLAM処理ユニット124は、本発明の推定位置修正システムの一例となるもので、CPU124a、RAM124b、ROM124c、外部メモリ124d、インターフェイス124gを含む。RAM124b、ROM124c、外部メモリ124d、インターフェイス124eは、システムバス124fを介して、CPU124aに接続されている。VSLAM処理ユニット124は、GPUを備えていてもよい。
The
後述の図3に示される推定位置修正システム2の各部は、ROM124cや外部メモリ124dに記憶された各種プログラムが、CPU124a、RAM124b、ROM124c、外部メモリ124d、インターフェイス124e等を資源として使用することで実現される。
Each part of the estimation
Visual SLAMについては、MonoSLAMやPTAM(Parallel Tracking and Mapping等、さまざまなアルゴリズムが開発されている。VSLAM処理ユニット124がそのようなアルゴリズムを実装したプログラムを実行することにより、第2のカメラ109からの画像信号を用いてVisual SLAMによる自己位置推定とマップ作成を行い、これにより推定された自己位置(無人航空機1の周囲に存在する要素に対する無人航空機1の相対位置)や速度(位置の時間微分により求められる。)、姿勢(撮影した画像における複数の特徴点の配置から幾何学計算により求められる。)等、無人航空機1の状態を表す量を決定する。これらの量を示す信号は情報処理ユニット120へと出力され、そして情報処理ユニット120は、VSLAM処理ユニット124から入力される情報を利用する。またVSLAM処理ユニット124が推定したマップ情報も情報処理ユニット120へと出力され、記録装置に記録される。なお、第2のカメラ109としては単眼カメラではなく、ステレオカメラを用いてもよく、この場合も同様の原理でVisual SLAMによる自己位置等の推定が可能である。
For Visual SLAM, various algorithms such as Mono SLAM and PTAM (Parallel Tracking and Mapping) have been developed. By executing a program in which the
インターフェイス125は、情報処理ユニット120、飛行位置センサ110、姿勢センサ111、方位センサ112、高度センサ113、距離センサ115などの機能要素との間で信号の送受信ができるように信号の形態を変換することにより、それらを電気的に接続する構成である。なお、説明の都合上、図面においてインターフェイスは1つの構成として記載しているが、接続対象の機能要素の種類によって別のインターフェイスを使用することが通常である。また、接続対象の機能要素が入出力する信号の種類によってはインターフェイス125が不要な場合もある。また、図2において、インターフェイス125が媒介せずに接続されている情報処理ユニット120であっても、接続対象の機能要素が入出力する信号の種類によってはインターフェイスが必要となる場合もある。
The
情報処理ユニット120は、CPU、RAM、ROM、外部メモリ、システムバスを含む。RAM、ROM、外部メモリ、通信回路121、制御信号生成部122、インターフェイス125は、システムバスを介して、CPUに接続されている。
The
情報処理ユニット120は、操作者からの操縦信号(非自律飛行時)や飛行計画経路データ(自律飛行時)などに基づいて無人航空機1の飛行を適切に制御する。具体的には、飛行制御用の各種センサやVSLAM処理ユニット124から得られる情報により無人航空機1の姿勢、速度等を判断し、飛行位置センサ107から得られる情報により無人航空機1の現在の飛行位置などを判断し、操縦信号、飛行計画経路、速度制限、高度制限等の目標値と比較することにより情報処理ユニット120で各ロータ103に対する制御指令値を演算し、制御指令値を示すデータを制御信号生成部122に出力する。制御信号生成部122は、その制御指令値を電圧を表わすパルス信号に変換して各スピードコントローラ123に送信する。各スピードコントローラ123は、そのパルス信号を駆動電圧へと変換して各モータ102に印加し、これにより各モータ102の駆動を制御して各ロータ103の回転数を制御することにより無人航空機1の飛行が制御される。
The
ここで、飛行計画経路データは、無人航空機1の三次元(緯度、経度、高度)の飛行計画経路を表すデータであり、典型的には、飛行計画経路上に存在する一連の複数のウェイポイントの集合のデータである。飛行計画経路は、典型的には、それらの複数のウェイポイントを順番に結んだ直線の集合であるが、ウェイポイントの所定範囲内においては所定の曲率の曲線とすることもできる。好適には、飛行計画経路の特定のウェイポイントの近傍に目標位置が存在すると良い。そのウェイポイントには、それを通過後に目標位置に向かう旨の情報が付加される。そのウェイポイントは、飛行計画経路の終点(折り返し点)とすることもできる。なお、あるウェイポイントを目標位置とすることもできる。この場合、そのウェイポイントのデータには、それが目標位置である旨の情報が付加される。飛行計画経路データは、複数のウェイポイントにおける飛行速度を定めるデータを含んでいてもよい。飛行計画経路データは、典型的には自律飛行において飛行計画経路を定めるために使用されるが、非自律飛行において飛行時のガイド用として使用することもできる。飛行計画経路データは、典型的には、飛行前に無人航空機1に入力されて記憶される。 Here, the flight plan route data is data representing a three-dimensional (latitude, longitude, altitude) flight plan route of the unmanned aerial vehicle 1, and typically, a series of a plurality of waypoints existing on the flight plan route. It is the data of the set of. A flight planning path is typically a set of straight lines connecting these plurality of waypoints in order, but can also be a curve of a predetermined curvature within a predetermined range of the waypoints. Preferably, the target position should be in the vicinity of a specific waypoint on the flight planning route. Information is added to the waypoint to the effect that the waypoint is headed to the target position after passing the waypoint. The waypoint can also be the end point (turning point) of the flight planning route. A certain waypoint can also be set as the target position. In this case, information to the effect that it is the target position is added to the waypoint data. The flight plan route data may include data that determine the flight speed at a plurality of waypoints. Flight planning route data is typically used to determine flight planning routes in autonomous flight, but can also be used as a guide during flight in non-autonomous flight. Flight plan route data is typically input and stored in the unmanned aerial vehicle 1 prior to flight.
図3は、本発明の1つの実施形態に係る推定位置修正システムの機能構成を示す図である。修正位置修正システム2は、VSLAM部201、特徴点領域パラメータ算出部203、推定位置修正部205、記憶部207を備える。
FIG. 3 is a diagram showing a functional configuration of an estimation position correction system according to one embodiment of the present invention. The correction
VSLAM部201は、第2のカメラ109が撮像した画像の画像データを取得し、取得した画像データから橋梁3に関する特徴点を検出し、検出された特徴点に基づいて、自己位置の推定とマップの作成を行う。
The
特徴点分布領域パラメータ算出部203は、検出された特徴点が分布する領域に関するパラメータを算出する。検出された特徴点が分布する領域に関するパラメータは、例えば、検出された特徴点のうちの最も無人航空機の進行方向側の点、検出された特徴点が分布する領域の面積等、任意の適切な特徴点に関するパラメータとすることができる。
The feature point distribution area
推定位置修正部205は、算出された特徴点が分布する領域に関するパラメータが、所定の条件を満たす場合に、推定位置を修正する。すなわち、無人航空機1が後述の横断経路を飛行中に、自己位置推定により推定された無人航空機の推定位置がウェイポイントに到達する前に、特徴点が分布する領域が、画像において、第1の所定の程度以上、無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの無人航空機の推定位置が、ウェイポイントに対応するように、推定位置を修正する。また、無人航空機が横断経路を飛行中に、自己位置推定により推定された無人航空機の推定位置がウェイポイントに到達したときに、特徴点が分布する領域が、画像において、第2の所定の程度以上、無人航空機1の進行方向側に偏って存在することに対応することを検知したとき、無人航空機をそのまま進行方向に進ませ、特徴点が分布する領域が、画像において、第2の所定の程度以上、無人航空機1の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの無人航空機の推定位置が、前記ウェイポイントに対応するように、推定位置を修正する。
The estimated
記憶部207は、各種データや各種プログラムを記憶する。
The
以上のシステム構成を前提に、本発明の1つの実施形態に係る推定位置修正システムの推定位置修正処理の例を図1〜6を参照して、以下に説明する。本実施形態では、橋梁の下側を撮像して点検を行う場合を例として説明する。 Based on the above system configuration, an example of the estimated position correction process of the estimated position correction system according to one embodiment of the present invention will be described below with reference to FIGS. 1 to 6. In the present embodiment, a case where the lower side of the bridge is imaged and inspected will be described as an example.
図4は、本発明の1つの実施形態に係る推定位置修正システムの推定位置修正処理の例のフローチャートである。図5は、飛行計画経路の一例を示す図である。図6は、図5の一部を拡大し、無人航空機の位置と特徴点の分布の関係の一例を示す図である。 FIG. 4 is a flowchart of an example of the estimated position correction process of the estimated position correction system according to one embodiment of the present invention. FIG. 5 is a diagram showing an example of a flight plan route. FIG. 6 is an enlarged view of a part of FIG. 5 to show an example of the relationship between the position of the unmanned aerial vehicle and the distribution of feature points.
無人航空機1の飛行前の事前準備として、適切な飛行計画経路を作成し、飛行計画経路上に存在する一連の複数のウェイポイントの集合を飛行計画経路データとして情報処理ユニット120に記憶させておく。飛行計画経路データは、それぞれのウェイポイントにおける高度あるいは対地高度の情報を含むこともできる。無人航空機1の飛行計画経路データを情報処理ユニット120に記憶させる際には、それらを無線信号で無人航空機1に送信し、アンテナ117及び通信回路121を経由して情報処理ユニット120に読み込ませると好適である。無人航空機1が他の適当なインターフェイスを有している場合、そのインターフェイスを経由して無人航空機1の情報処理ユニット120に読み込ませてもよい。
As a preliminary preparation before the flight of the unmanned aerial vehicle 1, an appropriate flight plan route is created, and a set of a series of a plurality of way points existing on the flight plan route is stored in the
図5は、飛行計画経路RTの一部の一例を示す図である。橋梁3の長手方向に直交する方向に延びる横断経路T1、T2、T3、・・・と橋梁3の側縁31との交点がウェイポイントP1、P2、P3、・・・として設定され、横断経路T1、T2、T3、・・・が橋梁3の側縁31に沿って延びる連結経路J1、J2、J3、・・・を介して連結されている。隣接する横断経路間の間隔は、第1のカメラ108の撮影幅に基づいて、隣接する横断経路での撮影幅のオーバラップ量を考慮して決定される。また、ウェイポイントの高度は、橋梁3から所定の距離だけ下方とされる。連結経路は、必ずしも橋梁の側縁上にある必要はなく、橋梁の側縁に沿っていればよい。
FIG. 5 is a diagram showing a part of the flight plan route RT. The intersections of the crossing paths T1, T2, T3, ... Extending in the direction orthogonal to the longitudinal direction of the
飛行前の事前準備が完了すると、情報処理ユニット120により飛行計画経路に沿った自律飛行制御が行われる。すなわち、情報処理ユニット120は、情報処理ユニット120から飛行計画経路データを読み出し、それによって定められる飛行計画経路に沿って目標位置に飛行するように無人航空機1を制御する。具体的には、飛行計画経路データで定められるウェイポイントをその順番に経由して飛行するように無人航空機1の飛行方向及び高度を制御する。飛行計画経路は好適には目標となる飛行速度のデータを含んでおり、無人航空機1は、その飛行速度で飛行計画経路に沿って飛行するように制御される。なお、情報処理ユニット120は、飛行時に、ユーザからの手動の操作を受け付けて非自律飛行を実行させることができる。この場合、飛行計画経路はガイド用として使用することになり、例えば、手動の操作が終了したときに無人航空機1を飛行計画経路上に復帰させることなどができる。
When the pre-flight preparation is completed, the
VSLAM部201は、飛行中に、第2のカメラ109が橋梁3の下方から橋梁3を撮像した画像の画像データを取得し、取得した画像データから橋梁3に関する特徴点を検出し、検出された特徴点に基づいて、自己位置の推定とマップの作成を行う(S101)。
During the flight, the
特徴点分布領域パラメータ算出部205は、検出された特徴点が分布する領域に関するパラメータである、検出された特徴点のうちの最も機体の進行方向側の点Ctを算出する(S103)。
The feature point distribution area
推定位置修正部205は、算出された検出された特徴点のうちの最も機体の進行方向側の点が、所定の条件を満たす場合に、推定位置を修正する。
The estimated
図6は、図5の一部を拡大し、無人航空機の位置と特徴点の分布の関係の一例を示す図である。無人航空機1が橋梁3の下を飛行しているとき(例えば図6のA点)、上方を撮像可能な第2のカメラ109により取得された画像Iには、画像全体に橋梁3が撮像されているので、検出される特徴点C、Ctは、図6の(I)に示されるように、取得された画像全体に分布する。一方、無人航空機1が橋梁の側縁31付近に達すると(例えば図6のB点)、第2のカメラ109により取得された画像Iの、無人航空機1の進行方向とは反対側には橋梁3が撮像され、無人航空機1の進行方向側には空が撮像されるので、検出される特徴点C、Ctは、図6の(II)に示されるように、取得された画像Iの、無人航空機1の進行方向とは反対側の領域に分布し、取得された画像Iの無人航空機1の進行方向側には特徴点C、Ctが分布しない。すなわち、取得された画像Iにおいて、特徴点C、Ctが分布する領域は、所定の程度、無人航空機1の進行方向とは反対側に偏って存在する。
FIG. 6 is an enlarged view of a part of FIG. 5 to show an example of the relationship between the position of the unmanned aerial vehicle and the distribution of feature points. When the unmanned aerial vehicle 1 is flying under the bridge 3 (for example, point A in FIG. 6), the image I acquired by the
したがって、この特徴点の分布を利用して、横断経路を飛行しているときに、検出された特徴点C、Ctが取得された画像I全体に分布している場合は、無人航空機1は橋梁3の下を飛行しており、特徴点C、Ctが分布する領域が、所定の程度、無人航空機1の進行方向とは反対側に偏って存在する場合は、無人航空機1は橋梁3の側縁31付近、すなわち次のウェイポイント付近を飛行していると判断することができる。
Therefore, using this distribution of feature points, if the detected feature points C and Ct are distributed over the acquired image I when flying on the crossing route, the unmanned aerial vehicle 1 is a bridge. When flying under 3 and the region where the feature points C and Ct are distributed is biased to the opposite side of the traveling direction of the unmanned aerial vehicle 1 to a predetermined degree, the unmanned aerial vehicle 1 is on the side of the
一方、Visual SLAMによる自己位置推定においては、飛行距離が大きくなるにつれて誤差が累積するが、正の誤差が累積すると、実際の自己位置が次のウェイポイントに到達しても、推定された自己位置がウェイポイントにまだ到達していないという状態が生じ、負の誤差が累積すると、推定された自己位置が飛行計画経路上のウェイポイントに到達したとき、実際の自己位置は、ウェイポイントの手前となるという状態が生じる。 On the other hand, in the self-position estimation by Visual SLAM, the error accumulates as the flight distance increases, but if the positive error accumulates, the estimated self-position even if the actual self-position reaches the next waypoint. When the estimated self-position reaches the waypoint on the flight plan path, the actual self-position is before the waypoint when the negative error accumulates. The state of becoming occurs.
そこで、推定位置修正部207は、横断経路(例えばT2)を飛行中に、VSLAM部203が推定した自己位置がウェイポイント(例えばP3)に到達する前に(S105)、特徴点領域の第1の代表点である、ステップS103で算出された検出された特徴点Cのうちの最も機体の進行方向側の点Ctが、取得された画像I中の第1の領域である、画像中央から無人航空機1の進行方向とは反対側の領域R1に入ったことを検知した場合(図6の(III))(S107)、そのときの無人航空機1の推定位置をウェイポイント(例えばP3)の位置に修正する(S113)。推定位置の修正は、ウェイポイントそのものの位置ではなく、ウェイポイント近辺の任意の適切なウェイポイントに対応する位置に修正してもよい。
Therefore, the estimated
また、推定位置修正部205は、横断経路(例えばT2)を飛行中に、VSLAM部201が推定した自己位置がウェイポイント(例えばP3)に到達したときに、ステップS103で算出された検出された特徴点Cのうちの最も機体の進行方向側の点Ctが、取得された画像中の第2の領域である、画像中央から無人航空機1の進行方向側の領域R2に位置していたことを検知した場合(図6の(I)、(II))(S109)、進行方向を変えることなくそのままの進行方向に無人航空機1を進めるように制御信号生成部122に指示を与え(S111)、特徴点領域の第2の代表点である、ステップS103で算出された検出された特徴点Cのうちの最も機体の進行方向側の点Ctが、取得された画像I中の第2の領域である、画像中央から無人航空機1の進行方向側の領域R2から外れたことを検知した場合(図6の(III))(S109)、そのときの無人航空機1の推定位置をウェイポイント(例えばP3)の位置に修正する(S113)。
Further, the estimated
上記実施形態においては、抽出された特徴点が分布する領域に関するパラメータが、抽出された特徴点のうちの最も機体の進行方向側の点である例を説明したが、抽出された特徴点が分布する領域に関するパラメータは、これに限定されるものではなく、特徴点が分布する領域が、画像において、所定の程度以上、無人航空機の進行方向側又は進行方向とは反対側に偏って存在することに対応する指標となる任意の適切なパラメータとすることができる。 In the above embodiment, an example has been described in which the parameter relating to the region where the extracted feature points are distributed is the point on the traveling direction side of the aircraft most of the extracted feature points, but the extracted feature points are distributed. The parameters related to the region to be used are not limited to this, and the region in which the feature points are distributed is biased to the traveling direction side or the opposite side of the traveling direction of the unmanned aerial vehicle to a certain degree or more in the image. It can be any appropriate parameter that serves as an index corresponding to.
このようなパラメータとして、例えば、抽出された特徴点が分布する領域の面積に関するパラメータを考えることができる。すなわち、図6の(I)〜(III)を参照して、無人航空機が横断経路を飛行しているときは、画像の進行方向側のみに特徴点が分布する領域が存在することはないから、例えば、特徴点が分布する領域の面積、ないしは画像の全領域の面積に対する特徴点が分布する領域の面積の割合といった特徴点が分布する領域の面積に関するパラメータが小さいほど、特徴点が分布する領域が、無人航空機の進行方向とは反対側に偏って存在する程度が大きくなる。したがって、この場合、無人航空機が横断経路を飛行中に、自己位置推定により推定された無人航空機の推定位置がウェイポイントに到達する前に、特徴点が分布する領域の面積に関するパラメータが、第1の閾値以下であることを検知したとき、そのときの無人航空機の推定位置が、ウェイポイントに対応するように、無人航空機の推定位置を修正し、無人航空機が横断経路を飛行中に、自己位置推定により推定された無人航空機の推定位置がウェイポイントに到達したときに、特徴点が分布する領域の面積に関するパラメータが、第2の閾値以上であることを検知したとき、無人航空機をそのまま進行方向に進ませ、特徴点が分布する領域の面積に関するパラメータが、第2の閾値よりも小さくなったことを検知したとき、そのときの無人航空機の推定位置が、ウェイポイントに対応するように、無人航空機の推定位置を修正する構成とすればよい。 As such a parameter, for example, a parameter relating to the area of the region where the extracted feature points are distributed can be considered. That is, referring to (I) to (III) of FIG. 6, when the unmanned aerial vehicle is flying in the crossing route, there is no area where the feature points are distributed only on the traveling direction side of the image. For example, the smaller the parameter regarding the area of the area where the feature points are distributed, such as the area of the area where the feature points are distributed, or the ratio of the area of the area where the feature points are distributed to the area of the entire area of the image, the more the feature points are distributed. The extent to which the area is biased to the side opposite to the direction of travel of the unmanned aerial vehicle increases. Therefore, in this case, while the unmanned aerial vehicle is flying in the crossing path, the parameter regarding the area of the region where the feature points are distributed is the first parameter before the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point. When it is detected that it is below the threshold of, the estimated position of the unmanned aerial vehicle at that time is corrected so that it corresponds to the way point, and the unmanned aerial vehicle is in its own position while flying over the crossing route. When the estimated position of the unmanned aerial vehicle estimated by estimation reaches the way point, when it is detected that the parameter related to the area of the area where the feature points are distributed is equal to or larger than the second threshold value, the unmanned aerial vehicle is moved in the direction of travel as it is. When it is detected that the parameter related to the area of the area where the feature points are distributed becomes smaller than the second threshold value, the estimated position of the unmanned aerial vehicle at that time corresponds to the way point. The configuration may be such that the estimated position of the aircraft is corrected.
また、上記実施形態においては、抽出された特徴点が分布する領域に関するパラメータが、抽出された特徴点のうちの最も無人航空機の進行方向側の点を用いたが、特徴点が分布する領域の重心や、抽出された特徴点のうちの複数の最も無人航空機の進行方向側の点を加重平均した点等、他の任意の適切な特徴点が分布する領域の代表点を用いることもできる。 Further, in the above embodiment, the parameter relating to the region where the extracted feature points are distributed uses the point on the traveling direction side of the most unmanned aerial vehicle among the extracted feature points, but the region where the feature points are distributed It is also possible to use representative points in the region where any other suitable feature points are distributed, such as the center of gravity and the weighted average of the points on the traveling direction side of the plurality of extracted feature points of the most unmanned aerial vehicle.
また、上記実施形態においては、第1の代表点と第2の代表点が同じであったが、両者は異なっていてもよい。 Further, in the above embodiment, the first representative point and the second representative point are the same, but they may be different.
また、上記実施形態においては、第1の領域として、画像中央から無人航空機1の進行方向とは反対側の領域を、第2の領域として、画像中央から無人航空機1の進行方向側の領域を用いたが、これに限定されるものではなく、他の任意の適切な領域を用いることができる。 Further, in the above embodiment, as the first region, the region opposite to the traveling direction of the unmanned aerial vehicle 1 from the center of the image is used, and as the second region, the region from the center of the image to the traveling direction side of the unmanned aerial vehicle 1 is used. Used, but not limited to, any other suitable region may be used.
また、上記実施形態においては、横断経路は、橋梁の長手方向に直交する方向に延びる経路としたが、これに限定されるものではなく、他の任意の適切な方向とすることができ、また横断経路毎に異なる方向とすることができる。また、横断経路は、直線経路でなく、曲線経路であってもよい。 Further, in the above embodiment, the crossing route is a route extending in a direction orthogonal to the longitudinal direction of the bridge, but the present invention is not limited to this, and any other appropriate direction can be used. The direction can be different for each crossing route. Further, the crossing route may be a curved route instead of a straight route.
本実施形態によれば、Visual SLAMにより推定される自己位置に累積する誤差を、所定のタイミングで修正することができる。 According to this embodiment, the error accumulated in the self-position estimated by Visual SLAM can be corrected at a predetermined timing.
Visual SLAMによる自己位置推定において、負の誤差が累積すると、推定された自己位置が飛行計画経路上のウェイポイントに到達したとき、実際の自己位置は、ウェイポイントの手前となるので、ウェイポイントで折り返すと、橋梁の端部側に点検されない部分が残ってしまうが、本実施形態によれば、無人航空機1を橋梁の端部まで進めるので、点検されない部分を残さないようにすることができる。 In the self-position estimation by Visual SLAM, if negative errors are accumulated, when the estimated self-position reaches the waypoint on the flight plan route, the actual self-position is before the waypoint, so at the waypoint When folded back, an uninspected portion remains on the end side of the bridge, but according to the present embodiment, since the unmanned aerial vehicle 1 is advanced to the end portion of the bridge, it is possible to prevent the uninspected portion from being left.
また、Visual SLAMによる自己位置推定において、正の誤差が累積すると、実際の自己位置がウェイポイントに到達しても、推定された自己位置がウェイポイントにまだ到達していないので、機体はそのまま進行方向に進む。そのため、機体は橋梁下の外にはみ出してしまうため、撮像された画像には空しか写らず、特徴点を検出することができないため、方向を見失ってしまい、自律飛行ができなくなってしまうが、本実施形態によれば、そのような方向を見失うことを防止することができる。 Also, in the self-position estimation by Visual SLAM, if positive errors are accumulated, even if the actual self-position reaches the waypoint, the estimated self-position has not yet reached the waypoint, so the aircraft will proceed as it is. Go in the direction. Therefore, since the aircraft protrudes outside under the bridge, only the sky is shown in the captured image, and the feature points cannot be detected, so the direction is lost and autonomous flight becomes impossible. According to the present embodiment, it is possible to prevent losing sight of such a direction.
以上、本発明について、例示のためにいくつかの実施形態に関して説明してきたが、本発明はこれに限定されるものでなく、本発明の範囲及び精神から逸脱することなく、形態及び詳細について、様々な変形及び修正を行うことができることは、当業者に明らかであろう。 Although the present invention has been described above with respect to some embodiments for illustration purposes, the present invention is not limited thereto, and the forms and details will be described without departing from the scope and spirit of the present invention. It will be apparent to those skilled in the art that various modifications and modifications can be made.
1 無人航空機
101 制御ユニット
102 モータ
103 ロータ
104 アーム
105 着陸脚
106 台座
107 支持部材
108 第1のカメラ
109 第2のカメラ
110 飛行位置センサ
111 姿勢センサ
112 方位センサ
113 高度センサ
115 距離センサ
117 アンテナ
120 情報処理ユニット
121 通信回路
122 制御信号生成部
123 スピードコントローラ
124 VSLAMユニット
124a CPU
124b RAM
124c ROM
124d 外部メモリ
124e インターフェイス
124f システムバス
125 インターフェイス
2 推定位置修正システム
201 VSLAM部
203 特徴点領域パラメータ算出部
205 推定位置修正部
207 記憶部
3 橋梁
31 側縁
RT 飛行計画経路
T1、T2、T3 横断経路
J1、J2、J3 連結経路
P1、P2、P3 ウェイポイント
I 画像
C 特徴点
Ct 最も機体の進行方向側の特徴点
CA 特徴点領域
R1 第1の領域
R2 第2の領域
1 Unmanned
124b RAM
124c ROM
Claims (15)
前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、
前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正するシステム。 An unmanned aerial vehicle equipped with an image pickup device capable of capturing an image above, extracting feature points from the image acquired by the image pickup device, and flying while estimating its own position based on the feature points, has a plurality of crossing paths across the bridge. When flying while imaging the bridge from below the bridge, based on a flight plan path formed by connecting the ends of the bridge to each other via a connecting path extending along the side end of the bridge. A system that corrects the estimated position of the unmanned aerial vehicle.
The connecting path has a first end and a second end in the order of flight of the unmanned aerial vehicle.
In the flight planning path, the first end is set as a waypoint.
While the unmanned aerial vehicle is flying on the crossing route, the region where the feature points are distributed is located in the image before the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point. When it is detected that the unmanned aerial vehicle exists in a direction opposite to the traveling direction of the unmanned aerial vehicle by a predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time corresponds to the way point. In addition, a system that corrects the estimated position of the unmanned aerial vehicle.
前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、
前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正するシステム。 An unmanned aerial vehicle equipped with an image pickup device capable of capturing an image above, extracting feature points from the image acquired by the image pickup device, and flying while estimating its own position based on the feature points, has a plurality of crossing paths across the bridge. When flying while imaging the bridge from below the bridge, based on a flight plan path formed by connecting the ends of the bridge to each other via a connecting path extending along the side end of the bridge. A system that corrects the estimated position of the unmanned aerial vehicle.
The connecting path has a first end and a second end in the order of flight of the unmanned aerial vehicle.
In the flight planning path, the first end is set as a waypoint.
When the unmanned aerial vehicle is flying along the crossing route and the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point, the region where the feature points are distributed is the first in the image. When it is detected that the unmanned aerial vehicle is biased toward the traveling direction side of the unmanned aerial vehicle by a predetermined degree or more, the unmanned aerial vehicle is advanced in the traveling direction as it is, and the region where the feature points are distributed is the region. When it is detected in the image that it corresponds to the fact that the unmanned aerial vehicle no longer exists biased toward the traveling direction side by a second predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time is set to the way point. A system that corrects the estimated position of the unmanned aerial vehicle to correspond.
前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することは、前記特徴点が分布する領域の第2の代表点が、前記画像中の前記第2の領域から外れたことを検知したことである請求項5に記載のシステム。 Corresponding to the fact that the region where the feature points are distributed is biased toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image is the second of the region where the feature points are distributed. Is that it was detected that the representative point of the above was located in the second region on the traveling direction side of the unmanned aerial vehicle in the image.
Corresponding to the fact that the region in which the feature points are distributed no longer exists in the image in a biased manner toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more is the region in which the feature points are distributed. The system according to claim 5, wherein the second representative point is the detection that the second representative point is out of the second region in the image.
前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することは、前記特徴点が分布する領域の面積に関するパラメータが、前記第2の閾値よりも小さくなったことを検知したことである請求項5に記載のシステム。 Corresponding to the fact that the region where the feature points are distributed is biased toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image is related to the area of the region where the feature points are distributed. It means that it is detected that the parameter is equal to or higher than the second threshold value.
Corresponding to the fact that the region where the feature points are distributed no longer exists biased toward the traveling direction side of the unmanned aerial vehicle by a second predetermined degree or more in the image corresponds to the region where the feature points are distributed. The system according to claim 5, wherein it is detected that the parameter relating to the area becomes smaller than the second threshold value.
前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、
前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正し、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正するシステム。 An unmanned aerial vehicle equipped with an image pickup device capable of capturing an image above, extracting feature points from the image acquired by the image pickup device, and flying while estimating its own position based on the feature points, has a plurality of crossing paths across the bridge. When flying while imaging the bridge from below the bridge, based on a flight plan path formed by connecting the ends of the bridge to each other via a connecting path extending along the side end of the bridge. A system that corrects the estimated position of the unmanned aerial vehicle.
The connecting path has a first end and a second end in the order of flight of the unmanned aerial vehicle.
In the flight planning path, the first end is set as a waypoint.
While the unmanned aerial vehicle is flying on the crossing route, the region where the feature points are distributed is located in the image before the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point. When it is detected that the unmanned aerial vehicle exists in a direction opposite to the traveling direction of the unmanned aerial vehicle by a predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time corresponds to the way point. To correct the estimated position of the unmanned aerial vehicle,
When the unmanned aerial vehicle is flying along the crossing route and the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point, the region where the feature points are distributed is the first in the image. When it is detected that the unmanned aerial vehicle is biased toward the traveling direction side of the unmanned aerial vehicle by a predetermined degree or more, the unmanned aerial vehicle is advanced in the traveling direction as it is, and the region where the feature points are distributed is the region. When it is detected in the image that it corresponds to the fact that the unmanned aerial vehicle no longer exists biased toward the traveling direction side by a second predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time is set to the way point. A system that corrects the estimated position of the unmanned aerial vehicle to correspond.
前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、
前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正する方法。 An unmanned aircraft equipped with an image pickup device capable of capturing an image above, extracting feature points from the image acquired by the image pickup device, and flying while estimating its own position based on the feature points, has a plurality of crossing paths across the bridge. When flying while imaging the bridge from below the bridge, based on a flight plan path formed by connecting the ends of the bridge to each other via a connecting path extending along the side end of the bridge. A method of modifying the estimated position of the unmanned aircraft performed by a computer.
The connecting path has a first end and a second end in the order of flight of the unmanned aerial vehicle.
In the flight planning path, the first end is set as a waypoint.
While the unmanned aerial vehicle is flying on the crossing route, the region where the feature points are distributed is located in the image before the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point. When it is detected that the unmanned aerial vehicle exists in a direction opposite to the traveling direction of the unmanned aerial vehicle by a predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time corresponds to the way point. In addition, a method of correcting the estimated position of the unmanned aerial vehicle.
前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、
前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正する方法。 An unmanned aircraft equipped with an image pickup device capable of capturing an image above, extracting feature points from the image acquired by the image pickup device, and flying while estimating its own position based on the feature points, has a plurality of crossing paths across the bridge. When flying while imaging the bridge from below the bridge, based on a flight plan path formed by connecting the ends of the bridge to each other via a connecting path extending along the side end of the bridge. A method of modifying the estimated position of the unmanned aircraft performed by a computer.
The connecting path has a first end and a second end in the order of flight of the unmanned aerial vehicle.
In the flight planning path, the first end is set as a waypoint.
When the unmanned aerial vehicle is flying along the crossing route and the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point, the region where the feature points are distributed is the first in the image. When it is detected that the unmanned aerial vehicle is biased toward the traveling direction side of the unmanned aerial vehicle by a predetermined degree or more, the unmanned aerial vehicle is advanced in the traveling direction as it is, and the region where the feature points are distributed is the region. When it is detected in the image that it corresponds to the fact that the unmanned aerial vehicle no longer exists biased toward the traveling direction side by a second predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time is set to the way point. A method of modifying the estimated position of the unmanned aerial vehicle to correspond.
前記連結経路は、前記無人航空機の飛行順に第1の端部、第2の端部を有し、
前記飛行計画経路において、前記第1の端部は、ウェイポイントして設定され、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達する前に、前記特徴点が分布する領域が、前記画像において、第1の所定の程度以上、前記無人航空機の進行方向とは反対側に偏って存在することに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正し、
前記無人航空機が前記横断経路を飛行中に、前記自己位置推定により推定された前記無人航空機の推定位置が前記ウェイポイントに到達したときに、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在することに対応することを検知したとき、前記無人航空機をそのまま進行方向に進ませ、前記特徴点が分布する領域が、前記画像において、第2の所定の程度以上、前記無人航空機の進行方向側に偏って存在しなくなったことに対応することを検知したとき、そのときの前記無人航空機の推定位置が、前記ウェイポイントに対応するように、前記無人航空機の推定位置を修正する方法。 An unmanned aircraft equipped with an image pickup device capable of capturing an image above, extracting feature points from the image acquired by the image pickup device, and flying while estimating its own position based on the feature points, has a plurality of crossing paths across the bridge. When flying while imaging the bridge from below the bridge, based on a flight plan path formed by connecting the ends of the bridge to each other via a connecting path extending along the side end of the bridge. A method of modifying the estimated position of the unmanned aircraft performed by a computer.
The connecting path has a first end and a second end in the order of flight of the unmanned aerial vehicle.
In the flight planning path, the first end is set as a waypoint.
While the unmanned aerial vehicle is flying on the crossing route, the region where the feature points are distributed is located in the image before the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point. When it is detected that the unmanned aerial vehicle exists in a direction opposite to the traveling direction of the unmanned aerial vehicle by a predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time corresponds to the way point. To correct the estimated position of the unmanned aerial vehicle,
When the unmanned aerial vehicle is flying along the crossing route and the estimated position of the unmanned aerial vehicle estimated by the self-position estimation reaches the way point, the region where the feature points are distributed is the first in the image. When it is detected that the unmanned aerial vehicle is biased toward the traveling direction side of the unmanned aerial vehicle by a predetermined degree or more, the unmanned aerial vehicle is advanced in the traveling direction as it is, and the region where the feature points are distributed is the region. When it is detected in the image that it corresponds to the fact that the unmanned aerial vehicle no longer exists biased toward the traveling direction side by a second predetermined degree or more, the estimated position of the unmanned aerial vehicle at that time is set to the way point. A method of modifying the estimated position of the unmanned aerial vehicle to correspond.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019223731A JP7352908B2 (en) | 2019-12-11 | 2019-12-11 | System, method, program, and storage medium storing the program for correcting the estimated position of an unmanned aircraft |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019223731A JP7352908B2 (en) | 2019-12-11 | 2019-12-11 | System, method, program, and storage medium storing the program for correcting the estimated position of an unmanned aircraft |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021092465A true JP2021092465A (en) | 2021-06-17 |
JP7352908B2 JP7352908B2 (en) | 2023-09-29 |
Family
ID=76312177
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019223731A Active JP7352908B2 (en) | 2019-12-11 | 2019-12-11 | System, method, program, and storage medium storing the program for correcting the estimated position of an unmanned aircraft |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7352908B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116954264A (en) * | 2023-09-08 | 2023-10-27 | 杭州牧星科技有限公司 | Distributed high subsonic unmanned aerial vehicle cluster control system and method thereof |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015163107A1 (en) * | 2014-04-25 | 2015-10-29 | ソニー株式会社 | Information processing device, information processing method, and computer program |
JP2016082441A (en) * | 2014-10-17 | 2016-05-16 | ソニー株式会社 | Controller, control method and computer program |
-
2019
- 2019-12-11 JP JP2019223731A patent/JP7352908B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015163107A1 (en) * | 2014-04-25 | 2015-10-29 | ソニー株式会社 | Information processing device, information processing method, and computer program |
JP2016082441A (en) * | 2014-10-17 | 2016-05-16 | ソニー株式会社 | Controller, control method and computer program |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116954264A (en) * | 2023-09-08 | 2023-10-27 | 杭州牧星科技有限公司 | Distributed high subsonic unmanned aerial vehicle cluster control system and method thereof |
CN116954264B (en) * | 2023-09-08 | 2024-03-15 | 杭州牧星科技有限公司 | Distributed high subsonic unmanned aerial vehicle cluster control system and method thereof |
Also Published As
Publication number | Publication date |
---|---|
JP7352908B2 (en) | 2023-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110262568B (en) | Unmanned aerial vehicle obstacle avoidance method and device based on target tracking and unmanned aerial vehicle | |
CN106774431B (en) | Method and device for planning air route of surveying and mapping unmanned aerial vehicle | |
EP3158293B1 (en) | Sensor fusion using inertial and image sensors | |
US10240930B2 (en) | Sensor fusion | |
JP6390013B2 (en) | Control method for small unmanned aerial vehicles | |
US20200117210A1 (en) | Auto-Exploration Control of a Robotic Vehicle | |
JP5748561B2 (en) | Aerial photography imaging method and aerial photography imaging apparatus | |
EP3734394A1 (en) | Sensor fusion using inertial and image sensors | |
JP2015006874A (en) | Systems and methods for autonomous landing using three dimensional evidence grid | |
CN111699455B (en) | Flight route generation method, terminal and unmanned aerial vehicle | |
JP6380936B2 (en) | Mobile body and system | |
JP7492718B2 (en) | System, method, program, and storage medium for storing the program for identifying a safe landing area | |
CN111650962B (en) | Multi-rotor unmanned aerial vehicle route planning and aerial photography method suitable for banded survey area | |
CN112789672A (en) | Control and navigation system, attitude optimization, mapping and positioning technology | |
JP2017228111A (en) | Unmanned aircraft, control method of unmanned aircraft and control program of unmanned aircraft | |
US20210165388A1 (en) | Gimbal rotation control method and apparatus, control device, and movable platform | |
CN112912811A (en) | Unmanned aerial vehicle path planning method and device and unmanned aerial vehicle | |
US20210208608A1 (en) | Control method, control apparatus, control terminal for unmanned aerial vehicle | |
JP7352908B2 (en) | System, method, program, and storage medium storing the program for correcting the estimated position of an unmanned aircraft | |
JP6900029B2 (en) | Unmanned aerial vehicle, position estimation device, flight control device, position estimation method, control method and program | |
JP2019191888A (en) | Unmanned flying object, unmanned flying method and unmanned flying program | |
KR102467855B1 (en) | A method for setting an autonomous navigation map, a method for an unmanned aerial vehicle to fly autonomously based on an autonomous navigation map, and a system for implementing the same | |
JP2019188965A (en) | Unmanned flight body, learning result information, unmanned flight method and unmanned flight program | |
JP6934116B1 (en) | Control device and control method for controlling the flight of an aircraft | |
Wang et al. | Design and construction methodology of an indoor UAV system with embedded vision |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220623 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230413 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230424 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230616 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230809 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230908 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7352908 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |