JP5102718B2 - Vegetation detection apparatus and method - Google Patents
Vegetation detection apparatus and method Download PDFInfo
- Publication number
- JP5102718B2 JP5102718B2 JP2008208717A JP2008208717A JP5102718B2 JP 5102718 B2 JP5102718 B2 JP 5102718B2 JP 2008208717 A JP2008208717 A JP 2008208717A JP 2008208717 A JP2008208717 A JP 2008208717A JP 5102718 B2 JP5102718 B2 JP 5102718B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging unit
- imaging
- image
- observation data
- data acquired
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/35—Categorising the entire scene, e.g. birthday party or wedding scene
- G06V20/38—Outdoor scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/188—Vegetation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Navigation (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Description
本発明は、植生検出装置および方法に関し、特に軽量化が求められる移動体搭載用の植生検出装置および方法に関する。 The present invention relates to a vegetation detection apparatus and method, and more particularly, to a vegetation detection apparatus and method for mounting on a mobile body that is required to be lighter.
従来は、路外・不整地での車両の自動操縦を実現する場合、地面や地上に存在する岩や起伏などの構造物・樹木の立体形状を3次元スキャンや2次元スキャンのレーザーレンジファインダにより計測し、起伏の無い、平坦部分を通過するような軌道を計画して、その軌道に沿うように車体やロボットを操縦していた。運転支援においては、安全性向上のため、同様の立体形状から障害物を割り出し、危険距離まで接近した場合、回避や停止するよう制御する。 Conventionally, when auto-control of vehicles on off-road and rough terrain is realized, 3D scanning and 2D scanning laser range finder are used to detect the three-dimensional shape of the ground and the structures and trees such as rocks and undulations existing on the ground. He measured and planned a trajectory that would pass through a flat part with no undulations, and maneuvered the vehicle and robot along the trajectory. In driving support, in order to improve safety, obstacles are determined from the same three-dimensional shape, and control is performed to avoid or stop when approaching a dangerous distance.
ところが草地については、薄らと茂っていても、植物の反射率は地面の数倍であり草の部分が検出されやすく、草が櫛状に生えていると、その前面で反射したデータと、茂みの奥まで入って反射したデータが隣り合うために、距離変化が非常に大きい段差にも見え、通行不可能と解釈してしまう場合が多い。車輪径が70cmの車両としても、30cmの急な段差は走行不能と判断せざるを得ないが、30cmぐらいの草むらはよく見かけることができる。野外で走行する移動体の自動操縦、または操縦支援には草を見分け、別の処理(完全に通行不能にするのではなく、マニュアルのみ通行可能にする、低速でアプローチするなど)を行う必要がある。 However, for grassland, even if it is thin, the reflectance of the plant is several times that of the ground and the grass part is easy to detect, and when the grass grows in a comb shape, the data reflected on the front surface, Since the data reflected after entering the depths of the bushes are adjacent to each other, the distance change can be seen as a very large step, which is often interpreted as inaccessible. Even if the vehicle has a wheel diameter of 70 cm, a steep step of 30 cm must be judged as impossible to drive, but a grassy spot of about 30 cm can often be seen. It is necessary to identify the grass and perform other processing (such as allowing only manual operation, approaching at low speed, not completely inaccessible) for automatic operation or support for moving objects traveling outdoors is there.
このため地面に生えている植物に関して判別を行う必要があった。このような移動体に搭載して使える植生検出装置は存在していなかった。
多少関連する植生検出装置として、衛星写真のように違う波長を観測するカメラを並べて植物を見つけ出す技術は存在する(例えば、特許文献1参照)。
As a somewhat related vegetation detection device, there is a technique for finding plants by arranging cameras that observe different wavelengths such as satellite photographs (see, for example, Patent Document 1).
ところが、特許文献1に記載の技術は人工衛星から無限遠に近い地表を観察対象としており、近距離の物体を観察対象とした場合の図4及び図5に示すような視差が発生する状態については考慮されていなかった。 However, the technique described in Patent Document 1 uses a surface near infinity from an artificial satellite as an observation target, and a state in which parallax as shown in FIGS. 4 and 5 occurs when an object at a short distance is an observation target. Was not considered.
図4及び図5に示すような近距離の観察対象の方角が変わる現象は視差と呼ばれているが、この視差を解消する方法として、図12に示すようなダイクロイックミラーを用いて入射光を複数の受光素子に分配する方法が有効である。
図12に示すように、レンズ131を通過した光は、特定の周波数を反射するダイクロイックミラー(又はハーフミラー)132によって、近赤外の所定の波長帯の光のみを透過するフィルタ133へ進む光と、水が吸収する波長の光を透過するフィルタ136へ進む光とに分けられる。フィルタ133へ進んだ光は、レンズ134を経て、CCD受光素子135に到達する。一方、フィルタ136へ進んだ光は、レンズ137を経て、CCD受光素子138に到達する。
ただし、この方法を用いると装置が重くなったり、大きくなったりするといった問題などが起き易くなってしまう。
The phenomenon in which the direction of the observation target at a short distance as shown in FIG. 4 and FIG. 5 changes is called parallax. As a method of eliminating this parallax, incident light is radiated using a dichroic mirror as shown in FIG. A method of distributing to a plurality of light receiving elements is effective.
As shown in FIG. 12, the light that has passed through the
However, when this method is used, problems such as an increase in the size and size of the apparatus are likely to occur.
本発明は上述した問題点を解決するために創案されたものである。すなわち、安価・軽量・小型化を可能とし、移動体搭載に適し、かつ近距離の観測対象に関して必要十分な植生検出を可能とする技術を提供する。 The present invention has been developed to solve the above-described problems. That is, it provides a technique that enables low cost, light weight, and miniaturization, is suitable for mounting on a moving object, and enables necessary and sufficient vegetation detection for a short-distance observation target.
本発明の第1の特徴は、植生検出装置であって、(1)第1の波長帯域のみを透過させる第1の光学フィルタを有する第1の撮像部と、(2)第2の波長帯域のみを透過させる第2の光学フィルタを有する第2の撮像部と、(3)撮像された画像を画像中の水平線で切り分け、水平線より下の画像は全て地面の平面上にあると仮定して、第1の射影変換を行い、第1の撮像部によって取得された観測データと第2の撮像部によって取得された観測データとを対応付ける対応付け部と、(4)対応付けられた観測データに関して、第1の撮像部によって取得された観測データに基づいて算出される反射率と、第2の撮像部によって取得された観測データに基づいて算出される反射率との比を算出する反射率比算出部と、(5)前記反射率比を所定の閾値と比較することによって、観測対象物が植物か否かを判別する判別部と、を具備することにある。 A first feature of the present invention is a vegetation detection device, (1) a first imaging unit having a first optical filter that transmits only the first wavelength band, and (2) a second wavelength band. A second imaging unit having a second optical filter that transmits only the image, and (3) the captured image is divided by a horizontal line in the image, and all images below the horizontal line are on the ground plane. An association unit that performs the first projective transformation and associates the observation data acquired by the first imaging unit with the observation data acquired by the second imaging unit, and (4) the associated observation data The reflectance ratio for calculating the ratio between the reflectance calculated based on the observation data acquired by the first imaging unit and the reflectance calculated based on the observation data acquired by the second imaging unit And (5) calculating the reflectance ratio. By comparing with the threshold value, the observation object is to comprise a determination section for determining whether a plant, a.
本発明の第2の特徴は、対応付け部は、さらに、水平線より上の画像は全て無限遠の平面上にあると仮定して、第2の射影変換を行い、第1の撮像部によって取得された観測データと第2の撮像部によって取得された観測データとを対応付けることにある。 The second feature of the present invention is that the associating unit further performs second projective transformation on the assumption that all images above the horizontal line are on an infinite plane, and is acquired by the first imaging unit. The observed data is associated with the observation data acquired by the second imaging unit.
本発明の第3の特徴は、第2の射影変換を、射影変換行列H=A 2 RA 1 -1 1を用いて行い、
対応する観測点について第1の撮像部の画像上の位置と第2の撮像部の画像上の位置をP2=HP1と変換することにある。
fx,fy:力メラのx軸、y軸の焦点距離[画素]、cx,cy:力メラの焦点中心座標[画素]
Rは第1の撮像部から第2の撮像部への座標変換回転行列
tは第1の撮像部から第2の撮像部への力メラ座標軸中心の位置変換ベクトル
nは撮像部座標系での地面の法線ベクトル
dは地面からの撮像部の高さ
The third feature of the present invention is that the second projective transformation is performed using a projective transformation matrix H = A 2 RA 1 −1 1,
The corresponding observation point is to convert the position on the image of the first imaging unit and the position on the image of the second imaging unit to P 2 = HP 1 .
fx, fy: Focal length of the force melar x-axis and y-axis [pixel], cx, cy: Focal center coordinates of the force mela [pixel]
R is a coordinate transformation rotation matrix from the first imaging unit to the second imaging unit
t is a position conversion vector at the center of the force coordinate axis from the first imaging unit to the second imaging unit.
n is the normal vector of the ground in the imaging unit coordinate system
d is the height of the imaging unit from the ground
本発明の第4の特徴は、第1の射影変換を、射影変換行列H=A 2 (R+tn t /d)A 1 -1 を用いて行い、
対応する観測点について第1の撮像部の画像上の位置と第2の撮像部の画像上の位置をP2=HP1と変換することにある。
A fourth aspect of the present invention, the first projective transformation is performed by using the projection transformation matrix H = A 2 (R + tn t / d) A 1 -1,
The corresponding observation point is to convert the position on the image of the first imaging unit and the position on the image of the second imaging unit to P 2 = HP 1 .
本発明の第5の特徴は、植生検出方法であって、(1)第1の波長帯域のみを透過させる第1の光学フィルタを用いて撮像する第1の撮像ステップと、(2)第2の波長帯域のみを透過させる第2の光学フィルタを用いて撮像する第2の撮像ステップと、(3)撮像された画像を画像中の水平線で切り分ける切り分け、水平線より下の画像は全て地面の平面上にあると仮定して、第1の射影変換を行い、第1の撮像部によって取得された観測データと第2の撮像部によって取得された観測データとを対応付ける第1の対応付けステップと、(4)対応付けられた観測データに関して、第1の撮像ステップによって取得された観測データに基づいて算出される反射率と、第2の撮像ステップによって取得された観測データに基づいて算出される反射率との比を算出する反射率比算出ステップと、(5)前記反射率比を所定の閾値と比較することによって、観測対象物が植物か否かを判別する判別ステップと、を含むことにある。
本発明の第6の特徴は、前記対応付けステップは、さらに、水平線より上の画像は全て無限遠の平面上にあると仮定して、第2の射影変換を行い、第1の撮像ステップによって取得された観測データと第2の撮像ステップによって取得された観測データとを対応付けることにある。
本発明の第7の特徴は、第2の射影変換を、射影変換行列H=A 2 RA 1 -1 を用いて行い、
対応する観測点について第1の撮像ステップによって取得された画像上の位置と第2の撮像ステップによって取得された画像上の位置をP2=HP1と変換することにある。
本発明の第8の特徴は、第1の射影変換を、射影変換行列H=A 2 (R+tn t /d)A 1 -1 を用いて行い、
対応する観測点について第1の撮像ステップによって取得された画像上の位置と第2の撮像ステップによって取得された画像上の位置をP2=HP1と変換することにある。
A fifth feature of the present invention is a vegetation detection method, comprising: (1) a first imaging step of imaging using a first optical filter that transmits only the first wavelength band; and (2) a second. A second imaging step of imaging using a second optical filter that transmits only the wavelength band of (3), and (3) the imaged image is segmented by a horizontal line in the image, and all images below the horizontal line are planes of the ground A first associating step for performing the first projective transformation and associating the observation data acquired by the first imaging unit with the observation data acquired by the second imaging unit; (4) The associated observation data is calculated based on the reflectance calculated based on the observation data acquired in the first imaging step and the observation data acquired in the second imaging step. A reflectance ratio calculating step for calculating a ratio to the emissivity; and (5) a determining step for determining whether the observation object is a plant by comparing the reflectance ratio with a predetermined threshold. It is in.
According to a sixth feature of the present invention, in the associating step, assuming that all images above the horizontal line are on a plane at infinity, the second projective transformation is performed, and the first imaging step The acquired observation data is associated with the observation data acquired in the second imaging step.
The seventh feature of the present invention is that the second projective transformation is performed using a projective transformation matrix H = A 2 RA 1 −1 .
The position on the image acquired by the first imaging step and the position on the image acquired by the second imaging step for the corresponding observation point are converted to P 2 = HP 1 .
Eighth aspect of the present invention, the first projective transformation is performed by using the projection transformation matrix H = A 2 (R + tn t / d) A 1 -1,
The position on the image acquired by the first imaging step and the position on the image acquired by the second imaging step for the corresponding observation point are converted to P 2 = HP 1 .
2台の撮像部を、近接、平行に設置するだけで、ミラーを含む大規模な光学系が不要になり、軽量化となる。また、従来方法では観察対象側のレンズは両方の波長に対応して設計する必要があり、複雑化による、重量増加や光量減少などの問題が発生するが、この点を解消することができる。 By simply installing two image pickup units close to each other in parallel, a large-scale optical system including a mirror becomes unnecessary, and the weight is reduced. Further, in the conventional method, the lens on the observation object side needs to be designed for both wavelengths, and problems such as an increase in weight and a decrease in the amount of light occur due to complication, but this point can be solved.
受光波長が異なる2台の撮像部の画像を単純に重ね合わせると図4及び図5に示すようになってしまう。特に、図6に示すような、地面上にあるはずの木漏れ日の日陰と日当たりとの境界付近(一方の撮像部によると日蔭となるが、他方の撮像部によると日当たりとなる個所)において、測定によって得られる反射率比が、本来の反射率比に比べて異常に高くなり、誤計測が発生する。 If the images of two imaging units having different light receiving wavelengths are simply superimposed, the result is as shown in FIGS. In particular, in the vicinity of the boundary between the shade and sunlight of the sunbeams that should be on the ground as shown in FIG. 6 (where the sun is taken according to one imaging unit, the sun is taken according to the other imaging unit), The reflectance ratio obtained by the measurement becomes abnormally higher than the original reflectance ratio, and erroneous measurement occurs.
以下本発明の好ましい実施形態について、図面を参照して説明する。なお、各図において、共通する部分には同一の符号を付し、重複した説明を省略する。 Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings. In each figure, common portions are denoted by the same reference numerals, and redundant description is omitted.
[撮像部]
図1は、本発明の植生検出装置の全体構成図である。同図に示すように、本発明の 植生検出装置10は、植物の葉で吸収されない波長(波長800〜1300nmのうち、幅50nm以上の帯域)の画像を撮影するカメラ11(第1の撮像部)と、葉で吸収される波長(クロロフィル吸収波長帯600〜700nmのうち、幅50nm以上の帯域)の画像を撮影するカメラ12(第2の撮像部)とを具備する。
[Imaging section]
FIG. 1 is an overall configuration diagram of a vegetation detection apparatus according to the present invention. As shown in the figure, the
図2に示すように、カメラ11はフィルタ111、レンズ112、受光素子113を具備し、カメラ12はフィルタ121、レンズ122、受光素子123を具備する。カメラ11とカメラ12とはほぼ同じ方向に向けられて治具120上に固定されているので、両カメラの相対的な位置関係はしっかりと固定されている。
As shown in FIG. 2, the
[光量比]
図1中の対応付け部14により、別のカメラ画像での位置を座標変換で求める事で2つのカメラで同じ場所を撮影した画素同士を対応付ける。この対応する各周波数帯での輝度値(もしくは、その2つの輝度の比率)を利用して後段の反射率比算出部15が反射率比の計算を行う。
[Light intensity ratio]
The
[対応付け位置の算出方法]
対応付け部14では以下のようにして、対となっているカメラの画像上で同じものを見ているはずの対応位置を算出する。
図7にはカメラ間の座標変換のために仮定している位置関係を示す。対応する点を結びつける際、図7に示すように、水平線より下の画像は全て地面の平面上にあると仮定し、水平線より上の画像は全て無限遠の平面上にあると仮定して、近似で対応付けを行う。
このように仮定することによって、以下のように射影変換・座標変換を簡単に計算できる。図8を用いて変換方法を説明する。図3に、植生検出処理の流れを示す。
(1)まず、図8に示すように、まず対応付けを行う画像を画像中の水平線できりわける(図3、ステップS11)。
水平線は車体にジャイロを搭載して現在の傾きを計測し、その傾きから画像上の水平線の位置を推測する方法や、各車輪の車体からの上下方向の伸びを推定し、車輪の位置から地面と車体が成す角度を求め画像上の水平線の位置を推定する方法がある。これらの水平線推定方法により決定された画像上の水平線位置を用いて処理を進める。
(2)次に、水平より上の画像は全て無限遠の平面上にあると仮定して、画像中の位置変換を行い対応付けを行う(図3、ステップS12)。
具体的には、射影変換行列H=A2RA1 -1を用いた射影変換によって対応付けられる。
(3)次に、水平より下の画像は全て地面の平面上にあると仮定して、画像中の位置変換を行い対応付けを行う(図3、ステップS13)。
具体的には、射影変換行列H=A2(R+tnt/d)A1 -1を用いた射影変換によって対応付けられる。
車体と地面の関係、力メラと車体の関係から、力メラに対する地面の姿勢は求まっているものとする。
動揺が発生している場合には、車輪のサスペンションの伸びなどから車体と地面の関係を逐次求めるほうが良いが、動揺が小さいうちは、固定でも、また、別の手段で求めても良い。
対応する点の別力メラの画像上の位置をP2=HP1と変換できる。
x2,y2:第2の撮像部(カメラ12)での座標
fx,fy:力メラのx軸、y軸の焦点距離[画素]、cx,cy:力メラの焦点中心座標[画素]
Rは第1の撮像部(カメラ11)から第2の撮像部(カメラ12)への座標変換回転行列
tは第1の撮像部(カメラ11)から第2の撮像部(カメラ12)への力メラ座標軸中心の位置変換ベクトル
nは撮像部座標系での地面の法線ベクトル
dは地面からの撮像部の高さ
[Calculation method of matching position]
The associating
FIG. 7 shows a positional relationship assumed for coordinate conversion between cameras. When linking the corresponding points, assume that all images below the horizon are on the ground plane, and all images above the horizon are on an infinite plane, as shown in FIG. Match by approximation.
By making assumptions as described above, projective transformation and coordinate transformation can be easily calculated as follows. The conversion method will be described with reference to FIG. FIG. 3 shows the flow of vegetation detection processing.
(1) First, as shown in FIG. 8, first, an image to be associated is divided into horizontal lines in the image (FIG. 3, step S11).
For the horizontal line, a gyro is mounted on the vehicle body, the current inclination is measured, the position of the horizontal line on the image is estimated from the inclination, the vertical extension of each wheel from the vehicle body is estimated, and the ground position is determined from the wheel position. There is a method for obtaining the angle formed by the vehicle body and estimating the position of the horizontal line on the image. The processing proceeds using the horizontal line position on the image determined by these horizontal line estimation methods.
(2) Next, assuming that all the images above the horizontal are on a plane at infinity, the positions in the images are converted and associated (FIG. 3, step S12).
Specifically, they are associated by projective transformation using a projective transformation matrix H = A 2 RA 1 -1 .
(3) Next, assuming that all the images below the horizontal are on the ground plane, the position in the image is converted and the association is performed (FIG. 3, step S13).
Specifically, associated with the corresponding projective transformation using projective transformation matrix H = A 2 (R + tn t / d) A 1 -1.
It is assumed that the posture of the ground with respect to the force mela is obtained from the relationship between the car body and the ground and the relationship between the force mela and the car body.
When shaking is occurring, it is better to sequentially obtain the relationship between the vehicle body and the ground based on the extension of the suspension of the wheel, but as long as the shaking is small, it may be fixed or obtained by another means.
The position of the corresponding point on the image of another power mela can be converted to P 2 = HP 1 .
x2, y2: coordinates at the second imaging unit (camera 12)
fx, fy: Focal length of the force melar x-axis and y-axis [pixel], cx, cy: Focal center coordinates of the force mela [pixel]
R is a coordinate transformation rotation matrix from the first imaging unit (camera 11) to the second imaging unit (camera 12).
t is a position conversion vector at the center of the force coordinate axis from the first imaging unit (camera 11) to the second imaging unit (camera 12).
n is the normal vector of the ground in the imaging unit coordinate system
d is the height of the imaging unit from the ground
反射率比算出部15は、対応する観測点についてカメラ11を用いて得られた反射率とカメラ12を用いて得られた反射率との比を算出する(図3、ステップS14)。
そして、判定部16は、反射率比と閾値とを比較し、観測対象物が植物か否かを判定する(図3、ステップS15)。
The reflectance ratio calculation unit 15 calculates the ratio between the reflectance obtained using the
And the
以上の対応付け位置の算出方法を用いることで次の効果が得られる。 前記のごとく、2台の力メラを、近接、平行に設置するだけで、ミラーを含む大規模な光学系が不要になり、軽量化となる。また、従来方法では観察対象側のレンズは両方の波長に対応して設計する必要があり、複雑化による、重量増加や光量減少などの問題が発生するが、この点を解消することができる。 The following effects can be obtained by using the above-described method for calculating the association position. As described above, a large-scale optical system including a mirror is not necessary and the weight can be reduced by simply installing two force mellars close to each other in parallel. Further, in the conventional method, the lens on the observation object side needs to be designed for both wavelengths, and problems such as an increase in weight and a decrease in the amount of light occur due to complication, but this point can be solved.
[反射率比算出部の計算方法]
反射率比算出部15では以下のようにして反射率比を求める。
重ね合わせる画像同士を以下のように単位時間あたりの受光光量I=V/(E・K)で正規化した値を求め、その2つの値から得られる商により、反射率比RefRateを求める(V:画素値、E:露光時間、K:撮影ゲイン)。カメラ内での効率Qは以下に示すRefBase(反射率比を求めるための外部要因を総合した係数)に吸収してある。
t=initはキャリブレーション時,A=近赤外用カメラ,B=600〜700nm(クロロフィル吸収帯)用カメラをあらわす。
Etf:カメラf、時刻tの露光時間
Ktf:カメラf、時刻tのゲイン
Rf:周波数帯域fでのキャリブレーション被写体の反射率(既知)。
[Calculation method of reflectance ratio calculation unit]
The reflectance ratio calculation unit 15 obtains the reflectance ratio as follows.
A value obtained by normalizing received images per unit time I = V / (E · K) is obtained as follows, and a reflectance ratio RefRate is obtained from a quotient obtained from the two values (V : Pixel value, E: exposure time, K: photographing gain). The efficiency Q in the camera is absorbed in the following RefBase (a coefficient that combines external factors for obtaining the reflectance ratio).
t = init represents a camera for A = near infrared and B = 600 to 700 nm (chlorophyll absorption band) during calibration.
E t f: exposure time at camera f, time t K t f: gain at camera f, time t Rf: reflectance of calibration subject in frequency band f (known).
光源が同じときには、カメラの撮影条件が異なっても正しい反射率比を計算しつづけることができる。
光源の分光の光量の比率が変化する場合には、画像の端にキャリブレーション用の被写体を常時撮影できるようにしておいて、キャリブレーションを常時行っても良い。キャリブレーション用の被写体とは、たとえば全ての可視から短波長赤外までで反射率の変化が5%以内となる標準反射板などである。
以上の計算についての詳細な導出は、[反射率比に関する導出]以降に記述する。
When the light source is the same, it is possible to continue calculating the correct reflectance ratio even if the shooting conditions of the camera are different.
When the ratio of the spectral light quantity of the light source changes, the calibration may be constantly performed by allowing the calibration subject to be always photographed at the edge of the image. The calibration subject is, for example, a standard reflector or the like in which the change in reflectance is within 5% from all visible to short wavelength infrared.
Detailed derivation of the above calculation will be described in [Derivation on reflectance ratio].
以上の反射率比の計算方法を用いることで次のような効果が得られる。
標準反射板のデータを常に用いる必要が無くなり(標準反射板のデータを時々用いれば良くなり)、別の光源の(色の異なる)光が標準反射板に差し込んでも、その時のRefBaseは採用せず、信頼性の高いときのRefBase及びそれらを積算してノイズを取り除いたRefBaseを用いることで、より正確性が高い計測が可能になる。
By using the reflectance ratio calculation method described above, the following effects can be obtained.
It is no longer necessary to always use the data of the standard reflector (the data of the standard reflector may be used occasionally), and even if light from another light source (different color) is inserted into the standard reflector, the RefBase at that time is not adopted. By using RefBase when the reliability is high and RefBase obtained by integrating them to remove noise, measurement with higher accuracy becomes possible.
標準反射板を常に見る必要が無いので、時々一瞬、標準反射板を見るようにしても良い。これにより、通常は広い視界を持ち、行動が一時停止した際などに再キャリブレーションするという使い方も可能になる。この場合、視野が有効に活用できるという利点がある。 Since it is not necessary to always look at the standard reflector, the standard reflector may be seen from moment to moment. As a result, it is possible to use recalibration when the action is temporarily stopped, usually having a wide field of view. In this case, there is an advantage that the visual field can be effectively used.
反射率比そのものに基づいて植生判定を行うのではなく、反射率比を1対1で変換する関数を用いて、判りやすくしても良い。この関数の1つの例として、F(RefRate) = (RefRate-1)/(RefRate+1)があり、
NDVI=(Ra-Rb)/(Ra+Rb)=F(RefRate)に相当する。
Instead of performing vegetation determination based on the reflectance ratio itself, it may be easy to understand by using a function that converts the reflectance ratio on a one-to-one basis. One example of this function is F (RefRate) = (RefRate-1) / (RefRate + 1)
This corresponds to NDVI = (Ra−Rb) / (Ra + Rb) = F (RefRate).
[反射率比算出部のバリエーション]
反射率比の推定方法には以下のような補正を行うバリエーションが考えられる。
日付、時刻をパラメータとして又は太陽の傾きをパラメータとしてRefBaseを補正する補正係数Mod(t)を予め求めておき、
補正後のRefBase=補正前のRefBase×Mod(t)
によって補正後のRefBaseを算出する。
[Variation of reflectance ratio calculation part]
Variations in the following correction may be considered for the reflectance ratio estimation method.
A correction coefficient Mod (t) for correcting RefBase with the date and time as parameters or with the sun tilt as a parameter is obtained in advance,
RefBase after correction = RefBase before correction × Mod (t)
To calculate the corrected RefBase.
この補正値を使う方法を用いると、補正用の標準反射板を常に視界内にとどめる必要が無く、視野を有効活用できるという利点が得られる。 When this correction value is used, it is not necessary to always keep the standard reflector for correction in the field of view, and there is an advantage that the field of view can be used effectively.
[判定部の判定方法]
判定部16では以下のようにして判定を行う。
屋外に一般的に存在する材質の近赤外(800〜1000nmで計測)、および、可視光赤(600〜700nmで計測)の反射率を表1に示す。
この表1が示すように植物の葉は非常に大きい反射率比を持っている。このため、反射率比の閾値(表からは2.0付近が望ましいと読み取れる)で判定を行い、画像中でそれより大きい値を示す場所を植生、それより小さい値を示す場所を非植生と判定する。
この後、必要に応じて、ノイズ除去を実施する。これには、例えば、1画素(ないし数画素)の孤立した場所を周囲の判定と同じものとして塗りつぶす処理などがある。
[Judgment method of judgment part]
The
Table 1 shows the reflectance of near infrared (measured at 800 to 1000 nm) and visible light red (measured at 600 to 700 nm) of materials generally existing outdoors.
As Table 1 shows, the leaves of plants have a very large reflectance ratio. For this reason, it is determined by the threshold value of the reflectance ratio (it can be read that 2.0 is desirable from the table). judge.
Thereafter, noise removal is performed as necessary. This includes, for example, a process of painting an isolated place of one pixel (or several pixels) as the same as the surrounding determination.
[重ね合わせ誤差に関する見積もり]
前述の近似による座標変換における対応付けによって、車両が行動するために植物かどうかを知るべき範囲において、正しい判別が行えることを以下に示す。
[Estimation for overlay error]
It will be shown below that correct discrimination can be performed within the range in which it is necessary to know whether the vehicle is a plant for the vehicle to act by the association in the coordinate transformation based on the approximation described above.
運用環境の例として、以下に示す。
レンズは、視野を広く取るため焦点距離8mm、受光素子8.8mm×6.6mmとする。カメラは、VGAサイズの画素を持つものとする。
The following are examples of operational environments.
The lens has a focal length of 8 mm and a light receiving element of 8.8 mm × 6.6 mm in order to take a wide field of view. It is assumed that the camera has VGA size pixels.
一般に出回っているカメラの形状を調べ、大半で使えるようにサイズを設計した結果、2台のカメラはいずれも横幅35mm〜60mm、レンズ直径25mm〜52mmぐらいで考えるものとする。これにより、2台のカメラ間の距離(中心間の距離)は調整しろを含め75mmとする。
カメラの設置位置は、遠くまで見通すため車両の上に設置するため、地上高さ2mで、向きは水平とする。
このとき地面が見える位置は約5m前方となる。
カメラと対象物との距離が短い程、視差の影響を受ける。このため、重ね合わせ誤差は5mの位置が最大となる。
観測対象エリアは地上400mmまでとする。なぜなら、車の車輪径が700mm前後であり、その半径までが行動の判定に重要であり、そこまでが植物で構成されているかを知ることが重要である。
As a result of investigating the shape of cameras that are generally available and designing the size so that they can be used in most cases, the two cameras are assumed to have a width of 35 mm to 60 mm and a lens diameter of 25 mm to 52 mm. Accordingly, the distance between the two cameras (the distance between the centers) is set to 75 mm including the adjustment margin.
The camera is installed on the vehicle so that it can be seen far away, so it is 2m above the ground and the orientation is horizontal.
At this time, the position where the ground can be seen is about 5 m ahead.
The shorter the distance between the camera and the object, the more affected by the parallax. For this reason, the overlay error is maximized at a position of 5 m.
The observation area is up to 400mm above the ground. This is because the wheel diameter of the car is around 700 mm, and that radius is important for the action determination, and it is important to know whether the radius is composed of plants.
図9に誤差検証のための想定視野を示し、図10に誤差検証のための想定配置を示す。図10において、Hreal=2000mm, Lreal=5000mm, Hofs=400mmとする。Hreal=2000mm, Lreal=5000mm, Hofs=400mmよりLofs=1250mmとなる。
Lreal=5000mmにおける実際に発生している視差は9.6画素、計算上の位置であるLreal=6250mmにより補正で修正される視差は7.8画素となり、補正後の位置誤差は2画素未満となる。
FIG. 9 shows an assumed field of view for error verification, and FIG. 10 shows an assumed arrangement for error verification. In FIG. 10, Hreal = 2000 mm, Lreal = 5000 mm, and Hofs = 400 mm. Lofs = 1250mm from Hreal = 2000mm, Lreal = 5000mm, Hofs = 400mm.
The parallax actually generated at Lreal = 5000 mm is 9.6 pixels, the parallax corrected by the correction based on the calculated position Lreal = 6250 mm is 7.8 pixels, and the corrected position error is less than 2 pixels.
この近似の誤差によって発生する誤認識画素は、横方向に1画素程度の幅を持つ、断続領域となる。このような領域は、途中の処理で行うノイズ除去(一般的には検出前に行う画素値の移動平均、及び、検出後に行われることが多い孤立点群除去(たとえば、収縮フィルタ後に膨張フィルタ処理を実施))によって除去されてしまう。つまり、この近似により発生する誤差は、ノイズ・誤差除去で補正される範囲内であり、車両が行動に必要な範囲の情報は正常に入手できることがわかる。 A misrecognized pixel generated by this approximate error becomes an intermittent region having a width of about one pixel in the horizontal direction. Such an area includes noise removal performed in the middle of processing (generally, a moving average of pixel values performed before detection, and isolated point group removal often performed after detection (for example, expansion filter processing after contraction filtering). ))). That is, it can be seen that the error generated by this approximation is within the range corrected by noise and error removal, and information on the range necessary for the vehicle to be able to act is normally obtained.
なお、平射影による近似を行わず、カメラの向きを平行に設置して撮影した(もしくは、平行撮影となるように補正した)画像を重ね合わせるだけでは、図4及び図5に示すように、Lreal=5000mmにおける補正視差は9.6画素がそのまま、ずれ量となり9画素という大きな誤検出の帯が画像に発生し、大きな問題となる。
ここで、平射影とは、前記のように、(1)対応付けを行う画像を画像中の水平線で切り分け、(2)水平より上の画像は無限遠にあると仮定し、(3)水平より下の画像はすべて地面の平面上にあると仮定して行う位置変換を言う。
In addition, as shown in FIGS. 4 and 5, only by superimposing images taken with the camera orientation set in parallel (or corrected for parallel shooting) without approximation by plane projection, as shown in FIGS. The correction parallax at Lreal = 5000 mm is 9.6 pixels as it is, and the amount of shift becomes a large misdetection band of 9 pixels in the image, which is a big problem.
Here, as described above, the flat projection is as follows: (1) images to be associated are separated by horizontal lines in the images, (2) images above the horizontal are assumed to be at infinity, and (3) horizontal This is a position transformation that assumes that all lower images are on the ground plane.
[反射率比に関する導出]
図11を用いて反射率比の導出を説明する。反射率比算出のための計算式は後述のとおりであり、観測した画素値からリアルタイムに求めることができる。
[Derivation of reflectance ratio]
The derivation of the reflectance ratio will be described with reference to FIG. The calculation formula for calculating the reflectance ratio is as described later, and can be obtained in real time from the observed pixel values.
各カメラ上の位置X,Yで得られる単位時間光量:IA(XA,YA), IB(XB,YB)
各カメラ上の位置X,Yの画素値:VA(XA,YA), VB(XB,YB)
各カメラの露光時間:EA,EB
各カメラのゲイン設定:KA,KB
観測対象の座標(x,y,z)
光源の各波長での光量:LA,LB
観測対象の各帯域での反射率RA(x,y,z),RB(x,y,z)
観測対象の入射角(ψ)、観測角(λ)依存の反射率D(ψ、λ)
光源から観測対象までの経路上でのロス(光源から観測対象への向きに光量分布を含む:
PA(x,y,z),PB(x,y,z)
観測対象から受光面までの経路上でのロス:WA(x,y,z),WB(x,y,z)
(大気中・近距離なので、レンズのF値から求まる値となる)
受光面での変換効率:QA,QB
(受光面積と変換効率の積となる。)
Unit-time light intensity obtained at positions X and Y on each camera: IA (XA, YA), IB (XB, YB)
Pixel values at positions X and Y on each camera: VA (XA, YA), VB (XB, YB)
Exposure time of each camera: EA, EB
Gain setting for each camera: KA, KB
Observed coordinates (x, y, z)
Light intensity at each wavelength of light source: LA, LB
Reflectance RA (x, y, z), RB (x, y, z) in each band to be observed
Reflectance D (ψ, λ) depending on the incident angle (ψ) and observation angle (λ) of the observation target
Loss on the path from the light source to the observation target (including the light intensity distribution in the direction from the light source to the observation target:
PA (x, y, z), PB (x, y, z)
Loss on the path from the observation target to the light receiving surface: WA (x, y, z), WB (x, y, z)
(Because it is in the air and at close range, it is the value obtained from the F value of the lens)
Conversion efficiency on the light receiving surface: QA, QB
(It is the product of light receiving area and conversion efficiency.)
既知の反射特性Rref Aを観測したときのパラメータをI A のようにアンダーバー付きで書くと以下のようになる。
IA (XA,YA)/I A =
{LA・PA(x,y,z)・RA(x,y,z)・D(ψ、λ)・WA(x,y,z)・QA}/
{L A ・P A (x,y,z)・Rref A・R A (x,y,z)・W A (x,y,z)・QA}
Q,Wが固定でLの変動が少ないと考えると以下のようになる。
IA (XA,YA)/I A =RA(x,y,z)・{PA(x,y,z)・D(ψ、λ)/P A (x,y,z)・Rref A}・・・(C)
IB (XB,YB)/I B =RB(x,y,z)・{PB(x,y,z)・D(ψ、λ)/P B (x,y,z)・Rref B}・・・(D)
(C)÷(D)より
The parameters when the known reflection characteristic R ref A is observed are written as follows with underbars like I A.
I A (X A , Y A ) / I A =
{L A・ P A (x, y, z) ・ R A (x, y, z) ・ D (ψ, λ) ・ W A (x, y, z) ・ Q A } /
{ L A ・P A (x, y, z) ・ R ref A・R A (x, y, z) ・W A (x, y, z) ・ Q A }
Assuming that Q and W are fixed and L fluctuation is small, it becomes as follows.
I A (X A , Y A ) / I A = R A (x, y, z) ・ (P A (x, y, z) ・ D (ψ, λ) / P A (x, y, z)・ R ref A } ・ ・ ・ (C)
I B (X B , Y B ) / I B = R B (x, y, z) ・ {P B (x, y, z) ・ D (ψ, λ) / P B (x, y, z)・ R ref B } ・ ・ ・ (D)
(C) ÷ (D)
太陽などが光源の場合には大気の影響を受けるため、[数9]で仮定した条件は用いることができない。ここでは、経路の状態が大きく変化するまで、つまり太陽光の散乱が増減する原因となる太陽の傾きの大きな変化が無い間は[数11]で示す条件となる。さらに、(C)÷(D)である(E)に、先の[数11]を代入することにより(F)が得られる。このように、照明利用時、キャリブレーション後に位置があまり変わっていない太陽光源について、ともに(F)の結果となる。 When the sun or the like is a light source, the condition assumed in [Equation 9 ] cannot be used because it is affected by the atmosphere. Here, the condition shown in [Equation 11 ] is satisfied until the path state changes greatly, that is, while there is no significant change in the inclination of the sun that causes the scattering of sunlight to increase or decrease. Furthermore, (F) is obtained by substituting the previous [Equation 11 ] into (E) which is (C) ÷ (D). As described above, when using the illumination, the result of (F) is obtained for both the solar light sources whose positions have not changed much after calibration.
このRefBaseの定義(G)で(F)式の右辺の一部を置き換えると、反射率比は
When a part of the right side of the equation (F) is replaced with the definition (G) of this RefBase, the reflectance ratio is
一方、反射率比RefRateは[数15]のIA,IBをI=V/(E×K)で置き換え
On the other hand, the reflectance ratio RefRate replaces IA and IB in [Equation 15 ] with I = V / (E × K).
[環境変化への対応]
太陽の角度(時刻・季節)と雲量(その季節・時刻本来の明るさと照度計によって計測した照度により推測)から各周波数の透過率のテーブル(もしくは、近似式)をつくっておき、キャリブレーション時と現在の角度・雲量を以下の式
[Responding to environmental changes]
During calibration, create a table (or approximate expression) for the transmittance of each frequency from the sun angle (time / season) and cloud cover (estimated from the original brightness of the season / time and the illuminance measured by the illuminometer). And the current angle and cloud cover as
Pa/Pb, Pa/Pbは、植生有無判定時およびリファレンス計測時の時刻および天候によって決定される。特に、波長が長いほど大気の散乱は少なく、また太陽の傾きが水平に近いほど散乱の影響が大きくなるため、夕方など太陽が水平に近づくほど、波長が短い光の減衰率が大きくなる。このため、太陽の角度を時刻から計算し、太陽の角度とMod(t)のテーブルを作っておいても良い。また、日付・時刻からMod(t)をテーブル引きする方法でも良い。中途半端な時間については最も近い時刻を選ぶ、または前後の時刻の値の加重平均などで求めても良い。 Pa / Pb and Pa / Pb are determined by the time and weather at the time of vegetation presence determination and reference measurement. In particular, the longer the wavelength, the less the atmosphere scatters, and the closer the sun's tilt is to the horizontal, the greater the effect of the scattering. For this reason, the sun angle may be calculated from the time, and a table of the sun angle and Mod (t) may be created. Also, a method in which Mod (t) is tabled from the date / time may be used. For the halfway time, the nearest time may be selected or may be obtained by a weighted average of values of previous and subsequent times.
実際には、指標に関するパラメータは以下のように変化している。このような太陽の角度とPa/Pbのテーブルを用いると良い。 Actually, the parameters related to the index change as follows. It is good to use such a sun angle and Pa / Pb table.
[変形例]
クロロフィルだけでなく、水(吸収波長1400-1500nm, 1850-2050nm)、カロティン(400-500nm)、又はセルロース(2100nm周辺)の吸収帯を利用して植生を検出することもできる。
[Modification]
Vegetation can also be detected using not only chlorophyll but also absorption bands of water (absorption wavelengths 1400-1500 nm, 1850-2050 nm), carotene (400-500 nm), or cellulose (around 2100 nm).
なお、本発明は、上述した実施形態に限定されず、本発明の要旨を逸脱しない範囲で種々に変更することができることは勿論である。 In addition, this invention is not limited to embodiment mentioned above, Of course, it can change variously in the range which does not deviate from the summary of this invention.
10 植生検出装置
11 第1の撮像部
12 第2の撮像部
14 対応付け部
15 反射率比算出部
16 判定部
17 記憶部
DESCRIPTION OF
Claims (8)
第2の波長帯域のみを透過させる第2の光学フィルタを有する第2の撮像部と、
撮像された画像を画像中の水平線で切り分け、水平線より下の画像は全て地面の平面上にあると仮定して、第1の射影変換を行い、第1の撮像部によって取得された観測データと第2の撮像部によって取得された観測データとを対応付ける対応付け部と、
対応付けられた観測データに関して、第1の撮像部によって取得された観測データに基づいて算出される反射率と、第2の撮像部によって取得された観測データに基づいて算出される反射率との比を算出する反射率比算出部と、
前記反射率比を所定の閾値と比較することによって、観測対象物が植物か否かを判別する判別部と、
を具備することを特徴とする植生検出装置。 A first imaging unit having a first optical filter that transmits only the first wavelength band;
A second imaging unit having a second optical filter that transmits only the second wavelength band;
The captured image is divided by a horizontal line in the image, and the first projective transformation is performed on the assumption that all the images below the horizontal line are on the ground plane, and the observation data acquired by the first imaging unit An associating unit for associating observation data acquired by the second imaging unit;
With respect to the associated observation data, the reflectance calculated based on the observation data acquired by the first imaging unit and the reflectance calculated based on the observation data acquired by the second imaging unit A reflectance ratio calculator for calculating the ratio;
A determination unit that determines whether or not the observation target is a plant by comparing the reflectance ratio with a predetermined threshold value;
A vegetation detection device comprising:
対応する観測点について第1の撮像部の画像上の位置と第2の撮像部の画像上の位置をP2=HP1と変換することを特徴とする請求項2記載の植生検出装置。
fx,fy:力メラのx軸、y軸の焦点距離[画素]、cx,cy:力メラの焦点中心座標[画素]
Rは第1の撮像部から第2の撮像部への座標変換回転行列
tは第1の撮像部から第2の撮像部への力メラ座標軸中心の位置変換ベクトル
nは撮像部座標系での地面の法線ベクトル
dは地面からの撮像部の高さ Performing the second projective transformation using a projective transformation matrix H = A 2 RA 1 −1 ;
Vegetation detecting device according to claim 2, wherein a position on the first imaging unit of the image and the position on the image of the second imaging unit to convert the P 2 = HP 1 for the corresponding observation point.
fx, fy: Focal length of the force melar x-axis and y-axis [pixel], cx, cy: Focal center coordinates of the force mela [pixel]
R is a coordinate transformation rotation matrix from the first imaging unit to the second imaging unit
t is a position conversion vector at the center of the force coordinate axis from the first imaging unit to the second imaging unit.
n is the normal vector of the ground in the imaging unit coordinate system
d is the height of the imaging unit from the ground
対応する観測点について第1の撮像部の画像上の位置と第2の撮像部の画像上の位置をP2=HP1と変換することを特徴とする請求項1、2又は3記載の植生検出装置。
fx,fy:力メラのx軸、y軸の焦点距離[画素]、cx,cy:力メラの焦点中心座標[画素]
Rは第1の撮像部から第2の撮像部への座標変換回転行列
tは第1の撮像部から第2の撮像部への力メラ座標軸中心の位置変換ベクトル
nは撮像部座標系での地面の法線ベクトル
dは地面からの撮像部の高さ Performing the first projective transformation using a projective transformation matrix H = A 2 (R + tn t / d) A 1 −1 ;
The vegetation according to claim 1, 2 or 3 , wherein the position on the image of the first image pickup unit and the position on the image of the second image pickup unit are converted to P 2 = HP 1 for the corresponding observation point. Detection device.
fx, fy: Focal length of the force melar x-axis and y-axis [pixel], cx, cy: Focal center coordinates of the force mela [pixel]
R is a coordinate transformation rotation matrix from the first imaging unit to the second imaging unit
t is a position conversion vector at the center of the force coordinate axis from the first imaging unit to the second imaging unit.
n is the normal vector of the ground in the imaging unit coordinate system
d is the height of the imaging unit from the ground
第2の波長帯域のみを透過させる第2の光学フィルタを用いて撮像する第2の撮像ステップと、
撮像された画像を画像中の水平線で切り分ける切り分けステップと、
水平線より下の画像は全て地面の平面上にあると仮定して、第1の射影変換を行い、第1の撮像部によって取得された観測データと第2の撮像部によって取得された観測データとを対応付ける第1の対応付けステップと、
対応付けられた観測データに関して、第1の撮像ステップによって取得された観測データに基づいて算出される反射率と、第2の撮像ステップによって取得された観測データに基づいて算出される反射率との比を算出する反射率比算出ステップと、
前記反射率比を所定の閾値と比較することによって、観測対象物が植物か否かを判別する判別ステップと、
を含むことを特徴とする植生検出方法。 A first imaging step of imaging using a first optical filter that transmits only the first wavelength band;
A second imaging step of imaging using a second optical filter that transmits only the second wavelength band;
A separation step of separating the captured image by a horizontal line in the image;
Assuming that all images below the horizon are on the ground plane, the first projective transformation is performed, and the observation data acquired by the first imaging unit and the observation data acquired by the second imaging unit A first associating step for associating
With respect to the associated observation data, the reflectance calculated based on the observation data acquired by the first imaging step and the reflectance calculated based on the observation data acquired by the second imaging step A reflectance ratio calculating step for calculating a ratio;
A determination step of determining whether the observation object is a plant by comparing the reflectance ratio with a predetermined threshold;
A vegetation detection method comprising:
対応する観測点について第1の撮像ステップによって取得された画像上の位置と第2の撮像ステップによって取得された画像上の位置をP2=HP1と変換することを特徴とする請求項6記載の植生検出方法。
fx,fy:力メラのx軸、y軸の焦点距離[画素]、cx,cy:力メラの焦点中心座標[画素]
Rは第1の撮像部から第2の撮像部への座標変換回転行列
tは第1の撮像部から第2の撮像部への力メラ座標軸中心の位置変換ベクトル
nは撮像部座標系での地面の法線ベクトル
dは地面からの撮像部の高さ Performing the second projective transformation using a projective transformation matrix H = A 2 RA 1 −1 ;
Claim 6, wherein converting the position on acquired by the first position and a second imaging step on the acquired image by the imaging step for the corresponding observation point image and P 2 = HP 1 Vegetation detection method.
fx, fy: Focal length of the force melar x-axis and y-axis [pixel], cx, cy: Focal center coordinates of the force mela [pixel]
R is a coordinate transformation rotation matrix from the first imaging unit to the second imaging unit
t is a position conversion vector at the center of the force coordinate axis from the first imaging unit to the second imaging unit.
n is the normal vector of the ground in the imaging unit coordinate system
d is the height of the imaging unit from the ground
対応する観測点について第1の撮像ステップによって取得された画像上の位置と第2の撮像ステップによって取得された画像上の位置をP2=HP1と変換することを特徴とする請求項5、6又は7記載の植生検出方法。
fx,fy:力メラのx軸、y軸の焦点距離[画素]、cx,cy:力メラの焦点中心座標[画素]
Rは第1の撮像部から第2の撮像部への座標変換回転行列
tは第1の撮像部から第2の撮像部への力メラ座標軸中心の位置変換ベクトル
nは撮像部座標系での地面の法線ベクトル
dは地面からの撮像部の高さ Performing the first projective transformation using a projective transformation matrix H = A 2 (R + tn t / d) A 1 −1 ;
6. The position on the image acquired by the first imaging step and the position on the image acquired by the second imaging step for the corresponding observation point are converted to P 2 = HP 1 , The vegetation detection method according to 6 or 7 .
fx, fy: Focal length of the force melar x-axis and y-axis [pixel], cx, cy: Focal center coordinates of the force mela [pixel]
R is a coordinate transformation rotation matrix from the first imaging unit to the second imaging unit
t is a position conversion vector at the center of the force coordinate axis from the first imaging unit to the second imaging unit.
n is the normal vector of the ground in the imaging unit coordinate system
d is the height of the imaging unit from the ground
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008208717A JP5102718B2 (en) | 2008-08-13 | 2008-08-13 | Vegetation detection apparatus and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008208717A JP5102718B2 (en) | 2008-08-13 | 2008-08-13 | Vegetation detection apparatus and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010044623A JP2010044623A (en) | 2010-02-25 |
JP5102718B2 true JP5102718B2 (en) | 2012-12-19 |
Family
ID=42015949
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008208717A Active JP5102718B2 (en) | 2008-08-13 | 2008-08-13 | Vegetation detection apparatus and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5102718B2 (en) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012189535A (en) * | 2011-03-14 | 2012-10-04 | Ihi Corp | Vegetation detecting device and method for detecting vegetation |
JP5862160B2 (en) * | 2011-09-27 | 2016-02-16 | 株式会社Ihi | Object identification method and apparatus |
WO2015045501A1 (en) * | 2013-09-27 | 2015-04-02 | 日立オートモティブシステムズ株式会社 | External environment recognition device |
JP6933211B2 (en) * | 2016-06-22 | 2021-09-08 | ソニーグループ株式会社 | Sensing system, sensing method, and sensing device |
US10204270B2 (en) * | 2016-11-17 | 2019-02-12 | Fruitspec Ltd | Method and system for crop yield estimation |
CN111080771B (en) * | 2020-03-20 | 2023-10-20 | 浙江华云电力工程设计咨询有限公司 | Information model construction method applied to three-dimensional intelligent aided design |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4106894B2 (en) * | 2001-10-17 | 2008-06-25 | 三菱電機株式会社 | Target detection device |
JP2005242606A (en) * | 2004-02-26 | 2005-09-08 | Olympus Corp | Image generation system, image generation program and image generation method |
JP3937414B2 (en) * | 2004-08-11 | 2007-06-27 | 本田技研工業株式会社 | Planar detection apparatus and detection method |
JP2007183710A (en) * | 2006-01-04 | 2007-07-19 | Hitachi Software Eng Co Ltd | Color saturation correction system for green space |
-
2008
- 2008-08-13 JP JP2008208717A patent/JP5102718B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2010044623A (en) | 2010-02-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5102718B2 (en) | Vegetation detection apparatus and method | |
JP5160370B2 (en) | Autonomous mobile robot device, mobile body steering assist device, autonomous mobile robot device control method, and mobile body steering assist method | |
JP6570327B2 (en) | Control device, imaging device, control method, program, and storage medium | |
KR102516326B1 (en) | Camera extrinsic parameters estimation from image lines | |
JP5157067B2 (en) | Automatic travel map creation device and automatic travel device. | |
JP6321895B2 (en) | SPECTRUM CAMERA CONTROL APPARATUS, SPECTRUM CAMERA CONTROL PROGRAM, SPECTRUM CAMERA CONTROL SYSTEM, AIRCRAFT EQUIPPED WITH THIS SYSTEM AND SPECTRUM IMAGE PICKUP METHOD | |
US8831370B2 (en) | Wavelength diverse scintillation reduction | |
EP3045936A1 (en) | Surround sensing system with telecentric optics | |
US20150288948A1 (en) | System and method for night vision object detection and driver assistance | |
EP3045935A1 (en) | Surround sensing system with dome-filter assembly | |
AU2015234395A1 (en) | Real-time range map generation | |
TW201403553A (en) | Method of automatically correcting bird's eye images | |
JP6574845B2 (en) | Drawing creating apparatus and drawing creating method | |
JP5224906B2 (en) | Vegetation detection apparatus and method | |
CN110998657B (en) | Image processing apparatus, image processing method, and program | |
US20210011358A1 (en) | Control method and device, gimbal, unmanned aerial vehicle, and computer-readable storage medium | |
WO2014185479A1 (en) | Image processing system | |
KR20200084972A (en) | Method for acquisition of hyperspectral image using an unmanned aerial vehicle | |
CN107323677B (en) | Unmanned aerial vehicle auxiliary landing method, device, equipment and storage medium | |
KR102129738B1 (en) | Autonomous tractor having crop hight sensing algorithm and hight correcting algorithm | |
KR101407508B1 (en) | System and method for extracting mobile path of mobile robot using ground configuration cognition algorithm | |
WO2014054752A1 (en) | Image processing device and device for monitoring area in front of vehicle | |
CN105865350A (en) | 3D object point cloud imaging method | |
CN106846385B (en) | Multi-sensing remote sensing image matching method, device and system based on unmanned aerial vehicle | |
SE1130099A1 (en) | Procedure for Gain Folder Generation in an IR Camera, and IR Camera for Performing Gain Folder Generation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110325 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120123 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120131 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120327 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120911 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120928 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151005 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5102718 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |