JPWO2014091877A1 - 移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法 - Google Patents
移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法 Download PDFInfo
- Publication number
- JPWO2014091877A1 JPWO2014091877A1 JP2014551946A JP2014551946A JPWO2014091877A1 JP WO2014091877 A1 JPWO2014091877 A1 JP WO2014091877A1 JP 2014551946 A JP2014551946 A JP 2014551946A JP 2014551946 A JP2014551946 A JP 2014551946A JP WO2014091877 A1 JPWO2014091877 A1 JP WO2014091877A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- moving object
- posture angle
- fisheye lens
- pinhole
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 108
- 238000005452 bending Methods 0.000 claims abstract description 51
- 238000012937 correction Methods 0.000 claims description 9
- 238000003384 imaging method Methods 0.000 claims description 9
- 238000012545 processing Methods 0.000 description 24
- 238000004364 calculation method Methods 0.000 description 11
- 239000002245 particle Substances 0.000 description 10
- 230000000694 effects Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
- G01C21/28—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B13/00—Optical objectives specially designed for the purposes specified below
- G02B13/001—Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras
- G02B13/0015—Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras characterised by the lens design
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/147—Details of sensors, e.g. sensor lenses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30236—Traffic on road, railway or crossing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Automation & Control Theory (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Vascular Medicine (AREA)
- Optics & Photonics (AREA)
- Navigation (AREA)
- Traffic Control Systems (AREA)
- Mechanical Engineering (AREA)
- Geometry (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本発明の移動物***置姿勢角推定装置10は、移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を取得し、魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得する。そして、移動物体の進行方向における走行路の屈曲度を検出し、検出された屈曲度が所定値未満の場合にはピンホール画像を選択し、屈曲度が所定値以上の場合には魚眼レンズ画像を選択する。その後、選択された画像のエッジ情報と三次元地図データとのマッチングを行って移動物体の位置及び姿勢角を推定する。
Description
本発明は、移動物体の位置及び姿勢角を推定する移動物***置姿勢角推定装置及びその方法に関する。
従来、三次元地図情報と魚眼レンズカメラの撮像画像とをマッチングすることによって移動物体の自己位置を算出する技術が開発されており、特許文献1が開示されている。
この技術では、車両に設置された魚眼レンズカメラで信号機を撮像し、撮像した信号機画像から車両に対する仰角と水平角を算出した上で、信号機の発光位置座標と高さとから車両の現在位置を特定している。
しかしながら、上述した従来の技術では、車両の自己位置を推定するためには信号機が必要であり、信号機のない交差点や単路等では自己位置を推定することができないという問題点があった。
そこで、本発明は、上述した実情に鑑みて提案されたものであり、信号機のような特定の装置がなくても移動物体の位置及び姿勢角を推定することのできる移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法を提供することを目的とする。
上述した課題を解決するために、本発明は、移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を取得し、魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得する。そして、移動物体の進行方向における走行路の屈曲度を検出し、検出された屈曲度が所定値未満の場合にはピンホール画像を選択し、屈曲度が所定値以上の場合には魚眼レンズ画像を選択する。こうして画像が選択されると、選択された画像のエッジ情報と三次元地図データから抽出された仮想画像のエッジ情報とのマッチングを行って移動物体の位置及び姿勢角を推定する。
以下、本発明を適用した第1〜第7実施形態について図面を参照して説明する。
[第1実施形態]
[移動物***置姿勢角推定装置の構成]
図1は、本実施形態に係る移動物***置姿勢角推定装置を搭載した移動物***置姿勢角推定システムの構成を示すブロック図である。図1に示すように、本実施形態に係る移動物***置姿勢角推定システムは、ECU1と、魚眼レンズカメラ2と、三次元地図データベース3と、車両センサ群4と、ナビゲーションシステム5とを備えている。尚、本実施形態では、移動物***置姿勢角推定装置を車両に適用した場合について説明する。
[移動物***置姿勢角推定装置の構成]
図1は、本実施形態に係る移動物***置姿勢角推定装置を搭載した移動物***置姿勢角推定システムの構成を示すブロック図である。図1に示すように、本実施形態に係る移動物***置姿勢角推定システムは、ECU1と、魚眼レンズカメラ2と、三次元地図データベース3と、車両センサ群4と、ナビゲーションシステム5とを備えている。尚、本実施形態では、移動物***置姿勢角推定装置を車両に適用した場合について説明する。
ここで、ECU1は、ROM、RAM、演算回路等によって構成された電子制御ユニットであり、本実施形態に係る移動物***置姿勢角推定装置10を備えている。尚、ECU1は他の制御に用いるECUと兼用してもよい。
魚眼レンズカメラ2は、例えばCCD等の固体撮像素子を用いたものであり、本実施形態では、車両のフロントバンパーに光軸が水平で、尚且つ車両前方が撮像可能となるように設置されている。撮像された魚眼レンズ画像は、ECU1へ送信される。また、魚眼レンズは画角が約170[deg]で等距離射影方式の一般的なものでよい。
三次元地図データベース3は、例えば路面表示を含む周囲環境のエッジ等の三次元位置情報を記憶している。本実施形態では、少なくとも道路端部を示す区画線や縁石等の位置とその向きの三次元情報が記録されており、この他に白線、停止線、横断歩道、路面マーク等の路面表示の他に、建物等の構造物のエッジ情報も含まれている。尚、三次元地図データベース3のデータフォーマットとして、道路端部等の各地図情報は、エッジの集合体として定義されている。エッジが長い直線の場合には、例えば1m毎に区切られるため、極端に長いエッジは存在しない。直線の場合には、各エッジは、直線の両端点を示す三次元位置情報を持っている。曲線の場合には、各エッジは、曲線の両端点と中央点を示す三次元位置情報を持っている。
車両センサ群4は、GPS受信機41と、アクセルセンサ42と、ステアリングセンサ43と、ブレーキセンサ44と、車速センサ45と、加速度センサ46と、車輪速センサ47と、三軸ジャイロセンサ48とを備えている。車両センサ群4は、ECU1に接続され、各センサ41〜48によって検出された各種の検出値をECU1に供給する。ECU1は、車両センサ群4の出力値を用いることによって、車両の概位置を算出したり、単位時間に車両が進んだ移動量を示すオドメトリを算出する。
ナビゲーションシステム5は、一般の車両に搭載されているものと同様のシステムでよく、リンクとノードで記録された道路地図情報を格納したデータベースを備えている。そして、車両の運転者の操作によって設定された目的地に対して、運転時間や距離等を最適化したルートを算出し、算出したルートは運転者に報知され、ECU1に送信される。
移動物***置姿勢角推定装置10は、移動物体の周囲環境を撮像した画像と三次元地図データとのマッチングを行って移動物体の位置及び姿勢角を推定するものである。移動物***置姿勢角推定装置10は、ROMに格納された移動物***置姿勢角推定用のプログラムを実行することにより、魚眼レンズ画像取得部12、ピンホール画像取得部14、画像選択部16及び位置姿勢角推定部18として動作する。
魚眼レンズ画像取得部12は、移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を魚眼レンズカメラ2から取得する。魚眼レンズ画像には移動物体の周囲環境が撮像されており、自車両の位置及び姿勢角を推定するために必要な路面情報として、少なくとも道路端部を示す区画線や縁石が撮像されている。また、この他に白線、停止線、横断歩道、路面マーク等の路面表示が撮像されていてもよい。
ピンホール画像取得部14は、魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得する。特に、本実施形態では、魚眼レンズカメラ2で撮像された魚眼レンズ画像の所定領域に対して歪み補正を行うことによって、歪みの小さいピンホール画像を取得する。ピンホール画像には魚眼レンズ画像と同様に移動物体の周囲環境が撮像されており、自車両の位置及び姿勢角を推定するために必要な路面情報として、少なくとも道路端部を示す区画線や縁石が撮像されている。また、この他に白線、停止線、横断歩道、路面マーク等の路面表示が撮像されていてもよい。
画像選択部16は、移動物体の進行方向における走行路の屈曲度を検出し、検出された屈曲度が所定値未満の場合にはピンホール画像を選択し、屈曲度が所定値以上の場合には魚眼レンズ画像を選択する。ここで、走行路の屈曲度は、走行路がどの程度曲がっているかを示す指標であり、走行路が大きく曲がっていれば屈曲度の値は大きくなり、走行路が曲がっていなければ屈曲度の値は小さくなる。
特に、本実施形態では、移動物体の進行方向における旋回半径を検出し、検出された旋回半径が所定値以上の場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。一方、旋回半径が所定値未満の場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。
位置姿勢角推定部18は、画像選択部16で選択された画像に基づいて三次元地図データとのマッチングを行って移動物体の位置及び姿勢角を推定する。特に、選択された画像のエッジ情報と、三次元地図データから抽出された仮想画像のエッジ情報とのマッチングを行って移動物体の位置及び姿勢角を推定する。このとき仮想画像には、推定される移動物体の仮想位置と仮想姿勢角が含まれている。また、三次元地図データとのマッチングでは、選択された画像に撮像されている周囲環境のうち、特に道路端部を示す路面情報に基づいてマッチングする。
尚、本実施形態では車両に適用した場合について説明するが、移動物体であれば航空機や船舶等にも適用可能である。航空機や船舶に適用する場合には、周囲環境として道路に関する路面情報の代わりに地形や建造物とマッチングすることによって移動物体の位置と姿勢角を推定すればよい。
[移動物体の位置姿勢角推定処理の手順]
次に、本実施形態に係る移動物体の位置姿勢角推定処理の手順を図2のフローチャートを参照して説明する。尚、本実施形態では、車両の位置情報として前後方向、横方向、上下方向、姿勢角情報としてロール、ピッチ、ヨーの合計6自由度の位置と姿勢角を推定する。また、以下で説明する移動物体の位置姿勢角推定処理は、例えば100msec程度の間隔で連続的に行われる。
次に、本実施形態に係る移動物体の位置姿勢角推定処理の手順を図2のフローチャートを参照して説明する。尚、本実施形態では、車両の位置情報として前後方向、横方向、上下方向、姿勢角情報としてロール、ピッチ、ヨーの合計6自由度の位置と姿勢角を推定する。また、以下で説明する移動物体の位置姿勢角推定処理は、例えば100msec程度の間隔で連続的に行われる。
図2に示すように、まずステップS10において、魚眼レンズカメラ2で撮像された映像がECU1に送信され、魚眼レンズ画像取得部12が魚眼レンズ画像を取得する。
ステップS20では、ピンホール画像取得部14が、魚眼レンズカメラ2で撮像された映像の所定領域に対して歪み補正を行うことによって歪みの小さいピンホール画像を算出して取得する。魚眼レンズカメラ2の魚眼レンズは等距離射影方式なので、本実施形態では魚眼レンズの仮想球面モデルで考え、仮想球面と光軸との交点で接する平面スクリーン像を再現するように歪みを補正してピンホール画像を算出する。また、このピンホール画像は、図3に示すように魚眼レンズカメラ2の画角170[deg]のうち所定領域として画角40[deg]の領域を歪み補正して算出する。このようにして算出されたピンホール画像は、障害物などによって遮蔽されていなければ、ほとんどの走行シーンにおいて自車両前方の左右の道路端部が撮像されている。
次に、ステップS30において、画像選択部16は、移動物体である自車両の進行方向における旋回半径R[m]を検出する。このとき旋回半径が変化する場合には、最も小さい旋回半径を旋回半径Rとして検出する。そして、検出された旋回半径Rが所定値Rth[m]以上の場合には屈曲度が所定値未満であると判定してステップS50に進んでピンホール画像を選択する。一方、旋回半径Rが所定値Rth[m]未満の場合には屈曲度が所定値以上であると判定してステップS40に進んで魚眼レンズ画像を選択する。また、ターンシグナルのON、OFFを用いて画像を選択してもよい。尚、本実施形態では所定値Rthとして30mを設定する。
ここで、旋回半径の検出方法としては、以下の方法を用いて行えばよい。例えば、自車両の運転者のステアリング操作を車両センサ群4のステアリングセンサ43で検出し、自車両のステアリング機構のステアリングギア比を乗じて前輪の転舵角を求める。そして、アッカーマンステアリングジオメトリや線形二輪モデル(「自動車の運動と制御」第3章,安部正人,山海堂)等の車両モデルを用いることによって、旋回半径を算出することができる。また、ナビゲーションシステム5で算出した自車両の走行ルートから三次元地図データベース3を参照し、走行ルート上での旋回半径を予め算出してECU1に記録する。そして、1ループ前に算出された自車両の位置と姿勢角から現在の旋回半径Rを求めるようにしてもよい。
一方、ステップS30では、旋回半径に応じて画像を選択するだけでなく、自車両の進行方向における左右の道路端部がピンホール画像に撮像できないと判定した場合にのみステップS40に進んで魚眼レンズ画像を選択するようにしてもよい。
この場合には、まず走行ルート上の左右の道路端部の間隔、即ち道路の幅員を、三次元地図データベース3を参照して求める。そして、この幅員と、旋回半径Rと、魚眼レンズカメラ2の取り付け位置と、1ループ前の処理で算出した自車両の位置と姿勢角とを参照する。これらの情報から、画像選択部16は、現在の自車位置から自車両の進行方向における左右の道路端部がピンホール画像上に撮像できるか否かを判定し、撮像できないと判定した場合には、ステップS40に進んで魚眼レンズ画像を選択する。これにより、道路端部が撮像できる場合にはピンホール画像が選択されるので、ピンホール画像を選択する場合が増加し、移動物体の位置及び姿勢角の推定をよりロバストに、尚且つ高速に行うことができる。
このようにしてステップS30において旋回半径が判定されると、ステップS40では、画像選択部16が、後述するステップS60の処理で用いる画像として魚眼レンズ画像を選択してステップS60に進む。旋回半径が小さい場合、すなわち急カーブや交差点での右左折のような屈曲度の大きいシーンでは、自車両の位置と姿勢角を算出するために必要な区画線や縁石などの道路端部はピンホール画像には撮像されていない可能性が高い。そこで、視野角の広い魚眼レンズ画像を選択して確実に道路端部を検出し、移動物体の位置及び姿勢角を推定できるようにする。
一方、ステップS50では、画像選択部16が、後述するステップS60の処理で用いる画像としてピンホール画像を選択してステップS60に進む。旋回半径が大きい場合、すなわち直線路や緩いカーブ、交差点を直進するような屈曲度が小さい場合では、視野角の狭いピンホール画像でも道路端部が撮像されている可能性が高い。そこで、ピンホール画像を用いても移動物体の位置及び姿勢角を推定することは可能であり、またピンホール画像は歪みが小さいので、高速かつ高精度に移動物体の位置及び姿勢角を推定することができる。
次に、ステップS60では、位置姿勢角推定部18が、ステップS40またはステップS50で選択された画像を用いて三次元地図データとのマッチングを行って自車両の位置と姿勢角を算出して推定する。具体的には、ステップS40で魚眼レンズ画像が選択された場合には図4のフローチャートを用いて移動物体の位置と姿勢角を算出し、ステップS50でピンホール画像が選択された場合には図5のフローチャートを用いて移動物体の位置と姿勢角を算出する。こうして移動物体の位置と姿勢角が推定されると、本実施形態に係る移動物体の位置姿勢角推定処理を終了する。
以下、ステップS60における移動物体の位置姿勢角算出処理の手順を図4、5のフローチャートを参照して説明する。
[魚眼レンズ画像が選択された場合の移動物体の位置姿勢角算出処理の手順]
まず、図4のフローチャートを参照して、ステップS40で魚眼レンズ画像が選択された場合の移動物体の位置姿勢角算出処理の手順を説明する。
まず、図4のフローチャートを参照して、ステップS40で魚眼レンズ画像が選択された場合の移動物体の位置姿勢角算出処理の手順を説明する。
ステップS110において、位置姿勢角推定部18は、魚眼レンズ画像からエッジ画像を算出する。本実施形態におけるエッジとは、画素の輝度が鋭敏に変化している箇所を指している。エッジの検出方法としては、例えばCanny法を用いることができる。この他にも微分エッジ検出など様々な手法を使用してもよい。
また、位置姿勢角推定部18は、魚眼レンズ画像からエッジの輝度変化の方向やエッジ近辺のカラーなどについても抽出することが望ましい。これにより、後述するステップS150及びステップS160において、三次元地図データベース3に記録されているこれらエッジ以外の情報についても利用して尤度を設定し、自車両の位置及び姿勢角を算出することが可能となる。
次に、ステップS120において、位置姿勢角推定部18は、車両センサ群4から得られるセンサ値に基づいて、1ループ前のステップS120で算出した時点から現在までの車両の移動量であるオドメトリを算出する。なお、プログラムを開始して最初のループの場合には、オドメトリをゼロとして算出する。
位置姿勢角推定部18は、車両センサ群4から得られる各種センサ値を用いて、車両が単位時間に進んだ移動量であるオドメトリを算出する。このオドメトリの算出方法としては、例えば、車両運動を平面上に限定した上で、各車輪の車輪速とヨーレートから、単位時間での移動量と回転量を算出すればよい。また、車輪速を車速やGPS受信機41の測位値の差分で代用してもよく、ヨーレートを操舵角で代用してもよい。なお、オドメトリの算出方法は、様々な算出手法が考えられるが、オドメトリを算出できればどの手法を用いてもよい。
次に、ステップS130において、位置姿勢角推定部18は、1ループ前のステップS160で推定した車両位置から今回のステップS120で算出したオドメトリの分だけ車両位置を移動させる。そして、移動させた車両位置の近傍で、複数の仮想位置及び仮想姿勢角の候補を算出する。仮想位置及び仮想姿勢角の候補は、自車位置及び姿勢角の候補である。ただし、プログラムを開始して初めてのループの場合には、前回の車両位置情報がないので、車両センサ群4に含まれるGPS受信機41からのデータを初期位置情報とする。また、前回の停車時に最後に算出した車両位置及び姿勢角を記憶しておき、初期位置及び姿勢角情報としてもよい。
このとき、位置姿勢角推定部18は、車両センサ群4の測定誤差や通信遅れによって生じるオドメトリの誤差と、オドメトリで考慮できない車両の動特性とを考慮に入れ、車両の位置と姿勢角の真値となる可能性のある仮想位置及び仮想姿勢角の候補を複数作成する。この仮想位置及び仮想姿勢角の候補は、位置及び姿勢角の6自由度のパラメータについてそれぞれ誤差の上下限を設定し、この誤差の上下限の範囲内で乱数表等を用いてランダムに設定する。
なお、本実施形態では、仮想位置及び仮想姿勢角の候補を500個作成する。また、位置及び姿勢角の6自由度のパラメータにおける誤差の上下限は、前後方向、横方向、上下方向、ロール、ピッチ、ヨーの順に±0.05[m],±0.05[m],±0.05[m],±0.5[deg] ,±0.5[deg],±0.5[deg]とする。この仮想位置及び仮想姿勢角の候補を作成する数や、位置及び姿勢角の6自由度のパラメータにおける誤差の上下限は、車両の運転状態や路面の状況を検出或いは推定して、適宜変更することが望ましい。例えば、急旋回やスリップなどが発生している場合には、平面方向(前後方向,横方向,ヨー)の誤差が大きくなる可能性が高いので、この3つのパラメータの誤差の上下限を大きくし、且つ仮想位置及び仮想姿勢角の候補の作成数を増やすことが望ましい。
また、ステップS130において、位置姿勢角推定部18は、所謂パーティクルフィルタを用いて複数の仮想位置及び仮想姿勢角の候補を設定してもよい。この場合には、位置姿勢角推定部18は、1ループ前のステップS160で生成された複数の仮想位置及び仮想姿勢角の候補である各パーティクル(候補点)の位置及び姿勢角を、オドメトリの分だけ移動させて今回の仮想位置及び仮想姿勢角の候補として算出する。すなわち、各パーティクルの位置及び姿勢角を、複数の仮想位置及び仮想姿勢角の候補とする。なお、車両センサ群4の測定誤差や通信遅れによって生じるオドメトリの誤差や、オドメトリで考慮できない車両の動特性を考慮に入れるとなおよい。この場合には、各パーティクルの位置情報及び姿勢角情報をオドメトリの分だけ移動させた後に、上記のように位置及び姿勢角の6自由度のパラメータにおける誤差の上下限の範囲内で乱数表等を用いてランダムに変化させるようにする。
ただし、プログラムを開始して初めてのループの場合には、各パーティクルは位置情報及び姿勢角情報を持っていない。このため、車両センサ群4に含まれるGPS受信機41の検出データを初期位置情報としてもよい。または、前回停車時に最後に推定した車両位置から、各パーティクルの位置情報及び姿勢角情報を設定してもよい。本実施形態では、初めてのループの場合、前回停車時に最後に推定した車両位置から位置及び姿勢角の6自由度のパラメータについてそれぞれ誤差の上下限を設定する。そして、この誤差の上下限の範囲内で乱数表等を用いてランダムに各パーティクルの位置及び姿勢角を設定する。本実施形態では、初めてのループの場合はパーティクルを500個作成する。また、各パーティクルの6自由度のパラメータにおける誤差の上下限は、前後方向、横方向、上下方向、ロール、ピッチ、ヨーの順に±0.05[m],±0.05[m],±0.05[m],±0.5[deg] ,±0.5[deg],±0.5[deg]とする。
次に、ステップS140において、位置姿勢角推定部18は、ステップS130で作成した複数の仮想位置及び仮想姿勢角の候補のそれぞれについて投影画像(仮想画像)を作成する。このとき、例えば三次元地図データベース3に記憶されたエッジ等の三次元位置情報を、仮想位置及び仮想姿勢角から魚眼レンズで撮像したカメラ画像となるよう投影変換して、投影画像を作成する。この投影画像は、各仮想位置及び仮想姿勢角の候補が実際の自車両の位置及び姿勢角と合致しているかを評価するための評価用画像である。また、投影変換では、魚眼レンズカメラ2の位置を示す外部パラメータと、魚眼レンズカメラ2の内部パラメータとが必要となる。外部パラメータは、車両位置(例えば中心位置)から魚眼レンズカメラ2までの相対位置を予め計測しておくことによって、仮想位置及び仮想姿勢角の候補から算出すればよい。また内部パラメータは、予めキャリブレーションをしておけばよい。
なお、ステップS110において魚眼レンズ画像からエッジの輝度変化の方向やエッジ近辺のカラー等について抽出している場合には、それらを用いて投影画像を作成することが望ましい。
次に、ステップS150において、位置姿勢角推定部18は、ステップS130で設定した複数の仮想位置及び仮想姿勢角の候補のそれぞれにおいて、ステップS110で作成したエッジ画像と、ステップS140で作成した投影画像のエッジ情報とを比較する。そして、比較した結果に基づいて、各仮想位置及び仮想姿勢角の候補ごとに尤度を求める。この尤度とは、仮想位置及び仮想姿勢角の候補が、どれぐらい実際の車両の位置及び姿勢角に対して尤もらしいかを示す指標である。位置姿勢角推定部18は、投影画像とエッジ画像との一致度が高いほど、尤度が高くなるように設定する。この尤度の求め方の一例を以下で説明する。
まず、投影画像上において画素位置を特定し、この画素位置にエッジが存在するか否かを判定する。そして、投影画像と同じ画素位置となるエッジ画像上の位置にエッジが存在するか否かを判定し、エッジの有無が一致する場合には尤度likelihood(単位:なし)として1を設定し、一致しない場合には0を設定する。このような処理を投影画像上の全画素に対して行い、すべての画素位置に設定された尤度を加算することによって、最終的にその仮想位置及び仮想姿勢角の候補の尤度とする。そして、全ての仮想位置及び仮想姿勢角の候補について尤度を算出したら、それぞれの尤度の合計値が1になるよう正規化する。
次に、ステップS160において、位置姿勢角推定部18は、ステップS150で算出した尤度情報を有する複数の仮想位置及び仮想姿勢角の候補を用いて、最終的な自車両の位置及び姿勢角を算出する。例えば、位置姿勢角推定部18は、尤度が最も高い仮想位置及び仮想姿勢角の候補を、車両の実際の位置及び姿勢角として算出する。また、各仮想位置及び仮想姿勢角の候補の尤度を用いて、仮想位置及び仮想姿勢角の重み付き平均を求め、その値を最終的な自車両の位置及び姿勢角としてもよい。また、ステップS160では、各パーティクルのリサンプリングを、各仮想位置及び仮想姿勢角の候補の尤度に基づいて行う。こうして自車両の位置と姿勢角が算出されると、本実施形態に係る移動物体の位置姿勢角算出処理を終了する。そして、算出された自車両の位置と姿勢角は、図2のステップS60における推定結果として出力される。
[ピンホール画像が選択された場合の移動物体の位置姿勢角算出処理の手順]
次に、図2のステップS50でピンホール画像が選択された場合の移動物体の位置姿勢角算出処理の手順について図5のフローチャートを参照して説明する。
次に、図2のステップS50でピンホール画像が選択された場合の移動物体の位置姿勢角算出処理の手順について図5のフローチャートを参照して説明する。
ステップS210において、位置姿勢角推定部18は、上述した図4のステップS110と同様の方法でピンホール画像からエッジ画像を算出する。
次に、ステップS220において、位置姿勢角推定部18は、ステップS210で算出したエッジ画像にハフ(Hough)変換などを用いて、道路端部や区画線の線分がエッジ画像上のどこに存在するかを特定する。尚、三次元地図データベース3に、停止線、横断歩道、路面マークなどの路面表示や建物等の構造物のエッジ情報が含まれている場合には、これらの線分についてもエッジ画像上のどこに存在するかを特定する。
次に、ステップS230において、位置姿勢角推定部18は、ステップS220で特定した道路端部等のエッジ画像上の位置に、三次元地図DB3に記録された道路端部の三次元位置及び姿勢角情報がマッチングするように調整して自車両の位置と姿勢角を算出する。
具体的には、ピンホール画像のカメラモデルを通じて三次元地図データベース3に記録された三次元地図データを投影し、投影された道路端部の三次元位置及び姿勢角が、エッジ画像上で特定された道路端部とマッチングするように調整する。そして、エッジ画像上で特定された道路端部と一致する三次元地図データの道路端部があれば、その道路端部の三次元位置と姿勢角を自車両の位置及び姿勢角として算出する。
尚、ステップS230では、例えば車両センサ群4のGPS受信機41からの情報を用いて自車位置を絞り込んでから、エッジ画像上で特定された道路端部と、投影された三次元地図データの道路端部とをマッチングするように調整すればなお良い。
また、自車位置を絞り込む方法として、1ループ前の図2のステップS60で算出された自車両の位置及び姿勢角を、図4のステップS130の方法で算出したオドメトリの分だけ移動させた近傍に、現在の自車両の位置及び姿勢角の真値があるとしてもよい。
こうして自車両の位置と姿勢角が算出されると、本実施形態に係る移動物体の位置姿勢角算出処理を終了する。そして、算出された自車両の位置と姿勢角は、図2のステップS60における推定結果として出力される。
[第1実施形態の効果]
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像か、または魚眼レンズ画像の所定領域を撮像したピンホール画像に基づいて移動物体の位置及び姿勢角を推定する。これにより、信号機のような特定の装置がなくても移動物体の周囲環境から移動物体の位置及び姿勢角を推定することができる。
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像か、または魚眼レンズ画像の所定領域を撮像したピンホール画像に基づいて移動物体の位置及び姿勢角を推定する。これにより、信号機のような特定の装置がなくても移動物体の周囲環境から移動物体の位置及び姿勢角を推定することができる。
また、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の進行方向における旋回半径を検出し、検出された旋回半径が所定値以上の場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。一方、旋回半径が所定値未満の場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。これにより、急カーブや交差点での右左折のようなシーンでも視野角の広い魚眼レンズ画像を用いることによって移動物体の位置及び姿勢角を推定することが可能となる。一方、直線路や緩いカーブ、交差点でも直進するような場合にはピンホール画像を用いることによって高速かつ高精度に移動物体の位置及び姿勢角を推定することができる。
また、本実施形態に係る移動物***置姿勢角推定装置では、魚眼レンズ画像の所定領域に対して歪み補正を行うことによって歪みの小さいピンホール画像を取得する。これにより、ピンホールカメラを設置することなくピンホール画像を取得できるので、コストを大幅に削減することができる。
さらに、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の進行方向における左右の道路端部をピンホール画像に撮像できないと判定した場合にのみ魚眼レンズ画像を選択する。これにより、道路端部が撮像できる場合にはピンホール画像を選択できるので、ピンホール画像が選択される場合が増加し、移動物体の位置及び姿勢角の推定をよりロバストに、尚且つ高速に行うことができる。
[第2実施形態]
次に、本発明の第2実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。
次に、本発明の第2実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。
[移動物体の位置姿勢角推定処理の手順]
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図6のフローチャートを参照して説明する。本実施形態では、自車両の車速が所定値未満であるか否かを判定するステップS25を追加したことが、第1実施形態と相違している。
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図6のフローチャートを参照して説明する。本実施形態では、自車両の車速が所定値未満であるか否かを判定するステップS25を追加したことが、第1実施形態と相違している。
ステップS25では、画像選択部16が、車両センサ群4の車速センサ45で取得した車速情報に基づいて、自車両の移動速度が所定値未満であるか否かを判定する。本実施形態では所定値として車速が30[km/h]未満であるか否かを判定する。そして、車速が30[km/h]未満である場合には、自車両の進行方向における旋回半径に関係なくステップS40に進んで魚眼レンズ画像を選択する。すなわち、ステップS30の処理を行わずにステップS40に進む。一方、車速が30[km/h]以上である場合には、ステップS30に進む。
本実施形態では、自車両の移動速度が低く、高速な周期で移動物体の位置及び姿勢角を推定する必要性が低い場合には、魚眼レンズ画像を用いて移動物体の位置及び姿勢角を推定する。
[第2実施形態の効果]
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の移動速度が所定値未満である場合には魚眼レンズ画像を選択する。一般に低速で走行する渋滞中や交差点などではピンホール画像のように視野角が狭いと、障害物によって遮蔽されて道路端部が撮像できない可能性が高い。そこで、移動速度が所定値未満となる場合には道路端部が撮像されている可能性の高い魚眼レンズ画像を用いることにより、ロバストに移動物体の位置及び姿勢角を推定することが可能となる。
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の移動速度が所定値未満である場合には魚眼レンズ画像を選択する。一般に低速で走行する渋滞中や交差点などではピンホール画像のように視野角が狭いと、障害物によって遮蔽されて道路端部が撮像できない可能性が高い。そこで、移動速度が所定値未満となる場合には道路端部が撮像されている可能性の高い魚眼レンズ画像を用いることにより、ロバストに移動物体の位置及び姿勢角を推定することが可能となる。
[第3実施形態]
次に、本発明の第3実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。また、本実施形態は、第1実施形態だけでなく、第2実施形態にも適用可能である。
次に、本発明の第3実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。また、本実施形態は、第1実施形態だけでなく、第2実施形態にも適用可能である。
[移動物体の位置姿勢角推定処理の手順]
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図7のフローチャートを参照して説明する。本実施形態では、自車両のピッチレートまたはロールレートが所定値以上であるか否かを判定するステップS28を追加したことが、第1実施形態と相違している。
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図7のフローチャートを参照して説明する。本実施形態では、自車両のピッチレートまたはロールレートが所定値以上であるか否かを判定するステップS28を追加したことが、第1実施形態と相違している。
ステップS28では、画像選択部16が、車両センサ群4の三軸ジャイロセンサ48で取得したピッチレートまたはロールレートが所定値以上であるか否かを判定する。本実施形態では所定値としてピッチレートまたはロールレートが3[deg/s]以上であるか否かを判定する。そして、ピッチレートまたはロールレートが3[deg/s]以上である場合には、自車両の進行方向における旋回半径に関係なくステップS50に進んでピンホール画像を選択する。すなわち、ステップS30の処理を行わずにステップS50に進む。一方、ピッチレートまたはロールレートが3[deg/s]未満である場合には、ステップS30に進む。
本実施形態では、自車両のピッチ角やロール角の時間変化率が大きい場合、例えば凹凸のある路面を走行しているような場合には、ピンホール画像を用いて自車両の位置及び姿勢角を推定する。ピッチ角やロール角の時間変化率が大きい場合には、カメラの視点が振動的になるので、レンズの歪みが大きい魚眼レンズ画像に撮像されている道路端部は、振動的に移動すると共にその形状も常に変化し続けてしまう。そのため、三次元地図データとのマッチングが難しくなり、演算負荷が大きくなる。そこで、このようなシーンでは、ピンホール画像を用いて移動物体の位置及び姿勢角を推定する。
[第3実施形態の効果]
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体のピッチ角の時間変化率が所定値以上である場合にはピンホール画像を選択する。これにより、路面の凹凸や段差等によってカメラが振動的になったとしても、歪みの小さいピンホール画像を用いることができるので、よりロバストかつ高速に移動物体の位置及び姿勢角を推定することができる。
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体のピッチ角の時間変化率が所定値以上である場合にはピンホール画像を選択する。これにより、路面の凹凸や段差等によってカメラが振動的になったとしても、歪みの小さいピンホール画像を用いることができるので、よりロバストかつ高速に移動物体の位置及び姿勢角を推定することができる。
また、本実施形態に係る移動物***置姿勢角推定装置では、移動物体のロール角の時間変化率が所定値以上である場合にはピンホール画像を選択する。これにより、路面の凹凸や段差等によってカメラが振動的になったとしても、歪みの小さいピンホール画像を用いることができるので、よりロバストかつ高速に移動物体の位置及び姿勢角を推定することができる。
[第4実施形態]
次に、本発明の第4実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。
次に、本発明の第4実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。
ただし、本実施形態の画像選択部16では、ピンホール画像取得部14で取得したピンホール画像に基づいて移動物体の周囲環境が遮蔽されているか否かを判定し、遮蔽されている場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。一方、遮蔽されていない場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。
[移動物体の位置姿勢角推定処理の手順]
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図8のフローチャートを参照して説明する。本実施形態では、ステップS330において自車両の周囲環境が遮蔽されているか否かを判定するようにしたことが、第1実施形態と相違している。
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図8のフローチャートを参照して説明する。本実施形態では、ステップS330において自車両の周囲環境が遮蔽されているか否かを判定するようにしたことが、第1実施形態と相違している。
図8に示すように、ステップS310、320において、図2に示すステップS10、20と同一の処理を実行してピンホール画像を取得する。
ステップS330では、画像選択部16が、ステップS320で取得したピンホール画像に基づいて移動物体である自車両の周囲環境が遮蔽されているか否かを判定する。遮蔽されているか否かの判定方法としては、以下の方法を用いて行う。
まず、ピンホール画像の全画素の輝度平均を求め、その輝度平均値が閾値THmax(単位:なし)以上、或いは閾値THmin(単位:なし)以下である場合には遮蔽されていると判定する。すなわち、輝度平均が極端に大きい画像は太陽光を直接撮像しているような明るすぎる画像であり、逆に輝度平均が極端に小さい画像は暗がりを撮像しているような遮蔽された状態にある画像であると考えられるためである。このような画像は、後述する移動物体の位置及び姿勢角を推定する際に行うエッジ抽出で画像の特徴点を抽出し難い画像である。そのため、三次元地図データと一致するように調整することが難しいので、視野角を広げる必要があり、ピンホール画像ではなく魚眼レンズ画像に切り替える必要がある。尚、本実施形態では抽出した画像をECU1に記録するときの輝度数値は、0〜255(0:最も暗い、255:最も明るい)の範囲内であり、THmaxには240、THminには15を設定する。
また、別の判定方法としては、自車両の周囲に存在する車両や歩行者などの障害物の位置と形状を検出し、その障害物が存在する方向の画像において、その障害物の遠方が遮蔽されているか否かを判定してもよい。障害物の検出方法としては、カメラ画像を用いたモーションステレオや自車両に別途レーザレンジファインダ等を搭載することによって障害物を検出すればよい。本実施形態では、障害物の位置と形状と、前ループにおいて推定した車両の位置と姿勢角から、ピンホール画像の画素のうちの何%に障害物が映りこんでいるかを推定する。その上で、ピンホール画像の中で50%以上障害物が映りこんでいると推定された場合には、遠くを見渡せないと判断して遮蔽されていると判定する。
さらに、別の判定方法としては、三次元地図と前ループにおいて推定した車両の位置と姿勢角とから車両の前方において道路或いは地平面の勾配が上方に凸となっている場所を抽出することによって遮蔽の有無を判定してもよい。本実施形態では、勾配が上方に凸となっていると判断する基準は、車両から離れる方向に単位長さ(1m)当り勾配変化量が2[deg]以上の場合とする。また、上方に凸となっている場所が、魚眼レンズカメラ2から10[m]以内の距離である場合も遮蔽されていると判断する。
また、上述の判定方法を行う際に、ピンホール画像において、移動物体の進行方向における左右の道路端部が遮蔽されていない場合には、周囲環境は遮蔽されていないと判定してもよい。すなわち、たとえピンホール画像の大部分が遮蔽されていたとしても区画線や縁石などの道路端部さえ検出できれば遮蔽されていないと判定する。例えば、ピンホール画像の上半分だけ、すなわち主に路面ではない領域だけが遮蔽されている場合には遮蔽されていないと判定する。また、ピンホール画像に対して二値化処理等を行って白線部分を検出し、白線が検出できた場合には遮蔽されていないと判定してもよい。
逆に、たとえ遮蔽されている部分が一部であっても区画線や縁石などの道路端部が遮蔽されている場合には、周囲環境は遮蔽されていると判定してもよい。例えば、ピンホール画像の下半分、すなわち主に路面を撮像した領域が遮蔽されている場合には、遮蔽されていると判定する。また、ピンホール画像に対して二値化処理等を行って白線部分を検出する処理を行い、白線が検出できない場合には遮蔽されていると判定してもよい。
上述した判定方法によって、画像選択部16は、自車両の周囲環境が遮蔽されているか否かを判定し、遮蔽されている場合には屈曲度が所定値以上であると判定してステップS340に進む。一方、遮蔽されていない場合には屈曲度が所定値未満であると判定してステップS350に進む。
ステップS340では、画像選択部16が、後述するステップS360の処理で用いる画像として魚眼レンズ画像を選択してステップS360に進む。通常、区画線や縁石などの道路端部は、走行路の屈曲度が大きい場合のほかに他車両等の障害物による影など光環境等によって遮蔽されやすいが、魚眼レンズ画像を用いれば視野角が広いので、道路端部が撮像されている可能性が高い。そこで、周囲環境が遮蔽されていると判定された場合には、魚眼レンズ画像を選択して確実に道路端部を検出し、移動物体の位置及び姿勢角を推定する。
ステップS350では、画像選択部16が、後述するステップS360の処理で用いる画像としてピンホール画像を選択してステップS60に進む。ピンホール画像は歪みが小さいので、ピンホール画像を用いれば、移動物体の位置及び姿勢角の推定をより高速かつ高精度に行うことができる。そこで、周囲環境が遮蔽されていないと判定された場合には、ピンホール画像を用いる。
こうして画像選択部16によって魚眼レンズ画像かピンホール画像のいずれかが選択されると、ステップS360において図2のステップS60と同一の処理が実行されて、本実施形態に係る移動物体の位置姿勢角推定処理を終了する。
[第4実施形態の効果]
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の周囲環境が遮蔽されているか否かを判定し、遮蔽されている場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。一方、遮蔽されていない場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。これにより、遮蔽されている場合でも視野角の広い魚眼レンズ画像を用いることによって移動物体の位置及び姿勢角を推定することが可能となる。一方、遮蔽されていない場合にはピンホール画像を用いることによって高速かつ高精度に移動物体の位置及び姿勢角を推定することができる。
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の周囲環境が遮蔽されているか否かを判定し、遮蔽されている場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。一方、遮蔽されていない場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。これにより、遮蔽されている場合でも視野角の広い魚眼レンズ画像を用いることによって移動物体の位置及び姿勢角を推定することが可能となる。一方、遮蔽されていない場合にはピンホール画像を用いることによって高速かつ高精度に移動物体の位置及び姿勢角を推定することができる。
また、本実施形態に係る移動物***置姿勢角推定装置では、魚眼レンズ画像の所定領域に対して歪み補正を行うことによって歪みの小さいピンホール画像を取得する。これにより、ピンホールカメラを設置することなくピンホール画像を取得できるので、コストを大幅に削減することができる。
さらに、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の進行方向における左右の道路端部が遮蔽されていない場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。これにより、道路端部さえ遮蔽されていなければピンホール画像を選択できるので、ピンホール画像が選択される場合が増加し、移動物体の位置及び姿勢角の推定をよりロバストに、尚且つ高速に行うことができる。
[第5実施形態]
次に、本発明の第5実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第4実施形態と同一なので、詳細な説明は省略する。
次に、本発明の第5実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第4実施形態と同一なので、詳細な説明は省略する。
[移動物体の位置姿勢角推定処理の手順]
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図9のフローチャートを参照して説明する。本実施形態では、自車両の車速が所定値未満であるか否かを判定するステップS325を追加したことが、第4実施形態と相違している。
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図9のフローチャートを参照して説明する。本実施形態では、自車両の車速が所定値未満であるか否かを判定するステップS325を追加したことが、第4実施形態と相違している。
ステップS325では、画像選択部16が、車両センサ群4の車速センサ45で取得した車速情報に基づいて、自車両の移動速度が所定値未満であるか否かを判定する。本実施形態では所定値として車速が30[km/h]未満であるか否かを判定する。そして、車速が30[km/h]未満である場合には、ステップS320で取得したピンホール画像が遮蔽されているか否かにかかわらずステップS340に進む。すなわち、ステップS330の処理を行わずにステップS340に進む。一方、車速が30[km/h]以上である場合には、ステップS330に進む。
本実施形態では、自車両の移動速度が低く、高速な周期で移動物体の位置及び姿勢角を推定する必要性が低い場合には、魚眼レンズ画像を用いて移動物体の位置及び姿勢角を推定する。
[第5実施形態の効果]
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の移動速度が所定値未満である場合には魚眼レンズ画像を選択する。これにより、一般に低速で走行する渋滞中や交差点など障害物によって遮蔽が多く発生するシーンでも道路端部が撮像された魚眼レンズ画像を用いることができるので、よりロバストに移動物体の位置及び姿勢角を推定することができる。
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の移動速度が所定値未満である場合には魚眼レンズ画像を選択する。これにより、一般に低速で走行する渋滞中や交差点など障害物によって遮蔽が多く発生するシーンでも道路端部が撮像された魚眼レンズ画像を用いることができるので、よりロバストに移動物体の位置及び姿勢角を推定することができる。
[第6実施形態]
次に、本発明の第6実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第4実施形態と同一なので、詳細な説明は省略する。また、本実施形態は、第4実施形態だけでなく、第5実施形態にも適用可能である。
次に、本発明の第6実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第4実施形態と同一なので、詳細な説明は省略する。また、本実施形態は、第4実施形態だけでなく、第5実施形態にも適用可能である。
[移動物体の位置姿勢角推定処理の手順]
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図10のフローチャートを参照して説明する。本実施形態では、自車両のピッチレートまたはロールレートが所定値以上であるか否かを判定するステップS328を追加したことが、第4実施形態と相違している。
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図10のフローチャートを参照して説明する。本実施形態では、自車両のピッチレートまたはロールレートが所定値以上であるか否かを判定するステップS328を追加したことが、第4実施形態と相違している。
ステップS328では、画像選択部16が、車両センサ群4の三軸ジャイロセンサ48で取得したピッチレートまたはロールレートが所定値以上であるか否かを判定する。本実施形態では所定値としてピッチレートまたはロールレートが3[deg/s]以上であるか否かを判定する。そして、ピッチレートまたはロールレートが3[deg/s]以上である場合には、ステップS320で取得したピンホール画像が遮蔽されているか否かにかかわらずステップS350に進む。すなわち、ステップS330の処理を行わずにステップS350に進む。一方、ピッチレートまたはロールレートが3[deg/s]未満である場合には、ステップS330に進む。
本実施形態では、自車両のピッチ角やロール角の時間変化率が大きい場合、例えば凹凸のある路面を走行しているような場合には、ピンホール画像を用いて自車両の位置及び姿勢角を推定する。移動物体のピッチ角やロール角の時間変化率が大きい場合には、カメラの視点が振動的になるので、レンズの歪みが大きい魚眼レンズ画像に撮像されている道路端部は、振動的に移動すると共にその形状も常に変化し続けてしまう。そのため、三次元地図データとのマッチングが難しくなり、演算負荷が大きくなる。そこで、このようなシーンでは、ピンホール画像を用いて移動物体の位置及び姿勢角を推定する。
ただし、ピンホール画像上において左右の道路端部がほぼ完全に遮蔽されていることが検出された場合にはステップS340に進んで魚眼レンズ画像を用いるようにしてもよい。また、このような場合には、ステップS330以下の処理を中止して、図4のステップS120で示したオドメトリを算出して、移動物体の位置及び姿勢角を推定してもよい。すなわち、カメラの視点が振動的で、尚且つカメラが遮蔽されているような場合には、カメラの画像と三次元地図データとのマッチングを一時的に中断し、オドメトリから移動物体の位置及び姿勢角を推定するようにしてもよい。
[第6実施形態の効果]
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体のピッチ角の時間変化率が所定値以上である場合にはピンホール画像を選択する。これにより、路面の凹凸や段差等によってカメラが振動的になったとしても、歪みの小さいピンホール画像を用いることができるので、よりロバストかつ高速に移動物体の位置及び姿勢角を推定することができる。
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置では、移動物体のピッチ角の時間変化率が所定値以上である場合にはピンホール画像を選択する。これにより、路面の凹凸や段差等によってカメラが振動的になったとしても、歪みの小さいピンホール画像を用いることができるので、よりロバストかつ高速に移動物体の位置及び姿勢角を推定することができる。
また、本実施形態に係る移動物***置姿勢角推定装置では、移動物体のロール角の時間変化率が所定値以上である場合にはピンホール画像を選択する。これにより、路面の凹凸や段差等によってカメラが振動的になったとしても、歪みの小さいピンホール画像を用いることができるので、よりロバストかつ高速に移動物体の位置及び姿勢角を推定することができる。
[第7実施形態]
次に、本発明の第7実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、第1〜第6実施形態と同一の構成要素には同一の番号を付して詳細な説明は省略する。また、本実施形態は、第1〜第6実施形態に適用可能である。
次に、本発明の第7実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、第1〜第6実施形態と同一の構成要素には同一の番号を付して詳細な説明は省略する。また、本実施形態は、第1〜第6実施形態に適用可能である。
[移動物***置姿勢角推定装置の構成]
図11は、本実施形態に係る移動物***置姿勢角推定装置を搭載した移動物***置姿勢角推定システムの構成を示すブロック図である。図11に示すように、本実施形態に係る移動物***置姿勢角推定システムでは、ピンホールカメラ81をさらに備えたことが第1〜第6実施形態と相違している。
図11は、本実施形態に係る移動物***置姿勢角推定装置を搭載した移動物***置姿勢角推定システムの構成を示すブロック図である。図11に示すように、本実施形態に係る移動物***置姿勢角推定システムでは、ピンホールカメラ81をさらに備えたことが第1〜第6実施形態と相違している。
ピンホールカメラ81は、例えばCCD等の固体撮像素子を用いた狭角レンズカメラであり、本実施形態では、車両のフロントバンパーに光軸が水平で、尚且つ車両前方が撮像可能となるように設置されている。また、ピンホールカメラ81の光軸は魚眼レンズカメラ2の光軸と一致しており、画角は約40[deg]である。
ピンホールカメラ81で撮像されたピンホール画像は、魚眼レンズ画像の所定領域である画角40[deg]の範囲を撮像した画像であり、歪みの小さい画像である。ピンホール画像は撮像されると、ピンホールカメラ81からECU1へ送信され、ピンホール画像取得部14が取得する。
したがって、本実施形態では、ピンホール画像取得部14は、魚眼レンズ画像の所定領域に対して歪み補正を行わずに、ピンホールカメラ81からピンホール画像を取得する。
[第7実施形態の効果]
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置によれば、魚眼レンズ画像の所定領域を撮像するピンホールカメラからピンホール画像を取得するので、魚眼レンズ画像に対して歪み補正を行う必要がなく、処理負荷を軽減することができる。
以上詳細に説明したように、本実施形態に係る移動物***置姿勢角推定装置によれば、魚眼レンズ画像の所定領域を撮像するピンホールカメラからピンホール画像を取得するので、魚眼レンズ画像に対して歪み補正を行う必要がなく、処理負荷を軽減することができる。
なお、上述の実施形態は本発明の一例である。このため、本発明は、上述の実施形態に限定されることはなく、この実施形態以外の形態であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計などに応じて種々の変更が可能であることは勿論である。
本出願は、2012年12月12日に出願された日本国特許願第2012−270979号及び日本国特許願第2012−270980号に基づく優先権を主張しており、この出願の内容が参照により本発明の明細書に組み込まれる。
本発明の一態様に係る移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法によれば、信号機のような特定の装置がなくても周囲環境から移動物体の位置及び姿勢角を推定することができる。したがって、本発明の一態様に係る移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法は、産業上利用可能である。
1 ECU
2 魚眼レンズカメラ
3 三次元地図データベース
4 車両センサ群
5 ナビゲーションシステム
10 移動物***置姿勢角推定装置
12 魚眼レンズ画像取得部
14 ピンホール画像取得部
16 画像選択部
18 位置姿勢角推定部
41 GPS受信機
42 アクセルセンサ
43 ステアリングセンサ
44 ブレーキセンサ
45 車速センサ
46 加速度センサ
47 車輪速センサ
48 三軸ジャイロセンサ
81 ピンホールカメラ
2 魚眼レンズカメラ
3 三次元地図データベース
4 車両センサ群
5 ナビゲーションシステム
10 移動物***置姿勢角推定装置
12 魚眼レンズ画像取得部
14 ピンホール画像取得部
16 画像選択部
18 位置姿勢角推定部
41 GPS受信機
42 アクセルセンサ
43 ステアリングセンサ
44 ブレーキセンサ
45 車速センサ
46 加速度センサ
47 車輪速センサ
48 三軸ジャイロセンサ
81 ピンホールカメラ
【0005】
勢角推定部18として動作する。
[0017]
魚眼レンズ画像取得部12は、移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を魚眼レンズカメラ2から取得する。魚眼レンズ画像には移動物体の周囲環境が撮像されており、自車両の位置及び姿勢角を推定するために必要な路面情報として、少なくとも道路端部を示す区画線や縁石が撮像されている。また、この他に白線、停止線、横断歩道、路面マーク等の路面表示が撮像されていてもよい。
[0018]
ピンホール画像取得部14は、魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得する。特に、本実施形態では、魚眼レンズカメラ2で撮像された魚眼レンズ画像の所定領域に対して歪み補正を行うことによって、歪みの小さいピンホール画像を取得する。ピンホール画像には魚眼レンズ画像と同様に移動物体の周囲環境が撮像されており、自車両の位置及び姿勢角を推定するために必要な路面情報として、少なくとも道路端部を示す区画線や縁石が撮像されている。また、この他に白線、停止線、横断歩道、路面マーク等の路面表示が撮像されていてもよい。
[0019]
画像選択部16は、移動物体の進行方向における走行路の屈曲度を検出し、検出された屈曲度が所定値未満の場合にはピンホール画像を選択し、屈曲度が所定値以上の場合には魚眼レンズ画像を選択する。ここで、走行路の屈曲度は、走行路がどの程度曲がっているかを示す指標であり、走行路が大きく曲がっていれば屈曲度の値は大きくなり、走行路が曲がっていなければ屈曲度の値は小さくなる。
[0020]
特に、本実施形態では、移動物体の進行方向における旋回半径を検出し、検出された旋回半径が所定値より大きい場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。一方、旋回半径が所定値以下の場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。
[0021]
位置姿勢角推定部18は、画像選択部16で選択された画像に基づいて三次元地図データとのマッチングを行って移動物体の位置及び姿勢角を推定する。特に、選択された画像のエッジ情報と、三次元地図データから抽出され
勢角推定部18として動作する。
[0017]
魚眼レンズ画像取得部12は、移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を魚眼レンズカメラ2から取得する。魚眼レンズ画像には移動物体の周囲環境が撮像されており、自車両の位置及び姿勢角を推定するために必要な路面情報として、少なくとも道路端部を示す区画線や縁石が撮像されている。また、この他に白線、停止線、横断歩道、路面マーク等の路面表示が撮像されていてもよい。
[0018]
ピンホール画像取得部14は、魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得する。特に、本実施形態では、魚眼レンズカメラ2で撮像された魚眼レンズ画像の所定領域に対して歪み補正を行うことによって、歪みの小さいピンホール画像を取得する。ピンホール画像には魚眼レンズ画像と同様に移動物体の周囲環境が撮像されており、自車両の位置及び姿勢角を推定するために必要な路面情報として、少なくとも道路端部を示す区画線や縁石が撮像されている。また、この他に白線、停止線、横断歩道、路面マーク等の路面表示が撮像されていてもよい。
[0019]
画像選択部16は、移動物体の進行方向における走行路の屈曲度を検出し、検出された屈曲度が所定値未満の場合にはピンホール画像を選択し、屈曲度が所定値以上の場合には魚眼レンズ画像を選択する。ここで、走行路の屈曲度は、走行路がどの程度曲がっているかを示す指標であり、走行路が大きく曲がっていれば屈曲度の値は大きくなり、走行路が曲がっていなければ屈曲度の値は小さくなる。
[0020]
特に、本実施形態では、移動物体の進行方向における旋回半径を検出し、検出された旋回半径が所定値より大きい場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。一方、旋回半径が所定値以下の場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。
[0021]
位置姿勢角推定部18は、画像選択部16で選択された画像に基づいて三次元地図データとのマッチングを行って移動物体の位置及び姿勢角を推定する。特に、選択された画像のエッジ情報と、三次元地図データから抽出され
【0007】
行シーンにおいて自車両前方の左右の道路端部が撮像されている。
[0026]
次に、ステップS30において、画像選択部16は、移動物体である自車両の進行方向における旋回半径R[m]を検出する。このとき旋回半径が変化する場合には、最も小さい旋回半径を旋回半径Rとして検出する。そして、検出された旋回半径Rが所定値Rth[m]より大きい場合には屈曲度が所定値未満であると判定してステップS50に進んでピンホール画像を選択する。一方、旋回半径Rが所定値Rth[m]以下の場合には屈曲度が所定値以上であると判定してステップS40に進んで魚眼レンズ画像を選択する。また、ターンシグナルのON、OFFを用いて画像を選択してもよい。尚、本実施形態では所定値Rthとして30mを設定する。
[0027]
ここで、旋回半径の検出方法としては、以下の方法を用いて行えばよい。例えば、自車両の運転者のステアリング操作を車両センサ群4のステアリングセンサ43で検出し、自車両のステアリング機構のステアリングギア比を乗じて前輪の転舵角を求める。そして、アッカーマンステアリングジオメトリや線形二輪モデル(「自動車の運動と制御」第3章,安部正人,山海堂)等の車両モデルを用いることによって、旋回半径を算出することができる。また、ナビゲーションシステム5で算出した自車両の走行ルートから三次元地図データベース3を参照し、走行ルート上での旋回半径を予め算出してECU1に記録する。そして、1ループ前に算出された自車両の位置と姿勢角から現在の旋回半径Rを求めるようにしてもよい。
[0028]
一方、ステップS30では、旋回半径に応じて画像を選択するだけでなく、自車両の進行方向における左右の道路端部がピンホール画像に撮像できないと判定した場合にのみステップS40に進んで魚眼レンズ画像を選択するようにしてもよい。
[0029]
この場合には、まず走行ルート上の左右の道路端部の間隔、即ち道路の幅員を、三次元地図データベース3を参照して求める。そして、この幅員と、旋回半径Rと、魚眼レンズカメラ2の取り付け位置と、1ループ前の処理で算出した自車両の位置と姿勢角とを参照する。これらの情報から、画像選択
行シーンにおいて自車両前方の左右の道路端部が撮像されている。
[0026]
次に、ステップS30において、画像選択部16は、移動物体である自車両の進行方向における旋回半径R[m]を検出する。このとき旋回半径が変化する場合には、最も小さい旋回半径を旋回半径Rとして検出する。そして、検出された旋回半径Rが所定値Rth[m]より大きい場合には屈曲度が所定値未満であると判定してステップS50に進んでピンホール画像を選択する。一方、旋回半径Rが所定値Rth[m]以下の場合には屈曲度が所定値以上であると判定してステップS40に進んで魚眼レンズ画像を選択する。また、ターンシグナルのON、OFFを用いて画像を選択してもよい。尚、本実施形態では所定値Rthとして30mを設定する。
[0027]
ここで、旋回半径の検出方法としては、以下の方法を用いて行えばよい。例えば、自車両の運転者のステアリング操作を車両センサ群4のステアリングセンサ43で検出し、自車両のステアリング機構のステアリングギア比を乗じて前輪の転舵角を求める。そして、アッカーマンステアリングジオメトリや線形二輪モデル(「自動車の運動と制御」第3章,安部正人,山海堂)等の車両モデルを用いることによって、旋回半径を算出することができる。また、ナビゲーションシステム5で算出した自車両の走行ルートから三次元地図データベース3を参照し、走行ルート上での旋回半径を予め算出してECU1に記録する。そして、1ループ前に算出された自車両の位置と姿勢角から現在の旋回半径Rを求めるようにしてもよい。
[0028]
一方、ステップS30では、旋回半径に応じて画像を選択するだけでなく、自車両の進行方向における左右の道路端部がピンホール画像に撮像できないと判定した場合にのみステップS40に進んで魚眼レンズ画像を選択するようにしてもよい。
[0029]
この場合には、まず走行ルート上の左右の道路端部の間隔、即ち道路の幅員を、三次元地図データベース3を参照して求める。そして、この幅員と、旋回半径Rと、魚眼レンズカメラ2の取り付け位置と、1ループ前の処理で算出した自車両の位置と姿勢角とを参照する。これらの情報から、画像選択
【0015】
なくても移動物体の周囲環境から移動物体の位置及び姿勢角を推定することができる。
[0058]
また、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の進行方向における旋回半径を検出し、検出された旋回半径が所定値より大きい場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。一方、旋回半径が所定値以下の場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。これにより、急カーブや交差点での右左折のようなシーンでも視野角の広い魚眼レンズ画像を用いることによって移動物体の位置及び姿勢角を推定することが可能となる。一方、直線路や緩いカーブ、交差点でも直進するような場合にはピンホール画像を用いることによって高速かつ高精度に移動物体の位置及び姿勢角を推定することができる。
[0059]
また、本実施形態に係る移動物***置姿勢角推定装置では、魚眼レンズ画像の所定領域に対して歪み補正を行うことによって歪みの小さいピンホール画像を取得する。これにより、ピンホールカメラを設置することなくピンホール画像を取得できるので、コストを大幅に削減することができる。
[0060]
さらに、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の進行方向における左右の道路端部をピンホール画像に撮像できないと判定した場合にのみ魚眼レンズ画像を選択する。これにより、道路端部が撮像できる場合にはピンホール画像を選択できるので、ピンホール画像が選択される場合が増加し、移動物体の位置及び姿勢角の推定をよりロバストに、尚且つ高速に行うことができる。
[0061]
[第2実施形態]
次に、本発明の第2実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。
[0062]
[移動物体の位置姿勢角推定処理の手順]
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図6のフローチャートを参照して説明する。本実施形態では、自車両の車速が所定値未満で
なくても移動物体の周囲環境から移動物体の位置及び姿勢角を推定することができる。
[0058]
また、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の進行方向における旋回半径を検出し、検出された旋回半径が所定値より大きい場合には屈曲度が所定値未満であると判定してピンホール画像を選択する。一方、旋回半径が所定値以下の場合には屈曲度が所定値以上であると判定して魚眼レンズ画像を選択する。これにより、急カーブや交差点での右左折のようなシーンでも視野角の広い魚眼レンズ画像を用いることによって移動物体の位置及び姿勢角を推定することが可能となる。一方、直線路や緩いカーブ、交差点でも直進するような場合にはピンホール画像を用いることによって高速かつ高精度に移動物体の位置及び姿勢角を推定することができる。
[0059]
また、本実施形態に係る移動物***置姿勢角推定装置では、魚眼レンズ画像の所定領域に対して歪み補正を行うことによって歪みの小さいピンホール画像を取得する。これにより、ピンホールカメラを設置することなくピンホール画像を取得できるので、コストを大幅に削減することができる。
[0060]
さらに、本実施形態に係る移動物***置姿勢角推定装置では、移動物体の進行方向における左右の道路端部をピンホール画像に撮像できないと判定した場合にのみ魚眼レンズ画像を選択する。これにより、道路端部が撮像できる場合にはピンホール画像を選択できるので、ピンホール画像が選択される場合が増加し、移動物体の位置及び姿勢角の推定をよりロバストに、尚且つ高速に行うことができる。
[0061]
[第2実施形態]
次に、本発明の第2実施形態に係る移動物***置姿勢角推定装置について図面を参照して説明する。尚、本実施形態に係る移動物***置姿勢角推定装置の構成は第1実施形態と同一なので、詳細な説明は省略する。
[0062]
[移動物体の位置姿勢角推定処理の手順]
本実施形態に係る移動物体の位置姿勢角推定処理の手順を図6のフローチャートを参照して説明する。本実施形態では、自車両の車速が所定値未満で
ステップS350では、画像選択部16が、後述するステップS360の処理で用いる画像としてピンホール画像を選択してステップS360に進む。ピンホール画像は歪みが小さいので、ピンホール画像を用いれば、移動物体の位置及び姿勢角の推定をより高速かつ高精度に行うことができる。そこで、周囲環境が遮蔽されていないと判定された場合には、ピンホール画像を用いる。
Claims (12)
- 移動物体の位置及び姿勢角を推定する移動物***置姿勢角推定装置であって、
前記移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を取得する魚眼レンズ画像取得部と、
前記魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得するピンホール画像取得部と、
前記移動物体の進行方向における走行路の屈曲度を検出し、前記屈曲度が所定値未満の場合には前記ピンホール画像を選択し、前記屈曲度が所定値以上の場合には前記魚眼レンズ画像を選択する画像選択部と、
前記画像選択部で選択された画像のエッジ情報と、三次元地図データから抽出された仮想画像のエッジ情報とのマッチングを行って前記移動物体の位置及び姿勢角を推定する位置姿勢角推定部と
を備えたことを特徴とする移動物***置姿勢角推定装置。 - 前記画像選択部は、前記移動物体の進行方向における旋回半径を検出し、前記旋回半径が所定値以上の場合には前記屈曲度が所定値未満であると判定して前記ピンホール画像を選択し、前記旋回半径が所定値未満の場合には前記屈曲度が所定値以上であると判定して前記魚眼レンズ画像を選択することを特徴とする請求項1に記載の移動物***置姿勢角推定装置。
- 前記画像選択部は、前記移動物体の進行方向における左右の道路端部を前記ピンホール画像に撮像できないと判定した場合にのみ前記魚眼レンズ画像を選択することを特徴とする請求項2に記載の移動物***置姿勢角推定装置。
- 前記画像選択部は、前記ピンホール画像取得部で取得したピンホール画像に基づいて前記移動物体の周囲環境が遮蔽されているか否かを判定し、遮蔽されている場合には前記屈曲度が所定値以上であると判定して前記魚眼レンズ画像を選択し、遮蔽されていない場合には前記屈曲度が所定値未満であると判定して前記ピンホール画像を選択することを特徴とする請求項1に記載の移動物***置姿勢角推定装置。
- 前記画像選択部は、前記移動物体の進行方向における左右の道路端部が遮蔽されていない場合には、前記屈曲度が所定値未満であると判定して前記ピンホール画像を選択することを特徴とする請求項4に記載の移動物***置姿勢角推定装置。
- 前記ピンホール画像取得部は、前記魚眼レンズ画像取得部によって取得した魚眼レンズ画像の所定領域に対して歪み補正を行うことによって歪みの小さいピンホール画像を取得することを特徴とする請求項1〜5のいずれか1項に記載の移動物***置姿勢角推定装置。
- 前記ピンホール画像取得部は、前記魚眼レンズ画像の所定領域を撮像するピンホールカメラから前記ピンホール画像を取得することを特徴とする請求項1〜5のいずれか1項に記載の移動物***置姿勢角推定装置。
- 前記画像選択部は、前記移動物体の移動速度が所定値未満である場合には、前記魚眼レンズ画像を選択することを特徴とする請求項1〜7のいずれか1項に記載の移動物***置姿勢角推定装置。
- 前記画像選択部は、前記移動物体のピッチ角の時間変化率が所定値以上である場合には、前記ピンホール画像を選択することを特徴とする請求項1〜8のいずれか1項に記載の移動物***置姿勢角推定装置。
- 前記画像選択部は、前記移動物体のロール角の時間変化率が所定値以上である場合には、前記ピンホール画像を選択することを特徴とする請求項1〜9のいずれか1項に記載の移動物***置姿勢角推定装置。
- 移動物体の位置及び姿勢角を推定する移動物***置姿勢角推定装置における移動物***置姿勢角推定方法であって、
前記移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を取得し、
前記魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得し、
前記移動物体の進行方向における走行路の屈曲度を検出し、前記屈曲度が所定値未満の場合には前記ピンホール画像を選択し、前記屈曲度が所定値以上の場合には前記魚眼レンズ画像を選択し、
前記選択された画像のエッジ情報と、三次元地図データから抽出された仮想画像のエッジ情報とのマッチングを行って前記移動物体の位置及び姿勢角を推定する
ことを特徴とする移動物***置姿勢角推定方法。 - 移動物体の位置及び姿勢角を推定する移動物***置姿勢角推定装置であって、
前記移動物体の周囲環境を魚眼レンズで撮像した魚眼レンズ画像を取得する魚眼レンズ画像取得手段と、
前記魚眼レンズ画像の所定領域について歪みの小さいピンホール画像を取得するピンホール画像取得手段と、
前記移動物体の進行方向における走行路の屈曲度を検出し、前記屈曲度が所定値未満の場合には前記ピンホール画像を選択し、前記屈曲度が所定値以上の場合には前記魚眼レンズ画像を選択する画像選択手段と、
前記画像選択手段で選択された画像のエッジ情報と、三次元地図データから抽出された仮想画像のエッジ情報とのマッチングを行って前記移動物体の位置及び姿勢角を推定する位置姿勢角推定手段と
を備えたことを特徴とする移動物***置姿勢角推定装置。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012270980 | 2012-12-12 | ||
JP2012270979 | 2012-12-12 | ||
JP2012270979 | 2012-12-12 | ||
JP2012270980 | 2012-12-12 | ||
PCT/JP2013/080997 WO2014091877A1 (ja) | 2012-12-12 | 2013-11-18 | 移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5962771B2 JP5962771B2 (ja) | 2016-08-03 |
JPWO2014091877A1 true JPWO2014091877A1 (ja) | 2017-01-05 |
Family
ID=50934173
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014551946A Expired - Fee Related JP5962771B2 (ja) | 2012-12-12 | 2013-11-18 | 移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9740942B2 (ja) |
EP (1) | EP2933790B1 (ja) |
JP (1) | JP5962771B2 (ja) |
CN (1) | CN104854637B (ja) |
WO (1) | WO2014091877A1 (ja) |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2997046C (en) * | 2015-08-28 | 2018-11-13 | Nissan Motor Co., Ltd. | Vehicle position estimation device, vehicle position estimation method |
US9727793B2 (en) * | 2015-12-15 | 2017-08-08 | Honda Motor Co., Ltd. | System and method for image based vehicle localization |
CN106981050A (zh) * | 2016-01-18 | 2017-07-25 | 深圳岚锋创视网络科技有限公司 | 对鱼眼镜头拍摄的图像矫正的方法和装置 |
JP6428671B2 (ja) * | 2016-02-17 | 2018-11-28 | 株式会社デンソー | 推定装置 |
JP6645910B2 (ja) * | 2016-05-31 | 2020-02-14 | 株式会社デンソー | 位置推定装置 |
US20170349213A1 (en) * | 2016-06-02 | 2017-12-07 | GM Global Technology Operations LLC | System And Method For Displaying A Forward Drive Trajectory, Providing A Jackknifing Warning And Providing A Trailer Turn Aid |
US10678262B2 (en) | 2016-07-01 | 2020-06-09 | Uatc, Llc | Autonomous vehicle localization using image analysis and manipulation |
KR20190028528A (ko) * | 2016-07-26 | 2019-03-18 | 닛산 지도우샤 가부시키가이샤 | 자기 위치 추정 방법 및 자기 위치 추정 장치 |
BR112019001508B1 (pt) * | 2016-07-26 | 2022-11-01 | Nissan Motor Co., Ltd | Método de estimativa de autoposição e dispositivo de estimativa de autoposição |
JP6932487B2 (ja) * | 2016-07-29 | 2021-09-08 | キヤノン株式会社 | 移動体監視装置 |
JP6272572B1 (ja) * | 2017-02-03 | 2018-01-31 | 三菱電機株式会社 | 表示制御装置および表示制御方法 |
JP6938237B2 (ja) * | 2017-06-21 | 2021-09-22 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
US10356307B2 (en) * | 2017-09-13 | 2019-07-16 | Trw Automotive U.S. Llc | Vehicle camera system |
JP6838225B2 (ja) * | 2017-09-20 | 2021-03-03 | 日立Astemo株式会社 | ステレオカメラ |
US10607364B2 (en) | 2017-10-31 | 2020-03-31 | Honeywell International Inc. | Position and attitude determination method and system using edge images |
KR102031635B1 (ko) * | 2017-12-07 | 2019-10-14 | (주)캠시스 | 오버랩 촬영 영역을 가지는 이종 카메라를 이용한 충돌 경고 장치 및 방법 |
KR102420476B1 (ko) * | 2018-05-25 | 2022-07-13 | 에스케이텔레콤 주식회사 | 차량의 위치 추정 장치, 차량의 위치 추정 방법, 및 이러한 방법을 수행하도록 프로그램된 컴퓨터 프로그램을 저장하는 컴퓨터 판독가능한 기록매체 |
KR20200006484A (ko) * | 2018-07-10 | 2020-01-20 | 삼성전자주식회사 | 벤딩에 기초하여 동작을 수행하는 방법 및 전자 장치 |
JP6974290B2 (ja) * | 2018-10-31 | 2021-12-01 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co., Ltd | 位置推定装置、位置推定方法、プログラム、及び記録媒体 |
CN109886131B (zh) * | 2019-01-24 | 2023-05-02 | 淮安信息职业技术学院 | 一种道路弯道识别方法及其装置 |
JP7220591B2 (ja) * | 2019-03-07 | 2023-02-10 | 三菱重工業株式会社 | 自己位置推定装置、自己位置推定方法及びプログラム |
CN111091594B (zh) * | 2019-10-17 | 2023-04-11 | 如你所视(北京)科技有限公司 | 多点云平面融合方法及装置 |
JP7350671B2 (ja) * | 2020-02-25 | 2023-09-26 | 三菱重工業株式会社 | 位置推定装置、制御装置、産業用車両、物流支援システム、位置推定方法およびプログラム |
CN111999869B (zh) * | 2020-09-23 | 2024-07-19 | 厦门力鼎光电股份有限公司 | 一种红外共焦的变焦镜头 |
JP7467402B2 (ja) * | 2021-09-24 | 2024-04-15 | キヤノン株式会社 | 画像処理システム、移動装置、画像処理方法、およびコンピュータプログラム |
CN115393479B (zh) * | 2022-10-28 | 2023-03-24 | 山东捷瑞数字科技股份有限公司 | 一种基于三维引擎的车轮转动控制方法 |
CN117516465B (zh) * | 2024-01-04 | 2024-03-19 | 北京神导科技股份有限公司 | 一种避免跳变的惯导***姿态角提取方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006010328A (ja) * | 2004-06-22 | 2006-01-12 | Equos Research Co Ltd | 車両位置特定装置 |
JP2006115265A (ja) * | 2004-10-15 | 2006-04-27 | Honda Motor Co Ltd | 視覚装置の画像処理方法および画像処理装置 |
JP2008157636A (ja) * | 2006-12-20 | 2008-07-10 | Aisin Aw Co Ltd | 自車位置特定方法及び自車位置特定装置 |
JP2009199572A (ja) * | 2008-01-25 | 2009-09-03 | Kazuo Iwane | 三次元機械地図、三次元機械地図生成装置、ナビゲーション装置及び自動運転装置 |
WO2012039496A1 (ja) * | 2010-09-24 | 2012-03-29 | トヨタ自動車株式会社 | 走路推定装置及びプログラム |
JP2012527681A (ja) * | 2009-05-19 | 2012-11-08 | イメージネクスト シーオー エルティディ | 車両周辺映像を用いた車線離脱感知方法および装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4007899B2 (ja) * | 2002-11-07 | 2007-11-14 | オリンパス株式会社 | 運動検出装置 |
DE102005055350A1 (de) | 2005-11-21 | 2007-05-24 | Robert Bosch Gmbh | Verfahren zur Steuerung der Gesichtsfeldgröße eines Videosystems und Videosystem für ein Kraftfahrzeug |
JP4622928B2 (ja) * | 2006-04-14 | 2011-02-02 | トヨタ自動車株式会社 | 車載カメラ制御装置および車載カメラ制御方法。 |
JP4622001B2 (ja) * | 2008-05-27 | 2011-02-02 | トヨタ自動車株式会社 | 道路区画線検出装置および道路区画線検出方法 |
US20110298988A1 (en) * | 2010-06-04 | 2011-12-08 | Toshiba Alpine Automotive Technology Corporation | Moving object detection apparatus and moving object detection method |
US9077958B2 (en) | 2010-08-30 | 2015-07-07 | Honda Motor Co., Ltd. | Road departure warning system |
TWI417207B (zh) * | 2010-12-28 | 2013-12-01 | Automotive Res & Testing Ct | Image - based obstacle detection reversing warning system and method |
CN102175221B (zh) * | 2011-01-20 | 2014-04-09 | 北京百度网讯科技有限公司 | 基于鱼眼镜头的车载移动摄影测量*** |
-
2013
- 2013-11-18 WO PCT/JP2013/080997 patent/WO2014091877A1/ja active Application Filing
- 2013-11-18 JP JP2014551946A patent/JP5962771B2/ja not_active Expired - Fee Related
- 2013-11-18 CN CN201380064821.5A patent/CN104854637B/zh active Active
- 2013-11-18 US US14/651,282 patent/US9740942B2/en active Active
- 2013-11-18 EP EP13862177.6A patent/EP2933790B1/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006010328A (ja) * | 2004-06-22 | 2006-01-12 | Equos Research Co Ltd | 車両位置特定装置 |
JP2006115265A (ja) * | 2004-10-15 | 2006-04-27 | Honda Motor Co Ltd | 視覚装置の画像処理方法および画像処理装置 |
JP2008157636A (ja) * | 2006-12-20 | 2008-07-10 | Aisin Aw Co Ltd | 自車位置特定方法及び自車位置特定装置 |
JP2009199572A (ja) * | 2008-01-25 | 2009-09-03 | Kazuo Iwane | 三次元機械地図、三次元機械地図生成装置、ナビゲーション装置及び自動運転装置 |
JP2012527681A (ja) * | 2009-05-19 | 2012-11-08 | イメージネクスト シーオー エルティディ | 車両周辺映像を用いた車線離脱感知方法および装置 |
WO2012039496A1 (ja) * | 2010-09-24 | 2012-03-29 | トヨタ自動車株式会社 | 走路推定装置及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20150332100A1 (en) | 2015-11-19 |
WO2014091877A1 (ja) | 2014-06-19 |
CN104854637A (zh) | 2015-08-19 |
EP2933790A1 (en) | 2015-10-21 |
CN104854637B (zh) | 2016-08-24 |
JP5962771B2 (ja) | 2016-08-03 |
EP2933790B1 (en) | 2017-09-27 |
EP2933790A4 (en) | 2016-03-02 |
US9740942B2 (en) | 2017-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5962771B2 (ja) | 移動物***置姿勢角推定装置及び移動物***置姿勢角推定方法 | |
JP5966747B2 (ja) | 車両走行制御装置及びその方法 | |
JP5089545B2 (ja) | 道路境界検出判断装置 | |
JP4433887B2 (ja) | 車両用外界認識装置 | |
WO2018225446A1 (ja) | 地図変化点検出装置 | |
US9280824B2 (en) | Vehicle-surroundings monitoring device | |
CN106463051B (zh) | 信号机识别装置以及信号机识别方法 | |
US9697421B2 (en) | Stereoscopic camera apparatus | |
US20120327236A1 (en) | Vehicle Periphery Monitoring System | |
JP6020729B2 (ja) | 車両位置姿勢角推定装置及び車両位置姿勢角推定方法 | |
CN110412603B (zh) | 一种用于车道偏离计算的标定参数自适应更新方法 | |
JP2011028659A (ja) | 道路形状認識装置 | |
JP6756101B2 (ja) | 物体認識装置 | |
CN110415298B (zh) | 一种用于车道偏离的计算方法 | |
JP5910180B2 (ja) | 移動物***置姿勢推定装置及び方法 | |
JP2019003606A (ja) | 地図変化点検出装置 | |
JP2007034989A (ja) | 撮像装置のずれ検出方法、撮像装置のずれ補正方法及び撮像装置 | |
JP6044084B2 (ja) | 移動物***置姿勢推定装置及び方法 | |
US20200193184A1 (en) | Image processing device and image processing method | |
JP2017117105A (ja) | 見通し判定装置 | |
JP6790951B2 (ja) | 地図情報学習方法及び地図情報学習装置 | |
JP2005173899A (ja) | 周囲状況表示装置 | |
JP5903901B2 (ja) | 車両位置算出装置 | |
JP5891802B2 (ja) | 車両位置算出装置 | |
JP7380443B2 (ja) | 部分画像生成装置及び部分画像生成用コンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160531 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160613 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5962771 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |