JP3807253B2 - 走行路検出装置 - Google Patents
走行路検出装置 Download PDFInfo
- Publication number
- JP3807253B2 JP3807253B2 JP2001156520A JP2001156520A JP3807253B2 JP 3807253 B2 JP3807253 B2 JP 3807253B2 JP 2001156520 A JP2001156520 A JP 2001156520A JP 2001156520 A JP2001156520 A JP 2001156520A JP 3807253 B2 JP3807253 B2 JP 3807253B2
- Authority
- JP
- Japan
- Prior art keywords
- lane
- lane marker
- travel
- host vehicle
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Steering Control In Accordance With Driving Conditions (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
この発明は、自車両が走行している走行路の形状を検出する走行路検出装置に関し、特に走行路の形状を走行路モデルパラメータで表すのに好適なものである。
【0002】
【従来の技術】
このような走行路検出装置として、例えば特開平8−5388号公報に記載されるものがある。この従来の走行路検出装置では、CCDカメラなどの撮像装置で自車両前方の走行路の状態を撮像し、その撮像内に、自車両が走行している走行車線の両側のレーンマーカーを二本検出し、そのレーンマーカーを用いて、自車両の走行車線における横変位などの走行路モデルパラメータを算出する。また、車線変更等により自車両の走行車線における横変位が大きくなり、当該走行車線の中央から所定値以上離れたら、その離れた方向に隣接する走行車線があると見なし、現在走行中の走行車線を挟む二本のレーンマーカーに加えて、隣接する走行車線の向こう側のレーンマーカーを含む三本のレーンマーカーを検出し、それらのレーンマーカーを用いて走行路モデルパラメータを連続して算出するようにしている。
【0003】
【発明が解決しようとする課題】
しかしながら、前記従来の走行路検出装置では、例えば車線変更等により自車両が走行車線の中央から離れたら、隣接する走行車線のレーンマーカーを含む三本のレーンマーカーを検出し、それらのレーンマーカーを用いて走行路モデルパラメータを算出するようにしているものの、特に隣接する走行車線の向こう側のレーンマーカーは、当該隣接する走行車線を走行している他の車両等に隠れて見えない、つまり前記撮像装置で撮像できないことがあるため、そのような場合には前記三本のレーンマーカーを用いる走行路モデルパラメータの算出ができなくなってしまうという問題がある。
【0004】
本発明は、上記課題を解決するため、三本のレーンマーカーを用いることなく、車線変更等により自車両が走行車線の中央から離れたときでも、走行路モデルパラメータの算出を連続して行うことができる走行路検出装置を提供することを目的とするものである。
【0005】
【課題を解決するための手段】
上記目的を達成するために、本発明のうち請求項1に係る走行路検出手段は、自車両前方の走行路を撮像する撮像手段と、前記撮像手段で撮像された走行路にレーンマーカーを検出するための小領域を設定するレーンマーカー検出領域設定手段と、前記レーンマーカー検出領域設定手段で設定された検出領域内でレーンマーカーの一部をレーンマーカー候補点として検出するレーンマーカー検出手段と、前記レーンマーカー検出手段で検出されたレーンマーカー候補点の情報から、自車両前方の走行路の形状を表すための走行路モデルパラメータを算出する走行路モデルパラメータ算出手段と、前記走行路モデルパラメータ算出手段で算出された走行路モデルパラメータに基づき、走行車線に対する自車両の横方向のずれ量に応じて、前記レーンマーカー検出領域設定手段が対象とするレーンマーカーの検出数を一本又は二本の何れかに切替えるレーンマーカー検出数切替え手段とを備え、前記走行路モデルパラメータ算出手段は、前記レーンマーカー検出数切替え手段が、自車両が走行する走行車線の両側の二本のレーンマーカーを検出対象としたときには、当該走行車線の車線幅を走行路モデルに用い、当該レーンマーカー検出数切替え手段が、自車両に最も近い一本のレーンマーカーを検出対象としたときには、当該レーンマーカーの線幅を走行路モデルに用いることを特徴とするものである。
【0007】
また、本発明のうち請求項2に係る走行路検出装置は、前記請求項1の発明において、前記走行路モデルパラメータ算出手段は、前記撮像手段により、自車両が走行する走行車線の両側の二本のレーンマーカーを撮像可能であり、当該走行車線に対して自車両が横方向にずれて二本のレーンマーカーを撮像できなくなるときに、前記レーンマーカーの線幅を検出することを特徴とするものである。
【0008】
また、本発明のうち請求項3に係る走行路検出装置は、前記請求項1又は2の発明において、前記走行路モデルパラメータ算出手段は、走行路モデルのパラメータとして、レーンマーカーで規定される走行車線の曲率、当該走行車線に対する自車両の横変位、当該走行車線に対する自車両のヨー角、自車両のピッチ角、前記撮像手段の取付け位置の地上からの高さを算出することを特徴とするものである。
【0009】
また、本発明のうち請求項4に係る走行路検出装置は、前記請求項1乃至3の発明において、前記レーンマーカー検出数切替え手段は、自車両が走行する走行車線に対する自車両の横変位に基づいてレーンマーカーの検出数を切替えることを特徴とするものである。
また、本発明のうち請求項5に係る走行路検出装置は、前記請求項1乃至3の発明において、前記レーンマーカー検出数切替え手段は、前記撮像手段で撮像された撮像画面上での、自車両とレーンマーカーとの傾きに基づいてレーンマーカーの検出数を切替えることを特徴とするものである。
【0010】
また、本発明のうち請求項6に係る走行路検出装置は、前記請求項1乃至3の発明において、前記レーンマーカー検出数切替え手段は、前記自車両が走行する走行車線に対する自車両の横変位及びヨー角に基づいてレーンマーカーの検出数を切替えることを特徴とするものである。
また、本発明のうち請求項7に係る走行路検出装置は、前記請求項1乃至6の発明において、前記レーンマーカー検出数切替え手段は、自車両の走行速度に基づいてレーンマーカーの検出数を切替えることを特徴とするものである。
【0011】
また、本発明のうち請求項8に係る走行路検出装置は、前記請求項1乃至7の発明において、前記レーンマーカー検出数切替え手段は、自車両の操舵角に基づいてレーンマーカーの検出数を切替えることを特徴とするものである。
また、本発明のうち請求項9に係る走行路検出装置は、前記請求項1乃至6の発明において、前記レーンマーカー検出数切替え手段は、自車両がレーンマーカーに到達するまでの時間に基づいてレーンマーカーの検出数を切替えることを特徴とするものである。
【0012】
【発明の効果】
而して、本発明のうち請求項1に係る走行路検出装置によれば、撮像された走行路にレーンマーカーを検出するための小領域を設定し、その検出領域内でレーンマーカーの一部をレーンマーカー候補点として検出し、そのレーンマーカー候補点の情報から、自車両前方の走行路の形状を表すための走行路モデルパラメータを算出すると共に、算出された走行路モデルパラメータに基づき、走行車線に対する自車両の横方向のずれ量に応じて、前記レーンマーカー検出領域設定手段が対象とするレーンマーカーの検出数を一本又は二本の何れかに切替えると共に、自車両が走行する走行車線の両側の二本のレーンマーカーを検出対象としたときには、当該走行車線の車線幅を走行路モデルに用い、自車両に最も近い一本のレーンマーカーを検出対象としたときには、当該レーンマーカーの線幅を走行路モデルに用いる構成としたため、例えば走行している走行車線の中央に対して自車両が横方向のさほどずれていないときには、当該走行車線の両側の二本のレーンマーカーを検出して車線幅を求め、その車線幅に基づいて走行路モデルパラメータを算出することができ、走行している走行車線の中央に対して自車両が横方向にずれているときには、ずれている方の一本のレーンマーカーを検出してその線幅を求め、その線幅に基づいて走行路モデルパラメータを算出することができるので、走行路モデルパラメータの算出に必要なレーンマーカーを見失うことがなく、走行路モデルパラメータを連続して算出することができる。
【0014】
また、本発明のうち請求項2に係る走行路検出装置によれば、自車両が走行する走行車線の両側の二本のレーンマーカーを撮像可能であり、当該走行車線に対して自車両が横方向にずれて二本のレーンマーカーを撮像できなくなるときに、前記レーンマーカーの線幅を検出する構成としたため、走行している走行車線の中央に対して自車両が横方向にずれようとするとき、当該走行車線の両側の二本のレーンマーカーが路面となす少なくとも三つの境界に基づいて、当該自車両がずれようとする側のレーンマーカーの線幅を正確に検出することができ、これにより一本のレーンマーカーの線幅を用いて走行モデルパラメータを算出することが可能となる。
【0015】
また、本発明のうち請求項3に係る走行路検出装置によれば、レーンマーカーで規定される走行車線の曲率、当該走行車線に対する自車両の横変位、当該走行車線に対する自車両のヨー角、自車両のピッチ角、前記撮像手段の取付け位置の地上からの高さを算出する構成としたため、これらの走行路モデルパラメータを用いて、走行している走行車線の中央に対して自車両が横方向にずれている若しくはずれようとしていることを検出することができる。
【0016】
また、本発明のうち請求項4に係る走行路検出装置によれば、自車両が走行する走行車線に対する自車両の横変位に基づいてレーンマーカーの検出数を切替える構成としたため、レーンマーカーの検出数の切替えを適切なタイミングで行うことができる。
また、本発明のうち請求項5に係る走行路検出装置によれば、撮像された撮像画面上での、自車両とレーンマーカーとの傾きに基づいてレーンマーカーの検出数を切替える構成としたため、レーンマーカーの検出数の切替えを適切なタイミングで行うことができる。
【0017】
また、本発明のうち請求項6に係る走行路検出装置によれば、自車両が走行する走行車線に対する自車両の横変位及びヨー角に基づいてレーンマーカーの検出数を切替える構成としたため、レーンマーカーの検出数の切替えを適切なタイミングで行うことができる。
また、本発明のうち請求項7に係る走行路検出装置によれば、自車両の走行速度に基づいてレーンマーカーの検出数を切替える構成としたため、レーンマーカーの検出数の切替えを、自車両の走行状態に応じた適切なタイミングで行うことができる。
【0018】
また、本発明のうち請求項8に係る走行路検出装置によれば、自車両の操舵角に基づいてレーンマーカーの検出数を切替える構成としたため、レーンマーカーの検出数の切替えを、自車両の走行状態に応じた適切なタイミングで行うことができる。
また、本発明のうち請求項9に係る走行路検出装置によれば、自車両がレーンマーカーに到達するまでの時間に基づいてレーンマーカーの検出数を切替える構成としたため、レーンマーカーの検出数の切替えを、自車両の走行状態に応じた適切なタイミングで行うことができる。
【0019】
【発明の実施の形態】
以下、本発明の実施の形態を図面に基づいて説明する。
図1は本発明の走行路検出装置の第1実施形態を示すシステム構成図である。この実施形態の走行路検出装置は、撮像部1、前処理部2、レーンマーカー検出領域設定部3、レーンマーカー検出部4、走行路モデルパラメータ算出部5、処理結果出力部6、レーンマーカー検出数切替え判定部7、レーンマーカー検出数切替え部8を備えている。このうち、前記撮像部1は、CCDカメラやカメラコントローラ等から構成され、自車両の前方の状態を撮像するものである。また、前記前処理部2は、前記撮像部1で撮像された自車両前方の画像に対し、レーンマーカーのエッジ、即ちレーンマーカーと路面との境界を明瞭にするフィルタ処理を施すものである。また、前記レーンマーカー検出領域設定部3は、後述するレーンマーカー検出数切替え部8で設定されたレーンマーカー検出数に応じ、前記前処理部2でフィルタ処理された自車両前方の撮像情報に、レーンマーカーを検出するための小領域を設定するものである。
【0020】
また、前記レーンマーカー検出部4は、前記レーンマーカー検出領域設定部3で設定された各検出小領域の中から、最もレーンマーカーらしいレーンマーカーの一部を抽出し、それをレーンマーカー候補点として検出するものである。また、前記走行路モデルパラメータ算出部5は、後述するレーンマーカー検出数切替え部8で切替え設定されるレーンマーカー検出数に応じ、前記レーンマーカー検出部4で検出されたレーンマーカー候補点の撮像画像における位置情報から、レーンマーカーで規定される走行車線の曲率ρ、当該走行車線に対する自車両の横変位yC 、当該走行車線に対する自車両のヨー角φ、自車両のピッチ角η、前記撮像部1のCCDカメラの取付け位置の地上からの高さh等を走行路モデルパラメータとして算出するものである。また、前記処理結果出力部6は、前記走行路モデルパラメータ算出部5で叉出された走行路モデルパラメータを、例えばディスプレイやスピーカ、或いはその他の制御装置に向けて出力するものである。
【0021】
また、前記レーンマーカー検出数切替え判定部7は、前記走行路モデルパラメータ算出部5で算出された走行路モデルパラメータを用いて、レーンマーカーの検出数を切替えるか否か判定するものである。また、前記レーンマーカー検出数切替え部8は、前記レーンマーカー検出数切替え判定部7で判定されたレーンマーカー検出数の判定結果に応じて、レーンマーカーの検出数を切替え設定するものである。
【0022】
これらの装置構成は、前記撮像部1のCCDカメラ等を除き、実質的には演算処理によって構成されている。そこで、まず撮像部1で撮像された自車両前方の状況から、走行路モデルパラメータを算出する原理について説明する。
まず、走行路上の空間座標系について、例えば本実施形態では、前記CCDカメラの撮像レンズの中心を原点とし、車両前方に向かって水平方向右方から左方にX軸、車両の高さ方向上方にY軸、車両前方にZ軸をとる直交三次元座標系を設定する。一方、撮像画面上の平面座標系は、NTSC等のテレビジョン通信方式の画面走査方向に従って、画面左上を原点とし、水平方向左方から右方にx軸、垂直方向上方から下方にy軸をとる直交二次元座標系を設定する。ここで、簡略化のために、前記撮像画面上の平面座標系の原点が、走行路上の空間座標系のZ軸上にあるとすると、走行路上空間座標系から撮像画面上平面座標系への座標変換は下記1式及び2式で行われる。
【0023】
【数1】
【0024】
次に、走行路の平面構造は、一般に直線と曲率一定の曲線、及びこれらを滑らかに結ぶための曲率変化率一定のクロソイド曲線で定義されるが、自車両前方の数十m区間は曲率一定の曲線路又は直線路と見なせる。そこで、走行車線を規定するレーンマーカーの形状を、図3aに従って下記3式のように定式化した。また、同様に、縦断構造についてはほぼ一定勾配と見なせるので、図3bに従って下記4式のように定式化した。
【0025】
【数2】
【0026】
前記1式〜4式より、X、Y、Zを消去すると、下記5式〜10式が得られる。
【0027】
【数3】
【0028】
なお、式中のc0 、d0 は、前記図2において、平面座標系の原点を空間座標系のZ軸上であるとしているのに対して、実際の平面座標系の原点は撮像画像の左上としているため、両者のずれを補正するための値である。
このように、車線幅Wを既知とし、撮像された自車両前方のレーンマーカー候補点(レーンマーカーの代表的な一点)の座標情報が満たす前記5式のパラメータa〜eを求めることにより、走行路曲率ρ、自車両のピッチ角η、ヨー角φ、自車両の横変位yC 、CCDカメラの地上高h等の走行路モデルパラメータを算出することができる。また、このときは、走行路モデル式中に車線幅Wを用いているので、自車両が走行している走行車線の両側のレーンマーカーを二本検出する必要がある。即ち、前記レーンマーカー検出数切替え部8で切替え設定されるレーンマーカー検出数は二本である。
【0029】
このように素行車線の車線幅Wを用いて前述した各種の走行路モデルパラメータを算出するために、本実施形態では、例えば拡張カルマンフィルタを用いる。前記1式〜4式から、下記11式が得られる。これは拡張カルマンフィルタを構成する際の出力方程式として用いられ、走行路曲率と車両状態量から撮像画像平面上に定義したy座標値におけるx座標値を算出するものである。
【0030】
【数4】
【0031】
ここで、拡張カルマンフィルタによる推定状態量を、前記走行路曲率ρ、自車両のピッチ角η、ヨー角φ、横変位yC 、CCDカメラの地上高hとし、レンズ焦点距離f、車線幅Wを一定値とする。そして、各推定状態量は確率的な振る舞いをするものとし、白色ガウス雑音νによって駆動される離散系のランダムウォークモデルとして定義すると、状態方程式は下記12式で表れる。
【0032】
【数5】
【0033】
前記12式で表れる状態方程式と、前記11式で表れる出力方程式を下記13式及び14式のように簡略化して表記すると、前記拡張カルマンフィルタは下記15〜18式で構成される。
【0034】
【数6】
【0035】
以上が、拡張カルマンフィルタを構成する出力方程式に、車線幅Wを用いた場合の説明であるが、この車線幅Wに代えて、レーンマーカーの実際の線幅Lを用いても同様の拡張カルマンフィルタを構成することができる。即ち、走行路の状態として、車線幅Wとレーンマーカーの線幅Lとは、幅の比率が異なるだけで、自車両前方の雪像画像の中では同様に変化するのである。図4は、走行中の走行車線の中で、自車両が走行車線の中央から何れかのレーンマーカー方向(図では右方)にずれた状態で撮像した自車両前方の撮像画像である。このように自車両が走行車線の中央から横方向にずれると、ずれてゆく方向のレーンマーカーはより明瞭に検出できるが、走行車線を挟む反対側のレーンマーカーは次第に検出しにくくなる。そのため、前記従来技術では、ずれてゆく方向の隣の走行車線のレーンマーカーを検出しようとするのであるが、そのレーンマーカーは当該隣の走行車線を走行している車両などによって検出できない恐れがある。そこで、本実施形態では、このように自車両が走行車線の中央から横方向にずれていったら、そのずれていった方向の、つまり自車両に最も近いレーンマーカーの線幅Lを用いて拡張カルマンフィルタを構成する。具体的には、自車両が走行している走行車線を規定する二本のレーンマーカーの内側の境界、図4に示す▲1▼、▲2▼を検出し、その走行車線内で自車両がずれていった方向の、自車両に最も近いレーンマーカー自身を規定する境界、図4に示す▲2▼、▲3▼を検出する。そして、前記境界▲1▼、▲2▼の検出結果から得られる走行路モデルパラメータより、下記19式の線幅L以外の値を代入し、次いで▲2▼、▲3▼の検出結果から線幅Lを算出する。線幅Lの算出には、前記カルマンフィルタや最小二乗法等の方法を用いればよい。
【0036】
【数7】
【0037】
次に、前記図1の構成要素を構成する演算処理を、図5のフローチャートに従って説明する。この演算処理は、マイクロコンピュータ等の演算処理装置内で、例えば10msec. 程度に設定された所定のサンプリング時間ΔT毎に、タイマ割込として実行される。また、演算処理で用いられるレーンマーカー検出数NL の初期値は二本(NL =2)である。
【0038】
この演算処理では、まずステップS1で前記撮像部1で撮像された自車両前方の撮像画像を読込む。
次にステップS2に移行して、前記ステップS1で読込んだ自車両前方の撮像画像から、レーンマーカーを検出するための前処理を行う。具体的には、例えばSobelフィルタによる一次空間微分によって、レーンマーカーと路面との境界、つまりエッジを強調する。本実施形態では、レーンマーカーの検出には、この境界を検出対象とする。なお、エッジ強調フィルタ処理は、前記に限定されるものではなく、またレーンマーカーの検出対象も、前記に限定されるものではない。
【0039】
次にステップS3に移行して、前記ステップS2でエッジ強調フィルタ処理を施された自車両前方の撮像画像中に、レーンマーカーを検出するための小領域を設定する。この実施形態では、後述のように二本のレーンマーカー、具体的には走行している走行車線を規定する二本のレーンマーカーを検出する場合と、一本のレーンマーカー、具体的には自車両に最も近いレーンマーカーを検出する場合とがあるので、例えば二本のレーンマーカーを検出する場合(レーンマーカー検出数NL =2)には図6aのようにレーンマーカー検出小領域を設定し、一本のレーンマーカーを検出する場合(レーンマーカー検出数NL =1)には図6bのようにレーンマーカー検出領域を設定する。このレーンマーカー検出数NL は、前回の演算処理のサンプリング時刻に更新記憶されているか、若しくは初期設定されたものを用いる。
【0040】
次にステップS4に移行して、前記ステップS3で設定されたレーンマーカー検出小領域内において、レーンマーカーを検出する。具体的には、図7に示すように、各レーンマーカー検出小領域内において、最もレーンマーカーと路面との境界らしい直線を検出し、その直線上の一点をレーンマーカー候補点として検出する。図7の例では、直線検出結果の最上点をレーンマーカー候補点として検出している。
【0041】
次にステップS5に移行して、前記ステップS4で検出されたレーンマーカー候補点の位置情報を用いて、前記11式〜18式の拡張カルマンフィルタから、例えば走行車線中央に対する自車両の横変位yC 等の走行路モデルパラメータを算出する。
次にステップS6に移行して、現在設定されているレーンマーカー検出数NL が二本であるか否かを判定し、当該レーンマーカー検出数NL が二本である場合にはステップS7に移行し、そうでない場合にはステップS8に移行する。
【0042】
前記ステップS7では、前記ステップS5の拡張カルマンフィルタで求められた走行路モデルパラメータのうち、走行車線中央に対する自車両横変位yC が、例えば図8に示すように予め設定された比較的大きい所定値yC1以下であるか否かを判定し、当該自車両横変位yC が所定値yC1以下である場合にはステップS9に移行し、そうでない場合にはステップS10に移行する。
【0043】
前記ステップS9では、前記ステップS5の拡張カルマンフィルタで求められた走行路モデルパラメータのうち、走行車線中央に対する自車両横変位yC が、例えば図8に示すように予め設定された比較的小さい所定値yC2(yC2<yC1)以下であるか否かを判定し、当該自車両横変位yC が所定値yC2以下である場合にはメインプログラムに復帰し、そうでない場合にはステップS11に移行する。
【0044】
前記ステップS11では、前記19式を用いて、自車両に最も近いレーンマーカーの線幅Lを検出してからメインプログラムに復帰する。
また、前記ステップS10では、レーンマーカー検出数NL を一本に設定してからメインプログラムに復帰する。
一方、前記ステップS8では、前記ステップS7と同様に、前記ステップS5の拡張カルマンフィルタで求められた走行路モデルパラメータのうち、走行車線中央に対する自車両横変位yC が前記所定値yC1以下であるか否かを判定し、当該自車両横変位yC が所定値yC1以下である場合にはメインプログラムに復帰し、そうでない場合にはステップS12に移行する。
【0045】
そして、前記ステップS12では、レーンマーカー検出数NL を二本に設定してからメインプログラムに復帰する。
このように、本実施形態では、カルマンフィルタ等により推定状態量として求めた走行車線中央に対する自車両横変位yC が所定値yC1以下であるとき、つまり撮像部1で、走行中の走行車線の両側のレーンマーカーを検出できるときには、レーンマーカー検出数NL を二本に設定し、当該走行車線の両側の二本のレーンマーカーで規定される走行車線の車線幅Wを用いてカルマンフィルタ等により走行路モデルパラメータを算出する。一方、同じくカルマンフィルタ等により推定状態量として求めた走行車線中央に対する自車両横変位yC が所定値yC1以下でないとき、つまり撮像部1で、走行中の走行車線の両側のレーンマーカーを検出できない、若しくは検出しにくいときには、レーンマーカー検出数NL を一本に設定し、自車両に最も近い一本のレーンマーカーの線幅Lを用いてカルマンフィルタ等により走行路モデルパラメータを算出する。
【0046】
一般に、車両は、二本のレーンマーカーで規定される走行車線内を定常的に走行しており、走行車線の中央に対する自車両横変位が大きくなり、撮像部1で、走行車線両側のレーンマーカーを検出できない、若しくは検出しにくいというのは、車線変更等によって、自車両を横方向に移動させる過渡的な状況であると考えられる。そこで、初期設定として、検出すべきレーンマーカー検出数NL は二本に設定する。運転者に車線変更の意思がなく、そのまま走行車線に沿って走行し続ければ、自車両横変位yC は前記比較的大きな所定値yC1以下であり、且つ前記比較的小さな所定値yC2以下でもあろうから、前記図5の演算処理ではステップS7からステップ9を経てメインプログラムに復帰してしまい、結果的にレーンマーカー検出数NL は二本のままである。従って、この間は、常に自車両が走行する走行車線の両側のレーンマーカーを二本検出し、それらによって得られる車線幅Wを用いてカルマンフィルタ等により各走行路モデルパラメータを算出する。
【0047】
これに対し、例えば運転者が車線変更を行おうと試み、前記カルマンフィルタ等により算出される自車両横変位yC が、前記比較的小さな所定値yC2より大きくなると(未だ、比較的大きな所定値yC1以下であるとする)、図5の演算処理ではステップS9からステップS11に移行し、ここで自車両に最も近いレーンマーカー、即ち自車両が横方向にずれていこうとする側のレーンマーカーの線幅Lを検出する。但し、この場合には、前述のように自車両が走行している走行車線の両側のレーンマーカーは検出可能であるので、未だレーンマーカー検出数NL は二本のままとし、前述と同様に、それらによって得られる車線幅Wを用いてカルマンフィルタ等により各走行路モデルパラメータを算出する。つまり、この状態は、前記撮像部1によって自車両が走行している走行車線の両側の二本のレーンマーカーを検出することは可能であるが、これ以上、自車両が横方向にずれると、それら二本のレーンマーカーを検出できなくなる又は検出しにくくなるという状態である。
【0048】
そして、更に自車両横変位yC が大きくなり、前記比較的大きな所定値yC1より大きくなると、図5の演算処理のステップS7からステップS10に移行し、レーンマーカー検出数NL は一本に切替えられる。従って、これ以後、前記ステップS5のカルマンフィルタは、前記ステップS11で検出したレーンマーカーの線幅Lを用いて、各走行路モデルパラメータを算出する。これに対し、例えば車線変更が終了し、隣接していた走行車線の中央に対する自車両横変位yC が前記比較的大きな所定値yC1以下となると、図5の演算処理のステップS8からステップS12に移行し、レーンマーカー検出数NL は二本に切り替えられるので、これ以後、前記ステップS5のカルマンフィルタは、前述のように走行している走行車線の車線幅Wを用いて、各走行路モデルパラメータを算出する。
【0049】
このように、本実施形態の走行路検出装置では、走行車線に対する自車両の横方向への位置によってレーンマーカー検出数NL を切替え、それが二本であるときには、走行車線の車線幅Wを用いて、カルマンフィルタ等により各走行路モデルパラメータを算出し、一本であるときには、レーンマーカーの線幅Lを用いて同様に各走行路モデルパラメータを算出することができるので、車線変更などによる走行状態の変化に関わらず、各走行路モデルパラメータを算出し続けることができる。また、前記撮像部1によって自車両が走行している走行車線の両側の二本のレーンマーカーを検出することは可能であるが、これ以上、自車両が横方向にずれると、それら二本のレーンマーカーを検出できなくなる又は検出しにくくなるというときに、自車両に最も近いレーンマーカーの線幅Lを正確に検出することができるので、その後、一本のレーンマーカーしか検出できなくなったときには、その線幅Lを用いて、カルマンフィルタ等により各走行路パラメータを正確に算出することができる。また、自車両が走行する走行車線に対する自車両横変位yC に基づいてレーンマーカー検出数NL を切替えることにより、レーンマーカー検出数の切替えを適切なタイミングで行うことができる。
【0050】
なお、前記自車両横変位yC に代えて、前記6式及び10式で得られる、撮像された撮像画面上での、自車両とレーンマーカーとの傾きに基づいてレーンマーカーの検出数を切替えるようにしてもよく、その場合にも、前記と同様にレーンマーカー検出数の切替えを適切なタイミングで行うことができる。更に、前記自車両横変位yC に加え、自車両が走行している走行車線に対するヨー角φを用い、例えば図9に示すように、自車両前方Nmの点が走行車線中央からどれだけ変位しているかに基づいて、レーンマーカの検出数を切替えるようにしてもよく、その場合にも、前記と同様にレーンマーカー検出数の切替えを適切なタイミングで行うことができる。
【0051】
次に、本発明の走行路検出装置の第2実施形態について説明する。この実施形態の走行路検出装置は、装置概要が、前記図1のものから図10のものに変更されている。この図10の装置構成は、前記第1実施形態の図1のものに類似しており、同等の構成要素も多い。そこで、同等の構成要素には同等の符号を付して説明を省略する。この図10の装置構成では、図1のものに、車両状態量検出部9を付加し、この車両状態量検出部9で検出された自車両状態量をレーンマーカー検出数切替え判定部7で読込んでレーンマーカー検出数切替えの判定を行う。前記車両状態量検出部9では、具体的に自車両の走行速度V及び操舵角θを検出する。
【0052】
次に、前記図10の装置構成を構成するための演算処理について図11のフローチャートを用いて説明する。この演算処理も、前記第1実施形態の図5の演算処理と同様にマイクロコンピュータ等の演算処理装置内で、例えば10msec. 程度に設定された所定のサンプリング時間ΔT毎に、タイマ割込として実行される。
【0053】
この演算処理では、まずステップS21で、前記第1実施形態と同様に、前記撮像部1で撮像された自車両前方の撮像画像を読込む。
次にステップS22に移行して、前記第1実施形態と同様に、前記ステップS21で読込んだ自車両前方の撮像画像から、レーンマーカーを検出するための前処理、つまりエッジ強調フィルタ処理を行う。
【0054】
次にステップS23に移行して、前記第1実施形態と同様に、前記ステップS22でエッジ強調フィルタ処理を施された自車両前方の撮像画像中に、レーンマーカーを検出するための小領域を設定する。
次にステップS24に移行して、前記第1実施形態と同様に、前記ステップS23で設定されたレーンマーカー検出小領域内において、レーンマーカーを検出する。
【0055】
次にステップS25に移行して、前記第1実施形態と同様に、前記ステップS24で検出されたレーンマーカー候補点の位置情報を用いて、前記11式〜18式の拡張カルマンフィルタから、例えば走行車線中央に対する自車両の横変位yC 、走行車線に対するヨー角φ等の走行路モデルパラメータを算出する。
次にステップS26に移行して、前記車両状態量検出部9で検出された車両状態量、具体的には自車両の走行速度V及び操舵角θを読込む。
【0056】
次にステップS27に移行して、前記ステップS25で算出された走行路モデルパラメータの走行車線中央に対する自車両横変位yC 、走行車線に対するヨー角φ、前記ステップS26で読込んだ自車両走行速度V、操舵角θを用いて、自車両が近づきつつある、或いはより近いレーンマーカーまでの到達時間Thを算出する。具体的には、前記走行車線中央に対する自車両横変位yC 及び走行車線に対するヨー角φを初期値とし、現在の車速Vと現在の操舵角θが維持されたとして、近づきつつある、或いはより近いレーンマーカーに自車両の中心点が到達するまでの到達所要時間を算出する。
【0057】
次にステップS28に移行して、前記第1実施形態と同様に、現在設定されているレーンマーカー検出数NL が二本であるか否かを判定し、当該レーンマーカー検出数NL が二本である場合にはステップS29に移行し、そうでない場合にはステップS30に移行する。
前記ステップS29では、前記ステップS27で算出されたレーンマーカー到達時間Thが、予め設定された比較的小さい所定値Th1 以上であるか否かを判定し、当該レーンマーカー到達時間Thが所定値Th1 以上である場合にはステップS31に移行し、そうでない場合にはステップS32に移行する。
【0058】
前記ステップS32では、前記ステップS27で算出されたレーンマーカー到達時間Thが、予め設定された比較的大きい所定値Th2 (Th1 <Th2 )以上であるか否かを判定し、当該レーンマーカー到達時間Thが所定値Th2 以上である場合にはメインプログラムに復帰し、そうでない場合にはステップS33に移行する。
【0059】
前記ステップS33では、前記第1実施形態と同様に、前記19式を用いて、自車両に最も近いレーンマーカーの線幅Lを検出してからメインプログラムに復帰する。
また、前記ステップS32では、レーンマーカー検出数NL を一本に設定してからメインプログラムに復帰する。
【0060】
一方、前記ステップS30では、前記ステップS29と同様に、前記ステップS27で算出されたレーンマーカー到達時間Thが前記所定値Th1 以上であるか否かを判定し、当該レーンマーカー到達時間Thが所定値Th1 以上である場合にはメインプログラムに復帰し、そうでない場合にはステップS34に移行する。
【0061】
そして、前記ステップS34では、レーンマーカー検出数NL を二本に設定してからメインプログラムに復帰する。
このように、本実施形態では、近づきつつある或いはより近いレーンマーカーに自車両が到達するまでの到達時間Thが所定値Th1 以上であるとき、つまり走行している走行車線の両側のレーンマーカーの何れよりも遠く、撮像部1で、走行中の走行車線の両側のレーンマーカーを検出できるときには、レーンマーカー検出数NL を二本に設定し、当該走行車線の両側の二本のレーンマーカーで規定される走行車線の車線幅Wを用いてカルマンフィルタ等により走行路モデルパラメータを算出する。一方、同じく近づきつつある或いはより近いレーンマーカーに自車両が到達するまでの到達時間Thが所定値Th1 以上でないとき、つまり撮像部1で、走行中の走行車線の両側のレーンマーカーを検出できない、若しくは検出しにくいときには、レーンマーカー検出数NL を一本に設定し、自車両に最も近い一本のレーンマーカーの線幅Lを用いてカルマンフィルタ等により走行路モデルパラメータを算出する。
【0062】
前記第1実施形態と同様に、通常、車両は二本のレーンマーカーで規定される走行車線内を定常的に走行しており、走行車線の中央に対する自車両横変位が大きくなり、撮像部1で、走行車線両側のレーンマーカーを検出できない、若しくは検出しにくいというのは、車線変更等によって、自車両を横方向に移動させる過渡的な状況であると考えられる。そこで、初期設定として、検出すべきレーンマーカー検出数NL は二本に設定する。運転者に車線変更の意思がなく、そのまま走行車線に沿って走行し続ければ、ステップS27で算出されるレーンマーカー到達時間Thは前記比較的小さな所定値Th1 以上であり、且つ前記比較的大きな所定値Th2 以上でもあろうから、前記図10の演算処理ではステップS29からステップ31を経てメインプログラムに復帰してしまい、結果的にレーンマーカー検出数NL は二本のままである。従って、この間は、常に自車両が走行する走行車線の両側のレーンマーカーを二本検出し、それらによって得られる車線幅Wを用いてカルマンフィルタ等により各走行路モデルパラメータを算出する。
【0063】
これに対し、例えば運転者が車線変更を行おうと試み、前記ステップS27で算出されるレーンマーカー到達時間Thが、前記比較的大きな所定値Th2 より小さくなると(未だ、比較的小さな所定値Th1 以上であるとする)、図10の演算処理ではステップS31からステップS33に移行し、ここで自車両に最も近いレーンマーカー、即ち自車両が横方向にずれていこうとする側のレーンマーカーの線幅Lを検出する。但し、この場合には、前述のように自車両が走行している走行車線の両側のレーンマーカーは検出可能であるので、未だレーンマーカー検出数NL は二本のままとし、前記第1実施形態と同様に、それらによって得られる車線幅Wを用いてカルマンフィルタ等により各走行路モデルパラメータを算出する。つまり、この状態は、前記撮像部1によって自車両が走行している走行車線の両側の二本のレーンマーカーを検出することは可能であるが、これ以上、自車両が横方向にずれると、それら二本のレーンマーカーを検出できなくなる又は検出しにくくなるという状態である。
【0064】
そして、更にレーンマーカー到達時間Thが小さくなり、前記比較的小さな所定値Th1 より小さくなると、図10の演算処理のステップS29からステップS32に移行し、レーンマーカー検出数NL は一本に切替えられる。従って、これ以後、前記ステップS25のカルマンフィルタは、前記ステップS33で検出したレーンマーカーの線幅Lを用いて、各走行路モデルパラメータを算出する。これに対し、例えば車線変更が終了し、前記ステップS27で、隣接していた走行車線の両側のレーンマーカーに到達する到達時間Thが算出されるようになり、このレーンマーカー到達時間Thが前記比較的小さな所定値Th1 以上となると、図10の演算処理のステップS30からステップS34に移行し、レーンマーカー検出数NL は二本に切り替えられるので、これ以後、前記ステップS25のカルマンフィルタは、前述のように走行している走行車線の車線幅Wを用いて、各走行路モデルパラメータを算出する。
【0065】
このように、本実施形態の走行路検出装置では、走行車線に対する自車両の横方向への位置によってレーンマーカー検出数NL を切替え、それが二本であるときには、走行車線の車線幅Wを用いて、カルマンフィルタ等により各走行路モデルパラメータを算出し、一本であるときには、レーンマーカーの線幅Lを用いて同様に各走行路モデルパラメータを算出することができるので、車線変更などによる走行状態の変化に関わらず、各走行路モデルパラメータを算出し続けることができる。また、前記撮像部1によって自車両が走行している走行車線の両側の二本のレーンマーカーを検出することは可能であるが、これ以上、自車両が横方向にずれると、それら二本のレーンマーカーを検出できなくなる又は検出しにくくなるというときに、自車両に最も近いレーンマーカーの線幅Lを正確に検出することができるので、その後、一本のレーンマーカーしか検出できなくなったときには、その線幅Lを用いて、カルマンフィルタ等により各走行路パラメータを正確に算出することができる。また、自車両の状態量、つまり走行速度V、操舵角θ、或いはレーンマーカー到達時間Thに基づいてレーンマーカー検出数NL を切替えることにより、レーンマーカー検出数の切替えを適切なタイミングで行うことができる。
【0066】
なお、前記実施形態では、車線幅Wを固定値として扱い、CCDカメラの地上高hを推定しているが、例えばCCDカメラの地上高hを固定値とし、車線幅Wを推定してもよい。また、前記実施形態では、走行路モデルパラメータの算出にカルマンフィルタを用いたが、他の推定装置や最小二乗法等の同定方法を用いて算出するようにしてもよい。
【図面の簡単な説明】
【図1】本発明の走行路検出装置の第1実施形態を示す概略構成図である。
【図2】平面座標系と空間座標系との関連を示す説明図である。
【図3】レーンマーカーの形状及び縦断構造の定式化の説明図である。
【図4】レーンマーカーの線幅の算出方法の説明図である。
【図5】図1を構成する演算処理のフローチャートである。
【図6】レーンマーカー検出小領域の説明図である。
【図7】レーンマーカー候補点の説明図である。
【図8】自車両横変位所定値の説明図である。
【図9】自車両前方の横方向へのずれの説明図である。
【図10】本発明の走行路検出装置の第2実施形態を示す概略構成図である。
【図11】図10を構成する演算処理のフローチャートである。
【符号の説明】
1は撮像部
2は前処理部
3はレーンマーカー検出領域設定部
4はレーンマーカー検出部
5は走行路モデルパラメータ算出部
6は処理結果出力部
7はレーンマーカー検出数切替え判定部
8はレーンマーカー検出数切替え部
9は車両状態量検出部
Claims (9)
- 自車両前方の走行路を撮像する撮像手段と、前記撮像手段で撮像された走行路にレーンマーカーを検出するための小領域を設定するレーンマーカー検出領域設定手段と、前記レーンマーカー検出領域設定手段で設定された検出領域内でレーンマーカーの一部をレーンマーカー候補点として検出するレーンマーカー検出手段と、前記レーンマーカー検出手段で検出されたレーンマーカー候補点の情報から、自車両前方の走行路の形状を表すための走行路モデルパラメータを算出する走行路モデルパラメータ算出手段と、前記走行路モデルパラメータ算出手段で算出された走行路モデルパラメータに基づき、走行車線に対する自車両の横方向のずれ量に応じて、前記レーンマーカー検出領域設定手段が対象とするレーンマーカーの検出数を一本又は二本の何れかに切替えるレーンマーカー検出数切替え手段とを備え、前記走行路モデルパラメータ算出手段は、前記レーンマーカー検出数切替え手段が、自車両が走行する走行車線の両側の二本のレーンマーカーを検出対象としたときには、当該走行車線の車線幅を走行路モデルに用い、当該レーンマーカー検出数切替え手段が、自車両に最も近い一本のレーンマーカーを検出対象としたときには、当該レーンマーカーの線幅を走行路モデルに用いることを特徴とする走行路検出装置。
- 前記走行路モデルパラメータ算出手段は、前記撮像手段により、自車両が走行する走行車線の両側の二本のレーンマーカーを撮像可能であり、当該走行車線に対して自車両が横方向にずれて二本のレーンマーカーを撮像できなくなるときに、前記レーンマーカーの線幅を検出することを特徴とする請求項1に記載の走行路検出装置。
- 前記走行路モデルパラメータ算出手段は、走行路モデルのパラメータとして、レーンマーカーで規定される走行車線の曲率、当該走行車線に対する自車両の横変位、当該走行車線に対する自車両のヨー角、自車両のピッチ角、前記撮像手段の取付け位置の地上からの高さを算出することを特徴とする請求項1又は2に記載の走行路検出装置。
- 前記レーンマーカー検出数切替え手段は、自車両が走行する走行車線に対する自車両の横変位に基づいてレーンマーカーの検出数を切替えることを特徴とする請求項1乃至3の何れかに記載の走行路検出装置。
- 前記レーンマーカー検出数切替え手段は、前記撮像手段で撮像された撮像画面上での、自車両とレーンマーカーとの傾きに基づいてレーンマーカーの検出数を切替えることを特徴とする請求項1乃至3の何れかに記載の走行路検出装置。
- 前記レーンマーカー検出数切替え手段は、前記自車両が走行する走行車線に対する自車両の横変位及びヨー角に基づいてレーンマーカーの検出数を切替えることを特徴とする請求項1乃至3の何れかに記載の走行路検出装置。
- 前記レーンマーカー検出数切替え手段は、自車両の走行速度に基づいてレーンマーカーの検出数を切替えることを特徴とする請求項1乃至6の何れかに記載の走行路検出装置。
- 前記レーンマーカー検出数切替え手段は、自車両の操舵角に基づいてレーンマーカーの検出数を切替えることを特徴とする請求項1乃至7の何れかに記載の走行路検出装置。
- 前記レーンマーカー検出数切替え手段は、自車両がレーンマーカーに到達するまでの時間に基づいてレーンマーカーの検出数を切替えることを特徴とする請求項1乃至8の何れかに記載の走行路検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001156520A JP3807253B2 (ja) | 2001-05-25 | 2001-05-25 | 走行路検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001156520A JP3807253B2 (ja) | 2001-05-25 | 2001-05-25 | 走行路検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002352226A JP2002352226A (ja) | 2002-12-06 |
JP3807253B2 true JP3807253B2 (ja) | 2006-08-09 |
Family
ID=19000517
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001156520A Expired - Fee Related JP3807253B2 (ja) | 2001-05-25 | 2001-05-25 | 走行路検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3807253B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006121221A1 (ja) * | 2005-05-13 | 2006-11-16 | National University Corporation Tokyo University Of Agriculture And Technology | 車線追従制御装置および車線追従制御方法 |
JP4744537B2 (ja) * | 2008-02-05 | 2011-08-10 | 日立オートモティブシステムズ株式会社 | 走行レーン検出装置 |
JP5971020B2 (ja) * | 2011-08-22 | 2016-08-17 | 日産自動車株式会社 | レーン認識装置 |
JP5780140B2 (ja) * | 2011-12-02 | 2015-09-16 | 富士通株式会社 | 道路形状推定装置及びプログラム |
JP5799784B2 (ja) * | 2011-12-06 | 2015-10-28 | 富士通株式会社 | 道路形状推定装置及びプログラム |
KR101401932B1 (ko) * | 2012-06-07 | 2014-06-03 | 주식회사 만도 | 차선 인식 장치 및 차선 인식 방법 |
JP6102213B2 (ja) | 2012-11-22 | 2017-03-29 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP6194610B2 (ja) * | 2013-03-28 | 2017-09-13 | 富士通株式会社 | 移動距離推定装置、移動距離推定方法、及びプログラム |
US9830517B2 (en) | 2014-06-19 | 2017-11-28 | Toyota Motor Engineering & Manufacturing North America, Inc. | Road branch detection and path selection for lane centering |
JP6412460B2 (ja) | 2015-04-14 | 2018-10-24 | 株式会社Soken | 走行路推定装置 |
CA3029124A1 (en) * | 2016-07-21 | 2018-01-25 | Mobileye Vision Technologies Ltd. | Crowdsourcing and distributing a sparse map, and lane measurements for autonomous vehicle navigation |
WO2021138616A1 (en) * | 2020-01-03 | 2021-07-08 | Mobileye Vision Technologies Ltd. | Systems and methods for vehicle navigation |
-
2001
- 2001-05-25 JP JP2001156520A patent/JP3807253B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002352226A (ja) | 2002-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3729095B2 (ja) | 走行路検出装置 | |
JP3780848B2 (ja) | 車両の走行路認識装置 | |
JP5862670B2 (ja) | 走行支援装置および走行支援方法 | |
JP4676373B2 (ja) | 周辺認識装置、周辺認識方法、プログラム | |
JP3671825B2 (ja) | 車間距離推定装置 | |
JP3807253B2 (ja) | 走行路検出装置 | |
EP1354767B1 (en) | Vehicle surroundings monitoring apparatus and vehicle traveling control system incorporating the apparatus | |
US7266454B2 (en) | Obstacle detection apparatus and method for automotive vehicle | |
EP1396732A1 (en) | Vehicle surroundings monitoring apparatus and traveling control system incorporating the apparatus | |
EP2422320A1 (en) | Object detection device | |
US8730325B2 (en) | Traveling lane detector | |
JP2018180941A (ja) | 傾斜検出装置 | |
JPH03268109A (ja) | 自動走行装置 | |
JP3747599B2 (ja) | 車両用障害物検出装置 | |
JP2007147564A (ja) | 画像認識装置及び方法、並びに自車位置認識装置及び方法 | |
JP7255345B2 (ja) | 走行車線認識装置、走行車線認識方法およびプログラム | |
JP2004106697A (ja) | 車外監視装置、及び、この車外監視装置を備えた走行制御装置 | |
JP2007264712A (ja) | 車線検出装置 | |
JP3911983B2 (ja) | 後方監視装置 | |
JP3440956B2 (ja) | 車両用走行路検出装置 | |
CN114863387A (zh) | 一种循迹智能车赛道识别与分类方法 | |
JP2000099896A (ja) | 走行路検出装置、車両走行制御装置および記録媒体 | |
JPH1172337A (ja) | 走行レーン認識装置 | |
JP3846341B2 (ja) | 車両用後方監視装置 | |
JP4323010B2 (ja) | 車両における走行路認識方法及び走行路認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050725 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050802 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050929 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060124 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060223 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20060410 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060425 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060508 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090526 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100526 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100526 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110526 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130526 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140526 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |