JP4204948B2 - レーン認識装置 - Google Patents

レーン認識装置 Download PDF

Info

Publication number
JP4204948B2
JP4204948B2 JP2003377231A JP2003377231A JP4204948B2 JP 4204948 B2 JP4204948 B2 JP 4204948B2 JP 2003377231 A JP2003377231 A JP 2003377231A JP 2003377231 A JP2003377231 A JP 2003377231A JP 4204948 B2 JP4204948 B2 JP 4204948B2
Authority
JP
Japan
Prior art keywords
lane
candidate point
candidate
detection unit
points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003377231A
Other languages
English (en)
Other versions
JP2005141487A (ja
Inventor
才 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2003377231A priority Critical patent/JP4204948B2/ja
Publication of JP2005141487A publication Critical patent/JP2005141487A/ja
Application granted granted Critical
Publication of JP4204948B2 publication Critical patent/JP4204948B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

この発明は、車載のカメラにより撮像された道路画像に基づいて、検出したレーンまでの距離やレーン種類などに係わりなく、走行レーン(白線)を確実に認識することのできるレーン認識装置に関するものである。
従来のレーン認識装置においては、今回検出されたレーン候補点のうち、前回同定されたレーンの右側の第1距離範囲内に存在するレーン候補点を第1のレーン候補点群とし、レーン右側の第1距離範囲から第2距離範囲内に存在するレーン候補点を第2のレーン候補点群とし、さらに、レーン左側の距離範囲内に存在するレーン候補点を第3のレーン候補点群として、第1〜第3のレーン候補点群にグループ化している。(たとえば、特許文献1参照)。
このようなレーン認識装置においては、レーン候補点群毎にレーンの方向における単位長さ当たりのレーン候補点の数を計算し、レーン候補点の密度情報を求めて、密度が高いものを、最終的に求めるべきレーンの情報として選択する。
そして、最終的に求めるべきレーンの方向におけるレーン候補点の密度にしたがって、レーン候補点群を選択し、たとえば、主たるレーン(2重破線などの導流レーンなど)に沿って破線状の補助レーンが存在する場合には、補助レーンよりも主たるレーンを優先して、補助レーンに係わりなく主たるレーンを検出するようにしている。
特開2000−242769号公報
従来のレーン認識装置によれば、たとえば無限遠点近くにおいては、同一水平ライン上に検出されたレーン候補点の間隔が狭いので、前回同定されたレーンから等距離にあるレーン候補点が復数存在することになり、所望のレーン候補点を選択できないという課題があった。
また、各レーン候補点群の単位長さ当たりの密度が高いものを、求めるべきレーンの情報として選択しているので、たとえば2重破線などの導流レーンの場合、主たるレーンと補助レーンとの密度情報の違いが生じにくく、さらに、進行方向のレーン探索範囲(検出するレーンの距離)が短く候補点数が少ない場合には、主たるレーンの間欠部において密度の高低が逆転し、主たるレーンを検出できないという課題があった。
この発明は、上記課題を解決し、車載のカメラにより撮像された道路画像に基づいて、検出したレーンまでの距離やレーン種類などに係わりなく、走行レーン(白線)を確実に認識することのできるレーン認識装置を得ることを目的とする。
この発明によるレーン認識装置は、車両に搭載されて車両の前方を撮影するカメラと、カメラにより撮影された画像データに対してあらかじめ定めたレーン探索ラインに着目してレーン候補点を求めるレーン候補点検出部と、レーン候補点検出部により求められたレーン候補点を所要数だけ選択するレーン候補点選択部と、レーン候補点選択部により求められたレーン候補点群からレーン数式を求めるレーン形状同定部とを備え、レーン候補点検出部は、レーン種類を検出するレーン種類検出部を含み、レーン候補点選択部は、レーン種類が多重線を示す場合にレーン候補点の内側候補点を選択する内側候補点検出部と、内側候補点を系列に分離するための系列分離部と、系列に分離された内側候補点から所要数の候補点のみを選択する内側系列候補点選択部とを含み、系列分離部は、レーン種類検出部により検出されたレーン種類が多重線を示す場合に、無限遠点とレーン開始候補点との傾きとレーン候補点同士の傾きとを比較して、符号が反対であるか否かを判定し、同符号の場合はその傾きの絶対値が2倍より大きいか否かを判定した結果でインクリメントまたはデクリメントする処理を繰り返してラベルを付与し、レーン候補点選択部により算出された各レーン候補点のラベルを用いて、各レーン候補点を系列に分離し、内側系列候補点選択部は、各候補点に付与されるラベルの最大値を基準値として、各レーン候補点のラベルの中で、あらかじめ設定した基準値と等しいラベルを持つレーン候補点のみを選択するものである。
この発明によれば、検出したレーンまでの距離やレーン種類などに係わりなく、走行レーン(白線)を確実に認識することができる。
実施の形態1.
以下、この発明の実施の形態1について、図面を参照しながら詳細に説明する。
図1はこの発明の実施の形態1によるレーン認識装置を概略的に示すブロック構成図である。
図1において、車両に搭載されたレーン認識装置は、カメラ1、増幅器2、A/D変換器3および画像メモリ4を有する撮像部と、レーン種類検出部8を有するレーン候補点検出部5と、内側候補点検出部9、系列分離部10および系列選択部11を有するレーン候補点選択部6と、レーン形状同定部7とを備えている。
カメラ1は車両前方の道路画像を撮像し、カメラ1で撮像された道路画像信号は、増幅器2を介して所定信号レベルに増幅され、A/D変換器3を介してデジタル信号に変換された後、画像メモリ4に格納される。このとき、画像メモリ4への道路画像信号の格納処理は、所定のフレーム周期毎に実行される。
レーン候補点検出部5、レーン候補点選択部6およびレーン形状同定部7は、たとえばマイクロプロセッサを主体とする画像処理部によって構成されており、画像メモリ4に格納された道路画像中から走行レーンを認識して、走行レーンの位置および方向を検出する機能を有している。
レーン候補点検出部5内のレーン種類検出部8は、水平方向に設定された所定のレーン探索ライン上におけるレーン候補点の密度情報によりレーン種類を決定する。
レーン候補点選択部6内の内側候補点検出部9は、レーン種類が多重線を示す場合に、前回同定されたレーン形状に係わりなく、内側のレーン候補点を検出する。
レーン候補点選択部6内の系列分離部10は、内側レーン候補点を、無限遠点と開始レーン候補点とを結ぶ直線の傾きBA_SLと、レーン候補点同士の傾きSLとに基づいて、各候補点に基準点ラベルLAを付けて系列に分離する。
レーン候補点選択部6内の系列選択部11は、各候補点の基準点ラベルLAにより、レーン内側の系列を選択する。
レーン形状同定部7は、レーン内側系列に選択されたレーン候補点から、レーン数式を同定する。
次に、図1とともに、図2を参照しながら、この発明の実施の形態1によるレーン認識処理について説明する。
図2はこの発明の実施の形態1によるレーン認識処理を示す説明図であり、(a)は画像メモリ4に格納された道路画像信号、(b)は各水平位置における道路画像信号の輝度レベルを示している。
図2(a)においては、道路画像G内の探索ラインL、陰影Q、画像探索領域Sおよびレーン像Wが示されている。
また、図2(b)においては、水平方向に対する輝度信号Iの変化によりレーン候補点Pが示されている。
まず、レーン候補点検出部5は、たとえば、図2(a)に示すように、所々に陰影Qを含む道路画像Gに対して、あらかじめ設定された画像探索領域Sにおいて、水平方向に定められた所定の探索ラインLにおける、図2(b)に示すような輝度信号Iの変化に着目して、レーン候補点Pを求める。ここで、レーン候補点Pは、レーン数式を同定するために用いられる。
また、前述した通り、レーン候補点検出部5は、一定処理周期間のレーン候補点の密度情報および形状情報からレーン種類を検出するためのレーン種類検出部8を備えている。
図2(a)内において、画像領域Sは、カメラ1の取り付け角度に応じて、車両前方の所定の距離範囲内におけるレーン像Wを検出するために設定される。
また、レーン探索ラインLは、画像領域Sにおける、たとえば道路画像Gを形成する水平走査ライン中の連続する所定数(30ライン程度)に設定される。
したがって、レーン候補点検出部5は、レーン探索ラインL毎に、レーン候補点の検出処理を実行する。
以下、図3を参照しながら、レーン候補点検出部5内のレーン種類検出部8による具体的な処理について説明する。
図3はレーン種類検出部8による処理手順を示すフローチャートである。
図3において、まず、図2に示す画像探索領域S中の探索ラインLの開始ラインから数ラインを選択する(ステップS301)。探索ラインLの数は、たとえば、走行ラインの破線長さ程度に設定される。
続いて、選択ラインで検出されたレーン候補点の数sumを求め(ステップS302)、一定処理周期分の候補点数sumを記憶する(ステップS303)。
このように、一定処理周期分を記憶することにより、道路補修部や陰影Qを含む画像によって不要なレーン候補点を検出した場合でも、レーン種類が変化することを防ぐ効果がある。
次に、一定処理周期中に候補点数sumが閾値thを下回っているか否かを判定し(ステップS304)、sum<th(すなわち、YES)と判定されれば、フラグFLをセットして「1」に設定する(ステップS305)。
一方、ステップS304において、sum≧th(すなわち、NO)と判定されれば、フラグFLをクリアして「0」に設定する(ステップS306)。
最後に、一定処理周期分だけ記憶した候補点数sumの平均値aveとフラグFL(=1)とからレーン種類を決定し(ステップS307)、図3の処理ルーチンを終了する。
次に、レーン候補点選択部6は、レーン候補点検出部5によって求められたレーン候補点に基づいて、以下のように、レーンの認識処理を実行する。
まず、レーン候補点選択部6は、道路画像Gからレーン候補点を選択する。
ここで、レーン種類検出部8により検出されたレーン種類が多重線となる場合には、たとえば、内側候補点検出部9によるレーン候補点の選択処理が実行される。
なお、他のレーン種類の場合には、前回同定されたレーン形状からレーン候補点を選択し、レーン形状同定部7による処理が実行される。
図4はレーン候補点Pの例を示す説明図、図5は前回同定されたレーンに係わらず求められたレーン内側のレーン候補点P1の例を示す説明図である。
内側候補点検出部9による内側候補点選択処理により、図4に示すレーン候補点Pは、図5に示すようなレーン内側のレーン候補点P1となる。
このように、図5内のレーン候補点P1のみを系列に分離する手法は、図4の全レーン候補点Pを系列に分離する手法に比べて、計算量を大幅に減少させる効果がある。
次に、図6のフローチャートとともに、図7および図8の説明図を参照しながら、レーン候補点選択部6内の系列分離部10による具体的な系列分離処理について説明する。
図7は図6内のステップS601の処理に対応した説明図であり、無限遠点と開始レーン候補点Aとの傾きBA_SLを求める例を示している。
図8は図6内のステップS602の処理に対応した説明図であり、隣り合うレーン候補点同士の傾きSLを求める例を示している。
系列分離部10は、内側候補点検出部9により選択された内側候補点を、図6の処理ルーチンにしたがって、内側および外側の系列に分離する。
図6において、まず、系列分離部10は、レーン開始候補点である第1のレーン候補点Aと無限遠点とを結ぶ直線の傾きBA_SLを、垂直成分ΔVおよび水平成分ΔHを用いて、以下の式(1)(図7参照)により算出する(ステップS601)。
BA_SL=ΔV/ΔH ・・・(1)
このとき、第1のレーン候補点Aが存在しない場合には、第2、第3、・・・のレーン候補点を算出対象とする。
続いて、隣り合うレーン候補点同士の傾きSL(図8参照)を全候補点に対して算出する(ステップS602)。
このとき、隣り合うレーン候補点が存在しない場合には、次のレーン候補点を算出対象とする。
次に、各候補点の基準点ラベルLAを「0」に設定し(ステップS603)、第1のレーン候補点Aと無限遠点とを結ぶ直線の傾きBA_SLと、レーン候補点同士の傾きSLとを比較し(ステップS604)、BA_SLとSLとの符号が反対であるか否かを判定する(ステップS605)。
ステップS605において、BA_SLとSLとの符号が反対である(すなわち、YES)と判定されれば、各候補点の基準点ラベルLAを「1」だけ減算(デクリメント)し(ステップS606)、続いて、次のレーン候補点同士の傾きSLが存在するか否かを判定する(ステップS607)。
一方、ステップS605において、レーン候補点Aと無限遠点とを結ぶ直線の傾きBA_SLとレーン候補点同士の傾きSLとが同符号である(すなわち、NO)と判定されれば、続いて、|BA_SL|が|SL|の2倍よりも大きいか否かを判定する(ステップS608)。
ステップS608において、|BA_SL|>|SL|×2(すなわち、YES)と判定されれば、LAを「1」だけ加算(インクリメント)し(ステップS609)、|BA_SL|≦|SL|×2(すなわち、NO)と判定されれば、前回のLAの値を今回のLAし(ステップS610)、次の判定ステップS607に進む。
ステップS607において、次のSLが存在する(すなわち、YES)と判定されれば、比較ステップS604に戻って上記処理を繰り返し実行し、次のSLが存在しない(すなわち、NO)と判定されれば、図6の処理ルーチンを終了する。
以上のように、図6の処理は、各レーン候補点同士の傾きSLに対して実行され、これにより、各レーン候補点に基準点ラベルLAが付けられる。
なお、ここでは、片側におけるレーン候補点の検出処理について説明したが、反対側についても同様に実行される。
その後、レーン候補点選択部6内の系列選択部11は、レーン内側系列の候補点選択処理を実行し、たとえば、車両の安全走行に活用すべきレーン内側の系列に分離されたレーン候補点を選択する。
このとき、系列選択部11は、系列分離部10による処理(図6参照)で求められた基準点ラベルLAの最大値がレーン内側系列となるので、基準点ラベルLAが最大値となるレーン候補点を選択する。
なお、開始レーン候補点は、基準点ラベルLAの最大値と、開始レーン候補点と第2のレーン候補点との傾きSLによって、系列分けが行われる。
このようにして、図5に示すようなレーン候補点群J(破線内参照)が選択されたならば、レーン形状同定部7は、レーン候補点群Jのレーン候補点の連なりを調べることにより、レーン数式を認識し、レーン候補点群Jの位置および方向を決定する。
レーン形状同定部7の認識結果は、たとえば、車両に搭載された自動走行制御装置およびレーン逸脱警報装置などに出力されるとともに、次の道路画像Gに対するレーン認識処理における前回のレーン情報として、レーン候補点検出部5にフィードバックされる。
以上のように、この発明によるレーン認識装置は、水平方向に設定された所定のレーン探索ラインLにおける輝度信号の変化に着目してレーン候補点を求めるレーン候補点検出部5と、レーン種類が多重線を示す場合にレーン候補点を系列に分離するレーン候補点選択部6と、選択されたレーン候補点群からレーン認識を行うレーン形状同定部7を備えており、レーン候補点検出部5は、一定処理周期間のレーン候補点の密度情報と形状情報からレーン種類を検出するレーン種類検出部8を有している。
また、レーン候補点選択部6は、レーン種類が多重線となる場合に、レーン内側のレーン候補点を選択する内側候補点検出部9と、無限遠点と開始レーン候補点との傾きおよびレーン候補点同士の傾きからレーン内側のレーン候補点を内側および外側の系列に分離する系列分離部10と、レーン内側の系列に分離されたレーン候補点を選択する系列選択部11とを有している。
さらに、レーン形状同定部7は、レーン候補点選択部6で求められたレーン候補点群Jからレーン数式を求めるようになっている。
これにより、2重破線などの導流レーンマークのように、走行レーンを規定する本来のレーンに沿って、破線状の補助レーンが付されている場合であっても、車両の安全走行に活用すべきレーン(レーン内側の補助レーン)を確実に認識することができる。
すなわち、カメラ1により撮像される道路画像Gから、レーンの種類や検出したレーンの距離などの影響を受けることなく、レーンの情報を容易に且つ確実に検出することができる。
したがって、道路に付されたレーンを検出し、検出されたレーン情報に応じて安全走行を実現する際のレーン認識精度を顕著に高めることができ、実用上多大な効果を奏することができる。
また、無限遠点と開始レーン候補点とを結ぶ直線の傾きBA_SLと、検出されたレーン候補点同士の傾きSLとに基づいて基準点ラベルLAを付け、レーン候補点群Jをレーンの内側および外側の系列に分けて、レーン内側系列のレーン候補点を選択してレーン数式を同定することにより、簡単に且つ確実にレーン形状を認識することができる。
なお、この発明は上述の実施の形態1に限定されるものではない。
この発明の実施の形態1によるレーン認識装置を概略的に示すブロック構成図である。 この発明の実施の形態1によるカメラで撮像される道路画像G、レーン認識処理のための探索ラインL、探索ライン上の輝度信号Iおよびレーン候補点Pの例を示す説明図である。 この発明の実施の形態1によるレーン種類を決定する処理手順を示すフローチャートである。 この発明の実施の形態1によるレーン候補点Pの例を示す説明図である。 この発明の実施の形態1により前回同定されたレーンに係わらず求められたレーン内側のレーン候補点P1の例を示す説明図である。 この発明の実施の形態1によるレーン内側のレーン候補点をレーン内側と外側との系列に分離する処理手順を示すフローチャートである。 この発明の実施の形態1による無限遠点と開始レーン候補点Aの傾きBA_SLを求める例を示す説明図である。 この発明の実施の形態1による隣り合うレーン候補点同士の傾きSLを求める例を示す説明図である。
符号の説明
1 カメラ、2 増幅器、3 A/D変換器、4 画像メモリ、5 レーン候補点検出部、6 レーン候補点選択部、7 レーン形状同定部、8 レーン種類検出部、9 内側候補点検出部、10 系列分離部、11 系列選択部。

Claims (2)

  1. 車両に搭載されて前記車両の前方を撮影するカメラと、
    前記カメラにより撮影された画像データに対してあらかじめ定めたレーン探索ラインに着目してレーン候補点を求めるレーン候補点検出部と、
    前記レーン候補点検出部により求められたレーン候補点を所要数だけ選択するレーン候補点選択部と、
    前記レーン候補点選択部により求められたレーン候補点群からレーン数式を求めるレーン形状同定部とを備え、
    前記レーン候補点検出部は、レーン種類を検出するレーン種類検出部を含み、
    前記レーン候補点選択部は、
    前記レーン種類が多重線を示す場合に前記レーン候補点の内側候補点を選択する内側候補点検出部と、
    前記内側候補点を系列に分離するための系列分離部と、
    前記系列に分離された内側候補点から所要数の候補点のみを選択する内側系列候補点選択部とを含み、
    前記系列分離部は、前記レーン種類検出部により検出されたレーン種類が多重線を示す場合に、無限遠点とレーン開始候補点との傾きと前記レーン候補点同士の傾きとを比較して、符号が反対であるか否かを判定し、同符号の場合はその傾きの絶対値が2倍より大きいか否かを判定した結果でインクリメントまたはデクリメントする処理を繰り返してラベルを付与し、前記レーン候補点選択部により算出された各レーン候補点のラベルを用いて、前記各レーン候補点を系列に分離し、
    前記内側系列候補点選択部は、各候補点に付与されるラベルの最大値を基準値として、前記各レーン候補点のラベルの中で、あらかじめ設定した前記基準値と等しいラベルを持つレーン候補点のみを選択することを特徴とするレーン認識装置。
  2. 前記レーン種類検出部は、一定処理周期の間に前記レーン候補点検出部により検出されるレーン候補点の密度情報および形状情報に基づいて、前記レーン種類を求めることを特徴とする請求項1記載のレーン認識装置。
JP2003377231A 2003-11-06 2003-11-06 レーン認識装置 Expired - Fee Related JP4204948B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003377231A JP4204948B2 (ja) 2003-11-06 2003-11-06 レーン認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003377231A JP4204948B2 (ja) 2003-11-06 2003-11-06 レーン認識装置

Publications (2)

Publication Number Publication Date
JP2005141487A JP2005141487A (ja) 2005-06-02
JP4204948B2 true JP4204948B2 (ja) 2009-01-07

Family

ID=34688022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003377231A Expired - Fee Related JP4204948B2 (ja) 2003-11-06 2003-11-06 レーン認識装置

Country Status (1)

Country Link
JP (1) JP4204948B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4532372B2 (ja) * 2005-09-02 2010-08-25 トヨタ自動車株式会社 道路区画線検出装置
JP4710981B2 (ja) 2009-01-23 2011-06-29 トヨタ自動車株式会社 区画線認識装置、及び当該装置で用いられる区画線認識方法
JP5402828B2 (ja) * 2010-05-21 2014-01-29 株式会社デンソー 車線境界検出装置、車線境界検出プログラム
JP5538098B2 (ja) * 2010-06-30 2014-07-02 富士重工業株式会社 車両用白線認識装置
JP5997962B2 (ja) * 2012-07-27 2016-09-28 クラリオン株式会社 車載レーンマーカ認識装置
JP6483446B2 (ja) 2015-01-15 2019-03-13 トヨタ自動車株式会社 複合線判定装置及び複合線判定方法
EP3098753A1 (en) * 2015-05-28 2016-11-30 Tata Consultancy Services Limited Lane detection

Also Published As

Publication number Publication date
JP2005141487A (ja) 2005-06-02

Similar Documents

Publication Publication Date Title
JP4365350B2 (ja) 車両及び車線認識装置
US20090190827A1 (en) Environment recognition system
JP2000357233A (ja) 物体認識装置
JP2008187347A (ja) 車載用ナビゲーション装置、路面標示識別プログラム及び路面標示識別方法
US20140002655A1 (en) Lane departure warning system and lane departure warning method
JP2006309313A (ja) 道路認識装置
US20140002658A1 (en) Overtaking vehicle warning system and overtaking vehicle warning method
US11010619B2 (en) Device and a method for searching for a lane on which a vehicle can drive
JP4204948B2 (ja) レーン認識装置
JP2005322166A (ja) 走行レーン認識装置
JP2000306097A (ja) 道路領域判定装置
JP3540005B2 (ja) 障害物検出装置
JP2002321579A (ja) 警告情報生成方法及び車両側方映像生成装置
JPH10267618A (ja) 距離計測装置
JP2008165595A (ja) 障害物検出方法、障害物検出装置、障害物検出システム
JP4696925B2 (ja) 画像処理装置
JP2011170539A (ja) 点灯色識別装置及びプログラム
US8179471B2 (en) Focusing device and image pickup apparatus
JPH07244717A (ja) 車両用走行環境認識装置
JP2983420B2 (ja) 車間距離計測装置
CN110659553A (zh) 车辆用标线检测装置
JP2002002485A (ja) 軌道認識装置及び軌道認識装置を用いた鉄道車両
JP2006018339A (ja) ナンバープレート認識装置及び方法
JP2008225953A (ja) 白線認識装置及び方法
JP3722637B2 (ja) 白線認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050805

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080219

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080327

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080507

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080604

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080707

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080902

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080922

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081015

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees