JP2005191655A - 表示制御装置 - Google Patents

表示制御装置 Download PDF

Info

Publication number
JP2005191655A
JP2005191655A JP2003427172A JP2003427172A JP2005191655A JP 2005191655 A JP2005191655 A JP 2005191655A JP 2003427172 A JP2003427172 A JP 2003427172A JP 2003427172 A JP2003427172 A JP 2003427172A JP 2005191655 A JP2005191655 A JP 2005191655A
Authority
JP
Japan
Prior art keywords
image
vehicle
display
mirror
display control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003427172A
Other languages
English (en)
Other versions
JP4321258B2 (ja
Inventor
Atsushi Sato
敦 佐藤
Kazuaki Sawada
和昭 澤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Equos Research Co Ltd
Original Assignee
Equos Research Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Equos Research Co Ltd filed Critical Equos Research Co Ltd
Priority to JP2003427172A priority Critical patent/JP4321258B2/ja
Publication of JP2005191655A publication Critical patent/JP2005191655A/ja
Application granted granted Critical
Publication of JP4321258B2 publication Critical patent/JP4321258B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】交差点等の死角を映し出すブラインドモニターにおいて、より直感的に外部状況を把握できる画像を表示する。
【解決手段】車両の前部に設けられた魚眼レンズで画像を取得し、魚眼レンズ画像から、車両左右方向の画像を抽出し、その抽出画像に、カーブミラーの像に近似させるように、回転処理し、予め記憶されているカーブミラーの枠画像52L、52Rを合成する。そして、画面141上には、あたかもカーブミラーを撮影した如く、カーブミラー映像として処理された撮像画像L2、R2を表示する。
【選択図】図5

Description

この発明は、車両に搭載された表示制御装置に係り、詳しくは、見通しの悪い交差点等に差し掛かったときに使用するブラインドコーナーモニタ機能を有する表示制御装置に関するものである。
従来、見通しの悪い交差点などを通過する際、安全を確保するために、いわゆるブラインドコーナーモニタと称される装置が用いられている。このブラインドコーナーモニタとは、見通しの悪い交差点等に車が差し掛かったときに、使用者がスイッチを入れ、かつ、車速が低速である場合に起動する。
そして、車両前方において左右方向に向けられたカメラから、車両の位置する道路に交差する道路の状況を映した画像を取得し、その画像を車内のディスプレイに表示するものである。このような装置は、交差点や道路が屈曲し、塀などの障害物で進行方向の状況が、運転席から視認しづらい場所などで用いられる。
通常、このような見通しの悪い交差点などには、カーブミラーと称される鏡が、コーナ部分に設置されている。交差する道路から交差点に進入する車両は、カーブミラーを介して進入しようとしている道路の状況を把握することができる。
また、カーブミラーの形状は、凸面鏡となっており、カーブミラーに映し出される像は、正像に比較して湾曲した形に映し出される。
特開2003−127772
しかし、特許文献1に代表される従来のブラインドコーナーモニタは、図7に示されているように、カメラで撮像した映像がそのままモニターに表示される。つまり、このモニターに表示される画像l0、r0は、カメラ視点で撮像された画像が表示されるので、直接肉眼で認識した画像とは異なる。その結果、運転者においては、その表示画面に慣れるまで、モニターに映っている移動体や障害物との距離感や方向などを直感的には把握することが難しいという問題があった。
また、魚眼レンズを用いて外部画像を取得するブラインドコーナーモニタでは、広い範囲の映像情報を取得できる利点がある一方、歪みが大きいために、正像変換とよばれる歪み補正をする画像処理が必要となる。
さらに、見通しの悪い交差点に差し掛かる度に、ブラインドコーナーモニタのスイッチを入れる必要があり、操作が煩わしいという欠点もあった。
この発明は、交差点等の死角を映し出すブラインドコーナーモニタにおいて、より直感的に外部状況を把握できる画像を表示する表示制御装置を提供することを目的とする。
以上のような問題を解決する本発明は、以下のような構成を有する。
(1) 車両前方の画像を撮像する撮像手段と、
前記撮像画像が撮像した画像を、カーブミラーを模した図形中のミラー部分に表示する表示手段と、
を備えることを特徴とする表示制御装置。
(2) 前記撮像手段で撮像する画像は、魚眼レンズで撮像された画像であることを特徴とする上記(1)に記載の表示制御装置。
(3) 前記撮像手段で撮像された画像を、前記カーブミラーの湾曲形状に対応させて画像処理を行う画像処理手段と、を備え、
前記表示手段は、前記画像処理された画像を前記図形中のミラー部分に表示することを特徴とする上記(1)又は(2)に記載の表示制御装置。
(4) 車両の現在位置を検出する現在位置検出手段と、
地図データと、前記表示手段を表示する予め地点登録された地点とが記憶された地図データ記憶手段と、
前記車両の速度を検出する車速検出手段と、を備え、
前記表示手段は、前記検出した現在位置と前記地点登録された場所とが一致し、かつ前記車速が所定値以下だった場合、前記撮像した画像を前記図形中のミラー部分に表示することを特徴とする上記(1)〜(3)のいずれか1に記載の表示制御装置。
請求項1に記載の発明によれば、撮像手段によって取得された車外状況の画像が、カーブミラーを模した図形中のミラー部分に表示されので、画像に示されている車外状況を、カーブミラーを見る際と同じ感覚で把握することができる。このため、画像を介して得られる対象物との方向感覚や距離感覚が、カーブミラーを介して把握する場合と近似し、より正確に画像に映し出された対象物との距離感や方向感覚を得ることができる。
請求項2に記載の発明によれば、撮像手段で撮像する画像は、魚眼レンズで撮像された画像であるので、表示画面に表示される像は、カーブミラーに映し出される像と同様に湾曲し、カーブミラーの像に、近づいた状態となる。この為、正像変換等の装置に対する処理負荷が大きい画像処理を行う必要がなくなる。また、使用者は、より正確に画像に映し出された対象物との距離感や方向感覚を把握することができる。
請求項3に記載の発明によれば、取得された画像が、画像処理により、カーブミラーに映し出される像に合致するように処理されるため、カーブミラーを視認した場合と同じ像が表示画面に表示される。これにより、カーブミラーを見る際と同様の感覚で表示画像から、対象物との距離や方向を把握することができる。
請求項4に記載の発明によれば、以前に画像を抽出表示した地点を予め記憶しておき、現在位置検出手段によって、同地点に差し掛かった場合には、自動的に表示をすることによって、画像表示装置の起動操作をする必要がなくなり、煩わしさが軽減される。
以下、本発明の好適実施形態について、添付図面に基づいて詳細に説明する。図1は本発明の表示制御装置1の構成を示すブロック図である。表示制御装置1は、画像処理を行う演算処理装置12と、車体に取り付けられた撮像手段としてのカメラ13と、車速検出手段としての車速センサ11と、画像を表示する表示手段としての表示装置14と、画像等の記憶手段としての主記憶装置16と、流力手段18とを備え、これらの装置は、システムバス17を介して相互に接続されている。撮像手段として機能するカメラ13は、図2に示されているように、本実施形態では、車両の前端中央部において、レンズの光軸が車両の中心線に一致するように、前方へ向けて配置されている。カメラ13は、魚眼レンズ130を有し、この魚眼レンズ130を介して車両前方の画像を取得する。魚眼レンズ130の画角は、180°であり、車両前側の左右方向の画像も含めて、広範囲の画像の取得が可能である。カメラ13は、A/D変換器131を介してシステムバス17に接続される。カメラ13から出力された画像信号は、画像処理を行うためにA/D変換器131によってデジタル信号に変換される。また、接続されたカメラ13が、デジタル信号出力が可能なものである場合には、A/D変換器131は不要である。カメラ13は、車両前端部の左右端にそれぞれ設けられていてもよい。この場合には、必ずしも魚眼レンズを用いなくともよい。カメラ13には、例えば、CCD素子や、CMOS素子が用いられ、電気信号として画像が取得される。
また、システムバス17には、インターフェース15を介して、ナビゲーション装置3からの画像情報が供給され、該画像情報は、表示装置14に表示される。
表示手段としての表示装置14は、例えば液晶ディスプレイ等で構成され、表示画像データメモリ166に格納された合成画像が表示される。表示装置14では、必要な場合には、D/A変換を行い、画像を画面に出力する。
車速センサ11は、自車の車速度を検出し、検出値をインターフェース111、及びシステムバス17を介して演算処理装置12に供給する。
主記憶装置16は、カメラ13が映した画像を記憶する装置で、例えば、ハードディスクドライブ装置や、メモリーチップなどにより構成される。主記憶装置16は、画像データを記録する画像データメモリ16Aと、地点データ記憶手段としての地点データメモリ16Bとを有している。画像データメモリ16Aは、カメラ13の取得した画像をそのまま記録するカメラ画像データメモリ161、カメラ13で撮像された画像から一部を切り出して抽出された画像を記録する抽出データメモリ162と、抽出データメモリ162に記録された画像に画像処理を行った画像を記録する画像変換データメモリ164、カーブミラーを模した図形(形状)のマスク画像を記録したマスク画像データメモリ165、カーブミラーを模した図形とカメラが撮像した画像とを重畳した表示画像を記録する表示画像データメモリ166を有している。
地図データ記憶手段としての登録地点データメモリ16Bは、地図データと、入力装置18からの地点入力又は使用者が本表示制御装置を使用した地点とを記憶する装置であり、緯度経度が記憶される。この地図データはナビゲーション装置3に含まれる地図データを用いてもよい。
入力装置18は、例えばキーボードやマウスからなり、主に本装置を起動させるためのスイッチとして機能する。また、本装置を自動で起動させるための地点データを入力し、登録地点データメモリ16Bへ記憶させる為のものでもある。入力装置18は表示装置14と組み合わせタッチパネルとして機能してもよい。
演算処理装置12は、中央処理装置[CPU(Central Processing Unit)]121と、リードオンリーメモリ[ROM]122と、ランダムアクセスメモリ[RAM]123とを備えている。中央処理装置121は、カメラ13で取得した画像の画像処理、ナビゲーション装置3から取得した現在位置が、登録地点データ16Bに記憶された登録位置に合致するか否かの判断などの処理を行う。画像処理としては、例えば、カメラ13で取得した魚眼レンズによる画像を魚眼レンズ画像データメモリ161に格納し、この画像から、マスク画像データ165に記憶されたカーブミラー形状に沿った画像を切り出して抽出し、この画像を抽出データメモリ162に格納し、抽出された画像に対して、画像処理を行う。この画像処理は、カーブミラーの湾曲像に合致した画像となる様に、歪みを補正する歪み補正処理、カーブミラーの姿勢に合致するように、画像全体を回転させ、カーブミラーの傾きにあわせて表示する表示角度補正処理などがある。
さらにこのように画像処理された画像に対して、カーブミラーの枠を合成し、ディスプレイに表示された画像が、あたかもカーブミラーを映した画像と見えるように画像を合成する、画像合成処理などが行われる。
また、演算処理装置12は、ナビゲーション装置3からの画像データを受け取り、表示装置14に表示する。また、演算処理装置12は、入力装置18からの起動スイッチオンにより、画像処理された画像を表示装置14に表示する際には、ナビゲーション装置3からの画像データを表示せず、カメラ画像を処理したブラインドコーナーモニタとして作用させる。この際、ブラインドコーナーモニタとして使用した地点を登録地点データとして記憶し、次に同じ地点を自車が通過した際には、車速が低速である場合に限り、自動的にブラインドコーナーモニタとしての機能をオンにし、表示装置14のディスプレイ画面に、画像処理したカメラ画像を表示する。
ナビゲーション装置3は、GPS装置、地磁気センサ、操舵センサ、測距センサなどにより車両の現在位置を検出する現在位置検出装置(現在位置検出手段)と、地図データを記憶した地図データメモリと、現在値から設定された目的までの経路を探索する経路探索装置などを有しており、記憶されている地図データから、現在位置を含む地図データ(画像データ)を抽出し、その地図データ上の現在位置に対応する地点に、自車を象徴するマークを表示して、表示装置14に表示する画像データを生成する。ナビゲーション装置3から供給されるデータには、表示装置14に表示するための画像データと、現在位置に関する緯度・経度データが含まれる。
以上のように構成された本発明の表示制御装置1の作用を図3に示されているフローチャートに基づき説明する。
演算処理装置12は、入力装置18の始動スイッチがオンされたか判断し(ステップS101)。図示しないが、始動スイッチがオンされると、ナビゲーション装置3から現在位置(緯度・経度)を取得し、取得した現在位置を登録地点データ16B格納し、ステップS107の処理へ移行する。オンされていない場合には、ナビゲーション装置3から現在位置情報を取得する(ステップS103)。取得した現在位置情報が、登録地点データメモリ16Bに蓄積されている地点に合致するか判断し(ステップS105)、合致しない場合にはリターンされる。合致する場合、又は始動スイッチがオンされた場合には、車速センサ11から供給された値に基づいて、車速が低速であるか判断する(ステップS107)。低速であるかの判断基準は、例えば、車両が交差点などに進入し、進路変更をするために安全な速度よりも低いか、という判断基準である。この速度より大きい場合には、交差点を直進することが予想され、ブラインドコーナーモニタを使用する必要がないからである。この場合には、リターンされる。
低速とは、例えば、時速5km/h以下の場合である。この他、さらに、ステップS105の後に、ウインカがオンされたか、という判断を加えてもよい。進路を変更する蓋然性が高いと判断されるからである。
低速走行と判断された場合には、表示処理が行われる(ステップS109)。図4は、表示処理を示すフローチャートである。カメラ13の撮像を開始し、本実施形態では、図5に示されているような、魚眼レンズで撮像された画像G0を取得し、カメラ画像データメモリ161に格納する。魚眼レンズ画像では、車両の中心線(画像の中央)を中心にして左側の領域は、車両の左側の状況を映しており、右側の領域の画像は、車両の右側の状況を映している。そして、左側領域画像を左側モニタ画像として、右側領域画像を右側モニタ画像として、抽出する(ステップS203)。この際、図5に破線で示されているように、マスク画像データ165に記憶されたカーブミラー形状に沿うように、予め楕円形の画像L1、R1として抽出する。本実施形態でのカーブミラー形状は、楕円形であるが、カーブミラー形状が、例えば長方形の場合、その形状に沿うように長方形画像として抽出してもよい。これらの画像は、抽出データメモリ162に、それぞれ格納される。
さらに、抽出された画像全体を回転させる画像処理をおこなう(ステップS205)。本実施形態におけるカーブミラーは、高い位置から、下方に向けて配置されているため、カーブミラー全体は、斜め下方を向いている。また、カーブミラーを使って交差する道路を視認するためには、カーブミラーの斜め側方から、映された像を見る必要がある。このような位置から見られる像は、観察者の位置に近い側から遠い側へ向けて画像が傾斜する。そこで、カーブミラーの像に、魚眼レンズで取得した画像を近づけるために、取得された像を、カメラ位置に近い部分の像から遠い位置の像へ向けて下方に傾斜するように、画像全体を回転させる処理を行う。
具体的には、左側の画像は、左回転、右側の画像は右回転させる。回転角度は、道路形状や車両位置により異なるが、本実施形態では0〜45°の範囲が実用的である。
また、マスク画像データ165に記憶されたカーブミラー形状が高い位置から下方に向けて配置されておらず、画面(地面)に対して平行に向けられている場合、このステップS205は必要ない。
本実施形態では、魚眼レンズを用いたカメラを使用しているが、もし魚眼レンズを用いていない通常のレンズを用いたカメラを使用する場合には、取得した画像がカーブミラーに沿うように、回転した画像に対して、画像補正を行う(ステップS207)。魚眼レンズ画像は、画像周端部分の歪みが大きく、中央の歪みは少ない。この歪みの差によって、画像自体は凸面鏡に映された像に近似した画像となっている。従って、魚眼レンズ画像自体が、凸面鏡であるカーブミラーに映し出された像に近似しているため、魚眼レンズを用いた場合、このステップS207は、必要ない。しかし、カーブミラーに映される像と、通常のレンズで撮影した画像とは、合致していないので、カーブミラーに映される像に画像を合致させるために、画像補正を行い、よりカーブミラーの像に近づける。魚眼レンズを用いた場合には、この補正処理必要がないので、演算処理装置12の負担は、抑えられている。これらの処理が終わった画像L2、R2は、画像変換データメモリ164に格納される。このステップS203からステップS207の処理により、本発明の画像処理手段が構成される。
次に、マスク画像を合成する(ステップS209)。マスク画像は、マスク画像データメモリ165に予め格納されているカーブミラー枠52L、52Rの画像である。この枠の中に、画像処理された変換画像データメモリ164に格納されていた画像L2、R2を重ね合わせて、図6に示されているような、最終的な表示画像を作成する(ステップS209)。作成された表示画像は、表示画像データメモリ166に格納される。
表示画像データメモリ166から画像データを読み取り、表示装置14のディスプレイ画面141に表示する(ステップS211)。
以上のような表示処理が連続で行われ、動画として表示装置14に、車両の前方部分の左側画像L2と右側画像R2が表示される。
このような処理(ステップS109)の後、終了トリガーがあるか否か判断する(ステップS111)。終了トリガーは、例えば、使用者によりスイッチオフ、車速がステップS107で判定する速度より高くなった場合、登録地点よりも所定距離離れた場合などが挙げられる。このような終了トリガーがあった場合には、リターンし、終了トリガが無い場合にはステップS107へリターンする。
表示制御装置の構成を示すブロック図である。 表示制御装置の構成を示すブロック図である。 表示制御装置の作用を示すフローチャートである。 表示処理を示すフローチャートである。 魚眼レンズによる画像を示す平面図である。 処理された画像が表示されたディスプレイ画面を示す平面図である。 従来のブラインドコーナーモニタの画像構成を示す平面図である。
符号の説明
1 表示制御装置
12 演算処理装置
13 カメラ
130 魚眼レンズ
14 表示装置
16 主記憶装置

Claims (4)

  1. 車両前方の画像を撮像する撮像手段と、
    前記撮像画像が撮像した画像を、カーブミラーを模した図形中のミラー部分に表示する表示手段と、
    を備えることを特徴とする表示制御装置。
  2. 前記撮像手段で撮像する画像は、魚眼レンズで撮像された画像であることを特徴とする請求項1に記載の表示制御装置。
  3. 前記撮像手段で撮像された画像を、前記カーブミラーの湾曲形状に対応させて画像処理を行う画像処理手段と、を備え、
    前記表示手段は、前記画像処理された画像を前記図形中のミラー部分に表示することを特徴とする請求項1又は2に記載の表示制御装置。
  4. 車両の現在位置を検出する現在位置検出手段と、
    地図データと、前記表示手段を表示する予め地点登録された地点とが記憶された地図データ記憶手段と、
    前記車両の速度を検出する車速検出手段と、を備え、
    前記表示手段は、前記検出した現在位置と前記地点登録された場所とが一致し、かつ前記車速が所定値以下だった場合、前記撮像した画像を前記図形中のミラー部分に表示することを特徴とする請求項1乃至請求項3のいずれかに記載の表示制御装置。
JP2003427172A 2003-12-24 2003-12-24 表示制御装置 Expired - Fee Related JP4321258B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003427172A JP4321258B2 (ja) 2003-12-24 2003-12-24 表示制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003427172A JP4321258B2 (ja) 2003-12-24 2003-12-24 表示制御装置

Publications (2)

Publication Number Publication Date
JP2005191655A true JP2005191655A (ja) 2005-07-14
JP4321258B2 JP4321258B2 (ja) 2009-08-26

Family

ID=34786523

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003427172A Expired - Fee Related JP4321258B2 (ja) 2003-12-24 2003-12-24 表示制御装置

Country Status (1)

Country Link
JP (1) JP4321258B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007288440A (ja) * 2006-04-14 2007-11-01 Fujifilm Corp 自転車通信システム
JP2008308063A (ja) * 2007-06-15 2008-12-25 Pioneer Electronic Corp ナビゲーション装置、並びに、表示制御方法及びプログラム
US10131277B2 (en) 2014-10-28 2018-11-20 Aisin Seiki Kabushiki Kaisha Surroundings monitoring apparatus
JP2020088591A (ja) * 2018-11-26 2020-06-04 国立大学法人 筑波大学 映像処理システム及び映像処理装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007288440A (ja) * 2006-04-14 2007-11-01 Fujifilm Corp 自転車通信システム
JP2008308063A (ja) * 2007-06-15 2008-12-25 Pioneer Electronic Corp ナビゲーション装置、並びに、表示制御方法及びプログラム
US10131277B2 (en) 2014-10-28 2018-11-20 Aisin Seiki Kabushiki Kaisha Surroundings monitoring apparatus
JP2020088591A (ja) * 2018-11-26 2020-06-04 国立大学法人 筑波大学 映像処理システム及び映像処理装置
JP7181589B2 (ja) 2018-11-26 2022-12-01 国立大学法人 筑波大学 映像処理システム及び映像処理装置

Also Published As

Publication number Publication date
JP4321258B2 (ja) 2009-08-26

Similar Documents

Publication Publication Date Title
US10733462B2 (en) Travel assistance device and computer program
US7482949B2 (en) Parking assist method and a parking assist apparatus
JP5117003B2 (ja) 運転支援装置
US11511627B2 (en) Display device and computer program
EP2911041B1 (en) Generating an augmented view of a location of interest
JP5798392B2 (ja) 駐車支援装置
JP4432801B2 (ja) 運転支援装置
JP4855158B2 (ja) 運転支援装置
JP4981566B2 (ja) 運転支援装置および運転支援方法
EP3466763B1 (en) Vehicle monitor system
JP2003191810A (ja) 車両周辺監視システム及び車両移動状態検出装置
JP2007116377A (ja) 駐車支援方法及び駐車支援装置
JP2008280026A (ja) 運転支援装置
JP2008018760A (ja) 運転支援装置
KR20080020956A (ko) 차량의 나이트-뷰 시스템 동작 방법 및 대응하는 나이트-뷰시스템
JP2009211624A (ja) 運転支援装置、運転支援方法及びコンピュータプログラム
JP7006460B2 (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法、およびプログラム
JP2006172215A (ja) 運転支援システム
JP6136238B2 (ja) 走行支援システム、走行支援方法及びコンピュータプログラム
JP5156307B2 (ja) 車載カメラシステム
JP4857159B2 (ja) 車両運転支援装置
JP4321258B2 (ja) 表示制御装置
JP5885619B2 (ja) 運転支援装置
JP2007025739A (ja) 車両用画像表示装置
JP4731173B2 (ja) 車載用電子装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090512

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090525

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130612

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140612

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees