JP4051386B2 - 車載用カメラ装置 - Google Patents

車載用カメラ装置 Download PDF

Info

Publication number
JP4051386B2
JP4051386B2 JP2005255806A JP2005255806A JP4051386B2 JP 4051386 B2 JP4051386 B2 JP 4051386B2 JP 2005255806 A JP2005255806 A JP 2005255806A JP 2005255806 A JP2005255806 A JP 2005255806A JP 4051386 B2 JP4051386 B2 JP 4051386B2
Authority
JP
Japan
Prior art keywords
headlight
image processing
wiper
processing unit
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2005255806A
Other languages
English (en)
Other versions
JP2006073013A (ja
Inventor
満 紺井
雅明 福原
公雄 西野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Hitachi Automotive Systems Engineering Co Ltd
Original Assignee
Hitachi Ltd
Hitachi Car Engineering Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd, Hitachi Car Engineering Co Ltd filed Critical Hitachi Ltd
Priority to JP2005255806A priority Critical patent/JP4051386B2/ja
Publication of JP2006073013A publication Critical patent/JP2006073013A/ja
Application granted granted Critical
Publication of JP4051386B2 publication Critical patent/JP4051386B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Lighting Device Outwards From Vehicle And Optical Signal (AREA)

Description

本発明は、自動車等の車両に搭載され、カメラ環境をモニタしつつその状況に応じて車載電子機器を適宜、動作させるカメラ装置に関するものである。
従来、車載用電子機器は、車両の使用環境状況に十分耐えられる規格品を採用していたため、開発コスト,製品コストが非常に高いものになっていた。
本発明は、一般に使用される撮像素子を使用しながら、環境条件の厳しい車載用に使用できる様に、車両に既に備わっているエアコン,ワイパー,ヘッドライト等の設備を有効に使用し、撮像素子の環境を和らげることを目的としている。
上記課題を解決すべく、本発明はレンズと撮像素子により撮像された画像に基づいて道路上の白線を認識する画像処理部と、前記画像処理部の認識結果を、通信部を介して他の制御装置に送信する制御部とを有するカメラ装置において、前記制御部は、前記画像処理部が道路上の白線を認識できないときは、ヘッドライト,ワイパー,熱線,エアコンのいずれかの制御装置に作動要求を送信する構成とする。
本実施例によれば、主に車両に搭載されるカメラと車両の電装品負荷を駆動する方法に関するもので、互いに協調させることで、コストの安いカメラを使用でき、さらに、画像処理能力(検出能力)を高めるといった効果がある。
以下、本発明の一実施例を図面を用いて説明する。
図1は、システム全体を示す、システム構成図である。ECU1は、車両の前方に配置された電気負荷制御装置であり、本実施例においては、ヘッドライトの点消灯制御,上向きビームと下向きビームの切り替え等を制御するものであり、ECU2は、エンジンルームのウインドシールド近傍に配置された電気負荷制御装置であり、ワイパーの制御や後述する熱線の作動制御等を行うものである。撮像装置(カメラ)3は、車室内のウインドシールド近傍に設置され、車両前方の画像処理を行うためのものである。ECU4は、主にエアコンの制御や運転席近傍に設置された各種操作スイッチ類の状態を取り込む為のものである。各装置は、多重通信線5により互いに接続され、いわゆる車内LANが構築されており、各電装品の作動制御や状態が自由に判断できる様になっている。
図2は、ECU1の内部構成図である。本実施例では、特に、ヘッドライトの点消灯制御を行う装置として設けている。バッテリから配線される電力供給線は、内部の電源を生成する電源回路10と、ヘッドランプ(Hi)22とヘッドランプ(Lo)23を点灯させる電源供給素子である、FET16とFET19に接続されている。電源回路10で生成した内部電源は、電源線14により、通信IC13とマイコン12に供給される。通信IC13は、多重通信線5により、他の制御装置との情報のやりとりを実施するためのもので、このICの制御は、データバス15によりマイコン12がすべてコントロールしている。FET16は、接続線18を介してヘッドランプ(Hi)22を点灯させるべく、電源供給を行うスイッチング素子であり、ON/OFFの制御は、信号線17により可能となっている。同様に、ヘッドライト(Lo)23の点灯が行われるが割愛する。
図3は、ECU2の内部構成図である。図2との相違は、FET31,35に接続されている電気負荷のみであり、FET31は、接続線32を介しワイパーモータ33を動作させ、FET35は、同様に接続線36を介して電熱線37を動作させる。電熱線37は、後述するカメラ3の視角に入る車両のウインドシールドに貼り付いた雪や氷を溶かす為のものであり、カメラ3の視界確保を補うためのものである。通常、カメラ3は、ワイパーのふき取り範囲内に設置されるが、本発明では、冬期間においても短時間でカメラ視界を確保を出来る様に設置している。
図4は、ECU4の内部構成図である。これもほぼ図2の構成と同一であり、相違点は、スイッチ群56からの信号を入力回路55で変換し、信号線群54で、マイコン12に入力している点である。スイッチ群56は、本実施例の場合、左から、外気温度センサ,ワイパースイッチ,ヘッドライトスイッチ,ヘッドライトの上向き切り替えスイッチに割り当てている。なお、このECU4は、記載していないが、エアコンの制御を行っており、温度調節,風量調節,風向調節が自由に行える様になっており、制御方法に関しては本発明に関係ないので、割愛している。
図5は、カメラ3の内部構成図である。これも図2の構成と一部が同一であるが、その部分については説明を割愛する。マイコン12は、画像処理IC61を制御信号線群60を介してコントロールしており、また、画像処理IC61が演算した結果や情報を整理し、他の制御装置へ通信IC13を使用して送受信している。本実施例では以後、カメラ3を車両の走行車線の認識に使用しているものと仮定し、本発明の使われ方について説明する。したがって、走行車線(白線認識)に関する処理内容や、その制御を実施する制御装置,データの流れ等に関しては、本発明と関係が無いので割愛するが、白線認識をして車線逸脱を警告もしくは防止するシステムに本発明のカメラが使用されているものとして解釈していただきたい。
画像処理IC61は、信号線62により撮像素子63に接続されており、撮像素子63は、レンズ64から入った光を画像に変換する素子である。一般に撮像素子63は、ビデオカメラ等で広く普及しているCCD素子が使用されているが、自動車の温度環境下で正常に機能するものが少なく、コストがかかるという問題がある。本発明は、広く普及している素子の温度環境に、車室内の環境をいち早く合致させるべく電気負荷制御装置をコントロールすることで、コストの安い撮像素子の使用を可能にする手段を提供する事にある。
温度センサ65は、カメラ3の内部温度を測定するセンサであり、このセンサの信号は、マイコン12に入力される。結露センサ66は、レンズ64の結露を検出する目的で使用されるセンサであり、同様にマイコン12に入力される。本発明では、これらのセンサを使用し撮像素子の使用環境から車室内の環境が外れている場合、エアコン等を動作させ、素子の使用環境内に収める事も目的としている。
このように、電装品が集中する箇所の近傍に、各電装品を集中制御する制御装置を配置し、多重通信網(車内LAN)で接続する。撮像素子が組み込まれる装置も、同様に車内LANで接続し、撮像素子の環境を検出する手段、および、画像処理の結果に基づき、各電装品制御装置への作動指令を行う。これにより、たとえば、エアコンを動作させて温度を下げたり、結露を除去したりする事が可能になる。したがって、安価な撮像素子の使用環境温度範囲内に車室内の環境(通常、人間の快適な環境よりも、撮像素子の使用環境の方が温度範囲が広い)を保つ事により、厳しい自動車環境の中でも使用が可能になる。
以後、本発明の動作をフローチャートを用いて説明する。
まず図6を用いて、ECU4がスイッチ群56の信号を取り込む部分を説明をする。この処理は、ECU4のマイコン12が一定時間毎に定期的に繰り返し実行される定時間割り込み処理の中で行われている。定時間で処理を行うのは、スイッチのチャタリングを取り除くフィルタ処理がやりやすいからである。まず、ステップ101でヘッドライトスイッチがONであるかどうか判断され、ONであればステップ102でヘッドライトスイッチがONである旨を示す「LITE(ON)」フラグが“1”にセットされる。また、否であればステップ103で、フラグが“0”にクリアされる。
続いてステップ104でヘッドライトの光軸を切り替えるスイッチがONになっているかどうか判断される。光軸が上向き状態である場合、ステップ105でフラグ「LITE(Hi)」が“1”にセットされ、否であればステップ106で“0”にクリアされる。
次に、ステップ107でワイパースイッチの操作状態がチェックされ、ONであればステップ108でフラグ「WIPE(ON)」が“1”にセットされ、否であればステップ109で“0”にクリアされる。
最後に、ステップ110で、外気温の状態が確認され、氷点下であれば、ステップ111でフラグ「ICE(ON)」が“1”にセットされ、否であればステップ112で“0”にクリアされ、処理を終了する。以上から、図6の処理は、ヘッドライトの点灯状態,ワイパーの作動状態,外気温度を検出している処理であると判る。
図7は、カメラ3のマイコン12が図6と同様に、一定時間毎に実行している定時間割り込み処理の中で行われている処理である。まず、ステップ201で、温度センサ65のA/D変換が実施され、温度センサ65が出力する電圧が、温度に換算される。ステップ202では、同様に結露センサ66が出力する電圧がA/D変換され結露しているか否かが判断される。ステップ203では、以後使用するフラグの初期化が実施され、まず、ステップ204で、温度が低温か否かが判断される。ここで規定値(1)とあるのは、使用する素子の最低使用温度の事であり、ステップ201での温度検出結果が規定値(1)よりも低かった場合、ステップ205で、フラグ「HEAT(ON)」,「FAN(ON)」が“1”にセットされ、車室内の温度を上昇すべく暖房要求が出される。規定値(1)よりも高かった場合、ステップ206で、温度が高温か否かが判断される。同様に規定値(2)とあるのは、使用する素子の最高使用温度の事である。温度検出結果が、規定値
(2)よりも高かった場合、ステップ207で、フラグ「COOL(ON)」,「FAN(ON)」が“1”にセットされ、車室内の温度を下降すべく冷房要求が出される。次に温度検出結果が、素子の使用温度範囲にある場合、ステップ208で、ステップ202での結露検出結果が審議され、結露発生状態にあるならばステップ209で、フラグ「A/C(ON)」,「FAN(ON)」が“1”にセットされ、除湿させるべく要求が出される。
図8は、図7と同様にマイコン12が処理する内容である、ステップ301では、本実施例で特化した走行車線の検出処理が実施される。なお、詳細は本発明に関係ないので割愛する。ステップ302で、ステップ301の車線認識がうまく実施できない場合、ステップ400のヘッドライト点灯判断処理,ステップ500のワイパー作動判断処理,ステップ600の熱線作動判断処理が順次実行される。これらの処理は後述するが、車線認識をいかに成功させるか車両側の装備を駆使して実施させる為の処理である。そして、ステップ700のエアコン作動判断処理が実施される。
図9は、ヘッドライト点灯判断処理400の内部フローである。ステップ401で、ヘッドライトの点灯状態がチェックされる。この状態は、図6の信号取り込み処理でセットされたフラグを確認する事で可能であるので、ヘッドライトがOFF状態、つまりフラグ「LITE(ON)」が“0”の場合、ステップ402でヘッドライト点灯要求がセットされる。また、ヘッドライトが下向き点灯状態、つまりフラグ「LITE(ON)」が
“1”で「LITE(Hi)」が“0”の場合、ステップ403で対向車の有無がチェックされ(この処理は、本発明に関係ないので記載していないが、画像認識処理の中で検出可能である。)、対向車が居なければステップ404でヘッドライトの上向き点灯要求がセットされる。なお、ステップ401ですでにヘッドライトを上向き点灯中であると判断された場合は、何もせず終了する。
したがって、図9の処理は、ヘッドライトを点灯,操作する事で、車線認識が可能になる条件を想定した処理内容である事が判る。
図10は、ワイパー作動判断処理500の内部フローである。ステップ501でワイパーが作動中であるか否かチェックされる。これも同様に、図6の信号取り込み処理でセットされたフラグを確認する事で可能であり、ワイパーが作動中でなければ、つまり、フラグ「WIPE(ON)」が“0”であれば、ワイパー作動要求をセットする。この処理も、ワイパーを作動する事で、車線認識が可能になる条件を想定した処理内容である事が判る。
図11は、熱線作動判断処理600の内部フローである。この処理も同様に図6の信号取り込み処理でセットされたフラグを確認する事で可能な、外気温度をステップ601で参照しており、フラグ「ICE(ON)」が“1”、つまり、外気温が氷点下である場合、熱線作動要求をセットしている。この処理も、雪や氷の堆積により車線認識の条件が悪くなっているのでは?ということを懸念した処理内容である。
図12は、エアコン作動判定処理700の内部フローである。この処理は、図7のカメラ環境検出処理の中でセットされたフラグをチェックし、エアコン制御装置でもあるECU4に対し、エアコンの運転要求を出力する処理である。まず、ステップ701で、カメラ内部が高温(フラグ「COOL(ON)」=“1”)であると判断された場合、ステップ
702で冷房運転指示が出される。高温でなければ、ステップ703で、低温かどうか判断され(フラグ「HEAT(ON)」=“1”)、低温であれば、ステップ705で、暖房運転指示が出される。高温でも低温でも無い場合、ステップ704で、結露が発生しているかどうかチェックされる。結露が確認されると、カメラの場合、レンズ面の水滴により画像が正常に像を結ばない事が懸念されるため、ステップ705で除湿暖房すべく暖房運転指示が出される。
なお、これらの作動要求は、そのまま制御に反映する必要はなく、あくまでも要求という形で、車内LAN上に情報として伝達される内容であり、おのおのの情報に基づいて最終的に判断するのは、各ECUの処理に任せるのが普通である。たとえば、ヘッドライトを点灯する要求が出ていても、ECU1が、外部の照度を検出してヘッドライトの点灯の必要が無いと判断すれば、ヘッドライトを点灯する必要は無く、ワイパーにしても、何度かふき取って改善の効果がなければ中断しても良い。また、エアコンの動作に関しても使用状況がさまざまであるので、優先順位を設ける必要がある。
以上のように、カメラの内部環境状況を検出する手段により、環境状態を把握し、使用する部品(素子)の使用環境と相違している場合、その状況から部品の使用環境内に抑えるべく、エアコンを操作できる様に構成する事で、コストの安い部品を使用する事ができ、さらに、車両に設置されている電装品を制御できる様に構成する事で、カメラの画像処理能力を高める事ができる。
本発明の一実施例を示すシステム構成図である。 本発明の一実施例に使用される制御装置の構成図である。 本発明の一実施例に使用される制御装置の構成図である。 本発明の一実施例に使用される制御装置の構成図である。 本発明の一実施例に使用される制御装置の構成図である。 本発明の動作原理を示すフローチャートである。 本発明の動作原理を示すフローチャートである。 本発明の動作原理を示すフローチャートである。 本発明の動作原理を示すフローチャートである。 本発明の動作原理を示すフローチャートである。 本発明の動作原理を示すフローチャートである。 本発明の動作原理を示すフローチャートである。
符号の説明
1,2,4…ECU、3…カメラ、5…多重通信線、12…マイコン、13…通信IC。

Claims (8)

  1. レンズと撮像素子により撮像された画像に基づいて道路上の白線を認識する画像処理部と、
    前記画像処理部の認識結果を、通信部を介して他の制御装置に送信する制御部とを有する画像処理カメラ装置において、
    前記制御部は、前記画像処理部が道路上の白線を認識できないときは、ヘッドライト,ワイパー,熱線,エアコンのれかの制御装置に作動要求を送信するカメラ装置。
  2. 前記制御部は、前記通信部を介して前記ヘッドライトの動作状態を受信し、前記画像処理部が道路上の白線を認識できない場合において前記ヘッドライトがオフ状態であるときは、前記ヘッドライトの制御装置に作動要求を送信する、請求項1記載のカメラ装置。
  3. 前記画像処理部は、撮像された画像に基づいて対向車を認識するものであり、
    前記制御部は、前記ヘッドライトに対して上向き又は下向きの作動要求を送信する構成であり、
    前記画像処理部が道路上の白線を認識できない場合において前方車両を認識しない場合には前記ヘッドライトの制御装置に上向きの作動要求を送信する、請求項1記載のカメラ装置。
  4. 前記制御部は、前記ヘッドライトが点灯した状態において、前記画像処理部が道路上の白線を認識できないときは、前記ワイパーの制御装置に作動要求を送信する、請求項1記載のカメラ装置。
  5. 前記制御部は、温度センサの出力結果を入力されるものであり、
    前記画像処理部が道路上の白線を認識できない場合において、検出される気温が氷点下であるときは、前記熱線の制御装置に作動要求を送信する、請求項1記載のカメラ装置。
  6. 前記ヘッドライト,前記ワイパー,前記熱線,前記エアコンの何れかの制御装置は、それぞれの使用状況に応じて、それぞれ、当該ヘッドライト,当該ワイパー,当該熱線,当該エアコンを作動させるか否かを判断する、請求項1記載のカメラ装置。
  7. 前記ヘッドライトの制御装置は、前記制御部から前記ヘッドライトの作動要求を受信しても、外部の照度を検出した場合、前記ヘッドライトを点灯しない、請求項1記載のカメラ装置。
  8. 前記ワイパーの制御装置は、前記制御部から前記ヘッドライトの作動要求を受信しても、前記ワイパーを所定の回数以上使用して改善の効果がないと判断した場合、当該ワイパーの使用を中断する、請求項1記載のカメラ装置。
JP2005255806A 2005-09-05 2005-09-05 車載用カメラ装置 Expired - Lifetime JP4051386B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005255806A JP4051386B2 (ja) 2005-09-05 2005-09-05 車載用カメラ装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005255806A JP4051386B2 (ja) 2005-09-05 2005-09-05 車載用カメラ装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2000032722A Division JP2001213240A (ja) 2000-02-04 2000-02-04 車載用カメラ装置

Publications (2)

Publication Number Publication Date
JP2006073013A JP2006073013A (ja) 2006-03-16
JP4051386B2 true JP4051386B2 (ja) 2008-02-20

Family

ID=36153497

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005255806A Expired - Lifetime JP4051386B2 (ja) 2005-09-05 2005-09-05 車載用カメラ装置

Country Status (1)

Country Link
JP (1) JP4051386B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101022614B1 (ko) 2009-03-17 2011-03-16 주식회사 현대오토넷 오토 디포깅 장치 및 방법
JP5313072B2 (ja) * 2009-07-29 2013-10-09 日立オートモティブシステムズ株式会社 外界認識装置
JP5056919B2 (ja) 2009-09-29 2012-10-24 株式会社デンソー 車載光学センサカバー及び車載光学センサ装置
JP2011160346A (ja) * 2010-02-03 2011-08-18 Denso Corp 車両周辺撮影装置
KR101283400B1 (ko) 2011-11-04 2013-07-17 한국공항공사 가시거리 측정 장치 오작동 탐지 시스템 및 방법
JP5873370B2 (ja) * 2012-03-30 2016-03-01 富士重工業株式会社 ウインドウウォッシャ装置
JP5949490B2 (ja) * 2012-11-20 2016-07-06 トヨタ自動車株式会社 車両用センサ搭載構造及びシステム連携方法
JP6274049B2 (ja) * 2014-08-06 2018-02-07 トヨタ自動車株式会社 車両用撮像装置
KR102037037B1 (ko) 2018-01-17 2019-10-28 현대모비스 주식회사 차량의 긴급 제동 제어 방법
JP7087937B2 (ja) * 2018-11-14 2022-06-21 トヨタ自動車株式会社 車両制御システム
JP7139901B2 (ja) 2018-11-14 2022-09-21 トヨタ自動車株式会社 車両制御システム
JP7052684B2 (ja) 2018-11-14 2022-04-12 トヨタ自動車株式会社 車両制御システム

Also Published As

Publication number Publication date
JP2006073013A (ja) 2006-03-16

Similar Documents

Publication Publication Date Title
JP4051386B2 (ja) 車載用カメラ装置
US10850681B2 (en) Vehicle-mounted optical device and vehicle-mounted optical system
JP6303974B2 (ja) 車載カメラ装置及び車載システム
US9199574B2 (en) System and method for detecting a blocked imager
US9721172B2 (en) Imaging system and method with ego motion detection
CN107199943B (zh) 用于机动车辆的智能灯组件和智能照明***
WO2014113457A1 (en) Imaging system and method for detecting fog conditions
CN110316154B (zh) 加热刮水器和挡风玻璃除霜的基于照相机的激活
JP2003191788A (ja) 自動車用照明または表示ライトユニット、および少なくとも1つのかかるライトユニットが設けられた照明または表示ユニット
JPWO2018056104A1 (ja) 車両制御装置、車両制御方法、および移動体
US20160039414A1 (en) Vehicle controller
WO2020044484A1 (ja) 車載カメラ装置
US20230242079A1 (en) Raindrop detection device
JP3639008B2 (ja) ワイパ制御装置
JP6401269B2 (ja) 車両フロントガラス用の色減衰の動的補正を含む撮像システム
JP2010121959A (ja) 視界状況判定装置、視界状況判定装置用プログラム及び視界状況判定方法
CN110803097B (zh) 车辆转弯辅助照明控制方法、***及车辆
JP2001213240A (ja) 車載用カメラ装置
JP7066645B2 (ja) 移動体用制御装置
JP3730487B2 (ja) カメラを用いた車両制御装置
KR101397612B1 (ko) 헤드램프의 제어장치 및 제어방법
KR100862247B1 (ko) 자동차용 카메라 습기 제거 장치 및 방법
JP5630533B2 (ja) 車両用制御システム
CN111717160A (zh) 运输设备以及车辆
CN114206700A (zh) 车辆控制***

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051212

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20060512

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070807

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071005

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071203

R150 Certificate of patent or registration of utility model

Ref document number: 4051386

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101207

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111207

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111207

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121207

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131207

Year of fee payment: 6

EXPY Cancellation because of completion of term