JP4761944B2 - 車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバ - Google Patents

車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバ Download PDF

Info

Publication number
JP4761944B2
JP4761944B2 JP2005334671A JP2005334671A JP4761944B2 JP 4761944 B2 JP4761944 B2 JP 4761944B2 JP 2005334671 A JP2005334671 A JP 2005334671A JP 2005334671 A JP2005334671 A JP 2005334671A JP 4761944 B2 JP4761944 B2 JP 4761944B2
Authority
JP
Japan
Prior art keywords
unit
database
information
dictionary
code
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005334671A
Other languages
English (en)
Other versions
JP2007139611A (ja
Inventor
直朗 小平
博之 水谷
明弘 宇田
外志正 土橋
智久 鈴木
彰夫 古畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Digital Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Solutions Corp filed Critical Toshiba Corp
Priority to JP2005334671A priority Critical patent/JP4761944B2/ja
Publication of JP2007139611A publication Critical patent/JP2007139611A/ja
Application granted granted Critical
Publication of JP4761944B2 publication Critical patent/JP4761944B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、車両を目的地まで案内する車載用ナビゲーション装置、路面の標示を認識する標示認識方法、ナビゲーションシステム、サーバに関する。
従来、車載用ナビゲーション装置においては、路面にペイントされた方向指示標示(以降単に「標示」と記述する)の画像をカメラにより撮像し、撮像した画像から標示を認識して自車両の走行レーンを判定している。これにより、たとえば、自車両が交差点の手前で正しい車線を走行しているか否かを把握でき、適切な案内を指示することができる(たとえば特許文献1を参照)。
特開2005−214883号公報
しかし、路面にペイントされた標示は、経年的な磨耗や汚れなどによって形状が次第に崩れてしまい、正しく認識されなくなる場合がある。また、日中と夜間ではカメラで撮像される標示を含んだ路面画像の様相が大きく異なり、安定した認識精度が得られないおそれがある。
本発明はこのような事情を鑑み、路面の標示が経年的な磨耗や汚れなどによって掠れた後も標示を高精度に認識することのできる車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバを提供しようとするものである。
上記目的を達成するために、本発明の車載用ナビゲーション装置は、自車両の前方または後方の路面を撮像する撮像部と、自車両の位置を測定する自車位置測定部と、路面の標示に対応する標示コードと標準パターンが格納された辞書部と、撮像部により撮像された路面画像に含まれる標示を辞書部の情報を用いて認識する辞書比較認識部と、位置情報と標示コードとを対応付けて記憶するデータベース部と、自車両の位置情報を自車位置測定部より取得して、この位置情報と辞書比較認識部より出力された標示コードとを対応付けてデータベース部に登録する情報登録部と、自車位置測定部により測定された自車両の位置情報をもとにデータベース部を検索して対応する標示コードを読み込み、この標示コードを辞書比較認識部に認識結果の候補として出力するデータベース検索部とを具備するものである。
本発明によれば、データベース検索部にて標示の認識結果の候補を絞り込み、この標示の認識結果の候補について辞書部の情報を用いて標示認識を行って最終的な認識結果を得ることによって、標示認識精度の向上を図れるとともに、演算コストの低減を図ることができる。特に、標示が経年的な磨耗や汚れなどによって掠れる以前にデータベース部に登録された情報をもとに標示認識結果の候補を絞り込むことができるので、辞書比較認識部で得られる類似度に依存することなく高い認識結果が得られる。
また、本発明において、情報登録部は、位置情報の登録時の時刻をデータベース部に位置情報および標示コードと対応付けて登録し、データベース検索部は、自車位置測定部により測定された自車両の位置情報および現在の時刻をもとにデータベース部を検索して対応する標示コードを読み込み、この標示コードを辞書比較認識部に認識結果の候補として出力するようにしてもよい。
たとえば、日中と夜間とでは、撮像部で撮像される路面画像は異なる様相を呈し、また、午前と午後でも日差しの向きの違いなどの理由で路面画像の様相がやはり異なってくる可能性があるが、位置情報の登録時の時刻を位置情報および標示コードと対応付けてデータベース部に登録して、時刻ごとに異なる位置情報と標示コードとの組み合わせを登録できるようにしたことで、時間帯に応じた認識精度のバラツキを低減することができる。
さらに、本発明は、辞書比較認識部によって得られた標示コードと、認識対象である標示の特徴パターンとを用いて、辞書部の更新を行う辞書更新部をさらに具備するものであってもよい。
これにより実際の路面の標示の状態に応じた辞書部を用いて標示の認識を行うことができ、認識精度の向上を図ることができる。
さらに、辞書更新部は、辞書部に、認識対象である標示の特徴パターンを標示コードに対応する標準パターンとして新たに追加することとする。これにより、掠れの度合いが様々な標示の認識を精度良く行うことができる。
また、本発明において、情報登録部は、辞書比較認識部によって得られた類似度をデータベース部に位置情報および標示コードと対応付けて登録し、データベース検索部は、認識結果の候補について辞書比較認識部によって得られた類似度と、認識結果の候補である標示コートに対応付けてデータベース部に登録された類似度とを比較し、前者の類似度が後者の類似度より低く、かつその差が一定値を超える場合に、辞書比較認識部に対して、辞書部のすべての標示の標準パターンと認識対象である標示の特徴パターンとの比較により標示認識を行うように依頼し、情報登録部を通じて、辞書比較認識部にて求められた標示認識結果でデータベース部を更新することとしてもよい。これにより、変更された標示や追加された標示も精度良く認識することができる。
また、本発明の別の観点に基づくサーバは、本発明の1以上の車載用ナビゲーション装置とこの車載用ナビゲーション装置とネットワークを通じて接続可能なサーバであって、位置情報と標示コードとを対応付けて記憶するサーバデータベース部と、車載用ナビゲーション装置よりネットワークを通じて、車載用ナビゲーション装置のデータベース部に格納されている位置情報と標示コードとの組み合わせであるデータベース情報を取得してサーバデータベース部の情報と比較し、新規のデータベース情報をサーバデータベース部に登録するとともに、サーバデータベース部に登録されている情報と取得したデータベース情報とが一致した回数を前記位置情報と標示コードとの組み合わせごとに管理し、この管理結果をもとに位置情報とこれに対して最も確からしい標示コードとの組み合わせを判定し、この組み合わせをネットワークを通じて車載用ナビゲーション装置に送信する判定部とを具備するものである。
本発明によれば、サーバにて、1以上の車載用ナビゲーション装置より取得したデータベース情報を統合した結果をもとに位置情報と標示コードとの組み合わせを管理して、各車載用ナビゲーション装置のデータベース部にフィードバックをかけることによって、各車載用ナビゲーション装置のデータベース間のバラツキを解消することができ、各車載用ナビゲーション装置での標示認識精度を向上させることができる。
また、本発明のサーバは、表示部と入力部をさらに有し、判定部は、車載用ナビゲーション装置に対してネットワークを通じて、位置情報および標示を路面画像の送信を要求し、この要求に応じて車載用ナビゲーション装置より応答された画像情報を表示部に表示させ、オペレータによる画像の確認結果である標示コードを入力部より入力して、サーバデータベース部を更新するものであってもよい。判定部は、サーバデータベース部の更新結果をネットワークを通じて車載用ナビゲーション装置へ送信することとしてもよい。
これにより、サーバデータベース部および車載用ナビゲーション装置のデータベース部の情報の信頼性を高めることができ、標示認識精度を向上させることができる。
さらに、本発明のサーバは、路面の標示に対応する標示コードと標準パターンが格納された辞書部と、車載用ナビゲーション装置より送信された路面画像に含まれる標示の特徴パターンを生成して、この特徴パターンを辞書部の該当する標示コードに対応する標準パターンとして辞書部に新規登録する辞書編集部と、辞書部の情報をネットワークを通じて車載用ナビゲーション装置へ送信する通信部とをさらに具備することとしてもよい。
これにより、車載用ナビゲーション装置での辞書部の情報を用いた認識精度を向上させることができる。
本発明によれば、路面の標示が経年的な磨耗や汚れなどによって掠れた後も標示を高精度に認識することができる。
以下、本発明の実施の形態につき図面を参照して説明する。
図1は本発明の一実施形態にかかる車載用ナビゲーション装置の構成を示すブロック図である。この車載用ナビゲーション装置は四輪車、二輪車などの車両に搭載されるものである。
同図において、車載用ナビゲーション装置100は、自車位置測定部の一例であるGPS受信機1と、HD(Hard Disk )、CD−ROM(Compact Disc Read Only Memory )、DVD−ROM(Digital Versatile Disc Read Only Memory )などのメディアから地図情報やそれに関連する情報を読み出すディスクドライブ2と、ユーザから出発地、目的地などの入力や各種操作のための入力を行う操作入力部3と、自車両の位置(自車位置)とその周辺の地図情報や自車両のナビゲーションのための情報表示を行うCRT(陰極線管)やLCD(液晶表示装置)などの表示装置4と、ナビゲーションに関する音声情報を出力するスピーカ5と、自車両の前方または後方の路面を撮像する撮像部であるカメラ6と、制御装置7とを備えて構成される。
制御装置7は、CPU(Central Processing Unit)7aと、CPU7aの作業領域やデータ記憶領域を提供するRAM(Random Access Memory)7bと、CPU7aによって実行されるプログラムや各種のデータなどが固定的に格納されたROM(Random Only Memory)7cと、電気的に消去および書き換えが可能なROMであるフラッシュメモリ7dとを備えて構成される。
GPS受信機1はGPS(Global Positioning System:全地球測位システム)により自車両の現在位置を測位して、自車両の現在位置(自車位置)を検出し、その自車位置検出結果を制御装置7へ提供するものである。
カメラ6は、自車両の車体のフロント部分やリア部分などに装着され、自車両の前方または後方の路面を撮像して、路面にペイントされた直進、左折、右折などの標示のイメージを取り込むための手段である。カメラ6は、具体的には、たとえばCCD(Charge-Coupled Devices)などの撮像素子と、この撮像素子によって撮像された信号をアナログ信号からデジタル信号へ変換して制御装置7に出力する信号処理回路とを有している。
図2は制御装置7に組み込まれた標示認識システムの構成を示すブロック図である。標示認識とは、路面の標示のイメージからその標示に対応するコード(標示コード)を生成することを言う。この標示コードをもとに、複数の車線を有する道路での自車両の走行車線を判定して、この判定結果を自車両のナビゲーション(経路案内)に用いることができる。
図2に示すように、標示認識システムは、画像処理部11、辞書部12、標示認識部13、情報登録部14、データベース部15、時計部16などで構成される。
画像処理部11は、カメラ6により取り込まれた画像データに対してノイズ除去、透視変換、二値化などの処理を行って、その結果を標示認識部13に渡す手段である。
辞書部12は、標示認識の際に用いられる各種の標示の標準パターンの情報が標示コードと対応付けて格納された辞書である。この辞書部12は、適宜更新が可能なように、たとえば、制御装置7内のフラッシュメモリ7dに格納されている。あるいは、ディスクドライブ2としてHDDを搭載しているならば、HDDに辞書部12を保存しておき、運用時にHDDから制御装置7のRAM7bにロードして、CPU7aからアクセスされるようにしてもよい。
データベース部15は、図3に示すように、標示コード、類似度、位置および時刻などの情報を対応付けて格納する部分である。このデータベース部15は、たとえば、制御装置7内のフラッシュメモリ7dに格納されている。あるいは、ディスクドライブ2としてHDDを搭載しているならば、HDDにデータベース部15を保存しておき、運用時にHDDから制御装置7のRAM7bにロードして、CPU7aから高速にアクセスできるようにしてもよい。
標示認識部13は、切り出し部13b、データベース検索部13a、特徴抽出部13c、および辞書比較認識部13dを備えている。
データベース検索部13aは、GPS受信機1より取得した自車位置の情報、時計部16より取得した時刻情報などをもとにデータベース部15を検索して標示の認識結果の候補を判定する手段である。切り出し部13bは、路面画像の二値パターン情報から標示部分を切り出す手段である。特徴抽出部13cは、切り出し部13bによって切り出された標示部分の二値パターンの特徴を抽出して特徴パターンの情報を生成する手段である。辞書比較認識部13dは、辞書部12に格納された標示の標準パターンのうちデータベース検索部13aによって標示認識結果の候補として判定された標示の標準パターンと、特徴抽出部13cにて生成された特徴パターンとをたとえばパターンマッチング法などにより比較して最も類似した標準パターンに対応付けられている標示コードを認識結果として出力する手段である。
時計部16は、現在の時刻の情報を出力する手段である。情報登録部14は、標示認識部13にて標示の認識結果が得られるごとに、その認識結果である標示コードおよび類似度情報と、標示認識部13がGPS受信機1から取得した自車位置の情報および時計部16から取得した時刻情報をそれぞれ対応付けてデータベース部15に登録する手段である。
次に、この実施形態の車載用ナビゲーション装置100の動作を説明する。
図4は本実施形態の車載用ナビゲーション装置100における路面標示認識の手順を示すフローチャートである。
本実施形態の車載用ナビゲーション装置100の稼動中は、車両のフロント部分などに装着されたカメラ6により自車両の前方または後方の路面を撮像した画像の取り込みが行われる(ステップS401)。図5はカメラ6の撮影画像(デジタル画像)の例を示す図である。本例では、カメラ6の撮影画像として、たとえば、センターライン21と路側ライン22との間に直進を意味する標示23がペイントされた路面の画像が得られている。
カメラ6により取り込まれた路面画像は制御装置7に入力される。制御装置7は、入力された路面画像について、まず画像処理部11にて、高帯域の信号をノイズとして除去するなどの補正を行った後、透視変換を行う(ステップS402)。透視変換とは、たとえば、図5に示すように、斜め上の視点からの路面画像を、図6に示すように、真上の視点からの路面画像に座標変換する処理をいう。ただし、この透視変換は、後段の標示認識にて用いられる、辞書部12の標示の標準パターンが斜め上の視点からのパターンであって、斜め上の視点からの路面画像を対象に正しく標示認識を行うことができるような仕組みになっている場合には不要である。
次に、画像処理部11では、透視変換された画像に対して二値化処理が行われて、認識にとって不要な成分が除去された路面画像の二値パターン情報が得られる(ステップS403)。続いて、画像処理部11から標示認識部13の切り出し部13bへ路面画像の二値パターン情報が送られるとともに、標示認識部13のデータベース検索部13aにトリガー信号が送られる。標示認識部13のデータベース検索部13aは、トリガー信号を受信すると、GPS受信機1より自車位置の情報を取り込むとともに時計部16より時刻情報を取り込み、これらの情報をもとにデータベース部15を検索する(ステップS404)。
この検索により該当する情報(レコード)が存在する場合には(ステップS405のYES)、その該当する情報の中の標示コードを標示認識結果の候補として辞書比較認識部13dへ出力する(ステップ406)。また、データベース部15に該当する情報が存在しない場合には(ステップS405のNO)、辞書比較認識部13dへ候補無しの旨が通知される(ステップS407)。ここで、標示認識部13のデータベース検索部13aは、GPS受信機1より取得した自車位置の情報のみに基づいてデータベース部15を検索して標示の認識結果の候補を判定するようにしてもよい。このデータベース部15の検索による標示の認識結果の候補を判定について後で詳細に説明する。
一方、標示認識部13の切り出し部13bは画像処理部11からの路面画像の二値パターン情報を受けると、この路面画像の二値パターン情報から標示部分を切り出す処理を行う(ステップS408)。この標示部分の切り出しは、たとえば、路面画像の二値パターン情報について、車線方向および車線幅方向への射影処理を行い、この射影処理の結果をもとに行われる。図7は路面画像の二値パターン情報に対する射影処理の結果を示している。同図に示す車線方向の射影処理の結果には、路面のセンターライン21、標示23、路側ライン22に相当する3ヶ所にピークP21、P23、P22が立っている。切り出し部13bでは、所定の閾値との比較によってこれら3ヶ所のピークP21、P23、P22を検出して、その真ん中のピークP23の位置を車線幅方向における標示部分であることを判定する。さらに、切り出し部13bでは、車線幅方向への射影処理を同様に行うことで、車線方向の標示部分の位置を判定する。そして、切り出し部13bは、それぞれの判定結果をもとに、路面画像の二値パターン情報から標示部分のパターン情報24を切り出すことができる。
次に、標示認識部13の特徴抽出部13cは、切り出された標示部分のパターン情報について、濃度、輪郭、形状などの特徴を抽出して、その結果である特徴パターンを辞書比較認識部13dに出力する(ステップS409)。
辞書比較認識部13dは、データベース検索部13aより標示認識結果の候補を取得した場合、辞書部12に格納された全ての標示の標準パターンの中の、標示認識結果の候補である標示の標準パターンと、特徴抽出部13cより入力した特徴パターンとをたとえばパターンマッチング法などにより比較してそれぞれの類似度を求め、最も類似度の高い標準パターンに対応付けられている標示コードを認識結果として出力する(ステップS410a)。また、辞書比較認識部13dは、データベース検索部13aより標示認識結果の候補無しの通知を受けた場合、辞書部12に格納された全ての標示の標準パターンと特徴抽出部13cにて生成された標示の特徴パターンと比較して、最も類似度の高い標準パターンに対応付けられている標示コードを認識結果として出力する(ステップS410b)。
次に、標示認識部13は、辞書比較認識部13dにて得られた認識結果である標示コードと類似度を情報登録部14に出力するとともに、データベース検索部13aがトリガー信号を受信した際にGPS受信機1から取得した自車位置の情報、および時計部16より取得した時刻情報をそれぞれ情報登録部14へ出力する。情報登録部14は、これらの情報を受け取ると、データベース部15にこれらの情報を対応付けて登録する(ステップS411)。
以上の手順を繰り返すことによって、自車両が通過した経路に存在する路面標示に関する情報がデータベース部15に蓄積されて行く。交差点の手前の車線には、左折、直進、右折などの複数の標示が横並びにペイントされており、これらは車載用ナビゲーション装置100においては同じ位置の標示として見なされる。このためデータベース部15には、位置情報が同じでもこれに対応付けられた標示コードが異なる複数のレコードが記録されることになる。
ところで、データベース部15に登録される位置情報には、GPSの測位誤差などに起因して実際には同じ位置の標示であっても若干のバラツキがある。そこで、GPS受信機1より取得した位置情報を地図情報上の位置情報と比較して、その差が一定の値以下であるならば、地図情報上の位置情報に置き換えてデータベース部15への位置情報の登録および検索を行うことが好ましい。
時計部16より取得した時刻情報は、一日をいくつかの時間帯で区分した情報、たとえば日中と夜間に変換されて、データベース部15への登録および検索が行われるようにすることが望ましい。日中はさらに午後と午前に分けるようにしてもよい。日中と夜間では、カメラ6で捕らえられる路面画像は異なる様相を呈し、また、午前と午後でも日差しの向きの違いなどの理由で路面画像の様相がやはり異なってくる可能性がある。このため、時間帯ごとに標示に関する情報を管理することは認識精度の向上にむすびつく。
さらに、データベース部15には類似度の情報も登録されるが、この類似度は、位置情報と時刻情報との異なる組み合わせごとに、過去に得られた最大値のみがデータベース部15に登録されるようになっている。また、データベース部15に登録されるために最低限必要な類似度の値を定めておき、この値に満たない場合にはデータベース部15への登録は無効とされるようにしてもよい。
次に、自車位置、時刻の情報もとにデータベース部15を検索して標示の認識結果の候補を判定する動作を説明する。図8はこの標示認識結果の候補の判定動作を示すフローチャートである。
まず、標示認識部13のデータベース検索部13aは、GPS受信機1にて検出された自車位置の情報を取得するとともに、時計部16より時刻情報を取得し(ステップS801)、取得した自車位置と位置情報が一致する情報(レコード)がデータベース部15に存在するかどうかを判定する(ステップS802)。位置情報が一致する情報がデータベース部15に存在しない場合には(ステップS802のNO)、標示認識結果の候補が無いことが判定され、その通知が辞書比較認識部13dへ通知される(ステップS805)。自車位置が一致する情報がデータベース部15に存在するならば(ステップS802のYES)、データベース検索部13aは、位置情報が一致した1以上の情報の中で、時計部16より取得した時刻と時刻情報が一致する情報が存在するかどうかを判定する(ステップS803)。時刻情報が一致する情報がデータベース部15に存在しない場合には(ステップS803のNO)、標示認識結果の候補が無いことが判定され、その通知が辞書比較認識部13dへ通知される(ステップS805)。時刻情報が一致する情報がデータベース部15に存在するならば(ステップS803のYES)、データベース検索部13aはその情報に含まれる標示コードを標示認識結果の候補として判定し、辞書比較認識部13dに出力する(ステップS804)。
なお、時刻情報が一致する情報がデータベース部15から得られなかった場合には、位置情報に基づくデータベース部15の検索によって得られた情報を標示認識結果の候補として辞書比較認識部13dに出力するようにしてもよい。
以上のように、本実施形態によれば、データベース検索部13aにて標示認識結果の候補を絞り込み、この標示認識結果の候補について辞書部12の標準パターンと、標示の特徴パターンとを比較して標示認識結果を得ることによって、認識精度の向上を図れるとともに、演算コストの低減を図ることができる。
ここで、認識精度の向上に関して、本実施形態の標示認識方式が特に有効に作用し得る具体的なケースについて説明する。
図9はカメラ6の撮影画像の例である。撮影された路面にはセンターライン21と路側ライン22との間に直進を意味する標示23がペイントされているが、標示23の一部が車両のタイヤとの度重なる接触により削られて掠れている。図10はこの撮影画像に対して透視変換を行った結果、図11は図10の透視変換画像に対して二値化処理、射影処理を順に行って標示部分の切り出し位置24を判定した結果を示している。このようなケースでは、辞書比較認識部13dにて、辞書部12に格納されたどの標示の標準パターンとも高い類似度が得られず、正しい認識結果を得ることが困難である。本実施形態では、標示が経年的な磨耗や汚れなどによって掠れる以前にデータベース部15に登録された情報をもとに標示認識結果の候補を絞り込むことができるので、辞書比較認識部13dで得られる類似度に依存することなく高い認識結果が得られる。
また、本実施形態の車載用ナビゲーション装置100において、辞書部12は、書き換え可能な記憶領域に格納されているので、この辞書部12の内容を認識結果である標示コードと入力特徴パターンを用いて更新するようにしてもよい。この辞書部12の更新は、たとえば、辞書比較認識部13dで得られる類似度がある一定の値に満たない場合に自動的に行われるようにすればよい。ここでの辞書部12の更新とは、標示の標準パターンをオリジナルのものとは別に追加することを意味する。
(ステップS410aの変形例)
次に、図4のステップS410aの変形例を説明する。図4のステップS410aは、標示認識結果の候補の標示の標準パターンと、標示の特徴パターンとを比較してそれぞれの類似度を求め、最も類似度の高い標準パターンに対応付けられている標示コードを認識結果として出力する処理である。しかし、実際の路面の標示に変更や追加が発生した場合、標示認識結果の候補の標示の標準パターンと入力特徴パターンとの類似度がデータベース部15に登録されている類似度よりも大幅に低くなる場合が考えられる。
そこで、この変形例では、データベース検索部13aに次のような機能が組み込まれている。すなわち、データベース検索部13aは、自らによって判定された標示認識結果の候補について辞書比較認識部13dにて認識を行うことによって得られた最大の類似度と、標示認識結果の候補である標示コートに対応付けてデータベース部15に登録された類似度とを比較する。データベース検索部13aは、この比較によって、前者の類似度が後者の類似度より低く、かつその差が一定値を超える場合に、辞書比較認識部13dに対して、辞書部12のすべての標示の標準パターンと認識対象である標示の特徴パターンとの比較により標示認識を行うように依頼する。辞書比較認識部13dは、この依頼を受けて、辞書部12のすべての標示の標準パターンと、認識対象である標示の特徴パターンとを比較して改めて標示認識結果を求める。データベース検索部13aは、辞書比較認識部13dにて改めて求められた標示認識結果でデータベース部15を更新するように情報登録部14に依頼し、情報登録部14はこの依頼に従って、標示認識結果でデータベース部15を更新する。これにより、路面標示の変更や追加に対応することが可能となる。
次に、本発明の第2の実施形態を説明する。
図12は第2の実施形態にかかるナビゲーションシステムの構成を示す図である。
同図に示すように、このナビゲーションシステム200は、1以上の車載用ナビゲーション装置110,・・・とサーバ150とで構成されている。車載用ナビゲーション装置110,・・・とサーバ150とはインターネットなどのネットワーク180を通じて接続されている。
車載用ナビゲーション装置110は、第1の実施形態の車載用ナビゲーション装置100の構成に、ネットワーク180を通じてサーバ150との通信を行うための通信部8が追加されたものである。また、車載用ナビゲーション装置110の制御装置7は、通信部8を制御してサーバ150に対して、定期的にデータベース部15の情報を送信したり、サーバ150によって指定された位置の路面標示の画像などを送信したり、さらには、通信部8を通じてサーバ150より、データベース部15の更新データ、辞書部12の更新データなどを受信してデータベース部15の更新および辞書部12の更新を行うように制御することが可能である。
一方、サーバ150は、図13に示すように、制御装置151、通信部152、表示部153、入力部154、ディスクドライブ155などを備えている。制御装置151は、具体的にはCPUと、CPUの作業領域やデータ記憶領域を提供するよってRAMと、CPUによって実行されるプログラムや各種のパラメータなどが固定的に格納されたROMとを備えて構成されたものである。通信部152はネットワーク180を通じて各車載用ナビゲーション装置110,・・・との通信を行う手段である。表示部153は車載用ナビゲーション装置110,・・・より転送されたカメラ6の撮影画像などを表示するCRTやLCDなどの表示装置である。入力部154はサーバ150のオペレータからの入力を受け付けるためのキーボードやマウスなどの入力装置である。ディスクドライブ155は、たとえばHDDなど、メディアに対してデータやプログラムの読み書きが可能な記録装置である。
制御装置151は、判定部161、辞書編集部162、辞書部163、サーバデータベース部であるデータベース部164などを備えている。
辞書部163は、標示認識の際に用いられる各種の標示の標準パターンの情報が標示コードと対応付けて格納された辞書である。この辞書部163は、適宜更新が可能なように、たとえば、ディスクドライブ155に保存され、運用時にディスクドライブ155から制御装置151のRAMにロードして、CPUからアクセスされる。
辞書編集部162は、車載用ナビゲーション装置110より受信した画像情報(たとえば標示部分の切り出し画像)の特徴を抽出して特徴パターンを生成し、この特徴パターンと辞書部163に格納された標示の標準パターンとをたとえばパターンマッチング法などにより比較して類似度を算出する。そして、辞書編集部162は、この算出された類似度が所定の値未満である場合には、生成した特徴パターンを、辞書部163の該当する標示コードに対応する標準パターンとしてオリジナルの標準パターンとは別に辞書部163に新規に登録する。
データベース部164は、標示コードと位置情報との組み合わせを格納する記憶部である。このデータベース部164は、たとえば、ディスクドライブ155にデータベース部164のバックアップを保存して運用時にディスクドライブ155から制御装置151のRAMにロードされることで、CPUからアクセスされる。
判定部161は、通信部152にてネットワーク180を通じて車載用ナビゲーション装置110よりデータベース情報である標示コードと位置情報との組み合わせを受信してサーバ150のデータベース部164の内容と比較し、サーバ150のデータベース部164の更新や、サーバ150のデータベース部164の情報を車載用ナビゲーション装置に送信するように通信部152を制御したりする手段である。
次に、このナビゲーションシステム200の動作を説明する。
図14はこのナビゲーションシステム200の動作に関する処理シーケンスを示す図である。
車載用ナビゲーション装置110の制御装置7は、通信部8を制御して、サーバ150に対して定期的にデータベース部15の中の標示コードと位置情報との全ての組み合わせをデータベース情報としてネットワーク180を通じてサーバ150に送信する(ステップS1401)。
サーバ150は、通信部152にてネットワーク180を通じて車載用ナビゲーション装置110よりデータベース情報である標示コードと位置情報との組み合わせを受信し(ステップS1402)、車載用ナビゲーション装置110より取得した個々のデータベース情報(1つの位置情報と標示コードとの組み合わせ)についてサーバ150のデータベース部164と比較する(ステップS1403)。
この比較の結果、サーバ150のデータベース部164に一致する位置情報が登録されていない場合(ステップS1404のNO)、判定部161は、車載用ナビゲーション装置110より取得したデータベース情報を新規の情報として判定してサーバ150のデータベース部164に登録する(ステップS1405)。また、判定部161は、サーバ150のデータベース部164に該当する位置情報が登録されていることを判定した場合には(ステップS1404のYES)、サーバ150のデータベース部164にその位置情報と対応付けて登録されている標示コードと、車載用ナビゲーション装置110より取得したデータベース情報の中の標示コードとを比較して、一致する標示コードの有無を判定する(ステップS1406)。なお、一つの位置情報と対応付けて登録されている標示コードは複数存在する場合がある。車載用ナビゲーション装置110より取得したデータベース情報の中の標示コードが、サーバ150のデータベース部164に登録されているどの標示コードとも一致しない場合には(ステップS1406のNO)、判定部161は、車載用ナビゲーション装置110より取得したデータベース情報を新規の情報として判定してサーバ150のデータベース部164に登録する(ステップS1405)。
また、車載用ナビゲーション装置110より取得したデータベース情報の中の標示コードが、サーバ150のデータベース部164に登録されているいずれかの標示コードと一致すれば(ステップS1406のYES)、その位置情報および標示コードに対して、これらの確からしさを示すフラグがデータベース部164にセットされているかどうかを判断する(ステップS1407)。ここで、確からしさを示すフラグは、サーバ150のデータベース部164に一つの位置情報と対応付けて登録されている1以上の標示コードの中で、たとえば過去のヒット数が最も高い標示コードに対してのみセットされるようになっている。
判定部161は、フラグがセットされていることを判断した場合(ステップS1407のYES)、そのフラグがセットされた位置情報および標示コードのヒット数をインクリメントする(ステップS1408)。この場合はこれで処理を終了する。フラグがセットされていない場合は(ステップS1407のNO)、判定部161は、車載用ナビゲーション装置110より取得した位置情報と標示コードのヒット数をインクリメントし(ステップS1409)、フラグがセットされた位置情報および標示コードとの組み合わせを、車載用ナビゲーション装置110に送信すべき情報としてRAMに保持する(ステップS1410)。
判定部161は、車載用ナビゲーション装置110より取得した全てのデータベース情報について同様の処理を繰り返し、全てのデータベース情報についての処理が完了すると(ステップS1411のYES)、RAMに保持されている位置情報および標示コードとの組み合わせの情報をまとめて、車載用ナビゲーション装置110に送信するように通信部152を制御する(ステップS1412)。
車載用ナビゲーション装置110は、サーバ150より位置情報および標示コードとの組み合わせを受信すると(ステップS1413)、データベース部15の該当する位置情報に対応付けて登録されている標示コードを、サーバ150より取得した標示コードで更新する(ステップS1414)。
以上説明したように本実施形態によれば、サーバ150にて、複数の車載用ナビゲーション装置110より取得したデータベース情報を統合した結果をもとに位置情報と標示コードとの組み合わせを管理して、各車載用ナビゲーション装置110のデータベース部15にフィードバックをかけることによって、各車載用ナビゲーション装置110のデータベース間のバラツキを解消することができ、各車載用ナビゲーション装置110での標示認識精度を向上させることができる。
また、サーバ150の判定部161は、同一の位置情報に対応付けられた複数の標示コードに対するそれぞれのヒット数の差を監視しており、全体のヒット数が所要の値に達した後、それぞれのヒットの差が一定値以内である場合には、各車載用ナビゲーション装置110に対して、位置情報を含む画像の送信を要求する。サーバ150の判定部161は、この要求に応じて車載用ナビゲーション装置110より送信された画像情報(たとえば標示部分の切り出し画像)を受信すると、この画像情報を表示部153に表示させ、サーバ150のオペレータによる視覚での確認を促すように制御を行う。判定部161はオペレータからの確認の結果つまり標示コードと位置情報とを入力部154より受けて、データベース部164の情報を更新する。これにより、データベース部164の情報の信頼性を高めることができる。このデータベース部164の更新された情報は車載用ナビゲーション装置110へ送信されて、車載用ナビゲーション装置110のデータベース部15が更新される。
さらに、判定部161は、車載用ナビゲーション装置110より受信した画像を辞書編集部162へわたす。辞書編集部162は、車載用ナビゲーション装置110より受信した画像情報(たとえば標示部分の切り出し画像)の特徴を抽出して特徴パターンを生成し、この特徴パターンと辞書部163に格納された標示の標準パターンとをたとえばパターンマッチング法などにより比較して類似度を算出する。辞書編集部162は、この算出した類似度が所定の値未満である場合には、生成した特徴パターンを、辞書部163の該当する標示コードに対応する標準パターンとしてオリジナルの標準パターンとは別に辞書部163に新規登録する。この更新された辞書部163の情報は車載用ナビゲーション装置110へ送信されて、車載用ナビゲーション装置110の辞書部12と置き換えられる。これにより、車載用ナビゲーション装置110での標示の認識精度を向上させることができる。
なお、辞書編集部162は、生成した特徴パターンと辞書部163の標準パターンと比較して類似度を算出することなく、特徴パターンを生成したら、これを無条件に辞書部163に標示コードと対応付けて追加登録するようにしてもかまわない。
以上説明した実施形態において、車載用ナビゲーション装置は自車両の現在位置を測位するためにGPSのみを用いたが、車両に搭載されたジャイロセンサーや車速パルスなどの出力とGPS信号とからより高精度な自車位置を測定するようにしてもよい。
本発明は、上述の実施形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々更新を加え得ることは勿論である。
本発明の一実施形態にかかる車載用ナビゲーション装置の構成を示すブロック図である。 図1における制御装置内の標示認識に関する仕組みの構成を示すブロック図である。 図2におけるデータベースの構成を示す図である。 図1の車載用ナビゲーション装置における路面標示認識の手順を示すフローチャートである。 カメラの撮影画像の例を示す図である。 図5の撮影画像の透視変換結果を示す図である。 図6の路面画像の二値パターン情報に対する射影処理の結果を示す図である。 標示認識結果の候補の判定動作を示すフローチャートである。 カメラの撮影画像の例を示す図である。 図9の撮影画像に対して透視変換を行った結果を示す図である。 図9の撮影画像からの標示部分の切り出しを示す図である。 第2の実施形態にかかるナビゲーションシステムの構成を示す図である。 図12のナビゲーションシステムにおけるサーバの構成を示す図である。 図12のナビゲーションシステムの動作に関する処理シーケンスを示す図である。
符号の説明
1…GPS受信機、6…カメラ、7…制御装置、8…通信部、11…画像処理部、12…辞書部、13…標示認識部、13a…データベース検索部、13b…切り出し部、13c…特徴抽出部、13d…辞書比較認識部、14…情報登録部、15…データベース部、 16…時計部、100,110…車載用ナビゲーション装置、150…サーバ、151…制御装置、152…通信部、153…表示部、154…入力部、155…ディスクドライブ、161…判定部、162…辞書編集部、163…辞書部、164…データベース部、 180…ネットワーク、200…ナビゲーションシステム。

Claims (10)

  1. 自車両の前方または後方の路面を撮像して路面画像を取得する撮像部と、
    前記自車両の位置を測定して自車位置情報を出力する自車位置測定部と、
    路面の走行レーン上の標示に対応する標示コードおよび標準パターンが格納された辞書部と、
    前記路面の走行レーン上の標示に対応する標示コードおよびその位置情報を対応付けて記憶するデータベース部と、
    前記自車位置情報を用いて、前記データベース部から前記自車両の走行レーン上の標示の候補を検索して対応する標示コードを出力するデータベース検索部と、
    前記辞書部に格納された標示コードのうち前記データベース検索部が出力した標示コードに対応する標準パターンと前記路面画像とを比較し、前記自車両の走行レーン上の標示を取得して対応する標示コードを出力する辞書比較認識部と、
    前記自車位置情報と前記辞書比較認識部が出力した標示コードとを対応付けて前記データベース部に登録する情報登録部と、
    前記辞書比較認識部が出力した標示コードと、前記路面画像に現れた走行レーン上の標示の特徴パターンとを用いて、前記辞書部の標準パターンを更新する辞書更新部と
    を具備することを特徴とする車載用ナビゲーション装置。
  2. 前記情報登録部は、前記自車位置情報の登録時の時刻を前記データベース部に前記自車位置情報および前記辞書比較認識部が出力した標示コードと対応付けて登録し、
    前記データベース検索部は、前記自車位置情報および現在の時刻を用いて前記データベース部から前記自車両の走行レーン上の標示の候補を検索して対応する標示コードを出力することを特徴とする請求項1に記載の車載用ナビゲーション装置。
  3. 前記辞書更新部は、前記辞書部に、前記特徴パターンを前記辞書比較認識部が出力した標示コードに対応する標準パターンとして追加することを特徴とする請求項に記載の車載用ナビゲーション装置。
  4. 前記情報登録部は、前記辞書比較認識部での比較によって得られた類似度を前記データベース部に前記自車位置情報および前記辞書比較認識部が出力した標示コードと対応付けて登録し、
    前記データベース検索部は、前記検索結果の候補について前記辞書比較認識部での比較によって得られた類似度と、前記検索結果の候補である標示コーに対応付けて前記データベース部に登録された類似度とを比較し、前者の類似度が後者の類似度より低く、かつその差が一定値を超える場合に、前記辞書比較認識部に対して、前記辞書部に格納されたすべての標示の標準パターンと前記路面画像に現れた走行レーン上の標示の特徴パターンと比較するように依頼し、前記情報登録部を通じて、前記辞書比較認識部での比較結果を用いて前記データベース部を更新することを特徴とする請求項1に記載の車載用ナビゲーション装置。
  5. 撮像部により自車両の前方または後方の路面を撮像して路面画像を取得し、
    位置測定部により前記自車両の位置を測定して自車位置情報を取得し、
    データベース検索部により、前記自車位置情報を用いて、路面の走行レーン上の標示に対応する標示コードおよびその位置情報を対応付けて記憶したデータベース部から前記自車両の走行レーン上の標示の候補を検索して対応する標示コードを出力し、
    辞書比較認識部により、前記路面の走行レーン上の標示に対応する標示コードおよび標準パターンが格納された辞書部に格納された標示コードのうち前記データベース検索部が出力した標示コードに対応する標準パターンと前記路面画像とを比較し、前記自車両の走行レーン上の標示を取得して対応する標示コードを出力し、
    辞書更新部により、前記辞書比較認識部が出力した標示コードと、前記路面画像に現れた走行レーン上の標示の特徴パターンとを用いて、前記辞書部の標準パターンを更新すること
    を特徴とする標示認識方法。
  6. 請求項1に記載の1以上の車載用ナビゲーション装置とこの車載用ナビゲーション装置とネットワークを通じて接続可能なサーバとを有するナビゲーションシステムであって、
    前記車載用ナビゲーション装置は、
    前記データベース部に格納されている位置情報と標示コードとの組み合わせをデータベース情報として前記ネットワークを通じて前記サーバに送信する手段を有し、
    前記サーバは、
    位置情報と標示コードとを対応付けて記憶するサーバデータベース部と、
    前記車載用ナビゲーション装置より前記ネットワークを通じて前記データベース情報を取得して前記サーバデータベース部の情報と比較し、新規のデータベース情報を前記サーバデータベース部に登録するとともに、前記サーバデータベース部に登録されている情報と前記取得した前記データベース情報とが一致した回数を前記位置情報と標示コードとの組み合わせごとに管理し、この管理結果をもとに位置情報とこれに対して最も確からしい標示コードとの組み合わせを判定し、この組み合わせを前記ネットワークを通じて前記車載用ナビゲーション装置に送信する判定部と
    を具備することを特徴とするナビゲーションシステム。
  7. 請求項1に記載の1以上の車載用ナビゲーション装置とこの車載用ナビゲーション装置とネットワークを通じて接続可能なサーバであって、
    位置情報と標示コードとを対応付けて記憶するサーバデータベース部と、
    前記車載用ナビゲーション装置より前記ネットワークを通じて、前記車載用ナビゲーション装置のデータベース部に格納されている位置情報と標示コードとの組み合わせであるデータベース情報を取得して前記サーバデータベース部の情報と比較し、新規のデータベース情報を前記サーバデータベース部に登録するとともに、前記サーバデータベース部に登録されている情報と前記取得した前記データベース情報とが一致した回数を前記位置情報と標示コードとの組み合わせごとに管理し、この管理結果をもとに位置情報とこれに対して最も確からしい標示コードとの組み合わせを判定し、この組み合わせを前記ネットワークを通じて前記車載用ナビゲーション装置に送信する判定部とを具備することを特徴とするサーバ。
  8. 表示部と入力部をさらに有し、
    前記判定部は、
    前記車載用ナビゲーション装置に対して前記ネットワークを通じて、位置情報および標示を路面画像の送信を要求し、この要求に応じて車載用ナビゲーション装置より応答された画像情報を前記表示部に表示させ、オペレータによる画像の確認結果である標示コードを前記入力部より入力して、前記サーバデータベース部を更新することを特徴する請求項に記載のサーバ。
  9. 前記判定部は、前記サーバデータベース部の更新結果を前記ネットワークを通じて前記車載用ナビゲーション装置へ送信することを特徴とする請求項に記載のサーバ。
  10. 前記路面の走行レーン上の標示に対応する標示コードと標準パターンが格納された辞書部と、
    前記車載用ナビゲーション装置より送信された路面画像に現れた標示の特徴パターンを生成して、この特徴パターンを前記辞書部の該当する標示コードに対応する標準パターンとして前記辞書部に新規登録する辞書編集部と、
    前記辞書部の情報を前記ネットワークを通じて前記車載用ナビゲーション装置へ送信する通信部と
    をさらに具備することを特徴とする請求項に記載のサーバ。
JP2005334671A 2005-11-18 2005-11-18 車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバ Expired - Fee Related JP4761944B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005334671A JP4761944B2 (ja) 2005-11-18 2005-11-18 車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005334671A JP4761944B2 (ja) 2005-11-18 2005-11-18 車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバ

Publications (2)

Publication Number Publication Date
JP2007139611A JP2007139611A (ja) 2007-06-07
JP4761944B2 true JP4761944B2 (ja) 2011-08-31

Family

ID=38202666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005334671A Expired - Fee Related JP4761944B2 (ja) 2005-11-18 2005-11-18 車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバ

Country Status (1)

Country Link
JP (1) JP4761944B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4948267B2 (ja) 2007-05-25 2012-06-06 東芝機械株式会社 シート・フィルム成形装置及びシート・フィルム成形方法
DE102007030226A1 (de) * 2007-06-29 2009-01-08 Robert Bosch Gmbh Kameragestütztes Navigationssystem und Verfahren zu seinem Betrieb
JP2009180631A (ja) * 2008-01-31 2009-08-13 Denso It Laboratory Inc ナビゲーション装置、ナビゲーション方法およびプログラム
JP4940168B2 (ja) * 2008-02-26 2012-05-30 日立オートモティブシステムズ株式会社 駐車スペース認識装置
JP2012216102A (ja) * 2011-04-01 2012-11-08 Hitachi Kokusai Electric Inc 画像蓄積システム
JP6431261B2 (ja) * 2013-12-20 2018-11-28 矢崎エナジーシステム株式会社 運行情報管理システム
JP6804965B2 (ja) * 2016-12-15 2020-12-23 株式会社日立製作所 画像処理装置、画像処理システム、および画像処理方法
JP7463686B2 (ja) * 2019-10-24 2024-04-09 株式会社Jvcケンウッド 画像記録装置、画像記録方法及び画像記録プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001249686A (ja) * 2000-03-08 2001-09-14 Matsushita Electric Ind Co Ltd 音声認識方法、音声認識装置、およびナビゲーション装置
JP2002243469A (ja) * 2001-02-19 2002-08-28 Alpine Electronics Inc ナビゲーション装置および地図データベース更新システム
JP4581290B2 (ja) * 2001-05-16 2010-11-17 パナソニック株式会社 音声認識装置および音声認識方法
JP3817631B2 (ja) * 2001-12-10 2006-09-06 アルパイン株式会社 道路表示等検出警告装置
JP2004164466A (ja) * 2002-11-15 2004-06-10 Sony Corp 情報更新システム、情報処理装置および情報更新方法
JP4218441B2 (ja) * 2003-06-27 2009-02-04 株式会社デンソー 車載用移動体検出装置

Also Published As

Publication number Publication date
JP2007139611A (ja) 2007-06-07

Similar Documents

Publication Publication Date Title
JP4761944B2 (ja) 車載用ナビゲーション装置、標示認識方法、ナビゲーションシステム、サーバ
KR102327185B1 (ko) 정밀도로지도 갱신을 위한 객체 변화 탐지 시스템 및 그 방법
JP5057183B2 (ja) 風景マッチング用参照データ生成システム及び位置測位システム
CN108694882B (zh) 用于标注地图的方法、装置和设备
EP3842735B1 (en) Position coordinates estimation device, position coordinates estimation method, and program
JP5062498B2 (ja) 風景マッチング用参照データ生成システム及び位置測位システム
US9291462B2 (en) Method for position determination for a motor vehicle
JP2006208223A (ja) 車両位置認識装置及び車両位置認識方法
CN111742326A (zh) 车道线的检测方法、电子设备与存储介质
JP5141969B2 (ja) 画像認識装置及び画像認識プログラム、並びにそれを用いた地点情報収集装置及びナビゲーション装置
JP2006330908A (ja) 位置記録装置及び位置記録方法
CN110647886A (zh) 兴趣点标注方法、装置、计算机设备和存储介质
JP2011215052A (ja) 風景画像認識を用いた自車位置検出システム
JP4984640B2 (ja) 認識装置、地図データ作成装置および認識方法
JP6970736B2 (ja) 劣化地物特定装置、劣化地物特定方法、劣化地物特定プログラム及び劣化地物特定プログラムを記録したコンピュータ読み取り可能な記録媒体
CN111854766B (zh) 一种道路信息确定方法、装置、电子设备及存储介质
CN111238490B (zh) 视觉定位方法、装置以及电子设备
EP3859281B1 (en) Apparatus and method for collecting data for map generation
JP2022186705A (ja) サーバ装置、端末装置、情報通信方法、及び、サーバ装置用プログラム
JP2009058430A (ja) ナビゲーション装置及びナビゲーションプログラム
US11885640B2 (en) Map generation device and map generation method
JP4817019B2 (ja) 自車位置認識装置及び自車位置認識プログラム
CN109655073B (zh) 一种在无或弱信号区域中的地图绘制方法、装置及车辆
JP2007193705A (ja) プローブカーデータを用いたデータベース構築システム
CN113566834A (zh) 定位方法、定位装置、车辆和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081017

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110125

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110328

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110328

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110607

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140617

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees