JP4005203B2 - 車載用音声認識装置 - Google Patents
車載用音声認識装置 Download PDFInfo
- Publication number
- JP4005203B2 JP4005203B2 JP02197598A JP2197598A JP4005203B2 JP 4005203 B2 JP4005203 B2 JP 4005203B2 JP 02197598 A JP02197598 A JP 02197598A JP 2197598 A JP2197598 A JP 2197598A JP 4005203 B2 JP4005203 B2 JP 4005203B2
- Authority
- JP
- Japan
- Prior art keywords
- speaker
- voice
- detecting
- seat
- microphones
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
- Circuit For Audible Band Transducer (AREA)
Description
【発明の属する技術分野】
本発明は、発話者の音声以外のノイズを低減して認識率を向上した車載用音声認識装置に関する。
【0002】
【従来の技術】
図6は従来の車載用音声認識装置のシステム構成を示すブロック図である。以下、図に従って説明する。
車両等の運転中にナビゲーション機器やオーディオ機器等を操作するに際してスイッチ操作による運転者の負担を軽減するために、運転者(発話者)の発声した音声を認識して接続された機器に入力指示する音声認識装置がある。
【0003】
11は話者(発話者)の発声した音声を電気信号に変換する無指向性のマイクロフォンである。31はマイクロフォン11で検出された信号レベルを調整して音声認識部8に適切なレベルの音声信号を出力するためのゲイン(利得)調整部である。8はナビゲーション機器やオーディオ機器等の入力部に接続された音声認識部である。2はマイクロフォン11の検出結果に基いてゲイン調整部31を制御する制御部である。
【0004】
音声認識率を向上するために、制御部2は音声認識部8に最適なレベルの信号が入力されるように、マイクロフォン11で検出した話者の音声信号のレベルを基に、ゲイン調整部31で調整すべきゲインを制御する。
【0005】
【発明が解決しようとする課題】
車載用音声認識装置では、話者の音声以外に他の同乗者の会話や車両の走行に伴う騒音もマイクロフォンに入る。また、話者の体格、運転中の姿勢等により話者の方向、及び話者とマイクロフォンの距離が変化する。その結果、音声認識部に入力されるノイズや信号レベルが変化して、音声認識率が低下するという問題がある。
【0006】
この対策として、話者の口元にマイクロフォンを固定する接話式のマイクロフォンを使用する方法もあるが、話者特に運転者には違和感を与える等の問題がある。
本発明は、話者の音声以外のノイズを低減して音声認識率を向上した車載用音声認識装置を提供することを目的とする。
【0007】
【課題を解決するための手段】
上記目的を達成するために本発明は、発話者の方向を検出する方向検出手段と、発話者の音声を検出する音声検出手段と、前記音声検出手段の指向特性を前記方向検出手段により検出された発話者の方向において高めるように調整する指向特性調整手段と、前記音声検出手段により検出された発話者の音声を認識する音声認識手段を備えたことを特徴とするものである。
【0008】
また、前記音声検出手段は、複数のマイクロフォンで構成され、前記方向検出手段は、前記複数のマイクロフォンにより検出された検出信号相互間の信号レベル差に基いて前記発話者の方向を検出するものであることを特徴とするものである。
また、前記音声検出手段は、複数のマイクロフォンで構成され、前記方向検出手段は、前記複数のマイクロフォンにより検出された検出信号相互間の遅延時間に基いて前記発話者の方向を検出するものであることを特徴とするものである。
【0009】
また、発話者の位置を検出する位置検出手段を備え、前記方向検出手段は、前記音声検出手段の設置位置と前記位置検出手段により検出された発話者の位置に基いて前記発話者の方向を検出するものであることを特徴とするものである。
また、発話者の座席の設定状態を検出する座席設定状態検出手段を備え、前記位置検出手段は、前記座席設定状態検出手段により検出された発話者の座席の設定状態に基いて前記発話者の位置を検出するものであることを特徴とするものである。
【0010】
また、前記音声検出手段は、複数のマイクロフォンで構成され、前記指向特性調整手段は、前記複数のマイクロフォンにより検出された検出信号の利得を調整して重み付けを行う利得調整手段であることを特徴とするものである。
また、発話者の音声を検出する前面に管状体が配設されたマイクロフォンと、前記マイクロフォンにより検出された発話者の音声を認識する音声認識手段を備えたことを特徴とするものである。
また、前記指向特性調整手段は、車両の少なくとも運転席または助手席の発話者の方向の指向性を選択的に高めることを特徴とするものである。
【0011】
【実施例】
図1は本発明の第1の実施例の車載用音声認識装置のシステム構成を示すブロック図である。図2は複数のマイクロフォンによる話者位検出と指向性調整を示す図で、(a)はマイクロフォン(縦方向配置)と話者の位置関係を示す図、(b)はマイクロフォン(横方向配置)と話者の位置関係を示す図である。以下、図に従って説明する。尚、本例は複数のマイクロフォンの出力状態から話者の方向を検出し、音声検出部1の指向性が話者の方向において最大になるようにゲインを調整するものである。
【0012】
1は運転者や同乗者の音声を電気信号に変換する音声検出部(音声検出手段)で、所定の間隔で配置された複数の無指向性のマイクロフォン11、12、13で構成される。31はマイクロフォン11、12、13の出力を個々に調整して音声検出部1全体として話者の方向に指向性をもたせるためのゲイン調整部で、電子ボリューム等で構成される。8はナビゲーション機器やオーディオ機器等の入力部に接続される音声認識部であり、この音声認識部8が認識した結果に応じて、ナビゲーション機器やオーディオ機器の動作が制御されることになる。2はマイクロフォン11、12、13の出力レベルまたは遅延時間を基に話者の方向を検出し、各マイクロフォン11、12、13の出力を調整するゲイン調整部31を制御する制御部である。21は音声検出部1により検出した話者の方向とゲイン調整部31の調整値を対応させて記憶するメモリである。
【0013】
先ず、マイクロフォン11、12、13による話者の方向検出方法について述べる。図2(a)において話者81の発声する音声は3つのマイクロフォン11、12、13において信号レベルV11、V12、V13と遅延時間t11、t12、t13が検出される。この場合、遅延時間は信号の立上りを検出して、いずれか1つのマイクロフォン(例えば中央のマイクロフォン12)を基準にした相対的な遅延時間でもよい。マイクロフォンの出力特性が同じになるように予め調整されていると信号レベルは話者81とマイクロフォン11、12、13の距離に応じて低下する。また、遅延時間は話者81とマイクロフォン11、12、13の距離の差に比例して長くなる。従って、マイクロフォン11、12、13の位置関係が判っておれば話者の方向が算出できる。
【0014】
予め、話者81の方向と各マイクロフォン11、12、13からの信号レベルV11、V12、V13及び遅延時間t11、t12、t13の関係をメモリ21に記憶しておく。そして、実際にマイクロフォン11、12、13で信号レベル及び遅延時間を検出して、メモリ21に記憶されている信号レベル及び遅延時間と話者の方向の関係を使用して話者の方向を算出する。
【0015】
次に、音声検出部1の指向性調整方法について述べる。3つのマイクロフォン11、12、13を図2(a)のごとく話者に対して縦方向に配置して、各マイクロフォン11、12、13の信号レベルに対する調整すべきゲインをG11、G12、G13とし、マイクロフォン11、12、13のゲインが同じになるように調整(G11=G12=G13)すると、音声検出部1の指向性は話者81の方向が強く、斜めまたは横方向が弱くなるようにできる。
【0016】
また、3つのマイクロフォン11、12、13を図2(b)のごとく話者に対して横方向に配置して、マイクロフォン11、12、13の順にゲインが高くなるように調整(G11<G12<G13)すると、音声検出部1の指向性は話者81aの方向が強くなるようにできる。一方、マイクロフォン13、12、11の順にゲインが高くなるように調整(G13<G12<G11)すると、音声検出部1の指向性は話者81bの方向が強くなるようにできる。さらに、マイクロフォン12のゲインをマイクロフォン11、13のゲインよりも高くなるように調整(G11≦G12≧G13)すると、音声検出部1の指向性は中央部の話者81cの方向が強くなるようにできる。
【0017】
予め、話者の方向とゲイン調整部31において話者の方向の指向性が最大になるように調整すべきゲインG11、G12、G13をメモリ21に記憶させておき、話者の方向が検出できた時には、マイクロフォン11、12、13の出力信号に対して話者の方向に対応したゲイン調整を行う。このようにして、話者の方向の音声検出部1の指向性を高め、その他の方向の指向性を低く抑えることにより同乗者の会話や車両からのノイズが低減された音声信号が音声認識部8に入力されるので、話者の音声の認識率が向上する。
【0018】
尚、3つのマイクロフォン11、12、13を1つの筐体内に一体として組合せたコンパクトなユニット(音声検出部1に相当)を構成し、車内のマップランプやルームランプ裏面に設置してもよく、また、3つのマイクロフォン11、12、13を個々に離れた箇所(例えば、左右のフロントピラー内部とルームランプ裏面)に設置してもよい。3つのマイクロフォンを離して設置した方が話者の方向識別が容易になる。
【0019】
また、図2(b)のマイクロフォンの配置において、予め、3つのマイクロフォン11、12、13からなる音声検出部1の指向性が運転席(話者81b)の方向において最大になるように調整すべき各ゲイン(G11、G12、G13)と、助手席(話者81a)の方向において最大になるように調整すべきゲインの2種類をメモリ21に記憶しておくことにより、運転席、助手席のいずれの話者(81a、81b)に対しても話者の方向を識別し、その話者に対して音声検出部1の検出信号にゲイン調整して、話者の方向に指向性を持たせることができる。つまり、1つの音声検出部1で運転席、助手席のいずれからでもナビゲーション機器やオーディオ機器に対して認識率のよい入力処理が行える。
【0020】
以上のように本実施例では、複数のマイクロフォンにより話者の方向を検出して、その検出結果を基に音声検出部の指向性を話者の方向において最大になるように調整するので、話者の音声信号が大きく、同乗者の会話及び車両騒音等のノイズが低減でき、認識度の高い音声認識装置ができる。
図3は本発明の第2の実施例の車載用音声認識装置のシステム構成を示すブロック図である。図4は座席のスライド位置、座面高さ、背もたれ角を説明するための図である。以下、図に従って説明する。尚、本例は運転席の座席の設定状態から話者の方向を検出するものであり、話者の方向を検出した後の音声検出部1の指向性調整は第1の実施例と同様である。
【0021】
4は車両の運転席(または助手席)の座席の設定状態を検出する座席状態検出部(座席設定状態検出手段)で、座席の前後方向の位置を検出するスライド位置センサ41、座席の上下方向の位置を検出する座面高さセンサ42、背もたれの角度を検出する背もたれ角センサ43で構成される。尚、スライド位置センサ41、座面高さセンサ42は移動量(長さ)を検出するセンサで、例えば、スリットと光学センサの組合せで移動量に応じて発生するパルス数を計測する。背もたれ角センサ43は角度を検出するセンサで、例えば、ボリューム等を使用して回転角に応じて変化する抵抗値(または電圧値)を計測する。また、座席の設定状態が電動で調整できるもの(電動シート)にあっては、特別にセンサ41、42、43を設けず、座席の設定(移動)を行うモータの駆動量を計測しておき、その計測した駆動量で代用してもよい。2は座席状態検出部4の検出結果に基いて運転者(話者)の位置を検出し、音声検出部1と運転者の位置から話者の方向を検出する制御部である。また、制御部2は予め音声検出部1及び座席状態検出部4の検出結果と話者の方向が対応して記憶したメモリ21を有する。71は運転者用の座席で、座面部71a、背もたれ部71b、ヘッドレスト部71cで構成される。尚、音声検出部1、マイクロフォン11、12、13、制御部2、メモリ21、音声認識部8、ゲイン調整部31は第1の実施例と名称、機能及び作用が同じであるため同一番号を付し説明は省略する。
【0022】
予め、運転者が着席した状態で最適な座席の状態、つまり、座席のスライド位置D1、座面高さH1、背もたれ角θ1をスライド位置センサ41、座面高さセンサ42、背もたれ角センサ43により検出して、車両の天井部70bとフロントガラス70aの上部の間に設置された位置検出部1に対する話者の方向をメモリ21に記憶しておく。
【0023】
次に、運転者が座席に座った時に調整した座席の状態をスライド位置センサ41、座面高さセンサ42、背もたれ角センサ43により検出して、メモリ21に記憶された座席状態と方向の関係から話者の方向を検出する。
話者の方向が検出されると、第1の実施例と同様に各マイクロフォン11、12、13に対応したゲインG11、G12、G13で調整して話者の方向における指向性を最大にする。その結果、運転者の体格、姿勢が異なって座席位置及び背もたれ角度が変化しても、常に最適なマイク指向性が得られる。
【0024】
以上のように本実施例では、座席位置により話者の方向を検出して、その検出結果を基に音声検出部の指向性を話者の方向において最大になるように調整するので、話者の音声信号が大きく、同乗者の会話及び車両騒音等のノイズが低減でき、認識度の高い音声認識装置ができる。
図5は本発明の第3の実施例の車載用音声認識装置のマイクロフォンの設置状態を説明するための図である。以下、図に従って説明する。尚、本例は無指向性のマイクロフォンを使用して話者の方向に音声検出部の指向性が最大になるようにするものである。
【0025】
車両の内装材面72aにパイプ75を介してマイクロフォン11を設置することにより、パイプ75の開口径φ及び長さLで限定された方向の音がマイクロフォン11により選択的に検出され、その他の方向の音は検出されないようにできる。パイプ75の方向を予め話者の方向と一致するように調整しておくことにより同乗者の会話及びノイズが低減できる。
【0026】
以上のように本実施例では、音声検出部の指向性を話者の方向において最大になるように設置するので、話者の音声信号が大きく、同乗者の会話及び車両騒音等のノイズが低減でき、認識度の高い音声認識装置ができる。
【0027】
【発明の効果】
以上説明したように、本発明では、話者の音声以外のノイズを低減して音声認識率を向上した車載用音声認識装置が提供できる。
【図面の簡単な説明】
【図1】本発明の第1の実施例の車載用音声認識装置のシステム構成を示すブロック図である。
【図2】複数のマイクロフォンによる話者位検出と指向性調整を示す図である。
【図3】本発明の第2の実施例の車載用音声認識装置のシステム構成を示すブロック図である。
【図4】座席の座面高さ、スライド位置、背もたれ角を示す図である。
【図5】本発明の第3の実施例の車載用音声認識装置のマイクロフォンの設置状態を示す図である。
【図6】従来の車載用音声認識装置のシステム構成を示すブロック図である。
【符号の説明】
1・・・・・音声検出部、 43・・・・背もたれ角センサ、
11、12、13・・・・マイクロフォン、2・・・・・制御部、
4・・・・・座席状態検出部、 21・・・・メモリ、
41・・・・スライド位置センサ、 31・・・・ゲイン調整部、
42・・・・座面高さセンサ、 8・・・・・音声認識部。
Claims (6)
- 発話者の方向を検出する方向検出手段と、
発話者の音声を検出する複数の音声検出手段と、
前記複数の音声検出手段により検出された検出信号の利得を調整して重み付け合成を行い、前記音声検出手段の指向特性を調整する指向特性調整手段と、
発話者の方向と、該発話者の方向において音声検出手段の指向性を高めるためのゲイン調整値と、を対応させて記憶する記憶手段と、
前記音声検出手段により検出された発話者の音声を認識する音声認識手段とを具備し、
前記指向特性調整手段は、前記記憶手段に記憶されている発話者の方向に対応するゲイン調整値に基づいて音声検出手段の指向特性を調整することを特徴とする車載用音声認識装置。 - 前記音声検出手段は、複数のマイクロフォンで構成され、
前記方向検出手段は、前記複数のマイクロフォンにより検出された検出信号相互間の信号レベル差に基づいて前記発話者の方向を検出するものであることを特徴とする請求項1記載の車載用音声認識装置。 - 前記音声検出手段は、複数のマイクロフォンで構成され、
前記方向検出手段は、前記複数のマイクロフォンにより検出された検出信号相互間の遅延時間に基いて前記発話者の方向を検出するものであることを特徴とする請求項1記載の車載用音声認識装置。 - 発話者の位置を検出する位置検出手段を備え、
前記方向検出手段は、前記音声検出手段の設置位置と前記位置検出手段により検出された発話者の位置に基づいて前記発話者の方向を検出するものであることを特徴とする請求項1記載の車載用音声認識装置。 - 発話者の座席の設定状態を検出する座席設定状態検出手段を備え、
前記位置検出手段は、前記座席設定状態検出手段により検出された発話者の座席の設定状態に基いて前記発話者の位置を検出するものであることを特徴とする請求項4記載の車載用音声認識装置。 - 前記記憶手段において、発話者の方向が少なくとも運転席及び助手席であることを特徴とする請求項1記載の車載用音声認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02197598A JP4005203B2 (ja) | 1998-02-03 | 1998-02-03 | 車載用音声認識装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP02197598A JP4005203B2 (ja) | 1998-02-03 | 1998-02-03 | 車載用音声認識装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11219193A JPH11219193A (ja) | 1999-08-10 |
JP4005203B2 true JP4005203B2 (ja) | 2007-11-07 |
Family
ID=12070043
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP02197598A Expired - Lifetime JP4005203B2 (ja) | 1998-02-03 | 1998-02-03 | 車載用音声認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4005203B2 (ja) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001236093A (ja) * | 2000-02-24 | 2001-08-31 | Omron Corp | 電子機器制御装置および電子機器 |
ATE336776T1 (de) * | 2000-02-25 | 2006-09-15 | Koninkl Philips Electronics Nv | Vorrichtung zur spracherkennung mit referenztransformationsmitteln |
JP4752153B2 (ja) * | 2001-08-14 | 2011-08-17 | ソニー株式会社 | 情報処理装置および方法、情報生成装置および方法、記録媒体、並びにプログラム |
JP2003084795A (ja) * | 2001-09-10 | 2003-03-19 | Kenwood Corp | 車載用音声認識システム |
JP4210897B2 (ja) * | 2002-03-18 | 2009-01-21 | ソニー株式会社 | 音源方向判断装置及び音源方向判断方法 |
DE10217822C1 (de) * | 2002-04-17 | 2003-09-25 | Daimler Chrysler Ag | Verfahren und Vorrichtung zur Blickrichtungserkennung einer Person mittels wenigstens eines richtungsselektiven Mikrofons |
WO2006025106A1 (ja) * | 2004-09-01 | 2006-03-09 | Hitachi, Ltd. | 音声認識システム、音声認識方法およびそのプログラム |
JP4585425B2 (ja) * | 2005-10-26 | 2010-11-24 | 本田技研工業株式会社 | 車両用空調機の吹出制御装置 |
EP1908640B1 (en) * | 2006-10-02 | 2009-03-04 | Harman Becker Automotive Systems GmbH | Voice control of vehicular elements from outside a vehicular cabin |
JP2011102984A (ja) * | 2010-11-30 | 2011-05-26 | Sony Corp | ナビゲーション装置、音声認識方法、およびプログラム |
JP5545676B2 (ja) * | 2011-11-07 | 2014-07-09 | 株式会社ホンダアクセス | 車室内のマイクアレイ配置構造 |
JP6473972B2 (ja) * | 2013-02-12 | 2019-02-27 | 日本電気株式会社 | 音声処理装置、音声処理方法、音声処理プログラムおよび音声処理装置の取り付け方法、天井部材、ならびに車両 |
JP6606921B2 (ja) * | 2015-08-26 | 2019-11-20 | アイシン精機株式会社 | 発声方向特定装置 |
KR102444061B1 (ko) * | 2015-11-02 | 2022-09-16 | 삼성전자주식회사 | 음성 인식이 가능한 전자 장치 및 방법 |
JP6674850B2 (ja) * | 2016-06-29 | 2020-04-01 | クラリオン株式会社 | 収音装置 |
JP7020283B2 (ja) * | 2017-09-14 | 2022-02-16 | 富士通株式会社 | 音源方向判定装置、音源方向判定方法、及び音源方向判定プログラム |
JP7078594B2 (ja) * | 2019-11-12 | 2022-05-31 | 本田技研工業株式会社 | 車両用装置、車両、車両用装置の動作方法およびプログラム |
-
1998
- 1998-02-03 JP JP02197598A patent/JP4005203B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH11219193A (ja) | 1999-08-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4005203B2 (ja) | 車載用音声認識装置 | |
EP1908640B1 (en) | Voice control of vehicular elements from outside a vehicular cabin | |
JP4779748B2 (ja) | 車両用音声入出力装置および音声入出力装置用プログラム | |
US7738670B2 (en) | Hidden hands-free microphone with wind protection | |
EP3163573A1 (en) | Speech collector in car cabin | |
CN111489750B (zh) | 声音处理设备和声音处理方法 | |
US20040170286A1 (en) | Method for controlling an acoustic system in a vehicle | |
WO2016103710A1 (ja) | 音声処理装置 | |
WO2014026165A2 (en) | Systems and methods for vehicle cabin controlled audio | |
WO2016143340A1 (ja) | 音声処理装置及び制御装置 | |
JP2009124540A (ja) | 車両用通話装置、通話方法 | |
KR101546709B1 (ko) | 음성 인식 장치, 그를 가지는 차량 및 그 방법 | |
JP2010283506A (ja) | 車載用音響処理装置 | |
JP2006094389A (ja) | 車内会話補助装置 | |
WO2017056706A1 (ja) | 車載音響装置 | |
JP2017069806A (ja) | スピーカアレイ装置 | |
WO2013153583A1 (ja) | 車載用音声入力装置 | |
JP4410378B2 (ja) | 音声認識方法および装置 | |
JP2001352595A (ja) | 音声入力装置 | |
KR100242193B1 (ko) | 차량의 스피커 출력 음량 조절방법 및 조절장치 | |
KR101851144B1 (ko) | 사운드 수신 장치, 그를 가지는 차량 및 그 제어 방법 | |
JP2002171587A (ja) | 車載音響装置の音量調節装置およびそれを用いた音声認識装置 | |
JP5122414B2 (ja) | 車室内会話補助装置 | |
JP6978888B2 (ja) | 感度調整装置、車載システム、車用ヘッドレスト及び信号処理装置 | |
JP6775897B2 (ja) | 車内会話支援装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050203 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050203 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070403 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070424 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070530 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070821 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070823 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100831 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100831 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110831 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110831 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120831 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130831 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140831 Year of fee payment: 7 |
|
EXPY | Cancellation because of completion of term |