JP4449701B2 - 駐車支援システム - Google Patents

駐車支援システム Download PDF

Info

Publication number
JP4449701B2
JP4449701B2 JP2004314010A JP2004314010A JP4449701B2 JP 4449701 B2 JP4449701 B2 JP 4449701B2 JP 2004314010 A JP2004314010 A JP 2004314010A JP 2004314010 A JP2004314010 A JP 2004314010A JP 4449701 B2 JP4449701 B2 JP 4449701B2
Authority
JP
Japan
Prior art keywords
parking
host vehicle
bird
vehicle
dimensional object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004314010A
Other languages
English (en)
Other versions
JP2006129021A (ja
Inventor
正和 香川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2004314010A priority Critical patent/JP4449701B2/ja
Publication of JP2006129021A publication Critical patent/JP2006129021A/ja
Application granted granted Critical
Publication of JP4449701B2 publication Critical patent/JP4449701B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Steering Control In Accordance With Driving Conditions (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、ユーザが自車両を前進させて駐車開始位置に停止させた後に旋回させながら後退させて駐車させる場合の運転を支援する駐車支援システムに関する。
ユーザが自車両を前進させて駐車開始位置に停止させた後に旋回させながら後退させて駐車させる場合の運転を支援する駐車支援システムとして、例えば下記の特許文献1に示すものがある。
特開2002−362271号公報
ところで、上記した特許文献1に記載されている駐車支援システムでは、ユーザが自車両を前進させて駐車開始位置に停止させた後に自車両後方の鳥瞰画像を見ながら目標とする駐車経路と駐車位置(ユーザが自車両を最終的に駐車させたい位置)を設定する構成であるので、ユーザが自車両を駐車開始位置に停止させてから駐車動作を開始させるまでのタイミングが遅れるという問題があり、混雑している駐車場などでは使い勝手に劣るという問題があった。
本発明は、上記した事情に鑑みてなされたものであり、その目的は、ユーザが自車両を駐車開始位置に停止させてから駐車動作を開始させるまでのタイミングの遅れを抑えることができ、使い勝手を高めることができる駐車支援システムを提供することにある。
請求項1に記載した発明によれば、制御手段は、自車両が前進しているときに、自車両後方を撮影手段により複数のタイミングで撮影させ、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに撮影手段により撮影された複数の撮影画像が鳥瞰画像作成手段により視点変換された複数の鳥瞰画像を画像解析して自車両が駐車可能な位置を駐車候補位置として検索し、その検索結果を合成鳥瞰画像作成手段により作成された合成鳥瞰画像に重畳して表示手段に表示させる。
これにより、ユーザが自車両を前進させて駐車開始位置に停止させると、自車両が前進しているときに撮影された複数の撮影画像が視点変換された複数の鳥瞰画像を画像解析して自車両が駐車可能な位置を駐車候補位置として検索し、自車両が駐車可能な位置が存在すれば、自車両が駐車可能な位置を駐車候補位置として合成鳥瞰画像上に表示してユーザに知らせることになるので、従来のものとは異なって、ユーザが自車両を前進させて駐車開始位置に停止させた後に自車両後方の鳥瞰画像を見ながら目標とする駐車位置を設定する面倒な手間を不要とすることができ、よって、ユーザが自車両を駐車開始位置に停止させてから駐車動作を開始させるまでのタイミングの遅れを抑えることができ、使い勝手を高めることができる。
また、制御手段は、自車両が駐車開始位置に停止した時点での操舵角に基づいて自車両の予想進行方向を特定し、その特定された自車両の予想進行方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索する。これにより、ユーザが自車両を駐車開始位置に停止させてから操舵角を変更させることなく後退させると仮定した場合の方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索することができる。さらに、制御手段は、自車両の予想進行方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索し、駐車候補位置を決定することが不可であった場合には、自車両の予想進行方向を基準とした自車両に近い方向または自車両から遠い方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索する。これにより、ユーザが自車両を駐車開始位置に停止させてから操舵角を変更させることなく後退させると仮定した場合の方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索したものの、駐車候補位置を決定することが不可であったとしても、自車両の予想進行方向を基準とした自車両に近い方向または自車両から遠い方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索することができる。
請求項2及び3に記載した発明によれば、制御手段は、自車両の予想進行方向の範囲または自車両の予想進行方向を基準とした自車両に近い方向または自車両から遠い方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索し、駐車候補位置を決定することが不可であった場合には、自車両の予想進行方向を基準とした検索した方向とは逆の方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索する。これにより、自車両の予想進行方向の範囲または自車両の予想進行方向を基準とした自車両に近い方向または自車両から遠い方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索したものの、駐車候補位置を決定することが不可であったとしても、自車両の予想進行方向を基準とした検索した方向とは逆の方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索することができる。
請求項に記載した発明によれば、制御手段は、自車両が前進しているときに、自車両後方を撮影手段により複数のタイミングで撮影させると同時に自車両周囲の立体物を立体物検出手段により検出させ、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに撮影手段により撮影された複数の撮影画像が鳥瞰画像作成手段により視点変換された複数の鳥瞰画像を画像解析すると共に立体物検出手段の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索する。
これにより、ユーザが自車両を前進させて駐車開始位置に停止させると、自車両が前進しているときに撮影された複数の撮影画像が視点変換された複数の鳥瞰画像を画像解析すると共に自車両周囲の立体物の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索し、自車両が駐車可能な位置が存在すれば、自車両が駐車可能な位置を駐車候補位置として合成鳥瞰画像上に表示してユーザに知らせることになるので、上記した請求項1に記載したものと同様にして、ユーザが自車両を前進させて駐車開始位置に停止させた後に自車両後方の鳥瞰画像を見ながら目標とする駐車位置を設定する面倒な手間を不要とすることができる。また、この場合は、自車両が前進しているときに撮影された複数の撮影画像が視点変換された複数の鳥瞰画像を画像解析することの他に自車両周囲の立体物の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索することになるので、自車両が駐車可能な位置を精度良く検索することができる。
請求項に記載した発明によれば、制御手段は、自車両が前進しているときに、自車両後方を撮影手段により複数のタイミングで撮影させると同時に自車両周囲の立体物を立体物検出手段により検出させると共に自車両の走行状態を走行状態検出手段により検出させ、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに撮影手段により撮影された複数の撮影画像が鳥瞰画像作成手段により視点変換された複数の鳥瞰画像を画像解析すると共に立体物検出手段の検出結果及び走行状態検出手段の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索する。
これにより、ユーザが自車両を前進させて駐車開始位置に停止させると、自車両が前進しているときに撮影された複数の撮影画像が視点変換された複数の鳥瞰画像を画像解析すると共に自車両周囲の立体物の検出結果及び自車両の走行状態の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索し、自車両が駐車可能な位置が存在すれば、自車両が駐車可能な位置を駐車候補位置として合成鳥瞰画像上に表示してユーザに知らせることになるので、上記した請求項1に記載したものと同様にして、ユーザが自車両を前進させて駐車開始位置に停止させた後に自車両後方の鳥瞰画像を見ながら目標とする駐車位置を設定する面倒な手間を不要とすることができる。また、この場合は、自車両が前進しているときに撮影された複数の撮影画像が視点変換された複数の鳥瞰画像を画像解析することの他に自車両周囲の立体物の検出結果及び自車両の走行状態の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索することになるので、自車両が駐車可能な位置を精度良く検索することができる。
請求項に記載した発明によれば、制御手段は、複数の鳥瞰画像を画像解析して立体物の輪郭を表す立体物輪郭線を作成し、その作成された立体物輪郭線から自車両が駐車可能な位置を駐車候補位置として検索する。これにより、立体物(例えば既に駐車されている駐車車両や建造物など)の輪郭を表す立体物輪郭線を作成することにより、自車両が駐車可能な位置を駐車候補位置として検索することができる。
請求項に記載した発明によれば、制御手段は、複数の鳥瞰画像を画像解析して駐車枠線を検出し、その検出された駐車枠線から自車両が駐車可能な位置を駐車候補位置として検索する。これにより、駐車枠線(例えば路上に引かれている白線)を検出することにより、自車両が駐車可能な位置を駐車候補位置として検索することができる。
請求項に記載した発明によれば、制御手段は、立体物検出手段の検出結果や走行状態検出手段の検出結果を判定して自車両から立体物までの距離を表す立体物距離マップを作成すると共に、複数の鳥瞰画像を画像解析して作成された立体物輪郭線を当該立体物距離マップに基づいて補正し、その補正された立体物輪郭線から自車両が駐車可能な位置を駐車候補位置として検索する。これにより、自車両から立体物までの距離を表す立体物距離マップを作成すると共に、立体物輪郭線を当該立体物距離マップに基づいて補正することにより、自車両が駐車可能な位置を駐車候補位置として検索することができ、自車両が駐車可能な位置を精度良く検索することができる。
請求項に記載した発明によれば、制御手段は、駐車候補位置を表示手段に表示させている状況で所定条件が成立した場合には、その時点で表示させている駐車候補位置を駐車位置として決定する。これにより、例えばユーザがブレーキ操作を解除したり特定の音声を発したりして所定条件を成立させることにより、その時点で表示させている駐車候補位置を駐車位置として決定することができる。
請求項10に記載した発明によれば、制御手段は、駐車候補位置を駐車位置として決定した後に他の所定条件が成立した場合には、自車両を駐車開始位置から駐車位置まで自動操舵手段により自動操舵させる。これにより、例えばユーザがブレーキ操作を解除したり特定の音声を発したりして他の所定条件を成立させることにより、自車両を駐車開始位置から駐車位置まで自動操舵手段により自動操舵させることができる。


(第1の実施形態)
以下、本発明の第1の実施形態について、図1ないし図12を参照して説明する。図1は、駐車支援システムの全体構成を機能ブロック図として示している。駐車支援システム1は、駐車支援ECU2(本発明でいう鳥瞰画像作成手段、合成鳥瞰画像作成手段、制御手段)、エンジンECU3、ヨーレートセンサ4(本発明でいう走行状態検出手段)、ステアリングセンサ5、ナビゲーションECU6及び自動操舵回路7(本発明でいう自動操舵手段)が車載LAN8を介して接続されて構成されている。
駐車支援ECU2は、ヨーレートセンサ4から入力されるヨーレート検出信号、ステアリングセンサ5から入力されるステアリング検出信号及び車速センサ9(本発明でいう走行状態検出手段)からエンジンECU3を介して入力される車速検出信号などを解析して駐車支援動作を制御する。操作スイッチ10は、運転席に配置され、ユーザが駐車支援動作を起動させるために操作するもので、ユーザにより操作されると、操作検出信号を駐車支援ECU2へ出力し、駐車支援ECU2は、操作スイッチ10から操作検出信号が入力されることにより、ユーザが駐車支援動作を起動させた旨を検出する。
車載カメラ11(本発明でいう撮影手段)は、自車両の車体の後部に取付けられ、自車両後方を撮影するもので、自車両後方の撮影画像を駐車支援ECU2へ出力し、駐車支援ECU2は、車載カメラ11から撮影画像が入力されると、その入力された撮影画像を所定の視点変換アルゴリズムに基づいて視点変換して鳥瞰画像を作成し、複数の鳥瞰画像を所定の合成アルゴリズムに基づいて合成して合成鳥瞰画像を作成する。表示装置12(本発明でいう表示手段)は、車室内にあってユーザが見易い位置に配置され、駐車支援ECU2から表示指示信号が入力されると、駐車支援ECU2により作成された合成鳥瞰画像を表示する。
車速センサ9は、車速を検出し、その検出された車速を表す車速検出信号をエンジンECU3へ出力する。エンジンECU3は、車速センサ9から車速検出信号が入力されると、その入力された車速検出信号に基づいてエンジンの制御を行うと共に、その入力された車速検出信号を車載LAN8を介して駐車支援ECU2へ出力する。ヨーレートセンサ4は、ヨーレートを検出し、その検出されたヨーレートを表すヨーレート検出信号を車載LAN8を介して駐車支援ECU2へ出力する。ステアリングセンサ5は、ステアリングを検出し、その検出されたステアリングを表すステアリング検出信号を車載LAN8を介して駐車支援ECU2へ出力する。
ナビゲーションECU6は、車両に搭載されているナビゲーション装置(図示せず)の動作を制御する。尚、上記した構成において、ユーザの操作を操作スイッチ10により受付ける機能や合成鳥瞰画像を表示装置12により表示する機能は、ナビゲーション装置の機能により代用されていても良い。自動操舵回路7は、駐車支援ECU2から自動操舵制御信号が入力されると、その入力された自動操舵制御信号に基づいて自車両を自動操舵する。
次に、上記した構成の作用について、図2ないし図12を参照して説明する。ここで、図2及び図3は、駐車支援ECU2が行う処理をフローチャートとして示している。
最初に、ユーザは、自車両を前進させて駐車開始位置に停止させた後に旋回させながら後退させて駐車させる場合には、自車両を駐車開始位置に停止させる前の適当なタイミング、つまり、自車両を前進させている途中の適当なタイミングで操作スイッチ10を操作することにより、駐車支援動作を起動させる。尚、本実施形態では、ユーザが操作スイッチ10を操作することにより駐車支援動作が起動される場合を説明したが、ユーザが特定の音声を発することにより駐車支援動作が起動される構成であっても良いし、自車両が減速して自車両の前進速度が所定速度以下に低下した場合に駐車支援動作が自動的に起動される構成であっても良い。
駐車支援ECU2は、操作スイッチ10から操作検出信号が入力されると、駐車支援動作を起動し、自車両の移動量が所定距離(例えば10センチメートル)に到達したか否かを判定すると共に(ステップS1)、自車両が駐車開始位置に停止したか否かを判定する(ステップS2)。ここで、駐車支援ECU2は、自車両の移動量が所定距離に到達した旨を検出すると(ステップS1にて「YES」)、自車両後方を車載カメラ11により撮影させ(ステップS3)、その撮影された撮影画像を保存する(ステップS4)。そして、駐車支援ECU2は、自車両が駐車開始位置に停止した旨を検出するまで上記した処理を繰返して行い、自車両が駐車開始位置に停止した旨を検出すると(ステップS2またはステップS5にて「YES」)、シフト操作がバック位置に移動されたか否かを判定する(ステップS6)。
ここで、ユーザは、自車両を駐車開始位置に停止させると、ブレーキ操作(例えばフットブレーキ操作)を維持したままシフト操作をバック位置に移動させる。駐車支援ECU2は、シフト操作がバック位置に移動された旨を検出すると(ステップS6にて「YES」)、駐車候補位置表示処理へ移行する(ステップS7)。
さて、駐車支援ECU2は、駐車候補位置表示処理へ移行すると、これまでに保存させておいた複数の撮影画像、つまり、自車両が前進しているときに複数のタイミングで撮影された複数の撮影画像を視点変換して複数の鳥瞰画像を作成する(ステップS11)。そして、駐車支援ECU2は、それら作成された複数の鳥瞰画像を合成して合成鳥瞰画像を作成する。
具体的に説明すると、駐車支援ECU2は、図4に示すように、自車両(図4では「自車両A」にて示す)が走行位置a、走行位置b及び走行位置cを経由して駐車開始位置に停止した場合を想定すると、自車両が走行位置aを走行しているときに撮影された撮影画像、自車両が走行位置bを走行しているときに撮影された撮影画像、自車両が走行位置cを走行しているときに撮影された撮影画像及び自車両が駐車開始位置に停止したときに撮影された撮影画像の各々を視点変換して鳥瞰画像を作成する。そして、駐車支援ECU2は、それら作成された複数の鳥瞰画像を合成して合成鳥瞰画像を作成する。
尚、この場合、駐車支援ECU2は、鳥瞰画像同士のズレが大きい場合には、そのズレを演算して立体物(障害物)を検出すると共に、立体物が存在する領域については立体物が占める面積が最小となるように全ての鳥瞰画像を合成し(重ね合わせ)、立体物については視点変換することなく実画像を変形して当該立体物の領域を埋めることにより、合成鳥瞰画像を作成しても良い。
次いで、駐車支援ECU2は、複数の鳥瞰画像に基づいて立体物を検出して当該立体物の輪郭を表す立体物輪郭線を作成し(ステップS12)、また、複数の鳥瞰画像に基づいて駐車枠線を検出する(ステップS13)。具体的に説明すると、駐車支援ECU2は、上記した図4に示したように、自車両が停止した駐車開始位置の周囲に例えば3台の駐車車両が駐車されていると共に壁が立設され、また、路上に白線が引かれている場合を想定すると、複数の鳥瞰画像を画像解析することにより、図5に示すように、駐車車両の輪郭線や壁の輪郭線を立体物輪郭線として作成すると共に、路上に引かれている白線を駐車枠線として検出する。
尚、本実施形態では、駐車支援ECU2が立体物輪郭線を作成する機能及び駐車枠線を検出する機能を備えていることにより、駐車支援ECU2が駐車車両の輪郭線や壁の輪郭線を立体物輪郭線として作成すると共に、路上に引かれている白線を駐車枠線として検出する場合を説明したが、いずれか一方の機能を備えていることにより、図6に示すように、駐車車両の輪郭線や壁の輪郭線を立体物輪郭線として作成するだけの構成であっても良いし、図7に示すように、路上に引かれている白線を駐車枠線として検出するだけの構成であっても良い。
そして、駐車支援ECU2は、その時点、つまり、自車両が駐車開始位置に停止した時点での操舵角の方向に基づいて自車両の予想進行方向を特定し、その特定された自車両の予想進行方向の範囲について立体物輪郭線や駐車枠線から駐車候補位置を検索する(ステップS14)。ここで、駐車支援ECU2は、次のようにして駐車候補位置を検索する。
すなわち、駐車支援ECU2は、立体物輪郭線から駐車候補位置を検索する場合には、その作成された立体物輪郭線の形状を識別し、図6(b)に示すように、例えば立体物輪郭線の形状が自車両長(自車両の前後方向の全長)よりも長い奥行き(自車両長+α)及び自車両幅(自車両の左右方向の全幅)よりも広い幅(自車両長+β)の窪みを有する形状である旨を検出すると、駐車候補位置が存在する旨を検出し、一方、立体物輪郭線の形状が自車両長よりも長い奥行き及び自車両幅よりも広い幅の窪みを有する形状でない旨を検出すると、駐車候補位置が存在しない旨を検出する。
また、駐車支援ECU2は、駐車枠線から駐車候補位置を検索する場合には、その検出された駐車枠線形状を識別し、図7(b)に示すように、例えば2本の駐車枠線が自車両長よりも長い長さ及び自車両幅よりも広い幅を有するように対をなしている旨を検出すると、駐車候補位置が存在する旨を検出し、一方、2本の駐車枠線が自車両長よりも長い長さ及び自車両幅よりも広い幅を有するように対をなしていない旨を検出すると、駐車候補位置が存在しない旨を検出する。
さらに、駐車支援ECU2は、立体物輪郭線及び駐車枠線から駐車候補位置を検索する場合には、その作成された立体物輪郭線の形状及び検出された駐車枠線の形状を識別し、例えば立体物輪郭線の形状が1本の駐車枠線から離れた位置に自車両幅よりも広い幅の窪みを有する形状である旨を検出すると、駐車候補位置が存在する旨を検出し、一方、立体物輪郭線の形状が1本の駐車枠線から離れた位置に自車両幅よりも広い幅の窪みを有する形状でない旨を検出すると、駐車候補位置が存在しない旨を検出する。尚、以上に説明した駐車候補位置が存在するか否かの判定基準は一例であり、これら以外の判定基準により駐車候補位置が存在するか否かを判定しても良い。また、図6(b)にて示すα,βと図7(b)にて示すα,βとは自車両長や自車両幅に応じて異なる値であっても良い。
そして、駐車支援ECU2は、自車両の予想進行方向の範囲について駐車候補位置を検索した結果として、駐車候補位置が存在する旨を検出すると(ステップS15にて「YES」)、図8に示すように、自車両を表す自車両図形と駐車候補位置を表す駐車候補位置図形とを合成鳥瞰画像に重畳して表示装置12に表示させる(ステップS16)。この場合、駐車支援ECU2は、自車両の駐車開始位置から駐車候補位置までの予想進路を表す予想進路矢印をも合成鳥瞰画像に重畳して表示装置12に表示させても良い。
これに対して、駐車支援ECU2は、自車両の予想進行方向の範囲について駐車候補位置を検索したものの、駐車候補位置が存在しない旨を検出すると(ステップS15にて「NO」)、自車両の予想進行方向を基準とした自車両に近い方向の範囲について上記した手順と同様の手順を行うことにより立体物輪郭線や駐車枠線から駐車候補位置を検索する(ステップS17)。具体的に説明すると、駐車支援ECU2は、図9(a)に示すように、駐車候補位置を検索する範囲を自車両の予想進行方向を基準とした自車両に近い方向(図9では左方向)に移動させ、自車両の予想進行方向を基準とした自車両に近い方向の範囲について立体物輪郭線や駐車枠線から駐車候補位置を検索する。
そして、駐車支援ECU2は、自車両の予想進行方向を基準とした自車両に近い方向の範囲について駐車候補位置を検索した結果として、駐車候補位置が存在する旨を検出すると(ステップS18にて「YES」)、上記したように自車両を表す自車両図形と駐車候補位置を表す駐車候補位置図形とを合成鳥瞰画像に重畳して表示装置12に表示させる(ステップS16)。
これに対して、駐車支援ECU2は、自車両の予想進行方向を基準とした自車両に近い方向の範囲について駐車候補位置を検索したものの、駐車候補位置が存在しない旨を検出すると(ステップS18にて「NO」)、自車両の予想進行方向を基準とした自車両から遠い方向の範囲について上記した手順と同様の手順を行うことにより立体物輪郭線や駐車枠線から駐車候補位置を検索する(ステップS19)。具体的に説明すると、駐車支援ECU2は、図9(b)に示すように、駐車候補位置を検索する範囲を自車両の予想進行方向を基準とした自車両から遠い方向(図9では右方向)に移動させ、自車両の予想進行方向を基準とした自車両から遠い方向の範囲について立体物輪郭線や駐車枠線から駐車候補位置を検索する。
そして、駐車支援ECU2は、自車両の予想進行方向を基準とした自車両から遠い方向の範囲について駐車候補位置を検索した結果として、駐車候補位が存在する旨を検出すると(ステップS20にて「YES」)、上記したように自車両を表す自車両図形と駐車候補位置を表す駐車候補位置図形とを合成鳥瞰画像に重畳して表示装置12に表示させる(ステップS16)。
これに対して、駐車支援ECU2は、自車両の予想進行方向を基準とした自車両から遠い方向の範囲について駐車候補位置を検索したものの、駐車候補位置が存在しない旨を検出すると(ステップS20にて「NO」)、駐車候補位置が存在しない旨を表す未検出メッセージを表示装置12に表示させる(ステップS21)。このようにして、駐車支援ECU2は、いずれかの方向の範囲を検索して駐車候補位置が存在する旨を検出すると、駐車候補位置を表示装置12に表示させ、一方、いずれの方向の範囲を検索したものの駐車候補位置が存在しない旨を検出すると、未検出メッセージを表示装置12に表示させる。
そして、ユーザは、このようにして駐車候補位置が表示されると、その表示されている駐車候補位置を駐車位置(ユーザが自車両を最終的に駐車させたい位置)として決定させる。駐車支援ECU2は、ユーザによりブレーキ操作が解除されたか否か(本発明でいう所定条件が成立したか否か、本発明でいう他の所定条件が成立したか否か)を判定し(ステップS8)、ユーザによりブレーキ操作が解除された旨を検出すると(ステップS8にて「YES」)、その時点で表示されている駐車候補位置を駐車位置として決定し(ステップS9)、自動操舵制御信号を自動操舵回路7へ出力し、自車両を駐車開始位置から駐車位置まで自動操舵させる(ステップS10)。
尚、本実施形態では、ユーザがブレーキ操作を解除することにより駐車候補位置を駐車位置として決定して自車両を駐車開始位置から駐車位置まで自動操舵させる場合を説明したが、駐車候補位置を駐車位置として決定する条件や自車両を駐車開始位置から駐車位置まで自動操舵させる条件は、例えばユーザが特定の音声を発したり特定のスイッチ操作を行ったりするなどの他のものであっても良い。また、それらの条件が互いに異なる条件であっても良い。
以上に説明した一連の処理を行うことにより、ユーザは、自車両を前進させて駐車開始位置に停止させた後に旋回させながら後退させて駐車させる場合には、自車両を駐車開始位置に停止させると、自車両が駐車可能な位置が駐車候補位置として表示されることになり、その表示されている駐車候補位置を駐車位置として決定しても支障がない場合には、ブレーキ操作を解除することにより、駐車候補位置を駐車位置として決定することができ、自車両を駐車開始位置から駐車位置まで自動操舵により駐車させることができる。つまり、ユーザは、自車両後方の鳥瞰画像を見ながら目標とする駐車位置を設定するという面倒な手間を行うことなく、自車両を駐車開始位置から駐車位置まで容易に駐車させることができる。
ところで、以上は、駐車候補位置を検索した結果として駐車候補位置が1つ存在する場合を説明したものであるが、駐車候補位置を検索した結果として駐車候補位置が複数存在する場合であれば、図10〜図12に示すように、それら検索された複数の駐車候補位置のうち操舵角から特定される予想進行方向の駐車候補位置のみを表示し、ユーザがステアリングを操作して操舵角を変更することに応じて駐車候補位置を順次表示するようにしても良い。
具体的に説明すると、上記した図4に示した環境の下で駐車車両が全く存在しない場合には、駐車候補位置が複数存在することになるので、図10に示す表示画像が表示されている状態から、ユーザがブレーキ操作を維持したままステアリングを左方向へ旋回した場合には、図11に示すように、駐車候補位置を左方向に移動して表示しても良いし、一方、ユーザがブレーキ操作を維持したままステアリングを右方向へ旋回した場合には、図12に示すように、駐車候補位置を右方向に移動して表示しても良い。
以上に説明したように第1の実施形態によれば、駐車支援システム1において、自車両が前進しているときに、自車両後方を撮影し、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに撮影された複数の撮影画像が視点変換された複数の鳥瞰画像を画像解析して自車両が駐車可能な位置を駐車候補位置として検索し、自車両が駐車可能な位置が存在すれば、自車両が駐車可能な位置を駐車候補位置として合成鳥瞰画像上に表示してユーザに知らせるように構成した。
これにより、従来のものとは異なって、ユーザが自車両を前進させて駐車開始位置に停止させた後に鳥瞰画像を見ながら目標とする駐車位置を設定する面倒な手間を不要とすることができ、ユーザが自車両を駐車開始位置に停止させてから駐車動作を開始させるまでのタイミングの遅れを抑えることができ、使い勝手を高めることができる。
(第2の実施形態)
次に、本発明の第2の実施形態について、図13ないし図16を参照して説明する。尚、上記した第1の実施形態と同一部分については説明を省略し、異なる部分について説明する。第2の実施形態は、上記した第1の実施形態と比較すると、自車両周囲の立体物をソナーにより検出すると共に車速センサやヨーレートセンサにより自車両の走行状態を検出することにより、それらの検出結果に基づいて立体物輪郭線を補正する点が異なる。すなわち、駐車支援システム21において、ソナー22(本発明でいう立体物検出手段)は、例えば自車両の車体の側部に取付けられ、超音波を所定方向へ向けて送出して反射波の受信状態に基づいて自車両周囲の立体物を検出する。
この場合、駐車支援ECU2は、自車両の移動量が所定距離に到達した旨を検出すると(ステップS1にて「YES」)、自車両後方を車載カメラ11により撮影させると同時に、自車両周囲の立体物をソナー22により検出させ、車速を車速センサ9により検出させると共にヨーレートをヨーレートセンサ4により検出させ(ステップS31)、その撮影された撮影画像を保存すると同時に、それら検出された自車両周囲の立体物の検出結果を保存すると共に車速及びヨーレートの検出結果を保存する(ステップS32)。そして、駐車支援ECU2は、この場合も、自車両が駐車開始位置に停止した旨を検出するまで上記した処理を繰返して行う。
次いで、駐車支援ECU2は、駐車候補位置表示処理へ移行すると、複数の鳥瞰画像を作成し(ステップS11)、その作成された複数の鳥瞰画像に基づいて立体物を検出して当該立体物の輪郭を表す立体物輪郭線を作成し(ステップS12)、また、複数の鳥瞰画像に基づいて駐車枠線を検出するが(ステップS13)、この場合は、保存させておいた自車両周囲の立体物の検出結果と車速及びヨーレートの検出結果、つまり、自車両が前進しているときに検出された自車両周囲の立体物と車速及びヨーレートを判定して実際の状況に近い(精度の高い)自車両と立体物との相対的な位置関係を表す立体物距離マップを作成し(ステップS41)、その作成された立体物輪郭線を立体物距離マップに基づいて補正する(ステップS42)。
具体的に説明すると、駐車支援ECU2は、図16に示すように、ソナー22の実測点の配列にしたがって立体物距離マップを作成し、立体物輪郭線を立体物距離マップに基づいて補正する。尚、図6では、駐車車両の位置や壁の位置を正確に検出することができたものとして合成鳥瞰画像上での位置として示しているが、実際には複数の鳥瞰画像同士のズレが大きい場合に、そのズレを演算して立体物(障害物)を検出しているので、合成鳥瞰画像を作成する上で発生される誤差の影響により、立体物距離マップの実測点は図6中に示されている駐車車両の位置や壁の位置とは必ずしも一致しない。また、複数の鳥瞰画像を画像解析して作成された立体物輪郭線の全ての箇所を立体物距離マップに基づいて補正する必要はなく、部分的に補正しても良い。
そして、駐車支援ECU2は、このようにして立体物距離マップに基づいて補正された立体物輪郭線を利用し、これ以降、上記した第1の実施形態に記載したものと同様の処理を行うことにより、立体物輪郭線や駐車枠線から駐車候補位置を検索する。
ところで、以上は、自車両周囲の立体物をソナーにより検出する構成を説明したが、自車両周囲の立体物をレーダにより検出する構成であっても良く、精度を高めるために自車両周囲の立体物をソナーとレーダとを組み合わせて検出する構成であっても良い。また、自車両周囲の立体物をソナーにより検出すると共に車速センサやヨーレートセンサにより自車両の走行状態を検出する構成を説明したが、自車両周囲の立体物だけを判定して立体物距離マップを作成する構成であっても良い。
以上に説明したように第2の実施形態によれば、駐車支援システム21において、自車両が前進しているときに、自車両後方を撮影すると同時に自車両周囲の立体物を検出すると共に自車両の走行状態を検出し、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに撮影された複数の撮影画像が視点変換された複数の鳥瞰画像を画像解析すると共に立体物の検出結果及び自車両の走行状態の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索し、自車両が駐車可能な位置が存在すれば、自車両が駐車可能な位置を駐車候補位置として合成鳥瞰画像上に表示してユーザに知らせるように構成した。
これにより、上記した第1の実施形態に記載したものと同様にして、ユーザが自車両を前進させて駐車開始位置に停止させた後に鳥瞰画像を見ながら目標とする駐車位置を設定する面倒な手間を不要とすることができ、ユーザが自車両を駐車開始位置に停止させてから駐車動作を開始させるまでのタイミングの遅れを抑えることができ、使い勝手を高めることができる。また、この場合は、複数の鳥瞰画像を画像解析すると共に自車両周囲の立体物の検出結果及び自車両の走行状態の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索することになるので、自車両が駐車可能な位置を精度良く検索することができる。
(その他の実施形態)
本発明は、上記した実施形態にのみ限定されるものではなく、以下のように変形または拡張することができる。
ナビゲーション装置から地図情報を取込むことにより、自車両が駐車場に進入した場合に駐車支援動作が自動的に起動される構成であっても良い。
ユーザがシフト操作をバック位置に移動させた場合に駐車候補位置表示処理を行う構成に限らず、例えばユーザが特定の音声を発したり特定のスイッチ操作を行ったりするなどの別の条件が成立した場合に駐車候補位置表示処理を行う構成であっても良い。
路上に引かれている白線を駐車枠線として検出する構成に限らず、路上に張られているロープを駐車枠線として検出する構成であっても良い。
自車両後方を撮影する車載カメラにより撮影された撮影画像だけでなく、自車両側方を撮影する車載カメラにより撮影された撮影画像をも視点変換して立体物を検出したり合成鳥瞰画像を作成したりしても良い。
第2の実施形態において、自車両周囲の立体物を超音波を送出するソナーにより検出する構成に限らず、電磁波を送出するセンサやレーザー光を送出するセンサにより検出する構成であっても良い。
本発明の第1の実施形態を示すものであって、駐車支援システムの全体を示す機能ブロック図 フローチャート 図2相当図 複数鳥瞰画像が合成される態様を概略的に示す図 立体物輪郭線が作成される態様を概略的に示す図 駐車枠線が検出される態様を概略的に示す図 立体物輪郭線が作成されると共に駐車枠線が検出される態様を概略的に示す図 表示画像の例を示す図 検索範囲の移動を概略的に示す図 図8相当図 図8相当図 図8相当図 本発明の第2の実施形態を示すものであって、駐車支援システムの全体を示す機能ブロック図 図2相当図 図2相当図 立体物輪郭線が補正される態様を概略的に示す図
符号の説明
図面中、1は駐車支援システム、2は駐車支援ECU(鳥瞰画像作成手段、合成鳥瞰画像作成手段、制御手段)、4はヨーレートセンサ(走行状態検出手段)、7は自動操舵回路(自動操舵手段)、9は車速センサ(走行状態検出手段)、11は車載カメラ(撮影手段)、12は表示装置(表示手段)、21は駐車支援システム、22はソナー(立体物検出手段)である。

Claims (10)

  1. 自車両が前進して駐車開始位置に停止した後に旋回しながら後退して駐車する場合の運転を支援する駐車支援システムであって、
    自車両後方を撮影する撮影手段と、
    前記撮影手段により撮影された撮影画像を視点変換して鳥瞰画像を作成する鳥瞰画像作成手段と、
    前記鳥瞰画像作成手段により作成された複数の鳥瞰画像を合成して合成鳥瞰画像を作成する合成鳥瞰画像作成手段と、
    自車両が前進しているときに、自車両後方を前記撮影手段により複数のタイミングで撮影させ、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに前記撮影手段により撮影された複数の撮影画像が前記鳥瞰画像作成手段により視点変換された複数の鳥瞰画像を画像解析して自車両が駐車可能な位置を駐車候補位置として検索し、その検索結果を前記合成鳥瞰画像作成手段により作成された合成鳥瞰画像に重畳して表示手段に表示させる制御手段とを備え
    前記制御手段は、自車両が駐車開始位置に停止した時点での操舵角に基づいて自車両の予想進行方向を特定し、その特定された自車両の予想進行方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索し、駐車候補位置を決定することが不可であった場合には、自車両の予想進行方向を基準とした自車両に近い方向または自車両から遠い方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  2. 請求項1に記載した駐車支援システムにおいて
    記制御手段は、自車両の予想進行方向の範囲または自車両の予想進行方向を基準とした自車両に近い方向または自車両から遠い方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索し、駐車候補位置を決定することが不可であった場合には、自車両の予想進行方向を基準とした検索した方向とは逆の方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  3. 自車両が前進して駐車開始位置に停止した後に旋回しながら後退して駐車する場合の運転を支援する駐車支援システムであって、
    自車両後方を撮影する撮影手段と、
    前記撮影手段により撮影された撮影画像を視点変換して鳥瞰画像を作成する鳥瞰画像作成手段と、
    前記鳥瞰画像作成手段により作成された複数の鳥瞰画像を合成して合成鳥瞰画像を作成する合成鳥瞰画像作成手段と、
    自車両が前進しているときに、自車両後方を前記撮影手段により複数のタイミングで撮影させ、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに前記撮影手段により撮影された複数の撮影画像が前記鳥瞰画像作成手段により視点変換された複数の鳥瞰画像を画像解析して自車両が駐車可能な位置を駐車候補位置として検索し、その検索結果を前記合成鳥瞰画像作成手段により作成された合成鳥瞰画像に重畳して表示手段に表示させる制御手段とを備え、
    前記制御手段は、自車両が駐車開始位置に停止した時点での操舵角に基づいて自車両の予想進行方向を特定し、その特定された自車両の予想進行方向の範囲または自車両の予想進行方向を基準とした自車両に近い方向または自車両から遠い方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索し、駐車候補位置を決定することが不可であった場合には、自車両の予想進行方向を基準とした検索した方向とは逆の方向の範囲について自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  4. 請求項1ないし3のいずれかに記載した駐車支援システムにおいて、
    自車両周囲の立体物を電磁波、超音波またはレーザー光により検出する立体物検出手段を備え、
    前記制御手段は、自車両が前進しているときに、自車両後方を前記撮影手段により複数のタイミングで撮影させると同時に自車両周囲の立体物を前記立体物検出手段により検出させ、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに前記撮影手段により撮影された複数の撮影画像が前記鳥瞰画像作成手段により視点変換された複数の鳥瞰画像を画像解析すると共に前記立体物検出手段の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  5. 請求項4に記載した駐車支援システムにおいて、
    自車両の走行状態を検出する走行状態検出手段を備え、
    前記制御手段は、自車両が前進しているときに、自車両後方を前記撮影手段により複数のタイミングで撮影させると同時に自車両周囲の立体物を前記立体物検出手段により検出させると共に自車両の走行状態を前記走行状態検出手段により検出させ、自車両が前進して駐車開始位置に停止した後に、自車両が前進しているときに前記撮影手段により撮影された複数の撮影画像が前記鳥瞰画像作成手段により視点変換された複数の鳥瞰画像を画像解析すると共に前記立体物検出手段の検出結果及び前記走行状態検出手段の検出結果を判定して自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  6. 請求項ないし5のいずれかに記載した駐車支援システムにおいて、
    前記制御手段は、複数の鳥瞰画像を画像解析して立体物の輪郭を表す立体物輪郭線を作成し、その作成された立体物輪郭線から自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  7. 請求項1ないし6のいずれかに記載した駐車支援システムにおいて、
    前記制御手段は、複数の鳥瞰画像を画像解析して駐車枠線を検出し、その検出された駐車枠線から自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  8. 請求項4ないしのいずれかに記載した駐車支援システムにおいて、
    前記制御手段は、前記立体物検出手段の検出結果や前記走行状態検出手段の検出結果を判定して自車両から立体物までの距離を表す立体物距離マップを作成すると共に、複数の鳥瞰画像を画像解析して作成された立体物輪郭線を当該立体物距離マップに基づいて補正し、その補正された立体物輪郭線から自車両が駐車可能な位置を駐車候補位置として検索することを特徴とする駐車支援システム。
  9. 請求項1ないしのいずれかに記載した駐車支援システムにおいて、
    前記制御手段は、駐車候補位置を前記表示手段に表示させている状況で所定条件が成立した場合には、その時点で表示させている駐車候補位置を駐車位置として決定することを特徴とする駐車支援システム。
  10. 請求項9に記載した駐車支援システムにおいて、
    自車両を駐車開始位置から駐車位置まで自動操舵する自動操舵手段を備え、
    前記制御手段は、駐車候補位置を駐車位置として決定した後に他の所定条件が成立した場合には、自車両を駐車開始位置から駐車位置まで前記自動操舵手段により自動操舵させることを特徴とする駐車支援システム。
JP2004314010A 2004-10-28 2004-10-28 駐車支援システム Expired - Fee Related JP4449701B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004314010A JP4449701B2 (ja) 2004-10-28 2004-10-28 駐車支援システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004314010A JP4449701B2 (ja) 2004-10-28 2004-10-28 駐車支援システム

Publications (2)

Publication Number Publication Date
JP2006129021A JP2006129021A (ja) 2006-05-18
JP4449701B2 true JP4449701B2 (ja) 2010-04-14

Family

ID=36723238

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004314010A Expired - Fee Related JP4449701B2 (ja) 2004-10-28 2004-10-28 駐車支援システム

Country Status (1)

Country Link
JP (1) JP4449701B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9731765B2 (en) 2015-08-12 2017-08-15 Hyundai Motor Company Parking assist apparatus and method
US9754173B2 (en) 2014-10-17 2017-09-05 Hyundai Motor Company Smart parking assist apparatus and method

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4613884B2 (ja) * 2006-06-14 2011-01-19 トヨタ自動車株式会社 駐車支援装置
JP5380941B2 (ja) * 2007-10-01 2014-01-08 日産自動車株式会社 駐車支援装置及び方法
JP5088074B2 (ja) 2007-10-01 2012-12-05 日産自動車株式会社 駐車支援装置及び方法
JP5136256B2 (ja) * 2008-07-18 2013-02-06 日産自動車株式会社 駐車支援装置および画像表示方法
JP5380994B2 (ja) * 2008-10-10 2014-01-08 日産自動車株式会社 駐車支援装置及び駐車支援方法
JP5287344B2 (ja) * 2009-02-26 2013-09-11 日産自動車株式会社 駐車支援装置及び障害物検知方法
JP5471141B2 (ja) * 2009-08-06 2014-04-16 日産自動車株式会社 駐車支援装置及び駐車支援方法
JP2013043505A (ja) * 2011-08-23 2013-03-04 Nissan Motor Co Ltd 駐車支援装置及び駐車支援方法
KR101327736B1 (ko) * 2011-12-23 2013-11-11 현대자동차주식회사 Avm탑뷰 기반 주차지원 시스템
DE102012201051A1 (de) * 2012-01-25 2013-07-25 Robert Bosch Gmbh Verfahren zur Fahrassistenz und Fahrassistenzsystem
JP6459226B2 (ja) * 2014-06-02 2019-01-30 株式会社Soken 車載画像処理装置
JP6331721B2 (ja) * 2014-06-04 2018-05-30 株式会社デンソー 駐車支援装置
JP6718341B2 (ja) * 2016-09-13 2020-07-08 日立建機株式会社 鉱山用作業機械及びその後方監視方法
JPWO2019012848A1 (ja) * 2017-07-11 2020-04-16 日立オートモティブシステムズ株式会社 駐車支援装置
WO2019215789A1 (ja) * 2018-05-07 2019-11-14 三菱電機株式会社 駐車支援装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11157404A (ja) * 1997-11-26 1999-06-15 Toyota Motor Corp 駐車支援装置
JP4465773B2 (ja) * 2000-01-19 2010-05-19 株式会社エクォス・リサーチ 駐車補助装置および駐車補助プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2003104149A (ja) * 2001-09-27 2003-04-09 Equos Research Co Ltd 駐車支援装置
JP3850271B2 (ja) * 2001-11-07 2006-11-29 株式会社デンソー 車両周辺画像処理装置及び記録媒体
JP3692082B2 (ja) * 2002-01-23 2005-09-07 トヨタ自動車株式会社 駐車支援装置
JP2003267171A (ja) * 2002-03-13 2003-09-25 Nissan Motor Co Ltd 車両後方監視装置
JP4052011B2 (ja) * 2002-05-21 2008-02-27 トヨタ自動車株式会社 駐車支援装置
JP2004114977A (ja) * 2002-09-30 2004-04-15 Aisin Seiki Co Ltd 移動体周辺監視装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9754173B2 (en) 2014-10-17 2017-09-05 Hyundai Motor Company Smart parking assist apparatus and method
US10474911B2 (en) 2014-10-17 2019-11-12 Hyundai Motor Company Smart parking assist apparatus and method
US9731765B2 (en) 2015-08-12 2017-08-15 Hyundai Motor Company Parking assist apparatus and method

Also Published As

Publication number Publication date
JP2006129021A (ja) 2006-05-18

Similar Documents

Publication Publication Date Title
JP4449701B2 (ja) 駐車支援システム
US11377099B2 (en) Parking assist system
EP3290301B1 (en) Parking assist device
US20190344828A1 (en) Parking assist apparatus
JP2008013015A (ja) 車両周辺画像生成装置および画像切替方法
JP6998360B2 (ja) 車両用表示装置及び駐車支援システム
CN110730735B (zh) 泊车辅助方法及泊车辅助装置
JP2006327498A (ja) 駐車支援方法及び駐車支援装置
JP2012056428A (ja) 運転支援装置
US11613251B2 (en) Parking assist system
JP7499209B2 (ja) 駐車支援方法及び駐車支援装置
JP2012086684A (ja) 駐車支援装置
JP2007126028A (ja) 駐車支援システム
JP2009171129A (ja) 車両用駐車支援装置および画像表示方法
JP2003252151A (ja) 駐車支援システム
JP2007331548A (ja) 駐車支援装置
US20200398865A1 (en) Parking assist system
JP2021094938A (ja) 車両用表示装置及び駐車支援システム
JP4432736B2 (ja) 駐車支援システム
US11440562B2 (en) Parking assist system
JP2009220592A (ja) 車載用縦列駐車支援装置および車載用縦列駐車支援装置のプログラム
JP7445515B2 (ja) 駐車支援装置、及び駐車支援装置の制御方法
JP7400338B2 (ja) 駐車支援装置
JP2021094932A (ja) 駐車支援システム
JP7201061B2 (ja) 運転支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100105

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100118

R151 Written notification of patent or utility model registration

Ref document number: 4449701

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130205

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140205

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees