JP4802769B2 - 駐車支援方法及び駐車支援装置 - Google Patents

駐車支援方法及び駐車支援装置 Download PDF

Info

Publication number
JP4802769B2
JP4802769B2 JP2006061598A JP2006061598A JP4802769B2 JP 4802769 B2 JP4802769 B2 JP 4802769B2 JP 2006061598 A JP2006061598 A JP 2006061598A JP 2006061598 A JP2006061598 A JP 2006061598A JP 4802769 B2 JP4802769 B2 JP 4802769B2
Authority
JP
Japan
Prior art keywords
data
vehicle
image
image data
template
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006061598A
Other languages
English (en)
Other versions
JP2007243464A (ja
Inventor
博昭 杉浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Priority to JP2006061598A priority Critical patent/JP4802769B2/ja
Publication of JP2007243464A publication Critical patent/JP2007243464A/ja
Application granted granted Critical
Publication of JP4802769B2 publication Critical patent/JP4802769B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、駐車支援方法及び駐車支援装置に関する。
従来、自動車を駐車させる際の運転操作を支援する装置として、車両後端に取り付けられた車載カメラにて駐車位置までの画像データを複数取得し、その複数の画像データを加工して、駐車している自動車を上方から見た俯瞰図を作成し、その作成した俯瞰図をディスプレイに出力する駐車支援装置が提案されている(例えば、特許文献1参照)。
特開2002−120675号公報
ところで、車両を所定の駐車位置に駐車する場合、駐車が完了するまでの間、運転者はブレーキを操作しながら運転する。そのため、駐車位置に停止するまでの間には、何度もブレーキランプが点いたり消えたりする。従って、その時々で車載カメラが撮像し記憶手段に蓄積する各画像データには、連続した背景を映すものの、ブレーキランプの反射光が映った画像データと、ブレーキランプの反射光が映っていない画像データとが混在する。
一般に、ブレーキランプの点灯時に撮像した画像は、ブレーキランプの消灯時に撮像した画像と相違して、ブレーキランプの赤色の光が路面に反射しその赤色の反射光が撮像される。従って、ブレーキランプの反射光が映った画像データと、ブレーキランプの反射光が映ってない画像データとを俯瞰変換して加工して画像(俯瞰画像)を生成すると、その俯瞰画像は、例えば路面が色の異なる路面(斑模様の路面)となり、表示品質が低下する。特に、夜、悪天候時等の回りが暗い場合には、反射光が強く表れて表示品質を落としていた。
また、ハザードランプ、ウィンカー、テールランプ、ヘッドランプ等、車両周辺を照明する光源の点滅による外光の変化によっても同様な問題があった。さらに、太陽の向きによって、車両の陰が画像に陰影となって映り出される場合がある。このような場合にも、その陰影が、画像全体を見難くし表示品質を落としていた。
また、このような俯瞰画像を生成する際、その画像処理動作は、膨大なデータと膨大な処理量となり、画像処理装置の大きな負荷となっていた。その結果、画像処理装置に対する負荷の軽減と表示品質を落とすことなく短時間での俯瞰画像の生成が望まれていた。
本発明は、上記問題点に鑑みてなされたものであり、その目的は、撮像手段がその時々で撮像した各画像データにおいて、外光が異なった状態で撮像された画像データが混在していても、画像処理装置に対する負荷の軽減と品質を落とすことなく短時間で高品質な周辺画像を生成することができる駐車支援方法及び駐車支援装置を提供することにある。
請求項1によれば、車両に設けられた撮像手段を用いて前記車両の進行とともにその進行方向の画像を定期的に撮像し、その時々の画像データの各々を蓄積し、蓄積した複数の画像データを用いて前記車両の現在位置の周辺画像データを生成した後、生成した周辺画像データに基づく周辺画像を表示手段に表示するようにした駐車支援方法において、前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出するとともに前記車両に設けられた各光源が点灯しているか否かを検出し、輝度補正のためのテンプレートを前記路面の種類に応じて前記光源毎に予め用意し、前記各画像データの各々を、点灯している前記光源及び前記路面の種類に対応したテンプレートを使って輝度補正した後、前記周辺画像データを生成した。
請求項2の発明は、車両に設けられた撮像手段を用いて前記車両の進行とともにその進行方向の画像を定期的に撮像し、その時々の画像データの各々を画像処理して変換データを生成して蓄積し、前記蓄積した複数の変換データを用いて前記車両の現在位置の周辺を俯瞰した俯瞰画像の俯瞰画像データを生成した後、前記俯瞰画像データに基づく俯瞰画像と、前記車両の現在位置を示す指標とを表示手段に表示するようにした駐車支援方法において、前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出するとともに前記車両に設けられた各光源が点灯しているか否かを検出し、輝度補正のためのテンプレートを前記路面の種類に応じて前記光源毎に予め用意し、前記各画像データの各々を、点灯している前記光源及び前記路面の種類に対応したテンプレートを使って輝度補正した後、前記周辺画像データを生成した。
請求項3の発明は、車両に設けられた撮像手段が定期的に撮像した画像の画像データを取得する画像データ取得手段と、画像データ取得手段が取得した各画像データの各々を用いて、車両の現在位置の周辺画像データを生成する周辺画像データ生成手段と、前記周辺画像データに基づく周辺画像を表示手段に表示する表示出力手段とを備えた駐車支援装置において、前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出する路面検出手段と、前記撮像手段が画像を撮像する毎に、前記車両に設けられた各光源が点灯しているか否かを検出する光源点灯検出手段、輝度補正のためのテンプレートが前記路面の種類に応じて前記光源毎に格納されたテンプレート記憶手段と、前記光源点灯検出手段により検出された点灯している前記光源、及び前記路面検出手段により検出した路面の種類に対応するテンプレートを読み出し、当該テンプレートを用いて前記各画像データを輝度補正する画像データ補正手段とを設けた。
請求項4の発明は、車両に設けられた撮像手段が定期的に撮像した画像の画像データを取得する画像データ取得手段と、画像データ取得手段が取得した各画像データの各々について、予め定めた領域を抽出し画像処理した変換データを生成する第1画像処理手段と、前記第1画像処理手段が生成した各変換データを用いて、現在の車両の周辺を俯瞰した俯瞰画像データを生成する第2画像処理手段と、前記俯瞰画像データに基づく俯瞰画像と、前記車両の現在位置を示す指標とを表示手段に表示する表示出力手段とを備えた駐車支援装置において、前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出する路面検出手段と、前記撮像手段が画像を撮像する毎に、前記車両に設けられた各光源が点灯しているか否かを検出する光源点灯検出手段、輝度補正のためのテンプレートが前記路面の種類に応じて前記光源毎に格納されたテンプレート記憶手段と、前記光源点灯検出手段により検出された点灯している前記光源、及び前記路面検出手段により検出した路面の種類に対応するテンプレートを読み出し、当該テンプレートを用いて前記変換データを輝度補正する第3画像処理手段とを設けた。
請求項5の発明は、請求項4に記載の駐車支援装置において、前記第1画像処理手段は、前記各画像データの各々について、予め定めた抽出領域のデータを抽出し、その抽出した各抽出データをそれぞれ視点変換処理して変換データを生成するものである。
請求項6の発明は、請求項4に記載の駐車支援装置において、前記第1画像処理手段は、前記各画像データの各々について、予め定めた抽出領域のデータを抽出し、その抽出した各抽出データをそれぞれ視点変換処理して変換データを生成すものであり、前記テンプレート記憶手段に格納された前記テンプレートは、前記画像データ、前記抽出データ、又は、変換データのいずれかに対するテンプレートであり、前記第3画像処理手段の各変換データの輝度補正は、前記画像データ、前記抽出データ、又は、変換データのいずれかに対し前記テンプレートを用いて輝度補正することによって行われる。
請求項7の発明は、請求項4〜6のいずれか一つに記載の駐車支援装置において、車両の周辺の照度を検出する照度検出手段をさらに備え、前記テンプレートは、予め区分された前記照度毎に、前記テンプレート記憶手段に格納されており、前記第3画像処理手段は、検出された前記照度に対応するテンプレートを読み出し、当該テンプレートを用いて前記変換データを輝度補正する
請求項1の発明によれば、その各画像データは、車両に設けられた各光源が点灯しているか否か及び路面の種類に応じた輝度データとなるが、輝度補正のためのテンプレートを使って輝度補正をすることができる。従って、輝度補正は、予め用意された輝度補正のためのテンプレートのデータを用いることから、輝度補正処理のための画像処理動作が簡単かつ短時間に行うことができる。
しかも、前後の画像データは、車両に設けられた各光源が点灯しているか否か及び路面の種類に対する輝度データの変動分を抑制できることから、各画像データにおいてこれらの状態が異なった状態で撮像された画像データが混在していても、その時々の状態の変化の影響を抑制した周辺画像を表示手段に表示することができる。その結果、高品質の周辺画像を表示することができる。また、ブレーキランプ等の光源の点灯有無は、光源駆動装置又は光源点灯スイッチからの信号で検出できるため、光源の点灯を検出するための特別な検出装置を設ける必要がない。
請求項2の発明によれば、その各変換データは、車両に設けられた各光源が点灯しているか否か及び路面の種類に応じた輝度データとなるが、輝度補正のためのテンプレートを使って輝度補正をすることができる。従って、輝度補正は、予め用意された輝度補正のためのテンプレートのデータを用いることから、輝度補正処理のための画像処理動作が簡単かつ短時間に行うことができる。
しかも、前後の変換データは、車両に設けられた各光源が点灯しているか否か及び路面の種類に対する輝度データの変動分を抑制できることから、各画像データにおいてこれらの状態が異なった状態で撮像された画像データが混在していても、その時々の状態の変化の影響を抑制した俯瞰画像を表示手段に表示することができる。その結果、高品質の俯瞰画像を表示することができる。また、ブレーキランプ等の光源の点灯有無は、光源駆動装置又は光源点灯スイッチからの信号で検出できるため、光源の点灯を検出するための特別な検出装置を設ける必要がない。
請求項3の発明によれば、輝度補正のためのテンプレートをテンプレート記憶手段に、予め格納しておく。そして、車両の進行とともに撮像手段が画像を撮像する毎に、車両に設けられた各光源が点灯しているか否か及び路面の種類が変化した場合、画像データ取得手段が取得した画像データは、これらの状態の変化に応じた輝度データとなる。この時、路面検出手段は車両が移動中の路面の種類を検出し、光源点灯検出手段は、車両に設けられた各光源が点灯しているか否かを検出する。画像データ補正手段は、これらの結果に対応するテンプレートをテンプレート記憶手段から読み出し、その読み出したテンプレートを用いて画像データを輝度補正する。従って、周辺画像データ生成手段は、状態が異なる画像が混在していても、その時々の状態の変化の影響を抑制した周辺画像データを生成することができる。その結果、高品質の周辺画像を表示手段に表示することができる。しかも、輝度補正は、予め用意されたテンプレートを用いることから、輝度補正処理のための画像処理動作が簡単かつ短時間に行うことができる。また、光源の点灯有無は、光源駆動装置又は光源点灯スイッチからの信号で検出するため、光源の点灯を検出するための特別な検出装置を設ける必要がない。
請求項4の発明によれば、輝度補正のためのテンプレートをテンプレート記憶手段に、予め格納しておく。そして、車両の進行とともに撮像手段が画像を撮像する毎に、車両に設けられた各光源が点灯しているか否か及び路面の種類が変化した場合、第1画像処理手段が生成した変換データは、これらの状態の変化に応じた輝度データとなる。この時、路面検出手段は車両が移動中の路面の種類を検出し、光源点灯検出手段は、車両に設けられた各光源が点灯しているか否か検出する。第3画像処理手段は、これらの結果に対応するテンプレートをテンプレート記憶手段から読み出し、その読み出したテンプレートを用いて変換データを輝度補正する。従って、第2画像処理手段は、状態が異なる画像が混在していても、その時々の状態の変化を抑制した俯瞰画像データを生成することができる。その結果、高品質の俯瞰画像を表示手段に表示することができる。しかも、輝度補正は、予め用意されたテンプレートを用いることから、輝度補正処理のための画像処理動作が簡単かつ短時間に行うことができる。また、光源の点灯有無は、光源駆動装置又は光源点灯スイッチからの信号で検出するため、光源の点灯を検出するための特別な検出装置を設ける必要がない。
請求項5の発明によれば、第1画像処理手段は、視点変換処理した変換データを、前記各画像データの各々について、予め定めた抽出領域のデータを抽出し、その抽出した各抽出データから生成する。
請求項6の発明によれば、第3画像処理手段は、画像データ、抽出データ、又は、変換データのいずれかに対してテンプレートを用いて輝度補正を行い、視点変換された変換データは輝度補正される。これによって、各変換データは、既に輝度補正されたデータになっているため、第2画像処理手段による俯瞰画像の生成は直ちに行うことができる。
請求項7の発明によれば、第3画像処理手段は、前記変換データについての輝度補正を、周辺の照度に応じて、変化する変換データに映り込まれる光源の光を確実に除く補正をすることができる。つまり、例えば、第3画像処理手段は、ブレーキランプの点灯された時に撮像された画像データであっても、周辺が暗い場合のものについて輝度補正をするだけなので、輝度補正処理の負荷がさらに軽減される。例えば、昼間の明るい状態で、ブレーキランプが点灯しても、ブレーキランプの光は回りが明る過ぎて撮像手段に撮像される画像には映らないことから、明るい時に撮像された画像データ(変換データ)については第2画像処理手段による輝度補正は不要にすることができる。
(第1実施形態)
以下、本発明の駐車支援方法及び駐車支援装置を、車両(自動車)に実装されたナビゲーション装置に具体化した第1実施形態を図1〜図16に従って説明する。図1は、ナビゲーション装置1の構成を説明するブロック図である。
図1に示すように、駐車支援装置としてのナビゲーション装置1は、制御装置2及び表示手段としてのディスプレイ3を備えている。制御装置2は、外光判定手段を構成する制御部4、メインメモリ5及びROM6を有している。制御部4は、図示しないCPU等を備えており、ROM6に格納された経路案内プログラム、駐車支援プログラム等、各種プログラムに従って各種処理の主制御を行う。メインメモリ5は、制御部4の演算結果を一時記憶するとともに、駐車支援のための各種変数、フラグが格納されている。
ROM6には、輪郭データ6aが格納されている。輪郭データ6aは、ナビゲーション装置1を実装した車両C(図2参照)の輪郭をディスプレイ3に出力するためのデータである。この輪郭データ6aをディスプレイ3に出力すると、図3に示すような指標としての車両輪郭線30が表示される。車両輪郭線30は、車体の外郭を示す外郭描画線31と、前輪及び後輪の位置を示す車輪描画線32とを有している。外郭描画線31は、車両Cの車幅及び長さに応じて生成され、サイドミラーの輪郭線等、車両Cの前方又は後方が区
別可能な輪郭線である。この車両輪郭線30は、図15に示す駐車確認画面45をディスプレイ3に表示するときに、周辺画像としての俯瞰画像46(図14参照)と重ね合わせて使用される。
また、ROM6には、輝度補正テーブル6bが格納されている。輝度補正テーブル6bは、俯瞰画像46(図14及び図15参照)の周辺画像データとしての俯瞰画像データG4を生成する際に、車両Cに設けた光源としてのブレーキランプL(図2参照)が点灯した場合にその反射光が映り込まれないようにするための輝度補正データである。
ナビゲーション装置1に備えられたディスプレイ3は、タッチパネルであって、車両Cが前進する際には、制御部4による駆動制御により、図示しない地図データ記憶部から地図描画データを出力して、図1に示す地図画面3aを表示する。ディスプレイ3には操作スイッチ7が設けられ、操作スイッチ7がユーザにより入力操作されると、制御装置2に備えられたユーザ入力インターフェース部(ユーザI/F部8)がその入力操作に応じた入力信号を制御部4に出力する。
また、制御装置2は、GPS受信部9を備えている。GPS受信部9はGPS衛星からの電波を受信し、制御部4は、GPS受信部9から入力した位置検出信号に基づいて、緯度・経度・高度等の車両Cの絶対位置を定期的に算出する。
また、制御装置2は、音声出力部10を備えている。音声出力部10は、音声ファイルを格納した図示しないメモリやデジタル/アナログ変換器等を備え、その音声ファイルを使用して、ナビゲーション装置1が具備するスピーカ11から案内音声や警告音を出力する。
さらに、制御装置2は、車両側インターフェース部(車両側I/F部12)を備えている。制御部4は、この車両側I/F部12を介して、車両Cに設けられた車速センサ20及びジャイロ21から、車速パルスVP及び方位検出信号GRPを入力する。制御部4は、この車速パルスVPの波形により、車両Cの前進及び後退を判断し、その入力パルス数により車両Cの移動量を算出し、メインメモリ5に割り当てた記憶領域に格納された変数であるパルスカウント値Tと移動距離を更新する。また、制御部4は、入力した方位検出信号GRPに基づき車両Cの方位を算出し、メインメモリ5に割り当てられた記憶領域に格納された変数である現在方位GRを更新する。さらに、制御部4は、車速パルスVPと方位検出信号GRPを用い、自律航法により、基準位置からの相対位置及び相対方位を演算し、GPS受信部9に基づく自車位置を補正して、精度の高い自車位置を算出する。尚、本実施形態では、車両Cの後輪軸の位置を自車位置として算出するが、他の位置でもよい。
また、制御部4は、車両側I/F部12を介して、車両Cのニュートラルスタートスイッチ22からシフトポジション信号SPPを入力し、変速機のシフトポジションを算出し、メインメモリ5に割り当てられた記憶領域に格納された変数であるシフトポジションSPを更新する。さらに、制御部4は、車両側I/F部12を介して、ステアリング舵角センサ23から、ステアリングセンサ信号STPを入力する。制御部4は、このステアリングセンサ信号STPに基づき操舵角を算出し、メインメモリ5に割り当てられた記憶領域に格納された変数である車両Cの現在舵角STを更新する。
さらに、制御部4は、車両側I/F部12を介して、光源点灯検出手段を構成する各種ランプ駆動装置24から、車両CのブレーキランプL(図2参照)の点灯・消灯状態を示す点滅検出信号LPSを入力する。制御部4は、この点滅検出信号LPSに基づきブレーキランプLの点滅の有無を判定し、メインメモリ5に割り当てられた点灯有無のフラグの
内容を更新する。本実施形態では、各種ランプ駆動装置24はブレーキランプLの点滅検出信号LPSを制御部4に出力したが、ウィンカー、ハザードランプ等、駐車に際して使用されると思われる各種のランプの点滅検出信号LPSを制御部4に出力するようにしてもよい。また、ブレーキランプLの点灯・消灯状態を示す点滅検出信号は、ブレーキペダルの操作を検出し、それをブレーキランプLの点灯・消灯状態を示す点滅検出信号LPSとして用いても良い。
さらにまた、制御部4は、車両側I/F部12を介して、照度センサ25から照度検出信号LXSを入力する。照度センサ25は、本実施形態では、車両Cのルームミラーのフロントガラス側に設けられ、車両Cの周辺の明るさ(照度)を検出する。制御部4は、この照度検出信号LXSに基づき照度(車両周辺の明るさ)を算出し、メインメモリ5に割り当てられた記憶領域に格納された変数である照度を更新する。そして、制御部4は、算出した照度に基づいて車両Cの周辺が明るいか暗いかを判定し、メインメモリ5に割り当てられたフラグの内容(明暗の判断結果)を更新する。
また、制御装置2は、画像データ入力部13を備えている。画像データ取得手段を構成する画像データ入力部13は、制御部4の制御に従って、車両Cに設けられた撮像手段としてのバックモニタカメラ(以下、単にカメラ26という)を駆動制御して、画像データGを逐次取得する。
カメラ26は、図2に示すように、車両Cのバックドア等、車両の後端に光軸を下方に向けて取り付けられている。このカメラ26は、カラー画像を撮像するデジタルカメラであって、広角レンズ、ミラー等から構成される光学機構と、CCD撮像素子(いずれも図示せず)とを備えている。カメラ26は、例えば左右140度の視野を有し、車両Cの後端を含む、後方数メートルを撮像範囲Zとしている。画像データ入力部13は、カメラ26によってアナログ/デジタル変換された画像データGを、制御部4の制御に基づき取得して、制御装置2に備えられた画像メモリ14に一時格納する。
また、制御装置2は、周辺画像データ生成手段、画像データ補正手段、第1画像処理手段、第2画像処理手段及び第3画像処理手段を構成する画像処理部15と表示出力手段を構成する画像出力部16とを備えている。画像処理部15は、車両Cが後退している間は、画像メモリ14に一時格納された画像データGを画像出力部16を介してディスプレイ3に出力して、図4に示す、バックモニタ画面33を表示する。バックモニタ画面33には、後方背景画像34と、後端画像35とが表示されている。後方背景画像34は、車両Cの後方の後方背景を撮像した画像であって、バックミラーで後方を視認した場合と合わせるため、画像が反転されている。また、後方背景画像34は、カメラ26が広角レンズを搭載していることから、周辺部が歪む歪曲収差が生じている。後端画像35は、図2に示す車両CのリヤバンパーRBの中央部BMを撮像した画像であって、リヤバンパーRBの隅部BCは死角となっている。
さらに、画像処理部15は、このバックモニタ画面33に、車幅延長線36と、予想軌跡線37とからなるガイド線38を描画するようになっている。車幅延長線36は、車両Cの車幅を後方に延長した指標である。予想軌跡線37は、その時の現在舵角ST及び車幅に基づき、後退する車両Cの走行軌跡を予想した指標であって、車両Cから予め定めた距離(例えば、2.7m)までの予想軌跡を示す。
また、画像処理部15は、車両Cが画像記録距離D1(本実施形態では、200mm)毎に設定された各撮像地点で撮像した画像データGを、変換処理して画像メモリ14に格納する。具体的には、例えば、図5に示すように、車両Cが、白線101で区画された駐車目標領域100に向って、後退を開始した初期位置Aに位置するとき、制御部4の制御
により、画像処理部15は、画像データ入力部13から画像データGを取得する。このとき取得された画像データGは、図6(a)に示すように、車両Cの後方の路面102の撮像範囲Zの撮像データであって、例えば、図6(b)に示すような後方背景画像34を撮像したデータである。
画像処理部15は、初期位置Aで撮像した画像データGのうち、予め設定された所定領域としての抽出領域40のデータを抽出し、抽出データG1を生成する。抽出領域40は、図6(b)及び(d)に示すように、ディスプレイ3の表示領域3zとほぼ同じ幅(画面座標系のy軸方向の長さ)を有している。また、抽出領域40の高さは、車両Cの後退方向に相当するx軸方向において、表示領域3zの略中央部の領域に設定されている。この抽出領域40内の画像データG(抽出データG1)は、車両Cから比較的近い領域を撮像しているため、鮮明な画像を表示可能であるとともに、中央部を抽出していることにより、カメラ26のレンズによる歪みが小さくなっている。この抽出領域40を、路面102上の座標を示す車両座標系(X,Y)においては、図6(a)に示すように、撮像範囲Zの一部であって、路面102のほぼ500mmの領域103に相当する。
さらに、画像処理部15は、抽出データG1を視点変換して、変換データG2を生成する。詳述すると、図6(c)に示すように、上記した路面102上の領域103のうち、中央部の鉛直方向上方に、仮想視点104を設定する。この仮想視点104の高さは、カメラ26高さとほぼ同じ高さに設定されている。そして、抽出データG1のうち中央部を用いて、その仮想視点104から領域103を俯瞰したようなデータに座標変換する。
具体的には、画像処理部15は、抽出データG1の各画素座標に対応する画素値を、ROM6等に格納した変換テーブルにより紐付けられた座標にマッピングする。その結果、初期位置Aのカメラ視点から仮想視点104に視点変換された変換データG2が生成され、例えば、図6(e)に示す画像41のような変換データG2が生成される。この変換データG2は、抽出データG1の中央部を用いているので、路面上の略200mmの領域に相当する。
さらに、画像処理部15は、制御部4に基づき、図7(a)に示すように、生成した変換データG2に、初期位置Aを示す位置データとしての撮像位置データ17と、初期位置Aで入力した現在方位GRに基づく方位データ18と、メインメモリ5に割り当てられた車速パルスカウンタのパルスカウント値Tとを添付して、画像メモリ14に格納する。そして、以後、車両Cが画像記録距離D1を移動する度に、図7(a)に示すような、その位置で撮像された画像データGに基づく変換データG2が格納される。
また、この時、画像処理部15は、初期位置A及び車両Cが画像記録距離D1移動する度に、カメラ26が画像を撮像する時、前記制御部4によるその時の車両周辺の照度の検出結果及びブレーキランプLの点灯の有無の結果に基づいて、図7(b)に示すように、輝度補正有無データKDを作成し画像メモリ14に格納する。
詳述すると、画像処理部15は、車両Cの周辺が暗い状態でブレーキランプLが点灯した場合、そのブレーキランプLの反射光が画像データに映り込まれるかを判定し、その判定結果(輝度補正フラグの内容)を輝度補正有無データKDとして画像メモリ14に格納する。そして、画像処理部15は、図7(b)に示すように、判定結果である輝度補正有無データKDに、車速パルスカウンタのパルスカウント値Tを添付して、画像メモリ14に格納する。従って、図7(a)に示す画像メモリ14に格納された各変換データG2の各々は、対応する輝度補正有無データKDがパルスカウント値Tを介して関連づけられている。
画像処理部15は、変換データG2が画像メモリ14に所定枚数(本実施形態では、24枚)蓄積された状態で、制御部4から合成命令を入力すると、各変換データG2を合成処理し、画像出力部16を介してディスプレイ3に表示するようになっている。この時、各変換データG2は、輝度補正有無データKDに基づいて輝度補正処理を行うかどうか判断され、行うと判断された変換データG2のみ輝度補正処理を行った後、合成処理がなされ俯瞰画像46(図14及び図15参照)の俯瞰画像データG4が生成される。
次に、本実施形態の処理手順について、図5に示すように、車両Cが駐車目標領域100に後退する動作に沿って説明する。
まず、制御部4は、ROM6に格納された駐車支援プログラムに従って、図8に示すように、開始トリガの入力を待つ(ステップS1)。開始トリガは、本実施形態では、イグニッションモジュールの起動、又はナビゲーション装置1の起動による入力信号である。開始トリガを入力すると、制御部4の制御により、システム起動管理処理(ステップS2)、記録用画像データ入力処理(ステップS3)、変換データ生成処理(ステップS4)を行う。そして、制御部4は、終了トリガの入力があるか否かを判断して(ステップS5)、入力が無い場合には、ステップS2に戻る。本実施形態では、終了トリガは、イグニッションモジュールのオフ状態、又はナビゲーション装置1のシャットダウンによる入力信号である。
(システム起動管理処理)
次に、システム起動管理処理S2について図9に従って説明する。まず、制御部4は、車両側I/F部12を介してシフトポジション信号SPPを入力し、メインメモリ5に格納された変数であるシフトポジションSPを更新する(ステップS2−1)。続いて、制御部4は、シフトポジションSPがリバースであるか否かを判断するとともに、車両Cが駐車操作停止状態であるかどうかを判断する(ステップS2−2)。ここで、駐車操作停止状態とは、駐車目標領域100に車両Cが駐車した状態、又は駐車目標領域100に向って車両Cが進行する過程で駐車操作をやり直す状態である。具体的には、本実施形態においては、車両Cの進行方向が、駐車目標領域100に向って後退する方向と異なる方向に変更された場合であって、車両CのシフトポジションSPがリバースからリバース以外になった状態である。
ステップS2−2において、制御部4が、シフトポジションSPが、ドライブ又はパーキングレンジ等であって、リバースでないと判断した場合(ステップS2−2においてNO)、制御部4は、システム起動フラグFSがオン状態であるか否かを判断する(ステップS2−16)。ここで、システム起動フラグFSは、変換データG2を生成するための合成モードの起動を示すフラグであって、初期状態では「待機」を示す「0」(オフ状態)に設定されている。車両Cが前進している場合等には、システム起動フラグFSがオフ状態であるので(ステップS2−16でNO)、ステップS5に戻り、終了トリガの入力の有無を判断する。
一方、例えば、図5に示すように、車両Cが駐車目標領域100に向って後退を開始する初期位置Aに位置する場合には、シフトポジションSPはリバースである(ステップS2−2でYES)。このため、制御部4の制御により、画像処理部15は、画像データ入力部13から、初期位置Aで撮像した画像データGを取得し、ディスプレイ3に出力して、バックモニタ画面33(図4参照)を表示する(ステップS2−3)。従って、車両Cが停車せずに後退する間は、ディスプレイ3には現在の車両Cの周辺状況が反映されたバックモニタ画面33が表示される。
そして、制御部4は、メインメモリ5に格納されたシステム起動フラグFSがオフ状態であるか否かを判断する(ステップS2−4)。システム起動フラグFSがオフ状態である場合には(ステップS2−4でYES)、制御部4は合成モードがまだ起動していない
ので、そのシステム起動フラグFSを「起動」を示す「1」(オン)に設定する(ステップS2−5)。続いて、制御部4は、メインメモリ5に格納された変数である後退移動距離ΔDM及び車速パルスカウンタのパルスカウント値Tを「0」にそれぞれ初期化する(ステップS2−6)。
この後退移動距離ΔDMは、車速パルスVPに基づいて算出され、基準位置から車両Cが後退した距離を示し、上記した変換データG2を生成するタイミングを判断するために用いられる。車速パルスカウンタのパルスカウント値Tは、この車両側I/F部12を介して車速センサ20からの車速パルスVPのパルス数であって、車両Cの後退移動距離ΔDMを示し、生成した変換データG2が初期位置Aを基準にどの位置で撮像された変換データG2かを関連づけるために用いられる。
さらに、制御部4の制御により、画像処理部15は、画像データ入力部13から、後退を開始した位置、即ち初期位置Aで撮像した画像データGを入力する(ステップS2−7)。さらに、画像処理部15は、ステップS2−7で入力した画像データGのうち、上記したように抽出領域40を抽出して、抽出データG1を生成する(ステップS2−8)。そして、抽出データG1を、上記した仮想視点104に視点変換して、変換データG2を生成する(ステップS2−9)。
また、制御部4は、車両側I/F部12を介して、初期位置Aで方位検出信号GRPを入力し、メインメモリ5に格納された現在方位GRを更新する。そして、初期位置Aを示す撮像位置データ17と、現在方位GRに基づく方位データ18と、その時の車速パルスカウンタのパルスカウント値T(=0)とを、ステップS2−9で生成した変換データG2に添付して、画像メモリ14に格納する(ステップS2−10)。
続いて、制御部4は、車両側I/F部12を介して、点滅検出信号LPS及び照度センサ25から照度検出信号LXSを入力し、前記ステップS2−7で画像データ入力部13が初期位置Aで撮像した画像データGを入力した時の車両Cの周囲の外光状態を判定する。まず、制御部4は、照度検出信号LXSに基づいて、撮像した画像データGを入力した時、車両Cの周辺が暗いかどうか判定する(S2−11)。
ここで、車両Cの周辺が暗いかどうかの判定は、以下の理由で行っている。カメラ26が撮像した画像データGは、ブレーキランプLが点灯している時、そのブレーキランプLの光は路面に照射され反射する。その反射光は、周辺が明るい場合と暗い場合では、カメラ26が撮像した画像データGに与える影響が異なる。つまり、周辺が明るい場合には反射光は目立たないことから、カメラ26が撮像した画像データGにはその反射光の影響を受けない画像の画像データとなる。反対に、周辺が暗い場合には反射光が目立つことになるから、カメラ26が撮像した画像データGにはその反射光の影響を大きく受けて赤みを帯びた反射光が映った画像の画像データとなる。
そのため、本実施形態では、ブレーキランプLの反射光が、撮像した画像データGに影響を与える暗さかどうかを判断する。そして、本実施形態では、暗いかどうかの判断基準値は、照度センサ25を用いて反射光が映り込まれる暗さ(照度)を予め実験等で求め、その求めた値(基準照度)が使われる。そして、制御部4は、基準照度とその時の照度検出信号LXSに基づく実際の照度とを比較することによって、反射光が映る暗さかどうか判定している。
そして、車両Cの周辺が暗くないと判定すると(S2−11でNO)、制御部4は、メインメモリ5に割り当てられた輝度補正フラグを「0」(オフ状態)にする(ステップS2−13)。つまり、制御部4は、画像データGに反射光が映り込まれていないと判定す
る。
反対に、車両Cの周辺が暗いと判定すると(S2−11でYES)、制御部4は、点滅検出信号LPSに基づいて、撮像した画像データGを入力した時、ブレーキランプLが点灯していたかどうか判定する(S2−12)。ブレーキランプLが点灯していないと判定すると(S2−12でNO)、制御部4はステップS2−13に移り、制御部4は輝度補正フラグを「0」(オフ状態)にする。一方、ブレーキランプLが点灯していると判定すると(S2−12でYES)、制御部4は、制御部4は輝度補正フラグを「1」(オン状態)にする(ステップS2−14)。つまり、制御部4は、画像データGに反射光が映り込まれていると判定する。
制御部4は、ステップ2−13又はステップS2−14において、輝度補正フラグを「0」又は「1」にすると、その時の輝度補正フラグの内容を輝度補正有無データKDとし、その輝度補正有無データKDに、その時の車速パルスカウンタのパルスカウント値T(=0)を添付して画像メモリ14に格納する(ステップS2−15)。つまり、前記ステップS2−10で画像メモリ14に格納した変換データG2と輝度補正有無データKDとがカウント値T(=0)によって関連づけられるようにしている。
初期位置Aでの変換データG2と輝度補正有無データKDとが格納されると、制御部4はステップS2−1に戻る。そして、ステップS2−4において、システム起動フラグFSが先のステップS2−5でオン状態にされているので(ステップS2−4でNO)、記録用画像データ入力処理(ステップS3)に進む。
(記録用データ入力処理)
次に、記録用データ入力処理について図10に従って説明する。制御部4は、車両側I/F部12を介して入力した車速パルスVPに基づき、基準位置からの移動量Δdを演算する(ステップS3−1)。ここで、基準位置とは、前回のステップS3−1で移動量Δdを演算した時点の車両Cの位置である。
移動量Δdを演算すると、制御部4は、上記した後退移動距離ΔDMに、ステップS3−1で演算した移動量Δdを加算する(ステップS3−2)。さらに、制御部4は、更新した後退移動距離ΔDMが、画像記録距離D1(200mm)以上であるか否かを判断する(ステップS3−3)。後退移動距離ΔDMが画像記録距離D1に到達していない場合(ステップS3−3でNO)、ステップ2−1に戻り、上記の処理を繰り返す。つまり、制御部4は、ステップS2−1〜ステップS2−4、ステップS3−1〜ステップS3−3の処理を繰り返す。
やがて、図13(a)に示すように、車両Cが初期位置Aから、画像記録距離D1だけ後退した位置Bに到達している場合、後退移動距離ΔDMは、画像記録距離D1になっているので(ステップS3−3でYES)、制御部4の制御により、画像処理部15は、位置Bで撮像した画像データGを入力する(ステップS3−4)。初期位置A以外の撮像位置で撮像された、記録用の画像データGを入力すると、画像処理部15は、変換データ生成処理(ステップS4)に進む。
(変換データ生成処理)
次に、変換データ生成処理について図11に従って説明する。画像処理部15は、制御部4の制御により、位置Bで撮像した画像データGのうち、図13(b)及び(d)に示すように、抽出領域40を抽出して、抽出データG1を生成する(ステップS4−1)。そして、図13(c)に示すように、抽出データG1を、抽出領域40に相当する路面102上の領域105の鉛直方向上方に設定された仮想視点106に視点変換する。これにより、抽出データG1の中央部を用いて、図13(e)に示す画像41のような変換データG2を生成する(ステップS4−2)。
さらに、画像処理部15は、制御部4から、その変換データG2を撮像した位置(ここでは位置B)の自車位置と、現在方位GRと、その時の車速パルスカウンタのパルスカウント値Tとを入力する(ステップS4−3)。そして、入力した自車位置、現在方位GR及びパルスカウント値Tを、それぞれ撮像位置データ17、方位データ18及びパルスカウント値Tとし、変換データG2に添付して、変換データG2を画像メモリ14に格納する(ステップS4−4)。
続いて、制御部4は、点滅検出信号LPS及び照度検出信号LXSを入力し、前記ステップS3−4で画像データ入力部13が位置Bで撮像した画像データGを入力した時の車両Cの周辺の外光状態を前記と同様に判断する。
まず、制御部4は、照度検出信号LXSに基づいて、撮像した画像データGを入力した時、車両Cの周辺が暗いかどうか判定する(S4−5)。そして、車両Cの周辺が暗くないと判定すると(S4−5でNO)、制御部4は、メインメモリ5に割り当てられた輝度補正フラグを「0」(オフ状態)にする(ステップS4−7)。
反対に、車両Cの周辺が暗いと判定すると(S4−5でYES)、制御部4は、点滅検出信号LPSに基づいて、撮像した画像データGを入力した時、ブレーキランプLが点灯していたかどうか判定する(S4−6)。ブレーキランプLが点灯していないと判定すると(S4−6でNO)、制御部4はステップS4−7に移り、制御部4は輝度補正フラグを「0」(オフ状態)にする。一方、ブレーキランプLが点灯していると判定すると(S4−6でYES)、制御部4は、制御部4は輝度補正フラグを「1」(オン状態)にする(ステップS4−8)。
制御部4は、ステップ4−7又はステップS4−8において、輝度補正フラグを「0」又は「1」にすると、その時の輝度補正フラグの内容(輝度補正有無データKD)に、その時の車速パルスカウンタのパルスカウント値Tを添付して画像メモリ14に格納する(ステップS4−9)。つまり、前記と同様に、前記ステップS4−4で画像メモリ14に格納した変換データG2と輝度補正有無データKDとがカウント値Tによって関連づけられる。
位置Bでの変換データG2と輝度補正有無データKDとが格納されると、制御部4は画像メモリ14内に、変換データG2が所定枚数(本実施形態では24枚)以上格納されたか否か判断する(ステップS4−10)。
位置Bでの変換データG2を生成した際には、初期位置A及び位置Bで生成された2枚の変換データG2が蓄積されているため、所定数の変換データG2が蓄積されていないと判断して(ステップS4−10でNO)、ステップS4−12に移る。
ステップS4−12では、制御部4は、後退移動距離ΔDMを「0」に初期化する。後退移動距離ΔDMを初期化すると、終了トリガの有無を判断し(ステップS5)、終了トリガが無いと判断すると(ステップS5でNO)、ステップS2−1に戻る。
そして、車両Cが初期位置Aから駐車目標領域100に向って後退する過程で、画像記録距離D1ごとに、変換データG2が画像メモリ14に蓄積されていく。車両Cが初期位置Aからさらに後退し、その蓄積されたデータ数が、所定数(24枚)になると、制御部4は、ステップS4−10において、所定数の変換データG2が蓄積されたと判断して、表示可能フラグをオン状態(「1」)にする(ステップS4−11)。この表示可能フラグは、所定数の変換データG2が蓄積されているか否かを示すフラグである。
そして、図5に示すように、車両Cが初期位置Aから駐車目標領域100に向って後退し、図5中終端位置Eに到達したり、後退する途中で駐車をやり直す場合、運転者は、シフトポジションをリバースレンジから、ドライブレンジ又はパーキングレンジに切替える。このとき、ステップS2−2において、制御部4は、シフトポジションSPがリバースから他のシフトポジションに切り替わったと判断する(ステップS2−2においてNO)。
続いて、制御部4は、上記したように、システム起動フラグFSがオン状態であるか否かを判断する(ステップS2−16)。終端位置Eに到達したり、後退する途中でシフトポジションを切替えた直後は、システム起動フラグFSはオン状態であると判断されるため(ステップS2−16でYES)、ステップS2−17に進む。
ステップS2−17では、制御部4は、表示可能フラグがオン状態であるか否かを判断する。初期位置Aから後退した終端位置Eでは、所定数(24枚)の変換データG2が蓄積されているので、制御部4は、表示可能フラグがオン状態であると判断し(ステップS2−17でYES)、俯瞰画像表示処理を行う(ステップS2−18)。
この俯瞰画像表示処理について、図12に従って説明する。制御部4は、車両側I/F部12を介して方位検出信号GRPを入力し、現在方位GRを更新する(ステップS2−18−1)。また、画像処理部15は、画像データ入力部13を制御して、車両Cの現在位置で撮像された画像データG(以下、現在画像データGPという)を入力する(ステップS2−18−2)。
さらに、画像処理部15は、取得した現在画像データGPのうち、現在位置に応じた領域を抽出して、抽出した領域に応じた仮想視点に視点変換して、変換データG2を生成する(ステップS2−18−3)。この視点変換の際の仮想視点は、抽出したデータに相当する路面102上の領域の鉛直方向上方の位置に設定する。
続いて、制御部4は、点滅検出信号LPS及び照度検出信号LXSを入力し、撮像した現在画像データGPを入力した時の車両Cの周辺の状況を前記と同様に判定する(ステップS2−18−4〜ステップS2−18−7)。
次に、画像処理部15は、制御部4の制御により、輝度補正フラグの内容(輝度補正有無データKD)に基づいて現在画像データGPの変換データG2及び画像メモリ14に蓄積した各変換データG2について輝度補正処理を行う(ステップS2−18−8)。
画像処理部15による輝度補正処理は、以下のように行う。まず、変換データG2において、パルスカウント値Tにて関連づけられた輝度補正フラグの内容(輝度補正有無データKD)が「0」(オフ状態)のときには、その変換データG2の輝度補正は行わない。これは、変換データG2がブレーキランプLの反射光が映り込まれていない画像データGから生成されたとして、輝度補正をしない。
一方、変換データG2において、パルスカウント値Tにて関連づけられた輝度補正フラグの内容(輝度補正有無データKD)が「1」(オン状態)のときには、ROM6に予め格納された輝度補正テーブル6bの輝度補正データを使って変換データG2の輝度補正を行う。これは、変換データG2がブレーキランプLの赤色の反射光が映り込まれた画像データGから生成されていて、その赤色の反射光を除き、反射光が映り込まれていない前後の変換データG2と整合をとるためである。つまり、反射光の映っていない俯瞰画像46を生成するためのものである。
本実施形態では、変換データG2中の各画素の画素データを構成するR(赤)、G(緑)、B(青)の各画素の輝度データ(R値、G値、B値からなるRGB輝度データ)のうち、所定領域の画素の画素データについてそのR値を下げる処理を行う。所定領域の各画素は、本実施形態では以下のように求めている。まず、予め実験等で、ブレーキランプLの反射光の強度分布を求める。その強度分布から、ブレーキランプLを点灯した場合と、点灯しない場合とのR値に関する輝度差を求め、その輝度差からブレーキランプLの反射光の影響を受ける領域を決定するとともに、その領域の画素に対するR値を下げる値も予め求めて輝度補正データとする。そして、その各画素の輝度補正データを輝度補正テーブル6bにしてROM6に予め記憶されている。
従って、各変換データG2は、ROM6に記憶された輝度補正テーブル6bを用いて、輝度補正がされ、その反射光が除かれた変換データG2に補正され画像メモリ14に格納される。その結果、この時点で、変換データG2の全てが、ブレーキランプLの反射光が映り込まれていない輝度補正された変換データG2となる。
続いて、画像処理部15は、更新した現在方位GRに基づき、各変換データG2を回転変換し、回転変換データG3を生成する(ステップS2−18−9)。
詳述すると、画像処理部15は、画像メモリ14に蓄積された変換データG2のうち、車両Cの現在位置に近い24枚、車両Cの現在位置から所定距離範囲内の位置で撮像された変換データG2を読出す。そして、それらの変換データG2に添付された方位データ18と、現在方位GRとの相対角度を算出し、その相対角度に基づいた回転変換テーブルをROM6からそれぞれ読出す。尚、ROM6には、各相対角度ごとに回転変換テーブルがそれぞれ格納され、各回転変換テーブルは、アフィン変換等、公知の座標変換を短時間で処理するために格納されたテーブルである。
そして、変換データG2の各座標の画素値を、各回転変換テーブルで紐付けられた変換先の座標にマッピングする。これにより、各撮像位置でのカメラ26の向きで撮像された変換データG2は、現在の車両Cのカメラ26の視野で見たような画像データに回転変換される。その結果、初期位置A及び位置Bで撮像された変換データG2は、図14に示す回転変換画像42のような、回転変換データG3となる。
さらに、画像処理部15は、現在画像データGPに基づく変換データG2と回転変換データG3とを、所定の順番で連続させて、俯瞰画像データG4を生成する(ステップS2−18−10)。本実施形態では、車両Cの進行方向に相当する方向(x軸方向)に並べて合成する。具体的には、現在画像データGPを、ディスプレイ3の表示領域3zのうち最も下側になるように配置する。そして、現在画像データGPの上側に、各回転変換データG3を順番に並べる。このとき、回転変換データG3のうち、車両Cの現在位置から遠い位置(比較的過去の時点)で撮像された回転変換データG3が、表示領域3zの上側になるように並べる。換言すると、車両Cの前方にあたる領域が、表示領域3zの上方になるようになっている。その結果、図14に示すような俯瞰画像46を表示する俯瞰画像データG4が生成される。
この俯瞰画像データG4は、200mmごとに撮像及び変換された24枚の回転変換データG3と、現在画像データGPとから構成され、車両全体の領域に相当する路面102の画像データとなっている。しかも、24枚の回転変換データG3及び現在画像データGPの変換データG2は輝度補正されたものであるため、俯瞰画像データG4は、ブレーキランプLの反射光が映り込まれていないものになっている。
次に、画像処理部15は、俯瞰画像データG4をディスプレイ3に出力する(ステップ
S2−18−11)。このとき、画像処理部15は、制御部4から入力した自車位置データに基づき、俯瞰画像データG4の上に、車両輪郭線30を描画する。その結果、図15に示すように、駐車確認画面45がディスプレイ3に表示される。このとき、運転中の不定期なブレーキ操作で発光されるブレーキランプLの反射光が映り込まれていない高品質な駐車確認画面45がディスプレイ3に表示される。
また、俯瞰画像46には、自車位置を示す車両輪郭線30が重畳されている。これにより、運転者は、車両Cの駐車位置を確認できる。運転者は、この車両輪郭線30と、俯瞰画像46に表示された駐車目標領域100の画像とのずれを確認して、車両Cが駐車目標領域100からはみ出していないか、さらには車体が駐車目標領域100内で真っ直ぐに駐車されているか否かを判断できる。
尚、例えば、運転者が、駐車操作を完了する前に、後退途中で駐車をやり直す場合(ステップS2−2でNO)にも、制御部4は、ステップS2−16及びステップS2−17を介して俯瞰画像表示処理が実行される。そして、例えば図16に示すような駐車確認画面45が表示される。従って、駐車確認画面45にて、駐車目標領域100に対する自車位置を把握することにより、前進すべき距離、舵角の取り方等の目安を付けることができる。このとき、図16の駐車確認画面45に表示された操作部45aの入力操作等により、予想軌跡線37等を表示するようにしてもよい。
画像処理部15は、このような駐車確認画面45を所定時間(例えば、10秒)又は操作スイッチ7が操作されるまで、継続して表示する。そして、俯瞰画像表示処理を終了すると、ステップS2−19に戻り、駐車確認画面45を消去して、地図画面3a等の他の画面に切替える。さらに、制御部4は、各変数データを初期値にリセットし(ステップS2−20)、システム起動フラグFSをオフ状態にする(ステップS2−21)。そして、制御部4はステップS2−1に戻る。
そして、シフトポジションSPがリバースレンジでなく(ステップS2−2でNO)、システム起動フラグSFがオフ状態と判断すると(ステップS2―16でNO)、制御部4は、上記したように、イグニッションモジュールのオフ等の終了トリガを入力したか否かを判断する(S5)。例えば、駐車確認画面45で駐車位置を確認して、駐車をやり直す場合(S5でNO)、終了トリガを入力しないので、ステップS2−1に戻り、上記した処理を繰り返す。反対に、駐車を完了し、終了トリガを入力した場合(S5でYES)、そのまま処理を終了する。
上記実施形態によれば、以下のような効果を得ることができる。
(1)上記実施形態では、車両Cに設けられたカメラ26から画像データGを取得し、その画像データGから抽出データG1を生成する。そして、その抽出データG1を視点変換処理した変換データG2を生成し、その変換データG2を撮像位置データ17及び方位データ18を添付して画像メモリ14に格納した。そして、制御部4は、車両CのシフトポジションSPがリバースでないと判断した際に、画像処理部15を制御して、各変換データG2及び現在画像データGPを用いて俯瞰画像データG4を生成し、俯瞰画像データG4及び車両Cの現在位置を示す車両輪郭線30を出力して駐車確認画面45をディスプレイ3に表示するようにした。
従って、駐車操作をやり直す場合等に、的確なタイミングで、車体と駐車目標領域100とのずれ量等を把握可能な画面を表示できる。また、駐車が完了したときに、車体と駐車目標領域100とのずれが大きいか否か、車体が駐車目標領域100内に真っ直ぐに駐車されているか等の最終確認を行うことができる画面を表示できる。
(2)上記実施形態では、運転中の不定期なブレーキ操作で発光されるブレーキランプLの反射光が映り込まれた画像データGが混在していても、反射光が映り込まれた変換データG2について、画像処理部15は、輝度補正テーブル6bを用いてその映り込まれた反射光を除く輝度補正をした。従って、反射光が映り込まれていない俯瞰画像データG4を生成することができ、連続性のある高品質な俯瞰画像をディスプレイ3に表示することができる。しかも、輝度補正テーブル6bを用いて輝度補正をしたので、画像処理部15による輝度補正処理の負荷を軽減することができる。
(3)上記実施形態では、周辺が暗い状態であってブレーキランプLが点灯した時の画像データGの変換データG2についてのみ輝度補正するようにしたので、画像処理部15による輝度補正処理の負荷を軽減することができる。
(4)上記実施形態では、ブレーキランプLの反射光が映り込まれたかどうかの判断を、即ち反射光の有無を、各種ランプ駆動装置24の点滅検出信号LPSに基づいて判断するため、ブレーキランプLの反射光を直接検出するための特別な検出装置を設ける必要がない。
(第2実施形態)
つぎに、本発明の第2実施形態を図17〜図26に従って説明する。本実施形態は、輝度補正の方法に特徴を有し、その特徴部分のみが前記第1実施形態と相違する。従って、説明の便宜上、本実施形態では、その特徴部分について詳細に説明し、その他の第1実施形態と共通する部分はその説明は省略する。
本実施形態では、1日の日照の変化、光が反射する路面に種類を考慮した輝度補正を行うとともに、光源としてのランプを複数考慮に入れて輝度補正を行っている。また、輝度補正するにあって、予め複数の補正のためのテンプレートを用意し、外光条件によって複数のテンプレートの中から所望のテンプレートを選択し、その選択したテンプレートで輝度補正をするようにしている。
従って、本実施形態では、制御部4は、何月何日何時何分を計時できるカレンダ機能を有したタイマを内蔵している。また、本実施形態のテンプレート記憶手段としてのROM6には、図17に示すように、色合い補正テーブル6c、日照補正テーブル6dを備えている。また、路面を検出する路面検出センサ27が設けられ、その路面検出センサ27は車両Cに設けられ、その路面検出信号RSを車両側I/F部12を介して制御部4に出力するようになっている。制御部4は、路面検出信号RSに基づいて、移動中の路面がコンクリート路面、アスファルト路面、又はレンガ路面かどうかを検出するようになっている。
図18、図19、及び図20は、色合い補正テーブル6cのデータ構造を説明するための模式図である。色合い補正テーブル6cは、メインテーブル61、サブテーブル62及び色補正用テンプレート63とから構成されている。
メインテーブル61は、図18に示すように、ブレーキランプ、ウィンカー、車幅灯、プレート照明、リアフォグランプ、バックランプの各ランプに対して、コンクリート路面、アスファルト路面、レンガ路面についてのサブテーブル62のアドレスとから構成されている。
サブテーブル62は、図19に示すように、路面の数(3種類)にランプの種類(6種類)を掛けた数(本実施形態では18個(=3×6))だけ有し、それぞれ各照度LXに対する色補正用テンプレート63のアドレスから構成されている。
色補正用テンプレート63は、1つのサブテーブル62に対して、10種類のテンプレートが用意されている。つまり、1つのサブテーブル62において、車両周辺の照度の最小最大を0〜100に正規化しその0〜100を10段階に区分し、その区分した範囲での車両周辺の照度に対して1つの色補正用テンプレート63が用意され、各照度に対するその色補正用テンプレート63のアドレスが割り当てられている。従って、全てのサブテーブル62をカバーするために、本実施形態では、図20に示すように、180種類の色補正用テンプレート63が用意されている。
つまり、移動中の路面がコンクリート路面であってブレーキランプLが点灯しているとき、メインテーブル61を用いて、コンクリート路面に対するブレーキランプのサブテーブル62のアドレスが読み出される。続いて、その読み出したサブテーブル62のアドレスから、対応するサブテーブル62が読み出され、その選択されたサブテーブル62を用いて、その時の照度LXが属する照度範囲の色補正用テンプレート63のアドレスが読み出される。そして、最後に読み出された色補正用テンプレート63のアドレスに基づいて対応する色補正用テンプレート63が読み出されるようになっている。
180種類の色補正用テンプレート63は、その時々の外光条件(前記各ランプの点灯)に基づいて選択され、変換データG2をランプ点灯による反射光を除去する色補正(輝度補正)するためのテンプレートであって、予め実験で求められたものである。
ここで、色補正用テンプレート63の生成方法について説明する。また説明の便宜上、車両周辺を予め設定した所定の照度であって、移動中の路面がコンクリート路面であってブレーキランプLが点灯しているとき、色補正用テンプレート63について図21に従って説明する。
実験室内に敷設したコンクリート路面に車両Cを配置する。そして、ブレーキランプLを点灯状態と消灯状態との2つの状態を、車両Cに設けたカメラ26で画像を撮像し、図21(a)に示すように、この2つの画像データGA,GBを取得する。この一対の画像データGA,GBを車両Cの周辺照度を実験室内の設置した照明灯にて変更(10段階に変更)して10種類生成する。
そして、図21(a)に示すように、一対の画像データGA,GBから、それぞれ抽出データGA1,GB1を第1実施形態と同様の方法で生成する。図21(b)に示すように、生成した一対の抽出データGA1,GB1をそれぞれ視点変換して変換データGA2,GB2を生成する。次に、図21(c)に示すように、一対の変換データGA2,GB2について、それら全画素について対応する画素同士の画素データ(R、G、B値)をそれぞれ減算する。詳述すると、点灯状態の変換データGA2の画素データ(R、G、B値)から消灯状態の変換データGB2の画素データ(R、G、B値)を減算し、その全画素の減算値(補正値)からなる色補正用データを色補正用テンプレート63として生成する。
つまり、点灯状態の変換データGA2(G2)の全画素の画素データの各々を、色補正用テンプレート63の対応する画素の補正値でそれぞれ減算することによって、点灯状態の変換データGA2(G2)は、消灯状態の変換データGB2(G2)に輝度補正される。
そして、上記と同様な方法で、コンクリート路面に対するウィンカー、車幅灯、リアフォグランプ、バックランプのための色補正用テンプレート63を生成する。また、アスファルト路面に対するブレーキランプL、ウィンカー、車幅灯、リアフォグランプ、バックランプのための色補正用テンプレート63も同様に生成する。さらに、レンガ路面に対す
るブレーキランプL、ウィンカー、車幅灯、リアフォグランプ、バックランプのための色補正用テンプレート63も同様に生成する。
図22〜図24は、日照補正テーブル6dのデータ構造を説明するための模式図である。日照補正テーブル6dは、メインテーブル71、サブテーブル72及び日照補正用テンプレート73とから構成されている。
メインテーブル71は、図22に示すように、1年の各月(12月)に対する、1日(0時から24時間)を1時間毎に区分し、その区分した各時間毎のサブテーブル62のアドレスとから構成されている。
サブテーブル72は、図23に示すように、1年の各月(12月)に一日を区分した数(24個)を掛けた数(本実施形態では288個(=12×24))だけ有し、それぞれ各照度LXに対する日照補正用テンプレート73のアドレスから構成されている。
日照補正用テンプレート73は、1つのサブテーブル72に対して、10種類のテンプレートが用意されている。つまり、前記と同様に、1つのサブテーブル72において、車両周辺の照度の最小最大を0〜100に正規化しその正規化した0〜100を10段階に区分し、その区分した範囲での周辺照度に対して1つの日照補正用テンプレート73が用意され、各照度LXに対するその日照補正用テンプレート73のアドレスが割り当てられている。従って、全てのサブテーブル72をカバーするために、本実施形態では、図24に示すように、2880(=288×10)種類の日照補正用テンプレート73が用意されている。
つまり、例えば、今、9月1日の午後17時30分のとき、メインテーブル71を用いて、9月の17時〜18時のサブテーブル72のアドレスが読み出される。続いて、その読み出したサブテーブル72のアドレスから、対応するサブテーブル72が読み出され、その選択されたサブテーブル72を用いて、その時の照度LXが属する照度範囲の日照補正用テンプレート73のアドレスが読み出される。そして、最後に読み出された日照補正用テンプレート73のアドレスに基づいて対応する日照補正用テンプレート73が読み出されるようになっている。
2880種類の日照補正用テンプレート73は、月毎にその時々の外光条件(日照の有無及び日照の向き等)に基づいて選択され、変換データG2から、日照の有無及び日照の向きによって映り込まれる陰影を除去する日照補正(輝度補正)するためのテンプレートであって、予め実験で求められたものである。
ここで、日照補正用テンプレート73の生成方法について説明する。なお、説明の便宜上、9月の15時〜16時の間の、日照補正用テンプレート73について図21に従って説明する。
実験室内において、9月の15時〜16時の間の各種の外光条件を作る。このとき、車両Cの前方は南を向いているものとするとともに、9月の15時〜16時の太陽の位置を予め暦等で設定し太陽光の向き(車両Cにそそがれる光の向き)を設定する。この条件下で、晴天、薄曇り、曇天、雨、明るい室内駐車場、薄暗い室内駐車場等のさらに細かい各種条件を実験室内の照明を使って作る。なお、晴天、薄曇り、曇天、雨、明るい室内駐車場、薄暗い室内駐車場等は、それぞれ車両周辺の照度で判別することができ、各条件を作ったときその時の車両周辺の照度を前記照度センサ25にて検出しておく。
そして、各種条件のもとで、カメラ26で画像を撮像し、図25(a)に示すように、
画像データGCを取得する。
そして、図25(a)に示すように、画像データGCから、それぞれ抽出データGC1を第1実施形態と同様の方法で生成する。図25(b)に示すように、生成した抽出データGC1をそれぞれ視点変換して変換データGC2を生成する。次に、その時の外光条件での、変換データGC2について、陰影分布をそれら全画素の画素データ(R、G、B値)から求める。その外光条件での変換データGC2の画像が陰影のない一様な画像となるための補正データを作成する。
本実施形態では、変換データGC2の全画素の画素データ(R、G、B値)の平均値を求める。そして、図25(C)に示すように、変換データGA2の各画素データ(R、G、B値)を平均値で減算し、その全画素の減算値(補正値)からなる補正用データを日照補正用テンプレート73として生成する。
つまり、ある日照条件の変換データGC2(G2)の全画素の画素データの各々を、日照補正用テンプレート73の対応する画素の補正値でそれぞれ減算することによって、ある日照条件の変換データGC2(G2)は、日照条件によって生成されてしまうことがある陰影がない変換データGC2(G2)に輝度補正される。
そして、上記と同様な方法で、各月の各時間帯ごとに、上記と同様な方法で日照補正用テンプレート73を生成する。
次に、この色合い補正テーブル6c及び日照補正テーブル6dを用いて、制御部4がROM6に格納された駐車支援プログラムに従って行う処理動作を図26に従って説明する。
本実施形態では、前記第1実施形態の、図9で示すシステム起動処理におけるステップS2−11〜ステップS2−15、図11で示す変換データ生成処理におけるステップS4−5〜ステップS4−9、及ぶ図12で示す俯瞰画像処理におけるステップS2−18−4〜ステップS2−18−8での処理動作が相違する。従って、説明の便宜上、異なる部分について説明する。
図26において、まず、ステップS2−10(ステップS4−4又はステップS2−18−3)において変換データG2が格納または生成されると、制御部4は、内蔵したタイマから、現在の月・日及び時・分を割出す(ステップS5−1)。続いて、制御部4は、照度センサ25からの照度検出信号LXSに基づいてその時の車両周辺の照度を算出する(ステップS5−2)。
次に、制御部4は、ランプ駆動装置24からの検出信号にLPSに基づいて各種ランプの有無を割り出す(ステップS5−3)。さらに、制御部4は、路面検出センサ27からの路面検出信号RSに基づいて路面の種類を割り出す(ステップS5−4)。
次に、制御部4は、色合い補正テーブル6cから色補正用テンプレート63を読み出す(ステップS5−5)。制御部4による色補正用テンプレート63の読み出しは、まずメインテーブル61から割り出した路面に対する点灯しているランプのサブテーブル62を選択する。サブテーブル62が選択されると、制御部4は、そのサブテーブル62に基づいて算出した照度に対する色補正用テンプレート63のアドレスを求め、そのアドレスから所定の色補正用テンプレート63を特定し読み出す。尚、ブレーキランプLとウィンカーが点灯している場合に、その2つのランプに対するサブテーブル62がそれぞれ選択され、それらサブテーブル62からそれぞれ1つの色補正用テンプレート63が特定され読み出される。尚、各種ランプが全て点灯しない時には、制御部4は、メインテーブル61からサブテーブル62を選択しないので、1つも色補正用テンプレート63が読み出され
ず、次のステップに移る。
色補正用テンプレートが読み出されると、制御部4は、日照補正テーブル6dから日照補正用テンプレート73を読み出す(ステップS5−6)。制御部4による日照補正用テンプレート73の読み出しは、まずメインテーブル71から割り出した月に対するその時に割り出した時・分(時間帯)のサブテーブル72を選択する。サブテーブル72が選択されると、制御部4は、そのサブテーブル72に基づいて算出した照度に対する日照補正用テンプレート73のアドレスを求め、そのアドレスから所定の日照補正用テンプレート73を特定し読み出す。
色補正用テンプレート63と日照補正用テンプレート73が読み出されると、制御部4は、まず、画像処理部15を制御して、変換データG2に対して色補正用テンプレート63を用いて輝度補正処理を行う(ステップS5−7)。従って、この時点で、変換データG2は、点灯したランプの反射光が除かれた変換データに補正される。ここで、ステップS5−5で1つも色補正用テンプレート63が読み出されていなかった場合には、画像処理部15は、次のステップに移る。
続いて、制御部4は、画像処理部15を制御して、色補正用テンプレート63で輝度補正処理された変換データG2に対して日照補正用テンプレート73を用いて輝度補正処理を行う(ステップS5−8)。従って、この時点で、色補正用テンプレート63を用いて輝度補正された変換データG2は、日照条件によって生成される陰影が除かれた変換データに補正される。つまり、ランプの反射光及び日照条件によって生成される陰影が除かれた変換データG2が生成される。
次に、画像処理部15は、色補正用テンプレート63及び日照補正用テンプレート73を用いて輝度補正された変換データG2を、その時の撮像位置データ17と方位データ18を添付して画像メモリ14に格納する(ステップS5−9)。
ステップS5−9の処理が完了すると、システム起動処理のおいては、ステップS2−1に、変換データ生成処理ではステップ4−10に、俯瞰画像表示処理ではステップS2−18−9にそれぞれ移るようになっている。
そして、ランプの反射光及び日照条件によって生成される陰影が除かれた変換データG2を用いて生成された俯瞰画像データG4による俯瞰画像46は、反射光や陰影が無い高品質な俯瞰画像が生成される。
上記実施形態によれば、以下のような効果を得ることができる。
(1)上記実施形態では、その時々の日照条件によって映り込まれる陰影を除くことができ、日照条件に関係なく陰影の無い高品質な俯瞰画像を生成することができる。しかも、あわせて、ランプの点灯によって映り込まれる反射光を除くように補正処理したので、ランプの反射光の無いより高品質な俯瞰画像を生成することができる。
(2)上記実施形態では、予め用意した色補正用テンプレート63を用いて変換データG2を輝度補正をしたので、ランプの反射光を除く画像処理が容易で短時間で済み、画像処理動作の負荷を軽減することができる。
(3)上記実施形態では、予め用意した色補正用テンプレート63は、ブレーキランプL、ウィンカー、車幅灯、プレート照明、リアフォアランプ、バックランプに対するテンプレートをそれぞれ用意した。従って、異なるランプが発した光が路面に反射しその反射光の映り込まれている位置や色合い及びその強さがそれぞれ相違しても、色補正用テンプ
レート63にて確実に補正することができる。
しかも、各色補正用テンプレート63は、コンクリート、アスファルト、レンガに対するテンプレートをそれぞれ用意した。従って、同じランプが発する光であっても、路面によってその反射光の強さがそれぞれ相違しても、色補正用テンプレート63にて確実に補正することができる。
さらに、各色補正用テンプレート63は、車両周辺の照度に応じてそれぞれ用意した。従って、同じランプが発する光であっても、回りの明るさ(車両周辺の照度)によってそのランプの反射光の映り込まれる強さがそれぞれ相違しても、色補正用テンプレート63にて確実に補正することができる。
(4)上記実施形態では、日照補正用テンプレート73を用いて変換データG2を輝度補正をしたので、日照条件によって生成される陰影を除く画像処理が容易で短時間で済み、画像処理動作の負荷を軽減することができる。
(5)上記実施形態では、予め用意した日照補正用テンプレート73は、1月〜12月までの各月に対するテンプレートを用意した。従って、その月々で、日の出・日の入り、日の向き、日照時間が異なり、車両周辺の明るさや陰影の位置がそれぞれ相違しても、日照補正用テンプレート73にて確実に補正することができる。
しかも、各日照補正用テンプレート73は、0時〜24時までを1時間間隔で24の時間帯に区分し、その24の時間帯に対してそれぞれ用意した。従って、各月での各時間帯で車両周辺の明るさや陰影の位置がそれぞれ相違しても、日照補正用テンプレート73にて確実に補正することができる。
さらに、各日照補正用テンプレート73は、車両周辺の照度に応じてそれぞれ用意した。従って、天候、場所によって各月の各時間帯での車両周辺の明るさや陰影の位置がそれぞれ相違しても、日照補正用テンプレート73にて確実に補正することができる。
尚、本実施形態は以下のように変更してもよい。
・第1実施形態では、変換データG2中の各画素に対する輝度データの輝度補正値(R値の輝度補正値)を記憶した輝度補正テーブル6bを用いて変換データG2中の各画素に対に対して輝度補正を行った。これを、反射光が映った変換データG2に対して、変換データG2中の全ての画素の輝度データを一定の値の輝度補正値で補正してもよい。この場合、輝度補正値のデータ量を少なくすることができるとともに、輝度補正の演算処理が簡単になる。
また、反射光が映った変換データG2に対して、変換データG2中の反射光の影響が少ない画素の輝度データを読み出す。そして、その画素の輝度データのR値を読み出し、その読み出したR値に他の画素の輝度データのR値を置き換えて輝度補正するようにしてもよい。尚、反射光の影響が少ない画素は、例えば、変換データG2中の中央領域にある画素が考えられる。これは、ブレーキランプLは、車両Cの左右両端に設けられているため、ブレーキランプLの反射光の車両Cの内側方向への回り込みが極めて少なくなり反射光の映り込みがない、また、あったとしても極めて少ないところとなっている。
さらに、反射光が映った変換データG2に対して、変換データG2中の全ての画素の輝度データを読み出し、その全ての画素の中から、輝度データのR値の最も小さい値を探し出す。そして、全ての画素の輝度データのR値を、その最小値になるように輝度補正値してもよい。
・第1実施形態では、輝度補正テーブル6bを用いて輝度補正を行った。これを、反射光が映った変換データG2に対して、最も近い位置であって反射光が映ってない撮像された画像データGから生成された変換データG2を読み出す。そして、両変換データG2中の対応する各画素間であってその両画素の輝度データのR値を比較し、反射光が映った変換データG2の画素のR値を、反射光が映ってない変換データG2中の対応する画素のR値にそれぞれして輝度補正をするようにしてもよい。この場合にも、反射光が映った変換データG2は、反射光が除かれ、高品質の俯瞰画像を表示することができる。
・第1実施形態では、俯瞰画像データを生成する時に、画像メモリ14から変換データG2を読み出し輝度補正をした。これを、俯瞰画像データを生成する時ではなく、視点変換処理した後に、その変換データG2について輝度補正し、その輝度補正した変換データG2を画像メモリ14に蓄積するようにして実施してもよい。画像メモリ14に格納された各変換データG2は、既に輝度補正されているため、各変換データG2を輝度補正することなく直ちに俯瞰画像データを生成することができる。
・第1実施形態では、画像メモリ14に記憶した視点変換した変換データG2に対して輝度補正をした。これを、視点変換処理をする前の画像メモリ14に記憶した抽出データG1に対して輝度補正し、その輝度補正した抽出データG1を視点変換処理して変換データG2を画像メモリ14に記憶してもよい。この場合も、各変換データG2は、既に輝度補正されているため、各変換データG2を輝度補正することなく直ちに俯瞰画像データを生成することができる。
・第1実施形態では、変換データG2を生成した後に、当該変換データG2に対する輝度補正有無データKDを生成したが、先に輝度補正有無データKDを作成した後に、抽出データG1及び変換データG2を生成してもよい。また、輝度補正有無データKDと変換データG2をそれぞれ別々に記憶し、これらをパルスカウント値Tで関連づけるようにした。これを、作成した抽出データG1又は変換データG2に輝度補正有無データKDを添付して関連づけて実施してもよい。
・第1実施形態では、輝度補正有無データKDの生成は、周辺の暗さも条件に入れたが、この暗さの条件を省略し、ブレーキランプLの点灯の有無だけで輝度補正有無データKDを生成してもよい。
・第1実施形態では、ブレーキランプLの反射光に対する輝度補正であった。これを、ブレーキランプL以外のウィンカー、ハザードランプ等、その他の車両Cに設けられたランプの光に対する輝度補正を合わせて、又は、単独で行ってもよい。
・第1実施形態では、ブレーキランプLの反射光が映り込まれたかどうかの判断を、各種ランプ駆動装置24の点滅検出信号LPSに基づいて行った。これを、ブレーキランプLの反射光を直接検出する光センサを用いて実施してもよい。
・第1実施形態では、画像処理部15は、画像データGを抽出して抽出データG1を生成し、その抽出データG1を視点変換するようにした。これを、画像データを視点変換したデータのうち、一部分を抽出するようにしてもよい。
・第1実施形態では、仮想視点104を、抽出領域40に相当する路面上の領域103,105を鉛直方向上方であって、カメラ26高さと同じ位置に設定するようにしたが、車両Cのルーフよりも高い位置等、その他の位置に適宜設定して実施してもよい。
・第2実施形態では、視点変換して変換データG2を生成した時点で、色補正用テンプレート63及び日照補正用テンプレート73を選択し読み出して補正処理したが、回転変換する前に、まとめて各変換データG2を補正処理するようにしてもよい。
・第2実施形態では、変換データG2に対して色補正用テンプレート63及び日照補正用テンプレート73を用いて補正処理した。これを抽出データG1の段階で補正処理するようにしてもよい。この場合、抽出データG1に対する色補正用テンプレート及び日照補正用テンプレートを予め用意する必要がある。
また、画像データGの段階で補正処理するようにしてもよい。この場合、画像データGに対する色補正用テンプレート及び日照補正用テンプレートを予め用意する必要がある。
さらに、例えば、画像データG、抽出データG1又は変換データG2のいずれかの段階で、例えば色補正用テンプレートを使って補正し、残る2つの段階の一つで日照補正用テンプレートを用いて補正してもよい。
上記第2実施形態では、色補正用テンプレート63及び日照補正用テンプレート64を使って2種類の補正処理を行った。これを、いずれか一方だけの補正処理で実施してもよい。
・第1及び第2実施形態では、変換データG2に対し、後で回転変換するために方位データ18を添付するようにしたが、舵角データ19を添付するようにしてもよい。この場合、ナビゲーション装置1が、駐車を完了又は一時休止したと判断したときの舵角と、各変換データG2に添付された舵角データ19との相対角度に基づき、それらの変換データG2を回転変換する。
・第1及び第2実施形態では、駐車支援装置を、ナビゲーション装置1に具体化したが、その他の車載装置に具体化してもよい。この場合、GPS受信部9や、地図データ記憶部等が省略される。
・第1及び第2実施形態では、抽出データG1を視点変換して、変換データG2を生成する際に、仮想視点104を、路面102上の領域103のうち中央部の鉛直方向上方に設定したが、仮想視点の位置、方向はこの位置に限定されない。例えば、俯瞰画像を表示する際の車両Cに設置されたカメラ26の設置位置、車両Cの中心の鉛直方向上方等にしてもよい。
第1実施形態のナビゲーション装置の構成を説明するブロック図。 カメラの取付位置を説明する説明図。 車両輪郭線の説明図。 バックモニタ画面の説明図。 車両の駐車目標領域への後退を説明する説明図。 (a)は初期位置の車両、(b)は画像データ、(c)は視点変換処理、(d)は変換データ、(e)は回転変換データの説明図。 (a)画像メモリに格納される変換データの説明図、(b)画像メモリに格納される輝度補正データの説明図。 第1実施形態の処理手順の説明図。 第1実施形態の処理手順の説明図。 第1実施形態の処理手順を説明するフローチャート。 第1実施形態の処理手順を説明するフローチャート。 第1実施形態の処理手順を説明するフローチャート。 (a)は位置Bの車両、(b)は画像データ、(c)は視点変換処理、(d)は変換データ、(e)は回転変換データの説明図。 俯瞰画像データの説明図。 駐車確認画面の説明図。 駐車確認画面の説明図。 第2実施形態のナビゲーション装置の構成を説明するブロック図。 色合い補正テーブルにおけるメインテーブルを説明するための模式図。 色合い補正テーブルにおけるサブテーブルを説明するための模式図。 色補正用テンプレートを説明するための模式図。 (a)は色補正用テンプレートを作成するための画像データの説明図、(b)は視点変換処理を説明する説明図、(c)は色補正用テンプレートの説明図。 日照補正テーブルにおけるメインテーブルを説明するための模式図。 日照補正テーブルにおけるサブテーブルを説明するための模式図。 日照補正用テンプレートを説明するための模式図。 (a)は日照補正用テンプレートを作成するための画像データの説明図、(b)は視点変換処理を説明する説明図、(c)は日照補正用テンプレートの説明図。 第2実施形態の一部処理手順を説明するフローチャート。
符号の説明
1…駐車支援装置としてのナビゲーション装置、3…表示手段としてのディスプレイ、3z…表示領域、4…制御部、6b…輝度補正テーブル、6c…色合い補正テーブル、6d…日照補正テーブル、9…GPS受信部、12…車両情報入力手段としての車両側I/F部、13…画像データ取得手段としての画像データ入力部、14…画像データ記憶手段としての画像メモリ、15…画像処理部、17…位置データとしての撮像位置データ、18…方位データ、19…舵角データ、23…各種ランプ駆動装置、25…照度センサ、26…撮像手段としてのカメラ、30…指標としての車両輪郭線、40…所定領域としての抽出領域、46…俯瞰画像、63…色補正用テンプレート、73…日照補正テンプレート、C…車両、G,GA,GB,GC…画像データ、G1,GA1,GB1,GC1…抽出データ、G2,GA2,GB2,GC2…変換データ、G4…俯瞰画像データ、GP…現在画像データ、KD…輝度補正有無データ、L…ブレーキランプ。

Claims (7)

  1. 車両に設けられた撮像手段を用いて前記車両の進行とともにその進行方向の画像を定期的に撮像し、その時々の画像データの各々を蓄積し、蓄積した複数の画像データを用いて前記車両の現在位置の周辺画像データを生成した後、生成した周辺画像データに基づく周辺画像を表示手段に表示するようにした駐車支援方法において、
    前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出するとともに前記車両に設けられた各光源が点灯しているか否かを検出し、
    度補正のためのテンプレートを前記路面の種類に応じて前記光源毎に予め用意し、
    前記各画像データの各々を、点灯している前記光源及び前記路面の種類に対応したテンプレートを使って輝度補正した後、前記周辺画像データを生成したことを特徴とする駐車支援方法。
  2. 車両に設けられた撮像手段を用いて前記車両の進行とともにその進行方向の画像を定期的に撮像し、その時々の画像データの各々を画像処理して変換データを生成して蓄積し、前記蓄積した複数の変換データを用いて前記車両の現在位置の周辺を俯瞰した俯瞰画像の俯瞰画像データを生成した後、前記俯瞰画像データに基づく俯瞰画像と、前記車両の現在位置を示す指標とを表示手段に表示するようにした駐車支援方法において、
    前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出するとともに前記車両に設けられた各光源が点灯しているか否かを検出し、
    度補正のためのテンプレートを前記路面の種類に応じて前記光源毎に予め用意し、
    前記各画像データの各々を、点灯している前記光源及び前記路面の種類に対応したテンプレートを使って輝度補正した後、前記周辺画像データを生成したことを特徴とする駐車支援方法。
  3. 車両に設けられた撮像手段が定期的に撮像した画像の画像データを取得する画像データ取得手段と、
    画像データ取得手段が取得した各画像データの各々を用いて、車両の現在位置の周辺画像データを生成する周辺画像データ生成手段と、
    前記周辺画像データに基づく周辺画像を表示手段に表示する表示出力手段と
    を備えた駐車支援装置において、
    前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出する路面検出手段と、
    前記撮像手段が画像を撮像する毎に、前記車両に設けられた各光源が点灯しているか否かを検出する光源点灯検出手段と、
    度補正のためのテンプレートが前記路面の種類に応じて前記光源毎に格納されたテンプレート記憶手段と、
    前記光源点灯検出手段により検出された点灯している前記光源、及び前記路面検出手段により検出した路面の種類に対応するテンプレートを読み出し、当該テンプレートを用いて前記各画像データを輝度補正する画像データ補正手段と
    を設けたことを特徴とする駐車支援装置。
  4. 車両に設けられた撮像手段が定期的に撮像した画像の画像データを取得する画像データ取得手段と、
    画像データ取得手段が取得した各画像データの各々について、予め定めた領域を抽出し画像処理した変換データを生成する第1画像処理手段と、
    前記第1画像処理手段が生成した各変換データを用いて、現在の車両の周辺を俯瞰した俯瞰画像データを生成する第2画像処理手段と、
    前記俯瞰画像データに基づく俯瞰画像と、前記車両の現在位置を示す指標とを表示手段に表示する表示出力手段と
    を備えた駐車支援装置において、
    前記撮像手段が画像を撮像する毎に、前記車両が移動中の路面の種類を検出する路面検出手段と、
    前記撮像手段が画像を撮像する毎に、前記車両に設けられた各光源が点灯しているか否かを検出する光源点灯検出手段と、
    度補正のためのテンプレートが前記路面の種類に応じて前記光源毎に格納されたテンプレート記憶手段と、
    前記光源点灯検出手段により検出された点灯している前記光源、及び前記路面検出手段により検出した路面の種類に対応するテンプレートを読み出し、当該テンプレートを用いて前記変換データを輝度補正する第3画像処理手段と
    を設けたことを特徴とする駐車支援装置。
  5. 請求項4に記載の駐車支援装置において、
    前記第1画像処理手段は、前記各画像データの各々について、予め定めた抽出領域のデータを抽出し、その抽出した各抽出データをそれぞれ視点変換処理して変換データを生成するものであることを特徴とする駐車支援装置。
  6. 請求項4に記載の駐車支援装置において、
    前記第1画像処理手段は、前記各画像データの各々について、予め定めた抽出領域のデータを抽出し、その抽出した各抽出データをそれぞれ視点変換処理して変換データを生成すものであり、
    前記テンプレート記憶手段に格納された前記テンプレートは、前記画像データ、前記抽出データ、又は、変換データのいずれかに対するテンプレートであり、
    前記第3画像処理手段の各変換データの輝度補正は、前記画像データ、前記抽出データ、又は、変換データのいずれかに対し前記テンプレートを用いて輝度補正することによって行われることを特徴とする駐車支援装置。
  7. 請求項4〜6のいずれか一つに記載の駐車支援装置において、
    車両の周辺の照度を検出する照度検出手段をさらに備え、
    前記テンプレートは、予め区分された前記照度毎に、前記テンプレート記憶手段に格納されており、
    前記第3画像処理手段は、検出された前記照度に対応するテンプレートを読み出し、当該テンプレートを用いて前記変換データを輝度補正することを特徴とする駐車支援装置
JP2006061598A 2006-03-07 2006-03-07 駐車支援方法及び駐車支援装置 Expired - Fee Related JP4802769B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006061598A JP4802769B2 (ja) 2006-03-07 2006-03-07 駐車支援方法及び駐車支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006061598A JP4802769B2 (ja) 2006-03-07 2006-03-07 駐車支援方法及び駐車支援装置

Publications (2)

Publication Number Publication Date
JP2007243464A JP2007243464A (ja) 2007-09-20
JP4802769B2 true JP4802769B2 (ja) 2011-10-26

Family

ID=38588573

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006061598A Expired - Fee Related JP4802769B2 (ja) 2006-03-07 2006-03-07 駐車支援方法及び駐車支援装置

Country Status (1)

Country Link
JP (1) JP4802769B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101663290B1 (ko) * 2015-03-20 2016-10-07 주식회사 성우모바일 영상과 거리 보정을 통한 주차 보조 시스템
CN106471554A (zh) * 2014-06-10 2017-03-01 株式会社电装 驾驶辅助装置

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5190715B2 (ja) * 2009-06-15 2013-04-24 アイシン精機株式会社 車載モニタシステム、その車載モニタシステムを用いた駐車支援装置、および車載モニタシステムの色調整方法
JP5716944B2 (ja) * 2009-06-25 2015-05-13 アイシン精機株式会社 車載カメラ装置
JP2011033594A (ja) * 2009-08-06 2011-02-17 Panasonic Corp 車両用距離算出装置
JP5525277B2 (ja) * 2010-02-10 2014-06-18 株式会社小糸製作所 カメラを内蔵した車両用灯具
JP5437855B2 (ja) * 2010-03-02 2014-03-12 パナソニック株式会社 障害物検知装置およびそれを備えた障害物検知システム、並びに障害物検知方法
JP5386538B2 (ja) * 2011-05-12 2014-01-15 富士重工業株式会社 環境認識装置
WO2014083825A1 (ja) * 2012-11-27 2014-06-05 日産自動車株式会社 運転支援装置及び運転支援方法
JP6204022B2 (ja) * 2013-01-29 2017-09-27 京セラ株式会社 画像処理装置、撮像装置および画像処理方法
JPWO2015064095A1 (ja) * 2013-10-29 2017-03-09 京セラ株式会社 画像の補正パラメータ出力装置、カメラシステム、および補正パラメータ出力方法
JP2015231818A (ja) 2014-06-10 2015-12-24 株式会社デンソー 運転支援装置
JP6413474B2 (ja) * 2014-08-21 2018-10-31 スズキ株式会社 駐車支援装置及び駐車枠の横線検出方法
GB2548598B (en) * 2016-03-23 2019-11-06 Jaguar Land Rover Ltd Display system and method
JP6706792B2 (ja) 2016-03-31 2020-06-10 パナソニックIpマネジメント株式会社 車載用表示装置
JP7051667B2 (ja) * 2018-11-26 2022-04-11 本田技研工業株式会社 車載装置
JP7361482B2 (ja) * 2019-03-27 2023-10-16 京セラ株式会社 画像処理装置、撮像装置、移動体及び画像処理方法
JP7238868B2 (ja) * 2020-08-20 2023-03-14 トヨタ自動車株式会社 ドライバ支援システム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2914066B2 (ja) * 1993-01-12 1999-06-28 日産自動車株式会社 車両用自動調光ヘッドアップディスプレイ
JP2970440B2 (ja) * 1994-11-29 1999-11-02 松下電器産業株式会社 画像合成方法と画像合成装置
JPH08339498A (ja) * 1995-06-09 1996-12-24 Yazaki Corp 車両周辺監視装置
JP3530652B2 (ja) * 1995-09-26 2004-05-24 キヤノン株式会社 画像合成方法及び画像合成装置
JPH09321972A (ja) * 1996-05-28 1997-12-12 Canon Inc 画像合成装置及び方法
JP3300337B2 (ja) * 2000-04-28 2002-07-08 松下電器産業株式会社 画像処理装置および監視システム
JP3847547B2 (ja) * 2000-10-17 2006-11-22 三菱電機株式会社 車両周辺監視支援装置
JP3297040B1 (ja) * 2001-04-24 2002-07-02 松下電器産業株式会社 車載カメラの画像合成表示方法及びその装置
JP3591535B2 (ja) * 2003-03-24 2004-11-24 日本精機株式会社 車両用表示装置
JP2004312301A (ja) * 2003-04-04 2004-11-04 Sumitomo Electric Ind Ltd 画像表示方法、画像表示システム及び表示装置
JP2004356869A (ja) * 2003-05-28 2004-12-16 Denso Corp 車両周辺画像処理システム
JP2005001570A (ja) * 2003-06-12 2005-01-06 Equos Research Co Ltd 駐車支援装置
JP2005014788A (ja) * 2003-06-26 2005-01-20 Calsonic Kansei Corp ヘッドアップディスプレイ
JP2005033709A (ja) * 2003-07-11 2005-02-03 Nissan Motor Co Ltd 車両用周辺監視装置
JP2005242914A (ja) * 2004-02-27 2005-09-08 Sumitomo Electric Ind Ltd 人間認識システム及び画像処理装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106471554A (zh) * 2014-06-10 2017-03-01 株式会社电装 驾驶辅助装置
CN106471554B (zh) * 2014-06-10 2018-12-28 株式会社电装 驾驶辅助装置
KR101663290B1 (ko) * 2015-03-20 2016-10-07 주식회사 성우모바일 영상과 거리 보정을 통한 주차 보조 시스템

Also Published As

Publication number Publication date
JP2007243464A (ja) 2007-09-20

Similar Documents

Publication Publication Date Title
JP4802769B2 (ja) 駐車支援方法及び駐車支援装置
JP4788406B2 (ja) 駐車支援方法及び駐車支援装置
JP4765524B2 (ja) 車両用表示装置
JP6032248B2 (ja) 車両用照明装置
JP5604146B2 (ja) 車載照明装置、画像処理装置、画像表示システム及び照明方法
CN101081608B (zh) 驾驶支援方法以及驾驶支援装置
JP2005184225A (ja) 車両用表示装置
US20120320213A1 (en) Image display device
EP2476588A1 (en) Vehicle surrounding monitor apparatus
CN110869940B (zh) 控制位于行车道上的机动车的像素大灯的方法
JP2020121717A (ja) 車両用の間接視システム
JP2012138828A (ja) 画像提供装置
WO2013088511A1 (ja) 表示装置、表示方法、ヘッドアップディスプレイ及び検出装置
WO2018167844A1 (ja) ヘッドアップディスプレイ装置とその画像表示方法
JP2010188826A (ja) 車両用表示装置
JP4534871B2 (ja) 車両用照明装置
JP2001150977A (ja) 車両の表示装置
US20060186347A1 (en) Vehicle night vision system
JP4735090B2 (ja) 赤外画像撮像装置
JP2007085864A (ja) 車載表示装置
WO2013157250A1 (ja) 画像処理装置および走行支援方法
JP2011008459A (ja) 車載カメラ装置
JP2016084020A (ja) 車載表示制御装置及び車載表示システム
JP2004302903A (ja) 車両表示装置
JP2007015662A (ja) ブラインドコーナモニタシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110712

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110725

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140819

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees