JPH09126758A - 車両用環境認識装置 - Google Patents

車両用環境認識装置

Info

Publication number
JPH09126758A
JPH09126758A JP7281020A JP28102095A JPH09126758A JP H09126758 A JPH09126758 A JP H09126758A JP 7281020 A JP7281020 A JP 7281020A JP 28102095 A JP28102095 A JP 28102095A JP H09126758 A JPH09126758 A JP H09126758A
Authority
JP
Japan
Prior art keywords
image
neutral density
unit
filter
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP7281020A
Other languages
English (en)
Other versions
JP3571828B2 (ja
Inventor
Chiaki Aoyama
千秋 青山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP28102095A priority Critical patent/JP3571828B2/ja
Publication of JPH09126758A publication Critical patent/JPH09126758A/ja
Application granted granted Critical
Publication of JP3571828B2 publication Critical patent/JP3571828B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】距離検出用のステレオカメラで開口絞りを不要
とした。 【解決手段】画像情報を有する光をとらえる対物レンズ
11R、11Lを通じて得た光をCCDイメージセンサ
13R、13Lを通じて画像信号に変換し、この複数の
画像信号に基づく画像により物体までの距離を三角測量
の原理に基づき測定する車両用環境認識装置において、
前記対物レンズ11R、11LにNDフィルタ組立体1
2R、12Lを配設し、このNDフィルタ組立体12
R、12Lの、光軸15R、15Lと略直交する方向へ
の挿入、非挿入を切り換える駆動回路5R、5Lを、所
定光量に調整する露光量調整装置8により駆動し、対物
レンズ11R、11Lの開口絞りを実質的に不要(開
放)とした。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、ステレオ視を利
用した車両用環境認識装置に関し、一層詳細には、例え
ば、自動車等の車両に搭載され、当該自動車の位置を基
準として、風景や先行車等を含む情景に係る周囲環境を
認識する車両用環境認識装置に関する。
【0002】
【従来の技術】従来から、周囲環境を認識しようとする
場合、ステレオ視を利用したステレオカメラにより得ら
れる2枚の画像(ステレオ画像ともいう。)から三角測
量の原理に基づき対象物(単に、物体ともいう。)まで
の距離を求め、対象物の位置を認識する、いわゆるステ
レオ法が採用されている。
【0003】このステレオ法においては、前記距離を求
める際に、撮像した2枚の画像上において同一物体の対
応が採れることが前提条件となる。
【0004】撮像した2枚の画像上において同一物体の
対応を採る技術として、画像中の領域に着目する方法が
ある。
【0005】この方法は、まず、一方の画像上に適当な
サイズのウィンドウを設定し、他方の画像においてこの
ウィンドウに対応する領域を求めるために、他方の画像
に前記ウィンドウと同一サイズの領域を設定する。
【0006】次に、両画像上の各ウィンドウ内の画像
(単に、ウィンドウ画像ともいう。)を構成する対応す
る各画素(詳しく説明すると、マトリクス位置が対応す
る各画素)についての画素データ値を引き算して差を
得、さらに差の絶対値を得る。
【0007】そして、各画素についての差の絶対値の前
記ウィンドウ内の和、いわゆる総和を求める。
【0008】このようにウィンドウ内の各画素データ値
の差の絶対値の総和を求める計算を他方の画像上のウィ
ンドウの位置を変えて順次行い、前記総和が最小になる
他方の画像のウィンドウを、前記一方の画像のウィンド
ウに対応する領域であると決定する方法である。
【0009】この発明においても、基本的には、この画
像中の領域に着目する方法を採用している。
【0010】
【発明が解決しようとする課題】ところで、自然環境下
においては、照度が変化し、これに応じて物体の輝度が
変化する。
【0011】ところが、カメラを構成するCCDイメー
ジセンサ等の撮像素子で取り扱うことの可能な明るさや
露光量(透過光量)は、上限値および下限値が設定され
ており、この上下限値以外では、信号処理として取り扱
える電気信号の適切な振幅変化(レベル変化)が得られ
ない。
【0012】電気信号として適切な振幅変化が得られな
い場合には、画像の濃度範囲(実際上は、映像の輝度範
囲)が狭くなり、結局、前記差の絶対値の総和がウィン
ドウ毎にそれほど変わらないこととなり、対応を採るこ
とができなくなるという問題がある。
【0013】そこで、この問題を解決するために、例え
ば、特開平4−336514号公報に公表された従来の
技術では、露光量を適切な値に設定するために、ウィン
ドウ内の画像の濃度に応じて開口絞りの絞り量を可変と
するとともに、CCDイメージセンサの電子シャッタ時
間を制御するようにしている。
【0014】しかしながら、開口絞りにより露光量を変
化させた場合には、レンズの周辺光量の特性が変化す
る。このため、周辺光量の低下の補正が必要となるが、
この補正は、絞り量に応じて行う必要があり、相当に繁
雑である。
【0015】また、通常、絞り羽根等を使用する開口絞
りは、機械的な位置決め誤差、摩擦、バックラッシ等が
存在することから、この開口絞りのための露光量のフィ
ードバック制御は、連続的かつ精密な制御が必要になる
という問題もある。
【0016】この発明はこのような課題を考慮してなさ
れたものであり、簡単な構成で露光量を正確に調整する
ことの可能な車両用環境認識装置を提供することを目的
とする。
【0017】
【課題を解決するための手段】第1のこの発明は、例え
ば、図1に示すように、画像情報を有する光ILをとら
える光学部11R、11Lと、この光学部を通じて得た
光を電気信号に変換する撮像素子部13R、13Lと、
この撮像素子部の出力電気信号を画像信号に変換して出
力する画像信号出力手段(14R、2R)、(14L、
2L)との組み合わせを複数有し、前記複数の画像信号
出力手段からそれぞれ出力される画像信号に基づく画像
により物体までの距離を三角測量の原理に基づき測定す
る車両用環境認識装置において、前記複数の光学部にそ
れぞれ配される少なくとも1つの減光フィルタ12R、
12L(図3をも参照)と、前記減光フィルタの、前記
複数の光学部の光軸と略直交する方向への同時挿入、非
挿入を切り換える切換手段5R(25)、5L(25)
と、前記画像信号出力手段に接続され、前記画像の明る
さが所定の明るさとなるように前記切換手段を駆動して
前記減光フィルタの挿入、非挿入を決定する露光量調整
手段8とを備え、前記光学部の開口絞りを実質的に開放
としたことを特徴とする。
【0018】第1のこの発明によれば、撮像素子部に入
射する光の光量を連続的ではなくステップ的(段階的)
に変化させる減光フィルタの光軸への挿入を、露光量調
整手段により駆動される切換手段により切り換えてい
る。減光フィルタを挿入または非挿入とすることで、入
射光量、言い換えれば、露光量を変化させているので、
開口絞りを変化させる必要がなくなり、実質的に開放状
態とすることができる。すなわち、機械的に複雑な構成
の開口絞りがなくてもよい。また、光量をステップ的に
変化させるので、連続的なフィードバック制御が不要と
なる。
【0019】また、第2のこの発明によれば、第1の発
明の構成に加えて、撮像素子部の露光時間を調整する露
光時間調整手段を備え、前記露光量調整手段が、減光フ
ィルタと露光時間値との予め定められた組み合わせによ
り、光学部から画像信号出力手段までに至る合成利得値
を決定するようにしているので、さらに細かいステップ
で露光量を調整することができる。
【0020】さらに、第3のこの発明によれば、第1の
発明の構成に加えて、増幅利得を調整する増幅利得調整
手段を画像信号出力手段に備え、露光量調整手段が、増
幅利得値と減光フィルタとの予め定められた組み合わせ
により、光学部から画像信号出力手段までの合成利得値
を決定するようにしているので、第2のこの発明と同様
に、さらに細かいステップで露光量を調整することがで
きる。
【0021】さらにまた、第4のこの発明によれば、露
光量調整手段が、増幅利得値と減光フィルタと露光時間
値との予め定められた組み合わせにより、光学部から画
像信号出力手段までの合成利得値を決定するようにして
いるので、一層細かいステップで露光量を調整すること
ができる。
【0022】なお、撮像素子部はCCDイメージセンサ
を有し、露光時間は、このCCDイメージセンサの電子
シャッタ時間とすることができる。
【0023】また、減光フィルタとしては、NDフィル
タや、多数の孔が開けられた孔あき板を使用することが
できる。孔あき板としては、金属板等に多数の孔が等間
隔に開けられた、いわゆるパンチングメタルを採用する
ことができる。
【0024】
【発明の実施の形態】以下、この発明の一実施の形態に
ついて、図面を参照して説明する。
【0025】なお、この発明の理解を容易にするため
に、この実施の形態の要部の一部を簡明に説明すると、
図1に示すように、画像情報を有する光ILをとらえる
光学部を構成する対物レンズ11R、11Lを通じて得
た光を、CCDイメージセンサ13R、13Lと信号処
理回路14R、14Lとカメラ制御ユニット(以下、C
CUという。)2R、2LとAD変換器3R、3Lを通
じてデジタル画像信号に変換し、この複数のデジタル画
像信号に基づく画像により物体までの距離を三角測量の
原理に基づき測定する車両用環境認識装置において、光
学部にNDフィルタ組立体12R、12Lを配設し、こ
のNDフィルタ組立体12R、12Lの、光軸15R、
15Lと略直交する方向への同時挿入、非挿入を切り換
える駆動回路5R、5Lを、CCDイメージセンサ13
R、13Lへの入射光量を所定光量に調整する露光量調
整装置8により駆動し、光学部の開口絞りを実質的に不
要(開放)としたものである。
【0026】以下、この発明の一実施の形態の詳細を説
明する。
【0027】図1はこの発明の一実施の形態の構成を示
すブロック図である。
【0028】図1において、ステレオカメラ1が、右側
のビデオカメラ(以下、単にカメラまたは右カメラとも
いう。)1Rと、左側のビデオカメラ(同様に、カメラ
または左カメラともいう。)1Lとにより構成されてい
る。左右のカメラ1R、1Lは、図2に示すように、自
動車(車両ともいう。)Mのダッシュボード上に予め定
めた所定の間隔、いわゆる基線長Dを隔てて設置してあ
る。また、カメラ1R、1Lはダッシュボード上に水平
面に対して平行に、かつ車両Mの正面方向にある無限遠
点が画像の中心となるように設置してある。さらに、カ
メラ1R、1Lはダッシュボード上に設置してあるため
に、カメラ1R、1Lを一体として連結することがで
き、上述の基線長Dを維持できる。
【0029】また、カメラ1R、1Lは、車両Mのワイ
パーのワイパー拭き取り範囲内に配置し、かつワイパー
が左右にあって同方向に回動する場合には、左右のワイ
パーブレードの始点から同一位置になるように配置する
ことで、ワイパーブレードによる遮光位置の変化が左右
のカメラ1R、1Lで同一となり、認識対象物体(物
体、対象物、対象物体、または、単に、対象ともい
う。)の撮像に対してワイパーブレードの撮像の影響を
少なくすることができる。左右のカメラ1R、1Lの光
軸15R、15L(図1参照)は、同一水平面上におい
て平行になるように設定されている。
【0030】図1から分かるように、右と左のカメラ1
R、1Lには、光軸15R、15Lに略直交する方向
に、画像情報を有する光ILをとらえる同一の焦点距離
Fを有する対物レンズ11R、11Lと、減光フィルタ
としてのNDフィルタ組立体12R、12Lと、対物レ
ンズ11R、11Lによって結像された像を撮像するエ
リアセンサ型のCCDイメージセンサ(撮像素子部)1
3R、13Lとが配設されている。この場合、それぞれ
の光学系(光学部ともいう。)とも、例えば、右側の光
学系で説明すれば、対物レンズ11R、NDフィルタ組
立体12Rを構成する1つのNDフィルタ(後述す
る。)または素通しの状態およびCCDイメージセンサ
13Rは、いわゆる共軸光学系を構成する。
【0031】カメラ1R、1Lには、CCDイメージセ
ンサ13R、13Lの読み出しタイミング、電子シャッ
タ時間等の各種タイミングを制御したり、CCDイメー
ジセンサ13R、13Lを構成する撮像素子群を走査し
て得られる光電変換信号である撮像信号を、いわゆる映
像信号に変換するための信号処理回路14R、14Lが
配設されている。
【0032】左右のカメラ1R、1Lの出力信号、言い
換えれば、信号処理回路14R、14Lの出力信号であ
る映像信号は、増幅利得等を調整するCCU2R、2L
を通じて、例えば、8ビット分解能のAD変換器3R、
3Lに供給される。なお、実際上、CCU2R、2Lか
ら信号処理回路14R、14Lに対して前記電子シャッ
タ時間を可変する制御信号が送出される。
【0033】AD変換器3R、3Lによりアナログ信号
である映像信号がデジタル信号に変換され、水平方向の
画素数768列、垂直方向の画素数240行の画素の信
号の集合としての画像信号(以下、必要に応じて、画素
データの集合としての画像データともいい、実際上は濃
度を基準とする画像信号ではなく輝度を基準とする映像
信号データであるので、映像信号データともいう。)と
してフレームバッファ等の画像メモリ4R、4Lに格納
される。画像メモリ4R、4Lには、それぞれ、Nフレ
ーム(Nコマ)分、言い換えれば、ラスタディスプレイ
上の画面N枚分に相当する画面イメージが保持される。
一実施の形態においてはNの値として、N=2〜6まで
の値が当てはめられる。2枚以上を保持できるようにし
たために、画像の取り込みと対応処理とを並行して行な
うことが可能である。
【0034】画像メモリ(画像を構成する画素を問題と
する場合には、画素メモリともいう。)4R、4Lは、
この実施の形態においては、上記水平方向の画素数×垂
直方向の画素数と等しい値の1フレーム分の画素メモリ
を有するものと考える。各画素メモリ4R、4Lは8ビ
ットのデータを格納することができる。なお、各画素メ
モリ4R、4Lに格納されるデータは、上述したよう
に、映像信号の変換データであるので輝度データであ
る。
【0035】画像メモリ4R、4Lに格納される画像
は、上述したように1枚の画面イメージ分の画像である
ので、これを明確にするときには、必要に応じて、全体
画像ともいう。
【0036】右側用の画像メモリ4Rの所定領域の画像
データに対して、左側の画像メモリ4Lの同じ大きさの
領域の画像データを位置(実際には、アドレス)を変え
て順次比較して所定演算を行い、物体の対応領域を求め
る対応処理装置6が、画像メモリ4R、4Lに接続され
ている。
【0037】左右の画像メモリ4R、4L中の対象の対
応領域(対応アドレス位置)に応じ三角測量法(両眼立
体視)に基づいて、対象の相対位置を演算する位置演算
装置7が対応処理装置6に接続されている。
【0038】対応処理装置6および位置演算装置7にお
ける対応処理・位置演算に先立ち、入力側が画像メモリ
4Rに接続される露光量調整装置8の制御により、CC
Dイメージセンサ13R、13Lに入射される画像情報
を有する光ILの露光量が適正化される。
【0039】露光量調整装置8は、画像メモリ4Rの所
定領域の画像データに基づいて、口述するルックアップ
テーブル等を参照して露光量を決定し、CCU2R、2
Lの増幅利得と、CCDイメージセンサ13R、13L
の電子シャッタ時間{通常の場合、シャッタ速度と称さ
れるが、単位は時間(具体的には、電荷蓄積時間)であ
るので、この実施の形態においては電子シャッタ時間と
いう。なお、必要に応じて電子シャッタ速度ともい
う。}と、NDフィルタ組立体12R、12Lのうちの
所望のフィルタとを、それぞれ、同じ値、同じものに同
時に決定する。
【0040】NDフィルタ組立体12R、12Lのう
ち、所望のNDフィルタが、駆動回路5R、5Lを通じ
て切り換え選定されるが、この切り換えには、NDフィ
ルタを使用しない場合、いわゆる素通し(必要に応じ
て、素通しのNDフィルタとして考える。)の場合も含
まれる。
【0041】図3は、右側のカメラ1Rに係るNDフィ
ルタ組立体12Rの原理的構成を示している。左側のN
Dフィルタ組立体12Lも右側のカメラ1Rに係るND
フィルタ組立体12Rと同一の構成であるので、図示を
省略する。
【0042】NDフィルタ組立体12Rは、枠体21と
スライダ22を有し、この枠体21中を駆動回路5Rを
構成するフィルタ切換用モータ25の回転によりリンク
26を通じて矢印PあるいはQ方向にスライダ22が摺
動する。スライダ22には、CCU2Rの出力信号に換
算して利得を18dB低下させるNDフィルタ23と、
36dB低下させるNDフィルタ24とが配設されてい
る。
【0043】図3A中、記号「+」で表す箇所が光軸1
5Rであり、スライダ22が図示の位置にあるとき、光
ILは、減光されないでそのまま通過する。上述したよ
うに、減光量が0dBの仮想的な素通しのNDフィルタ
が光軸15Rに対して挿入されていると考えることもで
きる。
【0044】スライダ22が図3Bに示す状態にあると
き、光路上に、すなわち光軸15R上に光量を18dB
減光するNDフィルタ23が配置され、図3Cに示す状
態にあるとき、光軸15R上に光量を36dB減光する
NDフィルタ24が配置されることになる。したがっ
て、この実施の形態において、NDフィルタは、0d
B、−18dB、−36dBの3段階にステップ的(階
段的、段階的)に切り換えられるようになっている。
【0045】次に、上記実施の形態の動作および必要に
応じてさらに詳細な構成について説明する。
【0046】図4は、三角測量の原理説明に供される、
対象物体Sを含む情景を左右のカメラ1R、1Lにより
撮像している状態の平面視的図を示している。対象物体
Sの相対位置をRPで表すとき、相対位置RPは、既知
の焦点距離FからのZ軸方向(奥行き方向)の距離Zd
と右カメラ1RのX軸方向(水平方向)中心位置からの
水平方向のずれ距離DRとによって表される。すなわ
ち、相対位置RPがRP=RP(Zd、DR)で定義さ
れるものとする。もちろん、相対位置RPは、既知の焦
点距離Fからの距離Zdと左カメラ1LのX軸(水平方
向)中心位置からの水平方向のずれ距離DLとによって
表すこともできる。すなわち、RP=RP(Zd、D
L)と表すことができる。
【0047】図5Aは、右側のカメラ1Rによって撮像
された対象物体Sを含む画像(右画像または右側画像と
もいう。)IRを示し、図5Bは、左側のカメラ1Lに
よって撮像された同一対象物体Sを含む画像(左画像ま
たは左側画像ともいう。)ILを示している。これら画
像IRと画像ILとがそれぞれ画像メモリ4Rおよび画
像メモリ4Lに格納されていると考える。右側画像IR
中の対象物体画像SRと左側画像IL中の対象物体画像
SLとは、画像IR、ILのX軸方向の中心線35、3
6に対してそれぞれ視差dRと視差dLとを有してい
る。対象物体画像SRと対象物体画像SLとは、エピポ
ラーライン(視線像)EP上に存在する。対象物体Sが
無限遠点に存在するとき、対象物体画像SRと対象物体
画像SLとは、中心線35、36上の同一位置に撮像さ
れ、視差dR、dLは、dR=dL=0になる。
【0048】なお、CCDエリアセンサ13R、13L
上における図4に示す視差dR、dLとは、画像IR、
IL上の図5に示す視差dR、dLとは極性が異なる
が、CCDエリアセンサ13R、13Lからの読み出し
方向を変えることで同一極性とすることができる。光学
部に配設するレンズの枚数を適当に設定することにより
CCDエリアセンサ13R、13L上における視差d
R、dLと画像IR、IL上の視差dR、dLの極性と
を合わせることもできる。
【0049】図4から、次の(1)式〜(3)式が成り
立つことが分かる。
【0050】 DR:Zd=dR:F …(1) DL:Zd=dL:F …(2) D=DR+DL …(3) これら(1)式〜(3)式から距離Zdとずれ距離DR
とずれ距離DLとをそれぞれ(4)式〜(6)式で求め
ることができる。
【0051】 Zd=F×D/(DR+DL) …(4) DR=dR×D/(dL+dR) …(5) DL=dL×D/(dL+dR) …(6) これら位置情報である距離Zdとずれ距離DRとずれ距
離DLとをクラスタリングして、対象物体Sについての
識別符号としての、いわゆるアイディ(ID:Identifi
cation)を付けることで、車両追従装置等への応用を図
ることができる。
【0052】なお、実際上の問題として、CCDイメー
ジセンサ13R、13Lの実効1画素の物理的な大きさ
の測定や焦点距離Fの測定は困難であるため、比較的正
確に測定可能な画角を利用して距離Zd、ずれ距離D
R、DLを求める。
【0053】すなわち、例えば、カメラ1R、1Lの水
平画角をθ、カメラ1R、1Lの水平方向の実効画素数
(画像メモリ4R、4Lの水平画素数に等しい画素数)
をN、視差dR、dLに対応する画像メモリ4R、4L
上の画素数をNR、NLとすると、次に示す(7)式〜
(9)式から距離Zdとずれ距離DRとずれ距離DLと
をそれぞれ求めることができる。
【0054】 Zd=N×D/{2(NL+NR)tan(θ/2)} …(7) DR=NR・D/(NL+NR) …(8) DL=NL・D/(NL+NR) …(9) ここで、水平画角θは測定可能な値であり、水平方向画
素数N(この実施の形態では、上述したようにN=76
8)は予め定められており、視差dR、dLに対応する
画素数NRおよびNLも取り込んだ画像から分かる値で
ある。
【0055】次に、上述の画像の取り込みからIDを付
けるまでの過程をフローチャートを利用して全体的に説
明すれば、図6に示すようになる。
【0056】すなわち、AD変換器3R、3Lから出力
される映像信号データがそれぞれ画像メモリ4R、4L
に取り込まれて格納される(ステップS1)。
【0057】ステップS1に続いて、画像メモリ4Rに
記憶されたある領域の画像に対応する画像を画像メモリ
4Lから求め、いわゆる画像の左右の対応を取る(ステ
ップS2)。
【0058】対応を取った後、カメラ1R、1Lにおけ
る視差dR、dLを求め、位置情報に変換する(ステッ
プS3)。
【0059】その位置情報をクラスタリングし(ステッ
プS4)、IDを付ける(ステップS5)。
【0060】位置演算装置7の出力である、IDの付け
られた出力は、本発明の要部ではないので、詳しく説明
しないが、図示していない、例えば、道路・障害物認識
装置等に送出されて自動運転システムを構成することが
できる。この自動運転システムでは、運転者に対する警
告、自動車(ステレオカメラ1を積んだ自車)Mの衝突
回避、前走車の自動追従等の動作を行うことができる。
【0061】この実施の形態において、上述の左右の画
像の対応を取るステップS2では、いわゆる特徴に着目
した方法ではなく、基本的には、従来技術の項で説明し
た画像中の領域に着目する方法を採用している。
【0062】すなわち、エッジ、線分、特殊な形など何
らかの特徴を抽出し、それらの特徴が一致する部分が対
応の取れた部分であるとする特徴に着目する方法は、取
り扱う情報量が低下するので採用せず、一方の画像、こ
の実施の形態では、右画像IRから対象物体画像SRを
囲む小領域、いわゆるウィンドウを切り出し、この小領
域に似た小領域を他方の左画像ILから探すことにより
対応を決定する方法を採用している。
【0063】この実施の形態において採用した画像中の
領域に着目する方法では、2枚の画像IL、IR上にお
いて同一対象物体Sの対応を採る技術として、一方の画
像上に適当なサイズのウィンドウを設定し、他方の画像
においてこのウィンドウに対応する領域を求めるため
に、他方の画像に前記ウィンドウと同一サイズの領域を
設定する。
【0064】次に、両画像上の各ウィンドウ内の画像
(単に、ウィンドウ画像ともいう。)を構成する対応す
る各画素(詳しく説明すると、ウィンドウ画像中のマト
リクス位置が対応する各画素)についての画素データ
値、すなわち、輝度値を引き算して差を得、さらに輝度
差の絶対値を得る。
【0065】そして、各対応する画素についての輝度差
の絶対値の前記ウィンドウ内の和、いわゆる総和を求め
る。
【0066】この総和を左右画像の一致度(対応度とも
いう。)Hと定義する。このとき、右画像IRと左画像
ILのウィンドウ内の対応座標点(x,y)の輝度(画
素データ値)をそれぞれIR(x,y)、IL(x,
y)とし、ウィンドウの横幅をn画素(nは画素数)、
縦幅をm画素(mも画素数)とするとき、ずらし量をd
x(後述する)とすれば、一致度Hは、次の(10)式
により求めることができる。
【0067】 H(x,y)=Σ(j=1→m)Σ(i=1→n)|Id| …(10) ここで、 |Id|=|IR(x+i,y+j)−IL(x+i+dx,y+j)| である。記号Σ(i=1→n)は、|Id|についての
i=1からi=nまでの総和を表し、記号Σ(j=1→
m)は、Σ(i=1→n)|Id|の結果についてのj
=1からj=mまでの総和を表すものとする。
【0068】この(10)式から、一致度Hが小さいほ
ど、言い換えれば、輝度差の絶対値の総和が小さいほ
ど、左右のウィンドウ画像が良く一致していることが分
かる。
【0069】この場合、分割しようとするウィンドウ、
すなわち小領域の大きさが大きすぎると、その領域内に
相対距離Zdの異なる他の物体が同時に存在する可能性
が大きくなって、誤対応の発生する可能性が高くなる。
一方、小領域の大きさが小さすぎると、誤った位置で対
応してしまう誤対応、あるいは、ノイズを原因とする誤
対応が増加してしまうという問題がある。本発明者等
は、種々の実験結果から、最も誤対応が少なくなる小領
域の大きさは、横方向の画素数nがn=7〜9程度、縦
方向の画素数mがm=12〜15程度の大きさであるこ
とをつきとめた。
【0070】図7と図8は、対応処理装置6において一
致度Hを求める対応計算を行う際の領域の動かし方の概
念を示している。
【0071】図7に示すように、対応を取る元となる右
画像IR上の所定領域(小領域または原領域ともい
う。)31は、X軸方向左端位置から右へ1画素ずつ6
40画素分移動していき、対応を取られる左画像ILの
所定領域(小領域または検索領域ともいう。)32は、
右画像IRの原領域31の左端位置に対応する位置(以
下、原領域31の水平方向の変移位置という。)から対
応計算を行い、ずらし量dxを右方向にエピポラーライ
ンEP上を0〜最大127画素分だけ1画素ずつ移動さ
せて対応計算を行うようにしている。最大127画素の
ずれが有効な一致度Hの計算は、合計で(640−n)
×128回行われる。
【0072】なお、128画素分に限定する理由は、出
力結果を利用する側の要求から水平画角θがθ=40
°、最短の距離ZdがZd=5m、使用できるステレオ
カメラ1(カメラ1Rとカメラ1L)の水平方向の画素
数NがN=768、設置できる基線長DがD=0.5m
から、下記の(11)式に当てはめると、NL+NR=
105画素となり、ハードウェアにおいて都合のよい2
の累乗でこれに近い値の2=128を選んだからであ
る。
【0073】 NL+NR=(N×D)/{Zd×2×tan(θ/2)} =(768×0.5)/(5×2×tan20°) …(11) このことは、右画像IR中、X=0(左端)の位置に撮
像された対象が、かならず、左画像ILのずらし量dx
=0〜127に対応する0番目の画素位置から127番
目の画素位置内に撮像されていることを意味する。した
がって、X座標値(変移位置ともいう。)X=0を基準
とする原領域31内の撮像対象は、左画像ILのX座標
値X=0を基準として、ずらし量dx=0〜127の範
囲に撮像されていることを意味する。同様にして右画像
IRのX座標値X=640−nを基準とする原領域31
内の撮像対象は、左画像ILのX座標値X=640−n
を基準として、ずらし量dx=0〜127の範囲に撮像
されていることになる。
【0074】このとき、検索領域32の最右端の画素が
X座標値X=640+n+127=767(768番
目)の最右端の画素になるので、それ以上、右画像IR
の原領域31を右方向にずらすことは、一般に、無意味
である。右画像IR中、X座標値X=640−nより右
側の撮像対象は、左画像ILに撮像されないからであ
る。しかし、遠方の画像については対応がとれるため、
有意なこともあるので、本発明においては、対応すべき
画像のない部分の画素については8ビットの最大値25
5があるものとして一応計算を行なっている。メモリや
計算時間を節約するためにはX座標値X=640−nま
でで打ち切ることが有効である。
【0075】そこで、図8のフローチャートに示すよう
に、まず、右画像IR中のX座標値X=0を変移位置と
する原領域31を取り出し(ステップS11)、左画像
ILの検索領域32のずらし量dxをdx=0に設定す
る(ステップS12)。
【0076】次に、ずらし量dxがdx=127を超え
る値であるかどうか、すなわちdx=128であるかど
うかを判定する(ステップS13)。
【0077】この判定が否定的であるときには、対応度
Hの計算をするために、左画像ILの検索領域(小領
域)32分の画素データを取り出す(ステップS1
4)。
【0078】次いで、小領域31と小領域32の各画素
の差の絶対値の総和、すなわち、(10)式に示す一致
度Hを求め記憶する(ステップS15)。
【0079】次に、ずらし量dxをdx→dx+1(こ
の場合、dx=1)として1画素分増加する(ステップ
S16)。
【0080】このとき、ステップS13の判定は成立し
ないので、次に、ずらし量dx=1を基準に検索領域3
2を取り出し(再び、ステップS14)、このずらし量
dx=1基準の検索領域32とX座標値(変移位置とも
いう。)XがX=0の原領域31とで一致度Hを計算し
て記憶する(再び、ステップS15)。
【0081】同様にして、ずらし量dxがdx=128
になるまで(ステップS13の判定が成立するまで)X
座標値X=0の原領域31についての一致度Hを計算す
る。
【0082】ステップS13の判定が肯定的であると
き、すなわち、X座標値XがX=0の原領域31につい
て計算した一致度Hのうち、負のピーク値である最小値
Hminとその近傍の値を求め、記憶しておく(ステッ
プS17)。
【0083】次に、繁雑になるので、図8のフローチャ
ート中には記載しないが、右画像IR中の変移位置X=
1〜767(または640−n)まで、上述のステップ
S11〜17を繰り返し、各変移位置Xにおける右画像
IRの原領域31に最も対応する左画像ILの検索領域
32を検出する。
【0084】図9は、図7の動作説明図、図8のフロー
チャートに基づいて、一致度Hの計算等を行う対応処理
装置6の詳細な構成を示すブロック図である。
【0085】図9中、スキャン座標生成部61におい
て、対応処理を行おうとする右画像IRに対する原領域
31と左画像ILに対する検索領域32の座標(上述の
図7に示す変移位置Xとずらし量dxおよびエピポラー
ラインEPのY座標値)が生成される。
【0086】このスキャン座標生成部61で生成された
座標に基づいて、画像メモリ4R、4Lから読み出す小
領域のアドレスを画像メモリアドレス生成部64により
生成する。
【0087】さらにスキャン座標生成部61で生成され
た座標に基づいて、詳細を後述する補正テーブル63か
ら補正データ(補正情報)を読み出すための補正テーブ
ルアドレスが補正テーブルアドレス生成部62で生成さ
れる。
【0088】画像メモリ4R、4Lから読み出された画
像データに基づく一致度Hの計算、いわゆる相関演算が
相関演算部65で行われ、相関演算結果が相関メモリ6
7に記憶される。また、ずらし量dxに対応して相関演
算結果のピーク値、すなわち一致度Hの最小値Hmin
等がピーク値検出部66により検出され、検出されたピ
ーク値がピーク値メモリ68に記憶される。
【0089】補正テーブル63に格納される補正データ
は、いわゆるシェージング補正のためのデータである。
【0090】すなわち、図10に示すように、理想的レ
ンズの透過強度特性71に比較して実際のレンズ11の
場合には、透過強度特性72に示すように、レンズ11
の中心、すなわち、光軸15R、15Lからの距離に応
じて周辺光量(透過強度)が低下する、いわゆるコサイ
ン4乗則による強度低下が発生する。コサイン4乗則
は、入射強度をIin、出射強度をIoutとすると
き、周知のように、次の(12)式により得られる。
【0091】 Iout=Iin×(cosφ)4 …(12) 但し、φ:入射光の傾きの角度 なお、この実施の形態においては、後に詳しく説明する
ように、NDフィルタ組立体12Rを使用しているの
で、いわゆる機械的な開口絞りは設けておらず、したが
って、開口絞りの開口径の変化を原因とする口径食に基
づくシェージングの変化はない。実際上、シェージング
補正データは、CCDイメージセンサ13R、13Lも
含めて、基準となる明度の被写体を測定することで得る
ことができる。カメラ1R、1Lで得られた画像データ
をシェージング補正データで補正することにより、図1
0の理想的レンズの場合の透過強度特性71が得られ
る。このシェージング補正データが補正テーブル63に
格納されている。
【0092】対応処理装置6により一致度Hを計算する
相関演算の際には、対応を取る領域の原領域31と検索
領域32とは、上述したようにエピポラーラインEP上
を水平方向に移動させる必要がある。したがって、対応
する原領域31と検索領域32の明るさ(輝度)が、上
述のシェージングを原因として左右の画像IR、IL上
で異なってしまうため、シェージング補正は重要であ
る。
【0093】上述したように、スキャン座標生成部61
で生成された対応を取るべき座標に基づいて、補正テー
ブルアドレス生成部62により生成された指定アドレス
により補正テーブル63からシェージング補正データ
(補正情報)を読み出し、画素の画像情報(輝度情報)
に乗算してシェージング補正後の画像データを得ること
ができる。補正乗数Cは、画像メモリ4R、4Lの各画
素位置毎に、固定小数点の8ビット(整数部1ビット、
小数部7ビット)で持っている。なお、画像情報が対数
的に変化する場合には、符号付き整数の加算を行うこと
で補正が可能であることはいうまでもない。
【0094】ここで、本発明の要部に係る減光機能を制
御する露光量調整装置8に係る動作を説明する。
【0095】露光量調整装置8は、この実施の形態にお
いて、右画像IR中の原領域31を構成する画素データ
を平均し、その値が、所定の範囲、この実施の形態にお
いては、画素データが8ビットデータであるので256
階調あり、その中央付近の80〜160階調の間に入る
ように、図11Aおよび図11Bに示すルックアップテ
ーブルである露光量設定テーブル(合成利得設定テーブ
ルともいう。)8Aおよび8Bを参照して、合成利得A
S〔dB〕を決定する。合成利得ASを決定することに
より、CCU2R、2Lの増幅利得a1〔dB〕と、C
CDイメージセンサ13R、13Lの電子シャッタ時間
(正確には、電子シャッタ時間を図11A、Bの( )
中に示す利得に換算した等価的な利得〔dB〕)a2
と、NDフィルタ組立体12R、12Lに係る光量低下
利得a3〔dB〕とが自動的に決定される。
【0096】たとえば、周囲の明るさが明から暗に変化
する正午を超える夕方時から午前0時まで等において
は、図11Aに示す露光量設定テーブル8Aを参照す
る。例として、合成利得ASがAS=−18dBに選定
された場合には、CCU2R、2Lの増幅利得a1が共
にa1=0dBに設定され、CCDイメージセンサ13
R、13Lの電子シャッタ時間a2が1/500秒(利
得換算では−18dB)に設定され、NDフィルタ組立
体12R、12Lが、それぞれ、素通し(図3A)の状
態(利得換算では、光量低下利得a3=0dB)に設定
される。
【0097】この場合、夕方時においては、周囲の明る
さが徐々に暗くなることから、映像信号の振幅を増加さ
せるために合成利得ASを時間の経過に応じて徐々に大
きくする方向に変化させる必要があるが、明から暗時用
の露光量設定テーブル8Aを参照して合成利得ASを設
定した場合には、合成利得ASをAS=−18dBから
大きくする場合に電気的に切換可能な電子シャッタ時間
a2と増幅利得a1のみを大きくすれば済むように設定
しているので、機械的に作動するNDフィルタ組立体1
2R、12Lを切り換える作業が不要となり(上例で
は、素通しのまま)、信頼性が向上し、かつその作動に
伴う騒音等の発生を少なくすることができるという効果
が達成される。
【0098】なお、実際上、正午時等においては、周囲
の明るさが6dB変化することは希であり、明るさが変
化しない時刻においても、当然、NDフィルタ組立体1
2R、12Lの作動が最小限になる。
【0099】同様に、例えば、明け方時等においては、
周囲の明るさが徐々に明るくなることから、映像信号の
振幅を減少させるために合成利得ASを小さくする方向
に変化させる必要があるが、図11Bの暗から明時に係
る露光量設定テーブル8Bを参照して合成利得ASを、
例えば、当初、合成利得AS=−18dBに設定した場
合には、駆動回路5R、5Lを通じてフィルタ切換用モ
ータ25が回転され、利得を18dB低下させるNDフ
ィルタ23が光軸15Rに設定された後、合成利得AS
がAS=−30dBから−36dBに変化する時点での
み1回だけNDフィルタ組立体12R、12Lが作動さ
れる。このように、この実施の形態では、明から暗時へ
の変化用の露光量設定テーブル8Aと、暗から明時への
変化用の露光量設定テーブル8Bとを備え、周囲の明る
さが明るくなっていく場合と暗くなっていく場合とでは
組み合わせを変え、NDフィルタ組立体12R、12L
の利得切り換えにさしかかる明度変化ではNDフィルタ
組立体12R、12Lが繁雑に作動しないように工夫し
ている。
【0100】ステップ的に3段階(0dB、−18d
B、−36dB)に変化する減光機構であるNDフィル
タ組立体12R、12Lを採用することにより、従来技
術のように、開口絞りを連続的にフィードバック制御す
る必要がなくなるという利点が得られる。
【0101】また、開口絞りを使用していないので、絞
りの変化による上述のシェージング量の変化が一定にな
る、言い換えれば、絞りの変化による周辺光量の増減が
なくなることから、補正テーブル63に準備しておくシ
ェージング補正データも1種類でよくなる。したがっ
て、補正値を絞りに応じて変化させる必要がなくなり、
メモリ素子等のトータル的な資源の減少および演算時間
を短くすることができるという利点も得られる。
【0102】すなわち、この実施の形態によれば、光学
的絞りが、実際上、実質的に開放状態となり、周辺光量
の変化の割合は一定になる。開口絞りは不要となり、そ
の分、機構を簡単にすることができる。
【0103】さらに、レンズ11R、11Lの口径を、
常に、最大限に使用することができるため、レンズ11
R、11Lの前方(被写体側)に配される光学ガラスに
付着した汚れやごみを原因とする画像上の影響を低減で
きる。すなわち、開口絞りを使う場合に、例えば、日中
には、絞りが絞りこまれることから被写体深度が深くな
り、汚れやごみ等が画像上に雑音としてはっきり写って
しまい、誤対応が発生する可能性が大きくなるが、この
ような問題をNDフィルタ組立体12R、12Lの利用
により未然に回避することができる。
【0104】次に、図12は、図6、図7を参照して説
明した一致度Hを求めるための相関演算部65の詳細な
構成を示している。
【0105】この相関演算部65は、基本的には、第1
〜第4の演算ブロック81〜84を有する、いわゆるパ
イプライン方式的処理である並列処理方式を採用してい
る。
【0106】理解の容易化のために、まず、パイプライ
ン方式的処理を考慮しないで、具体的には、FIFOメ
モリ65iが存在しないものとして、第1の演算ブロッ
ク81のみで、図6、図7を参照して説明した一致度H
を求めるための動作について説明する。そして、上述の
ように、誤対応が最も少なくなるそれぞれの小領域(原
領域31と検索領域32)の大きさとしては、横方向の
画素数nがn=7〜9画素程度、縦方向の画素数mがm
=12〜15画素程度であるが、ここでは、理解を容易
にするために、n=4、m=5として説明する。
【0107】図13は、このような前提のもとでの、エ
ピポラーラインEP上に乗る仮想的な右画像データIr
dの例を示している。原領域31の対象となる全画素デ
ータ数は、m×640=5×640箇であるものとす
る。
【0108】図14は、同様に、エピポラーラインEP
上に乗る仮想的な左画像データIldの例を示してい
る。検索領域32の対象となる全画素データ数は、m×
768=5×768箇であるものとする。
【0109】図12において、画像メモリ4Rから端子
85を通じて原領域31の右画像データIrdが乗算器
65jの一方の端子に供給され、画像メモリ4Lから端
子86を通じて検索領域32の左画像データIldが乗
算器65kの一方の端子に供給される。
【0110】乗算器65j、乗算器65kの他方の端子
には、補正テーブル63からそれぞれ端子87、88を
通じてシェージング補正データが供給され、シェージン
グ補正後の右画像データIrdが減算器65aの被減算
入力端子に供給され、シェージング補正後の左画像デー
タIldが減算器65aの減算入力端子に供給される。
【0111】一般的に説明すると、減算器65aでは、
縦方向の左右の画素データの差を取り、その差の絶対値
が絶対値演算器65bで取られる。加算器65cは、縦
方向の左右の画素データの差の絶対値の和を取るととも
に、ラッチ65dにラッチされている前列の縦方向の左
右の画素データの差の絶対値の和を加算する。
【0112】FIFOメモリ65eには、横方向の画素
数nに対応するn段分、この実施の形態では、当該列の
分を除いて左側(前側)に4(=n)列分の縦方向の左
右の画素データの差の絶対値の和が保持される。すなわ
ち、この実施の形態において、FIFOメモリ65e
は、最初(入力側)のメモリ65e1〜最後(出力側)
のメモリ65e4までの4段ある。
【0113】具体的に説明すると、1回目の演算(1列
1行目)で加算器65cの出力側には、1列1行目の左
右の画素データの差の絶対値|A1−a1|が現れ、か
つ、この値|A1−a1|がラッチ65dに保持され
る。
【0114】2回目の演算(1列目2行目)で1列2行
目の左右の画素データの差の絶対値|A2−a2|とラ
ッチ65dに保持されているデータ|A1−a1|との
和、すなわち、|A2−a2|+|A1−a1|が加算
器65cの出力側に現れる。
【0115】したがって、5回目の演算後には、次の
(13)式に示す1列目の左右の画素データの差の絶対
値の和(データ)Σ(以下、2列目以降を順次、Σ
、Σ、Σ、…Σ641とする。)が加算器65c
の出力側に現れ、この和Σは、ラッチ65dに保持さ
れる。また、このデータΣは、FIFOメモリ65e
の最初のメモリ65e1に格納される。
【0116】 Σ=|A1−a1|+|A2−a2|+|A3−a3| +|A4−a4|+|A5−a5| …(13) この1列目の左右の画素データの差の絶対値の和Σ
が、最初のメモリ65e1に格納された後、ラッチ65
dは、端子89から供給される制御信号によりリセット
される。
【0117】このようにして、ずらし量dxの値がdx
=0での小領域31、32間での全ての1回目の計算が
終了する4列(4=n)5行(5=m)目の演算終了後
のラッチ65dに格納されるデータ値とFIFOメモリ
65eに格納されるデータ値とラッチ65hに格納され
るデータ値等を図15に模式的に示す。
【0118】図15において、ずらし量dxの値がdx
=0の場合における次の(14)式に示す最初に求めら
れる一致度H0が加算器65gの出力側に現れている点
に留意する。
【0119】 H0=Σ+Σ+Σ+Σ …(14) 次に、5列5行目の演算終了後の図15に対応する図を
図16に示す。図16から分かるように、ずらし量dx
の値がdx=0の場合の検索領域32に対する一致度H
0が出力端子90に現れる。
【0120】この場合、加算器65fの出力側には、5
列目のデータΣと1列目のデータΣとの差Σ−Σ
が現れるので、加算器65gの出力側には、ずらし量
dxの値がdx=1の場合の検索領域32に対する次の
(15)式に示す一致度H1が現れることになる。
【0121】 H1=Σ+Σ+Σ+Σ …(15) ここで、実際の小領域15×15を水平方向にX=0〜
639まで移動し、ずらし量dxをdx=128までの
各一致度Hを求める際に、この実施の形態では、原領域
31の左画像IL上で1画素分右にずらした位置での対
応度Hを求めるとき、左端の縦方向の和(上例ではΣ
)を減じて右に加わる新たな列の縦方向の和(上例で
はΣ)を加えるようにしているので、演算回数を15
×640×128=1,228,800回にすることが
できる。すなわち、小領域の横方向の幅(画素数)は計
算時間に無関係になる。
【0122】もし、上例のように演算しなくて、15×
15の小領域を移動させこの小領域毎に各領域を構成す
る画素データの差を取って、一致度Hを、水平方向X=
0〜639までずらし量dxを128まで計算すること
にすると、演算回数は15×15×640×128=1
8,432,000回となり、最も演算時間のかかる絶
対値演算器65bの1回の演算時間を100nsで実行
した場合でも、総演算時間が1843msかかることに
なる。これに対して上例では、総演算時間を123ms
であり、約1/15に低減することができる。
【0123】しかし、この総演算時間123msは、N
TSC方式のフレームレートである33msより大きい
ので、フレームレート毎に、言い換えれば、1画面毎に
一致度Hを計算する場合には、総演算時間123msを
約1/4以下の時間にする必要がある。
【0124】そこで、この実施の形態では、図12に示
したように、第1演算ブロック81と同一構成の第2〜
第4演算ブロック82〜84を設け、縦方向の画素数m
と同数のFIFOメモリ65iを直列に接続している。
【0125】この場合、簡単のために、図13、図14
と同じ画像データを利用してパイプライン方式的処理動
作を説明すれば、最初に、第1〜第2演算ブロック8
1、82を構成するFIFOメモリ65eを通じて、第
3の演算ブロック83を構成するFIFOメモリ65i
に1列目の画素データa1〜a5までを転送する。した
がって、この転送時点で、第2の演算ブロックを構成す
るFIFOメモリ65iには2列目の画素データb1〜
b5が転送され、第1の演算ブロックを構成するFIF
Oメモリ65iには3列目の画素データc1〜c5が転
送される。
【0126】次に、次の4列目の画素データd1〜d5
を第1演算ブロック81のFIFOメモリ65iに順次
転送したとき、第4演算ブロック84では右1列目の画
素データA1〜A5と左1列目の画素データa1〜a5
に関連する上述の演算が行われ、第3演算ブロック83
では右1列目の画素データA1〜A5と左2列目の画素
データb1〜b5に関連する上述の演算が行われ、第2
演算ブロック82では右1列目の画素データA1〜A5
と左3列目の画素データc1〜c5に関連する上述の演
算が行われ、第1演算ブロック81では右1列目の画素
データA1〜A5と左4列目の画素データd1〜d5に
関連する上述の演算が行われる。
【0127】次いで、右2列目の画素データB1〜B5
の転送に同期して次の左5列目の画素データe1〜e5
を第1の演算ブロック81のFIFOメモリ65iに順
次転送したとき、第4演算ブロック84では右2列目の
画素データB1〜B5と左2列目の画素データb1〜b
5に関連する演算が行われ、第3演算ブロック83では
右2列目の画素データB1〜B5と左3列目の画素デー
タc1〜c5に関連する演算が行われ、第2演算ブロッ
ク82では右2列目の画素データB1〜B5と左4列目
の画素データd1〜d5に関連する演算が行われ、第1
演算ブロック81では右2列目の画素データB1〜B5
と左5列目の画素データe1〜e5に関連する上述の演
算が行われる。
【0128】このようにして、次に、右3列目の画素デ
ータC1〜C5の転送に同期して次の左6列目の画素デ
ータf1〜f5を順次同期して転送するようにすれば、
第4演算ブロック84では、ずらし量dxがdx=0、
dx=4、……についての一致度Hを計算でき、同様
に、第3の演算ブロック83では、ずらし量dxがdx
=1、dx=5、……についての一致度Hを計算でき、
第2の演算ブロック82では、ずらし量dxがdx=
2、dx=6、……についての一致度Hを計算でき、第
1の演算ブロック81では、ずらし量dxがdx=3、
dx=7、……についての一致度Hを同時に計算するこ
とできる。
【0129】このように、パイプライン方式的処理の4
並列にすれば、演算時間を約1/4に低減することがで
きる。なお、上述の説明から理解できるように、第4演
算ブロック84中のFIFOメモリ65iは不要であ
る。
【0130】この場合、図12例の4並列による動作に
よれば、1フレームレートで1フレームの画像について
の640点の距離情報が求まり、左画像ILの横768
画素×縦15画素の帯領域の処理が完了するが、これは
1画像領域が768×240画素であることを考える
と、全画像領域の1/16になる。
【0131】なお、左右のカメラ1R、1Lの上下方向
の取付位置がずれた場合等を想定した場合には、当初の
エピポラーラインEP上に対応する対象物画像が存在し
なくなる場合も考えられる。この場合、図示はしない
が、例えば、図9の対応処理装置6の構成を4並列に
し、画像の縦方向の処理を4並列にすることにより、横
768画素、縦15画素の帯領域4つをフレームレート
で処理することが可能となる。この場合に、領域が重な
らないようにすることで、最大127画素のずれまで検
出できる距離情報を1フレームレートで(640−n)
×4点出力できる。
【0132】図12例の相関演算部65の処理により、
1本のエピポラーラインEP上における右画像IR中の
640個の原領域31のそれぞれに対して、ずらし量d
xがdx=0〜127の検索領域32についての128
個の一致度Hが演算され、この演算結果の一致度Hが、
相関メモリ67に格納される。
【0133】また、1個の原領域31、すなわち、各変
移位置Xに対する128個の検索領域32のうち、一致
度Hが最小値となる値(ピーク値ともいう。)をピーク
値検出部66で検出し、検出したピーク値(最小値)H
minを、そのときの変移位置Xとずらし量dxに対応
させてピーク値メモリ68に記憶する。ピーク値メモリ
68は、一致度Hのピーク値(最小値)記憶テーブルと
して機能する。
【0134】変移位置Xとずらし量dxをアドレスとし
て一致度Hが記憶されている相関メモリ67と、その最
小値としてのピーク値Hminが記憶されているピーク
値メモリ68が位置演算装置7に接続されている。
【0135】位置演算装置7は、一致度Hとそのピーク
値Hminとを参照し、図17に示すフローチャートに
基づいて、対象物体Sの3次元空間での位置Pを求め
る。
【0136】変移位置Xが所定の変移位置であるX=X
pの原領域31についての位置Pの算出方法について説
明する。
【0137】まず、所定の変移位置Xpの原領域31に
ついての一致度Hについての、ピーク値Hminと、そ
のときのずらし量dx(このずらし量dxをずらし量d
xminと呼ぶ)をピーク値メモリ68から取り込む
(ステップS21)。
【0138】次に、このずらし量dxminの近傍の左
右各2個の一致度H、すなわち、ずらし量dxがずらし
量dxminより3つ少ないずれ量dxmin-2および
3つ多いずれ量dxmin+2の各位置における一致度H
min-2、Hmin+2を取り込む(ステップS22)。
【0139】次に、次の(16)式に基づいて谷の深さ
(ピーク深さともいう。)Qを求める(ステップS2
3)。
【0140】 Q=min{Hmin-2/Hmin,Hmin+2/Hmin} …(16) この(16)式は、ピーク値Hminに対する、これか
ら2つ隣の一致度Hmin-2、Hmin+2の大きさの各
比のうち、最小値を取ることを意味する。
【0141】そして、この谷の深さQが所定の閾値TH
以上の値であるかどうか(Q≧TH)を判定し(ステッ
プS24)、所定の閾値TH以上の値である場合には、
ピーク値Hminであり、ずらし量dxminの検索領
域32が所定の変移位置Xpの原領域31に対応する領
域であると同定して次のステップS25に進む。
【0142】一方、ステップS24の結果が否定的であ
る場合には、ピーク値Hminであり、ずらし量dxm
inの検索領域32が所定の変移位置Xpの原領域31
に対応する領域ではないと判断して、次の変移位置Xp
+1の原領域31に対する対応する検索領域32を求め
る処理が全て終了したかどうかを判定し(ステップS2
8)、全ての変移位置Xに対応する処理が終了していな
い場合には、そのステップS21〜S24の処理を繰り
返す。
【0143】この実施の形態において、一致度Hのピー
ク値Hminを変移位置Xpの原領域31に対応する検
索領域32であると直ちに同定しないで、その近傍を見
て(ステップS22)、その谷の深さQを計算し(ステ
ップS23)、その谷の深さQが所定の閾値TH以上の
場合にのみ、一致度Hのピーク値Hminが得られるず
らし量dxminの検索領域32が、変移位置Xpの原
領域31に対応する検索領域32であると同定する理由
は、雑音の混入または画像IR、ILの被写体の画像濃
度が一様である場合等に、一致度Hのピーク値Hmin
が得られる。ずらし量dxminの検索領域32が、変
移位置Xpの原領域31に必ずしも対応するとは限らな
いからである。
【0144】すなわち、ずらし量dxminの位置の近
傍領域を考慮して、谷の深さQが、所定の閾値THより
小さいものは、対応がよく取れていないと判断し、その
一致度Hのピーク値Hminは利用しないこととした。
なお、所定の閾値THは、この実施の形態においては、
TH=1.2とした。
【0145】ステップS24の判断が肯定的であると
き、ずらし量dxの真の値(真のピーク位置という)d
sを次に示す補間処理により求める(ステップS2
5)。すなわち、図18に示すように、最小位置座標を
(dxmin,Hmin)とし、その前後の位置座標を
それぞれ(dxmin-1,Hmin-1)、(dxmin
+1,Hmin+1)とするとき、前後の一致度Hmi
-1、Hmin+1の大きさを比較して、それぞれ次の
(17)式〜(19)式で示す値に推定する。
【0146】Hmin-1<Hmin+1の場合、 ds=dxmin −{(Hmin-1−Hmin+1)/(2・(Hmin−Hmin+1))} …(17) Hmin-1=Hmin+1の場合、 ds=dxmin …(18) Hmin-1>Hmin+1の場合、 ds=dxmin +{(Hmin+1−Hmin-1)/(2・(Hmin−Hmin-1))} …(19) この(17)式〜(19)式の補間式を用いて真のピー
ク位置dsを求めた場合には、補間しない場合に比較し
て、位置精度が3倍向上することを実験的に確認するこ
とができた。
【0147】結局、ステップS25の補間処理終了後
に、変移位置Xpの原領域31に最も対応する検索領域
32の真のピーク位置dsが求まることになる。
【0148】このようにして求められた変移位置Xpと
真のピーク位置dsは、それぞれ、図5に示す右画像I
R上の対象物体画像SRの視差dRと左画像IL上の対
象物体画像SLの視差dLに対応する。
【0149】しかし、実際上、フロントガラスやカメラ
1R、1Lの対物レンズ11R、11Lの光学特性によ
って、左右の画像IR、ILには、例えば、ピンクッシ
ョン的歪、あるいはバレル的歪が存在するので、これら
による歪補正を行った視差dRと視差dLとを求める。
【0150】そこで、これら歪補正を行った視差dRと
視差dLを測定値として、上述の(4)式〜(6)式か
ら対象物体Sまでの奥行き方向の距離Zdと、その距離
Zdからの左右の偏差にかかるずれ距離DRとずれ距離
DLとの3次元位置情報を求めることができる(ステッ
プS27)。
【0151】ステップS28では、エピポラーラインE
P上の全ての変移位置Xでの原領域31に対応する検索
領域32中の真のピーク位置dsを求める演算が終了し
たかどうか、すなわち、X=767であるかどうかを確
認して処理を終了する。
【0152】位置演算装置7で作成された、これら3次
元位置情報である距離Zdとずれ距離DRとずれ距離D
Lとはクラスタリングされ、対象物体Sについての識別
符号としての、いわゆるアイディ(ID:Identificati
on)が付けられて、出力端子90を通じて、次の処理過
程である、図示しない道路・障害物認識装置等に接続さ
れる。
【0153】道路・障害物認識装置等は、自動運転シス
テムを構成し、運転者に対する警告、車体の自動衝突回
避、前走車への自動追従走行などの動作を行うことがで
きる装置である。この場合、例えば、自動追従走行を行
うシステムとして、本出願人の出願による「物体検出装
置およびその方法」(特願平7−249747号)を挙
げることができる。
【0154】なお、この発明は上述の実施の形態に限ら
ず、この発明の要旨を逸脱することなく種々の構成を採
り得ることはもちろんである。
【0155】
【発明の効果】以上説明したように、この発明によれ
ば、撮像素子部に入射する光の光量をステップ的に変化
させる減光フィルタの光軸への挿入を、露光量調整手段
により駆動される切換手段により切り換えている。減光
フィルタを挿入または非挿入とすることで入射光量、言
い換えれば、露光量を変化させているので、開口絞りを
変化させる必要がなくなり、実質的に開放状態とするこ
とができるという効果が達成される。すなわち、開口絞
りを不要にすることができる。また、光量をステップ的
に変化させるので、連続的なフィードバック制御が不要
となり、装置構成が簡単になるという利点が得られる。
【0156】その上、減光フィルタの光軸への挿抜機構
は、同心状に口径が連続的に変化するもの(いわゆるア
イリス絞り機構)に比較して構造が簡単であり、結果と
して簡便な機構で、複数のカメラ間の連動した光量調整
を精度よく行うことができるという効果も達成される。
【0157】これらにより、左右画像間の対応処理を正
確なデータに基づいて行うことが可能となり、距離測定
の精度が向上し、結果として、装置の信頼性が向上する
という効果も達成される。
【0158】また、この発明によれば、撮像素子部の露
光時間値を調整する露光時間調整手段を備え、前記露光
量調整手段が、減光フィルタと露光時間値との予め定め
られた組み合わせにより、光学部から画像信号出力手段
までに至る合成利得値を決定するようにしているので、
さらに細かいステップで露光量を調整することができる
という効果が達成される。
【0159】さらに、第3のこの発明によれば、第1の
発明の構成に加えて、増幅利得を調整する増幅利得調整
手段を画像信号出力手段に備え、露光量調整手段が、増
幅利得値と減光フィルタとの予め定められた組み合わせ
により、光学部から画像信号出力手段までの合成利得値
を決定するようにしているので、第2のこの発明と同様
に、さらに細かいステップで露光量を調整することがで
きるという効果が達成される。
【0160】さらにまた、第4のこの発明によれば、露
光量調整手段が、増幅利得値と減光フィルタと露光時間
値との予め定められた組み合わせにより、光学部から画
像信号出力手段までの合成利得値を決定するようにして
いるので、一層細かいステップで露光量を調整すること
ができるとともに、より入射(外界)光量の大きな光量
変化にも対応可能な最適な露光量を調整することができ
るという効果が達成される。
【0161】なお、撮像素子部にCCDイメージセンサ
を有するものとした場合に、露光時間は、このCCDイ
メージセンサの電子シャッタ時間とすることができるの
で、CCDイメージセンサは元来正確なクロックパルス
に基づいて動作しており、このクロックパルスを利用し
て露光時間の調整を電気的にかつ正確に行うことができ
るという派生的な効果が達成される。
【0162】また、減光フィルタとしては、NDフィル
タや、多数の孔が開けられた孔あき板を使用することが
できる。孔あき板としては、金属板等に多数の孔が等間
隔に開けられた、いわゆるパンチングメタルを採用する
ことができる。NDフィルタやパンチングメタルを利用
した減光フィルタを絞りとすることで、上述のアイリス
絞りに比較して、構成を簡単化でき、かつコストを低減
することが可能となるという効果も達成される。
【図面の簡単な説明】
【図1】この発明の一実施の形態の構成を示すブロック
図である。
【図2】ステレオカメラの据えつけ位置の説明に供され
る概略斜視図である。
【図3】NDフィルタ組立体の構成および作用の説明に
供される正面視的図であって、Aは、いわゆる素通しの
状態、Bは、−18dBのNDフィルタを光軸上に挿入
した状態、Cは、−36dBのNDフィルタを光軸上に
挿入した状態をそれぞれ示す図である。
【図4】三角測量の原理で距離を求める際の説明に供さ
れる平面視的図である。
【図5】対象物体にかかる左右画像上での視差の説明に
供される線図であって、Aは、左側画像、Bは、右側画
像をそれぞれ表す図である。
【図6】図1例の装置の全体的な動作説明に供されるフ
ローチャートである。
【図7】左右の小領域の対応処理の仕方の説明に供され
る図である。
【図8】図7例の説明に供されるフローチャートであ
る。
【図9】対応処理装置の詳細な構成を含む装置の構成を
示すブロック図である。
【図10】レンズのシェージング補正の説明に供される
特性図である。
【図11】露光量調整用ルックアップテーブルを表す図
であり、Aは、周囲の明るさが明るい状態から暗い状態
になる夕方時等に採用されるルックアップテーブル、B
は、周囲の明るさが暗い状態から明るい状態になる明け
方時等に採用されるルックアップテーブルをそれぞれ表
す図である。
【図12】相関演算部の詳細な構成を示す回路ブロック
図である。
【図13】エピポラーライン上の左画像データの一部を
模式的に表す線図である。
【図14】エピポラーライン上の右画像データの一部を
模式的に表す線図である。
【図15】図12例中、第1演算ブロックの動作説明に
供されるブロック図である。
【図16】図12例中、第1演算ブロックの動作説明に
供される他のブロック図である。
【図17】位置演算装置の動作説明に供されるフローチ
ャートである。
【図18】補間演算の説明に供される線図である。
【符号の説明】
1…ステレオカメラ 1R、1L…
ビデオカメラ 2R、2L…カメラ制御ユニット 4R、4L…
画像メモリ 5R、5L…駆動回路 6…対応処理
装置 7…位置演算装置 8…露光量調
整装置 11R、11L…対物レンズ 12R、12L…NDフィルタ組立体 13R、13L…CCDイメージセンサ 14R、14
L…信号処理回路 15R、15L…光軸 23、24…
NDフィルタ
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 庁内整理番号 FI 技術表示箇所 G08G 1/16 H04N 5/232 Z H04N 5/232 G06F 15/62 380

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】画像情報を有する光をとらえる光学部と、
    この光学部を通じて得た光を電気信号に変換する撮像素
    子部と、この撮像素子部の出力電気信号を画像信号に変
    換して出力する画像信号出力手段との組み合わせを複数
    有し、前記複数の画像信号出力手段からそれぞれ出力さ
    れる画像信号に基づく画像により物体までの距離を三角
    測量の原理に基づき測定する車両用環境認識装置におい
    て、 前記複数の光学部にそれぞれ配される少なくとも1つの
    減光フィルタと、 前記減光フィルタの、前記複数の光学部の光軸と略直交
    する方向への同時挿入、非挿入を切り換える切換手段
    と、 前記画像信号出力手段に接続され、前記画像の明るさが
    所定の明るさとなるように前記切換手段を駆動して前記
    減光フィルタの挿入、非挿入を決定する露光量調整手段
    とを備え、 前記光学部の開口絞りを実質的に開放としたことを特徴
    とする車両用環境認識装置。
  2. 【請求項2】請求項1記載の装置において、 前記撮像素子部の露光時間を調整する露光時間調整手段
    を備え、 前記露光量調整手段は、前記減光フィルタの挿入、非挿
    入を決定するとともに、前記減光フィルタと前記露光時
    間調整手段による露光時間値との予め定められた組み合
    わせにより、前記光学部から前記画像信号出力手段まで
    に至る合成利得値を決定するようにしたことを特徴とす
    る車両用環境認識装置。
  3. 【請求項3】請求項1記載の装置において、 前記画像信号出力手段は、増幅利得を調整する増幅利得
    調整手段を備え、 前記露光量調整手段は、前記減光フィルタの挿入、非挿
    入を決定するとともに、前記減光フィルタと前記増幅利
    得調整手段による増幅利得値との予め定められた組み合
    わせにより、前記光学部から前記画像信号出力手段まで
    の合成利得値を決定するようにしたことを特徴とする車
    両用環境認識装置。
  4. 【請求項4】請求項1記載の装置において、 前記撮像素子部の露光時間を調整する露光時間調整手段
    と、 前記画像信号出力手段に配され、増幅利得を調整する増
    幅利得調整手段とを備え、 前記露光量調整手段は、前記減光フィルタの挿入、非挿
    入を決定するとともに、前記減光フィルタと前記露光時
    間調整手段による露光時間値と前記増幅利得調整手段に
    よる増幅利得値との予め定められた組み合わせにより、
    前記光学部から前記画像信号出力手段までの合成利得値
    を決定するようにしたことを特徴とする車両用環境認識
    装置。
  5. 【請求項5】請求項2または4記載の装置において、 前記撮像素子部はCCDイメージセンサを有し、前記露
    光時間は、このCCDイメージセンサの電子シャッタ時
    間であることを特徴とする車両用環境認識装置。
  6. 【請求項6】請求項1〜5のいずれか1項に記載の装置
    において、 前記減光フィルタをNDフィルタとしたことを特徴とす
    る車両用環境認識装置。
  7. 【請求項7】請求項1〜5記載のいずれか1項に記載の
    装置において、 前記減光フィルタを減光率の異なる2つのNDフィルタ
    とし、この2つのNDフィルタの非挿入を含めて、前記
    露光量調整手段は、露光量を3段に切り換えることを特
    徴とする車両用環境認識装置。
  8. 【請求項8】請求項6または7記載の装置において、N
    Dフィルタを、多数の孔が開けられた孔あき板に代替す
    ることを特徴とする車両用環境認識装置。
JP28102095A 1995-10-27 1995-10-27 車両用環境認識装置 Expired - Fee Related JP3571828B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28102095A JP3571828B2 (ja) 1995-10-27 1995-10-27 車両用環境認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28102095A JP3571828B2 (ja) 1995-10-27 1995-10-27 車両用環境認識装置

Publications (2)

Publication Number Publication Date
JPH09126758A true JPH09126758A (ja) 1997-05-16
JP3571828B2 JP3571828B2 (ja) 2004-09-29

Family

ID=17633175

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28102095A Expired - Fee Related JP3571828B2 (ja) 1995-10-27 1995-10-27 車両用環境認識装置

Country Status (1)

Country Link
JP (1) JP3571828B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0735158A (ja) * 1993-07-22 1995-02-03 Shinko Electric Co Ltd 舶用油圧クラッチユニットの冷却構造
JPH11325888A (ja) * 1998-05-14 1999-11-26 Fuji Heavy Ind Ltd ステレオカメラの絞り装置
JP2004096488A (ja) * 2002-08-30 2004-03-25 Fujitsu Ltd 物体検知装置、物体検知方法および物体検知プログラム
JP2005323180A (ja) * 2004-05-10 2005-11-17 Denso Corp 撮像制御装置及びプログラム
US6987534B1 (en) 1999-08-30 2006-01-17 Fuji Jukogyo Kabushiki Kaisha Brightness adjusting apparatus for stereoscopic camera
JP2009176087A (ja) * 2008-01-25 2009-08-06 Fuji Heavy Ind Ltd 車両用環境認識装置
WO2012137420A1 (ja) * 2011-04-04 2012-10-11 株式会社 東芝 Ccdカメラを使用した測定装置、及びその応答時間の短縮方法
JP2014178190A (ja) * 2013-03-14 2014-09-25 Ricoh Co Ltd ステレオカメラ
JP2016187149A (ja) * 2015-03-27 2016-10-27 日立オートモティブシステムズ株式会社 車載カメラ画像処理装置
JP2020522907A (ja) * 2017-05-19 2020-07-30 ウェイモ エルエルシー 明滅する照明された物体を検出するのにフィルタおよび露出時間を使用するカメラ・システム

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0735158A (ja) * 1993-07-22 1995-02-03 Shinko Electric Co Ltd 舶用油圧クラッチユニットの冷却構造
JPH11325888A (ja) * 1998-05-14 1999-11-26 Fuji Heavy Ind Ltd ステレオカメラの絞り装置
US6987534B1 (en) 1999-08-30 2006-01-17 Fuji Jukogyo Kabushiki Kaisha Brightness adjusting apparatus for stereoscopic camera
JP2004096488A (ja) * 2002-08-30 2004-03-25 Fujitsu Ltd 物体検知装置、物体検知方法および物体検知プログラム
JP2005323180A (ja) * 2004-05-10 2005-11-17 Denso Corp 撮像制御装置及びプログラム
JP2009176087A (ja) * 2008-01-25 2009-08-06 Fuji Heavy Ind Ltd 車両用環境認識装置
WO2012137420A1 (ja) * 2011-04-04 2012-10-11 株式会社 東芝 Ccdカメラを使用した測定装置、及びその応答時間の短縮方法
JP2012220207A (ja) * 2011-04-04 2012-11-12 Toshiba Corp Ccdカメラを使用した測定装置、及びその応答時間の短縮方法
CN103038602A (zh) * 2011-04-04 2013-04-10 株式会社东芝 使用了ccd摄像机的测定装置以及其响应时间的缩短方法
KR101464090B1 (ko) * 2011-04-04 2014-11-21 가부시끼가이샤 도시바 Ccd 카메라를 사용한 측정 장치, 및 그 응답 시간의 단축 방법
JP2014178190A (ja) * 2013-03-14 2014-09-25 Ricoh Co Ltd ステレオカメラ
JP2016187149A (ja) * 2015-03-27 2016-10-27 日立オートモティブシステムズ株式会社 車載カメラ画像処理装置
JP2020522907A (ja) * 2017-05-19 2020-07-30 ウェイモ エルエルシー 明滅する照明された物体を検出するのにフィルタおよび露出時間を使用するカメラ・システム
US10776938B2 (en) 2017-05-19 2020-09-15 Waymo Llc Camera systems using filters and exposure times to detect flickering illuminated objects
US11341667B2 (en) 2017-05-19 2022-05-24 Waymo Llc Camera systems using filters and exposure times to detect flickering illuminated objects

Also Published As

Publication number Publication date
JP3571828B2 (ja) 2004-09-29

Similar Documents

Publication Publication Date Title
US7092015B1 (en) Apparatus and method for stereo matching and method of calculating an infinite distance corresponding point
US6373518B1 (en) Image correction apparatus for stereo camera
EP1087336A2 (en) Apparatus and method for stereoscopic image processing
JP3280001B2 (ja) ステレオ画像の位置ずれ調整装置
US5646679A (en) Image combining method and apparatus
US7139424B2 (en) Stereoscopic image characteristics examination system
EP3438777A1 (en) Method, apparatus and computer program for a vehicle
US7911516B2 (en) Camera module and electronic apparatus provided with it
US20080151079A1 (en) Imaging Device and Manufacturing Method Thereof
US20080239064A1 (en) Stereoscopic image pickup apparatus and method of adjusting optical axis
KR20120068655A (ko) 무선통신장치를 이용하여 양질의 홍채 및 피사체 영상을 편리하게 촬영하기 위한 방법 및 한 개의 밴드패스필터로 가시광선과 근적외선 일부영역을 투과시키는 카메라 장치
JP3765862B2 (ja) 車両用環境認識装置
JP2020056839A (ja) 撮像装置
EP2109061B1 (en) Image processing apparatus for vehicle
JP3287465B2 (ja) ステレオ画像処理装置
JP2002071309A (ja) 3次元画像検出装置
JP2004258266A (ja) ステレオアダプタ及びそれを用いた距離画像入力装置
JP3571828B2 (ja) 車両用環境認識装置
US6697146B2 (en) Range finder for finding range by image realization
WO2021035524A1 (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
JP3599255B2 (ja) 車両用環境認識装置
WO2022198862A1 (zh) 一种图像的校正方法及及屏下***
JP2001174696A (ja) カラー撮像装置
CN112995529B (zh) 一种基于光流预测的成像方法和装置
CN105530419B (zh) 图像采集***、图像采集处理***和图像采集处理方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040622

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040625

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080702

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090702

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100702

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100702

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110702

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110702

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120702

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120702

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130702

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees