JP3324821B2 - 車輌用車外監視装置 - Google Patents

車輌用車外監視装置

Info

Publication number
JP3324821B2
JP3324821B2 JP05259193A JP5259193A JP3324821B2 JP 3324821 B2 JP3324821 B2 JP 3324821B2 JP 05259193 A JP05259193 A JP 05259193A JP 5259193 A JP5259193 A JP 5259193A JP 3324821 B2 JP3324821 B2 JP 3324821B2
Authority
JP
Japan
Prior art keywords
side wall
data
road
dimensional
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP05259193A
Other languages
English (en)
Other versions
JPH06266828A (ja
Inventor
圭二 塙
敬二 実吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP05259193A priority Critical patent/JP3324821B2/ja
Publication of JPH06266828A publication Critical patent/JPH06266828A/ja
Application granted granted Critical
Publication of JP3324821B2 publication Critical patent/JP3324821B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、ガイドレール等の道路
の境界となる連続した立体物としての側壁を検出する車
輌用車外監視装置に関する。
【0002】
【従来の技術】人や物を運ぶ手段の1つである自動車等
の車輌は、その利便性と快適性から現代社会においてな
くてはならない存在となっている。そこで、自動車の持
つ優れた点を犠牲にすることなく、自動車の衝突や道路
からの逸脱等の事故発生の危険性を判断したり、これら
の事故を自動的に回避する技術が従来より進められてお
り、自車輌が走行して行く道筋や走行可能な道路の範囲
を認識することが重要な課題の1つとなっている。
【0003】道路の形状や走行可能範囲を認識する技術
としては、車輌に搭載したカメラ等の撮像装置により車
外の対象風景を撮像し、この撮像した画像を画像処理す
ることにより、道路上の白線、他の車輌、道路周辺の物
体を検出する技術が開発されており、さらに、道路の形
状や物体までの距離を求める計測技術が開発されてい
る。
【0004】この画像による認識・計測技術は、単眼視
像からカメラ位置との関係を用いて対象物までの距離を
推定する技術と、複数のカメラにより、あるいは1つの
カメラの位置を変えることにより複数の画像を撮像し、
三角測量の原理で対象物までの距離を求める、いわゆる
ステレオ法による技術とに大別される。
【0005】単眼視像による二次元画像から障害物や道
路形状を検出する技術は、種々提案されており、例え
ば、特開平1−242916号公報には、1台のTVカ
メラを車内のフロントウインド中央上部付近に取り付
け、これから得られる画像を用いて、画像中のあるサー
ベイ・ライン上の輝度分布パターンや、二次元的な輝度
分布パターンから障害物や道路の白線を検出し、TVカ
メラの取り付け位置や、方向、視野等のパラメータから
カメラ位置を仮定し、障害物や白線の三次元位置を推定
する技術が開示されている。
【0006】しかしながら、実際の道路上で撮影される
画像には、周囲の建物や木々等の様々な物体や背景が写
っており、この中から、道路の白線を二次元的な特徴パ
ターンのみによって的確に検出することは困難である。
さらに、一般の道路では白線が整備されていない箇所も
多くあり、この場合には、この技術は使用できないこと
になる。
【0007】このように、白線が無い道路では、ガード
レール、植込み、パイロン列等、道路の境界となる連続
した立体物としての側壁を検出し、これによって道路の
形状や走行可能範囲を検出することが有効であると考え
られる。しかし、単眼視像を用いる技術では、このよう
な側壁を検出することは困難である。
【0008】一方、複数の画像から三角測量の原理で距
離を求めるステレオ法の技術は、左右画像における同一
物体の位置の相対的なずれから距離を求めるので、正確
な距離を求めることができる。
【0009】例えば、特開昭48−2927号公報、特
開昭55−27708号公報には、2台のTVカメラを
車輌前方に取り付け、まず、各々の画像を空間微分して
明暗変化点のみを抽出し、片方のカメラの画像の走査を
所定時間だけ遅延させてもう一方の画像と重ね合わせ、
2つの画像で一致する部分のうち、立体物が持つ明暗変
化の特徴から、立体物だけを抽出する技術が開示されて
おり、さらに、計測自動制御学会論文集Vol.21,
No.2(昭和60年2月)の中に発表されている「障
害物の2次元的な分布の認識手法」には、通路パターン
認識装置により道路脇のガードレールを検出する技術が
記載されている。
【0010】しかしながら、この技術では、検出される
ガードレールは、細かい部分毎の位置のデータの集まり
として出力されるに留まり、側壁を連続的に存在する立
体物として認識していない。従って、この検出結果の出
力を使って、前述のような事故発生の危険性の判断や事
故回避を実現しようとすると、繁雑なデータ処理が必要
になる。
【0011】また、車輌の側面や四隅に超音波センサー
を取り付け、ガードレール等を検出する技術も開発され
ているが、超音波センサーは計測可能な距離が短く、車
輌の近傍のガードレールしか検出できない。このため、
一般道路を通常速度で走行する場合には、検出能力が不
足し、さらには、植込み等のように超音波では検出困難
な側壁には対処することができない。
【0012】
【発明が解決しようとする課題】以上のように、実際の
複雑な状況においては、実際の道路上の画像には様々な
物が写っており、ガードレール、植込み、パイロン列等
の検出すべき物体を、前方にある別の物体が部分的に隠
している場合もある。このような状況下では、目的とす
る側壁だけを正確に検出することは極めて困難である。
【0013】本発明は前記事情に鑑みてなされたもの
で、ガードレール、植え込み、パイロン列等の道路の境
界となる連続した立体物としての側壁を確実に検出する
ことができ、しかも、側壁の有無、位置、方向を処理が
容易なデータ形態で検出することのできる車輌用車外監
視装置を提供することを目的とする。
【0014】
【課題を解決するための手段】第1の発明は、車外の設
定範囲の対象を検出し、この対象に対する位置情報を出
力する計測手段と、前記計測手段からの位置情報に基づ
き、道路の境界となる連続した立体物としての側壁の有
無と、この側壁の位置を近似する直線式とを検出する側
壁直線検出手段と、前記側壁直線検出手段で検出した直
線式の周囲に空間領域を設定し、この空間領域内のデー
タのみを抽出して前記側壁が存在する範囲を検出する側
壁範囲検出手段とを備えたことを特徴とする。
【0015】第2の発明は、車外の設定範囲内の対象を
検出し、この対象に対する三次元位置情報を出力する計
測手段と、前記計測手段からの三次元位置情報に基づい
て道路モデルを決定し、この道路モデルを道路形状とし
て検出する道路検出手段と、前記道路モデルに基づい
て、前記三次元位置情報の中から道路表面より上にある
データのみを抽出するデータ抽出手段と、前記データ抽
出手段で抽出したデータから、道路の境界となる連続し
た立体物としての側壁の有無と、この側壁の位置を近似
する直線式とを検出する側壁直線検出手段と、前記側壁
直線検出手段で検出した直線式の周囲に空間領域を設定
し、この空間領域内のデータのみを抽出して前記側壁が
存在する範囲を検出する側壁範囲検出手段とを備えたこ
とを特徴とする。
【0016】第3の発明は、第2の発明において、前記
道路検出手段に、前記三次元位置情報に基づいて、道路
の白線の位置及び形状を推定する道路形状推定手段と、
前記道路形状推定手段で推定した道路の白線を包合する
三次元の空間領域を三次元ウインドウとして設定する三
次元ウインドウ設定手段と、前記三次元位置情報の中か
ら前記三次元ウインドウ内のデータのみを抽出し、前記
道路モデルを構成する三次元の直線要素を検出する直線
要素検出手段と、前記直線要素検出手段で検出した直線
要素の妥当性を判定し、判定基準に合致しない場合には
前記直線要素を修正あるいは変更して前記道路モデルを
決定する道路形状判定手段とを備えたことを特徴とす
る。
【0017】第4の発明は、第1の発明または第2の発
明において、前記側壁直線検出手段は、前記側壁の存在
を探索する探索領域を設定し、この探索領域内のデータ
のみを抽出してハフ変換を行なうことにより、前記側壁
の存在の有無と、前記直線式とを検出するものであるこ
とを特徴とする。
【0018】第5の発明は、第1の発明または第2の発
明において、前記側壁直線検出手段は、前記側壁の存在
を探索する探索領域を格子状に区分して設定し、この探
索領域内のデータのみを抽出して各格子内に含まれるデ
ータの個数を求め、各格子内のデータは各格子の中心位
置にまとまって存在するものとしてハフ変換を行なうこ
とにより、前記側壁の存在の有無と、前記直線式とを検
出するものであることを特徴とする。
【0019】第6の発明は、第1の発明または第2の発
明において、前記側壁範囲検出手段は、前記空間領域内
のデータの個数を縦軸とし、自車輌との距離を横軸とす
るヒストグラムを作成し、このヒストグラムの度数の大
小から前記側壁が存在する範囲を検出するものであるこ
とを特徴とする。
【0020】
【0021】
【0022】第の発明は、第1の発明または第2の発
明において、前記計測手段は、車外の設定範囲を撮像し
て画像処理することにより、車外の対象に対する前記位
置情報を出力するものであることを特徴とする。
【0023】第の発明は、第1の発明または第2の発
明において、前記計測手段は、車外の設定範囲を走査し
てレーザ光を投射・受光することにより、車外の対象に
対する前記位置情報を出力するものであることを特徴と
する。
【0024】
【作用】第1の発明では、車外の設定範囲の対象に対す
る位置情報に基づいて、道路の境界となる連続した立体
物としての側壁の有無と、この側壁の位置を近似する直
線式とを検出し、さらに、この直線式の周囲に空間領域
を設定し、この空間領域内のデータのみを抽出して前記
側壁が存在する範囲を検出する。
【0025】第2の発明では、車外の設定範囲内の対象
に対する三次元位置情報に基づいて道路モデルを決定
し、この道路モデルに基づいて、前記三次元位置情報の
中から道路表面より上にあるデータのみを抽出する。そ
して、抽出したデータから、道路の境界となる連続した
立体物としての側壁の有無と、この側壁の位置を近似す
る直線式とを検出し、さらに、この直線式の周囲に空間
領域を設定し、この空間領域内のデータのみを抽出して
前記側壁が存在する範囲を検出する。
【0026】第3の発明では、第2の発明において、前
記三次元位置情報に基づいて道路の白線の位置及び形状
を推定し、推定した道路の白線を包合する三次元の空間
領域を三次元ウインドウとして設定するとともに、前記
三次元位置情報の中から前記三次元ウインドウ内のデー
タのみを抽出して前記道路モデルを構成する三次元の直
線要素を検出し、検出した直線要素の妥当性を判定し、
判定基準に合致しない場合には前記直線要素を修正ある
いは変更して前記道路モデルを決定することにより、道
路形状を検出する。
【0027】第4の発明では、第1の発明または第2の
発明において、前記側壁の存在を探索する探索領域を設
定し、この探索領域内のデータのみを抽出してハフ変換
を行なうことにより、前記側壁の存在の有無と、前記直
線式とを検出する。
【0028】第5の発明では、第1の発明または第2の
発明において、前記側壁の存在を探索する探索領域を格
子状に区分して設定し、この探索領域内のデータのみを
抽出して各格子内に含まれるデータの個数を求め、各格
子内のデータは各格子の中心位置にまとまって存在する
ものとしてハフ変換を行なうことにより、前記側壁の存
在の有無と、前記直線式とを検出する。
【0029】第6の発明では、第1の発明または第2の
発明において、前記空間領域内のデータの個数を縦軸と
し、自車輌との距離を横軸とするヒストグラムを作成
し、このヒストグラムの度数の大小から前記側壁が存在
する範囲を検出する。
【0030】
【0031】
【0032】第の発明は、第1の発明または第2の発
明において、車外の設定範囲を撮像して画像処理するこ
とにより、車外の対象に対する前記位置情報を出力す
る。
【0033】第の発明は、第1の発明または第2の発
明において、車外の設定範囲を走査してレーザ光を投射
・受光することにより、車外の対象に対する前記位置情
報を出力する。
【0034】
【実施例】以下、図面を参照して本発明の実施例を説明
する。図1〜図38は本発明の第1実施例に係り、図1
は車外監視装置の全体構成図、図2は車輌の正面図、図
3は車外監視装置の回路ブロック図、図4はカメラと被
写体との関係を示す説明図、図5はステレオ画像処理装
置の具体例を示す回路構成図、図6はシティブロック距
離計算回路の説明図、図7は最小値検出回路のブロック
図、図8は車載のCCDカメラで撮像した画像の例を示
す説明図、図9は距離画像の例を示す説明図、図10は
車輌の上面図、図11は車輌の側面図、図12は道路・
側壁検出装置の機能ブロック図、図13は道路モデルの
例を示す説明図、図14は三次元ウインドウの形状を示
す説明図、図15は二次元ウインドウの形状を示す説明
図、図16は直線要素とデータのずれ量を示す説明図、
図17はずれ量と重み係数の関係を示す説明図、図18
は検出した道路形状の例を示す説明図、図19は側壁検
出における探索領域の形状を示す説明図、図20は側壁
検出における画像の例を示す説明図、図21は立体物デ
ータの分布状況を示す説明図、図22はハフ変換での直
線の想定を示す説明図、図23はパラメータ空間の投票
領域を示す説明図、図24はパラメータ空間への投票結
果を示す説明図、図25は側壁候補領域を示す説明図、
図26はヒストグラムと側壁の存在範囲の関係を示す説
明図、図27はステレオ画像処理装置の動作を示すフロ
ーチャート、図28はシフトレジスタ内の保存順序を示
す説明図、図29はシティブロック距離計算回路の動作
を示すタイミングチャート、図30はずれ量決定部の動
作を示すタイミングチャート、図31はステレオ画像処
理装置の動作を示すタイミングチャート、図32〜図3
5は道路検出部の動作を示すフローチャートであり、図
32は道路形状推定処理のフローチャート、図33は三
次元ウインドウ発生処理のフローチャート、図34は直
線要素検出処理のフローチャート、図35は道路形状判
定処理のフローチャート、図36〜図38は側壁検出部
の動作を示すフローチャートであり、図36は立体物デ
ータ抽出処理のフローチャート、図37は側壁直線検出
処理のフローチャート、図38は側壁範囲検出処理のフ
ローチャートである。
【0035】図1において、符号1は自動車等の車輌で
あり、この車輌1に、車外の設置範囲内の対象を認識し
て監視する車外監視装置2が搭載されている。この車外
監視装置2は、車外の設定範囲内の対象を撮像するステ
レオ光学系10と、このステレオ光学系10によって撮
像した画像を処理し、三次元の距離分布情報を算出する
ステレオ画像処理装置20と、このステレオ画像処理装
置20からの距離情報を入力し、その距離情報から、道
路形状、及び、ガードレール、植込み、パイロン列等の
道路の境界となる連続した立体物としての側壁の三次元
位置を高速で検出する道路・側壁検出装置100とを備
えており、例えば、図示しないアクチュエータ類を制御
する外部装置を接続することにより、認識された側壁に
車輌1が衝突あるいは接触する危険がある場合、運転者
に対する警告、車体の自動衝突回避等の動作を行なうこ
とができるようになっている。
【0036】前記ステレオ光学系10は、撮像した画像
を電気信号に変換する撮像装置として、例えば電荷結合
素子(CCD)等の固体撮像素子を用いたCCDカメラ
を用いて構成されており、図2に示すように、遠距離の
左右画像用としての2台のCCDカメラ11a,11b
(代表してCCDカメラ11と表記する場合もある)
が、それぞれ車室内の天井前方に一定の間隔をもって取
り付けられるとともに、近距離の左右画像用としての2
台のCCDカメラ12a,12b(代表してCCDカメ
ラ12と表記する場合もある)が、それぞれ、遠距離用
のCCDカメラ11a,11bの内側に一定の間隔をも
って取り付けられている。
【0037】また、図3に示すように、前記ステレオ画
像処理装置20は、前記ステレオ光学系10からの左右
2枚の画像信号を入力し、画像の微小領域毎に2枚の画
像で同一の物体が写っている部分を検出し、その画像上
の位置のずれ量から物体までの距離を算出する処理を画
像全体に渡って実行する距離検出回路20a、この距離
検出回路20aの出力である距離情報を記憶する距離画
像メモリ20b等から構成されており、前記ステレオ光
学系10と前記ステレオ画像処理装置20とで、車外の
設定範囲の対象を検出し、この対象に対する位置情報を
出力する計測手段を構成するようになっている。
【0038】また、道路・側壁検出装置100は、距離
画像メモリ20bに書き込まれた距離情報を読み出して
各種の計算処理を行なうマイクロプロセッサ100aを
中心に構成され、制御プログラムを格納する読み出し専
用メモリ(ROM)100b、計算処理途中の各種パラ
メータを記憶する読み書き両用メモリ(RAM)100
c、インターフェース回路100d、処理結果のパラメ
ータを記憶する出力用メモリ100e等から構成されて
おり、前記インターフェース回路100dには、車輌1
に取り付けられた車速センサ3と、ステアリングの操舵
角を検出する舵角センサ4とが接続されている。
【0039】前記マイクロプロセッサ100aは、前記
距離画像メモリ20bを介して距離画像を入力して計算
処理を実行し、処理結果である道路形状や側壁のパラメ
ータを出力用メモリ100eに出力する。道路・側壁検
出装置100に接続される外部機器は、前記出力用メモ
リ100eを介して、これらのパラメータを受け取るこ
とになる。
【0040】ここで、前記ステレオ光学系10として、
直近から例えば100m遠方までの距離計測を行なう場
合、車室内のCCDカメラ11、12の取付位置を、例
えば、車輌1のボンネット先端から2mとすると、実際
には前方2mから100mまでの位置を計測できれば良
い。
【0041】すなわち、図4に示すように、遠距離用の
2台のCCDカメラ11a、11bの取付間隔をrとし
て、2台のカメラ11a,11bの設置面から距離Zに
ある点Pを撮影する場合、2台のカメラ11a,11b
の焦点距離を共にfとすると、点Pの像は、それぞれの
カメラについて焦点位置からfだけ離れた投影面に写
る。
【0042】このとき、右のCCDカメラ11bにおけ
る像の位置から左のCCDカメラ11aにおける像の位
置までの距離は、r+δとなり、このδをずれ量とする
と、点Pまでの距離Zは、ずれ量δから以下の式で求め
ることができる。
【0043】 Z=r×f/δ (1) この左右画像のずれ量δを検出するには、左右画像にお
ける同一物体の像を見つけ出す必要があり、本発明で
は、次に述べるステレオ画像処理装置20において、画
像を小領域に分割し、それぞれの小領域内の輝度あるい
は色のパターンを左右画像で比較して一致する領域を見
つけ出し、全画面に渡って距離分布を求める。従って、
従来のように、エッジ、線分、特殊な形等、何らかの特
徴を抽出し、それらの特徴が一致する部分を見つけ出す
ことによる情報量の低下を避けることができる。
【0044】左右画像の一致度は、右画像、左画像のi
番目画素の輝度(色を用いても良い)を、それぞれ、A
i、Biとすると、例えば、以下の(2)式に示すシティ
ブロック距離Hによって評価することができ、平均値の
採用による情報量の低下もなく、乗算がないことから演
算速度を向上させることができる。
【0045】 H=Σ|Ai−Bi| (2) また、分割すべき小領域の大きさとしては、大きすぎる
と、その領域内に遠方物体と近くの物体が混在する可能
性が高くなり、検出される距離が曖昧になる。画像の距
離分布を得るためにも領域は小さい方が良いが、小さす
ぎると、一致度を調べるための情報量が不足する。
【0046】このため、例えば、100m先にある幅
1.7mの車輌が、隣の車線の車輌と同じ領域内に含ま
れないように、4つに分割される画素数を領域横幅の最
大値とすると、前記ステレオ光学系10に対して4画素
となる。この値を基準に最適な画素数を実際の画像で試
行した結果、縦横共に4画素となる。
【0047】以下の説明では、画像を4×4の小領域で
分割して左右画像の一致度を調べるものとし、ステレオ
光学系10は、遠距離用のCCDカメラ11a,11b
で代表するものとする。
【0048】前記ステレオ画像処理装置20の具体的回
路例は、図5に示され、この回路例では、距離検出回路
20aに、前記ステレオ光学系10で撮像したアナログ
画像をデジタル画像に変換する画像変換部30、この画
像変換部30からの画像データに対し、左右画像のずれ
量δを決定するためのシティブロック距離Hを画素を一
つずつずらしながら次々と計算するシティブロック距離
計算部40、シティブロック距離Hの最小値HMIN 及び
最大値HMAX を検出する最小・最大値検出部50、この
最小・最大値検出部50で得られた最小値HMIN が左右
小領域の一致を示すものであるか否かをチェックしてず
れ量δを決定するずれ量決定部60が備えられており、
また、距離画像メモリ20bとして、デュアルポートメ
モリ90が採用されている。
【0049】前記画像変換部30では、左右画像用のC
CDカメラ11a,11bに対応してA/Dコンバータ
31a,31bが備えられ、各A/Dコンバータ31
a,31bに、データテーブルとしてのルックアップテ
ーブル(LUT)32a,32b、前記CCDカメラ1
1a,11bで撮像した画像を記憶する画像メモリ33
a,33bが、それぞれ接続されている。
【0050】A/Dコンバータ31a,31bは、例え
ば8ビットの分解能を有し、左右のCCDカメラ11
a,11bからのアナログ画像を、所定の輝度階調を有
するデジタル画像に変換する。すなわち、処理の高速化
のため画像の二値化を行なうと、左右画像の一致度を計
算するための情報が著しく失われるため、例えば256
階調のグレースケールに変換するのである。
【0051】また、LUT32a,32bはROM上に
構成され、前記A/Dコンバータ31a,31bでデジ
タル量に変換された画像に対し、低輝度部分のコントラ
ストを上げたり、左右のCCDカメラ11a,11bの
特性の違いを補正する。そして、LUT32a,32b
で変換された信号は、一旦、画像メモリ33a,33b
に記憶される。
【0052】前記画像メモリ33a,33bは、後述す
るように、シティブロック距離計算部40で画像の一部
を繰り返し取り出して処理するため、比較的低速のメモ
リから構成することができ、コスト低減を図ることがで
きる。
【0053】前記シティブロック距離計算部40では、
前記画像変換部30の左画像用の画像メモリ33aに、
共通バス80を介して2組の入力バッファメモリ41
a,41bが接続されるとともに、右画像用の画像メモ
リ33bに、共通バス80を介して2組の入力バッファ
メモリ42a,42bが接続されている。
【0054】前記左画像用の各入力バッファメモリ41
a,41bには、2組の例えば8段構成のシフトレジス
タ43a,43bが接続され、右画像用の各入力バッフ
ァメモリ42a,42bには、同様に、2組の例えば8
段構成のシフトレジスタ44a,44bが接続されてい
る。さらに、これら4組のシフトレジスタ43a,43
b,44a,44bには、シティブロック距離を計算す
るシティブロック距離計算回路45が接続されている。
【0055】また、前記右画像用のシフトレジスタ44
a、44bには、後述するずれ量決定部60の2組の1
0段構成のシフトレジスタ64a,64bが接続されて
おり、次の小領域のデータ転送が始まると、シティブロ
ック距離Hの計算の終わった古いデータはこれらのシフ
トレジスタ64a,64bに送られ、ずれ量δの決定の
際に用いられる。
【0056】また、シティブロック距離計算回路45
は、加減算器に入出力ラッチをつなげてワンチップ化し
た高速CMOS型演算器46を組み合わせており、図6
に詳細が示されるように、演算器46を16個ピラミッ
ド状に接続したパイプライン構造で、例えば8画素分を
同時に入力して計算するようになっている。このピラミ
ッド型構造の初段は、絶対値演算器、2段〜4段は、そ
れぞれ、第1加算器、第2加算器、第3加算器を構成
し、最終段は総和加算器となっている。
【0057】尚、図6においては、絶対値計算と1,2
段目の加算器は半分のみ表示している。
【0058】また、前記各入力バッファメモリ41a,
41b,42a,42bは、シティブロック距離計算の
速度に応じた比較的小容量の高速タイプであり、入出力
が分離し、クロック発生回路85から供給されるクロッ
クに従って、#1アドレスコントローラ86によって発
生されるアドレスが共通に与えられる。また、4組のシ
フトレジスタ43a,43b,44a,44bとの転送
は、#2アドレスコントローラ87によって制御され
る。
【0059】尚、シティブロック距離Hの計算をコンピ
ュータのソフトウエアで行なう場合、右画像の一つの小
領域に対して左画像の小領域を次々に探索し、これを右
画像の小領域全部について行なう必要があり、この計算
を例えば0.08秒で行なうとすると、一画素当たり例
えば5ステップのプログラムで、500MIPS(Mega
Instruction Per Second )の能力が要求される。これ
は現在の一般的なシスク(CISC)タイプのマイクロ
プロセッサでは実現不可能な数字であり、リスク(RI
SC)プロセッサ、デジタルシグナルプロセッサ(DS
P)、あるいは、並列プロセッサ等を用いなければなら
なくなる。
【0060】前記最小・最大値検出部50は、シティブ
ロック距離Hの最小値HMIN を検出する最小値検出回路
51とシティブロック距離Hの最大値HMAX を検出する
最大値検出回路52とを備えており、前記シティブロッ
ク距離計算回路45で使用する演算器46を最小値、最
大値検出用として2個使用した構成となっており、シテ
ィブロック距離Hの出力と同期が取られるようになって
いる。
【0061】図7に示すように、最小値検出回路51
は、具体的には、Aレジスタ46a、Bレジスタ46
b、及び、算術論理演算ユニット(ALU)46cから
なる演算器46に、Cラッチ53,ラッチ54,Dラッ
チ55を接続して構成され、シティブロック距離計算回
路45からの出力が、Aレジスタ46aと、Cラッチ5
3を介してBレジスタ46bとに入力され、ALU46
の出力の最上位ビット(MSB)がラッチ54に出力さ
れる。このラッチ54の出力は、Bレジスタ46b及び
Dラッチ55に出力され、演算器46での最小値計算の
途中の値が、Bレジスタ46bに保存されるとともに、
そのときのずれ量δがDラッチ55に保存されるように
なっている。
【0062】尚、最大値検出回路52については、論理
が逆になることと、ずれ量δを保存しないこと以外は、
最小値検出回路51と同様の構成である。
【0063】前述したようにシティブロック距離Hは、
一つの右画像小領域に対し、左画像小領域を1画素ずつ
ずらしながら順次計算されていく。そこで、シティブロ
ック距離Hの値が出力される毎に、これまでの値の最大
値HMAX 、最小値HMIN と比較、更新することによっ
て、最後のシティブロック距離Hの出力とほぼ同時に、
その小領域におけるシティブロック距離Hの最大値HMA
X 、最小値HMIN が求まるようになっている。
【0064】前記ずれ量決定部60は、比較的小規模の
RISCプロセッサとして構成され、演算器61を中心
として、2本の16ビット幅データバス62a,62
b、ずれ量δを保持するラッチ63a、第1の規定値と
してのしきい値Haを保持するラッチ63b、第2の規
定値としてのしきい値Hbを保持するラッチ63c、第
3の規定値としてのしきい値Hcを保持するラッチ63
d、右画像の輝度データを保持する2組のシフトレジス
タ64a,64b、演算器61の出力を受けてずれ量δ
または”0”を出力するスイッチ回路65、そして出力
された結果を一時保存する出力バッファメモリ66a,
66b、回路の動作タイミングや演算器61の機能の制
御プログラムが書き込まれた16ビット幅のROM67
が備えられている。
【0065】前記演算器61は、ALU70を中心とし
て、Aレジスタ71、Bレジスタ72、Fレジスタ7
3、及び、セレクタ74からなり、前記データバス62
a(以下、Aバス62aとする)にAレジスタ71が接
続されるとともに、前記データバス62b(以下、Bバ
ス62bとする)にBレジスタ72が接続され、ALU
70の演算結果で前記スイッチ回路65を作動し、ずれ
量δまたは“0”が前記出力バッファメモリ66a,6
6bに格納されるようになっている。
【0066】前記Aバス62aには、各しきい値Ha 、
Hb 、Hc を保持するラッチ63b,63c,63d、
前記最大値検出回路52が接続され、前記Bバス62b
には、前記最小値検出回路51が接続されている。さら
に、前記Aバス62a及びBバス62bには、前記各シ
フトレジスタ64a,64bが接続されている。
【0067】また、前記スイッチ回路65には、前記演
算器61が接続されるとともに、前記ラッチ63aを介
して前記最小値検出回路51が接続され、後述する3つ
のチェック条件が演算器61で判定され、その判定結果
に応じて前記出力バッファメモリ66a,66bへの出
力が切り換えられる。
【0068】このずれ量決定部60では、得られたシテ
ィブロック距離Hの最小値HMIN が本当に左右小領域の
一致を示しているものかどうかチェックを行い、条件を
満たしたもののみ、出力バッファメモリ66a,66b
の対応する画素の位置にずれ量δを出力する。
【0069】すなわち、シティブロック距離Hが最小と
なるずれ量が求めるずれ量δとなる訳であるが、以下の
3つのチェック条件を満足した場合にずれ量δを出力
し、満足しない場合には、データを採用せずに“0”を
出力する。
【0070】(1)HMIN ≦Ha (HMIN >Ha のとき
には距離を検出できず。) (2)HMAX −HMIN ≧Hb (得られた最小値HMIN が
ノイズによる揺らぎより明らかに低くなっていることを
チェックするための条件であり、最小値HMINの近傍の
値との差でなく、最大値HMAX との差をチェック対象と
することにより、曲面等の緩やかに輝度の変わる物体に
対しても距離検出が行なえる。) (3)右画像の小領域内の横方向の隣接画素間の輝度差
>Hc (しきい値Hc を大きくするとエッジ検出となる
が、輝度が緩やかに変化している場合にも対応可能なよ
うに、しきい値Hc は通常のエッジ検出レベルよりはず
っと低くしてある。この条件は、輝度変化のない部分で
は、距離検出が行なえないという基本的な原理に基づい
ており、小領域中の画素毎に行なわれるため、小領域の
中でも実際に距離の検出された画素のみが採用されるこ
とになり、自然な結果が得られる。) 尚、このずれ量決定の処理も、通常のマイクロプロセッ
サでソフト的に行おうとすると、例えば27MIPSの
速さが必要となり、実行不可能である。
【0071】以上のずれ量決定部60から出力される最
終結果である距離分布情報は、距離画像メモリ20bと
してのデュアルポートメモリ90へ共通バス80を介し
て書き込まれる。
【0072】以上説明したステレオ画像処理装置20か
ら出力される距離分布情報は、画像のような形態をして
おり(距離画像)、左右2台のCCDカメラ11a,1
1bで撮影した画像、例えば図8に示すような画像(図
8は片方のカメラで撮像した画像を示す)を前記ステレ
オ画像処理装置20で処理すると、図9のような画像と
なる。
【0073】図9に示す画像例では、画像サイズは横4
00画素×縦200画素であり、距離データを持ってい
るのは黒点の部分で、これは図8の画像の各画素のう
ち、左右方向に隣合う画素間で明暗変化が大きい部分で
ある。画像上の座標系は、図9に示すように、左上隅を
原点として横方向をi座標軸,縦方向をj座標軸とし、
単位は画素である。
【0074】この距離画像は、前記道路・側壁検出装置
100に読み込まれ、道路上の白線と、道路周辺に存在
する側壁が検出される。この場合、前記道路・側壁検出
装置100では、物体の三次元的な位置情報を利用し、
道路と側壁の区別は道路表面からの高さによって行い、
側壁と背景の区別は距離の値によって行なう。
【0075】このため、前記道路・側壁検出装置100
では、まず、前記ステレオ画像処理装置20からの距離
画像の座標系を、自車(車輌1)を取り巻く実空間の座
標系に変換し、検出した道路形状や側壁に対し、位置や
大きさを計算する。
【0076】すなわち、図10及び図11に示すよう
に、実空間の座標系を車輌1固定の座標系とし、X軸を
車輌1の右側側方、Y軸を車輌1の上方、Z軸を車輌1
の前方、原点を2台のCCDカメラ11a(12b),
11b(12b)の中央の真下の道路面とすると、XZ
平面(Y=0)は、道路が平坦な場合、道路面と一致す
ることになり、画像中の距離情報(i,j,Z)から被
写体の三次元位置(X,Y,Z)を算出するには、以下
の(3),(4)式により一種の座標変換を行なう。
【0077】 Y=CH−Z×PW×(j−JV) (3) X=r/2+Z×PW×(i−IV) (4) ここで、 CH :CCDカメラ11(CCDカメ
ラ12)の取付け高さ、 PW :1画素当たりの視野角、 JV,IV:車輌1の真正面の無限遠点の画像上の座標
である。
【0078】また、実空間の三次元座標(X,Y,Z)
から画像上の位置(i,j)を算出する式も、前記
(3),(4)式を変形し、次のようになる。
【0079】 j=(CH−Y)/(Z×PW)+JV (5) i=(X−r/2)/(Z×PW)+IV (6) 尚、CCDカメラ11の取り付け位置を、前記実空間の
XYZ座標系で示すと、例えば、右側のCCDカメラ1
1bは、X=0.45m,Y=1.24m,Z=0.0
mであり、左側のCCDカメラ11aは、X=−0.4
5m,Y=1.24m,Z=0.0mとなる。
【0080】前記道路・側壁検出装置100の認識機能
は、図12に示すように、道路検出部110と、側壁検
出部120とに大別され、処理結果が、道路・側壁パラ
メータ記憶部130としての出力メモリ100eに記憶
され、図示しない外部装置に読み込まれる。
【0081】前記道路検出部110は、前記距離画像に
含まれる距離分布の情報(三次元位置情報)に基づいて
道路モデルを決定し、この道路モデルを道路形状として
検出する道路検出手段としての機能を有し、道路形状推
定部111、三次元ウインドウ発生部112、直線要素
検出部113、及び、道路形状判定部114から構成さ
れている。また、前記側壁検出部120は、立体物デー
タ抽出部121、側壁直線検出部122、及び、側壁範
囲検出部123から構成されている。
【0082】道路形状推定部111は、前記距離画像に
含まれる距離分布の情報に基づいて、道路の白線の位置
及び形状を推定する道路形状推定手段としての機能を有
し、三次元ウインドウ発生部112は、推定した道路の
白線を包合する三次元の空間領域を三次元ウインドウと
して設定する三次元ウインドウ設定手段としての機能を
有している。
【0083】また、直線要素検出部113は、前記距離
分布の情報の中から前記三次元ウインドウ内のデータの
みを抽出し、前記道路モデルを構成する三次元の直線要
素を検出する直線要素検出手段としての機能を有し、道
路形状判定部114は、検出した直線要素の妥当性を判
定し、判定基準に合致しない場合には前記直線要素を修
正あるいは変更し、前記道路モデルを決定する道路形状
判定手段としての機能を有している。
【0084】また、立体物データ抽出部121は、決定
した道路モデルに基づいて、前記距離分布の情報の中か
ら道路表面より上にあるデータのみを抽出するデータ抽
出手段としての機能を有し、側壁直線検出部122は、
抽出した立体物データの中から、予め設定された側壁の
探索領域内のデータのみを抽出し、これをハフ変換で処
理して側壁の有無と側壁の位置を示す直線式とを検出す
る側壁直線検出手段としての機能を有している。
【0085】また、側壁範囲検出部123は、側壁の位
置を示す直線式に基づいて、側壁が存在すると推定され
る側壁候補領域を設定し、この側壁候補領域内の立体物
データの分布状態から、側壁の前後端の位置を検出する
側壁範囲検出手段としての機能を有している。
【0086】前記道路検出部110では、距離画像メモ
リ20bに記憶された距離画像による三次元的な位置情
報を利用し、実際の道路上の白線だけを分離して抽出
し、内蔵した道路モデルのパラメータを、実際の道路形
状と合致するよう修正・変更して道路形状を認識する。
【0087】実際の画像では、道路上の白線に先行車等
が重なって写るが、画像に写った道路の白線を二次元的
な特徴を頼りに検出する従来の多くの装置では、白線と
立体物とを二次元的な特徴によって分離することは困難
な場合が多いが、本発明では白線の三次元的な位置情報
を利用することにより、確実に白線と立体物とを分離す
ることができる。
【0088】すなわち、三次元空間では白線は道路の平
面上にあり、一方、先行車等の立体物は道路平面より高
い位置にある。そこで、道路面からの高さによって白線
と立体物を区別するのである。
【0089】さらに、道路検出部110には道路モデル
が内蔵されており、この道路モデルは、認識対象範囲ま
での道路の自車線を、設定した距離によって複数個の区
間に分け、各区間毎に左右の白線を、後述する三次元の
直線式で近似して折れ線状に連結したものであり、左右
の折れ線で囲まれた範囲を自分の走行車線と判断する。
道路形状の認識とは、三次元の直線式のパラメータを導
出するプロセスともいえる。
【0090】図13は道路モデルの例であり、例えば、
前方84mまでの道路を、第0区間R0,第1区間R1,
第2区間R2,…,第6区間R6の7区間に分け、左カー
ブを近似表現したものである。この道路モデルでは、7
個の区間で道路を近似表現することにより、直線路のみ
でなくカーブやS字路も十分な精度で表現でき、また、
各区間は直線で表現されるため、計算処理や取扱いが簡
単である。さらに、後述するように、各区間は、水平方
向及び垂直方向の直線式で表され、道路の上り下りや凹
凸等の、道路の上下方向の形状も表現できる。
【0091】尚、前記道路モデルの各区間を区切る距離
の値は、走行する道路のカーブの曲率に応じて変更する
必要がある。一般の高速道路ではカーブの半径は最小で
230m程度に設計されているため、このような場合、
各区間の区切り距離を、10m,17m,25m,35
m,48m,64m,84mにすると良好な結果が得ら
れる。
【0092】次に、道路検出部110の機能を詳細に説
明する。道路形状推定部111では、前回(Δtsec
前)の道路形状の認識結果を基にし、車速センサ3、舵
角センサ4からの出力信号を使ってΔt秒間の車輌1の
動きを算出し、Δt秒後の車輌1の位置から見た道路形
状を推定する。
【0093】すなわち、車速センサ3の出力信号をV
(m/sec)、ステアリング・コラムに取り付けた舵
角センサ4の出力信号(操舵角)をη(rad)とする
と、Δt秒間の車輌1の前進量ΔZ(m)と回転角(ヨ
ー角)Δθ(rad)は、一般に次式で概算できる。
【0094】 ΔZ=V×Δt (7) Δθ=ΔZ×tan(η/rs)×1/wb (8) ここで、rs:ステアリングと前輪の回転比、 wb:車輌のホイールベースである。
【0095】従って、前回の処理で検出した道路形状を
ΔZだけ手前に移動し、さらに、Δθだけ車輌1の回転
と逆方向に道路形状を回転させることにより、Δt秒後
の道路の概略の位置と形状が推定できるのである。
【0096】三次元ウインドウ発生部112では、推定
した道路形状RDを表す左右の折れ線の内の一つの直線
要素Ldを中心として、図14に示すような直方体状の
三次元空間領域すなわち三次元ウインドウWD3Aを設定
し、この設定した三次元ウインドウWD3Aが、図15に
示すように、二次元の画像上でどのように見えるかを計
算し、ウインドウ輪郭線の内側(図15中の斜線部分)
を二次元ウインドウWD2Aとし、この中のデータのみを
検出対象とする。
【0097】三次元ウインドウWD3Aから二次元ウイン
ドウWD2Aを求めるには、三次元ウインドウWD3Aの8
個の頂点の各座標(Xn,Yn,Zn)から、前述した
(5)(6)式を用いて画像上の座標(in,jn)を
計算し、これらの点を包絡する多角形を計算する。
【0098】この三次元ウインドウWD3Aは、長さを各
区間の区切り距離(例えば、第1区間R1では前方10
〜17m)と等しくし、一方、高さと幅は、車速等の状
況に応じて変化させるが、道路形状の推定に誤差があ
り、実際の白線の位置とのずれが予想される場合には、
高さや幅を大きくして検出する範囲を広くする。しか
し、ウインドウを大きくし過ぎると、道路周辺の縁石や
草木等も検出してしまい、誤認識の原因となるため、ウ
インドウの大きさを適切に選定することは重要である。
一般の高速道路の走行では、試験の結果、高さ0.4m
〜0.8m、幅0.4〜1.6mの範囲で変化させると
良いことがわかっている。
【0099】このように、二次元の画像上では道路の白
線と立体物が重なり合っていても、三次元ウィンドウを
設定して道路の表面付近のデータのみを抽出することに
より、白線を立体物と区別して検出できる。また、道路
周辺には縁石や草木等もあるが、三次元ウィンドウを設
定して白線があると推定される位置の近辺のデータのみ
を抽出することによって、道路上の白線をこれらの縁石
や草木等と区別して検出できる。さらには、二次元ウィ
ンドウを設定することにより、探索する領域及びデータ
数を少なくして処理時間を短縮することができるのであ
る。
【0100】直線要素検出部113では、先に推定した
道路形状の直線要素Ldに対し、被写体の三次元位置の
X方向のずれ量ΔX、Y方向のずれ量ΔYを計算し、こ
のずれ量ΔX,ΔYに応じて設定した重み係数を各デー
タに掛け、最小自乗法により、水平方向(XZ方向)及
び垂直方向(YZ)方向の直線式を導出してパラメータ
を求める。
【0101】詳細には、まず、二次元ウインドウWD2A
内の画素を順次サーベイして行き、距離データを持って
いる画素について、前述の(3),(4)式を用いて被
写体の三次元位置(X,Y,Z)を計算し、距離Zの値
が三次元ウインドウWD3Aの長さの範囲(例えば、第1
区間R1ではZ=10〜17m)の外にある距離データ
は検出対象から除外する。
【0102】すなわち、三次元ウインドウWD3Aの向こ
う側や手前側にある物体の画像は、二次元ウインドウW
D2A内に写り込むため、二次元ウインドウWD2A内でサ
ーベイされる被写体は、三次元ウインドウWD3Aに包含
されるとは限らない。そこで、各画素の被写体の三次元
位置(X,Y,Z)を計算し、三次元ウインドウWD3A
に含まれるか否かを判別するのである。
【0103】続いて、先に推定した道路形状の直線要素
Ldと被写体の三次元位置を比較して図16に示すよう
なデータDiのX方向、Y方向のずれ量ΔXi、ΔYiを
計算し、三次元ウインドウWD3Aの幅、高さの範囲内に
あるデータのみを選別した後、X方向、Y方向のずれ量
ΔXi、ΔYiに応じたデータDiの重み係数を決定す
る。
【0104】前記重み係数は、図17に示すように、例
えば、中心を1.0、周辺を0.0とする放物線状で、
X方向の重み係数fxとY方向の重み係数fyの積を、
そのデータDiの重み係数としている。また、重み係数
が0.0以上となるX方向、Y方向の範囲は、三次元ウ
インドウWD3Aの幅、高さと同一とするか、あるいは、
これらより大きくする。
【0105】各データDiに対して、前記重み係数を掛
けた後、最小自乗法を用いて、以下の(9),(10)
式に示す水平方向及び垂直方向の直線式を導出し、パラ
メータa,b,c,dを求め、これを新しい直線要素L
dの候補とする。
【0106】 水平方向:X=a×Z+b (9) 垂直方向:Y=c×Z+d (10) 同時に、重み係数が設定値(例えば、0.05〜0.1
程度)以上のデータについて、その個数と、それらのデ
ータが分布する距離Zの範囲を調べ、データ数が設定値
(例えば、10個程度)以下の場合、または距離Zの範
囲が三次元ウインドウWD3Aの長さ(例えば、第1区間
R1ではZ=10m〜17mの長さ7m)の1/2 以下の
場合には、正確な直線要素Ldの候補は得られていない
と判断し、前記で求めた直線式は棄却し、候補なしとす
る。
【0107】以上の処理を、左右および手前側から遠方
側の区間に向かって順次行い、道路モデルを構成する全
ての直線要素Ldの候補を求める。この場合、三次元ウ
ィンドウの幅の設定が大き過ぎると、道路周辺の縁石や
草木等が三次元ウィンドウの端に掛かって来る場合があ
るが、この直線要素検出部113では、各データに重み
係数を掛けて三次元ウィンドウの周辺部の重みを小さく
することにより、万一、縁石や草木等が掛かってきた場
合にも、これらの影響を小さくし、安定して白線の直線
式が導出できるのである。
【0108】道路形状判定部114では、各区間につい
て、左右両方の直線要素Ldの候補について、水平方向
及び垂直方向の平行度から妥当性を判定する。その判定
の結果、妥当と判定した場合には、両方を新しい直線要
素Ldの候補として採用し、一方、左右いずれかの直線
要素Ldの候補が正確でないと判定した場合には、直線
要素Ldの代用、補完を行なう。そして、求められた各
直線要素Ldのパラメータを道路・側壁パラメータ記憶
部130に出力する。
【0109】具体的には、まず、左側の直線要素Ldに
対する(9)式のパラメータ(以下、左側を表すL、右
側を表すRを各パラメータに付加して示す)aLと、右
側の直線要素Ldに対する(9)式のパラメータaRと
の差異から、水平方向の平行度を調べ、設定値(例え
ば、5°程度)以上の場合には、左右いずれかの直線要
素Ldは不正確であると判定する。同様にして、パラメ
ータcLとパラメータcRの差異から垂直方向の平行度
を調べ、設定値(例えば、1°程度)以上の場合は、い
ずれかの直線要素は不正確であると判定する。
【0110】この判定の結果、水平方向及び垂直方向い
ずれの平行度も条件を満たす場合には、両方が新しい直
線要素として採用されるが、左右いずれかの直線要素L
dが不正確と判定されると、左右の各々の直線要素Ld
の候補と先に推定した道路形状の位置とを比較し、ずれ
量が少ない方を新しい直線要素Ldとして採用し、他方
は棄却して候補なしとする。
【0111】そして、平行度の判定により左右いずれか
の直線要素Ldが候補なしとされた場合、あるいは、道
路上の白線が破線状であったり、障害物に隠れて見えな
いためにデータが不足して左右いずれかの直線要素Ld
が候補なしと判定された場合には、検出された側の直線
要素Ldを車線の幅だけ並行移動して代用する。さら
に、左右両方の直線要素Ldが候補なしの場合には、先
に推定した道路形状の直線要素Ldを代用する。これに
より、部分的に直線要素の検出失敗や誤検出が発生して
も、全体としては安定した道路形状が得られるのであ
る。
【0112】図18は、道路検出部110によって検出
された道路形状を図式化した説明図あり、左右の白線に
沿って直線要素が検出されている。尚、左右の直線要素
の間の横線は、各区間の境界である。
【0113】次に、側壁検出部120について説明す
る。この側壁検出部120では、側壁と道路との区別を
道路表面からの高さによって行ない、側壁と遠方の背景
との区別を、前後方向と横方向の距離によって行なうこ
とにより、側壁が存在すると推定される周辺のデータの
みを抽出し、続いて側壁のデータは水平方向に直線的に
並んでいる特徴に注目してこれをハフ変換によって検出
し、位置を求める。
【0114】詳細には、側壁は立体物の一種であるか
ら、まず、立体物データ抽出部121で、前述した道路
検出部110における検出結果のパラメータを読み込ん
で道路表面の高さHを設定し、この道路表面の高さHよ
り上にある立体物のデータを、距離画像の中から抽出す
る。尚、白線が無い道路では、道路表面は車輌1に水平
であると仮定して道路表面の高さを設定する。
【0115】距離画像における被写体は、画像上の座標
(i,j)と距離データZから、前述の(3),(4)
式を使って実空間の三次元位置(X,Y,Z)が算出さ
れ、さらに、先に検出した道路形状の式(10)を使っ
て、距離Zに於ける道路表面の高さYrが計算される。
被写体の道路表面からの高さHは、次の(11)式で計
算することができる。
【0116】 H=Y−Yr (11) 高さHが0.1m程度以下の被写体は、道路上の白線や
汚れ、影等と考えられるため、この被写体のデータは棄
却する。また、車輌の高さより上にある被写体も、歩道
橋や標識等と考えられるので棄却し、道路上の立体物の
データのみを選別する。
【0117】前記立体物データ抽出部121では、画面
に写っている広範囲の立体物のデータが抽出される。こ
れら全てを処理することは合理的でないため、側壁直線
検出部122では、側壁を探索する領域に制限を設け
る。
【0118】この場合、距離画像が計測される範囲を上
から見ると、CCDカメラ11の視野に制限されて図1
9のようになっており、道路を通常走行している場合に
は、側壁は車輌1の左側と右側に、車輌1と概ね平行に
存在する。一方、遠くの側壁は、距離データの精度の面
から検出が困難になり、且つ、検出の必要性も小さい。
そこで、これらを考慮し、図示したような左側と右側の
2つの探索領域SL,SRを設定し、左側と右側の側壁
を別々に検出して行く。
【0119】すなわち、各探索領域SL,SRに含まれ
る立体物データを抽出するには、前記立体物データ抽出
部121で抽出された各データの被写体の三次元位置
(X,Z座標)を計算し、この三次元位置(X,Z)と
各探索領域SL,SRとを、それぞれ比較して判定する
のである。
【0120】例えば図20に示すような状況では、画像
上に前記各探索領域SL,SRを図示すると破線枠のよ
うになり、これらの探索領域内にも、目的とする側壁の
他に歩行者や電柱等様々な立体物が存在する。さらに、
距離画像にはノイズ状の偽データも含まれており、実際
には物体が存在しない空間にデータのみが分散して存在
する。これらのデータを模式的に示すと図21のように
なり、この中で側壁は、そのデータが直線状に並んでい
る特徴がある。そこで、ハフ変換を使用してデータの列
の直線式を検出することによって側壁の検出を行なう。
【0121】このハフ変換による直線式の検出について
説明すると、まず、図22の立体物データPi(座標X
i,Zi)に対し、このデータPiの点を通る直線Fiを想
定する。この直線の式は、以下の(12)式で示され
る。
【0122】 X=afi×Z+bfi (12) 次に図23に示すように、縦軸が式(12)の傾きa
f、横軸が切片bfのパラメータ空間を設定し、式(1
2)のパラメータafi,bfiに相当する位置に投票を
行う。
【0123】ここで、傾きafiの値は、前述したよう
に側壁は車輌1と概ね平行と考えられるため、高速道路
では、例えば±10゜(afi:±0.18)程度、一
般道路では、例えば±20゜(afi:±0.36)程度
の範囲で変化させれば実用上十分である。また、切片b
fi の値は、左側の側壁を検出する場合、車輌1の左脇
である例えばX=−1mから−10m程度の範囲、右側
の側壁を検出する場合には、例えばX=+1mから+1
0m程度の範囲に制限する。このように、制限範囲を例
えば±10m程度にするのは、あまり遠く離れた側壁の
検出は実用面の必要性が小さいためである。
【0124】このような制限により、パラメータ空間上
で投票が行われる範囲は、図23に示すような矩形領域
となり、この矩形領域はさらに格子状に分割されて各格
子毎に投票される。式(12)の傾きafiは、所定の
変化範囲内(例えば±10゜〜±20゜)であり、格子
間隔Δaf毎に順次変化させて設定する。切片bfi
は、設定された傾きafiと立体物データPiの座標(X
i,Zi)を式(12)に代入して算出され、これが前記
制限範囲内であればパラメータ空間の該当する格子に投
票される。
【0125】検出される側壁の位置、すなわち直線式の
傾きと切片の検出精度は、格子間隔Δaf,Δbfによ
って決定され、格子間隔Δaf,Δbfの設定は、側壁
の情報を利用する外部装置側の要求に基づいて行なわれ
る。例えば、道路を通常走行する場合の衝突等の危険の
検知として利用する場合には、格子間隔Δafは1〜2
゜程度、格子間隔Δbfは0.3〜0.6m程度が良
い。
【0126】以上のようにして探索領域内の全立体物デ
ータに対してパラメータ空間への投票を行なう際、図2
2に示すように、直線的に並んだデータが存在すると、
このデータの列と一致するように設定した直線のパラメ
ータafi,bfiに相当するパラメータ空間の格子は多
くの得票を得て、左右の投票領域SL,SR毎に局所極
大値が現れる。図24は、図22に示した立体物データ
の例を処理してパラメータ空間に投票した結果を示し、
この例では局所極大値は43である。
【0127】側壁が存在し、明確な立体物データの列が
あるとパラメータ空間の局所極大値は大きな値を示し、
一方、側壁が無く、複数の物体が分散して存在する状態
では局所極大値は小さい値を示す。従って、パラメータ
空間の左右の投票領域SL,SR毎に局所極大値を検出
し、検出した局所極大値が判定値以上であれば側壁が存
在すると判定することができる。判定値は設定する探索
領域の大きさや格子の間隔等を考慮して設定する。
【0128】次に、前記側壁直線検出部122で側壁有
りと判定された場合には、側壁範囲検出部123で側壁
の前後端の位置を検出する。局所極大値の格子に相当す
るパラメータaf,bfを読み出すと、側壁は、次の直
線式(13)に沿って存在すると推定され、図22及び
図24の例で検出された直線式を図示すると図25に示
す直線Ffとなる。
【0129】 X=af×Z+bf (13) まず、直線Ffを中心として幅0.3m〜1.0m程度
の領域を側壁候補領域Tfとすると、この領域は、さら
に図25のようにZ方向に区分される。側壁候補領域T
fの幅は、前記パラメータ空間の格子の間隔Δbfにデ
ータの誤差等を考慮して設定する。
【0130】次に、前記探索領域内の立体物データを順
次サーベイし、側壁候補領域Tf内にあるデータのみを
抽出した後、区分毎に立体物データの個数をカウント
し、ヒストグラムを作成する。これを模式的に示すと図
26のようになり、側壁が存在する部分では大きな度数
を示す。従って、度数が判定値以上の区分を検出するこ
とによって、この範囲に側壁が存在すると判断すること
ができ、その両端の三次元位置を計算して側壁の前後端
位置とする。
【0131】左右両側の側壁を検出するには、まず、側
壁直線検出部122で左側の探索領域SLを設定して側
壁直線検出処理及び側壁範囲検出処理を行なって左側の
側壁を検出した後、再び側壁直線検出部122で右側の
探索領域SRを設定し、同様の処理を繰り返して右側の
側壁を検出する。
【0132】以上のようにして求められた道路の形状と
側壁の有無、位置等のパラメータは、道路・側壁パラメ
ータ記憶部130に出力され、記憶される。
【0133】次に、ステレオ画像処理装置20による距
離情報の算出、及び、道路・側壁検出装置100の動作
について説明する。
【0134】まず、ステレオ画像処理装置20では、図
27に示すプログラムのステップS101で左右のCCDカ
メラ11a,11bによって撮像した画像を入力する
と、ステップS102で、入力した画像をA/D変換した
後、LUT32a,32bで補正し、画像メモリ33
a,33bに記憶する。
【0135】これらの画像メモリ33a,33bに記憶
される画像は、CCDカメラ11a,11bのCCD素
子の全ラインのうち、その後の処理に必要なラインのみ
であり、例えば0.1秒に1回の割合(テレビ画像で3
枚に1枚の割合)で書き換えられる。
【0136】次に、ステップS103へ進むと、左右画像用
の画像メモリ33a,33bから入力バッファメモリ4
1a,41b,42a,42bへ、共通バス80を介し
て、例えば4ラインずつ左右画像データが読み込まれ、
読み込んだ左右画像のマッチング、すなわち一致度の評
価が行なわれる。
【0137】その際、左右の画像毎に、前記画像メモリ
33a,33bから前記入力バッファメモリ41a,4
1b,42a,42bへの読み込み動作と、シフトレジ
スタ43a,43b,44a,44bに対する書き込み
動作とが交互に行なわれる。例えば、左画像では、画像
メモリ33aから一方の入力バッファメモリ41aに画
像データが読み込まれている間に、他方の入力バッファ
メモリ41bからシフトレジスタ43bへ読み込んだ画
像データの書き出しが行なわれ、右画像では、画像メモ
リ33bから一方の入力バッファメモリ42aに画像デ
ータが読み込まれている間に、他方の入力バッファメモ
リ42bからシフトレジスタ44bへ読み込んだ画像デ
ータの書き出しが行なわれる。
【0138】そして、図28に示すように、前記シフト
レジスタ43a,43b,44a,44bには、左右の
4×4画素の小領域の画像データ(1,1)…(4,
4)が保存され、一方のシフトレジスタ43a(44
a)には1、2ラインのデータが、もう一方のシフトレ
ジスタ43b(44b)には3、4ラインのデータが、
それぞれ1画素毎に奇数ライン、偶数ラインの順序で入
る。
【0139】前記各シフトレジスタ43a,43b,4
4a,44bは、それぞれが独立した転送ラインを持
ち、4×4画素のデータは例えば8クロックで転送され
る。そして、これらのシフトレジスタ43a,43b,
44a,44bは、8段のうちの偶数段の内容を同時に
シティブロック距離計算回路45に出力し、シティブロ
ック距離Hの計算が始まると、右画像のデータはシフト
レジスタ44a,44b内に保持されて、クロック毎に
奇数ライン、偶数ラインのデータが交互に出力され、一
方、左画像のデータはシフトレジスタ43a,43bに
転送され続け、奇数ライン、偶数ラインのデータが交互
に出力されつつ、2クロック毎に1画素分右のほうにず
れたデータに置き換わっていく。この動作を、例えば1
00画素分ずれるまで(200クロック)繰り返す。
【0140】その後、一つの小領域に対する転送が終了
すると、#2アドレスコントローラ87内の左画像用ア
ドレスカウンタに右画像用アドレスカウンタの内容(次
の4×4画素の小領域の先頭アドレス)がセットされ、
次の小領域の処理が始まる。シティブロック距離計算回
路45では、図29のタイミングチャートに示すよう
に、まず、ピラミッド型構造初段の絶対値演算器に8画
素分のデータを入力し、左右画像の輝度差の絶対値を計
算する。すなわち、右画素の輝度から対応する左画素の
輝度を引き算し、結果が負になった場合、演算命令を変
えることにより、引く方と引かれる方を逆にして再び引
き算を行なうことにより、絶対値の計算を行なう。従っ
て、初段では引き算を2回行なう場合がある。
【0141】次いで、初段を通過すると、2段目から4
段目までの第1ないし第3加算器で二つの同時入力デー
タを加算して出力する。そして、最終段の総和加算器で
二つの連続するデータを加え合わせて総和を計算し、必
要とする16画素分のシティブロック距離Hを2クロッ
ク毎に最小・最大値検出部50へ出力する。
【0142】次に、ステップS104へ進み、前記ステップ
S103で算出したシティブロック距離Hの最大値HMAX 、
最小値HMIN を検出する。前述したように、この最大値
HMAX の検出と最小値HMIN の検出とは、互いに論理が
逆になることと、ずれ量を保存しないこと以外は、全く
同じであるため、以下、代表して最小値HMIN の検出に
ついて説明する。
【0143】まず、最初に出力されてきたシティブロッ
ク距離H(ずれ量δ=0)が、図7に示す最小値検出回
路51のCラッチ53を介して、演算器46のBレジス
タ46bに入力される。次のクロックで出力されてきた
シティブロック距離H(ずれ量δ=1)は、Cラッチ5
3と演算器46のAレジスタ46aとに入れられ、演算
器46では、同時に、Bレジスタ46bとの比較演算が
始まる。
【0144】前記演算器46での比較演算の結果、Bレ
ジスタ46bの内容よりもAレジスタ46aの内容の方
が小さければ、次のクロックのときに、Cラッチ53の
内容(すなわちAレジスタ46aの内容)がBレジスタ
46bに送られ、このときのずれ量δがDラッチ55に
保存される。このクロックで同時に、次のシティブロッ
ク距離H(ずれ量δ=2)がAレジスタ46aとCラッ
チ53に入れられ、再び比較演算が始まる。
【0145】このようにして、計算途中での最小値が常
にBレジスタ46bに、そのときのずれ量δがDラッチ
55に保存されながら、ずれ量δが100になるまで計
算が続けられる。計算が終了すると(最後のシティブロ
ック距離Hが出力されてから1クロック後)、Bレジス
タ46bとDラッチ55の内容はずれ量決定部60に読
み込まれる。
【0146】この間に、前述したシティブロック距離計
算回路45では次の小領域の初期値が読み込まれ、時間
の無駄を生じないようになっており、一つのシティブロ
ック距離Hを計算するのに、例えば4クロックかかる
が、パイプライン構造をとっているため、2クロック毎
に新たな計算結果が得られる。
【0147】ステップS105では、前記ステップ104 でシ
ティブロック距離Hの最小値HMIN、最大値HMAX が確
定すると、ずれ量決定部60にて、前述した3つの条件
がチェックされ、ずれ量δが決定される。
【0148】すなわち、図30のタイミングチャートに
示すように、Bバス62bを介して最小値HMIN が演算
器61のBレジスタ72にラッチされるとともに、この
Bレジスタ72の値と比較されるしきい値Ha がAバス
62aを介してAレジスタ71にラッチされる。そして
ALU70で両者が比較され、しきい値Ha よりも最小
値HMIN の方が大きければ、スイッチ回路65がリセッ
トされ、以後のチェックの如何に係わらず常に0が出力
されるようになる。
【0149】次に、Aレジスタ71に最大値HMAX がラ
ッチされ、このAレジスタ71にラッチされた最大値H
MAX とBレジスタ72に保存されている最小値HMIN と
の差が計算されて、その結果がFレジスタ73に出力さ
れる。次のクロックでAレジスタ71にしきい値Hb が
ラッチされ、Fレジスタ73の値と比較される。Aレジ
スタ71にラッチされたしきい値Hb よりもFレジスタ
73の内容の方が小さければ同様にスイッチ回路65が
リセットされる。
【0150】次のクロックからは、隣接画素間の輝度差
の計算が始まる。輝度データが保存されている2組のシ
フトレジスタ64a,64bは10段構成であり、それ
ぞれ、シティブロック距離計算部40の1,2ライン用
のシフトレジスタ44aと、3,4ライン用のシフトレ
ジスタ44bの後段に接続されている。前記シフトレジ
スタ64a,64bの出力は最後の段とその2つ手前の
段から取り出され、それぞれが、Aバス62aとBバス
62bとに出力される。
【0151】輝度差の計算が始まるとき、前記シフトレ
ジスタ64a,64bの各段には小領域中の各場所の輝
度データが保持されており、初めに前回の小領域の第4
行第1列の輝度データと、今回の小領域の第1行第1列
の輝度データとが、演算器61のAレジスタ71とBレ
ジスタ72とにラッチされる。
【0152】そして、Aレジスタ71の内容とBレジス
タ72の内容の差の絶対値が計算され、結果がFレジス
タ73に保存される。次のクロックでAレジスタ71に
しきい値Hc がラッチされ、Fレジスタ73の値と比較
される。
【0153】前記演算器61での比較結果、Aレジスタ
の内容(しきい値Hc )よりもFレジスタ73の内容
(輝度差の絶対値)のほうが大きければ、前記スイッチ
回路65からずれ量δあるいは”0”が出力され、、A
レジスタの内容よりもFレジスタ73の内容のほうが小
さければ”0”が出力されて、出力バッファメモリ66
a,66bの該当する小領域の第1行第1列に当たる位
置に書き込まれる。
【0154】前記演算器61で隣接画素間の輝度差とし
きい値Hc との比較が行なわれている間に、シフトレジ
スタ64a,64bは1段シフトする。そして今度は、
前回の小領域の第4行第2列と、今回の小領域の第1行
第2列の輝度データに対して計算を始める。このように
して小領域の第1列、第2列に対し交互に計算を行なっ
た後、第3列、第4列に対して同様に計算を進める。
【0155】計算中は、シフトレジスタ64a,64b
の最終段と最初の段がつながってリングレジスタになっ
ており、小領域全体を計算した後にシフトクロックが2
回追加されるとレジスタの内容が計算前の状態に戻り、
次の小領域の輝度データが転送され終わったときに、最
終段とその前の段に今回の小領域の第4行のデータが留
められる。
【0156】このように、ずれ量決定のための計算中に
次のデータをAバス62a,Bバス62bに用意した
り、結果の書き込みを行なうため、計算に必要な2クロ
ックのみで一つのデータが処理される。この結果、初め
に行なう最小値HMIN 、最大値HMAX のチェックを含め
ても、例えば43クロックで全ての計算が終了し、一つ
の小領域に対して、シティブロック距離Hの最小値HMI
N 、最大値HMAX を求めるのに要する時間は充分に余裕
があり、さらに機能を追加することも可能となってい
る。
【0157】そして、ずれ量δが決定されると、ステッ
プS106で、出力バッファメモリ66a,66bからデュ
アルポートメモリ90へ、ずれ量δを距離分布情報とし
て出力し、ステレオ画像処理装置20における処理が終
了する。
【0158】この出力バッファメモリ66a,66b
は、前述した入力バッファメモリ41a,41b,43
a,43bと同様、例えば4ライン分の容量があり、2
組の一方に書き込んでいる間にもう一方から前記デュア
ルポートメモリ90へ距離分布情報を送り出す。
【0159】前記デュアルポートメモリ90へ書き込ま
れた距離分布情報からは、CCDカメラ11,12の取
付け位置と焦点距離等のレンズパラメータとから、各画
素に対応する物体のXYZ空間における三次元位置を算
出することができ、情報量の低下なく車外の対象物まで
の距離を正確に検出することができる。
【0160】次に、ステレオ画像処理装置20のタイミ
ングについて、図31に示すタイミングチャートに従っ
て説明する。
【0161】まず初めに、同期を取っている左右のCC
Dカメラ11a,11bからのフィールド信号を0.1
秒毎(3画面に1画面の割合)に、画像メモリ33a,
33bに書き込む。
【0162】次に、取り込み終了信号を受けて、4ライ
ン毎のブロック転送が始まる。この転送は、右画像、左
画像、結果の距離分布像の順に3ブロック転送する。
【0163】この間に、一方の入出力バッファメモリに
対してずれ量δの計算が行われる。そして、ずれ量δの
計算時間を考慮し、所定時間待機してからもう一方の入
出力バッファメモリに対して転送を始める。
【0164】一つの右画像の4×4画素の小領域に対す
るシティブロック距離Hの計算は、左画像について10
0画素ずらしながら計算するため、100回行われる。
一つの領域のシティブロック距離Hが計算されている間
に、その前の領域のずれ量δが各チェックを経て距離分
布として出力される。
【0165】処理すべきライン数を200とすると4ラ
イン分の処理を50回繰り返すことになり、計算の開始
時に最初のデータを転送するための4ライン分の処理時
間、計算終了後に最後の結果を画像認識部に転送するた
めの4ライン分の処理時間と、計8ライン分の処理時間
がさらに必要となる。
【0166】最初の入力画像ラインの転送を開始してか
ら最後の距離分布を転送し終わるまでの時間は、実際の
回路動作の結果、0.076秒である。
【0167】次に、道路・側壁検出装置100の動作に
ついて、道路検出部110の動作を図32〜図35のフ
ローチャートに従って、また、側壁検出部120の動作
を図36〜図38のフローチャートに従って説明する。
【0168】道路検出部110では、まず、道路形状推
定処理を行なう。すなわち、図32に示すプログラムの
ステップS201で、前回(Δtsec前)の道路形状パラ
メータを読み込むと、次いで、ステップS202へ進み、車
速センサ3の出力信号V、舵角センサ4の出力信号ηを
読み込む。
【0169】次に、ステップS203へ進むと、前記ステッ
プS202で読み込んだ車速センサ3の出力信号と舵角セン
サ4の出力信号ηを使ってΔt秒間の車輌1の動きを算
出し、ステップS204で、Δt秒後の車輌1の位置から見
た道路形状を推定して道路形状パラメータを修正する。
【0170】以上の道路形状推定処理が終わると、三次
元ウインドウ発生処理へ移行し、ステップS205で、道路
モデルの第1区間R1の左側の直線要素Ldのパラメー
タ(a,b,c,d)を読み込むと、ステップS206で、
この直線要素Ldを中心とする三次元ウインドウWD3A
を設定する。
【0171】その後、ステップS207へ進み、前記ステッ
プS206で設定した三次元ウインドウWD3Aから二次元画
像上での二次元ウインドウWD2Aを設定し、次のステッ
プS208以降へ進む。
【0172】ステップS208〜ステップS217は、直線要素
検出処理であり、ステップS208で、二次元ウインドウW
D2A内のデータを読み込むと、ステップS209で、各デー
タの三次元位置を計算し、ステップS210で、距離Zの値
が三次元ウインドウWD3Aの長さの範囲内にあるデータ
を選別する。
【0173】そして、ステップS211へ進み、先に推定し
た道路形状の直線要素Ldと被写体の三次元位置を比較
してX方向、Y方向の位置のずれ量ΔX、ΔYを計算
し、ステップS212で、これらのずれ量ΔX,ΔYが、三
次元ウインドウWD3Aの幅、高さの範囲内にあるデータ
のみを選別し、他は除外する。
【0174】その後、ステップS213へ進み、前記ステッ
プS212で計算したX方向、Y方向のずれ量ΔX,ΔYに
応じて、そのデータの重み係数を決定し、各データに、
ずれ量ΔX,ΔYに応じた重み係数を付加する。
【0175】次に、ステップS214へ進むと、最小自乗法
を用いて水平方向(XZ平面)および垂直方向(YZ平
面)の直線式を導出し、パラメータ(a,b,c,d)
を求め、これを新しい直線要素Ldの候補とする。
【0176】そして、ステップS215で、道路モデルの右
側のラインの直線要素Ldの候補が求められたか否かを
調べ、その結果がNOの場合には、ステップS216で、右
側の直線要素Ldのパラメータを読み込んで前述のステ
ップS206へ戻り、結果がYESの場合には、ステップS2
17へ進む。
【0177】ステップS217では、求めた直線要素Ldの
候補が最終区間の右側のものであるか否かを調べ、最終
区間でない場合には、ステップS218で、次の区間の左側
の直線要素Ldのパラメータを読み込んで、前述のステ
ップS206へ戻り、同様の処理を繰り返す。
【0178】一方、前記ステップS217で、求めた直線要
素Ldの候補が最終区間の右側のものであり、道路モデ
ルを構成する全ての直線要素Ldの候補を求め終えた場
合には、前記ステップS217からステップS219以降へ進
み、道路形状判定処理を実行する。
【0179】すなわち、ステップS219で、第1区間R1
の直線要素Ldのパラメータを読み込むと、ステップS2
20で、左右の直線要素Ldの水平方向の平行度を調べ
て、その妥当性を判定し、ステップS221で、左右の直線
要素Ldの垂直方向の平行度を調べ、その妥当性を判定
する。
【0180】その後、ステップS222へ進み、前記ステッ
プS220,S221における判定結果、左右いずれかの直線要
素が妥当でないと判定された場合、あるいは、道路上の
白線が破線状であったり、障害物に隠れて見えないため
にデータが不足して、左右いずれかの直線要素の候補が
ない場合に対し、検出された側の直線要素を車線の幅だ
け並行移動して代用することにより、欠落する直線要素
を補完し、ステップS223へ進む。
【0181】尚、左右両方の直線要素が無しの場合に
は、先に推定した道路形状の直線要素を代用する。
【0182】ステップS223では、最終区間か否かを調
べ、最終区間でない場合には、ステップS224で、次の区
間の左右の直線要素Ldのパラメータを読み込んで前述
のステップS220へ戻り、最終区間の場合には、ステップ
S223からステップS225へ進んで、各直線要素Ldのパラ
メータを出力用メモリ100eへ書き込んでプログラム
を終了する。
【0183】次に、側壁検出部120の動作について説
明する。図36のプログラムにおけるステップS301〜S3
07は、立体物データ抽出処理であり、まず、ステップS3
01で道路形状パラメータを読み込むと、ステップS302
で、距離画像から最初の距離データを読み込む。
【0184】次に、ステップS303へ進み、被写体の位置
(X,Z座標)と高さ(Y座標)とを計算し、ステップ
S304で、距離Zに於ける道路表面の高さH(Y座標)を
計算し、ステップS305で、道路面より上、且つ自車輌1
の高さ以下にあるデータを立体物データとして抽出す
る。
【0185】そして、ステップS306へ進んで最終データ
か否かを調べ、最終データでない場合、ステップS307で
次の距離データを読み込むと前述のステップS303へ戻っ
て処理を繰り返し、最終データの場合にはステップS306
からステップS308へ進む。
【0186】図37のステップS308〜ステップS317は、
側壁直線検出処理であり、ステップS308で、最初の立体
物データを読み込むと、ステップS309で、被写体の位置
(X,Z座標)を計算し、ステップS310で、計算した位
置(X,Z座標)が探索領域内か否かを調べる。
【0187】計算した位置(X,Z座標)が探索領域外
であるときには、前記ステップS310からステップS312へ
ジャンプし、探索領域内のとき、前記ステップS310から
ステップS311へ進んでパラメータ空間へ投票し、ステッ
プS312へ進む。
【0188】ステップS312では、処理した立体物データ
が最終データか否かを調べ、最終データでないときに
は、ステップS313で、次の立体物データを読み込んで、
前述のステップS309からの処理を繰り返し、最終データ
のとき、ステップS314へ進んで、パラメータ空間上の局
所極大値を検出する。
【0189】次いで、ステップS315へ進むと、検出した
局所極大値が判定値以上か否かを調べ、判定値よりも小
さいとき、ステップS316で側壁は存在しないと判定し、
判定値以上のとき、ステップS317で、側壁が存在すると
判定して、ステップS318へ進む。
【0190】図38のステップS318以下は、側壁範囲検
出処理であり、ステップS318で、前記ステップS314で検
出した局所極大値の格子に相当するパラメータ、すなわ
ち局所極大点が示す直線式のパラメータ(af,bf)
を読み込むと、ステップS319へ進んで、側壁候補領域を
設定する。
【0191】そして、ステップS320で、探索領域内の最
初の立体物データを読み込み、ステップS321で、被写体
の位置(X,Z座標)を計算すると、ステップS322で、
側壁候補領域内にあるデータを抽出し、ステップS323
で、処理したデータが探索領域内の最終データか否かを
調べる。
【0192】探索領域内の最終データでないときには、
前記ステップS323からステップS324へ分岐して探索領域
内の次の立体物データを読み込んで、前述のステップS3
21へ戻り、探索領域内の最終データであるときには、前
記ステップS323からステップS325へ進んで、側壁候補領
域内のデータを使ってヒストグラムを作成する。
【0193】次に、ステップS326へ進むと、作成したヒ
ストグラムの度数が判定値以上の区分を検出し、ステッ
プS327で、ヒストグラムの度数が判定値以上の区間の両
端の三次元位置、すなわち側壁の前後端位置を算出し、
ステップS328で、側壁の有無、位置、方向、前後端の位
置等のパラメータを出力用メモリ100eへ書き込んで
プログラムを終了する。尚、このプログラムは、左側の
側壁について実行した後、右側の側壁について実行す
る。
【0194】このように、本実施例においては、三次元
の位置に関する特徴を利用するため、側壁の色や形、材
質等の見掛け上の特徴に影響されにくく、一般的なガー
ドレールのみでなく、様々な手擦りや植え込み、道路工
事のパイロンの列等も側壁として検出でき、自動車の走
行を規制するものとしての側壁を的確に検出することが
でき、しかも、側壁の有無や位置を、直線式のパラメー
タや前後端の座標といった簡素なデータ形態に変換する
ため、利用側でのデータの取扱いや処理が容易となり、
外部装置を接続することにより、より高度な危険警報や
事故回避の機能を実現することができるのである。
【0195】図39及び図40は本発明の第2実施例に
係り、図39は探索領域と格子区分を示す説明図、図4
0は側壁直線検出処理のフローチャートである。
【0196】本実施例は、前述の第1実施例に対し、側
壁直線検出におけるハフ変換の処理を変更するものであ
る。一般的に、ハフ変換は時間を要する処理であり、前
述の第1実施例においても処理時間を短縮するように種
々制限を設けているが、前述の第1実施例ではハフ変換
の処理を立体物データ毎に行うために、立体物データの
数が画像の状況によって変化すると処理時間も変化す
る。
【0197】本実施例は、この点を改良するものであ
り、前述の第1実施例における側壁の探索領域SL,S
Rを、図39に示すように格子状に区分し、それぞれに
番号を付け、ハフ変換の処理を設定した格子の数だけ実
行する。ここで、区分の間隔は、X方向は、例えば0.
3m〜0.6m程度、Z方向は、距離データの精度や側
壁の情報を利用する装置側の要求を考慮して設定する
が、例えば、概ね1m〜5m程度である。
【0198】以下、図40のフローチャートに従って、
側壁直線検出処理について説明する。尚、このフローチ
ャートは、前述の第1実施例の側壁直線検出処理のフロ
ーチャート(図37)に代わるものであり、その他の処
理は、前述の第1実施例と同じである。
【0199】まず、前述の立体物データ抽出処理におい
て抽出された各データに対し、ステップS401で最初の立
体物データを読み込むと、ステップS402で、被写体の三
次元位置(X,Z座標)を計算し、これが探索領域S
L、SRに含まれる場合には、ステップS403で、該当す
る格子番号を計算し、ステップS404で、その格子内のデ
ータ数のカウントを更新する。
【0200】続いて、ステップS405で最終データか否か
を調べ、最終データでないときには、ステップS406で、
次の立体物データを読み込んで、同様にステップS402以
降の処理を繰り返し、格子毎のデータ数を求める。
【0201】そして、前記ステップS405で、最終データ
となったとき、前記ステップS405からステップS407へ進
んで最初の格子データを読み込むと、ステップS408で、
格子中心の位置(X,Z座標)を計算してステップS409
でパラメータ空間への投票を行ない、ステップS410へ進
む。
【0202】すなわち、前述の第1実施例では、探索領
域内のデータ毎に直線の設定と投票を行なったが、本実
施例においては、各格子毎にデータが、その格子の中心
位置にまとまって存在するとして直線を設定し、投票は
格子のデータ数だけまとめて行なうのである。この場
合、設定する直線式(12)の傾きafi や切片bfi
の範囲は、前述の第1実施例と同じである。
【0203】また、投票されたパラメータ空間から局所
極大値を求め、側壁の有無を判定するプロセスは、前述
の第1実施例と同じであり、ステップS410で、最終格子
か否かを調べ、最終格子でないときには、ステップS411
で次の格子データを読み込んでステップS408からの処理
を繰り返し、最終格子になったとき、ステップS412へ進
んで、パラメータ空間上の局所極大値を検出すると、ス
テップS413で、検出した局所極大値が判定値以上か否か
を調べ、判定値より小さいとき、ステップS414で、側壁
は存在しないと判定し、判定値以上のとき、ステップS4
15で、側壁が存在すると判定する。
【0204】本実施例では、立体物データを格子状空間
毎にまとめ、ハフ変換の処理を設定した格子の数だけ実
行するため、側壁検出の際の処理時間を一定とすること
ができ、特に、立体物データの数が多い場合には、大幅
に処理時間を短縮できる効果がある。その他の作用・効
果は前述の第1実施例と同様である。
【0205】図41〜図45は本発明の第3実施例に係
り、図41は車外監視装置の全体構成図、図42は車外
監視装置の回路ブロック図、図43は側壁検出装置の機
能ブロック図、図44は画像の例を示す説明図、図45
は立体物の二次元分布の例を示す説明図である。
【0206】本実施例の車外監視装置200は、図41
に示すように、前述の第1実施例のステレオ画像処理装
置20に代えて、立体物の二次元的な位置分布を認識す
る通路パターン認識装置210を採用し、この通路パタ
ーン認識装置210に側壁検出装置220を接続したも
のであり、通路パターン認識装置210によって得られ
る立体物の二次元分布の位置情報を前述の第1の実施例
と同様の方法で処理し、側壁を検出するものである。
【0207】前記側壁検出装置220に接続する通路パ
ターン認識装置210は、周知の装置を適用することが
でき、例えば、計測自動制御学会論文集Vol.21,
No.2(昭和60年2月)「障害物の2次元的な分布
の認識手法」に記載されている通路パーン認識装置等を
適用することができる。
【0208】前記通路パターン認識装置210は、第1
実施例のステレオ画像処理装置20と同様に2台のカメ
ラの画像を処理して被写体までの距離分布を検出するも
のであるが、装置内部のデータ処理方法が異なるため立
体物の情報のみが出力され、第1実施例のような白線に
よる道路形状の検出はできない。
【0209】また、本実施例では、車外の対象風景を撮
像するステレオ光学系201は、車輌230の前部に上
下一定の間隔をもって取り付けられる2台のCCDカメ
ラ201a,201bで構成されており、また、前記通
路パターン認識装置210は、図42に示すように、前
記ステレオ光学系201からの上下2枚の画像信号を入
力し、立体物の距離及び位置の二次元分布を算出する距
離検出回路210a、この距離検出回路210aからの
二次元分布情報を記憶する二次元分布メモリ210b等
から構成されている。
【0210】前記側壁検出装置220は、前記二次元分
布メモリ210bに書き込まれた二次元分布情報を読み
出して各種の計算処理を行なうマイクロプロセッサ22
0aを中心に構成され、制御プログラムを格納する読み
出し専用メモリ(ROM)220b、計算処理途中の各
種パラメータを記憶する読み書き両用メモリ(RAM)
220c、処理結果のパラメータを記憶する出力用メモ
リ220d等から構成されている。前記マイクロプロセ
ッサ220aは、前記二次元分布メモリ210bを介し
て二次元分布情報を入力して計算処理を実行し、処理結
果である側壁のパラメータを出力用メモリ220dに出
力する。
【0211】前記側壁検出装置220は、前述の第1実
施例における道路・側壁検出装置100の側壁検出部1
20と同様の機能構成であり、図43に示すように、前
記二次元分布メモリ210bに記憶されている立体物の
二次元分布情報の中から、予め設定された側壁の探索領
域内のデータのみを抽出し、これをハフ変換で処理して
側壁の有無と側壁の位置を示す直線式とを検出する側壁
直線検出部221、この側壁直線検出部221で検出さ
れた側壁の位置を示す直線式に基づいて、側壁が存在す
ると推定される側壁候補領域を設定し、この側壁候補領
域内の立体物データの分布状態から、側壁の前後端の位
置を検出する側壁範囲検出部222、処理結果を記憶す
る前記出力用メモリ220dからなる側壁パラメータ記
憶部223から構成されている。
【0212】本実施例では、ステレオ光学系201で撮
像した画像、例えば、図44に示すような画像を通路パ
ターン認識装置210で処理すると、図45に示すよう
な立体物の二次元分布パターンが出力される。これは、
前述の第1実施例における立体物データ抽出処理で抽出
されるデータ(図21参照)と同様であり、このデータ
に対し、前述の第1実施例と同様の側壁直線検出処理、
側壁範囲検出処理を行なえば、左右の側壁の有無、位置
を検出することができる。
【0213】このように、本実施例では、通路パターン
認識装置から出力される立体物の二次元分布の位置情報
を利用する場合のような、道路の白線を検出することが
困難で、しかも、この位置情報を利用する側である事故
の危険判断や走行制御におけるデータ処理が容易でない
場合であっても、側壁を確実に検出することができ、且
つ、側壁の有無や位置を、直線式のパラメータや前後端
の座標といった簡素なデータ形態に変換するため、利用
側でのデータの取扱いや処理が容易となる。
【0214】図46〜図51は本発明の第4実施例に係
り、図46は車外監視装置の全体構成図、図47は車外
監視装置の回路ブロック図、図48は側壁検出装置の機
能ブロック図、図49はレーザビームの走査方法を側面
から示す説明図、図50はレーザビームの走査方法を上
面から示す説明図、図51はレーザレーダ測距装置で計
測される立体物の二次元分布の例を示す説明図である。
【0215】本実施例の車外監視装置300は、図46
に示すように、前述の第1実施例のステレオ画像処理装
置20に代えて、レーザビームによるレーザレーダ測距
装置310を採用し、このレーザレーダ測距装置310
に側壁検出装置320を接続したものであり、レーザレ
ーダ測距装置310によって得られる立体物の二次元分
布の位置情報を前述の第1,第2実施例と同様の方法で
処理し、側壁を検出するものである。
【0216】前記レーザレーダ測距装置310は、レー
ザビームを投射し、このレーザビームが物体に当たって
反射してくる光を受光し、この所要時間から物体までの
距離を測定するものであり、本実施例の車外監視装置3
00には周知のレーザレーダ測距装置を適用することが
できる。
【0217】すなわち、本実施例の車外監視装置300
では、レーザビームの投射・受光と左右方向への走査機
能を有するレーザ投光ユニット301が車輌330の前
部に取り付けられており、図47に示すように、レーザ
レーダ測距装置310には、レーザービームの投光受光
の所要時間から物体までの距離を計算し、また、レーザ
ビームを走査する方向から物体の二次元の位置を計算す
る距離検出回路310a、検出された物体の二次元の位
置を書き込む二次元分布メモリ310b等から構成され
ている。
【0218】また、側壁検出装置320は、前記二次元
分布メモリ310bに書き込まれた二次元分布情報を読
み出して各種の計算処理を行なうマイクロプロセッサ3
20aを中心に構成され、制御プログラムを格納する読
み出し専用メモリ(ROM)320b、計算処理途中の
各種パラメータを記憶する読み書き両用メモリ(RA
M)320c、処理結果のパラメータを記憶する出力用
メモリ320d等から構成されている。前記マイクロプ
ロセッサ320aは、前記二次元分メモリ310bを介
して二次元分布情報を入力して計算処理を実行し、処理
結果である側壁のパラメータを出力用メモリ320dに
出力する。
【0219】前記側壁検出装置320は、前述の第2実
施例の側壁検出装置220と同様の機能構成であり、図
48に示すように、前記二次元分布メモリ310bに記
憶されている立体物の二次元分情報の中から、予め設定
された側壁の探索領域内のデータのみを抽出し、これを
ハフ変換で処理して側壁の有無と側壁の位置を示す直線
式とを検出する側壁直線検出部321、この側壁直線検
出部321で検出された側壁の位置を示す直線式に基づ
いて、側壁が存在すると推定される側壁候補領域を設定
し、この側壁候補領域内の立体物データの分布状態か
ら、側壁の前後端の位置を検出する側壁範囲検出部32
2、処理結果を記憶する前記出力用メモリ320dから
なる側壁パラメータ記憶部323から構成されている。
【0220】図49に示すように、レーザ投光ユニット
301からはレーザビームが水平に投射され、道路表面
より高い位置にある立体物のみが検出される。また、図
50に示すように、レーザビームは左右方向に走査さ
れ、所定の走査範囲で一定の間隔毎にレーザビームが投
光・受光されて距離を検出する動作が繰り返され、立体
物の二次元分布が計測される。
【0221】例えば、前述の図44に示すような、左側
にガードレール、右前方に他の車輌がある状況を前記レ
ーザレーダ測距装置310で計測すると、図51に示す
ような立体物の二次元分布の情報が得られる。これは、
前述の第1実施例における立体物データ抽出処理で抽出
されるデータ(図21参照)と同様である。従って、レ
ーザレーダ測距装置310の出力である立体物の二次元
分布に対し、第1、第2実施例と同様の側壁直線検出処
理及び側壁範囲検出処理を行なうことにより、左右の側
壁の有無、位置を検出することができる。
【0222】本実施例においても、前述の第3実施例と
同様、道路の白線を検出することが困難な場合において
も、側壁を確実に検出することができ、しかも、側壁の
有無、位置、方向を処理が容易なデータ形態で検出する
ことができる。
【0223】
【発明の効果】以上説明したように本発明によれば、車
外の設定範囲の対象に対する位置情報に基づいて、ガー
ドレール、植え込み、パイロン列等の道路の境界となる
連続した立体物としての側壁の有無と、この側壁の位置
を近似する直線式と、この側壁が存在する範囲とを検出
するため、道路の白線がない場合、あるいは白線を検出
することが困難な場合においても、側壁を確実に検出す
ることができ、しかも、側壁の有無、位置、方向を処理
が容易なデータ形態で検出するため、これらのデータを
用いて、より高度な危険警報や事故回避の機能を実現す
ることができる等優れた効果が得られる。
【図面の簡単な説明】
【図1】図1〜図38は本発明の第1実施例に係り、図
1は車外監視装置の全体構成図
【図2】車輌の正面図
【図3】車外監視装置の回路ブロック図
【図4】カメラと被写体との関係を示す説明図
【図5】ステレオ画像処理装置の具体例を示す回路構成
【図6】シティブロック距離計算回路の説明図
【図7】最小値検出回路のブロック図
【図8】車載のCCDカメラで撮像した画像の例を示す
説明図
【図9】距離画像の例を示す説明図
【図10】車輌の上面図
【図11】車輌の側面図
【図12】道路・側壁検出装置の機能ブロック図
【図13】道路モデルの例を示す説明図
【図14】三次元ウインドウの形状を示す説明図
【図15】二次元ウインドウの形状を示す説明図
【図16】直線要素とデータのずれ量を示す説明図
【図17】ずれ量と重み係数の関係を示す説明図
【図18】検出した道路形状の例を示す説明図
【図19】側壁検出における探索領域の形状を示す説明
【図20】側壁検出における画像の例を示す説明図
【図21】立体物データの分布状況を示す説明図
【図22】ハフ変換での直線の想定を示す説明図
【図23】パラメータ空間の投票領域を示す説明図
【図24】パラメータ空間への投票結果を示す説明図
【図25】側壁候補領域を示す説明図
【図26】ヒストグラムと側壁の存在範囲の関係を示す
説明図
【図27】ステレオ画像処理装置の動作を示すフローチ
ャート
【図28】シフトレジスタ内の保存順序を示す説明図
【図29】シティブロック距離計算回路の動作を示すタ
イミングチャート
【図30】ずれ量決定部の動作を示すタイミングチャー
【図31】ステレオ画像処理装置の動作を示すタイミン
グチャート
【図32】図32〜図35は道路検出部の動作を示すフ
ローチャートであり、図32は道路形状推定処理のフロ
ーチャート
【図33】三次元ウインドウ発生処理のフローチャート
【図34】直線要素検出処理のフローチャート
【図35】道路形状判定処理のフローチャート
【図36】図36〜図38は側壁検出部の動作を示すフ
ローチャートであり、図36は立体物データ抽出処理の
フローチャート
【図37】側壁直線検出処理のフローチャート
【図38】側壁範囲検出処理のフローチャート
【図39】図39及び図40は本発明の第2実施例に係
り、図39は探索領域と格子区分を示す説明図
【図40】側壁直線検出処理のフローチャート
【図41】図41〜図45は本発明の第3実施例に係
り、図41は車外監視装置の全体構成図
【図42】車外監視装置の回路ブロック図
【図43】側壁検出装置の機能ブロック図
【図44】画像の例を示す説明図
【図45】立体物の二次元分布の例を示す説明図
【図46】図46〜図51は本発明の第4実施例に係
り、図46は車外監視装置の全体構成図
【図47】車外監視装置の回路ブロック図
【図48】側壁検出装置の機能ブロック図
【図49】レーザビームの走査方法を側面から示す説明
【図50】レーザビームの走査方法を上面から示す説明
【図51】レーザレーダ測距装置で計測される立体物の
二次元分布の例を示す説明図
【符号の説明】
1 車輌 2 車外監視装置 10 ステレオ光学系(計測手段) 20 ステレオ画像処理装置(計測手段) 110 道路検出部(道路検出手段) 111 道路形状推定部(道路形状推定手段) 112 三次元ウインドウ発生部(三次元ウインドウ発
生手段) 113 直線要素検出部(直線要素検出手段) 114 道路形状判定部(道路形状判定手段) 121 立体物データ抽出部(データ抽出手段) 122 側壁直線検出部(側壁直線検出手段) 123 側壁範囲検出部(側壁範囲検出手段)
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI G08G 1/16 G08G 1/16 C (56)参考文献 特開 昭60−45882(JP,A) 特開 平2−90380(JP,A) 特開 平2−90381(JP,A) 特開 平4−161810(JP,A) 特開 平4−262498(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06T 1/00 315 G06T 1/00 330 B60R 21/00 624 G06T 7/00 G08G 1/16

Claims (8)

    (57)【特許請求の範囲】
  1. 【請求項1】 車外の設定範囲の対象を検出し、この対
    象に対する位置情報を出力する計測手段と、 前記計測手段からの位置情報に基づき、道路の境界とな
    る連続した立体物としての側壁の有無と、この側壁の位
    置を近似する直線式とを検出する側壁直線検出手段と、 前記側壁直線検出手段で検出した直線式の周囲に空間領
    域を設定し、この空間領域内のデータのみを抽出して前
    記側壁が存在する範囲を検出する側壁範囲検出手段とを
    備えたことを特徴とする車輌用車外監視装置。
  2. 【請求項2】 車外の設定範囲内の対象を検出し、この
    対象に対する三次元位置情報を出力する計測手段と、 前記計測手段からの三次元位置情報に基づいて道路モデ
    ルを決定し、この道路モデルを道路形状として検出する
    道路検出手段と、 前記道路モデルに基づいて、前記三次元位置情報の中か
    ら道路表面より上にあるデータのみを抽出するデータ抽
    出手段と、 前記データ抽出手段で抽出したデータから、道路の境界
    となる連続した立体物としての側壁の有無と、この側壁
    の位置を近似する直線式とを検出する側壁直線検出手段
    と、 前記側壁直線検出手段で検出した直線式の周囲に空間領
    域を設定し、この空間領域内のデータのみを抽出して前
    記側壁が存在する範囲を検出する側壁範囲検出手段とを
    備えたことを特徴とする車輌用車外監視装置。
  3. 【請求項3】 前記道路検出手段に、 前記三次元位置情報に基づいて、道路の白線の位置及び
    形状を推定する道路形状推定手段と、 前記道路形状推定手段で推定した道路の白線を包合する
    三次元の空間領域を三次元ウインドウとして設定する三
    次元ウインドウ設定手段と、 前記三次元位置情報の中から前記三次元ウインドウ内の
    データのみを抽出し、 前記道路モデルを構成する三次元の直線要素を検出する
    直線要素検出手段と、 前記直線要素検出手段で検出した直線要素の妥当性を判
    定し、判定基準に合致しない場合には前記直線要素を修
    正あるいは変更して前記道路モデルを決定する道路形状
    判定手段とを備えたことを特徴とする請求項2記載の車
    輌用車外監視装置。
  4. 【請求項4】 前記側壁直線検出手段は、 前記側壁の存在を探索する探索領域を設定し、この探索
    領域内のデータのみを抽出してハフ変換を行なうことに
    より、前記側壁の存在の有無と、前記直線式とを検出す
    るものであることを特徴とする請求項1または2記載の
    車輌用車外監視装置。
  5. 【請求項5】 前記側壁直線検出手段は、 前記側壁の存在を探索する探索領域を格子状に区分して
    設定し、この探索領域内のデータのみを抽出して各格子
    内に含まれるデータの個数を求め、各格子内のデータは
    各格子の中心位置にまとまって存在するものとしてハフ
    変換を行なうことにより、前記側壁の存在の有無と、前
    記直線式とを検出するものであることを特徴とする請求
    項1または2記載の車輌用車外監視装置。
  6. 【請求項6】 前記側壁範囲検出手段は、 前記空間領域内のデータの個数を縦軸とし、自車輌との
    距離を横軸とするヒストグラムを作成し、このヒストグ
    ラムの度数の大小から前記側壁が存在する範囲を検出す
    るものであることを特徴とする請求項1または2記載の
    車輌用車外監視装置。
  7. 【請求項7】 前記計測手段は、 車外の設定範囲を撮像して画像処理することにより、車
    外の対象に対する前記位置情報を出力するものであるこ
    とを特徴とする請求項1または2記載の車輌用車外監視
    装置。
  8. 【請求項8】 前記計測手段は、 車外の設定範囲を走査してレーザ光を投射・受光するこ
    とにより、車外の対象に対する前記位置情報を出力する
    ものであることを特徴とする請求項1または2記載の車
    輌用車外監視装置。
JP05259193A 1993-03-12 1993-03-12 車輌用車外監視装置 Expired - Lifetime JP3324821B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP05259193A JP3324821B2 (ja) 1993-03-12 1993-03-12 車輌用車外監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP05259193A JP3324821B2 (ja) 1993-03-12 1993-03-12 車輌用車外監視装置

Publications (2)

Publication Number Publication Date
JPH06266828A JPH06266828A (ja) 1994-09-22
JP3324821B2 true JP3324821B2 (ja) 2002-09-17

Family

ID=12919036

Family Applications (1)

Application Number Title Priority Date Filing Date
JP05259193A Expired - Lifetime JP3324821B2 (ja) 1993-03-12 1993-03-12 車輌用車外監視装置

Country Status (1)

Country Link
JP (1) JP3324821B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005013236A1 (ja) 2003-07-30 2005-02-10 Olympus Corporation 安全移動支援装置
WO2012014627A1 (ja) 2010-07-29 2012-02-02 本田技研工業株式会社 車両周辺監視装置
US20220334250A1 (en) * 2019-09-12 2022-10-20 Continental Automotive Gmbh Method for elevation angle estimation based on an ultrasound sensor

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3287166B2 (ja) * 1995-02-07 2002-05-27 富士電機株式会社 距離測定装置
JP4084857B2 (ja) * 1996-08-30 2008-04-30 本田技研工業株式会社 自動車の前方監視システムにおけるイメージセンサの縦横比設定方法
JP3757500B2 (ja) * 1996-11-13 2006-03-22 日産自動車株式会社 先行車追従装置
JP3349060B2 (ja) * 1997-04-04 2002-11-20 富士重工業株式会社 車外監視装置
JP3315054B2 (ja) * 1997-04-04 2002-08-19 富士重工業株式会社 車外監視装置
JPH11148394A (ja) * 1997-11-14 1999-06-02 Nissan Motor Co Ltd 車両制御装置
JP3516856B2 (ja) 1998-01-30 2004-04-05 富士重工業株式会社 車外監視装置
JP3562751B2 (ja) * 1998-06-09 2004-09-08 矢崎総業株式会社 前方車両検出方法及び装置
JP3945919B2 (ja) * 1998-09-22 2007-07-18 株式会社デンソー 走行路検出装置、車両走行制御装置および記録媒体
US6647139B1 (en) 1999-02-18 2003-11-11 Matsushita Electric Industrial Co., Ltd. Method of object recognition, apparatus of the same and recording medium therefor
JP3633368B2 (ja) * 1999-05-19 2005-03-30 日産自動車株式会社 障害物検出装置
JP3383844B2 (ja) * 2000-06-01 2003-03-10 独立行政法人産業技術総合研究所 楕円形の検出方法、検出プログラムを記録したコンピュータ読み取り可能な記録媒体および検出装置
JP2003106859A (ja) * 2001-09-28 2003-04-09 Equos Research Co Ltd 走行車線予測装置、ナビゲーション装置、及び走行車線予測方法
JP3739693B2 (ja) 2001-11-09 2006-01-25 本田技研工業株式会社 画像認識装置
JP3786618B2 (ja) * 2002-03-25 2006-06-14 株式会社東芝 画像処理装置及びその方法
JP3697435B2 (ja) * 2002-09-20 2005-09-21 富士重工業株式会社 車外監視装置
JP4531366B2 (ja) * 2003-09-19 2010-08-25 富士重工業株式会社 進入判定装置および進入判定方法
JP4574157B2 (ja) * 2003-10-17 2010-11-04 富士重工業株式会社 情報表示装置および情報表示方法
JP2005242606A (ja) * 2004-02-26 2005-09-08 Olympus Corp 画像生成装置、画像生成プログラム、及び画像生成方法
JP2006054662A (ja) * 2004-08-11 2006-02-23 Mitsubishi Electric Corp 運転支援装置
JP2007240277A (ja) * 2006-03-07 2007-09-20 Olympus Corp 距離計測装置・撮像装置、距離計測方法・撮像方法、距離計測プログラム・撮像プログラムおよび記憶媒体
JP4632987B2 (ja) 2006-03-28 2011-02-16 株式会社パスコ 道路画像解析装置及び道路画像解析方法
JP4901275B2 (ja) * 2006-04-07 2012-03-21 富士重工業株式会社 走行誘導障害物検出装置および車両用制御装置
US8208757B2 (en) 2006-05-25 2012-06-26 Nec Corporation Recognition system, recognition method, and recognition program
JP4887932B2 (ja) * 2006-06-23 2012-02-29 日産自動車株式会社 道路端認識装置、自動車、及び道路端認識方法
JP2008014814A (ja) * 2006-07-06 2008-01-24 Mitsubishi Precision Co Ltd 道路端部検出方法
JP4956099B2 (ja) * 2006-08-31 2012-06-20 富士重工業株式会社 壁検出装置
JP4914234B2 (ja) 2007-01-31 2012-04-11 富士重工業株式会社 先行車両検出装置
JP4914233B2 (ja) 2007-01-31 2012-04-11 富士重工業株式会社 車外監視装置
JP4987573B2 (ja) 2007-06-01 2012-07-25 富士重工業株式会社 車外監視装置
JP4856611B2 (ja) 2007-10-29 2012-01-18 富士重工業株式会社 物体検出装置
JP4856612B2 (ja) 2007-10-29 2012-01-18 富士重工業株式会社 物体検出装置
JP4956795B2 (ja) * 2008-01-15 2012-06-20 日産自動車株式会社 車両用画像処理装置および画像処理方法
JP4856656B2 (ja) 2008-01-22 2012-01-18 富士重工業株式会社 車両検出装置
JP4956452B2 (ja) 2008-01-25 2012-06-20 富士重工業株式会社 車両用環境認識装置
JP4876080B2 (ja) 2008-01-25 2012-02-15 富士重工業株式会社 環境認識装置
JP5034985B2 (ja) * 2008-01-30 2012-09-26 株式会社豊田中央研究所 パラメータ推定装置
JP5137617B2 (ja) 2008-02-27 2013-02-06 富士重工業株式会社 操舵支援装置
JP5073548B2 (ja) 2008-03-27 2012-11-14 富士重工業株式会社 車両用環境認識装置および先行車追従制御システム
JP5089545B2 (ja) * 2008-09-17 2012-12-05 日立オートモティブシステムズ株式会社 道路境界検出判断装置
JP5075152B2 (ja) * 2009-03-24 2012-11-14 日立オートモティブシステムズ株式会社 車両制御装置
JP5188452B2 (ja) 2009-05-22 2013-04-24 富士重工業株式会社 道路形状認識装置
US20110102242A1 (en) * 2009-05-25 2011-05-05 Kabushiki Kaisha Toshiba Radar apparatus
JP5468305B2 (ja) * 2009-05-25 2014-04-09 株式会社東芝 レーダ装置
JP5441549B2 (ja) 2009-07-29 2014-03-12 日立オートモティブシステムズ株式会社 道路形状認識装置
JP5269755B2 (ja) 2009-12-10 2013-08-21 株式会社日立製作所 人横断支援車両システム及び人横断支援方法
JP5502448B2 (ja) * 2009-12-17 2014-05-28 富士重工業株式会社 路面形状認識装置
JP5603687B2 (ja) * 2010-07-15 2014-10-08 富士重工業株式会社 車両用白線認識装置
US20130274959A1 (en) * 2010-12-15 2013-10-17 Toyota Jidosha Kabushiki Kaisha Driving support apparatus, driving support method, and vehicle
JP5693994B2 (ja) 2011-02-16 2015-04-01 富士重工業株式会社 車両検出装置
US9221461B2 (en) * 2012-09-05 2015-12-29 Google Inc. Construction zone detection using a plurality of information sources
JP6054777B2 (ja) * 2013-03-01 2016-12-27 日立オートモティブシステムズ株式会社 ステレオカメラ装置
JP6434743B2 (ja) * 2014-08-19 2018-12-05 日野自動車株式会社 走路端部推定装置
JP6613061B2 (ja) * 2015-06-15 2019-11-27 株式会社Subaru 車外環境認識装置
JP6601506B2 (ja) 2015-12-28 2019-11-06 株式会社リコー 画像処理装置、物体認識装置、機器制御システム、画像処理方法、画像処理プログラム及び車両
WO2017158982A1 (ja) 2016-03-18 2017-09-21 株式会社リコー 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム
JP6712775B2 (ja) * 2016-08-12 2020-06-24 パナソニックIpマネジメント株式会社 路面推定装置、車両制御装置、路面推定方法、およびプログラム
WO2019039106A1 (ja) * 2017-08-25 2019-02-28 日立オートモティブシステムズ株式会社 画像認識装置
JP7332731B1 (ja) * 2022-02-17 2023-08-23 本田技研工業株式会社 外界認識装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005013236A1 (ja) 2003-07-30 2005-02-10 Olympus Corporation 安全移動支援装置
WO2012014627A1 (ja) 2010-07-29 2012-02-02 本田技研工業株式会社 車両周辺監視装置
US8867788B2 (en) 2010-07-29 2014-10-21 Honda Motor Co., Ltd. Vehicle periphery monitoring device
US20220334250A1 (en) * 2019-09-12 2022-10-20 Continental Automotive Gmbh Method for elevation angle estimation based on an ultrasound sensor

Also Published As

Publication number Publication date
JPH06266828A (ja) 1994-09-22

Similar Documents

Publication Publication Date Title
JP3324821B2 (ja) 車輌用車外監視装置
US5410346A (en) System for monitoring condition outside vehicle using imaged picture by a plurality of television cameras
JP3167752B2 (ja) 車輌用距離検出装置
US5530420A (en) Running guide apparatus for vehicle capable of keeping safety at passing through narrow path and the method thereof
JP5188452B2 (ja) 道路形状認識装置
JP4956452B2 (ja) 車両用環境認識装置
JP5145585B2 (ja) 物標検出装置
US8175331B2 (en) Vehicle surroundings monitoring apparatus, method, and program
KR100201739B1 (ko) 물체 관측 방법 및 그 방법을 이용한 물체 관측장치와,이 장치를 이용한 교통흐름 계측장치 및 주차장 관측장치
EP1394761A2 (en) Obstacle detection device and method therefor
JP2001004368A (ja) 物体認識装置
JP3727400B2 (ja) 横断者の検出装置
JP2000357233A (ja) 物体認識装置
JPH11213138A (ja) 車外監視装置
JP4872769B2 (ja) 路面判別装置および路面判別方法
US20210394761A1 (en) Method and Processing Unit for Determining Information With Respect to an Object in an Environment of a Vehicle
JPH0845000A (ja) 車間距離制御装置
JP4956099B2 (ja) 壁検出装置
JPH07225892A (ja) 車輌の走行制御装置
JP3324859B2 (ja) 車間距離制御装置
KR20190067578A (ko) 오버랩 촬영 영역을 가지는 이종 카메라를 이용한 충돌 경고 장치 및 방법
JPH09106500A (ja) 車輌の運転支援装置
JPH0973545A (ja) 白線認識装置
JPH07152914A (ja) 車輌用距離検出装置
JP3629935B2 (ja) 移動体の速度計測方法およびその方法を用いた速度計測装置

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080705

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080705

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090705

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090705

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100705

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110705

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110705

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120705

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120705

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130705

Year of fee payment: 11

EXPY Cancellation because of completion of term