JP2003061087A - 車両用外界認識装置 - Google Patents

車両用外界認識装置

Info

Publication number
JP2003061087A
JP2003061087A JP2001248499A JP2001248499A JP2003061087A JP 2003061087 A JP2003061087 A JP 2003061087A JP 2001248499 A JP2001248499 A JP 2001248499A JP 2001248499 A JP2001248499 A JP 2001248499A JP 2003061087 A JP2003061087 A JP 2003061087A
Authority
JP
Japan
Prior art keywords
wiper
image
vehicle
output
external environment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001248499A
Other languages
English (en)
Inventor
Migaku Takahama
琢 高浜
Hisataka Usui
尚隆 臼井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2001248499A priority Critical patent/JP2003061087A/ja
Publication of JP2003061087A publication Critical patent/JP2003061087A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】 雪道などの寒冷地でもワイパー操作に対して
ダメージを受けにくい車両用外界認識装置を提供するこ
と。 【解決手段】 自車両周辺の状況を車内から撮像する撮
像手段101と、撮像手段101の撮像結果から周辺状
況を把握する周辺状況把握手段102と、自車両窓ガラ
スを払拭するワイパー手段103と、ワイパー手段10
3の作動制御とワイパーの位置情報の出力、または、位
置情報に加えて速度情報の出力を行うワイパー制御手段
104と、ワイパー制御手段104の出力から撮像手段
101にて取り込む画像内のワイパー位置を算出する画
像内ワイパー位置算出手段105と、前記画像内ワイパ
ー位置算出手段105の出力に連動して前記周辺状況把
握手段102で行う画像処理に補正を行う画像処理補正
手段106と、を備えた。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、CCDカメラやC
MOSカメラなどのイメージセンサを車内に搭載して外
界を認識する装置、または、電磁波レーダとの併用によ
り外界を認識する車両用外界認識装置の技術分野に属す
る。
【0002】
【従来の技術】従来、車両用外界認識装置としては、例
えば、特開平7−81458号公報に記載のものが知ら
れている。この公報には、車室に搭載したカメラにより
フロントガラスを通して撮像した車両前方の画像に、フ
ロントガラスを払拭するワイパーの画像が含まれるが、
このカメラによる撮像後にワイパー起動指令信号をワイ
パーコントローラに送信することで、入力画像内にワイ
パーを横切らせない認識系の技術が記載されている。
【0003】また、他の従来の車両用外界認識装置とし
ては、特開2001−33210号公報に記載のものが
知られている。この公報には、撮像結果にワイパーが含
まれても、ワイパーとカメラの取付位置から撮像し得る
ワイパー姿勢の直線領域を除去することでワイパーの影
響を低減する認識系に関する技術が記載されている。
【0004】
【発明が解決しようとする課題】一般に、雨や雪が降っ
ていない時であっても雨路走行時や雪道走行時には、フ
ロントガラスが非常に汚れやすく、このような場合、運
転者が手動によりワイパー装置を作動させる頻度が高
い。さらに、フロントガラスが汚れるような場合、ウォ
ッシャー液を吐出させてフロントガラスの汚れを払拭す
る頻度も高くなり、ウォッシャー液がワイパー払拭域の
上部等に残る。特に、低温時には残ったウォッシャー液
がフロントガラスに付着したままとなることがある。
【0005】しかしながら、上述の特開平7−8145
8号公報に記載の技術では、運転者の設定した払拭速度
が高速の場合、ワイパー遅延制御を実行することができ
ないという問題があり、さらに、ウォッシャー液がフロ
ントガラスに付着して画像がゆがんだ場合に、これを補
正することができないという問題があった。
【0006】また、特開2001−33210号公報に
記載の技術でも、寒冷地でのワイパー/ウォッシャー操
作を考慮していないため、払拭後の曇った画像を撮像し
てしまい後段の画像処理が困難となる。
【0007】本発明は、上記問題点に着目してなされた
もので、その目的とするところは、雪道などの寒冷地で
もワイパー操作に対してダメージを受けにくい車両用外
界認識装置を提供することにあり、さらに、原理の異な
る複数の外界検知手段を有するより頑強な車両用外界認
識装置において上記ワイパー操作に対してダメージを受
けにくくし、さらに、このダメージ防止を図るにあたっ
て補正量や重み付けを的確に行って高い外界認識精度を
得ることにある。
【0008】
【課題を解決するための手段】上記目的を達成するた
め、請求項1に係る発明では、自車両周辺の状況を車内
から撮像する撮像手段と、該撮像手段の撮像結果から周
辺状況を把握する周辺状況把握手段と、自車両窓ガラス
を払拭するワイパー手段と、該ワイパー手段の作動制御
とワイパーの位置情報の出力、または、位置情報に加え
て速度情報の出力を行うワイパー制御手段と、該ワイパ
ー制御手段の出力から前記撮像手段にて取り込む画像内
のワイパー位置を算出する画像内ワイパー位置算出手段
と、前記画像内ワイパー位置算出手段の出力に連動して
前記周辺状況把握手段で行う画像処理に補正を行う画像
処理補正手段と、を備えていることを特徴とする。
【0009】請求項2に係る発明では、自車両周辺の障
害候補までの距離を検知する距離検知手段と、自車両周
辺の状況を車内から撮像する撮像手段と、該撮像手段の
撮像結果から周辺状況を把握する周辺状況把握手段と、
自車両窓ガラスを払拭するワイパー手段と、該ワイパー
手段の作動制御とワイパーの位置情報の出力、または、
位置情報に加えて速度情報の出力を行うワイパー制御手
段と、該ワイパー制御手段の出力から前記撮像手段にて
取り込む画像内のワイパー位置を算出する画像内ワイパ
ー位置算出手段と、前記距離検知手段の出力と前記周辺
状況把握手段の出力に基づき、自車周辺物体の障害物可
能性認識や物***置補正を行う外界認識手段と、前記外
界認識手段により自車周辺物体の障害物可能性認識や物
***置補正を行う際、前記距離検知手段からの入力によ
り生成する情報と、前記周辺状況把握手段からの入力に
より生成する情報の重み付けを、ワイパーに関する情報
に連動して可変とする重み付け変更手段と、を備えてい
ることを特徴とする。
【0010】請求項3に係る発明では、請求項2に記載
の車両用外界認識装置において、前記画像内ワイパー位
置算出手段の出力に連動して前記周辺状況把握手段で行
う画像処理に補正を行う画像処理補正手段を備えること
を特徴とする。
【0011】請求項4に係る発明では、請求項1または
請求項3に記載の車両用外界認識装置において、前記画
像処理補正手段は、前記画像内ワイパー位置算出手段の
出力により、ワイパーが左から右へ、右から左へと画像
内を横切り去る毎に、前記周辺状況把握手段で記憶して
いる注目中の物体に相当する注目領域の画像の基準パタ
ーンを更新することを特徴とする。
【0012】請求項5に係る発明では、請求項1,請求
項3,請求項4のいずれかに記載の車両用外界認識装置
において、前記画像処理補正手段は、前記画像内ワイパ
ー位置算出手段の出力により、ワイパーが左から右へ、
右から左へと画像内を横切り去る毎に、前記撮像手段で
捉えたカラー画像の彩度補正を行うことを特徴とする。
【0013】請求項6に係る発明では、請求項1,請求
項3,請求項4のいずれかに記載の車両用外界認識装置
において、前記画像処理補正手段は、前記画像内ワイパ
ー位置算出手段の出力により、ワイパーが左から右へ、
右から左へと画像内を横切り去る毎に、前記撮像手段で
捉えたモノクロ画像から前記周辺状況把握手段で行われ
る濃淡に関する閾値を下げるように補正することを特徴
とする。
【0014】請求項7に係る発明では、請求項5または
請求項6に記載の車両用外界認識装置において、前記画
像処理補正手段は、前記画像内ワイパー位置算出手段の
出力により、ワイパー払拭後の時間をカウントし、この
時間経過とともに補正を弱めることを特徴とする。
【0015】請求項8に係る発明では、請求項7に記載
の車両用外界認識装置において、前記画像処理補正手段
は、前記画像内ワイパー位置算出手段の出力により、ワ
イパー払拭後の時間をカウントするとともに、ワイパー
払拭直後から前記注目領域の画素状態を観察し、画素状
態における輝度の分布の差が最大になる経過時間Tを算
出し、この経過時間Tまで補正を弱めることを特徴とす
る。
【0016】請求項9に係る発明では、請求項5〜請求
項8のいずれかに記載の車両用外界認識装置において、
前記画像処理補正手段は、前記画像内ワイパー位置算出
手段の出力により、ワイパー払拭後から次回の払拭まで
の間、注目領域の画素状態を観察し、画素状態である輝
度分布の差の最小値と最大値から補正量を求めることを
特徴とする。
【0017】請求項10に係る発明では、請求項2また
は請求項3に記載の車両用外界認識装置において、前記
重み付け変更手段は、前記画像内ワイパー位置算出手段
の出力により、前記撮像手段で取り込む画像内を払拭前
後で領域分布し、前記距離検知手段の出力である障害物
候補の画像内における位置が払拭前の領域か払拭後の領
域か、によって重み付けを変更することを特徴とする。
【0018】請求項11に係る発明では、請求項2,請
求項3,請求項10のいずれかに記載の車両用外界認識
装置において、前記重み付け変更手段は、前記ワイパー
制御手段の出力により、現在のワイパー払拭動作がウォ
ッシャー操作によるものと判断した場合には、前記周辺
状況把握手段が画像内におけるウォッシャー液の付着領
域を求め、画像内における前記障害物候補の位置がウォ
ッシャー液の付着領域でない場合には付着領域である場
合よりも、前記周辺状況把握手段からの入力により生成
する情報の重み付けを高くすることを特徴とする。
【0019】請求項12に係る発明では、請求項2また
は請求項10に記載の車両用外界認識装置において、前
記重み付け変更手段は、前記ワイパー制御手段の出力に
より、現在のワイパー払拭動作がウォッシャー操作によ
るものと判断した場合には、ウォッシャー操作後のワイ
パー払拭回数の増加に伴い、前記周辺状況把握手段から
の入力により生成する情報の重み付けを高くすることを
特徴とする。
【0020】
【発明の作用および効果】請求項1に係る発明にあって
は、画像内ワイパー位置検出手段が画像内におけるワイ
パー位置を求め、この出力に連動して画像処理補正手段
が撮像結果である周辺状況把握手段における画像処理に
対して補正を行う。よって、雪道などの寒冷地でのワイ
パー操作に対してダメージを受けにくい車両用外界認識
装置を提供することができるという効果が得られる。
【0021】請求項2に係る発明にあっては、距離検知
手段と撮像手段といった原理の異なる外界認識手段を有
するシステムにおいて、外界認識手段で行われる距離検
知手段からの入力により生成する情報の重み付け、なら
びに撮像手段からの入力により生成する情報への重み付
けを、ワイパーに関する情報に基づいて変更する処理を
行う。よって、距離検知手段と撮像手段といった原理の
異なる複数の外界認識手段を有するより頑強な車両用外
界認識装置において、ワイパーの払拭動作による影響を
考慮したシステム構成とすることができるという効果が
得られる。
【0022】請求項3に係る発明にあっては、請求項1
のワイパーに影響されにくい画像処理システムを含み、
ワイパーの払拭動作による影響を考慮した車両用外界認
識装置の提供が可能となる。
【0023】請求項4に係る発明にあっては、パターン
マッチングなどの画像処理法によりトラッキング中の障
害物などを示す注目領域において、画像内ワイパー位置
算出手段の出力に基づいて、ワイパーが画像を横切り去
る毎に、周辺状況把握手段で記憶している注目領域の基
準パターンを更新する。よって、ワイパーにより曇った
入力画像に対して頑強な画像処理システムを構成できる
という効果が得られる。
【0024】請求項5に係る発明にあっては、撮像手段
で取り込むカラー画像に対して、画像内ワイパー位置算
出手段の出力からワイパーが画像を横切り去る毎に、カ
ラー画像の彩度(色情報の強さ)を補正する。よって、
撮像結果が曇る際の影響を低減できるという効果が得ら
れる。
【0025】請求項6に係る発明にあっては、撮像手段
で取り込むモノクロ画像に対して、画像内ワイパー位置
算出手段の出力からワイパーが画像を横切り去る毎に、
モノクロが増処理における濃淡に関する処理(例えば、
2値化などの処理)の閾値を下げる。よって、撮像結果
が曇る際の影響を低減できるという効果が得られる。
【0026】請求項7に記載の発明にあっては、請求項
5または6に記載の発明における補正をワイパー払拭後
の時間経過とともに弱めるため、払拭後に曇りがかかっ
た映像が少しずつ晴れていくときでも補正したままとい
う状態、すなわち払拭直後は良いが、やがて補正が悪影
響を及ぼすという不具合を回避することができるという
効果が得られる。
【0027】請求項8に記載の発明にあっては、ワイパ
ー払拭直後から注目領域の画素状態を観察し、画素状態
における輝度の分布の差が最大になる経過時間Tを算出
し、ワイパー動作から経過時間Tが経過するまで請求項
7に記載の発明における補正弱め処理を行う。よって、
ワイパー払拭後の時間経過とともに補正量を弱め続ける
際、弱める量と曇った入力画像のクリアになる度合いが
釣り合わないことにより補正処理が逆効果となることを
避けることができるという効果がある。
【0028】請求項9に記載の発明にあっては、ワイパ
ー払拭直後から次回の払拭までの間、注目領域の画素状
態を観察し、画素状態である輝度分布の差の最小値と最
大値とから補正量を求める処理を行う。よって、ワイパ
ー払拭後に連動して補正する量を実際の入力画像の曇る
度合いにより適用的に変更することができるという効果
が得られる。
【0029】請求項10に記載の発明にあっては、距離
検知手段で測距した障害物候補の位置を画像内の座標に
透視変換し、これと画像内ワイパー位置算出手段が画像
内におけるワイパー位置を比較する。この比較結果か
ら、距離検知手段で注目する障害物候補の撮像状態がウ
ォッシャー液により影響を受けている領域に含まれるか
否かに応じて重み付けを変更する。よって、レーダとカ
メラなどにより構成される外界認識系において、雪道な
どの寒冷地でもワイパーによるダメージを考慮した車両
用外界認識装置を提供することができるという効果が得
られる。
【0030】請求項11に記載の発明にあっては、距離
検出手段で測距した障害物候補の位置を、画像内の座標
に透視変換し、これと周辺状況把握手段が画像内におけ
るウォッシャー液の付着領域の位置を比較する。比較結
果から、距離検知手段で注目する障害物候補の撮像状態
がウォッシャー液により影響を受けている領域に含まれ
る場合には、センサ融合処理における画像処理の重み付
けを下げ、ウォッシャー液に影響を受けていない領域に
含まれる場合には重み付けを上げる。よって、レーダと
カメラなどにより構成される外界認識系において、ウォ
ッシャー操作によるダメージを考慮した車両用外界認識
装置を提供することができるという効果が得られる。
【0031】請求項12に記載の発明にあっては、ウォ
ッシャー操作後からのワイパー払拭回数の増加をカウン
トし、その増加に応じてセンサ融合処理における画像処
理の重み付けを上げる。よって、レーダとカメラなどに
より構成される外界認識系において、ウォッシャー操作
によるダメージを考慮した車両用外界認識装置を提供す
ることができるという効果が得られる。
【0032】
【発明の実施の形態】以下、この発明の実施の形態を図
面に基づいて説明する。
【0033】図1は請求項1に係る発明の車両用外界認
識装置を示す基本構成図である。構成を説明すると、図
中の101は自車両周辺の状況を撮像する撮像手段、1
02は撮像手段101で撮像した入力画像から周辺状況
を把握する周辺状況把握手段、103は自車両窓ガラス
を払拭するワイパー手段、104はワイパー手段103
の作動制御とワイパーの位置情報の出力、または、位置
情報に加えて速度情報の出力を行うワイパー制御手段、
105はワイパー制御手段104の出力から撮像手段1
01の入力画像におけるワイパー位置を算出する画像内
ワイパー位置算出手段、106は画像内ワイパー位置算
出手段105の出力に連動して周辺状況把握手段102
で行う画像処理に補正を行う画像処理補正手段である。
【0034】以下、本発明における車両用外界認識装置
を実現する実施の形態を、請求項1,5,6,7に対応
する第1実施例と、請求項2〜12に対応する第2実施
例に基づいて説明する。
【0035】(第1実施例)まず、構成を説明する。図
2は実施例の車両用外界認識装置を示す全体システム図
であり、図中、1はスキャニング式のレーザレーダ、2
はレーダ処理装置、3はCMOSカメラ、4は画像処理
装置、5は外界認識装置、6は車速検出装置、7は操舵
角検出装置、8は自動ブレーキ制御装置、9は負圧ブレ
ーキブースタ、10はワイパー装置、11はワイパー制
御装置である。
【0036】前記レーダ処理装置2は、スキャニング式
のレーザレーダ1で走査した結果から障害物候補を抽出
する。このレーダ処理装置2では、一つまたは複数の障
害物候補に対して自車両を原点とする2次元座標値の算
出も実施される。このレーダ処理装置2およびレーザレ
ーダ1が特許請求の範囲の距離検知手段に相当する。
【0037】また、自車前方の状況を広角かつ高速に把
握するプログレッシブスキャン式のCMOSカメラ(以
下、単にカメラという)3が搭載され、この撮像結果が
画像処理装置4に入力される。このカメラ3が、特許請
求の範囲の撮像手段に相当する。
【0038】前記画像処理装置4は、カメラ3の撮像結
果が入力され、この画像処理装置4では、自車レーンの
白線を検知し、その曲率を算出し、さらにレーダ処理装
置2で算出された障害物候補の2次元座標値における物
体のパターンを基準パターンとしてパターンマッチング
処理を行い、レーザレーダ1による検知物体を画像処理
からもトラッキングできるような機能を有するものであ
る。なお、この画像処理装置4が、特許請求の範囲の周
辺状況把握手段に相当する。
【0039】前記外界認識装置5には、レーダ処理装置
2の出力および画像処理装置4の出力が伝達され、自車
両の状態量を推定するために従属左右車輪速度を検出す
る車速検出装置6の出力と、前輪操舵角を検出する操舵
角検出装置7の出力も伝達される。この外界認識装置5
は、特許請求の範囲の画像内ワイパー位置算出手段、重
み付け変更手段、外界認識手段が含まれている。
【0040】また、前記外界認識装置5の出力は、自動
ブレーキ制御装置8に伝達される。そして、前後輪には
任意な制動力を発生させる負圧ブースタ9が接続され、
この負圧ブースタ9のソレノイドバルブに自動ブレーキ
制御装置8からの制動力指令電圧が印加されることによ
り自動ブレーキ制御が実行される。
【0041】なお、前述したレーダ処理装置2や自動ブ
レーキ制御装置8は、それぞれマイクロコンピュータと
その周辺部分や各種アクチュエータの駆動回路などを備
え、互いに通信回路を介して情報を送受信する。
【0042】次に、作用を説明する。
【0043】[外界認識制御処理]図3は第1実施例の
外界認識装置5にて実行される外界認識制御処理の手順
を示すフローチャートで、以下、各ステップについて説
明する。なお、このフローチャートは、請求項1,5,
6,7に記載の発明に対応するもので、ワイパー装置1
0の動作に連動してカメラ3からの入力画像に補正を行
う例で、主な画像処理の目的は、自車走行レーンの白線
を検知することにある。
【0044】このフローチャートに示す処理は、10ms
ec毎に実施されるもので、最初のステップ201では、
カメラ3の撮像周期である10msec毎に実施される処理
で、車内のカメラ3で撮った画像を画像処理装置4にお
けるCPUがアクセスできるメモリへ転送する読み込み
処理を行う。
【0045】ステップ202では、画像処理装置4がワ
イパー制御装置11の出力から現在のワイパー位置に関
する情報を読み込む。ここでは、厳密なワイパー角度θ
が得られるものとするが、ワイパー収納位置にワイパー
が存在するか否かの2値信号しか得られない場合でも、
その2値信号の変化する周期から動作速度が一定という
仮定に基づきワイパー角度θを推定することができる。
【0046】ステップ203では、画像処理装置4が読
み込んだワイパー角度θとカメラ撮像周期とに基づき、
画像内におけるワイパーが存在すべき領域を求める。こ
れは、ワイパーの取付位置とカメラ3の取付位置とは固
定であるため、ワイパー角度θが求まれば幾何学的に一
意的に求めることができる。なお、このステップ203
の処理を実行する部分が特許請求の範囲の画像内ワイパ
ー位置算出手段に相当する。
【0047】ステップ204では、画像処理装置4が走
行環境を把握する。このとき、寒冷地での走行である場
合にはステップ205へ、そうでない場合にはステップ
209へ進む。寒冷地での走行であるか否かの判断は、
図外のナビゲーションシステムからの現在の走行域と外
気温度から判断することができる。
【0048】ステップ205では、ステップ203で求
めたワイパーの存在する画像領域に基づいて、画像内を
ワイパーが払拭して通り過ぎた直後である場合にはステ
ップ206へ、そうでない場合にはステップ207へ進
む。
【0049】ステップ206では、ワイパーの払拭動作
に連動してタイマーカウンターTwをリセットする。
【0050】ステップ207では、タイマーカウンター
Twを10msecずつインクリメントし、補正ゲインGを
次式(1)により求める。 G=funcl(Tw) ……(1) ここでfunclとは、図4に示すような特性、すなわち、
払拭直後ほど補正ゲインGの値が高く、その後、払拭後
からの経過時間が長くなるに連れて値が小さくなって最
終的に1に収束する特性を有する関数である。
【0051】ステップ208では、ステップ201で撮
像した画像に対して補正を行う。このとき、カメラ3が
カラーカメラである場合には、入力画像のRGB情報を
HSV変換し、このときのS:彩度(色情報の強さ)に
対して次式(2)の補正を行う。なお、上記のステップ
207および208の処理を行う部分が請求項5〜7に
記載の発明の画像処理補正手段に対応している。 S=G・S ……(2) 一方、カメラ3がモノクロカメラである場合には、入力
画像Iに対して次式(3)による補正を行う。これは、
請求項6に記載の発明に対応している。 I=G・I ……(3) ステップ209では、ステップ208で補正した画像か
ら、自車走行レーンの白線を検知し、白線に対する自車
両のヨー角、レーン中央からの自車両の横位置偏差、白
線の形状(道路曲率)を求める。なお、この具体的な方
法としては、特開平11−296660号公報に記載さ
れている手段などを用いるものとする。
【0052】[寒冷地走行時における白線検知作用]寒
冷地走行時には、フロントガラスが泥跳ねなどにより汚
れやすく、運転者がワイパー装置10を手動操作してウ
ォッシャー作動を行う頻度が高い。このような場合、図
3のフローチャートにおいて、ステップ201→ステッ
プ202→ステップ203→ステップ204→ステップ
205→ステップ206→ステップ207→ステップ2
08と進む流れとなり、ステップ208では、ワイパー
がカメラ3の画像内を横切って払拭する毎に、その払拭
直後において、カメラ3により撮像した画像に対し、補
正ゲインGに基づいて、画像補正(カラーの場合は入力
画像の彩度、モノクロの場合は入力画像の濃淡の強さ)
を実行する。この補正ゲインGは、ワイパーによる払拭
直後ほど大きく、その後、1に収束される特性であり、
ワイパーの払拭直後ほど、上記補正の程度が強くされ
る。
【0053】よって、ウォッシャー操作によりフロント
ウインドにウォッシャー液が付着することでカメラ3に
おける入力画像が悪影響を受けることを、ウォッシャー
液の付着程度に応じた補正により防止することができ
る。すなわち、払拭直後は、特に寒冷地にあっては、払
拭範囲に曇りがかかった状態であり、時間経過とともに
この曇りが少しずつ晴れて行くもので、払拭直後の状態
に見合った補正を続けると、曇りが晴れた場合に、その
補正が悪影響を与えるおそれがあるが、ワイパーの払拭
からの経過時間に応じて補正を弱めていくことで、この
ような不具合を防止することができる。
【0054】次に、効果を説明する。以上のように、第
1実施例の車両用外界認識装置にあっては、寒冷地など
の降雪状況でのワイパー走査に対して、入力画像への補
正を連動して行うため、ワイパーに影響され難い画像処
理システムの構成を実現することができる。
【0055】(第2実施例)第1実施例では、ワイパー
の動作に連動してカメラ3からの入力画像に補正を行う
ようにしたのに対し、第2実施例では、これに加えてレ
ーザレーダ1で検知した物体に対して画像処理を行う場
合の例であって、本来の画像処理の目的は、レーダ検知
物体の位置補正を画像からも冗長に行うことで頑強性を
高めたものである。なお、構成については、第1実施例
と同様であるので、図示並びに説明を省略する。
【0056】次に、作用を説明する。
【0057】[外界認識制御処理]図5は第2実施例の
外界認識装置5にて実行される外界認識制御処理の手順
を示すフローチャートで、以下、各ステップについて説
明する。なお、このフローチャートは、請求項2〜請求
項12に記載の発明に対応する。
【0058】ステップ301では、レーダ処理装置2の
データ更新周期:100msec毎に(サンプリング周期が
10msecなので10回に1度)実施される処理で、自車
に対する検知物体の相対位置情報を捕捉した検知物体の
数だけ読み込む。
【0059】ステップ302から306は第1実施例に
おけるステップ201から205と同様なので説明を省
略する。
【0060】ステップ307では、第1実施例のステッ
プ206と同様にタイマーカウンターTwのリセットを
行う。なお、このタイマーカウンターTwのリセットに
伴い、第1実施例と同様にステップ302においてカメ
ラ3の入力画像の更新が行われ、同時に、ステップ30
1で読み込んだレーダ検知物体に相当する画像領域の基
準パターンが更新される。
【0061】ステップ308では、第1実施例における
ステップ207と同様であるが、本実施例では後述のス
テップ312とステップ313の処理を行い時間T1と
差G1が求まっている場合には、下記式(4)から補正
ゲインGを求める。 G=func2(Tw) …
…(4) ここでfunc2とは、図6に示すような特性を有する関数
であって、この特性は、補正ゲインGの値が、払拭直後
が最も高く後述する差G1に相当する値であり、その
後、時間T1が経過したときにG=1となるように低下
して、その後は1に保たれる特性となっている。
【0062】ステップ309は、第1実施例におけるス
テップ208と同様なので説明を省略する。
【0063】ステップ310では、ステップ301で読
み込んだレーダ検知物体に相当する画像領域を次式
(5)により透視変換して求める。 pix_v=f・H/y pix_u=f・x/y ……(5) ここで、pix_v,pix_uは、画像上の縦・横方向の画素数
であり、fはレンズから受光面までの距離を画素換算し
た値であり、また、Hはカメラ取付高さ[m]を、x,y
はレーザレーダ1で検知した物体との縦方向(車間距離
方向)・横方向(車幅方向)の距離を、それぞれ意味し
ている。
【0064】ステップ311では、ステップ304(第
1実施例のステップ203と同様)で求めた画像上のワ
イパー位置と、ステップ310で求めた画像上のレーダ
検知物***置とを比較する。この比較結果から、ワイパ
ーの払拭中、または、ワイパーの払拭直後のワイパー画
像位置にレーダ検知物体の画像位置が重なっている場合
には、重みWc=0.2を代入してステップ314に進
む。そうでない場合には、Wc=0.7を代入してステッ
プ312へ進む。
【0065】ステップ312では、ワイパー払拭直後か
ら、ステップ310で求めるレーダ検知物体の画像領域
における輝度の分布をヒストグラムから求め、レーダ検
知物体に含まれる車両領域(先行車の領域)と道路領域
との明るさの差または彩度の差が最も大きくなる時間T
1をタイマーカウンターTwから求める(請求項8に記
載の重み付け変更手段)。
【0066】ステップ313では、ワイパー払拭直後か
ら次回のワイパー払拭時まで、ステップ310で求める
レーダ検知物体の画像領域における輝度の分布をヒスト
グラムから求め、道路領域と車両領域との明るさの差、
または彩度の差が最大となる値と最小となる値を求め
る。この最大値と最小値の差をG1として記憶する(請
求項9に記載の重み付け変更手段)。
【0067】ステップ314では、現在作動中のワイパ
ーはウォッシャー操作によるものか否かを判断し、ウォ
ッシャー操作によるものであれば、ステップ315へ進
み、そうでなければ317へ進む。
【0068】ステップ315では、まず、ウォッシャー
操作直前の入力画像からウォッシャー操作後の入力画像
を差分し、その差分画像からウォッシャー液の付着領域
を求める。次に、この付着領域とステップ310で求め
たレーダ検知物体の画像位置とを比較する。この比較結
果から、付着領域にレーダ検知物体の画像位置が重なっ
ている場合には、重みWc=Wc*0.2を代入する。そ
うでない場合には、Wc=Wc*1を代入する。なお、
このステップ315の処理を実行する部分が、請求項1
1に記載の重み付け変更手段に相当する(請求項11に
記載の重み付け変更手段)。
【0069】ステップ316では、ウォッシャー操作後
のワイパー払拭回数を求め、この回数が1回増える毎に
Wc=Wc*1.05の演算を行う。しかし、Wcは上限値
1,0で制限されるものである。なお、このステップ31
6の処理を実行する部分が、請求項12に記載の発明の
重み付け変更手段に相当する。
【0070】ステップ317では、レーザレーダ1で検
知した物体の位置に対する画像処理結果による補正を次
式(13)(14)により行う。 obst_x[i]=func3(Vx[i])/{func3(Vx[i])+Wc}*obst_x[i] +Wc/{func3(Vx[i])+Wc}*iPx[i] ……(13) obst_y[i]=func3(Vy[i])/{func3(Vy[i])+Wc}*obst_y[i] +Wc/{func3(Vy[i])+Wc}*iPy[i] ……(14) ここで、上記式(13)(14)の右辺のobst_x[i]とo
bst_y[i]は、レーザ検知物体の横方向と縦方向の距離を
それぞれ表していて、iPx[i]とiPy[i]はステップ310
の式(5)を逆変換することで得られる画像処理から求
めた物体の横・縦距離を表している。関数func3とは、
図7で表す特性を有する関数である。Vx[i]とVy[i]は、
obst_x[i]とobst_y[i]の過去10サンプリング分におけ
る移動平均をもとに算出した分散値であり、iは検知し
た物体のID番号を意味している。
【0071】[レーダ検知物体の位置補正作用]第2実
施例の車両用外界認識装置を搭載した車両にあっては、
レーザレーダ1からの入力に基づいて、例えば、車線に
沿って自動的に走行する自動走行などを実行し、さら
に、このような自動走行において、先行車に追従して走
行したり、あるいは先行車との車間を最適に制御したり
する。
【0072】ここで、ワイパー装置10が作動したとき
には、レーザレーダ1により検知した先行車などのレー
ザ検知物体を示す画像領域を透視変更により求め(ステ
ップ310)、このレーザ検知物体がカメラ3が捉えた
ワイパーの画像範囲と重なった場合、ステップ311→
ステップ312→ステップ313の流れに基づいて、ワ
イパー払拭直後から次回のワイパー払拭時までの間で、
カメラ3の画像において道路領域とレーザ検知物体(車
両領域)との明るさの差、または彩度の差が最も大きく
なる時間T1、ならびに、その差の最大値と最小値との
差を求め、さらに、最大値と最小値との差をG1として
求める。
【0073】これら時間T1および差G1に基づいて、
補正ゲインGを導き出して(ステップ308)、カメラ
3の画像に対する補正を実施し(ステップ309)、こ
の補正結果に基づいて、レーザレーダ1による検知物体
(例えば、先行車両)の位置ベクトルを、ステップ31
0の式(5)を逆変換することで得られる画像処理から
求めた物体の横・縦距離iPx[i]とiPy[i]を用いて、上記
式(13)(14)により補正する(ステップ31
7)。
【0074】このように、ワイパー払拭後の時間経過と
ともに補正量を弱めるにあたり、弱める量と入力画像に
おける曇りが晴れる度合いとを正確に釣り合わせ流とと
もに、この補正量を入力画像の曇り度合いに応じさせ
て、的確な補正量を得ることができる。
【0075】さらに、第2実施例では、上述のワイパー
の作動がウォッシャー作動である場合には、ステップ3
14→ステップ315→ステップ316→ステップ31
7の流れに基づいて、カメラ3による撮像においてウォ
ッシャー液の付着領域を求め、この付着領域とレーダ検
知物体とが重なるか否かにより、重なっている場合に
は、ステップ318にて行う検知物***置補正の重みW
cをWc*0.2として、重なっていない場合の重みWc
(=Wc*1.0)に対して低くい値とする。すなわち、
ウォッシャー液が付着している領域では、カメラ3から
取り込んだ画像におけるレーザ検知物体に対する信頼度
が低いため、このような処理を行う。
【0076】さらに加えて、この重みWcはワイパー払
拭回数に応じ、ワイパー払拭回数が増えるに毎に、Wc
*1.05の演算に基づいて徐々に増加する。すなわち、ワ
イパー払拭回数が増えれば、ウォッシャー液付着領域に
おける付着量が減少して、レーザ検知物体に対する信頼
度が向上するため、このような処理を行う。
【0077】このように、レーザレーダ1により認識さ
れる検知物体に対して、カメラ3で撮影した画像におい
て融合させる処理を実行させるにあたり、ウォッシャー
液が付着しているか否かに応じ、かつ、ワイパーの払拭
回数の増加に応じ、融合処理の重み付けを変更するた
め、重み付け程度の適正化を図って、上記融合処理の精
度向上を図ることができる。
【0078】次に、効果を説明する。
【0079】以上のように、レーザレーダ1とカメラ3
を用いた第2実施例の車両用外界認識装置にあっては、
レーザレーダ1の測距結果を画像処理結果から補正する
ロバストな認識処理を行うにあたり、ワイパー装置10
やウォッシャー液による影響を考慮した認識を構成する
ことができ、このため、特に寒冷地での複数センサを用
いた認識系を頑強にすることができる。
【0080】(他の実施例)以上、本発明の車両用外界
認識装置を第1実施例及び第2実施例に基づき説明して
きたが、具体的な構成については、これらの実施例に限
られるものではなく、特許請求の範囲の各請求項に係る
発明の要旨を逸脱しない限り、設計の変更や追加等は許
容される。
【0081】例えば、実施例では、距離検知手段として
レーザレーダ1を示したが、他の、光学的あるいは音響
的な手段を用いてもよい。
【図面の簡単な説明】
【図1】請求項1に係る発明の車両用外界認識装置を示
す基本構成図である。
【図2】第1実施例の車両用外界認識装置を示す全体シ
ステム図である。
【図3】第1実施例の外界認識装置にて実行される外界
認識制御処理の手順を示すフローチャートである。
【図4】第1実施例の車両用外界認識装置における補正
関数特性図である。
【図5】第2実施例の外界認識装置にて実行される外界
認識制御処理の手順を示すフローチャートである。
【図6】第2実施例の車両用外界認識装置における補正
関数特性図である。
【図7】第2実施例の車両用外界認識装置における補正
関数特性図である。
【符号の説明】
1 レーザレーダ 2 レーダ処理装置 3 カメラ 4 画像処理装置 5 外界認識装置 6 車速検出装置 7 操舵角検出装置 8 自動ブレーキ制御装置 9 負圧ブースタ 10 ワイパー装置 11 ワイパー制御装置 101 撮像手段 102 周辺状況把握手段 103 ワイパー手段 104 ワイパー制御手段 105 画像内ワイパー位置算出手段 106 画像処理補正手段
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) B60R 21/00 626 B60R 21/00 626G B60S 1/08 B60S 1/08 A G01B 11/00 G01B 11/00 H Fターム(参考) 2F065 AA01 AA03 AA20 CC00 FF04 FF11 FF64 FF65 GG04 JJ03 JJ26 MM06 QQ01 QQ31 3D025 AA01 AC01 AC02 AD02 AE01 AF02 AG01 AG51 5C054 CA04 CC05 CG05 CH02 EA01 ED11 EE08 FA00 FB03 FC03 FC07 FE09 FF03 HA30

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 自車両周辺の状況を車内から撮像する撮
    像手段と、 該撮像手段の撮像結果から周辺状況を把握する周辺状況
    把握手段と、 自車両窓ガラスを払拭するワイパー手段と、 該ワイパー手段の作動制御とワイパーの位置情報の出
    力、または、位置情報に加えて速度情報の出力を行うワ
    イパー制御手段と、 該ワイパー制御手段の出力から前記撮像手段にて取り込
    む画像内のワイパー位置を算出する画像内ワイパー位置
    算出手段と、 前記画像内ワイパー位置算出手段の出力に連動して前記
    周辺状況把握手段で行う画像処理に補正を行う画像処理
    補正手段と、 を備えていることを特徴とする車両用外界認識装置。
  2. 【請求項2】 自車両周辺の障害候補までの距離を検知
    する距離検知手段と、 自車両周辺の状況を車内から撮像する撮像手段と、 該撮像手段の撮像結果から周辺状況を把握する周辺状況
    把握手段と、 自車両窓ガラスを払拭するワイパー手段と、 該ワイパー手段の作動制御とワイパーの位置情報の出
    力、または、位置情報に加えて速度情報の出力を行うワ
    イパー制御手段と、 該ワイパー制御手段の出力から前記撮像手段にて取り込
    む画像内のワイパー位置を算出する画像内ワイパー位置
    算出手段と、 前記距離検知手段の出力と前記周辺状況把握手段の出力
    に基づき、自車周辺物体の障害物可能性認識や物***置
    補正を行う外界認識手段と、 前記外界認識手段により自車周辺物体の障害物可能性認
    識や物***置補正を行う際、前記距離検知手段からの入
    力により生成する情報と、前記周辺状況把握手段からの
    入力により生成する情報の重み付けを、ワイパーに関す
    る情報に連動して可変とする重み付け変更手段と、 を備えていることを特徴とする車両用外界認識装置。
  3. 【請求項3】 請求項2に記載の車両用外界認識装置に
    おいて、 前記画像内ワイパー位置算出手段の出力に連動して前記
    周辺状況把握手段で行う画像処理に補正を行う画像処理
    補正手段を備えることを特徴とする車両用外界認識装
    置。
  4. 【請求項4】 請求項1または請求項3に記載の車両用
    外界認識装置において、 前記画像処理補正手段は、前記画像内ワイパー位置算出
    手段の出力により、ワイパーが左から右へ、右から左へ
    と画像内を横切り去る毎に、前記周辺状況把握手段で記
    憶している注目中の物体に相当する注目領域の画像の基
    準パターンを更新することを特徴とする車両用外界認識
    装置。
  5. 【請求項5】 請求項1,請求項3,請求項4のいずれ
    かに記載の車両用外界認識装置において、 前記画像処理補正手段は、前記画像内ワイパー位置算出
    手段の出力により、ワイパーが左から右へ、右から左へ
    と画像内を横切り去る毎に、前記撮像手段で捉えたカラ
    ー画像の彩度補正を行うことを特徴とする車両用外界認
    識装置。
  6. 【請求項6】 請求項1,請求項3,請求項4のいずれ
    かに記載の車両用外界認識装置において、 前記画像処理補正手段は、前記画像内ワイパー位置算出
    手段の出力により、ワイパーが左から右へ、右から左へ
    と画像内を横切り去る毎に、前記撮像手段で捉えたモノ
    クロ画像から前記周辺状況把握手段で行われる濃淡に関
    する閾値を下げるように補正することを特徴とする車両
    用外界認識装置。
  7. 【請求項7】 請求項5または請求項6に記載の車両用
    外界認識装置において、 前記画像処理補正手段は、前記画像内ワイパー位置算出
    手段の出力により、ワイパー払拭後の時間をカウント
    し、この時間経過とともに補正を弱めることを特徴とす
    る車両用外界認識装置。
  8. 【請求項8】 請求項7に記載の車両用外界認識装置に
    おいて、 前記画像処理補正手段は、前記画像内ワイパー位置算出
    手段の出力により、ワイパー払拭後の時間をカウントす
    るとともに、ワイパー払拭直後から前記注目領域の画素
    状態を観察し、画素状態における輝度の分布の差が最大
    になる経過時間Tを算出し、この経過時間Tまで補正を
    弱めることを特徴とする車両用外界認識装置。
  9. 【請求項9】 請求項5〜請求項8のいずれかに記載の
    車両用外界認識装置において、 前記画像処理補正手段は、前記画像内ワイパー位置算出
    手段の出力により、ワイパー払拭後から次回の払拭まで
    の間、注目領域の画素状態を観察し、画素状態である輝
    度分布の差の最小値と最大値から補正量を求めることを
    特徴とする車両用外界認識装置。
  10. 【請求項10】 請求項2または請求項3に記載の車両
    用外界認識装置において、 前記重み付け変更手段は、前記画像内ワイパー位置算出
    手段の出力により、前記撮像手段で取り込む画像内を払
    拭前後で領域分布し、前記距離検知手段の出力である障
    害物候補の画像内における位置が払拭前の領域か払拭後
    の領域か、によって重み付けを変更することを特徴とす
    る車両用外界認識装置。
  11. 【請求項11】 請求項2,請求項3,請求項10のい
    ずれかに記載の車両用外界認識装置において、 前記重み付け変更手段は、前記ワイパー制御手段の出力
    により、現在のワイパー払拭動作がウォッシャー操作に
    よるものと判断した場合には、前記周辺状況把握手段が
    画像内におけるウォッシャー液の付着領域を求め、画像
    内における前記障害物候補の位置がウォッシャー液の付
    着領域でない場合には付着領域である場合よりも、前記
    周辺状況把握手段からの入力により生成する情報の重み
    付けを高くすることを特徴とする車両用外界認識装置。
  12. 【請求項12】 請求項2または請求項10に記載の車
    両用外界認識装置において、 前記重み付け変更手段は、前記ワイパー制御手段の出力
    により、現在のワイパー払拭動作がウォッシャー操作に
    よるものと判断した場合には、ウォッシャー操作後のワ
    イパー払拭回数の増加に伴い、前記周辺状況把握手段か
    らの入力により生成する情報の重み付けを高くすること
    を特徴とする車両用外界認識装置。
JP2001248499A 2001-08-20 2001-08-20 車両用外界認識装置 Pending JP2003061087A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001248499A JP2003061087A (ja) 2001-08-20 2001-08-20 車両用外界認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001248499A JP2003061087A (ja) 2001-08-20 2001-08-20 車両用外界認識装置

Publications (1)

Publication Number Publication Date
JP2003061087A true JP2003061087A (ja) 2003-02-28

Family

ID=19077645

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001248499A Pending JP2003061087A (ja) 2001-08-20 2001-08-20 車両用外界認識装置

Country Status (1)

Country Link
JP (1) JP2003061087A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8385601B2 (en) 2010-03-08 2013-02-26 Nippon Soken, Inc. In-vehicle white line recognition apparatus
US8744194B2 (en) 2009-04-09 2014-06-03 Denso Corporation Boundary line recognition apparatus
JP2014133425A (ja) * 2013-01-08 2014-07-24 Mazda Motor Corp 雨滴検出装置
WO2021042012A1 (en) * 2019-08-31 2021-03-04 Light Labs Inc. Methods and apparatus for capturing and using images in a system including wipers

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8744194B2 (en) 2009-04-09 2014-06-03 Denso Corporation Boundary line recognition apparatus
US8385601B2 (en) 2010-03-08 2013-02-26 Nippon Soken, Inc. In-vehicle white line recognition apparatus
JP2014133425A (ja) * 2013-01-08 2014-07-24 Mazda Motor Corp 雨滴検出装置
WO2021042012A1 (en) * 2019-08-31 2021-03-04 Light Labs Inc. Methods and apparatus for capturing and using images in a system including wipers
US11180117B2 (en) 2019-08-31 2021-11-23 Light Labs Inc. Methods and apparatus for capturing and using images in a system including wipers

Similar Documents

Publication Publication Date Title
US11673605B2 (en) Vehicular driving assist system
JP4856612B2 (ja) 物体検出装置
JP6163207B2 (ja) 車載装置
JP5887219B2 (ja) 車線逸脱警報装置
JP5022609B2 (ja) 撮像環境認識装置
JP5276637B2 (ja) 車線推定装置
CN102883925B (zh) 在风挡玻璃上的雾和雨滴的检测方法以及驾驶辅助装置
US11565659B2 (en) Raindrop recognition device, vehicular control apparatus, method of training model, and trained model
JP2019029940A (ja) 付着物検出装置、および、それを備えた車両システム
JP2008250904A (ja) 車線区分線情報検出装置、走行車線維持装置、車線区分線認識方法
JP3444192B2 (ja) 撮像環境推定装置
JP4371076B2 (ja) レインセンサ
JP6089767B2 (ja) 画像処理装置、撮像装置、移動体制御システム及びプログラム
JP6058307B2 (ja) ワイパ制御装置
JP5040895B2 (ja) 視界状況判定装置、視界状況判定装置用プログラム及び視界状況判定方法
JP3882304B2 (ja) 自動走行用自車位置検出装置
JP3636955B2 (ja) 車両用雨滴検出装置
JP2003061087A (ja) 車両用外界認識装置
JP5011186B2 (ja) 運転支援装置および運転支援システム
JP4033106B2 (ja) 車両用測距性能低下検出装置
EP2542453B1 (en) Method and device of raindrop detection on a windscreen
JP2019099008A (ja) 雨滴検出装置及びワイパ制御装置
US20230098949A1 (en) Method to detect and overcome degradation image quality impacts
JP2023067558A (ja) 車両及び車両制御方法
JP4742473B2 (ja) 車両用障害物認識装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20041122

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20050830

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20051116