JP3516127B2 - 画像処理方法およびその装置 - Google Patents

画像処理方法およびその装置

Info

Publication number
JP3516127B2
JP3516127B2 JP36188297A JP36188297A JP3516127B2 JP 3516127 B2 JP3516127 B2 JP 3516127B2 JP 36188297 A JP36188297 A JP 36188297A JP 36188297 A JP36188297 A JP 36188297A JP 3516127 B2 JP3516127 B2 JP 3516127B2
Authority
JP
Japan
Prior art keywords
image
image data
image pickup
input
pickup means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP36188297A
Other languages
English (en)
Other versions
JPH11177964A (ja
Inventor
吉博 小野田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP36188297A priority Critical patent/JP3516127B2/ja
Publication of JPH11177964A publication Critical patent/JPH11177964A/ja
Application granted granted Critical
Publication of JP3516127B2 publication Critical patent/JP3516127B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Traffic Control Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、所定の対象物に対す
る観測処理を実施するための画像処理方法および装置に
関連するもので、特に、ある観測位置に向けて配備され
た複数の撮像手段からの画像を用いて、対象物の3次元
認識処理を実施するための画像処理方法および装置に関
する。
【0002】
【従来の技術】道路を走行する車輌や所定の出入り口を
通過する人間などの対象物を精度良く認識するための方
法として、複数台のテレビカメラを観測位置に向けて配
置し、各カメラにより得られた画像を取り込んで対象物
の3次元形状を認識する装置が開発されている。
【0003】図1は、上記観測装置の設置例を示す。こ
の観測装置は、道路上を走行する車輌を観測対象とし
て、各車輌の車種や位置を認識するとともに、その認識
結果の時間的な推移に基づき道路上の交通流計測を実施
するためのもので、道路LDの近傍位置に設置された支
柱3に、2台のカメラ1a,1bと制御装置2とが配備
される。
【0004】各カメラ1a,1bは、等しい焦点距離を
具備し、光軸を平行にして縦並びに配備される。制御装
置2は、各カメラ1a,1bからの画像データを逐次取
り込んで、3次元計測処理を実施する。
【0005】図2は、前記カメラ1a,1bからの入力
画像の一例であって、図2(1)は上側のカメラ1aか
らの入力画像を、図2(2)は下側のカメラ1bからの
入力画像を、それぞれ示す。図示例は、各カメラ1a,
1bが正常に機能して適正な画像データを出力している
状態を示すもので、制御装置2は、各画像上からエッジ
などの特徴点を抽出した後、各特徴点を画像間で対応づ
け、さらに対応づけられた特徴点毎に、それぞれの特徴
点の2次元座標を3角測量の原理にあてはめて3次元座
標を算出する。こうして算出された3次元座標に表され
る高さデータなどにより、道路上の各車輌が認識され、
その位置や大きさが特定される。
【0006】
【発明が解決しようとする課題】上記構成の観測装置に
おいて、図3に示すように、いずれかのカメラのレンズ
面に異物が付着したり、カメラの視野が物体により遮ら
れたりして、画像上の観測対象部分に異物の画像4が入
り込むと、前記した特徴点の対応づけ処理は困難とな
る。またいずれかのカメラに故障が生じて適正な画像を
生成できなくなった場合も同様であって、観測処理は、
事実上不可能になる。しかしながら従来、このような異
常事態を把握する手段がなく、長時間、装置の誤動作が
続くという不具合があった。
【0007】この発明は上記問題点に着目してなされた
もので、撮像手段に生じた異常状態に対応するために、
その異常状態を自動的かつ速やかに把握することを技術
課題とする。
【0008】
【課題を解決するための手段】請求項1の発明は、所定
の観測位置に向けて配備された複数の撮像手段からの
像データを用いた3次元認識処理により前記観測位置の
観測処理を実施する方法に関するもので、前記複数の撮
像手段毎に出力された複数の画像データに対し、実際の
空間において各撮像手段の視野に共通に含まれる領域に
対応する画像領域をそれぞれ設定して、各画像領域から
所定の特徴量を抽出するステップと、画像領域毎に抽出
された特徴量を相互に比較するステップと、前記比較結
果に基づき、適正な画像データを出力していない撮像手
段があるか否かを判定するステップとを、前記観測処理
に先立ち実行することを特徴とする。
【0009】請求項2以下の発明は、所定の観測位置に
向けて配備された複数の撮像手段からの画像データを入
力し、これらの画像データを用いた3次元認識処理によ
り前記観測位置の観測処理を実施する画像処理装置に関
する。請求項2の発明にかかる画像処理装置は、前記複
数の撮像手段毎に入力された複数の画像データに対し、
実際の空間において各撮像手段の視野に共通に含まれる
領域に対応する画像領域をそれぞれ設定して、各画像領
域から所定の特徴量を抽出する特徴量抽出手段と、前記
特徴量抽出手段が画像領域毎に抽出した特徴量を相互に
比較する比較手段と、前記比較手段の比較結果に基づ
き、適正な画像データを出力していない撮像手段がある
か否かを判定する判定手段とを備えている。
【0010】請求項3の発明では、前記特徴量抽出手段
は、各撮像手段から入力された複数の画像データに対
し、実際の空間において前記複数の撮像手段のいずれの
視野にも含まれる特定の領域に対応する画像領域を設定
するように構成される。
【0011】請求項4の発明では、前記各撮像手段は、
光軸を定めた状態で特定の位置に固定配備される。ま
た、前記特徴量抽出手段は、前記複数の撮像手段のいず
れの視野にも含まれており、かつ時間の推移によっても
その位置が変動しない特定の対象物(たとえば樹木)を
基準にして、前記画像領域を設定するように構成され
る。
【0012】請求項5の発明にかかる画像処理装置は、
複数の撮像手段毎に入力された複数の画像データを相互
に比較する比較手段と、前記比較手段の比較結果に基づ
き、各撮像手段から適正な画像データを出力していない
撮像手段があるか否かを判定する判定手段と、前記判定
手段により適正な画像データを出力していない撮像手段
があると判定されたとき、各撮像手段からの画像データ
を用いて前記適正な画像データを出力していない撮像手
段を特定する異常特定手段とを具備する。
【0013】請求項6の発明では、前記異常特定手段
は、各撮像手段毎に、それぞれ最新の画像データを所定
時間前に入力された画像データと比較して、適正な画像
データを出力していない撮像手段を特定するように構成
される。
【0014】請求項7の発明では、前記撮像手段は、少
なくとも3台配備されており、前記異常特定手段は、い
ずれか1台の撮像手段からの画像データを基準として設
定し、他の撮像手段からの画像データをそれぞれ前記基
準の画像データと比較して、適正な画像データを出力し
ていない撮像手段を特定するように構成される。
【0015】請求項8の発明にかかる画像処理装置は、
請求項2の発明と同様の特徴量抽出手段、比較手段、判
定手段を備えるほか、各撮像手段に発生した異常を取り
除くための異常除去手段と、前記判定手段によりいずれ
かの撮像手段からの画像データが適正でないと判定され
たとき前記異常除去手段を駆動する駆動手段とを具備し
ている。
【0016】
【作用】各撮像手段が正常に機能して観測位置にかかる
適正な画像データを生成している場合は、各画像データ
には大きな差違は生じない。しかしながらいずれかの撮
像手段が、何らかの要因により観測位置の適正な画像を
生成できなくなった場合、この撮像手段からの画像デー
タと、他の正常に機能する撮像手段からの画像データと
を比較すると、両者の間には大きな差違が生じることに
なる。
【0017】この発明では、上記原理に基づき、各撮像
手段からの画像データを相互に比較した結果により、各
撮像手段から適正な画像データが出力されているか否か
を自動的に認識するので、異常事態に速やかに対応する
ことが可能となる。
【0018】
【実施例】以下に示す各実施例は、前記図1に示した観
測装置の制御装置2に、各カメラ1a,1bから適正な
画像データが入力されているか否かを自動的に認識する
ための機能を具備させたもので、ここでは説明を簡単に
するために、制御装置2の機能のうち、カメラからの画
像データの適否判別にかかる機能のみを取り出して、説
明する。なお各実施例とも、図1の装置に限らず、人な
ど他の対象物を立体認識する装置にも適用することがで
きる。
【0019】(1) 第1実施例 この実施例の制御装置2は、図4に示すごとく、画像入
力部5a,5b,比較処理部6,判定部7,出力部8な
どを具備して成る。各画像入力部5a,5bは、それぞ
れカメラ1a,1bから入力されたアナログ量の画像デ
ータをディジタル量に変換するためのA/D変換回路な
どを具備する。比較処理部6は、このディジタル変換後
の各入力画像を取り込んで、両画像間の画像データの比
較処理を実施する。判定部7は、この比較結果に基づ
き、入力画像の適否を判定するためのもので、その判定
結果は出力部8を介して、図示しない認識処理部へと出
力される。
【0020】図5は、上記制御装置2における適否判定
の具体的な手順を示す。なお図中、STはステップを示
す。まずステップ1では、各カメラ1a,1bからの画
像データが入力され、画像入力部5a,5bによるディ
ジタル変換処理が施される。変換処理後の各画像データ
は、それぞれ図示しない画像メモリ内に格納され、比較
処理部6の処理へと移行する。
【0021】つぎのステップ2で比較処理部6は、各入
力画像について、前記画像メモリより対応する画素毎の
輝度データを読み出して両者の差分を算出した後、続く
ステップ3で、各差分値の絶対値の総和D(以下「差分
総和値D」という)を算出する。
【0022】いま各カメラ1a,1bより観測位置を適
正にとらえた画像データが出力されているものとする
と、図2に示すように、カメラ1a,1bの位置関係に
基づく位相差をもった画像が得られる。したがって各画
像間で対応する画素毎に差分処理を実施すると、それぞ
れ位相差に応じた差分値が得られる。しかしながら両画
像データは、同じ観測位置を捉えたものであるから、す
べての差分値が大きな値をとるとは、考えられない。ま
たあらかじめ種々の状態下の観測位置を撮像して得られ
た画像により、差分総和値Dのおおよその値を予想する
ことができる。
【0023】一方、いずれかのカメラのレンズ面に異物
が付着したり、カメラの視野が何らかの物体により遮ら
れたり、あるいはカメラが故障するなどの異常が発生し
た場合には、両画像データ間に大きな差違が生じ、その
結果、広い領域にわたって大きな差分値が算出されると
予想される。
【0024】この原理に基づき、判定部7は、つぎのス
テップ4で、前記差分総和値Dを所定のしきい値th1
と比較する。このしきい値th1は、前記したように、
種々の状態下で得られた画像により予想した差分総和値
Dに基づき設定されるもので、このステップ4の判定が
「NO」、すなわち差分総和値Dがしきい値th1以下
であれば、ステップ5へと移行して、各入力画像とも適
正であるという判定結果が出力される。この判定結果を
受けて、図示しない認識処理部は、各入力画像からエッ
ジなどの特徴点を抽出し、以下、各特徴点の対応づけ処
理,対応づけ結果を用いた3次元座標算出処理を経て、
道路上の各車輌の位置や大きさなどを認識する。
【0025】一方、ステップ4が「YES」、すなわち
差分総和値Dがしきい値th1を上回る場合にはステッ
プ6へと移行し、いずれかのカメラに異常が発生してい
るという判定がなされる。この判定結果は、前記認識処
理部へと出力されて、上記した一連の認識処理が中止さ
れる。また同時に、前記判定結果は図示しない警報装置
などに出力され、外部にエラーの発生が報知される。
【0026】なお上記ステップ4の比較処理において、
処理前に各画像間のオフセット補正を行って、カメラ1
a,1bの出力レベルの違いに起因する輝度差を消去す
るようにすれば、より精度の良い判定処理を行うことが
できる。
【0027】このように画像入力の都度、各カメラ1
a,1b毎の入力画像を比較して、各画像データが適正
であるか否かを判定するので、いずれかのカメラにおい
て異常状態が発生した場合、直ちにその異常をチェック
するなどの対応処理を実施することができ、長時間装置
が誤動作し続けるという問題が解消できる。
【0028】(2)第2実施例 以下の第2〜4の各実施例は、各入力画像毎に所定の特
徴量を抽出して、各抽出結果を比較することにより、各
入力画像の適否を判定するようにしている。まず図6に
示す第2の制御装置2は、特徴量として画像の輝度平均
値を抽出するようにしたもので、前記図4と同様の画像
入力部5a,5b,判定部7,出力部8のほか、各入力
画像毎の輝度平均算出部9a,9b,輝度平均差算出部
10を構成として具備する。
【0029】図7は、上記制御装置2における判定処理
の手順を示す。ステップ1で各カメラ1a,1bからの
画像データが入力されると、つぎのステップ2で、前記
輝度平均算出部9a,9bにより各入力画像毎の輝度平
均値μ1,μ2が算出される。ついでステップ3では、
輝度平均差算出部10により、各輝度平均値μ1,μ2
の差分処理が行われ、輝度平均差Δμが求められる。
【0030】算出された輝度平均差Δμは判定部7に与
えられ、ステップ4で所定のしきい値th2との比較処
理が行われる。この結果、輝度平均差Δμがしきい値t
h2以下であれば、ステップ5へと移行して各入力画像
とも適正であると判定される。しかしながら輝度平均差
Δμがしきい値th2を上回る値をとる場合には、ステ
ップ6へと移行し、いずれかのカメラに異常が発生して
いると判定される。
【0031】(3)第3実施例 図8に示す第3の制御装置2は、各入力画像上で最も優
勢な輝度レベル(以下これを「ピークレベル」という)
を用いて入力画像の適否を判定するもので、各入力画像
に対し、それぞれ画像入力部5a,5b,輝度ヒストグ
ラム作成部11a,11b,ピークレベル抽出部12
a,12bの各部を具備するほか、ピークレベル差算出
部13,判定部7,出力部8などを構成として含んでい
る。
【0032】各輝度ヒストグラム作成部11a,11b
は、それぞれ対応する入力画像について、画像メモリよ
り各画素毎の輝度値を順に読み込んで、図9に示すよう
な輝度レベルのヒストグラムを作成する。ピークレベル
抽出部12a,12bは、このヒストグラム上で最大の
度数をとる輝度レベル(図9の例では度数Pmax をとる
輝度レベルL)をピークレベルとして抽出するもので、
各入力画像毎のピークレベルはピークレベル差算出部1
3により差分処理され、判定部7に与えられる。
【0033】図10は、上記制御装置2における判定処
理の手順を示す。ステップ1で、各カメラ1a,1bか
らの画像データが入力されると、つぎのステップ2で、
各輝度ヒストグラム作成部11a,11bにより入力画
像毎の輝度ヒストグラムが作成される。ついでステップ
3では、各ピークレベル抽出部12a,12bにより、
それぞれのヒストグラム上で最大の度数データをとる輝
度レベルL1,L2が、前記ピークレベルとして抽出さ
れる。
【0034】つぎのステップ4で、前記ピークレベル差
算出部13は、各ピークレベルL1,L2の差分絶対値
ΔLを算出し、その算出値を判定部7に出力する。判定
部7は、この算出値ΔLを所定のしきい値th3と比較
し、ΔLがしきい値th3以下であれば各入力画像は適
正であると判定し、ΔLがしきい値th3を上回る場合
は、いずれかのカメラに異常が生じたものと判定する
(ステップ5〜7)。
【0035】(4)第4実施例 図11は、特徴量として、入力画像の輝度値の分散値を
算出するようにしたもので、各入力画像に対し、画像入
力部5a,5b,輝度ヒストグラム作成部11a,11
b,分散値算出部14a,14bの各部を具備するほ
か、分散値差算出部15,判定部7,出力部8の各部を
構成として含んでいる。
【0036】輝度ヒストグラム作成部11a,11b
は、前記第3の実施例と同様にして、各入力画像毎の輝
度ヒストグラムを作成する。分散値算出部14a,14
bは、作成されたヒストグラムの分布状態に基づき、各
入力画像上の輝度の分散値を算出する。この算出値は分
散値差算出部15に与えられて差分処理が実施されるも
ので、判定部7は、この分散値の差分絶対値を所定のし
きい値と比較することにより、入力画像の適否を判定す
る。なおこの実施例における判定処理の手順は、前記第
3の実施例に準ずるものであり、図示および詳細な説明
は省略する。
【0037】(5)判定処理の精度を向上するための展
開例 図12〜図14は、上記(1)〜(4)のいずれの構成
にも適用できるもので、判定処理の精度を向上させるた
めに、各画像間で処理対象とする画像データが同じ観測
対象を捉えたものとなるように、処理対象の画像領域を
限定するようにした例を示す。
【0038】図12(1)(2)は、各入力画像におい
て、いずれのカメラ1a,1bの視野にも含まれる共通
視野領域を処理対象としたものである。図13(1)
(2)は、各入力画像上に、それぞれ実際の空間内の特
定の領域に対応する画像領域を設定して処理対象とした
ものである。いずれの実施例でも、各入力画像毎に、処
理対象として設定された画像領域内の画像データもしく
はその特徴量が抽出され、各画像間で抽出結果を比較す
ることにより、入力画像の適否が判定される。なおいず
れの実施例においても、処理対象領域は、同一のサイズ
となるように補正処理される。
【0039】図14(1)(2)に示す例は、各入力画
像上で同様の対象物を含む画像領域を切り出して処理対
象とするもので、ここでは、各入力画像とも、道路脇の
樹木の画像を含む画像領域が、処理対象として設定され
ている。なおこの場合も、各画像領域は、同一サイズと
なるように調整される。この実施例のように、時間の推
移によっても位置の変動しない対象物を基準として処理
対象の領域を定めることにより、常に安定した判定処理
を行うことができる。
【0040】図15に示す例は、各入力画像をそれぞれ
同様の条件をもって分割処理し、各画像間で対応する位
置にある小領域毎に、画像データの比較処理を実施する
ようにしたものである。このような処理によれば、例え
ば、レンズ面の一部に異物が付着して一部画像データの
みに不備が生じた場合にも、その異常状態を精度良く抽
出することが可能である。
【0041】(6)第5実施例 図16は、異常が生じたカメラを特定するようにした制
御装置2の構成を示すもので、各入力画像に対し、それ
ぞれ画像入力部5a,5b,特徴量抽出部16a,16
b,特徴量記憶部17a,17b,特徴変動量算出部1
8a,18bの各部を具備するほか、特徴量差算出部1
9,判定部7,異常カメラ特定部20,出力部8の各部
を備えている。
【0042】なおここでいう特徴量抽出部16a,16
bは、前記第2の実施例と同様の輝度平均値を算出する
ものとするが、これに限らず、第3の実施例に示したピ
ークレベルや第4の実施例に示した輝度値の分散値を抽
出するものとしてもよい。あるいは第1の実施例のよう
に、各入力画像の差分処理を行ってその差分総和値Dを
特徴量として出力してもよい。また前記(5)の各展開
例に示したように、各入力画像上に所定の処理対象領域
を設定して、その領域内の特徴量を抽出することも可能
である。
【0043】特徴量記憶部17a,17bは、所定時間
前に得られた輝度平均値を記憶するためのもので、特徴
変動量算出部18a,18bは、対応する入力画像につ
いての最新の輝度平均値と前記特徴量記憶部17a,1
7bに記憶された過去の輝度平均値とを差分して、特徴
量の変動量を算出する。特徴量差算出部19は、各入力
画像毎の最新の輝度平均値を差分して、前記第2の実施
例と同様の輝度平均差Δμを算出するためのもので、判
定部7は、この輝度平均差Δμの算出値により、各入力
画像が適正であるか否かの判定処理を実施する。
【0044】なおこの実施例の特徴量記憶部17a,1
7bの記憶データは、画像入力のタイミングに応じて更
新されるが、必ずしもこのように構成する必要はなく、
数秒単位の時間間隔で更新するようにしても十分であ
る。
【0045】異常カメラ特定部20は、前記判定部7に
よりいずれかの入力画像が不適正であると判定されたと
き、各特徴変動量算出部18a,18bからの算出結果
を入力して両者を比較することにより、いずれのカメラ
に異常が生じているかを特定する。判定部7および異常
カメラ特定部20の処理結果は、出力部8を介して外部
に出力される。
【0046】図17は、上記制御装置2における判定処
理手順を示す。ステップ1,2は、前記図7と同様の処
理であって、各入力画像毎に輝度平均値μ1,μ2が算
出される。つぎのステップ3では、特徴量差算出部19
により輝度平均差Δμが算出されると同時に、各特徴変
動量算出部18a,18bにより各入力画像毎の特徴量
の変動量dμ1 ,dμ2 が算出される。
【0047】つぎのステップ4で、判定部7による判定
処理が行われ、前記輝度平均差Δμがしきい値th2以
下であれば、各入力画像とも適正であると判定される
(ステップ5)。一方、輝度平均差Δμがしきい値th
2を上回る場合はステップ6に移行して、いずれかのカ
メラに異常があるという判定がなされた後、異常の生じ
たカメラを特定するための処理が行われる。
【0048】異常カメラ特定部20は、ステップ7で、
前記各特徴変動量dμ1 ,dμ2 を比較し、その大小関
係によりいずれのカメラに異常が生じているかを判定す
る。この判定処理は、異常の生じたカメラにかかる特徴
変動量は正常なカメラにかかる特徴変動量よりも大きく
なるという原理に基づくもので、dμ1 がdμ2 より大
きい場合はカメラ1aに異常があると判定され(ステッ
プ8)、dμ2 がdμ 1 よりも大きい場合はカメラ1b
に異常があると判定される(ステップ9)。
【0049】このように、各カメラ1a,1bからの画
像データを用いてどのカメラに異常が生じたかを簡単に
特定することができるので、この特定結果をもって異常
の生じたカメラへのメンテナンスを速やかに行うことが
できる。
【0050】(7)第6実施例 この実施例は、撮像手段として、前記図1のカメラ1
a,1bのほかに、第3のカメラ1cを加え、各カメラ
からの画像を用いた認識処理を行うことを前提とするも
ので、いずれか1台のカメラ(ここではカメラ1aとす
る)からの入力画像を基準として、他のカメラ1b,1
cからの入力画像を基準画像と比較することにより、各
入力画像の適否判別および異常の生じたカメラの特定処
理を行うようにしたものである。
【0051】なおこの実施例でも、各カメラ1a,1
b,1cは、同じ焦点距離を有し、各光軸を平行にして
配備されるものである。また以下の説明では、基準とさ
れた第1のカメラ1aからの入力画像を「基準画像」と
呼び、第2,第3のカメラ1b,1cからの入力画像
を、前記基準画像に対応させて、「第2画像」「第3画
像」と呼ぶことにする。
【0052】制御装置2は、各入力画像に対し、それぞ
れ画像入力部5a,5b,5c,特徴量抽出部16a,
16b,16cを具備するほか、2個の特徴量差算出部
19A,19B,判定部7,異常カメラ特定部20,出
力部8などの構成を備えている。なおこの実施例におい
ても、前記第5の実施例と同様、各特徴量抽出部16
a,16b,16cは前記第2の実施例に記載の輝度平
均値を算出するものとして説明を進めるが、他の特徴量
を抽出するように構成してもよい。
【0053】第1の特徴量差算出部19Aは、基準画像
より抽出された輝度平均値μ1と第2画像における輝度
平均値μ2との差分処理を実施して、第1の輝度平均差
ΔμA を算出する。他方、第2の特徴量差算出部19B
は、基準画像,第3画像の各画像にかかる輝度平均値μ
1,μ3の差分処理を実施して、第2の輝度平均差Δμ
B を算出する。判定部7は、これら輝度平均差ΔμA
ΔμB を用いて入力画像の適否を判定する。またこの判
定部7により、いずれかのカメラに異常が生じていると
判定されたとき、各輝度平均差ΔμA ,ΔμB は判定部
7を介して異常カメラ特定部20に取り込まれ、どのカ
メラに異常が生じているかが判定される。
【0054】図19は、上記制御装置2における判定処
理の手順を示す。まずステップ1で、各カメラ1a,1
b,1cより画像データが入力され、続くステップ2
で、各特徴量抽出部16a,16b,16cにより各入
力画像の輝度平均値μ1,μ2,μ3が算出される。つ
ぎにステップ3では、特徴量差算出部19A,19Bに
より第1,第2の各輝度平均差ΔμA ,ΔμB が算出さ
れる。
【0055】つぎのステップ4,5で、判定部7は、各
輝度平均差ΔμA ,ΔμB をそれぞれ所定のしきい値t
hと比較する。この結果、いずれの輝度平均差ΔμA
ΔμB もしきい値th以下であれば、ステップ6へと移
行して、3つの入力画像はいずれも適正であると判定さ
れる。
【0056】一方、いずれかの輝度平均差ΔμA ,Δμ
B がしきい値thを上回る値をとる場合には、ステップ
7へと移行して、いずれかカメラに異常があるという判
定がなされ、さらにステップ8以降の異常カメラ特定部
20による判定処理へと移行する。
【0057】この判定処理は、各輝度平均差ΔμA ,Δ
μB の値を比較することにより行われるもので、ΔμA
がΔμB よりも大きい場合には、ステップ8が「YE
S」となり、カメラ1bに異常が生じていると判定され
る(ステップ10)。反対にΔμB がΔμA よりも大き
い場合には、ステップ9が「YES」となり、カメラ1
cに異常が生じていると判定される(ステップ11)。
なおこのステップ8,9では、所定の誤差を含んだ比較
処理が行われる。
【0058】ステップ8,9がいずれも「NO」の場
合、すなわちΔμA ≒ΔμB となる場合、いずれの輝度
平均差ΔμA ,ΔμB もしきい値thを上回ることにな
る。この場合、異常カメラ特定部20は、基準画像が適
正でないものと判断して、カメラ1aに異常が生じてい
ると判定する(ステップ12)。
【0059】このように第2、第3の各入力画像の特徴
量を基準画像の特徴量と比較することにより、いずれの
カメラに異常が生じているかを、簡単に特定することが
できるもので、この特定結果を用いて発生した異常状態
に迅速かつ適切に対応することができる。
【0060】(8)異常を除去するための具体例 ここまでの各実施例では、いずれかのカメラからに異常
が発生したと判定されたとき、認識処理を中止するとと
もに、出力部8を介して外部に警報などを出力するもの
である。しかしながらレンズ面に異物が付着したことに
起因する異常の場合には、つぎのような装置を用いて異
常を簡単に除去することができる。
【0061】図20は、カメラ収容用のケース体21を
示す。このケース体21は、前面にレンズ窓22が形成
されるとともに、1端部にレンズ窓払拭用のワイパ23
が軸支されており、カメラは、ケース体21内に、前記
レンズ窓22にレンズ面を当接させた状態で配備され
る。
【0062】上記した第1〜第4の各実施例において、
各カメラ1a,1bにこの図20の構成を適用した場
合、いずれかのカメラに異常が生じていると判定される
と、出力部8から各カメラ1a,1bのワイパ23,2
3に駆動信号が出力され、各ケース体21のレンズ窓2
2が払拭される。また異常の生じたカメラが特定される
第5,第6の実施例の場合には、特定されたカメラに対
応するワイパ23にのみ駆動信号が出力される。この払
拭動作によりレンズ窓22に付着した異物が取り除かれ
ると、つぎの段階で取り込まれた入力画像は適正な状態
に復帰するから、認識処理をすぐに再開することがで
き、実用性の高い観測装置を提供することができる。
【0063】
【発明の効果】請求項1〜4の発明では、各撮像手段毎
に得た複数の画像データから抽出された特徴量を相互に
比較した結果に基づき、適正な画像データを出力してい
ない撮像手段があるか否かを判定するので、いずれかの
撮像手段が、故障や異物などにより適正な画像データを
生成できなくなったとき、その異常事態を自動的かつ速
やかに認識して対処することができる。また、比較処理
の対象となる特徴量は、実際の空間において各撮像手段
の視野に共通に含まれる領域に対応する画像領域から抽
出されるので、各画像間で同じ観測対象を捉えた画像デ
ータを比較することができ、判定処理の精度を向上させ
ることができる。
【0064】また、請求項4の発明では、各撮像手段を
光軸を定めた状態で特定の位置に固定配備するととも
に、これら撮像手段の視野に共通に含まれ、かつ時間の
推移によってもその位置が変動しない特定の対象物を基
準にして、特徴量を抽出するための画像領域を設定する
ので、常に安定した判定処理を行うことが可能となる。
【0065】
【0066】請求項5〜7の発明では、適正な画像デー
タを出力していない撮像手段があると判定されたとき、
さらに適正な画像データを出力していない撮像手段を特
定するので、異常の発生した撮像手段に対するメンテナ
ンスを迅速に実施して、装置動作を正常な状態に復帰さ
せることができる。
【0067】請求項8の発明では、適正な画像データを
出力していない撮像手段があると判定されたとき、異常
除去手段を駆動して撮像手段に生じた異常を取り除くの
で、異常状態が自動的に解除され、装置動作を速やかに
正常な状態に復帰させることができる。
【図面の簡単な説明】
【図1】この発明の一実施例にかかる観測装置の設置例
を示す斜視図である。
【図2】図1の各カメラからの入力画像を示す説明図で
ある。
【図3】図1の各カメラからの入力画像を示す説明図で
ある。
【図4】制御装置の第1の構成を示すブロック図であ
る。
【図5】図4の制御装置による判定処理手順を示すフロ
ーチャートである。
【図6】制御装置の第2の構成を示すブロック図であ
る。
【図7】図6の制御装置による判定処理手順を示すフロ
ーチャートである。
【図8】制御装置の第3の構成を示すブロック図であ
る。
【図9】輝度ヒストグラムの一例を示す説明図である。
【図10】図8の制御装置による判定処理手順を示すフ
ローチャートである。
【図11】制御装置の第4の構成を示すブロック図であ
る。
【図12】処理対象領域の設定例を示す説明図である。
【図13】処理対象領域の設定例を示す説明図である。
【図14】処理対象領域の設定例を示す説明図である。
【図15】小領域毎に画像データを比較する方法を示す
説明図である。
【図16】制御装置の第5の構成を示すブロック図であ
る。
【図17】図16の制御装置による判定処理手順を示す
フローチャートである。
【図18】制御装置の第6の構成を示すブロック図であ
る。
【図19】図18の制御装置による判定処理手順を示す
フローチャートである。
【図20】カメラ収納用のケース体の構成を示す斜視図
である。
【符号の説明】
1a,1b,1c カメラ 2 制御装置 6 比較処理部 7 判定部 20 異常カメラ特定部
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI H04N 5/225 H04N 13/02 13/02 G01B 11/24 K (56)参考文献 特開 平7−120255(JP,A) 特開 平4−301513(JP,A) 特開 平4−303047(JP,A) 特開 平7−218251(JP,A) 特開 平9−113221(JP,A) 実開 平6−82509(JP,U) (58)調査した分野(Int.Cl.7,DB名) G06T 1/00 - 7/60 G01B 11/24 G08G 1/04 H04N 7/18 H04N 5/225 H04N 13/02

Claims (8)

    (57)【特許請求の範囲】
  1. 【請求項1】 所定の観測位置に向けて配備された複数
    の撮像手段からの画像データを用いた3次元認識処理に
    より前記観測位置の観測処理を実施する方法において、前記複数の撮像手段毎に出力された複数の画像データに
    対し、実際の空間において各撮像手段の視野に共通に含
    まれる領域に対応する画像領域をそれぞれ設定して、各
    画像領域から所定の特徴量を抽出するステップと、画像
    領域毎に抽出された特徴量を相互に比較するステップ
    と、前記比較結果に基づき、適正な画像データを出力し
    ていない撮像手段があるか否かを判定するステップと
    を、前記観測処理に先立ち実行する ことを特徴とする画
    像処理方法。
  2. 【請求項2】 所定の観測位置に向けて配備された複数
    の撮像手段からの画像データを入力し、これらの画像デ
    ータを用いた3次元認識処理により前記観測位置の観測
    処理を実施する画像処理装置であって、前記複数の撮像手段毎に入力された複数の画像データに
    対し、実際の空間において各撮像手段の視野に共通に含
    まれる領域に対応する画像領域をそれぞれ設定して、各
    画像領域から所定の特徴量を抽出する特徴量抽出手段
    と、 前記特徴量抽出手段が画像領域毎に抽出した特徴量を
    互に比較する比較手段と、 前記比較手段の比較結果に基づき、適正な画像データを
    出力していない撮像手段があるか否かを判定する判定手
    段とを備えて成る画像処理装置。
  3. 【請求項3】 前記特徴量抽出手段は、各撮像手段から
    入力された複数の画像データに対し、実際の空間におい
    て前記複数の撮像手段のいずれの視野にも含まれる特定
    の領域に対応する画像領域をそれぞれ設定する請求項2
    に記載された画像処理装置。
  4. 【請求項4】 前記各撮像手段は、光軸を定めた状態で
    特定の位置に固定配備されており、前記特徴量抽出手段
    は、前記複数の撮像手段のいずれの視野にも含まれてお
    り、かつ時間の推移によってもその位置が変動しない特
    定の対象物を基準にして、前記画像領域を設定する請求
    項2に記載された画像処理装置。
  5. 【請求項5】 所定の観測位置に向けて配備された複数
    の撮像手段からの画像データを入力し、これらの画像デ
    ータを用いた3次元認識処理により前記観測位置の観測
    処理を実施する画像処理装置であって、前記複数の撮像手段毎に入力された複数の画像データを
    相互に比較する比較手段と、 前記比較手段の比較結果に基づき、適正な画像データを
    出力していない撮像手段があるか否かを判定する判定手
    段と、 前記判定手段により適正でない画像データを出力してい
    る撮像手段があると判定されたとき、各撮像手段からの
    画像データを用いて前記適正な画像データを出力してい
    ない撮像手段を特定する異常特定手段とを具備して成る
    画像処理装置。
  6. 【請求項6】 前記異常特定手段は、各撮像手段毎に、
    それぞれ最新の画像データを所定時間前に入力された画
    像データと比較して、適正な画像データを出力していな
    い撮像手段を特定する請求項5に記載された画像処理装
    置。
  7. 【請求項7】 前記撮像手段は、少なくとも3台配備さ
    れており、 前記異常特定手段は、いずれか1台の撮像手段からの画
    像データを基準として設定し、他の撮像手段からの画像
    データをそれぞれ前記基準の画像データと比較して、適
    正な画像データを出力していない撮像手段を特定する請
    求項5に記載された画像処理装置。
  8. 【請求項8】 所定の観測位置に向けて配備された複数
    の撮像手段からの画像データを入力し、これらの画像デ
    ータを用いた3次元認識処理により前記観測位置の観測
    処理を実施する画像処理装置であって、前記複数の撮像手段毎に入力された複数の画像データに
    対し、実際の空間において各撮像手段の視野に共通に含
    まれる領域に対応する画像領域をそれぞれ設定して、各
    画像領域から所定の特徴量を抽出する特徴量抽出手段
    と、 前記特徴量抽出手段が画像領域毎に抽出した特徴量 を相
    互に比較する比較手段と、 前記比較手段の比較結果に基づき、適正な画像データを
    出力していない撮像手段があるか否かを判定する判定手
    段と、 各撮像手段に発生した異常を取り除くための異常除去手
    段と、 前記判定手段により適正な画像データを出力していない
    撮像手段があると判定されたとき前記異常除去手段を駆
    動する駆動手段とを備えて成る画像処理装置。
JP36188297A 1997-12-09 1997-12-09 画像処理方法およびその装置 Expired - Lifetime JP3516127B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP36188297A JP3516127B2 (ja) 1997-12-09 1997-12-09 画像処理方法およびその装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP36188297A JP3516127B2 (ja) 1997-12-09 1997-12-09 画像処理方法およびその装置

Publications (2)

Publication Number Publication Date
JPH11177964A JPH11177964A (ja) 1999-07-02
JP3516127B2 true JP3516127B2 (ja) 2004-04-05

Family

ID=18475170

Family Applications (1)

Application Number Title Priority Date Filing Date
JP36188297A Expired - Lifetime JP3516127B2 (ja) 1997-12-09 1997-12-09 画像処理方法およびその装置

Country Status (1)

Country Link
JP (1) JP3516127B2 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3481515B2 (ja) * 1999-08-10 2003-12-22 株式会社メガチップス 監視装置
JP5027359B2 (ja) * 2001-06-14 2012-09-19 パナソニック株式会社 人体検知装置
JP4100250B2 (ja) * 2003-05-19 2008-06-11 日産自動車株式会社 障害物検出装置および障害物検出方法
JP4771891B2 (ja) * 2006-08-17 2011-09-14 富士通株式会社 追跡信頼度判定プログラム
JP4744394B2 (ja) * 2006-08-18 2011-08-10 オリンパスメディカルシステムズ株式会社 立体撮像装置を搭載する観察装置及び立体撮像方法
JP4980089B2 (ja) * 2007-01-31 2012-07-18 富士重工業株式会社 ステレオ画像処理装置
JP2008196891A (ja) * 2007-02-09 2008-08-28 Mitsubishi Precision Co Ltd 多眼カメラ
JP2010114760A (ja) * 2008-11-07 2010-05-20 Fujifilm Corp 撮影装置、指がかり通知方法およびプログラム
WO2012033005A1 (ja) * 2010-09-08 2012-03-15 日本電気株式会社 撮影装置および撮影方法
US9064317B2 (en) * 2012-05-15 2015-06-23 Palo Alto Research Center Incorporated Detection of near-field camera obstruction
JP2014009975A (ja) * 2012-06-28 2014-01-20 Hitachi Automotive Systems Ltd ステレオカメラ
JP2014056441A (ja) * 2012-09-12 2014-03-27 Toshiba Corp 道路状況把握装置
JP2014182433A (ja) * 2013-03-18 2014-09-29 Toshiba Corp 道路状況把握装置
DE102014206227A1 (de) * 2014-04-02 2015-10-08 Conti Temic Microelectronic Gmbh Stereokamerasystem
JP6398501B2 (ja) * 2014-09-10 2018-10-03 株式会社デンソー 車載カメラ診断装置
JP6586239B2 (ja) * 2016-08-29 2019-10-02 株式会社日立製作所 撮影装置及び撮影方法
JP2018115878A (ja) * 2017-01-16 2018-07-26 キヤノン株式会社 計測装置、システムおよび物品製造方法
JP6751691B2 (ja) 2017-06-15 2020-09-09 ルネサスエレクトロニクス株式会社 異常検出装置及び車両システム
CN109389107A (zh) * 2019-01-15 2019-02-26 深兰人工智能芯片研究院(江苏)有限公司 车辆安全处理方法、装置及计算机可读存储介质
JP7099426B2 (ja) * 2019-10-09 2022-07-12 株式会社デンソー 物体認識装置
CN115082571B (zh) * 2022-07-20 2022-11-18 深圳云游四海信息科技有限公司 用于路内停车摄像机的异常检测方法和***

Also Published As

Publication number Publication date
JPH11177964A (ja) 1999-07-02

Similar Documents

Publication Publication Date Title
JP3516127B2 (ja) 画像処理方法およびその装置
US9690996B2 (en) On-vehicle image processor
JP3279479B2 (ja) 映像監視方法及び装置
JP4856612B2 (ja) 物体検出装置
JP3280001B2 (ja) ステレオ画像の位置ずれ調整装置
JP4930046B2 (ja) 路面判別方法および路面判別装置
JP3255360B2 (ja) 距離データの検査方法およびその検査装置
EP2928178B1 (en) On-board control device
KR101961571B1 (ko) 복수의 물체 검출 수단을 사용한 물체 인식 장치
JPH07250319A (ja) 車両周辺監視装置
EP2770478A2 (en) Image processing unit, imaging device, and vehicle control system and program
JPH0792423B2 (ja) ヘッドライトの光軸調整方法
JP2001028746A (ja) フェールセーフ機能を有する車外監視装置
JP5027710B2 (ja) 車両用環境認識装置および先行車追従制御システム
KR101236223B1 (ko) 차선 검출 방법
CN115761668A (zh) 摄像头的污渍识别方法、装置、车辆及存储介质
US20210089818A1 (en) Deposit detection device and deposit detection method
JP2001357396A (ja) 画像処理装置および画像認識装置
JP6204844B2 (ja) 車両のステレオカメラシステム
EP4015990A1 (en) Image processing device
US11308709B2 (en) Deposit detection device and deposit detection method
US11568547B2 (en) Deposit detection device and deposit detection method
JP4151631B2 (ja) 物体検出装置
JP4028533B2 (ja) 画像処理装置
JP2001092979A (ja) 不適切画像検出方法

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20031224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040106

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090130

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090130

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100130

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100130

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110130

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110130

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140130

Year of fee payment: 10

EXPY Cancellation because of completion of term