JP2005244399A - 障害物認識補助装置 - Google Patents
障害物認識補助装置 Download PDFInfo
- Publication number
- JP2005244399A JP2005244399A JP2004049022A JP2004049022A JP2005244399A JP 2005244399 A JP2005244399 A JP 2005244399A JP 2004049022 A JP2004049022 A JP 2004049022A JP 2004049022 A JP2004049022 A JP 2004049022A JP 2005244399 A JP2005244399 A JP 2005244399A
- Authority
- JP
- Japan
- Prior art keywords
- image
- window
- screen
- image data
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【解決手段】 注目物体特定部22は、撮像素子5及び6によって取得された画像の属する画面内に含まれる特異な挙動が認められる注目物体を特定する。ウィンドウ設定制御部23は、その画面の全領域よりも狭い領域を持つウィンドウ内に注目領域の画面の全部又は一部が位置するようにウィンドウを設定すると共に、一旦ウィンドウが設定された後は当該注目物体の画像の全部又は一部が常に当該ウィンドウ内に位置するように当該画面の全領域内における当該ウィンドウの位置を追随的に制御する。ウィンドウ画像データ読み出し部24は、この画面の全領域に対応する画像データを距離演算部19等が読み出す読み出しレートよりも速い読み出しレートでこのウィンドウに対応する画像データを読み出す。ここで、撮像素子7及び8がウィンドウ画像データ用撮像素子として用いられる。
【選択図】 図1
Description
図4において、レンズ1001及び1002は、それぞれ基線長Lだけ離隔して左右対称に配置された一対のレンズであり、焦点距離fだけ後方に位置させているイメージセンサ1003及び1004の各々の表面に、距離Rだけ前方に位置する先行車両1014の像を結像させる。イメージセンサ1003及び1004の各々より出力される信号であって先行車両1014を含む視野の画像を表しているアナログ信号である画像信号は、A/D変換器1005及び1006によってそれぞれデジタルデータである画像データへと変換される。
追尾演算器1010は1撮像タイミング前(時刻t=t0 :以下、「前時刻」と称することとする)で撮像された後に、先行車両1014に関するウィンドウ位置が設定された視野の画像の画像データ(以下、「前画像データ」と称することとする)をメモリ1008より読み取る。更に、追尾演算器1010は現時刻(t=t0 +Δt)で撮像されてメモリ7に格納された視野の画像データ(以下、「現画像データ」と称することとする)を読み取る。そして、前画像データで表されている視野の画像(以下、「前画像」と称することとする)においてウィンドウが設定された追尾対象物である先行車両1014と同一の画像を、現画像データで表されている視野の画像(以下、「現画像」と称することとする)の中よりサーチする。なお、このサーチの手法は周知のパターンマッチングのアルゴリズムを用いる。
次に、特許文献1に開示されている、図4に示す装置による距離演算動作についても説明しておく。
なお、このような、一対の撮像素子を用いることで撮像画像に表されている物体の距離を求めることができるようにした撮像装置はステレオ式撮像装置などと称されており、広く知られている。
また、前述した本発明に係る障害物認識補助装置において、前述のウィンドウから読み出される画像データに基づいて前述の注目物体の挙動を検出する挙動検出手段を更に備えるように構成してもよい。
まず図1について説明する。同図は本発明を実施する装置の構成を示している。同図に示した装置は車両に搭載されて使用されるものであり、この装置を搭載した車両(自車両)との相対距離が近くなる物体を、自車両と衝突するおそれのある障害物とみなし、その物体の画像を自車両の周囲の風景が表されている画像内で特定すると共に、その障害物が表されている画像データを出力するという機能を有するものである。なお、ここでは、この装置を障害物認識補助装置と称している。
ハーフミラー3及び4は、レンズ1及び2を通過した光の一部を撮像素子3及び4の方向へ透過させる一方で、その光の残りを反射してその光路を撮像素子7及び8の方向へ向かわせる光分割手段である。
WOI機能を有するイメージセンサは、全体撮像時においては、図2(a)に示すように、撮像可能な最大画素数の画像(同図の例においては画素数が640×480画素の画像)を所定の撮像レート(例えば30フレーム/秒)で撮像してその画像全体についての画像信号を出力する一方、WOI機能による部分撮像時においては、図2(b)に示すように、全体撮像によって得られる画像のうち撮像範囲を指定の範囲(ウィンドウ)に制限したウィンドウ画像(同図の例においては、全体撮像時において撮像される画面の全領域に対し画素数が1/4である320×240画素の画面に表される画像)のみを全体撮像時よりも高速な撮像レート(例えば全体撮像時における撮像レートが30フレーム/秒である場合には、画素数の減少率の逆数倍である120フレーム/秒(=30×4))で撮像してそのウィンドウ画像についての画像信号を出力することができる。
A/D変換器11及び12は、撮像素子5及び6から各々出力されたアナログ信号である画像信号が入力されるとこの画像信号をアナログ−デジタル変換し、風景画像を表現している画像データを各々出力する。
なお、A/D変換器11、12、13及び14におけるアナログ信号のサンプリングや変換に要する時間は、他の処理に支障がない程度に十分に高速なものとする。
距離演算部19は、撮像素子5及び6によって撮像された風景画像を表現している画像データがメモリ15及び16に新たに保存される度にその画像データを読み出し、その画像データで表現されている風景画像を構成している画素の各々に表されている物体と自車両との間の相対距離を求める。この相対距離は、前述した図4に示した装置における距離演算器1011による距離の算出法、すなわち前述した三角測量の原理に基づく(1)式に従った算出法より求めることができる。これは、撮像素子5及び6をステレオ式撮像装置として用いたことによって可能となる。
注目物体特定部22は、距離画像のデータに基づいて、風景画像に表されている物体の風景画像内の位置を特定する。具体的には、風景画像における画素のうち、隣接している画素に対応付けられている相対距離の差が所定値以内のものについては同一の物体の画像であるとみなし、これらの画素の位置している風景画像内の範囲を特定する。また、ここで、現画像である風景画像に表されている各物体と、過去に取得されていた風景画像に表されていた各物体との間で、形状、大きさ、色彩、位置等に基づいて相関を求め、所定の程度以上で最も高い相関を有している物体同士を同一の物体として関連付けておく。
本実施例において、注目物体特定部22は、まず、距離演算部19から得られる画素毎の相対距離の情報から、風景画像に表されている各物体と自車両との間の現時刻における相対距離を例えば画素毎の相対距離の算術平均により算出する。ここで、この相対距離が所定の距離内にある物体は自車両に近い物体であり、自車両に衝突する蓋然性を有しているとみなし得るので、注目物体とする。
ウィンドウ設定制御部23は、現時刻の背景画像に対し、注目物体特定部22によって特定された注目物体の画像が位置するようにウィンドウを設定する。また、既にウィンドウが設定されている場合には、注目物体特定部22によって各物体に与えられている過去の背景画像と現時刻における背景画像とについての関連付けの情報に基づいて風景画像の全領域内におけるウィンドウの位置を追随させる制御を行い、注目物体の画像が常に当該ウィンドウ内に位置させるようにする。なお、このウィンドウの形状及び大きさは予め設定しておく。また、注目物体の画像とウィンドウとの形状及び大きさの相違により、注目物体の画像の全部をウィンドウ内に位置させることができない場合でも、注目物体の画像の少なくとも一部はウィンドウ内に位置させるようにウィンドウの位置を制御する。
表示装置32は例えばLCD(Liquid Crystal Display)であり、D/A変換部31から出力された画像信号で表現されている画像を表示する。
撮像素子駆動制御部34は、撮像素子7及び8の動作を制御するものであり、特に、注目物体特定部22から送られてくる、風景画像から注目物体を特定したか否かを示す信号と、ウィンドウ設定制御部23から送られてくる、風景画像中におけるウィンドウの位置を示す情報とに基づき、撮像素子5及び6による風景画像の撮像レートよりも速い撮像レートでのWOI機能による部分撮像を撮像素子7及び8に行わせると共に部分撮像時におけるウィンドウ画像の撮像範囲の設定変更を行う。
なお、以下の説明において、撮像素子5及び6は、図2(a)に示したように、画素数が640×480画素の風景画像を撮像するものとし、撮像素子7及び8は、WOI機能による部分撮像において、図2(b)に示したように、ウィンドウサイズを全体撮像時の撮像画素数の1/4、すなわち320×240画素のウィンドウ画像を撮像するものとする。
この期間において、撮像素子駆動制御部33は、撮像素子5及び6による風景画像の撮像動作を、図3(a)のパルス信号の立ち上がりエッジのタイミングに従い、周期Tで逐次行わせる。一方、この期間において、素子駆動制御部34は撮像素子7及び8によるウィンドウ画像の撮像動作を停止させている。従って、この期間には、メモリ17及び18への画像データのウィンドウ画像データの書き込みが行われないので、読み出し部24によるウィンドウ画像データの読み出しも行われない。このとき、画像処理部25は合成処理を行わない。従って、表示装置32には風景画像がそのまま表示される。
この期間においても、撮像素子駆動制御部33は、撮像素子5及び6による風景画像の撮像動作を、図3(a)のパルス信号の立ち上がりエッジのタイミングに従い、周期Tで逐次行わせる。更に、この期間には、撮像素子駆動制御部34が、撮像素子7及び8によるウィンドウ画像の撮像動作を、図3(c)のパルス信号の立ち上がりエッジのタイミングに従い、周期T/4で逐次行わせる。なお、このときには、撮像素子駆動制御部34は、風景画像中におけるウィンドウの設定位置を示す情報をウィンドウ設定制御部23から受け取っており、風景画像に設定されたウィンドウの範囲の撮像、すなわち注目物体の撮像を撮像素子7及び8に行わせてウィンドウ画像を得る。
このようにして、撮像素子5及び6により撮像された風景画像、及び撮像素子7及び8により撮像されたウィンドウ画像は、A/D変換器11、12、13、及び14を各々経ることによって画像データに変換されてメモリ15、16、17、及び18に保存される。
その他、本発明は、上述した実施形態に限定されることなく、本発明の要旨を逸脱しない範囲内で種々の改良・変更が可能である。
3、4 ハーフミラー
5、6、7、8 撮像素子
11、12、13、14、1005、1006 A/D変換器
15、16、17、18、1007、1008、1009 メモリ
19、1011 距離演算部
20、1012 CPU
21 距離画像生成部
22 注目物体特定部
23 ウィンドウ設定制御部
24 ウィンドウ画像データ読み出し部
25 画像処理部
31 D/A変換部
32 表示装置
33、34 撮像素子駆動制御部
1003、1004 イメージセンサ
1010 追尾演算器
1013 ディスプレイ
1014 先行車両
1120 ウィンドウ設定手段
Claims (8)
- 撮像手段によって取得された画像の属する画面内に含まれる特異な挙動が認められる注目物体を特定するための注目物体特定手段と、
前記画面の全領域よりも狭い領域を持つウィンドウ内に前記注目領域の画面の全部又は一部が位置するようにウィンドウを設定すると共に一旦ウィンドウが設定された後は当該注目物体の画像の全部又は一部が常に当該ウィンドウ内に位置するように前記画面の全領域内における当該ウィンドウの位置を追随的に制御するウィンドウ設定制御手段と、
前記画面の全領域に対応する画像データを読み出す読み出しレートよりも速い読み出しレートで前記ウィンドウから当該ウィンドウに対応する画像データを読み出すウィンドウ画像データ読み出し手段と、
を備え、
且つ、上記撮像手段として、
主として前記画面の全領域に対応する画像データを読み出すために用いる全画面データ用撮像素子と、
主として前記ウィンドウの領域に対応する画像データを読み出すために用いるウィンドウデータ用撮像素子と、
を備えてなるものを適用した
ことを特徴とする障害物認識補助装置。 - 前記注目物体特定手段は、当該障害物認識補助装置が備えられた物体との相対位置が急接近し又は相対的に近い所定の距離内に位置し若しくはこれらの位置関係に至る蓋然性が認められる物体を前記注目物体として特定するようになされたものであることを特徴とする請求項1に記載の障害物認識補助装置。
- 前記ウィンドウ画面データ読み出し手段は、前記ウィンドウに関する画像データの読み出しレートとして、前記画面の全領域に対応する画像データの読み出しレートに当該全領域に対するウィンドウの面積比の逆数を乗じたものに相応するものであることを特徴とする請求項1に記載の障害物認識補助装置。
- 前記撮像手段はステレオ式撮像装置であり、
前記注目物体特定手段は、前記ステレオ式撮像装置によって取得される距離画像のデータに依拠して前記画面内に含まれる物体の特異な挙動を認識して注目物体を特定するように構成されたものである
ことを特徴とする請求項1に記載の障害物認識補助装置。 - 前記撮像手段は、共通の撮像光学系に介挿された光分割手段によって前記全画面データ用撮像素子と前記ウィンドウデータ用撮像素子とに対して実質的に等しい撮像視野に係る像が結ばれるように構成された光学系を有するものであることを特徴とする請求項1に記載の障害物認識補助装置。
- 前記ウィンドウデータ用撮像素子は、MOS型の撮像素子であることを特徴とする請求項1に記載の障害物認識補助装置。
- 前記ウィンドウから読み出される画像データに基づいて前記注目物体の挙動を検出する挙動検出手段を更に備えたことを特徴とする請求項1に記載の障害物認識補助装置。
- 前記ウィンドウ設定制御手段は、前記ウィンドウデータ用撮像素子に係る画面の全領域内に前記ウィンドウを複数設定することが可能に構成されたものであることを特徴とする請求項1に記載の障害物認識補助装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004049022A JP4451161B2 (ja) | 2004-02-25 | 2004-02-25 | 障害物認識補助装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004049022A JP4451161B2 (ja) | 2004-02-25 | 2004-02-25 | 障害物認識補助装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005244399A true JP2005244399A (ja) | 2005-09-08 |
JP4451161B2 JP4451161B2 (ja) | 2010-04-14 |
Family
ID=35025696
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004049022A Expired - Fee Related JP4451161B2 (ja) | 2004-02-25 | 2004-02-25 | 障害物認識補助装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4451161B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017520134A (ja) * | 2014-04-07 | 2017-07-20 | サムスン エレクトロニクス カンパニー リミテッド | 光学的イベントを感知する方法とそのための光学的イベントセンサ、及び距離測定モバイル装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02141069A (ja) * | 1988-11-21 | 1990-05-30 | Fujitsu Ltd | 画像入力装置 |
JPH0460539A (ja) * | 1990-06-29 | 1992-02-26 | Natsuku:Kk | 高速度撮像カメラ |
JPH04268882A (ja) * | 1991-02-22 | 1992-09-24 | Natsuku:Kk | 高速度カラービデオカメラ |
JPH052198A (ja) * | 1991-06-25 | 1993-01-08 | Fuji Xerox Co Ltd | 光動画像検知装置 |
JPH07298276A (ja) * | 1994-04-27 | 1995-11-10 | Toshiba Corp | 多板式撮像装置 |
JP2001218099A (ja) * | 2000-02-03 | 2001-08-10 | Nikon Corp | 多板式撮像装置および画像データ処理用記録媒体 |
JP2002262159A (ja) * | 2001-02-28 | 2002-09-13 | Ricoh Co Ltd | 撮像装置 |
JP2002314888A (ja) * | 2001-04-09 | 2002-10-25 | Sony Corp | デジタルスチルカメラ |
JP2003272061A (ja) * | 2002-03-13 | 2003-09-26 | Omron Corp | 監視装置 |
-
2004
- 2004-02-25 JP JP2004049022A patent/JP4451161B2/ja not_active Expired - Fee Related
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02141069A (ja) * | 1988-11-21 | 1990-05-30 | Fujitsu Ltd | 画像入力装置 |
JPH0460539A (ja) * | 1990-06-29 | 1992-02-26 | Natsuku:Kk | 高速度撮像カメラ |
JPH04268882A (ja) * | 1991-02-22 | 1992-09-24 | Natsuku:Kk | 高速度カラービデオカメラ |
JPH052198A (ja) * | 1991-06-25 | 1993-01-08 | Fuji Xerox Co Ltd | 光動画像検知装置 |
JPH07298276A (ja) * | 1994-04-27 | 1995-11-10 | Toshiba Corp | 多板式撮像装置 |
JP2001218099A (ja) * | 2000-02-03 | 2001-08-10 | Nikon Corp | 多板式撮像装置および画像データ処理用記録媒体 |
JP2002262159A (ja) * | 2001-02-28 | 2002-09-13 | Ricoh Co Ltd | 撮像装置 |
JP2002314888A (ja) * | 2001-04-09 | 2002-10-25 | Sony Corp | デジタルスチルカメラ |
JP2003272061A (ja) * | 2002-03-13 | 2003-09-26 | Omron Corp | 監視装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017520134A (ja) * | 2014-04-07 | 2017-07-20 | サムスン エレクトロニクス カンパニー リミテッド | 光学的イベントを感知する方法とそのための光学的イベントセンサ、及び距離測定モバイル装置 |
US10295669B2 (en) | 2014-04-07 | 2019-05-21 | Samsung Electronics Co., Ltd. | High resolution, high frame rate, low power image sensor |
Also Published As
Publication number | Publication date |
---|---|
JP4451161B2 (ja) | 2010-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9171378B2 (en) | Camera apparatus and method for tracking object in the camera apparatus | |
JP5615441B2 (ja) | 画像処理装置及び画像処理方法 | |
US7986812B2 (en) | On-vehicle camera with two or more angles of view | |
US20150145997A1 (en) | In-Vehicle Image Processing Device and Semiconductor Device | |
JP5915923B2 (ja) | 画像処理装置及び運転支援システム | |
US8611584B2 (en) | System and method for performing optical navigation using portions of captured frames of image data | |
JP2015222934A (ja) | 車両周囲表示装置 | |
JP2010183234A (ja) | 描画装置 | |
JP2008026999A (ja) | 障害物検出システム、及び障害物検出方法 | |
JP4451161B2 (ja) | 障害物認識補助装置 | |
JP2004106682A (ja) | 障害物検出装置 | |
JP5863105B2 (ja) | 車両移動量推定装置および障害物検出装置 | |
JP2012256159A (ja) | 接近物検知装置および接近物検知方法 | |
JP5395373B2 (ja) | 周辺監視装置 | |
JP2005228213A (ja) | 障害物認識補助装置 | |
JP4814752B2 (ja) | 表示制御装置 | |
JP2007213166A (ja) | 道路区間線検出装置及び方法並びにプログラム | |
JP2006178667A (ja) | 車両用映像補正装置及び車両用映像補正方法 | |
JP4512044B2 (ja) | 道路区間線検出装置 | |
JP2006236022A (ja) | 画像処理装置 | |
US11249561B2 (en) | Calculation method of correlation search window ignoring some pixel data and navigation device using the same | |
JP2009140289A (ja) | 画像処理装置 | |
WO2021084892A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び画像処理システム | |
JP2011148497A (ja) | 車両周辺画像生成装置および画像切替方法 | |
JP2010002985A (ja) | 動きベクトル算出装置、障害物検出装置および動きベクトル算出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061219 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091228 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100105 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100127 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130205 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140205 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |