JP2009129318A - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JP2009129318A JP2009129318A JP2007305617A JP2007305617A JP2009129318A JP 2009129318 A JP2009129318 A JP 2009129318A JP 2007305617 A JP2007305617 A JP 2007305617A JP 2007305617 A JP2007305617 A JP 2007305617A JP 2009129318 A JP2009129318 A JP 2009129318A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- image
- sub
- region
- object region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Image Processing (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】ステレオ処理におけるサブピクセル演算に際して、演算量の低減を図る。
【解決手段】ステレオマッチング部2は、一方の画像におけるそれぞれの部分領域を相関元とし、個々の部分領域の相関先を他方の画像において探索し、相関元に対する相関先のずれ量を画素の整数倍で表されるピクセル値として算出する。物体領域特定部4は、画像平面上において物体が存在する物体領域を動的に特定する。サブピクセル処理部3は、物体領域特定部4によって特定された物体領域と位置的に対応した部分領域に限定して、ピクセル値よりも分解能が高いサブピクセル値を算出する。
【選択図】図1
【解決手段】ステレオマッチング部2は、一方の画像におけるそれぞれの部分領域を相関元とし、個々の部分領域の相関先を他方の画像において探索し、相関元に対する相関先のずれ量を画素の整数倍で表されるピクセル値として算出する。物体領域特定部4は、画像平面上において物体が存在する物体領域を動的に特定する。サブピクセル処理部3は、物体領域特定部4によって特定された物体領域と位置的に対応した部分領域に限定して、ピクセル値よりも分解能が高いサブピクセル値を算出する。
【選択図】図1
Description
本発明は、一対の画像を用いたステレオマッチングを領域毎に行う画像処理装置に係り、特に、相関元に対する相関先のずれ量のサブピクセル演算に関する。
従来より、一対の画像を用いたステレオマッチングを領域毎に行うステレオ処理において、互いに相関を有する領域のずれ量をサブピクセルレベルで算出する手法が知られている。例えば、特許文献1には、ピクセルレベルの視差を与える仮の対応点、その直前の隣接点、その直後の隣接点の3点による直線近似によって、サブピクセル成分を算出する手法が開示されている。また、特許文献1以外にも特許文献2〜5といった手法も知られている。周知のように、ステレオ処理でサブピクセル演算を行えば、実空間上における物体の位置をより高い分解能で特定できる。したがって、ステレオカメラを用いたプレビューセンサ等の測距精度の向上を図ることができる。
しかしながら、上述した特許文献1〜5では、ステレオ処理でのサブピクセル演算を画像全体に亘って行っているので、演算量が増大するという不都合があった。
そこで、本発明の目的は、ステレオ処理におけるサブピクセル演算に際して、演算量の低減を図ることである。
かかる課題を解決するために、本発明は、ステレオマッチング部と、物体領域特定部と、サブピクセル処理部とを有し、一対の画像を用いたステレオマッチングを画像平面上に設定された部分領域毎に行う画像処理装置を提供する。ステレオマッチング部は、一方の画像におけるそれぞれの部分領域を相関元とし、個々の部分領域の相関先を他方の画像において探索する。そして、ステレオマッチング部は、相関元に対する相関先のずれ量を画素の整数倍で表されるピクセル値として算出する。物体領域特定部は、画像平面上において物体が存在する物体領域を動的に特定する。サブピクセル処理部は、物体領域特定部によって特定された物体領域と位置的に対応した部分領域に限定して、ピクセル値よりも分解能が高いサブピクセル値を算出する。
ここで、本発明において、物体領域特定部は、ステレオマッチング部によって算出されたピクセル値の集合によって規定される二次元平面上において、同一物体と見なせるほどに値が近接し、かつ、位置的に隣接したピクセル値同士をグループ化することによって、物体領域を特定することが好ましい。また、これに代えて、画像の輝度平面上において、物体としての輝度パターンに合致する領域を物体領域として特定してもよい。
また、本発明において、サブピクセル処理部は、物体領域特定部によって特定された従前のフレームにおける物体領域に基づいて、今回のフレームにおいてサブピクセル値を算出する領域を設定することが好ましい。また、サブピクセル処理部は、物体領域が複数検出された場合、予め設定された優先順位規則に基づいて、記物体領域のそれぞれに優先順位を設定し、この設定された優先順位にしたがってサブピクセル値を算出してもよい。
本発明によれば、画像平面上において物体が存在する物体領域を動的に特定し、この領域に限定してサブピクセル演算を行う。これにより、サブピクセル演算を画像全体に亘って行う場合と比較して、サブピクセルの演算を行う領域を限定した分だけ演算量の低減を図ることができる。
(第1の実施形態)
図1は、第1の実施形態に係る画像処理装置のブロック構成図である。画像処理装置1は、ステレオマッチング部2と、サブピクセル処理部3と、物体領域特定部4とを主体に構成されている。この画像処理装置1は、例えば、ステレオカメラによって車両前方を監視するプレビューセンサの一部、具体的には、物体の認識を行う認識ユニットの前処理ユニットとして用いられる。この場合、ステレオマッチング部2に入力される一対の画像として、図示しないステレオカメラより出力されたステレオ画像、すなわち、所定のカメラ基線長を隔てて配置された一対のカメラによって同時に撮像・出力された一対の画像が用いられる。また、画像処理装置1は、車載型プレビューセンサ以外にも、ステレオカメラを用いた障害物検出装置、地形認識装置、踏切監視装置、或いは、飛行体の高度計測装置等でも適用することができる。さらに、画像処理装置1は、ステレオカメラに限定されるものではなく、例えば、物体の移動量や速度をオプティカルフローとして検出する検出ユニットの前処理ユニットとして用いることもできる。この場合、単眼カメラにて物体を所定の間隔で繰返し撮像し、あるタイミングで撮像された画像と、それとは異なるタイミングで撮像された画像とが、一対の画像としてステレオマッチング部2に入力される。
図1は、第1の実施形態に係る画像処理装置のブロック構成図である。画像処理装置1は、ステレオマッチング部2と、サブピクセル処理部3と、物体領域特定部4とを主体に構成されている。この画像処理装置1は、例えば、ステレオカメラによって車両前方を監視するプレビューセンサの一部、具体的には、物体の認識を行う認識ユニットの前処理ユニットとして用いられる。この場合、ステレオマッチング部2に入力される一対の画像として、図示しないステレオカメラより出力されたステレオ画像、すなわち、所定のカメラ基線長を隔てて配置された一対のカメラによって同時に撮像・出力された一対の画像が用いられる。また、画像処理装置1は、車載型プレビューセンサ以外にも、ステレオカメラを用いた障害物検出装置、地形認識装置、踏切監視装置、或いは、飛行体の高度計測装置等でも適用することができる。さらに、画像処理装置1は、ステレオカメラに限定されるものではなく、例えば、物体の移動量や速度をオプティカルフローとして検出する検出ユニットの前処理ユニットとして用いることもできる。この場合、単眼カメラにて物体を所定の間隔で繰返し撮像し、あるタイミングで撮像された画像と、それとは異なるタイミングで撮像された画像とが、一対の画像としてステレオマッチング部2に入力される。
以下の説明では、一対の画像のうち、一方を「基準画像」と呼び、他方を「比較画像」と呼ぶ。ステレオカメラの場合、同時に撮像された画像のうち、一例として、メインカメラの画像を基準画像とし、サブカメラの画像を比較画像とする。また、単眼カメラの場合、時系列的に異なるタイミングで撮像された画像のうち、一例として、撮像タイミングの早い方を基準画像とし、撮像タイミングの遅い方を比較画像とする。これらの画像は、所定の輝度階調(例えば、256階調のグレースケール)のデジタル画像であり、1フレームの画像は、輝度データの二次元平面的な集合として定義される。1フレームを規定する画像平面は、i−j座標系で表現され、画像の左下隅を原点として、水平方向をi軸、垂直方向をj軸とする。
ステレオマッチング部2は、図5(a)に示すように、基準画像と比較画像とを入力としたステレオマッチングを行って、ピクセル値Dを算出する。ここで、ピクセル値Dは、図5(b)に示すように、基準画像によって規定される画像平面において部分領域毎に算出され、画像平面上の位置(i,j)と対応付けられている。1つのピクセル値Dは、基準画像の一部を構成する部分領域としての画素ブロック(例えば、4×4画素)毎に算出され、画素ブロックが算出単位となる。
図2は、基準画像に設定される画素ブロックの説明図である。例えば、基準画像が200×512画素で構成されている場合、1フレームの画像中に50×128個の画素ブロックPBijが部分領域として設定される。ステレオカメラの場合、部分領域である画素ブロックPBij単位で、ピクセル値Dとしての「視差」が算出される。周知のように、視差は、その算出単位である画素ブロックPBijの水平方向のずれ量であり、画素ブロックPBij内に写し出された対象物までの距離と大きな相関がある。画素ブロックPBij内に写し出されている対象物がステレオカメラに近いほど、この画素ブロックPBijの視差Dは大きくなり、対象物が遠いほど視差Dは小さくなる(対象物が無限に遠い場合、視差Dは0になる)。
ある画素ブロックPBij(相関元)のピクセル値Dを算出する場合、この画素ブロックPBijの輝度特性と相関を有する領域(相関先)が比較画像において特定される。ステレオカメラの場合、ステレオカメラから対象物までの距離は、基準画像と比較画像との間における水平方向のずれ量として反映される。したがって、比較画像において相関先を探索する場合、比較画像の全体を探索する必要はなく、相関元となる画素ブロックPijのj座標と同じ水平線(エピポーラライン)上を探索すればよい。ステレオマッチング部2は、相関元のi座標を基準に設定された所定の探索範囲内において、エピポーラライン上を一画素ずつシフトしながら、相関元と相関先の候補との間における相関性を順次評価する(ステレオマッチング)。
2つの画素ブロックの相関性を判定する手法としては、様々なものが知られているが、ここではシティブロック距離Hを用いる。数式1は、シティブロック距離Hの基本形を示す。p1ijは一方の画素ブロックにおけるij番目の画素の輝度値であり、p2ijは他方の画素ブロックにおけるij番目の輝度値である。シティブロック距離Hは、位置的に対応した輝度値p1ij,p2ijの差(絶対値)の画素ブロック全体における総和であって、その差が小さいほど両画素ブロックの相関が大きいことを意味する。
(数式1)
H=Σ|p1ij−p2ij|
(数式1)
H=Σ|p1ij−p2ij|
基本的に、エピポーラライン上に存在する画素ブロック毎に算出されたシティブロック距離Hのうち、原則として、その値が最小となる画素ブロックが相関先と判断される。そして、このようにして特定された相関先と相関元との間のずれ量がピクセル値Dとなる。ステレオマッチングの特性上、相関元に対する相関先のずれ量を表すピクセル値Dは、画素の整数倍として表される。
以上の手法によって、ステレオマッチング部2は、1フレームの基準画像を構成するそれぞれの基準画素ブロックに関してピクセル値Dを順次算出し、それをサブピクセル処理部3に出力する。その際、図3に示すように、このピクセル値Dを与える点p1に関するシティブロック距離H1(=Hmin)、その直前において隣接した点p0のシティブロック距離H0、および、その直後において隣接した点p2のシティブロック距離H2もサブピクセル処理部3に出力される。
なお、シティブロック距離の基本形は上述した通りであるが、具体的な算出式には数々のバリエーションが存在する。例えば、通常のステレオマッチングに代えて、平均値差分マッチングを行ってもよい。平均値差分マッチングは、撮像画像の高周波成分のみをマッチング対象とし、ハイパスフィルタと等価な作用を有しているため、低周波ノイズを有効に除去できる等のメリットがある。平均値差分マッチングでは、数式2に従いシティブロック距離Hが算出される。ここで、Aaveは基準画素ブロックAの輝度平均値であり、Baveは比較画素ブロックBの輝度平均値である。すなわち、平均値差分マッチングでは、基準画素ブロックAの輝度値aijからその輝度平均値Aaveを差分した値と、比較画素ブロックBの輝度値bijからその輝度平均値Baveを差分した値との差(絶対値)の画素ブロック全体における総和として定義される。なお、平均値差分マッチング処理の詳細については、例えば、特開平11−234701号公報に開示されているので、必要ならば参照されたい。
(数式2)
H=Σ|(aij−Aave)−(bij−Bave)|
Aave=Σaij/(I×J)
Bave=Σbij/(I×J)
(数式2)
H=Σ|(aij−Aave)−(bij−Bave)|
Aave=Σaij/(I×J)
Bave=Σbij/(I×J)
また、画素ブロックA,Bの中心部の輝度値(例えば、a22,a23,a32,a33、bijについても同様)を重視する場合には、数式3のように、輝度差の絶対値に重み係数wijを乗じてシティブロック距離Hを算出してもよい(重み付けマッチング)。この場合、重み係数wijは、画素ブロックA,Bの内側に向うほど大きな値に設定する。重み付けマッチング処理の詳細については、例えば、特願2001−063290号に開示されている。
(数式3)
H=Σwij|aij−bij|
(数式3)
H=Σwij|aij−bij|
サブピクセル処理部3は、ステレオマッチング部2において生成された1画素単位の分解能を有するピクセル値Dに対してサブピクセル処理による補間を行い、1画素単位以下の分解能を有するサブピクセル値Dsを算出する。ステレオカメラの場合、三角測量の原理より、撮像画像に写し出された対象物までの距離が遠くなるにつれて、測距分解能が必然的に低下してしまうといった本質的特性が知られている。そのため、ピクセル値Dよりも高い分解能で情報が取得する必要が生じ、その一手段として、1画素以下の小数画素を有するサブピクセル値Dsが用いられる。
サブピクセル値Dsの算出手法としては様々な手法が提案されており、いずれの算出手法を用いてもよいが、ここでは2つの算出手法を例示する。
<算出手法1>I−H平面上での直線近似
特開2000−283753号公報に開示された本手法では、図3に示したように、I(ずれ量)−H(シティブロック距離)平面上の離散的な分布において、ピクセル値Dを与える仮の対応点p1、その直前の隣接点p0、その直後の隣接点p2の3点による直線近似によってサブピクセル値Dsが算出される。1画素のサイズが無限に小さいと仮定した場合、画像平面(i,j)におけるシティブロック距離Hの分布は、図4に示すように連続的になる。これをずれ量の検出方向の一次元的な分布として捉えた場合、図3の破線で示すような連続的な分布となる。この連続分布が示すように、サブピクセル値Dsを与える真の対応点psub(シティブロック距離Hの連続分布において本来の最小値をとる点)周りに左右対称になる。ただし、その対称性が論理的に保証されるのは極狭い範囲であり、対応点psubの±1画素以内、すなわち、点p0〜p2の範囲内であることが知られている。このようなシティブロック距離Hの対称性に鑑みると、直前の隣接シティブロック距離H0が直後の隣接シティブロック距離H2よりも大きい場合(図3のケース)、対応点psubは、仮の対応点p1(離散的なシティブロック距離の分布において最小シティブロック距離となる点)よりも右側(シティブロック距離が小さい点側)に位置することがわかる。
特開2000−283753号公報に開示された本手法では、図3に示したように、I(ずれ量)−H(シティブロック距離)平面上の離散的な分布において、ピクセル値Dを与える仮の対応点p1、その直前の隣接点p0、その直後の隣接点p2の3点による直線近似によってサブピクセル値Dsが算出される。1画素のサイズが無限に小さいと仮定した場合、画像平面(i,j)におけるシティブロック距離Hの分布は、図4に示すように連続的になる。これをずれ量の検出方向の一次元的な分布として捉えた場合、図3の破線で示すような連続的な分布となる。この連続分布が示すように、サブピクセル値Dsを与える真の対応点psub(シティブロック距離Hの連続分布において本来の最小値をとる点)周りに左右対称になる。ただし、その対称性が論理的に保証されるのは極狭い範囲であり、対応点psubの±1画素以内、すなわち、点p0〜p2の範囲内であることが知られている。このようなシティブロック距離Hの対称性に鑑みると、直前の隣接シティブロック距離H0が直後の隣接シティブロック距離H2よりも大きい場合(図3のケース)、対応点psubは、仮の対応点p1(離散的なシティブロック距離の分布において最小シティブロック距離となる点)よりも右側(シティブロック距離が小さい点側)に位置することがわかる。
本手法では、仮の対応点p0の右範囲is〜(is+1)内において、対応点psubとみなせる1点を特定すべく、2本の直線L1,L2が用いられる。具体的には、まず、隣接点p0,p2のうち、大きい方のシティブロック距離Hを与える隣接点p0を選択し、仮の対応点p1と選択された隣接点p0とを結ぶ直線L1(傾き=m)が設定される。つぎに、縦軸に対して直線L1と線対称(傾き=−m)で、選択されなかった方の隣接点p2を通る直線L2が設定される。そして、互いに線対称な2本の直線L1,L2の交点が算出される。この交点のI座標値が、ピクセル値Dに対するサブピクセルレベルのずれ量、すなわち、サブピクセル成分Sである。サブピクセル値Dsは、ピクセル値Dにサブピクセル成分Sを加えたものである。
<算出手法2>補間輝度によるステレオマッチング
特開2003−150939号公報に開示された本手法は、上述したシティブロック距離Hの対称性に着目する点は算出手法1と同様であるが、その具体的な算出手法が異なり、補間輝度によるステレオマッチングが用いられる。具体的には、対応点psubが仮の対応点p0の右範囲is〜(is+1)内に存在すると判断された場合、この範囲内において輝度の補間データが生成される。この補間データは、4×4画素の画素ブロック単位で、実際の画素の輝度値を例えば線形補間することによって生成される。画素のずれ量is〜i(s+1)の範囲内、すなわち、比較画素ブロックB[Is]と比較画素ブロックB[Is+1]との間を線形補間する場合には、数式4の補間式が用いられる。ここで、ここで、B(is)ij,B(is+1)ijは、それぞれ比較画素ブロックB[is],B[is+1]を構成する画素群の輝度値である。また、Lは、補間解像度(定数)であり、Iは、補間画素の位置を示すパラメータ(0≦I≦L)であり、整数値をとる。
(数式4)
bij=B(is)ij+I×(B(is+1)ij−B(is)ij)/L
特開2003−150939号公報に開示された本手法は、上述したシティブロック距離Hの対称性に着目する点は算出手法1と同様であるが、その具体的な算出手法が異なり、補間輝度によるステレオマッチングが用いられる。具体的には、対応点psubが仮の対応点p0の右範囲is〜(is+1)内に存在すると判断された場合、この範囲内において輝度の補間データが生成される。この補間データは、4×4画素の画素ブロック単位で、実際の画素の輝度値を例えば線形補間することによって生成される。画素のずれ量is〜i(s+1)の範囲内、すなわち、比較画素ブロックB[Is]と比較画素ブロックB[Is+1]との間を線形補間する場合には、数式4の補間式が用いられる。ここで、ここで、B(is)ij,B(is+1)ijは、それぞれ比較画素ブロックB[is],B[is+1]を構成する画素群の輝度値である。また、Lは、補間解像度(定数)であり、Iは、補間画素の位置を示すパラメータ(0≦I≦L)であり、整数値をとる。
(数式4)
bij=B(is)ij+I×(B(is+1)ij−B(is)ij)/L
このようにして、補間によって求めようとする架空の画素(補間画素)の位置を、補間解像度に応じて(つまり、1/L画素単位で)移動させながら、補間解像度L相当の個数分だけ仮想的な比較画素ブロックが生成される。例えば、補間解像度Lが256の場合、補間データとして、255個の比較画素ブロックが得られる。なお、比較画素ブロックB[is-1],B[is],B[is+1]は、互いに水平ライン方向に1画素ずつずらしたものであるから、比較画素ブロックB[is-1]におけるi行j列目の画素と、比較画素ブロックB[is]におけるi行j-1列目の画素と、比較画素ブロックB[i+1]におけるi行j-2列目の画素とは同一の輝度値になる(例えば、B(is-1)13=B(is)12=B(is+1)11)。
この補間データを用いて、サブピクセルレベルのステレオマッチングが行われる。すなわち、補間データを構成する比較画素ブロック毎に、基準画素ブロックとのステレオマッチングを行い、ずれ量が算出される。このステレオマッチング自体については、ピクセルレベルのステレオマッチングと同様である。算出されたずれ量は、ピクセル値D(=is)の位置を基準としたズレであり、1/L画素単位(すなわち、小数画素単位)となる。このようにして算出されたずれ量を補間解像度Lで除算することにより、サブピクセル成分Sが算出される。サブピクセル成分Sは、ピクセル値D(=is)とサブピクセル値Ds(=isub)とのオフセット値に相当する。したがって、ピクセル値Dにサブピクセル成分Sを加算すれば、1画素以下の分解能を有するサブピクセル値Dsが算出される。
このようにして算出されたサブピクセル値Dsは、後段の図示しない処理ユニットに対して出力される。処理ユニットは、必要に応じてサブピクセル値Dsを用いて、監視対象となる物体(例えば先行車等)の認識や、物体のオプティカルフローの検出等を行う
物体領域特定部4は、ステレオマッチング部2によって算出されたピクセル値Dに基づいて、画像平面上において物体が存在する物体領域を動的に特定する。具体的には、物体の特定は、画像平面上において互いに隣接した画素ブロックのグループ化によって行われる。まず、画像平面の上下左右において位置的に隣接したピクセル値Dに関して、その変化量が所定のしきい値以内のもの、換言すれば、同一物体と見なせるほどに値が近接したもの同士が順次グループ化されていく。これにより、大きな物体に関しては大きなグループが形成される(図5(c)のA,B,C)。つぎに、グループ化された画素ブロック群のサイズ(面積)が算出される。そして、グループのサイズが所定のしきい値よりも大きいか否かが判断される。サイズがしきい値よりも大きなグループ(図5(c)のグループA,C)は、そこに物体が写し出されている領域としての信頼性が高いとみなされ、物体領域として抽出される。これに対して、サイズがしきい値以下のグループ(図5(c)のB)は、その信頼性が低いとみなされ、物体領域として抽出されない。このようにして特定された物体領域A,Cに関する情報は、サブピクセル処理部3に通知される。なお、以上のような画素ブロックのグループ化の詳細については、特開平6−266828号公報や特開平10−285582号公報にグループフィルタとして開示されているので、必要ならば参照されたい。
なお、物体領域特定部4は、上述した一対の画像より算出されたピクセル値ベースでの処理に代えて、一枚の画像の輝度ベースで物体領域を特定してもよい。この場合、1フレームの画像の輝度平面上において、物体としての輝度パターンに合致する領域が物体領域として抽出される。
サブピクセル処理部3は、1フレームの画像全体に対してではなく、図5(d)に示したように、物体領域特定部4によって特定された物体領域A,Cに限定して、サプピクセル値Dsを算出する。サブピクセル値Dsの算出対象となる画素ブロックは、物体領域特定部4によって特定された物体領域A,B内に含まれる画素ブロックである。
このように、本実施形態によれば、画像平面上において物体が存在する物体領域を動的に特定し、この領域に限定してサブピクセル演算を行う。これにより、サブピクセル演算を画像全体に亘って行う場合と比較して、サブピクセルの演算を行う領域を限定した分だけ演算量の低減を図ることができる。
(第2の実施形態)
物体領域の特定と、これに基づく領域限定によるサブピクセル演算とは、1フレーム内で完結する処理であってもよいが、複数の連続したフレームに亘る処理としてもよい。前者の形態、すなわち、あるフレームで特定された物体領域を、これと同じフレームでのサブピクセル演算で用いる場合、物体領域の特定と、これに続くサブピクセル演算とを1フレームの処理期間内で完結させねばならず、時間的制約が厳しくなる。そこで、後者の形態に関する本実施形態、すなわち、あるフレームで特定された物体領域を、これよりも後のフレームでのサブピクセル演算で用いるようにすれば、このような時間的制約を緩和できる。
物体領域の特定と、これに基づく領域限定によるサブピクセル演算とは、1フレーム内で完結する処理であってもよいが、複数の連続したフレームに亘る処理としてもよい。前者の形態、すなわち、あるフレームで特定された物体領域を、これと同じフレームでのサブピクセル演算で用いる場合、物体領域の特定と、これに続くサブピクセル演算とを1フレームの処理期間内で完結させねばならず、時間的制約が厳しくなる。そこで、後者の形態に関する本実施形態、すなわち、あるフレームで特定された物体領域を、これよりも後のフレームでのサブピクセル演算で用いるようにすれば、このような時間的制約を緩和できる。
図6は、本実施形態に係るフレーム処理のタイミングチャートである。同図は、2フレーム分の処理を示しており、期間t1〜t3でn番目のフレーム(以下「nフレームという)、期間t3〜t5で(n+1)番目のフレーム(以下「(n+1)フレーム」という)がそれぞれ処理される。まず、nフレームの開始タイミングt1では、nフレームを対象としたステレオマッチングが開始される。そして、このステレオマッチングが終了したタイミングt2において、nフレームを対象にした物体領域の特定が開始されるとともに、この処理と並行して、nフレームを対象にしたサブピクセル演算も開始される。ただし、サブピクセル演算の開始時点では、nフレームに関する物体領域が特定されていないので、直前の(n−1)番目のフレーム(以下「(n−1)フレーム」という)に関して特定された物体領域が適用される。すなわち、nフレームのサブピクセル演算は、(n−1)フレームで特定された物体領域に限定して行われる。これにより、nフレームに関する物体領域の特定およびサブピクセル演算の双方を並行して行うことが可能になる。
つぎに、(n+1)フレームの開始タイミングt3では、(n+1)フレームを対象としたステレオマッチングが開始される。そして、このステレオマッチングが終了したタイミングt4において、(n+1)フレームを対象にした物体領域の特定が開始されるとともに、この処理と並行して、(n+1)フレームを対象にしたサブピクセル演算も開始される。(n+1)フレームのサブピクセル演算は、直前のnフレームで特定された物体領域に限定して行われる。これにより、(n+1)フレームに関する物体領域の特定およびサブピクセル演算の双方を並行して行うことが可能になる。
本実施形態によれば、上述した第1の実施形態と同様の効果を有するほか、物体領域の特定とサブピクセル演算とを並行して行うので、第1の実施形態と比較して、処理時間の短縮を図ることができる。
(第3の実施形態)
第2の実施形態のように、今回のフレームを対象にしたサブピクセル演算を従前のフレームで特定された物体領域を用いて行う場合、従前の物体領域をそのまま適用してもよいが、従前の経時的な推移に応じて、今回のフレームにおける物体領域の位置を推定してもよい。図7は、本実施形態に係る物体領域の推定の説明図である。同図(a)は、(n−2)フレームの画像を示し、同図(b)は、(n−1)フレームの画像を示す。この場合、同図(c)に示すように、(n−2)フレームおよび(n−1)フレームに関して、物体領域の位置(移動量)やサイズ(伸縮率)等に基づいて、物体領域の位置的な変化示す移動ベクトルMを算出する。そして、移動ベクトルMに基づいて、今回のサイクルnにおける物体領域の位置が特定される。
第2の実施形態のように、今回のフレームを対象にしたサブピクセル演算を従前のフレームで特定された物体領域を用いて行う場合、従前の物体領域をそのまま適用してもよいが、従前の経時的な推移に応じて、今回のフレームにおける物体領域の位置を推定してもよい。図7は、本実施形態に係る物体領域の推定の説明図である。同図(a)は、(n−2)フレームの画像を示し、同図(b)は、(n−1)フレームの画像を示す。この場合、同図(c)に示すように、(n−2)フレームおよび(n−1)フレームに関して、物体領域の位置(移動量)やサイズ(伸縮率)等に基づいて、物体領域の位置的な変化示す移動ベクトルMを算出する。そして、移動ベクトルMに基づいて、今回のサイクルnにおける物体領域の位置が特定される。
本実施形態によれば、第1および第2の実施形態と同様の効果を奏するほか、物体が大きく移動する場合であっても、物体領域を精度よく特定できるという効果がある。
(第4の実施形態)
例えば、図8に示すように、自車両前方に2台の先行車が存在する場合、1フレームの画像中に2つの物体領域が特定される。このような場合、処理時間の抑制と必要な情報の確保との両立を図るべく、物体領域のそれぞれに優先順位を設定し、これにしたがって、サブピクセル演算を行うことが好ましい。
例えば、図8に示すように、自車両前方に2台の先行車が存在する場合、1フレームの画像中に2つの物体領域が特定される。このような場合、処理時間の抑制と必要な情報の確保との両立を図るべく、物体領域のそれぞれに優先順位を設定し、これにしたがって、サブピクセル演算を行うことが好ましい。
優先順位の決定規則としては様々なものが考えられるが、ここでは2つの基準を例示する。
(1)自車線内の車両の有無
一般に、高速道路等での高速走行時には、自車線内で走行する先行車を優先して注意すべきである。この観点より、自車線内で検出された物体領域に関して、優先度を高めることが有効である。この場合、白線(車線)に関する情報以外に、先行車との車間距離等も考慮することが好ましい。
一般に、高速道路等での高速走行時には、自車線内で走行する先行車を優先して注意すべきである。この観点より、自車線内で検出された物体領域に関して、優先度を高めることが有効である。この場合、白線(車線)に関する情報以外に、先行車との車間距離等も考慮することが好ましい。
(2)車速情報
一般に、路地や商店街等での低速走行時には、人や車の飛び出し注意すべきである。この観点より、近距離での測距精度が重要になる。そこで、近距離の物体領域に関して、優先度を高めることが有効になる。また、狭路での右左折時や車庫入れ時等の極低速走行時には、車両周辺の至近距離の精度が求められるので、至近距離の物体領域関して、優先度を一層高めることが有効になる。
一般に、路地や商店街等での低速走行時には、人や車の飛び出し注意すべきである。この観点より、近距離での測距精度が重要になる。そこで、近距離の物体領域に関して、優先度を高めることが有効になる。また、狭路での右左折時や車庫入れ時等の極低速走行時には、車両周辺の至近距離の精度が求められるので、至近距離の物体領域関して、優先度を一層高めることが有効になる。
本実施形態によれば、上述した各実施形態の効果に加えて、物体領域に優先順位を設定することにより、処理時間の抑制と必要な情報の確保との両立を図ることができる。
1 画像処理装置
2 ステレオマッチング部
3 サブピクセル処理部
4 物体領域特定部
2 ステレオマッチング部
3 サブピクセル処理部
4 物体領域特定部
Claims (5)
- 一対の画像を用いたステレオマッチングを画像平面上に設定された部分領域毎に行う画像処理装置において、
一方の画像におけるそれぞれの前記部分領域を相関元とし、当該部分領域の相関先を他方の画像において探索し、前記相関元に対する前記相関先のずれ量を画素の整数倍で表されるピクセル値として算出するステレオマッチング部と、
画像平面上において物体が存在する物体領域を特定する物体領域特定部と、
前記物体領域特定部によって特定された前記物体領域と位置的に対応した前記部分領域に限定して、前記ピクセル値よりも分解能が高いサブピクセル値を算出するサブピクセル処理部と
を有することを特徴とする画像処理装置。 - 前記物体領域特定部は、前記ステレオマッチング部によって算出された前記ピクセル値の集合によって規定される二次元平面上において、同一物体と見なせるほどに値が近接し、かつ、位置的に隣接した前記ピクセル値同士をグループ化することによって、前記物体領域を特定することを特徴とする請求項1に記載された画像処理装置。
- 前記物体領域特定部は、画像の輝度平面上において、物体としての輝度パターンに合致する領域を前記物体領域として特定することを特徴とする請求項1に記載された画像処理装置。
- 前記サブピクセル処理部は、前記物体領域特定部によって特定された従前のフレームにおける前記物体領域に基づいて、今回のフレームにおいて前記サブピクセル値を算出する領域を設定することを特徴とする請求項1から3のいずれかに記載された画像処理装置。
- 前記サブピクセル処理部は、前記物体領域が複数検出された場合、予め設定された優先順位規則に基づいて、記物体領域のそれぞれに優先順位を設定し、当該設定された優先順位にしたがって前記サブピクセル値を算出することを特徴とする請求項1から4のいずれかに記載された画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007305617A JP2009129318A (ja) | 2007-11-27 | 2007-11-27 | 画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007305617A JP2009129318A (ja) | 2007-11-27 | 2007-11-27 | 画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009129318A true JP2009129318A (ja) | 2009-06-11 |
Family
ID=40820146
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007305617A Withdrawn JP2009129318A (ja) | 2007-11-27 | 2007-11-27 | 画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009129318A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011041990A (ja) * | 2009-08-19 | 2011-03-03 | Denso Wave Inc | ロボットの制御装置及びロボットのティーチング方法 |
JP2015056058A (ja) * | 2013-09-12 | 2015-03-23 | 株式会社デンソー | 運転支援装置 |
CN110223326A (zh) * | 2019-06-18 | 2019-09-10 | 无锡英斯特微电子有限公司 | 光电导航***中亚像素区域确定方法及其*** |
US10713806B2 (en) | 2017-09-21 | 2020-07-14 | Kabushiki Kaisha Toshiba | Image processing apparatus and image processing system |
CN111868784A (zh) * | 2018-03-22 | 2020-10-30 | 日立汽车***株式会社 | 车载立体摄像机 |
-
2007
- 2007-11-27 JP JP2007305617A patent/JP2009129318A/ja not_active Withdrawn
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011041990A (ja) * | 2009-08-19 | 2011-03-03 | Denso Wave Inc | ロボットの制御装置及びロボットのティーチング方法 |
JP2015056058A (ja) * | 2013-09-12 | 2015-03-23 | 株式会社デンソー | 運転支援装置 |
US10713806B2 (en) | 2017-09-21 | 2020-07-14 | Kabushiki Kaisha Toshiba | Image processing apparatus and image processing system |
CN111868784A (zh) * | 2018-03-22 | 2020-10-30 | 日立汽车***株式会社 | 车载立体摄像机 |
CN111868784B (zh) * | 2018-03-22 | 2023-09-01 | 日立安斯泰莫株式会社 | 车载立体摄像机 |
CN110223326A (zh) * | 2019-06-18 | 2019-09-10 | 无锡英斯特微电子有限公司 | 光电导航***中亚像素区域确定方法及其*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4832227B2 (ja) | 物体検出装置および物体検出方法 | |
JP5127182B2 (ja) | 物体検出装置 | |
JP7004314B2 (ja) | 準パラメトリックオプティカルフロー推定 | |
JP5267596B2 (ja) | 移動体検出装置 | |
JP6574611B2 (ja) | 立体画像に基づいて距離情報を求めるためのセンサシステム | |
JP5164351B2 (ja) | 物体検出装置および物体検出方法 | |
KR101551026B1 (ko) | 차량 검출 방법 | |
JP2011191905A (ja) | ステレオカメラ装置 | |
CN111209770A (zh) | 一种车道线识别方法及装置 | |
WO2008020598A1 (fr) | Dispositif et procédé de détection d'un nombre d'objets | |
JP4155780B2 (ja) | 画像処理方法 | |
JP2009129318A (ja) | 画像処理装置 | |
JP2000048211A (ja) | 移動物体追跡装置 | |
JP2023184572A (ja) | 電子機器、移動体、撮像装置、および電子機器の制御方法、プログラム、記憶媒体 | |
JP6569416B2 (ja) | 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム | |
JP2018146495A (ja) | 物体検出装置、物体検出方法、物体検出プログラム、撮像装置、及び、機器制御システム | |
JP4053282B2 (ja) | 画像処理装置および画像処理方法 | |
CN114612999A (zh) | 一种目标行为分类方法、存储介质及终端 | |
JP6836350B2 (ja) | 移動速度演算装置 | |
JP2004144644A (ja) | 地形認識装置、地形認識方法および移動体の移動量検出方法 | |
JP4817901B2 (ja) | 相関評価システムおよび相関評価方法 | |
JP4555635B2 (ja) | 画像処理装置および画像処理方法 | |
JP5996411B2 (ja) | 画像処理装置 | |
JP2004219142A (ja) | 画像処理装置および画像処理方法 | |
JP4762463B2 (ja) | 画像処理装置および画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20110201 |