JP6543935B2 - 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム - Google Patents

Description

本発明は、視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラムに関する。

近年、自動車間の距離、または自動車と障害物との間の距離を測定することにより自動車の衝突防止を図る車載システムが一般的に利用されてきている。そのような距離を測定する方法として、ステレオカメラを用い、三角測量の原理を用いたステレオマッチング処理が用いられている。ステレオマッチング処理とは、ステレオカメラの２つのカメラのうち、一方のカメラで撮像された基準画像と、他方のカメラで撮像された比較画像との間で対応する画素をマッチングすることにより視差を求め、視差からステレオカメラと、画像に含まれる物体との距離を算出する処理である。このようなステレオカメラを用いたステレオマッチング処理による物体との距離の算出により、各種認識処理、ならびに衝突防止のためのブレーキ制御および操舵制御が可能となる。

上述のようなステレオマッチング処理として、画像間の類似性を評価するために、比較する画像から領域を切り出し、その領域に対する輝度差の総和（ＳＡＤ：Ｓｕｍ ｏｆ Ａｂｓｏｌｕｔｅ Ｄｉｆｆｅｒｅｎｃｅ）、輝度差の２乗和（ＳＳＤ：Ｓｕｍ ｏｆ Ｓｑｕａｒｅｄ Ｄｉｆｆｅｒｅｎｃｅ）、および正規化相互相関（ＺＮＣＣ：Ｚｅｒｏ−ｍｅａｎ Ｎｏｒｍａｌｉｚｅｄ Ｃｒｏｓｓ−Ｃｏｒｒｅｌａｔｉｏｎ）等を求めるブロックマッチング法がある。しかし、画像におけるテクスチャが弱い部分では、画像としての特徴を抽出することが困難であり、ブロックマッチング法によっては、精度の高い視差を得ることができない場合がある。そこで、正確な視差を導出する方法として、基準画像上の基準画素に対する比較画像上の画素のコスト値だけではなく、比較画像上の画素の周囲の画素のコスト値を集約して、テクスチャが弱い物体に対する視差を導出する技術が提案されている（特許文献１参照）。

しかしながら、特許文献１に記載された技術は、比較画像上の画素の周囲の画素のコスト値を集約する際に、固定のペナルティ値を使用して、シフト量の不連続性について評価している。すなわち、距離が近い領域（視差値が大きい領域）および距離が遠い領域（視差値が小さい領域）のシフト量の不連続性を同じペナルティ値で評価することになるので、距離が近い領域から遠い領域にかけて、高精度な視差値（距離）を導出することが困難であるという問題点があった。

本発明は、上記に鑑みてなされたものであって、高精度な視差値を導出することができる視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラムを提供することを目的とする。

上述した課題を解決し、目的を達成するために、本発明は、第１撮像手段が被写体を撮像することにより得られた基準画像、および第２撮像手段が前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、前記基準画像における第１基準領域の輝度値と、前記第１基準領域に基づく前記比較画像におけるエピポーラ線上で、前記第１基準領域の位置に相当する領域から、所定のシフト量でシフトすることにより特定される、前記第１基準領域に対応する前記比較画像の対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出することにより取得する取得手段と、前記第１基準領域の周辺の第２基準領域についての前記比較画像における一致度に、前記シフト量に関連付けられ、前記シフト量が大きくなるほど大きな値となるペナルティ値を加算した値を、前記シフト量に基づいて前記候補領域の一致度に集約させて、前記各候補領域の合成された一致度を算出する合成手段と、前記比較画像における前記各候補領域の前記合成された一致度のうち第１極値に対応する前記シフト量に基づいて、前記視差値を導出する導出手段と、を備えたことを特徴とする。

本発明によれば、高精度な視差値を導出することができる。

撮像装置から物体までの距離を導き出す原理の説明図である。 （ａ）は基準画像、（ｂ）は（ａ）に対する高密度視差画像、（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。 （ａ）は基準画像における基準画素を示す概念図、（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながらコスト値を算出する際の概念図である。 シフト量毎のコスト値を示すグラフである。 合成コスト値を導き出すための概念図である。 視差値毎の合成コスト値を示すグラフである。 （ａ）は本発明の一実施形態に係る物体認識システムを搭載した自動車の側面を表す概略図、（ｂ）は自動車の正面を示す概略図である。 物体認識システムの概観図である。 物体認識システムの全体のハードウェア構成図である。 図１０は、本実施形態に係る視差値導出装置のブロック構成の一例を示す図である。 図１１は、選定した距離に対応する理想の視差値に基づいて、最適なペナルティ値を求めることを説明する図である。 図１２は、最適なペナルティ値を用いて求めたシフト量と合成コスト量との関係を示すグラフである。 図１３は、パラボラフィッティングによるサブピクセル推定を説明する図である。 図１４は、最小二乗法によるサブピクセル推定を説明する図である。 図１５は、サブピクセル推定を用いた高密度視差画像を示す概念図である。 図１６は、本実施形態に係る視差値導出装置のステレオマッチング処理の動作フローの一例を示す図である。 図１７は、本実施形態に係る機器制御システムを車両に搭載した例を示す図である。 図１８は、選定した距離に対応する理想の視差値に基づいて、シフト量と最適なペナルティ値との関係を示すグラフを求めることを説明する図である。

以下、図面を用いて、本発明の一実施形態について説明する。

［ＳＧＭ法を用いた測距方法の概略］
まず、図１乃至図６を用いて、ＳＧＭ（Ｓｅｍｉ−Ｇｌｏｂａｌ Ｍａｔｃｈｉｎｇ）法を用いた測距方法の概略について説明する。なお、ＳＧＭ法に関しては、非特許文献（Ａｃｃｕｒａｔｅ ａｎｄ Ｅｆｆｉｃｉｅｎｔ Ｓｔｅｒｅｏ Ｐｒｏｃｅｓｓｉｎｇ ｂｙ Ｓｅｍｉ−Ｇｌｏｂａｌ Ｍａｔｃｈｉｎｇ ａｎｄ Ｍｕｔｕａｌ Ｉｎｆｏｒｍａｔｉｏｎ）に開示されているため、以下では概略を説明する。

（測距の原理）
図１を用いて、ステレオ画像法により、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、ステレオカメラから物体までの距離を測定する原理について説明する。なお、図１は、撮像装置から物体までの距離を導き出す原理の説明図である。また、以下では、説明を簡略化するため、複数の画素からなる所定領域ではなく、一画素単位で説明する。なお、一画素単位ではなく、複数の画素からなる所定領域単位で処理される場合、基準画素を含む所定領域は基準領域として示され、対応画素を含む所定領域は対応領域として示される。また、この基準領域には基準画素のみの場合も含まれ、対応領域には対応画素のみの場合も含まれる。

＜視差値算出＞
まず、図１で示される撮像装置１０ａおよび撮像装置１０ｂによって撮像された各画像を、それぞれ基準画像Ｉａおよび比較画像Ｉｂとする。なお、図１では、撮像装置１０ａおよび撮像装置１０ｂが平行等位に設置されているものとする。図１において、３次元空間内の物体Ｅ上の点Ｓは、撮像装置１０ａおよび撮像装置１０ｂの同一水平線上の位置に写像される。すなわち、各画像中の点Ｓは、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）および比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）において撮像される。このとき、視差値Δは、撮像装置１０ａ上の座標における点Ｓａ（ｘ，ｙ）と撮像装置１０ｂ上の座標における点Ｓｂ（Ｘ，ｙ）とを用いて、（式１）のように表される。

Δ＝Ｘ−ｘ （式１）

ここで、図１のような場合には、基準画像Ｉａ中の点Ｓａ（ｘ，ｙ）と撮像レンズ１１ａから撮像面上におろした垂線の交点との距離をΔａにし、比較画像Ｉｂ中の点Ｓｂ（Ｘ，ｙ）と撮像レンズ１１ｂから撮像面上におろした垂線の交点との距離をΔｂにすると、視差値Δ＝Δａ＋Δｂとなる。

＜距離算出＞
また、視差値Δを用いることで、撮像装置１０ａ、１０ｂと物体Ｅとの間の距離Ｚを導き出すことができる。具体的には、距離Ｚは、撮像レンズ１１ａの焦点位置と撮像レンズ１１ｂの焦点位置とを含む面から物体Ｅ上の特定点Ｓまでの距離である。図１に示されるように、撮像レンズ１１ａおよび撮像レンズ１１ｂの焦点距離ｆ、撮像レンズ１１ａと撮像レンズ１１ｂとの間の長さである基線長Ｂ、および視差値Δを用いて、（式２）により、距離Ｚを算出することができる。

Ｚ＝（Ｂ×ｆ）／Δ （式２）

この（式２）により、視差値Δが大きいほど距離Ｚは小さく、視差値Δが小さいほど距離Ｚは大きくなる。

（ＳＧＭ法）
続いて、図２乃至図６を用いて、ＳＧＭ法を用いた測距方法について説明する。なお、図２（ａ）は基準画像、図２（ｂ）は（ａ）に対する高密度視差画像、図２（ｃ）は（ａ）に対するエッジ視差画像を示す概念図である。ここで、基準画像は、物体が輝度によって示された画像である。高密度視差画像は、ＳＧＭ法によって、基準画像から導き出された画像であり、基準画像の各座標における視差値を示した画像である。エッジ視差画像は、従来から用いられているブロックマッチング法によって導き出された画像であり、基準画像のエッジ部のような比較的テクスチャの強い部分のみの視差値を示した画像である。

ＳＧＭ法は、テクスチャが弱い物体に対しても適切に上記視差値を導き出す方法であり、図２（ａ）に示されている基準画像に基づいて、図２（ｂ）に示されている高密度視差画像を導き出す方法である。なお、ブロックマッチング法を用いた場合には、図２（ａ）に示されている基準画像に基づいて、図２（ｃ）に示されているエッジ視差画像が導き出される。図２（ｂ）および図２（ｃ）における破線の楕円内を比べると分かるように、高密度視差画像は、エッジ視差画像に比べてテクスチャが弱い道路等の詳細な情報を表すことができるため、より詳細な測距を行うことができる。

このＳＧＭ法は、非類似度であるコスト値を算出して直ちに視差値を導出せず、コスト値を算出後、さらに、合成非類似度である合成コスト値（Ｓｙｎｔｈｅｓｉｓ Ｃｏｓｔ）を算出することで視差値を導出し、最終的にほぼ全ての画素における視差値を示す視差画像（ここでは、高密度視差画像）を導き出す方法である。なお、ブロックマッチング法の場合は、コスト値を算出する点はＳＧＭ法と同じであるが、ＳＧＭ法のように、合成コスト値を算出せずに、エッジ部のような比較的テクスチャの強い部分の視差値のみを導出する。

＜コスト値の算出＞
まず、図３および図４を用いて、コスト値Ｃ（ｐ，ｄ）の算出方法について説明する。図３（ａ）は基準画像における基準画素を示す概念図、図３（ｂ）は（ａ）の基準画素に対して比較画像における対応画素の候補を順次シフトしながら（ずらしながら）コスト値を算出する際の概念図である。図４は、シフト量毎のコスト値を示すグラフである。ここで、対応画素は、基準画像内の基準画素に最も類似する比較画像内の画素である。なお、以降、Ｃ（ｐ，ｄ）は、Ｃ（ｘ，ｙ，ｄ）を表すものとして説明する。

図３（ａ）に示されているように、基準画像内の所定の基準画素ｐ（ｘ，ｙ）と、この基準画素ｐ（ｘ，ｙ）に対する比較画像内におけるエピポーラ線（Ｅｐｉｐｏｌａｒ Ｌｉｎｅ）ＥＬ上の複数の対応画素の候補ｑ（ｘ＋ｄ，ｙ）との各輝度値に基づいて、基準画素ｐ（ｘ，ｙ）に対する各対応画素の候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）が算出される。ｄは、基準画素ｐと対応画素の候補ｑのシフト量（ずれ量）であり、本実施形態では、画素単位のシフト量が表されている。すなわち、図３では、対応画素の候補ｑ（ｘ＋ｄ，ｙ）を予め指定された範囲（例えば、０＜ｄ＜２５）において順次一画素分シフトしながら、対応画素の候補ｑ（ｘ＋ｄ，ｙ）と基準画素ｐ（ｘ，ｙ）との輝度値の非類似度であるコスト値Ｃ（ｐ，ｄ）が算出される。コスト値Ｃの算出方法としては、コスト値Ｃが非類似度を示す場合、ＳＡＤ（Ｓｕｍ ｏｆ Ａｂｓｏｌｕｔｅ Ｄｉｆｆｅｒｅｎｃｅ）等の公知の方法が適用される。

このようにして算出されたコスト値Ｃ（ｐ，ｄ）は、図４に示されているように、シフト量ｄ毎のコスト値Ｃの集まりであるコスト曲線のグラフによって表すことができる。図４では、コスト値Ｃは、シフト量ｄ＝５，１２，１９の場合が０（ゼロ）となるため、最小値を求めることができない。このように、テクスチャが弱い物体の場合には、コスト値Ｃの最小値を求めることは困難になる。

＜合成コスト値の算出＞
次に、図５および図６を用いて、合成コスト値Ｌｓ（ｐ，ｄ）の算出方法について説明する。図５は、合成コスト値を導き出すための概念図である。図６は、視差値毎の合成コスト値を示す合成コスト曲線のグラフである。

本実施形態における合成コスト値の算出方法は、コスト値Ｃ（ｐ，ｄ）の算出だけでなく、所定の基準画素ｐ（ｘ，ｙ）の周辺の画素を基準画素とした場合のコスト値を、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃ（ｐ，ｄ）に集約させて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。

次に、合成コスト値の算出方法について、より詳細に説明する。合成コスト値Ｌｓ（ｐ，ｄ）を算出するためには、まず、経路コスト値Ｌｒ（ｐ，ｄ）を算出する必要がある。（式３）は、経路コスト値Ｌｒ（ｐ，ｄ）を算出するための式であり、（式４）は、合成コスト値Ｌｓを算出するための式である。

Ｌｒ（ｐ，ｄ）＝Ｃ（ｐ，ｄ）＋ｍｉｎ｛（Ｌｒ（ｐ−ｒ，ｄ），Ｌｒ（ｐ−ｒ，ｄ−１）＋Ｐ１，Ｌｒ（ｐ−ｒ，ｄ＋１）＋Ｐ１，Ｌｒｍｉｎ（ｐ−ｒ）＋Ｐ２｝ （式３）

ここで、（式３）において、ｒは、集約方向の方向ベクトルを示し、ｘ方向およびｙ方向の２成分を有する。ｍｉｎ｛｝は、最小値を求める関数である。Ｌｒｍｉｎ（ｐ−ｒ）は、ｐをｒ方向に１画素シフトした座標において、シフト量ｄを変化させた際のＬｒ（ｐ−ｒ，ｄ）の最小値を示す。

なお、経路コスト値Ｌｒは、（式３）に示されているように再帰的に適用される。また、Ｐ１およびＰ２は、予め実験により定められた固定パラメータであり、経路上で隣接する基準画素の視差値Δが連続になりやすいようなパラメータになっている。例えば、Ｐ１＝４８、Ｐ２＝９６である。

また、（式３）に示されているように、経路コスト値Ｌｒ（ｐ，ｄ）は、基準画素ｐ（ｘ，ｙ）におけるコスト値Ｃに、図５に示されているｒ方向の各画素における各画素の経路コスト値Ｌｒの最小値を加算することで求められる。このように、ｒ方向の各画素における経路コスト値Ｌｒを求めるため、最初は、基準画素ｐ（ｘ，ｙ）のｒ方向の一番端の画素から経路コスト値Ｌｒが求められ、ｒ方向に沿って経路コスト値Ｌｒが求められる。そして、図５に示されているように、８方向のＬｒ_０、Ｌｒ_４５、Ｌｒ_９０、Ｌｒ_１３５、Ｌｒ_１８０、Ｌｒ_２２５、Ｌｒ_２７０、Ｌｒ_３１５が求められ、最終的に（式４）に基づいて、合成コスト値Ｌｓが求められる。

このようにして算出された合成コスト値Ｌｓ（ｐ，ｄ）は、図６に示されているように、シフト量ｄ毎に合成コスト値Ｌｓ（ｐ，ｄ）が示される合成コスト曲線のグラフによって表すことができる。図６では、合成コスト値Ｌｓは、シフト量ｄ＝３の場合が最小値となるため、視差値Δ＝３として算出される。なお、上記説明ではｒの数を８として説明しているが、これに限られることはない。例えば、８方向を更に２つに分割して１６方向、３つに分割して２４方向等にしてもよい。また、コスト値Ｃは「非類似度」として示されているが、非類似度の逆数としての「類似度」として表されてもよい。この場合、コスト値Ｃの算出方法としては、ＮＣＣ（Ｎｏｒｍａｌｉｚｅｄ Ｃｒｏｓｓ Ｃｏｒｒｅｌａｔｉｏｎ）等の公知の方法が適用される。また、この場合、合成コスト値Ｌｓが最小ではなく「最大」となる視差値Δが導出される。なお、非類似度と類似度の両者を含めて、「一致度」として表してもよい。

［本実施形態の具体的な説明］
以下、図面を用いて、本実施形態の具体的な説明を行う。ここでは、自動車に搭載される物体認識システム１について説明する。なお、物体認識システム１は、車両の一例としての自動車だけでなく、車両の他の例として、バイク、自転車、車椅子、農業用の耕運機等に搭載されることができてもよい。また、移動体の一例としての車両だけでなく、移動体の他の例として、ロボット等に搭載されることができてもよい。さらに、ロボットは、移動体だけでなく、ＦＡ（Ｆａｃｔｏｒｙ Ａｕｔｏｍａｔｉｏｎ）において固定設置される工業用ロボット等の装置であってもよい。また、固定設置される装置としては、ロボットだけでなく、防犯用の監視カメラであってもよい。

（実施形態の構成）
まず、図７乃至図９を用いて、本実施形態の全体構成について説明する。

＜外観構成＞
図７および図８を用いて、本実施形態の物体認識システム１の外観構成を説明する。なお、図７（ａ）は本発明の一実施形態に係る物体認識システムを搭載した自動車の側面を表す概略図、図７（ｂ）は自動車の正面を示す概略図である。図８は、物体認識システムの概観図である。

図７（ａ）、（ｂ）に示されているように、本実施形態の物体認識システム１は、撮像装置１０ａ（第１撮像手段）および撮像装置１０ｂ（第２撮像手段）を備えており、撮像装置１０ａおよび撮像装置１０ｂは、自動車の進行方向前方の光景を撮像することができるように設置（第１の撮像位置、第２の撮像位置）される。また、図８に示されているように、物体認識システム１は、本体部２と、本体部２に対して設けられた一対の円筒状の撮像装置１０ａおよび撮像装置１０ｂとによって構成されている。

＜全体のハードウェア構成＞
次に、図９を用いて、物体認識システム１の全体のハードウェア構成について説明する。なお、図９は、物体認識システムの全体のハードウェア構成図である。

図９に示されているように、物体認識システム１は、本体部２において、視差値導出装置３および物体認識装置５を備えている。

このうち、視差値導出装置３は、物体Ｅを撮像して得られた複数の画像から、物体Ｅに対する視差を示す視差値Δを導出し、各画素における視差値Δを示す高密度視差画像を出力する。物体認識装置５は、視差値導出装置３から出力された高密度視差画像に基づいて、撮像装置１０ａ、１０ｂから物体Ｅまでの距離を測定する等の処理を行なう。

ここで、まずは、視差値導出装置３のハードウェア構成について説明する。図９に示されているように、視差値導出装置３は、撮像装置１０ａ、撮像装置１０ｂ、信号変換装置２０ａ、信号変換装置２０ｂ、および画像処理装置３０を備えている。

撮像装置１０ａは、前方の光景を撮像して画像を表すアナログ信号を生成するものであり、撮像レンズ１１ａ、絞り１２ａ、および画像センサ１３ａを備えている。

撮像レンズ１１ａは、撮像レンズ１１ａを通過する光を屈折させて物体の像を結像させるための光学素子である。絞り１２ａは、撮像レンズ１１ａを通過した光の一部を遮ることによって、後述する画像センサ１３ａに入力される光の量を調整する。画像センサ１３ａは、撮像レンズ１１ａおよび絞り１２ａから入力された光を電気的なアナログの画像信号に変換する半導体の素子であり、ＣＣＤ（Ｃｈａｒｇｅ Ｃｏｕｐｌｅｄ Ｄｅｖｉｃｅｓ）やＣＭＯＳ（Ｃｏｍｐｌｅｍｅｎｔａｒｙ Ｍｅｔａｌ Ｏｘｉｄｅ Ｓｅｍｉｃｏｎｄｕｃｔｏｒ）等によって実現される。

なお、撮像装置１０ｂは、撮像装置１０ａと同じ構成を備えているため、撮像装置１０ｂについての説明は省略する。また、撮像レンズ１１ａおよび撮像レンズ１１ｂは、それぞれのレンズ面が互いに同一平面内になるように設置されている。

また、信号変換装置２０ａは、撮像された画像を表すアナログ信号をデジタル形式の画像データに変換するものであり、ＣＤＳ（Ｃｏｒｒｅｌａｔｅｄ Ｄｏｕｂｌｅ Ｓａｍｐｌｉｎｇ）２１ａ、ＡＧＣ（Ａｕｔｏ Ｇａｉｎ Ｃｏｎｔｒｏｌ）２２ａ、ＡＤＣ（Ａｎａｌｏｇ Ｄｉｇｉｔａｌ Ｃｏｎｖｅｒｔｅｒ）２３ａ、およびフレームメモリ２４ａを備えている。

ＣＤＳ２１ａは、画像センサ１３ａによって変換されたアナログの画像信号から相関二重サンプリングによってノイズを除去する。ＡＧＣ２２ａは、ＣＤＳ２１ａによってノイズが除去されたアナログの画像信号の強度を制御する利得制御を行う。ＡＤＣ２３ａは、ＡＧＣ２２ａによって利得制御されたアナログの画像信号をデジタル形式の画像データに変換する。フレームメモリ２４ａは、ＡＤＣ２３ａによって変換された画像データを記憶する。

同様に、信号変換装置２０ｂは、撮像装置１０ｂによって変換されたアナログの画像信号から画像データを取得するものであり、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、およびフレームメモリ２４ｂを備えている。

なお、ＣＤＳ２１ｂ、ＡＧＣ２２ｂ、ＡＤＣ２３ｂ、およびフレームメモリ２４ｂは、それぞれＣＤＳ２１ａ、ＡＧＣ２２ａ、ＡＤＣ２３ａ、およびフレームメモリ２４ａと同じ構成であるため、それらについての説明は省略する。

さらに、画像処理装置３０は、信号変換装置２０ａおよび信号変換装置２０ｂによって変換された画像データを処理するための装置である。この画像処理装置３０は、ＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）３１、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）３２、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）３３、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）３４、Ｉ／Ｆ（Ｉｎｔｅｒｆａｃｅ）３５および上記各構成要素３１〜３５を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン３９を備えている。

このうち、ＦＰＧＡ３１は、集積回路であり、ここでは、ＣＰＵ３２の命令に従って、画像データが表す画像における視差値Δを算出する処理を行う。ＣＰＵ３２は、視差値導出装置３の各機能を制御する。ＲＯＭ３３は、ＣＰＵ３２が視差値導出装置３の各機能を制御するために実行される画像処理用プログラムを記憶している。ＲＡＭ３４はＣＰＵ３２のワークエリアとして使用される。Ｉ／Ｆ３５は、物体認識装置５における後述Ｉ／Ｆ５５とアドレスバスやデータバス等のバスライン４を介して通信するためのインターフェースである。

続いて、物体認識装置５のハードウェア構成について説明する。図９に示されているように、物体認識装置５は、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、Ｉ／Ｆ５５、ＣＡＮ（Ｃｏｎｔｒｏｌｌｅｒ Ａｒｅａ Ｎｅｔｗｏｒｋ） Ｉ／Ｆ５８および上記各構成要素５１〜５５、５８を図９に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン５９を備えている。

このうち、ＦＰＧＡ５１、ＣＰＵ５２、ＲＯＭ５３、ＲＡＭ５４、Ｉ／Ｆ５５、およびバスライン５９は、それぞれ画像処理装置３０におけるＦＰＧＡ３１、ＣＰＵ３２、ＲＯＭ３３、ＲＡＭ３４、Ｉ／Ｆ３５、およびバスライン３９と同様の構成であるため、説明を省略する。なお、Ｉ／Ｆ５５は、画像処理装置３０におけるＩ／Ｆ３５とバスライン４を介して通信するためのインターフェースである。また、ＲＯＭ５３は、ＣＰＵ５２が物体認識装置５の各機能を制御するために実行される物体認識用プログラムを記憶している。ＣＡＮ Ｉ／Ｆ５８は、外部コントローラ等と通信するためのインターフェースであり、例えば、自動車のＣＡＮ等に接続されることができる。

このような構成により、画像処理装置３０のＩ／Ｆ３５からバスライン４を介して物体認識装置５に高密度視差画像が送信されると、物体認識装置５におけるＣＰＵ５２の命令によって、ＦＰＧＡ５１が、撮像装置１０ａ、１０ｂと物体Ｅとの間の距離Ｚを算出する。

なお、物体認識装置５におけるＣＰＵ５２の命令によってＦＰＧＡ５１が距離Ｚを算出せずに、画像処理装置３０のＣＰＵ３２の命令によってＦＰＧＡ３１が距離Ｚを算出してもよい。

また、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させてもよい。この記録媒体は、ＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ Ｄｉｓｃ Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）やＳＤメモリカード（Ｓｅｃｕｒｅ Ｄｉｇｉｔａｌ ｍｅｍｏｒｙ ｃａｒｄ）等である。

＜視差値導出装置のブロック構成および各ブロックの動作＞
図１０は、本実施形態に係る視差値導出装置のブロック構成の一例を示す図である。図１１は、選定した距離に対応する理想の視差値に基づいて、最適なペナルティ値を求めることを説明する図である。図１２は、最適なペナルティ値を用いて求めたシフト量と合成コスト量との関係を示すグラフである。図１３は、パラボラフィッティングによるサブピクセル推定を説明する図である。図１４は、最小二乗法によるサブピクセル推定を説明する図である。図１５は、サブピクセル推定を用いた高密度視差画像を示す概念図である。図１０乃至図１５を参照しながら、視差値導出装置３の要部のブロック構成および各ブロックの動作について説明する。なお、説明の便宜上、上述の図８に示す撮像装置１０ａを「右」のカメラと称し、撮像装置１０ｂを「左」のカメラと称するものとする。

図１０に示すように、視差値導出装置３は、画像取得部１１０と、フィルタ部２１０と、コスト算出部３１０（取得手段）と、コスト合成部３２０（合成手段）と、サブピクセル推定部３３０（導出手段）と、記憶部３４０（記憶手段）と、視差画像生成部３５０と、を備えている。

画像取得部１１０は、左右２台のカメラにより前方の被写体を撮像して、それぞれアナログの画像信号を生成し、各画像信号に基づく画像である２つの輝度画像を得る処理部である。画像取得部１１０は、図９に示す撮像装置１０ａおよび撮像装置１０ｂによって実現される。

フィルタ部２１０は、画像取得部１１０により得られた２つの輝度画像の画像信号に対して、ノイズを除去し、デジタル形式の画像データに変換して出力する。ここで、フィルタ部２１０が出力する２つの輝度画像の画像データ（以下、単に「輝度画像」と称する）のうち、画像取得部１１０の右のカメラ（撮像装置１０ａ）により撮像された輝度画像を基準画像Ｉａの画像データ（以下、単に「基準画像Ｉａ」という）とし、左のカメラ（撮像装置１０ｂ）により撮像された輝度画像を比較画像Ｉｂの画像データ（以下、単に「比較画像Ｉｂ」という）とする。すなわち、フィルタ部２１０は、画像取得部１１０から出力された２つの輝度画像に基づいて、基準画像Ｉａおよび比較画像Ｉｂを出力する。フィルタ部２１０は、図９に示す信号変換装置２０ａ、２０ｂによって実現される。

記憶部３４０は、図１１に示すように、コスト合成部３２０が経路コスト値Ｌｒ（ｐ，ｄ）を算出する場合に用いる、シフト量ｄとペナルティ値Ｐとを関連付けたルックアップテーブルであるペナルティ値テーブルＰＴを記憶している。記憶部３４０は、図９に示すＲＯＭ３３またはＲＡＭ３４によって実現される。

コスト算出部３１０は、基準画像Ｉａにおける基準画素ｐ（ｘ，ｙ）の輝度値、および、基準画素ｐ（ｘ，ｙ）に基づく比較画像Ｉｂにおけるエピポーラ線上で、基準画素ｐ（ｘ，ｙ）の位置に相当する画素から、所定のずれ量であるシフト量ｄでシフトすることにより特定される、対応画素の候補である候補ｑ（ｘ＋ｄ，ｙ）（候補領域）の各輝度値に基づいて、各候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）を算出することにより取得する。すなわち、各候補ｑ（ｘ＋ｄ，ｙ）は、基準画素ｐ（ｘ，ｙ）の位置に応じた位置から所定のずれ量だけずれている画素である。

ここで、コスト値とは、基準画像Ｉａにおける基準画素ｐに対する、比較画像Ｉｂにおける各画素の非類似度を表す評価値である。すなわち、以下に示すコスト値（および合成コスト値）は、値が小さいほど、比較画像における画素が基準画素と類似していることを示す。

コスト算出部３１０は、図９に示すＦＰＧＡ３１によって実現される。コスト算出部３１０が算出するコスト値Ｃとしては、例えば、ＳＡＤ（Ｓｕｍ ｏｆ Ａｂｓｏｌｕｔｅ Ｄｉｆｆｅｒｅｎｃｅ）、またはＳＳＤ（Ｓｕｍ ｏｆ Ｓｑｕａｒｅｄ Ｄｉｆｆｅｒｅｎｃｅ）等を用いることができる。そして、シフト量ｄと、コスト算出部３１０により算出されたコスト値Ｃとの関係を示すグラフの例が、上述した図４に示すグラフである。図４に示すグラフにおいては、シフト量ｄ＝５、１２、１９において、コスト値Ｃの最小値として近似した値となっているため、コスト値Ｃの最小値を求めることによって、基準画像Ｉａにおける基準画素に対応する比較画像Ｉｂにおける対応画素を求めることは困難である。特に、画像におけるテクスチャが弱い部分がある場合には、このようにコスト値Ｃの最小値を求めることは困難である。

コスト合成部３２０は、基準画像Ｉａにおける基準画素ｐ（ｘ，ｙ）（第１基準領域）の周辺の画素を基準画素（第２基準領域）とした場合のその基準画素についての比較画像Ｉｂにおける画素のコスト値Ｃを、コスト算出部３１０により算出された候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）に集約させて、候補ｑ（ｘ＋ｄ，ｙ）の合成コスト値Ｌｓ（ｐ，ｄ）を算出する。コスト合成部３２０は、図９に示すＦＰＧＡ３１によって実現される。

コスト合成部３２０は、合成コスト値Ｌｓ（ｐ，ｄ）を算出するために、まず、下記の（式５）によって、所定のｒ方向の経路コスト値Ｌｒ（ｐ，ｄ）を算出する。経路コスト値Ｌｒ（ｐ，ｄ）は、（式５）に示すように基準画像Ｉａにおける基準画素ｐ（ｘ，ｙ）のｒ方向で隣接する画素を基準画素とした場合のその基準画素についての比較画像Ｉｂにおけるコスト値Ｃを、コスト算出部３１０により算出された候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）に集約させて算出される値である。

Ｌｒ（ｐ，ｄ）＝Ｃ（ｐ，ｄ）＋ｍｉｎ（Ｌｒ（ｐ−ｒ，ｋ）＋Ｐ（ｄ，ｋ））
（式５）
（ただし、Ｐ（ｄ，ｋ）＝Ｐａ（ｄ）（ｄ＝ｋの場合）、
Ｐ（ｄ，ｋ）＝Ｐｂ（ｄ）（ｄ≠ｋの場合））

（式５）のｋは変数であり、（式５）は、（式３）の値Ｐ１、Ｐ２をシフト量ｄに応じて変化させたものである。

コスト合成部３２０は、記憶部３４０に記憶されたペナルティ値テーブルＰＴを参照し、（式５）に示すように、シフト量ｄに関連付けられた最適または好適なペナルティ値Ｐ（ｄ，ｋ）（以下、単に「最適なペナルティ値Ｐ」と簡略に表現する）を用いて、経路コスト値Ｌｒ（ｐ，ｄ）を算出する。すなわち、コスト値Ｃ（ｐ，ｄ）には、ｋを変数とするＬｒ（ｐ−ｒ，ｋ）のいずれかが、ずれ量としてのシフト量ｄに応じたペナルティ値Ｐで補正されたうえで合成される。なお、ペナルティ値Ｐａ（ｄ）およびＰｂ（ｄ）のいずれかは０であってもよい。図１１（ｂ）に示すペナルティ値テーブルＰＴのように、ペナルティ値Ｐは、シフト量ｄが大きくなるほど大きな値となるように関連付けられている。上述の（式３）では、経路コスト値Ｌｒを算出するために、固定の値Ｐ１、Ｐ２（ペナルティ値）を用いて算出しており、距離が近い領域（視差値が大きい領域）および距離が遠い領域（視差値が小さい領域）のように、シフト量ｄの変化により距離の変化が異なる領域においても、同じペナルティ値で評価することになる。このような方法では、距離が近い領域から遠い領域にかけて、高精度な視差値（距離）を導出することが困難であることがわかってきている。そこで、本実施形態では、経路コスト値Ｌｒを算出するために、シフト量ｄに応じた最適または好適なペナルティ値を導出して用いるものとしている。図１１（ｂ）のペナルティ値テーブルＰＴが示すように、シフト量ｄに基づいて、最適なペナルティ値Ｐを導出する方法については、後述する。

コスト合成部３２０は、図５に示したように、８方向（ｒ_０、ｒ_４５、ｒ_９０、ｒ_１３５、ｒ_１８０、ｒ_２２５、ｒ_２７０およびｒ_３１５）の経路コスト値ＬｒであるＬｒ_０、Ｌｒ_４５、Ｌｒ_９０、Ｌｒ_１３５、Ｌｒ_１８０、Ｌｒ_２２５、Ｌｒ_２７０およびＬｒ_３１５を算出し、最終的に上述の（式４）に基づいて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。そして、シフト量ｄと、コスト合成部３２０により算出された合成コスト値Ｌｓとの関係を示すグラフが、図１２に示すグラフである。図１２に示すように、合成コスト値Ｌｓは、シフト量ｄ＝３のとき最小値となる。なお、上述の説明においては、ｒ方向の数を８個として説明しているが、これに限定されるものではない。例えば、８方向をさらに２つに分割して１６方向、または、３つに分割して２４方向等にしてもよい。あるいは、８方向のうちのいずれかの経路コスト値Ｌｒを求め、合成コスト値Ｌｓを算出するものとしてもよい。

サブピクセル推定部３３０は、コスト合成部３２０により算出された、基準画像Ｉａにおける基準画素についての比較画像Ｉｂにおける画素の合成コスト値Ｌｓの最小値（第１極値）に対応するシフト量ｄ、およびそれに隣接するシフト量ｄにおける合成コスト値Ｌｓに基づいて、サブピクセル推定を実行する。サブピクセル推定部３３０は、図９に示すＦＰＧＡ３１によって実現される。図１２に示す合成コスト値Ｌｓのグラフは、画素単位のシフト量ｄに対する合成コスト値Ｌｓのグラフである。したがって、図１２に示すグラフの合成コスト値Ｌｓの最小値は、画素単位のシフト量ｄ＝３における合成コスト値Ｌｓということになる。すなわち、図１２に示すような画素単位のシフト量ｄに対する合成コスト値Ｌｓのグラフにおいては、視差値Δとして画素単位の値を導出することしかできないことになる。ここで、サブピクセル推定とは、視差値Δを画素単位の値ではなく、画素単位より小さい単位（以下、サブピクセル単位という）で視差値Δを推定して導出するものである。

まず、図１３を参照しながら、サブピクセル推定部３３０がパラボラフィッティングによるサブピクセル推定を実行する場合について説明する。サブピクセル推定部３３０は、コスト合成部３２０によって算出された合成コスト値Ｌｓのグラフ（図１２参照）において、合成コスト値Ｌｓが最小となるシフト量ｄの値を求める。図１２の例では、シフト量ｄ＝３の場合が、合成コスト値Ｌｓが最小となる。次に、サブピクセル推定部３３０は、シフト量ｄ＝３に隣接するシフト量ｄを求める。具体的には、シフト量ｄ＝２，４である。次に、サブピクセル推定部３３０は、図１２に示すシフト量ｄと合成コスト値Ｌｓとのグラフにおいて、図１３に示すように、シフト量ｄ＝２，３，４である３点を通る下に凸の２次曲線を求める。そして、サブピクセル推定部３３０は、その２次曲線の極小値（第２極値）に対応するサブピクセル単位のシフト量ｄが視差値Δであると推定する。

次に、図１４を参照しながら、サブピクセル推定部３３０が最小二乗法によるサブピクセル推定を実行する場合について説明する。サブピクセル推定部３３０は、コスト合成部３２０によって算出された合成コスト値Ｌｓのグラフ（図１２参照）において、合成コスト値Ｌｓが最小となるシフト量ｄの値を求める。図１２の例では、シフト量ｄ＝３の場合が、合成コスト値Ｌｓが最小となる。次に、サブピクセル推定部３３０は、シフト量ｄ＝３の近傍の４つのシフト量ｄを求める。具体的には、シフト量ｄ＝１，２，４，５である。次に、サブピクセル推定部３３０は、図１２に示すシフト量ｄと合成コスト値Ｌｓとのグラフにおいて、図１４に示すように、最小二乗法によってシフト量ｄ＝１，２，３，４，５である５点の近傍を通る下に凸の２次曲線を求める。そして、サブピクセル推定部３３０は、その２次曲線の極小値（第３極値）に対応するサブピクセル単位のシフト量ｄが視差値Δであると推定する。

サブピクセル推定部３３０は、図１３に示すパラボラフィッティングによるサブピクセル推定、または、図１４に示す最小二乗法によるサブピクセル推定のいずれかによって、視差値Δを推定して導出する。これによって、画素単位より小さい単位であるサブピクセル単位で視差値Δを導出することができるので、精度が高く、かつ密な視差値Δを導出することができる。

なお、サブピクセル推定は、上述のパラボラフィッティングによるもの、または、最小二乗法によるものに限定されるものではなく、その他の方法によってサブピクセル推定を行うものとしてもよい。例えば、サブピクセル推定部３３０は、図１３に示す３点を用いて、２次曲線ではなく、３点を通る等角直線を求めて視差値Δを推定する等角直線フィッティングによりサブピクセル推定を実行するものとしてもよい。

また、最小二乗法によるサブピクセル推定において、図１４に示すグラフ上の５点を用いて２次曲線を求めるものとしたが、これに限定されるものではなく、異なる数の点を用いて２次曲線を求めるものとしてもよい。

また、サブピクセル推定部３３０によるサブピクセル推定によってサブピクセル単位の視差値Δを算出することに限定されるものではなく、サブピクセル推定の実行はせずに、画素単位の視差値Δを算出するものとしてもよい。この場合、サブピクセル推定部３３０は、コスト合成部３２０により算出された、基準画像Ｉａにおける基準画素についての比較画像Ｉｂにおける画素の合成コスト値Ｌｓの最小値に対応するシフト量ｄを視差値Δとすればよい。

視差画像生成部３５０は、サブピクセル推定部３３０により導出されたサブピクセル単位の視差値Δに基づいて、基準画像Ｉａの各画素の輝度値を、その画素に対応する視差値Δで表した画像である視差画像Ｉｐ（高密度視差画像）を生成する。視差画像生成部３５０は、図９に示すＦＰＧＡ３１によって実現される。図１５のうち、図１５（ａ）は、比較画像Ｉｂの一例を示し、図１５（ｂ）は、基準画像Ｉａの一例を示し、図１５（ｃ）は、視差画像生成部３５０により生成された視差画像Ｉｐの模式図を示す。

なお、コスト算出部３１０、コスト合成部３２０、サブピクセル推定部３３０および視差画像生成部３５０は、ＦＰＧＡ３１によって実現、すなわちハードウェア回路によって実現されるものとしたが、これに限定されるものではない。すなわち、コスト算出部３１０、コスト合成部３２０、サブピクセル推定部３３０または視差画像生成部３５０の少なくともいずれかは、ソフトウェアであるプログラムがＣＰＵ３２によって実行されることにより、実現されてもよい。また、図１０に示す、画像取得部１１０、フィルタ部２１０、コスト算出部３１０、コスト合成部３２０、サブピクセル推定部３３０、記憶部３４０および視差画像生成部３５０は、機能を概念的にブロック構成したものであって、このような構成に限定されるものではない。

（最適なペナルティ値の導出方法）
次に、図１１を参照しながら、上述の（式５）に基づいて経路コスト値Ｌｒを算出する場合において、シフト量ｄに対応した最適なペナルティ値Ｐを導出する方法の例について説明する。

まず、視差値導出装置３の画像取得部１１０により撮像される画像の中に、視差値導出装置３から所定の距離の位置に、テスト用の被写体（以下、被検体という）を設置する。被検体を設置する視差値導出装置３からの距離として、例えば、図１１（ａ）に示すように、距離Ｚ＝５，１０，１５，・・・，５５，６０を選定する。このとき、上述の（式２）におけるＢ×ｆの値は、視差値導出装置３によって定まる固定の値であり、ここでは、例えば、Ｂ×ｆ＝１２０とする。このように、距離ＺおよびＢ×ｆの値が定まると、（式２）によって、図１１（ａ）に示すように、視差値導出装置３によって導出されるべき被検体の理想の視差値ｄｐｉが定まる。

ここで、（式５）におけるシフト量ｄに対して上述の理想の視差値ｄｐｉを当てはめ、視差値ｄｐｉが当てはめられた各シフト量ｄに対応する所定のペナルティ値Ｐの組み合わせを適宜決定する。具体的には、例えば、図１１（ｂ）に示すように、シフト量ｄの所定範囲ごとにペナルティ値Ｐの値を対応させるようにする。このように決定したシフト量ｄに対応するペナルティ値Ｐを用いて、コスト合成部３２０に、（式５）によって経路コスト値Ｌｒを算出させ、（式４）によって合成コスト値Ｌｓを算出させる。そして、コスト合成部３２０より算出された合成コスト値Ｌｓに基づいて、サブピクセル推定部３３０に視差値Δを導出させる。

次に、視差値導出装置３により導出された各被検体に対応する視差値Δと、各被検体の理想の視差値ｄｐｉとを比較し、上述のように適宜決定したペナルティ値Ｐの組み合わせについて、以下の評価値を算出する。

（１）各被検体に対応する視差値Δと理想の視差値ｄｐｉとの誤差によって算出される平均二乗誤差
（２）複数の被検体に対応する視差値Δと理想の視差値ｄｐｉとの各誤差についての標準偏差
（３）導出した各被検体に対応する視差値Δのうちの無効視差の数（例えば、図１２に示す合成コスト値Ｌｓのグラフにおいて最小値を求めることができず無効視差となった場合、合成コスト値Ｌｓのグラフにおいて最小値が一定値以上であり信頼がおけないため無効視差となった場合）

上述のように適宜決定したペナルティ値Ｐの組み合わせのうち、上述の（１）〜（３）の評価値が最小となる組み合わせを選び出し、シフト量ｄに対応した最適なペナルティ値Ｐの組み合わせとして導出する。このようにして導出された最適なペナルティ値Ｐは、シフト量ｄが大きくなるほど大きな値となる。導出したペナルティ値Ｐは、図１１（ｂ）に示すように、シフト量ｄの所定範囲ごとにペナルティ値Ｐの値を対応させたペナルティ値テーブルＰＴ（ルックアップテーブル）として構成させる。そして、導出したペナルティ値テーブルＰＴを、記憶部３４０に予め記憶させておく。

なお、図１１（ｂ）の最適なペナルティ値Ｐの組み合わせを示すペナルティ値テーブルＰＴは、一例であり、図１１（ｂ）に示す値のペナルティ値Ｐに限定されるものではない。また、最適なペナルティ値Ｐを導出するための評価値として上述の（１）〜（３）に示す評価値を用いたが、これに限定されるものではなく、その他の評価値を用いて、最適なペナルティ値Ｐを導出するものとしてもよい。

（視差値導出装置の画像処理動作）
図１６は、本実施形態に係る視差値導出装置のステレオマッチング処理の動作フローの一例を示す図である。図１６を参照しながら、視差値導出装置３のステレオマッチング処理（ＳＧＭ法）に基づく画像処理の動作の流れについて説明する。

＜ステップＳ１−１＞
視差値導出装置３の画像取得部１１０は、左のカメラ（撮像装置１０ｂ）により前方の被写体を撮像して、それぞれアナログの画像信号を生成し、その画像信号に基づく画像である輝度画像を得る。そして、ステップＳ２−１へ進む。

＜ステップＳ１−２＞
視差値導出装置３の画像取得部１１０は、右のカメラ（撮像装置１０ａ）により前方の被写体を撮像して、それぞれアナログの画像信号を生成し、その画像信号に基づく画像である輝度画像を得る。そして、ステップＳ２−２へ進む。

＜ステップＳ２−１＞
視差値導出装置３のフィルタ部２１０は、撮像装置１０ｂにより撮像されて得られたアナログの画像信号に対して、ノイズを除去し、デジタル形式の画像データに変換する。そして、ステップＳ３−１へ進む。

＜ステップＳ２−２＞
視差値導出装置３のフィルタ部２１０は、撮像装置１０ａにより撮像されて得られたアナログの画像信号に対して、ノイズを除去し、デジタル形式の画像データに変換する。そして、ステップＳ３−２へ進む。

＜ステップＳ３−１＞
フィルタ部２１０は、ステップＳ２−１において変換したデジタル形式の画像データに基づく画像をステレオマッチング処理における比較画像Ｉｂとして出力する。そして、ステップＳ４へ進む。

＜ステップＳ３−２＞
フィルタ部２１０は、ステップＳ２−２において変換したデジタル形式の画像データに基づく画像をステレオマッチング処理における基準画像Ｉａとして出力する。そして、ステップＳ４へ進む。

＜ステップＳ４＞
視差値導出装置３のコスト算出部３１０は、基準画像Ｉａにおける基準画素ｐ（ｘ，ｙ）の輝度値、および、基準画素ｐ（ｘ，ｙ）に基づく比較画像Ｉｂにおけるエピポーラ線上で、基準画素ｐ（ｘ，ｙ）の位置に相当する画素から、所定のずれ量であるシフト量ｄでシフトすることにより特定される、対応画素の候補である候補ｑ（ｘ＋ｄ，ｙ）の各輝度値に基づいて、各候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）を算出することにより取得する。そして、ステップＳ５へ進む。

＜ステップＳ５＞
視差値導出装置３のコスト合成部３２０は、基準画像Ｉａにおける基準画素ｐ（ｘ，ｙ）の周辺の画素を基準画素とした場合のその基準画素についての比較画像Ｉｂにおける画素のコスト値Ｃを、コスト算出部３１０により算出された候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）に集約させて、候補ｑ（ｘ＋ｄ，ｙ）の合成コスト値Ｌｓ（ｐ，ｄ）を算出する。

この場合、コスト合成部３２０は、まず、上述の（式５）によって、基準画像Ｉａにおける基準画素ｐ（ｘ，ｙ）のｒ方向で隣接する画素を基準画素とした場合のその基準画素についての比較画像Ｉｂにおけるコスト値Ｃを、コスト算出部３１０により算出された候補ｑ（ｘ＋ｄ，ｙ）のコスト値Ｃ（ｐ，ｄ）に集約させて算出される経路コスト値Ｌｒ（ｐ，ｄ）を算出する。ここで、コスト合成部３２０は、記憶部３４０に記憶されたペナルティ値テーブルＰＴを参照し、シフト量ｄに関連付けられた最適なペナルティ値Ｐを用いて、経路コスト値Ｌｒ（ｐ，ｄ）を算出する。コスト合成部３２０は、図５に示したように、８方向（ｒ_０、ｒ_４５、ｒ_９０、ｒ_１３５、ｒ_１８０、ｒ_２２５、ｒ_２７０およびｒ_３１５）の経路コスト値ＬｒであるＬｒ_０、Ｌｒ_４５、Ｌｒ_９０、Ｌｒ_１３５、Ｌｒ_１８０、Ｌｒ_２２５、Ｌｒ_２７０およびＬｒ_３１５を算出し、最終的に上述の（式４）に基づいて、合成コスト値Ｌｓ（ｐ，ｄ）を算出する。そして、ステップＳ６へ進む。

＜ステップＳ６＞
視差値導出装置３のサブピクセル推定部３３０は、コスト合成部３２０により算出された、基準画像Ｉａにおける基準画素についての比較画像Ｉｂにおける画素の合成コスト値Ｌｓの最小値に対応するシフト量ｄに隣接するシフト量ｄにおける合成コスト値Ｌｓに基づいて、サブピクセル推定を実行する。サブピクセル推定部３３０は、サブピクセル推定によって求めた近似曲線（図１３および図１４においては下に凸の２次曲線）の極小値に対応するサブピクセル単位のシフト量ｄが視差値Δであると推定する。そして、ステップＳ７へ進む。

＜ステップＳ７＞
視差値導出装置３の視差画像生成部３５０は、サブピクセル推定部３３０により導出されたサブピクセル単位の視差値Δに基づいて、基準画像Ｉａの各画素の輝度値を、その画素に対応する視差値Δで表した画像である視差画像Ｉｐ（高密度視差画像）を生成する。

その後、図９に示されているＩ／Ｆ３５を介して、視差画像Ｉｐの画像データが出力され、物体認識装置５によって、撮像装置１０ａ、１０ｂから物体までの距離が算出される。

（車両に機器制御システムを搭載した場合の例）
図１７は、本実施形態に係る機器制御システムを車両に搭載した例を示す図である。以下、図１７を参照しながら、車両１００に機器制御システム６０を搭載した場合の例を説明する。

図１７に示す構成では、自動車である車両１００は、機器制御システム６０を備えている。機器制御システム６０は、居室空間である車室において設置された視差値導出装置３と、制御装置６と、ステアリングホイール７と、ブレーキペダル８と、を備えている。

視差値導出装置３は、車両１００の進行方向を撮像する撮像機能を有し、例えば、車両１００のフロントウィンドウの内側のバックミラー近傍に設置される。視差値導出装置３は、本体部２と、本体部２に固定された撮像装置１０ａと、撮像装置１０ｂとを備えている。撮像装置１０ａ、１０ｂは、車両１００の進行方向の被写体を撮像できるように本体部２に固定されている。

制御装置６は、上述の物体認識システム１における物体認識装置５の代わりに視差値導出装置３に接続された装置であり、視差値導出装置３から受信した視差画像の画像データに基づいて求まる視差値導出装置３から被写体までの距離情報により、各種車両制御を実行する。制御装置６は、車両制御の例として、視差値導出装置３から受信した視差画像の画像データに基づいて、ステアリングホイール７を含むステアリング系統（制御対象）を制御して障害物を回避するステアリング制御、または、ブレーキペダル８（制御対象）を制御して車両１００を減速および停止させるブレーキ制御等を実行する。

このような視差値導出装置３および制御装置６を含む機器制御システム６０のように、ステアリング制御またはブレーキ制御等の車両制御が実行されることによって、車両１００の運転の安全性を向上することができる。

なお、上述のように、視差値導出装置３は、車両１００の前方を撮像するものとしたが、これに限定されるものではない。すなわち、視差値導出装置３は、車両１００の後方または側方を撮像するように設置されるものとしてもよい。この場合、視差値導出装置３は、車両１００の後方の後続車、または側方を並進する他の車両等の位置を検出することができる。そして、制御装置６は、車両１００の車線変更時または車線合流時等における危険を検知して、上述の車両制御を実行することができる。また、制御装置６は、車両１００の駐車時等におけるバック動作において、視差値導出装置３によって検出された車両１００の後方の障害物の視差画像に基づいて、衝突の危険があると判断した場合に、上述の車両制御を実行することができる。

（本実施形態の主な効果）
以上のように、本実施形態に係る視差値導出装置３において、コスト合成部３２０は、被検体に対する理想の視差値ｄｐｉと、実際に導出した視差値Δとによって導出される、シフト量ｄと関連付けられた最適なペナルティ値Ｐを用いて、経路コスト値Ｌｒおよび合成コスト値Ｌｓを算出するものとしている。これによって、距離が近い領域から遠い領域にかけて、高精度な視差値（距離）を導出することができる。

また、視差値導出装置３において、サブピクセル推定部３３０は、画素より小さい単位であるサブピクセル単位で視差値Δを導出することができるので、精度が高く、かつ密な視差値Δを導出することができ、より正確な視差画像を得ることができる。

（変形例）
図１８は、選定した距離に対応する理想の視差値に基づいて、シフト量と最適なペナルティ値との関係を示すグラフを求めることを説明する図である。図１８を参照しながら、本実施形態の変形例に係る視差値導出装置３において、特に、シフト量ｄと関連付けられた最適なペナルティ値Ｐについて説明する。本変形例に係る視差値導出装置３の構成は、図９および図１０に示す構成と同様である。

上述の図１１においては、シフト量ｄの所定範囲ごとに最適なペナルティ値Ｐの値を対応させたペナルティ値テーブルＰＴを作成する例について説明した。ただし、本変形例では、図１８（ａ）に示すように、理想の視差値ｄｐｉが当てはめられたシフト量ｄと、各ペナルティ値Ｐに対応する最適なペナルティ値Ｐとの組み合わせにより、図１８（ｂ）に示すように、シフト量ｄおよびペナルティ値Ｐの座標上にプロットする。そして、座標上にプロットされた点に基づき、図１８（ｂ）に示すように、最小二乗法によってシフト量ｄとペナルティ値Ｐとの関係を示す近似曲線を導出する。そして、導出した近似曲線の情報を、記憶部３４０に予め記憶させておく。

コスト合成部３２０は、記憶部３４０に記憶されたシフト量ｄとペナルティ値Ｐとの関係を示す近似曲線の情報を参照し、（式５）におけるシフト量ｄに対応するペナルティ値Ｐを求めて、経路コスト値Ｌｒを算出する。本変形例に係る視差値導出装置３のその他の動作は、上述の実施形態に係る視差値導出装置３の動作と同様である。

以上のような、本変形例に係る視差値導出装置３においても、上述の効果と同様の効果を得ることができる。

なお、一致度としてのコスト値Ｃを、類似度を表す評価値とした場合、合成コスト値Ｌｓがサブピクセル単位で最大となるシフト量ｄが視差値Δとなる。

また、上述の実施形態およびその変形例では、物体認識装置５が視差画像（視差値）に基づき、距離Ｚを算出しているが、これに限定されるものではなく、視差値導出装置３の画像処理装置３０のＣＰＵ３２が距離Ｚを算出するものとしてもよい。

１ 物体認識システム
２ 本体部
３ 視差値導出装置
４ バスライン
５ 物体認識装置
６ 制御装置
７ ステアリングホイール
８ ブレーキペダル
１０ａ、１０ｂ 撮像装置
１１ａ、１１ｂ 撮像レンズ
１２ａ、１２ｂ 絞り
１３ａ、１３ｂ 画像センサ
２０ａ、２０ｂ 信号変換装置
２１ａ、２１ｂ ＣＤＳ
２２ａ、２２ｂ ＡＧＣ
２３ａ、２３ｂ ＡＤＣ
２４ａ、２４ｂ フレームメモリ
３０ 画像処理装置
３１ ＦＰＧＡ
３２ ＣＰＵ
３３ ＲＯＭ
３４ ＲＡＭ
３５ Ｉ／Ｆ
３９ バスライン
５１ ＦＰＧＡ
５２ ＣＰＵ
５３ ＲＯＭ
５４ ＲＡＭ
５５ Ｉ／Ｆ
５８ ＣＡＮ Ｉ／Ｆ
５９ バスライン
６０ 機器制御システム
１００ 車両
１１０ 画像取得部
２１０ フィルタ部
３１０ コスト算出部
３２０ コスト合成部
３３０ サブピクセル推定部
３４０ 記憶部
３５０ 視差画像生成部
Ｂ 基線長
Ｃ コスト値
ｄ シフト量
ｄｐｉ 視差値
Ｅ 物体
ＥＬ エピポーラ線
ｆ 焦点距離
Ｉａ 基準画像
Ｉｂ 比較画像
Ｉｐ 視差画像
Ｌｒ 経路コスト値
Ｌｓ 合成コスト値
Ｐ ペナルティ値
Ｐ１、Ｐ２ 値
Ｐａ、Ｐｂ ペナルティ値
ＰＴ ペナルティ値テーブル
Ｓ、Ｓａ、Ｓｂ 点
Ｚ 距離
Δ 視差値

特開２０１２−１８１１４２号公報

Claims (11)

1. 第１撮像手段が被写体を撮像することにより得られた基準画像、および第２撮像手段が前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、
   前記基準画像における第１基準領域の輝度値と、前記第１基準領域に基づく前記比較画像におけるエピポーラ線上で、前記第１基準領域の位置に相当する領域から、所定のシフト量でシフトすることにより特定される、前記第１基準領域に対応する前記比較画像の対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出することにより取得する取得手段と、
   前記第１基準領域の周辺の第２基準領域についての前記比較画像における一致度に、前記シフト量に関連付けられ、前記シフト量が大きくなるほど大きな値となるペナルティ値を加算した値を、前記シフト量に基づいて前記候補領域の一致度に集約させて、前記各候補領域の合成された一致度を算出する合成手段と、
   前記比較画像における前記各候補領域の前記合成された一致度のうち第１極値に対応する前記シフト量に基づいて、前記視差値を導出する導出手段と、
   を備えた視差値導出装置。
2. 第１撮像手段が被写体を撮像することにより得られた基準画像、および第２撮像手段が前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、
   前記基準画像における第１基準領域の輝度値と、前記第１基準領域に基づく前記比較画像におけるエピポーラ線上で、前記第１基準領域の位置に相当する領域から、所定のシフト量でシフトすることにより特定される、前記第１基準領域に対応する前記比較画像の対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出することにより取得する取得手段と、
   前記第１基準領域の周辺の第２基準領域についての前記比較画像における一致度に前記シフト量に関連付けられたペナルティ値を加算した値を、前記シフト量に基づいて前記候補領域の一致度に集約させて、前記各候補領域の合成された一致度を算出する合成手段と、
   前記比較画像における前記各候補領域の前記合成された一致度のうち第１極値に対応する前記シフト量に基づいて、前記視差値を導出する導出手段と、
   前記シフト量と前記ペナルティ値を関連付けるルックアップテーブルを記憶した記憶手段と、
   を備え、
   前記合成手段は、前記ルックアップテーブルを参照して得られる、前記シフト量に関連付けられた前記ペナルティ値を用いて、前記合成された一致度を算出する視差値導出装置。
3. 第１撮像手段が被写体を撮像することにより得られた基準画像、および第２撮像手段が前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、
   前記基準画像における第１基準領域の輝度値と、前記第１基準領域に基づく前記比較画像におけるエピポーラ線上で、前記第１基準領域の位置に相当する領域から、所定のシフト量でシフトすることにより特定される、前記第１基準領域に対応する前記比較画像の対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出することにより取得する取得手段と、
   前記第１基準領域の周辺の第２基準領域についての前記比較画像における一致度に前記シフト量に関連付けられたペナルティ値を加算した値を、前記シフト量に基づいて前記候補領域の一致度に集約させて、前記各候補領域の合成された一致度を算出する合成手段と、
   前記比較画像における前記各候補領域の前記合成された一致度のうち第１極値に対応する前記シフト量に基づいて、前記視差値を導出する導出手段と、
   前記シフト量と、該シフト量に関連付けられた前記ペナルティ値との複数の組み合わせで定まる座標上の点に基づいて最小二乗法により定まる近似曲線の情報を記憶した記憶手段と、
   を備え、
   前記合成手段は、前記近似曲線の情報を参照して得られる、前記シフト量に関連付けられた前記ペナルティ値を用いて、前記合成された一致度を算出する視差値導出装置。
4. 前記導出手段は、前記第１極値に対応する前記シフト量を含む隣接した複数の前記シフト量に基づいて、サブピクセル推定により前記視差値を導出する請求項１〜３のいずれか一項に記載の視差値導出装置。
5. 前記導出手段は、前記第１極値に対応する前記シフト量、および該シフト量に隣接する２つのシフト量と、前記シフト量に対応する前記合成された一致度とで定まる座標上の３点を通る２次曲線における第２極値に対応するサブピクセル単位のシフト量を前記視差値として導出する請求項４に記載の視差値導出装置。
6. 第１撮像手段が被写体を撮像することにより得られた基準画像、および第２撮像手段が前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出装置であって、
   前記基準画像における第１基準領域の輝度値と、前記第１基準領域に基づく前記比較画像におけるエピポーラ線上で、前記第１基準領域の位置に相当する領域から、所定のシフト量でシフトすることにより特定される、前記第１基準領域に対応する前記比較画像の対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出することにより取得する取得手段と、
   前記第１基準領域の周辺の第２基準領域についての前記比較画像における一致度に前記シフト量に関連付けられたペナルティ値を加算した値を、前記シフト量に基づいて前記候補領域の一致度に集約させて、前記各候補領域の合成された一致度を算出する合成手段と、
   前記比較画像における前記各候補領域の前記合成された一致度のうち第１極値に対応する前記シフト量に基づいて、前記視差値を導出する導出手段と、
   を備え、
   前記導出手段は、サブピクセル推定に基づき、前記第１極値に対応する前記シフト量を含む隣接した４つ以上のシフト量と、前記シフト量に対応する前記合成された一致度とで定まる座標上の４つ以上の点に対して、最小二乗法により定まる２次曲線における第３極値に対応するサブピクセル単位のシフト量を前記視差値として導出する視差値導出装置。
7. 請求項１〜６のいずれか一項に記載の視差値導出装置と、
   前記視差値導出装置によって導出される前記視差値により求まる前記視差値導出装置から被写体までの距離情報によって、制御対象を制御する制御装置と、
   を備えた機器制御システム。
8. 請求項１〜６のいずれか一項に記載の視差値導出装置を備えた移動体。
9. 請求項１〜６のいずれか一項に記載の視差値導出装置を備えたロボット。
10. 第１撮像手段が被写体を撮像することにより得られた基準画像、および第２撮像手段が前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出する視差値導出方法であって、
    前記基準画像における第１基準領域の輝度値と、前記第１基準領域に基づく前記比較画像におけるエピポーラ線上で、前記第１基準領域の位置に相当する領域から、所定のシフト量でシフトすることにより特定される、前記第１基準領域に対応する前記比較画像の対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出することにより取得する取得ステップと、
    前記第１基準領域の周辺の第２基準領域についての前記比較画像における一致度に、前記シフト量に関連付けられ、前記シフト量が大きくなるほど大きな値となるペナルティ値を加算した値を、前記シフト量に基づいて前記候補領域の一致度に集約させて、前記各候補領域の合成された一致度を算出する合成ステップと、
    前記比較画像における前記各候補領域の前記合成された一致度のうち第１極値に対応する前記シフト量に基づいて、前記視差値を導出する導出ステップと、
    を有する視差値導出方法。
11. 第１撮像手段が被写体を撮像することにより得られた基準画像、および第２撮像手段が前記被写体を撮像することにより得られた比較画像に基づいて、前記被写体に対する視差を示す視差値を導出するためのプログラムであって、
    前記基準画像における第１基準領域の輝度値と、前記第１基準領域に基づく前記比較画像におけるエピポーラ線上で、前記第１基準領域の位置に相当する領域から、所定のシフト量でシフトすることにより特定される、前記第１基準領域に対応する前記比較画像の対応領域の候補となる複数の候補領域の輝度値と、に基づいて前記複数の候補領域それぞれの一致度を算出することにより取得する取得手段と、
    前記第１基準領域の周辺の第２基準領域についての前記比較画像における一致度に、前記シフト量に関連付けられ、前記シフト量が大きくなるほど大きな値となるペナルティ値を加算した値を、前記シフト量に基づいて前記候補領域の一致度に集約させて、前記各候補領域の合成された一致度を算出する合成手段と、
    前記比較画像における前記各候補領域の前記合成された一致度のうち第１極値に対応する前記シフト量に基づいて、前記視差値を導出する導出手段と、
    をコンピュータに実現させるためのプログラム。