JP4608978B2 - 画像処理方法および画像処理装置 - Google Patents
画像処理方法および画像処理装置 Download PDFInfo
- Publication number
- JP4608978B2 JP4608978B2 JP2004209586A JP2004209586A JP4608978B2 JP 4608978 B2 JP4608978 B2 JP 4608978B2 JP 2004209586 A JP2004209586 A JP 2004209586A JP 2004209586 A JP2004209586 A JP 2004209586A JP 4608978 B2 JP4608978 B2 JP 4608978B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- parallax
- window
- pixel
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
このような画像処理装置は、上記視差データを利用して、例えば、撮像対象の3次元画像を生成したり、複数の異なる角度から撮像対象を撮像した場合の画像データを生成する。
ところで、上述した画像処理装置では、高精度な画像データを生成するために、高精度な視差データを生成することが重要である。
従来の画像処理装置では、例えば、左カメラの画像内の画素データについて、当該画素データを所定の単数の位置に含むウィンドウデータ内の画素データの累積画素値データを算出し、当該累積画素値データとの差分が最小となる累積画素値データを持つウィンドウデータを右カメラの画像内で探索し、当該探索したウィンドウデータの位置を基に視差データを生成する。
先ず、本実施形態の画像処理装置の構成要素と、本発明の構成要素との対応関係を説明する。
本実施形態の第1のウィンドウデータが本発明の第1のウィンドウデータに対応し、本実施形態の第2のウィンドウデータが本発明の第2のウィンドウデータに対応している。
また、本実施形態のウィンドウサイズが、本発明のブロックサイズに対応している。
また、本実施形態のコストデータが本発明の指標データに対応している。
また、撮像画像データP_Lが本発明の第1の画像に対応し、撮像画像データP_Rが本発明の第2の画像に対応している。
また、図1に示す画素有効性判定部10_1が行なう処理が、本発明の第4の工程に対応している。
また、図1に示すマッチング有効性判定部16_1が行なう処理が、本発明の第5の工程に対応している。
また、図1に示すウィンドウコスト算出部18がウィンドウマッチング部14_1に対して行なう処理が本発明の第7の工程に対応している。
また、図1に示すウィンドウマッチング部14_2が行なう処理が、本発明の第8の工程に対応している。
また、図1に示す視差データ生成部20が行なう処理が本発明の第9の工程に対応している。
図1に示すように、画像処理装置1は、例えば、カメラL_C,カメラR_C、画素有効性判定部10_1、ペナルティ決定部12_1,ウィンドウマッチング部14_1、マッチング有効性判定部16_1、ウィンドウコスト算出部18および視差データ生成部20を有する。
図2は、カメラR_C,カメラL_Cと撮像対象TARGETとの位置関係を説明するための図である。
図2に示すように、カメラR_C,カメラL_Cは、撮像対象TAGETに対応して対向して配設される。
画像処理装置1は、例えば、パーソナルコンピュータなどに組み込まれる。この場合に、カメラR_CおよびカメラL_Cは、例えば、ユーザの顔の位置の左右両側に配設され、ユーザの顔を撮像対象TARGETとする。
カメラR_Cは、受光面8_Rの結像結果に応じた撮像画像データP_Rを画素有効性判定部10_1およびウィンドウコスト算出部18に出力する。
カメラL_Cは、受光面8_Lの結像結果に応じた撮像画像データP_Lを画素有効性判定部10_2およびウィンドウコスト算出部18に出力する。
カメラR_Cの受光面8_Rの結像結果に応じた撮像画像データP_Rと、カメラL_Cの受光面8_Lの結像結果に応じた撮像画像データP_Lとの間にはエピポーラ拘束が成り立つ。すなわち、撮像画像データP_R内の各点には、それに対応したエピポ−ラ線が1本定まり、そのエピポ−ラ線と対応して撮像画像データP_L内に1本のエピポ−ラ線が定まる。
本実施形態では、撮像画像データP_R,P_Lを構成する画素データは、濃淡情報(輝度値)のみを示している。
画素有効性判定部10_1は、カメラL_Cから入力した撮像画像データP_L内の処理対象のスキャンライン(エピポ−ラ線に平行のライン)上の画素データについて、当該画素データを含む所定のサイズのウィンドウデータ内の画素データの標準偏差データを生成する。
当該所定のサイズのウィンドウデータとしては、例えば、後述する9x9のウィンドウサイズのものを用いる。
そして、画素有効性判定部10_1は、上記標準偏差データが基準値より大きい上記画素データを有効と判定し、それ以外の画素データを無効と判定する。
そして、画素有効性判定部10_1は、撮像画像データP_L内の上記有効と判定した画素データS10_1をペナルティ決定部12_1に出力する。
これは、後段のウィンドウマッチング部14_1において、テクスチャレベルが低い(Low Textureの)画素データを含む領域については、ウィンドウマッチングを正確に行えないため、このような画素データをマッチング対象から外すためである。
画像処理装置1では、画素有効性判定部10_1において、有効と判断された画素データについてのみ、ウィンドウマッチング部14_1、マッチング有効性判定部16_1および視差データ生成部20による処理対象とする。
ペナルティ決定部12_1は、例えば、視差データ生成部20において処理対象の画素データの1つ前に処理された画素データの視差データと、ウィンドウマッチング部14_1において処理に用いられる視差データとが一致するか否かを判断し、一致しない場合に、当該画素データに対応した所定のペナルティ値を示すペナルティデータを生成する。
また、ウィンドウマッチング部14_1は、撮像画像データP_L内の処理対象の画素データが、エッジに対応したものである場合には、エッジ以外の部分に対応したものである場合に比べて、上記ペナルティ値を小さくする。
例えば、ウィンドウマッチング部14_1は、処理対象の画素データがエッジに対応していない場合に、処理対象の画素データがエッジに対応している場合に比べて2倍のペナルティ値を示すペナルティデータを生成する。
ペナルティ決定部12_1は、処理対象の画素データと1つ前の処理対象の画素データとの値の差分が基準値を越えている場合に、当該処理対象の画素データがエッジに対応したものであると判断する。
ペナルティ決定部12_1は、上述したペナルティデータS12_1をウィンドウマッチング部14_1に出力する。
また、視差データ生成部20において最終的に無効であると判断された画素データの一つ前に処理される画素データについては、視差データを付加する場合に所定の制限を加えてもよい。
このようにすることで、処理対象の画素データについてのマッチング処理がエラーの場合に、その影響がその周囲の画素データに及ぶことを抑制できる。
ウィンドウマッチング部14_1は、撮像画像データP_L内の処理対象の画素データを相互に異なる位置に含む複数の第1のウィンドウデータの各々について、当該第1のウィンドウデータと、指定された視差に対応した撮像画像データP_R内の第2のウィンドウデータとの間の差分に応じたコストデータをウィンドウコスト算出部18に生成させる。
ウィンドウマッチング部14_1は、異なる複数のウィンドウサイズWSの各々について、ウィンドウコスト算出部18に上述したコストデータを生成させる。
本実施形態では、ウィンドウサイズとして、例えば、図3(A),図3(B),図3(C)に示すの3x3,5x5,9x9の3種類を規定している。
例えば、ウィンドウサイズ5x5については、図4に示すように、処理対象の画素データを相互に異なる位置に含む9個の第1のウィンドウデータWD1〜WD9を規定している。
これは、第1のウィンドウデータWD内にエッジ部分を含む場合、すなわち、第1のウィンドウデータWD内の画素データが不均一であると、コストデータの信頼性が低下するため、その影響を無くすためである。
この場合に、処理対象の画素データTP1について図4に示す第1のウィンドウデータWD1を選択すると、当該第1のウィンドウデータWD1内にエッジEDGEが含まれ、そのコストデータの信頼性は低い。一方、処理対象の画素データTP1について図4に示す第1のウィンドウデータWD2を選択すると、当該第1のウィンドウデータWD2内にエッジEDGEが含まれないため、そのコストデータの信頼性は高い。
また、処理対象の画素データTP2について図4に示す第1のウィンドウデータWD1を選択すると、当該第1のウィンドウデータWD1内にエッジEDGEが含まれ、そのコストデータの信頼性は低い。一方、処理対象の画素データTP2について図4に示す第1のウィンドウデータWD7を選択すると、当該第1のウィンドウデータWD2内にエッジEDGEが含まれないため、そのコストデータの信頼性は高い。
また、ウィンドウマッチング部14_1は、上記特定した第1のウィンドウデータWDに対応した撮像画像データP_R内の第2のウィンドウデータWDを、複数の視差データのうち指定された視差データを基に特定する。
そして、ウィンドウマッチング部14_1は、上記特定した第1のウィンドウデータWDと、上記特定した第2のウィンドウデータWDとの間の差分に応じたコストデータをウィンドウコスト算出部18に生成させる。
ここで、ウィンドウマッチング部14_1がブロックサイズ3x3について特定した最小のコストデータに対応した視差データを「d3」とし、ブロックサイズ5x5について特定した最小のコストデータに対応した視差データを「d5」とし、ブロックサイズ9x9について特定した最小のコストデータに対応した視差データを「d9」とする。
ウィンドウマッチング部14_1は、視差データd3,d5,d9をマッチング有効性判定部16_1に出力する。
図6は、図1に示すウィンドウマッチング部14_1の処理を説明するためのフローチャートである。
ステップST1:
ウィンドウマッチング部14_1は、視差データdとして初期値「1」を設定する。
ステップST2:
ウィンドウマッチング部14_1は、ウィンドウサイズWSとして、3x3を選択する。
ウィンドウマッチング部14_1は、撮像画像データP_L内の処理対象の画素データを相互に異なる位置に含む複数の第1のウィンドウデータの各々について、当該第1のウィンドウデータと、視差データdに対応した撮像画像データP_R内の第2のウィンドウデータとの間の差分に応じたコストデータをウィンドウコスト算出部18に生成させる。 そして、ウィンドウマッチング部14_1は、上記複数の第1のウィンドウデータについて生成したコストデータのうち最小のコストデータMA_COSTを特定する。
ステップST4:
ウィンドウマッチング部14_1は、当該処理対象の画素データの指定された視差データdに対応して生成されたペナルティデータS12_1を、ステップST3で生成した最小のコストデーMA_COSTに加算する。
ウィンドウマッチング部14_1は、ステップST4で生成した最小のコストデータMA_COSTが、最小コストデータMINより小さいか否かを判断し、小さいと判断するとステップST6に進み、そうでないと判断するとステップST7に進む。
ステップST6:
ウィンドウマッチング部14_1は、ステップST4で生成した最小のコストデータMA_COSTで、最小コストデータMINを更新する。
また、ウィンドウマッチング部14_1は、ステップST4で生成した最小のコストデータMA_COSTに対応した視差データdを記憶する。
ウィンドウマッチング部14_1は、3x3,5x5,9x9の全てのウィンドウサイズWSを選択したか否かを判断し、選択したと判断するとステップST9に進み、選択してないと判断するとステップST8に進む。
ステップST8:
ウィンドウマッチング部14_1は、未選択のウィンドウサイズWSを選択して、ステップST3の処理に戻る。
ステップST9:
ウィンドウマッチング部14_1は、予め決められた範囲RANGEの視差データについて処理を行ったか否かを判断し、行なったと判断するとステップST11に進み、そうでない場合にはステップST10に進む。
ウィンドウマッチング部14_1は、視差データdを「1」だけインクリメントしてステップST2の処理に戻る。
ステップST11:
ウィンドウマッチング部14_1は、ステップST6でウィンドウサイズ3x3,5x5,9x9の各々について最終的に記憶した視差データdを、それぞれ視差データd3,d5,d9としてマッチング有効性判定部16_1に出力する。
マッチング有効性判定部16_1は、ウィンドウマッチング部14_1から入力した視差データd3,d5,d9を基に、これらの視差データd3,d5,d9の有効性(信頼性)を判断する。
マッチング有効性判定部16_1は、小さいウィンドウサイズが低いテクスチャ画像についてのマッチングの信頼性が低く、大きいウィンドウサイズが高いテクスチャ画像についてのマッチングの信頼性が低いという特定に基づいて上記有効性を判断する。
ステップST21:
マッチング有効性判定部16_1は、|d3−d5|と|d9−d5|を演算し、双方がしきい値Thrより小さくない場合にステップST22に進み、小さい場合に視差デーd3,d5,d9は有効であると判断する。
ステップST22:
マッチング有効性判定部16_1は、|d3−d5|と|d9−d5|との何れか一方がしきい値Thrより小さくい場合にステップST23に進み、そうでない場合に視差デーd3,d5,d9は無効(信頼性が低い)と判断する。
マッチング有効性判定部16_1は、当該処理対象の画素データより1つ前に処理された画素データに視差データ生成部20において視差データが割り当てられたか否かを判断し、割り当てられたと判断すると視差データd3,d5,d9は有効(信頼性が高い)と判断し、そうでない場合にステップST24に進む。
ステップST24:
マッチング有効性判定部16_1は、|d1−d3|を演算し、その結果が所定の基準値Rより小さいか否かを判断し、小さいと判断すると視差デーd3,d5,d9は有効(信頼性が高い)と判断し、そうでない場合に視差デーd3,d5,d9は無効(信頼性が低い)と判断する。
マッチング有効性判定部16_1は、視差データd3,d5,d9が有効であると判断した場合に、これらのうちの何れか、あるいはこれらを基に生成した視差データを、当該処理対象の画素データの座標データXLの視差データdL(XL)として視差データ生成部20に出力する。
なお、マッチング有効性判定部16_1は、無効の画素データに対応する視差データを「0」にする。
ウィンドウコスト算出部18は、ウィンドウマッチング部14_1が特定した撮像画像データP_L内の第1のウィンドウデータと、撮像画像データP_R内の第2のウィンドウデータとの間の差分に応じたコストデータを算出する。
このとき、ウィンドウコスト算出部18は、第1のウィンドウデータ内の画素データの累積値である第1の累積画素値データACPと、第2のウィンドウデータ内の画素データの累積値である第2の累積画素値データACPとを算出する。
本実施形態において、第1のウィンドウデータおび第2のウィンドウデータは、矩形領域内の画素の画素データである。
また、ウィンドウコスト算出部18は、第2のウィンドウデータについても、上述した第1のウィンドウデータと同様に、第2の累積画素値データACPを算出する。
上述したウィンドウコスト算出部18によるコストデータの算出方法は、ソフトウェアによる効率的な演算を実現できる。
すなわち、例えば、今回選択した視差データに対応した第2のウィンドウデータWDaと、過去に選択した(1つ前に選択した)視差データに対応した第2のウィンドウデータWDbとは、例えば、図9に示す関係にある。
従って、ウィンドウコスト算出部18は、第2のウィンドウデータWDaの第2の累積画素値データから最左列の画素データの累積値ACPaを減算し、第2のウィンドウデータWDb内の最右列の画素データの累積値ACPbを加算することで、第2のウィンドウデータWDbの第2の累積画素値データを生成する。
ウィンドウコスト算出部18は、この処理を、例えば、例えば、列単位に累積値をメモリに格納し、これをシフトして選択して加算することで、ハ−ドウェアによって簡単に実現可能である。
画素有効性判定部10_2、ペナルティ決定部12_2、ウィンドウマッチング部14_2およびマッチング有効性判定部16_2は、撮像画像データP_Rにつて、前述した画素有効性判定部10_1、ペナルティ決定部12_1、ウィンドウマッチング部14_1およびマッチング有効性判定部16_1とそれぞれ同様の処理を行う。
これにより、マッチング有効性判定部16_2から視差データ生成部20に、撮像画像データP_R内の画素データの座標データXRの視差データdR(XR)が出力される。
視差データ生成部20は、マッチング有効性判定部16_1から入力した座標XLの視差データdL(XL)と、マッチング有効性判定部16_2から入力した座標XRの視差データdR(XR)とを基に、各画素データの視差データの有効性を判断する。
図10は、視差データ生成部20の処理を説明するためのフローチャートである。
なお、図10は、撮像画像データP_L,P_R上の各画素データについての処理を示している。
ステップST31:
視差データ生成部20は、撮像画像データP_L,P_R内の全ての画素データについて、図10に示す処理を行なう。
ステップST31:
視差データ生成部20は、撮像画像データP_L内の視差データdL(XR+dR(XR))を特定する。
また、視差データ生成部20は、撮像画像データP_R内の視差データdR(XR)を特定する。
そして、視差データ生成部20は、視差データdL(XR+dR(XR))と、視差データdR(XR)との差分の絶対値が所定のしきい値Thrより小さいか否かを判断する。
ステップST32:
視差データ生成部20は、撮像画像データP_R内の視差データdR(XL+dL(XL))を特定する。
また、視差データ生成部20は、撮像画像データP_L内の視差データdL(XR)を特定する。
そして、視差データ生成部20は、視差データdR(XL+dL(XL))と、視差データdL(XL)との差分の絶対値が所定のしきい値Thrより小さいか否かを判断する。
視差データ生成部20は、有効であると判断された画素データの視差データdR(XR),dL(XL)のみを用いて、撮像対象の視差データを生成する。
図11は、図1に示す画像処理装置1の全体動作例を説明するためのフローチャートである。
ステップST41:
カメラL_Cが、撮像対象TARGETを撮像し、その撮像画像データP_Lを画素有効性判定部10_1およびウィンドウコスト算出部18に出力する。
また、カメラR_Cが、撮像対象TARGETを撮像し、その撮像画像データP_Rを画素有効性判定部10_2およびウィンドウコスト算出部18に出力する。
画素有効性判定部10_1は、カメラL_Cから入力した画素データの各々について、その標準偏差データが基準値より大きいことを条件に有効と判断し、有効と判定した画素データS10_1をペナルティ決定部12_1に出力する。
画素有効性判定部10_2は、カメラR_Cから入力した画素データの各々について、その標準偏差データが基準値より大きいことを条件に有効と判断し、有効と判定した画素データS10_2をペナルティ決定部12_2に出力する。
ペナルティ決定部12_1は、画素有効性判定部10_1から入力した画素データの各々について、視差データ生成部20において処理対象の画素データの1つ前に処理された画素データの視差データと、ウィンドウマッチング部14_1において処理に用いられる視差データとが一致するか否かを判断し、一致しない場合に、当該画素データに対応した所定のペナルティ値を示すペナルティデータS12_1をウィンドウマッチング部14_1に出力する。
また、ペナルティ決定部12_2は、画素有効性判定部10_1から入力した画素データの各々について、視差データ生成部20において処理対象の画素データの1つ前に処理された画素データの視差データと、ウィンドウマッチング部14_2において処理に用いられる視差データとが一致するか否かを判断し、一致しない場合に、当該画素データに対応した所定のペナルティ値を示すペナルティデータS12_2をウィンドウマッチング部14_2に出力する。
ウィンドウマッチング部14_1は、撮像画像データP_L内の処理対象の画素データを相互に異なる位置に含む複数の第1のウィンドウデータの各々について、当該第1のウィンドウデータと、指定された視差に対応した撮像画像データP_R内の第2のウィンドウデータとの間の差分に応じたコストデータをウィンドウコスト算出部18に生成させる。
このとき、ウィンドウマッチング部14_1は、異なる複数のウィンドウサイズWSの各々について、ウィンドウコスト算出部18に上述したコストデータを生成させる。
そして、ウィンドウマッチング部14_1は、ウィンドウコスト算出部18からコストデータを入力し、上記3種類のブロックサイズ3x3,5x5,9x9の各々について、最小のコストデータに対応した視差データd3,d5,d9を特定し、これをマッチング有効性判定部16_1に出力する。
また、ウィンドウマッチング部14_2は、撮像画像データP_R内の処理対象の画素データについて同様に、視差データd3,d5,d9を特定し、これをマッチング有効性判定部16_2に出力する。
マッチング有効性判定部16_1は、ウィンドウマッチング部14_1から入力した視差データd3,d5,d9を基に、これらの視差データd3,d5,d9の有効性(信頼性)を判断する。
そして、マッチング有効性判定部16_1は、視差データd3,d5,d9が有効であると判断した場合に、これらのうちの何れか、あるいはこれらを基に生成した視差データを、当該処理対象の画素データの座標データXLの視差データdL(XL)として視差データ生成部20に出力する。
マッチング有効性判定部16_2は、同様に、撮像画像データP_Rについて、当該処理対象の画素データの座標データXRの視差データdR(XR)を視差データ生成部20に出力する。
視差データ生成部20は、マッチング有効性判定部16_1から入力した座標XLの視差データdL(XL)と、マッチング有効性判定部16_2から入力した座標XRの視差データdR(XR)とを基に、各画素データの視差データの有効性を判断し、有効な視差データのみを用いて対象画像全体の視差データを生成する。
そのため、図5を用いて説明したように、第1のウィンドウデータ内にエッジ部分を含む場合の影響を抑制でき、高精度な視差データを生成できる。
上述した実施形態では、L,Rの2系統で視差データを生成する場合を例示したが、いずれか1系統で視差データを生成しておよい。例えば、図1において、画素有効性判定部10_2、ペナルティ決定部12_2、ウィンドウマッチング部14_2およびマッチング有効性判定部16_2を用いなくてもよい。
また、上述した実施形態では、カメラL_C,R_Cが濃淡情報のみを示す画素データを生成する場合を例示したが、カラーの画素データを生成する場合には、それを濃淡情報のみを示す画素データに変換して画素有効性判定部10_1,10_2およびウィンドウコスト算出部18に出力するようにしてもよい。
Claims (8)
- 所定の撮像対象を異なる位置から撮像して得られた第1の画像と第2の画像とを基に、前記第1の画像内の第1のエピポーラ線上の第1の位置に対応する、前記第2の画像内の第2のエピポーラ線の第2の位置を探索し、前記第1の位置と前記第2の位置との間の位置関係に基づいて視差データを生成する画像処理方法であって、
前記第1の画像内の処理対象の画素データを相互に異なる位置に含み、異なる複数のブロックサイズの各々について、当該ブロックサイズに対応して各々規定された複数の第1のウィンドウデータの各々について、当該第1のウィンドウデータと、指定された視差データに対応した前記第2の画像データ内の第2のウィンドウデータとの間の差分に応じた指標データを生成する第1の工程と、
前記複数のブロックサイズの各々について、前記第1の工程で生成した指標データのうち最小の指標データを、前記指定された視差データの指標データとして特定する第2の工程と、
前記指定された視差データと、前記処理対象の画素データの1つ前に処理された画素データの視差データとが一致するか否かを判断し、一致しない場合に当該画素データに対応する所定のペナルティ値を示すペネルティデータを生成する第3の工程と、
前記第3の工程において生成された前記ペナルティデータを前記指標データに加算する第4の工程と、
前記複数のブロックサイズの各々について、予め決められた複数の視差データを前記第1の工程で指定させ、当該複数の視差データの各々について前記第4の工程で算出された前記指標データのうち最小の前記指標データに対応する前記視差データを、前記処理対象の画素データの視差データとして特定する第5の工程と
を有する画像処理方法。 - 前記第3の工程において、
前記処理対象の画素データと、当該処理対象の画素データの1つ前に処理された画素データとの値の差が所定の基準値以上であった場合に、当該処理対象の画素データがエッジに対応した画素データであると判断し、
前記処理対象の画素データが、エッジ画像におけるエッジに対応した画素データである場合には、前記ペナルティ値をエッジに対応していない画素データにおけるペナルティ値と比べて小さくなるように前記ペナルティデータを生成する
請求項1に記載の画像処理方法。 - 前記第1の画像および前記第2の画像の画素データは、濃淡情報のみを示す
請求項1に記載の画像処理方法。 - 前記第1の画像内の前記処理対象の画素データの標準偏差が基準値以上であるか否かを判断する第6の工程
をさらに有し、
前記第1から第5の工程において、前記第6の工程で前記処理対象の画素データの標準偏差が基準値以上であると判断したとき、前記処理対象の画素データについて処理を行う
請求項1に記載の画像処理方法。 - 前記第1の工程において、
矩形の前記第1のウィンドウデータおよび前記第2のウィンドウデータの対角点の座標が(x1,y1),(x2,y2)である場合に、座標(0,0)と座標(x2,y2)で囲まれた領域内の点の画素データの総和と、座標(0,0)と座標(x1,y1)で囲まれた領域内の点の画素データの総和とを加算し、座標(0,0)と座標(x1−1,y2)で囲まれた領域内の点の画素データの総和と、座標(0,0)と座標(x2,y1−1)で囲まれた領域内の点の画素データの総和とを減算した値を累積画素値データとし、
前記第1の画像内の前記第1のウィンドウデータの前記累積画素値データと、前記第2の画像内の前記第2のウィンドウデータの前記累積画素値データとの差分を前記指標データとする
請求項1に記載の画像処理方法。 - 前記第1の工程において、
第1の視差データに対応した前記第2のウィンドウデータ内の画素データの総和に対して、
前記第1の視差データに対応した第2のウィンドウデータに属し、第2の視差データに対応した第2のウィンドウデータに属さない画素データの累積値を減算し、
前記第2の視差データに対応した第2のウィンドウデータに属し、前記第1の視差データに対応した第2のウィンドウデータに属さない画素データの累積値を加算して、
前記第2の視差データに対応した前記第2のウィンドウデータの累積画素値データを生成し、
前記第1のウィンドウデータの累積画素値データと、前記第2のウィンドウデータの累積画素値データとの差分を、前記第2の視差データに対応した前記指標データとする
請求項1に記載の画像処理方法。 - 前記第2の画像内の処理対象の画素データを相互に異なる位置に含む複数のウィンドウデータの各々について、当該ウィンドウデータと、指定された視差に対応した前記第1の画像データ内のウィンドウデータとの間の差分に応じた指標データを生成する第6の工程と、
前記第6の工程で生成した指標データのうち最小の指標データを、前記指定された視差の指標データとして特定する第7の工程と、
予め決められた複数の視差データを前記第6の工程で指定させ、当該複数の視差の各々について前記第7の工程で特定した前記指標データのうち最小の前記指標データに対応する視差を、前記処理対象の画素データの視差データとする第8の工程と、
前記第1の画像内の前記第1の位置について前記第5の工程で取得した前記視差データと、当該第1の位置に対応した前記第2の画像内の前記第2の位置について前記第8の工程で取得した前記視差データとの差異が基準以下であるとき、前記第5の工程および前記第8の工程で取得した前記視差データが有効であると判断する第9の工程と
をさらに有する請求項1に記載の画像処理方法。 - 所定の撮像対象を異なる位置から撮像して得られた第1の画像と第2の画像とを基に、前記第1の画像内の第1のエピポーラ線上の第1の位置に対応する、前記第2の画像内の第2のエピポーラ線の第2の位置を探索し、前記第1の位置と前記第2の位置との間の位置関係に基づいて視差データを生成する画像処理装置であって、
前記第1の画像内の処理対象の画素データを相互に異なる位置に含み、異なる複数のブロックサイズの各々について、当該ブロックサイズに対応して各々規定された複数の第1のウィンドウデータの各々について、当該第1のウィンドウデータと、指定された視差データに対応した前記第2の画像データ内の第2のウィンドウデータとの間の差分に応じた指標データを生成する指標データ生成手段と、
前記指定された視差データと、前記処理対象の画素データの1つ前に処理された画素データの視差データとが一致するか否かを判断し、一致しない場合に当該画素データに対応する所定のペナルティ値を示すペネルティデータを生成するペナルティ決定手段と、
前記複数のブロックサイズの各々について、前記第指標データ生成手段が生成した指標データのうち最小の指標データを、前記指定された視差データの指標データとして特定し、前記ペナルティ決定手段が生成した前記ペナルティデータを前記指標データに加算し、予め決められた複数の視差データを前記指標データ生成手段に指定し、当該複数の視差データの各々について前記算出した前記指標データのうち最小の前記指標データに対応する前記視差データを、前記処理対象の画素データの視差データとして特定する視差データ特定手段と、
を有する画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004209586A JP4608978B2 (ja) | 2004-07-16 | 2004-07-16 | 画像処理方法および画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004209586A JP4608978B2 (ja) | 2004-07-16 | 2004-07-16 | 画像処理方法および画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006031423A JP2006031423A (ja) | 2006-02-02 |
JP4608978B2 true JP4608978B2 (ja) | 2011-01-12 |
Family
ID=35897682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004209586A Expired - Fee Related JP4608978B2 (ja) | 2004-07-16 | 2004-07-16 | 画像処理方法および画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4608978B2 (ja) |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07282259A (ja) * | 1994-04-13 | 1995-10-27 | Matsushita Electric Ind Co Ltd | 視差演算装置及び画像合成装置 |
JPH08280026A (ja) * | 1994-04-27 | 1996-10-22 | Matsushita Electric Ind Co Ltd | 動き及び奥行き推定方法及びその装置 |
JPH10318732A (ja) * | 1997-05-22 | 1998-12-04 | Topcon Corp | 形状測定装置及び形状測定用画像形成装置 |
JPH11175725A (ja) * | 1997-12-11 | 1999-07-02 | Tech Res & Dev Inst Of Japan Def Agency | フレーム処理型ステレオ画像処理装置 |
JP2000180121A (ja) * | 1998-12-18 | 2000-06-30 | Sony Corp | 画像処理装置および画像処理方法、並びに提供媒体 |
JP2000295636A (ja) * | 1999-04-02 | 2000-10-20 | Nippon Telegr & Teleph Corp <Ntt> | ステレオ画像計測方法、装置、およびその方法を記録した記録媒体 |
JP2001075019A (ja) * | 1999-09-01 | 2001-03-23 | Olympus Optical Co Ltd | 内視鏡装置 |
JP2001082927A (ja) * | 1999-09-16 | 2001-03-30 | Nippon Telegr & Teleph Corp <Ntt> | 三次元画像処理方法、装置、および三次元画像処理プログラムを記録した記録媒体 |
JP2001184497A (ja) * | 1999-10-14 | 2001-07-06 | Komatsu Ltd | ステレオ画像処理装置及び記録媒体 |
JP2002352241A (ja) * | 2001-05-25 | 2002-12-06 | Nippon Hoso Kyokai <Nhk> | ブロックマッチング装置 |
JP2003006616A (ja) * | 2001-06-18 | 2003-01-10 | Olympus Optical Co Ltd | 3次元情報取得装置、3次元情報取得方法および3次元情報取得プログラム |
JP2003141525A (ja) * | 2001-11-05 | 2003-05-16 | Minolta Co Ltd | 画像処理装置 |
JP2003271975A (ja) * | 2002-03-15 | 2003-09-26 | Sony Corp | 平面抽出方法、その装置、そのプログラム、その記録媒体及び平面抽出装置搭載型ロボット装置 |
JP2004184240A (ja) * | 2002-12-03 | 2004-07-02 | Topcon Corp | 画像測定装置、画像測定方法、画像処理装置 |
-
2004
- 2004-07-16 JP JP2004209586A patent/JP4608978B2/ja not_active Expired - Fee Related
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07282259A (ja) * | 1994-04-13 | 1995-10-27 | Matsushita Electric Ind Co Ltd | 視差演算装置及び画像合成装置 |
JPH08280026A (ja) * | 1994-04-27 | 1996-10-22 | Matsushita Electric Ind Co Ltd | 動き及び奥行き推定方法及びその装置 |
JPH10318732A (ja) * | 1997-05-22 | 1998-12-04 | Topcon Corp | 形状測定装置及び形状測定用画像形成装置 |
JPH11175725A (ja) * | 1997-12-11 | 1999-07-02 | Tech Res & Dev Inst Of Japan Def Agency | フレーム処理型ステレオ画像処理装置 |
JP2000180121A (ja) * | 1998-12-18 | 2000-06-30 | Sony Corp | 画像処理装置および画像処理方法、並びに提供媒体 |
JP2000295636A (ja) * | 1999-04-02 | 2000-10-20 | Nippon Telegr & Teleph Corp <Ntt> | ステレオ画像計測方法、装置、およびその方法を記録した記録媒体 |
JP2001075019A (ja) * | 1999-09-01 | 2001-03-23 | Olympus Optical Co Ltd | 内視鏡装置 |
JP2001082927A (ja) * | 1999-09-16 | 2001-03-30 | Nippon Telegr & Teleph Corp <Ntt> | 三次元画像処理方法、装置、および三次元画像処理プログラムを記録した記録媒体 |
JP2001184497A (ja) * | 1999-10-14 | 2001-07-06 | Komatsu Ltd | ステレオ画像処理装置及び記録媒体 |
JP2002352241A (ja) * | 2001-05-25 | 2002-12-06 | Nippon Hoso Kyokai <Nhk> | ブロックマッチング装置 |
JP2003006616A (ja) * | 2001-06-18 | 2003-01-10 | Olympus Optical Co Ltd | 3次元情報取得装置、3次元情報取得方法および3次元情報取得プログラム |
JP2003141525A (ja) * | 2001-11-05 | 2003-05-16 | Minolta Co Ltd | 画像処理装置 |
JP2003271975A (ja) * | 2002-03-15 | 2003-09-26 | Sony Corp | 平面抽出方法、その装置、そのプログラム、その記録媒体及び平面抽出装置搭載型ロボット装置 |
JP2004184240A (ja) * | 2002-12-03 | 2004-07-02 | Topcon Corp | 画像測定装置、画像測定方法、画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2006031423A (ja) | 2006-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2153409B1 (en) | Camera pose estimation apparatus and method for augmented reality imaging | |
JP5940453B2 (ja) | 画像のシーケンス内のオブジェクトのリアルタイム表現のハイブリッド型追跡のための方法、コンピュータプログラム、および装置 | |
JP6338021B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US20030012410A1 (en) | Tracking and pose estimation for augmented reality using real features | |
US20130335535A1 (en) | Digital 3d camera using periodic illumination | |
WO2001001347A1 (en) | Method and apparatus for performing geo-spatial registration using a euclidean representation | |
CN112150551A (zh) | 物***姿的获取方法、装置和电子设备 | |
KR20080029080A (ko) | 단안 줌 카메라를 이용한 이동로봇의 자기위치 추정 시스템및 방법 | |
CN111080776B (zh) | 人体动作三维数据采集和复现的处理方法及*** | |
Placitelli et al. | Low-cost augmented reality systems via 3D point cloud sensors | |
CN113393505A (zh) | 图像配准方法、视觉定位方法及相关装置、设备 | |
McIlroy et al. | Kinectrack: 3d pose estimation using a projected dense dot pattern | |
JP6228239B2 (ja) | プリミティブの組を用いてデータをレジストレーションする方法 | |
WO2022018811A1 (ja) | 被写体の3次元姿勢推定装置、3次元姿勢推定方法、及びプログラム | |
CN116524022B (zh) | 偏移数据计算方法、图像融合方法、装置及电子设备 | |
KR20190055632A (ko) | 모션 정보를 이용한 객체 복원 장치 및 이를 이용한 객체 복원 방법 | |
JP4608978B2 (ja) | 画像処理方法および画像処理装置 | |
WO2022122701A1 (en) | Apparatus and method for processing a depth map | |
CN112615993A (zh) | 深度信息获取方法、双目摄像模组、存储介质及电子设备 | |
JP2021152764A (ja) | 情報処理装置、情報処理方法、およびプログラム | |
Huang et al. | A semi-automatic camera calibration method for augmented reality | |
JPH11110566A (ja) | 画像認識方法及び装置 | |
WO2023199583A1 (ja) | ビューワ制御方法及び情報処理装置 | |
JPH09231358A (ja) | 画像対応点抽出装置、及び方法 | |
JP2023108433A (ja) | 画像処理装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070702 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100309 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100506 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100601 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100723 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100914 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100927 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131022 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131022 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |