JP3932776B2 - ３次元画像生成装置および３次元画像生成方法 - Google Patents

Description

【０００１】
【発明の属する技術分野】
本発明は測定対象に対してパターン光を照射することによって得られるパターン投影像を、複数の撮像手段で異なる方向から撮像し、パターンの変化に基づいて距離情報を得る三角測量法に基づく３次元画像生成装置および３次元画像生成方法に関する。
【０００２】
【従来の技術】
３次元形状を取得する手法には、アクティブ手法（Active vision）とパッシブ手法（Passive vision）がある。アクティブ手法は、（1）レーザ光や超音波等を発して、対象物からの反射光量や到達時間を計測し、奥行き情報を抽出するレーザー手法や、（2）スリット光などの特殊なパターン光源を用いて、対象表面パターンの幾何学的変形等の画像情報より対象形状を推定するパターン投影方法や、(3)光学的処理によってモアレ縞により等高線を形成させて、３次元情報を得る方法などがある。一方、パッシブ手法は、対象物の見え方、光源、照明、影情報等に関する知識を利用して、一枚の画像から３次元情報を推定する単眼立体視、三角測量原理で各画素の奥行き情報を推定する二眼立体視等がある。
【０００３】
一般的にアクティブ手法のほうが計測精度は高いが、投光手段の限界などにより、測定できるレンジが小さい場合が多い。一方、パッシブ手法は汎用的であり、対象に対する制約が少ない。本発明は、このアクティブ手法の3次元計測装置であるパターン投影法に関するものである。
【０００４】
パターン投影法では、対象とする物体に基準となるパターン光を投影し、基準となるパターン光が投影された方向とは異なる方向から撮影を行う。撮影されたパターンは、物体の形状によって変形を受けたものとなる。観測された変形パターンと投影したパターンとの対応づけを行うことで、物体の3次元計測を行える。パターン投影法では、変形パターンと投影したパターンの対応づけにおいていかに誤対応を少なくし、かつ簡便に行うかが課題となる。そこで、様々なパターン投影の手法(空間パターンコード化、モアレ、色符号化)が提案されている。
【０００５】
代表的な空間コード化の一例として特開平５−３３２７３７５号公報に開示されている実施例について説明する。この例では、レーザ光源とレーザ光をスリット形に整形するレンズ系と、整形されたレーザ光を対象物に走査して照射するスキャンニング装置と対象物からの反射光を検出するカメラとこれらを制御する装置からなる。
【０００６】
スキャンニング装置から走査されるレーザ光によって対象物上に、レーザ光が照射された部分と照射されていない部分とで縞模様が形成される。レーザ光の照射を異なる複数のパターンによって行うことで対象物上はＮ個の識別可能な部分に分割される。対象物を異なる位置からカメラで撮影した画像上の各画素が分割されたどの部分に含まれるかを判別することで対象物の形状を算出できる。
【０００７】
解像度を高くする為には複数回のレーザによるスキャンを行い、複数回のカメラによる撮影が必要となる。例えば、画面を２５６の領域に分割する為には8回の撮影が必要となる。そのため動きの早い物体の撮影は困難となり、更にスキャンを行う間は撮影系を確実に固定しておく必要があるので装置自体は簡便となっても手軽に撮影を行う事は難しい。
【０００８】
パターンの投光回数を減らす手段として特開平３−１９２４７４号公報に開示されている色符号化がある。色符号化においては、q、kを2以上の所定の自然数とした時、q色以上の色を用いて、隣接する2本のスリット光が同色にならず、隣接するk本のスリット光による色の並びが1度しか現れないように符号化されたパターンを投影し、観測された画像からスリットの色を検出し、該当スリットの色並びからスリット番号を取得する。スリット番号から、スリットの照射方向を算出し空間コード化の例と同様に距離を算出することができる。
【０００９】
しかしながら、色符号化ではコード列の並びからコードを復元する為に、コードの復元の計算量が大きいという問題点がある。更に、Ｒ，Ｇ，Ｂの３色を用いて２５６の領域に分割したい場合には、コードを知りたいスリットの周囲８本のスリット光の並びを知る必要があり、連続してスリットが長く観測できるような形状の物体の計測にしか適さない。
【００１０】
スリットの復元を容易に行い、更に1回でコード化されたパターンを投影する手段として特許第２５６５８８５号で公開されている空間パターンコード化法がある。この特許では、３値以上の濃淡、又は３色以上の色、又は濃淡と色の組み合わせによって３種類以上の階調領域を有し、該階調領域の境界線の交点において少なくとも３種類の階調領域が互いに接しているように配置した多値格子板パターンを具備し、該パターンを被測定対象物に投影して生じる投影像の交点に該交点で接する階調の種類と順序に応じた主コードを付与し、該主コードを、または交点の主コードとその周囲交点の主コードとを組み合わせた組み合わせコードを、交点の識別用の特徴コードとして付与したことを特徴とする。
【００１１】
しかし、上述の方式では撮影対象によってはコード化が崩れてしまい正しくコードの対応づけができなくなる場合がある。例えば、図２１で示すように光源によって投光されたパターン列が"12345678"であるとき、撮影対象の構造によってはカメラで撮影されるパターン列が"1267"と欠落して認識されたり、パターン列"758"のように反転したパターン列が得られる場合がある。また、対象物の形状や反射率などによっても投光したパターンと撮影されたパターン列の変化により対応づけは困難となる。
【００１２】
色符号化においては、復号化時にスリットのグループ化を行う際、スリットの欠落、反転の可能性があるパターンについては復号を行わない手法を用いてこの問題を回避している。空間パターンコード化法では2次元パターンを用いることで、前述の誤りの可能性を低減してはいるが、原理的には対象物によっては同じ誤りが生じる。従って、前述の方式では、実験室内の特殊な状況や対象物体を限定した状況での撮影では優れた精度が得られるものの、対象を限定しない一般的な撮影状況では精度の劣化は否めない。また、光源を用いた投光を行う手法では、広いレンジを有するものを対象とした時に、投光が届かない部位については3次元形状が得られない。また、投光されたパターンを対象物が遮ることで生じる影の領域も、距離の計測ができないため、実際に見えているのに距離が得られない領域が存在してしまう。
【００１３】
そこで、本出願と同一出願人に係る特願平１０−１９１０６３号、(特開２０００−９４４２)、特願平１０−２４７７９６(特開２０００−６５５４２)では投光されたパターンをフィードバックし新たなコードを生成することで対象物に依存しない3次元画像撮影装置を提案した。
【００１４】
【発明が解決しようとする課題】
上記の特願平１０−１９１０６３号、(特開２０００−９４４２)、特願平１０−２４７７９６(特開２０００−６５５４２)における３次元画像撮影装置は、投光パターンを複数の強度や複数の波長によって符号化されたものを投影して実現する。その際に、投光パターンが被写体の輝度情報、素材などの影響によって変化し、３次元形状を算出する際に、エラーとなって適切な３次元形状が計測できない。そのために、上記３次元撮像装置は、投光素子と同光軸に配置をし、被写体情報による投光パターンの変化分をモニタし、再符号化を実施し、３次元形状を計測している。
【００１５】
しかしながら、上記構成において、距離算出をスリットのエッジから行っているので、形状計測装置の解像度はスリットの本数によって決定される。また、形状計測を実施しようとする被写体のエッジ（輪郭）部分がスリットの間にある場合は、計測が困難になる。形状計測装置の場合、例えば、背景と被写体、あるいは、複数の被写体の選別など、被写体の輪郭を抽出して形状を計測する必要がある。スリットパターンを投影し形状計測する場合、スリット間の情報は、計測に使用しない。仮に、スリット間でクリティカルな形状変化が発生した場合は、その前後のスリット情報から距離を算出し、真の形状変化部は計測されていないことになる。
【００１６】
また、クリティカルな変化をしていない物体においても、計測解像度は、スリットパターンのスリット本数によって決められてしまい。それ以上の解像度での計測を行うためには、スリット総本数を増加させて、個別の距離が算出可能な領域の大きさに対応する距離計測解像度をあげる必要がある。
【００１７】
本発明は、上記問題点を解決することを目的としてなされたものであり、スリットパターンを投光手段と同光軸で撮像し、符号化を実施する際に、投影したスリットパターンから、被写体情報によって変化させられた情報を元に再符号化を実施する構成において、観測される連続したパターンを認識し、これを新たなコードとして設定し、設定されたコードによって距離データを生成する３次元画像生成装置および３次元画像生成方法を提供することを目的とする。
【００１８】
本発明は、上述の目的を解決するものであり、その第１の側面は、
パターンを測定対象に投影する投光手段と、前記投光手段の光軸方向から投影パターンを撮影する第１の撮像手段と、前記投光手段光軸方向と異なる方向から前記投影パターンを撮影する第２の撮像手段とを備え、
前記投光手段の出射光と、前記第１の撮像手段の入射光とは、ビームスプリッタによって分離される構成であり、前記投光手段と前記第１の撮像手段とは、それぞれが光学的に同軸となるように配置された構成を有し、
前記第１の撮像手段の撮影した投影パターン画像と、前記投光手段による投影パターンとの比較により、前記第１の撮像手段の撮影した投影パターン画像に新たなエッジが検出された場合、検出された新たなエッジが距離測定に適用可能なエッジであるか否かを前記第１の撮像手段と第２の撮像手段の撮影データに基づいて決定されるエピポーラ線と平行であるか否かを判定し、平行でない場合に該検出エッジに基づく新規コードを割り付け、前記新規コードに基づいて第２の撮像手段による撮影パターンから第１の距離情報を生成する構成を有することを特徴とする３次元画像生成装置にある。
【００２０】
さらに、本発明の３次元画像生成装置の一実施態様において、前記３次元画像生成装置は、前記投影パターンに対する第１の撮像手段による撮影パターンの前記新たなエッジによって区分されるセルの強度変化量が所定値以上の領域について、該第１の撮像手段による撮影パターンに対応する新規コードを割り付け、前記新規コードに基づいて第２の撮像手段による撮影パターンから前記第１の距離情報を生成する構成を有することを特徴とする。
【００２１】
さらに、本発明の３次元画像生成装置の一実施態様において、前記第１の距離情報および第１または第２の撮像手段より得られた輝度情報に基づいて３次元画像を生成する構成を有することを特徴とする。
【００２３】
さらに、本発明の３次元画像生成装置の一実施態様において、前記投光手段による投影パターンに対する第１の撮像手段による撮影パターンの変化量が所定値未満の領域について、第１の撮像手段および第２の撮像手段より得られた各輝度情報の対応づけにより第２の距離情報を生成し、前記第１の距離情報、第２の距離情報および第１または第２の撮像手段より得られた輝度情報を用いて３次元画像を得るよう構成したことを特徴とする。
【００２４】
さらに、本発明の３次元画像生成装置の一実施態様において、前記投光手段は不可視領域の光を発生する光源を有し、第１の撮像手段は不可視領域の光を透過するフィルターおよび不可視領域の光を遮断するフィルターを有することを特徴とする。
【００２５】
さらに、本発明の３次元画像生成装置の一実施態様において、前記第２の撮像手段は、前記測定対象を異なる角度で撮像する複数の撮像手段によって構成され、該複数の第２の撮像手段の各々の撮影した投影パターンに基づいて求められる距離情報を合成して３次元画像を得るよう構成したことを特徴とする。
【００２６】
さらに、本発明の３次元画像生成装置の一実施態様において、前記第１の撮像手段の撮影する投影パターン画像に検出される新たなエッジは、前記測定対象の形状、模様、輝度差、反射率差のいずれかに基づいて発生するエッジであることを特徴とする。
【００２７】
さらに、本発明の第２の側面は、
投光手段により、パターンを測定対象に投影する投光ステップと、
前記投光手段の光軸方向から投影パターンを撮影する第１の撮像手段と、前記投光手段光軸方向と異なる方向から前記投影パターンを撮影する第２の撮像手段とにより、パターンの投影された測定対象を撮影するステップと、
前記第１の撮像手段の撮影した投影パターン画像と、前記投光手段による投影パターンとの比較を実行するステップと、前記第１の撮像手段の撮影した投影パターン画像に新たなエッジが検出された場合、検出された新たなエッジが距離測定に適用可能なエッジであるか否かを前記第１の撮像手段と第２の撮像手段の撮影データに基づいて決定されるエピポーラ線と平行であるか否かを判定し、平行でない場合に該検出エッジに基づく新規コードを割り付けるステップと、
前記新規コードに基づいて第２の撮像手段による撮影パターンから第１の距離情報を生成するステップと、
を有することを特徴とする３次元画像生成方法にある。
【００２９】
さらに、本発明の３次元画像生成方法の一実施態様において、前記投影パターンに対する第１の撮像手段による撮影パターン内に含まれる、前記新たなエッジによって区分されるセルの強度変化量が所定値以上の領域について、該第１の撮像手段による撮影パターンに対応する新規コードを割り付けるステップと、前記新規コードに基づいて第２の撮像手段による撮影パターンから前記第１の距離情報を生成するステップと、を有することを特徴とする。
【００３０】
さらに、本発明の３次元画像生成方法の一実施態様において、前記第１の距離情報および第１または第２の撮像手段より得られた輝度情報に基づいて３次元画像を生成するステップを有することを特徴とする。
【００３１】
さらに、本発明の３次元画像生成方法の一実施態様において、前記投光手段による投影パターンに対する第１の撮像手段による撮影パターンの変化量が所定値未満の領域について、第１の撮像手段および第２の撮像手段より得られた各輝度情報の対応づけにより第２の距離情報を生成し、前記第１の距離情報、第２の距離情報および第１または第２の撮像手段より得られた輝度情報を用いて３次元画像を得るステップを有することを特徴とする。
【００３２】
さらに、本発明の３次元画像生成方法の一実施態様において、前記第２の撮像手段は、前記測定対象を異なる角度で撮像する複数の撮像手段によって構成され、該複数の第２の撮像手段の各々の撮影した投影パターンに基づいて求められる距離情報を合成して３次元画像を得ることを特徴とする。
【００３３】
【発明の実施の形態】
以下、図を用いて本発明の３次元画像撮像装置および３次元画像撮像方法の実施の形態を詳しく説明する。
【００３４】
まず、再コード化処理を用いた距離データの取得原理について説明する。再コード化処理を用いた距離データの取得を実行する３次元画像撮像装置の構成を表すブロック図を図１に示す。図２に光源と撮像素子の位置関係を示す。
【００３５】
図２に示すように、３次元形状測定装置は、３台のカメラ１０１〜１０３および投光器１０４を備える。各カメラの距離関係が揃うように、図示の距離Ｉ1、Ｉ2、Ｉ3は等しくされている。カメラ３，１０３と投光器１０４は、ビームスプリッタとしてのハーフミラー１０５を用いて光軸が一致するように配置される。カメラ１，１０１、カメラ２，１０２は、カメラ３，１０３と投光器１０４の両側に、それらと光軸が異なるように配置される。中央の光軸と両側の光軸との距離が基線長Ｌである。
【００３６】
投光器１０４は、光源１０６と、マスクパターン１０７と、強度パターン１０８と、プリズム１０９とを有する。ここで光源１０６は、赤外もしくは紫外光を用いた不可視領域の光源を用いることができる。この場合、各カメラは図３に示すように構成される。すなわち、入射してきた光３１０は、プリズム３０１で２方向に分割され、一方は不可視領域（赤外あるいは紫外）透過フィルター３０２を通って撮像装置（例えばＣＣＤカメラ）３０３に入射し、他方は不可視領域（赤外と紫外）遮断フィルター３０４を通って撮像装置３０５に入射する。
【００３７】
また図２に示す光源１０６は、可視領域あるいは不可視領域に限定せず、撮像可能な波長帯の光源を用いてもよい。この場合、カメラ３，１０３においては、プログレッシブスキャンタイプのＣＣＤカメラを用い、カメラ１，１０１、カメラ２，１０２に関しては、特に構成はこだわらない。ただし、カメラ３，１０３との対応を考慮すれば、同じ構成のＣＣＤカメラが望ましい。光源１０６からパターンが投影され、３台のカメラ１〜３（１０１〜１０３）が同時に撮影を行う。そして各カメラは、フィルター３０４，３０５（図３参照）を通過した光を撮像装置３０３，３０５で得ることにより、画像の一括取得を行う。
【００３８】
図１を用いて３次元形状測定装置の構成を説明する。図示のように、カメラ１，１０１は、撮影して得た輝度情報を輝度値メモリ１２１に記憶し、撮影パターンをパターン画像メモリ１２２に記憶する。カメラ２，１０２は、同様に、輝度情報を輝度値メモリ１２３に記憶し、撮影パターンをパターン画像メモリ１２４に記憶する。カメラ３，１０３は、輝度情報を輝度値メモリ１２５に記憶し、撮影パターンをパターン画像メモリ１２６に記憶する。投光器１０４は、事前に作成したコード化されたパターンを後に参照する為に、各スリットを正方格子上のセルに分割してフレームメモリ１２７に格納している。
【００３９】
この記憶保持された撮影パターンおよび輝度情報を用いて、次のようにして３次元画像を得る。以下の操作は、カメラ１，１０１とカメラ３，１０３の組み合わせ、カメラ２，１０２とカメラ３，１０３の組み合わせの双方に共通なので、ここではカメラ１，１０１とカメラ３，１０３の組み合わせを例にとって説明する。
【００４０】
図１において、領域分割部１２８は、カメラ３，１０３で撮影された撮影パターンの領域分割を行う。そして、隣り合うスリットパターン間の強度差が閾値以下である領域については投光器からの光が届いてない領域１として抽出し、スリットパターン間の強度差が閾値以上である領域については領域２として抽出する。再コード化部１２９は、抽出された領域２について、パターン画像メモリ１２６に記憶された撮影パターンとフレームメモリ１２７に格納された投影パターンを用いて再コード化を行う。
【００４１】
図４は、再コード化を行う際のフローチャートである。まず、各スリットパターンをスリット幅毎に縦方向に分割し（ステップ１００１）、正方形のセルを生成する。生成された各セルについて強度の平均値をとり、平均値を各セルの強度とする（ステップ１００２）。画像の中心から順に、投影パターン及び撮影パターンの対応する各セル間の強度を比較し、対象物の反射率、対象物までの距離などの要因によってパターンが変化したためにセル間の強度が閾値以上異なるかどうかを判断する（ステップ１００３）。閾値以上異ならない場合は、撮影されたすべてのセルについて再コード化を終了する（ステップ１００７）。
【００４２】
閾値以上異なる場合は、新たな強度のセルかどうか判断する（ステップ１００４）。そして、新たな強度のセルのときは、新たなコードの生成、割り付けを行う（ステップ１００５）。また、新たな強度のセルでないときは、他に出現している部位と識別可能とするスリットパターンの並びを用いてコード化する（ステップ１００６）。これで、再コード化を終了する（ステップ１００７）。
【００４３】
図５はスリットパターンのコード化の例を示すもので、同図（ａ）はスリットの並びによってコード化された投影パターンであり、強度としてそれぞれ３（強）、２（中）、１（弱）が割り当てられている。同図（ｂ）においては、左から３つめのセルで強度が変化して新たなコードが出現したので、新たに０というコードを割り当てている。同図（ｃ）においては、左から３つめ上から２つめのセルに既存のコードが出現しているので、セルの並びから新たなコードとして、縦の並びを［２３２］、横の並びを［１３１］という具合に再コード化する。この再コード化は、対象の形状が変化に富む部位には２次元パターンなどの複雑なパターンを投光し、変化の少ない部位には簡単なパターンを投光しているのに等しい。この過程を繰り返し、全てのセルに対して一意なコードを割り付けることで再コード化を行う。
【００４４】
図６は、カメラ６０１〜６０３および投光器６０４を用いて、壁６０５の前に配置された板６０６にコード化されたパターンを投光する例を示す。ここでコード化されたパターンは、図７に示すスリットパターンである。このとき、カメラ６０１、カメラ６０２で得られる画像は、図８及び図９に示すように、それぞれ板６０６の影となる領域８０１、９０１が生ずる。本例では、板６０６の表面には新たにコード化されたパターンとして、図１０に示すようなスリットパターンが得られる。
【００４５】
次に図１に戻って説明する。カメラ１，１０１側のコード復号部１３０は、パターン画像メモリ１２２から投影パターンを抽出し、上述と同様にしてセルに分割する。そして、先に再コード化部１２９で再コード化されたコードを用いて各セルのコードを検出し、この検出したコードに基づいて光源からのスリット角θを算出する。図１１は空間コード化における距離の算出方法を示す図であり、各画素の属するセルのスリット角θとカメラ１で撮影された画像上のｘ座標とカメラパラメータである焦点距離Ｆと基線長Ｌとから、次の（数１）によって距離Ｚを算出する。
【００４６】
【数１】
Ｚ＝（Ｆ×Ｌ）／（ｘ＋Ｆ×ｔａｎθ） （数１）
【００４７】
この距離Ｚの算出は、カメラ２，１０２側のコード復号部１３１においても、同様に行われる。また、上述の領域１については次のようにして距離を算出する。領域１では、投光されたパターンによるパターン検出は行うことができないので、対応点探索部１３２において、カメラ１〜３の輝度値メモリ１２１、１２３、１２５から読み出された輝度情報を用いて視差を検出し、これに基づいて距離を算出する。領域１を除く領域に対しては、前述の操作により距離が算出されているので、領域１の距離の最小値が得られ、また対応づけ可能な画素も限定される。これらの制限を用いて、画素間の対応づけを行い視差ｄを検出し、カメラパラメータである画素サイズλを用いて、次の（数２）によって距離Ｚを算出する。
【００４８】
【数２】
Ｚ＝（Ｌ×Ｆ）／（λ×ｄ） （数２）
【００４９】
前述の手法でカメラ３，１０３とカメラ１，１０１の組み合わせによって得られた距離情報では、図８に示す板の影となる領域８０１の距離情報が検出できない。一方、カメラ３，１０３とカメラ２，１０２の組み合わせによって得られた距離情報では、図９に示す板の影となる領域９０１の距離情報が検出できない。しかし、図８に示す板の影となる領域８０１の距離情報が算出可能である。従って、図１の距離情報統合部１３３において、カメラ３，１０３とカメラ１，１０１の組で算出された距離情報およびカメラ３，１０３とカメラ２，１０２で算出された距離情報から、カメラ３の画像（図１２）のすべての画素に対する距離情報を取得する。以上の操作によって得られた距離情報を、例えばカメラ３の輝度画像に対応づけて３次元画像メモリに記憶することで３次元画像生成を行う。
【００５０】
上述したような構成により、距離データを取得して３次元画像の生成を実行するわけである。本発明の３次元画像生成装置における特徴である測定対象物体の形状あるいは模様に基づく撮影パターンの変化に基づく再コード化処理および３次元画像生成処理について、以下説明する。
【００５１】
図１３に測定対象１３０１に対してパターン光を照射するプロジェクタ１３０２、パターン光を投影した測定対象の撮影を実行する２つの撮像手段１３０３、１３０４の構成からなる３次元画像撮像処理システム構成を示す。撮像手段１３０３は、投光プロジェクタ１３０２と同軸方向の像を撮影するために、ビームスプリッタとしてのハーフミラー１３０５を介した像を撮影する構成となっている。撮像手段１３０３、１３０４の撮影パターンに基づいて前述の手法により測定対象の距離データ。すなわち３次元形状を求める構成である。
【００５２】
投光プロジェクタ１３０２によって測定対象に投影されるパターンは、例えば図１４（ａ）に示すパターンであり、測定対象が図１４（ｂ）のような形状である場合、測定対象に照射されるパターン像、および２つの撮像手段によって撮影されるパターンは、図１５に示すようなものとなる。図１５（ａ）が測定対象に投影されるパターン像であり、図１５（ｂ）が撮像手段１５０１により撮影されるパターン像であり、図１５（ｃ）が撮像手段１５０２により撮影されるパターン像である。
【００５３】
図１６にある１つのパターン光（図１６（ａ））と、そのパターン光に基づいて観測されるエッジ（図１６（ｂ））の態様を示す。エッジは、例えば図５で説明したコードの境界部を示すラインである。距離情報を算出するための撮影パターン像の分析は、図１６（ｂ）に示すエッジ情報に基づいて行うことによって容易に距離情報を算出することができる。図１６（ａ）のようなストライプパターンを投影した場合は、図１６（ｂ）に示すように、パターンの境界部に５本のエッジが観測される。
【００５４】
しかし、測定対象によっては、投影パターンのストライプ構成とは全く関係のない測定対象自身の形状、模様、輝度差、反射率差等、様々な要因に基づくエッジが観測される場合がある。
【００５５】
いくつかの具体例について説明する。例えば図１７の（ａ）に示すように白い壁１７０１の前に色のついたボード１７０２を置いたような測定対象構成に図１６（ａ）に示すと同様のパターン光を照射して撮影すると、パターン光投光手段と光学的に同軸においた撮像手段に撮影される像は、図１７（ｂ）に示すようになり、その撮影像から抽出されるエッジは、図１７（ｃ）に示すようになる。図１７（ｃ）に示すように抽出されるエッジには、測定対象の白い壁１７０１とボード１７０２の境界部によって生成されるストライプパターンと平行なエッジ１７０３が含まれる。
【００５６】
また、図１８の（ａ）に示すように白い壁１８０１の前に傾斜部を持つ色のついたボード１８０２を置いたような測定対象構成に対して、図１６（ａ）に示すと同様のパターン光を照射して撮影すると、パターン光投光手段と光学的に同軸においた撮像手段に撮影される像は、図１８（ｂ）に示すようになり、その撮影像から抽出されるエッジは、図１８（ｃ）に示すようになる。図１８（ｃ）に示すように抽出されるエッジには、測定対象の白い壁１８０１とボード１８０２の境界部によって生成されるストライプパターンと交わるエッジ１８０３が含まれる。
【００５７】
また、図１９の（ａ）に示すように白い壁１９０１の前にバスケットボール１９０２を置いたような測定対象構成に図１６（ａ）に示すと同様のパターン光を照射して撮影すると、パターン光投光手段と光学的に同軸においた撮像手段に撮影される像は、図１９（ｂ）に示すようになり、その撮影像から抽出されるエッジは、図１９（ｃ）に示すようになる。図１９（ｃ）に示すように抽出されるエッジには、測定対象の白い壁１９０１とバスケットボール１９０２の境界部、およびバスケットボール１９０２の模様によって生成される複数のエッジ１９０３が含まれる。
【００５８】
このように測定対象の形状、模様、輝度差、反射率差等、様々な要因に基づいて発生するエッジが撮像手段によって撮影される。
【００５９】
物体の境界部が、図１７に示すようにストライプパターン間に存在したり、図１８に示すように、複数のストライプパターンにまたがって存在することよって、パターン光のエッジ情報のみに基づく距離データを算出しようとすると、正確な計測が不可能になる。特に前者は、正確なエッジ算出が困難になってしまう。そこで、図１７，１８に示すように、投光手段と同軸の撮像手段によって撮影されるパターン画像に含まれる、エッジ情報が、２つの撮像手段、すなわち投光手段と同軸の撮像手段と、異なる方向からの撮像手段の位置によって決定されるエピポーラ線と平行でなく観測される場合は、再符号化を実施する際に、新たなエッジとして、割りつけ、距離算出をする。
【００６０】
エピポーラ線と平行なエッジは、観測されたとしても、２つの撮像手段による距離算出ができないからである。ただし、投光手段と同軸の撮像手段以外に、測定対象を異なる方向から撮影する２台以上のカメラを用いて距離計測を実行する場合は、いずれかのカメラとの組み合わせで距離計測が可能になれば投光手段と同軸の撮像手段によって観測されるすべてのエッジを距離計測用エッジとして適用することが可能である。図１９に示すように、極端に反射率の低い（たとえば、黒いライン）もの（ここでは、バスケットボールの模様）や、複数の物体が重なり合ってできる、段差による線（例えば、ブロック塀を重ねて出来る模様）などによって、発生する情報も、再符号化を行う際に、エッジ情報として識別して再コード化を実行し、再コード化によって識別された新規コードによって距離情報の生成を行なう。
【００６１】
図２０に、本発明にかかる３次元画像生成装置において、投影パターンを、投光手段と同光軸で撮像した画像に基づいて、新たにコードパターンを割り付ける（再符号化する）処理の詳細を説明するフローチャートを示す。
【００６２】
まず、ステップＳ２００１において、投光手段と同軸の撮像手段によって撮影された投光パターン画像を分析する。次に、ステップＳ２００２において、分析された投光パターン画像中に投光手段によって投光された投光パターンと異なるエッジ、すなわち、測定対象の形状、模様等に起因して撮影されたエッジが含まれるか否かを判定する。新たなエッジが検出された場合は、ステップＳ２００３において、検出エッジが距離計測に適用できるエッジであるか否かが判別される。これは、前述したように例えば２台のカメラのみを用いた構成において、検出エッジがエピポーララインと平行である場合は、距離計測に適用できないものと判定し、検出エッジに基づく再コード化処理は実行しない。
【００６３】
検出エッジが、距離計測に適用できるものであると判定されると、ステップＳ２００４に進む。ステップＳ２００４では、投光手段に与えられたスリットのセルと前記検出エッジにより区分されるセルの強度が閾値以上異なるかどうかを判断する。閾値以上異ならない場合は、撮影されたすべてのセルについて再コード化を終了する（ステップ２００８）。
【００６４】
閾値以上異なる場合は、新たな強度のセルかどうか判断する（ステップ２００５）。そして、新たな強度のセルのときは、新たなコードの生成、割り付けを行う（ステップ２００６）。また、新たな強度のセルでないときは、他に出現している部位と識別可能とするスリットパターンの並びを用いてコード化する（ステップ２００７）。これで、再コード化を終了する（ステップ２００８）。
この再コード化処理の結果に基づいて、前述の処理に従った距離算出が実行される。すなわち、図２０に示す再コード化処理は、先に（［００６１］）説明した通り、撮影画像に基づいて新たなコードパターンの割り付けを行なう再コード化処理の一例を説明したものである。この再コード化処理の後の距離算出は、先に図４以下を参照して説明した再コード化による距離算出処理と全く同様の手法によって実行される。
すなわち、先に（［００４５］）において、図１１を参照して説明したように、再コード化されたコードを用いて各セルのコードを検出し、この検出したコードに基づいて光源からのスリット角θを算出する。図１１は空間コード化における距離の算出方法を示す図であり、各画素の属するセルのスリット角θとカメラ１で撮影された画像上のｘ座標とカメラパラメータである焦点距離Ｆと基線長Ｌとから、先に説明した数式、すなわち、
Ｚ＝（Ｆ×Ｌ）／（ｘ＋Ｆ×ｔａｎθ）
上記式に基づいて、各コードの割り当てられたセルに対応する距離Ｚを算出する。
【００６５】
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、冒頭に記載した特許請求の範囲の欄を参酌すべきである。
【００６６】
【発明の効果】
以上述べたように、本発明の３次元画像生成装置および３次元画像生成方法は、投光装置で投射したパターンと、投光手段と光学的に同軸に配置した撮像手段によって撮影されたパターン画像とを比較し、撮影画像から投光パターン以外の距離計測可能なエッジを検出して、該エッジを含むパターンに基づいて再コード化を実行して、再コード化したデータに基づいて距離情報を生成するように構成したので、より高精度な距離算出が可能になる３次元画像生成装置および３次元画像生成方法が実現される。
【図面の簡単な説明】
【図１】本発明の３次元画像生成装置において使用される３次元形状計測装置の構成例を示すブロック図である。
【図２】本発明の３次元画像生成装置において使用される３次元形状計測装置のカメラ構成例を示すブロック図である。
【図３】本発明の３次元画像生成装置において使用される３次元形状計測装置の撮像構成を説明する図である。
【図４】本発明の３次元画像生成装置において使用される３次元形状計測装置の処理フローを示す図である。
【図５】本発明の３次元画像生成装置において使用される３次元形状計測装置の投影パターンのコード化の例を示す図である。
【図６】本発明の３次元画像生成装置において使用される３次元形状計測装置の撮影構成例を示す図である。
【図７】本発明の３次元画像生成装置において使用される３次元形状計測装置の投影パターン例を示す図である。
【図８】本発明の３次元画像生成装置において使用される３次元形状計測装置のカメラ１で撮影されるスリットパターンの例を示す図である。
【図９】本発明の３次元画像生成装置において使用される３次元形状計測装置のカメラ２で撮影されるスリットパターンの例を示す図である。
【図１０】本発明の３次元画像生成装置において使用される３次元形状計測装置において新たにコード化されたスリットパターンの例を示す図である。
【図１１】本発明の３次元画像生成装置において使用される３次元形状計測装置の空間コード化法による距離算出法を示す図である。
【図１２】本発明の３次元画像生成装置において使用される３次元形状計測装置のカメラ３で撮影されるスリットパターンの例を示す図である。
【図１３】本発明の３次元画像生成装置における２台の撮像手段を用いたパターン画像撮影構成を示す図である。
【図１４】本発明の３次元画像生成装置におけるパターンおよび測定対象物の具体例を説明する図である。
【図１５】本発明の３次元画像生成装置における投光パターン像、撮像パターン像の具体例を示す図である。
【図１６】本発明の３次元画像生成装置における投光パターン像、および抽出エッジの具体例を示す図である。
【図１７】本発明の３次元画像生成装置における測定対象物の形状または模様による新たなエッジ検出例（その１）を示す図である。
【図１８】本発明の３次元画像生成装置における測定対象物の形状または模様による新たなエッジ検出例（その２）を示す図である。
【図１９】本発明の３次元画像生成装置における測定対象物の形状または模様による新たなエッジ検出例（その３）を示す図である。
【図２０】本発明の３次元画像生成装置における測定対象物の形状または模様による新たなエッジ検出時の処理を説明するフローチャートである。
【図２１】空間コード化法によるコードの転写、途切れの例を説明する図である。
【符号の説明】
１０１ カメラ１
１０２ カメラ２
１０３ カメラ３
１０４ 投光器
１０５ ハーフミラー
１０６ 光源
１０７ マスクパターン
１０８ 強度パターン
１０９ プリズム
１２１，１２３，１２５ 輝度値メモリ
１２２，１２４，１２６ パターン画像メモリ
１２７ フレームメモリ
１２８ 領域分割部
１２９ 再コード化部
１３０，１３１ コード復号部
１３３ 距離情報の統合部
１３４ ３次元メモリ
３０１ プリズム
３０２，３０４ 透過フィルタ
３０３，３０５ 撮像装置
６０１，６０２，６０３ カメラ
６０４ 投光器
６０５ 壁
６０６ 板
８０１，９０１ 影領域
１３０１ 測定対象
１３０２ プロジェクタ
１３０３，１３０４ 撮像手段
１５０１，１５０２ 撮像手段
１７０１，１８０１，１９０１ 白い壁
１７０２，１８０２ ボード
１９０２ バスケットボール
１７０３，１８０３，１９０３ エッジ

Claims (12)

1. パターンを測定対象に投影する投光手段と、前記投光手段の光軸方向から投影パターンを撮影する第１の撮像手段と、前記投光手段光軸方向と異なる方向から前記投影パターンを撮影する第２の撮像手段とを備え、
   前記投光手段の出射光と、前記第１の撮像手段の入射光とは、ビームスプリッタによって分離される構成であり、前記投光手段と前記第１の撮像手段とは、それぞれが光学的に同軸となるように配置された構成を有し、
   前記第１の撮像手段の撮影した投影パターン画像と、前記投光手段による投影パターンとの比較により、前記第１の撮像手段の撮影した投影パターン画像に新たなエッジが検出された場合、検出された新たなエッジが距離測定に適用可能なエッジであるか否かを前記第１の撮像手段と第２の撮像手段の撮影データに基づいて決定されるエピポーラ線と平行であるか否かを判定し、平行でない場合に該検出エッジに基づく新規コードを割り付け、前記新規コードに基づいて第２の撮像手段による撮影パターンから第１の距離情報を生成する構成を有することを特徴とする３次元画像生成装置。
2. 前記３次元画像生成装置は、前記投影パターンに対する第１の撮像手段による撮影パターンの前記新たなエッジによって区分されるセルの強度変化量が所定値以上の領域について、該第１の撮像手段による撮影パターンに対応する新規コードを割り付け、前記新規コードに基づいて第２の撮像手段による撮影パターンから前記第１の距離情報を生成する構成を有することを特徴とする請求項１に記載の３次元画像撮像装置。
3. 前記第１の距離情報および第１または第２の撮像手段より得られた輝度情報に基づいて３次元画像を生成する構成を有することを特徴とする請求項１に記載の３次元画像生成装置。
4. 前記投光手段による投影パターンに対する第１の撮像手段による撮影パターンの変化量が所定値未満の領域について、第１の撮像手段および第２の撮像手段より得られた各輝度情報の対応づけにより第２の距離情報を生成し、前記第１の距離情報、第２の距離情報および第１または第２の撮像手段より得られた輝度情報を用いて３次元画像を得るよう構成したことを特徴とする請求項１に記載の３次元画像生成装置。
5. 前記投光手段は不可視領域の光を発生する光源を有し、第１の撮像手段は不可視領域の光を透過するフィルターおよび不可視領域の光を遮断するフィルターを有することを特徴とする請求項１に記載の３次元画像生成装置。
6. 前記第２の撮像手段は、前記測定対象を異なる角度で撮像する複数の撮像手段によって構成され、該複数の第２の撮像手段の各々の撮影した投影パターンに基づいて求められる距離情報を合成して３次元画像を得るよう構成したことを特徴とする請求項１に記載の３次元画像生成装置。
7. 前記第１の撮像手段の撮影する投影パターン画像に検出される新たなエッジは、前記測定対象の形状、模様、輝度差、反射率差のいずれかに基づいて発生するエッジであることを特徴とする請求項１に記載の３次元画像生成装置。
8. 投光手段により、パターンを測定対象に投影する投光ステップと、
   前記投光手段の光軸方向から投影パターンを撮影する第１の撮像手段と、前記投光手段光軸方向と異なる方向から前記投影パターンを撮影する第２の撮像手段とにより、パターンの投影された測定対象を撮影するステップと、
   前記第１の撮像手段の撮影した投影パターン画像と、前記投光手段による投影パターンとの比較を実行するステップと、前記第１の撮像手段の撮影した投影パターン画像に新たなエッジが検出された場合、検出された新たなエッジが距離測定に適用可能なエッジであるか否かを前記第１の撮像手段と第２の撮像手段の撮影データに基づいて決定されるエピポーラ線と平行であるか否かを判定し、平行でない場合に該検出エッジに基づく新規コードを割り付けるステップと、
   前記新規コードに基づいて第２の撮像手段による撮影パターンから第１の距離情報を生成するステップと、
   を有することを特徴とする３次元画像生成方法。
9. 前記３次元画像生成方法は、さらに、
   前記投影パターンに対する第１の撮像手段による撮影パターン内に含まれる、前記新たなエッジによって区分されるセルの強度変化量が所定値以上の領域について、該第１の撮像手段による撮影パターンに対応する新規コードを割り付けるステップと、前記新規コードに基づいて第２の撮像手段による撮影パターンから前記第１の距離情報を生成するステップと、
   を有することを特徴とする請求項８に記載の３次元画像生成方法。
10. 前記３次元画像生成方法は、さらに、
    前記第１の距離情報および第１または第２の撮像手段より得られた輝度情報に基づいて３次元画像を生成するステップを有することを特徴とする請求項８に記載の３次元画像生成方法。
11. 前記３次元画像生成方法は、さらに、
    前記投光手段による投影パターンに対する第１の撮像手段による撮影パターンの変化量が所定値未満の領域について、第１の撮像手段および第２の撮像手段より得られた各輝度情報の対応づけにより第２の距離情報を生成し、前記第１の距離情報、第２の距離情報および第１または第２の撮像手段より得られた輝度情報を用いて３次元画像を得るステップを有することを特徴とする請求項８に記載の３次元画像生成方法。
12. 前記３次元画像生成方法において、
    前記第２の撮像手段は、前記測定対象を異なる角度で撮像する複数の撮像手段によって構成され、該複数の第２の撮像手段の各々の撮影した投影パターンに基づいて求められる距離情報を合成して３次元画像を得ることを特徴とする請求項８に記載の３次元画像生成方法。

Images