JP5635218B1 - 空間コード化スライド画像に対するパターンのアライメント方法およびシステム - Google Patents

空間コード化スライド画像に対するパターンのアライメント方法およびシステム Download PDF

Info

Publication number
JP5635218B1
JP5635218B1 JP2014535225A JP2014535225A JP5635218B1 JP 5635218 B1 JP5635218 B1 JP 5635218B1 JP 2014535225 A JP2014535225 A JP 2014535225A JP 2014535225 A JP2014535225 A JP 2014535225A JP 5635218 B1 JP5635218 B1 JP 5635218B1
Authority
JP
Japan
Prior art keywords
image
projector
pattern
ideal
slide
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014535225A
Other languages
English (en)
Other versions
JP2014534428A (ja
Inventor
エベール,パトリック
ロシェット,フェリックス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Creaform Inc
Original Assignee
Creaform Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Creaform Inc filed Critical Creaform Inc
Application granted granted Critical
Publication of JP5635218B1 publication Critical patent/JP5635218B1/ja
Publication of JP2014534428A publication Critical patent/JP2014534428A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2504Calibration devices
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

3D計測用のシステムにおけるプロジェクタの出力において、エピポーラ線に沿って空間コード化スライド画像のパターンをアライメントさせる、空間コード化スライド画像の準備方法は、プロジェクタ座標の歪みベクトルを得るステップであって、各ベクトルは、プロジェクタによって生じる予測座標からの歪みを表すステップと、理想エピポーラ線上にアライメントされた空間コード化パターンの理想画像である理想パターン画像を読み出すステップと、実スライド画像を実スライド画像の実ピクセル座標ごとに生成するステップであって、現在の歪みベクトルを読み出すステップと、現在の歪みベクトルを用いて実ピクセル座標から歪みを除去することによって、理想パターン画像における理想ピクセル座標を得るステップと、理想パターン画像中の理想ピクセル座標におけるピクセル値を抽出するステップと、実スライド画像中の実ピクセル座標においてピクセル値をコピーするステップとであるステップと、を含む。

Description

本発明は、概して、物体の表面幾何形状の三次元スキャニングの分野に関し、より詳細には、構造化光立体視法に関する。
物体の表面幾何形状の三次元スキャニングおよびデジタル化は、多くの産業およびサービスにおいて一般的に用いられており、それらの応用は多数存在する。このような応用の数例には、工業生産システムにおける形状適合性の検査および計測、工業デザインおよびスタイリング応用のためのクレイモデルのデジタル化、複雑な幾何形状を持つ既存パーツのリバースエンジニアリング、マルチメディア応用における物体のインタラクティブな視覚化、芸術品および工芸品の三次元ドキュメンテーション、より良い装具適合、バイオメトリクス、または仕立て服のための人体スキャニングがある。
物体の形状は、センサと表面上の一連の点との距離を計測する距離センサを用いて、スキャニングおよびデジタル化が行われる。距離センサに関して異なる原理が開発されている。中でも、各々、精度に関する要件、センサと物体との隔離距離、および必要とされる被写界深度に応じて程度の差はあるが適切な、干渉法、飛行時間および三角測量に基づく原理は、周知の原理である。
一部の三角測量に基づく距離センサは、一般的に、例えば数メートルに満たない近距離計測に適している。この種の装置を用いて、物体上で同じ特徴点に収束する少なくとも2つの光線が、基線距離によって隔てられた2つの異なる視点から得られる。基線および2つの光線方向から、観測点の相対位置を復元することができる。2つの光線の交点は、三角形における一辺の長さおよび2つの角度の知識を用いて決定され、これは、実際に立体視における三角測量の原理である。立体視における課題は、各画像において、どのピクセルらが互いに対応するかを効率的に特定することである。
問題を単純化するために、光検出器(カメラ)の1つを既知の方向に一連の光線を出力する光プロジェクタに置き換えることができる。この場合、投影された光線の方向および物体表面で反射した各検出光線を利用して、三角形を解くことができる。そして、三角形の基底に対する観測された特徴点の各々の座標を計算することができる。
特殊な光検出器を使用してもよいが、一般的に、デジタルCCDまたはCMOSカメラが使用される。
プロジェクタに関しては、光源は、スポット、光の平面またはフルフィールドパターンを含む他の多くの可能なパターンを投影するコヒーレント光源(レーザ)または非コヒーレント光源(例えば白色光)でもよい。フルフィールドパターンは、プロジェクタの照明の2Dフィールドの一部または全体をカバーし得る2Dパターンである。この場合、各画像において、対応点の稠密集合をマッチングさせることができる。光プロジェクタの使用により、計測表面点の稠密集合を提供するための物体表面上のあらゆる反射点の検出が容易となる。しかしながら、パターンが複雑になるにつれて、対応するピクセルおよび光線を効率的に特定するという課題が難しくなる。
このため、投影幾何の理論の特性をさらに利用することとなる。2つのビューの場合、画像全体におけるサーチとは対照的に、対応ピクセルのサーチを単一の直線に限定するエピポーラ拘束を利用し得ることは、当該分野において少なくとも30年間周知のことである。この原理は、パッシブおよびアクティブ(プロジェクタを有する)立体視の両方で広く利用されている。この利用法の一例は、2つのカメラおよび十字線パターンを投影するレーザプロジェクタが用いられるシステムである。2つのカメラおよびレーザの配置は、十字線を構成するレーザ平面の各々が、各カメラのエピポーラ平面内でアライメントされるようなものである。従って、レーザ平面の一方は、観測された幾何形状とは無関係に、常に、ある画像中の同じ位置に映し出される。その結果、画像中の2つのレーザ平面間の曖昧さを排除することができる。これは、構造化光システムにおけるエピポーラ幾何の従来とは異なる応用である。
エピポーラ幾何は、校正パラメータから、または2つの画像中の一連の点をマッチングさせた後に計算することができる。従って、1つの画像のある点を所与として、対応点が存在する第2の画像中の直線(エピポーラ線)の方程式のパラメータを計算することができる。別のアプローチは、2つの画像を修正する(これは、全てのエピポーラ線が水平となり、アライメントされることを意味する)ことにある。従って、画像の修正は、エピポーラ線上のピクセルを特定するためにさらなる計算を行う必要がないので有利である。画像修正は、ソフトウェアによって、あるいは1つまたは2つのカメラ(またはプロジェクタ)の相対配向を慎重にアライメントすることによっても適用することができる。この場合、このアプローチは、ハードウェアアライメントと呼ばれる。
プロジェクタが縦縞を投影し、カメラがエピポーラ線が水平となるようにアライメントされる、ハードウェアアライメントが行われたカメラおよびプロジェクタの幾つかの例が存在する。この種のアライメントは、グレーコード縦パターンを利用する他の幾つかの構造化光システムに使用されている。縦縞の投影は、プロジェクタおよびカメラのアライメントに与える害が少ないが、単一の投影フレームからの点の空間密度を低下させる。フルフィールドコードも投影することができる。プロジェクタおよびカメラは、再度、各線に沿ったコード化パターンがプロジェクタスライドにおいてエピポーラ線に沿って投影されるようにアライメントされる。これらの状況下で、シーン幾何は、行コード化パターンの方向および垂直分離にほとんど影響を与えない。これらのコード化パターンは、物体までの距離とは無関係に、単一の線に沿って残る。しかしながら、3D計測値を獲得するための関連情報は、エピポーラ線に沿ったコードの変形において読み出される。エピポーラ線を用いたこのアライメントにより、各線に沿って異なるコードを投影することが可能となる。
残念ながら、エピポーラ幾何の原理の適用には未解決の問題がある。その信頼性は、プロジェクタレンズの種類および品質に応じて変化する。実際に、それは、レンズの歪みを説明していない。プロジェクタおよびカメラの一方にレンズの歪みが存在する場合、エピポーラ線は直線とはならない。これらは、湾曲し、厳密に、画像平面とのエピポーラ平面の交差から生じると見なすことができない。歪みは、一般的に、短い焦点距離を持つレンズを必要とする短距離システムにとってより重要である。歪みは、カメラの場合ソフトウェア計算により校正後に補正することができるが、プロジェクタの場合、後で補正することはできない。この場合、プロジェクタ画像(以下スライド画像と称する)において直線(エピポーラ)に沿って最初にアライメントされたコードは、レンズの後ろで直線に沿って物理的に投影されることはなく、従って、カメラの画像において、エピポーラ線に沿った良好なアライメントが得られない。ほとんどのレンズの場合、歪みは、画像の端および角に向けて増加する。これらの点を失うか、歪曲したエピポーラ線に沿って信号をコード化するためにより大きな帯域で補償するか(従って、計測の分解能が低下する)、あるいは、マッチングを簡単にするという当初の目的を損なう、より複雑な計算を適用することとなる。
本発明のある広範な局面によれば、フルフィールド構造化光のプロジェクタおよびカメラを有する物体の形状を3D計測するためのシステムにおけるプロジェクタの出力において、エピポーラ線に沿って空間コード化スライド画像のパターンをアライメントさせる、空間コード化スライド画像の準備方法であって、プロジェクタのプロジェクタ座標の歪みベクトルの集合を得るステップであって、歪みベクトルの各々は、プロジェクタによって生じる予測座標からの歪みを表すステップと、理想パターン画像を読み出すステップであって、理想パターン画像は、理想エピポーラ線上にアライメントされた空間コード化パターンの理想画像であるステップと、実スライド画像を実スライド画像の実ピクセル座標ごとに生成するステップであって、実ピクセル座標を用いて集合から現在の歪みベクトルを読み出すステップと、現在の歪みベクトルを用いて実ピクセル座標から歪みを除去することによって、理想パターン画像における理想ピクセル座標を得るステップと、理想パターン画像中の理想ピクセル座標におけるピクセル値を抽出するステップと、実スライド画像中の実ピクセル座標においてピクセル値をコピーするステップとであるステップと、を含む方法が提供される。
ある実施形態では、実スライド画像を生成するステップが、実スライド画像の電子版を生成するステップと、電子版をプログラム可能なプロジェクタに提供するステップとを含む。
ある実施形態では、ピクセル値を抽出するステップが、ピクセル値を補間するステップを含む。
ある実施形態では、ピクセル値は、レベル値である。
本発明の別の広範な局面によれば、フルフィールド構造化光のプロジェクタおよびカメラを有する物体の形状を3D計測するためのシステムにおいて、投影画像と、撮影画像とのコード化パターンのマッチングを容易にする方法であって、固有および外的パラメータに関してプロジェクタおよびカメラを校正するステップと、エピポーラ線に沿って空間コード化スライド画像のパターンをアライメントさせる空間コード化スライド画像を準備するステップと、プロジェクタを用いてシーン物体上に空間コード化パターンを投影するステップと、カメラを用いて物体上の空間コード化パターンを観測することにより、カメラ画像を生成するステップと、投影画像を用いてコードをマッチングさせるようにカメラ画像を処理するステップと、を含む方法が提供される。
ある実施形態では、この方法は、カメラ画像を処理するステップの前に、カメラ画像の歪みをなくし、修正するステップをさらに含む。
本発明のさらに別の広範な局面によれば、フルフィールド構造化光の固定スライドマスクを備えたプロジェクタおよびカメラを有する物体の形状を3D計測するためのシステムのセットアップ方法であって、レンズの口径および焦点を設定するステップと、空間コード化スライド画像を備えたスライドを準備するステップと、スライドをプロジェクタレンズにしっかりと取り付け、スライドの中心をレンズの光軸とアライメントさせるステップと、エピポーラ線に沿ってパターンコードをアライメントさせるように、レンズの光軸の周りの回転およびレンズの光軸に沿ったプロジェクタの並進を調節するステップと、を含む方法が提供される。
本開示の上記の特徴および目的は、同様の参照符号が同様の要素を示す添付の図面と併せて以下の発明を実施するための形態を参照すればより明白となるであろう。
図1は、図1A、図1Bおよび図1Cを含み、図1Aは、格子の図であり、図1Bは、バレル型の半径方向のレンズの歪みの影響の図であり、図1Cは、ピンクッション型の半径方向のレンズの歪みの影響の図である。 エピポーラ幾何の描写である。 図3は、図3Aおよび図3Bを含み、図3Aは、修正済みの構成の背面図を示し、図3Bは、修正済みの構成の上面図を示す。 修正プロセスの図である。 スライド画像に適用された歪み補償を示す。 実際のレンズによるエピポーラ線の変形を示す。 実パターンの生成方法例のフローチャートである。 図8は、図8Aおよび図8Bを含み、図8Aは、二値パターンの図であり、図8Bは、補間後の閾値化の影響の図である。 図9は、図9Aおよび図9Bを含み、図9Aは、予め歪曲されたスライド部分を対応する理想部分と共に示し、図9Bは、対応する理想部分を示す。 固定スライドマスクを適応させる方法例のフローチャートである。
プロジェクタによって投影されたパターンと、カメラによって撮影された画像中に検出されたパターンとの対応するマッチを見つけるために、本発明は、画像の端および角付近でも、高分解能コードのアライメントを可能にする。プロジェクタレンズは、プロジェクタスライド上に構築された画像を歪曲させる。スライドは、プロジェクタの光学素子の前に配置される物理的イメージャ部品である。これは、透過または反射イメージャ部品である。従って、スライド上で理想エピポーラ線に沿ってアライメントされたパターンコードは、レンズを通して投影されると、直線ではなく曲線となる。従って、この方法は、プロジェクタスライド上の仮想的な非歪曲直線上でパターンコードのアライメントを行う代わりに、レンズの後ろで実際のエピポーラ線とパターンコードのアライメントを行う。プロジェクタのレンズ光学素子によって誘発された歪みは、まずモデル化が行われ、次に、歪みモデルを適用することにより、直線に沿って最初にアライメントされたコード化パターンを変形させる。従って、その結果生じたスライド上のコード化パターンは、予め湾曲している。モデル化したように、投影レンズの歪みが生じ、カメラによって撮影された画像上のコード化パターンの歪みが取り除かれる。
図1は、図1Aに示す規則的格子101上の半径方向のレンズの歪みの影響を示す。半径方向の歪みは、図1Bの102で示されるバレル型の歪み、または図1Cの103で示されるピンクッション型の歪みを引き起こし得る。この影響は、周知のものである。直線が湾曲し、この影響は、短い焦点距離の場合より重要となる。半径方向の歪みは、マシンビジョンおよび写真測量法において補償される非常に一般的な種類の歪みであるが、他の種類のレンズの歪みも補償することができる。他のそのようなレンズの歪みの一例は、接線歪みである。
カメラおよびプロジェクタ双方の投影モデルは、レンズの歪み補償を有するピンホールである。ピンホールモデルは、世界基準座標系wにおける3D点
と、対応する画像点
との関係を記述する。ここで、チルダ上付き記号は、同次座標を示す。この関係は、
として定義される投影である。この方程式において、行列
は、カメラの固有パラメータを含み、式中、(u,v)は主点であり、αおよびβは、それぞれ画像の横軸および縦軸のスケール係数であり、(R,t)は、3×3の回転行列および世界基準座標系からカメラ基準座標系への変換を記述する3×1の並進ベクトルであり、λは、任意のスケール係数である。Rおよびtは、外的パラメータをコード化する。実際には、レンズの歪みにより、点は、投影が予測した座標aではなく、歪曲座標aにおいて映し出される。この歪みを補償するために、投影モデルは、半径方向項(例えば、2つの項が使用される場合k、k)と、任意で2つの接線項(例えばp、p)を用いて増補される。これらの追加の固有パラメータは、ベクトルdで表される。次に、座標aは、以下の関係a=a−δ(a,d)を用いて補正することができ、式中、
および
および
である。
逆に、理想的な非歪曲ピクセル座標から歪曲座標を得ることも有用である。この場合、aが求められるが、δは、aの関数であり、aのみが所与である。校正時に明確に計算されない限り、歪み関数を逆にする直接的方法は存在しない。テイラー級数近似に基づく逆モデルを用いることができる。しかしながら、かなりの歪みを持つ短焦点レンズの場合、この方法は、複雑さを増大させる。実際、級数の展開において、追加の項が必要とされる。代替方法の1つは、逆解を再帰的に近似することである。追加の計算は、オフライン校正との関連では無関係である。再帰方程式は、
である。
約10回の反復を用いて、逆写像を生成する。歪みを含む固有パラメータ並びにプロジェクタおよびカメラ間の幾何変換は、校正段階において事前に計算することができる。この幾何変換を記述するパラメータは、外的パラメータと呼ばれる。プロジェクタおよびカメラの組み合わせに関してこれらのパラメータを得るための2〜3の方法が当該分野において提案されている。パラメータを得た後、どちらか一方を所与として、歪曲および非歪曲ピクセルの両方を計算することができる。
2つのカメラまたは同等に1つのカメラおよびプロジェクタの組み合わせの投影幾何は、一方の画像におけるある点および第2の画像におけるその対応点の位置間の関係を記述する。一方の画像におけるある点を所与として、その対応点は、第2の画像中の直線に沿って位置する。このことは図2に示され、図中、点OおよびO’は、デバイスの投影中心であり、Pは、3D空間における点である。P、OおよびO’から成る集合は、線lおよびl’に沿った画像平面πおよびπ’の双方と交差するエピポーラ平面ωを定義する。線lおよびl’は、エピポーラ線である。従って、画像110における点pを所与とすると、画像111におけるその対応点p’は、l’に沿って見つかる。逆に、画像110におけるp’に対する対応点は、線lに沿って見つかる。一方の画像におけるある点を所与として、必須または基本行列の一方を用いて、対応するエピポーラ線の方程式を計算することができる。これらの行列は、校正後に得ることができる。興味深いことに、エピポーラ線の配向は、立体配置の輻輳により決定される。より正確には、画像平面πおよびπ’が共に平行であれば、エピポーラ線も同様に全て平行となる。基線とも平行であり、2つの投影中心を結ぶ線分として定義される2つの平行画像平面πおよびπ’という特殊なケースでは、エピポーラ線は、この基線と平行となる。
次に図3Aを参照して、画像平面113および114は、エピポーラ線が画像中の同じ線上に位置するように調節することができる。その後、これらの2つの画像平面は、修正済みと称される。エピポーラ平面は、112で示される。図3Bでは、2つの平行画像平面の上面図が示されている。プロジェクタおよびカメラの配置がこの厳密な構成と一致しない場合は、厳密な構成における2つの仮想平面を定義し、実画像をソフトウェア計算によって修正画像へと変換することもできる。この原理は図4に示されており、図中、原画像110中のピクセルpは、修正画像113中のその対応位置prectにコピーされる。この同じ原理は、画像111および114のペアに適用される。
空間コード化パターンがデコードを容易にするために投影されるフルフィールド構造化光システムでは、プロジェクタのコードをエピポーラ線に沿ってアライメントする方法が提案される。コードは、次に、画像全体における位置と比較して線上の非曖昧位置をコード化する。対応マッチングを容易にするために、エピポーラに沿って空間コードがほぼアライメントされるシステムを提案することができる。歪みが存在する場合、単純にエピポーラ幾何を用いることによってエピポーラ線に沿ってコードをアライメントすることはできない。実際、エピポーラ線は、スライド上で直線ではなく、それらは、単純に、エピポーラ平面を画像(スライド)平面と交差させることによって得ることはできない。コードは、プロジェクタから出力されると直線(光の平面において)となる曲線に沿ってアライメントすることができる。
容易に理解されるように、プロジェクタスライド上に存在するコードのみを、プロジェクタの歪みに関して調整する必要がある。これらのコードは、プロジェクタの出力においてエピポーラ線とアライメントされる。カメラによって撮影された画像は、プロジェクタの歪みに悩まされることはない。カメラによって撮影された画像は、必要であれば、単純に、カメラの光学素子によって生じたカメラの歪みを除去するために処理されればよい。
コード化パターンがエピポーラ線に沿って投影されることを確認するために、固有および外的パラメータに関して、プロジェクタおよびカメラから成る配置をまず校正する。次に、通常修正された構成にある全ての理想エピポーラ線上のコード化パターンの理想画像を考慮すれば、投影される画像スライドは、各ピクセルの位置がδ(a,d)の方向に補正された同じ画像である。これは、図5に示されている。理想ピンホールモデルは、122に示される。ピンホールの後ろの出力画像は、121で示され、投影画像は、120で示される。プロジェクタによる歪みのない理想的なケースでは、投影画像120の線127上に設けられた空間コードは、出力画像121上の線123に投影される。線127は、線123がエピポーラ線上でアライメントされるように選択されるであろう。しかしながら、プロジェクタによる歪みを補償するために、理想線127上に設けられるのではなく、空間コードは、実際の投影曲線124の1つに沿ってアライメントされる。これにより、歪みの後で、なお線123上に投影され、従って、エピポーラ線上でアライメントされることが確実となる。所与の点に関して、理想ピクセルおよび歪曲ピクセル間のベクトルを125で示す。図6は、実際のレンズ126を用いて生じた影響を示す。
実際に行われる実スライド画像を生成する方法の一例を図7の130に示す。プロジェクタ座標の歪みベクトルを最初に得る。これらは、例えば、上記に詳述したプロジェクタモデルを用いて決定することができる。容易に理解されるように、多少の半径方向および/または接線項を用いて、および/または他の歪み項を用いて、本発明から逸脱することなく、他のプロジェクタモデルを使用してもよい。各歪みベクトルは、特定のプロジェクタ座標におけるプロジェクタに起因する予測座標からの歪みを表す。理想パターン画像をメモリにロード(131)した後、132において、まず歪みベクトルを用いて実ピクセル座標から歪みを除去し、理想基準画像中のピクセル座標を得る(133)ことによって、実スライドの各ピクセルを処理する。この例では、光軸は、その中心でスライドと交差する。この交差点は、スライドの主点を定義する。理想パターン画像中のこれらのピクセル座標を計算した後に、これらのピクセル座標における理想パターン画像からのピクセル値が得られる。このピクセル値は、理想画像中の最も近いピクセルから直接抽出(0次補間)することができる、あるいは、サブピクセル補間(134)を用いて得ることができる。ピクセル値は、色および/または強度を表すレベル値でもよい。ピクセル値は、最後に、実スライド画像中の現在のピクセルにコピーされる(135)。このプロセスは、実スライド画像の全てのピクセルに対して繰り返される(136)。
このように、レンズの歪みが存在する場合でも、コード化パターンがエピポーラ線に沿って投影されることを確認する。次に、パターンは、カメラ画像中で観測される前に、シーン物体上で反射される。カメラ画像は、歪曲されておらず、プロジェクタを用いてコードをマッチングさせるために画像が処理される前に、図4に示す周知の原理に基づいてソフトウェアによって修正される。あるいは、カメラ画像は、修正を適用することなく直接処理されてもよい。次に、物体までの距離をマッチングされた点に対応するエピポーラ線に沿った視差から得ることができる。つまり、プロジェクタスライドおよびカメラ画像における対応する位置から、三角測量によって、シーン点の3D座標を得ることができる。三角形の基底は、基線に対応する。
一部のコード化パターンは、信号対雑音比を増加させるため、または画像端部に位置する点から3D位置が計算される際の精度の向上を得るために、二値画像でもよい。今述べたプロセスは、レンズの歪みの補償に効果があるが、その結果生じる画像は、サブピクセルの補間後に得られ、これにより、理想パターンが二値であったとしても、階調ピクセルが導入される。閾値化により二進値を課すことにより、投影画像の端部の形状が歪曲される。図8Aでは、理想空間コードの一例を140に示す。図8Bの141では、閾値化の潜在的影響を示す。
歪みを補償しながら二値パターンを維持するために、幾つかのさらなるステップを実施してもよい。矩形から成る理想二値パターンにおける垂直端部をより望ましく維持することができる。これを行う1つの方法は、0状態矩形の各々の歪曲中心を計算し、スライド上にそれを描く前に、1の値を用いてパターン画像を初期化することである。図9Aは、150において、その結果生じたスライドの一部を示す。光学素子によって「歪曲されない」期待投影パターンを図9Bの151に示す。2つの半径方向項(kおよびk)を用いて、図9Aの150に示されるスライド部分を生成した。この例では、モデルとしたレンズは、固定焦点Fujinon9mmのHF9HA−1B f/1.4型で、f/2で利用し、350mm離れて焦点を合わせた。校正後にkおよびkに関して得られた値は、k=−0.003162295864393およびk=0.000023351397144である。より連続的な水平端部もまた、各矩形を同じ高さを有する数個のより狭い副矩形に分割し、これらの副矩形の各々に対して同じ手順を適用した後に得ることができる。これは、通常分解能がほとんどのプログラム可能なプロジェクタよりも高い固定スライドマスクに関して特に興味深い。同じ目的を達成するために、この方法の他の実施形態も可能である。
プロジェクタスライドがプログラム可能である場合、パターンは、実行時に再構成が可能である。この場合、パターンコードは、校正パラメータに基づいて適応させることができる。
逆に、プロジェクタがスライド上に固定パターンを備える場合、エピポーラ幾何は、配置の機械設計から得ることができる。3D計測用のシステムをセットアップするための方法例160を図10に示す。レンズの歪みを考慮するためには、161において口径および焦点を調節した後に、162において、レンズの歪みパラメータを予め校正する。次に、これらのパラメータに基づき、図7に詳述し、図10において163に示す手順例を用いて、固定スライドマスクを生成する。この手順を、上記のFujinonレンズを用いて図9Aの150に示す画像を生成するために実施した。次のステップにおいて、164で、マスクをレンズに取り付け、歪みの中心を正確にアライメントする。これは、平面上の投影パターンを撮影する校正カメラを用いて行われる。投影行列は、同じ歪みモデルによって加えられるホモグラフィーを低減する。ホモグラフィーHは、マスクおよびカメラ画像の2D座標間の1対1の投影写像である。従って、スライドの主点をレンズの光軸にアライメントさせることが可能である。実際、光軸がスライドの主点と交差する際に、以下の式が最小化される。
この式において、aは、プロジェクタ歪みモデルを用いて歪みを除去した後のプロジェクタスライド上の点であり、aは、カメラ歪みモデルを用いて歪みを除去した後のカメラ画像中の点である。Haは、非歪曲プロジェクタスライドにマッピングされた点aである。Ωは、プロジェクタスライドおよびカメラ画像間のマッチングされた点の集合である。最後に、エピポーラ線に沿ったコードのアライメントを最適化するために、光源、スライドマスクおよび投影レンズを組み合わせたアセンブルされたプロジェクタをその光軸の周りで回転させ、その位置を微調整する。これを165に示す。これを行うには、センサ上に取り付けられたカメラを用いる。カメラ画像を修正し、水平線に沿ったコードのアライメントを確実にする。
上記の記載は、本発明者らによって現在検討された実施形態例に関するが、本発明は、その広範な局面において、本明細書に記載した要素の均等物を含むことを理解されたい。
上記に記載の実施形態は、単なる例示となるよう意図されたものである。従って、本発明の範囲は、添付の特許請求の範囲によってのみ限定されるよう意図されたものである。

Claims (7)

  1. フルフィールド構造化光のプロジェクタおよびカメラを有する物体の形状を3D計測するためのシステムにおける前記プロジェクタの出力において、エピポーラ線に沿って空間コード化スライド画像のパターンをアライメントさせる、前記空間コード化スライド画像の準備方法であって、
    前記プロジェクタのプロジェクタ座標の歪みベクトルの集合を得るステップであって、前記歪みベクトルの各々は、前記プロジェクタによって生じる予測座標からの歪みを表すステップと、
    理想パターン画像を読み出すステップであって、前記理想パターン画像は、理想エピポーラ線上にアライメントされた前記空間コード化パターンの理想画像であるステップと、
    実スライド画像を前記実スライド画像の実ピクセル座標ごとに生成するステップであって、
    前記実ピクセル座標を用いて前記集合から現在の歪みベクトルを読み出すステップと、
    前記現在の歪みベクトルを用いて前記実ピクセル座標から歪みを除去することによって、前記理想パターン画像における理想ピクセル座標を得るステップと、
    前記理想パターン画像中の前記理想ピクセル座標におけるピクセル値を抽出するステップと、
    前記実スライド画像中の前記実ピクセル座標において前記ピクセル値をコピーするステップと、
    を含む生成するステップと、
    を含む方法。
  2. 実スライド画像を生成する前記ステップが、前記実スライド画像の電子版を生成するステップと、前記電子版をプログラム可能なプロジェクタに提供するステップとを含む、請求項1に記載の方法。
  3. ピクセル値を抽出する前記ステップが、前記ピクセル値を補間するステップを含む、請求項1または2に記載の方法。
  4. 前記ピクセル値がレベル値である、請求項1〜3の何れか1項に記載の方法。
  5. フルフィールド構造化光のプロジェクタおよびカメラを有する物体の形状を3D計測するためのシステムにおいて、投影画像と、撮影画像とのコード化パターンのマッチングを容易にする方法であって、
    固有および外的パラメータに関して前記プロジェクタおよび前記カメラを校正するステップと、
    請求項1の前記ステップを実施することにより、エピポーラ線に沿って空間コード化スライド画像のパターンをアライメントさせる前記空間コード化スライド画像を準備するステップと、
    前記プロジェクタを用いてシーン物体上に前記空間コード化パターンを投影するステップと、
    前記カメラを用いて前記物体上の前記空間コード化パターンを観測することにより、カメラ画像を生成するステップと、
    前記投影画像を用いてコードをマッチングさせるように前記カメラ画像を処理するステップと、
    を含む方法。
  6. 前記カメラ画像を処理する前記ステップの前に、前記カメラ画像の歪みをなくし、修正するステップをさらに含む、請求項5に記載の方法。
  7. フルフィールド構造化光の固定スライドマスクを備えたプロジェクタおよびカメラを有する物体の形状を3D計測するためのシステムのセットアップ方法であって、
    前記レンズの口径および焦点を設定するステップと、
    請求項1の前記ステップを保有するステップと、
    前記スライドを前記プロジェクタレンズにしっかりと取り付け、前記スライドの中心を前記レンズの光軸とアライメントさせるステップと、
    前記エピポーラ線に沿って前記パターンコードをアライメントさせるように、前記レンズの前記光軸の周りの回転および前記レンズの前記光軸に沿った前記プロジェクタの前記並進を調節するステップと、
    を含む方法。
JP2014535225A 2011-11-23 2012-11-02 空間コード化スライド画像に対するパターンのアライメント方法およびシステム Active JP5635218B1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161563280P 2011-11-23 2011-11-23
US61/563,280 2011-11-23
PCT/IB2012/056112 WO2013076605A1 (en) 2011-11-23 2012-11-02 Method and system for alignment of a pattern on a spatial coded slide image

Publications (2)

Publication Number Publication Date
JP5635218B1 true JP5635218B1 (ja) 2014-12-03
JP2014534428A JP2014534428A (ja) 2014-12-18

Family

ID=48469222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014535225A Active JP5635218B1 (ja) 2011-11-23 2012-11-02 空間コード化スライド画像に対するパターンのアライメント方法およびシステム

Country Status (5)

Country Link
US (1) US8836766B1 (ja)
EP (1) EP2751521B1 (ja)
JP (1) JP5635218B1 (ja)
CN (1) CN103988048B (ja)
WO (1) WO2013076605A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10008007B2 (en) * 2012-09-20 2018-06-26 Brown University Method for generating an array of 3-D points
US9947112B2 (en) * 2012-12-18 2018-04-17 Koninklijke Philips N.V. Scanning device and method for positioning a scanning device
US9256943B2 (en) * 2013-03-28 2016-02-09 Texas Instruments Incorporated Projector-camera misalignment correction for structured light systems
US10089739B2 (en) * 2013-06-28 2018-10-02 Texas Instruments Incorporated Structured light depth imaging under various lighting conditions
CA2938104C (en) * 2014-02-05 2019-12-17 Creaform Inc. Structured light matching of a set of curves from two cameras
US10643343B2 (en) * 2014-02-05 2020-05-05 Creaform Inc. Structured light matching of a set of curves from three cameras
JP6394005B2 (ja) * 2014-03-10 2018-09-26 株式会社リコー 投影画像補正装置、投影する原画像を補正する方法およびプログラム
JP6376809B2 (ja) * 2014-04-03 2018-08-22 キヤノン株式会社 三次元形状計測システムに用いられる投影装置および撮像装置
TWI511086B (zh) * 2014-04-18 2015-12-01 Altek Semiconductor Corp 鏡頭失真校正方法
US9542732B2 (en) * 2015-04-03 2017-01-10 Cognex Corporation Efficient image transformation
US10275863B2 (en) 2015-04-03 2019-04-30 Cognex Corporation Homography rectification
US10531073B2 (en) 2016-03-17 2020-01-07 Samsung Electronics Co., Ltd. Method and apparatus for automatic calibration of RGBZ sensors utilizing epipolar geometry and scanning beam projector
DE102018004592A1 (de) * 2017-06-20 2018-12-20 Mitutoyo Corporation Messapparat für dreidimensionale Geometrie und Messverfahren für dreidimensionale Geometrie
KR102444288B1 (ko) 2017-11-08 2022-09-16 삼성전자주식회사 메타 렌즈를 포함하는 프로젝터
US11373321B2 (en) 2017-11-08 2022-06-28 Samsung Electronics Co., Ltd. Projector including meta-lens
US20190310373A1 (en) * 2018-04-10 2019-10-10 Rosemount Aerospace Inc. Object ranging by coordination of light projection with active pixel rows of multiple cameras
CN109128788B (zh) * 2018-10-16 2024-02-06 昆山迈致治具科技有限公司 一种校验批头位置的装置及方法
DE102018222796A1 (de) * 2018-12-21 2020-06-25 Conti Temic Microelectronic Gmbh Aufbau und Vermessung des Aufbaus zur Kalibrierung einer Kamera
CN111336949B (zh) * 2020-04-11 2023-06-02 武汉玄景科技有限公司 一种空间编码结构光三维扫描方法与***
EP3926295B1 (de) * 2020-06-16 2024-07-31 VITRONIC Dr.-Ing. Stein Bildverarbeitungssysteme GmbH Verfahren zum erkennen einer verzerrung eines ein codewort definierenden lichtmusters sowie lichtmuster

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1009969B1 (en) * 1996-06-13 2003-11-05 K.U. Leuven Research & Development Method and system for acquiring a three-dimensional shape description
JP4453119B2 (ja) * 1999-06-08 2010-04-21 ソニー株式会社 カメラ・キャリブレーション装置及び方法、画像処理装置及び方法、プログラム提供媒体、並びに、カメラ
EP1067362A1 (en) * 1999-07-09 2001-01-10 Hewlett-Packard Company Document imaging system
JP4501239B2 (ja) * 2000-07-13 2010-07-14 ソニー株式会社 カメラ・キャリブレーション装置及び方法、並びに、記憶媒体
JP2003228591A (ja) * 2002-02-01 2003-08-15 Hitachi Plant Eng & Constr Co Ltd Cad図面作成支援方法及びその装置
JP4095491B2 (ja) * 2003-05-19 2008-06-04 本田技研工業株式会社 距離測定装置、距離測定方法、及び距離測定プログラム
CA2600926C (en) 2005-03-11 2009-06-09 Creaform Inc. Auto-referenced system and apparatus for three-dimensional scanning
US7724379B2 (en) * 2005-05-12 2010-05-25 Technodream21, Inc. 3-Dimensional shape measuring method and device thereof
US8090194B2 (en) * 2006-11-21 2012-01-03 Mantis Vision Ltd. 3D geometric modeling and motion capture using both single and dual imaging
WO2008078744A1 (ja) * 2006-12-25 2008-07-03 Nec Corporation 距離計測装置、方法およびプログラム
CN100554873C (zh) * 2007-07-11 2009-10-28 华中科技大学 一种基于二维编码的三维形貌测量方法
US7768656B2 (en) 2007-08-28 2010-08-03 Artec Group, Inc. System and method for three-dimensional measurement of the shape of material objects
CN102042814B (zh) * 2010-06-24 2012-03-07 中国人民解放军国防科学技术大学 大型堆场三维形貌的投影辅助摄像测量方法
CN102175182B (zh) * 2011-01-27 2012-10-10 浙江大学宁波理工学院 结构光三维测量装置及其完整点云数据的获取方法
JP5132832B1 (ja) * 2011-07-11 2013-01-30 キヤノン株式会社 計測装置および情報処理装置
JP2013210254A (ja) * 2012-03-30 2013-10-10 Canon Inc 三次元計測装置、三次元計測方法及び三次元計測プログラム

Also Published As

Publication number Publication date
CN103988048A (zh) 2014-08-13
WO2013076605A1 (en) 2013-05-30
EP2751521A4 (en) 2014-11-19
CN103988048B (zh) 2016-12-07
US8836766B1 (en) 2014-09-16
EP2751521A1 (en) 2014-07-09
US20140247326A1 (en) 2014-09-04
EP2751521B1 (en) 2016-03-02
JP2014534428A (ja) 2014-12-18

Similar Documents

Publication Publication Date Title
JP5635218B1 (ja) 空間コード化スライド画像に対するパターンのアライメント方法およびシステム
CN110288642B (zh) 基于相机阵列的三维物体快速重建方法
CN107077743B (zh) 用于阵列相机的动态校准的***和方法
JP6429772B2 (ja) 3d走査および位置決めシステム
KR101259835B1 (ko) 깊이 정보를 생성하기 위한 장치 및 방법
EP2068280B1 (en) Image Distortion Correction
KR100776649B1 (ko) 깊이 정보 기반 스테레오/다시점 영상 정합 장치 및 방법
US20140285638A1 (en) Reference image techniques for three-dimensional sensing
CN109325981B (zh) 基于聚焦像点的微透镜阵列型光场相机几何参数标定方法
CN107808398B (zh) 摄像头参数算出装置以及算出方法、程序、记录介质
US20130272600A1 (en) Range image pixel matching method
Zhou et al. A two-step calibration method of lenslet-based light field cameras
WO2009120073A2 (en) A dynamically calibrated self referenced three dimensional structured light scanner
JP4843544B2 (ja) 3次元画像補正方法及びその装置
JP7489253B2 (ja) デプスマップ生成装置及びそのプログラム、並びに、デプスマップ生成システム
Zhang et al. Development of an omni-directional 3D camera for robot navigation
KR101592405B1 (ko) 3차원 영상 획득 방법, 장치 및 컴퓨터 판독 가능한 기록 매체
CN110708532B (zh) 一种普适光场单元图像生成方法和***
JP6591332B2 (ja) 放射線強度分布測定システム及び方法
JP2013120435A (ja) 画像処理装置および画像処理方法、プログラム
CN115719320A (zh) 基于遥感影像的倾斜校正稠密匹配方法
Kawasaki et al. Optimized aperture for estimating depth from projector's defocus
CN114143426A (zh) 一种基于全景结构光的三维重构***和方法
KR20220078447A (ko) 저밀도 영역을 복원하는 이미지 복원 장치의 동작 방법
CA2810587C (en) Method and system for alignment of a pattern on a spatial coded slide image

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140930

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141015

R150 Certificate of patent or registration of utility model

Ref document number: 5635218

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250