JP2021117228A - 三次元形状測定装置及び三次元形状測定方法 - Google Patents

三次元形状測定装置及び三次元形状測定方法 Download PDF

Info

Publication number
JP2021117228A
JP2021117228A JP2021006420A JP2021006420A JP2021117228A JP 2021117228 A JP2021117228 A JP 2021117228A JP 2021006420 A JP2021006420 A JP 2021006420A JP 2021006420 A JP2021006420 A JP 2021006420A JP 2021117228 A JP2021117228 A JP 2021117228A
Authority
JP
Japan
Prior art keywords
coordinates
measurement
image
imaging
error
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021006420A
Other languages
English (en)
Inventor
薫 宮田
Kaoru Miyata
薫 宮田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitutoyo Corp
Mitsutoyo Kiko Co Ltd
Original Assignee
Mitutoyo Corp
Mitsutoyo Kiko Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitutoyo Corp, Mitsutoyo Kiko Co Ltd filed Critical Mitutoyo Corp
Publication of JP2021117228A publication Critical patent/JP2021117228A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B21/00Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant
    • G01B21/02Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring length, width, or thickness
    • G01B21/04Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring length, width, or thickness by measuring coordinates of points
    • G01B21/045Correction of measurements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2545Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • G06T2207/30208Marker matrix

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optics & Photonics (AREA)
  • Geometry (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

【課題】光学素子の歪みの影響を高精度に補正する。【解決手段】撮像装置の幾何特性を表す幾何特性情報と、撮像装置と基準器具との相対的な位置姿勢情報とを用いて、基準器具上の特徴点を撮像装置の画像面へ仮想的に投影し、画像面において特徴点に対応する仮想撮像画素の座標を特定する仮想座標特定部402と、測定撮像画像に含まれる測定撮像画素の座標を補正するための補正情報を作成する補正部403と、撮像装置が測定対象物を撮像して生成した測定撮像画像に含まれる複数の測定撮像画素の座標を幾何特性情報及び補正情報に基づいて補正し、その画素座標を基に算出される測定三次元座標に基づいて測定対象物の形状を特定する形状特定部405と、を備える三次元形状測定装置。【選択図】図2

Description

本発明は、測定対象物の三次元形状を測定する三次元形状測定装置及び三次元形状測定方法に関する。
光パターン投影法は、三角測量法の原理を利用しており、プロジェクタから縞状のパターンを測定対象物に投影し、測定対象の形状にならって変形するパターンをカメラで撮影することにより三次元形状測定を行う。三次元形状測定では、撮像部や投影部の光学的な不完全性等によって生じる画像の歪みの影響により測定精度が低下することがある。このため、歪み補正用の基準器具を撮像することにより画像の歪みを求め、画像の歪を補正することが重要である。特許文献1には、基準器具上の較正パターンを撮像することにより、画像の歪みを補正することが記載されている。
特開2017−207346号公報
特許文献1に記載された方法では、精度を確保するために、特定の波長光を照射して較正をしている。しかし、画像の歪みは複雑であることから、このような方法だけでは十分な精度を確保することが難しいという問題があった。
そこで、本発明はこれらの点に鑑みてなされたものであり、複雑な画像の歪みに対応して、より高精度な測定ができる三次元形状測定装置及び三次元形状測定方法を提供することを目的とする。
本発明の第1の態様の三次元形状測定装置は、撮像装置を含み、前記撮像装置により測定対象物を撮像した測定撮像画像に基づいて、当該測定対象物の三次元形状を測定する三次元形状測定装置であって、複数の特徴点を有する基準器具を前記撮像装置により撮像して生成した実測撮像画像における前記特徴点に対応する実測撮像画素の座標を特定する実測座標特定部と、前記撮像装置の幾何特性を表す幾何特性情報と、前記撮像装置と前記基準器具との相対的な位置姿勢情報とを用いて、前記基準器具上の特徴点を前記撮像装置の画像面へ仮想的に投影し、前記画像面において前記特徴点に対応する仮想撮像画素の座標を特定する仮想座標特定部と、前記実測撮像画素の座標と前記仮想撮像画素の座標との比較に基づいて、前記測定撮像画像に含まれる測定撮像画素の座標を補正するための補正情報を作成する補正部と、前記撮像装置が前記測定対象物を撮像して生成した測定撮像画像に含まれる複数の前記測定撮像画素の座標を前記幾何特性情報及び前記補正情報に基づいて補正し、その画素座標を基に算出される測定三次元座標に基づいて前記測定対象物の形状を特定する形状特定部と、を備える。
前記撮像装置の前記幾何特性情報は、光学素子の放射方向の歪みに関する係数を用いた関数と、当該光学素子の円周方向の歪みに関する係数を用いた関数の少なくとも一方を含んでもよい。前記補正部は、前記仮想撮像画素の座標と、前記実測撮像画素の座標との間に生じる誤差を特定し、前記補正部は、特定した前記誤差と、当該誤差に対応する画素の座標とを関連付けた誤差画像を作成し、前記形状特定部は、前記誤差画像において前記測定撮像画素に対応する画素の座標に関連付けられた前記誤差に基づいて、当該測定撮像画素の座標を補正し、補正後の座標に基づいて、前記測定三次元座標を算出してもよい。
前記補正部は、前記誤差が関連付けられていない画素の座標と異なる座標に関連付けられた複数の前記実測撮像画素の複数の前記誤差に基づいて、前記誤差が関連付けられていない前記画素の誤差を推定し、当該誤差に対応する前記画素の座標と、当該誤差とを関連付けることにより、前記誤差画像を生成してもよい。
前記補正部は、複数の位置や姿勢に設置された状態の前記基準器具を前記撮像装置により撮像することによって生成した複数の実測撮像画像に対応する複数の前記誤差画像を作成し、一つの前記誤差画像において前記測定撮像画素に関連付けられた誤差と、別の前記誤差画像において同じ前記測定撮像画素に関連付けられた誤差とを平均することにより、平均化された一つ以上の誤差画像を生成する合成部をさらに備えてもよい。
前記補正部は、奥行方向の軸の周りに前記基準器具を徐々に回転させた前記複数の実測撮像画像に対応する前記誤差画像を作成してもよい。前記形状特定部は、前記測定撮像画像に含まれる前記測定撮像画素に対応する測定三次元座標の概略値を求め、複数の前記誤差画像と、前記誤差画像に対応する前記基準器具の位置の奥行方向の座標と、当該概略値の奥行方向の座標とを利用して特定した誤差に基づいて、前記測定三次元座標を算出してもよい。前記三次元形状測定装置は、投影画像を投影する投影装置をさらに備え、前記撮像装置は、前記投影画像が投影された前記測定対象物を撮像することにより、前記測定撮像画像を生成してもよい。
本発明の第2の態様の三次元形状測定方法は、撮像装置により測定対象物を撮像した測定撮像画像に基づいて、当該測定対象物の三次元形状を測定する三次元形状測定方法であって、複数の特徴点を有する基準器具を前記撮像装置により撮像して生成した実測撮像画像における前記特徴点に対応する実測撮像画素の座標を特定するステップと、前記撮像装置の幾何特性を表す幾何特性情報と、前記撮像装置と前記基準器具との相対的な位置姿勢情報とを用いて、前記基準器具上の特徴点を前記撮像装置の画像面へ仮想的に投影し、前記画像面において前記特徴点に対応する仮想撮像画素の座標を特定するステップと、前記実測撮像画素の座標と前記仮想撮像画素の座標との比較に基づいて、前記測定撮像画像に含まれる測定撮像画素の座標を補正するための補正情報を作成するステップと、前記撮像装置が前記測定対象物を撮像して生成した測定撮像画像に含まれる複数の前記測定撮像画素の座標を前記幾何特性情報及び前記補正情報に基づいて補正し、その画素座標を基に算出される測定三次元座標に基づいて前記測定対象物の形状を特定するステップと、を備える。
本発明によれば、複雑な画像の歪みに対応して、より高精度に測定することができるという効果を奏する。
実施形態に係る三次元形状測定装置の概要について説明するための図である。 三次元形状測定装置の構成を示す図である。 基準器具の特徴点の例を示す図である。 基準器具の測定の様子を示す図である。 仮想撮像画素の座標を特定する方法について説明するための図である。 実測撮像画素と、仮想撮像画素との誤差の例を示す図である。 形状特定部が投影する投影画像の種類の例を示す図である。 正弦波状の輝度分布を有する階調の縞のパターンの例を示す。 2値の縞のパターンに対応するグレイコードの例を示す。 絶対投影座標と相対投影座標との関係を示す図である。 第1測定撮像画素と、第2測定撮像画素との対応関係を示す図である。 三次元形状測定装置による誤差画像の生成の処理手順を示すフローチャートである。 三次元形状測定装置による測定対象物の形状の特定の処理手順を示すフローチャートである。 奥行方向の座標と、特定の実測撮像画素の座標の誤差の横方向成分との関係を示す図である。
[三次元形状測定装置100の概要]
図1(a)〜図1(c)は、本実施形態に係る三次元形状測定装置100の概要について説明するための図である。図1(a)は、三次元形状測定装置100の構成を示す。三次元形状測定装置100は、1台以上の撮像装置により測定対象物を撮像した測定撮像画像に基づいて、測定対象物の三次元形状を測定する。三次元形状測定装置100は、第1撮像装置1、第2撮像装置2及び投影装置3を光学装置として備える。三次元形状測定装置100は、これらの光学装置の各種の動作を制御する制御部4を備える。
投影装置3は、発光ダイオード又はレーザ等の光源を有している投影装置である。投影装置3は、投影座標を特定するためのパターン等を含む投影画像を測定対象物の測定面に投影する。投影座標は、投影装置3が投影する投影画像を構成する投影画素の位置を示す。投影座標は、投影画像の縦方向又は横方向のいずれか一方の位置を示す一次元座標であってもよく、投影画像の縦方向及び横方向の両方の位置を示す二次元座標であってもよい。パターンは、例えば、縞のパターンである。また、投影装置3の数は、1台に限定されず、三次元形状測定装置100は、任意の台数の投影装置を備えてもよい。
第1撮像装置1は、光学素子11及び撮像素子12を有している。光学素子11は、例えば、レンズである。光学素子11は、複数のレンズやミラーを含んでもよい。第1撮像装置1は、投影装置3が投影画像を測定対象物に投影する際に、測定対象物に投影された投影画像を撮像することにより第1撮像画像を生成する。第1撮像装置1は、その光軸が投影装置3の光軸と所定の角度をなすように配置される。
第2撮像装置2は、光学素子21及び撮像素子22を有している。光学素子21は、例えば、レンズである。光学素子21は、複数のレンズやミラーを含んでもよい。第2撮像装置2は、投影装置3が投影画像を測定対象物に投影する際に、測定対象物に投影された投影画像を撮像することにより第2撮像画像を生成する。第2撮像装置2は、その光軸が投影装置3の光軸と所定の角度をなすように配置される。第2撮像装置2の光軸は、第1撮像装置1の光軸及び投影装置3の光軸と同一平面をなしてもよいが、これに限定されない。制御部4は、例えばコンピュータにより実現できる。制御部4は、第1撮像装置1及び第2撮像装置2が生成した複数の撮像画像に基づいて、測定対象物の三次元形状を測定する。また、撮像装置の数は2台に限定されず、三次元形状測定装置100は、任意の台数の撮像装置を備えてもよい。
図1(b)及び(c)は、投影装置3が測定対象物に投影画像を投影している状態において第1撮像装置1が生成した測定撮像画像の例を示す。図1(b)及び(c)に示すように、投影装置3は、2値の縞のパターンを含む投影画像を測定対象物に投影する。2値の縞のパターンは、光が投影される光投影領域及び光が投影されない非投影領域から構成される。図1(b)は、投影装置3が2値の縞のパターンを含む投影画像を凹凸がない測定面に向けて投影した場合に、第1撮像装置1及び第2撮像装置2が生成する測定撮像画像を示している。白色の領域は光投影領域を示しており、黒色の領域は非投影領域を示している。測定面に凹凸がない場合、第1撮像装置1及び第2撮像装置2が生成する測定撮像画像の2値の縞のパターンは、投影画像の2値の縞のパターンと形状が概略一致する。
図1(c)は、投影装置3が、凸部がある測定面に2値の縞のパターンを投影した場合に第1撮像装置1又は第2撮像装置2が生成する測定撮像画像である。図1(c)の測定撮像画像においては、2値の縞のパターンの一部の画像が変形した状態になっている。測定撮像画像においては、凸部の高さに応じた量だけ2値の縞のパターンの画像が変形する。そこで、三次元形状測定装置100は、測定撮像画像における2値の縞のパターンの画像の変形量に基づいて凸部の各位置の高さを特定することにより、測定対象物の形状を測定することができる。
三次元形状測定装置100は、第1撮像装置1と第2撮像装置2の幾何特性を表す焦点距離や画像中心などのパラメータとレンズ歪の関数等を示す幾何特性情報、個々の撮像装置と基準器具との相対的な位置姿勢の情報を記憶部に記憶しており、これらの情報を参照して、撮像画像の歪みを補正しつつ、測定対象物の形状を特定する。三次元形状測定装置100は、二次元座標もしくは三次元座標が予め分かっている基準器具の特徴点を撮像することにより、幾何特性を表す幾何特性情報のみでは対処が困難な三次元座標の測定の誤差に対処する。三次元形状測定装置100は、特定した誤差を参照して、測定対象物の測定点の三次元座標を測定するので、画像の歪みの影響をより高精度に補正することができる。
[三次元形状測定装置の構成]
図2は、三次元形状測定装置100の構成を示す図である。三次元形状測定装置100は、図1に示した第1撮像装置1、第2撮像装置2、投影装置3及び制御部4の他に記憶部5を備える。
記憶部5は、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスク等の記憶媒体を含む。記憶部5は、制御部4が実行するプログラムを記憶している。制御部4は、例えばCPU(Central Processing Unit)である。制御部4は、記憶部5に記憶されたプログラムを実行することにより、実測座標特定部401、仮想座標特定部402、補正部403、合成部404及び形状特定部405として機能する。
[基準器具の測定]
実測座標特定部401は、複数の特徴点を有する基準器具を第1撮像装置1又は第2撮像装置2に撮像させることにより実測撮像画像を生成する。実測座標特定部401は、生成した実測撮像画像において基準器具の特徴点に対応する画素(以下、実測撮像画素ともいう)の座標を特定する。
図3(a)及び図3(b)は、基準器具の特徴点の例を示す図である。図3(a)及び図3(b)は、いずれも基準器具を上から見た様子を示す。図3(a)は、複数の黒色の円が縦方向及び横方向に整列して配置された基準器具を示す。図3(b)は、市松模様が付された基準器具を示す。実測座標特定部401は、図3(a)に示す基準器具を用いる場合、黒色の円の中心を特徴点として定め、この特徴点に対応する実測撮像画素の座標を特定する。実測座標特定部401は、図3(b)に示す基準器具を用いる場合、市松模様を構成する白色及び黒色の正方形の各頂点を特徴点として定め、定めたこれらの特徴点に対応する実測撮像画素の座標を特定する。
基準器具の特徴点の位置は、他の測定器具(不図示)により予め測定されているものとする。例えば、基準器具に含まれる複数の特徴点のうちのいずれかを原点として、他の特徴点の相対的な座標を示す相対座標情報が記憶部5に記憶されている。基準器具に含まれる複数の特徴点の座標を示す情報が記憶部5に記憶されていてもよい。
図4は、基準器具51の測定の様子を示す図である。図4の例では、基準器具51は、平板状の部材であるが、これに限定されず、基準器具として任意の形状のものを用いることができる。実測座標特定部401は、1回以上にわたって基準器具51を撮像する。基準器具51は、測定において図4の矢印に示す奥行方向の座標が異なる複数の位置に順に設置される。また、複数の異なる姿勢で基準器具51を設置してもよい。
さらに、基準器具51が設置される複数の位置や、それぞれの位置に設置された場合の基準器具51の姿勢は予め定めておいてもよい。その場合、それらの位置や姿勢は概略のものでよい。実測座標特定部401は、基準器具51を撮像して撮像装置の幾何特性を示す幾何特性情報を取得する際に、撮像装置と基準器具51との相対的な位置姿勢を示す位置姿勢情報も取得する。また、実測座標特定部401は、撮像装置同士の組み合わせや、撮像装置と投影装置との組み合わせなどによる三角測量によって、基準器具51上の個々の特徴点の三次元座標を測定し、基準器具51の位置姿勢を示す位置姿勢情報を取得することもできる。
実測座標特定部401は、基準器具51がそれぞれの位置や姿勢で設置された状態において基準器具51を撮像することにより複数の実測撮像画像を生成する。実測座標特定部401は、複数の実測撮像画像に基づいて、複数の位置等における基準器具51の特徴点の実測撮像画素の座標をそれぞれ特定する。
基準器具51の位置や姿勢に対応する位置姿勢情報をg(=1,・・・,G)とする。基準器具51の特徴点に対応する特徴点情報をh(=1,・・・,H)とする。撮像画像上における実測撮像画素の位置を同次座標で表現するものとすると、実測座標特定部401は、基準器具51の特徴点hに対応する実測撮像画素の同次座標
Figure 2021117228
を以下の式(1)により特定する。
Figure 2021117228
式(1)中、ug,hは、撮像画像の画像面における同次座標の横方向成分を示す。vg,hは、画像面における同次座標の縦方向成分を示す。Tは、行列の転置を示す。
[仮想撮像画像の座標の特定]
仮想座標特定部402は、第1撮像装置1又は第2撮像装置2の幾何特性を表す幾何特性情報と、第1撮像装置1又は第2撮像装置2から見た基準器具51の相対的な位置姿勢を示す位置姿勢情報とを記憶部5から読み出す。仮想座標特定部402は、読み出した幾何特性情報に含まれるパラメータや関数と、位置姿勢情報に含まれる基準器具51の位置姿勢とを用いて、基準器具51上の特徴点を第1撮像装置1又は第2撮像装置2の画像面へ仮想的に投影したと仮定した場合に、この画像面において特徴点に対応する撮像画素(以下、仮想撮像画素ともいう)の座標を特定する。
図5は、仮想撮像画素の座標を特定する方法について説明するための図である。図5には、第1撮像装置1の光学中心Cを原点とするカメラ座標系と、基準器具51上の特徴点Oを原点とする世界座標系とを示す。カメラ座標系のX軸、Y軸及びZ軸、並びに、世界座標系のXw軸、Yw軸及びZw軸をそれぞれ示す。Xw軸及びYw軸は、基準器具51上において複数の特徴点が配置された平面を示す座標軸である。Zw軸は、複数の特徴点が配置された平面に直交する座標軸であり、本実施形態の例では、図4に示す奥行方向に対応している。図5中のfは、光学素子11の焦点距離を示す。なお、慣例にならい、画像面を撮像対象物が存在する側に配置して表している。
基準器具51の特徴点Mは、世界座標系を用いるとM = [XW YW ZW]T...(2)のように表現される。特徴点Mを第1撮像装置1の画像面に投影した仮想撮像画素mは、m = [u v]T...(3)のように表現され、画像面の横方向成分u及び縦方向成分vを含む。
特徴点M、仮想撮像画素mを同次座標で表現するとそれぞれ以下の式(4)及び(5)のようになる。
Figure 2021117228
Figure 2021117228
三次元のカメラ座標系における特徴点Mの座標をxとする。xは、以下のように表現することができる。
Figure 2021117228
式(6)中、Rは回転行列である。Tは並進ベクトルである。回転行列R及び並進ベクトルTは、撮像装置と基準器具との相対的な位置姿勢情報として利用できる。第1撮像装置1の焦点距離等の情報を含む行列をAとおくと、xは、大きさを示すスケールファクタsを用いて以下のように表現することができる。
Figure 2021117228
式(7)中、行列Aの各成分は以下のとおりである。
Figure 2021117228
式(8)に示す行列Aの各成分のうち、uは、撮像画像の中心の横方向成分を示す。vは、撮像画像の中心の縦方向成分を示す。αは、焦点距離fと、横方向の単位長さ当たりの画素数kとを用いて、α = fku...(9)のように表現することができる。βは、焦点距離fと、縦方向の単位長さ当たりの画素数kとを用いて、β = fkv...(10)のように表現することができる。この他、式(8)は画像のせん断係数を省略しているが、これを含めるようにしてもよい。
式(7)の両辺を正規化すると以下の式(11)のようになる。
Figure 2021117228
式(11)中、
Figure 2021117228
の各成分は、以下の式(12)のように表現される。
Figure 2021117228
第1撮像装置1における画像の歪みを考慮して式(5)、式(11)、式(12)を表現し直すと、以下の式(13)〜式(15)となる。
Figure 2021117228
Figure 2021117228
Figure 2021117228
式中の各変数の添え字dは、画像の歪みが考慮されていることを示す。画像の歪みは、正規化されたカメラ座標系において第1撮像装置1又は第2撮像装置2の幾何特性情報に含まれる関数を用いて以下の式(16)のように表現することができる。この幾何特性情報に含まれる関数内容としては、第1撮像装置1又は第2撮像装置2の幾何特性を表す焦点距離や画像中心などのパラメータやレンズ歪の関数である。
Figure 2021117228
式(16)中、rは、rn 2=xn 2+yn 2...(17)のように表現される。また、k(i=1,2)は、光学素子の放射方向の歪みに関する係数である。p(i=1,2)は、円周方向の歪みに関する係数である。xの同次座標は、所定の関数fを用いて以下の式(18)により表現される。
Figure 2021117228
同様にして、式(12)は、所定の関数fを用いて以下の式(19)のように変形される。
Figure 2021117228
また、第1撮像装置1等の幾何特性を表す幾何特性情報は、光学素子の放射方向の歪みに関する係数と、光学素子の円周方向の歪みに関する係数との両方を用いた関数を含む例に限定されない。例えば、第1撮像装置1等の幾何特性を表す幾何特性情報は、光学素子の放射方向の歪みに関する係数を用いた関数と、光学素子の円周方向の歪みに関する係数を用いた関数との少なくとも一方を含む形式でも良い。なお、ここで示したレンズ歪の関数は一例のものであって、その形式としては任意のものを扱うことができる。また、レンズ歪みの程度によっては、レンズ歪みの関数自体を使用しなくとも良い。
仮想座標特定部402は、回転行列R及び並進ベクトルTを用いて、位置姿勢情報gを有する特徴点Mに対応する仮想撮像画素mの同次座標を以下の式(20)を用いて特定する。
Figure 2021117228
仮想座標特定部402は、実測撮像画素の同次座標
Figure 2021117228
と、仮想撮像画素mの座標との誤差が最小になるように、式(20)の変数A、k、p、R、Tを求め、求めた各変数を記憶部5に記憶させる。
[誤差の特定]
補正部403は、実測座標特定部401が特定した実測撮像画素の座標と、式(20)を用いて求めた仮想撮像画素の座標とを比較する。補正部403は、比較結果に基づいて、撮像画素の座標を補正するための補正情報を作成する。
図6は、実測撮像画素と、仮想撮像画素との誤差の例を示す図である。図6中のiは、実測撮像画像における横方向の座標を示し、jは、実測撮像画像における縦方向の座標を示す。実測撮像画素を丸印で示し、仮想撮像画素を三角印で示す。補正部403は、式(20)の各変数を決定した後に、仮想撮像画素の座標と、実測撮像画素の座標との間に生じる誤差を特定する。実測撮像画素と仮想撮像画素との誤差eg,hを図6に矢印で示す。式(1)に示す実測撮像画素の座標
Figure 2021117228
と、式(20)に示す仮想撮像画素の座標
Figure 2021117228
との誤差eg,hは、以下の式(21)により表現される。
Figure 2021117228
誤差eg,hは、撮像画像のi方向に沿った成分e1,g,hと、撮像画像のj方向に沿った成分e2,g,hとを含む。補正部403は、誤差eg,hと、誤差eg,hに対応する実測撮像画素の座標とを関連付けて記憶部5に記憶させる。
[誤差画像の作成]
補正部403は、記憶部5において誤差が関連付けられていない撮像画素についても補間処理により誤差を推定する。まず、補正部403は、誤差が関連付けられていない撮像画素の座標と異なる座標に関連付けられた複数の実測撮像画素の複数の誤差を記憶部5から取得する。例えば、補正部403は、誤差が関連付けられていない撮像画素から所定距離以内の座標に記憶部5において関連付けられた複数の誤差を取得する。
補正部403は、取得した複数の誤差に基づく線形補間処理等の補間処理により、誤差が関連付けられていない撮像画素の座標の誤差を推定する。補正部403は、推定した誤差と、この誤差に対応する撮像画素の座標とを関連付けた誤差画像を作成する。補正部403は、実測撮像画素の座標と、実測撮像画素の座標に対応する誤差とを関連付けた組み合わせを誤差画像に含める。
誤差画像は、Eg = (E1,g, E2,g)...(22)のように表現することができる。式(22)中、E1,gは、実測撮像画素の座標の横方向に沿った誤差成分を示し、E2,gは、実測撮像画素の座標の縦方向に沿った誤差成分を示す。補正部403は、複数の実測撮像画像が実測座標特定部401により生成された場合には、複数の実測撮像画像に対応する複数の誤差画像を作成する。補正部403は、撮像画素の座標を補正するための補正情報として、作成した誤差画像を記憶部5に記憶させる。誤差画像は、式(16)の関数により表現することが困難な誤差を含めることができる。このため、補正部403は、式(16)の関数及び誤差画像を参照して測定対象物の測定結果を補正することにより、画像の歪み補正の精度を向上させることができる。
[単一の誤差画像の生成]
合成部404は、一つの誤差画像において撮像画素に関連付けられた誤差と、別の誤差画像において同じ撮像画素に関連付けられた誤差とを記憶部5からそれぞれ取得する。合成部404は、取得した複数の誤差を平均化することにより、この撮像画素に関連づけられた新たな誤差を算出する。合成部404は、他の撮像画素についても同様の処理を繰り返すことにより、単一の誤差画像を生成する。例えば、合成部404は、以下の式(23)に示すように複数の誤差画像の対応する誤差成分を平均化することにより単一の誤差画像を生成する。
Figure 2021117228
式(23)中、Gは、誤差画像の枚数を示す。
また、合成部404は、複数の誤差画像を平均化して単一の誤差画像を生成する例に限定されない。例えば、合成部404は、奥行方向の座標が比較的近い誤差画像を平均化して複数の誤差画像を生成するようにしても良い。例えば、合成部404は、No.1〜No.8の複数の誤差画像のうち、No.1〜No.3の誤差画像を平均化して、誤差画像を生成し、No.2〜No.4の誤差画像を平均化して、別の誤差画像を生成すること等により、複数の平均化された誤差画像を生成してもよい。これにより、記憶部5に記憶されている誤差画像の数を削減して処理量やメモリ容量を減らしたり、逆に誤差画像の数を増やして補正精度を高めるようにしても良い。なお、基準器具の奥行き方向の座標として、求められた撮像装置と基準器具との相対的な位置姿勢情報を使用しても良い。また、予め指定した基準器具の設置位置の情報や、複数の撮像装置あるいは撮像装置と投影装置の組み合せになどよって基準器具の特徴点を三次元座標測定した結果などを利用することもできる。
[幾何特性情報を利用した補正]
形状特定部405は、測定対象物の測定面に対し、投影装置3により投影画像を投影させる。形状特定部405は、第1撮像装置1及び第2撮像装置2を制御して、投影画像が投影された状態の測定対象物を撮像した測定撮像画像を生成させる。以下、第1撮像装置1により生成された測定撮像画像を第1測定撮像画像、第2撮像装置2により生成された測定撮像画像を第2測定撮像画像ということがある。
形状特定部405は、記憶部5に記憶されている式(16)に示す第1撮像装置1又は第2撮像装置2の幾何特性を表す幾何特性情報に含まれる関数と、補正部403が作成した補正情報としての誤差画像とに基づいて、測定撮像画像に含まれる複数の測定撮像画素の座標を補正する。形状特定部405は、測定撮像画像に含まれるそれぞれの測定撮像画素の座標について、式(16)に示す第1撮像装置1又は第2撮像装置2の幾何特性情報に含まれる関数を用いて全体的な歪みを補正する。
[単一の誤差画像を利用した補正]
形状特定部405は、合成部404が合成した単一の誤差画像を記憶部5から読み出す。形状特定部405は、測定撮像画素の座標に誤差画像において対応する画素の座標を特定する。例えば、形状特定部405は、測定撮像画素の座標に誤差画像において最も近い画素の座標を特定する。形状特定部405は、誤差画像において特定した画素の座標に関連付けられた誤差を特定する。
形状特定部405は、特定した誤差に基づいて、測定撮像画素の座標を補正する。例えば、形状特定部405は、測定撮像画像に含まれる測定撮像画素の座標(i,j)について、誤差画像が示す誤差成分E1,g(i,j)だけ横方向に座標を変更し、誤差成分E2,g(i,j)だけ縦方向に座標を変更することにより、局所的な歪みを補正する。
[投影座標の特定]
形状特定部405は、補正後の測定撮像画素の座標に基づいて、測定対象物の測定点の測定三次元座標を算出する。本実施形態の例では、形状特定部405が、第1測定撮像画像の第1測定撮像画素と、第2測定撮像画像の第2撮像画素との対応関係を特定することにより、測定点の測定三次元座標を算出する例について説明する。
図7は、形状特定部405が投影する投影画像の種類の例を示す図である。図7における黒色の領域は、形状特定部405が光を投影しない非投影領域を示しており、白色の領域は、形状特定部405が光を投影する光投影領域を示している。
図7(a)は、測定対象物の全体に光を投影しない基準パターン(全黒パターン)である。図7(b)は、測定対象物の全体に光を投影する基準パターン(全白パターン)である。図7(c)から図7(f)は、光投影領域及び非投影領域から構成され、投影画像ごとに幅の異なる縞が同一方向に配列された2値の縞のパターンを示している。詳細については後述するが、図7に示す縞のパターンは、グレイコードに対応しており、測定撮像画像の測定撮像画素に対応する投影画像の投影画素の位置を示す投影座標を特定するために用いられる。
形状特定部405は、正弦波状の輝度分布を有する階調の縞のパターンを含む投影画像を測定対象物に投影する。図8(a)〜(d)は、正弦波状の輝度分布を有する階調の縞のパターンの例を示す。図7(c)〜(f)の2値の縞のパターンは、黒色の領域と白色の領域とからなる2値画像であるのに対し、図8(a)〜(d)の階調の縞のパターンでは、縞の幅方向に沿って、白色の領域から黒色の領域まで濃淡が正弦波状に変化する。図8(a)〜(d)の階調の縞のパターンの縞の間隔は一定であり、これらの階調の縞のパターンの縞の空間周波数は、例えば、図7(f)の2値の縞のパターンの4倍である。
図8(a)〜(d)の階調の縞のパターンは、輝度分布を示す正弦波の位相がそれぞれ90度ずつ異なる点を除き、互いに同一の輝度分布を示す。本実施の形態では、形状特定部405は、図7(a)及び(b)に示す2枚の基準パターン、図7(c)〜(f)に示す4枚の2値の縞のパターン、及び図8(a)〜(d)に示す4枚の階調の縞のパターンの合計10枚の投影画像を投影する。図8に示す階調の縞のパターンは、図7に示す縞のパターンとともに、投影座標を特定するために用いられる。また、形状特定部405は、縞が延びる方向によって縞の幅が異なるパターンを含む複数の投影画像を測定対象物に投影してもよい。
上記のとおり、図7(c)〜図7(f)に示す2値の縞のパターンは、グレイコードに対応している。図9は、図7(c)〜図7(f)に示す2値の縞のパターンに対応するグレイコードの例を示す。グレイコードにおける0を非投影領域に対応させ、1を光投影領域に対応させることで、図7(c)から図7(f)に示す2値の縞のパターンが生成される。
図7及び図9におけるx方向の各位置は、各グレイコードの対応する位置の0又は1の数字を組み合わせたコード値によって表される。図9における位置0はコード値「0000」に対応し、位置1はコード値「0001」に対応し、位置15はコード値「1000」に対応する。
形状特定部405は、測定対象物に投影された投影画像を第1撮像装置1及び第2撮像装置2により撮像した測定撮像画像をそれぞれ生成する。形状特定部405は、測定撮像画像に含まれるパターンに基づいて、測定撮像画像に含まれる測定撮像画素に対応する投影画素の位置を示す投影座標を特定する。形状特定部405は、測定撮像画像に含まれるパターンにおける濃淡の変化を解析することにより、測定撮像画像に含まれる測定撮像画素に対応する投影座標を特定する。
形状特定部405は、図7(a)に示す全黒パターンを投影した場合の輝度値と、図7(b)に示す全白パターンを投影した場合の輝度値との平均を画素ごとに中間値として算出する。同様に、形状特定部405は、図7(c)〜図7(f)の2値の縞のパターンを測定対象物に投影した状態の測定撮像画像について、4枚の測定撮像画像における各測定撮像画素の輝度値をそれぞれ対応する中間値と比較することにより、各測定撮像画素のコード値を特定する。形状特定部405は、コード値を特定することより、各測定撮像画素の位置に、どの位置に向けて投影された2値の縞が写っているかを特定することができる。形状特定部405は、測定撮像画像に含まれる各測定撮像画素が、図9に示す位置0から位置15までのどの位置に含まれるかを特定する。
さらに、形状特定部405は、正弦波状の輝度分布を有する階調の縞のパターンを測定対象物に投影した際の測定撮像画像において測定撮像画素に対応する正弦波の位相を投影座標として特定する。投影画像の階調の縞のパターンは、周期性を有するため、投影画像において複数の投影画素が同じ投影座標を有する。以下、投影画像において周期性を有する投影座標を相対投影座標とも呼ぶ。一方、投影画像において一意に定められる投影座標を特に絶対投影座標とも呼ぶ。
図10は、絶対投影座標と相対投影座標との関係を示す図である。図10の縦軸は、投影座標を示す。図10の横軸は、投影画像に含まれる縞の幅方向における投影画素の位置を示す。幅方向は、縞の延びる方向と直交する方向である。図10の実線が示すように、相対投影座標は周期性を有する。相対投影座標は、正弦波状の輝度分布を有する階調の縞のパターンの繰り返しの1周期ごとに同じ値を示す。一方、図10の破線が示すように、絶対投影座標は、投影画像において一意に定められる。
形状特定部405は、階調の縞のパターンの濃淡を解析することにより、測定撮像画素に対応する相対投影座標を特定する。形状特定部405は、2値の縞のパターンが示すグレイコードに基づいて、この測定撮像画素が位置0から位置15のどの位置に対応するかを特定することにより、測定撮像画素に対応する絶対投影座標を特定する。
[測定三次元座標の対応関係の特定]
第1撮像装置1が生成した第1測定撮像画像に含まれる第1測定撮像画素と、第2撮像装置2が生成した第2測定撮像画像に含まれる第2測定撮像画素との対応関係は、エピポーラ線を用いて求めることができる。図11は、第1測定撮像画素Aと、第2測定撮像画素Bとの対応関係を示す図である。図11の左側は、第1測定撮像画像の画像面を示し、図11の右側には、第2測定撮像画像の画像面を示す。
第2測定撮像画像の画像面には、第1測定撮像画素Aに対応するエピポーラ線EBAを示す。第1測定撮像画素A及び第2測定撮像画素Bが測定対象物の同じ測定点Mに対応しているものとすれば、第2測定撮像画素Bは、第2測定撮像画像の画像面においてエピポーラ線EBA上にある。
形状特定部405は、測定対象物上において第1測定撮像画素Aと同じ測定点Mに対応する第2測定撮像画素Bを特定する。具体的には、形状特定部405は、第1測定撮像画素Aに対応するエピポーラ線EBA上にあり、且つ、この第1測定撮像画素Aと同じ絶対投影座標を有する第2測定撮像画素Bを特定する。第1撮像装置1を示す添え字をαとすると、式(19)は、以下の式(24)のように書き換えられる。
Figure 2021117228
第2撮像装置2を示す添え字をβとすると、式(19)は、以下の式(25)のように書き換えられる。
Figure 2021117228
これらの測定対象物の同じ測定点Mに対応する第1測定撮像画素Aと第2測定撮像画素Bを使用する。形状特定部405は、仮想座標特定部402が求めた変数Aα、kα、pα、Rα,1、Tα,1、Aβ、kβ、pβ、Rβ,1、Tβ,1および誤差画像を記憶部5からそれぞれ読み出す。形状特定部405は、読みだしたAα、kα、pα、Rα,1、Tα,1、Aβ、kβ、pβ、Rβ,1、Tβ,1および誤差画像を使用して、撮像画像の歪の補正を行うと共に、測定点Mの測定三次元座標
Figure 2021117228
を算出することができる。
形状特定部405は、同様にして測定対象物の他の測定点の測定三次元座標を算出する。形状特定部405は、算出した複数の測定点の三次元座標に基づいて、測定対象物の形状を特定する。また、形状特定部405は、第1測定撮像画素Aと、第2撮像画素Bとの対応関係を特定することにより、測定点の測定三次元座標を算出する例に限定されない。例えば、形状特定部405は、第1測定撮像画素Aと、投影画像に含まれる投影画素との組み合わせを特定することにより、測定点の測定三次元座標を算出してもよい。
[補正に用いる誤差画像を選択する変形例]
また、形状特定部405は、補正に用いる誤差画像を測定撮像画素ごとに選択してもよい。補正部403は、基準器具51を設置した奥行方向の座標と、誤差画像とを関連付けた誤差テーブルを生成して記憶部5に記憶させる。
形状特定部405は、測定撮像画像に含まれる測定撮像画素に対応する測定三次元座標の概略値を求める。例えば、形状特定部405は、誤差画像を用いることなく、測定対象物の測定点の測定三次元座標の概略値を求める。形状特定部405は、データの有効桁数を落として測定三次元座標の概略値を求めてもよい。形状特定部405は、誤差テーブルを記憶部5から取得する。
形状特定部405は、複数の誤差画像を含む誤差テーブルを参照して、それぞれの誤差画像に対応する基準器具の位置の奥行方向の座標と、求めた概略値の奥行方向の座標とを比較する。形状特定部405は、この比較結果に基づいて、誤差画像を選択する。例えば、形状特定部405は、求めた概略値の奥行方向の座標に最も近い奥行方向の座標に関連付けられた誤差画像を選択する。
形状特定部405は、選択した誤差画像を参照して、測定三次元座標を算出する。例えば、形状特定部405は、測定三次元座標の概略値に最も近い撮像画素の座標に関連付けられた誤差を特定する。形状特定部405は、特定した誤差に基づいて、測定撮像画素の座標を補正する。形状特定部405は、補正後の測定撮像画素の座標に基づいて、測定点の測定三次元座標を算出する。
また、形状特定部405は、奥行方向について、概略値の奥行方向の座標に近い複数の誤差画像を選択して、概略値の奥行方向の座標に対応する誤差画像の値を内挿によって求めても良い。一例としては、形状特定部405は、選択した複数の誤差画像を用いて、直線内挿により概略値の奥行方向の座標に対応する誤差画像の値を求めてもよい。この方がより高精度な補正を実施できる。
概略値を得るために、次のような方法を用いても良い。例えば、図1の測定系では、撮像装置と投影装置とを組み合わせた三次元座標算出や、二つの撮像装置と投影装置とを用いた三次元座標算出など、複数の装置の組み合わせで測定することができる。このようにして得られる複数の測定系の中のある測定系の結果を、概略値として用いても良い。例えば、撮像装置と投影装置とを組み合わせた三次元座標を、二つの撮像装置と投影装置とを用いた測定の概略値に使用することができる。このようにすると、測定効率を高めることができる。
形状特定部405は、誤差画像を用いて画像の歪みを補正する例に限定されない。例えば、形状特定部405は、誤差画像を用いて投影装置3の画像の歪みを補正してもよい。投影装置3は、光の進行方向が逆になる以外は第1撮像装置1と同様であるため、形状特定部405は、第1撮像装置1と同様にして、投影装置3の画像の歪みを補正することができる。
[誤差画像の生成の処理手順]
図12は、三次元形状測定装置100による誤差画像の生成の処理手順を示すフローチャートである。この処理手順は、例えば、基準器具51が設置された状態において記憶部5に記憶されている第1撮像装置1の幾何特性情報に含まれる関数の校正を指示するユーザの操作を操作受付部(不図示)が受け付けたときに開始する。
まず、実測座標特定部401は、複数の特徴点を有する基準器具51を第1撮像装置1に撮像させて実測撮像画像を生成する。実測座標特定部401は、生成した実測撮像画像を解析することにより、基準器具51の特徴点に対応する実測撮像画素の座標を特定する(S101)。仮想座標特定部402は、第1撮像装置1の幾何特性を表すパラメータや関数を含む幾何特性情報と、基準器具51の位置や姿勢を識別する位置姿勢情報とを記憶部5から読み出す。仮想座標特定部402は、読み出した幾何特性情報及び位置姿勢情報を用いて、仮想撮像画素の座標を特定する(S102)。
補正部403は、仮想撮像画素の座標と、実測撮像画素の座標との間に生じる誤差を特定する(S103)。実測座標特定部401は、全ての実測撮像画素に対応する誤差を特定したか否かを判定する(S104)。実測座標特定部401は、S104の判定において全ての実測撮像画素に対応する誤差を特定したと判定した場合(S104のYES)、取得した複数の誤差に基づく補間処理を行い(S105)、誤差が関連付けられていない撮像画素に対応する誤差を推定する。
補正部403は、推定した誤差と、この誤差に対応する撮像画素の座標とを関連付けることにより、誤差画像を作成し(S106)、処理を終了する。実測座標特定部401は、S104の判定において全ての実測撮像画素に対応する誤差を特定していないと判定した場合(S104のNO)、S101の処理に戻る。
[測定対象物の形状特定の処理手順]
図13は、三次元形状測定装置100による測定対象物の形状の特定の処理手順を示すフローチャートである。この処理手順は、測定対象物の形状を特定することを指示するユーザの操作を操作受付部が受け付けたときに開始する。
まず、形状特定部405は、測定対象物に投影された投影画像を第1撮像装置1及び第2撮像装置2により撮像した測定撮像画像をそれぞれ生成する(S201)。形状特定部405は、第1撮像装置1等の幾何特性を示す関数を用いて、測定撮像画像に含まれるそれぞれの測定撮像画素の座標を補正する。形状特定部405は、合成部404が合成した単一の誤差画像を参照して、測定撮像画像に含まれるそれぞれの測定撮像画素の座標を補正する(S202)。
形状特定部405は、補正後の測定撮像画像に含まれるパターンにおける濃淡の変化を解析することにより、測定撮像画素に対応する投影画素の位置を示す投影座標を特定する(S203)。形状特定部405は、測定対象物の同じ測定点に対応する第1測定撮像画素と、第2測定撮像画素との組み合わせを特定することにより、測定対象物の測定点の測定三次元座標を算出する(S204)。
形状特定部405は、測定三次元座標の算出に用いていない別の測定撮像画素があるか否かを判定する(S205)。形状特定部405は、S205の判定において測定三次元座標の算出に用いていない別の測定撮像画素が残っていない場合には(S205のNO)、複数の測定点の測定三次元座標に基づいて、測定対象物の形状を特定する(S206)。形状特定部405は、S205において測定三次元座標の算出に用いていない別の測定撮像画素がある場合には(S205のYES)、S202の処理に戻る。
[本発明による効果]
本実施形態の三次元形状測定装置100では、形状特定部405は、測定撮像画像に含まれる複数の測定撮像画素の座標を第1撮像装置1の幾何特性を示す関数と、測定撮像画素の座標を補正するための補正情報とに基づいて補正する。このため、形状特定部405は、幾何特性を示す関数により表現することが困難な画像の歪みを高精度に補正することができる。
[奥行方向の軸の周りに回転させた基準器具を撮像する変形例]
実測座標特定部401は、奥行方向の軸の周りに基準器具51を徐々に回転させた複数の実測撮像画像を生成してもよい。補正部403は、これらの実測撮像画像に対応する誤差画像をそれぞれ生成する。合成部404は、生成した複数の誤差画像を平均化した誤差画像を生成してもよい。このようにして、合成部404は、基準器具51の特徴点の奥行方向の座標のばらつきを平均化することができるので、測定精度をさらに向上させることができる。
[補正関数を求める変形例]
補正部403は、複数の誤差画像を利用して、撮像画素ごとに補正のための補正関数を作成してもよい。図14は、奥行方向の座標と、特定の実測撮像画素の座標の誤差の横方向成分との関係を示す図である。図14の横軸は、基準器具51が設置された奥行方向の座標を示す。図14の縦軸は、特定の撮像画素の座標の誤差の横方向成分を示す。図14の複数の黒丸は、特定の撮像画素の座標の誤差の横方向成分の分布を示す。
撮像画素の座標の誤差の横方向成分は、奥行方向の座標に応じて変動する。補正部403は、図14の曲線に示すように、撮像画素の座標の誤差の横方向成分の黒丸の分布と一致する補正関数を生成してもよい。例えば、補正部403は、最小二乗法等の公知の手法を用いて、図14の黒丸の分布と一致する補正関数を生成する。補正部403は、生成した補正関数と、撮像画素の縦方向の座標と、撮像画素の横方向の座標とを関連付けて記憶部5に記憶させる。補正部403は、撮像画素の座標の誤差の縦方向成分についても同様の補正関数を作成する。
形状特定部405は、誤差画像の代わりに、補正部403が生成した補正関数を参照して、測定撮像画素の座標を補正する。形状特定部405は、補正関数を参照することにより、奥行方向の任意の座標に対応する測定撮像画素の座標の誤差を求めることができるので、画像の歪みをより精度よく補正することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を併せ持つ。
1 第1撮像装置
2 第2撮像装置
3 投影装置
4 制御部
5 記憶部
11 光学素子
12 撮像素子
21 光学素子
22 撮像素子
51 基準器具
100 三次元形状測定装置
401 実測座標特定部
402 仮想座標特定部
403 補正部
404 合成部
405 形状特定部

Claims (9)

  1. 撮像装置を含み、前記撮像装置により測定対象物を撮像した測定撮像画像に基づいて、当該測定対象物の三次元形状を測定する三次元形状測定装置であって、
    複数の特徴点を有する基準器具を前記撮像装置により撮像して生成した実測撮像画像における前記特徴点に対応する実測撮像画素の座標を特定する実測座標特定部と、
    前記撮像装置の幾何特性を表す幾何特性情報と、前記撮像装置と前記基準器具との相対的な位置姿勢情報とを用いて、前記基準器具上の特徴点を前記撮像装置の画像面へ仮想的に投影し、前記画像面において前記特徴点に対応する仮想撮像画素の座標を特定する仮想座標特定部と、
    前記実測撮像画素の座標と前記仮想撮像画素の座標との比較に基づいて、前記測定撮像画像に含まれる測定撮像画素の座標を補正するための補正情報を作成する補正部と、
    前記撮像装置が前記測定対象物を撮像して生成した測定撮像画像に含まれる複数の前記測定撮像画素の座標を前記幾何特性情報及び前記補正情報に基づいて補正し、その画素座標を基に算出される測定三次元座標に基づいて前記測定対象物の形状を特定する形状特定部と、
    を備える三次元形状測定装置。
  2. 前記撮像装置の前記幾何特性情報は、光学素子の放射方向の歪みに関する係数を用いた関数と、当該光学素子の円周方向の歪みに関する係数を用いた関数の少なくとも一方を含む、
    請求項1に記載の三次元形状測定装置。
  3. 前記補正部は、前記仮想撮像画素の座標と、前記実測撮像画素の座標との間に生じる誤差を特定し、
    前記補正部は、特定した前記誤差と、当該誤差に対応する画素の座標とを関連付けた誤差画像を作成し、
    前記形状特定部は、前記誤差画像において前記測定撮像画素に対応する画素の座標に関連付けられた前記誤差に基づいて、当該測定撮像画素の座標を補正し、補正後の座標に基づいて、前記測定三次元座標を算出する、
    請求項1又は2に記載の三次元形状測定装置。
  4. 前記補正部は、前記誤差が関連付けられていない画素の座標と異なる座標に関連付けられた複数の前記実測撮像画素の複数の前記誤差に基づいて、前記誤差が関連付けられていない前記画素の誤差を推定し、当該誤差に対応する前記画素の座標と、当該誤差とを関連付けることにより、前記誤差画像を生成する、
    請求項3に記載の三次元形状測定装置。
  5. 前記補正部は、複数の位置や姿勢に設置された状態の前記基準器具を前記撮像装置により撮像することによって生成した複数の実測撮像画像に対応する複数の前記誤差画像を作成し、
    一つの前記誤差画像において前記測定撮像画素に関連付けられた誤差と、別の前記誤差画像において同じ前記測定撮像画素に関連付けられた誤差とを平均することにより、平均化された一つ以上の誤差画像を生成する合成部をさらに備える、
    請求項3又は4に記載の三次元形状測定装置。
  6. 前記補正部は、奥行方向の軸の周りに前記基準器具を徐々に回転させた前記複数の実測撮像画像に対応する前記誤差画像を作成する、
    請求項5に記載の三次元形状測定装置。
  7. 前記形状特定部は、前記測定撮像画像に含まれる前記測定撮像画素に対応する測定三次元座標の概略値を求め、複数の前記誤差画像と、前記誤差画像に対応する前記基準器具の位置の奥行方向の座標と、当該概略値の奥行方向の座標とを利用して特定した誤差に基づいて、前記測定三次元座標を算出する、
    請求項3から5のいずれか一項に記載の三次元形状測定装置。
  8. 投影画像を投影する投影装置をさらに備え、
    前記撮像装置は、前記投影画像が投影された前記測定対象物を撮像することにより、前記測定撮像画像を生成する、
    請求項1から7のいずれか一項に記載の三次元形状測定装置。
  9. 撮像装置により測定対象物を撮像した測定撮像画像に基づいて、当該測定対象物の三次元形状を測定する三次元形状測定方法であって、
    複数の特徴点を有する基準器具を前記撮像装置により撮像して生成した実測撮像画像における前記特徴点に対応する実測撮像画素の座標を特定するステップと、
    前記撮像装置の幾何特性を表す幾何特性情報と、前記撮像装置と前記基準器具との相対的な位置姿勢情報とを用いて、前記基準器具上の特徴点を前記撮像装置の画像面へ仮想的に投影し、前記画像面において前記特徴点に対応する仮想撮像画素の座標を特定するステップと、
    前記実測撮像画素の座標と前記仮想撮像画素の座標との比較に基づいて、前記測定撮像画像に含まれる測定撮像画素の座標を補正するための補正情報を作成するステップと、
    前記撮像装置が前記測定対象物を撮像して生成した測定撮像画像に含まれる複数の前記測定撮像画素の座標を前記幾何特性情報及び前記補正情報に基づいて補正し、その画素座標を基に算出される測定三次元座標に基づいて前記測定対象物の形状を特定するステップと、
    を備える三次元形状測定方法。
JP2021006420A 2020-01-22 2021-01-19 三次元形状測定装置及び三次元形状測定方法 Pending JP2021117228A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020008025 2020-01-22
JP2020008025 2020-01-22

Publications (1)

Publication Number Publication Date
JP2021117228A true JP2021117228A (ja) 2021-08-10

Family

ID=76650512

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021006420A Pending JP2021117228A (ja) 2020-01-22 2021-01-19 三次元形状測定装置及び三次元形状測定方法

Country Status (4)

Country Link
US (1) US11449970B2 (ja)
JP (1) JP2021117228A (ja)
CN (1) CN113155053A (ja)
DE (1) DE102021100979A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113776457B (zh) * 2021-08-31 2023-08-08 中国铁道科学研究院集团有限公司 基于虚实结合的曲线段钢轨轮廓测量误差修正方法及装置
CN113983951B (zh) * 2021-09-10 2024-03-29 深圳市辰卓科技有限公司 三维目标的测量方法、装置、影像仪及存储介质
CN114111639B (zh) * 2021-11-26 2024-04-30 凌云光技术股份有限公司 一种面结构光三维测量***的校正方法和设备

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2528791A1 (en) * 2005-12-01 2007-06-01 Peirong Jia Full-field three-dimensional measurement method
WO2010013289A1 (ja) * 2008-07-31 2010-02-04 三菱電機株式会社 カメラ校正画像作成装置およびカメラ校正画像作成プログラム
CN101576379B (zh) * 2009-05-12 2011-04-27 四川大学 基于二维彩色标靶的主动投影三维测量***快速标定方法
JP2012013592A (ja) * 2010-07-02 2012-01-19 Nikon Corp 3次元形状測定機の校正方法及び3次元形状測定機
CN102750698B (zh) * 2012-06-11 2014-12-03 上海大学 纹理摄像机标定装置与方法及其纹理图像几何校正方法
JP6253368B2 (ja) * 2013-11-25 2017-12-27 キヤノン株式会社 三次元形状計測装置およびその制御方法
JP6320051B2 (ja) * 2014-01-17 2018-05-09 キヤノン株式会社 三次元形状計測装置、三次元形状計測方法
JP6510213B2 (ja) * 2014-02-18 2019-05-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 投影システム、半導体集積回路、および画像補正方法
JP6394005B2 (ja) * 2014-03-10 2018-09-26 株式会社リコー 投影画像補正装置、投影する原画像を補正する方法およびプログラム
JP6576945B2 (ja) * 2014-11-13 2019-09-18 オリンパス株式会社 較正装置、較正方法、光学装置、撮影装置、投影装置、計測システムおよび計測方法
JP6795993B2 (ja) * 2016-02-18 2020-12-02 株式会社ミツトヨ 形状測定システム、形状測定装置及び形状測定方法
JP2017207346A (ja) * 2016-05-18 2017-11-24 大同特殊鋼株式会社 三次元形状測定装置の較正方法
US10529082B2 (en) * 2017-06-20 2020-01-07 Mitutoyo Corporation Three-dimensional geometry measurement apparatus and three-dimensional geometry measurement method
JP7049220B2 (ja) * 2018-08-30 2022-04-06 オリンパス株式会社 画像取得装置および画像取得装置の作動方法
CN110336987B (zh) * 2019-04-03 2021-10-08 北京小鸟听听科技有限公司 一种投影仪畸变校正方法、装置和投影仪

Also Published As

Publication number Publication date
CN113155053A (zh) 2021-07-23
US11449970B2 (en) 2022-09-20
DE102021100979A1 (de) 2021-07-22
US20210224960A1 (en) 2021-07-22

Similar Documents

Publication Publication Date Title
JP5140761B2 (ja) 測定システムを較正する方法、コンピュータプログラム、電子制御装置、及び、測定システム
US8923603B2 (en) Non-contact measurement apparatus and method
JP2021117228A (ja) 三次元形状測定装置及び三次元形状測定方法
US10681318B2 (en) Camera-assisted arbitrary surface characterization and slope-based correction
US11592732B2 (en) Camera-assisted arbitrary surface characterization and correction
JP5346033B2 (ja) 物体の三次元形状を光学的に測定する方法
JP5029618B2 (ja) パターン投影法による3次元形状計測装置、方法およびプログラム
US20200278197A1 (en) Measurement apparatus, measurement method, system, storage medium, and information processing apparatus
JP2012093235A (ja) 三次元形状測定装置、三次元形状測定方法、構造物の製造方法および構造物製造システム
JP4379626B2 (ja) 3次元形状計測方法及びその装置
US9560250B2 (en) Information processing apparatus, measurement system, control system, light amount determination method and storage medium
JP2011247759A (ja) 三次元形状計測装置、キャリブレーション方法、およびロボット
JP2018146348A (ja) 三次元形状計測装置、三次元形状計測方法、及びコンピュータプログラム
US11948321B2 (en) Three-dimensional geometry measurement apparatus and three-dimensional geometry measurement method
JP2021092550A (ja) 三次元形状測定装置及び三次元形状測定方法
CN118131191A (zh) 用于提供现实世界和图像传感器对应点的方法和设备
JP2020177017A (ja) 三次元形状測定装置及び三次元形状測定方法

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20231014

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240619