JP6923915B2 - カラー物体の3次元形状とカラー情報とを同時に取得可能な計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体 - Google Patents

カラー物体の3次元形状とカラー情報とを同時に取得可能な計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体 Download PDF

Info

Publication number
JP6923915B2
JP6923915B2 JP2017151933A JP2017151933A JP6923915B2 JP 6923915 B2 JP6923915 B2 JP 6923915B2 JP 2017151933 A JP2017151933 A JP 2017151933A JP 2017151933 A JP2017151933 A JP 2017151933A JP 6923915 B2 JP6923915 B2 JP 6923915B2
Authority
JP
Japan
Prior art keywords
phase
grid
pixels
image
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017151933A
Other languages
English (en)
Other versions
JP2019032187A (ja
Inventor
吉春 森本
吉春 森本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
4D Sensor Inc
Original Assignee
4D Sensor Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 4D Sensor Inc filed Critical 4D Sensor Inc
Priority to JP2017151933A priority Critical patent/JP6923915B2/ja
Publication of JP2019032187A publication Critical patent/JP2019032187A/ja
Application granted granted Critical
Publication of JP6923915B2 publication Critical patent/JP6923915B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、大型構造物や工業製品、シート状構造物、人体や動植物、自然の造形物等の三次元の表面形状を有する測定対象物の表面の三次元形状計測を非接触かつ高速・高精度で行うことが可能な三次元形状計測装置に関する。また、非接触の振動面位置計測や変位分布計測に用いることもできる。
計測対象物に格子パターンを投影し、計測対象物に投影された格子パターンを撮像して得られた格子パターン像の画素毎の位相を求めることにより三次元形状計測を行う格子投影法が公知である。
図1に一次元格子投影法による形状計測装置の光学系の例を示す。
基準面に対して、カメラレンズの中心とプロジェクタの光源の高さが同じであり、カメラ撮像面および格子の面は基準面に平行であるモアレトポグラフィの光学系である。この図の場合、基準面の位置において、投影された格子の1ピッチと基準面上で撮像される画素ピッチが一致しており、図1のWの位置には白い線が、Bの位置には黒い線が等高線として撮影できる。カメラの画素ピッチが細かくなっても投影された格子の画像の1ピッチの画素数はどの高さでも一定である。
格子投影法では格子の位相を解析することにより高精度でその変形を解析でき、面外変形や三次元形状を高精度に計測することができる。従来の位相解析法としては、位相シフト法やフーリエ変換法が用いられている。
格子投影法やモアレトポグラフィ法では、格子の位相を解析することによって高精度で対象の形状や変形を解析することができ、面内変形や三次元形状の高精度の計測が可能である(非特許文献1,2)。従来の位相解析法としては、位相シフト法やフーリエ変換法が用いられている。これらの中で、サンプリングモアレ法(非特許文献3)やフーリエ変換法(非特許文献4,5)は1枚の画像で位相を解析できるため、運動物体などの解析に有用である。
全空間テーブル化手法は、各画素に対して位相と高さ(さらにはx,y,z座標)との関係を予め求めてテーブルとし、位相が求められれば、そのテーブルを見るだけで、高さ情報が得られる(非特許文献6)。
運動物体をリアルタイムに計測するには計算を高速に行う必要があり、できるだけ少ない画像データで位相計算をするほうが良い。しかしながら、サンプリングモアレ法は2周期のデータを用いて位相計算を行ない、またフーリエ変換法は全画素のデータを用いて位相の解析を行っており、少ない画像データにより動画像での計測をすることができなかった。
この問題を解決するため、本出願人は特許文献1に開示されるように、格子1周期分の画像データをフーリエ変換などにより位相を解析する新しい格子投影法を出願している。これにより1枚の画像から位相分布を高速に解析することができ、動画像の解析も可能となる。
この特許文献1に開示される技術の特徴を以下に示す。
(1)位相解析による計測であるため精度が良い。
(2)1枚の画像で位相解析できるので、運動する物体の形状計測が可能である。
(3)フーリエ変換により周波数1のみを抽出しているので、正確な余弦波の輝度分布をもつ格子を投影しなくても良い。
(4)また、フーリエ変換により周波数1のみを抽出しているので、高周波部分に現れるノイズは自動的に削除されるためノイズに強い。
(5)処理が簡単で、高速に処理ができる。
(6)ゲージ長が整数N画素となり、サンプリングモアレ法よりも短い。一般的に、デジタル画像相関法よりもゲージ長が短い。
(7)サンプリングモアレ法では直線補間によりモアレ縞を生成しているが、本発明は余弦波と相関をとっていることになるため、精度がより高い。
しかしながら、特許文献1に開示される技術はx方向にM画素(Mは2以上の整数)、y方向に1画素の横長の画像データを用いて位相解析を行う必要がある。そのため、x方向の空間分解能が十分ではなく、x方向に段差のある部分など位相変化の大きいところでは広い範囲にわたって誤差が大きくなっていた。
そこで、本出願人は、特許文献2に開示されるように、位相解析に特許文献1に開示される技術と同じ画素数を使っても、x方向にMx画素、y方向にNy画素(Mx、Nyは2以上の整数)の2次元領域のデータを使うことにより、x方向とy方向の空間分解能をほぼ同じ程度に小さくでき、段差のある部分でも、誤差の大きくなる部分の幅を狭くできる位相解析方法、および、前記位相解析方法を利用した装置についても出願している。
再表2016/001986 再表2016/001985
新井泰彦,倉田忠雄,縞走査干渉計の手法による高速かつ高精度なモアレトポグラフィ法,光学,Vol.15,No.5,402-406 (1986). 森本吉春,藤垣元治,米山聡: モアレ法・格子法による形状・変形計測の最近の研究,非破壊検査,52-3(2003),116-121. 李志遠,森本吉春,藤垣元治,サンプリングモアレ法による構造物の非接触変位分布計測、日本工業出版 検査技術,14(5),(2009),1-6 Takeda, M. and Mutoh, K., Fourier transform profilometry for the automatic measurement of 3-D object shapes, Applied Optics, 22-24, 3977-3982(1983). Morimoto, Y., Seguchi, Y. and Higashi, T., Two-dimensional Moire Method and Grid Method Using Fourier Transform, Experimental Mechanics, Vol. 29, No. 4, 399-404(1989). 藤垣元治,森本吉春,全空間テーブル化手法による格子投影三次元形状計測,実験力学,8-4, 92-98(2008).
特許文献1、特許文献2に開示される技術により構成される計測装置は、モノクロカメラを用いており、対象物の表面のカラー情報を収集することができない。カラー情報を収集する場合は、形状計測を行なうカメラと別に、カラーデータを収集するカメラを用いる必要がある。そして、形状計測で得られた形状計測データと、カラーデータとを合成することにより、3次元形状計測結果に色付けを行なっていた。そのため、装置が高価となり、データの合成のためのソフトウェアの製作も困難なことも多く、また、計測誤差も大きい問題があった。
そこで、本発明の目的は、3次元物体の3次元形状データとカラーデータとを1台のカメラを用いて同時に収集することが可能な、計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体を提供することである。
<請求項1>
モアレトポグラフィ光学系において、ベイヤー配列のRGBを受光する2次元撮像素子を備えたカメラを用い、RGB成分を含む光源光を用い、格子を用い、前記光源光により3次元物体に投影された前記格子の格子模様を撮像し、前記3次元物体の表面の形状データを取得する計測方法であって、
前記格子模様の画像からRGB成分ごとに奇数行と奇数列の各画素を抽出し、前記抽出した各画素の位相が前記各画素を順番に並べた場合に、等間隔で2πまで変わるように前記格子の格子線の方向を、前記カメラの前記2次元撮像素子の画素の配列方向に対して斜めに向けて投影する工程と、
前記物体に投影された格子模様を撮像する工程と、
前記RGB成分ごとに前記抽出した各画素の位相を用いて位相解析を行い、位相解析により求められた位相を前記抽出した各画素のうちのいずれかの画素の位相とする工程と、
前記いずれかの画素の位相を求めることを前記撮像した前記格子模様のうちの少なくとも前記形状データを求める画素に対して行い位相分布を求める工程と、
前記求めた位相分布を用いて前記3次元物体の形状データを求める工程と、
を含む、
前記3次元物体の表面の形状データを取得する計測方法。
<請求項2>
イヤー配列のRGBを受光する2次元撮像素子を備えたカメラを用い、RGB成分を含む光源光を用い、前記光源光により3次元物体に描画された格子の格子模様を撮像し、前記3次元物体の表面の変位データを取得する計測方法であって、
前記格子模様の画像からRGB成分ごとに奇数行と奇数列の各画素を抽出し、前記抽出した各画素の位相が前記各画素を順番に並べた場合に、等間隔で2πまで変わるように前記格子模様の格子線の方向を、前記カメラの前記2次元撮像素子の画素の配列方向に対して斜めに向けて前記3次元物体に描画された格子模様を撮像する工程と、
前記抽出した各画素の位相を用いて位相解析を行い、位相解析により求められた位相を前記抽出した各画素のうちのいずれかの画素の位相とする工程と、
前記いずれかの画素の位相を求めることを前記撮像した前記格子模様のうちの少なくとも前記変位データを求める画素に対して行い位相分布を求める工程と、
前記位相分布を前記3次元物体の変形の前と後で求め、前記物体の変形前後の位相差に基づいて物体面の変位を求める工程と、
を含む計測方法。
<請求項3>
前記モアレトポグラフィ光学系において、前記カメラの撮像面が前記格子と平行ではない場合、前記抽出された画像に対して射影変換を行う工程を含む請求項1または2に記載の計測方法。
<請求項4>
前記請求項1乃至2のいずれか一つの計測方法を行う計測装置。
<請求項5>
請求項1乃至3のいずれか一つの計測方法を実行する計測プログラム。
<請求項6>
請求項5に記載の計測プログラムを記憶した、コンピュータ読み取り可能な記録媒体。
本発明により、3次元物体の3次元形状データとカラーデータとを1台のカメラを用いて同時に収集することが可能な、計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体を提供できる。
格子投影法の光学系(モアレトポグラフィ)である。 モアレトポグラフィの光学系の説明図である。 カメラ撮像面の1画素が見る物体の位相と基準面の位相の関係の説明図である。 カメラ撮像面の1画素が見る物体の位相と基準面の位相の関係の説明図である。 本発明を実施するのに用いる装置全体の構成である。 カメラ撮像面に映る格子の影像である。 格子の処理手順である。 格子の処理手順である。 格子の処理手順である。 従来技術であるサンプリングモアレ法や前提技術で用いられている格子画像である。 本発明で用いられる格子画像の例1の画像を示す図である。 本発明で用いられる格子画像の例2の画像を示す図である。 本発明で用いられる格子画像の例3の画像を示す図である。 本発明で用いられる格子画像の例4の画像を示す図である。 本発明で用いられる格子画像の例5の画像を示す図である。 本発明で用いられる格子画像の例6の画像を示す図である。 投影された周波数2の格子を説明する図である。 投影された周波数−3の格子を説明する図である。 図14と図15を足し合わせることにより得られた周波数2と周波数−3の格子を合成した格子 OPPA法で用いているモアレトポグラフィの光学系を説明する図である。 OPPA法で用いているモアレトポグラフィの光学系において、物体上に投影された格子の画像は、物体の高さに関係なく、カメラ内の撮像面では一定の長さとなり、高さにより格子の位相だけが異なることを示す図である。 OPPA法により、基準面に投影した格子模様を示す図である。 OPPA法により、基準面に投影した格子模様を撮影した等間隔の格子画像を示す図である(格子面に垂直な光軸をもつカメラから撮影したとき)。 本発明の実施形態の一つであるカメラの光軸方向が格子面に垂直でない場合の光学系を示す図である(HOPPA法)。 図3Aにおいて、基準面と計測面での点光源Lから出射された光がカメラ撮像面に到達するまでの光路を示す図である(HOPPA法)。 基準面に投影した格子を示す図である。 基準面に投影した格子を、カメラで撮影した不等間隔の格子画像を示す図である(格子面に対して、光軸が斜め方向であるカメラから撮影したとき)。 射影変換により、斜め方向から撮影した格子画像(左図)のピッチを整数N画素となるように射影変換した格子画像(右図)を示す図である。 図1の光学系において、基準面が格子面に平行でない場合の光学系を示す図である。 1辺が整数N画素となる場所にある仮想基準面に投影されている格子画像を作ることができることを説明する図である。 基準面が傾いている場合の撮影した格子と仮想基準面上に射影変換した格子画像の例を示す図である。 図3A,図3Bの光学系において、さらに基準面が格子面に平行でない場合の光学系を示す図である。 RGB3板式のカメラを用いる計測装置を説明する図である。 ベイヤー配列を備えた単板のカラーカメラを説明する図である。 ベイヤー配列を用いたHOPPA法を説明する図である。 ベイヤー配列からのRGBの各画素の抽出を説明する図である。
本発明は、発明が解決しようとする課題を克服し、高速、高精度な方法を提供可能である。本発明は物体面の格子をカメラにより撮影して解析し、計測する方法である。本発明は、物体に投影された格子像あるいは、物体に描画された格子を撮像した画像の輝度データをもとに、高精度に位相値を求めることが可能となる位相解析方法に関する。そして、高精度に求めた位相をもとに、物体面の高さを計測して物体面形状を計測するだけでなく、物体面に設けた格子模様をカメラによって撮影することにより、物体面の面内方向への変位を計測することもできる。
さらに、本発明は、3次元物体の物体面の形状計測や変位計測だけではなく、同時に、物体面のカラー情報を収集することができる。本発明では、カラーカメラ1台を用いて、3次元形状データとそのカラーデータとを同時に取得する。
まず、本発明の測定原理を説明する。
本発明は、格子投影法で一次元格子を投影し、その格子画像の1ピッチが常に一定のM画素となることを利用して、そのM画素の輝度データより位相を解析し、位相から高さなどの情報を得る方法である。
<光学系と座標>
図2,図3A,図3Bに形状計測装置の格子投影機構と計測対象物の説明用概略図を示す。
まず、図2でモアレトポグラフィの光学系についてさらに説明する。
Lは光源の位置、Vはカメラレンズの中心を表す。格子は光源Lの位置からdの距離にあり、1周期の幅はpである。
この光学系では、基準面に対して、カメラレンズの中心Vとプロジェクタの光源Lの高さが同じであり、カメラ撮像面および格子面は基準面に平行である。
光源Lから距離z1離れた位置に物体面が、距離z2離れた位置に基準面があり、光源Lからd離れた位置には格子面がある。格子面は基準面に平行であり、周期がpである等間隔の一次元格子線が描かれている。光源には点光源を用いるが、格子線に平行な1ライン線光源を用いてもよい。
光源Lを含み基準面に平行な面を光源面と呼ぶ。説明のために光源を原点としてx,y,z座標をとり、基準面に垂直な方向をz方向とする。図2では下方がz方向の正になっている。
格子の面に描いた格子線に垂直な方向がx方向、格子線に平行な方向がy方向である。カメラレンズの中心は光源面内にあり、x方向に距離vだけ光源Lから離れている。カメラ撮像面は基準面と格子面に平行であり、カメラ撮像面の画素座標(i,j)のi方向,j方向は各々x方向とy方向と一致している。
この光学系では、物体面や基準面がどの高さにあってもカメラ撮像面での格子1周期の像は同じ幅になる。したがって、デジタルカメラ撮像面の整数N画素に格子の1周期が映るように設定すると、物体面や基準面がどの高さでも格子の1周期の像が整数N画素に映ることになる。このことを図2で説明すると以下の通りになる。
投影された格子1周期の影は、物体面ではx1に、基準面ではx2になる。光源面からの距離は、物体面ではz1、基準面ではz2、カメラ撮像面ではz3、格子面ではdである。
格子の1周期pの影は、物体面ではpをz1/d倍したx1となり、基準面ではpをz2/d倍したx2となる。カメラ撮像面での大きさx4はx1をz3/z1倍したものであり、x5はx2をz3/z2倍した大きさであるから、x4とx5はともにpのz3/d倍になる。すなわち、カメラ撮像面に映る格子の1周期の大きさは光源面から格子までの距離と、カメラレンズの中心からカメラ撮像面までの距離の比によって定まり、物体面や基準面までの距離には影響されない。
このことから、格子1周期の像を捉えるカメラのセンサー画素数は基準面からの計測対象物体の高さによらず一定となる。すなわち、格子1周期をN画素に映るように設定すると、連続するN画素には常に格子1周期分が映っていることになる。
一方で、図1においてx4とx5の位置がずれていることから判るように、物体面や基準面までの距離が変化すると格子がカメラ撮像面に映る位置は変化する。換言すると、基準面から物体面までの高さにより、カメラ撮像面の画素に映る格子の位相が変わることになる。
以上のことから、位相解析を行えばその高さを求めることができる。すなわち、N画素をフーリエ変換し、最大のパワースペクトルをもつ周波数1を抽出し、その周波数1の位相を求めれば、物体面等の高さを計測できることになる。また、実際の測定に際しては、光学系に応じて、前記周波数を予め設定しておき、その予め設定した周波数の位相を求めることにより、物体面等の高さを計測することもできる。
なお、上記したように、基準面に投影された格子の1周期がデジタルカメラの整数N画素となるようにレンズの拡大率を調整しておくことが好ましい。
次に、図3を用いて基準面から物体面までの高さを求める方法を説明する。
図3Aは図3Bの上部を拡大したものである。
まず、カメラレンズの中心Vをx軸上の座標(v,0,0)の位置に置く。すなわちカメラレンズの中心Vは距離vだけ光源Lから離れている。基準面の点Rが映るカメラ撮像面の画素には、物体を置いた際に物体面の点Sが映る。図3Bでは、この画素および点S、点Rを通る線を、カメラ視線として示す。物体面における点Sをz軸に垂直に投影した点を点B、基準面における点Rをz軸に垂直に投影した点を点Iとする。また、光源の位置Lから点Rへの光が格子面を通過する点を点Qとし、光源の位置Lから点Rへの光が物体面の点Sからz軸に垂直に投影した線をその光が横切る点を点Pとする。さらに、光源の位置Lから点Sへの光が格子面を通過する点を点Gとする。z軸と格子面の交点を点Cとする。点Eは格子の原点であり、点Cと点Eの距離をeとする。そして、点Iと点Bの距離、すなわち基準面から物体面までの高さをhとする。
<投影格子の位相>
いま、z=dにある格子の透過率分布Iは余弦波状になっており、次の式で示される。
Figure 0006923915
ここで、aは振幅、Φは格子の位相、bは背景である。光源が格子を照射して、格子の影が基準面または物体面に投影される。その格子の影がカメラ撮像面に映る際の輝度分布は、格子1周期に相当する連続したN画素に対して、基準面や物体面等の高さzにおいて、次の式で表される。
Figure 0006923915
ここで n=0,1,・・・N である。
数式2において、
Figure 0006923915
Figure 0006923915
Figure 0006923915
と、置き直すと、数2式は数6式で表すことができる。
Figure 0006923915
となる。
物体面の場所S(x,y,z)からx方向の格子の影の1周期は、カメラ撮像面の連続するN画素に映るように、カメラレンズにより調整されている。
そこで、このN個のデータに対して離散的フーリエ変換を行ない、その周波数1を抽出し、それより位相を求めると、滑らかな余弦波状の波の位相θを得ることができ、非常に精度の良い位相解析を行うことができる。
この位相θ(−π<θ≦π)は、次の式を用いて計算できる。
Figure 0006923915
x方向の全画素について上記の位相θを求めてx方向に位相接続すると、格子の位相Θを得ることができる。
<等高線を表すモアレ縞の位相>
モアレトポグラフィにおいては、等高線を表すモアレ縞の位相Θは、基準面に投影された格子の位相Θと物体の上に投影された格子の位相Θの差Θ=Θ−Θとして求められる。これよりzが求められ、あるいは基準面からの高さh=zR−zが求められる。
この計算式は次のように求められる。
基準面上の点Rに投影された格子の影の位相Θ
Figure 0006923915
となる。
ここで、△LIRと△LCQとの相似より
Figure 0006923915
となり、数式9を数式8に代入すると
Figure 0006923915
となる。
同様に△LBSと△LCGとの相似を用いると、物体上の点Sに投影された格子の影の位相Θは以下のようになる。
Figure 0006923915
数式10の点Rの位相と数式11の点Sの位相の差として、次の式のようにモアレ縞の位相Θが得られる。
Figure 0006923915
一方、二つの三角形△LPSおよび△LQGの相似より
Figure 0006923915
また、△RLVおよび△RPSの相似より
Figure 0006923915
これらから、
Figure 0006923915
これより
Figure 0006923915
Figure 0006923915
このように、基準面の格子と物体面の格子の位相差としてモアレ縞の位相を計測することにより、基準面から物体面までの高さhが求められる。
ここで、物体面の高さを求めることにより物体面形状を計測する方法を説明する。
図4に計測装置全体の構成を示す。
1はLED等のランプであり、光源に相当する。2は格子、3は計測対象の物体、4は載置台、5はデジタルカメラ、6は撮像素子、7はレンズ、8はコンピュータ、9は出力装置である。計測結果を得るだけであればコンピュータ8などに結果を記憶すればよいので、出力装置9はなくてもよい。また、ランプ1と格子2としては、市販の液晶プロジェクタなどのプロジェクタを用いてもよい。この場合、液晶表示素子等で格子を表示して格子2を形成する。プロジェクタを用いると、格子の幅や方向を自在に変更することができる。
物体3をランプ1で照射すると、物体面に格子2の影が投影され、レンズ7を介してデジタルカメラ5の撮像素子6に影の像が映る。映った像はデジタルカメラ5からコンピュータ8に送られる。そして、コンピュータ8では、記憶されている本発明の方法を実現するプログラムにより前記像が解析されて計測値が得られる。得られた計測値はコンピュータ8に記憶されるとともに、必要であれば出力画像などに加工され、出力装置9に送られて出力される。出力装置は具体的には表示装置や印刷装置などである。
コンピュータ8には、後述する全空間テーブル化法を実行するためのデータテーブル8aをメモリに記憶することも可能である。また、本発明に係るプログラムをコンピュータ8で実行することができる。また、本発明に係るプログラムを記録した記録媒体8bをコンピュータ8に装着することで、本発明に係る計測方法を実行することができる。
基準面を載置台4の表面としても良く、載置台4の上に基準面を有する物体を載置しても良い。基準面と物体面があれば計測できるので、基準面の代わりに物体面を有した物体を置いても良い。また、ランプ1、格子2、物体3、載置台4、デジタルカメラ5を含んだ全体を横にした状態とし、横方向で物体面形状を計測することも可能であり、斜め方向で計測することも可能である。
<位相解析手順>
基準面に一次元格子を投影する。これをデジタルカメラで撮影する。図5はこのようにして撮影した画像の一部の拡大説明図である。この例の場合、格子の1周期をカメラ撮像面のN画素(ここではN=8)となるように倍率を調節している。カメラ撮像面の画素が黒い長方形で表現されている。この図の斜線で示される部分は格子の輝度の低い部分を示し、その他の部分は格子の輝度の高い部分を示している。格子線に直角な方向をx方向、それに垂直な方向をy方向とする。カメラ撮像面における画素の座標を(i,j)とする。そして、i方向、j方向をそれぞれx方向およびy方向に合わせて撮影する。
この画像を次のように処理する。
(1)連続するN画素の画像データ(図6A)を一次元フーリエ変換する。
(2)これにより−N/2〜N/2の周波数スペクトル(図6B)が得られる。この中で最大のパワースペクトルをもつ、N画素を一周期とする周波数1または周波数−1の成分を抽出する。図6Bでは、周波数1だけを取り出している。
(3)その抽出した周波数の位相計算を行えば位相が得られる。そして、そのN画素の格子の先頭の画素に対応して記憶する。(図6C)
(4)次に、N画素の格子の組み合わせをx方向に1画素だけずらして(1)〜(3)の位相計算と記憶を繰り返す。
(5)x方向の移動がすべて終わったら(1)〜(4)の走査をすべてのy方向について行う。
なお、数式7を用いて位相を直接求める場合は(1)〜(3)の手順をまとめて行っていることになる。このようにして得られたほぼ1画面分の位相がこの格子の基準面の位相分布となる。
物体の格子の位相を解析する場合は、カメラはそのままにして、基準面の代わりに物体を置くなどして同様に(1)〜(5)の計算を繰り返す。このようにして得られた位相分布が物体面の位相分布となる。
次に、得られた物体面の位相および基準面の位相をそれぞれ位相接続する。格子投影法の場合、格子の位相は基本的に単調関数となる。そのため、位相のジャンプが起こる毎に2πを増加あるいは減少させることにより容易に位相接続ができる。
位相接続の後に、各画素に物体の位相と基準面の格子の位相との位相差であるモアレ縞の位相Θを求める。これより数式17を用いて高さhを求めることができる。ここでは、フーリエ変換してから周波数1等の位相を得ているため、正確な余弦波の輝度分布をもつ格子を投影することなく、ノイズに強い計測を行うことができる。
上述の計測方法は、x方向にN画素、y方向に1画素の横長の画像データを用いて位相解析をしていた。そのため、x方向の空間分解能が悪く、x方向に段差のある部分など位相変化の大きいところでは広い範囲にわたって誤差が大きくなる。
そこで、本発明の他の計測方法は、位相解析に同じ画素数を使っても、x方向にMx画素、y方向にNy画素(Mx,Nyは2以上の整数)の2次元領域のデータを使うことにより、x方向とy方向の空間分解能をほぼ同じ程度に小さくでき、段差のある部分でも、誤差の大きくなる部分の幅を狭くできる。
そこで、モアレトポグラフィの光学系においてz=0の基準面に格子を投影し、基準面上のx方向Mx画素、y方向Ny画素からなる長方形(正方形を含む)内において、投影されている格子の位相が2πをMx×Ny等分されるように光学系を調節する。そうすると、すべての画素の位置において、x方向Mx、y方向Ny画素からなるMx×Ny画素の長方形領域において、2πをMx×Ny等分した位相に対応する輝度値が得られ、この輝度データより各画素における位相を求めることができる。
図1に示すモアレトポグラフィの光学系において、光源Lから出た光は、格子を通って格子の影を対象物の上に投影する。対象物の形状に応じて歪んだ格子の影をカメラが撮影する。
上述の光学系では、基準面に投影した1次元の格子線が図7に示すように、x軸に垂直となるように設置し、図7に示すようにカメラで撮影された格子の1ピッチがx方向にM画素(図7の場合M=9)となるように光学系を配置しておく。図7はサンプリングモアレ法やOPPA法で用いられている格子画像である。格子は、x方向に垂直な格子線からなり、x方向M画素(この図ではM=9)で1ピッチとなるように光学系を調整している。x方向のM画素(この図では、M=9)のデータを用いて位相解析を行う。符号90で示される領域の9画素を用いて位相解析を行う。
一方、本発明の他の光学系では、基準面に投影した格子が図8に示すようにx軸に垂直とはならず斜めとなっている。それでも格子の1ピッチがx方向にM画素で1ピッチとなるように調整している。ただし、y方向に格子の1ピッチがNy画素(図8の場合、Mx=3、Ny=3)となるように調整している。
結果的に、x方向にMx画素、y方向にNy画素、Mx×Ny=M(M,Mx,Nyは2以上の整数)となるように光学系を配置しておくと、1周期の位相をN等分した位相の輝度データがMx×Nyの領域の輝度データとして得られる。
格子線100は投影されている格子の位相0の線、格子線101は投影されている格子の位相π/2(90度)の線、格子線102は投影されている格子の位相π(180度)の線、格子線103は投影されている格子の位相3π/2(270度)の線を表す。
図7の各画素に書いてある数字は、投影されている格子の位相の番号を示しており、0は位相0(0度)、数字が増えるごとに位相が2π/(Mx×Ny)ずつ増える。この図の場合、2π/9(40°)ずつ増える。
図8は本発明で用いられる格子画像の例1の画像を示す図である。格子は、斜めに等間隔に投影されている。符号91のM×1画素の領域を見ると、x方向の1ピッチはM画素である。y方向の1ピッチはN画素となるように投影する格子の向きを調整している。すなわち、格子線のピッチや方向をうまく調整すると、Mx×Nyの長方形領域の各画素の位相の変化が等間隔で得られる位置がある。図8では、Mx×Ny=M画素のデータが2πをM分割した位相変化となっており、これを用いて位相解析を行うことが可能である。
格子線110は投影されている格子の位相0の線、格子線111は投影されている格子の位相π/2(90度)の線、格子線112は投影されている格子の位相π(180度)の線、格子線113は投影されている格子の位相3π/2(270度)の線を表す。
図8において各画素に書いてある数字は投影されている格子の位相の順番を示す。この図の各画素に書いてある数字は、位相の番号を示しており、0は位相0(0度)、数字が増えるごとに位相が2π/(Mx×Ny)ずつ増える。具体的には、x方向に9画素とy方向に1画素で1周期となり、この9画素(符号91で示される領域)から位相解析が可能である。一方、x方向に3画素、y方向に3画素の計9画素(符号92で示される領域)をみると、どちらも1周期を9分割した同じ位相のデータが得られている。x方向もy方向も3画素の空間分解能となり、x方向も、y方向も、同じ等方性の精度の良い位相解析が可能である。
図8の場合も、符号91で示される領域のM画素を解析しても位相が求められるが、符号92で示される領域のMx×Ny(=M)画素を解析しても同じように画素データが得られており、こちらを解析しても位相が得られる。この符号92で示される領域のx方向の領域の長さが、符号91で示される領域のx方向の長さよりも短く領域が正方形に近いため、空間分解能の方向性が少なく急な段差があってもその影響の及ぶ範囲が小さくてすむ。
具体的には図8に示すように、Mx=3,Ny=3,M=9に選ぶと、領域91であるx方向にM(=9)画素、y方向に1画素の輝度データと、x方向にMx(=3)画素、y方向にNy(=3)画素の輝度データとが同じ位相配置となる。領域91の輝度データを使う代わりに領域92の輝度データを使えば、同じように解析できることになり、細長い領域91の輝度データよりも正方形に近い領域92の輝度データを使う方が、空間分解能が良くなるといえる(なぜなら、領域91ではx方向に9画素のデータを使って位相を求めているが、領域92ではx方向に3画素のデータを使っているだけであり、x方向の空間分解能が良くなる。)。
つぎに、撮影した格子画像のx方向Mx画素、y方向Nx画素となる領域のM=Mx×Ny個の輝度データを取り出し、その輝度データより数18式を用いて(初期)位相θの解析を行う。
Figure 0006923915
得られた画像の各画素ごとに位相解析の処理を行う。処理する画素の周辺にMx×Ny画素領域をとり、その領域の各画素の輝度データを各画素の位相の順(図8の場合、各画素に書いてある番号の順)に並べ、その輝度データを用いて数18式により位相θを求める。その位相θと基準面の位相θRの差Θ(Θ=θ−θR)に対応する高さ情報を計算により求める。あるいは全空間テーブル化手法により予め求めておいたテーブルより求める。
位相差Θと高さhの関係は図3より数19式で与えられる。
Figure 0006923915
この作業を1画素ずつずらしながら行う。すべての画素において、高さが求められれば形状が計測されたことになる。
なお、1次元に複数に並んだ画素を基に、基準面から物体面までの高さhを数17式で求めたが、2次元に並んだ画素を基に、基準面から物体面までの高さhも数17式と同じように、数19式によって求めることができる。
図9は本発明で用いられる格子画像の例2の画像を示す図である。図8と格子の向きが異なっているが、図8と同様に符号91で示される領域のM(=9)画素を解析しても位相が求められる。符号92で示される領域(Mx=3,Ny=3の場合)の9画素を解析しても同じように輝度データが得られており、こちらを解析しても位相が得られる。
図10は本発明で用いられる格子画像の例3の画像を示す図である。図8と格子の向きが異なっているが、図8と同様に符号91で示される領域のN(=9)画素を解析しても位相が求められる。符号92で示される領域(Mx=3,Ny=3)の9画素を解析しても同じように輝度データが得られており、こちらを解析しても位相が得られる。
図11は本発明で用いられる格子画像の例4の画像を示す図である。図8と同様に符号93で示される領域のM(=25)画素を解析しても位相が求められるが、符号94で示される領域(Mx=5、Ny=5)の25画素を解析しても同じように輝度データが得られ、こちらを解析しても位相が得られる。
図12は本発明で用いられる格子画像の例5の画像を示す図である。図8と同様に符号95で示される領域のM(=15)画素を解析しても位相が求められる。符号96で示される領域領域(Mx=3、Ny=5)の15画素を解析しても同じように輝度データが得られ、こちらを解析しても位相が得られる。図12に示されるように、長方形の領域でも位相を求めることができる。
図13は本発明で用いられる格子画像の例6の画像を示す図である。図8と同様に符号97で示される領域のM(=20)画素を解析しても位相が求められる。符号98で示される領域の(Mx=4、Ny=5)の20画素を解析しても同じように輝度データが得られ、こちらを解析しても位相が得られる。
次に、全空間誤差テーブルを用いた形状計測法を説明する。上述した方法では、位相と高さの関係を計算により求めているが、全空間テーブル化手法を用いて各画素の位相を求めることが可能である。なお、全空間テーブル化法は、特開2011−2378号公報(和歌山大学)に記載されているように公知の技術である。
全空間テーブル化手法は、各画素に対して位相と高さ(さらにはx,y,z座標)との関係を予め求めてテーブルとし、位相が求められれば、そのテーブルを見るだけで、高さ情報が得られる。このため三角測量による計算が不要となり高速計測となり、光学系のもつ誤差もテーブルを参照することによりキャンセルされ高精度となる。
本発明では、モアレトポグラフィに適用するので、位相と高さの関係は理論式で得られ、すべての画素で同じ式となる。しかし、光学系などの誤差により、理論と合わず、画素毎に誤差が出てくる。
そこで、全空間テーブルの代わりに、実際の計測高さと理論高さの比Qあるいは実際の計測高さと理論高さの差Sをテーブル化した全空間誤差テーブルを作成し、位相より得られた理論高さにこのテーブル値Qを掛け算することにより、あるいは理論高さにSを加えることにより、高さを求める方法とする。この全空間誤差テーブルは、画素毎の誤差分布を表しており、この表のデータを可視化し、誤差が小さくなるように光学系を調節することにより、光学系の調整などがし易くなる。
上述したように本発明では、長方形領域(正方形を含む、具体的には3×3画素)の領域の画像データを使って位相解析を行っている。本発明では、同じ領域にx方向ピッチの異なる2種類の格子を用い、それぞれの位相を解析し、その結果より位相接続を行い、ダイナミックレンジの広い位相解析方法を実現できる。
長方形(正方形を含む)領域の画素においてx方向に周波数の異なる2種類以上の波を入れ、その領域の画像の輝度データより、それぞれの波を、フーリエ変換などを用いて分離抽出し、それらの波の位相を求める(実際にはフーリエ変換をしなくても直接位相を求める周波数1に対応した位相を求める数7式やより高い周波数に対応した同等の式に代入すれば良い)。
求めた2つ以上の波の位相より位相接続を行い、ダイナミックレンジの広い形状計測法とすることができる。本発明の実施形態1、2では、x方向の格子ピッチが1種類の格子だけを投影したため、ダイナミックレンジが狭い。本発明の方法は、2種類の格子を一度に投影することにより、ダイナミックレンジを広げる方法を提供する。その技術内容を以下に示す。
図14はカメラの各画素に映った格子の画像を示す模式図であり、一番小さな正方形が1画素の大きさ、斜めの線が格子の位相を表している。符号130の格子の線が位相0の線、符号131の格子の線が位相π/2の線、符号132の格子の線が位相πの線、符号133の格子の線が位相3π/2の線を表している。符号120の領域に示す横1ライン9画素のデータを見ると、画素が隣へ移動するたびに位相が増えていき、9画素で2周期分の位相変化となっている。
この場合、符号121で示される3×3画素の領域を見ると、1行目は符合120の領域で示される9×1画素の領域の最初の3画素、2行目は次の3画素、3行目はその次の3画素の位相と同じデータが並んでおり、符合120の領域を解析しても、符合121の領域を解析しても同じように位相が得られることになる。
図15の場合は、符合122の領域で位相が3周期変化している。符号123で示される3×3画素の領域を見ると、1行目は符合122の領域の最初の3画素、2行目は次の3画素、3行目はその次の3画素の位相と同じデータが並んでおり、符合122の領域を解析しても、符号123の3×3の領域を解析しても同じ位相が得られることになる。
図14の9個のデータを用いてフーリエ変換を行うと、周波数2あるいは−2のみが存在することになる。図15の9個のデータを用いてフーリエ変換を行うと、周波数3あるいは−3のみが存在することになる。
図14の格子と図15の格子を重ねて(輝度を足しあわせて)、図16のように投影すると、符合124の領域のデータには、周波数2の格子と周波数3の格子が重なりあっており、この画像データをフーリエ変換すると周波数2と3の成分が出てくる。
この周波数の位相を解析すると、それぞれの波の位相を得ることができる。周波数の異なる波2つの位相から、位相接続することができ、2つの位相の差が2πになるまでの範囲を広げて解析できる。
本発明による位相解析方法は、物体のひずみ解析に適用できる。例として、平面内での面内1次元微小変形を考える。面外変形がなく、微小変形であるので、この場合も、格子のピッチはかわらず位相のみが変化すると考えることができる。x方向のピッチをpxとすると、位相の変化量がΔΘのとき、x方向の変位uは、数20式で与えられる。
Figure 0006923915
上記の位相の変化量は、次のようにして求める。変形を測定する物体に格子を描画する。そして、描画された格子を撮像する。撮像手段は先述のとおりの装置を用いることができる。
前記物体に描画された格子を撮像した画像のx方向Mx画素、y方向Ny画素からなる長方形内(Mx、Nyは2以上の整数)において、描画されている格子の位相が2mπ(mは整数)をMx×Ny(=M)等分されているように光学系を調節する。
物体に描画された格子を撮像した画像のx方向Mx画素、y方向Ny画素からなる長方形内(Mx、Nyは2以上の整数)において、描画されている格子の位相が2mπ(mは整数)をMx×Ny等分した輝度値を得る。そして、得られた輝度値を用いて、前記長方形内における位相を数18式により算出する。前記物体に描画された格子を撮像した画像の画素ごとに前記長方形の領域をずらして画素ごとに位相を求める。
次に、物体の変形後に、物体に描画された格子の変更後の模様を撮像する。前記物体に描画された格子の変形後の模様を撮像した画像の、x方向Mx、y方向Ny画素からなるMx×Ny画素の長方形領域において、2mπをMx×Ny等分した輝度値を得る。そして、得られた輝度値を用いて、変形後の前記長方形内における位相を数18式により算出する。物体の変形後の格子模様を撮像した画像の画素ごとに前記長方形の領域をずらして画素ごとに位相を求める。
そして、前記物体の変形前後の各画素における位相差に基づいて物体面の変位を数20式に基づいて算出することができる。
格子を描画する物体の面は平面に限らない。物体表面の面内での変位を測定するので、物体の表面が曲面であってもよい。
次に、射影変換の技術を用いる本発明の方法について説明する。
本発明は、射影変換を用いて変形格子を長方形格子や正方形格子に変換して位相解析を行なう形状および/または変形計測法に適用できる。
本発明は物体面の格子をカメラにより撮影して解析し、計測する方法に適用できる。本発明は、物体に投影された格子像あるいは、物体に描画された格子を撮像した画像の輝度データをもとに、高精度に位相値を求めることが可能となる位相解析方法に関する。そして、OPPA法に適用して、高精度に求めた位相をもとに、基準とする面からの物体面の高さを計測して物体面形状を計測するだけでなく、物体面に設けた格子模様をカメラによって撮影することにより、物体面の面内方向への変位を計測することもできる。
以下、本発明の実施形態を図面と共に説明する。
<OPPA法>
図1、図17A,図17Bに示すように、格子投影法の一つであるモアレトポグラフィの光学系において、物体上に投影された格子2の画像は、物体の高さに関係なく、カメラ内の撮像面では一定の長さとなり、高さにより格子の位相だけが異なる(以下、「OPPA法」という。)。撮影した格子1ピッチの輝度データより位相を解析することにより、すべての画素の位相の解析が可能となる。
図17A,図17Bにおいて、格子2は光源1である点光源Lと基準面Rあるいは計測面Mとの間に配置される。点光源Lから出射した光は、基準面Rでは例えば、光路A―E−C―レンズ7−G(カメラ撮像面6S上)というように、カメラ撮像面6Sに到達する。
計測面Mの高さである基準面Rからの高さhと基準面Rからの位相差Θの関係は、数21式に示される関係があり、格子に平行な面のx,y座標には関係しない。ここで、p’は基準面Rでの格子2の影の格子のピッチ、zは光源1の点光源から基準面Rまでの距離、vは点光源とカメラレンズ中心の距離である。
Figure 0006923915
この式において、位相差Θが2πとなるときの高さHが計測可能範囲ダイナミックレンジを示し、数22式で表される。
Figure 0006923915
図17A,図17Bのモアレトポグラフィの光学系はデジタルカメラ5を含む。デジタルカメラ5はカメラ撮像面6Sおよびカメラのレンズ7を有する。デジタルカメラ5において、デジタルカメラ5を見ると、カメラのレンズ7とのカメラ撮像面6Sは平行であり、デジタルカメラ5の光軸はレンズ面に垂直である。この図の場合、撮像面中心はカメラレンズ中心から右方向にずれている。すなわちレンズ7がシフトしている。このためカメラレンズ中心が撮像面中心に対してずれていない普通のカメラを使った場合は、計測範囲が狭くなる。計測範囲を広くしたい場合は普通のカメラは使えず、シフトレンズなどを使った特殊なカメラが必要となる。
このとき、基準面Rに投影された格子と、カメラ撮像面6Sに撮影された格子画像を図18A,図18Bに示す。図18AはOPPA法により、基準面Rに投影した格子模様を示す図である。図18BはOPPA法により、基準面Rに投影した格子模様を撮影した等間隔の格子画像を示す図である(格子面に垂直な光軸をもつカメラから撮影したとき、カメラ撮像面6Sに撮像される格子模様)。
基準面R上で正方形である格子模様はカメラ撮像面6Sの画像面でも正方形となっており、1ピッチをN(例えばN=9)画素に合わせると、計測面Mがどの高さにおいても1ピッチがN画素となり、計測面の高さにより、位相のみが異なる。そこで、OPPA法を用いて、1ピッチ(N画素)のフーリエ変換を行い、その部分の位相を求めると、高さhがわかる。
図19A,図19Bは本発明による光学系を示す図である(HOPPA法)。本発明の実施形態における光学系において、カメラの光軸は格子2の格子面に対して傾いており、シフト機構を持たない普通のカメラを用いて、広範囲を撮影することができる。
図20Aは図19Aにおいて基準面に投影した格子を示す図である。図20Bは基準面に投影した格子を、カメラで撮影した不等間隔の格子画像を示す図である(格子面に対して、光軸が斜め方向であるカメラから撮影したとき)。この場合、撮影した画像は図20Bに示すように、1ピッチがN画素の正方形(x,方向とy方向でNの画素数が異なる長方形でも良い)とならず、4角形となっている。
この場合、図20Aと図20Bの2つの格子画像は、ホモグラフィ変換などの射影変換により対応付けができる。射影変換は公知の数学的な変換方法である。この射影変換を用いると、図21の左図に示すように、斜め方向のカメラから撮影した扁平した4角形の格子画像が、正方形の格子画像になる。これにより、公知のOPPA法による位相解析が可能となる。この場合、格子画像は、基本的に整数画素ピッチの格子画像となっているため、OPPA法で使用する周波数1の基本周波数はかなり正確に抽出することができ、精度良い位相解析が可能となる。
つぎに、図22Aに示すように、基準面が格子面に対して平行に配置されていない場合を考える。図22Aに示されるように、基準面R’は格子2の格子面に対して平行に配置されていない。この場合も、図23に示すように、射影変換により、左図の斜め方向の基準面R’に投影された格子2を撮影した格子画像が、右図に示される正方形の格子画像に変換される。1辺が整数N画素となる場所にある仮想基準面R’’に投影されている格子画像を作ることができる(図22B参照)。このようにして撮影してもカメラに映った画像は基準面R’からの高さを表す。図7は基準面R’が傾いている場合の撮影した格子と射影変換した格子画像の例を示す図である。
図24に示すように、カメラ撮像面6Dと基準面R’両方が格子2の格子面に平行でない場合も、撮影した画像を射影変換することにより、仮想基準面R’’の画像に変換することができ、計測面における位相解析を高精度に行なうことが可能となる。
格子2が正しく投影される仮想基準面R’’に対してずれた位置に置かれた実際の基準面R’に格子2が投影される。この基準面R’に投影された格子像をデジタルカメラ5で撮影し、そのカメラ撮像面6Dに記録される。物体3の物体表面に投影された格子模様はカメラ撮像面6Dで記録されるが、これを仮想基準面R’’で記録されたと考えても、位相は同じである。
カメラ撮像面6Dで記録された格子像を仮想基準面R’’に射影して、その位相を求めても良い。すなわち、カメラ撮像面6Dの画像を仮想基準面R’’の座標に変換して、位相を解析すればよい。これにより、仮想基準面R’’上では等間隔となり、位相のみが異なってくる。したがって、OPPA法による位相解析が可能となる。
射影変換の方法を用いる場合も、図4に示される計測装置を使用することができる。前述のとおり、1はLED等のランプであり、光源に相当する。2は格子、3は計測対象の物体、4は載置台、5はデジタルカメラ、6は撮像素子、7はレンズ、8はコンピュータ、9は出力装置である。計測結果を得るだけであればコンピュータ8などに結果を記憶すればよいので、出力装置9はなくてもよい。また、ランプ1と格子2としては、市販の液晶プロジェクタなどのプロジェクタを用いてもよい。この場合、液晶表示素子等で格子を表示して格子2を形成する。プロジェクタを用いると、格子のピッチや格子線の方向を自在に変更することができる。
物体3をランプ1で照射すると、物体面に格子2の影が投影され、レンズ7を介してデジタルカメラ5の撮像素子6に影の像が映る。映った像はデジタルカメラ5からコンピュータ8に送られる。そして、コンピュータ8では、記憶されている本発明の方法を実現するプログラムにより前記像が解析されて計測値が得られる。得られた計測値はコンピュータ8に記憶されるとともに、必要であれば出力画像などに加工され、出力装置9に送られて出力される。出力装置は具体的には表示装置や印刷装置などである。
コンピュータ8には、公知の全空間テーブル化法を実行するためのデータテーブル8aをメモリに記憶することも可能である。また、本発明に係るプログラムをコンピュータ8で実行することができる。また、本発明に係るプログラムを記録した記録媒体8bをコンピュータ8に装着することで、本発明に係る計測方法を実行することができる。
本発明に係る格子像の射影変換により格子像を変換する方法を、例えば、特許文献1や特許文献2に開示される計測方法および計測装置に適用し、計測対象物の形状あるいは変形を測定することができる。また、本発明は、特許文献1や特許文献2に限定されず、計測面での位相解析をもとに、計測対象物の形状あるいは変形を測定する方法や装置に適用できる。
基準面を載置台4の表面としても良く、載置台4の上に基準面を有する物体を載置しても良い。基準面と物体面があれば計測できるので、基準面の代わりに物体面を有した物体を置いても良い。また、ランプ1、格子2、物体3、載置台4、デジタルカメラ5を含んだ全体を横にした状態とし、横方向で物体面形状を計測することも可能であり、斜め方向で計測することも可能である。
上述したように、本発明によれば、精度良く解析するため、撮影した格子画像を座標変換により、格子ピッチが一定の整数画素となるように長方形格子や正方形格子に変換し、変換された格子画像をサンプリングモアレ法やOPPA法により位相解析する。これにより、精度が良くなるだけでなく、撮影時に格子画像が長方形や正方形となるように光学系を調整する必要がなく、格子画像の撮影が容易になる。
OPPA法はモアレトポグラフィの光学系を用いている。この光学系は光源とカメラレンズ高さが格子面から同じ高さであり、さらに、基準面とカメラ撮像面が格子面に平行である必要があり制限が多かった。本発明の方法はこの制限を緩和し、光学系の融通性を広くするもので、格子画像が長方形や正方形となる仮想の基準面を使うことができ、カメラ撮像面は格子面に平行でなくても良い方法で、光学系の配置が容易になる。
基準面に投影された格子を斜め方向から撮影しても、撮影された格子画像と、カメラ撮像面が基準面に平行な場合の撮像面の画像とは1:1の対応関係があり、撮影された格子画像をホモグラフィ変換などの射影変換によりカメラ撮像面が基準面に平行な場合の撮像面の格子画像に対応付けることができる。
物体面に格子を投影した場合も同じ対応関係を使うことにより、撮像した画像から、カメラ撮像面が基準面に平行な場合の撮像面の画像を生成することができ、この格子画像の位相解析により高さを解析することが可能となる。すなわち、カメラ光軸が格子面に垂直でなくても、また、基準面の位置が正確に決まっていなくても、撮像した画像はすべて、OPPA法の1ピッチが整数N画素となる格子面に平行な仮想基準面の画像に対応させることができ、この対応した格子画像の位相を解析することにより。高さを求めることができるようになる。
サンプリングモアレ法においては、材料に描いた格子の位相を解析することにより、格子面の面内の変位を求めることができる。カメラの光軸が格子面に垂直でない場合は、撮影された格子画像の場所により、格子の1ピッチの長さが異なって撮影され、位相の解析が困難となり、誤差も大きくなる。ところが、本発明に係る射影変換を用いる方法により、撮影した画像を、1ピッチの間隔が整数N画素となる平面に対応付けておくと、特許文献1や特許文献2に開示されるOPPA法による格子の位相の解析が簡単となり、精度も良くなる。
OPPA法を用いて形状計測を行なうモアレトポグラフィの光学系では、カメラ光軸は格子面に垂直であるなどの制限があり、カメラの光軸が対象物の中心にない場合は、カメラレンズをシフトさせる機構などが必要で制限があった。本発明を用いることにより、その制限が緩和され、光学系の組み方の自由度が増え、コンパクトな3次元形状計測装置となる。
サンプリングモアレ法において、カメラ光軸を格子面に垂直にしていない場合は、位相解析の誤差が大きくなるが、本発明により斜め方向からの撮影も可能となり、撮影の自由度が増え、計測が容易になる。このOPPA法は、モアレトポグラフィの光学系を満足しないと形状計測ができなかった。すなわち、改良型のOPPA法はその拘束を緩和するもので、カメラの光軸が格子面に対して垂直でなくても解析できる方法を提供できる。
従来のサンプリングモアレ法は1ピッチの画素数が整数からずれると位相解析の誤差が大きかった。カメラで撮影した格子画像を射影変換により1ピッチが整数となるように変換してから位相解析を行なうと位相の精度が良くなる。また、これにより、物体面に垂直な光軸方向から撮影した画像として得られ、OPPA法による位相解析が可能となる。
モアレトポグラフィの光学系は大きなものを撮影する場合、装置が大きくなる。逆に、対象物が小さい場合にはカメラとプロジェクタが近づきすぎ、その配置ができない。本発明の方法を用いることにより、コンパクトな装置を組むことができるようになる。
格子を描画する物体の面は平面に限らない。物体表面の面内での変位を測定するので、物体の表面が曲面であってもよい。
次に、対象物体の3次元形状データと対象物からのカラーデータを同時に取得する本発明の実施形態を説明する。
対象物を撮像するカメラとして、RGB3板式のカメラを用いることができる。または、ベイヤー型の受光素子を備えた単板式のカメラを用いることができる。
3CCDなどのRGB3板式のカメラの場合(図25を参照)は、それぞれの輝度情報から上述の位相解析方法を採用して形状を計測すれば良い。図25に示す計測装置は、分光手段10により分光された光成分を、3つの撮像素子6R,6G,6Bで受光する。RGBそれぞれの光の受光成分により、形状が独立して求められる。この場合は、それぞれの形状データを平均化すれば精度良い結果が得られる。なお、RGBそれぞれの形状データは上述の位相解析の方法を用いることができる。
上述の計測方法において一実施形態として、RGB3板のカメラを用いることができる(図25参照)。例えば、図10のように3×3(9画素)で、RGBのそれぞれの9画素の平均値を求めると、格子の影響がなくなり、その物体の色が得られる。高画質の3D画像がリアルタイムで得られるため、用途が広く、医療、美容、服飾関連、スポーツ、芸術、コンピュータグラフィックスなどの分野で活用できる。
本発明の一実施形態では、カラーカメラ1台を用いて3次元形状とそのカラー情報とを取得する。1台のカラーカメラがベイヤー型の単板式のものであると、よりコンパクトでコストを抑えた計測装置を構成できる。
一般に、デジタルカメラやビデオカメラ、スキャナなどは撮像素子を使ってカラー画像を記録する。これらの機器に用いられているシングルチップのCCDイメージセンサなど、単板式デジタル撮像素子はほとんどがベイヤー配列のカラーフィルターを採用している。ベイヤー配列には緑(G)・青(B)・赤(R)のフィルタがそれぞれ2:1:1の比率で含まれている。
ベイヤー型の受光素子を有するカメラにおいて、その受光素子は、図26に示すように、R(赤),G(緑),B(青)それぞれの画素が千鳥パターンのように並んでいる。そのため、RGBのデータを別々に取り出さない場合は、物体の色により輝度が異なるので、本発明による正確な形状計測はできない。また、RGBそれぞれの画素を別々に取り出すと、他の色の画素はデータが無いことになり、連続的なデータが得られず、位相解析ができなかった。
特許文献1と特許文献2に開示される方法は、x軸,y軸に平行な格子線の場合は9×1画素、あるいは、勾配が1/3の斜めの方向の格子を使う場合は、3×3画素などの連続する輝度データを使用して位相解析を行なっている。
サンプリングモアレ法の場合は連続する数画素の輝度データを間引いたり補間したりして位相シフト画像を作り、位相計算をしている。
ベイヤー型の単板式のカメラは図26に示すように、R,G,Bそれぞれの画素が千鳥パターンのように並んでいる。勾配が1/3の格子を使う場合、図27に示すように、この1部分を取り出す。そして、図28に示すように、領域Waの画素データを除外し、それぞれの奇数行と奇数列の輝度データを用いると同じ色の輝度データのみとなる。そして、この9個の輝度データを用いて特許文献2に開示される位相解析方法により位相解析を行なうことができる。
すなわち、従来の方法では、1ピッチ9画素となるように設定していた特許文献1や特許文献2に開示される方法を、1ピッチ18画素とし、光源光として、RGB成分を含む光源光、例えば、白色光を用いる。
位相解析にあたっては、17×1画素または、各画素の周り5×5画素の輝度データより、x,y方向に1画素ずつ飛ばすと同じ色の9画素となり、それぞれ位相が2π/9だけ異なっている。これを用いれば、特許文献1や特許文献2に開示される方法による位相解析が可能となる。RGBを分離しなくても、周辺の5×5画素の奇数行および奇数列のデータを用いて位相解析を行なえばよい(図28参照)。
特許文献2に開示される方法で位相解析する場合、ベイヤー型の撮像素子で撮像した画像に対して、6×6画素を取り出さなくても(図26参照)、5×5画素を取り出し(図27参照)、その奇数行、奇数列のデータを取り出す(抽出する)と同じ色のフィルタを持つ画素となる(図28参照)。図26に示すように、縦と横の番号1〜6で特定される画素から、R、G、Bに対応する5×5画素を取りだす。
図28に示すように、この9個のデータより、位相解析を行い、その結果を、前記の抽出した複数の画素のうちのいずれかの画素、例えば、中央の画素の位相とする。この操作を1画素ごとに繰り返していくと位相分布を求めることができる。
なお、位相分布はフィルタの色で変わることがないので、異なるフィルタで得られた位相分布を合成することが可能である。
ここで、5×5画素の輝度データの奇数行、奇数列の9画素の輝度データより、位相を解析する方法を説明したが、3×3画素、7×7画素、9×9画素、・・・、3×5画素、3×7画素、・・・、5×3画素、5×7画素、・・・などいろいろな組み合わせが考えられる。この中での奇数行奇数列を取り出して、その各画素の位相が順番に並べられた場合に、ちょうど等間隔で2πまで変わるように格子線の方向を斜めに向けて投影しておけばよい。このデータより位相解析を行い、その位相値を中央の画素に割り当て、それを全ての画素に対して行なうことで、位相分布が得られる。これにより、3次元形状計測ができる。なお、全ての画像ではなく、形状データやカラーデータを必要とする領域の画素のみに限定して処理してもよい。
射影変換を用いて格子を補間するHOPPA法の場合は、まず、RGBの各成分を抽出して9画素1ビッチとなるように射影変換する。つまり、特許文献2に開示される方法で解析する場合は、撮影した画像を、R,G1,G2,Bを4枚の画像に分離し、画像全体において、9画素1ピッチとなるように射影変換(ホモグラフィ変換)により割り付けてから、それぞれの画像に対して位相解析を行なう。
すなわち、RGBそれぞれ単色のデータを取り出し、そのデータを、射影変換後の座標に割り付ける。ベイヤー配列のRGBを図28に示すように分離し、4つの5×5画素の奇数行の輝度データ9個を用いて位相解析を行い、その結果を中央の画素の位相とする。領域Waのデータを用いない。つまり、射影変換された画像に対して、例えば、図28に示すように、3×3画素を取り出して、この9個のデータより、位相解析を行い、その結果を中央の画素の位相値として割り当てる。この操作を1画素ごとに繰り返していくと位相分布が求められる。なお、位相分布はフィルタの色で変わることがないので、異なるフィルタで得られた位相分布を平均化して合成することにより、精度の良い位相分布が求められる。ベイヤー配列の撮像素子を用い、RGBの画素データを抽出し、位相解析や色情報を取得する処理は、コンピュータ8によって行うことができる。
なお、1板式あるいは3板式の1台のカメラを用いて、対象物の表面の形状データとカラーデータとを同時に計測してもよいし、2枚の撮像画像を時差で撮影し、1枚目の撮像画像のデータを用いて形状データを計測し、2枚目の撮像画像のデータを用いてカラーデータを計測してもよい。また、形状データのみの計測、あるいは、カラーデータのみを計測の用途にも適用できる。
1 光源
2 格子
3 物体
4 載置台
5 デジタルカメラ
6 撮像素子
6R R撮像素子
6G G撮像素子
6B B撮像素子
6S カメラ撮像面
6D カメラ撮像面
7 レンズ
8 コンピュータ
8a データテーブル
8b 記録媒体
9 出力装置
10 分光手段
L 光源の位置
V カメラレンズの中心
R 基準面の点
R’ 基準面の点(基準面が格子面に対して平行ではない場合)
R’’ 仮想基準面(格子1ピッチが整数N画素となる面)
S 物体面の点
C z軸と格子面の交点
E 格子の原点
Q 光源から点Rへの光が格子面を通過する点
G 光源から点Sへの光が格子面を通過する点
B 物体面における点Sをz軸に垂直に投影した点
P 光源から点Rへの光が、物体面の点Sからz軸に垂直に投影した線を横切る点
I 基準面における点Rをz軸に垂直に投影した点
Wa 領域

Claims (6)

  1. モアレトポグラフィ光学系において、ベイヤー配列のRGBを受光する2次元撮像素子を備えたカメラを用い、RGB成分を含む光源光を用い、格子を用い、前記光源光により3次元物体に投影された前記格子の格子模様を撮像し、前記3次元物体の表面の形状データを取得する計測方法であって、
    前記格子模様の画像からRGB成分ごとに奇数行と奇数列の各画素を抽出し、前記抽出した各画素の位相が前記各画素を順番に並べた場合に、等間隔で2πまで変わるように前記格子の格子線の方向を、前記カメラの前記2次元撮像素子の画素の配列方向に対して斜めに向けて投影する工程と、
    前記物体に投影された格子模様を撮像する工程と、
    前記RGB成分ごとに前記抽出した各画素の位相を用いて位相解析を行い、位相解析により求められた位相を前記抽出した各画素のうちのいずれかの画素の位相とする工程と、
    前記いずれかの画素の位相を求めることを前記撮像した前記格子模様のうちの少なくとも前記形状データを求める画素に対して行い位相分布を求める工程と、
    前記求めた位相分布を用いて前記3次元物体の形状データを求める工程と、
    を含む、
    前記3次元物体の表面の形状データを取得する計測方法。
  2. イヤー配列のRGBを受光する2次元撮像素子を備えたカメラを用い、RGB成分を含む光源光を用い、前記光源光により3次元物体に描画された格子の格子模様を撮像し、前記3次元物体の表面の変位データを取得する計測方法であって、
    前記格子模様の画像からRGB成分ごとに奇数行と奇数列の各画素を抽出し、前記抽出した各画素の位相が前記各画素を順番に並べた場合に、等間隔で2πまで変わるように前記格子模様の格子線の方向を、前記カメラの前記2次元撮像素子の画素の配列方向に対して斜めに向けて前記3次元物体に描画された格子模様を撮像する工程と、
    前記抽出した各画素の位相を用いて位相解析を行い、位相解析により求められた位相を前記抽出した各画素のうちのいずれかの画素の位相とする工程と、
    前記いずれかの画素の位相を求めることを前記撮像した前記格子模様のうちの少なくとも前記変位データを求める画素に対して行い位相分布を求める工程と、
    前記位相分布を前記3次元物体の変形の前と後で求め、前記物体の変形前後の位相差に基づいて物体面の変位を求める工程と、
    を含む計測方法。
  3. 前記モアレトポグラフィ光学系において、前記カメラの撮像面が前記格子と平行ではない場合、前記抽出された画像に対して射影変換を行う工程を含む請求項1または2に記載の計測方法。
  4. 前記請求項1乃至2のいずれか一つの計測方法を行う計測装置。
  5. 請求項1乃至3のいずれか一つの計測方法を実行する計測プログラム。
  6. 請求項5に記載の計測プログラムを記憶した、コンピュータ読み取り可能な記録媒体。
JP2017151933A 2017-08-04 2017-08-04 カラー物体の3次元形状とカラー情報とを同時に取得可能な計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体 Active JP6923915B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017151933A JP6923915B2 (ja) 2017-08-04 2017-08-04 カラー物体の3次元形状とカラー情報とを同時に取得可能な計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017151933A JP6923915B2 (ja) 2017-08-04 2017-08-04 カラー物体の3次元形状とカラー情報とを同時に取得可能な計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2019032187A JP2019032187A (ja) 2019-02-28
JP6923915B2 true JP6923915B2 (ja) 2021-08-25

Family

ID=65523324

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017151933A Active JP6923915B2 (ja) 2017-08-04 2017-08-04 カラー物体の3次元形状とカラー情報とを同時に取得可能な計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP6923915B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113049104B (zh) * 2021-03-04 2022-07-12 珠海赛纳三维科技有限公司 三维物体色度值计算方法及装置、三维物体色度值计算***

Also Published As

Publication number Publication date
JP2019032187A (ja) 2019-02-28

Similar Documents

Publication Publication Date Title
WO2017175341A1 (ja) 計測方法、計測装置、計測プログラム及び計測プログラムを記録した、コンピュータ読み取り可能な記録媒体
CN109489585B (zh) 基于改进多频条纹结构光的三维测量方法
JP4873485B2 (ja) 多数の基準面を用いた形状計測方法および形状計測装置
CN106989695A (zh) 一种投影仪标定方法
JP5633058B1 (ja) 3次元計測装置及び3次元計測方法
JP3937024B2 (ja) モアレ縞を用いたずれ、パタ−ンの回転、ゆがみ、位置ずれ検出方法
JP6590339B2 (ja) 計測方法、計測装置、計測プログラム及び計測プログラムを記録した、コンピュータ読み取り可能な記録媒体
TWI512263B (zh) 形狀測量裝置以及形狀測量方法
US20120113229A1 (en) Rotate and Hold and Scan (RAHAS) Structured Light Illumination Pattern Encoding and Decoding
JP7088530B2 (ja) 3次元計測対象物体の表面に計測結果関連情報を投影する方法および装置
JP2005520142A (ja) 物体の絶対座標測定方法および装置
JP6923915B2 (ja) カラー物体の3次元形状とカラー情報とを同時に取得可能な計測方法、計測装置、計測プログラムを記録した、コンピュータ読み取り可能な記録媒体
JP3536097B2 (ja) 周波数変調格子による格子投影形状計測方法及び装置
JP2014059164A (ja) 形状計測装置及び形状計測方法
JP2913021B2 (ja) 形状計測方法及び装置
JP2006064590A (ja) ラインセンサ及びライン状プロジェクタによる形状計測方法と装置
JP4548228B2 (ja) 画像データ作成方法
JP6884393B2 (ja) 射影変換を用いて変形格子を長方形格子や正方形格子に変換して位相解析を行なう方法および装置
JP6967382B2 (ja) Mtf測定装置およびそのプログラム
JP6860377B2 (ja) Mtf測定用チャート
JP2011252835A (ja) 三次元形状計測装置
Jo et al. Moiré vision: A signal processing technology beyond pixels using the moiré coordinate
JP6942341B2 (ja) 広測定レンジの変形測定方法およびそのプログラム
JP2006003276A (ja) 3次元形状計測システム
KR100483345B1 (ko) 이중파장 영사식 모아레 기반 형상측정장치 및 레지스트레이션을 이용한 멀티헤드 시스템용 자동 캘리브레이션 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210330

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210721

R150 Certificate of patent or registration of utility model

Ref document number: 6923915

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150