JP2019082955A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2019082955A JP2019082955A JP2017211163A JP2017211163A JP2019082955A JP 2019082955 A JP2019082955 A JP 2019082955A JP 2017211163 A JP2017211163 A JP 2017211163A JP 2017211163 A JP2017211163 A JP 2017211163A JP 2019082955 A JP2019082955 A JP 2019082955A
- Authority
- JP
- Japan
- Prior art keywords
- image processing
- processing apparatus
- image
- pixel values
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Investigating Or Analysing Materials By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
【課題】 物体の反射特性を高精度に取得するための処理を提供することを目的とする。【解決手段】 画像から、光源と撮像装置と物体における対象領域との位置によって決まる幾何条件が互いに異なる複数の画素の画素値を取得する第1取得手段と、前記対象領域の表面における法線方向を表す法線情報を取得する第2取得手段と、前記複数の画素の画素値のうち少なくとも2つ以上の画素値と、前記2つ以上の画素値それぞれに対応する前記幾何条件及び前記法線方向に基づいて算出される反射率と、を用いた処理によって、前記対象領域における反射特性を決定する決定手段と、を有し、前記処理は、前記複数の画素が対応する前記対象領域の位置と前記物体において前記光源からの光が前記撮像装置に対して正反射する位置との距離に応じることを特徴とする画像処理装置。【選択図】 図4
Description
本発明は、物体の反射特性を取得するための画像処理技術に関する。
照明方向や観測(撮像)方向に応じた物体の反射率の変化(反射特性)を、双方向反射率分布関数BRDF(Bi−directional Reflectance Distribution Function)を用いて表す方法が一般的に知られている。BRDFについての情報を利用することにより、任意の照明条件・視線方向における自然な陰影やハイライトの再現が可能になる。特許文献1は、光源方向又は観測方向を変えながらの撮像によって得られた複数の画像データを用いることによって、物体のBRDFの推定を行う技術を開示している。
一般的なデジタルカメラには、露出時間や絞り値の設定に応じて、取得可能な明るさの範囲に限界がある。ある露出の設定に対して被写体が所定の輝度値より明るい場合、撮像画像の画素値が飽和し、輝度を識別できなくなる。一方、ある露出の設定に対して被写体が暗すぎる場合、画素値のS/N比が低下するため、輝度の識別が困難となる。
特許文献1の方法を用いる場合、撮像画像において光源からの光の当たり方が領域ごとに異なる。このため、明るすぎて飽和した画素や暗すぎてS/N比が低下した画素を含む画像に基づいてBRDFを決定することになる。この場合、高精度にBRDFを取得することは困難である。
本発明は、上記課題に鑑みてなされたものであり、物体の反射特性を高精度に取得するための処理を提供することを目的とする。
上記課題を解決するために、本発明に係る画像処理装置は、光源を用いて照明した物体を撮像装置が撮像することによって得られた画像を用いて前記物体の対象領域における反射特性を決定するための画像処理装置であって、前記画像から、前記光源と前記撮像装置と前記対象領域との位置によって決まる幾何条件が互いに異なる複数の画素の画素値を取得する第1取得手段と、前記対象領域の表面における法線方向を表す法線情報を取得する第2取得手段と、前記複数の画素の画素値のうち少なくとも2つ以上の画素値と、前記2つ以上の画素値それぞれに対応する前記幾何条件及び前記法線方向に基づいて算出される反射率と、を用いた処理によって、前記対象領域における反射特性を決定する決定手段と、を有し、前記処理は、前記複数の画素が対応する前記対象領域の位置と前記物体において前記光源からの光が前記撮像装置に対して正反射する位置との距離に応じることを特徴とする。
本発明によれば、物体の反射特性を高精度に取得することができる。
以下、本発明の実施形態を図面を参照して詳細に説明する。尚、以下の実施形態は本発明を必ずしも限定するものではない。また、以下の実施形態において説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。尚、同一の構成については、同一の符号を付して説明する。
[第1実施形態]
<反射特性取得システムの構成>
図1は、本実施形態に係る反射特性取得システムの構成の一例を示す図である。反射特性取得システムは、多視点撮像システム101と、画像処理装置102とを有する。多視点撮像システム101は、光源104と、撮像装置105と、可動ステージ106と、を有する。本実施形態における光源104はプロジェクタである。また、本実施形態における撮像装置105はカラーデジタルカメラである。撮像装置105は、可動ステージ106により撮像位置を移動しながら、光源104からの光が当てられている被写体103を複数回撮像する。この複数回の撮像によって、複数の画像データが得られる。撮像装置105は、各画素にR、G、Bの3つのチャンネルを有する画像データを生成する。本実施形態においては、画像データの画素値として、16ビットで表されるR値、G値、B値が各チャンネルに記録されているが、画素値を表すためのビット数は16に限らず、8ビットなどで表される画素値であってもよい。
<反射特性取得システムの構成>
図1は、本実施形態に係る反射特性取得システムの構成の一例を示す図である。反射特性取得システムは、多視点撮像システム101と、画像処理装置102とを有する。多視点撮像システム101は、光源104と、撮像装置105と、可動ステージ106と、を有する。本実施形態における光源104はプロジェクタである。また、本実施形態における撮像装置105はカラーデジタルカメラである。撮像装置105は、可動ステージ106により撮像位置を移動しながら、光源104からの光が当てられている被写体103を複数回撮像する。この複数回の撮像によって、複数の画像データが得られる。撮像装置105は、各画素にR、G、Bの3つのチャンネルを有する画像データを生成する。本実施形態においては、画像データの画素値として、16ビットで表されるR値、G値、B値が各チャンネルに記録されているが、画素値を表すためのビット数は16に限らず、8ビットなどで表される画素値であってもよい。
被写体103は、油彩画のような平面に近い形状のものとする。可動ステージ106は、図1に示すX軸、Y軸、Z軸を軸とする3次元空間において、XY平面を移動可能なステージである。光源104と撮像装置105とは、可動ステージ106に固定されており、互いの相対位置を保ったまま、被写体103と概ね平行な面上を移動する。被写体103は、XY平面に凡そ平行に設置されており、測定対象となる面が可動ステージ106側に向いている。光源104は被写体103に正対する向きで設置されており、撮像装置105は光源104の正面を撮像するため、やや光源104側に傾いた向きで設置されている。
尚、被写体103の形状や多視点撮像システム101の構成は上記一例に限定されない。被写体は平面でなくてもよく、例えば球体のような3次元形状であってもよい。この場合は、被写体の全面を撮像するために、可動ステージ106の代わりとして、3次元空間における全ての方向に移動可能なロボットアームを用いても良い。あるいは、撮像装置105を固定し、被写体を回転台の上に乗せて回転させることによって、被写体103の全面を撮像しても良い。また、撮像装置105と被写体103との両方が動く形態であっても良い。更には、複数の光源や複数の撮像装置を使用することによって、幾何条件が異なる複数回の撮像を行っても良い。また、光源104が単一の点光源であると近似できるような照明条件において撮像できれば、光源104はプロジェクタに限らず、LEDの点光源などであってもよい。
画像処理装置102は、例えばコンピュータであり、CPU107、ROM108、RAM109を備える。CPU107は、RAM109をワークメモリとして、ROM108、HDD(ハードディスクドライブ)110などに格納されたOS(オペレーティングシステム)や各種プログラムを実行する。また、CPU107は、システムバス111を介して各構成を制御する。尚、後述するフローチャートによる処理は、ROM108やHDD110などに格納されたプログラムコードがRAM109に展開され、CPU107によって実行される。汎用I/F(インターフェース)112には、シリアルバスを介して、マウスやキーボードなどの入力デバイス113や多視点撮像システム101が接続される。画像処理装置102は、シリアルバスを介して、光源104、撮像装置105及び可動ステージ106と接続されているため、照明条件、撮像、視点位置等の制御が可能である。SATA(シリアルATA)I/F114には、シリアルバスを介して、HDD110や各種記録メディアの読み書きを行う汎用ドライブ115が接続される。CPU107は、HDD110や汎用ドライブ115にマウントされた各種記録メディアを各種データの格納場所として使用する。ビデオI/F116には、ディスプレイ117が接続される。CPU107は、プログラムによって提供されるUI(ユーザインターフェース)をディスプレイ117に表示し、入力デバイス113を介して受け付けるユーザ指示などの入力を受信する。
<BRDFの決定における課題>
図6〜図11を参照して、物体のBRDFを決定する際の課題を説明する。図6は、被写体103、光源104、撮像装置105を、可動ステージ106の背後側から見た場合の、それぞれの位置関係を示す図である。台形の撮像領域は、被写体103上において、撮像装置105の画角内に入る範囲(すなわち、撮像画像に映る範囲)を示している。正反射点は、被写体103の表面の法線がZ軸の負の方向と一致している場合に、光源104からの光の正反射光が撮像装置105に到達するおおよその位置を示している。尚、正反射点は、光源104及び撮像装置105よりもZ軸の正の方向にある。図7は、撮像画像内の輝度の分布を示す図である。実際の撮像によって得られる反射光の強度は被写体103の材質や凹凸(高さ及び法線の分布)の影響を受けるが、正反射点に近い位置ほど強い反射光が取得される傾向にある。図7の例においては、正反射点は撮像領域の右側の外部に位置するため、撮像領域の右端の中央付近にある領域Aが最も明るく、撮像領域の左端の上下端にある領域Jが最も暗くなる。
図6〜図11を参照して、物体のBRDFを決定する際の課題を説明する。図6は、被写体103、光源104、撮像装置105を、可動ステージ106の背後側から見た場合の、それぞれの位置関係を示す図である。台形の撮像領域は、被写体103上において、撮像装置105の画角内に入る範囲(すなわち、撮像画像に映る範囲)を示している。正反射点は、被写体103の表面の法線がZ軸の負の方向と一致している場合に、光源104からの光の正反射光が撮像装置105に到達するおおよその位置を示している。尚、正反射点は、光源104及び撮像装置105よりもZ軸の正の方向にある。図7は、撮像画像内の輝度の分布を示す図である。実際の撮像によって得られる反射光の強度は被写体103の材質や凹凸(高さ及び法線の分布)の影響を受けるが、正反射点に近い位置ほど強い反射光が取得される傾向にある。図7の例においては、正反射点は撮像領域の右側の外部に位置するため、撮像領域の右端の中央付近にある領域Aが最も明るく、撮像領域の左端の上下端にある領域Jが最も暗くなる。
図8は、可動ステージ106をX軸方向に移動させながら8回撮像を行った場合の、各撮像画像の撮像範囲を示した図である。実際に被写体103の反射特性(BRDF)を取得する場合は、Y軸方向における移動も含めた移動によって、撮像領域が被写体103全体を覆うように多くの視点で撮像する。しかし、ここでは説明の簡便のために、X軸方向における移動に伴う撮像によって得られた8視点の撮像画像を扱う。図8における測定点a〜dは、BRDFを決定する対象となる被写体103上の測定点を示している。測定点a、cは撮像領域の左右端に近い領域を含み、測定点b、dは撮像領域の左右端に近い領域を含まない。以下の説明においては、測定点a〜dの各測定点近傍の凹凸は考慮せず、法線はZ軸の負の方向に等しいものとする。
図9は、得られたBRDFの係数(CdR,CsR,σR)と、BRDFをガウス曲線にフィッティングした結果との関係を示す図である。ここでは、Rチャンネルに対応する波長帯を一例としている。グラフの縦軸はRの輝度であり、グラフの横軸は観測方向ベクトルと光源ベクトルとの中間のベクトル(ハーフベクトル)と、法線ベクトルと、のなす角度ρである。図10は、図8の測定点aあるいはcにおける、撮像画像の各画素から取得された画素値と角度ρとの組み合わせと、得られたBRDFを示すガウス曲線と、の関係を示した図である。実線の曲線は、後述する本実施形態の方法により決定されたBRDFを示すガウス曲線である。点線の曲線は、BRDFを決定する際の最適化処理において、重み係数を設定しない場合に得られるBRDFを示すガウス曲線である。尚、重み係数を設定しないことは、重み係数を一定の値に設定することに言い換えることができる。プロットA〜Iは、取得されたRの画素値と角度ρとの組み合わせを示しており、各アルファベットは図7に示した画像内の領域と対応している。
ここで、プロットAは、領域Aが正反射点に近いために画素値が飽和し、真の輝度値に対して低い画素値を示している。一方、プロットIは、画像内の最も暗い領域であり、画素値に対して相対的に大きなノイズを含んでいる可能性がある。特に、測定点の拡散反射光の光量(CdRcosθ)が小さい場合にS/N比は大きく低下する。このような条件下において、重み係数を設定せずにBRDF係数の最適化を行う場合、プロットAやプロットIの影響を強く受け、得られたBRDFは真値に対して誤差が大きくなってしまう。そこで、本実施形態においては、画像内の位置に応じて最適化処理における重み係数を設定する。つまり、プロットEの重み係数を最も大きくし、プロットA及びIの重み係数を0又は0に近い値とする。これにより、画素値の飽和やノイズの影響を低減し、より真値に近いBRDFを得ることができる。
図11は、測定点bあるいはdにおける、各画素から取得されたRの画素値と幾何条件ρとの組み合わせと、得られたBRDFを示すガウス曲線と、の関係を示した図である。測定点bあるいはdにおいては、画素値の飽和したプロットやノイズの影響が大きいプロットを含まないため、重み係数を設定しない場合でも、測定点aやcと比較して真値に近いBRDFが得られる。つまり、BRDF係数の最適化処理を行う際に、重み係数を設定しない場合、測定点a及びcにおいて得られるBRDFと測定点b及びdにおいて得られるBRDFとの間に差が生じる。この差は、コンピュータグラフィックス(CG)等により被写体103のBRDFを再現した場合に、各撮像画像の撮像領域に沿った段差として観察者に知覚される。
一方、本実施形態の方法により重み係数を設定した場合、プロットD及びFの重みが相対的に高くなるため、測定点aやcと同様に真値に近いBRDFが得られる。よって、各測定点において得られたBRDFに差は生じない。つまり、本実施形態の方法によれば、物体(被写体)の反射特性(BRDF)を高精度に取得することができ、CGやプリントなどによって物体のBRDFを再現する場合に撮像領域に沿った段差が生じにくい画像を生成することができる。
<画像処理装置の論理構成>
以下、画像処理装置102の論理構成について説明する。以下に示す各部の処理は、CPU107がROM108等からRAM109上に読み込んだコンピュータプログラムを実行することによって、ソフトウェアとして実施される。図2(a)は、画像処理装置102の論理構成を示すブロック図である。画像処理装置102は、第1取得部201と、第2取得部202と、算出部203と、第3取得部204と、決定部205と、出力部206と、を有する。
以下、画像処理装置102の論理構成について説明する。以下に示す各部の処理は、CPU107がROM108等からRAM109上に読み込んだコンピュータプログラムを実行することによって、ソフトウェアとして実施される。図2(a)は、画像処理装置102の論理構成を示すブロック図である。画像処理装置102は、第1取得部201と、第2取得部202と、算出部203と、第3取得部204と、決定部205と、出力部206と、を有する。
第1取得部201は、撮像装置105が取得した複数の画像データと、各画像データを得るための各撮像に対応する撮像パラメータと、を取得する。撮像パラメータは、光源104の位置及び向きと、撮像装置105の位置及び向きと、撮像における撮像装置105の内部パラメータと、である。内部パラメータは、撮像装置105が有するレンズの焦点距離と、主点位置と、レンズ等に起因する画像の歪曲パラメータと、である。本実施形態における第1取得部201は、多視点撮像システム101の各部を駆動させることによって撮像を行い、画像データを取得する。尚、第1取得部201は、予めHDD110などに保存しておいた画像データ及び撮像パラメータを取得してもよい。
第2取得部202は、被写体103の3次元形状を表す形状データを取得する。本実施形態においては、第1取得部201において取得した複数の画像データと撮像パラメータとに基づいて形状データを生成する。具体的には、まず、公知のステレオ法を用いて被写体103の3次元形状を示す点群(3次元空間における座標情報を有する点の集合)を表す点群データを生成する。生成した点群データに基づいて、公知のPSR(Poisson Surface Reconstruction)法を用いて点群をポリゴンメッシュモデルへと変換する。これにより、ポリゴンメッシュモデルを用いて被写体103の3次元形状を表す形状データを生成する。ここで、ポリゴンメッシュモデルは、物体の表面形状を三角形の集合を用いて表現するモデルである。尚、形状データはポリゴンメッシュモデルを用いて被写体103の3次元形状を表すデータに限られず、例えば、本実施形態における被写体103のように平面に近い物体であれば、物体の高さ分布を表す高さデータ(ハイトフィールドデータ)であってもよい。
尚、本実施形態においては、多視点からの撮像によって得られた複数の画像データに基づいて形状データを生成したが、形状データの取得方法はこれに限定されない。例えば、光源104を用いて特定のパターン光を被写体103に投影し、その反射光を撮像装置105を用いて捉えることによって形状データを取得する方法を用いてもよい。また、画像処理装置102に接続されたレーザーレンジスキャナ等を制御することによって、被写体103の形状データを取得する方法を用いてもよい。また、予めHDD110などに保存しておいた形状データを取得してもよい。
算出部203は、形状データが表す3次元形状における各点と、各点に対応する領域を含む画像と、の組み合わせについて、法線ベクトル(法線情報)、光源ベクトル、観測方向ベクトルを算出する。ここで、3次元形状における各点は、ポリゴンメッシュモデルの表面上に位置する点である。本実施形態においては、図8に示すような撮像領域となるように撮像を行うため、各点に対応する領域を含む画像は複数存在する。法線ベクトルは、形状データにおいて対象の点が含まれる三角形の外向きの法線方向を示す単位ベクトルとして算出される。算出部203は、三角形における2つのベクトルの外積によって法線ベクトルを算出する。光源ベクトルは、対象の点から光源104の座標を指す単位ベクトルとして算出される。観測方向ベクトルは、対象の点から撮像装置105の座標を指す単位ベクトルとして算出される。算出部203は、形状データにおける対象の点の座標と光源104の位置(座標)と撮像装置105の位置(座標)とに基づいて、上述した法線ベクトルのように、ベクトル演算によって光源ベクトル及び観測方向ベクトルを算出する。尚、形状データにおける対象の点の座標と光源104の位置(座標)と撮像装置105の位置(座標)と、の相対的な位置関係は、可動ステージ106の位置情報を用いて算出してもよい。また、公知のキャリブレーション方法を用いて相対的な位置関係を算出してもよい。尚、形状データとしてハイトフィールドデータを用いる場合は、高さ情報の微分値に基づいて法線ベクトルを算出してもよい。
第3取得部204は、形状データが表す3次元形状における各点について、対応する画像データの画素値(R値、G値、B値)を取得する。本実施形態においては、上述したように、各点に対応する領域を含む画像は複数存在するため、画像ごとに複数の画素値を取得する。
決定部205は、形状データが表す3次元形状における各点について、画素値(R値、G値、B値)と幾何条件(θ、ρ)との複数の組み合わせに基づいて、BRDFの係数(CdR、CsR、σR、CdG、CsG、σG、CdB、CsB、σB)を決定する。BRDFの係数は、物体の反射特性を決定するための反射特性パラメータである。図3に示すように、幾何条件は、法線ベクトルと光源ベクトルとがなす角度θと、観測方向ベクトルと光源ベクトルとのハーフベクトルと法線ベクトルとがなす角度ρとを表す。本実施形態においては、被写体103のBRDFとして式(1)に示すGaussモデルを用いる。
R=CdRcosθ+CsRexp(−ρ2/2σR 2)cosθ
G=CdGcosθ+CsGexp(−ρ2/2σG 2)cosθ ・・・式(1)
B=CdBcosθ+CsBexp(−ρ2/2σB 2)cosθ
CdRはRチャンネルに対応する波長帯における拡散反射光の反射率(反射強度)を示す拡散反射係数である。CsRはRチャンネルに対応する波長帯における鏡面反射光の反射率(反射強度)を示す鏡面反射係数、σRはRチャンネルに対応する波長帯における鏡面反射光の広がりを示す鏡面反射係数である。同様に、CdG、CsG、σGはGチャンネルに対応する波長帯における拡散反射係数及び鏡面反射係数である。また、CdB、CsB、σBはBチャンネルに対応する波長帯における拡散反射係数及び鏡面反射係数である。
G=CdGcosθ+CsGexp(−ρ2/2σG 2)cosθ ・・・式(1)
B=CdBcosθ+CsBexp(−ρ2/2σB 2)cosθ
CdRはRチャンネルに対応する波長帯における拡散反射光の反射率(反射強度)を示す拡散反射係数である。CsRはRチャンネルに対応する波長帯における鏡面反射光の反射率(反射強度)を示す鏡面反射係数、σRはRチャンネルに対応する波長帯における鏡面反射光の広がりを示す鏡面反射係数である。同様に、CdG、CsG、σGはGチャンネルに対応する波長帯における拡散反射係数及び鏡面反射係数である。また、CdB、CsB、σBはBチャンネルに対応する波長帯における拡散反射係数及び鏡面反射係数である。
決定部205は、画素値(R値、G値、B値)と幾何条件(θ、ρ)との複数の組み合わせの各々について式(1)を用いて左辺と右辺との差分(誤差)を算出し、差分の和が最小となるようにBRDF係数の最適化を行う。また、決定部205は、BRDF係数の最適化の際に、各組み合わせについて画像における画素の位置に応じた重み付けを行う。BRDF係数の最適化処理及び重み付けの詳細については後述する。
出力部206は、形状データが表す3次元形状における各点において決定したBRDF係数を形状データが表す3次元形状と関連付けることによって出力用データを生成し、出力用データをHDD110に出力する。
<画像処理装置が実行する処理>
次に、画像処理装置102が実行する処理について図4(a)及び図5(a)を参照して説明する。図4(a)は、画像処理装置102が実行する処理のフローチャートである。以下、各ステップ(工程)は符号の前にSをつけて表す。
次に、画像処理装置102が実行する処理について図4(a)及び図5(a)を参照して説明する。図4(a)は、画像処理装置102が実行する処理のフローチャートである。以下、各ステップ(工程)は符号の前にSをつけて表す。
S401において、第1取得部201は、複数の画像データと、各画像データに対応する撮像パラメータと、を取得する。S402において、第2取得部202は、S401において取得した画像データと撮像パラメータとに基づいて、被写体103の3次元形状を表す形状データを生成する。
S403において、算出部203、第3取得部204、決定部205は、形状データが表すポリゴンメッシュモデルの各面(各三角形)についてBRDF決定処理を行う。BRDF決定処理の詳細については後述する。尚、S403は、各三角形について処理するまでループする。S404において、出力部206は、ポリゴンメッシュモデルの各面についてS403において決定したBRDF係数の情報を付加した出力用データを生成し、出力用データをHDD110に出力する。
<BRDF決定処理>
以下、S403において実行されるBRDF決定処理を詳細に説明する。図5(a)は、本実施形態におけるBRD決定処理を示すフローチャートである。
以下、S403において実行されるBRDF決定処理を詳細に説明する。図5(a)は、本実施形態におけるBRD決定処理を示すフローチャートである。
S501において、算出部203は、BRDFを決定する対象となる点(測定点)の3次元空間における座標を取得する。具体的には、処理対象となっている三角形の重心点の座標を、測定点の座標として、三角形の各頂点の座標を用いて算出する。次に、S502〜S504を、処理対象の測定点に対応する全ての画像データについて処理するまでループする。S502において、算出部203は、n番目の画像データについて、法線ベクトルと、光源ベクトルと、観測方向ベクトルと、光源104及び撮像装置105の座標と、を取得する。さらに、算出部203は、法線ベクトルと光源ベクトルとがなす角度θn、及び観測方向ベクトルと光源ベクトルとのハーフベクトルと法線ベクトルとがなす角度ρnを算出する。
S503において、第3取得部204は、n番目の画像データにおいて、S501において座標を取得した測定点に対応する画素値を取得する。具体的には、S502において取得した撮像装置105の座標と、S401において取得した撮像パラメータと、に基づいて、3次元空間における測定点がn番目の画像データが表す画像のどの画素位置(x、y)に映っているかを算出する。ここで算出された画素位置(x、y)の値は端数を含むため、近傍の4画素の画素値を用いた補間処理を行うことによって、画素位置(x、y)に対応する画素値を算出する。取得した画素値と、S502において算出した幾何条件(θn、ρn)と、の組み合わせのリストを生成する。尚、画像において処理対象の三角形が裏面であったり、測定点が他の部位の背後であったり、測定点が画像の外であったりする場合は、画素値を取得できないものとする。
S504において、決定部205は、S503において生成した組み合わせのリストを参照することによって、S505の最適化処理において用いる重み係数を決定する。本実施形態においては、画素値を取得した各画像における座標に基づいて、画像の端部において0あるいは0に近い値を取り、画像の中心部において大きい値を取るように係数を算出する。一例としては、n番目の画像データにおいて画素値を取得した画素位置(x、y)を画像の幅及び高さ(W、H)により除算することによって正規化したものを(un,vn)とする。この場合、n番目の画像データについての画素値と幾何条件との組み合わせに適用する重み係数knを式(2)によって算出する。
kn=((1−cos(2πun))*(1−cos(2πvn)))0.5 ・・・式(2)
以上の重み係数の決定方法により、本実施形態における最適化処理は、複数の画素それぞれが対応する物体における位置と物体において光源からの光が正反射する位置(正反射点)との距離に応じた最適化処理になる。つまり、上述した距離が大きすぎる画素(暗すぎる画素)と上述した距離が小さすぎる画素(明るすぎる画素)は重みが小さくなる。尚、S503において画素値が取得できなかった画像データについては、画素値と幾何条件との組み合わせをS505の最適化処理において使用しないため、重み係数を0に設定する。
以上の重み係数の決定方法により、本実施形態における最適化処理は、複数の画素それぞれが対応する物体における位置と物体において光源からの光が正反射する位置(正反射点)との距離に応じた最適化処理になる。つまり、上述した距離が大きすぎる画素(暗すぎる画素)と上述した距離が小さすぎる画素(明るすぎる画素)は重みが小さくなる。尚、S503において画素値が取得できなかった画像データについては、画素値と幾何条件との組み合わせをS505の最適化処理において使用しないため、重み係数を0に設定する。
S505において、決定部205は、各画像データから取得した画素値と幾何条件との組み合わせに基づいて、測定点におけるBRDF係数(CdR、CsR、σR、CdG、CsG、σG、CdB、CsB、σB)を決定する。本実施形態においては、BRDF係数をR、G、Bの各波長帯において独立に決定する。
各波長帯におけるBRDFの決定は、評価関数に最小二乗法を用いた、ニュートン法等の公知の最適化アルゴリズムによって行う。例えば、Rの波長帯においては、BRDF係数(CdR、CsR、σR)を最適化対象のパラメータとし、式(3)によって表される評価関数ERを最小化するようなパラメータの組み合わせを導出する。ここで、Nは最適化処理に用いる画像データの数である。
G、Bの波長帯についても、同様に評価関数EG、EBを定義し、BRDF係数(CdG、CsG、σG)及び(CdB、CsB、σB)の最適化を行う。
<第1実施形態の効果>
以上説明したように、本実施形態における画像処理装置は、画像から、光源と撮像装置と物体との位置によって決まる幾何条件が互いに異なる複数の画素の画素値を取得する。さらに、物体の表面における法線方向を表す法線情報を取得する。複数の画素の画素値のうち少なくとも2つ以上の画素値と、2つ以上の画素値それぞれに対応する幾何条件及び法線方向に基づいて算出される反射率と、を用いた処理によって、物体の対象領域における反射特性を決定する。この処理は、複数の画素が対応する対象領域の位置と物体において光源からの光が撮像装置に対して正反射する位置との距離に応じる。これにより、明るすぎて飽和した画素の画素値や暗すぎてS/N比が低下した画素の画素値以外の画素値を優先して最適化に用いることができる。したがって、物体の反射特性を高精度に取得することができる。
以上説明したように、本実施形態における画像処理装置は、画像から、光源と撮像装置と物体との位置によって決まる幾何条件が互いに異なる複数の画素の画素値を取得する。さらに、物体の表面における法線方向を表す法線情報を取得する。複数の画素の画素値のうち少なくとも2つ以上の画素値と、2つ以上の画素値それぞれに対応する幾何条件及び法線方向に基づいて算出される反射率と、を用いた処理によって、物体の対象領域における反射特性を決定する。この処理は、複数の画素が対応する対象領域の位置と物体において光源からの光が撮像装置に対して正反射する位置との距離に応じる。これにより、明るすぎて飽和した画素の画素値や暗すぎてS/N比が低下した画素の画素値以外の画素値を優先して最適化に用いることができる。したがって、物体の反射特性を高精度に取得することができる。
[第2実施形態]
第1実施形態においては、油彩画のような平面に近い形状の物体を被写体とし、画像における位置と幾何条件との相関関係を利用して重み係数を決定する方法について説明した。しかしながら、被写体表面の凹凸が大きい場合や、球体などの立体的な形状を有する被写体に対して反射特性の取得を行う場合、撮像時の幾何条件は被写体の形状の影響を強く受けるため、画像における位置と幾何条件との相関度合いは低下する。本実施形態においては、取得された各画素値と幾何条件との組み合わせに対し、幾何条件に基づいて重み係数を決定する例を説明する。尚、本実施形態における反射特性取得システムの構成及び画像処理装置102の論理構成は第1実施形態のものと同等であるため、説明を省略する。本実施形態と実施形態1とでは、S403のBRDF決定処理の詳細が異なるため、図12乃至図14を用いて本実施形態におけるBRDF決定処理の詳細を説明する。
第1実施形態においては、油彩画のような平面に近い形状の物体を被写体とし、画像における位置と幾何条件との相関関係を利用して重み係数を決定する方法について説明した。しかしながら、被写体表面の凹凸が大きい場合や、球体などの立体的な形状を有する被写体に対して反射特性の取得を行う場合、撮像時の幾何条件は被写体の形状の影響を強く受けるため、画像における位置と幾何条件との相関度合いは低下する。本実施形態においては、取得された各画素値と幾何条件との組み合わせに対し、幾何条件に基づいて重み係数を決定する例を説明する。尚、本実施形態における反射特性取得システムの構成及び画像処理装置102の論理構成は第1実施形態のものと同等であるため、説明を省略する。本実施形態と実施形態1とでは、S403のBRDF決定処理の詳細が異なるため、図12乃至図14を用いて本実施形態におけるBRDF決定処理の詳細を説明する。
<BRDF決定処理>
図12は、本実施形態におけるBRDF決定処理を示すフローチャートである。S501〜S503及びS505における処理は第1実施形態と同等であるため、説明を省略する。
図12は、本実施形態におけるBRDF決定処理を示すフローチャートである。S501〜S503及びS505における処理は第1実施形態と同等であるため、説明を省略する。
S1201において、算出部203は、被写体103における測定点の周辺の領域にある点(参照点)の集合を決定する。具体的には、3次元空間における測定点から所定の距離よりも近い位置にある三角形を抽出し、各三角形の重心点のリストを生成する。尚、参照点は三角形の重心点に限らず、所定の距離内の点(三角形の頂点)を全て抽出してもよい。S1202において、算出部203は、各参照点について、S502と同様に、法線ベクトルと、光源ベクトルと、観測方向ベクトルと、光源104及び撮像装置105の座標と、を取得する。S1203において、第3取得部204は、各参照点について、S503と同様に、画素値を取得する。
S1204において、決定部205は、各参照点について、取得した画素値と幾何条件ρとの組み合わせに基づいて、重み係数を決定するための関数を生成する。図13は、各参照点の画素値と幾何条件ρとの関係を示している。縦軸の65535は、16ビットで表される画素値が取りうる最大値である。縦軸のtは、最適化処理に用いる画素値に下限を設けるための閾値である。この閾値により、S/N比が低い画素が最適化処理に与える影響を低減できる。本ステップにおける処理は、まず、R、G、Bいずれかの画素値が飽和した画素が出現する最大のρの値であるρlowと、R、G、Bいずれかの画素値が閾値tを下回る最小のρの値であるρhighと、を取得する。次に、取得したρlowとρhighとに基づいて、重み係数を決定するための関数を生成する。図14は、生成した関数における、幾何条件ρと重み係数との関係を示す図である。ρmidはρlowとρhighとの中間値であり、重み係数はρlow以下とρhigh以上とにおいて0となり、ρmidにおいて1となる。また、重み係数は、ρlowからρmidまでは線形に増加し、ρmidからhighまでは線形に減少する。尚、重み係数は、ρlowからρmidまでを非線形に増加してもよいし、ρmidからρhighまでを非線形に減少してもよい。
S1205において、S1204において生成した関数に基づいて、測定点における各画素値と幾何条件ρとの組み合わせについて、最適化処理の際に適用する重み係数を決定する。以上の重み係数の決定方法により、第1実施形態と同様に、本実施形態における最適化処理は、複数の画素それぞれが対応する物体における位置と物体において光源からの光が正反射する位置(正反射点)との距離に応じた最適化処理になる。
<第2実施形態の効果>
以上説明したように、本実施形態における画像処理装置は、幾何条件に基づいてBRDFを決定するための最適化処理に用いる重み係数を決定する。よって、物体の表面凹凸が大きい場合や、物体が立体的な形状を有する場合であっても、物体の反射特性を高精度に取得することができる。
以上説明したように、本実施形態における画像処理装置は、幾何条件に基づいてBRDFを決定するための最適化処理に用いる重み係数を決定する。よって、物体の表面凹凸が大きい場合や、物体が立体的な形状を有する場合であっても、物体の反射特性を高精度に取得することができる。
[第3実施形態]
上述した実施形態においては、法線ベクトルとして1つのポリゴンについて1つの法線ベクトルを算出する例を示した。しかし、表面に凹凸を有する物体などは、データ上において物体を構成する1つのポリゴン内においても法線方向が細かく変化するため、最適化処理によって、ポリゴン内の詳細な法線方向の変化を取得する必要がある。しかしながら、最適化処理の結果、BRDFの決定における課題において述べたような課題が法線方向についても生じる。つまり、法線ベクトルを取得する際に重み付けを行わないで最適化処理を行うと、取得精度の低下及び撮像領域に沿った段差が生じる。本実施形態においては、各ポリゴンに対応する法線ベクトルを、上述した実施形態におけるBRDFの決定処理と同様に重み付けをした最適化処理によって決定する例を説明する。尚、本実施形態における反射特性取得システムの構成は第1実施形態のものと同等であるため、説明を省略する。
上述した実施形態においては、法線ベクトルとして1つのポリゴンについて1つの法線ベクトルを算出する例を示した。しかし、表面に凹凸を有する物体などは、データ上において物体を構成する1つのポリゴン内においても法線方向が細かく変化するため、最適化処理によって、ポリゴン内の詳細な法線方向の変化を取得する必要がある。しかしながら、最適化処理の結果、BRDFの決定における課題において述べたような課題が法線方向についても生じる。つまり、法線ベクトルを取得する際に重み付けを行わないで最適化処理を行うと、取得精度の低下及び撮像領域に沿った段差が生じる。本実施形態においては、各ポリゴンに対応する法線ベクトルを、上述した実施形態におけるBRDFの決定処理と同様に重み付けをした最適化処理によって決定する例を説明する。尚、本実施形態における反射特性取得システムの構成は第1実施形態のものと同等であるため、説明を省略する。
<画像処理装置の論理構成>
図2(b)は、画像処理装置102の論理構成を示すブロック図である。画像処理装置102は、第1取得部201と、第2取得部202と、算出部203と、第3取得部204と、決定部205と、出力部206と、設定部207と、を有する。第1取得部201と、第2取得部202と、算出部203と、第3取得部204と、出力部206と、は上述した実施形態と同等の処理を行うため説明を省略する。設定部207は、公知のテクスチャマッピングに基づいて、形状データが表す3次元形状の表面に貼り付けるテクスチャを表す画像(以下、テクスチャ画像と呼ぶ)上の座標と形状データにおける座標との対応付けを決定する。具体的には、形状データが表す3次元形状を構成する三角形の各頂点がテクスチャ画像上のどの座標に対応するかを設定する。ここで、テクスチャ画像上の座標は、画像の幅および高さによって正規化された0.0〜1.0の値として設定され、テクスチャ画像の縦横の画素数は任意の値を取り得る。三角形内部の座標は、テクスチャ画像上に投影された対応する三角形の内部の座標として、各頂点からの距離に応じて同様に対応付けられる。形状データとしてハイトフィールドデータを用いる場合は、ハイトフィールドデータの縦横をそのままテクスチャ画像の縦横に対応させれば良い。決定部205は、BRDFの係数に加えて、法線ベクトルを最適化処理によって決定する。法線ベクトルの最適化は、算出部203において算出された法線ベクトルを初期値として行う。
図2(b)は、画像処理装置102の論理構成を示すブロック図である。画像処理装置102は、第1取得部201と、第2取得部202と、算出部203と、第3取得部204と、決定部205と、出力部206と、設定部207と、を有する。第1取得部201と、第2取得部202と、算出部203と、第3取得部204と、出力部206と、は上述した実施形態と同等の処理を行うため説明を省略する。設定部207は、公知のテクスチャマッピングに基づいて、形状データが表す3次元形状の表面に貼り付けるテクスチャを表す画像(以下、テクスチャ画像と呼ぶ)上の座標と形状データにおける座標との対応付けを決定する。具体的には、形状データが表す3次元形状を構成する三角形の各頂点がテクスチャ画像上のどの座標に対応するかを設定する。ここで、テクスチャ画像上の座標は、画像の幅および高さによって正規化された0.0〜1.0の値として設定され、テクスチャ画像の縦横の画素数は任意の値を取り得る。三角形内部の座標は、テクスチャ画像上に投影された対応する三角形の内部の座標として、各頂点からの距離に応じて同様に対応付けられる。形状データとしてハイトフィールドデータを用いる場合は、ハイトフィールドデータの縦横をそのままテクスチャ画像の縦横に対応させれば良い。決定部205は、BRDFの係数に加えて、法線ベクトルを最適化処理によって決定する。法線ベクトルの最適化は、算出部203において算出された法線ベクトルを初期値として行う。
<画像処理装置が実行する処理>
次に、画像処理装置102が実行する処理について図4(b)及び図5(b)を参照して説明する。図4(b)は、画像処理装置102が実行する処理のフローチャートである。尚、S401、S402は実施形態1と同等の処理のため、説明を省略する。
次に、画像処理装置102が実行する処理について図4(b)及び図5(b)を参照して説明する。図4(b)は、画像処理装置102が実行する処理のフローチャートである。尚、S401、S402は実施形態1と同等の処理のため、説明を省略する。
S601において、設定部207は、ポリゴンメッシュモデルに対応したテクスチャ画像上の座標と、各三角形の頂点の座標と、の対応を決定する。本実施形態におけるテクスチャ画像の解像度は4096画素×4096画素とするが、取得したいBRDFの情報に応じて異なる解像度としてもよい。S602において、算出部203、第3取得部204、決定部205は、テクスチャ画像の各画素についてBRDF及び法線ベクトル決定処理を行う。BRDF及び法線ベクトル決定処理との詳細については後述する。尚、S602は、テクスチャ画像の各画素について処理するまでループする。S603において、出力部206は、ポリゴンメッシュモデルに、テクスチャ画像としてBRDF係数及び法線ベクトルの情報を付加した出力用データを生成し、出力用データをHDD110に出力する。
<BRDF及び法線ベクトル決定処理>
以下、S602において実行されるBRDF及び法線ベクトル決定処理を詳細に説明する。図5(b)は、本実施形態におけるBRDF及び法線ベクトル決定処理を示すフローチャートである。尚、S502乃至S505は実施形態1と同等の処理のため、説明を省略する。
以下、S602において実行されるBRDF及び法線ベクトル決定処理を詳細に説明する。図5(b)は、本実施形態におけるBRDF及び法線ベクトル決定処理を示すフローチャートである。尚、S502乃至S505は実施形態1と同等の処理のため、説明を省略する。
S701において、算出部203は、BRDFを決定する対象となる点(測定点)の3次元空間における座標を取得する。具体的には、まず、処理対象となっているテクスチャ画像上の画素に対応するポリゴンメッシュモデルの三角形を抽出する。抽出した三角形の各頂点の座標及びテクスチャ画像上の座標に基づいた補間演算によって、処理対象となっているテクスチャ画像上の画素に対応する形状データ上の座標を算出する。
S702において、決定部205は、各画像データから取得した画素値と幾何条件との組み合わせに基づいて、測定点におけるBRDF係数(CdR、CsR、σR、CdG、CsG、σG、CdB、CsB、σB)及び法線ベクトルを決定する。
BRDF及び法線ベクトルの決定は、評価関数に最小二乗法を用いた、ニュートン法等の公知の最適化アルゴリズムによって行う。最適化処理は、BRDF係数及び法線ベクトル(単位ベクトルであるため回転角と仰角との2自由度)を最適化対象のパラメータとし、式(4)によって表される評価関数ERGBを最小化するようなパラメータの組み合わせを導出する処理である。ここで、Nは最適化処理に用いる画像データの数である。また、θnは法線ベクトルと光源ベクトルとがなす角度であり、ρnは観測方向ベクトルと光源ベクトルとのハーフベクトルと、法線ベクトルと、がなす角度である。パラメータとしての法線ベクトルの変動に伴ってθn、ρnも変動する。
<第3実施形態の効果>
以上説明したように、本実施形態における画像処理装置は、重み付け係数を用いた最適化処理によって、反射特性及び法線方向を決定する。これにより、明るすぎて飽和した画素や暗すぎてノイズの影響が大きい画素の重みを小さくした状態で最適化処理を行うことができるため、物体の反射特性を高精度に取得することができる。また、法線方向についても同様の最適化処理を行うため、物体の詳細な表面形状(凹凸や傾き)を高精度に取得することができる。
以上説明したように、本実施形態における画像処理装置は、重み付け係数を用いた最適化処理によって、反射特性及び法線方向を決定する。これにより、明るすぎて飽和した画素や暗すぎてノイズの影響が大きい画素の重みを小さくした状態で最適化処理を行うことができるため、物体の反射特性を高精度に取得することができる。また、法線方向についても同様の最適化処理を行うため、物体の詳細な表面形状(凹凸や傾き)を高精度に取得することができる。
[変形例]
第1実施形態においては、撮像画像における位置に基づいて最適化処理に用いる重み係数を決定し、第2実施形態においては、周辺領域を含む幾何条件の分布に基づいて最適化処理に用いる重み係数を決定した。しかし、重み係数の決定方法は上記の例に限定されず、例えば、上述した2つの実施形態における重み係数の決定方法を組み合わせても良い。例えば、上述した2つの実施形態におけるそれぞれの方法によって決定した重み係数を乗算し、乗算によって得られた値を重み係数として用いてもよい。
第1実施形態においては、撮像画像における位置に基づいて最適化処理に用いる重み係数を決定し、第2実施形態においては、周辺領域を含む幾何条件の分布に基づいて最適化処理に用いる重み係数を決定した。しかし、重み係数の決定方法は上記の例に限定されず、例えば、上述した2つの実施形態における重み係数の決定方法を組み合わせても良い。例えば、上述した2つの実施形態におけるそれぞれの方法によって決定した重み係数を乗算し、乗算によって得られた値を重み係数として用いてもよい。
また、第1実施形態においては、正反射点が撮像領域の外部にある場合の例を説明したが、正反射点が撮像領域の内部にあってもよい。この場合は、画像における正反射点の位置において0あるいは0に近い値を取り、画像における位置が正反射点から離れるにつれて大きい値を取るように係数を算出する。具体的には、第1実施形態の方法や第2実施形態の方法、もしくは上述したような2つの方法の組み合わせによって係数を算出すればよい。画像における正反射点の位置は、例えば、幾何条件に基づいて決定してもよいし、画像の輝度値(明るさ)に基づいて決定してもよい。
また、第3実施形態においては、BRDFと法線ベクトルとの両方を最適化処理によって決定したが、どちらか一方を最適化処理によって決定してもよい。例えば、BRDFの係数を所定の値に予め決めておき、法線ベクトルのみを最適化してもよい。
また、上述した実施形態においては、可動ステージに固定された1台の撮像装置を用いて物体を撮像したが、撮像装置や光源の数や配置は上記一例に限定されない。例えば、R、G、B以外の可視光の波長帯を撮像することが可能なカメラや赤外線カメラ等を追加してもよい。
また、上述した実施形態においては、物体を構成する各三角形やテクスチャ画像の各画素について独立にBRDFを決定した。一方で、物体上の一定の領域が同一の材質であるなど、同一のBRDFを有するとみなせる場合は、その領域の複数の測定点に対応する各画像データから取得した画素値と幾何条件との組み合わせに基づいて、領域単位でBRDFを決定してもよい。この場合、式(3)及び式(4)のNは、複数の測定点にまたがる画素値と幾何条件との組み合わせの総数である。このような場合、上述した実施形態の方法より少ない数の画像データあるいは1つの画像データに基づいて、BRDFを決定することができる。例えば、物体のすべての領域が均一の材質から成る場合、1視点のみからの撮像を行って得られた画像データのうち物体を含む全ての画素について画素値及び幾何条件の取得を行い、式(3)の評価関数に基づくBRDF係数の最適化を行っても良い。この場合、式(3)のNは物体を含む画素数である。
また、上述した実施形態においては、画像データから取得した画素値全てを用いて最適化処理を行ったが、全ての画素値を最適化処理に用いる必要はなく、少なくとも2つ以上の画素値を最適化処理に用いればよい。例えば、取得した画素値のうち信頼度の高い画素の画素値を最適化処理に用いるようにしてもよい。明るすぎて飽和した画素や暗すぎてS/N比が低下した画素を信頼度の低い画素とし、それら以外の画素を信頼度の高い画素とする。具体的には、例えば、上述した65535を上限の閾値とし、ユーザが入力する値を下限の閾値とし、閾値を用いた画素値に対する信頼度の判定を行うことによって、上限の閾値以下、かつ、下限の閾値より大きい画素値を信頼度の高い画素値とする。
また、上述した実施形態においては、鏡面反射係数と拡散反射係数とを最適化したが、拡散反射係数の最適化を行わずに鏡面反射係数の最適化を行ってもよい。この場合、例えば、偏光板などを用いた撮像によって得られた画像データを用いて拡散反射成分を予め取り除いておけばよい。
また、上述した実施形態においては、BRDF係数をR、G、Bの各波長帯において決定したが、画像データの画素値(R値、G値、B値)に基づいて以下の式(5)により輝度値Yを算出し、輝度についてBRDF係数を決定してもよい。この場合、各波長帯においてBRDF係数を決定する必要がないため、処理にかかる時間やデータ量を削減することができる。
Y=0.2126×R+0.7152×G+0.0722×B ・・・式(5)
また、上述した実施形態においては、形状データにおいて、物体の表面形状を三角形の集合を用いて表現したが、表面形状を表すために四角形などの三角形以外のポリゴンを用いてもよい。
また、上述した実施形態においては、形状データにおいて、物体の表面形状を三角形の集合を用いて表現したが、表面形状を表すために四角形などの三角形以外のポリゴンを用いてもよい。
また、上述した実施形態においては、画像データの画素値をR値、G値、B値としたが、L*a*b*空間上で定義されるL*値、a*値、b*値といった他の形式の値であってもよい。
また、上述した実施形態における出力部206は、出力用データをHDD110に出力したが、出力用データの出力先はHDD110に限らない。例えば、決定されたBRDFを有する物体をディスプレイ上に表示するために、ディスプレイに出力用データを出力してもよい。また、決定されたBRDFを有する物体をプリンタを用いて再現するために、3次元形状を有する物体を形成可能なインクジェットプリンタや3Dプリンタなどに出力用データを出力してもよい。
[その他の実施形態]
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102 画像処理装置
202 第2取得部
204 第3取得部
205 決定部
202 第2取得部
204 第3取得部
205 決定部
Claims (21)
- 光源を用いて照明した物体を撮像装置が撮像することによって得られた画像を用いて前記物体の対象領域における反射特性を決定するための画像処理装置であって、
前記画像から、前記光源と前記撮像装置と前記対象領域との位置によって決まる幾何条件が互いに異なる複数の画素の画素値を取得する第1取得手段と、
前記対象領域の表面における法線方向を表す法線情報を取得する第2取得手段と、
前記複数の画素の画素値のうち少なくとも2つ以上の画素値と、前記2つ以上の画素値それぞれに対応する前記幾何条件及び前記法線方向に基づいて算出される反射率と、を用いた処理によって、前記対象領域における反射特性を決定する決定手段と、を有し、
前記処理は、前記複数の画素が対応する前記対象領域の位置と前記物体において前記光源からの光が前記撮像装置に対して正反射する位置との距離に応じることを特徴とする画像処理装置。 - 前記決定手段は、前記複数の画素の画素値のうち少なくとも2つ以上の画素値と、前記2つ以上の画素値それぞれに対応する前記幾何条件及び前記法線方向に基づいて算出される反射率と、の各差分の和を小さくするように、前記対象領域における反射特性を決定するための反射特性パラメータの最適化を行うことによって、前記対象領域における反射特性を決定し、
前記最適化は、前記複数の画素が対応する前記対象領域の位置と前記物体において前記光源からの光が前記撮像装置に対して正反射する位置との距離に応じることを特徴とする請求項1に記載の画像処理装置。 - 前記和は、前記差分それぞれに重み付け係数を用いた重み付けを行うことによって算出される重み付け和であることを特徴とする請求項2に記載の画像処理装置。
- 前記決定手段は、前記対象領域に対応する前記画像における位置に基づいて、前記重み係数を決定することを特徴とする請求項3に記載の画像処理装置。
- 前記決定手段は、前記正反射する位置が前記画像の外部にある幾何条件において撮像を行う場合に、前記画像の端部における前記重み係数が前記画像の中心部における前記重み係数より低くなるように前記重み係数を決定することを特徴とする請求項4に記載の画像処理装置。
- 前記決定手段は、前記画像において最も輝度が高い第1領域と、前記画像において最も輝度が低い第2領域と、前記第1領域より輝度が低く前記第2領域より輝度が高い第3領域と、を含む前記画像において、前記第1領域及び前記第2領域よりも前記第3領域に対応する重みが大きくなるように前記重み係数を決定することを特徴とする請求項3に記載の画像処理装置。
- 前記決定手段は、前記幾何条件に基づいて、前記重み係数を決定することを特徴とする請求項3に記載の画像処理装置。
- 前記物体から前記光源への方向を表す第1ベクトルと前記物体から前記撮像装置への方向を表す第2ベクトルとのハーフベクトルと、前記法線方向を表す第3ベクトルと、がなす第1角度を算出する算出手段をさらに有し、
前記決定手段は、前記対象領域に対応する撮像の前記第1角度に基づいて、前記重み係数を決定することを特徴とする請求項7に記載の画像処理装置。 - 第1閾値以下である画素値に対応する前記第1角度のうち最も小さい第2角度と、前記画像における最大の画素値に対応する前記第1角度のうち最も大きい第3角度と、に基づいて、前記重み係数を決定することを特徴とする請求項8に記載の画像処理装置。
- 前記第1角度のうち前記第2角度と前記第3角度との中間の第5角度に対応する画素の重みが前記第2角度及び前記第3角度に対応する画素の重みより大きくなるように、前記重み係数を決定することを特徴とする請求項9に記載の画像処理装置
- 前記重み係数は、最も低い値が0又は0に近い値となることを特徴とする請求項3乃至請求項10のいずれか一項に記載の画像処理装置。
- 前記決定手段は、前記第1取得手段が取得した前記複数の画素の画素値から、前記複数の画素の各画素値の信頼度に基づいて、前記処理に用いる前記少なくとも2つ以上の画素値を決定することを特徴とする請求項1乃至請求項11のいずれか一項に記載の画像処理装置。
- 前記決定手段は、前記複数の画素の画素値のうち、前記第1閾値以下であり、かつ、前記第1閾値より小さい第2閾値より大きい画素値を前記少なくとも2つ以上の画素値として決定することを特徴とする請求項12に記載の画像処理装置。
- 前記第1取得手段は、前記撮像装置が撮像することによって得られた複数の画像から、前記複数の画素の画素値を取得することを特徴とする請求項1乃至請求項13のいずれか一項に記載の画像処理装置。
- 前記撮像装置が撮像することによって得られた1つの画像から、前記複数の画素の画素値を取得することを特徴とする請求項1乃至請求項13のいずれか一項に記載の画像処理装置。
- 前記第2取得手段は、前記物体の形状を表す形状データを取得し、前記形状データに基づいて前記法線情報を算出することを特徴とする請求項1乃至請求項15のいずれか一項に記載の画像処理装置。
- 前記形状データは、前記物体の3次元形状を、ポリゴンを用いたモデルによって表すデータであることを特徴とする請求項16に記載の画像処理装置。
- 前記形状データは、前記物体の3次元形状を、前記物体の表面の高さ分布によって表すデータであることを特徴とする請求項16に記載の画像処理装置。
- 前記決定手段は、前記対象領域における反射特性に加えて、前記法線情報が表す法線方向を初期値とした前記最適化によって前記対象領域の表面における法線方向を決定することを特徴とする請求項2乃至請求項18のいずれか一項に記載の画像処理装置。
- コンピュータを請求項1乃至請求項19のいずれか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
- 光源を用いて照明した物体を撮像装置が撮像することによって得られた画像を用いて前記物体の対象領域における反射特性を決定するための画像処理方法であって、
前記画像から、前記光源と前記撮像装置と前記対象領域との位置によって決まる幾何条件が互いに異なる複数の画素の画素値を取得する第1取得ステップと、
前記対象領域の表面における法線方向を表す法線情報を取得する第2取得ステップと、
前記複数の画素の画素値のうち少なくとも2つ以上の画素値と、前記2つ以上の画素値それぞれに対応する前記幾何条件及び前記法線方向に基づいて算出される反射率と、を用いた処理によって、前記対象領域における反射特性を決定する決定ステップと、を有し、
前記処理は、前記複数の画素が対応する前記対象領域の位置と前記物体において前記光源からの光が前記撮像装置に対して正反射する位置との距離に応じることを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017211163A JP2019082955A (ja) | 2017-10-31 | 2017-10-31 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017211163A JP2019082955A (ja) | 2017-10-31 | 2017-10-31 | 画像処理装置、画像処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019082955A true JP2019082955A (ja) | 2019-05-30 |
Family
ID=66670454
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017211163A Pending JP2019082955A (ja) | 2017-10-31 | 2017-10-31 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019082955A (ja) |
-
2017
- 2017-10-31 JP JP2017211163A patent/JP2019082955A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11869139B2 (en) | System and method for three-dimensional scanning and for capturing a bidirectional reflectance distribution function | |
JP6506507B2 (ja) | 測定装置およびその制御方法 | |
JP6363863B2 (ja) | 情報処理装置および情報処理方法 | |
US7200262B2 (en) | 3-dimensional image processing method, 3-dimensional image processing device, and 3-dimensional image processing system | |
JP2018514237A (ja) | 歯科用3dスキャナ用のテクスチャマッピングの装置及び方法 | |
JPWO2009157129A1 (ja) | 画像処理装置、画像分割プログラムおよび画像合成方法 | |
US10863082B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP6580761B1 (ja) | 偏光ステレオカメラによる深度取得装置及びその方法 | |
Přibyl et al. | Feature point detection under extreme lighting conditions | |
JP6869652B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5762015B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2023157018A (ja) | 検出装置、情報処理装置、検出方法、検出プログラム、及び検出システム | |
JP6575999B2 (ja) | 照明情報取得装置、照明復元装置、およびこれらのプログラム | |
JP2018009927A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6425406B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2020512536A (ja) | モデルベースのピーク選択を使用した3dプロファイル決定のためのシステム及び方法 | |
JP2009236696A (ja) | 被写体の3次元画像計測方法、計測システム、並びに計測プログラム | |
JP6412372B2 (ja) | 情報処理装置、情報処理システム、情報処理装置の制御方法およびプログラム | |
JP4764963B2 (ja) | 画像処理装置 | |
JP2019082955A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6745936B2 (ja) | 測定装置およびその制御方法 | |
JP2018077168A (ja) | シミュレーション装置、シミュレーション方法およびシミュレーションプログラム | |
JP2022028344A (ja) | 制御装置、制御方法及びプログラム | |
JP2020106502A (ja) | 形状計測装置、制御方法及びプログラム | |
JP2021004762A (ja) | 計測装置、撮像装置、計測システム、制御方法、プログラム及び記録媒体 |