JP3643511B2 - 3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体 - Google Patents
3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP3643511B2 JP3643511B2 JP2000050999A JP2000050999A JP3643511B2 JP 3643511 B2 JP3643511 B2 JP 3643511B2 JP 2000050999 A JP2000050999 A JP 2000050999A JP 2000050999 A JP2000050999 A JP 2000050999A JP 3643511 B2 JP3643511 B2 JP 3643511B2
- Authority
- JP
- Japan
- Prior art keywords
- polygon
- image
- information
- screen
- viewpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は,表示対象物体の3次元モデルデータを用い,コンピュータによって任意の視点方向から見た物体の画像を表示する3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体に関し,特に表示対象の撮影画像をもとに処理を行うイメージベースモデリングならびにイメージベースレンダリングの技術に関する。
【0002】
【従来の技術】
近年,インターネットの普及や画像処理能力の向上に伴い,商品等のプレゼンテーションに3次元モデルデータが用いられるようになってきた。3次元モデルデータを商品紹介に用いることにより,顧客は,実際に目の前に商品がなくても,パーソナルコンピュータ等の画面上で,商品を好きな角度/方向から見ることができる。しかし,商品の3次元モデルデータを生成するには,その形状データと表面の画像データが必要となる。
【0003】
一般的な3次元モデルとして,ポリゴンモデルがある。図22にそのポリゴンモデルの一例を示す。このモデルは,表示対象を複数のポリゴンで表し,各ポリゴンに色彩や光沢等の情報を与える。そのデータを透視投影することにより,所望の角度・距離から見たときの2次元画像を得ることができる。この方法では,正確なポリゴンモデルを生成することにより,任意の角度・距離からの観察画像を正確に得ることができる。
【0004】
しかしながら,このポリゴンモデルを得るには,レンジファインダ等の専用の3次元モデリング装置が必要となる。また,表示対象に曲面がある場合,ポリゴン数が膨大となり,そのデータ量・処理量が共に膨大となるという問題がある。また,微妙な色彩が表現できないためリアリティが低く,実写画像に比べるとかなり見劣りするという問題がある。
【0005】
リアリティを増すために,実写画像を複数の方向から撮影し,その画像をポリゴン表面に貼り付ける方法がある。しかしながら,この方法は,表示対象の表面がプラスチックや金属等の鏡面反射が大きいものである場合に,表面に映り込んだ像が実写画像ごとに異なるため,これらの画像をポリゴン表面に貼り付けると,逆にポリゴンの境界が見苦しくなるという問題がある
一方,実写画像を用いたモデルとして,複数の方向から実写画像を撮影し,表示したい角度に最も近い画像を表示する方法がある。この方法では,実写画像を用いているため,非常にリアリティの高い画像を得ることができ,例えば米国アップルコンピュータ社が開発したQuickTimeVR等で用いられている。しかしながら,任意の角度からの画像を得るには,画像数が膨大となり,また,実写画像の撮影距離と所望の視点距離とが大きく異なる場合,表示対象の側面等の見え方が異なるという問題がある。
【0006】
これを解決する方法として,2枚の実写画像から,その間の画像を補間して描画する方法が提案されており,IGGRAPH96で公表された“View Morphing”はその代表的な例である。この方法は,2枚の画像間で共通である対応点をあらかじめ求めておき,対応点をもとに2枚の画像を変形してそれらを合成し,2枚の画像間の視点から見たときの画像を合成する。この方法では,正確な対応点が得られると,2枚の画像間の任意の視点からの画像を,かなり正確に描画することができ,必要となる実写画像の枚数を減らすことができる。
【0007】
しかしながら,この方法では,2つの実写画像間の対応点が必須であるが,これを求める有効なアルゴリズムはいまだ実現されておらず,現在のところ手動で対応点の指定を行っているので,3次元モデルの自動生成には難がある。また,本方法では計算量がかなり大きいため,画像合成に数〜数十分程度かかるのが普通であり,リアルタイムで表示することができない。
【0008】
【発明が解決しようとする課題】
前述したように,従来のモデリング手法であるポリゴンモデルでは,リアリティの高い画像を生成することができず,また,モデルデータの作成が難しいという問題がある。また,実写画像を用いたモデリング手法では,リアリティは増すが,データ量が膨大になったり,対応点を手動で指定したりしなければならなかったり,その処理時間が膨大になったりするという問題がある。
【0009】
【課題を解決するための手段】
本発明は,複数の視点から撮影した実写画像と表示対象物体の概略形状を3次元モデルとする。そして,所望の視点からの表示画像を合成する場合に,まず,所望の視点方向と撮影方向とが最も近い実写画像を選ぶ。その実写画像を概略形状の表面に,実写画像の撮影位置を視点として投射する。そして,投射された概略形状を,所望の視点からの方向からスクリーン上に透視投影して,表示画像を得る。
【0010】
本発明では,所望の視点方向と撮影方向が近い1枚の画像を用い,それを概略形状をもとに変形した画像を表示することを基本とする。このため,実写画像間で,鏡面反射等で写り込んだ画像に差が生じていても,それらに影響されることなく,リアリティの高い画像を得ることができる。また,実写画像間の対応点を用いていないため,対応点を求める必要もない。
【0011】
さらに,実写画像を変形した画像で実写画像間の視点からの表示画像を補っているので,必要となる実写画像の枚数を低く抑えることができる。また,所望の視点方向と撮影方向が近い実写画像を変形させて表示させているので,実写画像の変形は比較的小さく,このため,概略形状の精度を高くしなくても,十分にリアリティの高い画像が得られるという特徴がある。
【0012】
すなわち,概略形状を生成するために,高精度の3次元モデリング装置を必要とせず,概略形状の生成も簡易に行うことができる。また,概略形状のポリゴン数はかなり少なく抑えられるので,本方法における画像合成時間は短く,リアルタイムで描画することが可能である。
【0013】
【発明の実施の形態】
以下,本発明の実施の形態について詳細に説明する。
【0014】
本発明での,表示対象物体Oの3次元モデルデータMDは,物体の全周囲をカバーする異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,その撮影情報Ik(1≦k≦n)と,表示対象物体Oの概略を表すポリゴンデータ(概略形状S)からなる。
【0015】
図1に3次元モデルデータMDの例を示す。この図において,(A)は撮影画像の例を,(B)は撮影情報の例を,(C)は概略形状の例を示している。
【0016】
撮影画像Pkは,デジタルカメラ等で撮影する。撮影情報Ikは,カメラと表示対象物体O(被写体)の距離d,表示対象物体Oのある撮影方向を基準としてその基準方向との差を表す撮影方向を示す回転行列R,撮影画像の1ピクセルの長さを表す解像度rからなる。これらの値は厳密な値を必要としないので,定規等での計測で十分である。
【0017】
概略形状Sは,表示対象物体Oの大まかな形状でかまわないので,撮影画像から表示対象物体Oの大まかな縁取りを行い,Shape from Silhouette 等のアルゴリズムを用いて求める。厳密に計算する必要はなく,生成するポリゴン数も少なくてよいので,一般的なポリゴン生成に比べ,簡易に生成することができる。なお,画像から形状を求める手法(Shape from Silhouette のアルゴリズムを含む)の参考文献としては,例えば「“From image to models (and beyond): a personal retrospective", SIGGRAPH Course Note, 1999. 」がある。
【0018】
また,概略形状Sは,定規等による測定で大まかに生成する方法でも生成可能である。さらに,各撮影画像の背景を切り取っておくことにより,表示対象を表示するとき,表示対象よりも奥にある物体等と重なった場合でも,正確に表示することができる。
【0019】
本発明での上記3次元モデルデータMDを任意の方向から見たときの第1の表示方法について述べる。図2に,第1の表示方法による処理の流れを示す。
【0020】
まず,ステップS11で,所望の視点Vの方向と3次元モデルデータMDの各撮影画像P1〜Pnの撮影方向とを比較し,最も近い撮影画像Pk(1≦k≦n)を選ぶ。この比較は,視点Vの方向ベクトルと撮影方向のベクトルの内積を求め,その値が最も大きいもの(各方向ベクトルを単位ベクトルで表したとき,内積が1に最も近いもの)を選ぶことにより実現できる。
【0021】
ステップS12では,この撮影画像Pkを,撮影位置を視点とした方向から見た概略形状Sの表面に投射する。この様子を,図3に示す。実際に計算機上では,撮影位置を視点,概略形状SをスクリーンSC上に透視投影して,撮影画像PkをスクリーンSCに重ねることにより,概略形状Sの各表面に投射される画像を得ることができる。
【0022】
ステップS13では,図4に示すように,この撮影画像Pkを投射した概略形状Sを,所望の視点Vの方向からスクリーンSC上に透視投影して,表示画像を得る。この操作を行うことにより,3次元モデルデータMDの所望の視点から見たときの投影画像を生成することができる。
【0023】
なお,透視投影は,人間が眼で見る状態と同じ画像を作るため,視点に近い物体ほど大きく,遠い物体ほど小さくなるように投影する投影方法の一つであるが,周知の技術であるため,これについてのさらに詳しい説明は省略する。
【0024】
図5に撮影画像および第1の表示方法による合成画像例を示す。図5(B)は撮影画像そのものであり,図5(A)は視点を左15度ずらして合成した画像,図5(C)は視点を右15度ずらして合成した画像である。図5の(A),(C)は,図1(C)に示す単純な概略形状Sで合成を行っているが,本アルゴリズムを用いることにより,任意の方向から見たときの表示画像を生成できることがわかる。
【0025】
以上の第1の表示方法では,概略形状Sに対して,撮影画像Pkの撮影位置を視点とした方向からの実写の投影と,所望の視点Vからの透視投影のため,2回の座標計算を行う必要がある。撮影情報Ikに,概略形状Sの各項点が対応する撮影画像上のピクセル座標からなる投影点情報(以下,ピクセル座標情報という)IV,概略形状Sの多角形に対応する撮影画像上の多角形を表す多角形情報IPを加えた3次元モデルデータMD2を用いることにより,この座標計算を1回に減らすことができる。
【0026】
図6に3次元モデルデータMD2における撮影情報に追加されるピクセル座標情報IVと多角形情報IPの例を示す。他の撮影情報については,図1(C)に示す3次元モデルデータMDと同様である。ピクセル座標情報IVは,2次元の座標データであり,撮影位置を視点,撮影画像PkをスクリーンSCとして,概略形状Sの各頂点を透視投影することにより,その座標を求める。さらに,多角形情報IPは,頂点のインデックス列のリストであり,概略形状Sの頂点の接続情報をもとに生成する。
【0027】
次に,この3次元モデルデータMD2を用いた第2の表示方法について説明する。図7に,第2の表示方法による処理の流れを示す。
【0028】
第2の表示方法では,まず,所望の視点Vの方向と撮影方向とが最も近い撮影画像Pk(1≦k≦n)を選ぶ(ステップS21)。次に,図8に示すように,視点Vからの概略形状Sの各頂点のスクリーン座標VSを,透視投影により求める(ステップS22)。
【0029】
そして,多角形情報IPから任意の多角形Aを一つ選び(ステップS23),多角形Aの各頂点の座標をピクセル座標情報IVから得て,撮影画像Pk内の多角形Bの領域を取得する(ステップS24)。ステップS24では,例えば図9(A)に示す実写画像から,図9(B)に示す多角形Bの領域を取得することになる。
【0030】
次に,多角形Aの各頂点座標をスクリーン座標VSから得て,図9(C)に示すようなスクリーンSC上の多角形Cを得る(ステップS25)。そして,多角形Bの領域をスクリーンSC上の多角形Cの形状に合うように変形する(ステップS26)。多角形Bの領域を変形した様子を図9(D)に示す。これをスクリーンSCに貼り付けて描画する(ステップS27)。多角形情報IPの全ての多角形に対して,多角形Aと同様に処理してスクリーンSC上に描画することにより(ステップS28),図9(E)に示すように,第1の表示方法と同様の表示画像を得ることができる。
【0031】
上記第1または第2の表示方法では,スクリーンSCに射影した多角形に対応する撮影画像上の多角形がない場合,その場所の画像が抜けるという問題がある。具体例で説明すると,図10は,表示対象物体を正面から撮影した画像であるが,この画像をもとに視点を左に15度ずらして第1の表示方法(第2の表示方法も同様)で合成すると,図11に示すような画像になる。この画像では,左側面に対応する多角形が,図10中の撮影画像中にないため,画像の欠けが生じている。
【0032】
この問題を解決する第3の表示方法を次に示す。図12に,第3の表示方法による処理の流れを示す。
【0033】
第3の表示方法では,所望の視点方向と撮影方向とが近いm枚(2から4枚程度)の撮影画像を選び(ステップS31),その中から視点方向と撮影方向が最も遠い撮影画像から順番に1枚ずつ選んで,上記第1の表示方法または第2の表示方法を用いることにより表示画像を生成する(ステップS32)。生成した表示画像をスクリーンSC上に順次上書きしていく(ステップS33)。ステップS32,S33を,選択したm枚の撮影画像に対する処理を全て終了するまで繰り返す(ステップS34)。
【0034】
図13は,第3の表示方法を用いた例であり,視点の方向を左15度として画像を合成するにあたって,正面撮影画像を用いてスクリーンSCに描画する前に,左45度方向から撮影した撮影画像について,視点を右に30度ずらしたときの画像を生成し,それをスクリーンSCに描画し,その後に,図11の画像を同様に第1または第2の表示方法を用いて上書きした例を示している。
【0035】
これにより,画像の欠けがなくなっていることがわかる。第3の表示方法では,m枚の画像を重ね書きした場合,その処理時間はm倍となる。ここで,表示欠けを生じさせる多角形Dについて考えてみる。3次元モデルデータMDあるいはMD2内の,ある撮影画像Pkを表示するときの視点の範囲は,撮影画像Pkと撮影位置が隣接する撮影画像Pmの撮影位置の中間であり,これを表示限界位置Lとする。表示限界位置Lを視点として概略形状Sの各多角形を透視投影したときにスクリーンSC上に映し出される多角形のうち,撮影画像Pkを撮影したときの撮影位置を視点として概略形状Sの各多角形を透視投影したときにスクリーンSC上に現れない多角形が,表示欠けを生じさせる多角形Dである。
【0036】
そこで表示欠けをなくすための描画時間の短縮のため,次のような付加画像情報ITkを用いる。付加画像情報ITkは,この多角形の各頂点が対応する撮影画像Pm上のピクセル座標情報と,その多角形の頂点のインデックスのリストで多角形を表す多角形情報,その多角形内の撮影画像からなる。上記ピクセル座標情報は,前記の多角形情報の生成の場合と同様に作成する。すなわち,付加画像情報ITkは,図6と同様な形式のピクセル座標情報,多角形情報のリストと,多角形内の撮影画像の画像データからなる。このような付加画像情報ITkを加えた3次元モデルデータをMD3とし,これを描画に用いることにより,描画時間を短縮することができる。
【0037】
図14に,第4の表示方法による処理の流れを示す。この3次元モデルデータMD3を用いた第4の表示方法では,まず,3次元モデルデータMD3の撮影画像Pk(1≦k≦n)の中から,所望の視点方向と撮影方向とが最も近い撮影画像Pj(1≦j≦n)を1枚選び(ステップS41),3次元モデルデータMD3の付加画像情報ITkをもとに前述した第1または第2の表示方法によりスクリーンに描画し(ステップS42),全ての必要な付加画像情報ITkの描画が終了したならば(ステップS43),3次元モデルデータMD3の撮影情報Ikをもとに第1または第2の表示方法によりスクリーンに重ね書きを行い,表示画像を得る(ステップS44)。
【0038】
また,第3の表示方法または第4の表示方法では,違う撮影画像を変形したものを重ね合わせているので,撮影時の照明角度の違いなどで撮影画像の色彩に差がある場合や,概略形状が正確でないために変形した画像が一致しない場合がある。
【0039】
例えば,図15の画像のポリゴンABCDEに注目する。概略形状上では,このポリゴンは,AFCDEで構成されているが,線分CGを含むポリゴンが手前にあるので,実際に見えている部分のポリゴンは,ABCDEとなる。視点方向を左にすると,点Bの位置が,線分CGより左側になり,図16のように表示画像に欠けが生じる。第3の表示方法または第4の表示方法のように,近傍の撮影画像で欠け部分を補ったのが図17の例である。撮影画像の色彩が若干違い,形状にも差が生じているため,接合部が目立つことかわかる。
【0040】
これを回避するための3次元モデルデータMD4と第5の表示方法について説明する。3次元モデルデータMD4は,頂点Bのように,手前のポリゴンの重なりにより生じた頂点を交点として,その交差点情報IXを,3次元モデルデータの多角形情報IPに加えたデータを,モデルデータとする。その交差点情報IXは,これを表す2つの交線すなわち4つの頂点のインデックスからなる。図15の例では,交点(頂点)Bは,頂点A,F,G,Cのインデックスで与えられる。
【0041】
第5の表示方法は,この3次元モデルデータMD4を用いる。描画アルゴリズムは,基本的に第2の表示方法と同様である。違う点は,概略形状Sの各頂点のスクリーン座標を求めた後,それらから,交点のスクリーン座標を求めて描画する点にある。
【0042】
図18に,第5の表示方法による処理の流れを示す。まず,所望の視点方向と撮影方向とが最も近い撮影画像Pk(1≦k≦n)を選ぶ(ステップS51)。視点Vからの概略形状Sの各頂点のスクリーン座標VSを,透視投影により求める(ステップS52)。次に,3次元モデルデータMD4の交差点情報IXの示す2辺の始点と終点に対応するスクリーン座標を代入して,その2辺の交点の座標を求めて頂点のスクリーン座標として加える(ステップS53)。
【0043】
そして,多角形情報IPから任意の多角形Aを一つ選び(ステップS54),多角形Aの各頂点の座標をピクセル座標情報IVから得て,撮影画像Pk内の多角形Bの領域を取得する(ステップS55)。次に,多角形Aの各頂点座標をスクリーン座標VSから得て,スクリーン上の多角形Cを求め(ステップS56),多角形Bの領域をスクリーンSC上の多角形Cの形状に合うように変形する(ステップS57)。これをスクリーンSCに描画する(ステップS58)。多角形情報IPの全ての多角形に対して,多角形Aと同様に処理してスクリーンSC上に描画し表示画像を得る(ステップS59)。
【0044】
図19は,第5の表示方法を用いた例を説明する図であり,頂点A,C,F,Gのスクリーン座標を求め,それから,線分AFおよび線分CGの交点B’のスクリーン座標を求める。そして,図15の多角形ABCDEの領域を図19の多角形AB’CDEの形状に合うように変形して描画する方法を加えたものである。この方法により,画像の不自然さも回避できていることが分かる。
【0045】
上記の3次元モデルデータMD2では,ピクセル座標情報IVとして,x,yの2次元データを用い,第2の表示方法では,その座標で表された多角形を,スクリーン上の対応する多角形領域に変形して貼り付けていた。さらに,ピクセル座標情報IVに,奥行き情報のz値を加えた情報を用いることにより,より自然な画像を得ることが可能になる。
【0046】
図20(A)に示すスクリーンと平面の関係により,ピクセル座標情報IVとしてx,yの2次元データを用いたときに生じる画像の歪みについて説明する。スクリーンSC上の2点S0 とS1 間のm:(1−m)の位置の点をSm とし,視点VからSm を通り,概略形状Sの平面との交点をPm とすると,平面が奥行き方向に傾いている場合,P0 Pm とPm P1 との比は,m:(1−m)にならない。このため,z値を用いずに多角形を線形補間によって変形すると,図20(A)からも明らかなように画像に歪みが生じることになる。そこで,第6の表示方法では,多角形の変形時にz値を考慮して,いわゆるパースペクティブコレクション(perspective correction)による変形を行い,多角形への描画を実行する。
【0047】
図7で説明した第2の表示方法におけるステップS26での多角形の変形方法と,第6の表示方法による多角形の変形方法との違いについて説明する。図7のステップS26では,撮影画像上の多角形BをスクリーンSC上の多角形Cの形状に変形する。すなわち,多角形C内の任意の点が多角形Bのどこに対応するかがわかれば,変形を計算できる。
【0048】
まず,第2の表示方法においてピクセル座標情報IVとして,2次元データを用いる場合,図21(A)に示すような線形補間による多角形の変換を行うことになる。
【0049】
多角形Cの辺上の2点をS0 (xs0,ys0),S1 (xs1,ys1)とし,それらが多角形B上で対応する2点をP0 (xp0,yp0),P1 (xp1,yp1)とする。S0 とS1 との間の点をSm (xsm,ysm)とすると,点Sm に対応する多角形B上の点Pm (xpm,ypm)は,次のように計算される。
【0050】
m=(xsm−xs0)/(xs1−xs0)
xpm=(1−m)×xp0+m×xp1
ypm=(1−m)×yp0+m×yp1
これに対し,第2の表示方法を改良した第6の表示方法では,ピクセル座標情報IVとして,図20(B)に示すような3次元データを用いて,図21(B)に示すパースペクティブコレクションによって,撮影画像上の多角形BをスクリーンSC上の多角形Cの形状に変形する。
【0051】
多角形Cの辺上の2点をS0 (xs0,ys0,zs0),S1 (xs1,ys1,zs1)とし,それらが多角形B上で対応する2点をP0 (xp0,yp0,zp0),P1 (xp1,yp1,zp1)とする。また,S0 とS1 との間の点をSm (xsm,ysm,zsm)とし,点Sm に対応する多角形B上の点をPm (xpm,ypm,zpm)とする。点Pm (xpm,ypm,zpm)は,次のように計算される。
【0052】
m=(xsm−xs0)/(xs1−xs0)
1/T=(1−m)/(zs0×zp1)+m/(zs1×zp0)
xpm/T=(1−m)×xp0/(zs0×zp1)+m×xp1/(zs1×zp0)
ypm/T=(1−m)×yp0/(zs0×zp1)+m×yp1/(zs1×zp0)
このようにピクセル座標情報IVにz値を加えた3次元の座標情報を用いることによって,図20(A)に示すような概略形状Sの平面の傾きによって生じる画像の歪みを解消することができ,より自然な画像を得ることが可能になる。
【0053】
上述した第3ないし第5の表示方法において利用する第2の表示方法に代えて,第6の表示方法を用いることができることは言うまでもない。
【0054】
なお,以上説明した表示方法を,CPUおよびメモリを備えたコンピュータに上記の処理を行うソフトウェアプログラムを実行させることにより実現することができ,また,その一部をハードウェア回路によって実現することもできる。このようなソフトウェアやハードウェアによる画像処理のインプリメント方法自体は,以上の説明と従来のイメージベースレンダリングの技術とから,当業者には明らかであるので,これ以上の詳しい説明は省略する。また,本発明の方法をコンピュータによって実現するためのプログラムは,コンピュータが読み取り可能な可搬媒体メモリ,半導体メモリ,ハードディスクなどの適当な記録媒体に格納することができることは言うまでもない。
【0055】
【発明の効果】
本発明では,視点と撮影方向が近い撮影画像を用い,概略形状をもとに変形させて描画させているので,従来のポリゴンモデルに比べてリアリティの高い画像を得ることができる。また,本発明で用いる概略形状は簡便なものでよいので,そのデータの作成は容易であるという利点もある。また,QuickTimeVRのように撮影画像のみで描画する方法に比べ,必要となる撮影画像も少なく抑えることができるので,モデルデータ量を低く抑えることができる。また,概略形状のポリゴン数はかなり少なく抑えられるので,本発明を用いた画像合成時間は短く,リアルタイムで描画することも可能である。
【図面の簡単な説明】
【図1】3次元モデルデータMDの例を示す図である。
【図2】第1の表示方法による処理の流れを示す図である。
【図3】撮影画像の概略形状への投影例を示す図である。
【図4】投影された概略形状のスクリーンへの透視投影例を示す図である。
【図5】撮影画像および第1の表示方法による合成画像例を示す図である。
【図6】3次元モデルデータMD2における撮影情報に追加されるピクセル座標情報IVと多角形情報IPの例を示す図である。
【図7】第2の表示方法による処理の流れを示す図である。
【図8】第2の表示方法の説明図である。
【図9】第2の表示方法の説明図である。
【図10】表示対象を正面から撮影した画像を示す図である。
【図11】視点を左15度として正面撮影画像を第1の表示方法で合成した例を示す図である。
【図12】第3の表示方法による処理の流れを示す図である。
【図13】視点を左15度として正面撮影画像を第3の表示方法で合成した例を示す図である。
【図14】第4の表示方法による処理の流れを示す図である。
【図15】表示対象を右135度,上30度から撮影した例を示す図である。
【図16】視点を左15度として右135度撮影画像を第1の表示方法で合成した例を示す図である。
【図17】視点を左15度として右135度撮影画像を第3の表示方法で合成した例を示す図である。
【図18】第5の表示方法による処理の流れを示す図である。
【図19】視点を左15度として右135度撮影画像を第5の表示方法で合成した例を示す図である。
【図20】3次元ピクセル座標情報を用いる例を説明する図である。
【図21】多角形の変形方法説明図である。
【図22】ポリゴンモデルの例を示す図である。
【符号の説明】
Pk 撮影画像
Ik 撮影情報
S 概略形状
Claims (12)
- 表示対象物体の3次元モデルデータを用い,コンピュータによって任意の視点方向から見た物体の画像を表示する3次元画像処理方法において,
前記3次元モデルデータとして,表示対象物体を異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,少なくとも撮影方向の情報を含む撮影情報Ik(1≦k≦n)と,表示対象物体の概略を表す概略形状Sの情報を用い,
前記3次元モデルデータの撮影画像Pk(1≦k≦n)の中から,指定された表示視点の方向と撮影方向とが近いk枚の撮影画像を近接撮影画像集合として選び,
その近接撮影画像集合の中で表示視点の方向と撮影方向とが遠い画像から1枚ずつ順次最も近い画像まで,
前記3次元モデルデータの概略形状Sの表面に,前記撮影画像の撮影位置を視点として撮影画像を投影する処理と,
その投影された概略形状を前記表示視点を視点としてスクリーン上に重ねて透視投影する処理とを,
前記近接撮影画像集合の中の各画像について繰り返すことにより表示画像を生成する
ことを特徴とする3次元画像処理方法。 - 表示対象物体の3次元モデルデータを用い,コンピュータによって任意の視点方向から見た物体の画像を表示する3次元画像処理方法において,
前記3次元モデルデータとして,表示対象物体を異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,少なくとも撮影方向の情報を含む撮影情報Ik(1≦k≦n)と,表示対象物体の概略を表す概略形状Sの情報とからなり,前記撮影情報Ikに,撮影画像Pkを撮影したときの撮影装置の位置を視点とし,撮影画像Pk上に概略形状Sの各頂点を透視投影した各投影点の撮影画像上のピクセル座標からなる投影点情報IVと,概略形状Sの投影された多角形を表す投影点の連結を表す多角形情報IPとを含む情報を用い,
前記3次元モデルデータの撮影画像Pk(1≦k≦n)の中から,指定された表示視点の方向と撮影方向とが近いk枚の撮影画像を近接撮影画像集合として選び,
その近接撮影画像集合の中で表示視点の方向と撮影方向とが遠い画像から1枚ずつ順次最も近い画像まで,
前記表示視点を視点として前記3次元モデルデータの概略形状Sの各頂点をスクリーンに透視投影し,投影した概略形状Sの各頂点のスクリーン座標VSを求める処理と,
前記撮影情報Ikの多角形情報IPから任意の多角形Aを1つ取り出し,多角形Aの各頂点座標を前記投影点情報IVから取得し,それが指し示す撮影画像Pkの多角形Aに対応する多角形Bの領域を切り出す処理と,
さらに,多角形Aの各頂点のスクリーン座標VSから多角形Aに対応するスクリーン上の多角形Cを得て,前記多角形Bの形状を多角形Cの形状に合うように変形してスクリーン上に貼り付ける処理と,
前記多角形情報IPの全ての多角形に対して,前記多角形Aと同様の操作を繰り返す処理とを,
前記近接撮影画像集合の中の各画像について繰り返すことにより表示画像を生成する
ことを特徴とする3次元画像処理方法。 - 表示対象物体の3次元モデルデータを用い,コンピュータによって任意の視点方向から見た物体の画像を表示する3次元画像処理方法において,
前記3次元モデルデータとして,
表示対象物体を異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,
少なくとも撮影方向の情報を含む撮影情報Ik(1≦k≦n)と,
表示対象物体の概略を表す概略形状Sの情報と,
さらに前記撮影画像Pkと撮影位置が隣接する撮影画像Pmとで,撮影画像Pkの撮影位置と撮影画像Pmの撮影位置の中間を,撮影画像Pkの表示限界位置Lとし,表示限界位置Lを視点として概略形状Sの各多角形を透視投影したときにスクリーン上に映し出される多角形のうち,撮影画像Pkを撮影したときの撮影位置を視点として概略形状Sの各多角形を透視投影したときにスクリーン上に現れない多角形を,撮影画像Pmの撮影位置を視点として撮影画像Pm上に投影し,その多角形の頂点座標や多角形内の撮影画像を付加画像情報ITkとして加えた情報とを用い,
前記3次元モデルデータの撮影画像Pk(1≦k≦n)の中から,指定された表示視点の方向と撮影方向とが最も近い撮影画像Pj(1≦j≦n)を1枚選び,
前記3次元モデルデータの付加画像情報ITkをもとに,前記3次元モデルデータの概略形状Sの表面に,前記撮影画像の撮影位置を視点として撮影画像を投影し,その投影された概略形状を前記表示視点を視点としてスクリーン上に透視投影することによりスクリーンに描画し,
その後に前記3次元モデルデータの撮影情報Ikをもとに,前記3次元モデルデータの概略形状Sの表面に,前記撮影画像の撮影位置を視点として撮影画像を投影し,その投影された概略形状を前記表示視点を視点としてスクリーン上に透視投影してスクリーンに重ねて描画することにより表示画像を生成する
ことを特徴とする3次元画像処理方法。 - 表示対象物体の3次元モデルデータを用い,コンピュータによって任意の視点方向から見た物体の画像を表示する3次元画像処理方法において,
前記3次元モデルデータとして,
表示対象物体を異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,
表示対象物体の概略を表す概略形状Sの情報と,
少なくとも撮影方向の情報,および撮影画像Pkを撮影したときの撮影装置の位置を視点とし,撮影画像Pk上に概略形状Sの各頂点を透視投影した各投影点の撮影画像上のピクセル座標からなる投影点情報IV,および概略形状Sの投影された多角形を表す投影点の連結を表す多角形情報IPを含む撮影情報Ik(1≦k≦n)と,
さらに前記撮影画像Pkと撮影位置が隣接する撮影画像Pmとで,撮影画像Pkの撮影位置と撮影画像Pmの撮影位置の中間を,撮影画像Pkの表示限界位置Lとし,表示限界位置Lを視点として概略形状Sの各多角形を透視投影したときにスクリーン上に映し出される多角形のうち,撮影画像Pkを撮影したときの撮影位置を視点として概略形状Sの各多角形を透視投影したときにスクリーン上に現れない多角形を,撮影画像Pmの撮影位置を視点として撮影画像Pm上に投影し,その多角形の頂点座標や多角形内の撮影画像を付加画像情報ITkとして加えた情報とを用い,
前記3次元モデルデータの撮影画像Pk(1≦k≦n)の中から,指定された表示視点の方向と撮影方向とが最も近い撮影画像Pj(1≦j≦n)を1枚選び,
前記3次元モデルデータの付加画像情報ITkをもとに,前記表示視点を視点として前記3次元モデルデータの概略形状Sの各頂点をスクリーンに透視投影し,投影した概略形状Sの各頂点のスクリーン座標VSを求め,前記撮影情報Ikの多角形情報IPから任意の多角形Aを1つ取り出し,多角形Aの各頂点座標を前記投影点情報IVから取得し,それが指し示す撮影画像Pkの多角形Aに対応する多角形Bの領域を切り出し,さらに,多角形Aの各頂点のスクリーン座標VSから多角形Aに対応するスクリーン上の多角形Cを得て,前記多角形Bの形状を多角形Cの形状に合うように変形してスクリーン上に貼り付け,前記多角形情報IPの全ての多角形に対して,前記多角形Aと同様の操作を繰り返すことによりスクリーンに描画し,
その後に前記3次元モデルデータの撮影情報Ikをもとに,前記表示視点を視点として前記3次元モデルデータの概略形状Sの各頂点をスクリーンに透視投影し,投影した概略形状Sの各頂点のスクリーン座標VSを求め,前記撮影情報Ikの多角形情報IPから任意の多角形Aを1つ取り出し,多角形Aの各頂点座標を前記投影点情報IVから取得し,それが指し示す撮影画像Pkの多角形Aに対応する多角形Bの領域を切り出し,さらに,多角形Aの各頂点のスクリーン座標VSから多角形Aに対応するスクリーン上の多角形Cを得て,前記多角形Bの形状を多角形Cの形状に合うように変形してスクリーン上に貼り付け,前記多角形情報IPの全ての多角形に対して,前記多角形Aと同様の操作を繰り返 し,スクリーンに重ねて描画することにより表示画像を生成する
ことを特徴とする3次元画像処理方法。 - 表示対象物体の3次元モデルデータを用い,コンピュータによって任意の視点方向から見た物体の画像を表示する3次元画像処理方法において,
前記3次元モデルデータとして,
表示対象物体を異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,
少なくとも撮影方向の情報を含む撮影情報Ik(1≦k≦n)と,
表示対象物体の概略を表す概略形状Sの情報と,
さらに前記撮影情報Ikに,撮影画像Pkを撮影したときの撮影装置の位置を視点とし,撮影画像Pk上に概略形状Sの各頂点を透視投影した各投影点の撮影画像上のピクセル座標からなる投影点情報IVと,概略形状Sの投影された多角形を表す投影点の連結を表す多角形情報IPとを加えた情報,
および前記撮影画像Pkの撮影位置を視点として,概略形状Sの各多角形をスクリーンに投影し,各多角形の辺と辺とが交差する点を交点Xとし,交点Xを含む2辺の始点と終点の頂点の情報である交差点情報IXkと,スクリーン上に投影された交点Xを含む多角形情報とを加えた情報とを用い,
前記3次元モデルデータの撮影画像Pk(1≦k≦n)の中から,指定された表示視点の方向と撮影方向とが最も近い撮影画像Pj(1≦j≦n)を1枚選び,
前記表示視点を視点として前記3次元モデルデータの概略形状Sの各頂点をスクリーンに透視投影し,投影した概略形状Sの各頂点のスクリーン座標VSを求め,
前記交差点情報IXkの示す2辺の始点と終点に対応するスクリーン座標を代入して,その2辺の交点の座標を求めて頂点のスクリーン座標として加え,
前記撮影情報Ikの多角形情報IPから任意の多角形Aを1つ取り出し,
多角形Aの各頂点座標を前記投影点情報IVから取得し,
それが指し示す撮影画像Pkの多角形Aに対応する多角形Bの領域を切り出し,
さらに,多角形Aの各頂点のスクリーン座標VSから多角形Aに対応するスクリーン上の多角形Cを得て,前記多角形Bの形状を多角形Cの形状に合うように変形してスクリーン上に貼り付け,多角形情報IPの全ての多角形に対して,前記多角形Aと同様の操作を繰り返すことにより表示画像を生成する
ことを特徴とする3次元画像処理方法。 - 請求項2,請求項4または請求項5記載の3次元画像処理方法において,
前記投影点情報IVとして,奥行きの座標値を含む3次元座標データを用い,前記多角形Bの形状を多角形Cの形状に合うように変形する際に,前記奥行きの座標値を用い,前記スクリーンに対する前記概略形状Sの平面の傾きに応じた補正を行う
ことを特徴とする3次元画像処理方法。 - コンピュータによって3次元物体を表現する3次元モデリング方法において,
表示対象物体を異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,
少なくとも撮影方向の情報を含む撮影情報Ik(1≦k≦n)と,
表示対象物体の概略を表す概略形状Sとの情報とを用いるとともに,
さらに,前記撮影画像Pkと撮影位置が隣接する撮影画像Pmとで,撮影画像Pkの撮影位置と撮影画像Pmの撮影位置の中間を,撮影画像Pkの表示限界位置Lとし,表示限界位置Lを視点として概略形状Sの各多角形を透視投影したときにスクリーン上に映し出される多角形のうち,撮影画像Pkを撮影したときの撮影位置を視点として概略形状Sの各多角形を透視投影したときにスクリーン上に現れない多角形を,撮影画像Pmの撮影位置を視点として撮影画像Pm上に投影し,その多角形の頂点座標や多角形内の撮影画像を付加画像情報ITkとして加えた情報を用いて,
表示対象物体の3次元モデルデータをコンピュータ上で生成し,
3次元画像処理を行うコンピュータが読み取り可能な記憶媒体に,前記3次元モデルデータを格納する
ことを特徴とする3次元モデリング方法。 - コンピュータによって3次元物体を表現する3次元モデリング方法において,
表示対象物体を異なる方向から撮影したn枚の撮影画像Pk(1≦k≦n)と,
少なくとも撮影方向の情報を含む撮影情報Ik(1≦k≦n)と,
表示対象物体の概略を表す概略形状Sとの情報とを用いるとともに,
さらに,前記撮影画像Pkの撮影位置を視点として,概略形状Sの各多角形をスクリーンに投影し,各多角形の辺と辺が交差する点を交点Xとし,交点Xを含む2辺の始点と終点の頂点の情報である交差点情報IXkと,スクリーン上に投影された交点Xを含む多角形情報とを,撮影情報Ikに加えた情報を用いて,
表示対象物体の3次元モデルデータをコンピュータ上で生成し,
3次元画像処理を行うコンピュータが読み取り可能な記憶媒体に,前記3次元モデルデータを格納する
ことを特徴とする3次元モデリング方法。 - 請求項7または請求項8記載の3次元モデリング方法において,
前記撮影画像Pkに,背景画像を切り取った画像を用いる
ことを特徴する3次元モデリング方法。 - 請求項7,請求項8または請求項9記載の3次元モデリング方法において,
前記撮影情報Ikに,
撮影画像Pkを撮影したときの撮影装置Cの位置を視点とし,撮影画像Pk上に概略形状Sの各頂点を透視投影した各投影点の撮影画像上のピクセル座標からなる投影点情報IVと,
概略形状Sの投影された多角形を表す投影点の連結を表す多角形情報IPとを加えた
ことを特徴とする3次元モデリング方法。 - 請求項10記載の3次元モデリング方法において,
前記ピクセル座標からなる投影点情報IVとして,奥行きの座標値を含む3次元座標データを用いる
ことを特徴とする3次元モデリング方法。 - 請求項1から請求項6までのいずれか1項に記載した3次元画像処理方法をコンピュータに実行させるためのプログラムを,コンピュータが読み取り可能な記録媒体に記録した
ことを特徴とする3次元画像処理プログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000050999A JP3643511B2 (ja) | 2000-02-28 | 2000-02-28 | 3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000050999A JP3643511B2 (ja) | 2000-02-28 | 2000-02-28 | 3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001243497A JP2001243497A (ja) | 2001-09-07 |
JP3643511B2 true JP3643511B2 (ja) | 2005-04-27 |
Family
ID=18572712
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000050999A Expired - Fee Related JP3643511B2 (ja) | 2000-02-28 | 2000-02-28 | 3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3643511B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3352454B2 (ja) * | 2000-11-21 | 2002-12-03 | キヤノン株式会社 | 画像処理装置及びその方法並びに記憶媒体 |
US7071953B2 (en) | 2001-11-02 | 2006-07-04 | Nippon Telegraph And Telephone Corporation | Image processing method and image processing apparatus for obtaining overlaid image |
JP2005063041A (ja) * | 2003-08-08 | 2005-03-10 | Olympus Corp | 3次元モデリング装置、方法、及びプログラム |
JP2005141655A (ja) * | 2003-11-10 | 2005-06-02 | Olympus Corp | 3次元モデリング装置及び3次元モデリング方法 |
JP4368748B2 (ja) * | 2004-06-28 | 2009-11-18 | 株式会社リコー | コンテンツの編集方法、文書ファイル構造、情報処理装置およびシステム並びにプログラム |
CA2587644C (en) * | 2004-11-12 | 2015-01-13 | Mok3, Inc. | Method for inter-scene transitions |
US8570343B2 (en) * | 2010-04-20 | 2013-10-29 | Dassault Systemes | Automatic generation of 3D models from packaged goods product images |
JP5685516B2 (ja) * | 2011-10-25 | 2015-03-18 | 日本電信電話株式会社 | 3次元形状計測装置 |
JP2016020891A (ja) | 2014-06-20 | 2016-02-04 | 株式会社リコー | 形状計測システムおよび撮像装置 |
JP6906370B2 (ja) * | 2017-05-31 | 2021-07-21 | 京セラ株式会社 | 画像処理装置 |
JP6861584B2 (ja) * | 2017-06-28 | 2021-04-21 | 京セラ株式会社 | 画像処理装置、画像処理システムおよび制御プログラム |
CN110990997A (zh) * | 2019-10-26 | 2020-04-10 | 重庆铁马工业集团有限公司 | 一种箱体参数化工艺模板的设计方案 |
-
2000
- 2000-02-28 JP JP2000050999A patent/JP3643511B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001243497A (ja) | 2001-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6201476B2 (ja) | 自由視点画像撮像装置およびその方法 | |
JP4947593B2 (ja) | 局所領域分割による自由視点画像の生成装置およびプログラム | |
US8014985B2 (en) | Setting and visualizing a virtual camera and lens system in a computer graphic modeling environment | |
JP4803594B2 (ja) | 局所領域分割による自由視点画像の生成装置およびプログラム | |
US7129943B2 (en) | System and method for feature-based light field morphing and texture transfer | |
US20160125638A1 (en) | Automated Texturing Mapping and Animation from Images | |
JP3643511B2 (ja) | 3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体 | |
WO2013082539A1 (en) | Automatic tracking matte system | |
JP2006244306A (ja) | 動画像生成システム、動画像生成装置、動画像生成方法、プログラム、及び記録媒体 | |
US7428482B2 (en) | Visualization and setting of a virtual camera and lens system in a computer graphic modeling environment | |
JP3104638B2 (ja) | 3次元画像作成装置 | |
JP3855053B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
US6795090B2 (en) | Method and system for panoramic image morphing | |
JP4108171B2 (ja) | 画像合成装置 | |
JPH0950540A (ja) | 画像生成方法 | |
JP3352454B2 (ja) | 画像処理装置及びその方法並びに記憶媒体 | |
JP2002163678A (ja) | 擬似三次元画像生成方法および装置 | |
JP2005063041A (ja) | 3次元モデリング装置、方法、及びプログラム | |
JP7394566B2 (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JP3309841B2 (ja) | 合成動画像生成装置および合成動画像生成方法 | |
JP3648099B2 (ja) | 画像合成表示方法および装置ならびに画像合成表示プログラムを記録した記録媒体 | |
JP2022029730A (ja) | 3dモデル生成装置ならびに仮想視点映像生成装置、方法およびプログラム | |
US6633291B1 (en) | Method and apparatus for displaying an image | |
JP2004227095A (ja) | テクスチャマップ作成方法、テクスチャマップ作成用プログラムおよびテクスチャマップ作成装置 | |
JPH09245192A (ja) | 仮想環境生成実現方法およびその装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041012 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041206 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050125 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050128 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D02 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080204 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090204 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090204 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100204 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110204 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110204 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120204 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130204 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |