JP2006521070A - プロジェクタのセットからクラスタを形成する方法 - Google Patents

プロジェクタのセットからクラスタを形成する方法 Download PDF

Info

Publication number
JP2006521070A
JP2006521070A JP2006507674A JP2006507674A JP2006521070A JP 2006521070 A JP2006521070 A JP 2006521070A JP 2006507674 A JP2006507674 A JP 2006507674A JP 2006507674 A JP2006507674 A JP 2006507674A JP 2006521070 A JP2006521070 A JP 2006521070A
Authority
JP
Japan
Prior art keywords
projector
projectors
image
display surface
homography
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006507674A
Other languages
English (en)
Other versions
JP2006521070A5 (ja
JP4443563B2 (ja
Inventor
ラスカー、ラメッシュ
ヴァン・バール、ジェロン
ベアズリィー、ポール・エイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JP2006521070A publication Critical patent/JP2006521070A/ja
Publication of JP2006521070A5 publication Critical patent/JP2006521070A5/ja
Application granted granted Critical
Publication of JP4443563B2 publication Critical patent/JP4443563B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

【課題】方法は、プロジェクタのセットからクラスタを形成する。
【解決手段】セット中の各プロジェクタは、カメラサブシステムに対して固定された物理的関係にあるプロジェクタサブシステムと、メッセージを送受信する通信サブシステムとを含む。プロジェクタにおいて通信サブシステムを介して較正メッセージが受信される。プロジェクタによって通信サブシステムを用いて準備完了メッセージがブロードキャストされる。プロジェクタの各々によってプロジェクタサブシステムを用いて表示面上に構造化パターンが順次投影される。プロジェクタの各々によってカメラサブシステムを用いて構造化パターンの入力画像が順次取得される。プロジェクタは入力画像に従って互いに、および表示面とグローバルアライメントされる。

Description

本発明は、包括的にプロジェクタに関し、特に、複数のプロジェクタをアライメントすることに関する。
プロジェクタの最も利用されている特徴は、対応するCRTデバイスやLCDデバイスによって生成される画像よりも大きなサイズの画像を表示し、プロジェクタから離れた任意の表面に画像を映す能力である。CRTおよびLCDベースのデバイスと同様に、プロジェクタは通常、平坦な矩形の画像を表示する。残念ながら、プロジェクタベースのディスプレイに特有の多くの特徴のほとんどが利用されていない。
CRTデバイスやLCDデバイスとは異なり、プロジェクタは表示面と分離しているため、プロジェクタは、それが生成する画像のサイズよりも遥かに小さいサイズにすることができる。複数のプロジェクタからの重複する画像を表示面上に効果的に重ねることができ、仕様およびフォームファクタの大きく異なるプロジェクタからの画像をブレンドすることもできる。さらに、表示面は平面または硬質である必要はなく、よって、多くのタイプの表面および合成された投影画像を用いて物理的環境を増強することができる。
プロジェクタのトレンド
プロジェクタは小型化、軽量化、高輝度化および低価格化が進んでいる。デバイスが小型になると、フォームファクタの柔軟性が新たな使用モードおよび新たな応用を生む。例えば、将来のプロジェクタは、固定された場所でまたはモバイルセットアップで用いることができる。
分散され商品化されたコンピューティングトレンド
コンピューティングはますます、よくまとまったメインフレームのセットではなく異機種の独立型(self-sufficient)コンピューティングユニットのクラスタにわたって分散されている。より低価格で高性能のコンピュータの進化がこのトレンドを加速している。
同様に、プロジェクタシステムでは、大型でモノリシックな同機種システムから、異機種の独立型プロジェクタで構成されたネットワークへの移行が望まれている。このようなプロジェクタは、PCやPDAと同様に独立モードで用いられるか、またはコンピューティンググリッドと同様にクラスタで協働して動作することができる。
ここ数年で、プロジェクタは、エンターテイメント、フライトシミュレータ、およびプレゼンテーション用途における従来の役割から抜け出した。その結果、プロジェクタベースのシステムにおける進歩は大きな注目を集めており、プロジェクタはこれまでにない目的に用いられ始めている。
プロジェクタベースの環境
最近では、物理的環境を増強するディスプレイデバイス、例えば据え付け用の大型モニタ、投影スクリーン、LCDまたはプラズマスクリーン、ならびに移動用途のハンドヘルドPDAがより普及してきた。これらのディスプレイのほとんどは、必ずしも没入を目的としていない。
サイズおよびコストの縮小により、プロジェクタはますます、従来のディスプレイデバイスおよび媒体に取って代わりつつある。Raskar等著「Multiprojector Displays using Camera-based Registration」(IEEE Visualization, 1999)、Underkoffler等著「Emancipated pixels: realworld graphics in the luminous room」(SIGGRAPH 99 Conference Proceedings, pp., 385-392, 1999)、Pinhanez著「The Everywhere Displays Projector: A Device to Create Ubiquitous Graphical Interfaces」(Ubiquitous Computing, Ubicomp '01, 2001)、Sukthankar等著「Scalable Alignment of Large-Format Multi-Projector Displays Using Camera Homography Trees」(Proceedings of Visualization, 2002)、およびStork著「Projection-based Augmented Reality in Engineering Applications」(2002)を参照のこと。
幾何学的形状の観点では、これらの従来技術のプロジェクタシステムは、中央処理ユニットを補助する1つまたは複数の環境センサを用いる。処理ユニットは、プロジェクタと表示面のユークリッド関係またはアフィン関係を計算する。
対照的に、個々の内蔵型プロジェクタに基づく分散型プロジェクタシステムを提供することが望ましい。
従来技術のプロジェクタシステムのなかには、プロジェクタのクラスタを用いてシームレスな表示の自動位置合わせを行うものもある。Yang著「PixelFlex: A Reconfigurable Multi-Projector Display System」(IEEE Visualization 01, 2001)、およびBrown等著「A Practical and Flexible Large Format Display system」(The Tenth Pacific Conference on Computer Graphics and Applications, pp. 178-183, 2002)を参照のこと。しかし、それらのシステムは、環境センサを必要とし、いずれか1つのセンサの範囲を越えるプロジェクタを許容せず、一次平面にしか機能しない。
環境センサを使用することなく円筒体およびドーム等のより高次の表面上に画像を表示することができるプロジェクタを提供することが望ましい。
改良型プロジェクタ
従来技術のディスプレイシステムのなかには、改良型センサおよびさらなる計算を用いるものもある。上記Underkoffler等によって記載される、同じ場所に配置されたプロジェクタおよびカメラを用いる「I/Oバルブ」を参照のこと。チルトセンサを自動キーストン(台形歪)補正に用いることができる。Raskar著「A Self Correcting Projector」(IEEE Computer Vision and Pattern Recognition, 2001)を参照のこと。
さらに、ネットワーク機能を有するプロジェクタを提供し、プロジェクタが幾何学的形状を認識し自己構成可能にして、プロジェクタが互いに通信し表示面の物理的形状および環境に存在する物体に反応できるようにすることが望ましい。
本発明は、幾何学的形状を認識するプロジェクタ、ならびにこれらの幾何学的形状を認識するプロジェクタのうちの1つまたは複数からなる自己構成可能なディスプレイシステムを支援する新規の技法を提供する。
本発明はまた、他のプロジェクタが存在するときに異なるタイプの表面および物体上に画像を表示するための較正およびレンダリング技法を提供する。
これらの技法は、従来のプロジェクタベースの環境に適用して、新たなタイプの応用およびインタフェースを可能にすることができる。
したがって、本発明の目的は、形状適応性プロジェクタシステムを提供することである。形状適応性の、すなわち幾何学的形状を認識するプロジェクタは、局所歪を最小にして平面または非平面上に画像を表示する。本システムは、対応する等角投影問題、ならびに水平方向および垂直方向の制約の変化に対処する。
また本発明の目的は、いかなる環境センサも使用することなく、内蔵型プロジェクタによって投影される複数の画像から単一のシームレスな画像のような外観をレンダリングすることができる自己構成型のアドホックプロジェクタクラスタを提供することである。
本発明の目的は、シーンのマスタおよびユークリッド情報を用いて複数の画像をグローバルアライメントする方法を提供することである。これは、投影された四辺形の画像の結合すなわち任意形状のポリゴンに内接する最大の矩形画像を求める方法を含む。
本発明の目的は、湾曲した表示面、具体的には二次曲面上に画像を表示するプロジェクタシステムを提供することである。したがって、単純化されたパラメータ化伝達方法が提供される。湾曲面に対処するために、本発明はまた、対をなす関係において湾曲面上の投影画像の歪による小さな誤差が存在するときに画像をグローバルにアライメントし位置合わせする方法を提供する。
幾何学的形状を認識するプロジェクタ
図1は、本発明による、幾何学的形状を認識するプロジェクタ100を示す。プロジェクタ100は、正面投影モードと背面投影モードの両方で、また単独でまたは他の同様のプロジェクタと協働して組み合わせて用いることができることに留意すべきである。
本発明のプロジェクタ100は、バス140により接続された、全体として処理ユニットをなすマイクロプロセッサ110、メモリ120、およびI/Oインタフェース130を含む。処理ユニットの電気的構造は従来と同様であるが、本明細書中に記載される方法ステップを実行する際の動作は従来と異なる。
プロジェクタはまた、出力画像を表示するプロジェクタサブシステム150と、入力画像を取得するカメラサブシステム160とを含む。
ネットワークサブシステム170により、プロジェクタは、他の同様のデバイス、または他のローカルあるいはリモートのコンピューティングデバイスと通信することができる。したがって、ネットワークシステムは、通信媒体に応じてアンテナまたは赤外線送受信機180に接続されることができる。
ユーザインタフェース190は、入力および出力データを供給して、プロジェクタの操作を容易にすることができる。内部センサ195(例えばチルトセンサまたは加速度計)は、プロジェクタの向きを判定することができる。センサは内部専用であり、プロジェクタ外部の環境は検知しないことに留意すべきである。
プロジェクタの動作
プロジェクタ100は、カメラサブシステム160用のスマートキーストン補正、向きにより補償された画像強度、自動輝度、ズームおよびフォーカス、幾何学的形状およびテクスチャを取り込む3D走査、およびスマートフラッシュを含むいくつかの機能を行うことができる。この最後の機能に関して、プロジェクタ機能はカメラ機能の補助である。ここではプロジェクタは、カメラによって観察されるシーンの特定のエリアを照明するに過ぎない。
いくつかのさらなる適応的な機能をさらに詳細に後述する。
本発明では、プロジェクタ外部のいずれのユークリッド情報(例えば、室内のアクティブビーコン、表示スクリーン上の境界または人力)にも頼ることを望まないため、完全な自己較正型プロジェクタ−カメラ立体対を用いて「プラグアンドディスプレイ」機能を補助する。
プロジェクタ100は、シーン中の他のデバイスおよび物体と通信して必要な幾何学的関係を「学習」することができる。プロジェクタが動作している間に、これらの関係を動的に学習する能力は、事前に構成された幾何学的セットアップ、複雑な較正、通信およびユーザによる補助を必要とする従来技術のプロジェクタと大きく異なる点である。
単純な平面ホモグラフィ(planar homography)を用いて完全な較正を回避する従来技術のプロジェクタシステムは、表示面に関するいくらかのユークリッド情報(例えばスクリーンの縁またはマーカー)を必要とするか、あるいはプロジェクタが「理想的な」場所にある、すなわち投影中心(CoP)が平坦な表示面に略垂直であると仮定する。
自己構成可能なアドホックプロジェクタクラスタ
図2Aおよび図2Bに示すように、プロジェクタ100は単独で、またはワイヤレスイーサネット(登録商標)、RF、または赤外線等のネットワーク210を介して互いに通信する、自己構成可能なアドホックネットワーク化されたプロジェクタのクラスタ200で用いることができる。クラスタ200として構成された場合、プロジェクタ100は、図2Bにおいて点描で示す単一のシームレスな合成画像201の知覚を表示する。合成画像201は実際には、表示面230または他の物理的物体上の複数の投影画像220で構成される。なお、表面230は二次曲面とすることができる。この例では、逆さまのキーストンから認められるように、2台のプロジェクタが下から、1台が上から投影している。
後述するように、プロジェクタの配置は無造作であってよい、すなわち画像の境界がアライメントされている必要はない。必要なのは、投影画像の結合が表示面上でn辺のポリゴンを形成し、知覚される単一の合成出力画像が形成されるということだけである。
形状適応性プロジェクタ
プロジェクタ100を無造作に、おそらくはモバイルセットアップで用いる場合、平坦な表示面がいつも利用できるとは限らない。実際には、部屋の角、柱、またはドーム形の天井に画像を表示することが望ましい場合がある。したがって、出力画像を補正して歪を最小化することが必要になる。複数のプロジェクタを用いる場合はさらに、おそらくは照明強度が適合しないプロジェクタによって生成される複数の出力画像をシームレスに合成することが問題となる。なおこれは、「理想的な」場所に配置された、すなわち投影中心(CoP)が平坦な表示面に略垂直である単一のプロジェクタに対して出力画像が事前にワーピングされる従来技術の問題とは異なる。
本発明では、表面の形状に一致した単一の出力画像のような外観を生成したい。3次元のキューは、例えば湾曲した壁面のポスターを片側から見る場合、あるいは円筒形の物体のラベルを読む場合、あるいは湾曲した建物の壁画を見る場合に不可欠な人間の視覚の一部である。したがって本発明は、通常の視覚体験と一致する出力画像を投影する。
等角投影
本発明の方法は、表示面の照明された領域全体に歪を最小にした画像を表示する。例えば、映画のスクリーンのような平面において、解は、観客が映画を正面から平行に(in a front-to-parallel fashion)見ているかのように画像を投影することである。プロジェクタが傾いている場合、キーストン補正を適用する。
湾曲面、すなわち全体として平坦でない表面の場合、表示面上に単数または複数の画像の「壁紙を貼り付け」、表示面上の各ポイントが法線に沿って見た場合に局所的に歪んでいないようにしたい。
法線は変化する可能性があるため、出力画像の面積と表示面上の対応する面積との比が一定である等角画像を求める。
伸張のない解(zero-stretch solution)は、面が展開可能である場合にのみ可能である。可展面の例は、角で交わる2つの平坦な壁、または直円柱のセグメント(segment)、すなわち平面に対して垂直に押し出された(extruded)平面曲線である。角で交わる2つの平坦な壁と天井、または部分的な球面といった他の場合には、伸張を最小化する(minimum stretch)問題を最小二乗法で(in the least squares sense)解く。
本発明の方法を用いた場合、入力画像におけるテクスチャのスクロールは、画像領域のサイズや形状に変化のない、照明された表面上の滑らかなスクロールのように見える。Levy等著「Least Squares Conformal Maps for Automatic Texture Atlas Generation」(SIGGRAPH 2002 Proceeding, 2002)により記載される最小二乗等角写像(LSCM)を適用することによって表示面の3D形状の写像を求める。Levyは、平坦な画像をレンダリングしている間に三角形をテクスチャマッピングすることを主題としているが、本発明では、可展面上に画像を投影する必要がある。
LSCMは、3D表面とその2Dのパラメータ化空間上の対応領域間の角歪および不均一なスケーリングを最小化する。可展面の場合、解は完全に等角である。3Dメッシュ上の所与のポイントXについて、2Dテクスチャ座標(u,v)が複素数(u+iv)によって表現され、表示面が局所的な正規直交基底(x+iy)の座標を用いる場合、等角写像の目的は、Xを通るiso−uおよびiso−v曲線の接線ベクトルが確実に直交する、すなわち次式で表されるようにすることである。
Figure 2006521070
Levy等は、三角形毎に問題を解き、(u,v)のパラメータ化を用いてディスクと同相の任意の表面を写像することによって歪を最小化する。
平面伝達方法
図3は本発明の等角投影法300のステップを示す。
プロジェクタサブシステム150によって構造化パターン(例えば均一なチェッカー盤または正方形の格子)を表示面上に投影すること310で開始する。カメラサブシステム160によって、構造化パターンの入力画像を取得する315。
入力画像のパターンの形状から、3DポリゴンメッシュD(例えば三角形で構成されたメッシュ)を生成する320。メッシュは、プロジェクタの座標枠に生成される。可展面または曲面の場合、メッシュは、表示面の形状を反映するために歪む。
内部センサ195を用いて表示面の座標枠Dにおけるプロジェクタの向きを検知し330、メッシュDを回転させて335、表示面の座標枠Dと軸合わせする。
次に、LSCMを用いてテクスチャ座標Uを求め340、よってユークリッド平面の座標枠Dの2次元埋め込みDΠを見つける。
表示面上に最大の領域を投影する場合、表示面の座標枠Dにおいて可能な限り大きく可能な限り「上向き」である埋め込みDΠの表示可能領域(例えば矩形)の位置を見つけ345、それに従って表示面に合わせてテクスチャ座標を更新する350。
次にテクスチャ座標Uを用いて、出力画像をメッシュD上に上にテクスチャマッピングし355、プロジェクタの視点から表示面上にメッシュをレンダリングする360。テクスチャリングされた三角形のレンダリングは従来のハードウェアまたはソフトウェアベースの技法を用いて行うことができる。
ステップ345において、(u,v)平面における出力画像の向きRtexを見つけようと試みる。表示面が垂直な直円柱(vertical right cylinder)の一部、すなわち水平面における垂直方向の曲線の押し出し(垂直な壁が交わる角または支柱等)であると仮定すると、本発明の目的は、表示面上に投影したときの出力画像の垂直軸を表示面の垂直軸とアライメントすることである。
さらに本発明では、表示面の座標枠におけるプロジェクタの向きを用いる。これが内部センサ195を用いる理由である。表面が垂直な直円柱でなく、例えばドームである場合、本発明の解は、出力画像を最小二乗法でアライメントする。
向き決め(orientation)方法
図4に示すように、2Dの向きRtexを判定するステップは以下の通りである。
3Dにおけるメッシュの、頂点p、p、pを有する三角形t毎に、局所アフィン(2D)x−y座標系をまず求める410。
X=p+x(p−p)+y(p−p
三角形t上への表示面の垂直軸の投影に対応するベクトルを、
[0 1 0]=x(p−p)+y(p−p
を最小二乗法で解くことによって見つける。
本発明では、テクスチャ空間において全ての[x,y]を[0,1]にアライメントしたい。これには2Dの回転および平行移動が伴う。したがって、ベクトル[x,y]を正規化した後、次のように共分散行列を求める420。
Figure 2006521070
行列M=USVに特異値分解を適用し、所望の2D回転をR=UVとして得る430。
最後に、Uvertical=RtexUTを用いて全てのテクスチャ座標を回転させる440。
垂直面の照明
時には、他の方向に歪を生じても一方向において画像特徴の形状を維持することが望ましい。例えば、略垂直であるが展開できない面(球面セグメント等)上に投影されるバナーテキストは、同じ高さのテキスト文字が、水平方向に歪んだとしても全て見えなければならない。
したがって、LSCM技法を修正して、この新たな制約を考慮する。センサ195による読取値のために回転には垂直の概念が符号化されているため、最小二乗等角写像のコスト関数を変更することができる。4つの偏微分係数に対するさらなる制約を次の形式で表す。
weight∂v/∂y−const
通常、そのような制約を1つだけ用いる。例えば、上記の制約は、垂直方向に沿った伸張を最小に抑える、すなわち、式は、全ての三角形にわたる∂v/∂yの偏差にペナルティを与えて最小化する。なお、この場合、三角形の局所的な正規直交x,y基底は、x軸が水平に沿って表示面上のあらゆる場所を指すように選択される。
上記の等角投影法は、角で交わる2つまたは3つの平面部分、「W」字型表面、および凹形ドーム等の非可展面を有するディスプレイを含むいくつかの表示面に用いることができる。
プロジェクタのクラスタ
図5に示すように、本発明の、幾何学的形状を認識するプロジェクタ100のクラスタ200を用いて、平坦なおよび湾曲した表示面501上にレンダリングすることができる。
プロジェクタ200のアドホッククラスタにはいくつかの利点がある。クラスタは、中央管理なしで動作するため、個々のプロジェクタがクラスタに動的に出入することができる。クラスタは、外部環境センサを必要とせず、内部センサのいずれか1つの範囲を越える画像を表示する。
クラスタ200の基本動作を平坦な表示面の状況で説明する。二次曲面等のより高次の表示面の場合、本発明は新規の二次伝達方法を提供する。
アドホッククラスタを用いた平面ディスプレイ
アドホッククラスタ200を用いたシームレスなマルチプロジェクタ重複ディスプレイは多くの利点を提供する。クラスタは、非常に高いアスペクト比(図2Aおよび図2Bを参照)ならびにプロジェクタと表示面の間の短い距離を可能にする。本発明では、異機種プロジェクタおよびより高次の表面を用いることもできる。異機種プロジェクタとは、表示特性(例えば光強度、アスペクト比、およびピクセル解像度)の異なるプロジェクタを意味する。クラスタは、より高いピクセル解像度およびより高輝度なディスプレイを可能にする。さらに、複数のクラスタを用いることもできる。
カメラベースの位置合わせにより無造作にアライメントされたプロジェクタを利用する従来技術のシステムは、表示面により生じる異なるプロジェクタの視点のホモグラフィを用いる。ホモグラフィの関係ならびにいくつかのユークリッド基準枠を用いて画像を事前にワーピングし、表示される画像がディスプレイ上で幾何学的に位置合わせされて歪まないようにする。
しかし、高いアスペクト比で画像を投影することは問題であった。本発明ではこの問題を、1台のプロジェクタのプロジェクタサブシステムと、隣接プロジェクタのカメラサブシステムとの間の対をなすホモグラフィに頼る新規のグローバルアライメント方法を用いることによって克服する。
本発明では、近い位置にあって同様のピクセル解像度比で投影された画像を見る複数の分散カメラにより、対をなすホモグラフィを計算することができる。対をなすホモグラフィを用いて、一次連立方程式を解くことによって、クラスタのグローバルに一致するホモグラフィセットを計算する。これにより、ピクセルの位置合わせが向上する。
グローバルアライメント動作は、大きな事前の計画またはプログラミングを必要とせずに行われる。これは、全てのプロジェクタが個別に動作するとともに独自の観察および計算を対称的に行うために可能である。スクリーンの角またはマスタカメラのアライメント等のユークリッド情報は不要である。内部センサおよびカメラにより、各プロジェクタは幾何学的形状を認識することができ、プロジェクタはクラスタに動的に出入することができる。これに対して、従来技術のマルチプロジェクタディスプレイシステムはセットアップおよび管理が難しい。
クラスタの形成
図6は、プロジェクタのクラスタ200を形成する方法600を示す。本方法は、「較正」メッセージの受信610に応答する。較正メッセージは、クラスタ200に入りたいプロジェクタUによってブロードキャストされることができる。別法として、較正メッセージは、既にクラスタ内にある任意のプロジェクタによって、その向きが変わったときにセンサ195に従ってブロードキャストされることができる。さらにメッセージは、環境内の他の何らかの発信源によって、例えば表示面の形状または向きが変わったことを示すためにブロードキャストされることができる。当然ながらメッセージは、ユーザがプロジェクタを無造作に配置した後で、最初のインスタンシエーションにおいてクラスタを形成する必要があるときにブロードキャストされることもできる。メッセージは、近くにあるm台のプロジェクタ全てにおけるワイヤレスイーサネット(登録商標)、RF、または赤外線等の近接(proximity)ネットワーク210を介して受信される。
これによりm台のプロジェクタU(i=1,...,m)全てのカメラが注意モードに入り、受信側のプロジェクタは全て、「準備完了」メッセージをブロードキャストすることによって応答する620。
この時点で、プロジェクタは、クラスタ200のプロジェクタに内蔵されたm台のカメラC(i=1,...,m)のうちの1つまたは複数に見える構造化パターンを順次投影する630。任意数の通信プロトコル技法を用いて、構造化パターンの順次投影を同期させることができる。
既存のクラスタのいずれか1台のカメラが投影されたパターンを取得すると640、クラスタ全体がグローバルアライメントを行って650、プロジェクタUまたは任意の他のプロジェクタを含める。アライメントは、後述のように、クラスタ内のプロジェクタ間の対をなす幾何学的関係を求めることを含む。
特定のカメラがパターンを取得できない場合、1台のプロジェクタが近くにあるが、その投影パターンは、クラスタによって表示される画像の範囲と重複しないとみなされる。しかし、本方法は、全てのプロジェクタに全てのパターンが見えることを必要としない。一般性を失うことなく、クラスタは現在n台のプロジェクタを含むものとみなされる。
対をなす幾何学的なアフィン関係
図7に示すように、重複する画像の画像位置合わせを行う。画像間の関係はホモグラフィとして表される。3Dでの不透明な平面の2つの任意の透視ビュー間の写像は、あるスケールまで定義された3×3行列として表される平面投影伝達を用いて表すことができる。
2つのビューにおける4個以上の対応性から8自由度を計算することができる。さらに、線形関係により、ホモグラフィ行列をカスケードにして画像伝達を伝播させることができる。
ネットワーク210を用いて、プロジェクタPはクラスタ内の各プロジェクタPに、構造化パターン(例えば均一なチェッカー盤)を1度に1台ずつ投影するように指示する。
投影画像は、クラスタ内の各プロジェクタ内のカメラ160によって同時に取得される。これによりプロジェクタは、プロジェクタPからの構造化パターンをカメラCの入力画像に伝達するために、対をなすホモグラフィHpicjを求めることができる。信頼度の値Vも求める740。
各プロジェクタの対をなすホモグラフィHpi,pjならびに信頼度の値をHpici pjciとして間接的に計算する。簡単にするために、これをHijと書く。信頼度の値Vは表示面上で構造化パターンが重複する割合と関係している。信頼度の値はグローバルアライメント中に用いられる。
本発明では均一なチェッカー盤パターンを用いるため、信頼度の値のよい近似は、(カメラCによって取得されるプロジェクタPの構造化パターンの特徴の数)対(プロジェクタPのパターンにおける特徴の総数)の比rijである。信頼度hij=r ijは良好な評価尺度であることが分かる。カメラCにプロジェクタPが表示するパターンが見えなかった場合、この値は自動的にゼロとなる。
グローバルアライメント
本発明では、環境センサを用いずに、表示面と全てのプロジェクタの間の相対的な3Dポーズを計算して、シームレスな単一の表示画像を可能にする。既知のポーズがない場合、計算される解が正しいのはホモグラフィによる変換までであり、表示面上では歪んで見える。さらに、表面が垂直面である場合、本発明の手法は、投影画像を自動的に水平軸および垂直軸とアライメントする。
しかし、グローバルアライメント750の3Dポーズを計算するために、本発明では、プロジェクタの立体較正およびチルトセンサパラメータといった信頼度の低い情報を避け、上記で求めたホモグラフィ等、比較的頑強な画像空間における計算を利用する。
したがって本発明では、グローバルに一致するホモグラフィをまず計算する。サイクルΠk−1 i=0(i+1%k)(i)に沿ってカスケードにされたホモグラフィ変換のセットはアイデンティティに等しくなる(equal identity)べきである。ここで、「%」の記号はモジュロ演算子を示す。これは、特徴の場所が定かでないため、めったにない。したがって、目的は、小さな誤差があっても意味のあるモザイクを生成することである。
単純な解は、表示領域を見る1台のカメラを用いて、その空間で計算を行うことになる。1台のカメラではディスプレイ全体を見ることができない場合、最小スパニングツリーに基づく手法を用いることができる。その場合、プロジェクタは、重複するプロジェクタにグラフのエッジで接続されたノードであり、最小のホモグラフィセットのみが残る。ディスプレイの中央付近のプロジェクタをツリーのルートノードとして用いることによって、この手法は、カスケードにされたホモグラフィの数を減らし、よって累積誤差を低減するために役立つ。
その代わりに、本方法700は、全ての入手可能なホモグラフィからの情報を用いることによって、グローバルに一致する位置合わせを見つける。ホモグラフィをカスケードにすることによる累積誤差は、別個に計算された対をなすホモグラフィ行列から導出された一次連立方程式を解くことによって、選択された基準枠または平面に関して同時に低減される。本発明の方法は、Davis著「Mosaics of scenes with moving objects」(IEEE Computer Vision and Pattern Recognition (CVPR), pp. 354-360, 1998)により記載される方法から適応されたものである。
本発明ではその方法を修正して、測定された対をなすプロジェクタホモグラフィHijの信頼度hijを考慮する。グローバルホモグラフィGは、プロジェクタPにおけるからの出力画像Iをグローバルな基準枠に伝達する。これは、ホモグラフィHijを用いた画像Iから画像Iへの伝達と、それに続くグローバルホモグラフィGを用いたグローバルフレームへの伝達として、次のように表すこともできる。
Figure 2006521070
したがって、各ホモグラフィHijが既知である場合、スパース連立一次方程式を作り、未知のグローバル伝達を計算する。
各ホモグラフィはあるスケールファクタまで定義されるため、正規化して、|Gij−G|を直接最小化できるようにすることが重要である。正規化されたホモグラフィ行列式は1、すなわちH(^)=H|(det|H|)1/3である。簡単にするために「ハット」は省略する。さらに、上記でhijとして計算したホモグラフィHijの信頼度によって、個々の一次方程式をスケーリングする。したがって、各i、jの数式セットは次のように表される。(なお、H(^)は、Hの上にハットがあることを表す。)
Figure 2006521070
個々の対をなすホモグラフィの数がプロジェクタプロジェクタの数よりも多い場合、一次連立方程式は過制約となり、これを最小二乗法で解く。これにより、計算された対をなす投影のセットからの偏差が最小であるグローバルな位置合わせ行列のセットが生じる。
対をなすホモグラフィを交換した後、各プロジェクタは、各自の画像を基準面として処理することによって、グローバルアライメント750を別々に並行して行う。この段階で、グローバルな画像伝達およびスクリーンにアライメントされた投影の解は、各プロジェクタPと表示面の間の未知のホモグラフィHi0まで分かる。
ユークリッド再構成
本発明では、環境からのユークリッド情報を用いずに、スクリーンに対するプロジェクタPの3Dポーズを計算することによってHi0を見つける。3Dでポーズを求めると雑音が多くなるが、本発明によるプロジェクタ間の画像伝達は以前、すなわちシームレスな単一の出力画像を保証するグローバル伝達に基づく場合と変わらない。本発明による、ホモグラフィHi0を求める手法は、Raskar等著「A Self Correcting Projector」(IEEE Computer Vision and Pattern Recognition (CVPR), 2001)により記載される方法に基づく。
図8に示すように、本発明による、再構成を行う方法800は、各プロジェクタPにより並行して行われる。
ステップは以下の通りである。プロジェクタPおよびカメラCの画像空間の対応するポイントを三角形分割して、3DのポイントX={x,x,...}を生成する810。
最もよく適合する平面を見つけて、Xを局所座標間の回転Rπにより変換する820。ここで表示面はz=0である。
チルトによる回転を適用し830、X=RtiltπXとすると、Xがアラインされる、すなわちz座標が0になる。表示面の垂直面のポイントは同じx座標を持ち、水平面のポイントは同じy座標を持つ。
プロジェクタPのポイントXの像をXの対応するポイントに写像するホモグラフィHi0を、z値を無視して求める840。
最後に、全ての他のプロジェクタについてホモグラフィHj0=Hi0jiを求める850。ここでHjiは、プロジェクタPにより計算されるグローバルホモグラフィGである。
レンダリング
図9に示すように、あるプロジェクタについてレンダリングに適した投影行列を見つけることは、スクリーン上におけるプロジェクタの貢献領域をまず計算し、次にその完全な表示範囲をプロジェクタ画像に再投影することを伴う。
第1のステップにおいて、クラスタ内の1台のプロジェクタによって照明される四辺形の範囲を求める910。この範囲はスクリーンにアライメントされた(X)座標にある。したがって、正規化されたプロジェクタの画像平面の4つの角[±1 ±1]を、Hj0[±1±1 1]を用いて変換する。
スクリーンX空間の全ての投影された四辺形は結合して、凹形の平面ポリゴンLとなる可能性がある。
次に後述のように、ポリゴンLの内側に収まる最大の矩形画像Sを見つける920。
n台のプロジェクタの各々が、Xのユークリッド再構成の誤差に応じて、わずかに異なるSを計算する。Sのグローバルな一致には、Sの4つの頂点の各々の重み付き平均をとる。重みは、頂点からのプロジェクタPの距離である。
第2のステップにおいて、H−1 j0を用いてプロジェクタの画像空間において矩形Sの角の投影を見つける930。なお、矩形Sの再投影された角は大抵の場合、プロジェクタの物理的な画像寸法を越えて延びる。矩形Sは、表示可能な領域を表すため、表示される入力画像Tの範囲を示す。したがって、この範囲を超える出力画像のピクセルは照明されない。
したがって、出力画像とその投影HTjの間のホモグラフィを見つけることができる940。
最後に、出力画像を正確なアスペクト比の単位矩形にテクスチャマッピングして、HTjから導出した投影行列を用いてレンダリングする950。
画像が重複する場所では、グラフィックスハードウェアのアルファチャネルを用いて強度ブレンディングを行う。ブレンディングウェイトは、画像境界への距離に比例して割り当てられる。全てのステップは、全てのプロジェクタにおいて対称的に行われる。
ポリゴンに内接する最大の矩形画像
図10は、おそらくは凹形のポリゴンL1001内の所定のアスペクト比aを有する最大の軸合わせされた矩形Sを見つける方法を示す。ポリゴンLは、投影された四辺形の結合によって形成される。3つの未知数(2つが位置で1つが矩形Sのスケール)の解は、不等式を示すことによって得ることができる。数式は、凹形のポリゴンの場合ではわずかに異なる。
問題の単純な再パラメータ化を行う。
真横から見た状態で(edge on)示すポリゴンL1001が奥行値z=1の第1の奥行平面1002に描かれ、アスペクト比aの矩形R1006がz=0の第2の奥行平面1003に描かれる。zが[0,1]の範囲にあり、z=1平面において矩形Rを矩形Sに写像する投影中心1004 W=(x,y,z)は、矩形Rが完全にポリゴンL内にある場合に有効とみなされる。奥行平面は奥行バッファに格納することができる。
奥行zが最小となる投影中心(CoP)を見つける。これは、そのCoPが最大の内接矩形Sを定めるからである。
Wの禁止ゾーン1005(影付きで示す)を考える。ポリゴンL上のポイントにより矩形Rを底辺として作られるピラミッドのセットの内側のCoPはいずれも無効である。
ポリゴンLのエッジを矩形Rのエッジと接続するピラミッドを作成する。平面z=0およびz=1を接続するピラミッドの面は全て三角形であるため、本発明の方法は、各三角形の3つの(triple)交点を計算し、z値の最も小さい三角形を保持する。
図10に示すように、2種類の三角形、すなわちポリゴンLの頂点を矩形Rのエッジと接続する三角形、およびポリゴンLのエッジを矩形Rの頂点と接続する三角形のみを考えればよい。
n辺のポリゴンL1001の場合、例えば図2Bではn=14であり、O(n)の複雑度を有する8n個の三角形ができる。これは明らかに、O(n)の方法(P.K.等、P.K著「Largest placements and motion planning of a convex polygon」(2nd International Workshop on Algorithmic Foundation of Robotics, 1996)を参照)と比べると最適とは言えない。しかし、本発明の方法は、数行のコードにおいて比較的実施し易い。nはO(プロジェクタの数)であるため、本発明の方法のランタイムは依然として無視できる程度である。
例えば、プロジェクタを無造作に配置し、投影画像が生じるはずの大まかなエリアに向けた場合、対をなすホモグラフィを見つけるのに1台のプロジェクタにつき約5秒かかる。グローバルアライメント、内接矩形およびブレンディングウェイトの計算はさらに3秒かかる。6台の無造作に設置されたプロジェクタのクラスタの場合、動作クラスタを形成するのに約30秒かかる。
アドホッククラスタを用いる湾曲ディスプレイ
このセクションでは、二次曲面(ドーム、円筒形スクリーン、楕円、または放物面等)の上に画像を自動的に位置合わせする方法を説明する。コンピュータビジョンにおいて、画像伝達に二次曲面を用いるいくつかの従来技術の方法が既知である。Shashua等著「The Quadric Reference Surface: Theory and Applications」(International Journal of Computer Vision (IJCV), 23(2), 185-198, 1997)を参照のこと。
マルチプロジェクタシステムでは、平面伝達すなわち平面ホモグラフィの関係に基づくシームレスなマルチプロジェクタ平面ディスプレイ(Chen等著「Automatic Alignment of High-Resolution Multi-Projector Displays Using An Un-Calibrated Camera」(IEEE Visualization, 2000)を参照)およびPixelFlexシステム(上記Yang等を参照)のためのいくつかの方法が記載されている。
しかし、それらの方法のなかには、より高次の表面のパラメータ化ワーピングおよび自動位置合わせのための技法はないようである。これは、プロジェクタベースのディスプレイでは二次曲面が多くの形状および形態で実際に現れるため、手抜かりであると思われる。大型のフライトシミュレータは従来から円筒体形状またはドーム形状であり、プラネタリウムおよびOmniMaxシアターは半球形スクリーンを使用しており、多くのバーチャルリアリティシステムは円筒形のスクリーンを使用している。
従来技術において、アライメントは通常手動で行われる。手動プロセスは、「ナビゲータ」パターンの投影によって補助される場合もある。Jarvis著「Real Time 60Hz Distortion Correction on a Silicon Graphics IG」(Real Time Graphics 5, 7 pp. 6-7, February 1997)を参照のこと。湾曲した表示スクリーンを用いるマルチプロジェクタシステムのなかには、スクリーンセグメントが区分的に平面となるように処理するものもある。
本発明は、上述の平面方法に似た全自動方法を提供する。本発明のパラメトリック方法は、カメラ解像度に対する制約を少なくし、ピクセル局所化誤差に対する許容範囲を広げ、較正を高速化し、パラメータ化ワーピングプロセスを遥かに単純にする。
本発明は、二次伝達問題を再び公式化し、その解をシームレスな表示への応用に用いる。
二次伝達の単純化
3Dでの不透明な二次曲面Qの2つの任意の透視ビュー間の写像は、二次伝達を用いて表すことができる。平面伝達は4個以上のピクセルの対応性から計算することができるが、二次伝達Tは9個以上の対応性を必要とする。
3Dの同次ポイントXが4×1ベクトルで表され、ポイントXが、4×4対称行列として表される二次曲面Qにある場合、XQX=0であり、2つのビューの対応するピクセルxおよびx’の同次座標は次式によって関係付けられる。
Figure 2006521070
ピクセルの対応性(x,x’)が与えられると、この式は従来、未知数:3D二次曲面Q=[Q33q;q1]、3×3ホモグラフィ行列B、および同次座標におけるエピポールeを計算するために用いられてきた。この形態はShashua等により使用されており、より最近の研究は21個の変数を含む。Wexler等著「Q-warping: Direct Computation of Quadratic Reference Surfaces」(IEEE Conf. on Computer Vision and Pattern Recognition (CVPR), June, 1999)を参照のこと。これは、実際に必要であるよりも4個多い。
本発明の方法は単純な観察に基づく。次の定義を行うことによって曖昧さの一部を取り除き、
Figure 2006521070
本発明において使用する形態を次のように得ることができる。
Figure 2006521070
ここで、xEx=0は、プライミングされていない(unprimed)(x)ビューの二次曲面の輪郭円錐曲線を定め、Aは、プライミングされた(primed)(x’)ビューとプライミングされていない(x)ビューの間の極平面を介してのホモグラフィである。
全体スケールから離れて、本発明の形態は、Eおよびeの相対的なスケーリングに起因する曖昧な自由度を1つだけ含む。この曖昧さは、E(3,3)=1等、さらなる正規化制約を導入することによって取り除くことができる。さらに、平方根の前にある符号は、画像中の輪郭円錐曲線内で固定である。
カメラの場合、二次伝達パラメータすなわちA、Eおよびeをポイントの対応性から直接計算する従来技術の方法は、3Dにおいて二次曲面Qを推定することを伴う(Shashua等を参照)。カメラの別の線形的方法は、対応するピクセルの三角形分割を用いる(Cross等著「Quadric Surface Reconstruction from Dual- Space Geometry」(Proceedings of 6th International Conference on Computer Vision, pp. 25-31, 1998)を参照)。2つのビューの内部パラメータが既知でない場合、全ての計算は、基本行列を計算した後に投影空間において行われる。
しかし、カメラではなくプロジェクタが関与する場合、従来技術の線形的方法は、XGAプロジェクタの場合に20または30ピクセル程度の非常に大きな再投影誤差を生じることが認められる。1台のプロジェクタにより照明される二次曲面上のポイントにはほとんどの場合に顕著な奥行変動がないことを考えると、基本行列の計算は本質的に質が悪い。
したがって本発明は、既知の内部パラメータおよび推定ユークリッド剛体変換を用いる。それにより、平面の場合と異なり、この場合の正確な画像伝達の計算には、計算の初期において3次元量が関わる。
二次伝達方法
図11に示す本発明の方法1100は、カメラとプロジェクタの間の対応性をまず求める1110。次に、3Dにおいて三角形分割を行って二次伝達式を生成する1120。次に、二次伝達パラメータを求め、この二次伝達パラメータを用いて入力画像をワーピングする1140。
平面クラスタの場合と同様に、各プロジェクタP(k=1,...,n)は、構造化パターンを二次曲面上に1度に1台ずつ投影する。パターンは、カメラC(i=1,...,n)によって見られる。しかし、プロジェクタPとカメラCの間の剛体変換ΓCk Piをまず見つけることなく二次伝達TPiCkを直接見つけることはできない。
図12は、カメラCのステップを示す。ΓCk Piは既知であるため、プロジェクタPおよびカメラCの対応するポイントを三角形分割し1210、表示面上の3DポイントDを得て、カメラCの座標系のポイントを格納する。
プロジェクタPにより投影されるポイントDと、隣接プロジェクタのカメラCにより観察される対応するポイントとが与えられると、剛体変換ΓCk Pi=ΓCk PiΓCi Piを求める1220。
次に、3D二次伝達QをCの座標系のポイントDに当てはめる1230。
本発明の単純化した二次伝達の公式を用いて、Q、投影行列MckおよびMpi、およびピクセルの対応性から伝達パラメータA、E、およびeを求める1240。
最後に、伝達パラメータA、Eおよびeの非線形的精緻化(refinement)を行って1250、ピクセルの再投影誤差を最小化する。
なお、二次曲面上の既知の3Dポイントからカメラのポーズを見つけると、3Dポイントが通常は平面にごく近いため、誤りを生じやすい。本発明では、カメラの内部パラメータが既知であるため、ホモグラフィに基づいて外部パラメータの最初の推測をまず行い、次に反復手順を用いて推測を訂正する。Lu等著「Fast and globally convergent pose estimation from video images」(IEEE Transactions on Pattern Analysis and Machine Intelligence 22, 6, pp. 610-622, 2000)を参照のこと。
レンダリング
レンダリングのために、二次伝達を、極平面を介してのホモグラフィ、すなわちEおよびeによって定義されるピクセル毎のシフトをAに加えたものとして処理する。平面ディスプレイ用のクラスタと同様に、本発明では、シーン中のいかなる外部環境センサまたはユークリッドマーカの助けも借りることなく、このホモグラフィをプロジェクタUにおける内部センサの読取値とともに利用して、出力画像を表示面の水平軸および垂直軸とアライメントする。
出力画像と、カメラCによって取得される入力画像との関係、ならびにカメラCと全てのプロジェクタP(I=1,...,n)の間の二次伝達が与えられると、各プロジェクタは、出力画像を各自の画像空間にワーピングする。なお、二次伝達を用いての画像のワーピングは、従来技術において既知である、二次曲面をレンダリングする従来技術とは異なる。Watson等著「A fast algorithm for rendering quadratic curves on raster displays」(Proc. 27th Annual SE ACM Conference, 1989)を参照のこと。
本発明は、単純な頂点シェーダ手順またはグラフィックスハードウェアを用いてレンダリングを行う。プロジェクタ毎に、テクスチャとしての出力画像を矩形の密なモザイク状の(densely tessellated)三角形メッシュ上に写像し、二次伝達を用いてメッシュの各頂点の投影を計算する。
本発明のシステムおよび方法は、高価なインフラを使用しないシングルまたはマルチプロジェクタによるシームレスな表示に理想的である。本発明により可能となる新たな応用としては、低コストで柔軟性のあるドーム形ディスプレイ、ショッピングアーケード、および円筒形の柱または支柱上のディスプレイがある。本発明の手法は、平面ディスプレイから任意の自由形状のディスプレイまでの間の中間ステップとして扱うこともできる。
本発明を、好ましい実施形態の例として記載してきたが、本発明の精神および範囲内で様々な他の適応形態および修正形態を行うことができることが理解される。したがって、併記の特許請求の範囲の目的は、本発明の真の精神および範囲に入る変更形態および修正形態をすべて網羅することである。
本発明による幾何学的形状を認識するプロジェクタのブロック図である。 本発明による自己構成可能なアドホックプロジェクタクラスタのブロック図である。 図2Aのクラスタによって表示される合成画像のブロック図である。 図1のプロジェクタを用いて画像を適応的にレンダリングする方法のフロー図である。 投影する出力画像の向きを判定する方法のフロー図である。 プロジェクタのクラスタによって増強された円筒形の物体のブロック図である。 図2Aおよび図2Bのクラスタを形成する方法のフロー図である。 図2Aおよび図2Bのクラスタによって投影される画像をグローバルアライメントする方法のフロー図である。 図1のプロジェクタにおけるユークリッド再構成を求める方法のフロー図である。 図1のプロジェクタを用いたレンダリング方法のフロー図である。 照明された任意形状のポリゴンに内接する最大の矩形画像を見つけるブロック図である。 図1のプロジェクタの二次伝達を求める方法のフロー図である。 図1のプロジェクタの剛体変換を求める方法のフロー図である。

Claims (16)

  1. プロジェクタのセットからクラスタを形成する方法であって、前記セット中の各プロジェクタは、カメラサブシステムに対して固定された物理的関係にあるプロジェクタサブシステムと、メッセージを送受信する通信サブシステムとを含み、
    各プロジェクタにおいて前記通信サブシステムを用いて較正メッセージを受信すること、
    前記較正メッセージに応答して各プロジェクタから前記通信サブシステムを用いて準備完了メッセージをブロードキャストすること、
    各プロジェクタにおいて前記プロジェクタサブシステムを用いて構造化パターンを表示面上に順次投影すること、
    各プロジェクタにおいて前記カメラサブシステムを用いて前記構造化パターンの入力画像を順次取得すること、
    及び
    前記入力画像に従って前記プロジェクタを互いに、かつ前記表示面とグローバルアライメントすること
    を含むプロジェクタのセットからクラスタを形成する方法。
  2. 前記構造化光パターン及び前記入力画像の結合がポリゴンを形成するように前記プロジェクタを配置することをさらに含む
    請求項1記載の方法。
  3. 特定の構造化パターンの場合に前記プロジェクタのサブセットが前記画像を取得する
    請求項1記載の方法。
  4. 前記アライメントすることは、前記プロジェクタのセットにおいて同時に行われる
    請求項1記載の方法。
  5. 前記構造化パターンはチェッカー盤パターンである
    請求項1記載の方法。
  6. 前記ポリゴン内の最大矩形を見つけること、
    及び
    前記グローバルアライメントにより前記最大矩形内で複数の出力画像から単一の知覚される表示画像を合成することをさらに含む
    請求項1記載の方法。
  7. 前記プロジェクタのセットは異機種である
    請求項1記載の方法。
  8. 前記プロジェクタは異なる表示特性を有する
    請求項7記載の方法。
  9. 前記異なる表示特性は、強度、アスペクト比、及びピクセル解像度を含む
    請求項8記載の方法。
  10. 前記表示面は二次である
    請求項1記載の方法。
  11. 各ホモグラフィが1つのプロジェクタからの前記構造化パターンを別のプロジェクタの前記入力画像に伝達する、複数のホモグラフィを求めることをさらに含む
    請求項1記載の方法。
  12. 各ホモグラフィに信頼度の値を割り当てることをさらに含む
    請求項11記載の方法。
  13. 前記信頼度の値は、前記表示面上における前記1つのプロジェクタの前記構造化画像と前記別のプロジェクタの前記入力画像との間の重複率に関係する
    請求項12記載の方法。
  14. 前記信頼度の値は、前記1つのプロジェクタの前記パターン中の特徴の総数に対する、前記別のプロジェクタの前記入力画像中に取得された前記1つのプロジェクタの前記構造化パターンの特徴の数の比である
    請求項13記載の方法。
  15. 前記単一の知覚される表示画像を前記表示面の水平軸及び垂直軸とアライメントすることをさらに含む
    請求項6記載の方法。
  16. 前記1つのプロジェクタからの出力画像をグローバル基準枠に伝達するグローバルホモグラフィを求めることをさらに含む
    請求項12記載の方法。
JP2006507674A 2003-03-21 2004-03-18 プロジェクタのセットからクラスタを形成する方法 Expired - Lifetime JP4443563B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/393,686 US6755537B1 (en) 2003-03-21 2003-03-21 Method for globally aligning multiple projected images
PCT/JP2004/003709 WO2004084548A1 (en) 2003-03-21 2004-03-18 Method for aligning a plurality of projectors

Publications (3)

Publication Number Publication Date
JP2006521070A true JP2006521070A (ja) 2006-09-14
JP2006521070A5 JP2006521070A5 (ja) 2007-04-12
JP4443563B2 JP4443563B2 (ja) 2010-03-31

Family

ID=32507562

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006507674A Expired - Lifetime JP4443563B2 (ja) 2003-03-21 2004-03-18 プロジェクタのセットからクラスタを形成する方法

Country Status (6)

Country Link
US (1) US6755537B1 (ja)
EP (1) EP1606937B1 (ja)
JP (1) JP4443563B2 (ja)
CN (1) CN1320816C (ja)
DE (1) DE602004021361D1 (ja)
WO (1) WO2004084548A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006523861A (ja) * 2003-03-21 2006-10-19 三菱電機株式会社 出力画像を表示面上に投影する装置
JP2014103518A (ja) * 2012-11-19 2014-06-05 Casio Comput Co Ltd 投影装置、投影状態調整方法、及び投影状態調整プログラム
CN104735380A (zh) * 2015-04-13 2015-06-24 成都智慧星球科技有限公司 一种多投影沉浸显示***

Families Citing this family (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003219324A (ja) * 2002-01-17 2003-07-31 Olympus Optical Co Ltd 画像補正データ算出方法、画像補正データ算出装置及びマルチプロジェクションシステム
US7215362B2 (en) * 2002-10-31 2007-05-08 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Auto-calibration of multi-projector systems
US20040169827A1 (en) * 2003-02-28 2004-09-02 Mitsuo Kubo Projection display apparatus
US6834965B2 (en) * 2003-03-21 2004-12-28 Mitsubishi Electric Research Laboratories, Inc. Self-configurable ad-hoc projector cluster
US7119816B2 (en) * 2003-03-31 2006-10-10 Microsoft Corp. System and method for whiteboard scanning to obtain a high resolution image
WO2006024254A1 (de) * 2004-08-30 2006-03-09 Bauhaus-Universität Weimar Verfahren und vorrichtung zur darstellung eines digitalen bildes auf einer geometrisch und photometrisch nicht-trivialen oberfläche
US7559450B2 (en) * 2005-02-18 2009-07-14 Ethicon Endo-Surgery, Inc. Surgical instrument incorporating a fluid transfer controlled articulation mechanism
US7306341B2 (en) * 2005-02-28 2007-12-11 Hewlett-Packard Development Company, L.P. Multi-projector geometric calibration
US7334901B2 (en) * 2005-04-22 2008-02-26 Ostendo Technologies, Inc. Low profile, large screen display using a rear projection array system
US8567953B2 (en) 2005-04-26 2013-10-29 Imax Corporation Systems and methods for projecting composite images
JP4729999B2 (ja) * 2005-06-28 2011-07-20 富士ゼロックス株式会社 情報処理システム、情報処理装置、情報処理方法及びコンピュータ・プログラム
DE102006002602A1 (de) * 2006-01-13 2007-07-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Kalibrierungsverfahren und Kalibrierungssystem
US8777418B2 (en) * 2006-01-26 2014-07-15 Christie Digital Systems Usa, Inc. Calibration of a super-resolution display
GB0603084D0 (en) * 2006-02-15 2006-03-29 Seos Ltd Projection apparatus
US7854518B2 (en) * 2006-06-16 2010-12-21 Hewlett-Packard Development Company, L.P. Mesh for rendering an image frame
US7800628B2 (en) * 2006-06-16 2010-09-21 Hewlett-Packard Development Company, L.P. System and method for generating scale maps
US20080007700A1 (en) * 2006-07-10 2008-01-10 Vanbaar Jeroen Method and system for aligning an array of rear-projectors
US20080024469A1 (en) * 2006-07-31 2008-01-31 Niranjan Damera-Venkata Generating sub-frames for projection based on map values generated from at least one training image
US20080101711A1 (en) * 2006-10-26 2008-05-01 Antonius Kalker Rendering engine for forming an unwarped reproduction of stored content from warped content
US8019180B2 (en) * 2006-10-31 2011-09-13 Hewlett-Packard Development Company, L.P. Constructing arbitrary-plane and multi-arbitrary-plane mosaic composite images from a multi-imager
US20080129894A1 (en) * 2006-12-02 2008-06-05 Electronics And Telecommunications Research Institute Geometric calibration apparatus for correcting image distortions on curved screen, and calibration control system and method using the same
US7835079B2 (en) * 2007-03-06 2010-11-16 Ostendo Technologies, Inc. Micro-structure based screen system for use in rear projection array display systems
US8994757B2 (en) 2007-03-15 2015-03-31 Scalable Display Technologies, Inc. System and method for providing improved display quality by display adjustment and image processing using optical feedback
US8641203B2 (en) 2008-06-17 2014-02-04 The Invention Science Fund I, Llc Methods and systems for receiving and transmitting signals between server and projector apparatuses
US8955984B2 (en) 2008-06-17 2015-02-17 The Invention Science Fund I, Llc Projection associated methods and systems
US8944608B2 (en) 2008-06-17 2015-02-03 The Invention Science Fund I, Llc Systems and methods associated with projecting in response to conformation
US8723787B2 (en) 2008-06-17 2014-05-13 The Invention Science Fund I, Llc Methods and systems related to an image capture projection surface
US8936367B2 (en) 2008-06-17 2015-01-20 The Invention Science Fund I, Llc Systems and methods associated with projecting in response to conformation
US20090309826A1 (en) * 2008-06-17 2009-12-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Systems and devices
US8384005B2 (en) 2008-06-17 2013-02-26 The Invention Science Fund I, Llc Systems and methods for selectively projecting information in response to at least one specified motion associated with pressure applied to at least one projection surface
US8267526B2 (en) 2008-06-17 2012-09-18 The Invention Science Fund I, Llc Methods associated with receiving and transmitting information related to projection
US8733952B2 (en) 2008-06-17 2014-05-27 The Invention Science Fund I, Llc Methods and systems for coordinated use of two or more user responsive projectors
US20090310098A1 (en) * 2008-06-17 2009-12-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Methods and systems for projecting in response to conformation
US20090310038A1 (en) 2008-06-17 2009-12-17 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Projection in response to position
US8608321B2 (en) 2008-06-17 2013-12-17 The Invention Science Fund I, Llc Systems and methods for projecting in response to conformation
US8403501B2 (en) 2008-06-17 2013-03-26 The Invention Science Fund, I, LLC Motion responsive devices and systems
US8540381B2 (en) 2008-06-17 2013-09-24 The Invention Science Fund I, Llc Systems and methods for receiving information associated with projecting
US8308304B2 (en) 2008-06-17 2012-11-13 The Invention Science Fund I, Llc Systems associated with receiving and transmitting information related to projection
DE102008043153A1 (de) * 2008-10-24 2010-04-29 Robert Bosch Gmbh Verfahren zur Erzeugung eines Bildes sowie Projektor und Mobiltelefon mit einem Projektor
US8393740B2 (en) * 2009-03-12 2013-03-12 Canon Kabushiki Kaisha Image projection system with keystone correction
US8328365B2 (en) 2009-04-30 2012-12-11 Hewlett-Packard Development Company, L.P. Mesh for mapping domains based on regularized fiducial marks
WO2010147451A1 (en) * 2009-06-15 2010-12-23 Mimos Berhad An online orthogonal projection system
US20100321382A1 (en) 2009-06-18 2010-12-23 Scalable Display Technologies, Inc. System and method for injection of mapping functions
US7973276B2 (en) * 2009-07-29 2011-07-05 Ut-Battelle, Llc Calibration method for video and radiation imagers
US9465283B2 (en) * 2009-11-06 2016-10-11 Applied Minds, Llc System for providing an enhanced immersive display environment
US8439504B2 (en) * 2010-03-02 2013-05-14 Canon Kabushiki Kaisha Automatic mode switching between single and multiple projectors
US8717389B2 (en) 2010-08-06 2014-05-06 Canon Kabushiki Kaisha Projector array for multiple images
US8480238B2 (en) 2010-10-26 2013-07-09 Canon Kabushiki Kaisha Projector array for multiple images
CN103329540B (zh) 2010-11-15 2016-08-24 斯加勒宝展示技术有限公司 利用手动和半自动技术校准显示***的***和方法
US8970708B2 (en) 2011-05-23 2015-03-03 The Johns Hopkins University Automatic device alignment mechanism
US9497447B2 (en) 2011-06-15 2016-11-15 Scalable Display Technologies, Inc. System and method for color and intensity calibrating of a display system for practical usage
KR20150013540A (ko) 2012-04-19 2015-02-05 스케일러블 디스플레이 테크놀로지스, 인크. 시스템 입력 해상도의 변화없이 디스플레이 시스템을 교정하는 시스템 및 방법
US9860494B2 (en) * 2013-03-15 2018-01-02 Scalable Display Technologies, Inc. System and method for calibrating a display system using a short throw camera
KR101515368B1 (ko) * 2013-08-26 2015-04-27 씨제이씨지브이 주식회사 투사 장치 클러스터링 방법, 이를 이용한 관리 장치 및 관리 시스템
JP6305050B2 (ja) * 2013-12-18 2018-04-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US9721371B2 (en) * 2015-12-02 2017-08-01 Caterpillar Inc. Systems and methods for stitching metallographic and stereoscopic images
EP3404648A4 (en) * 2016-01-13 2019-01-23 Ricoh Company, Ltd. PROJECTION SYSTEM, IMAGE PROCESSING DEVICE, PROJECTION METHOD AND PROGRAM
CN105979234B (zh) * 2016-06-13 2019-03-19 Tcl集团股份有限公司 一种投影图像校正的方法及投影装置
WO2018231246A1 (en) 2017-06-16 2018-12-20 Hewlett-Packard Development Company, L.P. Keystone corrections with quadrilateral objects
US10276075B1 (en) * 2018-03-27 2019-04-30 Christie Digital System USA, Inc. Device, system and method for automatic calibration of image devices
CN117893692B (zh) * 2024-03-12 2024-05-28 之江实验室 一种基于对称视图的三维重建方法、装置及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000007376A1 (en) * 1998-07-31 2000-02-10 Massachusetts Institute Of Technology Super-resolution display
JP2002072359A (ja) * 2000-08-29 2002-03-12 Olympus Optical Co Ltd 画像投影表示装置
JP2002132240A (ja) * 2000-10-23 2002-05-09 Takenaka Komuten Co Ltd 大画面用画像表示装置の位置調整装置
JP2002131839A (ja) * 2000-10-23 2002-05-09 Takenaka Komuten Co Ltd 大画面用画像表示装置の位置調整方法
JP2003522497A (ja) * 2000-02-09 2003-07-22 クヌット クロッグスタッド 映像プロジェクタ用デジタル補正モジュール
JP2004282712A (ja) * 2003-02-28 2004-10-07 Victor Co Of Japan Ltd 調整装置
JP2005500756A (ja) * 2001-08-15 2005-01-06 三菱電機株式会社 自動位置合わせを用いるマルチプロジェクタモザイク

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6310650B1 (en) * 1998-09-23 2001-10-30 Honeywell International Inc. Method and apparatus for calibrating a tiled display
US6219099B1 (en) * 1998-09-23 2001-04-17 Honeywell International Inc. Method and apparatus for calibrating a display using an array of cameras

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000007376A1 (en) * 1998-07-31 2000-02-10 Massachusetts Institute Of Technology Super-resolution display
JP2003522497A (ja) * 2000-02-09 2003-07-22 クヌット クロッグスタッド 映像プロジェクタ用デジタル補正モジュール
JP2002072359A (ja) * 2000-08-29 2002-03-12 Olympus Optical Co Ltd 画像投影表示装置
JP2002132240A (ja) * 2000-10-23 2002-05-09 Takenaka Komuten Co Ltd 大画面用画像表示装置の位置調整装置
JP2002131839A (ja) * 2000-10-23 2002-05-09 Takenaka Komuten Co Ltd 大画面用画像表示装置の位置調整方法
JP2005500756A (ja) * 2001-08-15 2005-01-06 三菱電機株式会社 自動位置合わせを用いるマルチプロジェクタモザイク
JP2004282712A (ja) * 2003-02-28 2004-10-07 Victor Co Of Japan Ltd 調整装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006523861A (ja) * 2003-03-21 2006-10-19 三菱電機株式会社 出力画像を表示面上に投影する装置
JP2014103518A (ja) * 2012-11-19 2014-06-05 Casio Comput Co Ltd 投影装置、投影状態調整方法、及び投影状態調整プログラム
CN104735380A (zh) * 2015-04-13 2015-06-24 成都智慧星球科技有限公司 一种多投影沉浸显示***

Also Published As

Publication number Publication date
EP1606937A1 (en) 2005-12-21
EP1606937B1 (en) 2009-06-03
CN1320816C (zh) 2007-06-06
WO2004084548A1 (en) 2004-09-30
JP4443563B2 (ja) 2010-03-31
US6755537B1 (en) 2004-06-29
CN1698359A (zh) 2005-11-16
DE602004021361D1 (de) 2009-07-16

Similar Documents

Publication Publication Date Title
JP4443563B2 (ja) プロジェクタのセットからクラスタを形成する方法
JP4425673B2 (ja) 複数の出力画像を表示面上に投影するシステム
US6709116B1 (en) Shape-adaptive projector system
EP1606938B1 (en) Apparatus for projecting an output image on a display surface
JP4425672B2 (ja) 画像を表示面上に表示する方法
US6729733B1 (en) Method for determining a largest inscribed rectangular image within a union of projected quadrilateral images
Raskar et al. iLamps: geometrically aware and self-configuring projectors
US8358873B2 (en) Hybrid system for multi-projector geometry calibration
US9961317B2 (en) Multi-projector alignment refinement
Raskar et al. Multi-projector displays using camera-based registration
Harville et al. Practical methods for geometric and photometric correction of tiled projector
CN106558017B (zh) 球形显示图像处理方法及***
Sajadi et al. Autocalibrating tiled projectors on piecewise smooth vertically extruded surfaces
US20230247184A1 (en) Installation information acquisition method, correction method, program, and installation information acquisition system
Kern et al. Projector-based augmented reality for quality inspection of scanned objects
Borshukov New algorithms for modeling and rendering architecture from photographs
Lee Wand: 360∘ video projection mapping using a 360∘ camera
JP2005004201A (ja) 画像を表示面上に投影する方法及びシステム
Yuen et al. Inexpensive immersive projection
Raskar et al. Multi-projector imagery on curved surfaces
Nakamura et al. Easy multi-projection system over a whole indoor space
Awan et al. Using an Uncalibrated Camera for Undistorted Projection over a Mobile Region of Interest
Zhao et al. Automatic Registration of Multi-Projector on Parameterized Surface in Two-Dimensionality
CN117413511A (zh) 电子装置及其控制方法
Raskar Spatial augmentation

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070223

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070223

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20070530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100112

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100112

R150 Certificate of patent or registration of utility model

Ref document number: 4443563

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130122

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140122

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term