JP2004054890A - 画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラム - Google Patents
画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラム Download PDFInfo
- Publication number
- JP2004054890A JP2004054890A JP2003104100A JP2003104100A JP2004054890A JP 2004054890 A JP2004054890 A JP 2004054890A JP 2003104100 A JP2003104100 A JP 2003104100A JP 2003104100 A JP2003104100 A JP 2003104100A JP 2004054890 A JP2004054890 A JP 2004054890A
- Authority
- JP
- Japan
- Prior art keywords
- image
- data
- unit
- imaging
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- Processing Or Creating Images (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
【課題】あたかも現実空間の物体の表面で画像が表示されているかのように、外部画像を合成して表示する。
【解決手段】光ビーコン2−1乃至2−4が長方形の頂点となるように壁面5には位置されている場合、撮像領域3上の光ビーコン2−1乃至2−4で構成される外部画像表示領域4の形状に合わせて、外部画像を変形した後、外部画像表示領域4に外部画像を合成して表示するようにしたので、画像表示部の動きに合わせて、撮像領域3の動きに合わせて、合成画像表示領域4の表示位置を変化させるようにした。本発明は、外部画像を撮像した画像に合成して表示させる装置に適用させることができる。
【選択図】 図17
【解決手段】光ビーコン2−1乃至2−4が長方形の頂点となるように壁面5には位置されている場合、撮像領域3上の光ビーコン2−1乃至2−4で構成される外部画像表示領域4の形状に合わせて、外部画像を変形した後、外部画像表示領域4に外部画像を合成して表示するようにしたので、画像表示部の動きに合わせて、撮像領域3の動きに合わせて、合成画像表示領域4の表示位置を変化させるようにした。本発明は、外部画像を撮像した画像に合成して表示させる装置に適用させることができる。
【選択図】 図17
Description
【0001】
【発明の属する技術分野】
本発明は、画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラムに関し、特に、画像を、あたかも現実空間上の物体に表示しているかのように見せることを可能にした画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラムに関する。
【0002】
【従来の技術】
テレビジョン放送で表示される画像を、高い臨場感と迫力で楽しむために、近年、大画面のテレビジョン受像機やプロジェクタ装置が使われるようになってきている。
【0003】
しかしながら、これらの製品は高価であるのみならず、装置自体が大きく、広い設置場所が必要となるため、広い空間を確保するのが困難なユーザへの普及率はあまり高くない。このため、狭い空間でもテレビジョン放送で表示される画像を、高い臨場感と迫力で楽しめるテレビジョン受像機に対する要望が高まりつつある。
【0004】
そのような要望に対応すべく、映像をHMD(Head Mount Display)上に表示させることにより、あたかも眼前に大きなディスプレイが広がっているかのように見せる装置が提案されている。HMDとは、メガネ型のディスプレイであり、ユーザは、このメガネ型のディスプレイを、メガネをかけるようにして見ることにより、あたかも大きなディスプレイに表示されているような臨場感や迫力を得ることができる。さらに、HMDは、メガネ型のディスプレイであるため、ユーザは自由な姿勢で表示された画像を楽しむことができる。
【0005】
【発明が解決しようとする課題】
しかしながら、上述したようなHMDでは、所定の画像が表示されるのみであり、HMD自体の動きに対応した画像を表示させることができないので、例えば、ユーザの頭が動いても、そこに表示された画像は頭の動きと無関係に表示されてしまう(頭が動いても表示が変化しない)。また、左右の目に同じ画像が表示されるため、視差による距離感を感じることができない。結果として、HMDでは、大画面のディスプレイで見ているというより、単にメガネレンズサイズの小さなディスプレイが、目の前にあるような感じしか得られず、臨場感や迫力に欠けるように感じられてしまうという課題があった。
【0006】
また、目の前をディスプレイ部が塞いでしまうため、HMDをかけている間(HMDに表示された画像を見ている間)、ユーザは、外界から遮断され、閉塞感を感じてしまうという課題があった。また、ディスプレイの一部をシースルーにして、外界が見えるようにしたシステムも提案されているが、ディスプレイの中央部に画像が表示されているため、外界が見える部分は実際にはほとんど存在しないため、大きな改善にはいたっていない。
【0007】
さらに、AR(Augmented Reality)と呼ばれる技術が提案されている。これは、ユーザの視点に合わせたカメラから撮像した画像に、他の画像を向きや位置を合わせて合成すると言うものである。これを利用すれば、実空間上の画像として巨大なスクリーンを撮像して、撮像されたスクリーン部分に表示したい画像を合成することであたかも巨大なスクリーンに表示されているような画像を表現することができる。
【0008】
しかしながら、この方法においては、ユーザの視点に合わせたカメラで撮像する画像内に、予め3次元空間の位置が既知となる3点以上のマーカを配置して撮像する必要があるため、事前に、この既知のマーカの位置を測定するといったキャリブレーションが必要であった。このため、AR技術は、実際に家庭などで使用することができないという課題があった。
【0009】
本発明はこのような状況に鑑みてなされたものであり、現実空間上の部分に、あたかも画像が表示されているかのようにすることで、表示される画像に臨場感を与えるようにするものである。
【0010】
【課題を解決するための手段】
本発明の画像表示装置は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段と、撮像手段により撮像された送信装置の撮像位置を検出する検出手段と、第1の画像を入力する入力手段と、検出手段により検出された送信装置の撮像位置に基づいて、第1の画像を変形する変形手段と、変形手段により変形された第1の画像を、送信装置の撮像位置に対応した表示位置に表示する表示手段とを備えることを特徴とする。
【0011】
前記送信装置により発せられる所定の点滅パターンに含まれるデータを解析する解析手段をさらに設けるようにさせることができる。
【0012】
前記データには、リンクデータ、コンテンツデータ、または、送信装置が属するグループを示すグループデータを含ませるようにすることができる。
【0013】
前記リンクデータには、第1の画像の情報が存在するネットワーク上のリンク先を含ませるようにすることができる。
【0014】
リンクデータに含まれるリンク先にアクセスし、第1の画像を取得する取得手段をさらに設けるようにさせることができる。
【0015】
前記コンテンツデータには、第1の画像の情報を含ませるようにすることができる。
【0016】
前記入力手段には、コンテンツデータに含まれる第1の画像を入力させるようにすることができる。
【0017】
前記変形手段には、同一のグループデータを含む4個の送信装置の撮像位置に基づいて、第1の画像を変形させ、第1の画像が4角形である場合、表示手段は、変形手段により変形された第1の画像を、その4隅が4個の送信装置の撮像位置に対応した表示位置となるように表示させるようにすることができる。
【0018】
前記所定の点滅パターンで発光し、データを送信する送信装置に加えて、さらに、第2の画像を撮像させるようにすることができる。
【0019】
前記第2の画像と、変形手段により変形された第1の画像を合成し、合成画像を生成する合成画像生成手段とをさらに設けるようにさせることができ、表示手段には、合成画像に合成されている第1の画像が、送信装置の撮像位置に対応した表示位置に表示されるように、合成画像を表示させるようにすることができる。
【0020】
前記表示手段には、透過性のスクリーンと、スクリーン上の送信装置の撮像位置に対応した表示位置に遮光領域を生成する遮光領域生成手段とをさらに設けるようにさせることができ、変形手段により変形された前記第1の画像を、前記遮光領域に表示させるようにすることができる。
【0021】
前記撮像手段、前記入力手段、前記変形手段、および、前記表示手段は、それぞれ人間の両目用に一対とするようにすることができる。
【0022】
前記撮像手段のリフレッシュレートは、表示手段のリフレッシュレートよりも高くすることができる。
【0023】
前記変形手段には、送信装置の撮像位置に基づいて、射影変換により第1の画像を変形させるようにすることができる。
【0024】
本発明の画像表示方法は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像ステップと、撮像ステップの処理で撮像された送信装置の撮像位置を検出する検出ステップと、第1の画像を入力する入力ステップと、検出ステップの処理で検出された送信装置の撮像位置に基づいて、第1の画像を変形する変形ステップと、変形ステップの処理で変形された第1の画像を、送信装置の撮像位置に対応した表示位置に表示する表示ステップとを含むことを特徴とする。
【0025】
本発明の第1の記録媒体のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置の撮像を制御する撮像制御ステップと、撮像制御ステップの処理で撮像が制御された送信装置の撮像位置の検出を制御する検出制御ステップと、第1の画像の入力を制御する入力制御ステップと、検出制御ステップの処理で検出が制御された送信装置の撮像位置に基づいて、第1の画像の変形を制御する変形制御ステップと、変形制御ステップの処理で変形が制御された第1の画像の、送信装置の撮像位置に対応した表示位置への表示を制御する表示制御ステップとを含むことを特徴とする。
【0026】
本発明の第1のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置の撮像を制御する撮像制御ステップと、撮像制御ステップの処理で撮像が制御された送信装置の撮像位置の検出を制御する検出制御ステップと、第1の画像の入力を制御する入力制御ステップと、検出制御ステップの処理で検出が制御された送信装置の撮像位置に基づいて、第1の画像の変形を制御する変形制御ステップと、変形制御ステップの処理で変形が制御された第1の画像の、送信装置の撮像位置に対応した表示位置への表示を制御する表示制御ステップとをコンピュータに実行させることを特徴とする。
【0027】
本発明の送信装置は、データに対応して所定の点滅パターンを発生するパターン発生手段と、パターン発生手段により発生された所定の点滅パターンで発光する発光手段とを備えることを特徴とする。
【0028】
前記データには、リンクデータ、コンテンツデータ、または、自らが属するグループを示すグループデータを含ませるようにすることができる。
【0029】
前記リンクデータには、画像表示装置に表示される画像の情報が存在するネットワーク上のリンク先を含ませるようにすることができる。
【0030】
前記コンテンツデータには、画像表示装置に表示される画像の情報を含ませるようにすることができる。
【0031】
本発明の送信方法は、データに対応して所定の点滅パターンを発生するパターン発生ステップと、パターン発生ステップの処理で発生された所定の点滅パターンで発光する発光ステップとを含むことを特徴とする。
【0032】
本発明の第2の記録媒体のプログラムは、データに対応して所定の点滅パターンの発生を制御するパターン発生制御ステップと、パターン発生制御ステップの処理で発生された所定の点滅パターンでの発光を制御する発光制御ステップとを含むことを特徴とする。
【0033】
本発明の第2のプログラムは、データに対応して所定の点滅パターンの発生を制御するパターン発生制御ステップと、パターン発生制御ステップの処理で発生された所定の点滅パターンでの発光を制御する発光制御ステップとをコンピュータに実行させることを特徴とする。
【0034】
本発明の画像表示システムは、画像表示装置が、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段と、撮像手段により撮像された送信装置の撮像位置を検出する検出手段と、画像を入力する入力手段と、検出手段により検出された送信装置の撮像位置に基づいて、画像を変形する変形手段と、変形手段により変形された画像を、送信装置の撮像位置に対応した表示位置に表示する表示手段とを備え、送信装置が、データに対応して所定の点滅パターンを発生するパターン発生手段と、パターン発生手段により発生された所定の点滅パターンで発光する発光手段とを備えることを特徴とする。
【0035】
本発明の画像表示装置および方法、並びにプログラムにおいては、所定の点滅パターンで発光し、データを送信する送信装置が撮像され、撮像された送信装置の撮像位置が検出され、第1の画像が入力され、検出された送信装置の撮像位置に基づいて、第1の画像が変形され、変形された第1の画像が、送信装置の撮像位置に対応した表示位置に表示される。
【0036】
本発明の送信装置および方法、並びにプログラムにおいては、データに対応して所定の点滅パターンが発生され、発生された所定の点滅パターンで発光される。
【0037】
本発明の画像表示システムにおいては、画像表示装置により、所定の点滅パターンで発光し、データを送信する送信装置が撮像され、撮像された送信装置の撮像位置が検出され、画像が入力され、検出された送信装置の撮像位置に基づいて、画像が変形され、変形された画像が、送信装置の撮像位置に対応した表示位置に表示され、送信装置により、データに対応して所定の点滅パターンが発生され、発生された所定の点滅パターンで発光される。
【0038】
【発明の実施の形態】
図1は、本発明に係る画像合成表示システムの一実施の形態の構成を示すブロック図である。
【0039】
画像合成表示システムは、画像合成表示装置1と光ビーコン2−1乃至2−4から構成される。
【0040】
画像合成表示システムの画像合成表示装置1は、光ビーコン2−1乃至2−4を含む撮像領域(実際に表示される画像となる領域)3を撮像した場合、撮像した撮像領域3上の、光ビーコン2−1乃至2−4で囲まれる外部画像表示領域4を認識し、その外部画像表示領域4に適合するように外部画像を変形した後、合成して画像表示部15に表示するものである。すなわち、画像合成表示装置1は、現実空間内で光ビーコン2−1乃至2−4で囲まれる外部画像表示領域4を、あたかも現実空間に配置されたスクリーンのようにして、外部画像を合成して表示するものである。
【0041】
光ビーコン2−1乃至2−4は、所定の発光パターンで光を発することによりデータを送信する。このデータは、IDデータと呼ばれるものであり、光ビーコン2−1乃至2−4をそれぞれ識別するものであるが、転送可能なデータ量に余裕があるため、その他のデータを含めて送信することも可能である。例えば、IDデータに含められるデータとしては、コンテンツデータ(画像データ、音声データ、または、テキストデータなど)、リンク先データ(URL(Uniform Resource Locator)、アドレス、ホストネームなどのデータ)、および、自らが所属するグループを識別するグループ識別データなどがあるが、これらに限るものではなく、電子データとして管理できるデータであれば含めて送信することが可能である。このように、光ビーコン2−1乃至2−4は、その発光パターンを変化させることによりIDデータのみならず、様々なデータを送信することができる。
【0042】
ここで、自らが所属するグループを識別するグループ識別データについて説明する。例えば、図1においては、外部画像表示領域4が1個であるが、これが、複数に存在する場合、個々の外部画像表示領域4を構成する複数の光ビーコン2の群はグループと称され、これらのグループを識別するデータがグループ識別データとなる。したがって、今の場合、光ビーコン2−1乃至2−4は、同一のグループに属しているので、同一のグループ識別データを発する。尚、複数の外部画像を表示させる例については後述する。ここでは、光ビーコン2−1乃至2−4は、壁面5上に長方形の頂点を形成するように配置されているものとする。
【0043】
尚、以下において、光ビーコン2−1乃至2−4を特に区別する必要が無い場合、単に光ビーコン2と称するものとする。また、これ以外の構成についても同様とする。また、ID認識カメラ1、および、光ビーコン2については、図2乃至図10を参照して後述する。
【0044】
次に、画像合成表示装置1の構成について説明する。ID(Identifier)認識カメラ11は、上述の撮像領域3を撮像した画像データを画像合成部14に出力すると共に、撮像された光ビーコン2から発せられている発光パターンからIDデータと位置データを生成し、IDデータを表示位置取得部12、および、リンク先データ解析部16に、撮像位置データをID画像変換部20にそれぞれ出力する。
【0045】
表示位置取得部12は、光ビーコン2−1乃至2−4のそれぞれが撮像領域3のうちのどの位置であるかを示す位置データを取得し、外部画像表示領域4の表示位置情報として画像変形部13に出力する。
【0046】
リンク先データ解析部16は、光ビーコン2の発光パターンにより送信されてくるデータのうち、IDデータを解析して、リンク先データが含まれているとき、リンク先データを抽出して、リンク先画像取得部17に出力する。
【0047】
リンク先画像取得部17は、例えば、モデムなどから構成されており、リンク先データ解析部16より入力されたリンク先データに基づいて、インターネットなどの図示せぬネットワークを介してリンク先にアクセスし、そこに記憶されている外部画像を取得すると共に、取得した外部画像を外部画像入力部18に出力する。
【0048】
ID画像変換部20は、IDデータにコンテンツデータとして外部画像が含まれている場合、IDデータを外部画像に変換して(IDデータから外部画像を抽出して)、外部画像入力部18に出力する。記憶部19は、予め入力された外部画像を記憶しており、外部画像入力部18に記憶された外部画像を供給する。
【0049】
外部画像入力部18は、リンク先より取得された外部画像であるか、ID画像変換部20より入力されたIDデータに含まれた外部画像であるか、または、記憶部19に記憶された外部画像のうち、入力部21がユーザにより操作されて指定された外部画像を読み出し、画像変形部13に出力する。
【0050】
画像変形部13は、メモリ13aを適宜使用しながら、表示位置取得部12より入力された光ビーコン2−1乃至2−4の撮像位置から外部画像表示領域4の形状(撮像画像上の形状)を求め、求められた形状に適合するように、外部画像入力部18より入力された外部画像を変形し、変形した外部画像を画像合成部14に出力する。
【0051】
画像合成部14は、ID認識カメラ11より撮像された撮像画像(撮像領域3の画像)と、変形された外部画像を合成し、すなわち、撮像された撮像領域3のうちの、外部画像表示領域4に変形された外部画像を合成して、画像表示部15に出力し、表示させる。
【0052】
ここで、図2を参照して、ID認識カメラ11の詳細な構成について説明する。イメージセンサ31の受光部41は、撮像される対象となる撮像領域3の光を電気信号に光電変換した後、演算部42に出力する。また、受光部41の受光素子51は、CMOS(Complementary Metal−Oxide Semiconductor)素子からなり、従来のCCD(Charge Coupled Device)素子よりも高速に動作することができる。より詳細には、受光素子51が、撮像される対象となる撮像領域3の光を光電変換し、増幅器52に出力する。増幅器52は、受光素子51より入力される光電変換された電気信号を増幅して、演算部42に出力する。
【0053】
演算部42の記憶部61は、受光部41より入力された増幅されている電気信号を記憶し、適宜比較部62に出力する。比較部62は、記憶部61に記憶された電気信号の値に基づいて、演算処理を行い、演算結果を所定のリファレンス値(=基準信号レベル)と比較して、比較結果を出力部63に出力する。出力部63は、比較結果に基づいてセンサ出力信号を生成してデータ生成部32に出力する。但し、演算部42の処理内容は、画像モードとIDモードの2つの動作モードにより異なる。尚、この2つの異なる動作モードによる演算内容の詳細については後述する。
【0054】
データ生成部32の画像デコード処理部71は、画像モードの場合、センサ出力信号をデコード処理して撮像画像を生成して、画像合成部14に出力する。また、IDモードの場合、IDデコード処理部72は、センサ出力信号をデコード処理してIDデータと位置データを生成し、表示位置取得部12、リンク先データ解析部16、およびID画像変換部20に出力する。
【0055】
次に、図3を参照して、画像デコード処理部71の詳細な構成について説明する。画像デコード処理部71の画素値決定部81は、センサ出力信号に基づいて画素値を決定し、フレームメモリ82の対応する画素位置に決定した画素値を記憶させる。フレームメモリ82は、1フレーム分の画素値を記憶するメモリであり、画素位置毎に画素値を記憶する。
【0056】
出力部83は、フレームメモリ82に1フレーム分の画素値が記憶されたとき、順次画像データとして読出し、出力する。
【0057】
次に、図4を参照して、IDデコード処理部72の詳細な構成について説明する。IDデコード部101のIDデコード回路111は、IC(Integrated Circuit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field ProgrammableGate Array)などのデバイスにより構成されており、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。このIDデコード回路111は、処理能力が十分であれば、マイクロプロセッサやDSP(Digital Signal Processor)によってソフトウェアで構成するようにしても良い。
【0058】
フラグレジスタ112は、IDデータをデコードするために必要なフラグ類を記憶するためのレジスタであり、データレジスタ113は、デコード途中またはデコードを完了したIDを記憶しておくためのレジスタである。
【0059】
尚、図4においては、IDデコード部101は、1個のみが示されているが、処理速度の要求により、例えば、各画素毎に設けるようにしてもよいし、垂直方向、または、水平方向のライン毎に設けるようにしても良い。
【0060】
タイミング制御部102は、IDデコード処理部72の全体の動作に必要なタイミングを制御するタイミング制御信号を出力する。より具体的には、タイミング制御部102は、IDデコード回路111とセンサ出力信号のタイミングの同期をとり、所望のセンサ出力信号に対して、対応するフレームメモリ103のフラグデータをフラグレジスタ112に、IDデータをデータレジスタ113に、それぞれロードして、IDデコード処理を進めるためのタイミング制御信号を生成し、IDデコード部101(のIDデコード回路111、フラグレジスタ112、および、データレジスタ113)に供給する。また、このとき、タイミング制御部102は、フレームメモリ103へのアドレス信号、リードライトなどのタイミング制御信号を生成し供給する。さらに、タイミング制御部102は、重心計算部104のIDレジスタ121、および、ID重心計算回路122、並びに、ID座標格納メモリ105のタイミング制御を行うタイミング制御信号を生成して供給する。
【0061】
フレームメモリ103は、受光素子51、または演算部42毎に演算されたセンサ出力信号がデコードされたIDデータとフラグデータを格納するメモリであり、イメージセンサ31が1画素につき1個の演算部42をもつ場合には、センサの画像サイズであるM画素×N画素と同じサイズとなり、データ幅はフラグレジスタ112とデータレジスタ113のビット幅の和で構成される。図4においては、各画素の位置に対応する座標が、I軸とJ軸により示されており、それぞれの座標位置にIDデータとフラグデータが格納される。
【0062】
重心計算部104は、同一のIDデータを持つ撮像画像上の画素の重心位置の座標を求め、IDデータに、光ビーコン2の検出位置としての位置データ(=光ビーコン2の撮像画像上の位置データ)を付して出力する。より詳細には、重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号によりフレームメモリ103に今記憶されたIDデータを読出し、ID重心計算回路122に出力する。ID重心計算回路122は、入力されたIDデータ毎に、対応する画素の座標位置のI座標とJ座標、並びにデータの個数を順次加算してID座標格納メモリ105に記憶させる。また、ID重心計算回路122は、フレームメモリ103に1フレーム分のデータが格納されたとき、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を求めて、IDデータと共に出力する。
【0063】
次に、図5,図6を参照して、光ビーコン2の構成について説明する。
【0064】
図5の光ビーコン2は、送信データ保存用メモリ151、点滅制御部152、発光部153から構成される。送信データ保存メモリ151は、予め送信するためのデータを記憶しており、適宜読み出して点滅制御部152に出力する。点滅制御部152は、発信器とIC,ASIC,FPGA、ワンチップマイコンなどのデジタル回路によって構成されており、送信データ保存用メモリ151に記憶されたデータの内容に基づいて、点滅パターンを発生させると共に、発生された点滅パターンで発光部153を発光させる。発光部153は、高速に点滅することができる光源であれば良く、出力波長もセンサが反応する範囲であれば良い。また、発光部153が発する光は、可視光だけではなく、赤外域などでもよく、応答速度や、寿命の点から、LED(Light Emission Diode)は最適な光源の1つであるといえる。
【0065】
また、図6は、図示せぬネットワークを介して他の装置と通信することによりデータを可変とすることが可能な光ビーコン2のその他の構成を示している。このため、図6においては、送信データ保存用メモリ151に替えて、データ送受信部161が設けられている。ここでネットワークとは、有線・無線の通信回線、例えば電話回線、ISDN、RS−232C、RS−422、Ethernet(R)(10base−T,100base−T)、USB(Universal Serial Bus)、IEEE(Institute of Electrical and Electronic Engineers)1394、IEEE802.11a、IEEE802.11b、BlueToothなどの通信手段により他の装置とデータ通信ができる環境をいう。また、データ送受信部161は、この通信手段に対応するデータ通信用IC及びドライバから構成されており、ネットワークを介して受信した光ビーコン2の送信データを、点滅制御部152に出力する。点滅制御部152は、送信データに基づいて、点滅パターンを発生し、データに応じた点滅パターンで発光部153を発光させる。
【0066】
次に、ID認識カメラ11の動作について説明する。
【0067】
受光部41の受光素子51は、光を光電変換し、変換した電気信号を増幅部52に出力する。増幅部52は、電気信号を増幅して演算部42に出力する。演算部42の記憶部61は、受光部41より入力された電気信号を順次記憶して、4フレーム分の電気信号を記憶し、いっぱいになると、最も古いフレームの電気信号を消去して、最新のフレームの電気信号を記憶する処理を繰り返して、常に最新の4フレーム分の電気信号を記憶しており、その4フレーム分の電気信号を比較部62に出力する。
【0068】
比較部62の動作は、画像モードとIDモードにより異なる。この動作モードは、例えば、図7で示すように図示せぬ制御装置により、所定の時間間隔で交互に切り替えるようにしてもよい。また、画像モードとIDモードがそれぞれ30fps(frame per second)や60fpsといった従来のフレームレートで切り替えられるようにしても良い。さらに、IDモードには、IDデータをデコードするIDデコード処理区間と、デコードされたIDデータを持つ画素の座標位置としての位置データを求めるID重心計算区間がある。
【0069】
尚、図7においては、画像モードとIDモードが同時間の場合を示しているが、それぞれの動作モードの時間は、同時間でも良いし、同時間でなくてもよい。また、図7の下段で示すように、各画像モードの後のタイミングでは、画像デコード処理部71により、センサ出力信号がデコードされて撮像画像の画像データが出力され、IDモードの後のタイミングで、IDデコード処理部72により、センサ出力信号がデコードされてIDデータと位置データが出力される。
【0070】
まず、画像モードの場合の動作について説明する。
【0071】
画像モードの場合、イメージセンサ31の比較部62は、各画素の受光部41で検出した輝度を示す信号レベル(記憶部61に記憶された電気信号)を、基準信号レベルと比較して、図8で示すように、基準信号レベルよりも低くなったときに、図9で示すようにアクティブになるような信号(図9中の1の信号)を出力する。
【0072】
ここで、図8は、輝度信号レベルを示しており、図9は、センサ出力信号を示している。輝度信号レベルは、実質的に受光素子51の充電電圧の変化を示している。受光素子51は、所定のタイミングで充電される電圧と逆極性の所定のリセットレベルの電圧が印加され、その後のタイミングから受光素子により蓄積される電荷量に対応して電圧レベルが低下する。従って、図8においては、時刻0において蓄積される電荷は0であるので、輝度信号レベルは、リセットレベル(所定のレベル)となっている。この状態から時間が経過するに従って、電荷が蓄積されて、輝度信号レベルが低下する。今の場合、図8中のHで示す直線が、比較的輝度信号レベルの高い(明るい)画素値として、Lで示す直線が、比較的輝度信号レベルの低い(暗い)画素値として示されている。
【0073】
画素値のレベルが高い輝度信号レベルの変化Hは、時刻0から時間T(H)だけ経過したタイミングである時刻T(H)において、基準信号レベルに達する電荷が蓄積されていることが示されている。一方、画素値のレベルが低い輝度信号レベルの変化Lは、時刻0から時間T(L)だけ経過したタイミングである時刻T(L)において、基準信号レベルに達する電荷が蓄積されていることが示されている。
【0074】
すなわち、図8で示すように、明るい画素ほど基準信号レベルに達する時間が短く(図中T(H))、暗い画素ほど基準信号レベルに達する時間(図中T(L))が長くなる(T(H)<T(L))。比較部62は、実際の受光部41より出力される各画素の電気信号(輝度信号)が、前記基準信号レベルに達したかどうかの比較結果(コンパレータ出力)を図9で示すように2値のセンサ出力信号として出力する。このような処理により、イメージセンサ31は、画像を高速に撮像して基準信号との比較演算を行い、1画面(フレーム)分の結果をセンサ出力信号として出力する。
【0075】
さらに、画像デコード処理部71の画素値決定部81は、この時間T(H),T(L)を計測するために、このイメージセンサ31が1画面単位で出力する結果を、フレーム単位でカウントし、各画素で何番目のフレームでセンサ出力信号が図9で示すようにアクティブになるかを示すセンサ出力信号をエンコードして画像データとして出力する。今の場合、センサ出力信号は、時刻T(H)が、フレーム数F(H)であり、時刻T(L)が、フレーム数F(L)である。
【0076】
すなわち、画像モードの場合、画像デコード処理部71の画素値決定部81が、このセンサ出力信号を正しい明るさの値に変換するために、この基準信号に到達するまでの時間(フレーム数)の逆数を各画素毎に計算することで、センサ出力信号を画像データにデコードし、フレームメモリ82に記憶させる。そして、1フレーム分の画像データが蓄積された時、出力部83は、フレームメモリ82に記憶された画素値を画像データとして順次読出して出力する。この動作により、ID認識カメラ11は、画像モードにおいて画像データを出力することができる(詳細は、48Kframes/s CMOS Image Sensor for Real−time 3−D Sensing and Motion Detection” ISSCC Digest of Technical Papers, pp.94−95, Feb.2001、または、特開2001−326857を参照されたい)。
【0077】
一方、動作モードがIDモードの場合、比較部62は、記憶部61に記憶されている時間的に連続する4フレーム分の電気信号を輝度信号として以下の式(1)のような演算処理を実行する。
V(N)=F(N)+F(N−1)−F(N−2)−F(N−3)・・・(1)
【0078】
ここで、Nはフレーム番号を表し、V(N)は、Nフレーム目の輝度値が入力された時点での比較値を示し、F(N)はNフレーム目の受光部41に蓄積された輝度を示す。この演算により、光の変化を検出することができるため、その演算結果をセンサ出力信号としてデータ生成部32に出力する。データ生成部32は、このセンサ出力信号を用いて、後述するIDデコード処理を行うことで、点滅パターンからなるIDデータを復元し、光ビーコン2からのIDデータを生成することが可能となる。
【0079】
尚、比較部62の演算方法は、式(1)に限るものではなく、他の演算(1次微分や2値化画像の比較など)によって実現するようにしてもよいが、以下の説明においては、光変化の検出の安定性の高い、式(1)を用いて説明するものとする。
【0080】
ここで、IDデコード処理部72の動作について説明する。
【0081】
IDデコード部101のIDデコード回路111は、タイミング制御部102からのセンサ出力信号のタイミングの同期を図るためのタイミング制御信号に基づいて、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。この際、IDデコード回路111は、タイミング制御信号に応じて、フラグレジスタ112を制御して、フレームメモリ103にロードされたフラグデータを用いて、センサ出力信号からIDデータをデコードし、デコード途中またはデコードを完了したIDをデータレジスタ113に記憶させる。
【0082】
さらに、フレームメモリ103は、これらのデコード処理がなされたフラグデータとIDデータを対応する座標位置に格納する。
【0083】
重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号により、フレームメモリ103に今記憶されたIDデータの情報をID重心計算回路122に読み出させる。
【0084】
ID重心計算回路122は、読み出したIDデータに対応する画素の座標位置のI座標とJ座標を順次加算して、これに画素の個数の情報を付してID座標格納メモリ105に記憶させ、この処理を繰り返す。
【0085】
そして、フレームメモリ103に1フレーム分のデータが格納されたとき、ID重心計算回路122は、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を位置データとして求めて、対応するIDデータと共に出力する。
【0086】
以上の動作により、例えば、図10で示すように、2個の光ビーコン2−1,2−2が、点滅しながら発光してデータを送信する場合、ID認識カメラ11には、図10上部に示すような現実空間上の光ビーコン2−1,2−2の物理的な位置に応じた、撮像画像上の位置の画素で光の信号を受光する。例えば、光ビーコン2−1から発せられた光が座標位置(10,10)の受光素子51で受光されるものとし、光ビーコン2−2から発せられた光が座標位置(90,90)の受光素子51で受光されるものとする。このとき、各受光部41の座標位置(10,10)と(90,90)の受光素子51では、それぞれが光ビーコン2−1と2−2の点滅パターンにより受光強度(明るさ)の時間的変化として信号を受信することができる。今の場合、座標(10,10)の位置データに対応する画素は、IDデータとして「321」が、座標(90,90)の位置データに対応する画素は、IDデータとして105がデコード結果として求められている。
【0087】
結果として、この受光強度の変化を上述の式(1)などにより2値化することにより1/0のビット列からなるIDデータを取得する事ができる。
【0088】
次に、図11のフローチャートを参照して、画像合成表示装置1による画像合成表示処理について説明する。
【0089】
ステップS1において、ID認識カメラ11は、例えば、図1で示すように、撮像領域3を撮像し、その中に含まれる光ビーコン2−1乃至2−4のIDデータとその位置データを取得すると共に、撮像画像の撮像画像データを生成し、IDデータをリンク先データ解析部16、および、ID画像変換部20に、位置データを表示位置取得部12に、撮像画像データを画像合成部14にそれぞれ出力する。
【0090】
ステップS2において、表示位置取得部12は、ID認識カメラ11より入力された位置データに基づいて、外部画像の表示位置を取得し、その表示位置の情報を画像変形部13に出力する。すなわち、光ビーコン2−1乃至2−4が撮像されるとき、その4点からなる4角形の中が、外部画像表示領域4になるが、現実空間内での、ID認識カメラ11と光ビーコン2−1乃至2−4のそれぞれの位置関係により、撮像画像中の外部画像表示領域4の形状や、撮像領域3内の位置が変化することになるので、光ビーコン2−1乃至2−4の、撮像画像3内の位置データに基づいて、外部画像表示領域4の4隅の位置(撮像画像3内の光ビーコン2−1乃至2−4の位置)を決定するための、表示位置を取得する。
【0091】
ステップS3において、リンク先データ解析部16は、IDデータを解析し、解析結果をリンク先画像取得部17に出力する。ステップS4において、リンク先画像取得部17は、IDデータの解析結果から、IDデータにリンク先データが含まれているとき、そのリンク先データに基づいて、リンク先にアクセスし、外部画像を取得し、取得した外部画像を外部画像入力部18に出力する。尚、IDデータにリンク先データが付加されていなかったときは、この処理は、スキップされることになる。
【0092】
ステップS5において、ID画像変換部20は、IDデータに外部画像データが含まれているとき、その外部画像データを抽出して、外部画像に変換し外部画像入力部18に出力する。
【0093】
ステップS6において、外部画像入力部18は、入力部21が操作されて、リンク先の外部画像が選択されたか否かを判定し、例えば、リンク先の外部画像が選択された場合、その処理は、ステップS7に進む。
【0094】
ステップS7において、外部画像入力部18は、リンク先画像取得部17より入力された外部画像を画像変形部13に出力する。
【0095】
ステップS8において、画像変形部13は、外部画像入力部18より入力された外部画像を、表示位置取得部12より入力された表示位置のデータ、すなわち、外部画像表示領域4の4隅の位置データに基づいて、外部画像データの変形処理を実行する。
【0096】
ここで、図12のフローチャートを参照して、画像変形処理について説明する。
【0097】
ステップS31において、画像変形部13は、入力された外部画像表示領域4の4隅の座標r1、r2、r3、r4をメモリ13aに読み出す。すなわち、光ビーコン2−1乃至2−4の撮像画像上の座標位置がメモリ13aに読み出される。
【0098】
ステップS32において、図13のように、画像変形部13は、外部画像P上の4隅の座標をr1’=(xl’,yl’),r2’=(xh’,yl’),r3’=(xl’,yh’),r4’=(xh’,yh’)とする。
【0099】
ステップS33において、画像変形部13は、外部座標P上の4隅の座標と、入力された外部画像表示領域4の4隅の座標との関係をr’=Hrと置く。
【0100】
任意の四角形を構成する4点r1,r2,r3,r4から、それぞれ別の任意の四角形を構成する4点r1’,r2’,r3’,r4’への変換は、射影変換によって表現できることが知られている。
【0101】
すなわち、以下の式で表される射影変換行列Hを求めることにより、入力された外部画像表示領域4の4隅の座標r1,r2,r3,r4に囲まれた領域の点を、外部画像入力装置9の画像の4隅の座標r1’,r2’,r3’,r4’に変換することができる。
【0102】
【数1】
【0103】
【数2】
・・・(2)
【0104】
【数3】
・・・(3)
【0105】
ここで、rは射影変換前の斉次座標であり、入力された外部画像表示領域(xp,yp)の座標を示す。r’は射影変換後の斉次座標であり、外部画像入力装置8の画像の座標(xp’,yp’)を示す。式(2)に、入力された外部画像表示領域の4隅の座標(xp,yp)と、それに対応する外部画像入力装置8の画像の座標(xp’,yp’)を4点ずつ代入することで、行列Hを求めることができる。
【0106】
ステップS34において、画像変形部13は、出力画像データP(px,py)のメモリ13a上の領域を全て初期化する。すなわち、変形された外部画像が格納される領域が全て初期化される。
【0107】
ステップS35において、画像変形部13は、自らに内蔵するカウンタxp,ypを初期化する。
【0108】
ステップS36において、画像変形部13は、入力された外部画像表示領域内の点(xp,yp)に対応する点(xp’,yp’)を、式(2),(3)によって計算する。
【0109】
ステップS37において、w’≠0のときに、計算したxp’,yp’の値が、外部画像P上の4隅の点の内側にあれば、すなわちw’≠0かつxl’≦xp’≦xh’かつyl’≦yp’≦yh’を満たすのであれば、ステップS38にあるように、画像変形部13は、外部画像P’上の座標(xp’,yp’)の画素値を外部画像表示領域4の座標(xp,yp)の画素値に置き換えてメモリ13aに記憶させる。すなわち、図13にあるように、外部画像表示領域4上に表示される外部画像の画素値が決定されることになる。
【0110】
ステップS39において、画像変形部13は、カウンタxpを1だけインクリメントして、ステップS41において、今現在のカウンタxpが外部画像表示領域4のx方向の大きさと一致したか否かを判定し、一致していないと判定した場合、その処理は、ステップS36に戻る。また、ステップS40において、今現在のカウンタxpが外部画像表示領域4のx方向の大きさと一致した場合、その処理は、ステップS41に進む。
【0111】
ステップS41において、画像変形部13は、カウンタypを1だけインクリメントすると共に、カウンタxpを初期化し、ステップS42において、今現在のカウンタypが外部画像表示領域4のy方向の大きさと一致したか否かを判定し、一致していないと判定した場合、その処理は、ステップS36に戻る。また、ステップS42において、今現在のカウンタypが外部画像表示領域4のy方向の大きさと一致した場合、すなわち、ステップS39乃至S42の処理により、外部画像表示領域4内の全ての座標について、ステップS36乃至S38の処理が実行された場合、ステップS43において、画像変形部13は、メモリ13aに記憶された変形された外部画像を画像合成部14に出力する。
【0112】
ステップS37において、w’≠0かつxl’≦xp’≦xh’ かつ yl’≦yp’≦yh’を満たさないときは、外部画像P上の4隅の点の内側にはないため、ステップS38の処理はスキップされる。すなわち、外部画像表示領域4内の座標ではないので、画素値の置き換え処理がスキップされる。
【0113】
以上の処理は、射影変換であり、この変換により、外部画像の各画素値が、
撮像位置により変形する外部画像表示領域4の画素値に置き換えられることによって、実質的に外部画像が変形されることになる。すなわち、例えば、図14で示すような外部画像を用いる場合、図1で示すように外部画像表示領域4が形成されるとき、図14で示す外部画像は、図15で示すように、図1で示す外部画像表示領域4の形状に変形される。
【0114】
ここで、図11のフローチャートの説明に戻る。
【0115】
ステップS9において、画像合成部14は、変形された外部画像と撮像画像を合成して、合成画像を生成し、画像表示部15に出力する。ステップS10において、画像表示部15は、画像合成部14より入力された合成画像を表示し、その処理は、ステップS1に戻り、それ以降の処理が繰り返される。
【0116】
ステップS6において、リンク先の画像が選択されなかったと判定された場合、ステップS11において、外部画像入力部18は、入力部21が操作されて、IDデータに含まれた外部画像データから生成された外部画像が選択されたか否かを判定し、IDデータに含まれた外部画像が選択された場合、その処理は、ステップS12に進む。
【0117】
ステップS12において、外部画像入力部18は、ID画像変換部20より入力されたIDデータに含まれた外部画像を読み出して、画像変形部13に出力し、その処理は、ステップS8に進む。
【0118】
ステップS11において、ID画像データが選択されなかった場合、ステップS13において、外部画像入力部18は、記憶部19に予め記憶された外部画像を読み出して、画像変形部13に出力し、その処理は、ステップS8に進む。
【0119】
以上のような処理により、例えば、図15で示すように、変形された外部画像は、図16で示すように合成されて、撮像領域3で示す画像が画像表示部15に表示されることになる。
【0120】
また、この処理が繰り返されるので、ID認識カメラ11の向きが変化して、撮像領域3から、例えば、図16で示すように、撮像領域3aまたは3bで示すように変化しても、外部画像表示領域4は、光ビーコン2−1乃至2−4により構成される長方形で示した範囲の内側となるので、あたかも壁面5に外部画像を表示するスクリーンが存在しているかのような画像を表示することができる。
【0121】
さらに、光ビーコン2が撮像される撮像領域3上の位置により、外部画像表示領域4が決定されるので、予め画像合成表示装置1と光ビーコン2の位置関係を設定する、いわゆるキャリブレーションを必要としないので利用が容易となる。
【0122】
また、図17で示すように、画像合成表示装置1をメガネ型に構成することにより、いわゆるHMDを構成してもよい。すなわち、図17のHMDでは、左右の目の視差に対応する1対の画像合成表示装置1a,1bと表示部15a,15b(表示画像は、図中の紙面裏側に表示される)が設けられている。
【0123】
このような構成とすることにより、画像合成表示装置1a,1bは、それぞれ左右の目の視差に対応して光ビーコン2を撮像することになるため、外部画像表示領域4についても、左右の目の視差を表現することが可能となり、表示する外部画像に立体感を持たせることが可能となる。
【0124】
さらに、表示部15a,15bをいわゆるシースルー状の構成とすることにより、表示部15a,15bには、それぞれ外部画像表示領域4上を遮光して外部画像を表示させ、それ以外の領域は、ユーザにより目視できるような構成(シースルー:透明、または、半透明な構成)としても良い。このようにすると、撮像画像の表示そのものは、不要となるので画像合成部14の処理も必要がなく、外部画像のみを外部画像表示領域4に表示させるだけでよい。また、シースルーであるので、ユーザは、HMDを装着している間も閉塞感を持つことがなく、しかも自由な姿勢で合成画像を楽しむことが可能となる。
【0125】
次に、図18のブロック図を参照して、光ビーコン2より発せられるデータに、上述のパラメータs,tのデータを付加させて所定の点滅パターンで発光させるようにした画像合成表示装置1のその他の構成例について説明する。尚、図18において、図1の画像合成表示装置1における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0126】
図18の画像合成表示装置1は、基本的に図1の画像合成表示装置1と同様であるが、パラメータ取得部171が設けられ、画像変形部13に替えて画像変換部172が設けられている点が異なる。パラメータ取得部171は、各光ビーコン2より発せられるIDデータに含まれるパラメータs,tを取得して、画像変形部172に出力する。画像変形部172は、外部画像入力部18より入力された外部画像を、パラメータ取得部171より入力されたパラメータs,tに基づいて複数の領域に分割し、外部画像を分割した領域毎に変形して、画像合成部14に出力する。
【0127】
例えば、図19で示すように、壺181の曲面に光ビーコン2−11乃至2−19が設けられているものとする。ここで、壺181の曲面に沿って、光ビーコン2−11乃至2−19は、光ビーコン2−11乃至13、2−14乃至16、2−17乃至19、2−11,14,17、2−12,15,18、および、2−13,16,19が、それぞれ等間隔に配置されている(平面であれば格子状に配置されるが、曲面に沿っているので、やや歪な格子状の配置となる)。この場合、外部画像表示領域4は、図19で示すように、撮像位置から見て光ビーコン2−11乃至2−14、および、2−16乃至2−19で囲まれる範囲である。
【0128】
この状態で、光ビーコン2−11乃至2−19が、自らの外部画像上における位置を示すパラメータs,tのデータを含むように所定の点滅パターンで発光する。例えば、図20で示すように、パラメータ(s,t)が、光ビーコン2−11乃至2−19について、それぞれ(0,0),(0.5,0),(1,0),(0,0.5),(0.5,0.5),(1,0.5),(0,1),(0.5,1),(1,1)であるものとする。
【0129】
ここで、図21で示すような外部画像を、図19の外部画像表示領域4に表示させるときの画像合成表示処理について、図22のフローチャートを参照して説明する。尚、ステップS61乃至67,S70、およびS72乃至S76の処理は、図11のステップS1乃至S13の処理と同様であるので、その説明は省略する。
【0130】
ステップS68において、パラメータ取得部171は、IDデータよりパラメータs,tの情報を取得し、取得したパラメータs,tを画像変形部172に出力する。すなわち、今の場合、パラメータ取得部171は、光ビーコン2−11乃至2−19について、それぞれ(0,0),(0.5,0),(1,0),(0,0.5),(0.5,0.5),(1,0.5),(0,1),(0.5,1),(1,1)のパラメータ(s,t)を取得し、画像変形部172に出力する。
【0131】
ステップS69において、画像変形部172は、パラメータs,tに基づいて、図21で示すように、外部画像データを領域191−1乃至191−4に分割する。すなわち、今の場合、画像変形部172は、入力された外部画像を、元の外部画像の縦横それぞれ1/2のサイズの4個の領域191−1乃至191−4に分割する。
【0132】
ステップS70において、画像変形部172は、分割した領域191−1乃至191−4毎に画像を変形し、ステップS71において、画像変形部172は、図23で示すように、全ての領域191−1乃至191−4を外部画像表示領域4−1乃至4−4で示すようにそれぞれ変形されたか否かを判定し、全ての領域191において変形が終了するまで、ステップS70の変形処理を繰り返す。
【0133】
この処理により、画像表示部15は、図23で示すように、ユーザには、あたかも壺181上の曲面に沿って外部画像が表示されているような(外部画像が曲面にフィットしているような)、表示効果を発生させることができる。また、以上の例においては、光ビーコン2が9個の場合について説明してきたが、光ビーコン2の数は、それ以上であってもよく、曲面に光ビーコン2を設置する場合、曲率が高い曲面ほど、より高い密度で光ビーコン2を設けることにより、曲面に対してより滑らかに(より曲面にフィットした)外部画像を合成して表示させることができる。
【0134】
また、以上の例においては、1個の外部画像を撮像画像に合成する例について説明してきたが、複数の外部画像を表示させるようにしても良い。
【0135】
図24は、複数の外部画像を表示させるようにした画像合成表示装置1を示している。尚、図24において、図1の画像合成表示装置1における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。図24の画像合成表示装置1は、基本的な構成において、図1の画像合成表示装置1と同様であるが、グループ認識部201が新たに設けられ、外部画像入力部18に替えて、外部画像入力部202が、画像変形部13に替えて、画像変形部203がそれぞれ設けられている点が異なる。
【0136】
グループ認識部201は、IDデータに含まれる外部画像表示領域4毎に設定された光ビーコン2のグループ識別データを読み出し、グループ識別データを外部画像入力部202、および、画像変形部203に出力する。より詳細には、グループ認識部201は、グループ識別データにより識別されたグループ(外部画像)毎にグループ番号(ナンバー)を付して識別する。
【0137】
外部画像入力部202は、グループ識別データ毎にリンク先より取得された外部画像であるか、ID画像変換部20より入力されたIDデータに含まれた外部画像であるか、または、記憶部19に予め記憶された外部画像のうち、入力部21がユーザにより操作されて指定された外部画像を読み出し、画像変形部203に出力する。
【0138】
画像変形部203は、外部画像入力部202より入力された外部画像データを、グループ識別データに基づいて、グループ毎に外部画像を変形し、画像合成部14に出力する。
【0139】
次に、図25のフローチャートを参照して、複数の外部画像を合成して表示する画像合成表示処理について説明する。
【0140】
ステップS91乃至S95,S97乃至S99,S101乃至105の処理は、図11のフローチャートにおけるステップS1乃至S13の処理と同様であるので、その説明は省略する。
【0141】
ステップS96において、グループ認識部201は、IDデータに含まれるグループ識別データを全ての光ビーコン2毎に取得し、外部画像入力部202、および、画像変形部203に出力する。
【0142】
ステップS97乃至S99,S103乃至S105の処理の後、画像変形部203は、ステップS100において、全てのグループについて外部画像が変形されたか否かを判定し、全ての外部画像が変形されていないと判定した場合、その処理は、ステップS97に戻り、全ての外部画像が変形されたと判定されるまで、ステップS97乃至S99,S103乃至S105の処理が繰り返される。ステップS100において、全てのグループについて外部画像が変形された場合、その処理は、ステップS101に進み、それ以降の処理が繰り返される。
【0143】
以上のような処理により、例えば、図26で示すように、光ビーコン2−31乃至34により形成される外部画像表示領域4−11に外部画像Aを表示し、光ビーコン2−41乃至44により形成される外部画像表示領域4−12に外部画像Bを表示することにより、外部画像A,Bの2枚の外部画像を表示できる。この場合、光ビーコン2−31乃至34は、外部画像表示領域4−11を形成する同一のグループであることを、光ビーコン2−41乃至44は、外部画像表示領域4−12を形成する同一のグループであることを、それぞれに示すグループ識別データをIDデータに含めて送信する。また、画像合成表示装置1は、このID信号に含まれるグループ識別データに応じて、グループ毎に外部画像表示領域4を形成し、個々の外部画像を合成して表示する。尚、これ以上の数の外部画像が表示できるようにしても良い。
【0144】
以上の処理により、外部画像上の光ビーコン2の各々のパラメータs,tをIDデータとして送信するようにして、現実空間上の曲面で表示しているかのように外部画像が変形されて、表示されるので、現実空間上の曲面上に、あたかも表示されているかのように画像を合成して表示することが可能となる。
【0145】
以上、本発明によれば、光ビーコンを現実空間に配置し、その光ビーコンの撮像画像上の配置に合わせて外部画像を変形させて合成することにより、あたかも現実空間上に合成された外部画像が表示されているかのような効果を与えることができる。
【0146】
また、光ビーコンが発光することにより送信されるIDデータにグループ識別データを含ませることで、複数枚の外部画像を同時に合成して表示させることができる。
【0147】
さらに、IDデータ内に表示する外部画像のリンク先データが含まれるようにすることにより、光ビーコン2より送信されてくるデータを変化することで、異なる外部画像を合成して表示することができる。
【0148】
また、光ビーコンから送信されるデータに画像データそのものを含ませることにより、外部画像を受信するための他の通信手段を設けることなく、外部画像を合成して表示させることができる。
【0149】
さらに、1対の画像合成表示装置1をHMDの人間の左右の目の視差を考慮して設置することにより、合成される外部画像に対する両眼の視差を再現させることができ、臨場感の高い外部画像を合成して表示することができる。
【0150】
また、光ビーコンに自らの外部画像中の位置を示すパラメータを含ませておき、複数の光ビーコンを配置することにより、より現実空間の光ビーコンが配置されている曲面に適合した状態で外部画像を合成して表示することができる。
【0151】
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
【0152】
図27は、画像合成表示装置1を、図28は、光ビーコン2をそれぞれソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU211,231は、パーソナルコンピュータの動作の全体を制御する。また、CPU211,231は、バス214,234および入出力インタフェース215,235を介してユーザからキーボードやマウスなどからなる入力部216,236から指令が入力されると、それに対応してROM(Read Only Memory)212,232に格納されているプログラムを実行する。あるいはまた、CPU211,231は、ドライブ220,240に接続された磁気ディスク221,251、光ディスク222,252、光磁気ディスク223,253、または半導体メモリ224,254から読み出され、記憶部208,238にインストールされたプログラムを、RAM(Random Access Memory)203,233にロードして実行し、出力部217,237が実行結果を出力する。さらに、CPU211,231は、通信部219,239を制御して、外部と通信し、データの授受を実行する。
【0153】
プログラムが記録されている記録媒体は、図27,図28に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク221,251(フレキシブルディスクを含む)、光ディスク222,252(CD−ROM(Compact Disc−Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク223,253(MD(Mini−Disc)を含む)、もしくは半導体メモリ234,254などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM212,232や、記憶部218,238に含まれるハードディスクなどで構成される。
【0154】
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
【0155】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【0156】
【発明の効果】
本発明によれば、撮像した画像内で、あたかも現実空間の物体の表面で画像が表示されているかのように、外部画像を合成して表示することが可能となる。
【図面の簡単な説明】
【図1】本発明を適用した画像合成表示システムのブロック図である。
【図2】図1のID認識カメラのブロック図である。
【図3】図2の画像デコード処理部のブロック図である。
【図4】図2のIDデコード処理部のブロック図である。
【図5】図1の光ビーコンのブロック図である。
【図6】図1の光ビーコンのブロック図である。
【図7】ID認識カメラの動作を説明する図である。
【図8】ID認識カメラが画像信号を生成する動作を説明する図である。
【図9】ID認識カメラが画像信号を生成する動作を説明する図である。
【図10】ID認識カメラが点滅パターンをデコードする動作を説明する図である。
【図11】画像合成表示処理を説明するフローチャートである。
【図12】画像変形処理を説明するフローチャートである。
【図13】画像変形処理を説明する図である。
【図14】画像変形処理を説明する図である。
【図15】画像変形処理を説明する図である。
【図16】画像合成処理を説明する図である。
【図17】画像合成表示装置を用いたHMDを説明する図である。
【図18】画像合成表示装置のその他の構成例を示すブロック図である。
【図19】光ビーコンが壺の曲面に配置されている例を示す図である。
【図20】光ビーコンの配置と、外部画像のパラメータの例を示す図である。
【図21】外部画像を説明する図である。
【図22】画像合成表示処理を説明するフローチャートである。
【図23】外部画像を合成して表示した例を示す図である。
【図24】画像合成表示装置のその他の構成例を示すブロック図である。
【図25】画像合成表示処理を説明するフローチャートである。
【図26】複数の外部画像を合成して表示した例を示す図である。
【図27】媒体を説明する図である。
【図28】媒体を説明する図である。
【符号の説明】
1,1a,1b 画像合成表示装置, 2,2−1乃至2−4,2−11乃至2−19,2−31乃至2−34,2−41乃至44 光ビーコン, 3 撮像領域, 4,4−1乃至4−4 外部画像表示領域, 5 壁面, 11 ID認識カメラ,12 表示位置取得部, 13 画像変形部, 14 画像合成部,15,15a,15b 画像表示部, 16 リンク先データ解析部, 17リンク先画像取得部, 18 外部画像入力部, 19 記憶部, 20 ID画像変換部, 21 入力部, 171 パラメータ取得部, 171 画像変形部, 181 壺, 191,191−1乃至191−4 領域, 201 グループ認識部, 202 外部画像入力部, 203 画像変形部
【発明の属する技術分野】
本発明は、画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラムに関し、特に、画像を、あたかも現実空間上の物体に表示しているかのように見せることを可能にした画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラムに関する。
【0002】
【従来の技術】
テレビジョン放送で表示される画像を、高い臨場感と迫力で楽しむために、近年、大画面のテレビジョン受像機やプロジェクタ装置が使われるようになってきている。
【0003】
しかしながら、これらの製品は高価であるのみならず、装置自体が大きく、広い設置場所が必要となるため、広い空間を確保するのが困難なユーザへの普及率はあまり高くない。このため、狭い空間でもテレビジョン放送で表示される画像を、高い臨場感と迫力で楽しめるテレビジョン受像機に対する要望が高まりつつある。
【0004】
そのような要望に対応すべく、映像をHMD(Head Mount Display)上に表示させることにより、あたかも眼前に大きなディスプレイが広がっているかのように見せる装置が提案されている。HMDとは、メガネ型のディスプレイであり、ユーザは、このメガネ型のディスプレイを、メガネをかけるようにして見ることにより、あたかも大きなディスプレイに表示されているような臨場感や迫力を得ることができる。さらに、HMDは、メガネ型のディスプレイであるため、ユーザは自由な姿勢で表示された画像を楽しむことができる。
【0005】
【発明が解決しようとする課題】
しかしながら、上述したようなHMDでは、所定の画像が表示されるのみであり、HMD自体の動きに対応した画像を表示させることができないので、例えば、ユーザの頭が動いても、そこに表示された画像は頭の動きと無関係に表示されてしまう(頭が動いても表示が変化しない)。また、左右の目に同じ画像が表示されるため、視差による距離感を感じることができない。結果として、HMDでは、大画面のディスプレイで見ているというより、単にメガネレンズサイズの小さなディスプレイが、目の前にあるような感じしか得られず、臨場感や迫力に欠けるように感じられてしまうという課題があった。
【0006】
また、目の前をディスプレイ部が塞いでしまうため、HMDをかけている間(HMDに表示された画像を見ている間)、ユーザは、外界から遮断され、閉塞感を感じてしまうという課題があった。また、ディスプレイの一部をシースルーにして、外界が見えるようにしたシステムも提案されているが、ディスプレイの中央部に画像が表示されているため、外界が見える部分は実際にはほとんど存在しないため、大きな改善にはいたっていない。
【0007】
さらに、AR(Augmented Reality)と呼ばれる技術が提案されている。これは、ユーザの視点に合わせたカメラから撮像した画像に、他の画像を向きや位置を合わせて合成すると言うものである。これを利用すれば、実空間上の画像として巨大なスクリーンを撮像して、撮像されたスクリーン部分に表示したい画像を合成することであたかも巨大なスクリーンに表示されているような画像を表現することができる。
【0008】
しかしながら、この方法においては、ユーザの視点に合わせたカメラで撮像する画像内に、予め3次元空間の位置が既知となる3点以上のマーカを配置して撮像する必要があるため、事前に、この既知のマーカの位置を測定するといったキャリブレーションが必要であった。このため、AR技術は、実際に家庭などで使用することができないという課題があった。
【0009】
本発明はこのような状況に鑑みてなされたものであり、現実空間上の部分に、あたかも画像が表示されているかのようにすることで、表示される画像に臨場感を与えるようにするものである。
【0010】
【課題を解決するための手段】
本発明の画像表示装置は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段と、撮像手段により撮像された送信装置の撮像位置を検出する検出手段と、第1の画像を入力する入力手段と、検出手段により検出された送信装置の撮像位置に基づいて、第1の画像を変形する変形手段と、変形手段により変形された第1の画像を、送信装置の撮像位置に対応した表示位置に表示する表示手段とを備えることを特徴とする。
【0011】
前記送信装置により発せられる所定の点滅パターンに含まれるデータを解析する解析手段をさらに設けるようにさせることができる。
【0012】
前記データには、リンクデータ、コンテンツデータ、または、送信装置が属するグループを示すグループデータを含ませるようにすることができる。
【0013】
前記リンクデータには、第1の画像の情報が存在するネットワーク上のリンク先を含ませるようにすることができる。
【0014】
リンクデータに含まれるリンク先にアクセスし、第1の画像を取得する取得手段をさらに設けるようにさせることができる。
【0015】
前記コンテンツデータには、第1の画像の情報を含ませるようにすることができる。
【0016】
前記入力手段には、コンテンツデータに含まれる第1の画像を入力させるようにすることができる。
【0017】
前記変形手段には、同一のグループデータを含む4個の送信装置の撮像位置に基づいて、第1の画像を変形させ、第1の画像が4角形である場合、表示手段は、変形手段により変形された第1の画像を、その4隅が4個の送信装置の撮像位置に対応した表示位置となるように表示させるようにすることができる。
【0018】
前記所定の点滅パターンで発光し、データを送信する送信装置に加えて、さらに、第2の画像を撮像させるようにすることができる。
【0019】
前記第2の画像と、変形手段により変形された第1の画像を合成し、合成画像を生成する合成画像生成手段とをさらに設けるようにさせることができ、表示手段には、合成画像に合成されている第1の画像が、送信装置の撮像位置に対応した表示位置に表示されるように、合成画像を表示させるようにすることができる。
【0020】
前記表示手段には、透過性のスクリーンと、スクリーン上の送信装置の撮像位置に対応した表示位置に遮光領域を生成する遮光領域生成手段とをさらに設けるようにさせることができ、変形手段により変形された前記第1の画像を、前記遮光領域に表示させるようにすることができる。
【0021】
前記撮像手段、前記入力手段、前記変形手段、および、前記表示手段は、それぞれ人間の両目用に一対とするようにすることができる。
【0022】
前記撮像手段のリフレッシュレートは、表示手段のリフレッシュレートよりも高くすることができる。
【0023】
前記変形手段には、送信装置の撮像位置に基づいて、射影変換により第1の画像を変形させるようにすることができる。
【0024】
本発明の画像表示方法は、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像ステップと、撮像ステップの処理で撮像された送信装置の撮像位置を検出する検出ステップと、第1の画像を入力する入力ステップと、検出ステップの処理で検出された送信装置の撮像位置に基づいて、第1の画像を変形する変形ステップと、変形ステップの処理で変形された第1の画像を、送信装置の撮像位置に対応した表示位置に表示する表示ステップとを含むことを特徴とする。
【0025】
本発明の第1の記録媒体のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置の撮像を制御する撮像制御ステップと、撮像制御ステップの処理で撮像が制御された送信装置の撮像位置の検出を制御する検出制御ステップと、第1の画像の入力を制御する入力制御ステップと、検出制御ステップの処理で検出が制御された送信装置の撮像位置に基づいて、第1の画像の変形を制御する変形制御ステップと、変形制御ステップの処理で変形が制御された第1の画像の、送信装置の撮像位置に対応した表示位置への表示を制御する表示制御ステップとを含むことを特徴とする。
【0026】
本発明の第1のプログラムは、所定の点滅パターンで発光し、データを送信する送信装置の撮像を制御する撮像制御ステップと、撮像制御ステップの処理で撮像が制御された送信装置の撮像位置の検出を制御する検出制御ステップと、第1の画像の入力を制御する入力制御ステップと、検出制御ステップの処理で検出が制御された送信装置の撮像位置に基づいて、第1の画像の変形を制御する変形制御ステップと、変形制御ステップの処理で変形が制御された第1の画像の、送信装置の撮像位置に対応した表示位置への表示を制御する表示制御ステップとをコンピュータに実行させることを特徴とする。
【0027】
本発明の送信装置は、データに対応して所定の点滅パターンを発生するパターン発生手段と、パターン発生手段により発生された所定の点滅パターンで発光する発光手段とを備えることを特徴とする。
【0028】
前記データには、リンクデータ、コンテンツデータ、または、自らが属するグループを示すグループデータを含ませるようにすることができる。
【0029】
前記リンクデータには、画像表示装置に表示される画像の情報が存在するネットワーク上のリンク先を含ませるようにすることができる。
【0030】
前記コンテンツデータには、画像表示装置に表示される画像の情報を含ませるようにすることができる。
【0031】
本発明の送信方法は、データに対応して所定の点滅パターンを発生するパターン発生ステップと、パターン発生ステップの処理で発生された所定の点滅パターンで発光する発光ステップとを含むことを特徴とする。
【0032】
本発明の第2の記録媒体のプログラムは、データに対応して所定の点滅パターンの発生を制御するパターン発生制御ステップと、パターン発生制御ステップの処理で発生された所定の点滅パターンでの発光を制御する発光制御ステップとを含むことを特徴とする。
【0033】
本発明の第2のプログラムは、データに対応して所定の点滅パターンの発生を制御するパターン発生制御ステップと、パターン発生制御ステップの処理で発生された所定の点滅パターンでの発光を制御する発光制御ステップとをコンピュータに実行させることを特徴とする。
【0034】
本発明の画像表示システムは、画像表示装置が、所定の点滅パターンで発光し、データを送信する送信装置を撮像する撮像手段と、撮像手段により撮像された送信装置の撮像位置を検出する検出手段と、画像を入力する入力手段と、検出手段により検出された送信装置の撮像位置に基づいて、画像を変形する変形手段と、変形手段により変形された画像を、送信装置の撮像位置に対応した表示位置に表示する表示手段とを備え、送信装置が、データに対応して所定の点滅パターンを発生するパターン発生手段と、パターン発生手段により発生された所定の点滅パターンで発光する発光手段とを備えることを特徴とする。
【0035】
本発明の画像表示装置および方法、並びにプログラムにおいては、所定の点滅パターンで発光し、データを送信する送信装置が撮像され、撮像された送信装置の撮像位置が検出され、第1の画像が入力され、検出された送信装置の撮像位置に基づいて、第1の画像が変形され、変形された第1の画像が、送信装置の撮像位置に対応した表示位置に表示される。
【0036】
本発明の送信装置および方法、並びにプログラムにおいては、データに対応して所定の点滅パターンが発生され、発生された所定の点滅パターンで発光される。
【0037】
本発明の画像表示システムにおいては、画像表示装置により、所定の点滅パターンで発光し、データを送信する送信装置が撮像され、撮像された送信装置の撮像位置が検出され、画像が入力され、検出された送信装置の撮像位置に基づいて、画像が変形され、変形された画像が、送信装置の撮像位置に対応した表示位置に表示され、送信装置により、データに対応して所定の点滅パターンが発生され、発生された所定の点滅パターンで発光される。
【0038】
【発明の実施の形態】
図1は、本発明に係る画像合成表示システムの一実施の形態の構成を示すブロック図である。
【0039】
画像合成表示システムは、画像合成表示装置1と光ビーコン2−1乃至2−4から構成される。
【0040】
画像合成表示システムの画像合成表示装置1は、光ビーコン2−1乃至2−4を含む撮像領域(実際に表示される画像となる領域)3を撮像した場合、撮像した撮像領域3上の、光ビーコン2−1乃至2−4で囲まれる外部画像表示領域4を認識し、その外部画像表示領域4に適合するように外部画像を変形した後、合成して画像表示部15に表示するものである。すなわち、画像合成表示装置1は、現実空間内で光ビーコン2−1乃至2−4で囲まれる外部画像表示領域4を、あたかも現実空間に配置されたスクリーンのようにして、外部画像を合成して表示するものである。
【0041】
光ビーコン2−1乃至2−4は、所定の発光パターンで光を発することによりデータを送信する。このデータは、IDデータと呼ばれるものであり、光ビーコン2−1乃至2−4をそれぞれ識別するものであるが、転送可能なデータ量に余裕があるため、その他のデータを含めて送信することも可能である。例えば、IDデータに含められるデータとしては、コンテンツデータ(画像データ、音声データ、または、テキストデータなど)、リンク先データ(URL(Uniform Resource Locator)、アドレス、ホストネームなどのデータ)、および、自らが所属するグループを識別するグループ識別データなどがあるが、これらに限るものではなく、電子データとして管理できるデータであれば含めて送信することが可能である。このように、光ビーコン2−1乃至2−4は、その発光パターンを変化させることによりIDデータのみならず、様々なデータを送信することができる。
【0042】
ここで、自らが所属するグループを識別するグループ識別データについて説明する。例えば、図1においては、外部画像表示領域4が1個であるが、これが、複数に存在する場合、個々の外部画像表示領域4を構成する複数の光ビーコン2の群はグループと称され、これらのグループを識別するデータがグループ識別データとなる。したがって、今の場合、光ビーコン2−1乃至2−4は、同一のグループに属しているので、同一のグループ識別データを発する。尚、複数の外部画像を表示させる例については後述する。ここでは、光ビーコン2−1乃至2−4は、壁面5上に長方形の頂点を形成するように配置されているものとする。
【0043】
尚、以下において、光ビーコン2−1乃至2−4を特に区別する必要が無い場合、単に光ビーコン2と称するものとする。また、これ以外の構成についても同様とする。また、ID認識カメラ1、および、光ビーコン2については、図2乃至図10を参照して後述する。
【0044】
次に、画像合成表示装置1の構成について説明する。ID(Identifier)認識カメラ11は、上述の撮像領域3を撮像した画像データを画像合成部14に出力すると共に、撮像された光ビーコン2から発せられている発光パターンからIDデータと位置データを生成し、IDデータを表示位置取得部12、および、リンク先データ解析部16に、撮像位置データをID画像変換部20にそれぞれ出力する。
【0045】
表示位置取得部12は、光ビーコン2−1乃至2−4のそれぞれが撮像領域3のうちのどの位置であるかを示す位置データを取得し、外部画像表示領域4の表示位置情報として画像変形部13に出力する。
【0046】
リンク先データ解析部16は、光ビーコン2の発光パターンにより送信されてくるデータのうち、IDデータを解析して、リンク先データが含まれているとき、リンク先データを抽出して、リンク先画像取得部17に出力する。
【0047】
リンク先画像取得部17は、例えば、モデムなどから構成されており、リンク先データ解析部16より入力されたリンク先データに基づいて、インターネットなどの図示せぬネットワークを介してリンク先にアクセスし、そこに記憶されている外部画像を取得すると共に、取得した外部画像を外部画像入力部18に出力する。
【0048】
ID画像変換部20は、IDデータにコンテンツデータとして外部画像が含まれている場合、IDデータを外部画像に変換して(IDデータから外部画像を抽出して)、外部画像入力部18に出力する。記憶部19は、予め入力された外部画像を記憶しており、外部画像入力部18に記憶された外部画像を供給する。
【0049】
外部画像入力部18は、リンク先より取得された外部画像であるか、ID画像変換部20より入力されたIDデータに含まれた外部画像であるか、または、記憶部19に記憶された外部画像のうち、入力部21がユーザにより操作されて指定された外部画像を読み出し、画像変形部13に出力する。
【0050】
画像変形部13は、メモリ13aを適宜使用しながら、表示位置取得部12より入力された光ビーコン2−1乃至2−4の撮像位置から外部画像表示領域4の形状(撮像画像上の形状)を求め、求められた形状に適合するように、外部画像入力部18より入力された外部画像を変形し、変形した外部画像を画像合成部14に出力する。
【0051】
画像合成部14は、ID認識カメラ11より撮像された撮像画像(撮像領域3の画像)と、変形された外部画像を合成し、すなわち、撮像された撮像領域3のうちの、外部画像表示領域4に変形された外部画像を合成して、画像表示部15に出力し、表示させる。
【0052】
ここで、図2を参照して、ID認識カメラ11の詳細な構成について説明する。イメージセンサ31の受光部41は、撮像される対象となる撮像領域3の光を電気信号に光電変換した後、演算部42に出力する。また、受光部41の受光素子51は、CMOS(Complementary Metal−Oxide Semiconductor)素子からなり、従来のCCD(Charge Coupled Device)素子よりも高速に動作することができる。より詳細には、受光素子51が、撮像される対象となる撮像領域3の光を光電変換し、増幅器52に出力する。増幅器52は、受光素子51より入力される光電変換された電気信号を増幅して、演算部42に出力する。
【0053】
演算部42の記憶部61は、受光部41より入力された増幅されている電気信号を記憶し、適宜比較部62に出力する。比較部62は、記憶部61に記憶された電気信号の値に基づいて、演算処理を行い、演算結果を所定のリファレンス値(=基準信号レベル)と比較して、比較結果を出力部63に出力する。出力部63は、比較結果に基づいてセンサ出力信号を生成してデータ生成部32に出力する。但し、演算部42の処理内容は、画像モードとIDモードの2つの動作モードにより異なる。尚、この2つの異なる動作モードによる演算内容の詳細については後述する。
【0054】
データ生成部32の画像デコード処理部71は、画像モードの場合、センサ出力信号をデコード処理して撮像画像を生成して、画像合成部14に出力する。また、IDモードの場合、IDデコード処理部72は、センサ出力信号をデコード処理してIDデータと位置データを生成し、表示位置取得部12、リンク先データ解析部16、およびID画像変換部20に出力する。
【0055】
次に、図3を参照して、画像デコード処理部71の詳細な構成について説明する。画像デコード処理部71の画素値決定部81は、センサ出力信号に基づいて画素値を決定し、フレームメモリ82の対応する画素位置に決定した画素値を記憶させる。フレームメモリ82は、1フレーム分の画素値を記憶するメモリであり、画素位置毎に画素値を記憶する。
【0056】
出力部83は、フレームメモリ82に1フレーム分の画素値が記憶されたとき、順次画像データとして読出し、出力する。
【0057】
次に、図4を参照して、IDデコード処理部72の詳細な構成について説明する。IDデコード部101のIDデコード回路111は、IC(Integrated Circuit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field ProgrammableGate Array)などのデバイスにより構成されており、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。このIDデコード回路111は、処理能力が十分であれば、マイクロプロセッサやDSP(Digital Signal Processor)によってソフトウェアで構成するようにしても良い。
【0058】
フラグレジスタ112は、IDデータをデコードするために必要なフラグ類を記憶するためのレジスタであり、データレジスタ113は、デコード途中またはデコードを完了したIDを記憶しておくためのレジスタである。
【0059】
尚、図4においては、IDデコード部101は、1個のみが示されているが、処理速度の要求により、例えば、各画素毎に設けるようにしてもよいし、垂直方向、または、水平方向のライン毎に設けるようにしても良い。
【0060】
タイミング制御部102は、IDデコード処理部72の全体の動作に必要なタイミングを制御するタイミング制御信号を出力する。より具体的には、タイミング制御部102は、IDデコード回路111とセンサ出力信号のタイミングの同期をとり、所望のセンサ出力信号に対して、対応するフレームメモリ103のフラグデータをフラグレジスタ112に、IDデータをデータレジスタ113に、それぞれロードして、IDデコード処理を進めるためのタイミング制御信号を生成し、IDデコード部101(のIDデコード回路111、フラグレジスタ112、および、データレジスタ113)に供給する。また、このとき、タイミング制御部102は、フレームメモリ103へのアドレス信号、リードライトなどのタイミング制御信号を生成し供給する。さらに、タイミング制御部102は、重心計算部104のIDレジスタ121、および、ID重心計算回路122、並びに、ID座標格納メモリ105のタイミング制御を行うタイミング制御信号を生成して供給する。
【0061】
フレームメモリ103は、受光素子51、または演算部42毎に演算されたセンサ出力信号がデコードされたIDデータとフラグデータを格納するメモリであり、イメージセンサ31が1画素につき1個の演算部42をもつ場合には、センサの画像サイズであるM画素×N画素と同じサイズとなり、データ幅はフラグレジスタ112とデータレジスタ113のビット幅の和で構成される。図4においては、各画素の位置に対応する座標が、I軸とJ軸により示されており、それぞれの座標位置にIDデータとフラグデータが格納される。
【0062】
重心計算部104は、同一のIDデータを持つ撮像画像上の画素の重心位置の座標を求め、IDデータに、光ビーコン2の検出位置としての位置データ(=光ビーコン2の撮像画像上の位置データ)を付して出力する。より詳細には、重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号によりフレームメモリ103に今記憶されたIDデータを読出し、ID重心計算回路122に出力する。ID重心計算回路122は、入力されたIDデータ毎に、対応する画素の座標位置のI座標とJ座標、並びにデータの個数を順次加算してID座標格納メモリ105に記憶させる。また、ID重心計算回路122は、フレームメモリ103に1フレーム分のデータが格納されたとき、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を求めて、IDデータと共に出力する。
【0063】
次に、図5,図6を参照して、光ビーコン2の構成について説明する。
【0064】
図5の光ビーコン2は、送信データ保存用メモリ151、点滅制御部152、発光部153から構成される。送信データ保存メモリ151は、予め送信するためのデータを記憶しており、適宜読み出して点滅制御部152に出力する。点滅制御部152は、発信器とIC,ASIC,FPGA、ワンチップマイコンなどのデジタル回路によって構成されており、送信データ保存用メモリ151に記憶されたデータの内容に基づいて、点滅パターンを発生させると共に、発生された点滅パターンで発光部153を発光させる。発光部153は、高速に点滅することができる光源であれば良く、出力波長もセンサが反応する範囲であれば良い。また、発光部153が発する光は、可視光だけではなく、赤外域などでもよく、応答速度や、寿命の点から、LED(Light Emission Diode)は最適な光源の1つであるといえる。
【0065】
また、図6は、図示せぬネットワークを介して他の装置と通信することによりデータを可変とすることが可能な光ビーコン2のその他の構成を示している。このため、図6においては、送信データ保存用メモリ151に替えて、データ送受信部161が設けられている。ここでネットワークとは、有線・無線の通信回線、例えば電話回線、ISDN、RS−232C、RS−422、Ethernet(R)(10base−T,100base−T)、USB(Universal Serial Bus)、IEEE(Institute of Electrical and Electronic Engineers)1394、IEEE802.11a、IEEE802.11b、BlueToothなどの通信手段により他の装置とデータ通信ができる環境をいう。また、データ送受信部161は、この通信手段に対応するデータ通信用IC及びドライバから構成されており、ネットワークを介して受信した光ビーコン2の送信データを、点滅制御部152に出力する。点滅制御部152は、送信データに基づいて、点滅パターンを発生し、データに応じた点滅パターンで発光部153を発光させる。
【0066】
次に、ID認識カメラ11の動作について説明する。
【0067】
受光部41の受光素子51は、光を光電変換し、変換した電気信号を増幅部52に出力する。増幅部52は、電気信号を増幅して演算部42に出力する。演算部42の記憶部61は、受光部41より入力された電気信号を順次記憶して、4フレーム分の電気信号を記憶し、いっぱいになると、最も古いフレームの電気信号を消去して、最新のフレームの電気信号を記憶する処理を繰り返して、常に最新の4フレーム分の電気信号を記憶しており、その4フレーム分の電気信号を比較部62に出力する。
【0068】
比較部62の動作は、画像モードとIDモードにより異なる。この動作モードは、例えば、図7で示すように図示せぬ制御装置により、所定の時間間隔で交互に切り替えるようにしてもよい。また、画像モードとIDモードがそれぞれ30fps(frame per second)や60fpsといった従来のフレームレートで切り替えられるようにしても良い。さらに、IDモードには、IDデータをデコードするIDデコード処理区間と、デコードされたIDデータを持つ画素の座標位置としての位置データを求めるID重心計算区間がある。
【0069】
尚、図7においては、画像モードとIDモードが同時間の場合を示しているが、それぞれの動作モードの時間は、同時間でも良いし、同時間でなくてもよい。また、図7の下段で示すように、各画像モードの後のタイミングでは、画像デコード処理部71により、センサ出力信号がデコードされて撮像画像の画像データが出力され、IDモードの後のタイミングで、IDデコード処理部72により、センサ出力信号がデコードされてIDデータと位置データが出力される。
【0070】
まず、画像モードの場合の動作について説明する。
【0071】
画像モードの場合、イメージセンサ31の比較部62は、各画素の受光部41で検出した輝度を示す信号レベル(記憶部61に記憶された電気信号)を、基準信号レベルと比較して、図8で示すように、基準信号レベルよりも低くなったときに、図9で示すようにアクティブになるような信号(図9中の1の信号)を出力する。
【0072】
ここで、図8は、輝度信号レベルを示しており、図9は、センサ出力信号を示している。輝度信号レベルは、実質的に受光素子51の充電電圧の変化を示している。受光素子51は、所定のタイミングで充電される電圧と逆極性の所定のリセットレベルの電圧が印加され、その後のタイミングから受光素子により蓄積される電荷量に対応して電圧レベルが低下する。従って、図8においては、時刻0において蓄積される電荷は0であるので、輝度信号レベルは、リセットレベル(所定のレベル)となっている。この状態から時間が経過するに従って、電荷が蓄積されて、輝度信号レベルが低下する。今の場合、図8中のHで示す直線が、比較的輝度信号レベルの高い(明るい)画素値として、Lで示す直線が、比較的輝度信号レベルの低い(暗い)画素値として示されている。
【0073】
画素値のレベルが高い輝度信号レベルの変化Hは、時刻0から時間T(H)だけ経過したタイミングである時刻T(H)において、基準信号レベルに達する電荷が蓄積されていることが示されている。一方、画素値のレベルが低い輝度信号レベルの変化Lは、時刻0から時間T(L)だけ経過したタイミングである時刻T(L)において、基準信号レベルに達する電荷が蓄積されていることが示されている。
【0074】
すなわち、図8で示すように、明るい画素ほど基準信号レベルに達する時間が短く(図中T(H))、暗い画素ほど基準信号レベルに達する時間(図中T(L))が長くなる(T(H)<T(L))。比較部62は、実際の受光部41より出力される各画素の電気信号(輝度信号)が、前記基準信号レベルに達したかどうかの比較結果(コンパレータ出力)を図9で示すように2値のセンサ出力信号として出力する。このような処理により、イメージセンサ31は、画像を高速に撮像して基準信号との比較演算を行い、1画面(フレーム)分の結果をセンサ出力信号として出力する。
【0075】
さらに、画像デコード処理部71の画素値決定部81は、この時間T(H),T(L)を計測するために、このイメージセンサ31が1画面単位で出力する結果を、フレーム単位でカウントし、各画素で何番目のフレームでセンサ出力信号が図9で示すようにアクティブになるかを示すセンサ出力信号をエンコードして画像データとして出力する。今の場合、センサ出力信号は、時刻T(H)が、フレーム数F(H)であり、時刻T(L)が、フレーム数F(L)である。
【0076】
すなわち、画像モードの場合、画像デコード処理部71の画素値決定部81が、このセンサ出力信号を正しい明るさの値に変換するために、この基準信号に到達するまでの時間(フレーム数)の逆数を各画素毎に計算することで、センサ出力信号を画像データにデコードし、フレームメモリ82に記憶させる。そして、1フレーム分の画像データが蓄積された時、出力部83は、フレームメモリ82に記憶された画素値を画像データとして順次読出して出力する。この動作により、ID認識カメラ11は、画像モードにおいて画像データを出力することができる(詳細は、48Kframes/s CMOS Image Sensor for Real−time 3−D Sensing and Motion Detection” ISSCC Digest of Technical Papers, pp.94−95, Feb.2001、または、特開2001−326857を参照されたい)。
【0077】
一方、動作モードがIDモードの場合、比較部62は、記憶部61に記憶されている時間的に連続する4フレーム分の電気信号を輝度信号として以下の式(1)のような演算処理を実行する。
V(N)=F(N)+F(N−1)−F(N−2)−F(N−3)・・・(1)
【0078】
ここで、Nはフレーム番号を表し、V(N)は、Nフレーム目の輝度値が入力された時点での比較値を示し、F(N)はNフレーム目の受光部41に蓄積された輝度を示す。この演算により、光の変化を検出することができるため、その演算結果をセンサ出力信号としてデータ生成部32に出力する。データ生成部32は、このセンサ出力信号を用いて、後述するIDデコード処理を行うことで、点滅パターンからなるIDデータを復元し、光ビーコン2からのIDデータを生成することが可能となる。
【0079】
尚、比較部62の演算方法は、式(1)に限るものではなく、他の演算(1次微分や2値化画像の比較など)によって実現するようにしてもよいが、以下の説明においては、光変化の検出の安定性の高い、式(1)を用いて説明するものとする。
【0080】
ここで、IDデコード処理部72の動作について説明する。
【0081】
IDデコード部101のIDデコード回路111は、タイミング制御部102からのセンサ出力信号のタイミングの同期を図るためのタイミング制御信号に基づいて、イメージセンサ31から入力されるセンサ出力信号より各画素のIDデータを復元する。この際、IDデコード回路111は、タイミング制御信号に応じて、フラグレジスタ112を制御して、フレームメモリ103にロードされたフラグデータを用いて、センサ出力信号からIDデータをデコードし、デコード途中またはデコードを完了したIDをデータレジスタ113に記憶させる。
【0082】
さらに、フレームメモリ103は、これらのデコード処理がなされたフラグデータとIDデータを対応する座標位置に格納する。
【0083】
重心計算部104のIDレジスタ121は、タイミング制御部102より入力される所定のIDデータがデコード部101よりデコードされたことを示すタイミング制御信号により、フレームメモリ103に今記憶されたIDデータの情報をID重心計算回路122に読み出させる。
【0084】
ID重心計算回路122は、読み出したIDデータに対応する画素の座標位置のI座標とJ座標を順次加算して、これに画素の個数の情報を付してID座標格納メモリ105に記憶させ、この処理を繰り返す。
【0085】
そして、フレームメモリ103に1フレーム分のデータが格納されたとき、ID重心計算回路122は、ID座標格納メモリ105よりID毎にI座標の和とJ座標の和を、データの個数で割ることにより重心位置の座標を位置データとして求めて、対応するIDデータと共に出力する。
【0086】
以上の動作により、例えば、図10で示すように、2個の光ビーコン2−1,2−2が、点滅しながら発光してデータを送信する場合、ID認識カメラ11には、図10上部に示すような現実空間上の光ビーコン2−1,2−2の物理的な位置に応じた、撮像画像上の位置の画素で光の信号を受光する。例えば、光ビーコン2−1から発せられた光が座標位置(10,10)の受光素子51で受光されるものとし、光ビーコン2−2から発せられた光が座標位置(90,90)の受光素子51で受光されるものとする。このとき、各受光部41の座標位置(10,10)と(90,90)の受光素子51では、それぞれが光ビーコン2−1と2−2の点滅パターンにより受光強度(明るさ)の時間的変化として信号を受信することができる。今の場合、座標(10,10)の位置データに対応する画素は、IDデータとして「321」が、座標(90,90)の位置データに対応する画素は、IDデータとして105がデコード結果として求められている。
【0087】
結果として、この受光強度の変化を上述の式(1)などにより2値化することにより1/0のビット列からなるIDデータを取得する事ができる。
【0088】
次に、図11のフローチャートを参照して、画像合成表示装置1による画像合成表示処理について説明する。
【0089】
ステップS1において、ID認識カメラ11は、例えば、図1で示すように、撮像領域3を撮像し、その中に含まれる光ビーコン2−1乃至2−4のIDデータとその位置データを取得すると共に、撮像画像の撮像画像データを生成し、IDデータをリンク先データ解析部16、および、ID画像変換部20に、位置データを表示位置取得部12に、撮像画像データを画像合成部14にそれぞれ出力する。
【0090】
ステップS2において、表示位置取得部12は、ID認識カメラ11より入力された位置データに基づいて、外部画像の表示位置を取得し、その表示位置の情報を画像変形部13に出力する。すなわち、光ビーコン2−1乃至2−4が撮像されるとき、その4点からなる4角形の中が、外部画像表示領域4になるが、現実空間内での、ID認識カメラ11と光ビーコン2−1乃至2−4のそれぞれの位置関係により、撮像画像中の外部画像表示領域4の形状や、撮像領域3内の位置が変化することになるので、光ビーコン2−1乃至2−4の、撮像画像3内の位置データに基づいて、外部画像表示領域4の4隅の位置(撮像画像3内の光ビーコン2−1乃至2−4の位置)を決定するための、表示位置を取得する。
【0091】
ステップS3において、リンク先データ解析部16は、IDデータを解析し、解析結果をリンク先画像取得部17に出力する。ステップS4において、リンク先画像取得部17は、IDデータの解析結果から、IDデータにリンク先データが含まれているとき、そのリンク先データに基づいて、リンク先にアクセスし、外部画像を取得し、取得した外部画像を外部画像入力部18に出力する。尚、IDデータにリンク先データが付加されていなかったときは、この処理は、スキップされることになる。
【0092】
ステップS5において、ID画像変換部20は、IDデータに外部画像データが含まれているとき、その外部画像データを抽出して、外部画像に変換し外部画像入力部18に出力する。
【0093】
ステップS6において、外部画像入力部18は、入力部21が操作されて、リンク先の外部画像が選択されたか否かを判定し、例えば、リンク先の外部画像が選択された場合、その処理は、ステップS7に進む。
【0094】
ステップS7において、外部画像入力部18は、リンク先画像取得部17より入力された外部画像を画像変形部13に出力する。
【0095】
ステップS8において、画像変形部13は、外部画像入力部18より入力された外部画像を、表示位置取得部12より入力された表示位置のデータ、すなわち、外部画像表示領域4の4隅の位置データに基づいて、外部画像データの変形処理を実行する。
【0096】
ここで、図12のフローチャートを参照して、画像変形処理について説明する。
【0097】
ステップS31において、画像変形部13は、入力された外部画像表示領域4の4隅の座標r1、r2、r3、r4をメモリ13aに読み出す。すなわち、光ビーコン2−1乃至2−4の撮像画像上の座標位置がメモリ13aに読み出される。
【0098】
ステップS32において、図13のように、画像変形部13は、外部画像P上の4隅の座標をr1’=(xl’,yl’),r2’=(xh’,yl’),r3’=(xl’,yh’),r4’=(xh’,yh’)とする。
【0099】
ステップS33において、画像変形部13は、外部座標P上の4隅の座標と、入力された外部画像表示領域4の4隅の座標との関係をr’=Hrと置く。
【0100】
任意の四角形を構成する4点r1,r2,r3,r4から、それぞれ別の任意の四角形を構成する4点r1’,r2’,r3’,r4’への変換は、射影変換によって表現できることが知られている。
【0101】
すなわち、以下の式で表される射影変換行列Hを求めることにより、入力された外部画像表示領域4の4隅の座標r1,r2,r3,r4に囲まれた領域の点を、外部画像入力装置9の画像の4隅の座標r1’,r2’,r3’,r4’に変換することができる。
【0102】
【数1】
【0103】
【数2】
・・・(2)
【0104】
【数3】
・・・(3)
【0105】
ここで、rは射影変換前の斉次座標であり、入力された外部画像表示領域(xp,yp)の座標を示す。r’は射影変換後の斉次座標であり、外部画像入力装置8の画像の座標(xp’,yp’)を示す。式(2)に、入力された外部画像表示領域の4隅の座標(xp,yp)と、それに対応する外部画像入力装置8の画像の座標(xp’,yp’)を4点ずつ代入することで、行列Hを求めることができる。
【0106】
ステップS34において、画像変形部13は、出力画像データP(px,py)のメモリ13a上の領域を全て初期化する。すなわち、変形された外部画像が格納される領域が全て初期化される。
【0107】
ステップS35において、画像変形部13は、自らに内蔵するカウンタxp,ypを初期化する。
【0108】
ステップS36において、画像変形部13は、入力された外部画像表示領域内の点(xp,yp)に対応する点(xp’,yp’)を、式(2),(3)によって計算する。
【0109】
ステップS37において、w’≠0のときに、計算したxp’,yp’の値が、外部画像P上の4隅の点の内側にあれば、すなわちw’≠0かつxl’≦xp’≦xh’かつyl’≦yp’≦yh’を満たすのであれば、ステップS38にあるように、画像変形部13は、外部画像P’上の座標(xp’,yp’)の画素値を外部画像表示領域4の座標(xp,yp)の画素値に置き換えてメモリ13aに記憶させる。すなわち、図13にあるように、外部画像表示領域4上に表示される外部画像の画素値が決定されることになる。
【0110】
ステップS39において、画像変形部13は、カウンタxpを1だけインクリメントして、ステップS41において、今現在のカウンタxpが外部画像表示領域4のx方向の大きさと一致したか否かを判定し、一致していないと判定した場合、その処理は、ステップS36に戻る。また、ステップS40において、今現在のカウンタxpが外部画像表示領域4のx方向の大きさと一致した場合、その処理は、ステップS41に進む。
【0111】
ステップS41において、画像変形部13は、カウンタypを1だけインクリメントすると共に、カウンタxpを初期化し、ステップS42において、今現在のカウンタypが外部画像表示領域4のy方向の大きさと一致したか否かを判定し、一致していないと判定した場合、その処理は、ステップS36に戻る。また、ステップS42において、今現在のカウンタypが外部画像表示領域4のy方向の大きさと一致した場合、すなわち、ステップS39乃至S42の処理により、外部画像表示領域4内の全ての座標について、ステップS36乃至S38の処理が実行された場合、ステップS43において、画像変形部13は、メモリ13aに記憶された変形された外部画像を画像合成部14に出力する。
【0112】
ステップS37において、w’≠0かつxl’≦xp’≦xh’ かつ yl’≦yp’≦yh’を満たさないときは、外部画像P上の4隅の点の内側にはないため、ステップS38の処理はスキップされる。すなわち、外部画像表示領域4内の座標ではないので、画素値の置き換え処理がスキップされる。
【0113】
以上の処理は、射影変換であり、この変換により、外部画像の各画素値が、
撮像位置により変形する外部画像表示領域4の画素値に置き換えられることによって、実質的に外部画像が変形されることになる。すなわち、例えば、図14で示すような外部画像を用いる場合、図1で示すように外部画像表示領域4が形成されるとき、図14で示す外部画像は、図15で示すように、図1で示す外部画像表示領域4の形状に変形される。
【0114】
ここで、図11のフローチャートの説明に戻る。
【0115】
ステップS9において、画像合成部14は、変形された外部画像と撮像画像を合成して、合成画像を生成し、画像表示部15に出力する。ステップS10において、画像表示部15は、画像合成部14より入力された合成画像を表示し、その処理は、ステップS1に戻り、それ以降の処理が繰り返される。
【0116】
ステップS6において、リンク先の画像が選択されなかったと判定された場合、ステップS11において、外部画像入力部18は、入力部21が操作されて、IDデータに含まれた外部画像データから生成された外部画像が選択されたか否かを判定し、IDデータに含まれた外部画像が選択された場合、その処理は、ステップS12に進む。
【0117】
ステップS12において、外部画像入力部18は、ID画像変換部20より入力されたIDデータに含まれた外部画像を読み出して、画像変形部13に出力し、その処理は、ステップS8に進む。
【0118】
ステップS11において、ID画像データが選択されなかった場合、ステップS13において、外部画像入力部18は、記憶部19に予め記憶された外部画像を読み出して、画像変形部13に出力し、その処理は、ステップS8に進む。
【0119】
以上のような処理により、例えば、図15で示すように、変形された外部画像は、図16で示すように合成されて、撮像領域3で示す画像が画像表示部15に表示されることになる。
【0120】
また、この処理が繰り返されるので、ID認識カメラ11の向きが変化して、撮像領域3から、例えば、図16で示すように、撮像領域3aまたは3bで示すように変化しても、外部画像表示領域4は、光ビーコン2−1乃至2−4により構成される長方形で示した範囲の内側となるので、あたかも壁面5に外部画像を表示するスクリーンが存在しているかのような画像を表示することができる。
【0121】
さらに、光ビーコン2が撮像される撮像領域3上の位置により、外部画像表示領域4が決定されるので、予め画像合成表示装置1と光ビーコン2の位置関係を設定する、いわゆるキャリブレーションを必要としないので利用が容易となる。
【0122】
また、図17で示すように、画像合成表示装置1をメガネ型に構成することにより、いわゆるHMDを構成してもよい。すなわち、図17のHMDでは、左右の目の視差に対応する1対の画像合成表示装置1a,1bと表示部15a,15b(表示画像は、図中の紙面裏側に表示される)が設けられている。
【0123】
このような構成とすることにより、画像合成表示装置1a,1bは、それぞれ左右の目の視差に対応して光ビーコン2を撮像することになるため、外部画像表示領域4についても、左右の目の視差を表現することが可能となり、表示する外部画像に立体感を持たせることが可能となる。
【0124】
さらに、表示部15a,15bをいわゆるシースルー状の構成とすることにより、表示部15a,15bには、それぞれ外部画像表示領域4上を遮光して外部画像を表示させ、それ以外の領域は、ユーザにより目視できるような構成(シースルー:透明、または、半透明な構成)としても良い。このようにすると、撮像画像の表示そのものは、不要となるので画像合成部14の処理も必要がなく、外部画像のみを外部画像表示領域4に表示させるだけでよい。また、シースルーであるので、ユーザは、HMDを装着している間も閉塞感を持つことがなく、しかも自由な姿勢で合成画像を楽しむことが可能となる。
【0125】
次に、図18のブロック図を参照して、光ビーコン2より発せられるデータに、上述のパラメータs,tのデータを付加させて所定の点滅パターンで発光させるようにした画像合成表示装置1のその他の構成例について説明する。尚、図18において、図1の画像合成表示装置1における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0126】
図18の画像合成表示装置1は、基本的に図1の画像合成表示装置1と同様であるが、パラメータ取得部171が設けられ、画像変形部13に替えて画像変換部172が設けられている点が異なる。パラメータ取得部171は、各光ビーコン2より発せられるIDデータに含まれるパラメータs,tを取得して、画像変形部172に出力する。画像変形部172は、外部画像入力部18より入力された外部画像を、パラメータ取得部171より入力されたパラメータs,tに基づいて複数の領域に分割し、外部画像を分割した領域毎に変形して、画像合成部14に出力する。
【0127】
例えば、図19で示すように、壺181の曲面に光ビーコン2−11乃至2−19が設けられているものとする。ここで、壺181の曲面に沿って、光ビーコン2−11乃至2−19は、光ビーコン2−11乃至13、2−14乃至16、2−17乃至19、2−11,14,17、2−12,15,18、および、2−13,16,19が、それぞれ等間隔に配置されている(平面であれば格子状に配置されるが、曲面に沿っているので、やや歪な格子状の配置となる)。この場合、外部画像表示領域4は、図19で示すように、撮像位置から見て光ビーコン2−11乃至2−14、および、2−16乃至2−19で囲まれる範囲である。
【0128】
この状態で、光ビーコン2−11乃至2−19が、自らの外部画像上における位置を示すパラメータs,tのデータを含むように所定の点滅パターンで発光する。例えば、図20で示すように、パラメータ(s,t)が、光ビーコン2−11乃至2−19について、それぞれ(0,0),(0.5,0),(1,0),(0,0.5),(0.5,0.5),(1,0.5),(0,1),(0.5,1),(1,1)であるものとする。
【0129】
ここで、図21で示すような外部画像を、図19の外部画像表示領域4に表示させるときの画像合成表示処理について、図22のフローチャートを参照して説明する。尚、ステップS61乃至67,S70、およびS72乃至S76の処理は、図11のステップS1乃至S13の処理と同様であるので、その説明は省略する。
【0130】
ステップS68において、パラメータ取得部171は、IDデータよりパラメータs,tの情報を取得し、取得したパラメータs,tを画像変形部172に出力する。すなわち、今の場合、パラメータ取得部171は、光ビーコン2−11乃至2−19について、それぞれ(0,0),(0.5,0),(1,0),(0,0.5),(0.5,0.5),(1,0.5),(0,1),(0.5,1),(1,1)のパラメータ(s,t)を取得し、画像変形部172に出力する。
【0131】
ステップS69において、画像変形部172は、パラメータs,tに基づいて、図21で示すように、外部画像データを領域191−1乃至191−4に分割する。すなわち、今の場合、画像変形部172は、入力された外部画像を、元の外部画像の縦横それぞれ1/2のサイズの4個の領域191−1乃至191−4に分割する。
【0132】
ステップS70において、画像変形部172は、分割した領域191−1乃至191−4毎に画像を変形し、ステップS71において、画像変形部172は、図23で示すように、全ての領域191−1乃至191−4を外部画像表示領域4−1乃至4−4で示すようにそれぞれ変形されたか否かを判定し、全ての領域191において変形が終了するまで、ステップS70の変形処理を繰り返す。
【0133】
この処理により、画像表示部15は、図23で示すように、ユーザには、あたかも壺181上の曲面に沿って外部画像が表示されているような(外部画像が曲面にフィットしているような)、表示効果を発生させることができる。また、以上の例においては、光ビーコン2が9個の場合について説明してきたが、光ビーコン2の数は、それ以上であってもよく、曲面に光ビーコン2を設置する場合、曲率が高い曲面ほど、より高い密度で光ビーコン2を設けることにより、曲面に対してより滑らかに(より曲面にフィットした)外部画像を合成して表示させることができる。
【0134】
また、以上の例においては、1個の外部画像を撮像画像に合成する例について説明してきたが、複数の外部画像を表示させるようにしても良い。
【0135】
図24は、複数の外部画像を表示させるようにした画像合成表示装置1を示している。尚、図24において、図1の画像合成表示装置1における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。図24の画像合成表示装置1は、基本的な構成において、図1の画像合成表示装置1と同様であるが、グループ認識部201が新たに設けられ、外部画像入力部18に替えて、外部画像入力部202が、画像変形部13に替えて、画像変形部203がそれぞれ設けられている点が異なる。
【0136】
グループ認識部201は、IDデータに含まれる外部画像表示領域4毎に設定された光ビーコン2のグループ識別データを読み出し、グループ識別データを外部画像入力部202、および、画像変形部203に出力する。より詳細には、グループ認識部201は、グループ識別データにより識別されたグループ(外部画像)毎にグループ番号(ナンバー)を付して識別する。
【0137】
外部画像入力部202は、グループ識別データ毎にリンク先より取得された外部画像であるか、ID画像変換部20より入力されたIDデータに含まれた外部画像であるか、または、記憶部19に予め記憶された外部画像のうち、入力部21がユーザにより操作されて指定された外部画像を読み出し、画像変形部203に出力する。
【0138】
画像変形部203は、外部画像入力部202より入力された外部画像データを、グループ識別データに基づいて、グループ毎に外部画像を変形し、画像合成部14に出力する。
【0139】
次に、図25のフローチャートを参照して、複数の外部画像を合成して表示する画像合成表示処理について説明する。
【0140】
ステップS91乃至S95,S97乃至S99,S101乃至105の処理は、図11のフローチャートにおけるステップS1乃至S13の処理と同様であるので、その説明は省略する。
【0141】
ステップS96において、グループ認識部201は、IDデータに含まれるグループ識別データを全ての光ビーコン2毎に取得し、外部画像入力部202、および、画像変形部203に出力する。
【0142】
ステップS97乃至S99,S103乃至S105の処理の後、画像変形部203は、ステップS100において、全てのグループについて外部画像が変形されたか否かを判定し、全ての外部画像が変形されていないと判定した場合、その処理は、ステップS97に戻り、全ての外部画像が変形されたと判定されるまで、ステップS97乃至S99,S103乃至S105の処理が繰り返される。ステップS100において、全てのグループについて外部画像が変形された場合、その処理は、ステップS101に進み、それ以降の処理が繰り返される。
【0143】
以上のような処理により、例えば、図26で示すように、光ビーコン2−31乃至34により形成される外部画像表示領域4−11に外部画像Aを表示し、光ビーコン2−41乃至44により形成される外部画像表示領域4−12に外部画像Bを表示することにより、外部画像A,Bの2枚の外部画像を表示できる。この場合、光ビーコン2−31乃至34は、外部画像表示領域4−11を形成する同一のグループであることを、光ビーコン2−41乃至44は、外部画像表示領域4−12を形成する同一のグループであることを、それぞれに示すグループ識別データをIDデータに含めて送信する。また、画像合成表示装置1は、このID信号に含まれるグループ識別データに応じて、グループ毎に外部画像表示領域4を形成し、個々の外部画像を合成して表示する。尚、これ以上の数の外部画像が表示できるようにしても良い。
【0144】
以上の処理により、外部画像上の光ビーコン2の各々のパラメータs,tをIDデータとして送信するようにして、現実空間上の曲面で表示しているかのように外部画像が変形されて、表示されるので、現実空間上の曲面上に、あたかも表示されているかのように画像を合成して表示することが可能となる。
【0145】
以上、本発明によれば、光ビーコンを現実空間に配置し、その光ビーコンの撮像画像上の配置に合わせて外部画像を変形させて合成することにより、あたかも現実空間上に合成された外部画像が表示されているかのような効果を与えることができる。
【0146】
また、光ビーコンが発光することにより送信されるIDデータにグループ識別データを含ませることで、複数枚の外部画像を同時に合成して表示させることができる。
【0147】
さらに、IDデータ内に表示する外部画像のリンク先データが含まれるようにすることにより、光ビーコン2より送信されてくるデータを変化することで、異なる外部画像を合成して表示することができる。
【0148】
また、光ビーコンから送信されるデータに画像データそのものを含ませることにより、外部画像を受信するための他の通信手段を設けることなく、外部画像を合成して表示させることができる。
【0149】
さらに、1対の画像合成表示装置1をHMDの人間の左右の目の視差を考慮して設置することにより、合成される外部画像に対する両眼の視差を再現させることができ、臨場感の高い外部画像を合成して表示することができる。
【0150】
また、光ビーコンに自らの外部画像中の位置を示すパラメータを含ませておき、複数の光ビーコンを配置することにより、より現実空間の光ビーコンが配置されている曲面に適合した状態で外部画像を合成して表示することができる。
【0151】
上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行させることが可能な、例えば汎用のパーソナルコンピュータなどに記録媒体からインストールされる。
【0152】
図27は、画像合成表示装置1を、図28は、光ビーコン2をそれぞれソフトウェアにより実現する場合のパーソナルコンピュータの一実施の形態の構成を示している。パーソナルコンピュータのCPU211,231は、パーソナルコンピュータの動作の全体を制御する。また、CPU211,231は、バス214,234および入出力インタフェース215,235を介してユーザからキーボードやマウスなどからなる入力部216,236から指令が入力されると、それに対応してROM(Read Only Memory)212,232に格納されているプログラムを実行する。あるいはまた、CPU211,231は、ドライブ220,240に接続された磁気ディスク221,251、光ディスク222,252、光磁気ディスク223,253、または半導体メモリ224,254から読み出され、記憶部208,238にインストールされたプログラムを、RAM(Random Access Memory)203,233にロードして実行し、出力部217,237が実行結果を出力する。さらに、CPU211,231は、通信部219,239を制御して、外部と通信し、データの授受を実行する。
【0153】
プログラムが記録されている記録媒体は、図27,図28に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク221,251(フレキシブルディスクを含む)、光ディスク222,252(CD−ROM(Compact Disc−Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク223,253(MD(Mini−Disc)を含む)、もしくは半導体メモリ234,254などよりなるパッケージメディアにより構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM212,232や、記憶部218,238に含まれるハードディスクなどで構成される。
【0154】
尚、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
【0155】
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
【0156】
【発明の効果】
本発明によれば、撮像した画像内で、あたかも現実空間の物体の表面で画像が表示されているかのように、外部画像を合成して表示することが可能となる。
【図面の簡単な説明】
【図1】本発明を適用した画像合成表示システムのブロック図である。
【図2】図1のID認識カメラのブロック図である。
【図3】図2の画像デコード処理部のブロック図である。
【図4】図2のIDデコード処理部のブロック図である。
【図5】図1の光ビーコンのブロック図である。
【図6】図1の光ビーコンのブロック図である。
【図7】ID認識カメラの動作を説明する図である。
【図8】ID認識カメラが画像信号を生成する動作を説明する図である。
【図9】ID認識カメラが画像信号を生成する動作を説明する図である。
【図10】ID認識カメラが点滅パターンをデコードする動作を説明する図である。
【図11】画像合成表示処理を説明するフローチャートである。
【図12】画像変形処理を説明するフローチャートである。
【図13】画像変形処理を説明する図である。
【図14】画像変形処理を説明する図である。
【図15】画像変形処理を説明する図である。
【図16】画像合成処理を説明する図である。
【図17】画像合成表示装置を用いたHMDを説明する図である。
【図18】画像合成表示装置のその他の構成例を示すブロック図である。
【図19】光ビーコンが壺の曲面に配置されている例を示す図である。
【図20】光ビーコンの配置と、外部画像のパラメータの例を示す図である。
【図21】外部画像を説明する図である。
【図22】画像合成表示処理を説明するフローチャートである。
【図23】外部画像を合成して表示した例を示す図である。
【図24】画像合成表示装置のその他の構成例を示すブロック図である。
【図25】画像合成表示処理を説明するフローチャートである。
【図26】複数の外部画像を合成して表示した例を示す図である。
【図27】媒体を説明する図である。
【図28】媒体を説明する図である。
【符号の説明】
1,1a,1b 画像合成表示装置, 2,2−1乃至2−4,2−11乃至2−19,2−31乃至2−34,2−41乃至44 光ビーコン, 3 撮像領域, 4,4−1乃至4−4 外部画像表示領域, 5 壁面, 11 ID認識カメラ,12 表示位置取得部, 13 画像変形部, 14 画像合成部,15,15a,15b 画像表示部, 16 リンク先データ解析部, 17リンク先画像取得部, 18 外部画像入力部, 19 記憶部, 20 ID画像変換部, 21 入力部, 171 パラメータ取得部, 171 画像変形部, 181 壺, 191,191−1乃至191−4 領域, 201 グループ認識部, 202 外部画像入力部, 203 画像変形部
Claims (25)
- 所定の点滅パターンで発光し、データを送信する複数の送信装置を撮像する撮像手段と、
前記撮像手段により撮像された前記複数の送信装置の撮像位置を検出する検出手段と、
第1の画像を入力する入力手段と、
前記検出手段により検出された前記送信装置の撮像位置に基づいて、前記第1の画像を変形する変形手段と、
前記変形手段により変形された前記第1の画像を、前記送信装置の撮像位置に対応した表示位置に表示する表示手段と
を備えることを特徴とする画像表示装置。 - 前記複数の送信装置により発せられる所定の点滅パターンに含まれる前記データを解析する解析手段をさらに備える
ことを特徴とする請求項1に記載の画像表示装置。 - 前記データは、リンクデータ、コンテンツデータ、または、前記複数の送信装置が属するグループを示すグループデータを含む
ことを特徴とする請求項2に記載の画像表示装置。 - 前記リンクデータは、前記第1の画像の情報が存在するネットワーク上のリンク先を含む
ことを特徴とする請求項3に記載の画像表示装置。 - 前記リンクデータに含まれる前記リンク先にアクセスし、前記第1の画像を取得する取得手段をさらに備える
ことを特徴とする請求項4に記載の画像表示装置。 - 前記コンテンツデータは、前記第1の画像の情報を含む
ことを特徴とする請求項3に記載の画像表示装置。 - 前記入力手段は、前記コンテンツデータに含まれる前記第1の画像を入力する
ことを特徴とする請求項6に記載の画像表示装置。 - 前記変形手段は、同一の前記グループデータを含む4個の送信装置の撮像位置に基づいて、前記第1の画像を変形し、
前記第1の画像が4角形である場合、前記表示手段は、前記変形手段により変形された前記第1の画像を、その4隅が前記4個の送信装置の撮像位置に対応した表示位置となるように表示する
ことを特徴とする請求項3に記載の画像表示装置。 - 所定の点滅パターンで発光し、データを送信する複数の送信装置に加えて、さらに、第2の画像を撮像する
ことを特徴とする請求項1に記載の画像表示装置。 - 前記第2の画像と、前記変形手段により変形された前記第1の画像を合成し、合成画像を生成する合成画像生成手段とをさらに備え、
前記表示手段は、前記合成画像に合成されている前記第1の画像が、前記送信装置の撮像位置に対応した表示位置に表示されるように、前記合成画像を表示する
ことを特徴とする請求項9に記載の画像表示装置。 - 前記表示手段は、
透過性のスクリーンと、
前記スクリーン上の前記送信装置の撮像位置に対応した表示位置に遮光領域を生成する遮光領域生成手段とをさらに備え、
前記変形手段により変形された前記第1の画像を、前記遮光領域に表示する
ことを特徴とする請求項1に記載の画像表示装置。 - 前記撮像手段、前記入力手段、前記変形手段、および、前記表示手段は、それぞれ人間の両目用に一対である
ことを特徴とする請求項1に記載の画像表示装置。 - 前記撮像手段のリフレッシュレートは、前記表示手段のリフレッシュレートよりも高い
ことを特徴とする請求項1に記載の画像表示装置。 - 前記変形手段は、前記送信装置の撮像位置に基づいて、射影変換により前記第1の画像を変形する
ことを特徴とする請求項1に記載の画像表示装置。 - 所定の点滅パターンで発光し、データを送信する複数の送信装置を撮像する撮像ステップと、
前記撮像ステップの処理で撮像された前記複数の送信装置の撮像位置を検出する検出ステップと、
第1の画像を入力する入力ステップと、
前記検出ステップの処理で検出された前記送信装置の撮像位置に基づいて、前記第1の画像を変形する変形ステップと、
前記変形ステップの処理で変形された前記第1の画像を、前記送信装置の撮像位置に対応した表示位置に表示する表示ステップと
を含むことを特徴とする画像表示方法。 - 所定の点滅パターンで発光し、データを送信する複数の送信装置の撮像を制御する撮像制御ステップと、
前記撮像制御ステップの処理で撮像が制御された前記複数の送信装置の撮像位置の検出を制御する検出制御ステップと、
第1の画像の入力を制御する入力制御ステップと、
前記検出制御ステップの処理で検出が制御された前記送信装置の撮像位置に基づいて、前記第1の画像の変形を制御する変形制御ステップと、
前記変形制御ステップの処理で変形が制御された前記第1の画像の、前記送信装置の撮像位置に対応した表示位置への表示を制御する表示制御ステップと
を含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。 - 所定の点滅パターンで発光し、データを送信する複数の送信装置の撮像を制御する撮像制御ステップと、
前記撮像制御ステップの処理で撮像が制御された前記複数の送信装置の撮像位置の検出を制御する検出制御ステップと、
第1の画像の入力を制御する入力制御ステップと、
前記検出制御ステップの処理で検出が制御された前記送信装置の撮像位置に基づいて、前記第1の画像の変形を制御する変形制御ステップと、
前記変形制御ステップの処理で変形が制御された前記第1の画像の、前記送信装置の撮像位置に対応した表示位置への表示を制御する表示制御ステップと
をコンピュータに実行させるプログラム。 - 所定の点滅パターンで発光することによりデータを送信する送信装置において、
データに対応して前記所定の点滅パターンを発生するパターン発生手段と、
前記パターン発生手段により発生された前記所定の点滅パターンで発光する発光手段と
を備えることを特徴とする送信装置。 - 前記データは、リンクデータ、コンテンツデータ、または、自らが属するグループを示すグループデータを含む
ことを特徴とする請求項18に記載の送信装置。 - 前記リンクデータは、前記画像表示装置に表示される画像の情報が存在するネットワーク上のリンク先を含む
ことを特徴とする請求項19に記載の送信装置。 - 前記コンテンツデータは、前記画像表示装置に表示される画像の情報を含む
ことを特徴とする請求項19に記載の送信装置。 - 所定の点滅パターンで発光することによりデータを送信する送信装置の送信方法において、
データに対応して前記所定の点滅パターンを発生するパターン発生ステップと、
前記パターン発生ステップの処理で発生された前記所定の点滅パターンで発光する発光ステップと
を含むことを特徴とする送信方法。 - 所定の点滅パターンで発光することによりデータを送信する送信装置を制御するプログラムであって、
データに対応して前記所定の点滅パターンの発生を制御する点滅パターン発生制御ステップと、
前記パターン発生制御ステップの処理で発生された前記所定の点滅パターンでの発光を制御する発光制御ステップと
を含むことを特徴とするコンピュータが読み取り可能なプログラムが記録されている記録媒体。 - 所定の点滅パターンで発光することによりデータを送信する送信装置を制御するコンピュータに、
データに対応して前記所定の点滅パターンの発生を制御するパターン発生制御ステップと、
前記パターン発生制御ステップの処理で発生された前記所定の点滅パターンでの発光を制御する発光制御ステップと
を実行させるプログラム。 - 画像表示装置と送信装置からなる画像表示システムにおいて、
前記画像表示装置は、
所定の点滅パターンで発光し、データを送信する複数の送信装置を撮像する撮像手段と、
前記撮像手段により撮像された前記複数の送信装置の撮像位置を検出する検出手段と、
画像を入力する入力手段と、
前記検出手段により検出された前記送信装置の撮像位置に基づいて、前記画像を変形する変形手段と、
前記変形手段により変形された前記画像を、前記送信装置の撮像位置に対応した表示位置に表示する表示手段と
を備え、
前記送信装置は、
データに対応して前記所定の点滅パターンを発生するパターン発生手段と、
前記パターン発生手段により発生された前記所定の点滅パターンで発光する発光手段と
を備える
ことを特徴とする画像表示システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003104100A JP2004054890A (ja) | 2002-05-29 | 2003-04-08 | 画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002155647 | 2002-05-29 | ||
JP2003104100A JP2004054890A (ja) | 2002-05-29 | 2003-04-08 | 画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004054890A true JP2004054890A (ja) | 2004-02-19 |
Family
ID=31949024
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003104100A Withdrawn JP2004054890A (ja) | 2002-05-29 | 2003-04-08 | 画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004054890A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006295506A (ja) * | 2005-04-08 | 2006-10-26 | Canon Inc | 画像表示装置、およびその制御方法 |
JP2009237878A (ja) * | 2008-03-27 | 2009-10-15 | Dainippon Printing Co Ltd | 複合映像生成システム、重畳態様決定方法、映像処理装置及び映像処理プログラム |
WO2009157152A1 (ja) * | 2008-06-23 | 2009-12-30 | パナソニック株式会社 | 合成装置および合成方法 |
WO2012049795A1 (ja) * | 2010-10-12 | 2012-04-19 | パナソニック株式会社 | 表示処理装置、表示方法およびプログラム |
JP2014095903A (ja) * | 2013-11-20 | 2014-05-22 | Sony Corp | 頭部装着型ディスプレイにおける画像表示方法 |
US9311752B2 (en) | 2010-04-08 | 2016-04-12 | Sony Corporation | Image displaying method for a head-mounted type display unit |
JP2016167132A (ja) * | 2015-03-09 | 2016-09-15 | 株式会社タカラトミー | 画像表示システム |
JP2017044756A (ja) * | 2015-08-24 | 2017-03-02 | Necフィールディング株式会社 | 画像表示装置、画像表示方法及びプログラム |
JP2020513699A (ja) * | 2016-11-23 | 2020-05-14 | レアリザシオンズ インコーポレイテッド モントリオール | 自動校正投射システムおよび方法 |
-
2003
- 2003-04-08 JP JP2003104100A patent/JP2004054890A/ja not_active Withdrawn
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7940295B2 (en) | 2005-04-08 | 2011-05-10 | Canon Kabushiki Kaisha | Image display apparatus and control method thereof |
JP2006295506A (ja) * | 2005-04-08 | 2006-10-26 | Canon Inc | 画像表示装置、およびその制御方法 |
JP4522307B2 (ja) * | 2005-04-08 | 2010-08-11 | キヤノン株式会社 | 画像撮像装置、画像撮像方法 |
JP2009237878A (ja) * | 2008-03-27 | 2009-10-15 | Dainippon Printing Co Ltd | 複合映像生成システム、重畳態様決定方法、映像処理装置及び映像処理プログラム |
JP5214730B2 (ja) * | 2008-06-23 | 2013-06-19 | パナソニック株式会社 | 合成装置および合成方法 |
WO2009157152A1 (ja) * | 2008-06-23 | 2009-12-30 | パナソニック株式会社 | 合成装置および合成方法 |
US9311752B2 (en) | 2010-04-08 | 2016-04-12 | Sony Corporation | Image displaying method for a head-mounted type display unit |
WO2012049795A1 (ja) * | 2010-10-12 | 2012-04-19 | パナソニック株式会社 | 表示処理装置、表示方法およびプログラム |
JPWO2012049795A1 (ja) * | 2010-10-12 | 2014-02-24 | パナソニック株式会社 | 表示処理装置、表示方法およびプログラム |
JP2014095903A (ja) * | 2013-11-20 | 2014-05-22 | Sony Corp | 頭部装着型ディスプレイにおける画像表示方法 |
JP2016167132A (ja) * | 2015-03-09 | 2016-09-15 | 株式会社タカラトミー | 画像表示システム |
JP2017044756A (ja) * | 2015-08-24 | 2017-03-02 | Necフィールディング株式会社 | 画像表示装置、画像表示方法及びプログラム |
JP2020513699A (ja) * | 2016-11-23 | 2020-05-14 | レアリザシオンズ インコーポレイテッド モントリオール | 自動校正投射システムおよび方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111052727B (zh) | 电子装置及其控制方法 | |
CN108292489B (zh) | 信息处理装置和图像生成方法 | |
US20190342544A1 (en) | Image processing apparatus and method | |
CN102959616B (zh) | 自然交互的交互真实性增强 | |
CN109478344B (zh) | 用于合成图像的方法和设备 | |
EP3586315B1 (en) | Method and apparatus for displaying image based on user motion information | |
KR20200012043A (ko) | 인사이드-아웃 위치, 사용자 신체 및 환경 추적을 갖는 가상 및 혼합 현실을 위한 머리 장착 디스플레이 | |
JP2004145448A (ja) | 端末装置、サーバ装置および画像加工方法 | |
KR20180077091A (ko) | 공간-의존 콘텐츠를 위한 햅틱 효과 생성 | |
CN105659592A (zh) | 用于三维视频的相机*** | |
CA3105356A1 (en) | Synthesizing an image from a virtual perspective using pixels from a physical imager array | |
CN103400543A (zh) | 3d互动展示***及其展示方法 | |
JP7403967B2 (ja) | 情報処理装置、映像生成装置、画像処理システム、それらの制御方法及びプログラム | |
CN106843790B (zh) | 一种信息展示***和方法 | |
CN107517346A (zh) | 基于结构光的拍照方法、装置及移动设备 | |
US20040001074A1 (en) | Image display apparatus and method, transmitting apparatus and method, image display system, recording medium, and program | |
JP2004054890A (ja) | 画像表示装置および方法、送信装置および方法、画像表示システム、記録媒体、並びにプログラム | |
EP3665656B1 (en) | Three-dimensional video processing | |
CN105340258A (zh) | 位置检测装置 | |
US20200342833A1 (en) | Head mounted display system and scene scanning method thereof | |
JP2009087176A (ja) | オブジェクト生成システム、オブジェクト生成装置、及び、オブジェクト生成プログラム | |
JP2000222116A (ja) | 表示画像の位置認識方法とその位置認識装置および仮想画像立体合成装置 | |
TW202036369A (zh) | 影像處理裝置及其方法 | |
JP2000098300A (ja) | 仮想画像立体合成装置、仮想画像立体合成方法、ゲーム装置及び記録媒体 | |
JP2020088571A (ja) | 管理システム、情報処理システム、情報処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060704 |