JP2006221599A - マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置 - Google Patents

マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置 Download PDF

Info

Publication number
JP2006221599A
JP2006221599A JP2005089967A JP2005089967A JP2006221599A JP 2006221599 A JP2006221599 A JP 2006221599A JP 2005089967 A JP2005089967 A JP 2005089967A JP 2005089967 A JP2005089967 A JP 2005089967A JP 2006221599 A JP2006221599 A JP 2006221599A
Authority
JP
Japan
Prior art keywords
screen
projector
image
projectors
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005089967A
Other languages
English (en)
Other versions
JP4751084B2 (ja
Inventor
Masato Ogata
正人 緒方
Hiroyuki Wada
博之 和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Precision Co Ltd
Original Assignee
Mitsubishi Precision Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Precision Co Ltd filed Critical Mitsubishi Precision Co Ltd
Priority to JP2005089967A priority Critical patent/JP4751084B2/ja
Publication of JP2006221599A publication Critical patent/JP2006221599A/ja
Application granted granted Critical
Publication of JP4751084B2 publication Critical patent/JP4751084B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Digital Computer Display Output (AREA)

Abstract

【課題】二次曲面スクリーンに複数プロジェクタからの映像を任意の視点から歪み無く見せる。
【解決手段】スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の仮定視点から見た点との対応を示すマッピング関数とその逆関数を求める。プロジェクタ毎にマッピング関数の逆関数を得る。各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め求めた各プロジェクタ毎のマッピングの逆関数により、生成した映像を歪み補正した映像をピクセルバッファに生成し、各プロジェクタからピクセルバッファにおいて歪み補正した映像を二次曲面スクリーンに投影する。
【選択図】 図1

Description

この発明は、コンピュータグラフィックスによる並列映像発生に際して用いるマッピング関数の生成方法及び複合映像発生の方法並びにこれらの装置、さらにはその応用に関するものである。
訓練用シミュレータや研究用シミュレータにおいて没入感・臨場感を得るためには、高い解像度と広い視野が要求される。これをコストパフォーマンス良く実現する方法として、平面スクリーンに多数のプロジェクタから逆歪みをかけた映像を投影して連続した画像に統合するプロジェクタモザイクあるいはマルチプロジェクション技術が期待されている。従来から電子回路やレンズを用いて光学的に歪みを補正する方法は広く用いられていたが、スクリーンのサイズが固定されたり、プロジェクタ設置時の調整が複雑など多くの問題がある。また、複数配置して大画面を構成するため、境目を緩和する専用回路付きの高価なプロジェクタが必要となり、位置合わせやプロジェクタの特性および経年変化による輝度ズレの調整などにも多大の時間と労力を要する。
また、非特許文献1に示したように、設置位置が不明なプロジェクタj(1…n)から投影した映像と、同様に設置位置が不明なカメラで撮像したスクリーン上の歪み映像とが3行3列のマトリクスにより対応づけられ、このマトリクスを利用してプロジェクタ座標の映像に逆歪みをかけ、映像の歪み補正を行うものがあるが、平面スクリーンに限られている。
社団法人情報処理学会、「FIT2003 情報科学技術フォーラム 一般講演論文集 第3分冊」二〇〇三年八月二十五日発行、p.401〜403
本発明は、部分画像を投影する比較的低解像度のプロジェクトを複数台用いて、高解像度の大画面をドーム等の二次曲面スクリーン上に表示する実時間映像発生が容易になる方法および手段を提供することにある。
上記課題を解決するため請求項1に係るマッピング関数生成方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、コンピュータによる処理であって、基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る第1の過程と、前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から仮定視点を原点とする視点座標系における二次曲面パラメータ(Qv)を求める第2の過程と、前記二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の仮定視点から見た点との対応を示すマッピング関数を求める第3の過程と、前記マッピング関数よりその逆関数を求める第4の過程と、第1の過程から第4の過程を前記複数プロジェクタのn回繰り返して、プロジェクタ毎にマッピング関数の逆関数を得て前記記憶装置に格納する第5の過程と、からなることを特徴とするものである。
上記課題を解決するため請求項2に係る複合映像生成方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項3に係る複合映像生成方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、コンピュータによる処理であって、基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る第1の過程と、前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から右目又は左目のいずれか一方の仮定視点を原点とする前記右目又は左目のいずれか一方の視点座標系及び右目又は左目のいずれか他方の仮定視点を原点とする前記右目又は左目のいずれか他方の視点座標系における二次曲面パラメータ(Qv)を求める第2の過程と、前記求めた右目及び左目の視点座標系における二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の右目及び左目の仮定視点から見た点との対応を示すマッピング関数を求める第3の過程と、前記マッピング関数よりその逆関数を求める第4の過程と、第1の過程から第4の過程を前記複数プロジェクタのn回繰り返して、プロジェクタ毎に右目及び左目用のマッピング関数の逆関数を得て前記記憶装置に格納する第5の過程と、からなることを特徴とするものである。
上記課題を解決するため請求項4に係る複合映像発生方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタ毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項3において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項5に係る複合映像発生方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通して重複する部分を有するように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、前記コンピュータにより各プロジェクタが投影する領域毎の映像を生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項6に係る複合映像発生方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項7に係る複合映像発生方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項3において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、各プロジェクタから前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項8に係る複合映像発生方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通にして重複する部分を有するように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とするものである。
上記課題を解決するため請求項9に係る複合映像発生方法は、請求項6又は請求項7又は請求項8に記載のものにおいて、ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とするものである。
上記課題を解決するため請求項10に係る複合映像生成方法は、請求項2又は請求項4又は請求項5又は請求項6又は請求項7又は請求項8又は請求項9に記載のものにおいて、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、コンピュータと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラとを有し、前記スクリーンに前記プロジェクタのいずれもから投影しない状態でカメラにより撮影する第1の過程と、前記各プロジェクタより前記スクリーンに黒状態の映像を投影してカメラにより撮影するとともに複数nのプロジェクタのn回繰り返す第2の過程と、コンピュータにおいて、第2の過程による各プロジェクタ毎の映像の輝度から第1の過程により得られた映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得る第3の過程と、コンピュータにおいて、各プロジェクタの映像の前記重複する部分のコントラストを前記オフセット値分下げるとともに輝度をオフセット値分上げて映像生成する第4の過程とからなることを特徴とするものである。
上記課題を解決するため請求項11に係る複合映像発生方法は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ前方に設けた偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程と、夜間情景を表すときに前記偏光板により減光させる第3の過程からなることを特徴とするものである。
上記課題を解決するため請求項12に係るマッピング関数生成装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る変換行列計算手段と、前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から仮定視点を原点とする視点座標系における二次曲面パラメータ(Qv)を求める二次曲面パラメータ(Qv)計算手段と、前記二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の仮定視点から見た点との対応を示すマッピング関数及びその逆関数を求めるマッピング関数及び逆関数計算手段と、前記複数プロジェクタ毎にマッピング関数及びその逆関数を格納する記憶装置とからなることを特徴とするものである。
上記課題を解決するため請求項13に係る複合映像発生装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項14に係るマッピング関数生成装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る変換行列計算手段と、前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から右目又は左目のいずれか一方の仮定視点を原点とする前記右目又は左目のいずれか一方の視点座標系及び右目又は左目のいずれか他方の仮定視点を原点とする前記右目又は左目のいずれか他方の視点座標系における二次曲面パラメータ(Qv)を求める二次曲面パラメータ(Qv)計算手段と、前記求めた右目及び左目の視点座標系における二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の右目及び左目の仮定視点から見た点との対応を示すマッピング関数及びその逆関数を求めるマッピング関数及び逆関数計算手段と、前記複数プロジェクタ毎に右目及び左目用のマッピング関数及びその逆関数を格納する記憶装置とからなることを特徴とするものである。
上記課題を解決するため請求項15に係る複合映像発生装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタ毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項14において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、各プロジェクタからピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項16に係る複合映像発生装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通して重複する部分を有するように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項17に係る複合映像発生装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、前記歪み補正した各映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタとからなることを特徴とするものである。
上記課題を解決するため請求項18に係る複合映像発生装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項14において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタからなることを特徴とするものである。
上記課題を解決するため請求項19に係る複合映像発生装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通にして重複する部分を有するように配置された複数nのプロジェクタと、ビデオ機器とを有し、前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタからなることを特徴とするものである。
上記課題を解決するため請求項20に係る複合映像発生装置は、請求項17又は請求項18又は請求項19記載のものにおいて、ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とするものである。
上記課題を解決するため請求項21に係る複合映像発生装置は、請求項9又は請求項11又は請求項12又は請求項17又は請求項18又は請求項19又は請求項20に記載のものにおいて、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラとを有し、プロジェクタの何れからも投影しない第1の状態のスクリーンを撮影するとともに前記各プロジェクタより黒状態を投影したスクリーンの第2の状態をプロジェクタ毎に撮影するカメラと、前記カメラが撮影した前記第2の状態を投影した各プロジェクタ毎の映像の輝度から、前記第1の状態を撮影した映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得るオフセット計算手段と、前記各コンピュータにより各プロジェクタ毎の映像の前記重複する部分のコントラストを前記オフセット値分下げるとともに輝度をオフセット値分上げて映像生成する映像生成手段とからなることを特徴とするものである。
上記課題を解決するため請求項22に係る複合映像発生装置は、二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタと、前記各プロジェクタ前方に設け、夜間情景を表すときに各プロジェクタからの光量を減光させる偏光板とからなることを特徴とするものである。
複合映像発生装置。
上記課題を解決するため請求項23に係る複合映像発生装置は、請求項12又は請求項14に記載のものにおいて、各プロジェクタが自由度を持ったフレキシブルアームにより基台に取り付けられたことを特徴とするものである。
上記課題を解決するため請求項24に係る複合映像発生装置は、請求項13又は請求項15〜22のいずれかに記載のものにおいて、各プロジェクタが自由度を持ったフレキシブルアームにより基台に取り付けられたことを特徴とするものである。
請求項1に係るマッピング関数生成方法によると、二次曲面であるとの想定を利用することにより基準点としての中心での曲面の形を決めることができ、これにより、仮定視点を原点とする視点座標系における二次曲面パラメータ(Qv)を、数学的に求めることができ、距離の計算を伴わないので精度を向上させることができ、また、特殊な装置を使わず安価に実現することができる。
請求項2に係る複合映像発生方法によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる映像をレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項3に係るマッピング関数生成方法によると、二次曲面であるとの想定を利用することにより基準点としての中心での曲面の形を決めることができ、これにより、仮定視点を原点とする視点座標系における右目用と左目用の二次曲面パラメータ(Qv)を、数学的に求めることができ、距離の計算を伴わないので精度を向上させることができ、また、特殊な装置を使わず安価に実現することができる。
請求項4に係る複合映像発生方法によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる領域の映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項5に係る複合映像発生方法によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項6に係る複合映像生成方法によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像をレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項7に係る複合映像生成方法によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項8に係る複合映像生成方法によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項9に係る複合映像生成方法によると、ビデオ機器としてテレビジョン装置、ビデオ再生装置、パーソナルコンピュータ等の家庭用の機器を用いて、簡単に実現することができる。
請求項10に係る複合映像生成方法によると、黒を出した状態でのプロジェクタ投影領域の重複部分における輝度の目立ちを軽減することができ、特別なブレンディング用装置を必要とすることなく、例えばグラフィックスボードの機能を用いて実現することができる。
請求項11に係る複合映像発生方法によると、段階的に減光することができるため最適な減光率に調整が行うことができるので各プロジェクタによる投影領域の重複部分がより目立たなくすることが可能となる。
請求項12に係るマッピング関数生成装置によると、二次曲面であるとの想定を利用することにより基準点としての中心での曲面の形を決めることができ、これにより、仮定視点を原点とする視点座標系における二次曲面パラメータ(Qv)を、数学的に求めることができ、距離の計算を伴わないので精度を向上させることができ、また、特殊な装置を使わず安価に実現することができる。
請求項13に係る複合映像発生装置によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる映像をレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項14に係るマッピング関数生成装置によると、二次曲面であるとの想定を利用することにより基準点としての中心での曲面の形を決めることができ、これにより、仮定視点を原点とする視点座標系における右目用と左目用の二次曲面パラメータ(Qv)を、数学的に求めることができ、距離の計算を伴わないので精度を向上させることができ、また、特殊な装置を使わず安価に実現することができる。
請求項15に係る複合映像発生装置によると、1つの二次曲面スクリーンに投影する映像を複数のプロジェクタとそれらに備えたコンピュータにより生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、複数のプロジェクタに備えたコンピュータの処理は、それぞれ異なる領域の映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、従来のようにデータベース映像の解像度に依存せずに、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項16に係る複合映像発生装置によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項17に係る複合映像生成装置によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像をレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項18に係る複合映像生成装置によると、1つの二次曲面スクリーンに投影する映像をビデオ機器により生成し、投影するため、解像度を高くすることができ、映像の細かな部分を表示することができ、また、ビデオ機器の映像の処理は、分割したそれぞれプロジェクタ毎に異なる映像を右目用と左目用についてレンダリングすることで、レンダリングの負荷を軽減することができる。また、異なる投影領域の部分映像を高解像度でレンダリングすることができるため、スクリーンに投影される映像の解像度を向上させることができる。これにより、プロジェクタの数を増加させることでスクリーン上の映像の解像度を向上させることができる。
請求項19に係る複合映像生成装置によると、プロジェクタを数台使用し投影領域を重ね合わせることよって投影領域の明るさを向上させるため、高価なプロジェクタを使用せず必要な明るさを得ることができ、プロジェクタの台数の変更により投影領域の明るさを調整することができ、プロジェクタの重ね合わせと歪み補正を組み合わせることにより、決まった位置の明るさを向上させることができる。
請求項20に係る複合映像生成装置によると、ビデオ機器としてテレビジョン装置、ビデオ再生装置、パーソナルコンピュータ等の家庭用の機器を用いて、簡単に実現することができる。
請求項21に係る複合映像生成装置によると、黒を出した状態でのプロジェクタ投影領域の重複部分における輝度の目立ちを軽減することができ、特別なブレンディング用装置を必要とすることなく、例えばグラフィックスボードの機能を用いて実現することができる。
請求項22に係る複合映像発生装置によると、段階的に減光することができるため最適な減光率に調整が行うことができるので各プロジェクタによる投影領域の重複部分がより目立たなくすることが可能となる。
請求項23に係るマッピング関数生成装置によると、スクリーンとプロジェクタを取り付ける基台との位置関係を厳密に設定しなくともフレキシブルアームにより調整幅が広範囲となるため、短時間で表示システムを構成することができる。
請求項24に係る複合映像生成装置によると、スクリーンとプロジェクタを取り付ける基台との位置関係を厳密に設定しなくともフレキシブルアームにより調整幅が広範囲となるため、短時間で表示システムを構成することができる。
([1]二次曲面スクリーンに係るマッピング関数、その逆関数及び映像発生)
以下、本発明の実施例について図を参照して説明する。図1(a)は二次曲面スクリーンに係るマッピング関数の生成方法の一実施例を説明するフロー図、及び図1(b)は二次曲面スクリーンに係る映像発生方法の一実施例を説明するフロー図である。図2(a),(b),(c)は二次曲面スクリーンに係る補正関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。図2において、101は二次曲面スクリーン、102j(j=1,2,3,…n)は前記スクリーン前方に設けられるプロジェクタ、103jは前記プロジェクタ102j毎に対応して備えられる複数のコンピュータである。1041,1042はデジタルカメラ、105は前記デジタルカメラ104を接続するコンピュータ、106はコンピュータ105内の変換行列計算手段、107はコンピュータ105内の二次曲面パラメータ(Qv)計算手段、108はコンピュータ105内の記憶装置、109jは各コンピュータ103j内のマッピング関数及び逆関数計算手段、110jは各コンピュータ103j内の記憶装置、111jは各コンピュータ103jに備えられる画像生成手段、112aj,112bjは各コンピュータ103jに備えられるピクセルバッファであり、当該コンピュータ103j、画像生成手段111jとともに映像生成手段を構成する。113は各コンピュータ103j,105を接続するネットワークである。114jは各コンピュータ103jのオフセット計算手段である。
(プロジェクタの配置取り付け)
二次曲面スクリーン101はその面が二次曲面例えば球面を形成し、周囲を円形に形成している。図3(a)のように二次曲面スクリーン101は基台301の上に支持枠302により固定される。基台301の左右の端に支持柱303,304が設けられ、支持柱303,304のそれぞれには2機づつのフレキシブルアーム3051,3052と3053,3054が取り付けられる。フレキシブルアーム3051,3052,3053,3054には、プロジェクタ1021,1022,1023,1024がそれぞれ取り付けられ、二次曲面スクリーン101の凹面に対向するように周囲前方に位置させる。図3(b)に例えばフレキシブルアーム3051とプロジェクタ1021の連結状態を示す。プロジェクタ1021,1022,1023,1024から二次曲面スクリーン101に光を投影すると、図3(c)のように二次曲面スクリーン101に正対して見た場合で説明すると、4つの投影光の領域が互いに重なる部分を有するようにし、中央部に光が当たらない部分が生じないように、フレキシブルアーム3051,3052,3053,3054を調整する。この時、各プロジェクタ1021,1022,1023,1024からの各投影領域(各領域を一点鎖線、二点鎖線、三点鎖線、四点鎖線で示している。)がスクリーンをカバーしていればよく、形状、面積を同じにする必要はない。
なお、実施例において、二次曲面スクリーン101を球面としたがこれに限らず双曲面、楕円面等で形成しても良く、また、表示面を凹面にしたが凸面でも良い。さらに、プロジェクタの数を4の場合を説明するが、数に制限なく本発明が適用できる。
(歪み補正の原理)
視点と視点と投影中心が一致する場合、映像歪みは生じない。しかし、一般的には視点と投影中心は一致しないため歪みが発生する。この歪みを補正するには、視点から見て歪みが無くなるように、予め、投影する原画像に対して逆の歪みをかけて投影すれば良い。
図4に逆歪みによる歪み補正の模式図を示す。図4では、プロジェクタの投影により発生する歪fを映像発生時f−1で逆歪をかけて投影するとf(f−1)で歪が相殺されることを示している。すなわち、プロジェクタ映像とスクリーン上の歪を関係付けるマッピング関数fを求める。その逆関数f−1はマッピング関数より求められる。図4では歪みを検出する段階において設置するカメラ位置及び方向が視点及び視線方向と同じであると想定している。
以下の手順により、マッピング関数を求める。
([1−1]スクリーン上の複数点の3D座標位置の計測)
いずれかの例えばプロジェクタ102jから光点を二次曲面スクリーン101に投影する。光点は、予め定められたテストパターンを構成する所定の座標点を示す。この光点をステレオカメラを構成するデジタルカメラ1041,1042で撮像することにより三次元位置Pを三角測量の原理から求める。iは点数を示す。このときステレオカメラは所定のキャリブレーション処理によりそれぞれのカメラのレンズの焦点距離や画素数の内部特性を示す内部パラメータ及び外部位置関係を示す外部パラメータが分かっていることを前提としている。左カメラ1041の内部及び外部パラメータを表すマトリクスをAc1、Mc1とする。同様に右カメラ1042の内部及び外部パラメータを表すマトリクスをAc2、Mc2とする。このとき、スクリーン上三次元位置Pと左カメラ画像上の光点の位置p c1、右カメラ画像上の光点の位置p c2との関係は
c1=Ac1c1
c2=Ac2c2 (1)
で表される。ここで、Mc1、Mc2
c1=[I|0]
c2=[Rc2|Tc2] (2)
である。
左カメラ1041の投影中心を座標の原点とするため、左カメラ1041の外部パラメータMc1は単位マトリクスIを用いて表される。また、右カメラ1042の投影中心は左カメラ1041の投影中心から回転Rc2、平行移動Tc2させた位置となるため、右カメラ1042の外部パラメータMc2はRc2、Tc2を用いて表すことができる。図5、図6において、左カメラ1041の投影中心(Center Of Projection)(以後COPと呼ぶ場合がある。)をCOPc1、右カメラ1042のCOPをCOPc2とする。また、各カメラのCOPと画像上の光点の位置を結んだ直線をlc1、lc2とするとスクリーン上の三次元位置Pはlc1、lc2を用いてこれらの交点に推定することができる。交点が見つからないときは、lc1、lc2の距離が最小となる共通法線を求め、その法線の中点をPとして決定する。また、プロジェクタ画像座標上の光点の位置をp pj、プロジェクタの内部パラメータを表すマトリクスをApjとすると、p pj、Apj、P、左カメラ1041のCOPを原点としたときのプロジェクタの回転マトリクスRpj、平行移動マトリクスTpjは以下の関係を持つ。
pj=Apj[Rpj|Tpj]P (3)
ここで、jはプロジェクタ数を表す。また、プロジェクタ画像座標上の位置p pjはテストパターンの点の位置であるため既知である。Apjは所定のキャリブレーション処理により得ているため既知である。よって、p pj,Apj,Pを用いてRpj,Tpjを求めることができる。Rpj,Tpjは対応関係を持つすべてのp pj,Pを用いて繰り返し計算を行ない、誤差が最小となるときの値を用いる。これらの計算は、カメラ1041,1042が接続されるコンピュータ105において行われ、これらの計算結果は記憶装置108に記憶される。
次に、以上の方法を用いて得られたプロジェクタの内部パラメータを利用して二次曲面の種類(球面、双曲面、楕円面等)と形状を表す情報である二次曲面パラメータQを求める。
([1−2]二次曲面パラメータQの計算)
マッピング関数f()を求めるためには二次曲面Qを求める必要がある。そこでまず、左カメラ1041のプロジェクションマトリクスをPc1、プロジェクタのプロジェクションマトリクスをP prjとして、これらのプロジェクションマトリクス、左カメラ画像上の光点の位置p c1、プロジェクタ画像座標上のテストパターンの一光点であるコーナー位置p pjを用いて、三次元位置Pを求める。求める方法としてはステレオカメラで三次元位置を求めた場合と同様の方法を用いる。計算は、カメラ1041,1042が接続されるコンピュータ105において行われる。ここで、Pc1、P prjは以下のように表される。
c1 =Ac1[I|0]
prj=Apj[Rpj|Tpj] (4)
求めた三次元位置Pが二次曲面Qの上にあるとき、
Figure 2006221599
であり、この関数をQの要素を並べたベクトル《V》を用いて変形すれば、
Figure 2006221599
(ここで、例えば《h′》はベクトルh′を示す表記である。なお、この明細書、図面においてベクトル表記を、《 》を用いた場合と、矢印を上部に付した場合と白抜き又は肉太の場合とで併用して表す場合がある。)
N点(N≧9)用いれば、以下の連立方程式が成立する。
X《V》 = 《0》
但し XはN行10列のマトリクスである。
この連立方程式を解けば、《V》、即ちQが求まる。
([1−3]マッピング関数f()の導出の原理)
二次曲面例えばスクリーン上の1点
Figure 2006221599
を、異なる視点即ちプロジェクタ102j及びカメラ1041又は1042から見たときの像p及びp′の関係を示すマッピング関数fを求める。以下、図7をもとに説明する。すなわち、カメラの位置及び方向が視点及び視線方向と同じである場合を考える。
今、射影空間Pにおける点を
Figure 2006221599
、射影空間pにおける対応する点を
Figure 2006221599
とすれば、
Figure 2006221599
の対応がある。但し、式中のtは転置を示す。
また、Pの点
Figure 2006221599
をプロジェクタの座標系Ψから見たpの点を
Figure 2006221599
、カメラ座標系Ψ′から見た点を
Figure 2006221599
とすれば、
Figure 2006221599
ここで、
Figure 2006221599
はΨ′におけるエピポールであり、Hはホモグラフィー行列である。
今、
Figure 2006221599
が二次曲面上にあるとの制約を課すと、
Figure 2006221599
より
Figure 2006221599
これを展開して、次のλに関する二次方程式を得る。(λは図7の
Figure 2006221599

Figure 2006221599
との関係を示す倍率
Figure 2006221599
、Q33は二次曲面規定マトリクスQの上から3×3部を抜き出したもので回転を示す。また、《q》は平行移動量、
である。)
Figure 2006221599
44=1として良いので、これを解き、λを求めると、
Figure 2006221599
式(8)に、このλを代入して整理すれば、
Figure 2006221599
となる。
右辺は
Figure 2006221599
でまとめられ、次式を得る。
Figure 2006221599
Figure 2006221599
と置けば次式となる。
Figure 2006221599
これが、カメラ設置位置と視点が一致する場合における、スクリーン101に投影された点
Figure 2006221599
をプロジェクタ座標Ψから見た点
Figure 2006221599
と、カメラ座標系Ψ′から見た点
Figure 2006221599
の対応を示すマッピング関数
Figure 2006221599
である。
([1−4]対角化仮想カメラ法によるマッピング関数)
([1−4−1]原理)
カメラ設置位置と視点が一致しない場合でも、スクリーンの形状情報を用いて、視点にカメラを仮想的に移してキャリブレーションが行えることを説明する。
訓練装置等の精度を要求される表示システムにおいては、視点位置は基準点からの変位により規定されるのが普通である。例えば、ドームスクリーンの場合ドーム中心を通る基線の後方1mなどと基準点からの変位で規定される。図8に、基準点801、カメラ802の設置位置及び姿勢、並びに803で参照される視点及び視線方向すなわち仮想カメラの位置及び姿勢の関係を示す。設置位置・姿勢が不確かなカメラから、指定された視点位置・姿勢に直接移す回転・平行移動量を求めると考えず、一旦基準点に正確に移し、この点からの変位を用いて最終的に指定された視点位置・姿勢に移動すると二段階で考える。この考えに立てば、スクリーンが二次曲面の場合、一般的に基準点はスクリーンの中心であるので、カメラを任意の位置・姿勢から基準点の位置・姿勢へ移動することは、二次曲面規定行列の対角化に対応する。この対応を用いればカメラの姿勢位置を実際に計測することなく、曖昧な位置姿勢から基準点への移動量が正確に求まり、最終的に指定された視点の位置姿勢へ移動できる。これは、カメラを仮想的に指定の視点位置姿勢に配置してキャリブレーションを行ったことに対応する。
([1−4−2]対角化による中心への移動)
カメラ座標系で求めた二次曲面の種類と形状を表す情報である二次曲面パラメータをQ、視点を原点とする視点座標系における二次曲面パラメータをQとする。両者の関係は、Hを視点座標系からカメラ座標系への変換(移動、回転)行列として次式で与えられる。
= HQH (16)
二次曲面パラメータQは、前記([1−2]二次曲面パラメータQの計算)により説明した方法で得られる。
カメラ座標系から二次曲面の中心を原点とする基準座標系への変換行列をSとし、基準座標系から視点座標系への変換行列をMとする二段階の変換を考えれば、Hは次式で表される。
H = MS (17)
Sは、式(18)のようにQを対角化する。
Figure 2006221599
このSは式(19)のように分解することができる。
Figure 2006221599
ここで、R33は式(20)に示すQ33を対角化する回転行列であり、Q33及びqは式(20)で示されたQの成分である。また、ΛはQ33を対角化した行列、すなわちR33 −13333である。この回転行列R33によりQ33が対角化されることは数学的に保証されている。
Figure 2006221599
式(17)の導出を説明する。
座標変換によるQの対角化SQSを、Qを対角化する相似変換S−1QSと捉えて直接的にSを求められない。なぜならば、Sは回転行列Rと平行移動行列Tの積からなるがTによりSが正規直交行列とならないからである。
しかしSの3行3列の回転成分R22は正規直交行列となるため座標変換による対角化問題を相似変換の問題へおきかえることが可能である。すなわち、座標変換によるQ33の対角化R−1 333333=Λは相似変換の問題に帰着できる。これにより、未知のR33がQ33の固有ベクトルを並べたものとして決まり、
Figure 2006221599
となる。展開すると
Figure 2006221599
ここで対角行列Dは、
Figure 2006221599
の関係から次の連立する方程式ができる。
Figure 2006221599
上の2式より、
Figure 2006221599
33及びTを用いてSを求めれば、
Figure 2006221599
Mは設計時に指定される既知の変換行列であるのでHが決まり、これによりQvが求まり、最終的にマッピング関数f()が式(15)から計算できる。発明者はこの方法を「対角化仮想カメラ法」と呼ぶ。
すなわち、Mは設計時に指定される既知の変換行列であるので、変換行列計算手段106の計算によりHが決まり(図1(a)のステップP101)、これにより二次曲面パラメータ(Qv)計算手段107の計算においてQvが求まる(図1(a)のステップP102)。これらの結果はテーブルとして記憶装置108に格納しておく。各コンピュータ103jのマッピング関数及び逆関数計算手段109jにおいてマッピング関数f()が式(15)から計算できる(図1(a)のステップP103)。マッピング関数及び逆関数計算手段109jでは、マッピング関数f()からその逆関数を求める(図1(a)のステップP104)。ステップP101からステップP102、ステップP103、ステップP104をプロジェクタ102jの複数n回(実施例ではn=4)繰り返した後、前記ステップP104で求めた逆関数を各コンピュータ103jの記憶装置110jに格納する(図1(a)のステップP105)。これら一連の処理に得られるマッピング関数及び逆関数を適当な数の仮想視点について、予め求めてテーブルとして保持しておく。
([2]並列処理による負荷分散)
スクリーンの円周は、正対した位置から俯瞰しない限り、楕円となる。前記の「[1−4−2]対角化による中心への移動」において説明した対角化により仮想した視点位置をスクリーンに正対することが可能となるため、円に概説する矩形を計算により直接求めることができ、オーバーラップを許した視野分割ができる。
([2−1]矩形を用いた視野角の分割
図9(a)にスクリーンの縁を表す円に外接する矩形とそれを用いた視野の分割とオーバーラップの関係を示す。また、図9(b)に視野角の分割法を示す。以下では、図中の投影可能領域内に各分割が含まれるとして説明する。
([2−2]複合するための変換行列)
以下では、視野の4分割(4並列)を例に変換行列の計算を示す。しかし、ここでの議論は、4分割以外でも一般性を失うことはない。プロジェクタ102jのプロジェクタ座標から仮想のカメラ座標(図9(a)に示す4分割した領域)へのマッピング関数f()は以下のようにして求める。
(1)スクリーンの半径rを求め、これを用いて図9(a)に示すWrct及びHrctを計算する。
(2)円に外接する矩形領域を重複部Hover,Woverを持つように4等分、外接矩形表示領域から、4等分された該当領域への変換行列H rctを計算する。
(3)H rctを用いて当該プロジェクタ102jに対応して備えられるコンピュータ103jのマッピング関数及び逆関数計算手段109jにおいてマッピング関数f()を計算する。
以下、順に説明する。
([2−2−1]円の半径)
前記した式(15)の平方根の中の
Figure 2006221599
を用いた
Figure 2006221599
はカメラ座標でのスクリーンの縁を表す楕円を示す式である。従って、カメラ座標系における二次曲面行列Qを、視点座標系に変換したQを用いて計算し直したEに対応するEを用いた以下の式
Figure 2006221599
は、スクリーンに正対する視点座標系でのスクリーンの縁に対応する円を示す式となる。
また、Evで規定される円と任意の点
Figure 2006221599
の距離dは、
Figure 2006221599
の関係がある。
ここで、
Figure 2006221599
として展開すれば、
11 +2e12
+2e13+2e23
+e22 +e33
=d (28)
この距離dが最大となる点が、円の中心であり、また、このときの距離が半径となる。dを最大とする点
Figure 2006221599
は次の関係を満足する。
Figure 2006221599
上式で示した連立方程式を解けば、
Figure 2006221599
この座標点は、円の中心であるので、(x,y)と表記する。この中心点(x,y)を用いれば、半径rは、
r=√(e11 +2e12+2e13
+2e23+e22 +e33) (31)
となる。
([2−2−2]視野の分割)
図9(a)のように横方向の投影映像の重なりの幅をWover、縦方向の重なり幅をHoverとすれば、分割した視野の大きさWrct及びHrctは次式となる。
Figure 2006221599
これを用いて、図9(a)に示す原点をOとする座標系から原点をOとする各視野の座標系への変換行列は、以下となる。
Figure 2006221599
各視野は、各プロジェクタ102j毎の映像が投影される領域を決める。
([2−2−3]マッピング関数f())
式(15)にHjrctを操作した以下の式が上記のように視野角を分割した場合のプロジェクタ102jに関する新たなマッピング関数f()である。
Figure 2006221599
([2−3]輝度調整)
投影領域の重複部分は輝度が高くなるため投影する映像の輝度を補正する必要がある。この輝度補正は、スクリーン上で重複する各プロジェクタの画素位置に重み係数を予めテーブルとして保持しておき、歪み補正時に画素値と対応する重み係数の乗算により行われる。重みの決定方法を図10に示す。図10のプログラムは疑似言語で記述したものである。
ここで、(p,q)はカメラ座標系における画素位置、i,jは(1…4)のプロジェクタ番号、Hはプロジェクタの横方向の画素数、Wは縦方向の画素数、α(p,q)はプロジェクタiの画素位置(p,q)における重み係数をそれぞれ表す。プロジェクタiとプロジェクタjの重なり部分を判定してその部分の重みを重複幅に反比例して与えている。
([3]プロジェクタの漏れ光によるブラックオフセットの軽減)
([3−1]ブラックオフセットの軽減の必要性)
複数のプロジェクタを用いて高解像度の映像を生成しようとする場合、各プロジェクタの投影領域に重複部分が生じる。重複部分は各プロジェクタの輝度が加算され、重複しない部分よりも明るくなる。プロジェクタが完全な黒を表示できれば問題ないが、投影する映像が黒であっても、プロジェクタの漏れ光により投影される領域は完全に黒にはならない(図11(a)参照)。また、重複領域はそれぞれのプロジェクタの漏れ光が重なるためさらに明るくなる。つまり、プロジェクタの漏れ光によりブラックオフセットが生じ、黒を出した状態でも重複部分が目立つことになる。
([3−2]ブラックオフセットの軽減)
プロジェクタの漏れ光によるブラックオフセット部分はプロジェクタに依存しており調整することはできない。調整できるのは投影する映像の色のみである。単純な色のかさ上げでは色の値が1.0以上になった場合(色の値を0.0〜1.0に正規化してある。)にその色が1.0に補正されてしまい元の映像の色と異なってしまう。そこで元の映像のコントラストを下げ、色を保持しながらかさ上げをすることで色の変化が生じないようにする(図11(b)参照)。実現方法としては、Cg(C for Graphics by nVidia)言語を用いてグラフィックスボードが持つfragment shader機能を活用し、撮影する映像の色を補正することで重複部分の輝度の目立ち(図11(c)、図11(d)参照)を軽減させる。
Cgで用いた色の補正式は以下の式(35)の通りである。この式を用いることでブラックレベルを調整し、重複部分のブレンディングを行うαブレンド機能を利用することができる(図11(e)参照)。そして、ブラックオフセットによる輝度のズレを軽減することができる。
C_new
=K*C_org+C_offset (35)
但し、
C_new:補正された色(The corrected color)
K:コントラストを下げる係数(The coefficient for reducing the contrast)
C_org:画像のオリジナルの輝度(The original color of image)
C_offset:輝度のオフセット(The offset of color)
([3−3]KおよびC_offsetの計算方法)
カメラ画像の輝度から決定する。
1.プロジェクタ1021〜1024から何も投影しない状態をカメラ1041で撮像する。(Background Imageとして使用する。)その画像をImg_bkgrndとする(図12のステップP1201)。
2.各プロジェクタ1021〜1024から黒を出した状態をカメラ1041で撮影する(図12のステップP1202)。その画像をImg_blkofst_nとする。nはプロジェクタの番号とする。画像から得られる輝度をIとすると、オフセット計算部114jにおいて以下の計算をする。
Figure 2006221599
Figure 2006221599
Figure 2006221599
(図12のステップP1203)
なお、式(36)の分母のWimg,Himgはそれぞれカメラでスクリーン101を撮像したときのスクリーン101の周囲にある矩形の幅、高さである(図9(a)参照)。式(38)の分母の256は例えばカメラが持つ輝度値を8bitで持つとした場合の2=256である。
Figure 2006221599
これらにより式(35)を得て、補正した色を得る(図12のステップP1204)。
([3]映像発生)
従来、映像のレンダリングを行う場合に、一般的にはグラフィックスボードが持つフレームバッファ(メモリ領域)に映像を書き込み、そのバッファをディスプレイやプロジェクタなどを経由して表示するものであった。
プロジェクションクラスタ(複数のプロジェクタの投影領域のそれぞれの全体によりスクリーンをカバーするようにしたもの)では、映像の歪みを補正する際にバッファに保持されている映像データに対しサンプリング(映像の参照)を行い参照したデータを元に映像を再度作成することで歪みを補正する。このバッファが大きければ大きいほど映像を高精細に描画することができる。このバッファがフレームバッファの場合、フレームバッファはディスプレイやプロジェクタとの解像度に依存するため、ディスプレイやプロジェクタの解像度以上にバッファを大きくすることはできない。よって、高解像度化をディスプレイやプロジェクタの機能以上にすることが難しい。
本発明において、映像データを格納する際に、フレームバッファの代わりにピクセルバッファを使用する。直接ピクセルバッファへ格納しオフスクリーンレンダリングを行うことで、ディスプレイやプロジェクタの解像度の制限を受けない。ピクセルバッファのサイズは2のべき乗という制限はあるが任意に設定可能である。実際には、グラフィックスカードの機能にも依存するためピクセルバッファのサイズにも限界は存在するが、フレームバッファよりも大きなサイズのバッファを確保することができる。
ピクセルバッファのサイズは任意に決定され、ディスプレイの解像度以上の映像をバッファに格納する。ここではバッファサイズを2048×2048とする。
ピクセルバッファを使用する場合、直接バッファにレンダリングすることができるためフレームバッファを使用する必要がない。また、OpenGLの拡張命令を使用することで、ピクセルバッファに格納されたデータを直接テクスチャとして扱うことができる。
図2のピクセルバッファ112a,112bは、Quadric Transfer(QT)を用いてデータのサンプリングを行う。QTはカメラ画像座標からプロジェクタ画像座標への変換を表し、その逆変換(QT_inv)はプロジェクタ画像座標からカメラ画像座標への変換を表す。プロジェクションクラスタではQT_invを用いてデータのサンプリングを行う。
サンプリング方法としては、プロジェクタ画像座標の(0,0)から順に(1024,768)までの座標を走査し、その位置がカメラ画像座標ではどの位置に対応するかを求める。また、カメラをOpenGL上の視点と考えると、テクスチャメモリの格納した映像をカメラから見た映像とみなすことができる。この関係(ここでは変換マトリクス
Figure 2006221599
とする)を利用し、プロジェクタ画像座標のある位置がテクスチャ座標のどの位置に対応するかを求めることができ、そのテクスチャ座標の位置の色をサンプリングして色情報として保持する(図14参照)。
サンプリング結果を元に歪み補正を施した映像を作成し、プロジェクタから投影する。投影された映像はスクリーン上で正しく映像として表示される。
図2の各プロジェクタ103j毎に備えられたコンピュータ103jの画像生成手段111jにより生成された画像を、ピクセルバッファ112jaにレンダリングし、この画像を当該プロジェクタ103jについて求めたマッピングの逆関数f−1()により、歪み補正した映像をピクセルバッファ112jbに生成する(図1(b)のステップS101)。この歪み補正した映像を各プロジェクタ103jから二次曲面スクリーン101に投影する(図1(b)のステップS102)。
前述の([2−3]輝度調整)においては投影領域の重複部分の広さを図9(a)のように重ならない部分よりも比較的小さく設定してあるが、図13(a)のように例えば2台のプロジェクタ1301、1302による投影領域1303,1304の重複部分を大きくして、複合映像発生し、重ね合わせにより投影領域の明るさを向上することができる。このとき、スクリーンは上記のように二次曲面でも良いが、平面スクリーン1305であっても良い。
この2台のプロジェクタ使用の場合も、図2の2台のコンピュータ1021,1022により各プロジェクタ1021,1022毎の映像を生成するとともに各プロジェクタ1021,1022毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ112aに生成し(図13(b)のステップS1301)、各プロジェクタ1021,1022からピクセルバッファ112bにおいて歪み補正した映像を二次曲面スクリーン101に投影して前記共通して重複する部分の明るさを大きくする(図13(b)のステップS1302)。
前述の([3]プロジェクタの漏れ光によるブラックオフセットの軽減)において、プロジェクタが完全な黒を表示できれば問題ないが、投影する映像が黒であっても、プロジェクタの漏れ光により投影される領域は完全に黒にはならないことを説明した。これは、夜間の暗い情景の映像を投影している場合では人間の目がわずかな輝度差に対しても敏感に感じ取れる為、一層目立ちやすい傾向となる。
この場合、考えられる措置として、ソフト的に投影する元の映像の輝度を補正することで、ブラックオフセットによって生じる重複領域の輝度を下げ重複部分の目立ちを軽減させることができるが、これだけで夜間のシーンでは完全に重複部分を認識させないようにするのは困難である。
このため、元の映像の輝度の補正と合わせて偏光板を組み合わせて重複部分に対する減光率を段階的に調整することで、重複部分をより感じさせない映像を表示することが可能となる。
減光率を段階的に調整可能なフローを図15(a)に、その装置を図15(b)に示す。図15(b)において、1501はプロジェクタ、1502は偏光子、1503は検光子、1504は前記検光子1503を回転させるモータ、歯車、その他の機械部品、電気回路を含む回転手段である。1506は、検光子の周囲に設け前記回転手段1504の歯車とかみ合うように形成した歯車の歯である。
偏光子1502は、それ自身が位置するプロジェクタ1501の映像領域が図示しない他のプロジェクタとの映像領域との重複部分に対応した個所の範囲をカバーする(カバーするように斜線で示している。)。検光子1503の回転状態により、プロジェクタ1501からスクリーンへの投影光について重複部分のみの輝度を調整する。
Maluの法則により
I(θ)=I(0)cos2θ
ただし、I(θ):偏光子と検光子を通過した際の光の強度
I(0):偏光子を通過した際の光の強度
となるため検光子の角度を変えることで重複部分の輝度を調整することが可能となる。
図2の各コンピュータ103jにより各プロジェクタ102j毎の映像をピクセルバッファ112aに生成するとともに、各プロジェクタ102j毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ112bに生成する(P1501)。各プロジェクタ102jから前記ピクセルバッファ112bにおいて歪み補正した映像を二次曲面スクリーン101に投影する(P1502)。夜間情景を表すときに操作者は回転手段1504を操作し、検光子1503を回転させる。検光子1503の回転に応じて、プロジェクタ102jからの光を減光させる(P1503)。
重複部分の輝度を各プロジェクタ102j単体による輝度と同程度まで落とせば重複部分は目立たなくなる。
(ステレオ映像表示への応用)
上述した技術は、ステレオ映像表示においても実現することができる。図16(a)は二次曲面スクリーンに係るマッピング関数の生成方法の一実施例を説明するフロー図、及び図16(b)は二次曲面スクリーンに係る映像発生方法の一実施例を説明するフロー図である。図17は二次曲面スクリーンに係る補正関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。図17において、1601は二次曲面スクリーン、1602j(j=1,2,3,…n)は前記スクリーン前方に設けられるプロジェクタ、1603jは前記プロジェクタ1602j毎に対応して備えられる複数のコンピュータである。16041,16042はデジタルカメラ、1605は前記デジタルカメラ1604を接続するコンピュータ、1606はコンピュータ1605内の変換行列計算手段、1607はコンピュータ105内の二次曲面パラメータ(Qv)計算手段、1608はコンピュータ1605内の記憶装置、1609jは各コンピュータ1603j内のマッピング関数及び逆関数計算手段、1610jは各コンピュータ103j内の記憶装置、1611は各コンピュータ1603jに備えられる画像生成手段、1612a,1612bは各コンピュータ1603jに備えられるピクセルバッファである。1613は各コンピュータ103j,105を接続するネットワークである。1614は各コンピュータ1603jのオフセット計算手段である。
([1]ステレオ表示のための二次曲面スクリーンに係るマッピング関数、その逆関数)
ステレオ表示は、前述の実施例1において、1つの視点の代わりに、左右両目の視点についてマッピング関数及び逆マッピング関数を求めて、左右それぞれの目用の画像を発生するものである。
すなわち、ステレオ表示のための二次曲面スクリーンに係るマッピング関数、その逆関数は、以下のように得る。
基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、変換行列計算手段1606の計算により視点座標系からカメラ座標系への変換行列(H)を得る(図16(a)のステップP1601)。前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から右目又は左目のいずれか一方の仮定視点を原点とする前記右目又は左目のいずれか一方の視点座標系及び右目又は左目のいずれか他方の仮定視点を原点とする前記右目又は左目のいずれか他方の視点座標系における二次曲面パラメータ(Qv)を二次曲面パラメータ(Qv)計算手段1607の計算により求める(図16(a)のステップP1602)。これらの結果はテーブルとして記憶装置1608に格納しておく。マッピング関数及び逆関数計算手段1609jでは、前記求めた右目及び左目の視点座標系における二次曲面パラメータ(Qv)を用いて、前記スクリーン1601に投影された点をプロジェクタi座標系から見た点と、任意の右目及び左目の仮定視点から見た点との対応を示すマッピング関数を求める(図16(a)のステップP1603)。前記マッピング関数よりその逆関数を求める(図16(a)のステップP1604)。ステップP1601からステップP1604を前記複数プロジェクタのn回繰り返して、プロジェクタ毎に右目及び左目用のマッピング関数の逆関数を得て前記記憶装置1601jに格納する(図16(a)のステップP1605)。
([2]ステレオ映像発生)
また、ステレオ表示は以下のように行う。
各コンピュータ1603jの画像生成手段1611jにより各プロジェクタ1602j毎の右目用及び左目用の映像をピクセルバッファ1612jaに生成するとともに上記のように求めた各プロジェクタ1602j毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファ1612jbに生成する(図16(b)のステップS1601)。各プロジェクタ1602jから前記ピクセルバッファ1612bにおいて歪み補正した右目用及び左目用の映像を交互に前記二次曲面スクリーン1601に投影する(図16(b)のステップS1602)。
実施例2として説明した技術もステレオ表示に適用することができる。実施例3として説明した技術もステレオ表示に適用することができる。
図18(a)は実施例5を説明する機能ブロック図であり、1801はビデオ機器であり、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータ等を用いる。1802は歪み補正映像生成部、1803はビデオ機器1801の信号を歪み補正映像生成部1802での処理に適するように信号変換する変換器、1804は変換器1803からの出力信号を一時格納するメモリ、1805,1806,1807,1808はプロジェクタとスクリーンとの位置に応じて実施例1で説明したようにマッピング関数の逆関数により映像を歪み補正する歪み補正手段、1809,1810,1811,1812は歪み補正した映像を一時格納する補正後メモリ、1813,1814,1815,1816は補正した映像信号をプロジェクタに投影するに適した信号に変換する変換器、1817,1818,1819,1820はプロジェクタ、1821は二次曲面スクリーンである。
マッピング関数及びその逆関数は、実施例1で説明したように図示しないコンピュータにより求めておく。
メモリ1084はフレームメモリで構成する場合があるが、これである必要はなく、ラインメモリでもよい。また、メモリ1084は必須のものでなく、変換器1803から直接歪み補正手段1805〜1808に直接接続してもよい。補正後メモリ1809,1810,1811,1812は、フレームメモリで構成する場合があるが、これである必要はなく、ラインメモリでもよい。また、補正後メモリ1809,1810,1811,1812は必須のものでなく、歪み補正手段1805,1806,1807,1808のそれぞれは直接に変換器1813,1814,1815,1816に接続してもよい。
プロジェクタ1817,1818,1819,1820の数は任意の数nを用いることができ、この実施例では4台の例を図示した。
ビデオ機器1801からの映像(図18(b))は、変換器1803で処理に適するように変換され、メモリ1804に一時格納される。メモリ1804の映像は、プロジェクタ1817,1818,1819,1820のそれぞれに投影される範囲で分割されて、その範囲でそれぞれが歪み補正手段1805,1806,1807,1808に歪み補正され(図19のステップST1901)て、補正後メモリ1809,1810,1811,1812に一時格納される(図18(c))。映像信号は、変換器1813,1814,1815,1816で処理され、プロジェクタ1817,1818,1819,1820によりスクリーン1821に投影される(図19のステップST1902)。
変換器1813,1814,1815,1816において、実施例1の([2−3]輝度調整)において説明したように輝度調整により、各プロジェクタ1817,1818,1819,1820の互いに重複する投影領域の輝度を補正することができる。
図18において、図示しないコンピュータにより、実施例1の([3]プロジェクタの漏れ光によるブラックオフセットの軽減)において説明したようにオフセット調整がされている。
例えば、2台のプロジェクタの投影領域の重複部分を大きくして、上述の実施例2のようにして、共通して重複する部分の明るさを大きくすることができる。
ビデオ機器1801からの映像は、変換器1803で処理に適するように変換され、メモリ1804に一時格納される。メモリ1804の映像は、プロジェクタ1817,1818,1819,1820のそれぞれに投影される範囲で分割されて、その範囲でそれぞれが歪み補正手段1805,1806,1807,1808に歪み補正され(図20のステップST2001)て、補正後メモリ1809,1810,1811,1812に一時格納される。映像信号は、変換器1813,1814,1815,1816で処理され、プロジェクタ1817,1818,1819,1820によりスクリーン1821に投影して共通して重複する部分の明るさを大きくする(図20のステップST2002)。
各プロジェクタ1817,1818,1819,1820の前方に実施例3のような偏光子と検光子を配置して、プロジェクタからの光を減光して、プロジェクタの漏れ光を目立たなくすることができる。
偶数個のプロジェクタ1817,1818,1819,1820を右目用と左見用に区分して、実施例4を適用して、左右両目の視点についてマッピング関数及び逆マッピング関数を求めて、ビデオ機器1801からの映像に立体用の映像を用いてステレオ映像を実現することができる。
例えば、プロジェクタ1817,1819を右目用、プロジェクタ1818,1820を左目用とする。
ビデオ機器1801からの各プロジェクタ1817,1818,1819,1820の右目用及び左目用の映像が、各プロジェクタ1817,1818,1819,1820の右目用及び左目用のマッピングの逆関数により、歪み補正される(図21のステップST2101)。各プロジェクタ1817,1818,1819,1820から前記歪み補正された右目用及び左目用の映像が交互に前記二次曲面スクリーン1821に投影される(図21のステップST2102)。
マッピング関数の生成方法及び映像発生方法の一実施例を説明するフロー図である。 マッピング関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。 プロジェクタの配置取り付けを説明する図である。 逆歪みによる歪み補正の模式図である。 スクリーン上の点を説明する図である。 スクリーン上の点を説明する図である。 スクリーン上の点を異なる視点から見たときのイメージ平面における位置関係を説明する図である。 カメラ設置位置から基準点を経て視点位置への移動を説明する図である。 スクリーンの視野の分割と視野角を説明する図である。 重複部分の重さの決定方法を説明するプログラムである。 オフセットの軽減を説明する図である。 オフセットの軽減法を説明するフロー図である。 複合映像の重ね合わせによる明るさ向上を説明する図である。 ピクセルバッファによるサンプリングを説明する図である。 夜間情景の投影時の重複部分の輝度調整を説明する図である。 マッピング関数の生成方法及び映像発生方法の一実施例を説明するフロー図である。 マッピング関数の生成装置及び映像発生装置の一実施例を説明する機能ブロック図である。 映像発生装置の一実施例を説明する機能ブロック図及び歪み補正の説明である。 映像発生方法の一実施例を説明するフロー図である。 複合映像の重ね合わせによる明るさ向上を説明するフロー図である。 映像発生方法の一実施例を説明するフロー図である。
符号の説明
101…二次曲面スクリーン、102j(j=1,2,3,…n)…プロジェクタ、103j…コンピュータ、1041,1042…デジタルカメラ、105…コンピュータ、106…変換行列計算手段、107…二次曲面パラメータ(Qv)計算手段、108…記憶装置、109j…マッピング関数及び逆関数計算手段、110j…記憶装置、111…画像生成手段、112a,112b…ピクセルバッファ、113…ネットワーク。

Claims (24)

  1. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、
    コンピュータによる処理であって、
    基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る第1の過程と、
    前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から仮定視点を原点とする視点座標系における二次曲面パラメータ(Qv)を求める第2の過程と、
    前記二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の仮定視点から見た点との対応を示すマッピング関数を求める第3の過程と、
    前記マッピング関数よりその逆関数を求める第4の過程と、
    第1の過程から第4の過程を前記複数プロジェクタのn回繰り返して、プロジェクタ毎にマッピング関数の逆関数を得て前記記憶装置に格納する第5の過程と、
    からなることを特徴とするマッピング関数生成方法。
  2. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする複合映像発生方法。
  3. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、
    コンピュータによる処理であって、
    基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る第1の過程と、
    前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から右目又は左目のいずれか一方の仮定視点を原点とする前記右目又は左目のいずれか一方の視点座標系及び右目又は左目のいずれか他方の仮定視点を原点とする前記右目又は左目のいずれか他方の視点座標系における二次曲面パラメータ(Qv)を求める第2の過程と、
    前記求めた右目及び左目の視点座標系における二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の右目及び左目の仮定視点から見た点との対応を示すマッピング関数を求める第3の過程と、
    前記マッピング関数よりその逆関数を求める第4の過程と、
    第1の過程から第4の過程を前記複数プロジェクタのn回繰り返して、プロジェクタ毎に右目及び左目用のマッピング関数の逆関数を得て前記記憶装置に格納する第5の過程と、
    からなることを特徴とするマッピング関数生成方法。
  4. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタ毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項3において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする複合映像発生方法。
  5. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通して重複する部分を有するように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、
    前記コンピュータにより各プロジェクタが投影する領域毎の映像を生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とする複合映像発生方法。
  6. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、
    各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする複合映像発生方法。
  7. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項3において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、
    各プロジェクタから前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する第2の過程からなることを特徴とする複合映像発生方法。
  8. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通にして重複する部分を有するように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する第1の過程と、
    各プロジェクタから前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくする第2の過程からなることを特徴とする複合映像発生方法。
  9. ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とする請求項6又は請求項7又は請求項8記載の複合映像発生方法。
  10. 請求項2又は請求項4又は請求項5又は請求項6又は請求項7又は請求項8又は請求項9に記載の複合映像発生方法において、
    二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、コンピュータと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラとを有し、
    前記スクリーンに前記プロジェクタのいずれもから投影しない状態でカメラにより撮影する第1の過程と、
    前記各プロジェクタより前記スクリーンに黒状態の映像を投影してカメラにより撮影するとともに複数nのプロジェクタのn回繰り返す第2の過程と、
    コンピュータにおいて、第2の過程による各プロジェクタ毎の映像の輝度から第1の過程により得られた映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得る第3の過程と、
    コンピュータにおいて、各プロジェクタの映像の前記重複する部分のコントラストを前記オフセット値分下げるとともに輝度をオフセット値分上げて映像生成する第4の過程とからなることを特徴とする複合映像生成方法。
  11. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ前方に設けた偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項1において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する第1の過程と、
    各プロジェクタから前記ピクセルバッファにおいて歪み補正した映像を前記二次曲面スクリーンに投影する第2の過程と、
    夜間情景を表すときに前記偏光板により減光させる第3の過程からなることを特徴とする複合映像発生方法。
  12. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、
    基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る変換行列計算手段と、
    前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から仮定視点を原点とする視点座標系における二次曲面パラメータ(Qv)を求める二次曲面パラメータ(Qv)計算手段と、
    前記二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の仮定視点から見た点との対応を示すマッピング関数及びその逆関数を求めるマッピング関数及び逆関数計算手段と、
    前記複数プロジェクタ毎にマッピング関数及びその逆関数を格納する記憶装置と
    からなることを特徴とするマッピング関数生成装置。
  13. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とする複合映像発生装置。
  14. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラと、コンピュータと、記憶装置とを有し、
    基準座標系から視点座標系への変換行列(M)と、カメラ座標から基準座標系への変換行列(S)とにより、プロジェクタから二次曲面スクリーン上に投影したテストパターンの所定の点について、視点座標系からカメラ座標系への変換行列(H)を得る変換行列計算手段と、
    前記変換行列(H)を用いて、カメラ座標系で求めた二次曲面パラメータ(Q)から右目又は左目のいずれか一方の仮定視点を原点とする前記右目又は左目のいずれか一方の視点座標系及び右目又は左目のいずれか他方の仮定視点を原点とする前記右目又は左目のいずれか他方の視点座標系における二次曲面パラメータ(Qv)を求める二次曲面パラメータ(Qv)計算手段と、
    前記求めた右目及び左目の視点座標系における二次曲面パラメータ(Qv)を用いて、前記スクリーンに投影された点をプロジェクタi座標系から見た点と、任意の右目及び左目の仮定視点から見た点との対応を示すマッピング関数及びその逆関数を求めるマッピング関数及び逆関数計算手段と、
    前記複数プロジェクタ毎に右目及び左目用のマッピング関数及びその逆関数を格納する記憶装置とからなることを特徴とするマッピング関数生成装置。
  15. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタ毎の右目用及び左目用の映像をピクセルバッファに生成するとともに予め請求項14において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記ピクセルバッファにおいて歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nのプロジェクタとからなることを特徴とする複合映像発生装置。
  16. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通して重複する部分を有するように配置された複数nのプロジェクタと、コンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタとからなることを特徴とする複合映像発生装置。
  17. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、
    前記歪み補正した各映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタとからなることを特徴とする複合映像発生装置。
  18. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項14において求めた各プロジェクタ毎の右目用及び左目用のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、
    前記歪み補正した右目用及び左目用の映像を前記二次曲面スクリーンに投影する複数nの各プロジェクタからなることを特徴とする複合映像発生装置。
  19. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する領域を共通にして重複する部分を有するように配置された複数nのプロジェクタと、ビデオ機器とを有し、
    前記ビデオ機器からの映像を前記スクリーンへ前記複数nのプロジェクタに投影するように分割生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記分割生成した映像を歪み補正した映像を生成する映像生成手段と、
    前記歪み補正した映像を前記二次曲面スクリーンに投影して前記共通して重複する部分の明るさを大きくするように配置された複数nのプロジェクタからなることを特徴とする複合映像発生装置。
  20. ビデオ機器が、テレビジョン装置、ビデオ再生装置、パーソナルコンピュータであることを特徴とする請求項17又は請求項18又は請求項19記載の複合映像発生装置。
  21. 請求項9又は請求項11又は請求項12又は請求項17又は請求項18又は請求項19又は請求項20に記載の複合映像発生装置において、
    二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影するように配置された複数nのプロジェクタと、前記スクリーン前方に位置してスクリーンを撮影するように配置されたカメラとを有し、
    プロジェクタの何れからも投影しない第1の状態のスクリーンを撮影するとともに前記各プロジェクタより黒状態を投影したスクリーンの第2の状態をプロジェクタ毎に撮影するカメラと、
    前記カメラが撮影した前記第2の状態を投影した各プロジェクタ毎の映像の輝度から、前記第1の状態を撮影した映像の輝度との差により各プロジェクタによる画面の平均値と当該平均値の和により最大値を得るとともに最大値と平均値の差によりオフセット値を得るオフセット計算手段と、
    前記各コンピュータにより各プロジェクタ毎の映像の前記重複する部分のコントラストを前記オフセット値分下げるとともに輝度をオフセット値分上げて映像生成する映像生成手段とからなることを特徴とする複合映像生成装置。
  22. 二次曲面スクリーンと、前記スクリーン前方に位置して前記スクリーンに投影する各領域が重複する部分を有して連続になるように配置された複数nのプロジェクタと、偏光板と、前記各プロジェクタ毎に備えたコンピュータと、記憶装置とを有し、
    前記各コンピュータにより各プロジェクタが投影する領域毎の映像をピクセルバッファに生成するとともに予め請求項12において求めた各プロジェクタ毎のマッピングの逆関数により、前記生成した映像を歪み補正した映像をピクセルバッファに生成する映像生成手段と、
    前記各コンピュータのピクセルバッファからの歪み補正した各映像を前記二次曲面スクリーンに投影する複数nのプロジェクタと、
    前記各プロジェクタ前方に設け、夜間情景を表すときに各プロジェクタからの光量を減光させる偏光板とからなることを特徴とする複合映像発生装置。
  23. 各プロジェクタが自由度を持ったフレキシブルアームにより基台に取り付けられたことを特徴とする請求項12又は請求項14に記載のマッピング関数生成装置。
  24. 各プロジェクタが自由度を持ったフレキシブルアームにより基台に取り付けられたことを特徴とする請求項13又は請求項15〜22のいずれかに記載の複合映像生成装置。
JP2005089967A 2005-01-11 2005-03-25 マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置 Active JP4751084B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005089967A JP4751084B2 (ja) 2005-01-11 2005-03-25 マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2005004085 2005-01-11
JP2005004085 2005-01-11
JP2005089967A JP4751084B2 (ja) 2005-01-11 2005-03-25 マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置

Publications (2)

Publication Number Publication Date
JP2006221599A true JP2006221599A (ja) 2006-08-24
JP4751084B2 JP4751084B2 (ja) 2011-08-17

Family

ID=36983876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005089967A Active JP4751084B2 (ja) 2005-01-11 2005-03-25 マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置

Country Status (1)

Country Link
JP (1) JP4751084B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009005044A (ja) * 2007-06-21 2009-01-08 Mitsubishi Precision Co Ltd 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置
JP2013026824A (ja) * 2011-07-21 2013-02-04 Mitsubishi Precision Co Ltd 映像の歪みを補正する方法、映像の歪みを補正する装置、模擬視界表示装置及び操縦訓練のためのシミュレータ
US8791880B2 (en) 2008-11-17 2014-07-29 Nec Corporation System, method and program for specifying pixel position correspondence
KR101580056B1 (ko) * 2014-09-17 2015-12-28 국립대학법인 울산과학기술대학교 산학협력단 영상 왜곡 보정 장치 및 그 방법
JP2017161908A (ja) * 2010-11-15 2017-09-14 スケーラブル ディスプレイ テクノロジーズ インコーポレイテッド 手動及び半自動技術を用いたディスプレイシステムを較正するためのシステム及び方法
EP3706410A4 (en) * 2017-12-19 2020-09-09 Sony Corporation IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD, PROGRAM AND PROJECTION SYSTEM
CN114531579A (zh) * 2020-11-23 2022-05-24 华强方特(深圳)科技有限公司 一种环幕投影方法和***及设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000347128A (ja) * 1999-03-26 2000-12-15 Mr System Kenkyusho:Kk ヘッドマウントディスプレイ装置およびヘッドマウントディスプレイシステム
JP2002072359A (ja) * 2000-08-29 2002-03-12 Olympus Optical Co Ltd 画像投影表示装置
JP2004282712A (ja) * 2003-02-28 2004-10-07 Victor Co Of Japan Ltd 調整装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000347128A (ja) * 1999-03-26 2000-12-15 Mr System Kenkyusho:Kk ヘッドマウントディスプレイ装置およびヘッドマウントディスプレイシステム
JP2002072359A (ja) * 2000-08-29 2002-03-12 Olympus Optical Co Ltd 画像投影表示装置
JP2004282712A (ja) * 2003-02-28 2004-10-07 Victor Co Of Japan Ltd 調整装置

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009005044A (ja) * 2007-06-21 2009-01-08 Mitsubishi Precision Co Ltd 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置
US8791880B2 (en) 2008-11-17 2014-07-29 Nec Corporation System, method and program for specifying pixel position correspondence
JP2017161908A (ja) * 2010-11-15 2017-09-14 スケーラブル ディスプレイ テクノロジーズ インコーポレイテッド 手動及び半自動技術を用いたディスプレイシステムを較正するためのシステム及び方法
US10503059B2 (en) 2010-11-15 2019-12-10 Scalable Display Technologies, Inc. System and method for calibrating a display system using manual and semi-manual techniques
US11269244B2 (en) 2010-11-15 2022-03-08 Scalable Display Technologies, Inc. System and method for calibrating a display system using manual and semi-manual techniques
JP2013026824A (ja) * 2011-07-21 2013-02-04 Mitsubishi Precision Co Ltd 映像の歪みを補正する方法、映像の歪みを補正する装置、模擬視界表示装置及び操縦訓練のためのシミュレータ
KR101580056B1 (ko) * 2014-09-17 2015-12-28 국립대학법인 울산과학기술대학교 산학협력단 영상 왜곡 보정 장치 및 그 방법
EP3706410A4 (en) * 2017-12-19 2020-09-09 Sony Corporation IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD, PROGRAM AND PROJECTION SYSTEM
US11115632B2 (en) 2017-12-19 2021-09-07 Sony Corporation Image processing device, image processing method, program, and projection system
CN114531579A (zh) * 2020-11-23 2022-05-24 华强方特(深圳)科技有限公司 一种环幕投影方法和***及设备

Also Published As

Publication number Publication date
JP4751084B2 (ja) 2011-08-17

Similar Documents

Publication Publication Date Title
JP5236219B2 (ja) 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置
US6793350B1 (en) Projecting warped images onto curved surfaces
JP6569742B2 (ja) 投影システム、画像処理装置、投影方法およびプログラム
KR100653200B1 (ko) 기하 정보를 교정하여 파노라마 영상을 제공하는 방법 및장치
JP5224721B2 (ja) 映像投影システム
US8358873B2 (en) Hybrid system for multi-projector geometry calibration
US7133083B2 (en) Dynamic shadow removal from front projection displays
US9195121B2 (en) Markerless geometric registration of multiple projectors on extruded surfaces using an uncalibrated camera
US7006709B2 (en) System and method deghosting mosaics using multiperspective plane sweep
JP4751084B2 (ja) マッピング関数生成方法及びその装置並びに複合映像生成方法及びその装置
JP4425672B2 (ja) 画像を表示面上に表示する方法
JPWO2018235163A1 (ja) キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
US20040257540A1 (en) Single or multi-projector for arbitrary surfaces without calibration nor reconstruction
CN111192552B (zh) 一种多通道led球幕几何校正方法
JP2005500756A (ja) 自動位置合わせを用いるマルチプロジェクタモザイク
JP2004288181A (ja) 出力画像を表示面の形状に適応させる方法
JP2004289822A (ja) 表示面上の最大矩形を決定する方法
CN111866523B (zh) 全景视频合成方法、装置、电子设备和计算机存储介质
CN112734860A (zh) 一种基于弧形幕先验信息的逐像素映射投影几何校正方法
JP2002071315A (ja) 投影平面計測システム
JP2003091720A (ja) 視点変換装置および視点変換プログラムならびに車両用画像処理装置
US20020009699A1 (en) Data receiving device and image forming apparatus using same
TWI615808B (zh) 全景即時影像處理方法
TWI443604B (zh) 影像校正方法及影像校正裝置
JP2001016621A (ja) 多眼式データ入力装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110509

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110520

R150 Certificate of patent or registration of utility model

Ref document number: 4751084

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140527

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250