JP2019216344A - 全天周立体映像表示装置及びそのプログラム、全天周立体映像撮影装置、並びに、全天周立体映像システム - Google Patents

全天周立体映像表示装置及びそのプログラム、全天周立体映像撮影装置、並びに、全天周立体映像システム Download PDF

Info

Publication number
JP2019216344A
JP2019216344A JP2018112112A JP2018112112A JP2019216344A JP 2019216344 A JP2019216344 A JP 2019216344A JP 2018112112 A JP2018112112 A JP 2018112112A JP 2018112112 A JP2018112112 A JP 2018112112A JP 2019216344 A JP2019216344 A JP 2019216344A
Authority
JP
Japan
Prior art keywords
camera
sky
omnidirectional
vector
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018112112A
Other languages
English (en)
Inventor
今泉 浩幸
Hiroyuki Imaizumi
浩幸 今泉
裕之 川喜田
Hiroyuki Kawakita
裕之 川喜田
上原 道宏
Michihiro Uehara
道宏 上原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2018112112A priority Critical patent/JP2019216344A/ja
Publication of JP2019216344A publication Critical patent/JP2019216344A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】全天周の2眼立体映像を実写撮影して表示する。【解決手段】全天周立体映像表示装置5は、複数の対カメラ位置関係特定ベクトルを記憶するベクトル記憶手段51と、両目の位置情報が入力されるセンサ情報入力手段53と、カメラ選択判定ベクトルを生成するベクトル生成手段54と、カメラ選択判定ベクトルに最も近い方向の対カメラ位置関係特定ベクトルを選択するベクトル選択手段55と、対カメラ位置関係特定ベクトルの始点及び終点に対応する全天周映像を選択する全天周映像選択手段56と、プラネタリウム3に2眼立体映像を表示する表示制御手段57とを備える。【選択図】図3

Description

本発明は、全天周の2眼立体映像を撮影して表示する技術に関する。
人間の視覚において、右目の位置と左目の位置が異なることで生じる視差により、被写体までの遠近や立体感を知覚することが知られており、この視差が様々な立体映像システムに応用されている。従来の立体映像システムでは、この視差を持たせて右目カメラと左目カメラを配置し、それぞれのカメラで撮影した映像を人間の右目と左目に提示している。
ここで、平面に映像を表示するだけでなく、全天周映像を表示する手法が知られている。この手法では、視点追従型のヘッドマウントディスプレイ装置(非特許文献1)や、プラネタリウムなどの全天周映像表示手段が用いられる。
さらに、全天周映像を撮影する手法も知られている。この手法では、6個の超広角レンズを球状の本体に搭載し、360°のパノラマ映像を撮影する撮影装置が用いられる(非特許文献2)。
これらの手法を用いれば、全天周映像を撮影して表示することができる(以後、「従来技術」)。まず、この従来技術では、非特許文献3に記載されている位置センサやジャイロセンサを用いて、視聴者の姿勢を検出する。そして、この従来技術では、検出した姿勢に応じて、コンピュータグラフィックで生成した3Dオブジェクトをリアルタイムにレンダリングし、右目用全天周映像と左目用全天周映像を生成する。さらに、この従来技術では、生成した右目用全天周映像及び左目用全天周映像を全天周映像表示手段に表示する。
「Google Cardboard」、[online]、[平成30年4月20日検索]、インターネット〈URL:https://www.youtube.com/playlist?list=PLm6qoFmp6K50i01D358II_PZenFYTrcUZ> 「Insta360Pro」、[online]、[平成30年4月20日検索]、インターネット〈URL:https://www.insta360.com/product/insta360-pro/> 「FASTRAK」、[online]、[平成30年4月20日検索]、インターネット〈URL:https://polhemus.com/motion-tracking/all-trackers/fastrak>
しかし、従来技術では、隣接するカメラで撮影した映像から視差画像を得ることができるが、全天周映像を得るためには隣接カメラ映像の繋ぎ合わせ処理が必要であり、視差映像であるため、カメラからの距離が異なる被写体を撮影した場合、映像の繋ぎ合わせ処理が困難である。視差画像より距離情報を抽出し、3Dオブジェクト情報を算出すれば、前記した右目用全天周映像と左目用全天周映像の生成も可能であるが、距離情報の抽出誤りの問題や演算コストが大きく、リアルタイムの映像生成も困難である。これらの問題があるため、全天周の2眼立体映像を実写撮影して表示したいという強い要望がある。
そこで、本発明は、全天周の2眼立体映像を実写撮影して表示することを課題とする。
前記した課題に鑑みて、本発明に係る全天周立体映像表示装置は、所定の視点位置に配置された2台以上の全天周カメラが撮影した全天周映像を用いて、全天周で2眼立体映像を表示する全天周立体映像表示装置であって、検出位置入力手段と、ベクトル記憶手段と、ベクトル生成手段と、ベクトル選択手段と、全天周映像選択手段と、表示制御手段と、を備える構成とした。
かかる全天周立体映像表示装置によれば、検出位置入力手段は、人物の一方の目が基準目及び他方の目が参照目として予め設定され、頭部における基準目側及び参照目側の検出位置を検出する検出手段から、検出位置が入力される。
ベクトル記憶手段は、2台の全天周カメラで構成されるカメラ対の位置関係を示す対カメラ位置関係特定ベクトルとして、一方の全天周カメラの位置が始点で他方の全天周カメラの位置が終点となるベクトルと、他方の全天周カメラの位置が始点で一方の全天周カメラの位置が終点となるベクトルとを予め記憶する。
ベクトル生成手段は、基準目側と参照目側との検出位置の差分により、基準目から参照目の方向を表す選択用ベクトルを生成する。
ベクトル選択手段は、ベクトル記憶手段から、ベクトル生成手段が生成した選択用ベクトルに最も近い方向の対カメラ位置関係特定ベクトルを選択する。
全天周映像選択手段は、各全天周カメラが撮影した全天周映像から、ベクトル選択手段が選択した対カメラ位置関係特定ベクトルの始点にある全天周カメラの全天周映像を基準目側の全天周映像として選択し、当該対カメラ位置関係特定ベクトルの終点にある全天周カメラの全天周映像を参照目側の全天周映像として選択する。
表示制御手段は、2眼立体映像として、全天周映像選択手段が選択した基準目側及び参照目側の全天周映像を、全天周映像を表示する全天周映像表示手段に表示させる。
このように、全天周立体映像表示装置は、全天周立体映像撮影装置が実写撮影した全天周映像を用いて、全天周の2眼立体映像を表示することができる。
なお、この全天周立体映像表示装置は、一般的なコンピュータを前記した各手段として協調動作させるプログラムで実現することもできる。
また、前記した課題に鑑みて、本発明に係る全天周立体映像撮影装置は、本発明に係る全天周立体映像表示装置で用いる全天周映像を撮影する全天周立体映像撮影装置であって、所定の視点位置に配置された2台以上の全天周カメラを備える構成とした。
かかる全天周立体映像表示装置によれば、2台以上の全天周カメラを用いて、全天周の2眼立体映像を実写撮影することができる。
また、前記した課題に鑑みて、本発明に係る全天周立体映像システムは、本発明に係る全天周立体映像撮影装置と、本発明に係る全天周立体映像表示装置と、全天周立体映像表示装置が出力する2眼式立体映像を表示する全天周映像表示手段と、2眼式立体映像を視聴する人物の頭部における基準目側及び参照目側の検出位置を検出する検出手段と、を備える構成とした。
かかる全天周立体映像システムによれば、全天周立体映像撮影装置が実写撮影した全天周映像を用いて、全天周立体映像表示装置が全天周の2眼立体映像を表示することができる。
本発明によれば、以下のような優れた効果を奏する。
本発明によれば、全天周の2眼立体映像を実写撮影して表示することができる。
第1実施形態に係る全天周立体映像システムの全体構成図である。 第1実施形態において、全天周カメラの配置、及び、対カメラ位置関係特定ベクトルを説明する説明図である。 第1実施形態に係る全天周立体映像表示装置の構成を示すブロック図である。 第1実施形態において、右目用全天周映像及び左目用全天周映像の選択を説明する説明図である。 第1実施形態において、カメラ選択判定ベクトルの方向と対カメラ位置関係特定ベクトルの関係を説明する説明図である。 第1実施形態において、全天周カメラが撮影した全天周映像のフレーム周波数を説明する説明図である。 第1実施形態において、(a)は表示制御手段による全天周映像の時分割表示を説明する説明図であり、(b)及び(c)はシャッタの開閉の制御を説明する説明図である。 図3の全天周立体映像表示装置の動作を示すフローチャートである。 第2実施形態に係る全天周立体映像システムの全体構成図である。 第2実施形態に係る全天周立体映像表示装置の構成を示すブロック図である。 第3実施形態において、対カメラ位置関係特定ベクトルの切り換えを説明する説明図である。 第3実施形態において、チャタリングの抑制を説明する説明図である。 変形例1において、全天周カメラの配置、及び、対カメラ位置関係特定ベクトルを説明する説明図である。 変形例2において、全天周カメラの配置、及び、対カメラ位置関係特定ベクトルを説明する説明図である。 変形例3において、全天周カメラの配置を説明する説明図である。 変形例4において、全天周映像の撮影を説明する説明図である。 変形例4において、全天周カメラが撮影した全天周映像のフレーム周波数を説明する説明図である。
以下、本発明の各実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の手段には同一の符号を付し、説明を省略した。
(第1実施形態)
[全天周立体映像システムの概略]
図1を参照し、第1実施形態に係る全天周立体映像システム1の概略について説明する。
全天周立体映像システム1は、プラネタリウム(全天周映像表示手段)3に全天周の2眼立体映像を表示するものである。図1に示すように、全天周立体映像システム1は、全天周立体映像撮影装置2と、プラネタリウム3と、立体メガネ4と、全天周立体映像表示装置5とを備える。
全天周立体映像撮影装置2は、プラネタリウム3に表示する全天周の2眼立体映像を実写撮影するものであり、所定の視点位置に配置された全天周カメラCで構成されている。ここで、全天周立体映像撮影装置2は、2台以上の全天周カメラCを備えればよい。例えば、図2に示すように、全天周立体映像撮影装置2では、水平面上において、3台の全天周カメラC(C1〜C3)が円周上に等間隔で配置されており、3台同時に全天周映像を撮影する。つまり、全天周カメラC1〜C3は、カメラ原点である原点Oを中心とする円Rに120度の間隔で配置されている。
なお、視点位置とは、各視聴者(人物)が2眼立体映像を視聴する位置を表しており、各視聴者9の右目又は左目の位置に対応するものである。
また、視聴という用語を用いているが、全天周立体映像システム1では音声の有無を問わない。
全天周カメラCは、全天周映像を撮影する一般的な360度VR(Virtual Reality)カメラである(例えば、参考文献1)。全天周カメラCは、各視点位置で撮影した全天周映像を全天周立体映像表示装置5に出力する。また、全天周カメラCには、固有のカメラIDが予め割り当てられている。つまり、カメラIDを参照すれば、全天周映像を撮影した全天周カメラCを特定できる。
全天周カメラCは、支持脚21を介して、環状フレーム20に固定されている。この環状フレーム20は、3台の全天周カメラC1〜C3を円周上に等間隔で保持する部材である。
参考文献1:「THETA」、[online]、[平成30年4月20日検索]、インターネット〈URL:https://theta360.com/ja/>
プラネタリウム3は、全天周映像を表示する一般的な全天周映像投影装置であり、ドーム型スクリーン31と、投影装置32とを備える。
ドーム型スクリーン31は、投影装置32が全天周映像を投影する半球状のスクリーンである。例えば、ドーム型スクリーン31は、三角形状の白色アルミパネルを組み合わせて、半球面状に構成されたものである。
投影装置32は、後記する全天周立体映像表示装置5からの全天周映像をドーム型スクリーン31に投影する一般的なプロジェクタである。例えば、投影装置32は、全天周に映像を投影できるように複数の投射レンズを有する。
ここで、全天周立体映像システム1では、2眼立体映像を視聴するため、視聴者9が立体メガネ4を装着している。本実施形態では、時分割方式で2眼立体映像を表示するため、立体メガネ4が液晶シャッタメガネとなる。例えば、立体メガネ4は、リム42に保持されたシャッタ40と、テンプル43の中央部に埋め込まれたセンサ(検出手段)41とを備える。また、立体メガネ4は、Bluetooth(登録商標)等の無線通信を用いて、全天周立体映像表示装置5との間で各種情報を送受信する。
なお、図1では、立体メガネ4のテンプル43に埋め込まれたセンサ41を破線で図示した。
シャッタ40は、全天周立体映像表示装置5からの制御信号に従って開閉するものであり、例えば、一般的な液晶シャッタである。ここで、シャッタ40Rは、視聴者9の右目(基準目)に対応しており、右目用全天周映像を表示するタイミングで開く。また、シャッタ40Lは、視聴者9の左目(参照目)に対応しており、左目用全天周映像を表示するタイミングで開く。
センサ41は、視聴者9の両目の位置を検出する一般的な位置センサやジャイロセンサである。本実施形態では、基準目を始点とし参照目を終点とするカメラ選択判定ベクトルの向きを用いるため、このカメラ選択判定ベクトルと向きが一致するベクトルを求められるのであれば、例えば、両耳の位置を検出することとしてもよい。そこで、センサ41は、視聴者9の右耳位置(基準目側の検出位置)を検出するセンサ41Rと、視聴者9の左耳位置(参照目側の検出位置)を検出するセンサ41Lとがペアになっている。また、図1に示すように、2人の視聴者9A,9Bがそれぞれ立体メガネ4を装着しているので、各センサ41が視聴者9A,9Bの両耳の位置をそれぞれリアルタイムで検出する。
センサ41は、視聴者9の両目(両耳)の位置情報を全天周立体映像表示装置5(センサ情報入力手段53)に出力する。
全天周立体映像表示装置5は、全天周立体映像撮影装置2が撮影した全天周映像を用いて、プラネタリウム3で全天周の2眼立体映像を時分割表示するものである。なお、全天周立体映像表示装置5の詳細については、後記する。
<全天周立体映像システムの撮影手順及び表示手順>
まず、全天周立体映像システム1における撮影手順を説明する。
全天周立体映像撮影装置2が、円周上に等間隔で配置された3台の全天周カメラC1〜C3により、同時に全天周映像を撮影する。ここで、全天周立体映像撮影装置2は、屋内や屋外を問わず配置可能であり、自然風景やスポーツなど任意の全天周映像を撮影できる。この全天周映像は、全天周カメラC1〜C3のカメラIDに対応付けて、全天周立体映像表示装置5に出力される。
次に、全天周立体映像システム1における表示手順を説明する。
全天周立体映像システム1では、2台の全天周カメラCを組み合わせて、右目視点位置及び左目視点位置の全天周カメラCで構成されるカメラ対を予め設定しておく。つまり、ある右目視点位置の全天周カメラCには、対となる左目視点位置の全天周カメラCが設定されている。また、全天周立体映像表示装置5には、カメラ対の位置関係を特定する対カメラ位置関係特定ベクトルを予め記憶させておく。この対カメラ位置関係特定ベクトルは、右目視点位置の全天周カメラCを始点とし、左目視点位置の全天周カメラCを終点とするベクトルである。
視聴者9は、全天周立体映像システム1で視聴する際、立体メガネ4を装着する。立体メガネ4のセンサ41が、視聴者9の両耳(両目)の位置を検出し、検出した両目の位置情報を全天周立体映像表示装置5に出力する。全天周立体映像表示装置5は、センサ41より入力された両目の位置情報から、視聴者9の右目位置を始点とし、左目位置を終点とするカメラ選択判定ベクトル(選択用ベクトル)を算出する。
全天周立体映像表示装置5は、全ての対カメラ位置関係ベクトルのうち、カメラ選択判定ベクトルに最も向きが近い対カメラ位置関係ベクトルを選択する。そして、全天周立体映像表示装置5は、各全天周カメラCが撮影した全天周映像から、選択した対カメラ位置関係ベクトルで始点にある全天周カメラCの全天周映像を右目用全天周映像として選択する。さらに、全天周立体映像表示装置5は、各全天周カメラCが撮影した全天周映像から、対カメラ位置関係ベクトルで終点にある全天周カメラCの全天周映像を左目用全天周映像として選択する。
全天周立体映像表示装置5は、全天周カメラCの台数に基づいて、全天周映像を時分割表示する。さらに、全天周立体映像表示装置5は、視聴者9毎に選択した右目用全天周映像及び左目用全天周映像の表示タイミングに同期して、各視聴者9が装着する立体メガネ4のシャッタ40の開閉を制御する。
[全天周立体映像表示装置の構成]
図3を参照し、全天周立体映像表示装置5の構成について説明する。
図3に示すように、全天周立体映像表示装置5は、ベクトル記憶手段51と、全天周映像記憶手段52と、センサ情報入力手段(検出位置入力手段)53と、ベクトル生成手段54と、ベクトル選択手段55と、全天周映像選択手段56と、表示制御手段57とを備える。
ベクトル記憶手段51は、複数の対カメラ位置関係特定ベクトルを記憶するメモリ、HDD(Hard Disk Drive)等の記憶装置である。例えば、全天周立体映像システム1の管理者が、図示を省略したマウス、キーボード等の操作手段を用いて、手動で対カメラ位置関係特定ベクトルをベクトル記憶手段51に設定する。この対カメラ位置関係特定ベクトルは、後記するベクトル選択手段55によって参照される。
なお、各対カメラ位置関係特定ベクトルの大きさが異なる場合、同一の大きさとなるように対カメラ位置関係特定ベクトルを規格化しておくものとする。
<対カメラ位置関係特定ベクトル>
図2を参照し、対カメラ位置関係特定ベクトルVについて説明する。
前記したように、カメラ対は、右目視点位置及び左目視点位置に対応する2台の全天周カメラCで構成されている。以下、(1台目の全天周カメラC,2台目の全天周カメラC)という書式でカメラ対を表すこととする。本実施形態では、図2に示すように、3台の全天周カメラC1〜C3を用いるので、(C1,C2)、(C2,C3)、(C3,C1)というカメラ対が設定される。
対カメラ位置関係特定ベクトルVは、カメラ対の位置関係を示すベクトルであり、各カメラ対を構成する2台の全天周カメラCのそれぞれを始点及び終点とする。つまり、対カメラ位置関係特定ベクトルVは、カメラ対毎に、反対方向の2つのベクトルで構成される。具体的には、対カメラ位置関係特定ベクトルVとして、1台目(一方)の全天周カメラCの位置が始点で2台目(他方)の全天周カメラCの位置が終点となるベクトルが設定される。さらに、対カメラ位置関係特定ベクトルVとして、2台目の全天周カメラCの位置が始点で1台目の全天周カメラの位置が終点となるベクトルも設定される。
例えば、カメラ対(C1,C2)では、対カメラ位置関係特定ベクトルV1として、全天周カメラC1の位置が始点で全天周カメラC2の位置が終点となるベクトルが設定される。また、カメラ対(C1,C2)では、対カメラ位置関係特定ベクトルV4として、全天周カメラC2の位置が始点で全天周カメラC1の位置が終点となるベクトルが設定される。つまり、対カメラ位置関係特定ベクトルV4は、対カメラ位置関係特定ベクトルV1の始点及び終点を入れ替えた反対方向のベクトルとなる。
また、カメラ対(C2,C3)では、全天周カメラC2,C3のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV2,V5が設定される。さらに、カメラ対(C3,C1)では、全天周カメラC3,C1のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV3,V6が設定される。
図3に戻り、全天周立体映像表示装置5の構成について説明を続ける。
全天周映像記憶手段52は、全天周カメラC1〜C3が撮影した全天周映像を記憶するメモリ、HDD等の記憶装置である。この全天周映像は、後記する全天周映像選択手段56によって参照される。
センサ情報入力手段53は、センサ41から、視聴者9毎に両目の位置情報が入力されるものである。そして、センサ情報入力手段53は、入力された視聴者9の両目の位置情報をベクトル生成手段54に出力する。
ベクトル生成手段54は、センサ情報入力手段53からの両目の位置情報に基づいて、視聴者9毎に、右耳位置と左耳位置との差分によりカメラ選択判定ベクトルを生成するものである。前記したように、カメラ選択判定ベクトルとは、視聴者9の右目から左目の方向を表すベクトルである。本実施形態では、ベクトル生成手段54は、左耳位置の3次元位置座標から右耳位置の3次元位置座標を減算し、カメラ選択判定ベクトルを生成する。そして、ベクトル生成手段54は、生成したカメラ選択判定ベクトルをベクトル選択手段55に出力する。
本実施形態では、全天周カメラCとセンサ41との位置関係を予め校正しておくこととする。言い換えるなら、各対カメラ位置関係特定ベクトルVとカメラ選択判定ベクトルWとの関係を予め設定しておく。
まず、図4に示すように、原点Oから見て、較正用視線方向UにマーカM1を設置する。このマーカM1は、校正を行うための指標であり、視聴者9が視認できるものであればよい。そして、対カメラ位置関係特定ベクトルV1は、視聴者9がマーカM1を見たときのカメラ選択判定ベクトルW1に基づいて設定する。つまり、カメラ選択判定ベクトルW1が較正用視線方向U1と直角になり、対カメラ位置関係特定ベクトルV1とカメラ選択判定ベクトルW1とが平行になるように設定する。他の対カメラ位置関係特定ベクトルV2〜V6は、カメラ選択判定ベクトルW1を基準として設定してもよいし、カメラ選択判定ベクトルW2〜W6によって提示される位置のマーカM2〜M6を基準として設定してもよい。
なお、図4では、図面を見やすくするため、対カメラ位置関係特定ベクトルV4〜V6、カメラ選択判定ベクトルW2〜W6、マーカM2〜M6の図示を省略したが、対カメラ位置関係特定ベクトルV4〜V6も設定することとする。
ベクトル選択手段55は、視聴者9毎に、ベクトル生成手段54が生成したカメラ選択判定ベクトルWに最も近い方向の対カメラ位置関係特定ベクトルVをベクトル記憶手段51から選択するものである。具体的には、ベクトル選択手段55は、カメラ選択判定ベクトルWと各対カメラ位置関係特定ベクトルVとの内積値を算出し、算出した内積値が正で最大となる対カメラ位置関係特定ベクトルVを選択する。そして、ベクトル選択手段55は、選択した対カメラ位置関係特定ベクトルVを全天周映像選択手段56に出力する。
<対カメラ位置関係特定ベクトルの選択>
図4を参照し、対カメラ位置関係特定ベクトルの選択について説明する。
図4に示すように、ベクトル選択手段55は、カメラ選択判定ベクトルWと対カメラ位置関係特定ベクトルV1との内積値を算出する。これと同様、ベクトル選択手段55は、カメラ選択判定ベクトルWと対カメラ位置関係特定ベクトルV2〜V6との内積値を算出する。
図4に示すように、対カメラ位置関係特定ベクトルV1とカメラ選択判定ベクトルWとが同じ方向である。このため、カメラ選択判定ベクトルWと対カメラ位置関係特定ベクトルV1〜V6との内積値のうち、カメラ選択判定ベクトルWと対カメラ位置関係特定ベクトルV1との内積値が最大となる。その結果、ベクトル選択手段55は、ベクトル記憶手段51の対カメラ位置関係特定ベクトルV1〜V6のうち、カメラ選択判定ベクトルWに最も近い方向となる対カメラ位置関係特定ベクトルV1を選択する。
図3に戻り、全天周立体映像表示装置5の構成について説明を続ける。
全天周映像選択手段56は、視聴者9毎に、ベクトル選択手段55が選択した対カメラ位置関係特定ベクトルVの始点にある全天周カメラCの全天周映像を右目用全天周映像として選択するものである。また、全天周映像選択手段56は、視聴者9毎に、その対カメラ位置関係特定ベクトルVの終点にある全天周カメラCの全天周映像を左目用全天周映像として選択する。
<右目用全天周映像及び左目用全天周映像の選択>
図4及び図5を参照し、右目用全天周映像及び左目用全天周映像の選択について説明する。
図4に示すように、ある視聴者9について、対カメラ位置関係特定ベクトルV1が選択された場合を考える。この場合、全天周映像選択手段56は、全天周映像記憶手段52から、対カメラ位置関係特定ベクトルV1の始点にある全天周カメラC1の全天周映像を右目用全天周映像として選択する。また、全天周映像選択手段56は、全天周映像記憶手段52から、対カメラ位置関係特定ベクトルV1の終点にある全天周カメラC2の全天周映像を左目用全天周映像として選択する。
ここで、視聴者9が顔の向きを変えて、カメラ選択判定ベクトルWの方向が変わったこととする。この場合、カメラ選択判定ベクトルWの方向に応じて対カメラ位置関係特定ベクトルVが選択され、右目用全天周映像及び左目用全天周映像も変わることになる。
図5に示すように、全天周カメラC1,C2,C3の位置をそれぞれγ,α,βとする。また、全天周カメラC1,C2,C3と原点Oとを通過する直線が円Rに交わる位置をそれぞれγ´,α´,β´とする。
なお、図5は、図面を見やすくするため、図4と同様に対カメラ位置関係特定ベクトルV4〜V6の図示を省略した。
図5において、カメラ選択判定ベクトルWの方向が、線分αOと線分Oγ´との範囲内(以後、「∠αOγ´の範囲内」)の場合、対カメラ位置関係特定ベクトルV1がカメラ選択判定ベクトルWに最も近い向きとなる。この場合、全天周映像選択手段56は、全天周カメラC1の全天周映像を右目用全天周映像として選択し、全天周カメラC2の全天周映像を左目用全天周映像として選択する。
カメラ選択判定ベクトルWの方向が∠α´Oγの範囲内の場合、対カメラ位置関係特定ベクトルV4(不図示)がカメラ選択判定ベクトルWに最も近い向きとなる。この場合、全天周映像選択手段56は、全天周カメラC2の全天周映像を右目用全天周映像として選択し、全天周カメラC1の全天周映像を左目用全天周映像として選択する。
カメラ選択判定ベクトルWの方向が∠βOα´の範囲内の場合、対カメラ位置関係特定ベクトルV2がカメラ選択判定ベクトルWに最も近い向きとなる。この場合、全天周映像選択手段56は、全天周カメラC2の全天周映像を右目用全天周映像として選択し、全天周カメラC3の全天周映像を左目用全天周映像として選択する。
カメラ選択判定ベクトルWの方向が∠β´Oαの範囲内の場合、対カメラ位置関係特定ベクトルV5(不図示)がカメラ選択判定ベクトルWに最も近い向きとなる。この場合、全天周映像選択手段56は、全天周カメラC3の全天周映像を右目用全天周映像として選択し、全天周カメラC2の全天周映像を左目用全天周映像として選択する。
カメラ選択判定ベクトルWの方向が∠γOβ´の範囲内の場合、対カメラ位置関係特定ベクトルV3がカメラ選択判定ベクトルWに最も近い向きとなる。この場合、全天周映像選択手段56は、全天周カメラC3の全天周映像を右目用全天周映像として選択し、全天周カメラC1の全天周映像を左目用全天周映像として選択する。
カメラ選択判定ベクトルWの方向が∠γ´Oβの範囲内の場合、対カメラ位置関係特定ベクトルV6(不図示)がカメラ選択判定ベクトルWに最も近い向きとなる。この場合、全天周映像選択手段56は、全天周カメラC1の全天周映像を右目用全天周映像として選択し、全天周カメラC3の全天周映像を左目用全天周映像として選択する。
図3に戻り、全天周立体映像表示装置5の構成について説明を続ける。
表示制御手段57は、全天周映像選択手段56が選択した右目用全天周映像及び左目用全天周映像を2眼立体映像としてプラネタリウム3に表示させるものである。本実施形態では、表示制御手段57は、各視聴者9が同一のプラネタリウム3で視聴するため、全天周カメラCの台数で全天周映像の時分割表示制御を行う。
<時分割表示制御>
以下、表示制御手段57による時分割表示制御について説明する。
例えば、図1に示すように、2人の視聴者9A,9Bが、プラネタリウム3で同時に視聴するので立体メガネ4を装着している。また、図6に示すように、3台の全天周カメラC1〜C3が1/30間隔で全天周映像を撮影し、フレーム周波数30Hzの全天周映像を全天周映像記憶手段52が記憶していることとする。
この場合、表示制御手段57は、図7(a)に示すように、全天周カメラC1〜C3が撮影した各全天周映像のそれぞれを順番に切り替えて、投影装置32に出力する。各全天周映像を時分割表示するときのフレーム周波数は、撮影時のフレーム周波数を全天周カメラCの台数で除算した値(例えば、30Hz/3=10Hz)となる。
このとき、表示制御手段57は、視聴者9A,9Bの姿勢(視点)がそれぞれ異なるため、その姿勢に応じて、立体メガネ4にシャッタ40の開閉を制御する。つまり、表示制御手段57は、各視聴者9に対応する右目用全天周映像及び左目用全天周映像の表示に合わせて、その視聴者9が装着する立体メガネ4のシャッタ40の開閉を制御する。
図7(b)に示すように、視聴者9Aについては、対カメラ位置関係特定ベクトルV1が選択されたこととする。この場合、視聴者9Aの右目用全天周映像として全天周カメラC1の全天周映像が選択され、視聴者9Aの左目用全天周映像として全天周カメラC2の全天周映像が選択される。つまり、視聴者9Aの右目視点に全天周カメラC1が対応し、視聴者9Aの左目視点に全天周カメラC2が対応する。
この場合、表示制御手段57は、全天周カメラC1が全天周映像を表示するタイミングに合わせて、視聴者9Aが装着する立体メガネ4の右目側のシャッタ40Rを開く。また、表示制御手段57は、全天周カメラC2が全天周映像を表示するタイミングに合わせて、視聴者9Aが装着する立体メガネ4の左目側のシャッタ40Lを開く。つまり、表示制御手段57は、視聴者9Aの立体メガネ4について、0秒,3/30秒,6/30秒,…のときに右目側のシャッタ40Rを開き、1/30秒,4/30秒,7/30秒,…のときに左目側のシャッタ40Lを開く。
図7(c)に示すように、視聴者9Bについては、対カメラ位置関係特定ベクトルV3が選択されたこととする。この場合、視聴者9Bの右目用全天周映像及び左目用全天周映像として全天周カメラC3,C1の全天周映像が選択される。つまり、視聴者9Bの右目視点に全天周カメラC3が対応し、視聴者9Aの左目視点に全天周カメラC1が対応する。この場合、表示制御手段57は、全天周カメラC3,C1が全天周映像を表示するタイミングに合わせて、視聴者9Bが装着する立体メガネ4のシャッタ40R,40Lを開く。つまり、表示制御手段57は、視聴者9Bの立体メガネ4について、2/30秒,5/30秒,8/30秒,…のときに右目側のシャッタ40Rを開き、0秒,3/30秒,6/30秒,…のときに左目側のシャッタ40Lを開く。
視聴者9が2人であることとして説明したが、視聴者9が3人以上の場合でも時分割表示制御を行うことができる。
3人目の視聴者9については、右目用全天周映像及び左目用全天周映像に全天周カメラC2,C3の全天周映像が対応する場合を考える。この場合、全天周カメラC2,C3が全天周映像を表示するタイミングに合わせて、3人目の視聴者9が装着する立体メガネ4のシャッタ40R,40Lを開けばよい。
4人目以降の視聴者9についても、その視聴者9の右目用全天周映像及び左目用全天周映像を全天周カメラCが表示するタイミングに合わせ、シャッタ40R,40Lを開けばよい。
[全天周立体映像表示装置の動作]
図8を参照し、全天周立体映像表示装置5の動作について説明する。
ここで、対カメラ位置関係特定ベクトルVがベクトル記憶手段51に記憶され、全天周映像が全天周映像記憶手段52に記憶されていることとする。
図8に示すように、センサ情報入力手段53は、各視聴者9が装着する立体メガネ4のセンサ41から、視聴者9の両目(両耳)の位置情報が入力される(ステップS1)。
ベクトル生成手段54は、ステップS1で入力された両目の位置情報に基づいて、視聴者9毎に、右耳位置と左耳位置との差分によりカメラ選択判定ベクトルWを生成する(ステップS2)。
ベクトル選択手段55は、視聴者9毎に、ステップS2で生成したカメラ選択判定ベクトルWと、ベクトル記憶手段51に記憶されている対カメラ位置関係特定ベクトルVとの内積値を算出する(ステップS3)。
ベクトル選択手段55は、視聴者9毎に、ステップS2で生成したカメラ選択判定ベクトルWに最も近い方向の対カメラ位置関係特定ベクトルVを選択する。具体的には、ベクトル選択手段55は、ベクトル記憶手段51の対カメラ位置関係特定ベクトルVのうち、ステップS3で算出した内積値が正で最大となる対カメラ位置関係特定ベクトルVを選択する(ステップS4)。
全天周映像選択手段56は、視聴者9毎に、ステップS4で選択した対カメラ位置関係特定ベクトルVの始点にある全天周カメラCの全天周映像を右目用全天周映像として選択する。また、全天周映像選択手段56は、その対カメラ位置関係特定ベクトルVの終点にある全天周カメラCの全天周映像を左目用全天周映像として選択する(ステップS5)。
表示制御手段57は、ステップS5で選択した右目用全天周映像及び左目用全天周映像を2眼立体映像としてプラネタリウム3に表示させる。例えば、表示制御手段57は、全天周カメラCの台数で、全天周カメラCの全天周映像を切り換えて時分割表示を行う。さらに、表示制御手段57は、各視聴者9に対応する右目用全天周映像及び左目用全天周映像の表示に合わせて、その視聴者9が装着する立体メガネ4のシャッタ40の開閉を制御する(ステップS6)。
[作用・効果]
以上のように、全天周立体映像システム1は、全天周の2眼立体映像を実写撮影して表示することができる。
さらに、全天周立体映像システム1は、各全天周カメラCが撮影した全天周映像から右目用全天周映像及び左目用全天周映像を選択するだけで、従来技術のように映像同士の繋ぎ合わせ処理を行う必要がない。これにより、全天周立体映像システム1は、高品質な2眼立体映像をリアルタイムで表示することができる。
さらに、全天周立体映像システム1では、カメラ選択判定ベクトルWを導入したので、正立姿勢だけでなく仰向け姿勢や倒立姿勢でも左右の目に対応する全天周映像を正しく選択することができる。これにより、視聴者αが、全天周の2眼立体映像を様々な姿勢で視聴することができる。
例えば、プラネタリウム3の視聴では、視聴者が、正立姿勢、仰向け姿勢、さらには、目よりも頭頂部が低い倒立姿勢になる場合がある。このような姿勢の場合、従来の視線方向ベクトルでは左右の目を反対に誤検出してしまい、右目用全天周映像及び左目用全天周映像を正しく選択できない。しかし、全天周立体映像システム1は、カメラ選択判定ベクトルWにより、どのような姿勢の視聴でも、右目用全天周映像及び左目用全天周映像を正しく選択できる。
さらに、全天周立体映像システム1は、全天周カメラCの台数に基づいて全天周映像の時分割表示制御を行うので、複数の視聴者9が同時にプラネタリウム3で視聴することができる。
(第2実施形態)
[全天周立体映像システムの概略]
図9を参照し、第2実施形態に係る全天周立体映像システム1Bについて、第1実施形態と異なる点を説明する。
全天周立体映像システム1Bでは、視聴者9が装着したヘッドマウントディスプレイ(全天周映像表示手段)6に2眼立体映像を表示するため、時分割表示を行わない点が第1実施形態と異なる。以後、ヘッドマウントディスプレイ(HMD:Head Mounted Display)を「HMD」と略記する。図9に示すように、全天周立体映像システム1Bは、全天周立体映像撮影装置2と、全天周立体映像表示装置5Bと、HMD6とを備える。
全天周立体映像表示装置5Bは、全天周立体映像撮影装置2が撮影した全天周映像を用いて、HMD6で全天周の2眼立体映像を表示するものである。なお、全天周立体映像表示装置5Bの詳細については、後記する。
ここで、全天周立体映像システム1Bでは、全天周の2眼立体映像を表示するため、視聴者9がHMD6を装着している。例えば、HMD6は、ゴーグル型のフレーム62の前面に取り付けられた表示素子60と、フレーム62の側部に埋め込まれたセンサ(検出手段)61とを備える。また、HMD6は、Bluetooth等の無線通信を用いて、全天周立体映像表示装置5との間で各種情報を送受信する。
なお、図9では、HMD6のフレーム62に埋め込まれたセンサ61を破線で図示した。
表示素子60は、全天周立体映像表示装置5(表示制御手段57B)からの右目用全天周映像及び左目用全天周映像を表示するものであり、例えば、一般的な小型ディスプレイである。ここで、表示素子60Rは、視聴者9の右目に対応しており、右目用全天周映像を表示する。また、表示素子60Lは、視聴者9の左目に対応しており、左目用全天周映像を表示する。なお、HMD6は、右目用全天周映像及び左目用全天周映像が視聴者9の反対側の目に映り込まないように、表示素子60R,60Lの間に遮蔽板(不図示)を設けてもよい。
センサ61は、視聴者9の両目の位置を検出する一般的な位置センサやジャイロセンサである。このセンサ61は、図1のセンサ41と同様、両耳の位置を検出することとしてもよい。そこで、センサ61は、視聴者9の右耳位置を検出するセンサ61Rと、視聴者9の左耳位置を検出するセンサ61Lとがペアになっている。また、図9に示すように、2人の視聴者9A,9BがそれぞれHMD6を装着しているので、各センサ61が視聴者9A,9Bの両耳の位置をそれぞれリアルタイムで検出する。
センサ61は、視聴者9の両目の位置情報を全天周立体映像表示装置5B(センサ情報入力手段53)に出力する。
<全天周立体映像システムの撮影手順及び表示手順>
全天周立体映像システム1Bの撮影手順については、第1実施形態と同様のため、説明を省略する。
以下、全天周立体映像システム1Bにおける表示手順を説明する。
全天周立体映像システム1Bでは、第1実施形態と同様、カメラ対を予め設定し、対カメラ位置関係特定ベクトルVを予め記憶させておく。
視聴者9は、全天周立体映像システム1Bで視聴する際、HMD6を装着する。HMD6のセンサ61が、視聴者9の両耳(両目)の位置を検出し、検出した両目の位置情報を全天周立体映像表示装置5Bに出力する。全天周立体映像表示装置5Bは、第1実施形態と同様、カメラ選択判定ベクトルWを算出する。
全天周立体映像表示装置5Bは、第1実施形態と同様、全ての対カメラ位置関係ベクトルVのうち、カメラ選択判定ベクトルWに最も向きが近い対カメラ位置関係ベクトルVを選択する。さらに、全天周立体映像表示装置5Bは、第1実施形態と同様、選択した対カメラ位置関係ベクトルVの始点及び終点にある全天周カメラCの全天周映像を、右目用全天周映像及び左目用全天周映像として選択する。その後、全天周立体映像表示装置5Bは、選択した右目用全天周映像及び左目用全天周映像をHMD6に表示する。
[全天周立体映像表示装置の構成]
図10を参照し、全天周立体映像表示装置5Bの構成について説明する。
図10に示すように、全天周立体映像表示装置5Bは、ベクトル記憶手段51と、全天周映像記憶手段52と、センサ情報入力手段53と、ベクトル生成手段54と、ベクトル選択手段55と、全天周映像選択手段56と、表示制御手段57Bとを備える。
表示制御手段57Bは、全天周映像選択手段56が選択した右目用全天周映像及び左目用全天周映像を2眼立体映像としてHMD6に表示させるものである。前記したように、表示制御手段57Bは、各視聴者9がHMD6を装着しているため、第1実施形態のように時分割表示制御を行う必要がない。つまり、表示制御手段57Bは、各視聴者9に対応する右目用全天周映像及び左目用全天周映像を、その視聴者9が装着するHMD6に出力すればよい。
なお、全天周立体映像表示装置5Bの動作については、時分割表示制御を行わないこと以外、第1実施形態と同様のため、説明を省略する。
[作用・効果]
以上のように、全天周立体映像システム1Bは、第1実施形態と同様、高品質な2眼立体映像を表示すると共に、様々な姿勢で視聴することができる。
さらに、全天周立体映像システム1Bは、時分割表示が不要なので、高フレームレート化を図り、より高品質な2眼立体映像を表示することができる。
さらに、全天周立体映像システム1Bは、HMD6に2眼立体映像を表示するので、構成の簡略化と省スペース化を図ることができる。
(第3実施形態)
[全天周立体映像表示装置の構成]
図3を参照し、第3実施形態に係る全天周立体映像表示装置5Cについて、第1実施形態と異なる点を説明する。
図3に示すように、全天周立体映像表示装置5Cは、後記するチャタリングを抑制するため、ベクトル選択手段55の代わりにベクトル選択手段55Cを備える点が第1実施形態と異なる。
ベクトル選択手段55Cは、第1実施形態と同様、カメラ選択判定ベクトルWと各対カメラ位置関係特定ベクトルVとの内積値を算出し、内積値の最大値とその最大値の次に大きな内積値との差分を算出する。そして、ベクトル選択手段55Cは、算出した差分が予め設定した閾値以上となった場合、内積値が最大となる対カメラ位置関係特定ベクトルVを選択するものである。
<チャタリングの抑制>
図11及び図12を参照し、ベクトル選択手段55Cによるチャタリングの抑制を説明する。
チャタリングとは、視聴者9の右目視点位置及び左目視点位置に対応する全天周カメラCが短時間で繰り返し変更されることである。つまり、チャタリングとは、カメラ選択判定ベクトルWに最も近い方向の対カメラ位置関係特定ベクトルVが頻繁に切り替わることである。このチャタリングが発生すると、視聴者αに2眼立体映像を安定して表示できない。
図11に示すように、原点Oを中心にカメラ選択判定ベクトルWを360°回転させたこととする。カメラ選択判定ベクトルWとOα軸とのなす角θ=0°の場合、カメラ選択判定ベクトルWがOα軸を向いている。このとき、カメラ選択判定ベクトルWと対カメラ位置関係特定ベクトルV1〜V6との内積値を表すと、図12に示すグラフとなる。
なお、図12では、横軸がなす角θであり、縦軸が内積値である。また、カメラ選択判定ベクトルWと対カメラ位置関係特定ベクトルV1との内積値を表す曲線に符号V1を付した(符号V2〜V6も同様)。
カメラ選択判定ベクトルWと対カメラ位置関係特定ベクトルVとの内積値は、カメラ対の間隔であるベースラインを1として規格化したこととする。この場合、その内積値は、視聴者9の視線方向に垂直な平面に投影した実効的なベースライン距離を表す。図12より、全天周カメラCの切り換え角度において、実効的なベースライン距離が連続し、視差のギャップが生じていないことがわかる。
前記したように、内積値が最大となる対カメラ位置関係特定ベクトルVの始点及び終点にある全天周カメラCの全天周映像が表示される。従って、対カメラ位置関係特定ベクトルVが切り替わる角度の付近でチャタリングが生じ、2眼立体映像を安定して表示できない事態が想定される。この事態に対応するため、対カメラ位置関係特定ベクトルVの切り換えに閾値ΔTHを導入することとする。
まず、対カメラ位置関係特定ベクトルV1から対カメラ位置関係特定ベクトルV6への正方向の切り替えを説明する。ここでは、閾値ΔTH=0であり、なす角θ=0°からカメラ選択判定ベクトルWを反時計周りに回転させることとする。図12に示すように、なす角θ=60°になったとき、対カメラ位置関係特定ベクトルV1から対カメラ位置関係特定ベクトルV6に切り替わる。つまり、なす角θが60°を前後するように視聴者αが微動すると、チャタリングが発生する。
ここで、閾値ΔTHを正の値で設定し、なす角θ=0°からカメラ選択判定ベクトルWを反時計周りに回転させることとする。図12に示すように、なす角θ=θAになったとき、対カメラ位置関係特定ベクトルV6と対カメラ位置関係特定ベクトルV1との内積値の差分が閾値ΔTHと等しくなる。従って、なす角θ=θAになったとき、対カメラ位置関係特定ベクトルV1から対カメラ位置関係特定ベクトルV6に切り替わる。
次に、対カメラ位置関係特定ベクトルV6から対カメラ位置関係特定ベクトルV1への逆方向の切り替えを説明する。ここでは、なす角θ=60°からカメラ選択判定ベクトルWを時計周りに回転させることとする。図12に示すように、なす角θ=θBになったとき、対カメラ位置関係特定ベクトルV1と対カメラ位置関係特定ベクトルV6との内積値の差分が閾値ΔTHと等しくなる。従って、なす角θ=θBになったとき、対カメラ位置関係特定ベクトルV6から対カメラ位置関係特定ベクトルV1に切り替わる。
つまり、ベクトル選択手段55Cでは、閾値ΔTHを導入することで、正方向及び逆方向で対カメラ位置関係特定ベクトルV1,V6の切り替えを異なる角度(なす角θ=θA,θB)で行う。これにより、なす角θが60°を前後するように視聴者αが微動した場合でも、即座に対カメラ位置関係特定ベクトルV1,V6が切り替わらず、チャタリングが抑制される。
[作用・効果]
以上のように、全天周立体映像表示装置5Cは、チャタリングを抑制し、2眼立体映像を安定して表示することができる。なお、全天周立体映像表示装置5Cは、第1実施形態だけでなく、第2実施形態にも適用することができる。
以上、本発明の実施形態を詳述してきたが、本発明は前記した各実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
(変形例1)
前記した各実施形態では、全天周カメラCが3台であることとして説明したが、2台以上であればよい。
図13に示すように、変形例1に係る全天周立体映像撮影装置2Bでは、7台の全天周カメラC(C1〜C7)が円周上に等間隔で配置されている。また、全天周立体映像撮影装置2Bでは、隣り合うように配置された2台の全天周カメラCでカメラ対を構成する。ここでは、(C1,C2)、(C2,C3)、(C3,C4)、(C4,C5)、(C5,C6)、(C6,C7)、(C7,C1)というカメラ対が設定されている。
この場合、カメラ対(C1,C2)では、全天周カメラC1,C2のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV1,V8が設定される。また、カメラ対(C2,C3)では、全天周カメラC2,C3のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV2,V9が設定される。また、カメラ対(C3,C4)では、全天周カメラC3,C4のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV3,V10が設定される。また、カメラ対(C4,C5)では、全天周カメラC4,C5のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV4,V11が設定される。また、カメラ対(C5,C6)では、全天周カメラC5,C6のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV5,V12が設定される。また、カメラ対(C6,C7)では、全天周カメラC6,C7のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV6,V13が設定される。また、カメラ対(C7,C1)では、全天周カメラC7,C1のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV7,V14が設定される。
このように、全天周立体映像撮影装置2Bでは、全天周カメラCの台数に比例して視点位置が増加するので、視点が滑らかに切り替わり、高品質な2眼立体映像の視聴が可能となる。
(変形例2)
全天周カメラが5台以上の場合、1台以上の間隔を空けた2台の全天周カメラCでカメラ対を構成してもよい。
図14に示すように、変形例2に係る全天周立体映像撮影装置2Cでは、1台以上の他の全天周カメラCを挟むように離して配置された2台の全天周カメラCでカメラ対が構成されている。具体的には、カメラ対(C1,C3)は、他の全天周カメラC2を挟むように離して配置された2台の全天周カメラC1,C3で構成されている。これと同様、(C2,C4)、(C3,C5)、(C4,C6)、(C6,C1)、(C7,C2)というカメラ対が設定されている。
この場合、カメラ対(C1,C3)では、全天周カメラC1,C3のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV1,V8が設定される。また、カメラ対(C2,C4)では、全天周カメラC2,C4のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV2,V9が設定される。また、カメラ対(C3,C5)では、全天周カメラC3,C5のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV3,V10が設定される。また、カメラ対(C4,C6)では、全天周カメラC4,C6のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV4,V11が設定される。また、カメラ対(C5,C7)では、全天周カメラC5,C7のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV5,V12が設定される。また、カメラ対(C6,C1)では、全天周カメラC6,C1のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV6,V13が設定される。また、カメラ対(C7,C2)では、全天周カメラC7,C2のそれぞれを始点及び終点とした対カメラ位置関係特定ベクトルV7,V14が設定される。
このように、全天周立体映像撮影装置2Cでは、カメラ対を構成する2台の全天周カメラCの間隔を広くすることで、適切な視差を確保し、高品質な2眼立体映像の視聴が可能となる。
なお、変形例2では、全天周カメラCが7台であることとして説明したが、全天周カメラCが5台以上であればよい。
(変形例3)
前記した各実施形態では、3台の全天周カメラCが円周上に配置されることとして説明したが、これに限定されない。
図15に示すように、変形例3に係る全天周立体映像撮影装置2Dでは、少なくとも1台の全天周カメラCが、他の全天周カメラC同士を結ぶ直線から外れるように配置されていればよい。言い換えるなら、全天周立体映像撮影装置2Dでは、全ての全天周カメラCが同一直線上に並んでいなければよい。例えば、全天周カメラC1は、全天周カメラC2,C3を結ぶ直線から外れている。また、全天周カメラC2は、全天周カメラC1,C3を結ぶ直線から外れている。また、全天周カメラC3は、全天周カメラC1,C2を結ぶ直線から外れている。
なお、全天周カメラCが4台以上の場合も同様である。
(変形例4)
前記した各実施形態では、各視点位置に配置された全天周カメラCで同時に全天周映像を撮影することとして説明したが、これに限定されない。
図16に示すように、変形例4に係る全天周立体映像撮影装置2Eでは、1台の全天周カメラCを円周上に移動させながら、全天周カメラC1〜C3の視点位置で撮影する。例えば、フレーム周波数30Hzで全天周映像を撮影する場合を考える。図17に示すように、全天周カメラCは、0秒において全天周カメラC1の視点位置で撮影し、1/30秒において全天周カメラC2の視点位置で撮影し、2/30秒において全天周カメラC3の視点位置で撮影する。3/30秒以降も、全天周カメラCは、全天周カメラC1〜C3の視点位置に移動しながら撮影を行う。このようにして、全天周カメラC1〜C3の視点位置において、フレーム周波数10Hzの全天周映像を撮影できる。なお、表示フレーム周波数との同期が困難な場合、フレームメモリを用いたフレーム同期装置を用いてもよい。
ここで、全天周カメラCを視点位置に移動させる方法は任意である。例えば、図1の全天周カメラCを1台とし、環状フレーム20の中心を軸に回転させればよい。また、1台の全天周カメラCをロープの先に固定し、ロープを回転させてもよい。さらに、環状のレール(不図示)を設置し、このレール上で全天周カメラCを移動させてもよい。
また、全天周カメラCの台数1台に限定されず、複数台の全天周カメラCを移動させながら撮影してもよい。例えば、円周上に30°の間隔で3台の全天周カメラCを配置し、前記した速度で全天周カメラCを移動させると、9視点位置でフレーム周波数10Hzの全天周映像を撮影できる。
(その他変形例)
前記した各実施形態では、基準目が右目及び参照目が左目であることとして説明したが、基準目を左目及び参照目を右目としてもよい。
前記した各実施形態では、基準目側及び参照目側の検出位置が両耳の位置であることとして説明したが、これに限定されない。つまり、カメラ選択判定ベクトルが視聴者の両目方向と平行になれば、基準目側及び参照目側の検出位置は任意である。例えば、基準目側及び参照目側の検出位置としては、視聴者の両耳の他、両目位置、両頬位置又は両方のこめかみ位置があげられる。
前記した実施形態では、全天周立体映像表示装置を独立したハードウェアとして説明したが、本発明は、これに限定されない。例えば、本発明は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した全天周立体映像表示装置として協調動作させるプログラムで実現することもできる。このプログラムは、通信回線を介して配布してもよく、CD−ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
例えば、本発明に係る全天周立体映像システムは、エンターテイメント、遠隔操作やシミュレーション訓練などで利用することができる。
1,1B 全天周立体映像システム
2,2B〜2E 全天周立体映像撮影装置
3 プラネタリウム(全天周映像表示手段)
4 立体メガネ
5,5B,5C 全天周立体映像表示装置
6 ヘッドマウントディスプレイ(全天周映像表示手段)
9,9A,9B 視聴者
20 環状フレーム
21 支持脚
31 ドーム型スクリーン
32 投影装置
40,40R,40L シャッタ
41,41R,41L センサ(検出手段)
42 リム
43 テンプル
51 ベクトル記憶手段
52 全天周映像記憶手段
53 センサ情報入力手段(検出位置入力手段)
54 ベクトル生成手段
55,55C ベクトル選択手段
56 全天周映像選択手段
57,57B 表示制御手段
60,60R,60L 表示素子
61,61R,61L センサ(検出手段)
62 フレーム
C,C1〜C7 全天周カメラ
M1 マーカ
R 円
U1 較正用視線方向
W,W1 カメラ選択判定ベクトル(選択用ベクトル)
V,V1〜V14 対カメラ位置関係特定ベクトル

Claims (10)

  1. 所定の視点位置に配置された2台以上の全天周カメラが撮影した全天周映像を用いて、全天周で2眼立体映像を表示する全天周立体映像表示装置であって、
    人物の一方の目が基準目及び他方の目が参照目として予め設定され、頭部における前記基準目側及び前記参照目側の検出位置を検出する検出手段から、当該検出位置が入力される検出位置入力手段と、
    2台の前記全天周カメラで構成されるカメラ対の位置関係を示す対カメラ位置関係特定ベクトルとして、一方の前記全天周カメラの位置が始点で他方の前記全天周カメラの位置が終点となるベクトルと、他方の前記全天周カメラの位置が始点で一方の前記全天周カメラの位置が終点となるベクトルとを予め記憶するベクトル記憶手段と、
    前記基準目側と前記参照目側との検出位置の差分により、前記基準目から前記参照目の方向を表す選択用ベクトルを生成するベクトル生成手段と、
    前記ベクトル記憶手段から、前記ベクトル生成手段が生成した選択用ベクトルに最も近い方向の前記対カメラ位置関係特定ベクトルを選択するベクトル選択手段と、
    各全天周カメラが撮影した全天周映像から、前記ベクトル選択手段が選択した対カメラ位置関係特定ベクトルの始点にある全天周カメラの全天周映像を前記基準目側の全天周映像として選択し、当該対カメラ位置関係特定ベクトルの終点にある全天周カメラの全天周映像を前記参照目側の全天周映像として選択する全天周映像選択手段と、
    前記2眼立体映像として、前記全天周映像選択手段が選択した基準目側及び参照目側の全天周映像を、全天周で映像を表示する全天周映像表示手段に表示させる表示制御手段と、
    を備えることを特徴とする全天周立体映像表示装置。
  2. 前記ベクトル選択手段は、前記選択用ベクトルと各対カメラ位置関係特定ベクトルとの内積値を算出し、算出した前記内積値が正で最大となる前記対カメラ位置関係特定ベクトルを選択することを特徴とする請求項1に記載の全天周立体映像表示装置。
  3. 前記ベクトル選択手段は、前記選択用ベクトルと各対カメラ位置関係特定ベクトルとの内積値を算出し、前記内積値の最大値と当該最大値の次に大きな前記内積値との差分を算出し、算出した前記差分が予め設定した閾値以上となった場合、前記内積値が最大となる対カメラ位置関係特定ベクトルを選択することを特徴とする請求項1に記載の全天周立体映像表示装置。
  4. 前記表示制御手段は、前記全天周カメラの台数で前記全天周映像の時分割表示制御を行うことを特徴とする請求項1から請求項3の何れか一項に記載の全天周立体映像表示装置。
  5. 請求項1から請求項4の何れか一項に記載の全天周立体映像表示装置で用いる全天周映像を実写撮影する全天周立体映像撮影装置であって、
    所定の視点位置に配置された2台以上の全天周カメラを備えることを特徴とする全天周立体映像撮影装置。
  6. 前記全天周カメラは、3台以上であり、
    少なくとも1台の前記全天周カメラが、他の前記全天周カメラ同士を結ぶ直線から外れるように配置されたことを特徴とする請求項5に記載の全天周立体映像撮影装置。
  7. 前記全天周カメラは、円周上に等間隔で配置されたことを特徴とする請求項6に記載の全天周立体映像撮影装置。
  8. 前記全天周カメラは、5台以上であり、
    隣り合うように配置された2台の前記全天周カメラでカメラ対を構成するか、又は、1台以上の他の前記全天周カメラを挟むように離して配置された2台の前記全天周カメラで前記カメラ対を構成することを特徴とする請求項7に記載の全天周立体映像撮影装置。
  9. コンピュータを、請求項1から請求項4の何れか一項に記載の全天周立体映像表示装置として機能させるためのプログラム。
  10. 請求項5から請求項8の何れか一項に記載の全天周立体映像撮影装置と、
    請求項1から請求項4の何れか一項に記載の全天周立体映像表示装置と、
    前記全天周立体映像表示装置が出力する2眼式立体映像を表示する全天周映像表示手段と、
    前記2眼式立体映像を視聴する人物の頭部における基準目側及び参照目側の検出位置を検出する検出手段と、
    を備えることを特徴とする全天周立体映像システム。
JP2018112112A 2018-06-12 2018-06-12 全天周立体映像表示装置及びそのプログラム、全天周立体映像撮影装置、並びに、全天周立体映像システム Pending JP2019216344A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018112112A JP2019216344A (ja) 2018-06-12 2018-06-12 全天周立体映像表示装置及びそのプログラム、全天周立体映像撮影装置、並びに、全天周立体映像システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018112112A JP2019216344A (ja) 2018-06-12 2018-06-12 全天周立体映像表示装置及びそのプログラム、全天周立体映像撮影装置、並びに、全天周立体映像システム

Publications (1)

Publication Number Publication Date
JP2019216344A true JP2019216344A (ja) 2019-12-19

Family

ID=68919097

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018112112A Pending JP2019216344A (ja) 2018-06-12 2018-06-12 全天周立体映像表示装置及びそのプログラム、全天周立体映像撮影装置、並びに、全天周立体映像システム

Country Status (1)

Country Link
JP (1) JP2019216344A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022142146A1 (zh) * 2020-12-31 2022-07-07 成都极米科技股份有限公司 画质调整方法、装置、投影仪及计算机可读存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022142146A1 (zh) * 2020-12-31 2022-07-07 成都极米科技股份有限公司 画质调整方法、装置、投影仪及计算机可读存储介质

Similar Documents

Publication Publication Date Title
KR20210154814A (ko) 패스 쓰루 이미징을 갖는 헤드 마운트 디스플레이
JP5538483B2 (ja) 映像処理装置、映像処理方法、および映像処理システム
JP6732617B2 (ja) 情報処理装置および画像生成方法
US10681276B2 (en) Virtual reality video processing to compensate for movement of a camera during capture
US11143876B2 (en) Optical axis control based on gaze detection within a head-mountable display
CN112272817B (zh) 用于在沉浸式现实中提供音频内容的方法和装置
GB2523554A (en) Head-mountable apparatus and systems
KR20200115631A (ko) 멀티뷰잉 가상 현실 사용자 인터페이스
US20230215023A1 (en) Apparatus and Method for Virtual Reality
JP2019216344A (ja) 全天周立体映像表示装置及びそのプログラム、全天周立体映像撮影装置、並びに、全天周立体映像システム
US11314082B2 (en) Motion signal generation
EP3673348B1 (en) Data processing device, method and non-transitory machine-readable medium for detecting motion of the data processing device
GB2558283A (en) Image processing
CN105866966A (zh) 一种自动切换视角的全景三维立体眼镜
US20140285484A1 (en) System of providing stereoscopic image to multiple users and method thereof
JP2012244466A (ja) 立体画像処理装置
WO2017163649A1 (ja) 画像処理装置
US10902617B2 (en) Data processing for position detection using optically detectable indicators
JP5037713B1 (ja) 立体画像表示装置および立体画像表示方法
JP6916896B2 (ja) 情報処理装置および画像生成方法
JP2022015647A (ja) 情報処理装置および画像表示方法
JP2014116818A (ja) 全天周立体映像表示装置、全天周立体映像表示方法、映像データ補正プログラム
KR20170059879A (ko) 입체 영상 촬영 장치
KR20160028165A (ko) 파노라마 스테레오 촬영 장치 및 방법
WO2018165906A1 (zh) 一种头戴式显示装置及其显示方法