JP2006262191A - 複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラム - Google Patents

複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラム Download PDF

Info

Publication number
JP2006262191A
JP2006262191A JP2005077942A JP2005077942A JP2006262191A JP 2006262191 A JP2006262191 A JP 2006262191A JP 2005077942 A JP2005077942 A JP 2005077942A JP 2005077942 A JP2005077942 A JP 2005077942A JP 2006262191 A JP2006262191 A JP 2006262191A
Authority
JP
Japan
Prior art keywords
information
display
stereoscopic video
observers
local
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005077942A
Other languages
English (en)
Inventor
Akinari Suehiro
晃也 末廣
Hiroya Nakamura
博哉 中村
Shinji Nakamura
伸司 中村
Takayuki Sugawara
隆幸 菅原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2005077942A priority Critical patent/JP2006262191A/ja
Publication of JP2006262191A publication Critical patent/JP2006262191A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

【課題】 裸眼立体ディスプレイに対しては、観察者がセンサを身につけることなく生体反応を検出することは容易ではない。超多眼ディスプレイにおいても、視聴する位置によって超多眼状態から外れて、目の調節機能の働かない多眼状態で視聴する可能性がある。
【解決手段】情報分離化器11で分離された映像情報bは、復号化器15で観察者毎に異なる再生許可度合をもつ表示態様で復号化され、画像表示手段16を用いて表示され、更に局所的立体映像情報出力手段17を通して異なる位置から観察する複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する。このとき、個人情報d及び視聴制限情報cに基づき、複数の観察者個々に適した立体映像情報の表示ができる。これにより、大人が子供の目の安全性を気にかけることなく立体映像コンテンツを子供と一緒に楽しむことができる。
【選択図】 図1

Description

本発明は複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラムに係り、特に1台の立体映像表示装置を使用して、複数の観察者が互いに異なる立体映像情報を観察することができる立体映像表示装置を好適に実現する複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラムに関する。
3次元ディスプレイ(立体映像ディスプレイ)の実用化を目指して、これまで様々な方式が提案されている。それらの方式は、(1)被写体からの視差情報(光の強度と向きの情報)を標本化する方式(2眼式、多眼式、インテグラル・フォトグラフィ(IP)等)、(2)被写体の奥行き情報(被写体の体積要素の3次元位置情報と輝度情報)を標本化する方式(移動スクリーン方式、DFD方式等)、(3)被写体からの光波情報(光の強度と位相の情報)を標本化する方式(ホログラフィ、CGH等)の3つのカテゴリーに大別される(例えば、非特許文献1参照)。
上記のカテゴリーに属する2眼式は、特殊な眼鏡を使用することなく立体映像を観察する方式であり、これには様々な方式が存在するが、現在実用化されている方式として、ステレオグラムが知られている。ステレオグラムは、立体形状の被写体の表面から四方八方に散乱される無数の光線のうち、被写体の観察者の右目及び左目の各々の瞳に入射する2種類の光線群のみを取り出す(標本化する)ことにより視差画像を取得した後に、その画像をディスプレイなどの平面上に表示したものである。
このディスプレイに表示された2種類の視差画像からの光線群は、ディスプレイを観察する観察者の右目及び左目のそれぞれの瞳に入射するように光線の向きが制御される。かかる光線制御手段として屈折光学素子又は開口光学素子等があり、前者を利用した方式としてはレンチキュラーレンズ方式、そして後者を利用した方式としてパララックスバリア方式があることはよく知られている。
さて、上に述べたレンチキュラーレンズ方式やパララックスバリア方式その他のステレオグラムによる立体映像は、目の焦点が視差画像の発光面たるディスプレイ面上にあるにもかかわらず、脳内ではディスプレイ面よりも手前あるいは奥に存在するように認識されるという性質を有する。この性質は、立体視をする際に互いに内向きに向かう両眼の視線方向のベクトルが交差する点(輻輳点)と眼の水晶体のピント調節による焦点とが一致しないことにより起こるものである。
かかる輻輳と調節の不一致は、日常生活における立体視とは全く異なる視覚状態を強要するものであるため、観察者に対して目の疲労感や、不快感などの生体影響をもたらすことが知られている(例えば、非特許文献2参照)。この非特許文献2には、え目が疲れない自然な立体映像ディスプレイが実用化される時期は数十年以上先になると予想されること、そして当面は目の調節機能が働かない立体映像表示であるステレオグラムを使用せざるを得ない状況であること、さらに自然界の立体物を視覚する場合とは異なる特殊な視覚形態を強要するステレオグラムが人体に対して様々な生体影響を及ぼすこと等が記載されている。
このような従来の立体映像ディスプレイにおける輻輳調節矛盾による生体影響を緩和するために、輻輳点と調節点との距離が過度に大きくならないように表示させることが試みられている(例えば、特許文献1参照)。すなわち、この特許文献1には、映像による視覚的な刺激による生体反応を取得して、それをトリガー信号として画面の操作や観察装置の制御を行う技術が開示されている。この技術を応用すれば、観察者の眼球運動をモニターしながら、輻輳と調節の矛盾量が一定のレベルを超えないように表示内容を制御することができる。
また、(1)のカテゴリーに属する他の立体映像表示方式としてIPがある。このIPは、視覚負担のない3次元画像を再生可能な方式として約100年前より知られた写真技術であり、医療用写真として応用されてきたが(例えば、特許文献2参照)、近年は電子化することにより自然な3次元ディスプレイとしての応用が期待されている。しかし、かかる電子化されたIPは、現在の表示素子の解像度が、写真フィルムのそれよりも2桁程度低いために、未だ実用レベルの3次元映像を表示する段階に至っていない。しかも、表示素子の高精細化は半導体プロセス技術の進歩に依存するため、2桁の微細化にはまだしばらく時間を要することが予想される。そこで、現在のIPの研究開発の主流は、電子化されたIPそのものの研究ではなく、現在の解像度と同程度の表示素子を用いながらも実用的なアプリケーションに使用できる新たな方式の研究開発へと移行しつつある。
このような研究開発の一つとして、「超多眼」の概念を用いた立体映像ディスプレイが知られている。これは、従来の多眼式映像ディスプレイにおける視点画像の間隔を小さくしていき、その間隔が単眼の瞳孔に複数の視点画像が入射する状態(超多眼状態)で立体表示を行うものである。この方式によれば、単眼視差効果により水晶体の調節運動を誘起することができるため、目の疲れの主要因である輻輳と調節の不一致による視覚負担の問題を解決する画期的な概念と考えられている。
その詳細は、通信・放送機構が平成4年から平成9年に行った高度立体動画像通信プロジェクトの最終成果報告書に開示されている(例えば、非特許文献3参照)。また、立体映像に伴う音に関する技術として、複数のスピーカを用いて空間上に音場を定位させることにより、聞く位置によって異なる音を提示させることができる立体音響技術が知られている(例えば、非特許文献4参照)。
NHK放送技術研究所,「3次元映像の基礎」,オーム社,1995年 財団法人機械システム振興協会,「3次元映像に関するガイドライン試案」,社団法人電子情報技術産業協会,平成14年7月 通信・放送機構,「高度立体動画像通信プロジェクト 最終成果報告書」,179頁〜192頁,平成9年9月 イエンスブラウエルト,「空間音響」,鹿島出版会,1985年 特開2003−157136号公報 特許第1897532号公報
しかしながら、特許文献1に開示された立体映像表示装置では、ヘッドマウントディスプレイなどの眼鏡を着用する立体ディスプレイに対しては有効に機能するものと考えられるが、眼鏡を使用しない裸眼立体ディスプレイに対しては、観察者がセンサを身につけることなく生体反応を検出することは容易ではないという課題がある。また、たとえ何らかの方法で観察者の生体反応を検出したとしても、裸眼立体ディスプレイにおいては、観察者以外の人間の目に触れる可能性があるという性質上、以下の課題がある。
それは、ある観察者に適合するように立体映像を表示させたとしても、その観察者付近の別の観察者にとっては適合しないことがあり得るということである。例えば、家庭のリビングで親と子が一緒に立体映像を鑑賞するような状況を考えてみる。かかる状況では、親にとっては適度な飛び出し量であっても、子にとっては飛び出し量が大きすぎて著しい疲労を伴ったり、あるいは逆に、子にとっては適度な飛び出し量であっても、親にとっては飛び出し量が小さすぎて物足りなかったり、ということが起こり得るのである。とりわけ、子が小学生以下である場合には、目の正常な発育に対する深刻な影響が懸念されているため、親は子が不用意に飛び出し量の大きいシーンを見てしまうことがないように最大の注意を払わなければならない。
一方、IPは将来的には立体像に対して目の調節機能が働く理想的な方式である。しかしながら、現時点における電子デバイスを用いた場合には、解像度が低いという課題だけでなく、目の調節機能が必ずしも働くとは限らないという重大な課題を有する。後で詳しく述べるように、超多眼の概念によれば、IPにおいて目に入射する光線の数が少ない場合には、図29に示すような局所的立体画像210又は211の位置に調節が働くとは限らない。
また、将来的に電子デバイスの解像度が向上して超多眼状態が実現できたとしても、次のような課題もある。それは、かかる超多眼ディスプレイにおいても、実際には視距離によって、目に入射する光線の本数は異なるものであるから、家庭内で複数の視聴者が同時に観察する場合には、視聴する位置によって超多眼状態から外れて、目の調節機能の働かない多眼状態で視聴することも十分に考えられる。従って、理想的な方式と考えられているIPにおいても、単に電子デバイスの解像度を上げていくだけでは、子供と大人が安全かつ同時に楽しむことができない場合が起こり得ることになる。
本発明は以上の点に鑑みなされたもので、1台の立体映像表示装置を使用して、複数の観察者が各々に適合する表示態様で個別的に立体映像情報を観察し得る複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラムを提供することを目的とする。
また、本発明の他の目的は、目の疲労を伴う従来の裸眼立体ディスプレイを観察する複数の観察者の中に子供が含まれている場合には、子供に対しては過度な飛び出し量を伴う立体映像コンテンツの表示を規制し、その他の大人に対してはかかる規制のないコンテンツを表示する複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラムを提供することにある。
更に、本発明の他の目的は、IPなどの自然な立体ディスプレイを観察する複数の観察者の中に子供が含まれている場合には、子供に対しては超多眼状態を維持して多眼状態に陥らないように立体映像コンテンツの表示態様を制御するか、または超多眼状態の維持が難しい場合には、ディスプレイの手前に飛び出す映像ではなく背後にあるように表示させるようにする複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラムを提供することにある。
上記の目的を達成するため、第1の発明は、一の立体映像情報表示手段を用いて、複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する複数視点立体映像表示方法において、複数の観察者の位置情報及び個人情報を入力する第1のステップと、立体映像情報の所定の区間毎に予め付与された奥行き情報及び/又は視点間隔情報と個人情報とを組み合わせて、複数の観察者の各々に個別的に局所的立体映像情報の表示態様を決定する第2のステップと、入力された位置情報を有する複数の観察者の各々に対して、第2のステップで決定された表示態様で局所的立体映像情報を出力する第3のステップとを含むことを特徴とする。
また、上記の目的を達成するため、第2の発明は、一の立体映像情報表示手段を用いて、複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する複数視点立体映像表示装置において、複数の観察者の位置情報及び個人情報を入力する情報入力手段と、情報入力手段により入力された個人情報と、立体映像情報の所定の区間毎に予め付与された奥行き情報及び/又は視点間隔情報とを組み合わせて、複数の観察者の各々に個別的に局所的立体映像情報の表示態様を決定する表示態様決定手段と、情報入力手段により入力された位置情報を有する前記複数の観察者の各々に対して、表示態様決定手段で決定された表示態様で局所的立体映像情報を出力する局所的立体映像情報出力手段とを有することを特徴とする。
また、上記の目的を達成するため、第3の発明は、複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する複数視点立体映像表示装置をコンピュータにより実行させるための複数視点立体映像表示プログラムにおいて、コンピュータに、複数の観察者の位置情報及び個人情報をリンクさせて記憶する第1のステップと、立体映像情報の所定の区間毎に予め付与された奥行き情報及び/又は視点間隔情報と個人情報とを組み合わせて、複数の観察者の各々に個別的に局所的立体映像情報の表示態様を決定する第2のステップと、入力された位置情報を有する複数の観察者の各々に対して、第2のステップで決定された表示態様で局所的立体映像情報を出力する第3のステップとを実行させることを特徴とする。
また、上記の目的を達成するため、本発明は、一の立体映像情報表示手段を用いて、複数の観察者の視点の各々に対して互いに異なる局所的立体映像情報を表示する複数視点立体映像表示方法において、視点の位置情報と当該視点を有する観察者の個人情報とをリンクさせて立体映像情報表示手段に入力するステップと、立体映像情報表示手段に入力される立体映像情報の所定の区間毎に予め付与された奥行き情報及び/又は視点間隔情報と個人情報とを組み合わせることにより観察者毎に適切な表示態様を個別的に決定するステップと、表示態様を位置情報に対応させることにより位置情報を有する観察者の各々に対して局所的立体映像情報を表示態様により出力するステップとを含むことを特徴とする。
また、上記の目的を達成するため、本発明は、一の映像表示装置を用いて、複数の観察者の視点の各々に対して互いに異なる局所的立体映像情報を表示させる複数視点立体映像表示方法において、観察者の各々の観察者情報及び当該観察者の視点位置に対応する局所的立体映像情報の立体映像コンテンツの奥行き情報を組み合わせることによって、観察者の各々に適した局所的立体映像情報の表示態様を個別的に決定し、当該表示態様にて観察者の各々に対して同一の立体映像コンテンツを適切な奥行き範囲の局所的映像として表示することを特徴とする。
また、上記の目的を達成するため、本発明は、一の立体映像情報表示手段を用いて、複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する複数視点立体映像表示装置において、観察者の位置情報および個人情報を入力する情報入力手段と、立体映像情報に付与された制御情報及び個人情報により適切な表示態様を決定する表示態様決定手段と、位置情報を有する観察者の各々に対して立体映像情報を表示態様により局所的に出力する局所的立体映像情報出力手段とを有することを特徴とする。
ここで、上記の局所的立体映像情報出力手段は、画像を空間的及び/又は時間的に領域分割して表示させる画像表示手段と、画像からの光線の進行方向を各々の領域毎に観察者の位置情報に基づいて光学的に偏向させる光偏向手段とから構成されることを特徴とする。
また、上記の目的を達成するため、本発明は、一の立体映像情報表示手段を用いて、複数の観察者の各々の視点に応じて互いに異なる局所的立体映像情報を表示させる複数視点立体映像表示装置において、視点の位置情報及び/又は当該観察者の個人情報を入力する情報入力手段と、情報入力手段により入力された情報と立体映像コンテンツに含まれる奥行き情報及び/又は視点間隔情報とに基づいて観察者毎に表示態様を個別的に決定する表示態様決定手段と、表示態様にて局所的立体映像情報を観察者の各々に対して局所的に出力する局所的立体映像情報出力手段とを有することを特徴とする。
また、上記の目的を達成するため、本発明は一の立体映像情報表示手段を用いて、複数の観察者の視点の各々に対して互いに異なる局所的立体映像情報を表示させる複数視点立体映像表示装置において、観察者の各々の観察者情報及び当該観察者の視点位置に対応する局所的立体映像情報の立体映像コンテンツの奥行き情報を組み合わせることによって、観察者の各々に適した局所的立体映像の奥行き表現態様を個別的に決定し、決定された奥行き表現態様にて観察者の各々に対して立体映像コンテンツを表示することを特徴とする。
更に、上記の目的を達成するため、本発明は、複数の観察者の視点の各々に対して互いに異なる局所的立体映像情報を表示する立体映像情報表示装置を制御するための複数視点立体映像表示プログラムにおいて、コンピュータに視点の位置情報と当該視点を有する観察者の個人情報とをリンクさせて記憶するステップと、立体映像情報表示手段に入力される立体映像情報の所定の区間毎に含まれる奥行き情報及び/又は視点間隔情報を読み出すステップと、奥行き情報及び/又は視点間隔情報と個人情報とを組み合わせることにより観察者毎に適切な奥行き表現態様を決定するステップと、奥行き表現態様及び/又は視点間隔情報を位置情報に対応させることにより、位置情報を有する観察者の各々に対して局所的立体映像情報を奥行き表現態様により出力するステップとを実行させることを特徴とする。
本発明によれば、一の立体映像情報表示手段を用いて、異なる位置から観察する複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示するに際し、複数の観察者個々に適した立体映像情報の表示ができるようにしたため、大人が子供の目の安全性を気にかけることなく立体映像コンテンツを子供と一緒に楽しむことができ、ひいてはメガネ無し立体ディスプレイ(特に多眼式ステレオグラム)の一般家庭への普及に資するという効果がある。
また本発明によれば、一の立体映像情報表示手段を用いて、異なる位置から観察する複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示するに際し、複数の観察者個々に適した立体映像情報の表示ができるようにしたため、各々の観察者に適した立体映像情報の表示が可能となり、その結果、観察者同士の年齢や視覚能力の違いを気にすることなく立体映像コンテンツを一緒に安心して視聴できるようになり、立体映像鑑賞スタイルのバリアフリー化をもたらすという効果を奏する。
次に、発明を実施するための最良の形態について、図面と共に説明する。図1は本発明になる複数視点立体映像表示装置の第1の実施の形態のブロック図を示す。同図において、まず符号化されたデジタル信号による映像情報の内容であるデジタル立体映像コンテンツaが情報分離化器11に入力される。
デジタル立体映像コンテンツaは、純粋な映像情報bと、その映像情報bの読み取りを制限する視聴制限情報cとが多重化された形で構成されている。例えば、DVD(Digital Versatile Disc)などの光ディスクに記録されたデジタル立体映像コンテンツaとしての映画は、すべての映像情報bと共に、それらの情報の一部を選択的に再生する視聴制限情報cとして年齢規制に関わるパレンタルロック情報や地域規制に関わるリージョンコード等が記録されている。もちろん、本実施の形態においては、デジタル立体映像コンテンツaは、光ディスク等のような情報記録媒体に記録されたコンテンツに限定されるものではなく、Webサーバー上の情報を情報端末の記憶媒体に通信回線によりダウンロードするようなコンテンツや、あるいはWebサーバー上に保管されてストリーミング配信により供給されるコンテンツによっても同様に実施可能であることはいうまでもない。
情報分離化器11は、上述したデジタル立体映像コンテンツaに含まれる多重化された情報を分離する機能を有するものであり、具体的にはデジタル信号処理回路においてよく知られたデマルチプレックスのことである。同図に示すように、情報分離化器11は、多重化されたデジタル立体映像コンテンツaを映像情報bと視聴制限情報cとに分離し、分離した映像情報bを復号化器15に入力し、分離した視聴制限情報cを表示態様決定器13に入力する。
一方、この複数視点立体映像表示装置に対するもう一つの入力として、映像を観察する複数の観察者の個人情報dと、ディスプレイとの相対的な位置関係に関する情報である位置情報eとが、観察者情報入力器12に入力される。
観察者の個人情報dとは、少なくとも観察者の年齢及び/又は国籍及び/又は視力情報を含むものである。観察者の年齢を入力するのは、後述するように、観察者の年齢によって、デジタル立体映像コンテンツaに含まれる性的あるいは暴力的なシーンなどの精神的発育上問題のあるコンテンツをどの程度まで再生するかを決定するためである。これは、一般的なDVDプレーヤに付属し、ディスクの再生前に親が子供の視聴制限の設定を行うことができる、公知のパレンタルロック技術に類似するものである。本実施の形態は、かかる従来技術を年齢層の異なる複数の観察者が互いに異なる再生レベルで同じコンテンツを視聴できるように発展させたところに特徴がある。
また、観察者の年齢を入力させるもう一つの理由として、視聴可能な立体映像の奥行き表現量が異なることが挙げられる。すなわち、前記非特許文献2に記載されているように、視覚の発達段階が子供時代には存在しており、そのような時期に両眼視差、運動視差を利用した擬似的な3次元システムや、過度な奥行き表現量を伴うステレオ立体画像を見ることにより、正常な視覚の成長に影響を及ぼすことがあるため、充分な注意が必要だということである。
例えば、0歳児から10歳児までの角膜、網膜、両眼立体視、縞視力、電気刺激瞬目反射、視神経、光刺激瞬目反射、調節機能に関して調査した終果を見ると、子供には活発な成長期があることが、各種文献(関谷:「幼児期の発達、視覚の科学」(1998)、山本:「視力の発達、神経眼科5」(1998)、菅原、他:「幼児視力の読み分け困難から見た弱視の感受性期間の検討、日本眼科紀要」(1984)、田淵:「視界の機能的、形態的発達、新臨床眼科全書」(1990)、Dobson:「幼児からの小児視力 American Orthopt Journal 35」(1985)、山本、関谷:「平成10年報告者1−3」(1998)、関谷、他:「Photic blink reflex in childhood、神経眼科3」(1986)、奥田:「視神経の髄鞘形成について日眼会誌」(1985)、八子:「調節の発達、眼科MOOK38」(1989)など)から知られている。これらのデータから映像に関して子供への生体影響を考慮した再生システムを考えなければならないことが分かる。
また、観察者の国籍を入力させるのは、後述するように、観察者の国籍によって、デジタル立体映像コンテンツaに含まれる思想あるいは信条的に問題のあるシーンの再生を制限できるようにするためである。これは、光ディスクプレーヤを販売する際に、出荷地域毎に設定される、公知のリージョンコード技術に関連するものである。本実施の形態は、かかる従来技術を国籍の異なる複数の観察者が異なる再生レベルで同じコンテンツを視聴できるように発展させたところに特徴がある。
もちろん、国籍は同じであっても、思想・信条が異なる観察者は多数存在する。従って、個人情報dの入力に関する実施にあたっては、国籍だけに止まらず、個人が信仰する信教等を直接入力できるようにすることも考えられる。但し、このように個人の内心に関わる事項を映像視聴にあたって入力させることは予期しない人権問題が生ずるおそれがあるため、本実施の形態を実施するアプリケーションを慎重に検討しなければならない。
多国籍の観察者が映像を観察するようなアプリケーションのうち、本発明を好適に実施可能な例としては、いろいろな国の人が利用する映画館や国際会議場、あるいは国際競技場等に設置された大画面ディスプレイがある。映画については、シナリオ全体にわたって思想・信条的な偏りのある内容のものについては本発明を適用しても無意味であるが、一部のシーンにのみ問題があるような映画については、その部分のみを視聴制限した形の再生が可能となるので本発明が好適に機能しうる。
また、競技場に設置された大画面ディスプレイに応用する場合には、国別に設けられた観客席のエリア毎に位置情報eと個人情報dをあらかじめ設定しておけばよい。そうすることにより、例えば、大画面ディスプレイに時折映し出される観客の映像のうち、自国の文化では受け入れがたい服装などの精神的苦痛を与える蓋然性の高い映像の一部を、観客に自己の思想・信条に基づく視聴制限の意思表示を強制することなく、特定の観客席のエリアには再生させないように制限することが可能になる。このように、本発明は、アプリケーションを慎重に選択することにより、映像鑑賞のスタイルの国際化を促すという劇的な効果を奏する可能性がある。
また、観察者の視力情報を入力させるのは、左右の視力の不均衡や、老眼、弱視その他の視覚能力により、奥行き表現可能な最大範囲が異なるからである。本発明は、視覚能力の異なる人間同士が同時に立体ディスプレイを楽しむことを可能とするものであり、立体映像鑑賞スタイルのバリアフリー化を促すという効果を奏する可能性をも有する。
さて、これらの個人情報dと位置情報eを入力するには、図1に示す観察者情報入力器12を要する。観察者情報入力器12の実施形態としては、家庭用リビングでは、リモートコントローラ(以下リモコンと略記)が適している。一般家庭に普及しているテレビ用リモコンは、リモコンに内蔵された発光ダイオードから近赤外光をディスプレイの受光部に送信するものであるから、それを操作する人のおおよその位置情報eを特定するのに利用することができる。
また、リモコンに付属の一般的なキーを利用して、ディスプレイ(画像表示手段16)に表示させた図9に例示する個人情報設定メニュー画面において、個人情報dを入力させるように構成することは容易である。また、上述した大画面ディスプレイのような屋外で使用するようなアプリケーションにおける観察者情報入力器12としては、携帯電話機などの携帯用情報端末が適している。
もっとも、映画館や競技場の座席のように、ディスプレイと観察者の相対位置関係が常に一定であるようなアプリケーションにおいては、わざわざ携帯情報端末による入力をさせなくても、座席毎に予め設定(プリセット)しておいてもよい。かかる場合においては、キーボードやマウスなどの一般的な情報入力機器が観察者情報入力器12の実施形態となる。もちろん、家庭のリビングにおけるディスプレイにおいても、家族の座る位置が大体決まっているような場合には、リモコンで視聴位置毎の個人情報dと位置情報eとをプリセットしておけば、視聴を開始する前に毎回設定する煩わしさを避けることができる。
次に、図1に示した表示態様決定器13について説明する。表示態様決定器13は、情報分離化器11から出力された視聴制限情報cと、観察者情報入力器12から出力された個人情報d及び位置情報eを入力として受け、観察者毎に適した表示態様、すなわち上述したデジタル立体映像コンテンツaを再生する際の制限レベルを決定するものである。表示態様の決定方法の基本的な概念は、本出願人が先に開示した特許第2853727号公報に記載されているように、再生機側で設定した制限レベルである再生機プロテクトレベルと、媒体側に付与された設定制限レベルである媒体プロテクトレベルとの組み合わせにより、実際に再生する制限レベルである再生プロテクトレベル(表示態様)を決定するものである。
本実施の形態は、上記の再生プロテクト方法の概念を発展させ、同一ディスプレイを同時に観察する観察者毎に異なるプロテクトレベルによる再生を可能とするものである。表示態様の詳細は後述する。
図1において、表示態様決定器13により、位置情報eの異なる複数の観察者の各々の個人情報dに基づいて、個別的に再生プロテクトレベルが決定されると、表示態様制御信号発生器14により、個々の再生プロテクトレベルに対応して、映像情報bの再生レベルをコントロールするデジタル信号である表示態様制御信号fが生成される。この表示態様制御信号fは、情報分離化器11で分離された映像情報bと共に復号化器(デコーダ)15に入力され、映像情報bが、観察者毎に異なる再生許可度合をもつ表示態様で復号化される。
復号化の方法は、映像情報bがMPEG1により圧縮符号化されている場合には、決定された再生プロテクトレベルに応じて伸張符号化(フーリエ逆変換、逆量子化、可変長復号化)により行う。かかる復号化により、段階的にモザイク状の粗い画像を生成することができる。また、本出願人による特開2000−41232号公報に開示されているように、映像情報bの圧縮符号化がMPEG4によりなされている場合には、シーンの中で視聴制限すべき任意形状のオブジェクトのみを該当するオブジェクトをぼかしたり、モザイクにしたり、表示しないなどの制御を行うことが可能であるため、モザイク表示に比べて、観察者に違和感を感じることなく、制限的な再生を行うことが可能である。
このように復号化された信号は、図示しない駆動回路により増幅された後、画像表示手段16に供給されて個別的に表示される。画像表示手段16としては、液晶ディスプレイ(LCD)、プラズマディスプレイパネル(PDP)、フィールドエミッションディスプレイ(FED)、有機ELディスプレイ等の直視型ディスプレイや、米国テキサス・インスツルメンツ社のマイクロミラーを利用したDLP(登録商標)型プロジェクタや、シリコン上に反射型液晶を形成したLCOS(Liquid Crystal on Silicon)型プロジェクタなどの投射型ディスプレイなどを用い得る。特に、LCOS型プロジェクタの具体例として、本出願人が製造販売を行っているD−ILA(登録商標)プロジェクタを利用することができる。
画像表示手段16の表示態様としては、一般的には、ディスプレイの表示領域を観察者の数だけの領域に分割して表示する方法(空間分割表示)と、空間分割は行わずに時間的に分割して表示させる方法(時間分割表示あるいは時分割表示、あるいはフィールドシーケンシャル表示ともいう)とがある。前者は、視点の数に反比例して解像度が低下するが、画面のちらつき(フリッカ)のない画像が得られる。一方、後者は、各瞬間ではディスプレイの全面を利用して表示するため解像度の低下はないが、視点数に反比例して一視点あたりのリフレッシュレートが低下するので、十分高速な描画速度が確保できない限りフリッカが生じるという問題がある。
本出願の時点においては、上述の空間分割表示および時間分割表示は、高解像度素子と高速駆動回路の製造困難性により、大画面ディスプレイに適用するには性能的に不十分であるという課題がある。ところで、これが長い年月をかけて研究開発が続けられている自然な立体ディスプレイ(3次元ディスプレイ、3Dディスプレイともいう)の実用化を妨げている最大の課題であることは立体映像分野の当業者の間ではよく知られた事実である。
現時点のデバイスでは、一般に、左右2種類の視点画像のみを表示させる2眼式ディスプレイでないと、商品として成立するのに十分な解像度あるいは十分なリフレッシュレートの立体映像表示を行うことができないのである。従って、本実施の形態においても、現行の解像度のディスプレイを1台だけ用いて、複数の観察者の各々に適切な表示態様の映像を表示させようとすると、立体映像表示の場合と同様な空間解像度の低下あるいは時間解像度の低下という問題が発生することが容易に想像される。
しかしながら、この問題は以下に述べるように克服することが可能である。その理由は、本発明においては、異なる観察者に対して、全く異なる画像を提示するわけではなく、大部分の画像が同一であることである。つまり、異なるのは、視聴制限されたシーンのオブジェクトのみであり、その他のシーンについては、視点の増加に伴う空間的あるいは時間的解像度の低下が一切生じることがないのである。
例えば、図1において画像表示手段16の内部に記載された表示態様1、表示態様2、表示態様3、・・・、表示態様nのブロックは、ディスプレイを空間的あるいは時間的にn分割しなければならないことを意味しない。むしろ、通常のシーンにおいては、各観察者は、ディスプレイの全ての画素からの、最高解像度の映像を視聴することができる。
もちろん、視聴制限されたシーンにおいては、各観察者に対して異なる映像を表示しなければならないため、解像度の低下を避けることは原理的に不可能である。しかし、かかるシーンは、本発明が想定する先に述べたアプリケーションにおいては、空間的または時間的に小さい領域にとどまる蓋然性が高いものであるから、視聴制限されたシーンにおける解像度の低下は実際上問題にならないものと考えられる。
このように、本発明は、各視点の観察者に対して、再生プロテクトされた空間的・時間的領域以外の映像を共通化することにより、カーナビ応用などの複数視点で全く異なる画像を観察しようとするアプリケーションでは避けられない解像度の低下の問題を克服し、ディスプレイが本来有する解像度で快適に視聴することができるという特徴がある。
さて、図1の画像表示手段16によって上述のように表示された画像からの光は、複数の観察者の各々の眼球の瞳孔内に入射するように、局所的立体映像情報出力手段17によって、その進行方向を制御される。かかる局所的立体映像情報出力手段17の具体例としては、立体ディスプレイ用途では一般的な屈折型光学素子(レンチキュラーレンズ、マイクロレンズアレイ)や回折型光学素子(フレネルレンズアレイやホログラフィック光学素子)あるいは開口素子(スリットアレイやピンホールアレイ)がある。
後者は、液晶パネルなどの電子デバイスで構成することができるため、視聴制限されたシーンにのみ開口を形成して、開口を通してのみ見えるようにし、それ以外のシーンではパネル全面を透過させるように制御することにより、先に述べた解像度の劣化のないシーンを表示させることができる。もちろん、屈折型光学素子についても、液晶レンズ等の電子デバイスの研究も進んできており、将来的には、本発明の実施に好適に利用しうるものと考えられる。
また、図1に示す局所的立体映像情報出力手段17から出力される局所的立体映像g1、g2、・・・、gnは、図29に示すような位置に観察されるものである。すなわち、図29に示す画像表示手段16に表示された視点画像R1とL1からの光線束が、局所的立体映像情報出力手段17によってその向きを偏向されて視点1の観察者の両眼、すなわち同図に示すEL1とER1に入射する。そうすると、網膜上の視点画像L1とR1が脳内で1つの像として融像するように、両眼は互いに内向きに回転する輻輳運動を行う。その結果、寄り目状態となった視線の交差する点(輻輳点)に、局所的立体映像210として立体映像が観察されることとなる。
かかる状態では、両眼の目のピントは画像表示手段16上のR1及びL1に合っている。なぜなら、目のピント調節は、像がより鮮明に見えるようにオートフォーカスを行うものであるが、R1及びL1から発光する光線束は次第に広がるものでるために、局所的立体映像210の位置よりも画像表示手段16上のR1またはL1の位置の方が、より小さいスポットで鮮明な像を観察できるからである。このようにして、先に述べた輻輳点と調節点の不一致が発生することとなる。自然界における物体を観察する際には、よほど近くのものを見る場合を除いて、輻輳点と調節点は一致する。
ところが、ステレオグラムにおいては、輻輳と調節の不一致が発生し、これが眼精疲労や酔いの原因となっている。従って、この輻輳と調節の矛盾量、すなわち輻輳点(局所的立体映像210の位置)と調節点(画像表示手段16上のR1またはL1)との距離C1が、過度に大きくなりすぎないように映像の奥行き表現量を制御するのである。
一方、図29における視点2に位置する観察者は、画像表示手段16上に表示された視点画像R2とL2のそれぞれを両眼で観察し、局所的立体映像211を観察することとなる。視点2の観察者に対する輻輳調節矛盾量はC2であり、上に述べた視点1の観察者の輻輳調節矛盾量C1よりも小さい。従って、視点2の観察者は視点1の観察者よりも疲労度合が小さいことになる。
これは、例えば、視点1に大人の観察者がおり、視点2に子供の観察者がいる場合に優れた表示形態である。大人は、輻輳調節矛盾量C1を有する迫力ある局所的立体映像210を堪能することができ、同時に子供も輻輳調節矛盾量C2を有する穏やかな局所的立体映像211を堪能することができる。本発明は、かかる具体的実施形態を一般化して、年齢や視覚状態の異なる複数の観察者の同時視聴を可能とするものであり、立体映像鑑賞スタイルのバリアフリー化を促進するものである。
図2は、図1の表示態様決定器13に入力される3つの信号である、個人情報d、位置情報e及び視聴制限情報cの関係を示す概念図である。図2に示すように、これらの3つの情報c〜eは、個人情報dを内容とする変数u、視聴制限情報cを内容とする変数v、位置情報eを内容とする変数wにより、uvw空間を構成する。そして、このような3次元空間における点が、表示態様決定器13が決定する表示態様を表している。例えば、同図において(u1,v1,w1)と示された点は、ある観察者の個人情報の変数u1、視聴制限情報の変数v1、位置情報の変数w1の値によって決定されることを意味する。
ここで、本出願人の特許発明である特許第2853727号公報に記載された再生プロテクト方法と比較すると、上記の特許公報に記載された「再生機プロテクトレベル」が本実施の形態の個人情報の変数uに対応し、上記の特許公報に記載された「媒体プロテクトレベル」が本実施の形態の視聴制限情報の変数vに対応する。従って、単に各々の位置情報を有する観察者に対して、個人情報の変数uと視聴制限情報の変数vとからなる2次元uv平面のレイヤーを位置情報の枚数だけ決定すれば足りる場合もあり、そのような場合には、わざわざ3次元uvw空間の概念を持ち出すまでもない。
しかし、後述するように、アプリケーションによっては、視聴制限情報の変数vと位置情報の変数wとが密接に関わり合ったり、あるいは個人情報の変数uと位置情報の変数wとが密接に関わり合ったりする場合が存在する。そこで、本実施の形態では、個人情報の変数uと視聴制限情報の変数vと位置情報の変数wを3つの独立変数として表示態様決定に利用しうる三次元uvw空間の概念を導入したのである。
図3〜図7は、先に述べた三次元uvw空間における個人情報の変数uと位置情報の変数wとから表示態様の決定の仕方の一例を示すテーブルである。同テーブルに示すように、個人情報(テーブル第1行に1〜5と記載)と位置情報(テーブル第1列に1〜5と記載)の組み合わせによって、A〜Eまでの表示態様、すなわち、図13に例示する可視グレードが決定される。
図3〜図7のテーブルにおける個人情報の変数uの実施例を図10に示す。図10に示すように、個人情報は年齢、性別、国籍、信教、バリアフリーの各々について1〜5までの5段階に分類されている。観察者は、これらの中から必要なものを選択し、先に述べたリモコン等の方法により、観察者情報入力器12に入力する。何を選択するかについては、例えば家庭で大人と子供が同じ映画を見る場合には、年齢情報を選択すればよい。そうすることにより、子供に対しては精神の発育上問題のあるような暴力的なシーンや、あるいはカメラのフラッシュのような生体影響の懸念される光刺激性のある高速で光が点滅するコンテンツが規制されて表示され、大人に対しては規制のないコンテンツが再生されることとなる。
また、男女が同時に同じコンテンツを視聴するような状況において、男性一般あるいは女性一般にとって不快感をもたらすような情報を表示規制したい場合には、性別情報を選択すればよい。また、国際会議や、国際的な競技場などで、異なる国籍を有する人々が1つのディスプレイから映像を見るような場合には、それぞれの国の文化の違いに基づくコンテンツの規制をかけることができるように国籍情報を選択すればよい。例えば、図10に示すように、米国、欧州、アジア、中東、中国、そして図示しないオセアニア、アフリカ、南米等の様々な文化の違いに応じて、適切な表示態様でコンテンツを再生させることが可能となる。
さらに、民族や信仰の問題に関わるものであるが、たとえ国籍は同じであっても、思想・信条の異なる場合には、信仰に触れるコンテンツの規制をかけることのできる信教情報を個人情報として入力すればよい。例えば、図10に示すように、キリスト教、イスラム教、ヒンドゥー教、仏教、儒教、それから図示しない世界中の様々な信教情報を観察者が入力することとすれば、立体映像コンテンツにおける暴力的なシーンや身体の露出のシーンの再生の仕方を個人個人の信教に応じて段階的設定して表示させることが可能となる。
また、観察者間における非障害者と障害者との関係をバリアフリー化する目的で、バリアフリー情報を入力するように構成してもよい。例えば、視覚障害者に対しては、映像の輝度やコントラストを最適化して表示させることができるし、また聴覚障害者に対しては、音の大きさや周波数特性を最適化して再生することができる。かかるバリアフリーの映像音響技術は、個人的鑑賞にとどまるものについては公知技術であるが、本実施の形態では、複数の観察者が同時に視聴する場面に適用したことに特徴がある。
このように、個人情報dは、映像を個別的に視聴していた従来の映像鑑賞スタイルに対して、年齢間の障壁、性別間の障壁、障害者と非障害者間の障壁を除去するというバリアフリー化をもたらすと共に、国家間の壁や異なる信教の間の壁を除去するという国際化をもたらすものということができる。
図11は図3〜図7のテーブルの位置情報の一例を示す。図11に示すように、ディスプレイと観察者との相対的な位置情報として、視点からディスプレイ(の中心)に向かうベクトルである視線ベクトルとディスプレイ面の法線のなす角度がそれぞれ±20度以上、±20度〜10度、±10度〜5度、±5度〜0度、0度以上の1〜5段階にレベル分けされている。一般に、ディスプレイの正面から見る確率が最も高いものであるから、ディスプレイ正面である0度の位置が最も規制のレベルの高い「5」にしてある。
また、図11に示すように、位置情報はディスプレイからの角度のみならず、ディスプレイとの距離、すなわち視線ベクトルの大きさも重要なパラメータとしている。同図に示すように、Hをディスプレイの高さとして、1.5H以上、1.2〜1.5H、0.8H〜1.2H、0.4H〜0.8H、0.4H以下の1〜5段階にレベル分けされている。ディスプレイに最も近い視線ベクトルの大きさ0.4Hが視覚に与える影響が大きいため、規制レベルを「5」にしている。
図12は図3〜図7のテーブルの視聴制限情報の一例を示す。図12に示すように、視聴制限情報cは、暴力的なシーン(残虐行為、殺人、重度障害、軽度障害、すべて制限の5段階)、露出的なシーン(過度な露出、全体的露出、部分的露出、露出的服装、すべて規制の5段階)、信教に係るシーン(過激な表現、穏やかな表現、すべて制限の3段階)、視覚刺激性のあるシーン(高周波の光刺激、中間周波数の光刺激、低周波の光制激、すべて制限の4段階)、ステレオ立体映像(融像限界以上、大きい飛び出し、中程度の飛び出し、小さい飛出し、すべて制限の5段階)のジャンルに分けられている。
必要に応じて、視覚刺激性のあるシーンとして高いコントラストのパターンを含むシーンを加えたり、国家間の文化的な遣いを含むシーンを加えたりしてもよい。これは、立体映像コンテンツの供給側が設定する。かかる技術は、一般的なWebブラウザの規制オプションとして既に導入されており、技術的に困難な問題は生じないと考えられる。
図13はかかる具体的な表示態様の一実施の形態を示す。同図に示すように、表示態様Aが表示規制の度合が最も緩く、すべての立体映像コンテンツを表示させるモードである。そして、表示態様B〜Eでは次第に規制がかかり、表示態様Eが表示規制の度合いが最も強い。規制の態様については、空間方向の規制、時間方向の規制、データ表示ビット数による規制がある。これらの詳細な説明については、特許第2853727号公報に記載されているので省略する。
また、映像がステレオ立体映像である場合においては、目の輻輳運動と調節運動の不一致(輻輳調節矛盾)を緩和するために、表示態様に応じて、立体映像の奥行き再生量を制限するように構成するのがよい。例えば、同図に示すように、表示態様Aでは奥行き圧縮のない、フルサイズの立体映像をそのまま再生し、表示態様B〜Eでは、奥行き量を圧縮するように再生させる。そして、最も規制の厳しい表示態様Eでは、視点間隔情報をすべて捨象して、2次元画像を表示させる。
ところで、特許文献1その他の立体映像に関する文献でよく知られているように、輻輳調節矛盾による目の疲労の影響は、特に水晶体の調節機能が完成する以前の約10歳以下の子供にとっては、目の発育上、極めて深刻な影響を及ぼすことが懸念されている。かかる健康問題は、今後表示デバイスの解像度が向上すれば、多数の視点画像を表示できるようになるため、目の単眼に複数の視点画像が入射する状態、すなわち、いわゆる超多眼状態となって調節刺激を引き起こすようになるため、デバイス技術の進歩とともに徐々に解決に向かうものと考えられている。
従って、デバイスが進歩するまでは、現在の解像度でステレオ立体視、あるいは不十分な光線数で準超多眼状態の立体視をすることを受忍せざるを得ない。そうすると、子供に見せることができないものであれば、到底家庭に普及させることはできない。そして、このままでは国民の立体映像に対する期待が低下し、次世代の立体映像ディスプレイに対する投資が抑制されることとなり、3D先進国の日本にとって国家的な損失ともいえる。
本発明は、先に述べたような複数人視聴の際のパレンタルロックに関する課題を解決するのみならず、立体映像表示に関する上記課題をも一気に解決してしまうものである。すなわち、図13に示すように奥行き圧縮を観察者毎に行うことにより、個人情報(特に年齢情報1〜3)と位置情報とで規定される大人の観察者に対しては、奥行き圧縮をほとんどかけることなく表示させる。そして、子供の観察者に対しては、輻輳調節矛盾量が十分小さくなるように視点間隔情報の圧縮を行って、殆ど飛出し量のない映像を表示させる。こうして、家庭のリビングで大人と子供が同時にコンテンツを楽しむことができるのである。
次に、表示態様決定器13が行う処理について、図8のフローチャートと共に説明する。まず、情報分離化器11からの信号入力待ちの状態となり(ステップS100)、情報分離化器11から多重化されたデジタル立体映像コンテンツaに含まれる視聴制限情報cが入力されると(ステップS101)、観察者情報入力器12からの信号の入力を待機する(ステップS102)。この状態は、ステップS103の条件分岐において、観察者すべての個人情報dと位置情報eとが入力されるまで続けられる(ステップS103のNo)。
なお、入力された個人情報d及び位置情報eは、表示態様決定器13が有する図示しない記憶装置(RAM)に記憶される。そして、観察者の全員(N人とする)の個人情報dと位置情報eとが入力されると(ステップS103におけるYes)、表示態様決定器13が有する図示しない記憶装置(RAM)に変数nの領域が確保され、変数nの値が1に初期化される(ステップS104)。変数nの初期化が終了すると、まずn=1番目の観察者の表示態様の決定処理が行われる(ステップS105)。表示態様の決定処理は、位置情報e及び個人情報d並びに視聴制限情報cの3つの変数の3次元マトリックス演算により行う。処理の詳細は、特許第2853727号公報に記載された2次元マトリックス演算を3次元に拡張したものであるので、別段説明を要しないであろう。
n番目の観察者の表示態様が決定されると、変数nの値が1だけカウントアップされる(ステップS106)。続いて、観察者全員の表示態様決定処理が終了したかどうかを判定する(ステップS107)。終了していない場合には、ステップS105に戻り、次の観察者の表示態様決定処理を行う。最後に、観察者全員の処理が終了した場合には(ステップS107におけるYes)、表示態様の決定の処理を終了する。
これにより、例えば、4歳〜12歳の子供は個人情報が図10から「4」であり、また、視聴制限情報は図12から「すべて制限」を示す「5」に設定した場合は、図6に示すように、位置情報に関係なく、可視グレード(表示態様)はE、すなわち図13に示したように最も規制の強い立体画像表示が行われる。また、4歳〜12歳の子供であっても、コンテンツの内容によっては視聴制限情報が図12の「4」に設定した場合は、図6に示すように、位置情報に関係なく可視グレードはDであり、図13に示したように、比較的規制の厳しい立体画像表示が行われる。
次に、本発明の第2の実施の形態について図14〜図16と共に説明する。図14は図1において説明した画像表示手段16と局所的立体映像情報出力手段17の具体的な一例を示す。同図において、フラットディスプレイ161は上記の画像表示手段の一例であり、その表面に、局所的立体映像情報出力手段17の一例としてのレンチキュラーシート(又はマイクロレンズアレイ)171などの屈折型光学素子が配置されている。
この構成により、第1の視線方向へはフラットディスプレイ161の表面の1の画像を、第6の視線方向へはフラットディスプレイ161の表面の6の画像を表示するものである。同様にして、この例ではフラットディスプレイ161の表面の画像は8分割されて8つの視線方向にて画像表示させる。このディスプレイ表示をするには、図示せぬフラットディスプレイ駆動回路が必要である。
図15は本発明になる複数視点立体映像表示装置の第2の実施の形態のブロック図を示す。同図中、図1及び図14と同一構成部分には同一符号を付してある。図15において、光ディスクなどの記録媒体21に記録されているデジタル立体映像コンテンツ情報(音響情報含む)が、再生器22により公知の方法で再生された後、情報分離化器11に入力され、ここで映像情報、音響情報及び視聴制限情報に分離される。これらの情報の記録媒体21の記録時の多重化や情報分離化器11での分離は、例えばMPEG2規格の多重化システム方式を用いて実現する。
多重化はMPEGシステムレイヤーの同期方式でプログラムストリーム方式を用いてエレメンタリー毎にパック化し、表示時の同期をとれるようにプレゼンテーションタイムスタンプを打ちながら多重化する。タイムスタンプは図示せぬタイムスタンプ発生器から27MHzまたは90kHzのカウンタ情報が使用され、図示せぬ情報多重化器に入力される。この仕組みはMPEG多重化の規格を用いれば可能であるので詳細な説明は省略する。
多重化されているストリームデータは、例えばDVDやD−VHSなどのパッケージメディアフォーマット化されて、後述するDVDやD−VHSの規格に準拠した形式で、所定の記録器によって記録媒体21に記録されている。情報分離化器11で分離された映像情報はビデオ復号器23に供給され、分離された音響情報はオーディオ復号器24に供給され、分離された視聴制限情報は表示態様決定器13に供給される。
ビデオ復号器23、オーディオ復号器24ではビデオ信号とオーディオ信号が復号され、それぞれ、映像CH(チャンネル)分離器25及び音響CH分離器26に供給される。映像CH分離器25及び音響CH分離器26は入力される復号されたビデオ信号や復号されたオーディオ信号から、MPEGの例えばStream_idという識別子を用いて、識別されているチャンネルIDを識別して、視線ごとに映像データを識別する。
Stream_idはMPEG2規格ではPES(パケッタイズドエレメンタリストリーム)パケットというチャンネル毎の要素圧縮データをパケット化したヘッダ情報の中に記述することができる8ビットの情報体である。これによって、ビデオやオーディオの識別、CHの識別をすることができる。映像CH分離器25からCH毎に分離されて出力されたビデオデータは、フラットディスプレイ161に入力され、図14で説明したように、レンチキュラーシート(又はマイクロレンズアレイ)171を通して8つの視線方向へ立体画像として表示される。
一方、音響CH分離器26においてCH毎に分離されて出力されたオーディオデータは、局在音場発生器27に伝送される。局在音場発生器27では、第nの視線方向に局在化させるオーディオデータに関しては、空間上の焦点付近の音圧を局所的に上昇させるように、スピーカアレイ28の中心から焦点までの経路と、各スピーカから焦点までの経路との差に応じた遅延量を与えた表示信号をスピーカアレイ28に伝送する。スピーカアレイ28はアレイ状に組まれていて、一つ一つに遅延回路を聴取位置近傍に焦点を結ぶように遅延値を設定し、聴取位置においてスピーカからの直接音よりも、第1の視線方向に局在化させるオーディオ表示音の発生する音圧成分が極めて高くなるように表示する。
第2の視線方向に局在化させるオーディオデータに関しては、空間上の焦点付近の音圧を局所的に上昇させるようにスピーカアレイ28の中心から焦点までの経路と、各スピーカから焦点までの経路との差に応じた遅延量を与えた表示信号を、同様にスピーカアレイ28に伝送する。聴取位置においてスピーカからの直接音よりも、第n+1の視線方向に局在化させるオーディオ表示音の発生する音圧成分が極めて高くなるように表示する。スピーカにn個の局在音場を発生させるために、2つの音信号を伝送する場合には、各スピーカはn個の音信号を加算し、ダイナミックレンジを超えない程度のゲインコントロールを行って出力すればよい。
次に、本発明になる複数視点立体映像表示方法の第2の実施の形態について、図16のフローチャートと共に説明する。この複数視点立体映像表示方法は、コンピュータプログラムによりコンピュータにより実現される。まず、記録媒体もしくは伝送路から、MPEG多重化された映像音響データ及び視聴制限情報を所定の単位で読み取り再生する(ステップS201)。次に、再生したMPEG多重化されている映像音響データと視聴制限情報とを分離化する(ステップS202)。続いて、視聴者からの観察者情報の入力があったかどうか判定し(ステップS203)、観察者情報の入力があった場合にのみ、再生態様を決定する(ステップS204)。
観察者情報の入力が無い場合、又はステップS204で再生態様を決定した場合には、映像音響データを復号化する(ステップS205)。続いて、復号した映像データと音響データを視線毎のCHに分離する(ステップS206)。続いて、視線毎の映像データを画像表示手段及び局所的立体映像情報出力手段(レンチキュラーシートやマイクロレンズアレイ等)から出力し、音響データを局所音場発生用のスピーカ(若しくは超指向性のスピーカやヘッドホン、イヤホン)で出力する(ステップS207)。
そして、すべての映像データ及び音響データがあるかどうか判定し(ステップS208)、まだ再生されるべき映像データや音響データがあるときにはステップS201に戻り、上記と同様の動作を繰り返し、すべての映像データ及び音響データの再生が終了した時にはこのプログラムを終了する。
なお、上記の実施の形態では、情報を記録媒体21から再生するように説明したが、通信や放送特有のパケットかがなされているパケット情報を受信して、通信特有フォーマットであるパケット解除を行って放送や通信網から受信表示することも容易である。
また、本実施の形態では、視線方向によって異なる画像を表示する方式として、レンチキュラーレンズ方式について説明したが、液晶パララックスバリア方式、偏光フィルタ方式、インテグラルフォトグラフィー、超多眼方式など、視差を標本化するタイプの立体映像表示技術などはどれでも応用できるものであり、異なる映像を知覚できる方式であればなんであってもよい。
また音像位置制御方式は、音像定位制御方式としてアレイスピーカ方式で説明したが、仮想音場空間を実現できる方式、例えばバイノーラル・トランスオーラル方式であっても、Kirchhoff-Helmhotz徴分方程式に代表される波動音響理論を用いた音場制御法を用いる方式であってもよい。
また、記録媒体にデータを記録しなくても、通信、放送などあらゆる伝送媒体を経由してデータを送信することが可能で、その場合には、記録装置は伝送装置として使用することもできる。また表示装置は受信装置として使用することも可能である。
また、記録媒体は、媒体という定義はデータを記録できる媒体という、狭義な媒体というものだけでなく、信号データを伝送するための電磁波、光などを含む。また、記録媒体に記録されている情報は、記録されていない状態での、電子ファイルなどのデータ自身を含むものとする。
以上の実施の形態は、複数の観察者の位置情報と個人情報と視聴制限情報トを取得し、奥行き情報の圧縮・伸張を行うことにより個別最適な奥行き表現レベルを決定し、各々の再生モードで個別に局所的な2眼式の立体映像を表示する方法及び装置について説明したが、次に、複数点画像間隔の圧縮・伸張を行うことにより個別最適な単眼視差数を決定し、各々の再生モードで個別にIPによる立体映像を表示する方法及び装置について説明する。この場合の複数視点立体映像表示装置の基本的構成は図1と同様である。
まず、本発明において超多眼状態をコントロールする光学系の実施の形態について詳細に説明する。図17は本発明における光学系の幾何光学的関係の一例を示す図である。LCD(液晶表示素子)等の一般的な2次元ディスプレイやプロジェクタのスクリーンにより表現される2次元画像表示面200に表示した間隔Peの多視点画像からの光が、当該表示面200からgだけ離れた位置に配置したマイクロレンズアレイやピンホールアレイなどで表現される偏向光学素子300により偏向される。なお、視点画像の間隔はマイクロレンズアレイの間隔とは異なるが、ここでは簡単のため、両者は同一とする。
これらの偏向光学素子300のそれぞれからの光線は、空間上で交差することにより、立体像500を形成する。図17は、映像オブジェクトを構成する一点のみに着目して図示したものであり、それがディスプレイの手前に像を結ぶ場合(実像)を示している。後述するように、ディスプレイの背後に像を結ぶ場合(虚像)もある。空間上の実像500で交差した光は、その後直進して、両眼間隔De、瞳径Dpの観察者の眼球400に入射する。図17に示すように、観察者の眼球は偏向光学素子300から距離Lだけ離れており、実像500から1/Dだけ離れているものとする。
図17には2つのレンズから射出された角度θを有する2本の光線が、瞳に同時に入射する様子を示している。2本の光線は立体像500の点で交差しているために、観察者にとっては、立体像500からあたかも光が出ているかのように観察され、立体像500に目の調節運動が誘起される。こうして、輻輳と調節の矛盾がなくなり、自然な立体像500が観察されることになる。かかる超多眼状態においては、幾何学的関係より以下の式が成立することが容易にわかる。
Figure 2006262191
ただし、偏向光学素子300と立体像500との距離をaとしてa=L−1/Dとおいた。同様に、次式が成立することも容易にわかる。
Figure 2006262191
超多眼条件、すなわち瞳孔に2.5本以上の視差画像を入射するためには、
φ≧2.5θ (3)
であることが必要であるから、(1)式〜(3)式から次式が得られる。
Figure 2006262191
つまり、実像の飛び出し量aが大きい(即ち(4)式の分子が大きい)ほど、又は観察者と実像の距離が近い(即ち(4)式の分母が小さい)ほど、ピッチPeに対する要求は緩くなる。即ちPeが多少大きくても超多眼条件を満たすことになる。
具体例として、Dp=5.5mm,De=65mm,a=100mm,g=10.0mm,L=1500mmの場合、Pe<0.17mmが必要である。例えば、ピッチPe=1mmの場合は、視距離L<150mmで観察すれば超多眼条件を満たすが、視距離L=1500mmで観察した場合には、通常の多眼式の観察になり、目のストレスが生じることになる。
つまり、ディスプレイに対する観察者の目400の位置Lや、立体像500の位置a等によって、複数の光線が瞳に入射する超多眼状態になったり、一本の光線しか入射しない多眼状態になったりすることがわかる。従って、複数の観察者が観察する場合において、それぞれの観察者の視距離によって、立体像500の位置をコントロールすることが必要になってくる。特に、観察者が子供である場合には、輻輳調節矛盾を引き起こす多眼状態になることを避け、なるべく超多眼領域で観察できるようにしなければならない。本実施の形態は、異なる視聴位置の観察者のそれぞれに対して、立体像位置500をコントロールすることにより、目のストレスのない超多眼状態を個別に設定することを特徴とするものである。
図18は、複数の観察者が異なる立体像を観察する様子を示す図である。LCD等の画像表示手段205(図1の画像表示手段16に相当)に表示された多視点画像からの光は、局所的立体映像情報出力手段206(図1の局所的立体映像情報出力手段17に相当)により向きを偏向された後、視点1または視点2の観察者に入射する。図18に示す局所的立体映像212又は213は、先の図17における立体像500の集合体であり、多数の光線が空間上に交わることによって生じた三次的光源によって構成されている。
例えば、画像表示手段205に表示された視点画像R11、R12、L11、L12は視点1の観察者の左目(L1)401に入射するが、観察者の右目(R1)402に入射する光線R11、R12は、空間上で交差して局所的立体映像212の1点を構成し、光源の位置が(R11、R12ではなく)局所的立体映像212の1点であるかのように振舞うことになる。同様に、観察者の左目(L1)に入射する光線L11、L12についても、空間上で交差することにより2次光源を形成する。
視点2の観察者は、視点1の観察者よりもディスプレイから離れているため、超多眼領域の観察になりにくい状態にある。そのため、視点画像であるR21、R22、L21、L22の間隔を、視点1の観察者に対するR11、R12、L11、L12の間隔よりも狭くするようにコントロールすることが必要になる。視点画像の間隔の具体的なコントロール方法や視点画像の配置方法の詳細についてはここでは立ち入らず、以下に本発明を実施するに最低限必要な基本的な考え方を示すにとどめることとする。
図19は、単眼400で実像500を観察する様子を示す図である。LCD等の画像出力手段205に表示した多視点画像からの光をマイクロレンズアレイ等の光偏向手段によって空間上で収束させて実像501を形成する。図19には、10個のレンズから10本の構成が射出されて交差する様子を描いている。
これらの光線は、収束したのちに発散し、その一部が眼球405の虹彩411で遮られて、6本程度の光線が水晶体410で屈折されて網膜412上に像を結ぶ。このとき、水晶体410は、網膜上の像が最も鮮明に見えるようにレンズの厚さを自律的に変化させることによる調節、すなわちオートフォーカスを行う。目のピントが合う位置は、一見したところでは1本1本の光線の径が最も小さいレンズアレイ206上に合うようにも思えるが、実は瞳に入射した6本全体として最も鮮明に見えるのは光線同士が交差した501の位置であることになるため、501の位置にフォーカスされることになる。この効果は、光線の数に依存するが、少なくとも2.5本以上必要であることが、既に述べたように非特許文献3に開示された内容である。
図20は図19の拡大図であり、LCD等の画像表示手段205に表示された画像からの光がマイクロレンズアレイ等の局所的立体映像情報出力手段206により、光の進行方向が偏向される様子を示す図である。図20には、等間隔の並んだ10個の画素からの光が、10個のレンズにより偏向される様子を示している。
一般に、画像表示手段205上の画素からの光は、四方八方に広がるが、ここでは個々のレンズを射出瞳とする光線を考える。その場合には、図20に示すようにそれぞれ扇形状に広がってレンズで屈折される。このとき、画像表示手段205がレンズ206の焦点の位置にあれば、レンズから射出する光線はほぼ平行光となるが、軸外光線については平行光とはならず収差が発生する。いまのところ、この収差を減らす技術は開示されていないようであり、当面は無視することとする。
さて、マイクロレンズアレイのレンズの光軸に対して、発光点がずれていた場合には、ずれ量に応じて、偏向角、すなわちレンズによる屈折角が変化することがわかる。例えば、10個のレンズのうち、中央付近の2個(206eおよび206f)については、点灯する画素205eおよび206eと光軸とのずれが小さいため小さい屈折角で出射する。しかし、周辺のレンズである206aや206jについては、点灯する画素205aや205jと光軸とのずれが大きくなるため、レンズによる屈折角が大きくなる。
図21は図20における10個のレンズのうち206dから206gの4個のレンズの部分を拡大したものである。図21に示すように、レンズ206d〜206gの間隔よりも点灯する画素205d〜205gの間隔の方が広い。図21では、点灯する画素が11画素間隔で並んでいることを示している。この間隔をコントロールすることにより、図20で述べたレンズの屈折角を制御することができ、ひいては図19で述べた光線同士の重なり具体をコントロールすることにより超多眼状態と多眼状態とも制御することができる。すなわち、本発明の複数の視聴者毎に異なる態様で表示することが具体的に可能になるのである。
図22は、図18等の局所的立体映像出力手段206を構成する一つのレンズの内部での光線の振る舞いを示す図で、1つのレンズの中に10個の画素が存在し、そのいずれもが点灯した場合の光線を描画したものである。これらの10本の光線は、レンズで屈折された後に空間上で交差することはなく、他のレンズからの光線と交差することによって、それぞれ10個の異なる2次光源を形成することとなる。1つのレンズからは10視点分の光線が出射されることがわかる。
なお、球面または非球面の屈折型レンズ2061を、その基板2062上に成形することができる。成形材料はガラスでも樹脂でもよい。そして、これらのレンズは、LCD等の画像表示手段205に密着させてもよいが、保護層2063、ガラス基板2064をスペ−サとして挿入してもよい。
図23は、3つのレンズ207により実像を結ぶ様子を示す図である。これは既に説明したように、ディスプレイ前面の空間上に光線が交差することにより、仮想的な2次光源を形成するものである。実像を結ぶためには、図23から明らかなように、画像表示手段205上に表示した視点画像の間隔Wdと、局所的立体映像出力手段206であるマイクロレンズアレイ207の間隔Peとの関係が、Pe<Wdでなければならない。
これに対して、Pe=Wdの場合には、図24に示すように、光線は互いに平行になり決して交差することはない。従って、この場合には.立体像の結像は起きないことになる。さらに、Pe>Wdになると図25に示すように、レンズ207から射出される光線は、発散するようになり、現実の光線は交差することがない。しかし、ディスプレイ前方に観察者にとっては、発散する光線をその向きとは逆に延長した、画像表示手段205の背後の502の位置で交差しているかのように観察する。
すなわち、Pe>Wdの場合には、立体像が画像表示手段205であるディスプレイの奥に虚像として観察されることになる。ディスプレイの奥に立体像を表示した場合には、2眼式や多眼式ディスプレイで知られているように、ディスプレイの手前に表示させる場合に比べて、目のストレスが少ないことが知られている。
そこで、本実施の形態においては、超多眼ディスプレイにおいて、観察者の視点位置、あるいは映像コンテンツの種類によって、光線を重複させる超多眼状態を作り出すことが困難である場合、その観察者に対しては虚像にシフトさせるように構成してもよい。虚像は、実像に比べて、ビームの広がりの影響が少ないために、奥行き位置によって解像度が劣化する度合いが小さく、特に視覚機能の発達が不十分な子供が観察するのにより適した安全な表示態様である。
図26は立体像が実像として形成される場合の実際の光線を示す図、図27は図26の拡大図である。図26及び図27は、立体像503を構成する1点を再生するのに寄与する23本の光線を図示している。なお、縦軸の0の位置は、マイクロレンズの位置を示す。これらの光線の画像表示手段における間隔は、マイクロレンズアレイの間隔に対して、約105%である。この場合には、図26に破線で示す立体像503を構成する1点が約170mmの距離に結像することを示している。そして、ディスプレイから約600mm以内では光線同士が交差する超多眼領域にあり、それより離れると光綿同士が分離して多眼領域となる。
観察者の位置を検出することにより、多眼領域にあれば、超多眼状態になるように視点画像間隔の検定を狭くするように変更する。この際に、連続的な運動視差が得られる領域(すなわち視聴)も狭くなってしまうが、隣の視聴で観察できるので実際上問題はない。隣の視聴は、視点画像が本来射出するレンズの隣のレンズを通して射出されることにより生ずるものであるが、像の劣化は実際上殆ど問題がない。ただ、視聴同士で像の飛び(フリッピング)が発生するため、視点画像間隔をコントロールすることにより視聴が変化した際に、観察者がちょうど視聴の境界に来ることがないように、制御することが大切である。
なお、以上の実施の形態は、2眼式又はIPにより立体映像を表示する例であったが、本発明は更にこの立体映像に、立体音響をリンクさせることにより、各々の再生モードで個別に局所的な立体音響を表示する方法及び装置を構成することもできる。
図28はこの場合の本発明の複数視点立体映像表示装置の第3の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。図28において、符号化されたデジタル信号による映像及び音響情報の内容であるデジタル映像音響コンテンツjが情報分離化器11に入力される。
デジタル映像音響コンテンツjは、映像音響情報kと、その映像音響情報kの読み取りを制限する視聴制限情報cとが多重化された形で構成されている。例えば、DVD(Digital Versatile Disc)などの光ディスクに記録されたデジタル映像音響コンテンツjとしての映画は、すべての映像音響情報kと共に、それらの情報の一部を選択的に再生する視聴制限情報cとして年齢規制に関わるパレンタルロック情報や地域規制に関わるリージョンコード等が記録されている。
もちろん、本実施の形態においては、デジタル映像音響コンテンツjは、光ディスク等のような情報記録媒体に記録されたコンテンツに限定されるものではなく、Webサーバー上の情報を情報端末の記憶媒体に通信回線によりダウンロードするようなコンテンツや、あるいはWebサーバー上に保管されてストリーミング配信により供給されるコンテンツによっても同様に実施可能であることはいうまでもない。
情報分離化器11は、上述したデジタル映像音響コンテンツjに含まれる多重化された情報を分離する機能を有するものであり、具体的にはデジタル信号処理回路においてよく知られたデマルチプレックスのことである。同図に示すように、情報分離化器11は、多重化されたデジタル映像音響コンテンツjを映像音響情報kと視聴制限情報cとに分離し、分離した映像音響情報kを復号化器18に入力し、分離した視聴制限情報cを表示態様決定器13に入力する。
復号化器18は、表示態様制御信号発生器14からの表示態様制御信号fに基づいて、映像音響情報kを観察者毎に異なる再生許可度合をもつ表示態様で、映像情報と音響情報とに復号化する。復号化された映像情報は画像表示手段16に供給され、更にこれより局所的立体映像情報出力手段17により立体映像情報とされて出力される。
一方、復号化された音響情報は移相器19により立体映像情報の遅延時間に対応して移相された後、局所的音響情報出力手段20に供給され、これより複数の視点1〜nの観察者に対する視点毎の音響情報h1〜hnとして出力される。これにより、本実施の形態では、各々視点の異なる複数の観察者は、各視点に対応した立体画像を見ることができると共に、各視点に対応した音響を聴取することができる。
なお、本発明は以上の実施の形態をコンピュータにより実行させるコンピュータプログラムも含むものである。この場合、コンピュータプログラムは、記録媒体に記録して表示装置に取り込んでもよいし、通信ネットワークを介して表示装置の記憶部にダウンロードするようにしてもよい。
なお、本発明は上に例示した具体的な実施形態を可能ならしめる以下の抽象的な技術的思想を包含するものである。すなわち、本発明の複数視点立体映像表示方法は、一の映像情報表示手段を用いて、複徴の観察者の視点の各々に対して互いに異なる局所的映像情報を同時に表示させる複数視点立体映像表示方法において、前記観察者の各々の観察者情報及び該観察者の視点位置に対応する前記局所的映像情報の立体映像コンテンツによって、前記観察者の各々に適した前記局所的映像情報の表示態様を個別的に決定し、当該表示態様にて前記観察者の各々に対して最適化された個別的な前記局所的映像情報を表示することを特徴とする。
ここで、前記観察者情報は、前記観察者の身長、年齢その他の個人情報を含み、また、前記立体映像コンテンツが、前記観察者の年齢に不相応な情報の表示を制限する視聴制限情報を含んでいてもよい。
また、本発明の複数視点立体映像表示方法は、前記局所的映像情報の表示態様が、前記視聴制限情報を含むシーンの部分的表示、当該シーン直前のシーンのスチル表示、苦しくは予め設定された安全なシーンの表示、又は非表示の少なくともいずれか一を含むことを特徴とする。
また、本発明の複数視点立体映像音響表示方法は、一の映像情報表示手段と二以上の音響情報表示手段とを用いて、複数の観察者の視聴点の各々に対して互いに異なる局所的映像情報とそれに対応する局所的音響情報とを同時に表示させる複数視聴点映像音響表示方法において、前記観察者の各々の観察者情報及び該観察者の視聴点位置に対応する前記局所的映像情報の立体映像コンテンツ並びに前記局所的音響情報の音響コンテンツによって、前記観察者の各々に適した前記局所的映像情報及び局所的音響情報の表示態様を個別的に決定し、当該表示態様にて前記観察者の各々に対して個別的な前記局所的映像情報及び局所的音響情報を表示することを特徴とする。
また、本発明の複数視聴点立体映像音響表示方法は、前記局所的映像情報及び前記局所的音響情報の表示態様が、前記表示プロテクト情報を含むシーンの部分的表示、当該シーン直前のシーンのスチル表示、若しくは予め設定された安全なシーンの表示、又は非表示の少なくともいずれか一を含むことを特徴とする。
また、本発明の立体映像情報表示装置は、一の映像情報表示手段を用いて、複数の観察者の視点の各々に対して互いに異なる局所的映像情報を同時に表示させる複数視点立体映像表示装置において、前記観察者の観察者情報を前記視点の位置とともに検出する観察者情報検出手段と、当該観察者に対応する前記局所的映像情報の立体映像コンテンツを読み取る立体映像コンテンツ読取手段と、前記観察者情報と前記立体映像コンテンツとの双方によって、前記観察者の各々に適した前記局所的映像情報の表示態様を個別的に決定する映像表示態様決定手段と、前記映像表示態様にて前記観察者の各々に対して個別的な局所的映像情報を表示する局所的映像情報表示手段とを有することを特徴とする。
ここで、本発明の複数視点立体映像表示装置は、前記観察者情報が、前記観察者の身長、年齢その他の個人情報を含んでいてもよく、前記立体映像コンテンツが、前記観察者の年齢に不相応な情報の表示を制限する視聴制限情報を含んでいてもよい。
また、本発明の複数視点立体映像表示装置はさらに、前記局所的映像情報及又は前記局所的音響情報の表示態様が、前記視聴制限情報を含むシーン直前のシーンのスチル表示、若しくは予め設定された安全なシーンの表示、又は非表示の少なくともいずれか一を含むことを特徴とする。
また、本発明の複数視聴点映像音響表示装置は、一の映像情報表示手段と二以上の音響情報表示手段とを用いて、複数の観察者の視聴点の各々に対して互いに異なる局所的映像情報とそれに対応する局所的音響情報とを同時に表示させる複数視聴点映像音響表示装置において、前記観察者の各々の観察者情報を該観察者の視聴点位置とともに検出する観察者情報検出手段と、当該観察者に対応する前記局所的映像情報の立体映像コンテンツ及び局所的音響情報の音響コンテンツを読み取るコンテンツ読取手段と、前記観察者情報及び前記立体映像コンテンツ並びに前記音響コンテンツによって、前記観察者の各々に適した前記局所的映像情報及び局所的音響情報の表示態様を個別的に決定する表示態様決定手段と、前記表示態様にて前記観察者の各々に対して個別的な局所的映像情報及び局所的音響情報を表示する局所的映像音響情報表示手段とを有することを特徴とする。
また、本発明の複数視点立体映像表示プログラムは、一の映像情報表示手段を用いて、複数の観察者の視点の各々に対して互いに異なる局所的映像情報を同時に表示させる複数視点立体映像表示装置を制御する複数視点立体映像表示プログラムにおいて、コンピュータに、前記観察者の観察者情報を検出する観察者情報検出手段により前記視点の位置とともに検出された観察者情報を読み取るステップと、該観察者に対応する前記局所的映像情報の立体映像コンテンツを読み取るステップと、前記観察者情報と前記立体映像コンテンツとを比較することにより、前記局所的映像情報の表示態様を蓄積した表示態様データベースから前記観察者の各々に適した表示態様を抽出するステップと、抽出された前記表示態様において前記観察者の各々に対する局所的映像情報の表示を行うことを制御するステップとを実行することを特徴とする。
また、本発明の複数視点立体映像表示プログラムは、前記観察者情報が、前記観察者の身長、年齢その他の個人情報を含んでいてもよく、前記立体映像コンテンツが、前記観察者の年齢に不相応な情報の表示を制限する表示プロテクト情報を含んでいてもよい。
また、本発明の複数視点立体映像表示プログラムは、更に、前記表示態様データベースが、前記表示プロテクト情報を含むシーン直前のシーンのスチル表示、若しくは予め設定された安全なシーンの表示、又は非表示の少なくともいずれか一を含むことを特徴とする。
また、本発明の複数視点立体映像表示プログラムは、一の映像情報表示手段と二以上の音響情報表示手段とを用いて、複数の観察者の視聴点の各々に対して互いに異なる局所的映像情報とそれに対応する局所的音響情報とを表示させる複数視点立体映像音響表示装置を制御する複数視聴点映像音響表示プログラムにおいて、前記観察者の観察者情報を検出する観察者情報検出手段により前記視聴点の位置とともに検出された観察者情報を読み取るステップと、該観察者に対応する前記局所的映像情報の立体映像コンテンツ及び前記局所的音響情報の音響コンテンツを読み取るステップと、読み取られた前記観察者情報と前記立体映像コンテンツと前記音響コンテンツとを比較することにより、前記局所的映像情報及び前記局所的音響情報の表示態様を蓄積した表示態様データベースから前記観察者の各々に適した表示態様を抽出するステップと、抽出された前記表示態様において前記観察者の各々に対する前記局所的映像情報及び前記局所的音響情報の表示を行うことを制御するステップとを含むことを特徴とする。
また、本発明の複数視点立体映像表示方法は、前記局所的映像情報が局所的立体映像情報であって、シーンを構成するオブジェクトの3次元情報から空間上に表示すべき奥行き範囲を算出し、異なる複数の観察者の各々に適した奥行き範囲で当該オブジェクトを表示する機能を更に含むことを特徴とする。
また、本発明の複数視点立体映像音響表示方法はさらに、前記局所的映像情報及び局所的音響情報が各々局所的立体映像情報及び局所的立体音響情報であって、シーンを構成するオブジェクトの3次元情報から空間上に表示すべき奥行き範囲を算出し、異なる複数の観察者の各々に適した奥行き範囲で当該オブジェクトを表示する機能を有することを特徴とする。
また、本発明の複数視点立体映像表示装置は、前記局所的映像情報が局所的立体映像情報であって、シーンを構成するオブジェクトの3次元情報から、空間上に表示すべき奥行き範囲を算出する手段と、視覚機能の異なる複数の観察者の各々に適した奥行き範囲で当該オブジェクトを表示する手段を更に有することを特徴とする。
また、本発明の複数視点立体映像表示装置は、前記局所的映像情報及び局所的音響情報が各々局所的立体映像情報及び局所的立体音響情報であって、シーンを構成するオブジェクトの3次元情報から、空間上に表示すべき奥行き範囲を算出する手段と、視覚機能の異なる複数の観察者の各々に適した奥行き範囲で当該オブジェクトを表示する手段とを更に有することを特徴とする。
また、本発明の複数視点立体映像表示方法はさらに、前記局所的映像情報が局所的立体映像情報であって、シーンを構成するオブジェクトの3次元情報から空間上に表示すべき奥行き範囲を算出するステップと、異なる複数の観察者の各々に適した奥行き範囲で当該オブジェクトを表示するステップとを含むことを特徴とする。
また、本発明の複数視点立体映像音響表示方法は、前記局所的映像情報及び局所的音響情報が各々局所的立体映像情報及び局所的立体音響情報であって、シーンを構成するオブジェクトの3次元情報から空間上に表示すべき奥行き範囲を算出するステップと、異なる複数の観察者の各々に適した奥行き範囲で当該オブジェクトを表示するステップとを更に含むことを特徴とする。
本発明の複数視点立体映像表示装置の第1の実施の形態のブロック図である。 図1の表示態様決定器に入力される個人情報、位置情報及び視聴制限情報の関係を示す概念図である。 図1における個人情報の変数uと位置情報の変数wと視聴制限情報vとから表示態様の決定の仕方の一例を示すテーブルを示す図(その1)である。 図1における個人情報の変数uと位置情報の変数wと視聴制限情報vとから表示態様の決定の仕方の一例を示すテーブルを示す図(その2)である。 図1における個人情報の変数uと位置情報の変数wと視聴制限情報vとから表示態様の決定の仕方の一例を示すテーブルを示す図(その3)である。 図1における個人情報の変数uと位置情報の変数wと視聴制限情報vとから表示態様の決定の仕方の一例を示すテーブルを示す図(その4)である。 図1における個人情報の変数uと位置情報の変数wと視聴制限情報vとから表示態様の決定の仕方の一例を示すテーブルを示す図(その5)である。 図1中の表示態様決定器が行う処理説明用フローチャートである。 個人情報設定メニュー画面の一例を示す図である。 図3〜図7のテーブルの個人情報の具体例を示す図である。 図3〜図7のテーブルの位置情報の具体例を示す図である。 図3〜図7のテーブルの視聴制限情報の具体例を示す図である。 図3〜図7のテーブルの可視グレードの具体例を示す図である。 図1中の画像表示手段と局所的立体映像情報出力手段の具体的な一例を示す図である。 本発明の複数視点立体映像表示装置の第2の実施の形態のブロック図である。 複数視点立体映像表示方法の第2の実施の形態のフローチャートである。 本発明における光学系の超多眼状態における幾何光学的関係の一例を示す図である。 複数の観察者が異なる立体像を観察する様子を示す図である。 単眼で実像を観察する様子を示す図である。 図19の要部の拡大図である。 図20における10個のレンズのうちの4個のレンズの部分の拡大図である。 局所的立体映像出力手段を構成する一つのレンズの内部での光線の振る舞いを示す図である。 3つのレンズにより実像を結ぶ様子を示す図である。 3つのレンズにより像を結ばない様子を示す図である。 3つのレンズにより虚像を結ぶ様子を示す図である。 立体像が実像として形成される場合の実際の光線を示す図である。 図26の拡大図である。 本発明の複数視点立体映像表示装置の第3の実施の形態のブロック図である。 複数の観察者が局所的立体映像を観察することを示す概念図である。単レンズにより光線が偏向される様子を示す図である。
符号の説明
11 情報分離化器
12 観察者情報入力器
13 表示態様決定器
14 表示態様制御信号発生器
15、18 復号化器
16、205 画像表示手段
17、206 局所的立体映像情報出力手段
19 移相器
20 局所的音響情報出力手段
21 記録媒体
22 再生器
23 ビデオ復号器
24 オーディオ復号器
25 映像CH分離器
26 音響CH分離器
27 局在音場発生器
28 スピーカアレイ
200 2次元画像表示面
205a〜205j 画像表示手段における画素
206a〜206j マイクロレンズアレイのレンズ
300 偏向光学素子
400、405 眼球
500 立体像

Claims (3)

  1. 一の立体映像情報表示手段を用いて、複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する複数視点立体映像表示方法において、
    前記複数の観察者の位置情報及び個人情報を入力する第1のステップと、
    前記立体映像情報の所定の区間毎に予め付与された奥行き情報及び/又は視点間隔情報と前記個人情報とを組み合わせて、前記複数の観察者の各々に個別的に局所的立体映像情報の表示態様を決定する第2のステップと、
    入力された前記位置情報を有する前記複数の観察者の各々に対して、前記第2のステップで決定された表示態様で前記局所的立体映像情報を出力する第3のステップと
    を含むことを特徴とする複数視点立体映像表示方法。
  2. 一の立体映像情報表示手段を用いて、複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する複数視点立体映像表示装置において、
    前記複数の観察者の位置情報及び個人情報を入力する情報入力手段と、
    前記情報入力手段により入力された前記個人情報と、前記立体映像情報の所定の区間毎に予め付与された奥行き情報及び/又は視点間隔情報とを組み合わせて、前記複数の観察者の各々に個別的に局所的立体映像情報の表示態様を決定する表示態様決定手段と、
    前記情報入力手段により入力された前記位置情報を有する前記複数の観察者の各々に対して、前記表示態様決定手段で決定された表示態様で前記局所的立体映像情報を出力する局所的立体映像情報出力手段と
    を有することを特徴とする複数視点立体映像表示装置。
  3. 複数の観察者の各々の視点に対して互いに異なる立体映像情報を表示する複数視点立体映像表示装置をコンピュータにより実行させるための複数視点立体映像表示プログラムにおいて、前記コンピュータに、
    前記複数の観察者の位置情報及び個人情報をリンクさせて記憶する第1のステップと、
    前記立体映像情報の所定の区間毎に予め付与された奥行き情報及び/又は視点間隔情報と前記個人情報とを組み合わせて、前記複数の観察者の各々に個別的に局所的立体映像情報の表示態様を決定する第2のステップと、
    入力された前記位置情報を有する前記複数の観察者の各々に対して、前記第2のステップで決定された表示態様で前記局所的立体映像情報を出力する第3のステップと
    を実行させることを特徴とする複数視点立体映像表示プログラム。

JP2005077942A 2005-03-17 2005-03-17 複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラム Pending JP2006262191A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005077942A JP2006262191A (ja) 2005-03-17 2005-03-17 複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005077942A JP2006262191A (ja) 2005-03-17 2005-03-17 複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラム

Publications (1)

Publication Number Publication Date
JP2006262191A true JP2006262191A (ja) 2006-09-28

Family

ID=37100916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005077942A Pending JP2006262191A (ja) 2005-03-17 2005-03-17 複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラム

Country Status (1)

Country Link
JP (1) JP2006262191A (ja)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011015133A (ja) * 2009-07-01 2011-01-20 Nec Casio Mobile Communications Ltd 端末装置及びプログラム
JP2011035784A (ja) * 2009-08-04 2011-02-17 Sharp Corp 立体映像・立体音響記録再生装置・システム及び方法
WO2011024373A1 (ja) * 2009-08-31 2011-03-03 パナソニック株式会社 立体視制御装置、集積回路、立体視制御方法
CN102196278A (zh) * 2010-03-05 2011-09-21 株式会社东芝 显示设备、***和用于该设备的眼镜
JP2011193463A (ja) * 2011-03-11 2011-09-29 Toshiba Corp 映像処理装置、映像処理方法および立体映像表示装置
JP2011193461A (ja) * 2011-03-11 2011-09-29 Toshiba Corp 映像処理装置、映像処理方法および立体映像表示装置
CN102209253A (zh) * 2011-05-12 2011-10-05 深圳Tcl新技术有限公司 立体显示方法及立体显示***
WO2011129566A3 (ko) * 2010-04-12 2012-01-05 엘지전자 주식회사 이미지 디스플레이 방법 및 장치
JP2012009010A (ja) * 2010-05-25 2012-01-12 Mitsubishi Electric Corp 画像処理装置、画像処理方法および画像表示装置
JP2012142752A (ja) * 2010-12-28 2012-07-26 Toshiba Corp 立体視映像処理装置及び立体視映像処理方法
JP2013531440A (ja) * 2010-06-28 2013-08-01 トムソン ライセンシング 立体コンテンツの3次元効果をカスタマイズする方法及び装置
US8581968B2 (en) 2010-09-08 2013-11-12 Kabushiki Kaisha Toshiba Notification system, shutter glasses, notification method
KR20140025784A (ko) * 2012-08-22 2014-03-05 엘지디스플레이 주식회사 입체영상표시장치
US8767055B2 (en) 2010-10-29 2014-07-01 Au Optronics Corporation Image display method of stereo display apparatus
KR20140100289A (ko) * 2013-02-06 2014-08-14 삼성디스플레이 주식회사 입체 영상 표시 장치 및 그 표시 방법
KR101483659B1 (ko) * 2008-07-11 2015-01-16 삼성디스플레이 주식회사 입체영상 표시방법, 이를 수행하기 위한 표시장치
US9123146B2 (en) 2012-01-27 2015-09-01 Panasonic Intellectual Property Management Co., Ltd. Stereoscopic image display control apparatus, and stereoscopic image display control method
KR101749978B1 (ko) * 2011-02-18 2017-06-22 엘지디스플레이 주식회사 입체영상표시장치
KR101748703B1 (ko) * 2011-02-18 2017-07-03 엘지디스플레이 주식회사 입체영상표시장치
US9838664B2 (en) 2014-02-10 2017-12-05 Sony Corporation Image processing method, image processing device, and electronic apparatus
WO2019058811A1 (ja) * 2017-09-19 2019-03-28 ソニー株式会社 表示装置および表示制御方法
CN117896512A (zh) * 2024-01-29 2024-04-16 上海快来秀展示科技有限公司 一种基于裸眼3d显示屏的显示方法及***

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05241099A (ja) * 1992-03-02 1993-09-21 A T R Tsushin Syst Kenkyusho:Kk 観察者追従型表示装置
JPH07235131A (ja) * 1994-02-22 1995-09-05 Victor Co Of Japan Ltd 再生プロテクト方法及びプロテクト再生装置
JP2004289527A (ja) * 2003-03-24 2004-10-14 Sanyo Electric Co Ltd 立体画像表示装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05241099A (ja) * 1992-03-02 1993-09-21 A T R Tsushin Syst Kenkyusho:Kk 観察者追従型表示装置
JPH07235131A (ja) * 1994-02-22 1995-09-05 Victor Co Of Japan Ltd 再生プロテクト方法及びプロテクト再生装置
JP2004289527A (ja) * 2003-03-24 2004-10-14 Sanyo Electric Co Ltd 立体画像表示装置

Cited By (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101483659B1 (ko) * 2008-07-11 2015-01-16 삼성디스플레이 주식회사 입체영상 표시방법, 이를 수행하기 위한 표시장치
JP2011015133A (ja) * 2009-07-01 2011-01-20 Nec Casio Mobile Communications Ltd 端末装置及びプログラム
JP2011035784A (ja) * 2009-08-04 2011-02-17 Sharp Corp 立体映像・立体音響記録再生装置・システム及び方法
WO2011024373A1 (ja) * 2009-08-31 2011-03-03 パナソニック株式会社 立体視制御装置、集積回路、立体視制御方法
CN102196278A (zh) * 2010-03-05 2011-09-21 株式会社东芝 显示设备、***和用于该设备的眼镜
JP2011188118A (ja) * 2010-03-05 2011-09-22 Toshiba Corp 表示装置、システム、及びメガネに関する
US8860791B2 (en) 2010-03-05 2014-10-14 Kabushiki Kaisha Toshiba Stereoscopic display system with glasses information
CN102196278B (zh) * 2010-03-05 2014-06-11 株式会社东芝 显示设备、***和用于该设备的眼镜
WO2011129566A3 (ko) * 2010-04-12 2012-01-05 엘지전자 주식회사 이미지 디스플레이 방법 및 장치
KR101370927B1 (ko) 2010-04-12 2014-03-10 엘지전자 주식회사 이미지 디스플레이 방법 및 장치
CN102918847A (zh) * 2010-04-12 2013-02-06 Lg电子株式会社 显示图像的方法和设备
US9137523B2 (en) 2010-04-12 2015-09-15 Lg Electronics Inc. Method and apparatus for controlling image display so that viewers selectively view a 2D or a 3D service
CN102918847B (zh) * 2010-04-12 2015-09-23 Lg电子株式会社 显示图像的方法和设备
JP2012009010A (ja) * 2010-05-25 2012-01-12 Mitsubishi Electric Corp 画像処理装置、画像処理方法および画像表示装置
JP2013531440A (ja) * 2010-06-28 2013-08-01 トムソン ライセンシング 立体コンテンツの3次元効果をカスタマイズする方法及び装置
US10154243B2 (en) 2010-06-28 2018-12-11 Interdigital Madison Patent Holdings Method and apparatus for customizing 3-dimensional effects of stereo content
US8581968B2 (en) 2010-09-08 2013-11-12 Kabushiki Kaisha Toshiba Notification system, shutter glasses, notification method
US8767055B2 (en) 2010-10-29 2014-07-01 Au Optronics Corporation Image display method of stereo display apparatus
US8872903B2 (en) 2010-12-28 2014-10-28 Kabushiki Kaisha Toshiba Stereoscopic video processor and stereoscopic video processing method
JP2012142752A (ja) * 2010-12-28 2012-07-26 Toshiba Corp 立体視映像処理装置及び立体視映像処理方法
KR101748703B1 (ko) * 2011-02-18 2017-07-03 엘지디스플레이 주식회사 입체영상표시장치
KR101749978B1 (ko) * 2011-02-18 2017-06-22 엘지디스플레이 주식회사 입체영상표시장치
JP2011193463A (ja) * 2011-03-11 2011-09-29 Toshiba Corp 映像処理装置、映像処理方法および立体映像表示装置
JP2011193461A (ja) * 2011-03-11 2011-09-29 Toshiba Corp 映像処理装置、映像処理方法および立体映像表示装置
CN102209253A (zh) * 2011-05-12 2011-10-05 深圳Tcl新技术有限公司 立体显示方法及立体显示***
US9123146B2 (en) 2012-01-27 2015-09-01 Panasonic Intellectual Property Management Co., Ltd. Stereoscopic image display control apparatus, and stereoscopic image display control method
KR101922722B1 (ko) * 2012-08-22 2018-11-27 엘지디스플레이 주식회사 입체영상표시장치
KR20140025784A (ko) * 2012-08-22 2014-03-05 엘지디스플레이 주식회사 입체영상표시장치
KR20140100289A (ko) * 2013-02-06 2014-08-14 삼성디스플레이 주식회사 입체 영상 표시 장치 및 그 표시 방법
KR101960897B1 (ko) 2013-02-06 2019-07-16 삼성디스플레이 주식회사 입체 영상 표시 장치 및 그 표시 방법
US9838664B2 (en) 2014-02-10 2017-12-05 Sony Corporation Image processing method, image processing device, and electronic apparatus
WO2019058811A1 (ja) * 2017-09-19 2019-03-28 ソニー株式会社 表示装置および表示制御方法
JPWO2019058811A1 (ja) * 2017-09-19 2020-11-12 ソニー株式会社 表示装置および表示制御方法
JP7184042B2 (ja) 2017-09-19 2022-12-06 ソニーグループ株式会社 表示装置および表示制御方法
CN117896512A (zh) * 2024-01-29 2024-04-16 上海快来秀展示科技有限公司 一种基于裸眼3d显示屏的显示方法及***

Similar Documents

Publication Publication Date Title
JP2006262191A (ja) 複数視点立体映像表示方法及び複数視点立体映像表示装置並びに複数視点立体映像表示プログラム
JP5573683B2 (ja) 立体映像鑑賞システム、表示システム、光シャッタおよび立体映像鑑賞方法
KR20110044573A (ko) 디스플레이장치 및 그 영상표시방법
JP4513645B2 (ja) 複数視点映像表示方法及び複数視点映像表示装置並びに複数視点映像表示プログラム
US7492513B2 (en) Autostereoscopic display and method
JP5573682B2 (ja) 立体映像鑑賞システム、表示システム、光シャッタおよび立体映像鑑賞方法
ES2597252T3 (es) Ajuste de profundidad de una superposición de imagen en una imagen 3D
JP2006270924A (ja) 映像データ処理装置、映像再生装置、映像データ処理方法、映像再生方法、これらの方法をコンピュータによって実行するためのプログラム並びに記録媒体
KR20180020695A (ko) 헤드 마운티드 디스플레이 장치의 시야 확장 방법 및 이를 이용한 장치
WO2012117703A1 (ja) 三次元画像処理装置、三次元画像処理方法、三次元画像視聴用眼鏡装置、三次元画像処理装置用集積回路、光ディスク再生装置、三次元映像信号再生装置および三次元映像信号表示装置
US20170195666A1 (en) Multi person viewable 3d display device and filter glasses based on frequency multiplexing of light
JP2013504244A (ja) ビデオ映像倍速再生方法及び該装置
KR101527111B1 (ko) 영상 표시 장치 및 방법
US20130038685A1 (en) 3d display apparatus, method and structures
CN103149697B (zh) 一种立体影像重现***
JP2006340027A (ja) 立体映像表示方法
Wang et al. 3D presentation in surgery: a review of technology and adverse effects
JP5629825B2 (ja) ステレオスコピック動画ファイルの構成方法
Mikšícek Causes of visual fatigue and its improvements in stereoscopy
JP2014175813A (ja) 立体映像表示方法および装置
TT Health Impacts of Stereoscopic Film Projection: A Study on South Indian Viewers
CN102710947A (zh) 视频信号处理装置和视频信号处理方法
Grasnick The hype cycle in 3D displays: inherent limits of autostereoscopy
Didier et al. How to ensure a good depth perception on a light field display
KR101112085B1 (ko) 3d tv용 역 다중화 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070629

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100126

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100608