JP2012100015A - 三次元映像再生装置 - Google Patents

三次元映像再生装置 Download PDF

Info

Publication number
JP2012100015A
JP2012100015A JP2010245300A JP2010245300A JP2012100015A JP 2012100015 A JP2012100015 A JP 2012100015A JP 2010245300 A JP2010245300 A JP 2010245300A JP 2010245300 A JP2010245300 A JP 2010245300A JP 2012100015 A JP2012100015 A JP 2012100015A
Authority
JP
Japan
Prior art keywords
video
threshold
unit
data
speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010245300A
Other languages
English (en)
Inventor
Tomokazu Miyazawa
友和 宮澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2010245300A priority Critical patent/JP2012100015A/ja
Publication of JP2012100015A publication Critical patent/JP2012100015A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】視聴者の視点が移動する場合の3D 映像に対して3D 酔いの対策を行うことにより、効果的な3D酔い防止策を実現する。
【解決手段】三次元動画の映像にその映像を捕えたカメラ位置の移動速度が付加された記録映像を取得し再生する映像取得部と、カメラ位置の移動速度に係る閾値を予め格納する記憶部と、取得された記録映像の再生中に前記カメラ位置の移動速度と前記閾値とを比較し、移動速度が閾値を超える時間帯と閾値以下の時間帯とに前記映像を分離する映像分離部と、閾値を超える時間帯に再生する映像を補正する映像補正部と、閾値を超える時間帯は前記映像補正部により補正された映像を表示し閾値以下の時間帯は前記映像補正部による補正がされない映像を表示するように制御する表示制御部とを備えることを特徴とする三次元映像再生装置。
【選択図】図2

Description

この発明は、三次元動画の映像にその映像を捕えた撮影装置の時間に伴う位置の変化量が付加されてなる三次元映像の再生装置に関する。
一般に立体映像(3D 映像)を観察する場合、通常の二次元映像(2D 映像)を観察する場合に比べて、目が疲労しやすいといわれている。加えて、表示されている対象物に激しい動きがあったり、あるいは映像を撮影するカメラの側に激しい動きがあったりした場合に、視聴者が頭痛や吐き気を伴うことがある。いわゆる「3D 酔い」といわれる症状である。この症状に対する根本的な対応策は無く、3D 映像を提供する装置や施設は、視聴者に長時間の使用を避けるよう注意勧告するといったような対策に留まらざるを得なかった。
しかし、例えば、DVD、BlueRayプレーヤー等の再生機や映画メディアのマニュアルなどに、長時間の視聴を避けるように注意事項を記述したとしても、視聴者がコンテンツ視聴中にそれを思い出し、注意事項に従うとは限らない。視聴者が意識せずとも、3D映像を見るのを避ける、あるいは移動速度の大きい3D映像を表示しないといったような仕組が実効ある対策として望まれている。
このような「3D 酔い」を考慮した発明として、立体映像視聴用眼鏡に額の皮膚温を検出するセンサと鼻の皮膚温を検出するセンサとを設け、さらに、立体映像視聴用眼鏡に瞬きを検出するセンサを設けたものが提案されている。額と鼻の皮膚温の検出結果は、興奮度データ変喚器に導かれて興奮度が得られる。瞬きの検出結果は疲労度データ変換器に導かれて疲労度が得られる。このようにして取得された興奮度と疲労度に基づいて、3D 映像の立体強調度を調整するものである。より具体的には、この立体強調度に応じて2次元3次元変換をする立体テレビジョン受像機のフィールドメモリの遅延量を制御する(例えば、特許文献1参照)。
さらに、入力された映像信号から観察者に与える影響度を評価し、その影響度の評価結果に基づいて立体映像の立体度を調整しあるいは立体映像を2次元映像へ切り替える映像システムが提案されている(例えば、特許文献2参照)。前記映像システムは、3次元映像信号を送出する3D 映像再生機と、該3D 映像再生機からの3D 映像信号の視差量を検出する視差量検出部と、検出された視差量に基づいて疲労度を評価し、疲労度評価量に対応して映像切り替え信号を出力する疲労度評価部と、映像切り替え信号に基づいて3次元映像と2次元映像とを切り替え出力する3D 映像/2D 映像切り替え部と、3次元映像又は2次元映像を表示する映像表示部とで構成される。
この映像システムによれば、観察者の生理的な計測を行わずに映像の調整や切換えを行い観察者に過度の疲労を与えないようにできる。
特開平9−23451号公報 特開平11−355808号公報
前記特許文献1のように、観察者の生理的な計測値に基づいて立体強度を制御する手法では、得られる計測値と疲労度の関係に計測誤差や個人差があり全ての観測者にとって適切な度合いに立体度を調整し、観察者の疲労度を適切に制御することは容易でない。さらに、各観察者について個別に計測値を得るのは処理が煩雑である。
また、前記特許文献2のように、映像データ上の立体度や移動速度を元に疲労度への影響度を評価する手法は、次の点で評価の精度が十分とはいえない。酔いの一因として、視聴者が想定する移動ベクトルと、実際の画面上の3D映像の差異があげられる。すなわち、映像データ上は同一の立体度や移動速度が同じであっても、視聴者の視点が固定され視界内の一部の対象物が移動する場合と、視聴者の視点そのものが移動することにより視界内のすべての対象物が移動する場合とで、観察者が受ける3D 酔いの影響に差異がある。当然後者の方が、3D 酔いの影響が大きいと考えられる。よって、画面内の対象物の立体度や移動速度よりも、むしろ視聴者の視点の移動に基づく評価が好ましいといえる。
この発明は、以上のような事情を考慮してなされたものであって、視聴者の視点そのものが移動する場合の3D 映像に対して3D 酔いの対策を行い、効果的な3D酔い防止策を実現する手法を提供するものである。
この発明は、三次元動画の映像にその映像を捕えたカメラ位置の移動速度が付加された記録映像を取得し再生する映像取得部と、カメラ位置の移動速度に係る閾値を予め格納する記憶部と、取得された記録映像の再生中に前記カメラ位置の移動速度と前記閾値とを比較し、移動速度が閾値を超える時間帯と閾値以下の時間帯とに前記映像を分離する映像分離部と、閾値を超える時間帯に再生する映像を補正する映像補正部と、閾値を超える時間帯は前記映像補正部により補正された映像を表示し閾値以下の時間帯は前記映像補正部による補正がされない映像を表示するように制御する表示制御部とを備えることを特徴とする三次元映像再生装置を提供する。
即ち、前述の課題を解決するために、3D 映像作成時にその映像をとらえたカメラの移動量(移動、回転など)を記録しておく。作成された3D 映像を再生するとき、カメラの移動は視聴者の視点の移動に相当する。再生装置には、移動の速さに係る閾値を取得しておく。前記閾値は視聴者ごとに設定可能とすることが好ましい。再生される3D 映像のうち記録された移動量が前記閾値を超える部分については、画面の表示を消す、3D 映像の再生速度を落とす、あるいは2D 映像に切り替えるなどの処理を行う。
この発明の再生装置は、三次元動画の映像にその映像を捕えたカメラ位置の移動速度が付加された記録映像を取得し再生する映像取得部と、閾値を超える時間帯に再生する映像を補正する映像補正部と、閾値を超える時間帯は前記映像補正部により補正された映像を表示し閾値以下の時間帯は前記映像補正部による補正がされない映像を表示するように制御する表示制御部とを備えるので、視聴者の視点そのものが移動する場合の3D 映像に対して3D 酔いの対策を行い、効果的な3D酔い防止策を実現することができる。
すなわち、視聴者が意識せずとも、3D酔いの発生を防ぎ、視聴者の健康への影響を抑えることが可能である。
この発明において、三次元動画は、視聴者の左眼と右目に視差の分だけ互いに異なる映像をみせることによって視聴者が平面状の表示装置に表示される映像に奥行き、あるいは立体感を感じるようにした映像である。
このような三次元動画を再生する装置には、いわゆる3D テレビとしてすでに市販されているものが含まれる。従来と異なるこの発明の特徴的な一側面は、3D 映像作成時にその映像をとらえたカメラの位置の移動(直線移動や回転など)の速さが付加されて提供されることを前提とし、付加された移動速度に基づいて3D酔い防止の対策を行うことにある。
この発明の映像取得部は、前述のようにカメラ位置の移動速度が付加された三次元映像を取得して再生するものである。前記三次元映像は、DVD、ブルーレイディスクあるいはメモリーカードといったような記録媒体に記録されて提供されてもよい。あるいは、インターネット等の通信手段を介してアクセス可能な状態で提供されてもよい。前者の場合、映像取得部は、例えばブルーレイディスクドライブのような、記録媒体に格納された映像を読み出すものであり、後者の場合はオンデマンドであるいはダウンロードして映像を再生する装置に相当する。
記憶部は、設定された閾値を少なくとも格納する不揮発性のメモリである。さらに、再生する映像データの全部または一部を格納してもよい。その具体的態様としては、ハードディスク装置やフラッシュメモリなどのハードウェアに相当する。
映像分離部は、取得された記録映像に含まれる各時点のカメラ位置の移動速度の情報と記憶部に格納された閾値とを比較し、閾値を超える移動速度の映像をそうでない映像とを分離する処理をおこなうものである。具体的な態様としては、コンピュータ、デジタル・シグナル・プロセッサあるいは専用の処理回路により実現される。映像の分離は、例えばカメラ位置の移動速度が閾値を超える時間帯の映像を少なくとも一つのパケットとし、閾値以下の時間帯の映像を他のパケットとし、それぞれのパケットに閾値を超えるものか否かの属性を付加する処理をおこなうようにしてもよい。
映像補正部は、カメラ位置の移動速度が閾値を超える映像の表示を補正する処理を行う。映像補正部の具体的な態様としては、コンピュータ、デジタル・シグナル・プロセッサあるいは専用の処理回路により実現される。後述する実施例において、この映像補正部は、2D 化映像生成部、メッセージ表示生成部および低速映像生成部に相当する。
表示制御部は、表示装置の動作を制御しかつ表示装置に表示させる内容を制御するものである。その具体的な態様は、例えば、液晶表示装置の駆動回路、ビデオRAM等の回路を含む表示制御回路、その前段にあってビデオRAMに入力する映像データを切換える回路、および、それらの回路を制御するCPUなどである。
この発明に係る3D 映像撮影装置の構成例を示すブロック図である。 この発明に係る3D 映像の再生装置の構成例を示すブロック図である。 この発明に係る撮影装置が撮影対象に対し撮影位置を変化させる例を示す説明図である。 図3の(a)〜(d)の移動に対応する映像を示す説明図である。 この発明に係る3D 映像に3D 酔い対応を行う例を示す説明図である。 この発明に係る速度データ生成部が映像データ捕捉の際に実行する処理の手順を示すフローチャートである。 この発明に係る閾値データを設定する際に、再生装置のメニュー制御部が実行する処理の手順を示すフローチャートである。 この発明に係る再生装置のCPUが再生時に行う処理の手順を示す第1のフローチャートである。 この発明に係る再生装置のCPUが再生時に行う処理の手順を示す第2のフローチャートである。
以下、この発明の好ましい態様について説明する。
あるいはまた、前記映像補正部は、取得された映像の再生速度を遅くするものであってもよい。このようにすれば、映像の再生速度を遅くすることにより視点の移動速度が閾値を超えないように補正することにより視聴者の3D 酔いを防ぐことができる。
さらにまた前記映像補正部は、前記映像のフレームを間引いてコマ送りに補正するものであってもよい。このようにすれば、映像をコマ送りすることにより視点の移動の現実感を弱めるような補正することにより視聴者の3D 酔いを防ぐことができる。
また、前記映像補正部は、閾値を超える時間帯は視聴者に取得された映像をみせないように補正するものであってもよい。このようにすれば、閾値を超えた速度で視点が移動するときは視聴者が三次元映像をみないように補正することにより視聴者の3D 酔いを防ぐことができる。
さらに、前記映像補正部は、所定のメッセージを表示するように補正するものであってもよい。このようにすれば、意図的に三次元映像をみないようにしていることを視聴者に知らせて、例えば再生装置の故障と視聴者が勘違いしないようにできる。
前記映像補正部は、三次元の映像を二次元の映像に補正するものであってもよい。このようにすれば、閾値を超えた速度で視点が移動するときは三次元映像から立体感をなくす補正を行うことにより視聴者の3D 酔いを防ぐことができる。
さらに、前記三次元動画の映像は、視差分だけ互いに異なる右眼用映像と左眼用映像とを含んでなり、前記映像補正部は、視聴者の両眼に右眼用映像のみを観せるかまたは左眼用映像データのみを観せるように補正するものであってもよい。このようにすれば、例えば、左眼用の映像と右眼用の映像を合成するといったような複雑な処理を伴わず、単純な処理で三次元映像から立体感をなくす補正を行うことができる。
前記記憶部は、前記閾値の設定をユーザーが行うために、カメラ位置の移動速度が変化する閾値設定用映像を予め格納してもよい。このようにすれば、移動速度が変化する閾値設定用映像を視聴者にみせてどの移動速度で3D 酔いを感じるかを個別に設定させることができる。
ここで示した種々の好ましい態様は、それら複数を組み合わせることもできる。
以下、図面を用いてこの発明をさらに詳述する。なお、以下の説明は、すべての点で例示であって、この発明を限定するものと解されるべきではない。
≪3D 映像作成と速度データの対応付け≫
この発明に係る3D 映像を作成するときの処理について説明する。
図1は、この発明に係る3D 映像撮影装置の構成例を示すブロック図である。図1に示すように、撮影装置11は、撮像部13、映像データ生成部15、補助記憶部17、加速度センサ21、角速度センサ23、距離検出デバイス25、角速度→速度変換部27、速度データ生成部29を含んでなる。
3D映像撮像部13は、映像を捕捉する。3D 映像は複数の視点から捕らえた映像から生成されるので、撮像部13は位置の異なる複数のレンズあるいは複数のカメラである。映像データ生成部15は、各カメラで捕捉された映像を統合して3D映像を生成する。補助記憶部17は、映像データ生成部15で生成された映像データを格納する(映像データ41)。さらに、後述する速度データを速度テーブル43として格納する。
加速度センサ21、角速度センサ23および距離検出デバイス25は、3D 映像を撮影するときの撮影装置11の移動情報を検出する。加速度センサ21は直線方向の移動を、角速度センサ23は回転を、距離検出デバイス25は、レンズ焦点距離の変化をそれぞれ検出する。撮影された3D 映像を視聴者が観る段階で、これらのセンサにより検出された移動情報は、視聴者の視点の移動情報を提供することになる。
角速度→速度変換部27は、角速度センサ23と距離検出デバイス25の検出結果に基づいて撮影対象の移動速度の情報を生成する。速度データ生成部29は、加速度センサ21で検出された直線方向の移動と角速度→速度変換部27で生成された速度情報、即ち、回転に伴う移動の速度情報とを合成して撮影対象についての速度データを生成する。この速度データは、視聴者の視点が移動することによって3D 映像の撮影対象が相対的に移動するときの速度データである。
なお、変形例として3D 映像撮像部13が独立した複数のカメラからなりシステムとして構成される態様も考えられる。この場合、各カメラに加速度センサ21、角速度センサ23および距離検出デバイス25を装着してもよいが、視点を代表するカメラにのみ装着してもよい。
速度データ生成部29は、映像データ41の各時刻に対応する速度データを生成し、補助記憶部17中の速度テーブル43に、各時刻の速度データを格納する。速度データ生成部29が処理する速度データのサンプリングの間隔は、予め定められた一定の間隔であってもよいが、撮影者が間隔を設定してもよい。あるいは、速度データに閾値を超える変化があった場合にサンプリングを行うようにしてもよい。そのサンプリング間隔は一定でもよいが、速度データの変化の大きさに応じてサンプリングの間隔が変化してもよい。
なお、速度データ生成部29の機能は、CPUあるいはマイクロコンピュータが制御プログラムを実行することにより実現されてもよい。
この実施形態において速度データ生成部29は、X、YおよびZ方向の直交する3次元の座標成分として速度データを生成する。これらは、例えば、視聴者を基準とした左右、上下および前後(即ち奥行き)方向である。勿論、速度データの態様はこれに限定されるものではない。例えば、左右、上下方向の情報に変えて極座標形式の情報を用いてもよい。原則的に、視聴者が移動に敏感な成分に対応させることが好ましい。速度データの単位としては、所定の画面サイズの画素ピッチを移動距離の単位とし、時間の単位を秒とした「画素/秒」で速度データを表してもよい。例えば、フルハイビジョン動画は、1フレームの映像が縦1080×横1920の画素から構成され、40インチの画面サイズにおける画素ピッチは0.648mmである。これを距離の単位とする。あるいは画面の左端から右端までを移動距離の単位とし、時間の単位をミリ秒とした「/ミリ秒」で速度データを表してもよい。勿論、これらの例に限定されるものではなく他の方法で表現してもよい。
以上のようにして、3D の映像データ41が、各時刻における視聴者の視点の移動を表す速度データと対応づけられて生成され、補助記憶部17に格納される。
≪3D 映像データ再生時の処理≫
続いて、この発明に係る3D 映像を再生するときの処理について説明する。
図2は、この発明に係る3D 映像の再生装置の構成例を示すブロック図である。図2に示すように、再生装置51は、映像取得部53、映像分離部55、映像バッファ57、記憶部61、表示制御部75、表示部77、2D 化映像生成部81、メッセージ表示生成部83、低速映像生成部85、制御部87、メニュー制御部89、リモコン受光部91および3D メガネ通信部95を含んでなる。図2では、3D メガネ97およびリモコン93を除いた各部は、一つの装置として構成されている。ただし、これは一例であり、変形例として表示部77がさらに別体である態様や、映像バッファ57までの各ブロックとそれ以降の各ブロックとが別体のシステムとしての態様も考えられる。
映像取得部53は、図1の撮影装置で作成された映像データ41とそれに対応する速度テーブル43とを取得する。具体的には、映像データ41および速度テーブル43の内容がDVDなどの記録メディアに記録されて配布され、映像取得部53は前記記録メディアに記録された映像データおよび速度テーブルを取得する。あるいは、異なる態様として、映像データ41および速度テーブル43の内容がインターネット等の通信手段を介してアクセス可能な状態で公開される。そして、映像取得部53は、通信手段を介して公開された映像データおよび速度テーブルにアクセスしオンデマンドであるいはダウンロードによりその映像データを取得してもよい。
映像分離部55は、後述する2D 化映像生成部81、メッセージ表示生成部83や低速映像生成部85が取得した映像データを処理できるように時系列に分離する。即ち、3D 酔いに対する処理を行う部分とそれ以外の部分とを識別して分離する。映像バッファ57は、映像分離部55で処理された映像データを格納するバッファである。
記憶部61は、映像データの再生に関するデータを格納するメモリである。記憶部61は、速度テーブル63、閾値データ65、解像度データ67、補正方法指定69、サンプル映像データ71およびサンプル映像速度テーブル73を格納する。映像データをダウンロードする場合は、さらにダウンロードした映像データを格納する。
速度テーブル63は、再生すべき映像データに対応する速度テーブルであって、図1の速度テーブル43の内容が映像取得部53により取得されて記憶部61に格納される。
閾値データ65は、映像データに対して3D 酔いの対応を行うか否かを判断する閾値である。図2の例では、ユーザー(視聴者)ごとの閾値データを格納している。
解像度データ67は、映像データの解像度を示すデータである。奥行き方向すなわち立体度についても奥行き表現の細かさを仮想的な解像度として表している。
補正方法指定69は、映像データの立体度が閾値を超える場合に3D 酔いの対応をどのように行うかの指定を保持している。図2の場合、当該補正は、2D 化、メッセージ表示あるいは低速映像の生成のいずれかである。ユーザーは設定メニューを用いていずれかの補正方法を指定する。指定された補正方法に基づいて、2D 化映像生成部81、メッセージ表示生成部83または低速映像生成部85のいずれかが3D 酔いの対応の処理を行う。なお、図2では、補正方法指定69は一つだけで各ユーザーに共通の設定であるかのように表記しているが、ユーザーごとに個別に指定できるようにしてもよい。
サンプル映像データ71は、閾値データ65をユーザーごとに設定する際に表示部77に表示させる映像データである。例えば、視点の移動速度が次第に加速する3D 映像データである。ユーザーは、設定メニューを用いてこのサンプル映像データ71を表示部77に表示させる。ユーザーがその映像を視聴して不快に感じた時点でリモコン93を用いて所定の操作を行い、そのときの速度データを閾値として閾値データ65に記録する。サンプル映像速度テーブル73は、サンプル映像データ71に対応する速度テーブルである。その対応関係は、映像データ41と速度テーブル43との対応関係に相当するものである。
表示制御部75は、表示部77の画面表示を制御する回路である。表示部77は、3D 映像が表示可能な液晶表示装置である。ただし、表示部77は液晶表示装置に限定されるものでない。異なる動作原理のプラズマディスプレイ表示装置や有機EL表示装置であってもよく、また、方式の異なる投影型の表示装置であってもよい。
2D 化映像生成部81は、3D 酔いの対応処理として、映像データを3D 表示から2D 表示に切換える処理を行う。
メッセージ表示生成部83は、3D 酔いの対応処理として、3D 映像データの表示を一時的にやめ断りのメッセージを表示する処理を行う。具体的な例としては、「ただ今体調に悪影響を与えかねない、激しい動きのため、画面をオフにしています」といったメッセージを3D 映像に代えて表示部77に表示する。
低速映像生成部85は、3D 酔いの対応処理として、3D 映像データの再生速度を落とす処理を行う。この場合、音声も連動させる。あるいは、映像データの表示コマを間引いていわば紙芝居のような再生にしてもよい。単位時間あたりの画面変化を減らして目の負担を少なくする手法である。
制御部87は、映像データの再生に係る各ブロックの制御を行う。なお、制御部87はCPUあるいはマイクロコンピュータが処理プログラムを実行することによりその機能が実現されてもよい。さらにそのCPUあるいはマイクロコンピュータは、制御部用処理プログラムとは別のプログラムを実行することにより、他のブロックの機能を実現してもよい。例えば、映像分離部55、2D 化映像生成部81、メッセージ表示生成部83低速映像生成部85やメニュー制御部89などの機能である。
メニュー制御部89は、閾値データ65の設定や補正方法指定69の指定をユーザーが行うために用いる設定メニューを表示部77に表示させる制御を行う。
リモコン受光部91は、外部のリモコン93からの信号を受信する回路である。リモコン93は、視聴者がこの再生装置51に対する指示を行う際の操作に用いる。その指示には、前述の設定メニューを用いた閾値データ65の設定や補正方法指定69の設定が含まれる。
3D メガネ通信部95は、視聴者が3D 映像を視聴する際に装着する3D メガネ97との間で無前通信を行う。通信は3D メガネ97が有するシャッターの制御に関する。
≪3D 酔い対応の具体例≫
次に、撮影装置の移動、即ち、視聴者の視点の移動と3D 映像表示を対応させつつ、この発明に係る3D 酔い対応の具体例を説明する。
図3は、この発明に係る撮影装置11に対応するカメラが撮影対象31に対し撮影位置を変化させる例を示す説明図である。図3に示すように、撮影装置11は、初期の(a)撮影開始位置から、1000画素/秒の移動速度で(b)の矢印に沿って直線状に左斜め前方へ移動し撮影対象31に接近する。続いて、(c)の矢印に示すように右方へ回転する。回転は、擬似的に微少な直線運動の連続に換算する。換算された移動速度は、4000画素/秒である。次いで撮影装置11は、(d)の矢印に沿って500画素/秒の速度で直線状に移動する。
図4は、図3の(a)〜(d)の移動に対応する映像を示す説明図である。ただし、図4は、3D 酔い対応を行う前の映像を示している。図4(a)は、撮影開始時の映像であり、画面中央付近の遠方に撮影対象31が写っている。図4(b)は、図3の矢印(b)に沿った移動の前後における撮影対象31の変化を示している。なお、矢印は時間の流れを示すために付したものであり、矢印が画面に写っている訳ではない。移動の初めは矢印の始点側のように写っている対象物が移動の終わりには矢印の先端側のように写っていることを示している。即ち、図3の矢印(b)の移動の前後で、撮影対象31は画面中央付近から次第に画面右方へ移動しかつクローズアップされる。
図4(c)は、図3の矢印(c)に示す回転の前後を示す。図4(c)に示すように、撮影対象31は、大きさをほぼ維持しつつ画面の右端部から左端部へ移動する。図4(d)は、図3の矢印(d)の移動の前後を示す。撮影対象31は、画面左端部からさらに左方へかつ遠方へさらに移動しやがて画面の外へ去っていく。
図4の映像に対して、3D 酔い対応を行う具体例を説明する。この実施形態において、3D 酔い対応を行うか否かの閾値は、3000画素/秒に設定されているものとする。そうすると、図4の(a)撮影開始から(d)移動までの映像のうち、視聴者の視点の移動速度が前述の閾値を超える映像は(c)回転の段階の映像である。
映像分離部55は、図4(a)、(b)の映像のパケットと図4(c)の映像を分離し、図4(c)の映像と(d)の映像のパケットを分離する。そして、図4(c)の映像データに対し3D 酔い対応を行うべき旨の属性を付加する。
2D 化映像生成部81、メッセージ表示生成部83および低速映像生成部85は、映像分離部55により映像データに付加された前記属性と、補正方法指定69とを監視している。補正方法指定69による指定がなされた2D 化映像生成部81、メッセージ表示生成部83または低速映像生成部85は、映像バッファ57から取り出した映像データのパケットに前記属性が付加されている場合、そのパケットの映像データに対して処理を行う。なお、補正方法指定69による指定がされていないものは、処理を行わない。
図5は、この発明に係る3D 映像に3D 酔い対応を行う例を示す説明図である。図5で、(c)入力映像は、図4(c)の映像と同一のものであり、2D 化映像生成部81、メッセージ表示生成部83および低速映像生成部85がそれぞれ3D 酔い対応を行う対象の映像である。
図5(c−1)は、図5(c)の入力映像に対する2D 化映像生成部81の出力映像を示している。2D 化映像生成部81は、入力映像から視差をなくした映像を生成して出力する。即ち、図5(c)の入力映像には、右眼用映像と左眼用映像が含まれるが、それらの映像は異なる視点から同じ撮影対象31を観たものである。これを2D 映像化する最も単純な手法は、左眼用映像を右眼用映像で置換しあるいは右眼用映像を左眼用映像で置換して右眼用映像と左眼用映像を同一にするものである。
図5(c−2)は、図5(c)の入力映像に対するメッセージ表示生成部83の出力映像を示している。メッセージ表示生成部83は、入力映像に代えて「ただ今、激しい動きのため、画面をオフしています」のメッセージを出力する。なお、このとき入力映像を完全にオフするのではなく、縮小した映像を画面の一部に表示したり、輝度を落とした映像をメッセージの背景に表示したりして視聴者がストーリーの進行を把握できるようにしてもよい。
図5(c−3)は、図5(c)の入力映像に対する低速映像生成部85の出力映像を示している。低速映像生成部85は、視聴者の視点の移動が閾値以下になるように再生速度を落として映像を表示する。あるいは、入力映像のフレームを間引いてコマ送りのように再生する。なお、このときに低速再生あるいはフレームの間引きをしている旨のメッセージを表示してもよい。
≪映像データ作成の処理手順≫
以下、映像データの捕捉を行う場合に速度データ生成部29が行う処理の手順を説明する。
図6は、この発明に係る速度データ生成部29が映像データ捕捉の際に実行する処理の手順を示すフローチャートである。図6に示すように、映像データの捕捉が開始されると、速度データ生成部29は、距離検出デバイス25が検出するレンズ焦点距離の情報を読取る(ステップS11)。レンズ焦点距離は、撮影対象までの奥行き方向の距離を提供する。さらに速度データ生成部29は、角速度センサ23が検出する角速度の情報を読取る(ステップS13)。これは、視聴者が視点の向きを変える回転の速さを与える。
速度データ生成部29は、焦点距離あるいは角速度に変化があったか否かを判断する(ステップS15)。変化があった場合、角速度→速度変換部27を用いて焦点距離と角速度の情報をxyz方向の移動速度の情報に変換し(ステップS17)、変換された移動速度を検出の時刻tと共に補助記憶部17の速度テーブル43に書き込む(ステップS19)。前記ステップS15で変化がない場合、ルーチンはステップS21へ進む。
速度データ生成部29は、加速度センサ21が検出する加速度の情報を読取る(ステップS21)。そして、加速度に変化があったか否かを判断し(ステップS23)、変化があった場合は、検出された加速度情報をxyz方向の速度情報に変換し(ステップS25)、変換された移動速度を検出の時刻tと共に補助記憶部17の速度テーブル43に書き込む。前記ステップS19で速度テーブル43に既にデータが書き込まれている場合は、そのデータを補正する(ステップS27)。前記ステップS23で変化がない場合、ルーチンはステップS29へ進む。
速度データ生成部29は、次のサンプリング時刻として現在時刻tを更新する(ステップS29)。そして、映像データの捕捉が続いるか否かを判断する(ステップS31)。捕捉が続いている場合(ステップS31のNO)、ルーチンはステップS11へ進み、サンプリングを繰り返す。捕捉が終了した場合(ステップS31のYES)、捕捉されて補助記憶部17に格納された映像データ41と速度テーブル43とを対応づけておく。
以上が撮影時に速度データ生成部29が行う処理である。
≪閾値設定および補正方法指定の処理手順≫
次に、図2の閾値データ65を設定する際に、再生装置のメニュー制御部87が実行する処理の手順を説明する。この実施形態において、メニュー制御部89の機能は、CPUが制御プログラムを実行することにより実現される。
図7は、この発明に係る閾値データ65を設定する際に、再生装置のメニュー制御部89が実行する処理の手順を示すフローチャートである。図7に示すように、メニュー制御部89としてのCPUは、ユーザーがリモコン93を操作したことにより発せられた光信号をリモコン受光部91が検出したことに応答し、表示部77に閾値設定用のメニューを表示させる。最初に表示させるメニューは、ユーザーの新規登録または選択、および、閾値をユーザーが直接設定するか(直接入力)、サンプル映像を用いた簡易な設定を行うかの選択メニューである(ステップS41)。この選択メニューの表示に対してユーザーがリモコン93を操作して指示を行うと、前記CPUは、指示の内容を判断する(ステップS43)。閾値を直接設定する旨の指示を受けた場合(ステップS43のYES)、前記CPUは、ユーザーがリモコン93を操作して入力するxyz方向の速度の閾値を受付ける(ステップS45)。そして、そのユーザーの閾値データ65の値を更新する(ステップS47)。その後、ルーチンは補正方法の指定を受付けるステップS61へ進む。
前記ステップS43で、サンプル映像を用いた簡易な設定が選択された場合(ステップS43のNO)、前記CPUは、表示部77に設定方法の説明を表示した後設定用のサンプル映像データ71を表示させる(ステップS51)。サンプル映像は、例えば、視点の移動速度が次第に速くなる3D 映像データである。ユーザーがその映像を視聴して不快に感じた時点でリモコン93を用いて所定の操作を行う。サンプル映像は、複数あってもよい。例えば、xyz方向にそれぞれ移動する映像であってもよい。あるいは、移動方向を同じくするが撮影対象が異なる複数の映像であってもよい。この場合、ユーザーは各映像について所定の操作を行う。
前記CPUは、ユーザーが所定の操作を行ったか否かを監視し(ステップS53)。入力があった場合は(ステップS53のYES)、その時刻のサンプル映像速度テーブル73の値を取得する(ステップS55)。そして、そのユーザーの閾値データ65の値を更新する(ステップS57)。サンプル映像が終了するまで、処理を繰り返す(ステップS59のNOのループ)。
サンプル映像を用いた設定が終了したら(ステップS59のYES)、ルーチンはステップS61へ進む。
続いて、前記CPUは、補正方法指定69の設定メニューを表示部77に表示させる(ステップS61)。この実施形態では、映像の2D 化、メッセージ表示あるいは低速再生の3つの選択肢の何れかの選択を求めるものである。ユーザーがリモコン93を用いて何れか一つを選択する操作を行うと、前記CPUはその操作に応答して、選択された設定を補正方法指定69に格納する(ステップS63)。
以上が、閾値設定および補正方法指定の処理である。
なお、この実施形態では、閾値設定と補正方法の指定を一連のものとしているが、それらを個別の設定メニューとして受付けるようにしてもよい。
≪3D 映像再生時の処理−通常の映像データ再生≫
続いて、映像を再生する際に、前記CPUが制御部87、映像分離部55、2D 化映像生成部81、メッセージ表示生成部83低速映像生成部85やメニュー制御部89として実行する処理を説明する。
図8および図9は、この発明に係る再生装置51の前記CPUが再生時に行う処理の手順を示すフローチャートである。フローチャートに沿って処理の手順を説明する。なお、フローチャートには示していないが、制御部87として前記CPUは、映像データを再生する指示を受けたときまずユーザーを特定する処理を行ってもよい。この処理は、閾値データ65や補正方法指定69に係るユーザーを特定するためである。具体的には、識別コードの入力を求める等するメニューを表示し、入力された内容に基づいてユーザーを特定するようにしてもよい。
まず、図8に沿って、映像データの再生を説明する。3D 酔い対応については、図9で後述する。ユーザーがリモコン93を操作して再生の指示を行うと、前記CPUは、制御部87としてその指示を受付け、映像取得部53に再生すべき映像データと速度テーブルを取得させる。取得した速度テーブルは速度テーブル63として記憶部61に格納しておく。そして、映像データと速度テーブルの同期に使用する時刻データtの値を初期化する(ステップS71)。時刻データtは、映像データの再生が進むにつれて更新される。即ち、時刻データtは、映像データのどの時刻のフレームが再生されているかを表す。また、速度テーブル63の参照に用いるインデックスiの値を初期化する(ステップS73)。
次に、映像分離部55として前記CPUは、インデックスiで参照される速度テーブルの時刻t(i)を取得する(ステップS75)。そして、映像データの再生が進み、時刻データtがt(i)に達するのを待つ(ステップS77)。時刻データtがt(i)に達する前の段階では、前記CPUはステップS77で「NO」と判定し、ルーチンはステップS89へ進む。ここで前記CPUは、映像取得部53が取得した映像データを映像バッファ57に入力して映像の再生を進行させる(ステップS89)。このときの映像データには、3D 対応すべき旨の属性を付加しない。そして、再生の進行に対応して時刻データtを更新する(ステップS91)。映像データが終了しない限り(ステップS93のNO)、ルーチンはステップS77へ戻るループを辿る。なお、理解しやすいようにフローチャート上はループ処理にしているが、繰り返し処理は時分割のマルチタスク処理として実行される。
やがて、時刻データtがt(i)に達すると、前記CPUは前記ステップS77で「YES」と判定し、ルーチンはステップS79へ進む。そして、前記CPUは、速度テーブル63のうちインデックスiが示す速度データを参照する。そして、その速度データと閾値データ65との大小関係を比較する(ステップS83)。なお、速度テーブルの速度データと閾値データ65とで異なる単位を使用する装置の場合は、前述した比較に先立ち単位をそろえるための換算を行う(ステップS81)。
前記ステップS83の比較において、速度テーブルから得られた速度データが閾値データ65を超えていない場合(ステップS83のNO)、前記CPUは、3D 酔い対応を行う必要がないと判断し、ルーチンをステップS85へ進める。このルーチンは、取得した映像データを映像バッファ57に入力して再生を進行させるステップS89へと続く。しかし、その前に、インデックスiを更新して(ステップS85)、速度テーブル63の次のデータを参照するようにし、更新されたインデックスを用いて時刻データtがt(i)を取得する(ステップS87)。その後、ルーチンはステップS89、S91、S93、S77のルートを辿り、時刻データtが新たに取得された時刻t(i)に達するまで映像の再生を続ける。
なお、映像データが終了した場合は、ステップS93で前記CPUは「YES」と判定し、再生処理を終了する。
一方、前記ステップS83において、速度データが閾値データ65を超えていると判断した場合(ステップS83のYES)、前記CPUは、その映像データをそれ以前の映像データと分離する。そして、分離した映像データに3D 酔い対応を行うべきことを示す属性を付加した後に映像バッファ57に入力する(ステップS95)。そして、ルーチンはステップS91へ進む。
≪3D 映像再生時の処理−3D 酔い対応の処理≫
さらに図9に基づいて、3D 酔い対応の処理について説明する。図9は、前記CPUが2D 化映像生成部81、メッセージ表示生成部83低速映像生成部85として行う処理を主として示すフローチャートである。
前記CPUは、映像バッファ57から出力されて表示制御部75に渡される映像データに3D 酔い対応をすべき属性が付加されているか否かを監視する(ステップS100)。前記属性が付加されていない場合、即ち、前述のステップS89の処理を経て映像バッファ57に入力された映像データの場合(ステップS100のNO)、前記CPUは、補正処理を施すことなくその映像データを表示制御部75に渡す(ステップS133)。表示制御部75は、渡された映像データを表示部77に表示する。映像データが終了しない限り(ステップS135のNO)、ルーチンはステップS103へ戻り処理を繰り返す。なお、理解しやすいようにフローチャート上はループ処理にしているが、繰り返し処理は時分割のマルチタスク処理として実効される。
前述のステップS95で3D 酔い対応をすべき旨の属性が付加されている場合、即ち、前述のステップS95の処理を経て映像バッファ57に入力された映像データの場合(ステップS100のYES)、前記CPUは、補正方法指定69の設定を取得する(ステップS101)。ユーザーごとに設定されている場合は、ユーザーに応じた補正方法を取得する。
そして、補正方法に応じた処理を行う。まず、取得した補正方法が、低速再生であるか否かを判断する(ステップS103)。低速再生であれば(ステップS103のYES)、ルーチンはステップS121へ進む。一方、低速再生でなければ(ステップS103のNO)、ルーチンはステップS105へ進み、補正方法がメッセージ表示であるか否かを判断する。メッセージ表示であれば(ステップS105のYES)、ルーチンはステップS111へ進む。一方、メッセージ表示でなければ(ステップS105のNO)、ルーチンはステップS107へ進み2D 化の処理を行う。
具体的には、2D 化映像生成部81として前記CPUは、左眼用の映像データを右眼用の映像データに置換して、両方の眼が右眼用の映像データを観るようにする。このようにすれば、右眼用の映像データと左眼用の映像データの視差がなくなり、視聴者は立体感を感じなくなる。勿論、右眼用の映像データを左眼用のデータに置換して両方の眼が左眼用の映像データを観るようにしてもよい。
また、映像データを置換するのではなく、3D メガネ97の両眼のシャッター制御を変更してもよい。
通常の3D 映像再生時は、左眼用の映像データと右眼用の映像データを1フレームずつ交互に表示部77に表示し、それに同期して3D メガネ97のシャッターを交互にオン/オフしている。即ち、表示部77に右眼用の映像データを表示しているときは3D メガネ97の右眼のシャッターを開き左眼のシャッターを閉じるように制御している。次のフレームで表示部77に左眼用の映像データを表示しているときは3D メガネ97の右眼のシャッターを閉じ左眼のシャッターを開くように制御している。これを交互に繰り返している。これに対し映像を2D 化するときは、表示部77に右眼用の映像データを表示しているときに3D メガネ97の右眼と左眼の両方のシャッターとを開く。そして、次のフレームで表示部77に左眼用の映像データを表示しているときは3D メガネ97の右眼と左眼の両方のシャッターを閉じる。このようにして、両眼が右眼用の映像のみを観るようにするのである。あるいは、逆に表示部77に左眼用の映像データを表示しているときに両眼のシャッターを開き、右眼用の映像データを表示しているときは両眼のシャッターを閉じるようにして、両眼が左眼用の映像のみを観るようにしてもよい。
そして前記CPUは、映像データを表示制御部75に渡す(ステップS133)。映像データを渡された表示制御部75は、この補正された映像データを表示部77に表示する。映像データが終了するまでS100からS133の処理を繰り返す(ステップS135)。
一方、前記ステップS105で補正方法がメッセージ表示である場合、メッセージ表示生成部83として前記CPUは、映像バッファ57から出力される映像データに代えて表示すべきメッセージの映像データを生成する(ステップS111)。そして、前記映像データを生成したメッセージに代えて(ステップS113)表示制御部75に渡す(ステップS133)。映像データが終了するまでS100からS133の処理を繰り返す(ステップS135)。
また、一方、前記ステップS103で補正方法がメッセージ表示である場合(ステップS103のYES)、低速映像生成部85として前記CPUは、映像バッファ57から出力される映像データの一連のフレームをn個(nは2以上の整数)の時系列順のグループに分割する(ステップS121)。そして、各グループの映像再生の間にウェイト処理を挿入し(ステップS123〜S131)、映像をスロー再生する。なお、挿入するウェイト時間は、前記CPUが速度テーブル63の速度データと閾値データ65とに基づいて決定することが好ましい。即ち、スロー再生される映像の視点の移動速度が、閾値データ65の設定を超えない程度に宇税と時間を決定することが好ましい。
前述した実施の形態の他にも、この発明について種々の変形例があり得る。それらの変形例は、この発明の範囲に属さないと解されるべきものではない。この発明には、請求の範囲と均等の意味および前記範囲内でのすべての変形とが含まれるべきである。
11:撮影装置
13:撮像部
15:映像データ生成部
17:補助記憶部
21:加速度センサ
23:角速度センサ
25:距離検出デバイス
27:角速度→速度変換部
29:速度データ生成部
31:撮影対象
41:映像データ
43:速度テーブル
51:再生装置
53:映像取得部
55:映像分離部
57:映像バッファ
61:記憶部
63:速度テーブル
65:閾値データ
67:解像度データ
69:補正方法指定
71:サンプル映像データ
73:サンプル映像速度テーブル
75:表示制御部
77:表示部
81:2D 化映像生成部
83:メッセージ表示生成部
85:低速映像生成部
87:制御部
89:メニュー制御部
91:リモコン受光部
93:リモコン
95:3D メガネ通信部
97:3D メガネ

Claims (8)

  1. 三次元動画の映像にその映像を捕えたカメラ位置の移動速度が付加された記録映像を取得し再生する映像取得部と、
    カメラ位置の移動速度に係る閾値を予め格納する記憶部と、
    取得された記録映像の再生中に前記カメラ位置の移動速度と前記閾値とを比較し、移動速度が閾値を超える時間帯と閾値以下の時間帯とに前記映像を分離する映像分離部と、
    閾値を超える時間帯に再生する映像を補正する映像補正部と、
    閾値を超える時間帯は前記映像補正部により補正された映像を表示し閾値以下の時間帯は前記映像補正部による補正がされない映像を表示するように制御する表示制御部とを備えることを特徴とする三次元映像再生装置。
  2. 前記映像補正部は、取得された映像の再生速度を遅くするものである請求項1に記載の再生装置。
  3. 前記映像補正部は、前記映像のフレームを間引いてコマ送りに補正するものである請求項1に記載の再生装置。
  4. 前記映像補正部は、閾値を超える時間帯は視聴者に取得された映像をみせないように補正するものである請求項1に記載の再生装置。
  5. 前記映像補正部は、所定のメッセージを表示するように補正するものである請求項4に記載の再生装置。
  6. 前記映像補正部は、三次元の映像を二次元の映像に補正するものである請求項1に記載の再生装置。
  7. 前記三次元動画の映像は、視差分だけ互いに異なる右眼用映像と左眼用映像とを含んでなり、
    前記映像補正部は、視聴者の両眼に右眼用映像のみを観せるかまたは左眼用映像データのみを観せるように補正する請求項6に記載の再生装置。
  8. 前記記憶部は、前記閾値の設定をユーザーが行うために、カメラ位置の移動速度が変化する閾値設定用映像を予め格納する請求項1に記載の再生装置。
JP2010245300A 2010-11-01 2010-11-01 三次元映像再生装置 Pending JP2012100015A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010245300A JP2012100015A (ja) 2010-11-01 2010-11-01 三次元映像再生装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010245300A JP2012100015A (ja) 2010-11-01 2010-11-01 三次元映像再生装置

Publications (1)

Publication Number Publication Date
JP2012100015A true JP2012100015A (ja) 2012-05-24

Family

ID=46391451

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010245300A Pending JP2012100015A (ja) 2010-11-01 2010-11-01 三次元映像再生装置

Country Status (1)

Country Link
JP (1) JP2012100015A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018109937A (ja) * 2016-12-28 2018-07-12 株式会社コロプラ 情報処理方法、装置、情報処理システム、および当該情報処理方法をコンピュータに実行させるプログラム
CN112867444A (zh) * 2018-10-15 2021-05-28 皇家飞利浦有限公司 用于引导对超声图像的采集的***和方法
US11366318B2 (en) 2016-11-16 2022-06-21 Samsung Electronics Co., Ltd. Electronic device and control method thereof

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11366318B2 (en) 2016-11-16 2022-06-21 Samsung Electronics Co., Ltd. Electronic device and control method thereof
JP2018109937A (ja) * 2016-12-28 2018-07-12 株式会社コロプラ 情報処理方法、装置、情報処理システム、および当該情報処理方法をコンピュータに実行させるプログラム
CN112867444A (zh) * 2018-10-15 2021-05-28 皇家飞利浦有限公司 用于引导对超声图像的采集的***和方法
CN112867444B (zh) * 2018-10-15 2024-05-07 皇家飞利浦有限公司 用于引导对超声图像的采集的***和方法

Similar Documents

Publication Publication Date Title
JP5917017B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
KR101275542B1 (ko) 3차원 화상표시장치 및 3차원 화상표시방법
JP4903888B2 (ja) 画像表示装置、画像表示方法、および画像補正方法
JP2008103820A (ja) 立体画像処理装置
JP3749227B2 (ja) 立体画像処理方法および装置
JP5420075B2 (ja) 立体画像再生装置、その視差調整方法、視差調整プログラム、及び撮影装置
JP3857988B2 (ja) 立体画像処理方法および装置
TW201234838A (en) Stereoscopic display device and control method of stereoscopic display device
NO340415B1 (no) Anordning og program for generering av stereografisk billedfremvisning
JP2011142632A (ja) カメラ装置、カメラシステムおよびカメラ構成方法
JP2010252046A (ja) 撮像装置
JP2011171813A (ja) 撮像装置及び立体画像表示方法
JP4989788B2 (ja) 立体画像表示制御装置およびその動作制御方法
JP5374641B2 (ja) 3d映像記録装置及び3d映像信号処理装置
US9161018B2 (en) Methods and systems for synthesizing stereoscopic images
KR20140109868A (ko) 화상 처리 장치, 화상 처리 방법, 및 비일시적 컴퓨터 판독가능 기억 매체
JP2012090259A (ja) 撮像装置
JP2012100015A (ja) 三次元映像再生装置
JP2004221699A (ja) 立体画像処理方法および装置
JP5563625B2 (ja) 画像解析装置、画像解析方法、および画像解析システム
JP4118146B2 (ja) 立体画像処理装置
JP2006287813A (ja) 3次元画像表示装置
JP2011259012A (ja) 立体画像再生装置及び立体画像再生方法
JP5222407B2 (ja) 画像表示装置、画像表示方法、および画像補正方法
JP2011077984A (ja) 映像処理装置