JP2011086283A - 動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステム及び方法 - Google Patents

動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステム及び方法 Download PDF

Info

Publication number
JP2011086283A
JP2011086283A JP2010202315A JP2010202315A JP2011086283A JP 2011086283 A JP2011086283 A JP 2011086283A JP 2010202315 A JP2010202315 A JP 2010202315A JP 2010202315 A JP2010202315 A JP 2010202315A JP 2011086283 A JP2011086283 A JP 2011086283A
Authority
JP
Japan
Prior art keywords
video data
metadata
objects
dimensional
rendering
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010202315A
Other languages
English (en)
Inventor
Arnaud Robert
ロバート アルノー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Disney Enterprises Inc
Original Assignee
Disney Enterprises Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Disney Enterprises Inc filed Critical Disney Enterprises Inc
Publication of JP2011086283A publication Critical patent/JP2011086283A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information

Landscapes

  • Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】特定最終用途に合わせることに伴う制約を回避する3次元ビデオキャプチャ・ワークフローを提供する。
【解決手段】3次元ビデオデータを生成する方法は、複数のオブジェクトを有するシーンから2次元ビデオデータを取得するステップと、シーン中のオブジェクトを識別するステップと、複数のオブジェクトの相対位置を取得するステップと、2次元ビデオデータを符号化して符号化2次元ビデオデータを生成するステップと、複数のオブジェクトの相対位置に基づいて相対位置メタデータを生成するステップと、相対位置メタデータに対する演算用に、3次元奥行き係数メタデータを提供するステップとを含む。このようにして、既存の2次元ワークフローを費用効果的な方法で利用することができ、エンドユーザは、3次元奥行き係数メタデータを調整して、特定のレンダリング環境又は個人的な視聴の好みに合わせることができる。
【選択図】図1

Description

本発明は一般に、ビデオキャプチャ及び表示(プレゼンテーション)に関するものである。特に、本発明は、3次元ビデオ用のビデオキャプチャ及び表示に関するものである。
3次元ビデオ提示は、映画産業、ビデオゲーム産業及び一般消費者の関心の復活に直面しつつある。ますます、映画館及びテレビ放送局は、3次元表示を提供して、消費者の熱中を増大させている。同時に、業界は3次元キャプチャ、処理及び表示の規格を未だ決着させておらず、各々が特定用途に合わせた複数の互換性のないソリューション(解決法)を生じさせている。これに加えて、3次元ビデオ素材は一般に、映画館、演示ステージ、又はテレビのような特定対象向けのレンダリング環境で最適化され、符号化されている。その結果、3次元表示用のビデオ素材を制作することは、特定用途向け及び特定の基になるソリューション向けの3次元後編集(ポストプロダクション)ワークフローに対応するための、大きな追加費用及びスケジューリングを含むことが多い。更に、3次元効果のカスタマイズには限界があり、既存のシステムでの再生は不可能である。これら複合的要因は、小売発売スケジュールを遅延させ、消費者の3次元ビデオの採用を減速させ、その結果、消費者が、自分好みのペース及び視聴の好みで3次元表示技術を採用することを妨げている。最後に、消費者がますます自分の装置及び自分の体験を管理するようになるデジタルの世界では、消費者が3次元効果を自分の好みに合わせて変化させる3次元ソリューションは現在存在しない。
従って、特定の最終用途に合わせることにつきものの制約を回避する3次元ビデオキャプチャ・ワークフローを提供することによって、現在技術の欠点及び欠陥を克服する必要性が存在する。
実質的に、図面の少なくとも1つに関連して図示及び/又は説明し、特許請求の範囲により完全に記載する、動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステム及び方法を提供する。
本発明の特徴及び利点は、以下の詳細な説明及び図面を検討した後に、通常の当業者にとって、よりすぐに明らかになる。
本発明の一実施例による、動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステムを示す図である。 本発明の一実施例によるステップを記述するフローチャートであり、これらのステップによって、動的レンダリング用の3次元ビデオデータを生成することができる。
本願は、動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステム及び方法に指向したものである。以下の説明は、本発明の実現に関連する特定情報を含む。本発明は、本願で具体的に説明するのとは異なる方法で実施することができることは、当業者の認める所である。さらに、本発明の具体的詳細の一部は、本発明を不明瞭にしないために説明しない。本願に記載しない具体的詳細は、通常の当業者の知識の範囲内である。本願中の図面及びそれに伴う詳細な説明は、本発明の好適な実施例に指向したものに過ぎない。簡潔さを保つために、本発明の原理を用いる本発明の他の実施例は、本願では具体的に説明せず、本願の図面では具体的に図示しない。
図1に、本発明の一実施例による、動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステムを示す。図1の略図100は、シーン110、ビデオキャプチャシステム120、後処理システム130、メディアコンテナ150、レンダリングシステム160、及びディスプレイ170を含む。シーン110は、オブジェクト115a及び115bを含む。ビデオキャプチャシステム120は、2次元ビデオデータ125及び3次元オブジェクトデータ126を含む。後処理システム130は、プロセッサ135及びメモリ140を含む。メモリ140は、符号化2次元ビデオデータ145、オブジェクト相対位置メタデータ146、及び3次元奥行き係数メタデータ147を含む。レンダリングシステム160は、3次元モデル化アルゴリズム165を含む。
シーン110は、映画撮影セット又はコンピュータ生成の3次元世界のような、ビデオキャプチャシステム120が捕捉(キャプチャ)する実環境又は仮想環境から成る。シーン110は複数のオブジェクトを含み、図1ではオブジェクト115a及び115bとして示し、これらのオブジェクトは、3次元処理用のビデオキャプチャシステム120によって識別される。例えば、オブジェクト115a及び115bは、現実又は仮想の俳優、キャラクター、建物、背景、投射物、風景、及び3次元効果を有する可能な操作用の他の物で構成することができる。2次元ビデオデータ125に加えて、ビデオキャプチャシステム120は、オブジェクト115a及び115bの位置を3次元オブジェクトデータ126として取得することもできる。例えば、ビデオキャプチャシステム120は、複数のカメラをシーン110の異なる視点で用いて、3次元オブジェクトデータ126を決定するための追加的な2次元ビデオデータを捕捉することができる。ビデオキャプチャシステム120は、その代わりに、無線IC(RFID)タグのような位置追跡システム、テープ測定を用いて手動入力した値、あるいは、幾つかの分離した識別可能なペイン上にオブジェクトが表示されるようにシーンを設定するようなシーン中のペイン参照を用いることができる。シーン110の全体がコンピュータ生成である場合は、3次元オブジェクトデータ126は、シーン110を作成するために使用したレンダリングデータから直接取り出すことができる。従って、使用する特定方法、及び手動か自動かに関わらず、ビデオキャプチャシステム120は、シーン110内のオブジェクト115a及び115bを識別して、3次元オブジェクトデータ126を生成することができる。
次に、後処理システム130が、2次元ビデオデータ125及び3次元オブジェクトデータ126をビデオキャプチャシステム120から受信する。次に、図1に示すように、後処理システム130のプロセッサ135は、メモリ140中に、符号化2次元ビデオデータ145、オブジェクト相対位置メタデータ146、及び3次元奥行き係数メタデータ147を生成する。符号化2次元ビデオデータ145は、2次元ビデオデータ125を用いて、例えばビデオ圧縮コーデックを適用することによって生成することができる。2次元ビデオデータ125は、符号化する前に後処理して、例えばビデオ・アーティファクト(歪像)を除去するか、ビデオストリームを符号化又は3次元演算により適したものにすることもできる。オブジェクト相対位置メタデータ146は、3次元オブジェクトデータ126から導出することができ、3次元オブジェクトデータ126によって識別されるオブジェクトの相対位置を指定する。これらの相対位置は、2次元ビデオデータ125内に表示されるX−Y平面からのZ変位、あるいはディスプレイ170によって表示される幾何学的なX−Y平面のような、シーン110中の基準点に対して指定することができる。これらの相対位置は、固定座標からのベクトルのようなグローバルな(全体の)基準点に対するもの、さらには、シーン110中の他のオブジェクトに対するものとすることもできる。さらに、オブジェクト相対位置メタデータ146は、最初に捕捉した現実世界のオブジェクト位置に必ずしも対応する必要はない、というのは、オブジェクト相対位置メタデータ146は、記録されたシーンとは異なり得る芸術的効果又は外観を達成するために、編集及び後編集の一部として調整することもできるからである。例えば、特定オブジェクトの奥行きを変更または誇張して、より劇的な外観を提供することができる。
これに加えて、3次元奥行き係数メタデータ147は、プロセッサ135によって提供することもでき、このことは、3次元効果のカスタマイズ及びスケーリング(拡大縮小)を、特定の対象環境に適合させることを可能にする。例えば、3次元奥行き係数メタデータ147は、オブジェクト相対位置メタデータ146中の相対位置値毎のスケーリング乗数を、全体(グローバル)又は個別ベースで与えることができ、3次元の奥行き効果を特定レンダリング環境に適するようにスケーリングすることを可能にする。例えば、大型の公衆劇場用途向けには、3次元奥行き係数メタデータ147は、全体の2.0倍スケーリング効果を指定して、より劇的な3次元効果を提供することができるのに対し、ホームシアター用途向けには、3次元奥行き係数メタデータ147は、全体の0.5倍スケーリング効果を指定して、より小さいホームシアターの鑑賞質により適した効果を提供することができ、そしてブルーレイ用途向けには、3次元奥行き係数メタデータ147は、デフォルトの全体の1.0倍スケーリング効果を指定して、消費者、組織ユーザ、及び他のブルーレイのユーザが、ユーザの好みに基づいて、3次元効果を全体又は個別オブジェクトのベースで調整することを可能にする。3次元奥行き係数メタデータ147は、負のスケーリング効果を指定することもでき、このことは特定用途にとって望ましいことがある。3次元奥行き係数メタデータ147は、シーン110からのオブジェクトの部分集合の相対位置を変更するために用いることもできる。実例として、シーン110がカーチェイスを表現する場合に、シーン中の特定の車には倍率(スケーリングファクタ)2.0を適用するが、シーン中の他の車については倍率1.0を維持することができる。
一旦、プロセッサ135がメモリ140中に示す構成要素を生成すると、プロセッサ135は、これらの構成要素をメディアコンテナ150の一部として頒布用にパッケージ化することができる。メディアコンテナ150は、例えば、MPEG−4又はMPEG−21マルチメディア・フレームワークによるパッケージ、あるいはメタデータを符号化2次元ビデオデータ145と共に組み込むことを可能にする他のフレキシブルなパッケージング・フォーマットで構成することができる。図1に示すように、このメタデータは、オブジェクト相対位置メタデータ146、及び3次元奥行き係数メタデータ147を含むことができる。メディアコンテナ150中には、3次元奥行き係数メタデータ147の複数の「プロファイル」が存在することもでき、これらのプロファイルによって、ダウンストリーム・レンダリングシステムの性質に応じて異なるメタデータ値を用いることができる。上記の例を続ければ、3次元奥行き係数メタデータ147は、意図するダウンストリーム・レンダリング装置毎に1つずつの、車用の複数の倍率を含むことができる。このようにして、単一のメディアコンテナ150を複数の流通経路で用いることができ、その上で、3次元効果が、レンダリング時に使用中のレンダリングシステムに対して最適に選択されることを保証することができる。
なお、全ての3次元情報がメタデータ中に分離されているので、単にメタデータを無視することによって、メディアコンテナ150を、標準的な2次元ビデオコンテナと全く同様に取り扱うことができる。このようにして、メディアコンテナ150は、既存の2次元ワークフロー及びインフラストラクチャに容易に統合することができ、例えば、特化した独自のワークフロープロセス及び装置を必要とする、左右の2次元画像を生成する既存の3次元ワークフローとは対照的である。そして、メディアコンテナ150は、3次元対応のテレビ放送局、3次元対応の映画館、3次元可能なブルーレイディスク、及びデジタルダウンロードのような種々の流通経路を通して頒布することができる。説明したように、メディアコンテナ150は、3次元情報が標準的な2次元ビデオデータから分離されるように構造化されているので、メディアコンテナ150は、既存の2次元流通経路にも容易に統合することができる。
一旦、メディアコンテナ150がレンダリングシステム160に到着すると、メディアコンテナ150を解釈して、ディスプレイ170にレンダリングすることができ、レンダリングシステム160は、例えば、3次元対応映写システム、3次元対応放送局、又は3次元可能なブルーレイプレーヤーを含むことができる。例えば、レンダリングシステム160が2次元可能でしかない場合は、符号化2次元ビデオデータ145は、単に直接復号化して、通常のようにフレームの連続ストリームとしてディスプレイ170に対して出力することができ、消費者の左右両目に対して同一である。レンダリングシステム160が3次元可能である場合は、3次元奥行き係数メタデータ147は更に、スケーリング及び/又は他の3次元効果のために、オブジェクト相対位置メタデータ146の一時的な作業用コピーに適用することができ、これに続いて、符号化2次元ビデオデータ145をディスプレイ170用に復号化した後に、3次元オブジェクトを実際に、オブジェクト相対位置メタデータ146によって記述されるようにレンダリングすることができる。オブジェクト相対位置メタデータ146によって記述される3次元オブジェクトをレンダリングするために、幾つかの異なる3次元レンダリング技術を利用して、ディスプレイ170上で奥行きの知覚を与えることができる。これらの3次元レンダリング技術、あるいは図1の3次元モデル化アルゴリズム165は、現在技術において周知であり、本質的に、消費者の左目用及び右目用に2つの異なる画像を生成して表示することを含む。例えば、120ヘルツのような高いリフレッシュレート(速度)をサポートするディスプレイ170を用いることによって、左右の画像が交互するストリームを速い連続で表示することができ、シャッター付きメガネのような種々のブロッキング(遮断)メカニズムを用いて、消費者の左目又は右目に対応する適正な左又は右の画像が表示されることを保証することができる。あるいはまた、ディスプレイ170は、例えば2台のプロジェクタ及び直交又は円偏光フィルタを用いる3次元投射(プロジェクション)システムのように、左及び右の2つの画像を同時に同一スクリーン上に、但し異なる偏光で投射することができ、対応する偏光ガラスで偏光した画像にフィルタをかけて、消費者の左目及び右目用の適正な画像にする。これらは、今日利用されている3次元レンダリング技術の少数の例に過ぎず、他の3次元レンダリング技術も同様に用いることができる。
こうして、3次元モデル化アルゴリズム165を、符号化2次元ビデオデータ145、オブジェクト相対位置メタデータ146、及び3次元奥行き係数メタデータ147に適用して、以上で説明した左右画像レンダリング技術を用いて、3次元ビデオをレンダリングすることができる。3次元モデル化アルゴリズム165を、オブジェクト相対位置メタデータ146、及び3次元奥行き係数メタデータ147に適用して、シーン110から識別されたオブジェクトの1つ以上をレンダリングすることもできる。前述したように、3次元奥行き係数メタデータ147は、エンドユーザが視聴の好みに応じて調整して、特定オブジェクト、あるいは全体的に全てのオブジェクトの3次元の奥行き効果を強めるか弱めることができる。
例えば、レンダリングシステム160がブルーレイプレーヤーを備えている場合は、メディアコンテナ150を含むブルーレイディスク上で提供される設定及び構成メニューは、3次元奥行き係数メタデータ147の、異なる視聴装置及び好みに合った調整を可能にする。一部の消費者は、例えば、3次元効果を、方向感覚を失わせるか目眩を誘発すると感じることがあり、そして3次元奥行き係数メタデータ147を0に設定することを選んで、実質的に3次元ビデオ効果を標準的な2次元ビデオに効果的に変換することがある(なお、この場合は、ビデオデータ145がレンダリングされる)。他の消費者は、3次元効果は楽しむが、特別な間取りまたは視聴の好みに応じて、その効果を強調又は低減したいことがある。この場合は、3次元奥行き係数メタデータ147の負のスケールから正のスケールまでの連続調整を可能にする仮想的な「3次元効果ノブ」を設けることができる。例えば、消費者がこの「3次元効果ノブ」を、リモコン装置、コンピュータマウス、又は他の装置のような、レンダリングシステム160に接続された入力装置を用いて制御して、レンダリングシステム160によって提供されるディスプレイ170上の設定スクリーン、例えばブルーレイプレーヤーの設定スクリーン、あるいはメディアコンテナ150によって提供されるディスプレイ170上の設定スクリーン、例えばユーザが調整可能な3次元奥行き係数を与えるDVDまたはブルーレイディスクのフォーマット設定メニューを操作することができる。
メディアコンテナ150の再生中に、3次元モデル化アルゴリズム165をこのようにリアルタイムでメディアコンテナ150に適用して、メタデータ内、あるいはオブジェクト相対位置メタデータ146及び3次元奥行き係数メタデータ147内に提示されるビデオの3次元部分をレンダリングする。プロセッサ速度の安定した増加、及びこれに対応して低下するコストにより、リアルタイム3次元モデル化アルゴリズムは、レンダリングシステム160にとって利用可能な未使用のコンピュータサイクルを用いることによって、特化した3次元レンダリング加速ハードウェアを用いることによって、あるいは既存の2次元ビデオ復号化ハードウェア内に3次元機能を統合することによって、容易にサポートすることができる。このようにして、特定オブジェクトの奥行きスケーリング、対応するオブジェクトの陰影、水平又は垂直視差に関連する要素、及び他の要素を含む3次元表示要素を、自動的かつ動的に、オン・ザ・フライで、ディスプレイ170用に生成することができる。こうしたものとして、3次元奥行き係数メタデータ147を、費用効果的かつフレキシブルな方法で調整して、種々の環境用途及びユーザの好みに適合させることができ、以前のソリューションにおけるように、特定の所望用途毎に別個の3次元ワークフローを必要とするのとは異なる。
図2に、本発明の一実施例によるステップを記述するフローチャートを示し、これらのステップによって、3次元ビデオデータを動的なレンダリング用に生成することができる。通常の当業者にとって明らかである特定の詳細及び特徴は、フローチャート200から除外している。例えば、あるステップは、1つ以上のサブステップを含み得るし、あるいは、現在技術において既知である特化した装置又は材料を含み得る。フローチャート200に示すステップ210〜260が、本発明の一実施例を記述するのに十分であるが、本発明の他の実施例は、フローチャート200に示すのとは異なるステップを利用し得る。
図2のフローチャート200のステップ210、及び図1の略図100を参照すれば、フローチャート200のステップ210は、プロセッサ135が、オブジェクト115a及び115bを有するシーン110から2次元ビデオデータ125を取得することから成る。例えば、ビデオキャプチャシステム120は、シーン110から2次元ビデオデータ125を捕捉することのできる従来のカメラを含むことができる。次に、後処理システム130のプロセッサ135が、直接的なデータ接続を用いて、あるいは中継のデータ転送ネットワーク(図1では省略)によって、2次元ビデオデータ125を取り出す。
図2のフローチャート200のステップ220、及び図1の略図100を参照すれば、フローチャート200のステップ220は、プロセッサ135が、シーン110中のオブジェクト115a及び115bを識別することから成る。前に説明したように、ステップ220を達成するために、ビデオキャプチャシステム120は、例えば、視点を変えた複数のカメラ、位置トラッキングシステム、手動データ入力、ペイン参照、あるいはコンピュータで自動生成したオブジェクト識別を用いることができる。ステップ220の結果は、3次元オブジェクトデータ126として記憶することができる。
図2のフローチャート200のステップ230、及び図1の略図100を参照すれば、フローチャート200のステップ230は、プロセッサ135が3次元オブジェクトデータ126を取得することから成る。ステップ230は、ステップ210と同様のプロセスを用いて、直接的なデータ接続又はネットワークによって達成することができる。
図2のフローチャート200のステップ240、及び図1の線図100を参照すれば、フローチャート200のステップ240は、プロセッサ135が2次元ビデオデータ125を符号化して、符号化2次元ビデオデータ145を生成することから成る。前に説明したように、ステップ240の前に、2次元ビデオデータ125に後処理を適用して、符号化又は3次元処理への適合性を増強することができる。ステップ240は、例えば、圧縮コーデックを適用して、2次元ビデオデータ125のデータサイズを低減することを含むことができる。
図2のフローチャート200のステップ250、及び図1の略図100を参照すれば、フローチャート200のステップ250は、プロセッサ135が、3次元オブジェクトデータ126の相対位置に基づいてオブジェクト相対位置メタデータ146を生成することから成る。前に説明したように、オブジェクト相対位置メタデータ146は、2次元ビデオデータ125又はディスプレイ170によって表現される2次元平面のような幾つかの基準点に対して、3次元オブジェクトデータ126から導出することができる。
図2のフローチャート200のステップ260、及び図1の略図100を参照すれば、フローチャート200のステップ260は、プロセッサ135が、オブジェクト相対位置メタデータ146に対する演算用に、3次元奥行き係数メタデータ147を提供することから成る。前に説明したように、3次元奥行き係数メタデータ147を用いて、公衆劇場、テレビ放送、ブルーレイディスク、あるいはホームシアターのような種々のレンダリング環境用の特定の3次元奥行きスケーリング係数を指定することができる。更に、ユーザ指定の3次元奥行き係数を用いて、特定環境やユーザの好みに合わせることもできる。図1に示すように、3次元の構成要素は、2次元ビデオの構成要素から分離されているので、メディアコンテナ150は、既存の2次元後処理ワークフロー及びインフラストラクチャ内で用いることができる。3次元モデル化アルゴリズム165を用いてメディアコンテナ150をリアルタイムで解釈して、3次元ビデオをディスプレイ170上でレンダリングするために、流通網の最終端、あるいはレンダリングシステム160しか必要としない。他の全ての中間的なワークフロープロセスは、メディアコンテナ150からの追加的な3次元メタデータを単に無視し、符号化2次元ビデオデータ145を、従来の2次元ビデオコンテンツのように処理することができる。このようにして、3次元ビデオコンテンツは、費用効果的かつフレキシブルな方法で生産することができ、消費者は、単に3次元奥行き係数メタデータ147を調整することによって、3次元表示を自分自身のペース及び好みに合わせて採用できるようになる。
以上の本発明の説明より、本発明の範囲を逸脱することなしに、種々の技術を用いて本発明の概念を実現することができることは明らかである。更に、本発明は、特定実施例を具体的に参照して説明してきたが、本発明の範囲を逸脱することなしに、形態及び細部に変更を加えることができることは、当業者の認める所である。こうしたものとして、説明した実施例は、あらゆる点で、例示的なものであり限定的なものではないものと考えるべきである。本発明は、本明細書で説明した特定実施例に限定されず、本発明の範囲から逸脱することなしに、多数の再構成、変更及び代替ができることも明らかである。

Claims (22)

  1. 3次元ビデオデータを生成する方法において、
    複数のオブジェクトを有するシーンから2次元ビデオデータを取得するステップと;
    前記シーン中の前記複数のオブジェクトを識別するステップと;
    前記複数のオブジェクトの相対位置を取得するステップと;
    前記2次元ビデオデータを符号化して、符号化2次元ビデオデータを生成するステップと;
    前記複数のオブジェクトの前記相対位置に基づいて、相対位置メタデータを生成するステップと;
    前記相対位置メタデータに対する演算用に、3次元奥行き係数メタデータを提供するステップと;
    を含む方法。
  2. 前記複数のオブジェクトの相対位置を取得するステップの前に、前記シーンの異なる視点に対応する追加的な2次元ビデオデータを取得するステップを更に含むことを特徴とする請求項1に記載の方法。
  3. 前記2次元ビデオデータを符号化するステップの前に、前記2次元ビデオデータを後処理して、後処理した2次元ビデオデータを生成するステップを更に含み、前記符号化するステップは、前記後処理した2次元ビデオデータを用いて、前記符号化2次元ビデオデータを生成することを特徴とする請求項1に記載の方法。
  4. 前記識別ステップが、無線IC(RFID)タグ、手動のテープ測定値、前記シーン中の識別可能なペイン参照、又はコンピュータレンダリングから自動生成した値の1つを用いることを特徴とする請求項1に記載の方法。
  5. 3次元モデル化アルゴリズムを、前記符号化2次元ビデオデータ、前記相対位置メタデータ、及び前記3次元奥行き係数メタデータに適用して、前記3次元ビデオデータをレンダリングするステップを更に含むことを特徴とする請求項1に記載の方法。
  6. 前記3次元モデル化アルゴリズムを適用するステップにおいて、前記3次元ビデオデータのレンダリング用の左画像及び右画像を計算することを特徴とする請求項5に記載の方法。
  7. 前記相対位置メタデータ及び前記3次元奥行き係数メタデータに3次元モデル化アルゴリズムを適用して、前記複数のオブジェクトの1つ以上をレンダリングするステップを更に含むことを特徴とする請求項1に記載の方法。
  8. 前記3次元奥行き係数メタデータは、前記識別した複数のオブジェクトの1つ以上の前記相対位置を、基準点に対して変化させることを特徴とする請求項1に記載の方法。
  9. 前記3次元奥行き係数メタデータは、前記基準点に対して負から正の範囲内であることを特徴とする請求項8に記載の方法。
  10. 前記基準点が、レンダリング用のディスプレイの幾何学的な平面であることを特徴とする請求項9に記載の方法。
  11. 前記相対位置メタデータが、前記シーン中に含まれる基準点を用いることを特徴とする請求項1に記載の方法。
  12. 前記相対位置メタデータが、レンダリング用のディスプレイの幾何学的な平面に対応する基準点を用いることを特徴とする請求項1に記載の方法。
  13. 前記相対位置メタデータが、グローバルな基準点を用いることを特徴とする請求項1に記載の方法。
  14. 前記相対位置メタデータが、複数の基準点を用い、これら複数の基準点の各々が、前記複数のオブジェクトの1つ以上に対応することを特徴とする請求項1に記載の方法。
  15. 前記3次元奥行き係数メタデータを、1つ以上のレンダリング環境に対して提供することを特徴とする請求項1に記載の方法。
  16. 前記1つ以上のレンダリング環境が、ホームシアター環境を含むことを特徴とする請求項15に記載の方法。
  17. 前記1つ以上のレンダリング環境が、公衆劇場でのレンダリングを含むことを特徴とする請求項15に記載の方法。
  18. 前記1つ以上のレンダリング環境が、ブルーレイ・レンダリングシステムを含むことを特徴とする請求項15に記載の方法。
  19. 3次元ビデオデータを生成するシステムにおいて、
    このシステムがプロセッサを備え、このプロセッサは、
    複数のオブジェクトを有するシーンから2次元ビデオデータを取得し;
    前記シーン中の前記複数のオブジェクトを識別し;
    前記複数のオブジェクトの相対位置を取得し;
    前記2次元ビデオデータを符号化して、符号化2次元ビデオデータを生成し;
    前記複数のオブジェクトの前記相対位置に基づいて、相対位置メタデータを生成し;
    前記相対位置メタデータに対する演算用に、3次元奥行き係数メタデータを提供する
    よう構成されていることを特徴とするシステム。
  20. 前記プロセッサが更に、前記複数のオブジェクトの相対位置を取得する前に、前記シーンの異なる視点に対応する追加的な2次元ビデオデータを取得するように構成されていることを特徴とする請求項19に記載のシステム。
  21. 前記プロセッサが更に、前記2次元ビデオデータを符号化する前に、前記2次元ビデオデータを後処理して、後処理した2次元ビデオデータを生成し、前記後処理した2次元ビデオデータを符号化して、前記符号化2次元ビデオデータを生成するように構成されていることを特徴とする請求項19に記載のシステム。
  22. 前記プロセッサが更に、3次元モデル化アルゴリズムを、前記符号化2次元ビデオデータ、前記相対位置メタデータ、及び前記3次元奥行き係数メタデータに適用して、前記3次元ビデオデータをレンダリングするように構成されていることを特徴とする請求項19に記載のシステム。
JP2010202315A 2009-09-11 2010-09-09 動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステム及び方法 Pending JP2011086283A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US12/584,726 US8614737B2 (en) 2009-09-11 2009-09-11 System and method for three-dimensional video capture workflow for dynamic rendering

Publications (1)

Publication Number Publication Date
JP2011086283A true JP2011086283A (ja) 2011-04-28

Family

ID=42830297

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010202315A Pending JP2011086283A (ja) 2009-09-11 2010-09-09 動的レンダリング用3次元ビデオキャプチャ・ワークフロー用のシステム及び方法

Country Status (4)

Country Link
US (1) US8614737B2 (ja)
EP (1) EP2309765A1 (ja)
JP (1) JP2011086283A (ja)
KR (1) KR101231160B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137128A (ja) * 2019-02-25 2020-08-31 株式会社B.b.designLab コンピュータ読取可能な非一過性の記憶媒体、Webサーバ、及び、瞳孔間のキャリブレーション方法

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101631451B1 (ko) * 2009-11-16 2016-06-20 엘지전자 주식회사 영상표시장치 및 그 동작방법
WO2011072016A1 (en) * 2009-12-08 2011-06-16 Broadcom Corporation Method and system for handling multiple 3-d video formats
US20110199468A1 (en) * 2010-02-15 2011-08-18 Gallagher Andrew C 3-dimensional display with preferences
US9053562B1 (en) 2010-06-24 2015-06-09 Gregory S. Rabin Two dimensional to three dimensional moving image converter
EP2418857A1 (en) * 2010-08-12 2012-02-15 Thomson Licensing Stereoscopic menu control
EP2432232A1 (en) * 2010-09-19 2012-03-21 LG Electronics, Inc. Method and apparatus for processing a broadcast signal for 3d (3-dimensional) broadcast service
JP5050094B2 (ja) * 2010-12-21 2012-10-17 株式会社東芝 映像処理装置及び映像処理方法
KR20120119173A (ko) * 2011-04-20 2012-10-30 삼성전자주식회사 3d 영상처리장치 및 그 입체감 조정방법
JP6001826B2 (ja) * 2011-05-18 2016-10-05 任天堂株式会社 情報処理システム、情報処理装置、情報処理プログラムおよび情報処理方法
US9420259B2 (en) * 2011-05-24 2016-08-16 Comcast Cable Communications, Llc Dynamic distribution of three-dimensional content
US10445398B2 (en) * 2012-03-01 2019-10-15 Sony Corporation Asset management during production of media
US9317709B2 (en) 2012-06-26 2016-04-19 Google Inc. System and method for detecting and integrating with native applications enabled for web-based storage
US9674501B2 (en) * 2012-07-06 2017-06-06 Lg Electronics Inc. Terminal for increasing visual comfort sensation of 3D object and control method thereof
US20140062999A1 (en) * 2012-09-05 2014-03-06 Shenzhen China Star Optoelectronics Technology Co., Ltd. Display system and display control method thereof
US9992021B1 (en) 2013-03-14 2018-06-05 GoTenna, Inc. System and method for private and point-to-point communication between computing devices
WO2014160934A1 (en) 2013-03-28 2014-10-02 Google Inc. System and method to store third-party metadata in a cloud storage system
CN104345686B (zh) * 2013-08-07 2016-12-28 中国科学院沈阳计算技术研究所有限公司 二维双向dexel毛坯建模方法及其加工仿真方法
CN105844694B (zh) * 2015-08-24 2019-04-26 鲸彩在线科技(大连)有限公司 一种游戏数据生成、上传方法及装置
CN105844684B (zh) * 2015-08-24 2018-09-04 鲸彩在线科技(大连)有限公司 一种游戏数据下载、重构方法及装置
CN105898280A (zh) * 2015-12-28 2016-08-24 乐视致新电子科技(天津)有限公司 立体片源的播放优化方法及装置
US10009640B1 (en) * 2017-05-31 2018-06-26 Verizon Patent And Licensing Inc. Methods and systems for using 2D captured imagery of a scene to provide virtual reality content
US11166005B2 (en) 2017-10-27 2021-11-02 Industry-University Cooperation Foundation Hanyang University Three-dimensional information acquisition system using pitching practice, and method for calculating camera parameters

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000078611A (ja) * 1998-08-31 2000-03-14 Toshiba Corp 立体映像受信装置及び立体映像システム
JP2003187261A (ja) * 2001-12-14 2003-07-04 Canon Inc 3次元画像生成装置、3次元画像生成方法、立体画像処理装置、立体画像撮影表示システム、立体画像処理方法及び記憶媒体
JP4188968B2 (ja) * 2003-01-20 2008-12-03 三洋電機株式会社 立体視用映像提供方法及び立体映像表示装置

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04188968A (ja) 1990-11-21 1992-07-07 Ricoh Co Ltd 電子スチルカメラ
KR100496513B1 (ko) 1995-12-22 2005-10-14 다이나믹 디지탈 텝스 리서치 피티와이 엘티디 영상변환방법및영상변환시스템과,부호화방법및부호화시스템
US6208348B1 (en) 1998-05-27 2001-03-27 In-Three, Inc. System and method for dimensionalization processing of images in consideration of a pedetermined image projection format
US6515659B1 (en) 1998-05-27 2003-02-04 In-Three, Inc. Method and system for creating realistic smooth three-dimensional depth contours from two-dimensional images
US7116324B2 (en) 1998-05-27 2006-10-03 In-Three, Inc. Method for minimizing visual artifacts converting two-dimensional motion pictures into three-dimensional motion pictures
US7102633B2 (en) 1998-05-27 2006-09-05 In-Three, Inc. Method for conforming objects to a common depth perspective for converting two-dimensional images into three-dimensional images
US7116323B2 (en) 1998-05-27 2006-10-03 In-Three, Inc. Method of hidden surface reconstruction for creating accurate three-dimensional images converted from two-dimensional images
KR100727513B1 (ko) 2002-12-16 2007-06-14 산요덴키가부시키가이샤 입체 영상 생성 장치 및 입체 영상 배신 방법
EP1829202B1 (en) 2004-12-16 2011-06-29 ST-Ericsson SA Direct conversion device with compensation means for a transmission path of a wireless communication equipment
US8885017B2 (en) * 2005-07-14 2014-11-11 3Ality Digital Systems, Llc Real-time process and technology using image processing to maintain and ensure viewer comfort during capture, live transmission, and post-production of stereoscopic 3D imagery
SG130962A1 (en) * 2005-09-16 2007-04-26 St Microelectronics Asia A method and system for adaptive pre-filtering for digital video signals
DE102005046762A1 (de) 2005-09-29 2007-04-05 Siemens Ag System und Verfahren zur Darstellung von Benutzerinformationen, insbesondere von Augmented-Reality-Informationen, mit Hilfe von in RFID-Datenspeichern hinterlegten Trackinginformationen
US7675520B2 (en) * 2005-12-09 2010-03-09 Digital Steamworks, Llc System, method and computer program for creating two dimensional (2D) or three dimensional (3D) computer animation from video
US20070146360A1 (en) * 2005-12-18 2007-06-28 Powerproduction Software System And Method For Generating 3D Scenes
US8244025B2 (en) * 2006-03-20 2012-08-14 Siemens Energy, Inc. Method of coalescing information about inspected objects
US7893999B2 (en) * 2006-05-22 2011-02-22 Broadcom Corporation Simultaneous video and sub-frame metadata capture system
EP1887526A1 (en) * 2006-08-11 2008-02-13 Seac02 S.r.l. A digitally-augmented reality video system
WO2009034519A1 (en) 2007-09-13 2009-03-19 Koninklijke Philips Electronics N.V. Generation of a signal
WO2009083863A1 (en) 2007-12-20 2009-07-09 Koninklijke Philips Electronics N.V. Playback and overlay of 3d graphics onto 3d video
KR101539935B1 (ko) * 2008-06-24 2015-07-28 삼성전자주식회사 3차원 비디오 영상 처리 방법 및 장치
US8514222B2 (en) * 2008-08-13 2013-08-20 Autodesk, Inc. Device, system, and method of computer aided design (CAD)
US8395651B2 (en) * 2009-10-09 2013-03-12 Cisco Technology, Inc. System and method for providing a token in a video environment

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000078611A (ja) * 1998-08-31 2000-03-14 Toshiba Corp 立体映像受信装置及び立体映像システム
JP2003187261A (ja) * 2001-12-14 2003-07-04 Canon Inc 3次元画像生成装置、3次元画像生成方法、立体画像処理装置、立体画像撮影表示システム、立体画像処理方法及び記憶媒体
JP4188968B2 (ja) * 2003-01-20 2008-12-03 三洋電機株式会社 立体視用映像提供方法及び立体映像表示装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137128A (ja) * 2019-02-25 2020-08-31 株式会社B.b.designLab コンピュータ読取可能な非一過性の記憶媒体、Webサーバ、及び、瞳孔間のキャリブレーション方法
JP7471572B2 (ja) 2019-02-25 2024-04-22 株式会社B.b.designLab キャリブレーションシステム、及び、キャリブレーション方法

Also Published As

Publication number Publication date
US8614737B2 (en) 2013-12-24
KR101231160B1 (ko) 2013-02-07
US20110063410A1 (en) 2011-03-17
EP2309765A1 (en) 2011-04-13
KR20110028232A (ko) 2011-03-17

Similar Documents

Publication Publication Date Title
US8614737B2 (en) System and method for three-dimensional video capture workflow for dynamic rendering
RU2546546C2 (ru) Способы и системы для представления трехмерных изображений движения с адаптивной к содержимому информацией
TWI445405B (zh) 用於在三維圖像中提供隱藏字幕之系統及方法
CN112585978B (zh) 生成用于在vr中显示的复合视频流
CN106303289B (zh) 一种将真实对象与虚拟场景融合显示的方法、装置及***
RU2537800C2 (ru) Способ и устройство для наложения трехмерной графики на трехмерное видеоизображение
KR101210315B1 (ko) 3차원 비디오 위에 그래픽 객체를 오버레이하기 위한 추천 깊이 값
JP6622388B2 (ja) ビデオ画像に関連付けられているオーディオ信号を処理する方法および装置
US20200389640A1 (en) Method and device for transmitting 360-degree video by using metadata related to hotspot and roi
US9035942B2 (en) Graphic image processing method and apparatus
JP5851625B2 (ja) 立体視映像処理装置、立体視映像処理方法及び立体視映像処理用プログラム
TW201119353A (en) Perceptual depth placement for 3D objects
JP2015187797A (ja) 画像データ生成装置および画像データ再生装置
US20150348273A1 (en) Depth modification for display applications
JP2010258872A (ja) 立体映像および音声記録方法、立体映像および音声再生方法、立体映像および音声記録装置、立体映像および音声再生装置、立体映像および音声記録媒体
JP2015114716A (ja) 画像データ再生装置および画像データ生成装置
TW201125353A (en) 3D screen size compensation
TWI735552B (zh) 將沈浸式視訊格式化用於傳統及沈浸式顯像元件之方法、裝置及串流
EP3806458A1 (en) Method and device for transmitting and receiving metadata about plurality of viewpoints
JP6934052B2 (ja) 表示制御装置、表示制御方法及びプログラム
US20120098944A1 (en) 3-dimensional image display apparatus and image display method thereof
Grau et al. 3D-TV R&D activities in europe
JP2011119926A (ja) 映像処理装置、映像処理方法及びコンピュータプログラム
US20130136336A1 (en) Image processing apparatus and controlling method for image processing apparatus
KR20130081569A (ko) 3d 영상을 출력하기 위한 장치 및 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120516

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120814

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121213

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20121225

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20130118