JP5567578B2 - 入力された三次元ビデオ信号を処理するための方法及びシステム - Google Patents

入力された三次元ビデオ信号を処理するための方法及びシステム Download PDF

Info

Publication number
JP5567578B2
JP5567578B2 JP2011531621A JP2011531621A JP5567578B2 JP 5567578 B2 JP5567578 B2 JP 5567578B2 JP 2011531621 A JP2011531621 A JP 2011531621A JP 2011531621 A JP2011531621 A JP 2011531621A JP 5567578 B2 JP5567578 B2 JP 5567578B2
Authority
JP
Japan
Prior art keywords
parallax
video signal
input
overlay
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011531621A
Other languages
English (en)
Other versions
JP2012506650A (ja
Inventor
バルト ジー ビー バレンブルグ
デル ハイデン ヒェラルドゥス ダブリュ ティー ファン
ペテル ジェイ エル エイ スウィレンス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2012506650A publication Critical patent/JP2012506650A/ja
Application granted granted Critical
Publication of JP5567578B2 publication Critical patent/JP5567578B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)

Description

本発明は、入力された三次元ビデオ信号を処理するための方法及びシステム、並びに、本発明による方法を実行するためのコンピュータプログラム製品に関する。
三次元画像を表示するために適したディスプレイ装置は、研究における関心をますます集めている。加えて、満足できる高い質の観察経験をエンドユーザに提供する方法を確立するために、相当な研究が行われている。
三次元(3D)ディスプレイは、観察されているシーンの異なるビューを観察者の両方の目に提供することによって、観察経験に第3の次元を追加する。これは、表示される2つのビューを分離するための眼鏡をユーザに着用させることによって達成されることができる。しかしながら、眼鏡はユーザにとって不便であると考えられるので、多くのシナリオにおいて、ビューを分離し、それらがユーザの目に個別に到達する異なる方向にそれらを送る手段(例えば、レンチキュラレンズ又はバリア)をディスプレイのところで用いる自動立体視ディスプレイを用いることが好ましい。ステレオ・ディスプレイでは2つのビューが必要とされ、一方、自動立体視ディスプレイは一般的に、より多くのビュー(例えば9つのビュー)を必要とする。
さまざまな異なるアプローチが、そのような立体視及び自動立体視装置にコンテンツを提供するために存在する。普及しているフォーマットは、ディスプレイ装置によって表示されることができるそれぞれのビューのための複数の画像を事実上有するステレオ・コンテンツ又はマルチビュー・コンテンツの供給である。そうする利点は、一般に、そのようなディスプレイ装置における及びコンテンツ作成における処理要求が最低限に維持されることができることである。
表示のための実際の符号化されたビューを含むステレオ又はマルチビュー・コンテンツの供給に関連する問題は、これらの画像が潜在的に2つ以上のそれぞれのビュー間の視差関係を事実上固定することである。
オーバレイを適用するときに三次元ディスプレイのためのステレオ又はマルチビュー・コンテンツにおける視差関係を符号化しておくことの短所を軽減することが本発明の目的である。
この目的は、本発明による入力された三次元ビデオ信号を処理する方法によって達成され、当該方法は、入力された三次元ビデオ信号の最大の視差値を示す遠視差推定値及び入力された三次元ビデオ信号中の空間領域の最小の視差値を示す近視差推定値を決定し、遠視差推定値に基づく視差シフトにより、入力された三次元ビデオ信号を後方にシフトすることによって三次元ビデオ信号を適応させ、近視差推定値及び前記視差シフトに基づいて、シフトされた三次元ビデオ信号の空間領域中にオーバレイを生成する。いくつかの視差情報(遠い値及び近い値)を(マルチ・ビュー画像データ中の暗黙の情報とは対照的に)明示的にすることによって、シフトの量の決定のような明示的な処理が可能とされる。
本発明の発明者らは、上で示されるような遠視差推定値及び近視差推定値を確立することによって、ビデオ信号において表現されるシーンの前におけるオーバレイの安全な位置決めを可能にするために、オーバレイのための利用可能なヘッドルーム(headroom)が確立されることができることを認識した。遠視差推定値及び近視差推定値は、例えば、入力された三次元ビデオ信号の粗粒度視差分析を用いることにより、あるいは、入力された三次元ビデオ信号中に提供されるメタデータを用いることにより、決定されることができる。
一旦、三次元入力ビデオ信号が適応されることができるか、そしてどれだけ適応されることができるかが明らかになると、その視差範囲は、遠視差推定値に基づく視差シフトによって、後方にシフトされることができる。視差シフトは、コンテンツの再レンダリングを必要とせず、ビューを切り取って拡張することによって、一般的に比較的費用効果が優れている仕方で実行されることができる。
結果として、オーバレイを生成するために利用可能な視差範囲は拡張されることができ、ディスプレイのゼロ視差面の近くにオーバレイを配置することを可能にして、より鮮明なオーバレイを得る。後者は入力された三次元ビデオ信号中に利用可能なヘッドルームを必要とすることが、当業者にとって明らかとなるだろう。
実施の形態において、遠視差推定値及び近視差推定値は、入力された三次元ビデオ信号の視差推定値に基づく。特に、マージンが視差範囲の適応において維持されるとき、粗い視差推定が実行されることができる。まばらな視差推定値が十分に正確でないならば、マージンは、そのような誤差を依然として補正することができる。
別の実施の形態において、遠視差推定値及び近視差推定値は、入力された三次元ビデオ信号の中のメタデータとして提供される情報から導き出される。結果として、本発明は、大いに費用効率が高い仕方で実行されることができる。
本発明による好ましい実施の形態において、本方法はさらに、生成されたオーバレイによってシフトされた三次元ビデオ信号を覆い、それによって、例えば字幕、クローズド・キャプション情報、ユーザ・インタフェース情報及び/又は画像シーケンスのようなオーバレイを有する、マルチ・ビュー・ディスプレイ上での使用のための画像の生成を可能にする。これらのオーバレイ自体は、近視差推定値及び適用された視差シフトに基づく適切な視差値を用いて続いて符号化される二次元若しくは三次元画像データの静止画像又はアニメーションのシーケンスであることもできる。
三次元オーバレイの場合において、利用可能な視差範囲内に設定されることができるように、オーバレイの視差範囲をシフトすることが必要である場合がある。オーバレイがコンピュータ・グラフィックを用いて生成される場合、グラフィックスの配置を完全に制御することができ、シフトされた三次元ビデオ信号中のオーバレイに対して利用可能な利用可能な視差範囲全体が利用されることができる。
好ましい実施の形態において、視差値推定値は、ショットごとに決定される。ショット・カットとしても知られるショット境界を決定するために、従来のショット・カット検出技術が、入力された三次元ビデオ信号中のビューの1つ以上のビューに適用されることができる。そのような技術の例は、"Rapid Scene Analysis on Compressed Videos", by B. L. Yeo and B. Liu, published in IEEE Trans. Circuits and Systems for Video Technology, Vol. 5, pp. 533- 544, Dec. 1995中に示される。ショット境界がリアルタイムで決定されることができるが、一般に、本発明で使用する決定は、相当な先読みを必要とする。結果として、ショット・カット検出は好ましくはオフラインで実行される。
オーバレイがいくつかの連続するショット中に存在すべき場合には(例えばピクチャ・イン・ピクチャ(Picture In Picture)シナリオ)、遠視差推定値及び近視差推定値は、好ましくは、これらの連続するショットのコンテンツに基づいて決定され、オーバレイの適切な重なりを可能にする。
有利な実施の形態において、視差シフトは、複数のビューの隣り合うビュー間の予め定められた最大の視差値に基づく。この出願を通して、正の視差は、ゼロ視差面の後ろに位置されるように知覚されるオブジェクトを示すために用いられる。結果として、予め定められた最大値がここで考慮される。
目距離より大きい正の視差は、物理的に解釈可能でない発散性の目線に対応する。結果として、目距離より大きい正の視差は、観察不快感を引き起こす可能性がある。これを回避するために、最大視差を平均の目距離に、又は平均の距離未満の値に設定することが可能である。好ましくは、全ての観察者に対して快適性を維持するように安全マージンが考慮されるように、最大視差が選択される。あるいは、最大視差は、オプションとして平均目距離によって上限を定められた、ユーザ定義の値であることができる。後者は、例えば大人と子供との間の目距離の違いの補償を可能にするので、特に有利である。
オーバレイ情報は、光学ディスク上に符号化されるような及び/又はデジタル・トランスポート・ストリームにおいて利用可能な字幕からクローズド・キャプション情報まで及ぶ。オーバレイ情報は、さらに、入力された三次元ビデオ信号上に重畳されるグラフィカル・ユーザインタフェース・データ(GUI)に関することができる。あるいは、オーバレイは、ピクチャ・イン・ピクチャ・システム(PiP)か、又は、GUI中のアニメーションのサムネイル若しくはアニメーションのTV局ロゴのようなアニメーションのコンテンツを有する他の副画像であることができる。
実施の形態において、入力された三次元ビデオ信号を適応させることは、ビューの第1サイドで入力された三次元ビデオ信号の1つ以上のビューを切り取ることを含む。続いて、切り取られたビューは、ビューの第1サイドに対して反対のサイドでピクセルをパディング又は補間することによって、完全なサイズのビューを取得するように拡張されることができ、切り取られたビューのための変更された視差範囲を取得する。あるいは、残りを再び完全な幅にスケーリングするために、ズームが用いられることができる。このシナリオにおいて、ズーム係数は他のビューにも適用されなければならない。
ステレオ入力ビデオ信号の場合、本方法は1つの画像を切り取ることを含むことができるが、好ましくは、両方の画像が切り取られて、切り取られた画像を拡張する結果として生じる可能性があるアーチファクトを分散する。切り取られた画像を拡張することは、単純なピクセルの反復から、静止/動画像修復の分野において知られている更に複雑な修復スキームに及ぶ、様々なアルゴリズムを必要とする場合があることは、当業者にとって明らかである。
実施の形態において、本方法はさらに、シフトされた三次元ビデオ信号中にメタデータを埋め込むことを含み、このデータは、シフトされた三次元ビデオ信号の遠視差及び近視差を示す。あるいは、本方法がさらに、シフトされた三次元ビデオ信号を覆うことを含むとき、本方法は、オーバレイを有するシフトされた三次元ビデオ信号中にメタデータを埋め込むことを含み、このデータは、オーバレイを有するシフトされた三次元ビデオ信号の遠視差及び近視差を示す。結果として、メタデータは、さらに下流の処理ステップのために用いられることができる。
本発明はさらに、本発明の方法を実行するためのプログラム命令を有するコンピュータプログラム製品に関する。
本発明はさらに、複数のビューを有する入力された三次元ビデオ信号を処理するシステムに関し、当該システムは、入力された三次元ビデオ信号の最大の視差値を示す遠視差推定値及び入力された三次元ビデオ信号中の空間領域の最小の視差値を示す近視差推定値を決定する視差決定装置、遠視差推定値に基づく視差シフトにより三次元ビデオ信号を後方にシフトすることによって三次元ビデオ信号を適応させるように配置される視差シフト装置、近視差推定値及び視差シフトに基づいて、シフトされた三次元ビデオ信号のオーバレイ安全領域の中でオーバレイを生成するように配置されるオーバレイ生成器を有する。
好ましくはさらに、シフトされた三次元ビデオ信号上をオーバレイで覆うためにビデオ・ミキサーが提供される。
本発明のこれらの及び他の態様、特徴及び利点は、以下に記載される実施の形態から明らかであり、それらを参照して説明される。
本発明の実施の形態は、単に一例として、図面を参照して説明される。同様の符号は同様の機能を備える要素を指す。
視差を定義するいくつかの一般的な概念及びパラメータを示す図。 三次元入力信号の視差ヒストグラムを示す図。 三次元入力信号及び三次元オーバレイの更なる視差ヒストグラムを示す図。 本発明によるステレオ入力対の右のビュー画像の適応を示す図。 本発明による方法を示す図。 本発明によるシステムを示す図。 本発明による更なるシステムを示す図。
図1は、視差を定義するいくつかの一般的な概念及びパラメータを示す。図1は、二重矢印Eの端に位置づけられ、目距離Eだけ離れて配置される2つの視点を示す。観察距離Zのところに、三次元情報を表示するために用いられる、点線よって表されるスクリーンSが位置づけられる。実際には、そのようなスクリーンは例えば、あるいは、適切なアイウェアを着用している観察者の目にそれぞれの視点のための適切な画像情報を提供する時間又はスペクトラム・シーケンシャル・ディスプレイであることができる。ここでスクリーンSは、ゼロ視差のところに配置され、Wはスクリーンの幅を示す。N(near)は、スクリーンSの前の最大の知覚される深さを表す。同様に、F(far)は、スクリーンSの後ろの最大の知覚される深さを表す。
ラインdNは、スクリーンSの前のNのところに位置づけられるオブジェクトの知覚される視差を表し、ここで視差値dNは負であり、交差視差とも呼ばれて、
dN = N E/ (Z-N) [1]
して表されることができる。
ラインdFは、スクリーンSの後ろのFのところに位置づけられるオブジェクトの知覚される視差を表し、ここで視差値dFは正であり、非交差視差とも呼ばれて、
dF = F E / (Z+F) [2]
として表されることができる。
実際には、最大視差は、快適な観察を可能にするために、目距離E未満であるべきである。実際には、最大視差は、人々の間の目距離の変動を許容するために、平均の目距離E未満の値に好ましくは設定される。
なお、最大の正の視差に対応するピクセルの数である最大の正のスクリーン視差は、スクリーン幅W及びスクリーンSの解像度によって決まる。
図2Aは、三次元入力信号の視差ヒストグラム205を示す。ヒストグラム205は、入力された三次元信号に基づいて(すなわち、三次元入力信号の空間領域全体に基づいて)決定される。あるいは、視差ヒストグラムは、三次元入力信号の空間領域全体のうちの代表サンプルに対して編集されることができる。
図2Aにおいて、d軸に沿った最も近い視差値はポイントCであり、負の視差を持つ。最も遠い視差値は、正の視差を持つd軸に沿ったポイントBである。ヒストグラム205に基づいて、本発明による方法に用いられる遠視差推定値は、ポイントBに対応する。
ヒストグラム205は、観察者から離れて三次元入力の視差範囲をシフトしてヒストグラムを右へ移動させるために視差範囲内で利用可能であるヘッドルーム215が存在することを示す。
オーバレイがそれぞれのビュー中の特定の空間領域内に配置されることを必要とする状況を考える。図2Aはさらに、重要な空間領域における入力された三次元信号の視差ヒストグラムを示す。この空間領域のための三次元入力信号のヒストグラムは、太い破線205'によって示される。ヒストグラム205'に基づいて、この空間領域の最も小さい視差値を示す近視差推定値は、ポイントAに対応する。なお、この特定の空間領域がより小さい(すなわち、より負の)視差値を含まないので、この空間領域中にオーバレイの配置のための相当なヘッドルーム210がすでに存在する。
なお、オーバレイの配置のための空間領域は、一般的に、輪郭によって定義されるブロック又はセグメントであり、このように、上述のように全体としてビューの視差推定値を決定するために用いられるサンプル・ポイントと明確に異なる。
オーバレイの配置のために空間領域にはすでに相当なヘッドルームが存在するが、視差シフトDS(DS < E-B)によって観察者から離れるように入力された三次元ビデオ信号の視差範囲をシフトすることにより、さらに多くのヘッドルームを生成することが可能である。厳密に必要ではないが、さまざまなユーザ間の異なる目距離に適応するために、マージン215によって図2Bに示されるようにマージン(E-B)-DSを維持することが望ましい。結果として、本発明は、オーバレイの配置のための視差範囲における追加的な利得を提供する。
ヒストグラム220は、オーバレイの視差ヒストグラムを示し、オーバレイが完全にこの空間領域中に配置されるので、このヒストグラムは、画像全体にわたるオーバレイのヒストグラムでもある。視差シフトの結果として、ゼロ視差面のところに又はその近くにオーバレイ情報(例えば字幕)を配置することが可能であり、オーバレイ観察の快適性を改善する。
上で示されるように、遠視差推定値及び近視差推定値は、入力された三次元ビデオ信号によって提供される視差ヒストグラム情報に基づいて決定されることができる。あるいは、遠視差推定値及び近視差推定値は、当業者に知られているアルゴリズムを用いて、入力された三次元ビデオ信号から導き出されることができる。そのようなアルゴリズムの例は、"Dense disparity estimation from feature correspondences" by Konrad, et al, IS&T/SPIE Symposium on Electronic Imaging Stereoscopic Displays and Virtual Reality Syst., Jan. 23-28, 2000, San Jose, CA, USAに示される。
図3は、本発明によって提案されるように視差をシフトする処理を示す。ステレオ入力ビデオ信号からの画像ペアLV1及びRV1が左側に示される。画像は、画像LV1及びRV1それぞれにおいて、ゼロ視差のところに配置されるグレーのブロック310及び310'並びに負の視差のところでブロックの前に配置される白いディスク305及び305'を示す。
グレーのブロック310及び310'の端の細かい垂直の破線から分かるように、長方形は、左及び右の画像において同じ位置に配置されるので、ゼロ視差を持つ。
ディスク305及び305'は負のスクリーン視差を持ち、すなわち、右の画像RV1において、ディスク305'は、左画像LV1中のディスク305の位置の左にある。結果として、それはディスプレイの前に視覚化される。
シーンを後方にシフトするために、RV1を右にシフトしてRV1'を得る。RV1'をLV1と比較すると、ディスク305'はゼロ視差を持ち、長方形は正の視差を持つことが分かる。
シフトされた画像をステレオ・ディスプレイに適合させるために、シフトされた画像RV1'は、右側で切り取られ、左側で等しい量によって拡張されて、RV1'に達する。次に、LV1及びRV1''は一緒に、元のLV1-RV1ペアと比べてシーンが後方にシフトされた新たなステレオ・ペアとして視覚化されることができる。結果として、ペアLV1-RV1''は、ペアLV1-RV1よりオーバレイの配置のための多くのヘッドルームを持つ。
上記の例ではビューのうちの一方のみがシフトされたが、左画像LV1及び右画像RV1の両方を、合計量がRV1'のシフトに対応する反対方向の等しい量によってシフトすることも可能であることが留意されるべきである。結果として、両方のシフトされた画像が拡張されなければならないが、拡張領域は、図3において切り取られて拡張されたサイズの半分のサイズである。結果として、拡張から生じるアーチファクトは、より均等に分散されることができる。
マルチ・ビュー・コンテンツ(例えば3つのビュー)をシフトする場合には、中央画像を維持して、左及び右の画像をそれぞれシフトして拡張することが可能である。視差範囲をシフトする上記の仕方はその後、更なるマルチ・ビュー画像及びそれらの間のシフトの同じ相対的な量をもたらす画像の任意の適切な量のシフトに拡張されることができることが、当業者にとって明らかである。
入力された三次元ビデオ信号を適応させるときに、いくつかのオプションが利用可能であり、例えば、第1オプションは、切り取りだけを用いることである。ステレオ・ビデオ信号を考慮すると、この場合、ビデオ中の左及び右画像の両方を等しい量によって切り取ることが可能である。画像アスペクト比が問題でない場合には、切り取られたビューは拡張を必要とせず、そのまま用いられることができる。そのようにする利点は、拡張が必要とされないので、拡張アーチファクトが導入されないことである。第2オプションは、上に記載されているように、切り取り及び拡張を用いることである。ステレオ・ビデオ信号を考慮すると、この場合、図3に示されているように、ビデオ信号中の左及び右画像の両方を等しい量によって切り取り、続いてそれぞれのビューを拡張することが可能である。拡張を利用する利点は、入力された三次元ビデオ信号のアスペクト比が維持されることができることである。なお、オプションの上記リストは網羅的でない。
図4は、複数のビューを含む入力された三次元ビデオ信号を処理するための本発明による方法400のフローチャートを示す。この方法は、入力された三次元ビデオ信号の最大の視差値を示す遠視差推定値及び入力された三次元ビデオ信号中の空間領域の最小の視差値を示す近視差推定値を決定するステップ405を有する。上で示されるように、それぞれの視差推定値は、メタデータに基づくことができ、あるいは、入力された三次元ビデオ信号の画像コンテンツに基づいて決定されることができる。
本方法はさらに、遠視差推定値に基づく視差シフトにより、入力された三次元ビデオ信号を後方にシフトすることによって三次元ビデオ信号を適応させて(410)、近視差推定値及び視差シフトに基づいて、シフトされた三次元ビデオ信号の空間領域中にオーバレイを生成する(415)ステップを含む。
好ましくは、本方法はさらに、シフトされた三次元ビデオ信号上をオーバレイで覆うステップ420を含む。
上に示されるように、入力された三次元ビデオ信号を適応させるステップは、変更された視差範囲を得るために、それぞれのビューを切り取って(425)、ピクセルをパディングすることによって拡張する(430)ステップを有する。
ステレオ信号の場合、一方又は好ましくは両方のビューが切り取られ、続いて拡張される。Nビュー・マルチビュー画像では(Nは偶数)、N-1又は好ましくはNビューが上に記載されているように切り取られて拡張される。
図5Aは、複数のビューを含む入力された三次元ビデオ信号を処理するための本発明によるシステム500を示す。システム500は、入力された三次元ビデオ信号の最大の視差値を示す遠視差推定値及び入力された三次元ビデオ信号中の空間領域の最小の視差値を示す近視差推定値を決定する視差決定器505を有する。上に示されるように、視差決定器505は、視差推定器として実施されることができる。このシステムはさらに、遠視差推定値に基づく視差シフトにより三次元ビデオ信号を後方にシフトすることによって三次元ビデオ信号を適応させるように配置された視差シフト装置510を有する。本システム500はさらに、近視差推定値及び視差シフトに基づいて、シフトされた三次元ビデオ信号のオーバレイ安全領域の中でオーバレイを生成するように配置されるオーバレイ生成器515を有する。
好ましくは、システム500はさらに、シフトされた三次元ビデオ信号上をオーバレイで覆うために配置されるビデオ・ミキサー520を有する。図5Aに示されるシステム500は、コンテンツのオフライン処理のためにパーソナル・コンピュータ又は他の計算プラットフォーム上で実施されることができる。あるいはそれは、ブルーレイ・ディスク再生可能装置、セットトップボックス又は3D TVにおいて実施されることができる。
図5Bは、本発明による更なるシステム500であり、このシステムは分析装置502及び合成装置503に分割され、組み合わせられた両方の装置は、図5Aに示されるシステム500に見いだされる機能を実施する。
いうまでもなく、明確性のための前記説明は、異なる機能ユニット及びプロセッサを参照して本発明の実施の形態を記載した。しかしながら、異なる機能ユニット又はプロセッサ間での機能の任意の適切な分配が、本発明を損なわずに用いられることができることは明らかである。例えば、別々のユニット、プロセッサ又はコントローラによって実行されるように示される機能は、同じプロセッサ又はコントローラによって実行されることができる。したがって、特定の機能ユニットの参照は、厳密な論理的又は物理的構造若しくは機構を示すのではなく、記載された機能を提供するための適切な手段を参照するものとして考えられるべきである。
本発明は、ハードウェア、ソフトウェア、ファームウェア又はこれらの任意の組み合わせを含む任意の適切な形式で実施されることができる。本発明はオプションとして、少なくとも部分的に、1つ以上のデータプロセッサ及び/又はデジタルシグナルプロセッサ上で動作しているコンピュータ・ソフトウェアとして実施されることができる。本発明の実施の形態の素子及びコンポーネントは、物理的、機能的及び論理的に任意の適切な態様で実施されることができる。実際、機能は、1つのユニット、複数のユニット又は他の機能ユニットの一部として実施されることができる。このように、本発明は、1つのユニットにおいて実施されることができ、又は、異なるユニット及びプロセッサ間で物理的及び機能的に分散されることができる。
本発明がいくつかの実施の形態に関連して説明されたが、それは本明細書において述べられる特定の形式に制限されることを意図しない。むしろ、本発明の範囲は、添付の請求の範囲によってのみ制限される。加えて、ある特徴が特定の実施の形態に関連して説明されると思われるかもしれないが、当業者は、説明された実施の形態のさまざまな特徴が本発明に従って組み合わせられることができることを認識する。請求の範囲において、「有する」「含む」などの用語は、他の要素又はステップの存在を除外しない。
さらに、個別に記載されるが、複数の手段、要素又は方法ステップは、例えば単一のユニット又はプロセッサによって実施されることができる。加えて、個々の特徴が異なる請求項中に含まれる場合があるが、これらは有利に組み合わせられることができ、異なる請求項中に含まれることは、特徴の組み合わせが可能ではない及び/又は有利ではないことを意味しない。さらに、ある特徴が請求項の1つのカテゴリ中に含まれることは、このカテゴリへの制限を意味せず、この特徴が適切に他の請求項のカテゴリに等しく適用可能であることを意味する。さらに、請求項中の特徴の順序は、その特徴が動作する必要がある特定の順序を意味せず、特に、方法の請求項中の個々のステップの順序は、ステップがこの順序で実行されなければならないことを意味しない。むしろ、これらのステップは、任意の適切な順序で実行されることができる。加えて、単数形の参照は複数を除外しない。"a"、"an"との冠詞、「第1」「第2」などは複数を除外しない。請求の範囲中の参照符号は、単に明確のための例であって、いかなる態様においても、請求の範囲を制限するものとして解釈されてはならない。

Claims (16)

  1. 複数のビューを含む入力された三次元ビデオ信号を処理する方法であって、当該方法は、
    前記入力された三次元ビデオ信号の空間領域全体に基づいて決定される前記入力された三次元ビデオ信号の最大の視差値を示す遠視差推定値、及び前記入力された三次元ビデオ信号中のオーバレイが配置されるべきオーバレイ空間領域の最小の視差値を示す近視差推定値を決定し、
    前記遠視差推定値に基づく視差シフトにより前記入力された三次元ビデオ信号を後方にシフトさせることによって、前記入力された三次元ビデオ信号を適応させ、
    前記近視差推定値及び前記視差シフトに基づいて、シフトされた前記三次元ビデオ信号の前記オーバレイ空間領域中にオーバレイを生成する、方法。
  2. シフトされた前記三次元ビデオ信号上を前記オーバレイで覆う、請求項1に記載の方法。
  3. 前記遠視差推定値及び前記近視差推定値は共に、ショット及びショットのグループ毎の一方に基づいて決定される、請求項1に記載の方法。
  4. 前記視差シフトが、前記複数のビューのうちの隣接するビュー間の予め定められた視差値の上限に基づく、請求項1に記載の方法。
  5. 前記予め定められた視差値の上限が、
    選択された目距離値及び安全マージン、並びに
    ユーザが定義した最大の視差値、
    のうちの一方に基づく、請求項4に記載の方法。
  6. 前記オーバレイが、
    字幕、
    クローズド・キャプション情報、
    ユーザ・インタフェース情報、及び
    更なる入力された三次元入力信号、
    のうちの少なくとも1つを含む、請求項1から請求項5のいずれか一項に記載の方法。
  7. 前記入力された三次元ビデオ信号を適応させることが、
    少なくとも1つのビューを片側で切り取り、切り取られた前記ビューが前記ビューのうちの他の1つのビューと組み合わされたときに変更された視差範囲を得ること、
    少なくとも1つのビューを片側で切り取り、前記片側と反対側で前記少なくとも1つの切り取られたビューを拡張して、前記切り取られて拡張されたビューが前記ビューのうちの他の1つのビューと組み合わされたときに変更された視差範囲を得ること、及び
    少なくとも1つのビューを切り取り、それをスケーリングして完全な幅へと戻し、前記切り取られてスケーリングされて拡張されたビューが他の1つの切り取られてスケーリングされたビューと組み合わされたときに変更された視差範囲を得ること、
    のうちの1つを含む、請求項1から請求項5のいずれか一項に記載の方法。
  8. シフトされた前記三次元ビデオ信号に、シフトされた当該三次元ビデオ信号の遠視差及び近視差を示すメタデータを埋め込む、請求項1に記載の方法。
  9. 前記オーバレイを含むシフトされた前記三次元ビデオ信号に、前記オーバレイを含むシフトされた前記三次元ビデオ信号の遠視差及び近視差を示すメタデータを埋め込む、請求項2に記載の方法。
  10. 請求項1,2,3,4,5,8及び9のいずれか一項に記載の方法を実行するためのコンピュータプログラム命令を含むコンピュータプログラム。
  11. 複数のビューを含む入力された三次元ビデオ信号を処理するためのシステムであって、
    前記入力された三次元ビデオ信号の空間領域全体に基づいて決定される前記入力された三次元ビデオ信号の最大の視差値を示す遠視差推定値、及び前記入力された三次元ビデオ信号中のオーバレイが配置されるべきオーバレイ空間領域の最小の視差値を示す近視差推定値を決定するための視差決定装置、
    前記遠視差推定値に基づく視差シフトにより前記入力された三次元ビデオ信号を後方にシフトさせることによって、前記入力された三次元ビデオ信号を適応させる視差シフト装置、
    前記近視差推定値及び前記視差シフトに基づいて、シフトされた前記三次元ビデオ信号の前記オーバレイ空間領域中にオーバレイを生成するオーバレイ生成装置、
    を有するシステム。
  12. シフトされた前記三次元ビデオ信号上を前記オーバレイで覆うビデオ・ミキサーをさらに有する、請求項11に記載のシステム。
  13. 視差推定装置が、ショット毎及びショットのグループ毎の一方に基づいて、遠視差推定値及び近視差推定値を決定する、請求項11又は請求項12に記載のシステム。
  14. 前記視差シフトが、前記複数のビューのうちの隣接するビュー間の予め定められた視差値の上限に基づく、請求項11又は請求項12に記載のシステム。
  15. 前記遠視差推定値は、前記入力された三次元ビデオ信号の前記空間領域全体の代表サンプルに基づいて決定される、請求項1に記載の方法。
  16. 前記視差決定装置が、前記入力された三次元ビデオ信号の前記空間領域全体の代表サンプルに基づいて前記遠視差推定値を決定する、請求項11に記載のシステム。
JP2011531621A 2008-10-21 2009-10-16 入力された三次元ビデオ信号を処理するための方法及びシステム Expired - Fee Related JP5567578B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP08167112 2008-10-21
EP08167112.5 2008-10-21
PCT/IB2009/054564 WO2010046824A1 (en) 2008-10-21 2009-10-16 Method and system for processing an input three dimensional video signal

Publications (2)

Publication Number Publication Date
JP2012506650A JP2012506650A (ja) 2012-03-15
JP5567578B2 true JP5567578B2 (ja) 2014-08-06

Family

ID=40352251

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011531621A Expired - Fee Related JP5567578B2 (ja) 2008-10-21 2009-10-16 入力された三次元ビデオ信号を処理するための方法及びシステム

Country Status (9)

Country Link
US (1) US9036006B2 (ja)
EP (1) EP2351377A1 (ja)
JP (1) JP5567578B2 (ja)
KR (1) KR101633627B1 (ja)
CN (1) CN102204261B (ja)
BR (1) BRPI0914459A2 (ja)
RU (1) RU2519433C2 (ja)
TW (1) TWI545934B (ja)
WO (1) WO2010046824A1 (ja)

Families Citing this family (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5407968B2 (ja) * 2009-06-29 2014-02-05 ソニー株式会社 立体画像データ送信装置および立体画像データ受信装置
KR20110053160A (ko) * 2009-11-13 2011-05-19 삼성전자주식회사 비디오 부가 재생 정보의 3차원 깊이감 조절을 위한 멀티미디어 스트림 생성 방법과 그 장치, 및 수신 방법과 그 장치
JP2011109397A (ja) * 2009-11-17 2011-06-02 Sony Corp 画像送信方法、画像受信方法、画像送信装置、画像受信装置、及び画像伝送システム
JP5477128B2 (ja) * 2010-04-07 2014-04-23 ソニー株式会社 信号処理装置、信号処理方法、表示装置及びプログラム
JP2011228950A (ja) * 2010-04-20 2011-11-10 Sony Corp データ構造、画像処理装置、画像処理方法、およびプログラム
JP2012010311A (ja) 2010-05-26 2012-01-12 Sony Corp 送信装置、送信方法、受信装置、受信方法および送受信システム
JP4989788B2 (ja) * 2010-06-17 2012-08-01 富士フイルム株式会社 立体画像表示制御装置およびその動作制御方法
JP5505637B2 (ja) 2010-06-24 2014-05-28 ソニー株式会社 立体表示装置および立体表示装置の表示方法
US20110316972A1 (en) * 2010-06-29 2011-12-29 Broadcom Corporation Displaying graphics with three dimensional video
JP4996720B2 (ja) * 2010-06-30 2012-08-08 株式会社東芝 画像処理装置、画像処理プログラム、及び画像処理方法
KR101809479B1 (ko) * 2010-07-21 2017-12-15 삼성전자주식회사 3d 콘텐츠 재생 장치 및 방법
KR101816846B1 (ko) 2010-08-19 2018-01-12 삼성전자주식회사 디스플레이 장치 및 이에 적용되는 osd 제공방법
EP2434764A1 (en) * 2010-09-23 2012-03-28 Thomson Licensing Adaptation of 3D video content
US9049423B2 (en) * 2010-12-01 2015-06-02 Qualcomm Incorporated Zero disparity plane for feedback-based three-dimensional video
US10057559B2 (en) * 2010-12-03 2018-08-21 Koninklijke Philips N.V. Transferring of 3D image data
EP2490452A1 (en) * 2011-02-21 2012-08-22 Advanced Digital Broadcast S.A. A method and system for rendering a stereoscopic view
US8988512B2 (en) * 2011-04-14 2015-03-24 Mediatek Inc. Method for adjusting playback of multimedia content according to detection result of user status and related apparatus thereof
TWI469086B (zh) * 2011-04-26 2015-01-11 Univ Nat Cheng Kung 利用紋理特徵之影像分割法
EP2627093A3 (en) 2012-02-13 2013-10-02 Thomson Licensing Method and device for inserting a 3D graphics animation in a 3D stereo content
US9031356B2 (en) 2012-03-20 2015-05-12 Dolby Laboratories Licensing Corporation Applying perceptually correct 3D film noise
US9188731B2 (en) 2012-05-18 2015-11-17 Reald Inc. Directional backlight
CN104321686B (zh) 2012-05-18 2017-04-12 瑞尔D斯帕克有限责任公司 控制定向背光源的光源
CN104380185B (zh) 2012-05-18 2017-07-28 瑞尔D斯帕克有限责任公司 定向背光源
US20130321572A1 (en) * 2012-05-31 2013-12-05 Cheng-Tsai Ho Method and apparatus for referring to disparity range setting to separate at least a portion of 3d image data from auxiliary graphical data in disparity domain
JP6233870B2 (ja) * 2012-08-28 2017-11-22 稔 稲葉 立体映像受像機
WO2014130860A1 (en) 2013-02-22 2014-08-28 Reald Inc. Directional backlight
CN105474633B (zh) * 2013-06-17 2019-07-09 瑞尔D斯帕克有限责任公司 控制定向背光的光源
EP3058422B1 (en) 2013-10-14 2019-04-24 RealD Spark, LLC Light input for directional backlight
TWI497444B (zh) * 2013-11-27 2015-08-21 Au Optronics Corp 二維影像至三維影像的影像轉換方法及影像轉換裝置
USD755803S1 (en) * 2014-02-21 2016-05-10 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
USD768667S1 (en) * 2014-02-21 2016-10-11 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
USD857035S1 (en) 2014-04-11 2019-08-20 Johnson Controls Technology Company Display screen or portion thereof with graphical user interface
USD788785S1 (en) 2014-04-11 2017-06-06 Johnson Controls Technology Company Display having a graphical user interface
USD886847S1 (en) 2014-04-11 2020-06-09 Johnson Controls Technology Company Display screen or portion thereof with graphical user interface
CN107003563B (zh) 2014-10-08 2021-01-12 瑞尔D斯帕克有限责任公司 定向背光源
RU2596062C1 (ru) 2015-03-20 2016-08-27 Автономная Некоммерческая Образовательная Организация Высшего Профессионального Образования "Сколковский Институт Науки И Технологий" Способ коррекции изображения глаз с использованием машинного обучения и способ машинного обучения
US10459152B2 (en) 2015-04-13 2019-10-29 Reald Spark, Llc Wide angle imaging directional backlights
CN108463787B (zh) 2016-01-05 2021-11-30 瑞尔D斯帕克有限责任公司 多视角图像的注视校正
WO2017200950A1 (en) 2016-05-19 2017-11-23 Reald Spark, Llc Wide angle imaging directional backlights
US10425635B2 (en) 2016-05-23 2019-09-24 Reald Spark, Llc Wide angle imaging directional backlights
KR20180052357A (ko) 2016-11-10 2018-05-18 삼성전자주식회사 확장된 시야창을 제공하는 홀로그래픽 디스플레이 장치
EP3566094B1 (en) 2017-01-04 2023-12-06 RealD Spark, LLC Optical stack for imaging directional backlights
WO2018187154A1 (en) 2017-04-03 2018-10-11 Reald Spark, Llc Segmented imaging directional backlights
EP3665553B1 (en) 2017-08-08 2023-12-13 RealD Spark, LLC Adjusting a digital representation of a head region
US11115647B2 (en) 2017-11-06 2021-09-07 Reald Spark, Llc Privacy display apparatus
JP7353007B2 (ja) 2018-01-25 2023-09-29 リアルディー スパーク エルエルシー プライバシー表示用タッチスクリーン
KR102566408B1 (ko) 2018-04-24 2023-08-11 삼성전자주식회사 확장된 시야창을 제공하는 3차원 영상 디스플레이 장치 및 방법
US11163271B2 (en) 2018-08-28 2021-11-02 Johnson Controls Technology Company Cloud based building energy optimization system with a dynamically trained load prediction model
US11159022B2 (en) 2018-08-28 2021-10-26 Johnson Controls Tyco IP Holdings LLP Building energy optimization system with a dynamically trained load prediction model
US11821602B2 (en) 2020-09-16 2023-11-21 Reald Spark, Llc Vehicle external illumination device
WO2024030274A1 (en) 2022-08-02 2024-02-08 Reald Spark, Llc Pupil tracking near-eye display

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5790086A (en) * 1995-01-04 1998-08-04 Visualabs Inc. 3-D imaging system
RU2097940C1 (ru) * 1995-04-18 1997-11-27 Акционерное общество закрытого типа "Ракурс-ЗД" Способ получения и воспроизведения объемного изображения и устройство для его реализации
JPH11113028A (ja) * 1997-09-30 1999-04-23 Toshiba Corp 3次元映像表示装置
GB2354389A (en) * 1999-09-15 2001-03-21 Sharp Kk Stereo images with comfortable perceived depth
JP2003284095A (ja) * 2002-03-27 2003-10-03 Sanyo Electric Co Ltd 立体画像処理方法および装置
WO2003081921A1 (fr) * 2002-03-27 2003-10-02 Sanyo Electric Co., Ltd. Procede de traitement d'images tridimensionnelles et dispositif
JP2004246725A (ja) * 2003-02-14 2004-09-02 Sharp Corp 表示装置、表示制御方法、表示制御プログラム及びこれを記録したコンピュータ読み取り可能な記録媒体
JP4272901B2 (ja) * 2003-02-17 2009-06-03 株式会社マーキュリーシステム 画像処理装置、撮像装置およびプログラム
JP2004274125A (ja) * 2003-03-05 2004-09-30 Sony Corp 画像処理装置および方法
AU2003221143A1 (en) * 2003-03-20 2004-10-11 Seijiro Tomita Stereoscopic video photographing/displaying system
JP4525049B2 (ja) * 2003-10-24 2010-08-18 ソニー株式会社 立体視画像処理装置,および立体視画像生成方法
GB0329312D0 (en) 2003-12-18 2004-01-21 Univ Durham Mapping perceived depth to regions of interest in stereoscopic images
RU2407224C2 (ru) * 2005-04-19 2010-12-20 Конинклейке Филипс Электроникс Н.В. Восприятие глубины
JP2006325165A (ja) * 2005-05-20 2006-11-30 Excellead Technology:Kk テロップ発生装置、テロップ発生プログラム、及びテロップ発生方法
DE102006030990A1 (de) * 2005-11-14 2007-05-16 Univ Muenster Wilhelms Verfahren und Anordnung zum monoskopischen Darstellen wenigstens eines Bereiches eines Bildes auf einer autostereoskopischen Anzeigevorrichtung
CN101523924B (zh) * 2006-09-28 2011-07-06 皇家飞利浦电子股份有限公司 3d菜单显示
CN105263012A (zh) * 2007-03-16 2016-01-20 汤姆森许可贸易公司 用于将文本与三维内容相结合的***和方法
KR101345303B1 (ko) * 2007-03-29 2013-12-27 삼성전자주식회사 스테레오 또는 다시점 영상의 입체감 조정 방법 및 장치

Also Published As

Publication number Publication date
RU2011120445A (ru) 2012-11-27
KR20110086079A (ko) 2011-07-27
BRPI0914459A2 (pt) 2015-10-27
EP2351377A1 (en) 2011-08-03
CN102204261A (zh) 2011-09-28
JP2012506650A (ja) 2012-03-15
US9036006B2 (en) 2015-05-19
US20110199459A1 (en) 2011-08-18
TWI545934B (zh) 2016-08-11
TW201027979A (en) 2010-07-16
WO2010046824A1 (en) 2010-04-29
KR101633627B1 (ko) 2016-06-27
RU2519433C2 (ru) 2014-06-10
CN102204261B (zh) 2016-08-24

Similar Documents

Publication Publication Date Title
JP5567578B2 (ja) 入力された三次元ビデオ信号を処理するための方法及びシステム
US8798160B2 (en) Method and apparatus for adjusting parallax in three-dimensional video
TWI542191B (zh) 一種於一三維[3d]來源裝置提供一個3d視訊信號以傳送至一3d目的地裝置之方法、用於該方法之3d來源裝置、用於接收一個3d視訊信號之3d目的地裝置、記錄載體、及電腦程式產品
US9445072B2 (en) Synthesizing views based on image domain warping
KR101185870B1 (ko) 3d 입체 영상 처리 장치 및 방법
US8711204B2 (en) Stereoscopic editing for video production, post-production and display adaptation
JP4762994B2 (ja) 視差マップ
KR20140030138A (ko) 입체 화상 및 비디오를 생성하는 방법, 시스템, 장치 및 관련 프로세스 로직
KR20070025632A (ko) 3d 입체 영상 처리 장치 및 방법
US8982187B2 (en) System and method of rendering stereoscopic images
Pan et al. 3D video disparity scaling for preference and prevention of discomfort
KR20100040593A (ko) 영상처리 장치 및 방법
Yuan et al. 61.3: Stereoscopic 3d content depth tuning guided by human visual models
Smolic et al. Disparity-aware stereo 3d production tools
JP5127973B1 (ja) 映像処理装置、映像処理方法および映像表示装置
EP2745520B1 (en) Auxiliary information map upsampling
Lee et al. Temporally consistent depth map estimation for 3D video generation and coding
Liu et al. 3D video rendering adaptation: a survey
Kim et al. Disparity adaptive filter for anti-aliasing of stereoscopic 3D images
Wang et al. Comfortable Disparity Modification for Existing DIBR Systems.
Tolstaya et al. Depth Estimation and Control
Tam et al. Depth map generation for 3-D TV: importance of edge and boundary information
Cheng et al. 3D stereo imaging technology from 2D image sequence
Shin et al. Scalable multiplexing for depth adjustment of ROI in 3D display
Chahal et al. Stereo Pair Generation by Introducing Bokeh Effect in 2D Images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130806

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131106

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140522

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140619

R150 Certificate of patent or registration of utility model

Ref document number: 5567578

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees