JP2012253768A - 3d映像変換装置、その深さ情報の調整方法及びその保存媒体 - Google Patents

3d映像変換装置、その深さ情報の調整方法及びその保存媒体 Download PDF

Info

Publication number
JP2012253768A
JP2012253768A JP2012123529A JP2012123529A JP2012253768A JP 2012253768 A JP2012253768 A JP 2012253768A JP 2012123529 A JP2012123529 A JP 2012123529A JP 2012123529 A JP2012123529 A JP 2012123529A JP 2012253768 A JP2012253768 A JP 2012253768A
Authority
JP
Japan
Prior art keywords
depth information
video
frame
input
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012123529A
Other languages
English (en)
Inventor
Oh-Yun Kwon
五 允 權
Hae-Hyeon Heo
惠 賢 許
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2012253768A publication Critical patent/JP2012253768A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】 2次元映像を3次元映像に変換する場合、視聴者の視聴疲れを最小化することができる3D映像変換装置、その深さ情報調整方法、及びその保存媒体を提供する。
【解決手段】 さらに詳しくは、本発明による3D映像変換装置は、入力映像に対して深さ情報を生成する深さ情報生成部と;前記生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像から既に設定された範囲を超過する視差を有するオブジェクトを検出するオブジェクト検出部と;前記検出されたオブジェクトの視差を既に設定された範囲で調整することによって前記オブジェクトの深さ情報を調整する深さ情報調整部と;前記調整された深さ情報に従って前記入力映像をレンダリングするレンダリング部と;を含む。
【選択図】 図1

Description

本発明は、3D映像変換装置、その深さ情報調整方法、及びその保存媒体に係り、さらに詳しくは、2次元映像を3次元映像に変換できる3D映像変換装置、その深さ情報調整方法及びその保存媒体に関する。
2次元映像を3次元映像に変換する時、立体感を向上するために過度な深さ値を適用すれば、過度な陰視差(Negative parallax)又は陽視差(Positive parallax)によって目の疲れがひどくなって視聴者に不便を加重させる問題がある。
従って、本発明の目的は、目の疲れを最小化して、3次元映像視聴の便宜を提供できる3D映像変換装置、その深さ情報調整方法、及びその保存媒体を提供することである。
前記目的は、本発明に従って、3D映像変換装置において、入力映像に対して深さ情報を生成する深さ情報生成部と;前記生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像から既に設定された範囲を超過する視差を有するオブジェクトを検出するオブジェクト検出部と;前記検出されたオブジェクトの視差を既に設定された範囲で調整することによって前記オブジェクトの深さ情報を調整する深さ情報調整部と;前記調整された深さ情報に従って前記入力映像をレンダリングするレンダリング部と;を含むことを特徴とする3D映像変換装置によって達成されることができる。
前記装置は、前記検出されたオブジェクトを指示する第1UIと、前記検出されたオブジェクトの視差調整範囲を設定できる第2UIと、を生成するUI生成部をさらに含むことができる。
前記装置は、ディスプレイ部とユーザ入力部をさらに含み、前記深さ情報調整部は、前記第2UIを通じて入力されたユーザ選択による特定の視差調整範囲に従って前記オブジェクトの視差を調整することができる。
前記深さ情報調整部は、前記入力映像に対するメタデータを利用して前記生成された深さ情報を所定の範囲で調整することができる。
前記メタデータは、前記入力映像に対応するコンテンツのジャンル情報及び視聴年齢情報の中で少なくともいずれか一つを含むことができる。
また、前記目的は、本発明によって、3D映像変換装置において、複数のフレームを含む入力映像に対して深さ情報を生成する深さ情報生成部と;前記生成された深さ情報に基づいて前記複数のフレームの中で第1フレーム内のオブジェクトに対する深さ情報と第2フレーム内のオブジェクトに対する深さ情報の差を計算する深さ情報差計算部と;前記深さ情報差計算部によって計算された結果が既に設定された臨界値を超過すれば前記第2フレーム内のオブジェクトに対する深さ情報を既に設定された範囲で調整する深さ情報調整部と;前記調整された深さ情報に従って前記入力映像をレンダリングするレンダリング部と;を含むことを特徴とする3D映像変換装置によって達成されることができる。
前記第1フレームのオブジェクトと第2フレームのオブジェクトは、ユーザによって同一オブジェクトと認識されることができる。
前記第1フレームのオブジェクトと前記第2フレームのオブジェクトは同一であり、前記第1フレームと前記第2フレームの間で動きが最も大きいオブジェクトを含むことができる。
前記装置は、前記深さ情報差計算部によって計算された、前記第1フレームのオブジェクト及び第2フレームのオブジェクトの深さ情報差を示す第3UIを生成するUI生成部をさらに含むことができる。
前記第3UIは、前記第2フレームのオブジェクトに対する深さ情報調整範囲を設定できる第4UIをさらに含むことができる。
前記装置は、ディスプレイ部とユーザ入力部をさらに含み、前記深さ情報調整部は、前記第4UIを通じて入力されたユーザ選択による特定の深さ情報調整範囲に従って前記第2フレームのオブジェクトの深さ情報を調整することができる。
また、前記目的は、本発明に従って、3D映像変換装置の深さ情報調整方法において、入力映像に対して深さ情報を生成する段階と;前記生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像から既に設定された範囲を超過する視差を有するオブジェクトを検出する段階と;前記検出されたオブジェクトの視差を既に設定された範囲で調整することによって前記オブジェクトの深さ情報を調整する段階と;前記調整された深さ情報に従って前記入力映像をレンダリングする段階と;を含むことを特徴とする3D映像変換装置の深さ情報調整方法によって達成されることができる。
前記方法は、前記検出されたオブジェクトを指示する第1UI及び前記検出されたオブジェクトの視差調整範囲を設定できる第2UIを生成及び表示する段階をさらに含むことができる。
前記方法は、前記第2UIを通じてユーザ選択による特定の視差調整範囲が入力される段階をさらに含み、前記深さ情報調整段階は、前記入力された特定の視差調整範囲に従って前記オブジェクトの視差を調整する段階であることができる。
前記深さ情報調整段階は、前記入力映像に対するメタデータを利用して前記生成された深さ情報を所定の範囲で調整する段階をさらに含むことができる。
前記メタデータは、前記入力映像に対応するコンテンツのジャンル情報及び視聴年齢情報の中で少なくともいずれか一つを含むことができる。
また、前記目的は、本発明に従って、3D映像変換装置の深さ情報調整方法において、複数のフレームを含む入力映像に対して深さ情報を生成する段階と;前記生成された深さ情報に基づいて前記複数のフレームの中で第1フレーム内のオブジェクトに対する深さ情報と第2フレーム内のオブジェクトに対する深さ情報の差を計算する段階と;前記深さ情報差計算部によって計算された結果が既に設定された臨界値を超過すれば前記第2フレーム内のオブジェクトに対する深さ情報を既に設定された範囲で調整する段階と;前記調整された深さ情報に従って前記入力映像をレンダリングする段階と;を含むことを特徴とする3D映像変換装置の深さ情報調整方法によって達成されることができる。
前記第1フレームのオブジェクトと第2フレームのオブジェクトは、ユーザによって同一オブジェクトと認識されることができる。
前記第1フレームのオブジェクトと前記第2フレームのオブジェクトは同一で、前記第1フレームと前記第2フレームの間で動きが最も大きいオブジェクトであることができる。
前記方法は、前記深さ情報差計算部によって計算された第1フレームのオブジェクト及び第2フレームのオブジェクトの深さ情報差を示す第3UIを生成及び表示する段階をさらに含むことができる。
前記第3UIは、前記第2フレームのオブジェクトに対する深さ情報調整範囲を設定できる第4UIをさらに含むことができる。
前記方法は、前記第4UIを通じてユーザ選択による特定の深さ情報調整範囲が入力される段階をさらに含み、前記深さ情報調整段階は、前記入力された特定の深さ情報調整範囲に従って前記第2フレームのオブジェクトの深さ情報を調整することができる。
また、前記目的は、本発明に従って、前記記載された方法を行なうプログラムを記録したコンピュータ判読可能な記録媒体によって達成されることができる。
以上、説明したように、本発明によれば、ユーザの目の疲れを最小限で減少させることができる3D映像変換装置、その深さ情報の調整方法及びその保存媒体が提供される。
本発明の一実施形態による3D映像変換装置の制御ブロック図である。 本発明の他の実施形態による3D映像変換装置の制御ブロック図である。 陰視差と陽視差を示す図である。 図2の3D映像変換装置の深さ情報調整方法の一例を示す図である。 図1の3D映像変換装置の深さ情報調整方法のフローチャートである。 図2の3D映像変換装置の深さ情報調整方法のフローチャートである。
以下、添付図面を参考して、本発明の実施形態に対して本発明が属する技術分野で通常の知識を有する者が容易に実施することができるように詳細に説明する。本発明は、多様な形態で具現されることができるし、ここで説明する実施形態に限定されない。本発明を明確に説明するために説明に係らない部分は省略し、明細書において、同一又は類似の構成要素に対しては同じ参照符号を付けるようにする。
図1及び図2は、本発明の一実施形態による3D映像変換装置の制御ブロック図である。3D映像変換装置100、200は、外部のソース提供装置(図示せず)から2次元映像又は単眼映像を受信して3次元映像又は両眼映像に変換できる電子装置として、例えば、ディスプレイ装置、特に一般PCなどを含むことができる。3D映像変換装置100、200は、受信された入力映像に対して所定のプロセッサーによって生成された深さ情報をユーザの選択が反映されるように調整し、前記調整された深さ情報を利用して3次元映像を生成する。3D映像変換装置100、200は、ソース提供装置(図示せず)から提供された2次元映像を3次元映像に変換して、3D映像変換装置100,200で前記変換した3次元映像を立体的に表示したり、外部の3次元映像を再生できるコンテンツ再生装置(図示せず)、例えば、TV、PC、スマートフォン、スマートパッド、PMP、MP3プレーヤーなどで前記変換した3次元映像を伝達することができる。
本実施形態によるネットワークにおいて、2次元映像及び/又は3次元映像の送信のためのデータ通信は、有線及び/又は無線通信方式などネットワークの通信方式には何の制限がなくて、知られた通信方式を全部含む。
図1に示すように、3D映像変換装置100は、第1受信部110、第1深さ情報生成部120、オブジェクト検出部130、第1深さ情報調整部140、第1レンダリング部150、第1ディスプレイ部160、第1UI生成部170及び第1ユーザ入力部180を含む。図2に示すように、3D映像変換装置200は、第2受信部210、第2深さ情報生成部220、深さ情報差計算部230、第2深さ情報調整部240、第2レンダリング部250、第2ディスプレイ部260、第2UI生成部270及び第2ユーザ入力部280を含む。
第1受信部110及び第2受信部は、外部のソース提供装置(図示せず)から入力映像を受信することができる。入力映像は、2次元映像または単眼映像を含むことができる。3次元映像は、視聴者の両眼視差を利用することとして、複数の左眼フレーム及び複数の右眼フレームを含むことができる。複数の左眼フレーム及び複数の右眼フレームの中で、一組の左眼フレームと右眼フレームは、入力映像の複数のフレームの中で対応する少なくともいずれか一つから各々変換されることができる。
第1受信部110及び第2受信部210は、所定のネットワーク(図示せず)を通じて、外部のソース提供装置(図示せず)から複数のフレームを含む2次元映像が提供されることができる。前記ソース提供装置は、例えば、ネットワークサーバーとして、2次元映像を保存し3D映像変換装置100、200の要請に従って2次元映像を3D映像変換装置100、200に送信することができる。
他の実施形態として、第1受信部110及び第2受信部210は、ネットワークでない他のデータ送信手段を通じてソース提供装置(図示せず)から2次元映像を受信することができる。例えば、ソース提供装置(図示せず)は、2次元映像を保存するハードディスク、フラッシュメモリー等のような保存手段を備える装置として、3D映像変換装置100、200にローカル装置として連結されて3D映像変換装置100、200の要請に従って2次元映像を3D映像変換装置100、200に送信することができる。この場合、2次元映像のデータ送信のためには、第1受信部110及び第2受信部210と、ソース提供装置(図示せず)とのローカル連結方式には制限がなくて、例えば、USB等を含む。
第1深さ情報生成部120及び第2深さ情報生成部220は、複数のフレームを含む入力映像に対する深さ情報を生成する。一実施形態によれば、第1深さ情報生成部120及び第2深さ情報生成部220は、一般的に知られた深さ推定アルゴリズムによって生成されることもできる。他の実施形態によれば、外部から深さ設定情報を受信し、前記深さ設定情報に基づいて入力映像に対する深さ情報を生成することもできる。この時、深さ設定情報は、複数のフレームを含む入力映像に対してフレーム選択情報、オブジェクト選択情報及び深さ値範囲情報の中で少なくともいずれか一つを含む。
オブジェクト検出部130は、前記第1深さ情報生成部120によって生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像内の既に設定された範囲を超過する視差を有するオブジェクトを検出することができる。
第1深さ情報調整部140は、前記オブジェクト検出部130によって検出されたオブジェクトの視差を既に設定された範囲で調整することによって前記オブジェクトの深さ情報を調整することができる。オブジェクト検出部130及び第1深さ情報調整部140に対てしは、図3で一層詳細に説明する。
深さ情報差計算部230は、前記第2深さ情報生成部220によって生成された深さ情報に基づいて前記複数のフレームの中で第1フレーム内のオブジェクトに対する深さ情報と第2フレーム内のオブジェクトに対する深さ情報との差を計算する。
第2深さ情報調整部240は、前記深さ情報差計算部によって計算された結果が既に設定された臨界値を超過すれば前記第2フレーム内のオブジェクトに対する深さ情報を既に設定された範囲で調整する。これに対しては、図4でさらに詳しく説明する。
第1レンダリング部150は、第1深さ情報調整部140によって調整された深さ情報を利用して入力映像に対してレンダリングを行い、第2レンダリング部250は、第2深さ情報調整部240によって調整された深さ情報を利用して入力映像に対してレンダリングを行なって結果的に3次元映像を生成する。
第1ディスプレイ部160及び第2ディスプレイ部260は、後述する第1UI生成部170及び第2UI生成部270によって生成されたUIを各々表示する。また、入力映像が3次元映像に変換が進行中である入力映像を前記UIと共に表示することができる。また、3次元映像に変換が完了された立体映像を表示することができる。第1ディスプレイ部160及び第2ディスプレイ部260の具現方式は、限定されず、液晶(liquid crystal)、プラズマ(plasma)、発光ダイオード(light−emitting diode)、有機発光ダイオード(organic light−emitting diode)、面伝導電子銃 (Surface−conduction electron−emitter)、炭素ナノチューブ(carbon nano−tube)、ナノクリスタル(nano−crystal)等の多様なディスプレイ方式で具現されることができる。
第1UI生成部170は、オブジェクト検出部130によって検出されたオブジェクトを指示する第1UIと、前記検出されたオブジェクトの視差調整範囲を設定できる第2UIと、を生成することができる。
第2UI生成部270は、深さ情報差計算部230によって計算された、第1フレームのオブジェクト及び第2フレームのオブジェクトの深さ情報差を示す第3UIを生成し、前記第3UIは、前記第2フレームのオブジェクトに対する深さ情報調整範囲を設定できる第4UIをさらに含むことができる。
第1ユーザ入力部180及び第2ユーザ入力部280は、ユーザの入力を受信するユーザーインターフェースとして、3D映像変換装置100、200の機能又は作動に関するユーザの選択が入力される。第1ユーザ入力部180及び第2ユーザ入力部280は、少なくとも一つのキーボタンを備えることができるし、3D映像変換装置100、200に設けられる操作パネル又はタッチパネルで具現されることができる。また、3D映像変換装置100、200に有無線で連結されたリモートコントロール、キーボード、マウス等の形態で具現されることができる。
図3は、陰視差と陽視差を示す図面として、これを利用して、3D映像変換装置100の深さ情報調整方法に対して記載する。図3に示すように、スクリーンを基準として入力映像のオブジェクトがスクリーンの後方に結ばれたように見えることが陽視差A、スクリーンに結ばれたように見えることがゼロ視差B、スクリーンから飛び出してくるように見えることが陰視差Cである。入力映像のオブジェクトが適切な大きさの陽視差又は陰視差を有する場合に、視聴者は立体映像の立体感を享有することができる。しかし、既に設定された範囲を超過する陽視差又は既に設定された範囲を超過する陰視差を有するオブジェクトの場合、過度な立体感によって、ユーザの両眼の疲れは急激に増加し、激しい場合には嘔吐又はめまいが引き起こされることもできる。
また、過度な陽視差又は過度な陰視差を有するオブジェクトの場合、スクリーンの画面で一部分が切られると見える現象が発生することもできる。従って、このような場合、前記オブジェクトの陽視差又は陰視差を調整しなければならない。
従って、オブジェクト検出部130は、深さ情報生成部120によって生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像内の既に設定された範囲を超過する視差を有するオブジェクトを検出する。この時、第1UI生成部170によって前記オブジェクト検出部130によって検出されたオブジェクトを指示する第1UIを生成し、また前記検出されたオブジェクトの視差調整範囲を設定できる第2UIを生成し、このように生成された第1UI及び第2UIは第1ディスプレイ部160に表示される。前記第2UIは、前記オブジェクトの適切な視差調整範囲のガイドラインを共に表示することができる。従って、前記表示されたガイドラインを参考して、ユーザは適切な視差調整範囲を選択することができる。第2UIを通じて第1ユーザ入力部180から前記検出されたオブジェクトの視差調整範囲に対するユーザ選択が入力される。第1深さ情報調整部140は、前記ユーザ選択による視差調整範囲に基づいて前記オブジェクトの視差を調整することによって、第1深さ情報調整部140は前記第1深さ情報生成部120によって生成された深さ情報を調整する。第1レンダリング部150は、前記第1深さ情報調整部140によって調整された深さ情報を利用して、入力映像に対してレンダリングを行なうことになって結果的に3次元映像が生成される。
また、他の一実施形態によれば、第1深さ情報調整部140は、前記入力映像に対するメタデータを利用して前記第1深さ調整生成部120によって生成された深さ情報を所定範囲で調整することができる。前記メタデータは、前記入力映像に対応するコンテンツのジャンル情報及び視聴年齢情報の中で少なくともいずれか一つを含むことができる。このようなメタデータは、前記入力映像に含まれていたり、別途に外部のソース提供装置(図示せず)から受信することができる。コンテンツジャンル情報は、入力映像に対応するコンテンツが、アクション、スポーツ、ドラマの中でいずれか一つを指示する情報として、コンテンツのジャンルに従って第1深さ情報生成部120で生成された深さ情報を加減してコンテンツジャンルに対応される深さ情報を生成することによって、視聴者は、コンテンツジャンルに対応する立体感を享有できる効果を有する。また、コンテンツ視聴年齢情報は、入力映像の視聴適正年齢情報を含んでいる。即ち、幼児期から成人に達するまで、物理的な人間の両眼視差が異なり、また、乳児又は児童の場合に過度な立体感を有する立体映像を視聴する場合、成人よりさらに大きい視聴疲れを感じるだろう。従って、コンテンツの視聴年齢情報に対応して、第1深さ情報生成部120で生成された深さ情報を加減して、コンテンツ視聴年齢に対応される深さ情報を生成することによって、視聴者はコンテンツ視聴年齢に対応する立体感を享有できる効果を有する。
図4は、本発明の他の実施形態による3D映像変換装置200の深さ情報調整方法を示している。
前後フレームの深さ情報の差が大きい場合、視聴者は、それだけ視聴疲れを感じることになって、めまい、嘔吐のような症状が伴うこともできる。従って、本実施形態によれば、第2深さ情報生成部220によって複数のフレームを含む入力映像に対して深さ情報を生成する場合、前記生成された深さ情報に基づいて第1フレーム内のオブジェクトに対する深さ情報と第2フレーム内のオブジェクトに対する深さ情報との差を計算し、前記差が既に設定された臨界値を超過すれば、第2オブジェクトに対する深さ情報を既に設定された範囲で調整することによってユーザの疲れを最小化する。この時、深さ情報の調整は、ユーザの選択が入力されることによって可能になる。
図4に示すように、第1フレームは、第1オブジェクトa−1、第2オブジェクトb−1及び第3オブジェクトc−1を含む。第2フレームは、第4オブジェクトa−2、第5オブジェクトb−2及び第6オブジェクトc−2を含む。第3フレームは、第7オブジェクトa−3、第8オブジェクトb−3及び第9オブジェクトc−3を含む。第4フレームは、第10オブジェクトa−4、第11オブジェクトb−4及び第12オブジェクトc−4を含む。ここで、第1オブジェクトa−1、第4オブジェクトa−2、第7オブジェクトa−3及び第10オブジェクトa−4は、視聴者に同一オブジェクトと認識される。また、第2オブジェクトb−1、第5オブジェクトb−2、第8オブジェクトb−3及び第11オブジェクトb−4は、視聴者に同一オブジェクトと認識される。また、第3オブジェクトc−1、第6オブジェクトc−2、第9オブジェクトc−3及び第12オブジェクトc−4は、視聴者に同一オブジェクトと認識される。
図4のグラフのY軸は深さ値の水準を示し、X軸はフレームの変化を示す。従って、Y軸の大きさに従って、第1オブジェクト乃至第12オブジェクトそれぞれの深さレベルが決まり、これは第2深さ情報生成部220によって生成された値と言える。
深さ情報差計算部230は、第1オブジェクトa−1と第4オブジェクトa−2の深さ情報差Da−1を計算し、第4オブジェクトa−2と第7オブジェクトa−3の間の深さ情報差Da−2を計算し、第7オブジェクトa−3と第10オブジェクトa−4の間の深さ情報差Da−3を計算する。
また、深さ情報差計算部230は、前記のような方法で、第2オブジェクトb−1、第5オブジェクトb−2、第8オブジェクトb−3及び第11オブジェクトb−4の間の深さ情報Db−1、Db−2、Db−3を計算し、第3オブジェクトc−1、第6オブジェクトc−2、第9オブジェクトc−3及び第12オブジェクトc−4の間の深さ情報Dc−1、Dc−2、Dc−3を計算する。
その結果、差値Da−1、Da−2、Db−2、Db−3は、既に設定された臨界値を超過する差であり、残りの差値Da−3、Db−1、Dc−1、Dc−2、Dc−3は、既に設定された臨界値を超過しない差と判断される。前記深さ情報差計算部230の結果に従って、前記既に設定された臨界値を超過する差値Da−1、Da−2、Db−2、Db−3を示す第3UIが生成されて表示され、前記表示された差値Da−1、Da−2、Db−2、Db−3を調整するために、第4オブジェクトa−2、第7オブジェクトa−3、第8オブジェクトb−3及び第11オブジェクトb−4の深さ情報の調整範囲を設定できる第4UIが生成されて表示される。従って、前記第4UIを通じて第2ユーザ入力部280によってユーザ選択による深さ情報調整範囲が入力されれば、第2深さ情報調整部240は、前記ユーザ選択による深さ情報調整範囲に従って前記第4オブジェクトa−2、第7オブジェクトa−3、第8オブジェクトb−3及び第11オブジェクトb−4の深さ情報を調整することになる。この時、第4UIは、深さ情報調整範囲のガイドラインを提示する情報を共に表示することができる。従って、ユーザは前記表示されたガイドラインを参照して深さ情報調整範囲を選択入力することができる。
このように調整された深さ情報を利用して、第2レンダリング部250は、前記入力映像に対してレンダリングを行なうことになって、結果的に3次元映像が生成されることができる。
図5は、本発明の一実施形態による3D映像変換装置の深さ情報調整方法を示すフローチャートである。図5に示すように、入力映像を外部のソース提供装置(図示せず)から受信すれば、3D映像変換装置は、前記受信した入力映像に対して深さ情報を生成する(S11)。前記生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像内の既に設定された範囲を超過する視差を有するオブジェクトを検出し(S12)、前記検出されたオブジェクトを指示する第1UI及び検出されたオブジェクトの視差調整範囲を設定できる第2UIを生成及び表示する(S13)。前記第2UIを通じてユーザ選択による特定の視差調整範囲が入力されれば(S14)、オブジェクトの視差を特定の視差調整範囲で調整することによって前記オブジェクトの深さ情報が調整される(S15)。前記調整された深さ情報に従って前記入力映像をレンダリング(S16)を遂行して、結果的に入力映像に対する3次元映像が生成される。前記生成された3次元映像を3D映像変換装置100で表示する段階をさらに含むことができる。又は、前記生成された3次元映像を外部のコンテンツ再生装置(図示せず)に送信する段階をさらに含むことができる。
図6は、本発明の一実施形態による3D映像変換装置の深さ情報調整方法のフローチャートである。図6に示すように、複数のフレームを含む入力映像を受信し、前記受信された入力映像に対して深さ情報を生成する(S21)。生成された深さ情報に基づいて、前記複数のフレームの中で第1フレーム内のオブジェクトに対する深さ情報と第2フレーム内のオブジェクトに対する深さ情報との差を計算し(S22)、前記計算された第1フレームのオブジェクト及び第2フレームのオブジェクトの深さ情報差を表示する第3UI及び深さ情報調整範囲を設定できる第4UIを生成及び表示する(S23)。第4UIを通じて、ユーザ選択による特定の深さ情報調整範囲が入力されれば(S24)、前記入力された特定の深さ情報調整範囲に従って第2フレームのオブジェクトの深さ情報を調整する(S25)。前記調整された深さ情報に従って前記入力映像をレンダリング(S26)を遂行し、結果的に入力映像に対する3次元映像が生成される。前記生成された3次元映像を3D映像変換装置200で表示する段階をさらに含むことができる。又は、前記生成された3次元映像を外部のコンテンツ再生装置(図示せず)に送信する段階をさらに含むことができる。
本発明による3D映像変換装置100,200によって具現される方法は、多様なコンピュータ手段を通じて行なわれることができるプログラム命令形態で具現されてコンピュータ判読可能な非一時的保存媒体に記録されることができる。前記コンピュータ判読可能な非一時的保存媒体は、プログラム命令、データ
ファイル、データ構造などを単独でまたは組み合わせて含むことができる。前記非一時的保存媒体に記録されるプログラム命令は、本発明のために特別に設計され構成されたことや、コンピュータソフトウェア当業者に公知されて使用可能なことでありうる。コンピュータ判読可能な記録媒体は、例えば、ハードディスク、フロッピー(登録商標)ディスク、磁気テープのような磁気媒体(magnetic media)、CD-ROM、DVDのような光記録媒体(optical media)、プルロプティカルディスク(floptical disk)のような磁気−光媒体(magneto−optical media)、及びロム(ROM)、ラム(RAM)、フラッシュメモリーなどのようなプログラム命令を保存し遂行するように特別に構成されたハードウェア装置が含まれる。プログラム命令は、例えば、コンパイラーによって作られるような機械語コードだけでなく、インタープリターなどを使ってコンピュータによって実行されることができる高級言語コードを含む。前記ハードウェア装置は、本発明の動作を行うるために、一つ以上のソフトウェアモジュールとして作動するように構成され、その反対も同じである。
以上、多様な実施形態を通じて本発明に対して図示し説明したが、本発明はこれに限定されず、本発明の属する技術分野の通常の知識を有する人なら本発明の原則や精神に外れなく本発明の一実施形態を変形し得ることを分かることができる。発明の範囲は、特許請求の範囲とその均等物によって定められる。
100、200 3D映像変換装置
110、210 受信部
120、220 深さ情報生成部
130 オブジェクト検出部
230 深さ情報差計算部
140、240 深さ情報調整部
150、250 レンダリング部
160、260 ディスプレイ部
170、270 UI生成部
180、280 ユーザ入力部

Claims (20)

  1. 3D映像変換装置において、
    入力映像に対して深さ情報を生成する深さ情報生成部と;
    前記生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像から既に設定された範囲を超過する視差を有するオブジェクトを検出するオブジェクト検出部と;
    前記検出されたオブジェクトの視差を既に設定された範囲で調整することによって前記オブジェクトの深さ情報を調整する深さ情報調整部と;
    前記調整された深さ情報に従って前記入力映像をレンダリングするレンダリング部と;
    を含むことを特徴とする3D映像変換装置。
  2. 前記検出されたオブジェクトを指示する第1UIと、
    前記検出されたオブジェクトの視差調整範囲を設定できる第2UIと、
    を生成するUI生成部をさらに含むことを特徴とする請求項1に記載の3D映像変換装置。
  3. ディスプレイ部と;
    ユーザ入力部をさらに含み、
    前記深さ情報調整部は、前記第2UIを通じて入力されたユーザ選択により特定の視差調整範囲に従って前記オブジェクトの視差を調整することを特徴とする請求項2に記載の3D映像変換装置。
  4. 前記深さ情報調整部は、
    前記入力映像に対するメタデータを利用して前記生成された深さ情報を所定の範囲で調整することを特徴とする請求項3に記載の3D映像変換装置。
  5. 前記メタデータは、前記入力映像に対応するコンテンツのジャンル情報及び視聴年齢情報の中で少なくともいずれか一つを含むことを特徴とする請求項4に記載の3D映像変換装置。
  6. 3D映像変換装置において、
    複数のフレームを含む入力映像に対して深さ情報を生成する深さ情報生成部と;
    前記生成された深さ情報に基づいて前記複数のフレームの中で第1フレーム内のオブジェクトに対する深さ情報と第2フレーム内のオブジェクトに対する深さ情報との差を計算する深さ情報差計算部と;
    前記深さ情報差計算部によって計算された結果が既に設定された臨界値を超過すれば前記第2フレーム内のオブジェクトに対する深さ情報を既に設定された範囲で調整する深さ情報調整部と;
    前記調整された深さ情報に従って前記入力映像をレンダリングするレンダリング部と;
    を含むことを特徴とする3D映像変換装置。
  7. 前記第1フレームのオブジェクトと第2フレームのオブジェクトは、ユーザによって同一オブジェクトと認識されることを特徴とする請求項6に記載の3D映像変換装置。
  8. 前記深さ情報差計算部によって計算された、前記第1フレームのオブジェクト及び第2フレームのオブジェクトの深さ情報差を示す第3UIを生成するUI生成部をさらに含むことを特徴とする請求項6に記載の3D映像変換装置。
  9. 前記第3UIは、
    前記第2フレームのオブジェクトに対する深さ情報調整範囲を設定できる第4UIをさらに含むことを特徴とする請求項8に記載の3D映像変換装置。
  10. ディスプレイ部と;
    ユーザ入力部をさらに含み、
    前記深さ情報調整部は、
    前記第4UIを通じて入力されたユーザ選択による特定の深さ情報調整範囲に従って前記第2フレームのオブジェクトの深さ情報を調整することを特徴とする請求項9に記載の3D映像変換装置。
  11. 3D映像変換装置の深さ情報調整方法において、
    入力映像に対して深さ情報を生成する段階と;
    前記生成された深さ情報に基づいて前記入力映像に対応する左眼映像及び右眼映像から既に設定された範囲を超過する視差を有するオブジェクトを検出する段階と;
    前記検出されたオブジェクトの視差を既に設定された範囲で調整することによって前記オブジェクトの深さ情報を調整する段階と;
    前記調整された深さ情報に従って前記入力映像をレンダリングする段階と;
    を含むことを特徴とする3D映像変換装置の深さ情報調整方法。
  12. 前記検出されたオブジェクトを指示する第1UI及び前記検出されたオブジェクトの視差調整範囲を設定できる第2UIを生成及び表示する段階をさらに含むことを特徴とする請求項11に記載の3D映像変換装置の深さ情報調整方法。
  13. 前記第2UIを通じてユーザ選択による特定の視差調整範囲が入力される段階をさらに含み、
    前記深さ情報調整段階は、前記入力された特定の視差調整範囲に従って前記オブジェクトの視差を調整する段階であることを特徴とする請求項12に記載の3D映像変換装置の深さ情報調整方法。
  14. 前記深さ情報調整段階は、
    前記入力映像に対するメタデータを利用して前記生成された深さ情報を所定の範囲で調整する段階をさらに含むことを特徴とする請求項13に記載の3D映像変換装置の深さ情報調整方法。
  15. 前記メタデータは、前記入力映像に対応するコンテンツのジャンル情報及び視聴年齢情報の中で少なくともいずれか一つを含むことを特徴とする請求項14に記載の3D映像変換装置の深さ情報調整方法。
  16. 3D映像変換装置の深さ情報調整方法において、
    複数のフレームを含む入力映像に対して深さ情報を生成する段階と;
    前記生成された深さ情報に基づいて前記複数のフレームの中で第1フレーム内のオブジェクトに対する深さ情報と第2フレーム内のオブジェクトに対する深さ情報との差を計算する段階と;
    前記深さ情報差計算部によって計算された結果が既に設定された臨界値を超過すれば前記第2フレーム内のオブジェクトに対する深さ情報を既に設定された範囲で調整する段階と;
    前記調整された深さ情報に従って前記入力映像をレンダリングする段階と;
    を含むことを特徴とする3D映像変換装置の深さ情報調整方法。
  17. 前記第1フレームのオブジェクトと第2フレームのオブジェクトは、ユーザによって同一オブジェクトと認識されることを特徴とする請求項16に記載の3D映像変換装置の深さ情報調整方法。
  18. 前記深さ情報差計算部によって計算された、前記第1フレームのオブジェクト及び第2フレームのオブジェクトの深さ情報差を示す第3UIを生成及び表示する段階をさらに含むことを特徴とする請求項16に記載の3D映像変換装置の深さ情報調整方法。
  19. 前記第3UIは、
    前記第2フレームのオブジェクトに対する深さ情報調整範囲を設定できる第4UIをさらに含むことを特徴とする請求項18に記載の3D映像変換装置の深さ情報調整方法。
  20. 前記第4UIを通じて、ユーザ選択による特定の深さ情報調整範囲が入力される段階をさらに含み、
    前記深さ情報調整段階は、前記入力された特定の深さ情報調整範囲に従って前記第2フレームのオブジェクトの深さ情報を調整することを特徴とする請求項19に記載の3D映像変換装置の深さ情報調整方法。
JP2012123529A 2011-06-01 2012-05-30 3d映像変換装置、その深さ情報の調整方法及びその保存媒体 Pending JP2012253768A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020110052903A KR20120133951A (ko) 2011-06-01 2011-06-01 3d 영상변환장치 그 깊이정보 조정방법 및 그 저장매체
KR10-2011-0052903 2011-06-01

Publications (1)

Publication Number Publication Date
JP2012253768A true JP2012253768A (ja) 2012-12-20

Family

ID=46320752

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012123529A Pending JP2012253768A (ja) 2011-06-01 2012-05-30 3d映像変換装置、その深さ情報の調整方法及びその保存媒体

Country Status (5)

Country Link
US (1) US20120306866A1 (ja)
EP (1) EP2530939A3 (ja)
JP (1) JP2012253768A (ja)
KR (1) KR20120133951A (ja)
CN (1) CN102811359A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014127788A (ja) * 2012-12-26 2014-07-07 Nippon Hoso Kyokai <Nhk> 立体画像補正装置及びそのプログラム
JP2014127789A (ja) * 2012-12-26 2014-07-07 Nippon Hoso Kyokai <Nhk> 立体画像補正装置及びそのプログラム
JP2016540401A (ja) * 2013-10-14 2016-12-22 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 3d表示のための深度マップのリマッピング

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120133640A (ko) * 2011-05-31 2012-12-11 삼성전자주식회사 3d 영상변환장치 그 구현방법 및 그 저장매체
CN103686118A (zh) * 2012-09-19 2014-03-26 珠海扬智电子科技有限公司 影像深度调整方法与装置
KR102143944B1 (ko) * 2013-09-27 2020-08-12 엘지디스플레이 주식회사 입체감 조절 방법과 이를 이용한 입체 영상 표시장치
CN106454315A (zh) * 2016-10-26 2017-02-22 深圳市魔眼科技有限公司 一种自适应虚拟视图转立体视图的方法、装置及显示设备
CN107071384B (zh) * 2017-04-01 2018-07-06 上海讯陌通讯技术有限公司 虚拟主动视差计算补偿的双目渲染方法及***
KR102483078B1 (ko) * 2021-10-20 2022-12-29 금정현 입체 영상을 포함하는 배경과 촬영 중 객체 간의 실시간 뎁스 기반 영상 합성 방법, 장치 및 컴퓨터-판독가능 기록매체

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2357840A3 (en) * 2002-03-27 2012-02-29 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
JP4555722B2 (ja) * 2005-04-13 2010-10-06 株式会社 日立ディスプレイズ 立体映像生成装置
EP2084672A1 (en) * 2006-11-20 2009-08-05 THOMSON Licensing System and method for compositing 3d images
KR101345303B1 (ko) * 2007-03-29 2013-12-27 삼성전자주식회사 스테레오 또는 다시점 영상의 입체감 조정 방법 및 장치
EP2274920B1 (en) * 2008-05-12 2019-01-16 InterDigital Madison Patent Holdings System and method for measuring potential eyestrain of stereoscopic motion pictures
KR101619450B1 (ko) * 2009-01-12 2016-05-10 엘지전자 주식회사 뎁스 정보를 이용한 비디오 신호 처리 방법 및 장치
JP2011028633A (ja) * 2009-07-28 2011-02-10 Sony Corp 情報処理装置及び方法、並びに、プログラム
JP5361618B2 (ja) * 2009-09-04 2013-12-04 キヤノン株式会社 画像処理装置及びその制御方法
US20110157155A1 (en) * 2009-12-31 2011-06-30 Disney Enterprises, Inc. Layer management system for choreographing stereoscopic depth

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014127788A (ja) * 2012-12-26 2014-07-07 Nippon Hoso Kyokai <Nhk> 立体画像補正装置及びそのプログラム
JP2014127789A (ja) * 2012-12-26 2014-07-07 Nippon Hoso Kyokai <Nhk> 立体画像補正装置及びそのプログラム
JP2016540401A (ja) * 2013-10-14 2016-12-22 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 3d表示のための深度マップのリマッピング

Also Published As

Publication number Publication date
EP2530939A3 (en) 2015-09-09
EP2530939A2 (en) 2012-12-05
CN102811359A (zh) 2012-12-05
KR20120133951A (ko) 2012-12-11
US20120306866A1 (en) 2012-12-06

Similar Documents

Publication Publication Date Title
JP2012253768A (ja) 3d映像変換装置、その深さ情報の調整方法及びその保存媒体
US9723289B2 (en) Dynamic adjustment of predetermined three-dimensional video settings based on scene content
JP2013088524A (ja) 電子機器及び表示制御方法
WO2010032399A8 (ja) 立体視映像再生装置、及び立体視映像表示装置
JP2011035712A5 (ja)
JP2014500674A (ja) 適応的な両眼差をもつ3dディスプレイのための方法およびシステム
JP2013009274A5 (ja)
JP2017523661A (ja) 裸眼(Glasses−Free)3Dディスプレイモバイル装置、その設定方法及び使用方法
JP2011164781A (ja) 立体画像生成プログラム、情報記憶媒体、立体画像生成装置、及び立体画像生成方法
JP2012015771A (ja) 画像処理装置、画像処理プログラム、及び画像処理方法
US9047797B2 (en) Image display apparatus and method for operating the same
JP2012253766A (ja) 3d映像変換装置、3d映像変換装置によって具現される方法及びその保存媒体
US20120308115A1 (en) Method for Adjusting 3-D Images by Using Human Visual Model
US20140293022A1 (en) Information processing apparatus, information processing method and recording medium
US20120224035A1 (en) Electronic apparatus and image processing method
US8977036B2 (en) Apparatus and method for 3D image conversion and a storage medium thereof
JP2012222588A (ja) 画像処理装置、および画像処理方法、並びにプログラム
US8416288B2 (en) Electronic apparatus and image processing method
JP5573426B2 (ja) 音声処理装置、音声処理方法、およびプログラム
JP2012518830A5 (ja)
US20140198098A1 (en) Experience Enhancement Environment
JP5349658B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2013003202A (ja) 表示制御装置、表示制御方法、及びプログラム
JP6613099B2 (ja) 仮想現実空間を立体的に表示するためのプログラム、コンピュータ及びヘッドマウントディスプレイシステム
US20120268576A1 (en) Electronic apparatus, display control method and recording medium