JP5784729B2 - マルチビュー生成のためのレンダリング装置およびその方法 - Google Patents

マルチビュー生成のためのレンダリング装置およびその方法 Download PDF

Info

Publication number
JP5784729B2
JP5784729B2 JP2013525832A JP2013525832A JP5784729B2 JP 5784729 B2 JP5784729 B2 JP 5784729B2 JP 2013525832 A JP2013525832 A JP 2013525832A JP 2013525832 A JP2013525832 A JP 2013525832A JP 5784729 B2 JP5784729 B2 JP 5784729B2
Authority
JP
Japan
Prior art keywords
view
prediction
views
hole
reference hole
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013525832A
Other languages
English (en)
Other versions
JP2013545149A (ja
Inventor
ヨン ファン,ギュ
ヨン ファン,ギュ
ヨン リー,ホ
ヨン リー,ホ
ホ チョウ,ヤン
ホ チョウ,ヤン
ジョン,ヨン−ジュ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2013545149A publication Critical patent/JP2013545149A/ja
Application granted granted Critical
Publication of JP5784729B2 publication Critical patent/JP5784729B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Image Generation (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Processing (AREA)

Description

本発明は、マルチビュー生成のためのレンダリング装置およびその方法に関し、より詳しくは、生成されるビューの間の不連続性を減らすか取り除くことができる、マルチビュー生成のためのレンダリング装置およびその方法に関する。
立体映像は、深さおよび空間に対する形状情報を同時に提供する3次元映像である。3次元映像を表示する3次元ディスプレイは、2つ以上の映像を同時に出力するマルチビュー方式を使用する。これは、同一の映像を異なる方向、すなわち、異なる視点から見たものと同じ効果の映像を提供するためである。
マルチビュー方式は、撮影された映像がディスプレイ装置に送信されれば、ディスプレイ装置が受信した撮影された映像から補間映像(Interpolation View)を生成したり、補外映像(Extrapolation View)を生成したりして、実際に撮影された映像よりも多くの映像を生成する。このような場合、撮影された映像と補間映像および補外映像との間に不連続性が現れ、画質低下が発生する。例えば、連続する2つの補間映像の色の差異によって、同一の背景が互いに異なって表現される。これは、2つの補間映像に存在するホール(hole)をそれぞれ復元するためである。
本発明の実施形態によりマルチビュー生成のためのレンダリング装置およびその方法を提供する。
本発明の実施形態により生成された複数の予測ビューに含まれたホールをそれぞれ復元せず、1つの基準ホールに集合して復元するマルチビュー生成のためのレンダリング装置およびその方法を提供する。
本発明の実施形態により復元された基準ホール、すなわち、同一の基準ホールを用いて予測ビューに含まれたホールを除去することにより、ビューとビューの間に発生する不連続性を解消し、画質を向上させるレンダリング装置およびその方法を提供する。
本発明の一実施形態に係るマルチビュー生成のための装置は、少なくとも1つの参照ビューをレンダリングして複数の予測ビューを生成するレンダリング部と、前記それぞれの予測ビューに存在するホールの集合を示す基準ホールを生成するホール集合部と、前記基準ホールを復元(inpainting)するホール復元部と、前記復元された基準ホールを用いて前記各予測ビューに存在するホールを除去するマルチビュー生成部と、を含む。
前記予測ビューは、連続する2つの参照ビューの間に位置する補間ビューであってもよい。前記補間ビューは、連続的な補間ビューであってもよい。
前記ホール集合部は、前記基準ホールを含む基準ホールレイヤを生成し、前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有してもよい。
前記マルチビュー生成部は、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去する。
前記予測ビューは、前記少なくとも1つの参照ビューの外側に位置する補外ビューであってもよい。前記補外ビューは、1つの参照ビューをレンダリングして生成される。
前記ホール集合部は、前記基準ホールを含む基準ホールレイヤを生成し、前記基準ホールレイヤは、前記各補外ビューと同一の大きさを有してもよい。
前記マルチビュー生成部は、前記各補外ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去する。
前記レンダリング装置は、それぞれの予測ビューに存在するホールを検出するホール検出部をさらに含んでもよい。
本発明の一実施形態に係るマルチビュー生成方法は、少なくとも1つの参照ビューをレンダリングして複数の予測ビューを生成するステップと、前記それぞれの予測ビューに存在するホールの集合を示す基準ホールを生成するステップと、前記基準ホールを復元するステップと、前記復元された基準ホールを用いて前記各予測ビューに存在するホールを除去するステップと、を含む。
前記予測ビューは、連続する2つの参照ビューの間に位置する補間ビューであってもよい。前記補間ビューは、連続的な補間ビューであってもよい。
前記基準ホールを生成するステップは、前記基準ホールを含む基準ホールレイヤを生成し、前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有してもよい。
前記各予測ビューに存在する前記ホールを除去するステップは、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去する。
本発明の一実施形態に係るマルチビュー生成のためのレンダリング装置は、メモリと、複数の予測ビューに存在するホールを用いて前記各予測ビューに存在するホールの集合を示す基準ホールを生成し、前記基準ホールを復元し、前記復元された基準ホールを用いて前記各予測ビューに存在する前記ホールを除去するように構成されたプロセッサと、を含んでもよい。
本発明の一実施形態に係るマルチビュー生成のための装置を含むマルチビューディスプレイ装置は、マルチビューを生成するための装置に含まれ、複数の予測ビューに存在するホールを用いて前記各予測ビューに存在するホールの集合を示す基準ホールを生成し、前記基準ホールを復元し、前記復元された基準ホールを用いて前記各予測ビューに存在する前記ホールを除去するように構成されたプロセッサと、前記予測ビューに基づいたマルチビューのイメージをディスプレイするマルチビューディスプレイと、を含んでもよい。
このとき、前記マルチビューを生成するための装置は、前記各補間ビューの前記ホールに前記復元された基準ホールの対応する部分を挿入することにより、前記ホールを除去してもよい。
マルチビュー生成のためのレンダリング装置およびその方法によれば、生成された複数の予測ビューに含まれたホールをそれぞれ復元せず、1つの基準ホールに集合して復元してもよい。復元された基準ホール、すなわち、同一の基準ホールを用いて予測ビューに含まれたホールを除去することにより、ビューとビューの間に発生する不連続性を解消して、画質を向上させることができる。
本発明の一実施形態に係るマルチビュー生成のためのレンダリング装置を示すブロック図である。 復元方式を説明するための図である。 本発明の一実施形態に係る予測ビューが補間ビューである場合、マルチビューを生成する例を示す図である。 本発明の一実施形態に係る予測ビューが補外ビューである場合、マルチビューを生成する例を示す図である。 本発明の一実施形態に係るレンダリング装置のマルチビュー生成方法を説明するためのフローチャートである。 本発明の一実施形態に係るマルチビュー生成のための装置を含むマルチビューディスプレイ装置を示すブロック図である。
以下、本発明の実施形態を添付された図面を参照して詳細に説明する。
図1は、マルチビュー生成のためのレンダリング装置100を示したブロック図である。図1のレンダリング装置100は、ステレオ方式とマルチビュー方式を使用して、3D映像を提供する装置に適用される。ステレオ方式は、左映像と右映像を用いて3D映像を提供する方式である。マルチビュー方式は、3つ以上の異なる視点に該当する映像を用いて3D映像を提供する方式である。
図1を参照すると、マルチビュー生成のためのレンダリング装置100は、レンダリング部110、ホール検出部120、ホール集合部130、ホール復元部140およびマルチビュー生成部150を含んでもよい。
レンダリング部110は、少なくとも1つの参照ビュー(Reference View)をレンダリングして、複数の予測ビューを生成することができる。参照ビューは、1つの映像を互いに異なる位置で撮影して獲得したビューであって、視点が互いに異なる。特に、レンダリング部110は、参照ビューの画素のカラー値と視差(disparity)のうち少なくとも1つをレンダリングして、予測ビューを生成することができる。視差は、連続する2つの参照ビューの間の差であって、画素値の差、画素の位置の差などが例として挙げられる。
予測ビューは、補間技法によって生成される補間ビューと、補外技法によって生成される補外ビューとを含んでもよい。レンダリング部110は、連続する2つの参照ビューのカラー値と視差とを用いて、補間ビューを生成することができる。また、レンダリング部110は、複数の参照ビューのうち最左側または最右側に位置する参照ビューのカラー値を用いて、補外ビューを生成することができる。したがって、補外ビューは、参照ビューの外側のビューである。例えば、最左側の参照ビュー(最左側に位置する参照ビュー)を用いて生成される補外ビューは、最左側の参照ビューよりもさらに左側の視点に対応する。
ホール検出部120は、レンダリング部110で生成されるそれぞれの予測ビューに存在するホールを検出することができる。ホールは、画素値が存在しない領域、または、画素のカラー値が満たさない領域である。予測ビューは、参照ビューとは異なる視点に対応するビューであって、参照ビューのオブジェクトが任意方向へ移動したように見られることもある。したがって、参照ビューにおいて、オブジェクトにより遮られた背景が予測ビューで見られる場合、前記遮られた後に見られる背景は、ホールとして再現されることもある。また、上述した視差のエラーによって予測ビューはホールを有することもある。
ホール集合部130は、それぞれの予測ビューに存在するホールを用いて1つの基準ホールレイヤを生成することができる。具体的に、ホール集合部130は、複数の予測ビューのうち連続的に生成された予測ビューに対して1つの基準ホールレイヤを生成することができる。基準ホールレイヤは、予測ビューと同一の大きさであり、基準ホールを含んでもよい。
ホール集合部130は、レンダリング部110で生成された予測ビューが補間ビューである場合と補外ビューである場合に、互いに異なる基準を用いて基準ホールレイヤを生成することができる。
予測ビューが補間ビューである場合、ホール集合部130は、複数の補間ビューのうち連続的に生成された補間ビューに対して、1つの基準ホールレイヤを生成することができる。連続的に生成された補間ビューは、複数の参照ビューのうち連続する2つの参照ビューの間に位置してもよい。これは、連続的に生成された補間ビューは、連続する2つの参照ビューから補間によって生成されたビューであるためである。
ホール集合部130は、連続する複数の補間ビューで検出されたホールを集合して基準ホールを生成する。例えば、2つの参照ビューをそれぞれ左側参照ビューおよび右側参照ビューとすれば、レンダリング部110は、左側参照ビューと右側参照ビューとの間に位置する補間ビューを生成する。ホール検出部120が補間ビューからホールを検出した場合、ホール集合部130は、検出されたホールを集合して基準ホールを生成する。
したがって、基準ホールは、各補間ビューに存在するホールの集合を示す。集合する間、2つ以上の補間ビュー内の共通のホールは一度計算される。基準ホールは、補間ビューに存在するホールの集合を示すので、連続する領域を有しても有さなくてもよい。
また、ホール集合部130は、生成された基準ホールを含む基準ホールレイヤを生成する。基準ホールレイヤは、各補間ビューと同一の大きさを有し、基準ホールは、検出されたホールの集合と同一の大きさを有する。
一方、予測ビューが補外ビューである場合、ホール集合部130は、複数の補外ビューのうち連続的に生成された補外ビューに対して、1つの基準ホールレイヤを生成することができる。連続的に生成された補外ビューは、複数の参照ビューのうち最左側の参照ビューから生成されるビューであってもよく、または、最右側の参照ビューから生成されるビューであってもよい。ホール集合部130は、連続する補外ビューに存在するホールを1つに集合して1つの基準ホールを生成する。補間ビューのための基準ホールのように補外ビューのための基準ホールも、連続する領域を有しても有さなくてもよい。
また、ホール集合部130は、生成された基準ホールを含む基準ホールレイヤを生成することができる。基準ホールレイヤは、各補外ビューと同一の大きさを有する。
ホール復元部140は、ホール集合部130で生成された基準ホールレイヤの基準ホールを周知の画素情報を用いて復元することができる。例えば、ホール復元部140は、周知の復元方式を用いて基準ホールを復元してもよい。
図2は、復元方式を説明するための図である。図2を参照すると、復元方式は、ホールの周辺に位置する周知の領域の画素値を、ホールに伝播(propagation)させ、ホールに画素値を満たす方式である。
数式(1)は、復元方式を用いてホールに位置する画素の画素値を予測するための式である。
Figure 0005784729
数式(1)において、qは周知の領域に位置する画素の座標、pはホールに位置する画素の座標、Iは画素値、
Figure 0005784729
は勾配(gradient)である。すなわち、ホール復元部140は、画素の座標p、周辺画素の座標qおよび周辺画素の画素値I(q)を用いてホールを復元してもよい。
また、ホール復元部140は、座標pの画素値を求めるために、周知の領域のすべての画素値を、数式(2)を用いてホールを復元してもよい。
Figure 0005784729
数式(2)において、
Figure 0005784729
は座標qが位置する周知の領域、
Figure 0005784729
は相対的な加重値を意味する。
Figure 0005784729
は、周知の領域に位置するすべての座標に付与された加重値であって、座標p毎に異なる値を有してもよい。
また、ホール復元部140は、上述した復元方式だけでなく、映像内の標本を用いて映像を復元する周知のExemplar−based Inpainting方式を用いてホールを復元してもよい。
マルチビュー生成部150は、基準ホールの復元された基準ホールレイヤを用いて各予測ビューに存在するホールを除去してもよい。予測ビューが補間ビューである場合、マルチビュー生成部150は、各補間ビューのホールに復元された基準ホールの対応する部分を挿入する。同様に、予測ビューが補外ビューである場合、マルチビュー生成部150は、各補外ビューのホールに基準ホールの対応する部分を挿入する。したがって、マルチビュー生成部150は、補間ビューと補外ビューのホールに復元された基準ホールの対応する部分を満たすことにより、マルチビューを生成する。
以下では、予測ビューが補間ビューである場合と補外ビューである場合に、マルチビューを生成する方法について図3および図4を参照して説明する。
図3は、予測ビューが補間ビューである場合、マルチビューを生成する一実施形態を説明するための図である。図3を参照すると、左側参照ビューと右側参照ビューは、複数の参照ビューのうち連続するビューである。左側参照ビューと右側参照ビューは、互いに異なる視点に対応するビューであり、類似する背景を有する。識別番号「310L」と「310R」は同一のオブジェクトであり、「320L」と「320R」は同一のオブジェクトである。
レンダリング部110は、左側参照ビューと右側参照ビューに補間技法を適用して、第1補間ビューと第2補間ビューを生成する。このとき、第1補間ビューは、オブジェクト310L、320Lが左側に「d」だけ移動したのと同じ結果を示し、これにより、ホールh1を含むようになる。第2補間ビューは、オブジェクト310R、320Rが右側に移動したのと同じ結果を示し、これにより、ホールh2を含むようになる。
ホール検出部120は、第1補間ビューと第2補間ビューに含まれたホールh1,h2を検出し、ホール集合部130は、検出されたホールh1,h2を1つに集合して基準ホールh3を生成する。基準ホールh3の大きさは、検出されたホールh1,h2のうち最も大きなホールh2と同一である。集合する間、検出されたホールh1,h2の全体領域は一度計算される。基準ホールh3の大きさは、一般的に検出されたホールh1,h2のそれぞれよりも大きい。稀に、検出されたホールh2が検出されたホールh1を完全にカバーする場合、基準ホールh3の大きさは、検出されたホールh2と同一である。ホール集合部130は、基準ホールh3を含む基準ホールレイヤを生成し、基準ホールh3を復元する。これにより、復元された基準ホールh4を含む基準ホールレイヤ、すなわち、復元された基準ホールレイヤが生成される。
マルチビュー生成部150は、第1補間ビューの検出されたホールh1に復元された基準ホールh4の対応する部分を挿入することにより、ホールh1を満たす。第1補間ビューに位置するホールh1と復元された基準ホールレイヤに位置する復元された基準ホールh4との対応する部分の相対的な位置が同一である。したがって、マルチビュー生成部150は、復元された基準ホールh4のうちホールh1にマッチングする領域の画素値をホールh1に挿入することにより、ホールh1を満たすことができる。これにより、第1マルチビューが生成される。これは、第2補間ビューについても同一であるため、詳細な説明は省略する。
図4は、予測ビューが補外ビューである場合、マルチビューを生成する一実施形態を説明するための図である。図4を参照すると、左側参照ビューは、複数の参照ビューのうち最も左側に位置するビューである。識別番号「410」はオブジェクトである。レンダリング部110は、左側参照ビューに補外技法を適用して第1補外ビューと第2補外ビューを順次生成する。このとき、第1補外ビューは、オブジェクト410が右側に「d1」だけ移動したのと同じ結果を示し、これにより、ホールh5を含むようになる。第2補外ビューは、オブジェクト410が右側に「d2」だけ移動したのと同じ結果を示し、これにより、ホールh6を含むようになる。
ホール検出部120は、第1補外ビューと第2補外ビューに含まれたホールh5、h6を検出し、ホール集合部130は、検出されたホールh5、h6を1つに集合して基準ホールh7を生成する。基準ホールh7の大きさは、検出されたホールh5、h6のうち最も外郭に位置するホールh6と同一である。集合する間、検出されたホールh5,h6の共通領域は一度計算される。基準ホールh7の大きさは、一般的に検出されたホールh5,h6のそれぞれよりも大きい。しかし、検出されたホールh6が検出されたホールh5を完全にカバーする場合、基準ホールh7の大きさは、検出されたホールh6と同一である。ホール集合部130は、基準ホールh7を含む基準ホールレイヤを生成して、基準ホールh7を復元する。これにより、復元された基準ホールh8を含む基準ホールレイヤ、すなわち、復元された基準ホールレイヤが生成される。
マルチビュー生成部150は、第1補外ビューの検出されたホール5に復元された基準ホールの対応する部分を挿入することにより、ホールh5を満たし、これにより、第3マルチビューが生成される。これは、第2補外ビューについても同一であるため、詳細な説明は省略する。
上述したレンダリング装置100は、上述した動作を行うために、動作プログラムを格納するメモリと、プロセッサと、制御部とをさらに備えてもよい。プロセッサまたは制御部は、複数の予測ビューに存在するホールを用いて1つの基準ホールレイヤを生成し、生成された基準ホールレイヤの基準ホールを復元し、基準ホールの復元された基準ホールレイヤを用いて各予測ビューに存在するホールを満たすように構成されてもよい。
また、レンダリング装置100がディスプレイ装置に備えられる場合、生成されたマルチビューは、表示可能な信号に処理されて画面に表示される。
図5は、マルチビュー生成方法を説明するためのフローチャートである。図5のマルチビュー生成方法は、図1を参照して説明したレンダリング装置100、またはレンダリング装置100のプロセッサや制御部によって、実現または動作される。
ステップS510において、レンダリング装置は、少なくとも1つの参照ビューをレンダリングすることで、または、少なくとも1つの参照ビューのカラー値と視差をレンダリングすることで、予測ビューを生成することができる。生成される予測ビューは、補間技法による補間ビューであってもよく、補外技法による補外ビューであってもよく、また、補間ビューと補外ビューとの組み合わせであってもよい。
ステップS520において、レンダリング装置は、生成された連続する予測ビューに存在するホールを検出することができる。
ステップS530において、レンダリング装置は、検出されたホールを1つに集合して1つの基準ホールを生成し、基準ホールを含む1つの基準ホールレイヤを生成することができる。このとき、レンダリング装置は、複数の予測ビューのうち連続する予測ビュー毎に1つの基準ホールレイヤを生成してもよい。
基準ホールレイヤは、予測ビューと同一の大きさを有する。基準ホールは、各補間ビューに存在するそれぞれのホールよりも大きい大きさを有する。補間ビューのいずれの共通したホールもないとき、基準ホールは補間ビューに存在する各ホールの合計と同一の大きさを有する。稀に、ある補間ビューに存在するホールが残りの補間ビューに存在するホールを完全にカバーする場合、基準ホールは、ある補間ビューに存在するホールの合計と同一の大きさを有する。基準ホールは、補間ビューに存在するホールの集合を示すので、連続する領域を有しても有さなくてもよい。
ステップS540において、レンダリング装置は、基準ホールレイヤの基準ホールを復元することができる。
ステップS550において、レンダリング装置は、復元された基準ホールを有する基準ホールレイヤを、ホールの検出された予測ビューに挿入することにより、各予測ビューで検出されたホールを除去することができる。
ステップS560において、レンダリング装置は、各予測ビューでホールが除去されたマルチビューを生成する。
本発明の実施形態による方法は、多様なコンピュータ手段によって実行することのできるプログラム命令形態で実現され、コンピュータ読取可能な媒体に記録される。前記コンピュータ読取可能な媒体は、プログラム命令、データファイル、データ構造などを単独または組み合わせて含むことができる。前記媒体に記録されるプログラム命令は、本発明のために特別に設計して構成されたものであるか、コンピュータソフトウェア当業者に公知されて使用可能なものであってもよい。
図6は、マルチビュー生成のための装置を含むマルチビューディスプレイ装置600を示すブロック図である。図6を参照すれば、マルチビューディスプレイ装置600は、制御部601とマルチビューを生成するための装置605とを含む。
マルチビューディスプレイ装置600は、3Dイメージを示すために、3Dディスプレイの形態であってもよく、3つまたはそれ以上の他の視点を出力するために、マルチビュー技術を用いてもよい。または、マルチビューディスプレイ装置600は、左右イメージを出力するステレオスコピックディスプレイ(stereoscopic display)の形態であってもよい。
制御部601は、マルチビューディスプレイ装置600を制御し、マルチビューディスプレイ装置600によってディスプレイされるように1つ以上の制御信号を生成してもよい。制御部601は、1つ以上のプロセッサを含んでもよい。
マルチビューを生成するための装置605は、マルチビューディスプレイ装置600のためにマルチビューイメージを生成するが、レンダリング部610、ホール検出部620、ホール集合部630、ホール復元部640、及びマルチビュー生成部650を含んでもよい。このとき、610から650までの装置は、図6に図示されない。しかし、610から650までの装置の各々は、図1に類似する名称の装置として説明されたので、その詳細な説明は省略することにする。
マルチビューを生成するための装置605は、マルチビューディスプレイ装置600の内部に設けられてもよく、マルチビューディスプレイ装置600に取り付けられ、または、マルチビューディスプレイ装置600から離れて実現されてもよい。物理的な構成と関係なく、マルチビューを生成するための装置605は、上述した全ての機能を有する。マルチビューを生成するための装置605は、1つ以上の内部プロセッサを含んでもよく、または、制御部601が含む1つ以上のプロセッサのようにマルチビューディスプレイ装置600に含まれた1つ以上のプロセッサによって含まれてもよい。
上述したように、本発明では、限定された実施形態および図面によって説明したが、本発明は、前記の実施形態に限定されるものではなく、本発明が属する分野で通常の知識を有する者であれば、このような記載から多様な修正および変形が可能である。
したがって、本発明の範囲は説明した実施形態に限定して決定されてはならず、後述する特許請求の範囲だけでなく、この特許請求の範囲と均等なもの等によって定められなければならない。
100 レンダリング装置
110 レンダリング部
120 ホール検出部
130 ホール集合部
140 ホール復元部
150 マルチビュー生成部

Claims (22)

  1. 少なくとも1つの参照ビューをレンダリングして予測ビューを生成するように構成されているレンダリング部と、
    第1の予測ビューに存在する第1のホールおよび第2の予測ビューに存在する第2のホールを含む基準ホールレイヤを生成するように構成されているホール集合部と、
    前記基準ホールレイヤを復元するように構成されているホール復元部と、
    前記復元された基準ホールレイヤを用いて、前記第1の予測ビューおよび前記第2の予測ビューそれぞれに存在する前記第1および第2のホールを除去するように構成されているマルチビュー生成部と、
    を含むことを特徴とするマルチビュー生成のための装置。
  2. 前記予測ビューは、連続する2つの参照ビューの間に位置する補間ビューであることを特徴とする請求項1に記載のマルチビュー生成のための装置。
  3. 前記補間ビューは、連続的な補間ビューであることを特徴とする請求項2に記載のマルチビュー生成のための装置。
  4. 前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有することを特徴とする請求項2に記載のマルチビュー生成のための装置。
  5. 前記マルチビュー生成部は、前記第1および第2のホールに前記復元された基準ホールレイヤ部分を挿入することにより、第1および第2の予測ビューに存在する第1および第2のホールを除去するように構成されている、
    ことを特徴とする請求項に記載のマルチビュー生成のための装置。
  6. 前記予測ビューは、
    前記少なくとも1つの参照ビューの外側に位置する補外ビューであることを特徴とする請求項1に記載のマルチビュー生成のための装置。
  7. 前記補外ビューは、1つの参照ビューをレンダリングして生成されることを特徴とする請求項に記載のマルチビュー生成のための装置。
  8. 前記補外ビューは、連続的な補外ビューであることを特徴とする請求項に記載のマルチビュー生成のための装置。
  9. 前記基準ホールレイヤは、前記各補外ビューと同一の大きさを有することを特徴とする請求項に記載のマルチビュー生成のための装置。
  10. 前記第1および第2の予測ビューそれぞれに存在する前記第1および第2のホールを検出するように構成されているホール検出部をさらに含む
    ことを特徴とする請求項1に記載のマルチビュー生成のための装置
  11. プロセッサにより、少なくとも1つの参照ビューをレンダリングして予測ビューを生成するステップと、
    第1の予測ビューに存在する第1のホールおよび第2の予測ビューに存在する第2のホールを含む基準ホールレイヤを生成するステップと、
    前記基準ホールレイヤを復元するステップと、
    前記復元された基準ホールレイヤを用いて前記第1の予測ビューおよび前記第2の予測ビューそれぞれに存在する前記第1および第2のホールを除去するステップと、
    を含むことを特徴とするマルチビュー生成方法。
  12. 前記予測ビューは、連続する2つの参照ビューの間に位置する補間ビューであることを特徴とする請求項11に記載のマルチビュー生成方法。
  13. 前記補間ビューは、連続的な補間ビューであることを特徴とする請求項12に記載のマルチビュー生成方法。
  14. 前記基準ホールレイヤは、前記各補間ビューと同一の大きさを有することを特徴とする請求項12に記載のマルチビュー生成方法。
  15. 前記第1および第2のホールを除去するステップは、前記第1および第2のホールに前記復元された基準ホールレイヤ部分を挿入することにより、第1および第2の予測ビューに存在する前記第1および第2のホールを除去する
    ことを特徴とする請求項11に記載のマルチビュー生成方法。
  16. 前記予測ビューは、
    前記少なくとも1つの参照ビューの外側に位置する補外ビューであることを特徴とする請求項11に記載のマルチビュー生成方法。
  17. 前記補外ビューは、1つの参照ビューをレンダリングして生成されることを特徴とする請求項16に記載のマルチビュー生成方法。
  18. 前記補外ビューは、連続的な補外ビューであることを特徴とする請求項16に記載のマルチビュー生成方法。
  19. 前記基準ホールレイヤは、前記各補外ビューと同一の大きさを有することを特徴とする請求項16に記載のマルチビュー生成方法。
  20. マルチビュー生成のためのレンダリング装置において、
    メモリと、
    第1の予測ビューに存在する第1のホールおよび第2の予測ビューに存在する第2のホールを含む基準ホールレイヤを生成し
    前記基準ホールレイヤを復元し
    前記復元された基準ホールレイヤを用いて前記第1の予測ビューおよび前記第2の予測ビューそれぞれに存在する前記第1および第2のホールを除去するように構成されたプロセッサと、
    を含むことを特徴とするマルチビュー生成のためのレンダリング装置。
  21. マルチビュー生成のための装置を含むマルチビューディスプレイ装置において、
    マルチビューを生成するための装置に含まれ、第1の予測ビューに存在する第1のホールおよび第2の予測ビューに存在する第2のホールを含む基準ホールレイヤを生成し、
    前記基準ホールレイヤを復元し
    前記復元された基準ホールレイヤを用いて前記第1の予測ビューおよび前記第2の予測ビューそれぞれに存在する前記第1および第2のホールを除去するように構成されたプロセッサと、
    前記第1および第2の予測ビューに基づいたマルチビューイメージをディスプレイするように構成されたマルチビューディスプレイと、
    を含むことを特徴とするマルチビュー生成のためのマルチビューディスプレイ装置。
  22. 前記プロセッサは、
    前記第1および第2のホールに前記復元された基準ホールレイヤの部分を挿入することにより、第1および第2の予測ビューに存在する前記第1および第2のホールを除去するように構成されている、
    ことを特徴とする請求項21に記載のマルチビュー生成のためのマルチビューディスプレイ装置。
JP2013525832A 2010-08-27 2011-08-25 マルチビュー生成のためのレンダリング装置およびその方法 Active JP5784729B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR20100083570 2010-08-27
KR10-2010-0083570 2010-08-27
PCT/KR2011/006285 WO2012026768A2 (en) 2010-08-27 2011-08-25 Rendering apparatus and method for generating multi-views

Publications (2)

Publication Number Publication Date
JP2013545149A JP2013545149A (ja) 2013-12-19
JP5784729B2 true JP5784729B2 (ja) 2015-09-24

Family

ID=45696564

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013525832A Active JP5784729B2 (ja) 2010-08-27 2011-08-25 マルチビュー生成のためのレンダリング装置およびその方法

Country Status (6)

Country Link
US (1) US9147281B2 (ja)
EP (1) EP2609575B1 (ja)
JP (1) JP5784729B2 (ja)
KR (1) KR101895327B1 (ja)
CN (1) CN102687178B (ja)
WO (1) WO2012026768A2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140039649A (ko) 2012-09-24 2014-04-02 삼성전자주식회사 다시점 영상 생성 방법 및 다시점 영상 디스플레이 장치
KR101918030B1 (ko) * 2012-12-20 2018-11-14 삼성전자주식회사 하이브리드 멀티-뷰 랜더링 방법 및 장치
KR102156402B1 (ko) * 2013-11-05 2020-09-16 삼성전자주식회사 영상 처리 방법 및 장치
EP3511147B1 (en) * 2014-09-29 2020-11-11 Nichia Corporation Method for manufacturing package, method for manufacturing light emitting device, package and light emitting device
US10726593B2 (en) * 2015-09-22 2020-07-28 Fyusion, Inc. Artificially rendering images using viewpoint interpolation and extrapolation
KR102350235B1 (ko) 2014-11-25 2022-01-13 삼성전자주식회사 영상 처리 방법 및 장치
CN106028020B (zh) * 2016-06-21 2017-11-17 电子科技大学 一种基于多方向预测的虚拟视角图像空洞填补方法
CN110895793B (zh) * 2018-09-13 2022-06-14 阿里巴巴(中国)有限公司 图像处理方法、装置及存储介质
US11570418B2 (en) 2021-06-17 2023-01-31 Creal Sa Techniques for generating light field data by combining multiple synthesized viewpoints

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5530774A (en) * 1994-03-25 1996-06-25 Eastman Kodak Company Generation of depth image through interpolation and extrapolation of intermediate images derived from stereo image pair using disparity vector fields
JP3826236B2 (ja) * 1995-05-08 2006-09-27 松下電器産業株式会社 中間像生成方法、中間像生成装置、視差推定方法、及び画像伝送表示装置
JP3769850B2 (ja) * 1996-12-26 2006-04-26 松下電器産業株式会社 中間視点画像生成方法および視差推定方法および画像伝送方法
EP1833261A1 (en) * 2002-01-18 2007-09-12 Kabushiki Kaisha Toshiba Video encoding method and apparatus and video decoding method and apparatus
WO2005013623A1 (en) * 2003-08-05 2005-02-10 Koninklijke Philips Electronics N.V. Multi-view image generation
KR100655465B1 (ko) 2004-08-30 2006-12-08 중앙대학교 산학협력단 실시간 중간 시점 영상 보간 방법
KR100590025B1 (ko) 2004-12-30 2006-06-14 전자부품연구원 다시점 정방향 카메라 배열 기반 디스플레이를 위한중간영상합성 방법 및 그 장치
ES2323287T3 (es) * 2005-01-12 2009-07-10 Koninklijke Philips Electronics N.V. Percepcion de profundidad.
KR100731979B1 (ko) 2005-10-18 2007-06-25 전자부품연구원 다시점 정방향 카메라 구조 기반의 메쉬를 이용한 중간영상 합성 방법 및 장치와 이를 구현하는 기능을실현시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는기록 매체
KR100745691B1 (ko) 2005-12-08 2007-08-03 한국전자통신연구원 차폐영역 검출을 이용한 양안 또는 다시점 스테레오 정합장치 및 그 방법
JP5011319B2 (ja) * 2006-02-28 2012-08-29 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 画像における指向性の穴埋め
KR101058092B1 (ko) * 2007-02-13 2011-08-24 삼성전자주식회사 방향성 표시 장치 및 표시 시스템용 서브픽셀 레이아웃 및 서브픽셀 렌더링 방법
JP4958233B2 (ja) * 2007-11-13 2012-06-20 学校法人東京電機大学 多眼視画像作成システム及び多眼視画像作成方法
KR100924716B1 (ko) 2007-12-24 2009-11-04 연세대학교 산학협력단 자유 시점 영상 재생을 위한 2차원/3차원 가상 시점 합성방법
BRPI0910284A2 (pt) * 2008-03-04 2015-09-29 Thomson Licensing vista de referência virtual
KR20100008649A (ko) 2008-07-16 2010-01-26 광주과학기술원 참조영상을 이용한 깊이영상 생성방법 및 그 장치, 생성된깊이영상을 부호화/복호화하는 방법 및 이를 위한인코더/디코더, 그리고 상기 방법에 따라 생성되는 영상을기록하는 기록매체
KR101066550B1 (ko) 2008-08-11 2011-09-21 한국전자통신연구원 가상시점 영상 생성방법 및 그 장치
KR101697598B1 (ko) * 2008-10-27 2017-02-01 엘지전자 주식회사 가상 뷰 이미지 합성 방법 및 장치
KR20100083570A (ko) 2009-01-14 2010-07-22 삼성전자주식회사 얼굴 인식 방법

Also Published As

Publication number Publication date
CN102687178A (zh) 2012-09-19
WO2012026768A3 (en) 2012-05-18
US9147281B2 (en) 2015-09-29
CN102687178B (zh) 2016-04-20
EP2609575A4 (en) 2015-05-06
EP2609575B1 (en) 2019-02-27
EP2609575A2 (en) 2013-07-03
US20120050283A1 (en) 2012-03-01
KR20120020078A (ko) 2012-03-07
JP2013545149A (ja) 2013-12-19
WO2012026768A2 (en) 2012-03-01
KR101895327B1 (ko) 2018-09-10

Similar Documents

Publication Publication Date Title
JP5784729B2 (ja) マルチビュー生成のためのレンダリング装置およびその方法
EP2477158B1 (en) Multi-view rendering apparatus and method using background pixel expansion and background-first patch matching
RU2519433C2 (ru) Способ и система для обработки входного трехмерного видеосигнала
KR101697184B1 (ko) 메쉬 생성 장치 및 그 방법, 그리고, 영상 처리 장치 및 그 방법
EP2451164B1 (en) Improved view synthesis
US20130038600A1 (en) System and Method of Processing 3D Stereoscopic Image
JP2005151534A5 (ja)
JP7184748B2 (ja) 場面の積層深度データを生成するための方法
JP7285834B2 (ja) 三次元再構成方法および三次元再構成装置
KR20120137295A (ko) 영상 처리를 위한 방법 및 장치
JP6184062B2 (ja) 映像処理のための方法及び装置
EP2717247A2 (en) Image processing apparatus and method for performing image rendering based on orientation of display
JP2007053621A (ja) 画像生成装置
WO2013128765A1 (ja) 画像処理装置、画像処理方法およびコンピュータプログラム
JP5627498B2 (ja) 立体画像生成装置及び方法
US20120170841A1 (en) Image processing apparatus and method
JP5906033B2 (ja) 画像処理装置および画像処理方法、プログラム
EP2541494B1 (en) Method and apparatus for restoring resolution of multi-view image
JP5254297B2 (ja) 画像処理装置
TWI517096B (zh) 用於立體影像合成之逆向深度映射方法
KR101526868B1 (ko) 스테레오 영상에 대한 다시점 영상 생성 장치 및 방법
Tian et al. A trellis-based approach for robust view synthesis
Kao Design and Implementation of Stereoscopic Image Generation
JP6056459B2 (ja) 奥行き推定データ生成装置、擬似立体画像生成装置、奥行き推定データ生成方法及び奥行き推定データ生成プログラム
JP5431393B2 (ja) 立体画像生成装置及び方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150722

R150 Certificate of patent or registration of utility model

Ref document number: 5784729

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250