JP5556394B2 - 立体画像表示システム、視差変換装置、視差変換方法およびプログラム - Google Patents

立体画像表示システム、視差変換装置、視差変換方法およびプログラム Download PDF

Info

Publication number
JP5556394B2
JP5556394B2 JP2010129507A JP2010129507A JP5556394B2 JP 5556394 B2 JP5556394 B2 JP 5556394B2 JP 2010129507 A JP2010129507 A JP 2010129507A JP 2010129507 A JP2010129507 A JP 2010129507A JP 5556394 B2 JP5556394 B2 JP 5556394B2
Authority
JP
Japan
Prior art keywords
parallax
image
map
correction
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010129507A
Other languages
English (en)
Other versions
JP2011259045A (ja
Inventor
昌美 緒形
孝文 森藤
卓 牛木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010129507A priority Critical patent/JP5556394B2/ja
Priority to PCT/JP2011/061972 priority patent/WO2011155330A1/ja
Priority to CN201180003076.4A priority patent/CN102474644B/zh
Priority to US13/386,166 priority patent/US8605994B2/en
Priority to BR112012002300A priority patent/BR112012002300A2/pt
Priority to EP11792287.2A priority patent/EP2445223B1/en
Publication of JP2011259045A publication Critical patent/JP2011259045A/ja
Application granted granted Critical
Publication of JP5556394B2 publication Critical patent/JP5556394B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、立体画像表示システムに関し、特に立体画像における視差を変換する視差変換装置、立体画像表示システム、および、これらにおける処理方法ならびに当該方法をコンピュータに実行させるプログラムに関する。
近年、画像表示装置により立体画像を表示する技術が用いられている。このような画像表示装置により表示された立体画像を視聴する際には、実世界と輻輳角が同じであっても焦点距離が異なってくるため、視覚疲労を起こす要因となる。特に、画面内においてある部分が飛び出し過ぎている場合や、動画表示中に不用意に物体が飛び出す場合など、視差の変化が大きいと視聴者に負担になる。
そのため、従来、自然な立体表示を行うために、立体画像の表示位置が観察者の焦点深度内になるように表示する立体画像表示装置が提案されている(例えば、特許文献1参照。)。この従来の立体画像表示装置では、表示対象の奥行き距離を立体画像の表示位置の奥行き距離に非線形変換している。
特開2005−091508号公報(図6)
上述の従来技術では、表示対象の奥行き距離を立体画像の表示位置の奥行き距離に非線形変換することにより、立体画像の表示位置が観察者の焦点深度内になるように調整している。しかしながら、奥行き距離そのものを直接調整するだけでなく、奥行き感に影響を与える各種の要素によって間接的に調整を行いたい場合がある。
本発明はこのような状況に鑑みてなされたものであり、立体画像における奥行き感に寄与する画像の構成要素の特徴に応じて、立体画像の視差を変換することを目的とする。
本発明は、上記課題を解決するためになされたものであり、その第1の側面は、入力画像の左画像および右画像から視差を検出して、画素または画素群毎の視差を保持する視差マップを生成する視差検出部と、上記視差マップにおける視差を補正する際の補正特性を設定する補正特性設定部と、上記設定された補正特性に従って上記視差マップにおける視差を補正して補正視差マップを生成する視差補正部と、上記補正視差マップに従って上記入力画像の左画像および右画像から出力画像の左画像および右画像を合成する画像合成部とを具備する視差変換装置、これら各部における処理手順を具備する視差変換方法、ならびにこれら各手順をコンピュータに実行させるプログラムである。これにより、設定された補正特性に従って視差補正された補正視差マップに基づいて左画像および右画像を合成させるという作用をもたらす。
また、この第1の側面において、上記視差マップにおいて少なくとも2つの領域を設定する領域設定部をさらに具備し、上記補正特性設定部は、上記少なくとも2つの領域毎に上記補正特性を設定し、上記視差補正部は、上記視差マップにおける上記少なくとも2つの領域に応じた上記補正特性に従って上記視差マップにおける視差を補正するようにしてもよい。これにより、領域毎に設定された補正特性に従って視差を補正させるという作用をもたらす。
また、この第1の側面において、上記視差補正部が、上記少なくとも2つの領域が隣接する所定の緩衝領域においては隣接する領域に応じた上記補正特性の加重和に従って上記視差マップにおける視差を補正するようにしてもよい。これにより、領域間の不連続性を回避させるという作用をもたらす。
また、この第1の側面において、上記補正特性設定部が、上記少なくとも2つの領域のうち上記視差マップにおける左右端に該当する領域においては手前側への奥行きを抑制するように上記補正特性を設定するようにしてもよい。これにより、左右端における不自然な飛び出しを回避して、観察者に与える違和感(遮蔽の矛盾)を解消させるという作用をもたらす。
また、この第1の側面において、上記補正特性設定部が、上記視差マップにおける少なくとも2つの成分毎に上記補正特性を設定し、上記視差補正部が、上記視差マップを上記成分毎に分割する成分分割部と、上記成分毎に設定された上記補正特性に従って上記視差マップにおける視差を成分毎に補正する成分視差補正部と、上記成分毎に補正された視差マップを合成して上記補正視差マップを生成する成分合成部とを備えるようにしてもよい。これにより、成分毎にそれぞれの成分に適した視差補正を行わせるという作用をもたらす。また、この場合において、上記補正特性設定部において設定される上記成分は、上記視差マップにおける視差の周波数に応じた成分であってもよい。
また、この第1の側面において、上記補正特性設定部において設定される上記補正特性は、上記視差マップにおける視差がゼロとなる近傍においては傾きが1であり、上記視差マップにおける視差が大きくなるに従って所定の値に収束する非線形特性であってもよい。これにより、表示面近辺の奥行きにおける像の歪みを回避させるという作用をもたらす。また、この場合において、上記補正特性設定部において設定される上記補正特性は、シグモイド関数に基づいて定義されるものでよい。
また、この第1の側面において、上記画像合成部は、上記視差マップにおける視差に基づいて上記入力画像の左画像および右画像から中央単眼画像を合成する中央単眼画像合成部と、上記補正視差マップの視差から奥行きに変換して補正奥行きマップを生成する視差/奥行き変換部と、上記補正奥行きマップに基づいて上記中央単眼画像を3次元空間にマッピングすることにより補正3次元マップを生成する3次元マッピング部と、上記補正3次元マップを表示面に射影することによって上記出力画像の右画像および左画像を合成する立体画像合成部とを備えてもよい。これにより、入力画像の左画像および右画像から中央単眼画像を合成して、これに基づいて視差を補正させるという作用をもたらす。
また、この第1の側面において、上記画像合成部は、上記視差マップにおける視差に基づいて上記入力画像の左画像および右画像を3次元空間にマッピングすることにより3次元マップを生成するダイレクト3次元マッピング部と、上記3次元マップを仮想中央眼に対する表示面に射影することによって中央単眼画像を合成する中央単眼画像合成部と、上記補正視差マップの視差から奥行きに変換して補正奥行きマップを生成する視差/奥行き変換部と、上記補正奥行きマップに基づいて上記中央単眼画像を3次元空間にマッピングすることにより補正3次元マップを生成する3次元マッピング部と、上記補正3次元マップを表示面に射影することによって上記出力画像の右画像および左画像を合成する立体画像合成部とを備えてもよい。これにより、入力画像の左画像および右画像から3次元マップを生成して、これに基づいて視差を補正させるという作用をもたらす。
また、この第1の側面において、上記視差マップにおける視差を解析して当該視差の累積度数分布を生成する視差解析部をさらに具備し、上記視差補正部は、上記累積度数分布および上記補正特性に基づいて上記視差マップにおける視差を補正するようにしてもよい。これにより、視差のヒストグラムを平坦化するようにして、立体画像の奥行き感を動的に変化させるという作用をもたらす。
また、本発明の第2の側面は、左画像および右画像を立体画像の対として備える入力画像を供給する入力画像供給部と、上記入力画像の左画像および右画像から視差を検出して、画素または画素群毎の視差を保持する視差マップを生成する視差検出部と、上記視差マップにおける視差を補正する際の補正特性を設定する補正特性設定部と、上記設定された補正特性に従って上記視差マップにおける視差を補正して補正視差マップを生成する視差補正部と、上記補正視差マップに従って上記入力画像の左画像および右画像から出力画像の左画像および右画像を合成する画像合成部と、上記出力画像を表示する画像表示装置とを具備する立体画像表示システムである。これにより、設定された補正特性に従って視差補正された補正視差マップに基づいて左画像および右画像を合成して、表示させるという作用をもたらす。
本発明によれば、立体画像における奥行き感に寄与する画像の構成要素の特徴に応じて、立体画像の視差を変換することができるという優れた効果を奏し得る。
本発明の実施の形態における立体画像表示システムの構成例を示す図である。 本発明の第1の実施の形態における視差変換装置100の構成例を示す図である。 本発明の第1の実施の形態における視差補正部150による視差補正の一例を示す図である。 本発明の第1の実施の形態における補正特性設定部130による補正特性設定の前提を示す図である。 本発明の第1の実施の形態における補正特性設定部130による補正特性設定の一例を示す図である。 本発明の第1の実施の形態における視差補正部150による視差補正の他の例を示す図である。 本発明の第1の実施の形態における画像合成部160による画像合成の一例を示す図である。 本発明の第1の実施の形態における視差変換装置100の動作例を示す図である。 本発明の第2の実施の形態における視差変換装置100の構成例を示す図である。 本発明の第2の実施の形態における領域設定部140による複数の領域設定の一例である。 本発明の第2の実施の形態において補正特性の加重和を実現する際の重みの例を示す図である。 本発明の第3の実施の形態における視差変換装置100の構成例を示す図である。 本発明の第3の実施の形態における画像合成部260の構成例を示す図である。 本発明の第3の実施の形態における視差/奥行き変換部261の処理例を示す図である。 本発明の第3の実施の形態における中央単眼画像合成部263の処理例を示す図である。 本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による処理概要を示す図である。 本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による処理の詳細を示す図である。 本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による奥行き曲面上の画素選択の一例を示す図である。 本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による奥行き曲面上の画素選択の他の例を示す図である。 本発明の第4の実施の形態における視差変換装置100の構成例を示す図である。 本発明の第4の実施の形態における画像合成部360の構成例を示す図である。 本発明の第4の実施の形態におけるダイレクト3Dマッピング部362による処理例を示す図である。 本発明の第4の実施の形態における中央単眼画像合成部363による処理例を示す図である。 本発明の第5の実施の形態における視差変換装置100の構成例を示す図である。 本発明の第5の実施の形態における視差解析部120による視差解析の例を示す図である。 本発明の第5の実施の形態における視差変換装置100の動作例を示す図である。 本発明の第6の実施の形態における視差変換装置100の構成例を示す図である。 本発明の第6の実施の形態における視差補正部550の構成例を示す図である。
以下、本発明を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(視差の大きさにより視差変換を行う例)
2.第2の実施の形態(領域毎に異なる補正特性により視差変換を行う例)
3.第3の実施の形態(中央単眼画像を利用する例)
4.第4の実施の形態(ダイレクト3次元マッピングを行う例)
5.第5の実施の形態(視差のヒストグラム平坦化を行う例)
6.第6の実施の形態(成分毎に異なる補正特性により視差変換を行う例)
<1.第1の実施の形態>
[立体画像表示システム]
図1は、本発明の実施の形態における立体画像表示システムの構成例を示す図である。この立体画像表示システムは、画像記憶装置10と、視差変換装置100と、表示制御装置30と、画像表示装置40とを備える。
画像記憶装置10は、立体表示のための画像データを記憶するものである。ここで、画像データは、人間の左眼に知覚される左画像と人間の右眼に知覚される右画像とを対にした立体画像であり、1組の左右画像からなる静止画であってもよく、また、左右画像(フレーム)を時系列に並べた動画であってもよい。なお、画像記憶装置10は、特許請求の範囲に記載の入力画像供給部の一例である。
視差変換装置100は、画像記憶装置10に記憶された画像データにおける立体画像の視差を変換するものである。すなわち、この視差変換装置100の入力および出力はともに立体画像であり、両眼により把握される視差が異なるように変換される。
表示制御装置30は、視差変換装置100から出力された画像データを画像表示装置40に表示させるように制御するものである。画像表示装置40は、画像データを立体画像として表示する立体ディスプレイである。立体表示方式としては、走査線毎に左右画像を交互に配置する方式や時分割で左右画像を表示する方式などの任意の方式を適用することができる。この画像表示装置40の表示方式に対応するように、表示制御装置30は表示制御を行うことになる。
[視差変換装置]
図2は、本発明の第1の実施の形態における視差変換装置100の構成例を示す図である。この第1の実施の形態における視差変換装置100は、左画像Lおよび右画像Rからなる立体画像を入力画像として受けて、その視差を変換して、左画像L'および右画像R'からなる立体画像を出力画像として出力するものである。この視差変換装置100は、視差検出部110と、補正特性設定部130と、視差補正部150と、画像合成部160とを備える。
視差検出部110は、入力画像の左画像Lおよび右画像Rから視差を検出して、視差マップdMを生成するものである。この視差マップdMは、入力画像の画素または画素群毎の視差を保持するものである。この場合、入力画像としては左画像Lまたは右画像Rの何れを基準にしてもよい。また、隠れた部分の処理のために左画像Lおよび右画像Rの両方の視差を得るようにしてもよい。視差の推定手法は公知技術であり、例えば、左右画像から背景画像を除いた前景画像についてマッチングを行うことにより、左右画像の視差を推定し、視差マップを生成する技術が知られている(例えば、特開2006−114023号公報参照)。
視差補正部150は、視差マップdMにおける視差を補正して補正視差マップdM'を生成するものである。補正特性設定部130は、視差補正部150において視差補正を行う際の補正特性を設定するものである。視差補正部150においてシグモイド関数による視差補正が行われる場合には、補正特性として許容最大視差dmaxおよび許容最小視差dminが設定される。視差補正の詳細については後述する。
画像合成部160は、補正視差マップdM'に基づいて立体画像の左画像Lおよび右画像Rを合成して、左画像L'および右画像R'からなる立体画像を出力画像として出力するものである。
[視差補正]
図3は、本発明の第1の実施の形態における視差補正部150による視差補正の一例を示す図である。この図において、横軸が入力視差d、縦軸が補正後の補正視差d'を示している。視差が正方向に増加した場合には奥に引っ込んでいるような感覚が得られ、視差が負方向に低下した場合には手前に出っ張ったような感覚が得られる。
実線により表されるグラフは、入力視差dと補正視差d'との関係を示している。このグラフは非線形関数の一例としてシグモイド関数の形状を有しており、入力視差dが正方向に増加するほど補正視差d'は許容最大視差dmaxに漸近し、入力視差dが負方向に低下するほど補正視差d'は許容最小視差dminに漸近する。すなわち、この補正特性は、視差マップにおける視差が大きくなるに従って所定の値に収束する非線形特性である。これら許容最大視差dmaxおよび許容最小視差dminは、ディスプレイサイズ(表示面の大きさ)、視聴距離、視聴者(観察者)の視機能によって決まるものであり、本発明の実施の形態では補正特性設定部130によって設定される。
このグラフにおいて、入力視差がゼロとなる近傍においては、傾きが「1」になるようにすることにより、表示面近辺の奥行きにおける像の歪みを回避することができる。ただし、全体的に奥行き量が不足する場合には、奥行き感が強調された立体映像を提示するように、このグラフの傾きを「1」より大きくすることが考えられる。
ここで想定しているシグモイド関数は、次式により与えられる。
ζ(x)=1/(1+e-x
また、上式の関数から定数値0.5を減じて、全体にスケーリングファクタdを乗じた、次式のような関数を用いてもよい。
ζ(x)=d×(1/(1+e-x)−0.5)
図4は、本発明の第1の実施の形態における補正特性設定部130による補正特性設定の前提を示す図である。視差補正部150においてシグモイド関数に基づく視差補正を行う場合、補正特性設定部130では許容最大視差dmaxおよび許容最小視差dminを補正特性として設定する必要がある。これら許容最大視差dmaxおよび許容最小視差dminは、一般的視覚特性により設定される。以下では、まず許容最近位置Dminおよび許容最遠位置Dmaxを求め、これらに基づいて許容最大視差dmaxおよび許容最小視差dminを求めることを想定する。
図4(a)において、両眼から視距離DDの位置にある表示面を垂直に見込んだ角度をαとし、許容最近位置Dminにある平面を垂直に見込んだ角度をβとする。右眼と左眼の距離を両眼間隔eとすると、角度αは次式により得られる。
tan(α/2)=(1/DD)×(e/2)
α=2tan-1(e/(2・DD))
同様に、角度βは次式により表される。
β=2tan-1(e/(2・Dmin))
ここで、一般的視覚特性により
β−α≦60'
が成り立つため、許容最近位置Dminは次式により示される。
Dmin≧e/2tan((60+α)/2)
図4(b)のように両眼の視線が並行になった状態よりも、さらに視線を離そうとすると、不快な感じを受けるおそれがある。両眼の視線が並行になった状態では許容最遠位置Dmaxは無限大の位置になる。このときの表示面における視差は両眼間隔に等しくなる。この両眼間隔は、およそ65mmと言われている。したがって、許容最大視差dmaxとしては、約65mmに設定することができる。
図5は、本発明の第1の実施の形態における補正特性設定部130による補正特性設定の一例を示す図である。両眼から許容最近位置Dminにある平面を見込んだ際の、視距離DDにある表示面における視差が許容最小視差dminとなる。また、両眼から許容最遠位置Dmaxにある平面を見込んだ際の、視距離DDにある表示面における視差が許容最大視差dmaxとなる。このとき、両者は次式により表される。
dmin=e(Dmin−DD)/Dmin
dmax=e(Dmax−DD)/Dmax
許容最大視差dmaxについては、上述のように約65mmに設定すればよいが、任意の位置を許容最遠位置Dmaxとした場合には上式から得ることができる。
なお、上式によれば視差の値は長さを単位として得られるが、これを表示面の画素間隔により割ることによって画素数を単位とすることができる。例えば、表示面の画面幅をW[mm]、水平方向の画素数をN[画素]とすると、画素間隔はW/N[mm/画素]となる。したがって、長さ単位の視差d[mm]を画素単位の視差d"[画素]に変換するためには、次式を用いることができる。
d"=d/(W/N)
なお、ここでは、一般的視覚特性に基づいた補正特性の設定について説明したが、この補正特性は視聴者の好みに応じて適宜設定するようにしてもよい。この場合、ユーザから必要なパラメータを入力させ、これを受けて補正特性設定部130が補正特性を設定することになる。
図6は、本発明の第1の実施の形態における視差補正部150による視差補正の他の例を示す図である。横軸が入力視差d、縦軸が補正後の補正視差d'を示す点は図3と同様である。
このグラフでは、許容最大視差dmaxおよび許容最小視差dminに挟まれた領域を複数の範囲に分割し、各範囲において適切に視差の再現が可能となるように補正特性を設定している。この場合、各範囲を結ぶ交点の座標を、補正特性設定部130において設定する必要がある。
ここでは、補正特性設定部130によって設定される補正特性として、図3のようなシグモイド関数の例、および、図6のような折れ線グラフの例を挙げたが、これ以外の非線形な対応関係を有する補正特性を設定することができる。例えば、逆正接(アークタンジェント)関数により設定することが考えられる。
[画像合成]
図7は、本発明の第1の実施の形態における画像合成部160による画像合成の一例を示す図である。入力画像の左画像Lの座標(i,j)における画素をL(i,j)とする。このとき、入力画像の右画像Rでは入力視差dだけ水平方向にシフトした位置になるため、L(i,j)に対応する画素はR(i+d,j)となる。
一方、出力画像の右画像R'では、補正視差d'だけ水平方向にシフトした位置になるため、L(i,j)に対応する画素はR'(i+d',j)になる。また、ここでは左画像を基準としているため、入力画像の左画像Lと出力画像の左画像L'とは一致する。したがって、画像合成部160によって合成された出力画像の左画像L'および右画像R'は次式により得られる。
L'(i,j)=L(i,j)
R'(i+d',j)=(d'・L(i,j)+|d−d'|・R(i+d,j))
/(|d−d'|+d')
なお、この例では左画像を基準として右画像を合成しているが、これとは逆に、右画像を基準として左画像を合成してもよい。
[動作]
図8は、本発明の第1の実施の形態における視差変換装置100の動作例を示す図である。まず、補正特性設定部130において、初期設定として視差補正の補正特性が設定される(ステップS910)。そして、視差検出部110において、入力画像の左画像Lおよび右画像Rから視差が検出され、視差マップdMが生成される(ステップS920)。このようにして設定された補正特性により、視差補正部150において視差マップdMの視差が補正され、補正視差マップdM'が生成される(ステップS940)。
このようにして生成された補正視差マップdM'の視差に基づいて、画像合成部160において入力画像から出力画像が合成される(ステップS950)。そして、この合成された出力画像が、表示制御装置30を介して画像表示装置40に表示される(ステップS990)。
このように、本発明の第1の実施の形態によれば、補正特性設定部130によって設定された補正特性に従って視差補正部150が入力画像の視差を補正し、補正された視差により画像合成部160が出力画像を合成する。これにより、過剰な奥行き感を抑制し、視聴者にとって快適な立体映像の提示を行うことができる。
<2.第2の実施の形態>
[視差変換装置]
図9は、本発明の第2の実施の形態における視差変換装置100の構成例を示す図である。この第2の実施の形態における視差変換装置100は、第1の実施の形態と比べて、領域設定部140をさらに具備している点が異なっている。
領域設定部140は、視差マップdMにおいて複数の領域を設定するものである。図10は、本発明の第2の実施の形態における領域設定部140による複数の領域設定の一例である。例えば、図10(a)のように、視差マップdMの中央の領域#1に対して、左右端に該当する領域#2を設定する。このように領域#1および領域#2を設定することにより、それぞれの領域において異なる補正特性を設定することを可能とする。
補正特性設定部130は、領域設定部140によって設定された各領域に対して別々に補正特性を設定する。例えば、視差マップdMの中央の領域#1に対しては図10(b)のように正負の両方向についてシグモイド関数に基づいて補正し、左右端に該当する領域#2に対しては図10(c)のように負方向(手前側)への飛び出しを行わないように補正する。これにより、左右端における不自然な飛び出しを回避して、観察者に与える違和感(遮蔽の矛盾)を解消することができる。
この場合、領域間の不連続性を避けるため、異なる領域間に緩衝領域を設け、緩衝領域内では隣接する両領域からの距離に応じた2つの補正特性の加重和によって補正視差が決定されるようにしてもよい。図11は、本発明の第2の実施の形態において補正特性の加重和を実現する際の重みの例を示す図である。この図には、領域#1用の重みp1(x)および領域#2用の重みp2(x)が示されている。領域#1と領域#2との間に緩衝領域を設け、この緩衝領域においては元の領域の中心から離れるほど重みp1(x)またはp2(x)を減少させるように設定する。重みp1(x)とp2(x)の関係は次式のようになる。
p1(x)+p2(x)=1
そして、このように設定された重みp1(x)またはp2(x)を利用して、次式のように最終的な補正視差d'を得る。ただし、F1(d)は領域#1用の補正関数であり、F2(d)は領域#2用の補正関数である。
d'=p1(x)×F1(d)+p2(x)×F2(d)
[動作]
本発明の第2の実施の形態の動作は、図8により説明した第1の実施の形態の処理手順のうち、ステップS910の初期設定において、領域設定部140が複数の領域を設定し、補正特性設定部130が領域毎に補正特性を設定する点が異なっている。これ以外の点では第1の実施の形態の動作と同様であるため、ここでは詳細な説明は省略する。
このように、本発明の第2の実施の形態によれば、領域設定部140が視差マップdMにおいて複数の領域を設定することにより、領域毎に適切な補正特性を設定し、画枠近辺における遮蔽の矛盾を解消することができる。
<3.第3の実施の形態>
[視差変換装置]
図12は、本発明の第3の実施の形態における視差変換装置100の構成例を示す図である。この第3の実施の形態における視差変換装置100は、第1の実施の形態と比べて、画像合成部260における画像合成の内容が異なる。以下、この画像合成部260の内容について説明する。
[画像合成]
図13は、本発明の第3の実施の形態における画像合成部260の構成例を示す図である。この画像合成部260は、視差/奥行き変換部261と、中央単眼画像合成部263と、3Dマッピング部264と、立体画像合成部265とを備えている。
視差/奥行き変換部261は、補正視差マップdM'に含まれる視差を奥行き方向の距離に変換して、補正奥行きマップDPM'を生成するものである。中央単眼画像合成部263は、入力画像の左画像Lおよび右画像Rと視差マップdMとから中央単眼画像Cを合成するものである。ここで、中央単眼画像Cは、左眼と右眼の間に仮想的に配置された中央単眼から見た画像である。中央単眼画像Cは、視距離DDにある表示面に配置されるものと想定される。3Dマッピング部264は、中央単眼画像Cを補正奥行きマップDPM'に従って3次元空間の奥行き曲面である補正3Dマップ3DTM'にマッピングするものである。立体画像合成部265は、補正3Dマップ3DTM'にマッピングされた画像を表示面に射影して、左画像L'および右画像R'からなる立体画像を合成するものである。なお、3Dマッピング部264は、特許請求の範囲に記載の3次元マッピング部の一例である。
[視差/奥行き変換]
図14は、本発明の第3の実施の形態における視差/奥行き変換部261の処理例を示す図である。同図のように、両眼の距離を両眼距離e、表示面までの距離を視距離DDとすると、次式により、表示面における視差dから奥行きDPが求められる。
DP=e・DD/(e−d)
視差/奥行き変換部261は、補正視差マップdM'に含まれる視差を上式の視差dに当てはめて奥行きDPを求める。求められた奥行きDPは、画像の各画素または画素群毎に対応して奥行きを保持する補正奥行きマップDPM'として3Dマッピング部264に供給される。なお、上式により求められる奥行きDPの水平方向の座標は不均一分布となるため、補間などを用いて画像上の各画素に対応する位置における奥行きを求め、2次元配列として保存しておいてもよい。
[中央単眼画像合成]
図15は、本発明の第3の実施の形態における中央単眼画像合成部263の処理例を示す図である。位置(i,j)における左画像L(i,j)を基準とすると、入力視差dの右画像RはR(i+d,j)となる。そこで、同図のように、中央単眼画像Cは左画像と右画像の中間位置のC(i+d/2,j)とする。すなわち、中央単眼画像Cは次式により表される。
C(i+d/2,j)=(L(i,j)+R(i+d,j))/2
このように、中央単眼画像合成部263は、水平方向において左画像Lと右画像Rの中間位置とし、垂直方向は左画像Lおよび右画像Rと同じ位置とした中央単眼画像Cを合成する。この合成された中央単眼画像Cは3Dマッピング部264に供給される。
[3Dマッピングおよび立体画像合成]
図16は、本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による処理概要を示す図である。3Dマッピング部264は、図16(a)に示すように、左眼と右眼の間に想定された仮想中央眼から中央単眼画像Cを見た画素または画素群において、補正奥行きマップDPM'によって示される奥行きをさらに見込んだ位置に奥行き曲面をマッピングする。この奥行き曲面は補正3Dマップ3DTM'であり、3次元空間(x,y,z)において特定される。
立体画像合成部265は、図16(b)に示すように、左眼および右眼から補正3Dマップ3DTM'を見込んだ際の画像を表示面へ射影する。これにより、出力画像の左画像L'および右画像R'が合成される。
図17は、本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による処理の詳細を示す図である。左眼と右眼の間に想定された仮想中央眼から視距離DDの中央単眼画像Cを見た画素または画素群において、補正奥行きマップDPM'によって示される奥行きをさらに見込んだ位置に奥行き曲面が3Dマッピング部264によってマッピングされる。これにより、中央単眼画像Cの水平方向の位置xC0の画素は、補正奥行きマップDPM'における水平方向の位置xd0にマッピングされる。
このようにして補正奥行きマップDPM'にマッピングされた画素は、立体画像合成部265によって、右眼から見た直線と右画像との交点(水平方向の位置xR0)において右画像に射影される。同様に、左眼から見た直線と左画像との交点において左画像に射影される。
右画像について、右眼と右画像上の交点(水平方向の位置xR0)を通る直線は、次式より表される。
z(x)=(−DD/(e/2−xR0))・x+
(DD・e/2)/(e/2−xR0)
図18は、本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による奥行き曲面上の画素選択の一例を示す図である。3Dマッピング部264は、補正奥行きマップDPM'を水平方向にスキャンし、次式が最小となる水平画素位置をxd0とする。
E(x)=DPM'(x,y)−((−DD/(e/2−xR0))・x+
(DD×e/2)/(e/2−xR0))
上式が最小になる位置が複数ある場合には、xR0に最も近いものを選択するようにしてもよい。
右眼の位置(e/2,0)と位置(xd0,DP(xd0))を通過する直線を算出し、この直線が単眼中央画像Cと交わる交点の画素値を右画像の位置xR0の画素値とする。この交点が隣接画素の中間に位置する場合には、両側からの補間により計算を行う。
図19は、本発明の第3の実施の形態における3Dマッピング部264および立体画像合成部265による奥行き曲面上の画素選択の他の例を示す図である。位置xd0の選択にあたり、上述の式E(x)の最小値を与える位置xminとその前後のx(min−1)およびx(min+1)から、その間のDP(x)を2次曲線で近似し、その近似曲線と直線の差が最小となる位置と奥行き量を求めるようにしてもよい。
[動作]
本発明の第3の実施の形態の動作は、図8により説明した第1の実施の形態の処理手順のうち、ステップS950の画像合成において、中央単眼画像に基づいて視差補正を反映して合成を行う点が異なっている。これ以外の点では第1の実施の形態の動作と同様であるため、ここでは詳細な説明は省略する。
このように、本発明の第3の実施の形態によれば、検出された視差に応じた中央単眼画像を合成して、この中央単眼画像に基づいて視差補正を反映することにより、視聴者にとって快適な立体映像の提示を行うことができる。
<4.第4の実施の形態>
[視差変換装置]
図20は、本発明の第4の実施の形態における視差変換装置100の構成例を示す図である。この第4の実施の形態における視差変換装置100は、第1の実施の形態と比べて、画像合成部360における画像合成の内容が異なる。以下、この画像合成部360の内容について説明する。
[画像合成]
図21は、本発明の第4の実施の形態における画像合成部360の構成例を示す図である。この画像合成部360は、視差/奥行き変換部361と、ダイレクト3Dマッピング部362と、中央単眼画像合成部363と、3Dマッピング部364と、立体画像合成部365とを備えている。この画像合成部360は、ダイレクト3Dマッピング部362によって3Dマップを生成して、中央単眼画像合成部363がこの3Dマップから中央単眼画像Cを合成する点以外において、上述の第3の実施の形態における画像合成部260と同様の構成を備える。ダイレクト3Dマッピング部362は、入力画像の左画像および右画像と視差マップdMとから3Dマップ3DTMを生成するものである。なお、ダイレクト3Dマッピング部362は、特許請求の範囲に記載のダイレクト3次元マッピング部の一例である。また、3Dマッピング部364は、特許請求の範囲に記載の3次元マッピング部の一例である。
図22は、本発明の第4の実施の形態におけるダイレクト3Dマッピング部362による処理例を示す図である。左画像L(x',y)を基準として、水平方向に視差dだけずれた位置の右画像R(x'+d,y)を想定する。ダイレクト3Dマッピング部362は、左眼から左画像L(x',y)を見込んだ直線と、右眼から右画像R(x'+d,y)を見込んだ直線との交点を3Dマップ上の点3DTM(x,y,DP)とする。すなわち、次式により3DTM(x,y,DP)が得られる。
3DTM(x,y,DP)=(L(x',y)+R(x'+d,y))/2
図23は、本発明の第4の実施の形態における中央単眼画像合成部363による処理例を示す図である。中央単眼画像合成部363は、左眼と右眼の間に想定された仮想中央眼に対して、奥行き曲面である3Dマップ3DTM(x,y,z)の各点から表示面へ射影して、中央単眼画像Cを合成するものである。すなわち、この中央単眼画像合成部363は、図16(a)により説明した3Dマッピング部264とは逆の動作を行うことになる。
[動作]
本発明の第4の実施の形態の動作は、図8により説明した第1の実施の形態の処理手順のうち、ステップS950の画像合成において、中央単眼画像に基づいて視差補正を反映して合成を行う点が異なっている。これ以外の点では第1の実施の形態の動作と同様であるため、ここでは詳細な説明は省略する。
このように、本発明の第4の実施の形態によれば、入力画像から視差に応じた中央単眼画像を直接合成して、この中央単眼画像に基づいて視差補正を反映することにより、視聴者にとって快適な立体映像の提示を行うことができる。
<5.第5の実施の形態>
[視差変換装置]
図24は、本発明の第5の実施の形態における視差変換装置100の構成例を示す図である。この第5の実施の形態における視差変換装置100は、第1の実施の形態と比べて、視差の累積度数分布を生成する視差解析部120をさらに備え、その累積度数分布に基づいて視差補正部450が視差補正を行う点が異なっている。以下、視差解析部120による視差解析および視差補正部450による視差補正の内容について説明する。
[視差解析および視差補正]
図25は、本発明の第5の実施の形態における視差解析部120による視差解析の例を示す図である。視差解析部120は、図25(a)に示すように、視差マップdMの画像内の視差dのヒストグラムを生成する。同図において、横軸は視差dであり、縦軸は視差dに対する頻度h(d)を示している。
そして、視差解析部120は、視差dのヒストグラムを平坦化するように視差補正部450の入出力特性を変化させることにより、視差のヒストグラムを最大化する。これにより、視差の出現頻度がどれも同じになるように平坦化され、結果として立体画像の奥行き感を動的に変更することができる。
平坦化を行った後の視差d'は、次式のように、平坦化後の視差の最大値dmaxと累積度数分布P(z)の乗算として表される。
d'=dmax×P(z)
ただし、累積度数分布P(z)は総データ数によって正規化されたものである。したがって、P(z)<1.0である。
ここで、累積度数分布P(z)は、次式により表される。
P(z)=(1/N)×Σh(d)
ただし、総和Σは、d=0からzまでを定義域とする。すなわち、ここでは視差dが正の範囲のみに着目している。負の範囲については、別途同様の処理を行う必要がある。
図25(b)は、このようにして得られた平坦化後の視差d'を示している。この累積度数分布P(z)に基づく平坦化後の視差d'は、正の範囲および負の範囲の両者が視差解析部120から視差補正部450に供給される。なお、平坦化後の視差d'は、上述のように累積度数分布P(z)にdmaxを乗じたものであるため、この明細書では広義の累積度数分布として扱う。
視差補正部450は、視差解析部120から供給された累積度数分布に基づいて視差補正を行う。すなわち、第1の実施の形態ではシグモイド関数等の非線形関数を用いて視差補正を行っていたが、この第5の実施の形態では累積度数分布の曲線を利用して視差補正を行う。これにより、画像の視差分布に応じて補正特性を動的に変更して視差補正を行うことができる。なお、補正特性設定部130によって設定された許容最大視差dmaxおよび許容最小視差dminに漸近するようにゲインを調整する点については第1の実施の形態と同様である。
[動作]
図26は、本発明の第5の実施の形態における視差変換装置100の動作例を示す図である。まず、補正特性設定部130において、初期設定として視差補正の補正特性が設定される(ステップS910)。そして、視差検出部110において、入力画像の左画像Lおよび右画像Rから視差が検出され、視差マップdMが生成される(ステップS920)。また、視差マップdMの画像内の視差dが視差解析部120によって解析され、視差のヒストグラムから累積度数分布が生成される(ステップS930)。そして、設定された補正特性および累積度数分布により、視差補正部450において視差マップdMの視差が補正され、補正視差マップdM'が生成される(ステップS940)。
このようにして生成された補正視差マップdM'の視差に基づいて、画像合成部160において入力画像から出力画像が合成される(ステップS950)。そして、この合成された出力画像が、表示制御装置30を介して画像表示装置40に表示される(ステップS990)。
このように、本発明の第5の実施の形態によれば、視差解析部120において視差マップdMの画像内の視差を解析して得られた累積度数分布を利用して、視差補正部450が入力画像の視差を補正する。これにより、画像内の視差に応じて立体画像の奥行き感を動的に変更することができる。
<6.第6の実施の形態>
[視差変換装置]
図27は、本発明の第6の実施の形態における視差変換装置100の構成例を示す図である。この第6の実施の形態における視差変換装置100は、第1の実施の形態と比べて、補正特性設定部530において成分に応じた補正特性を設定し、視差補正部550において成分毎に視差補正を行う点が異なっている。以下、視差補正部550による視差補正の内容について説明する。
[視差補正]
図28は、本発明の第6の実施の形態における視差補正部550の構成例を示す図である。この視差補正部550は、成分分割部551と、第1成分視差補正部552と、第2成分視差補正部553と、成分合成部554とを備えている。
成分分割部551は、視差マップdMの画像内の視差について成分毎に分割するものである。例えば、視差の大局的な成分として低周波成分を、視差のディテール成分として高周波成分を抽出する。これにより、成分の異なる2つの画像が得られる。この成分分割部551としては、例えば、通常の帯域分割フィルタや、エッジ保存型フィルタなどを用いることによって、視差の周波数成分に応じた成分を抽出することができる。
第1成分視差補正部552および第2成分視差補正部553は、対応する各成分に対して視差補正を行うものである。この視差補正の際には、補正特性設定部530によって設定された補正特性に従って補正を行う。例えば、大局的な成分に対しては、第1の実施の形態において説明したような視差の圧縮を行い、ディテール成分については視差補正を行うことなく(もしくは補正前後で変化のない視差補正により)そのまま保存することが考えられる。これにより、奥行き変化のディテールを維持しつつ、視差のダイナミックレンジを許容範囲内に抑えることができる。なお、第1成分視差補正部552および第2成分視差補正部553は、特許請求の範囲に記載の成分視差補正部の一例である。
成分合成部554は、第1成分視差補正部552および第2成分視差補正部553の出力を合成するものである。この成分合成部554は、例えば、加算器により実現することができる。
なお、ここでは成分分割部551が2つの成分に分割することを想定したが、これに限定されず、必要に応じて3以上の成分に分割して、各成分に応じた補正を行うようにしてもよい。
このように、本発明の第6の実施の形態によれば、成分分割部551によって視差成分の異なる複数の画像に分割し、それぞれ異なる補正特性によって視差補正を行うことにより、それぞれの成分に適した視差補正を実現することができる。例えば、ディテール成分については視差補正を抑制することにより、奥行き変化のディテールを維持しつつ、視差のダイナミックレンジを許容範囲内に抑えることができる。
なお、本発明の実施の形態は本発明を具現化するための一例を示したものであり、本発明の実施の形態において明示したように、本発明の実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本発明の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本発明は実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、本発明の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
10 画像記憶装置
30 表示制御装置
40 画像表示装置
100 視差変換装置
110 視差検出部
120 視差解析部
130、530 補正特性設定部
140 領域設定部
150、450、550 視差補正部
160、260、360 画像合成部
261、361 視差/奥行き変換部
362 ダイレクト3Dマッピング部
263、363 中央単眼画像合成部
264、364 3Dマッピング部
265、365 立体画像合成部
551 成分分割部
552 第1成分視差補正部
553 第2成分視差補正部
554 成分合成部

Claims (14)

  1. 入力画像の画素または画素群毎の視差を保持する視差マップにおける視差を補正する際の補正特性を設定する補正特性設定部と、
    前記設定された補正特性に従って前記視差マップにおける視差を補正して補正視差マップを生成する視差補正部
    具備し、
    前記補正特性設定部は、前記視差マップにおける視差の周波数成分に応じた少なくとも2つの成分毎に前記補正特性を設定し、
    前記視差補正部は、
    前記成分毎に設定された前記補正特性に従って前記視差マップにおける視差を成分毎に補正する成分視差補正部と、
    前記成分毎に補正された視差マップを合成して前記補正視差マップを生成する成分合成部と
    を備える
    視差変換装置。
  2. 前記視差マップにおいて少なくとも2つの領域を設定する領域設定部をさらに具備し、
    前記補正特性設定部は、前記少なくとも2つの領域毎に前記補正特性を設定し、
    前記視差補正部は、前記視差マップにおける前記少なくとも2つの領域に応じた前記補正特性に従って前記視差マップにおける視差を補正する
    請求項1記載の視差変換装置。
  3. 前記視差補正部は、前記少なくとも2つの領域が隣接する所定の緩衝領域においては隣接する領域に応じた前記補正特性の加重和に従って前記視差マップにおける視差を補正する請求項2記載の視差変換装置。
  4. 前記補正特性設定部は、前記少なくとも2つの領域のうち前記視差マップにおける左右端に該当する領域においては手前側への奥行きを抑制するように前記補正特性を設定する請求項2記載の視差変換装置。
  5. 前記補正特性設定部において設定される前記補正特性は、前記視差マップにおける視差がゼロとなる近傍においては傾きが1であり、前記視差マップにおける視差が大きくなるに従って所定の値に収束する非線形特性である請求項1記載の視差変換装置。
  6. 前記補正特性設定部において設定される前記補正特性は、シグモイド関数に基づいて定義される請求項記載の視差変換装置。
  7. 前記入力画像の第一画像および第二画像から視差を検出して前記視差マップを生成する視差検出部をさらに具備する請求項1記載の視差変換装置。
  8. 前記補正視差マップに従って前記入力画像の第一画像および第二画像から前記出力画像の第一画像および第二画像を合成する画像合成部をさらに具備する請求項1記載の視差変換装置。
  9. 前記画像合成部は、
    前記視差マップにおける視差に基づいて前記入力画像の第一画像および第二画像から中央単眼画像を合成する中央単眼画像合成部と、
    前記補正視差マップの視差から奥行きに変換して補正奥行きマップを生成する視差/奥行き変換部と、
    前記補正奥行きマップに基づいて前記中央単眼画像を3次元空間にマッピングすることにより補正3次元マップを生成する3次元マッピング部と、
    前記補正3次元マップを表示面に射影することによって前記出力画像の第一画像および第二画像を合成する立体画像合成部と
    を備える
    請求項記載の視差変換装置。
  10. 前記画像合成部は、
    前記視差マップにおける視差に基づいて前記入力画像の第一画像および第二画像を3次元空間にマッピングすることにより3次元マップを生成するダイレクト3次元マッピング部と、
    前記3次元マップを仮想中央眼に対する表示面に射影することによって中央単眼画像を合成する中央単眼画像合成部と、
    前記補正視差マップの視差から奥行きに変換して補正奥行きマップを生成する視差/奥行き変換部と、
    前記補正奥行きマップに基づいて前記中央単眼画像を3次元空間にマッピングすることにより補正3次元マップを生成する3次元マッピング部と、
    前記補正3次元マップを表示面に射影することによって前記出力画像の第一画像および第二画像を合成する立体画像合成部と
    を備える
    請求項記載の視差変換装置。
  11. 前記視差マップにおける視差を解析して当該視差の累積度数分布を生成する視差解析部をさらに具備し、
    前記視差補正部は、前記累積度数分布および前記補正特性に基づいて前記視差マップにおける視差を補正する
    請求項1記載の視差変換装置。
  12. 第一画像および第二画像を立体画像の対として備える入力画像を供給する入力画像供給部と、
    前記入力画像の第一画像および第二画像から視差を検出して、画素または画素群毎の視差を保持する視差マップを生成する視差検出部と、
    前記視差マップにおける視差を補正する際の補正特性を設定する補正特性設定部と、
    前記設定された補正特性に従って前記視差マップにおける視差を補正して補正視差マップを生成する視差補正部と、
    前記補正視差マップに従って前記入力画像の第一画像および第二画像から出力画像の第一画像および第二画像を合成する画像合成部と、
    前記出力画像を表示する画像表示装置と
    を具備し、
    前記補正特性設定部は、前記視差マップにおける視差の周波数成分に応じた少なくとも2つの成分毎に前記補正特性を設定し、
    前記視差補正部は、
    前記成分毎に設定された前記補正特性に従って前記視差マップにおける視差を成分毎に補正する成分視差補正部と、
    前記成分毎に補正された視差マップを合成して前記補正視差マップを生成する成分合成部と
    を備える
    立体画像表示システム。
  13. 入力画像の画素または画素群毎の視差を保持する視差マップにおける視差を補正する際の補正特性を設定する補正特性設定手順と
    前記設定された補正特性に従って前記視差マップにおける視差を補正して補正視差マップを生成する視差補正手順
    を具備し、
    前記補正特性設定手順においては、前記視差マップにおける視差の周波数成分に応じた少なくとも2つの成分毎に前記補正特性を設定し、
    前記視差補正手順は、
    前記成分毎に設定された前記補正特性に従って前記視差マップにおける視差を成分毎に補正する成分視差補正手順と、
    前記成分毎に補正された視差マップを合成して前記補正視差マップを生成する成分合成手順と
    を備える
    視差変換方法。
  14. 入力画像の画素または画素群毎の視差を保持する視差マップにおける視差を補正する際の補正特性を設定する補正特性設定手順と
    前記設定された補正特性に従って前記視差マップにおける視差を補正して補正視差マップを生成する視差補正手順
    をコンピュータに実行させるためのプログラムであって、
    前記補正特性設定手順においては、前記視差マップにおける視差の周波数成分に応じた少なくとも2つの成分毎に前記補正特性を設定し、
    前記視差補正手順は、
    前記成分毎に設定された前記補正特性に従って前記視差マップにおける視差を成分毎に補正する成分視差補正手順と、
    前記成分毎に補正された視差マップを合成して前記補正視差マップを生成する成分合成手順と
    を備える
    プログラム
JP2010129507A 2010-06-07 2010-06-07 立体画像表示システム、視差変換装置、視差変換方法およびプログラム Expired - Fee Related JP5556394B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2010129507A JP5556394B2 (ja) 2010-06-07 2010-06-07 立体画像表示システム、視差変換装置、視差変換方法およびプログラム
PCT/JP2011/061972 WO2011155330A1 (ja) 2010-06-07 2011-05-25 立体画像表示システム、視差変換装置、視差変換方法およびプログラム
CN201180003076.4A CN102474644B (zh) 2010-06-07 2011-05-25 立体图像显示***、视差转换装置、视差转换方法
US13/386,166 US8605994B2 (en) 2010-06-07 2011-05-25 Stereoscopic image display system, disparity conversion device, disparity conversion method and program
BR112012002300A BR112012002300A2 (pt) 2010-06-07 2011-05-25 dispositivo de conversão de disparidade, sistema de exibição de imagem estereoscópica, método de conversão de disparidade, e, programa
EP11792287.2A EP2445223B1 (en) 2010-06-07 2011-05-25 Three-dimensional image display system, disparity conversion device, disparity conversion method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010129507A JP5556394B2 (ja) 2010-06-07 2010-06-07 立体画像表示システム、視差変換装置、視差変換方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2011259045A JP2011259045A (ja) 2011-12-22
JP5556394B2 true JP5556394B2 (ja) 2014-07-23

Family

ID=45097938

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010129507A Expired - Fee Related JP5556394B2 (ja) 2010-06-07 2010-06-07 立体画像表示システム、視差変換装置、視差変換方法およびプログラム

Country Status (6)

Country Link
US (1) US8605994B2 (ja)
EP (1) EP2445223B1 (ja)
JP (1) JP5556394B2 (ja)
CN (1) CN102474644B (ja)
BR (1) BR112012002300A2 (ja)
WO (1) WO2011155330A1 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012054912A (ja) * 2010-08-02 2012-03-15 Sharp Corp 映像処理装置、表示装置及び映像処理方法
KR20120055102A (ko) * 2010-11-23 2012-05-31 삼성전자주식회사 영상처리장치 및 영상처리방법
JP2012186781A (ja) 2011-02-18 2012-09-27 Sony Corp 画像処理装置および画像処理方法
JP5318168B2 (ja) * 2011-09-07 2013-10-16 シャープ株式会社 立体画像処理装置、立体画像処理方法、及びプログラム
JP2013157726A (ja) * 2012-01-27 2013-08-15 Canon Inc 撮像装置および撮像装置の制御方法
CN106851239B (zh) * 2012-02-02 2020-04-03 太阳专利托管公司 用于使用视差信息的3d媒体数据产生、编码、解码和显示的方法和装置
US20130202191A1 (en) * 2012-02-02 2013-08-08 Himax Technologies Limited Multi-view image generating method and apparatus using the same
TWI432883B (zh) * 2012-03-12 2014-04-01 Silicon Motion Inc 立體取像方法、立體影像攝影機、與立體影像攝影機水平校正機台
CN102692806B (zh) * 2012-06-04 2015-08-05 济南大学 自由视点四维空间视频序列的采集与形成方法
US9628770B2 (en) * 2012-06-14 2017-04-18 Blackberry Limited System and method for stereoscopic 3-D rendering
WO2014007414A1 (en) 2012-07-06 2014-01-09 Lg Electronics Inc. Terminal for increasing visual comfort sensation of 3d object and control method thereof
US20140063206A1 (en) * 2012-08-28 2014-03-06 Himax Technologies Limited System and method of viewer centric depth adjustment
CN103686118A (zh) * 2012-09-19 2014-03-26 珠海扬智电子科技有限公司 影像深度调整方法与装置
US9300942B2 (en) 2012-10-18 2016-03-29 Industrial Technology Research Institute Method and control system for three-dimensional video playback using visual fatigue estimation
GB2499694B8 (en) * 2012-11-09 2017-06-07 Sony Computer Entertainment Europe Ltd System and method of image reconstruction
US9091628B2 (en) 2012-12-21 2015-07-28 L-3 Communications Security And Detection Systems, Inc. 3D mapping with two orthogonal imaging views
TWI478146B (zh) * 2013-01-15 2015-03-21 Au Optronics Corp 降低立體影像串擾的方法及其顯示系統
KR101960897B1 (ko) * 2013-02-06 2019-07-16 삼성디스플레이 주식회사 입체 영상 표시 장치 및 그 표시 방법
DE102013204301A1 (de) * 2013-03-12 2014-09-18 C.R.S. Iimotion Gmbh Tiefenanpassung von stereoskopischen Bildern
KR20140115854A (ko) * 2013-03-22 2014-10-01 삼성디스플레이 주식회사 입체 영상 표시 장치 및 입체 영상 표시 방법
US20160150209A1 (en) * 2013-06-19 2016-05-26 Telefonaktiebolaget L M Ericsson (Publ) Depth Range Adjustment of a 3D Video to Match the Depth Range Permissible by a 3D Display Device
CN105432081B (zh) * 2013-08-06 2019-12-31 索尼电脑娱乐公司 三维图像生成设备、三维图像生成方法、程序和信息存储介质
JP6402366B2 (ja) * 2013-08-26 2018-10-10 パナソニックIpマネジメント株式会社 3次元表示装置および3次元表示方法
CN103729860B (zh) * 2013-12-31 2016-10-05 华为软件技术有限公司 一种图像目标跟踪的方法和装置
JP2015154101A (ja) * 2014-02-10 2015-08-24 ソニー株式会社 画像処理方法、画像処理装置及び電子機器
US9552633B2 (en) * 2014-03-07 2017-01-24 Qualcomm Incorporated Depth aware enhancement for stereo video
JP2017108194A (ja) * 2014-04-22 2017-06-15 株式会社ニコン 画像処理装置、撮像装置及び画像処理プログラム
EP2950269A1 (en) * 2014-05-27 2015-12-02 Thomson Licensing Method and apparatus for improving estimation of disparity in a stereo image pair using a hybrid recursive matching processing
CN104539924A (zh) * 2014-12-03 2015-04-22 深圳市亿思达科技集团有限公司 基于人眼追踪的全息显示方法及全息显示装置
CN104869390B (zh) * 2015-06-15 2017-03-22 四川大学 一种基于投影变换的自由立体显示深度数据校正方法
CN105657401B (zh) * 2016-01-13 2017-10-24 深圳创维-Rgb电子有限公司 一种裸眼3d显示方法、***及裸眼3d显示装置
DE112016007208T5 (de) * 2016-10-28 2019-06-06 Mitsubishi Electric Corporation Anzeige-Steuerungsvorrichtung und Anzeige-Steuerungsverfahren
CN108600742B (zh) * 2018-05-17 2020-03-20 苏州科技大学 一种基于立体显示的中央眼测试***及方法
CN112365586B (zh) * 2020-11-25 2023-07-18 厦门瑞为信息技术有限公司 3d人脸建模与立体判断方法及嵌入式平台的双目3d人脸建模与立体判断方法
JPWO2023032206A1 (ja) * 2021-09-06 2023-03-09

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0787598B2 (ja) * 1991-06-06 1995-09-20 株式会社エイ・ティ・アール視聴覚機構研究所 視差補正装置
JP3826236B2 (ja) * 1995-05-08 2006-09-27 松下電器産業株式会社 中間像生成方法、中間像生成装置、視差推定方法、及び画像伝送表示装置
JP2000209614A (ja) * 1999-01-14 2000-07-28 Sony Corp 立体映像システム
GB2354389A (en) * 1999-09-15 2001-03-21 Sharp Kk Stereo images with comfortable perceived depth
JP2001103514A (ja) * 1999-09-28 2001-04-13 Sanyo Electric Co Ltd 2次元映像を3次元映像に変換する方法
JP2003209858A (ja) * 2002-01-17 2003-07-25 Canon Inc 立体画像生成方法及び記録媒体
JP2004221699A (ja) 2003-01-09 2004-08-05 Sanyo Electric Co Ltd 立体画像処理方法および装置
JP2005091508A (ja) 2003-09-12 2005-04-07 Advanced Telecommunication Research Institute International 立体画像表示装置および立体画像表示方法
GB0329312D0 (en) * 2003-12-18 2004-01-21 Univ Durham Mapping perceived depth to regions of interest in stereoscopic images
US8094927B2 (en) * 2004-02-27 2012-01-10 Eastman Kodak Company Stereoscopic display system with flexible rendering of disparity map according to the stereoscopic fusing capability of the observer
GB2417628A (en) 2004-08-26 2006-03-01 Sharp Kk Creating a new image from two images of a scene
US7330584B2 (en) 2004-10-14 2008-02-12 Sony Corporation Image processing apparatus and method
JP4177826B2 (ja) * 2005-03-23 2008-11-05 株式会社東芝 画像処理装置および画像処理方法
US7586489B2 (en) * 2005-08-01 2009-09-08 Nvidia Corporation Method of generating surface defined by boundary of three-dimensional point cloud
US8311347B2 (en) 2006-11-10 2012-11-13 Microsoft Corporation Image compression based on parameter-assisted inpainting
KR101311896B1 (ko) * 2006-11-14 2013-10-14 삼성전자주식회사 입체 영상의 변위 조정방법 및 이를 적용한 입체 영상장치
KR20080076628A (ko) * 2007-02-16 2008-08-20 삼성전자주식회사 영상의 입체감 향상을 위한 입체영상 표시장치 및 그 방법
NZ567986A (en) * 2008-05-02 2010-08-27 Auckland Uniservices Ltd Real-time stereo image matching system
CN102027752B (zh) * 2008-05-12 2016-02-17 汤姆森特许公司 用于测量立体运动画面的潜在眼睛疲劳的***和方法
JP2010045584A (ja) * 2008-08-12 2010-02-25 Sony Corp 立体画像補正装置、立体画像補正方法、立体画像表示装置、立体画像再生装置、立体画像提供システム、プログラム及び記録媒体
JP4625517B2 (ja) * 2008-10-27 2011-02-02 富士フイルム株式会社 3次元表示装置および方法並びにプログラム
KR20100135032A (ko) * 2009-06-16 2010-12-24 삼성전자주식회사 2차원 영상의 3차원 영상 변환 장치 및 방법

Also Published As

Publication number Publication date
EP2445223B1 (en) 2015-07-01
JP2011259045A (ja) 2011-12-22
EP2445223A1 (en) 2012-04-25
CN102474644A (zh) 2012-05-23
WO2011155330A1 (ja) 2011-12-15
US8605994B2 (en) 2013-12-10
EP2445223A4 (en) 2013-06-19
CN102474644B (zh) 2015-12-16
BR112012002300A2 (pt) 2016-05-31
US20120148147A1 (en) 2012-06-14

Similar Documents

Publication Publication Date Title
JP5556394B2 (ja) 立体画像表示システム、視差変換装置、視差変換方法およびプログラム
JP5444955B2 (ja) 立体画像表示システム、視差変換装置、視差変換方法およびプログラム
JP6147275B2 (ja) 立体画像処理装置、立体画像処理方法、及びプログラム
JP5962393B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP4966431B2 (ja) 画像処理装置
US8989482B2 (en) Image processing apparatus, image processing method, and program
JP5638974B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2010063083A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2013172190A (ja) 画像処理装置、および画像処理方法、並びにプログラム
US20130293533A1 (en) Image processing apparatus and image processing method
JP2011199389A (ja) 画像処理装置、画像変換方法、およびプログラム
JP2012244396A (ja) 画像処理装置、画像処理方法、およびプログラム
JP2011087100A (ja) 擬似立体画像作成装置及び擬似立体画像表示システム
JP5175910B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2008243046A (ja) テクスチャ処理装置、方法およびプログラム
JPWO2012073575A1 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP5692051B2 (ja) 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
JPWO2012098607A1 (ja) 立体画像処理装置および立体画像処理方法
JP5493155B2 (ja) 立体画像処理装置、立体画像処理方法、及びプログラム
US20130187907A1 (en) Image processing apparatus, image processing method, and program
JP5488482B2 (ja) 奥行き推定データ生成装置、奥行き推定データ生成プログラム及び擬似立体画像表示装置
JP2014022867A (ja) 画像処理装置および方法、並びにプログラム
JP2012105202A (ja) 画像処理装置及びその制御方法
JP2012060246A (ja) 画像処理装置、集積回路装置
JP6217486B2 (ja) 立体画像生成装置、立体画像生成方法、及び立体画像生成プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140520

R151 Written notification of patent or utility model registration

Ref document number: 5556394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees