JP5581452B2 - 視差量調整装置およびその動作制御方法 - Google Patents

視差量調整装置およびその動作制御方法 Download PDF

Info

Publication number
JP5581452B2
JP5581452B2 JP2013536075A JP2013536075A JP5581452B2 JP 5581452 B2 JP5581452 B2 JP 5581452B2 JP 2013536075 A JP2013536075 A JP 2013536075A JP 2013536075 A JP2013536075 A JP 2013536075A JP 5581452 B2 JP5581452 B2 JP 5581452B2
Authority
JP
Japan
Prior art keywords
image
parallax
parallax amount
amount
reduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013536075A
Other languages
English (en)
Other versions
JPWO2013047007A1 (ja
Inventor
康一 田中
宏一 矢作
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2013536075A priority Critical patent/JP5581452B2/ja
Application granted granted Critical
Publication of JP5581452B2 publication Critical patent/JP5581452B2/ja
Publication of JPWO2013047007A1 publication Critical patent/JPWO2013047007A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/31Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/373Image reproducers using viewer tracking for tracking forward-backward translational head movements, i.e. longitudinal movements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Description

この発明は,視差量調整装置およびその動作制御方法に関する。
従来,いわゆるステレオ・カメラ撮影により取得された水平視差を有する左右一対の画像を,3D画像として表示する装置がある。昨今では,テレビ,スマートフォン,ディジタル・カメラなどの家庭用電化製品にも3D表示機能をもつディスプレイを備えたものが登場している。
3Dの奥行きや飛び出しの感じ方には個人差があるために,3D表示装置にはユーザに対する視差(立体感)調整機構が設けられていることが多い。一般的には,3D画像を見ながら,左右画像を水平方向に移動することで視差を調整する。
各視点画像の相互の視差の調整が可能な立体視画像処理装置(特許文献1),立体視の視差量を調整できる立体画像表示装置(特許文献2),輻輳点を調整する装置(特許文献3)などもある。
特開2005-130310号公報 特開2004-289527号公報 特開平9-201472号公報
しかしながら,水平視差の大きな左右画像にもとづく3D画像は過度な飛び出し,奥行きを与えるため,その画像を見ながら視差調整することは難しい。
この発明は,適切な視差調整ができるようにすることを目的とする。
この発明による視差量調整装置は,視点の異なる第1の画像と第2の画像とのうち,第1の画像を基準として,画素ごとに第2の画像との間の視差量を算出する視差量算出手段,上記視差量算出手段によって算出された視差量と所定の許容視差量(許容視差量とは,適切な立体視が可能な視差量の目安を与えるもので,表示ディバイスのサイズ,立体表示方式に依存する。)とにもとづいて,第1の画像および第2の画像の縮小率を決定する縮小率決定手段,上記縮小率決定手段によって決定された縮小率で第1の画像および第2の画像を縮小する縮小手段,上記縮小手段によって縮小された第1の画像および第2の画像からなる立体画像を表示画面に表示するように表示装置を制御する立体画像表示制御手段,ならびに視差量の調整指示を受け付け,指示された調整量に応じて,上記縮小手段によって縮小された第1の画像と第2の画像との視差量を調整する第1の視差量調整手段を備えていることを特徴とする。
この発明は,上記視差量調整装置に適した動作制御方法も提供している。すなわち,この方法は,視差量算出手段が,視点の異なる第1の画像と第2の画像とのうち,第1の画像を基準として,画素ごとに第2の画像との間の視差量を算出し,縮小率決定手段が,上記視差量算出手段によって算出された視差量と所定の許容視差量とにもとづいて,第1の画像および第2の画像の縮小率を決定し,縮小手段が,上記縮小率決定手段によって決定された縮小率で第1の画像および第2の画像を縮小し,立体画像表示制御手段が,上記縮小手段によって縮小された第1の画像および第2の画像からなる立体画像を表示画面に表示するように表示装置を制御し,視差量調整手段が,視差量の調整指示を受け付け,指示された調整量に応じて,上記縮小手段によって縮小された第1の画像と第2の画像との視差量を調整するものである。
この発明によると,視点の異なる第1の画像と第2の画像とのうち,第1の画像を基準として,画素ごとに第2の画像との間の視差量が算出され,算出された視差量にもとづいて(視差量が許容視差量となるように)第1の画像と第2の画像との縮小率が決定される。決定された縮小率で第1の画像と第2の画像とが縮小される。縮小した第1の画像と第2の画像とが表示画面に表示され,その表示画面に表示されている,縮小した第1の画像と第2の画像とを見ながら視差量が調整される。
大きな画像は視差量が大きい。このために立体視しづらく,視差量調整も難しい。この発明によると,第1の画像と第2の画像とは縮小され,縮小された状態で第1の画像と第2の画像との視差量が調整されるので,視差量調整がしやすくなる。
上記縮小手段による縮小前の上記視点の異なる第1の画像と第2の画像との各画素の視差量を,上記視差量調整手段によって視差量が調整され,かつ縮小されている第1の画像と第2の画像とを上記縮小手段による縮小前の大きさとなるように拡大したときの視差量とする第2の視差量調整手段をさらに備えることが好ましい。
上記第2の視差量調整手段は,たとえば,第1の画像と第2の画像との視差量が許容視差量以下となるように視差量を調整するものである。
上記縮小率決定手段は,たとえば,第1の画像の画素のうち,所定数以上の画素の視差量が許容視差量となるように縮小率を決定するものである。
上記視差量算出手段は,たとえば,第1の画像を基準として,第1の画像を所定の大きさをもつブロックに分割した場合において,ブロックごとに第2の画像との間の視差量を算出するものであり,上記縮小率決定手段は,たとえば,許容視差量以上の視差量をもつブロックの数がしきい値以上となる,そのようなブロックの視差量の絶対値のうち最大の視差量が許容視差量となるように縮小するものである。
上記縮小手段によって縮小された第1の画像および第2の画像のコントラストを下げる第1のコントラスト調整手段,ならびに上記第2の視差量調整手段によって視差量が調整された第1の画像および第2の画像のコントラストを,上記コントラスト調整手段によるコントラスト調整前のコントラストに戻す第2のコントラスト調整手段をさらに備えてもよい。
上記視差量算出手段は,たとえば,第1の画像と第2の画像とのうち,もっとも手前にある被写体像の視差量を算出するものである。
上記視差量算出手段は,第1の画像および第2の画像から,あらかじめ定められている所定の被写体の視差量を算出するものでもよい。この場合,上記縮小率決定手段は,たとえば,上記視差量算出手段によって算出された所定の被写体の視差量を算出するものとなろう。
上記拡大手段による拡大後の第1の画像と第2の画像との視差量が,上記視差量調整手段によって調整された視差量と同じとなるように上記拡大手段による拡大処理を行うようにしてもよい。
画像ビューワの電気的構成を示すブロック図である。 画像ビューワの処理手順を示すフローチャートである。 画像ビューワの処理手順を示すフローチャートである。 左視点画像および右視点画像の一例を示している。 立体画像の一例である。 視差ヒストグラムの一例である。 立体画像の一例である。 視差ヒストグラムの一例である。 立体画像の一例である。 視差ヒストグラムの一例である。 立体画像の一例である。 視差ヒストグラムの一例である。 画像縮小判定処理手順を示すフローチャートである。 画像処理判定処理手順を示すフローチャートである。 視差ヒストグラムの一例である。 視差ヒストグラムの一部を拡大している。 視差ヒストグラムの一部を拡大している。 画像ビューワの処理手順を示すフローチャートである。 画像ビューワの処理手順を示すフローチャートである。 縮小された立体画像の一例である。 縮小された立体画像の一例である。
図1は,この発明の実施例を示すもので,画像ビューワ1の電気的構成を示すブロック図である。
この実施例による画像ビューワ1は,立体画像を表示できるもので,立体視しやすいように視差調整を行うことができる。視差が大きすぎると,立体視しづらいので,この実施例では,立体画像を縮小させて視差調整を行うことができる。
画像ビューワ1の全体の動作は,CPU2によって統括される。
画像ビューワ1には,上述したように,視差調整のための調整量を画像ビューワ1に与えるための調整つまみ,その他指令を与える操作装置を含むユーザ・インターフェイス3,視差調整装置4,画像縮小処理が必要かどうかを判定する画像縮小判定装置5および立体画像の視差量を算出するために左視点画像と右視点画像との画素ごとの一致を判定するステレオ・マッチング装置6が含まれている。
また,画像ビューワ1には,立体画像を表示する立体画像表示装置7,立体画像の拡大および縮小を行う画像拡大/縮小装置8,所定のデータを記憶するメモリ9,画像データの圧縮および伸張を行う圧縮/伸張装置10およびメモリ・カード12にアクセスする外部メディア・インターフェイス11が含まれている。メモリ・カード12に立体画像を表わす立体画像データ(左視点画像を表わす画像データおよび右視点画像を表わす画像データ)が格納されている。
図2および図3は,画像ビューワ1の処理手順を示すフローチャートである。
まず,メモリ・カード12から所望の左視点画像を表わす画像データおよび右視点画像を表わす画像データが読み取られる(図2ステップ21)。
図4は左視点画像40Lおよびは右視点画像40Rの一例である。
図4の左側を参照して,左視点画像40Lは,左視点で撮像することにより得られた画像である。この左視点画像40Lには,人物像41Lおよび山の背景画像43Lが含まれている。図4の右側を参照して,右視点画像40Rは,右視点で撮像することにより得られた画像である。この右視点画像40Rには,左視点画像40Lに含まれている人物像41Lおよび山の背景画像43Lにそれぞれ対応した人物像41Rおよび背景画像43Rが含まれている。
図4の左側に示す左視点画像40Lと図4の右側に示す右視点画像40Rとは異なる視点で撮像されたものであるから視差がある。
これらの左視点画像40Lと右視点画像40Rとの間でステレオ・マッチングが行われ(図2ステップ22),左視点画像40Lと右視点画像40Rとのうち,左視点画像40L(または右視点画像40R)を基準として,画素ごとに右視点画像40R(または左視点画像40L)との間の視差量が算出される。もっとも,画素ごとに視差量が算出されずとも,左視点画像40L(または右視点画像40R)を所定の大きさをもつブロックに分割した場合において,ブロックごとに右視点画像40R(または左視点画像40L)との間の視差量を算出するようにしてもよい。画素をブロックと考えることもできる。マッチングにはブロック・マッチングが利用できるほか,Kanade-Lucas-Tomasiの特徴点トラッカー,SIFT(Scale Invariant Feature Transform)などを利用できる。
つづいて,左視点画像40Lと右視点画像40Rとの間の視差ヒストグラムが生成され,生成された視差ヒストグラムにもとづいて,画像縮小判定が行われる(図2ステップ23)。
図5は,立体画像52の一例である。
視差のある左視点画像40Lと右視点画像40Rとが表示画面50に表示されることにより,立体画像52が得られる。立体画像52の大きさは,表示画面50の大きさよりも小さいので立体画像52の周りに枠51(ハッチングで示す)が現れている。背景画像43Lと43Rによって表わされる山の背景の前方に,人物像41Lと41Rとによって表わされる人物が存在している。この実施例では,その人物が見やすくなるように視差が調整されるものである。人物像41Lと41Rとの視差はd1で表されている。たとえば,人物像41Lと41Rとの視差が大きすぎると,立体視しづらいので視差調整もしづらい。視差ヒストグラムにもとづいて,左視点画像40Lと右視点画像40Rとから構成される立体画像が見づらいと考えられると,画像縮小処理が行われる。画像縮小処理が行われることにより,左視点画像40Lと右視点画像40Rとの視差が小さくなるので,立体視しやすくなり,視差調整もし易くなる。立体画像が見づらくなければ,画像縮小処理は行われない。画像縮小判定の詳細は,後述する。
図6は,図5に示す立体画像52の視差ヒストグラムの一例である。
図6において,横軸は視差量であり,縦軸は画素数である。視差量を表す横軸において,中央の0は,視差が0のクロス・ポイントである。中央の0よりも左側は画像が飛び出す視差量を示し,中央の0よりも右側は奥まりを示す視差量を表している。
左側の分布D1は,人物像41Lと41Rとの視差量の分布を示し,右側の分布D2は,背景画像43Lと43Rとの分布を示している。
この実施例では,左視点画像40Lまたは右視点画像40Rの全画素Nallのうち,多くの画素が含まれるような視差範囲±dthが規定される。また,許容視差範囲±dpが規定されている。人物像41Lと41Rとの視差d1(人物像41Lと41Rとの視差量の分布のうち,ピーク値の視差)は許容視差範囲±dpに含まれていないので立体視しづらいものとなっている。
このように立体視しづらい場合には,立体画像の縮小が必要と判定される。画像縮小判定において立体画像の縮小が必要と判断されると(図2ステップ24でYES),立体画像の縮小処理が行われる(図2ステップ25)。立体画像の縮小が必要と判断されなければ(図2ステップ24でNO),縮小されない立体画像を用いて視差調整などのその他の処理が行われる。縮小された立体画像は表示画面50に表示される(図3ステップ26)。
図7は,縮小処理が行われた立体画像54の一例である。
縮小された立体画像54には,上述した縮小前の人物像41Lおよび41Rに対応する人物像42Lおよび42Rが含まれている。また,縮小前の背景画像43Lおよび43Rに対応する背景画像45Lおよび45Rも含まれている。立体画像54は縮小されているので,表示画面50において,立体画像54の周りに表示される枠53(ハッチングで示す)の大きさが大きくなっている。さらに,立体画像54は,図5に示す立体画像52に比べて縮小されているので,人物像42Lと42Rとの間の視差d2は,縮小前の立体画像52に含まれる人物像41Lと41Rとの間の視差に比べて小さくなっている。
図8は,画像縮小後の視差ヒストグラムの一例である。
図8において,左側の分布D1が人物像42Lおよび42Rの視差分布であり,右側の分布D2が背景画像45Lおよび45Rの視差分布である。
画像縮小処理が行われることにより,人物像42Lおよび42Rの視差分布D1および背景画像45Lおよび45Rの視差分布D2が近づく。ほとんどの画素の視差量が許容視差範囲±dp内に収まるようになる。したがって,上述したように,縮小された立体画像54を用いて視差調整しやすくなる。人物像42Lおよび42Rの視差d2も許容視差範囲±dpに収まっており,立体視しやすい状態となっている。
このように,立体画像52が縮小されることにより得られる立体画像54の人物像42Lと42Rとの視差(人物像42Lと42Rとの視差に限らない)が小さくなるので,視差調整がし易くなる。
縮小された立体画像(左視点画像,右視点画像)54に含まれている人物像42Lおよび42Rについて視差調整(第1の視差調整)が行われ(図3ステップ27),視差調整が完了する(図3ステップ28でYES)。
図9は,視差調整が行われた縮小画像54Aの一例である。
視差調整が行われることにより,人物像42Lと42Rとの視差がd2からd3(d2<d3)となっている。
図10は,図9に示す視差調整が行われた縮小画像54Aの視差ヒストグラムの一例である。
人物像42Lと42Rとについて視差調整が行われたことにより,上述のように,それらの視差がd3となっている。この視差は,ユーザが立体視しやすいように調整されたものである。
縮小された立体画像54Aについて適用された視差d3を,立体画像54を縮小前の立体画像52の大きさに拡大する場合の拡大率に応じて拡大して,縮小前の左視点画像40L(図4)および縮小前の右視点画像40R(図4)に適用すると,許容視差量(許容視差量とは,適切な立体視が可能な視差量の目安を与えるもので,表示ディバイスのサイズ,立体表示方式に依存する。)を超えてしまうことがある。このために,この実施例では,縮小率を用いて,縮小画像54Aを縮小前の立体画像52の大きさに拡大した場合の拡大率に応じた視差量が算出される(図3ステップ30)。算出された視差量が許容視差量以下でなければ(図3ステップ30でNO),立体視しやすくするために,許容視差量となるように,左視点画像40Lと右視点画像40Rとが視差調整される(第2の視差調整)(図3ステップ32)。算出された視差量が許容視差量以下であれば(図3ステップ30でYES),算出された視差量を用いて,左視点画像40Lおよび40Rの視差調整(第2の視差調整)が行われる(図3ステップ32)。
図11は,上述のように縮小画像での視差調整により得られた視差にもとづいて算出された視差で視差調整された立体画像52Aの一例である。この立体画像52Aは,縮小画像54Aが拡大されたものではなく,左視点画像40Lおよび右視点画像40Rに対して,上述のようにして算出された視差となるように視差調整されたものである。
立体画像52Aには,上述した人物像41Lおよび41Rが含まれている。これらの人物像41Lと41Rとの視差dは,縮小画像54Aでの視差d3にもとづいて算出されたものである。もっとも,上述のように,算出された視差dが許容視差量を超えていると許容視差量となるのはいうまでもない。
図5に示したように立体画像52の人物像41Lと41Rとの視差がd1であり,図7に示したように縮小することにより得られた立体画像54の人物像42Lと42Rとの視差がd2となる。縮小率をRとすると,視差d2=d1×Rである。縮小画像54について視差調整が行われることにより,視差d3=d2+c1となったものとする(c1が視差調整量)。視差d3を縮小前の左視点画像40Lおよび右視点画像40Rに適用するために,縮小率に応じた視差dが算出される。縮小前の左視点画像40Lおよび右視点画像40Rの人物像41Lおよび41Rに適用される視差dは,d=d3/R=(d1×R+c1)/R=d1+(c1/R)となる。この視差dが視差許容量を超えていると,視差許容量とされる。もっとも,必ずしも,この視差dを視差許容量に制限しなくともよい。
図12は,算出された視差dが適用されて視差調整された立体画像52Aの視差ヒストグラムの一例である。
図11に示す立体画像52Aの視差調整量は図9に示す縮小されている立体画像54Aの視差調整量よりも大きくなるので,人物像41Rと41Lとの視差分布D1および背景画像43Lと43Rとの視差分布D2との間隔が開くこととなる。
図13は,画像縮小判定処理手順(図2ステップ23の処理手順)を示すフローチャートである。
図9に示したように,左視点画像40L(図4参照)の画素と右視点画像40R(図4参照)の画素との視差を表す視差ヒストグラムが生成される。
まず,視差範囲±dthが0にリセットされる(図13ステップ61)。
つづいて,視差範囲±dth内に含まれる視差をもつ画素の数Nrが算出される(図13ステップ62)。算出された画素数Nrと全画素数Nall との比率が所定のしきい値th1(たとえば,0.9 )よりも大きくなるまで(ステップ63),視差範囲±dthの幅が一つずつ広げられる(図13ステップ64)。算出された画素数Nrと全画素数Nall との比率が所定のしきい値th1よりも大きくなると(図13ステップ63でYES),全画素Nall のうち多くの画素が含まれるような視差範囲±dthが決定される。
このようにして決定された視差範囲±dthが許容視差±dp以下であれば(図13ステップ65でNO),そのような立体画像は立体視しやすいので縮小処理はしないと決定される(縮小率R=1)(図13ステップ67)。
視差範囲±dthが許容視差±dpよりも大きければ(図13ステップ65でYES),縮小率R=dp/dthで縮小するものと決定される(図13ステップ66)。このような画像縮小により,視差の分布を許容視差範囲±dp内に圧縮できるようになる。
立体視の特性として上述した視差範囲±dthの算出を,エッジ検出して得られるエッジ強度の強い画素(たとえば,垂直線の画素)の視差のみを利用するようにしてもよいし,コントラストの低い被写体の視差を除外するようにしてもよい。
図14は,画像縮小判定処理手順(図2ステップ23の処理手順)の他の例を示すフローチャートである。
この実施例は,立体画像において過度な飛び出し視差が快適な立体視を阻害することがあることを考慮して,手前側の被写体の視差量に応じて画像縮小率Rの設定が行われるものである。上述したのと同様に視差ヒストグラムが生成される。
図15は,視差ヒストグラムGの一例である。
上述した視差ヒストグラムと同様に横軸が視差量であり,縦軸が画素数である。視差ヒストグラムは,その視差量をもつ画素がどの位あるかを示すものであるから,視差量に対する画素数の数を表わしている。
図16は,視差ヒストグラムGの一部を拡大したものである。
上述したように,視差ヒストグラムGによって視差量に対応して画素数が表わされている。たとえば,視差量P1の画素数は1であり,視差量P2の画素数は2である。このように視差ヒストグラムGから視差量に対応した画素数が分る。
まず,視差ヒストグラムの第i番目の視差量(最初は飛び出し量のもっとも大きな画素,一番手前の画素の視差量にリセットされている)の画素数nが読み取られる(図14ステップ71)。得られた画素数nがしきい値fth以上でなければ(図14ステップ72でNO),影響は少ないので,すべての視差量について確認されていなれければ(図14ステップ73でNO),iがインクレメントされ(図14ステップ74),次に奥側の視差量をもつ画素の数nが読み取られる(図14ステップ71)。
図16に示すように,視差量Pnをもつ画素の数がしきい値fth以上となると(図14ステップ72でYES),その第i番目の視差量diが,もっとも手前の被写体の視差量dfとされる(図14ステップ75)。その視差量dfが許容視差量dp内に入るように,縮小率R=dp/dfで縮小すると決定される(図14ステップ76)。
図17は,しきい値fthを超える画素が存在しない場合のヒストグラムの一部を拡大している。
すべての画素の視差量について確認しても,しきい値fthを超える画素数をもつものが存在しない場合には(図14ステップ72でNO,ステップ73でYES),許容視差dpがもっとも手前の被写体の視差量dfとされ(図14ステップ77),縮小しないと決定される(図14ステップ78)。縮小率R=dp/df=dp/dp=1となる。
上述の実施例では,手前の被写体の視差量に応じて制御が行われているが,奥側の被写体が重視される場合には,奥側の被写体の視差量から順に上述した処理と同様の処理が行われればよい。
図18から図21は,他の実施例を示している。
この実施例は,顔画像(顔画像に限らない)のような特定の被写体を検出し,その検出された特定の被写体の視差が許容視差よりも大きければ立体画像を縮小するものである。また,立体画像の縮小処理が行われると,立体画像を構成する左視点画像および右視点画像のうち,少なくとも一方の画像のコントラストを低下させる処理も行われる。視差調整に応じてコントラストが元に戻る。もっともコントラストを低下させる処理は必ずしも行われなくともよい。立体画像の縮小処理を行わずにコントラストを低下させる処理を行ってもよい。
図18および図19は,画像ビューワ1の処理手順を示すフローチャートである。これらの図において,図2または図3に示す処理と同じ処理については同じ符号を付して説明を省略する。
上述したのと同様に,左視点画像40Lおよび右視点画像40Rがメモリ・カード12から読み取られ(図18ステップ81),左視点画像40Lの顔検出処理が行われる(図18ステップ82)。左視点画像40Lから顔が検出されると(図18ステップ83でYES),左視点画像40Lにおいて検出された顔と同じ顔を検出する処理が右視点画像40Rについて行われる(図18ステップ84)。たとえば,左視点画像40Lにおいて検出された顔画像がテンプレート画像とされて,そのテンプレート画像と同じ画像が右視点画像40Rから検出される。右視点画像40Rから左視点画像40Lから検出された顔と同一の顔が検出されると(図18ステップ85でYES),顔の位置関係から,顔の視差量dhが算出される(図18ステップ86)。
算出された顔の視差量dhが許容視差量dpよりも大きければ(図18ステップ87でYES),上述のように立体画像の画像縮小が行われる(図18ステップ88)。算出された顔の視差量dhが許容視差量dp以下であれば(図18ステップ87でNO),画像縮小処理は行われずに,縮小されていない立体画像について視差調整を行うなどのその他の処理が行われる。
つづいて,立体画像を構成する左視点画像および右視点画像の少なくとも一方の画像についてコントラストが低下させられる(図19ステップ91)。立体画像が縮小されていれば,縮小されている画像についてコントラストが低下させられるのはいうまでもない。コントラストが低下させられた場合には,その旨をユーザに通知することが好ましい。たとえば,「画像の立体感が適切でないために表示モードを変更しました。」と表示される。
その後,縮小された立体画像を用いて視差調整が行われると,その視差調整に応じてコントラストが元に戻されていく(図19ステップ27A)。コントラスト変化により視差調整の程度を示すことができるようになる。
コントラストの調整は,画像全体を一律の値で調整してもよいし,許容視差を超えている領域のみコントラストを低下させてもよい。
図20および図21は,立体画像52Aの一例である。
図20を参照して,立体画像54Aには,左視点画像から得られる人物像44Lと右視点画像から得られる人物像44Rとが含まれている。これらの人物像44Lと44Rとのそれぞれのコントラストがハッチングで示されている。上述のように右視点画像のコントラストが下げられている。
視差調整が行われると,コントラストが変化していき,視差調整の完了に応じて,図21に示すように,元のコントラストとなる。
上述したように,手前の被写体に対応する視差量を検出し,その視差量の絶対値が許容視差を超えている場合に上述のようにコントラストを低下させるようにしてもよい。
1 画像ビューワ
2 CPU
4 視差調整装置
5 画像縮小判定装置
6 ステレオ・マッチング装置
7 立体表示装置

Claims (8)

  1. 視点の異なる第1の画像と第2の画像とのうち,第1の画像を基準として,画素ごとに第2の画像との間の視差量を算出する視差量算出手段,
    上記視差量算出手段によって算出された視差量と所定の許容視差量とにもとづいて,第1の画像および第2の画像の縮小率を決定する縮小率決定手段,
    上記縮小率決定手段によって決定された縮小率で第1の画像および第2の画像を縮小する縮小手段,
    上記縮小手段によって縮小された第1の画像および第2の画像からなる立体画像を表示画面に表示するように表示装置を制御する立体画像表示制御手段
    視差量の調整指示を受け付け,指示された調整量に応じて,上記縮小手段によって縮小された第1の画像と第2の画像との視差量を調整する第1の視差量調整手段,ならびに
    上記縮小手段による縮小前の上記視点の異なる第1の画像と第2の画像との視差量を,上記視差量調整手段によって視差量が調整され,かつ縮小されている第1の画像と第2の画像とを上記縮小手段による縮小前の大きさとなるように拡大したときの視差量とする第2の視差量調整手段,
    を備えた視差量調整装置。
  2. 上記第2の視差量調整手段は,第1の画像と第2の画像との視差量が許容視差量以下となるように視差量を調整するものである,
    をさらに備えた請求項に記載の視差量調整装置。
  3. 上記縮小率決定手段は,
    第1の画像の画素のうち,所定数以上の画素の視差量が許容視差量となるように縮小率を決定するものである,
    請求項1または2に記載の視差量調整装置。
  4. 上記視差量算出手段は,
    第1の画像を基準として,第1の画像を所定の大きさをもつブロックに分割した場合において,ブロックごとに第2の画像との間の視差量を算出するものであり,
    上記縮小率決定手段は,
    許容視差量以上の視差量をもつブロックの数がしきい値以上となる,そのようなブロックの視差量の絶対値のうち最大の視差量が許容視差量となるように縮小するものである,
    請求項1からのうち,いずれか一項に記載の視差量調整装置。
  5. 上記縮小手段によって縮小された第1の画像および第2の画像のコントラストを下げる第1のコントラスト調整手段,ならびに
    上記第2の視差量調整手段によって視差量が調整された第1の画像および第2の画像のコントラストを,上記コントラスト調整手段によるコントラスト調整前のコントラストに戻す第2のコントラスト調整手段,
    をさらに備えた請求項から4のうち,いずれか一項に記載の視差量調整装置。
  6. 上記視差量算出手段は,
    第1の画像と第2の画像とのうち,もっとも手前にある被写体像の視差量を算出するものである,
    請求項1からのうち,いずれか一項に記載の視差量調整装置。
  7. 上記視差量算出手段は,
    第1の画像および第2の画像から,あらかじめ定められている所定の被写体の視差量を算出するものであり,
    上記縮小率決定手段は,
    上記視差量算出手段によって算出された所定の被写体の視差量を算出するものである,
    請求項1からのうち,いずれか一項に記載の視差量調整装置。
  8. 視差量算出手段が,視点の異なる第1の画像と第2の画像とのうち,第1の画像を基準として画素ごとに第2の画像との間の視差量を算出し,
    縮小率決定手段が,上記視差量算出手段によって算出された視差量と所定の許容視差量とにもとづいて,第1の画像および第2の画像の縮小率を決定し,
    縮小手段が,上記縮小率決定手段によって決定された縮小率で第1の画像および第2の画像を縮小し,
    立体画像表示制御手段が,上記縮小手段によって縮小された第1の画像および第2の画像からなる立体画像を表示画面に表示するように表示装置を制御し,
    第1の視差量調整手段が,視差量の調整指示を受け付け,指示された調整量に応じて,上記縮小手段によって縮小された第1の画像と第2の画像との視差量を調整
    第2の視差量調整手段が,上記縮小手段による縮小前の上記視点の異なる第1の画像と第2の画像との視差量を,上記視差量調整手段によって視差量が調整され,かつ縮小されている第1の画像と第2の画像とを上記縮小手段による縮小前の大きさとなるように拡大したときの視差量とする,
    視差量調整装置の動作制御方法。
JP2013536075A 2011-09-29 2012-08-21 視差量調整装置およびその動作制御方法 Expired - Fee Related JP5581452B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013536075A JP5581452B2 (ja) 2011-09-29 2012-08-21 視差量調整装置およびその動作制御方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011214058 2011-09-29
JP2011214058 2011-09-29
PCT/JP2012/071055 WO2013047007A1 (ja) 2011-09-29 2012-08-21 視差量調整装置およびその動作制御方法
JP2013536075A JP5581452B2 (ja) 2011-09-29 2012-08-21 視差量調整装置およびその動作制御方法

Publications (2)

Publication Number Publication Date
JP5581452B2 true JP5581452B2 (ja) 2014-08-27
JPWO2013047007A1 JPWO2013047007A1 (ja) 2015-03-26

Family

ID=47995058

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013536075A Expired - Fee Related JP5581452B2 (ja) 2011-09-29 2012-08-21 視差量調整装置およびその動作制御方法

Country Status (4)

Country Link
US (1) US20140210963A1 (ja)
JP (1) JP5581452B2 (ja)
CN (1) CN103828363B (ja)
WO (1) WO2013047007A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9460543B2 (en) 2013-05-31 2016-10-04 Intel Corporation Techniques for stereo three dimensional image mapping
JP6275174B2 (ja) * 2015-03-10 2018-02-07 キヤノン株式会社 画像処理方法、画像処理装置、および、撮像装置
JP6684475B2 (ja) * 2017-03-13 2020-04-22 オムロン株式会社 画像処理装置、画像処理方法及びプログラム
CN109506893A (zh) * 2018-10-16 2019-03-22 中国航空工业集团公司洛阳电光设备研究所 一种车载ar-hud双目显示视差测试方法
CN111225201B (zh) * 2020-01-19 2022-11-15 深圳市商汤科技有限公司 视差校正方法及装置、存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09121370A (ja) * 1995-08-24 1997-05-06 Matsushita Electric Ind Co Ltd 立体tv装置
JP2003018619A (ja) * 2001-07-03 2003-01-17 Olympus Optical Co Ltd 立体映像評価装置およびそれを用いた表示装置
JP2005073013A (ja) * 2003-08-26 2005-03-17 Sharp Corp 立体画像表示装置、立体画像表示方法、その方法をコンピュータに実行させるためのプログラム及びそのプログラムを記録した記録媒体
JP2009129420A (ja) * 2007-11-28 2009-06-11 Fujifilm Corp 画像処理装置および方法並びにプログラム
JP2011029700A (ja) * 2009-07-21 2011-02-10 Fujifilm Corp 画像再生装置及び方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6005607A (en) * 1995-06-29 1999-12-21 Matsushita Electric Industrial Co., Ltd. Stereoscopic computer graphics image generating apparatus and stereoscopic TV apparatus
JP2005073049A (ja) * 2003-08-26 2005-03-17 Sharp Corp 立体映像再生装置および立体映像再生方法
JP5397190B2 (ja) * 2009-11-27 2014-01-22 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
JP2012009010A (ja) * 2010-05-25 2012-01-12 Mitsubishi Electric Corp 画像処理装置、画像処理方法および画像表示装置
JP5059922B2 (ja) * 2010-09-15 2012-10-31 シャープ株式会社 立体画像生成装置、立体画像表示装置、立体画像調整方法、立体画像調整方法をコンピュータに実行させるためのプログラム、及びそのプログラムを記録した記録媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09121370A (ja) * 1995-08-24 1997-05-06 Matsushita Electric Ind Co Ltd 立体tv装置
JP2003018619A (ja) * 2001-07-03 2003-01-17 Olympus Optical Co Ltd 立体映像評価装置およびそれを用いた表示装置
JP2005073013A (ja) * 2003-08-26 2005-03-17 Sharp Corp 立体画像表示装置、立体画像表示方法、その方法をコンピュータに実行させるためのプログラム及びそのプログラムを記録した記録媒体
JP2009129420A (ja) * 2007-11-28 2009-06-11 Fujifilm Corp 画像処理装置および方法並びにプログラム
JP2011029700A (ja) * 2009-07-21 2011-02-10 Fujifilm Corp 画像再生装置及び方法

Also Published As

Publication number Publication date
WO2013047007A1 (ja) 2013-04-04
CN103828363A (zh) 2014-05-28
JPWO2013047007A1 (ja) 2015-03-26
US20140210963A1 (en) 2014-07-31
CN103828363B (zh) 2015-03-18

Similar Documents

Publication Publication Date Title
US10523919B2 (en) Apparatus and method for adjusting stereoscopic image parallax and stereo camera
US9007442B2 (en) Stereo image display system, stereo imaging apparatus and stereo display apparatus
US9451242B2 (en) Apparatus for adjusting displayed picture, display apparatus and display method
TWI528781B (zh) 用以訂製立體內容之三維效果的方法及裝置
JP5068391B2 (ja) 画像処理装置
US20130051659A1 (en) Stereoscopic image processing device and stereoscopic image processing method
TWI476731B (zh) 影像處理裝置、影像處理方法、及程式
US20120293489A1 (en) Nonlinear depth remapping system and method thereof
US9041773B2 (en) Conversion of 2-dimensional image data into 3-dimensional image data
US8866881B2 (en) Stereoscopic image playback device, stereoscopic image playback system, and stereoscopic image playback method
WO2011148921A1 (ja) 画像処理装置、画像表示装置および画像撮像装置
JP5581452B2 (ja) 視差量調整装置およびその動作制御方法
WO2012037685A1 (en) Generating 3d stereoscopic content from monoscopic video content
US8675042B2 (en) Image processing apparatus, multi-eye digital camera, and program
TW201315208A (zh) 從立體影像偵測及校正非妥當的呈現狀況之系統與方法
EP2590418A1 (en) Dynamic depth image adjusting device and method thereof
JP2014501086A (ja) 立体画像取得システム及び方法
Yuan et al. 61.3: Stereoscopic 3d content depth tuning guided by human visual models
TW201445977A (zh) 影像處理方法及影像處理系統
TWI491244B (zh) 調整物件三維深度的方法與裝置、以及偵測物件三維深度的方法與裝置
US9838672B2 (en) Apparatus and method for referring to motion status of image capture device to generate stereo image pair to auto-stereoscopic display for stereo preview
US20120121163A1 (en) 3d display apparatus and method for extracting depth of 3d image thereof
TWI478100B (zh) 影像深度估計方法及其裝置
JP2012105172A (ja) 画像生成装置、画像生成方法、コンピュータプログラムおよび記録媒体
US9317958B2 (en) Auto-convergence system with active learning and related method and machine-readable medium thereof

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140516

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140516

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20140516

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140609

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140714

R150 Certificate of patent or registration of utility model

Ref document number: 5581452

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees