JP2014007648A - 画像処理装置と画像処理方法およびプログラム - Google Patents

画像処理装置と画像処理方法およびプログラム Download PDF

Info

Publication number
JP2014007648A
JP2014007648A JP2012143160A JP2012143160A JP2014007648A JP 2014007648 A JP2014007648 A JP 2014007648A JP 2012143160 A JP2012143160 A JP 2012143160A JP 2012143160 A JP2012143160 A JP 2012143160A JP 2014007648 A JP2014007648 A JP 2014007648A
Authority
JP
Japan
Prior art keywords
image
unit
viewpoint
units
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012143160A
Other languages
English (en)
Inventor
Shin Komata
慎 小俣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012143160A priority Critical patent/JP2014007648A/ja
Priority to US13/894,728 priority patent/US20130343635A1/en
Priority to CN201310238911.3A priority patent/CN103517058A/zh
Publication of JP2014007648A publication Critical patent/JP2014007648A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】視認性が高く容易に視差調整を行うことができるようにする。
【解決手段】画像移動部211L,211Rは、外部からの指示に応じた視点画像の移動を行い、複数の視点画像間の視差量を変更する。画像読出部212L,212Rは、ライン単位またはライン方向と直交する方向に画素単位で視点画像を読み出す。画像選択部213は、読み出された複数の視点画像を順次選択して視差調整用の画像を生成する。制御部25aは、表示部の走査方向と複数の視点画像における基線長方向に応じて、画像読出部における複数の視点画像の読み出しをライン単位または画素単位に適応的に切り替える。このため、各視点画像から基線長方向に切り出した画像を順次選択して基線長方向に対して直交する方向に並べた視差調整用の平面画像を生成できるので、この平面画像で視差量を簡単に確認できるようになり、視認性の高い視差調整を容易に行うことができる。
【選択図】 図1

Description

この技術は、画像処理装置と画像処理方法およびプログラムに関し、視認性の高い視差調整を行えるようにする。
従来、同一の被写体を異なる位置から撮影することにより取得した複数の画像を組み合わせて立体視用画像を生成し、生成した立体視用画像を立体視表示することにより、視差を利用して立体視できることが知られている。立体視表示の具体的な手法としは、例えば複数の画像の偏光方向を異ならせて重ね合わせることにより、複数の画像を合成して立体視用画像を生成する。この場合、偏光メガネ等の画像分離メガネを用い、立体視表示された立体視用画像を目の自動焦点機能により融合視することにより、立体視を行うことができる。
また、偏光メガネ等を使用しなくても、視差バリア方式のように、複数の画像を立体視可能な立体視表示モニタに表示して立体視することが可能である。この場合、複数の画像を短冊状に切り取って交互に並べ、開口部のある遮光バリアを配置して立体視表示が行われる。また、バックライトからの光を左右眼方向に制御して、この制御と同期させて表示素子に時分割で視点画像を表示させることにより、残像効果によって立体視表示を行う方式も提案されている(バックライトコントロール方式)。
このような立体視を行う場合、立体視用画像を観察するユーザに応じて好ましい立体感が異なる。立体感は複数の立体視用画像のずれ量(視差量)で変わるため、特許文献1では、視差量の変更開始指示に応じて、立体視用画像の立体視表示を2つの画像を重ねた2次元表示に切り替えることが行われている。
特開2011−172286号公報
ところで、特許文献1では、左視点画像と右視点画像の切り替えを行い、残像効果によって両視点の画像が重なって見えるようにしている。このため、左視点画像と右視点画像の切り替えを高速に行わないと十分な残像効果が得られず、良好な画質で2次元表示を行うことができない。また、左視点画像と右視点画像の切り替えを高速に行うためには、表示処理を行う回路の高速化が必要となり低コスト化が困難となる。
そこで、この技術では、視認性の高い視差調整を容易に行うことができる画像処理装置と画像処理方法およびプログラムを提供することを目的とする。
この技術の第1の側面は、外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量を変更する画像移動部と、前記複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出す画像読出部と、前記画像読出部でライン単位または画素単位で読み出された前記複数の視点画像を順次選択して出力する画像選択部と、表示部の走査方向と前記複数の視点画像における基線長方向に応じて、前記画像読出部における前記複数の視点画像の読み出しを前記ライン単位または前記画素単位に適応的に切り替える制御部とを備える画像処理装置にある。
この技術においては、外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量の変更が行われる。この複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出して、ライン単位または画素単位で読み出された複数の視点画像を順次選択することで、視差調整用の平面画像が生成される。複数の視点画像の読み出しは、表示部の走査方向と複数の視点画像における基線長方向(例えば左視点画像と右視点画像によって立体画像表示を行う場合に左視点と右視点を結ぶ方向に相当)に応じて、ライン単位または画素単位に適応的に切り替えられる。例えば、走査方向と基線長方向を一致させて画像表示を行う場合に左視点画像と右視点画像からライン単位で読み出しを行い、走査方向と基線長方向を直交させて画像表示を行う場合に左視点画像と右視点画像から画素単位で読み出しを行う。さらに、表示部の姿勢状態を検出する姿勢検出部が設けられて、姿勢検出部で検出された姿勢状態に基づいて、走査方向と基線長方向を一致させて画像表示を行うか、走査方向と基線長方向を直交させて画像表示を行うか判別される。複数の視点画像を用いて立体画像表示を行う表示部が設けられる場合に、立体画像表示を停止させて視差調整用の平面画像表示が行われる。また、画像の移動では、左視点画像と右視点画像が互いに逆方向に移動されて視差量が変更されて、視点画像の移動によって生じた画像のない領域に対してはマスク処理が行われる。
この技術の第2の側面は、外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量を変更する工程と、前記複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出す工程と、前記ライン単位または画素単位で読み出された前記複数の視点画像を順次選択して出力する工程と、表示部の走査方向と前記複数の視点画像における基線長方向に応じて、前記複数の視点画像の読み出しを前記ライン単位または前記画素単位に適応的に切り替える工程とを含む画像処理方法にある。
この技術の第3の側面は、視差量調整用の画像表示をコンピュータで実行させるプログラムであって、外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量を変更する手順と、前記複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出す手順と、前記ライン単位または画素単位で読み出された前記複数の視点画像を順次選択して出力する手順と、表示部の走査方向と前記複数の視点画像における基線長方向に応じて、前記複数の視点画像の読み出しを前記ライン単位または前記画素単位に適応的に切り替える手順とを前記コンピュータで実行させるプログラムにある。
なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ上でプログラムに応じた処理が実現される。
この技術によれば、外部からの指示に応じて画像移動部で視点画像の移動が行われて、複数の視点画像間の視差量が変更される。この複数の視点画像は、画像読出部によってライン単位またはライン方向と直交する方向に画素単位で読み出されて、ライン単位または画素単位で読み出された複数の視点画像を画像選択部で順次選択して出力することで、視差調整用の画像が生成される。また、表示部の走査方向と複数の視点画像における基線長方向に応じて、画像読出部における複数の視点画像の読み出しが制御部によってライン単位または画素単位に適応的に切り替えられる。このため、各視点画像から基線長方向に切り出した画像を順次選択して基線長方向に対して直交する方向に並べた視差調整用の平面画像を生成できる。すなわち、各視点画像を1ライン(または複数ライン)毎に並べた平面画像が視差調整用の画像として表示されるので、この平面画像で視差量を簡単に確認できるようになり、視認性の高い視差調整を容易に行うことができる。
第1の実施の形態の構成を示す図である。 第1の実施の形態の動作を示すフローチャートである。 第1の動作における基線長方向と表示部の走査方向を示す図である。 第1の動作を説明するための図である。 第1の動作(視差量を調整する場合)を説明するための図である。 第2の動作における基線長方向と表示部の走査方向を示す図である。 第2の動作を説明するための図である。 第2の実施の形態の構成を示す図である。 第2の実施の形態の動作を示すフローチャートである。 第1の動作を説明するための図である。 第2の動作を説明するための図である。 第3の実施の形態の構成を示す図である。 第3の実施の形態の動作を説明するための図である。
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
1−1.第1の実施の形態の構成
1−2.第1の実施の形態の動作
2.第2の実施の形態
2−1.第2の実施の形態の構成
2−2.第2の実施の形態の動作
3.第3の実施の形態
3−1.第3の実施の形態の構成と動作
<1.第1の実施の形態>
[1−1.第1の実施の形態の構成]
図1は、本技術の第1の実施の形態の構成を示している。第1の実施の形態の画像処理装置を用いた電子機器10aは、撮像処理部11L,11R、信号処理部12L,12R、表示処理部21、ユーザインタフェース(I/F)部23、制御部25a、表示部31を有している。
撮像処理部11Lは、撮像光学系や撮像素子部等を用いて構成されている。撮像光学系にはズームレンズやフォーカスレンズ、絞り機構等が設けられている。撮像光学系は、フォーカス調整動作を行い左視点の被写体光学像を撮像素子の撮像面上に結像させる。また、撮像光学系は、被写体光学像の変倍動作や光量の調整等を行う。撮像素子は、例えばCCD(Charge Coupled Device)イメージセンサ、またはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等が用いられる。撮像素子は、光電変換処理を行い、撮像光学系によって撮像面に結像された光学像を電気信号に変換する。また、撮像処理部11Lは、撮像素子で生成された電気信号に対してCDS(correlated double sampling:相関2重サンプリング)等のノイズ除去処理、電気信号の信号レベルを所望の信号レベルとするゲイン調整を行う。さらに、撮像処理部11Lは、ノイズ除去処理やゲイン調整が行われた電気信号であるアナログの画像信号をディジタルの画像信号に変換するA/D変換処理を行う。撮像処理部11Lは、生成した左視点画像の画像信号を信号処理部12Lへ出力する。また、撮像処理部11Rは、撮像処理部11Lと同様に構成されており、撮像処理部11Lと同様な動作によって右視点画像の画像信号を生成して信号処理部12Rへ出力する。
信号処理部12Lは、撮像処理部11Lから出力された左視点画像の画像信号に対してカメラプロセス処理等を行う。信号処理部12Lは、例えば画像信号に対してガンマ補正やニー補正等の非線形処理、色補正処理、輪郭強調処理等を行い、処理後の画像信号を表示処理部21へ出力する。また、信号処理部12Rは、信号処理部12Lと同様に構成されており、撮像処理部11Rから出力された右視点画像の画像信号に対して信号処理部12Lと同様な処理を行い、処理後の画像信号を表示処理部21へ出力する。
表示処理部21は、画像移動部211L,211R、画像読出部212L,212R、画像選択部213を有している。
画像移動部211Lは、後述する制御部25aからの制御信号に基づき左視点画像を基線長方向に移動する。なお、基線長方向とは、左視点画像と右視点画像によって立体画像表示を行う場合、左視点と右視点を結ぶ方向であり、左視点と右視点の間隔が基線長である。例えば、画像移動部211Lは、信号処理部12Lから出力された画像信号をメモリに記憶して、記憶した画像信号の読み出しタイミングや読み出し開始位置を制御することにより、基線長方向に移動された左視点画像を生成する。画像移動部211Lは、移動後の左視点画像を画像読出部212Lへ出力する。また、画像移動部211Rは、画像移動部211Lと同様に構成されている。画像移動部211Rは、制御部25aからの制御信号に基づき右視点画像を基線長方向に移動する。画像移動部211Rは、移動後の右視点画像を画像読出部212Rへ出力する。また、右視点画像の移動方向は、左視点画像の移動方向に対して逆方向とする。このように、画像移動部211L,211Rは、左視点画像と右視点画像を基線長方向で互いに逆方向に移動することで、左視点画像と右視点画像の画像間の視差量を変更する。
画像読出部212Lは、制御部25aからの制御信号に基づき、移動後の左視点画像からライン単位またはライン方向と直交する方向に画素単位で画像を読み出して、読み出した画像を画像選択部213へ出力する。また、画像読出部212Rは、画像読出部212Lと同様に構成されている。画像読出部212Rは、制御部25aからの制御信号に基づき、移動後の右視点画像からライン単位またはライン方向と直交する方向に画素単位で画像を読み出して、読み出した画像を画像選択部213へ出力する。
画像選択部213は、制御部25aからの制御信号に基づき、画像読出部212L,212Rから出力された画像を順次選択して、左視点画像と右視点画像がライン単位またはライン方向と直交する方向に画素単位で交互に選択されている平面画像を生成する。画像選択部213は、生成した平面画像の画像信号を表示部31へ出力する。
ユーザインタフェース部23は、操作スイッチやタッチパネル等を用いて構成されている。ユーザインタフェース部23は、ユーザ操作に応じた操作信号を生成して制御部25aへ出力する。
制御部25aは、例えばCPU(Central Processing Unit)と、ROM(Read Only Memory)と、RAM(Random Access Memory)を備えている。CPUは、ROMに格納されている制御プログラムを必要に応じて読み出して実行する。ROMには、CPUにおいて実行されるプログラムや各種の処理において必要となるデータ等が予め記憶されている。RAMは、処理の途中結果などを一時記憶するいわゆる作業領域として用いられるメモリである。また、ROMまたはRAMは、各種の設定パラメータ等の情報や補正データ等を記憶する。制御部25aは、ユーザインタフェース部23からの操作信号に基づき各部を制御して、ユーザ操作に応じた動作を電子機器10aで行わせる。
制御部25aは、複数視点画像間の視差量の調整を行うユーザ操作が行われた場合、表示処理部21の動作を制御して、複数視点画像から基線長方向に切り出した画像を並べて視差量調整用の平面画像を生成させる。また、制御部25aは、ユーザインタフェース部23からの操作信号に基づき、画像移動部211L,211Rで視点画像を移動させて視差量を変更する。さらに、制御部25aは、表示部31の走査方向と複数の視点画像における基線長方向に応じて、画像読出部212L,212Rにおける視点画像の読み出しをライン単位またはライン方向と直交する方向の画素単位に適応的に切り替える。
制御部25aは、表示部の走査方向と基線長方向を一致させて視差調整用の画像表示を行う場合、画像読出部212L,212Rで視点画像をライン単位で読み出すように制御する。また、制御部25aは、画像読出部212Lと画像読出部212Rの出力をライン単位で交互に選択するように画像選択部213を制御して、視差量調整用の平面画像を生成する。なお、撮像処理部11L,11Rで生成される左視点画像と右視点画像のライン方向が、左視点画像と右視点画像における基線長方向と一致するように構成されている場合、視差量調整用の平面画像は、左視点画像と右視点画像のそれぞれから基線長方向に切り出された画像を基線長方向に対して直交する方向に交互に並べた画像となる。さらに、制御部25aは、表示部の走査方向と基線長方向を直交させて視差調整用の画像表示を行う場合、画像読出部212L,212Rで視点画像をライン方向と直交する方向に画素単位で読み出すように制御する。また、制御部25aは、画像読出部212Lと画像読出部212Rの出力を画素単位で交互に選択するように画像選択部213を制御して、視差量調整用の平面画像を生成する。なお、撮像処理部11L,11Rで生成される左視点画像と右視点画像のライン方向が、左視点画像と右視点画像における基線長方向と一致するように構成されている場合、視差量調整用の平面画像は、左視点画像と右視点画像のそれぞれから基線長方向に切り出された画像を基線長方向に対して直交する方向に交互に並べた画像となる。
表示部31は、液晶表示素子や有機EL表示素子等を用いて構成されている。表示部31は、表示処理部21から出力された画像信号に基づき視差量調整用の平面画像を画面上に表示する。また、表示部31が平面画像だけでなく立体画像表示機能を有している場合、表示部31は、制御部25aからの制御信号に基づき、視差量調整が行われる場合には立体画像表示機能を停止して平面画像表示を行う。例えば表示部31は、視差バリア方式で立体画像表示を行う機能を有している場合、制御部25aからの制御信号に基づき視差バリアをオフ状態とする。また、表示部31は、バックライトコントロール方式で立体画像表示を行う機能を有している場合、制御部25aからの制御信号に基づき バックライトのオンオフ制御を停止してオン状態とする。
なお、電子機器10aで立体画像表示を行う場合は、画像移動部211Lから出力される左視点画像の画像信号と画像移動部211Rから出力される右視点画像の画像信号を、立体画像の所定フォーマットの信号として表示部31へ出力する。
[1−2.第1の実施の形態の動作]
図2は、第1の実施の形態の動作を示すフローチャートである。ステップST1で制御部25aは、視差調整の開始であるか判別する。制御部25aは、ユーザインタフェース部23からの操作信号に基づき、視差調整開始操作が行われたと判別した場合にステップST2に進み、視差調整開始操作が行われたと判別していない場合にステップST1に戻る。
ステップST2で制御部25aは、走査方向と基線長方向が一致するか判別する。制御部25aは、走査方向と基線長方向が一致するか判別して、方向が一致する場合にはステップST3に進み、走査方向と基線長方向が直交する場合にはステップST8に進む。
ステップST3で制御部25aは、ライン単位で画像並べ替えを行う。制御部25aは、画像読出部212L,212Rを制御してライン単位で視点画像の読み出しを行う。さらに、制御部25aは、画像選択部213を制御して画像読出部212Lと画像読出部212Rからのライン単位の出力を交互に選択して視差量調整用の平面画像の生成を行いステップST4に進む。
ステップST4で制御部25aは、調整指示の受け付けを行う。制御部25aは、ユーザインタフェース部23からの操作信号によって示された調整指示を受け付けてステップST5に進む。
ステップST5で制御部25aは、調整限界でないか判別する。制御部25aは、視点画像が調整限界の位置に達していない場合にステップST6に進み、調整限界の位置に達した場合にステップST7に進む。
ステップST6で制御部25aは、画像移動処理を行う。制御部25aは、受け付けた調整指示に基づき画像移動部211L,211Rを制御して、視点画像の画像信号を調整指示に応じて移動させて、視点画像間の視差量を変更してステップST7に進む。
ステップST7で制御部25aは、調整終了であるか判別する。制御部25aは、ユーザインタフェース部23からの操作信号に基づき、視差調整終了操作が行われたと判別した場合にステップST13に進み、視差調整終了操作が行われたと判別していない場合にステップST3に戻る。
ステップST8で制御部25aは、画素単位で画像並べ替えを行う。制御部25aは、画像読出部212L,212Rを制御して画素単位で視点画像の読み出しを行う。さらに、制御部25aは、画像選択部213を制御して画像読出部212Lと画像読出部212Rからの画素単位の出力を交互に選択して視差量調整用の平面画像の生成を行いステップST9に進む。
ステップST9で制御部25aは、調整指示の受け付けを行う。制御部25aは、ユーザインタフェース部23からの操作信号によって示された調整指示を受け付けてステップST10に進む。
ステップST10で制御部25aは、調整限界でないか判別する。制御部25aは、視点画像が調整限界の位置に達していない場合にステップST11に進み、調整限界の位置に達した場合にステップST12に進む。
ステップST11で制御部25aは、画像移動処理を行う。制御部25aは、受け付けた調整指示に基づき画像移動部211L,211Rを制御して、視点画像の画像信号を調整指示に応じて移動させて、視点画像間の視差量を変更してステップST12に進む。
ステップST12で制御部25aは、調整終了であるか判別する。制御部25aは、ユーザインタフェース部23からの操作信号に基づき、視差調整終了操作が行われたと判別した場合にステップST13に進み、視差調整終了操作が行われたと判別していない場合にステップST8に戻る。
ステップST13で制御部25aは、視差調整量を保存するか判別する。制御部25aは、ユーザインタフェース部23からの操作信号に基づき、視差調整量を保存する指示が行われた場合、あるいは視差調整量を保存するように電子機器10aの動作が設定されている場合にステップST14に進む。また、制御部25aは、視差調整量を保存する指示が行われない場合、および視差調整量を保存するように電子機器10aの動作が設定されていない場合に視差調整動作を終了する。
ステップST14で制御部25aは、視差調整量を保存する。制御部25aは、例えば視差調整後の視点画像の画像信号を立体画像の所定フォーマットの信号とする際に、所定フォーマットのヘッダ情報に視差調整量を含めて、視差調整動作を終了する。
次に、第1の実施の形態における第1の動作として、基線長方向と表示部の走査方向が一致する場合について説明する。図3は、第1の動作における基線長方向と表示部の走査方向を示している。例えば図3の(A)に示すように、水平方向に並んだ左視点と右視点の位置から被写体OBを撮影して左視点画像と右視点画像が生成されている場合、左視点と右視点を相互に結ぶ基線長方向は水平方向となる。第1の動作では、図3の(B)に示すように、表示部31の走査方向が水平方向とされており、表示部31で視差調整用の平面画像を表示する。
図4、図5は第1の実施の形態における第1の動作を説明するための図である。図4の(A)は左視点画像、図4の(B)は右視点画像を示している。画像読出部212Lは、左視点画像をライン単位で読み出して画像選択部213へ出力する。また、画像読出部212Rは、右視点画像をライン単位で読み出して画像選択部213へ出力する。画像選択部213は、ライン単位で出力された左視点画像と右視点画像を交互に選択して、平面画像の画像信号を生成する。したがって、生成された画像信号に基づく視差量調整用の平面画像は、図4の(C)に示すように、左視点画像と右視点画像のそれぞれから基線長方向に切り出された画像を基線長方向に対して直交する方向に交互に並べた画像となる。すなわち、各視点画像を1ライン(または複数ライン)毎に並べた平面画像となる。
視差量を調整する場合、図5の(A)に示す左視点画像と図5の(B)に示す右視点画像を、調整指示に基づき、基線長方向で互いに反対の向きに移動させる。例えば視差量を大きくする場合には、矢印FAで示す方向に各視点画像を移動させる。この場合、平面画像は図5の(C)に示すようになる。また、視点画像を移動することで画像のない領域PNが生じる。したがって、平面画像では、画像のない領域をマスク処理例えば黒色表示とする。さらに、調整指示に応じて各視点画像を方向移動させる場合、移動量が水平方向(基線方向に相当)の画像サイズの(1/2)倍となると、左視点画像と右視点画像の重なりあう領域がなくなる。したがって、調整限界量は、水平方向(基線方向に相当)の画像サイズの(1/2)倍以下とする。
このように、第1の実施の形態における第1の動作では、視点画像の有効データを水平同期内で調整指示に応じて移動させて視差量調整用の平面画像の生成が行われる。また、調整限界である場合、視点画像の有効データが水平同期内で調整限界の位置まで移動されて視差量調整用の平面画像が生成される。
次に、第1の実施の形態における第2の動作として、基線長方向と表示部の走査方向が直交する場合、例えば短辺を水平方向としたポートレート表示の表示部を用いて、長辺を水平方向としたランドスケープ表示を行う場合について説明する。
図6は、第2の動作における基線長方向と表示部の走査方向を示している。例えば図6の(A)に示すように、水平方向に並んだ左視点と右視点の位置から被写体OBを撮影して左視点画像と右視点画像が生成されている場合、左視点と右視点を相互に結ぶ基線長方向は水平方向となる。第2の動作では、図6の(B)に示すように、表示部31の走査方向が表示画像の垂直方向とされており、表示部31で視差調整用の平面画像を表示する。
図7は第1の実施の形態における第2の動作を説明するための図である。図7の(A)は左視点画像、図7の(B)は右視点画像を示している。画像読出部212Lは、左視点画像をライン方向と直交する方向に画素単位で読み出して(例えば画素L0,L1,L2・・・の順)、画像選択部213へ出力する。また、画像読出部212Rは、右視点画像をライン方向と直交する方向に画素単位で読み出して(例えば画素R0,R1,R2・・・の順)、画像選択部213へ出力する。画像選択部213は、図7の(C)に示すように、画素単位で出力された左視点画像と右視点画像を交互に選択して(例えば画素R0,L1,R2・・・の順)、平面画像の画像信号を生成する。また、生成された画像信号に基づく視差量調整用の平面画像は、図7の(D)に示すように、左視点画像と右視点画像のそれぞれから基線長方向に切り出された画像を基線長方向に対して直交する方向に交互に並べた画像となる。すなわち、各視点画像を1ライン(または複数ライン)毎に並べた平面画像となる。
このように、第1の実施の形態における第2の動作では、視点画像の有効データを垂直同期内で調整指示に応じて移動させて視差量調整用の平面画像の生成が行われる。また、調整限界である場合、視点画像の有効データが垂直同期内で調整限界の位置まで移動されて視差量調整用の平面画像が生成される。
したがって、第1の実施の形態によれば、乗算や加算等の演算処理を行うことなく複数視点画像を合成することが可能となり、簡単な構成で安価に画像処理装置を提供できるようになる。また、基線長方向と表示部の走査方向が一致する場合でも直交する場合でも、複数の各視点画像から基線長方向に切り出された画像が、基線長方向に対して直交する方向に順次並べられている平面画像を生成できる。すなわち、各視点画像を1ライン(または複数ライン)毎に並べた平面画像が視差調整用の画像として表示されるので、視認性の高い視差調整機能を提供できる。また、視差がずれている立体画像を見ながら視差調整を行う必要がないため、目への負担を低減させることが可能となる。
<2.第2の実施の形態>
ところで、第1の実施の形態では、表示部の走査方向に応じて、視差量調整用の平面画像を生成する場合について説明した。しかし、電子機器が携帯型である場合、電子機器の姿勢変化によって表示部の向きが変化する。このような場合、表示部の向きの変化に応じて表示画像の向きを切り替えるようにしないと、表示画像を正しい向きで表示することができない。そこで、第2の実施の形態では、電子機器の姿勢を考慮して視差量調整用の平面画像を生成する場合について説明する。
[2−1.第2の実施の形態の構成]
図8は、本技術の第2の実施の形態の構成を示している。第2の実施の形態の画像処理装置を用いた電子機器10bは、撮像処理部11L,11R、信号処理部12L,12R、表示処理部21、姿勢検出部22、ユーザインタフェース(I/F)部23、制御部25b、表示部31を有している。
撮像処理部11Lは、撮像光学系や撮像素子部等を用いて構成されている。撮像光学系にはズームレンズやフォーカスレンズ、絞り機構等が設けられている。撮像光学系は、フォーカス調整動作を行い左視点の被写体光学像を撮像素子の撮像面上に結像させる。また、撮像光学系は、被写体光学像の変倍動作や光量の調整等を行う。撮像素子は、例えばCCD(Charge Coupled Device)イメージセンサ、またはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等が用いられる。撮像素子は、光電変換処理を行い、撮像光学系によって撮像面に結像された光学像を電気信号に変換する。また、撮像処理部11Lは、撮像素子で生成された電気信号に対してCDS(correlated double sampling:相関2重サンプリング)等のノイズ除去処理、電気信号の信号レベルを所望の信号レベルとするゲイン調整を行う。さらに、撮像処理部11Lは、ノイズ除去処理やゲイン調整が行われた電気信号であるアナログの画像信号をディジタルの画像信号に変換するA/D変換処理を行う。撮像処理部11Lは、生成した左視点画像の画像信号を信号処理部12Lへ出力する。また、撮像処理部11Rは、撮像処理部11Lと同様に構成されており、撮像処理部11Lと同様な動作によって右視点画像の画像信号を生成して信号処理部12Rへ出力する。
信号処理部12Lは、撮像処理部11Lから出力された左視点画像の画像信号に対してカメラプロセス処理等を行う。信号処理部12Lは、例えば画像信号に対してガンマ補正やニー補正等の非線形処理、色補正処理、輪郭強調処理等を行い、処理後の画像信号を表示処理部21へ出力する。また、信号処理部12Rは、信号処理部12Lと同様に構成されており、撮像処理部11Rから出力された右視点画像の画像信号に対して信号処理部12Lと同様な処理を行い、処理後の画像信号を表示処理部21へ出力する。
表示処理部21は、画像移動部211L,211R、画像読出部212L,212R、画像選択部213を有している。
画像移動部211Lは、後述する制御部25bからの制御信号に基づき左視点画像を基線長方向に移動する。例えば、画像移動部211Lは、信号処理部12Lから出力された画像信号をメモリに記憶して、記憶した画像信号の読み出しタイミングや読み出し開始位置を制御することにより、基線長方向に移動された左視点画像を生成する。画像移動部211Lは、移動後の左視点画像を画像読出部212Lへ出力する。また、画像移動部211Rは、画像移動部211Lと同様に構成されている。画像移動部211Rは、制御部25bからの制御信号に基づき右視点画像を基線長方向に移動する。画像移動部211Rは、移動後の右視点画像を画像読出部212Rへ出力する。なお、右視点画像の移動方向は、左視点画像の移動方向に対して逆方向とする。このように、画像移動部211L,211Rは、左視点画像と右視点画像を基線長方向で互いに逆方向に移動することで、左視点画像と右視点画像の画像間の視差量を変更する。
画像読出部212Lは、制御部25bからの制御信号に基づき、移動後の左視点画像からライン単位またはライン方向と直交する方向に画素単位で画像を読み出して、読み出した画像を画像選択部213へ出力する。また、画像読出部212Rは、画像読出部212Lと同様に構成されている。画像読出部212Rは、制御部25bからの制御信号に基づき、移動後の右視点画像からライン単位またはライン方向と直交する方向に画素単位で画像を読み出して、読み出した画像を画像選択部213へ出力する。
画像選択部213は、制御部25bからの制御信号に基づき、画像読出部212L,212Rから出力された画像を順次選択して、左視点画像と右視点画像がライン単位またはライン方向と直交する方向に画素単位で交互に選択されている平面画像を生成する。画像選択部213は、生成した平面画像の画像信号を表示部31へ出力する。
姿勢検出部22は、傾斜センサ等を用いて構成されている。姿勢検出部22は、電子機器10bの姿勢、例えば電子機器10bが横向きか縦向きであるかを検出して、検出結果を示す検出信号を制御部25bへ出力する。
ユーザインタフェース部23は、操作スイッチやタッチパネル等を用いて構成されている。ユーザインタフェース部23は、ユーザ操作に応じた操作信号を生成して制御部25bへ出力する。
制御部25bは、例えばCPU(Central Processing Unit)と、ROM(Read Only Memory)と、RAM(Random Access Memory)を備えている。CPUは、ROMに格納されている制御プログラムを必要に応じて読み出して実行する。ROMには、CPUにおいて実行されるプログラムや各種の処理において必要となるデータ等が予め記憶されている。RAMは、処理の途中結果などを一時記憶するいわゆる作業領域として用いられるメモリである。また、ROMまたはRAMは、各種の設定パラメータ等の情報や補正データ等を記憶する。制御部25bは、ユーザインタフェース部23からの操作信号に基づき各部を制御して、ユーザ操作に応じた動作を電子機器10bで行わせる。
制御部25bは、複数視点画像間の視差量の調整を行うユーザ操作が行われた場合、表示処理部21の動作を制御して、複数視点画像から基線長方向(視認の水平方向)に切り出した画像を並べて視差量調整用の平面画像を生成させる。また、制御部25bは、ユーザインタフェース部23からの操作信号に基づき、画像移動部211L,211Rで視点画像を移動させて視差量を変更する。
制御部25bは、表示部31の走査方向と複数の視点画像における基線長方向に応じて、画像読出部212L,212Rにおける視点画像の読み出しをライン単位またはライン方向と直交する方向の画素単位に適応的に切り替える。さらに、制御部25bは、姿勢検出部22で検出された電子機器10bの姿勢状態に基づいて、走査方向と基線長方向を一致させて画像表示を行うか、走査方向と基線長方向を直交させて画像表示を行うか判別する。
制御部25bは、表示部の走査方向と基線長方向を一致させて視差調整用の画像表示を行う場合、画像読出部212L,212Rで視点画像をライン単位で読み出すように制御する。また、制御部25bは、画像読出部212Lと画像読出部212Rの出力をライン単位で交互に選択するように画像選択部213を制御して、視差量調整用の平面画像を生成する。なお、撮像処理部11L,11Rで生成される左視点画像と右視点画像のライン方向が、左視点画像と右視点画像における基線長方向と一致するように構成されている場合、視差量調整用の平面画像は、左視点画像と右視点画像のそれぞれから基線長方向に切り出された画像を基線長方向に対して直交する方向に交互に並べた画像となる。さらに、制御部25bは、表示部の走査方向と基線長方向を直交させて視差調整用の画像表示を行う場合、画像読出部212L,212Rで視点画像をライン方向と直交する方向に画素単位で読み出すように制御する。また、制御部25bは、画像読出部212Lと画像読出部212Rの出力を画素単位で交互に選択するように画像選択部213を制御して、視差量調整用の平面画像を生成する。なお、撮像処理部11L,11Rで生成される左視点画像と右視点画像のライン方向が、左視点画像と右視点画像における基線長方向と一致するように構成されている場合、視差量調整用の平面画像は、左視点画像と右視点画像のそれぞれから基線長方向に切り出された画像を基線長方向に対して直交する方向に交互に並べた画像となる。
表示部31は、液晶表示素子や有機EL表示素子等を用いて構成されている。表示部31は、表示処理部21から出力された画像信号に基づき視差量調整用の平面画像を画面上に表示する。また、表示部31が平面画像だけでなく立体画像表示機能を有している場合、制御部25bからの制御信号に基づき、視差量の調整が行われる場合には立体画像表示機能を停止して平面画像表示を行う。
なお、電子機器10bで立体画像表示を行う場合は、画像移動部211Lから出力される左視点画像の画像信号と画像移動部211Rから出力される右視点画像の画像信号を、立体画像の所定フォーマットの信号として表示部31へ出力する。
[2−2.第2の実施の形態の動作]
図9は、第2の実施の形態の動作を示すフローチャートである。ステップST21で制御部25bは、視差調整開始であるか判別する。制御部25bは、ユーザインタフェース部23からの操作信号に基づき、視差調整開始操作が行われたと判別した場合にステップST22に進み、視差調整開始操作が行われたと判別していない場合にステップST21に戻る。
ステップST22で制御部25bは、姿勢検出結果を取得する。制御部25bは姿勢検出部22から検出信号を取得してステップST23に進む。
ステップST23で制御部25bは走査方向を判別する。制御部25bは、取得した検出信号に基づき例えば電子機器10bが横向きか縦向きであるかを検出することで、電子機器10bに設けられている表示部31の走査方向が何れの方向となっているか判別してステップST24に進む。
ステップST24で制御部25bは、走査方向と基線長方向が一致するか判別する。制御部25bは、判別した表示部31の走査方向と視点画像の基線長方向が一致するか判別して、方向が一致する場合にはステップST25に進み、走査方向と基線長方向が直交する場合にはステップST30に進む。
ステップST25で制御部25bは、ライン単位で画像並べ替えを行う。制御部25bは、画像読出部212L,212Rを制御してライン単位で視点画像の読み出しを行う。さらに制御部25bは、画像選択部213を制御して画像読出部212Lと画像読出部212Rからのライン単位の出力を交互選択して、視差量調整用の平面画像の生成を行いステップST26に進む。
ステップST26で制御部25bは、調整指示の受け付けを行う。制御部25bは、ユーザインタフェース部23からの操作信号によって示された調整指示を受け付けてステップST27に進む。
ステップST27で制御部25bは、調整限界でないか判別する。制御部25bは、視点画像が調整限界の位置に達していない場合にステップST28に進み、調整限界の位置に達した場合にステップST29に進む。
ステップST28で制御部25bは、画像移動処理を行う。制御部25bは、受け付けた調整指示に基づき画像移動部211L,211Rを制御して、視点画像の画像信号を調整指示に応じて移動させて、視点画像間の視差量を変更してステップST29に進む。
ステップST29で制御部25bは、調整終了であるか判別する。制御部25bは、ユーザインタフェース部23からの操作信号に基づき、視差調整終了操作が行われたと判別した場合にステップST35に進み、視差調整終了操作が行われたと判別していない場合にステップST25に戻る。
ステップST30で制御部25bは、画素単位で画像並べ替えを行う。制御部25bは、画像読出部212L,212Rを制御して画素単位で視点画像の読み出しを行う。さらに制御部25bは、画像選択部213を制御して、画像読出部212Lと画像読出部212Rからの画素単位の出力を交互に選択して、視差量調整用の平面画像の生成を行いステップST31に進む。
ステップST31で制御部25bは、調整指示の受け付けを行う。制御部25bは、ユーザインタフェース部23からの操作信号によって示された調整指示を受け付けてステップST32に進む。
ステップST32で制御部25bは、調整限界でないか判別する。制御部25bは、視点画像が調整限界の位置に達していない場合にステップST33に進み、調整限界の位置に達した場合にステップST34に進む。
ステップST33で制御部25bは、画像移動処理を行う。制御部25bは、受け付けた調整指示に基づき画像移動部211L,211Rを制御して、視点画像の画像信号を調整指示に応じて移動させてステップST34に進む。このように視点画像を移動させることで、視点画像の有効データを垂直同期内で調整指示に応じて移動させた場合に相当する視差量調整用の平面画像を生成する。
ステップST34で制御部25bは、調整終了であるか判別する。制御部25bは、ユーザインタフェース部23からの操作信号に基づき、視差調整終了操作が行われたと判別した場合にステップST35に進み、視差調整終了操作が行われたと判別していない場合にステップST30に戻る。
ステップST35で制御部25bは、視差調整量を保存するか判別する。制御部25bは、ユーザインタフェース部23からの操作信号に基づき、視差調整量を保存する指示が行われた場合、あるいは視差調整量を保存するように電子機器10bの動作が設定されている場合にステップST36に進む。また、制御部25bは、視差調整量を保存する指示が行われない場合、および視差調整量を保存するように電子機器10bの動作が設定されていない場合に視差調整動作を終了する。
ステップST36で制御部25bは、視差調整量を保存する。制御部25bは、例えば視差調整後の視点画像の画像信号を立体画像の所定フォーマットの信号とする際に、所定フォーマットのヘッダ情報に視差調整量を含めて、視差調整動作を終了する。
次に、第2の実施の形態における第1の動作について説明する。なお、第1の動作では、表示部31の走査方向が表示領域の長手方向であり、電子機器10bが横向きの場合の走査方向は水平方向とする。
図10は、第2の実施の形態における第1の動作を説明するための図である。画像読出部212L,212Rは、制御部25bからの制御信号に基づき、姿勢検出部22の姿勢検出結果に応じて画像の読み出し方向を切り替える。例えば、電子機器10bが横向きとされて、走査方向が基線長方向である水平方向となる場合、画像読出部212Lは、図10の(A)に示すように左視点画像をライン単位で読み出して画像選択部213へ出力する。また、画像読出部212Rは、図10の(B)に示すように右視点画像をライン単位で読み出して画像選択部213へ出力する。画像選択部213は、ライン単位で出力された左視点画像と右視点画像を交互に選択して、図10の(C)に示すように視差量調整用の平面画像を生成する。
また、例えば電子機器10bが縦向きとされて、走査方向が基線長方向と直交する場合、画像読出部212Lは、図10の(D)に示すように左視点画像を画素単位で読み出して画像選択部213へ出力する。また、画像読出部212Rは、図10の(E)に示すように右視点画像を画素単位で読み出して画像選択部213へ出力する。画像選択部213は、画素単位で出力された左視点画像と右視点画像を交互に選択して、図10の(F)に示すように、視差量調整用の平面画像を生成する。
次に、第2の実施の形態における第2の動作について説明する。なお、第2の動作では、表示部31の走査方向が表示領域の短手方向とされており、電子機器10bが横向きの場合の走査方向は垂直方向とする。
図11は、第2の実施の形態における第2の動作を説明するための図である。画像読出部212L,212Rは、制御部25bからの制御信号に基づき、姿勢検出部22の姿勢検出結果に応じて画像の読み出し方向を切り替える。例えば、電子機器10bが縦向きとされて、走査方向が基線長方向である水平方向となる場合、画像読出部212Lは、図11の(A)に示すように左視点画像をライン単位で読み出して画像選択部213へ出力する。また、画像読出部212Rは、図11の(B)に示すように右視点画像をライン単位で読み出して画像選択部213へ出力する。画像選択部213は、ライン単位で出力された左視点画像と右視点画像を交互に選択して、図11の(C)に示すように視差量調整用の平面画像を生成する。
また、例えば電子機器10bが横向きとされて、走査方向が基線長方向と直交する場合、画像読出部212Lは、図11の(D)に示すように左視点画像を画素単位で読み出して画像選択部213へ出力する。また、画像読出部212Rは、図11の(E)に示すように右視点画像を画素単位で読み出して画像選択部213へ出力する。画像選択部213は、画素単位で出力された左視点画像と右視点画像を交互に選択して、図11の(F)に示すように、視差量調整用の平面画像を生成する。
このように、第2の実施の形態によれば、第1の実施の形態と同様に、乗算や加算等の演算処理を行うことなく複数視点画像を合成することが可能となり、簡単な構成で安価に画像処理装置を提供できるようになる。また、基線長方向と表示部の走査方向が一致する場合でも直交する場合でも、複数の各視点画像から基線長方向に切り出された画像が、基線長方向に対して直交する方向に順次並べられている平面画像を生成できる。すなわち、各視点画像を1ライン(または複数ライン)毎に並べた平面画像が視差調整用の画像として表示されるので、視認性の高い視差調整機能を提供できる。
さらに、第2の実施の形態では、姿勢検出が行われて、姿勢検出結果に基づき視点画像の読み出しが切り替えられる。したがって、表示部31の向きに係らず、視差量調整用の平面画像を所定の向きで表示することが可能となり、さらに視認性の高い視差調整機能を提供できるようになる。
<3.第3の実施の形態>
ところで、第1および第2の実施の形態において、走査方向と基線長方向が一致しない場合に、メモリに記憶した平面画像の読み出し方向を変更すると、読み出す画素のアドレス計算が複雑となる。また、システムによっては読出しデータ単位が必ずしも1画素に閉じない場合もある。そこで、第3の実施の形態では、走査方向と基線長方向が一致しない場合、走査方向と基線長方向が一致するように平面画像を回転して、回転後の画像から画素単位の画像読み出しを行うようにする。
[3−1.第3の実施の形態の構成と動作]
図12は、本技術の第3の実施の形態の構成を示している。第3の実施の形態の画像処理装置を用いた電子機器10cは、撮像処理部11L,11R、信号処理部12L,12R、表示処理部21c、姿勢検出部22、ユーザインタフェース(I/F)部23、制御部25c、表示部31を有している。
撮像処理部11Lは、撮像光学系や撮像素子部等を用いて構成されている。撮像光学系にはズームレンズやフォーカスレンズ、絞り機構等が設けられている。撮像光学系は、フォーカス調整動作を行い左視点の被写体光学像を撮像素子の撮像面上に結像させる。また、撮像光学系は、被写体光学像の変倍動作や光量の調整等を行う。撮像素子は、例えばCCD(Charge Coupled Device)イメージセンサ、またはCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等が用いられる。撮像素子は、光電変換処理を行い、撮像光学系によって撮像面に結像された光学像を電気信号に変換する。また、撮像処理部11Lは、撮像素子で生成された電気信号に対してCDS(correlated double sampling:相関2重サンプリング)等のノイズ除去処理、電気信号の信号レベルを所望の信号レベルとするゲイン調整を行う。さらに、撮像処理部11Lは、ノイズ除去処理やゲイン調整が行われた電気信号であるアナログの画像信号をディジタルの画像信号に変換するA/D変換処理を行う。撮像処理部11Lは、生成した左視点画像の画像信号を信号処理部12Lへ出力する。また、撮像処理部11Rは、撮像処理部11Lと同様に構成されており、撮像処理部11Lと同様な動作によって右視点画像の画像信号を生成して信号処理部12Rへ出力する。
信号処理部12Lは、撮像処理部11Lから出力された左視点画像の画像信号に対してカメラプロセス処理等を行う。信号処理部12Lは、例えば画像信号に対してガンマ補正やニー補正等の非線形処理、色補正処理、輪郭強調処理等を行い、処理後の画像信号を表示処理部21へ出力する。また、信号処理部12Rは、信号処理部12Lと同様に構成されており、撮像処理部11Rから出力された右視点画像の画像信号に対して信号処理部12Lと同様な処理を行い、処理後の画像信号を表示処理部21へ出力する。
表示処理部21cは、画像回転部210L,210R,画像移動部211L,211R、画像読出部212L,212R、画像選択部213を有している。
画像回転部210Lは、後述する制御部25cからの制御信号に基づき、信号処理部12Lから出力された左視点画像の回転を行う。画像回転部210Lは、走査方向と基線長方向が直交する場合に例えば左視点画像を時計回り方向に90度回転させて、回転後の左視点画像を画像移動部211Lへ出力する。また、画像回転部210Rは、画像回転部210Lと同様に構成されている。画像回転部210Rは、制御部25cからの制御信号に基づき、信号処理部12Rから出力された左視点画像の回転を行う。画像回転部210Rは、走査方向と基線長方向が直交する場合、画像回転部210Lと同様に例えば右視点画像を時計回り方向に90度回転させて、回転後の右視点画像を画像移動部211Rへ出力する。
画像移動部211Lは、後述する制御部25cからの制御信号に基づき左視点画像を基線長方向に移動する。例えば、画像移動部211Lは、画像回転部210Lから出力された画像信号をメモリに記憶して、記憶した画像信号の読み出しタイミングや読み出し開始位置を制御することにより、基線長方向に移動された左視点画像を生成する。画像移動部211Lは、移動後の左視点画像を画像読出部212Lへ出力する。また、画像移動部211Rは、画像移動部211Lと同様に構成されている。画像移動部211Rは、制御部25cからの制御信号に基づき右視点画像を基線長方向に移動する。画像移動部211Rは、移動後の右視点画像を画像読出部212Rへ出力する。なお、右視点画像の移動方向は、左視点画像の移動方向に対して逆方向とする。このように、画像移動部211L,211Rは、左視点画像と右視点画像を基線長方向で互いに逆方向に移動することで、左視点画像と右視点画像の画像間の視差量を変更する。
画像読出部212Lは、制御部25cからの制御信号に基づき、移動後の左視点画像からライン単位またはライン方向に画素単位で画像を読み出して、読み出した画像を画像選択部213へ出力する。また、画像読出部212Rは、画像読出部212Lと同様に構成されている。画像読出部212Rは、制御部25cからの制御信号に基づき、移動後の右視点画像からライン単位またはライン方向に画素単位で画像を読み出して、読み出した画像を画像選択部213へ出力する。
画像選択部213は、制御部25cからの制御信号に基づき、画像読出部212L,212Rから出力された画像を順次選択して、左視点画像と右視点画像がライン単位またはライン方向に画素単位で交互に選択されている平面画像を生成する。画像選択部213は、生成した平面画像の画像信号を表示部31へ出力する。
姿勢検出部22は、傾斜センサ等を用いて構成されている。姿勢検出部22は、電子機器10cの姿勢、例えば電子機器10cが横向きか縦向きであるかを検出して、検出結果を示す検出信号を制御部25cへ出力する。
ユーザインタフェース部23は、操作スイッチやタッチパネル等を用いて構成されている。ユーザインタフェース部23は、ユーザ操作に応じた操作信号を生成して制御部25cへ出力する。
制御部25cは、例えばCPU(Central Processing Unit)と、ROM(Read Only Memory)と、RAM(Random Access Memory)を備えている。CPUは、ROMに格納されている制御プログラムを必要に応じて読み出して実行する。ROMには、CPUにおいて実行されるプログラムや各種の処理において必要となるデータ等が予め記憶されている。RAMは、処理の途中結果などを一時記憶するいわゆる作業領域として用いられるメモリである。また、ROMまたはRAMは、各種の設定パラメータ等の情報や補正データ等を記憶する。制御部25cは、ユーザインタフェース部23からの操作信号に基づき各部を制御して、ユーザ操作に応じた動作を電子機器10cで行わせる。
制御部25cは、複数視点画像間の視差量の調整を行うユーザ操作が行われた場合、表示処理部21の動作を制御して、複数視点画像から基線長方向に切り出した画像を並べて視差量調整用の平面画像を生成させる。また、制御部25cは、ユーザインタフェース部23からの操作信号に基づき、画像移動部211L,211Rで視点画像を移動させて視差量を変更する。
制御部25cは、姿勢検出部22で検出された電子機器10cの姿勢状態に基づいて、走査方向と基線長方向を一致させて画像表示を行うか、走査方向と基線長方向を直交させて画像表示を行うか判別する。
制御部25cは、表示部の走査方向と基線長方向を一致させて視差調整用の画像表示を行う場合、画像読出部212L,212Rで視点画像をライン単位で読み出すように制御する。また、制御部25cは、画像読出部212Lと画像読出部212Rの出力をライン単位で交互に選択するように画像選択部213を制御して、視差量調整用の平面画像を生成する。
また、制御部25cは、表示部の走査方向と基線長方向を直交させて視差調整用の画像表示を行う場合、画像回転部210L,210Rで視点画像を例えば時計回り方向に90度回転させる。また、制御部25cは。画像読出部212L,212Rで視点画像をライン方向に画素単位で読み出すように制御する。また、制御部25cは、画像読出部212Lと画像読出部212Rの出力を画素単位で交互に選択するように画像選択部213を制御して、視差量調整用の平面画像を生成する。
表示部31は、液晶表示素子や有機EL表示素子等を用いて構成されている。表示部31は、表示処理部21から出力された画像信号に基づき視差量調整用の平面画像を画面上に表示する。また、表示部31が平面画像だけでなく立体画像表示機能を有している場合、制御部25cからの制御信号に基づき、視差量の調整が行われる場合には立体画像表示機能を停止して平面画像表示を行う。
なお、電子機器10cで立体画像表示を行う場合は、画像移動部211Lから出力される左視点画像の画像信号と画像移動部211Rから出力される右視点画像の画像信号を、立体画像の所定フォーマットの信号として表示部31へ出力する。
図13は第3の実施の形態の動作を説明するための図である。図13の(A)は左視点画像、図13の(B)は右視点画像を示している。電子機器10cは、走査方向と基線長方向が直交する場合、左視点画像と右視点画像を例えば時計回り方向に90度回転する。
図13の(C)は回転後の左視点画像、図13の(D)は回転後の右視点画像を示している。したがって、画素単位で画像並べ替えを行う際に、回転後の左視点画像における画素単位の読み出し(例えば画素L0,L1,L2・・・の順)と、、回転後の右視点画像における画素単位の読み出し(例えば画素R0,R1,R2・・・の順)は、ライン方向となる。画像選択部213は、図13の(E)に示すように、画素単位で出力された左視点画像と右視点画像を交互に選択して(例えば画素R0,L1,R2・・・の順)、平面画像の画像信号を生成する。また、生成された画像信号に基づく視差量調整用の平面画像は、図13の(F)に示すように、左視点画像と右視点画像のそれぞれから基線長方向に切り出された画像を基線長方向に対して直交する方向に交互に並べた画像となる。すなわち、各視点画像を1ライン(または複数ライン)毎に並べた平面画像となる。
このように、走査方向と基線長方向が一致しない場合、走査方向と基線長方向が一致するように平面画像を回転して、回転後の画像から画素単位で読み出しを行えば、画素データの読み出し方向はライン方向となり、画素データの読み出しを容易とすることができる。なお、第3の実施の形態では、画像を回転してから画像の移動を行う構成を例示したが、画像の移動を行ってから回転を行うようにしてもよい。
また、第1および第3の実施の形態では、表示処理部21の機能構成として画像移動部211L,211Rと画像読出部212L,212Rおよび画像選択部213を設ける場合について説明した。しかし、表示処理部21は、画像移動部211L,211Rと画像読出部212L,212Rおよび画像選択部213の動作を個々に行うことなくまとめて行うようにしてもよい。例えば、信号処理部から出力された左視点画像と右視点画像の画像信号をメモリに記憶して、メモリから読み出す画像の選択と選択した画像の読み出しタイミングや読み出し開始位置、読み出し方向を制御して、視差調整用の平面画像の画像信号を生成する。このようにすれば、表示処理部21の構成を簡略化できる。
また、第1乃至第3の実施の形態において、ライン単位は1ライン単位に限らず複数ライン単位であってもよい。また、画素単位は1画素単位に限らず複数画素単位であってもよい。例えば、4:2:2フォーマットのコンポーネント信号を処理する場合は1画素では色が揃わないため、2画素毎に処理にする。また、4:2:2フォーマットのコンポーネント信号に対して色差成分の補間を行い、4:4:4フォーマットのコンポーネント信号に変換して1画素単位で処理を行うようにしてもよい。
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
また、本技術の画像処理装置は以下のような構成も取ることができる。
(1) 外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量を変更する画像移動部と、
前記複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出す画像読出部と、
前記画像読出部でライン単位または画素単位で読み出された前記複数の視点画像を順次選択して出力する画像選択部と、
表示部の走査方向と前記複数の視点画像における基線長方向に応じて、前記画像読出部における前記複数の視点画像の読み出しを前記ライン単位または前記画素単位に適応的に切り替える制御部と
を備える画像処理装置。
(2) 前記制御部は、前記走査方向と前記基線長方向を一致させて画像表示を行う場合に前記画像読出部で前記ライン単位の読み出しを行わせて、前記走査方向と前記基線長方向を直交させて画像表示を行う場合に前記画像読出部で前記画素単位の読み出しを行わせる(1)に記載の画像処理装置。
(3) 表示部の姿勢状態を検出する姿勢検出部をさらに備え、
前記制御部は、前記姿勢検出部で検出された姿勢状態に基づいて、前記走査方向と前記基線長方向を一致させて画像表示を行うか、前記走査方向と前記基線長方向を直交させて画像表示を行うか判別する(2)に記載の画像処理装置。
(4) 前記複数の視点画像を回転する画像回転部をさらに備え、
前記制御部は、前記走査方向と前記基線長方向を直交させて画像表示を行う場合に、前記画像回転部で前記複数の視点画像における基線長方向が前記走査方向と一致するように前記複数の視点画像を回転させて、前記画像読出部における前記画素単位の読み出しを前記ライン方向とする(2)または(3)に記載の画像処理装置。
(5) 前記複数の視点画像を用いて立体画像表示を行う表示部を備え、
前記制御部は、前記表示部における立体画像表示を停止させて前記画像選択部からの出力に基づき平面画像表示を行う(1)乃至(4)の何れかに記載の画像処理装置。
(6) 前記画像移動部は、前記視点画像の移動によって生じた画像のない領域のマスク処理を行う(1)乃至(5)の何れかに記載の画像処理装置。
(7) 前記複数の視点画像は、左視点画像と右視点画像であり、
前記画像移動部は、前記左視点画像と前記右視点画像を互いに逆方向に移動して視差量を変更する(1)乃至(6)の何れかに記載の画像処理装置。
この技術の画像処理装置と画像処理方法およびプログラムでは、外部からの指示に応じて画像移動部で視点画像の移動が行われて、複数の視点画像間の視差量が変更される。この複数の視点画像は、画像読出部によってライン単位またはライン方向と直交する方向に画素単位で読み出されて、ライン単位または画素単位で読み出された複数の視点画像を画像選択部で順次選択して出力することで、視差調整用の画像が生成される。また、表示部の走査方向と複数の視点画像における基線長方向に応じて、複数の視点画像の読み出しがライン単位または画素単位で適応的に切り替えられる。このため、各視点画像から基線長方向に切り出した画像を順次選択して基線長方向に対して直交する方向に並べた視差調整用の平面画像を生成できるので、この平面画像で視差量を簡単に確認できるようになり、視認性の高い視差調整を容易に行うことができる。したがって、携帯型の電子機器等で立体表示を行う場合の視差量の調整に適している。
10a,10b,10c・・・電子機器
11L,11R・・・撮像処理部
12L,12R・・・信号処理部
21,21c・・・表示処理部
22・・・姿勢検出部
23・・・ユーザインタフェース(I/F)部
25a,25b,25c・・・制御部
31・・・表示部
210L,210R・・・画像回転部
211L,211R・・・画像移動部
212L,212R・・・画像読出部
213・・・画像選択部

Claims (9)

  1. 外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量を変更する画像移動部と、
    前記複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出す画像読出部と、
    前記画像読出部でライン単位または画素単位で読み出された前記複数の視点画像を順次選択して出力する画像選択部と、
    表示部の走査方向と前記複数の視点画像における基線長方向に応じて、前記画像読出部における前記複数の視点画像の読み出しを前記ライン単位または前記画素単位に適応的に切り替える制御部と
    を備える画像処理装置。
  2. 前記制御部は、前記走査方向と前記基線長方向を一致させて画像表示を行う場合に前記画像読出部で前記ライン単位の読み出しを行わせて、前記走査方向と前記基線長方向を直交させて画像表示を行う場合に前記画像読出部で前記画素単位の読み出しを行わせる
    請求項1記載の画像処理装置。
  3. 表示部の姿勢状態を検出する姿勢検出部をさらに備え、
    前記制御部は、前記姿勢検出部で検出された姿勢状態に基づいて、前記走査方向と前記基線長方向を一致させて画像表示を行うか、前記走査方向と前記基線長方向を直交させて画像表示を行うか判別する
    請求項2記載の画像処理装置。
  4. 前記複数の視点画像を回転する画像回転部をさらに備え、
    前記制御部は、前記走査方向と前記基線長方向を直交させて画像表示を行う場合に、前記画像回転部で前記複数の視点画像における基線長方向が前記走査方向と一致するように前記複数の視点画像を回転させて、前記画像読出部における前記画素単位の読み出しを前記ライン方向とする
    請求項2記載の画像処理装置。
  5. 前記複数の視点画像を用いて立体画像表示を行う表示部を備え、
    前記制御部は、前記表示部における立体画像表示を停止させて前記画像選択部からの出力に基づき平面画像表示を行う
    請求項1記載の画像処理装置。
  6. 前記画像移動部は、前記視点画像の移動によって生じた画像のない領域のマスク処理を行う
    請求項1記載の画像処理装置。
  7. 前記複数の視点画像は、左視点画像と右視点画像であり、
    前記画像移動部は、前記左視点画像と前記右視点画像を互いに逆方向に移動して視差量を変更する
    請求項1記載の画像処理装置。
  8. 外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量を変更する工程と、
    前記複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出す工程と、
    前記ライン単位または画素単位で読み出された前記複数の視点画像を順次選択して出力する工程と、
    表示部の走査方向と前記複数の視点画像における基線長方向に応じて、前記複数の視点画像の読み出しを前記ライン単位または前記画素単位に適応的に切り替える工程と
    を含む画像処理方法。
  9. 視差量調整用の画像表示をコンピュータで実行させるプログラムであって、
    外部からの指示に応じて視点画像の移動を行い複数の視点画像間の視差量を変更する手順と、
    前記複数の視点画像をライン単位またはライン方向と直交する方向に画素単位で読み出す手順と、
    前記ライン単位または画素単位で読み出された前記複数の視点画像を順次選択して出力する手順と、
    表示部の走査方向と前記複数の視点画像における基線長方向に応じて、前記複数の視点画像の読み出しを前記ライン単位または前記画素単位に適応的に切り替える手順と
    を前記コンピュータで実行させるプログラム。
JP2012143160A 2012-06-26 2012-06-26 画像処理装置と画像処理方法およびプログラム Pending JP2014007648A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012143160A JP2014007648A (ja) 2012-06-26 2012-06-26 画像処理装置と画像処理方法およびプログラム
US13/894,728 US20130343635A1 (en) 2012-06-26 2013-05-15 Image processing apparatus, image processing method, and program
CN201310238911.3A CN103517058A (zh) 2012-06-26 2013-06-18 图像处理装置、图像处理方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012143160A JP2014007648A (ja) 2012-06-26 2012-06-26 画像処理装置と画像処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2014007648A true JP2014007648A (ja) 2014-01-16

Family

ID=49774512

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012143160A Pending JP2014007648A (ja) 2012-06-26 2012-06-26 画像処理装置と画像処理方法およびプログラム

Country Status (3)

Country Link
US (1) US20130343635A1 (ja)
JP (1) JP2014007648A (ja)
CN (1) CN103517058A (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10269074B1 (en) 2013-10-23 2019-04-23 Allstate Insurance Company Communication schemes for property claims adjustments
US9824397B1 (en) 2013-10-23 2017-11-21 Allstate Insurance Company Creating a scene for property claims adjustment
JP6418784B2 (ja) * 2014-05-20 2018-11-07 キヤノン株式会社 画像生成装置及びその制御方法
JP2018148383A (ja) * 2017-03-06 2018-09-20 キヤノン株式会社 撮像装置および撮像ユニット

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1988006775A1 (en) * 1987-02-27 1988-09-07 Logicblend Limited Improvements in interactive video systems
US5448399A (en) * 1992-03-13 1995-09-05 Park Scientific Instruments Optical system for scanning microscope
EP0687366B1 (en) * 1993-03-03 2000-01-26 STREET, Graham Stewart Brandon Method and apparatus for image alignment
US5812252A (en) * 1995-01-31 1998-09-22 Arete Associates Fingerprint--Acquisition apparatus for access control; personal weapon and other systems controlled thereby
US20020030888A1 (en) * 1996-10-16 2002-03-14 Paul Kleinberger Systems for three-dimensional viewing and projection
US6095566A (en) * 1996-03-14 2000-08-01 Kabushiki Kaisha Toshiba Image recorded product, image recording system, image reproducing system, and recording medium for use to superimpose-record/reproduce additional information
SE521743C2 (sv) * 1998-11-23 2003-12-02 Minoru Inaba Stereofotografiskt system
JP2001346226A (ja) * 2000-06-02 2001-12-14 Canon Inc 画像処理装置、立体写真プリントシステム、画像処理方法、立体写真プリント方法、及び処理プログラムを記録した媒体
US7113634B2 (en) * 2001-07-31 2006-09-26 Canon Kabushiki Kaisha Stereoscopic image forming apparatus, stereoscopic image forming method, stereoscopic image forming system and stereoscopic image forming program
US7349568B2 (en) * 2001-08-30 2008-03-25 Sanyo Electric Co., Ltd. Method and apparatus for handling stereoscopic images utilizing parallax images
JP2003337303A (ja) * 2002-05-17 2003-11-28 Canon Inc 立体画像表示装置および立体画像表示システム
CN100342733C (zh) * 2002-06-28 2007-10-10 夏普株式会社 图像数据分发***及其图像数据发送装置及图像数据接收装置
US7466336B2 (en) * 2002-09-05 2008-12-16 Eastman Kodak Company Camera and method for composing multi-perspective images
JP4228646B2 (ja) * 2002-10-02 2009-02-25 株式会社セガ 立体視画像生成方法および立体視画像生成装置
JP2004363758A (ja) * 2003-06-03 2004-12-24 Konica Minolta Photo Imaging Inc 画像処理方法、撮像装置、画像処理装置及び画像記録装置
JP2006113807A (ja) * 2004-10-14 2006-04-27 Canon Inc 多視点画像の画像処理装置および画像処理プログラム
JP4868236B2 (ja) * 2004-12-21 2012-02-01 ソニー株式会社 画像処理装置と画像処理方法および画像処理プログラム
JP2008191472A (ja) * 2007-02-06 2008-08-21 Sony Corp 3次元画像表示システム
JP2008216575A (ja) * 2007-03-02 2008-09-18 Sony Corp 画像表示方法
JP4618370B2 (ja) * 2008-12-08 2011-01-26 ソニー株式会社 撮像装置、撮像方法、およびプログラム

Also Published As

Publication number Publication date
US20130343635A1 (en) 2013-12-26
CN103517058A (zh) 2014-01-15

Similar Documents

Publication Publication Date Title
US9619861B2 (en) Apparatus and method for improving quality of enlarged image
JP5385462B2 (ja) 単眼立体撮像装置、単眼立体撮像装置用シェーディング補正方法及び単眼立体撮像装置用プログラム
US20110304706A1 (en) Video camera providing videos with perceived depth
US20110304693A1 (en) Forming video with perceived depth
US20130113898A1 (en) Image capturing apparatus
EP2355532A1 (en) Image processing device and method, and program
JP2011082918A (ja) 画像処理装置および方法、並びにプログラム
US9288472B2 (en) Image processing device and method, and image capturing device
JP5874192B2 (ja) 画像処理装置、画像処理方法、及びプログラム
WO2014077065A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2014007648A (ja) 画像処理装置と画像処理方法およびプログラム
US20130027520A1 (en) 3d image recording device and 3d image signal processing device
US20120162453A1 (en) Image pickup apparatus
WO2012043003A1 (ja) 立体画像表示装置および立体画像表示方法
JP2012216939A (ja) 画像処理装置、画像処理方法及びプログラム
JP2013250360A (ja) 撮像装置、撮像方法及びプログラム
JP2012147087A (ja) 画像生成装置及び方法
JP2011135374A (ja) 3次元デジタルカメラ
WO2012053136A1 (ja) 立体映像処理回路および立体映像撮影装置
JP2012129601A (ja) 撮像装置
JP2011259405A (ja) 撮像装置および撮像方法
JP5307189B2 (ja) 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム
JP2010226320A (ja) 撮像装置
JP2014102265A (ja) 3d撮像装置
JP2012151538A (ja) 3d撮像装置