JP5747124B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5747124B2
JP5747124B2 JP2014518379A JP2014518379A JP5747124B2 JP 5747124 B2 JP5747124 B2 JP 5747124B2 JP 2014518379 A JP2014518379 A JP 2014518379A JP 2014518379 A JP2014518379 A JP 2014518379A JP 5747124 B2 JP5747124 B2 JP 5747124B2
Authority
JP
Japan
Prior art keywords
pixel
phase difference
interpolation
pixels
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014518379A
Other languages
English (en)
Other versions
JPWO2013179899A1 (ja
Inventor
智行 河合
智行 河合
克俊 井澤
克俊 井澤
林 淳司
林  淳司
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014518379A priority Critical patent/JP5747124B2/ja
Application granted granted Critical
Publication of JP5747124B2 publication Critical patent/JP5747124B2/ja
Publication of JPWO2013179899A1 publication Critical patent/JPWO2013179899A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18Focusing aids
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/18Signals indicating condition of a camera member or suitability of light
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Automatic Focus Adjustment (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、マニュアルフォーカス用のスプリットイメージを表示する撮像装置に関する。
デジタルカメラとして、位相差検出方式やコントラスト検出方式を用いたオートフォーカスの他に、使用者が手動でフォーカス調整を行うことができる、いわゆるマニュアルフォーカスモードを備えるものが良く知られている。
マニュアルフォーカスモードを有するデジタルカメラとしては、撮影した被写体を確認しながらフォーカス調整ができるようにレフレックスミラーを設けて、目視による位相差を表示するスプリットマイクロプリズムスクリーンを用いた方法や、目視によるコントラストの確認を行う方法を採用しているものが良く知られている。
ところで、近年普及しているレフレックスミラーを省略したデジタルカメラでは、レフレックスミラーがないため位相差を表示しながら被写体像を確認する方法がなく、コントラスト検出方式に頼らざるを得なかった。しかし、この場合には、LCD等の表示装置の解像度以上のコントラス表示ができず、一部拡大するなどして表示する方法を採らざるを得なかった。
そこで、近年では、マニュアルフォーカスモード時に操作者が被写体に対してピントを合わせる作業を容易にするために、スプリットイメージをライブビュー画像(スルー画像ともいう)内に表示している。スプリットイメージとは、瞳分割された被写体光をそれぞれ撮像してなる被写体像を分割表示したものであり、各被写体像の位相差を表すものである。上下に分割されたスプリットイメージはピントがずれているとスプリットイメージの上下画像が左右にずれ、ピントが合った状態だと上下画像の左右のずれがなくなる。操作者は、スプリットイメージの上下画像のずれがなくなるように、マニュアルフォーカスリングを操作してピントを合わせる。
特許文献1に記載のデジタルカメラでは、絞りを光軸と垂直方向に移動させることで2つの測距位置でそれぞれ被写体画像の撮影を行い、これら2つの被写体画像を用いてスプリットイメージをライブビュー画像内に表示している。
特許文献2に記載のデジタルカメラでは、被写体像の像面と撮像素子の受光面との間の距離に相当する値をずれ量として求め、このずれ量に応じて左右相反する方向にずらしたスプリットイメージをライブビュー画像内に表示している。
特許文献3及び4に記載のデジタルカメラは、撮影用の通常画素と、瞳分割された被写体光を受光する焦点検出用の2種類の位相差画素とが撮像面上に複数配列されてなる撮像素子を備えている。このデジタルカメラでは、通常画素からの出力信号に基づき撮影画像を生成してライブビュー画像表示を行うとともに、2種類の位相差画素のそれぞれからの出力に基づきスプリットイメージを生成してライブビュー画像内に表示している。
特開2004−40740号公報 特開2001−309210号公報 特開2009−147665号公報 特開2009−163220号公報
しかしながら、特許文献1記載のデジタルカメラでは、絞りを移動させる機械的な構成が必要になるので、この構成を収納するスペースの確保、及び部品点数の増加などの問題が生じる。また、特許文献2記載のデジタルカメラでは、被写体光を瞳分割して撮像する構成を有さないので、正確で破綻のないスプリットイメージの実現が困難である。
特許文献3及び4記載のデジタルカメラでは、2種類の位相差画素を用いてスプリットイメージを生成しているが、2種類の位相差画素の一方と他方とがそれぞれ撮像面上の異なる垂直列に配置されている(特許文献3の図2、特許文献4の図2参照)。このように2種類の位相差画素の位置が水平方向にずれている場合には、このずれの影響によりスプリットイメージによる位相差表示を正確に行うことができず、上下画像の左右のずれがなくなった状態でもピントが僅かにずれるおそれがある。
本発明の目的は、スプリットイメージによる位相差表示を正確に行うことができる撮像装置を提供することにある。
本発明の目的を達成するための撮像装置は、フォーカスレンズを含む撮影光学系と、フォーカス操作を受けて、フォーカスレンズを撮影光学系の光軸方向に移動させるレンズ移動機構と、光電変換素子を含む複数の画素が第1の方向に配列されてなる複数の第1画素列と、複数の画素が第1の方向とは垂直な第2の方向に配列されてなる複数の第2画素列と含むマトリクス状の画素配列が形成された撮像面を有する撮像素子であって、複数の画素は、撮影光学系の互いに異なる領域をそれぞれ通過した各被写体光を瞳分割により選択的に受光する第1位相差画素及び第2位相差画素と、各被写体光をそれぞれ受光する通常画素とを含んでおり、第1の方向は、撮影光学系により撮像面上にそれぞれ結像された各被写体光の像のずれ方向に対応する位相差方向に平行であり、第2画素列には、第1及び第2位相差画素がそれぞれ複数設けられている撮像素子と、各第1位相差画素の出力に基づき、第2画素列内の第1位相差画素間に位置する第1補間画素の出力を補間処理により求める第1補間手段と、各第2位相差画素の出力に基づき、第2画素列内の第2位相差画素間に位置する第2補間画素の出力を補間処理により求める第2補間手段と、通常画素の出力から撮影画像を生成する撮影画像生成手段と、第1位相差画素及び第1補間画素の出力により構成される第1画像と、第2位相差画素及び第2補間画素の出力により構成される第2画像とを用いてスプリットイメージを生成するスプリットイメージ生成手段と、撮影画像生成手段により生成された撮影画像を表示する表示手段であって、撮影画像の表示領域内にスプリットイメージ生成手段により生成されたスプリットイメージを表示する表示手段と、を備える。
本発明に係る撮像装置によれば、複数の同一垂直列内に設けられた複数の第1位相差画素及び第2位相差画素の出力を用いてスプリットイメージを生成することができる。
第1補間手段は、第1位相差画素及び第1補間画素が第2の方向に沿って等間隔で配列されるように第1位相差画素間に第1補間画素を設定して、第1補間画素の出力を求め、第2補間手段は、第2位相差画素及び第2補間画素が第2の方向に沿って等間隔で配列されるように第2位相差画素間に第2補間画素を設定して、第2補間画素の出力を求めることが好ましい。これにより、スプリットイメージが生成し易くなるので、スプリットイメージの画質が向上し、フォーカス調整が行い易くなる。
第1補間手段は、第2画素列内の2つの第1位相差画素の出力及び位置座標と、第1補間画素の位置座標とに基づき、線形補間法による内挿によって第1補間画素の出力を求め、第2補間手段は、第2画素列内の2つの第2位相差画素の出力及び位置座標と、第2補間画素の位置座標とに基づき、線形補間法による内挿によって第2補間画素の出力を求めることが好ましい。これにより、各補間画素の出力が最適になるので、スプリットイメージの画質が向上し、フォーカス調整が行い易くなる。
撮像素子は、複数の画素上に所定のカラーフィルタ配列で配列されてなる複数色のカラーフィルタであって、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタと、第1の色以外の2色以上の第2の色に対応する第2のフィルタとを含む複数色のカラーフィルタを有し、第1及び第2位相差画素上には第1のフィルタが設けられており、スプリットイメージ生成手段は、第1位相差画素及び第1補間画素の出力の輝度成分を基に生成される白黒の第1画像と、第2位相差画素及び第2補間画素の出力の輝度成分を基に生成される白黒の第2画像とを用いてスプリットイメージを生成することが好ましい。1色の位相差画素によりスプリットイメージを生成することができるので、撮影画像の生成に用いる通常画素を増やすことができる。
各通常画素上には、第1及び第2のフィルタが配列されており、撮影画像生成手段は、通常画素の出力に基づきフルカラーの撮影画像を生成することが好ましい。フルカラーの撮影画像中に白黒のスプリットイメージが表示されるので、ユーザにスプリットイメージが分かり易くなる。
通常画素の出力と、第1及び第2位相差画素のそれぞれの出力とを比較する比較手段と、比較手段の比較結果に基づき、第1及び第2位相差画素の出力にそれぞれゲインをかけて、第1及び第2位相差画素の出力と通常画素の出力とを同じにするゲイン調整手段と、を備えることが好ましい。スプリットイメージと撮影画像との間に輝度差が無くなるため、違和感のない良質な画像が得られる。
第1及び第2位相差画素は、複数の第2画素列内においてそれぞれ間隔をあけて交互に設けられていることが好ましい。
第1及び第2位相差画素は、複数の第1画素列内においてそれぞれ間隔をあけて交互に設けられていることが好ましい。
スプリットイメージは、第1画像と第2画像とを垂直方向に並べて配置してなる画像であることが好ましい。
撮影光学系の互いに異なる領域は、垂直方向に平行な第1直線に対して対称な第1領域及び第2領域であり、第1位相差画素は、第1領域及び第2領域の一方を透過した被写体光を選択的に受光し、第2位相差画素は、第1領域及び第2領域の他方を透過した被写体光を選択的に受光することが好ましい。非合焦時に水平方向、すなわち、左右方向にずれが生じるような第1及び第2画像が生成される。
複数の第1画素列にそれぞれ複数設けられた第3位相差画素であって、撮影光学系の第1の方向に平行な第2直線に対して対称な第3領域及び第4領域の一方を透過した被写体光を選択的に受光する第3位相差画素と、複数の第1画素列にそれぞれ複数設けられた第4位相差画素であって、第3領域及び第4領域の他方を透過した被写体光を選択的に受光する第4位相差画素と、撮影光学系の光軸を中心とする撮像素子の回転を検出する回転検出手段と、を備え、第1補間手段は、回転検出手段の検出結果に基づき、第1画素列が第2の方向に平行になったときに、各第3位相差画素の出力に基づき、第1画素列内の第3位相差画素間に位置する第3補間画素の出力を補間処理により求め、第2補間手段は、回転検出手段の検出結果に基づき、第1画素列が第2の方向に平行になったときに、各第4位相差画素の出力に基づき、第1画素列内の第4位相差画素間に位置する第4補間画素の出力を補間処理により求め、スプリットイメージ生成手段は、回転検出手段の検出結果に基づき、第1画素列が第2の方向に平行になったときに、第3位相差画素及び第3補間画素の出力により構成される第3画像と、第4位相差画素及び第4補間画素の出力により構成される第4画像とを用いてスプリットイメージを生成することが好ましい。これにより、撮像装置により縦撮りを行ったときでも通常撮影時との同様のスプリットイメージが得られる。
第1の色は緑色(G)であり、第2の色の各色は赤色(R)及び青色(B)であることが好ましい。
本発明の撮像装置は、撮像素子の複数の第2画素列内に第1及び第2位相差画素それぞれ複数設けて、各第2画素列内で第1位相差画素間に位置する第1補間画素の出力と、第2位相差画素間に位置する第2補間画素の出力とを補間処理により求めて、各第2画素列内の各位相差画素及び各補間画素の出力によりスプリットイメージを生成するので、スプリットイメージによる位相差表示を従来よりも正確に行うことができる。その結果、従来よりも高精度にマニュアルフォーカス調整を行うことができる。また、補間処理により第1及び第2補間画素の出力を求めることで、撮像素子に設ける第1及び第2位相差画素の数を減らすことができる。これにより、撮影画像の生成に用いる通常画素を増やすことができる。
第1実施形態のデジタルカメラの正面斜視図である。 デジタルカメラの背面斜視図である。 デジタルカメラの電気的構成を示すブロック図である。 カラー撮像素子の撮像面の正面図である。 カラー撮像素子の断面図である。 画像処理回路の電気的構成を示すブロック図である。 第1位相差画素の補間処理を説明するための説明図である。 第2位相差画素の補間処理を説明するための説明図である。 フォーカスレンズが合焦位置にセットされているときのスプリットイメージデータの概略図である。 フォーカスレンズが合焦位置にセットされていないときのスプリットイメージデータの概略図である。 デジタルカメラの撮影処理の流れを示すフローチャートである。 フォーカスレンズが合焦位置にセットされていないときのライブビュー画像の概略図である。 フォーカスレンズが合焦位置にセットされているときのライブビュー画像の概略図である。 第2実施形態のデジタルカメラの画素補間処理を説明するための説明図である。 第3実施形態のデジタルカメラの電気的構成を示すブロック図である。 第3実施形態におけるスプリットイメージ生成処理の流れを示すフローチャートである。 第4実施形態のデジタルカメラのカラー撮像素子の撮像面における、第1及び第2位相差画素の配列を説明するための説明図である。 第1位相差画素の補間処理を説明するための説明図である。 第2位相差画素の補間処理を説明するための説明図である。 第5実施形態のデジタルカメラのカラー撮像素子の撮像面の正面図である。 第1位相差画素の補間処理を説明するための説明図である。 第2位相差画素の補間処理を説明するための説明図である。 第6実施形態のデジタルカメラのカラー撮像素子の撮像面の正面図である。 撮影光学系の左領域、右領域、上領域、下領域を説明するための説明図である。 第6実施形態のデジタルカメラの電気的構成を示すブロック図である。 縦撮り時における第3位相差画素の補間処理を説明するための説明図である。 縦撮り時における第3位相差画素の補間処理を説明するための説明図である。 スマートフォンの斜視図である。 スマートフォンの電気的構成を示すブロック図である。 第1画像及び第2画像を奇数ラインと偶数ラインとに分けて交互に並べて表示させてなる他実施形態のスプリットイメージの説明図である。 水平方向に対して傾いた斜めの分割線により分割されている他実施形態のスプリットイメージの概略図である。 市松模様状に形成された他実施形態のスプリットイメージの概略図である。 市松模様状に形成された他実施形態のスプリットイメージの概略図である。
[第1実施形態のデジタルカメラの全体構成]
図1に示すように、本発明の撮像装置に相当するデジタルカメラ2のカメラ本体2aの前面には、撮像光学系などを含んで構成されるレンズ鏡筒3、ストロボ発光部5などが設けられている。カメラ本体2aの上面には、シャッタボタン6、電源スイッチ7などが設けられている。レンズ鏡筒3の外周面には、マニュアルフォーカス(以下、単にMFという)操作に用いられるフォーカスリング(レンズ移動機構)3aが回転自在に取り付けられている。
図2に示すように、カメラ本体2aの背面には表示部8、操作部9が設けられている。表示部8は、撮影待機状態時には電子ビューファインダとして機能し、ライブビュー画像(スルー画ともいう)を表示する。また、画像再生時にはメモリカード10に記録されている画像データに基づき、表示部8に画像が再生表示される。
操作部9は、モード切替スイッチ、十字キー、実行キーなどから構成されている。モード切替スイッチは、デジタルカメラ2の動作モードを切り替える際に操作される。デジタルカメラ2は、被写体を撮像して撮影画像を得る撮影モード、撮影画像を再生表示する再生モードなどを有する。また、撮影モードには、オートフォーカス(以下、単にAFという)を行うAFモード、及びMF操作を行うMFモードがある。
十字キーや実行キーは、表示部8にメニュー画面や設定画面を表示したり、これらメニュー画面や設定画面内に表示されるカーソルを移動したり、デジタルカメラ2の各種設定を確定したりする際などに操作される。
カメラ本体2aの底面には、図示は省略するが、メモリカード10が装填されるカードスロットと、このカードスロットの開口を開閉する装填蓋とが設けられている。
図3に示すように、デジタルカメラ2のCPU11は、操作部9からの制御信号に基づき、メモリ13から読み出した各種プログラムやデータを逐次実行して、デジタルカメラ2の各部を統括的に制御する。なお、メモリ13のRAM領域は、CPU11が処理を実行するためのワークメモリや、各種データの一時保管先として機能する。
レンズ鏡筒3には、ズームレンズ15及びフォーカスレンズ16を含む撮影光学系17、メカシャッタ18などが組み込まれている。ズームレンズ15及びフォーカスレンズ16は、それぞれズーム機構19、フォーカス機構20により駆動され、撮影光学系17の光軸O1に沿って前後移動される。ズーム機構19及びフォーカス機構20は、ギアやモータなどで構成されている。また、フォーカス機構20は、図示しないギアを介してフォーカスリング3aと接続している。このため、フォーカス機構20は、MFモード時にフォーカスリング3aが回転操作(フォーカス操作)されることに伴い、フォーカスレンズ16を光軸O1の方向(以下、光軸方向という)に沿って移動させる。
メカシャッタ18は、カラー撮像素子23への被写体光の入射を阻止する閉じ位置と、被写体光の入射を許容する開き位置との間で移動する可動部(図示は省略)を有する。メカシャッタ18は、可動部を各位置に移動させることによって、撮影光学系17からカラー撮像素子23へと至る光路を開放/遮断する。また、メカシャッタ18には、カラー撮像素子23に入射する被写体光の光量を制御する絞りが含まれている。メカシャッタ18、ズーム機構19、及びフォーカス機構20は、レンズドライバ25を介してCPU11によって動作制御される。
メカシャッタ18の背後には、カラー撮像素子23が配置されている。カラー撮像素子23は、撮影光学系17等を通過した被写体光を電気的な出力信号に変換して出力する。なお、カラー撮像素子23は、CCD(Charge Coupled Device)型撮像素子、CMOS(Complementary Metal Oxide Semiconductor)型撮像素子などの各種類の撮像素子であってもよい。撮像素子ドライバ27は、CPU11の制御の下でカラー撮像素子23の駆動を制御する。
画像処理回路29は、カラー撮像素子23からの出力信号(出力)に対して階調変換、ホワイトバランス補正、γ補正処理などの各種処理を施して撮影画像データを生成する。また、画像処理回路29は、MFモード時には、撮影画像データの他にMF操作用のスプリットイメージデータを生成する。撮影画像データやスプリットイメージデータは、メモリ13のVRAM(Video Random Access Memory)領域(VRAMを別途設けても可)に一時的に格納される。VRAM領域は、連続した2フィールド画分を記憶するライブビュー画像用のメモリエリアを有しており、撮影画像データやスプリットイメージデータを逐次上書き格納する。
圧縮伸長処理回路31は、シャッタボタン6が押下操作されたときに、VRAM領域に格納された撮影画像データに対して圧縮処理を施す。また、圧縮伸長処理回路31は、メディアI/F(Interface)32を介してメモリカード10から得られた圧縮画像デーに対して伸長処理を施す。メディアI/F32は、メモリカード10に対する撮影画像データの記録及び読み出しなどを行う。
表示制御部33は、撮影モード時にはVRAM領域に格納された撮影画像データやスプリットイメージデータを読み出して表示部8へ逐次出力する。また、表示制御部33は、再生モード時には圧縮伸長処理回路31で伸長された撮影画像データを表示部8へ出力する。
<カラー撮像素子の構成>
図4に示すように、カラー撮像素子23の撮像面23a(図3参照)上には、赤(R)色のR画素35と、緑(G)色のG画素36と、青(B)色のB画素37とがマトリックス状に配列されている。各色画素35〜37は、本発明の通常画素に相当するものであり、光電変換素子39(図5参照)と、光電変換素子39の上方に配置された3原色のいずれかのカラーフィルタ40(図5参照)とを含んで構成されている。ここで「〜上」、「上方」とは、図6中の半導体基板45からマイクロレンズ49に向かう方向(図中上方向)を指す。
R画素35、G画素36、B画素37の各光電変換素子39上には、それぞれR色,G色,B色のカラーフィルタ40が設けられる。なお、G色のカラーフィルタ40が本発明の第1のフィルタに相当し、R色及びB色のカラーフィルタ40が本発明の第2のフィルタに相当する。
カラー撮像素子23のカラーフィルタ配列(画素配列)は、下記の特徴(1)、(2)、(3)、(4)、(5)、及び(6)を有している。
〔特徴(1)〕
カラーフィルタ配列は、6×6画素に対応する正方配列パターンからなる基本配列パターンPを含み、この基本配列パターンPが水平方向及び垂直方向に繰り返し配置されている。
このようにRGBのカラーフィルタ40が所定の周期性をもって配列されているため、従来知られているランダム配列と比較して、カラー撮像素子23から読み出されるR、G、B信号の同時化(補間)処理(デモザイク処理)等を行う際に、繰り返しパターンにしたがって処理を行うことができる。また、基本配列パターンPの単位で間引き処理して画像を縮小する場合、間引き処理後のカラーフィルタ配列は、間引き処理前のカラーフィルタ配列と同じにすることができ、共通の処理回路を使用することができる。
〔特徴(2)〕
カラーフィルタ配列は、輝度信号を得るために最も寄与する色(この実施形態では、Gの色)に対応するG色のカラーフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向(斜め右上及び斜め左下方向、斜め右下及び斜め左上方向)方向の各ライン内に1つ以上配置されている。
このようにG色のカラーフィルタが、カラーフィルタ配列の水平、垂直、及び斜め方向の各ライン内に配置されるため、高周波となる方向によらず高周波領域での画素補間処理(同時化処理等)の再現精度を向上させることができる。
〔特徴(3)〕
基本配列パターンPは、R画素35、G画素36、B画素37の画素数が、それぞれ8画素、20画素、8画素となる。すなわち、RGB画素35〜37の各画素数の比率は2:5:2であり、G画素36の画素数の比率は他の色のR画素35、B画素37の各々の画素数の比率よりも大きくなる。
このようにG画素36の画素数とR,B画素35,37の画素数との比率が異なり、特に輝度信号を得るために最も寄与するG画素36の画素数の比率を、R,B画素35,37の画素数の比率よりも大きくするようにしたため、画素補間処理(同時化処理等)時におけるエリアシングを抑制することができるとともに、高周波再現性もよくすることができる。
〔特徴(4)〕
カラーフィルタ配列は、G色以外の2色以上の他の色(この実施形態では、R,Bの色)に対応するR色及びB色のカラーフィルタ40が、基本配列パターンP内においてカラーフィルタ配列の水平、及び垂直方向の各ライン内に1つ以上配置されている。
R色及びB色のカラーフィルタ40がそれぞれカラーフィルタ配列の水平、及び垂直方向の各ライン内に配置されるため、色モワレ(偽色)の発生を低減することができる。これにより、偽色の発生を抑制するための光学ローパスフィルタを光学系の入射面から撮像面までの光路に配置しないようにでき、又は光学ローパスフィルタを適用する場合でも偽色の発生を防止するための高周波数成分をカットする働きの弱いものを適用することができ、解像度を損なわないようにすることができる。
〔特徴(5)〕
カラーフィルタ配列は、G色のカラーフィルタ40が設けられた2×2のG画素36に対応する正方配列を含んでいる。このような2×2のG画素36を取り出し、水平方向のG画素36の画素値の差分絶対値、垂直方向のG画素36の画素値の差分絶対値、及び斜め方向のG画素36の画素値の差分絶対値を求めることで、水平方向、垂直方向、及び斜め方向のうち、差分絶対値の小さい方向に相関があると判断することができる。
すなわち、このカラーフィルタ配列によれば、最小画素間隔のG画素36の情報を使用して、水平方向、垂直方向、及び斜め方向のうちの相関の高い方向判別ができる。この方向判別結果は、周辺の画素から補間する補間処理(同時化処理等)に使用することができる。
〔特徴(6)〕
基本配列パターンPは、その中心(4つのG色のカラーフィルタ40の中心)に対して点対称になっている。また、基本配列パターンP内の4つの3×3のサブ配列も、それぞれ中心のG色のカラーフィルタ40に対して点対称になっている。このような対称性により、後段の処理回路の回路規模を小さくしたり、簡略化したりすることが可能になる。
〔位相差画素〕
撮像面23aの一部の領域(例えば中央領域)上には、一部のG画素36の代わりに、第1位相差画素36a(図中「丸印中のG1」で表示)、第2位相差画素36b(図中「丸印中のG2」で表示)が設けられている。第1位相差画素36a及び第2位相差画素36bは、カラー撮像素子23の画素配列における複数の垂直列(第2画素列)42と複数の水平行(第1画素列)43とにそれぞれ間隔をあけて交互に設けられている(図中では1つの垂直列42、水平行43に代表して符号を付している)。なお、本明細書では、カラー撮像素子23の各垂直列及び各水平行のうち、位相差画素が設けられる垂直列、水平行にそれぞれ符号「42」、「43」を付している。
「複数の垂直列42」は、水平方向(第1の方向)に沿って3画素ピッチ間隔で設けられている。また「複数の水平行43」は、垂直方向(第2の方向)に沿って4画素ピッチ間隔、8画素ピッチ間隔、4画素ピッチ間隔、8画素ピッチ間隔、・・・で設けられている。
本実施形態では、第1位相差画素36a及び第2位相差画素36bが、各垂直列42と各水平行43とが交差する位置上において、それぞれ水平方向及び垂直方向に沿って交互に配置される。なお、同じ種類の位相差画素同士(第1位相差画素−第1位相差画素、第2位相差画素−第2位相差画素)の間隔は、垂直方向が12画素ピッチとなり、水平方向が6画素ピッチとなる。
水平行43の断面を示す図5において、半導体基板(sub)45の表層には光電変換素子39がマトリックス状に形成されている。なお、半導体基板45には、図示は省略するが、各画素の駆動や信号出力に用いられる各種回路が設けられている。
半導体基板45上には光透過性の絶縁膜46が設けられている。絶縁膜46上には遮光膜47が設けられている。遮光膜47は、通常開口47aと第1偏心開口47bと第2偏心開口47cとを有している。第1〜第2偏心開口47b,47cは、通常開口47aよりも開口径が小さく形成されている。
通常開口47aは、RGB画素35〜37の光電変換素子39上に形成されている。また、通常開口47aの中心は光電変換素子39の中心上に位置している。
第1偏心開口47bは、第1位相差画素36aの光電変換素子39上に形成されている。第1偏心開口47bの中心は、その下方の光電変換素子39の中心に対して図中右方向にずれている。これにより、第1位相差画素36aの光電変換素子39の略左半分の領域(以下、単に左領域という)は遮光膜47で覆われ、逆に略右半分の領域(以下、単に右領域という)の中央部分は露呈する。
第2偏心開口47cは、第2位相差画素36bの光電変換素子39上に形成されている。第2偏心開口47cの中心は、その下方の光電変換素子39の中心に対して図中右方向にずれた位置に形成されている。これにより、第2位相差画素36bの光電変換素子39の右領域は遮光膜47で覆われ、逆に左領域の中央部分は露呈する。
遮光膜47上には、表面が平坦な光透過性の平坦化層48が設けられている。平坦化層48上には、R、G、Bの各色の画素35〜37にそれぞれ対応する位置にR、G、Bの各色のカラーフィルタ40が設けられている。また、第1及び第2位相差画素36a,36bに対応する位置にはG色のカラーフィルタ40が設けられている。
各色のカラーフィルタ40上で、かつ光電変換素子39の上方位置には、それぞれマイクロレンズ49が設けられている。なお、カラーフィルタ40とマイクロレンズ49との間にも透光性の平坦層などの各種層が設けられていてもよい。
RGB画素35〜37上のマイクロレンズ49に図中左斜め方向から入射した被写体光50Lは、マイクロレンズ49により光電変換素子39の右領域に集光される。逆に、マイクロレンズ49に図中右斜め方向から入射した被写体光50Rは、マイクロレンズ49により光電変換素子39の左領域に集光される。このため、RGB画素35〜37は、被写体光50L及び被写体光50Rの両方に対して感度が高くなる。
第1位相差画素36a上のマイクロレンズ49に入射した被写体光50Lは、マイクロレンズ49により第1偏心開口47bを通して光電変換素子39の右領域に集光される。逆にマイクロレンズ49に入射した被写体光50Rは、遮光膜47により遮光されるので光電変換素子39の左領域には集光されない。
第2位相差画素36b上のマイクロレンズ49に入射した被写体光50Rは、マイクロレンズ49により第2偏心開口47cを通して光電変換素子39の左領域に集光される。逆にマイクロレンズ49に入射した被写体光50Rは、遮光膜47により遮光されるので光電変換素子39の左領域には集光されない。従って、遮光膜47が瞳分割を行う瞳分割部として機能する。なお、遮光膜47(各偏心開口47b、47c)を瞳分割部として機能させる代わりに、マイクロレンズ49を偏心させてもよい。
被写体光50L,50Rは、撮影光学系17(ズームレンズ15及びフォーカスレンズ16)の左領域17L、右領域17Rをそれぞれ通過した被写体光である。なお、図面の煩雑化を防止するため両レンズ15,16は一体化して図示しており、撮影光学系17とカラー撮像素子23との大きさも実際とは異ならせている。
カラー撮像素子23に入射した被写体光が遮光膜47により瞳分割されることで、第1位相差画素36aは被写体光50Lに対して感度が高くなり、逆に第2位相差画素36bは被写体光50Rに対して感度が高くなる。
<画像処理回路の構成>
図6に示すように、画像処理回路29は、通常処理部(撮影画像生成手段)52と、画素補間処理部(第1補間手段、第2補間手段)53と、スプリットイメージ処理部(スプリットイメージ生成手段)54とを有している。通常処理部52は、撮影モード時にRGB画素35〜37からの出力信号(出力)に基づき、フルカラーの撮影画像データ55を生成する。画素補間処理部53及びスプリットイメージ処理部54は、MFモード時に作動する。
図7及び図8に示すように、画素補間処理部53は、各垂直列42内において第1位相差画素36aと第2位相差画素36bとの補間処理を行う。図7では第1位相差画素36a以外の画素の図示を省略している。また、図8では第2位相差画素36a以外の画素の図示を省略している。
図7において、画素補間処理部53は、各垂直列42内の各第1位相差画素36aの出力に基づき、各垂直列42内で図中の上下2つの第1位相差画素36a間に1以上の第1補間画素56a(図中「丸印中のg1」で表示)を仮想的に補間して、第1補間画素56aの出力を求める。具体的には、各垂直列42内において第1位相差画素36aと第1補間画素56aとが垂直方向に等間隔(本実施形態では4画素ピッチ間隔)で配列されるように、2つの第1位相差画素36a間に第1補間画素56aを補間する。
この際には、例えば図中の矢印で示すように、各第1補間画素56aの近傍に位置する第1位相差画素36aの出力に基づき、第1補間画素56aの出力が決定される。なお、上下2つの第1位相差画素36aの平均値を、これらの間に位置する第1補間画素56aの出力としてもよい。これにより、各第1位相差画素36a及び各第1補間画素56aを含む第1画素群57aの出力が得られる。なお、図7では、例として、上下2つの第1位相差画素36a間に2つの第1補間画素56aが示されているが、第1補間画素56aの数は1以上であればよい。
図8において、画素補間処理部53は、各垂直列42内の各第2位相差画素36bの出力に基づき、各垂直列42内で図中の上下2つの第2位相差画素36b間に1以上の第2補間画素56b(図中「丸印中のg2」で表示)を仮想的に補間して、第2補間画素56bの出力を求める補間処理を行う。具体的には、各垂直列42内において第2位相差画素36bと第2補間画素56bとが垂直方向に等間隔(本実施形態では4画素ピッチ間隔)で配列されるように、2つの第2位相差画素36b間に第2補間画素56bを補間する。
第1補間画素56aの出力と同様、図中の矢印で示すように、各第2補間画素56bの近傍に位置する第2位相差画素36bの出力に基づき、第2補間画素56bの出力が決定される。なお、2つの第2位相差画素36bの平均値を、これらの間に位置する第2補間画素56bの出力としてもよい。これにより、各第2位相差画素36b及び各第2補間画素56bを含む第2画素群57bの出力が得られる。なお、図8では、例として、上下2つの第2位相差画素36b間に2つの第2補間画素56bが示されているが、第2補間画素56aの数は1以上であればよい。
図6に戻って、スプリットイメージ処理部54は、撮像面23aの中央領域に位置する第1及び第2画素群57a,57bからの出力信号(出力)の輝度成分を基に、被写体の中央領域(撮影画像の中央領域)の白黒のスプリットイメージデータ61を生成する。
図9に示すように、スプリットイメージ処理部54は、第1画素群57aからの出力信号(出力)の輝度成分に基づき、被写体の中央領域の図中上半分の領域をL視点側から見たときの白黒の第1画像データ61Lを生成する。また、スプリットイメージ処理部54は、第2画素群57bからの出力信号(出力)の輝度成分に基づき、被写体の中央領域の図中下半分の領域をR視点側から見たとの白黒の第2画像データ61Rを生成する。これにより、第1画像データ61Lと第2画像データ61Rとを含む白黒のスプリットイメージデータ61が得られる。第1及び第2画像データ61L,61Rは、スプリットイメージデータ61内において水平方向に平行な分割線63により分割されている。なお、図中ではスプリットイメージデータ61のイメージを容易に把握できるように、スプリットイメージデータ61を撮影画像データ55に合成しているが、この合成は表示制御部33にて行われる。
撮影画像データ55及びスプリットイメージデータ61は、メモリ13のVRAM領域に一時的に格納される。表示制御部33は、メモリ13から撮影画像データ55及びスプリットイメージデータ61を読み出して、撮影画像データ55にスプリットイメージデータ61を合成した後に表示部8へ出力する。これにより、撮影画像データ55に基づくフルカラーの撮像画像の表示領域内に、スプリットイメージデータ61に基づく白黒のスプリットイメージを表示したライブビュー画像が得られる。
第1画像データ61Lと第2画像データ61Rとは、フォーカスレンズ16の合焦状態に応じて図中左右方向[水平方向(第1の方向)]にシフトする。この際の第1及び第2画像データ61L,61R間のずれ量は、フォーカスレンズ16の焦点のずれ量に対応している。すなわち、図中左右方向が、撮影光学系17により撮像面23a上にそれぞれ結像された各被写体光の像のずれ方向に対応する位相差方向となる。また、第1及び第2画像データ61L,61Rは、フォーカスレンズ16が合焦しているときにずれ量がゼロ(ほぼゼロを含む)となる。
図10に示すように、フォーカスレンズ16の焦点がずれるほど、第1画像データ61Lと第2画像データ61Rとのずれ量も大きくなる。これにより、ユーザはライブビュー画像を確認しながらフォーカス調整を行うことができる。なお、図中では焦点が合っていいない被写体を2点鎖線表示している。
<その他の構成>
なお、図示は省略するが、デジタルカメラ2にはオートフォーカス用のAF検出回路などが設けられている。AF検出回路は、第1位相差画素36aの出力信号により構成される画像と、第2位相差画素36bの出力信号により構成される画像とを解析して、両画像のずれ方向及び両画像間のずれ量を検知することで撮影光学系17のフォーカス調整量(デフォーカス量ともいう)を求める。このフォーカス調整量に基づき、CPU11はレンズドライバ25を制御して、フォーカス機構20によりフォーカスレンズ16を駆動することで焦点調節を行う。なお、このような位相差方式のAF処理については公知であるので、ここでは具体的な説明は省略する。
また、図示は省略するが、デジタルカメラ2にはAE検出回路などが設けられている。CPU11は、AE検出回路の検出結果に基づき、レンズドライバ25を介してメカシャッタ18を駆動することでAE処理を実行する。
<第1実施形態のデジタルカメラの作用>
次に、図11を用いて上記構成のデジタルカメラ2の作用について説明を行う。操作部9にてデジタルカメラ2が撮影モード(ステップS1)のAFモードまたはMFモード(ステップS2)に設定されると、CPU11はレンズドライバ25を介してメカシャッタ18の動作を制御するとともに、撮像素子ドライバ27を介してカラー撮像素子23を駆動する(ステップS3)。なお、AFモードが設定された場合のデジタルカメラ2の動作は公知であるのでここでは具体的な説明は省略する。
MFモード(ステップS2)が設定されると、カラー撮像素子23のRGB画素35〜37からの出力信号は、画像処理回路29の通常処理部52に入力される(ステップS4)。通常処理部52は、RGB画素35〜37からの出力信号に基づきフルカラーの撮影画像データ55を生成して、メモリ13のVRAM領域に格納する(ステップS5)。
一方、第1及び第2位相差画素36a,36bからの出力信号は、画素補間処理部53に入力される。画素補間処理部53は、図7に示したように、第1位相差画素36aの出力信号に基づき、各垂直列42内の上下2つの第1位相差画素36a間の第1補間画素56aの出力信号を求める。また、画素補間処理部53は、図8に示したように、第2位相差画素36bの出力信号に基づき、各垂直列42内の上下2つの第2位相差画素36b間の第2補間画素56bの出力信号を求める。これにより、第1画素群57aの出力信号と第2画素群57bの出力信号とが得られる(ステップS6)。第1及び第2画素群57a,57bの出力信号は、スプリットイメージ処理部54に入力される(ステップS7)。
スプリットイメージ処理部54は、第1画素群57aからの出力信号の輝度成分に基づき第1画像データ61Lを生成し、第2画素群57bからの出力信号の輝度成分に基づき第2画像データ61Rを生成する。これにより、白黒の第1画像データ61Lと白黒の第2画像データ61Rとを含むスプリットイメージデータ61が生成される(ステップS8)。スプリットイメージデータ61は、メモリ13のVRAM領域に格納される。
表示制御部33は、メモリ13から撮影画像データ55及びスプリットイメージデータ61を読み出して、撮影画像データ55とスプリットイメージデータ61とを合成した後に表示部8へ出力する。これにより、図12に示すように、撮影画像データ55に基づくフルカラーの撮影画像65内に、スプリットイメージデータ61に基づく白黒のスプリットイメージ66を含むライブビュー画像67が表示部8に表示される(ステップS9)。
スプリットイメージ66の第1画像66Lと第2画像66Rとは、フォーカスレンズ16の合焦状態に応じて図中左右方向にシフトするので、ユーザは、フォーカスリング3aが回転操作してフォーカスレンズ16を光軸方向に沿って移動させる。フォーカスレンズ16が被写体に合焦する合焦位置に近づくのに伴って、第1画像66Lと第2画像66Rとのずれ量が次第に小さくなる。これにより、ユーザはライブビュー画像67を確認しながらフォーカス調整を行うことができる。
図13に示すように、フォーカスレンズ16が合焦位置にセットされると、第1画像66Lと第2画像66Rとのずれ量がゼロとなる。これにより、フォーカスレンズ16が被写体に合焦して、フォーカス調整が完了する(ステップS10)。以下、シャッタボタン6が押下されるまで、上記処理が繰り返し実行される。
シャッタボタン6が押下されると、通常処理部52にて1フレーム分の撮影画像データ55が生成されてメモリ13のVRAM領域に一時的に格納される。この撮影画像データ55は、圧縮伸長処理回路31にて圧縮された後、メディアI/F32を介してメモリカード10に記録される(ステップS11)。以下、MFモードが終了するまで上述の処理が繰り返し実行される。
<デジタルカメラの作用効果>
本実施形態では、カラー撮像素子23の各垂直列42内に各第1及び第2位相差画素36a,36bを設けて、各垂直列42内でそれぞれ第1及び第2補間画素56a,56bを仮想的に補間して得られた第1及び第2画素群57a,57bの出力信号に基づきスプリットイメージデータ61を生成している。すなわち、各同一垂直列42内の各位相差画素36a,36b及び各補間画素56a,56bの出力によりスプリットイメージデータ61を生成している。これにより、互いに対応する第1及び第2位相差画素が各同一垂直列内に設けられていない従来のもの(特許文献3の図2、特許文献4の図2参照)よりも、スプリットイメージ66(第1画像66Lと第2画像66R)による位相差表示を正確に行うことができる。その結果、従来よりも高精度にマニュアルフォーカス調整を行うことができる。
また、第1及び第2補間画素56a,56bを仮想的に補間することで、撮像面に設ける第1及び第2位相差画素36a,36bの数を減らすことができる。これにより、撮影画像65の生成に用いるRGB画素35〜37を増やすことができる。
また、各垂直列42内において、第1画素群57a及び第2画素群57bのそれぞれの各画素が垂直方向に等間隔で配列されるように、第1及び第2補間画素56a,56bを補間しているので、スプリットイメージ66のジャギーを低減することができる。さらに、第1画素群57a及び第2画素群57bの各画素が垂直方向に等間隔で配列されることで、スプリットイメージデータ61の生成が行い易くなるので、よりスプリットイメージ66の画質が向上し、フォーカス調整が行い易くなる。
また、フルカラーの撮影画像65(ライブビュー画像67)中でスプリットイメージ66を白黒画像で表示することで、ユーザにスプリットイメージ66を分かり易くすることができる。
[第2実施形態のデジタルカメラの全体構成]
次に、図14を用いて本発明の第2実施形態のデジタルカメラについて説明を行う。上記第1実施形態のデジタルカメラ2の画素補間処理部53では、第1及び第2補間画素56a,56bの出力の決定方法について特に限定はしてないが、第2実施形態のデジタルカメラでは、線形補間法による内挿によって第1及び第2補間画素56a,56bの出力を求める。
なお、第2実施形態のデジタルカメラは、第1の実施形態のデジタルカメラ2と基本的には同じ構成である。このため、第1の実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
画素補間処理部53は、第1位相差画素36aの出力及び位置座標と、第1補間画素56aの位置座標とに基づき、第1補間画素56aの出力を決定する。具体的には、これらの出力や位置座標に基づき、上下2つの第1位相差画素36a間に位置する第1補間画素56aの出力が、上下2つの第1位相差画素36aの出力を結ぶ線分上の値となるように、第1補間画素56aの出力を決定する。なお、図示は省略するが、第2補間画素56bの出力も同様に決定される。
このように、線形補間法による内挿によって第1及び第2補間画素56a,56bの出力を求めることにより、第1及び第2補間画素56a,56bの出力が最適になる。その結果、スプリットイメージ66の画質が向上するので、MF調整が行い易くなる。
[第3実施形態のデジタルカメラの構成]
次に、図15を用いて本発明の第3実施形態のデジタルカメラ70について説明を行う。上記第1実施形態のデジタルカメラ2では、瞳分割により第1及び第2位相差画素36a,36bの感度がRGB画素35〜37の感度よりも低くなる。このため、第3実施形態のデジタルカメラ70では、第1及び第2位相差画素36a,36bの出力のゲイン調整を行う。
なお、デジタルカメラ70は、第1実施形態とは異なる画像処理回路71を有している点を除けば、第1の実施形態のデジタルカメラ2と基本的には同じ構成である。このため、第1の実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
画像処理回路71は、上述の通常処理部52、画素補間処理部53、及びスプリットイメージ処理部54の他に、平均値算出部73と、ゲイン算出部(比較手段)74と、ゲイン調整部(ゲイン調整手段)75とを有している。
平均値算出部73は、各G画素36の出力の平均値PGaveを算出して、この平均値PGaveをゲイン算出部74に出力する。ゲイン算出部74は、第1及び第2位相差画素36a,36bのそれぞれの出力の平均値PG1,PG2と、平均値PGaveとを比較して、第1及び第2位相差画素36a,36bの出力に掛けるゲインGA1,GA2を決定する。具体的には下記式(1)、(2)に基づきゲインGA1,GA2を決定して、ゲインGA1,GA2をゲイン調整部75に出力する。
ゲインGA1=PGave/PG1・・・(式1)
ゲインGA2=PGave/PG2・・・(式2)
ゲイン調整部75は、第1及び第2位相差画素36a,36bの出力にそれぞれゲインGA1,GA2をかけるゲイン調整を施した後、ゲイン調整後の第1及び第2位相差画素36a,36bの出力をスプリットイメージ処理部54に出力する。
[第3実施形態のデジタルカメラの作用]
次に、図16を用いて上記構成のデジタルカメラ70の作用について説明を行う。なお、スプリットイメージデータ61の生成処理以外は第1実施形態と同じであるので、ここでは説明を省略する。
カラー撮像素子23が駆動されると(ステップS3)、RGB画素35〜37及び第1及び第2位相差画素36a,36bからそれぞれ出力信号が出力される(ステップS13)。平均値算出部73は、RGB画素35〜37から通常処理部52に入力される出力信号のうち、G画素36の出力信号を検出して平均値PGaveを算出する(ステップS14)。この平均値PGaveはゲイン算出部74に出力される。
また、ゲイン算出部74は、第1及び第2位相差画素36a,36bから画素補間処理部53に入力される出力信号を検出して平均値PG1,PG2を算出する(ステップS15)。次いで、ゲイン算出部74は、平均値PGaveと平均値PG1,PG2とに基づき、上述の式(1)、(2)を用いてゲインGA1,GA2を決定する(ステップS16)。ゲインGA1,GA2はゲイン調整部75に入力される。
ゲイン調整部75は、第1及び第2位相差画素36a,36bの出力にそれぞれゲインGA1,GA2を掛ける。このゲイン調整によって、感度の低い第1及び第2位相差画素36a,36bの出力がG画素36の出力と同じ(ほぼ同じを含む)になる(ステップS17)。ゲイン調整後の第1及び第2位相差画素36a,36bの出力は、画素補間処理部53に入力される。以下、第1実施形態と同様にしてスプリットイメージデータ61が生成される(ステップS8)。
第1及び第2位相差画素36a,36bの出力のゲイン調整を行うことで、ピクチャー・イン・ピクチャー表示で撮影画像65の一部にスプリットイメージ66を表示する際に、撮影画像65とスプリットイメージ66との間の輝度差が無くなる。その結果、違和感のない良質なライブビュー画像67が表示される。
なお、上記第3実施形態では、G画素36の出力と、第1及び第2位相差画素36a,36bの出力とに基づいてゲイン調整を行っているが、RGB画素35〜37の輝度と、第1及び第2位相差画素36a,36bの輝度とに基づいてゲイン調整を行ってもよい。
[第4実施形態のデジタルカメラの構成]
次に、図17を用いて本発明の第4実施形態のデジタルカメラについて説明を行う。上記第1実施形態のデジタルカメラ2の画素補間処理部53は、上下2つの第1位相差画素36a間及び第2位相差画素36b間にそれぞれ第1補間画素56a、第2補間画素56bを仮想的に補間して、第1補間画素56a、第2補間画素56bの出力を求めている。これに対して、第4実施形態のデジタルカメラは、上下2つの第1補間画素56a間と上下2つの第2補間画素56b間とにそれぞれ補間画素を仮想的に補間して、この補間画素の出力を求めている。
なお、第4実施形態のデジタルカメラは、撮像面23aの画素配列の一部が第1実施形態と異なる点を除けば、第1の実施形態のデジタルカメラ2と基本的には同じ構成である。このため、第1の実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
第4実施形態のカラー撮像素子23は、第1及び第2位相差画素36a,36bが配置される各水平行43が、垂直方向に沿って3画素ピッチ間隔、9画素ピッチ間隔、3画素ピッチ間隔、9画素ピッチ間隔、・・・で設けられている点を除けば第1実施形態のカラー撮像素子23と基本的に同じ構成である。
図18に示すように、第4実施形態の画素補間処理部53は、第1実施形態と同様にして、上下2つの第1位相差画素36a間に2以上の第1補間画素56aを仮想的に補間して、その第1補間画素56aの出力を求める(図中では、例として2つの第1補間画素56aを示す)。次いで、画像補間処理部53は、各垂直列42内の各第1補間画素56aの出力に基づき、各垂直列42内で図中の上下2つの第1補間画素56a間に第1’補間画素78aを仮想的に補間して、第1’補間画素78aの出力を求める。この場合にも、各垂直列42内において第1位相差画素36aと第1補間画素56aと第1’補間画素78aとが垂直方向に等間隔(本実施形態では3画素ピッチ間隔)で配列されるように、第1補間画素56a及び第1’補間画素78aを補間する。
第1’補間画素78aの出力は、近傍の第1補間画素56aの出力に基づき決定される。例えば、図中の矢印で示すように、上下2つの第1補間画素56aの出力の平均値を用いてもよい。これにより、各第1位相差画素36aと各第1補間画素56aと第1’補間画素78aとが正方格子状に配列されてなる第1画素群79aの出力が得られる。
また、図19に示すように、画素補間処理部53は、第1実施形態と同様にして、上下2つの第2位相差画素36b間に2以上の第2補間画素56bを仮想的に補間して、その第2補間画素56bの出力を求める(図中では、例として2つの第2補間画素56bを示す)。次いで、画像補間処理部53は、各垂直列42内の各第2補間画素56aの出力に基づき、各垂直列42内で図中の上下2つの第2補間画素56b間に第2’補間画素78bを仮想的に補間して、第2’補間画素78bの出力を求める。この場合にも、各垂直列42内において第2位相差画素36bと第2補間画素56bと第2’補間画素78bとが垂直方向に等間隔で配列されるように、第2補間画素56b及び第2’補間画素78bを補間する。
第2’補間画素78bの出力は、例えば図中の矢印で示すように、上下2つの第2補間画素56bの出力の平均値を用いてもよい。これにより、各第2位相差画素36bと各第2補間画素56bと第2’補間画素78bとが正方格子状に配列されてなる第2画素群79bの出力が得られる。
以下、上記第1実施形態と同様にスプリットイメージデータ61が生成される。各垂直列42内に各補間画素56a,56b,78a,78bを仮想的に補間することで、第1及び第2位相差画素36a,36bの数を減らすことができる。
さらに、各垂直列42内において第1及び第2画素群79a,79bの各画素が垂直方向に等間隔で正方格子状に配列されるように、各補間画素56a,56b,78a,78bを補間しているので、スプリットイメージのジャギーを低減することができる。また、スプリットイメージデータ61の生成が行い易くなるので、よりスプリットイメージ66の画質が向上し、フォーカス調整が行い易くなる。
[第5実施形態のデジタルカメラの構成]
次に、図20を用いて本発明の第5実施形態のデジタルカメラについて説明を行う。上記第1実施形態のデジタルカメラ2では、撮像面23aにG色の第1及び第2位相差画素36a,36bのみを設けて白黒のスプリットイメージデータ61を生成している。これに対して、第5実施形態のデジタルカメラではフルカラーのスプリットイメージデータを生成する。
なお、第5実施形態のデジタルカメラは、第1の実施形態のデジタルカメラ2と異なるカラー撮像素子80を有する点を除けば、基本的には第1の実施形態と同じ構成である。このため、第1の実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
カラー撮像素子80の撮像面には、上述のRGB画素35〜37及びG色の第1及び第2位相差画素36a,36bの他に、R色の第1及び第2位相差画素82a,82bと、B色の第1及び第2位相差画素83a,83bとが配列されている。各位相差画素82a,82b,83a,83bは、第1及び第2位相差画素36a,36bと同様に、複数の垂直列42と複数の水平行43とにそれぞれ間隔をあけて交互に設けられている。なお、第1位相差画素82a,83aは、カラーフィルタ40の色が異なる点を除けば第1位相差画素36aと同じ構造である。また、第2位相差画素82b,83bは、カラーフィルタ40の色が異なる点を除けば第2位相差画素36bと同じ構造である。
図21に示すように、第5実施形態の画素補間処理部53は、第1実施形態と同様に、各垂直列42内で図中の上下2つの第1位相差画素36a,82a,83a間に第1補間画素56a,85a,86aを仮想的に補間して、各色の第1補間画素56a,85a,86aの出力を求める。これにより、各色の第1位相差画素36a,82a,83a及び第1補間画素56a,85a,86aを含む第1画素群の出力が得られる。
図22に示すように、画素補間処理部53は、第1実施形態と同様に、各垂直列42内で図中の上下2つの第2位相差画素36b,82b,83b間に第2補間画素56b,85b,86bを仮想的に補間して、各色の第2補間画素56b,85b,86bの出力を求める。これにより、各色の第2位相差画素36b,82b,83b及び第2補間画素56b,85b,86bを含む第2画素群の出力が得られる。
第5実施形態のスプリットイメージ処理部54は、上述の第1画素群及び第2画素群からの出力信号に基づき、フルカラーの第1画像データと第2画像データとを含むスプリットイメージデータを生成する。これにより、フルカラーのスプリットイメージをライブビュー画像67内に表示することができる。なお、第5実施形態のデジタルカメラは、フルカラーのスプリットイメージの生成・出力を行う点を除けば第1実施形態のデジタルカメラ2と基本的に同じであるので、第1実施形態で説明した効果が得られる。
[第6実施形態のデジタルカメラの構成]
次に、図23を用いて本発明の第6実施形態のデジタルカメラ90について説明を行う。上記第1実施形態のデジタルカメラ2は、光軸O1回りに90°回転させた状態で撮影を行う、いわゆる縦撮りを行った場合に、スプリットイメージ66も90°回転した状態で表示される。これに対して、デジタルカメラ90では縦撮りを行った場合でも上下に分割されたスプリットイメージデータの表示を行う。
なお、デジタルカメラ90は、第1の実施形態のデジタルカメラ2と異なるカラー撮像素子91を有する点を除けば、基本的には第1の実施形態と同じ構成である。このため、第1の実施形態と機能・構成上同一のものについては、同一符号を付してその説明は省略する。
カラー撮像素子91の撮像面には、上述のRGB画素35〜37及びG色の第1及び第2位相差画素36a,36bの他に、G色の第3位相差画素93aと第4位相差画素93bとが複数の垂直列42と複数の水平行43とにそれぞれ間隔をあけて交互に設けられている。第3位相差画素93a及び第4位相差画素93bは、第1及び第2位相差画素36a,36bをそれぞれ光軸O1回りに90°回転させたときと同じ構造を有している。
図24の(I)部に示すように、光軸O1に直交しかつ垂直方向に平行な直線をL1としたときに、第1及び第2位相差画素36a,36bは、撮影光学系17の中心を通る第1直線L1に対して対称な左領域17L、右領域17Rをそれぞれ通過した被写体光50L、50R(図5参照)に対して感度が高くなる。一方、図24の(II)部に示すように、光軸O1に直交しかつ水平方向に平行な直線をL2としたときに、第3位相差画素93a及び第4位相差画素93bは、撮影光学系17の中心を通る第2直線L2に対して対称な上領域17U、下領域17Dをそれぞれ通過した被写体光に対して感度が高くなる。従って、デジタルカメラ90が光軸O1回りに90°回転した場合には、第3位相差画素93a及び第4位相差画素93bを、第1及び第2位相差画素36a,36bの代わりに用いてスプリットイメージデータを生成することができる。
図25に示すように、画像処理回路29には、デジタルカメラ90(カラー撮像素子91)の光軸O1回りの回転を検出するモーションセンサ(回転検出手段)95が接続している。なお、デジタルカメラ90の回転を検出可能であれば、モーションセンサ以外の各種センサを用いてもよい。画素補間処理部53は、モーションセンサ95からの検出信号に基づき、デジタルカメラ90が光軸O1回りに90°回転した場合には、各水平行43を各垂直列42とみなして、第3位相差画素93aと第4位相差画素93bとの補間処理を行う。
具体的には、図26及び図27に示すように、図中の上下2つの第3位相差画素93a間に1以上の第3補間画素97aを仮想的に補間して、第3補間画素97aの出力を求める(図中では、例として2つの第3補間画素97aを示す)。また、図中の上下2つの第4位相差画素93b間に1以上の第4補間画素97bを仮想的に補間して、第4補間画素97bの出力を求める(図中では、例として2つの第4補間画素97bを示す)。第3及び第4補間画素97a,97bの補間処理は、第1及び第2補間画素56a,56bの補間処理と基本的には同じであるので、ここでは具体的な説明を省略する。これにより、各第3位相差画素93a及び各第3補間画素97aを含む第3画素群の出力が得られる。また、各第4位相差画素93b及び各第4補間画素97bを含む第4画素群の出力が得られる。
スプリットイメージ処理部54は、第3画素群からの出力信号(出力)の輝度成分を基に白黒の第3画像データ61L’(図25参照)を生成し、第4画素群からの出力信号の輝度成分を基に白黒の第4画像データ61R’(図25参照)を生成する。これにより、第3画像データ61L’と第4画像データ61R’とを含む白黒のスプリットイメージデータが得られる。これにより、縦撮りを行った場合でも図11及び図12に示したような上下に分割された白黒のスプリットイメージ66がライブビュー画像67内に表示される。
[その他]
上記各実施形態のカラー撮像素子のカラーフィルタ配列は、水平及び垂直方向に繰り返し配置された6×6画素に対応する基本配列パターンPにより構成されているが、N×N画素(Nは3以上)に対応する配列パターンの基本配列パターンにより構成されていてもよい。
上記各実施形態では、RGBの3原色のカラーフィルタのカラーフィルタ配列について説明したが、例えばRGBの3原色+他の色(例えば、エメラルド(E))の4色のカラーフィルタのカラーフィルタ配列であっても良く、カラーフィルタの種類は特に限定されない。また、本発明は、原色RGBの補色であるC(シアン)、M(マゼンタ)、Y(イエロー)のカラーフィルタのカラーフィルタ配列にも適用できる。
上記第1実施形態では、第1及び第2位相差画素36a,36bが各垂直列42と各水平行43とにそれぞれ間隔をあけて交互に設けられているが、第1及び第2位相差画素36a,36bがそれぞれ各垂直列42に設けられていれば、第1及び第2位相差画素36a,36bの配置は特に限定されない。さらに、各垂直列42の間隔と各水平行43の間隔についても適宜変更してもよい。この場合においても、画素補間処理により第1及び第2画素群57a,57bの各画素を垂直方向に沿って等間隔で配置可能なように第1及び第2位相差画素36a,36bを配置することが好ましい。なお、第2実施形態から第6実施形態についても同様である(第3及び第4位相差画素も含む)。
上記1実施形態では、撮像面23aの中央領域に第1及び第2位相差画素36a,36bが設けられているが、撮像面の任意の領域に第1及び第2位相差画素36a,36bを設けてもよい。さらに、撮像面の全面に第1及び第2位相差画素36a,36bを設けてもよい。なお、第2実施形態から第6実施形態についても同様である(第3及び第4位相差画素も含む)。
上記第1実施形態では、撮像面23aに2種類の第1及び第2位相差画素36a,36bが設けられているが、視差量の異なる第1画像及び第2画像(スプリットイメージ)を生成可能な複数種類の第1及び第2位相差画素36a,36bを撮像面に設けてもよい。画像処理回路29は、操作部9でのスプリットイメージの切替操作に応じて、第1及び第2位相差画素36a,36bの種類を選択して、スプリットイメージデータの生成を行う。これにより、表示部8に表示するスプリットイメージの種類を任意に切り替えることができる。
上記各実施形態では本発明の撮像装置としてデジタルカメラを例に挙げて説明を行ったが、例えば、カメラ機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機にも本発明を適用することができる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
上記第1実施形態では、各垂直列42にG色の第1及び第2位相差画素36a,36bを設けているが、R色やB色などのG色以外の第1及び第2位相差画素を代わりに設けてもよい。なお、第5実施形態以外の各実施形態についても同様である。
<スマートフォンの構成>
図28は、スマートフォン500の外観を示すものである。図28に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532、操作部540と、カメラ部541とを備えている。なお、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図29は、図28に示すスマートフォン500の構成を示すブロック図である。図29に示すように、スマートフォンの主たる構成要素として、無線通信部510と、表示入力部520と、通信部530と、操作部540と、カメラ部541と、記憶部550と、外部入出力部560と、GPS(Global Positioning System)受信部570と、モーションセンサ部580と、電源部590と、主制御部501とを備える。また、スマートフォン500の主たる機能として、基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部510は、主制御部501の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部520は、主制御部501の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。生成された3D画像を鑑賞する場合には、表示パネル521は、3D表示パネルであることが好ましい。
表示パネル521は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
図28に示すように、スマートフォン500の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。この配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
尚、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通信部530は、スピーカ531やマイクロホン532を備え、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力したり、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力するものである。また、図28に示すように、例えば、スピーカ531を表示入力部520が設けられた面と同じ面に搭載し、マイクロホン532を筐体502の側面に搭載することができる。
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図29に示すように、操作部540は、スマートフォン500の筐体502の表示部の下部、下側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部550は、主制御部501の制御プログラムや制御データ、本発明に係る左目画像及び右目画像を生成するための画像処理プログラムを含むアプリケーションソフトウェア、立体視画像を生成するために使用する第1及び第2のデジタルフィルタ群、視差マップ、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部552により構成される。なお、記憶部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、Micro SD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部560は、スマートフォン500に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して続されるメモリカード(MEMORY CARD)やSIM(SUBSCRIBER IDENTITY MODULE CARD)/UIM(USER IDENTITY MODULE CARD)カード、オーディオ・ビデオI/O(INPUT/OUTPUT)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDAイヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達することや、スマートフォン500の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部570は、主制御部501の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン500の緯度、経度、高度からなる位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部580は、例えば、3軸の加速度センサなどを備え、主制御部501の指示にしたがって、スマートフォン500の物理的な動きを検出する。スマートフォン500の物理的な動きを検出することにより、スマートフォン500の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
電源部590は、主制御部501の指示にしたがって、スマートフォン500の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部501は、マイクロプロセッサを備え、記憶部550が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン500の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部550が記憶するアプリケーションソフトウェアにしたがって主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能、本発明に係る2D画像から3D画像を生成する機能などがある。
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。尚、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル521に重ならない外縁部分(非表示領域)かを判定し、操作パネル522の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部(撮像装置)541は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge-Coupled Device)などの撮像素子を用いて電子撮影するデジタルカメラであり、上記各実施形態のデジタルカメラと基本的に同じ構成である。
また、カメラ部541は、主制御部501の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力したりすることができる。図28に示すにスマートフォン500において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、あるいは複数のカメラ部541が搭載されてもよい。なお、複数のカメラ部541が搭載されている場合には、撮影に供するカメラ部541を切り替えて単独にて撮影したり、あるいは、複数のカメラ部541を同時に使用して撮影したりすることもできる。
また、カメラ部541はスマートフォン500の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力の一つとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。更には、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに或いは3軸の加速度センサと併用して、スマートフォン500のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部570により取得した位置情報、マイクロホン532により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部580により取得した姿勢情報等などを付加して記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力したりすることもできる。
<スプリットイメージの他実施形態>
上記各実施形態では、スプリットイメージ66として水平方向に平行な分割線63で2分割されているものを例に挙げて説明を行ったが、本発明のスプリットイメージはこれに限定されるものではない。本発明のスプリットイメージには、2つの位相差画像(第1画像、第2画像)を重畳して合成表示したときに、ピントがずれている場合には2重像として表示され、ピントが合った状態ではクリアに表示されるものが含まれる。例えば、スプリットイメージ66として垂直方向に平行な分割線で2分割されているものを用いてもよい。
また、例えば、図30に示すスプリットイメージ66aは、水平方向に平行な複数の分割線63aにより奇数ラインと偶数ラインとに分割されている。このスプリットイメージ66aでは、第1画素群57aからの出力信号に基づき生成されたライン状(短冊状)の第1画像66Laが奇数ライン(偶数ラインでも可)に表示され、第2画素群57bからの出力信号に基づき生成されたライン状(短冊状)の第2画像66Raが偶数ラインに表示される。
また、図31に示すスプリットイメージ66bは、水平方向に傾き角を有する分割線63b(例えば、スプリットイメージ66bの対角線)により2分割されている。このスプリットイメージ66bでは、第1画素群57aからの出力信号に基づき生成された第1画像66Lbが一方の領域に表示され、第2画素群57bからの出力信号に基づき生成された第2画像66Rbが他方の領域に表示される。
また、図32A,32Bに示すスプリットイメージ66cは、水平方向及び垂直方向にそれぞれ平行な格子状の分割線63cにより分割されている(図32A参照)。スプリットイメージ66cでは、第1画素群57aからの出力信号に基づき生成された第1画像66Lcが市松模様(チェッカーパターン)状に並べて表示されるとともに、第2画素群57bからの出力信号に基づき生成された第2画像66Rcが市松模様状に並べて表示される(図32B参照)。
このように各スプリットイメージ66a〜66cにおいても、フォーカスレンズ16が合焦位置にセットされると、第1画像66La,66Lb,66Lcと第2画像66Ra,66Rb,66Rcとのずれ量がゼロとなる。
2,70,90…デジタルカメラ,8…表示部,16…フォーカスレンズ,17…撮影光学系,23,80…カラー撮像素子,35…R画素,36…G画素,37…B画素,36a,82a,83a…第1位相差画素,36b,82b,83b…第2位相差画素,37…B画素,42…垂直列,43…水平行,53…補間処理部,54…スプリットイメージ処理部,55…撮影画像データ,56a…第1補間画素,56b…第2補間画素,57a…第1画素群,57b…第2画素群,61…スプリットイメージデータ,61L…第1画像データ,61R…第2画像データ,66…スプリットイメージ,66L…第1画像,66R…第2画像,73…平均値算出部,74…ゲイン算出部,75…ゲイン調整部,93a…第3位相差画素,93b…第4位相差画素

Claims (12)

  1. フォーカスレンズを含む撮影光学系と、
    フォーカス操作を受けて、前記フォーカスレンズを前記撮影光学系の光軸方向に移動させるレンズ移動機構と、
    光電変換素子を含む複数の画素が第1の方向に配列されてなる複数の第1画素列と、前記複数の画素が前記第1の方向とは垂直な第2の方向に配列されてなる複数の第2画素列と含むマトリクス状の画素配列が形成された撮像面を有する撮像素子であって、前記複数の画素は、前記撮影光学系の互いに異なる領域をそれぞれ通過した各被写体光を瞳分割により選択的に受光する第1位相差画素及び第2位相差画素と、前記各被写体光をそれぞれ受光する通常画素とを含んでおり、前記第1の方向は、前記撮影光学系により前記撮像面上にそれぞれ結像された前記各被写体光の像のずれ方向に対応する位相差方向に平行であり、前記第2画素列には、前記第1及び第2位相差画素がそれぞれ複数設けられている撮像素子と、
    各前記第1位相差画素の出力に基づき、前記第2画素列内の前記第1位相差画素間に位置する第1補間画素の出力を補間処理により求める第1補間手段と、
    各前記第2位相差画素の出力に基づき、前記第2画素列内の前記第2位相差画素間に位置する第2補間画素の出力を補間処理により求める第2補間手段と、
    前記通常画素の出力から撮影画像を生成する撮影画像生成手段と、
    前記第1位相差画素及び前記第1補間画素の出力により構成される第1画像と、前記第2位相差画素及び前記第2補間画素の出力により構成される第2画像とを用いてスプリットイメージを生成するスプリットイメージ生成手段と、
    前記撮影画像生成手段により生成された前記撮影画像を表示する表示手段であって、前記撮影画像の表示領域内に前記スプリットイメージ生成手段により生成された前記スプリットイメージを表示する表示手段と、
    を備える撮像装置。
  2. 前記第1補間手段は、前記第1位相差画素及び前記第1補間画素が前記第2の方向に沿って等間隔で配列されるように前記第1位相差画素間に前記第1補間画素を設定して、当該第1補間画素の出力を求め、
    前記第2補間手段は、前記第2位相差画素及び前記第2補間画素が前記第2の方向に沿って等間隔で配列されるように前記第2位相差画素間に前記第2補間画素を設定して、当該第2補間画素の出力を求める請求項1記載の撮像装置。
  3. 前記第1補間手段は、前記第2画素列内の2つの前記第1位相差画素の出力及び位置座標と、前記第1補間画素の位置座標とに基づき、線形補間法による内挿によって前記第1補間画素の出力を求め、
    前記第2補間手段は、前記第2画素列内の2つの前記第2位相差画素の出力及び位置座標と、前記第2補間画素の位置座標とに基づき、線形補間法による内挿によって前記第2補間画素の出力を求める請求項1または2記載の撮像装置。
  4. 前記撮像素子は、前記複数の画素上に所定のカラーフィルタ配列で配列されてなる複数色のカラーフィルタであって、輝度信号を得るために最も寄与する第1の色に対応する第1のフィルタと、前記第1の色以外の2色以上の第2の色に対応する第2のフィルタとを含む複数色のカラーフィルタを有し、
    前記第1及び第2位相差画素上には前記第1のフィルタが設けられており、
    前記スプリットイメージ生成手段は、前記第1位相差画素及び前記第1補間画素の出力の輝度成分を基に生成される白黒の前記第1画像と、前記第2位相差画素及び前記第2補間画素の出力の輝度成分を基に生成される白黒の前記第2画像とを用いて前記スプリットイメージを生成する請求項1から3のいずれか1項記載の撮像装置。
  5. 各前記通常画素上には、前記第1及び第2のフィルタが配列されており、
    前記撮影画像生成手段は、前記通常画素の出力に基づきフルカラーの前記撮影画像を生成する請求項4記載の撮像装置。
  6. 前記第1の色は緑色(G)であり、前記第2の色の各色は赤色(R)及び青色(B)である請求項4または5に記載の撮像装置。
  7. 前記通常画素の出力と、前記第1及び第2位相差画素のそれぞれの出力とを比較する比較手段と、
    前記比較手段の比較結果に基づき、前記第1及び第2位相差画素の出力にそれぞれゲインをかけて、前記第1及び第2位相差画素の出力と前記通常画素の出力とを同じにするゲイン調整手段と、を備える請求項1からのいずれか1項記載の撮像装置。
  8. 前記第1及び第2位相差画素は、複数の前記第2画素列内においてそれぞれ間隔をあけて交互に設けられている請求項1からのいずれか1項記載の撮像装置。
  9. 前記第1及び第2位相差画素は、複数の前記第1画素列内においてそれぞれ間隔をあけて交互に設けられている請求項1からのいずれか1項記載の撮像装置。
  10. 前記スプリットイメージは、前記第1画像と前記第2画像とを前記第2の方向に並べて配置してなる画像である請求項1からのいずれか1項記載の撮像装置。
  11. 前記撮影光学系の互いに異なる領域は、前記第2の方向に平行な第1直線に対して対称な第1領域及び第2領域であり、
    前記第1位相差画素は、前記第1領域及び第2領域の一方を透過した被写体光を選択的に受光し、前記第2位相差画素は、前記第1領域及び第2領域の他方を透過した被写体光を選択的に受光する請求項1から10のいずれか1項記載の撮像装置。
  12. 複数の前記第1画素列にそれぞれ複数設けられた第3位相差画素であって、前記撮影光学系の前記第1の方向に平行な第2直線に対して対称な第3領域及び第4領域の一方を透過した被写体光を選択的に受光する第3位相差画素と、
    複数の前記第1画素列にそれぞれ複数設けられた第4位相差画素であって、前記第3領域及び第4領域の他方を透過した被写体光を選択的に受光する第4位相差画素と、
    前記撮影光学系の光軸を中心とする前記撮像素子の回転を検出する回転検出手段と、を備え、
    前記第1補間手段は、前記回転検出手段の検出結果に基づき、前記第1画素列が前記第2の方向に平行になったときに、各前記第3位相差画素の出力に基づき、前記第1画素列内の前記第3位相差画素間に位置する第3補間画素の出力を補間処理により求め、
    前記第2補間手段は、前記回転検出手段の検出結果に基づき、前記第1画素列が前記第2の方向に平行になったときに、各前記第4位相差画素の出力に基づき、前記第1画素列内の前記第4位相差画素間に位置する第4補間画素の出力を補間処理により求め、
    前記スプリットイメージ生成手段は、前記回転検出手段の検出結果に基づき、前記第1画素列が前記第2の方向に平行になったときに、前記第3位相差画素及び前記第3補間画素の出力により構成される第3画像と、前記第4位相差画素及び前記第4補間画素の出力により構成される第4画像とを用いてスプリットイメージを生成する請求項11記載の撮像装置。
JP2014518379A 2012-06-01 2013-05-16 撮像装置 Expired - Fee Related JP5747124B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014518379A JP5747124B2 (ja) 2012-06-01 2013-05-16 撮像装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012126164 2012-06-01
JP2012126164 2012-06-01
JP2014518379A JP5747124B2 (ja) 2012-06-01 2013-05-16 撮像装置
PCT/JP2013/063631 WO2013179899A1 (ja) 2012-06-01 2013-05-16 撮像装置

Publications (2)

Publication Number Publication Date
JP5747124B2 true JP5747124B2 (ja) 2015-07-08
JPWO2013179899A1 JPWO2013179899A1 (ja) 2016-01-18

Family

ID=49673102

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014518379A Expired - Fee Related JP5747124B2 (ja) 2012-06-01 2013-05-16 撮像装置

Country Status (4)

Country Link
US (1) US9167153B2 (ja)
JP (1) JP5747124B2 (ja)
CN (1) CN104396227B (ja)
WO (1) WO2013179899A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5702895B2 (ja) * 2012-07-06 2015-04-15 富士フイルム株式会社 カラー撮像素子および撮像装置
JP5926391B2 (ja) * 2012-09-19 2016-05-25 富士フイルム株式会社 撮像装置及び合焦確認表示方法
WO2014046037A1 (ja) * 2012-09-19 2014-03-27 富士フイルム株式会社 撮像装置及びその制御方法
WO2014046039A1 (ja) * 2012-09-19 2014-03-27 富士フイルム株式会社 撮像装置及び合焦確認表示方法
CN105026976B (zh) * 2013-03-29 2017-05-03 富士胶片株式会社 图像处理装置、摄像装置及图像处理方法
JP6532119B2 (ja) * 2013-04-30 2019-06-19 キヤノン株式会社 撮像装置及びその制御方法
JP6427720B2 (ja) * 2016-06-01 2018-11-21 富士フイルム株式会社 撮像素子及び撮像装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000324337A (ja) * 1999-05-10 2000-11-24 Victor Co Of Japan Ltd 画像拡大縮小装置
JP2001309210A (ja) 2000-04-27 2001-11-02 Minolta Co Ltd デジタルカメラ
JP3929034B2 (ja) 2002-07-08 2007-06-13 富士フイルム株式会社 マニュアルフォーカス装置
US7099575B2 (en) 2002-07-08 2006-08-29 Fuji Photo Film Co., Ltd. Manual focus device and autofocus camera
JP5043626B2 (ja) 2007-12-13 2012-10-10 キヤノン株式会社 撮像装置
US8279318B2 (en) * 2007-12-14 2012-10-02 Canon Kabushiki Kaisha Image pickup apparatus and display control method for the same
JP5294794B2 (ja) * 2007-12-14 2013-09-18 キヤノン株式会社 撮像装置及び画像表示方法
JP5207819B2 (ja) * 2008-05-13 2013-06-12 キヤノン株式会社 撮像装置
JP5424679B2 (ja) * 2009-03-18 2014-02-26 キヤノン株式会社 撮像装置及び信号処理装置
JP5361535B2 (ja) * 2009-05-25 2013-12-04 キヤノン株式会社 撮像装置
JP5655543B2 (ja) * 2010-12-20 2015-01-21 ソニー株式会社 画像処理装置、画像処理方法およびプログラム。
JP5529928B2 (ja) * 2012-06-14 2014-06-25 オリンパスイメージング株式会社 撮像装置及び撮像装置の制御方法
WO2014006783A1 (ja) * 2012-07-06 2014-01-09 富士フイルム株式会社 撮像装置及び画像処理方法
JP5749403B2 (ja) * 2012-07-06 2015-07-15 富士フイルム株式会社 撮像装置及び画像処理方法
CN104782110B (zh) * 2012-09-19 2018-09-14 富士胶片株式会社 图像处理装置、摄像装置及图像处理方法
JP6305006B2 (ja) * 2013-10-18 2018-04-04 キヤノン株式会社 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体

Also Published As

Publication number Publication date
US20150070551A1 (en) 2015-03-12
CN104396227A (zh) 2015-03-04
JPWO2013179899A1 (ja) 2016-01-18
CN104396227B (zh) 2016-10-12
US9167153B2 (en) 2015-10-20
WO2013179899A1 (ja) 2013-12-05

Similar Documents

Publication Publication Date Title
JP5753321B2 (ja) 撮像装置及び合焦確認表示方法
JP5937690B2 (ja) 撮像装置及びその制御方法
JP5542249B2 (ja) 撮像素子及びこれを用いた撮像装置及び撮像方法
JP5747124B2 (ja) 撮像装置
JP6084982B2 (ja) 撮像装置
JP5926391B2 (ja) 撮像装置及び合焦確認表示方法
JP5799178B2 (ja) 撮像装置及び合焦制御方法
US9609224B2 (en) Imaging device and image display method
US9277201B2 (en) Image processing device and method, and imaging device
JP5833254B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US9288472B2 (en) Image processing device and method, and image capturing device
WO2018168551A1 (ja) 撮像素子及び撮像装置
JP5542248B2 (ja) 撮像素子及び撮像装置
JPWO2015111269A1 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP2013211790A (ja) 撮像装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150422

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150511

R150 Certificate of patent or registration of utility model

Ref document number: 5747124

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees