JP5264131B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP5264131B2
JP5264131B2 JP2007238948A JP2007238948A JP5264131B2 JP 5264131 B2 JP5264131 B2 JP 5264131B2 JP 2007238948 A JP2007238948 A JP 2007238948A JP 2007238948 A JP2007238948 A JP 2007238948A JP 5264131 B2 JP5264131 B2 JP 5264131B2
Authority
JP
Japan
Prior art keywords
pixel group
focus detection
focus
imaging
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007238948A
Other languages
English (en)
Other versions
JP2009069577A (ja
Inventor
謙一郎 天野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007238948A priority Critical patent/JP5264131B2/ja
Priority to EP08830582.6A priority patent/EP2191318B1/en
Priority to US12/670,178 priority patent/US8212917B2/en
Priority to CN2008801071666A priority patent/CN101802673B/zh
Priority to PCT/JP2008/066915 priority patent/WO2009035147A1/en
Publication of JP2009069577A publication Critical patent/JP2009069577A/ja
Application granted granted Critical
Publication of JP5264131B2 publication Critical patent/JP5264131B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • G02B7/365Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals by analysis of the spatial frequency components of the image
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)

Description

本発明は、デジタルカメラやビデオカメラ等の撮像装置に関し、特に撮像素子からの出力を用いてフォーカス制御を行う撮像装置に関する。
撮像装置に用いられている撮像素子を構成する一部の画素の光学特性を他の画素と異ならせて、該一部の画素からの出力に基づいて焦点検出を行う撮像装置が特許文献1にて開示されている。
特許文献1にて開示された撮像装置では、撮像素子の一部に互いに対をなす焦点検出画素を複数配置する。ここで、図6には、画素行列のうち一部の行に焦点検出画素を配置した撮像素子の画素配置例を示す。
図6において、R,G,Bはそれぞれ、赤フィルタ、緑フィルタ、青フィルタが配置された通常の撮像画素である。また、S1,S2は第1及び第2の焦点検出画素であり、撮像画素とは光学特性が異なる。
図7には、第1の焦点検出画素S1の構造を示す。図7において、第1の焦点検出画素の光入射側には、マイクロレンズ501が形成されている。502はマイクロレンズ501を形成するための平面を構成する平滑層である。
503は遮光層であり、第1の焦点検出画素S1の光電変換領域504の中心Oに対して一方向に偏心した絞り開口部を有する。
また、図8には、第2の焦点検出画素S2の構造を示す。図8において、第2の焦点検出画素の光入射側には、マイクロレンズ601が形成されている。602はマイクロレンズ601を形成するための平面を構成する平滑層である。
603は遮光層であり、第2の焦点検出画素S2の光電変換領域604の中心Oに対して、第1の焦点検出画素S1に設けられた遮光層503とは反対方向に偏心した絞り開口部を有する。すなわち、第1及び第2の焦点検出画素S1,S2の遮光層503,603は、各マイクロレンズの光軸を挟んだ対称な位置に絞り開口部を有する。
このような構成によれば、撮像光学系を第1の焦点検出画素S1から見た場合と第2の焦点検出画素S2から見た場合とで、撮像光学系の瞳が対称に分割されたことと等価となる。
図6において、第1の焦点検出画素S1を含む行と第2の焦点検出画素S2を含む行には、撮像素子の画素数が多くなるにつれてより近似した2像が形成されるようになる。撮像光学系が被写体に対してピントが合っている状態では、第1の焦点検出画素S1を含む行と第2の焦点検出画素S2を含む行から得られる出力(像信号)は互いに一致する。
これに対し、撮像光学系のピントがずれているならば、第1の焦点検出画素S1を含む行と第2の焦点検出画素S2を含む行から得られる像信号には位相差が生じる。そして、該位相差の方向は、前ピン状態と後ピン状態とで逆になる。
図9A及び図9Bには、ピント状態と位相差との関係を示す。これらの図においては、両焦点検出画素S1,S2を互いに近づけて、それぞれをA,Bの点として示している。また、撮像画素は省略している。
被写体上の特定点からの光束は、焦点検出画素Aに対応する分割瞳を通って該焦点検出画素Aに入射する光束ΦLaと、焦点検出画素Bに対応する分割瞳を通って該焦点検出画素Bに入射する光束ΦLbとに分割される。これら2つの光束は、被写体上の同一点から入射しているため、撮像光学系のピントが合った状態では、図9Aに示すように、同一のマイクロレンズを通過して撮像素子上の1点に到達する。したがって、第1の焦点検出画素A(S1)を含む行と第2の焦点検出画素B(S2)を含む行からそれぞれ得られる像信号は互いに一致する。
しかし、図9Bに示すように、xだけピントがずれている状態では、光束ΦLa,ΦLbのマイクロレンズへの入射角の変化分だけ両光束ΦLa,ΦLbの到達位置が互いにずれる。したがって、第1の焦点検出画素A(S1)を含む行と第2の焦点検出画素B(S2)を含む行からそれぞれ得られる像信号には位相差が生じる。
以上のことを利用して、特許文献1にて開示された撮像装置は撮像素子を用いた位相差検出方式でのフォーカス制御を行う。
また、特許文献2には、撮像素子からの出力を用いた位相差検出方式のフォーカス制御とコントラスト検出方式のフォーカス制御とを行うことが可能な撮像装置において、被写体としての横線と縦線の検出に適したフォーカス制御を行う撮像装置が開示されている。
特開2000−156823号公報 特開2001−305415号公報
しかしながら、特許文献1にて開示された撮像装置では、デフォーカス量が大きい場合において第1及び第2の焦点検出画素上に形成される2像が互いに非対称となり、位相差つまりはデフォーカス量を正しく求めることが難しくなる。
特許文献2には、位相差検出方式により得られたデフォーカス量の信頼性が低い場合にはコントラスト検出方式でフォーカス制御を行うことが開示されている。ただし、特許文献2には、焦点検出画素を使用して行うコントラスト検出方式のフォーカス制御と、焦点検出画素以外の画素を使用して行うコントラスト検出方式のフォーカス制御との使い分けについては開示されていない。
本発明は、焦点検出画素を用いた位相差検出方式のフォーカス制御に加えて、焦点検出画素を用いたコントラスト検出方式のフォーカス制御と焦点検出画素以外の画素を用いたコントラスト検出方式のフォーカス制御を行うことが可能な撮像装置を提供する。
本発明の一側面としての撮像装置は、撮像光学系からの光束により形成された被写体像を光電変換する第1の画素群、及び撮像光学系からの光束のうち分割された光束を光電変換する複数の焦点検出画素を含む第2の画素群を有する撮像素子を有する。そして、制御手段は、撮像光学系のデフォーカス量に応じて、第2の画素群からの出力を用いた位相差検出方式による第1のフォーカス制御を行うか第1の画素群からの出力を用いたコントラスト検出方式による第2のフォーカス制御及び第2の画素群からの出力を用いたコントラスト検出方式による第3のフォーカス制御を行うかを切り換えことを特徴とする。
また、本発明の他の一側面としての撮像装置の制御方法は、撮像光学系からの光束により形成された被写体像を光電変換する第1の画素群、及び撮像光学系からの光束のうち分割された光束を光電変換する複数の焦点検出画素を含む第2の画素群を有する撮像素子を備えた撮像装置に適用される。該制御方法は、第2の画素群からの出力を用いた位相差検出方式による第1のフォーカス制御を行うステップと、第1の画素群からの出力を用いたコントラスト検出方式による第2のフォーカス制御を行うステップと、第2の画素群からの出力を用いたコントラスト検出方式による第3のフォーカス制御を行うステップと、撮像光学系のデフォーカス量に応じて、第1のフォーカス制御を実行するか第2及び第3のフォーカス制御を実行するかを切り換えるステップとを有することを特徴とする。
本発明によれば、位相差検出方式による第1のフォーカス制御に加えて、コントラスト検出方式による第2及び第3のフォーカス制御を行うことで、デフォーカス量や被写体にかかわらず、良好な精度の合焦状態を得ることができる。
以下、本発明の好ましい実施例について図面を参照しながら説明する。
図1には、本発明の実施例である撮像装置としてのデジタルカメラの構成を示す。
カメラ100は、被写体から光束により被写体像を形成する撮像光学系101と、該撮像光学系101に含まれるフォーカスレンズ(図示せず)の位置を制御するレンズ制御部102と、撮像光学系101からの入射光量を調節する絞り103とを有する。さらに、カメラ100は、撮像光学系101からの光束によって被写体像がその受光面上に形成されるCMOSセンサにより構成される光電変換素子としての撮像素子104を備えている。
撮像素子104は、それぞれR,G,Bのうちいずれか1色のカラーフィルタを有し、撮像光学系101により形成される被写体像を光電変換する複数の撮像画素により構成される撮像画素群(第1の画素群)105を有する。撮像画素群105は、被写体画像を生成するために用いられる撮像信号を出力する。また、撮像素子104は、撮像光学系101の焦点状態の検出(焦点検出)に用いられる一対の像信号を出力する焦点検出画素群(第2の画素群)106を有する。
焦点検出画素群106は、後述する瞳分割光学系107により瞳分割された光束を光電変換する、それぞれ複数の第1及び第2の焦点検出画素を含む。複数の第1の焦点検出画素により第1の位相差センサが構成され、複数の第2の焦点検出画素により第2の位相差センサが構成される。そして、第1の位相差センサは、上記一対の像信号のうち一方の像信号を出力し、第2の位相差センサは、上記一対の像信号のうち他方の像信号を出力する。
さらに、撮像素子104は、第1の位相差センサと第2の位相差センサとに、撮像光学系101からの光束のうち瞳分割した光束をそれぞれ入射させるための瞳分割光学系107を備えている。
ここで、図2には、本実施例に用いられる撮像素子104の画素配列を示している。図2において、焦点検出画素群106における第1の焦点検出画素をS1とし、第2の焦点検出画素をS2として示している。
第1及び第2の焦点検出画素S1,S2の構造はそれぞれ、図7及び図8に示した構造と同様である。すなわち、第1及び第2の焦点検出画素S1,S2に設けられた遮光層が、瞳分割光学系107としてのマイクロレンズの光軸を挟んだ対称な位置に絞り開口部を有する構造を有している。
図2において、第1の焦点検出画素S1が離散的に挿入された画素行が第1の位相差センサを構成する。また、第1の位相差センサに対して所定間隔(図2では1画素分の間隔)をあけて配置され、第2の焦点検出画素S2が離散的に挿入された画素行が第2の位相差センサを構成する。そして、これら第1及び第2の位相差センサを含む1つの焦点検出画素群(第2の画素群)が1つの焦点検出エリアを形成する。図2では、撮像素子104の上部と下部にそれぞれ第1の焦点検出エリア及び第2の焦点検出エリアが配置されている。
カメラ100は、各焦点検出エリアの第1及び第2の位相差センサから出力される一対の像信号の位相差を相関演算を用いて求める焦点検出部(焦点検出手段)108を有する。
ここで、「第1及び第2の位相差センサ(言い換えれば焦点検出画素群106)から出力される一対の像信号」とは、基本的には、焦点検出画素S1,S2の出力信号のみから生成された一対の像信号である。ただし、焦点検出画素群全体の出力信号から一対の像信号を生成してもよい。
焦点検出部108は、さらに該位相差に基づいて、その焦点検出エリアに像が形成されている被写体に対する撮像光学系101の焦点状態を示すデフォーカス量を算出する。
なお、本実施例では、焦点検出部108でデフォーカス量の算出まで行う場合について説明するが、焦点検出部108では像信号の位相差を演算し、後述するカメラ制御部117で該位相差に基づいてデフォーカス量を算出するようにしてもよい。また、本実施例では、焦点状態をデフォーカス量として説明するが、位相差を焦点状態として扱ってもよい。
このようにして、焦点検出部108は、各焦点検出エリアで個別に焦点検出(デフォーカス量の算出)を行う。
焦点検出画素群106(第1及び第2の焦点検出画素S1,S2)では、図7及び図8からも分かるように、画素ごとに設けられた遮光層によって視野が制限されており、またカラーフィルタが設けられていない。したがって、焦点検出画素群106からの像信号のレベルは、撮像画素群105のうち焦点検出画素群106の近傍に位置する複数の画素(以下、近傍画素群という)から出力される像信号のレベルと異なってしまう。
このため、カメラ100は、焦点検出画素群106からの像信号を近傍画素群の像信号のレベルに近づけるために、焦点検出画素群106からの像信号に対するゲインを調整するゲイン調整部111を有する。
また、カメラ100は、近傍画素群(撮像画素群105)からの像信号に含まれる特定の周波数成分(高周波成分)の強度を検出する空間周波数検出部(周波数成分検出手段)109を有する。該高周波成分は、近傍画素群上(第1の画素群上)に形成される被写体像の空間周波数成分を表す。
さらに、カメラ100は、判定切換部110を有する。判定切換部110は、焦点検出画素群106を用いて検出された焦点状態に応じて後述する画素補間部112で補間処理を行うか否かと、空間周波数検出部109により検出された高周波成分の強度に応じて画素補間部112で補間処理を行うか否かとを切り換える。
画素補間部(画像生成手段)112は、焦点検出画素群106に対応する画像データを近傍画素群の出力に基づいて補間して生成する。言い換えれば、画素補間部112は、撮像素子104からの出力により得られる画像全体の中で、焦点検出画素群106に対応する部分画像を撮像画素群105(近傍画素群)の出力に基づいて生成する。
「焦点検出画素群106に対応する画像データ(部分画像)」は、焦点検出画素群106全体をカバーする領域に対する画像データであってもよいし、焦点検出画素S1,S2ごとの画像データであってもよい。
また、カメラ100は、撮像画素群105から出力される像信号に対して、ガンマ補正、ホワイトバランス調整、表示用のリサンプリング及び画像圧縮符号化等の画像処理を行う画像処理部113を有する。
さらに、カメラ100は、画像処理部113から出力された画像データ(静止画データ)を表示する表示部114と、該画像データを半導体メモリや光ディスク等の記録媒体に記録する記録部115を有する。また、カメラ100は、使用者の操作入力を受け付ける操作部116と、カメラ100全体を制御する制御手段としてのカメラ制御部117とを有する。
カメラ制御部117は、焦点検出部108から得られるデフォーカス量に基づいて、合焦を得るためのフォーカスレンズの駆動量を算出する。算出された駆動量はレンズ制御部102に出力され、レンズ制御部102は該駆動量に基づいてフォーカスレンズを移動させる。
このようにして、カメラ制御部117は、図4において丸囲み「1」に示すように、焦点検出画素106からの出力(像信号)を用いた位相差検出方式AF(第1のフォーカス制御:以下、単に位相差AFという)を行い、合焦状態を得ることができる。ただし、この位相差検出方式AFでは、後述するコントラスト検出方式AFで得られる合焦状態に比べて、合焦状態とみなされる範囲が広い。
さらにカメラ100は、鮮鋭度検出部118を有する。鮮鋭度検出部118は、撮像画素群105又は焦点検出画素群106からの撮像信号に含まれる高周波成分を検出(抽出)する。そして、該高周波成分に基づいてフォーカス評価情報(AF評価値信号)を生成し、カメラ制御部117に出力する。フォーカス評価情報は、被写体像のコントラスト状態、言い換えれば、鮮鋭度を表す。
カメラ制御部117は、フォーカス評価情報の値が最大となる位置にフォーカスレンズを移動させて合焦状態を得る。これはコントラスト検出方式AFであり、位相差検出方式AFとの組み合わせによって、より高精度かつ高速に合焦状態を得ることができる。
例えば、カメラ制御部117は、まず位相差検出方式AFを行い、フォーカスレンズを合焦位置近傍に移動させる。次に、カメラ制御部117は、コントラスト検出方式AFを行うことで、フォーカスレンズをより精度の高い合焦位置に移動させる。また、コントラスト検出方式のAFは、カメラ100によって動画を撮像する場合の合焦状態の維持にも有効である。
本実施例では、図4において丸囲み「2」で示すように、撮像画素群105からの出力(撮像信号)を用いたコントラスト検出方式AF(第2のフォーカス制御:以下、撮像画素コントラストAFという)を行うことができる。さらに、図4において丸囲み「3」で示すように、焦点検出画素群106からの出力(撮像信号)を用いたコントラスト検出方式AF(第3のフォーカス制御:以下、焦点検出画素コントラストAFという)も行うことができる。
なお、焦点検出画素コントラストAFを行う場合は、第1及び第2の焦点検出画素S1,S2からの出力のうちいずれか一方のみを用いるようにしてもよいし、これらを切り換えて用いるようにしてもよい。
図3には、本実施例のカメラ100(主としてカメラ制御部117)の動作を示す。この動作は、カメラ制御部117内の不図示のメモリに格納されたコンピュータプログラムに従って実行される。
カメラ制御部117は、操作部116からのAF指令信号(例えば、レリーズボタンの半押し操作によって出力される信号)が入力されることにより、ステップS301から動作を開始する。なお、ここでは、特に説明をしないが、AF動作と並行して露出演算等の撮像準備動作が行われているものとする。
ステップS301にて、カメラ制御部117は、AF動作を行う。ここで、AF動作を行う前のデフォーカス量がそれほど大きくない(小さい)場合は、上述した焦点検出画素群106からの出力を用いた位相差検出方式AFにより合焦状態を得ることができる。しかし、AF動作を行う前のデフォーカス量が大きい場合には、第1及び第2の焦点検出画素(位相差センサ)上に形成される2像が互いに非対称となることで、位相差、つまりはデフォーカス量を正しく求めることが難しくなる。
このため、本実施例では、ステップS301において、図5のフローチャートに示すAF動作を行う。
図5のステップS401では、カメラ制御部117は、撮像素子104における焦点検出画素群106での電荷蓄積を開始させる。そして、電荷蓄積の完了後、カメラ制御部117は、焦点検出画素群106から像信号を焦点検出部108に対して出力させる。焦点検出部108では、前述したようにデフォーカス量を算出してカメラ制御部117に出力する。カメラ制御部117は、焦点検出部108からデフォーカス量を取得する。
次に、ステップS402では、カメラ制御部117は、取得したデフォーカス量が所定量より大きいか否かを判別する。デフォーカス量が所定値より小さい場合は、ステップS405に進み、位相差AF「1」を行う。
一方、デフォーカス量が所定値より大きい場合は、ステップS403に進み、カメラ制御部117は、まず焦点検出画素コントラストAF「3」を行う。そして、ステップS404に進む。
ステップS404では、カメラ制御部117は、撮像画素コントラストAF「2」を行う。このようにして、デフォーカス量が精度の高い合焦状態とみなすことができる範囲まで小さくなることで、ステップS302に進む。
なお、焦点検出画素コントラストAF「3」によって十分な精度の合焦状態が得られた場合には、撮像画素コントラストAF「2」を行わなくてもよい。つまり、撮像画素コントラストAF「2」は、焦点検出画素コントラストAF「3」によっても十分な精度の合焦状態が得られない場合に行うようにしてもよい。
このように、本実施例では、デフォーカス量が大きい場合でも、焦点検出画素コントラストAF「3」及び撮像画素コントラストAF「2」を行うことで、焦点検出画素群106を有効に利用したコントラストAFによって合焦状態を得ることができる。つまり、焦点検出画素群106からの出力を用いた位相差AF、焦点検出画素コントラストAF「3」及び撮像画素コントラストAF「2」を切り換えて行うことで、デフォーカス量にかかわらず良好な合焦状態を得ることができる。
なお、ここではデフォーカス量に応じてAF「1」〜「3」のうち実行するAFを切り換える場合について説明したが、被写体に応じて実行するAFを切り換えるようにしてもよい。例えば、後述するように被写体の模様が繰り返しパターンである場合は位相差AFが困難な場合があるので、この場合にはコントラストAF「2」,「3」を行うようにしてもよい。
なお、AF動作によるフォーカスレンズの移動後、被写体像の変化によって露出条件が変化していることが考えられるため、新しいフォーカスレンズ位置にて露出演算を再度行い、その後、ステップS302に進む。
ステップS302では、カメラ制御部117は、操作部116から撮像指令信号(例えば、レリーズボタンの全押し操作によって出力される信号)が入力されたか否かを判定する。撮像指令信号が未入力である場合は、本ステップの判定を繰り返す。一方、撮像指令信号が入力された場合は、ステップS303に進む。
ステップS303では、カメラ制御部117は、被写体画像を取得する撮像のために、撮像素子104に撮像画素群105および焦点検出画素群106での電荷蓄積を開始させる。蓄積完了後、カメラ制御部117は、撮像画素105の像信号を空間周波数検出部109と画素補間部112に出力させ、焦点検出画素群106の像信号を焦点検出部108とゲイン調整部111に出力させる。この出力後、ステップS304に進む。
ステップS304では、カメラ制御部117は、カウンタを初期化する(n=1)。カウンタの数値nは、撮像素子104上に設けられたn個の焦点検出エリアの番号に対応する。
ステップS305では、カメラ制御部117及び判定切換部110は、第nの焦点検出エリアにおいて焦点検出ができたか否かを判定する。焦点検出画素106から得られる像信号の位相差に基づいてデフォーカス量を求める場合、繰り返しパターン模様を有する被写体に対しては正しく焦点検出できない場合がある。正しく焦点検出できない場合は、デフォーカス量に応じた画像データ補間の可否の判定ができない。このため、本実施例では、このような場合には、空間周波数検出部109で検出された高周波成分の検出結果に応じた画像データ補間の可否判定を行う。これは、高周波成分の強度が高いということは、撮像光学系101のデフォーカス量が小さいとみなすことができるからである。
第nの焦点検出エリアで焦点検出ができた場合はステップS306に進み、焦点検出ができなかった場合はステップS311に進む。
ステップS306では、カメラ制御部117は、第nの焦点検出エリアにおけるデフォーカス量を焦点検出部108から取得し、該デフォーカス量が所定の閾値(第1の所定値)より小さいか否かを判定する。該判定は、第nの焦点検出エリアに形成された被写体像の空間周波数が、この焦点検出エリア(焦点検出画素群106)に対応する画像データを生成するための画素補間部112による画像データ補間を行うことで良好な全体画像が得られる値か否かの判定でもある。
ここで、多くの場合、デフォーカス量が大きい状態での像信号(被写体像)には高周波成分が少ない(コントラストが低い)。逆に、デフォーカス量が小さい状態(合焦状態に近い状態)での像信号には高周波成分が多い(コントラストが高い)。そして、前述したように、画素補間部112による画像データ補間を被写体像の空間周波数が低い状態で行う場合は画像の鮮鋭度の低下が目立たないが、被写体像の空間周波数が高い状態で行うと鮮鋭度の低下が目立つ。
そこで、本実施例では、焦点検出ができた場合は、デフォーカス量の大小に応じて画素補間部112による画像データ補間を行うか否かを切り換える。すなわち、デフォーカス量が閾値より小さい場合は画像データ補間を行わずにステップS307に進み、デフォーカス量が閾値より大きい場合は画像データ補間を行うためにステップS309に進む。
ステップS307では、カメラ制御部117は、第nの焦点検出エリア(以下、第nの焦点検出画素群106という)の平均像信号と近傍画素群の平均像信号とを比較する。そして、これらの信号レベルが同じ又は同じとみなせる範囲まで近づくように、ゲイン調整部111に第nの焦点検出画素群106の像信号にかけるゲインを調整させる。なお、画素群の平均像信号の比較に代えて、像信号のピーク値を比較してもよい。こうしてゲインを調整した後、ステップS308に進む。
ステップS308では、カメラ制御部117は、ステップS307でゲイン調整された第nの焦点検出画素群106の像信号を、撮像画素群105の像信号における第nの焦点検出画素群106に対応する領域(又は位置)に挿入する。これにより、撮像画素群105からの像信号に基づく画像と第nの焦点検出画素群106からの像信号(ゲイン調整後の像信号)に基づく部分画像とが合成された合成画像データが生成される。カメラ制御部117は、合成画像データを画像処理部113に出力する。その後、ステップS313に進む。
一方、ステップS309では、カメラ制御部117は、画素補間部112に、第nの焦点検出画素群106の近傍画素群の像信号に基づいて、第nの焦点検出画素群106に対応する補間用部分画像データを補間演算によって生成させる。すなわち、画素補間部112は、撮像素子104からの出力により得られる画像全体のうち、第nの焦点検出画素群106に対応する部分画像を撮像画素群105(近傍画素群)の出力に基づいて生成する。
ここで、本実施例では、撮像画素群105のカラーフィルタ配置の周期性から、特に焦点検出画素S1,S2に対して緑成分の画素信号を補間する必要がある。したがって、図2における近傍画素群のうち焦点検出画素S1,S2に斜め方向にて隣接する緑成分の画素の信号に基づいて、焦点検出画素S1,S2の位置に相当する画素信号を生成する。補間に用いる周辺画素としては、上述した焦点検出画素S1,S2に対して斜め方向に隣接する緑成分の画素に限らない。すなわち、さらに位置が離れた緑成分の画素も用い、信号レベルの位置的変化からエッジ検出を行って、被写体像のエッジ位置を考慮した補間演算を行ってもよい。
補間用部分画像データが生成された後、ステップS310に進む。
ステップS310では、カメラ制御部117は、ステップS309で生成された第nの焦点検出画素群106に対する補間用部分画像データの像信号を、撮像画素群105の像信号における第nの焦点検出画素群106に対応する領域(又は位置)に挿入する。これにより、撮像画素群105からの像信号に基づく画像と第nの焦点検出画素群106に対する補間用部分画像とが合成された合成画像データが生成される。カメラ制御部117は、合成画像データを画像処理部113に出力する。その後、ステップS313に進む。
また、ステップS311では、カメラ制御部117は、空間周波数検出部109に、第nの焦点検出画素群106に対する近傍画素群の像信号から高周波成分を検出させる。
そして、ステップS312では、カメラ制御部117は、ステップS311で検出された高周波成分の強度が所定の閾値(第2の所定値)より高いか否かを判定する。
前述したように、高周波成分の強度が閾値より高い(コントラストが高い)場合は、撮像光学系101のデフォーカス量が小さいとみなせるので、ステップS305で焦点検出ができ、ステップS306でデフォーカス量が閾値より小さい場合と同様に扱う。一方、高周波成分の強度が閾値より低い(コントラストが低い)場合は、撮像光学系101のデフォーカス量が大きいとみなせるので、ステップS305で焦点検出ができ、ステップS306でデフォーカス量が閾値より大きい場合と同様に扱う。
つまり、検出強度が閾値より高い場合は、画像データ補間を行わずにステップS307に進み、検出強度が閾値より低い場合は、画像データ補間を行うためにステップS309に進む。
ステップS313では、カメラ制御部117は、全て(n個)の焦点検出エリアに対してステップS305〜S312の処理を完了したか否かを判定する。まだ全ての焦点検出エリアに対して処理が終わっていなければ、ステップS314に進み、カウンタ値を1増やしてステップS305に戻る。これにより、次の焦点検出エリアに対する上記処理が行われる。一方、全ての焦点検出エリアに対して上記処理を終えていれば、ステップS315に進む。
ステップS315では、カメラ制御部117は、画像処理部113に、合成画像データに対するガンマ補正、ホワイトバランス調整、表示用のリサンプリング及び画像圧縮符号化を行わせる。画像処理部113は、これらの処理が施された画像データを表示部114に出力する。表示部114は、撮像された画像をユーザに確認させるため、該画像データを表示する。
また、画像処理部113は、上記処理が施された画像データを記録部115へも出力する。記録部115は、該画像データを記録媒体に記録する。
以上のような動作により、撮像素子104内に設けられる焦点検出画素の数が多くても、高い鮮鋭度を有する良好な画像を取得することができる。
以上説明した実施例は代表的な例にすぎず、本発明の実施に際しては、実施例に対して種々の変形や変更が可能である。
本発明の実施例であるデジタルカメラの構成を示すブロック図。 実施例における撮像画素群と焦点検出画素群の配列を示す図。 実施例のカメラの動作を示すフローチャート。 実施例のカメラにおけるAFの種類を示す図。 実施例のカメラのAF動作を示すフローチャート。 撮像画素群と焦点検出画素群の配列を示す図。 第1の焦点検出画素の構造を示す図。 第2の焦点検出画素の構造を示す図。 焦点状態(合焦状態)に応じた像信号の位相差を説明するための模式図。 焦点状態(前ピン状態)に応じた像信号の位相差を説明するための模式図。
符号の説明
100 デジタルカメラ(撮像装置)
101 撮像光学系
105 撮像画素群
106 焦点検出画素群
107 瞳分割光学系
109 空間周波数検出部
110 判定切換部
111 ゲイン調整部
112 画素補間部
113 画像処理部
117 カメラ制御部
118 鮮鋭度検出部
501,601 マイクロレンズ
503,603 遮光層
504,604 光電変換領域

Claims (4)

  1. 撮像光学系からの光束により形成された被写体像を光電変換する第1の画素群、及び前記撮像光学系からの光束のうち分割された光束を光電変換する複数の焦点検出画素を含む第2の画素群を有する撮像素子と、
    前記撮像光学系のデフォーカス量に応じて、前記第2の画素群からの出力を用いた位相差検出方式による第1のフォーカス制御を行うか前記第1の画素群からの出力を用いたコントラスト検出方式による第2のフォーカス制御及び第2の画素群からの出力を用いたコントラスト検出方式による第3のフォーカス制御を行うかを切り換え制御手段とを有することを特徴とする撮像装置。
  2. 前記制御手段は、前記デフォーカス量が前記所定値より小さい場合は前記第1のフォーカス制御を行い、前記デフォーカス量が所定量より大きい場合は前記第2及び第3のフォーカス制御を行うことを特徴とする請求項に記載の撮像装置。
  3. 前記制御手段は、前記第2及び第3のフォーカス制御を行う場合は、前記第3のフォーカス制御を行った後に前記第2のフォーカス制御を行うことを特徴とする請求項又はに記載の撮像装置。
  4. 撮像光学系からの光束により形成された被写体像を光電変換する第1の画素群、及び前記撮像光学系からの光束のうち分割された光束を光電変換する複数の焦点検出画素を含む第2の画素群を有する撮像素子を備えた撮像装置の制御方法であって、
    前記第2の画素群からの出力を用いた位相差検出方式による第1のフォーカス制御を行うステップと、
    前記第1の画素群からの出力を用いたコントラスト検出方式による第2のフォーカス制御を行うステップと、
    前記第2の画素群からの出力を用いたコントラスト検出方式による第3のフォーカス制御を行うステップと、
    前記撮像光学系のデフォーカス量に応じて、前記第1のフォーカス制御を実行するか前記第2及び前記第3のフォーカス制御を実行するかを切り換えるステップとを有することを特徴とする撮像装置の制御方法。
JP2007238948A 2007-09-14 2007-09-14 撮像装置 Expired - Fee Related JP5264131B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2007238948A JP5264131B2 (ja) 2007-09-14 2007-09-14 撮像装置
EP08830582.6A EP2191318B1 (en) 2007-09-14 2008-09-12 Imaging apparatus
US12/670,178 US8212917B2 (en) 2007-09-14 2008-09-12 Imaging apparatus
CN2008801071666A CN101802673B (zh) 2007-09-14 2008-09-12 摄像设备
PCT/JP2008/066915 WO2009035147A1 (en) 2007-09-14 2008-09-12 Imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007238948A JP5264131B2 (ja) 2007-09-14 2007-09-14 撮像装置

Publications (2)

Publication Number Publication Date
JP2009069577A JP2009069577A (ja) 2009-04-02
JP5264131B2 true JP5264131B2 (ja) 2013-08-14

Family

ID=40452145

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007238948A Expired - Fee Related JP5264131B2 (ja) 2007-09-14 2007-09-14 撮像装置

Country Status (5)

Country Link
US (1) US8212917B2 (ja)
EP (1) EP2191318B1 (ja)
JP (1) JP5264131B2 (ja)
CN (1) CN101802673B (ja)
WO (1) WO2009035147A1 (ja)

Families Citing this family (51)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5029274B2 (ja) 2007-10-10 2012-09-19 株式会社ニコン 撮像装置
US8279318B2 (en) * 2007-12-14 2012-10-02 Canon Kabushiki Kaisha Image pickup apparatus and display control method for the same
JP5219865B2 (ja) * 2008-02-13 2013-06-26 キヤノン株式会社 撮像装置及び焦点制御方法
JP2010091943A (ja) * 2008-10-10 2010-04-22 Canon Inc 撮像装置
JP5322783B2 (ja) * 2009-06-05 2013-10-23 キヤノン株式会社 撮像装置及び該撮像装置の制御方法
JP2011017800A (ja) * 2009-07-07 2011-01-27 Canon Inc 焦点検出装置
JP5653035B2 (ja) * 2009-12-22 2015-01-14 キヤノン株式会社 撮像装置、焦点検出方法、および制御方法
JP2011145559A (ja) * 2010-01-15 2011-07-28 Canon Inc 撮像装置
JP5454223B2 (ja) * 2010-02-25 2014-03-26 株式会社ニコン カメラ
JP5126261B2 (ja) * 2010-03-18 2013-01-23 株式会社ニコン カメラ
JP5322995B2 (ja) * 2010-05-10 2013-10-23 キヤノン株式会社 撮像装置及びその制御方法
JP2012003087A (ja) * 2010-06-17 2012-01-05 Olympus Corp 撮像装置
JP2012150289A (ja) * 2011-01-19 2012-08-09 Olympus Corp 画像処理装置、撮像装置、および画像処理方法
EP2690871A4 (en) * 2011-03-24 2014-11-05 Fujifilm Corp COLOR IMAGING ELEMENT, IMAGING DEVICE, AND IMAGING PROGRAM
TW201245768A (en) * 2011-03-29 2012-11-16 Sony Corp Image pickup apparatus, image pickup device, image processing method, aperture control method, and program
WO2012133427A1 (ja) 2011-03-30 2012-10-04 富士フイルム株式会社 撮像装置及びそのオートフォーカス制御方法
WO2012137650A1 (ja) * 2011-04-01 2012-10-11 富士フイルム株式会社 撮影装置及びプログラム
JP5967950B2 (ja) * 2011-04-20 2016-08-10 キヤノン株式会社 撮像素子及び撮像装置
JP2012226246A (ja) * 2011-04-22 2012-11-15 Nikon Corp 焦点検出装置および撮像装置
KR101777351B1 (ko) * 2011-05-16 2017-09-11 삼성전자주식회사 촬상 소자, 이를 이용한 디지털 촬영 장치, 오토 포커싱 방법, 및 상기 방법을 수행하기 위한 컴퓨터 판독가능 저장매체
JP5966283B2 (ja) * 2011-09-02 2016-08-10 株式会社ニコン カメラボディおよびカメラ
KR20130038035A (ko) * 2011-10-07 2013-04-17 삼성전자주식회사 촬상소자
JP5973708B2 (ja) * 2011-10-21 2016-08-23 オリンパス株式会社 撮像装置及び内視鏡装置
JP5888940B2 (ja) * 2011-11-11 2016-03-22 オリンパス株式会社 撮像装置、撮像装置の制御方法、およびプログラム
JP2014026062A (ja) * 2012-07-26 2014-02-06 Sony Corp 撮像装置および撮像方法
JP6202927B2 (ja) * 2012-08-31 2017-09-27 キヤノン株式会社 距離検出装置、撮像装置、プログラム、記録媒体および距離検出方法
WO2014041733A1 (ja) * 2012-09-11 2014-03-20 ソニー株式会社 撮像装置およびフォーカス制御方法
JP2014106476A (ja) * 2012-11-29 2014-06-09 Canon Inc 焦点検出装置、撮像装置、撮像システム、焦点検出方法、プログラム、および、記憶媒体
JP6239862B2 (ja) * 2013-05-20 2017-11-29 キヤノン株式会社 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
TW201514599A (zh) * 2013-10-07 2015-04-16 Novatek Microelectronics Corp 影像感測器及影像擷取系統
JP6270400B2 (ja) * 2013-10-09 2018-01-31 オリンパス株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP6223160B2 (ja) * 2013-12-10 2017-11-01 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
JP6525498B2 (ja) * 2013-12-12 2019-06-05 キヤノン株式会社 撮像装置、その制御方法および制御プログラム
JP6476547B2 (ja) * 2014-01-28 2019-03-06 株式会社ニコン 焦点検出装置および撮像装置
CN106062608B (zh) * 2014-03-25 2018-07-31 富士胶片株式会社 摄像装置及对焦控制方法
JP6405243B2 (ja) * 2014-03-26 2018-10-17 キヤノン株式会社 焦点検出装置及びその制御方法
JP2016009043A (ja) * 2014-06-24 2016-01-18 ソニー株式会社 イメージセンサ、演算方法、および電子装置
JP6486041B2 (ja) * 2014-09-11 2019-03-20 キヤノン株式会社 撮像装置およびその制御方法
CN107533210A (zh) * 2015-01-14 2018-01-02 因维萨热技术公司 相位检测自动聚焦
CN107209346A (zh) * 2015-03-27 2017-09-26 奥林巴斯株式会社 摄像装置和合焦评价装置
JP6808333B2 (ja) * 2015-04-03 2021-01-06 キヤノン株式会社 表示制御装置及び方法、及び撮像装置
US20160295122A1 (en) 2015-04-03 2016-10-06 Canon Kabushiki Kaisha Display control apparatus, display control method, and image capturing apparatus
EP3098638B1 (en) * 2015-05-29 2022-05-11 Phase One A/S Adaptive autofocusing system
JP6702669B2 (ja) * 2015-07-29 2020-06-03 キヤノン株式会社 撮像装置及びその制御方法
JP6700973B2 (ja) * 2016-05-24 2020-05-27 キヤノン株式会社 撮像装置およびその制御方法
CN106210527B (zh) * 2016-07-29 2017-08-25 广东欧珀移动通信有限公司 基于mems移动的pdaf校准方法和装置
CN106161958A (zh) * 2016-08-24 2016-11-23 广西小草信息产业有限责任公司 一种电子控制的摄像方法及其装置
JP6237858B2 (ja) * 2016-10-25 2017-11-29 株式会社ニコン 焦点検出装置及び撮像装置
CN109297940A (zh) * 2018-09-06 2019-02-01 中国科学院沈阳自动化研究所 一种在微米尺度下激光离焦量自动调节装置及其调节方法
KR20220036630A (ko) * 2020-09-16 2022-03-23 삼성전자주식회사 컬러 보정을 위한 영상 처리 장치, 영상 처리 방법 및 이를 포함하는 영상 처리 시스템
CN112383715B (zh) * 2020-12-07 2022-05-17 Oppo(重庆)智能科技有限公司 图像获取装置、终端和图像获取方法

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0743605A (ja) * 1993-08-02 1995-02-14 Minolta Co Ltd 自動焦点装置
JPH0943507A (ja) * 1995-08-02 1997-02-14 Canon Inc 電子スチルカメラおよびそのフォーカス制御方法
JP3592147B2 (ja) 1998-08-20 2004-11-24 キヤノン株式会社 固体撮像装置
JP2000155256A (ja) * 1998-11-19 2000-06-06 Olympus Optical Co Ltd 交換式撮影レンズ装置、カメラボディ並びにカメラシステム
US6819360B1 (en) 1999-04-01 2004-11-16 Olympus Corporation Image pickup element and apparatus for focusing
JP4007713B2 (ja) * 1999-04-06 2007-11-14 オリンパス株式会社 撮像装置
JP4908668B2 (ja) 2000-04-19 2012-04-04 キヤノン株式会社 焦点検出装置
JP4027113B2 (ja) * 2002-02-19 2007-12-26 キヤノン株式会社 撮像装置及びシステム
JP2003295047A (ja) * 2002-04-05 2003-10-15 Canon Inc 撮像装置および撮像システム
US6768867B2 (en) 2002-05-17 2004-07-27 Olympus Corporation Auto focusing system
JP2004046132A (ja) * 2002-05-17 2004-02-12 Olympus Corp 自動焦点調節装置
JP2004240054A (ja) * 2003-02-04 2004-08-26 Olympus Corp カメラ
JP4324402B2 (ja) * 2003-04-08 2009-09-02 Hoya株式会社 カメラの自動焦点調節装置
JP2005106994A (ja) * 2003-09-29 2005-04-21 Canon Inc 焦点検出装置、撮像装置、それらの制御方法
JP4564831B2 (ja) * 2004-11-26 2010-10-20 キヤノン株式会社 撮像装置及びその制御方法
EP1684503B1 (en) * 2005-01-25 2016-01-13 Canon Kabushiki Kaisha Camera and autofocus control method therefor
JP2007150643A (ja) * 2005-11-28 2007-06-14 Sony Corp 固体撮像素子、固体撮像素子の駆動方法および撮像装置
US7728903B2 (en) * 2005-11-30 2010-06-01 Nikon Corporation Focus adjustment device, focus adjustment method and camera
JP2007158692A (ja) * 2005-12-05 2007-06-21 Nikon Corp 固体撮像素子及びこれを用いた電子カメラ
JP5168797B2 (ja) * 2006-03-01 2013-03-27 株式会社ニコン 撮像装置
JP2007248782A (ja) * 2006-03-15 2007-09-27 Olympus Imaging Corp 焦点調節装置およびカメラ
JP4349407B2 (ja) * 2006-11-17 2009-10-21 ソニー株式会社 撮像装置
JP4321579B2 (ja) * 2006-11-28 2009-08-26 ソニー株式会社 撮像装置
JP5288752B2 (ja) * 2007-09-07 2013-09-11 キヤノン株式会社 撮像装置
JP2009069255A (ja) * 2007-09-11 2009-04-02 Sony Corp 撮像装置および合焦制御方法
JP5194688B2 (ja) * 2007-10-01 2013-05-08 株式会社ニコン 固体撮像装置

Also Published As

Publication number Publication date
EP2191318A1 (en) 2010-06-02
US8212917B2 (en) 2012-07-03
EP2191318A4 (en) 2012-11-21
EP2191318B1 (en) 2018-11-14
US20100194967A1 (en) 2010-08-05
CN101802673B (zh) 2012-04-18
CN101802673A (zh) 2010-08-11
WO2009035147A1 (en) 2009-03-19
JP2009069577A (ja) 2009-04-02

Similar Documents

Publication Publication Date Title
JP5264131B2 (ja) 撮像装置
US8203645B2 (en) Image-pickup apparatus and control method thereof with image generation based on a detected spatial frequency
JP4823167B2 (ja) 撮像装置
JP5424679B2 (ja) 撮像装置及び信号処理装置
JP2009115893A (ja) 撮像装置
US9083879B2 (en) Focus detection apparatus, control method thereof, and image pickup apparatus
JP2012141585A (ja) 撮像装置
JP4823168B2 (ja) 撮像装置
JP2015018205A (ja) 焦点検出装置及び方法、及び撮像装置
US9591243B2 (en) Focus detecting apparatus, control method thereof, and image-pickup apparatus
JP2014153509A (ja) 撮像装置及び撮像方法
JP5697433B2 (ja) 画像処理装置及び画像処理方法
JP2011028048A (ja) 撮像装置、及び撮像装置の制御方法
JP6415140B2 (ja) 撮像装置及びその制御方法
JP4823169B2 (ja) 撮像装置
JP5743519B2 (ja) 撮像装置およびその制御方法
JP2017032646A (ja) 撮像装置及びその制御方法
JP6624834B2 (ja) 撮像装置およびその制御方法
JP5207893B2 (ja) 撮像装置及びその制御方法
JP5669558B2 (ja) 撮像装置および撮像装置の制御方法
JP2020046482A (ja) 撮像装置
JP5973784B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP2016071275A (ja) 撮像装置およびフォーカス制御プログラム
JP2014029429A (ja) 撮像装置、制御方法、及びプログラム
JP6234097B2 (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120918

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130430

R151 Written notification of patent or utility model registration

Ref document number: 5264131

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees