JP2013218137A - 焦点検出装置、その制御方法および撮像装置 - Google Patents

焦点検出装置、その制御方法および撮像装置 Download PDF

Info

Publication number
JP2013218137A
JP2013218137A JP2012089070A JP2012089070A JP2013218137A JP 2013218137 A JP2013218137 A JP 2013218137A JP 2012089070 A JP2012089070 A JP 2012089070A JP 2012089070 A JP2012089070 A JP 2012089070A JP 2013218137 A JP2013218137 A JP 2013218137A
Authority
JP
Japan
Prior art keywords
image
pair
focus detection
image correction
image signals
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012089070A
Other languages
English (en)
Other versions
JP5947601B2 (ja
Inventor
Yoshito Tamaki
嘉人 玉木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012089070A priority Critical patent/JP5947601B2/ja
Priority to US13/855,336 priority patent/US9083879B2/en
Publication of JP2013218137A publication Critical patent/JP2013218137A/ja
Application granted granted Critical
Publication of JP5947601B2 publication Critical patent/JP5947601B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Focusing (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】撮影レンズによるケラレが発生している状態においても精度のよい焦点検出を実現させる。
【解決手段】撮影レンズの異なる射出瞳領域を通る光を各々受光する複数の焦点検出用画素を有する撮像素子の焦点検出用画素で生成される被写体の一対の像信号から算出される像ずれ量を用いて、前記一対の像信号を修正処理するための一対の像修正フィルタの重心合わせを行なって当該像修正フィルタを算出、算出された一対の像修正フィルタにより一対の像信号を修正して一対の修正像信号を生成し、この一対の修正像信号を用いて、撮影レンズの焦点ずれ量を検出する焦点検出装置。
【選択図】図10

Description

本発明は、焦点検出装置に関し、特に電子カメラ等の撮像装置に利用される焦点検出装置およびその制御方法に関する。
マイクロレンズと光電変換部の相対位置を偏位させた画素を2次元的に配置した撮像素子を有する固体撮像装置が特許文献1に開示されている。特許文献1の固体撮像装置では、通常の画像を撮影するときは、マイクロレンズと光電変換部の相対偏位方向が異なる画素を加算することにより、画像を生成している。一方、撮影レンズの焦点位置を算出する時は、マイクロレンズと光電変換部の相対偏位方向が異なる画素列で生成される一対の像信号を用いて、相関演算を行うことにより撮影レンズの焦点位置を算出している。
この様な構成において焦点位置を算出する際に用いる像を形成する光束が撮影レンズによるケラレが発生している場合、撮影レンズによるケラレによって像信号の非対称性(像の一致度の低下)が生じてしまう。そこで、特許文献2では、撮像装置に格納された特定の像修正フィルタを口径比、射出瞳位置、デフォーカス量によって変形して像信号に適用したのち、当該像信号を用いて焦点位置を算出する技術が開示されている。
特開平4−267211号公報 特開平5−127074号公報
従来例では、像修正フィルタは畳み込み積分により像信号に適用する為、像修正フィルタのピッチは像信号のピッチと一致させている。
しかしながら、像修正フィルタを生成した際、像修正フィルタの重心がずれてしまうことによって、像の非対称性を修正しきれず焦点検出精度が悪いという問題があった。そこで、本発明の目的は、焦点検出で用いる、像の非対称性を修正する像修正フィルタの重心ずれを軽減させ、精度のよい焦点検出を実現させることである。
本発明によれば、撮影レンズの異なる射出瞳領域を通る被写体からの光を各々受光して前記被写体の一対の像信号を生成する複数の焦点検出用画素を有する撮像素子を有する焦点検出装置は、複数の焦点検出用画素によって生成される被写体の一対の像信号および当該一対の像信号から算出される像ずれ量を用いて、一対の像信号を修正処理するための一対の像修正フィルタの重心合わせを行って当該像修正フィルタを算出する像修正フィルタ算出手段と、像修正フィルタ算出手段で算出された一対の像修正フィルタを用いて、一対の像信号を修正処理して一対の修正像信号を生成する像修正処理手段と、像修正処理手段で生成された一対の修正像信号を用いて、撮影レンズの焦点ずれ量を検出する前記焦点検出手段を備える。
本発明によれば、合焦近傍においても像の非対称性を修正する像修正フィルタの重心ずれを軽減させ、精度のよい焦点検出を実現させることが可能となる。
本発明の実施形態に係わる焦点検出装置を有する撮像装置の部分構成図である。 カラーフィルタを有する撮像用画素および撮影光学系の構造を概念式的に示す図である。 撮像用画素の配列中に配置された焦点検出用画素および撮影光学系の構造を概念的に示す図である。 撮影光学系における瞳分割を概念的に示す図である。 焦点検出用画素の瞳強度分布の概念図である。 撮像素子の受光面の中央の配置された焦点検出用画素の瞳強度の概念図である。 本発明の実施形態に係わる撮像素子駆動回路の構成図である。 図7の駆動回路で得られる像信号を示す図である。 本発明の実施形態に係わる焦点検出動作のフローチャートを示す図である。 本発明の第1の実施例に係わる像修正フィルタの算出動作のフローチャートを示す図である。 本発明の実施形態に係わる像修正フィルタの算出動作において、像修正フィルタの重心合せの為のX座標の変更を概念的に示す図である。 本発明の実施形態に係わる像修正フィルタの算出動作において、像修正フィルタの重心合せの為の強度の算出を概念的に示す図である。 本発明の第2の実施例に係わる像修正フィルタの算出動作のフローチャートを示す図である。
以下、図面を参照しながら本発明の実施形態を説明する。
〔第1の実施例〕
本発明の第1の実施例について、図1〜図12を参照して以下に説明する。
焦点検出装置の構成
図1は本発明の焦点検出装置を用いた、例えば電子カメラなどの撮像装置の部分構成図である。本撮像装置は、撮像素子を有したカメラ本体138と、別体の撮影レンズ137とで構成されており、カメラ本体138に対して撮影レンズ137が交換可能な構成となっている。
まず撮影レンズ137の構成について説明する。101は撮影光学系(結像光学系)の先端に配置された第一レンズ群で、光軸方向に進退可能に保持される。102は絞りで、その開口径を調節することで撮影時の光量調節を行なう。103は第二レンズ群である。そして前記絞り102及び第二レンズ群103は一体となって光軸方向に進退し、前記第一レンズ群101の進退動作との連動により、変倍作用(ズーム機能)をなす。105は第3レンズ群で、光軸方向の進退により、焦点検出を行なう。111はズームアクチュエータで、不図示のカム筒を回動することで、第一レンズ群111ないし第二レンズ群103を光軸方向に進退駆動し、変倍操作を行なう。112は絞りアクチュエータで、絞り102の開口径を制御して撮影光量を調節する。114はフォーカスアクチュエータで、第3レンズ群105を光軸方向に進退駆動して焦点検出を行なう。136はカメラ通信回路で、レンズに関する情報をカメラに渡したり、カメラに関する情報を受け取ったりする。レンズに関する情報とは、ズーム状態、絞り状態、フォーカス状態、レンズ枠情報等のことである。カメラ通信回路136は、カメラ側に設けられたレンズ通信回路135に、これらの情報を渡す。
次にカメラ本体138について説明する。106は光学的ローパスフィルタで、撮影画像の偽色やモアレを軽減するための光学素子である。107はC−MOSセンサとその周辺回路で構成された撮像素子である。該撮像素子は、横方向にm画素、縦方向にn画素の受光ピクセル上に、ベイヤー配列の原色カラーモザイクフィルタがオンチップで形成された、2次元単板カラーセンサが用いられる。請求項中の光電変換手段とは、撮像素子107に対応する。139はシャッターユニットで、静止画撮影時の露光時間制御を行なう。140はシャッター139を動かすためにシャッターアクチュエータである。115は撮影時の被写体照明用電子フラッシュで、キセノン管を用いた閃光照明装置が好適だが、連続発光するLEDを備えた照明装置を用いても良い。116はAF補助光手段で、所定の開口パターンを有したマスクの像を、投光レンズを介して被写界に投影し、暗い被写体あるいは低コントラスト被写体に対する焦点検出能力を向上させる。121はCPUで、カメラ本体の種々の制御を司るカメラ内CPUで、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を有する(制御手段)。また、CPU121は、ROMに記憶された所定のプログラムに基づいて、カメラが有する各種回路の駆動、撮影、画像処理、ボケ復元処理、記録等の一連の動作の制御を実行する。
また、CPU121では、本発明の焦点検出手段である撮像面位相差AFに関する演算処理と、本発明の重心合わせ手段に関する演算処理と、像修正フィルタ算出手段と像修正処理手段が行われる。本発明が係わる撮像面位相差AFに関する演算処理では、CPU121は、該一対の像信号に対して相関演算を行うことで、それらの相対的な位置ずれを示す位相差を算出し、該位相差に基づいて撮影レンズ1の焦点状態(焦点ずれ量)を算出(検出)する。そして、CPU121は、焦点ずれ量に基づいて、合焦状態を得るためにフォーカスレンズを移動させるべき量(駆動情報)を算出する(レンズ駆動手段)。122は電子フラッシュ制御回路で、撮影動作に同期して照明手段115を点灯制御する。123は補助光駆動回路で、焦点検出動作に同期してAF補助光手段116を点灯制御する。124は撮像素子駆動回路で、撮像素子107の撮像動作を制御するとともに、取得した画像信号をA/D変換してCPU121に送信する。125は画像処理回路で、撮像素子107が取得した画像のγ変換、カラー補間、JPEG圧縮等の処理を行なう(画像処理手段)。126はフォーカス駆動回路で、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御し、第3レンズ群105を光軸方向に進退駆動して焦点検出を行なう。128は絞り駆動回路で、絞りアクチュエータ112を駆動制御して絞り102の開口を制御する。129はズーム駆動回路で、撮影者のズーム操作に応じてズームアクチュエータ111を駆動する。135はレンズ通信回路、撮影レンズ137内のカメラ通信回路136と通信を行なう。145はシャッター駆動回路で、シャッターアクチュエータ140を駆動する。131はLCD等の表示器で、カメラの撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態表示画像等を表示する。132は操作スイッチ群で、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等で構成される。133は着脱可能なフラッシュメモリで、撮影済み画像を記録する。144はカメラ内メモリであり、CPU121で行なう演算に必要な各種データが保存されている。
撮像用画素、焦点検出用画素の構造
次に、本発明の焦点検出手段である撮像面位相差AFについて説明する。図2及び図3は、本発明の撮像素子107の画素配列に含まれる撮像用画素と撮像面位相差AFを行なう焦点検出用画素の構造を説明する図である。なお、本実施形態においては、2行×2列の4画素のうち、対角2画素にG(緑色)の分光感度を有する画素を配置し、他の2画素にR(赤色)とB(青色)の分光感度を有する画素を各1個配置した、ベイヤー配列が採用されている。しかし、撮像素子の受光部を2分割して、位相差検出方式を用いて焦点ずれ量を検出する技術が公開されており(例えば特開平01−216306号公報参照)、本発明はこのような受光部を分割するような撮像素子においても同様の結果を得ることができる。SHA、SHBは、それぞれ第一の画素群、第二の画素群である。これらは、該ベイヤー配列の中に、所定の規則にて分散配置される。該第一の画素群、第二の画素群から得られた被写体像の位相差を用いて、CPU121で焦点ずれ量が算出される。撮像用画素の間に、焦点検出用画素を離散的に配置する技術や、この焦点検出用画素を用いて焦点検出を行う技術は、開示されていて公知の技術であるため(例えば特開2000−020691号公報参照)、ここでの説明は省略する。
撮像素子の瞳分割状況の概念
図4は、本実施形態における撮像素子による撮影レンズの瞳分割状況を概念的に説明する図である。TLは撮影レンズ、107は撮像素子、OBJは被写体、IMGは像信号である。撮像用画素は図2の撮像素子の撮像用画素の平面図と断面図で説明したように、撮影レンズの射出瞳全域EPを通過した光束を受光する。一方、図3の平面図と断面図を参照して同図に示すx方向に瞳分割を行なうための焦点検出用画素を説明したように、焦点検出用画素は瞳分割機能を有している。具体的には、図3(a)の画素SHAは+X方向の側の瞳を通過した光束、すなわち図4の射出瞳領域EPHAを通過した光束を受光する。そして、焦点検出用画素を、撮像素子107の全領域に渡って分布させることで、撮像領域全域で焦点検出を可能とさせている。なお、ここではx方向に輝度分布を有した被写体に対応した構成について説明したが、同様の構成をy方向にも展開することでy方向に輝度分布を有した被写体にも対応した構成をとることが可能である。
ケラレが生じない場合の瞳強度分布と線像分布関数
光束の射出瞳面内での強度分布を、以降では単に瞳強度分布と呼ぶ。図5は焦点検出用画素の瞳強度分布とその瞳強度分布から得られる線像分布関数を表した図である。図5(a)は焦点検出用画素SHA、図5(b)は焦点検出用画素SHBの特性を示している。図5のx軸、y軸は図4のx軸、y軸に対応している。図5では、色が濃くなるほど受光強度が高いことを示している。図3(a)では説明をしやすくするため、焦点検出用画素SHAの射出瞳をEPHA、焦点検出用画素SHBの射出瞳をEPHBと、それぞれ分離して表した。しかし、図5に示すように、実際には、図3(b)で示した開口部OPHA及び開口部OPHBの開口部による回折の影響でぼけて広がり、焦点検出用画素SHAと焦点検出用画素SHBの射出瞳は一部領域の重なる部分がある。図5(c)は焦点検出用画素の線像分布関数を表した図である。これは図5(a)と図5(b)の瞳強度分布をy方向に射影をとったものである。横軸は図5(a)、(b)のx軸に対応し、縦軸は線像分布関数の強度を表している。原点Oが撮影レンズの光軸位置に対応している。
ここで、ある点光源が光学系の射出瞳を通過して結像面上に形成する点像の強度分布、いわゆる点像分布関数は、光学系が無収差の場合、射出瞳形状が結像面上に縮小投影されていると考えられる。そして、線像分布関数は、点像分布関数の射影であるので、瞳強度分布の射影を線像分布関数としている。図5(c)に示すように、撮像素子中央の焦点検出用画素では、線像分布関数LSF_AとLSF_Bは、光軸に対して略対称(像の形状が略一致)となる。また、線像分布関数LSF_AとLSF_Bは、それぞれのx軸方向の重心位置を中心として、x軸方向に略対称形となっている。
ケラレが生じた場合の瞳強度分布と線像分布関数
図6は図5の瞳強度分布に対して、撮影レンズによるケラレが生じた場合の瞳強度分布とその瞳強度分布から得られる線像分布関数を表した図である。図6(a)は焦点検出用画素SHA、図6(b)は焦点検出用画素SHBの撮影レンズによるケラレがある場合の瞳強度分布の特性を示している。そして、図5で示した焦点検出用画素SHA、SHBの瞳強度分布のうち、Area1で表した形状の内側のみが焦点検出用画素SHA、SHBで受光される領域となる。図6(c)は撮影レンズによるケラレが生じた場合の線像分布関数を表した図である。図6(c)は図5(c)と同様に図6(a)と図6(b)の瞳強度分布をy方向に射影をとったものである。横軸は図5(a)、(b)のx軸に対応し、縦軸は線像分関数の強度を表している。原点Oが撮影レンズの光軸位置に対応している。図6(c)に示すように、撮像素子中央の焦点検出用画素では図5(c)と同様に、線像分布関数LSF_AaとLSF_Bbは、光軸に対して略対称となる。しかし、図6(a)、(b)に示すように瞳強度分布はArea1により一部が切り取られた状態となっているため、線像分布関数LSF_AaとLSF_Bb全体をみると、それぞれのx軸方向の重心位置を中心として、x軸方向に非対称形となっている。
撮像素子107と撮像素子駆動回路124の焦点検出のための構成
図7は、図1における撮像素子107と撮像素子駆動回路124の焦点検出構成を概略的に示す図である。なお図7では、分かりやすく説明するためにA/D変換部を省略してある。また、撮像素子については焦点検出用画素のみを示し、撮像用画素の駆動構成は省略してある。撮像素子107は、図3で説明した焦点検出用画素701aと焦点検出用画素701bとで構成される焦点検出用画素701を複数有すると供に、撮影レンズで結像された被写体像を光電変換するための撮像用画素を複数含む。焦点検出用画素は、例えば撮像用画素の二次元配列の中に分散的に配置されている。焦点検出用画素701aが焦点検出用画素SHAに、焦点検出用画素701bが焦点検出用画素SHBにそれぞれ対応する。撮像素子駆動回路124は、合成部702と、連結部703とを含む。また、撮像素子駆動回路124は複数の焦点検出用画素701を含むように、撮像素子107の撮像面にセクション(領域)CSTを複数割り当てる。そして、撮像素子駆動回路124はセクションCSTの大きさ、配置、数等を適宜変更することができる。合成部702は、撮像素子107に割り当てられた複数のセクションCSTの各々において、焦点検出用画素701aからの出力信号を合成して1画素の第1の合成信号を得る処理を行なう。合成部702はまた、各セクションCSTにおいて、焦点検出用画素701bからの出力信号を合成して1画素の第2の合成信号を得る処理を行なう。連結部77は、複数のセクションCSTにおいて、第1の合成信号である各焦点検出用画素を連結して第1の連結信号を得る処理と、第2の合成信号を連結して第2の連結信号を得る処理とを行なう。このように、焦点検出用画素701a及び701bのそれぞれに対して、セクション数の焦点検出用画素が連結された連結信号が得られる。CPU121で第1の連結信号及び第2の連結信号に基づいて、撮影レンズのデフォーカス量を演算する。このように、セクション内に配置された同一の瞳分割方向における焦点検出用画素の出力信号を合成するため、焦点検出用画素701の1つ1つの輝度は小さい場合であっても、被写体の輝度分布を十分に検出することが可能となる。
撮像素子107より出力される像信号
図8は、図7の焦点検出用画素701、合成部702、連結部703により形成され、CPU121へ送られる対の像信号を示す。図8において、横軸は連結された信号の画素並び方向を示し、縦軸は信号の強度である。像信号830aは焦点検出用画素701aで、像信号830bは焦点検出用画素701bでそれぞれ形成される信号である。そして、撮影レンズの焦点位置がデフォーカス状態であるため、像信号830aは左側に、像信号830bは右側にずれた状態となっている。この像信号830a、830bの像ずれ量を相関演算によって算出することにより、撮影レンズの焦点ずれ量を知ることができる。ここで、本実施形態の焦点検出では、図6で説明した通り、撮影レンズによるケラレによって線像分布関数が重心に対して非対称となるので、焦点検出用画素で得られる像信号Aと像信号Bにも非対称性が生じてしまう。言い換えると、像の一致度が低下してしまう。位相差方式の焦点検出においては、像の一致度の低下(非対称性)が生じている場合、像ずれ量を正確に算出することができない。そこで、本実施形態では、得られた像信号の非対称性を補正することで、この問題を解決する。
焦点検出のフローチャート
次に第1の実施例の焦点検出フローチャートについて図9のフローチャートを用いて説明する。なお、図9のフローチャートにおける動作はCPU121によって実行される。
ステップS901では、撮影レンズによるケラレ状態を知る為のレンズ情報を取得する。ステップS902では、各焦点検出用画素に対してCPU121のROMに保管されている瞳強度分布を読み出し、ステップS901で得られた撮影レンズによるケラレ状態を知る為のレンズ情報と合わせて線像分布関数LSF_A(j)、LSF_B(j)を算出する。ステップS903では、焦点検出位置での焦点検出用画素の像信号を読み出し、像信号ImgA(i)、像信号ImgB(i)が形成される。ステップS904ではステップS901で得られたレンズ情報と瞳強度分布を用いてステップS903で形成された像信号ImgA(i)と像信号ImgB(i)のシェーディングを予測し、シェーディング補正を行なう。ステップS905ではステップS903で形成された像信号ImgA(i)と像信号ImgB(i)に対して、CPU121のROMに保管されているダーク値からダーク補正を行なう。ステップS906ではステップS905で得られたダーク補正後の像信号ImgA(i)とダーク補正後の像信号ImgB(i)を用いて、相関演算により像ずれ量に基づいて暫定デフォーカス量を算出する(相関演算手段)。ステップS907では、ステップS906で算出された暫定デフォーカス量をもとに、像修正フィルタを算出する。
ここで、像修正フィルタの算出については図10から図12を用いて説明する。なお、算出する像修正フィルタはFil_Aa(i)、Fil_Bb(i)だが、算出方法が同じなので、Fil_Aa(i)について説明しFil_Bb(i)については説明を省略する。
このとき、CPU121に予め保持されている、像修正フィルタのサンプリングピッチFil_pと線像分布関数LSF_Aa(j)のピッチLSF_pとの大小関係で像修正フィルタの算出方法が異なる。
ステップS1001では、ステップS902で作成した線像分布関数LSF_A(j)をステップS906で算出した暫定デフォーカス量に応じて変形させ、LSF_Aa(j)を算出する。次にステップS1002からステップS1006について図11、図12を用いて説明する。
ステップS1002では、CPU121に予め保持されている、像修正フィルタのサンプリングピッチFil_pと線像分布関数LSF_Aa(j)のピッチLSF_pとの大小関係を比較する。像修正フィルタは線像分布関数から、サンプリングピッチFil_pでサンプリングを行って算出する。その為、像修正フィルタのサンプリングピッチFil_pが線像分布関数LSF_Aa(j)のピッチLSF_pよりも大きい場合、粗いサンプリングによって、像修正フィルタと線像分布関数LSF_Aa(j)の重心ずれが起こってしまう。そこで、重心ずれを補正する為にステップS1003からステップS1005を行う。また、像修正フィルタのサンプリングピッチFil_pが線像分布関数LSF_Aa(j)のピッチLSF_pよりも小さい場合、細かいサンプリングによって、像修正フィルタは線像分布関数LSF_Aa(j)を補間する値を取得する為、重心ずれが起こらない。このような場合、重心ずれを補正するステップS1003からステップS1005を行わず、ステップS1006へと移行する。
ステップS1003は、ステップS1002での比較の結果、像修正フィルタのサンプリングピッチFil_pが線像分布関数LSF_Aa(j)のピッチLSF_pよりも大きい場合に行われる。まずステップS1001で作成した線像分布関数LSF_Aa(j)の重心X座標Cog_XAaを算出する。さらに、ステップS1001で作成した線像分布関数LSF_Aa(j)をCPU121に予め保持されていたサンプリングピッチFil_p毎にサンプリングして得られるLSF_Aaa(i)の重心X座標Cog_XAaaを算出する。
そして、算出した2つの重心Cog_XAa、Cog_XAaaから重心差ΔCog_XAを算出する。ステップS1004では、ステップS1003で算出した重心差ΔCog_XAを用いて、像修正フィルタ長を算出する。この算出する像修正フィルタ長は、重心差ΔCog_XAと説明を省略しているΔCog_XBとを用いて、両像修正フィルタを含むように設定する。ステップS1005では、像修正フィルタFil_A(i)のX座標Fil_XA(i)を算出する。ステップS1001で変形させた線像分布関数LSF_Aaa(i)、LSF_Bbb(i)共通のX座標LSF_XA(i)からステップS1003で算出した重心差ΔCog_XAを引いて、像修正フィルタのX座標Fil_XA(i)を算出する。ステップS1006では、重心合わせ後の像修正フィルタの値Fil_A(i)を算出する。
重心合わせ後の像修正フィルタの値Fil_A(i)の算出方法について図12を用いて説明する。ステップS1004で算出されたフィルタ長における強度をCPU121に予め保持されている、像修正フィルタのサンプリングピッチFil_p毎にステップS1001で変形させた線像分布関数LSF_Aa(j)の面積を積分して算出する。このとき、CPU121に予め保持されている、像修正フィルタのサンプリングピッチFil_pと線像分布関数LSF_Aa(j)のピッチLSF_pとの大小関係で、像修正フィルタのX座標Fil_XA(i)が変わる為、積分範囲が異なる。
図12はFil_p>LSF_pの場合について説明している図である。このとき、算出するi番目の像修正フィルタFil_A(i)の値はFil_A(i)を中心に±Fil_p/2の範囲にある線像分布関数LSF_Aa(j)の面積を積分して算出される。このようにして、ステップS1004で算出した像修理フィルタ長だけ面積を計算していき、重心合わせ後の像修正フィルタFil_A(i)、Fil_B(i)の値を算出する。ステップS1007では、像修正後の光量差をなくすために、像修正フィルタFil_A(i)、Fil_B(i)の面積を揃える。ステップS1006で算出された、重心合わせ後の像修正フィルタFil_A(i)、Fil_B(i)各々の正規化を行い、強度を揃えて像修正フィルタFil_Aa(i)、Fil_Bb(i)を算出する。そして、一連の像修正フィルタ算出サブフローが終了して、図9のステップS908へ進む。
ステップS908では、ステップS907で算出された像修正フィルタFil_Aa(i)、Fil_Bb(i)をそれぞれ像信号ImgA(i)、像信号ImgB(i)に畳み込み積分して、修正像信号ReImgA(i)、修正像信号ReImgB(i)を生成する。ステップS909ではステップS908で算出された修正像信号ReImgA(i)、修正像信号ReImgB(i)を用いて、それぞれステップS906と同様に、公知の相関演算により像ずれ量を算出する。そして、像ずれ量に基づいて、撮影レンズの焦点ずれ量を算出する。以上のようにして、一連の焦点検出動作が終了する。
以上のように第1の実施形態によれば、像修正フィルタの重心を合わせることでデフォーカス量を算出する為に最適な像修正フィルタを設定することができた。
また、像修正フィルタの重心を合わせることで合焦近傍における像修正フィルタの折り返し歪の影響を軽減させた像信号の修正ができた。
さらに、像修正フィルタの重心を合わせることで合焦近傍における像修正フィルタの折り返し歪の影響を軽減させた像信号の修正ができることで、より高精度な焦点検出を行なうことができた。
なお、第1の実施形態では相関演算に像ずれ方式を用いたが、他の方法を用いたとしても同様の結果が得られる。
〔第2の実施例〕
第2の実施例は、第1の実施例の変形例である。以下、本発明の第2の実施例について、図9および図13を参照して説明する。
第1の実施例では、像修正フィルタLSF_A(i)、LSF_B(i)の重心を合わせていた。それに対して、デフォーカス量に応じて、像修正フィルタの重心を合わせるか否かを切り替えることが第2の実施例の特徴である。なお、図13のフローチャートに従った動作はCPU121によって実行される。
第2の実施例の焦点検出動作は、第1の実施例と同様に図9のフローチャートに従って実行される。本実施例の動作で第1の実施例と異なるのは、S907の像修正フィルタ算出の動作である。従って、本実施例では像修正フィルタの算出動作のみ説明し、S901からS906の説明は省略する。
図13は、本実施例に係わる像修正フィルタの算出動作のフローチャートを示す。本実施例同図を参照して、図9のステップS906で算出された暫定デフォーカス量をもとに、像修正フィルタを算出する本実施例の動作を説明する。
ステップS1301では、ステップS906で算出した暫定デフォーカス量に応じて、ステップS902で作成した線像分布関数LSF_A(i)、LSF_B(i)を変形させる。ステップS1302では、ステップS906で算出した暫定デフォーカス量が設定された閾値よりも大きいか否かを判定する。暫定デフォーカス量が設定された閾値よりも大きいと判定されれば像修正フィルタLSF_A(i)、LSF_B(i)の重心を合わせるため、ステップS1303へ進む。また、暫定デフォーカス量が設定された閾値以下と判定されれば、像修正フィルタLSF_A(i)、LSF_B(i)の重心合わせを行わない為、ステップS1307へ進む。ステップS1303からステップS1306までのステップについては、第一の実施例と同じである為、ここでの説明を省略する。ステップS1307では、ステップS1306と同様に、ステップS1306で算出された、重心合わせ後の像修正フィルタFil_A(i)、Fil_B(i)の面積を計算し、強度を揃えて像修正フィルタFil_Aa(i)、Fil_Bb(i)を算出する。そして、一連の像修正フィルタ算出動作を終了したら、図9のメインフローに戻りステップS908を実行する。ステップS908では、図13の動作に従って算出された像修正フィルタFil_Aa(i)、Fil_Bb(i)をそれぞれ像信号ImgA(i)、像信号ImgB(i)に畳み込み積分して、修正像信号ReImgA(i)、修正像信号ReImgB(i)を得る。ステップS909ではステップS908で算出された修正像信号ReImgA(i)、修正像信号ReImgB(i)を用いて、それぞれステップS906と同様に、公知の相関演算により像ずれ量を算出する。そして、像ずれ量に基づいて、撮影レンズの焦点ずれ量を算出する。以上のようにして、一連の焦点検出フローを終了する。
ここで、デフォーカス量に応じて像修正フィルタの重心合わせを行う理由について説明する。デフォーカス量が大きい時には、像修正フィルタを表す画素が多くなり、サンプリングによって作成される像修正フィルタFil_A(i)、Fil_B(i)の形状をある程度正確に表すことができる。その為、像修正処理手段により像信号ImgA(i)、ImgB(i)の非対称性が軽減され、精度よくデフォーカス量を算出することができる。一方、デフォーカス量が小さい時には像修正フィルタを表す画素が少なくなり、サンプリングによって折り返し歪が生じてしまい、像修正フィルタFil_A(i)、Fil_B(i)の形状を正確に表すことができない。その為、作成された像修正フィルタFil_A(i)、Fil_B(i)の重心がずれてしまう。そして、像修正処理手段を行った際に像信号ImgA(i)、ImgB(i)の非対称を修正しきれず、精度よくデフォーカス量を算出することができない。以上の理由から、デフォーカス量に応じて、像修正フィルタFil_A(i)、Fil_B(i)の重心を合わせすることが望ましい。そうすることで、像修正フィルタのサンプリング時における、折り返し歪で像修正フィルタFil_A(i)、Fil_B(i)の重心位置が変化することを軽減させることが可能となる。
以上のように第2の実施形態によれば、暫定デフォーカス量に応じて像修正フィルタの重心位置合わせ処理を行うか否かを判定することで第1実施形態と比較して高速化することができた。
なお、第1の実施形態では相関演算に像ずれ方式を用いたが、他の方法を用いたとしても同様の結果が得られる。
また、上述した実施形態において図9、10および13に示した各処理は、各処理の機能を実現する為のプログラムをメモリから読み出して制御部121のCPUが実行することによりその機能を実現させるものである。
尚、上述した構成に限定されるものではなく、図9、10および13に示した各処理の全部または一部の機能を専用のハードウェアにより実現してもよい。また、上述したメモリは、光磁気ディスク装置、フラッシュメモリ等の不揮発性のメモリや、CD−ROM等の読み出しのみが可能な記録媒体、RAM以外の揮発性のメモリから構成されてよい。また、それらの組合せによるコンピュータ読み取り、書き込み可能な記録媒体より構成されてもよい。
また、図9、10および13に示した各処理の機能を実現する為のプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各処理を行っても良い。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。具体的には、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書きこまれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含む。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、一定時間プログラムを保持しているものも含むものとする。例えば、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発メモリ(RAM)である。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現する為のものであっても良い。さらに、前述した機能をコンピュータシステムに既に記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
また、上記のプログラムを記録したコンピュータ読み取り可能な記録媒体等のプログラムプロダクトも本発明の実施形態として適用することができる。上記のプログラム、記録媒体、伝送媒体およびプログラムプロダクトは、本発明の範疇に含まれる。
上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち本発明はその技術思想、またはその主要な特徴から逸脱することはなく、様々な形で実施することが出来る。

Claims (13)

  1. 撮影レンズの異なる射出瞳領域を通る被写体からの光を各々受光して前記被写体の一対の像信号を生成する複数の焦点検出用画素を有する撮像素子を有する焦点検出装置であり、
    前記複数の焦点検出用画素によって生成される前記被写体の一対の像信号および当該一対の像信号から算出される像ずれ量を用いて前記一対の像信号を修正処理するための一対の像修正フィルタの重心合わせを行い、当該像修正フィルタを算出する像修正フィルタ算出手段と、
    前記像修正フィルタ算出手段で算出された一対の像修正フィルタを用いて、前記一対の像信号を修正処理して一対の修正像信号を生成する像修正処理手段と、
    前記像修正処理手段で生成された一対の修正像信号を用いて、前記撮影レンズの焦点ずれ量を検出する前記焦点検出手段、
    を備えることを特徴とする焦点検出装置。
  2. 前記像修正フィルタ算出手段は、前記像ずれ量に従って前記一対の像信号を変形し、当該変形された像信号から得られる重心差を用いて前記像修正フィルタの重心合わせを行なうことを特徴とする請求項1に記載の焦点検出装置。
  3. 前記像修正フィルタ算出手段は、前記変形された像信号を前記像修正フィルタのサンプリングピッチでサンプリングし、当該サンプリングされた像信号の重心と前記変形された像信号の重心から前記重心差を算出し、前記像修正フィルタのサンプリングピッチは前記一対の像信号のピッチとは異なることを特徴とする請求項2に記載の焦点検出装置。
  4. 前記像修正フィルタ算出手段は、前記像修正フィルタのサンプリングピッチと前記一対の像信号のピッチとを比較し、当該比較の結果に従って重心合わせを行なって前記像修正フィルタを算出することを特徴とする請求項3に記載の焦点検出装置。
  5. 前記一対の像信号の相関演算により算出した位相差に基づいて前記一対の像信号から前記像ずれ量を算出する相関演算手段を備え、前記相関演算手段は、前記一対の修正像信号に対する相関演算により算出した位相差に基づいて前記焦点ずれ量を算出することを特徴とする請求項1乃至4のいずれか一項に記載の焦点検出装置。
  6. 前記焦点検出手段で検出された前記焦点ずれ量に基づいて、前記撮影レンズの駆動情報を生成するレンズ駆動手段を備える特徴とする請求項1乃至5のいずれか一項に記載の焦点検出装置。
  7. 前記像修正フィルタ算出手段は、前記焦点ずれ量に応じて、前記重心合わせを行うか否かを切り替えることを特徴とする請求項1乃至6のいずれか一項に記載の焦点検出装置。
  8. 請求項1乃至7のいずれか一項に記載の焦点検出装置と、
    前記撮像素子に含まれる複数の撮像用画素により前記被写体からの光を受光して像信号を生成して出力する撮像手段と、
    前記撮像手段が出力した前記像信号を処理する画像処理手段と、
    前記焦点検出装置、撮像手段および画像処理手段を制御して前記被写体の撮影を行なう制御手段
    を備えることを特徴とする撮像装置。
  9. 撮影レンズの異なる射出瞳領域を通る被写体からの光を各々受光して前記被写体の一対の像信号を生成する複数の焦点検出用画素を有する撮像素子を用いた焦点検出方法であり、
    前記複数の焦点検出用画素によって生成される前記被写体の一対の像信号および当該一対の像信号から算出される像ずれ量を用いて前記一対の像信号を修正処理するための一対の像修正フィルタの重心合わせを行い、当該像修正フィルタを算出する像修正フィルタ算出ステップと、
    前記像修正フィルタ算出ステップで算出された一対の像修正フィルタを用いて、前記一対の像信号を修正処理して一対の修正像信号を生成する像修正処理ステップと、
    前記像修正処理ステップで生成された一対の修正像信号を用いて、前記撮影レンズの焦点ずれ量を検出する前記焦点検出ステップ、
    を備えることを特徴とする焦点検出方法。
  10. コンピュータを、
    撮影レンズの異なる射出瞳領域を通る被写体からの光を各々受光して前記被写体の一対の像信号を生成する複数の焦点検出用画素を有する撮像素子を有する焦点検出装置の制御方法において、
    前記複数の焦点検出用画素によって生成される前記被写体の一対の像信号および当該一対の像信号から算出される像ずれ量を用いて前記一対の像信号を修正処理するための一対の像修正フィルタの重心合わせを行い、当該像修正フィルタを算出する像修正フィルタ算出手段と、
    前記像修正フィルタ算出手段で算出された一対の像修正フィルタを用いて、前記一対の像信号を修正処理して一対の修正像信号を生成する像修正処理手段と、
    前記像修正処理手段で生成された一対の修正像信号を用いて、前記撮影レンズの焦点ずれ量を検出する前記焦点検出手段、
    として機能させるプログラム。
  11. 請求項10のプログラムを記録したコンピュータが読み取り可能な記録媒体。
  12. コンピュータを、請求項1乃至8のいずれか一項に記載された焦点検出装置の各手段として機能させるプログラム。
  13. コンピュータを、請求項1乃至8のいずれか一項に記載された焦点検出装置の各手段として機能させるプログラムを格納した記録媒体。
JP2012089070A 2012-04-10 2012-04-10 焦点検出装置、その制御方法および撮像装置 Expired - Fee Related JP5947601B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012089070A JP5947601B2 (ja) 2012-04-10 2012-04-10 焦点検出装置、その制御方法および撮像装置
US13/855,336 US9083879B2 (en) 2012-04-10 2013-04-02 Focus detection apparatus, control method thereof, and image pickup apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012089070A JP5947601B2 (ja) 2012-04-10 2012-04-10 焦点検出装置、その制御方法および撮像装置

Publications (2)

Publication Number Publication Date
JP2013218137A true JP2013218137A (ja) 2013-10-24
JP5947601B2 JP5947601B2 (ja) 2016-07-06

Family

ID=49292019

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012089070A Expired - Fee Related JP5947601B2 (ja) 2012-04-10 2012-04-10 焦点検出装置、その制御方法および撮像装置

Country Status (2)

Country Link
US (1) US9083879B2 (ja)
JP (1) JP5947601B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106488111A (zh) * 2015-08-31 2017-03-08 富士通株式会社 对焦位置检测装置以及对焦位置检测方法
JP2017083401A (ja) * 2015-10-30 2017-05-18 キヤノン株式会社 距離検出装置、撮像装置、および距離検出方法
US9794472B2 (en) 2014-03-18 2017-10-17 Fujifilm Corporation Imaging device and focusing control method

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015015935A1 (ja) * 2013-07-29 2015-02-05 富士フイルム株式会社 撮像装置及び画像処理方法
JP6027287B2 (ja) * 2014-03-28 2016-11-16 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US9582080B1 (en) 2014-06-25 2017-02-28 Rithmio, Inc. Methods and apparatus for learning sensor data patterns for gesture-based input
JP6171110B2 (ja) * 2014-11-18 2017-07-26 富士フイルム株式会社 合焦制御装置、合焦制御方法、合焦制御プログラム、レンズ装置、撮像装置
US10109126B2 (en) * 2016-01-12 2018-10-23 Chi-Wei Chiu Biological recognition lock system
US11503201B2 (en) * 2017-10-13 2022-11-15 Sony Corporation Focus detection device and method
CN115334249B (zh) 2022-10-17 2023-03-10 成都唐米科技有限公司 基于运动重心的跟焦方法、存储介质及摄像***
CN115345901B (zh) * 2022-10-18 2023-01-10 成都唐米科技有限公司 一种动物运动行为预测方法、***及摄像***

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010117679A (ja) * 2008-11-14 2010-05-27 Canon Inc 焦点検出装置及び方法、及び撮像装置
JP2010286826A (ja) * 2009-05-12 2010-12-24 Canon Inc 焦点検出装置
WO2011045850A1 (ja) * 2009-10-13 2011-04-21 キヤノン株式会社 焦点調節装置及び焦点調節方法
WO2012018101A1 (en) * 2010-08-03 2012-02-09 Canon Kabushiki Kaisha Focus detection apparatus and image pickup apparatus

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01216306A (ja) 1988-02-24 1989-08-30 Canon Inc 撮像手段を有した焦点検出装置
JP2959142B2 (ja) 1991-02-22 1999-10-06 ソニー株式会社 固体撮像装置
JP3240648B2 (ja) 1991-11-01 2001-12-17 キヤノン株式会社 焦点検出装置
JP2000020691A (ja) 1998-07-01 2000-01-21 Canon Inc 画像処理装置及びその方法、撮像装置及びその制御方法並びにメモリ媒体
JP5302663B2 (ja) * 2008-12-24 2013-10-02 キヤノン株式会社 焦点検出装置及び方法、及び撮像装置
JP5743519B2 (ja) * 2010-12-10 2015-07-01 キヤノン株式会社 撮像装置およびその制御方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010117679A (ja) * 2008-11-14 2010-05-27 Canon Inc 焦点検出装置及び方法、及び撮像装置
JP2010286826A (ja) * 2009-05-12 2010-12-24 Canon Inc 焦点検出装置
WO2011045850A1 (ja) * 2009-10-13 2011-04-21 キヤノン株式会社 焦点調節装置及び焦点調節方法
WO2012018101A1 (en) * 2010-08-03 2012-02-09 Canon Kabushiki Kaisha Focus detection apparatus and image pickup apparatus
JP2012037551A (ja) * 2010-08-03 2012-02-23 Canon Inc 焦点検出装置および撮像装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9794472B2 (en) 2014-03-18 2017-10-17 Fujifilm Corporation Imaging device and focusing control method
CN106488111A (zh) * 2015-08-31 2017-03-08 富士通株式会社 对焦位置检测装置以及对焦位置检测方法
JP2017083401A (ja) * 2015-10-30 2017-05-18 キヤノン株式会社 距離検出装置、撮像装置、および距離検出方法

Also Published As

Publication number Publication date
US20130265483A1 (en) 2013-10-10
JP5947601B2 (ja) 2016-07-06
US9083879B2 (en) 2015-07-14

Similar Documents

Publication Publication Date Title
JP5947601B2 (ja) 焦点検出装置、その制御方法および撮像装置
JP5901246B2 (ja) 撮像装置
JP5645846B2 (ja) 焦点調節装置及び焦点調節方法
JP5676962B2 (ja) 焦点検出装置および撮像装置
JP5898481B2 (ja) 撮像装置及び焦点検出方法
JP5762002B2 (ja) 撮像装置
JP5183715B2 (ja) 画像処理装置及び画像処理方法
JP6249825B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2009244862A (ja) 焦点検出装置およびそれを有する撮像装置
JP2011043646A (ja) 撮像装置及び方法
KR20180123117A (ko) 화상 처리장치, 촬상장치 및 이들의 제어방법과, 기억매체
JP2012022308A (ja) 撮像装置
JP2013057761A (ja) 距離測定装置、撮像装置、距離測定方法
WO2013171840A1 (ja) 撮像装置及び撮像装置の制御方法
JP5378283B2 (ja) 撮像装置およびその制御方法
JP2016018116A (ja) 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
JP6196772B2 (ja) 焦点検出装置、焦点検出方法およびプログラム、並びに撮像装置
JP5858683B2 (ja) 焦点検出装置および撮像装置
JP2012022309A (ja) 撮像装置
JP2016057402A (ja) 撮像装置及びその制御方法
JP5968026B2 (ja) 撮像装置及びその制御方法
JP2011176457A (ja) 電子カメラ
JP2015099218A (ja) 焦点検出装置およびその制御方法、撮像装置、プログラム、記憶媒体
JP2015204579A (ja) 撮像装置
JP2015022028A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160506

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160603

R151 Written notification of patent or utility model registration

Ref document number: 5947601

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees