JP2011205348A - 固体撮像装置および画像記録装置 - Google Patents

固体撮像装置および画像記録装置 Download PDF

Info

Publication number
JP2011205348A
JP2011205348A JP2010069934A JP2010069934A JP2011205348A JP 2011205348 A JP2011205348 A JP 2011205348A JP 2010069934 A JP2010069934 A JP 2010069934A JP 2010069934 A JP2010069934 A JP 2010069934A JP 2011205348 A JP2011205348 A JP 2011205348A
Authority
JP
Japan
Prior art keywords
color
pixels
state imaging
imaging device
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010069934A
Other languages
English (en)
Other versions
JP5044673B2 (ja
Inventor
Takayuki Ogasawara
隆行 小笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2010069934A priority Critical patent/JP5044673B2/ja
Priority to TW100106727A priority patent/TWI442780B/zh
Priority to US13/040,718 priority patent/US8525905B2/en
Priority to CN2011100535991A priority patent/CN102202222A/zh
Publication of JP2011205348A publication Critical patent/JP2011205348A/ja
Application granted granted Critical
Publication of JP5044673B2 publication Critical patent/JP5044673B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/201Filters in the form of arrays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/045Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】照度が低い領域において、色温度に依存しない優れた色再現性と高感度な画像を得ることが可能な固体撮像装置および画像記録装置を提供することを目的とする。
【解決手段】各画素にカラーフィルタを配置した色画素を有する固体撮像装置において、
緑色の画素が、列方向2画素×行方向2画素配されたブロックが2組、一方の対角上に配置され、他方の対角上に、赤色および青色のうちの一方の色の画素が、列方向2画素×行方向2画素で配されたブロックと、他方の色の2つの画素と、赤色、緑色、青色と波長透過率ピークが異なる他の色の2つの画素が対角上に配されたブロックと、が配置されている。
【選択図】 図2

Description

本発明は、固体撮像装置および画像記録装置に関する。
固体撮像装置は、画像入力処理を行う基本素子として、様々な分野で広く利用されている。現在、一般に利用されている固体撮像装置は、CCDイメージセンサとCMOSイメージセンサに大別される。CMOSイメージセンサの原理は、個々の画素ごとに受光素子として機能するフォトダイオードを設け、このフォトダイオードの出力をMOSトランジスタで増幅して取り出すものである。また、CMOSイメージセンサは、低消費電力で駆動する小型の固体撮像素子として有望視されている。かかる固体撮像装置では、画素の微細化と多画素化が進行している。
固体撮像装置では、各画素に対応して特定のカラーフィルタ、例えば、R(赤色)、G(緑色)、B(青色)のカラーフィルタが設けられている。一般的に、固体撮像装置は、ベイヤ配列(例えば、特許文献1参照)と呼ばれるカラーフィルタ配列を採用している。
しかしながら、ベイヤ配列では、照度が低く、一つの画素では十分な感度が得られないような状況において、感度を上げるために、ビニング処理(画素加算)を行うと、解像度が低下したり、色温度が低い環境では色再現性が悪化してしまうという問題がある。
米国特許3,971,065
本発明は、上記に鑑みてなされたものであって、照度が低い領域において、色温度に依存しない優れた色再現性と高感度な画像を得ることが可能な固体撮像装置および画像記録装置を提供することを目的とする。
本願発明の一態様によれば、各画素にカラーフィルタを配置した色画素を有する固体撮像装置において、X1色の画素が、列方向2画素×行方向2画素配されたブロックが2組、一方の対角上に配置され、他方の対角上に、X2色およびX3色のうちの一方の色の画素が、列方向2画素×行方向2画素で配されたブロックと、他方の色の2つの画素と、X4色の2つの画素が対角上に配されたブロックと、が配置され、波長の大きさが、X3色<X1色<X4色<X2色である固体撮像装置が提供される。
本発明によれば、照度が低い領域において、色温度に依存しない優れた色再現性と高感度な画像を得ることが可能になるという効果を奏する。
図1は、ベイヤ配列を示す図である。 図2は、本実施の形態のカラーフィルタ配列を示す図である。 図3は、カラーフィルタの透過率を示す図である。 本実施の形態のフィルタ配列でビニング処理する場合を説明するための図である。 図5は、本実施の形態の固体撮像装置を搭載した画像記録装置の構成の一例を示すブロック図である。 図6は、画像処理装置の信号処理のフローを示す図である。 図7は、本実施の形態のカラーフィルタ配列の変形例を説明するための図である。
以下に、この発明にかかる固体撮像装置の実施の形態を図面に基づいて詳細に説明する。なお、この実施の形態によりこの発明が限定されるものではない。また、下記実施の形態における構成要素には、当業者が容易に想定できるものまたは実質的に同一のものが含まれる。
(実施の形態)
[固体撮像装置]
図1〜図4を参照して、本実施の形態に係る固体撮像装置のカラーフィルタ配列(CFA)について説明する。本実施の形態に係る固体撮像装置は、CMOS型撮像装置またはCCD型撮像装置である。図1は、ベイヤ配列を示す図である。図2は、本実施の形態のカラーフィルタ配列を示す図である。図3は、カラーフィルタの透過率を示す図であり、(a)は、ベイヤ配列の場合、(b)は本実施の形態のカラーフィルタ配列の場合を示している。図3において、横軸は波長[nm]、縦軸は透過率[%]を示している。
ベイヤ配列は、図1に示すように、列方向(水平方向)2画素×行方向(垂直方向)2画素を基本ブロックとして周期的に配置され、この基本ブロックにおいて、2つのG(緑色)画素が一方の対角上に配置され、R(赤色)画素とB(青色)画素が他方の対角上に配置されたカラーフィルタ配列である。
ベイヤ配列では、一つの画素では十分な感度が得られないような状況において、ビニング処理(画素加算)を行うと、解像度が低下したり、色温度が低い環境では色再現性が悪化してしまうといった問題がある。ベイヤ配列で使用されるR,G,Bのフィルタは、図3(a)に示すような、波長−透過率特性を有している。ここで、例えば、色温度が低い場合(3200K)は、GとR間のサンプリングポイントが不足し、また、感度が低下してしまう。
これに対して、本実施の形態のカラーフィルタ配列は、図2に示すように、列方向4画素×行方向4画素を基本ブロックとして周期的に配置される。この基本ブロックは、Gの列方向2画素×行方向2画素のブロックが2つ一方の対角上に配置される。また、他方の対角上には、Rの列方向2画素×行方向2画素のブロックと、2つのB画素と2つのOr(オレンジ色)画素がそれぞれ対角に配置されたブロックとが配置されている。
本実施の形態のR,G,B,Orのフィルタは、図3(b)に示すような、波長−透過率特性を有している。Orフィルタは、550nm〜610nmの範囲にピーク透過率を有しており、Or画素を追加することで、長波長領域にサンプルポイントを追加することで、色再現性を向上でき、低照度時において十分な感度を得ることが可能となる。
図4は、本実施の形態のフィルタ配列でビニング処理する場合を説明するための図である。ここでは、列方向2画素×行方向2画素加算する場合について説明する。例えば、1画素では十分な感度が得られないような照度が低い領域において、ビニング処理が行われる。
本実施の形態のカラーフィルタ配列では、R,Gの同色4画素を加算する場合(BとOrは2画素加算)、図4に示すように、重心が移動しないため、補間処理等が不要であり、加算した値をそのまま使用できる。これにより、解像度の低下が避けられ、4画素加算後の配列もほぼベイヤ配列と同等なために、複雑な信号処理を必要としないことが分かる。
他方、Or画素を追加しても、視感感度に影響が大きいGやRの画素数は、ベイヤ配列と比較して同等であるため、解像度の低下を避けることができる。
以上説明したように、本実施の形態の固体撮像装置によれば、G画素が、列方向2画素×行方向2画素配されたブロックが2組、一方の対角上に配置され、他方の対角上に、R画素が、列方向2画素×行方向2画素配されたブロックと、2つのB画素と2つのOr画素がそれぞれ対角上に配されたブロックとが配置されているので、照度が低い領域において、色温度に依存しない優れた色再現性と高感度な画像を得ることが可能となる。
[画像記録装置]
図5は、本実施の形態の固体撮像装置を搭載した画像記録装置の構成の一例を示すブロック図である。画像記録装置は、図5に示すように、撮像レンズ1、IRカットフィルタ2、本実施の形態の固体撮像装置を適用したイメージセンサ部3、画像処理装置4と、および記録部5を備える。なお、ここでは、イメージセンサ部3と画像処理装置4を個別に設けているが、イメージセンサ部3が画像処理装置4を備える構成としてもよい。
図5において、撮像レンズ1は、被写体からの光を取り込むための光学系を構成し、イメージセンサ部3に被写体像を結像する。IRカットフィルタ2は、撮像レンズ1により取り込まれた光から赤外光を除去する。イメージセンサ部3は、撮像レンズ1により取り込まれた光を信号電荷に変換することにより、被写体像を撮像し、画像信号として画像処理装置4に出力する。
より具体的には、イメージセンサ部3は、R、G、B、Orの画素値を上記カラーフィルタ配列に対応する順序で取り込むことによりアナログ画像信号を生成し、撮像条件に応じたゲインにて順次増幅させる。さらに、イメージセンサ部3は、得られた画像信号をアナログ方式からデジタル方式に変換する。
画像処理装置4は、イメージセンサ部3から入力されるデジタル画像信号に対して、種々の処理を施して記録部5に出力する。記録部5は、画像処理装置4から入力される画像信号をメモリや記録媒体に記録する。
図6は、画像処理装置4の信号処理のフローの一例を示す図である。画像処理装置4は、ビニング処理(隣接する同色4画素加算)を行う処理部を備えている。図6において、まず、ステップS1では、イメージセンサ製造時に生じた画素欠陥による画質劣化を防ぐために、画素が抜けた後を目立たないように補正する(傷補正処理)。
ステップS2では、撮像レンズ1に起因する中央部と周辺部との光量差による輝度ムラを補正する(シェーディング補正処理)。ステップS3では、イメージセンサ部3の撮像条件及び各画素の位置に基づいて算出した補正係数を用いて、輪郭強調処理を施す。
ステップS4では、固定パターンノイズ、暗電流ノイズ、ショットノイズなどのノイズを除去する(ノイズリダクション処理)。ステップS5では、隣接する4つ同色画素を加算するビニング処理を施す。かかるビニング処理は、出力画像のサイズが所定サイズの場合、例えば、有効画素数に対して、1/4サイズ(縦・横1/2)で出力する場合に実行される。また、各種条件に基づいて、ビニング処理を実行すべきか否かを判断して、必要な場合にビニング処理が実行される。例えば、照度が低いとアナログゲインが大きくなるので、ゲイン値が所定値を超えた場合に、ビニング処理を実行する。
ステップS6では、上記カラーフィルタ配列の順序で伝達されてくるデジタル画像信号に対して、画素補間処理(デモザイキング処理)を施す。デモザイキングでは、被写体像の撮像により得られた画像信号の補間処理により、不足色成分の感度レベル値を生成する。
ステップS7では、画像のホワイトバランスを自動調整する(Automatic White Balance control;AWB)。ステップS8では、下式(1)に示すような色再現性を得るためのリニアカラーマトリクス処理を施す。
Figure 2011205348
ここで、色再現性を高めると共に、RGBOr4色からRGB3色へと色信号の変換処理を施す。
ステップS9では、ガンマ補正処理により、ディスプレイ等に表示される画像の彩度や明るさを補正する。なお、本実施の形態で説明する処理の手順は一例であって、他の処理の追加、省略可能な処理の省略、順序の変更などを適宜しても良い。
[固体撮像装置のカラーフィルタ配列の変形例]
本実施の形態のカラーフィルタ配列は、図2の構成に限られるものではなく、以下のような態様としてもよい。図7は、本実施の形態に係るカラーフィルタ配列の変形例を説明するための図である。例えば、図7(a)に示すように、Or画素とB画素を入れ替えてもよい。また、図7(b)に示すように、対角上の上方にOr画素とB画素からなるブロックを配置し、対角上の下方にR画素を配置してもよい。また、図7(c)に示すように、B画素とR画素を入れ替えてもよい。また、図7(d)に示すように、2組のG画素のブロックと、R画素のブロックおよびOr画素とB画素のブロックと、を入れ替えてもよい。
さらに、Orの代わりに、R,G,Bと波長透過率ピークが異なるX色=例えば、C(シアン色)、M(マゼンタ色)、Y(イエロー色)を配置してもよい。これにより、X色の波長領域にサンプルポイントを追加することで、色再現性を向上でき、低照度時において十分な感度を得ることが可能となる。
すなわち、本実施の形態では、G画素が、列方向2画素×行方向2画素配されたブロックが2組、一方の対角上に配置され、他方の対角上に、RおよびBのうちの一方の色の画素が、列方向2画素×行方向2画素で配されたブロックと、他方の色の2つの画素と、R,G,Bと波長透過率ピークが異なる色の2つの画素が対角上に配されたブロックと、が配置された構成とすることで、本実施の形態の効果を得ることが可能となる。
1 撮像レンズ、2 IRフィルタ、3 イメージセンサ部、4 画像処理装置、5 記録部

Claims (3)

  1. 各画素にカラーフィルタを配置した色画素を有する固体撮像装置において、
    X1色の画素が、列方向2画素×行方向2画素配されたブロックが2組、一方の対角上に配置され、
    他方の対角上に、X2色およびX3色のうちの一方の色の画素が、列方向2画素×行方向2画素で配されたブロックと、他方の色の2つの画素と、X4色の2つの画素が対角上に配されたブロックと、が配置され、
    波長の大きさが、X3色<X1色<X4色<X2色であることを特徴とする固体撮像装置。
  2. 前記X1色は緑色、前記X2色は赤色、前記X3色は青、X4色はオレンジ色であることを特徴とする請求項1に記載の固体撮像装置。
  3. 請求項1または請求項2に記載の固体撮像装置と、前記固体撮像装置から出力される画像信号に対して、隣接する同色4画素を加算する処理部を有する画像処理装置と、を備えたことを特徴とする画像記録装置。



























JP2010069934A 2010-03-25 2010-03-25 固体撮像装置および画像記録装置 Expired - Fee Related JP5044673B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2010069934A JP5044673B2 (ja) 2010-03-25 2010-03-25 固体撮像装置および画像記録装置
TW100106727A TWI442780B (zh) 2010-03-25 2011-03-01 固體攝像裝置,其彩色濾光片配置方法及畫像記錄裝置
US13/040,718 US8525905B2 (en) 2010-03-25 2011-03-04 Solid-state imaging device, color filter arrangement method therefor and image recording apparatus
CN2011100535991A CN102202222A (zh) 2010-03-25 2011-03-07 固体摄像装置、其滤色器配置方法及图像记录装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010069934A JP5044673B2 (ja) 2010-03-25 2010-03-25 固体撮像装置および画像記録装置

Publications (2)

Publication Number Publication Date
JP2011205348A true JP2011205348A (ja) 2011-10-13
JP5044673B2 JP5044673B2 (ja) 2012-10-10

Family

ID=44656024

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010069934A Expired - Fee Related JP5044673B2 (ja) 2010-03-25 2010-03-25 固体撮像装置および画像記録装置

Country Status (4)

Country Link
US (1) US8525905B2 (ja)
JP (1) JP5044673B2 (ja)
CN (1) CN102202222A (ja)
TW (1) TWI442780B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018502492A (ja) * 2015-12-18 2018-01-25 クワントン オーピーピーオー モバイル テレコミュニケーションズ コーポレイション リミテッド 結像方法、結像装置及び電子装置
JP2020038107A (ja) * 2018-09-04 2020-03-12 株式会社三井フォトニクス 温度計測装置

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011100350A1 (de) * 2011-05-03 2012-11-08 Conti Temic Microelectronic Gmbh Bildsensor mit einstellbarer Auflösung
JP2012253727A (ja) * 2011-06-07 2012-12-20 Toshiba Corp 固体撮像装置及びカメラモジュール
WO2014007280A1 (ja) * 2012-07-06 2014-01-09 富士フイルム株式会社 カラー撮像素子および撮像装置
JP5698874B2 (ja) * 2012-07-06 2015-04-08 富士フイルム株式会社 カラー撮像素子及び撮像装置
CN105704363B (zh) * 2014-11-28 2020-12-29 广东中星微电子有限公司 图像数据处理方法和装置
CN105578006B (zh) * 2015-12-18 2018-02-13 广东欧珀移动通信有限公司 成像方法、成像装置及电子装置
CN105611125B (zh) * 2015-12-18 2018-04-10 广东欧珀移动通信有限公司 成像方法、成像装置及电子装置
CN106341670B (zh) 2016-11-29 2017-09-22 广东欧珀移动通信有限公司 控制方法、控制装置及电子装置
CN106454054B (zh) 2016-11-29 2019-03-19 Oppo广东移动通信有限公司 控制方法、控制装置及电子装置
CN106504218B (zh) * 2016-11-29 2019-03-12 Oppo广东移动通信有限公司 控制方法、控制装置及电子装置
US10602073B2 (en) * 2018-04-19 2020-03-24 Infineon Technologies Ag Global pixel binning for ambient light sensing
WO2020177123A1 (en) * 2019-03-07 2020-09-10 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Color imaging system
KR20210112042A (ko) * 2020-03-04 2021-09-14 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그의 동작 방법

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) * 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
US6771314B1 (en) * 1998-03-31 2004-08-03 Intel Corporation Orange-green-blue (OGB) color system for digital image sensor applications
JP4207736B2 (ja) * 2003-10-01 2009-01-14 ソニー株式会社 固体撮像装置
JP4265546B2 (ja) * 2005-01-31 2009-05-20 ソニー株式会社 撮像装置、画像処理装置および画像処理方法
JP2006237737A (ja) * 2005-02-22 2006-09-07 Sanyo Electric Co Ltd カラーフィルタアレイ及び固体撮像素子
JP2008005383A (ja) * 2006-06-26 2008-01-10 Matsushita Electric Ind Co Ltd 撮像装置及びイメージセンサ
US20110149126A1 (en) * 2009-12-22 2011-06-23 Olympus Corporation Multiband image pickup method and device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018502492A (ja) * 2015-12-18 2018-01-25 クワントン オーピーピーオー モバイル テレコミュニケーションズ コーポレイション リミテッド 結像方法、結像装置及び電子装置
US10257447B2 (en) 2015-12-18 2019-04-09 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Imaging method, imaging device, and electronic device
JP2020038107A (ja) * 2018-09-04 2020-03-12 株式会社三井フォトニクス 温度計測装置

Also Published As

Publication number Publication date
JP5044673B2 (ja) 2012-10-10
TWI442780B (zh) 2014-06-21
TW201143469A (en) 2011-12-01
CN102202222A (zh) 2011-09-28
US20110234865A1 (en) 2011-09-29
US8525905B2 (en) 2013-09-03

Similar Documents

Publication Publication Date Title
JP5044673B2 (ja) 固体撮像装置および画像記録装置
JP5075934B2 (ja) 固体撮像装置および画像記録装置
WO2021212763A1 (zh) 高动态范围图像处理***及方法、电子设备和可读存储介质
US20120044394A1 (en) Digital camera
JP2013026672A (ja) 固体撮像装置及びカメラモジュール
JP4448889B2 (ja) 撮像素子及び撮像装置
KR102255571B1 (ko) 고체 촬상 장치, 촬상 장치, 및 전자 기기
US8830364B2 (en) Driving method of solid-state imaging device, solid-state imaging device, and imaging apparatus
KR20150013454A (ko) 촬상 장치 및 촬상 방법, 전자 기기, 및 프로그램
JP5698874B2 (ja) カラー撮像素子及び撮像装置
JP2009194604A (ja) 撮像装置及び撮像装置の駆動方法
WO2013100093A1 (ja) 撮像装置、撮像装置の制御方法、及び制御プログラム
WO2018092400A1 (ja) 固体撮像素子、信号処理回路、及び、電子機器
JP2007318630A (ja) 画像入力装置、撮像モジュール、及び固体撮像装置
JP6137539B2 (ja) 固体撮像素子及びその駆動方法、並びに電子機器
JP2007235888A (ja) 単板式カラー固体撮像素子及び撮像装置
JP5124549B2 (ja) 固体撮像素子の動画像信号読出方法及び撮像装置
JP2016019232A (ja) 撮像素子及び撮像装置
JP4848349B2 (ja) 撮像装置及び固体撮像素子の駆動方法
JP2009303020A (ja) 撮像装置及び欠陥画素補正方法
JP5066476B2 (ja) 撮像装置
TWI617198B (zh) 具有透明濾波器像素之成像系統
JP5256084B2 (ja) 撮像装置及び撮像装置の駆動方法
JP2012253727A (ja) 固体撮像装置及びカメラモジュール
JP2009147540A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120619

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120713

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150720

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees