JP4105556B2 - デジタルカメラと撮像画像データ記録方法 - Google Patents

デジタルカメラと撮像画像データ記録方法 Download PDF

Info

Publication number
JP4105556B2
JP4105556B2 JP2003009659A JP2003009659A JP4105556B2 JP 4105556 B2 JP4105556 B2 JP 4105556B2 JP 2003009659 A JP2003009659 A JP 2003009659A JP 2003009659 A JP2003009659 A JP 2003009659A JP 4105556 B2 JP4105556 B2 JP 4105556B2
Authority
JP
Japan
Prior art keywords
sensitivity
image
low
pixel
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003009659A
Other languages
English (en)
Other versions
JP2004222148A (ja
Inventor
克弥 牧岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2003009659A priority Critical patent/JP4105556B2/ja
Publication of JP2004222148A publication Critical patent/JP2004222148A/ja
Application granted granted Critical
Publication of JP4105556B2 publication Critical patent/JP4105556B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は低感度画像と高感度画像の両方を撮像するデジタルカメラとその撮像画像データ記録方法に係り、特に、撮像画像データをRAWデータ(固体撮像素子から出力された撮像画像データで未加工のままの生データ)でメモリに記録するデジタルカメラ及び撮像画像データ記録方法に関する。
【0002】
【従来の技術】
デジタルスチルカメラやデジタルビデオカメラ等のデジタルカメラでは、固体撮像素子の各画素を構成するフォトダイオードに蓄積される電荷の飽和量が高画素化すなわちフォトダイオードの微細化に伴って小さくなり、撮像画像のダイナミックレンジが狭くなってしまうという欠点を有している。
【0003】
この欠点を克服するため、例えば特開2001―8104号公報記載の従来技術では、固体撮像素子に、高感度画素と低感度画素の2種類の画素を設け、高感度画素から得られた撮像画像データと、低感度画素から得られた撮像画像データとを合成することで、撮像画像のダイナミックレンジを広げるようにしている。
【0004】
また、その一方で、近年の様に固体撮像素子の高画素化が進展してくると、銀塩カメラと同等の画像が撮像されるようになり、このため、固体撮像素子から出力される撮像画像データを、ホワイトバランス補正やガンマ補正,JPEG圧縮などせずに未加工のままRAWデータでメモリに保存し、パーソナルコンピュータ等でこの画像データを読み取り、ホワイトバランス補正やガンマ補正,色調補正などを自分の好みに応じて行いたいというユーザの要望が高くなってきている。このため、デジタルカメラには、特開平11―261933号公報(特許文献2)や特開2001―223979号公報(特許文献3)に記載されている様に、RAWデータで画像データを記録するものが増えてきている。
【0005】
【特許文献1】
特開2001―8104号公報
【特許文献2】
特開平11―261933号公報
【特許文献3】
特開2001―223979号公報
【0006】
【発明が解決しようとする課題】
上述したように低感度画像と高感度画像の両方を撮像するデジタルカメラでは、撮像画像データをRAWデータでメモリに記録する場合、低感度画像の撮像画像データと高感度画像の撮像画像データの両方を記録することになる。しかし、ユーザがメモリから低感度画像データと高感度画像データのRAWデータを読み出してパソコン上のアプリケーションソフトウェアにて画像合成しても、なかなか合成処理がうまく行かず、希望する画質の合成画像が得られないという問題がある。
【0007】
本発明の目的は、低感度画像データと高感度画像データのRAWデータをカメラ外で画像合成するときでも容易に且つ迅速に希望する画質の合成画像を得ることができるデジタルカメラとその撮像画像データ記録方法を提供することにある。
【0008】
【課題を解決するための手段】
上記目的を達成する本発明のデジタルカメラは、半導体基板上に設けられた個々の画素の夫々が大面積の高感度画素と小面積の低感度画素とに非対称に分割された固体撮像素子と、該固体撮像素子の前段に置かれた光学系及び該光学系の駆動機構と、前記高感度画素から得られた高感度画像データと前記低感度画素から得られた低感度画像データとをRAWデータで記録媒体に記録すると共に撮影時の前記光学系及び該光学系の駆動状態に応じた前記高感度画素と前記低感度画素との感度比を画像補正用パラメータデータとして前記記録媒体に記録する記録手段とを備えることを特徴とする。
【0009】
この構成により、記録媒体から高感度画像データと低感度画像データのRAWデータを読み出してユーザが画像合成処理を行う場合、カメラ自体が画像合成に最適と自動判定した画像補正用パラメータの値を参照することができ、容易且つ迅速に良好な画質の合成画像を生成することが可能となる。
【0010】
本発明のデジタルカメラの前記光学系及び該光学系の駆動状態は、撮影に使用されたレンズ及び該レンズのズーム位置,フォーカス位置,絞り位置であることを特徴とする。
【0011】
この構成により、低感度画素と高感度画素とが非対に設けられた固体撮像素子でレンズをズームしたりフォーカス位置や絞りを変えて光の各画素への入射角を変えて撮像した画像のRAWデータから高画質の合成画像を容易且つ迅速に生成することが可能となる。
【0014】
本発明のデジタルカメラの撮像画像データ記録方法は、半導体基板上に設けられた個々の画素の夫々が大面積の高感度画素と小面積の低感度画素とに非対称に分割された固体撮像素子と、該固体撮像素子の前段に置かれた光学系及び該光学系の駆動機構とを備えるデジタルカメラの撮像画像データ記録方法であって、前記高感度画素から得られた高感度画像データと前記低感度画素から得られた低感度画像データとをRAWデータで記録媒体に記録すると共に撮影時の前記光学系及び該光学系の駆動状態に応じた前記高感度画素と前記低感度画素との感度比を画像補正用パラメータデータとして前記記録媒体に記録することを特徴とする。
【0015】
この構成により、記録媒体から高感度画像データと低感度画像データのRAWデータを読み出してユーザが画像合成処理を行う場合、カメラ自体が画像合成に最適と自動判定した画像補正用パラメータの値を参照することができ、容易且つ迅速に良好な画質の合成画像を生成することが可能となる。
【0016】
【発明の実施の形態】
以下、本発明の一実施形態を図面を参照して説明する。
【0017】
図1は、本発明の一実施形態に係るデジタルスチルカメラの構成図である。この実施形態ではデジタルスチルカメラを例に説明するが、デジタルビデオカメラや携帯電話機等の小型電子機器に搭載されたカメラ等の他の種類の撮像装置にも本発明を適用可能である。また、本実施形態の画像合成処理は、後述するデジタル信号処理部26がソフトウェアにて実行処理するが、これをハードウェア回路にて実現することも可能である。
【0018】
図1に示すデジタルスチルカメラは、撮影レンズ10と、固体撮像素子11と、この両者の間に設けられた絞り12と、赤外線カットフィルタ13と、光学ローパスフィルタ14とを備える。デジタルスチルカメラの全体を制御するCPU15は、フラッシュ用の発光部16及び受光部17を制御し、また、レンズ駆動部18を制御して撮影レンズ10の位置をフォーカス位置に調整し、絞り駆動部19を介し絞り12の開口量を制御して露光量が適正露光量となるように調整する。
【0019】
また、CPU15は、撮像素子駆動部20を介して固体撮像素子11を駆動し、撮影レンズ10を通して撮像した被写体画像を色信号として出力させる。また、CPU15には、操作部21を通してユーザの指示信号が入力され、CPU15はこの指示に従って各種制御を行う。
【0020】
デジタルスチルカメラの電気制御系は、固体撮像素子11の出力に接続されたアナログ信号処理部22と、このアナログ信号処理部22から出力されたRGBの色信号をデジタル信号に変換するA/D変換回路23とを備え、これらはCPU15によって制御される。
【0021】
更に、このデジタルスチルカメラの電気制御系は、メインメモリ24に接続されたメモリ制御部25と、詳細は後述するデジタル信号処理部26と、撮像画像をJPEG画像に圧縮したり圧縮画像を伸張したりする圧縮伸張処理部27と、測光データを積算してホワイトバランスのゲインを調整させる積算部28と、着脱自在の記録媒体29が接続される外部メモリ制御部30と、カメラ背面等に搭載された液晶表示部31が接続される表示制御部32とを備え、これらは、制御バス33及びデータバス34によって相互に接続され、CPU15からの指令によって制御される。
【0022】
図1に示すデジタル信号処理部26や、アナログ信号処理部22,A/D変換回路23等は、これを夫々別回路としてデジタルスチルカメラに搭載することもできるが、これらを固体撮像素子11と同一半導体基板上にLSI製造技術を用いて製造し、1つの固体撮像装置とするのがよい。
【0023】
図2は、本実施形態で使用する固体撮像素子11の画素配置図である。広ダイナミックレンジの画像を撮像するCCD部分の画素1は、例えば特開平10―136391号公報に記載されている画素配置をとり、偶数行の各画素に対して奇数行の各画素が水平方向に1/2ピッチずらして配置され、各画素から読み出された信号電荷を垂直方向に転送する垂直転送路(図示せず)が、垂直方向の各画素を避けるように蛇行配置される構成をとっている。
【0024】
そして、本実施形態に係る各画素1は、図示する例では、画素1の面積の約1/5を占める低感度画素(副画素)2と、残りの約4/5を占める高感度画素(主画素)3とに分割して設けられ、各低感度画素2の信号電荷と、各高感度画素3の信号電荷とを区別して上記垂直転送路に読み出し転送することができるようになっている。尚、画素1をどのような割合、どの様な位置で分割するかは設計的に決められるものであり、図2は単なる例示に過ぎない。
【0025】
本実施形態の撮像装置では、1回の撮像で、低感度画像(低感度画素2で得られた画像)と高感度画像(高感度画素3で得られた画像)を同時に取得し、各画像を各画素2,3から順次読み出し、詳細は後述する様に合成し、あるいはそのままRAWデータとして記録媒体29に記録する様になっている。
【0026】
尚、固体撮像素子11は、図2に示す様なハニカム画素配置のCCDを例に説明したが、ベイヤー方式のCCDやCMOSセンサでも良い。
【0027】
図3は、上述したデジタルスチルカメラの動作説明図である。固体撮像素子11の高感度画素3から出力されるアナログの高感度画像信号Hは、A/D変換器23によって例えば10ビットのデジタルデータに変換され、固体撮像素子11の低感度画素2から出力されるアナログの低感度画像信号Lは、A/D変換器23によって例えば8ビットのデジタルデータに変換される。
【0028】
ユーザが操作部21で完成画像記録モードを設定しておくと、A/D変換器23から出力される10ビットの高感度画像データと8ビットの低感度画像データをデジタル信号処理部26が取り込んで合成処理その他の画像処理を行い、外部メモリ制御部(記録回路)30は、デジタル信号処理部26から図1の圧縮伸張処理部27(図3では図示省略)を介して渡された例えばJPEG圧縮された完成画像データを記録媒体29に記録する。
【0029】
ユーザが操作部21でRAWデータ記録モードを設定しておくと、A/D変換器23から出力される10ビットの高感度画像データと8ビットの低感度画像データを、外部メモリ制御部30がそのまま記録媒体29に記録する。このとき、外部メモリ制御部30は、RAWデータの他に、後述する画像補正用パラメータの値も一緒に記録する。
【0030】
図4は、完成画像記録モードのときに動作するデジタル信号処理部26の処理構成図である。このデジタル信号処理部26は、高感度画像信号と低感度画像信号とを夫々ガンマ補正した後に加算処理する対数加算方式を採用しており、A/D変換回路23から出力される高感度画像のデジタル信号でなるRGB色信号を取り込んでオフセット処理を行うオフセット補正回路41aと、オフセット補正回路41aの出力信号のホワイトバランスをとるゲイン補正回路42aと、ゲイン補正後の色信号に対してガンマ補正を行うガンマ補正回路43aと、図1に示すA/D変換回路23から出力される低感度画像のデジタル信号でなるRGB色信号を取り込んでオフセット処理を行うオフセット補正回路41bと、オフセット補正回路41bの出力信号のホワイトバランスをとるゲイン補正回路42bと、ゲイン補正後の色信号に対してガンマ補正を行うガンマ補正回路43bとを備える。オフセット補正後の信号に対してリニアマトリクス処理などを行う場合には、ゲイン補正回路42a,42bとガンマ補正回路43a,43bとの間で行う。
【0031】
デジタル信号処理部26は、更に、各ガンマ補正回路43a,43bの両出力信号を取り込んで画像合成処理を行う画像合成処理回路44と、画像合成後のRGB色信号を補間演算して各画素位置におけるRGB3色の信号を求めるRGB補間演算部45と、RGB信号から輝度信号Yと色差信号Cr,Cbとを求めるRGB/YC変換回路46と、輝度信号Yや色差信号Cr,Cbからノイズを低減するノイズフィルタ47と、ノイズ低減後の輝度信号Yに対して輪郭補正を行う輪郭補正回路48と、色差信号Cr,Cbに対して色差マトリクスを乗算して色調補正を行う色差マトリクス回路49とを備える。
【0032】
デジタル信号処理部26で高感度画像データと低感度画像データとを画素単位に画像合成する場合、高感度画素3と低感度画素2の感度比に基づいて行う。しかし、本実施形態で使用する固体撮像素子11は、図2から分かる通り、高感度画素(主画素)3と低感度画素(副画素)2とが非対に配置されているため、レンズ10のズーム位置,フォーカス位置,絞り位置によって光の各画素2,3への入射角が変わり、高感度画素3と低感度画素2の感度比が変化してしまう。また、多群構成のレンズ10も個体差があり、カメラ毎に特性が異なり、上記の感度比の変化に影響を与える。
【0033】
感度比の変化を吸収するには、画素単位に行われる信号処理で高感度画素3と低感度画素2の各検出信号に適当なゲインを掛ければ良い。しかし、そのゲインは、撮影時のズーム位置,フォーカス位置,絞り位置に依存する。従って、CPU15は、撮影時のズーム位置,フォーカス位置,絞り位置の情報を読み取り、予めR,G,Bの色毎に設定されているゲイン値のテーブルデータ(メインメモリ24やその他の図示しないメモリに予め用意しておく。)を参照し、ズーム位置,ゲイン位置,絞り位置に対応したR,G,Bのゲイン値を読み出し、デジタル信号処理部26に渡す。
【0034】
これにより、デジタル信号処理部26は、これらのゲイン値を高感度画素(主画素)3,低感度画素(副画素)2のR,G,B毎の検出信号に掛け合わせてから画像合成を行い、画質の良好な合成画像を作成することができる。
【0035】
完成画像記録モードでは、以上述べた様に、カメラ自体がデジタル信号処理部26で最適な画質の合成画像を生成するが、RAWデータ記録モードでは、A/D変換器23から出力される高感度画像データと低感度画像データがそのまま記録媒体29に記録されることになり、ユーザがパーソナルコンピュータにRAWデータを読み出し、様々な画像合成パラメータを調整して所望の画質の合成画像が得られる様に試行錯誤を繰り返すことになる。
【0036】
ユーザが画像合成する場合、記録媒体29に記録されているデータが高感度画像データと低感度画像データのRAWデータのみであれば、上述した感度比が不明なため、画像合成の試行錯誤を何回も繰り返さないと、良好な画質の画像を作成することができないことになる。
【0037】
そこで、本実施形態では、デジタルスチルカメラが完成画像を生成するときに使用する高感度画素3,低感度画素2の感度比の上述したR,G,B毎のゲイン値を記録媒体29に書き込み、ユーザが画像合成作業を行うときに参考にできる様にする。
【0038】
図5は、RAWデータを記録媒体29に記録するときの画像ファイルのフォーマット図である。画像ファイルは、ヘッダ部と画像データ部とから成り、ヘッダ部は、ファイル番号等のファイル情報51と、撮影に使用したデジタルスチルカメラや使用レンズの機種情報52と、画像補正用パラメータ53と、撮像したときの露光量やシャッタ速度等の撮影付属情報54とを含む。画像データ部は、高感度画像のRAWデータ55と、低感度画像のRAWデータ56とから成る。
【0039】
図6は、画像補正用パラメータ53の詳細構成図である。この例では、画像補正用パラメータは、撮影時に使用したレンズのズーム位置,フォーカス位置,絞り位置に応じた高感度画素(図6では「主画素」と記す。)3のRゲイン値61と、同様の主画素3のGゲイン値62と、同様の主画素3のBゲイン値63と、同様の低感度画素(図6では「副画素」と記す。)2のRゲイン値64と、同様の副画素2のGゲイン値65と、同様の副画素2のBゲイン値66で構成される。
【0040】
ユーザがRAWデータ55,56を読み出して画像合成を行う場合、これらのゲイン値61〜66を参照することで、画像合成作業の試行錯誤回数を減らし、良好な画質の画像を作成することが可能となる。
【0041】
尚、本実施の形態では、図6に示す様に、副画素2のR,G,Bのゲイン値64,65,66を画像補正用パラメータとしたが、これらのゲイン値64,65,66の代わりに、図7に示す様に、主画素と副画素のR,G,Bのゲイン値の比率64’,65’,66’を画像補正用パラメータとしてもよい。
【0042】
尚、上述した実施形態では、RAWデータ記録モードと完成画像記録モードの2つのモードを持つデジタルスチルカメラについて述べたが、完成画像記録モードを搭載していないデジタルカメラであっても、本発明を適用可能である。
【0043】
【発明の効果】
本発明によれば、高感度画像データと低感度画像データを出力する固体撮像素子を搭載したデジタルスチルカメラの撮像画像データをRAWデータで記録媒体に記録するときカメラが自動判定した画像補正用パラメータも一緒に記録するため、ユーザが画像合成作業を行うときに画像補正用パラメータの値を参考にして合成処理を行うことができ、良好な画質の合成画像を容易に且つ迅速に得ることが可能となる。
【図面の簡単な説明】
【図1】本発明の第1実施形態に係るデジタルスチルカメラのブロック構成図である。
【図2】図1に示す固体撮像素子の表面模式図である。
【図3】図1に示すデジタルスチルカメラの動作説明図である。
【図4】図3に示すデジタル信号処理部の処理構成図である。
【図5】図1に示すデジタルスチルカメラで撮像画像データをRAWデータで記録媒体に記録するときの画像ファイルのフォーマット図である。
【図6】図5に示す画像補正用パラメータの詳細図である。
【図7】図6に代わる画像補正用パラメータの詳細図である。
【符号の説明】
1 画素
2 低感度画素(副画素)
3 高感度画素(主画素)
10 レンズ
11 固体撮像素子
12 絞り
18 レンズ駆動部
19 絞り駆動部
23 A/D変換器
26 デジタル信号処理部
29 記録媒体
30 外部メモリ制御部
44 画像合成処理回路
53 画像補正用パラメータ

Claims (3)

  1. 半導体基板上に設けられた個々の画素の夫々が大面積の高感度画素と小面積の低感度画素とに非対称に分割された固体撮像素子と、該固体撮像素子の前段に置かれた光学系及び該光学系の駆動機構と、前記高感度画素から得られた高感度画像データと前記低感度画素から得られた低感度画像データとをRAWデータで記録媒体に記録すると共に撮影時の前記光学系及び該光学系の駆動状態に応じた前記高感度画素と前記低感度画素との感度比を画像補正用パラメータデータとして前記記録媒体に記録する記録手段とを備えることを特徴とするデジタルカメラ。
  2. 前記光学系及び該光学系の駆動状態は、撮影に使用されたレンズ及び該レンズのズーム位置,フォーカス位置,絞り位置であることを特徴とする請求項1に記載のデジタルカメラ。
  3. 半導体基板上に設けられた個々の画素の夫々が大面積の高感度画素と小面積の低感度画素とに非対称に分割された固体撮像素子と、該固体撮像素子の前段に置かれた光学系及び該光学系の駆動機構とを備えるデジタルカメラの撮像画像データ記録方法であって、前記高感度画素から得られた高感度画像データと前記低感度画素から得られた低感度画像データとをRAWデータで記録媒体に記録すると共に撮影時の前記光学系及び該光学系の駆動状態に応じた前記高感度画素と前記低感度画素との感度比を画像補正用パラメータデータとして前記記録媒体に記録することを特徴とするデジタルカメラの撮像画像データ記録方法。
JP2003009659A 2003-01-17 2003-01-17 デジタルカメラと撮像画像データ記録方法 Expired - Fee Related JP4105556B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003009659A JP4105556B2 (ja) 2003-01-17 2003-01-17 デジタルカメラと撮像画像データ記録方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003009659A JP4105556B2 (ja) 2003-01-17 2003-01-17 デジタルカメラと撮像画像データ記録方法

Publications (2)

Publication Number Publication Date
JP2004222148A JP2004222148A (ja) 2004-08-05
JP4105556B2 true JP4105556B2 (ja) 2008-06-25

Family

ID=32899091

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003009659A Expired - Fee Related JP4105556B2 (ja) 2003-01-17 2003-01-17 デジタルカメラと撮像画像データ記録方法

Country Status (1)

Country Link
JP (1) JP4105556B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8023290B2 (en) 1997-01-24 2011-09-20 Synqor, Inc. High efficiency power converter

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6373056B2 (ja) 2014-05-14 2018-08-15 キヤノン株式会社 撮像装置、撮像装置の制御方法及び画像処理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8023290B2 (en) 1997-01-24 2011-09-20 Synqor, Inc. High efficiency power converter
US8493751B2 (en) 1997-01-24 2013-07-23 Synqor, Inc. High efficiency power converter

Also Published As

Publication number Publication date
JP2004222148A (ja) 2004-08-05

Similar Documents

Publication Publication Date Title
US7626619B2 (en) Digital camera
JP4004943B2 (ja) 画像合成方法および撮像装置
JP4025207B2 (ja) 固体撮像素子及びデジタルカメラ
JP2004328117A (ja) ディジタルカメラおよび撮像制御方法
JP5033711B2 (ja) 撮像装置及び撮像装置の駆動方法
JP4581633B2 (ja) 色信号補正方法、装置及びプログラム
JP2004007133A (ja) 撮像装置
JP4178046B2 (ja) デジタルカメラ
JP4279562B2 (ja) 固体撮像装置の制御方法
JP4105556B2 (ja) デジタルカメラと撮像画像データ記録方法
JP4015492B2 (ja) 画像合成方法および撮像装置
JP3977260B2 (ja) デジタルカメラと撮像画像データ記録方法
JP4307862B2 (ja) 信号処理方法、信号処理回路、及び撮像装置
JP4043379B2 (ja) 撮像装置
JP2004048562A (ja) ノイズ低減回路及び撮像装置
JP4163546B2 (ja) ディジタルカメラおよび撮像制御方法
JP4028396B2 (ja) 画像合成方法及びデジタルカメラ
JP2004274473A (ja) デジタルカメラ
JP4604098B2 (ja) デジタルカメラ
JP2004048563A (ja) 撮像装置および画像処理方法
JP2006109046A (ja) 撮像装置
JP2004159170A (ja) デジタルカメラ及び撮像画像データ記録方法並びに画像信号処理方法
JP2004297449A (ja) 固体撮像装置およびシェーディング補正方法
JP2019201269A (ja) 撮像装置
JP2000101907A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050215

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060325

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071017

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20071107

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071108

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071115

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071226

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080312

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080327

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110404

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120404

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130404

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130404

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140404

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees