JP5523068B2 - 固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラム - Google Patents

固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラム Download PDF

Info

Publication number
JP5523068B2
JP5523068B2 JP2009264080A JP2009264080A JP5523068B2 JP 5523068 B2 JP5523068 B2 JP 5523068B2 JP 2009264080 A JP2009264080 A JP 2009264080A JP 2009264080 A JP2009264080 A JP 2009264080A JP 5523068 B2 JP5523068 B2 JP 5523068B2
Authority
JP
Japan
Prior art keywords
field
read
line
image
reading
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009264080A
Other languages
English (en)
Other versions
JP2011109527A (ja
Inventor
典央 根岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009264080A priority Critical patent/JP5523068B2/ja
Publication of JP2011109527A publication Critical patent/JP2011109527A/ja
Application granted granted Critical
Publication of JP5523068B2 publication Critical patent/JP5523068B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラムに関し、特に、光電変換で得られた電荷を読み出して画像を形成するために用いて好適なものである。
高画素数のインターライン型固体撮像素子においては、一般的に複数回の部分読み出しをして全ての画素の電荷を読み出す方法、つまり1フレームを複数フィールドから構成する読み出し方法が用いられる(特許文献1を参照)。このように複数フィールドで画像信号を読み出す際に、鏡筒や撮像装置の背面等に隙間があると、遮光状態であっても、この隙間から漏れでた光(以降、光漏れと呼ぶ)により露光すると、読み出し順が後のフィールドほどより大きなオフセット成分が乗ってしまう。そのため、フィールド間を合成して1つのフレームにした場合にラインごとに輝度の段差が生じてしまう。
図9に、このような読み出し方式における従来の撮像シーケンスを示す。図9では、時間Tの軸(矢印)の方向に時間が進むことを示している。図9において、1段目がメカシャッタの動作を示し、2段目が電子シャッタの動作を示し、3段目が撮像素子から出力されるフィールドを示している。時間t0まで、電子シャッタパルスによりフォトダイオードに残った電荷が基板方向に掃き捨てられる。時間t0から、時間t1でメカシャッタが閉じられるまで露光が行われる。時間t2から時間t6において順次Aフィールド(Afi)、Bフィールド(Bfi)、Cフィールド(Cfi)、Dフィールド(Dfi)、Eフィールド(Efi)、Fフィールド(Ffi)における電荷が読み出される。そして、読み出された電荷は、垂直電荷転送路、水平電荷転送路を転送し、出力部から電圧として出力される。
このとき、時間t1〜t2がAフィールドにおける光漏れの蓄積時間、時間t1〜t3がBフィールドにおける光漏れの蓄積時間、時間t1〜t4がCフィールドにおける光漏れの蓄積時間、時間t1〜t5がDフィールドにおける光漏れの蓄積時間となる。また、時間t1〜t6がEフィールドにおける光漏れの蓄積時間、時間t1〜t7がFフィールドにおける光漏れの蓄積時間となる。
図10は、6フィールド読み出しの撮像素子を用いて、鏡筒等から光漏れがある場合に、従来の方式で一様面を撮影したときの各ラインの出力レベルを示す図である。具体的に図10(a)は、信号処理を行っていない出力レベルを示し、図10(b)は、ローパスフィルタ処理を行った後の出力レベルを示す。
Aフィールド(Afi)は最も読み出し順が早く、続いてBフィールド(Bfi)、Cフィールド(Cfi)、Dフィールド(Dfi)、Eフィールド(Efi)、Fフィールド(Ffi)の順で電荷が読み出される。Aフィールド(Afi)から順次光漏れによるオフセット成分が増加し、それが6フィールド周期であるため、画像上では6ラインおきの横縞になってしまう。画像処理では画素間の感度ばらつきやノイズ成分の影響を抑えるため、ローパスフィルタ処理を行う。しかし、図10(b)に示すように、図10(a)に示す結果に対してローパスフィルタ処理を行っても、輝度の段差量は軽減するものの依然として6ラインおきの横縞は残っており段差が目だってしまう。
このようにして生じる輝度の段差に対し、一般的に2種類の方法で対処がなされる。1つ目の手法は、黒画像減算と呼ばれる手法である。この手法は、「メカシャッタを閉じた状態で本露光時と同じ撮影条件で撮影して黒画像を取得し、本露光時の出力画像から黒画像を減算する」という手法である。2つ目の手法は、光漏れによるオフセット成分の最も少ないフィールドとそれ以外のフィールドとの差分から各フィールドの補正信号を算出し、各フィールドから補正信号を減算することで光漏れによるオフセット成分を除去する手法である(特許文献2を参照)。
特開2000−201355号公報 特開2005−151168号公報
しかしながら、1つ目の手法(黒画像減算)では、本露光と同じ時間だけ撮像装置を露光しなければならず、特に長秒撮影時に非常に長い撮影時間を要してしまう。さらに、黒画像減算を行うことでランダムノイズが増加し、画質の劣化を招く虞がある。
また、2つ目の手法(各フィールドから補正信号を減算する手法)では、出力信号に対して演算処理を行う必要がある。そのため、演算処理に必要なメモリや演算装置を用意しなければならずコストアップに繋がると共に、演算時間を行う期間の分、撮影から画像出力までの時間を要する。また、高感度設定で撮影する場合等、画像にノイズ成分が多く乗っている場合には、補正信号の演算精度を十分に出せない。このため、過補正や補正残りといった問題が発生する虞がある。
本発明は上記問題点を鑑みてなされたものであり、ハードウェアによる対策や出力信号に対する信号処理を行うことなく、光漏れにより生じる輝度段差の画質への影響を軽減することを目的とする。
本発明の固体撮像装置の第1の態様例は、光電変換手段で光電変換された電荷に基づく1フレームの画像を、N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、前記フィールドの電荷の読み出し順を制御する制御手段と、前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦N)が、nが奇数の場合には、第nフィールドとして読み出されるラインとなり、nが偶数の場合には、第nフィールドから読み出されるラインとならないように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする。
本発明の固体撮像装置の第2の態様例は、光電変換手段で光電変換された電荷に基づく1フレームの画像を、N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、前記フィールドの電荷の読み出し順を制御する制御手段と、前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦N)が、nが偶数の場合には、第nフィールドとして読み出されるラインとなり、nが奇数の場合には、第nフィールドから読み出されるラインとならないように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする。
本発明の固体撮像装置の第3の態様例は、光電変換手段で光電変換された電荷に基づく1フレームの画像を、2N+1(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、前記フィールドの電荷の読み出し順を制御する制御手段と、前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦2N+1)が、nが、1≦n≦2N+1であり且つ奇数の場合には、第nフィールドとして読み出されるラインとなり、nが、1≦n≦2N+1であり且つ偶数の場合には、第(2N+2−n)フィールドとして読み出されるラインとなるように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする。
本発明の固体撮像装置の第4の態様例は、光電変換手段で光電変換された電荷に基づく1フレームの画像を、2N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、前記フィールドの電荷の読み出し順を制御する制御手段と、前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦2N)が、nが、1≦n≦Nであり且つ奇数の場合、又は、nが、N+1≦n≦2Nであり且つ偶数である場合には、第nフィールドとして読み出されるラインとなり、nが、1≦n≦Nであり且つ偶数の場合、又は、nが、N+1≦n≦2Nであり且つ奇数である場合には、第(2N+1−n)フィールドとして読み出されるラインとなるように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする。
本発明によれば、読み出し順で相互に隣接するフィールドにおける輝度の差が小さくなるように、フィールドの画像信号の読み出し順を制御するようにした。したがって、ハードウェアによる対策や出力信号に対する信号処理を行うことなく、光漏れにより生じる輝度段差の画質への影響を軽減することができる。
撮像装置の構成を示す図である。 固体撮像素子の構成を示す図である。 色フィルタアレイの一部を示す図である。 第1の実施形態に係る撮像シーケンスを示す図である。 第1の実施形態に係る各ラインの出力レベルを示す図である。 第2の実施形態に係る撮像シーケンスを示す図である。 第2の実施形態に係る各ラインの出力レベルの第1の例を示す図である。 第2の実施形態に係る各ラインの出力レベルの第2の例を示す図である。 従来の撮像シーケンスを示す図である。 従来の各ラインの出力レベルを示す図である。
以下、図面を参照しながら、本発明の実施形態について説明する。
(第1の実施形態)
まず、第1の実施形態について説明する。本実施形態では、6フィールドで1フレームを構成する撮像素子を例に挙げて説明する。
図1は、撮像素子を用いた撮像装置(固体撮像装置)のシステム構成の概要の一例を示す図である。
図1において、撮像装置100は、レンズ部101(レンズ)と、レンズ駆動部102と、メカニカルシャッタ103(メカシャッタ)と、絞り104と、メカニカルシャッタ・絞り駆動部105(シャッタ・絞り駆動部)と、固体撮像素子106とを備える。また、撮像装置100は、CDS・A/D回路107(CDS・A/D)と、撮像信号処理回路108と、タイミング発生部109と、全体制御演算部110と、第1メモリ部111と、第2メモリ部112と、表示部113とを備える。さらに、撮像装置100は、外部インターフェース部(外部I/F部)114と、記録媒体制御インターフェース部(記録媒体制御I/F部)115と、記録媒体116と、操作部117とを備える。
レンズ部101を通った被写体像は、絞り104にて適切な光量に調整され、固体撮像素子106に結像される。固体撮像素子106に結合された被写体像に対して、CDS・A/D回路107にて、相関2重サンプリング、ゲイン調整、A/D変換が行われ、R、G1、G2、Bの信号として、撮像信号処理回路108に送られる。撮像信号処理回路108では、ノイズを軽減するローパスフィルタ処理やシェーディング処理、WB処理等の各種の画像信号処理、各種の補正、画像データの圧縮等が行われる。
レンズ駆動部102によって、ズーム、フォーカス等、レンズ部101の駆動制御がされる。メカニカルシャッタ103は、一眼レフカメラに使用されるフォーカルプレーン型のシャッタの後幕に相当する幕のみを有するシャッタ機構である。このメカニカルシャッタ103と絞り104は、メカニカルシャッタ・絞り駆動部105によって駆動制御される。タイミング発生部109は、固体撮像素子106と撮像信号処理回路108に各種タイミング信号を出力する。
全体制御演算部110は、撮像装置100全体の制御と各種演算を行う。第1メモリ部111は画像データを一時的に記憶する。記録媒体制御インターフェース部115は、記録媒体116への画像データ等の記録と、記録媒体116からの画像データ等の読み出しを行う。表示部113は、画像データの表示を行う。記録媒体116は、半導体メモリ等の着脱可能な記憶媒体であり、画像データ等を記録する。外部インターフェース部114は、外部コンピュータG等と通信を行うためのインターフェースである。第2メモリ部112は、全体制御演算部110での演算結果等を記憶する。操作部117にてユーザが設定した撮像装置100の駆動条件に関する情報は、全体制御演算部110に送られ、これらの情報に基づいて、全体制御演算部110によって撮像装置100全体の制御が行われる。
図2は、固体撮像素子106の概略構成の一例を示す図である。
図2において、固体撮像素子106は、フォトダイオード201と、垂直電荷転送路202と、水平電荷転送路203と、出力部204と、バッファストレージセル205と、トランスファゲート206とを有している。
垂直電荷転送路202は、それぞれ、駆動パルスφV1〜φV12が加わる転送電極である電極V1〜V12を備えて構成される。また、電極V1、V3、V5、V7、V9、V11は、フォトダイオード201から垂直電荷転送路202へ電荷の読み出しを行う読み出し電極を兼ねている。垂直電荷転送路202の最終段のバッファストレージセル205、トランスファゲート206は、それぞれ、駆動パルスφBS、φTSが加わる転送電極BS、TSを備えて構成されている。水平電荷転送路203は、それぞれ、2相駆動パルスφH1、φH2の加わる転送電極である電極H1、H2を備えて構成される。
フォトダイオード201で光電変換された信号電荷は、タイミング発生部109から電極V1、V3、V5、V7、V9、V11に読み出しパルスを加えることで垂直電荷転送路202に送られる。このとき電極V1により読み出されるフィールドをAフィールド、電極V3により読み出されるフィールドをBフィールド、電極V5により読み出されるフィールドをCフィールドとする。同様に、電極V7により読み出されるフィールドをDフィールド、電極V9により読み出されるフィールドをEフィールド、電極V11により読み出されるフィールドをFフィールドとする。各電極V1、V3、V5、V7、V9により読み出された電荷は、さらに駆動パルスφV1〜φV12、φBS、φTSにより水平電荷転送路203の方向へ順に転送される。水平電荷転送路203は、垂直電荷転送路202から転送されて来た1行分の信号電荷を2相駆動パルスφH1及びφH2により出力部204に転送し、出力部204で、転送された信号電荷を電圧に変換し出力する。
図3は、固体撮像素子106で使用される色フィルタアレイの一部の一例を示す図である。ここでは、第1の色フィルタを赤(R)、第2の色フィルタを緑(G)、第3の色フィルタを緑(G)、第4の色フィルタを青(B)とした場合を示している。この色フィルタアレイの配列は、原色の色フィルタ配列のなかでも、特にベイヤ配列と呼ばれるものであり、高い解像度と優れた色再現性とを備えた色フィルタ配列である。
図3において、第1行目は、第3の色フィルタの緑(G)と第4の色フィルタの青(B)のみで構成され、電極V1で読み出されるAフィールドである。第2行目は、第1の色フィルタの赤(R)と第2の色フィルタの緑(G)のみで構成され、電極V3で読み出されるBフィールドである。第3行目は、第3の色フィルタの緑(G)と第4の色フィルタの青(B)のみで構成され、電極V5で読み出されるCフィールドである。第4行目は、第1の色フィルタの赤(R)と第2の色フィルタの緑(G)のみで構成され、電極V7で読み出されるDフィールドである。第5行目は、第3の色フィルタの緑(G)と第4の色フィルタの青(B)のみで構成され、電極V9で読み出されるEフィールドである。第6行目は第1の色フィルタの赤(R)と第2の色フィルタの緑(G)のみで構成され、電極V11で読み出されるFフィールドである。第7行目以降も同様に、Aフィールド、Bフィールド、Cフィールド・・・と画像領域において6つのフィールドが順番に並ぶように構成されている。
次に、撮像信号処理回路108(フィルタ手段)にて、ノイズ低減のために通常行われるローパスフィルタ処理について説明する。処理対象の画素の出力値をX(i,j)とし、その垂直方向の隣接画素の出力値をそれぞれX(i,j-2)、X(i,j-1)、X(i,j+1)、X(i,j+2)とする。すると、ローパスフィルタ処理後の出力値Y(i,j)は以下の(式1)のように表される(ただし、i、jは0以上の整数)。
Y(i,j)={X(i,j-2)+4×X(i,j-1)+6×X(i,j)+4×X(i,j+1)+X(i,j+2)}/16 ・・・(式1)
一例として、図10(a)に示した出力値に対して(式1)を適用した結果を示す。各ラインの出力値が(Afi, Bfi, Cfi, Dfi, Efi, Ffi)=(9,11,13,15,17,19)である場合、(式1)のローパスフィルタ処理は以下のように適応される。尚、各ラインのローパスフィルタ処理後の値を、Afi', Bfi', Cfi', Dfi', Efi', Ffi'とする。
Afi'={17+4×19+6×9+4×11+13}/16=12.8
Bfi'={19+4×9+6×11+4×13+15}/16=11.8
Cfi'={9+4×11+6×13+4×15+17}/16=13.0
Dfi'={11+4×13+6×15+4×17+19}/16=15.0
Efi'={13+4×15+6×17+4×19+9}/16=16.3
Ffi'={15+4×17+6×19+4×9+11}/16=15.3
これらの計算結果からも分かるように、背景技術で述べたような従来の駆動方法では、(式1)のローパスフィルタ処理により十分に輝度の段差を軽減できない。
そこで、本実施形態では、輝度段差が軽減されるように、以下のような読み出し順で各フィールドの電荷を読み出した上で、(式1)のローパスフィルタ処理を行うようにする。
本実施形態では、フィールドの分割数がN(Nは3以上の自然数)である場合について説明する。K番目に読み出されるフィールドを第Kフィールドとし、画像上で第1フィールドとして読み出される1番目のラインを第1行、そこから数えてn番目のラインを第n行(nは1以上の整数、n≦N)とする。このとき、第n行のラインが何番目に読み出されるフィールドかを示す関数K(n)は下記の(式2)で表される。
nが偶数のとき K(n)=n かつ nが奇数のとき K(n)≠n
又は
nが偶数のとき K(n)≠n かつ nが奇数のとき K(n)=n
・・・(式2)
(式2)は、第1フィールド(Aフィールド)から数えて、垂直方向の正の方向の並び順であっても、負の方向の並び順であっても同様に適応されるものとする。このように本実施形態では、nが奇数(偶数)の場合には、第nフィールドとして読み出されるラインとなり、nが偶数(奇数)の場合には、第nフィールドから読み出されるラインとならないように、フィールドの電荷の読み出し順を決定するようにしている。
フィールドの分割数NがN=6であるとき、(式2)を満たすように画像上では、例えば、以下のように読み出されるラインが順に並ぶ。すなわち、第5フィールド(Eフィールド)、第2フィールド(Bフィールド)、第1フィールド(Aフィールド)、第4フィールド(Dフィールド)、第3フィールド(Cフィールド)、第6フィールド(Fフィールド)として読み出されるラインが順に並ぶ。
図4は、(式2)に従う読み出し順でフィールドの信号を読み出す場合の全体制御演算部110(制御手段)の制御による撮像装置100の撮像シーケンスの一例を示す図である。図4では、時間Tの軸(矢印)の方向に時間が進むことを示している。図4において、1段目がメカニカルシャッタ103の動作を示し、2段目が電子シャッタの動作を示し、3段目が固体撮像素子106から出力されるフィールドを示している。時間t0まで、電子シャッタパルスによりフォトダイオード201に残った電荷が基板方向に掃き捨てられる。時間t0から、時間t1でメカニカルシャッタ103が閉じられるまで露光が行われる。フォトダイオード201の電荷を読み出す前に、時間t1〜t2の期間において、垂直電荷転送路202、水平電荷転送路203を高速に駆動させることで、垂直電荷転送路202に発生した暗電流成分等の不要電荷が掃き出される。時間t2において、タイミング発生部109(読み出し手段)から電極V9に読み出しパルスが加えられると、Eフィールド(Efiと記載)の電荷が読み出される。読み出された電荷は、垂直電荷転送路202、水平電荷転送路203を転送し、出力部204にて電圧に変換され出力される。続いて同様に、タイミング発生部109(読み出し手段)から電極V3、V1、V7、V5、V11に順次読み出しパルスを印加して、以下のフィールドの電荷が読み出される。すなわち、Bフィールド(Bfi)、Aフィールド(Afi)、Dフィールド(Dfi)、Cフィールド(Cfi)、Fフィールド(Ffi)の電荷が読み出される。そして、読み出された電荷は、垂直電荷転送路202、水平電荷転送路203を転送し、出力部204から電圧として出力される。
図5は、鏡筒等から光漏れがある状態で一様面(輝度が均一な面)を撮影し、図4に示した撮像シーケンスで電荷を読み出した際の各ラインの出力レベルの一例を示す図である。具体的に図5(a)は、固体撮像素子106から出力されCDS・A/D回路107を経て撮像信号処理回路108に入る直前の出力レベルを示し、図5(b)は、撮像信号処理回路108でローパスフィルタ処理を行った後の出力レベルを示す。
光漏れがあるため、図4の時間t1以降も各フィールドにおいて電荷が読み出されるまで露光され、それがオフセット成分として信号成分に重畳する。この光漏れによるオフセット成分は、読み出しの最も遅いFフィールドで最も大きくなり、ついでCフィールド、Dフィールド、Aフィールド、Bフィールド、Eフィールドの順に大きくなり、ラインごとの輝度段差となる。
(式1)の演算では、相互に隣接する画素(隣接画素)の影響の比重が大きい。このため、この特性に合わせて、隣接画素間での平均値が全てのラインで同じような出力レベルになる並びにすることで、図5(b)に示すように隣接画素との差分平滑化が有効的に作用することとなる。
本実施形態では、従来のように読み出したフィールド順のまま画像上に並べる方法に対し、画像上の偶数ライン又は奇数ラインのどちらか一方の読み出し順を変えるようにしている。本実施形態では、このようにすることによって、ローパスフィルタによる平滑化を有効に作用させることができるようになり、輝度段差の軽減を実現することが可能となる。
図4では、偶数ラインの読み出し順を固定する(変えない)場合の例を示したが、奇数ラインの読み出し順を固定する場合も同様に、ローパスフィルタによる平滑化を有効に作用させる並び順を実現できる。例えば、フィールド分割数N=6であるとき、例えば、第1フィールド、第4フィールド、第3フィールド、第6フィールド、第5フィールド、第2フィールドの順で各ラインの電荷が読み出されるようにすることができる。
以上のように本実施形態では、奇数ライン目(偶数ライン目)のフィールドの読み出し順を固定し、偶数ライン目(奇数ライン目)のフィールドの全ての読み出し順を変えて読み出した電荷に基づく信号に対してローパスフィルタ処理を行うようにした。具体的に、輝度が均一の面の撮像により固体撮像素子106から出力された出力信号に対してローパスフィルタ処理を行ったときに、出力画像上でのフィールド間の信号差が所定値以下となるような読み出し順番とする。本実施形態では、このようにして、光漏れによる横縞の空間周波数が高くなるように、読み出すフィールドの順番を変えることによって、読み出し順が隣り合うフィールド間の輝度の差を、読み出し順の変更前よりも小さくすることができる。よって、複数のフィールド読み出しを行う固体撮像装置で撮像された画像において、鏡筒や撮像装置の背面等の隙間から入射した光によって生じる輝度段差の画質への影響を、ハードウェアによる対策や出力信号に対する信号処理を行うことなく軽減できる。
尚、本実施形態では、6フィールドで1フレームを構成する撮像素子を例として示しているが、1フレームの分割数が6以外であっても同様に実現できる。
また、本実施形態では、(式1)のローパスフィルタにより輝度段差の軽減に有効な読み出し順を示したが、(式1)以外のローパスフィルタであってもよい。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。本実施形態と第1の実施形態とは、フィールドの読み出し順を決定する方法が主として異なる。したがって、本実施形態の説明において、第1の実施形態と同一の部分については、図1〜図5に付した符号と同一の符号を付す等して詳細な説明を省略する。
本実施形態では、輝度段差が軽減されるように、以下のような読み出し順で各フィールドの電荷を読み出した上で、(式1)のローパスフィルタ処理を行うようにする。
まず、フィールドの分割数が奇数(2N+1(Nは1以上の整数))である場合について説明する。K番目に読み出されるフィールドを第Kフィールドとし、画像上で第1フィールドとして読み出される1番目のラインを第1行、そこから数えてn番目のラインを第n行(nは1以上の整数、n≦2N+1)とする。このとき、第n行のラインが何番目に読み出されるフィールドかを示す関数K(n)は、以下の(式3)、(式4)で表される。
(1≦n≦2N+1,nは奇数)のとき K(n)=n ・・・(式3)
(1≦n≦2N+1,nは偶数)のとき K(n)=2N+2−n ・・・(式4)
(式3)及び(式4)は、第1フィールドから数えて、垂直方向の正の方向の並び順であっても、負の方向の並び順であっても同様に適応されるものとする。
例えば、フィールドの分割数が5(N=2)であるとき、(式3)及び(式4)を満たすように画像上では、第1フィールド、第4フィールド、第3フィールド、第2フィールド、第5フィールドとして読み出されるラインが順に並ぶ。この場合、K(1)=1、K(2)=4、K(3)=3、K(4)=2、K(5)=5となる。同様にフィールドの分割数が9(N=4)であるとき、画像上では、第1フィールド、第8フィールド、第3フィールド、第6フィールド、第5フィールド、第4フィールド、第7フィールド、第2フィールド、第9フィールドとして読み出されるラインが順に並ぶ。この他、フィールドの分割数が3、7、11・・・であっても2N+1(Nは1以上の整数)で表される奇数であれば同様に(式3)及び(式4)に従って並び順(読み出し順)を変えることで、輝度段差の影響を最小限に抑えることができる。
次に、フィールドの分割数が偶数(2N(Nは2以上の整数))である場合について説明する。K番目に読み出されるフィールドを第Kフィールドとし、画像上で第1フィールドとして読み出される1番目のラインを第1行、そこから数えてn番目のラインを第n行(nは1以上の整数、n≦2N)とする。このとき、第n行のラインが何番目に読み出されるフィールドかを示す関数K(n)は、以下の(式5)〜(式8)で表される。
(1≦n≦N,nは奇数)のとき K(n)=n ・・・(式5)
(1≦n≦N,nは偶数)のとき K(n)=2N+1−n ・・・(式6)
(N+1≦n≦2N,nは奇数)のとき K(n)=2N+1−n ・・・(式7)
(N+1≦n≦2N,nは偶数)のとき K(n)=n ・・・(式8)
(式5)〜(式8)は、第1フィールドから数えて、垂直方向の正の方向の並び順であっても、負の方向の並び順であっても同様に適応されるものとする。
例えば、フィールドの分割数が6(N=3)であるとき、画像上では、第1フィールド、第5フィールド、第3フィールド、第4フィールド、第2フィールド、第6フィールド
として読み出されるラインが順に並ぶ。この場合、K(1)=1、K(2)=5、K(3)=3、K(4)=4、K(5)=2、K(6)=6となる
同様に、フィールドの分割数が8(N=4)であるとき、画像上では、第1フィールド
第7フィールド、第3フィールド、第5フィールド、第4フィールド、第6フィールド、第2フィールド、第8フィールドとして読み出されるラインが順に並ぶ。この他、フィールドの分割数が4、10、12・・・であっても2N(Nは2以上の整数)で表される偶数であれば同様に(式5)〜(式8)に従って並び順(読み出し順)を変えることで、輝度段差の影響を最小限に抑えることが出来る。
以上のフィールドの読み出し順は、既存のローパスフィルタにより輝度段差を軽減するのに最も有効な読み出し順をシュミレーションした結果から導かれたものであり、フィールドの分割数が3以上の如何なる場合に対しても有効である。
図6は、フィールドの分割数が6であり、(式5)〜(式8)に従う読み出し順でフィールドの信号を読み出す場合の全体制御演算部110(制御手段)の制御による撮像装置100の撮像シーケンスの一例を示す図である。時間t0〜t2までの動作は、図4で説明した動作と同じであるため、ここでは詳細な説明を省略する。
時間t2において、タイミング発生部109(読み出し手段)から電極V3に読み出しパルスが加えられると、Aフィールド(Afi)の電荷が読み出される。読み出された電荷は、垂直電荷転送路202、水平電荷転送路203を転送し、出力部204にて電圧に変換されて出力される。続いて同様に、タイミング発生部109(読み出し手段)から電極V9、V5、V7、V3、V11に順次読み出しパルスを印加して、以下のフィールドの電荷が読み出される。すなわち、Eフィールド(Efi)、Cフィールド(Cfi)、Dフィールド(Dfi)、Bフィールド(Bfi)、Fフィールド(Ffi)の電荷が読み出される。そして、読み出された電荷は、垂直電荷転送路202、水平電荷転送路203を転送し、出力部204から電圧として出力される。
図7は、鏡筒等から光漏れがある状態で一様面(輝度が均一な面)を撮影し、図6に示した撮像シーケンスで電荷を読み出した際の各ラインの出力レベルの一例を示す図である。具体的に図7(a)は、固体撮像素子106から出力されCDS・A/D回路107を経て撮像信号処理回路108に入る直前の出力レベルを示し、図7(b)は、撮像信号処理回路108でローパスフィルタ処理を行った後の出力レベルを示す。
図7(b)に示すように、本実施形態では、フィールドの分割数が3以上の如何なる分割数であっても、第1の実施形態で説明したのと同様の効果が得られる。
図8は、鏡筒等から光漏れがある状態で、5フィールドで1フレームを構成する固体撮像素子により一様面(輝度が均一な面)を撮影し、(式3)及び(式4)に従う撮像シーケンスで電荷を読み出した際の各ラインの出力レベルの一例を示す図である。具体的に図8(a)は、固体撮像素子106から出力されCDS・A/D回路107を経て撮像信号処理回路108に入る直前の出力レベルを示し、図8(b)は、撮像信号処理回路108でローパスフィルタ処理を行った後の出力レベルを示す。図8(b)に示すように、6フィールドで1フレームを構成する固体撮像素子以外の固体撮像素子であっても、1フレームの分割数が6のものと同様の効果を奏する。
また、本実施形態では、(式1)のローパスフィルタにより輝度段差の軽減に有効な読み出し順を示したが、(式1)以外のローパスフィルタであってもよい。
尚、前述した実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
(その他の実施例)
本発明は、以下の処理を実行することによっても実現される。即ち、まず、以上の実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が当該コンピュータプログラムを読み出して実行する。
100 撮像装置、106 固体撮像素子、108 撮像信号処理回路

Claims (11)

  1. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、
    前記フィールドの電荷の読み出し順を制御する制御手段と
    前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、
    前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦N)が、nが奇数の場合には、第nフィールドとして読み出されるラインとなり、nが偶数の場合には、第nフィールドから読み出されるラインとならないように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置。
  2. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、
    前記フィールドの電荷の読み出し順を制御する制御手段と
    前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、
    前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦N)が、nが偶数の場合には、第nフィールドとして読み出されるラインとなり、nが奇数の場合には、第nフィールドから読み出されるラインとならないように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置。
  3. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、2N+1(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、
    前記フィールドの電荷の読み出し順を制御する制御手段と
    前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、
    前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦2N+1)が、nが、1≦n≦2N+1であり且つ奇数の場合には、第nフィールドとして読み出されるラインとなり、nが、1≦n≦2N+1であり且つ偶数の場合には、第(2N+2−n)フィールドとして読み出されるラインとなるように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置。
  4. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、2N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し手段と、
    前記フィールドの電荷の読み出し順を制御する制御手段と
    前記読み出し手段で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ手段と、を有し、
    前記制御手段は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦2N)が、
    nが、1≦n≦Nであり且つ奇数の場合、又は、nが、N+1≦n≦2Nであり且つ偶数である場合には、第nフィールドとして読み出されるラインとなり、
    nが、1≦n≦Nであり且つ偶数の場合、又は、nが、N+1≦n≦2Nであり且つ奇数である場合には、第(2N+1−n)フィールドとして読み出されるラインとなるように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置。
  5. 前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値が、前記ラインのそれぞれで同じになるようにしたことを特徴とする請求項1〜4の何れか1項に記載の固体撮像装置。
  6. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し工程と、
    前記フィールドの電荷の読み出し順を制御する制御工程と
    前記読み出し工程で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ工程と、を有し、
    前記制御工程は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦N)が、nが奇数の場合には、第nフィールドとして読み出されるラインとなり、nが偶数の場合には、第nフィールドから読み出されるラインとならないように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置の駆動方法。
  7. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し工程と、
    前記フィールドの電荷の読み出し順を制御する制御工程と
    前記読み出し工程で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ工程と、を有し、
    前記制御工程は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦N)が、nが偶数の場合には、第nフィールドとして読み出されるラインとなり、nが奇数の場合には、第nフィールドから読み出されるラインとならないように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置の駆動方法。
  8. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、2N+1(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し工程と、
    前記フィールドの電荷の読み出し順を制御する制御工程と
    前記読み出し工程で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ工程と、を有し、
    前記制御工程は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦2N+1)が、nが、1≦n≦2N+1であり且つ奇数の場合には、第nフィールドとして読み出されるラインとなり、nが、1≦n≦2N+1であり且つ偶数の場合には、第(2N+2−n)フィールドとして読み出されるラインとなるように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置の駆動方法。
  9. 光電変換手段で光電変換された電荷に基づく1フレームの画像を、2N(Nは整数)個のフィールドに分割し、分割したフィールドごとに異なるタイミングでそれぞれのフィールドの電荷を読み出す読み出し工程と、
    前記フィールドの電荷の読み出し順を制御する制御工程と
    前記読み出し工程で読み出された電荷に基づく画像信号に対して行うローパスフィルタ処理として、前記画像の垂直方向における隣接画素間の平滑化を行うフィルタ工程と、を有し、
    前記制御工程は、K番目(Kは1以上の整数)に読み出すフィールドを第Kフィールドとし、出力される画像上において第1フィールドとして読み出されるラインを1番目のラインとしたときのn番目のライン(nは1以上の整数であり且つn≦2N)が、
    nが、1≦n≦Nであり且つ奇数の場合、又は、nが、N+1≦n≦2Nであり且つ偶数である場合には、第nフィールドとして読み出されるラインとなり、
    nが、1≦n≦Nであり且つ偶数の場合、又は、nが、N+1≦n≦2Nであり且つ奇数である場合には、第(2N+1−n)フィールドとして読み出されるラインとなるように、前記フィールドの電荷の読み出し順を制御して、前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値の差が、前記ラインのそれぞれで所定の範囲内になるようにすることを特徴とする固体撮像装置の駆動方法。
  10. 前記ローパスフィルタ処理がなされた後の前記垂直方向で隣接する画素間の光漏れによる輝度の平均値が、前記ラインのそれぞれで同じになるようにしたことを特徴とする請求項6〜9の何れか1項に記載の固体撮像装置の駆動方法。
  11. 請求項610のれか1項に記載の固体撮像装置の駆動方法の各工程をコンピュータに実行させることを特徴とするコンピュータプログラム。
JP2009264080A 2009-11-19 2009-11-19 固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラム Expired - Fee Related JP5523068B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009264080A JP5523068B2 (ja) 2009-11-19 2009-11-19 固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009264080A JP5523068B2 (ja) 2009-11-19 2009-11-19 固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2011109527A JP2011109527A (ja) 2011-06-02
JP5523068B2 true JP5523068B2 (ja) 2014-06-18

Family

ID=44232508

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009264080A Expired - Fee Related JP5523068B2 (ja) 2009-11-19 2009-11-19 固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP5523068B2 (ja)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02278979A (ja) * 1989-04-20 1990-11-15 Fuji Photo Film Co Ltd 擬似フレーム電子シャッター及び輝度信号形成方法
JP2000206945A (ja) * 1999-01-14 2000-07-28 Matsushita Electric Ind Co Ltd 表示装置への高精細静止画出力の方法および装置とそれを用いる撮像装置
JP4296025B2 (ja) * 2003-04-28 2009-07-15 パナソニック株式会社 固体撮像装置及びその駆動方法
JP4500106B2 (ja) * 2003-05-27 2010-07-14 オリンパス株式会社 撮像装置、及び撮像装置の調整方法
JP2005151168A (ja) * 2003-11-14 2005-06-09 Canon Inc 信号処理装置
JP4105648B2 (ja) * 2004-03-10 2008-06-25 富士フイルム株式会社 撮像素子の読出制御装置および撮影装置
JP4735820B2 (ja) * 2005-08-16 2011-07-27 富士フイルム株式会社 撮像装置の信号処理方法及び撮像装置
JP2008028643A (ja) * 2006-07-20 2008-02-07 Olympus Corp 撮像装置
JP4814112B2 (ja) * 2007-01-22 2011-11-16 ソニー株式会社 固体撮像素子
JP2009017077A (ja) * 2007-07-03 2009-01-22 Fujifilm Corp ディジタル・カメラおよびその動作制御方法
JP4139432B1 (ja) * 2008-04-28 2008-08-27 株式会社リコー 撮像方法および撮像装置および画像情報処理装置

Also Published As

Publication number Publication date
JP2011109527A (ja) 2011-06-02

Similar Documents

Publication Publication Date Title
JP6727938B2 (ja) 撮像装置、撮像装置の制御方法、及び撮像システム
JP4019417B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP5852324B2 (ja) 撮像装置及びその制御方法、プログラム
WO2013031368A1 (ja) 撮像装置、および信号処理方法、並びにプログラム
US8422819B2 (en) Image processing apparatus having a noise reduction technique
JP5128726B1 (ja) 固体撮像素子および当該素子を備える撮像装置
JP6414718B2 (ja) 撮像装置
JP2012105225A (ja) 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
JP5523065B2 (ja) 撮像装置及びその制御方法
JP5746521B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP5526840B2 (ja) 画像信号処理装置、撮像装置、画像信号処理方法、およびプログラム
US8279317B2 (en) Methods for capturing and reading out images from an image sensor
WO2011041116A1 (en) Methods for image capture and readout
JP5885431B2 (ja) 撮像素子及び撮像装置
JP2014150444A (ja) 固体撮像装置
JP2009088706A (ja) 撮像装置及び固体撮像素子の駆動方法
JP5523068B2 (ja) 固体撮像装置、固体撮像装置の駆動方法、及びコンピュータプログラム
JP7134786B2 (ja) 撮像装置および制御方法
JP2012085343A (ja) 撮像装置及び撮像システム
JP6393087B2 (ja) 撮像素子及び撮像装置
JP7020463B2 (ja) 撮像装置
JP5094313B2 (ja) 撮像装置及びその駆動方法
JP2018093301A (ja) 撮像素子及び撮像素子の制御方法
JP2018170703A (ja) 撮像素子、撮像装置、及び撮像素子の制御方法
JP2004056407A (ja) 固体電子撮像素子および固体電子撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130430

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140408

LAPS Cancellation because of no payment of annual fees