JP3746441B2 - 映像信号処理装置 - Google Patents

映像信号処理装置 Download PDF

Info

Publication number
JP3746441B2
JP3746441B2 JP2001194886A JP2001194886A JP3746441B2 JP 3746441 B2 JP3746441 B2 JP 3746441B2 JP 2001194886 A JP2001194886 A JP 2001194886A JP 2001194886 A JP2001194886 A JP 2001194886A JP 3746441 B2 JP3746441 B2 JP 3746441B2
Authority
JP
Japan
Prior art keywords
interpolation
image
line
maximum value
minimum value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001194886A
Other languages
English (en)
Other versions
JP2003009093A (ja
Inventor
恵美子 田嶋
輝也 楠田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2001194886A priority Critical patent/JP3746441B2/ja
Publication of JP2003009093A publication Critical patent/JP2003009093A/ja
Application granted granted Critical
Publication of JP3746441B2 publication Critical patent/JP3746441B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、テレビジョン受像機等の映像信号処理装置にかかわり、特にインタレース画像をプログレッシブ画像へ変換(以下、IP変換と称する)する際、高画質なプログレッシブ画像を得るのに好適な映像信号処理装置に関する。
【0002】
【従来の技術】
映像信号の多くは、走査の形態に飛び越し走査が用いられている。しかし、この映像信号を飛び越し走査の画像表示部に表示すると、ラインフリッカなどのインタレース妨害が発生し、画質が劣化する。
【0003】
このインタレース妨害は、インタレース画像をプログレッシブ画像へ変換し、順次走査の形態で表示することで除去することができる。そして、この機能を備えたテレビジョン受像機も商品化されている。
【0004】
IP変換では、インタレース走査で抜けた走査線の信号を補間処理で生成する信号処理を行う。この補間処理には動き適応型と動き補償型の信号処理がある。
【0005】
動き適応型は、静止画領域に適したフレーム間補間と、動画領域に適したフィールド内補間とを、画像の動き情報に応じて混合比率を変化させる補間処理をし、1フレーム間差分信号の大小で動き情報の検出を行う為、この動き情報は必ずしも画像の正確な動きとの対応がとれていない。この為、静止画領域では、インタレース妨害が完全に除去でき、顕著な画質改善の効果が得られるにもかかわらず、動画領域では、インタレース妨害の除去が不完全となり、画質の改善効果が少ないという課題を有している。
【0006】
またここで、フィールド内補間の手法として、補間画素を実在する上下画素を用いて平均化し得る方法が従来知られている。この手法では、一のフレームの片一方のフィールドから生成することになるため、サンプリングを(1/2)×fで行ったことになり、シャノンの定理によれば、この方法で再生できる周波数帯域は、図3に示すように最大で(1/4)×fとなる。しかしながら、実際の回路における動作においては、(1/4)×f付近の周波数成分が失われ((1/4)×fまでの周波数成分が完全に補償されるのではない。後述の図3を参照)、解像感が低下した画像となりやすいという課題を有している。なお、上記のfは周波数を表す頭文字であって、シャノンの定理を引用した場合に記載するfはサンプリング周波数のことを当然に意味し、以下の記載におけるfも同様にサンプリング周波数のことを云う。
【0007】
一方、動き補償型は、画像の動きを動きベクトル情報として検出し、この動きベクトル情報で、前後のフィールドの信号に対して動き補備の信号処理を行い、補間走査線の信号を生成する。この方法では、画像の動きにほぼ合致した補間処理が可能になる。
【0008】
IP変換する為の画像処理装置に関し、従来技術としての特開平10−112845号公報によれば、画像のフレーム間の動きベクトルを検出し、IP変換する技術が記載されている。
【0009】
【発明が解決しようとする課題】
しかしながら、前記公報記載の技術のように、フレーム間の動きベクトルを検出しIP変換するのでは、正確な動き補償の信号処理を行う為に、精度の高い動きベクトルの検出が不可欠となる。この為、膨大な信号処理が必要になるという課題を有している。
【0010】
また、フィールド内補間では、従来の方法で再生できる周波数帯域は、図3に示すように、最大で(1/4)×fとなるが、実際には、(1/4)×f付近の周波数成分が失われ、解像感が低下した画像となりやすいという課題を有している。
【0011】
本発明の目的は、そのような状況に鑑みてなされたもので、従来の動き適応型の補間で目障りな画像劣化を低減し、かつ少ない演算量の信号処理で、動画部分の補間を行う場合、解像感の低下を防ぐことができるようにすることにある。
【0012】
さらに、失われた周波数成分を補い解像感の低下を改善する際、オーバーシュート、アンダーシュートがみられ不自然な画像となる場合があるが、本発明は、解像感を保ちつつ、オーバーシュート、アンダーシュートを抑制し、自然な画像を得るものである。
【0013】
【課題を解決するための手段】
前記課題を解決するために、本発明は主として次のような構成を採用する。
インタレース画像をプログレッシブ画像へ変換する際の映像信号処理装置において、
現フィールドの実在する上下の画素の平均化処理に基づいて補間基準データを生成する生成手段と、
前記上下の画素の平均化処理で失われ得る周波数成分を、補間対象の画素に対して垂直方向に位置する実在する近傍の画素を用いて抽出するバンドパスフィルタ処理である抽出手段と、
前記生成手段から出力される前記補間基準データと前記抽出手段から出力される補正値を加算する加算手段と、
前記加算手段の出力側に設けられて前記加算手段から出力される補間データに発生するオーバーシュート及びアンダーシュートを抑制する抑制手段と、
補間ラインの上下の実在する2ライン信号から最大値を検出する最大値検出手段と、
前記補間ラインの上下の実在する2ライン信号から最小値を検出する最小値検出手段と、
前記最大値検出手段から得られた最大値を係数(1+K)倍する最大値係数倍手段と、
前記最小値検出手段から得られた最小値を係数(1−K)倍する最小値係数倍手段と、を備え、
前記抑制手段は、前記加算手段から出力される補間データが前記最小値係数倍手段と前記最大値係数倍手段から得られた値以内に収まるように抑制し、
現フィールド内の信号のみを用いて解像感の低下を改善する補間を行う構成とする。
【0017】
【発明の実施の形態】
本発明の実施形態に係る映像信号処理装置について、図面を用いて以下説明する。ここで、図1は入力画像データの一例を示す図であり、図2は、本発明の実施形態に係る画像処理装置の構成例である。また、図3は、フィールド内LPF補間によって再生できる周波数帯域を示す図であり、図4は、図2に示す本実施形態で採用するBPF2の周波数特性を示す図であり、図5は、図2に示す本実施形態で使用するLPF9の周波数特性を示す図である。また、図6は、本実施形態に関する加算器3通加後の斜め線をもつインタレース画像の補間された画像を示す図であり、図7は、斜め線をもつインタレース画像の上下平均値により補間された画像例を示す図である。また、図8は、水平なエッジをもつインタレース画像を補間した画像例を示す図である。図9は、本実施形態に関する補間値抑制回路8の通過前の斜め線をもつインタレース画像の補間された画像(a)と、補間値抑制回路8通過後の斜め線をもつインタレース画像の補間された画像(b)を示す図である。
【0018】
まず、図1と図2の関連について説明すると、図1の白丸印はフィールド内の画素を示し、黒丸印は当該フィールド内に無い画素を示している。本発明は、図1に示すAラインとBラインとの間の補間ラインであって且つ垂直ラインのCラインと交わる点の補間データについて、工夫を凝らして求めようとするものである。図1と図2のA,B,Cとして示す信号は互いに対応している。
【0019】
図2に示す本実施形態の構成例は、現フィールドの実在する上下の画素から補間基準画素(補間画素の基準値)を得る為のLPF(ローパスフィルタ)l、現フィールドの実在する上下の画素の平均化処理で失われ得る周波数成分を得る為のBPF(バンドパスフィルタ)2、BPF2で得られた現フィールドの周波数成分とLPFlで得た補間基準画素を加算する加算器3、補間ラインの上下2ライン信号(AラインとBラインの信号)から最大値を検出する検出器4、補間ラインの上下2ライン信号から最小値を検出する検出器5、最大値検出器4から得られた最大値を係数(1+K)倍する係数倍回路6、最小値検出器5から得られた最小値を係数(1−K)倍する係数倍回路7、加算器3で得られた補間データを係数倍回路6と7から得られた値以内に納める補間値抑制回路8、非線型処理である補間値抑制回路8により信号に生じるノイズの低減をするLPF9、動き検出結果からフィールド内補間データ、又は前フィールド補間位置データを選択するSELl0、から構成されている。
【0020】
図2に示した構成の動作について以下説明する。図1のCが示す範囲の中心にある補間データの上下各3画素(フィールド内に存在する計6画素)をLPFl及びBPF2へ入力する。LPFlは入力されたデータから補間データを得る為の補間基準データを出力する。この補間基準データは、図3に示す破線で塗りつぶされている領域の周波数成分が失われている可能性がある状態で出力され(実際の回路における信号処理の過程で)、加算器3へ入力される。
【0021】
そこで、BPF2は、図4のような失われている可能性のある周波数領域を含む周波数特性を持ち、入力された現フィールドデータから補間データ周辺における周波数成分を出力し、これは補正値として加算器3へ入力される。
【0022】
従って、加算器3では、あらかじめLPFlから出力された補間基準データとBPF2から出力された補正値とを加算し、(1/4)×fまでの周波数を再生した補間データを出力している。
【0023】
図6は左上がりのななめ線をもつインタレース画像を補間したものを模擬し、補間ラインとその上下ラインデータの水平方向の変化を示している。水平方向n番目の画素及びその近傍画素に注目すると、補間データがラインAとラインBのつなぎめを強めている。
【0024】
図7に示すように、従来の手法のように上下平均値を補間データとする場合、ラインAとラインBのつなぎめを強めるような水平方向n番目の画素は得られず、解像感の落ちた画像となってしまう。換言すると、図7の輝度Yを見ると、補間ラインCのレベルはラインA又はラインBの約半分になっていて、斜め線として滑らかな白線とならない。これに対して、図6の補間ラインCを見ると、ラインA又はラインBの約8割の輝度を有していて、補間ラインCを含めて滑らかな斜め線となりうる。
【0025】
このように、本実施形態では、補間基準データとBPF2から出力された補正値とを加算することにより、解像感を保ちながら滑らかなななめ線を表現することができる。
【0026】
一方、補間データの上限、下限値を検出するために、図1のA、Bに示す補間データの上下ラインのデータ(水平方向に7画素ずつ計14画素)を最大値検出器4と最小値検出器5にそれぞれ入力する。検出器4では上下ラインデータの最大値が検出され、この値が係数倍回路6において、係数(1+K)倍される。検出器5では上下ラインデータの最小値が検出され、この値が係数倍回路7において、係数(1−K)倍される。
【0027】
また、加算器3から出力されたデータは、(1/4)×f付近までの周波数帯域を再生しているが、存在する画素信号に基づいて補間信号を求める信号処理において、オーバーシュート、アンダーシュートがみられる可能性がある。図8に示すように、水平なエッジをもつインタレース画像を補間する際、エッジの上下部分において必要以上に補間データが大きくなるオーバーシュートや、必要以上に補間データが小さくなるアンダーシュートがみられる場合がある。これを抑えるために、加算器3から出力された補間データを、係数倍回路6,7から出力された上下ラインの最大値、最小値以内に納める補間値抑制回路8に入力する。
【0028】
補間値抑制回路8の効果を図9で説明する。図9は左上がりのななめ線をもつインタレース画像を補間する場合を模擬している。加算器3より出力された補間ラインCの水平方向にn番目の補間データは、その上下ラインの画素(フィールド内に存在するラインA、ラインB)の信号より突出した値となる(図9(a))。このように突出した値つまりオーバーシュートや、図8に示したようなオーバーシュート、アンダーシュートを緩和するために、補間データを上下画素の平均値としたり、上下画素の値以内に補間データを納めることが考えられるが、そのような手法では、図6を用いて述べた、失われた周波数成分をBPF2により補った効果がなくなり、解像感が低下してしまう。
【0029】
そこで、本発明では、補間ラインの上下ラインの最大値、最小値を検出し、それを補間データの上限、下限とし、加算器3より出力された補間データのオーバーシュート、アンダーシュートを抑制している(図9(b))。
【0030】
本発明では、補間データの上限、下限を一定値ではなく、補間画素の周辺の値とすることで画面中でフレキシブルな値となり、自然な画像が得られる。ここで、最大値、最小値をみつける上下ラインの水平方向の画素数は、図1では計14画素としているが、回路規模によりもっと画素数を減らさなければならない場合がある。この場合、係数倍回路6,7を用いて補間データの上限、下限の範囲を可変することができ、水平方向の画素数が少なくても、同様な効果が得られる。これにより、図9のようなななめ線が滑らかにつながった画像が得られる。
【0031】
加算器3より出力後の信号のオーバーシュート、アンダーシュートを除去するための回路8は、非線型処理のためノイズが生じることがあり、これが画像の品位を低下させる場合がある。そこで、図5のような周波数特性を持つLPF9へ回路8より得られた信号を入力し、非線型処理によるノイズを低減し、失った周波数成分が補われた補間データを得ることができる。
【0032】
図2に示す回路構成を参照して、SELl0には、従来技術である動き検出を行った結果と、LPF9から出力される補間データ、及び前フィールド補間位置データが入力され、静止画部分には前フィールド補間位置データを、動画部分には本発明による周波数成分が補われた補間データを出力することで最終的な補間データを得る。
【0033】
ここにおいて、更に、画像についての一般的な輪郭強調などの画像処理について説明すると、この画像強調処理後にともすればオーバーシュート、アンダーシュートが発生して画像に不自然さが現れ得る。この不自然さの原因であるオーバーシュート、アンダーシュートを抑制して自然な画像を得たい場合に、図1に示す回路の主要部を構成する、画像信号入力、最大値検出回路、最小値検出回路、係数倍回路、及び画像抑制回路が適用できて効果を発揮するものである。その構成例を図10に示す。
【0034】
入力された信号を1水平走査期間遅延して1H遅延データを得る遅延回路11と、遅延回路11から出力された信号をさらに1H遅延させて2H遅延したデータを得る遅延回路12と、入力信号の水平方向に7画素と2H遅延したデータの水平方向7画素の計14画素の最大値を検出する最大値検出器13と、入力信号の水平方向に7画素と2H遅延したデータの水平方向7画素の計14画素の最小値を検出する最小値検出器14と、前記した最大値に(1+K)倍する係数倍回路15と、前記した最小値に(1−K)倍する係数倍回路16と、係数倍された最大値と最小値を上限、下限とし、その範囲内に1H遅延した信号を納める抑制回路17と、から構成されている。
【0035】
図10に示した各構成の動作について以下説明する。遅延回路11に映像信号を入力し1水平走査期間遅延して1H遅延データを得る。次に、遅延回路11から出力された信号をさらに1H遅延させて遅延回路12において2H遅延したデータを得る。入力信号と2H遅延したデータを最大値検出器13に入力し、入力信号の水平方向に7画素と2H遅延したデータの水平方向7画素の計14画素の最大値を検出する。
【0036】
最小値検出器14に、入力信号と2H遅延したデータを入力し、入力信号の水平方向に7画素と2H遅延したデータの水平方向7画素の計14画素の最小値を検出する。最大値検出器13より出力された最大値は係数倍回路15で(1+K)倍され、最小値検出器14より出力された最大値検出器13より出力された最大値は係数倍回路15で(1+K)倍され、最小値は係数倍回路16で(1−K)倍される。
【0037】
遅延回路11により1H遅延された信号と、係数倍された最大値と最小値が信号抑制回路17に入力され、係数倍された最大値と最小値を上限、下限とし、その範囲内に抑制回路17が1H遅延した信号を納めて出力される。
【0038】
入力ラインと2H遅延されたラインの最大値、最小値を検出し、それを1H遅延されたラインの上限,下限とし輪郭強調後の画像の不自然さの原因であるオーバーシュート、アンダーシュートを抑制している。
【0039】
以上のことを図1に示す画像データを借用して具体的に説明すると、Aラインの下にBライン、その下のラインがCラインとすると、最大値と最小値検出回路へのそれぞれの入力はAラインとCラインであり、信号抑制回路への入力は係数倍回路からの入力の他に1H遅延回路からのBラインの信号である。即ち、Bライン信号の輪郭強調の画像処理において図2に示す主要回路を兼用できるものである。
【0040】
本実施形態では、抑制される信号の上限、下限を一定値ではなく、補間画素の周辺の値とすることで画面中でフレキシブルな値となり、自然な画像が得られる。ここで、最大値、最小値をみつける上下ラインの水平方向の画素数は、前述の例では計14画素としているが、回路規模によりもっと画素数を減らさなければならない場合がある。この場合、係数倍回路15,16を用いて補間データの上限、下限の範囲を可変することができ、水平方向の画素数が少なくても同様な効果が得られる。
【0041】
これにより、輪郭強調によりオーバーシュート、アンダーシュートがみられる画像を、輪郭強調の効果を損なわず、オーバーシュート、アンダーシュートを抑制し、自然な画像が得られる。
【0042】
【発明の効果】
本発明によれば、次のような効果を奏することが期待できる。即ち、従来、動画部分に採用される補間データは、実在する上下画素を用いて平均化していたが、この方法では失われる周波数領域が存在し、解像感の無い画像となってしまうのに対して、本発明では、失われる周波数領域を補い、オーバーシュート、アンダーシュートは抑制されて自然な画像が得られる。そのため、動画部分においても解像感の高い高品位なプログレッシブ画像を提供することが可能となる。
【0043】
また、前後フィールドの信号を用いずに現フィールド内で補間データをつくることから、複雑な回路構成や大規模な回路を必要とせず、さらに係数倍回路を用いることにより回路規模を抑制することができる。
【0044】
また、画像抑制回路は、一般的な輪郭強調などの画像処理後の画像の不自然さの原因であるオーバーシュート、アンダーシュートを抑制し、自然な画像を得ることにも適用ができる。
【図面の簡単な説明】
【図1】入力画像データの一例を示す図である。
【図2】本発明の実施形態に係る画像処理装置の構成例である。
【図3】フィールド内LPF補間によって再生できる周波数帯域を示す図である。
【図4】図2に示す本実施形態で採用するBPF2の周波数特性を示す図である。
【図5】図2に示す本実施形態で使用するLPF9の周波数特性を示す図である。
【図6】本実施形態に関する加算器3通加後の斜め線をもつインタレース画像の補間された画像を示す図である。
【図7】斜め線をもつインタレース画像の上下平均値により補間された画像例を示す図である。
【図8】水平なエッジをもつインタレース画像を補間した画像例を示す図である。
【図9】本実施形態に関する補間値抑制回路8の通過前の斜め線をもつインタレース画像の補間された画像(a)と、補間値抑制回路8通過後の斜め線をもつインタレース画像の補間された画像(b)を示す図である。
【図10】本発明の実施形態に係る映像信号処理装置で、最大値検出回路、最小値検出回路、係数倍回路及び信号抑制回路を用いた回路構成ブロックを示す図である。
【符号の説明】
1 フィールド内LPF
2 周波数成分抽出用BPF
3 加算器
4〜13 最大値検出回路
5〜14 最小値検出回路
6〜7,15〜16 係数倍回路
8 補間データ抑制回路
9 回路8によるノイズ低減用LPF
l0 信号選択回路
11〜12 1H遅延回路
17 信号抑制回路

Claims (2)

  1. インタレース画像をプログレッシブ画像へ変換する際の映像信号処理装置において、
    現フィールドの実在する上下の画素の平均化処理に基づいて補間基準データを生成する生成手段と、
    前記上下の画素の平均化処理で失われ得る周波数成分を、補間対象の画素に対して垂直方向に位置する実在する近傍の画素を用いて抽出するバンドパスフィルタ処理である抽出手段と、
    前記生成手段から出力される前記補間基準データと前記抽出手段から出力される補正値を加算する加算手段と、
    前記加算手段の出力側に設けられて前記加算手段から出力される補間データに発生するオーバーシュート及びアンダーシュートを抑制する抑制手段と、
    補間ラインの上下の実在する2ライン信号から最大値を検出する最大値検出手段と、
    前記補間ラインの上下の実在する2ライン信号から最小値を検出する最小値検出手段と、
    前記最大値検出手段から得られた最大値を係数(1+K)倍する最大値係数倍手段と、
    前記最小値検出手段から得られた最小値を係数(1−K)倍する最小値係数倍手段と、を備え、
    前記抑制手段は、前記加算手段から出力される補間データが前記最小値係数倍手段と前記最大値係数倍手段から得られた値以内に収まるように抑制し、
    現フィールド内の信号のみを用いて解像感の低下を改善する補間を行う
    ことを特徴とする映像信号処理装置。
  2. 請求項1に記載の映像信号処理装置において、
    前記抑制手段による抑制処理は非線形処理であり、前記非線形処理により生じるノイズを低減する低減手段を前記抑制手段の出力側に設ける
    ことを特徴とする映像信号処理装置。
JP2001194886A 2001-06-27 2001-06-27 映像信号処理装置 Expired - Fee Related JP3746441B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001194886A JP3746441B2 (ja) 2001-06-27 2001-06-27 映像信号処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001194886A JP3746441B2 (ja) 2001-06-27 2001-06-27 映像信号処理装置

Publications (2)

Publication Number Publication Date
JP2003009093A JP2003009093A (ja) 2003-01-10
JP3746441B2 true JP3746441B2 (ja) 2006-02-15

Family

ID=19032941

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001194886A Expired - Fee Related JP3746441B2 (ja) 2001-06-27 2001-06-27 映像信号処理装置

Country Status (1)

Country Link
JP (1) JP3746441B2 (ja)

Also Published As

Publication number Publication date
JP2003009093A (ja) 2003-01-10

Similar Documents

Publication Publication Date Title
US9185431B2 (en) Motion detection device and method, video signal processing device and method and video display device
JP2947186B2 (ja) フリッカ軽減回路
US7738044B2 (en) Method and apparatus for adjusting a chrominance signal
US7483081B2 (en) Edge compensated feature detector and method thereof
JP2001320679A (ja) 映像インターレース−順次走査変換器における補間アーティファクトを隠すための装置および方法
US20090002562A1 (en) Image Processing Device, Image Processing Method, Program for Image Processing Method, and Recording Medium Having Program for Image Processing Method Recorded Thereon
US8305489B2 (en) Video conversion apparatus and method, and program
US8223272B2 (en) Image processing circuit and image processing method thereof
KR100444997B1 (ko) 윤곽 보정 방법 및 이에 적합한 장치
US7391476B2 (en) Method and device for interpolating a pixel of an interline of a field
JP4174656B2 (ja) 画像表示装置および画像処理装置、並びに画像処理方法
US20070258653A1 (en) Unit for and Method of Image Conversion
JP2006523409A (ja) 空間画像変換装置及び方法
JPH0856316A (ja) 画像処理装置
JP3746441B2 (ja) 映像信号処理装置
JP5178477B2 (ja) 映像信号処理装置及び方法、並びに映像表示装置
JPH10336597A (ja) 順次走査変換装置
JP3546698B2 (ja) 走査線補間回路
JP3756058B2 (ja) 映像信号処理装置
JPS62171282A (ja) 相関適応式雑音低減装置
JPH03291080A (ja) 動き適応型走査線補間装置
JP2580891B2 (ja) 走査線補間回路
JPH11346320A (ja) 映像信号処理装置
JP3429615B2 (ja) 画像信号のノイズ低減回路
Cho et al. Color transient improvement with transient detection and variable length nonlinear filtering

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050303

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051122

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091202

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091202

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101202

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111202

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111202

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121202

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121202

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees