JP2008177801A - 撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体 - Google Patents

撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体 Download PDF

Info

Publication number
JP2008177801A
JP2008177801A JP2007008674A JP2007008674A JP2008177801A JP 2008177801 A JP2008177801 A JP 2008177801A JP 2007008674 A JP2007008674 A JP 2007008674A JP 2007008674 A JP2007008674 A JP 2007008674A JP 2008177801 A JP2008177801 A JP 2008177801A
Authority
JP
Japan
Prior art keywords
filter
image data
value
processing
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007008674A
Other languages
English (en)
Other versions
JP4288623B2 (ja
Inventor
Nobuyuki Matsushita
伸行 松下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007008674A priority Critical patent/JP4288623B2/ja
Priority to EP07255086A priority patent/EP1947837A2/en
Priority to TW097100841A priority patent/TW200847764A/zh
Priority to US11/972,404 priority patent/US20080175510A1/en
Priority to KR1020080005345A priority patent/KR20080068576A/ko
Priority to CN2008100010826A priority patent/CN101232574B/zh
Publication of JP2008177801A publication Critical patent/JP2008177801A/ja
Application granted granted Critical
Publication of JP4288623B2 publication Critical patent/JP4288623B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E01CONSTRUCTION OF ROADS, RAILWAYS, OR BRIDGES
    • E01HSTREET CLEANING; CLEANING OF PERMANENT WAYS; CLEANING BEACHES; DISPERSING OR PREVENTING FOG IN GENERAL CLEANING STREET OR RAILWAY FURNITURE OR TUNNEL WALLS
    • E01H5/00Removing snow or ice from roads or like surfaces; Grading or roughening snow or ice
    • E01H5/02Hand implements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Architecture (AREA)
  • Civil Engineering (AREA)
  • Structural Engineering (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】本発明は、撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体に関し、例えばデジタルスチルカメラに適用して、簡易な処理、構成で、バイラテラルフィルタと同程度のノイズ抑圧性能を確保することができるようにする。
【解決手段】本発明は、複数のεフィルタ35A〜35Dの出力値と、注目画素の画素値IN(PX,PY)とを重み付け加算して画像データD3のノイズを抑圧する。
【選択図】 図1

Description

本発明は、撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体に関し、例えばデジタルスチルカメラに適用することができる。本発明は、複数のεフィルタの出力値と、注目画素の画素値を重み付け加算して画像データのノイズを抑圧することにより、簡易な処理、構成で、バイラテラルフィルタと同程度のノイズ抑圧性能を確保することができるようにする。
従来、デジタルスチルカメラ等の画像処理では、例えば特開2004−172726号公報に開示されているように、条件付き平均値フィルタであるεフィルタを用いてノイズを抑圧している。
ここでεフィルタは、エッジ成分を保存して平均値を出力するフィルタである。εフィルタは、注目画素を中心とした処理領域内の他の画素毎に、注目画素の画素値に対する画素値の差分絶対値を計算する。εフィルタは、この差分絶対値が所定のしきい値以下の画素を選択して平均値化の処理を実行し、計算された平均値を注目画素の画素値に設定する。従って注目画素の座標が(X,Y) 、注目画素の画素値がIN(X,Y) であって、処理領域内の他の画素の画素値がIN(PX,PY) である場合、εフィルタは、画素値IN(X,Y) と画素値IN(PX,PY) との差分絶対値がしきい値T以下の画素を選択し、このしきい値T以下の画素がm個の場合、このm個の画素と注目画素とで画素値を平均値化する。なお以下において、タップ数がN、しきい値がTのεフィルタをε(N,T)と表記し、εフィルタからの出力値をε(N,T)と表記する。また処理領域における他の画素の座標を(PX,PY) と表記する。
このようなノイズ除去に関して、例えば特開2006−180268号公報には、εフィルタに代えてバイラテラルフィルタを用いる方法が提案されている。ここでバイラテラルフィルタは、条件付き平均値フィルタの1つであり、注目画素からの距離と、注目画素の画素値に対する画素値の差分値とにより、それぞれ係数Ws、Weを計算し、この係数Ws、Weを用いた平均値化処理によりエッジ成分を保存してノイズを抑圧する。
すなわち図25は、バイラテラルフィルタを示すブロック図である。バイラテラルフィルタ1は、図26に示すように、例えばラスタ走査の順序で順次注目画素P(X,Y) を走査させ、この注目画素P(X,Y) の座標(X,Y) 及び画素値IN(X,Y) 、注目画素P(X,Y) を中心にした処理領域内の他の画素P(PX,PY) の画素値IN(PX,PY) を順次入力する。なおここでこの図25において、処理領域は、垂直方向及び水平方向に2N+1画素の範囲であり、Nは整数である。但し、処理領域は、垂直方向と水平方向とで大きさが異なるように設定される場合もある。
バイラテラルフィルタ1は(図25)、注目画素P(X,Y) の座標(X,Y) を係数演算部2の距離演算部3に入力し、また注目画素P(X,Y) の画素値IN(X,Y) 、処理領域内の他の画素P(PX,PY) の画素値IN(PX,PY) をエッジ演算部4に入力する。
距離演算部3は、注目画素P(X,Y) の座標(X,Y) を用いて次式の演算処理を実行し、処理領域内の各画素P(X,Y) 、P(PX,PY) について、ガウス曲線の特性により注目画素P(X,Y) からの距離が大きくなるに従って値が小さくなる距離係数Ws(Ws(X,Y,PX,PY) )を生成する。なおここでσsは、ノイズ除去の強さを決めるパラメータである。
Figure 2008177801
エッジ演算部4は、画素値IN(X,Y) 、画素値IN(PX,PY) を用いて次式の演算処理を実行し、処理領域内の各画素P(X,Y) 、P(PX,PY) について、ガウス曲線の特性により注目画素P(X,Y) の画素値IN(X,Y) から画素値が遠ざかるに従って値が小さくなるエッジ係数We(We(X,Y,PX,PY) )を生成する。なおここでσeは、ノイズ除去の強さを決めるパラメータである。
Figure 2008177801
乗算部5は、次式の演算処理により、距離係数Ws(Ws(X,Y,PX,PY) )と、エッジ係数We(We(X,Y,PX,PY) )とを乗算し、重み付け係数W(W(X,Y,PX,PY) )を計算する。
Figure 2008177801
フィルタ部6は、次式の演算処理を実行し、重み付け係数Wを用いて処理領域内の各画素P(X,Y) 、P(PX,PY) の画素値IN(X,Y) 、IN(PX,PY) を重み付けして平均値化の処理を実行する。バイラテラルフィルタ1は、このフィルタ部6の演算処理結果OUT(X,Y)を出力する。
Figure 2008177801
このバイラテラルフィルタ1を用いたノイズの除去では、εフィルタを使用する場合に比してエッジ成分を保存して滑らかにノイズを抑圧することができる。従ってεフィルタを使用する場合に比して画質を向上することができる。しかしながらバイラテラルフィルタ1では、(1)式、(2)式で表されるように、expにより表される指数関数の演算処理を、処理領域の全ての画素で実行することが必要であり、結局、1画素の画素値の計算に、(2N+1)×(2N+1)×2回、指数関数の演算処理が必要になる。従って、演算処理が膨大になり、処理が煩雑な問題がある。
またバイラテラルフィルタ1では、注目画素毎に重み付け係数Wが異なり、(4)式における分母の計算を十分な精度を確保して注目画素毎に実行することが必要になる。この場合に、割り算器、ルックアップテーブル等でフィルタ部を構成したのでは、構成が煩雑になる問題がある。またソフトウエアの処理によりフィルタ部を構成したのでは、割り算を必要とする計算量が膨大になる問題がある。
特開2004−172726号公報 特開2006−180268号公報
本発明は以上の点を考慮してなされたもので、簡易な処理、構成で、バイラテラルフィルタと同程度のノイズ抑圧性能を確保することができる撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体を提案しようとするものである。
上記の課題を解決するため請求項1の発明は、撮像装置に適用して、撮像結果を取得して画像データを出力する撮像部と、前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、前記ノイズ抑圧部は、前記画像データを処理する第1のεフィルタと、前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しく、前記画像データを処理する第2のεフィルタと、前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なり、前記画像データを処理する第3のεフィルタと、前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しく、前記画像データを処理する第4のεフィルタと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有するようにする。
また請求項4の発明は、撮像装置に適用して、撮像結果を取得して画像データを出力する撮像部と、前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、前記ノイズ抑圧部は、前記画像データを処理する第1のεフィルタと、前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しく、前記画像データを処理する第2のεフィルタと、前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なり、前記画像データを処理する第3のεフィルタと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有するようにする。
また請求項5の発明は、撮像装置に適用して、撮像結果を取得して画像データを出力する撮像部と、前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、前記ノイズ抑圧部は、前記画像データを処理する第1のεフィルタと、前記第1のεフィルタとしきい値が異なり、前記第1のεフィルタとタップ数が等しく、前記画像データを処理する第2のεフィルタと、前記第2のεフィルタとしきい値が等しく、前記第1のεフィルタとタップ数が異なり、前記画像データを処理する第3のεフィルタと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有するようにする。
また請求項6の発明は、撮像装置に適用して、撮像結果を取得して画像データを出力する撮像部と、前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、前記ノイズ抑圧部は、前記画像データを処理する第1のεフィルタと、前記第1のεフィルタとタップ数及び又はしきい値が異なり、前記画像データを処理する第2のεフィルタと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有するようにする。
また請求項7の発明は、ノイズ除去装置に適用して、画像データを処理する第1のεフィルタと、前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しく、前記画像データを処理する第2のεフィルタと、前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なり、前記画像データを処理する第3のεフィルタと、前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しく、前記画像データを処理する第4のεフィルタと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有するようにする。
また請求項8の発明は、ノイズ除去方法に適用して、第1のεフィルタにより画像データを処理する第1の処理ステップと、前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しい第2のεフィルタにより前記画像データを処理する第2の処理ステップと、前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なる第3のεフィルタにより前記画像データを処理する第3の処理ステップと、前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しい第4のεフィルタにより前記画像データを処理する第4の処理ステップと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して出力データを出力する重み付け加算ステップとを有するようにする。
また請求項9の発明は、ノイズ除去方法のプログラムに適用して、第1のεフィルタにより画像データを処理する第1の処理ステップと、前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しい第2のεフィルタにより前記画像データを処理する第2の処理ステップと、前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なる第3のεフィルタにより前記画像データを処理する第3の処理ステップと、前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しい第4のεフィルタにより前記画像データを処理する第4の処理ステップと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して出力データを出力する重み付け加算ステップとを有するようにする。
また請求項10の発明は、画像データのノイズを除去するノイズ除去方法のプログラムを記録した記録媒体に適用して、前記ノイズ除去方法のプログラムは、第1のεフィルタにより前記画像データを処理する第1の処理ステップと、前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しい第2のεフィルタにより前記画像データを処理する第2の処理ステップと、前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なる第3のεフィルタにより前記画像データを処理する第3の処理ステップと、前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しい第4のεフィルタにより前記画像データを処理する第4の処理ステップと、前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して出力データを出力する重み付け加算ステップとを有するようにする。
請求項1、請求項4、請求項5、請求項6、請求項7、請求項8、請求項9、又は請求項10の構成によれば、注目画素からの距離と、注目画素の画素値に対する画素値の差分値とに応じた重み付け加算処理により、ノイズ成分を抑圧することができ、簡易な処理、構成で、バイラテラルフィルタと同程度のノイズ抑圧性能を確保することができる。
本発明によれば、簡易な処理、構成で、バイラテラルフィルタと同程度のノイズ抑圧性能を確保することができる。
以下、適宜図面を参照しながら本発明の実施例を詳述する。
(1)実施例の構成
図2は、本発明の実施例1のデジタルスチルカメラを示すブロック図である。このデジタルスチルカメラ11において、撮像素子13は、CCD(Charge Coupled Device )固体撮像素子、CMOS(Complementary Metal-Oxide Semiconductor )固体撮像素子等により構成される。撮像素子13は、図示しないレンズユニットにより撮像面に形成された光学像を光電変換処理し、赤色、青色、緑色の画素値をベイヤー配列に対応する順序で順次出力する。
前処理部14は、撮像素子13の出力信号を相関二重サンプリング処理、自動利得調整処理、アナログディジタル変換処理し、RAWデータD1を出力する。
光学補正部15は、例えばディジタルシグナルプロセッサにより構成され、この前処理部14から出力されるRAWデータD1を欠陥補正処理、ノイズ抑圧処理し、RAWデータD2を出力する。
画像処理部16は、このRAWデータD2に対してデモザイク処理、解像度変換処理、ガンマ補正処理、ホワイトバランス調整処理、画質補正処理等の画質補正処理を実行し、輝度信号及び色差信号の画像データに変換して出力する。このデジタルスチルカメラ11は、この画像処理部16で処理した画像データを図示しない表示装置で表示し、撮像結果のモニタ画像を表示する。
エンコーダ(ENC)17は、例えばJPEG(Joint Photographic Coding Experts
Group )等の静止画像の符号化方式により、画像処理部16から出力される画像データをデータ圧縮して出力する。
インターフェース(IF)18は、このエンコーダ17の出力データ、又は光学補正部15から出力されるRAWデータD2を記録媒体19に記録する。記録媒体19は、この実施例ではメモリカードであり、インターフェース18から出力される各種のデータを記録する。なお記録媒体19は、メモリカードに限らず、光ディスク、磁気ディスク等、種々の記録媒体を広く適用することができる。
図3は、光学補正部15のノイズ除去処理に関する構成を示すブロック図である。光学補正部15は、前処理部14から出力されるRAWデータD1をラインバッファ21を介して入力する。
周辺画素参照部22は、それぞれ画像データD1を出力可能な複数のラインバッファの直列回路で構成され、バッファ21から出力されるRAWデータD1を順次入力して転送しながら、これら複数のラインバッファからRAWデータD1を同時並列的に出力することにより、RAWデータD1により構成されるモザイク画像上に順次注目画素を設定し、この注目画素の画像データと対応する周辺画素の画像データとを順次出力する。
高域通過フィルタ23は、周辺画素参照部22から出力されるRAWデータを帯域制限し、高域成分を選択的に出力する。
高域ノイズ除去部24は、2次元のメディアンフィルタ等で構成され、高域通過フィルタ23の出力データからノイズを抑圧して出力する。
低域通過フィルタ25は、周辺画素参照部22から出力されるRAWデータを帯域制限し、低域成分の画像データD3を出力する。
低域ノイズ除去部26は、低域通過フィルタ25の出力データD3からノイズを抑圧し、画像データD4を出力する。
画像合成部28は、高域ノイズ除去部24の出力データ、低域ノイズ除去部26の出力データD4を加算し、ノイズを抑圧したRAWデータD2を出力する。
図1は、低域ノイズ除去部26の構成を詳細に示すブロック図である。この低域ノイズ除去部26は、低域通過フィルタ25から出力される画像データD3をラインバッファ31を介して入力する。
周辺画素参照部32は、それぞれ画像データD3を出力可能な複数のラインバッファの直列回路で構成され、バッファ21から出力される画像データD3を順次入力して転送しながら、これら複数のラインバッファから画像データD3を同時並列的に出力することにより、画像データD3により構成される画像上に順次注目画素を設定し、この注目画素の画像データと、この注目画素を中心とした処理領域の対応する画像データとを順次出力する。なおここで図1では、図25との対比により、注目画素P(X,Y)の画素値をIN(X,Y) で表し、処理領域における他の画素P(PX,PY)の画素値をIN(PX,PY) で表す。
多段εフィルタ部33は、周辺画素参照部32の出力データを入力して処理することにより、エッジ成分を保存しつつ、バイラテラルフィルタとほぼ同等の滑らかさで、画像データD3のノイズを抑圧して画像データD4を出力する。多段εフィルタ部33は、εフィルタ部34に設けられた複数のεフィルタ35A〜35Dに周辺画素参照部32の出力データを入力する。
すなわちεフィルタ部34において、εフィルタ35A〜35Dは、それぞれタップ数及びしきい値がN1及びT1、N1及びT2、N2及びT1、N2及びT2のεフィルタである。ここでタップ数N1、N2は、N1<N2であり、タップ数N2は、処理領域に対応するタップ数である。またしきい値T1及びT2は、T1<T2である。
乗算部36A〜36Dは、それぞれ重み付け係数K1〜K4でεフィルタ35A〜35Dの出力データを乗算して出力する。乗算部37は、注目画素P(X,Y) の画素値IN(X,Y)
を重み付け係数K1で乗算して出力する。
加算部38は、これら乗算部36A〜36Dの出力データ、乗算部37の出力データを加算し、ノイズを抑圧した低域成分の画像データD4を出力する。
このεフィルタ35A〜35D、乗算部36A〜36D、37、加算部38の構成により、多段εフィルタ部33は、タップ数が異なり、しきい値の等しいεフィルタ35A及び35B、35C及び35Dの出力値を重み付け加算する。またしきい値が異なり、タップ数の等しいεフィルタ35A及び35C、35B及び35Dの出力値、注目画素P(X,Y) の画素値IN(PX,PY) を重み付け加算する。
ここで図4において、符号Aにより、GA=( 7 ×ε(7, T) +6 ×ε(3, T)) /13で表されるX方向の周波数特性を示す。なおここでこの周波数特性は、タップ数7、しきい値Tのεフィルタε(7, T)の出力値と、タップ数3、しきい値Tのεフィルタε(3, T)の出力値を、重み付け係数7/13、6/13で重み付け加算した場合の周波数特性であり、全ての入力値がしきい値以下の場合である。またεフィルタε(7, T)は、X方向のタップ係数が〔1 1 1 1 1 1 1 〕であり、εフィルタε(3, T)は、X方向のタップ係数が〔00 1 1 1 0 0 〕である。またGA=( 7 ×ε(7, T) +6 ×ε(3, T)) /13で表されるX方向の周波数特性は、タップ係数が〔1 1 3 3 3 1 1 〕のεフィルタの周波数特性と同等である。
これに対して図4において、符号Bは、σsが1.65の場合の、(1)式で表される距離係数Wsの周波数特性である。なおこの周波数特性は、σsを1.65に設定し、エッジ係数Weを値1に設定した場合のバイラテラルフィルタの周波数特性を示すものであり、このバイラテラルフィルタでは、X方向のタップ係数が〔1 5 19 48 83 100 83 48 19 5 1 〕となる。この符号A及びBの周波数特性を比較すれば、ゲインが0.2以上の場合には、ほぼ同一の周波数特性であることが判る。従ってσsを1.65、エッジ係数Weを値1に設定した場合のバイラテラルフィルタの周波数特性は、タップ数が異なり、しきい値の等しいεフィルタの出力値の重み付け加算により近似させることができる。
なお次式は、タップ係数が〔1 1 3 3 3 1 1 〕のεフィルタの周波数特性を、タップ数が3タップ及び7タップであって、しきい値の等しいεフィルタの出力値の重み付け加算により実現できることを検証する数式である。
Figure 2008177801
また図5において符号C〜Eは、εフィルタε(7, T)、εフィルタε(3, T)の出力値の合成比率をそれぞれ1:3、2:2、3:1に設定した場合の周波数特性を示す図である。この図5の周波数特性により、合成比率を変化させれば、σsが種々に異なる場合でも、同様に、エッジ係数Weを値1に設定した場合のバイラテラルフィルタの周波数特性を、タップ数が異なり、しきい値の等しいεフィルタの出力値の重み付け加算により実現できることが判る。
これに対して図6は、σeが値1.0の場合の、(2)式で表されるエッジ係数Weの値を示す特性曲線図である。なおこの特性は、距離係数Wsを値1に設定し、σeを1.0に設定した場合のバイラテラルフィルタの応答と等化である。この図6では、縦軸であるエッジ係数Weの値を100倍して示し、横軸が、注目画素P(X,Y)の画素値IN(X,Y) と処理領域の他の画素P(PX,PY)の画素値IN(PX,PY) との差分絶対値である。この図6において、差分絶対値が値0の場合、距離係数Wsは値1となり、差分絶対値が値1の場合、距離係数Wsは値0.61となる。また差分絶対値が値2の場合、距離係数Wsは値0.14となり、差分絶対値が値3以上の場合、距離係数Wsはほぼ値0となる。
従ってこのガウス曲線によるエッジ係数Weの特性は、差分絶対値が増大するに従って順次階段状に値の減少する特性と等化であると言える。従ってこの階段状の値の減少値を重み付け係数に設定して、この図6における各画素差分値をしきい値に設定したεフィルタの出力値を重み付け加算すれば、図7に示すように、距離係数Wsを値1に設定し、σeを1.0に設定した場合のバイラテラルフィルタの応答を確保することができる。
すなわちこの距離係数Wsを値1に設定し、σeを1.0に設定した場合のバイラテラルフィルタの応答GBは、14/100×ε(N,2) +47/100×ε(N,1) +39/100×IN(X,Y) で表すことができ、しきい値が異なり、タップ数の等しいεフィルタの出力値と、注目画素P(X,Y) の画素値IN(X,Y) との重み付け加算により実現することができる。なお図7では、それぞれ数字14、47は、εフィルタε(N,2) 、ε(N,1) の重みを100倍した値であり、数字39は、注目画素P(X,Y)の画素値IN(X,Y) の重みを100倍した値である。
ここで次式は、この距離係数Wsを値1に設定した場合のバイラテラルフィルタの周波数特性を、タップ数が異なり、しきい値の等しいεフィルタの出力値の重み付け加算により実現できることを検証する数式である。この数式において、OUTe(X,Y) は、距離係数Wsを値1に設定した場合のバイラテラルフィルタの出力値を示す。またε(N,0) は、しきい値Tが値0のεフィルタであり、注目画素P(X,Y)の画素値IN(X,Y) と等価である。従ってこの数式の変形によっても、距離係数Wsを値1に設定した場合のバイラテラルフィルタの周波数特性を、しきい値が異なり、タップ数の等しいεフィルタの出力値と、注目画素P(X,Y) の画素値IN(X,Y) との重み付け加算により実現できることが判る。
Figure 2008177801
これに対して図8は、σeが値10の場合の、(2)式で表されるエッジ係数Weの値を示す特性曲線図である。この場合、図6について上述したσeが値1.0の場合に対して、差分絶対値を10倍に拡大したことになり、従って図7との対比により図9に示すように、σeの値に対応するようにしきい値を10倍に設定したεフィルタの出力値と、注目画素P(X,Y) の画素値IN(X,Y) との重み付け加算により、バイラテラルフィルタの周波数特性を実現できることが判る。なおこの図9に示す例では、ガウス曲線の近似精度が劣化することになるが、εフィルタの段数を増大させれば、近似精度を向上させることができる。
従ってσs=1.65, σs=1.0 のバイラテラルフィルタは、図10に示すように、複数のεフィルタの出力値の重み付け加算処理により構成することができる。すなわちこの図10の例では、しきい値が2、1、0に設定された3タップのεフィルタε(3,2) 、ε(3,1) 、ε(3,0) の出力値をそれぞれ重み付け係数0.14、0.47、0.39で重み付け加算して第1の加算値を生成し、またしきい値が2、1、0に設定された7タップのεフィルタε(7,2) 、ε(7,1) 、ε(7,0) の出力値をそれぞれ重み付け係数0.14、0.47、0.39で重み付け加算して第2の加算値を生成する。また第1及び第2の加算値をそれぞれ重み付け係数6/13、7/13で重み付け加算し、σs=1.65, σs=1.0 のバイラテラルフィルタを構成することができる。
ここでこの図10に示す構成は、次式により表現することができる。
Figure 2008177801
またこの(7)式は、整理して次式で表すことができる。従ってしきい値が2、1の3タップのεフィルタε(3,2) 、ε(3,1) の出力値、しきい値が2、1の7タップのεフィルタε(7,2) 、ε(7,1) の出力値、注目画素P(X,Y) の画素値IN(X,Y) との重み付け加算により、σs=1.65, σs=1.0 のバイラテラルフィルタを構成することができる。
Figure 2008177801
この(8)式に対応して、εフィルタ35A〜35D(図1)は、タップ数N1、N2が値3、7に設定され、またしきい値T1、T2が値1、値2に設定される。また乗算部37の重み付け係数K0、乗算部36A〜36Dの重み付け係数K1〜K4が、(8)式で表される係数に設定される。
図11は、図1の構成による低域ノイズ除去部26の処理手順を示すフローチャートである。なおここで width、heightは、処理対象である画像データD3の水平方向及び垂直方向の画素数であり、i、jは、それぞれ注目画素の垂直方向及び水平方向の位置を、height、 widthとの対比により示す変数である。
この処理手順を開始すると、低域ノイズ除去部26は、ステップSP1からステップSP2に移り、垂直方向の位置を示す変数iを値0に初期化する。また続くステップSP3において、水平方向の位置を示す変数jを値0に初期化する。続いて低域ノイズ除去部26は、ステップSP4において、加算部38における加算値を示す変数sum を値0に初期化する。
続いて低域ノイズ除去部26は、乗算部37において、注目画素P(X,Y) の画素値IN(X,Y) を係数K0で重み付けして変数sum に加算する。また続くステップSP6において、εフィルタ35A〜35Dを特定する変数kを0に初期化する。また続くステップSP7において、変数kで特定されるεフィルタで周辺画素参照部32の出力データを処理し、この変数kで特定されるεフィルタの出力値を、対応する係数で重み付けして変数sum に加算する。
低域ノイズ除去部26は、続くステップSP8において、変数kを値1だけインクリメントする。また続くステップSP9で未処理のεフィルタが残っているか否か判断し、ここで肯定結果が得られると、ステップSP7に戻る。従って低域ノイズ除去部26は、順次εフィルタを切り換えて、各εフィルタの出力値を重み付けして加算し、全てのεフィルタで処理を完了すると、ステップSP9で否定結果が得られ、ステップSP10に移る。
低域ノイズ除去部26は、このステップSP10において、変数sum の加算値を出力し、続くステップSP11で、水平方向の位置を示す変数jを値1だけインクリメントする。また続くステップSP12でこの変数jを水平方向の画素数 widthと比較して1ライン分の処理が未だ完了していないか否か判断する。
ここで肯定結果が得られると、低域ノイズ除去部26は、ステップSP4に戻り、続く水平方向の注目画素について処理を繰り返す。これに対してステップSP12で否定結果が得られると、低域ノイズ除去部26は、ステップSP13に移り、垂直方向の位置を示す変数iを値1だけインクリメントし、続くステップSP14でこの変数iを垂直方向の画素数heightと比較して1画面分の処理が未だ完了していないか否か判断する。
ここで肯定結果が得られると、低域ノイズ除去部26は、ステップSP3に戻り、続くラインの処理を開始する。これに対してステップSP14で否定結果が得られると、ステップSP15に移り、ノイズ抑圧処理を完了する。
(2)実施例の動作
以上の構成において、このデジタルスチルカメラ11では(図2)、撮像素子13から出力される撮像信号が前処理部14でアナログディジタル変換処理されてRAWデータD1が生成され、このRAWデータD1のノイズが光学補正部15で抑圧される。また続く画像処理部16において、RAWデータD2がデモザイク処理されてフルカラーの画像データが生成され、このフルカラーの画像データが輝度信号及び色差信号による画像データに変換された後、エンコーダ17によりデータ圧縮されて記録媒体19に記録される。またユーザーがRAWデータによる記録を指示した場合には、光学補正部15から出力されるRAWデータD2が記録媒体19に記録される。
この光学補正部15におけるノイズ除去処理において(図3)、RAWデータD1は、ラインバッファ21、周辺画素参照部22を介して高域通過フィルタ23、低域通過フィルタ25に入力され、ここでそれぞれ高域成分及び低域成分に分離される。またこれら高域成分及び低域成分がそれぞれ高域ノイズ除去部24、低域ノイズ除去部26に入力されてノイズが抑圧された後、画像合成部28で合成されてRAWデータD2が生成される。従ってこのデジタルスチルカメラ11では、RAWデータD1による画像データを高域成分と低域成分とに帯域分離してそれぞれノイズ抑圧することになり、何ら帯域分離することなくノイズ抑圧する場合に比して、画質の劣化を低減して効率良くノイズを抑圧することができる。
ここでこの光学補正部15における低域側のノイズの抑圧は、従来、εフィルタを適用してエッジ成分を保存しつつノイズを抑圧し、画質の劣化を防止しているものの、ノイズ抑圧性能にさらなる改善が求められている。このノイズ抑圧の処理にεフィルタに代えてバイラテラルフィルタを使用すれば、一段とノイズ抑圧性能を向上することができるものの、構成、処理が煩雑になる。
そこでこのデジタルスチルカメラ11では(図1)、ラインバッファ31、周辺画素参照部32を介して低域成分の画像データD3が多段εフィルタ部33に入力され、複数のεフィルタ35A〜35Dの出力値と、注目画素P(X,Y) の画素値IN(X,Y) との重み付け加算により、バイラテラルフィルタと同様に、注目画素からの距離と、注目画素の画素値に対する画素値の差分値とに応じた重み付け加算処理により、ノイズ成分が抑圧される。
従ってこのデジタルスチルカメラ11では、単にεフィルタを使用してノイズを抑圧する場合に比して格段的にノイズ抑圧性能を向上することができる。すなわち具体的には、単にεフィルタを使用してノイズを抑圧する場合に比して、エッジを滑らかに保存して十分にノイズを抑圧することができる。
また構成が簡易なεフィルタ35A〜35Dを用いてノイズを抑圧することができることにより、バイラテラルフィルタを使用する場合に比して、構成、処理を簡略化することができる。すなわちこの実施例のεフィルタは、係数が値1の平均処理を実行するフィルタであることから、割り算の計算における分母が平均値化処理する画素数となる。従って分母が有限な整数値となり、例えばルックアップテーブル等を用いて割り算の処理を実行することができる。また係数が値1であることから、分子の計算も簡単であり、従って全体として計算が簡単な特徴がある。従って低域ノイズ除去部26をソフトウエアで構成する場合には、処理を簡略化することができ、またハードウエアで構成する場合には、構成を簡略化し、さらには並列処理して処理速度を高速度化することができる。
またさらに単なる重み付け係数を用いた線形合成の処理によりノイズを抑圧することにより、この重み付け係数を変更する等により、ノイズ除去フィルタとしての特性を柔軟に変更することができる。
(3)実施例の効果
以上の構成によれば、複数のεフィルタの出力値と、注目画素の画素値とを重み付け加算して画像データのノイズを抑圧することにより、簡易な処理、構成で、バイラテラルフィルタと同程度のノイズ抑圧性能を確保することができる。すなわちタップ数及びしきい値がN1及びT1、N2及びT1、N1及びT2、N2及びT2に設定された第1〜第4のεフィルタの出力値と、注目画素の画素値とを重み付け加算して画像データのノイズを抑圧することにより、簡易な処理、構成で、バイラテラルフィルタと同程度のノイズ抑圧性能を確保することができる。
図12は、図1との対比により本発明の実施例2のデジタルスチルカメラに適用される低域ノイズ除去部を示すブロック図である。ここでRAWデータにおいて、輝度レベルが小さい箇所は、画像処理部16の画像処理で適用されるγ曲線による画素値の補正により、又はコンピュータ等におけるRAWデータの現像処理で適用されるγ曲線による画素値の補正により、ノイズが目立つようになる。そこでこの実施例において、低域ノイズ除去部46は、制御部47により乗算部36A〜36Dにおける重み付け係数K1〜K4を可変し、輝度レベルが小さい箇所程、ノイズ抑圧量を増大させて画像データD3のノイズを抑圧する。より具体的には、等価的に、バイラテラルフィルタにおいて距離係数Wsを計算するσsが、暗い部分程、大きくなるように、重み付け係数K1〜K4を可変する。この実施例のデジタルスチルカメラは、この重み付け係数K1〜K4の可変に関する構成を除いて、実施例1のデジタルスチルカメラ11と同一に構成される。
すなわち低域ノイズ除去部46において、制御部47は、周辺画素参照部32から出力される画像データを入力し、所定ブロック毎に、平均輝度レベルを計算する。なお所定ブロック毎の平均輝度レベルに代えて、画素毎に、輝度レベルを計算するようにしてもよい。制御部47は、この計算した輝度レベルに応じて、図13に示す特性曲線により輝度レベルが増大するに従って値が減少するように、パラメータαsを計算する。
またこの計算したパラメータαsを用いて、次式により示すように、しきい値がT1の3タップのεフィルタ35Aと、対応する7タップのεフィルタ35Cとの合成比率が変化するように、またこれに連動してしきい値がT2の3タップのεフィルタ35Bと、対応する7タップのεフィルタ35Dとの合成比率が変化するように、乗算部36A〜36Dにおける重み付け係数K1〜K4を可変する。従って低域ノイズ除去部46は、この場合、輝度レベルが低い箇所程、タップ数の少ないεフィルタの出力信号成分が増大するように、重み付け係数K1〜K4を可変する。
Figure 2008177801
ここで図14において、符号L1、L2、L3は、それぞれ3タップのεフィルタの出力信号と7タップのεフィルタの出力信号とを、3:1、1:1、1:3で合成した場合の周波数特性である。この図14に示すように、タップ数の少ないεフィルタの出力信号成分が増大するように、重み付け係数K1〜K4を可変すれば、カットオフ周波数を低下させることができ、ノイズを抑圧する能力を増大させることができる。
この実施例によれば、輝度レベルの低い部分程、タップ数の少ないεフィルタの出力信号成分が増大するように、重み付け係数を可変することにより、一段と効率良くノイズを除去して実施例1と同様の効果を得ることができる。
この実施例では、明るい部分における光学ショットノイズを低減する。このためこの実施例においては、等価的に、バイラテラルフィルタにおいてエッジ係数Weを計算するσeが、明るい部分程、大きくなるように、εフィルタの特性を可変する。なおこの実施例では、このεフィルタの特性の可変に関する構成が異なる点を除いて、実施例2のデジタルスチルカメラと同一に構成されることから、以下においては、図12の構成を流用して説明する。
すなわち低域ノイズ除去部46において、制御部47は、周辺画素参照部32から出力される画像データを入力し、所定ブロック毎に、平均輝度レベルを計算する。なお所定ブロック毎の平均輝度レベルに代えて、画素毎に、輝度レベルを計算するようにしてもよい。制御部47は、この計算した輝度レベルに応じて、図15に示す特性曲線により輝度レベルが増大するに従って値が増大するように、パラメータαeを計算する。
またこの計算したパラメータαsを用いて、次式により示すように、3タップのεフィルタ35A、35Bのしきい値をαeに設定し、また7タップのεフィルタ35C、35Dのしきい値を2αeに設定する。従ってこの場合、低域ノイズ除去部46は、図16に示すように、タップ数の異なるεフィルタのしきい値の比率を一定値に維持したまま、明るい部分程、大きくなるようにしきい値を可変し、明るい部分における光学ショットノイズを低減する。
Figure 2008177801
この実施例によれば、タップ数の異なるεフィルタのしきい値の比率を一定値に維持したまま、明るい部分程、大きくなるようにしきい値を可変することにより、明るい部分における光学ショットノイズを低減して一段と効率良くノイズを除去し、実施例1と同様の効果を得ることができる。
この実施例では、実施例2及び3で上述したノイズ除去処理の構成を併用し、暗い部分におけるノイズと、明るい部分における光学ショットノイズとの双方を低減する。なおこの実施例では、このノイズ除去処理に関する構成が異なる点を除いて、実施例2のデジタルスチルカメラと同一に構成されることから、以下においては、図12の構成を流用して説明する。
すなわち低域ノイズ除去部46において、制御部47は、周辺画素参照部32から出力される画像データを入力し、所定ブロック毎に、平均輝度レベルを計算する。なお所定ブロック毎の平均輝度レベルに代えて、画素毎に、輝度レベルを計算するようにしてもよい。制御部47は、この計算した輝度レベルに応じて、図13に示す特性曲線により輝度レベルが増大するに従って値が減少するように、パラメータαsを計算する。また図15に示す特性曲線により輝度レベルが増大するに従って値が増大するように、パラメータαeを計算する。
またこの計算したパラメータαe、αsを用いて、次式により示すように、3タップのεフィルタ35A、35B、7タップのεフィルタ35C、35Dのしきい値をαe、2αeに設定し、また3タップのεフィルタ35Aと、対応する7タップのεフィルタ35Cとの合成比率、3タップのεフィルタ35Bと、対応する7タップのεフィルタ35Dとの合成比率を可変する。
Figure 2008177801
この実施例によれば、輝度レベルの低い部分程、タップ数の少ないεフィルタの出力信号成分が増大するように、重み付け係数を可変すると共に、タップ数の異なるεフィルタのしきい値の比率を一定値に維持したまま、明るい部分程、大きくなるようにしきい値を可変することにより、明るい部分における光学ショットノイズと、暗い部分におけるγ曲線によるノイズとを低減して一段と効率良くノイズを除去し、実施例1と同様の効果を得ることができる。
図17は、図1との対比により本発明の実施例5のデジタルスチルカメラに適用される低域ノイズ除去部の構成を示すブロック図である。この低域ノイズ除去部56は、タップ数N2、しきい値T2のεフィルタ35D、このεフィルタ35Dに係る乗算部36Dが省略された点を除いて、上述の実施例と同一に構成される。
ここで図18は、図9との対比により、図1の低域ノイズ除去部26におけるεフィルタ35A〜35Dの処理の説明に供する略線図である。なおここでこの図18及び以降の説明では、εフィルタ35A〜35Dの出力をそれぞれ符号a〜dで示す。図1の例による低域ノイズ除去部26では、差分絶対値がしきい値N1より小さい場合、εフィルタ35A〜35Dの出力が合成されて出力されることになる(図18(A))。これに対して差分絶対値がしきい値N1より大きく、しきい値N2より小さい場合、しきい値がN2のεフィルタ35B、35Dの出力のみが合成されて出力されることになる(図18(B))。従って注目画素からの距離と、注目画素の画素値に対する画素値の差分値とに応じた重み付け加算処理により、ノイズ成分を抑圧し、単にεフィルタを使用する場合に比して、ノイズ除去性能を向上することができる。
ここで図17の例では、図19に示すように、差分絶対値がしきい値N1より小さい場合、εフィルタ35A〜35Cの出力が合成されて出力されることになり(図19(A))、差分絶対値がしきい値N1より大きく、しきい値N2より小さい場合、しきい値がN2のεフィルタ35Bの出力のみが出力されることになる(図19(B))。従ってこの図16の例でも、注目画素からの距離と、注目画素の画素値に対する画素値の差分値とに応じた重み付け加算処理により、ノイズ成分を抑圧し、単にεフィルタを使用する場合に比して、ノイズ除去性能を向上することができる。
この実施例によれば、第1のεフィルタと、この第1のεフィルタとタップ数が異なる第2のεフィルタと、第1のεフィルタとしきい値が異なる第3のεフィルタと、注目画素の画素値とを重み付け加算するようにしても、実施例1と同様の効果を得ることができる。
図20は、図1との対比により本発明の実施例6のデジタルスチルカメラに適用される低域ノイズ除去部の構成を示すブロック図である。この低域ノイズ除去部66は、タップ数N2、しきい値T1のεフィルタ35C、このεフィルタ35Cに係る乗算部36Cが省略された点を除いて、上述の実施例と同一に構成される。
ここで図18との対比により図21に示すように、この図20の例では、差分絶対値がしきい値N1より小さい場合、εフィルタ35A、35B、35Dの出力が合成されて出力されることになり(図21(A))、差分絶対値がしきい値N1より大きく、しきい値N2より小さい場合、しきい値がN2のεフィルタ35B、35Dの出力が合成されて出力されることになる(図21(B))。従ってこの図20の例でも、注目画素からの距離と、注目画素の画素値に対する画素値の差分値とに応じた重み付け加算処理により、ノイズ成分を抑圧し、単にεフィルタを使用する場合に比して、ノイズ除去性能を向上することができる。
この実施例によれば、第1のεフィルタと、この第1のεフィルタとしきい値が異なる第2のεフィルタと、第2のεフィルタのしきい値で、第1のεフィルタとタップ数が異なる第3のεフィルタと、注目画素の画素値とを重み付け加算するようにしても、実施例1と同様の効果を得ることができる。
図22は、図1との対比により本発明の実施例7のデジタルスチルカメラに適用される低域ノイズ除去部の構成を示すブロック図である。この低域ノイズ除去部76は、タップ数N1、しきい値T1のεフィルタ35A、このεフィルタ35Aに係る乗算部36A、タップ数N2、しきい値T2のεフィルタ35D、このεフィルタ35Dに係る乗算部36Dが省略された点を除いて、上述の実施例と同一に構成される。
ここで図18との対比により図23に示すように、この図22の例では、差分絶対値がしきい値N1より小さい場合、εフィルタ35B、35Cの出力が合成されて出力されることになり(図23(A))、差分絶対値がしきい値N1より大きく、しきい値N2より小さい場合、しきい値がN2のεフィルタ35Cの出力が合成されて出力されることになる(図23(B))。従ってこの図22の例でも、注目画素からの距離と、注目画素の画素値に対する画素値の差分値とに応じた重み付け加算処理により、ノイズ成分を抑圧し、単にεフィルタを使用する場合に比して、ノイズ除去性能を向上することができる。なお、εフィルタ35B、35Cに代えて、εフィルタ35A、35B、εフィルタ35A、35C、又はεフィルタ35A、35Dを用いてεフィルタ部34を構成するようにしてもよい。
この実施例によれば、第1のεフィルタと、この第1のεフィルタとタップ数及び又はしきい値が異なる第2のεフィルタと、注目画素の画素値とを重み付け加算するようにしても、実施例1と同様の効果を得ることができる。
なお上述の実施例においては、図24(A)の模式図により示すように、3タップのεフィルタと7タップのεフィルタとの出力を所定の重み付け係数(図24の例では、a及びb)で重み付け加算する場合について述べたが、本発明はこれに限らず、図24(A)との対比により図24(B)に示すように、3タップのεフィルタで計算した処理領域を除くように、残りのフィルタで条件付き平均値化の処理を実行し、3タップのεフィルタで計算した計算結果との合成により7タップのεフィルタの出力を求めるようにしてもよい。なおこの図24では、各フィルタの処理領域をハッチングで示す。この図23の例によれば、一段と処理を簡略化することができる。
また上述の実施例においては、輝度レベルに応じて処理を切り換える場合について述べたが、本発明はこれに限らず、輝度レベルに代えて特定のεフィルタにおけるしきい値以下のサンプル数に応じて処理を切り換える場合等、種々の手法を組み合わせるようにしてもよい。
また上述の実施例においては、低域側のノイズを単に複数のεフィルタで除去する場合について述べたが、本発明はこれに限らず、メディアンフィルタなどの他のフィルタを組み合わせてノイズ除去するようにしてもよい。
また上述の実施例においては、画像データを高域成分と低域成分とに分離してノイズを除去する場合について述べたが、本発明はこれに限らず、例えばバンドパスフィルタを用いて3帯域以上に分離して処理する場合、何ら帯域分離せずに直接処理する場合等にも広く適用することができる。
また上述の実施例においては、RAWデータのノイズを除去する場合について述べたが、本発明はこれに限らず、フルカラーの画像データ、輝度信号及び色差信号による画像データ等、種々のフォーマットによる画像データのノイズを除去する場合に広く適用することができる。
また上述の実施例においては、デモザイク処理の前段階でノイズを除去する場合について述べたが、本発明はこれに限らず、デモザイク処理の後にノイズ除去する場合、画像処理部における処理途中、処理後にノイズ除去する場合等、種々の過程でノイズ除去する場合に広く適用することができる。
また上述の実施例においては、係数が値1のεフィルタを使用する場合について述べたが、本発明はこれに限らず、係数が1以外のεフィルタを使用する場合にも広く適用することができる。
また上述の実施例においては、画素値の差分絶対値、注目画素からの距離をパラメータにしてガウス曲線の特性により重み付けが変化するように設定してバイラテラルフィルタと同様の特性を確保する場合について述べたが、本発明はこれに限らず、ガウス曲線に代えて種々の特性により重み付けが変化するように設定してもよい。
また上述の実施例においては、本発明をデジタルスチルカメラ、デジタルビデオカメラに適用する場合について述べたが、本発明はこれに限らず、画像をデータを処理する各種画像処理装置、各種画像処理プログラムに広く適用することができる。なおこの画像処理プログラムは、コンピュータ、画像処理装置等に事前にインストールして提供するようにしてもよく、またこれに代えて光ディスク、磁気ディスク、メモリカード等の各種記録媒体に記録して提供するようにしてもよく、さらにはインターネット等のネットワークを介したダウンロードにより提供するようにしてもよい。
本発明は、例えばデジタルスチルカメラに適用することができる。
本発明の実施例1のデジタルスチルカメラにおける低域ノイズ除去部の構成を示すブロック図である。 本発明の実施例1のデジタルスチルカメラを示すブロック図である。 図2のデジタルスチルカメラにおける光学補正部の構成を示すブロック図である。 εフィルタとバイラテラルフィルタとの特性を示す特性曲線図である。 複数のεフィルタの出力の合成の説明に供する特性曲線図である。 バイラテラルフィルタにおけるエッジ係数の説明に供する特性曲線図である。 複数のεフィルタの出力の合成の説明に供する特性曲線図である。 σeを10倍にした場合のバイラテラルフィルタにおけるエッジ係数の説明に供する特性曲線図である。 図8の例に対応する複数のεフィルタの出力の合成の説明に供する特性曲線図である。 タップ数、しきい値の異なるεフィルタの出力の合成の説明に供する略線図である。 図1の低域ノイズ除去部の処理手順を示すフローチャートである。 本発明の実施例2のデジタルスチルカメラに適用される低域ノイズ除去部を示すブロック図である。 パラメータαsを示す特性曲線図である。 合成比率を可変した場合の周波数特性を示す特性曲線図である。 パラメータαeを示す特性曲線図である。 図15のパラメータの説明に供する特性曲線図である。 本発明の実施例5のデジタルスチルカメラに適用される低域ノイズ除去部の構成を示すブロック図である。 図1の構成によるεフィルタの処理の説明に供する略線図である。 図17の低域ノイズ除去部の処理の説明に供する略線図である。 本発明の実施例6のデジタルスチルカメラに適用される低域ノイズ除去部の構成を示すブロック図である。 図20の低域ノイズ除去部の処理の説明に供する略線図である。 本発明の実施例7のデジタルスチルカメラに適用される低域ノイズ除去部の構成を示すブロック図である。 図22の低域ノイズ除去部の処理の説明に供する略線図である。 他の実施例による低域ノイズ除去部の構成の説明に供する模式図である。 バイラテラルフィルタを示すブロック図である。 バイラテラルフィルタの動作の説明に供する略線図である。
符号の説明
1……バイラテラルフィルタ、11……デジタルスチルカメラ、15……光学補正部、26、46、56、66……低域ノイズ除去部、33……多段εフィルタ部、34……εフィルタ部、35A〜35D……εフィルタ、36A〜36D、37……乗算部、38……加算部、47……制御部

Claims (10)

  1. 撮像結果を取得して画像データを出力する撮像部と、
    前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、
    前記ノイズ抑圧部は、
    前記画像データを処理する第1のεフィルタと、
    前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しく、前記画像データを処理する第2のεフィルタと、
    前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なり、前記画像データを処理する第3のεフィルタと、
    前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しく、前記画像データを処理する第4のεフィルタと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有する
    ことを特徴とする撮像装置。
  2. 前記画像データの輝度レベルを検出し、輝度レベル検出結果に基づいて、前記輝度レベルの低い部分程、タップ数の少ないεフィルタの出力信号成分が増大するように、前記加算部における重み付け係数を可変する制御部を有する
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記画像データの輝度レベルを検出し、輝度レベル検出結果に基づいて、前記輝度レベルの高い部分程、しきい値が大きくなるように、前記第1〜第4のεフィルタのしきい値を可変する制御部を有する
    ことを特徴とする請求項1に記載の撮像装置。
  4. 撮像結果を取得して画像データを出力する撮像部と、
    前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、
    前記ノイズ抑圧部は、
    前記画像データを処理する第1のεフィルタと、
    前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しく、前記画像データを処理する第2のεフィルタと、
    前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なり、前記画像データを処理する第3のεフィルタと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有する
    ことを特徴とする撮像装置。
  5. 撮像結果を取得して画像データを出力する撮像部と、
    前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、
    前記ノイズ抑圧部は、
    前記画像データを処理する第1のεフィルタと、
    前記第1のεフィルタとしきい値が異なり、前記第1のεフィルタとタップ数が等しく、前記画像データを処理する第2のεフィルタと、
    前記第2のεフィルタとしきい値が等しく、前記第1のεフィルタとタップ数が異なり、前記画像データを処理する第3のεフィルタと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有する
    ことを特徴とする撮像装置。
  6. 撮像結果を取得して画像データを出力する撮像部と、
    前記画像データのノイズを抑圧して出力データを出力するノイズ抑圧部とを有し、
    前記ノイズ抑圧部は、
    前記画像データを処理する第1のεフィルタと、
    前記第1のεフィルタとタップ数及び又はしきい値が異なり、前記画像データを処理する第2のεフィルタと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有する
    ことを特徴とする撮像装置。
  7. 画像データを処理する第1のεフィルタと、
    前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しく、前記画像データを処理する第2のεフィルタと、
    前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なり、前記画像データを処理する第3のεフィルタと、
    前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しく、前記画像データを処理する第4のεフィルタと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して前記出力データを出力する重み付け加算部とを有する
    ことを特徴とするノイズ除去装置。
  8. 第1のεフィルタにより画像データを処理する第1の処理ステップと、
    前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しい第2のεフィルタにより前記画像データを処理する第2の処理ステップと、
    前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なる第3のεフィルタにより前記画像データを処理する第3の処理ステップと、
    前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しい第4のεフィルタにより前記画像データを処理する第4の処理ステップと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して出力データを出力する重み付け加算ステップとを有する
    ことを特徴とするノイズ除去方法。
  9. 第1のεフィルタにより画像データを処理する第1の処理ステップと、
    前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しい第2のεフィルタにより前記画像データを処理する第2の処理ステップと、
    前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なる第3のεフィルタにより前記画像データを処理する第3の処理ステップと、
    前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しい第4のεフィルタにより前記画像データを処理する第4の処理ステップと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して出力データを出力する重み付け加算ステップとを有する
    ことを特徴とするノイズ除去方法のプログラム。
  10. 画像データのノイズを除去するノイズ除去方法のプログラムを記録した記録媒体において、
    前記ノイズ除去方法のプログラムは、
    第1のεフィルタにより前記画像データを処理する第1の処理ステップと、
    前記第1のεフィルタとタップ数が異なり、前記第1のεフィルタとしきい値が等しい第2のεフィルタにより前記画像データを処理する第2の処理ステップと、
    前記第1のεフィルタとタップ数が等しく、前記第1のεフィルタとしきい値が異なる第3のεフィルタにより前記画像データを処理する第3の処理ステップと、
    前記第2のεフィルタとタップ数が等しく、前記第3のεフィルタとしきい値が等しい第4のεフィルタにより前記画像データを処理する第4の処理ステップと、
    前記第1のεフィルタの出力値、前記第2のεフィルタの出力値、前記第3のεフィルタの出力値、前記第4のεフィルタの出力値、前記画像データにおける注目画素の画素値を重み付け加算して出力データを出力する重み付け加算ステップとを有する
    ことを特徴とするノイズ除去方法のプログラムを記録した記録媒体。
JP2007008674A 2007-01-18 2007-01-18 撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体 Expired - Fee Related JP4288623B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2007008674A JP4288623B2 (ja) 2007-01-18 2007-01-18 撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体
EP07255086A EP1947837A2 (en) 2007-01-18 2007-12-31 Imaging and noise removal
TW097100841A TW200847764A (en) 2007-01-18 2008-01-09 Imaging apparatus, noise removing device, noise removing method, program for noise removing method, and recording medium for recording the same
US11/972,404 US20080175510A1 (en) 2007-01-18 2008-01-10 Imaging apparatus, noise removing device, noise removing method, program for noise removing method, and recording medium for recording the same
KR1020080005345A KR20080068576A (ko) 2007-01-18 2008-01-17 촬상 장치, 노이즈 제거 장치, 노이즈 제거 방법, 노이즈제거 방법의 프로그램, 및 노이즈 제거 방법의 프로그램을기록한 기록 매체
CN2008100010826A CN101232574B (zh) 2007-01-18 2008-01-18 成像装置、噪声去除设备及噪声去除方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007008674A JP4288623B2 (ja) 2007-01-18 2007-01-18 撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2008177801A true JP2008177801A (ja) 2008-07-31
JP4288623B2 JP4288623B2 (ja) 2009-07-01

Family

ID=39090334

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007008674A Expired - Fee Related JP4288623B2 (ja) 2007-01-18 2007-01-18 撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体

Country Status (6)

Country Link
US (1) US20080175510A1 (ja)
EP (1) EP1947837A2 (ja)
JP (1) JP4288623B2 (ja)
KR (1) KR20080068576A (ja)
CN (1) CN101232574B (ja)
TW (1) TW200847764A (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011016375A1 (en) * 2009-08-07 2011-02-10 Ricoh Company, Limited Image processing apparatus, image processing method, and computer program
US8233062B2 (en) 2009-01-23 2012-07-31 Sony Corporation Image processing apparatus, image processing method, and imaging apparatus
JP2013078064A (ja) * 2011-09-30 2013-04-25 Dainippon Printing Co Ltd 雑音除去装置
JP2013115480A (ja) * 2011-11-25 2013-06-10 Nippon Hoso Kyokai <Nhk> 撮像装置、記録装置、映像信号処理装置、撮像システム及び映像信号処理プログラム
JP2014106921A (ja) * 2012-11-29 2014-06-09 Samsung R&D Institute Japan Co Ltd ポインティング装置及びポインティング装置用プログラム
JP2014110592A (ja) * 2012-12-04 2014-06-12 Toshiba Corp 画像処理装置
JP2014182475A (ja) * 2013-03-18 2014-09-29 Nissan Motor Co Ltd 画像処理装置および画像処理方法
WO2016052027A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、画像処理方法、プログラム及び記録媒体
WO2016052001A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、フィルタ取得装置、画像処理方法、フィルタ取得方法、プログラム及び記録媒体
WO2016052000A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、画像処理方法、プログラム及び記録媒体
WO2016052004A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、フィルタ取得装置、画像処理方法、フィルタ取得方法、プログラム及び記録媒体

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8594445B2 (en) 2005-11-29 2013-11-26 Adobe Systems Incorporated Fast bilateral filtering using rectangular regions
TW200828983A (en) * 2006-12-27 2008-07-01 Altek Corp Method of eliminating image noise
JP4527750B2 (ja) * 2007-05-30 2010-08-18 三菱電機株式会社 画像処理装置及び方法並びに画像表示装置
US8331717B2 (en) * 2007-10-03 2012-12-11 Panasonic Corporation Method and apparatus for reducing block noise
US8300974B2 (en) * 2007-11-12 2012-10-30 Mitsubishi Electric Corporation Image processing device, image display device, and image processing method therefor
US8655097B2 (en) * 2008-08-22 2014-02-18 Adobe Systems Incorporated Adaptive bilateral blur brush tool
KR101618298B1 (ko) * 2009-10-23 2016-05-09 삼성전자주식회사 고감도 영상 생성 장치 및 방법
US8805111B2 (en) * 2010-02-09 2014-08-12 Indian Institute Of Technology Bombay System and method for fusing images
JP5418777B2 (ja) * 2010-02-19 2014-02-19 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP2012124832A (ja) * 2010-12-10 2012-06-28 Sony Corp 画像処理装置、画像処理方法、及び、プログラム
CN102354393B (zh) * 2011-07-12 2013-09-25 中国资源卫星应用中心 一种高光谱成像仪数据的噪声去除方法
US9270875B2 (en) * 2011-07-20 2016-02-23 Broadcom Corporation Dual image capture processing
JP2013126186A (ja) * 2011-12-15 2013-06-24 Samsung Electronics Co Ltd 撮像装置及び画像処理方法
JP5965638B2 (ja) * 2011-12-27 2016-08-10 オリンパス株式会社 画像処理システムを備えた顕微鏡システム
JP6074198B2 (ja) * 2012-09-12 2017-02-01 キヤノン株式会社 画像処理装置及び画像処理方法
KR101981573B1 (ko) 2012-11-22 2019-05-23 삼성전자주식회사 이미지 신호 프로세서 및 이미지 신호 프로세서를 포함하는 모바일 촬영 장치
CN104103037B (zh) * 2013-04-02 2017-02-15 杭州海康威视数字技术股份有限公司 一种图像增强处理方法和装置
JP6327869B2 (ja) * 2014-01-29 2018-05-23 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
CN107113375B (zh) * 2015-01-08 2020-09-18 索尼半导体解决方案公司 图像处理装置、成像装置和图像处理方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002048964A1 (en) * 2000-12-14 2002-06-20 Matsushita Electric Works, Ltd. Image processor and pattern recognition apparatus using the image processor
JP2002259965A (ja) * 2001-02-26 2002-09-13 Sony Corp 画像ノイズ低減方法及び装置
JP4649781B2 (ja) * 2001-06-20 2011-03-16 ソニー株式会社 画像処理方法および装置
JP4273748B2 (ja) 2002-11-18 2009-06-03 ソニー株式会社 画像処理装置および方法
JP4413504B2 (ja) * 2003-02-13 2010-02-10 株式会社東芝 医用画像処理装置、医用画像処理方法および医用画像処理プログラム
JP4442413B2 (ja) 2004-12-22 2010-03-31 ソニー株式会社 画像処理装置、画像処理方法、プログラム、及び記録媒体

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8233062B2 (en) 2009-01-23 2012-07-31 Sony Corporation Image processing apparatus, image processing method, and imaging apparatus
WO2011016375A1 (en) * 2009-08-07 2011-02-10 Ricoh Company, Limited Image processing apparatus, image processing method, and computer program
JP2011039675A (ja) * 2009-08-07 2011-02-24 Ricoh Co Ltd 画像処理装置、画像処理方法、及び、コンピュータプログラム
US8750638B2 (en) 2009-08-07 2014-06-10 Ricoh Company, Ltd. Image processing apparatus, image processing method, and computer program
JP2013078064A (ja) * 2011-09-30 2013-04-25 Dainippon Printing Co Ltd 雑音除去装置
JP2013115480A (ja) * 2011-11-25 2013-06-10 Nippon Hoso Kyokai <Nhk> 撮像装置、記録装置、映像信号処理装置、撮像システム及び映像信号処理プログラム
JP2014106921A (ja) * 2012-11-29 2014-06-09 Samsung R&D Institute Japan Co Ltd ポインティング装置及びポインティング装置用プログラム
JP2014110592A (ja) * 2012-12-04 2014-06-12 Toshiba Corp 画像処理装置
JP2014182475A (ja) * 2013-03-18 2014-09-29 Nissan Motor Co Ltd 画像処理装置および画像処理方法
WO2016052001A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、フィルタ取得装置、画像処理方法、フィルタ取得方法、プログラム及び記録媒体
WO2016052027A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、画像処理方法、プログラム及び記録媒体
WO2016052000A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、画像処理方法、プログラム及び記録媒体
WO2016052004A1 (ja) * 2014-09-30 2016-04-07 富士フイルム株式会社 画像処理装置、フィルタ取得装置、画像処理方法、フィルタ取得方法、プログラム及び記録媒体
JP6042043B2 (ja) * 2014-09-30 2016-12-14 富士フイルム株式会社 画像処理装置、画像処理方法、プログラム及び記録媒体
JP6042044B2 (ja) * 2014-09-30 2016-12-14 富士フイルム株式会社 画像処理装置、フィルタ取得装置、画像処理方法、フィルタ取得方法、プログラム及び記録媒体
JP6067949B2 (ja) * 2014-09-30 2017-01-25 富士フイルム株式会社 画像処理装置、フィルタ取得装置、画像処理方法、フィルタ取得方法、プログラム及び記録媒体
JP6067950B2 (ja) * 2014-09-30 2017-01-25 富士フイルム株式会社 画像処理装置、画像処理方法、プログラム及び記録媒体
US9799104B2 (en) 2014-09-30 2017-10-24 Fujifilm Corporation Image processing apparatus, image processing method, program, and recording medium
US9805452B2 (en) 2014-09-30 2017-10-31 Fujifilm Corporation Image processing apparatus, image processing method, program, and recording medium
US9854187B2 (en) 2014-09-30 2017-12-26 Fujifilm Corporation Image processing apparatus, filter acquisition apparatus, image processing method, filter acquisition method, program, and recording medium
US10049438B2 (en) 2014-09-30 2018-08-14 Fujifilm Corporation Image processing apparatus, filter acquisition apparatus, image processing method, filter acquisition method, program, and recording medium

Also Published As

Publication number Publication date
JP4288623B2 (ja) 2009-07-01
US20080175510A1 (en) 2008-07-24
CN101232574B (zh) 2010-06-09
KR20080068576A (ko) 2008-07-23
TW200847764A (en) 2008-12-01
CN101232574A (zh) 2008-07-30
EP1947837A2 (en) 2008-07-23

Similar Documents

Publication Publication Date Title
JP4288623B2 (ja) 撮像装置、ノイズ除去装置、ノイズ除去方法、ノイズ除去方法のプログラム及びノイズ除去方法のプログラムを記録した記録媒体
JP4894595B2 (ja) 画像処理装置および方法、並びに、プログラム
US9741099B2 (en) Systems and methods for local tone mapping
US9317930B2 (en) Systems and methods for statistics collection using pixel mask
US11089247B2 (en) Systems and method for reducing fixed pattern noise in image data
US8817120B2 (en) Systems and methods for collecting fixed pattern noise statistics of image data
US9131196B2 (en) Systems and methods for defective pixel correction with neighboring pixels
US8248492B2 (en) Edge preserving and tone correcting image processing apparatus and method
JP4290193B2 (ja) 画像処理装置
JP4869653B2 (ja) 画像処理装置
JP4214457B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
US20130321675A1 (en) Raw scaler with chromatic aberration correction
JP2008153836A (ja) 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP2007293431A (ja) 画像処理装置
JP2007208399A (ja) 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP2008205691A (ja) 画像処理装置および方法、記録媒体、並びに、プログラム
JP2012216888A (ja) 画像理装置および方法、並びにプログラム
JP2004363853A (ja) 画像信号のノイズ低減方法及びノイズ低減装置
JP5631769B2 (ja) 画像処理装置
JP5919086B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
JP4946417B2 (ja) 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP5103580B2 (ja) 画像処理装置およびデジタルカメラ
JP4632100B2 (ja) 画像処理装置、画像処理方法、記録媒体、およびプログラム
JP5242750B2 (ja) 画像処理装置
CN116939374B (zh) 镜头阴影矫正方法、装置及电子设备

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090305

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090318

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120410

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130410

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees