JP5016255B2 - ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ - Google Patents

ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ Download PDF

Info

Publication number
JP5016255B2
JP5016255B2 JP2006128056A JP2006128056A JP5016255B2 JP 5016255 B2 JP5016255 B2 JP 5016255B2 JP 2006128056 A JP2006128056 A JP 2006128056A JP 2006128056 A JP2006128056 A JP 2006128056A JP 5016255 B2 JP5016255 B2 JP 5016255B2
Authority
JP
Japan
Prior art keywords
image data
color image
noise
noise reduction
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006128056A
Other languages
English (en)
Other versions
JP2007259401A (ja
Inventor
誠 大石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2006128056A priority Critical patent/JP5016255B2/ja
Priority to US11/704,344 priority patent/US7847838B2/en
Publication of JP2007259401A publication Critical patent/JP2007259401A/ja
Priority to US12/916,022 priority patent/US8395684B2/en
Application granted granted Critical
Publication of JP5016255B2 publication Critical patent/JP5016255B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)

Description

この発明は,ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラに関する。
ディジタル・スチル・カメラなどに用いられるCCDは高画素化,高感度化の一途をたどっている。このために,ノイズの影響が問題となってきている。
ロウ・パス・フィルタやメディアン・フィルタなどを用いて撮像によって得られる映像信号からノイズを除去することが考えられている(特許文献1)。また,画像から鮮鋭性を損なうことなくノイズを除去することも考えられている(特許文献2)。さらに周囲の画素からエッジ検出を行ない,解像度劣化を抑えるものもある(特許文献3)。
特開平4−235472号公報 特開2002−222416号公報 特開2005−303731号公報
しかしながら,未だノイズを完全に除去することは難しい。
この発明は,ノイズを低減することを目的とする。
第1の発明によるノイズ低減装置は,複数の固体電子撮像素子を用いて同一の被写体を撮像することにより得られる,ほぼ同一のカラー被写体像を表す複数種類のカラー画像データにおけるそれぞれのカラー画像データの相関性を保持しつつ,上記複数種類のカラー画像データに含まれている無相関ノイズを除去するノイズ除去手段,および上記ノイズ除去手段によって除去された複数種類のカラー画像データについて空間的な画素処理を行う画素処理手段を備えていることを特徴とする。
第1の発明は,上記ノイズ低減装置に適した制御方法も提供している。すなわち,この方法は,ノイズ除去手段が,複数の固体電子撮像素子を用いて同一の被写体を撮像することにより得られる,ほぼ同一のカラー被写体像を表す複数種類のカラー画像データにおけるそれぞれのカラー画像データの相関性を保持しつつ,上記複数種類のカラー画像データに含まれている無相関ノイズを除去し,画素処理手段が,無相関ノイズが除去された複数種類のカラー画像データについて空間的な画素処理を行うものである。
第1の発明は,上記ノイズ低減処理のためのプログラムならびに上記ノイズ低減装置を備えた撮像装置およびディジタル・カメラも提供している。
第1の発明によると,複数の固体電子撮像素子を用いて同一の被写体を撮像することにより得られる,ほぼ同一のカラー被写体像を表す複数種類のカラー画像データにおけるそれぞれのカラー画像データの相関性を保持しつつ,複数種類のカラー画像データに含まれている無相関ノイズが除去される。無相関ノイズが除去された複数種類のカラー画像データについて空間的な画素処理が行われる。空間的な画素処理が行われる前に相関ノイズが除去されるから,空間的な画素処理が行われた後に相関ノイズが除去される場合に比べて,空間的な画素処理後の信号処理回路などの回路構成に依存することなくノイズ低減処理を実現できる。空間的な画素処理とは,被写体像を構成する画素を用いて,その被写体像を構成する他の画素について信号処理(補間処理,重みづけを利用して画素のレベルを変える処理,ディジタル・フィルタ処理など)を行うものであり,複数種類のカラー画像データによって表される複数種類の被写体像のうちの一の被写体像を構成する一の画素を用いて,その一の被写体像を構成する他の画素について信号処理を行ってもよいし,その一の被写体像と異なる他の被写体像を構成する他の画素について信号処理を行ってもよい。
上記複数種類のカラー画像データは,それぞれが異なる色成分をもつものでもよい。
上記複数種類のカラー画像データによって表される複数のカラー被写体像は,たとえば,それぞれ構成する画素の位相特性(空間的な位置を表わす特性であり,複数の被写体像を重ね合わせた場合の位置ずれを示す特性)が同一または画素ピッチ以下にずれをもつものである。
カラー画像データのレベルに応じて,上記ノイズ除去手段によるノイズ除去処理を抑制するノイズ除去処理抑制手段をさらに備えてもよい。
上記ノイズ除去手段における無相関ノイズ除去処理が上記固体電子撮像素子の特性および上記固体電子撮像素子を用いて撮影したときに用いられる撮影情報の少なくとも一方にもとづいて行われるようにしてもよい。
上記複数種類のカラー画像データは,それぞれが異なる色成分をもつものでもよい。この場合,上記ノイズ除去手段は,たとえば,上記複数種類のカラー画像データのレベルの平均値が上記複数の色成分での色空間の原点位置となるように,上記複数種類のカラー画像データのレベルをシフトするカラー画像データ・シフト手段,上記カラー画像データ・シフト手段によってシフトされたカラー画像データを,そのレベルに応じて無相関ノイズの除去処理を行うフィルタリング手段,および上記フィルタリング手段によって無相関ノイズが除去されたカラー画像データのレベルを,上記シフト分に応じて戻すカラー画像データ逆シフト手段を備える。
上記フィルタリング手段におけるノイズ低減処理は,たとえば,上記複数の色成分の数に対応した演算を利用したディジタル・フィルタリング処理である。
上記フィルタリング手段におけるノイズ除去処理は,たとえば,上記複数の色成分の数が元の色成分の数よりも少なくなるように,複数の色成分を取り扱い,複数の色成分の数に対応した演算を用いたディジタル・フィルタ処理である。
上記ディジタル・フィルタ処理における演算が発散した場合に,ノイズ除去処理を停止するノイズ除去処理停止手段をさらに備えるようにしてもよい。
上記複数種類のカラー画像データ全体のうち,互いに相関性のある複数のカラー画像データ群に分ける画像データ分割手段をさらに備えてもよい。この場合,上記カラー画像データ・シフト手段は,上記画像データ分割手段によって分割された複数のカラー画像データ群のうち,無相関ノイズの除去対象であるカラー画像データが含まれているカラー画像データ群について上記複数の色空間での原点位置となるようにシフトするものとなろう。
上記画像データ分割手段は,上記複数種類のカラー画像データを複数の小ブロックに分ける小ブロック分割手段をさらに備えてもよい。この場合,上記小ブロック分割手段によって分けられた複数の小ブロックごとに,相関性のある複数のカラー画像データ群に分けるものとなろう。
上記小ブロック分割手段によって分けられた小ブロックの平均画素レベルにもとづいて,複数の小ブロックごとに相関性のある複数のカラー画像データ群に分けるものでもよい。
上記小ブロック分割手段によって分けられた小ブロックを構成する各画素に,撮像が高感度なものほど平均的な画素レベルとなり,低感度なものほど上記小ブロックを構成する画素の代表画素レベルとなるような重みづけ係数を用いた重みづけ平均により得られる画素レベルにもとづいて,複数の小ブロックごとに相関性のある複数のカラー画像データ群に分けるものでもよい。
上記小ブロックを構成する代表画素にもとづいて,複数の小ブロックごとに相関性のある複数のカラー画像データ群に分けるようにもできる。
上記画像データ分割手段によって分けられた複数のカラー画像データ群によって表される画像領域の大きさが第1の所定値未満の場合に,上記無相関ノイズ除去手段による無相関ノイズ除去処理を停止する無相関ノイズ停止制御手段をさらに備えてもよい。
上記複数のカラー画像データ群によって表される画像領域の大きさが,上記第2の所定値より大きい第3の所定値以上の場合に,上記ノイズ除去手段による無相関ノイズ除去処理を停止し,かつノイズが含まれているそれぞれのカラー画像データの分散値とノイズの分散値との差分にもとづいてそれぞれのカラー画像データのノイズを除去することが好ましい。
上記複数のカラー画像データ群によって表される画像領域の大きさは,たとえば,上記第1の所定値より大きい第2の所定値以上の場合に,上記画像データ分割手段によって分割されたカラー画像データ群のうち,無相関ノイズの除去対象であるカラー画像データが含まれているカラー画像データ群についてシフトするものである。
上記カラー画像データから輝度データを生成する輝度データ生成手段をさらに備えてもよい。この場合,上記カラー画像データ分割手段が,上記輝度データ生成手段によって生成された輝度データのうち,互いに相関性のある複数の輝度データ群に分けるものとなろう。
上記複数のカラー画像データのそれぞれのカラー画像データを空間上において近接した複数のブロックに分けるブロック分割手段,および上記ブロック分割手段によって分割されたそれぞれのブロックを構成する画素のうち中央の画素とのレベル差を算出するレベル差算出手段をさらに備えてもよい。この場合,上記レベル差算出手段によって算出されたレベル差が所定のしきい値未満となる画素の集まりを表す画像データについて上記複数の色空間での原点位置となるようにシフトするものとなろう。
上記レベル差算出手段は,上記中央の画素とのレベル差を算出する対象となる画素を含む近傍の領域の勾配の低い方向を検出する検出手段,および上記対象画素を含み,かつ上記検出手段によって検出された勾配の低い方向に存在する画素の平均レベルを算出する平均レベル算出手段を備えてもよい。この場合,上記平均レベル算出手段によって算出された平均レベルと上記対象画素のレベルとのレベル差を算出するものとなろう。
上記検出手段は,上記対象画素と上記対象画素のまわりにある画素とに対して上下方向,左右方向,左斜め方向および右斜め方向の高周波数成分を抽出するハイ・パス・フィルタ手段を備えてもよい。この場合,上記ハイ・パス・フィルタ手段によって抽出された高周波数成分にもとづいて,勾配の低い方向を検出するものとなろう。
第2の発明によるノイズ低減装置は,一駒のカラー画像を表すカラー画像データを,ブロック内の画素が空間的に近接する複数のブロックに分割する分割手段,上記分割手段によって分割されたブロック内の画像を表すブロック・カラー画像データの分散値と上記ブロック・カラー画像データのノイズの分散値との差分を算出する算出手段,上記算出手段によって算出された差分にもとづいて上記カラー画像データのノイズを除去するノイズ除去手段,および上記算出手段における算出処理および上記ノイズ除去手段におけるノイズ除去処理を一駒のカラー画像を表すカラー画像データについて繰り返す制御手段を備えていることを特徴とする。
第2の発明は,上記ノイズ低減装置に適した制御方法も提供している。すなわち,この方法は,分割手段が,一駒のカラー画像を表すカラー画像データを,ブロック内の画素が空間的に近接する複数のブロックに分割し,算出手段が,上記分割手段によって分割されたブロック内の画像を表すブロック・カラー画像データの分散値と上記ブロック・カラー画像データのノイズの分散値との差分を算出し,ノイズ除去手段が,上記算出手段によって算出された差分にもとづいて上記カラー画像データのノイズを除去し,制御手段が,上記算出手段における算出処理および上記ノイズ除去手段におけるノイズ除去処理を一駒のカラー画像を表すカラー画像データについて繰り返すものである。
第2の発明は,上記ノイズ低減装置の制御方法を実現するためのプログラムも提供している。
第2の発明によると,一駒のカラー画像を表すカラー画像データが,ブロック内の画素が空間的に近接する複数のブロックに分割される。ブロック内の画像を表すブロック・カラー画像データ(ノイズが含まれている)の分散値と上記ブロック・カラー画像データのノイズの分散値との差分が算出される。算出された差分にもとづいてカラー画像データのノイズが除去される。このような差分算出処理およびノイズ除去処理が一駒分について繰り返される。色相関を考慮してノイズ低減をした場合に,偶然に色相関があったときに効率よくノイズを除去できないことがあるが,第2の発明によるとカラー画像データについての色相関は考慮されていないので,色相関の存在によりノイズが除去できないということを未然に防止できる。
第3の発明によるノイズ低減装置は,多数の画素によって構成される一駒の画像を表す画像データを入力し,相関性を有すると見なされる範囲内にある画素を表す画像データを抽出する抽出手段,上記抽出手段によって抽出された画像データの相関性を保持しつつ無相関ノイズを除去するノイズ除去手段,ならびに上記抽出手段による抽出処理および上記ノイズ除去手段によるノイズ除去処理を,上記一駒の画像を表す画像データについて繰り返すように制御する制御手段を備えていることを特徴とする。
第3の発明は,上記ノイズ低減装置に適した制御方法も提供している。すなわち,この方法は,抽出手段が,多数の画素によって構成される一駒の画像を表す画像データを入力し,相関性を有すると見なされる範囲内にある画素を表す画像データを抽出し,ノイズ除去手段が,上記抽出手段によって抽出された画像データの相関性を保持しつつ無相関ノイズを除去し,制御手段が,上記抽出手段による抽出処理および上記ノイズ除去手段によるノイズ除去処理を,上記一駒の画像を表す画像データについて繰り返すように制御するものである。
第3の発明も上記ノイズ低減装置の制御方法を実現するためのプログラムも提供している。
第3の発明によると,相関性を有すると見なされる範囲内にある画像を表す画像データが抽出される。抽出された画像データの相関性を保持しつつ,無相関ノイズが除去される。相関性が保持された状態で無相関ノイズが除去されるから,相関性が保持されている状態の画像データについて画像処理を行う回路を,その後利用することができる。画像データは,白黒の画像データであってもよいし,3板の固体電子撮像素子のそれぞれから得られる単色のカラー画像データのそれぞれであってもよい。
まず,この実施例によるノイズ低減処理の原理等について説明する。
この実施例においては,3枚(必ずしも3枚でなくともよく,複数枚であればよい)のCCDが内蔵された撮像装置が用いられる。
図1から図3は,撮像装置を構成する3枚のCCDの受光面の一部を示している。図1は赤色成分の映像信号を出力する第1のCCDの受光面の一部を示し,図2は緑色成分の映像信号を出力する第2のCCDの受光面の一部を示し,図3は青色成分の映像信号を出力する第3のCCDの受光面の一部を示している。
図1を参照して,第1のCCDの列方向に4096個,行方向に3072個のフォトダイオード2Rが配置されている。この第1のCCDを用いて被写体を撮像することにより,列方向4096画素,行方向3072画素の被写体像を表す画像データが得られる。フォトダイオード2のそれぞれから得られる映像信号が画像の画素一つ一つに対応する。
多数のフォトダイオード2Rのそれぞれのフォトダイオード2Rの受光面上には,赤色成分を透過する特性を有する色フィルタが形成されている。赤色成分を透過するフィルタであることを示すために,フォトダイオード2Rに,「R」の文字が付されている。
この実施例においては,列方向および行方向にそれぞれ5個の計25個のフォトダイオード2Rの範囲(ノイズ低減対象領域AR1)を単位としてノイズ低減処理が行われる。
このような第1のCCDを用いて被写体が撮像されると,第1のCCDからは赤色成分の被写体像を表すCCD-RAWデータが得られる。このCCD-RAWデータは,フォトダイオード2Rの一行分ずつシリアルに現れるものである。
図2および図3を参照して,図2および図3においても第2のCCDおよび第3のCCDのそれぞれの列方向に4096個,行方向に3072個のフォトダイオード2Gおよび2Bが配置されている。これらの第2のCCDおよび第3のCCDを用いて被写体を撮像することにより,列方向4096画素,行方向3072画素の被写体像をそれぞれ表す映像信号が得られる。フォトダイオード2Gおよび2Bのそれぞれから得られる映像信号が画像の画素一つ一つに対応する。
第2のCCDおよび第3のCCDの多数のフォトダイオード2Gおよび2Bのそれぞれのフォトダイオード2Gおよび2Bの受光面上には,緑色成分および青色成分を透過する特性を有する色フィルタが形成されている。緑色成分および青色成分を透過するフィルタであることを示すために,フォトダイオード2Gおよび2Bに,「G」および「B」の文字が付されている。
この実施例においては,列方向および行方向にそれぞれ5個の計25個のフォトダイオード2Gおよび2Bの範囲がノイズ低減対象領域AG1およびAB1として図示されている。
このような第2のCCDおよび第3のCCDを用いて被写体が撮像されると,第2のCCDからは緑色成分の被写体像を表すCCD-RAWデータが得られ,第3のCCDからは青色成分の被写体像を表すCCD-RAWデータが得られる。
ノイズ低減対象領域AR1,AB1,およびAG1のそれぞれにおいて,中央に存在する画素Rc,Bc,およびGcがノイズを低減する対象となる画素である。詳しくは後述するように,ノイズ低減対象領域AR1,AB1,およびAG1に存在する画素(画像データ)を利用して,中央の画素Rc,Bc,およびGcのノイズ低減処理が行われる。それぞれのノイズ低減対象領域AR1,AB1,およびAG1の中央の画素Rc,Bc,およびGcのノイズ低減処理が終了すると,ノイズ低減対象領域AR1,AB1,およびAG1それぞれ右側に1画素分ずらされ,ずらされたノイズ低減対象領域AR1,AB1,およびAG1のそれぞれの中央に存在する画素Rc,Bc,およびG1cのノイズ低減処理が行われる。このようにノイズ低減対象領域のシフトおよびノイズ低減処理が一駒の画像分繰り返される。
図1から図3に示す第1のCCDから第3のCCDは撮像装置を構成する3板のCCDであるから,それぞれのCCDを構成するフォトダイオード2R,2Gおよび2Bは,空間的には同じ位置に存在すると考えられる。それぞれのフォトダイオード2R,2Gおよび2Bから得られる画像データによって表される画素は,被写体像の同じ箇所を表していることとなる。第1のCCDから第3のCCDから得られる3種類の色成分の被写体像を構成する赤色成分の画素(第1のCCDのフォトダイオード2Rから得られる)と緑色成分の被写体像を構成する緑色成分の画素(第2のCCDのフォトダイオード2Gから得られる)と青色成分の被写体像を構成する青色成分の画素(第3のCCDのフォトダイオード2Bから得られる)とをほぼ同一の空間的位置にあると考えてノイズ低減対象領域AR1,AB1およびAG1内の画素をXn=(Rn,Gn,Bn)と表すことができる(ノイズ低減対象領域AR,AB,およびAG1内の画素は25個あるから,n=1〜25となる)。
図4から図6は,3板のCCDの他の例を示しており,いわゆるハニカム配列のものである。図4は,赤色成分の映像信号を出力する第1のCCDの受光面の一部を示し,図5は,緑色成分の映像信号を出力する第2のCCDの受光面の一部を示し,図6は,青色成分の映像信号を出力する第3のCCDの受光面の一部を示している。
図4から図6に示す第1のCCDから第3のCCDにおいては,奇数行には奇数列に,偶数行には偶数列にのみフォトダイオード3R,3Gおよび3Bが配列されているが,奇数行には偶数列に,偶数行には奇数列にフォトダイオードを配列するものでもよい。第1のCCD〜第3のCCDは,たとえば,4096列,3072行からなる。
図4に示す第1のCCDには,フォトダイオード3Rの受光面上に赤色成分の光を透過する特性を有するフィルタ「R」が設けられ,図5に示す第2のCCDには,フォトダイオード3Gの受光面上に緑色成分の光を透過する特性を有するフィルタ「G」が設けられ,図6に示す第3のCCDには,フォトダイオード3Bの受光面上に青色成分の光を透過する特性を有するフィルタ「B」が設けられている。図4に示す第1のCCD,図5に示す第2のCCDおよび図6に示す第3のCCDを用いて被写体が撮像されることにより,赤色成分,緑色成分および青色成分のそれぞれの被写体像を表す映像信号が得られる。
25個のフォトダイオード3R,3Gまたは3Bが含まれるように列方向および行方向にそれぞれ規定された領域AR2,AG2およびAB2がノイズ低減領域として規定されている。これらのノイズ低減領域AR2,AG2およびAB2のほぼ中央にはノイズ低減の対象となる画素Rc,GcおよびBcが位置している。図1から図3に示すものと同様にノイズ低減領域AR2,AG2およびAB2が一画素ずつ列方向および行方向に移動させられながら,一駒分の画像についてノイズ低減処理が行われていく。ノイズ低減対象となる画像Rc,GcおよびBcは領域AR2,AG2およびAB2のほぼ中央に位置するものであればよく完全に中央でなくともよい。もっとも領域AR2,AG2およびAB2の規定の仕方によっては完全に中央の位置に設定することもできよう。
上述したように,図4から図6に示すCCDにおいても第1のCCDから第3のCCDから得られる3種類の色成分の被写体像を構成する赤色成分の画素と緑色成分の被写体像を構成する緑色成分の画素と青色成分の被写体像を構成する青色成分の画素とをほぼ同一の空間的位置にあると考えて,ノイズ低減対象領域AR1,AB1およびAG1内の画素をXn=(Rn,Gn,Bn)と表すことができる。
図4から図6に示す3板のCCDは,完全に同一の空間的位置に存在するように,3板のCCDが位置決めされていなくともよい。たとえば,それぞれのCCDが画素ピッチ(フォトダイオードの間隔)未満だけずれていてもほぼ同一の空間的位置に存在すると見なすことができ,後述するようにこの実施例によるノイズ低減処理を実行できる。
図7は,画素ピッチの半分の距離ずつ図4から図6に示す第1のCCDから第3のCCDの空間的位置がずれている様子を示している。
第1のCCDから第3のCCDを仮想的に重ねた場合に,フォトダイオード3R,3Gおよび3Bが重ならずに画素ピッチの半分の距離だけずれるものである。このようにフォトダイオードの空間的位置が完全に一致しなくともほぼ一致すると考えられるものであれば,後述するノイズ低減処理を実行できる。
図8から図11は,赤色成分,青色成分および緑色成分の色空間と,ノイズ低減対象領域内の画素を表す画像データとの関係を示している。
図8は,無相関ノイズが無い場合の色空間とノイズ低減対象領域A0内の画素を表す画像データとの関係を示している。
ノイズ低減対象領域A0は相関性があるものと見なされる範囲である。このため,ノイズ低減対象領域A0内の画素Xn0=(Rn0,G1n0,Bn0,G2n0)を表す映像信号(画像データ)は,それぞれのレベルが比較的まとまった範囲に収まっている。ノイズ低減対象領域A0内の画素Xn0の平均データがXAV0で示されている。
図9は,無相関ノイズがある場合の色空間とノイズ低減対象領域A1内の画素を表す画像データとの関係を示している。また,比較のために無相関ノイズが無い場合のノイズ低減対象領域A0も図示されている。
無相関ノイズが含まれている場合,ノイズ低減対象領域A1内の画素Xn1=(Rn1,Gn1,Bn1)を表す画像データは,無相関ノイズのために,それぞれの画素を表す画像データのレベルがばらついている。このために,無相関ノイズが有る場合におけるノイズ低減対象領域A1内の画素を表す画像データの範囲は,無相関ノイズが無い場合におけるノイズ低減対象領域A0内の画素を表す画像データの範囲よりも広範囲となっている。また,ノイズ低減対象領域A1内の画素Xn0の平均データがXAV1で示されている。
この実施例によるノイズ低減処理は,無相関ノイズを取り除くものである。
図10は,画像データの座標移動およびノイズ低減のためのフィルタリング時の色空間とノイズ低減対象領域A1内の画素を表す画像データとの関係を示している。
この実施例においては,ノイズ低減処理を行う場合,ノイズ低減対象領域A1内の画素Xn1の平均データXAV1のレベルが,色空間の原点となるように,ノイズ低減対象領域A1内の画素Xn1を表す画像データのすべてが座標移動(レベル・シフト)させられる。平均データXAV1が原点位置にシフトされるように,ノイズ低減対象領域A1内の画素Xn1を表す画像データのすべてが座標移動させられた状態で,ノイズ低減対象領域A1内の画素Xn1を表す画像データに,ノイズ低減処理としてのフィルタリングが実施される。平均データXAV1が原点の位置にある状態でフィルタリングが行われるので,比較的適切なフィルタリングを実施できる。
図11は,画像データの座標逆移動時の色空間とノイズ低減対象領域A1内の画素を表す画像データとの関係を示している。
上述したフィルタリング処理が無相関ノイズを取り除くものである。このフィルタリング処理によりノイズ低減対象領域A1内の一のノイズ低減対象画素を表す画像データの範囲が,無相関ノイズが無い場合におけるノイズ低減対象領域A0内の画素を表す画像データの範囲に収まる(近づく)。ノイズ低減対象領域A1内の残りの画素についても同様の処理が繰返されることにより,ノイズ低減対象領域A1内のすべての画素がノイズ低減対象領域A0内の画素を表わす画像データの範囲に収束する(近づく)。
上述のように,ノイズ低減対象領域A1内の画素Xn1を表す画像データのすべてが座標移動させられた状態で,ノイズ低減対象領域A1内の画素Xn1を表す画像データに,ノイズ低減処理としてのフィルタリングが実施されると,平均データXAV1が座標移動前の位置に戻るように座標逆移動(レベル逆シフト)処理が行われる。このようにして,ノイズ低減処理が終了する。
図12は,この実施例によるディジタル・スチル・カメラにおいて用いられる撮像装置の一例である。
撮像装置30には,3枚のCCD31,32および33が含まれている。これらの3枚のCCD31,32および33は,入射光を3つに分離する分離プリズム34に固定されている。
被写体像を表す光線束Lが撮像装置30に入射すると,その光線束Lは分離プリズム34に導かれる。光線束Lが第1,第2および第3のCCD31,32および33の受光面に入射するように,分離プリズム34によって光線束Lが3方向に分離される。
第1のCCD31は,図1または図4に示したようにフォトダイオードの受光面上に赤色の光成分を透過するフィルタが設けられているものである。赤色成分の被写体像を表すR映像信号が第1のCCD31から出力される。
第2のCCD32は,図2または図5に示したようにフォトダイオードの受光面上に緑色の光成分を透過するフィルタが設けられているものである。緑色成分の被写体像を表すG映像信号が第2のCCD32から出力される。
第3のCCD33は,図3または図6に示したようにフォトダイオードの受光面上に青色の光成分を透過するフィルタが設けられているものである。青色成分の被写体像を表すB映像信号が第3のCCD33から出力される。
図13は,上述したノイズ低減処理が行われるディジタル・スチル・カメラの電気的構成を示すブロック図である。
ディジタル・スチル・カメラの撮像装置30には,図12に示すものが用いられている。被写体を撮像することにより,上述したように撮像装置30からR映像信号,G映像信号およびB映像信号が出力され,アナログ/ディジタル変換回路3に入力する。アナログ/ディジタル変換回路3から,上述した赤色成分,緑色成分および青色成分のCCD-RAWデータが出力する。
記録モード・スイッチ(図示略)により,CCD-RAW記録が設定されている場合には,アナログ/ディジタル変換回路3から出力されたCCD-RAWデータは記録制御回路10に入力する。記録制御回路10によって,CCD-RAWデータがメモリ・カード11に記録される。
記録モード・スイッチにより,圧縮データ記録が設定されている場合には,アナログ/ディジタル変換回路3から出力されたCCD-RAWデータは色バランス調整回路4に入力し,色バランス調整が行われる。色バランスされたCCD-RAWデータがガンマ補正回路5においてガンマ補正されてノイズ低減回路6に入力する。
ノイズ低減回路6において,上述した原理にもとづいてノイズ低減処理が行われる。ノイズ低減回路6におけるノイズ低減処理について詳しくは後述する。
ノイズ低減回路6から出力された画像データは,アパーチャ補正(シャープネス補正)回路(画素の位置関係が変わる空間的な画素処理を行う回路)7に入力し,高周波数成分の強調などの補正が行われる。アパーチャ補正回路7における補正の前にノイズ低減回路6において相関性を保持した状態で無相関ノイズを除去するノイズ低減処理が終了しているので,アパーチャ補正回路7において補正が行われることにより,画像データの相関性が崩れても無相関ノイズは除去されているようになる。
ノイズ低減回路6によるノイズ低減処理は,アパーチャ補正回路7のような空間的な画素処理が行われる以前に行われればよく,色バランス調整回路4の前,ガンマ補正回路5の前などで行われてもよい。また,空間的な画素処理はアパーチャ補正だけでなく,重み付けを利用してリサイズする処理,ロウ・パス・フィルタを用いてノイズをさらに低減する処理なども含まれる。これらの処理が行われた場合であっても,これらの処理以前にノイズ低減処理が行われればよい。
ノイズ低減回路6から出力された画像データは,YC生成回路8に入力する。同時化/YC生成回路8において,輝度データおよび色差データの生成処理が行われる。生成された輝度データおよび色差データが圧縮回路9において圧縮される。圧縮された輝度データおよび色差データが記録制御回路10によってメモリ・カード11に記録される。
また,ガンマ補正回路5から出力したCCD-RAWデータから輝度データを生成し,生成された輝度データを用いてノイズ低減処理をするために輝度データ生成回路12を設けるようにしてもよい。輝度データを利用したノイズ低減処理についても詳しくは,後述する(図20,図21)。
ノイズ低減処理について詳しく説明する前に,ノイズ低減処理に用いられるノイズの量について説明する。
図14は,ノイズ低減処理に用いられるノイズの量と画素値との関係を示している。
この実施例によるノイズ低減処理においては,所定の基準被写体が撮像され,赤色成分,青色成分,および緑色成分のそれぞれの画素レベルごとにノイズの量Dnがあらかじめ解析される。
赤色成分,青色成分および緑色成分のいずれも画素レベルが大きくなるにつれて徐々に,それぞれの色成分ごとのノイズの量DnR,DnBおよびDnGが高くなり,ある値でピークとなる。さらに画素値が大きくなるとノイズの量DnR,DnBおよびDnGは徐々に小さくなる。
このような,ノイズの量DnR,DnBおよびDnGと各色成分ごとの画素レベルとの関係があらかじめ解析されて記憶される。記憶されているノイズの量DnR,DnBおよびDnGが後述するノイズ低減処理に利用される。
上述したノイズの量DnR,DnBおよびDnGをそのまま利用することもできるが,色バランス調整回路4のゲインWBGを利用してもよい。色バランス調整回路4のゲインWBGを利用する場合のノイズの量DnG(γ)は,式1によって表される。
Figure 0005016255
式1において,色バランス調整回路4のゲインWBGをγ乗しているのは,この実施例においては,γ変換されたCCD-RAWデータについてノイズ低減処理を行っているからである。γ変換前のCCD-RAWデータについてノイズ低減処理を行う場合には,γ乗しないゲインWBGを利用するのはいうまでもない。色バランス調整前のCCD-RAWデータについてノイズ低減処理を行う場合には,ノイズ量DnGそのものを用いればよい。
青色成分および赤色成分のノイズの量DnB(γ)およびDnR(γ)については,式1における[WBG]を[WBG(R/G)]および[WBG(B/G)]で置き換えた式2および3で表される。
Figure 0005016255
Figure 0005016255
同様に,色バランス以外の撮像情報を用いてノイズの量を算出できるのはいうまでもない。撮像情報には,たとえば,撮像装置30のような撮像ディバイスの特性,シェーディング特性,ISO感度,γ特性,SR合成比率,ダイナミック・レンジ特性,ストロボがある場合のストロボ発光時の自動感度アップ,シャッタ速度,EV値,LV値,記録画素数,画素モード,再現帯域,絞り値,色差マトリクス,レンズ・ディストーション,ズーム位置,F値,輪郭補正値などがある。
図15は,ノイズ低減処理回路6の電気的構成を示すブロック図である。
ガンマ補正回路5から出力されたCCD-RAWデータがノイズ低減回路6に入力すると,フィルタリング対象抽出回路22に入力する。フィルタリング対象抽出回路22において,色成分ごとのCCD-RAWデータから,列方向および行方向ともに5個ずつの画素をもつノイズ低減対象領域(図1〜図3においてノイズ低減対象領域AR1,AB1およびAG1として表されている)内の画素を表すCCD-RAWデータが抽出される。
フィルタリング対象のCCD-RAWデータは,フィルタ算出回路23に入力する。フィルタ算出回路23において,式4にしたがってフィルタFが算出される。
Figure 0005016255
但し,式4におけるD(s+n)は信号とノイズを含んだ量であり,式5によって表される。また,αはフィルタ制御係数である。
Figure 0005016255
ここで,D(s+n)の対角成分は各色の信号のばらつき量であり非対角成分は,各色間の信号のばらつき量であるである。D(s+n)x(x=R,B,G)は,式6によって表され,非対角成分D(s+n)x1gx2(x1,x2=R,B,G)は,式7によって表される。
また,式1におけるDnはノイズのみの量であり式6によって表される。
Figure 0005016255
このようにして,フィルタFが算出されると,その算出されたフィルタとノイズ低減対象領域内の画素を表すCCD-RAWデータとがフィルタ演算回路24に入力する。フィルタ演算回路24において,式7にもとづくフィルタ演算(ノイズ低減処理)が行われる。
Figure 0005016255
式7において,Rout,Gout,およびBoutは,それぞれフィルタ演算後の赤色成分,緑色成分,および青色成分の画像データを示している。Rc,Gc,およびBcは,それぞれ,色成分分割処理により得られた赤色成分,緑色成分,および青色成分のノイズ低減対象領域AR1,AG1およびAB1の中央に存在するノイズ低減対象画素を表す画像データを示している。avR,avG,およびavBは,赤色成分,緑色成分,および青色成分のノイズ低減対象領域AR1,AG1およびAB1内の画素の画像データの平均値を示すデータである。
式7において,色成分分割処理により得られた赤色成分,緑色成分,および青色成分のノイズ低減対象領域AR1,AG1およびAB1の中央に存在するノイズ低減対象画素Rc,Gc,およびBcから,赤色成分,緑色成分,および青色成分のノイズ低減対象領域AR1,AG1およびAB1内の画素の画像データの平均値を示すデータavR,avG,およびavBが減算されることにより,上述したように(図10参照),ノイズ低減対象領域AR1,AG1およびAB1内の画素の画像データのレベルが赤色成分,緑色成分,および青色成分を座標系にもつ色空間の原点位置にシフトされる。このようにシフトされたノイズ低減対象画素Rc,Gc,およびBcに対して式4で示されるフィルタFを用いてフィルタリング処理が行われることとなる。
式4で示されるフィルタFを用いたフィルタリング処理において,式5で示されるD(s+n)から式6で示されるDnが減算されると,D(s+n)の対角成分が減算されることからCCD-RAWデータの無相関ノイズが除去され,非対角成分が減算されないことからCCD-RAWデータの相関性が保持される。すなわち,CCD-RAWデータの相関性を保持しつつ無相関ノイズが除去されることとなる。
フィルタリング処理後のノイズ低減対象画素Rc,Gc,およびBcから平均値を示すデータavR,avG,およびavBが加算されることにより,上述したように(図11参照),ノイズ低減対象画素Rc,Gc,およびBcが,ノイズ低減された元のレベルに相当するレベルに戻される。
上述したノイズ低減処理において,パラメータが大きすぎてノイズ低減処理後の画像の破綻を未然に防止するために,式2および式5において用いられるパラメータDgxおよびDnxが式8の関係を満たすことが好ましい。但し,x=R,G,Bである。
Figure 0005016255
このようなノイズ低減処理が一駒分の画像データについて繰り返される。もっともカラー画像データのレベル(ノイズ低減対象画素のレベル)があらかじめ定められたレベル以上であれば,ノイズ低減処理を停止してもよい。
フィルタ演算回路24においてフィルタ演算処理が行われた画像データは,配列逆変換処理回路25に入力する。配列逆変換回路25において,CCD1の色フィルタの配列から色成分ごととされた画像データの配列が,元のCCD1の色フィルタの配列に戻される。配列逆変換回路25の出力がノイズ低減回路6の出力となる。
上述のノイズ低減処理においては,共分散行列が利用されているが,次に述べるように共分散行列を利用しないでノイズ低減処理を行うこともできる。
フィルタF1は,上述した式4と同様に式9によって表される。
Figure 0005016255
式9におけるD(s+n)xは,信号とノイズとを含んだ統計量(分散値,標準偏差の二乗)であり,式10によって表される。
Figure 0005016255
また,式9におけるDnxは,ノイズのみの統計量であり,式11によって表される。
Figure 0005016255
フィルタFが算出されると,その算出されたフィルタとノイズ低減対象領域内の画素を表すCCD-RAWデータとがフィルタ演算回路24に入力する。フィルタ演算回路24において,式12にもとづくフィルタ演算(ノイズ低減処理)が行われる。
Figure 0005016255
式12において,Xoutは,フィルタ演算後の赤色成分,緑色成分,および青色成分の画像データをそれぞれ示している。Xinは,赤色成分,緑色成分,および青色成分のノイズ低減対象画素を表す画像データを示している。avR,avGおよびavBは,上述したものと同様に,赤色成分,緑色成分,および青色成分のノイズ低減対象領域AR1,AG1,およびAB1内の画素の画像データの平均値を示すデータである。
式4から式7を利用したノイズ低減処理においては色相関が考慮されているのに対し,式9から式12を利用したノイズ低減処理においては色相関が考慮されていない。色相関が考慮されてノイズ低減処理が行われた場合,偶然に色相関が合ってしまっているような画像部分ではノイズ低減の効果があまり期待できないことがあるが,式9から式12を利用したノイズ低減処理では偶然に色相関が合っているような画像部分においてもノイズ低減が向上する。とくに,平坦な画像部分,単色の画像部分において有効である。また,式が比較的簡単なので,実現するための回路規模を小さくできる。
図16は,コンピュータ装置の電気的構成を示すブロック図である。
上述した実施例は,ディジタル・スチル・カメラにおいて,ノイズ低減処理を行うものであったが,コンピュータ装置を利用してCCD-RAWデータのノイズ低減処理を行うこともできる。
コンピュータ装置には,CPU40が含まれている。このCPU40に,表示装置41,プリンタ42,キーボード43およびメモリ44が接続されている。
また,CPU40には,メモリ・カード・リーダ・ライタ45が接続されている。上述したように,CCD-RAWデータが記録されているメモリ・カード51がメモリ・カード・リーダ・ライタ45に装填されることにより,メモリ・カード51からCCD-RAWデータが読み取られ,上述したノイズ低減処理が行われる。さらに,CPU40には,CD-ROMドライブ46が接続されている。このCD-ROMドライブ46に,上述したノイズ低減処理のプログラムが格納されているCD-ROM52が装填されると,CD-ROM52からノイズ低減処理プログラムが読み取られ,コンピュータ装置にインストールされる。メモリ・カード51から読み取られたCCD-RAWデータに対してノイズ低減処理を実行できるようになる。
さらに,CPU40には,ハードディスク・ドライブ47が接続されている。このハードディスク・ドライブ47によって,ハードディスク48に,ノイズ低減処理後のCCD-RAWデータを記録できる。
図17は,コンピュータ装置におけるノイズ低減処理の処理手順を示すフローチャートである。
上述したように,メモリ・カード51から赤色成分,緑色成分および青色成分のそれぞれの色成分をもつCCD-RAWデータが得られる。このCCD-RAWデータからノイズ低減対象画像データが抽出される(ステップ32)。
フィルタFが算出され(ステップ33),算出されたフィルタFを用いて演算処理が行われることにより無相関ノイズが除去される(ステップ34)。一駒分の画像の最後の画素についてフィルタ演算が行われるまでステップ32から34の処理が繰り返される(ステップ35)。その後,上述した配列逆変換処理が行われる(ステップ36)。このようにして無相関ノイズが除去された後に上述したアパーチャ補正などの空間的な画素処理が行なわれる。
上述した実施例においては,3色の色成分を使用して,ノイズ低減処理におけるフィルタ演算を行っているが2色×2の色成分を使用して,フィルタ演算を行うこともできる。たとえば,同じ緑色成分を使って,赤色成分と緑色成分との組と,青色成分と緑色成分との組とに分ける。赤色成分と緑成分の組については,次のように算出できる。青色成分と緑色成分との組についても同様に算出できるのはいうまでもない。
すると,上述した式5は,式13によって表され,上述した式6は,式14によって表される。
Figure 0005016255
Figure 0005016255
式9および式14を用いると,上述した式7は,式15となる。
Figure 0005016255
ここで,Fの算出時における逆行列が求まらない場合は,ノイズ低減処理を行わないようにすることが好ましい。
たとえば,式13を用いて,式4にもとづくフィルタ演算が行われる場合,D(s+n)−1は式16で表わされる。
Figure 0005016255
但し,式16で示されるD(s+n)は式17と置いた。
Figure 0005016255
式16においてΔ=AD−BCとすると,このΔの値が0に近づくとノイズ低減処理が行われた画像データによって表わされる画像は破綻することがあるので,ノイズ低減処理が抑えられることとなる。
図18から図22は,他の変形例を示すものである。
図18は,CCD-RAWデータによって表される被写体像の一例である。
カメラ・アングルなどによっては,被写体像60の中にエッジ63が生じることがある。このエッジ63の左側の画像領域61内の画像を表す画像データのレベルと右側の画像領域62内の画像を表す画像データのレベルとの間に相関性が無くなることがある。
図19は,赤色成分,青色成分,および緑色成分の色空間におけるノイズ低減対象領域内の画素を表す画像データのレベル分布を示している。
図18に示すように被写体像60にエッジ63が生じ,このエッジ63の両側の領域61および62において画像の相関性が無い場合,エッジ63を含むノイズ低減対象領域AE内の画素の画像データの分布は,上述したようにノイズ低減対象領域内の画素を表す画像データの平均値XAVを中心に一定の範囲内に収まらずに,ノイズ低減対象領域内の画素の被写体像60上における位置に応じてばらけてしまう。このために,上述したように,平均値XAVが色空間における原点にシフトしてフィルタリング処理を行ってもノイズ低減対象領域AE内の画素の相関性を保つことができないことがある。
図20は,ノイズ低減対象領域AYの一例である。
この変形例においては,CCD-RAWデータが輝度データに変換され,変換された輝度データが用いられる。
ノイズ低減対象領域AYには,列方向および行方向ともに5画素ずつの合計25個の画素72が含まれている。中央の画素Ycがノイズ低減処理の対象となる画素である。
このようなノイズ低減対象領域AYが上述したようにエッジ63にかかっている場合には,画素間の相関性を保ちながらノイズ低減処理を行うことができないことがある。このために,この変形例では,図21に示すように,相関性のあるノイズ低減対象領域AY1を新たに検出し,検出された新たなノイズ低減対象領域AY内の画素の平均値を用いて上述したノイズ低減処理を行うものである。画素の相関性を保ちつつノイズ低減処理を行うことができる。
図22は,相関性のあるノイズ低減対象領域を検出する処理手順を示すフローチャートである。
CCD-RAWデータから列方向および行方向にそれぞれ5画素ずつもつノイズ低減対象領域内の輝度データが生成される(ステップ81,図20参照)。ノイズ低減対象領域内の一の画素(判定対象画素)の画像データのレベルと中央の画素Ycの画像データのレベルとの差が所定の領域判定しきい値未満かどうかが確認される(ステップ82)。しきい値未満であれば(ステップ82でYES),その一の画素は中央の画素Ycとの間で相関性を有すると考えられるので,その判定対象画素である一の画素が新たなノイズ低減対象領域に加えられる(ステップ83)。しきい値以上であれば(ステップ82でNO),その一の画素は中央の画素との間で相関性を有しないと考えられるので,新たなノイズ低減対象領域には加えられない。すべての判定対象画素について上述したステップ82および83の処理が繰り返される(ステップ84)。最後の判定対象画素でなければ(ステップ84でNO),一の画素の隣(たとえば,右隣)の画素が新たな判定対象画素と設定される(ステップ85)。
すべての画素について上述したステップ82および83の処理が終了すると(ステップ84でYES),図21で示したように新たなノイズ低減対象領域AY1が決定する。
このようにして決定された新たなノイズ低減対象領域AY1の大きさに応じて,さらに処理のやり方が変わる。
新たなノイズ低減対象領域AY1の大きさが極めて小さいために第1のしきい値よりも小さい場合には(ステップ86でYES),ノイズ低減対象領域内の画素数が少なすぎることとなり,比較的適切なノイズ低減処理を行うことができないことがある。このために,ノイズ低減処理は停止させられる(ステップ87)。
新たなノイズ低減対象領域AY1の大きさが第1のしきい値よりも大きいが(ステップ86でNO),比較的小さいために第2のしきい値(第1のしきい値>第2のしきい値)よりも小さい場合には(ステップ88でYES),ノイズ低減対象領域内の画素数を多くするために,新たなノイズ低減対象領域AY1を用いてノイズ低減処理行うのではなく,所定の大きさのノイズ低減対象領域を用いてノイズ低減処理が行われる(ステップ89)。
新たなノイズ低減対象領域AY1の大きさが第2のしきい値よりも大きい場合には(ステップ88でNO),所定の大きさのノイズ低減対象領域にはエッジ部分などが含まれていると考えられる。そのエッジ部分を除くために,新たなノイズ低減領域AY1を用いてノイズ低減処理が行われる(ステップ90)。
上述した新たなノイズ低減対象領域を決定する処理は一画素ずつ判定しているが,複数画素のブロックごとに決定するようにしてもよい。
図23は,図22に示す処理手順の変形例を示すフローチャートである。
この図において,図22に示す処理と同一の処理については同一符号を付して説明を省略する。
図22に示す処理においては,ノイズ低減対象領域として決定された領域の大きさが第2のしきい値よりも大きければ(ステップ88でNO),決定された新たなノイズ低減領域についてノイズ低減処理が行われているが,図23に示す実施例では,ノイズ低減領域として決定された領域の大きさが,第2のしきい値よりもさらに大きな第3のしきい値よりも小さいかどうか(大きいかどうか)が判定されている(ステップ91)。
決定された新たなノイズ低減領域が第3のしきい値以上の場合には(ステップ91でNO),その領域は,比較的大きく平坦な部分またはなめらかな変化がある部分と考えられる。上述したように式9から式12にもとづくノイズ低減処理(1次式ノイズ低減処理)が行われる(ステップ92)。
決定された新たなノイズ低減領域が第3のしきい値よりも小さい場合には(ステップ91でYES),その領域は高周波数が含まれている部分,エッジに比較的近い部分と考えられる。上述したように式4から式7にもとづくノイズ低減処理(共分散行列ノイズ低減処理)が行われる(ステップ93)。
図24は,ノイズ低減対象領域の一例である。
図24を参照して,ノイズ低減対象領域内の画素が中心画素Ycをが含まれる行および列を除いて行および列ごとの各ブロックに分けられる。すなわち,行方向では,第1行,第2行,第4行(第3行には中心画素Ycが含まれるので除かれる)および第5行のそれぞれの小ブロックP2,P6,P8およびP4に分けられる。また,列方向では,第1列,第2列,第4列(第3列には中心画素Ycが含まれるので除かれる)および第5列のそれぞれの小ブロックP3,P7,P5およびP1に分けられる。
それぞれの小ブロックを構成する画素のうち中央の画素が,その小ブロックの代表画素とされる。第1行,第2行,第4行および第5行のそれぞれの小ブロックP2,P6,P8およびP4の代表画素は,Y2,Y6,Y8およびY4である。また,第1列,第2列,第4列および第5列のそれぞれの小ブロックP3,P7,P5およびP1の代表画素は,Y3,Y7,Y5およびY1である。
それぞれの小ブロックの代表画素のレベルと中央の画素Ycのレベルとの差が上述したように領域判定しきい値未満かどうかが判定される。しきい値未満であれば,その代表画素が含まれる小ブロック全体が新たなノイズ低減対象領域に加えられる。
図25は新たに決定されたノイズ低減対象領域の一例である。
新たに決定されたノイズ低減対象領域AY2は,第1行および第1列の画素は除かれている。これは,代表画素Y2およびY3については,中央の画素Ycのレベル差が所定の領域判定しきい値以上であると判定されたためである。そのほかの行および列の小ブロックの代表画素Y6,Y8,Y4,Y7,Y5およびY1については,中央の画素との間のレベル差が所定の領域判定しきい値未満であるためにそれぞれの小ブロックに含まれる画素がノイズ低減対象領域AY2に含まれている。
このように,小ブロックごとにノイズ低減対象領域の判定を行うことにより,演算処理が簡易となる。
上述の実施例においては,それぞれ小ブロックの代表画素のレベルと中央の画素Ycのレベルとの差が領域判定しきい値未満かどうかが判定されている。しかしながら,代表画素のレベルと中央の画素Ycのレベルとの差ではなく,小ブロックを構成する画素の平均レベルと中央の画素Ycのレベルとの差が領域判定しきい値未満かどうかが判定されるものでもよい。
図26は,小ブロックを構成する5つの画素の一例である。
上述のように,小ブロックには5つの画素Xi,Xj,Xk,Xl,Xmが含まれている。これらの画素Xi,Xj,Xk,Xl,Xmは,横一列に配列されているが,上述のように,縦一列に配列されている小ブロックでもよいのはいうまでもない。
これらの画素Xi,Xj,Xk,Xl,XmのそれぞれのレベルをXi,Xj,Xk,Xl,Xmとした場合,小ブロックを構成する画素Xi,Xj,Xk,Xl,Xmの平均レベルB1は,式18によって表される。但し,a0からa4は重みづけ係数である。
Figure 0005016255
このように,小ブロックの平均レベルと中央の画素Ycのレベルとの差にもとづいてノイズ低減対象領域とするかどうかの判定処理が行われるようにしてもよい。小ブロックを構成する画素の平均レベルを用いているので,画素のノイズ量も平均化される。小ブロックの代表画素のレベルと中央の画素Ycのレベルとの差分を算出した場合に,代表画素のレベルのノイズが突出しており,中央の画素Ycのレベルとの差分が正確に算出されない場合であっても,平均レベルを用いていることにより,比較的正確な差分値を算出できる。比較的正確にノイズ低減対象領域を規定できる。
図27および図28は,変形例を示すものである。
上述の式18においては,重み付け係数a0〜a4については特に言及されていない。次に述べる変形例においては,撮像感度が高くなるほど,式18の平均レベルB1が平均化するように重み付け係数a0〜a4が決定されるものである。
図27は,輝度データのレベルYとその輝度データのノイズの標準偏差σとの関係を示している。
ISO(International Organization for Standardization)100のように低感度の撮像により得られた輝度データY(画像データ)はノイズの量が比較的少なく,ノイズ標準偏差σも小さい。これに対して,ISO1600のように高感度の撮像により得られた輝度データYはノイズの量が比較的多く,ノイズ標準偏差σも大きい。
高感度撮像の場合には,ノイズ量が多くなることから,上述のように,中央の画素Ycのレベルとの差分が算出される画素が小ブロックの代表画素であると,ノイズの影響により正確にノイズ低減領域を決定することができないことがある。これに対して,低感度撮像の場合には,ノイズ量が比較的少ないから,中央の画素Ycのレベルとの差分が算出される画素が小ブロックの代表画素であってもノイズの影響をあまり受けない。このため,重み付け係数は,高感度撮像の場合には中央の画素Ycのレベルとの差分を算出するレベルは小ブロックを構成する画素の平均的なレベルとなり,低感度撮像となるほど小ブロックの代表画素(たとえば,小ブロックの中央の画素)のレベルに近づくように決定される。
図28は,重みづけ係数決定処理手順を示すフローチャートである。
撮影ISO感度が100の場合(ステップ101でYES),200の場合には(ステップ103でYES),いずれもノイズがあまり含まれていないと考えられるので小ブロックの代表画素のレベルと中央の画素Ycのレベルとの差分が算出されるように,小ブロックの代表画素についての重みづけ係数a2のみが1となり,その他の係数a0,a1,a3,a4は0となる(ステップ102,104)。
撮影ISO感度が400の場合には(ステップ105でYES),ノイズが少し増えるようになるので,小ブロックの代表画素(中央の画素)についての重みづけ係数a2が比較的大きくされ(a2=0.5),その代表画素の両隣の重みづけ係数a1,a3が比較的小さくされ(a1,a3=0.25),その他の画素の重みづけ係数a0,a4が0とされる(ステップ106)。
撮影ISO感度が800の場合には(ステップ107でYES),ノイズがさらに増えるようになるので,ISO感度が400の場合よりも平均的な重みづけとなるように,小ブロックの代表画素(中央の画素)についての重みづけ係数a2が0.4に,その代表画素の両隣の重みづけ係数a1,a3が0.2に,その他の画素の重みづけ係数a0,a4が0.1とされる(ステップ108)。
撮影ISO感度が1600の場合には(ステップ109でYES),ノイズが多くなるので,平均レベルと中央の画素Ycレベルとの差分が算出されるように重みづけ係数a0〜a4はすべて等しく0.2とされる(ステップ110)。
低感度撮像の場合でも高感度撮像の場合でも比較的正確にノイズ低減対象領域を決定できるようになる。
図29および図30は,変形例を示すもので,画素配列を示している。
ノイズ低減対象領域を1画素ずつ決定する場合,中央の画素Ycとのレベル差が算出されているが,中央の画素Ycとのレベル差が算出される対象画素に大きなノイズが含まれている場合,そのノイズの影響によりレベル差が大きくなったり,逆に小さくなったりすることがある。このために,正確なレベル差を算出できないことがある。この実施例においては,中央の画素Ycとのレベル差が算出される対象画素の勾配の低い方向(画像の変化の少ない方向,平坦でなめらかな方向)が算出される。
図29は,対象画素を含む回りの画素を示している。
3行3列の画素b0〜b8が示されている。中心の画素b0が,レベル差が算出される対象画素である。この中心画素b0の回りの上下方向,左右方向,左斜め方向および右斜め方向に画素が配置されている。それぞれの方向において式19から式22を用いてハイ・パス・フィルタによって高周波数成分が抽出される。左右方向の高周波数成分が抽出される場合には式19が利用され,上下方向の高周波数成分が抽出される場合には式20が利用され,左斜め方向の高周波数成分が抽出される場合には式21が利用され,右斜め方向の高周波数成分が抽出される場合には式22が利用される。
Figure 0005016255
Figure 0005016255
Figure 0005016255
Figure 0005016255
このようにして抽出された高周波数成分レベルの絶対値が,もっとも小さいときの方向が,その対象画素の勾配の低い方向となる。その方向の3つの画素の加算平均レベルLPFが式23により算出される。
Figure 0005016255
加算平均レベルLPFと,中央の画素Ycのレベルとの差分が算出され,その差分値にもとづいてノイズ低減対象領域が決定される。加算平均レベルと中央の画素Ycのレベルとの差分が算出されるので,対象画素に比較的ノイズが含まれていてもそのノイズは平均化されてノイズにより差分値に影響を与えることが抑えられる。とくに,画素の勾配の低い方向が検出されているので,勾配の高い方向の画素レベルの平均値を利用する場合に比べてエッジなどの存在を無視することができ,よりノイズの影響を抑えることができる(たとえば,3画素平均であれば標準偏差σは1/√3となる)。エッジ判別のためのしきい値を下げることもでき,従来であれば見つけられなかったエッジも見つけることができる。
図30は,対象画素Y1がノイズ低減対象領域に含まれるかどうかを判定する様子を示している。
上述のように,対象画素Y1の上下方向,左右方向,左斜め方向および右斜め方向の画素Y00,Y10,Y11,Y01,Y2,Y02,Y6,Y7(これらの画素が符号Asで示されている)を用いて,上述のように,対象画素Y1の勾配の低い方向が検出される。検出された勾配の低い方向に配列されている3つの画素の加算平均が算出される。算出された加算平均レベルと,中央の画素Ycのレベルとの差分が算出される。算出された差分がしきい値未満であれば,対象画素Y1はノイズ低減対象領域に含まれる。対象画素Y1以外の画素Y2〜Y24についても同様にしてノイズ低減対象領域に含まれるかどうかの判断が行われる。
上述の実施例においては,対象画素Y1の勾配の低い方向に配列されている3つの画素の加算平均が算出され,算出された加算平均レベルと,中央の画素Ycそのもののレベルとの差分が算出されている。そして,算出された差分がしきい値未満であれば,対象画素Y1がノイズ低減対象領域に含まれると判断している。しかしながら,中央の画素Ycについても対象画素Y1と同様に,画素Ycを中心とし,画素Ycと画素Ycの回りの画素Y7〜Y9,Y12,Y13,Y16〜Y16とを用いて勾配の低い方向を検出し,検出された勾配の低い方向に配列されている3つの画素(たとえば,上下方向の勾配が低い場合にはY8,Yc,Y17の3つの画素)の加算平均を算出するようにしてもよい。このようにして算出された画素Ycについての加算平均レベルと,対象画素Y1についての加算平均レベルとの差分を算出し,算出された差分がしきい値未満であれば,対象画素Y1がノイズ低減対象領域に含まれると判断するようにしてもよい。
この発明の実施例は,上述したフィルタ配列に限らず,他のフィルタ配列にも適用できるのはいうまでもない。たとえば図31に示すように,奇数行においては第4n+1列,第4n+2列,第4n+3列および第4n+4列のそれぞれに赤色の光成分,第1の緑色成分,青色成分および第2の緑色成分を透過する特性をもつフィルタが設けられており,偶数行においては第4n+1列,第4n+2列,第4n+3列および第4n+4列のそれぞれに青色の光成分,第2の緑色成分,赤色の光成分および第1の緑色成分を透過する特性をもつフィルタが設けられているようないわゆるハニカム配列のものにも適用できる。また,図32に示すように,奇数行奇数例には赤色の光成分を透過する特性をもつフィルタ,奇数行偶数列には第1の緑色成分を透過する特性をもつフィルタ,偶数行奇数列には第2の緑色成分を透過する特性をもつフィルタ,偶数行偶数列には青色成分を透過する特性をもつフィルタが設けられている,いわゆるベイヤ配列のものにも適用できる。このように,色フィルタの配列に規則性があれば,この実施例を適用できる。
図33は,CCDの受光面の一部を示している。
このCCDは,白黒撮像用のものである。
CCDの受光面上には多数のフォトダイオードP11〜P14が配列されている。これらのフォトダイオードP11〜P14は,奇数列には偶数行に,偶数列には奇数行に設けられているが,奇数列には奇数行に,偶数行には偶数行にフォトダイオードが設けられていてもよいし,すべての行および列にフォトダイオードが設けられていてもよいのはいうまでもない。
この実施例においては,列方向および行方向に近傍の4つのフォトダイオードP11〜P14が一つの組120として扱われる(必ずしも4つでなくともよいのはいうまでもない)。25個の組120が含まれているほぼ正方形の範囲(ノイズ低減対象領域A)を単位としてノイズ低減処理がおこなわれる。また,各組120を構成する4つのフォトダイオードP11〜P14の物理的位置(空間的位置)は異なっているが,この実施例においては,この物理的位置は同じものと見なしている。
このようなCCDを用いて被写体が撮像されると,CCDからは被写体像を表すCCD-RAWデータが出力される。このCCD-RAWデータは,フォトダイオードP11〜P14の配列にしたがって一行分ずつシリアルに出力されるものである。
図34は,画素分割後の画像の様子を示している。
この実施例においては,上述のようにしてCCDから出力されたCCD-RAWデータによって表される画像の画素配列(この画素配列は,図33におけるフォトダイオードP1〜P4の配列に対応している)が,一組120を構成するフォトダイオードP11〜P14のそれぞれのフォトダイオードに蓄積された信号電荷によって表される画像を表すようにCCD-RAWデータのデータ抽出処理(画素分割処理)が行われる。
フォトダイオードP11,P12,P13およびP14のそれぞれに蓄積された信号電荷によって表される画像が,図34の上の図の左上の領域IP1,左下の領域IP2,右下の領域IP3および右上の領域IP4の画像部分である。
これらの画像部分IP1〜IP4のそれぞれにおいて列方向および行方向にそれぞれ5画素の領域がノイズ低減対象領域AP1〜AP4となる。これらのノイズ低減対象領域AP1〜AP4を合わせたものは図33に示すノイズ低減対象領域Aに対応している。
ノイズ低減対象領域AP1〜AP4のそれぞれにおいて,中央に存在する画素AP1c,AP2c,AP3cおよびAP4cがノイズを低減する対象となる画素である。上述したのと同様に,ノイズ低減対象領域AP1〜AP4に存在する画素(画像データ)を利用して,中央の画素AP1c,AP2c,AP3cおよびAP4cのノイズ低減処理が行われる。それぞれのノイズ低減対象領域AP1〜AP4の中央の画素AP1c,AP2c,AP3cおよびAP4cのノイズ低減処理が終了すると,ノイズ低減対象領域AP1〜AP4がそれぞれ右側に1画素分ずらされ,ずらされたノイズ低減対象領域AP1〜AP4のそれぞれの中央に存在する画素AP1c,AP2c,AP3cおよびAP4cのノイズ低減処理が行われる。このようにノイズ低減対象領域のシフトおよびノイズ低減処理が一駒の画像分繰り返される。
上述したように,CCD1上において列方向および行方向に互いに隣接する4つの画素の位置は物理的には異なるが,この実施例においては同一位置にあるものと見なすから,ノイズ低減対象領域AP1〜AP4内の画素をXn=(P11n,P12n,P13n,P14n)と表すことができる(ノイズ低減対象領域AP1〜AP4内の画素は25個あるから,n=1〜25となる)。
このように規定されることにより,図9以降を参照して説明したのと同様にノイズ低減処理を行うことができるのは理解されよう。但し,上述した式5から式7は,式24から式26となる。
Figure 0005016255
Figure 0005016255
Figure 0005016255
上述の実施例においては,白黒のCCDについてのものであったが,3板のCCDのそれぞれのCCDにおいても同様にしてノイズ低減処理を行うことができる。
CCDの受光面上の一部を示している。 CCDの受光面上の一部を示している。 CCDの受光面上の一部を示している。 CCDの受光面上の一部を示している。 CCDの受光面上の一部を示している。 CCDの受光面上の一部を示している。 画素がずれている様子を示している。 色空間と画像データとの関係を示している。 色空間と画像データとの関係を示している。 色空間と画像データとの関係を示している。 色空間と画像データとの関係を示している。 撮像装置の構成を示している。 ディジタル・スチル・カメラの電気的構成を示すブロック図である。 ノイズ量と画素レベルとの関係を示している。 ノイズ低減回路の電気的構成を示すブロック図である。 コンピュータ装置の電気的構成を示すブロック図である。 ノイズ低減処理手順を示すフローチャートである。 被写体像の一例である。 色空間と画像データとの関係を示している。 ノイズ低減対象領域の一例である。 ノイズ低減対象領域の一例である。 領域判別等の処理手順を示すフローチャートである。 領域判別等の処理手順の一部を示すフローチャートである。 ノイズ低減対象領域の一例である。 ノイズ低減対象領域の一例である。 小ブロックを構成する画素の一例である。 撮影感度と輝度との関係を示している。 重みづけ係数決定処理手順を示すフローチャートである。 画素配列の一例である。 画素配列の一例である。 CCDの受光面上の一部を示している。 CCDの受光面上の一部を示している。 CCDの受光面上の一部を示している。 画素分割処理を示している。
符号の説明
2,2R,2G,2B,3R,3G,3B フォトダイオード(画素)
A,A0,A1,AB1,AB2,AG1,AG2,AR1,AR2,AY,AY1 ノイズ低減対象領域
6 ノイズ低減回路
21 配列変換回路
22 フィルタリング対象抽出回路
23 フィルタ算出回路
24 フィルタ演算回路
30 撮像装置
31,32,33 CCD
40 CPU
51 メモリ・カード
52 CD

Claims (24)

  1. 複数の固体電子撮像素子を用いて同一の被写体を撮像することにより得られる,ほぼ同一のカラー被写体像を表し,かつそれぞれが異なる色成分をもつ複数種類のカラー画像データにおけるそれぞれのカラー画像データの相関性を保持しつつ,上記複数種類のカラー画像データに含まれている無相関ノイズを除去するノイズ除去手段,および
    上記ノイズ除去手段によって除去された複数種類のカラー画像データについて空間的な画素処理を行う画素処理手段,
    を備えたノイズ低減装置であって,
    上記ノイズ除去手段が,
    上記複数種類のカラー画像データのレベルの平均値が上記複数の色成分での色空間の原点位置となるように,上記複数種類のカラー画像データのレベルをシフトするカラー画像データ・シフト手段,
    上記カラー画像データ・シフト手段によってシフトされたカラー画像データを,そのレベルに応じて無相関ノイズの除去処理を行うフィルタリング手段,および
    上記フィルタリング手段によって無相関ノイズが除去されたカラー画像データのレベルを,上記シフト分戻すカラー画像データ逆シフト手段,
    を備えたノイズ低減装置。
  2. 上記複数種類のカラー画像データは,それぞれが異なる色成分をもつものである,請求項1に記載のノイズ低減装置。
  3. 上記複数種類のカラー画像データによって表される複数のカラー被写体像をそれぞれ構成する画素の位相特性が同一または画素ピッチ以下のずれをもつものである,請求項1または2に記載のノイズ低減装置。
  4. カラー画像データのレベルに応じて,上記ノイズ除去手段によるノイズ除去処理を抑制するノイズ除去処理抑制手段をさらに備えた請求項1から3のうちいずれか一項に記載のノイズ低減装置。
  5. 上記ノイズ除去手段における無相関ノイズ除去処理が上記固体電子撮像素子の特性および上記固体電子撮像素子を用いて撮影したときに用いられる撮影情報の少なくとも一方にもとづいて行われるものである,
    請求項1から4のうちいずれか一項に記載のノイズ低減装置。
  6. 上記フィルタリング手段におけるノイズ低減処理が,上記複数の色成分の数に対応した演算を利用したディジタル・フィルタリング処理である,
    請求項1から5のうちいずれか一項に記載のノイズ低減装置。
  7. 上記フィルタリング手段におけるノイズ除去処理が,上記複数の色成分の数が元の色成分の数よりも少なくなるように,複数の色成分を取り扱い,複数の色成分の数に対応した演算を用いたディジタル・フィルタ処理である,
    請求項1から6のうちいずれか一項に記載のノイズ低減装置。
  8. 上記ディジタル・フィルタ処理における演算が発散した場合に,ノイズ除去処理を停止するノイズ除去処理停止手段をさらに備えた請求項に記載のノイズ低減装置。
  9. 上記複数種類のカラー画像データ全体のうち,互いに相関性のある複数のカラー画像データ群に分ける画像データ分割手段をさらに備え,
    上記カラー画像データ・シフト手段が,上記画像データ分割手段によって分割された複数のカラー画像データ群のうち,無相関ノイズの除去対象であるカラー画像データが含まれているカラー画像データ群について上記複数の色空間での原点位置となるようにシフトするものである,
    請求項からのうちいずれか一項に記載のノイズ低減装置。
  10. 上記画像データ分割手段が,
    上記複数種類のカラー画像データを複数の小ブロックに分ける小ブロック分割手段をさらに備え,
    上記小ブロック分割手段によって分けられた複数の小ブロックごとに,相関性のある複数のカラー画像データ群に分けるものである,
    請求項に記載のノイズ低減装置。
  11. 上記小ブロックを構成する代表画素にもとづいて,複数の小ブロックごとに相関性のある複数のカラー画像データ群に分けるものである,
    請求項10に記載のノイズ低減装置。
  12. 上記小ブロック分割手段によって分けられた小ブロックの平均画素レベルにもとづいて,複数の小ブロックごとに相関性のある複数のカラー画像データ群に分けるものである,
    請求項10に記載のノイズ低減装置。
  13. 上記小ブロック分割手段によって分けられた小ブロックを構成する各画素に,撮像が高感度なものほど平均的な画素レベルとなり,低感度なものほど上記小ブロックを構成する画素の代表画素レベルとなるような重みづけ係数を用いた重みづけ平均により得られる画素レベルにもとづいて,複数の小ブロックごとに相関性のある複数のカラー画像データ群に分けるものである,
    請求項10に記載のノイズ低減装置。
  14. 上記画像データ分割手段によって分けられた複数のカラー画像データ群によって表される画像領域の大きさが第1の所定値未満の場合に,上記無相関ノイズ除去手段による無相関ノイズ除去処理を停止する無相関ノイズ停止制御手段をさらに備えた請求項に記載のノイズ低減装置。
  15. 上記複数のカラー画像データ群によって表される画像領域の大きさが,上記第1の所定値より大きい第2の所定値以上の場合に,上記画像データ分割手段によって分割されたカラー画像データ群のうち,無相関ノイズの除去対象であるカラー画像データが含まれているカラー画像データ群についてシフトするものである,
    請求項に記載のノイズ低減装置。
  16. 上記複数のカラー画像データ群によって表される画像領域の大きさが,上記第2の所定値より大きい第3の所定値以上の場合に,上記ノイズ除去手段による無相関ノイズ除去処理を停止し,かつノイズが含まれているそれぞれのカラー画像データの分散値とノイズの分散値との差分にもとづいてそれぞれのカラー画像データのノイズを除去するものである,
    請求項に記載のノイズ低減装置。
  17. 上記カラー画像データから輝度データを生成する輝度データ生成手段をさらに備え,
    上記カラー画像データ分割手段が,上記輝度データ生成手段によって生成された輝度データのうち,互いに相関性のある複数の輝度データ群に分けるものである,
    請求項に記載のノイズ低減装置。
  18. 上記複数のカラー画像データのそれぞれのカラー画像データを空間上において近接した複数のブロックに分けるブロック分割手段,および
    上記ブロック分割手段によって分割されたそれぞれのブロックを構成する画素のうち中央の画素とのレベル差を算出するレベル差算出手段をさらに備え,
    上記レベル差算出手段によって算出されたレベル差が所定のしきい値未満となる画素の集まりを表す画像データについて上記複数の色空間での原点位置となるようにシフトするものである,
    請求項からのうち,いずれか一項に記載のノイズ低減装置。
  19. 上記レベル差算出手段が,
    上記中央の画素とのレベル差を算出する対象となる画素を含む近傍の領域の勾配の低い方向を検出する検出手段,および
    上記対象画素を含み,かつ上記検出手段によって検出された勾配の低い方向に存在する画素の平均レベルを算出する平均レベル算出手段を備え,
    上記平均レベル算出手段によって算出された平均レベルと上記対象画素のレベルとのレベル差を算出するものである,
    請求項18に記載のノイズ低減装置。
  20. 上記検出手段は,
    上記対象画素と上記対象画素のまわりにある画素とに対して上下方向,左右方向,左斜め方向および右斜め方向の高周波数成分を抽出するハイ・パス・フィルタ手段を備え,
    上記ハイ・パス・フィルタ手段によって抽出された高周波数成分にもとづいて,勾配の低い方向を検出するものである,
    請求項19に記載のノイズ低減装置。
  21. ノイズ除去手段が,複数の固体電子撮像素子を用いて同一の被写体を撮像することにより得られる,ほぼ同一のカラー被写体像を表し,かつそれぞれが異なる色成分をもつ複数種類のカラー画像データにおけるそれぞれのカラー画像データの相関性を保持しつつ,上記複数種類のカラー画像データに含まれている無相関ノイズを除去し,
    画像処理手段が,無相関ノイズが除去された複数種類のカラー画像データについて空間的な画素処理を行う,
    ノイズ低減装置の制御方法であって,
    上記ノイズ除去手段は,
    カラー画像データ・シフト手段が,上記複数種類のカラー画像データのレベルの平均値が上記複数の色成分での色空間の原点位置となるように,上記複数種類のカラー画像データのレベルをシフトし,
    フィルタ手段が,上記カラー画像データ・シフト手段によってシフトされたカラー画像データを,そのレベルに応じて無相関ノイズの除去処理を行い,
    カラー画像データ逆シフト手段が,上記フィルタリング手段によって無相関ノイズが除去されたカラー画像データのレベルを,上記シフト分戻すものである,
    ノイズ低減装置の制御方法。
  22. 複数の固体電子撮像素子を用いて同一の被写体を撮像することにより得られる,ほぼ同一のカラー被写体像を表し,かつそれぞれが異なる色成分をもつ複数種類のカラー画像データにおけるそれぞれのカラー画像データの相関性を保持しつつ,上記複数種類のカラー画像データに含まれている無相関ノイズを除去させ,
    無相関ノイズが除去された複数種類のカラー画像データについて空間的な画素処理を行わせるようにノイズ低減装置を制御するプログラムであって,
    上記無相関ノイズの除去は,
    上記複数種類のカラー画像データのレベルの平均値が上記複数の色成分での色空間の原点位置となるように,上記複数種類のカラー画像データのレベルをシフトさせ,
    シフトされたカラー画像データを,そのレベルに応じて無相関ノイズの除去処理を行わせ,
    無相関ノイズが除去されたカラー画像データのレベルを,上記シフト分戻すものである,ノイズ低減装置を制御するプログラム。
  23. 請求項1から20のうちいずれか一項に記載のノイズ低減装置を備えた撮像装置。
  24. 請求項1から20のうちいずれか一項に記載のノイズ低減装置を備えたディジタル・カメラ。
JP2006128056A 2006-02-22 2006-05-02 ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ Expired - Fee Related JP5016255B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006128056A JP5016255B2 (ja) 2006-02-22 2006-05-02 ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ
US11/704,344 US7847838B2 (en) 2006-02-22 2007-02-09 Noise reduction apparatus, method and program for controlling same, image sensor and digital camera
US12/916,022 US8395684B2 (en) 2006-02-22 2010-10-29 Noise reduction apparatus, method and program for controlling same, image sensor and digital camera

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006045392 2006-02-22
JP2006045392 2006-02-22
JP2006128056A JP5016255B2 (ja) 2006-02-22 2006-05-02 ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ

Publications (2)

Publication Number Publication Date
JP2007259401A JP2007259401A (ja) 2007-10-04
JP5016255B2 true JP5016255B2 (ja) 2012-09-05

Family

ID=38427765

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006128056A Expired - Fee Related JP5016255B2 (ja) 2006-02-22 2006-05-02 ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ

Country Status (2)

Country Link
US (2) US7847838B2 (ja)
JP (1) JP5016255B2 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003304549A (ja) * 2002-04-11 2003-10-24 Olympus Optical Co Ltd カメラ及び画像信号処理システム
JP5016255B2 (ja) * 2006-02-22 2012-09-05 富士フイルム株式会社 ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ
JP2007267359A (ja) * 2006-03-03 2007-10-11 Ricoh Co Ltd 画像読み取り装置及び画像形成装置
EP2015562A1 (en) * 2007-07-10 2009-01-14 Thomson Licensing S.A. Processing device for correcting defect pixel values of an image sensor unit, image sensor unit with the processing device and method
JP4960309B2 (ja) * 2008-06-17 2012-06-27 株式会社東芝 固体撮像装置
EP2169592B1 (en) * 2008-09-25 2012-05-23 Sony Corporation Method and system for reducing noise in image data
JP5089571B2 (ja) * 2008-12-26 2012-12-05 株式会社Pfu 画像読取装置
JP5457687B2 (ja) * 2009-02-04 2014-04-02 株式会社日立国際電気 カラーカメラおよびノイズ除去方法
JP5169997B2 (ja) * 2009-05-29 2013-03-27 ソニー株式会社 フィルタ回路、画像処理装置、撮像装置、画像処理方法及びプログラム
US8274583B2 (en) * 2009-06-05 2012-09-25 Apple Inc. Radially-based chroma noise reduction for cameras
US8284271B2 (en) * 2009-06-05 2012-10-09 Apple Inc. Chroma noise reduction for cameras
WO2011021235A1 (ja) * 2009-08-18 2011-02-24 富士通株式会社 画像処理方法および画像処理装置
JP5455611B2 (ja) * 2009-12-24 2014-03-26 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
TW201318418A (zh) * 2011-10-26 2013-05-01 Novatek Microelectronics Corp 降低影像雜訊的方法及相關裝置
CN103095999A (zh) * 2011-10-27 2013-05-08 联咏科技股份有限公司 降低影像噪声的方法及相关装置
US8704951B1 (en) 2013-04-05 2014-04-22 Altera Corporation Efficient 2D adaptive noise thresholding for video processing
US8976298B2 (en) 2013-04-05 2015-03-10 Altera Corporation Efficient 2D adaptive noise thresholding for video processing
JP6044445B2 (ja) * 2013-04-30 2016-12-14 株式会社ニコン 固体撮像素子及び撮像装置
KR102149270B1 (ko) * 2013-12-13 2020-08-28 한화테크윈 주식회사 렌즈 조리개 제어를 이용한 노이즈 제거 방법 및 시스템
KR102247564B1 (ko) * 2014-11-13 2021-05-03 삼성전자 주식회사 화소 처리 장치, 이를 포함하는 이미지 신호 처리 장치, 및 이를 포함하는 이미지 처리 시스템
JP7311994B2 (ja) * 2019-03-27 2023-07-20 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
CN110728668B (zh) * 2019-10-09 2022-06-28 中国科学院光电技术研究所 一种小目标形态保持的空域高通滤波器

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4725880A (en) * 1985-06-28 1988-02-16 Rca Corporation Color solid-state imaging apparatus wherein one imager receives an image of a first color and another imager receives an offset image of the first color and a second color
JPH0862407A (ja) * 1994-08-24 1996-03-08 Fuji Photo Optical Co Ltd 色分解プリズム
EP0845900B1 (en) * 1995-08-11 2002-11-06 Kabushiki Kaisha Toshiba Image system, solid-state imaging device semiconductor integrated circuit
KR0160718B1 (ko) * 1995-08-29 1999-01-15 김광호 색신호에 포함된 윤곽을 보정하는 방법 및 이를 칼라 비디오기기에서 구현하기 위한 회로
GB2336055B (en) * 1998-04-01 2002-10-16 Discreet Logic Inc Image processing
JP3636046B2 (ja) * 2000-07-31 2005-04-06 株式会社日立国際電気 固体撮像素子の画素欠陥検出方法およびその方法を用いた撮像装置
JP4599705B2 (ja) * 2000-11-10 2010-12-15 ソニー株式会社 画像処理装置及びその方法、並びにプログラム記録媒体
JP2002222416A (ja) 2001-01-26 2002-08-09 Mitsubishi Electric Corp 画質改善装置
JP2002247593A (ja) * 2001-02-16 2002-08-30 Olympus Optical Co Ltd 画像処理装置
US20020186873A1 (en) * 2001-06-08 2002-12-12 Fuji Photo Film Co., Ltd. Image reproduction system
JP2004235472A (ja) 2003-01-30 2004-08-19 Mitsubishi Electric Corp 半導体装置の製造方法
JP3899118B2 (ja) * 2004-02-19 2007-03-28 オリンパス株式会社 撮像システム、画像処理プログラム
JP4167200B2 (ja) 2004-04-13 2008-10-15 富士フイルム株式会社 信号処理装置、信号処理方法及びデジタルカメラ
JP3926813B2 (ja) * 2004-08-23 2007-06-06 富士フイルム株式会社 ノイズ低減装置および方法ならびにノイズ低減プログラム
JP3965402B2 (ja) * 2004-08-23 2007-08-29 富士フイルム株式会社 ノイズ低減装置および方法ならびにノイズ低減プログラム
JP5016255B2 (ja) * 2006-02-22 2012-09-05 富士フイルム株式会社 ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ
JP4980131B2 (ja) * 2007-05-01 2012-07-18 富士フイルム株式会社 ノイズ低減装置および方法並びにプログラム

Also Published As

Publication number Publication date
US20110038538A1 (en) 2011-02-17
US8395684B2 (en) 2013-03-12
JP2007259401A (ja) 2007-10-04
US20070195178A1 (en) 2007-08-23
US7847838B2 (en) 2010-12-07

Similar Documents

Publication Publication Date Title
JP5016255B2 (ja) ノイズ低減装置ならびにその制御方法およびその制御プログラムならびに撮像装置およびディジタル・カメラ
JP4284628B2 (ja) 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
EP2458873B1 (en) Image processing device for correcting chromatic aberration, method for processing image, program, and storage medium
US8184181B2 (en) Image capturing system and computer readable recording medium for recording image processing program
US7667738B2 (en) Image processing device for detecting chromatic difference of magnification from raw data, image processing program, and electronic camera
JP4501855B2 (ja) 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
US7916937B2 (en) Image processing device having color shift correcting function, image processing program and electronic camera
JP5123756B2 (ja) 撮像システム、画像処理方法および画像処理プログラム
JP3965402B2 (ja) ノイズ低減装置および方法ならびにノイズ低減プログラム
JP2009124552A (ja) ノイズ低減システム、ノイズ低減プログラム及び撮像システム。
JP6046927B2 (ja) 画像処理装置及びその制御方法
JP5041886B2 (ja) 画像処理装置、画像処理プログラム、画像処理方法
US20110085052A1 (en) Image processing apparatus and image processing method
JP2013055623A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
JP4305071B2 (ja) 信号補正方法
US7489822B2 (en) Image processing apparatus and method for detecting a direction of an edge in the vicinity of a pixel of interest and generating all color signals for each pixel by interpolation using color signals of a pixel of interest and its neighbor pixels, and a recording medium having a program recorded thereon for causing the apparatus to perform the method
US20100134661A1 (en) Image processing apparatus, image processing method and program
JP3905708B2 (ja) 画像補間装置
US7564490B2 (en) Noise reduction apparatus, method and program
JP2010074826A (ja) 撮像装置および画像処理プログラム
KR101327790B1 (ko) 영상 보간 방법 및 장치
JP4197821B2 (ja) 画像処理装置
JP2013055622A (ja) 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム
JP4478981B2 (ja) 色雑音低減手法およびカラー撮像装置
JP4334152B2 (ja) 画像補間装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120529

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120608

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150615

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5016255

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees