JP2014090359A - 画像処理装置、および画像処理方法、並びにプログラム - Google Patents

画像処理装置、および画像処理方法、並びにプログラム Download PDF

Info

Publication number
JP2014090359A
JP2014090359A JP2012240079A JP2012240079A JP2014090359A JP 2014090359 A JP2014090359 A JP 2014090359A JP 2012240079 A JP2012240079 A JP 2012240079A JP 2012240079 A JP2012240079 A JP 2012240079A JP 2014090359 A JP2014090359 A JP 2014090359A
Authority
JP
Japan
Prior art keywords
local region
processing
image
interest
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012240079A
Other languages
English (en)
Inventor
Hiroaki Ono
博明 小野
Teppei Kurita
哲平 栗田
Tomoo Mitsunaga
知生 光永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012240079A priority Critical patent/JP2014090359A/ja
Priority to US14/030,307 priority patent/US20140118580A1/en
Priority to CN201310505255.9A priority patent/CN103795990A/zh
Publication of JP2014090359A publication Critical patent/JP2014090359A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Abstract

【課題】RAW画像に対するノイズ低減処理を実行する装置、方法を提供する。
【解決手段】RAW画像から注目局所領域と、注目局所領域と同一位相を持つ類似局所領域を選択し、これらの局所領域各々を高域信号と低域信号の帯域別信号に分離し、帯域別信号に含まれるノイズの低減処理を実行する。ノイズ低減処理においては、例えば高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、3次元データを適用して2次元ウェーブレット変換、1次元ウェーブレット変換、シュリンケージ処理、1次元および2次元のウェーブレット逆変換を実行して、注目領域のノイズ低減高域信号画像を生成する。
【選択図】図4

Description

本開示は、画像処理装置、および画像処理方法、並びにプログラムに関する。さらに詳細には、カメラの撮像素子出力であるRAW画像、すなわち各画素に特定色の画素値のみが設定されたRAW画像を処理対象としたノイズ低減処理を実行する画像処理装置、および画像処理方法、並びにプログラムに関する。
デジタルカメラ等の撮像装置に利用される撮像素子には、例えばRGB配列からなるカラーフィルタが装着され、各画素に特定の波長光を入射する構成となっている。
具体的には、例えばベイヤ(Bayer)配列を持つカラーフィルタが多く利用されている。
ベイヤ配列の撮像画像は、撮像素子の各画素にRGBいずれかの色に対応する画素値のみが設定されたいわゆるモザイク画像となる。カメラの画像処理部は、このモザイク画像に対して画素値補間などの様々な信号処理を施して各画素にRGBの全画素値を設定するデモザイク処理を行い、カラー画像を生成して出力する。
一般的に、撮影画像の画素値には所定量のノイズ成分が含まれる。したがって、多くのカメラは撮影画像に対するノイズ低減処理を実行して画素値に含まれるノイズ成分を除去して出力画像を生成する構成を持つ。
撮像装置(カメラ)においてノイズ低減処理を実行する場合の処理タイミングとしては、以下の2つのいずれかタイミングが考えられる。
1つは、上述のデモザイク処理後の画像、すなわち、各画素にRGBの全画素値を設定したRGB画像を生成した後に、RGB画像に対して実行する処理である。
もう1つは、デモザイク処理前の各画素にRGBいずれかの色に対応する画素値のみが設定されたいわゆるモザイク画像に対する処理である。
各画素に対してRGB全画素値を設定したRGB画像に対するノイズ低減処理を開示した文献として、特許文献1(特開2004−127064号公報)がある。
特許文献1は、RGB画像から輝度信号と色差信号に分離した後、各信号に対して、ウェーブレット(Wavelet)変換と、コアリング処理を実行して、ノイズ低減を行う手法を開示している。
なお、ウェーブレット変換は、画像に含まれる様々な周波数成分を分離して、画像を所定の周波数成分単位の信号に分離する処理である。また、コアリングは、例えば所定のしきい値未満のデータを破棄あるいは低減して出力する処理である。このコアリングによって低減される成分がノイズ成分であると解釈される。
特許文献1では、このように、ウェーブレット(Wavelet)変換と、コアリング処理を実行して、ノイズ低減処理を行う手法を開示している。
しかし、この特許文献1に記載の手法は、デモザイク処理後の画像、すなわち各画素にRGB全ての色の画素値を設定したRGB画像から輝度画像と色差画像を生成して、これらの各画像を適用して実行する構成である。
特許文献1は、デモザイク前の画像、すなわち各画素にRGBいずれか一色の画素値のみの設定されたRAW画像を用いたノイズ低減処理については開示していない。従って、特許文献1に記載の処理を、撮像素子(イメージセンサ)の出力するRAW画像に対して直接適用することはできない。
各画素位置に1色の情報しかない撮像素子(イメージセンサ)の出力するRAW画像に対してノイズ低減を実行する処理手法を開示した従来技術として、特許文献2(特開2005−159916号公報)や、特許文献3(特開2008−211627号公報)がある。
特許文献2は、各画素位置に1色の情報しかない撮像素子(イメージセンサ)の出力するRAW画像に対して、直接、ウェーブレット(Wavelet)変換を実行し、その後、ローパスフィルタ(LPF)を適用してノイズ低減を行う手法を開示している。
特許文献3は、撮像素子から出力するベイヤ(Bayer)配列に従ったRAW画像をRGB各色別に分離し、R信号、G信号、B信号の各信号単位で、ウェーブレットシュリンケージ(WaveletShrinkage)を行い、その後に輝度信号と色差信号を生成してノイズ低減を行う手法を開示している。
なお、ウェーブレットシュリンケージ(WaveletShrinkage)とは、
(a)ウェーブレット変換(WT:Wavelet Transfer)と、
(b)コアリング処理と、
(c)ウェーブレット逆変換(WT逆変換)、
これらの各処理を順次、実行する処理に相当する。
しかし、これらの特許文献2、3のノイズ低減は、2次元のウェーブレットシュリンケージ(WaveletShrinkage)の性能によってノイズ低減効果に限界が設定されてしまうという問題がある。さらに、特許文献3に記載の処理は、RGB各色別に分けてノイズ低減処理を実行するものであり、RGB色間の相関を考慮しないノイズ低減が行なわれるため、ノイズ低減効果が低下するという問題がある。
特開2004−127064号公報 特開2005−159916号公報 特開2008−211627号公報
本開示は、例えば上記問題点に鑑みてなされたものであり、カメラの撮像素子から出力されるRAW画像、すなわち、各画素位置に1色の情報しかないRAW画像を処理対象としたノイズ低減を行う画像処理装置、および画像処理方法、並びにプログラムを提供することを目的とする。
また、本開示の一実施例の処理では、局所領域の周辺から類似局所領域を探索し、それら局所領域の3次元データに対して帯域分離およびそれぞれの帯域に対するノイズ低減処理を行う。さらに、ノイズ低減処理を行った局所領域を合成して画像全体のノイズ低減を行うことでより高精度のノイズ低減を実現することができる。
本開示の第1の側面は、
各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
前記画像処理部は、
前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択部と、
前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択部と、
前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離部と、
前記帯域分離部の生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減部と、
前記帯域別ノイズ低減部の生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成部と、
前記帯域合成部の生成するノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成部を有する画像処理装置にある。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)xy平面データである各局所領域の高域信号に対する2次元ウェーブレット変換処理による局所領域対応の複数の2次元ウェーブレット変換データの生成、
(b)前記局所領域対応の複数の2次元ウェーブレット変換データから生成したz軸方向の一次元画素列の各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(c)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(d)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
(e)前記1次元ウェーブレット逆変換処理後のデータによって構成される注目局所領域対応のxy平面信号に対する2次元ウェーブレット逆変換処理、
上記(a)〜(e)の処理を順次実行して前記注目局所領域の高域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)xy平面データである各局所領域の高域信号に対する2次元ウェーブレット変換処理による局所領域対応の複数の2次元ウェーブレット変換データの生成、
(b)前記局所領域対応の複数の2次元ウェーブレット変換データから生成したz軸方向の一次元画素列の各々に対するεフィルタ(イプシロンフィルタ)適用処理、
(c)前記εフィルタ(イプシロンフィルタ)適用処理後のデータに対する2次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の高域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、生成した3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の高域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、生成した3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記帯域分離部は、前記注目局所領域および前記類似局所領域各々の局所領域の色単位の平均値を各局所領域の各色対応低域信号として設定し、前記注目局所領域および前記類似局所領域各々の局所領域の各画素対応の高域信号を、
高域信号=(各画素の画素値)−(各画素対応色平均値)
上記式に従って算出する。
さらに、本開示の画像処理装置の一実施態様において、前記画像処理部は、さらに、前記RAW画像に基づいて、前記RAW画像の各画素位置に基準色画素値を設定した基準色画像を生成する基準色算出部を有し、前記類似局所領域選択部は、前記基準色画像を適用して前記注目局所領域との類似度を判定し、前記注目局所領域との類似度の高い類似局所領域を選択する。
さらに、本開示の画像処理装置の一実施態様において、前記基準色画素値は輝度値である。
さらに、本開示の画像処理装置の一実施態様において、前記RAW画像は、ベイヤ配列を有するRAW画像である。
さらに、本開示の画像処理装置の一実施態様において、前記RAW画像は、ベイヤ配列を有するRAW画像であり、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の帯域別信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、xy平面データである各局所領域の帯域別信号に対する2次元ウェーブレット変換処理を実行して、輝度信号とその他の信号との分離データを生成し、生成した分離データの各々を適用したノイズ低減を実行する。
さらに、本開示の画像処理装置の一実施態様において、前記局所領域選択部は、前記注目局所領域を、重複画素領域を持つ設定として順次選択し、前記局所領域合成部は、重複画素領域を持つノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によるノイズ低減RAW画像を生成する際に、複数のノイズ低減注目局所領域画像に含まれる重複画素領域の画素値の平均化処理を実行してノイズ低減RAW画像の画素値設定を実行する。
さらに、本開示の第2の側面は、
画像処理装置において実行する画像処理方法であり、
前記画像処理装置は、各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
前記画像処理部が、
前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択処理と、
前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択処理と、
前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離処理と、
前記帯域分離処理によって生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減処理と、
前記帯域別ノイズ低減処理によって生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成処理と、
前記帯域合成処理によって生成したノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成処理を実行する画像処理方法にある。
さらに、本開示の第3の側面は、
画像処理装置において画像処理を実行させるプログラムであり、
前記画像処理装置は、各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
前記プログラムは、前記画像処理部に、
前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択処理と、
前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択処理と、
前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離処理と、
前記帯域分離処理によって生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減処理と、
前記帯域別ノイズ低減処理によって生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成処理と、
前記帯域合成処理によって生成したノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成処理を実行させるプログラムにある。
なお、本開示のプログラムは、例えば、様々なプログラム・コードを実行可能な情報処理装置やコンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、情報処理装置やコンピュータ・システム上でプログラムに応じた処理が実現される。
本開示のさらに他の目的、特徴や利点は、後述する本開示の実施例や添付する図面に基づくより詳細な説明によって明らかになるであろう。なお、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
本開示の一実施例の構成によれば、RAW画像に対するノイズ低減処理を実行する装置、方法が実現される。
具体的には、RAW画像から注目局所領域と、注目局所領域と同一位相を持つ類似局所領域を選択し、これらの局所領域各々を高域信号と低域信号の帯域別信号に分離し、帯域別信号に含まれるノイズの低減処理を実行する。ノイズ低減処理においては、例えば高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、3次元データを適用して2次元ウェーブレット変換、1次元ウェーブレット変換、シュリンケージ処理、1次元および2次元のウェーブレット逆変換を実行して、注目領域のノイズ低減高域信号画像を生成する。
低域信号についても、やはり注目局所領域と類似局所領域データからなる3次元データを適用して、εフィルタを適用した処理、あるいは1次元ウェーブレット変換処理等により、ノイズ低減を実行する。
ノイズ低減された高域信号と低域信号の帯域合成を行ない、注目局所領域対応理ノイズ低減画像を生成し、さらに、各注目局所領域のノイズ低減画像を合成することで、ノイズ低減したRAW画像を生成する。
本開示の処理によれば、RAW画像に対する高精度なノイズ低減処理が実現される。
本開示の画像処理装置の一実施例としての撮像素子の構成例について説明する図である。 撮像素子の構成について説明する図である。 本開示の画像処理装置の画像処理部の構成例と処理について説明する図である。 画像処理部のRAWノイズ低減部の構成例と処理例について説明する図である。 本開示の画像処理装置の実行する類似局所領域の探索処理について説明する図である。 本開示の画像処理装置の実行する帯域分離処理について説明する図である。 本開示の画像処理装置の実行するノイズ低減処理に適用するデータ構成例について説明する図である。 本開示の画像処理装置の実行するノイズ低減処理のシーケンスについて説明するフローチャートを示す図である。 本開示の画像処理装置の実行する2次元ウェーブレット変換処理について説明する図である。 本開示の画像処理装置の実行する2次元ウェーブレット変換処理について説明する図である。 本開示の画像処理装置の実行する1次元ウェーブレット変換処理について説明する図である。 本開示の画像処理装置の実行する1次元ウェーブレット変換処理について説明する図である。 本開示の画像処理装置の実行するシュリンケージ処理について説明する図である。 撮像素子のノイズ特性について説明する図である。 本開示の画像処理装置の実行する2次元ウェーブレット変換処理の特性ついて説明する図である。 本開示の画像処理装置の実行する2次元ウェーブレット変換処理の特性ついて説明する図である。 本開示の画像処理装置の実行するノイズ低減処理のシーケンスについて説明するフローチャートを示す図である。 本開示の画像処理装置の実行するノイズ低減処理のシーケンスについて説明するフローチャートを示す図である。 本開示の画像処理装置の実行するノイズ低減処理のシーケンスについて説明するフローチャートを示す図である。 本開示の画像処理装置の実行するノイズ低減処理のシーケンスについて説明するフローチャートを示す図である。 本開示の画像処理装置の実行する局所領域合成処理の具体例について説明する図である。 本開示の画像処理装置の実行するノイズ低減処理の全体シーケンスについて説明するフローチャートを示す図である。 画像処理部のRAWノイズ低減部の構成例と処理例について説明する図である。 画像処理部のRAWノイズ低減部の基準色算出部の実行する処理について説明する図である。 画像処理部のRAWノイズ低減部の基準色算出部の実行する処理について説明する図である。 本開示の画像処理装置の実行するノイズ低減処理の全体シーケンスについて説明するフローチャートを示す図である。
以下、図面を参照しながら本開示の画像処理装置、および画像処理方法、並びにプログラムの詳細について説明する。なお、説明は以下の項目に従って行う。
1.画像処理装置の構成例と動作例について
1−1.画像処理装置の構成について
1−2.画像処理装置の動作について
2.本開示の画像処理装置の実行するノイズ低減処理の第1実施例について
2−1.画像処理部の全体構成例について
2−2.RAWノイズ低減部の構成と処理について
2−3.局所領域選択部の処理について
2−4.類似局所領域選択部の処理について
2−5.帯域分離部の処理について
2−6.高域ノイズ低減部の処理について
2−6−1.(処理例1)3元ウェーブレットシュリンケージによるノイズ低減処理
2−6−2.(処理例2)2次元ウェーブレット変換+εフィルタ(イプシロンフィルタ)によるノイズ低減処理
2−6−3.(処理例3)Z方向のεフィルタ(イプシロンフィルタ)によるノイズ低減処理
2−7.低域ノイズ低減部の処理について
2−7−1.(処理例1)1次元ウェーブレット変換シュリンケージによるノイズ低減処理
2−7−2.(処理例2)各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対してεフィルタ(イプシロンフィルタ)を適用するノイズ低減処理
2−8.帯域合成部の処理について
2−9.局所領域合成部の処理について
3.ノイズ低減処理の全体シーケンスについて
4.本開示の画像処理装置の実行するノイズ低減処理の第2実施例について
5.第2実施例のノイズ低減処理シーケンスについて
6.本開示の構成のまとめ
[1.画像処理装置の構成例と動作例について]
まず、本開示の画像処理装置の構成例と動作例について説明する。
[1−1.画像処理装置の構成について]
図1は、本開示の画像処理装置の一実施例である撮像装置10の構成例を示す図である。撮像装置10は、大別して光学系、信号処理系、記録系、表示系、および制御系から構成される。
光学系は、被写体の光画像を集光するレンズ11、レンズ11からの光画像の光量を調整する絞り12、および集光された光画像を光電変換して電気信号に変換する撮像素子(イメージセンサ)13から構成される。
撮像素子13は、例えばCCD(Charge Coupled Devices)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどからなる。
撮像素子13は、例えば図2に示すようにRGB各画素によって構成されたベイヤ(Bayer)配列を持つ色フィルタ(カラーフィルタ)を有する撮像素子である。
各画素には、色フィルタの配列に応じたRGBいずれかの色に対応する画素値が設定されることになる。
なお、図2に示す配列は撮像素子13の画素配列の一例であり、撮像素子13は、この他の様々な設定の配列とすることが可能である。
図1に戻り、撮像装置10の構成についての説明を続ける。
信号処理系は、サンプリング回路14、A/D(Analog/Digital)変換部15、および画像処理部(DSP)16から構成される。
サンプリング回路14は、例えば、相関2重サンプリング回路(CDS:Correlated Double Sampling)によって実現され、撮像素子13からの電気信号をサンプリングしてアナログ信号を生成する。これにより、撮像素子13において発生するノイズが軽減される。サンプリング回路14において得られるアナログ信号は、撮像された被写体の画像を表示させる画像信号である。
A/D変換部15は、サンプリング回路14から供給されるアナログ信号をデジタル信号に変換して、画像処理部16に供給する。
画像処理部16は、A/D変換部15から入力されるデジタル信号に所定の画像処理を施す。
具体的には、先に図2を参照して説明した各画素単位でRGBのいずれかの一色の画素値データからなる画像データ(RAW画像)を入力し、入力したRAW画像に含まれるノイズを低減するノイズ低減処理などを実行する。
このノイズ低減処理については、後段で詳細に説明する。
なお、画像処理部16は、ノイズ低減処理の他、RAW画像の各画素位置にRGBの全色に対応する画素値を設定するデモザイク処理や、ホワイトバランス(WB)調整、ガンマ補正等、一般的なカメラにおける信号処理も実行する。
記録系は、画像信号を符号化または復号する符号化/復号部17と、画像信号を記録するメモリ18とから構成される。
符号化/復号部17は、画像処理部16によって処理されたデジタル信号である画像信号を符号化してメモリ18に記録する。また、メモリ18から画像信号を読み出して復号し、画像処理部16に供給する。
表示系は、D/A(Digital/Analog)変換部19、ビデオエンコーダ20、および表示部21から構成される。
D/A変換部19は、画像処理部16によって処理された画像信号をアナログ化してビデオエンコーダ20に供給し、ビデオエンコーダ20は、D/A変換部19からの画像信号を表示部21に適合する形式のビデオ信号にエンコードする。
表示部21は、例えば、LCD(Liquid Crystal Display)等により実現され、ビデオエンコーダ20におけるエンコードで得られたビデオ信号に基づいて、ビデオ信号に対応する画像を表示する。また、表示部21は、被写体の撮像時にはファインダとしても機能する。
制御系は、タイミング生成部22、操作入力部23、ドライバ24、および制御部(CPU)25から構成される。また、画像処理部16、符号化/復号部17、メモリ18、タイミング生成部22、操作入力部23、および制御部25は、バス26を介して相互に接続されている。
タイミング生成部22は、撮像素子13、サンプリング回路14、A/D変換部15、および画像処理部16の動作のタイミングを制御する。操作入力部23は、ボタンやスイッチなどからなり、ユーザによるシャッタ操作やその他のコマンド入力を受け付けて、ユーザの操作に応じた信号を制御部25に供給する。
ドライバ24には所定の周辺機器が接続され、ドライバ24は接続された周辺機器を駆動する。例えばドライバ24は、周辺機器として接続された磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等の記録媒体からデータを読み出して制御部25に供給する。
制御部25は、撮像装置10の全体を制御する。例えば、制御部25は、プログラム実行機能を有するCPU等からなり、メモリ18、あるいは、ドライバ24を介して、ドライバ24に接続されている記録媒体から制御用プログラムを読み出して、制御用プログラムや操作入力部23からのコマンド等に基づいて、撮像装置10全体の動作を制御する。
[1−2.画像処理装置の動作について]
次に、図1に示す撮像装置10の動作について説明する。
撮像装置10は、被写体からの入射光、すなわち被写体の光画像をレンズ11および絞り12を介して撮像素子13に入射し、撮像素子13によって光電変換して電気信号を生成する。
撮像素子13で得られた電気信号は、サンプリング回路14によってノイズ成分が除去され、A/D変換部15によってデジタル化された後、画像処理部16が内蔵する図示せぬフレームバッファ等の画像メモリに一時的に格納される。
なお、通常の状態、つまりシャッタ操作がされる前の状態では、タイミング生成部22による信号処理系に対するタイミングの制御により、画像処理部16の画像メモリ(フレームバッファ)には、一定のフレームレートで、絶えずA/D変換部15からの画像信号が上書きされる。画像処理部16の画像メモリ内の画像信号は、D/A変換部19によってデジタル信号からアナログ信号に変換され、ビデオエンコーダ20によってビデオ信号に変換されて、ビデオ信号に対応する画像が表示部21に表示される。
表示部21は、撮像装置10のファインダとしての機能も担っており、ユーザは、表示部21に表示される画像を見ながら構図を定め、操作入力部23としてのシャッタボタンを押下して、画像の撮像を指示する。
シャッタボタンが押下されると、制御部25は、操作入力部23からの信号に基づいて、タイミング生成部22に対し、シャッタボタンが押下された直後の画像信号が保持されるように指示する。これにより、画像処理部16の画像メモリに画像信号が上書きされないように、信号処理系が制御される。
その後、画像処理部16は、画像メモリに保持されている画像信号に対する信号処理、例えばノイズ低減処理、デモザイク処理、ホワイトバランス調整処理等の各種の信号処理を実行し、処理後の画像データを符号化/復号部17に出力する。
符号化/復号部17は、画像処理部16から入力した画像データを符号化してメモリ18に記録する。以上のような撮像装置10の動作によって、1枚の画像信号の取込みが完了する。
[2.本開示の画像処理装置の実行するノイズ低減処理の第1実施例について]
次に、本開示の撮像装置の画像処理部16の実行するノイズ低減処理の第1の実施例について説明する。
[2−1.画像処理部の全体構成例について]
図3は、図1の撮像装置10の画像処理部16の構成例を示す図である。
RAWノイズ低減部31は、例えば図2を参照して説明した配列からなる色フィルタ配列の撮像素子(イメージセンサ)13で撮像された画像(RAW画像)を入力し、色配列(画素位置毎の色)はそのままにノイズ低減処理を行い、ノイズ低減RAW画像を生成して出力する。
このRAWノイズ低減部31で実行するノイズ低減処理は、撮像素子(イメージセンサ)13からの出力に対する処理として実行可能であるため、予め取得可能な撮像素子(イメージセンサ)13のノイズ特性を利用した処理として行うことができる。
なお、デモザイク処理や、その他の信号処理後にノイズ低減を行なう場合、信号処理後の画像のノイズ特性が推定困難であるため、特性に応じた効果的なノイズ低減を行なうことが難しいという問題がある。
カメラ信号処理部32は、RAWノイズ低減部31からノイズ低減された色配列画像を入力し、各画素に全色を信号処理によって復元するデモザイク処理や、その他の一般的なカメラ信号処理を実行し、出力画像を生成して出力する。
[2−2.RAWノイズ低減部の構成と処理について]
図4は、図3に示す画像処理部16のRAWノイズ低減部31の詳細構成と処理を説明する図である。
画像処理部16のRAWノイズ低減部31には、図1に示す撮像装置10のA/D変換部15から、RAW画像51が入力される。
RAW画像51は、各画素にRGBいずれかの画素値のみが設定された画像である。ここでは、図2に示すベイヤ(Bayer)配列に従った画素配列を持つRAW画像51を入力したものとして説明する。
[2−3.局所領域選択部の処理について]
RAW画像51は、RAWノイズ低減部31の局所領域選択部101に入力される。
局所領域選択部101は、特定の色フィルタ配列、例えば図2に示す色配列を撮像素子(イメージセンサ)13で撮像された画像を入力し、ある局所領域、例えばn×n画素の矩形領域をノイズ低減処理の処理対象とする注目領域(図4に示す注目局所領域Pr112)として順次、選択する。ただし、nは2以上の整数である。
局所領域選択部101が処理対象として選択した注目局所領域情報は、RAW画像51とともに、類似局所領域選択部102に入力される。
[2−4.類似局所領域選択部の処理について]
類似局所領域選択部102は、局所領域選択部101が選択したノイズ低減処理対象である注目局所領域Pr112と類似性の高い局所領域、すなわち類似領域(類似局所領域)を周辺領域から探索する。
類似局所領域選択部102の選択する類似局所領域は、局所領域選択部101が選択したノイズ低減処理対象である注目局所領域Pr112の位相と同一位相の画素領域、すなわち色配列が同一の色配列を持つ画素領域であり、かつ類似性の高い複数の局所領域を周辺の領域から探索し選択する。
なお、類似局所領域選択部102は、複数の類似局所領域を、注目局所領域Pr112に対する類似性の高い順に、予め設定した数、選択する。
図5は、類似局所領域選択部102の実行する類似局所利用域の探索イメージを示す図である。
類似局所領域選択部102は、図5(1)に示すように、例えば、局所領域選択部101がノイズ低減処理対象領域として選択した注目局所領域Pr210を中心として設定した探索領域202から、注目局所領域Pr210と位相が同一で類似性の高い局所領域Pi(i=1,2,3・・・)を類似度の高い順から、予め規定した数、探索して抽出する。
図5(1)の例では、3つの類似局所領域P1−211a,P2−211b,P3−211cを抽出した例を示している。
図5(2)は、色配列がベイヤ配列の場合の探索例を説明する図である。例えば、図5(2)に示す中心のG画素を中心とした図の太線の点線で示す3×3画素を局所領域選択部101で選択された注目局所領域とする。
この局所領域の位相、すなわち、色配列は、
GRG
BGB
GRG
上記位相である。
探索領域は、注目局所領域周辺に設定される。この探索領域を例えば、図5(2)に示す11×11画素領域とする。この探索領域で探索するのは、注目局所領域と同一位相の局所領域である。すなわち、
GRG
BGB
GRG
上記位相を持つ局所領域が抽出対象となる。
従って、探索範囲内のうち実際の探索対象は、太線実線で示すG画素を中心とした24個の3×3の画素領域となる。
これらの24個の類似局所領域候補から、注目局所領域との類似性の高い局所領域を予め設定した数、選択する。
局所領域の類似性については、例えば、各局所領域間の画素値に基づく差分絶対値和(SAD:Sum of Absolute Differences)、あるいは差分2乗和(SSD:Sum of Squares Differences)を利用する。注目局所領域とのSADあるいはSSDの値が小さい局所領域を順次、選択する。
なお、2つの局所領域間の差分絶対値和(RSAD)は、以下の(式1)に従って算出する。
SAD=ΣΣ|Pr(x,y)−Pi(x,y)| ・・・・(式1)
なお、上記(式1)において、
Pr(x,y)は、注目局所領域の座標(x,y)の画素値、
Pi(x,y)は、類似局所領域の座標(x,y)の画素値、
である。
また、2つの局所領域間の差分2乗和(RSSD)は、以下の(式2)に従って算出する。
SSD=ΣΣ(Pr(x,y)−Pi(x,y))・・・・(式2)
なお、上記(式2)において、
Pr(x,y)は、注目局所領域の座標(x,y)の画素値、
Pi(x,y)は、類似局所領域の座標(x,y)の画素値、
である。
なお、差分絶対値和(SAD)や、差分2乗和(SSD)は、値が小さいほど類似度が大きいことを示す指標である。
類似局所領域選択部102は、図5を参照して説明したように、局所領域選択部101がノイズ低減処理対象領域として選択した注目局所領域Pr210を中心として設定した探索領域202から、注目局所領域Pr210と位相が同一で類似性の高い局所領域Pi(i=1,2,3・・・)を類似度の高い順から、予め規定した数、探索して抽出する。
類似局所領域選択部102は、抽出した類似局所領域の画像情報を、局所領域選択部101がノイズ低減処理対象領域として選択した注目局所領域の画像情報に併せて図4に示すように類似局所領域群113として、帯域分離部103に出力する。
[2−5.帯域分離部の処理について]
帯域分離部103は、類似局所領域選択部102から、同位相の複数の類似する局所領域画像からなる類似局所領域群113を入力する。
帯域分離部103は、これらの各局所領域について、高域成分と低域成分を算出し、高域成分114を高域ノイズ低減部104に出力し、低域成分115を低域ノイズ低減部105に出力する。
帯域分離部103の実行する帯域分離処理について、図6を参照して説明する。
帯域分離部103は、図4に示すように類似局所領域選択部102から、類似局所領域群データ113を入力する。類似局所領域群データ113は、局所領域選択部101が選択したノイズ低減処理対象領域である注目局所領域と、類似局所領域選択部102が選択した類似局所領域の画像データによって構成される。類似局所領域は、注目局所領域と同一位相で、かつ類似する局所領域である。
図6には、類似局所領域群データ113の1つの局所領域データとして、4×4の画素からなる局所領域データの例を示している。この4×4画素の局所領域は、注目局所領域、または類似局書領域である。
帯域分離部103は、注目局所領域と、複数の類似局所領域の各々について同様の処理を実行して、各局所領域に対応する高域信号画像データ114と、低域信号画像データ115を生成し、それぞれを、図4に示すように、高域ノイズ低減部104、低域ノイズ低減部105に出力する。
例えば1つの注目局所領域に対応する類似局所領域として3つの類似局所領域が選択されている場合、帯域分離部103は、計4つの局所領域に対して同様の帯域分離処理を実行して、4つの高域信号画像と低域信号画像を生成し、それぞれ、高域ノイズ低減部104、低域ノイズ低減部105に出力する。
図6に示すように、帯域分離部103は、帯域分離処理対象となる局所領域データと同様の画素配列を持つ高域信号画像データ114と、低域信号画像データ115を生成する。
なお、図6の高域信号画像データ114に示す、
RHは、Rの高域信号、
GHは、Gの高域信号、
BHは、Bの高域信号、
であり、それぞれRGB各色の高域信号相当の信号値(画素値)である。
同様に、図6の低域信号画像データ115に示す、
RLは、Rの低域信号、
GLは、Gの低域信号、
BLは、Bの低域信号、
であり、それぞれRGB各色の低域信号相当の信号値(画素値)である。
このように帯域分離部103は、入力信号と同じ画素配列を持つ高域信号画像データ114と低域信号画像データ115を生成して出力する。
この帯域分離処理は、前述したように、各局所領域について、各々処理を行なうため、類似局所領域群データ113に含まれる注目局所領域と類似局所領域、各々について、それぞれ高域信号画像データ114と低域信号画像データ115を生成して出力する。
帯域分離部103は、類似局所領域群データ113に含まれる注目局所領域と類似局所領域、各々の局所領域画像データに対して、以下に示す(式3)に従って、低域信号画像データ115の各画素値(Alow x,y)を算出し、また、以下に示す(式4)に従って、高域信号画像データ114の各画素値(Ahigh x,y)を算出する。
Figure 2014090359
ただし、上記(式3)、(式4)において、各パラメータは以下の通りである。
A:処理対象画像の各画素色、ベイヤ配列の場合R,G,Bのいずれか
x,y:処理対象となる入力局所領域画像の座標(x,y)位置の画素値
:処理対象となる入力局所領域画像に含まれる色Aの画素数
low x,y:低域信号画像データの座標(x,y)位置の画素値
high x,y:高域信号画像データの座標(x,y)位置の画素値
上記(式3)では、RGB毎の局所領域内の平均(DC成分)を低域信号値(Alow x,y)として算出する式である。ベイヤ配列の場合、RGBの3色が存在するので、上記(式3)に従って、各局所領域単位でRGB各々の低域信号値が算出される。
また、上記(式4)は、以下の算出式となっている。
高域信号値=(入力画素値)−(式3で算出した低域信号値)、
高域信号値は、局所領域の各画素独自の値、すなわち画素対応の高域信号値が算出されることになる。
上記(式3)と(式4)の算出式に従えば、高域信号成分は局所領域の画素数分、出力される。一方、低域成分はRGBの3つの値のみとなる。このように、低域成分については、画素数分の算出処理が不要であり、RGB各々についての算出処理、計3回の算出処理を行なうのみで低域信号画像データ115を生成することが可能となる。従って、メモリ容量の節約、および演算コストの低減が実現される。
また、低域信号成分については、上記(式3)に示すような局所領域内の平均値算出の他、例えばローパスフィルタを適用して算出する構成としてもよい。
帯域分離部103は、このように、例えば上記(式3)、(式4)に従って、類似局所領域群データ113に含まれる注目局所領域と類似局所領域、各々について、それぞれ高域信号画像データ114と低域信号画像データ115を生成して出力する。
注目局所領域と類似局所領域の高域信号画像データは高域ノイズ低減部104に入力される。
一方、注目局所領域と類似局所領域の低域信号画像データは低域ノイズ低減部105に入力される。
[2−6.高域ノイズ低減部の処理について]
高域ノイズ低減部104は、帯域分離部103から入力する注目局所領域と類似局所領域の高域信号画像データを適用して、注目局所領域の高域成分に含まれるノイズを低減させる処理を実行する。
高域ノイズ低減部104は、帯域分離部103から、
1枚の注目局所領域に対応する高域信号画像、
n枚の類似局所領域に対応するn枚の高域信号画像、
これらのn+1枚の高域信号画像を入力する。
高域ノイズ低減部104は、これらn+1枚の画像をまとめて三次元データとし、三次元データに対してノイズ低減を行う。
図7を参照して、高域ノイズ低減部104が生成する三次元データの概念について説明する。
高域ノイズ低減部104は、図7に示すように、帯域分離部103から入力する、
1枚の注目局所領域対応高域信号画像221、
n枚の類似局所領域対応高域信号画像222−1〜n、
これらの計n+1枚の画像について、各局所利用域高域信号画像の平面をxy平面として設定し、これら複数の画像をz軸方向に重ねた三次元データを生成する。
図7には4×4画素の局所領域に対応する高域信号画像をn+1枚、z軸方向に重ねた例を示している。
高域ノイズ低減部104は、このような複数の局所領域対応の高域信号画像からなる3次元データを用いてノイズ低減を行なう。
高域ノイズ低減部104の実行するノイズ低減処理としては、様々な手法が適用可能である。以下、高域ノイズ低減部104の適用可能なノイズ低減処理の複数の例について説明する。以下の各処理例について、順次、説明する。
(処理例1)3元ウェーブレットシュリンケージによるノイズ低減処理
(処理例2)2次元ウェーブレット変換+εフィルタ(イプシロンフィルタ)によるノイズ低減処理
(処理例3)Z方向のεフィルタ(イプシロンフィルタ)によるノイズ低減処理
[2−6−1.(処理例1)3元ウェーブレットシュリンケージによるノイズ低減処理]
まず、処理例1として、3元ウェーブレットシュリンケージによるノイズ低減処理について説明する。
この処理例1の処理シーケンスについて、図8に示すフローチャートを参照して説明する。この処理例1では、図8に示す処理手順、すなわちステップS11〜S15を実行することでノイズ低減を実現する。
まず、フローに従って、一連の処理について簡単に説明し、その後、各処理の詳細について説明する。
(S11)まず、図7に示す3次元データの各局所領域対応の高域信号画像、すなわちXY面毎に2次元ウェーブレット変換を行ない、各局所領域対応高域信号画像単位の2次元ウェーブレット変換データを生成する。
(S12)次に、ステップS11で生成した各局所領域対応高域信号画像単位の2次元ウェーブレット変換データの同一のXY位置毎の画素をZ軸方向に並べた画素列に対して、1次元ウェーブレット変換を実行する。
この処理により、各画素対応の1次元ウェーブレット変換データを生成する。
(S13)ステップS12で生成した1次元ウェーブレット変換データに対してシュリンケージ処理を実行する。
(S14)ステップS13で実行したシュリンケージ処理後の1次元ウェーブレット変換データに対して、1次元ウェーブレット逆変換を実行する。
(S15)ステップS14で実行した1次元ウェーブレット逆変換データから再構成される局所領域対応のxy平面データに対して、2次元ウェーブレット逆変換を実行する。
これら、ステップS11〜S15の一連の処理を実行して、注目局所領域の高域信号に含まれるノイズを低減し、ノイズの低減された注目局所領域対応の高域信号画像データを生成する。
以下、各ステップの処理の詳細について説明する。
まず、ステップS11の処理について、図9、図10を参照して説明する。
ステップS11では、図7を参照して説明した3次元データ、すなわち、各局所領域対応の高域信号画像をxy平面として、z方向に配列した各局所領域対応の高域信号画像について、各局所領域の高域信号画像毎に2次元ウェーブレット変換を行なう。
図9は、この2次元ウェーブレット変換処理について説明する図である。
図9(1)は、図7に示すと同様の各極所領域の高域信号画像である。この各局所領域の高域信号画像各々について、2次元ウェーブレット変換を実行して、図9(2)に示す2次元ウェーブレット変換データを生成する。
ウェーブレット変換処理は、画像の周波数成分データを分離して、画像を所定の周波数成分単位の信号に分離する処理である。
2次元ウェーブレット変換は、この処理を2次元画像に対して実行する。図10は、2次元ウェーブレット変換処理の一例である2次元Haarウェーブレット変換処理の処理例を示す図である。
例えば図10(a1)に示すように4つの画素領域があり、その各画素の画素値がv1〜v4である場合、2次元ウェーブレット変換処理によって、(b1)に示すLL,HL,LH,HHの各値が変換後の値として設定される。これらの各値は「展開係数」と呼ばれる。
図10(a2)に示すように、変換前の画素値v1〜v4に基づいて、変換後の値(展開係数)LL〜HHは、以下の式によって算出される。
LL=(v1+v2+v3+v4)/2
HL=(v1−v2+v3−v4)/2
LH=(v1+v2−v3−v4)/2
HH=(v1−v2−v3+v4)/2
なお、図10に示す例は、2×2の4画素データに対する処理として説明したが、例えば4×4画素など、多数の画素を持つ画像に対して処理を行なう場合、第1レベルの処理として2×2画素単位で上記算出式に従った変換を実行し、さらに、第2レベルの処理として、第1レベルの変換データに対して、上記算出式に従った処理を再度実行するという2レベルの処理を実行するなど、同様の変換処理を繰り返し実行する構成としてもよい。
これらの周波数成分単位の信号LL〜HHを設定したデータを2次元ウェーブレット変換データとする。例えば、図10(b1)に示すデータである。
なお、この2次元ウェーブレット変換データの要素である展開係数:LL〜HHの各信号から、元のv1〜v4を算出する式は、図10(b2)に示すように、以下の式となる。
v1=(LL+HL+LH+HH)/2
v2=(LL−HL+LH−HH)/2
v3=(LL+HL−LH−HH)/2
v4=(LL−HL+LH−HH)/2
なお、この式に従った処理は、2次元ウェーブレット逆変換(2次元Haarウェーブレット変換)に相当する。
図7に示すステップS15では、上記式に従った2次元ウェーブレット逆変換を行なう。
図7に示すステップS15の2次元ウェーブレット逆変換によって算出される値は、元の入力値、すなわちステップS11で処理対象とした局所領域対応の高域信号とは異なる値となる。
これは、ステップS13のシュリンケージ処理によって値が変更されているためである。シュリンケージ処理によってノイズ成分が除去され、ステップS15の2次元ウェーブレット逆変換で生成される高域信号画像は、ノイズ成分除去後の高域信号値が設定された画像となる。
次に、図7に示すフローのステップS12において実行する1次元ウェーブレット変換処理について、図11、図12を参照して説明する。
図11には、以下の各図を示している。
(2)図9(2)に示すデータと同じデータであり、図7のフローのステップS11の2次元ウェーブレット変換によって生成した2次元ウェーブレット変換データ
(3)1次元ウェーブレット変換用のデータの組み合わせ
(4)1次元ウェーブレット変換データ
ステップS12では、ステップS11で生成した各局所領域対応高域信号画像単位の2次元ウェーブレット変換データ、すなわち図11(2)に示す各局所領域対応高域信号画像単位の2次元ウェーブレット変換データの同一のXY位置毎の画素をZ軸方向に並べた画素列に対して、1次元ウェーブレット変換を実行する。
1次元ウェーブレット変換処理の対象となる画素列は、図11(3)に示す各データである。すなわち、各局所領域対応の画像が4×4画素である場合、(x,y)=(1,1)〜(4,4)の16個の1次元画素列が生成され、これらの16個の1次元画素列各々に対して、個別に1次元ウェーブレット変換を実行する。
1次元ウェーブレット変換によって生成したデータが、図11(4)に示す1次元ウェーブレット変換データである。
この例では、(x,y)=(1,1)〜(4,4)の、計16個の1次元ウェーブレット変換データが生成される。
ウェーブレット変換処理は、前述したように、画像に含まれる各周波成分を分離して、画像を所定の周波数成分単位の信号に分離する処理である。
1次元ウェーブレット変換は、この処理を1次元画像に対して実行する。図12には、2次元ウェーブレット変換処理の一例として、1次元Haarウェーブレット変換処理の処理例を示している。
例えば図12(a1)に示すように2つの画素領域があり、その各画素の画素値がv1〜v2である場合、1次元ウェーブレット変換処理によって、(b1)に示すL,Hの各値が変換後の値として設定される。これらの各値は展開係数と呼ばれる。
図12(a2)に示すように、変換前の画素値v1〜v2に基づいて、変換後の値L〜Hは、以下の式によって算出される。
L=(v1+v2)/√2
H=(v1−v2)/√2
なお、図12に示す例は、2画素データに対する処理として説明したが、例えば4画素など、多数の画素を持つ画像に対して処理を行なう場合、第1レベルの処理として2画素単位で上記算出式に従った変換を実行し、さらに、第2レベルの処理として、第1レベルの変換データに対して、上記算出式に従った処理を再度実行するという2レベルの処理を実行するなど、同様の変換処理を繰り返し実行する構成としてもよい。
これらの周波数成分単位の信号L〜Hを設定したデータを2次元ウェーブレット変換データとする。例えば、図12(b1)に示すデータである。
なお、この2次元ウェーブレット変換データの要素である展開係数:L〜Hの各信号から、元のv1〜v2を算出する式は、図12(b2)に示すように、以下の式となる。
v1=(L+H)/√2
v2=(L−H)/√2
なお、この式に従った処理は、1次元ウェーブレット逆変換に相当する。
図7に示すステップS14では、上記式に従った1次元ウェーブレット逆変換(1次元Haarウェーブレット変換)を行なう。
次に、図7に示すフローのステップS13において実行するシュリンケージ処理について、図13、図14を参照して説明する。
本実施例で実行するシュリンケージ処理は、ウェーブレット変換後の値、すなわち図9〜図12を参照して説明したウェーブレット変換後のデータであるLL〜HH等の展開係数を所定のしきい値(th)と比較し、しきい値(th)以下の信号を0に向けて減衰させる処理である。
なお、画像信号に対して、まず、ウェーブレット変換を実行し、ウェーブレット変換後の信号である展開係数に対してシュリンケージを実行し、その後、ウェーブレット逆変換を実行するという一連の処理は、ウェーブレットシュリンケージ処理と呼ばれる。
図13(a)には、シュリンケージ処理による入出力データの一例を示すグラフを示している。
横軸が入力値、縦軸が出力値である。ここでは入出力値いずれもウェーブレット変換データ、すなわち展開係数である。
入力値の絶対値がしきい値(th)未満の場合、その値が0に近づくように変更される。入力値の絶対値がしきい値(th)以上の場合は、変更しない。
入力値の絶対値がしきい値(th)未満の信号は、微小振幅の信号、すなわちノイズ成分を多く含む信号である。この部分の信号レベルを選択的に低下させることで、効果的なノイズ低減が実現される。
なお、しきい値(th)は、撮像素子(イメージセンサ)のノイズ特性に応じて決定し、予め画像処理装置内のメモリに格納しておく。
図14は、撮像素子(イメージセンサ)のセンサ出力とノイズ量との対応関係の一例を示すグラフである。
センサ出力が大きいほど、ノイズ量も増加するが、センサ出力に占めるノイズ量の割合は、センサ出力の増加に伴い徐々に低下することになる。
このようなノイズ特性は、撮像素子(イメージセンサ)固有の特性であり、撮像素子の製造段階で決定されるデータである。
撮像素子の製造時に、個々の撮像素子のノイズ特性を計測し、計測したノイズ特性に基づいて図13に示すしきい値(th)を決定し、撮像装置内のメモリに格納しておく。なお、しきい値(th)は、ユーザが調整可能な設定としてもよい。
図7に示すフローのステップS13においては、ステップS12において生成した1次元ウェーブレット変換データ、すなわち、図11(4)に示す複数の1次元ウェーブレット変換データの各々に対してシュリンケージ処理を実行する。
この処理によって、図11(4)に示す複数の1次元ウェーブレット変換データに設定された信号値(展開係数)は、少なくともその一部の値が変更される。
このシュリンケージ処理の後、図7に示すフローチャートのステップS14において、1次元ウェーブレット逆変換処理を実行する。
1次元ウェーブレット逆変換処理は、先に図12を参照して説明したとおり、図12(b2)に示す式、すなわち、以下の式に従って、展開係数L,Hからv1,v2を算出する処理である。
v1=(L+H)/√2
v2=(L−H)/√2
図7のステップS14で実行する1次元ウェーブレット逆変換処理によって算出する値は、図11に示す(4)の1次元ウェーブレット変換データを図11(3)に示すデータに戻す処理に相当し、2次元ウェーブレット変換データを算出していることになる。
さらに、図7に示すフローのステップS15において、2次元ウェーブレット逆変換処理を実行する。
この2次元ウェーブレット逆変換処理は、ステップS14の処理で生成した1次元ウェーブレット逆変換データから、各局所領域対応のxy平面に相当する2次元データを再構成し、この再構成2次元データに対して実行する。
すなわち、図9の(2)に示すデータと同様の各局所領域対応の2次元データを再構成し、この2次元データに対して、2次元ウェーブレット逆変換処理を実行して、図9(1)に示す構成を持つ局所領域対応のノイズ除去された高域信号画像を生成する。
なお、このステップS15における2次元ウェーブレット逆変換処理は、ノイズ低減処理対象としている注目局所領域対応の高域信号画像のみに対して実行すればよい。この処理によって、ノイズの低減された注目局所領域対応の高域信号画像が生成される。
2次元ウェーブレット逆変換処理は、先に図10を参照して説明したとおり、図10(b2)に示す式、すなわち、以下の式に従って、展開係数LL〜HHからv1〜v4を算出する処理である。
v1=(LL+HL+LH+HH)/2
v2=(LL−HL+LH−HH)/2
v3=(LL+HL−LH−HH)/2
v4=(LL−HL+LH−HH)/2
なお、前述したように、図10に示す例は、2×2の4画素データに対する処理であり、例えば4×4画素など、多数の画素を持つ画像に対して処理を行なう場合、ウェーブレット逆変換処理も、ウェーブレット変換処理と同様、複数レベルの処理、すなわち多段階の処理を繰り返し実行する構成としてもよい。
ただし、図7に示すステップS15の2次元ウェーブレット逆変換処理は、ステップS11の2次元ウェーブレット変換処理の逆の処理として実行する必要があり、ステップS11の2次元ウェーブレット変換処理の処理態様に対応した逆変換処理を実行することが必要である。
同様に、ステップS14の1次元ウェーブレット逆変換処理も、ステップS12の1次元ウェーブレット変換処理の逆の処理として実行する必要があり、ステップS12の1次元ウェーブレット変換処理の処理態様に対応した逆変換処理を実行する。
図4に示す高域ノイズ低減部104は、このように、図7に示すフローチャートに従ったステップS11〜S15の処理、すなわち、以下の処理を順次、実行してノイズ低減された高域信号画像を生成する。
(S11)局所領域単位の高域信号画像に対する2次元ウェーブレット変換処理、
(S12)1次元ウェーブレット変換処理、
(S13)シュリンケージ処理、
(S14)1次元ウェーブレット逆変換処理、
(S15)2次元ウェーブレット逆変換処理、
図4に示す高域ノイズ低減部104は、これらの処理を行なうことで、ノイズ低減された高域信号画像を生成する。
この図7に示すフローに従ったノイズ低減処理の1つの特徴について、図15、図16を参照して説明する。
図7に示すフローのステップS11では、局所利用域対応の高域信号画像のおのおのに対して2次元ウェーブレット変換処理を実行している。
RGBベイヤ配列を有するRAW画像に対して、2次元ウェーブレット変換処理を行なうことで、ウェーブレット変換データを輝度信号(Y)とその他のデータ、例えば色差信号とに区分して、その後の処理を行なうことが可能となる。
図15、図16は、ベイヤ配列を有するRAW画像に対する2次元ウェーブレット変換の具体的処理態様について説明する図である。
図15は、処理対象となる4×4画素の高域信号画像データ251に対して、第1レベルの2次元ウェーブレット変換を実行して第1レベル2次元ウェーブレット変換データ252を生成する処理例を示している。
図16は、図15の処理によって生成した第1レベルウェーブレット変換データ252に対して、第2レベルの2次元ウェーブレット変換処理を施して、第2レベル2次元ウェーブレット変換データ253を生成する処理例を示している。
まず、図15に示す処理について説明する。
図15は、処理対象となる4×4画素の高域信号画像データ251に対して、第1レベルの2次元Haarウェーブレット変換を実行して第1レベル2次元ウェーブレット変換データ252を生成する処理例である。
4×4画素の高域信号画像データ251は、RGB各画素からなるベイヤ配列のRAW画像に基づいて生成した高域信号画像データである。
4×4画素の高域信号画像データ251は、図に示すように、R1〜B16まで、RGB各画素信号によって構成される。なお、この処理例では、R1〜B16はすべて高域信号である。
この高域信号画像データ251に対して、第1レベルの2次元ウェーブレット変換を実行すると、図16に示す信号(展開係数):Y1〜c4によって構成される第1レベル2次元ウェーブレット変換データ252が生成される。
第1レベル2次元ウェーブレット変換データ252の構成信号(展開係数):Y1〜c4は、高域信号画像データの構成信号:R1〜B16に対する以下の変換式に従った演算処理によって算出される。
Y1=(R1+G2+G5+B6)/2
Y2=(R3+G4+G7+B8)/2
Y3=(R9+G10+G13+B14)/2
Y4=(R11+G12+G15+B16)/2
a1=(R1−G2+G5−B6)/2
a2=(R3−G4+G7−B8)/2
a3=(R9−G10+G13−B14)/2
a4=(R11−G12+G15−B16)/2
b1=(R1+G2−G5−B6)/2
b2=(R3+G4−G7−B8)/2
b3=(R9+G10−G13−B14)/2
b4=(R11+G12−G15−B16)/2
c1=(R1−G2−G5+B6)/2
c2=(R3−G4−G7+B8)/2
c3=(R9−G10−G13+B14)/2
c4=(R11−G12−G15+B16)/2
上記、変換式中、
Y1=(R1+G2+G5+B6)/2
Y2=(R3+G4+G7+B8)/2
Y3=(R9+G10+G13+B14)/2
Y4=(R11+G12+G15+B16)/2
これらの4つの変換式は、いずれも輝度信号(Y)の算出式に相当する。
RGB信号から輝度(Y)信号を算出する式は、
Y=R+2G+B
上記式であることが知られている。
図15に示す2次元ウェーブレット変換に従って算出される第1レベル2次元ウェーブレット変換データ252の構成画素中、左上の1/4の画素は、すべて輝度信号(Y)に相当するデータが変換値(展開係数)として設定されることになる。
なお、第1レベル2次元ウェーブレット変換データ252の構成画素中、左上の1/4の画素を除くその他の3/4の画素には、a1〜a4,b1〜b4,c1〜c4の各値が設定されるが、これらは、色差信号に相当する値となる。
図16は、第1レベル2次元ウェーブレット変換データ252に対して、さらに2次元Haarウェーブレット変換を実行した場合の処理例を示している。
第2レベルの2次元ウェーブレット変換は、第1レベル2次元ウェーブレット変換データ252の左上の1/4画素に対する変換処理として実行される。この結果、図に示す信号値(展開係数):Y1'〜c4から構成される第2レベルウェーブレット変換データ253が生成される。
Y1'〜Y4'の各値は、以下の変換式によって算出される。
Y1'=(Y1+Y2+Y3+Y4)/2
Y2'=(Y1−Y2+Y3−Y4)/2
Y3'=(Y1+Y2−Y3−Y4)/2
Y4'=(Y1−Y2−Y3+Y4)/2
a1〜c4は、第1レベル2次元ウェーブレット変換データ252の構成データのまま維持される。
この第2レベルの2次元ウェーブレット変換処理を行なっても、第2レベルウェーブレット変換データ253の構成データの左上の1/4の構成画素の信号はすべて輝度信号(Y)によって生成された信号となる。
このように、ベイヤ配列のRAW画像に対して2次元ウェーブレット変換を実行した場合、その変換処理によって生成される信号値(展開係数)中、左上の1/4画素の構成データはすべて輝度信号によって構成される信号値となる。
なお、図15、図16では、第1〜2レベルの2次元ウェーブレット変換処理例のみを示しているが、さらに第3レベル以降の2次元ウェーブレット変換を実行した場合でも、その変換処理によって生成される信号値(展開係数)は、左上の1/4画素の構成データはすべて輝度信号によって構成される信号値となる。
本処理例の構成では、このように2次元ウェーブレット変換処理において、輝度信号(Y)とその他の色差信号に相当する信号を分離し、この分離信号の各々に対してノイズ低減処理としてのシュリンケージを行う構成であるため、輝度、色差ともにバランスよくノイズ低減ができ、輝度だけでなく色のノイズ低減も精度よく行うことができる。
[2−6−2.(処理例2)2次元ウェーブレット変換+εフィルタ(イプシロンフィルタ)によるノイズ低減処理]
次に、処理例2として、2次元ウェーブレット変換+εフィルタ(イプシロンフィルタ)によるノイズ低減処理について説明する。
この処理例2の処理シーケンスについて、図17に示すフローチャートを参照して説明する。この処理例2では、図17に示す処理手順、すなわちステップS21〜S23を実行することでノイズ低減を実現する。
まず、フローに従って、一連の処理について簡単に説明し、その後、各処理の詳細について説明する。
(S21)まず、図7に示す3次元データの各局所領域対応の高域信号画像、すなわちXY面毎に2次元ウェーブレット変換を行ない、各局所領域対応高域信号画像単位の2次元ウェーブレット変換データを生成する。
(S22)次に、ステップS21で生成した各局所領域対応の2次元ウェーブレット変換データの同一のXY位置毎の画素をZ軸方向に並べた画素列に対して、εフィルタ(イプシロンフィルタ)を適用した変換処理を実行する。
この処理により、注目局所領域に対応する1つのフィルタ適用変換データを生成する。
(S23)ステップS22で生成した注目局所領域対応のフィルタ適用変換データに対して、2次元ウェーブレット逆変換を実行する。
これら、ステップS21〜S23の一連の処理を実行して、高域信号に含まれるノイズを低減する。
以下、各ステップの処理の詳細について説明する。
ステップS21の処理は、先に説明した(処理例1)の図8に示すフローのステップS11の処理と同様の処理である。すなわち、ステップS21では、図7を参照して説明した3次元データ、すなわち、各局所領域対応の高域信号画像をxy平面として、z方向に配列した各局所領域対応の高域信号画像について、各局所領域の高域信号画像毎に2次元ウェーブレット変換を行なう。
2次元ウェーブレット変換処理は、先に図9、図10を参照して説明した処理であり、画像に含まれる低周波成分から高周波成分を分離して、画像を所定の周波数成分単位の信号に分離する処理である。
具体的には、図10(a2)に示すように、変換前の画素値v1〜v4に基づいて、変換後の値LL〜HHが、以下の式によって算出される。
LL=(v1+v2+v3+v4)/2
HL=(v1−v2+v3−v4)/2
LH=(v1+v2−v3−v4)/2
HH=(v1−v2−v3+v4)/2
なお、先に図15、図16を参照して説明したように、この2次元ウェーブレット変換処理によって、各局所領域対応の高域信号画像を輝度(Y)成分と、色差成分に分離することが可能となる。
次に、図17に示すフローのステップS22において実行するεフィルタ(イプシロンフィルタ)の適用処理について説明する。
ステップS22では、ステップS21で生成した各局所領域対応の2次元ウェーブレット変換データの同一のXY位置毎の画素をZ軸方向に並べた画素列に対して、εフィルタ(イプシロンフィルタ)を適用した変換処理を実行する。
この処理により、注目局所領域に対応する1つのフィルタ適用変換データを生成する。
εフィルタ(イプシロンフィルタ)は、以下の(式5)に従って、処理対象となる注目画素の信号値(ε(V))を算出するフィルタである。
Figure 2014090359
上記式において、
vrefは、注目局所領域の画素値、
viは、vrefに対応する画素位置の各局所領域の画素値、
thは、予め規定したしきい値、
である。
V={v||vi−vref|<th}は、注目局所領域の画素値(vref)との差分がしきい値(th)未満の各局所領域(注目局所領域および類似局所領域)の画素値(vi)を選択する式である。
具体的には、上記(式5)は、注目局所領域の画素値(vref)との差分がしきい値(th)未満の類似局所領域の画素値(vi)の平均値:avg(V)を注目局所領域の画素の画素値:ε(V)として設定する式である。
すなわち、上記(式5)により、
ノイズ低減処理対象とする注目局所領域の画素、
注目局所領域の画素との画素値との差分の小さい類似局所領域の画素、
これらの画素のみを選択し、この選択された画素の平均値が、注目局所領域の画素の新たな画素値として設定される。
なお、上記(式5)の説明における「画素値」は、ここでは、2次元ウェーブレット変換後のデータであり、展開係数に相当する。
この(処理例2)において実行するεフィルタ(イプシロンフィルタ)の適用処理は、先の(処理例1)における図7のフローのステップS12〜S14の1次元ウェーブレット変換処理、シュリンケージ、1次元ウェーブレット逆変換処理、これらの一連の処理の代わりに実行する処理である。
εフィルタ(イプシロンフィルタ)適用処理は、(処理例1)のステップS12〜S14の処理に比較して軽い処理であり、比較的、処理能力の低い装置においても容易に実行可能であり、また処理時間も短縮できるというメリットがある。
最後に、図17に示すフローのステップS23において、ステップS22で生成した注目局所領域に対応する1つのフィルタ適用変換データに対して、2次元ウェーブレット逆変換処理を実行する。
この2次元ウェーブレット逆変換処理は、先に図10を参照して説明したとおり、図10(b2)に示す式、すなわち、以下の式に従って、展開係数LL〜HHからv1〜v4を算出する処理である。
v1=(LL+HL+LH+HH)/2
v2=(LL−HL+LH−HH)/2
v3=(LL+HL−LH−HH)/2
v4=(LL−HL+LH−HH)/2
なお、前述したように、図10に示す例は、2×2の4画素データに対する処理であり、例えば4×4画素など、多数の画素を持つ画像に対して処理を行なう場合、ウェーブレット逆変換処理も、ウェーブレット変換処理と同様、複数レベルの処理、すなわち多段階の処理を繰り返し実行する構成としてもよい。
ただし、図17に示すステップS23の2次元ウェーブレット逆変換処理は、ステップS21の2次元ウェーブレット変換処理の逆の処理として実行する必要があり、ステップS21の2次元ウェーブレット変換処理の処理態様に対応した逆変換処理を実行することが必要である。
(処理例2)を適用した構成では、図4に示す高域ノイズ低減部104は、図17に示すフローチャートに従ったステップS21〜S23の処理、すなわち、以下の処理を順次、実行してノイズ低減された高域信号画像を生成する。
(S21)局所領域単位の高域信号画像に対する2次元ウェーブレット変換処理、
(S22)εフィルタ(イプシロンフィルタ)を適用した変換処理、
(S23)2次元ウェーブレット逆変換処理、
図4に示す高域ノイズ低減部104は、これらの処理を行なうことで、ノイズ低減された高域信号画像を生成する。
なお、本処理例2の構成においても、先に説明した処理例1と同様、2次元ウェーブレット変換処理において、輝度信号(Y)とその他の色差信号に相当する信号を分離し、この分離信号の各々に対してノイズ低減処理としてのεフィルタを適用した処理を行う構成であるため、輝度、色差ともにバランスよくノイズ低減ができ、輝度だけでなく色のノイズ低減も精度よく行うことができる。
[2−6−3.(処理例3)Z方向のεフィルタ(イプシロンフィルタ)によるノイズ低減処理]
次に、処理例3として、Z方向のεフィルタ(イプシロンフィルタ)によるノイズ低減処理について説明する。
この処理例3の処理シーケンスについて、図18に示すフローチャートを参照して説明する。この処理例3では、図18に示すステップS31を実行することでノイズ低減を実現する。
ステップS31は、以下の処理である。
(S31)図7に示す3次元データの各局所領域対応の高域信号画像の同一のXY位置毎の画素をZ軸方向に並べた画素列に対して、εフィルタ(イプシロンフィルタ)を適用した変換処理を実行する。
この処理により、注目局所領域に対応する1つのフィルタ適用変換データを生成する。
この注目局所領域に対応する1つのフィルタ適用変換データをノイズ低減後の高域信号画像とする。
この(処理例3)は、先に図17のフローチャートを参照して説明した(処理例2)のステップS22の処理のみを実行する構成であり、ステップS21の2次元ウェーブレット変換、およびステップS23の2次元ウェーブレット逆変換を省略した構成に相当する。
本処理例3は、先に説明した(処理例1)、(処理例2)に比較して、非常に簡単な処理として実行可能であり、演算負荷が小さく、処理速度も速いというメリットがある。
[2−7.低域ノイズ低減部の処理について]
次に、図4に示すRAWノイズ低減部31における低域ノイズ低減部105の処理について説明する。
低域ノイズ低減部105は、帯域分離部103から入力する注目局所領域と類似局所領域の低域信号画像データを利用して、注目局所領域の低域成分に含まれるノイズを低減させる処理を実行する。
帯域分離部103からは、
1枚の注目局所領域に対応する低域信号画像、
n枚の類似局所領域に対応するn枚の低域信号画像、
これらのn+1枚の低域信号画像を入力される。
この信号は、先に高域ノイズ低減部104に対する入力データの構成として説明した図7に示す構成を持つデータである。
図7には、1つの注目局所領域と、n個の類似局所領域の高域信号画像を示している。これらの高域信号画像は、高域ノイズ低減部104に入力される。
低域ノイズ低減部105には、図7に示す構成と同様の構成を持つ1つの注目局所領域と、n個の類似局所領域の低域信号画像が入力される。
低域ノイズ低減部105は、これらn+1枚の画像を利用したノイズ低減を行う。
なお、前述したように、帯域分離部103は、類似局所領域群データ113に含まれる注目局所領域と類似局所領域、各々の局所領域画像データに対して、先に説明した(式3)に従って、低域信号画像データ115の各画素値(Alow x,y)を算出する。
先に説明したように、(式3)では、RGB毎の局所領域内の平均(DC成分)を低域信号値(Alow x,y)として算出する。ベイヤ配列の場合、RGBの3色が存在するので、(式3)に従って、各局所領域単位で、RGB各々の低域信号値として3つの信号値が算出される。
低域ノイズ低減部105は、例えば図7に示すと同様の1つの注目局所領域と、n個の類似局所領域の各局所領域に対応するRGB信号値を入力して、処理を行なう。
すなわち、
n+1個のR信号、
n+1個のG信号、
n+1個のB信号、
これらの各信号を利用して、注目局所領域対応の低域信号画像に含まれるノイズ低減を実行する。
低域ノイズ低減部105の実行するノイズ低減処理としては、様々な手法が適用可能である。以下、低域ノイズ低減部105の適用可能なノイズ低減処理の複数の例について説明する。以下の各処理例について、順次、説明する。
(処理例1)注目局所領域と複数の類似局所領域の各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対して1次元ウェーブレット変換シュリンケージを実行するノイズ低減処理
(処理例2)注目局所領域と複数の類似局所領域の各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対してεフィルタ(イプシロンフィルタ)を適用するノイズ低減処理
[2−7−1.(処理例1)1次元ウェーブレット変換シュリンケージによるノイズ低減処理]
まず、処理例1として、1次元ウェーブレット変換シュリンケージによるノイズ低減処理について説明する。
この処理例1の処理シーケンスについて、図19に示すフローチャートを参照して説明する。この処理例1では、図19に示す処理手順、すなわちステップS51〜S53を実行することでノイズ低減を実現する。
まず、フローに従って、一連の処理について簡単に説明し、その後、各処理の詳細について説明する。
(S51)まず、注目局所領域と複数の類似局所領域から、同一色(RまたはGまたはB)の低域信号を並べた1次元データに対する1次元ウェーブレット変換処理を実行して、各色対応の1次元ウェーブレット変換データを生成する。
(S52)次に、ステップS51で生成した各色対応の1次元ウェーブレット変換データの各々に対して、シュリンケージ処理を実行する。
(S53)ステップS52で実行したシュリンケージ処理後の1次元ウェーブレット変換データに対して、1次元ウェーブレット逆変換を実行する。
これら、ステップS51〜S53の一連の処理を実行して、低域信号に含まれるノイズを低減する。
以下、各ステップの処理の詳細について説明する。
ステップS51では、まず、注目局所領域と複数の類似局所領域から、同一色(RまたはGまたはB)の低域信号を並べた1次元データに対する1次元ウェーブレット変換処理を実行して、各色対応の1次元ウェーブレット変換データを生成する。
処理対象とする1次元データは、図7に示すと同様の1つの注目局所領域と、n個の類似局所領域の各局所領域に対応する同一色(RまたはGまたはB)信号の低域信号列である。
すなわち、
n+1個のR信号からなる1次元データ、
n+1個のG信号からなる1次元データ、
n+1個のB信号からなる1次元データ、
これらの各1次元データに対して1次元ウェーブレット変換を実行する。
1次元ウェーブレット変換は、先に高域ノイズ低減部104の処理として、図11、図12を参照して説明したと同様の処理である。
図12(a2)に示すように、変換前の画素値v1〜v2に基づいて、変換後の値L〜Hは、以下の式によって算出される。
L=(v1+v2)/√2
H=(v1−v2)/√2
なお、図12に示す例は、2画素データに対する処理として説明したが、例えば4画素など、多数の画素を持つ画像に対して処理を行なう場合、第1レベルの処理として2画素単位で上記算出式に従った変換を実行し、さらに、第2レベルの処理として、第1レベルの変換データに対して、上記算出式に従った処理を再度実行するという2レベルの処理を実行するなど、同様の変換処理を繰り返し実行する構成としてもよい。
次のステップS52では、ステップS51で生成した各色対応の1次元ウェーブレット変換データの各々に対して、シュリンケージ処理を実行する。
シュリンケージ処理は、先に高域ノイズ低減部104の処理として図13、図14を参照して説明した処理と同様の処理である。
先に説明したように、図13(a)は、シュリンケージ処理による入出力データの一例を示すグラフを示す図であり、横軸が入力値、すなわち、ウェーブレット変換後の信号である展開係数である。
縦軸が、シュリンケージ処理後の展開係数の出力値である。
入力値の絶対値がしきい値(th)未満の場合、その値が0に近づくように変革される。入力値の絶対値がしきい値(th)以上の場合は、変更しない。
入力値の絶対値がしきい値(th)未満の信号は、微小振幅の信号、すなわちノイズ成分を多く含む信号である。この部分の信号レベルを選択的に低下させることで、効果的なノイズ低減が実現される。なお、しきい値(th)は、撮像素子(イメージセンサ)のノイズ特性に応じて決定し、予め画像処理装置内のメモリに格納しておく。
図19に示すフローのステップS52においては、ステップS51において生成した各色対応の1次元ウェーブレット変換データの各々に対してシュリンケージ処理を実行する。
この処理によって、各色対応の1次元ウェーブレット変換データに設定された信号値(展開係数)は、少なくともその一部の値が変更される。
このシュリンケージ処理の後、図19に示すフローチャートのステップS53において、1次元ウェーブレット逆変換処理を実行する。
1次元ウェーブレット逆変換処理は、先に図12を参照して説明したとおり、図12(b2)に示す式、すなわち、以下の式に従って、展開係数L,Hからv1,v2を算出する処理である。
v1=(L+H)/√2
v2=(L−H)/√2
この処理によって、ノイズ低減されたRGB各色対応の一次元データ列が生成される。
図4に示す低域ノイズ低減部105は、これらのRGB対応の一次元データ列を構成する注目局所領域のRGB各信号をノイズ低減後の低域信号として出力する。
図4に示す低域ノイズ低減部105は、このように、図19に示すフローチャートに従ったステップS51〜S53の処理、すなわち、以下の処理を順次、実行してノイズ低減された低域信号画像を生成する。
(S51)各局所領域対応のRGB各色低信号列に対する1次元ウェーブレット変換処理、
(S52)シュリンケージ処理、
(S53)1次元ウェーブレット逆変換処理、
図4に示す低域ノイズ低減部105は、これらの処理を行なうことで、ノイズ低減された低域信号画像を生成する。
[2−7−2.(処理例2)各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対してεフィルタ(イプシロンフィルタ)を適用するノイズ低減処理]
次に、処理例2として、注目局所領域と複数の類似局所領域の各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対してεフィルタ(イプシロンフィルタ)を適用するノイズ低減処理について説明する。
この処理例2の処理シーケンスについて、図20に示すフローチャートを参照して説明する。この処理例2では、図20に示すステップS61を実行することでノイズ低減を実現する。
ステップS61は、以下の処理である。
(S61)図7に示す3次元データの各局所領域、すなわち注目局所領域と複数の類似局所領域から、同一色(RまたはGまたはB)の低域信号を並べた1次元データを生成し、これらの各1次元データに対してεフィルタ(イプシロンフィルタ)を適用した変換処理を実行して、各色対応のフィルタ適用変換データを生成する。
この処理により、注目局所領域に対応する1つのフィルタ適用変換データを生成する。
この注目局所領域に対応する1つのフィルタ適用変換データをノイズ低減後の低域信号画像とする。
εフィルタ(イプシロンフィルタ)は、先に説明した高域ノイズ低減部104の(処理例2)において、図17のフローのステップS22において適用したフィルタと同様のフィルタである。
すなわち、前述した(式5)に従って画素値変換を実行するフィルタである。
具体的には、先に(式5)を参照して説明したように、注目局所領域の画素値(vref)との差分がしきい値(th)未満の類似局所領域の画素値(vi)の平均値:avg(V)を注目局所領域の画素の画素値:ε(V)として設定するものである。
この(処理例2)において実行するεフィルタ(イプシロンフィルタ)の適用処理は、先の(処理例1)における1次元ウェーブレット変換処理、シュリンケージ、1次元ウェーブレット逆変換処理、これらの一連の処理の代替処理として行う処理である。εフィルタ(イプシロンフィルタ)適用処理は、これら一連の処理に比較して、軽い処理であり、比較的、処理能力の低い装置においても容易に実行可能となり、また処理時間も短縮できるというメリットがある。
[2−8.帯域合成部の処理について]
次に、図4に示すRAWノイズ低減部31における帯域合成部106の処理について説明する。
帯域合成部106は、以下の各信号を入力する。
高域ノイズ低減部104から出力された注目局所領域に対応するノイズ低減後の高域信号、
低域ノイズ低減部105から出力された注目局所領域に対応するノイズ低減後の低域信号、
帯域合成部106は、これらの各信号を入力し、注目局所領域のノイズ低減高域信号と、ノイズ低減低域信号を合成して、合成結果を図4に示すノイズ低減(NR)局所領域画像116として出力する。
帯域合成部106は、高域成分と低域成分を加算して合成処理を行なう。
先に説明した帯域分離部103は、前述した(式4)、すなわち、以下に示す(式4)に従って、高域信号の各画素値(Ahigh x,y)を算出していた。
high x,y=Ax,y−Alow x,y ・・・(式4)
ただし、上記(式4)において、各パラメータは以下の通りである。
A:処理対象画像の各画素色、ベイヤ配列の場合R,G,Bのいずれか
x,y:処理対象となる入力局所領域画像の座標(x,y)位置の画素値
low x,y:低域信号画像データの座標(x,y)位置の画素値
high x,y:高域信号画像データの座標(x,y)位置の画素値
帯域合成部106は、高域信号の画素値(Ahigh x,y)と、低域信号の画素値(Alow x,y)を入力し、入力局所領域画像の座標(x,y)位置の画素値(Ax,y)を算出する。画素値(Ax,y)は、上記(式4)から導かれる以下の(式6)に従って算出可能となる。
x,y=Ahigh x,y+Alow x,y ・・・(式6)
ただし、上記(式6)において、各パラメータは、上記(式4)と同様であり、以下の通りである。
A:処理対象画像の各画素色、ベイヤ配列の場合R,G,Bのいずれか
x,y:処理対象となる入力局所領域画像の座標(x,y)位置の画素値
low x,y:低域信号画像データの座標(x,y)位置の画素値
high x,y:高域信号画像データの座標(x,y)位置の画素値
帯域合成部106は、上記(式6)に従って、注目局所領域に対するノイズ低減処理を施した画像、すなわちノイズ低減局所領域画像116を生成して局所領域合成部107に出力する。
なお、図4に示すRAWノイズ低減部31の構成中、局所領域選択部101から帯域合成部106までの処理は、局所領域選択部101で選択される注目局所領域単位で実行される。
局所領域選択部101は、例えば、1画素〜数画素ずつずらして、順次、注目局所領域を選択する。
注目局所領域の設定態様としては、様々な態様が可能であるが、例えば1画素ずつずらして、順次、注目局所領域を設定する。すなわち、各注目局所領域が重複領域を持つように注目局所領域の設定を行なう。
これにより、帯域合成部106は、ノイズ低減された注目局所領域画像を次々に出力し、出力されたノイズ低減注目局所領域画像は、重複領域を含む画像となる。
[2−9.局所領域合成部の処理について]
局所領域合成部107は、帯域合成部106からノイズ低減された局所領域画像であるノイズ低減局所領域画像116を、順次入力し、入力する局所領域画像を合成して1枚のノイズ低減RAW画像117を生成して出力する。
帯域合成部106から入力するノイズ低減局所領域画像116は、局所領域選択部101が、順次選択した注目局所領域に対応するノイズ低減局所領域画像である。
局所領域選択部101は、入力画像であるRAW画像51から、ノイズ低減処理対象とする注目局所領域を、少しずつ画素位置をずらして設定する。これらの注目局所領域は、例えば重複する画素領域を有する局所領域となる。
従って、帯域合成部106から、順次入力するノイズ低減局所領域画像116も、重複する画素領域を持つ画像データであり、局所領域合成部107は、これらの重複領域を考慮して合成処理を行なう。例えば1つの画素に対して、n枚のノイズ低減局所領域画像が入力されている場合、各ノイズ低減局所領域画像の対応画素値を加算し、重複数nで除算して、最終的な画素値を算出する。
帯域合成部106から入力する重複画素領域を有するノイズ低減局所領域画像の設定例を図21に示す。図21には、それぞれ4×4画素の4つのノイズ低減局所領域画像281〜284を示している。
これらの各領域は重複画素領域を有している。
例えば、図21に斜線で示す4つの画素は、4×4画素の4つのノイズ低減局所領域画像281〜284のすべてに含まれる画素領域である。
これらの斜線部で示す4画素については、4つのノイズ低減局所領域画像281〜284の各々に画素値が設定されている。
この場合、局所領域合成部107は、斜線部で示す4画素(R,G,G,B)の各々については、以下の4つの各局所領域画素に設定された画素値の平均値を算出して、ノイズ低減RAW画像117の画素値として設定する。
すなわち、
ノイズ低減局所領域画像281に設定された画素値a、
ノイズ低減局所領域画像282に設定された画素値b、
ノイズ低減局所領域画像283に設定された画素値c、
ノイズ低減局所領域画像284に設定された画素値d、
これらのa,b,c,dの各画素値の加算平均値、
X=(a+b+c+d)/4
上記算出式によって算出する値Xを、ノイズ低減RAW画像117の画素値として設定する。
このように、複数のノイズ低減局所領域画像の対応画素値の平均化処理により、最終出力画像の画素値を設定することで、出力画像におけるノイズ低減の精度をさらに高めることがきる。
[3.ノイズ低減処理の全体シーケンスについて]
次に、上述したRAW画像に対するノイズ低減処理、すなわち、図4に示す構成を有するRAWノイズ低減部31の実行するノイズ低減処理の全体シーケンスについて、図22に示すフローチャートを参照して説明する。
なお、図22に示す処理は、図1、図3、図4を参照して説明した撮像装置10の画像処理部16のRAWノイズ低減部31において実行される処理である。この処理は、例えば、図1に示す撮像装置10のメモリ18に格納されたプログラムに従って制御部25が画像処理部16の制御を実行して行われる。
以下、図22に示すフローチャートの各ステップの処理について説明する。
(S101)
まず、ステップS101において、撮像素子から入力された例えばRGBベイヤ配列を持つ特定の色フィルタ配列の撮像画像であるRAW画像を入力し、RAW画像から、ノイズ低減対象とする局所領域を注目局所領域として選択する。
この処理は、図4に示す局所領域選択部101の実行する処理である。例えば、n×n画素の注目局所領域を選択する
(S102)
次に、ステップS102において、ステップS101で選択した注目局所領域の周辺から、注目局所領域との類似度が高く、かつ、注目局所領域の位相と同位相の類似局所領域を複数選択する。
この処理は、図4に示す類似局所領域選択部102の実行する処理である。
この処理は、先に図5を参照して説明したように、例えば、局所領域選択部101がノイズ低減処理対象領域として選択した注目局所領域Pr210を中心として設定した探索領域202から、注目局所領域Pr210と位相が同一で類似性の高い局所領域Pi(i=1,2,3・・・)を類似度の高い順から、予め規定した数、探索して抽出する処理である。
なお、類似度は、各局所領域間の画素値に基づく差分絶対値和(SAD:Sum of Absolute Differences)、あるいは差分2乗和(SSD:Sum of Squares Differences)を利用する。注目局所領域とのSADあるいはSSDの値が小さい局所領域を順次、選択する。
(S103)
次に、ステップS103において、ステップS101およびステップS102で選択した局所領域群、すなわち、注目局所領域と複数の類似局所領域によって構成される局所領域群の各々に対して、帯域分離処理を行う。具体的には、各局所領域の画素信号を低域信号と高域信号とに分離する。
この処理は、図4に示す帯域分離部103の実行する処理であり、先に図6を参照して説明した処理である。例えば、前述の(式3)、(式4)を適用して各局所領域に対応する低域信号画像と高域信号画像を生成する。
(S104)
次に、ステップS104において、S103で生成した注目局所領域と複数の類似局所領域各々に対応する高域信号画像と、低域信号画像、それぞれに対するノイズ低減処理を行う。すなわち、高域と低域の各帯域別にノイズ低減処理を実行する。
この処理は、図4に示す高域ノイズ低減部104と、低域ノイズ低減部105の実行する処理である。
高域ノイズ低減部104は、例えば、先に図7を参照して説明した各局所領域の高域信号画像からなる3次元データを生成し、この3次元データを適用して高域信号に含まれるノイズ低減処理を実行する。
具体的には、先に、図8〜図18を参照して説明したように、以下の(処理例1)〜(処理例3)のいずれかに従ったノイズ低減処理を実行する。
(処理例1)図8に示すフローチャートに従った3元ウェーブレットシュリンケージによるノイズ低減処理
(処理例2)図17に示すフローチャートに従った2次元ウェーブレット変換+εフィルタ(イプシロンフィルタ)によるノイズ低減処理
(処理例3)図18に示すフローチャートに従ったZ方向のεフィルタ(イプシロンフィルタ)によるノイズ低減処理
高域ノイズ低減部104は、図7に示す各局所領域の高域信号画像からなる3次元データを適用して、上記の(処理例1)〜(処理例3)のいずれかを実行して高域信号に含まれるノイズ低減処理を実行する。
低域ノイズ低減部105も、高域ノイズ低減部104と同様、図7に示す各局所領域の高域信号画像と同様の各局所領域の低域信号画像からなる3次元データを生成し、この3次元データを適用して低域信号に含まれるノイズ低減処理を実行する。
具体的には、先に、図19〜図20を参照して説明したように、以下の(処理例1)〜(処理例2)のいずれかに従ったノイズ低減処理を実行する。
(処理例1)注目局所領域と複数の類似局所領域の各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対して1次元ウェーブレット変換シュリンケージを実行するノイズ低減処理
(処理例2)注目局所領域と複数の類似局所領域の各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対してεフィルタ(イプシロンフィルタ)を適用するノイズ低減処理
低域ノイズ低減部105は、図7に示す各局所領域の高域信号画像と同様の各局所領域の低域信号画像からなる3次元データを生成し、この3次元データを適用して、上記の(処理例1)〜(処理例2)のいずれかを実行して低域信号に含まれるノイズ低減処理を実行する。
(S105)
次に、ステップS105において、ステップS104でノイズ低減された各帯域信号を合成して、ノイズ低減局所領域画像を生成する。
この処理は、図4に示す帯域合成部106の実行する処理である。
帯域合成部106は、以下の各信号を入力する。
高域ノイズ低減部104から出力された注目局所領域に対応するノイズ低減後の高域信号、
低域ノイズ低減部105から出力された注目局所領域に対応するノイズ低減後の低域信号、
帯域合成部106は、これらの各信号を入力し、これら、注目局所領域のノイズ低減高域信号と、ノイズ低減低域信号を合成して、合成結果を、図4に示すノイズ低減(NR)局所領域画像116として出力する。
この合成処理結果としての信号値(画素値)は、先に説明した(式6)に従って算出可能である。
x,y=Ahigh x,y+Alow x,y ・・・(式6)
ただし、上記(式6)において、各パラメータは以下の通りである。
A:処理対象画像の各画素色、ベイヤ配列の場合R,G,Bのいずれか
x,y:処理対象となる入力局所領域画像の座標(x,y)位置の画素値
low x,y:低域信号画像データの座標(x,y)位置の画素値
high x,y:高域信号画像データの座標(x,y)位置の画素値
帯域合成部106は、上記(式6)に従って、注目局所領域に対するノイズ低減がなされたノイズ低減局所領域画像116を生成して局所領域合成部107に出力する。
(S106)
次に、ステップS106において、画像全体についての処理が完了したか否かを判定する。具体的には、ステップS101で、順次、選択した注目局所領域が入力画像の全領域を網羅したか否かを判定する。
ステップS101で、順次、選択した注目局所領域が入力画像の全領域を網羅し、画像全体についての処理が完了したと判定した場合は、ステップS107に進み、未処理領域がある場合は、ステップS101に戻り、未処理領域の処理、すなわち新たな注目局所領域の選択を行う。
(S107)
ステップS106で全ての画像領域の処理が完了したと判定すると、ステップS107において、S101〜S106の繰り返しで得られたノイズ低減された局所領域の合成処理を実行して、ノイズ低減RAW画像を生成して出力する。
この処理は、図4に示す局所領域合成部107の実行する処理である。
局所領域合成部107は、図4に示すように、帯域合成部106からノイズ低減された局所領域画像であるノイズ低減局所領域画像116を、順次入力し、入力する局所領域画像を合成して1枚のノイズ低減RAW画像117を生成して出力する。
先に図21を参照して説明したように、帯域合成部106から入力するノイズ低減局所領域画像116は、例えば重複領域を有する局所領域画像データであり、局所領域合成部107は、これらの重複領域を考慮して合成処理を行なう。例えば1つの画素に対して、n枚のノイズ低減局所領域画像が入力されている場合、各ノイズ低減局所領域画像の対応画素値を加算し、重複数nで除算して、最終的な画素値を算出する。
図1に示す撮像装置10の画像処理部16におけるRAWノイズ低減部31は、これらの処理によって、ノイズ低減されたRAW画像を生成して、次段のカメラ信号処理部32に出力する。
カメラ信号処理部32は、RAWノイズ低減部31からノイズ低減された色配列画像(RAW画像)を入力し、各画素に全色を信号処理によって復元するデモザイク処理や、その他の一般的なカメラ信号処理を実行し、出力画像を生成してメモリ格納用画像、あるいは表示部に対する表示用画像として出力する。
[4.本開示の画像処理装置の実行するノイズ低減処理の第2実施例について]
次に、図1に示す撮像装置10の画像処理部16の実行するノイズ低減処理の第2の実施例について説明する。
本第2実施例においても、撮像装置10の構成は、第1実施例と同様、図1に示す構成を持つ。
また、画像処理部16の構成も第1実施例と同様、図3に示す構成であり、RAWノイズ低減部31と、カメラ信号処理部32を有する。
ただし、RAWノイズ低減部31の構成が、先に第1実施例において説明した図4に示す構成とは異なる構成となる。
この第2実施例におけるRAWノイズ低減部31の構成を図23に示す。
図23に示す第2実施例におけるRAWノイズ低減部31の構成の多くは、先に図4を参照して説明した第1実施例のRAWノイズ低減部の構成と共通の構成である。
図23に示す第2実施例におけるRAWノイズ低減部31は、図4を参照して説明した第1実施例のRAWノイズ低減部にはない基準色算出部301を有する。
基準色算出部301は、撮像素子(イメージセンサ)で撮像され、各画素に特定の一色のみが設定されたRAW画像51を入力し、入力RAW画像51の各画素位置に対応する基準色、例えば、輝(Y)度を算出して、これを基準色画像311として、類似局所領域選択部102に出力する。
なお、基準色算出部301が、撮像素子(イメージセンサ)から入力するRAW画像は、例えば先に図2を参照して説明したような、各画素にRGBのいずれか一色の画素値のみが設定されたベイヤ配列を持つRAW画像である。
基準色算出部301の実行する処理について、図24を参照して説明する。
図24(a)は、基準色算出部301が、撮像素子(イメージセンサ)から入力するRAW画像51である。
図24(b)は、基準色算出部301が、RAW画像51に基づいて生成する基準色画像(輝度(Y)画像)である。
基準色算出部301は、図24(b)に示すように、全画素位置に基準色(輝度(Y))を設定する。
RAW画像51の各画素位置に対応する基準色(輝度(Y))の算出処理手法としては様々な手法が適用可能である。その一例として、例えば、図24(c)に示すローパスフィルタ(LPF)を適用する処理がある。
図24(c)に示すローパスフィルタは、5×5画素に対応した構成を有し、RAW画像の5×5画素単位で、その中心位置の基準色(輝度(Y))を算出するために適用する。
例えば、図25に示すように。RAW画像51の1つのG画素321に対応する基準色(Y)画素値323を算出する場合、G画素321を中心とした5×5画素領域322を設定し、この5×5画素領域322の各画素の画素値に、図25(c)のLPFの対応画素位置の係数を乗算し、各画素の乗算結果を全て加算する演算処理を実行して基準色(Y)画素値323を算出する。
RAW画像51の構成画素に対してこのようなLPF適用処理を行なって、RAW画像51の各画素位置に対応する基準色画素値を算出し、その結果を図24(b)に示す基準色画像311として、図23に示すように類似局所領域選択部102に出力する。
図24(c)および、図25(c)に示すようなローパスフィルタ(LPF)を適用することで、入力RAW画像51のサンプリング周波数より低域の基準色(輝度(Y))を全画素に設定することができる。なお、本例では、図24(c)に示すフィルタの適用処理によってRGBが寄与する輝度相当の基準色を算出しているが、例えばRAW画像51のG画素情報のみを適用して基準色を算出する設定としてもよい。
類似局所領域選択部102は、
局所領域選択部101で選択された注目局所領域、
基準色算出部301の生成した基準色画像311、
これらを入力する。
類似局所領域選択部102は、先に説明した実施例1と同様、局所領域選択部101で選択された注目局所領域と位相が同じで、かつ類似性の高い複数の類似局所領域を、注目局所領域周辺の領域から探索し選択する。
先に説明した実施例1では、類似局所領域選択部102は、類似性の判断に、RAW画像51を適用した処理を実行していた。すなわち、例えば、各局所領域間の画素値に基づく差分絶対値和(SAD:Sum of Absolute Differences)、あるいは差分2乗和(SSD:Sum of Squares Differences)を利用し、注目局所領域とのSADあるいはSSDの値が小さい局所領域を順次、選択する処理を実行していた。
これに対して、本実施例2の類似局所領域選択部102は、類似性の判断に、RAW画像51ではなく、基準色画像311を適用する。
位相判定には、RAW画像51を適用するが、その後の類似性判定には、基準色画像311を適用する。
基準色画像311の構成画素値に基づいて差分絶対値和(SAD:Sum of Absolute Differences)、あるいは差分2乗和(SSD:Sum of Squares Differences)を算出し、注目局所領域とのSADあるいはSSDの値が小さい局所領域を順次、選択する。
基準色画像311はRAW画像51より周波数的に低い信号によって構成されているため、類似局所領域探索がノイズに対してロバストになるというメリットがあり、安定した類似性判定結果を生成することができる。
[5.第2実施例のノイズ低減処理シーケンスについて]
次に、上述した第2実施例のRAW画像に対するノイズ低減処理、すなわち、図23に示す構成を有するRAWノイズ低減部31の実行するノイズ低減処理の全体シーケンスについて、図26に示すフローチャートを参照して説明する。
なお、図26に示す処理は、図1、図3、図23を参照して説明した撮像装置10の画像処理部16のRAWノイズ低減部31において実行される処理である。この処理は、例えば、図1に示す撮像装置10のメモリ18に格納されたプログラムに従って制御部25が画像処理部16の制御を実行して行われる。
以下、図26に示すフローチャートの各ステップの処理について説明する。
図26に示すフローのステップS202〜S208の処理手順は、先に実施例1において説明した図22に示すフローのステップS101〜S107の処理手順と同様であり、図26に示すフローは、図22に示すフローのステップS101の処理の前に、図26に示すステップS201の処理を追加した点が異なる。
以下、実施例2におけるノイズ低減処理について説明する。
(S201)
まず、ステップS201において、撮像素子から入力された例えばRGBベイヤ配列を持つ特定の色フィルタ配列の撮像画像であるRAW画像を入力し、RAW画像の各画素に対応する基準色、例えば輝度値(Y)を算出し、RAW画像の全画素に基準色を設定した基準色画像を生成する。
この処理は、図23に示す基準色算出部301の実行する処理である。
基準色算出部301は、例えば、先に図24、図25を参照して説明したように、ローパスフィルタを適用して、RAW画像の各画素に設定する基準色、たとえば輝度値(Y)の画素値を算出し、基準色画像を生成する。
(S202)
ステップS202において、撮像素子から入力された例えばRGBベイヤ配列を持つ特定の色フィルタ配列の撮像画像であるRAW画像を入力し、RAW画像から、ノイズ低減対象とする局所領域を注目局所領域として選択する。
この処理は、図23に示す局所領域選択部101の実行する処理である。例えば、n×n画素の注目局所領域を選択する
(S203)
次に、ステップS203において、ステップS201で選択した注目局所領域の周辺から、注目局所領域との類似度が高く、かつ、注目局所領域の位相と同位相の類似局所領域を複数選択する。
この処理は、図23に示す類似局所領域選択部102の実行する処理である。
この処理は、先に図5を参照して説明したように、例えば、局所領域選択部101がノイズ低減処理対象領域として選択した注目局所領域Pr210を中心として設定した探索領域202から、注目局所領域Pr210と位相が同一で類似性の高い局所領域Pi(i=1,2,3・・・)を類似度の高い順から、予め規定した数、探索して抽出する処理である。
なお、本実施例において、類似度は、ステップS201で基準色算出部301の生成した基準色画像を用いて実行する。基準色画像における各局所領域間の画素値に基づく差分絶対値和(SAD:Sum of Absolute Differences)、あるいは差分2乗和(SSD:Sum of Squares Differences)を利用する。注目局所領域とのSADあるいはSSDの値が小さい局所領域を順次、選択する。
(S204)
次に、ステップS204において、ステップ202およびステップS203で選択した局所領域群、すなわち、注目局所領域と複数の類似局所領域によって構成される局所領域群の各々に対して、帯域分離処理を行う。具体的には、各局所領域の画素信号を低域信号と高域信号とに分離する。
この処理は、図23に示す帯域分離部103の実行する処理であり、先に図6を参照して説明した処理である。例えば、前述の(式3)、(式4)を適用して各局所領域に対応する低域信号画像と高域信号画像を生成する。
(S205)
次に、ステップS205において、S204で生成した注目局所領域と複数の類似局所領域各々に対応する高域信号画像と、低域信号画像、それぞれに対するノイズ低減処理を行う。すなわち、高域と低域の各帯域別にノイズ低減処理を実行する。
この処理は、図23に示す高域ノイズ低減部104と、低域ノイズ低減部105の実行する処理である。
高域ノイズ低減部104は、例えば、先に図7を参照して説明した各局所領域の高域信号画像からなる3次元データを生成し、この3次元データを適用して高域信号に含まれるノイズ低減処理を実行する。
具体的には、先に、図8〜図18を参照して説明したように、以下の(処理例1)〜(処理例3)のいずれかに従ったノイズ低減処理を実行する。
(処理例1)図8に示すフローチャートに従った3元ウェーブレットシュリンケージによるノイズ低減処理
(処理例2)図17に示すフローチャートに従った2次元ウェーブレット変換+εフィルタ(イプシロンフィルタ)によるノイズ低減処理
(処理例3)図18に示すフローチャートに従ったZ方向のεフィルタ(イプシロンフィルタ)によるノイズ低減処理
高域ノイズ低減部104は、図7に示す各局所領域の高域信号画像からなる3次元データを適用して、上記の(処理例1)〜(処理例3)のいずれかを実行して高域信号に含まれるノイズ低減処理を実行する。
低域ノイズ低減部105も、高域ノイズ低減部104と同様、図7に示す各局所領域の高域信号画像と同様の各局所領域の低域信号画像からなる3次元データを生成し、この3次元データを適用して低域信号に含まれるノイズ低減処理を実行する。
具体的には、先に、図19〜図20を参照して説明したように、以下の(処理例1)〜(処理例2)のいずれかに従ったノイズ低減処理を実行する。
(処理例1)注目局所領域と複数の類似局所領域の各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対して1次元ウェーブレット変換シュリンケージを実行するノイズ低減処理
(処理例2)注目局所領域と複数の類似局所領域の各局所領域単位の同一色(RまたはGまたはB)の平均(DC)信号からなる1次元データ各々に対してεフィルタ(イプシロンフィルタ)を適用するノイズ低減処理
低域ノイズ低減部105は、図7に示す各局所領域の高域信号画像と同様の各局所領域の低域信号画像からなる3次元データを生成し、この3次元データを適用して、上記の(処理例1)〜(処理例2)のいずれかを実行して低域信号に含まれるノイズ低減処理を実行する。
(S206)
次に、ステップS206において、ステップS205でノイズ低減された各帯域信号を合成して、ノイズ低減局所領域画像を生成する。
この処理は、図23に示す帯域合成部106の実行する処理である。
帯域合成部106は、以下の各信号を入力する。
高域ノイズ低減部104から出力された注目局所領域に対応するノイズ低減後の高域信号、
低域ノイズ低減部105から出力された注目局所領域に対応するノイズ低減後の低域信号、
帯域合成部106は、これらの各信号を入力し、これら、注目局所領域のノイズ低減高域信号と、ノイズ低減低域信号を合成して、合成結果を、図4に示すノイズ低減(NR)局所領域画像116として出力する。
この合成処理結果としての信号値(画素値)は、先に説明した(式6)に従って算出可能である。
x,y=Ahigh x,y+Alow x,y ・・・(式6)
ただし、上記(式6)において、各パラメータは以下の通りである。
A:処理対象画像の各画素色、ベイヤ配列の場合R,G,Bのいずれか
x,y:処理対象となる入力局所領域画像の座標(x,y)位置の画素値
low x,y:低域信号画像データの座標(x,y)位置の画素値
high x,y:高域信号画像データの座標(x,y)位置の画素値
帯域合成部106は、上記(式6)に従って、注目局所領域に対するノイズ低減がなされたノイズ低減局所領域画像116を生成して局所領域合成部107に出力する。
(S207)
次に、ステップS207において、画像全体についての処理が完了したか否かを判定する。具体的には、ステップS202で、順次、選択した注目局所領域が入力画像の全領域を網羅したか否かを判定する。
ステップS202で、順次、選択した注目局所領域が入力画像の全領域を網羅し、画像全体についての処理が完了したと判定した場合は、ステップS208に進み、未処理領域がある場合は、ステップS202に戻り、未処理領域の処理、すなわち新たな注目局所領域の選択を行う。
(S208)
ステップS207で全ての画像領域の処理が完了したと判定すると、ステップS208において、S202〜S207の繰り返しで得られたノイズ低減された局所領域の合成処理を実行して、ノイズ低減RAW画像を生成して出力する。
この処理は、図23に示す局所領域合成部107の実行する処理である。
局所領域合成部107は、図23に示すように、帯域合成部106からノイズ低減された局所領域画像であるノイズ低減局所領域画像116を、順次入力し、入力する局所領域画像を合成して1枚のノイズ低減RAW画像117を生成して出力する。
先に図21を参照して説明したように、帯域合成部106から入力するノイズ低減局所領域画像116は、例えば重複領域を有する局所領域画像データであり、局所領域合成部107は、これらの重複領域を考慮して合成処理を行なう。例えば1つの画素に対して、n枚のノイズ低減局所領域画像が入力されている場合、各ノイズ低減局所領域画像の対応画素値を加算し、重複数nで除算して、最終的な画素値を算出する。
本実施例2では、図1に示す撮像装置10の画像処理部16におけるRAWノイズ低減部31は、これらの処理によって、ノイズ低減されたRAW画像を生成して、次段のカメラ信号処理部32に出力する。
カメラ信号処理部32は、RAWノイズ低減部31からノイズ低減された色配列画像(RAW画像)を入力し、各画素に全色を信号処理によって復元するデモザイク処理や、その他の一般的なカメラ信号処理を実行し、出力画像を生成してメモリ格納用画像、あるいは表示部に対する表示用画像として出力する。
なお、上述した実施例においては、処理対象画像とするRAW画像をベイヤ配列を有する画像として説明したが、本開示の処理は、ベイヤ配列に限らず、その他の色配列のRAW画像に対しても適用することができる。
[6.本開示の構成のまとめ]
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
なお、本明細書において開示した技術は、以下のような構成をとることができる。
(1) 各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
前記画像処理部は、
前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択部と、
前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択部と、
前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離部と、
前記帯域分離部の生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減部と、
前記帯域別ノイズ低減部の生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成部と、
前記帯域合成部の生成するノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成部を有する画像処理装置。
(2)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)xy平面データである各局所領域の高域信号に対する2次元ウェーブレット変換処理による局所領域対応の複数の2次元ウェーブレット変換データの生成、
(b)前記局所領域対応の複数の2次元ウェーブレット変換データから生成したz軸方向の一次元画素列の各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(c)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(d)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
(e)前記1次元ウェーブレット逆変換処理後のデータによって構成される注目局所領域対応のxy平面信号に対する2次元ウェーブレット逆変換処理、
上記(a)〜(e)の処理を順次実行して前記注目局所領域の高域信号のノイズ低減処理を実行する前記(1)に記載の画像処理装置。
(3)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する前記(1)または(2)に記載の画像処理装置。
(4)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する前記(1)または(2)に記載の画像処理装置。
(5)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)xy平面データである各局所領域の高域信号に対する2次元ウェーブレット変換処理による局所領域対応の複数の2次元ウェーブレット変換データの生成、
(b)前記局所領域対応の複数の2次元ウェーブレット変換データから生成したz軸方向の一次元画素列の各々に対するεフィルタ(イプシロンフィルタ)適用処理、
(c)前記εフィルタ(イプシロンフィルタ)適用処理後のデータに対する2次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の高域信号のノイズ低減処理を実行する前記(1)に記載の画像処理装置。
(6)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、生成した3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する前記(5)に記載の画像処理装置。
(7)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する前記(5)に記載の画像処理装置。
(8)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の高域信号のノイズ低減処理を実行する前記(1)に記載の画像処理装置。
(9)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、生成した3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する前記(8)に記載の画像処理装置。
(10)前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、前記3次元データを適用した以下の処理、
(a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
(b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
(c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する前記(8)に記載の画像処理装置。
(11)前記帯域分離部は、前記注目局所領域および前記類似局所領域各々の局所領域の色単位の平均値を各局所領域の各色対応低域信号として設定し、前記注目局所領域および前記類似局所領域各々の局所領域の各画素対応の高域信号を、
高域信号=(各画素の画素値)−(各画素対応色平均値)
上記式に従って算出する前記(1)〜(10)いずれかに記載の画像処理装置。
(12)前記画像処理部は、さらに、前記RAW画像に基づいて、前記RAW画像の各画素位置に基準色画素値を設定した基準色画像を生成する基準色算出部を有し、前記類似局所領域選択部は、前記基準色画像を適用して前記注目局所領域との類似度を判定し、前記注目局所領域との類似度の高い類似局所領域を選択する前記(1)〜(11)いずれかに記載の画像処理装置。
(13)前記基準色画素値は輝度値である前記(12)に記載の画像処理装置。
(14)前記RAW画像は、ベイヤ配列を有するRAW画像である前記(1)〜(13)いずれかに記載の画像処理装置。
(15)前記RAW画像は、ベイヤ配列を有するRAW画像であり、前記帯域別ノイズ低減部は、前記注目局所領域と前記類似局所領域の帯域別信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、xy平面データである各局所領域の帯域別信号に対する2次元ウェーブレット変換処理を実行して、輝度信号とその他の信号との分離データを生成し、生成した分離データの各々を適用したノイズ低減を実行する前記(1)〜(14)いずれかに記載の画像処理装置。
(16)前記局所領域選択部は、前記注目局所領域を、重複画素領域を持つ設定として順次選択し、前記局所領域合成部は、重複画素領域を持つノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によるノイズ低減RAW画像を生成する際に、複数のノイズ低減注目局所領域画像に含まれる重複画素領域の画素値の平均化処理を実行してノイズ低減RAW画像の画素値設定を実行する前記(1)〜(15)いずれかに記載の画像処理装置。
(17)画像処理装置において実行する画像処理方法であり、
前記画像処理装置は、各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
前記画像処理部が、
前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択処理と、
前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択処理と、
前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離処理と、
前記帯域分離処理によって生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減処理と、
前記帯域別ノイズ低減処理によって生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成処理と、
前記帯域合成処理によって生成したノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成処理を実行する画像処理方法。
(18)画像処理装置において画像処理を実行させるプログラムであり、
前記画像処理装置は、各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
前記プログラムは、前記画像処理部に、
前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択処理と、
前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択処理と、
前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離処理と、
前記帯域分離処理によって生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減処理と、
前記帯域別ノイズ低減処理によって生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成処理と、
前記帯域合成処理によって生成したノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成処理を実行させるプログラム。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させるか、あるいは、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。例えば、プログラムは記録媒体に予め記録しておくことができる。記録媒体からコンピュータにインストールする他、LAN(Local Area Network)、インターネットといったネットワークを介してプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、明細書に記載された各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。また、本明細書においてシステムとは、複数の装置の論理的集合構成であり、各構成の装置が同一筐体内にあるものには限らない。
以上、説明したように、本開示の一実施例の構成によれば、RAW画像に対するノイズ低減処理を実行する装置、方法が実現される。
具体的には、RAW画像から注目局所領域と、注目局所領域と同一位相を持つ類似局所領域を選択し、これらの局所領域各々を高域信号と低域信号の帯域別信号に分離し、帯域別信号に含まれるノイズの低減処理を実行する。ノイズ低減処理においては、例えば高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、3次元データを適用して2次元ウェーブレット変換、1次元ウェーブレット変換、シュリンケージ処理、1次元および2次元のウェーブレット逆変換を実行して、注目領域のノイズ低減高域信号画像を生成する。
低域信号についても、やはり注目局所領域と類似局所領域データからなる3次元データを適用して、εフィルタを適用した処理、あるいは1次元ウェーブレット変換処理等により、ノイズ低減を実行する。
ノイズ低減された高域信号と低域信号の帯域合成を行ない、注目局所領域対応理ノイズ低減画像を生成し、さらに、各注目局所領域のノイズ低減画像を合成することで、ノイズ低減したRAW画像を生成する。
例えば本開示の一実施例の処理では、局所領域単位のノイズ低減を行なうため、画素位置毎にノイズ低減を行う従来手法に比べ精度のばらつきが生じるリスクが大幅に低減される。また、ノイズ低減処理された局所領域を合成して、最終的なノイズ低減画像にするため、合成によるノイズ低減効果の付加も期待できる。
また、画像の自己相似性を利用して、周辺から類似する局所領域を選択し、注目局所領域と類似局所領域によって構成される3次元データを利用して3次元ノイズ低減処理を行うことにより、高精度なノイズ低減が可能となる。
また、帯域分離を行った後にノイズ低減処理を行う事で、色間の相関を利用でき、また、低域の色の保存も可能となる。
さらに、イメージセンサ出力と同配列の色フィルタ配列のノイズ低減された画像が出力されるため、本処理の後に、色配列の画素位置毎に全色を揃えるデモザイク処理等の従来のカメラ信号処理をそのまま使うことができる。
10 撮像装置
11 レンズ
12 絞り
13 撮像素子
14 サンプリング回路
15 A/D(Analog/Digital)変換部
16 画像処理部(DSP)
17 符号化/復号部
18 メモリ
19 D/A(Digital/Analog)変換部
20 ビデオエンコーダ
21 表示部
22 タイミング生成部
23 操作入力部
24 ドライバ
25 制御部
31 RAWノイズ低減部
32 カメラ信号処理部
51 RAW画像
101 局所領域選択部
102 類似局所領域選択部
103 帯域分離部
104 高域ノイズ低減部
105 低域ノイズ低減部
106 帯域合成部
107 局所領域合成部
117 ノイズ低減RAW画像
301 基準色算出部

Claims (18)

  1. 各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
    前記画像処理部は、
    前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択部と、
    前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択部と、
    前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離部と、
    前記帯域分離部の生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減部と、
    前記帯域別ノイズ低減部の生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成部と、
    前記帯域合成部の生成するノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成部を有する画像処理装置。
  2. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    前記3次元データを適用した以下の処理、
    (a)xy平面データである各局所領域の高域信号に対する2次元ウェーブレット変換処理による局所領域対応の複数の2次元ウェーブレット変換データの生成、
    (b)前記局所領域対応の複数の2次元ウェーブレット変換データから生成したz軸方向の一次元画素列の各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
    (c)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
    (d)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
    (e)前記1次元ウェーブレット逆変換処理後のデータによって構成される注目局所領域対応のxy平面信号に対する2次元ウェーブレット逆変換処理、
    上記(a)〜(e)の処理を順次実行して前記注目局所領域の高域信号のノイズ低減処理を実行する請求項1に記載の画像処理装置。
  3. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    前記3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する請求項2に記載の画像処理装置。
  4. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    前記3次元データを適用した以下の処理、
    (a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
    (b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
    (c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
    上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する請求項2に記載の画像処理装置。
  5. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    前記3次元データを適用した以下の処理、
    (a)xy平面データである各局所領域の高域信号に対する2次元ウェーブレット変換処理による局所領域対応の複数の2次元ウェーブレット変換データの生成、
    (b)前記局所領域対応の複数の2次元ウェーブレット変換データから生成したz軸方向の一次元画素列の各々に対するεフィルタ(イプシロンフィルタ)適用処理、
    (c)前記εフィルタ(イプシロンフィルタ)適用処理後のデータに対する2次元ウェーブレット逆変換処理、
    上記(a)〜(c)の処理を順次実行して前記注目局所領域の高域信号のノイズ低減処理を実行する請求項1に記載の画像処理装置。
  6. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    生成した3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する請求項5に記載の画像処理装置。
  7. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    前記3次元データを適用した以下の処理、
    (a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
    (b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
    (c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
    上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する請求項5に記載の画像処理装置。
  8. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の高域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    前記3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の高域信号のノイズ低減処理を実行する請求項1に記載の画像処理装置。
  9. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の低域信号の各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    生成した3次元データから生成したz軸方向の複数の一次元データ各々に対するεフィルタ(イプシロンフィルタ)の適用処理により、前記注目局所領域の低域信号のノイズ低減処理を実行する請求項8に記載の画像処理装置。
  10. 前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の低域信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    前記3次元データを適用した以下の処理、
    (a)前記3次元データから生成したz軸方向の複数の一次元データ各々に対する1次元ウェーブレット変換処理による複数の1次元ウェーブレット変換データの生成、
    (b)前記複数の1次元ウェーブレット変換データ各々に対するシュリンケージ処理、
    (c)前記シュリンケージ処理後の複数の1次元ウェーブレット変換データ各々に対する1次元ウェーブレット逆変換処理、
    上記(a)〜(c)の処理を順次実行して前記注目局所領域の低域信号のノイズ低減処理を実行する請求項8に記載の画像処理装置。
  11. 前記帯域分離部は、
    前記注目局所領域および前記類似局所領域各々の局所領域の色単位の平均値を各局所領域の各色対応低域信号として設定し、
    前記注目局所領域および前記類似局所領域各々の局所領域の各画素対応の高域信号を、
    高域信号=(各画素の画素値)−(各画素対応色平均値)
    上記式に従って算出する請求項1に記載の画像処理装置。
  12. 前記画像処理部は、さらに、
    前記RAW画像に基づいて、前記RAW画像の各画素位置に基準色画素値を設定した基準色画像を生成する基準色算出部を有し、
    前記類似局所領域選択部は、
    前記基準色画像を適用して前記注目局所領域との類似度を判定し、前記注目局所領域との類似度の高い類似局所領域を選択する請求項1に記載の画像処理装置。
  13. 前記基準色画素値は輝度値である請求項12に記載の画像処理装置。
  14. 前記RAW画像は、ベイヤ配列を有するRAW画像である請求項1に記載の画像処理装置。
  15. 前記RAW画像は、ベイヤ配列を有するRAW画像であり、
    前記帯域別ノイズ低減部は、
    前記注目局所領域と前記類似局所領域の帯域別信号各々をxy平面に設定してz軸方向に重ねた3次元データを生成し、
    xy平面データである各局所領域の帯域別信号に対する2次元ウェーブレット変換処理を実行して、輝度信号とその他の信号との分離データを生成し、生成した分離データの各々を適用したノイズ低減を実行する請求項1に記載の画像処理装置。
  16. 前記局所領域選択部は、前記注目局所領域を、重複画素領域を持つ設定として順次選択し、
    前記局所領域合成部は、
    重複画素領域を持つノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によるノイズ低減RAW画像を生成する際に、
    複数のノイズ低減注目局所領域画像に含まれる重複画素領域の画素値の平均化処理を実行してノイズ低減RAW画像の画素値設定を実行する請求項1に記載の画像処理装置。
  17. 画像処理装置において実行する画像処理方法であり、
    前記画像処理装置は、各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
    前記画像処理部が、
    前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択処理と、
    前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択処理と、
    前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離処理と、
    前記帯域分離処理によって生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減処理と、
    前記帯域別ノイズ低減処理によって生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成処理と、
    前記帯域合成処理によって生成したノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成処理を実行する画像処理方法。
  18. 画像処理装置において画像処理を実行させるプログラムであり、
    前記画像処理装置は、各画素に特定色の画素値が設定されたRAW画像を入力画像とし、該入力画像に含まれるノイズ成分を低減する画像処理部を有し、
    前記プログラムは、前記画像処理部に、
    前記入力画像から処理対象領域としての注目局所領域を選択する局所領域選択処理と、
    前記注目局所領域と同一位相を持ち、かつ前記注目局所領域との類似度が高い類似局所領域を選択する類似局所領域選択処理と、
    前記注目局所領域および前記類似局所領域各々の局所領域を高域信号と低域信号の帯域別信号に分離する帯域分離処理と、
    前記帯域分離処理によって生成した帯域別信号に含まれるノイズの低減処理を実行する帯域別ノイズ低減処理と、
    前記帯域別ノイズ低減処理によって生成したノイズ低減後の帯域別信号を合成して、ノイズ低減注目局所領域画像を生成する帯域合成処理と、
    前記帯域合成処理によって生成したノイズ低減注目局所領域画像を順次入力し、入力画像の合成処理によりノイズ低減RAW画像を生成する局所領域合成処理を実行させるプログラム。
JP2012240079A 2012-10-31 2012-10-31 画像処理装置、および画像処理方法、並びにプログラム Pending JP2014090359A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012240079A JP2014090359A (ja) 2012-10-31 2012-10-31 画像処理装置、および画像処理方法、並びにプログラム
US14/030,307 US20140118580A1 (en) 2012-10-31 2013-09-18 Image processing device, image processing method, and program
CN201310505255.9A CN103795990A (zh) 2012-10-31 2013-10-24 图像处理装置、图像处理方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012240079A JP2014090359A (ja) 2012-10-31 2012-10-31 画像処理装置、および画像処理方法、並びにプログラム

Publications (1)

Publication Number Publication Date
JP2014090359A true JP2014090359A (ja) 2014-05-15

Family

ID=50546762

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012240079A Pending JP2014090359A (ja) 2012-10-31 2012-10-31 画像処理装置、および画像処理方法、並びにプログラム

Country Status (3)

Country Link
US (1) US20140118580A1 (ja)
JP (1) JP2014090359A (ja)
CN (1) CN103795990A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015008414A (ja) * 2013-06-25 2015-01-15 アキュートロジック株式会社 画像処理装置、画像処理方法及び画像処理プログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6071419B2 (ja) * 2012-10-25 2017-02-01 キヤノン株式会社 画像処理装置及び画像処理方法
CN109171815B (zh) * 2018-08-27 2021-08-03 香港理工大学 超声装置、超声方法以及计算机可读介质
CN114666469B (zh) * 2020-12-24 2023-11-14 富泰华工业(深圳)有限公司 图像处理装置、方法及具有该图像处理装置的镜头模组

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070035634A1 (en) * 2005-08-12 2007-02-15 Edgar Albert D System and method for reduction of chroma aliasing and noise in a color-matrixed sensor
CN100562065C (zh) * 2005-08-15 2009-11-18 索尼株式会社 摄像装置、降噪装置、降噪方法
KR101119268B1 (ko) * 2010-03-10 2012-03-20 삼성전자주식회사 영상의 컬러 잡음 제거 방법 및 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015008414A (ja) * 2013-06-25 2015-01-15 アキュートロジック株式会社 画像処理装置、画像処理方法及び画像処理プログラム

Also Published As

Publication number Publication date
US20140118580A1 (en) 2014-05-01
CN103795990A (zh) 2014-05-14

Similar Documents

Publication Publication Date Title
JP4730082B2 (ja) 画像信号処理装置、撮像装置、および画像信号処理方法、並びにコンピュータ・プログラム
US20090160992A1 (en) Image pickup apparatus, color noise reduction method, and color noise reduction program
WO2014017153A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
US8861846B2 (en) Image processing apparatus, image processing method, and program for performing superimposition on raw image or full color image
JP2003324750A (ja) 電子スチルカメラ及び画像処理方法
JP2010062785A (ja) 画像処理装置、撮像装置、固体撮像素子、画像処理方法およびプログラム
JP2004128985A (ja) 撮像システム、再生システム、撮像プログラム、再生プログラム
JP2011097568A (ja) 撮像装置
JP2012186593A (ja) 画像処理装置、および画像処理方法、並びにプログラム
WO2007077730A1 (ja) 撮像システム、画像処理プログラム
JP6714078B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
CN103873836B (zh) 图像处理设备和图像处理方法
JP2010153969A (ja) 撮像装置
JP2013017142A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP2008258932A (ja) 画像処理装置
JP2014090359A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP2015122634A (ja) 画像処理装置、撮像装置、プログラム及び画像処理方法
JP5092536B2 (ja) 画像処理装置及びそのプログラム
JP5291788B2 (ja) 撮像装置
JP4810807B2 (ja) 動画像変換装置、動画像復元装置、および方法、並びにコンピュータ・プログラム
JP5268321B2 (ja) 画像処理装置及び画像処理方法、画像処理プログラム
JP6032912B2 (ja) 撮像装置、その制御方法及びプログラム
JP5919086B2 (ja) 画像処理装置及びその制御方法、並びにプログラム
JP5227906B2 (ja) 映像記録システム
JP7183015B2 (ja) 画像処理装置、画像処理方法、及びプログラム