JP7328096B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP7328096B2
JP7328096B2 JP2019167259A JP2019167259A JP7328096B2 JP 7328096 B2 JP7328096 B2 JP 7328096B2 JP 2019167259 A JP2019167259 A JP 2019167259A JP 2019167259 A JP2019167259 A JP 2019167259A JP 7328096 B2 JP7328096 B2 JP 7328096B2
Authority
JP
Japan
Prior art keywords
patch
image processing
patches
noise
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019167259A
Other languages
English (en)
Other versions
JP2021043874A5 (ja
JP2021043874A (ja
Inventor
洋佑 高田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019167259A priority Critical patent/JP7328096B2/ja
Priority to US17/018,645 priority patent/US11410279B2/en
Publication of JP2021043874A publication Critical patent/JP2021043874A/ja
Priority to US17/859,985 priority patent/US11734802B2/en
Publication of JP2021043874A5 publication Critical patent/JP2021043874A5/ja
Application granted granted Critical
Publication of JP7328096B2 publication Critical patent/JP7328096B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像された画像を処理する画像処理技術に関する。
近年、デジタルカメラ等の撮像装置に対して、暗所や夜間などの環境下でも高画質な画像を得られる要求が高まりつつある。このような環境下では高感度撮影を行う必要があり、十分なSN比が得られないためにノイズによって画質が低下してしまう。このため、ノイズ低減技術の重要性が認識されてきている。
これに対し、近年、特許文献1や非特許文献1に開示されているように、パッチベースのノイズ低減手法(以降では、「パッチベース手法」と呼ぶ。)が有効であることが広く知られている。パッチベース手法は、画像を局所領域(以降では「パッチ」と呼ぶ。)に分解し、任意の着目パッチに類似したパッチ(以降では「類似パッチ」と呼ぶ。)の集合を用いてノイズ低減処理を行うことで、従来よりも高いノイズ低減性能を得る技術である。
特開2013-26669号公報
A. Buades, M. Lebrun, and J.M. Morel. A Non-local Bayesian image denoising algorithm, SIAM Journal on Imaging Science, 2013.
前述のパッチベース手法は、類似パッチを十分な数だけ集めなければ良好なノイズ低減効果が得られない。しかしながら、画質向上のために類似パッチの数を過剰に増やすと、平坦部の色つきやエッジのぼけといった画質弊害が発生する場合があった。
そこで本発明は、良好なノイズ低減効果を得つつ画質弊害の発生を抑制可能にすることを目的とする。
本発明は、像処理装置であって、入力画像にいて着目パッチと該着目パッチの近傍の領域とを設定する設定手段と、前記設定された領域のノイズ量に基づいて、前記着目パッチへのノイズ低減処理に用いられる参照パッチとして検出するパッチ数を決定する決定手段と、前記入力画像から前記参照パッチを前記決定されたパッチ数分、探索する探索手段と、前記探索された参照パッチを用いて、前記着目パッチノイズ低減処理を行うノイズ低減手段と、前記ノイズ低減処理され複数のパッチ群を合成した画像を生成する生成手段と、を有することを特徴とする。
本発明によれば、良好なノイズ低減効果を得つつ画質弊害の発生を抑制可能となる。
画像処理装置の構成例を示す図である。 画像処理装置の論理構成を示すブロック図である。 実施形態1のパッチ数決定部の論理構成を示すブロック図である。 実施形態1の探索部の論理構成を示すブロック図である。 画像処理装置における画像処理の流れを示すフローチャートである。 実施形態1の類似パッチ数決定処理の流れを示すフローチャートである。 実施形態1の類似パッチ数決定処理の説明に用いる図である。 実施形態2のパッチ数決定部の論理構成を示すブロック図である。 実施形態2の類似パッチ数決定処理の流れを示すフローチャートである。 実施形態3のパッチ数決定部の論理構成を示すブロック図である。 実施形態3の類似パッチ数決定処理の流れを示すフローチャートである。 実施形態4のパッチ数決定部の論理構成を示すブロック図である。 実施形態4の類似パッチ数決定処理の流れを示すフローチャートである。
以下、実施形態を、添付の図面に基づいて詳細に説明する。なお、以下の実施形態は本発明を必ずしも限定するものではない。
図1は、本実施形態の画像処理装置100の概略構成例を示す図である。
本実施形態の画像処理装置100は、CPU(中央処理ユニット)101、RAM(ランダムアクセスメモリ)102、HDD(ハードディスクドライブ)103、汎用I/Fインターフェース)104、モニタ108、およびメインバス109等を備えている。汎用I/F104は、カメラなどの撮像装置105や、マウス、キーボードなどの入力装置106、およびメモリカードなどの外部メモリ107を、メインバス109に接続する。なお、HDD103の他に、光ディスクドライブやフラッシュメモリなど、様々な記憶デバイスが用いられてもよい。また画像処理装置100の構成要素は、これら各構成要素以外にも存在するが、ここでは説明を省略する。
CPU101は、HDD103に格納された各種ソフトウェア(OSやアプリケーションプログラムなどのコンピュータプログラム)を実行することで、メインバス109を介して各構成要素を統括的に制御し、また各種情報処理を行う。以下の説明では、CPU101が、HDD103に格納されている各種ソフトウェアのうち、本実施形態に係る画像処理アプリケーションプログラム(以下、画像処理プログラムとする。)を実行することで実現する画像処理について述べる。
CPU101は、まずHDD103に格納されている画像処理プログラムをRAM102に展開して起動し、モニタ108にユーザインターフェース(UI)画面を表示する。続いて、HDD103や外部メモリ107に格納されている各種データ、撮像装置105で撮影された画像データ、入力装置106からの指示などがRAM102に転送される。さらに、CPU101は、画像処理プログラムの処理に従って、RAM102に格納されているデータに対して各種演算を実行する。そして、CPU101は、その演算結果をモニタ108に表示したり、HDD103または外部メモリ107に格納したりする。なお、HDD103や外部メモリ107に格納されている画像データはRAM102に転送されてもよい。また、不図示のネットワークを介してサーバ等から送信された画像データがRAM102に転送されてもよい。
以下、図1の構成において、CPU101が画像処理プログラムを実行することで、画像のノイズを低減し、そのノイズ低減後の画像データを出力する処理の詳細について説明する。
<実施形態1>
以下、実施形態1に係る画像処理として、画像処理装置100が、入力画像における局所領域をパッチとして用いてノイズ低減処理を行う例を挙げる。本実施形態の画像処理装置100は、着目パッチとその周辺の小領域のノイズ量とに基づいて、適応的に類似パッチ数を決定することで、好適な画質を得ることが可能なノイズ低減処理を実現する。
図2は、図1に示した実施形態の画像処理装置100における論理構成を示したブロック図である。図2に示すように、本実施形態の画像処理装置100は、入力部201、記憶部202、処理部203、出力部204により構成されている。また、処理部203は、着目パッチ設定部205、小領域設定部206、パッチ数決定部207、探索部208、ノイズ低減部209、及び合成部210の各機能を有する。これら論理構成の各構成要素は、CPU101が本実施形態に係る画像処理プログラムを実行することにより形成される。
図2において、入力部201は、画像データおよび画像処理パラメータを、画像処理装置100に入力する。入力されるデータは、撮像装置105或いはHDD103や外部メモリ107から取得されたデータである。勿論、入力データは、撮像装置105で撮影した画像データをHDD103などの記憶装置に一旦記憶した後に取得されたものでもよい。
記憶部202は、入力部201により取得された画像データ、画像処理パラメータ、及び画像処理した結果の画像データなどを、図1のRAM102、HDD103、または外部メモリ107などに記憶する。勿論、記憶部202は、それら記憶されたデータを読み出すことも可能である。
処理部203は、入力部201或いは記憶部202から画像データと画像処理パラメータを読み込んで画像処理を行う。処理部203は、その画像処理結果を記憶部202や出力部204に出力する。処理部203における画像処理の詳細は後述する。
出力部204は、処理部203による画像処理の結果の画像データや、記憶部202に記憶された画像データなどを、モニタ108やHDD103などに出力する。なお、出力先はこれに限られるものではなく、例えば汎用I/F104に接続した外部メモリ107や不図示の外部サーバに出力してもよいし、プリンタなどを接続して出力しても構わない。
また、処理部203のパッチ数決定部207は、図3に示すようにノイズ量算出部301、及びパッチ数算出部302の機能を有する。これらの詳細は後述する。
さらに、探索部208は、図4に示すように参照パッチ設定部401、類似度算出部402、パッチ選択部403としての機能を有する。これらの詳細は後述する。
以下、本実施形態におけるノイズ低減処理について、図2~図4および図5のフローチャートを参照して説明する。図5に示されるフローチャートの処理は、CPU101が本実施形態に係る画像処理プログラムを実行することで実現される。
ステップS501において、入力部201は、入力画像データと画像処理パラメータを入力して、記憶部202に記憶する。画像処理パラメータには、着目パッチのサイズや小領域のサイズなどが含まれる。
次にステップS502において、着目パッチ設定部205は、処理対象である入力画像データからステップS501で取得したサイズの着目パッチを設定する。着目パッチ設定部205は、入力画像データの中からノイズ低減処理を行うべき全ての画素が包含されるように、順に、着目パッチを設定する。例えば、着目パッチ設定部205は、入力画像の全画素に対し、その位置を基準とする既定のサイズおよび形状のパッチを、ラスタ走査で順に着目パッチとして設定していく。なお、処理時間を短縮するために、着目パッチを適切に間引くことも有効である。
次にステップS503において、小領域設定部206は、入力画像データから着目パッチ近傍の小領域を設定する。本実施形態の場合、小領域設定部206は、着目パッチを中心とする矩形領域を小領域として設定する。
次にステップS504において、パッチ数決定部207は、小領域のノイズ量に基づいて類似パッチ数を決定する。類似パッチ数の決定手順について、図3に示したパッチ数決定部207の構成と図6のフローチャートとを参照して説明する。
ステップS601において、パッチ数決定部207のノイズ量算出部301は、小領域内の画素値の分散をノイズ量として算出する。このとき、ノイズ量算出部301は、ラプラシアンフィルタのような微分フィルタを用いて小領域内のエッジ画素を検出し、エッジ画素を除いた画素から分散を算出する。ノイズ量の算出方法はこれに限定されず、小領域内のノイズ量を示すことができる指標であれば何でもよい。
次にステップS602において、パッチ数算出部302は、小領域内のノイズ量、着目パッチのサイズ、及び類似パッチを探索するための探索領域のサイズに基づいて、類似パッチ数を算出する。探索領域のサイズは、着目パッチのサイズを基に決定され、例えば着目パッチのn倍+1(本実施形態ではn=5)のサイズとする。探索領域のサイズの算出方法はこれに限定されず、画像処理パラメータとして入力した値を用いてもよい。そして、パッチ数算出部302は、3つの要素を算出した後、下記の式(1)により類似パッチ数を算出する。
N=β・p・σ2 式(1)
ここで、式(1)中のNは類似パッチ数、pは着目パッチのサイズ、σ2は小領域内のノイズ量、βは図7に示すように予め用意したLUT(ルックアップテーブル)から探索領域のサイズZに対応する係数を参照することで求まる。ノイズ量σ2が多いほどノイズを低減するために類似パッチ数Nは多くなり、例えば、p=6、σ2=4、Z=31の場合、N=72となり、p=6、σ2=6、Z=31の場合、N=108となる。ただし、後段のノイズ低減処理において、共分散行列を算出するために最低限必要な類似パッチ数を設定する必要があり、この数はp2+1で算出される。なお、計算コストを削減するため、小領域内のノイズ量を動的に算出するのではなく、事前にISO感度別に測定したノイズ量を用いてもよい。
図5のフローチャートに説明を戻し、ステップS505において、探索部208は、入力画像から類似パッチを類似パッチ数分、探索する。このため、探索部208では、まず図4の参照パッチ設定部401が、入力画像データから複数の参照パッチを抽出する。参照パッチは、着目パッチを基準に定められる一定の座標範囲に含まれるパッチであり、着目パッチと同じサイズ、形状である。参照パッチは互いに重複していてもよい。例えば、参照パッチ設定部401は、着目パッチを水平方向および垂直方向にW画素以内の距離だけずらした位置のパッチを全て参照パッチとする。
次に、類似度算出部402は、着目パッチと各参照パッチとの間の類似度を算出する。類似度としては、パッチ内各画素の差分二乗和(SSD)や絶対値和(SAD)など一般に知られている類似度距離を用いることができる。
そして、パッチ選択部403は、類似度に基づき参照パッチの中からN個の参照パッチを類似パッチとして選択する。類似パッチを選択する方法としては、例えば類似度距離をソートし、上位N個のパッチだけを類似パッチとして選択する。
次にステップS506において、ノイズ低減部209は、入力されたパッチ群に対しノイズ低減処理を行う。ノイズ低減処理としては任意のパッチベース手法を用いることができる。本実施形態では、非特許文献1に開示された手法を用いる場合を例にとり説明する。ノイズ低減部209は、まず式(2)で表されるように、着目および類似パッチの集合であるパッチ群を表す行列Pを生成する。ここで、式(2)中のx0は着目パッチ、x1~xNは類似パッチの画素値を並べた列ベクトルをそれぞれ表す。また、ノイズ低減部209は、式(3)で表されるように、行列Pの行(水平)方向に平均をとって得られる平均パッチをN+1列繰り返し、行列Pmを生成する。さらに、式(4)で表されるように、共分散行列Cを算出する。そして、ノイズ低減部209は、共分散行列Cを用いてノイズが低減されたパッチの集合Pdを式(5)に従い算出する。このような演算処理により、入力されたパッチ群の各パッチに対しノイズが低減されたノイズ低減済みパッチ群が生成される。
P=[x01 … xN] 式(2)
Figure 0007328096000001
C=(1/N)(P-Pm)(P-PmT 式(4)
なお、式(4)中のTは行列の転置を表す。
d=P-vC-1(P-Pm) 式(5)
ここで、式(5)中のvはノイズの分散値を表し、Pdの各列はPの各列に対応するパッチに対しノイズが低減されたパッチとなっている。
非特許文献1の手法においては、さらなるノイズ低減効果を得るために、2段階の処理が行われている。このためノイズ低減部209は、1段階目の処理として、各着目パッチに対し式(2)~式(5)までの演算処理を行うことによりノイズが低減されたパッチ群を生成し、パッチ統合処理によりノイズが低減された第1の画像を生成する。そしてノイズ低減部209は、2段階目の処理として、1段階目で生成された第1のノイズ低減済み画像を入力画像として同様の処理を行うことで、第2のノイズ低減済み画像を生成する。
前述した手法では、式(6)で表されるように、共分散行列の対角成分からvを差し引いて得られる行列が、ノイズが除去されたパッチ群に対して同様に算出される共分散行列C0の良い近似であることが前提となっている。
Figure 0007328096000002
ここで、式(6)中のIは単位行列を表す。また、式(5)の近似精度は、類似パッチ数Nが増えるほど向上する。より詳細には、式(5)の右辺の各要素のC0に対する誤差は、大数の法則に従い、N+1の平方根に逆比例する。このため、Nを増やすことは式(4)によるPdの推定精度を高め、結果としてノイズ低減性能の向上につながる。
次にステップS507において、着目パッチ設定部205は、未処理の着目パッチがあるか否かを判定する。着目パッチ設定部205は、未処理の着目パッチがあると判定した場合にはステップS502に処理を戻し、そうでない場合はステップS508へ進む。なお、処理時間を短縮するために、一度類似パッチとして選択されたパッチは以後着目パッチとして選択しない、などの方法を採ってもよい。
ステップS508に進むと、合成部210は、ノイズ低減済みパッチ群を用いてノイズ低減済み画像を生成する。ノイズ低減済みパッチ群は互いに重複しうる。そのため、各画素に対して複数の出力パッチからの画素値を統合した1つの値を決定する必要がある。非特許文献1の手法では、各画素に対して複数の出力パッチからの画素値の平均値を出力しているが、この方法に限定されることはない。
<実施形態2>
次に実施形態2について説明する。前述した実施形態1では、着目パッチを含む小領域から算出したノイズ量に基づいて類似パッチ数が決定される。実施形態2では、予めISO感度別に測定したノイズ量と小領域のノイズ量とを用いて類似パッチ数を決定する例について説明する。なお、装置構成や処理フローにおいて、前述の実施形態1と同じ部分については図示および説明を省略する。
以下、実施形態2のパッチ数決定部207で行われる処理について、図8に示すブロック図と図9に示すフローチャートとを参照して説明する。図8は実施形態2のパッチ数決定部207の論理構成を示したブロック図であり、図9は実施形態2の類似パッチ数決定処理の流れを示したフローチャートである。
図8に示すように、実施形態2のパッチ数決定部207は、ノイズ量算出部801、比率算出部802、パッチ数算出部803としての機能を有する。なお、ノイズ量算出部801は、実施形態1のノイズ量算出部301と同じである。
まずステップS901において、ノイズ量算出部801は、小領域内における画素値の分散σ2を算出する。
次にステップS902において、比率算出部802は、分散σ2を、ISO感度別に測定したノイズ分散σ0 2で割ることにより分散の比率Rを算出する。
次にステップS903において、パッチ数算出部803は、小領域内の分散の比率R、着目パッチのサイズ、及び類似パッチを探索するための探索領域のサイズに基づいて、式(7)により類似パッチ数Nを算出する。
N=(β・p2)/R 式(7)
この式(7)は、分散の比率Rが小さいほど、類似パッチ数を多くすることを表している。この理由として、分散値の比率Rが小さいほど小領域内のテクスチャが乏しい(平坦部)であることを示しており、平坦部ほど類似パッチ数を多くする必要があるからである。
<実施形態3>
次に実施形態3について説明する。前述した実施形態1および実施形態2では、着目パッチを含む小領域のノイズ量に基づいて類似パッチ数が決定される。実施形態3では、小領域のノイズ量だけでなく、小領域に含まれる情報を補助情報として用いることで、類似パッチ数を決定する例について説明する。なお、装置構成や処理フローにおいて実施形態1と同じ部分については図示と説明を省略する。
以下、実施形態3のパッチ数決定部207で行われる処理について、図10に示したブロック図と図11に示すフローチャートを参照して説明する。図10は実施形態3のパッチ数決定部207の論理構成を示したブロック図であり、図11は実施形態3の類似パッチ数決定処理の流れを示したフローチャートである。
図10に示すように、実施形態3のパッチ数決定部207は、ノイズ量算出部1001、解析部1002、およびパッチ数算出部1003としての機能を有する。なお、ノイズ量算出部1001は、実施形態1のノイズ量算出部301と同じである。
まずステップS1101において、ノイズ量算出部1001は、小領域のノイズ量を算出する。算出方法は実施形態1と同じである。
次にステップS1102において、解析部1002は、小領域内のエッジ強度を算出する。
次にステップS1103において、パッチ数算出部1003は、式(1)にエッジ強度を付加した式(8)よりモデル生成用のパッチ数を算出する。
N=(β・p・σ2)/(w・E) 式(8)
ここで、式(8)中のEはエッジ強度、wは重みを示している。この式(8)により、エッジ強度Eが小さいほど類似パッチ数Nは多くなる。この理由として、エッジ強度Eが小さいほど小領域内のテクスチャが乏しい(平坦部)であることを示しており、平坦部ほど類似パッチ数を多くする必要があるからである。
本実施形態では、エッジ強度を補助情報として用いたが、これに限定されず、エッジの方向、微分値の解析値、フーリエスペクトルの高周波成分の代表値を用いることができる。なお、微分値とは、水平方向ないしは垂直方向の隣接画素との差分値である。また、その解析値として、微分値を並べたベクトルに対するノルムや、水平方向および垂直方向の微分値を並べた行列の特異値分解から得られる特異値を用いることができる。
<実施形態4>
次に実施形態4について説明する。実施形態1と実施形態2では小領域のノイズ量に基づいてモデル生成用のパッチ数を決定し、実施形態3では小領域のノイズ量だけでなく補助情報として用いることでモデル生成用のパッチ数を決定する例について説明した。実施形態4では、小領域のノイズ量だけでなく、彩度を補助情報として用いることで類似パッチ数を決定する例について説明する。なお、装置構成や処理フローにおいて実施形態1と同じ部分については図および説明を省略する。
以下、実施形態4の画像処理装置で行われる処理について、図12に示すブロック図と、図13に示すフローチャートを参照して説明する。図12は実施形態4のパッチ数決定部207の論理構成を示したブロック図であり、図13は実施形態4の類似パッチ数決定処理の流れを示したフローチャートである。
図12に示すように、実施形態4のパッチ数決定部207は、ノイズ量算出部1201、分離部1202、彩度算出部1203、パッチ数算出部1204としての機能を有する。なお、ノイズ量算出部1201は、実施形態1のノイズ量算出部301と同じである。
まずステップS1301において、ノイズ量算出部1201は、小領域のノイズ量を算出する。算出方法は実施形態1と同じである。
次にステップS1302において、分離部1202は、小領域における画素毎のR(赤)G(緑)B(青)信号を輝度信号Yと色差信号U,Vに分離する。
次にステップS1303において、彩度算出部1203は、輝度信号Yと色差信号U,Vから彩度を画素毎に算出する。
そしてステップS1304において、パッチ数算出部1204は、式(1)に小領域の平均彩度を付加した式(9)により類似パッチ数を算出する。
N=k・C・β・p・σ2 式(9)
ここで、式(9)中のkは重み、Cは小領域の平均彩度を示している。式(9)によれば、彩度が大きいほど類似パッチ数Nが多くなる。なお、平均彩度は小領域における全画素の彩度の平均値である。
本実施形態では、小領域の彩度を補助情報として用いたが、着目パッチの彩度を用いてもよい。また、事前に入力画像データのRGB信号を輝度信号Yと色差信号U,Vに分解し、各信号に対して算出した類似パッチ数に基づいてノイズ低減処理を行い、RGB信号に戻してもよい。このとき、彩度がある判定値以上(th以上)である場合は色差信号U,V用の類似パッチ数を輝度信号Y用の類似パッチ数よりも多くする。これは、彩度が高いほど色差信号のノイズ量が多くなり、これを低減するには多くの類似パッチが必要だからである。
以上説明したように、本発明の各実施形態によれば、パッチベース手法によるノイズ低減処理において、類似パッチの数を適切に決定することで好適な画質を得ることが可能となる。
以上、本発明の各実施形態について説明したが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の各実施形態の一部を適宜組み合わせることも可能である。
前述した実施形態では、デジタルカメラ等の撮像装置で撮像された入力画像を処理する例を挙げたが、入力画像はデジタルカメラで撮像されたものに限定されない。入力画像は、例えば監視カメラ、カメラ機能を備えたパーソナルコンピュータやタブレット端末、スマートフォン、携帯ゲーム機などの各種情報端末、カムコーダ、車載カメラ、あるいは工業用カメラ等で取得された画像であってもよい。
前述した実施形態に係る構成または各フローチャートの処理は、ハードウェア構成により実現されてもよいし、例えばCPUが本実施形態に係るプログラムを実行することによりソフトウェア構成により実現されてもよい。また、一部がハードウェア構成で残りがソフトウェア構成により実現されてもよい。ソフトウェア構成のためのプログラムは、予め用意されている場合だけでなく、不図示の外部メモリ等の記録媒体から取得されたり、不図示のネットワーク等を介して取得されたりしてもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける一つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
100:画像処理装置、203:処理部、205:着目パッチ設定部、206:小領域設定部、207:パッチ数決定部、208:探索部、209:ノイズ低減部、210:合成部

Claims (11)

  1. 像処理装置であって、
    入力画像にいて着目パッチと該着目パッチの近傍の領域とを設定する設定手段と、
    前記設定された領域のノイズ量に基づいて、前記着目パッチへのノイズ低減処理に用いられる参照パッチとして検出するパッチ数を決定する決定手段と、
    前記入力画像から前記参照パッチを前記決定されたパッチ数分、探索する探索手段と、
    前記探索された参照パッチを用いて、前記着目パッチノイズ低減処理を行うノイズ低減手段と、
    前記ノイズ低減処理され複数のパッチ群を合成した画像を生成する生成手段と、
    を有することを特徴とする画像処理装置。
  2. 前記決定手段は、前記設定された領域のノイズ量と前記着目パッチのサイズとを基に、前記参照パッチを探索する探索領域を決定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記決定手段は、前記設定された領域のノイズ量と補助情報とを用いて前記参照パッチ数を決定することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記補助情報は、前記設定された領域のノイズ量と予め感度別に測定したノイズ量との比率であり、
    前記決定手段は、前記比率が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。
  5. 前記補助情報は、前記設定された領域におけるエッジ強度を示す値であり、
    前記決定手段は、前記エッジ強度の値が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。
  6. 前記補助情報は、前記設定された領域におけるフーリエスペクトルの高周波成分の代表値であり、
    前記決定手段は、前記代表値が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。
  7. 前記補助情報は、前記設定された領域における微分値であり、
    前記決定手段は、前記微分値が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。
  8. 前記補助情報は、前記着目パッチまたは前記設定された領域の彩度であり、
    前記決定手段は、前記彩度が大きいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。
  9. 前記決定手段は、前記着目パッチまたは前記設定された領域の信号を輝度信号と色差信号とに分解し、前記輝度信号と色差信号に対してノイズ低減処理を実施する場合、前記色差信号から算出した彩度が判定値以上のとき、前記色差信号のノイズ低減処理に用いる前記参照パッチ数を前記輝度信号のノイズ低減処理に用いる前記参照パッチ数よりも多くすることを特徴とする請求項8に記載の画像処理装置。
  10. 像処理装置が実行する画像処理方法であって、
    入力画像にいて着目パッチと該着目パッチの近傍の領域とを設定する設定工程と、
    前記設定された領域のノイズ量に基づいて、前記着目パッチへのノイズ低減処理に用いられる参照パッチとして検出するパッチ数を決定する決定工程と、
    前記入力画像から前記参照パッチを前記決定されたパッチ数分、探索する探索工程と、
    前記探索された参照パッチを用いて、前記着目パッチにノイズ低減処理を行うノイズ低減工程と、
    前記ノイズ低減処理された複数のパッチ群を合成した画像を生成する生成工程と、
    を有することを特徴とする画像処理方法。
  11. コンピュータを請求項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2019167259A 2019-09-13 2019-09-13 画像処理装置、画像処理方法、およびプログラム Active JP7328096B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019167259A JP7328096B2 (ja) 2019-09-13 2019-09-13 画像処理装置、画像処理方法、およびプログラム
US17/018,645 US11410279B2 (en) 2019-09-13 2020-09-11 Image processing apparatus, image processing method, and storage medium
US17/859,985 US11734802B2 (en) 2019-09-13 2022-07-07 Image processing apparatus, method, and storage medium for patch-based noise reduction

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019167259A JP7328096B2 (ja) 2019-09-13 2019-09-13 画像処理装置、画像処理方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2021043874A JP2021043874A (ja) 2021-03-18
JP2021043874A5 JP2021043874A5 (ja) 2022-09-16
JP7328096B2 true JP7328096B2 (ja) 2023-08-16

Family

ID=74862382

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019167259A Active JP7328096B2 (ja) 2019-09-13 2019-09-13 画像処理装置、画像処理方法、およびプログラム

Country Status (2)

Country Link
US (2) US11410279B2 (ja)
JP (1) JP7328096B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019116975A1 (ja) 2017-12-13 2019-06-20 キヤノン株式会社 画像処理方法、画像処理装置およびプログラム
JP7409606B2 (ja) * 2020-02-13 2024-01-09 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
US20230022057A1 (en) * 2021-07-16 2023-01-26 Taiwan Semiconductor Manufacturing Company, Ltd. Method for retrieving images from database
CN117876252A (zh) * 2024-03-11 2024-04-12 上海玄戒技术有限公司 一种图像降噪方法、装置、设备、存储介质及芯片

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019101686A (ja) 2017-11-30 2019-06-24 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120281923A1 (en) * 2011-05-02 2012-11-08 Yeda Research And Development Co., Ltd. Device, system, and method of image processing utilizing non-uniform image patch recurrence
JP5822157B2 (ja) 2011-07-15 2015-11-24 国立大学法人東京工業大学 ノイズ低減装置、ノイズ低減方法及びプログラム
CN104520897B (zh) * 2012-08-06 2018-05-15 皇家飞利浦有限公司 图像噪声降低和/或图像分辨率提高
US9122960B2 (en) * 2012-11-30 2015-09-01 Adobe Systems Incorporated Patch size adaptation for image enhancement
WO2017133660A1 (en) * 2016-02-04 2017-08-10 Mediatek Inc. Method and apparatus of non-local adaptive in-loop filters in video coding
US10192525B2 (en) * 2016-03-11 2019-01-29 Nvidia Corporation System, method and computer program product for generating one or more values for a signal patch using neighboring patches collected based on a distance dynamically computed from a noise distribution of the signal patch
US10419758B2 (en) * 2017-03-16 2019-09-17 Mediatek Inc. Non-local adaptive loop filter processing
JP7114431B2 (ja) * 2017-12-13 2022-08-08 キヤノン株式会社 画像処理方法、画像処理装置およびプログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019101686A (ja) 2017-11-30 2019-06-24 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
JP2021043874A (ja) 2021-03-18
US20220351338A1 (en) 2022-11-03
US20210082089A1 (en) 2021-03-18
US11734802B2 (en) 2023-08-22
US11410279B2 (en) 2022-08-09

Similar Documents

Publication Publication Date Title
JP7328096B2 (ja) 画像処理装置、画像処理方法、およびプログラム
EP3413265B1 (en) Panoramic video processing method and device and non-transitory computer-readable medium
US8379120B2 (en) Image deblurring using a combined differential image
US11145032B2 (en) Image processing apparatus, method and storage medium for reducing color noise and false color
US9451165B2 (en) Image processing apparatus
JP5653104B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP7032913B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラム
US20160260199A1 (en) Image processing apparatus, image processing method, and storage medium
JP6645442B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP6938282B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014219795A (ja) 画像処理装置、画像処理回路及び画像処理方法
JP6826277B2 (ja) 画像処理システム、画像処理方法、および画像処理プログラム
JP2020181402A (ja) 画像処理装置、画像処理方法、およびプログラム
JP6661491B2 (ja) 画像処理装置および画像処理方法
TWI721288B (zh) 影像處理裝置、影像處理方法及程式記錄媒體
JP5810593B2 (ja) 画像処理装置、撮像装置およびプログラム
JP2019016865A (ja) 画像処理装置、画像処理方法
JP2021071906A (ja) 画像処理装置および画像処理方法、並びにプログラム
US20230074889A1 (en) Depth estimation method and depth estimation device
JP2017108243A (ja) 画像処理装置及び画像処理方法
JP2021077037A (ja) 画像処理装置、画像処理方法、及びプログラム。
JP2021077038A (ja) 画像処理装置、画像処理方法、及びプログラム。
JP2021071816A (ja) 画像処理装置および画像処理方法、並びにプログラム
Perry et al. Natural scene statistics for image denoising
JP2021182239A (ja) 画像処理装置、画像処理方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220908

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230803

R151 Written notification of patent or utility model registration

Ref document number: 7328096

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151