JP7328096B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP7328096B2 JP7328096B2 JP2019167259A JP2019167259A JP7328096B2 JP 7328096 B2 JP7328096 B2 JP 7328096B2 JP 2019167259 A JP2019167259 A JP 2019167259A JP 2019167259 A JP2019167259 A JP 2019167259A JP 7328096 B2 JP7328096 B2 JP 7328096B2
- Authority
- JP
- Japan
- Prior art keywords
- patch
- image processing
- patches
- noise
- interest
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims 3
- 238000000034 method Methods 0.000 claims description 22
- 230000035945 sensitivity Effects 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims description 4
- 230000007423 decrease Effects 0.000 claims description 3
- 238000011946 reduction process Methods 0.000 claims description 2
- 238000001228 spectrum Methods 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 description 29
- 238000010586 diagram Methods 0.000 description 16
- 239000011159 matrix material Substances 0.000 description 12
- 230000006870 function Effects 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000017105 transposition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Description
これに対し、近年、特許文献1や非特許文献1に開示されているように、パッチベースのノイズ低減手法(以降では、「パッチベース手法」と呼ぶ。)が有効であることが広く知られている。パッチベース手法は、画像を局所領域(以降では「パッチ」と呼ぶ。)に分解し、任意の着目パッチに類似したパッチ(以降では「類似パッチ」と呼ぶ。)の集合を用いてノイズ低減処理を行うことで、従来よりも高いノイズ低減性能を得る技術である。
図1は、本実施形態の画像処理装置100の概略構成例を示す図である。
本実施形態の画像処理装置100は、CPU(中央処理ユニット)101、RAM(ランダムアクセスメモリ)102、HDD(ハードディスクドライブ)103、汎用I/Fインターフェース)104、モニタ108、およびメインバス109等を備えている。汎用I/F104は、カメラなどの撮像装置105や、マウス、キーボードなどの入力装置106、およびメモリカードなどの外部メモリ107を、メインバス109に接続する。なお、HDD103の他に、光ディスクドライブやフラッシュメモリなど、様々な記憶デバイスが用いられてもよい。また画像処理装置100の構成要素は、これら各構成要素以外にも存在するが、ここでは説明を省略する。
以下、図1の構成において、CPU101が画像処理プログラムを実行することで、画像のノイズを低減し、そのノイズ低減後の画像データを出力する処理の詳細について説明する。
以下、実施形態1に係る画像処理として、画像処理装置100が、入力画像における局所領域をパッチとして用いてノイズ低減処理を行う例を挙げる。本実施形態の画像処理装置100は、着目パッチとその周辺の小領域のノイズ量とに基づいて、適応的に類似パッチ数を決定することで、好適な画質を得ることが可能なノイズ低減処理を実現する。
さらに、探索部208は、図4に示すように参照パッチ設定部401、類似度算出部402、パッチ選択部403としての機能を有する。これらの詳細は後述する。
ステップS501において、入力部201は、入力画像データと画像処理パラメータを入力して、記憶部202に記憶する。画像処理パラメータには、着目パッチのサイズや小領域のサイズなどが含まれる。
次にステップS504において、パッチ数決定部207は、小領域のノイズ量に基づいて類似パッチ数を決定する。類似パッチ数の決定手順について、図3に示したパッチ数決定部207の構成と図6のフローチャートとを参照して説明する。
なお、式(4)中のTは行列の転置を表す。
ここで、式(5)中のvはノイズの分散値を表し、Pdの各列はPの各列に対応するパッチに対しノイズが低減されたパッチとなっている。
次に実施形態2について説明する。前述した実施形態1では、着目パッチを含む小領域から算出したノイズ量に基づいて類似パッチ数が決定される。実施形態2では、予めISO感度別に測定したノイズ量と小領域のノイズ量とを用いて類似パッチ数を決定する例について説明する。なお、装置構成や処理フローにおいて、前述の実施形態1と同じ部分については図示および説明を省略する。
次にステップS902において、比率算出部802は、分散σ2を、ISO感度別に測定したノイズ分散σ0 2で割ることにより分散の比率Rを算出する。
次に実施形態3について説明する。前述した実施形態1および実施形態2では、着目パッチを含む小領域のノイズ量に基づいて類似パッチ数が決定される。実施形態3では、小領域のノイズ量だけでなく、小領域に含まれる情報を補助情報として用いることで、類似パッチ数を決定する例について説明する。なお、装置構成や処理フローにおいて実施形態1と同じ部分については図示と説明を省略する。
次にステップS1102において、解析部1002は、小領域内のエッジ強度を算出する。
次にステップS1103において、パッチ数算出部1003は、式(1)にエッジ強度を付加した式(8)よりモデル生成用のパッチ数を算出する。
次に実施形態4について説明する。実施形態1と実施形態2では小領域のノイズ量に基づいてモデル生成用のパッチ数を決定し、実施形態3では小領域のノイズ量だけでなく補助情報として用いることでモデル生成用のパッチ数を決定する例について説明した。実施形態4では、小領域のノイズ量だけでなく、彩度を補助情報として用いることで類似パッチ数を決定する例について説明する。なお、装置構成や処理フローにおいて実施形態1と同じ部分については図および説明を省略する。
次にステップS1302において、分離部1202は、小領域における画素毎のR(赤)G(緑)B(青)信号を輝度信号Yと色差信号U,Vに分離する。
そしてステップS1304において、パッチ数算出部1204は、式(1)に小領域の平均彩度を付加した式(9)により類似パッチ数を算出する。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
Claims (11)
- 画像処理装置であって、
入力画像において着目パッチと該着目パッチの近傍の領域とを設定する設定手段と、
前記設定された領域のノイズ量に基づいて、前記着目パッチへのノイズ低減処理に用いられる参照パッチとして検出するパッチ数を決定する決定手段と、
前記入力画像から前記参照パッチを前記決定されたパッチ数分、探索する探索手段と、
前記探索された参照パッチを用いて、前記着目パッチにノイズ低減処理を行うノイズ低減手段と、
前記ノイズ低減処理された複数のパッチ群を合成した画像を生成する生成手段と、
を有することを特徴とする画像処理装置。 - 前記決定手段は、前記設定された領域のノイズ量と前記着目パッチのサイズとを基に、前記参照パッチを探索する探索領域を決定することを特徴とする請求項1に記載の画像処理装置。
- 前記決定手段は、前記設定された領域のノイズ量と補助情報とを用いて前記参照パッチ数を決定することを特徴とする請求項1または2に記載の画像処理装置。
- 前記補助情報は、前記設定された領域のノイズ量と予め感度別に測定したノイズ量との比率であり、
前記決定手段は、前記比率が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。 - 前記補助情報は、前記設定された領域におけるエッジ強度を示す値であり、
前記決定手段は、前記エッジ強度の値が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。 - 前記補助情報は、前記設定された領域におけるフーリエスペクトルの高周波成分の代表値であり、
前記決定手段は、前記代表値が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。 - 前記補助情報は、前記設定された領域における微分値であり、
前記決定手段は、前記微分値が小さいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。 - 前記補助情報は、前記着目パッチまたは前記設定された領域の彩度であり、
前記決定手段は、前記彩度が大きいほど前記参照パッチ数を多く決定することを特徴とする請求項3に記載の画像処理装置。 - 前記決定手段は、前記着目パッチまたは前記設定された領域の信号を輝度信号と色差信号とに分解し、前記輝度信号と色差信号に対してノイズ低減処理を実施する場合、前記色差信号から算出した彩度が判定値以上のとき、前記色差信号のノイズ低減処理に用いる前記参照パッチ数を前記輝度信号のノイズ低減処理に用いる前記参照パッチ数よりも多くすることを特徴とする請求項8に記載の画像処理装置。
- 画像処理装置が実行する画像処理方法であって、
入力画像において着目パッチと該着目パッチの近傍の領域とを設定する設定工程と、
前記設定された領域のノイズ量に基づいて、前記着目パッチへのノイズ低減処理に用いられる参照パッチとして検出するパッチ数を決定する決定工程と、
前記入力画像から前記参照パッチを前記決定されたパッチ数分、探索する探索工程と、
前記探索された参照パッチを用いて、前記着目パッチにノイズ低減処理を行うノイズ低減工程と、
前記ノイズ低減処理された複数のパッチ群を合成した画像を生成する生成工程と、
を有することを特徴とする画像処理方法。 - コンピュータを請求項1に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019167259A JP7328096B2 (ja) | 2019-09-13 | 2019-09-13 | 画像処理装置、画像処理方法、およびプログラム |
US17/018,645 US11410279B2 (en) | 2019-09-13 | 2020-09-11 | Image processing apparatus, image processing method, and storage medium |
US17/859,985 US11734802B2 (en) | 2019-09-13 | 2022-07-07 | Image processing apparatus, method, and storage medium for patch-based noise reduction |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019167259A JP7328096B2 (ja) | 2019-09-13 | 2019-09-13 | 画像処理装置、画像処理方法、およびプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2021043874A JP2021043874A (ja) | 2021-03-18 |
JP2021043874A5 JP2021043874A5 (ja) | 2022-09-16 |
JP7328096B2 true JP7328096B2 (ja) | 2023-08-16 |
Family
ID=74862382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019167259A Active JP7328096B2 (ja) | 2019-09-13 | 2019-09-13 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (2) | US11410279B2 (ja) |
JP (1) | JP7328096B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019116975A1 (ja) | 2017-12-13 | 2019-06-20 | キヤノン株式会社 | 画像処理方法、画像処理装置およびプログラム |
JP7409606B2 (ja) * | 2020-02-13 | 2024-01-09 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
US20230022057A1 (en) * | 2021-07-16 | 2023-01-26 | Taiwan Semiconductor Manufacturing Company, Ltd. | Method for retrieving images from database |
CN117876252A (zh) * | 2024-03-11 | 2024-04-12 | 上海玄戒技术有限公司 | 一种图像降噪方法、装置、设备、存储介质及芯片 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019101686A (ja) | 2017-11-30 | 2019-06-24 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120281923A1 (en) * | 2011-05-02 | 2012-11-08 | Yeda Research And Development Co., Ltd. | Device, system, and method of image processing utilizing non-uniform image patch recurrence |
JP5822157B2 (ja) | 2011-07-15 | 2015-11-24 | 国立大学法人東京工業大学 | ノイズ低減装置、ノイズ低減方法及びプログラム |
CN104520897B (zh) * | 2012-08-06 | 2018-05-15 | 皇家飞利浦有限公司 | 图像噪声降低和/或图像分辨率提高 |
US9122960B2 (en) * | 2012-11-30 | 2015-09-01 | Adobe Systems Incorporated | Patch size adaptation for image enhancement |
WO2017133660A1 (en) * | 2016-02-04 | 2017-08-10 | Mediatek Inc. | Method and apparatus of non-local adaptive in-loop filters in video coding |
US10192525B2 (en) * | 2016-03-11 | 2019-01-29 | Nvidia Corporation | System, method and computer program product for generating one or more values for a signal patch using neighboring patches collected based on a distance dynamically computed from a noise distribution of the signal patch |
US10419758B2 (en) * | 2017-03-16 | 2019-09-17 | Mediatek Inc. | Non-local adaptive loop filter processing |
JP7114431B2 (ja) * | 2017-12-13 | 2022-08-08 | キヤノン株式会社 | 画像処理方法、画像処理装置およびプログラム |
-
2019
- 2019-09-13 JP JP2019167259A patent/JP7328096B2/ja active Active
-
2020
- 2020-09-11 US US17/018,645 patent/US11410279B2/en active Active
-
2022
- 2022-07-07 US US17/859,985 patent/US11734802B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019101686A (ja) | 2017-11-30 | 2019-06-24 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2021043874A (ja) | 2021-03-18 |
US20220351338A1 (en) | 2022-11-03 |
US20210082089A1 (en) | 2021-03-18 |
US11734802B2 (en) | 2023-08-22 |
US11410279B2 (en) | 2022-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7328096B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
EP3413265B1 (en) | Panoramic video processing method and device and non-transitory computer-readable medium | |
US8379120B2 (en) | Image deblurring using a combined differential image | |
US11145032B2 (en) | Image processing apparatus, method and storage medium for reducing color noise and false color | |
US9451165B2 (en) | Image processing apparatus | |
JP5653104B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP7032913B2 (ja) | 画像処理装置、画像処理方法、コンピュータプログラム | |
US20160260199A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP6645442B2 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
JP6938282B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2014219795A (ja) | 画像処理装置、画像処理回路及び画像処理方法 | |
JP6826277B2 (ja) | 画像処理システム、画像処理方法、および画像処理プログラム | |
JP2020181402A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP6661491B2 (ja) | 画像処理装置および画像処理方法 | |
TWI721288B (zh) | 影像處理裝置、影像處理方法及程式記錄媒體 | |
JP5810593B2 (ja) | 画像処理装置、撮像装置およびプログラム | |
JP2019016865A (ja) | 画像処理装置、画像処理方法 | |
JP2021071906A (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
US20230074889A1 (en) | Depth estimation method and depth estimation device | |
JP2017108243A (ja) | 画像処理装置及び画像処理方法 | |
JP2021077037A (ja) | 画像処理装置、画像処理方法、及びプログラム。 | |
JP2021077038A (ja) | 画像処理装置、画像処理方法、及びプログラム。 | |
JP2021071816A (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
Perry et al. | Natural scene statistics for image denoising | |
JP2021182239A (ja) | 画像処理装置、画像処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220908 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220908 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230623 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230704 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230803 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7328096 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |