JP2020191046A - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP2020191046A JP2020191046A JP2019097496A JP2019097496A JP2020191046A JP 2020191046 A JP2020191046 A JP 2020191046A JP 2019097496 A JP2019097496 A JP 2019097496A JP 2019097496 A JP2019097496 A JP 2019097496A JP 2020191046 A JP2020191046 A JP 2020191046A
- Authority
- JP
- Japan
- Prior art keywords
- image
- noise
- noise reduction
- reduction processing
- combination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 119
- 238000003672 processing method Methods 0.000 title claims description 32
- 230000009467 reduction Effects 0.000 claims abstract description 106
- 238000013528 artificial neural network Methods 0.000 claims abstract description 38
- 230000035945 sensitivity Effects 0.000 claims description 57
- 238000011946 reduction process Methods 0.000 claims description 13
- 239000006185 dispersion Substances 0.000 claims description 9
- 238000012937 correction Methods 0.000 claims description 6
- 238000000354 decomposition reaction Methods 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 2
- 230000010365 information processing Effects 0.000 description 39
- 238000000034 method Methods 0.000 description 37
- 230000008569 process Effects 0.000 description 18
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 11
- 230000000694 effects Effects 0.000 description 7
- 238000013441 quality evaluation Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 230000001419 dependent effect Effects 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/60—Image enhancement or restoration using machine learning, e.g. neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
Description
第1の実施形態では、画像の撮影時のISO感度に応じて、ノイズ低減処理に用いる学習済みのニューラルネットワーク(以下、NN)と、当該NNによるノイズ低減処理の処理回数とを決定して、ノイズ低減を行う例を述べる。
第1の実施形態では、入力画像のISO感度を取得して、ノイズ低減処理の方法を決定する場合について説明した。しかし、同一のISO感度でもカメラの機種によってノイズ量が異なることがあるため、上述した方法では想定されたノイズ低減効果が得られないことがある。そこで、本実施形態では、入力画像を解析して推定されたノイズレベルに基づき、適用するNNと適用回数を決定して、ノイズ低減を行う場合について説明する。
本実施形態では、ISO感度の代わりに感度補正用のゲイン値に基づき、適用するNNと適用回数を決定し、ノイズ低減を行う場合について説明する。ゲイン値とは、具体的には、設定されたISO感度に対応し、撮像素子の出力に加えられるアナログゲインを指す。
第1乃至第3の実施形態では、静止画の画像全体に一様にノイズ低減処理を行う場合について説明した。しかし、ノイズ特性が画像内の領域ごとに異なる場合には、画像を領域分割し、各部分領域に対して個別に適したノイズ低減処理を行い、処理後の部分画像を統合することが好ましい。また、動画においてフレーム間でノイズ特性が異なる場合には、各フレームに対して個別に適したノイズ低減処理を行うことが好ましい。そこで、本実施形態では、静止画の部分領域または動画のフレームごとに独立にノイズ低減を行う場合について説明する。
本実施形態では、画像を異なる色空間に変換して輝度成分と色成分に分解し、各成分に対してノイズ低減処理を行う方法について説明する。
本実施形態では、単一のNNを用いたノイズ低減処理を反復し、所望の水準のノイズ低減効果を得るための方法について説明する。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102 RAM
103 ROM
104 二次記憶装置
105 入力インターフェース
106 出力インターフェース
107 システムバス
108 外部記憶装置
109 表示装置
110 操作部
Claims (12)
- 所定のノイズレベルの画像をノイズ低減処理した結果を学習した複数のニューラルネットワークを用いて、画像のノイズ低減処理を実行する画像処理装置であって、
複数のノイズレベルに関するパラメータと、前記複数のニューラルネットワークのうち適用するニューラルネットワークの組合せまたは前記ニューラルネットワークの適用回数の少なくともいずれかを対応付けた、前記複数のノイズレベルそれぞれの複数のノイズ低減処理の組合せを示す組合せデータを保持する保持手段と、
処理対象の画像から前記ノイズレベルに関する情報を取得する取得手段と、
前記取得したノイズレベルに関する情報に基づいて、前記保持手段に保持された前記組合せデータから前記処理対象の画像に対するノイズ低減処理の組合せを決定する決定手段と、
前記決定手段によって決定された前記ノイズ低減処理の組合せデータに基づいて、前記処理対象の画像に対する前記複数のニューラルネットワークのうち少なくとも1つを用いた前記ノイズ低減処理を実行する実行手段と
を有することを特徴とする画像処理装置。 - 前記複数のノイズレベルに関するパラメータは、前記画像の撮影時のISO感度、感度補正用のゲイン値、またはノイズの分散値に関する情報であることを特徴とする請求項1に記載の画像処理装置。
- 前記ニューラルネットワークの適用回数は、所定のノイズレベルの画像に対して前記ニューラルネットワークを複数回適用するように設定されることを特徴とする請求項1または2に記載の画像処理装置。
- 前記複数のノイズ低減処理の組合せは、画質優先時と速度優先時とで異なる組合せを含むことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
- 前記処理対象の画像は、入力画像を分割した部分画像であって、
前記入力画像を前記部分画像に分割する分割手段と、
前記ノイズ低減処理がなされた前記部分画像を統合する統合手段と
をさらに有することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。 - 前記入力画像は、静止画であって、
前記部分画像は、前記静止画の一部分であることを特徴とする請求項5に記載の画像処理装置。 - 前記入力画像は、動画であって、
前記部分画像は、前記動画の一フレームであることを特徴とする請求項5に記載の画像処理装置。 - 前記処理対象の画像は、入力画像を分解した輝度成分または色成分の画像であって、
前記入力画像を前記輝度成分の画像及び前記色成分の画像に分解する分解手段と、
前記ノイズ低減処理がなされた前記輝度成分の画像及び前記色成分の画像を統合する統合手段と
をさらに有することを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。 - 前記ノイズ低減処理がなされた画像を表示する表示手段と、
ユーザによる追加処理の指示を入力する入力手段とをさらに有し、
前記実行手段は、前記指示に応じて追加で前記ノイズ低減処理を行うことを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。 - 前記ノイズ低減処理がなされた画像の残留ノイズレベルが所定の条件を満たすかどうかを判定する判定手段をさらに有し、
前記残留ノイズレベルが所定の条件を満たさないと判定された場合に、前記実行手段が追加で前記ノイズ低減処理を行うことを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。 - 所定のノイズレベルの画像をノイズ低減処理した結果を学習した複数のニューラルネットワークを用いて、画像のノイズ低減処理を実行する画像処理方法であって、
処理対象の画像からノイズレベルに関する情報を取得する取得ステップと、
複数のノイズレベルに関するパラメータと、前記複数のニューラルネットワークのうち適用するニューラルネットワークの組合せまたは前記ニューラルネットワークの適用回数の少なくともいずれかを対応付けた、前記複数のノイズレベルそれぞれの複数のノイズ低減処理の組合せを示す組合せデータから、前記取得したノイズレベルに関する情報に基づいて、前記処理対象の画像に対するノイズ低減処理の組合せを決定する決定ステップと、
前記決定ステップによって決定された前記ノイズ低減処理の組合せデータに基づいて、前記処理対象の画像に対する前記複数のニューラルネットワークのうち少なくとも1つを用いた前記ノイズ低減処理を実行する実行ステップと
を含むことを特徴とする画像処理方法。 - コンピュータに、請求項11に記載の画像処理方法を実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019097496A JP7362297B2 (ja) | 2019-05-24 | 2019-05-24 | 画像処理装置、画像処理方法、及びプログラム |
US16/879,180 US11526962B2 (en) | 2019-05-24 | 2020-05-20 | Image processing apparatus, image processing method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019097496A JP7362297B2 (ja) | 2019-05-24 | 2019-05-24 | 画像処理装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020191046A true JP2020191046A (ja) | 2020-11-26 |
JP7362297B2 JP7362297B2 (ja) | 2023-10-17 |
Family
ID=73455105
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019097496A Active JP7362297B2 (ja) | 2019-05-24 | 2019-05-24 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11526962B2 (ja) |
JP (1) | JP7362297B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022231270A1 (ko) * | 2021-04-26 | 2022-11-03 | 삼성전자 주식회사 | 전자 장치 및 그의 이미지 처리 방법 |
WO2024095624A1 (ja) * | 2022-10-31 | 2024-05-10 | LeapMind株式会社 | 画像処理装置、学習方法及び推論方法 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102313773B1 (ko) * | 2016-11-07 | 2021-10-19 | 삼성전자주식회사 | 신경망 학습에 기반한 입력 처리 방법 및 이를 위한 장치 |
US20230419496A1 (en) * | 2020-11-30 | 2023-12-28 | Koninklijke Philips N.V. | Switching between neural networks based on scout scan analysis |
US12020407B2 (en) * | 2021-04-28 | 2024-06-25 | Lx Semicon Co., Ltd. | Image data processing system for vehicle |
CN113628146B (zh) * | 2021-08-30 | 2023-05-30 | 中国人民解放军国防科技大学 | 基于深度卷积网络的图像去噪方法 |
JP2023103116A (ja) * | 2022-01-13 | 2023-07-26 | Tvs Regza株式会社 | 画像処理回路 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018206382A (ja) * | 2017-06-01 | 2018-12-27 | 株式会社東芝 | 画像処理システム及び医用情報処理システム |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010278530A (ja) * | 2009-05-26 | 2010-12-09 | Sanyo Electric Co Ltd | 画像表示装置 |
JP2012065257A (ja) * | 2010-09-17 | 2012-03-29 | Olympus Corp | 顕微鏡用撮像装置 |
-
2019
- 2019-05-24 JP JP2019097496A patent/JP7362297B2/ja active Active
-
2020
- 2020-05-20 US US16/879,180 patent/US11526962B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018206382A (ja) * | 2017-06-01 | 2018-12-27 | 株式会社東芝 | 画像処理システム及び医用情報処理システム |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022231270A1 (ko) * | 2021-04-26 | 2022-11-03 | 삼성전자 주식회사 | 전자 장치 및 그의 이미지 처리 방법 |
WO2024095624A1 (ja) * | 2022-10-31 | 2024-05-10 | LeapMind株式会社 | 画像処理装置、学習方法及び推論方法 |
Also Published As
Publication number | Publication date |
---|---|
US11526962B2 (en) | 2022-12-13 |
JP7362297B2 (ja) | 2023-10-17 |
US20200372612A1 (en) | 2020-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7362297B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
CN108932697B (zh) | 一种失真图像的去失真方法、装置及电子设备 | |
US9842382B2 (en) | Method and device for removing haze in single image | |
US10210643B2 (en) | Image processing apparatus, image processing method, and storage medium storing a program that generates an image from a captured image in which an influence of fine particles in an atmosphere has been reduced | |
US8059910B2 (en) | Image processing method for removing noise from an image | |
US10817984B2 (en) | Image preprocessing method and device for JPEG compressed file | |
JP6320115B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
CN111402146A (zh) | 图像处理方法以及图像处理装置 | |
JP7353803B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2010278708A (ja) | 画像処理装置及び方法、及びコンピュータプログラム | |
JP2021179833A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7463186B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP5617841B2 (ja) | 画像処理装置、画像処理方法および画像処理用プログラム | |
Taroudaki et al. | Near-optimal spectral filtering and error estimation for solving ill-posed problems | |
Jaiswal et al. | A no-reference contrast assessment index based on foreground and background | |
JP6564158B2 (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
CN113379629A (zh) | 卫星图像去噪方法、装置、计算机设备和存储介质 | |
US10846827B2 (en) | Image processing device, image processing method, and storage medium | |
US20230088317A1 (en) | Information processing apparatus, information processing method, and storage medium | |
Han et al. | NM-FlowGAN: Modeling sRGB noise with a hybrid approach based on normalizing flows and generative adversarial networks | |
US11995153B2 (en) | Information processing apparatus, information processing method, and storage medium | |
JP2015118611A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP7458857B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2021082196A (ja) | 画像処理装置、画像処理方法、パラメータ生成方法、及びプログラム | |
JP7486516B2 (ja) | ビデオ資料の動作部分への削減 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220511 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230227 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230314 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230509 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230711 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230713 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230905 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231004 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7362297 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |