JP6578454B2 - ノイズ処理装置及びノイズ処理方法 - Google Patents

ノイズ処理装置及びノイズ処理方法 Download PDF

Info

Publication number
JP6578454B2
JP6578454B2 JP2018561822A JP2018561822A JP6578454B2 JP 6578454 B2 JP6578454 B2 JP 6578454B2 JP 2018561822 A JP2018561822 A JP 2018561822A JP 2018561822 A JP2018561822 A JP 2018561822A JP 6578454 B2 JP6578454 B2 JP 6578454B2
Authority
JP
Japan
Prior art keywords
noise
image
resolution
unit
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018561822A
Other languages
English (en)
Other versions
JPWO2018131266A1 (ja
Inventor
太郎 斎藤
太郎 斎藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Application granted granted Critical
Publication of JP6578454B2 publication Critical patent/JP6578454B2/ja
Publication of JPWO2018131266A1 publication Critical patent/JPWO2018131266A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4084Scaling of whole images or parts thereof, e.g. expanding or contracting in the transform domain, e.g. fast Fourier transform [FFT] domain scaling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20064Wavelet transform [DWT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、画像のノイズ処理技術に関する。
従来、画像のノイズ処理技術として、多重解像度変換を用いて帯域別にノイズ低減処理を行う技術が知られている。
特許文献1には、原画像に対し画像サイズ縮小を含む多重解像度変換処理を施して解像度が異なる複数の帯域画像を生成し、その帯域画像の肌色領域のうち信号強度の変化量が特定の閾値以下である画素に対し信号強度の変化量を減衰させる信号強度調整を施し、その信号強度調整が施された帯域画像に対し画像サイズ拡大を含む逆多重解像度変換処理を施すことにより、原画像と同じ解像度であって肌色領域のシワやシミを除去済みのカラー画像を生成することが記載されている。また特許文献1には、更に処理済みのカラー画像のうちの肌色領域に対し微弱なノイズ信号を付加することにより、視覚的に違和感が無い画像にすることが記載されている。
特許文献2には、原画像を低周波成分画像と高周波成分画像とに分離して、高周波成分画像のみノイズを除去し且つ高周波成分画像のうちエッジ画素を除く領域にランダムな無彩色のノイズを付加し、ノイズ除去及びノイズ付加が施されない低周波成分画像とノイズ除去及びノイズ付加が施された高周波成分画像とを合成することが記載されている。
特開2005−196270号公報 特開2007−28348号公報
多重解像度変換を用いて帯域別にノイズ低減処理を行う構成に対して、更にノイズ付加機能をオプション機能として追加したい場合がある。
特許文献1は、処理済み画像のうちの肌色領域に対しノイズ付加処理を施すことを開示しているが、そのノイズ付加処理を逆多重解像度変換処理前又は逆多重解像度変換処理の途中で行うとは記載されておらず、逆多重解像度変換処理後に原画像と同じ解像度でノイズ付加処理を行うと考えられる。
ノイズ付加機能をオプション機能として追加する際に、逆多重解像度変換処理後にノイズ付加処理を行う構成とした場合、現実的にはノイズ付加処理専用のモジュールを追加する必要性がある。つまり、全てのユーザに利用されるわけではないオプション機能としてノイズ付加機能を追加する場合、費用対効果が低いと言わざるをえない。
特許文献2は、原画像を低周波成分画像と高周波成分画像とに分離して、高周波成分のみノイズ除去処理及びノイズ付加処理を行うことを開示しているが、原画像よりも低い解像度でノイズ付加処理を行うことについて開示が無い。
本発明は、多重解像度変換を用いて帯域別にノイズ低減処理を行い且つ所望のノイズを付加する場合に費用対効果を高くすることが可能になるノイズ処理装置及びノイズ処理方法を提供することを目的とする。
上述した目的を達成するため、本発明の第1の態様に係るノイズ処理装置は、原画像に対し画像サイズ縮小を含む多重解像度変換処理を施して、解像度が異なる複数の帯域画像を生成する多重解像度変換部と、帯域画像に対しノイズ低減処理を施すノイズ低減部と、ノイズ低減処理が施された帯域画像に対し画像サイズ拡大を含む逆多重解像度変換処理とノイズ付加処理とを施して、原画像と同じ解像度の出力画像を生成する逆多重解像度変換部であって、原画像よりも低い解像度でノイズ付加処理を行う逆多重解像度変換部と、を備える。
本態様によれば、多重解像度変換を用いて帯域別にノイズ低減処理を行う構成において原画像よりも低い解像度でノイズ付加処理を行うため、逆多重解像度変換処理のための要素を利用して出力画像中にサイズを拡大したノイズを形成することが可能であり、ノイズ付加機能をオプション機能として追加したい場合に費用対効果を高くすることができる。
本発明の第2の態様に係るノイズ処理装置では、逆多重解像度変換部は、ノイズ付加処理を、逆多重解像度変換処理の画像サイズ拡大の前に行う。本態様によれば、ノイズ付加処理を、逆多重解像度変換処理の画像サイズ拡大の前に行うことにより、様々なサイズのノイズを付加可能な機能をオプション機能として追加したい場合に低コストで実現することが可能になる。
本発明の第3の態様に係るノイズ処理装置では、逆多重解像度変換部は、ノイズ付加処理を、二以上の解像度で並行して行う。
本発明の第4の態様に係るノイズ処理装置は、ノイズ付加処理でノイズを付加するか否かを解像度ごとに切り替えるノイズサイズ調整部を備える。本態様によれば、出力画像中に、常に最大サイズのノイズを形成しなくてよい。
本発明の第5の態様に係るノイズ処理装置は、付加するノイズにゲインをかけることによりノイズの強度を調整するゲイン処理部を備える。本態様では、ゲイン処理部により、ノイズの強度調整とノイズのサイズ調整とを兼用することが可能である。
本発明の第6の態様に係るノイズ処理装置では、ゲイン処理部は、ノイズに対して解像度ごとに異なるゲインをかけることによりノイズの強度を解像度ごとに調整する。
本発明の第7の態様に係るノイズ処理装置では、原画像のうち少なくとも第1の輝度領域と第1の輝度領域よりも高輝度である第2の輝度領域とを判定する領域判定部と、第1の輝度領域であるか第2の輝度領域であるかに応じて、ゲインを異ならせるゲイン制御部と、を備える。
本発明の第8の態様に係るノイズ処理装置では、ゲイン制御部は、原画像がポジティブ画像である場合には、第1の輝度領域に対応する画素に付加するノイズのゲインよりも第2の輝度領域に対応する画素に付加するノイズのゲインを小さくし、原画像がネガティブ画像である場合には、第2の輝度領域に対応する画素に付加するノイズのゲインを第1の輝度領域に対応する画素に付加するノイズのゲインよりも大きくする。
本発明の第9の態様に係るノイズ処理方法は、原画像に対し画像サイズ縮小を含む多重解像度変換処理を施して、解像度が異なる複数の帯域画像を生成し、帯域画像に対しノイズ低減処理を施し、ノイズ低減処理が施された帯域画像に対し画像サイズ拡大を含む逆多重解像度変換処理を施し、且つ原画像よりも低い解像度でノイズ付加処理を施して、原画像と同じ解像度を有する出力画像を生成する。
本発明によれば、多重解像度変換を用いて帯域別にノイズ低減処理を行い且つ所望のノイズを付加する場合に費用対効果を高くすることが可能になる。
図1は、本発明に係るノイズ処理装置の構成例を示すブロック図である。 図2は、本発明に係るノイズ処理方法を適用したノイズ処理例の流れを示すフローチャートである。 図3は、画像処理部の要部の第1実施例の構成例を示すブロック図である。 図4は、逆多重解像度変換の画像サイズ拡大と出力画像中のノイズのサイズとの関係の説明に用いる説明図である。 図5は、ノイズ付加処理を複数の解像度で並行して行う様子を模式的に示す説明図である。 図6は、画像処理部の要部の第2実施例の構成例を示すブロック図である。 図7は、解像度ごとに個別のノイズ信号を出力する場合における画像処理部の要部の構成例を示すブロック図である。 図8は、解像度ごとにノイズを付加するか否かを切り替えるスイッチ素子を用いる場合の画像処理部の構成例を示すブロック図である。 図9は、本発明に係るノイズ処理装置を適用したデジタルカメラの構成例を示すブロック図である。 図10は、本発明を適用したスマートフォンの一例の外観図である。 図11は、図10のスマートフォンの構成例を示すブロック図である。
以下、添付図面に従って、本発明に係るノイズ処理装置及びノイズ処理方法を実施するための形態について説明する。
図1は、本発明に係るノイズ処理装置の構成例を示すブロック図である。
本例のノイズ処理装置10は、原画像を入力する画像入力部12と、画像入力部12により入力された原画像に対して、ノイズ処理を含む各種の画像処理を施す画像処理部14と、画像処理部14により画像処理が施された画像を出力する画像出力部16と、プログラム及びプログラムの実行に必要な情報を記憶する記憶部18と、記憶部18に記憶されたプログラムに従って、ノイズ処理装置10の各部を制御する制御部20と、を含んで構成される。画像入力部12は、原画像をデジタルデータとして入力する入力デバイスによって構成することができる。画像処理部14は、例えば、ハードウエア回路若しくはCPU(central processing unit)、又はハードウエア回路とCPUとの組み合わせによって構成することができる。画像出力部16は、画像処理が施された画像をデジタルデータとして出力する出力デバイスによって構成することができる。記憶部18は、一時的記憶デバイス及び非一時的記憶デバイスによって構成することができる。非一時的記憶デバイスにプログラムが記憶される。制御部20は、CPUによって構成することができる。
本例の画像処理部14は、原画像に対し画像サイズ縮小を含む多重解像度変換処理を施して、解像度が異なる複数の帯域画像を生成する多重解像度変換部32と、複数の帯域画像のそれぞれに対しノイズ低減処理を施すノイズ低減部34と、ノイズを生成するノイズ生成部36と、ノイズ低減処理が施された複数の帯域画像に対し画像サイズ拡大を含む逆多重解像度変換処理とノイズ付加処理とを施して、原画像と同じ解像度の出力画像を生成する逆多重解像度変換部38とを含む。本例の逆多重解像度変換部38は、ノイズ低減処理が施された帯域画像及び逆多重解像度変換処理の途中の画像(以下「処理中画像」という)のうちいずれかの画像であって、原画像よりも低い解像度の画像に対し、ノイズ生成部36によって生成されたノイズを付加するノイズ付加部39を有する。本例において、多重解像度変換部32、ノイズ低減部34、ノイズ生成部36及び逆多重解像度変換部38は、制御部20によって制御される。画像処理の高速化のため、画像処理部14の全てをハードウエア回路によって構成してよいが、画像処理部14の一部をハードウエア回路によって構成してもよい。また、ノイズ生成部36は、画像処理部14の外部に設けてもよい。
図2は、本発明に係るノイズ処理方法を適用したノイズ処理例の流れを示すフローチャートである。本例のノイズ処理は、記憶部18に記憶されたプログラムに従って、制御部20により実行される。
まず、画像入力部12により、原画像を入力する(ステップS2)。
次に、多重解像度変換部32により、原画像に対し画像サイズ縮小を含む多重解像度変換処理を施して、解像度が異なる複数の帯域画像を生成する(ステップS4)。原画像は二次元(x方向及びy方向がある)の画像であり、本例の多重解像度変換部32はx方向及びy方向の両方向において画像サイズを縮小する。
次に、ノイズ低減部34により、複数の帯域画像のそれぞれに対しノイズ低減処理を施す(ステップS6)。
また、ノイズ生成部36により、ランダムノイズを生成させる(ステップS8)。
次に、逆多重解像度変換部38により、ノイズ低減処理が施された帯域画像に対し画像サイズ拡大を含む逆多重解像度変換処理を施し、且つ原画像よりも低い解像度でノイズ付加処理を施して、原画像と同じ解像度を有する出力画像を生成する(ステップS10)。本例の逆多重解像度変換部38は、x方向及びy方向の両方向において画像サイズを拡大する。また、本例の逆多重解像度変換部38は、x方向及びy方向の両方向においてノイズのサイズを拡大することができる。
そして、画像出力部16により、生成された出力画像を出力する(ステップS12)。
<第1実施例>
図3は、図1に示した画像処理部14の要部の第1実施例の構成を示すブロック図である。多重解像度変換部32は、複数の縮小器RD1、RD2、RD3と、複数の拡大器EX11、EX12、EX13と、複数の減算器SB1、SB2、SB3とを含んで構成される。ノイズ低減部34は、複数のノイズ低減器NR0、NR1、NR2、NR3を含んで構成される。逆多重解像度変換部38は、複数の拡大器EX21、EX22、EX23と、画像合成用の複数の加算器AD11、AD12、AD13と、ノイズ付加用の複数の加算器AD20、AD21、AD22、AD23と、複数のノイズ選択器NS1、NS2、NS3とを含んで構成される。
まず多重解像度変換部32による画像サイズ縮小(ダウンサンプリング)を含む多重解像度変換処理について、説明する。
入力画像in_imgを非縮小画像L0(「原画像」の一形態である)として、非縮小画像L0が縮小器RD1により縮小されて第1の縮小画像L1が生成され、その第1の縮小画像L1が縮小器RD2により縮小されて第2の縮小画像L2が生成され、その第2の縮小画像L2が縮小器RD3により縮小されて第3の縮小画像L3が生成される。
非縮小画像L0、第1の縮小画像L1、及び第2の縮小画像L2は、いずれも二次元の画像であり、縮小器RD1、RD2、RD3によって、x方向のサイズ及びy方向のサイズがそれぞれ「1/2」倍に縮小される。つまり、第1の縮小画像L1の画像サイズは原画像(非縮小画像L0)の「1/2×1/2」倍であり、第2の縮小画像L2の画像サイズは原画像の「1/4×1/4」倍であり、第3の縮小画像L3の画像サイズは原画像の「1/8×1/8」倍である。本例の縮小器RD1、RD2、RD3は、LPF(low pass filter)処理及び間引き処理を行う。
第1の縮小画像L1は拡大器EX11により拡大され、その拡大結果が減算器SB1により非縮小画像L0から減算されて、原画像と同じ解像度である解像度レベル0の帯域画像H0が生成される。第2の縮小画像L2は拡大器EX12により拡大され、その拡大結果が減算器SB2により第1の縮小画像L1から減算されて、原画像よりも解像度が低い解像度レベル1の帯域画像H1が生成される。第3の縮小画像L3は拡大器EX13により拡大され、その拡大結果が減算器SB3により第2の縮小画像L2から減算されて、解像度レベル1の帯域画像H1よりも解像度が低い解像度レベル2の帯域画像H2が生成される。第3の縮小画像L3は、解像度レベル2の帯域画像H2よりも解像度が低い帯域画像(以下「解像度レベル3の帯域画像」ともいう)である。尚、拡大器EX11、EX12、EX13によって、x方向のサイズ及びy方向のサイズがそれぞれ2倍に拡大される。解像度レベル0の帯域画像H0の画像サイズは原画像と等しく、解像度レベル1の帯域画像H1の画像サイズは原画像の「1/2×1/2」倍であり、解像度レベル2の帯域画像H2の画像サイズは原画像の「1/4×1/4」倍であり、解像度レベル3の帯域画像L3の画像サイズは原画像の「1/8×1/8」倍である。仮に解像度レベル0〜3の帯域画像H0、H1、H2及びL3を全て合成した場合、原画像と等しい画像が生成されることになる。つまり画像サイズ縮小(ダウンサンプリング)を含む多重解像度変換を行った場合、画像サイズ拡大(アップサンプリング)を含む逆多重解像度変換により、画像を再構成する必要がある。
本例の多重解像度変換部32は、原画像を四つの帯域(四つの解像度)で分離することにより四つの帯域画像H0、H1、H2、L3を生成しているが、本発明はこのような場合に特に限定されず、例えば三つの帯域で分離してもよいし、五つ以上の帯域で分離してもよい。
次に、ノイズ低減部34によるノイズ低減処理について、説明する。
解像度レベル0の帯域画像H0、解像度レベル1の帯域画像H1、解像度レベル2の帯域画像H2、及び解像度レベル3の帯域画像L3に対し、それぞれノイズ低減器NR0、NR1、NR2、NR3によりエッジ保存型の平滑化をノイズ低減処理として施して、ノイズ低減済みの解像度レベル0の帯域画像H0_nr、ノイズ低減済みの解像度レベル1の帯域画像H1_nr、ノイズ低減済みの解像度レベル2の帯域画像H2_nr、及びノイズ低減済みの解像度レベル3の帯域画像L3_nrを生成する。エッジ保存型の平滑化は、帯域画像中の成分の方向判別を行って、方向別のフィルタリングを行う処理等が相当する。
次に、本例の逆多重解像度変換部38による、画像サイズ拡大(アップサンプリング)を含む逆多重解像度変換処理及びノイズ付加処理について、説明する。
ノイズ低減済みの解像度レベル3の帯域画像L3_nrに対し、例えば1画素ごとに、加算器AD23によりノイズ信号を加算する。ここで加算されるノイズ信号は、ノイズ生成部36により生成された原ノイズ信号のうち、解像度レベル3のノイズ選択器NS3により選択された部分である。ノイズ信号が加算された解像度レベル3の帯域画像L3_nrは、拡大器EX23により2×2倍に拡大され、その拡大結果が加算器AD13によりノイズ低減済みの解像度レベル2の帯域画像H2_nrと加算されて、解像度レベル2の処理中画像L2_nrが生成される。
この解像度レベル2の処理中画像L2_nrに対し、例えば2×2画素ごとに、加算器AD22によりノイズ信号を加算する。ここで加算されるノイズ信号は、ノイズ生成部36により生成された原ノイズ信号のうち、解像度レベル2のノイズ選択器NS2により選択された部分である。ノイズ信号が加算された解像度レベル2の処理中画像L2_nrは、拡大器EX22により2×2倍に拡大され、その拡大結果が加算器AD12によりノイズ低減済みの解像度レベル1の帯域画像H1_nrと加算されて、解像度レベル1の処理中画像L1_nrが生成される。
この解像度レベル1の処理中画像L1_nrに対し、例えば4×4画素ごとに、加算器AD21によりノイズ信号を加算する。ここで加算されるノイズ信号は、ノイズ生成部36により生成された原ノイズ信号のうち、解像度レベル1のノイズ選択器NS1により選択された部分である。ノイズ信号が加算された解像度レベル1の処理中画像L1_nrは、拡大器EX21により2×2倍に拡大され、その拡大結果が加算器AD11によりノイズ低減済みの解像度レベル0の帯域画像H0_nrと加算されて、解像度レベル0の処理中画像L0_nrが生成される。
この解像度レベル0の処理中画像L0_nrに対し、例えば8×8画素ごとに、加算器AD20によりノイズ信号を加算する。ここで加算されるノイズ信号は、ノイズ生成部36により生成された原ノイズ信号である。
ノイズ生成部36は、例えば、原ノイズ信号として、連続した疑似乱数データを生成する。本例の原ノイズ信号は、デジタル信号であり、例えば1画素ごとにノイズを付加するか否かを示す「1」信号及び「0」信号によって構成することができる。原ノイズ信号を1画素ごとにノイズの強度を示す乱数によって構成し、乱数の大小に応じて、付加するノイズの強度の切り換え及びノイズ付加の有無の切換えを行う構成としてもよい。
本例のノイズ選択器NS1、NS2、NS3は、ノイズ生成部36によって生成された原ノイズ信号に対し解像度に応じて間引く処理を行うことにより、実際に付加するノイズ信号を生成する。例えば、時間的に連続した8×8画素分の原ノイズ信号から、解像度レベル1のノイズ選択器NS1は4×4画素分のノイズ信号を抽出し、解像度レベル2のノイズ選択器NS2は2×2画素分のノイズ信号を抽出し、解像度レベル3のノイズ選択器NS3は1画素分のノイズ信号を抽出する。尚、本例では解像度レベル0のノイズ選択器を省略したが、原ノイズ信号と解像度レベル0のノイズ信号とでサイズが異なる場合、解像度レベル0のノイズ選択器を設ける。
ノイズ信号が加算された解像度レベル0の処理中画像L0_nrは、出力画像out_imgとして図1の画像出力部16から出力される。つまり、各解像度でノイズ付加処理を行いながら逆多重解像度変換処理を行う逆多重解像度変換部38の処理結果として、出力画像out_imgが出力される。
図4を用いて、逆多重解像度変換の画像サイズ拡大(アップサンプリング)と、出力画像out_img中のノイズのサイズとの関係を説明する。
例えば四つの解像度(四つの帯域)のそれぞれで、1画素のノイズを付加したものとする。そうすると、解像度レベル3で付加された1画素のノイズNZ3は、三つの拡大器EX23、EX22及びEX21によって拡大された結果、出力画像out_imgでは8×8画素の大きさのノイズNZ30となる。解像度レベル2で付加された1画素のノイズNZ2は、二つの拡大器EX22及びEX21によって拡大された結果、出力画像out_imgでは4×4画素の大きさのノイズNZ20となる。解像度レベル1で付加された1画素のノイズNZ1は、一つの拡大器EX21によって拡大された結果、出力画像out_imgでは2×2画素の大きさのノイズNZ10となる。解像度レベル0で付加された1画素のノイズNZ0は、出力画像out_imgにおいて1画素の大きさである。
尚、上述の説明において示した、解像度の段数(帯域数)、付加するノイズのサイズ、及び出力画像out_img中に形成されるノイズのサイズは、理解を容易にするための例であり、処理速度とハードウエアのコスト及びサイズとを考慮して適宜決めることができる。また、本発明は、全ての解像度でノイズ付加を行う場合には限定されず、後の実施例で説明するように選択した一以上の解像度(一以上の帯域)でノイズ付加を行ってもよい。
以上説明したように、本例の逆多重解像度変換部38によれば、逆多重解像度変換処理に必要な画像サイズ拡大用の拡大器EX21、EX22、EX23を、ノイズサイズの拡大にも用いる構成であるため、新たにノイズサイズ拡大用の拡大器を追加する必要がない。言い換えると、本例の逆多重解像度変換部38は、逆多重解像度変換処理の解像度ごとの画像サイズ拡大の前にノイズ付加処理を行う構成であるため、新たに拡大器を追加することなく、出力画像out_img中に複数サイズのノイズを形成することができる。尚、拡大器のみに限定されず、逆多重解像度変換処理用の他の要素も利用してノイズ付加処理を行ってよい。
<<ノイズ付加の並列処理>>
図1の多重解像度変換部32は、ノイズ付加処理を、複数の解像度(少なくとも二以上の解像度である)で並行して行う構成である。以下では、図3に示した構成例でのノイズ付加の並列処理について、図5を用いて更に詳細に説明する。
図5において、ノイズ低減済みの解像度レベル3(最低解像度である)の帯域画像L3_nrから、時間tの経過に従って、1画素ごとのブロックB31、B32、B33、B34(以降は図示を省略)を逐次抽出したものとする。これらの抽出された1画素ごとのブロックB31、B32、B33、B34に対し、解像度レベル3のノイズ付加用の加算器AD23により、1画素分のノイズ信号ND11、ND12、ND13、ND14(以降は図示を省略)が逐次加算される。ノイズ信号が加算されたブロックB31、B32、B33、B34は、2×2倍に逐次拡大されて、解像度レベル2の処理中画像L2_nrに2×2画素のブロックB21、B22、B23(以降は図示を省略)として組み込まれる。また解像度レベル2の処理中画像L2_nrのブロックB21、B22、B23に対し、解像度レベル2のノイズ付加用の加算器AD22により、2×2画素分のノイズ信号ND22、ND23、ND24(以降は図示を省略)が逐次加算される。ノイズ信号が加算されたブロックB21、B22、B23は、2×2倍に逐次拡大されて、解像度レベル1の処理中画像L1_nrに4×4画素のブロックB11、B12(以降は図示を省略)として組み込まれる。また解像度レベル1の処理中画像L1_nrのブロックB11、B12に対し、解像度レベル1のノイズ付加用の加算器AD21により、4×4画素分のノイズ信号ND33、ND34(以降は図示を省略)が逐次加算される。ノイズ信号が加算されたブロックB11、B12は、2×2倍に逐次拡大されて、解像度レベル0の処理中画像L0_nrに8×8画素のブロックB01(以降は図示を省略)として組み込まれる。また解像度レベル0の処理中画像L0_nrのブロックB01に対し、解像度レベル0のノイズ付加用の加算器AD20により、8×8画素分のノイズ信号ND44(以降は図示を省略)が逐次加算される。
このような並列処理において、ノイズ付加用の複数の加算器AD20、AD21、AD22、AD23は、複数の解像度(本例では四つの解像度)で並行して、ノイズ付加を行う。また、逆多重解像度変換処理とノイズ付加処理とが並行して行われる。つまり、逆多重解像度変換処理にノイズ付加処理を組み込まない場合と比較して、逆多重解像度変換処理にノイズ付加処理を組み込んでも、全体の処理時間の増加を僅かに抑えられることが分かる。
図3に示した構成例では、ノイズ選択器NS1〜NS3により、解像度ごとに異なるデータサイズで、原ノイズ信号から実際に付加するノイズを選択することにより、図5に示したようなノイズ付加の並列処理をサポートしているといえる。
尚、上述のノイズ付加の並列処理の説明において、各画像から1回で抽出するブロック(B31〜B34、B21〜B23、B11〜B12、B01)のサイズ、及び1回で付加するノイズ信号(ND11〜ND14、ND22〜ND24、ND33〜ND34、ND44)のサイズは、理解を容易にするための例であり、処理速度とハードウエアのコスト及びサイズとを考慮して適宜決めることができる。また、本発明は、複数の解像度でノイズ付加を同時に行う場合には限定されず、解像度間でノイズ付加のタイミングをずらしてもよい。
<第2実施例>
図6は、図1に示した画像処理部14の要部の第2実施例の構成を示すブロック図である。尚、図3に示した第1実施例の画像処理部14と同じ構成要素には同じ符号を付してあり、既に説明した内容を以下では省略する。
本例の画像処理部14は、付加するノイズにゲインをかけることにより、付加するノイズの強度を調整する複数のゲイン処理部GP0、GP1、GP2、GP3を備える。以下では、複数のゲイン処理部GP0,GP1、GP2、GP3を総称して、「ゲイン処理部GP」と記載することもある。ここで「ゲイン」は、ノイズの入出力比であり、本例ではゲイン処理部GPに入力されるノイズの強度とゲイン処理部GPから出力されるノイズの強度(即ちノイズ付加用の加算器AD20〜AD23で付加するノイズの強度)との比である。
本例のゲイン処理部GPは、解像度ごとに異なるゲインをノイズに対してかけることにより、付加するノイズの強度を解像度ごとに調整することができる。つまり、出力画像に形成されるノイズの強度を、出力画像中のノイズのサイズごとに調整することが可能である。
出力画像中に形成されるノイズのサイズは、第1実施例で既に説明したように、ノイズ付加時の解像度に依存する。つまり逆多重解像度変換処理のアップサンプリング(画像サイズ拡大)とノイズのサイズ拡大とが連動している。ただし本例のゲイン処理部GPによれば、ゲインをゼロにするか否かを解像度ごとに切り替えることにより、ノイズを付加するか否かを解像度ごとに切り替えることができる。つまり、本例のゲイン処理部GPは、本発明における「ノイズサイズ調整部」の一形態であり、ノイズの強度を調整する機能を有するだけでなく、出力画像中に形成されるノイズのサイズを調整する機能も有する。
例えば、2×2画素(縦2画素×横2画素)の大きさのノイズのみを出力画像中に形成したい場合、解像度レベル3のゲイン処理部GP3、解像度レベル2のゲイン処理部GP2及び解像度レベル0のゲイン処理部GP0のゲインをゼロに設定し、かつ解像度レベル1のゲイン処理部GPのゲインをゼロよりも大きく設定する。このようにゲインをゼロにするか否かを解像度ごとに切り替えることにより、出力画像中に所望の大きさのノイズを形成することが可能である。
また、本例の制御部20(図1を参照)は、本発明における「領域判定部」の一形態であり、原画像のうち低輝度領域(「第1の輝度領域」である)と高輝度領域(「第1の輝度領域」よりも高輝度である「第2の輝度領域」である)とを判定する。また、本例の制御部20は、本発明における「ゲイン制御部」の一形態であり、低輝度領域であるか高輝度領域であるかに応じて、ゲイン処理部GPのノイズに対するゲインを異ならせる。尚、制御部20による領域判定は、輝度が異なる二つの輝度領域を判定する場合に限定されず、輝度が異なる三つ以上の輝度領域を判定する場合であってもよい。また、制御部20によるゲイン制御は、輝度が異なる三つ以上の領域で輝度依存のゲインを異ならせる場合であってもよい。
例えばフイルムから銀塩写真を作成した場合のような粒状性付加を行う場合、原画像中の領域ごとの明るさに応じてゲインを調整することが、好ましい。
例えば、ネガティブフイルムから作成された銀塩写真(陽画である)は、シャドウ部分(低輝度領域)に粒状性が見られるが、ハイライト部分(高輝度領域)には粒状性があまり見られないという特徴がある。このような銀塩写真と同様な粒状性を持つ画像を作成するため、本例の制御部20は、原画像がポジティブ画像(陽画画像)である場合には、ランダムノイズを付加する対象の画像のうち原画像の低輝度領域(第1の輝度領域)に対応する画素に付加するランダムノイズのゲインよりも原画像の高輝度領域(第2の輝度領域)に対応する画素に付加するランダムノイズのゲインを小さくする。言い換えると、ポジティブ画像では、低輝度領域(第1の輝度領域)に対するランダムノイズのゲインを、高輝度領域(第2の輝度領域)に対するランダムノイズのゲインよりも大きくする。また、本例の制御部20は、原画像がネガティブ画像(陰画画像)である場合には、ランダムノイズを付加する対象の画像のうち原画像の高輝度領域(第2の輝度領域)に対応する画素に付加するランダムノイズのゲインよりも原画像の低輝度領域(第1の輝度領域)に対応する画素に付加するランダムノイズのゲインを小さくする。言い換えると、ネガティブ画像では、高輝度領域(第2の輝度領域)に対するランダムノイズのゲインを、低輝度領域(第1の輝度領域)に対するランダムノイズのゲインよりも大きくする。
以上説明したように、本実施例によれば、設計意図或いはユーザ意図に応じて、ノイズの強度をゲインによって調整することができる。また、本実施例によれば、多重解像度変換処理の帯域分割数に依存せずに、出力画像中に形成されるノイズのサイズを調整することができる。
<ノイズ付加のバリエーション>
ノイズ付加のバリエーションについて説明する。
前述の第1実施例及び第2実施例では、ノイズ付加用の複数の加算器AD20〜AD23(「ノイズ付加部」の一形態である)に対して、共通の原ノイズ信号をノイズ生成部36から出力する構成を例に説明したが、本発明はこのような場合に限定されない。例えば図7に示すように、ノイズ付加用の複数の加算器AD20〜AD23(ノイズ付加部)のそれぞれに対して、個別のノイズ信号をノイズ生成部36から出力する構成としてよい。
最低解像度(本例では解像度レベル3である)のノイズ低減済みの帯域画像L3_nrから逐次に1画素ずつ抽出する場合であって逆多重解像度変換処理の解像度ごとの画像サイズ拡大が2×2倍である場合を例に説明する。このような場合、解像度レベル3のノイズ付加用の加算器AD23に対して1画素単位のノイズ信号を出力し、解像度レベル2のノイズ付加用の加算器AD22に対して2×2画素単位のノイズ信号を出力し、解像度レベル1のノイズ付加用の加算器AD21に対して4×4画素単位のノイズ信号を出力し、解像度レベル0のノイズ付加用の加算器AD20に対して8×8画素単位のノイズ信号を出力する。つまり、解像度ごとに異なるデータサイズの個別ノイズをノイズ付加用の加算器AD20〜AD23(ノイズ付加部)に与える構成とする。
本例では、解像度に応じて、ノイズ付加部(加算器AD20〜AD23)に与えるノイズ信号のデータ量(ノイズデータ量)を異ならせることにより、図5に示したようなノイズ付加の並列処理をサポートしているといえる。
また、前述の第2実施例では、ゲイン処理部GPのゲインをゼロに設定することにより、解像度ごとにノイズ付加の有無を切り替える場合を例に説明したが、本発明はこのような場合に限定されない。例えば図8に示すように、オン状態とオフ状態とを有するスイッチ素子SW0、SW1、SW2、SW3を用いて、解像度ごとにノイズ付加の有無を切り替える構成としてもよい。つまり、第2実施例はゲイン処理部GPによりノイズ強度調整とノイズサイズ調整とを行うことができる点で優れているが、ノイズサイズ調整のみ行えばよい場合には図8に示した構成としてもよい。
また前述の第1実施例及び第2実施例では、最低解像度(解像度レベル3)のみノイズ低減器NR3から出力された直後の帯域画像L3_nrに対してノイズを付加し、原画像の解像度よりも低い他の解像度(解像度レベル1〜2)では逆多重解像度変換処理の途中の処理中画像L1_nr、L2_nrに対してノイズを付加する場合を例に説明したが、本発明はこのような場合に限定されない。最低解像度以外の解像度(例えば解像度レベル0〜2)においてもノイズ低減器NR0〜NR2から出力された直後の帯域画H0_nr、H1_nr、H2_nrに対してノイズを付加する構成としてよい。本発明におけるノイズ付加部39は、ノイズ低減済みの帯域画像及び逆多重解像度変換処理の途中の画像のうちいずれかの画像であって、原画像の解像度よりも低い解像度の画像に対してノイズを付加する、ということができる。
また、ランダムノイズを付加する場合を例に説明したが、規則性を有するノイズを付加する場合にも、本発明を適用可能である。
<多重解像度変換のバリエーション>
多重解像度変換処理は、ラプラシアンピラミッドを用いる場合に限定されない。原画像を帯域分解し、画像サイズ拡大を含む逆多重解像度変換する場合であれば、本発明を適用可能である。例えば、ウェーブレット変換を用いた場合や、フーリエ変換を用いた場合が、挙げられる。
<ハードウエア構造のバリエーション>
本実施形態において、図1に示した画像処理部14(多重解像度変換部32、ノイズ低減部34、ノイズ生成部36、及び逆多重解像度変換部38)及び制御部20における、各種の処理(多重解像度変換処理、ノイズ低減処理、ノイズ生成処理、ノイズ付加処理、逆多重解像度変換処理等)を実行するためのハードウエア的な構造は、次に示すような各種のプロセッサ(processor)によって構成することができる。各種のプロセッサには、ソフトウエア(プログラム)により各種の処理を実行する汎用的なプロセッサであるCPU(central processing unit)、FPGA(field programmable gate array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(programmable logic device:PLD)、ASIC(application specific integrated circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
画像処理部14及び制御部20の機能は、これら各種のプロセッサのうちの1つで実現されてもよいし、同種または異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で実現されてもよい。また、複数の機能を1つのプロセッサで実現してもよい。複数の機能を1つのプロセッサで実現する例としては、システムオンチップ(system on chip:SoC)などに代表されるように、複数の機能を含むシステム全体の機能を1つのIC(integrated circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウエア的な構造として、上述した各種のプロセッサを1つ以上用いて実現される。さらに、これらの各種のプロセッサのハードウエア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
<デジタルカメラの構成例>
図9は、図1のノイズ処理装置10を適用したデジタルカメラの構成例を示すブロック図である。図9において、図1に示したノイズ処理装置10と同じ構成要素には同じ符号を付してあり、既に説明した内容を以下では省略する。
本例のデジタルカメラ200は、図1の画像入力部12として撮像部42を備える。撮像部42は、撮像用の光学系(撮像光学系)と撮像素子とを含んで構成される。撮像素子として、例えばCMOS(complementary metal oxide semiconductor)撮像デバイスやCCD(charge coupled device)撮像デバイスなどの撮像デバイスを用いる。また、デジタルカメラ200は、ユーザの指示入力を受け付ける操作部44と、ユーザに対して画像を含む各種情報を表示する表示部46とを含んで構成される。操作部44は、タッチパネルなどの操作デバイスによって構成される。ハードウエアのスイッチによって構成されてもよい。表示部46は、液晶表示デバイスなどの表示デバイスによって構成される。
尚、デジタルカメラ200として、撮像光学系を交換可能なデジタルカメラを用いてよい。
<スマートフォンの構成例>
図10は、本発明を適用したスマートフォンの一例の外観図である。図10に示すスマートフォン300は、平板状の筐体302を有し、筐体302の一方の面に表示パネル321と、操作パネル322とが一体となった表示入力部320を備えている。また、筐体302は、スピーカ331と、マイクロホン332、操作部340と、カメラ部341とを備えている。尚、筐体302の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図11は、図10のスマートフォン300の構成例を示すブロック図である。図11に示すように、スマートフォンの主たる構成要素として、無線通信部310と、表示入力部320と、通話部330と、操作部340と、カメラ部341と、記憶部350と、外部入出力部360と、GPS(global positioning system)受信部370と、モーションセンサ部380と、電源部390と、主制御部301とを備える。また、スマートフォン300の主たる機能として、基地局装置と移動通信網とを介した移動無線通信を行う無線通信機能を備える。
無線通信部310は、主制御部301の指示に従って、移動通信網に収容された基地局装置に対し無線通信を行うものである。かかる無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部320は、主制御部301の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル321と、操作パネル322とを備える。
表示パネル321は、LCD(liquid crystal display)、OLED(organic light emitting diodes)ディスプレイなどを表示デバイスとして用いたものである。操作パネル322は、表示パネル321の表示面上に表示される画像を視認可能に載置され、ユーザの指やペン型入力装置によって操作される一又は複数の座標を検出するデバイスである。かかるデバイスをユーザの指やペン型入力装置によって操作すると、操作に起因して発生する検出信号を主制御部301に出力する。次いで、主制御部301は、受信した検出信号に基づいて、表示パネル321上の操作位置(座標)を検出する。
図10に示すように、スマートフォン300の表示パネル321と操作パネル322とは一体となって表示入力部320を構成しているが、操作パネル322が表示パネル321を完全に覆うような配置となっている。この配置を採用した場合、操作パネル322は、表示パネル321外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル322は、表示パネル321に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル321に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
尚、表示領域の大きさと表示パネル321の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル322が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体302の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル322で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部330は、スピーカ331やマイクロホン332を備え、マイクロホン332を通じて入力されたユーザの音声を主制御部301にて処理可能な音声データに変換して主制御部301に出力したり、無線通信部310あるいは外部入出力部360により受信された音声データを復号してスピーカ331から出力するものである。また、図10に示すように、例えば、スピーカ331を表示入力部320が設けられた面と同じ面に搭載し、マイクロホン332を筐体302の側面に搭載することができる。
操作部340は、キースイッチなどを用いたハードウエアキーであって、ユーザからの指示を受け付けるものである。例えば、図10に示すように、操作部340は、スマートフォン300の筐体302の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部350は、主制御部301の制御プログラムや制御データ、アプリケーションソフトウエア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部350は、スマートフォン内蔵の内部記憶部351と着脱自在な外部メモリスロットを有する外部記憶部352により構成される。尚、記憶部350を構成するそれぞれの内部記憶部351と外部記憶部352は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(random access memory)、ROM(read only memory)などの格納媒体を用いて実現される。
外部入出力部360は、スマートフォン300に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB:universal serial bus)など)又はネットワーク(例えば、インターネット、無線LAN(local area network)、ブルートゥース(bluetooth)(登録商標)、RFID(radio frequency identification)、赤外線通信(infrared data association:IrDA)(登録商標)、UWB(ultra wide band)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン300に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(memory card)やSIMカード(subscriber identity module card)/UIMカード(user identity module card)、オーディオビデオI/O(input/output)端子を介して接続される外部オーディオビデオ機器、無線接続される外部オーディオビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA(personal digital assistant)、イヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン300の内部の各構成要素に伝達することや、スマートフォン300の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部370は、主制御部301の指示に従って、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン300の緯度、経度、高度を含む位置を検出する。GPS受信部370は、無線通信部310や外部入出力部360(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部380は、例えば、3軸の加速度センサなどを備え、主制御部301の指示に従って、スマートフォン300の物理的な動きを検出する。スマートフォン300の物理的な動きを検出することにより、スマートフォン300の動く方向や加速度が検出される。この検出結果は、主制御部301に出力されるものである。
電源部390は、主制御部301の指示に従って、スマートフォン300の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部301は、マイクロプロセッサを備え、記憶部350が記憶する制御プログラムや制御データに従って動作し、スマートフォン300の各部を統括して制御するものである。また、主制御部301は、無線通信部310を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部350が記憶するアプリケーションソフトウエアに従って主制御部301が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部360を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部301は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部320に表示する等の画像処理機能を備える。画像処理機能とは、主制御部301が、上述画像データを復号し、この復号の結果に画像処理を施して、画像を表示入力部320に表示する機能のことをいう。
更に、主制御部301は、表示パネル321に対する表示制御と、操作部340、操作パネル322を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部301は、アプリケーションソフトウエアを起動するためのアイコンや、スクロールバーなどのソフトウエアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示する。尚、スクロールバーとは、表示パネル321の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウエアキーのことをいう。
また、操作検出制御の実行により、主制御部301は、操作部340を通じたユーザ操作を検出したり、操作パネル322を通じて、上述アイコンに対する操作や、上述ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部301は、操作パネル322に対する操作位置が、表示パネル321に重なる重畳部分(表示領域)か、それ以外の表示パネル321に重ならない外縁部分(非表示領域)かを判定し、操作パネル322の感応領域や、ソフトウエアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部301は、操作パネル322に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部341は、CMOS(complementary metal oxide semiconductor)撮像センサやCCD(charge coupled device)撮像センサなどの撮像素子を用いて電子撮影するデジタルカメラである。また、カメラ部341は、主制御部301の制御により、撮像によって得た画像データを例えばJPEG(joint photographic coding experts group)などの圧縮した画像データに変換し、記憶部350に記録したり、外部入出力部360や無線通信部310を通じて出力することができる。図10に示すようにスマートフォン300において、カメラ部341は表示入力部320と同じ面に搭載されているが、カメラ部341の搭載位置はこれに限らず、表示入力部320の背面に搭載されてもよいし、あるいは、複数のカメラ部341が搭載されてもよい。尚、複数のカメラ部341が搭載されている場合には、撮影に供するカメラ部341を切り替えて単独にて撮影したり、あるいは、複数のカメラ部341を同時に使用して撮影することもできる。
本例のスマートフォン300と図1のノイズ処理装置10(ノイズ処理装置の基本構成例である)との対比を説明する。例えば、カメラ部341を画像入力部12として用い、主制御部301を画像処理部14及び制御部20として用い、無線通信部310を画像出力部16として用い、記憶部350を記憶部18として用いる。外部入出力部360を画像入力部12及び画像出力部16として用いてもよい。
以上、本発明を実施するための形態に関して説明してきたが、本発明は上述した実施形態及び変形例に限定されず、本発明の主旨を逸脱しない範囲で種々の変形が可能である。
10 ノイズ処理装置
12 画像入力部
14 画像処理部
16 画像出力部
18 記憶部
20 制御部
32 多重解像度変換部
34 ノイズ低減部
36 ノイズ生成部
38 逆多重解像度変換部
39 ノイズ付加部
42 撮像部
44 操作部
46 表示部
200 デジタルカメラ
300 スマートフォン
301 主制御部
302 筐体
310 無線通信部
320 表示入力部
321 表示パネル
322 操作パネル
330 通話部
331 スピーカ
332 マイクロホン
340 操作部
341 カメラ部
350 記憶部
351 内部記憶部
352 外部記憶部
360 外部入出力部
370 GPS受信部
380 モーションセンサ部
390 電源部
AD11、AD12、AD13 画像合成用の加算器
AD20、AD21、AD22、AD23 ノイズ付加用の加算器
B01、B11、B12、B21、B22、B23、B31、B32、B33、B34 ブロック
EX11、EX12、EX13 多重解像度変換部の拡大器
EX21、EX22、EX23 逆多重解像度変換部の拡大器
GP、GP0、GP1、GP2、GP3 ゲイン処理部
H0 解像度レベル0の帯域画像
H0_nr ノイズ低減済みの解像度レベル0の帯域画像
H1 解像度レベル1の帯域画像
H1_nr ノイズ低減済みの解像度レベル1の帯域画像
H2 解像度レベル2の帯域画像
H2_nr ノイズ低減済みの解像度レベル2の帯域画像
L0 非縮小画像(原画像)
L0_nr 解像度レベル0の処理中画像
L1 第1の縮小画像
L1_nr 解像度レベル1の処理中画像
L2 第2の縮小画像
L2_nr 解像度レベル2の処理中画像
L3 第3の縮小画像(解像度レベル3の帯域画像)
L3_nr ノイズ低減済みの解像度レベル3の帯域画像
ND11、ND12、ND13、ND14、ND22、ND23、ND24、ND33、ND34、ND44 ノイズ信号
NR0、NR1、NR2、NR3 ノイズ低減器
NS1、NS2、NS3 ノイズ選択器
NZ0、NZ1、NZ2、NZ3、NZ10、NZ20、NZ30 ノイズ
RD1、RD2、RD3 縮小器
SB1、SB2、SB3 減算器
ST1〜STn GPS衛星
SW0、SW1、SW2、SW3 スイッチ素子
in_img 入力画像
out_img 出力画像

Claims (9)

  1. 原画像に対し画像サイズ縮小を含む多重解像度変換処理を施して、解像度が異なる複数の帯域画像を生成する多重解像度変換部と、
    前記帯域画像に対しノイズ低減処理を施すノイズ低減部と、
    前記ノイズ低減処理が施された前記帯域画像に対し画像サイズ拡大を含む逆多重解像度変換処理とノイズ付加処理とを施して、前記原画像と同じ解像度の出力画像を生成する逆多重解像度変換部であって、前記原画像よりも低い解像度で前記ノイズ付加処理を行う逆多重解像度変換部と、
    を備えるノイズ処理装置。
  2. 前記逆多重解像度変換部は、前記ノイズ付加処理を、前記逆多重解像度変換処理の前記画像サイズ拡大の前に行う、
    請求項1に記載のノイズ処理装置。
  3. 前記逆多重解像度変換部は、前記ノイズ付加処理を、二以上の解像度で並行して行う、
    請求項1または2に記載のノイズ処理装置。
  4. 前記ノイズ付加処理でノイズを付加するか否かを解像度ごとに切り替えるノイズサイズ調整部を備える、
    請求項1から3のうちいずれか一項に記載のノイズ処理装置。
  5. 前記付加するノイズにゲインをかけることにより前記ノイズの強度を調整するゲイン処理部を備える、
    請求項1から4のうちいずれか一項に記載のノイズ処理装置。
  6. 前記ゲイン処理部は、前記ノイズに対して解像度ごとに異なるゲインをかけることにより前記ノイズの強度を解像度ごとに調整する、
    請求項5に記載のノイズ処理装置。
  7. 前記原画像のうち少なくとも第1の輝度領域と前記第1の輝度領域よりも高輝度である第2の輝度領域とを判定する領域判定部と、
    前記第1の輝度領域であるか前記第2の輝度領域であるかに応じて、前記ゲインを異ならせるゲイン制御部と、
    を備える請求項5又は6に記載のノイズ処理装置。
  8. 前記ゲイン制御部は、前記原画像がポジティブ画像である場合には、前記第1の輝度領域に対応する画素に付加する前記ノイズのゲインよりも前記第2の輝度領域に対応する画素に付加する前記ノイズのゲインを小さくし、前記原画像がネガティブ画像である場合には、前記第2の輝度領域に対応する画素に付加する前記ノイズのゲインを前記第1の輝度領域に対応する画素に付加する前記ノイズのゲインよりも大きくする、
    請求項7に記載のノイズ処理装置。
  9. 原画像に対し画像サイズ縮小を含む多重解像度変換処理を施して、解像度が異なる複数の帯域画像を生成し、
    前記帯域画像に対しノイズ低減処理を施し、
    前記ノイズ低減処理が施された前記帯域画像に対し画像サイズ拡大を含む逆多重解像度変換処理を施し、且つ前記原画像よりも低い解像度でノイズ付加処理を施して、前記原画像と同じ解像度の出力画像を生成する、
    ノイズ処理方法。
JP2018561822A 2017-01-10 2017-11-01 ノイズ処理装置及びノイズ処理方法 Active JP6578454B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017001917 2017-01-10
JP2017001917 2017-01-10
PCT/JP2017/039535 WO2018131266A1 (ja) 2017-01-10 2017-11-01 ノイズ処理装置及びノイズ処理方法

Publications (2)

Publication Number Publication Date
JP6578454B2 true JP6578454B2 (ja) 2019-09-18
JPWO2018131266A1 JPWO2018131266A1 (ja) 2019-11-07

Family

ID=62839351

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018561822A Active JP6578454B2 (ja) 2017-01-10 2017-11-01 ノイズ処理装置及びノイズ処理方法

Country Status (4)

Country Link
US (1) US11037273B2 (ja)
JP (1) JP6578454B2 (ja)
CN (1) CN110114799B (ja)
WO (1) WO2018131266A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020061080A (ja) * 2018-10-12 2020-04-16 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法
KR20220088923A (ko) * 2020-01-09 2022-06-28 주식회사 히타치하이테크 화상을 생성하는 시스템, 및 비일시적 컴퓨터 가독 매체
CN113256537B (zh) * 2021-06-22 2022-01-07 英特灵达信息技术(深圳)有限公司 一种图像数据生成方法和装置
KR102650510B1 (ko) * 2022-10-28 2024-03-22 한국전자기술연구원 영상의 노이즈 제거 방법 및 장치
CN116385280B (zh) * 2023-01-09 2024-01-23 爱芯元智半导体(上海)有限公司 一种图像降噪***、方法及降噪神经网络训练方法
CN116260557B (zh) * 2023-05-11 2023-08-01 中星联华科技(北京)有限公司 噪声注入电路、误码检测器和数字信号接收机

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3995854B2 (ja) * 1999-06-10 2007-10-24 富士フイルム株式会社 画像処理方法および装置並びに記録媒体
JP4316106B2 (ja) * 1999-09-27 2009-08-19 富士フイルム株式会社 画像処理方法および装置並びに記録媒体
JP2001167264A (ja) * 1999-09-30 2001-06-22 Fuji Photo Film Co Ltd 画像処理方法および装置並びに記録媒体
US6757395B1 (en) * 2000-01-12 2004-06-29 Sonic Innovations, Inc. Noise reduction apparatus and method
JP2001346069A (ja) * 2000-06-02 2001-12-14 Fuji Photo Film Co Ltd 映像信号処理装置及び輪郭強調補正装置
US7650044B2 (en) * 2001-07-30 2010-01-19 Cedara Software (Usa) Limited Methods and systems for intensity matching of a plurality of radiographic images
JP4026491B2 (ja) * 2002-12-13 2007-12-26 ソニー株式会社 画像信号処理装置、画像信号処理方法、並びにプログラムおよび媒体
US7352892B2 (en) * 2003-03-20 2008-04-01 Micron Technology, Inc. System and method for shape reconstruction from optical images
KR100504594B1 (ko) * 2003-06-27 2005-08-30 주식회사 성진씨앤씨 데이터 압축 처리된 저해상도 영상으로부터 초해상도 영상복원 및 재구성 방법
JP2005196270A (ja) * 2003-12-26 2005-07-21 Konica Minolta Photo Imaging Inc 画像処理方法、画像処理装置及び画像処理プログラム
WO2006114003A1 (en) * 2005-04-27 2006-11-02 The Governors Of The University Of Alberta A method and system for automatic detection and segmentation of tumors and associated edema (swelling) in magnetic resonance (mri) images
JP2007028348A (ja) * 2005-07-20 2007-02-01 Noritsu Koki Co Ltd 画像処理装置及び画像処理方法
CN100510772C (zh) * 2006-01-23 2009-07-08 武汉大学 遥感图像小目标超分辨率重建方法
US20080137566A1 (en) * 2006-12-06 2008-06-12 Bojko Marholev Method and System for Shared High-Power Transmit Path for a Multi-Protocol Transceiver
JP5121312B2 (ja) * 2007-06-05 2013-01-16 キヤノン株式会社 画像処理装置
JP5076755B2 (ja) * 2007-09-07 2012-11-21 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP5251881B2 (ja) * 2007-10-09 2013-07-31 株式会社ニコン 撮像装置
CN102203826B (zh) * 2008-12-25 2015-02-18 梅迪奇视觉成像解决方案有限公司 医学图像的降噪
US8295632B2 (en) * 2009-01-21 2012-10-23 Yissum Research Development Company of Jerusalem Ltd. System and method for edge-enhancement of digital images using wavelets
CN101551902B (zh) * 2009-05-15 2011-07-27 武汉大学 基于学习的压缩视频超分辨率的特征匹配方法
US8724928B2 (en) * 2009-08-31 2014-05-13 Intellectual Ventures Fund 83 Llc Using captured high and low resolution images
US8179445B2 (en) * 2010-03-03 2012-05-15 Eastman Kodak Company Providing improved high resolution image
JP5641237B2 (ja) * 2010-06-17 2014-12-17 富士通セミコンダクター株式会社 ノイズ付加回路、ノイズ付加方法
JP6097588B2 (ja) * 2013-02-13 2017-03-15 キヤノン株式会社 画像処理装置及び画像処理方法
CN104935831B (zh) * 2015-06-12 2017-10-27 中国科学院自动化研究所 并行多相位图像插值装置和方法
CN106570862B (zh) * 2016-10-25 2020-02-21 中国人民解放军信息工程大学 一种超分辨率重建质量的评价方法及装置

Also Published As

Publication number Publication date
WO2018131266A1 (ja) 2018-07-19
US11037273B2 (en) 2021-06-15
CN110114799A (zh) 2019-08-09
JPWO2018131266A1 (ja) 2019-11-07
US20190295225A1 (en) 2019-09-26
CN110114799B (zh) 2023-06-23

Similar Documents

Publication Publication Date Title
JP6578454B2 (ja) ノイズ処理装置及びノイズ処理方法
US9436979B2 (en) Image processing device, imaging device, image processing method, and non-transitory computer readable medium
US9986183B2 (en) Lens distortion correction device and application processor having the same
US9692959B2 (en) Image processing apparatus and method
JP5567235B2 (ja) 画像処理装置、撮影装置、プログラム及び画像処理方法
CN110288518B (zh) 图像处理方法、装置、终端及存储介质
US10567647B2 (en) Image processing apparatus and image processing method
KR20140142542A (ko) 전자 장치에서 이미지를 편집하기 위한 장치 및 방법
JP7210517B2 (ja) 撮像装置、撮像制御方法、撮像制御プログラム
CN108881739B (zh) 图像生成方法、装置、终端及存储介质
EP3920132A1 (en) Electronic device for generating hdr image and operating method therefor
TW201225000A (en) Image processing apparatus, electronic device, image processing method
JP2016167258A (ja) デコンボリューション画像において色収差を減じる方法、装置及びコンピュータプログラム製品
CN116915897B (zh) 显示方法、存储介质及电子设备
CN117479008B (zh) 一种视频处理方法、电子设备及芯片***
CN118283450A (zh) 图像处理方法、装置、设备及存储介质
CN118014917A (zh) 图像处理模型的生成方法、装置、设备及存储介质
CN117278688A (zh) 图像处理电路、方法、装置、芯片、电子设备及主控芯片
JP2012134681A (ja) 撮像装置、撮像方法及びプログラム
CN110533666A (zh) 一种获取数据块尺寸的方法、处理数据的方法及装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190611

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190611

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190611

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190730

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190813

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190826

R150 Certificate of patent or registration of utility model

Ref document number: 6578454

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250