JP4453734B2 - 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置 - Google Patents

画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置 Download PDF

Info

Publication number
JP4453734B2
JP4453734B2 JP2007244825A JP2007244825A JP4453734B2 JP 4453734 B2 JP4453734 B2 JP 4453734B2 JP 2007244825 A JP2007244825 A JP 2007244825A JP 2007244825 A JP2007244825 A JP 2007244825A JP 4453734 B2 JP4453734 B2 JP 4453734B2
Authority
JP
Japan
Prior art keywords
blur
image
target image
restoration filter
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007244825A
Other languages
English (en)
Other versions
JP2009077202A (ja
Inventor
雄一 長谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007244825A priority Critical patent/JP4453734B2/ja
Priority to KR1020080080771A priority patent/KR20090031217A/ko
Priority to US12/284,071 priority patent/US8194996B2/en
Priority to CN2008102116825A priority patent/CN101394460B/zh
Publication of JP2009077202A publication Critical patent/JP2009077202A/ja
Application granted granted Critical
Publication of JP4453734B2 publication Critical patent/JP4453734B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4092Edge or detail enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/30Noise filtering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置に関し、特に、画像のぼけ具合に応じた復元フィルタを用いて、入力された画像のぼけを補正する画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置に関する。
撮像装置では、ピントがぼけたり甘かったりする、いわゆるピンぼけ写真が撮影されることがしばしばある。このようなピンぼけ写真は、パーソナルコンピュータなどに搭載される専用のフォトレタッチソフトを使えば、ピンぼけを含むぼけを補正し、良好な画像に変換させることができる。
従来のフォトレタッチソフトを用いた補正作業では、まず、対象の画像をパーソナルコンピュータに読み込ませる。撮像装置がデジタルカメラであれば、そのまま画像データをパーソナルコンピュータに転送することができる。次に、ユーザは、画像補正用の各種パラメータを設定し、設定された各種パラメータで構成される補正用フィルタを対象の画像に適用させる。フォトレタッチソフトは、設定された各種パラメータに基づいて補正用フィルタを生成し、対象の画像に適用して補正画像を生成した後、画像表示装置などに表示させる。ユーザは、画像表示装置に表示された画像を確認しながら、所望の画像が得られるまでトライアンドエラーを繰り返し、パラメータを調整する。なお、対象の画像は、撮像装置で撮影されたもののほか、画像読取装置で読み取った画像や、ネットワーク経由で取得された画像などでもよい。また、パーソナルコンピュータばかりでなく、スキャナなどの画像読取装置や写真用のプリンタなどでも、ぼけ補正機能を有する機種が増えつつある。
さらに、ソフトウェアによる補正処理ばかりでなく、写真処理装置に補正回路を設け、ぼけ補正などの特殊補正をハードウェアにより行うことも提案されている(たとえば、特許文献1参照)。
特開2001−36737号公報(図2)
しかし、従来のフォトレタッチソフトなどを用いた補正処理は、一般のユーザにとって使い勝手のよいものではないという問題点があった。
デジタルカメラは、一般に、本体に撮影した映像を表示する表示機能を備えており、撮影したその場で画像を確認できる。しかし、フォトレタッチソフトを用いた補正作業は、パーソナルコンピュータなどに画像を取り込んでからでないと実行できないため、作業が煩雑であり、かつ、撮影した画像をその場で補正することはできなかった。特に、撮影などのために外出している場合は、家に戻るまでぼけ補正を行うことができず、不便であった。
また、補正に用いられる各種パラメータは、ユーザ自身が調整しなければならない。しかし、パラメータの調整作業は、一般のユーザにとっては非常に難しく、所望の画像が得られるまでに時間がかかったり、所望の映像が得られないこともあった。
本発明はこのような点に鑑みてなされたものであり、ユーザに特別な負担をかけることなく、簡便に画像のぼけを補正することが可能な画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置を提供することを目的とする。
本発明では上記課題を解決するために、対象画像のぼけ具合を判定するぼけ具合判定手段と、判定結果に基づいて対象画像のぼけを補正するぼけ補正手段と、を有し、画像のぼけ具合に応じた復元フィルタを用いて、入力された画像のぼけを補正する画像処理装置が提供される。
ぼけ具合判定手段は、補正の対象画像を入力し、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタを、ぼけ度パラメータの値を変化させて対象画像に適用する。そして、対象画像の各要素におけるエッジの強さと、ぼけ度パラメータの異なる複数の復元フィルタによって補正された補正後の対象画像の各画素におけるエッジの強さと、に基づいて補正後の対象画像のエッジ量を算出し、算出したエッジ量が最も大きく変化する復元フィルタを検出し、検出した復元フィルタのぼけ度パラメータの値によって、対象画像のぼけ具合を判定する。ぼけ補正手段は、判定された対象画像のぼけ具合に応じたぼけ度パラメータに基づいて対象画像用の復元フィルタを設定する。そして、対象画像用の復元フィルタを用いて対象画像のぼけを補正する。
このような画像処理装置によれば、ぼけ具合判定手段は、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタを、ぼけ度パラメータの値を変化させて対象画像に適用する。そして、補正前の対象画像の各要素におけるエッジの強さと、それぞれの復元フィルタによって補正された対象画像の各要素におけるエッジの強さと、に基づいて補正後の対象画像のエッジ量を算出する。算出したエッジ量が最も大きく変化する復元フィルタを検出し、検出した復元フィルタのぼけ度パラメータの値によって対象画像のぼけ具合を判定する。検出した復元フィルタは、そのぼけ度パラメータが、対象画像のぼけ具合に最も近似していると考えられる。そして、判定結果に基づき、ぼけ補正手段は、このぼけ度パラメータに基づく復元フィルタを設定し、対象画像のぼけ補正を行う。
また、上記課題を解決するために、画像のぼけ具合に応じた復元フィルタを用いて、入力された画像のぼけを補正する画像処理方法において、ぼけ具合判定手段が、補正の対象画像を入力し、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタをぼけ度パラメータの値を変化させて対象画像に適用し、対象画像の各要素におけるエッジの強さと、ぼけ度パラメータの値の異なるそれぞれの復元フィルタによって補正された補正後の対象画像の各画素におけるエッジの強さと、に基づいて補正後の対象画像のエッジ量を算出し、算出したエッジ量が最も大きく変化する復元フィルタを検出し、検出した復元フィルタのぼけ度パラメータの値によって対象画像のぼけ具合を判定する手順と、ぼけ補正手段が、判定された対象画像のぼけ具合に応じたぼけ度パラメータに基づいて対象画像用の復元フィルタを設定し、対象画像用の復元フィルタを用いて対象画像のぼけを補正する手順と、を有することを特徴とする画像処理方法、が提供される。
このような画像処理方法によれば、補正対象の画像に対し、ぼけ具合判定手段は、復元フィルタのぼけ度パラメータの値を変化させて対象画像に適用し、それぞれの補正画像のエッジ量に応じて対象画像のぼけ具合を判定する。そして、ぼけ補正手段が、判定された対象画像のぼけ具合に基づいて復元フィルタを生成し、対象画像のぼけを補正する。
また、上記課題を解決するために、撮像した画像に対し、所定のフィルタを用いた加工処理を行う撮像装置において、補正の対象画像が選択されると、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタをぼけ度パラメータの値を変化させて対象画像に適用し、対象画像の各要素におけるエッジの強さと、ぼけ度パラメータの値の異なるそれぞれの復元フィルタによって補正された補正後の対象画像の各要素におけるエッジの強さと、に基づいて補正後の対象画像のエッジ量を算出し、算出したエッジ量が最も大きく変化する復元フィルタを検出し、検出した復元フィルタのぼけ度パラメータの値によって対象画像のぼけ具合を判定するぼけ具合判定手段と、判定された対象画像のぼけ具合に応じたぼけ度パラメータに基づいて対象画像用の復元フィルタを設定し、対象画像用の復元フィルタを用いて対象画像のぼけを補正するぼけ補正手段と、を有することを特徴とする撮像装置、が提供される。
このような撮像装置によれば、選択された対象画像に対してぼけ度パラメータを変化させて生成された復元フィルタが適用され、その補正画像のエッジ量に応じて対象画像のぼけ具合が判定される。そして、判定結果に基づいて対象画像用の復元フィルタが生成され、これを用いて対象画像のぼけが補正される。
本発明では、補正対象の画像が指定されると、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタが、ぼけ度パラメータを変化させながら対象画像に適用され、最も適したぼけ度パラメータが選択される。そして、選択されたぼけ度パラメータを用いた復元フィルタによって対象画像のぼけを補正する。このように、自動的に対象の画像のぼけ具合が判定され、適切な復元フィルタを用いて補正が行われるので、ユーザは、パラメータの調整などの煩わしい操作の必要がなくなり、対象画像を指定するという簡単な操作でぼけ補正が可能となる。
以下、本発明の実施の形態を図面を参照して説明する。
図1は、実施の形態に適用される発明の概念図である。本発明にかかる画像処理装置1は、補正対象の画像を選択する画像選択手段1a、対象画像のぼけ具合を判定するぼけ具合判定手段1b、対象画像のぼけを補正するぼけ補正手段1c、及び補正が施された画像を保存する画像保存手段1dを有し、画像を表示する画像表示装置2、及び画像データを記録する画像記録装置3が接続されている。なお、画像処理装置1、画像表示装置2、及び画像記録装置3は、個別の装置である必要はなく、1台の装置を構成する各処理部であってもよい。
画像選択手段1aは、図示しない操作入力部を介して入力されるユーザの指示入力に基づいて、あるいは、所定の基準を満たす画像を自動で選択するなどして、補正対象の画像を決定する。このとき、必要に応じて、補正対象の画像の画像データを読み出し、画像表示装置2に表示させる。
ぼけ具合判定手段1bは、画像選択手段1aによって補正処理に選択された画像の縮小画像、もしくは一部の領域から、その画像のぼけ具合を判定する。なお、対象画像全体からぼけ具合を判定するとしてもよい。このため、所定の点拡がり関数を用いて、画像のぼけを補正する復元フィルタを生成する。点拡がり関数は、点光源入力に対する画像から画像への変換の出力であり、鮮明な入力をぼけた出力に変換するぼけのモデルとして一般に用いられる。画像のぼけのモデルである点拡がり関数には、ぼけの具合に対応するパラメータが含まれており、以下このパラメータをぼけ度パラメータと呼ぶ。拡がり関数には他に、線拡がり関数や縁拡がり関数などがあり、点拡がり関数と同様に画像のぼけのモデルとして用いることができる。画像のぼけを補正し、ぼけのない画像に近い状態に画像を復元する復元フィルタは、このような点拡がり関数に基づいて生成される。復元フィルタの詳細は後述するが、ぼけをモデル化した点拡がり関数に基づいて生成されるので、パラメータにぼけの具合に対応付けられるぼけ度パラメータが含まれる。また、直接対象画像に適用することが可能な空間フィルタとして生成される。ぼけ具合判定手段1bでは、ぼけ度パラメータの値を変化させた復元フィルタを対象画像に適用し、対象画像の復元度を評価する。復元度は、復元フィルタによってぼけた画像がどの程度復元され、シャープな画像となったかを定量的に捉えたものである。各復元フィルタの復元度を比較することにより、対象画像に最適な復元フィルタを選択することができる。そして、高い評価が得られた復元フィルタに設定されるぼけ度パラメータによって対象画像のぼけ具合を判定する。すなわち、評価が高い復元フィルタは、含まれるぼけ度パラメータが、対象画像のぼけ具合に近似していることを示しているので、最適な復元フィルタがわかれば、対象画像のぼけ具合もわかる。ぼけ具合の判定結果は、ぼけ補正手段1cへ通知される。なお、通知される判定結果は、選択された復元フィルタに含まれるぼけ度パラメータの値であってもよい。
ぼけ補正手段1cは、通知されたぼけ度パラメータの値、あるいは、通知されたぼけ具合に対応するぼけ度パラメータの値を用いて復元フィルタを設定する。復元フィルタは、対象画像全体に適用される空間フィルタとして生成される。復元フィルタが対象画像に適用されると、対象画像と復元フィルタとの畳み込み積分演算が行われ、適切にぼけが補正された補正画像が得られる。
画像保存手段1dは、記録の指示が入力されると、ぼけ補正手段1cによってぼけ補正が施された補正画像を画像記録装置3に保存する。なお、画像記録装置3への記録は、ぼけ補正後に自動的に行われてもよい。
画像記録装置3は、補正前の画像の画像データ、あるいは、補正手段1cが補正を行った補正画像の画像データを記憶する記憶手段である。
このような画像処理装置1の動作及び画像処理方法について説明する。ユーザが操作を行って補正の対象画像を選択するなどして、対象画像の選択指示が画像処理装置1に入力される。選択指示が入力されると、画像選択手段1aは、必要であれば画像表示装置2に選択された画像を表示し、ぼけ具合判定手段1bに対象画像を通知する。ぼけ具合判定手段1bは、画像のぼけをモデル化した点拡がり関数に基づいて所定の復元フィルタを生成する。こうして生成された復元フィルタには、ぼけ具合に対応するぼけ度パラメータが含まれている。そこで、復元フィルタに含まれるぼけ度パラメータを変化させ、ぼけ度パラメータの値が異なる複数の復元フィルタを生成し、これを用いて対象画像全体あるいは一部領域、もしくはそれらを縮小した画像に適用して、ぼけの補正を行う。そして、補正された対象画像の復元度を評価し、評価の高い復元フィルタのぼけ度パラメータによって対象画像のぼけ具合を判定する。判定結果は、ぼけ補正手段1cに通知される。ぼけ補正手段1cは、対象画像に決定されたぼけ度パラメータに基づいて、対象画像全体に適用する復元フィルタを生成する。このとき復元フィルタは、対象画像の画像データと直接演算可能な空間フィルタとして生成される。生成された復元フィルタを対象画像に適用してぼけ補正を行い、補正画像を得る。生成された補正画像は、画像表示装置2に表示させるようにしてもよい。記録指示が入力されると、画像保存手段1dは、補正画像を画像記録装置3へ記録する。
以上のように、画像処理装置1では、対象の画像が指示されたときは、ぼけをモデル化した点拡がり関数に基づく復元フィルタのぼけ度パラメータを変化させて対象画像に適用し、その復元度から対象画像のぼけ具合が判定される。そして、判定されたぼけ具合に最も適した復元フィルタが決定され、この復元フィルタを用いて対象画像のぼけが補正される。したがって、ユーザは、煩わしいパラメータの調整を行う必要がなく、補正の対象の画像を指定して補正指示を行うだけでよい。これにより、ユーザの負担を軽減し、利便性を高めることが可能となる。
なお、上記の説明では、ユーザがぼけ補正を行う画像を任意に選択するとしたが、ぼけ補正要否の判断の参照のための情報をユーザに提供することもできる。たとえば、予めぼけ具合判定手段1bで撮影された画像のぼけ具合を算出しておき、画像表示装置2に画像が表示されるとき、事前に算出された当該画像のぼけ具合も表示させる。また、算出されたぼけ具合が所定の基準を超える画像を検出し、これをユーザに通知させることもできる。これにより、ユーザは、客観的に画像のぼけ補正の要否を判断することができる。
ここで、復元フィルタについて説明する。ぼけを伴う劣化画像を復元するために適用される復元フィルタとして、ウィーナフィルタ(Wiener filter)、一般逆フィルタ、照射フィルタなどが知られている。ここでは、復元フィルタとしてウィーナフィルタを用いることとする。
対象画像であるぼけを含む観測画像をg(x,y)、ぼけの含まれない理想画像をf(x,y)、ぼけをモデル化した点拡がり関数をh(x,y)、及びノイズをn(x,y)とすると、これらの関係は、
Figure 0004453734
と表すことができる。x,yは、画像の2次元座標上の位置を表す。式(1)の両辺をフーリエ変換して畳み込み定理を使うと、
G(u,v)= F(u,v)H(u,v)+N(u,v) ・・・(2)
となる。G(u,v)は観測画像g(x,y)をフーリエ変換した結果である。同様に、F(u,v)はf(x,y)、H(u,v)はh(x,y)、N(u,v)はn(x,y)をフーリエ変換した結果である。ここで、H(u,v)は、理想画像f(x,y)を劣化した観測画像g(x,y)に変換する伝達関数である。さらに、H(u,v)で両辺を割ると、
Figure 0004453734
が得られる。ここで、復元画像をf^(x,y)とし、復元画像f^(x,y)と理想画像f(x,y)の誤差を最小にするような復元フィルタ1/Hw(u,v)を考えると、
Figure 0004453734
が得られる。ここで、Γは、信号と雑音のエネルギー密度比であり、適当な定数で近似される。なお、上記の復元フィルタについては、たとえば、「長尾 真 監修; ディジタル画像処理、7.3 最小2乗フィルタ、p.222〜、 近代科学社」に詳細が示されている。
このような復元フィルタを用いてぼけ画像を復元する場合には、復元フィルタが式(4)にあるようにフーリエ変換された周波数領域のフィルタであることから、観測画像g(x,y)もフーリエ変換して周波数領域に変換し、式(4)の復元フィルタを適用する。具体的には、以下の手順が行われる。
第1に、観測画像g(x,y)を、フーリエ変換し、G(u,v)を算出する。
g(x,y) → G(u,v) ・・・(5)
これは、式(4)に示した復元フィルタを用いた補正演算を容易にするための前処理である。
第2に、点拡がり関数h(x,y)を、フーリエ変換し、H(x,y)を算出する。さらに、式(4)を用いて、H(u,v)から復元フィルタ1/Hw(u,v)を生成する。なお、Γは、画像に合わせて適宜設定される。
h(x,y) → 1/Hw(u,v) ・・・(6)
第3に、フーリエ変換された観測画像G(x,y)と、復元フィルタ1/Hw(u,v)とを乗算し、F^(u,v)を得る。
F^(u,v)=(1/Hw(u,v))×G(u,v) ・・・(7)
これを逆フーリエ変換することにより、復元画像f^(x,y)を得る。
F^(u,v) → f^(x,y) ・・・(8)
以上の処理手順が実行されることにより、観測画像g(x,y)のぼけを補正し、理想画素との誤差を最小とする復元画像f^(x,y)が得られる。
しかし、このような処理手順を実行しようとすると、観測画像のフーリエ変換と、逆フーリエ変換に要する時間が多大となるという問題が生じる。デジタルカメラの有効画素数は増加する一方であり、今や画素数が10メガ画素(3648×2736)を超えるものもある。さらに、画像は2次元データであるため、観測画像や復元画像についてフーリエ変換/逆フーリエ変換を行うときには、巨大なメモリが必要となる。パーソナルコンピュータ、あるいは据え置き型のスキャナやプリンタなどの画像処理装置であれば、高性能のプロセッサと、十分なメモリとを用意することも可能であろう。しかし、デジタルカメラなどの小型機器に搭載することは難しい。そこで、本願発明者は、データ量の大きい観測画像や復元画像に対し、フーリエ変換及び復元画像逆フーリエ変換を行わずに、実行可能なぼけの補正処理手順を見出した。以下、処理手順を説明する。
ここで、復元フィルタ1/Hw(u,v)を逆フーリエ変換して空間領域にしたものをhw(x,y)とする。そして、式(7)を逆フーリエ変換すると、
Figure 0004453734
となる。なお、逆フーリエ変換されると虚部はゼロになり、実部のみになる。式(9)は、畳み込み積分の形をしているので、畳み込み積分記号*を用いて表現すると、
f^(x,y)= g(x,y)* hw(x,y) ・・・(10)
と表すことができる。これは、通常の空間フィルタとまったく同じ形であり、空間フィルタ処理と同様の手順で復元処理を行うことができることになる。以下、このように空間フィルタ化された復元フィルタを用いたぼけ補正(画像復元)処理について説明する。
図2は、空間フィルタ化された復元フィルタを用いた画像復元処理の手順を示した図である。
[ステップS01] 画像のぼけのモデルの点拡がり関数h(x,y)をフーリエ変換し、復元フィルタ1/Hw(u,v)を求める。復元フィルタの生成は、上述のように、点拡がり関数h(x,y)をフーリエ変換したH(u,v)を、式(4)に用いて生成する。Γは、適宜設定される。この復元フィルタ1/Hw(u,v)は、周波数領域の復元フィルタである。
[ステップS02] ステップS01で生成された復元フィルタ1/Hw(u,v)を逆フーリエ変換し、空間フィルタ化する。変換された空間領域の復元フィルタをhw(x,y)とする。
[ステップS03] 観測画像g(x,y)に、空間領域の復元フィルタhw(x,y)を適用して復元画像f^(x,y)を得る。このときに実行される演算は、式(9)に示したように、単なる畳み込み積分である。したがって、定数係数の積和演算の繰り返しとして演算処理することができる。このため、観測画像のフーリエ変換、及び補正画像の逆フーリエ変換の演算と比べて演算に要する負荷が軽い。
以上の処理手順を実行することにより、点拡がり関数h(x,y)に基づいて空間フィルタ化された復元フィルタhw(x,y)が生成され、観測画像g(x,y)に対してぼけ補正を行った復元画像f^(x,y)を得ることができる。このとき、観測画像g(x,y)を周波数領域に変換するフーリエ変換、及び周波数領域で補正が施された復元画像を空間領域の復元画像f^(x,y)に変換する逆フーリエ変換は行われない。すなわち、観測画像g(x,y)のぼけ補正は、空間フィルタ化された復元フィルタを用いて、通常の空間フィルタと同様の処理手順で実行される。
なお、ステップS01の復元フィルタの生成にはフーリエ変換、ステップS02の空間フィルタへの変換では逆フーリエ変換を行うが、復元フィルタは、観測画像のサイズと比較してはるかに小さく設定される。したがって、フーリエ変換及び逆フーリエ変換に要する負担も軽微である。
また、上記の説明では、復元フィルタ生成(ステップS01)と、空間フィルタへの変換(ステップS02)と、を毎回行うとしているが、事前に適当な複数の点拡がり関数h(x,y)に対する空間領域の復元フィルタhw(x,y)を求めておくこともできる。
以下、実施の形態を、上記のぼけ補正処理を撮像装置に適用した場合を例に図面を参照して詳細に説明する。対象の撮像装置は、撮影した画像に対し、所定のフィルタを用いた加工処理を施すことが可能なデジタルカメラなどである。図3は、本発明の実施の形態の撮像装置の構成図である。
撮像装置は、撮像された画像の処理を行う画像処理部100に、被写体の光学的な像を捉えるレンズ&イメージャー201、画像を表示する画像表示装置202、及び画像データとその関連情報を記録する記録メディア203とが接続する。
画像処理部100は、全体を制御する制御用CPU(Central Processing Unit)101が、データバス102を介して、RAM(Random Access Memory)103、ROM(Read Only Memory)104、カメラ信号処理エンジン105、ぼけ具合判定エンジン106、ぼけ補正エンジン107、画像表示用エンジン108、及び外部メディアコントローラ109に接続されている。なお、エンジンは、所定の問題を解決するための専用ツールの総称で、ハードウェアまたはソフトウェア、あるいはその組み合わせで構成される。
RAM103には、制御用CPU101に実行させるOS(Operating System)のプログラムやアプリケーションプログラムの少なくとも一部が一時的に格納される。また、RAM103には、制御用CPU101による処理に必要な各種データが格納される。ROM104には、OSやアプリケーションのプログラムが格納される。カメラ信号処理エンジン105は、レンズ&イメージャー201が取り込んだカメラ信号を入力し、信号処理を施して画像データを生成する。ぼけ具合判定エンジン106は、制御用CPU101に従って、ぼけ度を変化させて対象画像に合った復元フィルタを選択することによって、補正対象の画像のぼけ具合を判定する。ぼけ補正エンジン107は、ぼけ具合判定エンジン106が判定した画像のぼけ具合に基づいて復元フィルタを生成し、補正対象の画像を補正する。画像表示用エンジン108には、画像表示装置202が接続されており、制御用CPU101からの命令に従って画像を画像表示装置202の画面に表示させる。外部メディアコントローラ109は、制御用CPU101などの命令に従って記録メディア203からデータを読み出してデータバス102を介して送信するとともに、指示されたデータを記録メディア203へ書き込む。
レンズ&イメージャー201は、カメラ信号を生成する撮像部で、映像光を撮像装置内に取り込むレンズと、撮像素子から成るイメージャーとを有する。被写体(図示せず)からの映像光は、レンズを介して入力され、イメージャーの撮像面に照射される。イメージャーが捉えたカメラ信号は、カメラ信号処理エンジン105へ転送される。画像表示装置202は、指示された画像を画面に表示する。記録メディア203は、撮影された画像データ及び関連情報を記録する記録媒体である。
このような構成の撮像装置によって実行されるぼけ補正処理について説明する。
まず、以下に説明するぼけ補正処理で用いる点拡がり関数及び復元フィルタについて説明する。実施の形態では、ぼけ現象を表す点拡がり関数を2次元ガウス分布と仮定する。2次元ガウス分布は、正規分布であり、
Figure 0004453734
と表される関数である。ここで、σは、ぼけの強さの分布の広さを表すぼけ度パラメータである。以下、ぼけ度パラメータを、ぼけ度σとする。式(11)から明らかなように、ぼけの強さは、ぼけ度σのみをパラメータとして表現される。ぼけ度σの値が大きいほど、輪郭がぼやけたぼけの強い画像になる。なお、点拡がり関数としては、他に、円柱状分布(本来1点に撮像されるはずの光が、ある半径rの円柱状に均等に広がるモデル)などを用いることができる。
撮像装置で用いる復元フィルタは、式(11)で表される2次元ガウス関数をフーリエ変換し、式(4)を用いて周波数領域の復元フィルタ(ウィーナフィルタ)を生成し、さらに、逆フーリエ変換を行って空間領域の復元フィルタに変換する。
具体的には、式(11)によって表される2次元ガウス分布と仮定された点拡がり関数に2次元離散フーリエ変換を実行して、伝達関数H(u,v)を生成する。
Figure 0004453734
ここで、M,Nは、フィルタの大きさを表す。ここで、式(12)によって表される伝達関数H(u,v)を、式(4)に適用し、周波数領域でウィーナフィルタ化する。さらに、2次元離散逆フーリエ変換を行い、空間領域の復元フィルタに変換する。これにより、空間フィルタ化された復元フィルタ、
Figure 0004453734
を得る。一例を挙げて説明する。
図4は、あるぼけ度σで生成された復元フィルタの一例である。(A)は、ぼけ度σ=0.4のガウス分布の±3σまでを包括したガウシアンフィルタh(x,y)を記述したものである。(B)は、同様に、σ=0.5のガウシアンフィルタh(x,y)を表したものである。
そして、(C)は、式(13)によって得られるσ=0.5の場合の復元フィルタhw(x,y)である。この例では、M=N=7としている。
このようにして作成された復元フィルタを直接観測画像に適用することにより、ぼけが補正された補正画像が得られる。このとき行われる演算は、定数係数の積和演算の繰り返しであり、撮像装置で一般的に行われる空間フィルタの演算と同様である。
以下、実施の形態の撮像装置が、上記の復元フィルタを用いてぼけ補正処理方法について説明する。
図5は、撮像装置におけるぼけ補正処理の一例の手順を示した図である。
[ステップS11] ぼけ補正処理が開始されると、輝度成分抽出処理が行われる。輝度成分抽出処理では、補正対象に指定された対象画像の原画像データ(n画素;nは任意の整数)を読み出し、その輝度成分を抽出する。以下、輝度成分を抽出した画像をY画像と呼ぶ。Y画像は、原画像から輝度成分を抽出しただけのデータであるので、サイズはn画素のままである。
[ステップS12] Y画像に対し、ぼけ度同定用の画像抽出処理が行われる。ぼけ度同定用の画像抽出処理では、Y画像を縮小あるいは一部領域を切り取って、サイズを小さくする。ぼけ度の同定処理では、原画像のぼけを補正することが目的ではないので、全画像領域を必ずしも対象としなくてもよい。そこで、ぼけ度が同定できる程度の画像領域を抽出する。抽出された画像をミニ原画像と呼ぶ。この例では、ミニ原画像のサイズは、320×240である。これにより、ぼけ度の同定処理に要する時間を短縮することができる。
[ステップS13] ステップS12で作成されたぼけ度同定用のミニ原画像を用いて、ぼけ度の同定処理が行われる。ぼけ度の同定処理では、式(13)によって表される空間領域の復元フィルタに含まれるぼけ度σを変化させて、ミニ原画像(320×240画素)に対応する復元フィルタを生成する。なお、生成する復元フィルタは、ミニ原画像のサイズに合わせて小さくする。そして、生成された復元フィルタをミニ原画像に適用し、得られた補正画像を評価して適切なぼけ度σを決定する。以下、作成される複数の復元フィルタに設定されるぼけ度σを、ぼけ度σiとする。iは、設定されるそれぞれのパラメータの値に対応付けられる1からすべてのパラメータ数に対応する整数である。また、補正画像の評価によって決定された最適なぼけ度σを、特にぼけ度σ0とする。
[ステップS14] 同定されたぼけ度σ0を用いて、復元フィルタ生成処理が行われる。復元フィルタ生成処理では、原画像(n画素)のぼけ補正に用いる復元フィルタ(以下、復元フィルタσ0とする)、を生成する。
[ステップS15] ステップS14で生成された復元フィルタσ0を用いて、ぼけ補正処理が行われる。ぼけ補正処理では、Y画像(n画素)に対し復元フィルタσ0を適用し、輝度成分のみのぼけ補正を行い、補正Y画像(n画素)を生成する。これは、人間の目は輝度に敏感であることと、色成分を補正すると本来の色と異なる偽色が生じる可能性があることによる。また、色チャンネルの補正を省くことで、計算量を削減できるという効果もある。
[ステップS16] 補正Y画像(n画素)を用いて、画像合成処理が行われる。画像合成処理では、復元フィルタσ0を用いてぼけ補正が施された輝度成分のみの補正Y画像と、原画像の色成分とを合成して補正画像を生成する。
以上の処理手順が実行されることにより、指定された原画像について、自動的にぼけ度が判定され、判定結果に基づいて最適な復元フィルタによるぼけ補正が行われる。
続いて、処理の詳細を、同定用画像生成処理、ぼけ度の同定処理、及びぼけ補正処理の順に説明する。
(a)同定用画像生成処理
補正対象に指定された原画像から、ぼけ度の同定処理に用いるミニ原画像を作成するまでの処理を行う。図6は、同定用画像生成処理の手順を示したフローチャートである。
[ステップS111] 原画像(n画素)301を読み込み、輝度成分を抽出して、Y画像(n画素)302を生成する。原画像301は、補正の対象の画像であり、ぼけ現象が発生している。この時点では、原画像301のぼけ度σは未知である。
[ステップS112] ステップS111で生成されたY画像(n画素)302をVGA(Video Graphics Array)サイズ(640×480)に変換する。生成されたVGA画像(640×480)303は、原画像(n画素)301の縮小画像になる。なお、VGA画像への変換は、撮像装置が通常備える機能であり、ここでは詳細について言及しない。
[ステップS113] ステップS112で生成された原画像301のVGA画像(640×480)303の中心部をトリミングしてミニ原画像(320×240)304を生成する。なお、サイズは一例であり、これに限定されない。中心部を抽出するのは、中心部には画像の主要部分が含まれることが多いからである。抽出する領域は、画像や撮影時に生成される付加情報などに基づいて抽出部を調整してもよいし、必要であれば、ミニ原画像の抽出範囲をユーザが設定できるようにしてもよい。このように画像の主要部を抽出することによって、ぼけの同定用の画像サイズをさらに小さくする。
以上の処理手順が実行されることにより、サイズの大きな原画像(たとえば、10メガ画素)を縮小し、一部領域を抽出してミニ原画像(320×240)が生成される。縮小または一部領域の抽出の一方のみが実行されるとしてもよい。以降の処理においてミニ原画像を用いて同定処理を行うことによって、対象画像全体で同定処理を行う場合と比較して、同定処理に要する時間を短縮することができる。
(b)ぼけ度の同定処理
ミニ原画像にぼけ度σiの異なる復元フィルタσiを適用し、補正された画像の復元度を評価して対象画像に適合するぼけ度σ0を同定する処理を行う。ここでは、画像の復元度の評価方法として、エッジ量を用いる。図7は、ぼけ度の同定処理の手順を示したフローチャートである。
[ステップS131] 入力されたミニ原画像304のエッジを抽出する。エッジは、画像の1つの領域が終わり他の領域が始まっていることを示すような場所であり、輝度が急激に変化している場所を言う。たとえば、Robertsオペレータによるエッジ抽出フィルタを用いて対象のミニ原画像304における各画素のエッジの強さを抽出する。抽出された各画素におけるエッジの強さをW(x,y)とする。エッジの強さW(x,y)は、一時記憶手段に保存しておく。
[ステップS132] 続くステップS133からステップS136において、ぼけ度パラメータの値を変化させて繰り返し処理を行わせるため、ぼけ度パラメータを特定するポインタを初期化(i=1)する。これにより、ぼけ度σiは、ぼけ度σ1に初期化される。
[ステップS133] ぼけ度σiを用いて同定用復元フィルタを生成する。上記のように、ぼけ度σiのガウシアンフィルタを2次元離散フーリエ変換し、周波数領域でウィーナフィルタ化した後、2次元離散逆フーリエ変換を行って、空間領域の同定用復元フィルタに変換する。このとき、同定用復元フィルタのサイズ(M,N)は、対象となるミニ原画像の大きさに合わせ、小さくする。たとえば、5×5、あるいは7×7程度の大きさにする。このときに生成された同定用復元フィルタを、含まれるぼけ度σiに合わせて同定用復元フィルタσiとする。
[ステップS134] ステップS133で生成された同定用復元フィルタσiをミニ原画像304に適用して、ミニ原画像304のぼけを補正する。
[ステップS135] 同定用復元フィルタσiによって補正された補正ミニ原画像305の各画素のエッジの強さを算出する。算出は、ステップS131と同様の方法で行う。算出されたエッジをDi(x,y)とする。そして、算出された補正画像のエッジDi(x,y)と、ステップS131で算出された原画像のエッジW(x,y)とを用いて、エッジ量を算出する。エッジ量E(i)は、
Figure 0004453734
によって算出される。エッジ量E(i)は、エッジの部分がどれほど鋭利であるかを表す量である。一般に、ぼけ画像では、輝度変化の鋭いエッジ部がぼけ現象によってなだらかな輝度変化となっている。このため、ぼけが適切に補正されていれば、原画像のエッジ部がより強いエッジになる。算出されたエッジ量E(i)は、一時記憶手段に保存しておく。
[ステップS136] すべてのぼけ度σiの復元フィルタについて処理が終了し、エッジ量が算出されたかどうかを判定する。終了していないときは、ポインタを1進め、ステップS133に戻って処理を繰り返す。終了したときは、次ステップへ処理を進める。
[ステップS137] すべてのぼけ度σiについてエッジ量E(i)が算出されたので、これを評価し、ミニ原画像304に適したぼけ度σ0を同定する。
図8は、ぼけ度σiとエッジ量との関係を示した図である。図の横軸は、ぼけ度σi、縦軸はエッジ量E(i)を示している。なお、エッジ量は、原画像のエッジ量を1としている。
エッジ量E(i)401は、エッジ部分がどの程度シャープであるかを表す量であり、ぼけ度σが小さいときは、原画像のエッジ量と変わらないが、大きくなるに従って増大していく。図は一例であるが、どのような画像でも傾向は同様である。このように、エッジ量が少ないときは、その画像はまだまだぼけている。しかし、過度にエッジが鋭いと、リンギングノイズとなり適当でない。最も適切なぼけ度σ0は、エッジ量が最大に変化している近傍になる。すなわち、エッジ量E(i)401を1次微分したΔE(i)402が最大となるぼけ度σiが最適なぼけ度σ0になる。
以上の処理が実行されることにより、ミニ原画像を用いて、最適なぼけ度σ0が同定される。
ここで、エッジ量算出処理の一例を説明する。
ぼけた原画像の座標(x,y)の輝度をg(x,y)とするとき、その位置のエッジW(x,y)を、
Figure 0004453734
とし、ぼけ度σiで補正した画像f^(x,y)のエッジDi(x,y)を、
Figure 0004453734
とするとき、この補正画像のエッジ量E(i)は、
Figure 0004453734
により算出される。ここで、式(17)では、画像の幅をwidth、画像の高さをheightとしている。
なお、画像のエッジを求める式(15)及び式(16)は、それぞれ、
Figure 0004453734
を使ってもよい。
(c)ぼけ補正処理
対象画像に適用する復元フィルタの生成から、対象画像にぼけ補正処理を施した補正画像の生成までの処理を行う。図9は、ぼけ補正処理の手順を示したフローチャートである。
[ステップS151] 同定されたミニ原画像304のぼけ度σ0を用いて、対象の原画像に適した復元フィルタσ0を生成する。復元フィルタは、同定用復元フィルタと同様の処理で作成する。このとき、ミニ画像を縮小により抽出した場合はぼけ度σ0の値をこの縮小比にしたがって変更する。例えば、対象の画像のサイズが3648×2736画素であり、ミニ画像を抽出する過程でこれをVGA(640×480)に縮小している場合はσ0の値を5.7倍して復元フィルタを生成する。
[ステップS152] 対象の原画像の輝度成分を抽出したY画像302を、ステップS151で生成した復元フィルタσ0306を用いて補正するぼけ補正処理を行う。演算は、単なるフィルタ処理演算になる。こうして、補正Y画像307が生成される。
[ステップS153] 原画像301の色成分301aと、補正Y画像307とを合成し、補正画像308を生成して出力する。
以上の処理手順が実行されることにより、同定された最適なぼけ度σ0を用いて、最適な復元フィルタσ0が生成され、対象の原画像のぼけ補正が行われる。
以上の説明の撮像装置は、対象の原画像のフーリエ変換や、補正画像のフーリエ逆変換というような処理を行うことなく、簡便な方法で対象の原画像のぼけを自動的に補正することができる。
また、上記の説明では、ぼけ度の同定処理において、同定用復元フィルタを毎回作成するとしたが、予め、複数の点拡がり関数h(x,y)に対する空間領域の復元フィルタhw(x,y)を求めて内部の記憶手段に記憶しておくこともできる。これにより、記憶するための記憶領域の確保は必要になるが、復元フィルタの演算処理を行わなくてもよいため、ぼけ度の同定処理の処理時間を短縮することができる。
実施の形態では、撮像装置に適用した場合について説明したが、上記の画像処理方法がパーソナルコンピュータや、その他の画像処理装置に適用できることは当然である。
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、画像処理装置が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録装置には、ハードディスク装置(HDD)、フレキシブルディスク(FD)、磁気テープなどがある。光ディスクには、DVD(Digital Versatile Disc)、DVD−RAM、CD−ROM(Compact Disc)、CD−R(Recordable)/RW(ReWritable)などがある。光磁気記録媒体には、MO(Magneto-Optical disk)などがある。
プログラムを流通させる場合には、たとえば、そのプログラムが記録されたDVD、CD−ROMなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
プログラムを実行するコンピュータは、たとえば、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
実施の形態に適用される発明の概念図である。 空間フィルタ化された復元フィルタを用いた画像復元処理の手順を示した図である。 本発明の実施の形態の撮像装置の構成図である。 あるぼけ度σで生成された復元フィルタの一例である。 撮像装置におけるぼけ補正処理の一例の手順を示した図である。 同定用画像生成処理の手順を示したフローチャートである。 ぼけ度の同定処理の手順を示したフローチャートである。 ぼけ度σiとエッジ量との関係を示した図である。 ぼけ補正処理の手順を示したフローチャートである。
符号の説明
1・・・画像処理装置、 1a・・・画像選択手段、 1b・・・ぼけ具合判定手段、 1c・・・ぼけ補正手段、 1d・・・画像保存手段、 2・・・画像表示装置、 3・・・画像記録装置

Claims (9)

  1. 画像のぼけ具合に応じた復元フィルタを用いて、入力された画像のぼけを補正する画像処理装置において、
    補正の対象画像を入力し、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタを前記ぼけ度パラメータの値を変化させて前記対象画像に適用し、前記対象画像の各要素におけるエッジの強さと、前記ぼけ度パラメータの値の異なるそれぞれの前記復元フィルタによって補正された補正後の対象画像の各画素におけるエッジの強さと、に基づいて前記補正後の対象画像のエッジ量を算出し、算出した前記エッジ量が最も大きく変化する前記復元フィルタを検出し、検出した前記復元フィルタの前記ぼけ度パラメータの値によって前記対象画像のぼけ具合を判定するぼけ具合判定手段と、
    判定された前記対象画像のぼけ具合に応じた前記ぼけ度パラメータに基づいて対象画像用の復元フィルタを設定し、前記対象画像用の復元フィルタを用いて前記対象画像のぼけを補正するぼけ補正手段と、
    を有することを特徴とする画像処理装置。
  2. 前記ぼけ具合判定手段は、前記ぼけ度パラメータを含む画像のぼけ具合をモデル化した所定の拡がり関数をフーリエ変換して伝達関数を算出し、前記伝達関数に基づいて周波数領域の復元フィルタを生成し、前記周波数領域の復元フィルタを逆フーリエ変換して空間領域の復元フィルタに変換して前記対象画像に適用することを特徴とする請求項1記載の画像処理装置。
  3. 前記ぼけ具合判定手段は、前記拡がり関数として、2次元ガウス分布を用いることを特徴とする請求項2記載の画像処理装置。
  4. 前記ぼけ具合判定手段は、前記伝達関数をウィーナフィルタ化して前記周波数領域の復元フィルタを生成することを特徴とする請求項2記載の画像処理装置。
  5. 前記ぼけ具合判定手段は、前記対象画像から輝度成分を抽出し、抽出された前記輝度成分のみの対象画像を用いて前記対象画像のぼけ具合を判定し、
    前記ぼけ補正手段は、前記輝度成分のみの対象画像に前記復元フィルタを適用してぼけの補正を行い、補正が施された前記輝度成分のみの対象画像と、前記対象画像の色成分とを合成して前記対象画像の補正画像を生成する、
    ことを特徴とする請求項1記載の画像処理装置。
  6. 前記ぼけ具合判定手段は、前記対象画像の縮小、前記対象画像の一部領域の切り取り、または、前記対象画像の縮小と一部領域の切り取りを行って、ミニ画像を生成するとともに、前記ミニ画像の大きさに適したサイズの前記復元フィルタを生成し、前記ミニ画像を対象としてぼけ具合の判定を行う、ことを特徴とする請求項1記載の画像処理装置。
  7. 画像のぼけ具合に応じた復元フィルタを用いて、入力された画像のぼけを補正する画像処理方法において、
    ぼけ具合判定手段が、補正の対象画像を入力し、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタを前記ぼけ度パラメータの値を変化させて前記対象画像に適用し、前記対象画像の各要素におけるエッジの強さと、前記ぼけ度パラメータの値の異なるそれぞれの前記復元フィルタによって補正された補正後の対象画像の各画素におけるエッジの強さと、に基づいて前記補正後の対象画像のエッジ量を算出し、算出した前記エッジ量が最も大きく変化する前記復元フィルタを検出し、検出した前記復元フィルタの前記ぼけ度パラメータの値によって前記対象画像のぼけ具合を判定する手順と、
    ぼけ補正手段が、判定された前記対象画像のぼけ具合に応じた前記ぼけ度パラメータに基づいて対象画像用の復元フィルタを設定し、前記対象画像用の復元フィルタを用いて前記対象画像のぼけを補正する手順と、
    を有することを特徴とする画像処理方法。
  8. 画像のぼけ具合に応じた復元フィルタを用いて、入力された画像のぼけを補正する処理を行う画像処理プログラムにおいて、
    コンピュータを、
    補正の対象画像を入力し、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタを前記ぼけ度パラメータの値を変化させて前記対象画像に適用し、前記対象画像の各要素におけるエッジの強さと、前記ぼけ度パラメータの値の異なるそれぞれの前記復元フィルタによって補正された補正後の対象画像の各画素におけるエッジの強さと、に基づいて前記補正後の対象画像のエッジ量を算出し、算出した前記エッジ量が最も大きく変化する前記復元フィルタを検出し、検出した前記復元フィルタの前記ぼけ度パラメータの値によって前記対象画像のぼけ具合を判定するぼけ具合判定手段、
    判定された前記対象画像のぼけ具合に応じた前記ぼけ度パラメータに基づいて対象画像用の復元フィルタを設定し、前記対象画像用の復元フィルタを用いて前記対象画像のぼけを補正するぼけ補正手段、
    として機能させることを特徴とする画像処理プログラム。
  9. 撮像した画像に対し、所定のフィルタを用いた加工処理を行う撮像装置において、
    補正の対象画像が選択されると、画像のぼけ具合に対応付けられるぼけ度パラメータを含む復元フィルタを前記ぼけ度パラメータの値を変化させて前記対象画像に適用し、前記対象画像の各要素におけるエッジの強さと、前記ぼけ度パラメータの値の異なるそれぞれの前記復元フィルタによって補正された補正後の対象画像の各画素におけるエッジの強さと、に基づいて前記補正後の対象画像のエッジ量を算出し、算出した前記エッジ量が最も大きく変化する前記復元フィルタを検出し、検出した前記復元フィルタの前記ぼけ度パラメータの値によって前記対象画像のぼけ具合を判定するぼけ具合判定手段と、
    判定された前記対象画像のぼけ具合に応じた前記ぼけ度パラメータに基づいて対象画像用の復元フィルタを設定し、前記対象画像用の復元フィルタを用いて前記対象画像のぼけを補正するぼけ補正手段と、
    を有することを特徴とする撮像装置。
JP2007244825A 2007-09-21 2007-09-21 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置 Expired - Fee Related JP4453734B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007244825A JP4453734B2 (ja) 2007-09-21 2007-09-21 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置
KR1020080080771A KR20090031217A (ko) 2007-09-21 2008-08-19 화상 처리 장치, 화상 처리 방법, 및 화상 처리 프로그램, 및 촬상 장치
US12/284,071 US8194996B2 (en) 2007-09-21 2008-09-18 Image processing apparatus, image processing method, image processing program, and image capturing apparatus
CN2008102116825A CN101394460B (zh) 2007-09-21 2008-09-18 图像处理设备、方法以及图像捕获设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007244825A JP4453734B2 (ja) 2007-09-21 2007-09-21 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置

Publications (2)

Publication Number Publication Date
JP2009077202A JP2009077202A (ja) 2009-04-09
JP4453734B2 true JP4453734B2 (ja) 2010-04-21

Family

ID=40471702

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007244825A Expired - Fee Related JP4453734B2 (ja) 2007-09-21 2007-09-21 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置

Country Status (4)

Country Link
US (1) US8194996B2 (ja)
JP (1) JP4453734B2 (ja)
KR (1) KR20090031217A (ja)
CN (1) CN101394460B (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5409112B2 (ja) * 2009-05-21 2014-02-05 キヤノン株式会社 画像処理装置およびその方法
JP5148573B2 (ja) * 2009-08-31 2013-02-20 富士フイルム株式会社 画像処理システム、画像処理方法およびプログラム
US8606032B2 (en) * 2009-12-23 2013-12-10 Sony Corporation Image processing method, device and program to process a moving image
WO2011122284A1 (ja) * 2010-03-31 2011-10-06 キヤノン株式会社 画像処理装置、およびそれを用いた撮像装置
JP4798296B1 (ja) * 2010-04-15 2011-10-19 パナソニック株式会社 帳票
JP5683291B2 (ja) * 2010-05-07 2015-03-11 キヤノン株式会社 動画再生装置、方法及びプログラム並びに記録媒体
JP5454348B2 (ja) * 2010-05-12 2014-03-26 ソニー株式会社 撮像装置および画像処理装置
JP5660711B2 (ja) * 2010-09-16 2015-01-28 富士フイルム株式会社 復元ゲインデータ生成方法
DE102011107371A1 (de) * 2011-07-14 2013-01-17 Forschungszentrum Jülich GmbH Verfahren zur Bestimmung der Übertragungsfunktion eines signalverarbeitenden Systems ohne bekanntes Eingangssignal
CN102289794A (zh) * 2011-07-27 2011-12-21 苏州巴米特信息科技有限公司 一种图像复原的方法
TW201336303A (zh) * 2012-02-24 2013-09-01 Htc Corp 影像擷取系統及應用於影像擷取系統的影像處理方法
KR102020531B1 (ko) * 2012-08-20 2019-09-10 삼성전자주식회사 선형 감마선원을 이용하여 고해상도의 pet(양전자 방출 단층 촬영) 영상을 생성하는 방법 및 장치
KR102026735B1 (ko) * 2012-10-02 2019-09-30 삼성전자주식회사 영상 촬영 장치의 검출기의 시스템 응답 및 시스템 응답을 이용하여 의료 영상을 생성하는 방법 및 장치
US9055223B2 (en) * 2013-03-15 2015-06-09 Samsung Electronics Co., Ltd. Digital image stabilization method and imaging device using the same
CN105453534B (zh) 2013-05-13 2018-07-06 富士胶片株式会社 图像处理装置及方法
CN103595898A (zh) * 2013-11-12 2014-02-19 厦门美图网科技有限公司 一种基于图像信息的智能滤镜处理方法
CN104808975A (zh) * 2014-01-26 2015-07-29 腾讯科技(深圳)有限公司 相机应用的滤镜实现方法和装置
EP3134873A1 (en) * 2014-04-25 2017-03-01 Sony Corporation Processing digital photographs in response to external applications
CN104112271A (zh) * 2014-06-19 2014-10-22 深圳市大族激光科技股份有限公司 移动终端外壳侧面缺陷检测方法和***
CN104121853A (zh) * 2014-07-15 2014-10-29 深圳市大族激光科技股份有限公司 壳体检测装置及其载物台
CN105338339B (zh) * 2014-07-29 2018-02-27 联想(北京)有限公司 信息处理方法及电子设备
US9396409B2 (en) 2014-09-29 2016-07-19 At&T Intellectual Property I, L.P. Object based image processing
JP6635674B2 (ja) * 2015-05-11 2020-01-29 キヤノン株式会社 計測装置、計測方法およびプログラム
CN105224950A (zh) * 2015-09-29 2016-01-06 小米科技有限责任公司 滤镜类别识别方法及装置
CN107451959B (zh) * 2016-05-31 2020-10-16 宇龙计算机通信科技(深圳)有限公司 图片处理方法及***
US10482345B2 (en) * 2016-06-23 2019-11-19 Capital One Services, Llc Systems and methods for automated object recognition
CN106485702B (zh) * 2016-09-30 2019-11-05 杭州电子科技大学 基于自然图像特征统计的图像模糊检测方法
CN107231525A (zh) * 2017-05-31 2017-10-03 深圳可思美科技有限公司 图像暗角自适应补偿方法和装置
JP6860433B2 (ja) * 2017-06-19 2021-04-14 株式会社東芝 処理装置、処理システム、方法及びプログラム
CN107360338B (zh) * 2017-08-24 2018-04-17 刘广升 一种基于图像处理的自动提醒方法
CN108040180B (zh) * 2017-08-24 2018-11-20 宁皓 基于图像处理的自动提醒***
CN107479853B (zh) * 2017-08-29 2018-11-06 南安市柳信光电科技有限公司 一种便捷调节音量的方法
KR102665968B1 (ko) * 2019-06-27 2024-05-16 삼성전자주식회사 블러 추정 방법 및 장치
WO2021071476A1 (en) * 2019-10-09 2021-04-15 Siemens Medical Solutions Usa, Inc. Image reconstruction by modeling image formation as one or more neural networks

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001036737A (ja) 1999-07-22 2001-02-09 Noritsu Koki Co Ltd 写真処理装置用の画像処理装置
US7515768B2 (en) * 2004-12-07 2009-04-07 Sony Corporation Method, and apparatus for processing image, recording medium and computer program
EP1954031A4 (en) * 2005-10-28 2010-09-29 Nikon Corp PICTURE DEVICE, PICTURE PROCESSING DEVICE AND PROGRAM
JP2007206738A (ja) 2006-01-30 2007-08-16 Kyocera Corp 撮像装置およびその方法
US20080137978A1 (en) * 2006-12-07 2008-06-12 Guoyi Fu Method And Apparatus For Reducing Motion Blur In An Image

Also Published As

Publication number Publication date
CN101394460B (zh) 2011-01-19
US8194996B2 (en) 2012-06-05
CN101394460A (zh) 2009-03-25
JP2009077202A (ja) 2009-04-09
US20090080790A1 (en) 2009-03-26
KR20090031217A (ko) 2009-03-25

Similar Documents

Publication Publication Date Title
JP4453734B2 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム、並びに撮像装置
KR101442610B1 (ko) 디지털 촬영장치, 그 제어방법 및 제어방법을 실행시키기위한 프로그램을 저장한 기록매체
JP3944151B2 (ja) 画像処理方法、画像処理装置および画像処理プログラム
JP6825625B2 (ja) 画像処理装置および画像処理装置の作動方法、並びに医療用撮像システム
US20150063692A1 (en) Image capture device with contemporaneous reference image capture mechanism
JP4825748B2 (ja) 画像データ処理方法および撮像装置
JP6711396B2 (ja) 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
JP4692856B2 (ja) モデルベースの異方性拡散の方法および装置
JP2011135563A (ja) 撮像装置および画像処理方法
JP2009534722A (ja) 光学部材と画像処理部材とを組み合わせた設計
JP6614843B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2009088935A (ja) 画像記録装置、画像補正装置及び撮像装置
US20150161771A1 (en) Image processing method, image processing apparatus, image capturing apparatus and non-transitory computer-readable storage medium
JP5541750B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び、プログラム
JP2012003454A (ja) 画像処理装置、撮像装置および画像処理プログラム
WO2007083621A1 (ja) 画像処理装置
JP4926450B2 (ja) 画像処理装置
JP5423663B2 (ja) 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置
US10354367B2 (en) Image processing apparatus, image pickup apparatus, image processing method, image processing program, and storage medium
JP2005277503A (ja) 画像処理方法および装置並びにプログラム
JP2017229025A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6739955B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および記録媒体
JP4598623B2 (ja) 画像処理装置
JP5163735B2 (ja) 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置
JP6468751B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090918

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100112

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100125

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130212

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees