WO2014010726A1 - 画像処理装置及び画像処理プログラム - Google Patents
画像処理装置及び画像処理プログラム Download PDFInfo
- Publication number
- WO2014010726A1 WO2014010726A1 PCT/JP2013/069143 JP2013069143W WO2014010726A1 WO 2014010726 A1 WO2014010726 A1 WO 2014010726A1 JP 2013069143 W JP2013069143 W JP 2013069143W WO 2014010726 A1 WO2014010726 A1 WO 2014010726A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- area
- image
- image processing
- processing apparatus
- unit
- Prior art date
Links
- 230000007423 decrease Effects 0.000 claims abstract description 3
- 238000000034 method Methods 0.000 claims description 20
- 230000003247 decreasing effect Effects 0.000 claims description 2
- 235000019557 luminance Nutrition 0.000 description 14
- 238000010586 diagram Methods 0.000 description 11
- 238000002360 preparation method Methods 0.000 description 5
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 3
- 229920006395 saturated elastomer Polymers 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
Definitions
- the second embodiment creates a weight mask as follows without using a distance map.
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
良好なPSF推定精度が得られる画像処理装置を提供する。 本発明の画像処理装置1は、入力画像から、ぼかし画像を生成するぼかし画像生成部13と、前記入力画像中の領域を、非有効領域と有効領域とに分ける領域識別部11と、前記非有効領域においては前記有効領域より重みを大きくし、前記有効領域においては前記非有効領域との境界からの距離に応じて重みを減少させる重みマスクを作成する重みマスク作成部12と、前記重みマスク作成部12により作成された前記重みマスクにより重みを付けたぼかし画像と、前記重みマスクを反転させたマスクにより重みを付けた入力画像と、を加算して解析用画像を生成する解析用画像生成部14と、前記解析用画像を用いて点広がり関数の推定を行うPSF推定部15と、を備えること、を特徴とする。
Description
本発明は、画像処理装置及び画像処理プログラムに関するものである。
従来、画像内の手振れやピントのずれによるボケを表すPSF(Point Spread Function:点広がり関数)を高速で推定する技術が提案されている(例えば、特許文献1参照)。
しかしながら、多くのPSF推定方法が輝度勾配情報を用いるために、画像の中に光源などが写り込んで飽和した白飛び画素や、輝度が極端に低い黒つぶれ画素などがあると、正確な輝度勾配が得られず、その結果、良好な推定精度が得られない。
また、被写体ブレなどの影響で画像内に異なるPSFを持つ領域が混在する場合にも、正確なPSFの推定が困難である。
また、被写体ブレなどの影響で画像内に異なるPSFを持つ領域が混在する場合にも、正確なPSFの推定が困難である。
本発明の課題は、良好なPSF推定精度を得ることのできる画像処理装置及び画像処理プログラムを提供することである。
本発明は、以下のような解決手段により前記課題を解決する。
本発明の第1の見地によると、入力画像から、ぼかし画像を生成するぼかし画像生成部と、前記入力画像中の領域を、非有効領域と有効領域とに分ける領域識別部と、前記非有効領域においては前記有効領域より重みを大きくし、前記有効領域においては前記非有効領域との境界からの距離に応じて重みを減少させる重みマスクを作成する重みマスク作成部と、前記重みマスク作成部により作成された前記重みマスクにより重みを付けたぼかし画像と、前記重みマスクを反転させたマスクにより重みを付けた入力画像と、を加算して解析用画像を生成する解析用画像生成部と、前記解析用画像を用いて点広がり関数の推定を行うPSF推定部と、を備えること、を特徴とする画像処理装置を提供する。
前記重みマスク作成部は、前記非有効領域を1とし、前記有効領域は、前記非有効領域との境界を1とし、前記非有効領域との境界からの距離に応じて減少させて一定の距離以上では0とする重みマスクを作成してもよい。
前記重みマスク作成部は、前記非有効領域を1とし、前記有効領域を0とした一次予備マスクを作成し、該一次予備マスクに対して前記非有効領域を拡大する膨張処理を行ない二次予備マスクを作成し、該二次予備マスクにぼかし処理を行うことで、前記有効領域において前記非有効領域との境界からの距離に応じて前記ぼかし画像の重みが減少する重みマスクを作成してもよい。
前記領域識別部は、撮像素子における画素の出力が、上限値以上、または、下限値以下の領域を、前記非有効領域としてもよい。
前記領域識別部は、主要被写体認識、顔認識およびまたはオブジェクト認識によって識別された領域を有効領域としてもよい。
前記領域識別部は、主要被写体、顔およびまたはオブジェクトを認識し、これらの領域を非有効領域、それ以外の領域を有効領域と認識してもよい。
前記ぼかし画像生成部は、ガウスフィルタ、ディスクフィルタまたはバイノミアルフィルタを用いること、を特徴としてもよい。
本発明の第2の見地によると、入力画像からぼかし画像を生成するぼかし画像生成部と、前記入力画像の高輝度領域及び低輝度領域の少なくとも一方に対応する第1領域と、第1領域とは異なる第2領域とを設定する設定部と、前記第2領域に前記第1領域よりも大きな重み付けがされた前記入力画像と、前記第1領域に対応する領域に前記第2領域に対応する領域よりも大きな重み付けがされた前記ぼかし画像とを用いて演算用画像を生成する演算用画像生成部と、前記演算用画像を用いて点広がり関数を演算する演算部とを備えることを特徴とする画像処理装置を提供する。
本発明の第3の見地によると、入力画像の高輝度領域及び低輝度領域の少なくとも一方に対応する第1領域と、第1領域とは異なる第2領域とを設定する設定部と、前記第2領域を用いて点広がり関数を演算する演算部とを備えることを特徴とする画像処理装置を提供する。
第3の見地の画像処理装置において、前記演算用画像生成部は、前記第2領域に所定の面積を有する複数の所定領域を生成し、前記演算部は、前記複数の所定領域を用いて点広がり関数を演算するものであってもよい。
本発明の第4の見地によると、上記画像処理装置の機能をコンピュータに実行させるための画像処理プログラムを提供する。
本発明の第1の見地によると、入力画像から、ぼかし画像を生成するぼかし画像生成部と、前記入力画像中の領域を、非有効領域と有効領域とに分ける領域識別部と、前記非有効領域においては前記有効領域より重みを大きくし、前記有効領域においては前記非有効領域との境界からの距離に応じて重みを減少させる重みマスクを作成する重みマスク作成部と、前記重みマスク作成部により作成された前記重みマスクにより重みを付けたぼかし画像と、前記重みマスクを反転させたマスクにより重みを付けた入力画像と、を加算して解析用画像を生成する解析用画像生成部と、前記解析用画像を用いて点広がり関数の推定を行うPSF推定部と、を備えること、を特徴とする画像処理装置を提供する。
前記重みマスク作成部は、前記非有効領域を1とし、前記有効領域は、前記非有効領域との境界を1とし、前記非有効領域との境界からの距離に応じて減少させて一定の距離以上では0とする重みマスクを作成してもよい。
前記重みマスク作成部は、前記非有効領域を1とし、前記有効領域を0とした一次予備マスクを作成し、該一次予備マスクに対して前記非有効領域を拡大する膨張処理を行ない二次予備マスクを作成し、該二次予備マスクにぼかし処理を行うことで、前記有効領域において前記非有効領域との境界からの距離に応じて前記ぼかし画像の重みが減少する重みマスクを作成してもよい。
前記領域識別部は、撮像素子における画素の出力が、上限値以上、または、下限値以下の領域を、前記非有効領域としてもよい。
前記領域識別部は、主要被写体認識、顔認識およびまたはオブジェクト認識によって識別された領域を有効領域としてもよい。
前記領域識別部は、主要被写体、顔およびまたはオブジェクトを認識し、これらの領域を非有効領域、それ以外の領域を有効領域と認識してもよい。
前記ぼかし画像生成部は、ガウスフィルタ、ディスクフィルタまたはバイノミアルフィルタを用いること、を特徴としてもよい。
本発明の第2の見地によると、入力画像からぼかし画像を生成するぼかし画像生成部と、前記入力画像の高輝度領域及び低輝度領域の少なくとも一方に対応する第1領域と、第1領域とは異なる第2領域とを設定する設定部と、前記第2領域に前記第1領域よりも大きな重み付けがされた前記入力画像と、前記第1領域に対応する領域に前記第2領域に対応する領域よりも大きな重み付けがされた前記ぼかし画像とを用いて演算用画像を生成する演算用画像生成部と、前記演算用画像を用いて点広がり関数を演算する演算部とを備えることを特徴とする画像処理装置を提供する。
本発明の第3の見地によると、入力画像の高輝度領域及び低輝度領域の少なくとも一方に対応する第1領域と、第1領域とは異なる第2領域とを設定する設定部と、前記第2領域を用いて点広がり関数を演算する演算部とを備えることを特徴とする画像処理装置を提供する。
第3の見地の画像処理装置において、前記演算用画像生成部は、前記第2領域に所定の面積を有する複数の所定領域を生成し、前記演算部は、前記複数の所定領域を用いて点広がり関数を演算するものであってもよい。
本発明の第4の見地によると、上記画像処理装置の機能をコンピュータに実行させるための画像処理プログラムを提供する。
本発明によれば、良好なPSF推定精度を得ることのできる画像処理装置及び画像処理プログラムを提供することができる。
(第1実施形態)
以下、図面等を参照して、本発明の実施形態について説明する。
図1は、本発明に係る画像処理装置の一実施形態のブロック構成図である。図2は、そのPSF情報作成部のブロック構成図である。図3は、元画像30を示す図である。図4は、PSF情報作成部10によるPSF情報作成工程を示すフローチャートである。図5は、PSF情報作成工程における画像およびマップ等を段階的に示す説明図である。図6は、PSF情報作成部10による解析用画像30′を示す図である。図7は、解析PSFを示す図である。
以下、図面等を参照して、本発明の実施形態について説明する。
図1は、本発明に係る画像処理装置の一実施形態のブロック構成図である。図2は、そのPSF情報作成部のブロック構成図である。図3は、元画像30を示す図である。図4は、PSF情報作成部10によるPSF情報作成工程を示すフローチャートである。図5は、PSF情報作成工程における画像およびマップ等を段階的に示す説明図である。図6は、PSF情報作成部10による解析用画像30′を示す図である。図7は、解析PSFを示す図である。
画像処理装置1は、PSF情報作成部10と、画像処理部20と、により構成されている。なお、本実施形態は、たとえば、PC(パソコン)をプログラムによって画像処理装置1として機能させる例である。
画像処理装置1(PC)には、メモリカードを介して、または、ケーブルや無線伝送路を介して接続されたカメラ等から、処理対象画像が入力される。
画像処理装置1(PC)には、メモリカードを介して、または、ケーブルや無線伝送路を介して接続されたカメラ等から、処理対象画像が入力される。
PSF情報作成部10は、入力された処理対象画像に基づいて、解析用画像を作成し、画像内の手振れやピントのずれによるボケを表すPSF(Point Spread Function:点像分布関数)を推定する。
画像処理部20は、PSF情報作成部10が推定したPSFに基づいて、入力画像に対して手振れやピントのずれによるボケを補正する画像処理を施す。
そして、画像処理装置1は、ボケを補正した画像を出力する。
画像処理部20は、PSF情報作成部10が推定したPSFに基づいて、入力画像に対して手振れやピントのずれによるボケを補正する画像処理を施す。
そして、画像処理装置1は、ボケを補正した画像を出力する。
以下、PSF情報作成部10について、詳細に説明する。
PSF情報作成部10は、領域識別部11、重みマスク作成部12、ぼかし画像生成部13、解析用画像生成部14、PSF推定部15、の各機能部を備えている。
本構成におけるPSF情報作成部10は、画像の中に光源等の飽和した白飛び画素や輝度が極端に低い黒つぶれ画素等が有る場合であっても、精度の高いPSF推定を行う。
すなわち、たとえば、図3に示すように、撮影時に手振れが生じた画像30(主要被写体31はブレている)内に、蛍光灯等の光源32が写り込んで飽和した白飛びを起こしている画像があるとする。この場合、光源32の像はブレを生じていてもその輪郭のエッジが鋭い(輝度勾配が大きい)ためにブレと認識できない。その結果、良好な推定精度が得られない。PSF情報作成部10は、このような白飛びや黒つぶれに起因するPSFの誤推定を抑制し、精度の高いPSF推定情報を出力する。
PSF情報作成部10は、領域識別部11、重みマスク作成部12、ぼかし画像生成部13、解析用画像生成部14、PSF推定部15、の各機能部を備えている。
本構成におけるPSF情報作成部10は、画像の中に光源等の飽和した白飛び画素や輝度が極端に低い黒つぶれ画素等が有る場合であっても、精度の高いPSF推定を行う。
すなわち、たとえば、図3に示すように、撮影時に手振れが生じた画像30(主要被写体31はブレている)内に、蛍光灯等の光源32が写り込んで飽和した白飛びを起こしている画像があるとする。この場合、光源32の像はブレを生じていてもその輪郭のエッジが鋭い(輝度勾配が大きい)ためにブレと認識できない。その結果、良好な推定精度が得られない。PSF情報作成部10は、このような白飛びや黒つぶれに起因するPSFの誤推定を抑制し、精度の高いPSF推定情報を出力する。
つぎに、PSF情報作成部10における各機能部の作用とPSF情報作成部10によるPSF情報作成工程とを、図4に示すフローチャートに沿って図5のA-Fを参照しつつ説明する。なお、図中および以下の説明においてステップを「S」とも略記する。
まず、入力画像Iを取得し(S401)、そのグレースケール画像Igを作成する(S402)。入力画像Iは、図5のAである。
まず、入力画像Iを取得し(S401)、そのグレースケール画像Igを作成する(S402)。入力画像Iは、図5のAである。
ついで、ぼかし画像生成部13によって、ぼかし画像Bを作成する(S403)。
ぼかし画像Bは、グレースケール画像Igと、ぼかしフィルタB_filt1とのコンボリューションにより作成される。
すなわち、
B_filt1は、ぼかしフィルタであって、本実施形態では次の式で表されるガウス型のフィルタを使用する。
(xc,yc)は、ぼかしフィルタの中心の座標を表す。
分母の和は次の範囲で行い、フィルタB_filt1の和が1になるように規格化する。
1≦x,y≦fs
ぼかし画像Bは、グレースケール画像Igと、ぼかしフィルタB_filt1とのコンボリューションにより作成される。
すなわち、
分母の和は次の範囲で行い、フィルタB_filt1の和が1になるように規格化する。
1≦x,y≦fs
ここで、PSFのカーネルサイズをm×n、ks=max(m,n)とし、ぼかしフィルタのサイズをfs×fsとする。fsは、0.5×ks以上、2×ks以下程度とし、好ましくは、fs=ksの奇数(中心から均等に振り分けてぼかすため)とする。
また、σは、ボケ分布のほとんど全てを網羅するために、ぼかしフィルタサイズの、1/4とするのが好ましい。
また、σは、ボケ分布のほとんど全てを網羅するために、ぼかしフィルタサイズの、1/4とするのが好ましい。
カーネルサイズは、ブレの軌跡の大きさであって、当該画像処理装置1の操作者に入力を要求し、設定する。なお、ぼかしフィルタは、上記のようなガウス型のフィルタに限らず、ディスク型やバイノミアルフィルタなどでもかまわない。
ぼかし画像Bを、図5のBに示す。
ぼかし画像Bを、図5のBに示す。
つぎに、領域識別部11により、入力画像Iに基づいて、白飛びや黒つぶれのために輝度勾配が不連続になっている可能性のある領域を非有効領域non_validと定義し、その他の領域を有効領域validと定義する(S404)。
非有効領域non_validと有効領域validは、R,G,B各画素の輝度を、明暗それぞれの定められた所定の閾値(H_th,L_th)と比較して、以下の方法で求める。
非有効領域non_validと有効領域validは、R,G,B各画素の輝度を、明暗それぞれの定められた所定の閾値(H_th,L_th)と比較して、以下の方法で求める。
すなわち、非有効領域non_valjd、および有効領域validは、R,G,B各画素の輝度が、
max(R(x,y),G(x,y),B(x,y))>H_th
または、
min(R(x,y),G(x,y),B(x,y))<L_th
ならば
non_vaid(x,y)=1
valid(x,y) =0
それ以外は、
non_vaid(x,y)=0
valid(x,y)=1
とする。
max(R(x,y),G(x,y),B(x,y))>H_th
または、
min(R(x,y),G(x,y),B(x,y))<L_th
ならば
non_vaid(x,y)=1
valid(x,y) =0
それ以外は、
non_vaid(x,y)=0
valid(x,y)=1
とする。
ここで、max(A,B,…)はA,B,…の中で最も大きい値を表し、min(A,B,…)はA,B,…の中で最も小さい値を表す。
なお、このステップ404は、入力画像Iに基づいて非有効領域と有効領域とを定義するため、ステップ401以降で有れば、前述の各ステップより前であっても良く、また、前述の各ステップと並行して行っても良い。
なお、このステップ404は、入力画像Iに基づいて非有効領域と有効領域とを定義するため、ステップ401以降で有れば、前述の各ステップより前であっても良く、また、前述の各ステップと並行して行っても良い。
ついで、重みマスク作成部12によって各画素の非有効領域からの距離に応じた距離マップdist(x,y)を求める(S405)。図5のCに距離マップdist(x,y)を示す。そして、ステップ405で求められた距離マップdist(x,y)に基づいて重みマスクw(x,y)を作成し(S406)する。
ステップ405における重みマスクw(x,y)は、
w(x,y)=max(1-coef1×dist(x,y),0)
によって求める。
ここで、coef1は、0.5×fs以上、2×fs以下程度が良好な結果を得られる。これにより得られた重みマスクは、図5のDに示すようになる。
ステップ405における重みマスクw(x,y)は、
w(x,y)=max(1-coef1×dist(x,y),0)
によって求める。
ここで、coef1は、0.5×fs以上、2×fs以下程度が良好な結果を得られる。これにより得られた重みマスクは、図5のDに示すようになる。
さらに、解析用画像生成部14が、さらに、その重みマスクw(x,y)を用いて解析用の画像を形成する(S407)。
ステップ407における解析用の画像形成は、図5のAで示す入力画像Iにステップ406において作成された重みマスク[図5のD]を1から引いた(1-w(x,y))[図5のE]を掛けた画像と、ステップ403において作成されたぼかし画像[図5のB]にステップ406において作成された重みマスク[図5のD]を掛けた画像とを得て、それらを加算する。得られた画像が図5のFである。
ステップ407における解析用の画像形成は、図5のAで示す入力画像Iにステップ406において作成された重みマスク[図5のD]を1から引いた(1-w(x,y))[図5のE]を掛けた画像と、ステップ403において作成されたぼかし画像[図5のB]にステップ406において作成された重みマスク[図5のD]を掛けた画像とを得て、それらを加算する。得られた画像が図5のFである。
すなわち、
Ia(x,y)=(1-w(x,y))×I(x,y)+w(x,y)×B(x,y)
これにより、図6に示すように、白飛び部分(光源32)がボケたような解析用画像30′が作成される。
Ia(x,y)=(1-w(x,y))×I(x,y)+w(x,y)×B(x,y)
これにより、図6に示すように、白飛び部分(光源32)がボケたような解析用画像30′が作成される。
そして、PSF推定部15によって、ステップ407において作成された解析用画像を用いて、PSFを求める(S408)。
図7Bに、このようにして推定したPSFを示す。図7Aが正しいPSFであり、図7Cは、従来の手法による推定PSFを示す。このように、白飛び部分の周りの鋭いエッジが弱められているため、正解PSFに近い推定結果が得られる。
図7Bに、このようにして推定したPSFを示す。図7Aが正しいPSFであり、図7Cは、従来の手法による推定PSFを示す。このように、白飛び部分の周りの鋭いエッジが弱められているため、正解PSFに近い推定結果が得られる。
(第2実施形態)
つぎに、図8及び図9A-図9Cを参照して、本発明の第2実施形態について説明する。
図8は第2実施形態のPSF情報作成部10によるPSF情報作成工程を示すフローチャートである。図9A-図9Cは、重みマスク作成部12における画像およびマップ等の輝度を示す説明図である。
つぎに、図8及び図9A-図9Cを参照して、本発明の第2実施形態について説明する。
図8は第2実施形態のPSF情報作成部10によるPSF情報作成工程を示すフローチャートである。図9A-図9Cは、重みマスク作成部12における画像およびマップ等の輝度を示す説明図である。
前述した第1実施形態では、領域識別部11によって非有効領域と有効領域とを識別した後、重みマスク作成部12によって各画素の非有効領域からの距離マップを求め、その距離マップに基づいて解析用画像生成部14で重みマスクを作成している。これに対して第2実施形態は、距離マップを用いることなく、以下のように重みマスクを作成する。
なお、前述した第1実施形態と同機能の構成要素には、同符号を付して説明は省略する。また、図8に示すPSF情報作成部10によるPSF情報作成工程を示すフローチャートも、第1実施形態における距離マップ作成(S405)が、非有効領域の膨張処理(S905)に置き換わるのみであり、他の工程は同一である。
第2実施形態における重みマスク作成部12は、ステップ904において図9Aに示すように有効領域と非有効領域とを特定し、非有効領域で1、有効領域で0の一次予備マスクを作成する。
次いで図9Bに示すように非有効領域の膨張処理を行い(S905)、二次予備マスクを作成する。
そして、その二次予備マスクにぼかし処理を施して図9Cに示すような重みマスクを作成する。
次いで図9Bに示すように非有効領域の膨張処理を行い(S905)、二次予備マスクを作成する。
そして、その二次予備マスクにぼかし処理を施して図9Cに示すような重みマスクを作成する。
ステップ905において膨張させる大きさは、0.25×fs以上、2×fs以下程度が良好な結果を得られる。
本第2実施形態によっても、図9Cに示すように、前述した第1実施形態における図5のDに示す重みマスクと略同等の重みマスクが得られる。
以下、第1実施形態と同様の計算を行うことで、正確なPSFが得られる。
本第2実施形態によっても、図9Cに示すように、前述した第1実施形態における図5のDに示す重みマスクと略同等の重みマスクが得られる。
以下、第1実施形態と同様の計算を行うことで、正確なPSFが得られる。
以上、本実施形態によると、以下の効果を有する。
(1)第1実施形態における画像処理装置1のPSF情報作成部10では、白飛びなどの領域とその他の領域との境界からの距離に応じて入力画像と入力画像をぼかしたぼかし画像とを加算した解析用の画像を作成する。そして、この解析用画像からPSFを推定することにより、推定精度の劣化を最小限に抑えることが可能である。
(1)第1実施形態における画像処理装置1のPSF情報作成部10では、白飛びなどの領域とその他の領域との境界からの距離に応じて入力画像と入力画像をぼかしたぼかし画像とを加算した解析用の画像を作成する。そして、この解析用画像からPSFを推定することにより、推定精度の劣化を最小限に抑えることが可能である。
(2)第2実施形態におけるPSF情報作成部10では、白飛びなどの非有効領域に膨張処理を行った後にぼかし処理を施して重みマスクを作成する。そして、重みマスクの重みをつけたぼかし画像と、重みマスクを反転させたマスクの重みをつけた入力画像とを加算した解析用画像を生成し、この解析用画像からPSFを推定する。これにより、簡便な処理によって推定精度の劣化を抑えることができる。
(第3実施形態)
つぎに、図10及び図11を参照して、本発明の第3実施形態について説明する。
図10は、そのPSF情報作成部の別のブロック構成図である。図11は、元画像300を示す説明図である。図12は第3実施形態のPSF情報作成部によるPSF情報作成工程を示す別のフローチャートである。
つぎに、図10及び図11を参照して、本発明の第3実施形態について説明する。
図10は、そのPSF情報作成部の別のブロック構成図である。図11は、元画像300を示す説明図である。図12は第3実施形態のPSF情報作成部によるPSF情報作成工程を示す別のフローチャートである。
本発明の第3実施形態について、図12に示すフローチャートに沿って図10、図11を参照しつつ説明する。
まず、入力画像Iを取得し(S401)、そのグレースケール画像Igを作成する(S402)。
次に、グレースケール画像Igに複数のメッシュMeを生成する(S503)。本実施例において、複数のメッシュMeのそれぞれは、同一の面積を有し、互いに重ならないように隣接して備えられている。
なお、複数のメッシュのそれぞれは、異なる面積を有していても良い。複数のメッシュのそれぞれは、少なくとも一部が重なるように備えられていても良いし、互いに間隔を隔てて備えられていてもよい。
まず、入力画像Iを取得し(S401)、そのグレースケール画像Igを作成する(S402)。
次に、グレースケール画像Igに複数のメッシュMeを生成する(S503)。本実施例において、複数のメッシュMeのそれぞれは、同一の面積を有し、互いに重ならないように隣接して備えられている。
なお、複数のメッシュのそれぞれは、異なる面積を有していても良い。複数のメッシュのそれぞれは、少なくとも一部が重なるように備えられていても良いし、互いに間隔を隔てて備えられていてもよい。
つぎに、領域識別部11により、入力画像Iに基づいて、白飛びや黒つぶれのために輝度勾配が不連続になっている可能性のある領域を非有効領域non_validと定義し、その他の領域を有効領域validと定義する(S404)。
次に、ステップ507において、解析用画像生成部14は、複数のメッシュMeのそれぞれについて、非有効領域non_validが含まれているか否かを判断し、非有効領域non_validが含まれているメッシュMe0と、非有効領域non_validが含まれていないメッシュMe1とに分類する。
解析用画像生成部14は、非有効領域non_validが含まれていないメッシュMe1を選択し解析用の画像を形成する。
次に、PSF推定部15によって、ステップ507において作成された解析用画像を用いて、PSFを求める(S408)。
次に、ステップ507において、解析用画像生成部14は、複数のメッシュMeのそれぞれについて、非有効領域non_validが含まれているか否かを判断し、非有効領域non_validが含まれているメッシュMe0と、非有効領域non_validが含まれていないメッシュMe1とに分類する。
解析用画像生成部14は、非有効領域non_validが含まれていないメッシュMe1を選択し解析用の画像を形成する。
次に、PSF推定部15によって、ステップ507において作成された解析用画像を用いて、PSFを求める(S408)。
(変形形態)
本発明は、以上説明した実施形態に限定されることなく、以下に示すような種々の変形や変更が可能であり、それらも本発明の範囲内である。
(1)上記実施形態では、領域識別部11により、白飛びや黒つぶれのために輝度勾配が不連続になっている領域を非有効領域とし、その他の領域を有効領域とした。しかし、画像における目標被写体等の任意のエリアを有効領域として設定するように構成しても良い。これにより、画面内に様々な異なるPSFを持つ領域が混在している場合において、目標被写体に限定したPSFの推定が可能となる。
例えば、図13においては、領域識別部11は、目標被写体である人物の顔、頭に対応する有効領域が含まれていないメッシュMe2と、人物の顔、頭に対応する有効領域が含まれているメッシュMe3とに分類する。解析用画像生成部14は、有効領域が含まれているメッシュMe3を選択し解析用の画像を形成する。
本発明は、以上説明した実施形態に限定されることなく、以下に示すような種々の変形や変更が可能であり、それらも本発明の範囲内である。
(1)上記実施形態では、領域識別部11により、白飛びや黒つぶれのために輝度勾配が不連続になっている領域を非有効領域とし、その他の領域を有効領域とした。しかし、画像における目標被写体等の任意のエリアを有効領域として設定するように構成しても良い。これにより、画面内に様々な異なるPSFを持つ領域が混在している場合において、目標被写体に限定したPSFの推定が可能となる。
例えば、図13においては、領域識別部11は、目標被写体である人物の顔、頭に対応する有効領域が含まれていないメッシュMe2と、人物の顔、頭に対応する有効領域が含まれているメッシュMe3とに分類する。解析用画像生成部14は、有効領域が含まれているメッシュMe3を選択し解析用の画像を形成する。
たとえば、複数の人がそれぞれ自由に動いている場面を撮影した場合、特定の人物のブレを表すPSFを計算しようとしても、そのままの画像で推定を行ったのでは、様々なPSFが影響し合い、正確には求められない。
そこで、PSFを求めたい特定の人物を有効領域、その他の部分を非有効領域として、上記の方法で解析用画像を作成し、その解析用画像でPSFを推定すると、該当する特定の人物のPSFを求めることができる。
そこで、PSFを求めたい特定の人物を有効領域、その他の部分を非有効領域として、上記の方法で解析用画像を作成し、その解析用画像でPSFを推定すると、該当する特定の人物のPSFを求めることができる。
人物の特定方法は、既知の顔認識や、ユーザーにエリアを指定してもらう等の方法を用いることができる。
また、人物以外にも、車や、動物などの特定の目標物を認識(オブジェクト認識)し、同様に解析用の画像を作成して、任意形状の一部分だけのPSFを得ることも可能である。
また、人物以外にも、車や、動物などの特定の目標物を認識(オブジェクト認識)し、同様に解析用の画像を作成して、任意形状の一部分だけのPSFを得ることも可能である。
(2)上記実施の形態は、本発明を画像処理装置として説明したが、本発明は画像処理プログラムとして供給されるものを含む。その場合、プログラムは、CD-ROMなどの記録媒体やインターネットなどのデータ信号を通じて提供することができる。画像処理装置は、カメラに内蔵されていてもよい。
上記実施形態および変形形態は適宜に組み合わせて用いることができるが、各実施形態の構成は図示と説明により明らかであるため、詳細な説明を省略する。さらに、本発明は以上説明した実施形態によって限定されることはない。
1:画像処理装置、10:PSF情報作成部、11:領域識別部、12:重みマスク作成部、13:ぼかし画像生成部、14:解析用画像生成部、15:PSF推定部、20:画像処理部、30:画像、31:主要被写体、32:光源
Claims (11)
- 入力画像から、ぼかし画像を生成するぼかし画像生成部と、
前記入力画像中の領域を、非有効領域と有効領域とに分ける領域識別部と、
前記非有効領域においては前記有効領域より重みを大きくし、前記有効領域においては前記非有効領域との境界からの距離に応じて重みを減少させる重みマスクを作成する重みマスク作成部と、
前記重みマスク作成部により作成された前記重みマスクにより重みを付けたぼかし画像と、前記重みマスクを反転させたマスクにより重みを付けた入力画像と、を加算して解析用画像を生成する解析用画像生成部と、
前記解析用画像を用いて点広がり関数の推定を行うPSF推定部と、
を備えること、を特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記重みマスク作成部は、
前記非有効領域を1とし、前記有効領域は、前記非有効領域との境界を1とし、前記非有効領域との境界からの距離に応じて減少させて一定の距離以上では0とする重みマスクを作成すること、
を特徴とする画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記重みマスク作成部は、
前記非有効領域を1とし、前記有効領域を0とした一次予備マスクを作成し、該一次予備マスクに対して前記非有効領域を拡大する膨張処理を行ない二次予備マスクを作成し、該二次予備マスクにぼかし処理を行うことで、前記有効領域において前記非有効領域との境界からの距離に応じて前記ぼかし画像の重みが減少する重みマスクを作成すること、
を特徴とする画像処理装置。 - 請求項1~3のいずれか1項に記載の画像処理装置であって、
前記領域識別部は、撮像素子における画素の出力が、上限値以上、または、下限値以下の領域を、前記非有効領域とすること、
を特徴とする画像処理装置。 - 請求項1~4のいずれか1項に記載の画像処理装置であって、
前記領域識別部は、主要被写体認識、顔認識およびまたはオブジェクト認識によって識別された領域を有効領域とすること、
を特徴とする画像処理装置。 - 請求項1~4のいずれか1項に記載の画像処理装置であって、
前記領域識別部は、主要被写体、顔およびまたはオブジェクトを認識し、これらの領域を非有効領域、それ以外の領域を有効領域と認識すること、
を特徴とする画像処理装置。 - 請求項1~6のいずれか1項に記載の画像処理装置であって、
前記ぼかし画像生成部は、ガウスフィルタ、ディスクフィルタまたはバイノミアルフィルタを用いること、
を特徴とする画像処理装置。 - 入力画像からぼかし画像を生成するぼかし画像生成部と、
前記入力画像の高輝度領域及び低輝度領域の少なくとも一方に対応する第1領域と、第1領域とは異なる第2領域とを設定する設定部と、
前記第2領域に前記第1領域よりも大きな重み付けがされた前記入力画像と、前記第1領域に対応する領域に前記第2領域に対応する領域よりも大きな重み付けがされた前記ぼかし画像とを用いて演算用画像を生成する演算用画像生成部と、
前記演算用画像を用いて点広がり関数を演算する演算部とを備える
ことを特徴とする画像処理装置。 - 入力画像の高輝度領域及び低輝度領域の少なくとも一方に対応する第1領域と、第1領域とは異なる第2領域とを設定する設定部と、
前記第2領域を用いて点広がり関数を演算する演算部とを備えることを特徴とする画像処理装置。 - 請求項9に記載された画像処理装置であって、
前記演算用画像生成部は、前記第2領域に所定の面積を有する複数の所定領域を生成し、
前記演算部は、前記複数の所定領域を用いて点広がり関数を演算することを特徴とする画像処理装置。 - 請求項1~10のいずれか1項に記載の画像処理装置の機能をコンピュータに実行させるための画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014524894A JP6341087B2 (ja) | 2012-07-12 | 2013-07-12 | 画像処理装置及び画像処理プログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012-156100 | 2012-07-12 | ||
JP2012156100 | 2012-07-12 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2014010726A1 true WO2014010726A1 (ja) | 2014-01-16 |
Family
ID=49916165
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2013/069143 WO2014010726A1 (ja) | 2012-07-12 | 2013-07-12 | 画像処理装置及び画像処理プログラム |
Country Status (2)
Country | Link |
---|---|
JP (2) | JP6341087B2 (ja) |
WO (1) | WO2014010726A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190093714A (ko) * | 2018-01-08 | 2019-08-12 | 삼성전자주식회사 | 표정 변화에 강인한 객체 및 표정 인식 장치 및 방법, 객체 및 표정 트레이닝 장치 및 방법 |
US10708798B2 (en) | 2015-12-29 | 2020-07-07 | Telefonaktiebolaget Lm Ericsson (Publ) | Network performance framework for wireless local area networks |
CN111788824A (zh) * | 2018-03-06 | 2020-10-16 | 索尼公司 | 图像处理装置、成像装置以及图像处理方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7362284B2 (ja) * | 2019-03-29 | 2023-10-17 | キヤノン株式会社 | 画像処理方法、画像処理装置、プログラム、画像処理システム、および、学習済みモデルの製造方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008176735A (ja) * | 2007-01-22 | 2008-07-31 | Toshiba Corp | 画像処理装置及び方法 |
JP2010088024A (ja) * | 2008-10-02 | 2010-04-15 | Nikon Corp | 撮影装置 |
WO2010098054A1 (ja) * | 2009-02-25 | 2010-09-02 | パナソニック株式会社 | 画像補正装置及び画像補正方法 |
JP2012505489A (ja) * | 2009-10-02 | 2012-03-01 | ザ チャイニーズ ユニバーシティー オブ ホンコン | 画像を編集する方法及び装置 |
JP2012155456A (ja) * | 2011-01-25 | 2012-08-16 | Panasonic Corp | 被写体分離装置、画像復元装置、被写体分離方法及び画像復元方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102388402B (zh) * | 2010-02-10 | 2015-08-19 | 杜比国际公司 | 图像处理装置及图像处理方法 |
US8610797B2 (en) * | 2010-12-20 | 2013-12-17 | Panasonic Corporation | Image processing device, imaging device, and image processing method |
-
2013
- 2013-07-12 WO PCT/JP2013/069143 patent/WO2014010726A1/ja active Application Filing
- 2013-07-12 JP JP2014524894A patent/JP6341087B2/ja active Active
-
2018
- 2018-05-17 JP JP2018095654A patent/JP2018133110A/ja active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008176735A (ja) * | 2007-01-22 | 2008-07-31 | Toshiba Corp | 画像処理装置及び方法 |
JP2010088024A (ja) * | 2008-10-02 | 2010-04-15 | Nikon Corp | 撮影装置 |
WO2010098054A1 (ja) * | 2009-02-25 | 2010-09-02 | パナソニック株式会社 | 画像補正装置及び画像補正方法 |
JP2012505489A (ja) * | 2009-10-02 | 2012-03-01 | ザ チャイニーズ ユニバーシティー オブ ホンコン | 画像を編集する方法及び装置 |
JP2012155456A (ja) * | 2011-01-25 | 2012-08-16 | Panasonic Corp | 被写体分離装置、画像復元装置、被写体分離方法及び画像復元方法 |
Non-Patent Citations (1)
Title |
---|
AKANE YOSHIZAKI ET AL.: "A Note on Accurate Restoration of Latent Image from Blurred Image", ITE TECHNICAL REPORT, vol. 36, no. 9, 13 February 2012 (2012-02-13), pages 27 - 32 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10708798B2 (en) | 2015-12-29 | 2020-07-07 | Telefonaktiebolaget Lm Ericsson (Publ) | Network performance framework for wireless local area networks |
KR20190093714A (ko) * | 2018-01-08 | 2019-08-12 | 삼성전자주식회사 | 표정 변화에 강인한 객체 및 표정 인식 장치 및 방법, 객체 및 표정 트레이닝 장치 및 방법 |
KR102564855B1 (ko) * | 2018-01-08 | 2023-08-08 | 삼성전자주식회사 | 표정 변화에 강인한 객체 및 표정 인식 장치 및 방법, 객체 및 표정 트레이닝 장치 및 방법 |
CN111788824A (zh) * | 2018-03-06 | 2020-10-16 | 索尼公司 | 图像处理装置、成像装置以及图像处理方法 |
CN111788824B (zh) * | 2018-03-06 | 2022-07-08 | 索尼公司 | 图像处理设备、成像设备以及图像处理方法 |
US11663708B2 (en) | 2018-03-06 | 2023-05-30 | Sony Corporation | Image processing apparatus, imaging apparatus, and image processing method |
Also Published As
Publication number | Publication date |
---|---|
JP2018133110A (ja) | 2018-08-23 |
JP6341087B2 (ja) | 2018-06-13 |
JPWO2014010726A1 (ja) | 2016-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11188777B2 (en) | Image processing method, image processing apparatus, learnt model manufacturing method, and image processing system | |
JP4799428B2 (ja) | 画像処理装置及び方法 | |
JP5960513B2 (ja) | 映像処理装置及び方法 | |
CN108234858B (zh) | 图像虚化处理方法、装置、存储介质及电子设备 | |
JP6218402B2 (ja) | タイル単位に基づいて大きい入力映像の不均一モーションブラーを除去する方法及び装置 | |
JP2018133110A (ja) | 画像処理装置及び画像処理プログラム | |
US20120249836A1 (en) | Method and apparatus for performing user inspired visual effects rendering on an image | |
US20180061086A1 (en) | Image processing apparatus, image processing method, and medium | |
US20110280475A1 (en) | Apparatus and method for generating bokeh effect in out-focusing photography | |
JP2007201533A (ja) | ボケ変換装置及び方法 | |
US8629868B1 (en) | Systems and methods for simulating depth of field on a computer generated display | |
JP2013242658A (ja) | 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム | |
JP2005309560A (ja) | 画像処理方法および装置並びにプログラム | |
WO2010093040A1 (ja) | モーションブラー制御装置、方法、及びプログラム | |
KR101394361B1 (ko) | 알파매트 추정과 영상 합성을 이용한 단일 영상의 안개 제거 장치 및 방법 | |
CN111209783A (zh) | 使用模拟物件影像的物件识别***及其方法 | |
CN115578286A (zh) | 高动态范围的混合曝光成像方法和装置 | |
US9258490B2 (en) | Smoothing of ghost maps in a ghost artifact detection method for HDR image creation | |
JP2005332381A (ja) | 画像処理方法および装置並びにプログラム | |
TWI672639B (zh) | 使用模擬物件影像之物件辨識系統及其方法 | |
US7412110B1 (en) | Using forward and backward kernels to filter images | |
JP6624061B2 (ja) | 画像処理方法、画像処理装置、及び画像処理プログラムを記憶する記録媒体 | |
KR101437898B1 (ko) | 단일 영상을 이용한 hdr 영상 생성 장치 및 방법 | |
CN116506732A (zh) | 一种图像抓拍防抖的方法、装置、***和计算机设备 | |
US9210335B2 (en) | Method for generating HDR images using modified weight |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 13817026 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2014524894 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 13817026 Country of ref document: EP Kind code of ref document: A1 |