JP5927265B2 - 画像処理装置及びプログラム - Google Patents
画像処理装置及びプログラム Download PDFInfo
- Publication number
- JP5927265B2 JP5927265B2 JP2014219328A JP2014219328A JP5927265B2 JP 5927265 B2 JP5927265 B2 JP 5927265B2 JP 2014219328 A JP2014219328 A JP 2014219328A JP 2014219328 A JP2014219328 A JP 2014219328A JP 5927265 B2 JP5927265 B2 JP 5927265B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- area
- distance
- calculated
- pixel value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 59
- 238000009499 grossing Methods 0.000 claims description 64
- 238000012935 Averaging Methods 0.000 claims description 9
- 238000003672 processing method Methods 0.000 claims description 4
- 230000001174 ascending effect Effects 0.000 claims description 2
- 238000000034 method Methods 0.000 description 47
- 230000008569 process Effects 0.000 description 20
- 238000003384 imaging method Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 6
- 238000012937 correction Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003702 image correction Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/529—Depth or shape recovery from texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/571—Depth or shape recovery from multiple images from focus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/743—Bracketing, i.e. taking a series of images with varying exposure conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10148—Varying focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Description
本発明は、画像処理技術に関する。
カメラの撮影技術の1つに、被写界深度の浅い画像を撮影することで、狭い距離範囲にのみにフォーカスを合わせ、その前後の被写体をぼかし、フォーカスの合った特定の被写体が際立った画像を撮影する技術がある。被写界深度はカメラの焦点距離が長いほど浅く、一眼レフカメラなどを用いて被写界深度の浅い画像が撮影されている。
一方、小型のデジタルカメラやスマートフォンに搭載されているカメラは、撮像素子が小さく焦点距離が短いため、被写界深度の浅い画像を撮影することが難しい。
そこで、被写界深度の深い画像と画像に対応する距離情報に基づいて、被写界深度の浅い画像を生成する画像処理技術が提案されている。特許文献1には、画像を複数の領域に分割し、分割領域毎に被写体までの距離を算出し、距離に応じたぼかし処理を施す技術が記載されている。
しかしながら、特許文献1に記載の画像処理方法は、以下の課題を有している。
図15(A)から図15(C)までは、異なるフォーカス位置で撮影した3枚の画像を示している。図15(A)は近景の被写体(木)1501にフォーカスが合っており、遠景の被写体(ビル)1502はぼけている。図15(B)は近景と遠景の中間位置にフォーカスが合っており、近景の被写体、遠景の被写体ともにややぼけている。図15(C)は遠景の被写体にフォーカスが合っており、近景の被写体はぼけている。
図15(A)から図15(C)までは、異なるフォーカス位置で撮影した3枚の画像を示している。図15(A)は近景の被写体(木)1501にフォーカスが合っており、遠景の被写体(ビル)1502はぼけている。図15(B)は近景と遠景の中間位置にフォーカスが合っており、近景の被写体、遠景の被写体ともにややぼけている。図15(C)は遠景の被写体にフォーカスが合っており、近景の被写体はぼけている。
特許文献1には、図15(A)から図15(C)までに示すような、フォーカス位置の異なる複数枚の画像の高周波成分の強度から、分割した領域毎に被写体までの距離を算出する方法が記載されている。図16(A)は図15(A)と同じ画像であり、図16(A)に示す領域1601は、分割領域の1つである。図16(B)、(C)、(D)は、図15(A)から図15(C)までに示した3枚の画像上の、領域1601に対応する位置の拡大図である。図16(B)、(C)、(D)を比較すると、図16(D)の高周波成分が最も強く、遠景と判定出来る。従って、遠景をぼかして被写界深度を浅くする場合、遠景と判定された領域1601をぼかすことになる。しかし、領域1601には、遠景被写体1502だけでなく、近景被写体1501も含まれており、領域1601をぼかすと近景被写体までぼけてしまい、不自然なぼけとなってしまう。図16に示すように、分割領域の中に近景被写体と遠景被写体がともに含まれる場合は、被写体までの距離を正しく算出することが難しい。図16に示す場合では、分割領域の大きさを小さくすれば、1つの分割領域内に距離の異なる被写体が複数含まれる可能性を低減することが出来るが、分割領域の大きさが小さい場合は、以下の課題が生じる。
図17(A)は遠景被写体1701を撮影した画像を示しており、領域1702、1703はそれぞれ分割領域を示している。領域1702のように分割領域を大きく設定すると、遠景被写体1701のエッジから離れた位置においても、分割領域内に遠景被写体1701が含まれるため、遠景と判定することができ、図17(B)に示すように、自然なぼけの拡がりを表現することが可能となる。一方、領域1703のように分割領域を小さく設定すると、遠景被写体1701のエッジから離れた位置においては、分割領域内に遠景被写体1701が含まれず、平坦領域であるため、遠景と判定することが困難となり、図17(C)に示すように、遠景と判定してぼかす領域と平坦領域との境界が不自然になってしまう。つまり、分割領域毎に距離を算出して被写界深度の浅い画像を生成する場合、領域の大きさに依らず、自然なぼけを表現することが困難な場合がある。
本発明は上記の点に鑑みてなされたものであり、自然なぼけを表現した被写界深度の浅い画像を生成することができる画像処理装置を提供することを目的とする。
本発明は上記の課題を解決するためになされたものであり、被写界深度の浅い画像を生成する画像処理装置であって、複数の入力画像のうち少なくとも1つの画像に対応する距離情報を算出する距離算出部と、前記距離情報に基づいて被写界深度の浅い出力画像を生成する画像生成部を備え、前記距離算出部は、大きさの異なる複数のコントラスト算出領域から距離情報を算出し、前記画像生成部は、前記距離情報に基づいて前記入力画像の画素値を平滑化して出力画像の画素値を算出することを特徴とする。
本発明によれば、自然なぼけを表現した被写界深度の浅い画像を生成することができる。
(第1の実施形態)
以下、図面を参照しながら本発明の実施形態について説明する。図1は、本実施形態に係る画像処理装置(画像処理部104)を含む撮像装置10の一構成例を示す機能ブロック図である。
以下、図面を参照しながら本発明の実施形態について説明する。図1は、本実施形態に係る画像処理装置(画像処理部104)を含む撮像装置10の一構成例を示す機能ブロック図である。
撮像装置10は、制御装置100、撮像部101、画像表示部102を含んで構成される。
制御装置100は、制御部103、画像処理部104、記憶装置105を含んで構成される。
撮像部101は、CCD(Charge Coupled Device、電荷結合素子)等の撮像デバイスやレンズ、レンズ駆動部などを含んで構成される。
画像表示部102は、制御装置100から出力された出力画像信号が示す画像を表示する。画像表示部102は、例えば、液晶ディスプレイである。画像表示部102は、タッチパネル機能を備えていてもよい。タッチパネルとは、表示画面に表示された絵や領域に触れることを感知して外部へ情報信号として出力する装置である。タッチパネルには、操作した位置の電圧を感知する抵抗膜方式や、指先と導電膜の間での静電容量の変化を捉えて位置を検出する静電容量方式などがあり、操作者の画面上での位置情報や操作に対応した動作を行なう。
制御部103は、撮像部101のレンズ(図示せず)の駆動や、電源ボタンやシャッタボタンなどの入力装置(図示せず)からの入力信号の受信、画像表示部102への画像表示などの制御を行う。制御部103は、撮像装置10に備えられたCPU(Central Processing Unit)、GPU(Graphics Processing Unit)等のハードウェアがプログラムを実行することで実現される。
制御部103は、図2に示すように、フォーカスを制御するフォーカス制御部103−1と、被写体の選択を受付ける被写体選択受付部103−2と、撮像の制御を行う撮像制御部103−3とを有している。
画像処理部104は、図3に示すように、距離を算出する距離算出部104−1と、画像生成処理を行う画像生成部104−2と有している。距離算出部104−1では、入力された入力画像から被写体までの距離情報を算出し、画像生成部104−2では、算出した距離情報に基づいて出力画像を生成する。画像処理部104は、例えば、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等のハードウェアや、CPUやGPUでプログラムを実行することで実現することができる。
画像から被写体までの距離を算出する方法として、例えば、視点の異なる複数枚の画像の視差から距離情報を算出する方法がある。視差を算出する方法として、例えば、公知の技術として、ブロックマッチング法がある。ブロックマッチング法とは、画像間の類似度を評価する方法であり、一方の画像からある領域を選択し、その領域と最も類似度の高い領域を他方の画像から選択し、一方の画像から選択された領域と他方の画像から選択された最も類似度の高い領域との位置のずれが視差となる。また、画像から距離を算出する他の方法として、フォーカス位置の異なる複数枚の画像のコントラストから算出する方法がある。類似度を評価するブロックマッチング法や、コントラストを比較する方法では、いずれも、複数の画像を比較して距離情報を算出するための所定の領域(距離算出領域)を設定する必要があり、画像間の視差を算出する場合は距離算出領域として視差算出領域を設定し、画像間のコントラストを比較する場合は距離算出領域としてコントラスト算出領域を設定する。
上述のように、撮影条件の異なる複数枚の画像から被写体までの距離を算出する方法として、視差を利用する方法やコントラストを比較する方法などがあり、以下では、フォーカス位置を変えて撮影した複数枚の画像のコントラストから被写体までの距離を算出する方法を例に挙げて述べる。
また、被写界深度の浅い画像としては、近景の被写体にフォーカスが合っており背景の被写体のぼけた画像(以下、「背景ぼかし」という。)、遠景の被写体にフォーカスが合っており近景の被写体のぼけた画像、中景の被写体にフォーカスが合っており近景と遠景の被写体のぼけた画像がある。以下では、画像処理により背景ぼかしの画像を生成する方法を例に挙げて述べる。
図4Aは、本実施形態において、異なるフォーカス位置で撮像された複数の画像から被写界深度の浅い画像を生成する画像処理の流れを示すフローチャート図である。図4Bは、画像処理部104のうち図4Aの処理の流れに沿った一構成例を示す機能ブロック図である。図4Bに示すように、画像処理部104は、特徴点抽出部104-1と、対応点探索部104-2と、補正パラメータ算出部104-3と、画像補正部104-4と、合焦度評価部104-5と、距離算出部104-6と、画像生成部104−7と、を有している。
撮像部101で撮像されたフォーカス位置の異なる複数の画像は、画像処理部104に入力される(S401)。次に、特徴点抽出部104-1により、複数の画像の中から、特徴点抽出用の画像が設定され、特徴点が抽出される(S402)。特徴点が抽出されると、対応点探索部104-2が、特徴点を抽出した画像以外の画像から、S402で抽出された特徴点に対応する対応点を探索する(S403)。対応点が探索されると、補正パラメータ算出部104-3が、特徴点と対応点の位置関係から、複数の画像間の回転量や並進量やフォーカス位置の変化に伴う拡大縮小率を算出し、複数の画像間で対応する位置を一致させる補正パラメータを算出する(S404)。補正パラメータが算出されると、合成時に基準とする画像に、他の画像が一致するよう、画像補正部104-4が、他の画像を補正する(S405)。各画像の対応する位置が一致するよう補正されると、合焦度評価部104-5が、各画像の合焦度を評価する(S406)。そして、距離算出部104-6が、画像の各領域について、各画像の合焦度に基づいて、被写体までの距離を算出する(S407)。距離が算出されると、画像生成部104−7が、距離に基づいて画像をぼかし、被写界深度の浅い画像を生成する(S408)。
次に、S406、S407、S408の処理の詳細について述べる。
S406では、画像のコントラストから合焦度を評価する。コントラストは、例えば、注目画素を中心とする所定の領域内における、隣接画素間の画素値の差から算出することができる。フォーカスが合わず画像がぼけていれば、ぼけにより平滑化され隣接画素の画素値の差は小さくなりコントラストが低下する。したがって、隣接画素間の画素値の差が大きくコントラストが高いほどフォーカスが合っていると判断することができる。コントラスト算出に用いる画素値は、例えば、Y値を用いることが出来る。Y値を用いることで、RGB3色を用いる場合と比較して、処理量を少なくすることが出来る。入力される画像データがRGBの場合は、例えば、下記の式(1)からY値を計算してもよい。
S406では、画像のコントラストから合焦度を評価する。コントラストは、例えば、注目画素を中心とする所定の領域内における、隣接画素間の画素値の差から算出することができる。フォーカスが合わず画像がぼけていれば、ぼけにより平滑化され隣接画素の画素値の差は小さくなりコントラストが低下する。したがって、隣接画素間の画素値の差が大きくコントラストが高いほどフォーカスが合っていると判断することができる。コントラスト算出に用いる画素値は、例えば、Y値を用いることが出来る。Y値を用いることで、RGB3色を用いる場合と比較して、処理量を少なくすることが出来る。入力される画像データがRGBの場合は、例えば、下記の式(1)からY値を計算してもよい。
Y=0.299×R+0.587×G+0.114×B・・・(1)
また、Y値だけでなく、YUV値や、RGB値など複数の値からコントラストを算出してもよい。YUV値やRGB値を用いる場合、明るさが同じで色が異なる領域が隣接している場合に、明るさ成分では検出することが出来ない色成分のコントラストを検出することができ、距離算出精度が向上する。
図5(A)は、近景被写体501(図では木)と遠景被写体502(図ではビル)を撮影した画像であり、近景被写体501にフォーカスを合わせて撮影されて画像を示している。また、画像内に示す領域503は、コントラストを算出するための領域を示しており、その中心には近景被写体501が写っている。図5(B)は領域503の拡大図であり、図5(C)、(D)はそれぞれ、フォーカス位置を中景、遠景に合わせて撮影した場合の、領域503に対応する位置の拡大図を示している。図5(B)(C)(D)に示すように、近景、中景、遠景にそれぞれフォーカスを合わせて撮影した画像のコントラストを算出する。
次に、S407では、S406で算出したコントラスト(合焦度)を比較することで、被写体までの距離を算出する。例えば、図5(B)、(C)、(D)の合焦度をそれぞれ、CONT_N、CONT_M、CONT_Fとして、
CONT_N>CONT_M、かつ、CONT_N>CONT_Fであれば、
近景にフォーカスを合わせて撮影した画像の合焦度が最も高いので、近景と推定することが出来る。
CONT_N>CONT_M、かつ、CONT_N>CONT_Fであれば、
近景にフォーカスを合わせて撮影した画像の合焦度が最も高いので、近景と推定することが出来る。
同様に、
CONT_F>CONT_N、かつ、CONT_F>CONT_Mであれば遠景、
CONT_M>CONT_N、かつ、CONT_M>CONT_Fであれば中景
と推定することが出来る。
CONT_F>CONT_N、かつ、CONT_F>CONT_Mであれば遠景、
CONT_M>CONT_N、かつ、CONT_M>CONT_Fであれば中景
と推定することが出来る。
また、
CONT_N=CONT_M、かつ、CONT_N>CONT_Fであれば、
近景と中景の中間位置であると推定することが出来る。
CONT_N=CONT_M、かつ、CONT_N>CONT_Fであれば、
近景と中景の中間位置であると推定することが出来る。
また、CONT_N、CONT_M、CONT_Fのいずれもが小さい値、またはゼロの場合は、フォーカスを合わせて撮影してもコントラストが低いことから、特徴のない平坦な領域である可能性が高い。平坦領域と判定された画素の処理については後述する。ここで、コントラスト算出領域の大きさと、算出される距離の関係について述べる。
図5に示す領域503は、その中心に近景被写体501が写っており、すなわち、背景ぼかしの画像を生成する際にぼかさない領域であり、好適な背景ぼかしを行うためには、近景と判定されることが望ましい。しかし、図5(B)、(C)、(D)に示す領域503に対応する部分の拡大図を比較すると、領域503内に主に含まれる被写体が遠景被写体502であるため、遠景にフォーカスを合わせた画像である図5(D)のコントラストが最も高くなっている。したがって、近景被写体と遠景被写体が隣接する領域では、コントラストを算出する領域を広く設定すると、距離を誤って算出する可能性がある。
そこで、本実施の形態では、大きさの異なる複数のコントラスト算出領域を設定することで、近景被写体と遠景被写体とが隣接する領域における距離の誤算出を低減する。本実施形態では、大きさの異なるコントラスト算出領域を2つ設定する。2つのコントラスト算出領域を区別するため、小さい方のコントラスト算出領域を第1領域、大きい方のコントラスト算出領域を第2領域とする。まず、第1領域からコントラストを算出する場合を説明する。
図6(A)は図5(A)と同様、近景被写体501(木)と遠景被写体502(ビル)を撮影した画像であり、近景被写体501にフォーカスを合わせて撮影されて画像を示している。また、画像内に示す領域601は、コントラスト算出領域を示しており、その中心には近景被写体501が写っている。領域601は、図5に示す領域503より小さく設定されている。図6(B)は領域601の拡大図であり、図6(C)、(D)はそれぞれ、フォーカス位置を中景、遠景に合わせて撮影した場合の、領域601に対応する位置の拡大図を示している。図6(B)、(C)、(D)を比較すると、近景にフォーカスを合わせた画像である図6(B)のコントラストが最も高くなっている。図6に示すように、コントラスト算出領域を小さく設定することで、距離の誤算出を低減することが出来る。ただし、極端に小さく設定すると、距離を算出するために必要コントラストが十分に得られない可能性があり、また、S405の画像の位置合わせの誤差が生じている可能性があるため、極端に小さくならないよう適切に設定する。例えば、画像の垂直解像度または水平解像度の1%程度に設定すればよい。
次に、第2領域からコントラストを算出する場合について説明する。図7(A)は、遠景被写体701にフォーカスを合わせて撮影した画像を示しており、領域702は第1領域、領域703は第2領域を示している。第2領域703は、領域内に遠景被写体701を含むため、第2領域のコントラストから算出される距離が示す位置が遠景となる。一方、第1領域702は、領域内に遠景被写体701を含まず、平坦領域と判定される。図7(B)は第1領域のコントラストから算出した距離を示しており、斜線で示す部分701aが遠景と判定された領域を示している。また、その他の領域は平坦領域と判定された領域を示している。同様に、図7(C)は第2領域のコントラストから算出した距離を示している。第1領域のコントラストから距離を算出した場合に比べ、第2領域のコントラストから距離を算出した方が、遠景と判定される領域が増加し、平坦領域と判定される領域が低減する。
図8(A)は、図7(B)に示す距離に基づいて図7(A)の背景をぼかした画像を示しており、図8(B)は、図7(C)に示す距離に基づいて図7(A)の背景をぼかした画像を示している。なお、図8(A)、(B)共に、平坦領域と判定された画素は元画像である図7(A)の画素値をそのまま用いている。平坦領域と判定された画素の処理方法としては、図8に示すように元画像の画素をそのまま利用する方法の他、小さくぼかす、背景と同様大きくぼかす方法などがあり、詳細は後述する。
図8(A)と(B)を比較すると、図8(B)はぼけが自然に拡がっているが、図8(A)は、遠景と判定された領域が小さいため、ぼけが十分に拡がらず、平坦領域と遠景領域の境界に不自然なエッジが生じ、画質が劣化している。第1領域からコントラストを算出して距離を算出する場合、前述のように、近景と遠景が隣接するような領域の距離の誤算出は低減されるが、図7、図8に示すように、平坦領域と判定される領域が増加する。
そこで、本実施形態では、第1領域のコントラストからは平坦領域と判定された場合に、第2領域のコントラストから算出した距離に基づいてぼかし処理を行う。
大小2つコントラスト算出領域から算出した距離に基づいてぼかし処理を行うことで、近景と遠景が隣接するような領域の距離の誤算出を低減し、更に、ぼけが好適に拡がった背景ぼかし画像を生成することが出来る。第1領域、第2領域ともに平坦領域と判定された場合は、平坦領域の処理を適用する。
大小2つコントラスト算出領域から算出した距離に基づいてぼかし処理を行うことで、近景と遠景が隣接するような領域の距離の誤算出を低減し、更に、ぼけが好適に拡がった背景ぼかし画像を生成することが出来る。第1領域、第2領域ともに平坦領域と判定された場合は、平坦領域の処理を適用する。
次に、S408の画像生成方法について述べる。S408では、S407で算出した距離に基づいて、背景ぼかし画像を生成する。背景ぼかし画像の各画素の画素値は、撮影した画像を平滑化することで算出することができる。例えば、算出した距離が遠いほど、平滑化のフィルタサイズ(平滑化の対象とする領域)を大きくすることで、距離が遠くなるに従ってぼけ度合いが大きくなり、好適な背景ぼかし画像を生成することが出来る。平滑化の対象とする領域の形状は、例えば、円形に設定する場合、ぼけが円形に拡がることになり、多角形に設定すれば、多角形にぼけが拡がることになり、所望のぼけ形状に合わせて、平滑化対象領域の形状を設定すればよい。一方、算出された距離が示す位置が近景である画素については、ぼかす必要がないため、元画像の画素値をそのまま背景ぼかし画像の画素値とすればよい。次に、平坦領域と判定された画素の処理について述べる。第1領域と第2領域ともに平坦領域と判定された画素は、第2領域内全体がほぼ平坦であり、中心画素と周辺画素の画素値は大きく異ならないため、平滑化しても、元画像の画素値から大きく変化しない。しかし、平滑化せずに元画像の画素値をそのまま用いると、元画像に含まれるノイズなどによる微小な変化が、平滑化する場合に比べ大きくなるため、遠景と判定され平滑化した領域と、平坦領域と判定され元画像の画素値をそのまま用いた領域との境界で微小変化量に差がでてしまい、不自然な画像になる可能性がある。そこで、平坦領域と判定された画素については、元画像の画素値をそのまま用いるよりも、平滑化する方が好適である。一方、平滑化すると、近景と判定され元画像の画素値をそのまま用いる領域との境界で微小変化量に差が出る可能性がある。そこで、平坦領域と遠景領域との境界、平坦領域と近景領域との境界の差がともに小さくなるよう、平坦領域と判定された画素の背景ぼかし画像の画素値を算出する際の平滑化対象領域は、3×3画素、5×5画素といった狭い範囲に設定する方が好適である。
図4Cは、本実施の形態による画像生成処理の一例を示すフローチャート図である。
以上説明したように、本実施の形態によれば、大きさの異なるコントラスト算出領域を設定し(ステップS408-31)、小さな第1領域のコントラストから距離を算出する(ステップS408-32)ことで、近景と遠景が隣接するような領域の距離の誤算出を低減し、第1領域のコントラストからは平坦領域と判定された画素について、第1領域より大きな第2領域のコントラストから算出した距離に基づいて背景側の被写体をぼかすことで(ステップS408-33)、被写界深度の浅い好適な背景ぼかし画像を生成することができる。
また、背景ぼかし画像の画素値を算出する際、元画像の画素値を線形空間に変換してから平滑化を行い、平滑化して算出された値に対して、元画像の空間に戻すことで、より好適な背景ぼかし画像を生成することが出来る。例えば、元画像が、線形空間に対して0.45乗されたガンマ空間の画像であり、画素値のビット数が8ビットで、最大値が255、最小値が0であるとする。この条件において、画素値255と画素値127の2つの画素を平滑化すると、画素値は191となる。一方、上記元画像の画素値を線形空間(8ビット)に変換すると、それぞれの画素値は255、54となり、平滑化すると155となる。線形空間で平滑化した画素値155を元のガンマ空間(8ビット)に変換すると、その画素値は204となる。したがって、線形空間に変換してから平滑化した場合とガンマ空間で平滑化した場合とでは算出される画素値が異なることになる。実際に撮影してぼかす場合は、線形空間でぼけることになるため、画像処理でぼかし処理を行う場合も、上述のように線形空間に変換してから平滑化等の画像処理を行う方が、撮影時のぼけに近いより好適なぼかし処理を行うことが出来る。
また、背景ぼかし画像の画素値を算出する際に元画像に用いる画像を、近景にフォーカスの合った画像とすることで、より好適な背景ぼかし画像を生成することが出来る。上述のように、近景と遠景が隣接する領域では、距離の算出が困難な場合がある。例えば、近景と遠景が隣接する領域で、実際には遠景である画素の距離を、近景として算出した場合、ぼかすべき画素をぼかさないことになるが、元画像に用いる画像を近景にフォーカスを合わせた画像にすれば、元画像においてフォーカスの合っていない遠景被写体はぼけており、距離を誤ったことに起因する画質劣化を低減することが出来る。逆に、前景ぼかし画像を生成する場合の元画像には、遠景にフォーカスの合った画像を用いればよい。また、前景と背景をぼかした画像を生成する場合は、中景にフォーカスの合った画像を元画像に用いればよい。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。第2の実施形態では、大きさの異なる3つ以上のコントラスト算出領域を設定し、更に好適な背景ぼかし画像を生成する。図4Dは、本実施の形態による画像生成処理の一例を示すフローチャート図である。
次に、本発明の第2の実施形態について説明する。第2の実施形態では、大きさの異なる3つ以上のコントラスト算出領域を設定し、更に好適な背景ぼかし画像を生成する。図4Dは、本実施の形態による画像生成処理の一例を示すフローチャート図である。
図9(A)は近景被写体901a(りんご)と格子で示す遠景被写体901bを示している。また、領域902は第1領域、領域903は第2領域を示している。図9(A)においては、第1領域902内には特徴がなく、第1領域902のコントラストからは平坦領域と判定されるため、第2領域903のコントラストから算出した距離に基づいてぼかし処理を行う。図9(B)は、図9(A)に示す第2領域903を拡大した図である。第2領域903は、その中心画素が近景被写体であるから、算出される距離が示す位置が近景である方が好適である。しかし、第2領域903内には、近景被写体と遠景被写体が共に含まれており、近景被写体の特徴量が少なく、遠景の特徴量が多いため、算出される距離が示す位置が遠景となる可能性がある。そこで、本実施形態では、第3領域として、第1領域より大きく、第2領域より小さなコントラスト算出領域を設定して、距離の誤算出を低減する。
図10(A)は、図9(A)と同様、近景被写体901aと遠景被写体901bを示しており、領域1001は、第3領域である。また、図10(B)は図10(A)に示す第3領域1001を拡大した図である。
第3領域1001内には、近景被写体と遠景被写体が共に含まれているが、近景被写体の特徴量の方が遠景の特徴量より多く、第3領域1001のコントラストから算出した距離が示す位置は近景である可能性が高い。本実施形態では、大きさの異なる3つ以上のコントラスト算出領域を設定し(ステップS408−21)、小さい領域のコントラストから算出した距離を優先して参照してぼかし処理を行う(ステップS408−22)。最も小さな第1領域のコントラストからは平坦領域と判定された場合は、2番目に小さい第3領域のコントラストから算出した距離に基づいてぼかし処理を行い、第3領域のコントラストからも平坦領域と判定された場合は、更に大きな第2領域のコントラストから算出した距離に基づいたぼかし処理を行う。最も大きな第2領域のコントラストからも平坦領域と判定された場合は、平坦領域の処理を適用する(ステップS408−23)。上述のように、コントラスト算出領域を徐々に大きくすると、最初にコントラスト算出領域内に特徴点を含み距離を算出可能な大きさとなる場合に、図10(B)に示すように、中心画素から最も近い特徴点を主に含むことになり、近景と遠景が隣接するような領域において、距離の誤算出を低減することが出来る。
ここで、本実施形態においても、距離を誤算出する可能性がある場合について説明する。図11(A)は近景被写体1102(人)と遠景被写体1101(山)を示しており、その他の領域は遠景被写体(空)1104を示している。領域1103はコントラスト算出領域を示しており、複数設定したコントラスト算出領域の中で、最初にコントラスト算出領域内に特徴点を含む大きさを示している。
また、図11(B)は、図11(A)の領域1103の拡大図を示している。領域1103の中心画素は遠景被写体であるから、算出される距離が示す位置が遠景である方が好適である。しかし、領域1103内に含む特徴量は、近景被写体の特徴量であるため、算出される距離が示す位置が近景となる可能性が高い。つまり、距離を誤算出する可能性が高い。しかし、図11(A)に示すようなシーンにおいては、距離を誤算出しても大きな画質劣化は生じない。上述のように、平坦領域は、中心画素と周辺画素の画素値が大きく異ならないため、平滑化しても元画像の画素値から大きく変化しない。したがって、領域1103の中心画素の画素値を近景と判定して元画像の画素を用いるとしても、平滑化された所望の画素値と大きく異ならない好適な画素値が得られることになる。
以上は3つのコントラスト算出領域を設定する場合について述べたが、4つ、5つと大きさの異なるコントラスト算出領域の数を増やすことで、より好適な背景ぼかし画像を生成することが出来る。
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。第3の実施形態では、背景ぼかし画像のぼかし量を考慮してコントラスト算出領域の大きさを設定し、更に好適な背景ぼかし画像を生成する。図12(A)は遠景被写体1202を撮影した画像1201を示しており、遠景被写体1202以外の部分は平坦領域である。また、1203、1204は、背景ぼかし画像の画素値を計算する際に平滑化する領域を示している。図4Eは、本実施の形態によるステップS407の処理例を示す図である。ここで、図12を用いて、平滑化によりぼかした場合のぼけの拡がりについて述べる。平滑化する方法として、中心画素を中心とする正方形の範囲内の画素を平滑化する場合を例に挙げて説明する。平滑化対象領域1203のように、領域内に被写体1202が含まれる場合、平滑化してぼかした画素値は被写体1202の影響を受けることになる。一方、平滑化対象領域1204のように、被写体1202が含まれない場合は、平滑化しても被写体1202の影響を受けない。すなわち、被写体1202のぼけは、平滑化対象領域1203の中心画素までは拡がるが、平滑化対象領域1204の中心画素までは拡がらない。図12(B)は、図12(A)の画像1201をぼかした画像を示しており、図中の点線1205は、ぼけの拡がる領域を示している。図12(B)に示すように、被写体1202のぼけの拡がりは、平滑化対象領域内に被写体1202を含む位置と含まない位置の境界まで拡がることがわかる。したがって、図12(B)に示すようにぼかすためには、点線の位置まで遠景として背景ぼかし画像の画素を生成する必要がある。算出される距離が示す位置が遠景となるためには、画像1201において点線上の画素を中心画素とした場合に、コントラスト算出領域内に遠景被写体1202を含むようにコントラスト算出領域を設定する必要がある。つまり、ぼかし画像を生成する際に平滑化の対象とする領域と同程度か、それ以上に広い領域をコントラスト算出領域として設定する(ステップS407-1)。
次に、本発明の第3の実施形態について説明する。第3の実施形態では、背景ぼかし画像のぼかし量を考慮してコントラスト算出領域の大きさを設定し、更に好適な背景ぼかし画像を生成する。図12(A)は遠景被写体1202を撮影した画像1201を示しており、遠景被写体1202以外の部分は平坦領域である。また、1203、1204は、背景ぼかし画像の画素値を計算する際に平滑化する領域を示している。図4Eは、本実施の形態によるステップS407の処理例を示す図である。ここで、図12を用いて、平滑化によりぼかした場合のぼけの拡がりについて述べる。平滑化する方法として、中心画素を中心とする正方形の範囲内の画素を平滑化する場合を例に挙げて説明する。平滑化対象領域1203のように、領域内に被写体1202が含まれる場合、平滑化してぼかした画素値は被写体1202の影響を受けることになる。一方、平滑化対象領域1204のように、被写体1202が含まれない場合は、平滑化しても被写体1202の影響を受けない。すなわち、被写体1202のぼけは、平滑化対象領域1203の中心画素までは拡がるが、平滑化対象領域1204の中心画素までは拡がらない。図12(B)は、図12(A)の画像1201をぼかした画像を示しており、図中の点線1205は、ぼけの拡がる領域を示している。図12(B)に示すように、被写体1202のぼけの拡がりは、平滑化対象領域内に被写体1202を含む位置と含まない位置の境界まで拡がることがわかる。したがって、図12(B)に示すようにぼかすためには、点線の位置まで遠景として背景ぼかし画像の画素を生成する必要がある。算出される距離が示す位置が遠景となるためには、画像1201において点線上の画素を中心画素とした場合に、コントラスト算出領域内に遠景被写体1202を含むようにコントラスト算出領域を設定する必要がある。つまり、ぼかし画像を生成する際に平滑化の対象とする領域と同程度か、それ以上に広い領域をコントラスト算出領域として設定する(ステップS407-1)。
一方、図12(C)は、コントラスト算出領域を平滑化対象領域より小さく設定した場合のぼかし画像を示しており、コントラスト算出領域の方が小さい場合、ぼけが十分に拡がらず不自然な画像となる。なお、図12(B)、(C)において、平坦領域の画素値は、元画像である画像1201の画素値を用いている。上述のように、本実施形態では、コントラスト算出領域の大きさを、背景ぼかし画像の画素値を算出する際の最大平滑化対象領域の大きさ以上に設定することで、平坦領域に好適にぼけが拡がった背景ぼかし画像を生成することが出来る。
(第4の実施形態)
次に、本発明の第4の実施形態について説明する。第4の実施形態では、複数のコントラスト算出領域から算出した距離に基づいて、背景ぼかし画像の画素値を計算することで、より好適な背景ぼかし画像を生成する。図4Fでは、ステップS408−1で距離情報の大きく異なる領域が隣接しているか否かにより、平滑化領域の設定を変えて画素値を算出する。また図4Gは、本実施の形態によるステップS408の処理の他の例を示す図である。ステップS408は、フォーカス位置の異なる複数の入力画像のうち、平滑化しない距離にフォーカスの合った画像を平滑化して出力画像の画素値を算出する(ステップS408−11)。
次に、本発明の第4の実施形態について説明する。第4の実施形態では、複数のコントラスト算出領域から算出した距離に基づいて、背景ぼかし画像の画素値を計算することで、より好適な背景ぼかし画像を生成する。図4Fでは、ステップS408−1で距離情報の大きく異なる領域が隣接しているか否かにより、平滑化領域の設定を変えて画素値を算出する。また図4Gは、本実施の形態によるステップS408の処理の他の例を示す図である。ステップS408は、フォーカス位置の異なる複数の入力画像のうち、平滑化しない距離にフォーカスの合った画像を平滑化して出力画像の画素値を算出する(ステップS408−11)。
図13(A)は、近景にフォーカスを合わせて撮影した画像を示しており、近景被写体1301aと斜線で示す遠景被写体1301bが写っている。領域1302は、第1領域を示しており、領域1303は第2領域を示している。また、背景ぼかし画像の最大ぼけ量の画素値を計算する際の平滑化対象領域は第2領域1303とする。図13(A)においては、第1領域1302には特徴がなく平坦領域と判定され、第2領域1303には被写体の特徴量が含まれており、コントラストから算出された距離が示す位置は遠景である。また、図13(B)は第2領域1303に対応しており、図13(B)を25分割した小領域には、第1領域のコントラストから算出した距離を示しており、「遠」と記す領域は遠景、「近」と記す領域は近景、空白の領域は平坦領域と判定された領域であることを意味している。第2領域1303のコントラストから算出した距離が示す位置は遠景であるが、その領域内には近景部分と遠景部分が共に含まれている。背景ぼかし画像の画素値を計算する際に、図13(B)のように領域内に近景被写体と遠景被写体がともに存在する場合、領域内の画素全体を平滑化すると、近景被写体の影響を受けてしまう。そこで、第2領域のコントラストから算出した距離に基づいてぼかし画像の画素値を計算する場合は、第1領域のコントラストから算出した距離も考慮して平滑化することで、近景被写体の影響を低減する。例えば、図13(B)の場合、第2領域内において、第1領域のコントラストから算出した距離が近景である部分を除いて平滑化することで、近景被写体の影響を低減することが出来る。また、第2領域のコントラストから算出した距離と、第1領域のコントラストから算出した距離の差分に基づいて重み付けをして平滑化してもよい。重み付けは、例えば、式(2)に示すように、第2領域のコントラストから算出した距離d2と、第2領域内の画素jにおける第1領域のコントラストから算出した距離d1の差の絶対値Δdjが大きい程小さくなるように重みwjを定める。
式(2)において、Δdmaxは、第2領域から算出した距離と第2領域内の画素jの距離の差の絶対値の最大値である。式(2)により、第1領域のコントラストから算出した距離が第2領域のコントラストから算出した距離と同じ画素の重みが1となり、第2領域のコントラストから算出した距離と第1領域のコントラストから算出した距離の差の絶対値が最大となる画素の重みが0となる。このように、画像生成部は、前記複数のコントラスト算出領域から算出した複数の距離情報に基づいて画素値を加重平均して出力画像の画素値を算出する。
図13に示す例では、第1領域のコントラストからは平坦領域と判定される場合について述べたが、第1領域のコントラストから距離を算出出来る場合は、第1領域のコントラストから算出した距離と、周辺画素の第1領域のコントラストから算出した距離の差の絶対値に基づいて重み付けしてもよい。また、距離が算出出来ていない画素の重み付けは、例えば、中間値程度の重みに設定してもよいし、中心画素との類似度を評価し、類似度が高ければ重みを大きくし、類似度が低ければ重みを低く設定すればよい。また、第1領域のコントラストから算出した距離と、第2領域のコントラストから算出した距離とを加重平均した値を距離情報としてもよい。第1領域のコントラストから算出した距離の重みを大きく設定することで、注目画素周辺の画像情報から算出した距離情報の重みを大きく設定することができ好適である。また、算出した距離情報の信頼度に基づいて距離情報を加重平均してもよい。信頼度は、例えば、コントラスト算出領域内のコントラストの大きさから算出することが出来る。コントラスト算出領域内のコントラストが大きい場合は、コントラスト算出領域内の特徴が多く、多くの特徴に基づいて算出した距離情報の信頼度は高くなる。したがって、算出した複数の距離情報を、その信頼度に基づいて加重平均することで、信頼度の高い距離情報を算出することが出来る。
また、第1領域のコントラストから算出した距離に基づいて平滑化する領域の大きさを変えることで、好適なぼかし画像を生成することが出来る。図4Fは、ステップS408の一例を示す図である。図13(B)のように第2領域内に近景と遠景が共に含まれている場合(ステップS408−1)、ぼかし画像の画素値を算出する際に平滑化の対象とする領域を、領域内に近景が含まれない場合よりも狭く設定する(ステップS408−2)。平滑化の対象領域を狭く設定することで、ぼかした画像に近景が影響する可能性を低減することができ、好適なぼけを実現することが出来る。
また、第1領域のコントラストから算出された距離が示す位置が中景や遠景の場合は、第1領域のコントラストから算出された距離とともに、周辺画素における第1領域のコントラストから算出された距離に基づいて背景ぼかし画像の画素値を計算することで、より好適な背景ぼかし画像を生成することができる。上述のように、第1領域のコントラストから距離が算出された場合は、その距離に基づいて背景ぼかし画像の画素値を算出する。算出された距離が示す位置が中景や遠景の場合、周辺画素を平滑化して画素値を算出することになる。図14(A)は近景被写体1401a(りんご)と斜線で示す遠景被写体1401bが写った画像を示している。領域1403は第2領域を示しており、領域1403は平滑化対象領域を示している。第1領域1402内には遠景被写体が含まれるため、第1領域のコントラストから算出される距離が示す位置は遠景となる。したがって、第1領域1402の中心画素に対応する背景ぼかし画像の画素値は平滑化対象領域1403内の画素値を平滑化することで算出する。図14(A)においては、平滑化対象領域1403内には近景被写体1401aも含まれるため、平滑化すると、近景被写体の影響が含まれた画素値が算出されることになる。
図14(B)は、図14(A)の画像に対応する背景ぼかし画像を示しており、近景被写体1401aの周囲の遠景領域に、近景被写体1401aの影響が含まれるため不自然な画像となっている。そこで、第1領域のコントラストから算出した距離が示す位置が中景や近景である場合は、平滑化対象領域内の画素に対応する距離に基づいて平滑化することで、より好適な背景ぼかし画像を生成する。図14(C)は、図14(A)に対し、平滑化対象領域内の画素に対応する距離に基づいて平滑化して画素値を算出した背景ぼかし画像を示しており、近景被写体1401aの周囲の遠景領域に、近景被写体1401aの影響が含まれず、好適な背景ぼかし画像となっている。平滑化対象領域内の画素に対応する距離に基づく平滑化処理は、例えば、中心画素の距離が遠景の場合、平滑化対象領域内の画素の距離が近景の場合を除外して平滑化してもよいし、中心画素の距離と平滑化対象領域内の画素の距離との差に基づいて、距離の近い画素の重みが大きくなるよう重み付け付け平滑化してもよい。平滑化対象領域内の画素において、第1領域のコントラストから平坦領域と判定された場合は、次に大きなコントラスト算出領域のコントラストから算出された距離を参照すればよい。また、平滑化対象領域内の画素において、複数のコントラスト算出領域すべてで平坦領域と判定された場合は、中心画素とその周辺画素に間に特徴がなく、中心画素と同じ距離にある被写体である可能性が高いため、平滑化すればよい。
上述の実施形態においては、主に、フォーカス位置を変えて撮影した複数枚の画像を入力画像とし、背景の被写体をぼかすことで被写界深度の浅い画像を生成する場合について述べたが、入力画像が視点の異なる複数の画像の場合でも同様の効果を得ることができ、また、背景をぼかす場合以外にも、前景をぼかす、前景と背景をぼかすといった処理にも適用可能である。
本発明の実施形態によれば、被写界深度の浅い画像を合成することができる。
処理および制御は、CPUやGPUによるソフトウェア処理、ASICやFPGAによるハードウェア処理によって実現することができる。
処理および制御は、CPUやGPUによるソフトウェア処理、ASICやFPGAによるハードウェア処理によって実現することができる。
また、上記の実施の形態において、添付図面に図示されている構成等については、これらに限定されるものではなく、本発明の効果を発揮する範囲内で適宜変更することが可能である。その他、本発明の目的の範囲を逸脱しない限りにおいて適宜変更して実施することが可能である。
また、本発明の各構成要素は、任意に取捨選択することができ、取捨選択した構成を具備する発明も本発明に含まれるものである。
また、本実施の形態で説明した機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。尚、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
(付記)
(1)
複数の入力画像のうち少なくとも1つの画像に対応する距離情報を算出する距離算出部と、前記距離情報に基づいて被写界深度の浅い出力画像を生成する画像生成部と、を備え、
前記距離算出部は、大きさの異なる複数のコントラスト算出領域から距離情報を算出し、
前記画像生成部は、前記距離情報に基づいて前記入力画像の画素値を平滑化して出力画像の画素値を算出すること
を特徴とする画像処理装置。
(1)
複数の入力画像のうち少なくとも1つの画像に対応する距離情報を算出する距離算出部と、前記距離情報に基づいて被写界深度の浅い出力画像を生成する画像生成部と、を備え、
前記距離算出部は、大きさの異なる複数のコントラスト算出領域から距離情報を算出し、
前記画像生成部は、前記距離情報に基づいて前記入力画像の画素値を平滑化して出力画像の画素値を算出すること
を特徴とする画像処理装置。
(2)
前記画像生成部は、
前記複数のコントラスト算出領域から算出した距離情報のうち、小さなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出し、
前記小さなコントラスト算出領域が平坦領域と判定された場合は、前記小さなコントラスト算出領域よりも大きなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(1)に記載の画像処理装置。
前記画像生成部は、
前記複数のコントラスト算出領域から算出した距離情報のうち、小さなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出し、
前記小さなコントラスト算出領域が平坦領域と判定された場合は、前記小さなコントラスト算出領域よりも大きなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(1)に記載の画像処理装置。
小さな第1領域のコントラストからは平坦領域と判定された場合に、大きな第2領域のコントラストから算出した距離に基づいてぼかし処理を行う。
大小2つコントラスト算出領域から算出した距離に基づいてぼかし処理を行うことで、近景と遠景が隣接するような領域の距離の誤算出を低減し、更に、ぼけが好適に拡がった背景ぼかし画像を生成することが出来る。第1領域、第2領域ともに平坦領域と判定された場合は、平坦領域の処理を適用する。
(3)
前記画像生成部は、
出力画像の画素値を算出する際、元画像の画素値を線形空間に変換してから平滑化を行い、平滑化して算出された値に対して、元画像の空間に戻す(1)又は(2)に記載の画像処理装置。
(3)
前記画像生成部は、
出力画像の画素値を算出する際、元画像の画素値を線形空間に変換してから平滑化を行い、平滑化して算出された値に対して、元画像の空間に戻す(1)又は(2)に記載の画像処理装置。
これにより、より好適な背景ぼかし画像を生成することが出来る。
(4)
前記画像生成部は、
背景をぼかした出力画像の画素値を算出する場合に元画像に用いる画像を、近景にフォーカスの合った画像とし
前景をぼかした出力画像を生成する場合の元画像に用いる画像を、遠景にフォーカスの合った画像とし、
前景と背景をぼかした出力画像を生成する場合に元画像に用いる画像を、中景にフォーカスの合った画像を元画像とする(1)又は(2)に記載の画像処理装置。
前記画像生成部は、
背景をぼかした出力画像の画素値を算出する場合に元画像に用いる画像を、近景にフォーカスの合った画像とし
前景をぼかした出力画像を生成する場合の元画像に用いる画像を、遠景にフォーカスの合った画像とし、
前景と背景をぼかした出力画像を生成する場合に元画像に用いる画像を、中景にフォーカスの合った画像を元画像とする(1)又は(2)に記載の画像処理装置。
これにより、好適なぼかし画像を生成することが出来る。
近景と遠景が隣接する領域では、距離の算出が困難な場合がある。例えば、近景と遠景が隣接する領域で、実際には遠景である画素の距離を、近景として算出した場合、ぼかすべき画素をぼかさないことになるが、元画像に用いる画像を近景にフォーカスを合わせた画像にすれば、元画像においてフォーカスの合っていない遠景被写体はぼけており、距離を誤ったことに起因する画質劣化を低減することが出来る。
(5)
前記距離算出部は、大きさの異なる少なくとも3つの前記コントラスト算出領域から距離情報を算出し、
前記画像生成部は、
前記コントラスト算出領域から算出した距離情報を、前記コントラスト算出領域の大きさが小さい順に参照して出力画像の画素値を算出することを特徴とする(1)又は(2)に記載の画像処理装置。
前記距離算出部は、大きさの異なる少なくとも3つの前記コントラスト算出領域から距離情報を算出し、
前記画像生成部は、
前記コントラスト算出領域から算出した距離情報を、前記コントラスト算出領域の大きさが小さい順に参照して出力画像の画素値を算出することを特徴とする(1)又は(2)に記載の画像処理装置。
(6)
前記参照したコントラスト算出領域が平坦領域と判定された場合は、参照した前記コントラスト算出領域の次に大きなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(5)に記載の画像処理装置。
前記参照したコントラスト算出領域が平坦領域と判定された場合は、参照した前記コントラスト算出領域の次に大きなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(5)に記載の画像処理装置。
(7)
前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報に基づいて画素値を加重平均して出力画像の画素値を算出すること
を特徴とする(1)から(6)までのいずれか1に記載の画像処理装置。
前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報に基づいて画素値を加重平均して出力画像の画素値を算出すること
を特徴とする(1)から(6)までのいずれか1に記載の画像処理装置。
(8)
前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報を加重平均して算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(1)から(6)までのいずれか1に記載の画像処理装置。
前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報を加重平均して算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(1)から(6)までのいずれか1に記載の画像処理装置。
(9)
前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報を、その信頼度に基づいて加重平均した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(1)から(6)までのいずれか1に記載の画像処理装置。
前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報を、その信頼度に基づいて加重平均した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする(1)から(6)までのいずれか1に記載の画像処理装置。
(10)
前記距離算出部は、
前記複数のコントラスト算出領域のうち、最も大きなコントラスト算出領域の大きさを、前記画像生成部の前記平滑化において平滑化対象領域が最も大きい最大平滑化領域の大きさ以上に設定すること
を特徴とする(1)に記載の画像処理装置。
前記距離算出部は、
前記複数のコントラスト算出領域のうち、最も大きなコントラスト算出領域の大きさを、前記画像生成部の前記平滑化において平滑化対象領域が最も大きい最大平滑化領域の大きさ以上に設定すること
を特徴とする(1)に記載の画像処理装置。
(11)
前記画像生成部は、
前記距離情報の大きく異なる領域が隣接する場合は、平滑化領域を狭く設定して出力画像の画素値を算出すること
を特徴とする(1)に記載の画像処理装置。
前記画像生成部は、
前記距離情報の大きく異なる領域が隣接する場合は、平滑化領域を狭く設定して出力画像の画素値を算出すること
を特徴とする(1)に記載の画像処理装置。
(12)
前記複数の入力画像がフォーカス位置の異なる複数の画像である場合に、
前記画像生成部は、
前記複数の入力画像のうち、平滑化しない距離にフォーカスの合った画像を平滑化して出力画像の画素値を算出すること
を特徴とする(1)に記載の画像処理装置。
前記複数の入力画像がフォーカス位置の異なる複数の画像である場合に、
前記画像生成部は、
前記複数の入力画像のうち、平滑化しない距離にフォーカスの合った画像を平滑化して出力画像の画素値を算出すること
を特徴とする(1)に記載の画像処理装置。
(13)
複数の入力画像のうち少なくとも1つの画像に対応する距離情報を算出する距離算出ステップと、前記距離情報に基づいて被写界深度の浅い出力画像を生成する画像生成ステップと、を有し、
前記距離算出ステップは、大きさの異なる複数のコントラスト算出領域から距離情報を算出し、
前記画像生成ステップは、前記距離情報に基づいて前記入力画像の画素値を平滑化して出力画像の画素値を算出すること
を特徴とする画像処理方法をコンピュータに実行させるためのプログラム。
複数の入力画像のうち少なくとも1つの画像に対応する距離情報を算出する距離算出ステップと、前記距離情報に基づいて被写界深度の浅い出力画像を生成する画像生成ステップと、を有し、
前記距離算出ステップは、大きさの異なる複数のコントラスト算出領域から距離情報を算出し、
前記画像生成ステップは、前記距離情報に基づいて前記入力画像の画素値を平滑化して出力画像の画素値を算出すること
を特徴とする画像処理方法をコンピュータに実行させるためのプログラム。
本発明は、画像処理装置に利用できる。
10…撮像装置、100…制御装置、101…撮像部、102…画像表示部、
103−1…フォーカス制御部、103−2…被写体選択受付部、103−3…撮像制御部、104-1…特徴点抽出部、104-2…対応点探索部、104-3…補正パラメータ算出部、104-4…画像補正部、104-5…合焦度評価部、104-6…距離算出部、104−7…画像生成部。
103−1…フォーカス制御部、103−2…被写体選択受付部、103−3…撮像制御部、104-1…特徴点抽出部、104-2…対応点探索部、104-3…補正パラメータ算出部、104-4…画像補正部、104-5…合焦度評価部、104-6…距離算出部、104−7…画像生成部。
Claims (13)
- 複数の入力画像のうち少なくとも1つの画像の各画素に対応する距離情報を算出する距離算出部と、前記距離情報に基づいて被写界深度の浅い出力画像を生成する画像生成部と、を備え、
前記距離算出部は、前記各画素を中心とする大きさの異なる複数のコントラスト算出領域から距離情報を算出し、
前記画像生成部は、前記距離情報に基づいて前記入力画像の画素値を平滑化して出力画像の画素値を算出すること
を特徴とする画像処理装置。 - 前記画像生成部は、
前記複数のコントラスト算出領域から算出した距離情報のうち、小さなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出し、
前記小さなコントラスト算出領域が平坦領域と判定された場合は、前記小さなコントラスト算出領域よりも大きなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする請求項1に記載の画像処理装置。 - 前記画像生成部は、
出力画像の画素値を算出する際、元画像の画素値を線形空間に変換してから平滑化を行い、平滑化して算出された値に対して、元画像の空間に戻すことを特徴とする請求項1又は2に記載の画像処理装置。 - 前記画像生成部は、
背景をぼかした出力画像の画素値を算出する場合に元画像に用いる画像を、近景にフォーカスの合った画像とし
前景をぼかした出力画像を生成する場合の元画像に用いる画像を、遠景にフォーカスの合った画像とし、
前景と背景をぼかした出力画像を生成する場合に元画像に用いる画像を、中景にフォーカスの合った画像を元画像とする請求項1又は2に記載の画像処理装置。 - 前記距離算出部は、大きさの異なる少なくとも3つの前記コントラスト算出領域から距離情報を算出し、
前記画像生成部は、
前記コントラスト算出領域から算出した距離情報を、前記コントラスト算出領域の大きさが小さい順に参照して出力画像の画素値を算出することを特徴とする請求項1又は2に記載の画像処理装置。 - 前記参照したコントラスト算出領域が平坦領域と判定された場合は、参照した前記コントラスト算出領域の次に大きなコントラスト算出領域から算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする請求項5に記載の画像処理装置。 - 前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報に基づいて画素値を加重平均して出力画像の画素値を算出すること
を特徴とする請求項1から6までのいずれか1項に記載の画像処理装置。 - 前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報を加重平均して算出した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする請求項1から6までのいずれか1項に記載の画像処理装置。 - 前記画像生成部は、
前記複数のコントラスト算出領域から算出した複数の距離情報を、その信頼度に基づいて加重平均した距離情報に基づいて出力画像の画素値を算出すること
を特徴とする請求項1から6までのいずれか1項に記載の画像処理装置。 - 前記距離算出部は、
前記複数のコントラスト算出領域のうち、最も大きなコントラスト算出領域の大きさを、前記画像生成部の前記平滑化において平滑化対象領域が最も大きい最大平滑化領域の大きさ以上に設定すること
を特徴とする請求項1から6までのいずれか1項に記載の画像処理装置。 - 前記画像生成部は、
前記距離情報の大きく異なる領域が隣接する場合は、平滑化領域を狭く設定して出力画像の画素値を算出すること
を特徴とする請求項1に記載の画像処理装置。 - 前記複数の入力画像がフォーカス位置の異なる複数の画像である場合に、
前記画像生成部は、
前記複数の入力画像のうち、平滑化しない距離にフォーカスの合った画像を平滑化して出力画像の画素値を算出すること
を特徴とする請求項1に記載の画像処理装置。 - 複数の入力画像のうち少なくとも1つの画像の各画素に対応する距離情報を算出する距離算出ステップと、前記距離情報に基づいて被写界深度の浅い出力画像を生成する画像生成ステップと、を有し、
前記距離算出ステップは、前記各画素を中心とする大きさの異なる複数のコントラスト算出領域から距離情報を算出し、
前記画像生成ステップは、前記距離情報に基づいて前記入力画像の画素値を平滑化して出力画像の画素値を算出すること
を特徴とする画像処理方法をコンピュータに実行させるためのプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014219328A JP5927265B2 (ja) | 2014-10-28 | 2014-10-28 | 画像処理装置及びプログラム |
US15/522,428 US10147169B2 (en) | 2014-10-28 | 2015-09-09 | Image processing device and program |
CN201580040756.1A CN106576140B (zh) | 2014-10-28 | 2015-09-09 | 图像处理装置以及摄像装置 |
PCT/JP2015/075536 WO2016067762A1 (ja) | 2014-10-28 | 2015-09-09 | 画像処理装置及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014219328A JP5927265B2 (ja) | 2014-10-28 | 2014-10-28 | 画像処理装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016086351A JP2016086351A (ja) | 2016-05-19 |
JP5927265B2 true JP5927265B2 (ja) | 2016-06-01 |
Family
ID=55857108
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014219328A Expired - Fee Related JP5927265B2 (ja) | 2014-10-28 | 2014-10-28 | 画像処理装置及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10147169B2 (ja) |
JP (1) | JP5927265B2 (ja) |
CN (1) | CN106576140B (ja) |
WO (1) | WO2016067762A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5927265B2 (ja) * | 2014-10-28 | 2016-06-01 | シャープ株式会社 | 画像処理装置及びプログラム |
KR102543529B1 (ko) * | 2018-08-14 | 2023-06-15 | 현대모비스 주식회사 | 이미지 블러링 처리장치 및 그 방법 |
US11758120B2 (en) * | 2020-10-30 | 2023-09-12 | Nvidia Corporation | Evaluating detection capabilities of cameras |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008294785A (ja) * | 2007-05-25 | 2008-12-04 | Sanyo Electric Co Ltd | 画像処理装置、撮像装置、画像ファイル及び画像処理方法 |
JP5300133B2 (ja) * | 2008-12-18 | 2013-09-25 | 株式会社ザクティ | 画像表示装置及び撮像装置 |
US8705801B2 (en) * | 2010-06-17 | 2014-04-22 | Panasonic Corporation | Distance estimation device, distance estimation method, integrated circuit, and computer program |
CN102811309A (zh) * | 2011-05-31 | 2012-12-05 | 华晶科技股份有限公司 | 产生浅景深图像的方法及装置 |
JP5857567B2 (ja) * | 2011-09-15 | 2016-02-10 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
WO2013047405A1 (ja) * | 2011-09-30 | 2013-04-04 | 富士フイルム株式会社 | 画像処理装置及び方法、並びにプログラム |
JP5928024B2 (ja) * | 2012-03-14 | 2016-06-01 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6218378B2 (ja) * | 2012-12-27 | 2017-10-25 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
CN103945118B (zh) * | 2014-03-14 | 2017-06-20 | 华为技术有限公司 | 图像虚化方法、装置及电子设备 |
JP5927265B2 (ja) * | 2014-10-28 | 2016-06-01 | シャープ株式会社 | 画像処理装置及びプログラム |
-
2014
- 2014-10-28 JP JP2014219328A patent/JP5927265B2/ja not_active Expired - Fee Related
-
2015
- 2015-09-09 WO PCT/JP2015/075536 patent/WO2016067762A1/ja active Application Filing
- 2015-09-09 US US15/522,428 patent/US10147169B2/en not_active Expired - Fee Related
- 2015-09-09 CN CN201580040756.1A patent/CN106576140B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US10147169B2 (en) | 2018-12-04 |
US20170330307A1 (en) | 2017-11-16 |
WO2016067762A1 (ja) | 2016-05-06 |
CN106576140B (zh) | 2019-10-18 |
JP2016086351A (ja) | 2016-05-19 |
CN106576140A (zh) | 2017-04-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5980294B2 (ja) | データ処理装置、撮像装置、およびデータ処理方法 | |
EP3198852B1 (en) | Image processing apparatus and control method thereof | |
US10306141B2 (en) | Image processing apparatus and method therefor | |
JP5744161B2 (ja) | 画像処理装置 | |
JP6308748B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP5978949B2 (ja) | 画像合成装置及び画像合成用コンピュータプログラム | |
JP2015148532A (ja) | 距離計測装置、撮像装置、距離計測方法、およびプログラム | |
US20190355101A1 (en) | Image refocusing | |
JP6317635B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP5927265B2 (ja) | 画像処理装置及びプログラム | |
US10116865B2 (en) | Image processing apparatus and image processing method for calculating motion vector between images with different in-focus positions | |
JP6604908B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
US9270883B2 (en) | Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium | |
US11375110B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
EP3605450B1 (en) | Image processing apparatus, image pickup apparatus, control method of image processing apparatus, and computer-program | |
JP6637242B2 (ja) | 画像処理装置、撮像装置、プログラム、および画像処理方法 | |
JP6501732B2 (ja) | データ処理装置、撮像装置、およびデータ処理装置の制御方法 | |
JP2017182668A (ja) | データ処理装置、撮像装置、及びデータ処理方法 | |
JP6685550B2 (ja) | オートフォーカス装置及びオートフォーカス用プログラム | |
JP2019106215A (ja) | データ処理装置、撮像装置、およびデータ処理方法 | |
JP2015133532A (ja) | 撮像装置及び画像処理方法 | |
JP6097597B2 (ja) | 画像処理装置及びその制御方法 | |
JP2019022024A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP2018046372A (ja) | 撮像装置、システム、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160405 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160425 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5927265 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |