JP7373297B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP7373297B2 JP7373297B2 JP2019084430A JP2019084430A JP7373297B2 JP 7373297 B2 JP7373297 B2 JP 7373297B2 JP 2019084430 A JP2019084430 A JP 2019084430A JP 2019084430 A JP2019084430 A JP 2019084430A JP 7373297 B2 JP7373297 B2 JP 7373297B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- image
- area
- image processing
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 83
- 238000003672 processing method Methods 0.000 title claims description 4
- 238000003384 imaging method Methods 0.000 claims description 63
- 238000004458 analytical method Methods 0.000 claims description 38
- 238000000605 extraction Methods 0.000 claims description 13
- 239000000284 extract Substances 0.000 claims description 7
- 238000000034 method Methods 0.000 description 27
- 238000001514 detection method Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 18
- 210000001747 pupil Anatomy 0.000 description 18
- 230000014509 gene expression Effects 0.000 description 12
- 230000003287 optical effect Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 238000009795 derivation Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000004907 flux Effects 0.000 description 4
- 230000005484 gravity Effects 0.000 description 4
- 238000005259 measurement Methods 0.000 description 3
- 239000011295 pitch Substances 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000691 measurement method Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 1
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
図1は、本発明の実施形態に係るデジタルカメラ100の機能構成を示したブロック図である。
次に、本実施形態の撮像部105が備える撮像素子の詳細構成について、図2を参照して説明する。
生成部300は、撮像範囲の奥行き方向における被写体の距離分布を示す情報として、撮像画像に含まれる各被写体の像のデフォーカス量を含む、撮像画像と対応する画素構造を有したデフォーカスマップを生成する。デフォーカス量は、本実施形態のように取得した視差を有する画像群(A像及びB像)に基づいて導出する場合、例えば以下のように行えばよい。
C(k)=Σ|E(n)-F(n+k)|
で導出できる。ここで、Σ演算はnについて行われ、n及びn+kは1~mの範囲に限定されるものとする。また、ずらし量kは、一対の画像データの検出ピッチを単位とした相対的シフト量である。このように、1つの着目画素に係る一対の瞳分割画像(一対の微小ブロック701)について相関量を導出すると、ずらし量kと相関量C(k)は、例えば図6のグラフに離散的に示されるような関係となる。このとき、相関が最も高い像ずれ量において相関量C(k)が最小になるため、下記の3点内挿の手法を用いて、連続的な相関量に対する最小値C(x)を与えるずらし量xを導出する。
x=kj+D/SLOP
C(x)=C(kj)-|D|
D={C(kj-1)-C(kj+1)}/2
SLOP=MAX{C(kj+1)-C(kj),C(kj-1)-C(kj)}
ここで、kjは離散的な相関量C(k)が最小となるずらし量kである。このようにして求めたずらし量xが、1つの着目画素における像ずれ量として、距離情報に含められる。なお、像ずれ量xの単位も[pixel]であるものとする。
DEF=KX・PY・x
で導出することができる。ここで、PYは、撮像素子の画素ピッチ(撮像素子を構成する画素間距離。単位[mm/pixel])であり、KXは、一対の測距瞳を通過する光束の重心の開き角の大きさによって決まる変換係数である。なお、一対の測距瞳を通過する光束の重心の開き角の大きさは、レンズの絞り開口の大きさ(F値)に応じて変化するため、撮像時の設定の情報に応じて決定されるものとする。
以下、本実施形態のデジタルカメラ100において、撮像画像とデフォーカスマップとに基づいて、注目被写体の距離範囲のみに合焦した、撮像時よりも被写界深度を狭めた表現の画像を生成する画像加工処理について、図4のフローチャートを用いて説明する。該フローチャートに対応する処理は、システム制御部101が、例えばROM102に記憶されている対応する処理プログラムを読み出し、RAM103に展開して実行することにより実現することができる。本画像加工処理は、例えばデジタルカメラ100が撮像後に表現を変更した画像を生成する撮影モードに設定され、撮像指示に係る操作入力が検出された際に開始されるものとして説明する。
1/Zo+1/So=1/f
1/Zdef+1/(So+def)=1/f
となる。ここで、Zoは合焦被写体の物体側距離、Zdefはデフォーカス被写体の物体側距離、Soは合焦被写体の像面側距離、Sdefはデフォーカス被写体の像面側距離である。これらの式から
So=(Zo・f)/(Zo-f)
Sdef=(Zdef・f)/(Zdef-f)
を導くことができるため、デフォーカス被写体に係るデフォーカス量defは、
def=Sdef-So
として導出できる。
上述した実施形態では、撮像画像から人物被写体の顔領域を検出して注目被写体を特定する態様について説明したが、このような態様において、例えば、検出部301が顔領域を複数検出するケースも存在し得る。このとき、1人の人物被写体についてのみ合焦するよう、該被写体の距離範囲を特定するためには、以下のように処理すればよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (14)
- 撮像範囲の被写体を撮像した撮像画像と、該撮像画像と対応する領域についての、前記撮像範囲における被写体の奥行き方向の距離分布を示す値を格納した距離情報と、を取得する取得手段と、
前記撮像画像について注目被写体を決定する決定手段と、
前記撮像画像における前記注目被写体の位置に基づいて、距離分布を解析する解析領域を設定する設定手段と、
前記距離情報のうちの前記解析領域に含まれる値の頻度分布に基づいて、該解析領域に含まれる被写体が分布する値範囲を特定する特定手段と、
前記値範囲に含まれる情報を示す前記距離情報の領域を抽出することで、少なくとも前記注目被写体を含む被写体領域を抽出する抽出手段と、
を有することを特徴とする画像処理装置。 - 前記撮像画像のうちの、前記抽出手段により抽出された前記被写体領域に含まれる画素と、前記被写体領域に含まれない画素に対して異なる画像処理を適用することで、加工画像を生成する生成手段をさらに有することを特徴とする請求項1に記載の画像処理装置。
- 前記生成手段は、前記被写体領域から前記注目被写体の領域をさらに抽出し、前記撮像画像の前記被写体領域に含まれる画素のうち、該注目被写体の領域に含まれる画素と、該注目被写体の領域に含まれない画素に対して異なる画像処理を適用することを特徴とする請求項2に記載の画像処理装置。
- 前記特定手段は、前記距離情報の前記解析領域に含まれる値の頻度分布において、閾値を上回る頻度を示す値に基づいて前記値範囲を特定することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
- 前記特定手段は、前記撮像画像の被写界深度が浅いほど、頻度の前記閾値を低減させて前記値範囲を特定することを特徴とする請求項4に記載の画像処理装置。
- 前記特定手段は、前記解析領域に含まれる値の範囲に応じて、前記頻度分布における階級幅を変更することを特徴とする請求項4または5に記載の画像処理装置。
- 前記決定手段は、前記撮像画像に含まれる所定の被写体を検出することで、検出した該所定の被写体のうちから前記注目被写体を決定し、
前記設定手段は、前記注目被写体に対応する前記所定の被写体の像が現れる領域を含む所定の大きさの領域を、前記解析領域として設定する
ことを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。 - 前記設定手段は、前記撮像画像の被写界深度が浅いほど、前記所定の大きさの領域を拡大させて前記解析領域を設定することを特徴とする請求項7に記載の画像処理装置。
- 前記設定手段は、前記注目被写体に対応する前記所定の被写体の像が現れる領域を含む所定の大きさの領域に、前記決定手段により検出された、前記注目被写体とは異なる前記所定の被写体の像が現れる領域が含まれる場合に、該異なる所定の被写体の像が現れる領域を含まないように、前記解析領域を変形することを特徴とする請求項7または8に記載の画像処理装置。
- 前記距離情報は、前記撮像画像と同一の画素構造を有する2次元情報であり、
前記距離情報の各画素に格納される値は、前記撮像画像において該画素に存在する被写体の像のデフォーカス量である
ことを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。 - 前記距離情報は、前記撮像画像と同一の画素構造を有する2次元情報であって、異なる複数の視点で前記撮像範囲を撮像した画像群に基づいて値が格納される情報であり、
前記距離情報の各画素に格納される値は、前記撮像画像において該画素に存在する被写体の、前記画像群における相対的な像ずれ量である
ことを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。 - 前記距離情報は、前記撮像画像と同一の画素構造を有する2次元情報であり、
前記距離情報の各画素に格納される値は、前記撮像画像において該画素に存在する被写体の奥行き方向の距離である
ことを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。 - 撮像範囲の被写体を撮像した撮像画像と、該撮像画像と対応する領域についての、前記撮像範囲における被写体の奥行き方向の距離分布を示す値を格納した距離情報と、を取得する取得工程と、
前記撮像画像について注目被写体を決定する決定工程と、
前記撮像画像における前記注目被写体の位置に基づいて、距離分布を解析する解析領域を設定する設定工程と、
前記距離情報のうちの前記解析領域に含まれる値の頻度分布に基づいて、該解析領域に含まれる被写体が分布する値範囲を特定する特定工程と、
前記値範囲に含まれる情報を示す前記距離情報の領域を抽出することで、少なくとも前記注目被写体を含む被写体領域を抽出する抽出工程と、
を有することを特徴とする画像処理方法。 - コンピュータを、請求項1乃至12のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019084430A JP7373297B2 (ja) | 2019-04-25 | 2019-04-25 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019084430A JP7373297B2 (ja) | 2019-04-25 | 2019-04-25 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020181401A JP2020181401A (ja) | 2020-11-05 |
JP7373297B2 true JP7373297B2 (ja) | 2023-11-02 |
Family
ID=73024708
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019084430A Active JP7373297B2 (ja) | 2019-04-25 | 2019-04-25 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7373297B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024034449A1 (ja) * | 2022-08-06 | 2024-02-15 | モルゲンロット株式会社 | 情報処理装置、及び情報処理方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014197824A (ja) | 2013-03-05 | 2014-10-16 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
JP2017126979A (ja) | 2016-01-13 | 2017-07-20 | キヤノン株式会社 | 画像処理装置および画像処理装置の制御方法、撮像装置、プログラム |
-
2019
- 2019-04-25 JP JP2019084430A patent/JP7373297B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014197824A (ja) | 2013-03-05 | 2014-10-16 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
JP2017126979A (ja) | 2016-01-13 | 2017-07-20 | キヤノン株式会社 | 画像処理装置および画像処理装置の制御方法、撮像装置、プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2020181401A (ja) | 2020-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9607240B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, image capturing method, and non-transitory computer-readable medium for focus bracketing | |
US9208396B2 (en) | Image processing method and device, and program | |
US9503633B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and storage medium | |
CN105391932B (zh) | 图像处理装置及其控制方法、以及摄像装置及其控制方法 | |
US9076214B2 (en) | Image acquisition apparatus and image processing apparatus using selected in-focus image data | |
US10855903B2 (en) | Image processing apparatus, image capturing apparatus, control method and recording medium | |
JP2016024489A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
EP2635019B1 (en) | Image processing device, image processing method, and program | |
JP6611531B2 (ja) | 画像処理装置、画像処理装置の制御方法、およびプログラム | |
JP6234401B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
US11812137B2 (en) | Measurement apparatus, image capturing apparatus, control method, and recording medium | |
JP6529360B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP2020009180A (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP7373297B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2018018425A (ja) | 画像処理装置及び画像処理方法 | |
JP6728020B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP7437915B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP2016099322A (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
KR101599434B1 (ko) | 자동 초점 조절을 이용한 영상촬상장치의 공간감지장치 및 공간감지방법 | |
JP7346021B2 (ja) | 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体 | |
JP2021164066A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP6245974B2 (ja) | 画像処理装置、制御方法、及びプログラム | |
JP2023069386A (ja) | 画像計測装置、方法およびプログラム | |
JP2016100663A (ja) | 画像処理装置、撮像装置、画像処理システム、画像処理方法、および画像処理プログラム | |
JP2021135725A (ja) | 画像処理装置及びその制御方法並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230407 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230605 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230922 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231023 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7373297 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |