JP6637242B2 - 画像処理装置、撮像装置、プログラム、および画像処理方法 - Google Patents
画像処理装置、撮像装置、プログラム、および画像処理方法 Download PDFInfo
- Publication number
- JP6637242B2 JP6637242B2 JP2015043004A JP2015043004A JP6637242B2 JP 6637242 B2 JP6637242 B2 JP 6637242B2 JP 2015043004 A JP2015043004 A JP 2015043004A JP 2015043004 A JP2015043004 A JP 2015043004A JP 6637242 B2 JP6637242 B2 JP 6637242B2
- Authority
- JP
- Japan
- Prior art keywords
- blur
- image
- pixels
- pixel
- reference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 129
- 238000003384 imaging method Methods 0.000 title claims description 67
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000000034 method Methods 0.000 claims description 84
- 238000009499 grossing Methods 0.000 description 38
- 238000010586 diagram Methods 0.000 description 21
- 238000012937 correction Methods 0.000 description 8
- 238000012935 Averaging Methods 0.000 description 6
- 230000002093 peripheral effect Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000003706 image smoothing Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Description
図1は、本実施形態の構成を示す図である。本実施形態に係る画像処理装置105は、ぼかし処理部102、記憶部103、および、ぼかし再調整部104を備える。ぼかし再調整部104をぼかし調整部と呼ぶこともある。また、本実施形態に係る撮像装置100は、画像処理装置105の備える各部に加え、撮像部101を備える。
探索参照画像(A)と探索基準画像(B)の特徴点の位置の変化量、
探索基準画像(B)と探索参照画像(C)の特徴点の位置の変化量、および
探索参照画像(C)と探索基準画像(D)の特徴点の位置の変化量
の和によって補正量を算出することができる。これにより、各画像間の画素の対応をとることができ、撮像画角が異なっている場合においても合焦度の比較が可能となる。ぼかし処理部102は、合焦度の比較により算出された被写体毎の距離情報を、ぼかし処理を行うときに使用する。
ぼかし画像が記憶部に記憶された後、保存された画像に対してぼかし強度を変更する場合、ぼかし再調整部104において処理が行われる。撮像時には、フォーカス位置の異なる複数の画像から被写体までの距離を推定したが、ぼかし再調整時には、ぼかし処理部102は、記憶部103に記憶されたぼかし画像と基準画像とから被写体毎の被写体距離を推定する。より具体的には、ぼかし再調整部104は、記憶部103に記憶されたぼかし画像と基準画像とから各被写体に含まれる画素毎の奥行距離を推定する。
まず、ぼかし再調整部104は、記憶部103に記憶されている基準画像に対して複数の平滑化処理を施すことにより、強度の異なる複数の再ぼかし画素を生成する。
次に、ぼかし再調整部104は、記憶部103に記憶されているぼかし画像の画素の階調値と、ステップS1において生成した複数の再ぼかし画素の各々の階調値とを、処理対象画素毎に比較する。
次に、ぼかし再調整部104は、当該再ぼかし処理において、ぼかし強度を強くするべきであるのか否かを判別する。ぼかし再調整部104は、当該判別処理を、ユーザーが入力した操作情報を参照して行う。なお、本ステップは、上述したステップS1やステップS2に先立って行われる構成としてもよい。
ステップS3においてぼかし強度を強くすべきであると判別した場合、ぼかし再調整部104は、ステップS2において比較を行った複数の再ぼかし画素のうち、ぼかし画像の対象画素の階調値に最も近い階調値を有する画素である最近階調値画素よりもぼかし強度の強い画素を、処理対象画素毎に選択することによって、ぼかし画像のぼかし強度を調整する。換言すれば、ぼかし再調整部104は、ぼかし画像における最近階調値画素を生成する際に用いられた平滑化処理における平滑化範囲よりも広い平滑化範囲で平滑化された再ぼかし画素を、処理対象画素毎に選択する。
ステップ3においてぼかし強度を強くすべきでないと判別した場合、ぼかし再調整部104は、当該再ぼかし処理において、ぼかし強度を弱くするべきであるのか否かを判別する。ぼかし再調整部104は、当該判別処理を、ユーザーが入力した操作情報を参照して行う。なお、本ステップは、上述したステップS1やステップS2やステップS3に先立って行われる構成としてもよい。
ステップS5においてぼかし強度を弱くすべきであると判別した場合、ぼかし再調整部104は、ステップS2において比較を行った複数の再ぼかし画素のうち、ぼかし画像の対象画素の階調値に最も近い階調値を有する画素である最近階調値画素よりもぼかし強度の弱い画素を、処理対象画素毎に選択することによって、ぼかし画像のぼかし強度を調整する。換言すれば、ぼかし再調整部104は、ぼかし画像における最近階調値画素を生成する際に用いられた平滑化処理における平滑化範囲よりも狭い平滑化範囲で平滑化された再ぼかし画素を、処理対象画素毎に選択する。
なお、ぼかし画像と基準画像を記憶部103に記憶するときには、ぼかし再調整時に互いの関係性が分かるように関連付けて記憶すると、複数の画像が記憶部103に記憶されていてもぼかし再調整処理が実現可能になる。例えば、ぼかし画像と基準画像のいずれか、または、双方のファイルヘッダーに相互の関係を記述したり、双方のファイル名に共通部分を設け、対応するぼかし画像、または、対応する基準画像が判断できるようにしたりするとよい。
また、ぼかし処理部102における撮像時のぼかし処理において行われる平滑化範囲は、ぼかし強度や合焦させる被写体などに応じて個別に各々設定しておく必要がある。多くの種類のぼかし強度を用いてぼかし処理を行うと、平滑化範囲の種類が増加してしまう場合がある。そこで、合焦した被写体の位置、または、ぼかし強度のレベルが分かるように、平滑化後の各画像のファイル名やファイルヘッダーに、合焦した被写体の位置、または、ぼかし強度のレベルを記載しても良い。つまり、図5では、ぼかし強度AからEまでの5段回のぼかし強度を使用してぼかし処理を行ったが、合焦した被写体の位置や、ぼかし強度のレベルによって、ぼかし強度AからCの三段階でぼかし処理をする設定であれば、ぼかし再調整部104でのぼかし画素の比較が三種類で済むため、処理量を低減することができる。
さらに、本実施形態においては、撮像部101で異なるフォーカス位置で撮像した複数の画像を取得する方法について説明したが、異なる位置で撮像した複数の画像を取得する場合でも同様の効果を得ることができる。例えば、多眼カメラで撮像した複数の画像から視差を算出することで、基準画像に対応した距離情報を算出し、距離情報に基づいてぼかし処理をした場合にも適用できる。つまりこの場合においても、多眼カメラで撮像した全画像を記憶しておく必要が無く、ぼかし画像と、ぼかし処理に使用した基準画像を記憶しておくことで、ぼかし処理の再調整が可能となる。
本実施形態における撮像装置200の構成は、図13に示すように全焦点処理部201を備えた構成である。なお、説明の便宜上、前記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
本実施形態における撮像装置300の構成を図17に示す。なお、実施形態2と同様である共通する各部の詳細な説明は省略する。
撮像装置100、200、300の制御ブロック(特にぼかし処理部102およびぼかし再調整部104)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェアによって実現してもよい。
本発明の態様1に係る画像処理装置105は、基準画像および当該基準画像にぼかし処理を施したぼかし画像を記憶する記憶部103と、上記記憶部103に記憶された上記ぼかし画像のぼかし強度を調整するぼかし調整部(ぼかし再調整部104)と、を備え、上記ぼかし調整部(ぼかし再調整部104)は、上記基準画像に対して複数の平滑化強度を有する平滑化処理を施すことによって、平滑化強度の異なる複数の再ぼかし画素を生成し、上記ぼかし画像の画素と、上記複数の再ぼかし画素との階調値を比較し、比較した結果に応じて上記複数の再ぼかし画素の何れかを選択することによって、上記ぼかし画像のぼかし強度を調整する。
101 撮像部
102 ぼかし処理部
103 記憶部
104 ぼかし再調整部
105、205、305 画像処理装置
201 全焦点処理部
Claims (7)
- 記憶部に記憶された基準画像と、前記基準画像にぼかし処理を施して前記記憶部に記憶された第1のぼかし画像と、に基づいて、前記第1のぼかし画像とはぼかし強度が異なる第2のぼかし画像を生成するぼかし調整部を備え、
前記ぼかし調整部は、前記基準画像にぼかし処理を施すことにより得られた画素と、前記第1のぼかし画像の画素とに基づいて、前記第2のぼかし画像の画素を生成することを特徴とする画像処理装置。 - 記憶部に記憶された基準画像と、前記基準画像にぼかし処理を施して前記記憶部に記憶された第1のぼかし画像と、に基づいて、前記第1のぼかし画像とはぼかし強度が異なる第2のぼかし画像を生成するぼかし調整部を備え、
前記ぼかし調整部は、前記基準画像にぼかし処理を施すことにより得られた画素と、前記第1のぼかし画像の画素とに基づいて、前記基準画像にぼかし処理を施した画素から前記第2のぼかし画像の画素を生成することを特徴とする画像処理装置。 - 記憶部に記憶された基準画像と、前記基準画像にぼかし処理を施して前記記憶部に記憶された第1のぼかし画像と、に基づいて、前記第1のぼかし画像とはぼかし強度が異なる第2のぼかし画像を生成するぼかし調整部を備え、
前記記憶部には、前記基準画像に対応する前記基準画像よりも被写界深度が深い全焦点画像がさらに記憶されており、
前記ぼかし調整部は、前記全焦点画像の画素と、前記第1のぼかし画像の画素とに基づいて前記第2のぼかし画像の画素を生成することを特徴とする画像処理装置。 - 記憶部に記憶された基準画像と、前記基準画像にぼかし処理を施して前記記憶部に記憶された第1のぼかし画像と、に基づいて、前記第1のぼかし画像とはぼかし強度が異なる第2のぼかし画像を生成するぼかし調整部を備え、
前記記憶部には、前記基準画像に対応する全焦点画像が記憶されており、
前記ぼかし調整部は、前記全焦点画像の画素と、前記第1のぼかし画像の画素とに基づいて、前記全焦点画像にぼかし処理を施した画素から前記第2のぼかし画像の画素を生成することを特徴とする画像処理装置。 - フォーカス位置の異なる複数の画像を撮像する撮像部と、
請求項1〜4の何れか1項に記載の画像処理装置とを備える、
ことを特徴とする撮像装置。 - 請求項1〜4の何れか1項に記載の画像処理装置としてコンピュータを機能させるためのプログラムであって、当該コンピュータを前記ぼかし調整部として機能させるためのプログラム。
- 記憶部に記憶された基準画像と、前記基準画像にぼかし処理を施して前記記憶部に記憶された第1のぼかし画像と、に基づいて、前記第1のぼかし画像とはぼかし強度が異なる第2のぼかし画像を生成するぼかし調整ステップを含み、
前記ぼかし調整ステップでは、前記基準画像にぼかし処理を施すことにより得られた画素と、前記第1のぼかし画像の画素とに基づいて、前記第2のぼかし画像の画素を生成する、
ことを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015043004A JP6637242B2 (ja) | 2015-03-04 | 2015-03-04 | 画像処理装置、撮像装置、プログラム、および画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015043004A JP6637242B2 (ja) | 2015-03-04 | 2015-03-04 | 画像処理装置、撮像装置、プログラム、および画像処理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016162376A JP2016162376A (ja) | 2016-09-05 |
JP2016162376A5 JP2016162376A5 (ja) | 2018-01-18 |
JP6637242B2 true JP6637242B2 (ja) | 2020-01-29 |
Family
ID=56847084
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015043004A Expired - Fee Related JP6637242B2 (ja) | 2015-03-04 | 2015-03-04 | 画像処理装置、撮像装置、プログラム、および画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6637242B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108234865A (zh) * | 2017-12-20 | 2018-06-29 | 深圳市商汤科技有限公司 | 图像处理方法、装置、计算机可读存储介质和电子设备 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007066199A (ja) * | 2005-09-01 | 2007-03-15 | Canon Inc | 画像処理装置及び画像処理方法 |
JP2010081050A (ja) * | 2008-09-24 | 2010-04-08 | Nikon Corp | カメラ |
-
2015
- 2015-03-04 JP JP2015043004A patent/JP6637242B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2016162376A (ja) | 2016-09-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5980294B2 (ja) | データ処理装置、撮像装置、およびデータ処理方法 | |
JP6271990B2 (ja) | 画像処理装置、画像処理方法 | |
TWI538512B (zh) | 調整對焦位置的方法及電子裝置 | |
US9992478B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for synthesizing images | |
US9508153B2 (en) | Distance measurement apparatus, imaging apparatus, distance measurement method, and program | |
JP6224362B2 (ja) | 撮像装置 | |
TWI515470B (zh) | 使用多鏡頭的自動對焦系統及其方法 | |
US9619886B2 (en) | Image processing apparatus, imaging apparatus, image processing method and program | |
US10116865B2 (en) | Image processing apparatus and image processing method for calculating motion vector between images with different in-focus positions | |
TW201541143A (zh) | 使用多鏡頭的自動對焦系統及其方法 | |
JP2017220885A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP6395429B2 (ja) | 画像処理装置、その制御方法及び記憶媒体 | |
JP6645711B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP6637242B2 (ja) | 画像処理装置、撮像装置、プログラム、および画像処理方法 | |
US11375110B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
US9467614B2 (en) | Camera module and method for driving the same to achieve fast focus of image being captured | |
JP2020086216A (ja) | 撮像制御装置、撮像装置及び撮像制御プログラム | |
JP6818734B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP6381212B2 (ja) | 撮像装置及びその制御方法 | |
US11206348B2 (en) | Image apparatus to generate a combined image, control method for controlling an apparatus to generate a combined image, and storage medium | |
JP7020387B2 (ja) | 撮像制御装置、撮像装置及び撮像制御プログラム | |
JP2019047145A (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム | |
WO2016047220A1 (ja) | 撮像装置及び撮像方法 | |
US10776927B2 (en) | Image processing apparatus, image processing method, and program | |
JP2017182668A (ja) | データ処理装置、撮像装置、及びデータ処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171124 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190123 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190702 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190830 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191217 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191220 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6637242 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |