JP6329400B2 - 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 - Google Patents
画像処理装置、画像処理方法およびプログラム、並びに撮像装置 Download PDFInfo
- Publication number
- JP6329400B2 JP6329400B2 JP2014050595A JP2014050595A JP6329400B2 JP 6329400 B2 JP6329400 B2 JP 6329400B2 JP 2014050595 A JP2014050595 A JP 2014050595A JP 2014050595 A JP2014050595 A JP 2014050595A JP 6329400 B2 JP6329400 B2 JP 6329400B2
- Authority
- JP
- Japan
- Prior art keywords
- focal plane
- image
- display
- imaging
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Description
以下、図1から図8を参照して、本発明の第1の実施例に係る画像処理装置を適用した撮像装置を説明する。本撮像装置としては、デジタルカメラやビデオカメラなどがあるが、本実施例の画像処理装置は、多眼カメラ、ライトフィールドデータを取得可能なカメラの出力を処理するPC等の情報処理装置にも適用可能であることは言うまでもない。
図において、101はフォーカスレンズを含んで構成される撮影光学系であり、被写体からの光を複数のレンズ群および絞りを介して撮像素子102に導き、撮像素子102上に光学像を形成する。撮影光学系101に含まれるフォーカスレンズは、不図示のレンズ駆動制御部からの駆動命令またはピントリングの回転動作に基づいて駆動され、これによりピントの位置を調節することが可能である。
図2(b)は撮像素子102上の1画素を上面から観察した図である。図2(c)は図2(b)に示す線分P−P´における画素の断面図である。なお図2中で同一の部品には同一の番号を付している。
図2において、マイクロレンズ201は撮影光学系101の結像面近傍に配置され、撮影光学系から出力された光束を集光する。202および203は、光電変換部である。以降、202および203に示すような光電変換部を分割画素と呼称する。
記録処理が始まると、カメラシステム制御部108は画像処理部を制御して、ステップS402で取得した撮像データを所定の形式のデータに変換して圧縮し、記録用データを生成する。
ip(x) = (fp(x−1)+fp(x) )÷2 ・・・式1
ip(x) = (fp(x−2)+(fp(x−1)×2)+fp(x) )÷4 ・・・式2
また、以下の式3に示すように異なる複数のフレームにおける焦点面位置の二乗平均平方根を求めて理想焦点面を決定してもよい。
ip(x) =√ ((fp(x−1)^2+fp(x)^2)÷2) ・・・式3
リフォーカス範囲Rf_Rangeは、実際の焦点面に対して像面から被写体側への深度Rf_farと、像面から更に後方への深度Rf_nearとを合わせた範囲を持つ。
ip≧Rf_farの時
fp_out= Rf_far
ip≦Rf_nearの時
fp_out= Rf_near
Rf_near<ip<Rf_farの時
fp_out= ip
同図において、図8(a)は、撮像素子102のある領域における入射光と焦点面の撮像時における関係を示している。図8(a)は、焦点面がマイクロレンズ201のアレイ面にある場合の入射光を、実線、破線、点線などによりマイクロレンズごとに示している。撮像時の撮像素子の撮像面には、焦点の合った像が形成されている。そのときの各マイクロレンズに対応する2つの分割画素に入射する光線を同じ種類の線で示してある。図3で説明した射出瞳領域302および303を通過した光束はマイクロレンズにより瞳分割される。射出瞳領域302を通過した光束は分割画素802、804、806、808、810で、また射出瞳領域303を通過した光束は分割画素801、803、805,807、809でそれぞれ受光される。
次に図9、図10を用いて本発明の第2の実施例について説明する。
図9は、本実施例における表示用仮想焦点面決定処理のフローチャートである。
図10(a)、(b)、(c)は、動画撮影時のある時間における焦点面の変位と表示フレーム間の変位量を示す図であり、それぞれ異なるシーンでの変位を示している。
また図10(d)、(e)、(f)は、図10(a)、(b)、(c)それぞれのシーンにおける表示用仮想焦点面の変位を示している。
なお、図9、図10は第1の実施例で説明した図6、図7と対応しており、既に説明を行った部分については同一の記号を付し、ここでの説明は省略する。
次に図11を用いて、本発明の第2の実施例の変形例について説明する。
本変形例によれば、自動車などの移動速度の速いものが被写体として撮影されている場合において、表示画像の焦点面をフォーカスレンズ位置に対応する焦点面に制御し、被写体に追従してピントのあった表示をすることを可能とする。
本変形例では、相関性を、変化量相関と方向相関との2つとする。まず、変化量相関について説明する。
変化量の相関性は、焦点面の変化量fp_diff(x−1)とfp_diff(x)の差分が閾値N以下(所定量以下)の場合に変化量の相関性があると判定し、閾値Nよりも大きい場合は変化量の相関性がないと判定する。
閾値Nは、連続する被写体距離の切替りに相関性があるかを判定するために予め定められた閾値であり、第1の実施例で説明した閾値Dと同様に撮像装置100内の不図示のメモリに記憶されている。
例えば、フォーカスレンズが至近側に駆動した場合の焦点面の変化量を+fp_diff、無限遠側に駆動して変化した場合の焦点面の変化量を−fp_diffと定義する。
そして、フレームFr(x−1)とフレームFr(x)における焦点面の変化量fp_diffの符号が等しい場合に方向の相関性があると判定し、符号が異なる場合は方向の相関性がないと判定する。
Claims (19)
- フォーカスレンズを含む撮影光学系で形成された被写体の光学像を撮像手段で撮像して得られた、リフォーカス処理が可能な撮像データを処理する画像処理装置であって、
リフォーカス処理が可能な撮像データを取得する撮像データ取得手段と、
フォーカスレンズの位置の情報を取得するレンズ情報取得手段と、
取得したフォーカスレンズの位置に対応する焦点面の位置の変化量に基づいて、取得した撮像データの表示画像の焦点面の位置を決定する焦点面決定手段と、
決定された位置の焦点面におけるリフォーカス画像の画像データを、撮像データから生成するリフォーカス処理手段と、
生成されたリフォーカス画像の画像データに基づいて、取得した撮像データの表示データを生成する表示データ生成手段と
を備えることを特徴とする画像処理装置。 - 前記焦点面決定手段によって決定される焦点面には、前記変化量の平均に基づく第1の焦点面と、前記フォーカスレンズの位置に対応する第2の焦点面とが含まれることを特徴とする請求項1に記載の画像処理装置。
- 前記焦点面決定手段によって決定される焦点面には、前記変化量よりも急峻な変化量をもつ第3の焦点面が更に含まれることを特徴とする請求項2に記載の画像処理装置。
- 前記フォーカスレンズの位置に対応する焦点面の変化量は、前記表示画像のフレームの前もしくは後の少なくとも一方の所定数のフレームもしくは所定の時間期間における前記フォーカスレンズの位置に対応する焦点面の位置の変化量であることを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
- 前記焦点面決定手段は、前記変化量が所定値より小さい場合には、前記表示画像の焦点面を前記第1の焦点面とし、前記変化量が前記所定値より大きい場合には、前記表示画像の焦点面を前記第2の焦点面と前記第3の焦点面のいずれかとすることを特徴とする請求項3に記載の画像処理装置。
- 前記焦点面決定手段は、前記所定値より大きい変化量が連続している場合には、前記表示画像の焦点面を前記第1の焦点面とすることを特徴とする請求項5に記載の画像処理装置。
- 前記焦点面決定手段は、前記所定値より大きい変化量が連続している場合には、前記連続した変化量の差分と変化の方向に基づいた前記連続する変化量の相関に従って前記表示画像の焦点面を前記第1の焦点面の位置と前記第2の焦点面の位置と前記第3の焦点面の位置のいずれかに決定することを特徴とする請求項6に記載の画像処理装置。
- 前記焦点面決定手段は、前記変化量の差分が所定量以下で、かつ前記変化の方向が同じ場合に、前記表示画像の焦点面を前記第2の焦点面の位置とし、それ以外の場合には、前記表示画像の焦点面を前記第1の焦点面とすることを特徴とする請求項7に記載の画像処理装置。
- 前記焦点面決定手段は、さらに前記撮影光学系の情報を取得し、前記撮影光学系の情報に基づいて前記リフォーカス処理におけるリフォーカス可能な範囲を決定し、前記決定されたリフォーカス可能な範囲に基づいて焦点面の位置を制限することを特徴とする請求項1乃至8のいずれか一項に記載の画像処理装置。
- 前記焦点面決定手段は、決定された焦点面の位置が前記リフォーカス可能な範囲にない場合には、前記決定された焦点面の位置を前記リフォーカス可能な範囲の限界の位置とすることを特徴とする請求項9記載の画像処理装置。
- 前記撮像データ取得手段は、記録媒体から再生された、リフォーカス処理が可能な撮像データを取得することを特徴とする請求項1乃至10のいずれか一項に記載の画像処理装置。
- フォーカスレンズを含む撮影光学系で形成された被写体の光学像を撮像手段で撮像して得られた、リフォーカス処理が可能な撮像データを処理する画像処理装置の制御方法であって、
前記リフォーカス処理が可能な撮像データを取得する撮像データ取得ステップと、
前記フォーカスレンズの位置の情報を取得するレンズ情報取得ステップと、
前記取得したフォーカスレンズの位置に対応する焦点面の位置の変化量に基づいて、取得した撮像データの表示画像の焦点面の位置を決定する焦点面決定ステップと、
前記決定された位置の焦点面におけるリフォーカス画像の画像データを、前記撮像データから生成するリフォーカス処理ステップと、
前記生成されたリフォーカス画像の画像データに基づいて、前記取得した撮像データの表示データを生成する表示データ生成ステップと
を備えることを特徴とする制御方法。 - 前記焦点面決定ステップにおいて決定される焦点面には、前記変化量の平均に基づく第1の焦点面と、前記フォーカスレンズの位置に対応する第2の焦点面とが含まれることを特徴とする請求項12に記載の画像処理装置の制御方法。
- 前記焦点面決定ステップにおいて決定される焦点面には、前記変化量よりも急峻な変化量をもつ第3の焦点面が更に含まれることを特徴とする請求項13に記載の画像処理装置の制御方法。
- フォーカスレンズを含む撮影光学系で形成された被写体の光学像を撮像手段で撮像して得られた、リフォーカス処理が可能な撮像データを処理する画像処理装置を制御するプログラムであり、
コンピュータを、
前記リフォーカス処理が可能な撮像データを取得する撮像データ取得手段、
前記フォーカスレンズの位置の情報を取得するレンズ情報取得手段、
前記取得したフォーカスレンズの位置に対応する焦点面の位置の変化量の情報に基づいて、前記取得した撮像データの表示画像の焦点面の位置を決定する焦点面決定手段、
前記決定された位置の焦点面におけるリフォーカス画像の画像データを、前記撮像データから生成するリフォーカス処理手段、
前記生成されたリフォーカス画像の画像データに基づいて、前記取得した撮像データの表示データを生成する表示データ生成手段
として機能させるためのプログラム。 - 請求項15のプログラムを記録したコンピュータが読み取り可能な記憶媒体。
- コンピュータを、請求項1乃至11のいずれか一項に記載された画像処理装置の各手段として機能させるプログラム。
- コンピュータを、請求項1乃至11のいずれか一項に記載された画像処理装置の各手段として機能させるプログラムを格納した記憶媒体。
- フォーカスレンズを含む撮影光学系で形成された被写体の光学像を撮像してリフォーカス処理が可能な撮像データを生成する撮像手段と、
前記フォーカスレンズの位置の情報を取得するレンズ情報取得手段と、
前記取得したフォーカスレンズの位置に対応する焦点面の位置の変化量の情報に基づいて、前記撮像手段で生成された撮像データの表示画像の焦点面の位置を決定する焦点面決定手段と、
前記決定された位置の焦点面におけるリフォーカス画像の画像データを、前記撮像データから生成するリフォーカス処理手段と、
前記生成されたリフォーカス画像の画像データに基づいて、前記生成された撮像データの表示データを生成する表示データ生成手段と、
前記表示データを表示する表示手段と
を備えることを特徴とする撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014050595A JP6329400B2 (ja) | 2014-03-13 | 2014-03-13 | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014050595A JP6329400B2 (ja) | 2014-03-13 | 2014-03-13 | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2015175905A JP2015175905A (ja) | 2015-10-05 |
JP2015175905A5 JP2015175905A5 (ja) | 2017-04-06 |
JP6329400B2 true JP6329400B2 (ja) | 2018-05-23 |
Family
ID=54255178
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014050595A Active JP6329400B2 (ja) | 2014-03-13 | 2014-03-13 | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6329400B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6609194B2 (ja) * | 2016-01-29 | 2019-11-20 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08146286A (ja) * | 1994-11-18 | 1996-06-07 | Nikon Corp | 自動焦点調節カメラ |
JP2001021794A (ja) * | 1999-07-12 | 2001-01-26 | Canon Inc | 自動焦点調節装置および光学機器 |
JP4900723B2 (ja) * | 2008-03-14 | 2012-03-21 | ソニー株式会社 | 画像処理装置、画像処理プログラムおよび表示装置 |
JP5273033B2 (ja) * | 2009-12-25 | 2013-08-28 | 株式会社ニコン | 撮像装置および画像再生装置 |
JP2013080093A (ja) * | 2011-10-04 | 2013-05-02 | Canon Inc | 撮像装置 |
JP2013254151A (ja) * | 2012-06-08 | 2013-12-19 | Canon Inc | 画像処理装置および画像処理方法 |
JP5938281B2 (ja) * | 2012-06-25 | 2016-06-22 | キヤノン株式会社 | 撮像装置およびその制御方法ならびにプログラム |
-
2014
- 2014-03-13 JP JP2014050595A patent/JP6329400B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015175905A (ja) | 2015-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5388544B2 (ja) | 撮像装置およびそのフォーカス制御方法 | |
JP5898501B2 (ja) | 画像処理装置、撮像装置、制御方法、プログラム及び記録媒体 | |
JP4886210B2 (ja) | 撮像装置 | |
US8964104B2 (en) | Image pickup apparatus | |
JP4692654B2 (ja) | 撮像装置および画像処理プログラム | |
JP2013145314A5 (ja) | ||
JP6581333B2 (ja) | 画像処理装置、撮像装置およびプログラム | |
JP2010187225A (ja) | 撮像装置、撮像方法 | |
JP2016142925A (ja) | 撮像装置およびその制御方法、プログラム、記憶媒体 | |
WO2017130522A1 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP6659100B2 (ja) | 撮像装置 | |
JP6360338B2 (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP5446311B2 (ja) | 撮像装置 | |
JP5403111B2 (ja) | 画像追尾装置 | |
JP2013113857A (ja) | 撮像装置及びその制御方法 | |
JP6881909B2 (ja) | 撮像装置及びその制御方法、及び画像処理装置及び方法 | |
JP4898151B2 (ja) | 撮像装置及び撮像方法 | |
JP6329400B2 (ja) | 画像処理装置、画像処理方法およびプログラム、並びに撮像装置 | |
JP5683135B2 (ja) | 撮像装置及びその制御方法 | |
JP6071173B2 (ja) | 撮像装置、その制御方法及びプログラム | |
JP2011013499A (ja) | 撮像装置 | |
JP5239250B2 (ja) | 電子カメラ | |
JP2015152830A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP5551526B2 (ja) | 撮影装置及び撮影装置の動作方法 | |
JP6914988B2 (ja) | 撮像装置及びその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170301 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170301 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171102 |
|
RD05 | Notification of revocation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7425 Effective date: 20171214 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171228 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20180126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180420 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6329400 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |