JP2015231193A - 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 - Google Patents

撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 Download PDF

Info

Publication number
JP2015231193A
JP2015231193A JP2014117507A JP2014117507A JP2015231193A JP 2015231193 A JP2015231193 A JP 2015231193A JP 2014117507 A JP2014117507 A JP 2014117507A JP 2014117507 A JP2014117507 A JP 2014117507A JP 2015231193 A JP2015231193 A JP 2015231193A
Authority
JP
Japan
Prior art keywords
image
aperture value
shutter speed
value
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014117507A
Other languages
English (en)
Other versions
JP6333076B2 (ja
JP2015231193A5 (ja
Inventor
武史 渡邉
Takeshi Watanabe
武史 渡邉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014117507A priority Critical patent/JP6333076B2/ja
Priority to US14/728,350 priority patent/US9692970B2/en
Publication of JP2015231193A publication Critical patent/JP2015231193A/ja
Publication of JP2015231193A5 publication Critical patent/JP2015231193A5/ja
Application granted granted Critical
Publication of JP6333076B2 publication Critical patent/JP6333076B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Image Processing (AREA)

Abstract

【課題】より効果的に画像回復処理を実行可能な撮像装置を提供する。【解決手段】撮像装置は、画像回復処理のための絞り値とシャッタースピードとの関係を記憶する記憶手段と、撮影条件および記憶手段に記憶された関係に基づいて、絞り値およびシャッタースピードを設定する制御手段と、設定された絞り値およびシャッタースピードで、撮像光学系を介して形成された光学像を光電変換して画像を出力する撮像手段とを有する。【選択図】図1

Description

本発明は、撮影画像の劣化を補正して高精細化する撮像装置に関する。
撮像光学系により撮影された被写体は、撮像光学系で発生する回折や収差等の影響により、1点から発生した光が1点に収束することができなくなるため微小な広がりを持つこととなる。このような微小な広がりを持った分布をPSF(点像強度分布関数)と呼ぶ。撮像光学系の影響のため、撮影された画像は、撮影画像にPSFが畳み込まれて形成されることになり、画像がぼけて解像度が劣化する。
近年、撮影画像を電子データとして保持することが一般的になり、画像処理によって光学系による画像劣化を補正する画像回復処理が提案されるようになった。しかし、手振れで撮影画像が劣化した場合や撮像光学系の収差が大きい場合、画像回復処理を効果的に行うこと困難である。また、ノイズが発生し易い高いISO感度で撮影した場合にも、画像回復処理によってノイズ増幅が顕著になり、高精細な画像を取得することは難しい。
特許文献1には、手振れによる画質劣化を抑えるため、手振れ補正を実施している場合にシャッタースピードを速くする構成が開示されている。
特開2007−19973号公報
しかしながら、撮像装置に画像回復処理機能を搭載しても、ユーザは画像回復処理をより効果的に実行するための条件(画像回復処理の効果を発揮するための撮影条件)を知らないため、意図的に画像補正を考慮した高品位な撮影画像を取得することは困難である。
この点に関し、特許文献1は、画像回復処理をより効果的に実行するための、撮像装置の焦点距離、F値、被写体距離などの撮影条件、および、シャッタースピードを考慮していない。すなわち特許文献1には、より効果的に画像回復処理を実行するための構成について記載されていない。
そこで本発明は、より効果的に画像回復処理を実行可能な撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体を提供する。
本発明の一側面としての撮像装置は、画像回復処理のための絞り値とシャッタースピードとの関係を記憶する記憶手段と、撮影条件および前記記憶手段に記憶された前記関係に基づいて、前記絞り値および前記シャッタースピードを設定する制御手段と、設定された前記絞り値および前記シャッタースピードで、撮像光学系を介して形成された光学像を光電変換して画像を出力する撮像手段とを有する。
本発明の他の側面としての撮像装置の制御方法は、画像回復処理のための絞り値とシャッタースピードとの関係を記憶する記憶手段を参照し、撮影条件および該記憶手段に記憶された該関係に基づいて、該絞り値および該シャッタースピードを設定するステップと、設定された前記絞り値および前記シャッタースピードで、撮像光学系を介して形成された光学像を光電変換して画像を出力するステップとを有する。
本発明の他の側面としてのプログラムは、画像回復処理のための絞り値とシャッタースピードとの関係を記憶する記憶手段を参照し、撮影条件および該記憶手段に記憶された該関係に基づいて、該絞り値および該シャッタースピードを設定するステップと、設定された前記絞り値および前記シャッタースピードで、撮像光学系を介して形成された光学像を光電変換して画像を出力するステップと、をコンピュータに実行させるように構成されている。
本発明の他の側面としての記憶媒体は、前記プログラムを記憶している。
本発明の他の目的及び特徴は、以下の実施例において説明される。
本発明によれば、より効果的に画像回復処理を実行可能な撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体を提供することができる。
実施例1における撮像装置の動作を示すフローチャートである。 実施例1における画像回復条件テーブルである。 実施例1における通常撮影モードおよび画像回復モードで用いられるプログラム線図である。 実施例2において、F値が小さい場合の像高別のMTFの一例を示す図である。 実施例2において、F値が大きい場合の像高別のMTFの一例を示す図である。 実施例2において、MTFの0落ちが発生しない領域決定の一例を示す図である。 実施例3における撮像装置のブロック図である。
以下、本発明の実施例について、図面を参照しながら詳細に説明する。
まず、本実施例における画像処理方法(画像回復処理)の概略について説明する。実空間(x,y)上で、光学系による劣化を受ける前の画像をf(x,y)、PSF(点像強度分布関数)をh(x,y)、劣化した画像をg(x,y)とすると、これらは以下の式(1)のように表される。
g(x,y)=∫∫f(X,Y)*h(x−X,y−Y)dXdY… (1)
式(1)にフーリエ変換を施し、実空間(x,y)から周波数空間(u,v)への変換を行うと、以下の式(2)の関係が成立する。
G(u,v)=F(u,v)*H(u,v) … (2)
ここで、F(u,v)はf(x,y)のフーリエ変換、G(u,v)はg(x,y)のフーリエ変換、H(u,v)はh(x,y)のフーリエ変換である。このため、以下の式(3)が成立する。
F(u,v)=G(u,v)/H(u,v) … (3)
式(3)は、周波数空間上で、劣化画像g(x,y)のフーリエ変換G(u,v)を点像強度分布関数h(x,y)のフーリエ変換H(u,v)で割ると、劣化を受ける前の画像f(x,y)のフーリエ変換F(u,v)が得られることを意味している。従って、F(u,v)にフーリエ逆変換を施せば、劣化をうける前の画像f(x,y)を得ることができる。
しかしながら、実際に、このような処理を行って劣化を受ける前の画像を得ようとすると、撮像素子によって生じたノイズが増幅し、また画像上に、細かい線状の信号または縞模様などの所謂リンギングを発生させる可能性が高くなる。このため、単純な逆特性で除算することにより良好な画像を得ることは困難である。
そこで、ノイズ増幅を抑制するための画像回復方法として、以下の式(4)で表されるウィナーフィルタW(u,v)を用いることが知られている。
W(u,v)=1/H(u,v)*|H(u,v)|/(|H(u,v)+Γ) … (4)
ここで、H(u,v)は光学伝達関数(OTF:Optical Transfer Function)であり、Γはノイズの増幅量を低減するための定数である。
式(4)を、劣化画像g(x,y)のフーリエ変換G(u,v)に乗算すれば、光学系の回折や収差により発生したPSFの位相成分を0にし、振幅成分の周波数特性を増幅することで、高解像度かつ良好な画像を得ることができる。すなわち、ウィナーフィルタを用いた画像回復処理により回復された画像の周波数空間情報をR(u,v)とすると、以下の式(5)が成り立つ。
R(u,v)=G(u,v)*W(u,v) … (5)
このような画像回復処理は、OTFであるH(u,v)を割り戻す方法であるから、撮像光学系の収差が余りにも大きい撮影条件で撮影した場合、H(u,v)が0に近い値をとる点が多くなり(所謂「0落ち」の問題が生じ)、良好な画像処理を行うことが難しい。同様に、手振れで取得画像が著しく劣化した場合においても、良好な画像処理を行うことが難しい。また、ノイズが発生し易い高いISO感度で撮影した場合にも、回復処理によってノイズ増幅が顕著になり、高精細な画像を取得することが困難になる。
式(5)において、|R(u,v)|が大きいほど画像回復処理後に高解像度の画像を取得できることになる。一般に、撮像光学系の光学特性は、撮影時の条件(撮影条件)に応じて変化する。このため、H(u,v)が0に近い値をとる点が多くなるような撮影条件では、リンギングなどの発生で画像に影響を与えないように、増幅率を抑えた処理を行うこととなる。従って、撮影条件によっては、|R(u,v)|があまり大きくならない。このとことは、換言すると、撮影条件によってリンギングなどの弊害を考慮して|R(u,v)|を制御することを意味する。
デジタルカメラで撮影した画像に画像回復処理を施す場合、理想的な回復処理は、撮像素子のナイキスト周波数以下の全帯域において、回復処理後のOTFが全て1となるような処理を施すことである。しかし、このような理想的な回復処理を施すと、前述のように、撮影条件によってはOTFの値が0近傍の値となる周波数帯域が存在し、その点の増幅率が異常に大きくなってしまう。このような場合、回復処理後の画像にリンギングなどの弊害を引き起こしやすくなり、かえって画像を劣化させてしまう。すなわち、理想的な回復処理は、撮像光学系、撮像素子などの製造誤差や、撮影時の外乱要件、撮像素子によって発生するノイズ等を考慮すると、現実的には困難である。従って、OTFの値が0近傍の周波数帯域には、大きな増幅率が発生しない様に抑えることが必要となる。このようなOTFの値が0近傍の値であることを、以後、周波数0落ちと称する。以下の各実施例は、このような問題を解決するように構成される。
まず、図1を参照して、本発明の実施例1における撮影動作について説明する。図1は、本実施例における撮像装置の動作(撮影動作)を示すフローチャートであり、画像回復処理に好適な撮影条件を自動的に設定する際のフローを示している。図1の各ステップは、例えば、撮像装置700の制御手段(システムコントローラ710)、画像処理手段(画像処理部704)、撮像手段(撮像素子702)、および、記憶手段(記憶部708)により実行される。
まずステップS101において、システムコントローラ710は、撮影モードとして画像回復モードが選択されたか否かを判定する。すなわちユーザは、撮影を開始する前に、画像回復処理を行う画像回復モード、または、画像回復処理を行わない通常撮影モードのいずれの撮影モードで撮影するかを選択する。本実施例において、例えばユーザが撮像装置700の操作手段(表示部705上に表示されたGUIなど)を操作することにより、画像回復モードまたは通常撮影モードから一つの撮影モードが選択される。なお本実施例において、画像回復モードおよび通常撮影モードに加えて、他の撮影モードを選択可能に構成することもできる。
ステップS101にて画像回復モードが選択された場合、ステップS102において、システムコントローラ710は撮影モードを画像回復モードに設定する。そしてステップS102においてユーザが撮影ボタンを半押しすると、ステップS103において、システムコントローラ710は、撮影ボタンの半押し状態における撮像光学系の焦点距離情報および被写体距離情報(または撮影距離情報)を取得する。
続いてステップS104において、システムコントローラ710は、画像回復条件テーブルを参照する。画像回復条件テーブルは、焦点距離(焦点距離情報)、被写体距離(被写体距離情報)、および、F値(絞り値)の関係を示すテーブルである。画像回復条件テーブルの詳細については後述する。そしてステップS105において、システムコントローラ710は、画像回復条件テーブルに基づいて、取得した焦点距離情報および被写体距離情報に対応するF値情報(絞り値情報)を取得する。そしてシステムコントローラ710は、取得したF値情報(F値)を撮影の際におけるF値(絞り値)として設定する。
続いてステップS106において、システムコントローラ710は、画像回復モード用に撮像装置の記憶部708に保持されているプログラム線図を用いてシャッタースピードを決定する。プログラム線図は、画像撮影モード用のEv値(露出値または被写体輝度)、F値、および、シャッタースピードの関係を示しており、その詳細については後述する。
続いてステップS107において、システムコントローラ710は、撮像素子702を制御して撮影を行う。そしてステップS108において、システムコントローラ710は画像処理部704を制御し、撮影画像に対して画像回復処理を施し、最終的な画像を取得する。続いてステップS114において、システムコントローラ710は、画像処理部704で処理された画像(最終的な画像)を表示部705に表示させ、または、画像記録媒体709に記録させる(画像出力)。なお本実施例において、画像回復処理は撮像装置の内部(画像処理部704)で行っているが、これに限定されるものではなく、別途コンピュータ上のソフトウエアを用いて画像回復処理を実行してもよい。
一方、ステップS101にて通常撮影モードが選択された場合、ステップS109において、システムコントローラ710は撮影モードを通常撮影モードに設定する。そしてステップS110においてユーザが撮影ボタンを半押しすると、システムコントローラ710は、ステップS111においてF値(絞り値)を設定し、ステップS112においてシャッタースピードを設定する。このときシステムコントローラ710は、一般的な絞り優先モードまたはシャッタースピード優先モードで、F値(絞り値)およびシャッタースピードを決定する。続いてステップS113において、システムコントローラ710は、撮像素子702を制御して撮影を行う。そしてステップS114において、システムコントローラ710は、撮影画像を表示部705に表示させ、または、画像記録媒体709に記録させる(画像出力)。
次に、図2を参照して、本実施例における画像回復条件テーブルについて説明する。図2は、画像回復条件テーブルの一例である。図2に示されるように、画像回復条件テーブルは、F値が焦点距離(焦点距離情報)と被写体距離(被写体距離情報)との組み合わせにより一意に決定されるテーブルである。この画像回復条件テーブルは、撮像光学系に固有のものであり、予め画像回復処理の効果が好適に発揮される撮影条件となるように組み合わせが決定されている。画像回復処理の効果が好適に発揮されるような撮影条件とは、以下の3つの条件を満たすことである。第一の条件は、撮像光学系の光学伝達関数(OTF)が撮像素子のナイキスト周波数付近まで残っている(OTFが0以上を維持する)ことである。第二の条件は、撮影時の手振れが小さいことである。第三の条件は、画像に大きなノイズが乗らないような低いISO感度で撮影することである。以下、前述の三つの条件を満たした際の効果について説明する。
まず、第一の条件および第二の条件を満たすことにより、OTFに周波数0落ちが発生しない、すなわち、ナイキスト周波数以下の全帯域においてOTFの絶対値(MTF値)が0より大きくなる。このため、リンギングなどの弊害を発生させずに、撮影画像に対して適切な増幅率で回復処理を施すことが可能となる。さらに第三の条件を満たすことにより、撮影画像に発生するノイズが小さくなり、回復処理によりノイズが増幅されたとしてもノイズ量としては大きくならない。このように、三つの条件を満たすことにより、リンギングやノイズなどの発生や増幅による弊害を抑制しつつ良好な回復処理を行うことが可能となる。
従って、これらの3つの条件を満たすように、焦点距離および被写体距離の組み合わせに対応するF値を決定する。第一の条件を満たすには、撮像光学系の収差が大きくなりすぎない撮影条件を(自動的に)設定する必要がある。ここで、ユーザが任意の被写体を撮影する場合、被写体距離および焦点距離はユーザが決定する。そのため、ユーザが決定した被写体距離および焦点距離に対して、収差が大きくなりすぎないF値が設定されるように画像回復条件テーブルを準備する。
また、例えば非常に近い位置にある被写体を撮影すると、ピント面に対する奥行き方向の微小変位が光学特性に大きな変化を与える場合がある。このような場合、効果的に回復処理を実行可能な領域が小さくなる。従って、収差量に加えて被写界深度を考慮して、最適なF値を決定することが好ましい。特にF値について、以下のような特性が知られている。すなわち被写体距離が近いと、撮像光学系の横倍率と物体側F値および像側F値との関係から、物体側F値が小さくなり、被写界深度が浅くなる。一方、被写体距離が遠いと、物体側F値が大きくなり、被写界深度が深くなる。
このため、絞りは、被写体距離が無限遠の場合に開放に設定され、至近側に近づくにつれて除々に絞っていくことが好ましい。ただし、絞りを小さく絞りすぎると、十分な露光量を得るためにシャッタースピードを遅くすることや、ISO感度を高く設定することが必要となる。この結果、手振れやノイズに弱くなる。従って、前述の第一の条件および第二の条件の両方を満たすには、F値は開放から例えばF8程度までの間に設定されることが好ましい。
このような観点において、図2(a)は画像回復処理時に最も効果を体感可能な撮影条件の一例を示す画像回復条件テーブルであり、図2(b)は被写界深度を優先した画像回復条件テーブルである。このように画像回復条件テーブルは、ユーザに推奨する撮影条件の組み合わせを表すものであり、撮像装置の中に効果別に複数種類の画像回復条件テーブルを保持しておくことが好ましい。
次に、図3を参照して、第一の条件および第二の条件を満たしながら、更に第三の条件を満たす手法について説明する。図3は、通常撮影モードおよび画像回復モードで用いられるプログラム線図である。プログラム線図は、被写体輝度を表すEv値(露出値)に応じて、F値およびシャッタースピードを一意に決定するように設計される。
図3(a)は、通常撮影モードで用いられるプログラム線図の一例を示している。一方、図3(b)、(c)は、画像回復モードで用いられるプログラム線図の一例を示している。図3(b)は、通常撮影モード用のプログラム線図である図3(a)と比較して、同一のEv値に関し、F値を小さくしてシャッタースピードを速くするようにシフト(変更)したプログラム線図である。本実施例では、図2に示される画像回復条件テーブルから取得したF値を用い、通常撮影モードと比較してシャッタースピードを高速に設定する。このため、手振れによる画像劣化が抑制され、ISO感度が低下し、ノイズを低減することができる。これにより、周波数情報が欠落して画像回復効果が著しく低下することやノイズ成分の増幅による画質の劣化を低減することが可能となる。
図3(c)は、Ev値1〜18の範囲内でのみ作動するように設定された、図3(b)と比較してシャッタースピードをより高速化したプログラム線図である。図3(c)のプログラム線図では、絞り値もF8までに制限されている。これにより、撮影後の画像回復処理の効果を最大に発揮させるようなプログラム線図となっている。本実施例では、画像回復モード用のプログラム線図として、通常撮影モード用のプログラム線図(図3(a))を単純にシフトさせたもの(図3(b))、および、Ev値を制限してシャッタースピードをより高速化させたもの(図3(c))を示している。ただし本実施例はこれらに限定されるものではなく、画像回復モード用のプログラム線図として他のプログラム線図を用いてもよい。
次に、本発明の実施例2について説明する。本実施例は、図2に示される画像回復条件テーブルの作成方法について詳述する。
画像回復処理において、理想的な回復は、撮像素子の全周波数にわたるOTFを1にすることである。しかしながら、一般的な撮像光学系のOTFは、その焦点距離、F値、被写体距離、および、像高位置に応じて変動し、撮影条件によってはOTFにおいて周波数0落ちが発生する場合がある。OTFの周波数0落ちの原因は、主に、収差や手振れによって引き起こされる。このような場合、絞りを絞ってF値を大きくすることにより、F値に依存する収差である球面収差やコマ収差などを低減させることができる。また、被写界深度を深くすることにより、手振れの影響を軽減し、OTFの絶対値(変調伝達関数:MTF)を上昇させることができる。一方、F値を大きくしすぎると、被写界深度は深くなるものの、シャッタースピードを遅くする必要があり、逆に手振れに弱くなる。このため、設定可能なF値を、例えばF8などの所定のF値以下に制限することが好ましい。
一般的に、撮像光学系により取得された光学像(PSF)の周波数特性(OTF)は、撮像面の中心で最も良好であり、周辺になるにつれて劣化する。
図4は、画像回復条件テーブルを作成するためのF値が小さい場合における像高別のMTFの一例を示す図であり、被写体距離100cm、焦点距離18mm、F2.8のときの撮像光学系の光学特性の評価位置およびMTFを示している。ここで、MTFはOTFの絶対値である。図4(a)は、撮像面上の光学特性の評価位置を示す。また、図4(a)中の点(b)、点(c)、点(d)の位置におけるMTFを、図4(b)、図4(c)、図4(d)にそれぞれ示す。図4(b)〜(d)において、実線はメリディオナル方向の特性を示し、破線はサジタル方向の特性を示す。また図4(b)〜(d)において、縦軸はMTFを示し、横軸は周波数(0〜ナイキスト周波数)を示す。
ここで、各位置のOTFの絶対値であるMTFと画像回復処理との関係について説明する。図4(b)に示されるように、中心像高(撮像面の中心)では、MTFが十分に残っている(ナイキスト周波数に至るまで全ての周波数帯域でMTFが0以上である)ため、画像回復処理を効果的に行うことができる。ただし、図4(b)のような中心像高においては、画像回復処理を行わずに十分に高精細な画像を取得することが可能である。
一方、図4(c)に示されるように、撮像光学系の5割〜6割程度の位置(撮像面の中心と最周辺との間の位置)では、MTFは撮像素子のナイキスト周波数の近傍で応答が0になるような特性を有する。このため、画像回復前の性能がそれほど良くはなく、画像のボケが生じる。このような位置の画像に回復処理を施すと、ナイキスト周波数の近傍の周波数帯域では、ほとんど回復効果はないが、低周波からナイキスト周波数の中間程度の帯域については十分に回復することができる。
また、図4(d)に示されるように、撮像面の最周辺の位置では、MTFは全体的に低く、さらに低周波領域での応答が0近傍の値をとっている。このような場合、回復処理を施してもMTFを微小量しか上昇させることができない。このため、回復処理を施しても回復前の画像との差異がほとんど感じられない。
このように、図4に示されるように、被写体距離100cm、焦点距離18mmの場合、F値2.8で撮影するのは画像回復処理の効果を最大限に発揮可能な撮影条件ではない。
図5は、画像回復条件テーブルを作成するためのF値が大きい場合における像高別のMTFの一例を示す図であり、F4のときの光学特性の評価位置およびMTFを示している。図5において、撮像光学系の焦点距離および被写体距離は図4の場合と同じである。
図5(b)に示されるように、中心像高(撮像面の中心)では、F2.8の場合(図4(b))と比較して、顕著な変化はないが、もともと周波数空間の全域で良好なMTFを有している。このため、画像回復処理で増幅可能な量が小さく、差異を感じることはほとんどない。一方、図5(c)は、図4(c)と比較すると、ナイキスト周波数の近傍まで0.2程度の周波数応答が残っており、全周波数帯域を十分に増幅することが可能である。また図5(d)は、図4(d)と比較すると、ナイキスト周波数付近では0近傍の値をとっているが、中間の周波数においては十分な応答があるため、この帯域で回復効果を出すことができる。
前述の方法は、撮影画像の全像高にわたってMTFの周波数0落ちを発生させないような条件におけるF値の決定方法であるが、このような条件でF値を決定すると、特定の撮像光学系においてはF値が大きくなりすぎる場合がある。このような場合、条件を緩和し、特定の像高範囲でMTFの周波数0落ちが発生しないようにすればよい。
続いて、図6を参照して、画像回復条件テーブルを作成する際に、MTFの0落ちが発生しない領域を決定する方法について説明する。図6は、画像回復条件テーブルを作成するための、MTFの0落ちが発生しない領域決定の一例を示す図である。図6には、撮像光学系のイメージサークルの最大半径R_max、および、MTF値が0よりも大きい値を示す(MTFの0落ちが発生しない)最大像高半径R_targetが示している。例えば、撮像光学系の8割程度まで良好な回復処理が行えればよい場合、R_target/R_max≦0.8においてMTFの0落ちを発生させないようなF値を決定すればよい。比率は、設計者の意図に応じて予め決定しておくことができ、または、撮影時にユーザが決定してもよい。
次に、図7を参照して、本発明の実施例3における撮像装置について説明する。図7は、本実施例における撮像装置700のブロック図である。撮像装置700は、図1を参照して説明した実施例1の撮影方法(画像処理方法)を実行可能である。
撮像装置700において、被写体(不図示)は、絞り701a(または遮光部材)およびフォーカスレンズ701bを含む撮像光学系701を介して撮像素子702に結像する。絞り値(F値)は、絞り701aまたは遮光部材により決定される。撮像素子702(撮像手段)は、撮像光学系701を介して形成された被写体像(光学像)を光電変換して画像(撮影画像)を出力する。撮像素子702から出力された撮影画像(結像光)は、電気信号に変換され、A/D変換器703に出力される。A/D変換器703は、撮像素子702から入力された電気信号(アナログ信号)をデジタル信号に変換し、デジタル信号を画像処理部704に出力する。
画像処理部704は、所定の処理と併せて、図1を参照して説明した撮影方法における画像処理(画像回復処理)を実行する。まず画像処理部704は、状態検知部707から撮像装置700の撮影条件(撮影条件情報)を取得する。撮像条件情報は、絞り値(F値)、撮影距離(被写体距離)、ズームレンズにおける焦点距離などを含む。状態検知部707は、システムコントローラ710から直接に撮像条件情報を取得可能であり、また、例えば撮像光学系701に関する撮像条件情報を撮像光学系制御部706から取得することもできる。記憶部708(記憶手段)は、撮影条件ごと(焦点距離、F値、撮影距離、像高、撮像素子702の画素サイズ、撮像光学系701の識別情報などの組み合わせごと)に、光学伝達関数情報(OTF情報)を記憶している。
画像処理部704で処理された出力画像(回復画像)は、画像記録媒体709に所定のフォーマットで記録される。表示部705には、本実施例における画像処理後の画像に表示用の所定の処理を行った画像が表示される。また表示部705は、高速表示のために簡易的な処理を行った画像を表示してもよい。また表示部705は、ユーザが画像回復モードまたは通常撮影モードを選択するためのGUIを表示する。表示部705のGUIを介して、ユーザにより画像回復モードが選択されると、システムコントローラ710は、図1を参照して説明した画像処理方法を実行するように画像処理部704を制御する。
撮像素子702は、撮像光学系701を介して形成された光学像を光電変換して画像(撮影画像)を出力する。このときシステムコントローラ710は、撮像光学系制御部706または状態検知部707から、シャッターボタン半押し時の、撮像光学系701の識別情報、撮影時の焦点距離、撮影距離、像高、および、撮像素子702の画素サイズなどの撮影条件を取得する。またシステムコントローラ710は、画像回復条件テーブルを参照してF値(絞り値)を取得し、絞り値を制御する。A/D変換器703は、撮像素子702から出力される光学像に対応したアナログ信号をデジタル信号に変換する。
画像処理部704は、画像回復条件テーブルを参照して決定された撮影条件におけるOTF情報に基づいて画像回復フィルタを生成し、撮影画像に画像回復処理を施して、画像回復処理済みの画像を出力する。画像処理部704には、撮影条件情報が付加された撮影画像を記録するための画像記録媒体709が接続されている。画像記録媒体709に記録された撮影画像の撮影時における撮影条件に対応するOTF情報は、前述のように記憶部708に記憶されている。システムコントローラ710は、CPUやMPUなどにより構成され、撮像装置全体の制御を司る。
本実施例において、撮像光学系701(レンズ装置)は、撮像装置700(撮像装置本体)と一体的に構成されているが、これに限定されるものではない。撮像光学系701は、一眼レフカメラなどの撮像装置本体に対して着脱可能に構成された交換レンズであってもよい。
[その他の実施形態]
本発明は、以下の処理を実行することによっても実現される。すなわち、上述した実施形態の機能を実現するソフトウエア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。この場合、撮像装置の制御方法の手順が記述されたコンピュータで実行可能なプログラムおよびそのプログラムを記憶した記憶媒体(図7の記憶媒体711)は本発明を構成する。
このように各実施例において、記憶手段(記憶部708)は、画像回復処理のための絞り値とシャッタースピードとの関係を記憶する。制御手段(システムコントローラ710)は、撮影条件および記憶手段に記憶された関係に基づいて、絞り値およびシャッタースピードを設定する。撮像手段(撮像素子702)は、設定された絞り値およびシャッタースピードで、撮像光学系701を介して形成された光学像を光電変換して画像を出力する。
好ましくは、制御手段は、通常撮影モードおよび画像回復モードを含む撮影モードから一つのモードを選択的に設定可能である。そして、画像回復モードの際に用いられるシャッタースピードは、通常撮影モードの際に用いられるシャッタースピードよりも速くなるように設定されている。また好ましくは、画像回復モードの際に用いられる絞り値は、通常撮影モードの際に用いられる絞り値よりも小さくなるように設定されている。
好ましくは、記憶手段は、撮影条件としての被写体距離および焦点距離の組み合わせに関連付けて、絞り値を記憶している。より好ましくは、絞り値として、第1の被写体距離に対して第1の絞り値が設定されており、第1の被写体距離よりも短い第2の被写体距離に対して、第1の絞り値よりも大きい第2の絞り値が設定されている。すなわち絞り値は、被写体距離が短くなるにつれて大きくなるように設定されている。
好ましくは、記憶手段は、被写体距離、焦点距離、および、絞り値の関係を示すテーブル(画像回復条件テーブル)と、露出値(Ev値)、絞り値、および、シャッタースピードの関係を示すプログラム線図とを記憶している。そして制御手段は、テーブルを参照して、被写体距離および焦点距離に基づいて絞り値を決定する。また制御手段は、プログラム線図を参照して、絞り値および露出値に基づいてシャッタースピードを決定する。より好ましくは、記憶手段は、露出値の範囲を所定の範囲(例えば、Ev値≦18)に制限した第2のプログラム線図(例えば図3(c))を記憶している。そして制御手段は、露出値が所定の範囲にある場合、例えば図3(b)のプログラム線図に代えて、第2のプログラム線図を参照してシャッタースピードを決定する。
好ましくは、絞り値は、所定の像高範囲においてMTF値が0より大きい値を示すように設定されている。例えば、撮像光学系のイメージサークルの最大半径R_maxと、MTF値が0より大きい値を示す最大像高半径R_targetとの関係は、R_target/R_max≦0.8を満たす。
各実施例によれば、より効果的に画像回復処理を実行可能な撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体を提供することができる。また、小型でありながら高精細な画像を取得可能な撮像装置を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
700 撮像装置
702 撮像素子
710 システムコントローラ

Claims (13)

  1. 画像回復処理のための絞り値とシャッタースピードとの関係を記憶する記憶手段と、
    撮影条件および前記記憶手段に記憶された前記関係に基づいて、前記絞り値および前記シャッタースピードを設定する制御手段と、
    設定された前記絞り値および前記シャッタースピードで、撮像光学系を介して形成された光学像を光電変換して画像を出力する撮像手段と、を有することを特徴とする撮像装置。
  2. 前記制御手段は、通常撮影モードおよび画像回復モードを含む撮影モードから一つのモードを選択的に設定可能であり、
    前記画像回復モードの際に用いられる前記シャッタースピードは、前記通常撮影モードの際に用いられる前記シャッタースピードよりも速くなるように設定されていることを特徴とする請求項1に記載の撮像装置。
  3. 前記画像回復モードの際に用いられる前記絞り値は、前記通常撮影モードの際に用いられる前記絞り値よりも小さくなるように設定されていることを特徴とする請求項2に記載の撮像装置。
  4. 前記記憶手段は、前記撮影条件としての被写体距離および焦点距離の組み合わせに関連付けて、前記絞り値を記憶していることを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記絞り値として、
    第1の被写体距離に対して第1の絞り値が設定されており、
    前記第1の被写体距離よりも短い第2の被写体距離に対して、前記第1の絞り値よりも大きい第2の絞り値が設定されている、ことを特徴とする請求項4に記載の撮像装置。
  6. 前記記憶手段は、
    前記被写体距離、前記焦点距離、および、前記絞り値の関係を示すテーブルと、
    露出値、前記絞り値、および、前記シャッタースピードの関係を示すプログラム線図と、を記憶しており、
    前記制御手段は、
    前記テーブルを参照して、前記被写体距離および前記焦点距離に基づいて前記絞り値を決定し、
    前記プログラム線図を参照して、前記絞り値および前記露出値に基づいて前記シャッタースピードを決定する、ことを特徴とする請求項4または5に記載の撮像装置。
  7. 前記記憶手段は、前記露出値の範囲を所定の範囲に制限した第2のプログラム線図を記憶しており、
    前記制御手段は、前記露出値が前記所定の範囲にある場合、前記第2のプログラム線図を参照して前記シャッタースピードを決定することを特徴とする請求項6に記載の撮像装置。
  8. 前記絞り値は、所定の像高範囲においてMTF値が0より大きい値を示すように設定されていることを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記撮像光学系のイメージサークルの最大半径をR_max、前記MTF値が0より大きい値を示す最大像高半径をR_targetとするとき、
    R_target/R_max≦0.8
    を満たすことを特徴とする請求項8に記載の撮像装置。
  10. 前記撮像手段から出力された前記画像に対して前記画像回復処理を行う画像処理手段を更に有することを特徴とする請求項1乃至9のいずれか1項に記載の撮像装置。
  11. 画像回復処理のための絞り値とシャッタースピードとの関係を記憶する記憶手段を参照し、撮影条件および該記憶手段に記憶された該関係に基づいて、該絞り値および該シャッタースピードを設定するステップと、
    設定された前記絞り値および前記シャッタースピードで、撮像光学系を介して形成された光学像を光電変換して画像を出力するステップと、を有することを特徴とする撮像装置の制御方法。
  12. 画像回復処理のための絞り値とシャッタースピードとの関係を記憶する記憶手段を参照し、撮影条件および該記憶手段に記憶された該関係に基づいて、該絞り値および該シャッタースピードを設定するステップと、
    設定された前記絞り値および前記シャッタースピードで、撮像光学系を介して形成された光学像を光電変換して画像を出力するステップと、をコンピュータに実行させるように構成されていることを特徴とするプログラム。
  13. 請求項12に記載のプログラムを記憶していることを特徴とする記憶媒体。
JP2014117507A 2014-06-06 2014-06-06 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 Active JP6333076B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014117507A JP6333076B2 (ja) 2014-06-06 2014-06-06 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体
US14/728,350 US9692970B2 (en) 2014-06-06 2015-06-02 Image pickup apparatus, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014117507A JP6333076B2 (ja) 2014-06-06 2014-06-06 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体

Publications (3)

Publication Number Publication Date
JP2015231193A true JP2015231193A (ja) 2015-12-21
JP2015231193A5 JP2015231193A5 (ja) 2017-07-20
JP6333076B2 JP6333076B2 (ja) 2018-05-30

Family

ID=54770576

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014117507A Active JP6333076B2 (ja) 2014-06-06 2014-06-06 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体

Country Status (2)

Country Link
US (1) US9692970B2 (ja)
JP (1) JP6333076B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5704476B1 (ja) * 2014-06-24 2015-04-22 株式会社ビジョナリスト デジタル写真分析装置及びデジタル写真分析プログラム
US10713501B2 (en) * 2015-08-13 2020-07-14 Ford Global Technologies, Llc Focus system to enhance vehicle vision performance

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005338614A (ja) * 2004-05-28 2005-12-08 Casio Comput Co Ltd 撮影装置及びそのプログラム
JP2005348196A (ja) * 2004-06-04 2005-12-15 Casio Comput Co Ltd カメラ装置、撮影関連情報の表示方法および撮影関連情報表示制御プログラム
JP2007300269A (ja) * 2006-04-28 2007-11-15 Seiko Epson Corp 露出補正装置、撮影装置、画像復元装置、露出値設定装置、露出補正値算出方法および制御プログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4370780B2 (ja) 2002-12-25 2009-11-25 株式会社ニコン ブレ補正カメラシステム、ブレ補正カメラ、画像回復装置及びブレ補正プログラム
JP2007019973A (ja) 2005-07-08 2007-01-25 Fujifilm Holdings Corp 撮像装置及び撮像方法
KR20080034508A (ko) * 2005-08-08 2008-04-21 요셉 러브너 적응형 노출 제어
KR101424717B1 (ko) * 2007-09-13 2014-08-01 삼성전자주식회사 노출 시간 설정 장치 및 방법
JP5391789B2 (ja) * 2008-06-27 2014-01-15 株式会社Jvcケンウッド 撮像装置及びそれに用いる露出制御方法
JP5523231B2 (ja) 2010-07-16 2014-06-18 オリンパス株式会社 撮像装置
US8395682B2 (en) * 2011-03-08 2013-03-12 Neal Solomon System and methods for image depth-of-field modulation

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005338614A (ja) * 2004-05-28 2005-12-08 Casio Comput Co Ltd 撮影装置及びそのプログラム
JP2005348196A (ja) * 2004-06-04 2005-12-15 Casio Comput Co Ltd カメラ装置、撮影関連情報の表示方法および撮影関連情報表示制御プログラム
JP2007300269A (ja) * 2006-04-28 2007-11-15 Seiko Epson Corp 露出補正装置、撮影装置、画像復元装置、露出値設定装置、露出補正値算出方法および制御プログラム

Also Published As

Publication number Publication date
US20150358563A1 (en) 2015-12-10
JP6333076B2 (ja) 2018-05-30
US9692970B2 (en) 2017-06-27

Similar Documents

Publication Publication Date Title
JP6327922B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP5709911B2 (ja) 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
US8849055B2 (en) Image processing apparatus and method
JP6045185B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5361976B2 (ja) 画像処理プログラム、画像処理方法、画像処理装置及び撮像装置
US8482627B2 (en) Information processing apparatus and method
US10192296B2 (en) Image pickup apparatus, camera system, and image processing apparatus that restore an image with a filter corresponding to an image pickup plane position
US8724008B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and program for performing image restoration
US10291899B2 (en) Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium for generating restored image
JP5653464B2 (ja) 撮像装置、画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP5712031B2 (ja) 撮像装置、撮影レンズユニット、および撮像ユニット
JP6333076B2 (ja) 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体
JP2012156716A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP6436840B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2015109681A (ja) 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置
JP6486076B2 (ja) 画像処理装置および画像処理方法
JP6433163B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2012156714A (ja) プログラム、画像処理装置、画像処理方法および撮像装置。
JP6238673B2 (ja) 画像処理装置、撮像装置、撮像システム、画像処理方法、画像処理プログラム、および、記憶媒体
US20240144536A1 (en) Image processing device, image processing method, and storage medium
JP7207893B2 (ja) 撮像装置、レンズ装置
JP6452389B2 (ja) 画像処理装置および画像処理方法
JP2015109562A (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP2017224906A (ja) 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム
JP2016201601A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170602

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170602

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180327

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180424

R151 Written notification of patent or utility model registration

Ref document number: 6333076

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151