JP6529879B2 - 撮像装置、及び撮像装置の制御方法 - Google Patents

撮像装置、及び撮像装置の制御方法 Download PDF

Info

Publication number
JP6529879B2
JP6529879B2 JP2015192027A JP2015192027A JP6529879B2 JP 6529879 B2 JP6529879 B2 JP 6529879B2 JP 2015192027 A JP2015192027 A JP 2015192027A JP 2015192027 A JP2015192027 A JP 2015192027A JP 6529879 B2 JP6529879 B2 JP 6529879B2
Authority
JP
Japan
Prior art keywords
image
projection
imaging device
exposure time
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015192027A
Other languages
English (en)
Other versions
JP2017069706A (ja
Inventor
仁司 土屋
仁司 土屋
佐藤 知之
知之 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2015192027A priority Critical patent/JP6529879B2/ja
Priority to US15/277,428 priority patent/US9813686B2/en
Priority to CN201610862446.4A priority patent/CN107018308A/zh
Publication of JP2017069706A publication Critical patent/JP2017069706A/ja
Application granted granted Critical
Publication of JP6529879B2 publication Critical patent/JP6529879B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Image Processing (AREA)

Description

本発明は、撮像装置、及び撮像装置の制御方法に関する。
撮像装置の姿勢変化に伴って生じる撮像面上の被写体像のブレの量(像移動量)を検出し、検出した像移動量を打ち消す撮像装置が実用化されている。このような撮像装置は、例えば、撮像面と被写体像との位置関係を補正する光学式ブレ補正、または有効領域を撮像面上で移動させる電子式ブレ補正などによって、撮像装置の姿勢変化に伴う像ブレを補正する。
光学式ブレ補正は、例えば、像ブレを打ち消す方向に移動可能に構成された補正光学系を備える撮像レンズにより像ブレを補正するレンズシフト式ブレ補正、及び撮像レンズの光軸に対して直交する方向に移動可能に構成された撮像面を備える撮像素子により像ブレを補正するイメージセンサシフト式ブレ補正などの方式がある。また、電子式ブレ補正では撮像装置は、撮像面上の画像を取得可能な有効領域を撮像面上で移動させることにより像ブレを補正する。
特開2014−053720号公報
さらに、適正な露光時間(シャッタースピード)よりも速いシャッタースピードで連写した複数枚の画像データを加算合成することによって像ブレを防ぐ為の撮影方法が実用化されている。このような撮影方法では、連写により得られた各画像データの位置合わせを行った上で、加算合成を行う。しかし、等距離射影方式を除く中心射影方式または等立体角射影方式などの撮像レンズによって撮像素子に結像された被写体像は、撮像面上の像の長さ(像高)に対する入射角が撮像面上において一様ではない。即ち、中心射影方式または等立体角射影方式などでは、撮像レンズに入射した光の入射角の変化に対して、撮像面上での被写体像の像移動量が一様ではない。特に、焦点距離が短い(広角の)中心射影式の撮像レンズによって撮像素子に結像された被写体像は、光軸からの距離に応じてある入射角に対する像高の差が大きくなる。この為、連写により得られた画像データの被写体像の位置を一律の移動量で移動させて他の画像データの被写体像の位置に合わせたとしても、被写体像の位置が一致しない箇所が生じる可能性がある。この結果、画角の全域に亘って適切に画像合成を行うことができない可能性がある。
本発明は、適切に画像合成を行うことができる撮像装置及び撮像装置の制御方法を提供することである。
一実施形態に係る撮像装置は、撮像素子と、撮影光学系と、撮像制御部と、第1の射影変換部と、合成部と、第2の射影変換部と、を具備する。撮像素子は、光を電気信号に変換する画素が配列された撮像面を備える。撮影光学系は、前記撮像面に、中心射影方式である第1の射影方式の被写体像を結像させる。撮像制御部は、前記撮像素子により前記被写体像に応じた第1の射影画像を複数取得する第1の射影変換部は、複数の前記第1の射影画像を、前記撮影光学系への光の入射角の変化量に対する前記撮像面上での像高の変化量のばらつきが前記第1の射影画像よりも小さい、等距離射影方式である第2の射影方式の画像である複数の第2の射影画像にそれぞれ変換する。合成部は、複数の前記第2の射影画像を合成して合成画像を取得する。第2の射影変換部は、前記合成画像を前記第2の射影方式とは異なる射影方式の画像に変換する。
適切に画像合成を行うことができる撮像装置及び撮像装置の制御方法を提供することができる。
図1は、一実施形態に係る撮像装置の構成例について説明する為の図である。 図2は、一実施形態に係る撮像装置のブレ補正マイコンの構成例について説明する為の図である。 図3は、等距離射影方式の光学系における入射角と像高との関係を示す図である。 図4は、一実施形態に係る撮像装置の動作の例について説明する為の図である。 図5は、一実施形態に係る撮像装置における露出条件を決定する動作の例について説明する為の図である。 図6Aは、中心射影から等距離射影に画像を変換する例について模式的に示す説明図である。 図6Bは、等距離射影から中心射影に画像を変換する例について模式的に示す説明図である。 図7Aは、一実施形態に係る撮像装置における広角長秒撮影の画像処理について説明する為の説明図である。 図7Bは、一実施形態に係る撮像装置における広角長秒撮影の画像処理について説明する為の説明図である。 図7Cは、一実施形態に係る撮像装置における広角長秒撮影の画像処理について説明する為の説明図である。 図7Dは、一実施形態に係る撮像装置における広角長秒撮影の画像処理について説明する為の説明図である。 図8は、他の実施形態に係る撮像装置の構成例について説明する為の図である。 図9は、他の実施形態に係る撮像装置の動作の例について説明する為の図である。 図10は、他の実施形態に係る撮像装置における露出条件を決定する動作の例について説明する為の図である。 図11は、他の実施形態に係る撮像装置の構成例について説明する為の図である。
以下、図を参照しながら、一実施形態に係る撮像装置、及び撮像装置の制御方法について詳細に説明する。
(第1の実施形態)
以下図1乃至図7を用いて第1の実施形態に係る撮像装置1の例について説明する。図1は、撮像装置1の構成例を示す。撮像装置1は、適正露光時間を決定し、適正露光時間より短い露光時間で連写を行って取得した複数の画像を合成して合成画像を生成する。これにより、撮像装置1は、適正な露出の画像を適正露光時間より早いシャッタースピードで取得することにより、像ブレを低減することができる。
撮像装置1は、上記のように画像処理により像ブレを低減する像ブレ防止処理を実行可能なレンズ交換式カメラである。撮像装置1は、交換レンズ2及びカメラ本体3を備える。
交換レンズ2は、カメラ本体3に対して着脱自在に構成されている。交換レンズ2は、カメラ本体3に装着された場合にカメラ本体3と互いに通信可能な状態で接続される。これにより、交換レンズ2とカメラ本体3とは協働して動作する。交換レンズ2は、光学系11、変倍部12、及びレンズコントロールユニット(LCU)13を備える。
光学系11は、中心射影方式の撮像レンズである。光学系11は、図示しない被写体からの光束をカメラ本体3の撮像素子21の撮像面上に結像させる。光学系11は、例えば、複数のレンズと、レンズを介して撮像素子21に入射する光束の量を調整する絞りと、光学系11の焦点距離を変更する為のレンズ(ズームレンズ)14と、を備える。光学系11は、ズームレンズ14の位置を光学系11の光軸方向に移動させることによって光学系11の焦点距離(画角)を変更する。さらに、光学系11は、ピント位置を変更する為の合焦用のフォーカスレンズをさらに備える構成であってもよい。なお、光学系11は、等距離射影方式を除く他の射影方式の撮像レンズであれば、如何なるものであってもよい。
変倍部12は、ズームレンズ14の位置を変更する為の機構である。変倍部12は、例えば、交換レンズ2の外周に設けられたズームリングを備え、ズームリングの操作に応じてズームレンズ14の位置を変更することにより、光学系11の画角を変更する。
LCU13は、例えば、CPU、及びメモリなどを含むコントローラであり、交換レンズ2の動作を制御する。例えば、LCU13は、カメラ本体3のシステムコントローラ23からの指示に応じて、光学系11のレンズ、及び絞りの駆動を制御する。また、LCU13は、システムコントローラ23からの指示に応じて、ズームレンズ14の位置を変更することにより、光学系11の画角を変更してもよい。
LCU13は、交換レンズ2に関する種々の情報(光学特性情報)をメモリに保持する。LCU13は、例えば、光学特性情報として、交換レンズ2の機種名、焦点距離、ズーム位置の数(ズームレンズ14を停止可能な位置の数)、射影方式、及び光学系11の現在の設定を示す情報等をメモリに保持する。LCU13は、システムコントローラ23からの指示に応じて、メモリに記憶されている光学特性情報をカメラ本体3に供給する。
カメラ本体3は、撮像素子21、ブレ補正部22、システムコントローラ23、ブレ補正マイクロコンピュータ(マイコン)24、ジャイロセンサ25、電子ビューファインダ(EVF)26、記録媒体27、及び操作部28を備える。
撮像素子21は、光を光電変換し電荷を蓄える画素が複数配列されて構成された撮像面を備える。撮像素子21は、例えば、Charge Coupled Devices(CCD)イメージセンサ、Complementary Metal Oxide Semiconductor(CMOS)イメージセンサ、または他の撮像素子により構成される。撮像素子21は、光学系11によって撮像面上に結像された被写体像を電気信号(画像信号)に変換する。撮像素子21は、アナログ電気信号である画像信号をディジタル信号である画像データに変換して出力する。
ブレ補正部22は、ブレ補正マイコン24で生成される駆動信号に応じて撮像素子21の撮像面を光学系11の光軸と直交する面内で移動させることにより、撮像装置1の姿勢変化に伴って生じる撮像面上の被写体像のブレを補正する。
システムコントローラ23は、例えばCPU、及びメモリなどを含み、カメラ本体3の動作を制御するコントローラである。例えば、システムコントローラ23は、撮像素子21で得られた画像データを読み出し、読み出した画像データに対して表示や記録に必要な各種の画像処理を施す。また、システムコントローラ23は、交換レンズ2のLCU13に対し、露出調整のための絞りの駆動やピント調整のためのレンズの駆動を指示する。また、システムコントローラ23は、EVF26における画像表示の制御、記録媒体27への画像ファイルの記録の制御、操作部28の操作に従って動作モードを切り替える制御、及び撮影動作の開始又は終了の制御などを行う。
また、システムコントローラ23は、交換レンズ2から光学特性情報を取得する。例えば、システムコントローラ23は、起動時、及び/または定期的に交換レンズ2から光学特性情報を取得することにより、交換レンズ2の光学特性を逐次認識する。システムコントローラ23は、取得した光学特性情報をブレ補正マイコン24に入力する。
また、システムコントローラ23は、第1の射影変換部31、合成部32、及び第2の射影変換部33を備える。
第1の射影変換部31は、撮像素子21から読み出した画像データの射影方式を変換する射影変換を行う。第1の射影変換部31は、第1の射影画像(ここでは中心射影画像)を、光学系11への光の入射角の変化量に対する撮像面上での像高の変化量のばらつきが第1の射影画像よりも小さい第2の射影方式(ここでは等距離射影画像)である第2の射影画像に変換する。即ち、第1の射影変換部31は、撮像素子21から読み出した画像データを、光軸中心における入射角の変化量に対する像高の変化量と、光軸中心から離れた位置における入射角の変化量に対する像高の変化量と、の差がより小さい射影方式の画像データに変換する。具体的には、第1の射影変換部31は、撮像素子21から読み出した中心射影方式の画像データを等距離射影方式の画像データに変換する。
合成部32は、第1の射影変換部31により射影方式が変換された複数の画像データを合成し、合成画像を取得する。例えば、合成部32は、第1の射影変換部31により等距離射影方式に変換された複数の画像データを合成し、等距離射影方式の合成画像を取得する。
第2の射影変換部33は、合成部32により合成された合成画像の射影方式を変換する射影変換を行う。第2の射影変換部33は、合成部32により合成された合成画像の射影方式をファイル化して記録する射影方式に変換する。例えば、第2の射影変換部33は、合成部32により合成された合成画像の射影方式を元の射影方式に戻す。即ち、第2の射影変換部33は、等距離射影方式の合成画像を元の射影方式である中心射影方式の合成画像に戻す。なお、第2の射影変換部33は、合成部32により合成された合成画像の射影方式を元の射影方式ではない他の射影方式に変換する構成であってもよい。
システムコントローラ23は、第1の射影変換部31、合成部32、及び第2の射影変換部33により像ブレ防止処理としての広角長秒撮影を行う。広角長秒撮影を行う場合、システムコントローラ23は、撮像素子21による露光結果に基づいて適正露出が得られる適正露光時間を認識し、適正露光時間よりも短い露光時間で連続して複数枚の画像データを取得する連写を行う。システムコントローラ23は、連写により得られた複数枚の画像データの射影方式を第1の射影変換部31により射影変換する。システムコントローラ23は、第1の射影変換部31により射影変換した複数枚の画像データを合成して合成画像を取得する。システムコントローラ23は、合成部32により合成した合成画像を第2の射影変換部33により射影変換することにより、任意の射影方式の画像データを取得する。
ブレ補正マイコン24は、像ブレ補正(手ブレ補正)に関する制御を行うマイクロコンピュータである。ブレ補正マイコン24は、ジャイロセンサ25から角速度信号を取得し、システムコントローラ23から交換レンズ2の光学特性情報を取得する。ブレ補正マイコン24は、取得した角速度信号及び光学特性情報に基づいてブレ補正部22を制御することにより、像ブレを補正する。例えば、ブレ補正マイコン24は、取得した角速度信号及び光学特性情報に基づいて撮像面上での被写体像の像ブレの方向と像移動量とを算出する。ブレ補正マイコン24は、算出した像ブレの方向と像移動量とに応じて像ブレを打ち消す方向に撮像面を移動させるようにブレ補正部22を制御することにより、像ブレを補正する。即ち、ブレ補正マイコン24は、光学系11により撮像面上に結像された被写体像と撮像面との位置関係を調整することにより、像ブレを補正する。
ジャイロセンサ25は、カメラ本体3の姿勢の変化に伴って生じるカメラ本体3の回転運動を角速度信号として検出する。ジャイロセンサ25は、例えば、撮像素子21の撮像面の水平方向を軸としたピッチ方向における回転運動、及び撮像面の垂直方向を軸としたヨー方向における回転運動を検出し、角速度信号を生成する。さらに、ジャイロセンサ25は、光学系11の光軸を軸としたロール方向における回転運動を検出し、角速度信号を生成する。
EVF26は、種々の画面を表示する。EVF26は、例えば液晶ディスプレイ、または有機ELディスプレイなどの表示装置と、接眼光学系と、を備える。EVF26は、システムコントローラ23によって生成された画面を表示装置に表示する。これにより、EVF26は、撮像素子21により撮像された画像、及び設定の為のメニュー画面などを表示装置に表示することができる。なお、EVF26は、上記のようにファインダ接眼部内に設けられた表示装置によって構成されていてもよいし、カメラ本体3に設けられた表示パネルによって構成されていてもよい。
記録媒体27は、画像ファイルを記録する記録媒体である。記録媒体27は、例えばメモリカードである。
操作部28は、ユーザーによって操作される操作部材を備える。例えば、操作部28は、操作部材としてレリーズボタン、及び動画記録ボタンなどを備える。レリーズボタンは、カメラ本体3による静止画撮影処理を実行させる為のボタンである。また、動画記録ボタンは、カメラ本体3に動画記録処理を実行させる為のボタンである。またさらに、操作部28は、カメラ本体3の動作モード、または露出制御などの種々の設定を変更する為のボタンを操作部材として備えていてもよい。例えば、操作部28は、第1の射影変換部31、合成部32、及び第2の射影変換部33による画像合成の実施/非実施の設定を変更する為のボタンを操作部材として備えていてもよい。
次に、ブレ補正マイコン24の詳細について説明する。図2は、ブレ補正マイコン24の構成の例を示す図である。図2に示すように、ブレ補正マイコン24は、アナログデジタル変換器(ADC)41と、基準値減算部42と、補正量算出部43と、ブレ補正制御部44とを備える。図2に示した構成により、撮像面における1方向の像ブレ補正の制御を行うことができる。即ち、ブレ補正マイコン24は、像ブレ補正を行う方向毎に図2に示す構成を備えることにより、複数の方向の像ブレ補正の制御を行うことができる。ここでは、説明を簡単にするためにブレ補正マイコン24の1方向の像ブレ補正の制御について説明する。
ADC41は、ジャイロセンサ25から出力されたアナログの角速度信号をディジタル信号に変換し、ディジタルの角速度を出力する。
基準値減算部42は、ADC41から出力された角速度信号の値から基準値を減算する。基準値は、カメラ本体3が静止状態であるときの角速度信号の値である。ADC41の出力から基準値を減算することにより、基準値減算部42は、符号を持った角速度の値を出力する。このとき、角速度の値の符号は、回転方向を示すことになる。
補正量算出部43は、システムコントローラ23から供給された光学系11の光学特性情報と、基準値減算部42から出力された角速度の値と、に基づいて、カメラ本体3の姿勢変化に伴って生じる撮像面上の被写体像のブレの量である像移動量と、像ブレの方向と、を算出する。例えば、補正量算出部43は、システムコントローラ23から供給された光学系11の光学特性情報に基づいて、対角画角(焦点距離)と射影方式とを認識する。補正量算出部43は、対角画角と射影方式とに基づいて、入射角の変化に応じた撮像面上での被写体像の像移動量及び像ブレの方向を算出し、算出した像移動量及び像ブレの方向を補正量として出力する。
図3は、上記したような中心射影方式及び等距離射影方式の光学系に光が入射した際の入射角と像高(ここでは光軸中心からの位置)との関係を示す図である。なお、ここでの光軸中心とは、光学系の光軸と交わる撮像素子21の撮像面上における位置のことを言う。
中心射影方式は、例えば一般的な撮像レンズである。中心射影方式のレンズでは、例えば、光学系の焦点距離をfとした場合、像高hと焦点距離fと入射角θとの間には、h=f・tanθの関係が成り立つ。この為、中心射影方式では、光軸中心における入射角の変化量に対する像高の変化量よりも、光軸中心から離れた位置における入射角の変化量に対する像高の変化量が大きい。補正量算出部43は、基準値減算部42から出力された角速度に基づいて、入射角の変化量であるΔθを算出する。さらに、入射角の変化に伴う像移動量をΔhとすると、補正量算出部43は、Δh=f・tanΔθに基づいて像移動量Δhを算出する。
等距離射影方式は、例えば所謂魚眼レンズと呼ばれる光学系に用いられる。等距離射影方式のレンズでは、入射角θと像高hとが比例する。例えば、光学系11の焦点距離をfとした場合、像高hと焦点距離fと入射角θとの間には、h=f・θの関係が成り立つ。この為、等距離射影方式では、光軸中心における入射角の変化量に対する像高の変化量と、光軸中心から離れた位置における入射角の変化量に対する像高の変化量とが同じである。即ち、等距離射影方式では、光軸中心における入射角の変化量に対する像高の変化量と、光軸中心から離れた位置における入射角の変化量に対する像高の変化量と、の差が中心射影方式よりも小さい。補正量算出部43は、基準値減算部42から出力された角速度に基づいて、入射角の変化量であるΔθを算出する。さらに、入射角の変化に伴う像移動量をΔhとすると、補正量算出部43は、Δh=f・Δθに基づいて像移動量Δhを算出する。
ブレ補正制御部44は、補正量算出部43から出力された補正量に応じてブレ補正部22を制御する。ブレ補正制御部44は、補正量算出部43から出力された補正量が示す像移動量及び像ブレの方向に基づいて、被写体像のブレを打ち消すようにブレ補正部22を動作させる為の駆動信号を生成する。ブレ補正制御部44は、駆動信号をブレ補正部22に対して入力することによりブレ補正部22における像ブレ補正を制御する。駆動信号は、ブレ補正部22に設けられたモータを駆動するための駆動パルス又はブレ補正部22による像ブレ補正の目標駆動位置といった情報を含む信号である。
以下、図4乃至図7を用いて本実施形態における撮像処理について説明する。
図4は、広角長秒撮影を行う際の撮像装置1の動作を示すフローチャートである。図5は、露出条件決定処理を行う際の撮像装置1の動作を示すフローチャートである。図6Aは、中心射影から等距離射影に画像を変換する例について模式的に示す説明図である。図6Bは、等距離射影から中心射影に画像を変換する例について模式的に示す説明図である。図7A、図7B、図7C、及び図7Dは、広角長秒撮影における画像処理について説明する為の説明図である。
カメラ本体3のシステムコントローラ23は、所定の条件が揃った場合に広角長秒撮影を実行する。例えば、システムコントローラ23は、光学系11の焦点距離が広角(例えば所定の焦点距離未満)である場合に図4に示される広角長秒撮影を実行する。なお、図4では、広角長秒撮影に関する動作について示しているが、手ブレ補正に関わる制御、及び撮像素子21の露光制御などが並行して実行されている。
広角長秒撮影を実行する場合、カメラ本体3のシステムコントローラ23は、交換レンズ2による自動合焦の制御、及び撮像素子21による露光制御などの制御を行うことにより、撮像素子21により露光を実行させる。システムコントローラ23は、撮像素子21による露光の結果に基づいて、露光時間、及び連写枚数などの露出条件を決定する(ステップS11)。
システムコントローラ23は、撮像素子21による露光の結果に基づいて、まず適正露出が得られる露光時間(適正露光時間)を算出する。さらに、システムコントローラ23は、像ブレを抑えることができる露光時間(許容露光時間)を算出する。システムコントローラ23は、許容露光時間で露光を行った場合に得られる画像を合成する場合に、適正露出を得る為に必要な合成枚数を算出する。システムコントローラ23は、合成枚数分の画像を取得するように連写枚数を決定する。
撮像素子21における露光が完了すると、システムコントローラ23は、映像の読み出しを行う(ステップS12)。上記したように、光学系11が中心射影方式で構成されたレンズである場合、システムコントローラ23は、中心射影方式の画像データ61を撮像素子21から取得する。
システムコントローラ23の第1の射影変換部31は、ステップS12で取得した中心射影方式の画像データ61を等距離射影方式の画像データ62に変換する(ステップS13)。即ち、第1の射影変換部31は、中心射影方式の画像データ61を等距離射影変換する。
図6Aに示されるように、中心射影方式によると、像高hと焦点距離fと入射角θとの間には、h=f・tanθの関係が成り立つ。また、等距離射影方式によると、像高hと焦点距離fと入射角θとの間には、h=f・θの関係が成り立つ。中心射影方式の画像データ61を等距離射影方式の画像データ62に変換する場合、第1の射影変換部31は、システムコントローラ23により取得した光学特性情報に基づいて、中心射影方式の画像データ61の各像点に対応する入射角θを認識する。例えば、第1の射影変換部31は、光学特性情報が示すズームポジションに応じて、光学系11の焦点距離を認識する。第1の射影変換部31は、光学系11の焦点距離に応じて、各像点に対応する入射角θを認識する。
第1の射影変換部31は、焦点距離に応じて決まる画像データ61の対角画角から、各像点に対応する入射角θを算出する。即ち、第1の射影変換部31は、光学系11の光学特性情報に基づいて対角画角を取得し、取得した対角画角に基づいて、各像点に対応する入射角θを算出する。
第1の射影変換部31は、等距離射影変換を行う場合、画像データ61上の光学系11の光軸中心の位置を中心として各像点の座標を変換する。例えば、図6Aに示されるように、第1の射影変換部31は、中心射影方式の画像データ61においてh=f・tanθの位置にある各像点をf・θの位置に座標変換することにより、中心射影方式の画像データ61を等距離射影方式の画像データ62に変換する。
なお、第1の射影変換部31は、中心射影方式の画像データ61を等距離射影方式の画像データ62に変換するのではなく、中心射影方式の画像データ61を他の射影方式の画像データに変換する構成であってもよい。
システムコントローラ23は、連写が終了したか否か判断する(ステップS14)。例えば、システムコントローラ23は、ステップS11で決定した連写枚数分だけ連写を行ったか否か判断する。連写が終了していないと判断した場合(ステップS14、NO)、システムコントローラ23は、ステップS12の処理に移行する。これにより、システムコントローラ23は、ステップS11で決定した連写枚数分だけ連写を行うまでステップS12乃至S14の処理を繰り返す。
上記のステップS12乃至ステップS14の処理を繰り返し実行することにより、システムコントローラ23は、図7Aに示されるように複数の中心射影の画像データ61を取得する。また、システムコントローラ23は、複数の中心射影の画像データ61をそれぞれ等距離射影変換することにより、図7Bに示されるように複数の等距離射影の画像データ62を取得する。
ステップS14で連写が終了したと判断した場合(ステップS14、YES)、システムコントローラ23の合成部32は、画像合成を行って合成画像63を取得する(ステップS15)。システムコントローラ23は、ステップS13で変換された複数の等距離射影の画像データ62を合成して図7Cに示される1枚の合成画像63を取得する。システムコントローラ23は、例えば、複数の画像データ62の間でパターンマッチング等の画像合成技術を用いることによって位置合わせをした上で合成する。具体的には、システムコントローラ23は、位置合わせを行った複数の画像データ62を加算合成することにより、等距離射影の合成画像63を取得する。
さらに、システムコントローラ23の合成部32は、合成画像63をトリミングする(ステップS16)。例えば、システムコントローラ23は、複数の画像データ62の全てが重なった領域を合成画像63上に切り出し領域64として設定し、設定した切り出し領域64をトリミングする。また、切り出し領域64は、予め設定される構成であってもよい。切り出し領域64は、中心が光学系11の光軸と重なるものであれば、どのように設定されるものであってもよい。
システムコントローラ23の第2の射影変換部33は、ステップS16でトリミングした等距離射影方式の合成画像63を中心射影方式の画像データ65に変換し(ステップS17)、広角長秒撮影を終了する。即ち、第2の射影変換部33は、図7Dに示されるように、等距離射影方式の合成画像63を元の射影方式である中心射影方式に変換することにより、適正露光時間より短い露光時間で、適正な露出の画像データ65を得ることができる。
等距離射影方式の合成画像63を中心射影方式の画像データ65に変換する場合、第2の射影変換部33は、等距離射影方式の合成画像63の各像点に対応する入射角θを認識する。第2の射影変換部33は、合成画像63上の光学系11の光軸中心の位置を中心として各像点の座標を変換する。例えば、図6Bに示されるように、第2の射影変換部33は、等距離射影方式の合成画像63においてh=f・θの位置にある各像点をf・tanθの位置に座標変換することにより、等距離射影方式の合成画像63を中心射影方式の画像データ65に変換する。
システムコントローラ23は、上記の処理によって得られた画像データ65を記録用の画像フォーマットに変換することによって、記録用の画像ファイルを生成する。システムコントローラ23は、画像ファイルを記録媒体27に記録する。
次に、図5を用いて露出条件決定処理について説明する。
まず、システムコントローラ23は、AE制御により、適正露出が得られる、撮像素子21の感度、露光時間、及び絞り値を決定する(ステップS21)。システムコントローラ23は、撮像素子21による露光の結果に基づいて、感度、露光時間、及び絞り値を決定する。即ち、システムコントローラ23は、撮像素子21による露光の結果を露出条件決定処理用の参照画像として撮像素子21から取得し、参照画像に基づいて感度、露光時間、及び絞り値を決定する。露出条件は、手ブレ補正が有効か否かによって異なる。
なお、システムコントローラ23は、撮像素子21の感度、露光時間、及び絞り値のうちのいずれかまたは複数がマニュアル操作によって指定されている場合、指定された値に決定する。例えば、システムコントローラ23は、露光時間が指定されている場合、指定された露光時間に対応した感度及び絞り値を決定する。また、システムコントローラ23は、絞り値が指定されている場合、指定された絞り値に対応した感度及び露光時間を決定する。
システムコントローラ23は、手ブレ補正が有効かを判断する(ステップS22)。即ち、システムコントローラ23は、ブレ補正マイコン24及びブレ補正部22による像ブレ補正を行う設定になっているか否か判断する。
ステップS22で手ブレ補正が有効であると判断した場合(ステップS22、YES)、システムコントローラ23は、水平画角誤差量を算出する(ステップS23)。水平画角誤差量は、画角の中心における像移動量と画角の周辺(例えば縁部)における像移動量との水平方向での差である。システムコントローラ23は、例えば、光学系11の焦点距離をfとし、入射角のブレ量をΔθとした場合、入射角θの像点における水平画角誤差量をftan(θ+Δθ)―ftanΔθに基づいて算出する。例えば、システムコントローラ23は、参照画像から水平画角誤差量を算出する。この差分は、中心射影方式の光学系11により結像された被写体像のブレ量に応じた像移動量が、画角の中心と画角の周辺とで異なることに起因するブレ補正部22によるブレ補正のブレ残りである。
システムコントローラ23は、水平画角誤差量と、光学系11の焦点距離と、基準ブレ量と、に基づいて、許容露光時間を算出する(ステップS24)。許容露光時間は、水平画角誤差量が基準ブレ量以下になる露光時間である。基準ブレ量は、例えば手持ち撮影時の標準的なブレ量であり、例えば1ピクセル以下であってもよいし、撮影モードに応じたピクセル数であってもよい。例えば、システムコントローラ23は、ステップS23において比較に用いた参照画像の露光時間を認識し、露光時間に応じたブレ量を認識する。システムコントローラ23は、露光時間に応じたブレ量を逆算することにより、ブレ量が基準ブレ量以下になる露光時間を許容露光時間として算出する。
また、ステップS22で手ブレ補正が有効ではないと判断した場合(ステップS22、NO)、システムコントローラ23は、光学系11の焦点距離に基づいて許容露光時間を推定する(ステップS25)。一般的に35mm判換算の焦点距離をfとした場合に1/fよりも短い露光時間であれば手ブレが発生しないとされている。例えば、システムコントローラ23は、光学系11の焦点距離に基づいて1/fを許容露光時間として推定する。また、例えば、システムコントローラ23は、光学系11の焦点距離に基づいて1/(2・f)を許容露光時間として推定する構成であってもよい。少なくとも、システムコントローラ23は、光学系11の焦点距離に基づいて許容露光時間を推定する構成であれば如何なる構成であってもよい。
システムコントローラ23は、許容露光時間を算出または推定すると、撮影枚数を決定する(ステップS26)。例えば、システムコントローラ23は、許容露光時間で取得した画像を何枚合成すれば適正露出が得られるか判断する。例えば、合成手法が加算合成である場合、システムコントローラ23は、適正露光時間を許容露光時間で割った数を撮影枚数として決定する。なお、適正露光時間が許容露光時間で割り切れない場合、システムコントローラ23は、切り上げして画像の露出を画像処理によって下げる、または切り下げして画像の露出を画像処理によってあげる。
以上のステップS21乃至S26の処理によって、システムコントローラ23は、露光時間、及び連写枚数などの露出条件を決定する。
上記したように、撮像装置1は、複数枚の画像の合成を行う場合、取得した第1の射影方式の画像データを、光軸中心における入射角の変化量に対する像高の変化量と、光軸中心から離れた位置における入射角の変化量に対する像高の変化量と、の差がより小さい第2の射影方式の画像データに変換する。撮像装置1は、第2の射影方式の複数の画像データを位置合わせして合成して第2の射影方式の合成画像を生成し、合成画像を第1の射影方式または他の射影方式の画像データに変換する。これにより、等距離射影方式以外の光学系が用いられた場合であっても、複数の画像データの位置合わせを行う場合に生じる被写体像の位置の差を低減することができる。この結果、撮像装置1は、適切に画像合成を行うことができる。
なお、ブレ補正部22によるブレ補正を行いつつ連写を行った場合、1つ前の画像の撮像時に撮像面が移動している可能性がある。この為、露光開始時に撮像面の中心と光学系11の光軸中心とが一致しない場合がある。この為、第1の射影変換部31は、中心射影方式の画像データ61を等距離射影方式の画像データ62に変換する前に、中心射影方式の画像データ61上での光学系11の光軸中心の位置を画像データ61の画角の中心に変換する光軸中心変換を行う。この場合、第1の射影変換部31は、光軸中心変換機能を内包する。
第1の射影変換部31は、センサシフト方式のブレ補正による撮像面の移動量を算出することによって、光学系11の光軸中心の移動位置を算出する。センサシフト方式のブレ補正では、手ブレに伴う角度変化により生じる像の移動を打ち消すように、撮像面を移動させる。この為、撮像面の移動に応じて撮像面上での光学系11の光軸中心の位置が移動する。第1の射影変換部31は、各画像データ61の撮像時の撮像面の移動量に基づいて画像データ61上での光学系11の光軸中心の位置を算出する。
第1の射影変換部31は、画角の中心と光学系11の光軸の中心とがずれた画像データ61を、画角の中心と光学系11の光軸の中心とが一致した画像データ61に変換する光軸中心変換を行なう。
例えば、撮像面上でX方向(水平方向)への角度ずれをθxとし、Y方向(垂直方向)への角度ずれをθyとし、画像データ61の中心を(0,0)とする。ここで、水平方向にΔθx、垂直方向にΔθyの角度変化が生じた場合、光学系11の光軸の中心は、画角内の(Δθx、Δθy)に移動する。
第1の射影変換部31は、光学系11の光軸の中心を撮影視野で切り出された画像の中心になるように座標変換を行う。例えば、第1の射影変換部31は、光学系11の光軸の中心を画像のX方向及びY方向の中心に変換する。この場合、第1の射影変換部31は、像点(Δθx、Δθy)を光軸中心(0,0)として、座標(f・tanθx,f・tanθy)の像点を座標(f・tan(θx−Δθx),f・tan(θy−Δθy)に移動する。
上記の処理により、第1の射影変換部31は、画角の中心と光学系11の光軸の中心とがずれた画像を、画角の中心と光学系11の光軸の中心とが一致した画像に変換する。なお、第1の射影変換部31による光軸中心変換は、上記した方法に限られるものではない。第1の射影変換部31は、如何なる方法で光軸中心変換を行う構成であってもよい。
また、第1の射影変換部31が第1の画像データ61に対して光軸中心変換を行うのではなく、合成部32が画像合成の前に第2の画像データ62に対して光軸中心変換を行う構成であってもよい。この場合、合成部32は、光軸中心変換機能を内包する。
このような構成によると、撮像装置1のシステムコントローラ23は、露光開始時に既に撮像素子21の撮像面がシフトされている場合、撮像された画像データにおいて光学系11の光軸中心と重なる座標を特定し、特定した座標を画像データの画角の中心に変換する光軸中心変換を行った上で中心射影方式の画像データを等距離射影方式の画像データに変換する。これにより、撮像装置1は、露光開始時に既に撮像素子21の撮像面がシフトされている場合であっても、適切に画像合成を行うことができる。
また、上記のように、連写によるブレの抑制と、撮像面のシフトによるブレの抑制とを併用することにより、画像合成の負荷を軽減し、且つ画像合成の精度を向上させることができる。
なお、第1の射影変換部31によるステップS13の処理、または第2の射影変換部33によるステップS18の処理が実行されることにより画像データが引き伸ばされる可能性がある。この為、第1の射影変換部31及び第2の射影変換部33は、引き伸ばされた画像データのシャープネスを調整する、または再サンプリングなどの既知の手法によって引き伸ばしに伴う画像の劣化を補正する構成であってもよい。
なお、上記の例では、撮像装置1は、撮像素子21の撮像面をブレ補正部22によりシフトさせることにより像ブレ補正を行う構成として説明したが、この構成に限定されない。撮像装置1は、補正光学系を備える交換レンズ2がカメラ本体3に装着されている場合、補正光学系を駆動することにより撮像面上の被写体像の位置を移動させることにより像ブレ補正するレンズシフト方式の構成であっても本発明を適用することができる。
(第2の実施形態)
以下図8乃至図10を用いて第2の実施形態に係る撮像装置1Aの例について説明する。なお、第1の実施形態に係る撮像装置1と同様の構成については同じ参照符号を付し、その詳細な説明を省略する。
図8は、撮像装置1Aの構成例を示す。撮像装置1Aは、電子式ブレ補正を行うレンズ交換型カメラである。撮像装置1Aは、レンズ2及びカメラ本体3Aを備える。カメラ本体3Aは、撮像素子21、システムコントローラ23A、EVF26、記録媒体27、及び操作部28を備える。即ち、カメラ本体3Aは、カメラ本体3に対してブレ補正部22、ブレ補正マイコン24、及びジャイロセンサ25を備えていない。
システムコントローラ23Aは、システムコントローラ23と同様に、例えばCPU、及びメモリなどを含み、撮像装置1Aの動作を制御するコントローラである。システムコントローラ23Aは、撮像素子21による露光の制御、画像データの読み出し、及び読み出した画像データに対する画像処理を行う。システムコントローラ23Aは、第1の射影変換部31A、合成部32A、第2の射影変換部33A、ブレ検出部34A、及びブレ補正部35Aを備える。
ブレ検出部34Aは、連続して取得した複数の画像データに基づいて、撮像装置1の姿勢変化に伴う像移動量を検出する。例えば、ブレ検出部34Aは、連続して取得した複数の画像データからパターンマッチングにより移動ベクトルを検出することにより像移動量を検出する。
ブレ補正部35Aは、検出された像移動量に基づいて、撮像素子21により取得した画像データにおける有効領域を特定する。有効領域は、画像データのファイルとして残す領域を示す。ブレ補正部35Aは、有効領域内の画像を画像データ61として切り出す。
例えば、ブレ補正部35Aは、補正を行わない場合、即ち像移動量が無い場合に有効領域の中心(画角の中心)と光学系11の光軸中心とが一致した有効領域を設定する。さらに、ブレ補正部35Aは、像移動量に応じて有効領域を移動させる。具体的には、ブレ補正部35Aは、像が移動した方向及び長さと同じ方向及び長さで有効領域を移動させる。これにより、ブレ補正部35Aは、連続して取得した複数の画像データ61における被写体像の位置のブレに伴う変化を抑えることができる。さらに、ブレ補正部35Aは、ブレ検出部34Aから供給された像移動量を露光開始から累積して計算することによって、各画像データ61の画角の中心と、光学系11の光軸中心とのずれを認識する。
第1の射影変換部31Aは、ブレ補正部35Aによって設定された撮像素子21の有効領域から読み出した画像データ61の射影方式を変換する射影変換を行う。第1の射影変換部31Aは、射影変換処理を行う場合、画像データ61上における光学系11の光軸中心の位置を特定し、特定した光軸中心を中心として中心射影方式の画像データ61を等距離射影方式の画像データ62に変換する。
合成部32Aは、第1の射影変換部31Aにより射影方式が変換された複数の画像データ62を合成し、合成画像63を取得する。例えば、合成部32Aは、第1の射影変換部31により等距離射影方式に変換された複数の画像データ62を合成し、等距離射影方式の合成画像63を取得する。
第2の射影変換部33Aは、合成部32Aにより合成された合成画像63の射影方式を変換する射影変換を行う。第2の射影変換部33Aは、合成部32Aにより合成された合成画像63の射影方式をファイル化して記録する射影方式に変換する。例えば、第2の射影変換部33Aは、合成部32Aにより合成された合成画像63の射影方式を元の射影方式に戻す。即ち、第2の射影変換部33Aは、等距離射影方式の合成画像63を元の射影方式である中心射影方式に戻す。なお、第2の射影変換部33Aは、合成部32Aにより合成された合成画像の射影方式を元の射影方式ではない他の射影方式に変換する構成であってもよい。
システムコントローラ23Aは、第1の射影変換部31A、合成部32A、及び第2の射影変換部33Aにより像ブレ防止処理としての広角長秒撮影を行う。広角長秒撮影を行う場合、システムコントローラ23Aは、撮像素子21による露光結果に基づいて適正露出が得られる適正露光時間を認識し、適正露光時間よりも短い露光時間で連続して複数枚の画像データ61を取得する連写を行う。システムコントローラ23Aは、連写により得られた複数枚の画像データ61の射影方式を第1の射影変換部31Aにより射影変換する。システムコントローラ23Aは、第1の射影変換部31Aにより射影変換した複数枚の画像データ62を合成して合成画像63を取得する。システムコントローラ23は、合成部32により合成した合成画像63を第2の射影変換部33により射影変換することにより、任意の射影方式の画像データ65を取得する。
図9は、広角長秒撮影を行う際の撮像装置1Aの動作を示すフローチャートである。図10は、露出条件決定処理を行う際の撮像装置1Aの動作を示すフローチャートである。
カメラ本体3Aのシステムコントローラ23Aは、所定の条件が揃った場合に広角長秒撮影を実行する。例えば、システムコントローラ23Aは、光学系11の焦点距離が広角(例えば所定の焦点距離未満)である場合に図9に示される広角長秒撮影を実行する。なお、図9では、広角長秒撮影に関する動作について示しているが、手ブレ補正に関わる制御、及び撮像素子21の露光制御などが並行して実行されている。
広角長秒撮影を実行する操作が行われた場合、カメラ本体3Aのシステムコントローラ23Aは、交換レンズ2による自動合焦の制御、及び撮像素子21による露光制御などの制御を行うことにより、撮像素子21により露光を実行させる。システムコントローラ23Aは、撮像素子21による露光の結果に基づいて、露光時間、及び連写枚数などの露出条件を決定する(ステップS31)。
撮像素子21における露光が完了すると、システムコントローラ23は、映像の読み出しを行う(ステップS32)。上記したように、光学系11が中心射影方式で構成されたレンズである場合、システムコントローラ23Aは、中心射影方式の画像データ61を撮像素子21から取得する。
システムコントローラ23Aの第1の射影変換部31Aは、連続して取得した複数の画像データ61に基づいて、撮像装置1の姿勢変化に伴う像移動量を検出する(ステップS33)。例えば、第1の射影変換部31Aは、連続して取得した複数の画像データからパターンマッチングにより移動ベクトルを検出することにより像移動量を検出する。
システムコントローラ23Aの第1の射影変換部31Aは、ステップS32で取得した中心射影方式の画像データ61に対して、ステップS33で検出された像移動量に基づいて上記のように説明した光軸中心変換を行う(ステップS34)。なお、第1の射影変換部31Aは、撮像面上の有効領域を設定する為にブレ検出部34Aによって検出された像移動量を光軸中心変換に用いる構成であってもよい。この場合、ステップS33の処理を省略することができる。
システムコントローラ23Aの第1の射影変換部31Aは、ステップS34で光軸中心変換を行った中心射影方式の画像データ61を等距離射影方式の画像データ62に変換する射影変換を行う(ステップS35)。
システムコントローラ23Aは、連写が終了したか否か判断する(ステップS36)。例えば、システムコントローラ23Aは、ステップS31で決定した連写枚数分だけ連写を行ったか否か判断する。連写が終了していないと判断した場合(ステップS36、NO)、システムコントローラ23Aは、ステップS32の処理に移行する。これにより、システムコントローラ23Aは、ステップS31で決定した連写枚数分だけ連写を行うまでステップS32乃至S35の処理を繰り返す。
ステップS36で連写が終了したと判断した場合(ステップS36、YES)、システムコントローラ23Aの合成部32Aは、第1の実施形態と同様の方法によって画像合成を行って合成画像63を取得する(ステップS37)。
さらに、システムコントローラ23Aの合成部32Aは、合成画像63をトリミングする(ステップS38)。
システムコントローラ23Aの第2の射影変換部33Aは、ステップS38でトリミングした等距離射影方式の合成画像63を中心射影方式の画像データ65に変換し(ステップS39)、広角長秒撮影を終了する。即ち、第2の射影変換部33は、等距離射影方式の合成画像63を元の射影方式である中心射影方式に変換することにより、適正露光時間より短い露光時間で、適正な露出の画像データ65を得ることができる。
システムコントローラ23Aは、上記の処理によって得られた画像データ65を記録用の画像フォーマットに変換することによって、記録用の画像ファイルを生成する。システムコントローラ23Aは、画像ファイルを記録媒体27に記録する。
次に、図10を用いて露出条件決定処理について説明する。
まず、システムコントローラ23Aは、図5のステップS21と同様に、AE制御により、撮像素子21の感度、露光時間、及び絞り値を決定する(ステップS41)。
システムコントローラ23Aは、図5のステップS25と同様に、光学系11の焦点距離に基づいて許容露光時間を推定する(ステップS42)。
システムコントローラ23Aは、図5のステップS26と同様に、許容露光時間を推定すると、撮影枚数を決定する(ステップS43)。
以上のステップS41乃至S43処理によって、システムコントローラ23Aは、露光時間、及び連写枚数などの露出条件を決定する。
上記した構成によっても、第1の実施形態と同様に、撮像装置1Aは、連写によるブレの抑制と、撮像面のシフトによるブレの抑制とを併用することにより、画像合成の負荷を軽減し、且つ画像合成の精度を向上させることができる。
(第3の実施形態)
以下図11を用いて第3の実施形態に係る撮像装置1Bの例について説明する。なお、第1の実施形態に係る撮像装置1と同様の構成については同じ参照符号を付し、その詳細な説明を省略する。
図11は、撮像装置1Bの構成例を示す。撮像装置1Bは、電子式ブレ補正を行うレンズ交換型カメラである。撮像装置1Bは、レンズ2及びカメラ本体3Bを備える。カメラ本体3Bは、撮像素子21、システムコントローラ23B、ジャイロセンサ25、EVF26、記録媒体27、及び操作部28を備える。即ち、カメラ本体3Bは、カメラ本体3に対してブレ補正部22、及びブレ補正マイコン24を備えていない。
システムコントローラ23Bは、システムコントローラ23と同様に、例えばCPU、及びメモリなどを含み、撮像装置1Bの動作を制御するコントローラである。システムコントローラ23Bは、撮像素子21による露光の制御、画像データの読み出し、及び読み出した画像データに対する画像処理を行う。システムコントローラ23Bは、第1の射影変換部31B、合成部32B、像移動量検出部36B、及び光軸中心変換部37Bを備える。
像移動量検出部36Bは、ジャイロセンサ25から供給される角速度信号、光学系11の焦点距離、及び光学系11の射影方式などを示す光学特性情報に基づいて撮像素子21の撮像面上における被写体像の像移動量を検出する。例えば、像移動量検出部36Bは、角速度信号が示す撮像素子21の撮像面の垂直方向を軸としたヨー方向における回転運動の量に応じて、撮像面上における被写体像の水平方向の像移動量を検出する。また、像移動量検出部36Bは、角速度信号が示す撮像素子21の撮像面の水平方向を軸としたピッチ方向における回転運動の量に応じて、撮像面上における被写体像の垂直方向の像移動量を検出する。また、像移動量検出部36Bは、角速度信号が示す光学系11の光軸を軸としたロール方向における回転運動の量に応じて、撮像面上における被写体像のロール方向の像回転量を検出する。
第1の射影変換部31Bは、画像データ61の射影方式を変換する射影変換を行う。第1の射影変換部31Bは、画像データ61における光学系11の光軸中心の位置を例えば像移動距離に基づいて特定し、特定した光軸中心を中心として画像データ61を等距離射影方式の画像データ62に変換する。
光軸中心変換部37Bは、像移動量検出部36Bにより算出された像移動量に基づいて画像データ62における光軸中心を移動する光軸中心変換を行う。画像データ62が等距離射影である為、光軸中心変換部37Bは、焦点距離から求められる画角から、角度変化に換算した座標を求める。光軸中心変換の方法は、第2の実施形態と同様の方法である。
合成部32Bは、光軸中心変換部37Bにより光軸中心変換が行われた複数の画像データ62の光軸中心を合わせた状態で加算合成し、合成画像63を取得する。合成部32Bは、合成画像63を所定の画角で切り出す。
第2の射影変換部33Bは、合成部32Bにより合成された合成画像63の射影方式を変換する射影変換を行う。第2の射影変換部33Bは、合成部32Bにより合成された合成画像63の射影方式をファイル化して記録する射影方式に変換する。例えば、第2の射影変換部33Bは、合成部32Bにより合成された合成画像63の射影方式を元の射影方式に戻す。即ち、第2の射影変換部33Bは、等距離射影方式の合成画像63を元の射影方式である中心射影方式に戻す。なお、第2の射影変換部33Bは、合成部32Bにより合成された合成画像の射影方式を元の射影方式ではない他の射影方式に変換する構成であってもよい。
上記した構成によると、撮像装置1Bは、ジャイロセンサ25から供給される角速度信号に基づいて算出された像移動量に基づいて、第1の射影変換部31Bによる射影変換、及び光軸中心変換部37Bによる光軸中心変換を行う。これにより、例えば、被写体が暗いなどの原因により参照画像がローコントラストである場合であっても、撮像装置1Bは、適切に射影変換、及び光軸中心変換を行うことができる。
なお、上記した実施形態では、撮像装置1は、画像の合成として、手ブレ抑制の為の連写画像の合成を例に挙げて説明したが、この構成に限定されない。撮像装置1は、複数回の撮像動作によって得られた複数の画像を重ね合わせて合成するものであれば、如何なる画像合成に本発明を適用してもよい。例えば、撮像装置1は、露出の異なる複数の画像を取得して合成するHDR処理、または多重露出などに本願の構成を適用してもよい。
また、上記の実施形態では、撮像装置1のシステムコントローラ23は、光学系11の焦点距離が広角(例えば所定の焦点距離未満)である場合に図4に示される広角長秒撮影を実行する構成として説明したが、この構成に限定されない。システムコントローラ23は、広角長秒撮影を行う設定になっているか否か、焦点距離が閾値未満か否か、露光時間が閾値以上か否か、及び予測されるブレ量が閾値以上か否かなどの種々の条件に基づいて、広角長秒撮影を行うか否か判断する構成であってもよい。また、システムコントローラ23は、これらの条件の全てが満たされた場合、またはこの中の任意の条件が満たされた場合に広角長秒撮影を行う構成であってもよい。
なお、上述の各実施の形態で説明した機能は、ハードウエアを用いて構成するに留まらず、ソフトウエアを用いて各機能を記載したプログラムをコンピュータに読み込ませて実現することもできる。また、各機能は、適宜ソフトウエア、ハードウエアのいずれかを選択して構成するものであっても良い。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合せにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に亘る構成要素を適宜組み合せてもよい。
1…撮像装置、2…交換レンズ、3…カメラ本体、11…光学系、12…変倍部、13…レンズコントロールユニット、14…ズームレンズ、21…撮像素子、22…ブレ補正部、23…システムコントローラ、24…ブレ補正マイクロコンピュータ、25…ジャイロセンサ、26…電子ビューファインダ、27…記録媒体、28…操作部、31…第1の射影変換部、32…合成部、33…第2の射影変換部、34A…ブレ検出部、35A…ブレ補正部、36B…像移動量検出部、37B…光軸中心変換部、41…アナログデジタル変換器、42…基準値減算部、43…補正量算出部、44…ブレ補正制御部。

Claims (18)

  1. 光を電気信号に変換する画素が配列された撮像面を備える撮像素子と、
    前記撮像面に、中心射影方式である第1の射影方式の被写体像を結像させる撮影光学系と、
    前記撮像素子により前記被写体像に応じた第1の射影画像を複数取得する撮像制御部と、
    複数の前記第1の射影画像を、前記撮影光学系への光の入射角の変化量に対する前記撮像面上での像高の変化量のばらつきが前記第1の射影画像よりも小さい、等距離射影方式である第2の射影方式の画像である複数の第2の射影画像にそれぞれ変換する第1の射影変換部と、
    複数の前記第2の射影画像を合成して合成画像を取得する合成部と、
    前記合成画像を前記第2の射影方式とは異なる射影方式の画像に変換する第2の射影変換部と、
    を具備する撮像装置。
  2. 前記合成部は、複数の前記第2の射影画像の位置合わせを行った上で合成する請求項1に記載の撮像装置。
  3. 前記被写体像の像移動量に基づいて前記第1の射影画像または前記第2の射影画像に対して画角の中心と前記撮影光学系の光軸中心とを合わせる光軸中心変換を行う光軸中心変換部をさらに具備する請求項1または2に記載の撮像装置。
  4. 前記第2の射影変換部は、前記合成画像を第1の射影方式の画像に戻す請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記撮像制御部は、予め設定された基準に沿った適正露出の画像を得る為の適正露光時間を算出し、前記適正露光時間よりも短い露光時間で複数の前記第1の射影画像を取得し、
    前記合成部は、前記複数の前記第2の射影画像を加算合成する、
    請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記撮像制御部は、前記被写体像の像移動量に基づいてブレ量が基準未満に収まる許容露光時間を算出し、前記適正露光時間を前記許容露光時間で割ることにより取得する前記第1の射影画像の枚数を決定する請求項5に記載の撮像装置。
  7. 前記撮像制御部は、前記撮影光学系の焦点距離に基づいてブレ量が基準未満に収まる許容露光時間を算出し、前記適正露光時間を前記許容露光時間で割ることにより取得する前記第1の射影画像の枚数を決定する請求項5に記載の撮像装置。
  8. 前記被写体像の像移動量に基づいて前記被写体像と前記撮像面との位置関係を調整するブレ補正部をさらに具備する請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記像移動量は、角速度センサの検出に基づいて算出される請求項3、6、及び8のいずれか1項に記載の撮像装置。
  10. 前記像移動量は、複数の前記第1の射影画像の間の差分に基づいて算出される請求項3、6、及び8のいずれか1項に記載の撮像装置。
  11. 光を電気信号に変換する画素が配列された撮像面を備える撮像素子と、中心射影方式である第1の射影方式の被写体像を前記撮像面に結像させる撮影光学系と、を具備する撮像装置の制御方法であって、
    前記撮像素子により前記被写体像に応じた第1の射影画像を複数取得し、
    複数の前記第1の射影画像を、前記撮影光学系への光の入射角の変化量に対する前記撮像面上での像高の変化量のばらつきが前記第1の射影画像よりも小さい、等距離射影方式である第2の射影方式の画像である複数の第2の射影画像にそれぞれ変換し、
    複数の前記第2の射影画像を合成して合成画像を取得し、
    前記合成画像を前記第2の射影方式とは異なる射影方式の画像に変換する、
    撮像装置の制御方法。
  12. 複数の前記第2の射影画像の位置合わせを行った上で前記合成を行う請求項11に記載の撮像装置の制御方法。
  13. 前記被写体像の像移動量に基づいて前記第1の射影画像または前記第2の射影画像に対して画角の中心と前記撮影光学系の光軸中心とを合わせる光軸中心変換を行う請求項11または12に記載の撮像装置の制御方法。
  14. 前記合成画像を元の射影方式である前記第1の射影方式の画像に戻す請求項11乃至13のいずれか1項に記載の撮像装置の制御方法。
  15. 予め設定された基準に沿った適正露出の画像を得る為の適正露光時間を算出し、前記適正露光時間よりも短い露光時間で複数の前記第1の射影画像を取得し、取得した複数の前記第1の射影画像を複数の前記第2の射影画像にそれぞれ変換し、前記複数の前記第2の射影画像を加算合成する請求項11乃至14のいずれか1項に記載の撮像装置の制御方法。
  16. 前記被写体像の像移動量に基づいてブレ量が基準未満に収まる許容露光時間を算出し、前記適正露光時間を前記許容露光時間で割ることにより取得する前記第1の射影画像の枚数を決定する請求項15に記載の撮像装置の制御方法。
  17. 前記撮影光学系の焦点距離に基づいてブレ量が基準未満に収まる許容露光時間を算出し、前記適正露光時間を前記許容露光時間で割ることにより取得する前記第1の射影画像の枚数を決定する請求項15に記載の撮像装置の制御方法。
  18. 前記被写体像の像移動量に基づいて前記被写体像と前記撮像面との位置関係を調整する像ブレ補正を行う請求項11乃至17のいずれか1項に記載の撮像装置の制御方法。
JP2015192027A 2015-09-29 2015-09-29 撮像装置、及び撮像装置の制御方法 Expired - Fee Related JP6529879B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015192027A JP6529879B2 (ja) 2015-09-29 2015-09-29 撮像装置、及び撮像装置の制御方法
US15/277,428 US9813686B2 (en) 2015-09-29 2016-09-27 Imaging apparatus, and control method of imaging apparatus
CN201610862446.4A CN107018308A (zh) 2015-09-29 2016-09-28 摄像装置和摄像装置的控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015192027A JP6529879B2 (ja) 2015-09-29 2015-09-29 撮像装置、及び撮像装置の制御方法

Publications (2)

Publication Number Publication Date
JP2017069706A JP2017069706A (ja) 2017-04-06
JP6529879B2 true JP6529879B2 (ja) 2019-06-12

Family

ID=58407583

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015192027A Expired - Fee Related JP6529879B2 (ja) 2015-09-29 2015-09-29 撮像装置、及び撮像装置の制御方法

Country Status (3)

Country Link
US (1) US9813686B2 (ja)
JP (1) JP6529879B2 (ja)
CN (1) CN107018308A (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019029753A (ja) * 2017-07-27 2019-02-21 京セラ株式会社 電子機器、画像補正方法および画像補正プログラム
CN109714519B (zh) * 2017-10-25 2021-02-02 成都极米科技股份有限公司 一种自动调整图像画面的方法和***
US10805530B2 (en) 2017-10-30 2020-10-13 Rylo, Inc. Image processing for 360-degree camera
JP7378260B2 (ja) * 2018-11-15 2023-11-13 キヤノン株式会社 防振装置及び方法、及び撮像装置
JP7153889B2 (ja) * 2019-03-01 2022-10-17 パナソニックIpマネジメント株式会社 画像補正装置、画像生成装置、カメラシステム及び車両
JP2021118466A (ja) * 2020-01-28 2021-08-10 キヤノン株式会社 撮像装置およびその制御方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007282134A (ja) * 2006-04-11 2007-10-25 Olympus Imaging Corp 撮像装置
JP4807170B2 (ja) * 2006-07-10 2011-11-02 株式会社ニコン パターン検出方法、パターン検出プログラム、パターン検出装置、及び撮像装置
JP4818130B2 (ja) * 2007-01-15 2011-11-16 キヤノン株式会社 撮像装置及びその制御方法
JP2008271529A (ja) * 2007-03-26 2008-11-06 Sanyo Electric Co Ltd 撮像装置
JP2013015778A (ja) * 2011-07-06 2013-01-24 Konica Minolta Advanced Layers Inc ズームレンズ,撮像光学装置及びデジタル機器
WO2013172314A1 (ja) * 2012-05-16 2013-11-21 株式会社Jvcケンウッド 画像投射装置および画像投射方法
JP5968169B2 (ja) 2012-09-06 2016-08-10 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
JP5889247B2 (ja) * 2013-07-02 2016-03-22 キヤノン株式会社 画像処理装置、画像処理方法及び画像処理プログラム、並びに撮像装置
JP6209002B2 (ja) * 2013-07-16 2017-10-04 キヤノン株式会社 撮像装置およびその制御方法

Also Published As

Publication number Publication date
CN107018308A (zh) 2017-08-04
US9813686B2 (en) 2017-11-07
JP2017069706A (ja) 2017-04-06
US20170094239A1 (en) 2017-03-30

Similar Documents

Publication Publication Date Title
JP6685843B2 (ja) 撮像装置
JP6529879B2 (ja) 撮像装置、及び撮像装置の制御方法
US10244170B2 (en) Image-shake correction apparatus and control method thereof
US10110819B2 (en) Imaging apparatus, and image blur correcting method of imaging apparatus
JP6486656B2 (ja) 撮像装置
JP6530602B2 (ja) 撮像装置及びその制御方法
JP7484866B2 (ja) ブレ補正装置、交換レンズ、撮像装置及び像ブレ補正方法
US20170257574A1 (en) Image pickup device
JP6500238B2 (ja) 撮像装置、撮像方法及び撮像プログラム
JP2019029962A (ja) 撮像装置およびその制御方法
JP6558891B2 (ja) 像振れ補正装置および撮像装置
JP2016005160A5 (ja)
JP2016005160A (ja) 撮像装置およびその制御方法
JP6312460B2 (ja) 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体
JP2017044876A (ja) 撮像装置及び像ブレ補正方法
JP6917536B2 (ja) 撮像装置
JP2016126164A (ja) 撮像装置及び撮像方法
JP2017161891A5 (ja)
JP6395401B2 (ja) 像振れ補正装置およびその制御方法、光学機器、撮像装置
JP6742819B2 (ja) 像ブレ補正装置、光学機器、撮像装置および制御方法
US20210195113A1 (en) Tracking apparatus and control method thereof, image capturing apparatus, and storage medium
JP2014092756A (ja) 像振れ補正装置およびそれを備えた光学機器、撮像装置および像振れ補正装置の制御方法
JP2018197825A (ja) 制御装置及び方法、及び撮像装置
JP7451152B2 (ja) 撮像装置、制御方法及びコンピュータプログラム
WO2020012960A1 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180313

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190416

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190515

R151 Written notification of patent or utility model registration

Ref document number: 6529879

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees