JP4677748B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP4677748B2
JP4677748B2 JP2004268880A JP2004268880A JP4677748B2 JP 4677748 B2 JP4677748 B2 JP 4677748B2 JP 2004268880 A JP2004268880 A JP 2004268880A JP 2004268880 A JP2004268880 A JP 2004268880A JP 4677748 B2 JP4677748 B2 JP 4677748B2
Authority
JP
Japan
Prior art keywords
exposure period
unit
image
period
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004268880A
Other languages
English (en)
Other versions
JP2006086762A (ja
Inventor
一利 臼井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2004268880A priority Critical patent/JP4677748B2/ja
Priority to US11/660,499 priority patent/US7675546B2/en
Priority to PCT/JP2005/016921 priority patent/WO2006030819A1/ja
Publication of JP2006086762A publication Critical patent/JP2006086762A/ja
Application granted granted Critical
Publication of JP4677748B2 publication Critical patent/JP4677748B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像画像の像ブレを修復する機能を有する撮像装置に関する。
従来、撮像後の画像処理によって像ブレを修復する技術が知られている。
例えば、特許文献1,2では、像ブレの軌跡から得られる点像関数から、逆フィルタを求める。この逆フィルタを撮像画像に施すことによって、撮像画像の像ブレを修復する(以下、このブレ修復の方式を『演算修復方式』という)。
また例えば、特許文献3では、複数回の分割露光を実施し、得られた複数の画像を位置合わせして合成することによって、撮像画像の像ブレを修復している(以下、このブレ修復の方式を『合成修復方式』という)。
特開昭62−127976号公報(特許請求の範囲など) 特開平5−323444号公報(請求項1など) 特開2002−107787号公報(請求項1など)
ところで、本発明者は、上述した『演算修復方式』と『合成修復方式』とを適切な条件に従って切り換えることによって、両方式の長所を引き出しつつ、両方式の短所を補えると考えた。
そこで、本発明は、この『演算修復方式』と『合成修復方式』を適切に切り換える撮像装置を提供することを目的とする。
《1》
本発明の撮像装置は、撮像部、演算修復部、合成修復部、露光期間判定部、および選択制御部を備える。
この撮像部は、予め設定された露光期間にわたって被写体像を光電変換し、画像データを生成する。
演算修復部は、露光期間中の像ブレを表す点像関数の逆フィルタを画像データに施して、像ブレを修復する。
合成修復部は、露光期間を分割した複数回の撮像動作を撮像部に実施させ、得られた複数コマの分割画像データを位置合わせして合成することにより、画像データの像ブレを修復する。
露光期間判定部は、露光期間を、予め定められた閾値によって判定する。
選択制御部は、露光期間が閾値未満の場合には演算修復部によるブレ修復を実行し、露光期間が閾値以上の場合には合成修復部によるブレ修復を実行する。
《2》
なお好ましくは、露光期間判定部は、『撮像部の画像読み出しにかかる転送期間』に『合成補正部の分割露光回数』を乗じた乗算結果を閾値に使用して、上記の露光期間の判定を行う。
《3》
本発明の別の撮像装置は、撮像部、演算修復部、合成修復部、露光期間判定部、および選択制御部を備える。
撮像部は、予め設定された露光期間にわたって被写体像を光電変換し、画像データを生成する。
演算修復部は、露光期間中の像ブレを表す点像関数の逆フィルタを画像データに施して、像ブレを修復する。
合成修復部は、露光期間を分割した複数回の撮像動作を撮像部に実施させ、得られた複数コマの分割画像データを位置合わせして合成することにより、画像データの像ブレを修復する。
露光期間判定部は、合成修復部による複数回の分割露光に所要する総撮影期間と露光期間との差を予め定められた閾値によって判定する。
選択制御部は、露光期間判定部によって差が閾値以上と判定された場合には、演算修復部によるブレ修復を実行し、差が閾値未満と判定された場合には、合成修復部によるブレ修復を実行する。
まず、『露光期間』と『ブレ修復の適不適』との関係について考察する。
(露光期間が明らかに短い場合)
一般に、露光期間が短いほど像ブレは小さくなり、細かな画像情報(空間周波数の高域成分)の消失は少なくなる。この場合に演算修復方式を選択すれば、残存する高域成分に逆フィルタを作用させることで、ブレによって減衰した画像情報の信号レベルや空間位相を適切に復元することができる。したがって、露光期間が短いほど、演算修復方式のブレ修復は成功率が高くなる。
一方、合成修復方式では、分割露光期間の合間に、分割画像データの転送読み出しを完了しなければならない。そのため、露光期間が短くなると、分割画像データの読み出し完了に時間が足りず、分割露光と分割露光の間の空き時間を挿入する必要が生じる。このような空き時間の挿入によって間歇的な分割露光が行われるため、動きのある被写体は、その動きが飛び飛びに写ってしまう。この状態で分割画像データを合成すると、動きが飛び飛びに分離して重なった不自然な画像になる。したがって、露光期間が短いほど、合成修復方式のブレ修復は成功率が低くなる。
さらに、合成修復方式では、露光期間が極端に短くなっても、複数回の転送期間が依然必要となるため、撮像装置を被写体に向けて保持する総撮影期間はさほど短くならない。
例えば、露光期間1/50秒を複数回に分けて露光する合間に、転送期間400m秒を3回実施した場合、総撮影期間は1.2秒ほどかかる。この場合、露光期間1/50秒の設定に対して総撮影期間が1.2秒ほどかかるなど、露光期間と総撮影期間とに明らかな差異が生じ、ユーザーに違和感を与えてしまう。このような理由からも、露光期間が短い場合、合成修復方式のブレ修復は適さない。
(露光期間が明らかに長い場合)
逆に、露光期間が長くなると、演算修復方式の像ブレが大きくなり、細かな画像情報(高域成分など)が大量に消滅してしまう。そのため、演算修復方式では、点像関数の逆フィルタを作成することが難しくなる。また、無理に作成した逆フィルタを適用しても、せいぜい中域成分までしか復元は出来ず、かえって高域成分のノイズを増幅してしまうおそれが生じる。そのため、露光期間が長くなるほど、演算修復方式のブレ修復は成功率が低くなる。
一方、合成修復方式では、露光期間が長くなっても、分割露光回数を増やすことで、1回当たりの分割露光期間を短く抑えることができる。したがって、分割画像データそれぞれの像ブレを許容範囲以下に抑えることが比較的容易であり、合成後の像ブレを小さく抑えることができる。したがって、露光期間が長い場合、合成修復方式のブレ修復は成功率が高くなる。
(請求項1の効果)
上述した考察に基づいて、請求項1の撮像装置では、露光期間と閾値との比較結果に基づいてブレ修復の方式を次のように選択する。
まず、露光期間が閾値よりも短い場合、演算修復方式によるブレ修復を選択する。この場合、露光期間が短いために画像情報の消失や波形の崩れが少なく、演算修復方式によって画像データの復元を適切に実施できる確率が高くなる。
一方、露光期間が閾値以上に長い場合、合成修復部によるブレ修復を実行する。この場合、露光期間が長くなっても、一回当たりの分割露光期間が短くなるため、合成後の像ブレは小さくなる。その結果、露光期間が長い場合に、ブレ修復の成功率が一段と高くなる。
このように、露光期間の長短判定に基づいて両方式を切り換えることによって、ブレ修復の成功率を総合的に高めることが可能になる。
(請求項2の効果)
さらに、請求項2の撮像装置では、『撮像部の画像読み出しにかかる転送期間』に『合成補正部の分割露光回数』を乗じた乗算結果を閾値に使用する。
合成修復方式を実施する場合、分割露光の回数分だけ画像読み出しを実施する必要がある。上記の乗算結果は、これら読み出し動作の合計時間に相当する。合成修復方式では、露光期間がどんなに短くなっても、これら読み出し動作の合計時間を短縮することはできない。
もしも露光期間がこの乗算結果よりも短い場合、合成修復方式では、乗算結果と露光期間との時間差を埋めるために、分割露光と分割露光との間に空き時間を挿入しなければならない。この場合、動きのある被写体は、空き時間によって分割露光が間歇的に寸断されるため、被写体の動きが飛び飛びになる。この状態で分割画像データを合成すると、動きのある被写体が飛び飛びの位置で重なるため、不自然な画像になる。
そこで、請求項2の撮像装置は、露光期間が乗算結果よりも短い場合、演算修復方式を選択する。この選択動作によって、被写体の動きが離散的にぶれるという状況を予測して、演算修復方式に適切に切り換えることが可能になる。
(請求項3の効果)
一方、請求項3の撮像装置では、合成修復方式に予想される総撮影期間と、露光期間との差を予め定められた閾値によって判定する。
この差が大きいほど、合成修復方式では、分割露光の空き時間が長くなる。そのため、動きのある被写体は、長い空き時間によって露光が寸断され、被写体の動きの連続性が失われる。この状態で分割画像データを合成すると、動きのある被写体が飛び飛びの位置で重なるため、不自然な画像になる。
そこで、請求項3の撮像装置は、上記の差が閾値以上と判断されると、演算修復方式に切り換える。この切り換え動作によって、被写体の動きが離散的にぶれるという不具合を確実に避けることができる。
また、この演算修復方式への切り換え動作により、合成修復方式において総撮影期間と露光期間とがかけ離れてユーザーに違和感を与えるという状況を予測して、演算修復方式に適切に切り換えることが可能になる。
《第1実施形態》
[第1実施形態の構成説明]
図1は、第1実施形態における撮像装置11の構成を示す図である。
図1において、撮像装置11には、撮影レンズ12が装着される。この撮影レンズ12の像空間には、シャッタ13aおよび撮像素子13の撮像面が配置される。この撮像素子13は、CCD駆動回路16の駆動パルスに従って、画像データを出力する。この画像データは、アナログ信号処理部14およびDSP(デジタル信号処理部)15を介して処理された後、バッファメモリ17に蓄積される。
このバッファメモリ17内の画像データに対して、2種類のブレ修復を施すため、合成修復部20、および演算修復部21が設けられる。これら2種類の修復部20,21は、ブレ補正方式選択部22によって切り換え制御される。これらの構成要件20〜22は、CPU23の機能によって実現される。
その他、CPU23によって、AE演算部24、露光期間決定部25、および点像関数演算部28などの機能も実現される。この点像関数演算部28には、HPF部32を介して、角速度センサ33が接続される。
さらに、CPU23には、手ブレ補正モードスイッチ26、レリーズスイッチ27、ズームエンコーダ30、および距離エンコーダ31などが接続される。
[発明との対応関係]
以下、発明と本実施形態との対応関係について説明する。なお、ここでの対応関係は、参考のために一解釈を例示するものであり、本発明を徒らに限定するものではない。
請求項記載の撮像部は、撮像素子13、およびCCD駆動回路16に対応する。
請求項記載の演算修復部は、演算修復部21に対応する。
請求項記載の合成修復部は、合成修復部20に対応する。
請求項記載の露光期間判定部は、ブレ補正方式選択部22の『露光期間を判定する機能』に対応する。
請求項記載の選択制御部は、ブレ補正方式選択部22の『露光期間の判定の結果に応じて、合成修復部20と演算修復部21とを切り換え制御する機能』に対応する。
[第1実施形態の動作説明]
図2は、第1実施形態の動作を説明する図である。
以下、図2に示すステップ番号に沿って、動作説明を行う。
ステップS1: 撮像装置11の主電源が投入されると、CPU23は、初期設定のシーケンスを実行する。この初期設定の完了後、CPU23は、レリーズスイッチ27の半押し操作を待機する状態に入る。
この状態で、ユーザーがレリーズスイッチ27を半押し操作すると、CPU23はステップS2に動作を移行する。
ステップS2: CPU23は、CCD駆動回路16を介して撮像素子13を駆動し、制御用の画像データを取り込む。AE演算部24は、この制御用の画像データから被写体輝度を求める。
ステップS3: プログラム露出モードや絞り優先露出モードの場合、露光期間決定部25は、この制御用の画像データから得た被写体輝度に基づいて、適正露出を得るための露光期間を決定する。なお、マニュアル露出モードやシャッタ優先モードの場合、露光期間決定部25は、ユーザー設定などに基づいて露光期間を決定する。
ステップS4: ブレ補正方式選択部22は、合成修復方式の選択を仮定して、分割露光回数および分割露光期間を、露光期間から決定する。
通常、135(35ミリ撮像面サイズ)判のカメラでは、焦点距離分の1のシャッタ秒時以下に設定することで、手ブレが目立たない写真が撮れると言われている。そこで、ブレ補正方式選択部22は、ズームエンコーダ30から情報取得した撮影レンズ12の焦点距離を、135判の画角相当の焦点距離に換算する。ブレ補正方式選択部22は、露光期間を分割した分割露光期間が、この1/(換算焦点距離)秒以下のブレ安全圏に充分収まるよう、分割露光回数および分割露光期間の組み合わせを決定する。
次に、ブレ補正方式選択部22は、決定した分割露光回数と、撮像素子13の転送期間とを乗じて、閾値th1を算出する。例えば、分割露光回数が4回で、転送期間が200m秒の場合、閾値th1は0.8秒となる。
ステップS5: ここで、CPU23は、レリーズスイッチ27が全押しされたか否かを判定する。
全押し操作を検出しない場合、CPU23はステップS1に動作を戻す。
一方、全押し操作を検出した場合、CPU23はステップS6に動作を移行する。
ステップS6: CPU23は、ステップS3で設定された露光期間を、閾値th1で閾値判定する。
露光期間が閾値th1以上の場合、CPU23は、ブレ補正方式として合成修復方式を選択し、ステップS7に動作を移行する。
一方、露光期間が閾値th1未満の場合、CPU23は、ブレ補正方式として演算修復方式を選択し、ステップS8に動作を移行する。
ステップS7: ここでは、合成修復方式の撮影処理を以下の手順A1〜A4で実行する。
(A1)合成修復部20は、シャッタ13aを開いて、撮像素子13の露光(電荷蓄積)を開始する。この露光開始から、分割露光期間を経過するまで、撮像素子13は信号電荷を蓄積する。
(A2)分割露光期間を経過すると、合成修復部20はシャッタ13aを閉じ、CCD駆動回路16を介して撮像素子13から画像データを読み出す。なお、合成修復部20は、この画像データの転送期間中にシャッタ13aを開いて、次回の分割露光を転送動作に並行して開始する。なお、複数の分割露光期間が連続するために空き時間が挿入されない場合には、シャッタ13aの開閉動作を省略してもよい。
(A3)上述した(A2)の動作を分割露光回数だけ繰り返し、複数コマの分割画像データを得る。
(A4)合成修復部20は、複数コマの分割画像データをパターンマッチングにより位置合わせした上で合成することにより、ブレ修復済みの画像データを得る。このパターンマッチングには、公知のブロックマッチング法や残差逐次検定法などが使用可能である。
なお、角速度センサ33の検出結果から得たブレ軌跡に基づいて、分割画像データを位置合わせしてもよい。
このような合成修復方式の撮影処理を完了した後、CPU23はステップS9に動作を移行する。
ステップS8: ここでは、演算修復方式の撮影処理を以下の手順B1〜B5で実行する。
(B1)演算修復部21は、シャッタ13aを開いて、撮像素子13の露光(電荷蓄積)を開始する。この露光開始から、露光期間を経過するまで、撮像素子13は信号電荷を蓄積する。
(B2)露光期間を経過すると、演算修復部21は、シャッタ13aを閉じて、CCD駆動回路16を介して撮像素子13から画像データを読み出す。
(B3)点像関数演算部28は、露光期間に並行して、角速度センサ33の角速度データをHPF部32を介してサンプリングする。点像関数演算部28は、この角速度データのHPF出力を時間積分することによって、露光期間中の時刻tにおけるブレ角度θ(t)を得る。
(B4)点像関数演算部28は、ズームエンコーダ30から得た焦点距離情報と、距離エンコーダ31から得た被写体距離情報Rとに基づいて、撮影倍率βを算出する。点像関数演算部28は、これら情報を下式に代入して、像面上のブレX(t)を求める。
X(t)=β・R・θ(t) ・・・(1)
この像面上のブレX(t)を、点像の画素単位の露光量に換算することにより、画素座標(x,y)における点像関数p(x,y)が得られる。
この点像関数p(x,y)を用いて、元画像o(x,y)とブレ画像z(x,y)との関係を、次の畳み込み積分*で表すことができる。
z(x,y)=o(x,y)*p(x,y) ・・・(2)
上式を周波数変換して、空間周波数(u,v)の領域に変換すると、
Z(u,v)=O(u,v)・P(u,v) ・・・(3)
となる。なお、上式中のZ(u,v)、O(u,v)、P(u,v)は、z(x,y)、o(x,y)、p(x,y)をそれぞれ周波数変換して得たスペクトルである。ちなみに、点像関数p(x,y)を周波数変換して得たP(u,v)については、特に空間周波数伝達関数と呼ばれる。
この(3)式を変形することにより、元画像のスペクトルO(u,v)は次のようになる。
O(u,v)=Z(u,v)/P(u,v) ・・・(4)
すなわち、(4)式中の逆フィルタ1/P(u,v)を確定できれば、元画像Oのスペクトルを復元することができる。
ところで、P(u0,v0)=0となる空間周波数域(u0,v0)が存在すると、
O(u0,v0)=Z(u0,v0)/P(u0,v0)=0/0=不定 ・・・(5)
となる。
これは、P(u,v)によって伝達されない消失スペクトルについては復元できず、かつ、消失成分の周波数域(u0,v0)については逆フィルタ1/Pが無限大となって確定できないことを意味する。
そこで、点像関数演算部28は、(4)式の逆フィルタ1/Pを、予め定められた上限値cで制限したウィナーフィルタで近似し、逆フィルタとする。
ウィナーフィルタ:P(u,v)/[|P(u,v)|2+1/c] ・・(6)
(B5)点像関数演算部28は、得られた逆フィルタ(ウィナーフィルタ)を、ブレ画像のスペクトルZ(u,v)に作用させることにより、元画像のスペクトルを求める。この元画像のスペクトルを逆周波数変換することにより、元画像の近似的な復元(演算によるブレ修復)を行う。
なお、逆フィルタ(ウィナーフィルタ)を逆周波数変換することにより、点像関数p(x,y)のブレ波形を修復するための波形修復関数を求め、この波形修復関数とブレ画像z(x,y)との畳み込み積分を算出することによって、元画像を近似的に復元してもよい。
このような演算修復方式の撮影処理を完了した後、CPU23はステップS9に動作を移行する。
ステップS9: 撮像装置11は、ステップS7またはステップS8においてブレ修復を完了した画像データを、外部メモリ18に保存する。
[第1実施形態の効果など]
第1実施形態では、露光期間(分割露光期間×分割転送回数)が閾値th1(=転送期間×分割転送回数)以上になると、合成修復方式が選択実施される。
この場合、図3に示すように、分割露光期間は転送期間よりも長くなるため、複数回の分割露光はほぼ連続するようになる。そのため、合成後の画像データにおいて、動体被写体の分離は目立たず、良好な合成画像データを得ることができる。
また、図3に示すように、ユーザーが撮影姿勢を維持する総撮影期間と、露光期間とが実質的に一致する。そのため、期間不一致による違和感をユーザーに与えることがない。また、ユーザーに撮影姿勢の延長を無理に強いるといった不具合も生じない。
一方、露光期間(分割露光期間×分割転送回数)が閾値th1(=転送期間×分割転送回数)未満になると、演算修復方式が選択実施される。
この場合、露光期間は比較的短く、手ブレによる空間周波数成分の消失は少ない。この状態では、空間周波数伝達関数がゼロとなる周波数域は少なく、理想に近い逆フィルタを確定することが可能になる。その結果、演算修復方式による良好なブレ修復効果を得ることができる。
なお、図4は、露光期間が閾値th1未満となるケースにおいて、仮に合成修復方式を実施した場合を示した図である。この図4では、分割露光期間は転送期間よりも短くなるため、分割露光の間に空き時間を挿入する必要が生じる。そのため、分割露光が間歇的に実施されるようになり、合成後の画像データは動体被写体が分離してしまう。また、図4に示すように、空き時間×(分割転送回数−1)の分だけ余計に、ユーザーに撮影姿勢の維持を強いるといった不具合も生じる。
第1実施形態では、図4に示すケースにおいて、合成修復方式に代えて、演算修復方式を実施するため、これらの不具合を回避することができる。
次に、別の実施形態について説明する。
《第2実施形態》
第2実施形態の撮像装置は、第1実施形態の撮像装置11(図1)と同じ構成のため、重複説明を省略する。
図5は、第2実施形態の動作を説明する図である。
以下、図5に示すステップ番号に沿って、動作説明を行う。
ステップS11〜S13: 第1実施形態のステップS1〜S3と同じ動作。
ステップS14:ブレ補正方式選択部22は、合成修復方式に使用する分割露光回数および分割露光期間を、露光期間の設定値から決定する。
次に、ブレ補正方式選択部22は、決定された分割露光回数および分割露光期間に基づいて、分割露光回数分の分割露光にかかる総撮影期間(すなわち、ユーザーが撮影姿勢を維持する期間)を見積もる。
例えば、図3に示すように、決定された分割露光期間が撮像素子13の転送期間よりも長い場合、総撮影期間は露光期間とほぼ等しくなる。
一方、図4に示すように、分割露光期間が転送期間よりも短い場合、総撮影期間は、分割露光期間+転送期間*(分割露光回数−1)とほぼ等しくなる。
ステップS15:続いて、ブレ補正方式選択部22は、総撮影期間と露光期間との差を算出する。
ステップS16: ここで、CPU23は、レリーズスイッチ27が全押しされたか否かを判定する。
全押し操作を検出しない場合、CPU23はステップS11に動作を戻す。
一方、全押し操作を検出した場合、CPU23はステップS17に動作を移行する。
ステップS17: CPU23は、ステップS15で求めた差を、閾値th2で閾値判定する。この閾値th2には、総撮影期間と露光期間との差がユーザーに違和感を与えない限界値を主観実験などから求めた値が予め設定される。
総撮影期間と露光期間の差が閾値th2未満の場合、CPU23は、ブレ補正方式として合成修復方式を選択し、ステップS18に動作を移行する。
一方、総撮影期間と露光期間の差が閾値th2以上の場合、CPU23は、ブレ補正方式として演算修復方式を選択し、ステップS19に動作を移行する。
ステップS18: 合成修復方式の撮影処理を実施する。詳細は第1実施形態のステップS7と同じため、ここでの重複説明を省略する。この動作の後、ステップS20に動作を移行する。
ステップS19: 演算修復方式の撮影処理を実施する。詳細は第1実施形態のステップS8と同じため、ここでの重複説明を省略する。
ステップS20: 撮像装置11は、ステップS18またはステップS19においてブレ修復を完了した画像データを、外部メモリ18に保存する。
[第2実施形態の効果など]
第2実施形態では、合成修復方式に予想される総撮影期間と露光期間との差を閾値判定し、差が閾値以上の場合に演算修復方式を選択する。その結果、合成修復方式の総撮影期間が露光期間からかけ離れてユーザーに違和感を与えるといった状況を予測して、演算修復方式に切り換えることができる。
さらに、差が閾値以上の場合に演算修復方式を選択することにより、合成修復方式の分割露光が間歇的になって合成後の画像データにおいて動体被写体が分離するといった不具合も確実に避けることができる。
《実施形態の補足事項》
なお、第1実施形態では、露光期間と(転送期間*分割露光回数)との比較結果に基づいて、ブレ修復の方式を選択する。しかしながら、本発明はこれに限定されるものではない。一般的には、露光期間の閾値判定に基づいて、ブレ修復の方式を選択することが可能である。
例えば、分割露光期間と転送期間との比較結果に基づいて、ブレ修復の方式を選択してもよい。
また例えば、分割露光期間が1/(135判換算焦点距離)秒程度に設定される場合には、1/(135判換算焦点距離)秒と転送期間との比較結果に基づいて、ブレ修復の方式を選択してもよい。
一方、第2実施形態では、合成修復方式に予想される総撮影期間(分割露光が全て完了するまでの期間)と、露光期間との差に基づいて、ブレ修復の方式を選択する。しかしながら、本発明はこれに限定されるものではない。一般的には、この差と等価な傾向を示す値を用いて、ブレ修復の方式を選択することが可能である。
例えば、(転送期間と分割露光期間との差)×分割露光回数の値に基づいて、ブレ修復の方式を選択してもよい。
以上説明したように、本発明は、撮像装置などに利用可能な技術である。
第1実施形態における撮像装置11の構成を示す図である。 第1実施形態の動作を説明する図である。 合成修復方式のタイミングチャートである。 露光期間が閾値th1未満となった状態で、合成修復方式を選択実施した場合のタイミングチャートである。 第2実施形態の動作を説明する図である。
符号の説明
11 撮像装置
12 撮影レンズ
13 撮像素子
13a シャッタ
14 アナログ信号処理部
15 DSP
16 CCD駆動回路
17 バッファメモリ
20 合成修復部
21 演算修復部
22 ブレ補正方式選択部
23 CPU
24 AE演算部
25 露光期間決定部
26 手ブレ補正モードスイッチ
27 レリーズスイッチ
28 点像関数演算部
30 ズームエンコーダ
31 距離エンコーダ
32 HPF部
33 角速度センサ

Claims (3)

  1. 予め設定された露光期間にわたって被写体像を光電変換し、画像データを生成する撮像部と、
    前記露光期間中の像ブレを表す点像関数の逆フィルタを前記画像データに施して、前記像ブレを修復する演算修復部と、
    前記露光期間を分割した複数回の撮像動作を前記撮像部に実施させ、得られた複数コマの分割画像データを位置合わせして合成することにより、前記画像データの像ブレを修復する合成修復部と、
    前記露光期間を、予め定められた閾値によって判定する露光期間判定部と、
    前記露光期間が前記閾値未満の場合には前記演算修復部によるブレ修復を実行し、前記露光期間が前記閾値以上の場合には前記合成修復部によるブレ修復を実行する選択制御部と
    を備えたことを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置において、
    前記露光期間判定部は、
    『前記撮像部の画像読み出しにかかる転送期間』に『前記合成補正部の分割露光回数』を乗じた乗算結果を前記閾値に使用して、前記露光期間の判定を行う
    ことを特徴とする撮像装置。
  3. 予め設定された露光期間にわたって被写体像を光電変換し、画像データを生成する撮像部と、
    前記露光期間中の像ブレを表す点像関数の逆フィルタを前記画像データに施して、前記像ブレを修復する演算修復部と、
    前記露光期間を分割した複数回の撮像動作を前記撮像部に実施させ、得られた複数コマの分割画像データを位置合わせして合成することにより、前記画像データの像ブレを修復する合成修復部と、
    前記合成修復部による前記複数回の分割露光に所要する総撮影期間と前記露光期間との差を予め定められた閾値によって判定する露光期間判定部と、
    前記総撮影期間と前記露光期間との差が前記閾値以上の場合には、前記演算修復部によるブレ修復を実行し、前記総撮影期間と前記露光期間との差が前記閾値未満の場合には、前記合成修復部によるブレ修復を実行する選択制御部とを備えたことを特徴とする撮像装置。
JP2004268880A 2004-09-15 2004-09-15 撮像装置 Expired - Fee Related JP4677748B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2004268880A JP4677748B2 (ja) 2004-09-15 2004-09-15 撮像装置
US11/660,499 US7675546B2 (en) 2004-09-15 2005-09-14 Imaging device having function for correcting image shake of acquired image
PCT/JP2005/016921 WO2006030819A1 (ja) 2004-09-15 2005-09-14 撮像画像の像ブレ修正機能を有する撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004268880A JP4677748B2 (ja) 2004-09-15 2004-09-15 撮像装置

Publications (2)

Publication Number Publication Date
JP2006086762A JP2006086762A (ja) 2006-03-30
JP4677748B2 true JP4677748B2 (ja) 2011-04-27

Family

ID=36060070

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004268880A Expired - Fee Related JP4677748B2 (ja) 2004-09-15 2004-09-15 撮像装置

Country Status (3)

Country Link
US (1) US7675546B2 (ja)
JP (1) JP4677748B2 (ja)
WO (1) WO2006030819A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8120658B2 (en) 2006-01-19 2012-02-21 Qualcomm Incorporated Hand jitter reduction system for cameras
JP4420906B2 (ja) * 2006-03-29 2010-02-24 三洋電機株式会社 撮像装置
JP4662880B2 (ja) * 2006-04-03 2011-03-30 三星電子株式会社 撮像装置,及び撮像方法
JP2007336524A (ja) * 2006-05-16 2007-12-27 Matsushita Electric Ind Co Ltd 画像処理装置、画像処理プログラム、および撮像装置
JP5507251B2 (ja) * 2006-09-25 2014-05-28 クゥアルコム・インコーポレイテッド カメラの手ぶれ低減システム
JP4884207B2 (ja) * 2006-12-28 2012-02-29 三星電子株式会社 撮像装置、撮像方法およびコンピュータプログラム
JP5507865B2 (ja) * 2009-03-12 2014-05-28 キヤノン株式会社 画像処理装置、画像処理方法
JP5300591B2 (ja) 2009-05-21 2013-09-25 キヤノン株式会社 画像処理装置およびその方法
JP5300590B2 (ja) * 2009-05-21 2013-09-25 キヤノン株式会社 画像処理装置およびその方法
US8289400B2 (en) * 2009-06-05 2012-10-16 Apple Inc. Image capturing device having continuous image capture
JP5281495B2 (ja) * 2009-06-18 2013-09-04 キヤノン株式会社 画像処理装置およびその方法
US8508606B2 (en) * 2009-11-20 2013-08-13 Hon Hai Precision Industry Co., Ltd. System and method for deblurring motion blurred images
JP6097936B2 (ja) * 2013-03-22 2017-03-22 パナソニックIpマネジメント株式会社 ブレ補正装置、交換レンズ、カメラシステム
US11006044B1 (en) * 2020-03-03 2021-05-11 Qualcomm Incorporated Power-efficient dynamic electronic image stabilization
CN115330641B (zh) * 2022-10-12 2023-02-03 天津大学 基于mhd角速度传感器的图像复原方法、***和装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000224470A (ja) * 1999-02-02 2000-08-11 Minolta Co Ltd カメラシステム
JP2005204185A (ja) * 2004-01-16 2005-07-28 Canon Inc 撮影装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62127976A (ja) 1985-11-29 1987-06-10 Kyocera Corp 画像記録処理装置
JP2803072B2 (ja) * 1990-10-18 1998-09-24 富士写真フイルム株式会社 手振れ補正装置
US5365303A (en) * 1992-05-21 1994-11-15 Olympus Optical Co., Ltd. Shake-free image restoration system
JP3096521B2 (ja) 1992-05-21 2000-10-10 オリンパス光学工業株式会社 ぶれ画像復元装置
JPH07123317A (ja) * 1993-10-21 1995-05-12 Canon Inc 防振機能付き撮影装置
DE69423430T2 (de) * 1993-12-02 2000-09-07 Canon Kk Vorrichtung zur Bildzitterkorrektur
JPH09261526A (ja) * 1996-03-19 1997-10-03 Olympus Optical Co Ltd 撮像装置
JP3697129B2 (ja) * 2000-01-20 2005-09-21 キヤノン株式会社 撮像装置
JP3424666B2 (ja) 2000-09-29 2003-07-07 ミノルタ株式会社 デジタルカメラのカメラボディ、および、デジタルカメラのカメラボディを制御するためのプログラムを記録したコンピュータ読み取り可能な記録媒体
US7176962B2 (en) * 2001-03-01 2007-02-13 Nikon Corporation Digital camera and digital processing system for correcting motion blur using spatial frequency
JP3940807B2 (ja) * 2002-02-19 2007-07-04 株式会社ニコン 振れ補正光学系のロック装置
EP1377040A1 (en) * 2002-06-19 2004-01-02 STMicroelectronics S.r.l. Method of stabilizing an image sequence
WO2004059380A1 (ja) * 2002-12-25 2004-07-15 Nikon Corporation ブレ補正カメラシステム
JP2005215388A (ja) * 2004-01-30 2005-08-11 Canon Inc 交換レンズ及びそれを用いたカメラシステム
US7561186B2 (en) * 2004-04-19 2009-07-14 Seiko Epson Corporation Motion blur correction

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000224470A (ja) * 1999-02-02 2000-08-11 Minolta Co Ltd カメラシステム
JP2005204185A (ja) * 2004-01-16 2005-07-28 Canon Inc 撮影装置

Also Published As

Publication number Publication date
US7675546B2 (en) 2010-03-09
US20070253732A1 (en) 2007-11-01
WO2006030819A1 (ja) 2006-03-23
JP2006086762A (ja) 2006-03-30

Similar Documents

Publication Publication Date Title
US7675546B2 (en) Imaging device having function for correcting image shake of acquired image
US8279291B2 (en) Image transforming apparatus using plural feature points and method of controlling operation of same
US7995852B2 (en) Imaging device and imaging method
WO2006064936A1 (en) Image processing and image processing program of image processing
JP2007201534A (ja) 撮像装置
JP2009251492A (ja) 撮像装置および撮像装置の制御方法
JP5046769B2 (ja) 撮像装置及びその制御方法及びプログラム
WO2011114611A1 (ja) 撮像装置、画像処理装置、および画像処理プログラム
US7978223B2 (en) Image capturing apparatus with suppression of image blur and method thereof for suppressing image blur
KR101653272B1 (ko) 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 매체
JP5326809B2 (ja) 撮像装置
US8280170B2 (en) Intermediate image generating apparatus and method of controlling operation of same
JP2007336394A (ja) 撮像装置及び画像合成方法
JP4468598B2 (ja) 画像処理装置及び画像処理プログラムを記録した記録媒体
US20160012562A1 (en) Image processing apparatus and image processing method
JP3937924B2 (ja) 撮像装置及びその制御方法
JP2006332809A (ja) 撮像装置
JP4758379B2 (ja) 撮影装置
JP7176518B2 (ja) 撮像装置、および画像処理方法、並びにプログラム
JP2009111773A (ja) 画像処理装置およびその方法
JP5663989B2 (ja) 撮像装置、および画像合成プログラム
JP7478006B2 (ja) 撮像装置及びその制御方法、プログラム
JP2006332934A (ja) 電子カメラ
JP6669385B2 (ja) 撮像装置、画像処理方法、プログラム、記憶媒体、および、画像処理装置
JP4956341B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110104

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110117

R150 Certificate of patent or registration of utility model

Ref document number: 4677748

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140210

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140210

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees