JP2008078945A - 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム - Google Patents

手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム Download PDF

Info

Publication number
JP2008078945A
JP2008078945A JP2006255101A JP2006255101A JP2008078945A JP 2008078945 A JP2008078945 A JP 2008078945A JP 2006255101 A JP2006255101 A JP 2006255101A JP 2006255101 A JP2006255101 A JP 2006255101A JP 2008078945 A JP2008078945 A JP 2008078945A
Authority
JP
Japan
Prior art keywords
image data
image
camera shake
shake correction
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006255101A
Other languages
English (en)
Other versions
JP4825093B2 (ja
Inventor
Takashi Wakamatsu
隆 若松
Kaoru Nakajo
薫 中条
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2006255101A priority Critical patent/JP4825093B2/ja
Priority to US11/657,546 priority patent/US7826730B2/en
Priority to CNB2007100051766A priority patent/CN100493147C/zh
Priority to KR1020070017813A priority patent/KR100821048B1/ko
Publication of JP2008078945A publication Critical patent/JP2008078945A/ja
Application granted granted Critical
Publication of JP4825093B2 publication Critical patent/JP4825093B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/48Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus
    • G03B17/50Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus with both developing and finishing apparatus
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/64Imaging systems using optical elements for stabilisation of the lateral and angular position of the image
    • G02B27/646Imaging systems using optical elements for stabilisation of the lateral and angular position of the image compensating for small deviations, e.g. due to vibration or shake
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Image Processing (AREA)

Abstract

【課題】より精度の高い手ぶれ補正を行なうことを可能とした手ぶれ補正機能付き撮像装置を提供することである。
【解決手段】本発明の手ぶれ補正機能付き撮像装置では、補正処理部23内のベース画像選択部によって、取り込んだ複数枚の画像データのうちで、画像データ内の手ぶれ量が最小のものを手ぶれ補正を行なう際のベース画像として選択される。よって、手ぶれ補正された(合成された)画像データ上に残るぶれも最小となる。
【選択図】図1

Description

本発明は、手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラムに関し、特に、より精度の高い補正を行なうことを可能とした手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラムに関する。
携帯電話、等に内蔵されるディジタルカメラ(撮像装置)を用いて撮影を行う場合、例えば、携帯電話を持つ手が露光時間の間にぶれることで、その手ぶれの影響が取り込む画像に生じる。この手ぶれによる影響を抑えるために、取り込んだ画像に対して、手ぶれ補正を行っている。
近年、ディジタルカメラ、特に、携帯電話に搭載されたディジタルカメラが急速な勢いで普及している。そして、ユーザのディジタルカメラの性能や利便性に対する要求も高まってきている。
このような要求に応えて、性能面では高画素化やズームの高倍率化が、また、利便性の面では小型化や軽量化が急速に進みつつある。
ところが、これらの性能/利便性の向上が、一方で手ぶれが発生し易い要因となっている。特に、携帯電話に搭載されたディジタルカメラの場合、常に携帯されていることから例えば、非常に暗い場所で撮影されるケースも多くなっているのに対して、フラッシュが搭載されていないことが多く、他のディジタルカメラと比べて手ぶれが発生し易くなっている。
手ぶれに対処する方法としては、光学的に補正する方法、ディジタル処理で補正する方法が従来から提案されている。
一般のディジタルカメラでは、光学的に補正する方法がすでに製品化されており、携帯電話に搭載されたディジタルカメラでは、ディジタル処理で補正する方法が製品化され始めている。
ディジタル処理で手ぶれ補正する方式のカメラでは、連写で取り込んだ複数枚の画像を重ね合わせることで、手ぶれ補正された1枚の画像を得ている。このような手ぶれ補正方式では、通常、重ね合わせを行う際のベースとなる画像を固定している。このため、ベースとなる画像内に発生するぶれを補正することは不可能となり、このぶれ量が補正画像のぶれ量として現れてくる。例えば、連写でn枚の画像を撮影する場合、その1〜n枚目の画像のうち、固定的にm枚目(1≦m≦n)の画像をベース画像とみなして画像を合成する。このとき、m枚目の画像内に発生するぶれが大きい場合、補正画像にも同様のぶれが残ってしまい、期待する補正効果は得られなくなる。
また、この他の手ぶれを補正する技術として、例えば、特許文献1および2の技術が知られている。
特許文献1では、ぶれ補正モードと非ぶれ補正モードの2つのモードを備える電子カメラが示されている。この電子カメラでは、撮影準備期間中(非ぶれ補正モード時)に、CCDの各露光期間にのみぶれ補正を行い、画素データの出力期間にはぶれ補正を行わないようにしている。
また、特許文献2では、ぶれ撮影防止モードの選択時に、ミラー及びシャッタの動作速度を通常撮影モード時と変更して制御できるカメラが示されている。このカメラの撮影モード選択部は、ぶれ防止撮影モード、通常撮影モード等のカメラの撮影モードの選択を行う。また、駆動速度変更部は、撮影モード選択部の選択結果を基に、ミラー及びシャッタの露光開始時の駆動速度の変更指示を、ミラー駆動部およびシャッタ駆動部に出力する。
特開2003−333414号公報 「電子カメラ」 特開平7−28149号公報 「カメラのぶれ防止装置」
本発明の課題は、より精度の高い手ぶれ補正を行なうことを可能とした手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラムを提供することである。
本発明の第1態様の手ぶれ補正機能付き撮像装置は、撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、前記光電変換データを基に、画像データを生成する画像データ生成部と、撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、取り込まれた複数の画像データの中で、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択するベース画像選択部と、選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置である。
ここで、ベース画像選択部によって、取り込んだ複数枚の画像データのうちで、画像データ内の手ぶれ量が最小のものを手ぶれ補正を行なう際のベース画像として選択されるので、手ぶれ補正された(合成された)画像データ上に残るぶれも最小となり、より精度の高い手ぶれ補正を行なうことができる。
本発明の第2態様の手ぶれ補正機能付き撮像装置は、上記第1態様に対して、取り込んだ画像データにおいて、人物の顔の目の開き具合を認識する顔認識部をさらに備え、前記ベース画像選択部は、前記顔認識部によって人物の顔の目が最も大きく開いていると認識された画像データを、位置合わせを行う際のベース画像として選択する手ぶれ補正機能付き撮像装置である。
ここで、顔認識部によって人物の顔の目が最も大きく開いていると認識された画像データが、位置合わせを行う際のベース画像として選択されるので、手ぶれ補正された(合成された)画像データ上にも、目が最も大きく開いている人物の顔が残り、より精度の高い手ぶれ補正を行なうことができる。
本発明の第3態様の手ぶれ補正機能付き撮像装置は、撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、前記光電変換データを基に、画像データを生成する画像データ生成部と、撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、取り込まれた複数の画像データのそれぞれをベース画像として、そのベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理部と、補正処理されたそれぞれの画像データを表示するとともに、表示されたそれぞれの画像データから、1以上の画像データを選択して保存できるユーザインターフェイス部、を備えることを特徴とする手ぶれ補正機能付き撮像装置である。
ここで、補正処理部によって、取り込まれた複数の画像データのそれぞれをベース画像として、手ぶれ補正された(合成された)画像データが生成されるとともに、生成された複数枚の合成された画像データからユーザインターフェイス部を介して保存すべき画像データが選択されるので、例えば、その選択時に、ユーザにとって視覚上最もぶれが少ない合成された画像データを選択することで、より精度の高い手ぶれ補正を行なうことができる。
本発明の第4態様の手ぶれ補正機能付き撮像装置は、撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、前記光電変換データを基に、画像データを生成する画像データ生成部と、撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、取り込まれた複数の画像データを表示するとともに、表示された複数の画像データから、位置合わせを行う際のベース画像を選択できるユーザインターフェイス部と、選択されたベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置である。
ここで、取り込まれた複数の画像データの中から、手ぶれ補正を行なう際のベースとする画像データを、ユーザインターフェイス部を介して指定しているので、例えば、その指定時に、ユーザにとって視覚上最もぶれが少ない画像データを指定することで、より精度の高い手ぶれ補正を行なうことができる。
本発明によれば、連写を行うことで手ぶれ補正を行なう撮像装置を備える機器において、より精度の高い手ぶれ補正を行なうことができる。
以下、本発明の実施の形態を、図面を参照しながら詳細に説明する。
図1は、本発明の各実施形態に共通する撮像装置の構成を示すブロック図である。
図1において、撮像装置10は、レンズ11、イメージセンサ12、撮影制御部13、AGC(Auto Gain Control)回路16、AD変換器(Analog Digital Converter、ADC)17、画像処理部(イメージシグナルプロセッサ(ISP)ともいう)18、メモリ22、補正処理部23、を備える。
レンズ11は、撮像対象(被写体)からの光をイメージセンサ12上に集光する。
イメージセンサ12は、撮像対象からレンズ11を介して受光された光を電荷に光電変換して蓄積する受光部(不図示)と、蓄積された電荷を光電変換データとして出力する信号出力部(不図示)を備える。
AGC回路16は、イメージセンサ12から出力された光電変換データのゲインを制御する。
ADC17は、ゲインが制御された光電変換データをアナログからディジタルに変換する。
画像処理部18は、AD変換器17の出力を基に、画像データを生成する。すなわち、画像処理部18は、ADC17から入力した信号(「生データ」ともいう)を基に、色分離処理、ディスプレイにおいて明るさをリニアに表現するためのガンマ補正処理、光源の温度によらず白を白として表現するためのホワイトバランス制御処理、等を行う。色分離処理を介して、入力信号は、YUV信号、RGB信号、等の要求される形式へ変換される。
撮影制御部13は、撮影指示に対応して、撮像対象に対して算出された露光制御情報を含む制御信号をイメージセンサ12に出力して、そのイメージセンサ12による撮像処理(上記受光部および上記信号出力部による処理)を介して、複数枚の画像データを取り込む。
イメージセンサ12による撮像処理を介して取り込まれた複数枚の画像データは、画像処理部18を介してメモリ22に格納される。
補正処理部23は、メモリ22に格納された複数枚の画像データを読み込んで、それらを基に手ぶれ補正された1枚または複数枚の画像データを生成し、その生成された(手ぶれ補正された)1枚以上の画像データを、後段の画像データ格納用メモリ(不図示)に出力する。補正処理部23の動作は、それぞれの実施形態で異なる。
撮影制御部13、画像処理部18、補正処理部23がプログラムとして実現される場合、撮影制御部13、画像処理部18を実行する中央処理装置(Central Processing Unit、CPU)と、手ぶれ補正の補正処理部23を実行するCPUとは一致してもよいし、別でもよい。
本発明は、手ぶれ補正した画像の画質を向上することをその目的としている。
第1実施形態および第2実施形態では、取り込んだ複数枚の画像データのうちで、画像データ内の手ぶれ量が最小のものを手ぶれ補正を行なう際のベース画像とすることで、その画質の向上を達成している。
また、第3実施形態では、取り込んだ全ての画像データに対して、それがベース画像となった場合の手ぶれ補正処理された画像データを生成し、ユーザがいずれかを選択することで、その画質の向上を達成している。
また、第4実施形態では、取り込んだ複数枚の画像データのいずれかを、手ぶれ補正を行なう際のベース画像としてユーザが選択するとともに、その選択された画像データをベース画像として手ぶれ補正された画像データを生成することで、その画質の向上を達成している。
また、第5実施形態では、人物が撮像対象に含まれている場合に、その人物の顔を認識するとともに、その目が開いているかどうか判定し、目が開いている画像データを手ぶれ補正を行なう際のベース画像とすることで、その画質の向上を達成している。
図2は、第1、第2、および、第3実施形態に共通する補正処理部の構成を示すブロック図である。
図2に示すように、補正処理部30は、手ぶれ検出部31、ベース画像選定部32、手ぶれ補正部33を備える。
手ぶれ検出部31は、取り込んだ複数枚の画像データに対して、例えば、それぞれの画像データ内の濃淡変化の境界であるエッジ(輪郭)を検出し、連写で取り込んだ各画像データ間でそのエッジ部分がどちらの方向にどれだけ移動したかという追跡処理を行ってベクトル量、すなわち、各画像データ間の上下左右および右回転・左回転のぶれ量を算出する。
ベース画像選定部32は、第1および第2実施形態においては、取り込んだ複数枚の画像データに対して、例えば、検出されたエッジ部分の解像度を算出し、取り込んだ複数枚の画像データのうちで、最も解像度が高い画像データを、手ぶれ補正を行なう際にベースとする画像データとして手ぶれ補正部33に出力する。
手ぶれ補正部33は、ベースとなる画像データを基に、取り込んだ複数枚の画像データの位置合わせを行うとともに、位置合わせ情報を基に、取り込んだ複数枚の画像データを1枚の画像データに合成する(手ぶれ補正する)。
図3は、第1実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。このフローチャートは図1の各部および図2の各部によって実行される。
まず、ステップS101において、撮影制御部13によって、連写撮影設定が行われる。連写撮影では、撮影指示に対応して、撮影制御部13によって、撮像対象に対して算出された露光制御情報を含む制御信号がイメージセンサ12に出力される。
そして、続く、ステップS102において、イメージセンサ12による撮像処理(上記受光部および上記信号出力部による処理)を介して、複数枚の画像データが取り込まれる。すなわち、イメージセンサ12によって、撮像対象からレンズ11を介して受光された光が電荷に光電変換されて蓄積されるとともに、その蓄積された電荷が光電変換データとして画像処理部に出力される。
ステップS103では、画像処理部18によって、(撮影)画像データが生成される。すなわち、画像処理部18によって、光電変換データ(入力信号、生データともいう)を基に、色分離処理、ディスプレイにおいて明るさをリニアに表現するためのガンマ補正処理、光源の温度によらず白を白として表現するためのホワイトバランス制御処理、等が行われる。色分離処理を介して、入力信号は、YUV信号、RGB信号、等の要求される形式へ変換される。
そして、ステップS104において、画像処理部18によって生成された画像データがメモリ22に格納される。
なお、連写を行う回数は、例えば撮像装置ごとに予め定められている。続く、ステップS105では、撮影をその予め定められた回数だけ撮影を行ったかどうかが判定される。
ステップS105において予め定められた回数だけ撮影を行っていないと判定された場合、ステップS101に戻る。
一方、ステップS105において予め定められた回数だけ撮影を行ったと判定された場合、ステップS106において、手ぶれ検出部31によって、メモリ22に格納される複数枚(予め定められた回数に対応する枚数)の画像データに対して、例えば、それぞれの画像データ内の濃淡変化の境界であるエッジ(輪郭)が検出され、連写で取り込んだ各画像データ間でそのエッジ部分がどちらの方向にどれだけ移動したかという追跡処理が行われ、その追跡処理の結果としてベクトル量、すなわち、各画像データ間の上下左右および右回転・左回転のぶれ量が算出される。なお、エッジを検出する以外の方法でぶれ量を算出してもよい。
ステップS107では、ベース画像選定部32によって、取り込んだ複数枚の画像データに対して、例えば、検出されたエッジ部分の解像度が算出され、取り込んだ複数枚の画像データのうちで、最も解像度が高い画像データが、手ぶれ補正を行なう際にベースとする画像データとして手ぶれ補正部33に出力される。
続く、ステップS108では、手ぶれ補正部33によって、ベースとなる画像データを基に、取り込んだ複数枚の画像データの位置合わせが行われる。この位置合わせでは、算出された各画像データ間の上下左右および右回転・左回転のぶれ量を用いて、ベースとなる画像データに対して、他の画像データをどれだけ上下左右方向にずらしたり右方向・左方向に回転させたりすれば対応する画素同士が重なるかを算出している。
ステップS109では、手ぶれ補正部33によって、ステップS108で得られた位置合わせ情報を基に、取り込んだ複数枚の画像データが1枚の画像データに合成される。この合成処理では、例えば、すべての画像データにおいて対応がとれている画素については、それら画素の値が重ね合わせられて合成画像中の画素に反映され、また、いずれかの画像データにしか存在しない画素については、その画素の値に画像データを重ねる数が乗算されて合成画像中の画素に反映される。
ステップS110では、補正処理部30によって、合成された画像データが後段の画像データ格納用メモリ(不図示)に出力される。
図4は、第2実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。このフローチャートは図1の各部および図2の各部によって実行される。
図3のステップS106およびS107が図4ではS201およびS202に置き換わっている。ここでは、S201およびS202の処理のみ説明する。
(ステップS105において予め定められた回数だけ撮影を行ったと判定された場合、)ステップS201において、手ぶれ検出部31によって、メモリ22に格納される複数枚(予め定められた回数に対応する枚数)の画像データに対して、例えば、それぞれの画像データ内の濃淡変化の境界であるエッジ(輪郭)が検出されるとともに、そのエッジ部分から、高輝度点、端点、頂点、分岐点、交差点といった特徴的に見分け易い部分のみが特徴点として抽出される。そして、連写で取り込んだ各画像データ間でその特徴点部分がどちらの方向にどれだけ移動したかという追跡処理が行われ、その追跡処理の結果としてベクトル量、すなわち、各画像データ間の上下左右および右回転・左回転のぶれ量が算出される。
ステップS202では、ベース画像選定部32によって、取り込んだ複数枚の画像データに対して、検出された特徴点部分の解像度が算出され、取り込んだ複数枚の画像データのうちで、最も解像度が高い画像データが、手ぶれ補正を行なう際にベースとする画像データとして手ぶれ補正部33に出力される。
続いて、第3実施形態について説明する。
第3実施形態においても、図2の手ぶれ検出部31、手ぶれ補正部33については、第1または第2実施形態と同様であるので説明を省略する。
第3実施形態においては、図2の補正処理部30は、取り込んだ複数枚の画像データのすべてに対して、それをベース画像とする指示をベース画像選定部32に順次出力する。ベース画像選定部32は、補正処理部30から受け取った指示(画像データの番号)を用いて、取り込んだ複数枚の画像データのうちのその番号に対応する画像データを、手ぶれ補正を行なう際にベースとする画像データとして手ぶれ補正部33に出力する。
手ぶれ補正された複数枚の画像データは、補正処理部30の後段の画像データ格納用メモリ(不図示)に出力され格納される。
画像データ格納用メモリに格納された複数枚の画像データのうちの1枚が、撮像装置を内蔵するディジタルカメラ、携帯電話、等の装置が備える画像表示部(不図示)に表示される。ユーザは、ユーザインターフェイス部(不図示)を介して、複数枚の画像データのうちの画像表示部に表示される画像データを切り替えたり、画像データ格納用メモリに格納される複数枚の画像データのうちから保存する画像データを選択したりする。
図5は、第3実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。このフローチャートは図1の各部および図2の各部によって実行される。
なお、ステップS101〜S105については、図3と同様であるので説明を省略する。
(ステップS105において予め定められた回数だけ撮影を行ったと判定された場合、)ステップS301において、取り込んだ複数の画像データを識別する番号を保持するカウンタiの値が「0」に初期化される。
続く、ステップS302では、カウンタiの値がインクリメントされる。
そして、ステップS303において、図2の手ぶれ検出部31によって、メモリ22に格納される複数枚(予め定められた回数に対応する枚数)の画像データに対して、例えば、それぞれの画像データ内の濃淡変化の境界であるエッジ(輪郭)が検出され、連写で取り込んだ各画像データ間でそのエッジ部分がどちらの方向にどれだけ移動したかという追跡処理が行われ、その追跡処理の結果としてベクトル量、すなわち、各画像データ間の上下左右および右回転・左回転のぶれ量が算出される。なお、エッジを検出する以外の方法でぶれ量を算出してもよい。
ステップS304では、図2の手ぶれ補正部33によって、取り込んだ複数の画像データのうちのi番目の画像データを、ベースとなる画像データとして、取り込んだ複数枚の画像データの位置合わせが行われる。この位置合わせでは、算出された各画像データ間の上下左右および右回転・左回転のぶれ量を用いて、ベースとなる画像データに対して、他の画像データをどれだけ上下左右方向にずらしたり右方向・左方向に回転させたりすれば対応する画素同士が重なるかを算出している。
ステップS305では、図2の手ぶれ補正部33によって、ステップS304で得られた位置合わせ情報を基に、取り込んだ複数枚の画像データが1枚の画像データに合成される。この合成処理では、例えば、すべての画像データにおいて対応がとれている画素については、それら画素の値が重ね合わせられて合成画像中の画素に反映され、また、いずれかの画像データにしか存在しない画素については、その画素の値に画像データを重ねる数が乗算されて合成画像中の画素に反映される。なお、合成された画像データは、補正処理部30の後段の画像データ格納用メモリ(図2では不図示)に出力される。
ステップS306では、画像データの合成が所定枚数(=取り込んだ画像データの枚数)分終了したかどうかが判定される。
ステップS306において画像データの合成が所定枚数分終了していないと判定された場合、ステップS302に戻る。
一方、ステップS306において画像データの合成が所定枚数分終了したと判定された場合、制御はステップS307に移る。
ステップS307では、ユーザがユーザインターフェイス部(不図示)を介して行う切り替え指示により、補正処理部30の後段の画像データ格納用メモリに格納される所定枚数の(合成処理された)画像データが、画像表示部(不図示)上に順番に表示される。
ステップS308において、ユーザは、画像表示部上に順番に表示される(合成処理された)画像データを見て、保存したい画像データに対して、ユーザインターフェイス部を介して決定指示を行うことで、その画像データを保存する。
この場合、例えば、ステップS309に示すように、ユーザインターフェイス部によって、保存された画像データがさらに後段のメモリに出力されるようにしてもよい。
図6は、第3実施形態における操作手順を説明する図である。
図6に示すように、例えば、携帯電話等の機種においては、まず、カメラボタン(不図示)が押下されることで、その機種のディスプレイ上に撮像対象が表示される(カメラファインダ表示が行われる)。
そして、シャッタボタンが押下されることで、カメラファインダ表示が停止され、その時点で撮像されていた対象が画像データとして取り込まれる。
また、「⇒」ボタンが押下されることで、ステップS307に示したように、画像表示部へ表示される画像データが、次のものに切り替わる。
また、決定ボタンが押下されることで、ステップS308に示したように、画像表示部に表示されている画像データが保存される。
図7は、第4実施形態の補正処理部の構成を示すブロック図である。
図7に示すように、補正処理部50は、手ぶれ検出部51、手ぶれ補正部53、ユーザインターフェイス部54を備える。
手ぶれ検出部51、手ぶれ補正部53については図2の手ぶれ検出部31、手ぶれ補正部33とそれぞれ同様であるので説明を省略する。
ユーザインターフェイス部54は、連写によってメモリ22に取り込まれた複数枚の画像データの中から、手ぶれ補正を行なう際にベースとする画像データをユーザが指定するために用いられるインターフェイス部である。
メモリ22に格納された複数枚の画像データのうちの1枚が、撮像装置を内蔵するディジタルカメラ、携帯電話、等の装置が備える画像表示部(不図示)に表示される。ユーザは、ユーザインターフェイス部54を介して、複数枚の画像データのうちの画像表示部に表示される画像データを切り替えたり、メモリ22に格納される複数枚の画像データのうちから手ぶれ補正を行なう際にベースとする画像データを選択したりする。
第4実施形態では、補正処理部50は、ユーザがユーザインターフェイス部54を介して指定した画像データをベース画像として、取り込んだ複数枚の画像データに対して手ぶれ補正処理を実行する。
図8は、第4実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。このフローチャートは図1の各部および図7の各部によって実行される。
なお、ステップS101〜S105については、図3と同様であるので説明を省略する。
(ステップS105において予め定められた回数だけ撮影を行ったと判定された場合、)ステップS401において、ユーザがユーザインターフェイス部54を介して行う切り替え指示により、メモリ22に格納される取り込まれた複数枚の画像データが、画像表示部(不図示)上に順番に表示される。
ステップS402において、ユーザは、画像表示部上に順番に表示される(合成処理された)画像データを見て、手ぶれ補正を行なう際にベースとしたい画像データに対して、ユーザインターフェイス部51を介して決定指示を行う。
そして、ステップS403において、図7の手ぶれ検出部51によって、メモリ22に格納される複数枚(予め定められた回数に対応する枚数)の画像データに対して、例えば、それぞれの画像データ内の濃淡変化の境界であるエッジ(輪郭)が検出され、連写で取り込んだ各画像データ間でそのエッジ部分がどちらの方向にどれだけ移動したかという追跡処理が行われ、その追跡処理の結果としてベクトル量、すなわち、各画像データ間の上下左右および右回転・左回転のぶれ量が算出される。なお、エッジを検出する以外の方法でぶれ量を算出してもよい。
ステップS404では、図7の手ぶれ補正部53によって、ユーザインターフェイス部54を介して指定された画像データを、ベースとなる画像データとして、取り込んだ複数枚の画像データの位置合わせが行われる。この位置合わせでは、算出された各画像データ間の上下左右および右回転・左回転のぶれ量を用いて、ベースとなる画像データに対して、他の画像データをどれだけ上下左右方向にずらしたり右方向・左方向に回転させたりすれば対応する画素同士が重なるかを算出している。
ステップS405では、図7の手ぶれ補正部53によって、ステップS404で得られた位置合わせ情報を基に、取り込んだ複数枚の画像データが1枚の画像データに合成される。この合成処理では、例えば、すべての画像データにおいて対応がとれている画素については、それら画素の値が重ね合わせられて合成画像中の画素に反映され、また、いずれかの画像データにしか存在しない画素については、その画素の値に画像データを重ねる数が乗算されて合成画像中の画素に反映される。
ステップS406では、補正処理部50によって、合成された画像データが後段の画像データ格納用メモリ(不図示)に出力される。
図9は、第4実施形態における操作手順を説明する図である。
図9に示すように、例えば、携帯電話等の機種においては、まず、カメラボタン(不図示)が押下されることで、その機種のディスプレイ上に撮像対象が表示される(カメラファインダ表示が行われる)。
そして、シャッタボタンが押下されることで、カメラファインダ表示が停止され、その時点で撮像されていた対象が画像データとして取り込まれる。
また、「⇒」ボタンが押下されることで、ステップS401に示したように、画像表示部へ表示される画像データが、次のものに切り替わる。
また、決定ボタンが押下されることで、ステップS402に示したように、画像表示部に表示されている画像データが、手ぶれ補正を行なう際のベースとなる画像データとして選択される。
図10は、第5実施形態の補正処理部の構成を示すブロック図である。
図10に示すように、補正処理部60は、顔認識部61、手ぶれ検出部62、手ぶれ補正部63、を備える。
手ぶれ検出部62、手ぶれ補正部63については図2の手ぶれ検出部31、手ぶれ補正部33とそれぞれ同様であるので説明を省略する。
顔認識部61は、まず、顔の探索領域の検出を行なう。すなわち、画像データから色情報として肌色領域を抽出し、その肌色領域の形・面積が顔の領域としての条件を満たしている場合に、その抽出した肌色領域を顔の探索領域とする。
次に、顔認識部61は、顔の要素(右眉、左眉、右目、左目、鼻孔、口)の候補となる顔特徴点の抽出を行う。検出された顔の探索領域から、例えば、以下に該当する領域を顔特徴点として抽出する。
1.水平に細長い領域
2.楕円のような形状をしており、色が赤い領域
3.輝度値が肌色領域の輝度値よりも暗い領域
例えば、水平に細長く、輝度値が暗くて変化が小さい顔特徴点は眉や閉じた目とみなせる。また、楕円のような形状をしており、楕円の中有新部分の暗い領域が回りの2つの明るい領域に挟まれている顔特徴点は開いた目とみなせる。また、楕円のような形状をしており、色情報がやや赤に近い顔特徴点は口とみなせる。
メモリ22に格納された複数枚の画像データのうちで、顔認識部61によって、両目が検出され、その両目の開き具合が最も大きい画像データが、手ぶれ補正を行なう際にベースとする画像データとして選択される。
第5実施形態では、補正処理部60は、顔認識部61によって選択された画像データをベース画像として、取り込んだ複数枚の画像データに対して手ぶれ補正処理を実行する。
図11は、第5実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。このフローチャートは図1の各部および図10の各部によって実行される。
なお、ステップS101〜S105については、図3と同様であるので説明を省略する。
(ステップS105において予め定められた回数だけ撮影を行ったと判定された場合、)ステップS501において、顔認識部61によって、例えば、撮像対象が人物の顔を含む場合は、取り込まれたそれぞれの画像データに対して顔特徴点が検出される。
ステップS502では、補正処理部60によって、ステップS501の検出結果中に顔の両目が含まれる画像データがあるかどうかが判定される。
ステップS502において検出結果中に顔の両目が含まれる画像データがないと判定された場合、ステップS504に進む。この場合、取り込んだ複数枚の画像データのうちの予め定められた番号の画像データが、ベースとなる画像データとして選定される。
一方、ステップS502において検出結果中に顔の両目が含まれる画像データが1枚以上あると判定された場合、ステップS503において、顔認識部61によって、その両目が含まれる画像データのうちで、両目が最も大きく開かれた画像データが、手ぶれ補正を行なう際のベースとなる画像データとして選定される。
そして、ステップS504において、図10の手ぶれ検出部62によって、メモリ22に格納される複数枚(予め定められた回数に対応する枚数)の画像データに対して、例えば、それぞれの画像データ内の濃淡変化の境界であるエッジ(輪郭)が検出され、連写で取り込んだ各画像データ間でそのエッジ部分がどちらの方向にどれだけ移動したかという追跡処理が行われ、その追跡処理の結果としてベクトル量、すなわち、各画像データ間の上下左右および右回転・左回転のぶれ量が算出される。なお、エッジを検出する以外の方法でぶれ量を算出してもよい。
ステップS505では、図10の手ぶれ補正部63によって、顔認識部61によって選定された画像データを、ベースとなる画像データとして、取り込んだ複数枚の画像データの位置合わせが行われる。この位置合わせでは、算出された各画像データ間の上下左右および右回転・左回転のぶれ量を用いて、ベースとなる画像データに対して、他の画像データをどれだけ上下左右方向にずらしたり右方向・左方向に回転させたりすれば対応する画素同士が重なるかを算出している。
ステップS506では、図10の手ぶれ補正部63によって、ステップS505で得られた位置合わせ情報を基に、取り込んだ複数枚の画像データが1枚の画像データに合成される。この合成処理では、例えば、すべての画像データにおいて対応がとれている画素については、それら画素の値が重ね合わせられて合成画像中の画素に反映され、また、いずれかの画像データにしか存在しない画素については、その画素の値に画像データを重ねる数が乗算されて合成画像中の画素に反映される。
ステップS507では、補正処理部60によって、合成された画像データが後段の画像データ格納用メモリ(不図示)に出力される。
図12は、記憶媒体例を示す図である。
本発明の手ぶれ補正処理は、画像データ処理装置81によって実現することが可能である。本発明の処理のためのプログラムやデータは、画像データ処理装置81の記憶装置85から画像データ処理装置81のメモリにロードして実行することも、可搬型記憶媒体83から画像データ処理装置81のメモリにロードして実行することも、外部記憶装置82からネットワーク86を介して画像データ処理装置81のメモリにロードして実行することも可能である。
本発明は下記構成でもよい。
(付記1) 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
前記光電変換データを基に、画像データを生成する画像データ生成部と、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
取り込まれた複数の画像データの中で、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択するベース画像選択部と、
選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
(付記2) 前記ベース画像選択部は、前記複数の画像データのそれぞれに対する特徴点抽出の結果を基に、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択することを特徴とする付記1記載の手ぶれ補正機能付き撮像装置。
(付記3) 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
前記光電変換データを基に、画像データを生成する画像データ生成部と、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
取り込まれた複数の画像データに含まれる、人物の顔の目の開き具合を認識する顔認識部と、
前記顔認識部によって人物の顔の目が最も大きく開いていると認識された画像データを、位置合わせを行う際のベース画像として選択するベース画像選択部と、
選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
(付記4) 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
前記光電変換データを基に、画像データを生成する画像データ生成部と、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
取り込まれた複数の画像データのそれぞれをベース画像として、そのベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理部と、
補正処理されたそれぞれの画像データを表示するとともに、表示されたそれぞれの画像データから、1以上の画像データを選択して保存できるユーザインターフェイス部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
(付記5) 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
前記光電変換データを基に、画像データを生成する画像データ生成部と、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
取り込まれた複数の画像データを表示するとともに、表示された複数の画像データから、位置合わせを行う際のベース画像を選択できるユーザインターフェイス部と、
選択されたベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
(付記6) 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
取り込まれた複数の画像データの中で、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択するベース画像選択ステップと、
選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
(付記7) 前記ベース画像選択ステップにおいて、前記複数の画像データのそれぞれに対する特徴点抽出の結果を基に、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択することを特徴とする付記6記載の手ぶれ補正方法。
(付記8) 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
取り込まれた複数の画像データに含まれる、人物の顔の目の開き具合を認識する顔認識ステップと、
前記顔認識ステップにおいて人物の顔の目が最も大きく開いていると認識された画像データを、位置合わせを行う際のベース画像として選択するベース画像選択ステップと、
選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
(付記9) 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
取り込まれた複数の画像データのそれぞれをベース画像として、そのベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
(付記10) 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
取り込まれた複数の画像データからユーザインターフェイス部を介して選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
(付記11) 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータに実行させる手ぶれ補正処理プログラムにおいて、
前記取り込まれた複数の画像データの中で、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択するベース画像選択ステップと、
選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行う位置合わせステップと、
位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正画像生成ステップ、を前記コンピュータに実行させることを特徴とする手ぶれ補正処理プログラム。
(付記12) 前記ベース画像選択ステップにおいて、前記複数の画像データのそれぞれに対する特徴点抽出の結果を基に、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択することを特徴とする付記11記載の手ぶれ補正処理プログラム。
(付記13) 前記コンピュータは、手ぶれ補正機能付き撮像装置に内蔵されることを特徴とする付記11記載の手ぶれ補正処理プログラム。
(付記14) 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータに実行させる手ぶれ補正処理プログラムにおいて、
イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
取り込まれた複数の画像データに含まれる、人物の顔の目の開き具合を認識する顔認識ステップと、
前記顔認識ステップにおいて人物の顔の目が最も大きく開いていると認識された画像データを、位置合わせを行う際のベース画像として選択するベース画像選択ステップと、
選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理ステップ、を前記コンピュータに実行させることを特徴とする手ぶれ補正処理プログラム。
(付記15) 前記コンピュータは、手ぶれ補正機能付き撮像装置に内蔵されることを特徴とする付記14記載の手ぶれ補正処理プログラム。
本発明の各実施形態に共通する撮像装置の構成を示すブロック図である。 第1、第2、および、第3実施形態に共通する補正処理部の構成を示すブロック図である。 第1実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。 第2実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。 第3実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。 第3実施形態における操作手順を説明する図である。 第4実施形態の補正処理部の構成を示すブロック図である。 第4実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。 第4実施形態における操作手順を説明する図である。 第5実施形態の補正処理部の構成を示すブロック図である。 第5実施形態における、撮像処理および手ぶれ補正処理のフローチャートである。 記憶媒体例を示す図である。
符号の説明
10 撮像装置
11 レンズ
12 イメージセンサ
13 撮影制御部
16 AGC回路
17 ADC
18 画像処理部(ISP)
22 メモリ
23、30、50、60 補正処理部
31、51、62 手ぶれ検出部
32 ベース画像選定部
33、53、63 手ぶれ補正部
54 ユーザインターフェイス部
61 顔認識部

Claims (10)

  1. 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
    前記光電変換データを基に、画像データを生成する画像データ生成部と、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
    取り込まれた複数の画像データの中で、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択するベース画像選択部と、
    選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
  2. 前記ベース画像選択部は、前記複数の画像データのそれぞれに対する特徴点抽出の結果を基に、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択することを特徴とする請求項1記載の手ぶれ補正機能付き撮像装置。
  3. 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
    前記光電変換データを基に、画像データを生成する画像データ生成部と、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
    取り込まれた複数の画像データに含まれる、人物の顔の目の開き具合を認識する顔認識部と、
    前記顔認識部によって人物の顔の目が最も大きく開いていると認識された画像データを、位置合わせを行う際のベース画像として選択するベース画像選択部と、
    選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
  4. 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
    前記光電変換データを基に、画像データを生成する画像データ生成部と、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
    取り込まれた複数の画像データのそれぞれをベース画像として、そのベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理部と、
    補正処理されたそれぞれの画像データを表示するとともに、表示されたそれぞれの画像データから、1以上の画像データを選択して保存できるユーザインターフェイス部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
  5. 撮像対象物から受光した光を光電変換して、光電変換データを出力するイメージセンサと、
    前記光電変換データを基に、画像データを生成する画像データ生成部と、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御部と、
    取り込まれた複数の画像データを表示するとともに、表示された複数の画像データから、位置合わせを行う際のベース画像を選択できるユーザインターフェイス部と、
    選択されたベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理部、を備えることを特徴とする手ぶれ補正機能付き撮像装置。
  6. 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
    イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
    前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
    取り込まれた複数の画像データの中で、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択するベース画像選択ステップと、
    選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
  7. 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
    イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
    前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
    取り込まれた複数の画像データに含まれる、人物の顔の目の開き具合を認識する顔認識ステップと、
    前記顔認識ステップにおいて人物の顔の目が最も大きく開いていると認識された画像データを、位置合わせを行う際のベース画像として選択するベース画像選択ステップと、
    選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
  8. 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
    イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
    前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
    取り込まれた複数の画像データのそれぞれをベース画像として、そのベース画像を基に取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
  9. 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータが実行する手ぶれ補正方法において、
    イメージセンサを用いて撮像対象物から受光した光を光電変換して、光電変換データを出力するステップと、
    前記光電変換データを基に、画像データを生成する画像データ生成ステップと、
    撮影指示に対応して、露光制御情報を前記イメージセンサに出力して、複数の画像データを取り込む撮影制御ステップと、
    取り込まれた複数の画像データからユーザインターフェイス部を介して選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行うとともに、位置合わせの結果を基にそれら複数の画像データを合成して1つの画像データを生成する補正処理ステップ、を備えることを特徴とする手ぶれ補正方法。
  10. 撮影指示に対応して取り込まれた複数の画像データに対する手ぶれ補正処理をコンピュータに実行させる手ぶれ補正処理プログラムにおいて、
    前記取り込まれた複数の画像データの中で、画像データ内のぶれの最も少ない画像データを、位置合わせを行う際のベース画像として選択するベース画像選択ステップと、
    選択されたベース画像を基に、取り込まれた複数の画像データに対する位置合わせを行う位置合わせステップと、
    位置合わせの結果を基に、それら複数の画像データを合成して1つの画像データを生成する補正画像生成ステップ、を前記コンピュータに実行させることを特徴とする手ぶれ補正処理プログラム。
JP2006255101A 2006-09-20 2006-09-20 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム Expired - Fee Related JP4825093B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2006255101A JP4825093B2 (ja) 2006-09-20 2006-09-20 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム
US11/657,546 US7826730B2 (en) 2006-09-20 2007-01-25 Image capturing device having a hand shake correction function, hand shake correction method, and storage medium storing a hand shake correction process program
CNB2007100051766A CN100493147C (zh) 2006-09-20 2007-02-15 具手部抖动校正功能的图像获取装置和手部抖动校正方法
KR1020070017813A KR100821048B1 (ko) 2006-09-20 2007-02-22 손떨림 보정 기능을 갖는 촬상 장치, 손떨림 보정 방법,및, 손떨림 보정 처리 프로그램을 기록한 기록 매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006255101A JP4825093B2 (ja) 2006-09-20 2006-09-20 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム

Publications (2)

Publication Number Publication Date
JP2008078945A true JP2008078945A (ja) 2008-04-03
JP4825093B2 JP4825093B2 (ja) 2011-11-30

Family

ID=39188725

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006255101A Expired - Fee Related JP4825093B2 (ja) 2006-09-20 2006-09-20 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム

Country Status (4)

Country Link
US (1) US7826730B2 (ja)
JP (1) JP4825093B2 (ja)
KR (1) KR100821048B1 (ja)
CN (1) CN100493147C (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010009586A (ja) * 2008-06-27 2010-01-14 Altek Corp デジタル画像合成方法
WO2019176177A1 (ja) * 2018-03-16 2019-09-19 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009001467A1 (ja) * 2007-06-28 2008-12-31 Fujitsu Limited 低照度環境における撮影画像の明るさを改善する電子機器
JP4534172B2 (ja) * 2008-04-03 2010-09-01 ソニー株式会社 画像処理装置、画像処理方法、及びプログラム
US8199212B2 (en) * 2008-05-03 2012-06-12 Olympus Imaging Corp. Image recording and playback device, and image recording and playback method
JP5300590B2 (ja) * 2009-05-21 2013-09-25 キヤノン株式会社 画像処理装置およびその方法
CN102480590B (zh) * 2010-11-22 2015-02-18 华晶科技股份有限公司 一种电子装置、影像拍摄装置及其方法
TWI445396B (zh) 2010-11-22 2014-07-11 Altek Corp 電子裝置、影像擷取裝置及其方法
JP6575845B2 (ja) * 2012-07-31 2019-09-18 日本電気株式会社 画像処理システム、画像処理方法及びプログラム
US9363438B2 (en) * 2013-07-23 2016-06-07 Michael BEN ISRAEL Digital image processing
US9672608B2 (en) 2013-08-22 2017-06-06 Olympus Corporation Image processing device, endoscope apparatus, image processing method, and program
JP6230333B2 (ja) * 2013-08-22 2017-11-15 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
CN107534722B (zh) 2015-03-31 2019-09-20 华为技术有限公司 一种终端设备和拍照的方法
GB2541179B (en) 2015-07-31 2019-10-30 Imagination Tech Ltd Denoising filter
CN106559615B (zh) * 2015-09-29 2020-04-03 宁波舜宇光电信息有限公司 摄像模组光学防抖***的校正设备及其校正方法
JP6767383B2 (ja) * 2015-11-18 2020-10-14 オリンパス株式会社 画像処理装置、画像処理方法およびプログラム
CN105578061A (zh) * 2016-02-25 2016-05-11 广东欧珀移动通信有限公司 一种拍照防抖的方法、装置及移动终端
CN105744116A (zh) * 2016-02-25 2016-07-06 广东欧珀移动通信有限公司 检测方法、控制方法、检测装置、控制装置及电子装置
JP2017192086A (ja) * 2016-04-15 2017-10-19 キヤノン株式会社 画像生成装置、画像観察装置、撮像装置および画像処理プログラム
US10719927B2 (en) * 2017-01-04 2020-07-21 Samsung Electronics Co., Ltd. Multiframe image processing using semantic saliency
US10706512B2 (en) * 2017-03-07 2020-07-07 Adobe Inc. Preserving color in image brightness adjustment for exposure fusion
CN110312068B (zh) * 2018-03-20 2021-09-28 罗伯特·博世有限公司 图像捕获设备和处理方法
CN111062881A (zh) * 2019-11-20 2020-04-24 RealMe重庆移动通信有限公司 图像处理方法及装置、存储介质、电子设备
WO2021102893A1 (zh) * 2019-11-29 2021-06-03 Oppo广东移动通信有限公司 视频防抖优化处理方法和装置、电子设备
JP7127661B2 (ja) * 2020-03-24 2022-08-30 トヨタ自動車株式会社 開眼度算出装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244851A (ja) * 1999-02-18 2000-09-08 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2002307876A (ja) * 2001-04-12 2002-10-23 Konica Corp Idカード作成システム及び画像処理方法
JP2005122721A (ja) * 2003-09-25 2005-05-12 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2006087083A (ja) * 2004-08-16 2006-03-30 Canon Inc 撮像装置及び撮像装置の制御方法
JP2006246309A (ja) * 2005-03-07 2006-09-14 Canon Inc 画像処理装置および画像処理方法
JP2006270238A (ja) * 2005-03-22 2006-10-05 Nikon Corp 画像処理装置、電子カメラ、および画像処理プログラム
JP2008060927A (ja) * 2006-08-31 2008-03-13 Sanyo Electric Co Ltd 画像合成装置及び方法並びに撮像装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0728149A (ja) 1993-07-13 1995-01-31 Olympus Optical Co Ltd カメラのぶれ防止装置
KR100208723B1 (ko) * 1997-08-08 1999-07-15 윤종용 카메라 떨림보정 시스템에서 미러의 위치를 정확히검출하기 위한 장치
JP2000115511A (ja) 1998-09-30 2000-04-21 Minolta Co Ltd 画像処理装置
JP4377472B2 (ja) 1999-03-08 2009-12-02 株式会社東芝 顔画像処理装置
JP3600755B2 (ja) * 1999-05-13 2004-12-15 三菱電機株式会社 顔画像処理装置
US6548800B2 (en) * 2001-04-09 2003-04-15 Microsoft Corporation Image blur detection methods and arrangements
KR100838222B1 (ko) * 2002-03-12 2008-06-13 삼성테크윈 주식회사 스트로보 광량 보상 기능을 가지는 카메라 및 그 제어방법
JP3632677B2 (ja) 2002-05-13 2005-03-23 ミノルタ株式会社 電子カメラ
US7295232B2 (en) * 2003-01-15 2007-11-13 Canon Kabushiki Kaisha Camera and program
JP2006140971A (ja) * 2004-11-15 2006-06-01 Canon Inc 画像処理装置及び画像処理方法
US8654201B2 (en) * 2005-02-23 2014-02-18 Hewlett-Packard Development Company, L.P. Method for deblurring an image

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000244851A (ja) * 1999-02-18 2000-09-08 Canon Inc 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2002307876A (ja) * 2001-04-12 2002-10-23 Konica Corp Idカード作成システム及び画像処理方法
JP2005122721A (ja) * 2003-09-25 2005-05-12 Fuji Photo Film Co Ltd 画像処理方法および装置並びにプログラム
JP2006087083A (ja) * 2004-08-16 2006-03-30 Canon Inc 撮像装置及び撮像装置の制御方法
JP2006246309A (ja) * 2005-03-07 2006-09-14 Canon Inc 画像処理装置および画像処理方法
JP2006270238A (ja) * 2005-03-22 2006-10-05 Nikon Corp 画像処理装置、電子カメラ、および画像処理プログラム
JP2008060927A (ja) * 2006-08-31 2008-03-13 Sanyo Electric Co Ltd 画像合成装置及び方法並びに撮像装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010009586A (ja) * 2008-06-27 2010-01-14 Altek Corp デジタル画像合成方法
WO2019176177A1 (ja) * 2018-03-16 2019-09-19 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JPWO2019176177A1 (ja) * 2018-03-16 2021-01-07 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP6996616B2 (ja) 2018-03-16 2022-01-17 ソニーグループ株式会社 情報処理装置、情報処理方法、及びプログラム
US11379961B2 (en) 2018-03-16 2022-07-05 Sony Corporation Information processing apparatus, information processing method, and program

Also Published As

Publication number Publication date
KR20080026460A (ko) 2008-03-25
US20080069551A1 (en) 2008-03-20
KR100821048B1 (ko) 2008-04-08
JP4825093B2 (ja) 2011-11-30
CN100493147C (zh) 2009-05-27
US7826730B2 (en) 2010-11-02
CN101150665A (zh) 2008-03-26

Similar Documents

Publication Publication Date Title
JP4825093B2 (ja) 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、および、手ぶれ補正処理プログラム
KR100840856B1 (ko) 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램을기록한 기록 매체, 및 촬상 장치
US8212895B2 (en) Digital camera system with portrait effect
JP4783252B2 (ja) 手ぶれ補正機能付き撮像装置、手ぶれ補正方法、手ぶれ補正処理の前処理プログラム、および、保存画像決定プログラム
JP5136669B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4872797B2 (ja) 撮像装置、撮像方法および撮像プログラム
KR101817657B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
JP5112104B2 (ja) 画像処理装置及び画像処理プログラム
KR101303410B1 (ko) 촬상장치 및 촬상방법
US20100295962A1 (en) Imaging apparatus and hdri method
US9241109B2 (en) Image capturing apparatus, control method, and recording medium for moving image generation
JP2007206583A (ja) 撮像装置及びそのプログラム
KR101728042B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
WO2008010559A1 (fr) Appareil d'imagerie
KR20110138162A (ko) 화상 처리 장치, 화상 처리 방법 및 프로그램을 기록한 기록 매체
JP2008301355A (ja) 撮像装置及びそのプログラム
JP2010011153A (ja) 撮像装置、撮像方法及びプログラム
JP4807623B2 (ja) 撮像装置、撮像方法及び撮像プログラム
JP6024135B2 (ja) 被写体追尾表示制御装置、被写体追尾表示制御方法およびプログラム
JP2010192957A (ja) 電子カメラ
US8411170B2 (en) Image processing device and image processing program
JP5182395B2 (ja) 撮像装置、撮像方法および撮像プログラム
JP5541956B2 (ja) 画像合成方法、画像合成プログラムおよび画像合成装置
JP2011102992A (ja) 撮像装置及びそのプログラム
JP5083116B2 (ja) 撮影装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090512

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110906

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110909

R150 Certificate of patent or registration of utility model

Ref document number: 4825093

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140916

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees