JP2003274281A - 撮像装置 - Google Patents

撮像装置

Info

Publication number
JP2003274281A
JP2003274281A JP2003026230A JP2003026230A JP2003274281A JP 2003274281 A JP2003274281 A JP 2003274281A JP 2003026230 A JP2003026230 A JP 2003026230A JP 2003026230 A JP2003026230 A JP 2003026230A JP 2003274281 A JP2003274281 A JP 2003274281A
Authority
JP
Japan
Prior art keywords
image
pixel
pixel shift
camera
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003026230A
Other languages
English (en)
Other versions
JP3754964B2 (ja
Inventor
Ichiro Onuki
一朗 大貫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2003026230A priority Critical patent/JP3754964B2/ja
Publication of JP2003274281A publication Critical patent/JP2003274281A/ja
Application granted granted Critical
Publication of JP3754964B2 publication Critical patent/JP3754964B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

(57)【要約】 【課題】 被写体の輝度分布に応じた広ダイナミックレ
ンジの画像を得るようにする。 【解決手段】 所定の露光量で露光し取得した被写体像
の複数組の画像信号を記憶し、上記被写体像を複数の領
域に分割して測光し、上記測光結果に基づいて上記記憶
した複数組間の画像の露光量を調節することにより、撮
像画面内の被写体輝度分布に応じて複数画像間の露光レ
ベルを調節し、これを合成してダイナミックレンジの拡
大を図るようにして、低価格で狭ダイナミックレンジの
素子を用いながら広ダイナミックレンジの画像を得るこ
とができるようにする。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は撮像装置に関し、特
に、画像の露光レベルを調節するために用いて好適なも
のである。
【0002】
【従来の技術】銀塩フィルムを用いたカメラに対し、C
CD等の固体撮像素子を用いた、いわゆる電子スチルカ
メラが既に商品化されている。この電子スチルカメラは
即時性の点で銀塩カメラに優るものの、撮像素子の解像
度及びダイナミックレンジの能力の点で銀塩カメラより
劣っている。
【0003】そこで上記第1の欠点である解像度の能力
不足を改善するため、従来より、結像光学系により形成
された被写体像と、この被写体像を光電変換する撮像素
子との相対位置を微少変化させながら複数回の撮影を行
って複数組の画像信号を得、この複数組の画像信号を所
定の方法で合成することにより高精細な画像を得る、い
わゆる画素ずらし技術を用いた撮像装置が既に提案され
ている。この画素ずらしの先行技術文献としては、例え
ば以下に示すような特許公開公報がある。
【0004】特開昭60−27278号公報(特許文献
1)では、撮影光学系前方の楔形プリズムを光軸回りに
回動させて、撮像素子上の光学像を平行偏心させ、出力
画像を合成して高精細画像を得ている。特開昭60−9
1774号公報(特許文献2)では、変倍系とマスター
系で構成された撮影光学系において、マスター系の一部
のレンズを光軸に対して垂直方向にシフトさせ、撮像素
子上の光学像を平行偏心させて、出力画像を合成し高精
細画像を得ている。特開昭61−236282号公報
(特許文献3)では、撮像素子前方の平行平面透明体を
光軸と直交する軸回りに回動させて、撮像素子上の光学
像を平行偏心させ、出力画像を合成して高精細画像を得
ている。特開平7−287268号公報(特許文献4)
では、撮影光学系前方の可変頂角プリズムを手振れ信号
と画素ずらし信号に基づいて駆動し、撮像素子上の光学
像を平行偏心させて、手振れによる像振れの解消と画素
ずらしによる画像の高精細化を同時に達成している。
【0005】しかしながらこのような画素ずらし技術
は、スチルカメラの多重露光と同様に、最初の画像信号
と最後の画像信号の取得時刻の間隔が長くなり、その間
に手振れが生ずると画質低下を来たし、画素ずらしによ
る高精細化が望めない。そこでこの欠点を解消するため
の先行技術文献としては、例えば以下に示すような特許
公開公報がある。
【0006】特開平7−240932号公報(特許文献
5)では、撮影光学系前方の可変頂角プリズム或いは撮
影光学系後方の移動レンズ群により、手振れによる像振
れの解消と画素ずらしによる画像の高精細化を同時に達
成している。また、前記特開平7−287268号公報
でも、撮影光学系の焦点距離が所定値以上の時は画素ず
らし駆動精度が低下するため、画素ずらし制御を禁止す
る旨の開示がなされている。
【0007】また、前記第2の欠点であるダイナミック
レンジの能力不足を改善するための先行技術文献として
以下に示すような特許公開公報がある。特開平1−31
9370号公報(特許文献6)では、1組の撮像素子に
対して露光量が異なるように複数回の露光を行い、この
操作によって得た画像を合成し、広ダイナミックレンジ
画像を得ている。特開平7−264488号公報(特許
文献7)では、感度特性の異なる複数組の撮像素子で得
た画像信号を合成し、広ダイナミックレンジ画像を得て
いる。
【0008】さらに、前記第1及び第2の欠点を同時に
解消する先行技術として、特開平8−37628号公報
(特許文献8)では、画素ずらしのための複数の画像の
うち少なくとも1組の画像は、他の画像に対して露光量
を変えて得ることにより、高精細かつ広ダイナミックレ
ンジ画像を得ている。
【0009】一方、撮像素子を有する撮像装置では、撮
像素子の時系列的出力から画像の動きベクトルを求め、
撮影に先立って画像振れを判断することが可能である。
そこでこの分野の先行技術として、特開平2−5707
8号公報(特許文献9)においては、画像の動きベクト
ルを連続的に検出し、該動きベクトルが最小になった時
点での画像を最終的な記録画像とすることにより、露光
中の手振れの影響を抑える旨の開示がある。また特開平
8−172568号公報(特許文献10)では、画素ず
らし用の複数の画像間の動きベクトルを求め、手振れや
被写体振れによる像振れ成分を補間によって取り除いて
から画像合成を行い、画像の高精細化を図る開示がなさ
れている。
【0010】
【特許文献1】特開昭60−27278号公報
【特許文献2】特開昭60−91774号公報
【特許文献3】特開昭61−236282号公報
【特許文献4】特開平7−287268号公報
【特許文献5】特開平7−240932号公報
【特許文献6】特開平1−319370号公報
【特許文献7】特開平7−264488号公報
【特許文献8】特開平8−37628号公報
【特許文献9】特開平2−57078号公報
【特許文献10】特開平8−172568号公報
【0011】
【発明が解決しようとする課題】しかしながら前記各公
報に開示された従来例では以下のような欠点があった。
特開昭60−27278号、特開昭60−91774
号、特開昭61−236282号の各公報では、手振れ
補正機構を有していないため、手振れによる像振れが大
きな撮影条件下では高精細な画像を得ることができな
い。これは、画素ずらし用に複数組の画像を得る操作が
多重露光と同様の操作であるため、第1組目の画像取り
込みから最終組の画像取り込みまでの時間が通常撮影の
露光時間に比べてはるかに長くなり、その結果、手振れ
の影響をより強く受けるためである。
【0012】特開平7−287268号公報では、手振
れ補正及び画素ずらし用の光束偏向手段である可変頂角
プリズムが撮影光学系の前方にあるため、手振れ信号を
可変頂角プリズムの駆動量に変換する係数(手振れ補正
係数)はズーミングによって変動しない。従ってズーミ
ングに際しては、画素ずらし信号を可変頂角プリズムの
駆動量に変換する係数(画素ずらし補正係数)のみを変
えればよかった。しかし撮影光学系の小型化を図るため
に光束偏向手段を撮影光学系内に設けると、ズーミング
に際して手振れ信号と画素ずらし信号の両方をそれぞれ
固有の係数で変換し、光束偏向手段を駆動しなければな
らないが、この公報にはこのような開示がない。
【0013】また、この公報では、画素ずらし機構を、
動画を記録するビデオカメラ(カムコーダ)に適用して
いるため、画像の取り込みサイクルは動画のフィールド
周波数で決まり、一定である。しかし画素ずらし機構
を、静止画を記録するいわゆる電子スチルカメラに適用
すると、画像取り込みサイクルを撮像素子の電荷蓄積時
間(すなわち被写体輝度)に応じて変化可能な撮像素子
を使用した方が、広範な輝度範囲の被写体に対応でき
る。しかしこの場合、画像取り込みサイクルが伸びると
手振れの影響がより強く表れるため、画素ずらし動作を
撮影条件に応じてきめこまかく制御する必要がある。し
かしこの公報には、撮影光学系の焦点距離に応じて画素
ずらし動作を変える記載しかない。さらにダイナミック
レンジの拡大に関する記載がない。
【0014】特開平7−240932号公報では、手振
れ補正の精度が足りなかったり手振れ補正が失敗した場
合にも画素ずらしを実行するため、高精細画像が得られ
ないばかりか、画素ずらし制御を行わないオリジナル画
像よりも低画質の画像が得られてしまう場合がある。特
開平7−287268号公報では、所定の画素ずらし精
度が得られないと予想される条件下では画素ずらしを禁
止しているが、実際の手振れの影響を基に判断している
のではない。従って上記公報と同様に、大きな手振れが
発生した場合には、オリジナル画像よりも低画質の画像
が得られてしまう可能性がある。
【0015】特開昭60−91774号公報では、画像
の高精細化のみが可能で、ダイナミックレンジ拡大の記
載はない。特開平1−319370号、特開平7−26
4488号の各公報では、ダイナミックレンジの拡大の
みが可能で、高精細化の記載がない。
【0016】一方、特開平8−37628号公報では、
画像の高精細化とダイナミックレンジ拡大の記載はある
ものの、ダイナミックレンジ拡大のために得る複数組の
画像に対する露光量決定法の詳しい記載がない。従って
世の中に存在するさまざまな輝度分布を有した被写体シ
ーンに、きめ細かく対応する事ができない。また、画素
ずらし操作は多重露光と同じく、撮像素子に対する見か
け上の露光(蓄積)時間が伸びるため、手振れ対策も必
要になるが、この公報にはその記載がない。
【0017】特開平2−57078号公報では、画素ず
らしの記載が無いため、通常の撮影画像に対する手振れ
の影響を低減するという効果のみで、画素ずらしによる
画像の高精細化は望めない。また画素ずらしによる画像
の高精細化を行う際は、画素ずらし量を撮像素子の画素
間隔に基づいた所定量に制御する必要がある。しかしな
がら特開平8−172568号公報では、可変頂角プリ
ズム等を用いた光学的手振れ補正手段がないため、画素
ずらし中の手振れによる像振れが大きくかつランダムに
生じる。従って、上記所定量の画素ずらしが実行される
保証はなく、補間による像振れ補正を行っても高精細画
像が得られる可能性は低い。また所望の高精細画像が得
られない場合の警告や、次善の策の選択等の開示もな
い。
【0018】本発明は、上述の問題点に鑑みてなされた
ものであり、被写体の輝度分布に応じた広ダイナミック
レンジの画像を得るようにすることを目的とする。
【0019】
【課題を解決するための手段】本発明の撮像装置は、被
写体像を形成する撮像光学手段と、上記被写体像を光電
変換する撮像手段と、所定の露光量で露光し取得した上
記被写体像の複数組の画像信号を記憶する複数画像取得
手段と、上記被写体像を複数の領域に分割して測光する
測光手段と、上記測光手段の測光結果に基づいて上記複
数組間の画像の露光量を調節する露光レベル調節手段と
を設けたことを特徴としている。
【0020】
【発明の実施の形態】以下、本発明の第1〜10の実施
の形態について説明する。図1ないし図5は本発明の第
1〜10の実施の形態に共通に係わる図である。図2は
結像光学系の一例を示したもので、焦点距離は10mm
〜30mmの3倍ズームであり、同図(a)はワイド端
(f=10mm)、同図(b)はテレ端(f=30m
m)におけるレンズの配置を示す。
【0021】この結像光学系は4つの群より成り、変倍
に当たっては第4群が固定で第1、第2、第3群が移動
し、焦点調節の際には第1群が移動する。そして第2群
を光軸に対して垂直方向に変位させることにより、結像
面上の像を変位させて画素ずらし及び手振れ補正を行
う。
【0022】次に図3を用いて第2レンズ群の光束偏向
効果について説明する。図3は図2の各レンズ群を簡略
化して示したもので、同図(a)は第2群が所定量dL
だけ下方向にシフトした時の像側での光束偏向効果を、
同図(b)は同じく第2群が所定量dL だけ下方向にシ
フトした時の物体側での光束偏向効果を示している。ま
ず図3(a)について説明する。物体側より第1群の光
軸上に入射した光線は、下方向にシフトした負の第2群
により、上方向に偏向され、第3群、第4群を通過して
像面上の像高dIMの位置に到達する。この時の第2群シ
フト量dL と像変位量高dIMの比を偏心敏感度Sd と称
することにすると、これら3つの値は、 dIM=Sd ×dL ………(1) で関係づけられる。
【0023】そして偏心敏感度Sd は第2群以降のレン
ズ群の配置によって変わるため、本実施の形態ではズー
ミングに応じて変化する。一方、本実施の形態は第1群
によるフロントフォーカスを採用しているため、偏心敏
感度Sd はフォーカシングによっては変動しない。ただ
し第4群等でフォーカシングするリアフォーカス方式を
採用すれば、フォーカシングによっても偏心敏感度Sd
は変動する。そこで一般的に偏心敏感度Sd は焦点距離
fと被写体距離Rの関数 Sd (f,R)と表されるた
め、式(1)も、 dIM=Sd (f,R)×dL ………(2) と置き換えられる。
【0024】次に画素ずらし実行時の第2群のシフト駆
動量について説明する。図4は画素ずらしの原理を説明
するための図で、撮像素子の受光部拡大図を示してい
る。図4において、受光面上には画素としての正方形の
受光部が横方向WY 、縦方向W P の間隔にて規則的に配
置される。この受光面上に結像された像の分解能は上記
画素間隔WY 、WP で規定されてしまうが、画素と像と
の相対位置を変えながら複数の像信号を取り込み、これ
を所定の法則に従って合成・復元することで像の分解能
を向上できる。例えば像のある点が、受光面中央の受光
部の中心IM1に位置する時、第1組目の像信号(2次
元センサのすべての画素信号)を取り込み、記憶する。
次に該像の点がIM2に位置するように像を右方向XY
=WY /2だけ変位させ、第2組目の像信号を取り込
み、記憶する。同様に像点をIM3、IM4に移動して
第3、第4組目の像信号を取り込み、合計4組の像信号
を合成することで像に関する情報量が4倍になり、画像
の空間分解能を水平、垂直方向とも2倍に高められる。
【0025】ここで画素ずらしのために像をXY (=W
Y /2)或いはXP (=WP /2)だけ移動させるため
には前記図3(a)で示した第2群の像移動作用を利用
する。すなわち、像を上方向にXP だけ変位させるため
には、式(2)に従って、 dL =XP /Sd (f,R) ………(3) で求まるdL だけ第2群を下方向にシフトさせればよ
い。そして画素ずらしのための像変位量XP はいつも一
定値だが、偏心敏感度Sd (f,R)はズーミング、フ
ォーカシングによって変わるため、第2群シフト量dL
も光学系の状態に応じて変える必要がある。そこで本発
明では後述するように、ズーミング、フォーカシングの
状態に応じた偏心敏感度Sd (f,R)に関するデータ
を第1の係数として、マイクロプロセッサ(CPU)内
のROM(Read Only Memory)に記憶させている。
【0026】次に図3(b)について説明する。像面の
中央より光学系の光軸cに沿って左に射出した光線は第
4群、第3群を通過し、下方向にシフトした負の第2群
により、上方向に偏向される。そして第1群を通過した
光線は結像系の光軸cと平行な軸c′に対しθOB の角
度だけ偏向して物体側に投射される。この時の第2群シ
フト量dL と光軸偏向角θOBとの比を角度敏感度Sθと
称することにすると、これら3つの値は、 θOB=Sθ×dL ………(4) で関係づけられる。そして角度敏感度Sθは第2群以前
のレンズ群の配置によって変わるため、本実施の形態で
はズーミング及びフォーカシングに応じて変化する。そ
こで一般的に角度敏感度Sθも前述の偏心敏感度Sd
同様に、焦点距離fと被写体距離Rの関数Sθ(f,
R)と表されるため、式(4)も、 θOB=Sθ(f,R)×dL ………(5) と置き換えられる。
【0027】次に手振れ補正時の第2群のシフト駆動量
について説明する。結像光学系と撮像素子を有するカメ
ラ本体が手振れによって下方向に、すなわち、結像光学
系の先端が下を向く方向に角度θCAMERAだけ回転振れを
生じたとする。この時の手振れによる像振れはカメラに
対して被写体が上方向に角度θOB(=θCAMERA)だけ移
動した時の像変位と等価である。そこで図3(b)を参
照すると、被写体が上方向に角度θOBだけ移動した時に
は第2群を下方向にdL だけシフト駆動させれば、被写
体像の移動を解消させることができる。すなわち、手振
れ検知センサが検知した手振れ角度θCAMERAと、式
(5)に基づき、次式、 dL =θCAMERA/Sθ(f,R) ………(6) で求まるdL だけ第2群を下方向にシフトさせれば手振
れによる像振れを解消できる。
【0028】そして手振れ角度θCAMERAは時々刻々変わ
るとともに、角度敏感度Sθ(f,R)もズーミング、
フォーカシングによって変わるため、第2群シフト量d
L も光学系の状態に応じて変える必要がある。そこで本
発明では前述の偏心敏感度S d (f,R)と同様に、ズ
ーミング、フォーカシングの状態に応じた角度敏感度S
θ(f,R)に関するデータを第2の係数として、マイ
クロプロセッサ内のROMに記憶させている。
【0029】図1は撮像装置の構成図である。図1にお
いて、CMRはカメラ本体、LNSはレンズで、カメラ
本体CMRに対して着脱可能な交換レンズとして構成さ
れている。まずカメラ本体CMRについて説明する。C
CPUはカメラ内マイクロコンピュータ(以下マイコン
と略す)で、ROM、RAM、A/D、D/A変換機能
を有する1チップマイコンである。カメラ内マイコンC
CPUはROMに格納されたカメラのシーケンスプログ
ラムに従って、自動露出制御(AE)、自動焦点調節
(AF)、画素ずらし制御等のカメラの一連の動作を行
う。そのためにカメラ内マイコンCCPUは、カメラ本
体CMR内の周辺回路及びレンズLNSと通信して各々
の回路やレンズの動作を制御する。
【0030】カメラ本体CMRとレンズLNSとを結合
するマウント部には4組の接続端子が設けられる。カメ
ラ内電源BATはカメラ内各回路やアクチュエータへ電
源を供給するとともに、ラインVCCを介してレンズL
NSにも電源供給する。DCLはカメラ内マイコンCC
PUから後述するレンズ内マイコンLCPUへ信号を送
信するライン、DLCはレンズ内マイコンLCPUから
カメラ内マイコンCCPUへ信号を送信するラインで、
この2つのラインを通じてカメラ本体CMRはレンズL
NSを制御する。またカメラ、レンズのグラウンドもラ
インGNDを介して接続される。
【0031】IMSはCCD等の撮像素子、IMDRは
撮像素子IMSの電荷蓄積、電荷転送等を制御するドラ
イバである。MEMは撮影した画像の画像信号データを
記録・保存するためのメモリで、半導体メモリ、磁気デ
ィスク、光ディスク等が用いられる。DISPは液晶デ
ィスプレイ等で構成された表示部で、撮像素子IMSで
得た画像を表示するとともにカメラの動作状態等も表示
する。BSはハーフミラーで構成されたビームスプリッ
タで、撮影光束の一部をセンサSNSへ導く。センサS
NSは結像光学系の焦点状態を検出する焦点検出センサ
と、被写体輝度を検出する測光センサとからなる。CN
Cはデスクトップコンピュータ等の外部装置と接続する
ためのコネクタで、前記メモリMEMの内容を外部に送
信したり、外部装置からの信号でカメラ本体CMRを制
御するのに用いられる。
【0032】SWMNはメインスイッチで、このスイッ
チがオンされるとカメラ内マイコンCCPUは撮影に関
する所定のプログラムの実効を許可する。SW1、SW
2はカメラのレリーズボタンに連動したスイッチで、そ
れぞれレリーズボタンの第1ストローク、第2ストロー
クの押下でオンとなる。SWSFは画素ずらしモード選
択スイッチで、画素ずらしの許可/不許可や、複数の画
素ずらしのモードから所定のモードを選択するのに用い
られる。SWISは手振れ補正(Image Stabilization
、以下図面ではISと略す)選択スイッチで、手振れ
補正の許可/不許可を選択するスイッチである。SWM
ODは撮影モード選択スイッチで、撮影者が所定のモー
ドを選択すると、撮影者の意図するAEモード、AFモ
ードが設定されるほか、前記画素ずらしモードと手振れ
補正モードも自動設定される。
【0033】次にレンズLNS側について説明する。L
CPUはレンズ内マイコンで、カメラ内マイコンCCP
Uと同じくROM、RAM、A/D、D/A変換機能を
有する1チップマイコンである。レンズ内マイコンLC
PUはカメラ内マイコンCCPUから信号ラインDCL
を介して送られてくる命令に従い、後述するフォーカシ
ングアクチュエータ、ズーミングアクチュエータ、絞り
アクチュエータ及び像振れ補正アクチュエータの駆動制
御を行う。またレンズの各種動作状況やレンズ固有のパ
ラメータを信号ラインDLCを介してカメラ内マイコン
CCPUへ送信する。L1ないしL4は、図2で説明し
た第1ないし第4のレンズ群に相当するレンズ群であ
り、ズーム光学系を構成し、この光学系により被写体像
が撮像素子IMS上に形成される。
【0034】FACTはフォーカシングアクチュエータ
で、第1レンズ群L1を光軸方向に進退させて焦点調節
を行い、L1の位置すなわち被写体距離に相当する情報
をフォーカスエンコーダFENCが検知し、レンズ内マ
イコンLCPUに送出する。ZACTはズーミングアク
チュエータで、不図示のズーム機構により第1レンズ群
L1ないし第3レンズ群L3を光軸方向に進退させてズ
ーミングを行い、該ズーム情報をズームエンコーダZE
NCが検知し、レンズ内マイコンLCPUに送出する。
DFMは光量調節用の絞り、DACTは絞りDFMを駆
動する絞りアクチュエータである。
【0035】GRP、GRYは振動ジャイロ等の手振れ
センサで、カメラの上下(ピッチ)方向及び左右(ヨ
ー)方向の角度振れを検知するため、同一のセンサGR
P、GRYが設置される。そして手振れ検知結果はレン
ズ内マイコンLCPUに送信される。第2レンズ群L2
は光軸に対して垂直な平面内で2次元方向に独立にシフ
ト可能に構成される。そして、光軸に対して上下方向す
なわちピッチ振れ補正方向にはピッチアクチュエータI
ACTPで駆動され、左右方向(当図では紙面に垂直方
向)すなわちヨー振れ補正方向にはヨーアクチュエータ
IACTYで駆動される。なおこのシフト機構について
は本出願人による特開平6−3727号公報等に記載さ
れ公知となっている。
【0036】図5は本発明の画素ずらしと手振れ補正の
主要動作を説明するためのブロック図であり、2点鎖線
で囲まれたCCPUブロックがカメラ内マイコンCCP
Uで実行された部分、同じくLCPUブロックがレンズ
内マイコンLCPUで実行される部分である。11は撮
影条件設定回路で、AE、AF、画素ずらし、手振れ補
正の各機能の動作モードが設定される。12はタイミン
グパルス発生回路で、画素ずらしのための像移動光学系
駆動及び撮像素子の画像信号取り込みタイミングを制御
するトリガ信号を発生する。13は撮像素子駆動回路
で、撮影条件設定回路11及びタイミングパルス発生回
路12の制御信号に従い、所定のタイミング、所定の電
荷蓄積条件で画像信号を取り込む。14は一時記憶回路
で、取り込んだ画像信号を画素ずらし処理するために一
時的に記憶する。15は画像合成回路で、画素ずらし操
作で得た複数組の画像信号を合成し、高精細な画像を得
る。16は記録部で、図1のメモリMEMに相当し、合
成された高精細画像信号を記録する。
【0037】21は画素ずらし信号発生回路で、画素ず
らし用に像を変位させるための指令信号を発生する。2
2は第1係数発生回路で、結像光学系のフォーカス及び
ズーム情報に応じて前述の偏心敏感度Sd (f,R)に
相当するデータをレンズ内マイコンLCPUのROMか
ら読み出し、前記画素ずらし信号の大きさに補正して像
移動量がXY、或いはXP となるような第2群のシフト
量指令値を算出する。
【0038】31は手振れセンサで、前述の振動ジャイ
ロGRP、GRYに相当する。32は手振れ信号演算回
路で、手振れ検知センサ31が検出した手振れの角速度
信号のフィルタリング及び積分演算を行い。手振れ角度
を算出する。33は第2係数発生回路で、結像光学系の
フォーカス及びズーム情報に応じて前述の角度敏感度S
θ(f,R)に相当するデータをレンズ内マイコンLC
PUのROMから読み出し、前記手振れ角度信号の大き
さを補正して、像振れ防止制御のための第2群シフト量
指令値を算出する。
【0039】41は合成回路で、22で求めた画素ずら
しのための第2群シフト量指令値と、33で求めた手振
れ補正のための第2群シフト量指令値を加算する。42
は手振れ補正アクチュエータで、図1のIACTP、I
ACTYに相当し、第2レンズ群が合成回路41で求め
た駆動指令値に従って駆動するよう、アクチュエータを
制御する。43は第2レンズ群が実際にシフト駆動され
ていることを示すブロックで、該駆動により撮像素子1
3上に像が移動制御される。以上の各ブロックにより画
素ずらし及び手振れ補正が同時に実行される。
【0040】(第1の実施の形態)図6及び図7は本発
明の第1の実施の形態におけるカメラ本体及び交換レン
ズ内の各マイコンCCPU、LCPUの制御フローを示
すフローチャートである。まず、図1を参照しながら図
6を用いて、カメラ内マイコンCCPUの制御フローを
説明する。カメラ本体CMR側の電源スイッチ(メイン
スイッチ)SWMNがオンされると、カメラ内マイコン
CCPUへの給電が開始され、ステップ(101)を経
てステップ(102)からの動作を開始する。ステップ
(102)においては、レリーズボタンの第1段階押下
によりオンとなるSW1の状態検知を行い、このスイッ
チSW1がオフの時にはステップ(103)へ移行す
る。そして、このステップ(103)において、レンズ
LNS側へ像振れ補正動作(以下IS(Image Stabiliz
ation の略)と称す)を停止する命令を送信する。上記
ステップ(102)及び(103)はスイッチSW1が
オンとなるか、或いは電源スイッチSWMNがオフとな
るまで繰り返し実効される。
【0041】上記フローを実行中にスイッチSW1がオ
ンされると、ステップ(102)からステップ(11
1)へ移行する。ステップ(111)においては、カメ
ラ内マイコンCCPUはラインDCLを介してレンズ内
マイコンLCPUに対し、像振れ補正開始命令を送信す
る。次のステップ(112)においては、レンズの開放
Fナンバー、焦点距離等のレンズ固有のパラメータをレ
ンズ内マイコンLCPUから取得するパラメータ通信を
行う。ステップ(113)ではセンサSNSによって被
写体輝度を測定し、所定の露出制御プログラム線図に従
って撮像素子の像信号蓄積時間や絞り制御値を演算する
とともに、その結果をレンズ内マイコンLCPUにも送
信する。ステップ(114)ではセンサSNSによって
焦点状態を検出するとともに、フォーカシングレンズの
駆動命令をレンズ内マイコンLCPUに送信する。
【0042】ステップ(115)では前述の画素ずらし
モード選択スイッチSWSFの状態検知を行うととも
に、前記測光結果等を基に、画素ずらし実行の可否や画
素ずらし回数等の画素ずらし条件を設定する。ステップ
(116)では、レリーズボタンの第2段階押下により
オンとなるSW2の状態検知を行い、このスイッチSW
2がオフの時にはステップ(111)へ戻り、ステップ
(111)ないしステップ(115)を繰り返し実行す
る。ステップ(116)でSW2がオンと判定されたら
ステップ(117)へ移行する。
【0043】ステップ(117)では画素ずらし回数を
カウントするカウンタCNTをゼロに初期化する。ステ
ップ(118)では画素ずらし制御のトリガ信号となる
タイミングパルスを発生し、レンズ内マイコンLCPU
にも送信する。ステップ(119)ではドライバIMD
Rを介して、撮像素子IMSの電荷蓄積、及び蓄積した
電荷の転送・読み出し制御を行う。ステップ(120)
では、前記ステップ(119)で読み出した画像信号を
カメラ内マイコンCCPU内のRAMに一時記憶する。
ステップ(121)では、画素ずらし回数カウンタCN
Tに1を加え、更新する。ステップ(122)ではカウ
ンタCNTが所定値NSFに達したか否かを判定する。そ
してカウンタCNTが所定値NSFに達していない場合に
はステップ(118)に戻って次のタイミングパルス発
生を待ち、画素ずらし制御を続行する。ステップ(12
2)でカウンタCNTが所定値NSFに達したら、ステッ
プ(123)へ移行する。
【0044】ステップ(123)ではレンズ内マイコン
LCPUに対し、画素ずらしが完了したことを送信す
る。ステップ(124)では画素ずらしによって得た複
数の画像信号を合成し、1つの高精細画像を作成する。
ステップ(125)では上記ステップ(124)で得た
画像をメモリMEMに記録する。
【0045】以上で撮影動作が終了し、ステップ(10
2)へ戻る。そして当ステップ(102)でスイッチS
W1がオンの状態であればステップ(111)以降の動
作を繰り返し、スイッチSW1がオフであれば、ステッ
プ(103)でレンズ内マイコンLCPUに対し、像振
れ補正動作の停止を命令する。
【0046】図7はレンズ内マイコンLCPUの制御を
示すフローチャートである。図7において、カメラ側の
電源スイッチSWMNのオンにより、交換レンズ側にも
電源が供給されると、ステップ(131)よりステップ
(132)へ進む。ステップ(132)においてはIS
開始命令の判別を行い、カメラ本体CMRからIS開始
命令が来ていない時はステップ(133)へ進む。ステ
ップ(133)においてはIS停止命令の判別を行い、
カメラ本体CMRからIS停止命令が来ていない時はス
テップ(132)へ戻る。IS停止命令が来ている時は
ステップ(134)へ進み、ピッチ及びヨー方向の像振
れ補正アクチュエータIACTを停止する。ステップ
(132)ないしステップ(134)を実行中にカメラ
内マイコンCCPUよりIS開始命令が送信されると、
ステップ(132)よりステップ(141)へ移る。
【0047】ステップ(141)では振れ検知センサG
RP、GRYを起動し、ピッチ、ヨー方向の手振れ信号
を入力する。ステップ(142)は図6のステップ(1
12)に相当し、カメラ内マイコンCCPUの要求に従
ってレンズ固有のパラメータをカメラ側に送信する。ス
テップ(143)では光学系のズーム状態、フォーカス
状態を検出するために、ズームエンコーダZENC、フ
ォーカスエンコーダFENCを検知する。ステップ(1
44)では上記ステップ(143)の検知結果に基づい
て、画素ずらしのための第1係数及び手振れ補正のため
の第2係数をROMテーブル内から読み出す。ステップ
(145)ではステップ(141)で得た手振れ信号と
ステップ(144)で得た第2係数に基づいて像振れ補
正アクチュエータIACTを駆動制御し、手振れによる
像振れを解消させる。
【0048】ステップ(146)ではカメラ内マイコン
CCPUから入手した測光情報を基に、アクチュエータ
DACTを介して絞りDFMを駆動し、光量調節する。
ステップ(147)ではカメラ内マイコンCCPUから
入手した焦点検出情報を基に、フォーカシングアクチュ
エータFACTを駆動し、焦点調節する。ステップ(1
48)では画素ずらしのためのタイミングパルスの受信
有無を判断する。そしてタイミングパルスを受信してい
なければ、ステップ(141)に戻り、手振れ補正、絞
り制御、焦点調節動作を繰り返し実行する。ステップ
(148)でタイミングパルスの受信を確認すると、ス
テップ(149)へ進む。
【0049】ステップ(149)では画素ずらしのため
に第2レンズ群をピッチ或いはヨー方向に駆動するため
の基準波形を生成する。ステップ(150)では上記ス
テップ(149)で生成した画素ずらし基準波形に、ス
テップ(144)で読み出した第1係数を乗じた画素ず
らし駆動波形を生成し、これと手振れ補正用の信号とを
合成する。そしてこの合成信号に従って像振れ補正アク
チュエータIACTを駆動制御することで、手振れ補正
と画素ずらしのため像駆動が同時にかつ正確に実行され
る。
【0050】ステップ(151)ではカメラ内マイコン
CCPUから画素ずらし完了信号が送信されているか否
かの判定を行い、未送信であれば画素ずらしは完了して
いないのでステップ(148)へ戻り、次のタイミング
パルスの受信を待つ、そしてステップ(148)ないし
ステップ(150)を所定回数実施し、画素ずらし動作
終了後に送信される画素ずらし完了信号を受信したら、
ステップ(151)よりステップ(132)へ戻る。そ
してステップ(132)でIS開始命令を受信せず、ス
テップ(133)でIS停止命令を確認したら、ステッ
プ(134)で像振れ補正アクチュエータIACTを停
止し、撮影に伴う一連のレンズ制御動作が終了する。
【0051】図8は上記図6及び図7のフローによるカ
メラ及びレンズの動作を説明するタイミングチャートで
ある。(a)、(b)はそれぞれカメラのレリーズボタ
ンに連動したスイッチSW1、SW2の状態を示す。
(c)は画素ずらしのタイミング制御用トリガ信号であ
る。(d)は撮像素子IMSの電荷蓄積タイミングを示
す。(e)、(f)はピッチ及びヨー方向の画素ずらし
基準波形を示す。(g)、(h)は手振れセンサGR
P、GRYが検知した手振れ波形で、ここでは検知信号
を適宜積分等の処理を行った後の振れ変位波形が示され
ている。(i)、(j)は像振れ補正用第2レンズ群の
ピッチ、ヨー方向の駆動変位を示す。
【0052】以下、図8を用いて図6及び図7のフロー
をまとめて概説する。時刻t1 においてスイッチSW1
がオンされると、手振れ信号(g)、(h)が出力され
る。すると、この信号に第2係数を乗じた値に従って第
2レンズ群L2が波形(i)、(j)のごとく駆動制御
され、手振れ補正がなされる。
【0053】時刻t2 においてスイッチSW2がオンさ
れると、所定時間後の時刻t11に第1のタイミングパル
スTP1が発生される。するとこれを受けて、撮像素子
IMSは測光結果から演算された蓄積時間に従い、時刻
12から時刻t13の期間中に受光部の電荷蓄積を行う。
時刻t13で電荷蓄積が終了すると、蓄積電荷の転送・読
み出しと共に、ヨー方向の画素ずらし基準波形(f)が
発生される。するとヨー方向のレンズ変位(j)は、上
記基準波形(f)に第1係数を乗じた値と前記手振れ補
正波形とを加算した指令値にて駆動される。
【0054】時刻t11から所定時間経過後の時刻t21
は第2のタイミングパルスTP2が発生される。すると
同様に撮像素子IMSは、時刻t22から時刻t23の期間
中に受光部の電荷蓄積を行う。そして時刻t23で電荷蓄
積が終了すると、蓄積電荷の転送・読み出しと共に、ピ
ッチ方向の画素ずらし基準波形(e)が発生される。す
るとピッチ方向のレンズ変位(i)も、上記基準波形
(e)に第1係数を乗じた値と前記手振れ補正波形とを
加算した指令値にて駆動される。
【0055】時刻t21から所定時間経過後の時刻t31
は第3のタイミングパルスTP3が発生される。すると
同様に撮像素子IMSは、時刻t32から時刻t33の期間
中に受光部の電荷蓄積を行う。そして時刻t33で電荷蓄
積が終了すると、蓄積電荷の転送・読み出しと共に、ヨ
ー方向の画素ずらし基準波形(f)は元の値に戻され
る。するとヨー方向のレンズ変位(j)は、手振れ補正
波形のみに応答した指令値にて駆動される。
【0056】時刻t31から所定時間経過後の時刻t41
は最期のタイミングパルスTP4が発生される。すると
同様に撮像素子IMSは、時刻t42から時刻t43の期間
中に受光部の電荷蓄積を行う。そして時刻t43で電荷蓄
積が終了すると、蓄積電荷の転送・読み出しと共に、ピ
ッチ方向の画素ずらし基準波形(e)も元の値に戻され
る。するとピッチ方向のレンズ変位(i)も、手振れ補
正波形のみに応答した指令値にて駆動される。そして時
刻t5 でスイッチSW1がオフされると、手振れ検知及
び第2レンズ群の駆動が停止される。
【0057】上記手振れ補正及び画素ずらし制御中の時
刻t11、t21、t31、t41、t5 における像の位置は前
述の図4において、それぞれIM1、IM2、IM3、
IM4、IM1となり、各像の上下、左右の位置が画素
間隔の半分だけずれた画像ずらしが実現される。なお、
画像ずらし基準波形が矩形波でなく台形波となっている
のは、第2レンズ群の急激な位置変化による衝撃を緩和
するためである。
【0058】次に図9及び図10を用いて画素ずらしに
より得た複数組の画像信号を合成し、1組の高精細画像
信号を生成する原理について説明する。図9は画素ずら
しにおける像と撮像素子の相対位置関係を説明する図で
ある。図9の(a)は図4でも説明したもので、カメラ
内に固定された撮像素子の画素に対して像がIM1→I
M2→IM3→IM4→IM1の順に移動することを示
している。これはその下の(b)のごとく、不動の像に
対して撮像素子の位置がIG1→IG2→IG3→IG
4→IG1の順に移動するのと全く等価である。そこで
撮像素子がIG1に位置する時の各画素の出力信号をI
G1(i,j)とする。ここで撮像素子は(m×n)画
素のエリアセンサである。同様にIG2、IG3、IG
4に位置する時の出力信号をIG2(i,j)、IG3
(i,j)、IG4(i,j)とする。
【0059】これら4組の画像信号の合成方法を説明し
たものが図10である。4組の(m×n)画素の信号を
合成した(2m×2n)画素の新たな画素信号組をIM
G(u,v)とする。そして画素信号IMG(u,v)
の左上の4画素は、4組の元の画素を図のごとく組み立
てたものである。そこでこの図を基に画像復元方法を考
えると、 IMG(u=2i−1,v=2j) ←IG1(i,j)………(7) IMG(u=2i−1,v=2j−1)←IG2(i,j)………(8) IMG(u=2i,v=2j−1) ←IG3(i,j)………(9) IMG(u=2i,v=2j) ←IG4(i,j)………(10) の式に従えば、4組の画像信号から1組の高精細画像信
号を生成できる。
【0060】なおこの方法は白黒撮像素子或いは色分解
プリズムを用いた多板式カラー撮像素子に適用されるも
ので、モザイク型色フィルターを用いた単板式カラー撮
像素子では画素ずらし量や画像合成方法の点で多少の違
いはあるが、基本的な考えは同一である。
【0061】上記第1の実施の形態によれば、 (1)画素ずらし信号を第1係数で変換し、手振れ信号
を第2係数で変換し、両者の合成信号にて像振れ補正光
学系を駆動することにより、1つの像移動手段で手振れ
補正と画素ずらし制御とを同時に行い、手振れによる像
劣化がなく、かつ画素ずらしによる高精細な画像信号を
得ることができる。 (2)ズーム、フォーカス状態に応じた第1係数及び第
2係数を用いることにより、ズーム、フォーカス状態が
変化しても常に正確な手振れ補正と画素ずらし制御が可
能である。 (3)カメラ内の制御回路で画素ずらし後の画像合成も
行うため、専用の外部装置等を用いずに高精細な画像信
号を得ることができる。という効果がある。
【0062】(第2の実施の形態)前記第1の実施の形
態は手振れ補正と画素ずらしを同時に正確に行うための
実施の形態であった。以下に示す第2の実施の形態は、
カメラの撮影状態に応じて最適な画素ずらしモードを選
択する実施形態を示す。図11は第2の実施の形態の制
御フローの一部、図12は第2の画素ずらしモード原理
図、図13は第2の画素ずらしモードにおける画像合成
の原理説明図である。以下、図面を用いて第2の実施の
形態の動作を説明する。
【0063】本実施の形態のカメラの制御フローは、図
6に示した第1の実施の形態のカメラの制御フローと基
本的な部分は同一であるが、ステップ(115)の「画
素ずらし条件設定」部分を図11に示すサブルーチンと
することで、本実施の形態特有の作用を実現させてい
る。以下、図6及び図11を用いて本実施の形態のフロ
ーを説明するが、図6のフローについては前述により詳
細な説明を行っているため、ここでは簡単に説明する。
図6において、ステップ(102)でSW1がオンと判
断されるとステップ(111)へ移り、ステップ(11
1)、ステップ(112)でIS開始命令の送信と、パ
ラメータ通信を行う。続いてステップ(113)、ステ
ップ(114)で測光及び焦点検出を行い、その結果を
レンズ内マイコンLCPUにも送信する。
【0064】次のステップ(115)では図11に示す
フローを実行する。図11のステップ(215)では、
レンズ内マイコンLCPUに対し、所定時間以内の手振
れ角速度ピーク値ωpeakの送信要求を行う。するとレン
ズ内マイコンLCPUは、例えば2秒間中のピッチ或い
はヨ一方向の手振れ角速度最大値ωpeakをカメラ内マイ
コンCCPUに送信する。ステップ(216)では次式 δ=f×ωpeak×texp ………(11) に従って、手振れ補正不作動時の露光中の像振れ量最大
値δを演算する。ただしfは結像光学系の焦点距離、t
exp は測光結果から導かれた撮像素子の露光秒時、すな
わち電荷蓄積時間である。ここで導かれた像振れ量δ
は、画素ずらしを実行すべきか否かの判定をするための
手振れ指標として、以下のステップで利用される。
【0065】ステップ(217)では像振れ量δの大き
さ判定を行う。そして像振れ量δが所定値DEL1以下
なら、手振れによる像劣化の影響が少なく、画素ずらし
によって十分な高精細化が可能であるとして、ステップ
(218)で画素ずらし回数NSFを4回に設定する。こ
こで画素ずらし回数が4回というのは第1の実施の形態
で説明した画素ずらし及び画像合成方法のことであり、
これを第1の画素ずらしモードと称する。ステップ(2
17)で像振れ量δが所定値DEL2以下(ただしDE
L2>DEL1)と判断されたらステップ(219)で
画素ずらし回数、NSFを2回に設定する。これは手振れ
補正を実行しても手振れによる若干の画質劣化が予想さ
れるため、画素ずらし回数が少ないモード(これを第2
の画素ずらしモードと称する)を選択して、手振れによ
る画質低下と画素ずらしによる画質向上の最適化を図る
ためである。なお第2の画素ずらしモードについては後
述する。
【0066】ステップ(217)で像振れ量δが所定値
DEL2より大きいと判定されたらステップ(220)
で画素ずらし回数NSFを1回、すなわち画素ずらし非実
行に設定する。これは手振れ補正を実行しても、手振れ
による画質劣化の影響が画素ずらしによる画質向上を上
回ることが予想されるため、画素ずらしを禁止する。ス
テップ(218)ないしステップ(220)を実行後
は、ステップ(221)へ移行する。ステップ(22
1)ではレンズ内マイコンLCPUに上記フローで決定
した画素ずらしモードを送信する。ステップ(222)
ではカメラ内の表示手段DISPに上記画素ずらしモー
ドの種別を表示して、撮影者にどのモードで撮影が行わ
れるのかを報知する。
【0067】ステップ(222)実行後は図6のステッ
プ(116)に戻る。ステップ(116)ではスイッチ
SW2の判別を行い、SW2がオンならステップ(11
7)へ進む。ステップ(117)ないしステップ(12
2)では第1の実施の形態と同様に画素ずらしを実行す
るが、この第2の実施の形態では前述のごとくステップ
(215)ないしステップ(222)で複数の画素ずら
しモードを選択的に用いるため、ステップ(117)な
いしステップ(122)でも各画素ずらしモードに応じ
た動作で制御される。続いてステップ(123)ではレ
ンズ内マイコンLCPUに画素ずらし完了通信を行い、
ステップ(124)へ進む。ステップ(124)でも前
記複数の画素ずらしモードに応じた画像合成を選択して
行う。ステップ(125)では前ステップで合成された
画素を記録し、ステップ(102)へ戻る。
【0068】図12は第2の画素ずらしモード、すなわ
ち画素ずらし回数が2回の時の作用を説明したものであ
り、第1の実施の形態における図9に相当する。図12
の上図(a)は受光素子に対する画像の移動を示したも
のである。画像のある点はまずIM21に位置した状態
で受光素子の電荷蓄積・読み出しがなされる。ついで画
素ずらし動作で像がIM22に移動した後、再び受光素
子の電荷蓄積・読み出しがなされる。そして像は元の位
置IM21に戻される。図12の下図(b)は上記像の
動きを撮像素子の動きに置き換えたもので、最初IG2
1に位置していた撮像素子は、画素ずらし動作によって
IG22に移動し、その後IG21に戻る。
【0069】図13は第2の画素ずらしモードにおける
画像合成方法を説明する図である。この第2の画素ずら
しモードではIG21(i,j)とIG22(i,j)
の2組の画像、すなわち合計(2×m×n)個の画像信
号から、(4×m×n)個で構成されるIMG2(u,
v)の画像信号を合成する。そのために図13に示すご
とく、IMG2(u,v)の黒丸で示す画素はIG21
(i,j)或いはIG22(i,j)の画素をそのまま
用い、白丸で示す画素はその周辺の4画素(4画素が無
い時は2或いは3画素)の平均値から合成する。
【0070】これを式で表すと、 IMG2(u=2i−1,v=2j) ←IG21(i,j) ………(12) IMG2(u=2i,v=2j−1) ←IG22(i,j) ………(13) IMG2(u=2i−1,v=2j−1)←{IG21(i,j)+IG22 (i,j)+IG21(i,j−1)+IG22(i−1,j)}/4 ………(14) IMG2(u=2i,v=2j) ←{IG21(i,j)+IG22 (i,j)+IG21(i+1,j)+IG22(i,j+1)}/4 ………(15) と表わせる。
【0071】上記第2の実施の形態によれば、前記第1
の実施の形態の効果のほかに、 (4)画素ずらし実行時の手振れによる画質劣化と画素
ずらし効果を勘案し、手振れ量に応じて最適な画素ずら
しモードを選択するため、撮影状況に応じた最適な画素
ずらし動作が実行できる。という効果がある。
【0072】(第3の実施の形態)前記第2の実施の形
態では、手振れに応じた最適画素ずらしモードを選択す
る実施の形態を示した。以下に示す第3の実施の形態
は、撮影者により設定されたカメラの撮影モードから画
素ずらし実行の適否を判断し、画素ずらしモードを切り
替える実施形態を示す。第3の実施の形態のカメラの制
御フローも前記第2の実施の形態と同様に、基本的な部
分は図6に示した第1の実施の形態のカメラの制御フロ
ーと同一であり、ステップ(115)の「画素ずらし条
件設定」部分を図14に示すサブルーチンとすること
で、第3の実施の形態特有の作用を実現させている。以
下、図6及び図14を用いて第3の実施の形態のフロー
を説明するが、図6のフローについては第1の実施の形
態で詳細な説明を行っているため、ここでは簡単に説明
する。
【0073】図6において、ステップ(102)でSW
1がオンと判断されるとステップ(111)へ移り、ス
テップ(111)、ステップ(112)でIS開始命令
の送信と、パラメータ通信を行う。続いてステップ(1
13)、ステップ(114)で測光及び焦点検出を行
い、その結果をレンズ内マイコンLCPUにも送信す
る。次のステップ(115)では図14に示すフローを
実行する。図14のステップ(315)ではカメラCM
Rの撮影モード選択スイッチSWMODの状態判別を行
い、撮影者によって設定された露出制御モード等の撮影
条件を認識する。
【0074】ステップ(316)では撮影モードが風景
モードか否かの判別を行う。風景モードとは絞り制御値
を小絞り(大Fナンバー)として被写界深度を深くする
露出制御モードである。そして風景モード設定時は被写
体が静止しており、カメラもしっかりとホールディング
されて手振れも生じにくいと予想されるため、ステップ
(319)に進んで画素ずらしを4回行う高精細モード
に設定する。ステップ(316)で風景モードでないと
判定されたらステップ(317)へ進む。ステップ(3
17)では撮影モードがポートレイトモードか否かの判
別を行う。ポートレイトモードは絞り制御値を開放近傍
絞り(小Fナンバー)として被写界深度を浅くする露出
制御モードである。ポートレイトモード時も風景モード
と同様の撮影状態であると予想されるため、ステップ
(319)へ進む。ステップ(317)でポートレイト
モードでないと判定されたらステップ(318)へ進
む。
【0075】ステップ(318)では撮影モードがスポ
ーツモードか否かの判別を行う。スポーツモードは露出
秒時を高速秒時にして被写体の動きを止める露出制御モ
ードである。スポーツモード選択時は被写体が動いてお
り、カメラにはパンニング操作、すなわち大きな手振れ
と同様のカメラの運動が生じると予想される。また画素
ずらし動作中の被写体の動きにより被写体振れも発生
し、画素ずらしによる高精細化が期待できないばかり
か、かえって不自然な写真になってしまうことも予想さ
れる。従ってスポーツモード設定時はステップ(32
1)へ進み、NSF=1すなわち画素ずらしを禁止する。
ステップ(318)でスポーツモードでないと判定され
たら、すなわち風景、ポートレイト、スポーツのいすれ
のモードでも無いと判定されたらステップ(320)へ
進み、画素ずらし回数を2回に設定する。ステップ(3
19)ないしステップ(321)を実行後は、ステップ
(322)へ移行する。
【0076】ステップ(322)ではレンズ内マイコン
LCPUに上記フローで決定した画素ずらしモードを送
信する。ステップ(323)ではカメラ内の表示手段D
ISPに上記画素ずらしモードの種別を表示して、撮影
者にどのモードで撮影が行われるのかを報知する。ステ
ップ(323)実行後は図6のステップ(116)に戻
る。ステップ(116)ではスイッチSW2の判別を行
い、SW2がオンならステップ(117)へ進む。ステ
ップ(117)ないしステップ(122)では第2の実
施の形態と同様に選択された画素ずらしモードに従って
画素ずらしが実行される。続いてステップ(123)で
はレンズ内マイコンLCPUに画素ずらし完了通信を行
い、ステップ(124)へ進む。ステップ(124)で
も前記複数の画素ずらしモードに応じた画像合成を選択
して行う。ステップ(125)で前ステップで合成され
た画像を記録し、ステップ(102)へ戻る。
【0077】上記第3の実施の形態によれば、前記第1
の実施の形態の効果のほかに、 (5)撮影者により設定されたカメラの撮影モードから
画素ずらし実行の適否を判断し、画素ずらしモードを切
り替えることにより、カメラ及び被写体の動きに適した
画素ずらし動作が実行できる。という効果がある。ま
た、本実施の形態では撮影モードの一例として露出制御
モードを対象としたが、焦点検出モード等に応じて画素
ずらしモードを切り替えても良い。
【0078】(第4の実施の形態)前記第1の実施の形
態では画素ずらし制御用の第1係数と手振れ補正用の第
2係数を用いて1つの像移動手段により画素ずらしと手
振れ補正を実行していた。一方、第1係数を前記手振れ
補正とは異なる方式の手振れ補正制御に用いることによ
り、手振れ補正能力をさらに高めることができる。図1
5はそのための第4の実施の形態のブロック図で、図5
に示した第1の実施の形態のブロック図を変形したもの
である。図15において、カメラ内マイコンCCPUに
動きベクトル検知回路17が追加されたのと、レンズ内
マイコンLCPUにもう1つの第1係数発生回路22a
が追加された点が異なっている。
【0079】動きベクトル検知回路17は、時間的に異
なるタイミングで取り込まれた2組の画像信号の空間的
な相関から、2組の画像の手振れによる位置ずれを検知
する公知の回路で、いわゆる電子式手振れ補正に用いら
れる。そして動きベクトル検知に用いられる2組の画像
は、画素ずらしで得られた画像或いは画素ずらしとは無
関係に周期的に取り込まれた画像が利用される。或いは
焦点検出センサからの信号を用いてもよい。ただし画素
ずらし用の2組の画像信号はその相対位置が画素ずらし
によって予め所定寸法だけずれているため、動きベルト
ル検知時にこのずれの補正は必要である。
【0080】ところで本実施の形態では、振動ジャイロ
等の慣性力を利用した振れ検知センサによる手振れ補正
システムが組み込まれているため、この手振れ補正シス
テムが動作している間は像振れが補正され、動きベクト
ル検知回路17は振れを検知しないはずである。しかし
ながら、前記慣性力を利用した振動ジャイロ等の振れ検
知センサは、出力信号のDCオフセットやドリフト等の
発生で、超低周波帯域の振れを検知できないという欠点
がある。よって手振れ補正システム動作中も動きベクト
ル検知回路17は低周波の像振れを検知する。そこでこ
の像振れ信号を第1係数発生回路22aで変換し、この
信号と第2係数発生回路33を通過した手振れ信号とを
合成回路41にて合成する。そしてその合成出力にて手
振れ補正アクチュエータ42を駆動すれば、低周波域か
ら高周波域までの広帯域の手振れ補正システムが実現さ
れ、手振れ補正能力が高められる。ひいては画素ずらし
時の像振れもさらに減少し、画像の高精細化に貢献す
る。
【0081】図16、図17は第4の実施の形態におけ
るカメラ本体及び交換レンズ内の各マイコンの制御フロ
ーを示すフローチャートである。まず、前述の図1を参
照しながら図16を用いて、カメラ内マイコンCCPU
の制御フローを説明する。カメラ本体CMR側の電源ス
イッチ(メインスイッチ)SWMNがオンされると、カ
メラ内マイコンCCPUへの給電が開始され、ステップ
(401)を経てステップ(402)からの動作を開始
する。ステップ(402)におていは、レリーズボタン
の第1段階押下によりオンとなるSW1の状態検知を行
い、このスイッチSW1がオフの時にはステップ(40
3)へ移行する。そして、このステップ(403)にお
いて、交換レンズLNS側へ像振れ補正動作を停止する
命令を送信する。上記ステップ(402)、(403)
はスイッチSW1がオンとなるか、或いは電源スイッチ
SWMNがオフとなるまで繰り返し実効される。
【0082】上記フローを実行中にスイッチSW1がオ
ンされると、ステップ(402)からステップ(41
1)へ移行する。ステップ(411)においては、カメ
ラ内マイコンCCPUはラインDCLを介してレンズ内
マイコンLCPUに対し、像振れ補正開始命令を送信す
る。次のステップ(412)においては、レンズの開放
Fナンバー、焦点距離等のレンズ固有のパラメータをカ
メラ内マイコンCCPUが取得するパラメータ通信を行
う。ステップ(413)ではセンサSNSによって被写
体輝度を測定し、撮像素子の像信号蓄積時間や絞り制御
値を演算して、その結果をレンズ内マイコンLCPUに
も送信する。ステップ(414)ではセンサSNSによ
り焦点状態を検出し、その結果をレンズ内マイコンLC
PUにも送信する。
【0083】ステップ(415)では前述の画素ずらし
モード選択スイッチSWSFの状態検知を行うととも
に、前記測光結果等を基に画素ずらし実行の可否や画素
ずらし回数等の画素ずらし条件を設定する。ステップ
(416)ではドライバIMDRを介して、撮像素子I
MSの電荷蓄積、及び蓄積した電荷の転送・読み出し制
御を行う。ステップ(417)では、制御ステップ(4
16)で読み出した画像信号をカメラ内マイコンCCP
U内のRAMに一時記憶する。ステップ(418)では
上記RAMに記憶された2組の画像から動きベクトルを
検知する。なお当ステップを最初に実行する時は画像信
号は1組しかないため、この時は動きベクトルはゼロが
出力される。
【0084】ステップ(419)では前ステップで検知
した動きベクトルをレンズ内マイコンLCPUに送信す
る。ステップ(420)では、レリーズボタンの第2段
階押下によりオンとなるSW2の状態検出を行い、この
スイッチSW2がオフの時にはステップ(411)へ戻
り、ステップ(411)ないしステップ(419)を繰
り返し実行する。ステップ(420)でSW2がオンと
判定されたらステップ(421)へ移行する。ステップ
(421)では図6に示した第1の実施の形態のステッ
プ(117)ないしステップ(122)と同様の画素ず
らし制御を実行する。ステップ(422)ではレンズ内
マイコンLCPUに対し、画素ずらしが完了したことを
送信する。ステップ(423)では画素ずらしによって
得た複数の画像信号を合成し、1つの高精細画像を作成
する。ステップ(424)では上記ステップ(423)
で得た画像をメモリMEMに記録する。
【0085】以上で撮影動作が終了し、ステップ(40
2)へ戻る。そして当ステップ(402)でスイッチS
W1がオンの状態であればステップ(411)以降の動
作を繰り返し、スイッチSW1がオフであれば、ステッ
プ(403)でレンズ内マイコンLCPUに対し、像振
れ補正動作の停止を命令する。
【0086】図17はレンズ内マイコンLCPUの制御
を示すフローチャートである。図17において、カメラ
側の電源スイッチSWMNのオンにより、交換レンズ側
にも電源が供給されると、ステップ(431)よりステ
ップ(432)へ進む。ステップ(432)においては
IS開始命令の判別を行い、カメラ本体CMRからIS
開始命令が来ていない時はステップ(433)へ進む。
ステップ(433)においてはIS停止命令の判別を行
い、カメラ本体CMRからIS停止命令が来ていない時
はステップ(432)へ戻る。IS停止命令が来ている
時はステップ(434)へ進み、ピッチ及びヨー方向の
像振れ補正アクチュエータIACTを停止する。ステッ
プ(432)ないしステップ(434)を実行中にカメ
ラ内マイコンCCPUよりIS開始命令が送信される
と、ステップ(432)よりステップ(441)へ移
る。
【0087】ステップ(441)では振れ検知センサG
RP、GRYを起動し、ピッチ、ヨー方向の手振れ信号
を入力する。ステップ(442)は図16のステップ
(412)に相当し、カメラ内マイコンCCPUの要求
に従ってレンズ固有のパラメータをカメラ側に送信す
る。ステップ(443)では光学系のズーム状態、フォ
ーカス状態を検出するために、ズームエンコーダZEN
C、フォーカスエンコーダFENCを検知する。ステッ
プ(444)では前記ステップ(443)の検知結果に
基づいて、画素ずらしのための第1係数及び手振れ補正
のための第2係数をROMテーブル内から読み出す。ス
テップ(445)ではステップ(441)で得た手振れ
信号とステップ(444)で得た第2係数に基づいて像
振れ補正アクチュエータIACTを駆動制御し、手振れ
による像振れを解消させる。
【0088】ステップ(446)ではカメラ内マイコン
CCPUから入手した測光情報を基に、アクチュエータ
DACTを介して絞りDFMを駆動し、光量を調節す
る。ステップ(447)ではカメラ内マイコンCCPU
から入手した焦点検出情報を基に、フォーカシングアク
チュエータFACTを駆動し、焦点調節する。ステップ
(448)では図16のステップ(419)に対応する
動きベクトルの受信を行う。ステップ(449)ではス
テップ(448)で得た動きベクトル信号とステップ
(444)で得た第1係数に基づいて像振れ補正信号を
生成し、この信号と振動ジャイロから得た手振れ補正信
号とを合成する。そしてこの合成信号により像振れ補正
アクチュエータIACTを駆動制御することで、より広
帯域の手振れ補正を実現する。
【0089】ステップ(450)では画素ずらしのため
のタイミングパルスの受信有無を判断する。そしてタイ
ミングパルスを受信していなければ、ステップ(44
1)に戻り、手振れ補正、絞り制御、焦点調節、動きベ
クトル受信を繰り返して実行する。ステップ(450)
でタイミングパルスの受信を確認すると、ステップ(4
51)へ進む。ステップ(451)では画素ずらしのた
めに第2群をピッチ或いはヨー方向に駆動するための基
準波形を生成する。ステップ(452)では前記ステッ
プ(451)で生成した画素ずらし基準波形に、ステッ
プ(444)で読み出した第2係数を乗じた画素ずらし
駆動波形を生成し、これと手振れ補正用の信号を合成す
る。そしてこの合成信号に従って像振れ補正アクチュエ
ータIACTを駆動制御することで、手振れ補正と画素
ずらしのための像駆動が同時にかつ正確に実行される。
【0090】ステップ(453)ではカメラ内マイコン
CCPUから画素ずらし完了信号が送信されているか否
かの判定を行い、未送信であれば画素ずらしは完了して
いないのでステップ(450)へ戻り、次のタイミング
パルスの受信を待つ。そしてステップ(450)ないし
ステップ(453)を所定回数実施し、画素ずらし動作
終了後に送信される画素ずらし完了信号を受信したら、
ステップ(453)よりステップ(432)へ戻る。そ
してステップ(432)でIS開始命令を受信せず、ス
テップ(433)でIS停止命令を確認したら、ステッ
プ(434)で像振れ補正アクチュエータIACTを停
止し、撮影に伴う一連のレンズ制御動作が終了する。
【0091】上記第4の実施の形態によれば、前記第1
の実施の形態の効果のほかに、 (6)動きベクトル信号を第1係数で変換し、手振れ信
号を第2係数で変換し、両者の合成信号にて像振れ補正
光学系を駆動することにより、手振れ補正帯域を広帯域
化できる。 (7)ズーム、フォーカス状態に応じた第1係数及び第
2係数を用いることにより、ズーム、フォーカス状態が
変化しても常に正確な手振れ補正が可能である。という
効果がある。なお当第4の実施の形態は画素ずらし機能
の有無に拘わらず効果を発揮するものである。
【0092】(他の変形例)前記第1ないし第4の実施
の形態では、手振れ補正及び画素ずらしのための像移動
手段として、結像光学系内のレンズ群を光軸に対して垂
直方向にシフトさせ、これによる光軸偏向作用を利用し
ていた。その代わりに結像光学系の一部に、2枚の透明
平行平板とこれに封止された透明液体からなる、いわゆ
る可変頂角プリズムを用いることも可能である。また第
2及び第3の実施の形態はいかなる結像光学系の方式に
対しても有効であり、また手振れ補正機構の有無に拘わ
らずその効果を発揮する。
【0093】(第5の実施の形態)図18は第5の実施
の形態によるカメラ内マイコンCCPUの制御フローで
あり、図6の第1の実施の形態の制御フローとステップ
(115)以外は実質的に同じ処理が行われる。ステッ
プ(115)では前述の画素ずらしモード選択スイッチ
SWSFの状態検知を行うとともに、前記ステップ(1
13)、(114)による測光結果、焦点検出結果等を
基に、画素ずらし制御形態及び撮像素子の露光制御形態
等の条件を設定する。詳しくは後述する。
【0094】なお、レンズ内マイコンLCPUの制御フ
ローは第1の実施の形態による図7の制御フローと実質
的に同じである。
【0095】次に図19ないし図21を用いて第5の実
施の形態の露光量制御方法の詳細について説明する。ま
ず、図20を用いて一般的な撮像素子の受光特性を説明
する。図20はフィルム或いは撮像素子の特性曲線で、
横軸は露光量、縦軸は銀塩フィルムであれば像濃度、撮
像素子であれば出力電圧である。そして被写体を一定の
絞り値とシャッター秒時で撮影する場合、図の横軸は被
写体輝度とみなすこともできる。図20において、破線
は銀塩フィルムを、実線はCCD等の撮像素子の特性曲
線を表す。そして銀塩フィルムが広ダイナミックレンジ
を有するのに対し、撮像素子のダナミックレンジは狭
く、H1 からH2 の輝度範囲の被写体しか再生できな
い。
【0096】図19は露光量設定フローで、図6のステ
ップ(115)を詳述したものである。ステップ(18
1)は、図6のステップ(113)で測光された被写体
をブロック分割するステップである。その方法を図21
を用いて説明する。図21は図1に示した焦点検出及び
測光用センサSNSの検出領域を示す図である。このセ
ンサSNSの検出領域は撮像素子IMSの受光領域とほ
ぼ同一の検出範囲を有し、かつその検出領域は同図のご
とく、8×12=96の領域に分割され、各領域毎に焦
点検出及び被写体輝度検出が可能となっている。なおセ
ンサSNSの構成は例えば1対の2次結像光学系と、各
々の2次結像光学系に設けられた2次元イメージセンサ
で構成された2次結像位相差検出方式の焦点検出手段に
よって実現できる。
【0097】センサSNS上には図21に示すごとく被
写体像が形成されており、この被写体像の焦点検出結果
及び輝度測定結果から、被写体領域はBK1ないしBK
5の5つのブロックに分類される。ここで各ブロック内
には、ほぼ同一の距離及び輝度レベルを有する被写体が
含まれる様にブロック分割がなされる。
【0098】続いて図19に戻り、ステップ(182)
では上記分割されたブロックの中から、所定のアルゴリ
ズムに従って主被写体を類推する。具体的には、 ・撮影者によって焦点検出領域が設定されていれば、そ
の領域に含まれる被写体が主被写体 ・焦点検出領域が自動選択モードに設定されていれば、
画面中央近傍でかつ比較的近距離の被写体 ・撮影者によって測光領域が選択されていれば、その測
光領域に含まれる被写体が主被写体 ・ファンインダー内における撮影者の視線方向を検出す
る機能を備えたカメラであれば、撮影者の注視方向の被
写体 等の判定によって主被写体を類推できる。本実施の形態
では上記アルゴリズムに従い、人物を含んだブロックB
K3が主被写体であると判断する。
【0099】続いてステップ(183)では、前記分割
されたブロックと主被写体類推結果から、ブロックのグ
ループ化を行う。これは、本発明の主たる作用が画素ず
らしの際の露光量調節にあり、露光量調節回数は画素ず
らし回数以下にならざるを得ない。そこで前記多数のブ
ロックを少数のグループに整理して露光量調節数を画素
ずらし回数以下にする。具体的には次に示すように、B
K1、BK2を高輝度グループGP1に、主被写体が含
まれるブロックBK3を中輝度グループGP2に、ブロ
ックKB4、KB5を低輝度グループGP3に設定す
る。 BK1、BK2 → GP1(高輝度グループ) BK3 → GP2(中輝度グループ) BK4、BK5 → GP3(低輝度グループ)
【0100】続いてステップ(184)では、前ステッ
プ(183)で決定した各グループ内における被写体の
平均輝度を計算する。ステップ(185)では、上記平
均輝度に対する適正露光量E1 ないしEn (ここではn
=3)を演算する。ステップ(186)では、上記適正
露光量を得るための絞り値と露光時間te1ないしt
enを、所定のプログラム線図に従って演算する。ステッ
プ(186)実行後は、図6のステップ(116)に戻
り、画素ずらし及び撮像素子IMSの露光(電荷蓄積)
を実行する。
【0101】図22は前記図6及び図19のフローによ
るカメラ及びレンズの動作を説明するタイミングチャー
トである。(a)、(b)はそれぞれカメラのレリーズ
ボタンに連動したスイッチSW1、SW2の状態を示
す。(c)は画素ずらしのタイミング制御用トリガ信号
である。(d)は撮像素子IMSの電荷蓄積タイミング
を示す。(e)、(f)はピッチ及びヨー方向の画素ず
らし基準波形を示す。(g)、(h)は振れ検知センサ
GRP、GRYが検知した手振れ波形で、ここでは検知
信号を適宜積分等の処理を行った後の振れ変位波形が示
されている。(i)、(j)は像振れ補正用第2レンズ
群のピッチ、ヨー方向の駆動変位を示す。
【0102】以下図22を用いて図6及び図19のフロ
ーをまとめて概説する。時刻t1 においてスイッチSW
1がオンされると、手振れ信号(g)、(h)が出力さ
れる。すると、この信号に第2係数を乗じた値に従って
第2レンズ群が波形(i)、(j)のごとく駆動制御さ
れ、手振れ補正がなされる。時刻t2 においてスイッチ
SW2がオンされると、所定時間後の時刻t11に第1の
タイミングパルスTP1が発生される。するとこれを受
けて、撮像素子IMSは図19のステップ(186)で
演算した中輝度グループGP2に適した露光時間te2
露光を行うべく、時刻t12から時刻t13の期間中に受光
部の電荷蓄積を行う。
【0103】時刻t13で電荷蓄積が終了すると、蓄積電
荷の転送・読み出しと共に、ヨー方向の画素ずらし基準
波形(f)が発生される。するとヨー方向のレンズ変位
(j)は、基準波形(f)に第1係数を乗じた値と上記
手振れ補正波形を加算した指令値にて駆動される。時刻
11から所定時間経過後の時刻t21には第2のタイミン
グパルスTP2が発生される。すると同様に撮像素子I
MSは、時刻t22から時刻t23の期間中に受光部の電荷
蓄積を行う。ここでの露光時間は図19のステップ(1
86)で演算した高輝度グループGP1に適した露光時
間te1が設定される。そして時刻t23で電荷蓄積が終了
すると、蓄積電荷の転送・読み出しと共に、ピッチ方向
の画素ずらし基準波形(e)が発生される。するとピッ
チ方向のレンズ変位(i)も、この基準波形(e)に第
1係数を乗じた値と上記手振れ補正波形を加算した指令
値にて駆動される。
【0104】時刻t21から所定時間経過後の時刻t31
は第3のタイミングパルスTP3が発生される。すると
同様に撮像素子IMSは、時刻t32から時刻t33の期間
中に受光部の電荷蓄積を行う。ここでの露光時間は再び
前記中輝度グループGP2に適した露光時間te2が設定
される。そして時刻t33で電荷蓄積が終了すると、蓄積
電荷の転送・読み出しと共に、ヨー方向の画素ずらし基
準波形(f)は元の値に戻される。するとヨー方向のレ
ンズ変位(j)は、手振れ補正波形のみに応答した指令
値にて駆動される。
【0105】時刻t31から所定時間経過後の時刻t41
は最後のタイミングパルスTP4が発生する。すると同
様に撮像素子IMSは、時刻t42から時刻t43の期間中
に受光部の電荷蓄積を行う。ここでの露光時間は図19
のステップ(186)で演算した低輝度グループGP3
に適した露光時間te3が設定される。そして時刻t43
電荷蓄積が終了すると、蓄積電荷の転送・読み出しと共
に、ピッチ方向の画素ずらし基準波形(e)も元の値に
戻される。するとピッチ方向のレンズ変位(i)も、手
振れ補正波形のみに応答した指令値にて駆動される。そ
して時刻t5 でスイッチSW1がオフされると、手振れ
検知及び第2レンズ群の駆動が停止される。
【0106】上記手振れ補正及び画素ずらし制御中の時
刻t11、t21、t31、t41、t5 における像の位置は前
述の図4において、それぞれIM1、IM2、IM3、
IM4、IM1となり、各像の上下、左右の位置が画素
間隔の半分だけずれた画素ずらしが実現される。そして
画素ずらし中の4回の露光時に、各被写体輝度グループ
に適した露光量が与えられる。なお画素ずらし基準波形
が矩形波ではなく台形波となっているのは、第2レンズ
L2の急激な位置変化による衝撃を緩和するためであ
る。
【0107】次に前記図9及び図10を用いて本実施の
形態による画素ずらしにより得た複数組の画像信号を合
成し、1組の高精細画像信号を生成する原理について説
明する。図9は前述したように、画素ずらしにおける像
と撮像素子の相対位置関係を説明する図である。図9の
(a)は図4でも説明したもので、カメラ内に固定され
た撮像素子の画素に対して像がIM1→IM2→IM3
→IM4→IM1の順に移動することを示している。こ
れは(b)のごとく、不動の像に対して撮像素子の位置
がIG1→IG2→IG3→IG4→IG1の順に移動
するのと全く等価である。そして本実施の形態では、画
素ずらしの各ステップ、すなわち撮像素子の位置に応じ
て露光時間を変えているため、露光時間の多寡を図9
(b)において、丸の大小で示してある。
【0108】次に、上記動作によって得た複数の画像を
合成する方法を説明する。まず、撮像素子がIG1に位
置する時の各画素の出力信号をIG1(i,j)とす
る。ここで撮像素子は(m×n)画素のエリアセンサで
ある。同様にIG2、IG3、IG4に位置する時の出
力信号をIG2(i,j)、IG3(i,j)、IG4
(i,j)とする。これらの4組の画像信号の合成方法
を説明したものが図10である。
【0109】4組の(m×n)画素の信号を合成した
(2m×2n)画素の新たな画像信号組をIMG(u,
v)とする。そして画像信号IMG(u,v)の左上の
4画素は、4組の元の画素を図のごとく組み立てたもの
である。そこでこの図を基に画像復元方法を考えると、 IMG(u=2i−1,v=2j) ←IG1(i,j)×K2 ………(16) IMG(u=2i−1,v=2j−1)←IG2(i,j)×K1 ………(17) IMG(u=2i,v=2j−1) ←IG3(i,j)×K2 ………(18) IMG(u=2i,v=2j) ←IG4(i,j)×K3 ………(19) の式に従えば、4組の画像信号から1組の高精細画像信
号を生成できる。ここでK1 ないしK3 は、露光時間の
違いによる各画像信号組の出力レベルのずれを補正する
係数で、 K1 =C/te1 ………(20) K2 =C/te2 ………(21) K3 =C/te3 ………(22) で表される。ここでCは定数のため、K1 >K2 >K3
の大小関係となる。
【0110】図23はこの作用を説明するためのもの
で、図20と同じく横軸は被写体輝度、縦軸は出力電圧
である。ここでは露光時間の一番長い画像信号組IG4
の補正係数K3 を1とし、IG1、IG3はK2倍、I
G2はK1倍して合成する。また元の画像信号出力の有
効範囲をVminとVmaxの間の範囲とし、画像信号組IG
4の上限領域、画像信号組IG1、IG3の上下限領
域、及び画像信号組IG2の下限領域では該有効範囲外
の出力信号は用いずに、画素ずらしによる画像合成後に
周囲の画素を用いた補間演算により、画像信号を得る。
【0111】すなわち、露光時間の短い画素組は画像信
号に再生する時点で出力電圧の増幅率を上げ、反対に露
光時間の長い画素組は出力電圧の増幅率を下げること
で、合成された高精細画像の各画素の再生レベル正規化
を図っている。そして1つの画素組では飽和している
が、他の画素組では飽和が生じていない領域では、飽和
していない画像信号から飽和した画像信号を補間により
生成する。以上の操作により、H3からH4までの輝度
範囲の被写体像を忠実に再現できる。
【0112】本実施の形態では、画素ずらし操作におけ
る4回の露光のうち、2回は主被写体の輝度レベルに合
わせた同一の露光時間としている。これは主被写体に適
した露光の回数を多くし、主被写体の画像情報がなるべ
く多く得られる様にしたためである。また本実施の形態
では、画像合成時の信号正規化を露光時間の伸縮により
制御しているが、複数組の画像信号の同一撮影領域での
出力値が等しくなるように補正を行ってもよい。なお本
実施の形態での画素ずらし及び画像合成方法は、白黒撮
像素子或いは色分解プリズムを用いた多板式カラー撮像
素子に適用されるもので、モザイク型色フィルターを用
いた単板式カラー撮像素子では画素ずらし量や画像合成
方法の点で多少の違いはあるが、基本的な考えは同一で
ある。
【0113】上記第5の実施の形態によれば、 (1)多分割センサで測光した被写体の輝度分布情報か
ら、画素ずらし実行時の各画像の露光レベルを調整し、
これらを合成することにより、高精細かつ広ダイナミッ
クレンジの画像を得ることができる。 (2)主被写体類推手段を有し、その検出結果に基づい
て露光レベルを調整するため、主被写体の画像再現性が
高まる。 (3)画素ずらしに伴う複数回の露光のうち、主被写体
の輝度レベルに適した露光の回数を多くするため、主被
写体の画像再現性がさらに高められる。という効果があ
る。
【0114】(第6の実施の形態)前記第5の実施の形
態は画素ずらし回数は固定で、被写体輝度状況に応じて
露光レベルを調整する実施の形態であった。以下に示す
第6の実施の形態は、カメラの撮影状態に応じて最適な
画素ずらしモードを選択、かつ選択された画素ずらしモ
ードに適した露光レベル調整を行う実施形態を示す。図
24は第6の実施の形態の制御フローの一部、前記図1
2は第2の画素ずらしモード原理図、図13は第2の画
素ずらしモードにおける画像合成の原理説明図である。
以下、図面を用いて第6の実施の形態の動作を説明す
る。
【0115】第6の実施の形態のカメラの制御フロー
は、図18に示した第5の実施の形態のカメラの制御フ
ローと基本的な部分は同一であるが、ステップ(11
5)の「露光・画素ずらし条件設定」部分を図24に示
すサブルーチンとすることで、第6の実施の形態特有の
作用を実現させている。以下、図18及び図24を用い
て第6の実施の形態のフローを説明するが、図18のフ
ローについては第5の実施の形態で詳細な説明を行って
いるため、ここでは簡単に説明する。
【0116】図18において、ステップ(102)でS
W1がオンと判断されるとステップ(111)へ移り、
ステップ(111)、ステップ(112)でIS開始命
令の送信と、パラメータ通信を行う。続いてステップ
(113)、ステップ(114)で測光及び焦点検出を
行い、その結果をレンズ内マイコンLCPUにも送信す
る。次のステップ(115)では図24に示すフローを
実行する。図24のステップ(261)では、第5の実
施の形態の図19のステップ(181)と同様に、測光
センサSNS上に投影された被写体を複数のブロックに
ブロック化する。続いてステップ(262)では、図1
9のステップ(182)と同様に、上記複数ブロックの
中から主被写体を類推する。ステップ(263)では、
レンズ内マイコンLCPUに対し、所定時間内の手振れ
角速度ピーク値ωpeakの送信要求を行う。するとレンズ
内マイコンLCPUは、例えば2秒間中のピッチ或いは
ヨー方向の手振れ角速度最大値ωpeakをカメラ内マイコ
ンCCPUに送信する。
【0117】ステップ(264)では次式 δ=f×ωpeak×texp ………(23) に従って、手振れ補正不作動時の露光中の像振れ量最大
値δを演算する。ただしfは結像光学系の焦点距離、t
exp は測光結果から導かれた主被写体の露光秒時、すな
わち電荷蓄積時間である。ここで導かれた像振れ量δ
は、画素ずらしを実行すべきか否かの判定をするための
手振れ指標として、以下のステップで利用される。ステ
ップ(265)では像振れ量δの大きさ判定を行う。そ
して像振れ量δが所定値DEL1以下なら、手振れによ
る像劣化の影響が少なく、画素ずらしによって十分な高
精細化が可能であるとして、ステップ(271)で画素
ずらし回数NSFを4回に設定する。ここで画素ずらし回
数が4回というのは第5の実施の形態で説明した画素ず
らし及び画像合成方法のことであり、これを第1の画素
ずらしモードと称する。第1の画素ずらしモード時は、
ステップ(272)以降を実行する。
【0118】ステップ(272)ないしステップ(27
5)では、図19のステップ(183)ないしステップ
(186)と同一の動作を実行し、4回の画素ずらし操
作時の各露光時間te1ないしten=3を決定する。ステッ
プ(275)実行後はステップ(266)に進む。ステ
ップ(265)で像振れ量δが所定値DEL2以下(た
だしDEL2>DEL1)と判定されたらステップ(2
81)で画素ずらし回数NSFを2回に設定する。これは
手振れ補正を実行しても手振れによる若干の画質劣化が
予想されるため、画素ずらし回数が少ないモード(これ
を第2の画素ずらしモードと称する)を選択して、手振
れによる画質低下と画素ずらしによる画質向上の最適化
を図るためである。第2の画素ずらしモードではステッ
プ(282)以降を実行する。
【0119】ステップ(282)では、主被写体の次に
重要な従被写体を推定する。例えばステップ(261)
で分割された各ブロックのうち、面積の一番大きなブロ
ックが従被写体と類推される。ステップ(283)で
は、ステップ(262)で決定された主被写体及びステ
ップ(282)で決定された従被写体の輝度計算を行
う。ステップ(284)では、上記ステップ(283)
で計算された輝度から、主・従被写体の輝度に適する露
光量Emain、Esub が演算される。ステップ(285)
では、上記ステップ(284)で計算された露光量か
ら、主・従被写体の輝度に適する露出時間temain 、t
esubが演算される。ステップ(285)実行後はステッ
プ(266)に進む。なお第2の画素ずらしモードにつ
いては後述する。ステップ(265)で像振れ量δが所
定値DEL2より大きいと判定されたらステップ(29
1)で画素ずらし回数NSFを1回、すなわち画素ずらし
非実行に設定する。これは手振れ補正を実行しても、手
振れによる画質劣化の影響が画素ずらしによる画質向上
を上回ることが予想されるため、画素ずらしを禁止す
る。
【0120】ステップ(293)では、ステップ(26
2)で決定された主被写体の輝度計算を行う。ステップ
(294)では、上記ステップ(293)で計算された
輝度から、主被写体の輝度に適する露光量Emainが演算
される。ステップ(295)では、上記ステップ(29
4)で計算された露光量から、主被写体の輝度に適する
露出時間temain が演算される。ステップ(295)実
行後はステップ(266)に進む。ステップ(27
5)、ステップ(285)或いはステップ(295)を
実行後は、ステップ(266)へ移行する。ステップ
(266)ではレンズ内マイコンLCPUに上記フロー
で決定した画素ずらしモードを送信する。ステップ(2
67)ではカメラ内の表示手段DISPに上記画素ずら
しモードの種別を表示して、撮影者にどのモードで撮影
が行われるのかを報知する。ステップ(267)実行後
は図18のステップ(116)に戻る。
【0121】ステップ(116)ではスイッチSW2の
判別を行い、SW2がオンならステップ(117)へ進
む。ステップ(117)ないしステップ(122)では
第5の実施の形態と同様に画素ずらしを実行するが、第
6の実施の形態では前述のごとくステップ(271)な
いしステップ(295)で複数の画素ずらしモードを選
択的に用いるため、ステップ(117)ないしステップ
(122)でも各画素ずらしモードに応じた動作で制御
される。続いてステップ(123)ではレンズ内マイコ
ンLCPUに画素ずらし完了通信を行い、ステップ(1
24)へ進む。ステップ(124)でも前記複数の画素
ずらしモードに応じた画像合成を選択して行う。ステッ
プ(125)では前ステップで合成された画像を記録
し、ステップ(102)へ戻る。
【0122】第2の画素ずらしモード、すなわち画素ず
らし回数が2回の時の作用について前記図12を用いて
説明する。なお、この図12は、第1、第5の実施の形
態における図9に相当する。図12の(a)は受光素子
に対する画像の移動を示したものである。画像のある点
はまずIM21に位置した状態で、主被写体の輝度に適
した露光条件で受光素子の電荷蓄積・読み出しがなされ
る。ついで画素ずらし動作で像がIM22に移動した
後、被写体の輝度に適した露光条件で再び受光素子の電
荷蓄積・読み出しがなされる。そして像は元の位置IM
21に戻される。図12の(b)は上記像の動きを撮像
素子の動きに置き換えたもので、最初IG21に位置す
る撮像素子は露光時間temain で露光される。続いて画
素ずらし動作によってIG22に移動し、露光時間t
esubで露光された後にIG21に戻る。
【0123】図13は第2の画素ずらしモードにおける
画像合成方法を説明する図である。第2の画素ずらしモ
ードではIG21(i,j)とIG22(i,j)の2
組の画像、すなわち合計(2×m×n)個の画像信号か
ら、(4×m×n)個で構成されるIMG2(u,v)
の画像信号を合成する。そのために図13に示すごと
く、IMG2(u,v)の黒丸で示す画素はIG21
(i,j)或いはIG2(i,j)の画素をそのまま用
い、白丸で示す画素はその周辺の4画素(4画素が無い
時は2或いは3画素)の平均値から合成する。
【0124】これを式で表すと IMG2(u=2i−1,v=2j) ←IG21(i,j)×Kmain ………(24) IMG2(u=2i,v=2j−1) ←IG22(i,j)×Ksub ………(25) IMG2(u=2i−1,v=2j−1)←{IG21(i,j)×Kmain+ IG22(i,j)×Ksub +IG21(i,j−1)×Kmain+IG22(i −1,j)×Ksub }/4 ………(26) IMG2(u=2i,v=2j) ←{IG21(i,j)×Kmain+ IG22(i,j)×Ksub +IG21(i+1,j)×Kmain+IG22(i ,j+1)×Ksub }/4 ………(27) と表わせる。ここでKmain及びKsub は、第1の実施の
形態と同じく露光時間の違いによる各画像信号組の出力
レベルのずれを補正する係数で、 Kmain=C/temain ………(28) Ksub =C/tesub ………(29) で表わせる。
【0125】上記第6の実施の形態によれば、前記第5
の実施の形態の効果のほかに、 (4)手振れ量に応じて最適な画素ずらしモードを選択
し、かつ選択された画素ずらしモードに適した露光レベ
ル調節を行うため、撮影状況に応じて精細度及ダイナミ
ックレンジのバランスの取れた画像を得ることができ
る。という効果がある。
【0126】(第7の実施の形態)前記第6の実施の形
態は手振れに応じた最適画素ずらし及び露光調整モード
を選択する実施形態を示した。以下に示す第7の実施の
形態は、撮影者により設定されたカメラの撮影モードか
ら画素ずらし実行の適否を判断し、画素ずらしモード及
び露光調整モードを切り替える実施形態を示す。第7の
実施の形態のカメラの制御フローも前記第6の実施の形
態と同様に、基本的な部分は図18に示したカメラの制
御フローと同一であり、ステップ(115)の「露光・
画素ずらし条件設定」部分を図25に示すサブルーチン
とすることで、第7の実施の形態特有の作用を実現させ
ている。以下、図18及び図25を用いて第7の実施の
形態のフローを説明するが、図18のフローについては
第5の実施の形態で詳細な説明を行っているため、ここ
では簡単に説明する。
【0127】図18において、ステップ(102)でS
W1がオンと判断されるとステップ(111)へ移り、
ステップ(111)、ステップ(112)でIS開始命
令の送信と、パラメータ通信を行う。続いてステップ
(113)、ステップ(114)で測光及び焦点検出を
行い、その結果をレンズ内マイコンLCPUにも送信す
る。次のステップ(115)では図25に示すフローを
実行する。図のステップ(361)では、図19のステ
ップ(181)と同様に、測光センサSNS上に投影さ
れた被写体を複数のブロックにブロック化する。続いて
ステップ(362)では、図19のステップ(182)
と同様に、上記複数ブロックの中から主被写体を類推す
る。ステップ(363)ではカメラCMRの撮影モード
選択スイッチSWMODの状態判別を行い、撮影者によ
って設定された露出制御モード等の撮影条件を認識す
る。
【0128】ステップ(364)では撮影モードが風景
モードか否かの判別を行う。風景モードとは絞り制御値
を小絞り(大Fナンバー)として被写界深度を深くする
露出制御モードである。そして風景モード設定時は被写
体が静止しており、カメラもしっかりとホールディング
されて手振れも生じにくいと予想されるため、ステップ
(371)に進んで画素ずらしを4回行う高精細モード
に設定する。ステップ(364)で風景モードでないと
判定されたらステップ(365)へ進む。ステップ(3
65)では撮影モードがポートレイトモードか否かの判
別を行う。ポートレイトモードは絞り制御値を開放近傍
絞り(小Fナンバー)として被写界深度を浅くする露出
制御モードである。ポートレイトモード時も風景モード
と同様の撮影状態であると予想されるため、ステップ
(371)へ進む。ステップ(365)でポートレイト
モードでないと判定されたらステップ(366)へ進
む。
【0129】ステップ(366)では撮影モードがスポ
ーツモードか否かの判別を行う。スポーツモードは露出
秒時を高速秒時にして被写体の動きを止める露出制御モ
ードである。スポーツモード選択時は被写体が動いてお
り、カメラにはパンニング操作、すなわち大きな手振れ
と同様のカメラの運動が生じると予想される。また画素
ずらし動作中の被写体の動きにより被写体振れも発生
し、画素ずらしによる高詳細化が期待できないばかり
か、かえって不自然な写真になってしまうことも予想さ
れる。従ってスポーツモード設定時はステップ(39
1)へ進み、NSF=1すなわち画素ずらしを禁止する。
ステップ(366)でスポーツモードでないと判定され
たら、すなわち風景、ポートレイト、スポーツのいずれ
のモードでも無いと判定されたらステップ(381)へ
進み、画素ずらし回数を2回に設定する。
【0130】ステップ(371)ないしステップ(37
5)、ステップ(381)ないしステップ(385)、
ステップ(391)ないしステップ(395)は、図2
4に示した第6の実施の形態のステップ(271)ない
しステップ(275)、ステップ(281)ないしステ
ップ(285)、ステップ(291)ないしステップ
(295)と同一内容の動作を実行する。すなわち、各
画素ずらしモードに応じた露光調節量を決定するが、詳
しい動作は第6の実施の形態で説明済みのため、省略す
る。ステップ(375)、ステップ(385)或いはス
テップ(395)を実行後は、ステップ(367)へ移
行する。ステップ(367)ではレンズ内マイコンLC
PUに上記フローで決定した画素ずらしモードを送信す
る。ステップ(368)ではカメラ内の表示手段DIS
Pに上記画素ずらしモードの種別を表示して、撮影者に
どのモードで撮影が行われるのかを報知する。ステップ
(368)実行後は図18のステップ(116)に戻
る。
【0131】ステップ(116)ではスイッチSW2の
判別を行い、SW2がオンならステップ(117)へ進
む。ステップ(117)ないしステップ(122)では
第6の実施の形態と同様に選択された画素ずらしモード
に従って画素ずらしが実行される。続いてステップ(1
23)ではレンズ内マイコンLCPUに画素ずらし完了
通信を行い、ステップ(124)へ進む。ステップ(1
24)でも前記複数の画素ずらしモードに応じた画像合
成を選択して行う。ステップ(125)では前ステップ
で合成された画像を記録し、ステップ(102)へ戻
る。
【0132】上記第7の実施の形態によれば、前記第5
の実施の形態の効果のほかに、 (5)撮影者により設定されたカメラの撮影モードから
画素ずらし実行の適否を判断し、画素ずらしモードを切
り替えることにより、カメラ及び被写体の動きに適した
画素ずらし動作が実行できる。その結果、撮影状況に応
じて精細度及びダイナミックレンジのバランスの取れた
画像を得ることができる。という効果がある。また、本
実施の形態では、撮影モードの一例として露出制御モー
ドを対象としたが、焦点検出モード等に応じて画素ずら
しモードを切り替えても良い。
【0133】(他の変形例)前記第5ないし第7の実施
の形態においては、手振れ補正及び画素ずらしのための
像移動手段として、結像光学系内のレンズ群を光軸に対
して垂直方向にシフトさせ、これによる光軸偏光作用を
利用しているが、その代わりに結像光学系の一部に、2
枚の透明平行平板とこれに封止された透明液体からな
る、いわゆる可変頂角プリズムを用いることも可能であ
る。また、手振れ補正手段を有しない形態においても、
本発明の効果は等しく発揮できる。また、画素ずらしの
際の複数の画像間での露光量調節方法として、露光時間
を可変としたが、絞り値を可変としても構わない。或い
は撮影光学系中にEC(エレクトロ・クロミック)素子
または液晶素子等の透過光量調節手段を配置し、その濃
度を可変とすることで、露光量を調節しても構わない。
また本実施の形態において、露光レベルの異なる複数の
画像組を得る際、画素ずらしを行わない形態において
も、本発明の効果は発揮できる。この場合は画像の高詳
細化の効果はなくなるが、被写体の状態に応じた広ダイ
ナミックレンジ画像を得るという効果が発揮できる。
【0134】(第8の実施の形態)第8の実施の形態に
おけるカメラ内マイコンCCPU制御フローは前記図1
8と実質的に同様に行われるが、ステップ(124)の
処理内容が異なる。すなわち、ステップ(124)では
画素ずらしによって得た複数の画像信号から像振れを判
定し、その判定結果に基づいて所定の方法で画像合成
し、1つの高精細画像を作成するサブルーチンである。
詳しい動作内容は図33で説明する。
【0135】なお、レンズ内マイコンLCPUの制御フ
ローは前記図7と実質的に同じ処理が行われる。
【0136】また、図18、図7の制御フローによるカ
メラ及びレンズの動作は前記図8に示すタイミングチャ
ートに沿って第1の実施の形態で説明したのと実質的に
同様に行われる。
【0137】次に図26ないし図32を用いて画素ずら
しにより得られた複数画像から、手振れによる像振れ判
定を行う方法について説明する。図26及び図27は2
組の1次元画像信号の相関度から両画像の相対位置ずれ
量を算出する原理を示す。両図において、横軸は撮像素
子の画素座標、縦軸は各画素の出力信号値である。
【0138】図26(a)のIM1はある時刻に取得さ
れた第1の画像信号組の出力、IM2はそれから所定時
間後に取得された第2の画像信号組の出力で、両画像は
画素ずらし動作或いは手振れによる像振れのために、画
素間隔の整数倍だけ位置ずれしているものとする。図2
6(b)は第2の画像信号IM2を左方向に2画素分シ
フトしたもので、両画像信号は完全に一致する。
【0139】ここで2画像の相関度(Correlation )C
Rを、 CR=1−Σ{ABS(IM2(i)−IM1(i))/(IM1(i)+I M2(i))} ………(30) ただしABSは絶対値、iは画素番号、Σはi=1から
所定画素番号までの和演算子と定義すると、図26の例
では画素シフト量STが−2の時、相関度CRが最大値
1となる。この状態をSTmax =−2、CRmax =1と
表す。
【0140】図27(a)は2組の画像間隔が画素間隔
の整数倍とは異なる場合(同図では1.5画素)の説明
図である。図27(b)は第2の画像信号IM2を左方
向に1画素分シフトしたもので、相関度CRは0.8と
なる。そしてさらにもう1画素分シフトしても相関度C
Rは1にはならない。
【0141】この時の画素シフト量STと相関度CRの
関係を表したものが図28である。図28によると、画
素シフト量STを+2から−3まで変化させながら相関
度CRを計算すると、画素シフト量STが−1と−2で
相関度CRが最大値0.8となる。そこで相関度CRを
直線回帰で補間すると、画素シフト量STが−1.5の
時、相関度CRが真の最大値0.9になることが判る。
すなわち、STmax=−1.5、CRmax =0.9とな
る。
【0142】上記の説明は2組の1次元画像における像
ずれ量の算出方法だが、これを拡張することにより、2
組の2次元画像における上下、左右方向の像ずれ量も算
出できる。具体的には特開昭64−10787号公報に
開示されているように、2次元の画像信号を上下、左右
方向の1次元信号に射影圧縮し、それぞれの相関演算に
より像の動きベクトルすなわち上下、左右方向の像ずれ
量を検出できる。或いは、2次元画像を2方向に順次ず
らしながら相関演算し、2次元の動きベクトルを直接求
めることも可能である。
【0143】図29は、手振れの影響を受けずに正確な
画素ずらし制御が実行された場合の、像移動状況を示す
図であり、図4でも説明した像と撮像素子の相対位置関
係を示している。図29において、像のある点が左下の
画素上の点IM1に位置する状態で第1の画像信号の取
得(撮像素子の電荷蓄積及び読み出し)を行う。続いて
水平方向(手振れ補正のヨー方向に対応)に0.5画素
間隔分の画素ずらしを行って像位置をIM2に移動さ
せ、第2の画像信号を取得する。
【0144】図30は上記図29で取得した第1及び第
2の画像信号の相関度CRを示す図である。横軸は2組
の画像信号の相関演算を行う際の画素の相対シフト量
で、水平方向のシフト量をSTH、垂直方向のシフト量
をSTVとしてある。縦軸は相関度CRである。図中の
CRHは、2組の2次元画像を水平方向に相対的にST
H画素(±3画素)だけシフトして演算した相関度を、
CRVは同じく垂直方向にSTV画素(±3画素)だけ
シフトして演算した相関度を示す。
【0145】ここで図29の画素ずらしは水平方向のみ
に0.5画素ずらし、垂直方向(手振れ補正のピッチ方
向)にはずらしていないため、相関度CRが最大となる
画素シフト量(これを最大相関シフト量と称す)は、S
THmax =−0.5、STV max =0となる。またこの
時の相関度最大値CRHmax 、CRVmax は1を若干下
回る値となる。これは、第1及び第2の画像が画素間隔
の整数倍とは異なるずれ量で取得されたため、各画素の
信号が完全には一致していないからである。そしてこの
現象は画素ずらしを行っていない上下方向についても当
てはまるため、CRVmax も1とはならない。
【0146】図31は、画素ずらし制御中に大きな手振
れが発生し、手振れ補正を行っても像振れが発生した場
合の像移動状況を示す。図31において、像のある点が
左下の画素上の点IM1に位置する状態で第1の画像信
号の取得を行う。続いて破線矢印のごとく水平方向に
0.5画素間隔分の画素ずらしを行ったが、手振れによ
る像振れが上乗せされ、像位置がIM2に移動した時
に、第2の画像信号を取得している。
【0147】図32は上記図31で取得した第1及び第
2の画像信号の相関度CRを示す図で、図中の各記号は
前記図30と同一の意味を表す。図32によると、最大
相関シフト量はSTHmax =−0.7、STVmax =−
0.3となる。そこで図30における手振れが無い場合
の最大相関シフト量との差(計算式上は和)をδH 、δ
V とすると、 δH =−0.7+(−0.5)=0.2 ………(31) δV =−0.3+0=0.3 ………(32) となり、上記δH 、δV がそれぞれ画素ずらし中の水
平、垂直方向の手振れによる像振れ量(単位は画素間
隔)となる。この像振れ量δH 、δV が所定値、例えば
δMAX =±0.1画素間隔を超えると、画素ずらしによ
る高精細化の効果が打ち消されてしまうため、その時に
は画素ずらしモードの変更等の対処を行う。
【0148】ここで、本実施の形態では手振れ補正機構
が動作しているため、理想的には手振れによる像振れは
発生しないはずだか、現実には振れ検知センサの出力エ
ラー、手振れ補正能力以上の大きな振れの発生等で像振
れが発生する可能性がある。そして上記原因による像振
れは撮影画面の全面に渡って一様に生じる。
【0149】次に画素ずらしにより得た複数組の画像信
号を合成して1枚の高精細画像信号を生成する原理につ
いては、第1の実施の形態において図9、図10及び式
(7)〜(10)と共に説明したのと同様の方法に基づ
くものである。なおこの方法は白黒撮像素子或いは色分
解プリズムを用いた多板式カラー撮像素子に適用される
もので、モザイク型色フィルターを用いた単板式カラー
撮像素子では画素ずらし量や画像合成方法の点で多少の
違いはあるが、基本的な考えは同一である。
【0150】図33は上記図26ないし図32及び図
9、図10で説明した画素ずらし中の手振れ判定と画像
合成の作用を示すフロー図で、図6のステップ(12
4)の画像合成サブルーチンに相当する。まずステップ
(161)では、画素ずらし回数カウンタCNTを0に
初期化する。ステップ(162)では、前述の式(3
0)に従って第1及び第2の画像信号組の相関度を演算
する。ステップ(163)では、上記相関演算結果か
ら、最大相関シフト量STHma x 、STVmax を計算す
る。ステップ(164)では、相関度最大値CR
max 、CRVmax を計算する。ステップ(165)で
は、像振れ量δH 、δV を計算する。ステップ(16
6)では、カウンタCNTに1を加えて更新する。
【0151】ステップ(167)では、カウンタCNT
と画素ずらし回数を表す所定値NSFとの比較を行う。例
えばNSF=4の場合、ステップ(162)ないしステッ
プ(165)の演算は、第1と第2の画像信号組、第2
と第3の画像信号組、第3と第4の画像信号組の間で合
計3回行うことになる。従ってCNTがNSF−1に達し
ていなければステップ(162)に戻って次の画像信号
組に対するステップ(162)ないしステップ(16
6)の演算を繰り返し実行する。CNTがNSF−1に達
したら、ステップ(168)に進む。
【0152】ステップ(168)では、上記ステップ
(165)で計算したすべての像振れ量について、所定
値δmax との比較を行う。そしてすべての像振れ量が所
定値δ max より小さければ、画素ずらしによる高精細化
が期待できるため、ステップ(169)に進んで図10
で示した方法により画像合成を行う。ステップ(17
0)では正規の画素ずらし動作が実行されたことを、表
示手段DISPに表示する。そしてステップ(171)
において図6のメインフローにリターンする。一方ステ
ップ(168)において、所定値δmax 以上の像振れの
存在が確認されたら、ステップ(172)へジャンプ
し、画素ずらしによる画像合成は行わない旨を報知する
警告表示を、同じく表示手段DISPに表示する。そし
てステップ(171)において図6のメインフローにリ
ターンする。この時は合成画像ではない原画像、例えば
第1の画像信号組が最終的な画像信号となる。
【0153】上記第8の実施の形態によれば、 (1)画素ずらし操作で得た複数の画像信号同士の相関
演算結果から手振れによる像振れを抽出し、像振れの大
小に応じて画素ずらしによる画像合成の実行可否を選択
するため、手振れによる像劣化の影響を抑え、かつ画素
ずらしによる高精細な画像信号を得ることができる。 (2)画素ずらしの実行可否結果を表示手段を用いて撮
影者に報知するため、撮影者は得られた画像の精細度を
確認できるとともに、手振れによって画素ずらしが実行
されなかった時には撮影をやり直す等の対策を講じるこ
とができる。 (3)画素ずらしによる画像の移動毎に像振れ演算を行
うため、高精度の像振れ検知ができ、手振れによる画素
ずらし動作の失敗を確実に排除できる。という効果があ
る。
【0154】(第9の実施の形態)前記第8の実施の形
態は画素ずらしによる像の移動毎に像振れ検出を行い、
1回でも大きな像振れが発生したら画素ずらしを禁止す
る実施形態であった。以下に示す第9の実施の形態は、
画素ずらし実行後に像を初期位置に戻して像振れ判定用
の予備画像信号を取得し、これを用いて像振れ検知を行
う実施の形態を示す。
【0155】図34は第9の実施の形態の画素ずらし動
作時の像移動軌跡、図35及び図36はカメラの制御フ
ローである。以下、図面を用いて第9の実施の形態の動
作を説明する。図34において、撮像素子に対して像を
破線の軌跡に従って移動させ、5組の画像信号を取得す
る。しかし、手振れのために実際の像はIM1→IM2
→IM3→IM4→IM5のごとく移動するものとす
る。そして画素ずらしによる高精細化のためにIM1な
いしIM4の4組の像を用いる一方、像振れ検知のため
の相関演算にはIM1及びIM5の2組の像を用いる。
すなわち、手振れが無ければIM1及びIM5の2像は
完全に一致し、STHmax =STVmax =0、δH=δ
V =0、CRHmax =CRVmax =1となるのに対し、
手振れが生ずると画素ずらし動作の全行程中の像振れ量
積算値がδH 、δV として表れる。
【0156】図35はカメラのメインフローである。当
フローは、図18に示した第8の実施の形態のカメラの
制御フローと基本的な部分は同一であるが、図18のス
テップ(122)において、画素ずらし実行回数を判定
し、条件分岐する部分が異なる。すなわち、図18の第
8の実施の形態では画素ずらしによる4組の画像信号取
得完了後にステップ(123)に分岐した。一方、図3
5の本実施の形態では、4組の画像信号取得後に像位置
を初期位置に戻し、像振れ検知用に第5組目の画像信号
を取得する。そこでステップ(122)において、画素
ずらし回数計測用カウンタCNTがNSF+1=5になっ
てからステップ(123)に分岐する。ステップ(12
3)実行後はステップ(124)において、図36に示
すサブルーチンにて画像合成を行う。上記以外のステッ
プは第8の実施の形態の作用と同一のため、説明を省略
する。
【0157】図36は、前記図35のメインフロー中
の、ステップ(124)の画像合成サブルーチンを示す
フロー図で、第8の実施の形態の図33と同様に、画素
ずらし中の手振れ判定と画像合成を実行する。まずステ
ップ(461)では、前述の式(30)に従って第1及
び第5の画像信号組の相関度を演算する。ステップ(4
62)では、上記関数演算結果から、最大相関シフト量
STHma x 、STVmax を計算する。ステップ(46
3)では、相関度最大値CRHmax 、CRVmax 、を計
算する。ステップ(464)では、像振れ量δH 、δV
を計算するが、本実施の形態ではステップ(462)で
計算された最大相関シフト量STHmax 、STV
max が、そのまま像振れ量δH 、δV となる。
【0158】ステップ(465)では、上記ステップ
(464)で計算した像振れ量について、第1の所定値
δ1 との比較を行う。そして像振れ量が第1の所定値δ
1 より小さければ、手振れによる像振れが極めて小さ
く、画素ずらしによる高精細化が期待できるため、ステ
ップ(466)に進んで図10で示した方法により4組
の画像の合成を行う。ステップ(467)では、4画像
合成による画素ずらしを実行したことを、表示部DIS
Pに表示する。そしてステップ(472)に進んで図3
5のメインフローにリターンする。
【0159】一方ステップ(465)において、像振れ
量が第1の所定値δ1 以上であると判定されたらステッ
プ(468)へ進む。ステップ(468)では、像振れ
量と、第1の所定値δ1 より大きな第2の所定値δ2
の比較を行う。そして像振れ量が第2の所定値δ2 より
小さければ、手振れによる像振れがやや大きいが、画素
ずらしによる高精細化も若干は期待できるため、ステッ
プ(469)に進んで2組の画像の合成を行う。これ
は、画素ずらし回数の増加は画像の高精細化に寄与する
が、画像の取得時間が延びて手振れによる画質低下の影
響を受けやすくなり、場合によっては画素ずらしを行わ
ない原画像よりも低画質となってしまう場合もある。そ
こで本実施の形態では、若干の像振れが生じた時には4
組全部の画像を用いず、画像の高精細化を若干犠牲にし
て手振れの影響を排除している。具体的には、第1及び
第2の画像信号組を合成して水平方向のみの解像度を向
上させる、或いは第1及び第3の画像信号組を合成し、
画素の埋まらない空白部は周囲の画像信号を補間して生
成する等の方法がある。
【0160】ステップ(469)で所定の画像合成を行
ったら、ステップ(470)に進み、2画像合成による
画素ずらしを実行したことを、表示手段DISPに表示
する。そしてステップ(472)に進んで図35のメイ
ンフローにリターンする。一方ステップ(468)にお
いて、第2の所定値δ2 以上の像振れの存在が確認され
たら、像振れがかなり大きく、画素ずらしによってかえ
って画質が低下する可能性があるため、ステップ(47
1)へジャンプし、画素ずらしによる画像合成は行わな
い旨を報知する警告表示を同じく表示手段DISPに表
示する。そしてステップ(472)において図35のメ
インフローにリターンする。この時は合成画像ではない
原画像、例えば第1の画像信号組が最終的な画像信号と
なる。
【0161】上記第9の実施の形態によれば、前記第8
の実施の形態の効果(1)(2)を有すると共に、 (4)2組の画像から画素ずらし動作の全時間中の像振
れを検出するため、像振れ判定時間が短くて済む。 (5)記録用の最初の画像と、画素ずらし終了後に元の
位置に戻した画像とで相関演算を行うため、相関演算結
果から得られた画像の相対ずれ量が手振れによる像振れ
量に一致し、像振れ検出演算が簡易になる。 (6)像振れ量に応じて、複数の画素ずらしモードから
最適な画素ずらしモードを選択するため、手振れによる
画素ずらし動作の失敗を確実に排除できる。 (7)選択された画素ずらしモードを表示するため、撮
影者はどの程度の高精細画像が得られたかを把握するこ
とができる。という効果がある。
【0162】(第10の実施の形態)前記第8及び第9
の実施の形態は画素ずらし用複数画像の相関演算から像
振れを計算し、該像振れが所定値以上の時は画素ずらし
を禁止する実施形態であった。以下に示す第10の実施
の形態は、この像振れが所定値以上でも像振れ補正対策
を施して画素ずらしを可能とする実施の形態を示す。
【0163】図37は第10の実施の形態の画素ずらし
動作時の像移動軌跡、図38は相関演算結果説明図、図
39はカメラの制御フローである。以下、図面を用いて
第10の実施の形態の動作を説明する。図37におい
て、撮像素子に対して像を破線の軌跡に従って水平方向
に0.5画素間隔分だけ移動させる。しかし、手振れの
ために実際の像は実線の矢印のごとく、IM1→IM2
のように移動するものとする。
【0164】図38は図37で取得した2組の像IM1
とIM2の相関演算結果である。この図38より、ST
max =−1.5、STVmax =0、δH =1、δV
0、CRHmax =CRVmax =0.94であることが分
かる。ここで、垂直方向の像振れδV は0で問題無い
が、水平方向の像振れδH は1画素間隔分あるため、こ
のまま画像合成を行うと、画素ずらしを実施しない原画
像よりさらに精細度の低い画像が得られてしまう。しか
しながら、2組の像同士の像振れ量が画素間隔の整数倍
にほぼ等しい量であれば、片方の像を該整数分だけ像振
れと反対の方向にずらして合成すれば、この像振れを打
ち消すことができる。例えば、図37では第2の画像I
M2は第1のIM1に対し、画素ずらしと手振れのため
に水平方向に1.5画素間隔だけずれているが、画素ず
らし後の画像合成時に第2の画像を予め1画素間隔分だ
けずらしてから合成すれば、手振れの影響が排除され、
画素ずらし相当の0.5画素間隔分のずれのみが残る。
【0165】具体的には、まず nH =INT(δH ) ………(33) nV =INT(δV ) ………(34) ただしINT( )は( )内の数値を四捨五入して整
数化することを表すにしたがって像振れ量δH 、δV
整数nH 、nV に変換する。ついで、前述の式(8)に
おける画像信号組IG2(i,j)の画像信号i及びj
を、 i←i+nH ………(35) j←j+nV ………(36) にしたがって更新すると、像振れ相当分だけ像の相対位
置が移動し、像振れを打ち消すことができる。
【0166】上記操作を画像信号組IM3及びIM4
(計算上はIG3及びIG4)に対しても行う。この場
合、像振れ計算のための相関演算は、すべて最初の画像
信号組IM1を基準に行う方が良い。以上の操作を行っ
た後、式(7)ないし(10)に従って画像合成を行え
ば、画像信号組間に画像間隔以上の像振れが生じていて
も、画素ずらしによる画像の高精細化が実現できる。
【0167】この第10の実施の形態によるカメラのメ
インフローは図18に示した第8の実施の形態のメイン
フローと同一であり、ステップ(124)の画像合成サ
ブルーチンのみが異なるので、図39に第10の実施の
形態のサブルーチンを示す。まずステップ(561)で
は、画素ずらし回数カウンタCNTを0に初期化する。
ステップ(562)では、前述の式(30)に従って第
1及び第2の画像信号組の相関度を演算する。ステップ
(563)では、上記相関演算結果から、最大相関シフ
ト量STHma x 、STVmax を計算する。ステップ(5
64)では、相関度最大値CRHmax 、CRVmax を計
算する。ステップ(565)では、像振れ量δH 、δV
を計算する。ステップ(566)では、像振れ量δH
δV を整数化する。
【0168】ステップ(567)では、像振れ量の大き
さ判定を行い、像振れ量が所定値、例えば5画素間隔分
より小さければ、ステップ(568)に進む。一方像振
れ量が5画素間隔分以上あると、1組の画像蓄積中にも
像振れが生じている可能性が大きいため、ステップ(5
75)へジャンプして像振れが大きいことを示す警告表
示を表示部DISPに表示する。その後、ステップ(5
76)にてメインルーチンへリターンするため、画素ず
らしによる画像の合成は行われず、メインルーチンの次
のステップ(125)にて原画像が記録装置に記録され
る。
【0169】ステップ(567)よりステップ(56
8)に進むと、相関度最大値CRHma x 、CRVmax
大きさ判定を行い、相関度最大値が所定値、例えば0.
5より大きければ、ステップ(569)に進む。一方、
相関度最大値が低い場合は、相関演算から求めた像振れ
量の信頼性が低いことを意味する。よって誤った像振れ
結果に基づいて振れ補正を施して画像合成を行うと、か
えって画質を低下させてしまう恐れがある。そこで相関
度最大値が0.5以下の場合はステップ(575)にジ
ャンプし、前述の場合と同様、ステップ(575)で警
告表示を行い、ステップ(576)でリターンする。像
振れ量が所定値以下で、かつ相関度最大値が所定値以上
ならステップ(567)、ステップ(568)を経由し
てステップ(569)に進む。
【0170】ステップ(569)では、前述の式(3
5)(36)に従って像振れ補正を行う。ステップ(5
70)では、カウンタCNTに1を加えて更新する。ス
テップ(571)では、カウンタCNTと画素ずらし回
数を表す所定値NSFとの比較を行う。例えばNSF=4の
場合、ステップ(562)ないしステップ(569)の
演算は、第1と第2の画像信号組、第1と第3の画像信
号組、第1と第4の画像信号組の間で合計3回行うこと
になる。従ってCNTがNSF−1に達していなければス
テップ(562)に戻ってステップ(562)ないしス
テップ(569)の演算を繰り返し実行する。CNTが
SF−1に達したら、ステップ(572)に進む。ステ
ップ(572)では、図10で示した方法により画像合
成を行う。ステップ(573)では、像振れ補正をした
後に画素ずらしの画像合成を行ったことを示す表示を行
う。そしてステップ(574)で図18のメインフロー
にリターンする。
【0171】上記第10の実施の形態によれば、前記第
8の実施の形態の効果(1)(2)を有すると共に、 (8)複数画像間の像振れを検出及び補正して画素ずら
しの画像合成を行うため、1画素間隔分以上の大きな像
振れが生じた時も、画素ずらしによる画像の高精細化が
可能である。 (9)複数画像間の相関度(一致度)の大小から、画素
ずらしによる画像合成の実行可否を判断するため、画素
ずらしの失敗による画質低下を防止できる。という効果
がある。
【0172】(他の変形例)本発明は画素ずらし以外の
目的で所定時間以内に複数の画像信号を取得し、これを
合成する撮像装置についても利用できる。例えば撮像素
子に異なる露光量を与えて複数の画像信号組を得、これ
を合成して広ダイナミックレンジ画像を得る撮像装置に
適用すれば、手振れの影響を受けずに広ダイナミックレ
ンジ画像を得ることができる。或いは異なる時刻におい
て取得された同一のシーンの画像信号を合成し、多重露
光効果を得る撮像装置に適用すれば、動きのある被写体
が多重に写し込まれ、静止被写体は振れることなく再生
される。
【0173】以下に、上述した各実施の形態から得られ
る効果を列挙する。第1に、撮像光学系の形態如何に拘
わらず、画素ずらし制御と手振れ補正制御が1つの可動
光学部材にて正確に行われる撮像装置を提供できる。第
2に、ズーミング光学系或いはフォーカシング光学系の
状態に応じて最適な第1係数及び第2係数を用いて制御
するため、光学状態が変化しても常に画素ずらし制御と
手振れ補正制御を正確に行う撮像装置を提供できる。
【0174】第3に、装置単体で画素ずらしによる高精
細画像が得られる撮像装置を提供できる。このためCR
Tモニタやプリンタ装置等の外部装置で画像を出力表示
する際に、画像合成機能を有する特殊な外部装置を必要
とせず、取得した高精細画像を凡用の出力装置を用いて
出力し鑑賞することができる。第4に、撮像条件に応じ
て最適な画素ずらしモードを選択する撮像装置を提供で
き、撮影者が煩雑な操作を行うことなく、高精細画像が
得られる。
【0175】第5に、撮像時の手振れによる画質劣化と
画素ずらしによる高画質化を勘案し、最適な画素ずらし
モードを選択する撮像装置を提供でき、撮影者が煩雑な
操作を行うことなく、高精細画像が得られる。第6に、
撮影者の撮影意図に適した画素ずらしモードを選択する
撮像装置が提供でき、撮影者が煩雑な操作を行うことな
く、高精細画像が得られる。
【0176】第7に、撮影者が設定した露出制御条件に
適した画素ずらしモードを選択する撮像装置を提供で
き、撮影者が煩雑な操作を行うことなく、高精細画像が
得られる。第8に、手振れによる画質低下と画素ずらし
による高精細化のバランスが取れた画素ずらし回数を選
択する撮像装置を提供でき、撮影者が煩雑な操作を行う
ことなく、高精細画像が得られる。
【0177】第9に、手振れによる画質低下が画素ずら
しによる高精細化を打ち消す場合、画素ずらしを禁止す
る撮像装置を提供でき、手振れによる悪影響を最小限に
抑えられる。第10に、手振れ検知手段が高周波域の振
れを、動きベクトル検知手段が低周波域の振れを検知
し、両信号の合成信号にて可動光学部材が駆動制御さ
れ、低域から高域までの手振れを正確に補正する撮像装
置を提供できる。第11に、ズーミング光学系或いはフ
ォーカシング光学系の状態に応じて最適な第1係数及び
第2係数を用いて制御するため、光学系の状態に拘わら
ず正確な手振れ補正ができる撮像装置を提供できる。
【0178】第12に、画素ずらしにより画像の高精細
化を図り、かつ被写体輝度分布に応じた複数画像間の露
光レベル調節によってダイナミックレンジ拡大を図るこ
とにより、低価格の素子を用いながら高品位の画像を得
ることができる。第13に、主従いずれの被写体に対し
ても適正な露光レベルを与え、幅広い輝度差を有する被
写体においても高精細かつ広ダイナミックレンジの画像
を得ることができる。
【0179】第14に、画素ずらし操作によって得た複
数組の画像信号において、主被写体と類推された被写体
に対する画像情報が従被写体と類推された被写体に対す
る画像情報よりも多く得られ、画素ずらしによる主被写
体の高精細化を図りながら従被写体の輝度情報も失うこ
とのない広ダイナミックレンジ画像が得られる。第15
に、撮像条件に応じて画像の高精細化とダイナミックレ
ンジ拡大の最適化がなされ、高品位の画像を得ることが
できる。
【0180】第16に、手振れが生じてもその手振れの
範囲内で画素ずらしによる高画質化と露光レベル調節に
よるダイナミックレンジ拡大の最適化をはかり、高品位
の画像を得ることができる。第17に、設定された撮影
モードに応じて手振れの発生を予測し、撮影者の撮影意
図に適した画像の高精細化及びダイナミックレンジ拡大
の最適化をはかり、高品位の画像を得ることができる。
【0181】第18に、撮像画面内の被写体輝度分布に
応じて複数画像間の露光レベルを調節し、これを合成し
てダイナミックレンジ拡大を図ることにより、低価格で
狭ダイナミックレンジの素子を用いながら広ダイナミッ
クレンジの画像を得ることができる。第19に、撮像画
面内において主被写体と従被写体を認識し、いずれの被
写体に対しても最適な露光量を与えることにより、撮像
画面全体に渡って画像のダイナミックレンジ拡大がなさ
れる。
【0182】第20に、主被写体と類推された被写体に
対する画像情報が従被写体と類推された被写体に対する
画像情報よりも多く得られ、主被写体がより高品位にな
る画像が得られる。第21に、撮像条件に応じて最適な
画像取得回数の選択と露光調節制御がなされ、ダイナミ
ックレンジ拡大の最適化がなされる。
【0183】第22に、手振れに応じてダイナミックレ
ンジ拡大のための画像取得回数を調節することにより、
手振れによる画質劣化を最小限に抑えながらダイナミッ
クレンジ拡大を図ることができる。第23に、設定され
た撮像条件から手振れの発生を予め予測し、画像のダイ
ナミックレンジ拡大の際の手振れの影響を未然に防止す
ることができる。
【0184】第24に、画素ずらし用複数画像間の像振
れに応じて画素ずらしの画像合成動作を制御するため、
像振れが大きく画像合成を行うとかえって画質を低下さ
せてしまう場合には画素ずらしを禁止する等して、手振
れがないときは高精細画像を得、手振れがある時は手振
れによる画素ずらしの弊害を防止する撮像装置を提供で
きる。第25に、画素ずらしのために取得した各画像間
で振れを検知して画素ずらし動作を制御するため、画像
取得中の微細な振れも検知でき、手振れによる画素ずら
しの失敗を正確に排除できる撮像装置を提供できる。
【0185】第26に、画素ずらし開始時と終了時に取
得した2組の画像間で振れを検知して画素ずらし動作を
制御するため、振れ検知計算が簡略化され、手振れによ
る画素ずらしの失敗を正確に排除できる撮像装置を提供
できる。第27に、大きな振れが発生した場合には画素
ずらしを禁止して、手振れによる画素ずらしの弊害を防
止する撮像装置を提供できる。第28に、振れ量に応じ
て最適な画素ずらし及び画像合成動作を行うため、振れ
の影響を最小限に抑え、かつ画素ずらしで高詳細な画像
を得る撮像装置を提供できる。
【0186】第29に、像振れの影響で正規の画素ずら
しが実行できたか否かを撮影者に報知するため、撮影者
は望みどおりの画像が得られたか否かを把握でき、もし
意図した画像が得られないと判った時には再撮像等の対
策を施すことができる。第30に、手振れを光学的或い
は機械的に抑制したうえで、複数画像間になお残った残
存振れを画像処理的に補正してから画素ずらしによる画
像の合成を行うため、従来なら振れによって画素ずらし
ができない撮像条件下でも、画素ずらしを実行して高精
細な画像を得る撮像装置を提供できる。
【0187】第31に、複数画像間の像振れを補正して
から画素ずらしによる画像の合成を行うため、手振れ補
正手段を用いても大きな残存振れが生じる撮像条件下で
も、画素ずらしを実行して高精細な画像を得る撮像装置
を提供できる。第32に、互いに異なる画像情報を有し
た複数画像を合成して多量の情報を有した高品質画像を
得る場合、手振れを光学的或いは機械的に抑制し、かつ
合成前の画像の相対関係を確認してから画像合成を行う
ため、誤った画像合成が行われることなく、高品質な画
像を得る撮像装置を提供できる。
【0188】第33に、互いに異なる画像情報を有した
複数画像を合成して多量の情報を有した高品質画像を得
る場合、手振れを光学的或いは機械的に抑制し、かつ合
成前の画像の像振れを検出してから画像合成を行うた
め、誤った画像合成が行われることなく、高品質な画像
を得る撮像装置を提供できる。第34に、互いに異なる
画像情報を有した複数画像を合成して多量の情報を有し
た高品質画像を得る場合、手振れを光学的或いは機械的
に抑制し、かつ合成前の画像の一致度を確認してから画
像合成を行うため、誤った画像合成が行われることなく
高品質な画像を得る撮像装置を提供できる。
【0189】第35に、互いに異なる画像情報を有した
複数画像を合成して多量の情報を有した高品質画像を得
る場合、複数画像間の相対関係の検出結果から高品質画
像が得られるか否かを撮影者に報知し、得られない時は
再撮像等の対策を促すことができる。第36に、互いに
異なる画像情報を有した複数画像を合成して多量の情報
を有した高品質画像を得る場合、複数画像間の像振れ検
出結果から高品質画像が得られるか否かを撮影者に報知
し、得られない時は再撮像等の対策を促すことができ
る。
【0190】第37に、互いに異なる画像情報を有した
複数画像を合成して多量の情報を有した高品質画像を得
る場合、複数画像間の一致度検出結果からなる高品質画
像が得られるか否かを撮影者に報知し、得られない時は
再撮像等の対策を促すことができる。第38に、互いに
異なる画像情報を有した複数画像を合成して多量の情報
を有した高品質画像を得る画像合成制御方式を複数種類
有し、複数画像間の相対関係に基づいて該複数方式の中
から所定方式を選択的に用いるため、誤った画像合成に
よる画質低下を防止し、高品質な画像を得る画像合成装
置を提供できる。
【0191】第39に、互いに異なる画像情報を有した
複数画像を合成して多量の情報を有した高品質画像を得
る画像合成制御方式を複数種類有し、複数画像間の像振
れ検出結果に基づいて該複数方式の中から所定方式を選
択的に用いるため、誤った画像合成による画質低下を防
止し、高品質な画像を得る画像合成装置を提供できる。
第40に、互いに異なる画像情報を有した複数画像を合
成して多量の情報を有した高品質画像を得る画像合成制
御方式を複数種類有し、複数画像間の一致度検出結果に
基づいて該複数方式の中から所定方式を選択的に用いる
ため、誤った画像合成による画質低下を防止し、高品質
な画像を得る画像合成装置を提供できる。
【0192】
【発明の効果】以上説明したように本発明によれば、撮
像画面内の被写体輝度分布に応じて複数画像間の露光レ
ベルを調節し、これを合成してダイナミックレンジ拡大
を図ることにより、低価格で狭ダイナミックレンジの素
子を用いながら広ダイナミックレンジの画像を得ること
ができる。また、本発明の他の特徴によれば、撮像画面
内において主被写体と従被写体を認識し、いずれの被写
体に対しても最適な露光量を与えることにより、撮像画
面全体に渡って画像のダイナミックレンジ拡大がなされ
る。
【0193】また、本発明のその他の特徴によれば、主
被写体と類推された被写体に対する画像情報が従被写体
と類推された被写体に対する画像情報よりも多く得ら
れ、主被写体がより高品位になる画像が得られる。ま
た、本発明のその他の特徴によれば、撮像条件に応じて
最適な画像取得回数の選択と露光調節制御がなされ、ダ
イナミックレンジ拡大の最適化がなされる。
【0194】また、本発明のその他の特徴によれば、手
振れに応じてダイナミックレンジ拡大のための画像取得
回数を調節することにより、手振れによる画質劣化を最
小限に抑えながらダイナミックレンジ拡大を図ることが
できる。また、本発明のその他の特徴によれば、設定さ
れた撮像条件から手振れの発生を予め予測し、画像のダ
イナミックレンジ拡大の際の手振れの影響を未然に防止
することができる。
【図面の簡単な説明】
【図1】本発明に係る撮像装置の構成図である。
【図2】本発明に用いられる結像光学系の構成図であ
る。
【図3】本発明に用いられる結像光学系の光束偏向作用
を説明する構成図である。
【図4】本発明の画素ずらし原理を説明する構成図であ
る。
【図5】本発明の主要部の制御ブロック図である。
【図6】本発明の第1の実施の形態のカメラの制御フロ
ーチャートである。
【図7】本発明の第1、5、8の実施の形態のレンズの
制御フローチャートである。
【図8】本発明の第1、8の実施の形態の制御のタイミ
ングチャートである。
【図9】本発明の第1、5の実施の形態の画素ずらし方
法を説明する構成図である。
【図10】本発明の第1、5の実施の形態の画像合成方
法を説明する構成図である。
【図11】本発明の第2の実施の形態のカメラの制御フ
ローチャートである。
【図12】本発明の第2の実施の形態の画素ずらし方法
を説明する構成図である。
【図13】本発明の第2の実施の形態の画像合成方法を
説明する構成図である。
【図14】本発明の第3の実施の形態のカメラの制御フ
ローチャートである。
【図15】本発明の第4の実施の形態の制御ブロック図
である。
【図16】本発明の第4の実施の形態のカメラの制御フ
ローチャートである。
【図17】本発明の第4の実施の形態のレンズの制御フ
ローチャートである。
【図18】本発明の第5、8の実施の形態のカメラの制
御フローチャートである。
【図19】本発明の第5の実施の形態の露光量調節制御
フローチャートである。
【図20】撮像素子の特性曲線を説明する特性図であ
る。
【図21】本発明の第5の実施の形態の被写体分割を説
明する構成図である。
【図22】本発明の第5の実施の形態の制御のタイミン
グチャートである。
【図23】本発明の第5の実施の形態のダイナミックレ
ンジ拡大方法を説明する構成図である。
【図24】本発明の第6の実施の形態におけるカメラの
制御フローの一部を示すフローチャートである。
【図25】本発明の第7の実施の形態におけるカメラの
制御フローの一部を示すフローチャートである。
【図26】本発明の第8の実施の形態の相関演算を説明
する特性図である。
【図27】本発明の第8の実施の形態の相関演算を説明
する特性図である。
【図28】本発明の第8の実施の形態の相関度を説明す
る特性図である。
【図29】本発明の第8の実施の形態における振れがな
い時の画像軌跡を説明する構成図である。
【図30】本発明の第8の実施の形態における振れがな
い時の相関度を説明する特性図である。
【図31】本発明の第8の実施の形態における振れがあ
る時の画像軌跡を説明する構成図である。
【図32】本発明の第8の実施の形態における振れがあ
る時の相関度を説明する特性図である。
【図33】本発明の第8の実施の形態のカメラのサブル
ーチン制御フローチャートである。
【図34】本発明の第9の実施の形態における振れがあ
る時の画像軌跡を説明する構成図である。
【図35】本発明の第9の実施の形態のカメラのメイン
制御フローチャートである。
【図36】本発明の第9の実施の形態のカメラのサブル
ーチン制御フローチャートである。
【図37】本発明の第10の実施の形態における振れが
ある時の画像軌跡を説明する構成図である。
【図38】本発明の第10の実施の形態における振れが
ある時の相関度を説明する特性図である。
【図39】本発明の第10の実施の形態のカメラのサブ
ルーチン制御フローチャートである。
【符号の説明】
CMR カメラ本体 CCPU カメラ内マイコン IMS 撮像素子 MEM メモリ DISP 表示部 CNC コネクタ SWMOD 撮影モード選択スイッチ LNS レンズ LCPU レンズ内マイコン L2 第2レンズ群(振れ補正レンズ群) ZENC ズームエンコーダ FENC フォーカスエンコーダ GRP、GRY 手振れセンサ IACTP、IACTY 振れ補正アクチュエータ SNS 測光・焦点検知センサ

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 被写体像を形成する撮像光学手段と、 上記被写体像を光電変換する撮像手段と、 所定の露光量で露光し取得した上記被写体像の複数組の
    画像信号を記憶する複数画像取得手段と、 上記被写体像を複数の領域に分割して測光する測光手段
    と、 上記測光手段の測光結果に基づいて上記複数組間の画像
    の露光量を調節する露光レベル調節手段とを設けたこと
    を特徴とする撮像装置。
  2. 【請求項2】 上記測光手段は、主被写体を類推する主
    被写体認識手段を有し、上記露光レベル調節手段は、上
    記主被写体認識手段の認識結果に基づいて上記複数組間
    の画像の露光量を調節することを特徴とする請求項1に
    記載の撮像装置。
  3. 【請求項3】 上記露光レベル調節手段は、主被写体が
    適正となる露光レベルの画像組が、主被写体以外の領域
    が適正となる露光レベルの画像組よりも多くなるよう
    に、上記複数組間の画像の露光レベルを調節することを
    特徴とする請求項1に記載の撮像装置。
  4. 【請求項4】 撮像条件を判定する判定手段を設け、上
    記判定手段の判定結果に基づいて上記複数画像取得手段
    又は上記露光レベル調節手段の動作を制御することを特
    徴とする請求項1に記載の撮像装置。
  5. 【請求項5】 上記判定手段は、上記撮像光学手段に生
    じた振れによる像振れを検知する像振れ検知手段を有
    し、上記像振れ検知手段の検知結果に基づいて上記複数
    画像取得手段又は上記露光レベル調節手段の動作を制御
    することを特徴とする請求項4に記載の撮像装置。
  6. 【請求項6】 上記判定手段は、上記撮像手段の撮像条
    件を設定する撮像条件設定手段を有し、上記撮像条件設
    定手段の設定結果に基づいて上記複数画像取得手段又は
    上記露光レベル調節手段の動作を制御することを特徴と
    する請求項4に記載の撮像装置。
JP2003026230A 2003-02-03 2003-02-03 撮像装置 Expired - Fee Related JP3754964B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003026230A JP3754964B2 (ja) 2003-02-03 2003-02-03 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003026230A JP3754964B2 (ja) 2003-02-03 2003-02-03 撮像装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP34931096A Division JP3530696B2 (ja) 1996-12-27 1996-12-27 撮像装置

Publications (2)

Publication Number Publication Date
JP2003274281A true JP2003274281A (ja) 2003-09-26
JP3754964B2 JP3754964B2 (ja) 2006-03-15

Family

ID=29208404

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003026230A Expired - Fee Related JP3754964B2 (ja) 2003-02-03 2003-02-03 撮像装置

Country Status (1)

Country Link
JP (1) JP3754964B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006018030A (ja) * 2004-07-01 2006-01-19 Nikon Corp 閃光制御装置およびカメラ
JP2007019706A (ja) * 2005-07-06 2007-01-25 Konica Minolta Holdings Inc 撮像装置
WO2007069294A1 (ja) * 2005-12-12 2007-06-21 Atsuhiro Ueda 画像診断用データ・サンプリング・デバイス並びに該デバイスに用いられる撮像用アダプタ
WO2007129533A1 (ja) * 2006-05-09 2007-11-15 Sharp Kabushiki Kaisha 撮像装置
JP2010056953A (ja) * 2008-08-28 2010-03-11 Sony Corp 撮像装置、画像処理装置及び撮像システム
JP2011015380A (ja) * 2009-06-03 2011-01-20 Sony Corp 撮像装置および撮像制御方法
JP2011075677A (ja) * 2009-09-29 2011-04-14 Fujifilm Corp 撮像装置及び撮像方法
JP2014155001A (ja) * 2013-02-07 2014-08-25 Canon Inc 画像処理装置及び画像処理方法
JP2014179756A (ja) * 2013-03-14 2014-09-25 Canon Inc 画像処理装置、その制御方法、および制御プログラム
JP2015046838A (ja) * 2013-08-29 2015-03-12 株式会社ニコン 受光ユニットおよび撮像装置
US11653094B2 (en) 2021-03-19 2023-05-16 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus with shaking state information display

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006018030A (ja) * 2004-07-01 2006-01-19 Nikon Corp 閃光制御装置およびカメラ
JP4586434B2 (ja) * 2004-07-01 2010-11-24 株式会社ニコン 閃光制御装置およびカメラ
JP4635748B2 (ja) * 2005-07-06 2011-02-23 コニカミノルタホールディングス株式会社 撮像装置
JP2007019706A (ja) * 2005-07-06 2007-01-25 Konica Minolta Holdings Inc 撮像装置
WO2007069294A1 (ja) * 2005-12-12 2007-06-21 Atsuhiro Ueda 画像診断用データ・サンプリング・デバイス並びに該デバイスに用いられる撮像用アダプタ
JP4898704B2 (ja) * 2005-12-12 2012-03-21 淳大 上田 画像診断用データ・サンプリング・デバイス並びに該デバイスに用いられる撮像用アダプタ
WO2007129533A1 (ja) * 2006-05-09 2007-11-15 Sharp Kabushiki Kaisha 撮像装置
JP2010056953A (ja) * 2008-08-28 2010-03-11 Sony Corp 撮像装置、画像処理装置及び撮像システム
JP2011015380A (ja) * 2009-06-03 2011-01-20 Sony Corp 撮像装置および撮像制御方法
CN102790861A (zh) * 2009-06-03 2012-11-21 索尼公司 成像设备和成像控制方法
JP2011075677A (ja) * 2009-09-29 2011-04-14 Fujifilm Corp 撮像装置及び撮像方法
JP2014155001A (ja) * 2013-02-07 2014-08-25 Canon Inc 画像処理装置及び画像処理方法
JP2014179756A (ja) * 2013-03-14 2014-09-25 Canon Inc 画像処理装置、その制御方法、および制御プログラム
JP2015046838A (ja) * 2013-08-29 2015-03-12 株式会社ニコン 受光ユニットおよび撮像装置
US11653094B2 (en) 2021-03-19 2023-05-16 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus with shaking state information display

Also Published As

Publication number Publication date
JP3754964B2 (ja) 2006-03-15

Similar Documents

Publication Publication Date Title
US9973676B2 (en) Interchangeable lens digital camera
US6429895B1 (en) Image sensing apparatus and method capable of merging function for obtaining high-precision image by synthesizing images and image stabilization function
JP4522207B2 (ja) カメラシステム、カメラ本体及び交換レンズ
JP5791349B2 (ja) 撮像装置及びその制御方法
JP4794963B2 (ja) 撮像装置および撮像プログラム
JP3530696B2 (ja) 撮像装置
JP6062656B2 (ja) 撮像装置、制御方法、及びプログラム
US8456566B2 (en) Optical apparatus with unit for correcting blur of captured image caused by displacement of optical apparatus in optical-axis direction
JP2008309883A (ja) デジタルカメラ
US8872963B2 (en) Imaging apparatus and imaging method
JPH10191136A (ja) 撮像装置及び画像合成装置
JP5393300B2 (ja) 撮像装置
JP4567313B2 (ja) カメラ
JP3754964B2 (ja) 撮像装置
JP5014267B2 (ja) 撮像装置
JP2022117599A (ja) 画像処理装置、撮像装置、制御方法およびプログラム
JP2005064699A (ja) カメラ
JP5038448B2 (ja) カメラ
JP2014142497A (ja) 撮像装置及びその制御方法
JP2007248698A (ja) 撮像方法および装置
JP4845653B2 (ja) カメラシステム、カメラ本体、交換レンズユニットおよび像ブレ補正方法
JP2008070566A (ja) カメラシステム、カメラ本体、交換レンズユニットおよび像ブレ補正方法
JPH11258489A (ja) 焦点検出装置、方法及びコンピュータ読み取り可能な記憶媒体
JP7210256B2 (ja) 撮像装置及び表示制御方法
JP5541661B2 (ja) レンズ装置、撮像システムおよびそれらの制御方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051219

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081222

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091222

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091222

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101222

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111222

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121222

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131222

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees