JP4887314B2 - 撮像装置及び画像信号処理方法 - Google Patents

撮像装置及び画像信号処理方法 Download PDF

Info

Publication number
JP4887314B2
JP4887314B2 JP2008048055A JP2008048055A JP4887314B2 JP 4887314 B2 JP4887314 B2 JP 4887314B2 JP 2008048055 A JP2008048055 A JP 2008048055A JP 2008048055 A JP2008048055 A JP 2008048055A JP 4887314 B2 JP4887314 B2 JP 4887314B2
Authority
JP
Japan
Prior art keywords
image
image data
pixel group
exposure period
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008048055A
Other languages
English (en)
Other versions
JP2009206925A (ja
Inventor
寛和 小林
大輔 楠田
雅也 田丸
倫生 長
和也 小田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2008048055A priority Critical patent/JP4887314B2/ja
Priority to US12/395,366 priority patent/US8098310B2/en
Publication of JP2009206925A publication Critical patent/JP2009206925A/ja
Application granted granted Critical
Publication of JP4887314B2 publication Critical patent/JP4887314B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は固体撮像素子を搭載した撮像装置及び画像信号処理方法に係り、特に、広ダイナミックレンジの被写体画像を撮像することができ、また、連続する2枚(例えば、フラッシュ画像とノンフラッシュ画像)を1回の撮像動作で撮像することも可能な撮像装置及び画像信号処理方法に関する。
近年のCCD型イメージセンサやCMOS型イメージセンサ等の固体撮像素子は、多画素化が進展して1チップ上に数百万画素以上を搭載するのが普通になってきている。このため、1画素1画素が微細化され、個々の画素が蓄積できる信号電荷量が微小となり、白飛びした画像や黒潰れした画像が撮影され易くなると共に、被写体画像のダイナミックレンジも狭くなってきている。
そこで、下記の特許文献1記載のデジタルカメラでは、画素を長時間露光するグループと短時間露光するグループとに分け、長時間露光で得られた被写体画像データと短時間露光で得られた被写体画像データとを合成することで、ダイナミックレンジの拡大を図っている。
また、下記の特許文献2記載のデジタルカメラでは、1回のレリーズ動作で、フラッシュ撮影とノンフラッシュ撮影の2回の撮像動作を連続して行い、失敗写真が撮影される確率を小さくしている。
特開2001―275044号公報 特開2007―256907号公報
上述した特許文献1記載の従来技術では、フラッシュを焚いて被写体画像を撮像するとき、長時間露光と短時間露光のどのタイミングでフラッシュを焚けば良いかについて考慮していない。
また、上述した特許文献2記載の従来技術では、両方の撮影間に時間差が存在するため、この間に主要被写体が動いてしまったり表情に変化が生じると、明るさは良いが表情が悪かったり、表情は良いが暗すぎるという失敗写真になるケースがあるという問題がある。
本発明の目的は、連続した2枚の写真(例えば、フラッシュ撮影画像とノンフラッシュ撮影画像)との間の時間差を無くすことができ、また、フラッシュを焚いて撮影したときの被写体画像のダイナミックレンジの拡大を図ることができる撮像装置及び画像信号処理方法を提供することにある。
本発明の撮像装置及び画像信号処理方法は、半導体基板の表面に二次元アレイ状に配列形成された複数の画素を有する固体撮像素子と、前記複数の画素のうち周期的位置にある画素群を第1画素群として第1露光期間に亘って露光させると共に残りの周期的位置にある画素群を第2画素群として前記第1露光期間中の部分的な第2露光期間に亘って露光させ前記第1画素群と前記第2画素群の夫々が撮像した画像データを別々に前記固体撮像素子から読み出す撮像素子駆動手段と、前記固体撮像素子から読み出された前記画像データを画像処理する信号処理手段とを備える撮像装置において、
前記第1画素群の前記画像データと前記第2画素群の前記画像データとを別々に画像処理して2枚の被写体画像データを生成する第1モードと、前記第1画素群の前記画像データに前記第2画素群の前記画像データを合成して1枚の被写体画像データを生成する第2モードのいずれかのモードで画像処理を行うとき、
前記第1モードで画像処理するときは前記第2露光期間が重ならない前記第1露光期間にフラッシュ発光させ、前記第2モードで画像処理するときは前記第1露光期間と前記第2露光期間とが重なる期間にフラッシュ発光させることを特徴とする。
本発明の撮像装置及び画像信号処理方法は、フラッシュ発光が行われた場合には、前記信号処理手段は、前記第2画素群の前記画像データに前記第1露光期間と前記第2露光期間の時間比率以上のゲイン補正を施すことを特徴とする。
本発明の撮像装置及び画像信号処理方法は、前記第1モードで前記2枚の被写体画像データが得られるとき該2枚の被写体画像データの差分画像を求めることを特徴とする。
本発明の撮像装置及び画像信号処理方法は、前記差分画像に基づいて該2枚の被写体画像データから1枚の被写体画像データを合成することを特徴とする。
本発明の撮像装置及び画像信号処理方法は、前記差分画像から画像の部分部分の被写体までの距離を求め、該距離に応じた混合比で前記2枚の被写体画像データを合成することを特徴とする。
本発明の撮像装置は、前記第1モードと前記第2モードとを選択するモード選択スイッチが設けられたことを特徴とする。
本発明の撮像装置は、前記第1露光期間と前記第2露光期間とを同時に終了させるメカニカルシャッタを備えることを特徴とする。
本発明によれば、失敗写真を撮る確率を小さくでき、また、フラッシュを発光させたときでも広ダイナミックレンジの画像を合成することが可能になる。
以下、本発明の一実施形態について、図面を参照して説明する。
図1は、本発明の第1実施形態に係るデジタルカメラの機能ブロック構成図である。このデジタルカメラは、撮像部21と、撮像部21から出力されるアナログの画像データを自動利得調整(AGC)や相関二重サンプリング処理等のアナログ処理するアナログ信号処理部22と、アナログ信号処理部22から出力されるアナログ画像データをデジタル画像データに変換するアナログデジタル変換部(A/D)23と、後述のシステム制御部(CPU)29からの指示によってA/D23,アナログ信号処理部22,撮像部21の駆動制御を行う駆動部(タイミングジェネレータTGを含む)24と、CPU29からの指示によって発光するフラッシュ発光部25とを備える。
撮像部21は、被写界からの光を集光する光学レンズ系21aと、該光学レンズ系21aを通った光を絞る絞りやメカニカルシャッタ21bと、光学レンズ系21aによって集光され絞りによって絞られた光を受光し撮像画像データ(アナログ画像データ)を出力するCCD型固体撮像素子100とを備える。
本実施形態のデジタルカメラは更に、A/D23から出力されるデジタル画像データを取り込み補間処理やホワイトバランス補正,RGB/YC変換処理等を行うデジタル信号処理部26と、画像データをJPEG形式などの画像データに圧縮したり逆に伸長したりする圧縮/伸長処理部27と、メニューなどを表示したりスルー画像や撮像画像を表示する表示部28と、デジタルカメラ全体を統括制御するシステム制御部(CPU)29と、フレームメモリ等の内部メモリ30と、JPEG画像データ等を格納する記録メディア32との間のインタフェース処理を行うメディアインタフェース(I/F)部31と、これらを相互に接続するバス40とを備え、また、システム制御部29には、ユーザからの指示入力を行う操作部33(後述する2段シャッタレリーズボタン,モード選択スイッチを含む。)が接続されている。
図2は、図1に示す固体撮像素子100の平面模式図である。図示する固体撮像素子100は、半導体基板上に多数のフォトダイオード(光電変換素子)101が二次元アレイ状に配列形成され、奇数行のフォトダイオード101に対して偶数行のフォトダイオード101が1/2ピッチづつずらして配置(所謂、ハニカム画素配列)されている。
各フォトダイオード101上に図示した「R」「G」「B」は各フォトダイオード上に積層されたカラーフィルタの色(赤=R,緑=G,青=B)を表しており、各フォトダイオード101は、3原色のうちの1色の受光量に応じた信号電荷を蓄積する。
半導体基板表面の水平方向には、各フォトダイオード101を避けるように蛇行して垂直転送電極が敷設されている。半導体基板には垂直方向に並ぶフォトダイオード列の側部に図示しない埋め込みチャネルが、フォトダイオード101を避けるように垂直方向に蛇行して形成されている。この埋め込みチャネルと、この上に設けられ垂直方向に蛇行して配置される垂直転送電極とで、垂直転送路(VCCD)102が形成される。
半導体基板の下辺部には、水平転送路(HCCD)103が設けられている。この水平転送路103も、埋め込みチャネルとその上に設けられた水平転送電極とで構成され、この水平転送路103は、駆動部24から出力される転送パルスによって2相駆動される。水平転送路103の出力端部には、信号電荷量に応じた電圧値信号を撮像画像信号として出力するアンプ104が設けられている。
また、「垂直」「水平」という用語を使用して説明しているが、これは、半導体基板表面に沿う「1方向」「この1方向に対して略直角の方向」という意味に過ぎない。
図示する例の固体撮像素子100では、フォトダイオード(画素)101が所謂ハニカム画素配列されているが、これは、正方格子配列された第1グループの画素群〔I〕と、正方格子配列された第2グループの画素群〔II〕とが、重ね合わせて且つ水平方向,垂直方向共に1/2ピッチずらして配列された状態となっている。そして、第1グループの画素群にはRGBのカラーフィルタがベイヤー配列され、第2グループの画素群にもRGBのカラーフィルタがベイヤー配列されている。
従って、本実施形態の固体撮像素子100では、第1グループの画素群から読み出されたカラー信号配列と、第2グループの画素群から読み出されたカラー信号配列とは1/2ピッチの位置ズレだけの同じ信号配列となる。
図3は、図2に示す固体撮像素子の駆動タイミングチャートである。本実施形態の固体撮像素子100は、図1に示すCPU29からの指示により、第1グループの画素群と、第2グループの画素群の各撮像画像信号が区別して読み出される。
即ち、メカニカルシャッタが「開」の状態で固体撮像素子100の半導体基板へパルス(SUBパルス)が印加されて続けている状態では、各画素101に蓄積された電荷は半導体基板側に廃棄され、各画素への電荷蓄積は無い。
SUBパルスがタイミングt1でオフになると、各画素101への露光(以下のこのタイミングt1で開始される露光期間を「長時間露光期間」(第1露光期間)という。)が開始され、信号電荷の蓄積が開始される。
所定のタイミングt2で、図1に示す読出電極兼用の転送電極V2,V6に読出パルスaが印加されると、第1グループ〔I〕の画素群の蓄積電荷が、垂直電荷転送路102に読み出されると共に、第1グループ〔I〕の画素群には新たに信号電荷の蓄積が開始される。つまり、このタイミングt2が、第1グループの画素群〔I〕の露光(以下、このタイミングt2で開始される露光期間を「短時間露光期間」(第2露光期間)という。)の開始となる。
次のタイミングt3で、メカニカルシャッタが「閉」になると、長時間露光,短時間露光が共に同時にオフとなり、第1グループの画素群〔I〕が露光終了となり、第2グループの画素群〔II〕の露光終了となる。露光終了時にメカニカルシャッタを併用して遮光するため、スミアの影響を回避可能となる。
メカニカルシャッタ「閉」後のタイミングt4で高速掃出パルスbによる垂直電荷転送路102が駆動されると、タイミングt2の読出パルスaで読出された信号電荷も含めて垂直電荷転送路102上の不要電荷が掃き出される。
次のタイミングt5では、読出電極兼用の転送電極V4,V8に読出パルスcが印加される。これにより、第2グループの画素群〔II〕の信号電荷が垂直電荷転送路102に読み出され、これが転送パルスdによって固体撮像素子100から読み出される。
固体撮像素子100から読み出された信号(撮像画像データ)は、図1のアナログ信号処理部22,A/D変換部23を通ってデジタル信号処理部26に取り込まれ、画像処理が施される。
第2グループの画素群〔II〕の撮像画像データが読み出された後のタイミングt6で、再び垂直電荷転送路102が高速掃出パルスeで駆動され、タイミングt7で、読出電極兼用の転送電極V2,V6に読出パルスfが印加されると、第1グループ〔I〕の画素群から信号電荷が垂直電荷転送路102に読み出され、転送パルスgによって固体撮像素子100から出力され、上記と同様に画像処理される。
この様に、本実施形態に係る固体撮像素子100では、第1グループの画素群(以下、短時間露光画素群という。)と第2グループの画素群(以下、長時間露光画素群という。)の各撮像画像データを別々に読み出す。
本実施形態のデジタルカメラでは、以下に述べる様に、長時間露光画素群から読み出した長時間露光データから1枚の撮像画像データを生成すると共に短時間露光画素群から読み出した短時間露光データから1枚の撮像画像データを生成するモード(高感度2枚撮りモード)と、両者を合成して1枚の撮像画像データにするモード(広ダイナミックレンジ撮影モード)とが設けられており、ユーザが操作部33から選択できるようにしている。
図4は、図1に示すCPU29が配下の駆動部24やデジタル信号処理部26等を用いて実行する撮像処理手順を示すフローチャートである。先ず、操作部33の1つである2段シャッタレリーズボタンのS1スイッチ(半押し)がオンとなっているか否かを判定し(ステップS1)、S1スイッチがオンのときは次のステップS2の自動露出制御(AE),ステップS3の自動焦点制御(AF)とを実行し、次に、2段シャッタボタンのS2スイッチ(全押し)がオンとなるか否かを判定する。ステップS1,ステップS2の判定結果が否定の場合にはステップS1に戻る。
ステップS4の判定結果が「全押し」になった場合には、次にステップS5に進み、ユーザが操作部33から指示入力した撮影モードが「高感度2枚撮りモード」であるか「広ダイナミックレンジ撮影モード」であるかを判定する。
高感度2枚撮りモードである場合には、ステップS5からステップS6に進み、フラッシュを発光するか否かの判定を行う。フラッシュを発光する場合には次のステップS7に進み、図5に示す長時間露光側での同期発光x1を行う。
即ち、タイミングt1に同期してフラッシュを焚く。このフラッシュ発光期間は、図示の例では、短時間露光の開始タイミングt2まで及ばないため、短時間露光画素群の蓄積電荷にはフラッシュ発光分は含まれないことになる。
このフラッシュ発光が行われた後は、次のステップS8に進み、後述する高感度2枚撮りモードの処理を行い、画像処理後の撮像画像データの記録処理を行って(ステップS9)、この図4の処理を終了する。ステップS6の判定の結果、フラッシュを焚かないと判定した場合にはステップS6からステップ8に進む。
ステップS5の判定の結果、広ダイナミックレンジ撮影モードの場合には、ステップS5からステップS10に進み、フラッシュ発光を行うか否かを判定する。フラッシュ発光を行う場合には、ステップS11に進み、図6に示す短時間露光側での同期発光x2を行う。
即ち、タイミングt2に同期してフラッシュを焚く。このフラッシュ発光は、長時間露光期間と短時間露光期間とが重なるため、長時間露光画素群と短時間露光画素群の両方にフラッシュ発光分の信号電荷の蓄積が行われることになる。
このフラッシュ発光が行われた後は、次のステップS12に進み、後述する広ダイナミックレンジ撮影モードの処理を行い、画像処理後の撮像画像データの記録処理を行って(ステップS9)、この図4の処理を終了する。ステップS10の判定の結果、フラッシュを焚かないと判定した場合にはステップS10からステップ12に進む。
図7は、高感度2枚撮り撮影モードの処理を示す機能図である。CPU29は、配下のデジタル信号処理部26による露光量演算結果を用い、タイミングジェネレータ24を介して固体撮像素子100を、図3に示すタイミングチャートに従って駆動すると共に、フラッシュ発光部25の発光制御を行う。
固体撮像素子100からは、長時間露光による撮像画像データと短時間露光による撮像画像データとが出力され、A/D変換部23によってデジタルデータに変換された短時間露光データ(図5に示す様に、フラッシュ発光が無い画像データ)に対して所要のゲイン51を掛けてノンフラッシュ画像52を生成する。また、長時間露光データ(図5に示す様に、フラッシュ発光がある画像データ)に対しても所要のゲイン53(ゲイン51とは異なる値)を掛けてフラッシュ画像54を生成し、2枚の画像53,54を記録メディアに格納する。
長時間露光データは、フラッシュの閃光期間(発光期間)を含むため、長時間露光,短時間露光の時間比率以上に明るくなっている。このため、この比率以上のゲインを短時間露光データに施すことで、長時間露光データばかりでなく、短時間露光データも適切な露出に制御することが可能となる。また、本実施形態の高感度2枚撮りは、長時間露光期間と短時間露光期間とが重なるため、同時性が担保され、長時間露光データと短時間露光データとの間での時間ズレが解消し、失敗写真となる確率が小さくなる。
図8は、広ダイナミックレンジ撮影モードの処理を示す機能図である。図7の高感度2枚撮り撮影モードとの違いは、短時間露光データに所要ゲイン51を掛け、長時間露光データに所要ゲイン53を掛けた後、両者を加算手段55により加算合成し、広ダイナミックレンジの1枚の画像データ56を得ている。
図6に示す様に、広ダイナミックレンジ撮影モードでは短時間露光の開始タイミングt2に同期してフラッシュ発光が行われ、長時間露光データと短時間露光データの両方にフラッシュ発光分が含まれることになる。しかし、露光期間に較べてフラッシュ発光期間が占める割合は、短時間露光データの方が大きいため、長時間,短時間の比率以上に、短時間露光データは明るくなっている。
この比率以上のゲインを短時間露光データに施すことで、短時間露光データの適正な露出に制御でき、合成した後の画像データも適切な露出となる。また、短時間露光データ,長時間露光データ共に、同じフラッシュ発光分の同一光源によるデータが入るため、両データの夫々のホワイトバランスの調整が容易となり、合成後のホワイトバランスが良好となる。
以上述べた様に、上述した実施形態に係るデジタルカメラでは、フラッシュ発光を長時間露光の開始に同期させることで、フラッシュ発光を行った長時間露光データと、フラッシュ発光の無い短時間露光データとを得ることができ、これらのデータを別々に処理することで、高感度2枚撮りの被写体画像データを得ることが可能となる。
また、フラッシュ発光を短時間露光開始に同期させることで、長時間露光データと短時間露光データのフラッシュ発光条件を同一にすることができ、これらを合成することで、広ダイナミックレンジの被写体画像データを得ることが可能となる。合成処理の際に、短時間露光画面には長時間露光画面との露光時間比率よりも小さなゲインを掛けることで、フラッシュ発光の無い場合と同様の広ダイナミックレンジ処理を行うことができる。
更に、長時間露光データがフラッシュ発光期間を含み、短時間露光データがフラッシュ発光期間を含まず時間比率以上に長時間露光データが明るくなった場合でも、この比率以上のゲインを短時間露光データに施すことで、短時間露光データも適切な露出を得ることが可能となる。
同様に、短時間露光の開始に同期してフラッシュ発光を行った場合も、時間比率以上に短時間露光データの露光期間に占めるフラッシュ閃光期間が長時間露光期間に比較して長くなるが、これも適切なゲインを短時間露光データに施すことで、短時間露光データも適正な露出にすることができる。
尚、上述した実施形態では、長時間露光データに対してもゲインを掛けているが、短時間露光データに対するゲインと長時間露光データに対するゲインとのゲイン差やゲイン比を適切に制御することで、短時間露光データの露出を適正に制御することができる。
図9は、本発明の別実施形態に係るノンフラッシュ画像とフラッシュ画像との合成モード処理を示す機能図である。この実施形態では、A/D変換部23から出力される短時間露光データ(ノンフラッシュ画像データ)61と、長時間露光データ(フラッシュ画像データ)62との差を減算手段63でとって差分画像64を得る。
フラッシュ発光は、近距離物体からは反射が大きいが、遠距離物体からの反射は小さい。このため、同一面内の画像は、同色であれば、差分画像がデジタルカメラからの「距離」を表すことになる。
そこで、遠距離にある背景画像として、主として短時間露光データを用い、近距離の主要被写体画像として、主として長時間露光データを用い、1枚の画像データを合成する。これにより、場(背景画像)の雰囲気を残した上で、主要被写体のS/Nの向上を図ることが可能となる。
このため、CPU29の距離判定手段29aは、差分画像64から画像各部の上記「距離」を推定し、距離の推定値に応じて、背景と主要被写体とを切り分ける。短時間露光データに所要ゲイン66を掛け、長時間露光データに所要ゲイン67(ゲイン66とは異なる値)を掛け、両者の合成比率(混合比率)を距離の推定値に応じて調整しながら加算手段68で加算し、1枚の合成画像69を得る。
この実施形態によれば、ノンフラッシュ画像とフラッシュ画像とを、被写体までの距離に応じた混合比で合成するため、背景画像の雰囲気を残したまま主要被写体の高S/Nの画像を得ることが可能となる。
図2に示す固体撮像素子100は、各画素101が所謂ハニカム画素配列であったが、高感度2枚撮り撮影モードや広ダイナミックレンジ撮影モード,図9に示す合成モードは、この画素配列の固体撮像素子に限るものではなく、各画素が正方格子配列された固体撮像素子にも適用可能である。
図10は、本発明の第2実施形態に係る正方格子配列された固体撮像素子200の表面模式図である。この固体撮像素子200は、各画素201が正方格子配列されており、各画素列に沿って垂直電荷転送路202が形成され、各垂直電荷転送路202の転送方向端部に沿って水平電荷転送路203が形成され、水平電荷転送路203の出力端部に出力アンプ204が設けられている。
垂直電荷転送路を構成する転送電極は、各画素毎に2枚設けられており、読み出しゲート205は、偶数番目の転送電極V2,V4,V6,V8に設けられている。
カラーフィルタ配列は、図示の例では、2行のBGRGBGRG…となる配列と、2行のRGBGRGBG…となる配列が垂直方向に2行毎に交互に配列されている。そして、1行置きの画素群が上述した第1グループ(または第2グループ)の画素群となり、残りの1行置きの画素群が上述した第2グループ(または第1グループ)の画素群となる。
斯かる構成の固体撮像素子200でも、第1実施形態と同様の駆動及び画像処理を行うことができる。
図11は、本発明の第3実施形態に係る正方格子配列された固体撮像素子300の表面模式図である。この固体撮像素子300は、図10に示す固体撮像素子200とカラーフィルタ配列は同じである。
異なるのは、各画素301から信号電荷を垂直電荷転送路302に読み出す読み出しゲート305が、水平方向,垂直方向に隣接する画素間で,異なる転送電極(垂直方向に上,下の転送電極)に設けられている点である。これにより、正方格子配列された画素のうち、市松位置の画素が第1グループ(または第2グループ)の画素群を構成し、残りの市松位置の画素が第2グループ(または第1グループ)の画素群を構成することになる。
斯かる構成の固体撮像素子300でも、第1実施形態と同様の駆動及び画像処理が可能となる。
尚、上述した実施形態では、CCD型の固体撮像素子を例に説明したが、信号読み出し方法が電荷転送路でなく、MOSトランジスタを用いた構成の固体撮像素子でも、上記と同様に、高感度2枚撮り撮影モードと広ダイナミックレンジ撮影モード、図9で説明した合成モードの画像処理が可能となることはいうまでもない。
本発明に係る固体撮像素子の駆動方法や画像処理方法は、失敗写真を撮る確率が小さくなり、また、フラッシュ発光したときでも広ダイナミックレンジの被写体画像を得ることが可能となるため、デジタルカメラ等に適用すると有用である。
本発明の第1実施形態に係るデジタルカメラの機能ブロック図である。 図1に示す固体撮像素子の表面模式図である。 図2に示す固体撮像素子の駆動タイミングチャートである。 図1に示すデジタルカメラの撮像処理手順を示すフローチャートである。 図2に示す固体撮像素子で高感度2枚撮りを行うときのフラッシュ発光タイミングを示す図である。 図2に示す固体撮像素子で広ダイナミックレンジ撮影を行うときのフラッシュ発光タイミングを示す図である。 高感度2枚撮り撮影モードの処理を示す機能図である。 広ダイナミックレンジ撮影モードの処理を示す機能図である。 ノンフラッシュ画像とフラッシュ画像の合成処理を示す機能図である。 本発明の第2実施形態に係る固体撮像素子の表面模式図である。 本発明の第3実施形態に係る固体撮像素子の表面模式図である。
符号の説明
21 撮像部
24 撮像素子駆動部
25 フラッシュ発光部
26 デジタル信号処理部
29 システム制御部(CPU)
100,200,300 固体撮像素子
101,201,301 画素(フォトダイオード)
R カラーフィルタ(赤)
G カラーフィルタ(緑)
B カラーフィルタ(青)

Claims (12)

  1. 半導体基板の表面に二次元アレイ状に配列形成された複数の画素を有する固体撮像素子と、
    前記複数の画素のうち周期的位置にある画素群を第1画素群として第1露光期間に亘って露光させると共に残りの周期的位置にある画素群を第2画素群として前記第1露光期間中の部分的な第2露光期間に亘って露光させ前記第1画素群と前記第2画素群の夫々が撮像した画像データを別々に前記固体撮像素子から読み出す撮像素子駆動手段と、
    前記固体撮像素子から読み出された前記画像データを画像処理するとき、前記第1画素群の前記画像データと前記第2画素群の前記画像データとを別々に画像処理して2枚の被写体画像データを生成する第1撮影モードと、前記第1画素群の前記画像データに前記第2画素群の前記画像データを合成して1枚の被写体画像データを生成する第2撮影モードのいずれかのモードで画像処理を行う画像処理手段と、
    前記第1撮影モードでは前記第2露光期間が重ならない前記第1露光期間にフラッシュ発光させ、前記第2撮影モードでは前記第1露光期間と前記第2露光期間とが重なる期間にフラッシュ発光させるフラッシュ発光手段と
    を備える撮像装置。
  2. フラッシュ発光が行われた場合には、前記信号処理手段は、前記第2画素群の前記画像データに前記第1露光期間と前記第2露光期間の時間比率以上のゲイン補正を施すことを特徴とする請求項1に記載の撮像装置。
  3. 前記信号処理手段は、前記第1撮影モードで前記2枚の被写体画像データが得られるとき該2枚の被写体画像データの差分画像を求めることを特徴とする請求項1又は請求項2に記載の撮像装置。
  4. 前記信号処理手段は、前記差分画像に基づいて該2枚の被写体画像データから1枚の被写体画像データを合成することを特徴とする請求項3に記載の撮像装置。
  5. 前記信号処理手段は、前記差分画像から画像の部分部分の被写体までの距離を求め、該距離に応じた混合比で前記2枚の被写体画像データを合成することを特徴とする請求項4に記載の撮像装置。
  6. 前記第1撮影モードと前記第2撮影モードとを選択するモード選択スイッチが設けられたことを特徴とする請求項1乃至請求項5のいずれかに記載の撮像装置。
  7. 前記第1露光期間と前記第2露光期間とを同時に終了させるメカニカルシャッタを備えることを特徴とする請求項1乃至請求項6のいずれかに記載の撮像装置。
  8. 半導体基板の表面に二次元アレイ状に配列形成された複数の画素を有する固体撮像素子と、前記複数の画素のうち周期的位置にある画素群を第1画素群として第1露光期間に亘って露光させると共に残りの周期的位置にある画素群を第2画素群として前記第1露光期間中の部分的な第2露光期間に亘って露光させ前記第1画素群と前記第2画素群の夫々が撮像した画像データを別々に前記固体撮像素子から読み出す撮像素子駆動手段と、前記固体撮像素子から読み出された前記画像データを画像処理する信号処理手段とを備える撮像装置の画像信号処理方法において、
    前記第1画素群の前記画像データと前記第2画素群の前記画像データとを別々に画像処理して2枚の被写体画像データを生成する第1モードと、前記第1画素群の前記画像データに前記第2画素群の前記画像データを合成して1枚の被写体画像データを生成する第2モードのいずれかのモードで画像処理を行うとき、
    前記第1モードで画像処理するときは前記第2露光期間が重ならない前記第1露光期間にフラッシュ発光させ、前記第2モードで画像処理するときは前記第1露光期間と前記第2露光期間とが重なる期間にフラッシュ発光させることを特徴とする撮像装置の画像信号処理方法
  9. フラッシュ発光が行われた場合には、前記第2画素群の前記画像データに前記第1露光期間と前記第2露光期間の時間比率以上のゲイン補正を施すことを特徴とする請求項8に記載の撮像装置の画像信号処理方法。
  10. 前記第1モードで前記2枚の被写体画像データが得られるとき該2枚の被写体画像データの差分画像を求めることを特徴とする請求項8又は請求項9に記載の撮像装置の画像信号処理方法。
  11. 前記差分画像に基づいて該2枚の被写体画像データから1枚の被写体画像データを合成することを特徴とする請求項10に記載の撮像装置の画像信号処理方法。
  12. 前記差分画像から画像の部分部分の被写体までの距離を求め、該距離に応じた混合比で前記2枚の被写体画像データを合成することを特徴とする請求項11に記載の撮像装置の画像信号処理方法。
JP2008048055A 2008-02-28 2008-02-28 撮像装置及び画像信号処理方法 Expired - Fee Related JP4887314B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008048055A JP4887314B2 (ja) 2008-02-28 2008-02-28 撮像装置及び画像信号処理方法
US12/395,366 US8098310B2 (en) 2008-02-28 2009-02-27 Imaging apparatus and image signal processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008048055A JP4887314B2 (ja) 2008-02-28 2008-02-28 撮像装置及び画像信号処理方法

Publications (2)

Publication Number Publication Date
JP2009206925A JP2009206925A (ja) 2009-09-10
JP4887314B2 true JP4887314B2 (ja) 2012-02-29

Family

ID=41012893

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008048055A Expired - Fee Related JP4887314B2 (ja) 2008-02-28 2008-02-28 撮像装置及び画像信号処理方法

Country Status (2)

Country Link
US (1) US8098310B2 (ja)
JP (1) JP4887314B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010130343A (ja) * 2008-11-27 2010-06-10 Fujifilm Corp 撮像装置及びその駆動制御方法
US8218068B2 (en) 2009-04-01 2012-07-10 Omnivision Technologies, Inc. Exposing pixel groups in producing digital images
JP2010263305A (ja) * 2009-04-30 2010-11-18 Fujifilm Corp 撮像装置及びその駆動方法
JP2011114558A (ja) * 2009-11-26 2011-06-09 Fujifilm Corp 撮像装置及び撮像方法
CN103181160B (zh) * 2010-07-28 2016-06-15 富士胶片株式会社 成像设备和成像方法
CN103109523B (zh) * 2010-09-14 2016-06-15 富士胶片株式会社 成像装置和成像方法
JP5721405B2 (ja) * 2010-11-22 2015-05-20 キヤノン株式会社 撮像システム、その制御方法及びプログラム
JP5713885B2 (ja) * 2011-12-26 2015-05-07 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
WO2014002415A1 (ja) * 2012-06-28 2014-01-03 パナソニック株式会社 撮像装置
KR101663947B1 (ko) * 2012-12-28 2016-10-12 캐논 가부시끼가이샤 촬상소자, 촬상장치, 그 제어 방법, 및 기억매체
US9113097B2 (en) * 2013-02-06 2015-08-18 Canon Kabushiki Kaisha Image capturing apparatus that controls performing of short-term and long-term exposures and corresponding read operations, and control method thereof
JP6391383B2 (ja) * 2014-02-10 2018-09-19 キヤノン株式会社 画像処理装置、その制御方法、プログラム及び記憶媒体
JP6338436B2 (ja) * 2014-04-25 2018-06-06 キヤノン株式会社 撮像装置及びその制御方法
JP6460653B2 (ja) * 2014-06-11 2019-01-30 オリンパス株式会社 画像処理装置、それを備えた撮像装置、画像処理方法、及び画像処理プログラム
JP6563646B2 (ja) * 2014-12-10 2019-08-21 ハンファテクウィン株式会社 画像処理装置および画像処理方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6278490B1 (en) * 1996-05-23 2001-08-21 Olympus Optical Co., Ltd. Exposure control for an image pickup apparatus that uses an electronic flash
JP4245699B2 (ja) * 1998-09-16 2009-03-25 オリンパス株式会社 撮像装置
JP3615454B2 (ja) 2000-03-27 2005-02-02 三洋電機株式会社 ディジタルカメラ
JP2002040321A (ja) * 2000-07-24 2002-02-06 Olympus Optical Co Ltd 電子カメラ
JP2006311240A (ja) * 2005-04-28 2006-11-09 Olympus Corp 撮像装置
JP2007256907A (ja) * 2006-02-10 2007-10-04 Fujifilm Corp デジタルカメラ

Also Published As

Publication number Publication date
JP2009206925A (ja) 2009-09-10
US8098310B2 (en) 2012-01-17
US20090219425A1 (en) 2009-09-03

Similar Documents

Publication Publication Date Title
JP4887314B2 (ja) 撮像装置及び画像信号処理方法
US7944496B2 (en) Imaging apparatus and driving method for CCD type solid-state imaging device
US8054342B2 (en) Imaging apparatus and method for driving the imaging apparatus
JP4951440B2 (ja) 撮像装置及び固体撮像素子の駆動方法
JP2010219958A (ja) 撮像装置
JP2011061514A (ja) 撮像装置及び撮像方法
JP2009159186A (ja) 撮像素子の駆動装置、撮像素子の駆動方法、撮像装置、及び撮像素子
US11019297B2 (en) Image capturing device
KR20090023186A (ko) 촬상 장치 및 고체 촬상 소자의 구동 방법
US20110216228A1 (en) Solid-state image sensing element, method for driving solid-state image sensing element and image pickup device
JP2011055351A (ja) 撮影装置及びその制御方法
JP2010130343A (ja) 撮像装置及びその駆動制御方法
JP2017098513A (ja) 撮像素子、撮像装置および焦点調節装置
JP5277117B2 (ja) 撮影装置及びその制御方法
JP2009117979A (ja) 固体撮像装置の駆動方法
JP5033711B2 (ja) 撮像装置及び撮像装置の駆動方法
JP2010263305A (ja) 撮像装置及びその駆動方法
JP2006014117A (ja) 物理情報取得方法および物理情報取得装置並びに物理量分布検知の半導体装置
JP2011244351A (ja) 撮像装置及び固体撮像素子の駆動制御方法
JP2010136078A (ja) 撮像装置及びその駆動制御方法
JP2020010375A (ja) 撮像装置
JP4852490B2 (ja) 撮像装置及びそのポストビュー画像生成方法
JP2017208651A (ja) 撮像装置
JP2009141404A (ja) Ccd型固体撮像素子の駆動制御方法及び撮像装置
JP5175783B2 (ja) 撮像装置及び撮像装置の駆動方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110726

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20110801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110922

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111115

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111212

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141216

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4887314

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20111216

A072 Dismissal of procedure [no reply to invitation to correct request for examination]

Free format text: JAPANESE INTERMEDIATE CODE: A072

Effective date: 20120417

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees