JP5167676B2 - 撮像装置及び撮像方法 - Google Patents

撮像装置及び撮像方法 Download PDF

Info

Publication number
JP5167676B2
JP5167676B2 JP2007103242A JP2007103242A JP5167676B2 JP 5167676 B2 JP5167676 B2 JP 5167676B2 JP 2007103242 A JP2007103242 A JP 2007103242A JP 2007103242 A JP2007103242 A JP 2007103242A JP 5167676 B2 JP5167676 B2 JP 5167676B2
Authority
JP
Japan
Prior art keywords
frame
signal
imaging
accumulation period
frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007103242A
Other languages
English (en)
Other versions
JP2008263316A5 (ja
JP2008263316A (ja
Inventor
隆 亀山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007103242A priority Critical patent/JP5167676B2/ja
Priority to US12/099,362 priority patent/US8325246B2/en
Priority to EP08251364.9A priority patent/EP1981266B1/en
Priority to CN2008100897844A priority patent/CN101287131B/zh
Publication of JP2008263316A publication Critical patent/JP2008263316A/ja
Publication of JP2008263316A5 publication Critical patent/JP2008263316A5/ja
Application granted granted Critical
Publication of JP5167676B2 publication Critical patent/JP5167676B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Description

本発明は、低フレームレートでの撮像が可能なビデオカメラに適用される撮像装置、及びその撮像装置に適用される撮像方法に関する。
テレビジョン放送用のフォーマットなどに準拠した映像信号を得るビデオカメラの場合、イメージャで撮像を行うフレーム周期としては、1/60秒や1/50秒などに決められている。例えば1/60秒をフレーム周期としたビデオカメラでは、イメージャで各フレームの撮像光を受光して蓄積する期間(いわゆるシャッタ期間)は、最大で1/60秒である。
いわゆる電子シャッタと称される、撮像光の受光期間を1フレーム周期内で短くする処理を行えば、1/100秒や1/1000秒などの高速シャッタでの撮像については可能であるが、1フレーム周期より長いいわゆる低速シャッタは、通常は不可能である。
通常より低いフレームレートでの撮像を実現するためには、イメージャで複数のフレーム期間期間に亘る長期間の撮像光の受光を行って、その複数フレーム期間に亘って受光された信号を、イメージャから読み出すことで可能である。例えば、CCD(Charge Coupled Devices)型のイメージセンサをイメージャとして使用した場合には、各画素に受光により電荷が蓄積する期間を長時間化することで可能である。例えば、各画素で電荷が蓄積する期間を2フレーム期間の1/30秒とし、その1/30秒間に蓄積した信号を読み出すことで、蓄積期間を2倍化した低速撮像が可能となる。そのようにして得た撮像信号としては、通常のフレーム周期を1/60秒とすると、その2倍の1/30秒ごとに変化する。例えば、夜間などの暗い状況での撮像が可能となる。 このようにして、再生時のフレームレートより遅いフレームレートで撮像と記録を行なうことによって、再生時に早回し効果を得ることができる。ここでは2倍の期間蓄積する処理を行う例を説明したが、イメージャに電荷を蓄積させる期間の調整で、例えば数十フレーム期間のような長時間の撮像が可能となる。
特許文献1には、フレーム加算を行ってフレームレートを加算する処理を行う撮像装置の例についての記載がある。
特開2005−39710号公報
ところが、上述したようにイメージセンサの受光素子に電荷を蓄積させる期間が長くなると、イメージセンサの補正機能のダイナミックレンジが不足して、イメージセンサが持つ固定パターンノイズが露顕した画像となったり、或いは間欠画像であるためホワイトバランスなどの自動制御系が実用に耐えない状態となり、画質が非常に悪化してしまう。
この問題点を解決するためには、例えばイメージセンサの出力を、そのイメージセンサが出力する撮像信号がリニアな信号の段階で、デジタル同期加算する構成が考えられる。撮像信号がリニアな信号の段階とは、ホワイトバランス調整やガンマ補正などの各種撮像信号処理が行われる前の、イメージセンサの出力がそのまま反映した信号の段階である。
このイメージセンサの出力を非線形信号処理回路の後段の回路で加算する構成とした場合には、加算を行う際に、加算される各フレームの信号の特性が合致していないと、加算後の信号の特性が正しいものにならないという問題がある。
例えば、2フレーム期間の加算を行う構成を想定した場合、その加算される2フレーム期間のそれぞれが、全て同じ電荷の蓄積期間であればよいが、実際には、イメージセンサの信号電荷の蓄積期間は、電子シャッタと称される処理で1フレーム期間内の信号蓄積期間を短くする場合がある。この電子シャッタ処理で、加算する2つのフレーム期間の信号蓄積期間が異なる期間である場合には、イメージセンサ出力を加算したとしても、その加算されるそれぞれのフレーム期間の信号が等しい特性の信号とは言えず、加算された信号が正しい特性でない可能性がある。
本発明はかかる点に鑑みてなされたものであり、低フレームレートでの撮像と電子シャッタ処理とを組み合わせた場合の問題点を解決することを目的とする。
本発明は、撮像光を撮像信号に変換するイメージセンサから取り出した撮像信号を増幅し、増幅が行われた撮像信号を、フレームメモリを使用してフレーム単位で所定の複数フレーム加算して、その複数フレーム加算した撮像信号をフレーム周期で連続して出力する。そして、イメージセンサでの信号蓄積期間を制御し、加算を行う複数フレーム内の各フレームの信号蓄積期間に応じて、各フレームの増幅ゲインを可変設定するようにした。そして、信号蓄積期間の制御には、所定の複数フレームが2または3以上のフレームである場合にいずれかのフレームで信号蓄積期間を0にする制御も含み、いずれかのフレームで信号蓄積期間を0にした場合には、信号蓄積期間が0でないフレームの増幅ゲインを信号蓄積期間に応じて可変設定するようにした。
かかる処理を行うことで、低フレームレート撮像を行うために、複数フレームの撮像信号を加算する処理を行う際に、その加算される各フレームの信号が、信号蓄積期間に応じて可変設定されたゲインの信号となる。
本発明によると、低フレームレート撮像で、複数フレームの撮像信号を加算する処理を行う際に、その加算される各フレームの信号が、信号蓄積期間に応じて可変設定されたゲインの信号となり、加算前の信号の特性を等しくすることができ、加算により信号特性を悪化させることがない効果を有する。
以下、本発明の一実施の形態の例を、添付図面を参照して説明する。
図1は本実施の形態の例による撮像装置の構成例を示した図である。図1に従って構成を説明すると、レンズ11を介して得た撮像光を、プリズム12で3原色に分解し、その分解されたそれぞれの色の撮像光を、青色,緑色,赤色のイメージセンサ13B,13G,13Rの撮像面に入射させる。各色のイメージセンサ13B,13G,13Rの撮像面に結像した撮像光は、それぞれのイメージセンサ13B,13G,13Rで電気信号に変換し、その変換された電気信号を読み出す。イメージセンサ13B,13G,13Rから読み出された電気信号を、撮像信号と称する。
レンズ11は、図1では説明を簡単にするために1枚のレンズだけを示してあるが、実際には複数枚(複数群)のレンズで構成され、ズームレンズとして構成してもよい。また、図示しないが、絞り機構であるアイリスについてもレンズ11の光路中に配置してある。イメージセンサ13B,13G,13Rとしては、例えば、CCD型のイメージセンサ、或いはCMOS型のイメージセンサを使用する。イメージセンサ13B,13G,13Rでの各フレームの信号蓄積期間は、後述する制御部25からの指令で可変設定される構成としてある。即ち、例えば1フレームが1/60秒であるとすると、1フレーム期間の最大の信号蓄積期間は約1/60秒であるが、それよりも短い蓄積期間を設定できる構成としてある。このように1フレームの期間内で信号蓄積期間を短くする処理を、電子シャッタ処理と称する。
イメージセンサ13B,13G,13Rから読み出された撮像信号は、カメラプロセス部30に供給される。カメラプロセス部30では、撮像信号の各種補正処理が行われる。補正処理としては、リニア信号処理による補正と、ノンリニア信号処理による補正とがある。
カメラプロセス部30に入力した撮像信号は、まずリニアプロセス部31に供給して、リニア信号処理が行われる。リニアプロセス部31でのリニア信号処理としては、図1に示すように、各色の撮像信号に対して、増幅回路31b,31g,31rで個別に増幅処理を行って、各色の撮像信号を適正なレベルの信号とする処理がある。本例においては、この増幅回路31b,31g,31rで設定されるゲインとして、後述するフレーム加算を行うモード(低フレームレート撮像モード)時に、各フレームでの信号蓄積期間の違いによる補正を行う構成としてある。そのゲイン設定例については後述する。
また、青色,緑色,赤色の撮像信号のバランスを調整するホワイトバランス調整の補正処理がある。このホワイトバランス調整用のレベル補正処理についても、増幅回路31b,31g,31rで行うようにしてもよい。
リニアプロセス部31で処理された撮像信号は、ノンリニアプロセス部32に供給して、ノンリニア信号処理が行われる。
ノンリニアプロセス部32でのノンリニア信号処理による補正としては、ガンマ(γ)補正、ニー補正などがある。ガンマ補正は、ガンマ補正カーブに基づいて各色の輝度値を非線形の入出力特性で変換する補正処理であり、ニー補正は画像中の明るい部分の明るさを調整する非線形補正処理である。ノンリニアプロセス部32での非線形補正処理は、後述する制御部25からの指令により、通常撮像時の非線形補正処理と、後述するフレーム加算時の非線形補正処理とが、それぞれ異なる補正特性で設定されるようにしてある。さらに、フレーム加算時には、フレーム加算数に応じて補正特性がさらに修正されて設定されるようにしてある。
ノンリニアプロセス部32で補正された撮像信号は、YC変換部33に供給する。YC変換部33では、青色,緑色,赤色の原色信号(以下RGB信号と称する)で構成される撮像信号を、輝度信号(以下Y信号と称する)とクロマ信号(以下C信号と称する)の撮像信号に変換する。YC変換部33で変換された撮像信号は、カメラプロセス部30から出力させる。
カメラプロセス部30から出力された撮像信号(Y信号及びC信号)は、同期加算回路14に供給する。同期加算回路14には、フレームメモリで構成されるフレームバッファ24が接続してあり、低フレームレート撮像を行う際に、供給される撮像信号を、フレーム単位で加算させる処理が行われる。加算フレーム数などは制御部25により制御される。同期加算回路14で加算された撮像信号又は加算されない撮像信号は、コーデック部15に供給する。
コーデック部15では、供給される撮像信号を所定のフォーマットの映像信号に変換するコーデック処理を行い、変換された映像信号を、記録系回路16に供給して、記録媒体(記憶媒体)に記録させる。記録媒体としては、メモリカード、光ディスク、磁気テープなどの各種媒体が適用可能である。
また、カメラプロセス部30が出力する撮像信号と、同期加算回路14が出力する撮像信号は、セレクタ21に送る構成としてあり、制御部25の制御に基づいて、セレクタ21でモニタを行う撮像信号を選択する。例えば、セレクタ21では、低フレームレートでの撮像時には、その低フレームレートで撮像された撮像信号をモニタする際に、同期加算回路14が出力する撮像信号を選択し、低フレームレートで撮像中の加算されていない毎フレームの撮像信号をモニタする場合に、カメラプロセス部30の出力を選択する。通常の撮像時は、いずれの撮像信号を選択しても同じである。
セレクタ21で選択された撮像信号は、フレームレート変換部22でモニタ用又は外部出力用にフレームレートの変換処理が行われた後、表示部23に表示させる。或いは、図示しない出力端子から、フレームレート変換部22で変換された映像信号を出力させる。フレームレート変換部22での変換と、表示部23での表示についても、制御部25の制御で実行される。フレームレート変換部22でフレームレートを変換する際には、フレームバッファ24を一時記憶手段として使用して変換処理が行われる。
この撮像装置の各部の動作を制御する制御部25には、操作スイッチなどで構成される操作部26から操作指令が供給され、撮像の開始や停止などの撮像動作が制御される他に、撮像モードの設定なども、操作部26での操作に基づいて設定される。低フレームレートモードの設定や、電子シャッタの設定についても、操作部26の操作で設定される。或いは、電子シャッタについては、そのときの撮像条件(明るさなど)により制御部25が自動的に設定するようにしてもよい。レームバッファ24での撮像信号の蓄積動作についても制御部24により制御される。なお、フレームバッファ24は、撮像信号をY信号及びC信号の形式で記憶するメモリである。
ここで、図2を参照して、フレームバッファ24を同期加算用の記憶回路として使用する場合の構成を示す。入力端子24aに得られる撮像信号を、切換スイッチ24bを介して加算器24cに供給する。切換スイッチ24bは、撮像信号を加算しない期間は、入力端子24a側ではなく、0データが得られる側を選択する。加算器24cは、記憶部24dの出力を加算するものである。そして、加算器24cの出力を、記憶部24dに供給して記憶させる。そして、記憶部24dに記憶された撮像信号を、出力端子24eから出力させる。この図2に示す構成として、記憶部24dで1フレームの撮像信号を記憶して、加算器24cでその記憶された撮像信号を入力信号に加算させる処理を、1フレームごとに同期して行うことで、毎フレームに撮像された信号が、順に加算される。そして、必要なフレーム数加算された撮像信号を、出力端子24eから出力させる。フレームバッファ24で加算を行う際には、各フレーム内の加算される画素位置が等しくなるように設定してあり、その加算を行うことで各画素位置の輝度値が、加算フレーム数に対応した期間加算した値となる。
図3は、本例の撮像装置の同期加算回路14で、加算処理を行う場合の撮像動作を示したタイミング図である。この図3の例では、3フレームの撮像信号を加算する例としてある。図3(a)は、撮像信号のフレーム周期を示してあり、図3(b)に示すように、3フレームの露光期間の撮像信号を加算して1フレームの信号とするようにしてある。即ち、露光期間1.1と1.2と1.3の3フレーム期間のイメージセンサ出力を加算して、同期加算回路14で3フレーム加算されたフレーム番号1の撮像信号を得る。このフレーム番号1の撮像信号は、3フレーム期間連続して、同期加算回路14から出力される。次の露光期間2.1と2.2と2.3の3フレーム期間のイメージセンサ出力を加算して、同期加算回路14で3フレーム加算されたフレーム番号2の撮像信号を得る。このフレーム番号2の撮像信号も、3フレーム期間連続して、同期加算回路14から出力される。
このようにして、3フレームの加算が行われた撮像信号は、通常撮像時の撮像信号に比べて、イメージセンサ13B,13G,13Rでの露光時間が約3倍となり、撮像のフレームレートとしては、1/3の低フレームレートとなり、3倍の早回し効果が得られる。図3の例では、3フレーム加算の例を示したが、加算フレーム数は2フレーム以上の任意のフレーム数とすることができる。例えば、1フレームが1/60秒である場合に60フレーム加算すれば、1秒ごとの低フレームレートでの撮像が行える。
次に、このような低フレームレートの撮像処理と、電子シャッタ処理とを組み合わせた場合の処理例を、図4を参照して説明する。この図4の例では、図3の例と同様に、1/3のフレームレートで撮像を行う低フレームレート撮像を行う例としてある。
電子シャッタ処理を行わない場合には、1/3のフレームレートで撮像を行うモード時には、図3に示したように3フレームの撮像信号が加算される。しかしながら、電子シャッタ処理を行った場合には、例えば加算される3フレーム期間の内の電子シャッタで指示されたタイミング以前の信号は破棄されて、その電子シャッタで指示されたタイミング以後の信号だけが加算される。
図4の例では、図4(a)に示すように撮像フレーム周期が設定されているとして、その撮像フレームの3フレーム期間を1つの撮像フレーム期間とする低フレームレート撮像を設定が、図4(b)に示すように行われる。ここで、その低フレームレート撮像状態を設定した上で、2番目のフレーム期間のほぼ半分の期間以降の信号を蓄積(加算)させ、それより前の信号は破棄する電子シャッタ処理が、図4(b)に示すように行われたとする。具体的には、例えば、露光期間2.1と2.2と2.3の3フレーム期間を加算する低フレームレート撮像モードとして、露光期間2.2のほぼ半分のタイミングに、電子シャッタタイミングを設定して、それより後の期間だけを露光期間とする。従って、同期加算回路14では、露光期間2.2の後半の撮像信号と、露光期間2.3の全期間の撮像信号だけが加算される。
このような構成とした場合に、電子シャッタ処理で蓄積期間が短い期間(例えば露光期間2.2)については、カメラプロセス部30内のリニアプロセス部31で信号ゲインを、他の期間から変化させる。即ち、リニアプロセス部31内の増幅回路31b,31g,31rのゲインとして、通常時のゲインを0dBとすると、蓄積期間が約半分のフレーム期間については、それよりも6dB高くして、蓄積期間が違っていても各フレームの撮像信号のリニアプロセス部31の出力をほぼ等しいレベルとする。
図4(c)は、そのカメラプロセス部30の増幅回路31b,31g,31rでのゲイン設定例を示したものであり、そのゲインで増幅された信号が図4(d)に示すように出力される。この例では、図4(c)に示すように、3フレーム周期でゲインの高いフレーム期間が1フレームずつある処理が繰り返される。3つの増幅回路31b,31g,31rでの設定ゲインは基本的に同じである。但し増幅回路31b,31g,31rがホワイトバランス用の増幅回路なども兼ねる場合には、3つの原色信号でゲインがアンバランスになる場合もある。
この図4(c)に示すようにゲインが電子シャッタタイミングに連動して可変設定されながら、その図4(d)に示す出力が同期加算回路14で加算されて、同期加算回路14の出力としては、図4(e)に示すように、3フレーム期間同じ加算信号が繰り返し出力されるようになる。
なお、図4の例では、電子シャッタで信号蓄積期間が制限されるフレーム期間での蓄積期間として、約1/2に制限させる構成としたため、ゲインを6dB高くするようにしたが、その蓄積期間の制限量に応じてゲインを高くする値は変化する。具体的には、より蓄積期間が短くなる場合には、よりゲインを高くし、蓄積期間が長くなる場合にはゲインを高くする値を小さくする。即ち、蓄積期間と信号ゲインとは反比例の関係となるようにして、蓄積期間が違っていても各フレームの撮像信号のリニアプロセス部31の出力をほぼ等しいレベルとする。また、図4の例では、3フレーム周期の内の最初のフレーム期間の信号(図4(d)の出力2.1など)については、撮像信号として加算されないので、その期間のゲインについては、0dBでなくてもよい。
次に、図5のフローチャートを参照して、制御部25の制御で行われる、低フレームレートでの撮像時の処理例を説明する。まず、制御部25は、現在の撮像モードが通常のフレームレートでの撮像か、或いは低フレームレートでの撮像かを判断する(ステップS11)。ここで、通常のフレームレートでの撮像時には、ノンリニアプロセス部32で、通常撮像用のガンマ補正カーブを設定し(ステップS12)、同期加算回路14で加算処理を行わないようにし、記録や表示などを行う(ステップS13)。
これに対して、低フレームレートでの撮像時には、ノンリニアプロセス部32で、低フレームレート撮像用のガンマ補正カーブを設定する(ステップS14)。
ここで、制御部25では、電子シャッタ処理を行うか否か判断し(ステップS15)、電子シャッタを行う場合には、電子シャッタで信号蓄積期間が制限については、その信号蓄積期間と反比例の関係となるようにゲインを設定する(ステップS16)。このようにして、同期加算回路14でフレーム単位で加算された撮像信号を得る。
また、表示部23で表示させる映像として、通常のフレーム周期の映像であるのか、或いは、フレーム加算された低フレームレートの映像であるのかを選択する(ステップS17)。通常のフレーム周期の映像を選択した場合には、セレクタ21でカメラプロセス部30の出力を選択し、その選択された撮像信号による映像を表示部23で表示させる(ステップS18)。この通常のフレーム周期で撮像された映像を表示させた場合には、通常のフレーム周期(即ち1/60秒などの周期)で変化する映像であり、実際の撮像状態が判り、例えば表示映像から、レンズのフォーカス調整やズームレンズの画角調整などが迅速かつ正確に行える。但しフレーム加算されていない映像であるので、明るさは暗い映像になる場合がある。
また、フレーム加算された低フレームレートの映像を表示するように選択した場合には、セレクタ21で加算後の出力を選択し、その選択された撮像信号による映像を表示部23で表示させる(ステップS19)。この低フレームレートで撮像された映像の表示時には、実際に低フレームレートで撮像することによる映像の明るさもしくはS/Nが確認できる。このときには、電子シャッタの使用により信号蓄積期間を制限させた場合には、その電子シャッタ処理による撮像状況も、表示部23での表示から確認できる。
図4の例では、1/3の低フレームレート撮像を行う場合の電子シャッタ処理について説明したが、その他のレートでの低フレームレート撮像においても、本発明は適用可能である。
図6は、1/2の低フレームレート撮像を行うモードとした場合に、電子シャッタでシャッタ開度を100%(図6(a))、75%(図6(b))、50%(図6(c))、25%(図6(d))の例を示したものである。
図6(a)のシャッタ開度が100%の場合は、電子シャッタ処理による開度の制限がない状態であり、センサ出力は全て同じゲインで増幅されて、加算処理される。
図6(b)のシャッタ開度が75%の場合は、一方のフレーム期間(露光期間2など)で電子シャッタ処理による開度が半分に制限された状態であり、その制限された期間のイメージセンサ出力が高いゲインで増幅されて、他方のフレーム期間の信号と加算処理される。
図6(c)のシャッタ開度が50%の場合は、一方のフレーム期間(露光期間2など)の信号が全く使用されない状態であり、ゲインの変更はない状態で、他方のフレーム期間の信号だけが出力される。
図6(d)のシャッタ開度が25%の場合は、一方のフレーム期間(露光期間2など)の信号が全く使用されず、他方のフレーム期間(露光期間2など)で電子シャッタ処理による開度が半分に制限された状態であり、その制限された期間のイメージセンサ出力が高いゲインで増幅されて、そのフレーム期間の信号だけが出力される。
このように低フレームレートでのフレーム加算数の設定と、電子シャッタによる各フレーム期間内の開度の制限状態に応じて、ゲインを可変設定する処理を組み合わせることで、種々のフレーム周期の低フレームレート撮像における電子シャッタ処理を行う場合に対応が可能であることが判る。
以上説明したように、本実施の形態の撮像装置によると、低フレームレート撮像と電子シャッタ処理を組み合わせる場合において、電子シャッタ処理で開度が制限されるフレーム期間がある場合には、その期間のゲインを高くする処理を行うことで、カメラプロセス部30内のリニアプロセス部31の出力レベルを、いずれのフレーム期間でもほぼ等しくすることができ、リニアプロセス部31の次段のノンリニアプロセス部32内での非線形補正処理が正しく行われる。
即ち、ノンリニアプロセス部32内では、ガンマ補正などの非線形補正処理が行われるが、そのノンリニアプロセス部32での非線形補正処理された信号が、いずれもフレーム周期でも等しい特性となり、同期加算された信号の非線形補正処理状態が乱れることがない。
例えば、ガンマ補正については、ガンマ補正ゲインとして、図8に示したように、ゲイン1倍の場合と、ゲイン1/2倍の場合と、ゲイン3/2倍の場合とで、それぞれ入出力が所定の特性となるカーブが設定される。なお、ガンマ補正ゲインは通常は1倍である。
この図8に示すように、ガンマ補正は入力レベルによる決まるカーブであり、加算される複数フレーム期間内で電子シャッタ処理でレベルが異なると、ガンマ補正のかかり具合が異なる信号が加算されることになり好ましくないが、本実施の形態の場合には、電子シャッタ処理を行っても、加算される各フレーム期間の信号レベルがほぼ等しくなり、一定の状態で正しくガンマ補正が行われることになる。ガンマ補正以外の非線形補正が行われる場合にも、同様に本実施の形態の場合には良好な特性となる。
なお、図4や図6のタイミング設定例では、同期加算する複数フレームの内の1つのフレーム期間だけを、電子シャッタ処理で開度を制限させるようにしたが、同期加算する複数のフレームそれぞれを、電子シャッタ処理で開度を制限させて、その制限された開度に応じて、ゲインを変更させるようにしてもよい。
即ち、例えば図7に示すように、1/3の低フレームレート撮像を行うモード(即ち図4と同じモード)とした上で、加算される3フレーム周期のそれぞれで、開度を50%などに制限するようにし、それぞれのフレーム期間で開度に応じたゲインを設定するようにしてもよい。この場合には、例えば各フレーム期間でゲインを6dB通常時よりも高くする処理が行われることになる。
また、ここまで説明した例では、同期加算を輝度信号とクロマ信号の形式で行う構成としたが、RGB信号の形式の撮像信号で同期加算を行う構成としてもよい。また、同期加算を行う信号として、フレーム単位で加算するようにしたが、フィールド単位で同期加算することもできる。
本発明の一実施の形態の例による撮像装置の構成例を示すブロック図である。 本発明の一実施の形態の例による同期加算例を示す構成図である。 本発明の一実施の形態の例による撮像タイミングの例(3フレーム加算の例)を示すタイミング図である。 本発明の一実施の形態の例による電子シャッタ時の撮像タイミングの例(3フレーム加算の例)を示すタイミング図である。 本発明の一実施の形態の例による処理例を示すフローチャートである。 本発明の一実施の形態の例によるシャッタ開度とゲインとの例を示すタイミング図である。 本発明の一実施の形態の例による電子シャッタとゲインとの設定の他の例を示すタイミング図である。 本発明の一実施の形態の例によるゲインとガンマカーブの例を示す特性図である。
符号の説明
11…レンズ、12…プリズム、13B,13G,13R…イメージセンサ、14…同期加算回路、15…コーデック部、16…記録系回路、21…セレクタ、22…フレームレート変換部、23…表示部、24…フレームバッファ、25…制御部、26…操作部、30…カメラプロセス部、31…リニアプロセス部、31b,31g,31r…増幅回路、32…ノンリニアプロセス部、33…YC変換部

Claims (7)

  1. 光学系を介して得た撮像光を所定のフレーム周期で撮像信号に変換するイメージセンサと、
    前記イメージセンサから取り出した撮像信号を増幅する撮像信号処理部と、
    前記撮像信号処理部で処理された撮像信号を、フレームメモリを使用してフレーム単位で所定の複数フレーム加算して、その複数フレーム加算した撮像信号をフレーム周期で連続して出力するフレーム加算部と、
    前記イメージセンサでの信号蓄積期間を制御し、前記フレーム加算部で加算させる複数フレーム内の各フレームの信号蓄積期間に応じて、前記撮像信号処理部での各フレームの増幅ゲインを可変設定する制御部とを備え、
    前記制御部による信号蓄積期間の制御には、前記所定の複数フレームが2または3以上のフレームである場合にいずれかのフレームで信号蓄積期間を0にする制御も含まれ、いずれかのフレームで信号蓄積期間を0にした場合には、前記制御部は、信号蓄積期間が0でないフレームの増幅ゲインを信号蓄積期間に応じて可変設定する
    撮像装置。
  2. 請求項1記載の撮像装置において、
    前記フレーム加算部で加算させる所定フレーム数の内の各フレームの信号蓄積期間に応じた前記撮像信号処理部での各フレームの増幅ゲインの可変設定は、前記信号蓄積期間が0でないフレームにおいて前記信号蓄積期間と増幅ゲインとが反比例の関係になる設定である
    撮像装置。
  3. 請求項2記載の撮像装置において、
    前記信号蓄積期間は電子シャッタ処理により設定される
    撮像装置。
  4. 請求項1〜3のいずれか1項に記載の撮像装置において、
    前記撮像信号処理部内で増幅された信号に対して、ガンマ補正処理を行う
    撮像装置。
  5. 請求項4記載の撮像装置において、
    前記撮像信号処理部内でのガンマ補正特性を、前記フレーム加算部での加算フレーム数により変化させる
    撮像装置。
  6. 請求項1〜5のいずれか1項に記載の撮像装置において、
    前記撮像信号処理部内で増幅された信号に対して、ニー補正処理を行う
    撮像装置。
  7. 撮像光を撮像信号に変換するイメージセンサから所定のフレーム周期で取り出した撮像信号を増幅し、増幅された撮像信号に対して非線形処理を行うステップと、
    前記非線形処理が行われた撮像信号を、フレームメモリを使用してフレーム単位で所定の複数フレーム加算して、その複数フレーム加算した撮像信号をフレーム周期で連続して出力するステップと、
    前記イメージセンサでの信号蓄積期間を制御し、前記加算を行う複数フレーム内の各フレームの信号蓄積期間に応じて、各フレームの増幅ゲインを可変設定するステップであって、前記信号蓄積期間の制御には、前記所定の複数フレームが2または3以上のフレームである場合にいずれかのフレームで信号蓄積期間を0にする制御も含み、いずれかのフレームで信号蓄積期間を0にした場合には、信号蓄積期間が0でないフレームの増幅ゲインを信号蓄積期間に応じて可変設定するステップとを有する
    撮像方法。
JP2007103242A 2007-04-10 2007-04-10 撮像装置及び撮像方法 Expired - Fee Related JP5167676B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007103242A JP5167676B2 (ja) 2007-04-10 2007-04-10 撮像装置及び撮像方法
US12/099,362 US8325246B2 (en) 2007-04-10 2008-04-08 Imaging apparatus and imaging method capable of imaging at a low frame rate
EP08251364.9A EP1981266B1 (en) 2007-04-10 2008-04-08 Imaging apparatus and method
CN2008100897844A CN101287131B (zh) 2007-04-10 2008-04-10 成像装置和成像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007103242A JP5167676B2 (ja) 2007-04-10 2007-04-10 撮像装置及び撮像方法

Publications (3)

Publication Number Publication Date
JP2008263316A JP2008263316A (ja) 2008-10-30
JP2008263316A5 JP2008263316A5 (ja) 2010-04-22
JP5167676B2 true JP5167676B2 (ja) 2013-03-21

Family

ID=39627584

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007103242A Expired - Fee Related JP5167676B2 (ja) 2007-04-10 2007-04-10 撮像装置及び撮像方法

Country Status (4)

Country Link
US (1) US8325246B2 (ja)
EP (1) EP1981266B1 (ja)
JP (1) JP5167676B2 (ja)
CN (1) CN101287131B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10425583B2 (en) 2016-05-18 2019-09-24 Hitachi Kokusai Electric Inc. Imaging device

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5287598B2 (ja) * 2009-08-20 2013-09-11 カシオ計算機株式会社 撮像装置、露出調整方法、および、プログラム
JP5539079B2 (ja) * 2010-07-15 2014-07-02 キヤノン株式会社 撮像装置、その制御方法及びプログラム
JP6137539B2 (ja) * 2013-07-29 2017-05-31 ソニー株式会社 固体撮像素子及びその駆動方法、並びに電子機器
JP6420620B2 (ja) * 2014-10-03 2018-11-07 キヤノン株式会社 画像処理装置及び方法、及び撮像装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05191717A (ja) * 1992-01-10 1993-07-30 Canon Inc 電子スチルカメラ
JP3056596B2 (ja) * 1992-07-14 2000-06-26 富士写真フイルム株式会社 スチル/ムービ・ビデオ・カメラおよびその映像信号生成方法
JPH0750786A (ja) * 1993-08-06 1995-02-21 Fujitsu General Ltd 撮像素子のダイナミックレンジ拡大方法
US5745808A (en) * 1995-08-21 1998-04-28 Eastman Kodak Company Camera exposure control system using variable-length exposure tables
JPH11242737A (ja) * 1998-02-26 1999-09-07 Ricoh Co Ltd 画像処理方法及び装置並びに情報記録媒体
JP2000047297A (ja) * 1998-07-28 2000-02-18 Minolta Co Ltd デジタルスチルカメラ
JP3730419B2 (ja) * 1998-09-30 2006-01-05 シャープ株式会社 映像信号処理装置
EP1471733B1 (en) 2002-01-22 2018-09-12 Sony Corporation Imaging apparatus and imaging method
JP3804617B2 (ja) * 2003-02-14 2006-08-02 コニカミノルタフォトイメージング株式会社 画像処理装置及び方法
JP4193628B2 (ja) * 2003-07-18 2008-12-10 ソニー株式会社 撮像装置
WO2007032082A1 (ja) * 2005-09-16 2007-03-22 Fujitsu Limited 画像処理方法及び画像処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10425583B2 (en) 2016-05-18 2019-09-24 Hitachi Kokusai Electric Inc. Imaging device

Also Published As

Publication number Publication date
EP1981266A3 (en) 2012-02-29
JP2008263316A (ja) 2008-10-30
CN101287131B (zh) 2011-02-16
US20080252741A1 (en) 2008-10-16
EP1981266B1 (en) 2016-05-11
CN101287131A (zh) 2008-10-15
US8325246B2 (en) 2012-12-04
EP1981266A2 (en) 2008-10-15

Similar Documents

Publication Publication Date Title
JP4943721B2 (ja) 画像データのカラーノイズ除去方法及びこの方法を用いた撮像装置
JP4404823B2 (ja) 撮像装置
US8493468B2 (en) Imaging device and imaging method
JP5123137B2 (ja) 撮像装置および撮像方法
KR20070068977A (ko) 촬상 장치 및 촬영 방법
JP2007027967A (ja) 撮影装置
JP5167676B2 (ja) 撮像装置及び撮像方法
JP2001238127A (ja) カメラ
US7619681B2 (en) Image-capturing device that, when it is determined that a control value of an exposure-control exceeds a corresponding predetermined value, adjusts the control value to a value not exceeding the corresponding predetermined value, then sets the control value again based on the result of comparing luminance data obtained after an adjustment and a predetermined target luminance value, and method for controlling same
JP2000092379A (ja) 撮像装置及びその露出制御方法並びに記録媒体
JP4408940B2 (ja) 撮像装置及びその制御方法
JP2011009834A (ja) 撮像装置及び撮像方法
JP2005229292A (ja) 撮像装置及び撮像装置の制御方法
JP5061697B2 (ja) 撮像装置及び撮像方法
JP4158767B2 (ja) 撮像装置
JP2008263314A (ja) 撮像装置及び撮像方法
JP2003289472A (ja) 電子カメラ
JP4906605B2 (ja) 撮像装置及びその制御方法
JP2006050308A (ja) 撮像装置
JP2009017586A (ja) 画像再生装置およびその再生方法
JP2019110361A (ja) 撮像装置、撮像方法及び撮像プログラム
JP2009076978A (ja) 電子カメラおよびその撮影方法
JP2009147436A (ja) 撮像装置
JP2009089358A (ja) 撮像装置および撮像方法
JP2004064404A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100310

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120710

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121127

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121210

R151 Written notification of patent or utility model registration

Ref document number: 5167676

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160111

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees