JP4715853B2 - 固体撮像装置および撮像方法 - Google Patents
固体撮像装置および撮像方法 Download PDFInfo
- Publication number
- JP4715853B2 JP4715853B2 JP2008030636A JP2008030636A JP4715853B2 JP 4715853 B2 JP4715853 B2 JP 4715853B2 JP 2008030636 A JP2008030636 A JP 2008030636A JP 2008030636 A JP2008030636 A JP 2008030636A JP 4715853 B2 JP4715853 B2 JP 4715853B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- synthesis
- exposure time
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Description
本発明は、有効ダイナミックレンジが拡張された画像信号を生成する撮像方法および、この方法を用いたビデオカメラ等の固体撮像装置に関する。
撮像装置は、撮像管あるいはCCD(Charge Coupled Device )等の固体撮像素子によって構成されており、デジタルカメラ,スキャナーあるいはビデオカメラ等の撮像部に広く使用されている。こうした撮像装置は、旧来の銀塩写真システムと比較するとダイナミックレンジが狭く、逆光時などに、被写体の明るい部分では、輝度レベルが著しく高いために像が白くなり過ぎたり(白とび)、被写体の暗い部分では、輝度レベルが著しく低いために像が黒くなり過ぎたり(黒つぶれ)することがあった。そこで、従来より、このような現象を解消して画質低下を防ぐために、同一被写体から得られた露光量の異なる複数の画像から1つの画像を合成する手法が採られている。
例えば、特開平2−174470号公報や、特開平5−7336号公報には、画像合成を行う際に問題となっていた手ぶれ等による画像のずれを補正する技術が記載されている。そこに採用されている画像合成方法は、一般的なものである。上記特開平5−7336号公報によれば、図11のように、1フレーム期間中に1/1000秒と1/60秒の2種類の露光時間で撮像素子からの信号を出力させ、1フレームを構成する奇(ODD)フィールド,偶(EVEN)フィールドにそれぞれ、露光時間が1/1000秒および1/60秒で撮影された画像をそれぞれ割り当てるようになっている。これらの画像は露出が異なるので、一方のフィールドに「白とび」もしくは「黒つぶれ」が生じていても他方のフィールドには生じていない。こうして、2つの画像の互いに利用可能な部分を融通しあうことによりダイナミックレンジが拡張され、画質が改善される。
なお、以上の説明に関連するものとして、以下の先行技術文献が挙げられる(特許文献1)。
しかしながら、従来の方法では、各画像を順に撮像していくことから、大きく2つの問題点があった。1つ目の問題は、露光時間の異なる画像が2枚程度しか得られないため、合成が困難である点である。むろん、原理的には2枚以上の画像の合成は可能であるが、画像数が増えるに従って撮像期間全体が長くなってしまう。そのため、画像間の経時変化を抑えたり、総撮像期間を1フィールドまたは1フレーム内に収め、合成後の画像信号をNTSC方式などの規格に対応させたりするには、画像を2〜3枚以上とすることは難しい。よって、実用上は合成には2枚の画像を用いることになるが、その場合、合成画像の有効ダイナミックレンジを拡張するため、互いの露光時間は比較的大きく異なるように選ばれる。またその場合には、両者の境界部分で不自然なコントラスト変化が生じるのを防ぐために、互いの画像信号の入射光量に対する特性を調整する必要が生じる。すなわち、露光時間が短い方の特性を増幅するなどしてゲイン調整を行うが、今度は、この操作に伴って画像同士の境界にノイズがしばしば発生するという問題が生じていた。
2つ目の問題は、露出時間の異なる画像が、それぞれ別の期間に撮られる点である。このため、撮像対象に動きのある場合などでは、合成の際、対象の境界部に情報の欠落が生じてしまう。前述した技術は、主な被写体に合わせて画像同士をずらすような座標変換を行うことによって、画像間の経時的な位置ずれを解消するようにしている。ただし、各画像のずれた周辺部分は切り捨てられ、2画像共通のエリアが元の画像サイズに拡大されるようになっている。
このように、従来では、合成の際にコントラストや位置ずれに対しても何らかの策を講じなければならず、しかも、その結果、合成によって得ようとしていた撮像対象を忠実に再現する画像ではなくなっていた。
本発明はかかる問題点に鑑みてなされたもので、その目的は、有効ダイナミックレンジが広く、画像ずれやノイズを抑えた画像を容易に得ることが可能な固体撮像装置および撮像方法を提供する。
本発明の固体撮像装置は、所定時間内に複数回の撮像を連続して行い、順次撮像された複数の単位画像を生成する撮像手段と、単位画像を加算して、撮像期間が部分的に重複し、かつ、互いに露光時間の異なる複数の合成用画像を生成する合成用画像生成手段と、合成用画像を合成して、ダイナミックレンジが拡張された合成画像を作成する合成手段とを備えたものである。また、上記合成用画像生成手段は、合成用画像の全てを、撮像期間に共通の重複部分があるように生成すると共に、この共通の重複部分が、撮像順が中央に位置する単位画像を含むようになっている。
本発明の撮像方法は、所定時間内に複数回の撮像を連続して行い、順次撮像された複数の単位画像を生成し、単位画像を加算して、撮像期間が部分的に重複し、かつ、互いに露光時間の異なる複数の合成用画像を生成し、さらに、合成用画像を合成して、ダイナミックレンジが拡張された合成画像を作成するものである。また、合成用画像の全てを、撮像期間に共通の重複部分を有するように生成すると共に、この共通の重複部分が、撮像順が中央に位置する単位画像を含むようになっている。
本発明の固体撮像装置および撮像方法では、単位画像が、その数と経時的位置とを考慮して加算され、露光時間の異なる複数の合成用画像が部分的に撮像期間を重複させるように生成される。また、合成用画像の全てが、撮像期間に共通の重複部分を有するように生成されると共に、この共通の重複部分が、撮像順が中央に位置する単位画像を含んでいる。
本発明の固体撮像装置および本発明の撮像方法によれば、所定時間内に複数回の撮像を連続して行い、順次撮像された複数の単位画像を生成し、単位画像を加算して、撮像期間が部分的に重複し、かつ、互いに露光時間の異なる複数の合成用画像を生成し、合成用画像を合成して、ダイナミックレンジが拡張された画像を作成するようにしたので、複数で、しかも互いの撮像期間が部分的に重複した合成用画像が極めて平易な方法で得られる。従って、得られる画像は、複数の合成用画像から合成されるので、単にダイナミックレンジが拡張されているだけでなく、より滑らかな中間調を表現することが可能となる。
また、複数の合成用画像が用いられることにより、各合成用画像の信号の低域成分は合成に使用されないので、得られる画像のノイズを低減することが可能となる。同時に、合成用画像の撮像期間は互いに部分的に重複しているので、互いの経時変化が軽減され、被写体の位置ずれ等による画像の欠落を回避することが可能となる。
また、こうした合成用画像は、単位画像の露光時間等の撮像条件を変えなくとも、その生成に用いる単位画像の数や経時的位置を変更するだけで枚数や露光時間,撮像期間の設定を変えることができる。このように、画像の合成における条件設定の自由度が極めて高く、また容易に条件設定を行うことが可能である。
さらに、合成用画像の全てを、撮像期間に共通の重複部分を有するように生成すると共に、この共通の重複部分が、撮像順が中央に位置する単位画像を含むようにしたので、合成用画像間の時間差をほとんど考慮する必要がなくなり、撮像対象の経時的な位置ずれを軽減する効果を高くすることが可能となる。
また、複数の合成用画像が用いられることにより、各合成用画像の信号の低域成分は合成に使用されないので、得られる画像のノイズを低減することが可能となる。同時に、合成用画像の撮像期間は互いに部分的に重複しているので、互いの経時変化が軽減され、被写体の位置ずれ等による画像の欠落を回避することが可能となる。
また、こうした合成用画像は、単位画像の露光時間等の撮像条件を変えなくとも、その生成に用いる単位画像の数や経時的位置を変更するだけで枚数や露光時間,撮像期間の設定を変えることができる。このように、画像の合成における条件設定の自由度が極めて高く、また容易に条件設定を行うことが可能である。
さらに、合成用画像の全てを、撮像期間に共通の重複部分を有するように生成すると共に、この共通の重複部分が、撮像順が中央に位置する単位画像を含むようにしたので、合成用画像間の時間差をほとんど考慮する必要がなくなり、撮像対象の経時的な位置ずれを軽減する効果を高くすることが可能となる。
以下、本発明の実施の形態について図面を参照して詳細に説明する。
図1は、本発明の一実施の形態に係る固体撮像装置の構成を示すブロック図である。図2は、単位画像から合成用画像を生成する様子を概念的に表しており、図3は、単位画像と合成用画像の間の撮像期間および露光時間における関係を示したタイムチャートである。この固体撮像装置では、実際に撮像して得た単位画像21から、撮像期間が部分的に重複し、かつ、互いに露光時間の異なる複数の合成用画像22が生成され、さらに、これを用いて合成画像23が生成される。なお、「撮像期間」は時間軸上の撮像されている期間を指し、「露光時間」は露光して撮像を行った時間の長さを指すものとして、以下の明細書においてはそれぞれを使い分けるものとする。
光学系11は、入射した光線を撮像素子12に結像するものであり、撮像素子12は、CMOSセンサやCCDセンサ等の固体撮像素子で構成され、結像された画像の情報を電圧信号SV に変換してカメラ信号前段処理回路13に出力するものである。
この撮像素子12は、所定時間内に撮像を連続して複数回(n回)行い、n枚の単位画像21を順次撮像するように(図3)、駆動回路16により制御されている。その際の撮像条件、すなわち撮像期間全体の長さ(総露光時間)や、単位画像の数、それぞれの露光時間は、後述する合成用画像22の各露光時間や枚数との関係によって設定される。
例えば、一連の撮像は1フレームまたは1フィールド期間内に行われ、さらには、そのうちの所定期間にて行われる。また、ここでは、単位画像21は全て、所定の単位露光時間tで撮像されるようになっている。単位露光時間tは適宜に設定可能であるが、例えば、従来の合成用画像の露光時間(1/1000 秒)と同程度以下としてよい。一例を挙げると、撮像期間の長さが1/60秒、単位露光時間1/6000秒、単位画像21を10枚などと設定することができる。こうした高速撮像は、一部のCMOSセンサにおいては現時点でも充分に実現可能である。
カメラ信号前段処理回路(前段処理回路)13は、撮像素子12からの各単位画像21に相当する電圧信号SV を、n枚の単位画像21に相当する画像データDu に変換する機能を有している。すなわち、前段処理回路13では、電圧信号SV に対し、A/D変換を始めとする通常のビデオカメラにおける信号処理と同様の周知の処理が行なわれる。なお、ここで生成された単位画像21の画像データDu は、画像メモリ14に出力されるようになっている。
画像メモリ14は、前段処理回路13から入力された単位画像データDu を格納すると共に、カメラ信号後段処理回路(後段処理回路)15からの読み出し/書き込み要求に応じて単位画像データDu を出力したり、後段処理回路15から入力される合成用画像データDs を格納したりする機能を有する。また、後段処理回路15に対しては、画像合成に伴う作業領域を提供する。画像メモリ14は、複数のデータを同時にリードライト可能な装置であり、具体的にはハードディスク,半導体メモリなどの記憶装置として構成されている。
後段処理回路15は、n枚の単位画像21を撮像順に加算して、撮像期間が部分的に重複し、かつ、互いに露光時間の異なる複数の合成用画像22を生成する機能を有している。すなわち、連続する単位画像21のm枚(m=1〜n)を加算することによって、露光時間が単位露光時間tのm倍で、撮像期間が、加算した単位画像21の撮像期間の合計となる合成用画像22が得られる。この操作は、画像メモリ14からn枚の単位画像21の画像データDu を読み出し、これら画像データDu を露光時間および撮像期間に応じて画素単位に加算し、合成用画像22に相当する画像データDs を生成することで行われる。得られた画像データDs は、画像メモリ14に格納される。
合成用画像22の生成に用いる単位画像21の選び方は種々考えられる。簡単な一例としては、図2,図3に示したように、最後に撮られたものから1枚,2枚,・・・,n枚をそれぞれ加算し、n枚の合成用画像22とする方法が挙げられる。この場合の合成用画像22は、少なくとも最後の単位画像21に相当する撮像期間を共有しており、露光時間がそれぞれt,2t,・・・,ntとなる。こうした合成用画像22は、画像の合成に必要となる任意の数だけ生成されればよく、各合成用画像22の露光時間,撮像期間も、必要に応じて適宜に設定可能である。ただし、最終的に滑らかに合成された画像を得るには、ここで合成用画像22を3枚以上得ておくことが望ましい。また、合成の際の被写体の位置ずれ等を抑制するため、合成用画像22の撮像期間は、互いの重複部分ができるだけ大きくなるように設定するのが望ましい。
図4は、画像データDs の入射光量に対する特性を示している。このように、合成用画像22(以下では画像22と略記)は、その露光時間に応じて、得られる信号値すなわち画像データDs の値の特性が異なっている。露光時間tである画像22のデータ特性43に対し、露光時間2tの場合の特性42は傾きが2倍であり、露光時間ntの場合の特性41は傾きがn倍である。つまり、入射光量が少なく被写体が暗いときには、特性41のように露光時間を長くし、得られるデータ信号値を十分に大きくすると、暗くとも階調が保たれるようになる。逆に、入射光量が多く明るい被写体には、特性43のように露光時間を短くすると、大きな入射光量においてもデータ信号が飽和点に達しないために明るくとも階調が保たれるようになる。
このように、各画像22は、露光時間すなわちデータ特性が互いに異なることから、全体として、広範な入射光量に対して適正な階調(特性の傾き)を与えることが可能である。なお、これら画像データDs の値は全て、ある上限値で飽和するようになっている。
さらに、後段処理回路15は、これら画像22を用いて合成を行ない、有効ダイナミックレンジが拡張された合成画像23を作成する機能を有する。その合成方法はどのようなものであってもよいが、通常よく用いられているように、不連続な特性を有する画像同士の境界において一方の信号値を増幅して画像のつなぎ目をなくすようにする方法では、この操作がうまくいかない場合に、接合される画像の信号値の大きさが相対的に入れ替わるなどして不自然にしずんだ領域が生じることがある。そこで、本実施の形態では、こうした問題点を回避すべく以下のような方法を採用している。
すなわち、後段処理回路15は、各画像22の画像データDs から入射光量に適したものを画素単位に選択して、合成に用いるようになっている。まず、露光時間が最も長い画像22において、画像データDs が設定上限値より小さい値であれば、そのまま採用される。ここで、設定上限値は、例えば画像データDs の飽和点の値とされるが、飽和点より低い値に設定して画質を保証するようにしてもよい。この露光時間ntの画像22が採用されなかった画素に対しては、露光時間(nー1)tの画像22を用いて同様の操作が行われる。同様の操作は、全ての画素に対して採用する画像データDs が決定されるまで繰り返し行われる。最後に残った画素に対しては、露光時間tの画像22の画像データDs が採用される。
その際に、本実施の形態では、入射光量に対するデータ特性が連続した一つの特性となるように、各画像22の画像データDs の値に補正が行われる。詳細は後述するが、画像22のうち露光時間がm番目に長いもの(mは2以上の整数)の画像データDs は、同じ画像における信号下限値からの自身の変位に、露光時間が1番長いものからm−1番目に長いものまでの画像22各々における画像データDs の下限値から設定上限値までの変位を全て積算した値に変換してから、合成される(図6を参照)。このように、各画像22のデータ信号値の大きさは相対化され、切れ目なくつなぎ合わせられて、ダイナミックレンジの拡張が適正に行われる。
なお、後段処理回路15は、以上のような画像の合成を、画像22を順に重ねるようにして行うほか、各画像22の画像データDs に施す処理は予めわかっているので、各画像22それぞれの画像データDs の処理を並列して行い、処理後の画像データDw を元の画像データDs の画素位置にあてはめることで一枚の合成画像23を作成するように構成されていてもよい。
また、この後段処理回路15では、そのほかに、ガンマ補正や、そのほか通常のビデオカメラの信号処理と同様の周知の処理が行なわれるようになっている。なお、本実施の形態では、後段処理回路15が本発明の「合成用画像生成手段」および「合成手段」に対応している。
駆動回路16は、撮像素子12を駆動するための回路である。AE制御部17は、後段処理回路15から入力される露光状態の情報に基づき、光学系11の絞り調整,駆動回路16の電子シャッタ制御,前段処理回路13のゲイン調整などを行う機能を有し、画像21〜23の露光条件を調節するようになっている。
次に、この固体撮像装置の動作、および、本実施の形態に係る撮像方法について説明する。
なお、以下ではより具体的な例として、図5のように単位露光時間tで撮られた8枚の単位画像21から、最後の単位画像21Lに相当する撮像期間を共有すると共に、露光時間がそれぞれt,2t,4t,8t、つまり単位露光時間tの2n 倍(nは0以上の整数)であるような4枚の画像22A,22B,22C,22Dを生成し、画像合成に用いる場合の説明を行う。
まず、光学系11および撮像素子12は、8枚の単位画像21を単位露光時間tで順次撮像する。撮像素子12は、各単位画像21に相当する電圧信号SV を、前段処理回路13に出力する。前段処理回路13は、入力された電圧信号SV を、8枚の単位画像21に相当する画像データDu に変換し、画像データDu を画像メモリ14に格納する。
次に、後段処理回路15は、画像メモリ14から8枚の単位画像21の画像データDu を読み出し、画像データDu を画素単位に加算することにより、最後の単位画像21Lに相当する撮像期間を共有すると共に露光時間がそれぞれt,2t,4t,8tであるような4枚の画像22A,22B,22C,22Dに相当する画像データDs を生成する(図5)。これらの画像22A〜22Dは、少なくとも1つの単位画像21(最後の単位画像21L)の撮像期間を共有しているため、その間に被写体の経時的な位置ずれが発生し難く、画像の欠落が回避される。なお、得られた画像データDs は、画像メモリ14に格納される。
さらに、後段処理回路15は、画像22A〜22Dを合成して合成画像23を作成する。図6は、この具体例に即したデータ信号の入射光量に対する特性図であり、(A)が合成前、(B)が合成後に対応している。なお、同図(A)の各特性は、対応する画像22A〜22Dの末尾の符号によって区別をしている。
まず、露光時間が最も長い画像22Dにおいて、画像データDs が画像データDs の飽和点の値mより小さい値であれば、そのまま合成後の画像データDw として採用する。よって、画像データDw における0からmまでの範囲は、露光時間が最長である画像22Dの画像データDs で構成される。これは、入射光量の範囲LDに対応している。
画像22Dの画像データDs が採用されなかった画素に対しては、次に、露光時間4tである画像22Cを参照し、画像データDs が飽和値mより小さい値であれば、画像データDw として用いる。よって、画像22Cの画像データDs で用いられるのは、画像22Dだと飽和しているが画像22Cでは飽和していない入射光量の範囲LCをカバーするものである。ここでは、画像22Dと画像22Cの特性の傾きは2:1であるから、用いられる画像データDs の範囲はm/2からmまでである。
この範囲LCに対応する画像データDs は、合成に際し、画像22Cにおける下限値m/2からの自身の変位値(0〜m/2)に、範囲LDにおける画像データDw の最高値mを足し合わせた値に変換して画像データDw とする。これにより、図6(B)に示したように、合成後の画像データDw は、2つの異なる特性D,Cが連続的に結合された特性を有するものとなる。なお、画像22Cについては、m/2未満の低域の画像データDs を使用しないので、画像データDw のノイズは低減される。
以下、用いる画像データDs が決定されてない画素がなくなるまで、画像22B,22Aを順に参照して同様の操作を行う。画像22Bでは、画像データDs のうち、入射光量の範囲LBに対応するm/2〜mの部分を用いる。合成に際しては、画像22Bにおける下限値m/2からの自身の変位値(0〜m/2)に、範囲LCまでの画像データDw の最高値3m/2を足し合わせた値に変換して画像データDw とする。
画像22Aでは、画像データDs のうち、入射光量の範囲LAに対応するm/2〜mの部分を用いる。合成に際しては、画像22Aにおける下限値m/2からの自身の変位値(0〜m/2)に、範囲LBまでの画像データDw の最高値2mを足し合わせた値に変換して画像データDw とする。
こうして合成が行われ、図6(B)に示したデータ信号特性を有する合成画像23が作成される。なお、この合成方法では、各画像22A〜22Dの画像データDs に施す処理は予めわかっているので、実際には各画像22A〜22Dそれぞれに対し、利用範囲(m/2〜m)の画像データDs の処理を並列して行い、処理後の画像データDw を画素にあてはめることで一枚の合成画像23を作成するようにしてもよい。
この合成画像23では、各画像22A〜22Dの入射光量に対するデータ特性が連続してつなぎ合わせられ、有効ダイナミックレンジが拡張される。また、画像22Dを除く画像22A〜22Cについては、m/2未満の低域の画像データDs を使用しないので、画像データDw のノイズは全体として低減される。なお、合成画像23は、後段処理回路15から画像データDw として出力される。
このように本実施の形態では、単位画像21から互いに露光時間が異なる合成用画像22を生成するようにしたので、通常より多い3枚以上の合成用画像22を容易に得ることができる。これら複数の合成用画像22から得られる合成画像23では、より滑らかな中間調を表現することができる。また、一連の合成用画像22を少なくとも1つの単位画像21を共有するように生成したので、合成用画像22の間の経時変化を軽減することができ、被写体の位置ずれ等による画像の欠落を回避することができる。
また、これら合成用画像22の枚数やそれぞれの露光時間,撮像期間は、自在に変更可能である。合成用画像22の各々の露光時間は、単位画像21の露光時間の設定に基づいて互いに関数で表現されるような一定の相関を与えることができるので、複数枚の合成用画像22の露光時間(特性)を互いに関連付けて選択することができる。また、そのような操作によって、例えば画像データDs の合成に用いる範囲が決まる。ここでは、合成用画像22の露光時間を、単位露光時間tの2n 倍としたので、各合成用画像22の使用可能なデータ値を全てm/2〜mの一定範囲内に収めることができる。したがって、合成の際に各合成用画像22の低域成分(0〜m/2)は使用しないので、画像23におけるノイズを低減することができる。また2n 倍とすることで、ビットデータとして画像データ処理を行う場合に取り扱いが簡単になる。
なお、本実施の形態では、合成用画像22の露光時間を単位露光時間tのn倍または2n 倍(nは共に0以上の整数)としたが、合成用画像相互の関係はそのほかの関数で表されるものであってもよい。例えば、各合成用画像の露光時間を、単位露光時間tの3k 倍(1,3,9,・・・)などのnk 倍(nは固定値であり2以上の整数,kは変数であり0以上の整数)としてもよい。この場合には、2n 倍の場合と同じく合成への適用範囲(上限値と下限値)が全ての合成用画像で一致するために、合成手法として取り扱いやすい。
撮像期間の設定については、ここでは、合成用画像22に共有される撮像期間を最後に撮像された単位画像21の撮像期間であるようにしたが、本発明の合成用画像は、その撮像期間の少なくとも一部が重複していればよいので、例えば、図7に示したように共有期間を全撮像期間の最初に設定してもよい。また、図8に示したように、共有期間を全撮像期間の中央に設定してもよい。この場合には、合成用画像間の時間差をほとんど考慮する必要がなくなり、撮像対象の経時的な位置ずれを軽減する効果が高い。さらに、図9に示したように、合成用画像が互いのうちいずれかに対し撮像期間が部分的に重複するようにしてもよい。
次に、本発明の具体的な実施例について説明する。なお、以下の実施例では、固体撮像装置全体の構成、作用動作は、基本的に実施の形態と同様である。
図10は、本発明の実施例に係るデータ信号の入射光量に対する特性図であり、(A)が合成前、(B)が合成後である。本実施例では、単位露光時間tで単位画像を順次撮像し、これら単位画像から、少なくとも1枚の単位画像に相当する撮像期間を共有すると共に露光時間がそれぞれt,2t,4t,8t,16tであるような5枚の合成用画像を生成した。
次に、これら合成用画像を合成するが、実施の形態のように画像データをそのままの値で用いると、特に合成後のデータ長が大きくなってしまい、画像メモリ内に大きな領域が必要になる。そこで、合成後のデータ信号特性が図7(B)のように正規化されたかたちで得られるように、各合成用画像の画像データを予め一定の比率で縮小し、これらを用いて合成を行った。図7(B)の実線部分が、合成後のデータ信号特性である。同図から、ダイナミックレンジが16倍に拡張されていることが確認できる。
なお、合成後の画像データの特性は折れ線となるため、対数曲線に補正する処理が有効である。ここでは、補正後の曲線を図7(B)に点線で示している。この曲線は、
(データ信号値)=log {50×(入射光量)+1}}/log 51
で表される対数曲線である。これにより、合成後のデータ信号特性を平滑化することができ、画質改善の効果が期待される。なお、一般的に知られていることとして、人間は、目に入ってくる光量を対数的特性でもって処理し、明るさとして感じているので、対数補正は、合成画像を生理的な見え方に近いものにするということができる。
(データ信号値)=log {50×(入射光量)+1}}/log 51
で表される対数曲線である。これにより、合成後のデータ信号特性を平滑化することができ、画質改善の効果が期待される。なお、一般的に知られていることとして、人間は、目に入ってくる光量を対数的特性でもって処理し、明るさとして感じているので、対数補正は、合成画像を生理的な見え方に近いものにするということができる。
なお、本発明は、上記実施の形態に限定されず種々の変形実施が可能である。例えば、上記実施の形態では、単位画像21は全て単位露光時間tで撮像されるようにしたが、各単位画像の露光時間は任意に選ぶことができ、同一の値でなくともよい。ただし、実施の形態のように、単位画像の露光時間を一定としておくと、合成用画像の露光時間が、加算する単位画像の数に比例するために制御しやすくなる。
また、単位画像の撮像条件および合成用画像の生成に用いる単位画像の選び方は、固定条件として予め定めておいてよいが、被写体の状況に応じて変化させるようにすることも可能である。
さらに、上記実施の形態では、後段処理回路15におけるデータ処理により合成用画像22を生成するものとしたが、予め加算する単位画像がわかっている場合には、前段処理回路において、入力信号を画像データに変換するなり演算処理を行い、所定の単位画像が加算された時点で、その値を合成用画像として画像メモリに格納してゆく方法をとることも可能である。
11…光学系、12…撮像素子、13…カメラ信号前段処理回路、14…画像メモリ、15…カメラ信号後段処理回路、16…駆動回路、17…AE制御部、21…単位画像、22,22A〜22D…合成用画像、23…合成画像、41,42,43…合成用画像のデータ信号特性、Sv…電圧信号、t…単位露光時間、Du…単位画像の画像データ、Ds…合成用画像の画像データ、Dw…合成画像の画像データ、LA〜LD…入射光量の範囲。
Claims (19)
- 所定時間内に複数回の撮像を連続して行い、順次撮像された複数の単位画像を生成する撮像手段と、
前記単位画像を加算して、撮像期間が部分的に重複し、かつ、互いに露光時間の異なる複数の合成用画像を生成する合成用画像生成手段と、
前記合成用画像を合成して、ダイナミックレンジが拡張された合成画像を作成する合成手段と
を備え、
前記合成用画像生成手段は、前記合成用画像の全てを、撮像期間に共通の重複部分があるように生成し、
前記共通の重複部分は、撮像順が中央に位置する単位画像を含む
ことを特徴とする固体撮像装置。 - 前記合成用画像生成手段は、前記合成用画像を3枚以上生成する
ことを特徴とする請求項1記載の固体撮像装置。 - 前記単位画像を全て同一の所定露光時間で撮像する
ことを特徴とする請求項1記載の固体撮像装置。 - 前記合成用画像の各々の露光時間を、前記所定露光時間のnk 倍(nは固定値であり2以上の整数,kは変数であり0以上の整数)とする
ことを特徴とする請求項3記載の固体撮像装置。 - 前記合成用画像の各々の露光時間を、前記所定露光時間の2k 倍(kは変数であり0以上の整数)とする
ことを特徴とする請求項4記載の固体撮像装置。 - 前記合成手段は、前記合成用画像の各々から、設定上限値より小さく、露光時間が最も長い画像に属する信号を画素ごとに抽出し、合成に用いる
ことを特徴とする請求項1記載の固体撮像装置。 - 前記合成用画像のうち露光時間がm番目に長いもの(mは2以上の整数)の信号値は、同じ画像における信号下限値からの自身の変位に、前記合成用画像のうちの露光時間が1番長いものからm−1番目に長いものまでの各々における信号の下限値から設定上限値までの変位を全て積算した値に変換され、合成に用いられる
ことを特徴とする請求項6記載の固体撮像装置。 - 前記画像信号の設定上限値は、入射光量に対する飽和点での信号値である
ことを特徴とする請求項6記載の固体撮像装置。 - 前記合成手段は、前記合成用画像を合成する前に、前記合成画像のダイナミックレンジが正規化されたものとなるように前記合成用画像の各々の画像信号を縮小する
ことを特徴とする請求項6記載の固体撮像装置。 - 前記撮像手段としてCCDセンサまたはCMOSセンサが用いられている
ことを特徴とする請求項1記載の固体撮像装置。 - 被写体を撮像して得られる画像の画質補正を行う撮像方法であって、
所定時間内に複数回の撮像を連続して行い、順次撮像された複数の単位画像を生成し、
前記単位画像を加算して、撮像期間が部分的に重複し、かつ、互いに露光時間の異なる複数の合成用画像を生成し、
さらに、前記合成用画像を合成して、ダイナミックレンジが拡張された合成画像を作成すると共に、
前記合成用画像の全てを、撮像期間に共通の重複部分を有するように生成し、
前記共通の重複部分は、撮像順が中央に位置する単位画像を含む
ことを特徴とする撮像方法。 - 前記合成用画像を3枚以上生成する
ことを特徴とする請求項11記載の撮像方法。 - 前記単位画像を全て同一の所定露光時間で撮像する
ことを特徴とする請求項11記載の撮像方法。 - 前記合成用画像の各々の露光時間を、前記所定露光時間のnk 倍(nは固定値であり2以上の整数,kは変数であり0以上の整数)とする
ことを特徴とする請求項13記載の撮像方法。 - 前記合成用画像の各々の露光時間を、前記所定露光時間の2k 倍(kは変数であり0以上の整数)とする
ことを特徴とする請求項14記載の撮像方法。 - 前記合成用画像の各々から、設定上限値より小さく、露光時間が最も長い画像に属する信号を画素ごとに抽出し、合成に用いる
ことを特徴とする請求項11記載の撮像方法。 - 前記合成用画像のうち露光時間がm番目に長いもの(mは2以上の整数)の信号値を、同じ画像における信号下限値からの自身の変位に、前記合成用画像のうちの露光時間が1番長いものからm−1番目に長いものまでの各々における信号の下限値から設定上限値までの変位を全て積算した値に変換して、合成に用いる
ことを特徴とする請求項16記載の撮像方法。 - 前記画像信号の設定上限値を、入射光量に対する飽和点での信号値とする
ことを特徴とする請求項16記載の撮像方法。 - 前記合成用画像を合成する前に、前記合成画像のダイナミックレンジが正規化されたものとなるように前記合成用画像の各々の画像信号を縮小する
ことを特徴とする請求項16記載の撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008030636A JP4715853B2 (ja) | 2008-02-12 | 2008-02-12 | 固体撮像装置および撮像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008030636A JP4715853B2 (ja) | 2008-02-12 | 2008-02-12 | 固体撮像装置および撮像方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002117160A Division JP4103129B2 (ja) | 2002-04-19 | 2002-04-19 | 固体撮像装置および撮像方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008160881A JP2008160881A (ja) | 2008-07-10 |
JP4715853B2 true JP4715853B2 (ja) | 2011-07-06 |
Family
ID=39661162
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008030636A Expired - Fee Related JP4715853B2 (ja) | 2008-02-12 | 2008-02-12 | 固体撮像装置および撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4715853B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101589500B1 (ko) * | 2009-06-25 | 2016-01-28 | 삼성전자주식회사 | 촬영 장치 및 촬영 방법 |
JP2012050073A (ja) * | 2010-07-30 | 2012-03-08 | Nikon Corp | 撮像装置及び画像合成プログラム |
JP2014036401A (ja) | 2012-08-10 | 2014-02-24 | Sony Corp | 撮像装置、画像信号処理方法及びプログラム |
US9131172B2 (en) * | 2012-11-30 | 2015-09-08 | Hanwha Techwin Co., Ltd. | Image processing apparatus and method for detecting motion using long exposures images and then performing infinite impulse response filtering on short exposure image |
JP2014138294A (ja) | 2013-01-17 | 2014-07-28 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP5569617B2 (ja) * | 2013-04-11 | 2014-08-13 | カシオ計算機株式会社 | 画像処理装置、及び、プログラム |
JP6184290B2 (ja) | 2013-10-21 | 2017-08-23 | ハンファテクウィン株式会社Hanwha Techwin Co.,Ltd. | 画像処理装置および画像処理方法 |
JP6070599B2 (ja) * | 2014-02-18 | 2017-02-01 | ソニー株式会社 | 情報処理装置、情報処理方法、情報処理システム、および撮像装置 |
US11606500B2 (en) | 2018-12-06 | 2023-03-14 | Sony Semiconductor Solutions Corporation | Reception apparatus and transmission apparatus |
CN117615257B (zh) * | 2024-01-18 | 2024-04-05 | 常州微亿智造科技有限公司 | 一种成像方法、装置、介质及设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03224368A (ja) * | 1989-12-22 | 1991-10-03 | Olympus Optical Co Ltd | 電子カメラ |
JP2000078463A (ja) * | 1998-08-28 | 2000-03-14 | Nikon Corp | 画像取り込み装置 |
JP2000358190A (ja) * | 1990-10-08 | 2000-12-26 | Olympus Optical Co Ltd | 画像入力装置の露光制御回路 |
JP2001326850A (ja) * | 2000-05-16 | 2001-11-22 | Canon Inc | 撮像装置、その制御方法およびコンピュータ読み取り可能な媒体 |
-
2008
- 2008-02-12 JP JP2008030636A patent/JP4715853B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03224368A (ja) * | 1989-12-22 | 1991-10-03 | Olympus Optical Co Ltd | 電子カメラ |
JP2000358190A (ja) * | 1990-10-08 | 2000-12-26 | Olympus Optical Co Ltd | 画像入力装置の露光制御回路 |
JP2000078463A (ja) * | 1998-08-28 | 2000-03-14 | Nikon Corp | 画像取り込み装置 |
JP2001326850A (ja) * | 2000-05-16 | 2001-11-22 | Canon Inc | 撮像装置、その制御方法およびコンピュータ読み取り可能な媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP2008160881A (ja) | 2008-07-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4715853B2 (ja) | 固体撮像装置および撮像方法 | |
JP5019543B2 (ja) | 撮像装置 | |
KR20120102509A (ko) | 화상 처리 장치, 화상 처리 방법 및 프로그램 | |
JP6312487B2 (ja) | 画像処理装置及びその制御方法、並びに、プログラム | |
JP2014154982A (ja) | 撮像装置およびその制御方法 | |
JP6587380B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体 | |
JP5284013B2 (ja) | 撮像装置およびその制御方法、プログラム | |
JP2008042298A (ja) | 固体撮像装置 | |
JP4103129B2 (ja) | 固体撮像装置および撮像方法 | |
JP2018160777A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP5430379B2 (ja) | 撮像装置及びその制御方法及びプログラム | |
JP2018207413A (ja) | 撮像装置 | |
JP5146498B2 (ja) | 画像合成装置、画像合成方法、及びプログラム | |
JP6029430B2 (ja) | 画像処理装置及び画像処理方法 | |
JP7147199B2 (ja) | 信号処理装置及び信号処理方法 | |
JP5829122B2 (ja) | 撮像装置および評価値生成装置 | |
JP2009005173A (ja) | 撮像装置及びその制御方法並びに撮像システム | |
JP6108854B2 (ja) | 撮像装置及びその制御方法 | |
JP5146500B2 (ja) | 画像合成装置、画像合成方法、及びプログラム | |
JP2008219230A (ja) | 撮像装置及び画像処理方法 | |
JP2009194728A (ja) | 撮像システム及び画像処理方法並びに画像処理プログラム | |
JP2018042089A (ja) | 撮像装置及びその制御方法、プログラム | |
JP6557451B2 (ja) | 撮像装置およびその制御方法ならびにプログラム | |
JP6075829B2 (ja) | 撮像装置、カメラシステム、撮像装置の制御方法、プログラム、記憶媒体 | |
JP6467455B2 (ja) | 撮像装置、その制御方法、プログラム及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110301 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110314 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140408 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |