JP2014036401A - 撮像装置、画像信号処理方法及びプログラム - Google Patents
撮像装置、画像信号処理方法及びプログラム Download PDFInfo
- Publication number
- JP2014036401A JP2014036401A JP2012178010A JP2012178010A JP2014036401A JP 2014036401 A JP2014036401 A JP 2014036401A JP 2012178010 A JP2012178010 A JP 2012178010A JP 2012178010 A JP2012178010 A JP 2012178010A JP 2014036401 A JP2014036401 A JP 2014036401A
- Authority
- JP
- Japan
- Prior art keywords
- image signal
- captured
- captured image
- composite
- exposure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title description 3
- 239000002131 composite material Substances 0.000 claims abstract description 99
- 230000015572 biosynthetic process Effects 0.000 claims description 92
- 238000003786 synthesis reaction Methods 0.000 claims description 92
- 238000003384 imaging method Methods 0.000 claims description 55
- 238000000034 method Methods 0.000 claims description 36
- 230000002194 synthesizing effect Effects 0.000 claims description 31
- 238000007906 compression Methods 0.000 claims description 12
- 230000006835 compression Effects 0.000 claims description 12
- 229920006395 saturated elastomer Polymers 0.000 claims description 7
- 238000009499 grossing Methods 0.000 claims description 5
- 230000006837 decompression Effects 0.000 claims description 4
- 239000000203 mixture Substances 0.000 abstract description 9
- 238000013329 compounding Methods 0.000 abstract 2
- 230000015654 memory Effects 0.000 description 35
- 230000008569 process Effects 0.000 description 24
- 230000008859 change Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 5
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/20—Circuitry for controlling amplitude response
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10144—Varying exposure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
【課題】露光時間の異なる複数の撮像画像信号を合成した合成画像信号の品質が低い場合がある。
【解決手段】撮像装置は、異なる露光時間に関する情報に基づいて、異なる露光時間で撮像された撮像画像信号を補正する。次に、補正された撮像画像信号と、異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した合成画像信号とを合成する合成係数を算出する。次に、記憶部から読み出した合成画像信号と、補正された撮像画像信号とを、合成係数に基づいて合成した合成画像信号を出力する。そして、記憶部に合成画像信号を書き込むものである。
【選択図】図1
【解決手段】撮像装置は、異なる露光時間に関する情報に基づいて、異なる露光時間で撮像された撮像画像信号を補正する。次に、補正された撮像画像信号と、異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した合成画像信号とを合成する合成係数を算出する。次に、記憶部から読み出した合成画像信号と、補正された撮像画像信号とを、合成係数に基づいて合成した合成画像信号を出力する。そして、記憶部に合成画像信号を書き込むものである。
【選択図】図1
Description
本開示は、例えば、ダイナミックレンジの拡張処理とノイズ除去処理を行う撮像装置、画像信号処理方法及びプログラムに関する。
従来の撮像装置では、ダイナミックレンジの拡張処理とノイズ除去処理が、それぞれ別々に行われている。ここで、ダイナミックレンジの拡張処理とは、異なる露光時間で撮像された複数フレームの画像に対応する撮像画像信号を合成して、撮像画像信号のダイナミックレンジを拡張する処理である。また、ノイズ除去処理は、時間方向に連続して撮像された撮像画像信号を合成することによって、各画像に重畳したノイズを除去する処理である。
特許文献1には、異なる露光時間で撮像された2フレームの画像に対応する画像信号に対して合成処理を行い、ダイナミックレンジの拡張処理を行う例について開示されている。この処理では、動き判定結果と露光時間に応じたフレーム巡回量を用いて1フレーム前の合成画像信号と現フレームの合成画像信号に対する合成処理とブレンド処理によるノイズ除去処理を行っている。
特許文献2には、同一又は異なる露光時間で撮像された複数フレームの画像に対応する画像信号に対して時間方向に連続な同一露光時間の画像信号を用いる技術が開示されている。そして、FIR(Finite Impulse Response:有限インパルス応答)処理を行い、画像信号からノイズ除去を行っている。さらに、ノイズ除去を行った露光時間の異なる画像信号を合成することによりダイナミックレンジの拡張を行っている。この特許文献2にはFIRについて記載されている。しかし、時間方向に連続した露光時間ごとにIIR(Infinite Impulse Response:無限インパルス応答)処理を行った後にダイナミックレンジを拡張するために画像合成を行うことも考えられる。
特許文献1及び2に記載された技術では、ダイナミックレンジの拡張処理とノイズ除去処理を別々に行っていたため、合成画像信号にノイズが重畳することがあり、合成画像信号の品質が低かった。
本開示はこのような状況に鑑みて成されたものであり、露光時間の異なる複数の撮像画像信号を合成した合成画像信号の品質を高めることを目的とする。
本開示は、異なる露光時間で撮像された撮像画像信号の異なる露光時間に関する情報に基づいて、撮像画像信号を補正する。
次に、露光時間に関する情報を合わせた撮像画像信号と、異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した合成画像信号とを合成する合成係数を算出する。
次に、記憶部から読み出した合成画像信号と、露光時間の比を合わせた撮像画像信号とを、合成係数に基づいて合成した合成画像信号を出力する。
そして、記憶部に合成画像信号を書き込む。
次に、露光時間に関する情報を合わせた撮像画像信号と、異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した合成画像信号とを合成する合成係数を算出する。
次に、記憶部から読み出した合成画像信号と、露光時間の比を合わせた撮像画像信号とを、合成係数に基づいて合成した合成画像信号を出力する。
そして、記憶部に合成画像信号を書き込む。
このようにしたことで、合成係数に基づいて、合成画像信号と撮像画像信号とを合成することにより撮像画像信号からノイズを除去し、撮像画像信号のダイナミックレンジを拡張した合成画像信号を得られる。
本開示によれば、異なる露光時間で撮像された撮像画像信号の露光時間に関する情報を合わせ、この撮像画像信号と合成画像信号に基づいて算出した合成係数を使って、品質を高めた合成画像信号を出力することができる。
以下、本開示を実施するための形態(以下、実施の形態例とする。)について説明する。なお、説明は以下の順序で行い、共通する部分には同一符号を付し、詳細な説明を省略する。
1.前提説明
2.第1の実施の形態例(ダイナミックレンジの拡張処理とノイズ除去処理を行う例)
3.第2の実施の形態例(フレーム間の大きな輝度変化に対応する例)
4.第3の実施の形態例(バス帯域とフレームメモリの容量を削減する例)
5.変形例
1.前提説明
2.第1の実施の形態例(ダイナミックレンジの拡張処理とノイズ除去処理を行う例)
3.第2の実施の形態例(フレーム間の大きな輝度変化に対応する例)
4.第3の実施の形態例(バス帯域とフレームメモリの容量を削減する例)
5.変形例
<1.前提説明>
本発明者らは、まず以下の検討を行った。
本発明者らは、まず以下の検討を行った。
図6は、画像処理装置100の内部構成例を示すブロック図である。
画像処理装置100は、第1のフレームメモリ101と、画像合成部102と、ノイズ除去部103と、第2のフレームメモリ104とを備える。画像処理装置100は、ダイナミックレンジの拡張処理を行った画像に対して、ノイズ除去処理を行うものである。
画像処理装置100は、第1のフレームメモリ101と、画像合成部102と、ノイズ除去部103と、第2のフレームメモリ104とを備える。画像処理装置100は、ダイナミックレンジの拡張処理を行った画像に対して、ノイズ除去処理を行うものである。
不図示の撮像素子は、第1の露光時間(長時間露光)と、第1の露光時間より短い第2の露光時間(短時間露光)で被写体の撮像を行い、各露光時間で露光した撮像画像信号を個別に出力する。そして、第1のフレームメモリ101は、不図示の撮像素子から入力した撮像画像信号を複数フレーム(例えば、Nフレーム)にわたって合成前画像として保存する。画像合成部102は、第1のフレームメモリ101からNフレームの合成前画像を読み出し、これらNフレームの合成前画像を合成する。この合成に際して、長時間露光された撮像画像信号同士を合成し、短時間露光された撮像画像信号同士を合成して、合成後画像を生成している。そして、画像合成部102は、合成後画像を、ダイナミックレンジを拡張した合成画像信号として出力する。ノイズ除去部103は、画像合成部102から入力した合成後画像を第2のフレームメモリ104に保存する。そして、ノイズ除去部103は、第2のフレームメモリ104から読み出した1フレーム前の合成後画像を用いて、画像合成部102から入力した現フレームの合成後画像からノイズを除去し、合成画像信号を出力する。
しかし、画像処理装置100には、ダイナミックレンジを拡張するための画像合成用と、ノイズ除去処理を行うためのフレーム巡回用に大容量のフレームメモリが少なくとも2つ必要となる。また、それぞれのフレームメモリが別々に動被写体の動き情報を算出したり、位置合わせを行ったりする処理が必要となり、回路規模と消費電力が大きくなってしまう。
図7は、画像処理装置110の内部構成例を示すブロック図である。
画像処理装置110は、ノイズ除去部111と、フレームメモリ112と、画像合成部113とを備える。画像処理装置110は、異なる露光時間で生成された撮像画像信号からノイズを除去した撮像画像信号を用いてダイナミックレンジの拡張処理を行うものである。
画像処理装置110は、ノイズ除去部111と、フレームメモリ112と、画像合成部113とを備える。画像処理装置110は、異なる露光時間で生成された撮像画像信号からノイズを除去した撮像画像信号を用いてダイナミックレンジの拡張処理を行うものである。
ノイズ除去部111は、図6で説明した不図示の撮像素子から入力した撮像画像信号から、長時間露光と短時間露光のそれぞれの特性に合わせてノイズを除去した撮像画像信号を、合成前画像として複数フレームにわたってフレームメモリ112に保存する。ノイズ除去部111は、フレームメモリ112から読み出した1フレーム前の合成前画像の撮像画像信号からノイズを除去する処理を行う。画像合成部113は、フレームメモリ112からNフレームの合成前画像の撮像画像信号を読み出し、これらNフレームの合成前画像を合成してダイナミックレンジを拡張した合成後画像の撮像画像信号を出力する。
画像処理装置110は、異なる露光時間で撮像された撮像画像信号毎にノイズ除去処理を行った後に、ダイナミックレンジの拡張用の画像合成を行う。しかし、露光時間の異なる撮像画像信号を合成する際に生じるS/Nの差や、電子回路に生じるショットノイズ、飽和レベルを起因とする合成領域のノイズを除去できず、合成領域の境界が目立つことがあった。
上記の検討の結果、本発明者らは、本開示の第1の実施の形態例に係る撮像装置10の構成及び処理を見いだした。ここでは、ダイナミックレンジの拡張処理とノイズ除去処理を同時に行う際に、どのようにして合成画像信号の品質を高めるかについて説明を行う。
<2.第1の実施の形態例>
[ダイナミックレンジの拡張処理とノイズ除去処理を行う例]
以下、本開示の第1の実施の形態例に係る撮像装置10の構成例及び動作例について、図1〜図3を参照して説明する。この撮像装置10は、コンピュータがプログラムを実行することにより、後述する内部ブロックが連携して行う画像信号処理方法を実現する。
[ダイナミックレンジの拡張処理とノイズ除去処理を行う例]
以下、本開示の第1の実施の形態例に係る撮像装置10の構成例及び動作例について、図1〜図3を参照して説明する。この撮像装置10は、コンピュータがプログラムを実行することにより、後述する内部ブロックが連携して行う画像信号処理方法を実現する。
図1は、撮像装置10の内部構成例を示すブロック図である。
撮像装置10は、撮像画像信号平滑化部1、露光閾値補正部2、撮像画像信号露光情報補正部3、合成係数算出部4、合成係数補正部5、合成部6、フレームメモリ7を備えている。
撮像装置10は、撮像画像信号平滑化部1、露光閾値補正部2、撮像画像信号露光情報補正部3、合成係数算出部4、合成係数補正部5、合成部6、フレームメモリ7を備えている。
撮像画像信号平滑化部1は、撮像装置10に入力された撮像画像信号を平滑化することによって、撮像画像信号に重畳するノイズ成分の影響を抑える。露光閾値補正部2は、平滑化された撮像画像信号を合成画像信号に合成するか否かを判定した判定結果と、合成係数の分解能を決定して、合成係数算出部4と合成係数補正部5に、判定結果及び合成係数の分解能を出力する。具体的には、露光閾値補正部2は、平滑化された撮像画像信号に対して、撮像画像信号の露光時間(入射光量)に応じた信号レベルの閾値により、判定結果の一例である合成フラグ情報を算出する。また、露光閾値補正部2は、合成係数の分解能が用いられる、画像合成時のベースとなる合成係数(以下、「ベース合成係数」という)を算出する。
合成フラグ情報とは、合成部6に対して、複数フレームの画像に対応する撮像画像信号の合成処理(例えば、αブレンド処理)を行うか行わないかを指示するための情報である。例えば、長時間露光で明所を撮像すると、撮像画像信号レベルが飽和レベルに達して白飛びした画像となることがある。しかし、短時間露光で撮像され、ゲイン・オフセットされた短時間露光画像信号の撮像画像信号レベルは、飽和レベルを超えるものとなる。このため、飽和レベルに達した長時間露光画像信号と、ゲイン・オフセットされた短時間露光画像信号の各撮像画像信号レベルを比べると、撮像画像信号レベルの差分が非常に大きい。ここで、飽和レベルに達した撮像画像信号を出力すると、合成画像信号のダイナミックレンジは飽和レベルまでしか達せず、ダイナミックレンジを拡張することができない。このため、飽和レベルに達した撮像画像信号については合成しないことを合成部6に指示するフラグ情報が生成される。
また、暗所を撮像すると、撮像素子への入射光量がわずかであり、撮像画像信号レベルも低いままであるため、撮像画像信号にノイズが重なることがある。このようなノイズを合成画像信号に重ねることを避けるため、撮像画像信号レベルに閾値を設けておく。そして、この閾値に満たない撮像画像信号レベルの撮像画像信号については合成しないことを合成部6に指示するフラグ情報が生成される。
ベース合成係数とは、合成部6が行う画像信号の合成比率の分解能を示す情報である。つまり、ベース合成係数は、合成係数算出部4によって算出される合成係数の分母の値として求められる。例えば、ベース合成係数が“32”であれば、合成係数(合成比率)は、“1/32”の分解能で決定されることになる。
撮像画像信号露光情報補正部3は、異なる露光時間に関する情報に基づいて撮像画像信号を補正する。異なる露光時間に関する情報は、異なる露光時間で撮像された撮像画像信号の露光時間の差又は比であるが、ここでは露光時間の比を一例に挙げて説明を行う。
例えば、短時間露光と長時間露光の露光時間が1:2の露光比率にある場合を想定する。このとき、撮像画像信号露光情報補正部3は、短時間露光の露光時間を2倍にして、短時間露光画像信号と長時間露光画像信号の露光時間の比(露光比)を2:2=1:1に補正する。
例えば、短時間露光と長時間露光の露光時間が1:2の露光比率にある場合を想定する。このとき、撮像画像信号露光情報補正部3は、短時間露光の露光時間を2倍にして、短時間露光画像信号と長時間露光画像信号の露光時間の比(露光比)を2:2=1:1に補正する。
合成係数算出部4は、異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存するフレームメモリ7から1フレーム前の合成画像信号をリファレンス信号として読み出す。そして、補正された撮像画像信号と、フレームメモリ7から読み出した合成画像信号とを合成する合成係数を算出する。また、フレームメモリ7から読み出した合成画像信号と、撮像露光時間に応じた露光比補正が行われた撮像画像信号に基づいて求めた動被写体の情報に応じて合成係数を算出する。
一般的に動被写体が含まれる複数フレームの画像の元となる画像信号を合成し、ブレンドすると画像内における動被写体の位置により、画像にブレや偽色等が発生する可能性がある。例えば、被写体が動いている場合には、単に連続するフレームの撮像画像信号を合成すると、画像内の被写体に生じたブレが見えてしまうことがある。しかし、従来の画像処理装置100が行う方法では、フレーム巡回によるノイズ除去処理によって、ダイナミックレンジを拡張するため、画像合成によって発生した動被写体のブレや偽色等を強調することがあった。また、フレームメモリに必要とされる容量が増加したり、個別の動き情報の算出や位置合わせ処理等による回路規模、消費電力が増加したりすることも考えられる。また、動被写体に対するブレや偽色を強調する可能性もあった。このため、動被写体のS/Nを向上すると共に、静止している被写体と動被写体とのS/Nを向上することが求められていた。
このため、合成係数算出部4は、動いている被写体については、撮像画像信号に含まれる被写体の領域をそのまま出力する必要がある。ここで、合成係数算出部4は、「動き情報」と「露光比情報」、「撮像画像信号レベル」、さらには露光閾値補正部2で算出した「ベース合成係数」を用いて、1フレーム前の画像信号と、露光比が補正された撮像画像信号の合成係数(比率)を算出する。
また、合成係数補正部5が用いる動き情報の算出には、フレーム間差分で行う方法や動きベクトルを用いた方法が適当である。また、「露光比情報」や「撮像画像信号レベル」を用いて合成係数を制御することによって、ノイズ除去の強度を調整することが可能である。
合成係数補正部5は、合成係数算出部4によって算出された合成係数を、露光時間に関する情報、又は露光時間に対する撮像画像信号のレベルの閾値に基づいて補正して、補正した合成係数を合成部6に出力する。例えば、合成係数補正部5は、合成係数算出部4で算出した合成係数(比率)に対して画素間の輝度やレベルのばらつきを抑えるための補正処理(例えば空間フィルタ処理)を行っている。また、合成係数補正部5は、露光閾値補正部2で算出した合成フラグ情報を用いて合成係数(比率)の補正を行っている。
また、合成部6は、フレームメモリ7から読み出した合成画像信号と、補正された撮像画像信号とを、合成係数に基づいて合成した合成画像信号を出力し、フレームメモリ7に合成画像信号を書き込む。つまり、合成部6は、露光比補正のされた撮像画像信号とフレームメモリ7に保存してある1フレーム前の合成画像信号の合成処理を行う。これら2つの画像信号の合成は、合成係数補正部5が出力する合成係数(比率)MixCoefを用いて行われる。これにより、合成部6は、ある露光時間で撮像された撮像画像信号と、1フレーム前の合成画像信号の合成を行うことが可能となる。
ここで、合成部6が演算する各信号の値には、次式(1)に示す関係がある。
MixSig(t+1)=MixCoef(t)×MixSig(t)+(1−MixCoef(t))×(InSig(t)×GAIN(t)+OFS(t))…(1)
・InSig(t):時間tにおける撮像画像信号
・MixSig(t):時間tにおける合成画像信号
・RefSig(t):時間tにおけるリファレンス信号(フレームメモリ7が出力する合成画像信号)であり、時間t−1における合成画像信号MixSig(t−1)に等しい。
・MixCoef(t):時間tにおける合成係数(画素単位で算出)
・GAIN(t):時間tにおける露光比補正ゲイン
・OFS(t):時間tにおける露光比補正オフセット値
MixSig(t+1)=MixCoef(t)×MixSig(t)+(1−MixCoef(t))×(InSig(t)×GAIN(t)+OFS(t))…(1)
・InSig(t):時間tにおける撮像画像信号
・MixSig(t):時間tにおける合成画像信号
・RefSig(t):時間tにおけるリファレンス信号(フレームメモリ7が出力する合成画像信号)であり、時間t−1における合成画像信号MixSig(t−1)に等しい。
・MixCoef(t):時間tにおける合成係数(画素単位で算出)
・GAIN(t):時間tにおける露光比補正ゲイン
・OFS(t):時間tにおける露光比補正オフセット値
図2は、撮像画像信号の例を示す説明図である。
不図示の撮像素子は、第1の露光時間(長時間露光)と、第1の露光時間より短い第2の露光時間(短時間露光)で繰り返して撮像を行い、異なる露光時間で露光した撮像画像信号を個別に出力する。そして、撮像装置10には、異なる露光時間で撮像された2フレームの画像に対応する画像信号(短時間露光画像信号と長時間露光画像信号)が周期的に入力される。例えば、nフレーム目では、短時間露光によって生成された画像信号が入力し、n+1フレーム目では、長時間露光によって生成された画像信号が入力する(nは、0以上の整数)。短時間露光と長時間露光は1フレーム毎に交互に繰り返され、不図示の撮像素子は、各露光時間に合わせて画像信号を生成し、撮像装置10に出力している。
不図示の撮像素子は、第1の露光時間(長時間露光)と、第1の露光時間より短い第2の露光時間(短時間露光)で繰り返して撮像を行い、異なる露光時間で露光した撮像画像信号を個別に出力する。そして、撮像装置10には、異なる露光時間で撮像された2フレームの画像に対応する画像信号(短時間露光画像信号と長時間露光画像信号)が周期的に入力される。例えば、nフレーム目では、短時間露光によって生成された画像信号が入力し、n+1フレーム目では、長時間露光によって生成された画像信号が入力する(nは、0以上の整数)。短時間露光と長時間露光は1フレーム毎に交互に繰り返され、不図示の撮像素子は、各露光時間に合わせて画像信号を生成し、撮像装置10に出力している。
なお、本開示は3種類以上の異なる露光時間で撮像された画像信号や同一の露光時間で撮像された画像信号等における露光時間比に関係なく適用可能である。また画像信号の入力順番に関しても短時間露光画像信号、長時間露光画像信号の順で記載しているがこの限りではない。
図3は、入射光量と撮像画像信号レベルの関係例を示す説明図である。図3Aは、長時間露光画像信号S1と、短時間露光画像信号S2の入射光量に対する撮像画像信号レベルの例を示す。図3Bは、長時間露光画像信号S1に、オフセットした短時間露光画像信号S4を合成した場合における各信号の入射光量に対する撮像画像信号レベルの例を示す。図3Cは、長時間露光画像信号S1に、ゲイン・オフセットした短時間露光画像信号S4を合成した場合における各信号の入射光量に対する撮像画像信号レベルの例を示す。
図3では、第1の露光時間で撮像された撮像画像信号を「長時間露光画像信号S1」と呼び、第2の露光時間で撮像された撮像画像信号を「短時間露光画像信号S2」と呼んで説明を行う。
図3Aに示すように長時間露光とした場合、不図示の光学系を介して不図示の撮像素子等に入射する被写体光の入射光量に対して、長時間露光画像信号S1の撮像画像信号レベルは飽和レベルで一定となる。一方、短時間露光画像信号S2は、入射光量に対する撮像画像信号レベルの増加量が長時間露光画像信号S1の撮像画像信号レベルの増加量に比べて少ない。このため、短時間露光画像信号S2の撮像画像信号レベルは、長時間露光画像信号S1に比べて長い時間をかけて飽和レベルに達する。なお、短時間露光画像信号S2であっても、撮像画像信号レベルが飽和レベルに達すれば、飽和レベルで一定となる。
次に、図3Bを参照して、長時間露光画像信号S1と、オフセットした短時間露光画像信号S4を合成する処理について検討する。
説明の前提として、ある入射光量を第1の閾値とし、第1の閾値より高く、長時間露光画像信号S1の撮像画像信号レベルが飽和レベルに達する入射光量を第2の閾値とする。さらに、第1及び第2の閾値の区間を「合成領域」と呼ぶ。
合成部6は、長時間露光画像信号S1のレベルが撮像素子に入射する像光の光量に対して飽和するレベルまで、短時間露光画像信号S2のレベルをオフセットする。また、合成部6は、オフセット処理と共に、合成領域で、長時間露光画像信号S1と、短時間露光画像信号S2とを合成係数に基づいて合成する。上述したように短時間露光画像信号S2の撮像画像信号レベルは、入射光量が一定の値に達するまで飽和レベルに達しない。ここで、第2の閾値を越える入射光量における短時間露光画像信号S2を全体にオフセットすると、撮像画像信号レベルを飽和レベルより高くした短時間露光画像信号S4を得ることができる。
このため、第2の閾値より入射光量が高くなると、短時間露光画像信号S2をオフセットして、短時間露光画像信号S4を求める。そして、合成領域において、長時間露光画像信号S1と短時間露光画像信号S2を合成する。この合成処理によって、長時間露光画像信号S1と短時間露光画像信号S4の撮像画像信号レベルが連続し、撮像画像信号のダイナミックレンジを拡張することができる。
次に、図3Cを参照して、長時間露光画像信号S1と、ゲイン・オフセットした短時間露光画像信号S5を合成する処理について検討する。
合成部6は、長時間露光画像信号S1のレベルが撮像素子に入射する像光の光量に対して飽和するレベルに達するまでの光量に対する撮像画像信号のレベルの比と同じ比とするゲイン処理を短時間露光画像信号S2に行う。すなわち、合成部6は、第2の閾値を越える入射光量における短時間露光画像信号S2を全体にゲイン・オフセットする。このゲイン・オフセットは、第2の閾値より入射光量が高くなるにつれてゲイン値を高めて短時間露光画像信号S2のオフセットを行う処理である。例えば、長時間露光画像信号S1の入射光量に対する撮像画像信号レベルの変化量と同じ変化量で、短時間露光画像信号S2が変化するようにゲイン・オフセットして、飽和レベルより高い撮像画像信号レベルとした短時間露光画像信号S5を得る。
また、合成領域においても、図3Bに示した場合と同様に、長時間露光画像信号S1と短時間露光画像信号S2の合成を行う。このように短時間露光画像信号S2をゲイン・オフセットすることによって、合成後の撮像画像信号レベルのダイナミックレンジを拡張することができる。また、入射光量に対する撮像画像信号レベルの傾きは、飽和レベルの前後で変わらない。このため、合成後の画像に違和感が生じにくくなる。
なお、図3Bと図3Cに示した長時間露光画像信号と短時間露光画像信号を合成する処理は、いずれであっても合成部6が実行することができる。合成部6がどの合成処理を実行するかは、撮像装置10の仕様に応じて任意に設定可能である。
以上説明した第1の実施の形態例に係る撮像装置10によれば、撮像画像信号のダイナミックレンジ全域に対して時間方向のIIR処理を行い、時間方向に連続した撮像画像信号を合成することによってノイズ除去を行う。このとき、同時に複数フレームの画像に対応して、複数の露光時間の異なる撮像画像信号を合成することによるダイナミックレンジの拡張処理行うことができる。
また、合成画像信号と撮像画像信号を合成することにより毎フレームで合成画像信号を出力することが可能である。このため、露光時間が異なる複数の撮像画像信号を合成する時には、撮像時のフレームレートを低下させることがない。また、動被写体のS/Nを向上すると共に、静止している被写体と動被写体とのS/Nを向上することができる。
また、露光情報や撮像画像信号レベルに応じて合成係数を制御することによりノイズ除去の強度を制御することが可能である。これによりS/Nの悪い短時間露光画像信号からノイズを除去する強度を強め、比較的S/Nの良い長時間露光画像信号からノイズを除去する強度を弱める制御を行うことができる。また、低照度部におけるノイズ除去の強度を強め、高照度部におけるノイズ除去の強度を弱めるといった制御を行うことが可能である。このため、ダイナミックレンジを拡張しつつ画像全体のS/Nを改善することが可能である。
また、従来は、短時間露光画像信号と長時間露光画像信号を2フレームずつ合成していた。例えば、図2を参照すると、nフレーム目とn+1フレーム目の撮像画像信号を合成し、次に、n+2フレーム目とn+3フレーム目の撮像画像信号を合成していた。このような合成処理では、nフレーム目とn+1フレーム目、n+2フレーム目とn+3フレーム目をまたがる被写体の動きを検知できるが、n+1フレーム目とn+2フレーム目をまたがる被写体の動きは検知できない。しかし、本実施の形態例に係る撮像装置10は、nフレーム目とn+1フレーム目、n+1フレーム目とn+2フレーム目、n+2フレーム目とn+3フレーム目、…のように1フレームずつずらしながら撮像画像信号を合成する。このため、従来の合成処理に比べて、撮像画像信号が生成された撮像タイミングと、1フレーム前の撮像画像信号の差を短縮することができ、フレーム間における被写体の動き情報の誤検知を軽減できる。
また、画像合成とノイズ低減処理を同時に行うことにより、回路規模と消費電力を削減し、演算処理の速度を向上することが可能となる。また、S/Nの良い高ダイナミックレンジ(HDR)の合成画像信号を生成する際に、フレームメモリ7の記録容量を削減することが可能となる。
<3.第2の実施の形態例>
[フレーム間の大きな輝度変化に対応する例]
次に、本開示の第2の実施の形態例に係る撮像装置20の構成例及び動作例について、図4を参照して説明する。
[フレーム間の大きな輝度変化に対応する例]
次に、本開示の第2の実施の形態例に係る撮像装置20の構成例及び動作例について、図4を参照して説明する。
図4は、第2の実施の形態例に係る撮像装置20の内部構成例を示す。
上述したように、第1の実施の形態例に係る撮像装置10が、「ダイナミックレンジの拡張処理」と「ノイズ除去処理」を同時に実現した場合において、フレームの前後で大きな輝度変化が発生すると、合成画像信号の品質が低下する場合がある。大きな輝度変化が生じると、撮像画像信号は輝度変化後の画像信号であるのに対して、1フレーム前の合成画像信号は輝度変化前の画像信号である。そして、これらの画像信号を合成した合成画像信号に輝度差が発生してしまう。例えば、合成画像信号が入力される表示装置では、画像が点滅することがある。
上述したように、第1の実施の形態例に係る撮像装置10が、「ダイナミックレンジの拡張処理」と「ノイズ除去処理」を同時に実現した場合において、フレームの前後で大きな輝度変化が発生すると、合成画像信号の品質が低下する場合がある。大きな輝度変化が生じると、撮像画像信号は輝度変化後の画像信号であるのに対して、1フレーム前の合成画像信号は輝度変化前の画像信号である。そして、これらの画像信号を合成した合成画像信号に輝度差が発生してしまう。例えば、合成画像信号が入力される表示装置では、画像が点滅することがある。
このため、撮像装置20は、撮像装置10が備える各部に加えて、合成画像信号の露光比を補正する合成画像信号露光情報補正部21を備えるようにした。合成画像信号露光情報補正部21は、フレームメモリ7から読み出した1フレーム前の合成画像信号を入力とする。そして、合成画像信号露光情報補正部21は、被写体の輝度が変化する前の合成画像信号における露光時間に関する情報と、被写体の輝度が変化した後の撮像画像信号における露光時間に関する情報に基づいて合成画像信号を補正する。このとき、合成画像信号露光情報補正部21は、輝度変化前の合成画像信号に対する露光時間と、輝度変化後の撮像画像信号の露光時間との差に応じてフレームメモリ7に保存している1フレーム前の合成画像信号に補正処理を行っている。
合成部6は、合成画像信号露光情報補正部21が露光時間の変化に応じた補正処理を行った合成画像信号を用いて合成処理を行う。これにより、1フレーム前の合成画像信号と輝度変化後の撮像画像信号間の露光比を吸収することが可能である。また、急激な輝度変化が生じても、輝度差を生じさせずに合成画像信号を出力することが可能である。
以上説明した第2の実施の形態例に係る撮像装置20によれば、フレームの前後で大きな輝度変化が発生した場合であっても、合成画像信号に輝度差を生じさせず、画像のチラつきを抑えることができる。このため、ダイナミックレンジを拡張し、ノイズ除去処理を同時に行った場合においても、品質の高い合成画像信号を出力することができる。
<4.第3の実施の形態例>
[バス帯域とフレームメモリの容量を削減する例]
次に、本開示の第3の実施の形態例に係る撮像装置30の構成例及び動作例について、図5を参照して説明する。
[バス帯域とフレームメモリの容量を削減する例]
次に、本開示の第3の実施の形態例に係る撮像装置30の構成例及び動作例について、図5を参照して説明する。
図5は、第3の実施の形態例に係る撮像装置30の内部構成例を示す。
上述したように、第1の実施の形態例に係る撮像装置10が、「ダイナミックレンジの拡張処理」と「ノイズ除去処理」を同時に実現した場合、複数フレームの画像を同時にフレームメモリ7から読み出すため、バス帯域をひっ迫してしまう。また、フレームメモリ7の記録容量が不足することも考えられる。
上述したように、第1の実施の形態例に係る撮像装置10が、「ダイナミックレンジの拡張処理」と「ノイズ除去処理」を同時に実現した場合、複数フレームの画像を同時にフレームメモリ7から読み出すため、バス帯域をひっ迫してしまう。また、フレームメモリ7の記録容量が不足することも考えられる。
このため、撮像装置30は、撮像装置20が備える各部に加えて、合成画像信号を圧縮する圧縮部31と、フレームメモリ7から読み出した圧縮された合成画像信号を伸張する伸張部33を備えるようにした。
圧縮部31は、合成部6によってビット拡張、つまりダイナミックレンジが拡張された合成画像信号に対してデータ圧縮処理を行って、圧縮された合成画像信号をフレームメモリ7に書き込む。この圧縮部31は、例えば、14ビットのデータ長である合成画像信号を、10ビットのデータ長に圧縮する処理を行う。
そして、伸張部33は、フレームメモリ7から圧縮された合成画像信号を読み出して、データ伸張処理を行い、合成画像信号露光情報補正部21に出力する。この伸張部33は、例えば、10ビットのデータ長である合成画像信号を、14ビットのデータ長に伸張する処理を行う。そして、伸張された合成画像信号が、合成部6におけるリファレンス信号として用いられる。
以上説明した第3の実施の形態例に係る撮像装置30によれば、圧縮部31からフレームメモリ7、及びフレームメモリ7から伸張部33までのバス帯域におけるデータ量を削減できる。また、フレームメモリ7は、圧縮された合成画像信号を保存するだけであるため、記録容量を削減することが可能となる。
また、圧縮部31が行う圧縮処理は可逆圧縮であることが望ましいが、例えば、合成画像信号のビット精度に応じて不可逆圧縮方式としてもよい。これは、伸張された合成画像信号の下位の数ビットが、圧縮前の合成画像信号と異なっても画像の色味をわずかに変える程度の影響しか与えないからである。
<5.変形例>
なお、図3Cには、長時間露光画像信号S1の一部を合成領域とした例を示したが、長時間露光画像信号S1の全体を合成領域としてもよい。このように合成領域を設定しても、オフセット又はゲイン・オフセットを十分に行うことが可能である。
なお、図3Cには、長時間露光画像信号S1の一部を合成領域とした例を示したが、長時間露光画像信号S1の全体を合成領域としてもよい。このように合成領域を設定しても、オフセット又はゲイン・オフセットを十分に行うことが可能である。
また、上述した実施の形態例において、露光閾値補正部2から合成係数算出部4と合成係数補正部5に対して、それぞれフラグ情報と合成ベース係数が入力されている。しかし、合成係数算出部4又は合成係数補正部5のいずれかにフラグ情報と合成ベース係数を入力して合成係数を求めるようにしてもよい。
また、上述した第1〜第3の実施の形態例に係る撮像装置の構成及び処理は任意に組み合わせることが可能である。
また、上述した実施の形態例における一連の処理は、ハードウェアにより実行することができるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが専用のハードウェアに組み込まれているコンピュータ、又は各種の機能を実行するためのプログラムをインストールしたコンピュータにより、実行可能である。例えば汎用のパーソナルコンピュータ等に所望のソフトウェアを構成するプログラムをインストールして実行させればよい。
また、上述した実施の形態例の機能を実現するソフトウェアのプログラムコードを記録した記録媒体を、システムあるいは装置に供給してもよい。また、そのシステムあるいは装置のコンピュータ(又はCPU等の制御装置)が記録媒体に格納されたプログラムコードを読み出し実行することによっても、機能が実現されることは言うまでもない。
この場合のプログラムコードを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
また、コンピュータが読み出したプログラムコードを実行することにより、上述した実施の形態例の機能が実現される。加えて、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS等が実際の処理の一部又は全部を行う。その処理によって上述した実施の形態例の機能が実現される場合も含まれる。
また、本開示は上述した実施の形態例に限られるものではなく、特許請求の範囲に記載した本開示の要旨を逸脱しない限りその他種々の応用例、変形例を取り得ることは勿論である。
なお、本開示は以下のような構成も取ることができる。
(1)
異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正する撮像画像信号露光情報補正部と、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出する合成係数算出部と、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力し、前記記憶部に前記合成画像信号を書き込む合成部と、を備える
撮像装置。
(2)
前記合成係数算出部は、前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号に基づいて求めた動被写体の情報に応じて前記合成係数を算出する
前記(1)記載の撮像装置。
(3)
さらに、前記撮像画像信号を平滑化する撮像画像信号平滑化部と、
平滑化された前記撮像画像信号を前記合成画像信号に合成するか否かを判定した判定結果と、前記合成係数の分解能を決定して、前記合成係数算出部に、前記判定結果及び前記合成係数の分解能を出力する露光閾値補正部と、を備える
前記(1)又は(2)記載の撮像装置。
(4)
さらに、前記合成係数算出部によって算出された前記合成係数を、前記露光時間に関する情報、又は前記露光時間に対する前記撮像画像信号のレベルの閾値に基づいて補正して、補正した前記合成係数を前記合成部に出力する合成係数補正部を備える
前記(1)〜(3)のいずれかに記載の撮像装置。
(5)
前記異なる露光時間に関する情報は、前記異なる露光時間で撮像された前記撮像画像信号の露光時間の差又は比である
前記(1)〜(4)のいずれかに記載の撮像装置。
(6)
前記撮像画像信号は、撮像素子によって第1の露光時間と、前記第1の露光時間より短い第2の露光時間で繰り返して出力されたものであって、
前記合成部は、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記撮像素子に入射する像光の光量に対して飽和するレベルまで、前記第2の露光時間で撮像された前記撮像画像信号のレベルをオフセットすると共に、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記飽和するレベルに達する第1の入射光量の閾値と、前記第1の入射光量より少ない第2の入射光量の閾値の間で、前記第1の露光時間で撮像された前記撮像画像信号と、前記第2の露光時間で撮像された前記撮像画像信号とを前記合成係数に基づいて合成する
前記(1)〜(5)のいずれかに記載の撮像装置。
(7)
前記合成部は、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記撮像素子に入射する像光の光量に対して飽和するレベルに達するまでの前記光量に対する前記撮像画像信号のレベルの比と同じ比とするゲイン処理を前記第2の露光時間で撮像された前記撮像画像信号に行う
前記(1)〜(4)のいずれかに記載の撮像装置。
(8)
さらに、被写体の輝度が変化する前の前記合成画像信号における前記露光時間に関する情報と、被写体の輝度が変化した後の前記撮像画像信号における前記露光時間に関する情報に基づいて前記合成画像信号を補正する合成画像信号露光情報補正部を備える
前記(1)〜(3)のいずれかに記載の撮像装置。
(9)
さらに、前記合成画像信号を圧縮して前記記憶部に書き込む圧縮部と、
前記記憶部から読み出した圧縮された前記合成画像信号を伸張する伸張部と、を備えた
前記(8)記載の撮像装置。
(10)
異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正することと、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出することと、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力することと、
前記記憶部に前記合成画像信号を書き込むことと、を含む
画像信号処理方法。
(11)
異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正する手順、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出する手順、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力する手順、
前記記憶部に前記合成画像信号を書き込む手順とを
コンピュータに実行させるプログラム。
(1)
異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正する撮像画像信号露光情報補正部と、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出する合成係数算出部と、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力し、前記記憶部に前記合成画像信号を書き込む合成部と、を備える
撮像装置。
(2)
前記合成係数算出部は、前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号に基づいて求めた動被写体の情報に応じて前記合成係数を算出する
前記(1)記載の撮像装置。
(3)
さらに、前記撮像画像信号を平滑化する撮像画像信号平滑化部と、
平滑化された前記撮像画像信号を前記合成画像信号に合成するか否かを判定した判定結果と、前記合成係数の分解能を決定して、前記合成係数算出部に、前記判定結果及び前記合成係数の分解能を出力する露光閾値補正部と、を備える
前記(1)又は(2)記載の撮像装置。
(4)
さらに、前記合成係数算出部によって算出された前記合成係数を、前記露光時間に関する情報、又は前記露光時間に対する前記撮像画像信号のレベルの閾値に基づいて補正して、補正した前記合成係数を前記合成部に出力する合成係数補正部を備える
前記(1)〜(3)のいずれかに記載の撮像装置。
(5)
前記異なる露光時間に関する情報は、前記異なる露光時間で撮像された前記撮像画像信号の露光時間の差又は比である
前記(1)〜(4)のいずれかに記載の撮像装置。
(6)
前記撮像画像信号は、撮像素子によって第1の露光時間と、前記第1の露光時間より短い第2の露光時間で繰り返して出力されたものであって、
前記合成部は、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記撮像素子に入射する像光の光量に対して飽和するレベルまで、前記第2の露光時間で撮像された前記撮像画像信号のレベルをオフセットすると共に、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記飽和するレベルに達する第1の入射光量の閾値と、前記第1の入射光量より少ない第2の入射光量の閾値の間で、前記第1の露光時間で撮像された前記撮像画像信号と、前記第2の露光時間で撮像された前記撮像画像信号とを前記合成係数に基づいて合成する
前記(1)〜(5)のいずれかに記載の撮像装置。
(7)
前記合成部は、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記撮像素子に入射する像光の光量に対して飽和するレベルに達するまでの前記光量に対する前記撮像画像信号のレベルの比と同じ比とするゲイン処理を前記第2の露光時間で撮像された前記撮像画像信号に行う
前記(1)〜(4)のいずれかに記載の撮像装置。
(8)
さらに、被写体の輝度が変化する前の前記合成画像信号における前記露光時間に関する情報と、被写体の輝度が変化した後の前記撮像画像信号における前記露光時間に関する情報に基づいて前記合成画像信号を補正する合成画像信号露光情報補正部を備える
前記(1)〜(3)のいずれかに記載の撮像装置。
(9)
さらに、前記合成画像信号を圧縮して前記記憶部に書き込む圧縮部と、
前記記憶部から読み出した圧縮された前記合成画像信号を伸張する伸張部と、を備えた
前記(8)記載の撮像装置。
(10)
異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正することと、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出することと、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力することと、
前記記憶部に前記合成画像信号を書き込むことと、を含む
画像信号処理方法。
(11)
異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正する手順、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出する手順、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力する手順、
前記記憶部に前記合成画像信号を書き込む手順とを
コンピュータに実行させるプログラム。
1…撮像画像信号平滑化部、2…露光閾値補正部、3…撮像画像信号露光情報補正部、4…合成係数算出部、5…合成係数補正部、6…合成部、7…フレームメモリ、10,20,30…撮像装置、21…合成画像信号露光情報補正部、31…圧縮部、33…伸張部
Claims (11)
- 異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正する撮像画像信号露光情報補正部と、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出する合成係数算出部と、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力し、前記記憶部に前記合成画像信号を書き込む合成部と、を備える
撮像装置。 - 前記合成係数算出部は、前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号に基づいて求めた動被写体の情報に応じて前記合成係数を算出する
請求項1記載の撮像装置。 - さらに、前記撮像画像信号を平滑化する撮像画像信号平滑化部と、
平滑化された前記撮像画像信号を前記合成画像信号に合成するか否かを判定した判定結果と、前記合成係数の分解能を決定して、前記合成係数算出部に、前記判定結果及び前記合成係数の分解能を出力する露光閾値補正部と、を備える
請求項2記載の撮像装置。 - さらに、前記合成係数算出部によって算出された前記合成係数を、前記露光時間に関する情報、又は前記露光時間に対する前記撮像画像信号のレベルの閾値に基づいて補正して、補正した前記合成係数を前記合成部に出力する合成係数補正部を備える
請求項3記載の撮像装置。 - 前記異なる露光時間に関する情報は、前記異なる露光時間で撮像された前記撮像画像信号の露光時間の差又は比である
請求項4記載の撮像装置。 - 前記撮像画像信号は、撮像素子によって第1の露光時間と、前記第1の露光時間より短い第2の露光時間で繰り返して出力されたものであって、
前記合成部は、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記撮像素子に入射する像光の光量に対して飽和するレベルまで、前記第2の露光時間で撮像された前記撮像画像信号のレベルをオフセットすると共に、入射光量の第1の閾値と、前記第1の閾値より高く、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記飽和するレベルに達する入射光量の第2の閾値との間で、前記第1の露光時間で撮像された前記撮像画像信号と、前記第2の露光時間で撮像された前記撮像画像信号とを前記合成係数に基づいて合成する
請求項5記載の撮像装置。 - 前記合成部は、前記第1の露光時間で撮像された前記撮像画像信号のレベルが前記撮像素子に入射する像光の光量に対して飽和するレベルに達するまでの前記光量に対する前記撮像画像信号のレベルの比と同じ比とするゲイン処理を前記第2の露光時間で撮像された前記撮像画像信号に行う
請求項6記載の撮像装置。 - さらに、被写体の輝度が変化する前の前記合成画像信号における前記露光時間に関する情報と、被写体の輝度が変化した後の前記撮像画像信号における前記露光時間に関する情報に基づいて前記合成画像信号を補正する合成画像信号露光情報補正部を備える
請求項3記載の撮像装置。 - さらに、前記合成画像信号を圧縮して前記記憶部に書き込む圧縮部と、
前記記憶部から読み出した圧縮された前記合成画像信号を伸張する伸張部と、を備えた
請求項8記載の撮像装置。 - 異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正することと、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出することと、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力することと、
前記記憶部に前記合成画像信号を書き込むことと、を含む
画像信号処理方法。 - 異なる露光時間に関する情報に基づいて、前記異なる露光時間で撮像された撮像画像信号を補正する手順、
補正された前記撮像画像信号と、前記異なる露光時間で撮像された撮像画像信号が合成される合成画像信号を保存する記憶部から読み出した前記合成画像信号とを合成する合成係数を算出する手順、
前記記憶部から読み出した前記合成画像信号と、補正された前記撮像画像信号とを、前記合成係数に基づいて合成した前記合成画像信号を出力する手順、
前記記憶部に前記合成画像信号を書き込む手順とを
コンピュータに実行させるプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012178010A JP2014036401A (ja) | 2012-08-10 | 2012-08-10 | 撮像装置、画像信号処理方法及びプログラム |
US13/953,214 US9460532B2 (en) | 2012-08-10 | 2013-07-29 | Imaging device, image signal processing method, and program |
CN201310325616.1A CN103581556A (zh) | 2012-08-10 | 2013-07-30 | 摄像装置、图像信号处理方法和程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012178010A JP2014036401A (ja) | 2012-08-10 | 2012-08-10 | 撮像装置、画像信号処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014036401A true JP2014036401A (ja) | 2014-02-24 |
Family
ID=50052381
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012178010A Pending JP2014036401A (ja) | 2012-08-10 | 2012-08-10 | 撮像装置、画像信号処理方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US9460532B2 (ja) |
JP (1) | JP2014036401A (ja) |
CN (1) | CN103581556A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014222815A (ja) * | 2013-05-13 | 2014-11-27 | キヤノン株式会社 | 撮像装置、制御方法及びプログラム |
JP2016082487A (ja) * | 2014-10-20 | 2016-05-16 | キヤノン株式会社 | 露出制御装置及びその制御方法、撮像装置、プログラム、記憶媒体 |
JP2016100895A (ja) * | 2014-11-24 | 2016-05-30 | 三星電子株式会社Samsung Electronics Co.,Ltd. | イメージ処理装置、その動作方法、及びそれを含む画像処理システム |
WO2016104386A1 (ja) * | 2014-12-26 | 2016-06-30 | オリンパス株式会社 | 調光装置、撮像システム、調光装置の作動方法および調光装置の作動プログラム |
JP2017003469A (ja) * | 2015-06-11 | 2017-01-05 | キヤノン株式会社 | 三次元計測装置、三次元計測装置の制御方法及びプログラム |
WO2018056070A1 (ja) * | 2016-09-23 | 2018-03-29 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮影装置、及び、信号処理方法 |
WO2019026923A1 (ja) * | 2017-08-03 | 2019-02-07 | オリンパス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 |
KR20200085523A (ko) * | 2019-01-07 | 2020-07-15 | 삼성전자주식회사 | 영상 처리 방법 및 이를 수행하는 영상 처리 장치 |
JP2021004781A (ja) * | 2019-06-26 | 2021-01-14 | 株式会社 日立産業制御ソリューションズ | 距離画像生成装置 |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104205204B (zh) * | 2012-03-22 | 2016-01-20 | 富士胶片株式会社 | 图像显示装置及方法 |
US9131172B2 (en) * | 2012-11-30 | 2015-09-08 | Hanwha Techwin Co., Ltd. | Image processing apparatus and method for detecting motion using long exposures images and then performing infinite impulse response filtering on short exposure image |
US10255888B2 (en) * | 2012-12-05 | 2019-04-09 | Texas Instruments Incorporated | Merging multiple exposures to generate a high dynamic range image |
KR20150025602A (ko) * | 2013-08-29 | 2015-03-11 | 삼성전자주식회사 | 동영상 촬영 방법 및 그 전자 장치 |
KR101652658B1 (ko) * | 2014-02-07 | 2016-08-30 | 가부시키가이샤 모르포 | 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기록 매체 |
JP6598479B2 (ja) * | 2014-03-31 | 2019-10-30 | キヤノン株式会社 | 画像処理装置、その制御方法、および制御プログラム |
JP2016044995A (ja) * | 2014-08-20 | 2016-04-04 | セイコーエプソン株式会社 | 測色方法、測色装置および電子機器 |
CN104809710B (zh) * | 2015-05-14 | 2018-02-06 | 上海兆芯集成电路有限公司 | 图像去噪方法以及使用该方法的装置 |
US9948875B2 (en) * | 2015-10-01 | 2018-04-17 | Semiconductor Components Industries, Llc | High dynamic range imaging pixels with improved readout |
JP2017108309A (ja) * | 2015-12-10 | 2017-06-15 | オリンパス株式会社 | 撮像装置および撮像方法 |
JP2017139691A (ja) * | 2016-02-05 | 2017-08-10 | ソニー株式会社 | 画像処理装置および画像処理方法 |
CN109413335B (zh) * | 2017-08-16 | 2020-12-18 | 瑞芯微电子股份有限公司 | 一种双重曝光合成hdr图像的方法和装置 |
CN110233972B (zh) * | 2018-03-06 | 2021-06-18 | 瑞芯微电子股份有限公司 | 一种摄像方法和装置 |
CN109145144B (zh) * | 2018-08-24 | 2021-07-30 | 贵州宽凳智云科技有限公司北京分公司 | 高精度道路数据采集时位置与图片的匹配方法 |
CN109167931B (zh) * | 2018-10-23 | 2021-04-13 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及移动终端 |
CN109951634B (zh) * | 2019-03-14 | 2021-09-03 | Oppo广东移动通信有限公司 | 图像合成方法、装置、终端及存储介质 |
CN110062159A (zh) * | 2019-04-09 | 2019-07-26 | Oppo广东移动通信有限公司 | 基于多帧图像的图像处理方法、装置、电子设备 |
EP3983993A4 (en) * | 2019-06-11 | 2023-08-02 | Innosapien Agro Technologies Private Limited | METHODS, SYSTEMS AND COMPUTER PROGRAM PRODUCTS FOR GENERATING HIGH DYNAMIC RANGE IMAGE RATES |
CN110708473B (zh) * | 2019-11-14 | 2022-04-15 | 深圳市道通智能航空技术股份有限公司 | 高动态范围图像曝光控制方法、航拍相机及无人飞行器 |
EP4002833B1 (en) * | 2020-11-17 | 2023-02-15 | Axis AB | Method and electronic device for increased dynamic range of an image |
CN114531552B (zh) * | 2022-02-16 | 2023-06-27 | 四川创安微电子有限公司 | 一种高动态范围图像合成方法及*** |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6965698B2 (en) * | 2001-12-21 | 2005-11-15 | Canon Kabushiki Kaisha | Image composition for use in lossy compression |
US7409104B2 (en) * | 2002-07-18 | 2008-08-05 | .Sightic Vista Ltd | Enhanced wide dynamic range in imaging |
JP4905187B2 (ja) * | 2007-03-09 | 2012-03-28 | ソニー株式会社 | 画像処理装置、撮像装置、および画像処理方法、並びにコンピュータ・プログラム |
JP2009049547A (ja) * | 2007-08-15 | 2009-03-05 | Seiko Epson Corp | 画像処理装置、画像処理方法、画像処理プログラム |
JP4715853B2 (ja) | 2008-02-12 | 2011-07-06 | ソニー株式会社 | 固体撮像装置および撮像方法 |
JP5188312B2 (ja) | 2008-08-01 | 2013-04-24 | パナソニック株式会社 | 映像信号処理装置および映像信号処理方法 |
US8339475B2 (en) * | 2008-12-19 | 2012-12-25 | Qualcomm Incorporated | High dynamic range image combining |
US8525900B2 (en) * | 2009-04-23 | 2013-09-03 | Csr Technology Inc. | Multiple exposure high dynamic range image capture |
US8237813B2 (en) * | 2009-04-23 | 2012-08-07 | Csr Technology Inc. | Multiple exposure high dynamic range image capture |
US8606009B2 (en) * | 2010-02-04 | 2013-12-10 | Microsoft Corporation | High dynamic range image generation and rendering |
JP2012019293A (ja) * | 2010-07-06 | 2012-01-26 | Sony Corp | 画像処理装置、撮影方法、撮影プログラム、画像処理方法及び画像処理プログラム |
US8687883B2 (en) * | 2011-01-18 | 2014-04-01 | Agency For Science, Technology And Research | Method and a device for merging a plurality of digital pictures |
JP2012165259A (ja) * | 2011-02-08 | 2012-08-30 | Olympus Corp | 画像処理装置、画像処理方法、画像処理プログラム、および撮影装置 |
JP2012247874A (ja) * | 2011-05-25 | 2012-12-13 | Sony Corp | 画像処理装置および方法 |
JP2013066142A (ja) * | 2011-08-31 | 2013-04-11 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP6061488B2 (ja) * | 2012-04-26 | 2017-01-18 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
-
2012
- 2012-08-10 JP JP2012178010A patent/JP2014036401A/ja active Pending
-
2013
- 2013-07-29 US US13/953,214 patent/US9460532B2/en active Active
- 2013-07-30 CN CN201310325616.1A patent/CN103581556A/zh active Pending
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014222815A (ja) * | 2013-05-13 | 2014-11-27 | キヤノン株式会社 | 撮像装置、制御方法及びプログラム |
JP2016082487A (ja) * | 2014-10-20 | 2016-05-16 | キヤノン株式会社 | 露出制御装置及びその制御方法、撮像装置、プログラム、記憶媒体 |
JP2016100895A (ja) * | 2014-11-24 | 2016-05-30 | 三星電子株式会社Samsung Electronics Co.,Ltd. | イメージ処理装置、その動作方法、及びそれを含む画像処理システム |
KR20160061612A (ko) * | 2014-11-24 | 2016-06-01 | 삼성전자주식회사 | 광역 역광 보정 영상의 노이즈 레벨 제어 장치, 및 이를 포함하는 영상 처리 시스템 |
KR102273656B1 (ko) * | 2014-11-24 | 2021-07-05 | 삼성전자주식회사 | 광역 역광 보정 영상의 노이즈 레벨 제어 장치, 및 이를 포함하는 영상 처리 시스템 |
WO2016104386A1 (ja) * | 2014-12-26 | 2016-06-30 | オリンパス株式会社 | 調光装置、撮像システム、調光装置の作動方法および調光装置の作動プログラム |
JPWO2016104386A1 (ja) * | 2014-12-26 | 2017-04-27 | オリンパス株式会社 | 内視鏡システム |
JP2017003469A (ja) * | 2015-06-11 | 2017-01-05 | キヤノン株式会社 | 三次元計測装置、三次元計測装置の制御方法及びプログラム |
US10378886B2 (en) | 2015-06-11 | 2019-08-13 | Canon Kabushiki Kaisha | Three dimensional measurement apparatus, control method for three dimensional measurement apparatus, and storage medium |
JPWO2018056070A1 (ja) * | 2016-09-23 | 2019-07-04 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮影装置、及び、信号処理方法 |
KR20190054069A (ko) * | 2016-09-23 | 2019-05-21 | 소니 세미컨덕터 솔루션즈 가부시키가이샤 | 신호 처리 장치, 촬영 장치 및 신호 처리 방법 |
WO2018056070A1 (ja) * | 2016-09-23 | 2018-03-29 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮影装置、及び、信号処理方法 |
KR102317752B1 (ko) * | 2016-09-23 | 2021-10-25 | 소니 세미컨덕터 솔루션즈 가부시키가이샤 | 신호 처리 장치, 촬영 장치 및 신호 처리 방법 |
JP7030703B2 (ja) | 2016-09-23 | 2022-03-07 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮影装置、及び、信号処理方法 |
WO2019026923A1 (ja) * | 2017-08-03 | 2019-02-07 | オリンパス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 |
KR20200085523A (ko) * | 2019-01-07 | 2020-07-15 | 삼성전자주식회사 | 영상 처리 방법 및 이를 수행하는 영상 처리 장치 |
KR102628911B1 (ko) * | 2019-01-07 | 2024-01-24 | 삼성전자주식회사 | 영상 처리 방법 및 이를 수행하는 영상 처리 장치 |
JP2021004781A (ja) * | 2019-06-26 | 2021-01-14 | 株式会社 日立産業制御ソリューションズ | 距離画像生成装置 |
JP7290485B2 (ja) | 2019-06-26 | 2023-06-13 | 株式会社 日立産業制御ソリューションズ | 距離画像生成装置 |
JP7290485B6 (ja) | 2019-06-26 | 2023-06-30 | 株式会社 日立産業制御ソリューションズ | 距離画像生成装置 |
Also Published As
Publication number | Publication date |
---|---|
US20140044366A1 (en) | 2014-02-13 |
US9460532B2 (en) | 2016-10-04 |
CN103581556A (zh) | 2014-02-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014036401A (ja) | 撮像装置、画像信号処理方法及びプログラム | |
JP5787648B2 (ja) | 画像処理装置及び画像処理装置の制御方法 | |
JP5296193B2 (ja) | 撮像装置、再生装置、撮像方法及び再生方法 | |
US9094586B2 (en) | Flash band correction apparatus, flash band correction method, and image pickup apparatus | |
US20120019686A1 (en) | Image synthesizing device, image synthesizing method and computer readable medium | |
US20140064632A1 (en) | Image processing apparatus, image processing method and recording medium | |
JP2007201985A (ja) | 広ダイナミックレンジ撮像装置 | |
US8861846B2 (en) | Image processing apparatus, image processing method, and program for performing superimposition on raw image or full color image | |
US9215356B2 (en) | Image processing apparatus, image processing method, and program to combine a composite image of noise suppressed images generated from images each including a direct current component and at least one noise suppresed image processed from at least one image not including the direct current component | |
JP6678376B2 (ja) | 動き検出装置および動き検出方法 | |
JP2013258444A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2013162359A (ja) | 画像処理装置および画像処理方法 | |
US8699827B2 (en) | Imaging apparatus, signal processing method, and program | |
JP5146498B2 (ja) | 画像合成装置、画像合成方法、及びプログラム | |
JP2004297701A (ja) | 映像処理装置および撮像システム | |
JP2013106151A (ja) | 画像処理装置及び画像処理方法 | |
US20140055639A1 (en) | Raw data processing apparatus, raw data processing method and imaging device | |
JP5188312B2 (ja) | 映像信号処理装置および映像信号処理方法 | |
JP2010219807A (ja) | 画像処理装置および画像処理方法 | |
KR102050415B1 (ko) | 화상 처리 장치 및 화상 처리 방법 | |
JP5820213B2 (ja) | 画像処理装置及びその方法、撮像装置 | |
JP2008072428A (ja) | 画像処理装置、電子カメラ、および画像処理プログラム | |
WO2011033675A1 (ja) | 画像処理装置および画像表示装置 | |
US20240163572A1 (en) | Image processing device, non-transitory computer-readable medium, and image processing method | |
JP4969371B2 (ja) | 撮像装置 |