JP2017108309A - 撮像装置および撮像方法 - Google Patents
撮像装置および撮像方法 Download PDFInfo
- Publication number
- JP2017108309A JP2017108309A JP2015241108A JP2015241108A JP2017108309A JP 2017108309 A JP2017108309 A JP 2017108309A JP 2015241108 A JP2015241108 A JP 2015241108A JP 2015241108 A JP2015241108 A JP 2015241108A JP 2017108309 A JP2017108309 A JP 2017108309A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- pixel
- unit
- image
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 119
- 238000012935 Averaging Methods 0.000 claims abstract description 27
- 238000012545 processing Methods 0.000 claims description 68
- 230000015572 biosynthetic process Effects 0.000 claims description 66
- 238000003786 synthesis reaction Methods 0.000 claims description 66
- 239000000203 mixture Substances 0.000 claims description 31
- 230000035945 sensitivity Effects 0.000 claims description 25
- 238000013500 data storage Methods 0.000 claims description 21
- 230000000052 comparative effect Effects 0.000 claims description 16
- 238000000034 method Methods 0.000 description 54
- 239000002131 composite material Substances 0.000 description 34
- 230000008569 process Effects 0.000 description 27
- 238000011161 development Methods 0.000 description 23
- 230000015654 memory Effects 0.000 description 23
- 230000001186 cumulative effect Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 238000005259 measurement Methods 0.000 description 10
- 238000005375 photometry Methods 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 6
- 239000000654 additive Substances 0.000 description 5
- 230000000996 additive effect Effects 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000002194 synthesizing effect Effects 0.000 description 4
- 230000004907 flux Effects 0.000 description 3
- 239000000470 constituent Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 229910052724 xenon Inorganic materials 0.000 description 2
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 2
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000003705 background correction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/743—Bracketing, i.e. taking a series of images with varying exposure conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2625—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/673—Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
【課題】複数の画像を明るさに応じ合成して合成画像を得る際に、よりランダムノイズを抑制して、光線の軌跡を綺麗に残すことができる撮像装置および撮像方法を提供する。
【解決手段】被写体像を撮像して画像データを生成するための撮像素子4と、画像データを記憶するDRAMと、生成された画像データとDRAMに記憶されている画像データを画素毎に加算平均して画素データを更新する加算平均合成部と、生成された画像データとDRAMに記憶されている画像データを画素毎に比較明合成して画素データを更新する比較明合成部と、生成された画像データを構成する各画素データのレベルが所定スレッシュレベル以上か否かを判定する画素比較部19と、画素比較部19の判定結果に応じて、生成された画像データを構成する各画素データに対して、加算平均合成又は比較明合成を行うかを選択するための制御を行う選択制御部33を備える。
【選択図】 図1A
【解決手段】被写体像を撮像して画像データを生成するための撮像素子4と、画像データを記憶するDRAMと、生成された画像データとDRAMに記憶されている画像データを画素毎に加算平均して画素データを更新する加算平均合成部と、生成された画像データとDRAMに記憶されている画像データを画素毎に比較明合成して画素データを更新する比較明合成部と、生成された画像データを構成する各画素データのレベルが所定スレッシュレベル以上か否かを判定する画素比較部19と、画素比較部19の判定結果に応じて、生成された画像データを構成する各画素データに対して、加算平均合成又は比較明合成を行うかを選択するための制御を行う選択制御部33を備える。
【選択図】 図1A
Description
本発明は、比較的長時間に亘って撮影を行う際に、撮影途中において順次取得した複数フレームの画像データから合成画像データを生成する撮像装置および撮像方法に関する。
デジタルカメラ等の撮像装置に加算合成や比較明合成等の画像処理機能を搭載することにより、初心者でも簡単に天体写真や花火、ライトアート等の光線の軌跡をライブビューで確認しながら、綺麗にかつ簡単に撮影できるようになっている。多重露出で光線の軌跡を残して撮影する場合は、主に加算合成や比較明合成機能が使用される。
比較明合成は、複数の画像を合成する際に、同一画素位置のピクセルの画素レベル(明るさレベル)を比較し、明るいピクセルを採用することにより合成画像データを生成する。たとえば特許文献1では、ユーザが、撮影時の経過画像をライブビューで視認しながら、綺麗に光線の軌跡を残した撮影ができるようにした撮像装置が提案されている。
また、特許文献2には、より失敗が少なくなるよう、1枚目とそれ以降の撮影画像の平均輝度差によって合成処理を変更するような撮像装置も提案されている。一般的にランダムノイズを抑制する方法として加算平均合成が知られている。特許文献3には、加算平均合成を用いた動体撮影方法が提案されている。特許文献4には、比較明合成と比較暗合成を組み合わせることにより、背景や光跡の明るさをそれぞれ独立して調整可能する撮像装置が提案されている。
特許文献2、4において提案されてきた撮影方法を用いることにより、光線の軌跡を撮影することは容易になった。しかし、光跡の撮影にあたっては、比較明合成を基本としているため、1枚目に撮影された画像にノイズレベルが左右されてしまう(特許文献1でも同様である)。このため、画像ノイズを低減した合成画像を得るために、最初の1枚目を如何に低ノイズで撮影するかがポイントとなり、ISO感度を上げて撮影することが難しい。逆にノイズを抑制しようとして加算平均合成を基本とすると、背景が暗い場所では、加算平均処理を施すたびに、光線の軌跡が徐々に薄くってしまう。
本発明は、上記事情に鑑みてなされたものであり、複数の画像を明るさに応じ合成して合成画像を得る際に、よりランダムノイズを抑制して、光線の軌跡を綺麗に残すことができる撮像装置および撮像方法を提供することを目的としている。
上記目的を達成するため第1の発明に係る撮像装置は、被写体像を撮像して画像データを生成する撮像部と、画像データを記憶する画像データ記憶部と、上記撮像部で生成された画像データと上記画像データ記憶部に記憶された画像データを画素毎に加算平均して、上記画像データ記憶部に記憶された画像データのうち該加算平均した画素データを更新する加算平均合成部と、上記撮像部で生成された画像データと上記画像データ記憶部に記憶されている画像データを画素毎に比較明合成して、上記画像データ記憶部に記憶された画像データのうち該比較明合成した画素データを更新する比較明合成部と、上記撮像部で生成された画像データを構成する各画素データのレベルが所定のスレッシュレベル以上か否かを判定する画素比較部と、上記画素比較部の判定結果に応じて、上記撮像部で生成された画像データを構成する各画素データに対して、上記加算平均合成部により加算平均を行うか又は上記比較明合成部により比較明合成を行うかを選択するための制御を行う選択制御部と、を備える。
第2の発明に係る撮像装置は、上記第1の発明において、上記選択制御部は、上記撮像部で生成された画像データを構成する各画素データのレベルが上記所定のスレッシュレベル以上と判定されたときは、上記撮像部で生成された画像データを構成する各画素データに対して上記比較明合成を行うように制御し、上記撮像部で生成された上記画像データを構成する各画素データのレベルが上記所定のスレッシュレベルより低いときは、上記撮像部で生成された画像データを構成する各画素データに対して上記加算平均を行うように制御する。
第3の発明に係る撮像装置は、上記第1の発明において、上記撮像部で生成された第1画像データとその直前に生成された第2画像データのそれぞれを構成する各画素データのうち、同じ画素位置の画素データの差分を比較する画素差分比較部を更に備え、上記選択制御部は、上記第1画像データを構成する各画素データのレベルが上記所定のスレッシュレベル以上であって、且つ上記画素差分比較部による比較の結果、上記同じ画素位置の画素データの差分値が所定値の絶対値以上のとき、上記撮像部で生成された画像データを構成する各画素データに対して上記比較明合成を行うように制御し、上記加算平均合成部により加算平均された上記画像データを構成する各画素データのレベルが上記所定のスレッシュレベル以上であって、且つ上記画素差分比較部の比較の結果、上記同じ画素位置の画素データの差分値の絶対値が所定値より小さいとき、上記撮像部で生成された画像データを構成する各画素データに対して上記加算平均合成を行うように制御する。
第4の発明に係る撮像装置は、上記第1ないし第3の発明において、上記撮像部を構成する撮像素子の撮像面にはカラーフィルタが配置されており、上記所定のスレッシュレベルを、該カラーフィルタの色毎に個別に設定する。
第5の発明に係る撮像装置は、上記第1ないし第3の発明において、上記撮像部は、波長毎に分光して複数の撮像素子が配置されており、上記所定のスレッシュレベルを、上記撮像部から読み出される色毎に個別に設定する。
第5の発明に係る撮像装置は、上記第1ないし第3の発明において、上記撮像部は、波長毎に分光して複数の撮像素子が配置されており、上記所定のスレッシュレベルを、上記撮像部から読み出される色毎に個別に設定する。
第6の発明に係る撮像装置は、上記第4または第5の発明において、上記撮像部で生成された画像データがRAW画像データである場合は、上記所定のスレッシュレベルを、上記撮像部から読み出される色毎の感度比に応じて個別に設定する。
第7の発明に係る撮像装置は、上記第4または第5の発明において、上記撮像部で生成された画像データがホワイトバランス処理された画像データである場合は、上記所定のスレッシュレベルを、上記ホワイトバランスに応じて撮像部から読み出される色毎に個別に設定する。
第7の発明に係る撮像装置は、上記第4または第5の発明において、上記撮像部で生成された画像データがホワイトバランス処理された画像データである場合は、上記所定のスレッシュレベルを、上記ホワイトバランスに応じて撮像部から読み出される色毎に個別に設定する。
第8の発明に係る撮像方法は、被写体像を撮像して画像データを生成する第1ステップと、画像データを記憶する第2ステップと、上記第1ステップにおいて生成された画像データと上記第2ステップにおいて記憶された画像データを画素毎に加算平均して、上記第2ステップにおいて記憶された画像データのうち該加算平均した画素データを更新する第3ステップと、上記第1ステップにおいて生成された画像データと上記第2ステップにおいて記憶された画像データを画素毎に比較明合成して、上記第2ステップにおいて記憶された画像データのうち該比較明合成した画像データを更新する第4ステップと、上記第1ステップにおいて生成された画像データを構成する各画素データのレベルが所定のスレッシュレベル以上か否かを判定する第5ステップと、上記第5ステップにおける判定結果に応じて、上記第1ステップにおいて生成された画像データを構成する各画素データに対して、上記第3ステップにおける加算平均を行うか又は上記第4ステップにおける比較明合成を選択するための制御を行う第6ステップと、を含む。
本発明によれば、複数の画像を明るさに応じ合成して合成画像を得る際に、よりランダムノイズを抑制して、光線の軌跡を綺麗に残すことができる撮像装置および撮像方法を提供することができる。
以下、本発明の第1実施形態としてデジタルカメラに適用した例について説明する。このカメラは、撮像部を有し、この撮像部によって被写体像を画像データに変換し、この変換された画像データに基づいて、被写体像を本体の背面に配置した表示部にライブビュー表示する。撮影者はライブビュー表示を観察することにより、構図やシャッタタイミングを決定する。レリーズ操作時には、画像データが記録媒体に記録される。記録媒体に記録された画像データは、再生モードを選択すると、表示部に再生表示することができる。
また、このカメラは、累積合成モード(例えば、ライブバルブ等の長時間露光モード)等のモードを選択すると、ユーザの露光開始の指示から露光終了の指示までの間、所定時間間隔で撮像部から画像データを読出し、この読み出した画像データを用いて、比較明合成または加算平均合成を行い、撮影終了指示がなされると、合成処理された画像データを外部メモリに記録する。被写体が星等の場合には、光跡等が記録された画像となる。
さらに、このカメラは、画素レベルのスレッシュを自動または手動で設定可能であり、画素毎にスレッシュより明るいか暗いかを判定し、この判定結果に基づいて、比較明合成を行うか、加算平均合成を行うかを選択する。この処理により、画像のノイズを低減させることが可能となる。
図1Aおよび図1Bは、第1実施形態に係るカメラの主として電気的構成を示すブロック図である。レンズ鏡筒部1内には、レンズユニット2、シャッタユニット3、撮像素子4、レンズ駆動モータ5、シャッタ駆動モータ6、モータ制御部7、ストロボ発光部8、ストロボ制御部9を有する。なお、レンズ鏡筒部1は、カメラ本体と一体に構成してもよく、またカメラ本体に着脱自在に構成してもよい。
レンズユニット2は、単焦点レンズまたはズームレンズを有し、撮像素子4上に被写体像を結像させる。レンズユニット2内のフォーカスレンズは、レンズ駆動モータ5によって、光軸方向に沿って移動可能である。シャッタユニット3は、レンズユニット2の光軸上に配置され、フォーカルプレーンシャッタ等のメカニカルシャッタである。このシャッタユニット3は、シャッタ駆動モータ6によって、開放および閉鎖される。シャッタユニット3が開放されると、レンズユニット2からの被写体光束が撮像素子4に集光され、シャッタユニット3が閉鎖されると被写体光束が遮光される。
モータ制御部7は、後述する測距・測光部17からの制御信号に基づいて、レンズ駆動モータ5とシャッタ駆動モータ6の駆動制御を行う。すなわち、測距・測光部17における測距結果に基づいて、レンズユニット2のフォーカスレンズが合焦状態となるように自動焦点調節を行う。また、測距・測光部17における測光結果に基づいて、適正露光となるように、シャッタユニット3によるシャッタ速度制御が行われる。なお、累積合成モードが設定されている場合には、ユーザの撮影開始指示に応じて、シャッタユニット3を開放状態とし、ユーザの撮影終了指示に応じて、シャッタユニット3を閉鎖する。また、図1Aには、絞りおよび絞り駆動モータを図示していないが、測距・測光部17からの制御信号に基づいて適正露光となるように絞り制御をするようにしてもよい。
撮像素子4は、例えばCMOSイメージセンサ等の固体撮像素子であり、複数の画素(ピクセル)が2次元状に配列され、光学像を撮像して画像データを生成する。すなわち、レンズユニット2によって結像された被写体の光学像を光電変換し、A/D変換して画像データを生成し、信号処理部13に出力する。
本実施形態においては、撮像素子4の撮像面にはカラーフィルタ、例えば、図2に示すようなRGBベイヤ配列カラーフィルタが配置された単板式CMOS撮像素子が用いられる。しかし、この単板式に限らず、図3に示すような3板式の撮像素子を用いる方式、複数板の撮像素子を用いる方式等、他の撮像方式を用いてもよい。すなわち、波長毎に分光して複数の撮像素子を配置するようにしてもよい。図3に示す例では、3つのプリズムを用いて、被写体光束を3色(RGB)に分解し、青色光(B)を撮像素子4aで受光して光電変換し、緑色光(G)を撮像素子4bで受光して光電変換し、赤色光(R)を撮像素子4cで受光して光電変換し、それぞれ画像データを生成して信号処理部13に出力する。
また、撮像素子4は、素子シャッタを有し、露光時間を電子的に制御することができる。素子シャッタを用いることで、複数の画像を連続して撮影する時の画像間の間隔をできるだけ小さくすることができる。また、撮影された画像に基づき合成処理を行うことにより、高速に移動する被写体の軌跡を、連続させて現像することができる。撮像素子4における露光開始タイミングや露光終了タイミングは、この素子シャッタを用いても良く、また前述のメシャッタユニット3と素子シャッタを組み合わせた構成であっても構わない。累積合成モードが設定されている場合には、ユーザの撮影開始指示から撮影終了指示までの間、所定時間毎の露光は、素子シャッタによって制御する。
レンズユニット2、シャッタユニット3、撮像素子4、および後述する信号処理部13をまとめて撮像部とする。この撮像部は、被写体像を撮像して画像データを生成する。
ストロボ発光部8は、キセノン管等の発光部を有し、被写体に対して補助光を照射する。ストロボ制御部9は、システム制御部11からの制御信号に応じて、補助光の発光タイミングや発光量を制御する。なお、ストロボ発光部8としては、キセノン管の他、LED等の他の発光素子等を用いてもよい。
制御プロセッサ10は、CPU(Central Processing Unit)や、DSP(Digital Signal Processor)等を有するASIC(Application Specific Integrated Circuit)で構成される。なお、後述するように、制御プロセッサ10は、種々の機能を有しており、1つの回路基板に限らず、複数の回路基板で構成するようにしても勿論かまわない。また、種々の機能(例えば、画素比較部、スレッシュ設定部等)は、ハードウエア回路に限らず、CPUがフラッシュメモリ83に記憶された制御プログラムによって実現されるものがあり、またDSPのプログラムによって実現されるものもある。
制御プロセッサ10内には、システム制御部11、信号処理部13、撮像制御部15、測距・測光部17、画素比較部19、スレッシュ設定部25、保存方式選択部31、選択制御部33、画像処理部35、表示制御部51、I/F制御部53、メモリカード制御部55、入力制御部57を有する。
撮像制御部15は、システム制御部11からの制御信号に基づいて、撮像素子4に対して、撮像制御を行う。撮像制御としては、露光開始、露光終了、各画素から画素データの読み出しを行う。
信号処理部13は、撮像素子4から出力された画像データに対して、信号増幅や相関二重サンプリングによるノイズ低減処理、A/D変換などの処理を行い、主としてハードウエア回路によって構成される。なお、信号処理部13は撮像素子4内部において同様の処理を行う構成としてもよい。信号処理部13によって処理された画像データは、画素比較部19およびシステム制御部11に出力される。
測距・測光部17は、システム制御部11からの制御信号に基づいて、レンズユニット2内のフォーカスレンズを合焦位置に駆動するための制御信号や、適正露光とするためのシャッタ速度等の露出制御信号を生成する。すなわち、システム制御部11は、信号処理部13からの画像データに基づいて、例えば、コントラスト法によって自動焦点調節のための制御信号を出力し、また画像データに基づいて被写体輝度値を算出し、この被写体輝度値に基づいて、シャッタ速度、ISO感度等、適正露光とするための露出制御値を演算し、制御信号を出力する。また、図1Aには、位相差センサおよび写体照度センサを図示していないが、位相差検出センサおよび被写体照度センサの出力結果から、システム制御部11で自動焦点調節のモータ制御量や露出制御値を演算し、測距・測光部17へ制御信号を出力するようにしても良い。
システム制御部11は、カメラ全体を統括的に制御するものであり、例えばCPUなどを含んで構成される。システム制御部11は、撮像制御部15を通して、図示しない撮像駆動回路を制御し、撮像素子4の制御を行う。システム制御部11は、累積合成モードが設定され、かつ撮影操作がなされると、一連の画像データ群を撮像素子に順次生成させるように制御する。
保存方式選択部31は、撮影により取得した画像データ(累積合成モードで処理された画像データを含む)を、メモリカード73に記録する際の保存方式を選択する。保存方式は、メニュー画面表示時にユーザが操作釦ユニット75を操作することにより、設定される。この設定された保存方式は、フラッシュメモリ83に記憶されるので、保存方式選択部31、フラッシュメモリ83に記憶された保存方式を読み出して使用する。
スレッシュ設定部25は、システム制御部11からの制御信号に基づいて、色毎の判定スレッシュレベルを設定する。画素スレッシュ設定部27は、画素毎に画素データの値に応じて、比較明合成を行うか加算平均合成を行うかを決定する際に使用する画素スレッシュを設定する(図4のS7、図9のS8参照)。差分スレッシュ設定部29は、第2実施形態においては使用され、合成画像の画素レベルと今回取得画像の画素レベルの差分に応じて、比較明合成を行うか加算平均合成を行うかを決定する際に使用する差分スレッシュを設定する(図9のS8参照)。また、画素スレッシュと差分スレッシュは、画像の保存方式選択の結果によっては、ホワイトバランス決定部47の出力結果も考慮して設定する(図5のS51、S57、S59、図10のS51、S57、S59、S60参照)。
画素比較部19は、画素レベル比較部21と画素差分比較部23を有する。画素レベル比較部21は、画素スレッシュ設定部27において設定された画素スレッシュと、撮像素子4から読み出された画素(ピクセル)データのレベルを比較し、その結果を選択制御部33に出力する。画素比較部19は、撮像部で生成された画像データを構成する各画素データのレベルが所定スレッシュレベル以上か否かを判定する画素比較部として機能する(図4のS19参照)。
選択制御部33は、画素比較部19の比較結果に基づいて、加算平均合成を行うか、比較明合成処理を行うかを選択し、画像合成部37に出力する(図4のS15、S17、S19、S21参照)。選択制御部33は、画素比較部の判定結果に応じて、撮像部で生成された画像データを構成する各画素データに対して、加算平均合成により加算平均を行うか又は比較明合成部により比較明合成を行うかを選択するための制御を行う選択制御部として機能する。
また、選択制御部33は、撮像部で生成された画像データを構成する各画素データのレベルが設定されたスレッシュレベル以上と判定されたときは、撮像部で生成された画像データを構成する各画素データに対して比較明合成を行うように制御し、撮像部で生成された画像データを構成する各画素データのレベルが所定のスレッシュレベルより低いときは、撮像部で生成された画像データを構成する各画素データに対して加算平均を行うように制御する選択制御部として機能する(図4のS15、S17、S19参照)。
画素差分比較部23は、後述する第2実施形態において使用され、合成画像の画素レベルと今回取得画像の画素レベルの差分と、差分スレッシュ設定部29において設定されたスレッシュを比較し、その結果を選択制御部33に出力する。選択制御部33は、画素比較部19の比較結果に基づいて、加算平均合成を行うか、比較明合成処理を行うかを選択し、画像合成部37に出力する(図9のS16、S17、S19、S21参照)。
画像処理部35は、複数の画像データを合成するための画像合成部37と、撮像素子4からのRAWデータに対して現像処理等の画像処理を施す現像処理部45を有する。
画像合成部37は、加算平均合成処理を行う加算平均合成部39、比較明合成処理を行う比較明合成部41、および加算合成処理を行う加算合成部43を有する。なお、本実施形態においては、これらの3つの合成部を備えているが、これに限らず、加算平均合成部39と比較明合成部41、あるいは加算平均合成部39と加算合成部43など2つの組合せでも構わない。
加算平均合成部39は、2つの画像データのそれぞれ対応する画素毎に画素データを加算し2で除算し、この演算結果(加算平均値)に画素データを置き換える合成処理を行う。この加算平均合成部39は、撮像部で生成された画像データと画像データ記憶部(例えば、DRAM85参照)に記憶された画像データを画素毎に加算平均して、画像データ記憶部に記憶された画像データのうち加算平均した画素データを更新する加算平均合成部として機能する。
比較明合成処理部41は、2つの画像データのそれぞれ対応する画素毎に画素データを比較し、明るい方の画素データに置き換える合成処理を行う。比較明合成処理部41は、撮像部で生成された画像データと画像データ記憶部に記憶されている画像データを画素毎に比較明合成して、画像データ記憶部に記憶された画像データのうち比較明合成した画素データを更新する比較明合成部として機能する。加算合成部43は、2つの画像データのそれぞれ対応する画素毎に画素データを加算し、この演算結果(加算値)に画素データを置き換える合成処理を行う。
画像合成部37は、選択制御部33からの指示に基づいて、加算平均合成か、比較明合成または加算合成を実行する。画像合成部37は、撮像部から合成対象の画像データが生成される毎に(例えば、図4のS13において、2枚目以降の画像の読み出しが行われる毎に)、選択制御部33の指示に応じた合成処理を繰り返し行う。
現像処理部45は、ホワイトバランス決定部47および変換処理部49を有し、システム制御部11からの指示に従い、設定された情報をもとに画像合成部37で合成された画像データに対して現像処理を施す。変換処理部49では、詳細は図示しないがシェーディング補正、ガンマ補正、歪み補正、欠陥補正などの各種補正処理やデモザイキング処理などの処理を行う。
また、ホワイトバランス決定部47は、画像データに対して公知のホワイトバランス処理を施す。ホワイトバランス処理は、G画素のレベルを基準に、白が白で表示されるように、R画素およびB画素の画素データに対して、所定の比率で乗算演算を行う。このホワイトバランス(所定の比率)は、スレッシュ設定部25に出力され、保存形式が現像データの場合に、色毎の画素スレッシュ値の算出の際に使用される。
現像処理部45による現像処理後の画像データを保存するか、撮像部からのRAWデータを記録するかは、保存方式選択部31における選択結果によって決定される。この決定に従い、システム制御部11の指示によりフラッシュメモリ83や外部メモリ(メモリカード73)などの記憶装置に保存される。なお、現像処理後のデータとRAWデータの両方を保存することも可能である。
表示制御部51は、現像処理部45における現像処理後の画像データや、カメラの各種設定情報などを外部モニタ65などや背面LCD(液晶ディスプレイ:Liquid Crystal Display)、モニタ61、EVF(電子ビューファインダ:Electronic View Finder)などに表示するための制御を行う。外部モニタ65には、映像用コネクタ63を介して接続する。図示しないが、カメラにWiFi(Wireless Fidelity)などの無線インターフェースが搭載されている場合は、無線インターフェースを通してユーザのスマートフォンやノートPC(Personal Computer)に表示しても良い。
I/F(Interface)制御部53は、カメラに接続する外部機器のインターフェースを制御する。接続される外部機器によって、USBインターフェースや、WiFi、Bluetooth(登録商標)などの各種規格があり、I/F制御部53は、これらの規格に対応して外部機器と接続可能にする。
メモリカード制御部55は、外部メモリコネクタ71を介して、メモリカード73に画像データ等のデータの記録・読出制御を行う。画像データは、前述したように、現像処理後の画像データまたはRAWデータが記録される。
操作釦ユニット75は、ユーザがカメラの各種設定を行い、また実際に撮影をするための物理的な押し釦や回転ダイヤルなどを有する。操作釦ユニット75における操作状態は、入力制御部57を介してシステム制御部11に入力される。図示しないが、カメラにWiFiなどの無線インターフェースが搭載されている場合は、無線インターフェースを通してユーザのスマートフォンやノートPCなどから遠隔で操作するようにしてもよい。
DRAM(Dynamic Random Access Memory)85は、電気的に書き換え可能な揮発性メモリであり、種々のデータを一時的に格納する。DRAM85は画像データ記憶部として、画像データを一時的に格納し、合成画像保存領域85aや単一フレーム画像保存領域85bを有する。なお、単一フレーム画像保存領域85bは単一フレームに限らず、数フレーム分の保存領域を持つようにしてもよい。また、画像データを一時的に保存できればDRAMでなくてもよく、その他のメモリや、複数種のメモリの組合せを使用するなども良い。さらに、図示しないが、他の画像処理に使用される条件やカメラの条件などに使用する領域も含んでいる。
フラッシュメモリ83は、電気的に書き換え可能な不揮発性メモリであり、感度比記憶部83a、制御プログラム83b等の領域を有する。フラッシュメモリ83は、システム制御部11からの要求に応じて記憶されたデータやプログラムを読み出し出力する。フラッシュメモリ83には、図示しないがカメラの初期状態、ユーザ設定、保存方式選択結果などが記憶されていてもよい。
バス81は、システム制御部11、フラッシュメモリ83、DRAM83等と接続し、データや制御信号等の通信経路である。画像データ等のデータや、システム制御部11からの制御信号(指示)は、バス81を介して通信される。
次に、図4および図5に示すフローチャートを用いて、本実施形態における動作について説明する。これらのフローチャート(後述する図9、図10も含む)は、制御部11内のCPUがフラッシュメモリ83内の制御プログラム83bに従って、カメラ内の各部を制御することにより実行する。
カメラが、夜景撮影モードなどの累積合成モードに設定されている状態において、レリーズ釦が押下されると、図4、図5のフローチャートに示される画像合成処理が開始される。まず、DRAMの初期化を行う(S1)。ここでは、DRAM85等のメモリ部を初期化し、合成画像保存領域85aと、単一フレーム画像保存領域85bを確保する。
次に、1枚目の露光を実施し、撮像素子4から撮影画像データを読み出す(S3)。この1枚目の露光における撮影条件がオートモードの時はカメラのプログラム線図に則って撮影され、マニュアルモードの時はユーザに指定された撮影条件で撮影される。
1枚目露光・読出しを行うと、次に、基準画像データを合成画像保存領域へ保存する(S5)。撮像素子4から読み出された1枚目の画像データ(以降、基準画像データという)はシステム制御部11を介してDRAM85の合成画像保存領域85aへ一時記憶される。
基準画像を合成画像保存領域に保存すると、次に、画素スレッシュ設定を行う(S7)。本実施形態においては、画素毎に画素データと画素スレッシュを比較し、この比較結果に基づいて比較明合成を行うか加算平均合成を行うかを選択している。このステップにおいては、この画素スレッシュの設定を行う。また、画素スレッシュの設定にあたっては、RGBの色毎に異なる値を設定するようにしている。画素スレッシュの設定の詳しい動作については、図5を用いて、後述する。
画素スレッシュを設定すると、次に、基準画像データ取得後一定時間以上経過しかた否かを判定する(S9)。前述したように、基準画像データを取得してから、ステップS7において、画素スレッシュを設定する。この設定は手動で行うことが可能であり、ユーザが設定に時間がかかり、相当の時間が経過してしまうことがある。この場合に、そのまま2枚目移行の撮影を開始してしまうと、ステップS3で露光した画像と異なる画像を撮像している場合がある。そこで、このステップでは、一定時間が経過したかを判定し、経過した場合には、ステップS11において基準画像データを再取得するようにしている。
ステップS9における判定の結果、基準画像データ取得後、一定時間以上経過した場合には、基準画像データを再取得する(S11)。ここでは、再度、撮像素子4から画像データを取得し、合成画像保存領域に保存する。
ステップS11において、基準画像データを再取得すると、またはステップS9における判定の結果、基準画像データ取得後一定以上の時間が経過していない場合には、次に、2枚目以降の画像を露光し、読み出す(S13)。このステップでは、2枚目以降の単一フレーム画像の撮影画像を撮像素子4から読み出す。すなわち、撮像素子4の素子シャッタを用いて、所定の露光時間で露光を行うと、撮像素子4から画像データを読み出す。この読み出された2枚目以降の単一フレーム画像データは、単一フレーム画像保存領域85bへ一時保存される。また、画像データを読み出すと、撮像素子4は次の露光を開始する。
2枚目以降の画像を露光・読出すと、次に、画素レベル判定を行う(S15)。すなわち、所定時間の露光を行うたびに、読み出された画像データ(単一フレーム画像保存領域85bに一時保存されている)の各画素データと画素スレッシュとを比較し、画素データが画素スレッシュよりも大きいか小さいかを判定する。この画素スレッシュはステップS7(詳しくは、図5のS61参照)において決定された値を使用する。画素スレッシュ値を超えたか否かの画素スレッシュ比較結果フラグを設定し、選択制御部33へ伝達する。
ステップS15における判定の結果、画素レベルが画素スレッシュ以下であった場合には、合成画像データと現フレーム画像データを加算平均合成する(S17)。この場合は、画素スレッシュ比較結果フラグが画素スレッシュ値を超えていないと設定された時であり、選択制御部33は、画像合成部37のうちの加算平均合成部39を選択し、合成画像の同一アドレスの画素データと加算平均合成処理を行う。
一方、ステップS15における判定の結果、画素レベルが画素スレッシュ以上であった場合には、合成画像データと現フレーム画像データを比較明合成する(S19)。この場合は、画素スレッシュ比較結果フラグが画素スレッシュ値を超えたと設定された時であり、選択制御部33は、画像合成部37のうちの比較明合成部41を選択し、合成画像の同一アドレスの画素データを比較し、明るい方の画素データを選択する。
ステップS17において加算平均合成を行うと、またはステップS19において比較明合成を行うと、次に、合成画像保存領域画素データを置換する(S21)。このステップでは、合成画像保存領域85aに一時保存されている画像データについて、ステップS15において判定された画素を、ステップS17またはS19における合成処理の結果に基づく画素データに置き換える。
合成画像保存領域画素データの置換を行うと、次に、全画素の判定が終了したか否かを判定する(S23)。ここでは、ステップS13において読出した画像データの全画素について、ステップS15における画素判定が終了したか否かを判定する。この判定の結果、全画素の判定が終了していなければ、ステップS15に戻り、予め決められた順番に従って、次の画素について画素レベル判定を行い、画像合成を行い、合成画像保存領域の画素データの置き換えを行う。
ステップS23における判定の結果、全画素の判定が終了した場合には、撮影終了指示が有ったか否かの判定を行う(S25)。ユーザが撮影を終了する場合には、レリーズ釦を再度、押し下げる等、撮影終了指示を行うので、このステップでは、操作釦ユニット75の操作状態に基づいて判定する。なお、図示していないが、全画素の判定が終了した時点で、背面LCDモニタ61等の表示部に表示する合成画像の更新を行ってもよい。
ステップS25における判定の結果、撮影終了指示がない場合には、ステップS13に戻る。そして、次の画像の露光終了を待ち、露光が終了すると、前述したようにステップS15以下において、合成画像データの生成を行う。撮影終了指示があるまでは、所定時間間隔で露光・画像データ読み出しを繰り返し、画像データが読み出される毎に、画素レベル判定を行い、判定結果に応じて、画素毎に加算平均合成か比較明合成を選択して合成画像データを生成する。
ステップS25における判定の結果、撮影終了指示がなされると、次に、画像データ保存形式判定を行う(S27)。ここでは、保存方式選択部31に設定されている保存方式(現像処理された画像データを保存するか、RAWデータを保存するか)に基づいて判定する。
ステップS27における判定の結果、RAWデータを保存する場合には、合成画像データを外部記憶装置へ保存する(S29)。ここでは、撮像素子4から読み出され、ステップS15〜S23において生成された合成画像データ(RAWデータのままで合成されている)をメモリカード73等の外部記憶装置に記録する。
一方、ステップS27における判定の結果、現像データを保存する場合には、合成画像データを現像処理する(S31)。ここでは、撮像素子4から読み出され、ステップS15〜S23において生成された合成画像データ(RAWデータのままで合成されている)に対して、現像処理部45において現像処理を施す。
続いて、現像処理した画像データを外部記憶装置へ保存する(S33)。ここでは、ステップS31において現像処理された画像データを、メモリカード73等の外部記憶装置に記録する。
ステップS29またはS33において画像データを外部記憶装置へ保存すると、撮影動作のフローを終了する。
次に、図5に示すフローチャートを用いて、ステップS7の画素スレッシュ設定の詳しい動作について説明する。このフローでは、基準画像が撮影された状態(図4のS3参照)で、画素スレッシュ設定部27においてスレッシュ値の設定を行う。
画素スレッシュ設定のフローに入ると、まず、1枚目(基準画像)の撮影条件の確認を行う(S41)。ここでは、画素スレッシュ設定部27は、基準画像の撮影条件、例えばISO感度やAE評価値、画像の平均輝度などを確認する。
続いて、スレッシュ設定が自動か手動かを判定する(S43)。ユーザは、メニュー画面表示時に操作釦ユニット75を操作することにより、スレッシュ設定を自動で行うか、手動で行うかを設定できる。このステップでは、この設定状態に基づいて判定する。
ステップS43における判定の結果、自動が設定されている場合には、基準(G)画素のスレッシュ値を算出する(S45)。ここでは、基準画像の撮影条件をもとに、スレッシュ値を設定する。なお、RGB画素のうち、ここでは、G画素の値を用いてスレッシュ値を算出し、他の画素については、ステップS55において算出する。
一方、ステップS43における判定の結果、手動が設定されている場合には、1枚目(基準画像)を表示する(S47)。ここでは、基準画像データを現像処理し、ユーザが視認できるように、表示制御部51が背面LCD61等に表示させる。
続いて、基準(G)画素スレッシュ値をユーザが選択する(S49)。すなわち、画像の任意の位置をユーザが指定することで、指定位置の画素レベルから基準スレッシュ値を設定することができる。
図6を用いて、ユーザによる画素スレッシュ値設定のための操作について説明する。図6は、カメラの背面側から見た図であり、カメラの上部にはレリーズ釦75a、ズーム釦75b、上下左右釦75c、決定釦75dが配置されている。
累積画像モードが設定されている場合に、基準画像の撮影が終わると(ステップS3参照)、背面LCDモニタ61には、基準画像にアドバイス画像92(ここでは、「画素スレッシュレベルを決めてください」)が重畳して表示される。また、ユーザが画素スレッシュを指定するためのポインタ91も基準画像に重畳して表示される。このポインタ91は、上下左右釦75cを操作することにより、その位置を上下左右に移動させることができる。
画素スレッシュ値より明るい被写体は比較明合成により画像に残り、一方、画素スレッシュ値より暗い被写体は加算平均合成により次第に薄くなる。そこで、ユーザは、光跡として残したい被写体の中で一番暗い被写体に、ポインタ91を合せ、決定釦75dを操作することにより、画素スレッシュを設定することができる。例えば、ポインタ91を被写体93cに合せると、比較的明るい被写体のみの光跡のみとなり、被写体93bに合せると中位以上の明るさの被写体の光跡となり、被写体93aに合せると比較的暗い被写体も含めた光跡を撮影することができる。なお、ここで選択される画素スレッシュ値は、G画素に対する画素スレッシュ値である。R画素およびB画素については、ステップS55、S59において算出される。
なお、手動での設定は、上下左右釦75cの操作によって行うことに限られない。例えば、図7に示すように、タッチ操作によって設定するようにしてもよい。この場合には、背面LCDモニタ61にタッチパネルを設けておく。図7に示す例では、ユーザは、基準画像の撮影後に、基準画像を見ながら、基準としたい明るさの被写体を指95でタッチするだけで、画素スレッシュ値が設定される。
図5に示すフローチャートに戻り、ステップS45においてG画素スレッシュ値を算出すると、またはステップS49においてG画素スレッシュ値を選択すると、次に、ステップS51以下において、色毎の画素スレッシュ値の算出を行う。ステップS51以下のステップでの処理を説明する前に、色毎に画素スレッシュ値を算出することについて説明する。
画像合成処理方法を選択するための画素スレッシュ値を、全色で同じ値にしてしまうと、撮像素子4の感度が色毎に異なるため、感度の高い色(例えばG)はスレッシュを超え易いのに対し、感度の低い色(例えばRやB)はスレッシュを超える頻度が少なくなり易い。例えば、同じ明るさの被写体光が、RGBベイヤ配列の撮像素子上を通過した時、被写体光のうちのGではスレッシュを超えるが、RとBではスレッシュを超えないという現象が発生することがある。この場合に、現像処理を行うと被写体の軌跡に色付きが発生する。
また、撮影した被写体に応じてホワイトバランスを決定するため、現像処理時にかかるゲインが色毎に異なり、現像後の画像が色付いてしまうという現象も発生する。そのため、画素スレッシュ設定部27にて、色毎にスレッシュ値を最適化する処理を行う。例えば、保存方式でRAWデータが選択されていた場合には、フラッシュメモリ83の感度比記憶部83aに格納されている撮像素子4の感度比応じて色毎のスレッシュ値を決定する。
保存方式が現像画像のみを選択している場合は、処理の簡素化の観点から、基準画像データで決定されたホワイトバランスゲイン値をもとに、色毎の画素スレッシュ値を決定する。一方、保存方式がRAW画像と現像画像の両方が選択されている場合は、RAW画像でスレッシュ値を設定しておき、後で現像しても良い。また、これに限らず、例えばRAW保存用合成画像保存領域と現像保存用合成画像保存領域を設け、撮像素子4からの読出し画像データに対して、画素スレッシュ値を2種類設定することで、RAW保存用合成画像と、現像保存用合成画像を両方作成することも構わない。
図8に、一例として、撮像素子4をシリコンベースで作成し、RGBベイヤ方式のカラーフィルタを採用したときの色毎の感度差を示す。一般的にはG画素に比べR画素とB画素の感度は低い。そのため、基準スレッシュ値としてはG画素の値を設定し、感度が低いR画素とB画素の色毎のスレッシュ値の設定は、G画素がスレッシュを超えたと判断する光量を受光したときに、R画素やB画素もスレッシュを超えたと判断されるように算出される。
なお、フラッシュメモリ83の感度比記憶部83aには標準的な感度比のみが記憶されており、ここで設定される色毎のスレッシュ値は、基準画像の撮影条件(例えばISO感度など)に応じて自動的に再計算するような方式も考えられる。画素スレッシュ設定部27は、最終的に算出した色毎のスレッシュ値を画素比較部19へ伝達する。
色毎スレッシュが設定された後、基準画像データの再取得を実施するようにしてもよい(図4のS9、S11参照)。これは、特に画素スレッシュ値を手動設定した場合、ユーザが設定するのにどのくらい時間がかかったかによっては、累積合成する単一フレーム画像データの連続性が、基準画像データのみ時間的に著しく離れることがあるためである。従って、画素スレッシュ値を自動モードで設定し、かつ基準画像データと単一フレームデータの時間的な連続性が確保される条件であれば、基準画像データの再取得は実施しなくても良い。
図5のステップS51に戻り、このステップで画像データ保存形式の判定を行う(S51)。ここでは、ステップS27と同様に、保存方式選択部31に設定されている保存方式(現像処理された画像データを保存するか、RAWデータを保存するか)に基づいて判定する。
ステップS51における判定の結果、画像データ保存形式がRAWデータの場合には、撮像素子4の感度比を読み出す(S53)。ここでは、フラッシュメモリ83の感度比記憶部83aに記憶されている、撮像素子4のRGBの感度比を読み出す。
続いて、色毎の画素スレッシュ値を算出する(S55)。ここでは、ステップS45において算出されたG画素に対するスレッシュ値、またはステップS49で選択されたG画素に対するスレッシュ値に対して、ステップS53で読み出したRGBの感度比を用いて、R画素およびB画素の画素スレッシュ値を算出する。
一方、ステップS51における判定の結果、画像データ保存形式が現像データの場合には、1枚目(基準画像)からホワイトバランスを決定する(S57)。ここでは、ホワイトバランス決定部47が、基準画像データに対するホワイトバランスを決定する。
続いて、色毎の画素スレッシュ値を算出する(S59)。ここでは、ステップS45において算出されたG画素に対するスレッシュ値、またはステップS49で選択されたG画素に対するスレッシュ値に対して、ステップS57において取得したホワイトバランスを用いて、R画素およびB画素の画素スレッシュ値を算出する。
ステップS55またはS59において色毎の画素スレッシュ値を算出すると、次に、画素スレッシュ値を設定する(S61)。ここでは、画素スレッシュ設定部27が各RGB画素に対する画素スレッシュ値を決定し、記憶する。この記憶された画素スレッシュ値は、画素レベル比較部21における比較の際に使用される(図4のS15参照)。画素スレッシュ値の設定を行うと、元のフローに戻る。
このように、本発明の第1実施形態においては、撮像部で生成された画像データを構成する各画素データのレベルが所定のスレッシュレベル以上か否かを判定する画素レベル比較部21を有し、選択制御部33が、画素レベル比較部21の判定結果に応じて、撮像部で生成された画像データを構成する各画素データに対して、加算平均合成部39により加算平均を行うか又は比較明合成部41により比較明合成を行うかを選択するための制御を行っている。
画素スレッシュで設定された明るさを超えるか超えないかに応じて、加算平均と比較明合成を選択的に適用するようにしているので、ランダムノイズを抑制して、光線の軌跡を綺麗に残すことができる。
特に、設定された画素スレッシュを超えない暗い画素に対して、加算平均合成処理を施しているので、合成を繰り返すたびに背景に埋もれて目立たなくなる。また画素スレッシュを超えた明るい画素に対して、比較明合成処理を施しているので、光跡を写し込むことができる。
また、本実施形態においては、撮像素子の撮像面にはカラーフィルタが配置されており、スレッシュレベルを、カラーフィルタの色毎に個別に設定するようにしている。このため、累積合成処理した場合に、合成画像に色付きが発生することを防止することができる。なお、図3に示すように、波長毎に分光して複数の撮像素子が配置する場合には、スレッシュレベルを、撮像部から読み出される色毎に個別に設定すればよい。
また、本実施形態においては、撮像部で生成された画像データがRAW画像データである場合は、スレッシュレベルを、撮像部から読み出される色毎の感度比に応じて個別に設定している(図5のS51、S53、S55参照)。このため、保存形式がRAW画像データであっても、累積合成処理した場合に、合成画像に色付きが発生することを防止することができる。
また、本実施形態においては、撮像部で生成された画像データがホワイトバランス処理された画像データである場合は、スレッシュレベルを、ホワイトバランスに応じて撮像部から読み出される色毎に個別に設定している(図5のS51、S57、S59参照)。このため、保存形式が現像データであっても、累積合成処理した場合に、合成画像に色付きが発生することを防止することができる。
次に、図9および図10を用いて、本発明の第2実施形態について説明する。第1実施形態においては、暗部のランダムノイズの抑制を目的に合成処理を実施した。これに対して、第2実施形態においては、画素スレッシュ設定部にて設定されたレベルよりも明るい画素においても、一定の範囲のゆらぎはランダムノイズと判断し加算平均処理を実施するようにしている。これにより、明部においてもランダムノイズが少ない合成画像を提供する事が可能となる。
第2実施形態に係る電気的な構成は、図1Aおよび図1Bと同様であることから、詳しい説明は省略する。また、本実施形態における動作は、第1実施形態に係る図4および図5に示すフローチャートを図9および図10に示すフローチャートに置き換えればよい。
なお、第2実施形態においては、画素差分比較部23は、撮像部で生成された第1画像データとその直前に生成された第2画像データのそれぞれを構成する各画素データのうち、同じ画素位置の画素データの差分を比較する画素差分比較部として機能する。
また、選択制御部33は、第1画像データを構成する各画素データのレベルが所定のスレッシュレベル以上であって、且つ画素差分比較部23による比較の結果、同じ画素位置の画素データの差分値が所定値の絶対値以上のとき、撮像部で生成された画像データを構成する各画素データに対して比較明合成を行うように制御し(図9のS15、S17参照)、加算平均合成部により加算平均された画像データを構成する各画素データのレベルが所定のスレッシュレベル以上であって、且つ画素差分比較部23の比較の結果、同じ画素位置の画素データの差分値の絶対値が所定値より小さいとき、撮像部で生成された画像データを構成する各画素データに対して加算平均合成を行うように制御する(図9のS15、S16、S19参照)選択制御部として機能する。
図9に示すフローチャートは、図4に示したフローチャートと比較し、ステップS7の画像スレッシュ設定をステップS8の画像スレッシュ設定に置き換え、またステップS16を追加している以外は、図4に示したフローチャートと同じである。そこで、相違点を中心に説明し、同一の処理については同一のステップ番号を付して説明を簡略化する。
累積画像合成モードが設定されている状態で、撮影が開始すると、第1実施形態と同様に、DRAMの初期化(S1)、1枚目(基準画像)の露光・読出し(S3)、基準画像データを合成画像保存領域へ保存する(S5)。
基準画像データの保存を行うと、次に、画素スレッシュ設定を行う(S8)。画素スレッシュ設定は、第1実施形態においては、読み出された画像の画素レベルが画素スレッシュを超えるか否かを判定(画素レベル判定)していた。第2実施形態においては、画素レベル判定に加えて、差分レベル判定を行うので、この差分レベル判定用のスレッシュも設定する。画素スレッシュ設定の詳しい動作については、図10を用いて後述する。
画素スレッシュ設定を行うと、第1実施形態と同様に、ステップS9、S11、S13における処理を実行する。ステップS13において、2枚目以降の画像を露光・読出しを行うと、次に、画素レベル判定を行う(S15)。この判定結果は、画素スレッシュ比較結果フラグとして、選択制御部33に伝達される。
ステップS15における判定の結果、画素レベルが画素スレッシュ以上の場合には、差分レベル判定を行う(S16)。ステップS16における差分レベル判定では、直前フレームまでに累積合成された合成画像データと、今回読み出された画像データの2つの画像データの対応する画素データ(同一アドレスの画素データ)の差分値が、差分スレッシュを超えるか否かを判定する。この判定のために、差分スレッシュ設定部29に差分レベル判定用の差分スレッシュが設定される。また、画素差分比較部23が、合成画像保存領域85aに記憶された合成画像と撮像素子4からの今回の読み出し画像データの画素毎の差分値と、差分スレッシュとを比較することにより、差分レベル判定を行う。ステップS16における差分レベル判定結果は、差分スレッシュ比較結果フラグとして、選択制御部33に伝達される。
ステップS16における差分レベル判定の結果、差分スレッシュ以上と判定された場合には、合成画像データと現フレーム画像データを比較明合成し(S19)、一方、ステップS16における判定の結果、差分スレッシュ以下と判定された場合、またステップS15における判定の結果、画素スレッシュ以下と判定された場合には、合成画像データと現フレーム画像データを加算平均合成する(S17)。
すなわち、選択制御部33では、伝達された画素スレッシュ比較結果フラグと、差分スレッシュ比較結果フラグをもとに、画像合成部37で行う合成方法を選択する。画素スレッシュ比較結果フラグが画素スレッシュ値を超えていないと設定された時は(S15において画素スレッシュ以下)、合成画像データの同一アドレスの画素データと加算平均合成処理をするように画像合成部37の内の加算平均合成処理部39を選択する。
また、選択制御部33では、画素スレッシュ値を超えたと設定された時は(S15において画素スレッシュ以上)、差分スレッシュ比較結果フラグをチェックし、差分スレッシュ比較結果フラグが差分スレッシュを超えていないと判定された時は(S16において差分スレッシュ以下)、加算平均合成をするように画像合成部37の内の加算平均合成処理部39を選択し、一方、差分スレッシュを超えると判定された時は(S16において差分スレッシュ以上)、比較明合成処理をするように合成画像部37の内の比較明合成処理部41を選択する。画像合成部37では、選択制御部33によって選択された合成方法に則って合成処理を実施する。
ステップS17またはS19において合成処理を選択すると、第1実施形態と同様の処理が実行される。以下の処理は第1実施形態と同様であることから詳しい説明は省略する。
次に、図10に示すフローチャートを用いて、ステップ8の画素スレッシュ設定の詳しい動作について説明する。図10に示すフローチャートは、図5に示すフローチャートと比較し、ステップS46、S50、S56、S60、S62を追加しただけであるので、この相違点を中心に説明する。
画素スレッシュ設定のフローに入ると、まず、1枚目(基準画像)の撮影条件を確認し(S41)、スレッシュ設定が自動か手動かを判定する(S43)。この判定の結果、スレッシュ設定が自動であった場合には、基準(G)画素のスレッシュ値を算出し(S45)、基準(G)差分スレッシュ値を算出する(S46)。
ステップS46における差分スレッシュ値は、スレッシュ設定部25内の差分スレッシュ設定部29で算出される。この差分スレッシュ値も、画素スレッシュ値の場合と同様に、基準画像の撮影条件をもとに設定すればよい。
また、ステップS43における判定の結果、スレッシュ設定が手動であった場合には、基準(G)画素のスレッシュ値をユーザが選択し(S49)、基準(G)差分スレッシュ値をユーザが選択する(S50)。手動の場合の差分スレッシュ値は、ユーザが図6、図7で示すような基準画像の中から2か所の被写体を選択し、この選択された2つの位置のG画素の差分データに基づいて設定する。
ステップS46またはS50において差分スレッシュ値を算出または選択すると、ステップS51以下において、色毎の画素スレッシュ値と差分スレッシュの算出を行う。差分スレッシュ値も、画素スレッシュ値と同様に色毎にスレッシュ値を変えないと、現像後の画像が色づく。
そこで、フラッシュメモリ83上に各色の差分スレッシュ値を記憶させておいても良く、また基準差分スレッシュ値のみ記憶させておき、色毎差分スレッシュ値は、画素スレッシュ値の時と同様に撮像素子の感度比や現像時のホワイトバランスゲインを考慮して算出しても良い。
ステップS51における判定の結果、画像データ保存形式がRAWデータの場合には、撮像素子感度比を読出し(S53)、色毎画素スレッシュ値を算出し(S55)、色毎差分スレッシュ値を算出する(S56)。一方、画像データ保存形式が現像データの場合には、1枚目(基準画像)からホワイトバランスを決定し(S57)、色毎画素スレッシュ値を算出し(S59)、色毎差分スレッシュ値を算出する(S60)。
ステップS56、S60において色毎差分スレッシュ値を算出すると、画素スレッシュ値を設定し(S61)、差分スレッシュ値を設定する(S62)。ここで、差分スレッシュ設定部29は、差分スレッシュ値を、G画素についてステップS46、S50において設定し、R画素およびB画素についてステップS56、S60において設定するので、これで全差分スレッシュが設定される。差分スレッシュ値が設定されると、元のフローに戻る。
このように、本発明の第2実施形態においては、画素スレッシュ値に加えて、差分スレッシュ値も設定しておき、これらのスレッシュ値と画素データ(差分値も含めて)を比較することにより、比較明合成と加算平均合成のいずれかを選択している。第1実施形態においては、合成画像データと今回取得画像データについて、各画素データの差が僅かであっても、比較明合成され、ノイズが目立ってしまう場合があった。しかし、第2実施形態においては、差分スレッシュ判定を行うことにより、各画素の差が僅かな場合には、加算平均合成が行われるので、ノイズが目立たなくなる。
次に、図11及び図12を用いて、第1及び第2実施形態において生成される合成画像について説明する。図11の上段(a)の画像P11、P12、P13は、時刻毎に単露光で撮影された画像であり、合成される前の画像である。図11の中段(b)は、上段(a)に示す画像P11、P12、P13を、比較明合成によって合成した画像である。図11の下段(c)は、画像P11、P12、P13を、加算平均合成によって合成した画像である。
図12の上段(a)は、画像P11、P12、P13を、第1実施形態に示す画素スレッシュを用いて合成した画像である。図12の中段(b)は、画像P11、P12、P13を、第2実施形態に示す画素スレッシュ及び差分スレッシュを用いて合成した画像である。図12の下段(c)は、画像中のノイズレベルとスレッシュを示す図である。
まず、図12の下段(c)を用いて、画像中のノイズレベルについて説明する。画像P6は、1枚目に撮影された画像P11と同じである。画素位置100は、家の壁にあり、ここの明るさを画素スレッシュレベルとして設定している。画素位置96には、画素スレッシュよりもレベルの低いランダムノイズが発生している。このランダムノイズは、加算平均合成を繰り返していくうちに合成画像から消失する。画素位置97には、画素スレッシュよりもレベルが高く、上差分スレッシュよりもレベルの高いランダムノイズが発生している。このレベルのノイズは、比較明合成の対象となり、合成画像に残る。
画素位置98には、画素スレッシュよりもレベルが高く、かつ上差分スレッシュよりもレベルの低いランダムノイズが発生している。このレベルのノイズは、第1実施形態においては比較明合成の対象となり、第2実施形態においては加算平均合成の対象となる。画素位置99には、1枚目に撮影された画像P11では、画素スレッシュよりもレベルの低いランダムノイズが発生しているが、2枚目に撮影された画像P12では、画素スレッシュよりもレベルが高く、下差分スレッシュよりもレベルの高いランダムノイズが発生している。このレベルのノイズは、第1実施形態においては比較明合成の対象となり、第2実施形態においては加算平均合成の対象となる。
図11の中段(b)は、前述したように、比較明合成を行った場合の合成画像の時間的変化を示す。画像P21は画像P11と同じであり、画像P22は画像P11と画像P12を比較明合成した画像であり、画像P23は画像P22と画像P13を比較明合成した画像である。画像P23中の符号A付近の合成画像から分かるように、比較明合成を行うことにより、光線の軌跡は残るが、ランダムノイズも残っている。
図11の下段(c)は、前述したように、加算平均合成を行った場合の合成画像の時間的変化を示す。画像P31は、画像P11と同じであり、画像P32は画像P11と画像P12を加算平均合成した画像であり、画像P33は画像P32と画像P13を加算平均合成した画像である。画像P33中の符号B付近の合成画像から分かるように、加算平均合成を行うことによって、ランダムノイズは薄くなるが、光線の軌跡も次第に薄くなっていく。
図12の上段(a)は、前述したように、本発明の第1実施形態を適用した場合の合成画像の時間的変化を示す。上段(a)の左側に画素スレッシュの輝度を示す。この例では、画素レベル毎に、画素データと画素スレッシュを比較し、加算平均合成か比較明合成のいずれかを選択し処理を実行する。画像P43中の符号C、D付近の合成画像から分かるように、一定輝度以上のランダムノイズは、比較明合成のために消失せずに残る(下段(c)の画素位置97、98、99参照)。
図12の中段(b)は、前述したように、本発明の第2実施形態を適用した場合の合成画像の時間的変化を示す。中段(b)の左側に画素スレッシュの輝度、上差分スレッシュの輝度、下差分スレッシュの輝度を示す。この例では、画素レベル毎に、画素スレッシュと差分スレッシュを比較し、加算平均合成か比較明合成のいずれかを選択し処理を実行する。一定輝度以上のランダムノイズであっても、差分スレッシュよりも小さい場合には、加算平均合成が行われるために、多くのランダムノイズが消失する(下段(c)の画素位置97、98、99参照)。但し、あまりにもレベルが高いランダムノイズは消失しない。
以上説明したように、本発明の各実施形態においては、被写体像を撮像して画像データを生成し(例えば、図4のS3、S13)、画像データを記憶し(例えば、図4のS5、S21)、撮像によって生成された画像データと記憶された画像データを画素毎に加算平均して、記憶された画像データのうち加算平均した画素データを更新し(例えば、図4のS17、S21)、撮像によって生成された画像データと記憶された画像データを画素毎に比較明合成して、記憶された画像データのうち比較明合成した画像データを更新し(例えば、図4のS19、S21)、撮像によって生成された画像データを構成する各画素データのレベルが所定のスレッシュレベル以上か否かを判定し(例えば、図4のS15)、この判定結果に応じて、撮像によって生成された画像データを構成する各画素データに対して、加算平均を行うか又は比較明合成を選択するための制御を行っている(例えば、図4のS15、S17、S19)。
このため、複数の画像データを明るさに応じ合成して合成画像データを得る際に、よりランダムノイズを抑制して、光線の軌跡を綺麗に残すことができる。すなわち、各画素データのレベルが所定のスレッシュレベル以上か否かに応じて、加算平均を行うか比較明合成を行うかを選択しているので、個々の明るさに応じた最適な画像処理を選択でき、ラインダムノイズを抑制することができる。
なお、本発明の各実施形態においては、画素レベルの判定の結果、スレッシュより低いか高いかに応じて、比較明合成処理または加算平均合成処理を選択していたが、これに限らず加算合成処理、比較暗合成処理等、他の合成処理を用いるようにしてもよい。
また、本発明の各実施形態においては、測距・測光部17、画素比較部19、スレッシュ設定部25、保存方式選択部31、選択制御部33、画像処理部35等を、システム制御部11とはとは別体の構成としたが、各部の全部または一部をソフトウエアで構成し、制御部1内のCPUによって実行するようにしても勿論かまわない。また、信号処理部13、撮像制御部14、表示制御部51、I/F制御部53、メモリカード制御部55、入力制御部57、画像合成部、現像処理部45等は、ハードウエア回路や部品単体で構成してもよく、また、CPUとプログラムによってソフトウエア的に構成してもよく、またDSP(Digital Signal Processor)を利用して構成してもよい。これらは適宜組み合わせてもよいことは勿論である。
また、本実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォン、携帯情報端末、パーソナルコンピュータ(PC)、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、複数枚の画像データを合成して画像を生成するための機器であれば、本発明を適用することができる。さらに、撮像部を有さない機器であっても、複数の画像データを合成して画像を生成するための画像処理を行うための機器であれば、本発明を適用することができる。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
1・・・レンズ鏡筒部、2・・・レンズユニット、3・・・シャッタユニット、4・・・撮像素子、5・・・レンズ駆動モータ、6・・・シャッタ駆動モータ、7・・・モータ制御部、8・・・ストロボ発光部、9・・・ストロボ制御部、10・・・制御プロセッサ、11・・・システム制御部、13・・・信号処理部、15・・・撮像制御部、17・・・測距・測光部、19・・・画素比較部、21・・・画素レベル比較部、23・・・画素差分比較部、25・・・スレッシュ設定部、27・・・画素スレッシュ設定部、29・・・差分スレッシュ部、31・・・保存形式選択部、33・・・選択制御部、35・・・画像処理部、37・・・画像合成部、39・・・加算平均合成部、41・・・比較明合成部、43・・・加算合成部、45・・・現像処理部、47・・・ホワイトバランス決定部、49・・・変換処理部、51・・・表示制御部、53・・・I/F制御部、55・・・メモリカード制御部、57・・・入力制御部、61・・・背面LCDモニタ、63・・・映像用コネクタ、65・・・外部モニタ、67・・・外部I/Fコネクタ、69・・・PC/プリンタ、71・・・外部メモリコネクタ、73・・・メモリカード、75・・・操作釦ユニット、75a・・・レリーズ釦、75b・・・ズーム釦、75c・・・上下左右釦、75d・・・決定釦、81・・・バス、83・・・フラッシュメモリ、83a・・・感度比記憶部、83b・・・制御プログラム、85・・・DRAM、85a・・・合成画像保存領域、85b・・・単一フレーム画像保存領域、91・・・ポインタ、92・・・アドバイス画像、93a〜93c・・・被写体、95・・・指
Claims (8)
- 被写体像を撮像して画像データを生成する撮像部と、
画像データを記憶する画像データ記憶部と、
上記撮像部で生成された画像データと上記画像データ記憶部に記憶された画像データを画素毎に加算平均して、上記画像データ記憶部に記憶された画像データのうち該加算平均した画素データを更新する加算平均合成部と、
上記撮像部で生成された画像データと上記画像データ記憶部に記憶されている画像データを画素毎に比較明合成して、上記画像データ記憶部に記憶された画像データのうち該比較明合成した画素データを更新する比較明合成部と、
上記撮像部で生成された画像データを構成する各画素データのレベルが所定のスレッシュレベル以上か否かを判定する画素比較部と、
上記画素比較部の判定結果に応じて、上記撮像部で生成された画像データを構成する各画素データに対して、上記加算平均合成部により加算平均を行うか又は上記比較明合成部により比較明合成を行うかを選択するための制御を行う選択制御部と、
を備えたことを特徴とする撮像装置。 - 上記選択制御部は、上記撮像部で生成された画像データを構成する各画素データのレベルが上記所定のスレッシュレベル以上と判定されたときは、上記撮像部で生成された画像データを構成する各画素データに対して上記比較明合成を行うように制御し、上記撮像部で生成された上記画像データを構成する各画素データのレベルが上記所定のスレッシュレベルより低いときは、上記撮像部で生成された画像データを構成する各画素データに対して上記加算平均を行うように制御することを特徴とする請求項1に記載の撮像装置。
- 上記撮像部で生成された第1画像データとその直前に生成された第2画像データのそれぞれを構成する各画素データのうち、同じ画素位置の画素データの差分を比較する画素差分比較部を更に備え、上記選択制御部は、
上記第1画像データを構成する各画素データのレベルが上記所定のスレッシュレベル以上であって、且つ上記画素差分比較部による比較の結果、上記同じ画素位置の画素データの差分値が所定値の絶対値以上のとき、上記撮像部で生成された画像データを構成する各画素データに対して上記比較明合成を行うように制御し、
上記加算平均合成部により加算平均された上記画像データを構成する各画素データのレベルが上記所定のスレッシュレベル以上であって、且つ上記画素差分比較部の比較の結果、上記同じ画素位置の画素データの差分値の絶対値が所定値より小さいとき、上記撮像部で生成された画像データを構成する各画素データに対して上記加算平均合成を行うように制御する、
ことを特徴とする請求項1に記載の撮像装置。 - 上記撮像部を構成する撮像素子の撮像面にはカラーフィルタが配置されており、上記所定のスレッシュレベルを、該カラーフィルタの色毎に個別に設定することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
- 上記撮像部は、波長毎に分光して複数の撮像素子が配置されており、上記所定のスレッシュレベルを、上記撮像部から読み出される色毎に個別に設定することを特徴とする請求項1乃至3のいずれか1項に記載に撮像装置。
- 上記撮像部で生成された画像データがRAW画像データである場合は、上記所定のスレッシュレベルを、上記撮像部から読み出される色毎の感度比に応じて個別に設定することを特徴とする請求項4又は5に記載の撮像装置。
- 上記撮像部で生成された画像データがホワイトバランス処理された画像データである場合は、上記所定のスレッシュレベルを、上記ホワイトバランスに応じて撮像部から読み出される色毎に個別に設定することを特徴とする請求項4又は5に記載の撮像装置。
- 被写体像を撮像して画像データを生成する第1ステップと、
画像データを記憶する第2ステップと、
上記第1ステップにおいて生成された画像データと上記第2ステップにおいて記憶された画像データを画素毎に加算平均して、上記第2ステップにおいて記憶された画像データのうち該加算平均した画素データを更新する第3ステップと、
上記第1ステップにおいて生成された画像データと上記第2ステップにおいて記憶された画像データを画素毎に比較明合成して、上記第2ステップにおいて記憶された画像データのうち該比較明合成した画像データを更新する第4ステップと、
上記第1ステップにおいて生成された画像データを構成する各画素データのレベルが所定のスレッシュレベル以上か否かを判定する第5ステップと、
上記第5ステップにおける判定結果に応じて、上記第1ステップにおいて生成された画像データを構成する各画素データに対して、上記第3ステップにおける加算平均を行うか又は上記第4ステップにおける比較明合成を選択するための制御を行う第6ステップと、
を含むことを特徴とする撮像方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015241108A JP2017108309A (ja) | 2015-12-10 | 2015-12-10 | 撮像装置および撮像方法 |
US15/371,544 US9918022B2 (en) | 2015-12-10 | 2016-12-07 | Imaging device and imaging method |
CN201611128304.1A CN106878624A (zh) | 2015-12-10 | 2016-12-09 | 摄像装置和摄像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015241108A JP2017108309A (ja) | 2015-12-10 | 2015-12-10 | 撮像装置および撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017108309A true JP2017108309A (ja) | 2017-06-15 |
Family
ID=59018593
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015241108A Pending JP2017108309A (ja) | 2015-12-10 | 2015-12-10 | 撮像装置および撮像方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9918022B2 (ja) |
JP (1) | JP2017108309A (ja) |
CN (1) | CN106878624A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020010140A (ja) * | 2018-07-05 | 2020-01-16 | オリンパス株式会社 | 撮像装置及び表示方法 |
JP2021072591A (ja) * | 2019-11-01 | 2021-05-06 | カシオ計算機株式会社 | 情報取得装置、情報取得方法及びプログラム |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016076869A (ja) * | 2014-10-08 | 2016-05-12 | オリンパス株式会社 | 撮像装置、撮影方法、およびプログラム |
JP6659162B2 (ja) * | 2016-03-15 | 2020-03-04 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法及びプログラム |
US10165257B2 (en) * | 2016-09-28 | 2018-12-25 | Intel Corporation | Robust disparity estimation in the presence of significant intensity variations for camera arrays |
KR20180078961A (ko) * | 2016-12-30 | 2018-07-10 | 삼성전자주식회사 | 이미지 촬상 장치 및 이의 구동 방법 |
CN111225158B (zh) * | 2018-11-23 | 2021-10-22 | 北京小米移动软件有限公司 | 图像生成方法及装置、电子设备、计算机可读存储介质 |
EP3712899A1 (en) * | 2019-03-21 | 2020-09-23 | Siemens Healthcare GmbH | Generation of a result image |
JP2021125820A (ja) * | 2020-02-06 | 2021-08-30 | キヤノン株式会社 | 撮像装置、制御方法、プログラムおよび記録媒体 |
EP4102742A4 (en) * | 2020-02-07 | 2023-03-29 | Fuji Corporation | OPTICAL COMMUNICATION DEVICE AND PLACEMENT MACHINE |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000261715A (ja) * | 1999-03-08 | 2000-09-22 | Casio Comput Co Ltd | 画像合成装置 |
JP2012147391A (ja) * | 2011-01-14 | 2012-08-02 | Canon Inc | 撮像装置および撮像装置の制御方法 |
JP2014212415A (ja) * | 2013-04-18 | 2014-11-13 | オリンパス株式会社 | 撮像装置および撮像方法 |
JP2015159510A (ja) * | 2014-02-25 | 2015-09-03 | オリンパス株式会社 | 撮像装置および撮像装置の制御方法 |
Family Cites Families (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5309243A (en) * | 1992-06-10 | 1994-05-03 | Eastman Kodak Company | Method and apparatus for extending the dynamic range of an electronic imaging system |
JP4536170B2 (ja) * | 1996-12-27 | 2010-09-01 | シャープ株式会社 | 撮像装置 |
US6529618B1 (en) * | 1998-09-04 | 2003-03-04 | Konica Corporation | Radiation image processing apparatus |
US6825884B1 (en) * | 1998-12-03 | 2004-11-30 | Olympus Corporation | Imaging processing apparatus for generating a wide dynamic range image |
US20040100565A1 (en) * | 2002-11-22 | 2004-05-27 | Eastman Kodak Company | Method and system for generating images used in extended range panorama composition |
JP4131192B2 (ja) * | 2003-04-25 | 2008-08-13 | コニカミノルタオプト株式会社 | 撮像装置、画像処理装置及び画像記録装置 |
EP3310037A1 (en) * | 2004-10-26 | 2018-04-18 | Nikon Corporation | Digital camera and image combination device |
US7782384B2 (en) * | 2004-11-05 | 2010-08-24 | Kelly Douglas J | Digital camera having system for digital image composition and related method |
JP4379408B2 (ja) * | 2004-12-07 | 2009-12-09 | セイコーエプソン株式会社 | 信号処理部および撮像装置 |
US7450167B2 (en) * | 2005-02-11 | 2008-11-11 | Hewlett-Packard Development Company, L.P. | Method for improving image quality |
JP4961182B2 (ja) * | 2005-10-18 | 2012-06-27 | 株式会社リコー | ノイズ除去装置、ノイズ除去方法、ノイズ除去プログラム及び記録媒体 |
JP4850730B2 (ja) * | 2006-03-16 | 2012-01-11 | キヤノン株式会社 | 撮像装置、その処理方法及びプログラム |
US7834925B2 (en) * | 2006-06-05 | 2010-11-16 | Core Logic Inc. | Lens shading correction device and method in image sensor |
US20080094481A1 (en) * | 2006-10-19 | 2008-04-24 | Barinder Singh Rai | Intelligent Multiple Exposure |
JP4683343B2 (ja) * | 2007-12-27 | 2011-05-18 | 株式会社 日立ディスプレイズ | 色信号生成装置 |
JP5708916B2 (ja) * | 2008-04-30 | 2015-04-30 | 日本電気株式会社 | 画像評価方法、画像評価システム及びプログラム |
JP2009273035A (ja) * | 2008-05-09 | 2009-11-19 | Toshiba Corp | 画像圧縮装置、画像伸張装置及び画像処理装置 |
US8503036B2 (en) * | 2008-06-23 | 2013-08-06 | Xerox Corporation | System and method of improving image quality in digital image scanning and printing by reducing noise in output image data |
JP5312166B2 (ja) * | 2009-04-13 | 2013-10-09 | キヤノン株式会社 | 画像処理装置及び制御方法及びプログラム |
JP5446847B2 (ja) | 2009-12-25 | 2014-03-19 | カシオ計算機株式会社 | 画像処理装置及び方法、並びにプログラム |
US8717628B1 (en) * | 2010-06-23 | 2014-05-06 | Marvell International Ltd. | Flexible image processing apparatus and method |
JP2012050073A (ja) * | 2010-07-30 | 2012-03-08 | Nikon Corp | 撮像装置及び画像合成プログラム |
JP5662768B2 (ja) * | 2010-11-19 | 2015-02-04 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
US9245332B2 (en) * | 2011-03-09 | 2016-01-26 | Alcatel Lucent | Method and apparatus for image production |
JP5050256B1 (ja) * | 2011-06-21 | 2012-10-17 | オリンパス株式会社 | 撮像装置及び撮像方法 |
JP6015189B2 (ja) * | 2011-08-16 | 2016-10-26 | 株式会社リコー | 画像検査装置、画像形成装置、画像検査方法及び画像形成システム |
JP5895409B2 (ja) | 2011-09-14 | 2016-03-30 | 株式会社リコー | 撮像装置 |
JP2013093685A (ja) * | 2011-10-25 | 2013-05-16 | Sumitomo Electric Ind Ltd | 撮像装置 |
JP5821571B2 (ja) * | 2011-11-28 | 2015-11-24 | 富士通株式会社 | 画像合成装置及び画像合成方法 |
JP6003081B2 (ja) | 2012-02-22 | 2016-10-05 | 株式会社リコー | 撮像装置及び撮像方法 |
JP2014036401A (ja) * | 2012-08-10 | 2014-02-24 | Sony Corp | 撮像装置、画像信号処理方法及びプログラム |
JP5632431B2 (ja) * | 2012-09-04 | 2014-11-26 | 株式会社東芝 | 画像符号化装置、及び画像符号化方法 |
US9805478B2 (en) * | 2013-08-14 | 2017-10-31 | Arm Limited | Compositing plural layer of image data for display |
JP6218496B2 (ja) * | 2013-08-21 | 2017-10-25 | キヤノン株式会社 | 撮像装置、および、撮像方法 |
US9094628B2 (en) * | 2013-10-27 | 2015-07-28 | Raytheon Company | Address mapped repartitioned digital pixel |
JP6351271B2 (ja) * | 2014-01-17 | 2018-07-04 | オリンパス株式会社 | 画像合成装置、画像合成方法、およびプログラム |
JP6129759B2 (ja) * | 2014-02-03 | 2017-05-17 | 満男 江口 | Simd型超並列演算処理装置向け超解像処理方法、装置、プログラム及び記憶媒体 |
JP5847228B2 (ja) * | 2014-04-16 | 2016-01-20 | オリンパス株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
JP2015231118A (ja) * | 2014-06-04 | 2015-12-21 | キヤノン株式会社 | 画像合成装置、画像合成システム及び画像合成方法 |
-
2015
- 2015-12-10 JP JP2015241108A patent/JP2017108309A/ja active Pending
-
2016
- 2016-12-07 US US15/371,544 patent/US9918022B2/en active Active
- 2016-12-09 CN CN201611128304.1A patent/CN106878624A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000261715A (ja) * | 1999-03-08 | 2000-09-22 | Casio Comput Co Ltd | 画像合成装置 |
JP2012147391A (ja) * | 2011-01-14 | 2012-08-02 | Canon Inc | 撮像装置および撮像装置の制御方法 |
JP2014212415A (ja) * | 2013-04-18 | 2014-11-13 | オリンパス株式会社 | 撮像装置および撮像方法 |
JP2015159510A (ja) * | 2014-02-25 | 2015-09-03 | オリンパス株式会社 | 撮像装置および撮像装置の制御方法 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020010140A (ja) * | 2018-07-05 | 2020-01-16 | オリンパス株式会社 | 撮像装置及び表示方法 |
JP7097248B2 (ja) | 2018-07-05 | 2022-07-07 | Omデジタルソリューションズ株式会社 | 撮像装置及び表示方法 |
JP7371171B2 (ja) | 2018-07-05 | 2023-10-30 | Omデジタルソリューションズ株式会社 | 撮像装置及び撮像装置の制御方法 |
JP2021072591A (ja) * | 2019-11-01 | 2021-05-06 | カシオ計算機株式会社 | 情報取得装置、情報取得方法及びプログラム |
CN112788311A (zh) * | 2019-11-01 | 2021-05-11 | 卡西欧计算机株式会社 | 信息获取方法、信息获取装置 |
JP7070530B2 (ja) | 2019-11-01 | 2022-05-18 | カシオ計算機株式会社 | 情報取得装置、情報取得方法及びプログラム |
US11758248B2 (en) | 2019-11-01 | 2023-09-12 | Casio Computer Co., Ltd. | Information acquisition method and information acquisition device |
Also Published As
Publication number | Publication date |
---|---|
US20170171474A1 (en) | 2017-06-15 |
CN106878624A (zh) | 2017-06-20 |
US9918022B2 (en) | 2018-03-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2017108309A (ja) | 撮像装置および撮像方法 | |
JP5701664B2 (ja) | 撮像装置 | |
US9118854B2 (en) | Methods and apparatus for providing optical black compensation of added images | |
JP6278713B2 (ja) | 撮像装置および撮像方法 | |
US8237811B2 (en) | Imaging apparatus, control method thereof, and program | |
JP2007264196A (ja) | ストロボ制御装置及び方法 | |
JP4914300B2 (ja) | 撮像装置及び撮像制御方法 | |
JP6325841B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP2007027967A (ja) | 撮影装置 | |
JP2017022610A (ja) | 画像処理装置、画像処理方法 | |
US20170318208A1 (en) | Imaging device, imaging method, and image display device | |
JP2010147786A (ja) | 撮像装置及び画像処理方法 | |
JP6250098B2 (ja) | 撮像装置および撮像方法 | |
JP2010093679A (ja) | 撮像装置及び撮像制御方法 | |
JP2013141105A (ja) | 画像処理装置および電子カメラ、並びに画像処理プログラム | |
JP6231814B2 (ja) | 露出決定装置、撮像装置、制御方法、及びプログラム | |
JP6108854B2 (ja) | 撮像装置及びその制御方法 | |
JP2004096392A (ja) | デジタルカメラ | |
JP2009033386A (ja) | 撮影装置及び撮影方法 | |
JP2013031205A (ja) | 撮影装置および方法 | |
JP2012120019A (ja) | カメラ | |
JP5747595B2 (ja) | 露出制御装置及びカメラ | |
JP5772064B2 (ja) | 撮像装置及び画像生成プログラム | |
KR101298638B1 (ko) | 디지털 영상 처리 방법 | |
JP2013016905A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181112 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190703 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190708 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20191224 |