CN112714252A - 摄像装置 - Google Patents
摄像装置 Download PDFInfo
- Publication number
- CN112714252A CN112714252A CN202011573755.2A CN202011573755A CN112714252A CN 112714252 A CN112714252 A CN 112714252A CN 202011573755 A CN202011573755 A CN 202011573755A CN 112714252 A CN112714252 A CN 112714252A
- Authority
- CN
- China
- Prior art keywords
- imaging
- region
- unit
- image
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 claims abstract description 1377
- 238000012937 correction Methods 0.000 claims abstract description 484
- 238000012545 processing Methods 0.000 claims description 726
- 238000001514 detection method Methods 0.000 claims description 178
- 230000035945 sensitivity Effects 0.000 claims description 54
- 230000003287 optical effect Effects 0.000 claims description 35
- 238000009825 accumulation Methods 0.000 claims description 17
- 238000000034 method Methods 0.000 description 75
- 230000008569 process Effects 0.000 description 67
- 238000010586 diagram Methods 0.000 description 55
- 230000004048 modification Effects 0.000 description 55
- 238000012986 modification Methods 0.000 description 55
- 238000004364 calculation method Methods 0.000 description 46
- 238000006243 chemical reaction Methods 0.000 description 46
- 230000000875 corresponding effect Effects 0.000 description 42
- 238000005192 partition Methods 0.000 description 38
- 238000004891 communication Methods 0.000 description 21
- 238000007781 pre-processing Methods 0.000 description 19
- 238000003860 storage Methods 0.000 description 18
- 239000002131 composite material Substances 0.000 description 17
- 230000007547 defect Effects 0.000 description 17
- 230000009467 reduction Effects 0.000 description 17
- 239000004065 semiconductor Substances 0.000 description 12
- 230000008859 change Effects 0.000 description 11
- 238000012546 transfer Methods 0.000 description 11
- 230000007423 decrease Effects 0.000 description 8
- 238000001914 filtration Methods 0.000 description 8
- 230000004907 flux Effects 0.000 description 6
- 230000015654 memory Effects 0.000 description 6
- 210000001747 pupil Anatomy 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 239000000758 substrate Substances 0.000 description 4
- 238000009499 grossing Methods 0.000 description 3
- 238000002161 passivation Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 230000004075 alteration Effects 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000002184 metal Substances 0.000 description 2
- PCTMTFRHKVHKIS-BMFZQQSSSA-N (1s,3r,4e,6e,8e,10e,12e,14e,16e,18s,19r,20r,21s,25r,27r,30r,31r,33s,35r,37s,38r)-3-[(2r,3s,4s,5s,6r)-4-amino-3,5-dihydroxy-6-methyloxan-2-yl]oxy-19,25,27,30,31,33,35,37-octahydroxy-18,20,21-trimethyl-23-oxo-22,39-dioxabicyclo[33.3.1]nonatriaconta-4,6,8,10 Chemical compound C1C=C2C[C@@H](OS(O)(=O)=O)CC[C@]2(C)[C@@H]2[C@@H]1[C@@H]1CC[C@H]([C@H](C)CCCC(C)C)[C@@]1(C)CC2.O[C@H]1[C@@H](N)[C@H](O)[C@@H](C)O[C@H]1O[C@H]1/C=C/C=C/C=C/C=C/C=C/C=C/C=C/[C@H](C)[C@@H](O)[C@@H](C)[C@H](C)OC(=O)C[C@H](O)C[C@H](O)CC[C@@H](O)[C@H](O)C[C@H](O)C[C@](O)(C[C@H](O)[C@H]2C(O)=O)O[C@H]2C1 PCTMTFRHKVHKIS-BMFZQQSSSA-N 0.000 description 1
- 241000282472 Canis lupus familiaris Species 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 150000004767 nitrides Chemical class 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
- H04N25/535—Control of the integration time by using differing integration times for different sensor regions by dynamic region selection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/58—Control of the dynamic range involving two or more exposures
- H04N25/581—Control of the dynamic range involving two or more exposures acquired simultaneously
- H04N25/583—Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/616—Noise processing, e.g. detecting, correcting, reducing or removing noise involving a correlated sampling function, e.g. correlated double sampling [CDS] or triple sampling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/68—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
- H04N25/704—Pixels specially adapted for focusing, e.g. phase difference pixel sets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
- Exposure Control For Cameras (AREA)
Abstract
摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将第1摄像区域的摄像条件设定为与第2摄像区域的摄像条件不同的摄像条件;修正部,其对从第2摄像区域输出的第2信号进行修正,该修正用于对从第1摄像区域输出的第1信号进行插补;以及生成部,其使用根据由修正部修正后的第2信号对第1信号进行插补得到的信号,来生成在第1摄像区域拍摄得到的被摄体的图像。
Description
本发明申请是国际申请日为2016年9月26日、国际申请号为PCT/JP2016/078280、进入中国国家阶段的国家申请号为201680056920.2、发明名称为“摄像装置、图像处理装置及显示装置”的发明申请的分案申请。
技术领域
本发明涉及摄像装置、图像处理装置及显示装置。
背景技术
已知有如下摄像装置:其搭载有能够按画面的每个区域而设定不同的摄像条件的摄像元件(参照专利文献1)。但是,在对摄像条件不同的区域中分别生成的图像数据进行处理的情况下没有考虑过摄像条件。
现有技术文献
专利文献
专利文献1:日本国特开2006-197192号公报
发明内容
根据第1方案,摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对从上述第1摄像区域输出的上述第1信号进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第2方案,摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对上述第1摄像区域的输出上述第1信号的像素进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对输出上述第1信号的像素进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第3方案,摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于降低从上述第1摄像区域输出的上述第1信号中包含的噪声;以及生成部,其使用由上述修正部修正后的上述第2信号将上述第1信号中包含的噪声降低并生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第4方案,摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于从上述第1摄像区域输出的上述第1信号的图像处理;以及生成部,其使用由上述修正部修正后的上述第2信号对上述第1信号进行图像处理并输出在上述第1摄像区域拍摄得到的被摄体的图像。
根据第5方案,摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其设定上述第1摄像区域的摄像条件和上述第2摄像区域的摄像条件;处理部,其作为使用从上述第2摄像区域输出的上述第2信号对上述第1信号进行插补的处理,而进行根据由上述设定部对上述第2摄像区域设定的摄像条件而不同的处理;以及生成部,其使用由上述处理部对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第6方案,摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第1摄像区域输出的上述第1信号进行修正,并对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对修正后的上述第1信号进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对由上述修正部修正后的上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第7方案,摄像装置具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第1摄像区域输出的上述第1信号进行修正,并对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对输出修正后的上述第1信号的像素进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对输出修正后的上述第1信号的像素进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第8方案,图像处理装置具备:修正部,其为了用于对从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号进行插补,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及生成部,其使用根据由上述修正部修正后的上述第2信号对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第9方案,图像处理装置具备:修正部,其为了降低从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号中包含的噪声,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及生成部,其使用由上述修正部修正后的上述第2信号将上述第1信号中包含的噪声降低并生成在上述第1摄像区域拍摄得到的被摄体的图像。
根据第10方案,显示装置具备:修正部,其为了用于对从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号进行插补,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及显示部,其显示在上述第1摄像区域拍摄得到的被摄体的图像,该在上述第1摄像区域拍摄得到的被摄体的图像是使用根据由上述修正部修正后的上述第2信号对上述第1信号进行插补得到的信号而生成的。
根据第11方案,显示装置具备:修正部,其为了降低从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号中包含的噪声,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及显示部,其显示在上述第1摄像区域拍摄得到的被摄体的图像,该在上述第1摄像区域拍摄得到的被摄体的图像是使用由上述修正部修正后的上述第2信号将上述第1信号中包含的噪声降低而生成的。
根据第12方案,摄像装置具备:摄像部,其具有对入射的光进行拍摄的第1区域、和对入射的光进行拍摄的与上述第1区域不同的第2区域;设定部,其将上述第1区域的摄像条件设定成与上述第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
根据第13方案,摄像装置具备:摄像部,其具有对入射的光进行拍摄的第1区域、和对入射的光进行拍摄的与上述第1区域不同的第2区域;设定部,其将上述第1区域的摄像条件设定成与上述第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和由上述修正部修正后的第2图像数据来生成图像。
根据第14方案,图像处理装置具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
根据第15方案,图像处理装置具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
根据第16方案,显示装置具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及显示部,其显示图像,该图像根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据而生成。
根据第17方案,显示装置具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及显示部,其显示图像,该图像根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据而生成。
附图说明
图1是例示第1实施方式的相机的结构的框图。
图2是层叠型的摄像元件的剖视图。
图3是说明摄像芯片的像素排列和单位区域的图。
图4是说明单位区域中的电路的图。
图5是示意性表示被相机的摄像元件成像的被摄体的像的图。
图6是例示摄像条件的设定画面的图。
图7的(a)是例示实时取景图像中的第1区域的边界附近的图,图7的(b)是将边界附近放大的图,图7的(c)是关注像素及参照像素的放大图。
图8的(a)是例示从像素输出的光电转换信号的排列的图,图8的(b)是说明G颜色成分的图像数据的插补的图,图8的(c)是例示插补后的G颜色成分的图像数据的图。
图9的(a)是从图8的(a)提取出R颜色成分的图像数据的图,图9的(b)是说明色差成分Cr的插补的图,图9的(c)是说明色差成分Cr的图像数据的插补的图。
图10的(a)是从图8的(a)提取出B颜色成分的图像数据的图,图10的(b)是说明色差成分Cb的插补的图,图10的(c)是说明色差成分Cb的图像数据的插补的图。
图11是例示摄像面中的焦点检测用像素的位置的图。
图12是将焦点检测像素行的一部分的区域放大的图。
图13是将焦点检测位置放大的图。
图14的(a)是例示表示想要检测的对象物的模板(template)图像的图,图14的(b)是例示实时取景图像及搜索范围的图。
图15是说明按每个区域设定摄像条件并进行拍摄的处理流程的流程图。
图16的(a)~图16的(c)是例示摄像元件的摄像面中的第1区域及第2区域的配置的图。
图17是例示变形例11的摄像***的结构的框图。
图18是说明向移动设备提供程序的图。
图19是例示第2实施方式的相机的结构的框图。
图20是示意性表示第2实施方式中的各区块与多个修正部之间的对应关系的图。
图21是层叠型摄像元件的剖视图。
图22是示意性表示图像处理所涉及的、第1图像数据和第2图像数据的处理的图。
图23是示意性表示焦点检测处理所涉及的、第1图像数据和第2图像数据的处理的图。
图24是示意性表示被摄体检测处理所涉及的、第1图像数据和第2图像数据的处理的图。
图25是示意性表示曝光运算处理等的摄像条件的设定所涉及的、第1图像数据和第2图像数据的处理的图。
图26是示意性表示变形例13的第1图像数据和第2图像数据的处理的图。
图27是示意性表示变形例13的第1图像数据和第2图像数据的处理的图。
图28是示意性表示变形例13的第1图像数据和第2图像数据的处理的图。
图29是示意性表示变形例13的第1图像数据和第2图像数据的处理的图。
具体实施方式
---第1实施方式---
作为搭载第1实施方式的图像处理装置的电子设备的一例,列举数码相机为例进行说明。相机1(图1)构成为能够以按摄像元件32a中的摄像面的每个区域而不同的条件进行拍摄。图像处理部33在摄像条件不同的区域中分别进行适当的处理。关于这样的相机1的详情将参照附图进行说明。
<相机的说明>
图1是例示第1实施方式的相机1的结构的框图。在图1中,相机1具有摄像光学***31、摄像部32、图像处理部33、控制部34、显示部35、操作部件36和记录部37。
摄像光学***31将来自被摄场景的光束导向摄像部32。摄像部32包含摄像元件32a及驱动部32b,对通过摄像光学***31而成像出的被摄体的像进行光电转换。摄像部32能够在摄像元件32a的摄像面的整个区域以相同的条件进行拍摄,也能够按摄像元件32a的摄像面的每个区域以不同条件进行拍摄。关于摄像部32的详情将在后叙述。驱动部32b生成用于使摄像元件32a进行蓄存控制所需的驱动信号。对摄像部32的电荷蓄存时间等拍摄指示被从控制部34向驱动部32b发送。
图像处理部33包含输入部33a、修正部33b和生成部33c。在输入部33a中输入有由摄像部32获取的图像数据。修正部33b进行对上述输入的图像数据实施修正的前处理。关于前处理的详情将在后叙述。生成部33c生成基于上述输入的图像数据和前处理后的图像数据的图像。另外,生成部33c进行针对图像数据的图像处理。在图像处理中包含例如颜色插补处理、像素缺陷修正处理、轮廓强调处理、减噪(Noise reduction)处理、白平衡调整处理、伽马修正处理、显示亮度调整处理、彩度调整处理等。而且,生成部33c生成由显示部35显示的图像。
控制部34由例如CPU构成,控制相机1的整体动作。例如,控制部34基于由摄像部32获取的光电转换信号而进行规定的曝光运算,决定适当曝光所需的摄像元件32a的电荷蓄存时间(曝光时间)、摄像光学***31的光圈值、ISO感光度等曝光条件并向驱动部32b发出指示。另外,根据在相机1中设定的摄像场景模式、检测出的被摄体要素的种类,决定对彩度、对比度、锐度等进行调整的图像处理条件并向图像处理部33发出指示。关于被摄体要素的检测将在后叙述。
在控制部34中包含物体检测部34a、设定部34b、摄像控制部34c、和AF运算部34d。这些部分通过由控制部34执行保存在未图示的非易失性存储器中的程序而在软件上实现,但这些部分也可以由ASIC(Application Specific Integrated Circuit:专用集成电路)等构成。
物体检测部34a通过进行公知的物体识别处理,从由摄像部32获取的图像检测出被摄体要素(人(人脸)、狗、猫等动物(动物的面部)、植物、自行车、汽车、电车等交通工具、建筑物、静物、山、云等风景、预先确定的特定物体等)。设定部34b将由摄像部32得到的摄像画面划分成包含上述那样检测出的被摄体要素的多个区域。
设定部34b还对多个区域设定摄像条件。在摄像条件中包含上述曝光条件(电荷蓄存时间、增益、ISO感光度、帧频等)、上述图像处理条件(例如,白平衡调整用参数、伽马修正曲线、显示亮度调整参数、彩度调整参数等)。此外,摄像条件既能够在多个区域的全部区域中设定相同的摄像条件,也能够在多个区域间设定不同的摄像条件。
摄像控制部34c适用由设定部34b按每个区域设定的摄像条件来控制摄像部32(摄像元件32a)、图像处理部33。由此,能够使摄像部32以按多个区域的每一个而不同的曝光条件进行拍摄,能够使图像处理部33以按多个区域的每一个而不同的图像处理条件进行图像处理。构成区域的像素的数量可以是任意的,例如可以是1000像素,也可以是1像素。另外,还可以使区域间的像素数量不同。
AF运算部34d对在摄像画面的规定位置(称为焦点检测位置)使焦点匹配于对应的被摄体的自动调焦(自动对焦:AF)动作进行控制。AF运算部34d基于运算结果而将用于使摄像光学***31的聚焦透镜向对焦位置移动的驱动信号发送到驱动部32b。AF运算部34d为了实现自动调焦而进行的处理也被称为焦点检测处理。关于焦点检测处理的详情将在后叙述。
显示部35对由图像处理部33生成的图像、经图像处理后的图像、由记录部37读出的图像等进行再现显示。显示部35还进行操作菜单画面、用于设定摄像条件的设定画面等的显示。
操作部件36由释放按钮、菜单按钮等各种操作部件构成。操作部件36将与各操作对应的操作信号向控制部34送出。在操作部件36中还包含设在显示部35的显示面上的触摸操作部件。
记录部37根据来自控制部34的指示,在由未图示的存储卡等构成的记录介质中记录图像数据等。另外,记录部37根据来自控制部34的指示而读出记录在记录介质中的图像数据。
<层叠型的摄像元件的说明>
作为上述的摄像元件32a的一例而对层叠型的摄像元件100进行说明。图2是摄像元件100的剖视图。摄像元件100具备摄像芯片111、信号处理芯片112、和存储芯片113。摄像芯片111层叠在信号处理芯片112上。信号处理芯片112层叠在存储芯片113上。摄像芯片111及信号处理芯片112、信号处理芯片112及存储芯片113分别通过连接部109而电连接。连接部109为例如凸块或电极。摄像芯片111对来自被摄体的光像进行拍摄而生成图像数据。摄像芯片111将图像数据从摄像芯片111向信号处理芯片112输出。信号处理芯片112对从摄像芯片111输出的图像数据实施信号处理。存储芯片113具有多个存储器,存储图像数据。此外,摄像元件100也可以由摄像芯片及信号处理芯片构成。在摄像元件100由摄像芯片及信号处理芯片构成的情况下,用于存储图像数据的存储部既可以设于信号处理芯片,也可以相对于摄像元件100而另行设置。
如图2所示,入射光主要朝向空心箭头所示的Z轴正向入射。另外,如坐标轴所示,将与Z轴正交的纸面左方设为X轴正向,将与Z轴及X轴正交的纸面近前方向设为Y轴正向。在以后的几幅图中,以图2的坐标轴为基准来显示坐标轴,以明确各个图的朝向。
摄像芯片111为例如CMOS图像传感器。摄像芯片111具体地说为背面照射型的CMOS图像传感器。摄像芯片111具有微透镜层101、彩色滤光片层102、钝化层103、半导体层106及布线层108。摄像芯片111朝向Z轴正向按照微透镜层101、彩色滤光片层102、钝化层103、半导体层106及布线层108的顺序配置。
微透镜层101具有多个微透镜L。微透镜L将入射的光向后述的光电转换部104汇聚。彩色滤光片层102具有多个彩色滤光片F。彩色滤光片层102具有分光特性不同的多种彩色滤光片F。具体地说,彩色滤光片层102具有主要使红色成分的光透射的分光特性的第1滤光片(R)、主要使绿色成分的光透射的分光特性的第2滤光片(Gb、Gr)、和主要使蓝色成分的光透射的分光特性的第3滤光片(B)。彩色滤光片层102例如通过拜耳阵列来配置第1滤光片、第2滤光片及第3滤光片。钝化层103由氮化膜或氧化膜构成,保护半导体层106。
半导体层106具有光电转换部104及读出电路105。半导体层106在作为光的入射面的第1面106a与第1面106a的相反侧的第2面106b之间具有多个光电转换部104。半导体层106在X轴方向及Y轴方向上排列有多个光电转换部104。光电转换部104具有将光转换成电荷的光电转换功能。另外,光电转换部104蓄存基于光电转换信号得到的电荷。光电转换部104为例如光电二极管。半导体层106在比光电转换部104靠第2面106b侧的部位具有读出电路105。半导体层106在X轴方向及Y轴方向上排列有多个读出电路105。读出电路105由多个晶体管构成,将通过由光电转换部104进行光电转换得到的电荷而生成的图像数据读出并向布线层108输出。
布线层108具有多个金属层。金属层为例如Al布线,Cu布线等。布线层108输出由读出电路105读出的图像数据。图像数据从布线层108经由连接部109向信号处理芯片112输出。
此外,连接部109可以按每个光电转换部104而设置。另外,连接部109也可以按每多个光电转换部104而设置。在连接部109按每多个光电转换部104而设置的情况下,连接部109的间距可以大于光电转换部104的间距。另外,连接部109还可以设在配置有光电转换部104的区域的周边区域。
信号处理芯片112具有多个信号处理电路。信号处理电路对从摄像芯片111输出的图像数据进行信号处理。信号处理电路为例如将图像数据的信号值放大的放大器电路、进行图像数据的噪声降低处理的相关双采样电路及将模拟信号转换成数字信号的模拟/数字(A/D)转换电路等。信号处理电路可以按每个光电转换部104而设置。
另外,信号处理电路也可以按每多个光电转换部104而设置。信号处理芯片112具有多个贯穿电极110。贯穿电极110为例如硅贯穿电极。贯穿电极110将设于信号处理芯片112的电路相互连接。贯穿电极110也可以设在摄像芯片111的周边区域、存储芯片113。此外,可以将构成信号处理电路的一部分元件设于摄像芯片111。例如,在模拟/数字转换电路的情况下,可以将进行输入电压和基准电压的比较的比较器设于摄像芯片111,将计数器电路和锁存电路等电路设于信号处理芯片112。
存储芯片113具有多个存储部。存储部存储在信号处理芯片112中实施了信号处理后的图像数据。存储部为例如DRAM等易失性存储器。存储部可以按每个光电转换部104而设置。另外,存储部也可以按每多个光电转换部104而设置。存储在存储部中的图像数据被输出到后级的图像处理部。
图3是说明摄像芯片111的像素排列和单位区域131的图。尤其示出了摄像芯片111的从背面(摄像面)侧观察到的状况。在像素区域中呈矩阵状地排列有例如2000万个以上的像素。在图3的例子中,相邻的2像素×2像素这4像素形成一个单位区域131。图中的网格线示出相邻的像素被分组而形成单位区域131的概念。形成单位区域131的像素数不限于此,也可以是1000个左右、例如32像素×32像素,还可以是该数以上或以下,还可以是1像素。
如像素区域的局部放大图所示,图3的单位区域131内置所谓拜耳阵列,该拜耳阵列由绿色像素Gb、Gr、蓝色像素B及红色像素R这4个像素构成。绿色像素Gb、Gr是作为彩色滤光片F而具有绿色滤光片的像素,接收入射光中的绿色波段的光。同样地,蓝色像素B是作为彩色滤光片F而具有蓝色滤光片的像素,接收蓝色波段的光,红色像素R是作为彩色滤光片F而具有红色滤光片的像素,接收红色波段的光。
在本实施方式中,以每个区块至少包含一个单位区域131的方式定义多个区块。即,1区块的最小单位为一个单位区域131。如上述那样,作为形成一个单位区域131的像素数而可取的值中的最小的像素数为1像素。因此,在以像素单位定义1区块的情况下,可定义1区块的像素数中的最小像素数为1像素。各区块以各自不同的控制参数控制各区块中包含的像素。各区块以相同摄像条件控制该区块内的全部单位区域131、即,该区块内的全部像素。也就是说,能够在某区块所包含的像素组和其他区块所包含的像素组中获取摄像条件不同的光电转换信号。控制参数的例子为帧频、增益、间除率、对光电转换信号进行相加的相加行数或相加列数、电荷的蓄存时间或蓄存次数、数字化的比特位数(字长)等。摄像元件100不仅能够自由进行行方向(摄像芯片111的X轴方向)的间除,还能够自由进行列方向(摄像芯片111的Y轴方向)的间除。而且,控制参数也可以是图像处理中的参数。
图4是说明单位区域131中的电路的图。在图4的例子中,由相邻的2像素×2像素这4个像素形成一个单位区域131。此外,如上述那样单位区域131中包含的像素数不限于此,也可以是1000像素以上,还可以是最小1像素。单位区域131的二维位置由附图标记A~D表示。
单位区域131中包含的像素的重置晶体管(RST)构成为能够针对每个像素单独地进行导通截止(ON/OFF)。在图4中,设有使像素A的重置晶体管导通截止的重置布线300,且与上述重置布线300相独立地设有使像素B的重置晶体管导通截止的重置布线310。同样地,与上述重置布线300、310相独立地设有使像素C的重置晶体管导通截止的重置布线320。对于其他像素D,也设有用于使重置晶体管导通截止的专用的重置布线330。
对于单位区域131中包含的像素的传输晶体管(TX),也构成为能够针对每个像素单独地进行导通截止。在图4中,单独地设有使像素A的传输晶体管导通截止的传输布线302、使像素B的传输晶体管导通截止的传输布线312、使像素C的传输晶体管导通截止的传输布线322。对于其他像素D,也设有用于使传输晶体管导通截止的专用的传输布线332。
而且,对于单位区域131中包含的像素的选择晶体管(SEL),也构成为能够针对每个像素单独地进行导通截止。在图4中,单独地设有使像素A的选择晶体管导通截止的选择布线306、使像素B的选择晶体管导通截止的选择布线316、使像素C的选择晶体管导通截止的选择布线326。对于其他像素D,也设有用于使选择晶体管导通截止的专用的选择布线336。
此外,电源布线304对于单位区域131中包含的像素A到像素D共用地连接。同样地,输出布线308对于单位区域131中包含的像素A到像素D共用地连接。另外,电源布线304在多个单位区域间共用地连接,但输出布线308按每个单位区域131而单独地设置。负载电流源309向输出布线308供给电流。负载电流源309可以设在摄像芯片111侧,也可以设在信号处理芯片112侧。
通过使单位区域131的重置晶体管及传输晶体管单独地导通截止,能够对单位区域131中包含的像素A到像素D控制包含电荷的蓄存开始时间、蓄存结束时间、传输定时在内的电荷蓄存。另外,通过使单位区域131的选择晶体管单独地导通截止,能够经由共用的输出布线308输出各像素A到像素D的光电转换信号。
在此,关于单位区域131中包含的像素A到像素D,公知有按规则顺序对行及列进行电荷蓄存的、所谓滚动快门(rolling shutter)方式。若根据滚动快门方式按每行选择像素之后再指定列,则在图4的例子中按“ABCD”的顺序输出光电转换信号。
通过像这样以单位区域131为基准构成电路,能够按每个单位区域131控制电荷蓄存时间。换言之,能够分别输出基于单位区域131间不同的帧频得到的光电转换信号。另外,通过在摄像芯片111中在使一部分的区块中包含的单位区域131进行电荷蓄存(拍摄)的期间使其他区块中包含的单位区域131休止,能够仅通过摄像芯片111的规定区块进行拍摄,并输出其光电转换信号。而且,还能够在帧间对进行电荷蓄存(拍摄)的区块(蓄存控制的对象区块)进行切换,通过摄像芯片111的不同区块依次进行拍摄,并输出光电转换信号。
如上所述,与单位区域131各自对应地设有输出布线308。摄像元件100由于将摄像芯片111、信号处理芯片112及存储芯片113层叠在一起,所以通过对这些输出布线308使用利用了连接部109的芯片间的电连接,而能够不在面方向上增大各芯片地排布布线。
<摄像元件的区块控制>
在本实施方式中,构成为能够按摄像元件32a中的多个区块的每一个来设定摄像条件。控制部34(摄像控制部34c)使上述多个区域与上述区块对应,并使每个区域以设定的摄像条件进行拍摄。
图5是示意性表示被相机1的摄像元件32a成像的被摄体的像的图。相机1在进行拍摄指示之前,对被摄体像进行光电转换来获取实时取景图像。实时取景图像是指以规定帧频(例如60fps)反复进行拍摄的显示用图像。
控制部34在通过设定部34b划分区域之前,对摄像芯片111的整个区域(即摄像画面整体)设定相同摄像条件。相同摄像条件是指对摄像画面整体设定共同的摄像条件,例如即使以APEX值存在小于三级左右的偏差也视为相同。在摄像芯片111的整个区域中设定为相同的摄像条件基于与被摄体亮度的测光值相应的曝光条件、或由用户手动设定的曝光条件来决定。
在图5中,在摄像芯片111的摄像面上成像出包含人61a、汽车62a、包63a、山64a、云65a、66a在内的像。人61a双手捧着包63a。在人61a的右后方停有汽车62a。
<区域的划分>
控制部34基于实时取景图像如以下那样将实时取景图像的画面划分成多个区域。首先,通过物体检测部34a从实时取景图像检测被摄体要素。被摄体要素的检测使用公知的被摄体识别技术。在图5的例子中,物体检测部34a将人61a、汽车62a、包63a、山64a、云65a、云66a检测为被摄体要素。
接着,通过设定部34b将实时取景图像的画面划分为包含上述被摄体要素的区域。在本实施方式中,将包含人61a的区域设为区域61、将包含汽车62a的区域设为区域62、将包含包63a的区域设为区域63、将包含山64a的区域设为区域64、将包含云65a的区域设为区域65、将包含云66a的区域设为区域66来进行说明。
<对每个区块的摄像条件的设定>
当通过设定部34b将画面划分为多个区域后,控制部34使图6例示那样的设定画面显示于显示部35。在图6中,显示有实时取景图像60a,在实时取景图像60a的右侧显示有摄像条件的设定画面70。
在设定画面70中,作为摄像条件的设定项目的一例,从上起按顺序列举帧频、快门速度(TV)、增益(ISO)。帧频是1秒间获取的实时取景图像或由相机1录像的动态图像的帧数。增益是ISO感光度。摄像条件的设定项目也可以在图6所例示的设定项目的基础上适当添加。在设定画面70中无法收纳全部设定项目的情况下,可以使设定项目沿上下滚动来显示其他设定项目。
在本实施方式中,控制部34将通过设定部34b划分出的区域中的、由用户选择的区域设为摄像条件的设定(变更)对象。例如,在能够进行触摸操作的相机1中,用户在显示着实时取景图像60a的显示部35的显示面上,对想要设定(变更)摄像条件的主要被摄体的显示位置进行触摸操作。控制部34在例如人61a的显示位置被触摸操作的情况下,在实时取景图像60a中将包含人61a的区域61设为摄像条件的设定(变更)对象区域,并且将区域61的轮廓强调显示。
在图6中,将轮廓强调显示(粗显示、亮显示、改变颜色地显示,以虚线显示。闪烁显示等)的区域61表示成为摄像条件的设定(变更)对象的区域。在图6的例子中,设为显示有强调区域61的轮廓的实时取景图像60a。该情况下,区域61为摄像条件的设定(变更)对象。例如,在能够进行触摸操作的相机1中,当由用户对快门速度(TV)的显示71进行了点击操作后,控制部34在画面内显示针对强调显示的区域(区域61)的快门速度的当前设定值(附图标记68)。
在以后的说明中,以触摸操作为前提来进行相机1的说明,但也可以通过对构成操作部件36的按钮等的操作来进行摄像条件的设定(变更)。
当快门速度(TV)的上图标71a或下图标71b被用户点击操作后,设定部34b使快门速度的显示68根据上述点击操作而从当前设定值增减,并对摄像部32(图1)发送指示以使得与强调显示的区域(区域61)对应的摄像元件32a的单位区域131(图3)的摄像条件根据上述点击操作而变更。决定图标72是用于对所设定的摄像条件进行确定的操作图标。对于帧频和增益(ISO)的设定(变更),设定部34b与快门速度(TV)的设定(变更)的情况同样地进行。
此外,说明了设定部34b基于用户操作来设定摄像条件,但不限定于此。也可以是,设定部34b不基于用户操作而是根据控制部34的判断来设定摄像条件。例如可以是,在包含图像中的最大亮度或最小亮度的被摄体要素的区域中,在产生了亮白(日文:白飛び)或暗黑(日文:黒つぶれ)的情况下,设定部34b根据控制部34的判断以消除亮白或暗黑的方式来设定摄像条件。
关于没有强调显示的区域(区域61以外的其他区域),维持已设定的摄像条件。
控制部34也可以取代将成为摄像条件的设定(变更)对象的区域的轮廓强调显示,而将对象区域整体明亮显示、或提高对象区域整体的对比度而显示、或使对象区域整体闪烁显示。另外,还可以用框包围对象区域。包围对象区域的框的显示可以是双重框或单重框,也可以适当变更包围的框的线型、颜色、明亮度等显示样态。另外,控制部34还可以进行在对象区域附近进行箭头等指示成为摄像条件的设定对象的区域的显示。控制部34还可以将成为摄像条件的设定(变更)对象的对象区域以外的区域变暗显示,或降低对象区域以外的区域的对比度而显示。
如以上说明那样,在设定了每个区域的摄像条件后,当对构成操作部件36的未图示的释放按钮或指示拍摄开始的显示(释放图标)进行操作时,控制部34通过控制摄像部32,使上述划分出的区域分别以所设定的摄像条件进行拍摄。然后,图像处理部33对由摄像部32获取的图像数据进行图像处理。图像处理如上述那样能够按每个区域以不同的图像处理条件进行。
在基于上述图像处理部33进行图像处理后,从控制部34接收到指示的记录部37将图像处理后的图像数据记录到由未图示的存储卡等构成的记录介质。由此,结束一系列的拍摄处理。
<修正处理>
如上述那样,在本实施方式中构成为,能够在通过设定部34b将摄像画面的区域划分后,对由用户选择的区域或控制部34所判断的区域设定(变更)摄像条件。在划分出的区域中设定了不同的摄像条件的情况下,控制部34根据需要进行以下的修正处理。
1.进行图像处理的情况
图像处理部33(修正部33b)在针对划分出的区域间适用不同的摄像条件而获取的图像数据的图像处理是规定的图像处理的情况下,对位于区域的边界附近的图像数据进行修正处理来作为图像处理的前处理。规定的图像处理是在图像中将成为处理对象的关注位置的图像数据参照关注位置周围的多个参照位置的图像数据而计算出的处理,例如,像素缺陷修正处理、颜色插补处理、轮廓强调处理、减噪处理等与之相符。
修正处理是为了缓解因在划分出的区域间摄像条件不同导致在图像处理后的图像中产生的不连续性而进行的。通常,在关注位置位于划分出的区域的边界附近的情况下,存在在关注位置周围的多个参照位置中混合有被适用与关注位置的图像数据相同的摄像条件得到的图像数据、和被适用与关注位置的图像数据不同的摄像条件得到的图像数据的情况。在本实施方式中,认为与将被适用了不同的摄像条件的参照位置的图像数据直接参照来计算出关注位置的图像数据的情况相比,优选的是参照以抑制因摄像条件的不同导致的图像数据间的差异的方式实施了修正处理后的参照位置的图像数据来计算出关注位置的图像数据,根据该观点,如以下方式进行修正处理。
图7的(a)是例示实时取景图像60a中的区域61与区域64的边界附近的区域80的图。在本例中,设为对至少包含人的区域61设定了第1摄像条件,对包含山的区域64设定了第2摄像条件。图7的(b)是将图7的(a)的边界附近的区域80放大的图。以白底示出来自与被设定了第1摄像条件的区域61对应的摄像元件32a上的像素的图像数据,以网格示出来自与被设定了第2摄像条件的区域64对应的摄像元件32a上的像素的图像数据。在图7的(b)中,来自关注像素P的图像数据位于区域61上且区域61与区域64的边界81的附近部分、即边界部。将以关注像素P为中心的规定范围90(例如3×3像素)所包含的关注像素P周围的像素(在本例中为8像素)设为参照像素。图7的(c)是关注像素P及参照像素的放大图。关注像素P的位置为关注位置,包围关注像素P的参照像素的位置为参照位置。
图像处理部33(生成部33c)通常不进行修正处理而将参照像素的图像数据直接参照来进行图像处理。但是,在关注像素P中适用的摄像条件(设为第1摄像条件)与关注像素P周围的参照像素中适用的摄像条件(设为第2摄像条件)不同的情况下,修正部33b对参照像素的图像数据中的第2摄像条件的图像数据如以下(例1)~(例3)那样进行修正处理。然后,生成部33c参照修正处理后的参照像素的图像数据来进行计算关注像素P的图像数据的图像处理。在图7的(c)中,从以白底示出的像素输出的图像数据为第1摄像条件的图像数据,从以斜线示出的像素输出的图像数据为第2摄像条件的图像数据。
(例1)
例如,在第1摄像条件与第2摄像条件之间仅ISO感光度不同、第1摄像条件的ISO感光度为100而第2摄像条件的ISO感光度为800的情况下,图像处理部33(修正部33b)针对参照像素的图像数据中的第2摄像条件的图像数据,作为修正处理而乘以100/800。由此,减小因摄像条件的不同而导致的图像数据间的差异。
此外,在向关注像素P的入射光量和向参照像素的入射光量相同的情况下图像数据的差异小,但在向关注像素P的入射光量和向参照像素的入射光量本来就不同的情况等下,也存在图像数据的差异不会变小的情况。对于后述的例子也是同样的。
(例2)
例如,在第1摄像条件与第2摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第2摄像条件的快门速度为1/100秒的情况下,图像处理部33(修正部33b)针对参照像素的图像数据中的第2摄像条件的图像数据,作为修正处理而乘以1/1000/1/100=1/10。由此,减小因摄像条件的不同而导致的图像数据间的差异。
(例3)
例如,在第1摄像条件与第2摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第2摄像条件的帧频为60fps的情况下,图像处理部33(修正部33b)针对参照像素的图像数据中的第2摄像条件(60fps)的图像数据,将采用以获取开始定时与第1摄像条件(30fps)获取的帧图像近的帧图像的图像数据这一内容作为修正处理。由此,减小基于摄像条件的不同而导致的图像数据间的差异。
此外,也可以将基于以第2摄像条件(60fps)获取的前后的多个帧图像而对获取开始定时与以第1摄像条件(30fps)获取的帧图像近的帧图像的图像数据进行插补计算这一内容作为修正处理。
另一方面,图像处理部33(修正部33b)在关注像素P中适用的摄像条件(设为第1摄像条件)、和关注像素P周围的全部参照像素中适用的摄像条件(设为第2摄像条件)相同的情况下,不进行针对参照像素的图像数据的修正处理。也就是说,生成部33c将参照像素的图像数据直接参照来进行计算关注像素P的图像数据的图像处理。
此外,如上述那样,即使在摄像条件中稍有差异也视为相同摄像条件。
<图像处理的例示>
对伴随修正处理的图像处理进行例示。
(1)像素缺陷修正处理
在本实施方式中,像素缺陷修正处理为拍摄时进行的图像处理之一。一般,作为固态成像元件的摄像元件32a在制造过程中或制造后会产生像素缺陷,存在输出异常电平的图像数据的情况。因此,图像处理部33(生成部33c)通过对从产生像素缺陷的像素输出的图像数据进行修正,而使产生了像素缺陷的像素位置处的图像数据变得不显著。
说明像素缺陷修正处理的一例。图像处理部33(生成部33c)例如首先在1帧的图像中将预先记录在未图示的非易失性存储器中的像素缺陷的位置的像素设为关注像素P(处理对象像素),将以关注像素P为中心的规定范围90(例如3×3像素)所包含的关注像素P周围的像素(在本例为8像素)设为参照像素。
图像处理部33(生成部33c)计算出参照像素中的图像数据的最大值、最小值,在从关注像素P输出的图像数据超过这些最大值或小于最小值时进行将从关注像素P输出的图像数据置换成上述最大值或最小值的Max,Min滤波处理。针对位置信息被记录于未图示的非易失性存储器的全部像素缺陷进行这样的处理。
在本实施方式中,在被适用了与关注像素P中适用的第1摄像条件不同的第2摄像条件的像素包含于上述参照像素的情况下,图像处理部33(修正部33b)针对被适用了第2摄像条件得到的图像数据进行修正处理。然后,图像处理部33(生成部33c)进行上述的Max,Min滤波处理。
(2)颜色插补处理
在本实施方式中,颜色插补处理是拍摄时进行的图像处理之一。如图3所例示那样,摄像元件100的摄像芯片111中的绿色像素Gb、Gr、蓝色像素B及红色像素R成为拜耳阵列。图像处理部33(生成部33c)在各像素位置与所配置的彩色滤光片F的颜色成分不同的颜色成分的图像数据不足,因此参照周边的像素位置的图像数据来进行生成不足的颜色成分的图像数据的颜色插补处理。
说明颜色插补处理的一例。图8的(a)是例示从摄像元件32a输出的图像数据的排列的图。与各像素位置对应地,遵照拜耳阵列的规则而具有R、G、B中的某一颜色成分。
<G颜色插补>
首先,对普通的G颜色插补进行说明。进行G颜色插补的图像处理部33(生成部33c)将R颜色成分及B颜色成分的位置依次设为关注位置,参照关注位置周围的参照位置的4个G颜色成分的图像数据而生成关注位置处的G颜色成分的图像数据。例如,在图8的(b)的由粗框(从左上位置起数第2行第2列。以后也同样地,以从左上位置起数来表示关注位置)所示的关注位置中生成G颜色成分的图像数据的情况下,参照位于关注位置(第2行第2列)附近的4个G颜色成分的图像数据G1~G4。图像处理部33(生成部33c)将例如(aG1+bG2+cG3+dG4)/4作为关注位置(第2行第2列)处的G颜色成分的图像数据。此外,a~d是根据参照位置与关注位置之间的距离和图像构造而设置的加权系数。
接着,对本实施方式的G颜色插补进行说明。在图8的(a)~
图8的(c)中,设为对相对于粗线的左区域及上区域适用了第1摄像条件,对相对于粗线的右区域及下区域适用了第2摄像条件。此外,在图8的(a)~图8的(c)中,第1摄像条件与第2摄像条件不同。另外,图8的(b)中的G颜色成分的图像数据G1~G4是用于对关注位置(第2行第2列)的像素进行图像处理的参照位置。在图8的(b)中,对关注位置(第2行第2列)适用了第1摄像条件。对参照位置中的图像数据G1~G3适用了第1摄像条件。另外,对参照位置中的图像数据G4适用了第2摄像条件。因此,图像处理部33(修正部33b)对图像数据G4进行修正处理。然后,图像处理部33(生成部33c)计算出关注位置(第2行第2列)处的G颜色成分的图像数据。
图像处理部33(生成部33c)通过在图8的(a)中的B颜色成分的位置及R颜色成分的位置处分别生成G颜色成分的图像数据,如图8的(c)所示,能够在各像素位置得到G颜色成分的图像数据。
<R颜色插补>
图9的(a)是从图8的(a)提取出R颜色成分的图像数据的图。图像处理部33(生成部33c)基于图8的(c)所示的G颜色成分的图像数据和图9的(a)所示的R颜色成分的图像数据,计算出图9的(b)所示的色差成分Cr的图像数据。
首先,对普通的色差成分Cr的插补进行说明。图像处理部33(生成部33c)在例如图9的(b)的由粗框(第2行第2列)所示的关注位置处生成色差成分Cr的图像数据的情况下,参照位于关注位置(第2行第2列)附近的4个色差成分的图像数据Cr1~Cr4。图像处理部33(生成部33c)将例如(eCr1+fCr2+gCr3+hCr4)/4作为关注位置(第2行第2列)处的色差成分Cr的图像数据。此外,e~h是根据参照位置与关注位置之间的距离和图像构造而设置的加权系数。
同样地,图像处理部33(生成部33c)在例如图9的(c)的由粗框(第2行第3列)所示的关注位置处生成色差成分Cr的图像数据的情况下,参照位于关注位置(第2行第3列)附近的4个色差成分的图像数据Cr2、Cr4~Cr6。图像处理部33(生成部33c)将例如(qCr2+rCr4+sCr5+tCr6)/4作为关注位置(第2行第3列)处的色差成分Cr的图像数据。此外,q~t是根据参照位置与关注位置之间的距离和图像构造而设置的加权系数。这样,对于各像素位置而生成色差成分Cr的图像数据。
接着,对本实施方式的色差成分Cr的插补进行说明。在图9的(a)~图9的(c)中,例如,设为对相对于粗线的左区域及上区域适用了第1摄像条件,对相对于粗线的右区域及下区域适用了第2摄像条件。此外,在图9的(a)~图9的(c)中,第1摄像条件与第2摄像条件不同。在图9的(b)中,由粗框(第2行第2列)所示的位置为色差成分Cr的关注位置。另外,图9的(b)中的色差成分的图像数据Cr1~Cr4是用于对关注位置(第2行第2列)的像素进行图像处理的参照位置。在图9的(b)中,对关注位置(第2行第2列)适用了第1摄像条件。对参照位置中的图像数据Cr1、Cr3、Cr4适用了第1摄像条件。另外,对参照位置中的图像数据Cr2适用了第2摄像条件。因此,图像处理部33(修正部33b)针对图像数据Cr2进行修正处理。然后,图像处理部33(生成部33c)计算出关注位置(第2行第2列)处的色差成分Cr的图像数据。
另外,在图9的(c)中,由粗框(第2行第3列)所示的位置为色差成分Cr的关注位置。另外,图9的(c)中的色差成分的图像数据Cr2、Cr4、Cr5、Cr6是用于对关注位置(第2行第3列)的像素进行图像处理的参照位置。在图9的(c)中,对关注位置(第2行第3列)适用了第2摄像条件。对参照位置中的图像数据Cr4、Cr5适用了第1摄像条件。另外,对参照位置中的图像数据Cr2、Cr6适用了第2摄像条件。因此,图像处理部33(修正部33b)针对图像数据Cr4及Cr5分别进行修正处理。然后,图像处理部33(生成部33c)计算出关注位置(第2行第3列)处的色差成分Cr的图像数据。
图像处理部33(生成部33c)在各像素位置处得到色差成分Cr的图像数据后,与各像素位置对应地将图8的(c)所示的G颜色成分的图像数据相加,由此能够在各像素位置处得到R颜色成分的图像数据。
<B颜色插补>
图10的(a)是从图8的(a)提取出B颜色成分的图像数据的图。图像处理部33(生成部33c)基于图8的(c)所示的G颜色成分的图像数据和图10的(a)所示的B颜色成分的图像数据,计算出图10的(b)所示的色差成分Cb的图像数据。
首先,对普通的色差成分Cb的插补进行说明。图像处理部33(生成部33c)在例如图10的(b)的由粗框(第3行第3列)所示的关注位置处生成色差成分Cb的图像数据的情况下,参照位于关注位置(第3行第3列)附近的4个色差成分的图像数据Cb1~Cb4。图像处理部33(生成部33c)将例如(uCb1+vCb2+wCb3+xCb4)/4作为关注位置(第3行第3列)处的色差成分Cb的图像数据。此外,u~x是根据参照位置与关注位置之间的距离和图像构造而设置的加权系数。
同样地,图像处理部33(生成部33c)在例如图10的(c)的由粗框(第3行第4列)所示的关注位置处生成色差成分Cb的图像数据的情况下,参照位于关注位置(第3行第4列)附近的4个色差成分的图像数据Cb2、Cb4~Cb6。图像处理部33(生成部33c)将例如(yCb2+zCb4+αCb5+βCb6)/4作为关注位置(第3行第4列)处的色差成分Cb的图像数据。此外,y、z、α、β是根据参照位置与关注位置之间的距离和图像构造而设置的加权系数。这样,对于各像素位置生成了色差成分Cb的图像数据。
接着,对本实施方式的色差成分Cb的插补进行说明。在图10的(a)~图10的(c)中,例如,设为对相对于粗线的左区域及上区域适用了第1摄像条件,对相对于粗线的右区域及下区域适用了第2摄像条件。此外,在图10的(a)~图10的(c)中,第1摄像条件与第2摄像条件不同。在图10的(b)中,由粗框(第3行第3列)所示的位置为色差成分Cb的关注位置。另外,图10的(b)中的色差成分的图像数据Cb1~Cb4是用于对关注位置(第3行第3列)的像素进行图像处理的参照位置。在图10的(b)中,对关注位置(第3行第3列)适用了第2摄像条件。对参照位置中的图像数据Cb1、Cb3适用了第1摄像条件。另外,对参照位置中的图像数据Cb2、Cb4适用了第2摄像条件。因此,图像处理部33(修正部33b)针对数据Cb1及Cb3分别进行修正处理。然后,图像处理部33(生成部33c)计算出关注位置(第3行第3列)处的色差成分Cb的图像数据。
另外,在图10的(c)中,由粗框(第3行第4列)所示的位置为色差成分Cb的关注位置。另外,图10的(c)中的色差成分的图像数据Cb2、Cb4~Cb6是用于对关注位置(第3行第4列)的像素进行图像处理的参照位置。在图10的(c)中,对关注位置(第3行第4列)适用了第2摄像条件。另外,对全部参照位置的图像数据Cb2、Cb4~Cb6适用了第2摄像条件。因此,图像处理部33(生成部33c)参照未由图像处理部33(修正部33b)进行修正处理的参照位置的图像数据Cb2、Cb4~Cb6,计算出关注位置(第3行第4列)处的色差成分Cb的图像数据。
图像处理部33(生成部33c)在各像素位置处得到色差成分Cb的图像数据后,与各像素位置对应地将图8的(c)所示的G颜色成分的图像数据相加,由此能够在各像素位置处得到B颜色成分的图像数据。
此外,在上述“G颜色插补”中,例如,在图8的(b)的由粗框(第2行第2列)所示的关注位置处生成G颜色成分的图像数据的情况下,参照位于关注位置附近的4个G颜色成分的图像数据G1~G4,但也可以根据图像构造而变更要参照的G颜色成分的图像数据的数量。例如,在关注位置附近的图像沿纵向具有类似性(例如,纵条纹的图案)的情况下,仅使用关注位置的上下的图像数据(图8的(b)的G1和G2)进行插补处理。另外,例如,在关注位置附近的图像沿横向具有类似性(例如,横条纹的图案)的情况下,仅使用关注位置的左右的图像数据(图8的(b)的G3和G4)进行插补处理。这些情况中,对于由修正部33b进行修正的图像数据G4,具有使用的情况和不使用的情况。
(3)轮廓强调处理
说明轮廓强调处理的一例。图像处理部33(生成部33c)例如在1帧的图像中,进行使用了以关注像素P(处理对象像素)为中心的规定大小的卷积核(kernel)的、公知的线性滤波(Linear filter)运算。在作为线性滤波器的一例的锐化滤波器的卷积核大小为N×N像素的情况下,关注像素P的位置为关注位置,包围关注像素P的(N2-1)个的参照像素的位置为参照位置。
此外,卷积核大小也可以为N×M像素。
图像处理部33(生成部33c)从例如帧图像的上部的水平行朝向下部的水平行,在各水平行上一边从左向右错开关注像素一边进行滤波处理,在滤波处理中,将关注像素P中的图像数据置换成线性滤波运算结果。
在本实施方式中,在被适用了与关注像素P中适用的第1摄像条件不同的第2摄像条件的像素包含于上述参照像素的情况下,图像处理部33(修正部33b)针对被适用了第2摄像条件得到的图像数据进行修正处理。然后,图像处理部33(生成部33c)进行上述的线性滤波处理。
(4)减噪处理
对减噪处理的一例进行说明。图像处理部33(生成部33c)在例如1帧的图像中,进行使用了以关注像素P(处理对象像素)为中心的规定大小的卷积核的、公知的线性滤波(Linear filter)运算。在作为线性滤波器的一例的平滑化滤波器的卷积核大小为N×N像素的情况下,关注像素P的位置为关注位置,包围关注像素P的(N2-1)个的参照像素的位置为参照位置。
此外,卷积核大小也可以为N×M像素。
图像处理部33(生成部33c)从例如帧图像的上部的水平行朝向下部的水平行,在各水平行上一边从左向右错开关注像素一边进行滤波处理,在滤波处理中将关注像素P中的图像数据置换成线性滤波运算结果。
在本实施方式中,图像处理部33(修正部33b)在被适用了与关注像素P中适用的第1摄像条件不同的第2摄像条件的像素包含于上述参照像素的情况下,针对被适用了第2摄像条件得到的图像数据进行修正处理。然后,图像处理部33(生成部33c)进行上述的线性滤波处理。
2.进行焦点检测处理的情况
控制部34(AF运算部34d)使用与摄像画面的规定位置(焦点检测位置)对应的信号数据(图像数据)来进行焦点检测处理。在划分出的区域间设定了不同的摄像条件、且AF动作的焦点检测位置位于划分出的区域的边界部分的情况下,控制部34(AF运算部34d)至少针对一个区域的焦点检测用的信号数据进行修正处理来作为焦点检测处理的前处理。
修正处理是为了抑制因在设定部34b所划分出的摄像画面的区域间摄像条件不同导致焦点检测处理的精度降低而进行的。例如,在图像中检测像偏移量(相位差)的焦点检测位置的焦点检测用的信号数据位于划分出的区域的边界附近的情况下,存在在焦点检测用的信号数据中混合有被适用了不同摄像条件得到的信号数据的情况。在本实施方式中,与将被适用了不同摄像条件得到的信号数据直接使用来进行像偏移量(相位差)的检测的情况相比,优选使用以抑制因摄像条件不同导致信号数据间的差异的方式实施了修正处理后的信号数据来进行像偏移量(相位差)的检测,基于该观点,如以下那样进行修正处理。
<焦点检测处理的例示>
对伴随修正处理的焦点检测处理进行例示。本实施方式的AF动作例如使焦点对合于与由用户从摄像画面的多个焦点检测位置中选择的焦点检测位置对应的被摄体。控制部34(AF运算部34d(生成部))检测由从摄像光学***31的不同光瞳区域通过的光束产生的多个被摄体像的像偏移量(相位差),由此计算出摄像光学***31的离焦量。控制部34(AF运算部34d)使摄像光学***31的聚焦透镜向离焦量成为零(容许值以下)的位置、即对焦位置移动。
图11是例示摄像元件32a的摄像面中的焦点检测用像素的位置的图。在本实施方式中,沿着摄像芯片111的X轴方向(水平方向)离散地并列设有焦点检测用像素。在图11的例子中,以规定间隔设有15条焦点检测像素行160。构成焦点检测像素行160的焦点检测用像素输出焦点检测用的光电转换信号。在摄像芯片111中在焦点检测像素行160以外的像素位置设有普通的摄像用像素。摄像用像素输出实时取景图像、记录用的光电转换信号。
图12是将与图11所示的焦点检测位置80A对应的上述焦点检测像素行160的一部分区域放大的图。在图12中,例示了红色像素R、绿色像素G(Gb、Gr)及蓝色像素B、焦点检测用像素S1及焦点检测用像素S2。红色像素R、绿色像素G(Gb、Gr)及蓝色像素B遵照上述的拜耳阵列的规则配置。
例示出了红色像素R、绿色像素G(Gb、Gr)及蓝色像素B的正方形状的区域表示摄像用像素的受光区域。各摄像用像素接收从摄像光学***31(图1)的射出光瞳通过的光束。即,红色像素R、绿色像素G(Gb、Gr)及蓝色像素B分别具有正方形状的掩膜开口部,从这些掩膜开口部通过的光到达摄像用像素的受光部。
此外,红色像素R、绿色像素G(Gb、Gr)及蓝色像素B的受光区域(掩膜开口部)的形状不限于四边形,也可以是例如圆形。
例示出了焦点检测用像素S1及焦点检测用像素S2的半圆形状的区域表示焦点检测用像素的受光区域。即,焦点检测用像素S1在图12中在像素位置的左侧具有半圆形状的掩膜开口部,从该掩膜开口部通过的光到达焦点检测用像素S1的受光部。另一方面,焦点检测用像素S2在图12中在像素位置的右侧具有半圆形状的掩膜开口部,从该掩膜开口部通过的光到达焦点检测用像素S2的受光部。像这样,焦点检测用像素S1及焦点检测用像素S2分别接收从摄像光学***31(图1)的射出光瞳的不同区域通过的一对光束。
此外,摄像芯片111中的焦点检测像素行160的位置不限定于图11所例示的位置。另外,关于焦点检测像素行160的数量,也不限定于图11的例子。而且,焦点检测用像素S1及焦点检测用像素S2中的掩膜开口部的形状不限定于半圆形,也可以是例如将摄像用像素R、摄像用像素G、摄像用像素B中的四边形状受光区域(掩膜开口部)沿横向划分的长方形状。
另外,摄像芯片111中的焦点检测像素行160也可以沿着摄像芯片111的Y轴方向(铅垂方向)并列设置焦点检测用像素。如图12那样将摄像用像素和焦点检测用像素以二维状排列的摄像元件是公知的,省略这些像素的详细图示及说明。
此外,在图12的例子中,说明了焦点检测用像素S1、S2分别接收焦点检测用的一对光束中的一方的结构、即所谓1PD构造。但也可以取而代之,而为焦点检测用像素分别接收焦点检测用的一对光束双方的结构、即所谓2PD构造。通过成为2PD构造,能够将由焦点检测用像素得到的光电转换信号用作记录用的光电转换信号。
控制部34(AF运算部34d)基于从焦点检测用像素S1及焦点检测用像素S2输出的焦点检测用的光电转换信号,对由从摄像光学***31(图1)的不同区域通过的一对光束导致的一对像的像偏移量(相位差)进行检测。然后,基于像偏移量(相位差)计算出离焦量。这样的基于光瞳划分相位差方式的离焦量运算在相机领域中是公知的,因此省略详细的说明。
设为焦点检测位置80A(图11)在图7的(a)所例示的实时取景图像60a中,在与区域61的边界附近的区域80对应的位置被用户选择。图13是将焦点检测位置80A放大的图。白底的像素表示设定了第1摄像条件,网格的像素表示设定了第2摄像条件。在图13中被框170包围的位置与焦点检测像素行160(图11)对应。
控制部34(AF运算部34d)通常不进行修正处理而将基于框170所示的焦点检测用像素得到的信号数据直接使用来进行焦点检测处理。但是,在框170所包围的信号数据中混合有被适用了第1摄像条件得到的信号数据和被适用了第2摄像条件得到的信号数据的情况下,控制部34(AF运算部34d)针对框170所包围的信号数据中的第2摄像条件的信号数据,如以下(例1)~(例3)那样进行修正处理。然后,控制部34(AF运算部34d)使用修正处理后的信号数据来进行焦点检测处理。
(例1)
例如,在第1摄像条件与第2摄像条件之间仅ISO感光度不同、第1摄像条件的ISO感光度为100而第2摄像条件的ISO感光度为800的情况下,控制部34(AF运算部34d)针对第2摄像条件的信号数据,作为修正处理而乘以100/800。由此,减小因摄像条件的不同而导致的信号数据间的差异。
此外,在向被适用了第1摄像条件的像素的入射光量和向被适用了第2摄像条件的像素的入射光量相同的情况下信号数据的差异小,但也存在在向被适用了第1摄像条件的像素的入射光量和向被适用了第2摄像条件的像素的入射光量本来就不同的情况等下,信号数据的差异不小的情况。对于后述的例子也是同样的。
(例2)
例如,在第1摄像条件与第2摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第2摄像条件的快门速度为1/100秒的情况下,控制部34(AF运算部34d)针对第2摄像条件的信号数据,作为修正处理而乘以1/1000/1/100=1/10。由此,减小因摄像条件的不同而导致的信号数据间的差异。
(例3)
例如,在第1摄像条件与第2摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第2摄像条件的帧频为60fps的情况下,控制部34(AF运算部34d)针对第2摄像条件(60fps)的信号数据,将采用获取开始定时与以第1摄像条件(30fps)获取的帧图像近的帧图像的图像数据这一内容作为修正处理。由此,减小因摄像条件的不同而导致的图像数据间的差异。
此外,也可以将基于以第2摄像条件(60fps)获取的前后的多个帧图像而对获取开始定时与以第1摄像条件(30fps)获取的帧图像近的帧图像的图像数据进行插补计算这一内容作为修正处理。
另一方面,控制部34(AF运算部34d)在框170所包围的信号数据中适用的摄像条件相同的情况下不进行上述修正处理。也就是说,控制部34(AF运算部34d)将基于框170所示的焦点检测用像素得到的信号数据直接使用来进行焦点检测处理。
此外,如上述那样,即使在摄像条件中稍有差异也视为相同摄像条件。
另外,在上述的例子中,说明了针对信号数据中的第2摄像条件的信号数据而利用第1摄像条件进行修正处理的例子,但也可以针对信号数据中的第1摄像条件的信号数据而利用第2摄像条件进行修正处理。
控制部34(AF运算部34d)可以例如基于ISO感光度来决定是对第1摄像条件的信号数据进行修正处理还是对第2摄像条件的信号数据进行修正处理。在第1摄像条件和第2摄像条件中ISO感光度不同的情况下,期望若在ISO感光度较高的摄像条件下得到的信号数据没有饱和,则针对在ISO感光度较低的摄像条件下得到的信号数据进行修正处理。即,在第1摄像条件和第2摄像条件中ISO感光度不同的情况下,期望以减小与较亮的信号数据之差的方式对较暗的信号数据进行修正处理。
另外,也可以对信号数据中的第1摄像条件的信号数据及第2摄像条件的信号数据分别进行修正处理,由此减小修正处理后的双方的信号数据间的差。
在以上说明中,例示了使用光瞳划分相位差方式的焦点检测处理,但在基于被摄体像的对比度的大小而使摄像光学***31的聚焦透镜向对焦位置移动的对比度检测方式的情况下也能够同样地进行。
在使用对比度检测方式的情况下,控制部34一边使摄像光学***31的聚焦透镜移动,一边在聚焦透镜的各个位置基于从与焦点检测位置对应的摄像元件32a的摄像用像素输出的信号数据来进行公知的焦点评估值运算。然后,求出焦点评估值最大的聚焦透镜的位置来作为对焦位置。
控制部34通常不进行修正处理而将从与焦点检测位置对应的摄像用像素输出的信号数据直接使用来进行焦点评估值运算。但是,在与焦点检测位置对应的信号数据中混合有被适用了第1摄像条件得到的信号数据和被适用了第2摄像条件得到的信号数据的情况下,控制部34对与焦点检测位置对应的信号数据中的第2摄像条件的信号数据进行上述那样的修正处理。然后,控制部34使用修正处理后的信号数据来进行焦点评估值运算。
3.进行被摄体检测处理的情况
图14的(a)是例示表示想要检测的对象物的模板图像的图,图14的(b)是例示实时取景图像60(a)及搜索范围190的图。控制部34(物体检测部34a)从实时取景图像检测对象物(例如,图5的作为被摄体要素之一的包63a)。控制部34(物体检测部34a)可以将检测对象物的范围设为实时取景图像60a的整个范围,但也可以为了减轻检测处理而将实时取景图像60a的一部分设为搜索范围190。
控制部34(物体检测部34a)在划分出的区域间设定了不同的摄像条件,且在搜索范围190包含被划分出的区域的边界的情况下,针对搜索范围190内的至少一个区域的图像数据进行修正处理来作为被摄体检测处理的前处理。
修正处理是为了抑制因在设定部34b所划分出的摄像画面的区域间摄像条件不同导致被摄体要素的检测处理的精度降低而进行的。通常,在用于检测被摄体要素的搜索范围190中包含被划分出的区域的边界的情况下,存在搜索范围190的图像数据中混合有被适用了不同的摄像条件得到的图像数据的情况。在本实施方式中,与将被适用了不同的摄像条件得到的图像数据直接使用来进行被摄体要素的检测的情况相比,优选使用以抑制因摄像条件不同导致的图像数据间的差异的方式实施了修正处理后的图像数据来进行被摄体要素的检测,基于该观点,如以下那样进行修正处理。
说明在图5所例示的实时取景图像60a中,检测作为人61a的所持物的包63a的情况。控制部34(物体检测部34a)在包含人61a的区域附近设定搜索范围190。此外,也可以将包含人61a的区域61设定为搜索范围。
在搜索范围190没有被摄像条件不同的两个区域分割的情况下,控制部34(物体检测部34a)不进行修正处理而将构成搜索范围190的图像数据直接使用来进行被摄体检测处理。但是,假设在搜索范围190的图像数据中混合有被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况下,控制部34(物体检测部34a)针对搜索范围190的图像数据中的第2摄像条件的图像数据,作为进行焦点检测处理的情况而如上述(例1)~(例3)那样进行修正处理。然后,控制部34(物体检测部34a)使用修正处理后的图像数据来进行被摄体检测处理。
此外,如上述那样,即使摄像条件中稍有差异也视为相同摄像条件。
另外,在上述的例子中,说明了针对图像数据中的第2摄像条件的图像数据而利用第1摄像条件进行修正处理的例子,但也可以针对图像数据中的第1摄像条件的图像数据而利用第2摄像条件进行修正处理。
上述的针对搜索范围190的图像数据的修正处理也能够对用于检测人脸这样的特定被摄体的搜索范围、用于判定摄像场景的区域适用。
另外,上述的针对搜索范围190的图像数据的修正处理不限于在使用模板图像的模式匹配(pattern matching)法中使用的搜索范围,也可以同样地适用于对基于图像的颜色和/或边缘等的特征量进行检测时的搜索范围。
另外,也可以适用于移动体的追踪处理、即通过使用获取时刻不同的多帧的图像数据来实施公知的模板匹配处理,而从之后获取的帧图像搜索与在先获取的帧图像中的追踪对象物类似的区域。在该情况下,控制部34在对之后获取的帧图像设定的搜索范围中混合有被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况下,针对搜索范围的图像数据中的第2摄像条件的图像数据,如上述(例1)~(例3)那样进行修正处理。然后,控制部34使用修正处理后的图像数据来进行追踪处理。
另外,在使用获取时刻不同的多帧的图像数据来检测公知的移动矢量的情况下也是同样的。控制部34在用于检测移动矢量的检测区域中混合有被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况下,针对用于检测移动矢量的检测区域的图像数据中的第2摄像条件的图像数据,如上述(例1)~(例3)那样进行修正处理。然后,控制部34使用修正处理后的图像数据来检测移动矢量。
4.设定摄像条件的情况
控制部34(设定部34b)将摄像画面的区域划分,在以划分出的区域间设定了不同的摄像条件的状态重新测光并决定曝光条件的情况下,至少针对一个区域的图像数据进行修正处理来作为设定曝光条件的前处理。
修正处理是为了抑制因在设定部34b所划分出的摄像画面的区域间摄像条件不同导致决定曝光条件的处理的精度降低而进行的。例如,在对摄像画面的中央部设定的测光范围包含被划分出的区域的边界的情况下,存在测光范围的图像数据中混合有被适用了不同的摄像条件得到的图像数据的情况。在本实施方式中,与将被适用了不同的摄像条件得到的图像数据直接使用来进行曝光运算处理的情况相比,优选使用以抑制因摄像条件不同导致的图像数据间的差异而实施了修正处理后的图像数据来进行曝光运算处理,基于该观点,如以下那样进行修正处理。
控制部34(设定部34b)在测光范围没有被摄像条件不同的多个区域分割的情况下,不进行修正处理而将构成测光范围的图像数据直接使用来进行曝光运算处理。但是,在假设测光范围的图像数据中混合有被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况下,控制部34(设定部34b)针对测光范围的图像数据中的第2摄像条件的图像数据,作为进行焦点检测处理、被摄体检测处理的情况而如上述(例1)~(例3)那样进行修正处理。然后,控制部34(设定部34b)使用修正处理后的图像数据来进行曝光运算处理。
此外,如上述那样,即使在摄像条件中稍有差异也视为相同摄像条件。
另外,在上述的例子中,说明了针对图像数据中的第2摄像条件的图像数据而利用第1摄像条件进行修正处理的例子,但也可以针对图像数据中的第1摄像条件的图像数据而利用第2摄像条件进行修正处理。
并不限于上述的进行曝光运算处理时的测光范围,在决定白平衡调整值时进行的测光(测色)范围、在决定是否需要基于发出摄影辅助光的光源发出的摄影辅助光时进行的测光范围、以及在决定基于上述光源发出的摄影辅助光的发光量时进行的测光范围中也是同样的。
另外,在将摄像画面划分出的区域间使光电转换信号的读出析像度不同的情况下,也能够针对在决定每个区域的读出析像度时进行的、摄像场景的判定中使用的区域同样地进行处理。
<流程图的说明>
图15是说明按每个区域设定摄像条件来进行拍摄的处理的流程的流程图。当相机1的主开关被ON操作时,控制部34使执行图15所示的处理的程序启动。在步骤S10中,控制部34在显示部35上开始实时取景显示,之后进入到步骤S20。
具体地说,控制部34对摄像部32指示开始获取实时取景图像,并将获取到的实时取景图像依次显示到显示部35。如上述那样,在该时间点对摄像芯片111的整个区域、即画面整体设定了相同的摄像条件。
此外,在实时取景显示中实施了进行AF动作的设定的情况下,控制部34(AF运算部34d)通过进行焦点检测处理,来控制将焦点对合于与规定的焦点检测位置对应的被摄体要素的AF动作。AF运算部34d根据需要在进行上述修正处理之后进行焦点检测处理。
另外,在实时取景显示中没有实施进行AF动作的设定的情况下,控制部34(AF运算部34d)在之后被指示AF动作的时间点进行AF动作。
在步骤S20中,控制部34(物体检测部34a)从实时取景图像检测被摄体要素,之后进入到步骤S30。物体检测部34a根据需要在进行上述修正处理之后进行被摄体检测处理。在步骤S30中,控制部34(设定部34b)将实时取景图像的画面划分为包含被摄体要素的区域,之后进入到步骤S40。
在步骤S40中,控制部34在显示部35上进行区域的显示。控制部34如图6所例示那样,对划分出的区域中的成为摄像条件的设定(变更)对象的区域进行强调显示。另外,控制部34使摄像条件的设定画面70显示于显示部35,之后进入到步骤S50。
此外,控制部34在显示画面上的其他主要被摄体的显示位置被用户的手指点击操作的情况下,将包含该主要被摄体的区域变更为成为摄像条件的设定(变更)对象的区域并进行强调显示。
在步骤S50中,控制部34判定是否需要AF动作。控制部34例如在由于被摄体移动而焦点调节状态发生了变化的情况、通过用户操作而变更了焦点检测位置的位置的情况、或通过用户操作而指示了AF动作的执行的情况下,对步骤S50进行肯定判定并进入到步骤S70。控制部34在焦点调节状态没有变化、没有通过用户操作变更焦点检测位置的位置、也没有通过用户操作指示AF动作的执行的情况下,对步骤S50进行否定判定并进入到步骤60。
在步骤S70中,控制部34进行AF动作之后返回到步骤S40。AF运算部34d根据需要在进行上述修正处理之后进行作为AF动作的焦点检测处理。返回到步骤S40的控制部34基于AF动作后获取的实时取景图像,重复进行与上述的处理相同的处理。
在步骤S60中,控制部34(设定部34b)根据用户操作,设定对于强调显示的区域的摄像条件,之后进入到步骤S80。此外,关于步骤S60中的与用户操作相应的、显示部35的显示变化或摄像条件的设定,如上所述。控制部34(设定部34b)根据需要在进行上述修正处理之后进行曝光运算处理。
在步骤S80中,控制部34判定有无拍摄指示。控制部34在构成操作部件36的未图示的释放按钮、或指示拍摄的显示图标***作了的情况下,对步骤S80进行肯定判定并进入到步骤S90。控制部34在没有进行拍摄指示的情况下,对步骤S80进行否定判定并返回到步骤S60。
在步骤S90中,控制部34进行规定的拍摄处理。即,摄像控制部34c以按每个上述区域设定的摄像条件进行拍摄的方式对摄像元件32a进行控制,之后进入到步骤S100。
在步骤S100中,控制部34(摄像控制部34c)向图像处理部33发送指示,对通过上述拍摄得到的图像数据进行规定的图像处理,之后进入到步骤S110。图像处理包含上述像素缺陷修正处理、颜色插补处理、轮廓强调处理、减噪处理。
此外,图像处理部33(修正部33b)根据需要在对位于区域的边界附近的图像数据进行修正处理之后进行图像处理。
在步骤S110中,控制部34向记录部37发送指示,将图像处理后的图像数据记录到未图示的记录介质中,之后进入到步骤S120。
在步骤S120中,控制部34判断是否进行了结束操作。控制部34在进行了结束操作的情况下对步骤S120进行肯定判定并结束图15的处理。控制部34在没有进行结束操作的情况下,对步骤S120进行否定判定并返回到步骤S20。在返回到步骤S20的情况下,控制部34重复进行上述的处理。
在以上说明中,作为摄像元件32a而例示了层叠型的摄像元件100,但只要能够按摄像元件(摄像芯片111)中多个区块中的每一个设定摄像条件,则不必一定构成为层叠型的摄像元件。
根据以上说明的第1实施方式,得到以下的作用效果。
(1)具备图像处理装置的相机1具有:控制部34(设定部34b),其将摄像部32的第1区域的摄像条件设定成与摄像部32的第2区域的摄像条件不同;图像处理部33(修正部33b),其基于由设定部34b设定的第2区域的摄像条件,来修正以由设定部34b设定的摄像条件对入射到第1区域的光进行拍摄而生成的第1图像数据;图像处理部33(生成部33c),其根据由修正部33b修正后的第1图像数据、和对入射到第2区域的光进行拍摄而生成的第2图像数据来生成图像。由此,能够在摄像条件不同的区域中分别适当地进行处理。即,能够适当地生成基于在各区域中分别生成的图像数据得到的图像。例如,能够抑制因每个区域的摄像条件的不同而导致所生成的图像中显现的不连续性和不协调感。
(2)由于相机1的修正部33b以第1图像数据的值与第2图像数据的值之差减小的方式对第1图像数据进行修正,因此能够在摄像条件不同的区域分别适当地进行处理。
(3)相机1的修正部33b基于第1区域的摄像条件与第2区域的摄像条件的不同来修正第1图像数据,因此能够在摄像条件不同的区域分别适当地进行处理。
(4)也可以是,相机1的修正部33b基于由设定部34b设定的第1区域的摄像条件来修正第2图像数据,生成部33c根据由修正部33b修正后的第1图像数据、和由修正部33b修正后的第2图像数据来生成图像。这样也能够在摄像条件不同的区域分别适当地进行处理。
(5)也可以是,相机1的修正部33b根据第1图像数据来修正第2图像数据,生成部33c根据由修正部33b修正后的第1图像数据、和由修正部33b修正后的第2图像数据来生成图像。这样也能够在摄像条件不同的区域分别适当地进行处理。
(6)由于相机1的生成部33c使用由修正部33b修正后的第1图像数据对第2图像数据实施图像处理,因此能够在摄像条件不同的区域分别适当地进行处理。
(7)由于相机1的生成部33c使用由修正部33b修正后的第1图像数据的值来变更第2图像数据的值,因此能够在摄像条件不同的区域分别适当地进行处理。
(8)由于相机1的生成部33c将第2图像数据的值置换成由修正部33b修正后的第1图像数据的值,因此能够在摄像条件不同的区域分别适当地进行处理。
(9)由于相机1的生成部根据第2图像数据和由修正部33b修正后的第1图像数据来生成第3图像数据,因此能够在摄像条件不同的区域分别适当地进行处理。
(10)相机1的设定部34b作为摄像部32的第1区域的摄像条件而将摄像感光度设定为第1摄像感光度,作为摄像部32的第2区域的摄像条件而将摄像感光度设定为与第1摄像感光度不同的第2摄像感光度,修正部33b基于第1摄像感光度及第2摄像感光度之差来修正根据由设定部34b设定的摄像条件进行拍摄而生成的第1图像数据。由此,能够在摄像感光度不同的区域分别适当地进行处理。
也可以构成为能够切换将上述修正处理作为前处理进行的模式1、和不将修正处理作为前处理进行的模式2。在选择了模式1的情况下,控制部34在进行上述前处理的基础上进行图像处理等处理。另一方面,在选择了模式2的情况下,控制部34不进行上述前处理地进行图像处理等处理。例如,在被检测为被摄体要素的面部的一部分存在阴影的情况下,以面部的阴影部分的亮度成为与面部的阴影以外的部分的亮度相同程度的方式,以使包含面部的阴影部分的区域的摄像条件和包含面部的阴影以外的部分的区域的摄像条件不同的设定进行拍摄而生成图像,若在对该图像进行修正处理之后进行颜色插补处理,则存在因所设定的摄像条件的不同而对阴影部分进行非意图的颜色插补的情况。通过构成为能够切换模式1和模式2以使得不进行修正处理而能够直接使用图像数据来进行颜色插补处理,从而能够避免非意图的颜色插补。
---第1实施方式的变形例---
以下那样的变形也在本发明的范围内,还能够将一个或多个变形例与上述实施方式组合。
(变形例1)
图16的(a)~图16的(c)是例示摄像元件32a的摄像面中的第1区域及第2区域的配置的图。根据图16的(a)的例子,第1区域由偶数列构成,第2区域由奇数列构成。即,摄像面被划分为偶数列和奇数列。
根据图16的(b)的例子,第1区域由奇数行构成,第2区域由偶数行构成。即,摄像面被划分为奇数行和偶数行。
根据图16的(c)的例子,第1区域由奇数列中的偶数行的区块和偶数列中的奇数行的区块构成。另外,第2区域由偶数列中的偶数行的区块和奇数列中的奇数行的区块构成。即,摄像面被划分成方格花纹状。
在图16的(a)~图16的(c)中的任一情况下,也是根据从进行1帧拍摄的摄像元件32a读出的光电转换信号,分别生成基于从第1区域读出的光电转换信号得到的第1图像、及基于从第2区域读出的光电转换信号得到的第2图像。根据变形例1,第1图像及第2图像被以相同的视场角拍摄,包含共同的被摄体像。
在变形例1中,控制部34将第1图像用于显示,并且将第2图像用于检测。具体地说,控制部34将第1图像作为实时取景图像而显示于显示部35。另外,控制部34通过物体检测部34a并使用第2图像进行被摄体检测处理,通过AF运算部34并使用第2图像进行焦点检测处理,通过设定部34b并使用第2图像进行曝光运算处理。
在变形例1中,将对拍摄第1图像的第1区域设定的摄像条件称为第1摄像条件,将对拍摄第2图像的第2区域设定的摄像条件称为第2摄像条件。控制部34可以使第1摄像条件和第2摄像条件不同。
1.作为一例,控制部34将第1摄像条件设定为适于由显示部35进行的显示的条件。例如,使对第1区域设定的第1摄像条件在摄像画面的第1区域的整体中相同。另一方面,控制部34将对第2区域设定的第2摄像条件设定为适于焦点检测处理、被摄体检测处理及曝光运算处理的条件。第2摄像条件在摄像画面的第2区域的整体中相同。
此外,在适于焦点检测处理、被摄体检测处理及曝光运算处理的条件分别不同的情况下,控制部34也可以使对第2区域设定的第2摄像条件按每帧而不同。例如,将第1帧的第2摄像条件设为适于焦点检测处理的条件,将第2帧的第2摄像条件设为适于被摄体检测处理的条件,将第3帧的第2摄像条件设为适于曝光运算处理的条件。在这些情况下,使各帧中的第2摄像条件在摄像画面的第2区域的整体中相同。
2.作为其他一例,控制部34也可以使对第1区域设定的第1摄像条件根据区域而不同。控制部34(设定部34b)按设定部34b所划分出的包含被摄体要素的每个区域设定不同的第1摄像条件。另一方面,控制部34使对第2区域设定的第2摄像条件在摄像画面的第2区域的整体中相同。控制部34将第2摄像条件设定为适于焦点检测处理、被摄体检测处理及曝光运算处理的条件,但在适于焦点检测处理、被摄体检测处理及曝光运算处理的条件分别不同的情况下,可以使对第2区域设定的摄像条件按每帧而不同。
3.另外,作为其他一例,控制部34也可以使对第1区域设定的第1摄像条件在摄像画面的第1区域的整体中相同,另一方面,使对第2区域设定的第2摄像条件在摄像画面中不同。例如,按设定部34b所划分出的包含被摄体要素的每个区域而设定不同的第2摄像条件。在该情况下,也可以在适于焦点检测处理、被摄体检测处理及曝光运算处理的条件分别不同的情况下,使对第2区域设定的摄像条件按每帧而不同。
4.另外,作为其他一例,控制部34使对第1区域设定的第1摄像条件在摄像画面中不同,并且使对第2区域设定的第2摄像条件在摄像画面中不同。例如,按设定部34b所划分出的包含被摄体要素的每个区域设定不同的第1摄像条件,并且按设定部34b所划分出的包含被摄体要素的每个区域设定不同的第2摄像条件。
在图16的(a)~图16的(c)中,也可以使第1区域与第2区域的面积比不同。控制部34例如基于用户操作或控制部34的判断,将第1区域的比率设定得比第2区域高、或将第1区域与第2区域的比率如图16的(a)~图16的(c)所例示那样设定为同等、或将第1区域的比率设定得比第2区域低。通过在第1区域和第2区域中使面积比不同,能够使第1图像比第2图像高精细、或使第1图像及第2图像的析像度同等、或使第2图像比第1图像高精细。
(变形例2)
关于进行图像处理的情况下的修正处理,在关注位置中适用的摄像条件(设为第1摄像条件)和在关注位置周围的参照位置中适用的摄像条件(设为第2摄像条件)不同的情况下,图像处理部33(修正部33b)基于第1摄像条件来修正第2摄像条件的图像数据(参照位置的图像数据中的第2摄像条件的图像数据)。即,通过对参照位置的第2摄像条件的图像数据进行修正处理,来缓解基于第1摄像条件与第2摄像条件的差异导致的图像的不连续性。
取而代之,在变形例2中也可以是,图像处理部33(修正部33b)基于第2摄像条件来修正第1摄像条件的图像数据(关注位置的图像数据和参照位置的图像数据中的第1摄像条件的图像数据)。在该情况下,也能够缓解基于第1摄像条件与第2摄像条件的差异导致的图像的不连续性。
或者也可以是,图像处理部33(修正部33b)对第1摄像条件的图像数据及第2摄像条件的图像数据双方进行修正。即,也可以是,通过对第1摄像条件的关注位置的图像数据、参照位置的图像数据中的第1摄像条件的图像数据、及参照位置的图像数据中的第2摄像条件的图像数据分别实施修正处理,来缓解基于第1摄像条件与第2摄像条件的差异导致的图像的不连续性。
例如,在上述(例1)中,针对为第1摄像条件(ISO感光度为100)的参照像素的图像数据,作为修正处理而乘以400/100,针对为第2摄像条件(ISO感光度为800)的参照像素的图像数据,作为修正处理而乘以400/800。由此,减小因摄像条件的不同而导致的图像数据间的差异。此外,关注像素的像素数据在颜色插补处理后进行乘以100/400的修正处理。通过该修正处理,能够将颜色插补处理后的关注像素的像素数据变更为与以第1摄像条件进行拍摄的情况相同的值。而且,在上述(例1)中,可以根据距第1区域与第2区域的边界的距离来改变修正处理的程度。并且能够与上述(例1)的情况相比减少通过修正处理而图像数据增加或减少的比例,能够减少因修正处理而产生的噪声。以上对上述(例1)进行了说明,但对于上述(例2)也能够同样地适用。
根据变形例2,与上述的实施方式同样地,能够针对由摄像条件不同的区域各自生成的图像数据适当地进行图像处理。
(变形例3)
在上述的说明中,在对图像数据进行修正处理时,通过基于第1摄像条件与第2摄像条件的差异进行运算,而求出修正后的图像数据。也可以取代运算,而通过参照修正用表来求出修正后的图像数据。例如,通过作为自变量而输入第1摄像条件及第2摄像条件,来读出修正后的图像数据。或者,也可以构成为通过作为自变量而输入第1摄像条件及第2摄像条件,来读出修正系数。
(变形例4)
在上述的修正处理中,也可以设定修正后的图像数据的上限和下限。通过设定上限值、下限值,能够限制进行必要以上的修正。上限值、下限值可以预先设定,也可以在相对于摄像元件32a而另行具有测光用传感器的情况下基于来自测光用传感器的输出信号而决定。
(变形例5)
在上述实施方式中,说明了控制部34(设定部34b)基于实时取景图像来检测被摄体要素、并将实时取景图像的画面划分为包含被摄体要素的区域的例子。在变形例5中,也可以是控制部34在相对于摄像元件32a而另行具备测光用传感器的情况下,基于来自测光用传感器的输出信号来划分区域。
控制部34基于来自测光用传感器的输出信号,划分为前景和背景。具体地说,将由摄像元件32b获取的实时取景图像划分为与根据来自测光用传感器的输出信号而判断为前景的区域对应的前景区域、和与根据来自测光用传感器的输出信号而判断为背景的区域对应的背景区域。
控制部34还针对摄像元件32a的摄像面的与前景区域对应的位置,如图16的(a)~图16的(c)所例示那样,配置第1区域及第2区域。另一方面,控制部34针对摄像元件32a的摄像面的与背景区域对应的位置,在摄像元件32a的摄像面上仅配置第1区域。控制部34将第1图像用于显示,并且第2图像用于检测。
根据变形例5,能够通过使用来自测光用传感器的输出信号,进行由摄像元件32b获取的实时取景图像的区域划分。另外,对于前景区域,能够得到显示用的第1图像和检测用的第2图像,对于背景区域,仅能够得到显示用的第1图像。
(变形例6)
在变形例6中,图像处理部33(生成部33c)作为修正处理的一例而进行对比度调整处理。即,生成部33c通过使灰度曲线(伽马曲线)不同,而缓解基于第1摄像条件与第2摄像条件之间的差异导致的图像的不连续性。
例如,设想在第1摄像条件与第2摄像条件之间仅ISO感光度不同、第1摄像条件的ISO感光度为100而第2摄像条件的ISO感光度为800的情况。生成部33c通过使灰度曲线放平,而将参照位置的图像数据中的第2摄像条件的图像数据的值压缩为1/8。
或者,生成部33c也可以通过使灰度曲线立起,而关注位置的图像数据、及参照位置的图像数据中的第1摄像条件的图像数据的值扩展为8倍。
根据变形例6,与上述实施方式同样地,能够针对在摄像条件不同的区域中分别生成的图像数据适当地进行图像处理。例如,能够抑制因在区域的边界处的摄像条件的不同而导致在图像处理后的图像中显现的不连续性、不协调感。
(变形例7)
在变形例7中,图像处理部33在上述的图像处理(例如,减噪处理)中,不会损害被摄体要素的轮廓。通常,在进行减噪的情况下采用平滑化滤波处理。在使用平滑化滤波器的情况下,存在具有减噪效果但被摄体要素的边界模糊的情况。
因此,图像处理部33(生成部33c)例如除了减噪处理以外,或者在进行减噪处理的同时进行对比度调整处理,由此对上述被摄体要素的边界的模糊进行修补。在变形例7中,图像处理部33(生成部33c)作为浓度转换(灰度转换)曲线,而设定描画S字这样的曲线(所谓S字转换)。图像处理部33(生成部33c)通过进行使用S字转换的对比度调整,将较亮的数据和较暗的数据的灰度部分分别放大而分别增加较亮的数据(及较暗的数据)的灰度数,并且将中间灰度的图像数据压缩而减少灰度数。由此,图像的亮度为中等程度的图像数据的数量减少,被分类为较亮/较暗中的某一个的数据增加,其结果为,能够修补被摄体要素的边界的模糊。
根据变形例7,通过使图像的明暗鲜明,能够修补被摄体要素的边界的模糊。
(变形例8)
在变形例8中,图像处理部33(生成部33c)变更白平衡调整增益变更以缓解基于第1摄像条件与第2摄像条件的差异导致的图像的不连续性。
例如,在关注位置中拍摄时被适用的摄像条件(设为第1摄像条件)和在关注位置周围的参照位置中拍摄时被适用的摄像条件(设为第2摄像条件)不同的情况下,图像处理部33(生成部33c)以使参照位置的图像数据中的第2摄像条件的图像数据的白平衡接近以第1摄像条件获取到的图像数据的白平衡的方式,变更白平衡调整增益。
此外,也可以是,图像处理部33(生成部33c)以使参照位置的图像数据中的第1摄像条件的图像数据和关注位置的图像数据的白平衡接近以第2摄像条件获取到的图像数据的白平衡的方式,变更白平衡调整增益。
根据变形例8,能够针对在摄像条件不同的区域中分别生成的图像数据,通过使白平衡调整增益与摄像条件不同的区域中的某一个区域的调整增益一致,而能够缓解基于第1摄像条件与第2摄像条件的差异导致的图像的不连续性。
(变形例9)
也可以具有多个图像处理部33并对图像处理进行并行处理。例如,在针对由摄像部32的区域A拍摄到的图像数据进行图像处理的同时,针对由摄像部32的区域B拍摄到的图像数据进行图像处理。多个图像处理部33可以进行相同的图像处理,也可以进行不同的图像处理。即,能够针对区域A及区域B的图像数据适用相同的参数等并进行相同的图像处理,或针对区域A及区域B的图像数据适用不同的参数等并进行不同的图像处理。
在图像处理部33的数量为多个的情况下,也可以针对被适用了第1摄像条件得到的图像数据而通过一个图像处理部进行图像处理,针对被适用了第2摄像条件得到的图像数据而通过其他图像处理部进行图像处理。图像处理部的数量不限于上述两个,例如,也可以设为与能够设定的摄像条件的数量相等。即,对于被适用了不同摄像条件的每个区域,由各自的图像处理部负责图像处理。根据变形例9,能够并行进行在按每个区域而不同的摄像条件下实施的拍摄、和针对按上述每个区域得到的图像的图像数据实施的图像处理。
(变形例10)
在上述说明中,以相机1为例进行了说明,但也可以由像智能手机这样具有相机功能的多功能移动电话机250(图18)、平板终端等移动设备构成。
(变形例11)
在上述的实施方式中,以将摄像部32和控制部34构成为单一电子设备的相机1为例进行了说明。也可以取而代之,例如,构成将摄像部32和控制部34分开设置、并从控制部34经由通信来控制摄像部32的摄像***1B。
以下,参照图17说明从具备控制部34的显示装置1002对具备摄像部32的摄像装置1001进行控制的例子。
图17是例示变形例11的摄像***1B的结构的框图。在图17中,摄像***1B由摄像装置1001和显示装置1002构成。摄像装置1001除了上述实施方式中说明的摄像光学***31和摄像部32以外,还具备第1通信部1003。另外,显示装置1002除了上述实施方式中说明的图像处理部33、控制部34、显示部35、操作部件36及记录部37以外,还具备第2通信部1004。
第1通信部1003及第2通信部1004通过例如周知的无线通信技术或光通信技术等,而进行双向的图像数据通信。
此外,也可以构成为将摄像装置1001和显示装置1002通过有线线缆进行有线连接,使得第1通信部1003及第2通信部1004进行双向的图像数据通信。
摄像***1B通过控制部34经由第2通信部1004及第1通信部1003进行数据通信,而进行针对摄像部32的控制。例如,通过在摄像装置1001与显示装置1002之间收发规定的控制数据,显示装置1002如上述那样基于图像,将画面划分成多个区域、按划分出的每个区域设定不同的摄像条件、读出在各个区域中光电转换得到的光电转换信号。
根据变形例11,由于在摄像装置1001侧获取且向显示装置1002发送的实时取景图像显示在显示装置1002的显示部35上,因此,用户能够从位于远离摄像装置1001的位置的显示装置1002进行远程操作。
显示装置1002能够由例如智能手机这样的多功能移动电话机250构成。另外,摄像装置1001能够由具备上述的层叠型的摄像元件100的电子设备构成。
此外,以在显示装置1002的控制部34设有物体检测部34a、设定部34b、摄像控制部34c和AF运算部34d为例进行了说明,对于物体检测部34a、设定部34b、摄像控制部34c及AF运算部34d的一部分,也可以设于摄像装置1001。
(变形例12)
关于向上述的相机1、多功能移动电话机250或平板终端等移动设备提供程序,例如如图18例示那样,能够从保存有程序的个人计算机205通过红外线通信或近距离无线通信而向移动设备发送。
程序相对于个人计算机205的提供,可以将保存有程序的CD-ROM等记录介质204安装到个人计算机205来进行,也可以利用经由网络等通信线路201的方法向个人计算机205载入。在经由通信线路201的情况下,预先将程序保存在与该通信线路连接的服务器202的存储装置203等中。
另外,也能够经由与通信线路201连接的无线LAN的接入点(access point)(未图示)直接向移动设备发送程序。而且,还能够将保存有程序的存储卡等记录介质204B安装于移动设备。像这样,程序能够为经由记录介质或通信线路的提供等、作为各种形态的计算机程序产品而提供。
---第2实施方式---
参照图19~25,作为搭载第2实施方式的图像处理装置的电子设备的一例,列举数码相机为例进行说明。在以下说明中,对与第1实施方式相同的结构要素标注相同的附图标记并主要说明不同点。关于特别没有说明的点,与第1实施方式相同。在本实施方式中,与第1实施方式的不同点主要在于,取代设置第1实施方式的图像处理部33,而摄像部32A包含具有与第1实施方式的图像处理部33相同功能的图像处理部32c。
图19是例示第2实施方式的相机1C的结构的框图。在图19中,相机1C具有摄像光学***31、摄像部32A、控制部34、显示部35、操作部件36和记录部37。摄像部32A还包含具有与第1实施方式的图像处理部33相同功能的图像处理部32c。
图像处理部32c包含输入部321、修正部322和生成部323。在输入部321中输入有来自摄像元件32a的图像数据。修正部322进行修正上述输入的图像数据的前处理。修正部322所进行的前处理与第1实施方式中的修正部33b所进行的前处理相同。生成部323针对上述输入的图像数据和前处理后的图像数据进行图像处理,而生成图像。生成部323所进行的图像处理与第1实施方式中的生成部33c所进行的图像处理相同。
图20是示意地表示本实施方式中的各区块与多个修正部322之间的对应关系的图。在图20中,以矩形示出的摄像芯片111的一个块(mass)表示一个区块111a。同样地,以矩形示出的后述的图像处理芯片114的一个块表示一个修正部322。
在本实施方式中,修正部322按每个区块111a对应地设置。换言之,修正部322针对摄像面中的每个能够变更摄像条件的区域的最小单位即区块而分别设置。例如,在图20中,施加了阴影线的区块111a和施加了阴影线的修正部322处于对应关系。在图20中施加了阴影线的修正部322对来自施加了阴影线的区块111a中包含的像素的图像数据进行前处理。各修正部322分别对来自对应的区块111a中包含的像素的图像数据进行前处理。
由此,由于能够通过多个修正部322对图像数据的前处理进行并行处理,所以能够减轻修正部322中的处理负担,能够根据在摄像条件不同的区域中分别生成的图像数据在短时间内生成适当的图像。
此外,在以下说明中,在说明某个区块111a与该区块111a中包含的像素之间的关系时,存在将该区块111a称为该像素所属的区块111a的情况。另外,存在将区块111a成为单位分区的情况,存在将集合多个区块111a、即集合多个单位分区的情况称为复合分区的情况。
图21是层叠型摄像元件100A的剖视图。层叠型摄像元件100A除了背面照射型摄像芯片111、信号处理芯片112和存储芯片113以外,还具备进行上述的前处理及图像处理的图像处理芯片114。即,上述的图像处理部32c设于图像处理芯片114。
这些摄像芯片111、信号处理芯片112、存储芯片113及图像处理芯片114层叠在一起,通过Cu等具有导电性的凸块109而相互电连接。
在存储芯片113及图像处理芯片114的彼此相对的面上,配置有多个凸块109。这些凸块109彼此对位,通过对存储芯片113和图像处理芯片114进行加压等,而将对位后的凸块109彼此接合而电连接。
<修正处理>
与第1实施方式同样地,在第2实施方式中构成为,在通过设定部34b将摄像画面的区域划分后,能够针对由用户选择的区域或控制部34所判断出的区域设定(变更)摄像条件。在划分出的区域中设定了不同的摄像条件的情况下,控制部34根据需要使修正部322进行以下修正处理。
1.进行图像处理的情况
1-1.关注像素P的摄像条件和关注像素P周围的多个参照像素的摄像条件相同的情况
该情况下,在图像处理部32c中,修正部322不进行修正处理,利用没有由生成部323修正的多个参照像素的图像数据来进行图像处理。
1-2.关注像素P的摄像条件和关注像素P周围的多个参照像素中的至少一个参照像素的摄像条件不同的情况
将在关注像素P中适用的摄像条件设为第1摄像条件,在多个参照像素的一部分中适用的摄像条件为第1摄像条件,在剩余的参照像素中适用的摄像条件为第2摄像条件。
在该情况下,与被适用了第2摄像条件的参照像素所属的区块111a对应的修正部322针对被适用了该第2摄像条件的参照像素的图像数据,如以下(例1)~(例3)那样进行修正处理。然后,生成部323参照被适用了第1摄像条件的参照像素的图像数据和修正处理后的参照像素的图像数据,进行计算出关注像素P的图像数据的图像处理。
(例1)
例如,在第1摄像条件与第2摄像条件之间仅ISO感光度不同、第1摄像条件的ISO感光度为100而第2摄像条件的ISO感光度为800的情况下,与被适用了第2摄像条件的参照像素所属的区块111a对应的修正部322针对该参照像素的图像数据,作为修正处理而乘以100/800。由此,减小因摄像条件的不同而导致的图像数据间的差异。
(例2)
例如,在第1摄像条件与第2摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第2摄像条件的快门速度为1/100秒的情况下,与被适用了第2摄像条件的参照像素所属的区块111a对应的修正部322针对该参照像素的图像数据,作为修正处理而乘以1/1000/1/100=1/10。由此,减小因摄像条件的不同而导致的图像数据间的差异。
(例3)
例如,在第1摄像条件与第2摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第2摄像条件的帧频为60fps的情况下,与被适用了第2摄像条件的参照像素所属的区块111a对应的修正部322针对该参照像素的图像数据、即第2摄像条件(60fps)的图像数据,将采用获取开始定时与以第1摄像条件(30fps)获取的帧图像近的帧图像的图像数据这一内容作为修正处理。由此,减小因摄像条件的不同而导致的图像数据间的差异。
此外,也可以将基于以第2摄像条件(60fps)获取到的前后的多个帧图像对获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的图像数据进行插补计算这一内容作为修正处理。
此外,将在关注像素P中适用的摄像条件设为第2摄像条件、将在关注像素P周围的参照像素中适用的摄像条件设为第1摄像条件的情况也是同样的。即,在该情况下,与被适用了第1摄像条件的参照像素所属的区块111a对应的修正部322针对该参照像素的图像数据,如上述(例1)~(例3)那样进行修正处理。
此外,如上述那样,即使在摄像条件中稍有差异也视为相同摄像条件。
生成部323基于被适用了与关注像素P的摄像条件相同的摄像条件的参照像素的图像数据、和由修正部322修正后的参照像素的图像数据,与第1实施方式中的图像处理部33(生成部33c)同样地,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理。
图22是示意地表示来自被适用了第1摄像条件的摄像面的一部分区域(以下,称为第1区域141)中包含的各像素的图像数据(以下,称为第1图像数据)、和来自被适用了第2摄像条件的摄像面的一部分区域(以下,称为第2区域142)中包含的各像素的图像数据(以下,称为第2图像数据)的处理。
从第1区域141中包含的各像素分别输出以第1摄像条件拍摄得到的第1图像数据,从第2区域142中包含的各像素分别输出以第2摄像条件拍摄得到的第2图像数据。第1图像数据被输出到设于处理芯片114的修正部322中的、与生成第1图像数据的像素所属的区块111a对应的修正部322。在以下说明中,将与生成各个第1图像数据的像素所属的多个区块111a分别对应的多个修正部322称为第1处理部151。
同样地,第2图像数据被输出到设于处理芯片114的修正部322中的、与生成第2图像数据的像素所属的区块111a对应的修正部322。在以下说明中,将与生成各个第2图像数据的各像素所属的多个区块111a分别对应的多个修正部322称为第2处理部152。
例如,在关注像素P包含于第1区域141的情况下,来自包含于第2区域142的参照像素的第2图像数据如图22所示由第2处理部152进行上述的修正处理。此外,第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息181。
同样地,例如,在关注像素P包含于第2区域142的情况下,来自包含于第1区域141的参照像素的第1图像数据由第1处理部151进行上述的修正处理。此外,第1处理部151从第2处理部152接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第2摄像条件所相关的信息。
此外,在关注像素P和参照像素包含于第1区域141的情况下,第1处理部151不对来自该参照像素的第1图像数据进行修正。同样地,在关注像素P和参照像素包含于第2区域142的情况下,第2处理部152不对来自该参照像素的第2图像数据进行修正。
或者,也可以通过第1处理部151和第2处理部152,分别对第1摄像条件的图像数据及第2摄像条件的图像数据双方进行修正。即,可以通过对第1摄像条件的关注位置的图像数据、参照位置的图像数据中的第1摄像条件的图像数据、及参照位置的图像数据中的第2摄像条件的图像数据分别实施修正处理,来缓解基于第1摄像条件与第2摄像条件之间的差异导致的图像的不连续性。
例如,在上述(例1)中,针对为第1摄像条件(ISO感光度为100)的参照像素的图像数据,作为修正处理而乘以400/100,针对为第2摄像条件(ISO感光度为800)的参照像素的图像数据,作为修正处理而乘以400/800。由此,减小因摄像条件的不同而导致的图像数据间的差异。此外,关注像素的像素数据在颜色插补处理后进行乘以100/400的修正处理。通过该修正处理,能够将颜色插补处理后的关注像素的像素数据变更为与以第1摄像条件进行拍摄的情况相同的值。而且,在上述(例1)中,也可以根据距第1区域与第2区域的边界的距离而改变修正处理的程度。并且与上述(例1)的情况相比能够减少通过修正处理而图像数据增加或减少的比例,能够减少因修正处理而产生的噪声。以上,对上述(例1)进行了说明,但对于上述(例2)也能够同样适用。
生成部323基于来自第1处理部151及第2处理部152的图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。
此外,在关注像素P位于第2区域142的情况下,第1处理部151可以对来自第1区域141中包含的全部像素的第1图像数据进行修正处理,也可以仅对来自第1区域141中包含的像素中的、可能用于第2区域142的关注像素P的插补的像素的第1图像数据进行修正处理。同样地,在关注像素P位于第1区域141的情况下,第2处理部152可以对来自第2区域142中包含的全部像素的第2图像数据进行修正处理,也可以仅对来自第2区域142中包含的像素中的、可能用于第1区域141的关注像素P的插补的像素的第2图像数据进行修正处理。
2.进行焦点检测处理的情况
与第1实施方式同样地,控制部34(AF运算部34d)使用与摄像画面的规定位置(焦点检测位置)对应的信号数据(图像数据)来进行焦点检测处理。此外,在划分出的区域间被设定了不同的摄像条件、且AF动作的焦点检测位置位于划分出的区域的边界部分的情况下,即在焦点检测位置被第1区域和第2区域分成两部分的情况下,在本实施方式中,如以下的2-2.中说明那样,控制部34(AF运算部34d)使修正部322至少针对一个区域的焦点检测用的信号数据进行修正处理。
2-1.在来自图13中的框170内的像素的信号数据中没有混合被适用了第1摄像条件得到的信号数据和被适用了第2摄像条件得到的信号数据的情况
该情况下,修正部322不进行修正处理,控制部34(AF运算部34d)将基于框170所示的焦点检测用像素得到的信号数据直接使用来进行焦点检测处理。
2-2.在来自图13中的框170内的像素的信号数据中混合有被适用了第1摄像条件得到的信号数据和被适用了第2摄像条件得到的信号数据的情况
在该情况下,控制部34(AF运算部34d)使与框170内的像素中的被适用了第2摄像条件的像素所属的区块111a对应的修正部322,如以下(例1)~(例3)那样进行修正处理。然后,控制部34(AF运算部34d)使用被适用了第1摄像条件的像素的信号数据和修正处理后的信号数据来进行焦点检测处理。
(例1)
例如,在第1摄像条件与第2摄像条件之间仅ISO感光度不同、第1摄像条件的ISO感光度为100而第2摄像条件的ISO感光度为800的情况下,与被适用了第2摄像条件的像素所属的区块111a对应的修正部322针对第2摄像条件的信号数据,作为修正处理而乘以100/800。由此,减小因摄像条件的不同而导致的信号数据间的差异。
(例2)
例如,在第1摄像条件与第2摄像条件之间仅快门速度不同、第1摄像条件的快门速度为1/1000秒而第2摄像条件的快门速度为1/100秒的情况下,与被适用了第2摄像条件的像素所属的区块111a对应的修正部322针对第2摄像条件的信号数据,作为修正处理而乘以1/1000/1/100=1/10。由此,减小因摄像条件的不同而导致的信号数据间的差异。
(例3)
例如,在第1摄像条件与第2摄像条件之间仅帧频不同(电荷蓄存时间相同)、第1摄像条件的帧频为30fps而第2摄像条件的帧频为60fps的情况下,与被适用了第2摄像条件的像素所属的区块111a对应的修正部322针对第2摄像条件(60fps)的信号数据,将采用获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的信号数据这一内容作为修正处理。由此,减小因摄像条件的不同而导致的信号数据间的差异。
此外,也可以将基于以第2摄像条件(60fps)获取到的前后的多个帧图像对获取开始定时与以第1摄像条件(30fps)获取到的帧图像近的帧图像的信号数据进行插补计算这一内容作为修正处理。
此外,如上述那样,即使在摄像条件中稍有差异也视为相同的摄像条件。
另外,在上述的例子中,说明了针对信号数据中的第2摄像条件的信号数据进行修正处理的例子,但也可以针对信号数据中的第1摄像条件的信号数据进行修正处理。
另外,还可以针对信号数据中的第1摄像条件的信号数据及第2摄像条件的数据分别进行修正处理,由此减小修正处理后的双方的信号数据间的差。
图23是示意地表示焦点检测处理所涉及的、第1信号数据和第2信号数据的处理的图。
从第1区域141中包含的各像素输出以第1摄像条件拍摄得到的第1信号数据,从第2区域142中包含的各像素输出以第2摄像条件拍摄得到的第2信号数据。来自第1区域141的第1信号数据被输出到第1处理部151。同样地,来自第2区域142的第2信号数据被输出到第2处理部152。
在通过针对信号数据中的第2摄像条件的信号数据进行修正处理来减小修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第2处理部152进行处理。第2处理部152对来自第2区域142中包含的像素的第2信号数据进行上述的修正处理。此外,第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的信号数据间的差异而需要的第1摄像条件所相关的信息181。
此外,在通过针对信号数据中的第2摄像条件的信号数据进行修正处理来减小修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第1处理部151不对第1信号数据进行修正。
另外,在通过针对信号数据中的第1摄像条件的信号数据进行修正处理来减小修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第1处理部151进行处理。第1处理部151对来自第1区域141中包含的像素的第1信号数据进行上述的修正处理。此外,第1处理部151从第2处理部152接收为了减小因摄像条件的不同导致的信号数据间的差异而需要的第2摄像条件所相关的信息。
此外,在通过针对信号数据中的第1摄像条件的信号数据进行修正处理来减小修正处理后的信号数据与第1摄像条件的信号数据之差的情况下,第2处理部152不对第2信号数据进行修正。
另外,在通过针对信号数据中的第1摄像条件的信号数据及第2摄像条件的数据分别进行修正处理来减小修正处理后的双方的信号数据间之差的情况下,第1处理部151和第2处理部152进行处理。第1处理部151对来自第1区域141中包含的像素的第1信号数据进行上述的修正处理,第2处理部152对来自第2区域142中包含的像素的第2信号数据进行上述的修正处理。
AF运算部34d基于来自第1处理部151及第2处理部152的信号数据进行焦点检测处理,并基于该运算结果,输出用于使摄像光学***31的聚焦透镜向对焦位置移动的驱动信号。
3.进行被摄体检测处理的情况
在划分出的区域间被设定了不同的摄像条件、且搜索范围190包含划分出的区域的边界的情况下,在本实施方式中,如以下的3-2.说明那样,控制部34(物体检测部34a)使修正部322针对搜索范围190内的至少一个区域的图像数据进行修正处理。
3-1.在图14中的搜索范围190的图像数据中没有混合被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况
该情况下,修正部322不进行修正处理,控制部34(物体检测部34a)将构成搜索范围190的图像数据直接使用来进行被摄体检测处理。
3-2.在图14中的搜索范围190的图像数据中混合有被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况
该情况下,控制部34(物体检测部34a)使与搜索范围190的图像中的被适用了第2摄像条件的像素所属的区块111a对应的修正部322,作为进行焦点检测处理的情况而如上述的(例1)~(例3)那样进行修正处理。然后,控制部34(物体检测部34a)使用被适用了第1条件的像素的图像数据和修正处理后的图像数据来进行被摄体检测处理。
图24是示意地表示被摄体检测处理所涉及的、第1图像数据和第2图像数据的处理的图。由第1处理部151或/及第2处理部152进行的修正处理在作为进行焦点检测处理的情况与上述图23的修正处理相同。
物体检测部34a进行基于来自第1处理部151及第2处理部152的图像数据来检测被摄体要素的处理,并输出检测结果。
4.设定摄像条件的情况
说明在将摄像画面的区域划分并在划分出的区域间设定了不同的摄像条件的状态下,重新进行测光来决定曝光条件的情况。
4-1.在测光范围的图像数据中没有混合被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况
该情况下,修正部322不进行修正处理,控制部34(设定部34b)将构成测光范围的图像数据直接使用来进行曝光运算处理。
4-2.在测光范围的图像数据中混合有被适用了第1摄像条件得到的图像数据和被适用了第2摄像条件得到的图像数据的情况
该情况下,控制部34(设定部34b)使与测光范围的图像数据中的被适用了第2摄像条件的像素所属的区块111a对应的修正部322,作为进行焦点检测处理的情况而如上述的(例1)~(例3)那样进行修正处理。然后,控制部34(设定部34b)使用修正处理后的图像数据来进行曝光运算处理。
图25是示意地表示曝光运算处理等的摄像条件的设定所涉及的、第1图像数据和第2图像数据的处理的图。由第1处理部151或/及第2处理部152进行的修正处理作为进行焦点检测处理的情况而与上述图23的修正处理相同。
设定部34b基于来自第1处理部151及第2处理部152的图像数据进行曝光运算处理等的摄像条件的计算处理,并基于该运算结果,将由摄像部32得到的摄像画面划分成包含检测出的被摄体要素的多个区域,并且针对多个区域重新设定摄像条件。
根据以上说明的第2实施方式,得到以下的作用效果。
(1)相机1C具备摄像元件32a,其能够按摄像面的每个单位分区而变更摄像条件进行拍摄,生成来自第1区域的第1图像数据(该第1区域由以第1摄像条件进行拍摄的至少一个单位分区构成)、和来自第2区域的第2图像数据(该第2区域由以与第1摄像条件不同的第2摄像条件进行拍摄的至少一个单位分区构成)。相机1C具备多个修正部322,其针对每个单位分区或按具有多个单位分区的每个复合分区而对应地设置,并能够修正来自对应的单位分区或对应的复合分区内的单位分区的图像数据。与第2区域内的单位分区或复合分区对应的修正部322根据第2摄像条件来修正第1图像数据。摄像元件32a设于背面照射型摄像芯片111。多个修正部322设于图像处理芯片114。
由此,能够通过多个修正部322对图像数据的修正处理进行并行处理,因此能够减轻修正部322中的处理负担。
(2)背面照射型摄像芯片111和图像处理芯片114层叠在一起。由此,能够容易地将摄像元件32a和图像处理部32c连接。
(3)相机1C具备生成部323,其基于由修正部322修正后的第1图像数据、和第2图像数据来生成图像。由此,通过并行处理而在短时间内进行多个修正部322的前处理,因此能够缩短生成图像为止的时间。
(4)相机1C具备摄像元件32a,其能够按摄像面的每个单位分区而变更摄像条件进行拍摄,生成来自第1区域的第1图像数据(该第1区域由对经由摄像光学***入射的光像以第1摄像条件进行拍摄的至少一个单位分区构成)、和来自第2区域的第2图像数据(该第2区域由对入射的光像以与第1摄像条件不同的第2摄像条件进行拍摄的至少一个单位分区构成)。相机1C具备多个修正部322,其针对每个单位分区或具有多个单位分区的每个复合分区而对应地设置,能够修正来自对应的单位分区或对应的复合分区内的单位分区的图像数据。相机1C具备用于检测使摄像光学***动作的信息的AF运算部34d。与第1区域内的单位分区或复合分区对应的修正部322以第1图像数据与第2图像数据之差减小的方式对第1图像数据进行修正。AF运算部34d基于由修正部322修正后的第1图像数据、和第2图像数据,对用于使摄像光学***动作的信息进行检测。摄像元件32a设于背面照射型摄像芯片111。多个修正部322设于图像处理芯片114。
由此,由于能够通过多个修正部322对图像数据的修正处理进行并行处理,所以能够减轻修正部322中的处理负担,并且,由于通过并行处理在短时间内由多个修正部322进行前处理,所以能够将AF运算部34d中的焦点检测处理的开始为止的时间缩短,有助于焦点检测处理的高速化。
(5)相机1C具备摄像元件32a,其能够按摄像面的每个单位分区而变更摄像条件进行拍摄,生成来自第1区域的第1图像数据(该第1区域由对入射的被摄体像以第1摄像条件进行拍摄的至少一个单位分区构成)、和来自第2区域的第2图像数据(该第2区域由对入射的被摄体像以与第1摄像条件不同的第2摄像条件进行拍摄的至少一个单位分区构成)。相机1C具备多个修正部322,其针对每个单位分区或具有多个单位分区的每个复合分区而对应地设置,能够修正来自对应的单位分区或对应的复合分区内的单位分区的图像数据。相机1C具备从被摄体像来检测对象物的物体检测部34a。与第1区域内的单位分区或复合分区对应的修正部322以减小第1图像数据与第2图像数据的值之差的方式对第1图像数据进行修正。物体检测部34a基于由修正部322修正后的第1图像数据、和第2图像数据,从被摄体像检测对象物。摄像元件32a设于背面照射型摄像芯片111。多个修正部322设于图像处理芯片114。
由此,由于能够通过多个修正部322对图像数据的修正处理进行并行处理,所以能够减轻修正部322中的处理负担,并且,由于通过并行处理在短时间内由多个修正部322进行前处理,所以能够将物体检测部34a中的被摄体检测处理的开始为止的时间缩短,有助于被摄体检测处理的高速化。
(6)相机1C具备摄像元件32a,其能够按摄像面的每个单位分区而变更摄像条件进行拍摄,生成来自第1区域的第1图像数据(该第1区域由对入射的光像以第1摄像条件进行拍摄的至少一个单位分区构成)、和来自第2区域的第2图像数据(该第2区域由对入射的光像以与第1摄像条件不同的第2摄像条件进行拍摄的至少一个单位分区构成)。相机1C具备多个修正部322,其针对每个单位分区或具有多个单位分区的每个复合分区而对应地设置,能够修正来自对应的单位分区或对应的复合分区内的单位分区的图像数据。相机1C具备设定摄像条件的设定部34b。与第1区域内的单位分区或复合分区对应的修正部322以减小第1图像数据与第2图像数据之差的方式对第1图像数据进行修正。设定部34b基于由修正部322修正后的第1图像数据、和第2图像数据来设定摄像条件。摄像元件32a设于背面照射型摄像芯片111。多个修正部322设于图像处理芯片114。
由此,由于能够通过多个修正部322对图像数据的修正处理进行并行处理,所以能够减轻修正部322中的处理负担,并且,由于通过并行处理在短时间内由多个修正部322进行前处理,所以能够将设定部34b中的摄像条件的设定处理的开始为止的时间缩短,有助于摄像条件的设定处理的高速化。
---第2实施方式的变形例---
以下那样的变形也在本发明的范围内,也能够将一个变形例或多个变形例与上述实施方式组合。
(变形例13)
如第1实施方式的变形例1中的图16的(a)~图16的(c)所示,说明了在摄像元件32a的摄像面上配置第1区域及第2区域的情况下的第1图像数据和第2图像数据的处理。
在本变形例中,也与变形例1同样地,在图16的(a)~图16的(c)的任一情况下,也是根据从进行1帧拍摄的摄像元件32a读出的像素信号,分别生成基于从第1区域读出的图像信号得到的第1图像及基于从第2区域读出的图像信号得到的第2图像。在本变形例中,也与变形例1同样地,控制部34将第1图像用于显示,并且将第2图像用于检测。
设为将对拍摄第1图像的第1区域设定的摄像条件称为第1摄像条件,将对拍摄第2图像的第2区域设定的摄像条件称为第2摄像条件。控制部34可以使第1摄像条件和第2摄像条件不同。
1.作为一例,参照图26说明对第1区域设定的第1摄像条件在摄像画面的第1区域的整体中相同、对第2区域设定的第2摄像条件在摄像画面的第2区域的整体中相同的情况。图26是示意地表示第1图像数据和第2图像数据的处理的图。
从第1区域141中包含的各像素输出以第1摄像条件拍摄得到的第1图像数据,从第2区域142中包含的各像素输出以第2摄像条件拍摄得到的第2图像数据。来自第1区域141的第1图像数据被输出到第1处理部151。同样地,来自第2区域142的第2图像数据被输出到第2处理部152。
在本例中,由于第1摄像条件在摄像画面的第1区域的整体中相同,所以第1处理部151不对来自第1区域中包含的参照像素的第1图像数据进行修正。另外,由于第2摄像条件在摄像画面的第2区域的整体中相同,所以第2处理部152不对用于焦点检测处理、被摄体检测处理及曝光运算处理的第2图像数据进行修正。但是,第2处理部152针对第1图像数据的插补中使用的第2图像数据,进行减小因第1摄像条件与第2摄像条件的不同而导致的图像数据间的差异的修正处理。第2处理部152将修正处理后的第2图像数据如箭头182所示那样输出到第1处理部151。此外,第2处理部152也可以将修正处理后的第2图像数据如虚线的箭头183所示那样输出到生成部323。
第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息181。
生成部323基于来自第1处理部151的第1图像数据、及由第2处理部152修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。
物体检测部34a进行基于来自第2处理部152的第2图像数据来检测被摄体要素的处理,并输出检测结果。
设定部34b基于来自第2处理部152的第2图像数据来进行曝光运算处理等的摄像条件的计算处理,并基于该运算结果,将由摄像部32得到的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。
AF运算部34d基于来自第2处理部152的第2信号数据来进行焦点检测处理,并基于该运算结果,输出用于使摄像光学***31的聚焦透镜向对焦位置移动的驱动信号。
2.作为其他一例,参照图27说明对第1区域设定的第1摄像条件根据摄像画面的区域而不同、对第2区域设定的第2摄像条件在摄像画面的第2区域的整体中相同的情况。图27是示意地表示第1图像数据和第2图像数据的处理的图。
从第1区域141中包含的各像素输出以根据摄像画面的区域而不同的第1摄像条件拍摄得到的第1图像数据,从第2区域142中包含的各像素输出以在摄像画面的第2区域的整体中相同的第2摄像条件拍摄得到的第2图像数据。来自第1区域141的第1图像数据被输出到第1处理部151。同样地,来自第2区域142的第2图像数据被输出到第2处理部152。
如上述那样在本例中,对第1区域设定的第1摄像条件根据摄像画面的区域而不同。即,第1摄像条件根据第1区域内的部分区域而不同。在均位于第1区域内的关注像素P和参照像素中设定了不同的第1摄像条件的情况下,第1处理部151针对来自该参照像素的第1图像数据,进行与上述的1-2.中叙述的修正处理相同的修正处理。此外,在关注像素P和参照像素中设定了相同的第1摄像条件的情况下,第1处理部151不对来自该参照像素的第1图像数据进行修正处理。
在本例中,由于对第2区域设定的第2摄像条件在摄像画面的第2区域的整体中相同,所以第2处理部152不针对用于焦点检测处理、被摄体检测处理及曝光运算处理的第2图像数据进行修正。关于在第1图像数据的插补中使用的第2图像数据,第2处理部152进行减小因第1区域中包含的关注像素P所相关的摄像条件与第2摄像条件的不同而导致的图像数据间的差异的修正处理。第2处理部152将修正处理后的第2图像数据输出到第1处理部151。此外,第2处理部152也可以将修正处理后的第2图像数据输出到生成部323。
第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1区域中包含的关于关注像素P的摄像条件所相关的信息181。
生成部323基于来自第1处理部151的第1图像数据、及由第2处理部152修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。
物体检测部34a进行基于来自第2处理部152的第2图像数据来检测被摄体要素的处理,并输出检测结果。
设定部34b基于来自第2处理部152的第2图像数据来进行曝光运算处理等的摄像条件的计算处理,并基于该运算结果将由摄像部32得到的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。
AF运算部34d基于来自第2处理部152的第2信号数据来进行焦点检测处理,并基于该运算结果,输出用于使摄像光学***31的聚焦透镜向对焦位置移动的驱动信号。
3.另外,作为其他一例,参照图28说明对第1区域设定的第1摄像条件在摄像画面的第1区域的整体中相同、对第2区域设定的第2摄像条件根据摄像画面的区域而不同的情况。图28是示意地表示第1图像数据和第2图像数据的处理的图。
从第1区域141中包含的各像素输出以在摄像画面的第1区域整体中相同的第1摄像条件拍摄得到的第1图像数据,从第2区域142中包含的各像素输出以根据摄像画面的区域而不同的第2摄像条件拍摄得到的第2图像数据。来自第1区域141的第1图像数据被输出到第1处理部151。同样地,来自第2区域142的第2图像数据被输出到第2处理部152。
在本例中,由于对第1区域设定的第1摄像条件在摄像画面的第1区域的整体中相同,所以第1处理部151不对来自第1区域中包含的参照像素的第1图像数据进行修正。
另外,在本例中,由于对第2区域设定的第2摄像条件根据摄像画面的区域而不同,所以第2处理部152针对第2图像数据如下那样进行修正处理。第2处理部152例如通过对第2图像数据中的以某摄像条件拍摄得到的第2图像数据进行修正处理,来减小修正处理后的第2图像数据与以与上述某摄像条件不同的其他摄像条件拍摄得到的第2图像数据之差。
在本例中,关于在第1图像数据的插补中使用的第2图像数据,第2处理部152进行减小因第1区域中包含的关注像素P所相关的摄像条件与第2摄像条件的不同而导致的图像数据间的差异的修正处理。第2处理部152将修正处理后的第2图像数据输出到第1处理部151。此外,第2处理部152也可以将修正处理后的第2图像数据输出到生成部323。此外,在图26中,对向第1处理部151输出的修正处理后的第2图像数据标注附图标记182来表示,对向生成部323输出的修正处理后的第2图像数据标注附图标记183来表示。
第2处理部152例如从第1处理部151接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1区域中包含的关于关注像素P的摄像条件所相关的信息181。
生成部323基于来自第1处理部151的第1图像数据、及由第2处理部152修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。
物体检测部34a进行基于由第2处理部152修正处理后的以某摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据来检测被摄体要素的处理,并输出检测结果。
设定部34b基于由第2处理部152修正处理后的以某摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据来进行曝光运算处理等的摄像条件的计算处理。设定部34b基于该运算结果,将由摄像部32得到的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。
AF运算部34d基于由第2处理部152修正处理后的以某摄像条件拍摄得到的第2信号数据、和以其他摄像条件拍摄得到的第2信号数据来进行焦点检测处理,AF运算部34d基于该运算结果,输出用于使摄像光学***31的聚焦透镜向对焦位置移动的驱动信号。
4.另外,作为其他一例,参照图29说明对第1区域设定的第1摄像条件根据摄像画面的区域而不同、对第2区域设定的第2摄像条件根据摄像画面的区域而不同的情况。图29是示意地表示第1图像数据和第2图像数据的处理的图。
从第1区域141中包含的各像素输出以根据摄像画面的区域而不同的第1摄像条件拍摄得到的第1图像数据,从第2区域142中包含的各像素输出以根据摄像画面的区域而不同的第2摄像条件拍摄得到的第2图像数据。来自第1区域141的第1图像数据被输出到第1处理部151。同样地,来自第2区域142的第2图像数据被输出到第2处理部152。
如上述那样在本例中,对第1区域设定的第1摄像条件根据摄像画面的区域而不同。即,第1摄像条件根据第1区域内的部分区域而不同。在均位于第1区域内的关注像素P和参照像素中设定了不同的第1摄像条件的情况下,第1处理部151针对来自该参照像素的第1图像数据,进行与上述1-2.中叙述的修正处理相同的修正处理。此外,在关注像素P和参照像素中设定了相同的第1摄像条件的情况下,第1处理部151不对来自该参照像素的第1图像数据进行修正处理。
另外,在本例中,由于对第2区域设定的第2摄像条件根据摄像画面的区域而不同,所以第2处理部152针对第2图像数据如上述3.的一例那样进行修正处理。
生成部323基于来自第1处理部151的第1图像数据及由第2处理部152修正处理后的第2图像数据,进行像素缺陷修正处理、颜色插补处理、轮廓强调处理及减噪处理等图像处理,并输出图像处理后的图像数据。
物体检测部34a进行基于由第2处理部152修正处理后的以某摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据来检测被摄体要素的处理,并输出检测结果。
设定部34b基于由第2处理部152修正处理后的以某摄像条件拍摄得到的第2图像数据、和以其他摄像条件拍摄得到的第2图像数据来进行曝光运算处理等的摄像条件的计算处理。设定部34b基于该运算结果,将摄像部32的摄像画面划分成包含检测出的被摄体要素的多个区域,并且对多个区域重新设定摄像条件。
AF运算部34d基于由第2处理部152修正处理后的以某摄像条件拍摄得到的第2信号数据、和以其他摄像条件拍摄得到的第2信号数据来进行焦点检测处理,AF运算部34d基于该运算结果,输出用于使摄像光学***31的聚焦透镜向对焦位置移动的驱动信号。
(变形例14)
在上述的第2实施方式中,一个修正部322与一个区块111a(单位分区)对应。但是,也可以是一个修正部322与具有多个区块111a(单位分区)的一个复合区块(复合分区)对应。该情况下,修正部322对来自属于该复合区块中包含的多个区块111a的像素的图像数据依次进行修正。即使多个修正部322与具有多个区块111a的每个复合区块对应地设置,也能够通过多个修正部322对图像数据的修正处理进行并行处理,因此能够减轻修正部322中的处理负担,能够从摄像条件在不同区域中分别生成的图像数据在短时间内生成适当的图像。
(变形例15)
在上述的第2实施方式,生成部323设于摄像部32A的内部。但是,也可以将生成部323设于摄像部32A的外部。即使将生成部323设于摄像部32A的外部也会起到与上述的作用效果相同的作用效果。
(变形例16)
在上述的第2实施方式中,层叠型摄像元件100A除了背面照射型摄像芯片111、信号处理芯片112和存储芯片113以外,还具备进行上述的前处理及图像处理的图像处理芯片114。但是,可以不在层叠型摄像元件100A中设置图像处理芯片114,而在信号处理芯片112中设置图像处理部32c。
(变形例17)
在上述的第2实施方式,第2处理部152从第1处理部151接受为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息。另外,第1处理部151从第2处理部152接收为了抑制因摄像条件的不同导致的图像数据间的差异而需要的第2摄像条件所相关的信息。但是,第2处理部152也可以从驱动部32b和/或控制部34接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第1摄像条件所相关的信息。同样地,第1处理部151也可以从驱动部32b和/或控制部34接收为了减小因摄像条件的不同导致的图像数据间的差异而需要的第2摄像条件所相关的信息。
此外,上述的各实施方式及变形例可以分别组合。
上述中,说明了各种实施方式及变形例,但本发明并不限定于这些内容。在本发明的技术思想的范围内想到的其他方式也包含于本发明的范围内。
上述的实施方式及变形例也包含以下那样的摄像装置、图像处理装置及显示装置。
(1)一种摄像装置,具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对从上述第1摄像区域输出的上述第1信号进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(2)在(1)那样的摄像装置中,上述修正部作为用于对从上述第1摄像区域输出的上述第1信号进行插补的修正,而基于上述第1摄像区域的摄像条件和上述第2摄像区域的摄像条件对从上述第2摄像区域输出的上述第2信号进行修正。
(3)在(2)那样的摄像装置中,上述修正部作为用于对从上述第1摄像区域输出的上述第1信号进行插补的修正,而基于上述第1摄像区域的摄像条件与上述第2摄像区域的摄像条件的不同对从上述第2摄像区域输出的上述第2信号进行修正。
(4)在(3)那样的摄像装置中,上述第1摄像区域的摄像条件和上述第2摄像区域的摄像条件为曝光条件,上述修正部基于上述第1摄像区域的曝光条件与上述第2摄像区域的曝光条件的不同对从上述第2摄像区域输出的上述第2信号进行修正。
(5)在(4)那样的摄像装置中,上述第1摄像区域的曝光条件和上述第2摄像区域的曝光条件为摄像区域的受光部的电荷蓄存时间,上述修正部基于上述第1摄像区域的电荷蓄存时间与上述第2摄像区域的电荷蓄存时间之比对从上述第2摄像区域输出的上述第2信号进行修正。
(6)在(4)那样的摄像装置中,上述第1摄像区域的曝光条件和上述第2摄像区域的曝光条件为摄像区域的摄像感光度,上述修正部基于上述第1摄像区域的摄像感光度与上述第2摄像区域的摄像感光度的对数比对从上述第2摄像区域输出的上述第2信号进行修正。
(7)在(1)那样的摄像装置中,上述修正部作为用于对从上述第1摄像区域输出的上述第1信号进行插补的修正,而基于上述第1摄像区域的摄像条件或上述第2摄像区域的摄像条件对从上述第2摄像区域输出的上述第2信号进行修正。
(8)在(1)那样的摄像装置中,上述修正部对从上述第1摄像区域输出的上述第1信号进行修正,并针对从上述第2摄像区域输出的上述第2信号,进行用于对上述修正后的第1信号进行插补的修正,上述生成部使用根据由上述修正部修正后的上述第2信号对上述修正后的第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(9)在(1)至(8)那样的摄像装置中,上述第1摄像区域对来自被摄体的光中的第1颜色的光进行光电转换并输出上述第1信号,上述第2摄像区域对来自被摄体的光中的与上述第1颜色不同的第2颜色的光进行光电转换并输出上述第2信号。
(10)一种摄像装置,具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对上述第1摄像区域的输出上述第1信号的像素进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对输出上述第1信号的像素进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(11)在(10)那样的摄像装置中,上述第1摄像区域的输出上述第1信号的像素对来自被摄体的光中的第1颜色的光进行光电转换并输出上述第1信号,上述第2摄像区域对来自被摄体的光中的与上述第1颜色不同的第2颜色的光进行光电转换并输出上述第2信号。
(12)一种摄像装置,具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于降低从上述第1摄像区域输出的上述第1信号中包含的噪声;以及生成部,其使用由上述修正部修正后的上述第2信号将上述第1信号中包含的噪声降低并生成在上述第1摄像区域拍摄得到的被摄体的图像。
(13)在(12)那样的摄像装置中,上述修正部作为用于降低从上述第1摄像区域输出的上述第1信号中包含的噪声的修正,而基于上述第1摄像区域的摄像条件或上述第2摄像区域的摄像条件对从上述第2摄像区域输出的上述第2信号进行修正。
(14)在(12)那样的摄像装置中,上述修正部作为用于降低从上述第1摄像区域输出的上述第1信号中包含的噪声的修正,而基于上述第1摄像区域的摄像条件和上述第2摄像区域的摄像条件对从上述第2摄像区域输出的上述第2信号进行修正。
(15)在(14)那样的摄像装置中,上述修正部作为用于对从上述第1摄像区域输出的上述第1信号进行插补的修正,而基于上述第1摄像区域的摄像条件与上述第2摄像区域的摄像条件的不同对从上述第2摄像区域输出的上述第2信号进行修正。
(16)在(15)那样的摄像装置中,上述第1摄像区域的摄像条件和上述第2摄像区域的摄像条件为曝光条件,上述修正部基于上述第1摄像区域的曝光条件与上述第2摄像区域的曝光条件的不同对从上述第2摄像区域输出的上述第2信号进行修正。
(17)在(16)那样的摄像装置中,上述第1摄像区域的曝光条件和上述第2摄像区域的曝光条件为摄像区域的受光部的电荷蓄存时间,上述修正部基于上述第1摄像区域的电荷蓄存时间与上述第2摄像区域的电荷蓄存时间之比对从上述第2摄像区域输出的上述第2信号进行修正。
(18)在(16)那样的摄像装置中,上述第1摄像区域的曝光条件和上述第2摄像区域的曝光条件为摄像区域的摄像感光度,上述修正部基于上述第1摄像区域的摄像感光度与上述第2摄像区域的摄像感光度的对数比对从上述第2摄像区域输出的上述第2信号进行修正。
(19)在(15)那样的摄像装置中,上述修正部对从上述第1摄像区域输出的上述第1信号进行修正,并对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于降低上述修正后的上述第1信号中包含的噪声,上述生成部根据由上述修正部修正后的上述第2信号而将进行上述修正后的第1信号中包含的噪声降低并生成在上述第1摄像区域拍摄得到的被摄体的图像。
(20)一种摄像装置,具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于从上述第1摄像区域输出的上述第1信号的图像处理;以及生成部,其使用由上述修正部修正后的上述第2信号对上述第1信号进行图像处理并生成在上述第1摄像区域拍摄得到的被摄体的图像。
(21)一种摄像装置,具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其设定上述第1摄像区域的摄像条件和上述第2摄像区域的摄像条件;处理部,其作为使用从上述第2摄像区域输出的上述第2信号对上述第1信号进行插补的处理,而进行根据由上述设定部对上述第2摄像区域设定的摄像条件而不同的处理;以及生成部,其使用由上述处理部对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(22)在(21)那样的摄像装置中,上述处理部在作为使用从上述第2摄像区域输出的上述第2信号对上述第1信号进行插补的处理,在由上述设定部对上述第1摄像区域和上述第2摄像区域设定了第1摄像条件的情况下、和对上述第1摄像区域设定了上述第1摄像条件且对上述第2摄像区域设定了与上述第1摄像条件不同的第2摄像条件的情况下,进行不同的处理。
(23)在(22)那样的摄像装置中,上述处理部具有修正部,该修正部在由上述设定部对上述第1摄像区域设定了上述第1摄像条件、且对上述第2摄像区域设定了与上述第1摄像条件不同的第2摄像条件的情况下,对从上述第2摄像区域输出的上述第2信号,进行用于对从上述第1摄像区域输出的上述第1信号进行插补的修正,上述生成部作为通过上述处理部对上述第1信号进行插补得到的信号,使用根据由上述修正部修正后的上述第2信号对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(24)在(22)那样的摄像装置中,上述生成部在由上述设定部对上述第1摄像区域和上述第2摄像区域设定了上述第1摄像条件的情况下,作为通过上述处理部对上述第1信号进行插补得到的信号,使用根据上述第2信号对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(25)一种摄像装置,具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第1摄像区域输出的上述第1信号进行修正,并对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对修正后的上述第1信号进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对由上述修正部修正后的上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(26)在(25)那样的摄像装置中,上述修正部基于与上述第1摄像区域的摄像条件的设定值及上述第2摄像区域的摄像条件的设定值不同的设定值、和上述第1摄像区域的摄像条件的设定值,来进行上述第1信号的修正,并基于上述第2摄像区域的摄像条件的设定值和上述不同的设定值来对上述第2信号进行修正,该修正用于对修正后的上述第1信号进行插补。
(27)在(25)那样的摄像装置中,上述修正部基于上述第1摄像区域的摄像条件的设定值与上述不同的设定值的不同来修正上述第1信号,并基于上述第2摄像区域的摄像条件的设定值与上述不同的设定值的不同来修正上述第2信号。
(28)在(27)那样的摄像装置中,上述修正部基于上述不同的设定值与上述第1摄像区域的摄像条件的设定值之比来修正上述第1信号,并基于上述不同的设定值与上述第2摄像区域的摄像条件的设定值之比来修正上述第2信号。
(29)一种摄像装置,具备:摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;设定部,其将上述第1摄像区域的摄像条件设定为与上述第2摄像区域的摄像条件不同的摄像条件;修正部,其对从上述第1摄像区域输出的上述第1信号进行修正,并对从上述第2摄像区域输出的上述第2信号进行修正,该修正用于对输出修正后的上述第1信号的像素进行插补;以及生成部,其使用根据由上述修正部修正后的上述第2信号对输出修正后的上述第1信号的像素进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(30)在(29)那样的摄像装置中,上述第1摄像区域的输出上述第1信号的像素对来自被摄体的光中的第1颜色的光进行光电转换并输出上述第1信号,上述第2摄像区域对来自被摄体的光中的与上述第1颜色不同的第2颜色的光进行光电转换并输出上述第2信号。
(31)一种图像处理装置,具备:修正部,其为了用于对从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号进行插补,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及生成部,其使用根据由上述修正部修正后的上述第2信号对上述第1信号进行插补得到的信号,来生成在上述第1摄像区域拍摄得到的被摄体的图像。
(32)一种图像处理装置,具备:修正部,其为了降低从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号中包含的噪声,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及生成部,其使用由上述修正部修正后的上述第2信号将上述第1信号中包含的噪声降低并生成在上述第1摄像区域拍摄得到的被摄体的图像。
(33)一种显示装置,具备:修正部,其为了用于对从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号进行插补,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及显示部,其显示在上述第1摄像区域拍摄得到的被摄体的图像,该在上述第1摄像区域拍摄得到的被摄体的图像是使用根据由上述修正部修正后的上述第2信号对上述第1信号进行插补得到的信号而生成的。
(34)一种显示装置,具备:修正部,其为了降低从拍摄被摄体的摄像元件的第1摄像区域输出的第1信号中包含的噪声,而对从摄像条件与上述第1摄像区域不同的上述摄像元件的第2摄像区域输出的第2信号进行修正;以及显示部,其显示在上述第1摄像区域拍摄得到的被摄体的图像,该在上述第1摄像区域拍摄得到的被摄体的图像是使用由上述修正部修正后的上述第2信号将上述第1信号中包含的噪声降低而生成的。
(35)一种摄像装置,具备:摄像部,其具有对入射的光进行拍摄的第1区域、和对入射的光进行拍摄的与上述第1区域不同的第2区域;设定部,其将上述第1区域的摄像条件设定成与上述第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
(36)一种摄像装置,具备:摄像部,其具有对入射的光进行拍摄的第1区域、和对入射的光进行拍摄的与上述第1区域不同的第2区域;设定部,其将上述第1区域的摄像条件设定成与上述第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和由上述修正部修正后的第2图像数据来生成图像。
(37)一种图像处理装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
(38)一种图像处理装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
(39)一种显示装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及显示部,其显示图像,该图像根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据而生成。
(40)一种显示装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及显示部,其显示图像,该图像根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据而生成。
另外,上述的实施方式及变形例也包含以下那样的摄像装置、图像处理装置及显示装置。
(1)一种摄像装置,具备:摄像部,其具有对入射的光进行拍摄的第1区域、和对入射的光进行拍摄的与上述第1区域不同的第2区域;设定部,其将上述第1区域的摄像条件设定成与上述第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
(2)在(1)那样的摄像装置中,上述修正部以使上述第1图像数据的值与上述第2图像数据的值之差减小的方式对上述第1图像数据进行修正。
(3)在(1)或(2)那样的摄像装置中,上述修正部基于上述第1区域的摄像条件与上述第2区域的摄像条件的不同来对上述第1图像数据进行修正。
(4)在(1)至(3)那样的摄像装置中,上述生成部使用由上述修正部修正后的上述第1图像数据对上述第2图像数据实施图像处理。
(5)在(1)至(4)那样的摄像装置中,上述生成部使用由上述修正部修正后的上述第1图像数据的值来变更上述第2图像数据的值。
(6)在(1)至(5)那样的摄像装置中,上述生成部将上述第2图像数据的值置换成由上述修正部修正后的上述第1图像数据的值。
(7)在(1)至(6)那样的摄像装置中,上述生成部根据上述第2图像数据和由上述修正部修正后的上述第1图像数据来生成第3图像数据。
(8)在(1)至(7)那样的摄像装置中,上述设定部作为上述摄像部的第1区域的摄像条件而将摄像感光度设定为第1摄像感光度,作为上述摄像部的第2区域的摄像条件而将摄像感光度设定为与上述第1摄像感光度不同的第2摄像感光度,上述修正部基于上述第1摄像感光度及上述第2摄像感光度之差来修正以由上述设定部设定的摄像条件进行拍摄而生成的上述第1图像数据。
(9)一种摄像装置,具备:摄像部,其具有对入射的光进行拍摄的第1区域、和对入射的光进行拍摄的与上述第1区域不同的第2区域;设定部,其将上述第1区域的摄像条件设定成与上述第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和由上述修正部修正后的第2图像数据来生成图像。
(10)在(9)那样的摄像装置中,上述修正部以上述第1图像数据的值与上述第2图像数据的值之差减小的方式对上述第1图像数据和上述第2图像数据进行修正。
(11)在(10)那样的摄像装置中,上述修正部以使上述第1图像数据的值增加、且使上述第2图像数据的值减少的方式进行修正。
(12)在(9)至(11)那样的摄像装置中,上述修正部基于由上述设定部设定的上述第1区域的摄像条件和上述第2区域的摄像条件来修正上述第1图像数据,并基于上述第1区域的摄像条件和上述第2区域的摄像条件来修正上述第2图像数据。
(13)在(12)那样的摄像装置中,上述修正部基于上述第1区域的摄像条件与上述第2区域的摄像条件的不同来对上述第1图像数据和上述第2图像数据进行修正。
(14)在(9)至(13)那样的摄像装置中,上述生成部使用由上述修正部修正后的上述第1图像数据对由上述修正部修正后的上述第2图像数据实施图像处理。
(15)在(9)至(14)那样的摄像装置中,上述生成部对所生成的上述图像进行修正。
(16)一种图像处理装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
(17)在(16)那样的图像处理装置中,上述修正部以使上述第1图像数据的值与上述第2图像数据的值之差减小的方式对上述第1图像数据进行修正。
(18)在(16)或(17)那样的图像处理装置中,上述修正部基于上述第1区域的摄像条件与上述第2区域的摄像条件的不同来对上述第1图像数据进行修正。
(19)一种图像处理装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;以及生成部,其根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据来生成图像。
(20)在(19)那样的图像处理装置中,上述修正部以上述第1图像数据的值与上述第2图像数据的值之差减小的方式对上述第1图像数据和上述第2图像数据进行修正。
(21)在(19)或(20)那样的图像处理装置中,上述修正部基于上述第1区域的摄像条件与上述第2区域的摄像条件的不同来对上述第1图像数据和上述第2图像数据进行修正。
(22)一种显示装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据;以及显示部,其显示图像,该图像根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据而生成。
(23)在(22)那样的显示装置中,上述修正部以上述第1图像数据的值与上述第2图像数据的值之差减小的方式对上述第1图像数据进行修正。
(24)在(22)或(23)那样的显示装置中,上述修正部基于上述第1区域的摄像条件与上述第2区域的摄像条件的不同来对上述第1图像数据进行修正。
(25)一种显示装置,具备:设定部,其将摄像部的第1区域的摄像条件设定成与上述摄像部的第2区域的摄像条件不同;修正部,其基于由上述设定部设定的上述第2区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的第1图像数据,并基于由上述设定部设定的上述第1区域的摄像条件,来修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的第2图像数据;及显示部,其显示图像,该图像根据由上述修正部修正后的上述第1图像数据、和对入射到上述第2区域的光进行拍摄而生成的第2图像数据而生成。
(26)在(25)那样的显示装置中,上述修正部以使上述第1图像数据的值与上述第2图像数据的值之差减小的方式对上述第1图像数据和上述第2图像数据进行修正。
(27)在(25)或(26)那样的显示装置中,上述修正部基于上述第1区域的摄像条件与上述第2区域的摄像条件的不同来修正上述第1图像数据和上述第2图像数据。
(28)在(1)至(15)那样的摄像装置中,上述修正部具有第1修正部和第2修正部,该第1修正部修正以由上述设定部设定的摄像条件对入射到上述第1区域的光进行拍摄而生成的上述第1图像数据,该第2修正部修正以由上述设定部设定的摄像条件对入射到上述第2区域的光进行拍摄而生成的上述第2图像数据,上述第1修正部基于上述第2区域的摄像条件来修正上述第1图像数据,上述生成部根据由上述第1修正部修正后的上述第1图像数据和上述第2图像数据来生成图像。
(29)在(28)那样的摄像装置中,上述第1修正部以使上述第1图像数据的值与上述第2图像数据的值之差减小的方式对上述第1图像数据进行修正。
(30)在(28)或(29)那样的摄像装置中,上述第1修正部基于上述第1区域的摄像条件与上述第2区域的摄像条件的不同来对上述第1图像数据进行修正。
(31)在(28)至(30)那样的摄像装置中,上述第2修正部基于上述第1区域的摄像条件来修正上述第2图像数据,上述生成部根据由上述第1修正部修正后的上述第1图像数据、和由上述第2修正部修正后的上述第2图像数据来生成图像。
(32)在(28)至(31)那样的摄像装置中,上述第2修正部根据上述第1图像数据来修正上述第2图像数据,上述生成部根据由上述第1修正部修正后的上述第1图像数据、和由上述第2修正部修正后的上述第2图像数据来生成图像。
(33)在(28)至(32)那样的摄像装置中,上述摄像部设于第1半导体衬底,上述第1修正部和上述第2修正部设于第2半导体衬底。
(34)在(33)那样的摄像装置中,上述第1半导体衬底和上述第2半导体衬底层叠在一起。
以下优先权基础申请的公开内容被作为引用文而组入于此。
日本国专利申请2015年第194612号(2015年9月30日提出申请)
附图标记说明
1、1C…相机
1B…摄像***
32…摄像部
32a、100…摄像元件
33…图像处理部
33a、321…输入部
33b、322…修正部
33c、323…生成部
34…控制部
34a…物体检测部
34b…设定部
34c…摄像控制部
34d…AF运算部
35…显示部
90…规定范围
1001…摄像装置
1002…显示装置
P…关注像素。
Claims (26)
1.一种摄像装置,其特征在于,具备:
摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;
设定部,其将所述第1摄像区域的摄像条件设定为与所述第2摄像区域的摄像条件不同的摄像条件;以及
修正部,其基于所述第1摄像区域的摄像条件和所述第2摄像区域的摄像条件对从所述第2摄像区域输出的所述第2信号进行修正,该修正用于对从所述第1摄像区域输出的所述第1信号进行插补。
2.根据权利要求1所述的摄像装置,其特征在于,作为用于对从所述第1摄像区域输出的所述第1信号进行插补的修正,所述修正部基于所述第1摄像区域的摄像条件与所述第2摄像区域的摄像条件的不同对从所述第2摄像区域输出的所述第2信号进行修正。
3.根据权利要求2所述的摄像装置,其特征在于,所述第1摄像区域的摄像条件和所述第2摄像区域的摄像条件为曝光条件,
所述修正部基于所述第1摄像区域的曝光条件与所述第2摄像区域的曝光条件的不同对从所述第2摄像区域输出的所述第2信号进行修正。
4.根据权利要求3所述的摄像装置,其特征在于,所述第1摄像区域的曝光条件和所述第2摄像区域的曝光条件为摄像区域的受光部的电荷蓄存时间,
所述修正部基于所述第1摄像区域的电荷蓄存时间与所述第2摄像区域的电荷蓄存时间之比对从所述第2摄像区域输出的所述第2信号进行修正。
5.根据权利要求3所述的摄像装置,其特征在于,所述第1摄像区域的曝光条件和所述第2摄像区域的曝光条件为摄像区域的摄像感光度,
所述修正部基于所述第1摄像区域的摄像感光度与所述第2摄像区域的摄像感光度的对数比对从所述第2摄像区域输出的所述第2信号进行修正。
6.根据权利要求1所述的摄像装置,其特征在于,作为用于对从所述第1摄像区域输出的所述第1信号进行插补的修正,所述修正部基于所述第1摄像区域的摄像条件或所述第2摄像区域的摄像条件对从所述第2摄像区域输出的所述第2信号进行修正。
7.根据权利要求1所述的摄像装置,其特征在于,所述修正部对从所述第1摄像区域输出的所述第1信号进行修正,并对从所述第2摄像区域输出的所述第2信号,进行用于对修正后的所述第1信号进行插补的修正。
8.根据权利要求1所述的摄像装置,其特征在于,
具备生成部,所述生成部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来生成在所述第1摄像区域拍摄得到的被摄体的图像。
9.根据权利要求1所述的摄像装置,其特征在于,
具备检测部,所述检测部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来检测在所述第1摄像区域拍摄得到的被摄体。
10.根据权利要求1所述的摄像装置,其特征在于,
具备控制部,所述控制部控制所述设定部对摄像条件的设定,并使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来控制对所述第1摄像区域设定的摄像条件的设定。
11.根据权利要求1所述的摄像装置,其特征在于,
所述摄像元件利用能够在光学***的光轴方向上移动的透镜来拍摄被摄体,
所述摄像装置具备控制部,所述控制部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来控制所述透镜的驱动。
12.根据权利要求1所述的摄像装置,其特征在于,
所述摄像元件利用能够在光学***的光轴方向上移动的透镜来拍摄被摄体,
所述摄像装置具备生成部,所述生成部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来生成用于驱动所述透镜的信号。
13.根据权利要求1至12中任一项所述的摄像装置,其特征在于,
所述第1摄像区域对来自被摄体的光中的第1颜色的光进行光电转换并输出所述第1信号,
所述第2摄像区域对来自被摄体的光中的与所述第1颜色不同的第2颜色的光进行光电转换并输出所述第2信号。
14.一种摄像装置,其特征在于,具备:
摄像元件,其具有对被摄体进行拍摄并输出第1信号的第1摄像区域、和对被摄体进行拍摄并输出第2信号的第2摄像区域;
设定部,其将所述第1摄像区域的摄像条件设定为与所述第2摄像区域的摄像条件不同的摄像条件;以及
修正部,其基于所述第1摄像区域的摄像条件或所述第2摄像区域的摄像条件对从所述第2摄像区域输出的所述第2信号进行修正,该修正用于降低从所述第1摄像区域输出的所述第1信号中包含的噪声。
15.根据权利要求14所述的摄像装置,其特征在于,
作为用于降低从所述第1摄像区域输出的所述第1信号中包含的噪声的修正,所述修正部基于所述第1摄像区域的摄像条件和所述第2摄像区域的摄像条件对从所述第2摄像区域输出的所述第2信号进行修正。
16.根据权利要求15所述的摄像装置,其特征在于,
作为用于对从所述第1摄像区域输出的所述第1信号进行插补的修正,所述修正部基于所述第1摄像区域的摄像条件与所述第2摄像区域的摄像条件的不同对从所述第2摄像区域输出的所述第2信号进行修正。
17.根据权利要求16所述的摄像装置,其特征在于,所述第1摄像区域的摄像条件和所述第2摄像区域的摄像条件为曝光条件,
所述修正部基于所述第1摄像区域的曝光条件与所述第2摄像区域的曝光条件的不同对从所述第2摄像区域输出的所述第2信号进行修正。
18.根据权利要求17所述的摄像装置,其特征在于,所述第1摄像区域的曝光条件和所述第2摄像区域的曝光条件为摄像区域的受光部的电荷蓄存时间,
所述修正部基于所述第1摄像区域的电荷蓄存时间与所述第2摄像区域的电荷蓄存时间之比对从所述第2摄像区域输出的所述第2信号进行修正。
19.根据权利要求17所述的摄像装置,其特征在于,所述第1摄像区域的曝光条件和所述第2摄像区域的曝光条件为摄像区域的摄像感光度,
所述修正部基于所述第1摄像区域的摄像感光度与所述第2摄像区域的摄像感光度的对数比对从所述第2摄像区域输出的所述第2信号进行修正。
20.根据权利要求14所述的摄像装置,其特征在于,
所述修正部对从所述第1摄像区域输出的所述第1信号进行修正,并对从所述第2摄像区域输出的所述第2信号进行用于降低修正后的所述第1信号中包含的噪声的修正。
21.根据权利要求14所述的摄像装置,其特征在于,
具备生成部,所述生成部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来生成在所述第1摄像区域拍摄得到的被摄体的图像。
22.根据权利要求14所述的摄像装置,其特征在于,
具备检测部,所述检测部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来检测在所述第1摄像区域拍摄得到的被摄体。
23.根据权利要求14所述的摄像装置,其特征在于,
具备控制部,所述控制部控制所述设定部对摄像条件的设定,并使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来控制对所述第1摄像区域设定的摄像条件的设定。
24.根据权利要求14所述的摄像装置,其特征在于,
所述摄像元件利用能够在光学***的光轴方向上移动的透镜来拍摄被摄体,
所述摄像装置具备控制部,所述控制部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来控制所述透镜的驱动。
25.根据权利要求14所述的摄像装置,其特征在于,
所述摄像元件利用能够在光学***的光轴方向上移动的透镜来拍摄被摄体,
所述摄像装置具有生成部,所述生成部使用根据由所述修正部修正后的所述第2信号对所述第1信号进行插补得到的信号,来生成用于驱动所述透镜的信号。
26.根据权利要求14至25中任一项所述的摄像装置,其特征在于,
所述第1摄像区域对来自被摄体的光中的第1颜色的光进行光电转换并输出所述第1信号,
所述第2摄像区域对来自被摄体的光中的与所述第1颜色不同的第2颜色的光进行光电转换并输出所述第2信号。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011573755.2A CN112714252B (zh) | 2015-09-30 | 2016-09-26 | 摄像装置 |
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015194612 | 2015-09-30 | ||
JP2015-194612 | 2015-09-30 | ||
PCT/JP2016/078280 WO2017057279A1 (ja) | 2015-09-30 | 2016-09-26 | 撮像装置、画像処理装置、および表示装置 |
CN201680056920.2A CN108141531B (zh) | 2015-09-30 | 2016-09-26 | 摄像装置 |
CN202011573755.2A CN112714252B (zh) | 2015-09-30 | 2016-09-26 | 摄像装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680056920.2A Division CN108141531B (zh) | 2015-09-30 | 2016-09-26 | 摄像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112714252A true CN112714252A (zh) | 2021-04-27 |
CN112714252B CN112714252B (zh) | 2023-04-07 |
Family
ID=58427755
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680056920.2A Active CN108141531B (zh) | 2015-09-30 | 2016-09-26 | 摄像装置 |
CN202011573755.2A Active CN112714252B (zh) | 2015-09-30 | 2016-09-26 | 摄像装置 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201680056920.2A Active CN108141531B (zh) | 2015-09-30 | 2016-09-26 | 摄像装置 |
Country Status (5)
Country | Link |
---|---|
US (3) | US10810716B2 (zh) |
EP (1) | EP3358820B1 (zh) |
JP (3) | JPWO2017057279A1 (zh) |
CN (2) | CN108141531B (zh) |
WO (1) | WO2017057279A1 (zh) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108141531B (zh) * | 2015-09-30 | 2021-01-05 | 株式会社尼康 | 摄像装置 |
JP6702777B2 (ja) * | 2016-04-12 | 2020-06-03 | キヤノン株式会社 | 撮像装置、撮像方法、及びプログラム |
JP7011240B2 (ja) * | 2016-09-08 | 2022-01-26 | ソニーグループ株式会社 | 撮像素子および駆動方法、並びに電子機器 |
JP7025223B2 (ja) * | 2018-01-18 | 2022-02-24 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
US20210136406A1 (en) * | 2018-03-30 | 2021-05-06 | Nikon Corporation | Video compression apparatus, decompression apparatus and recording medium |
US10410368B1 (en) * | 2018-09-27 | 2019-09-10 | Qualcomm Incorporated | Hybrid depth processing |
CN111182206B (zh) * | 2019-12-31 | 2021-06-25 | 维沃移动通信有限公司 | 图像处理方法和装置 |
US11343436B2 (en) * | 2020-06-26 | 2022-05-24 | Advanced Micro Devices, Inc. | Half-shield phase detection auto-focus sensor for auto-exposure convergence |
JP2022117091A (ja) * | 2021-01-29 | 2022-08-10 | キヤノン株式会社 | 計測装置、リソグラフィ装置及び物品の製造方法 |
JP2022119379A (ja) * | 2021-02-04 | 2022-08-17 | キヤノン株式会社 | 光電変換装置 |
US20230169663A1 (en) * | 2021-11-29 | 2023-06-01 | Canon Medical Systems Corporation | Motion correction of images corrupted by multiple motion sources |
WO2023186529A1 (en) * | 2022-03-31 | 2023-10-05 | Sony Group Corporation | Sensor device and method for operating a sensor device |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000209425A (ja) * | 1998-11-09 | 2000-07-28 | Canon Inc | 画像処理装置及び方法並びに記憶媒体 |
JP2011259226A (ja) * | 2010-06-09 | 2011-12-22 | Canon Inc | 撮像装置及びその制御方法 |
US20130002911A1 (en) * | 2010-06-09 | 2013-01-03 | Takeshi Miyashita | Imaging device and image processing method |
US20130051700A1 (en) * | 2011-08-31 | 2013-02-28 | Sony Corporation | Image processing apparatus, image processing method, and program |
CN103248820A (zh) * | 2012-02-10 | 2013-08-14 | 佳能株式会社 | 摄像设备及其控制方法 |
CN104023218A (zh) * | 2013-02-28 | 2014-09-03 | 株式会社日立制作所 | 摄像装置以及图像信号处理装置 |
WO2015045375A1 (ja) * | 2013-09-26 | 2015-04-02 | 株式会社ニコン | 撮像素子および撮像装置 |
JP2015092660A (ja) * | 2013-10-01 | 2015-05-14 | 株式会社ニコン | 撮像装置、撮像装置の制御方法、電子機器、電子機器の制御方法、及び制御プログラム |
US20150256736A1 (en) * | 2014-03-05 | 2015-09-10 | Sony Corporation | Imaging device |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1638340B1 (en) * | 2003-06-23 | 2013-08-07 | Sony Corporation | Image processing method and device, and program |
JP4277216B2 (ja) | 2005-01-13 | 2009-06-10 | ソニー株式会社 | 撮像装置及び撮像結果の処理方法 |
CN101297545B (zh) * | 2005-10-28 | 2012-05-02 | 株式会社尼康 | 摄影装置、图像处理装置 |
US8059174B2 (en) * | 2006-05-31 | 2011-11-15 | Ess Technology, Inc. | CMOS imager system with interleaved readout for providing an image with increased dynamic range |
JP2009105501A (ja) * | 2007-10-19 | 2009-05-14 | Sony Corp | 撮像装置、光学的黒レベルの補正方法、およびプログラム |
JP5424679B2 (ja) * | 2009-03-18 | 2014-02-26 | キヤノン株式会社 | 撮像装置及び信号処理装置 |
JP2012105225A (ja) * | 2010-11-12 | 2012-05-31 | Sony Corp | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム |
JP5655626B2 (ja) * | 2011-02-24 | 2015-01-21 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
JP2012235332A (ja) | 2011-05-02 | 2012-11-29 | Sony Corp | 撮像装置、および撮像装置制御方法、並びにプログラム |
JP5911252B2 (ja) * | 2011-09-30 | 2016-04-27 | キヤノン株式会社 | 撮像装置及び画像処理方法 |
RU2018109081A (ru) | 2012-05-02 | 2019-02-26 | Никон Корпорейшн | Устройство формирования изображений |
WO2014006783A1 (ja) * | 2012-07-06 | 2014-01-09 | 富士フイルム株式会社 | 撮像装置及び画像処理方法 |
CN110086980B (zh) | 2013-05-31 | 2022-06-24 | 株式会社尼康 | 电子设备 |
EP3035667B1 (en) * | 2013-08-12 | 2024-06-19 | Nikon Corporation | Electronic device |
CN110266975B (zh) * | 2013-10-02 | 2022-03-25 | 株式会社尼康 | 摄像元件以及摄像装置 |
JP6478457B2 (ja) * | 2014-01-23 | 2019-03-06 | キヤノン株式会社 | 焦点調節装置及び焦点調節方法 |
JP6446790B2 (ja) * | 2014-02-21 | 2019-01-09 | 株式会社リコー | 画像処理装置、撮像装置、画像補正方法およびプログラム |
JP6483354B2 (ja) * | 2014-06-05 | 2019-03-13 | オリンパス株式会社 | 撮像装置および撮像方法 |
JP6460653B2 (ja) * | 2014-06-11 | 2019-01-30 | オリンパス株式会社 | 画像処理装置、それを備えた撮像装置、画像処理方法、及び画像処理プログラム |
JP6476065B2 (ja) * | 2015-05-14 | 2019-02-27 | オリンパス株式会社 | 撮像装置及び撮像装置の制御方法 |
CN108141531B (zh) * | 2015-09-30 | 2021-01-05 | 株式会社尼康 | 摄像装置 |
EP3439283A4 (en) * | 2016-03-31 | 2020-03-25 | Nikon Corporation | IMAGE RECORDING DEVICE, IMAGE PROCESSING DEVICE AND ELECTRONIC DEVICE |
JPWO2017170716A1 (ja) * | 2016-03-31 | 2019-03-07 | 株式会社ニコン | 撮像装置、画像処理装置、および電子機器 |
-
2016
- 2016-09-26 CN CN201680056920.2A patent/CN108141531B/zh active Active
- 2016-09-26 JP JP2017543261A patent/JPWO2017057279A1/ja active Pending
- 2016-09-26 CN CN202011573755.2A patent/CN112714252B/zh active Active
- 2016-09-26 EP EP16851450.3A patent/EP3358820B1/en active Active
- 2016-09-26 US US15/765,129 patent/US10810716B2/en active Active
- 2016-09-26 WO PCT/JP2016/078280 patent/WO2017057279A1/ja active Application Filing
-
2020
- 2020-06-23 JP JP2020108254A patent/JP2020184766A/ja active Pending
- 2020-09-21 US US17/027,161 patent/US11716545B2/en active Active
-
2022
- 2022-09-07 JP JP2022141896A patent/JP2022174185A/ja active Pending
-
2023
- 2023-06-12 US US18/208,399 patent/US20230328395A1/en active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000209425A (ja) * | 1998-11-09 | 2000-07-28 | Canon Inc | 画像処理装置及び方法並びに記憶媒体 |
JP2011259226A (ja) * | 2010-06-09 | 2011-12-22 | Canon Inc | 撮像装置及びその制御方法 |
US20130002911A1 (en) * | 2010-06-09 | 2013-01-03 | Takeshi Miyashita | Imaging device and image processing method |
US20130051700A1 (en) * | 2011-08-31 | 2013-02-28 | Sony Corporation | Image processing apparatus, image processing method, and program |
CN103248820A (zh) * | 2012-02-10 | 2013-08-14 | 佳能株式会社 | 摄像设备及其控制方法 |
CN104023218A (zh) * | 2013-02-28 | 2014-09-03 | 株式会社日立制作所 | 摄像装置以及图像信号处理装置 |
WO2015045375A1 (ja) * | 2013-09-26 | 2015-04-02 | 株式会社ニコン | 撮像素子および撮像装置 |
JP2015092660A (ja) * | 2013-10-01 | 2015-05-14 | 株式会社ニコン | 撮像装置、撮像装置の制御方法、電子機器、電子機器の制御方法、及び制御プログラム |
US20150256736A1 (en) * | 2014-03-05 | 2015-09-10 | Sony Corporation | Imaging device |
Non-Patent Citations (1)
Title |
---|
陈超等: "高品质图像的合成技术", 《电讯技术》 * |
Also Published As
Publication number | Publication date |
---|---|
CN112714252B (zh) | 2023-04-07 |
EP3358820B1 (en) | 2021-06-09 |
EP3358820A1 (en) | 2018-08-08 |
JP2020184766A (ja) | 2020-11-12 |
JPWO2017057279A1 (ja) | 2018-07-19 |
US20230328395A1 (en) | 2023-10-12 |
US11716545B2 (en) | 2023-08-01 |
CN108141531B (zh) | 2021-01-05 |
US10810716B2 (en) | 2020-10-20 |
EP3358820A4 (en) | 2019-07-17 |
WO2017057279A1 (ja) | 2017-04-06 |
US20190057495A1 (en) | 2019-02-21 |
JP2022174185A (ja) | 2022-11-22 |
CN108141531A (zh) | 2018-06-08 |
US20210037218A1 (en) | 2021-02-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108141531B (zh) | 摄像装置 | |
JP7363953B2 (ja) | 撮像装置 | |
CN109196854B (zh) | 摄像装置、图像处理装置及电子设备 | |
WO2017170716A1 (ja) | 撮像装置、画像処理装置、および電子機器 | |
JP7439856B2 (ja) | 撮像装置 | |
JPWO2017170717A1 (ja) | 撮像装置、焦点調節装置、および電子機器 | |
JP6521085B2 (ja) | 撮像装置、および制御装置 | |
JP6589989B2 (ja) | 撮像装置 | |
JP6604385B2 (ja) | 撮像装置 | |
JP6589988B2 (ja) | 撮像装置 | |
WO2017057267A1 (ja) | 撮像装置、および焦点検出装置 | |
WO2017057280A1 (ja) | 撮像装置、および被写体検出装置 | |
WO2017170718A1 (ja) | 撮像装置、被写体検出装置、および電子機器 | |
JPWO2017170719A1 (ja) | 撮像装置、および電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |