CN114258672B - 摄像装置、摄像装置的工作方法及存储介质 - Google Patents
摄像装置、摄像装置的工作方法及存储介质 Download PDFInfo
- Publication number
- CN114258672B CN114258672B CN202080056928.5A CN202080056928A CN114258672B CN 114258672 B CN114258672 B CN 114258672B CN 202080056928 A CN202080056928 A CN 202080056928A CN 114258672 B CN114258672 B CN 114258672B
- Authority
- CN
- China
- Prior art keywords
- image data
- image
- detection
- circuit
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 393
- 238000003860 storage Methods 0.000 title claims abstract description 80
- 238000001514 detection method Methods 0.000 claims abstract description 740
- 238000012545 processing Methods 0.000 claims abstract description 469
- 230000008569 process Effects 0.000 claims abstract description 323
- 238000003384 imaging method Methods 0.000 claims abstract description 248
- 230000009467 reduction Effects 0.000 claims abstract description 98
- 210000001747 pupil Anatomy 0.000 claims description 200
- 238000006243 chemical reaction Methods 0.000 claims description 51
- 238000011017 operating method Methods 0.000 abstract description 3
- 102220520024 Protein DEK_F34A_mutation Human genes 0.000 description 26
- 238000010586 diagram Methods 0.000 description 24
- 238000004891 communication Methods 0.000 description 21
- 238000005516 engineering process Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 14
- 102220489711 Ubiquitin-like modifier-activating enzyme ATG7_F15D_mutation Human genes 0.000 description 11
- 230000003287 optical effect Effects 0.000 description 7
- 238000000605 extraction Methods 0.000 description 6
- 238000005304 joining Methods 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 238000012546 transfer Methods 0.000 description 5
- 102100029860 Suppressor of tumorigenicity 20 protein Human genes 0.000 description 4
- 230000003213 activating effect Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000004397 blinking Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 102100036848 C-C motif chemokine 20 Human genes 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 2
- 241000238631 Hexapoda Species 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 229910052802 copper Inorganic materials 0.000 description 2
- 239000010949 copper Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000011664 signaling Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 1
- 239000013256 coordination polymer Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
- G03B17/18—Signals indicating condition of a camera member or suitability of light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/62—Control of parameters via user interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
- H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/44—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Ophthalmology & Optometry (AREA)
- Studio Devices (AREA)
Abstract
本发明涉及摄像装置、摄像装置的工作方法及存储介质。摄像装置包含:存储部,存储通过拍摄而得到的图像数据;及处理部,对图像数据进行处理,处理部进行缩小图像数据的处理,并且进行从由进行通过缩小图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理,在通过第1检测处理未检测到特定被摄体图像的情况下,对存储于存储部中的缩小前的图像数据即缩小前图像数据进行第2检测处理。
Description
技术领域
本发明的技术涉及一种摄像装置、摄像装置的工作方法及存储介质。
背景技术
日本特开2018-056944号公报中公开了一种摄像装置,其具备成像元件、生成部及检测部。在日本特开2018-056944号公报中记载的摄像装置中,成像元件具有:多个摄像区域,配置有由光电转换的电荷生成信号的多个像素;及信号线,配置于每个摄像区域,输出由像素生成的信号。生成部使用从配置于第1摄像区域的像素输出到第1摄像区域的信号线的第1像素的信号,生成所拍摄的被摄体的图像。检测部使用从配置于摄像区域中的与第1摄像区域不同的第2摄像区域的像素输出到第2摄像区域的信号线的比第1像素的数多的第2像素的信号来检测被摄体。
在日本特开2018-056944号公报中记载的摄像装置中,生成部使用从配置于第1摄像区域的像素中间隔剔除后输出到第1摄像区域的信号线的第1像素的信号,生成所拍摄的被摄体的图像。并且,检测部使用从配置于第2摄像区域的像素中间隔剔除后输出到第2摄像区域的信号线的比第1像素的数多的第2像素的信号来检测被摄体。
日本特开2016-219949号公报中公开了一种摄像装置,其具有摄像机构,该摄像机构具备成像元件,该成像元件拍摄被摄体并输出与被摄体对应的图像。日本特开2016-219949号公报中记载的摄像装置具有读出机构、判别机构及控制机构。读出机构在成像元件中将特定的像素组的读出作为第1读出动作进行而得到第1图像的同时,将与特定的像素组不同的像素组的读出作为第2读出动作进行而得到第2图像。判别机构将通过第1读出动作得到的第1图像中规定的被摄体区域判别为关注被摄体区域。控制机构根据由判别机构得到的关注被摄体区域来控制读出机构,将通过第2读出动作得到的第2图像作为具备关注被摄体区域的图像。并且,日本特开2016-219949号公报中记载的摄像装置的特征在于,第2图像中的像素数比第1图像中的关注被摄体区域的像素数多。
发明内容
本发明的技术所涉及的一个实施方式提供与始终仅使用缩小前图像数据进行检测处理的情况相比,能够实现处理负载的减轻及高精度的检测的摄像装置、摄像装置的工作方法及存储介质。
用于解决技术课题的手段
本发明的技术所涉及的第1方式是一种摄像装置,其包含:存储部,存储通过拍摄而得到的图像数据;及处理部,对图像数据进行处理,处理部进行缩小图像数据的处理,并且进行从由进行通过缩小图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理,在通过第1检测处理未检测到特定被摄体图像的情况下,对存储于存储部中的缩小前的图像数据即缩小前图像数据进行第2检测处理。
本发明的技术所涉及的第2方式是第1方式所涉及的摄像装置,其中,处理部对表示部分区域的部分区域图像数据进行第2检测处理,所述部分区域是由缩小前图像数据表示的图像内的部分区域,且与在进行第2检测处理的帧的前一帧中通过第1检测处理检测到的特定被摄体图像的位置对应。
本发明的技术所涉及的第3方式是第2方式所涉及的摄像装置,其中,部分区域是由缩小前图像数据表示的图像内的所指示的特定的被摄体的区域。
本发明的技术所涉及的第4方式是第1方式至第3方式中任一项所述的摄像装置,其中,在通过第1检测处理检测到特定被摄体图像的情况下,处理部将缩小前图像数据中的表示与特定被摄体图像的位置对应的区域的特定被摄体图像区域数据存储于存储部。
本发明的技术所涉及的第5方式是第4方式所涉及的摄像装置,其中,在通过第1检测处理检测到特定被摄体图像的情况下,处理部对存储于存储部中的特定被摄体图像区域数据进行第2检测处理。
本发明的技术所涉及的第6方式是第1方式至第5方式中任一项所述的摄像装置,其中,处理部根据图像数据生成多种缩小前图像数据,将所生成的多种缩小前图像数据按每个规定期间存储于存储部。
本发明的技术所涉及的第7方式是第6方式所涉及的摄像装置,其中,处理部在进行第2检测处理之前,按每个规定期间分析图像数据,对存储于存储部中的多种缩小前图像数据中的按每个规定期间根据分析结果确定的缩小前图像数据进行第2检测处理。
本发明的技术所涉及的第8方式是第7方式所涉及的摄像装置,其中,处理部在进行第2检测处理之前,按每个规定期间根据图像数据分析指示区域图像的对比度,对存储于存储部中的多种缩小前图像数据中的按每个规定期间根据分析结果确定的缩小前图像数据进行第2检测处理。
本发明的技术所涉及的第9方式是第1方式至第8方式中任一项所述的摄像装置,其中,第2检测处理是从由缩小前图像数据表示的图像内检测特定被摄体图像及表示比特定的被摄体小型的被摄体的小型被摄体图像中的至少一个的处理。
本发明的技术所涉及的第10方式是第9方式所涉及的摄像装置,其中,特定被摄体图像是表示脸部的脸部图像,小型被摄体图像是表示瞳孔的瞳孔图像。
本发明的技术所涉及的第11方式是第1方式至第10方式中任一项所述的摄像装置,其中,特定被摄体图像是由图像数据表示的图像内的表示所指示的移动体的移动体图像。
本发明的技术所涉及的第12方式是第1方式至第11方式中任一项所述的摄像装置,其中,缩小前图像数据是显示用图像数据。
本发明的技术所涉及的第13方式是第1方式至第11方式中任一项所述的摄像装置,其还包含成像元件,成像元件内置有存储部。
本发明的技术所涉及的第14方式是第13方式所涉及的摄像装置,其中,成像元件内置有处理部。
本发明的技术所涉及的第15方式是第13方式或第14方式所涉及的摄像装置,其中,成像元件是至少将光电转换元件和存储部单芯片化而成的成像元件。
本发明的技术所涉及的第16方式是第15方式所述的摄像装置,其中,成像元件是存储部层叠于光电转换元件上的层叠型成像元件。
本发明的技术所涉及的第17方式是第1方式至第16方式中任一项所述的摄像装置,其还包含控制部,所述控制部进行使显示装置显示第1检测处理中的检测结果及第2检测处理中的检测结果中的至少一者的控制。
本发明的技术所涉及的第18方式是第1方式至第17方式中任一项所述的摄像装置,其中,处理部对分辨率不同的多个缩小前图像数据,从低分辨率的缩小前图像数据到高分辨率的缩小前图像数据阶段性地进行第2检测处理。
本发明的技术所涉及的第19方式是一种摄像装置的工作方法,其包括如下步骤:将通过拍摄而得到的图像数据存储于存储部;进行缩小图像数据的处理;进行从由通过缩小图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理;及在通过第1检测处理未检测到特定被摄体图像的情况下,对存储于存储部中的缩小前的图像数据即缩小前图像数据进行第2检测处理。
本发明的技术所涉及的第20方式是一种程序,其用于使计算机执行包括以下步骤的处理:将通过拍摄而得到的图像数据存储于存储部;进行缩小图像数据的处理;进行从由通过缩小图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理;及在通过第1检测处理未检测到特定被摄体图像的情况下,对存储于存储部中的缩小前的图像数据即缩小前图像数据进行第2检测处理。
附图说明
图1是表示第1~第4实施方式所涉及的摄像装置的外观的一例的立体图。
图2是表示图1所示的摄像装置的背面侧的外观的一例的后视图。
图3是表示第1~第4实施方式所涉及的摄像装置的结构的一例的框图。
图4是表示第1~第4实施方式所涉及的摄像装置中包含的摄像装置主体的电气***的硬件结构的一例的框图。
图5是用于说明第1~第4实施方式所涉及的摄像装置中包含的成像元件的帧速率的概念图。
图6是表示第1~第4实施方式所涉及的摄像装置中包含的成像元件的层叠结构的一例的概念图。
图7是表示第1、第2及第4实施方式所涉及的摄像装置中包含的成像元件的电气***的硬件结构的一例的框图。
图8是表示由第1~第4实施方式所涉及的成像元件进行的摄像处理及输出处理的内容的一例的概念图。
图9是表示第1~第4实施方式所涉及的摄像装置中包含的成像元件、信号处理电路、控制器及触摸面板显示器的相互之间的关系性的一例的概念图。
图10是表示第1~第4实施方式所涉及的摄像装置中包含的触摸面板显示器的使用例的概念图。
图11是表示第1及第2实施方式所涉及的摄像装置中包含的信号处理电路及其周边的结构的一例的概念图。
图12是表示通过由第1~第4实施方式所涉及的摄像装置拍摄而得到的数字图像数据及通过缩小数字图像数据而得到的多种图像数据的结构例的概念图。
图13A是表示第1检测处理成功时(检测到特定被摄体图像时)的即时预览图像显示于显示器上的方式的一例的画面图。
图13B是表示第1检测处理失败,且第2检测处理成功时(通过第1检测处理未检测到特定被摄体图像,而通过第2检测处理检测到特定被摄体图像时)的即时预览图像显示于显示器上的方式的一例的画面图。
图13C是表示第1检测处理及第2检测处理失败时(通过第1检测处理和第2检测处理均未检测到特定被摄体图像时)的即时预览图像显示于显示器上的方式的一例的画面图。
图14是表示第1实施方式所涉及的摄像装置中的处理内容的一例的时序图。
图15A是表示第1实施方式所涉及的后级电路处理流程的一例的流程图。
图15B是图15A所示的流程图的延续。
图16是用于说明第2实施方式所涉及的摄像装置中包含的第1检测电路的处理内容的一例的概念图。
图17是用于说明第2实施方式所涉及的摄像装置中包含的第2检测电路的处理内容的一例的概念图。
图18A是表示由第2实施方式所涉及的摄像装置中包含的第1检测电路从由缩小图像数据表示的缩小图像中检测脸部图像,且从缩小图像中检测到瞳孔图像时的显示器的显示方式的一例的画面图。
图18B是表示由第2实施方式所涉及的摄像装置中包含的第1检测电路进行的第1检测处理及由第2检测电路进行的第2检测处理均失败时的显示器的显示方式的一例的画面图。
图18C是表示由第2实施方式所涉及的摄像装置中包含的第1检测电路或第2检测电路进行的脸部图像的检测成功,但瞳孔图像的检测失败时的显示器的显示方式的一例的画面图。
图19是表示第2实施方式所涉及的摄像装置中的处理内容的一例的时序图。
图20A是表示第2施方式所涉及的后级电路处理流程的一例的流程图。
图20B是图20A所示的流程图的延续。
图20C是图20B所示的流程图的延续。
图20D是图20A~图20C所示的流程图的延续。
图21是用于说明第2实施方式所涉及的摄像装置中包含的第1检测电路的处理内容的变形例的概念图。
图22是用于说明第2实施方式所涉及的摄像装置中包含的生成电路的处理内容的变形例的概念图。
图23是用于说明第2实施方式所涉及的摄像装置中包含的第2检测电路的处理内容的变形例的概念图。
图24是表示第3实施方式所涉及的摄像装置中包含的成像元件的电气***的硬件结构的一例的框图。
图25是表示第3实施方式所涉及的摄像装置中包含的信号处理电路及其周边的结构的一例的概念图。
图26A是表示第3实施方式所涉及的摄像装置中的处理内容的一例的时序图。
图26B是表示第3实施方式所涉及的摄像装置中的处理内容的一例的时序图。
图26C是表示第3实施方式所涉及的摄像装置中的处理内容的一例的时序图。
图27是表示第3实施方式所涉及的摄像装置中的处理内容的第1变形例的时序图。
图28是表示第3实施方式所涉及的摄像装置中的处理内容的第2变形例的时序图。
图29是表示第4实施方式所涉及的摄像装置中包含的信号处理电路及其周边的结构的一例的概念图。
图30A是表示由第2检测电路获取第4实施方式所涉及的摄像装置中包含的帧存储器中存储的第1缩小前图像数据作为第2检测处理对象图像数据时的处理内容的一例的概念图。
图30B是表示由第2检测电路获取第4实施方式所涉及的摄像装置中包含的帧存储器中存储的第2缩小前图像数据作为第2检测处理对象图像数据时的处理内容的一例的概念图。
图31是表示成像元件的电气***的硬件结构的变形例的框图。
图32是表示智能器件的背面侧的外观的一例的后视立体图。
图33是表示从存储有后级电路处理程序的存储介质向信号处理电路内的计算机安装后级电路处理程序的方式的一例的概念图。
图34是表示从存储有后级电路处理程序的存储介质向成像元件内的计算机安装后级电路处理程序的方式的一例的概念图。
具体实施方式
以下,按照附图对本发明的技术所涉及的摄像装置的实施方式的一例进行说明。
首先,对在以下说明中使用的术语进行说明。
CPU是指“Central Processing Unit:中央处理单元”的简称。GPU是指“GraphicsProcessing Unit:图形处理单元”的简称。RAM是指“Random Ac cess Memory:随机存取存储器”的简称。ROM是指“Read Only Memory:只读存储器”的简称。DRAM是指“DynamicRandom Access Memory:动态随机存取存储器”的简称。SRAM是指“Static Random AccessMemory:静态随机存取存储器”的简称。LSI是指“Large-Scale Integrated circuit:大规模集成电路”的简称。ASIC是指“Application Specific Integrated Circuit:专用集成电路”的简称。PLD是指“Programmable Logic Device:可编程逻辑器件”的简称。FPGA是指“Field-Programmable Gate Array:现场可编程门阵列”的简称。SoC是指“System-on-a-chip:片上***”的简称。SSD是指“Solid State Drive:固态驱动器”的简称。USB是指“Universal Serial Bu s:通用串行总线”的简称。HDD是指“Hard Disk Drive:硬盘驱动器”的简称。EEPROM是指“Electrically Erasable and Programmable Read Only Memory:带电可擦可编程只读存储器”的简称。CCD是指“Charge Coupled Devic e:电荷耦合元件”的简称。CMOS是指“Complementary Metal Oxide Semiconductor:互补型金属氧化物半导体”的简称。EL是指“Electro-Luminescenc e:电致发光”的简称。A/D是指“Analog/Digital:模拟/数字”的简称。I/F是指“Interface:接口”的简称。UI是指“User Interface:用户界面”的简称。LVDS是指“Low Voltage Differential Signaling:低压差分信号”的简称。PCIe是指“Peripheral Component Interconnect Express:***组件互连标准”的简称。SATA是指“Serial Advanced Technology Attachment:串行高级技术附件”的简称。SLVS-EC是指“Scalable Low Signaling with Embedded Clock:带有嵌入式时钟的可扩展低压信号”的简称。MIPI(注册商标)是指“Mobile Industry Processor Interface:移动行业处理器接口”的简称。fps是指“frame per second:每秒帧数”的简称。FIFO是指“Firs tIn,First Out:先进先出”的简称。FHD是指“Full High Definition:全高清”的简称。VGA是指“Video Graphics Array:视频图形阵列”的简称。
[第1实施方式]
作为一例,如图1所示,摄像装置10是镜头可换式且省略了反光镜的数码相机。摄像装置10具备摄像装置主体12和可更换地安装于摄像装置主体12上的可更换镜头14。另外,在此,作为摄像装置10的一例,举出了镜头可换式且省略了反光镜的数码相机,但本发明的技术并不限定于此,摄像装置10可以是镜头固定式等其他种类的数码相机。
在摄像装置主体12上设置有成像元件38。在可更换镜头14安装于摄像装置主体12上的情况下,表示被摄体的被摄体光透过可更换镜头14在成像元件38上成像,由成像元件38生成表示被摄体的图像的图像数据(例如,参考图4及图5)。
在摄像装置主体12上设置有混合式取景器(注册商标)16。在此,混合式取景器16是指例如选择性地使用光学取景器(以下,称为“OVF”)及电子取景器(以下,称为“EVF”)的取景器。另外,OVF是指“optical viewfind er:光学取景器”的简称。并且,EVF是指“electronic viewfinder:电子取景器”的简称。
在摄像装置主体12的前表面上设置有取景器切换杆18。通过使取景器切换杆18沿箭头SW方向转动,从而切换能够用OVF视觉辨认的光学像和能够用EVF视觉辨认的电子图像即即时预览图像。在此,“即时预览图像”是指基于通过由成像元件38拍摄而得到的图像数据的显示用动态图像。即时预览图像通常也被称为实时取景图像。在摄像装置主体12的上表面设置有释放按钮20及转盘23。在设定摄像***的动作模式及回放***的动作模式等时操作转盘23,由此在摄像装置10中,选择性地设定拍摄模式和回放模式作为动作模式。
释放按钮20作为摄像准备指示部及摄像指示部而发挥功能,并能够检测摄像准备指示状态和摄像指示状态这两个阶段的按压操作。摄像准备指示状态例如是指从待机位置被按下至中间位置(半按位置)的状态,摄像指示状态是指被按下至超过中间位置的最终按下位置(全按位置)的状态。另外,以下,将“从待机位置被按下至半按位置的状态”称为“半按状态”,将“从待机位置被按下至全按位置的状态”称为“全按状态”。
作为一例,如图2所示,在摄像装置主体12的背面上设置有触摸面板显示器24、指示键27及取景器目镜部30。
触摸面板显示器24具备显示器26及触摸面板28(也参考图4)。作为显示器26的一例,可举出有机EL显示器。显示器26也可以不是有机EL显示器,而是液晶显示器或无机EL显示器等其他种类的显示器。
另外,显示器26及EVF是本发明的技术所涉及的“显示装置”的一例。关于EVF的显示,由于等同于显示器26的显示,因此以下省略说明,在本说明书中,对显示器26的显示能够替换为对EVF的显示。
显示器26显示图像及字符信息等。显示器26用于显示当摄像装置10为拍摄模式时通过连续拍摄而得到的即时预览图像。并且,显示器26也用于显示当被赋予静止图像用拍摄的指示时通过拍摄而得到的静止图像。此外,显示器26也用于显示当摄像装置10为回放模式时的回放图像及菜单画面等。
触摸面板28是透射型触摸面板,与显示器26的显示区域的表面重叠。触摸面板28通过检测基于手指或触控笔等指示体的接触来接收来自用户的指示。
另外,在此,作为触摸面板显示器24的一例,举出了触摸面板28与显示器26的显示区域的表面重叠的外挂型触摸面板显示器,但这仅为一例。例如,作为触摸面板显示器24,也能够适用外嵌型或内嵌型触摸面板显示器。
指示键27接收各种指示。在此,“各种指示”例如是指能够选择各种菜单的菜单画面的显示指示、一个或多个菜单的选择指示、选择内容的确定指示、选择内容的擦除指示、放大、缩小及帧传送等各种指示等。
作为一例,如图3所示,可更换镜头14具有成像透镜40。成像透镜40具备物镜40A、聚焦透镜40B及光圈40C。物镜40A、聚焦透镜40B及光圈40C从被摄体侧(物体侧)到摄像装置主体12侧(像侧),沿着光轴L1,按照物镜40A、聚焦透镜40B及光圈40C的顺序配置。聚焦透镜40B及光圈40C通过受到来自马达等驱动源(省略图示)的动力而进行工作。即,聚焦透镜40B根据所施加的动力沿着光轴L1移动。并且,光圈40C通过根据所施加的动力而进行工作来调节曝光。
摄像装置主体12具备后级电路13、UI***器件17、机械快门41及成像元件38。后级电路13是位于成像元件38的后级的电路。后级电路13具有控制器15及信号处理电路34。控制器15与UI***器件17、信号处理电路34及成像元件38连接,控制摄像装置10的整个电气***。
成像元件38具备具有受光面42A的光电转换元件42。在本实施方式中,成像元件38是CMOS图像传感器。并且,在此,作为成像元件38而例示出CMO S图像传感器,但本发明的技术并不限定于此,例如即使成像元件38是CCD图像传感器等其他种类的图像传感器,本发明的技术也成立。
机械快门41通过受到来自马达等驱动源(省略图示)的动力而进行工作。在可更换镜头14安装于摄像装置主体12的情况下,表示被摄体的被摄体光透过成像透镜40,经由机械快门41在受光面42A上成像。
UI***器件17是向用户提示信息或接收来自用户的指示的器件。控制器15从UI***器件17获取各种信息,并控制UI***器件17。
成像元件38与控制器15连接,通过在控制器15的控制下拍摄被摄体,生成表示被摄体的图像的图像数据。
成像元件38与信号处理电路34连接。信号处理电路34是LSI,具体而言,是包含ASIC及FPGA的器件。控制器15从信号处理电路34获取各种信息,并控制成像元件38。成像元件38在控制器15的控制下,将由光电转换元件42生成的图像数据输出到信号处理电路34。
信号处理电路34是本发明的技术所涉及的“处理部(信号处理电路)”的一例。信号处理电路34是对图像数据进行处理的电路。具体而言,信号处理电路34对从成像元件38输入的图像数据进行各种信号处理。由信号处理电路34进行的各种信号处理例如包括白平衡调整、清晰度调整、伽马校正、颜色空间转换处理及色差校正等公知的信号处理。
另外,由信号处理电路34进行的各种信号处理也可以由信号处理电路34和成像元件38分散进行。即,也可以设为使成像元件38的处理电路110承担由信号处理电路34进行的各种信号处理中的至少一部分。
另外,在本实施方式中,作为信号处理电路34例示了包含ASIC及FPGA的器件,但本发明的技术并不限定于此。例如,信号处理电路34可以是包含ASIC、FPGA或PLD的器件,也可以是包含FPGA及PLD的器件,也可以是包含ASIC及PLD的器件。
并且,信号处理电路34也可以是包含CPU、储存器(storage)及存储器(memory)的计算机。在此,储存器是指非易失性存储装置。作为非易失性存储装置的一例,可举出闪存,但并不限于此,也可以是EEPROM、HDD和/或SSD等。并且,存储器临时存储各种信息并用作工作存储器。作为存储器的一例,可举出RAM,但并不限于此,也可以是其他种类的存储装置。计算机中包含的CPU可以是单个,也可以是多个。并且,可以使用GPU来代替CPU。并且,信号处理电路34可以通过硬件结构及软件结构的组合来实现。
作为一例,如图4所示,控制器15具备CPU15A、储存器15B、存储器15C、输出I/F15D及接收I/F15E。CPU15A是本发明的技术所涉及的“控制部(处理器)”的一例。CPU15A、储存器15B、存储器15C、输出I/F15D及接收I/F15E经由总线100连接。
另外,在图4所示的例子中,为了便于图示,作为总线100图示了1条总线,但也可以是多条总线。总线100可以是串行总线,也可以是包含数据总线、地址总线及控制总线等的并行总线。
储存器15B存储各种参数及各种程序。储存器15B是非易失性存储装置。在此,作为储存器15B的一例,采用了闪存。闪存仅为一例,可以代替闪存或与闪存一起适用EEPROM、HDD和/或SSD等作为储存器15B。并且,存储器15C临时存储各种信息并用作工作存储器。作为存储器15C的一例,可举出RAM,但并不限于此,也可以是其他种类的存储装置。
储存器15B中存储有各种程序。CPU15A从储存器15B读出需要的程序,并且在存储器15C上执行所读出的程序。CPU15A按照在存储器15C上执行的程序来控制整个摄像装置10。
输出I/F15D与成像元件38连接。CPU15A经由输出I/F15D控制成像元件38。例如,CPU15A经由输出I/F15D对成像元件38提供规定进行摄像的定时的摄像定时信号,由此控制由成像元件38进行的摄像定时。
接收I/F15E与信号处理电路34连接。由信号处理电路34进行各种信号处理的图像数据由信号处理电路34输出到接收I/F15E。接收I/F15E接收从信号处理电路34输出的图像数据,并将所接收到的图像数据传送到CPU15A。
外部I/F104与总线100连接。外部I/F104是由电路构成的通信器件。在此,作为外部I/F104例示了由电路构成的器件,但这仅为一例。外部I/F104也可以是包括ASIC、FPGA和/或PLD的器件。并且,外部I/F104可以通过硬件结构及软件结构的组合来实现。
作为外部I/F104的一例,可举出USB接口。智能器件、个人计算机、服务器、USB存储器、存储卡和/或打印机等外部装置(省略图示)能够直接或间接连接于USB接口。外部I/F104控制CPU15A与外部装置之间的各种信息的授受。
UI***器件17具备触摸面板显示器24及接收器件84。显示器26及触摸面板28连接于总线100。因此,CPU15A使显示器26显示各种信息,并按照由触摸面板28接收到的各种指示进行动作。
接收器件84具备硬键部25。硬键部25是多个硬键,具有释放按钮20(参考图1)、转盘23(参考图1及图2)及指示键27(参考图2)。硬键部25连接于总线100,CPU15A获取由硬键部25接收到的指示,按照所获取的指示进行动作。
作为一例,如图5所示,从控制器15向成像元件38输入摄像定时信号。摄像定时信号包括垂直同步信号及水平同步信号。垂直同步信号是规定从光电转换元件42的每1帧的图像数据的读出开始定时的同步信号。水平同步信号是规定从光电转换元件42的每个水平线的图像数据的读出开始定时的同步信号。在成像元件38中,按照根据从控制器15输入的垂直同步信号确定的帧速率,从光电转换元件42读出图像数据。
在图5所示的例子中,作为成像元件38的帧速率,示出了在期间T内从光电转换元件42进行8帧量的读出的帧速率。作为具体的帧速率的一例,可举出120fps,但并不限于此,可以是超过120fps的帧速率(例如,240fp s),也可以是小于120fps的帧速率(例如,60fps)。
作为一例,如图6所示,在成像元件38中内置有光电转换元件42、处理电路110及存储器112。成像元件38是将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件。即,光电转换元件42、处理电路110及存储器112被封装在一起。在成像元件38中,处理电路110及存储器112层叠于光电转换元件42上。具体而言,光电转换元件42及处理电路110通过铜等具有导电性的凸块(省略图示)彼此电连接,处理电路110及存储器112也通过铜等具有导电性的凸块(省略图示)彼此电连接。在此,例示了光电转换元件42、处理电路110及存储器112的三层结构,但本发明的技术并不限于此,也可以是将处理电路110和存储器112作为一层的存储器层与光电转换元件42的两层结构。另外,成像元件38是本发明的技术所涉及的“层叠型成像元件”的一例。
处理电路110例如是LSI。存储器112是写入定时与读出定时不同的存储器。在此,作为存储器112的一例,采用了DRAM。另外,即使存储器112是SRAM等其他种类的存储装置,本发明的技术也成立。
处理电路110是包括ASIC及FPGA的器件,按照上述控制器15的指示控制整个成像元件38。另外,在此,作为信号处理电路110例示了包含ASIC及FPGA的器件,但本发明的技术并不限定于此。例如,处理电路110可以是包含ASIC、FPGA或PLD的器件,也可以是包含FPGA及PLD的器件,也可以是包含ASIC及PLD的器件。
并且,处理电路110也可以是包含CPU、储存器(storage)及存储器(me mory)的计算机。储存器是指闪存等非易失性存储装置。存储器临时存储各种信息并用作工作存储器。作为存储器的一例,可举出RAM,但并不限于此,也可以是其他种类的存储装置。计算机中包含的CPU可以是单个,也可以是多个。并且,可以使用GPU来代替CPU。并且,处理电路110可以通过硬件结构及软件结构的组合来实现。
光电转换元件42具有配置成矩阵状的多个光电二极管。作为多个光电二极管的一例,可举出“4896×3265”像素量的光电二极管。
在光电转换元件42中包含的各光电二极管中配置有滤色器。滤色器包含最有助于用于得到亮度信号的与G(绿色)对应的G滤色器、与R(红色)对应的R滤色器及与B(蓝色)对应的B滤色器。
光电转换元件42具有R像素、G像素及B像素。R像素是与配置有R滤色器的光电二极管对应的像素,G像素是与配置有G滤色器的光电二极管对应的像素,B像素是与配置有B滤色器的光电二极管对应的像素。R像素、G像素及B像素在行方向(水平方向)及列方向(垂直方向)上分别以规定的周期性配置。在本实施方式中,R像素、G像素及B像素以与X-Trans(注册商标)排列对应的周期性排列。另外,在此,例示了X-Trans排列,但本发明的技术并不限定于此,R像素、G像素及B像素的排列也可以是拜耳排列或蜂窝排列等。
成像元件38具有所谓的电子快门功能,在控制器15的控制下,通过启动电子快门功能而控制光电转换元件42内的各光电二极管的电荷积蓄时间。电荷积蓄时间是指所谓的快门速度。
在成像元件38中,以滚动快门方式选择性地进行静止图像用拍摄和即时预览图像用拍摄。静止图像用拍摄通过启动电子快门功能且使机械快门41工作来实现,即时预览图像用拍摄通过不使机械快门41工作而启动电子快门功能来实现。另外,在此,例示了使用机械快门41的摄像,但机械快门41不是实现摄像所必需的,即使没有机械快门41,通过启动电子快门功能,也能够实现即时预览图像用拍摄及静止图像用拍摄。并且,在此,例示出滚动快门方式,但本发明的技术并不限于此,可以适用全局快门方式来代替滚动快门方式。
作为一例,如图7所示,处理电路110具备接收I/F110D1及输出I/F110D2。控制器15的输出I/F15D与处理电路110的接收I/F110D1连接,并将摄像定时信号输出到接收I/F110D1。接收I/F110D1接收从输出I/F15D输出的摄像定时信号。
信号处理电路34具备接收I/F34A及输出I/F34B。接收I/F34A与成像元件38的输出I/F110D2连接。处理电路110的输出I/F110D2将图像数据等各种信息(以下,也简称为“各种信息”)输出到信号处理电路34的接收I/F34A,接收I/F34A接收从输出I/F110D2输出的各种信息。信号处理电路34根据需要对由接收I/F34A接收到的各种信息实施信号处理。输出I/F34B与控制器15的接收I/F15E连接,并将各种信息输出到控制器15的接收I/F15E。接收I/F15E接收从输出I/F34B输出的各种信息。
在成像元件38中,处理电路110除了接收I/F110D1及输出I/F110D2以外,还具备读出电路110A、数字处理电路110B及控制电路110C。
读出电路110A分别与光电转换元件42、数字处理电路110B及控制电路110C连接。数字处理电路110B连接于控制电路110C。控制电路110C分别与存储器112、接收I/F110D1及输出I/F110D2连接。
作为一例,如图7所示,上述图像数据大致分为模拟图像数据70A和数字图像数据70B。另外,以下,为了便于说明,在不需要区分说明模拟图像数据70A、数字图像数据70B、后述的输出用图像数据70B1(参考图12)、后述的即时预览图像数据70B2(参考图12)及后述的缩小图像数据70B3(参考图12)等各种图像数据的情况下,不标注符号而称为“图像数据”。
处理电路110的接收I/F110D1及输出I/F110D2分别是由电路构成的通信器件。并且,控制器15的输出I/F15D及接收I/F15E分别也是由电路构成的通信器件。此外,信号处理电路34的接收I/F34A及输出I/F34B分别也是由电路构成的通信器件。
处理电路110的接收I/F110D1与控制器15的输出I/F15D之间按照PCIe的连接标准连接。并且,处理电路110的输出I/F110D2与信号处理电路34的接收I/F34A之间也按照PCIe的连接标准连接。此外,信号处理电路34的输出I/F34B与控制器15的接收I/F15E之间也按照PCIe的连接标准连接。另外,以下,在不需要区分说明接收I/F110D1、输出I/F110D2、接收I/F34A、输出I/F34B、接收I/F15E及输出I/F15D的情况下,不标注符号而称为“通信I/F”。
在此,作为通信I/F采用了由电路构成的通信器件,但这仅为一例,通信I/F也可以是包含ASIC、FPGA和/或PLD的器件。并且,通信I/F也可以是包含CPU、闪存等储存器(storage)及RAM等存储器(memory)的计算机。在该情况下,计算机中包含的CPU可以是单个,也可以是多个。使用GPU来代替CP U。并且,通信I/F可以通过硬件结构及软件结构的组合来实现。
接收I/F110D1接收从控制器15的输出I/F15D输出的摄像定时信号,并将所接收到的摄像定时信号传送到控制电路110C。
读出电路110A在控制电路110C的控制下控制光电转换元件42,从光电转换元件42读出模拟图像数据70A。从光电转换元件42的模拟图像数据70A的读出按照从控制器15输入到处理电路110的摄像定时信号进行。
具体而言,首先,接收I/F110D1从控制器15接收摄像定时信号,并将所接收到的摄像定时信号传送到控制电路110C。接着,控制电路110C将从接收I/F110D1传送的摄像定时信号传送到读出电路110A。即,垂直同步信号及水平同步信号被传送到读出电路110A。并且,读出电路110A按照从控制电路110C传送的垂直同步信号开始从光电转换元件42以帧单位读出模拟图像数据70A。并且,读出电路110A按照从控制电路110C传送的水平同步信号开始以水平线单位的模拟图像数据70A的读出。
读出电路110A对从光电转换元件42读出的模拟图像数据70A进行模拟信号处理。模拟信号处理包括噪声消除处理及模拟增益处理等公知的处理。噪声消除处理是消除由光电转换元件42中包含的像素之间的特性的偏差引起的噪声的处理。模拟增益处理是对模拟图像数据70A施加增益的处理。如此进行模拟信号处理的模拟图像数据70A通过读出电路110A输出到数字处理电路110B。
数字处理电路110B具备A/D转换器110B1。A/D转换器110B1对模拟图像数据70A进行A/D转换。
数字处理电路110B对从读出电路110A输入的模拟图像数据70A进行数字信号处理。数字信号处理例如包括基于A/D转换器110B1的A/D转换及数字增益处理。
对于模拟图像数据70A,由A/D转换器110B1进行A/D转换,由此模拟图像数据70A被数字化,作为RAW数据得到数字图像数据70B。并且,通过数字处理电路110B对数字图像数据70B进行数字增益处理。数字增益处理是指对数字图像数据70B施加增益的处理。如此通过进行数字信号处理而得到的数字图像数据70B由数字处理电路110B输出到控制电路110C。
存储器112是能够存储多个帧的数字图像数据70B的存储器。控制电路110C将从数字处理电路110B输入的数字图像数据70B存储于存储器112。存储器112具有像素单位的存储区域,数字图像数据70B通过控制电路110C以像素单位存储于存储器112中的对应的存储区域中。
控制电路110C能够随机访问存储器112,按照帧速率从存储器112获取数字图像数据70B。并且,控制电路110C缩小从存储器112获取的数字图像数据70B,并使输出I/F110D2向信号处理电路34输出通过缩小而得到的输出用图像数据70B1。另外,在此,“缩小”是指对图像数据进行低分辨率化的处理。作为低分辨率化的处理的一例,可举出间隔剔除像素的处理。
在信号处理电路34中,由接收I/F34A接收从输出I/F110D2输入的数字图像数据70B,对所接收到的数字图像数据70B进行各种信号处理。
作为一例,如图8所示,在成像元件38中进行包括摄像处理和输出处理的处理。
在摄像处理中,依次进行曝光、模拟图像数据70A的读出、对光电转换元件42的复位、模拟信号处理、数字信号处理及数字图像数据70B的存储。
在摄像处理中,首先,由光电转换元件42进行曝光。并且,由读出电路110A进行模拟图像数据70A的读出、对光电转换元件42的复位及模拟信号处理。另外,由光电转换元件42进行曝光的期间是未进行模拟图像数据70A的读出及对光电转换元件42的复位的期间。由数字处理电路110B进行数字信号处理。由控制电路110C将通过进行数字信号处理而得到的数字图像数据70B存储于存储器112。
在输出处理中,进行数字图像数据70B的获取及输出用图像数据70B1的输出。即,在输出处理中,首先,控制电路110C获取来自存储器112的数字图像数据70B。并且,控制电路110C通过缩小数字图像数据70B来生成输出用图像数据70B1,并将所生成的输出用图像数据70B1经由输出I/F110D2输出到信号处理电路34。
作为一例,如图9所示,信号处理电路34具备生成电路34C。接收I/F34A及输出I/F34B与生成电路34C连接。由接收I/F34A接收从成像元件38的输出I/F110D2输出的输出用图像数据70B1。通过生成电路34C获取由接收I/F34A接收到的输出用图像数据70B1。生成电路34C通过缩小从接收I/F34A获取的输出用图像数据70B1来生成即时预览图像数据70B2。即时预览图像数据70B2是分辨率比输出用图像数据70B1低的图像数据。另外,即时预览图像数据70B2是本发明的技术所涉及的“显示用图像数据”的一例。
生成电路34C将所生成的即时预览图像数据70B2经由输出I/F34B输出到控制器15。控制器15接收从输出I/F34B输出的即时预览图像数据,并将由所接收到的即时预览图像数据70B2表示的即时预览图像显示于显示器26上。在图9所示的例子中,作为即时预览图像,示出了作为本发明的技术所涉及的“特定的被摄体”及“移动体”的一例的包含表示小鸟的特定被摄体图像200和表示小鸟的背景的背景图像的图像。背景图像包含表示森林(在图9所示的例子中,2颗树木)的图像。另外,特定被摄体图像200是本发明的技术所涉及的“移动体图像”的一例。
作为一例,如图10所示,触摸面板28接收指示区域信息。指示区域信息是指指示即时预览图像内的一部分封闭区域即区域200A的信息。区域200A是作为后述的第1检测电路34D及第2检测电路34E(参考图11)进行特定被摄体图像200的检测的检测对象区域由用户指示的区域。
例如,通过由用户的手指11对触摸面板28进行触摸操作,由触摸面板28接收指示区域信息。在该情况下,将以即时预览图像内的与手指11接触触摸面板28的位置对应的位置为中心的规定半径(例如,几毫米)的圆形状区域规定为区域200A。在此,通过对触摸面板28的触摸操作来确定规定的大小及形状的区域200A,但规定区域200A的方法并不限定于此。例如,也可以通过对触摸面板28以描绘封闭区域的轮廓的方式进行滑动操作而由触摸面板28接收指示区域信息。在该情况下,将即时预览图像内的通过对触摸面板28进行滑动操作而描绘的封闭区域规定为区域200A。
在图10所示的例子中,示出了通过由触摸面板28接收到的指示区域信息指示的区域200A,但即使未由指示区域信息指示区域200A,本发明的技术也成立。在该情况下,例如,即时预览图像内的规定区域用作基于第1检测电路34D及第2检测电路34E(参考图11)的检测对象区域即可。规定区域例如是指即时预览图像的整体区域或即时预览图像内的预先设定的一部分区域。
通过由用户的手指11操作触摸面板28,由触摸面板28接收指示区域信息。在图10所示的例子中,作为区域200A例示了圆状区域,但这仅为一例,区域200A的形状可以是多边形等其他形状,也可以是触摸面板28内的手指11接触的区域的形状。并且,在此,例示了手指11,但只要是触摸面板28能够检测的触控笔等指示体即可。
区域200A的轮廓(在图10所示的例子中,圆形框)例如通过由用户的手指11触摸触摸面板28而显示于所触摸的位置。区域200A的大小可以固定,也可以能够调节。在能够调节区域200A的大小的情况下,例如通过对触摸面板28的缩小操作及放大操作等来调节区域200A的大小。
在图10所示的例子中,例示了区域200A中包含特定被摄体图像200的方式(区域200A的圆形框包围特定被摄体图像200的方式),但本发明的技术并不限定于此。例如,也可以由用户经由触摸面板28等指示即时预览图像内的尚未包含特定被摄体图像200的一部分封闭区域(例如,由用户预测为特定被摄体图像200的移动目的地的区域)作为区域200A。另外,在图10所示的例子中,区域200A内包含的特定被摄体图像200是本发明的技术所涉及的“表示所指示的移动体的移动体图像”的一例。
作为一例,如图11所示,信号处理电路34除了上述接收I/F34A、输出I/F34B及生成电路34C以外,还具备第1检测电路34D、第2检测电路34E、存储电路34F、帧存储器34G、接收I/F34H及存储控制电路34J。另外,帧存储器34G是本发明的技术所涉及的“存储部”的一例。
接收I/F34H具有与接收I/F34A相同的结构,并与控制器15连接。控制器15获取由触摸面板28接收到的指示区域信息,并将所获取的指示区域信息输出到信号处理电路34的接收I/F34H。接收I/F34H接收从控制器15输出的指示区域信息。由第1检测电路34D及第2检测电路34E获取由接收I/F34H接收到的指示区域信息。
存储电路34F中存储有检测用参考信息。第1检测电路34D及第2检测电路34E从由图像数据表示的图像中参考检测用参考信息而检测特定被摄体图像200。作为检测用参考信息,例如可举出从图像数据中检测特定被摄体图像200所需的多个样品图像(例如,表示小鸟的样品图像)和/或表示通过分析多个样品图像的每一个而得到的特征量的信息(以下,称为“特征量信息”)等。作为特征量信息,例如可举出通过对多个样品图像的每一个进行傅里叶转换而得到的表示频率特性的信息等。另外,特征量信息也能够通过使用卷积神经网络的机器学习而得到。
检测用参考信息可以预先存储于存储电路34F,也可以在控制器15的控制下,通过存储控制电路34J存储于存储电路34F。
在此,在使用样品图像作为检测用参考信息的情况下,控制器15获取在显示器26上显示即时预览图像的状态下由用户经由触摸面板28指定的图像(例如,即时预览图像内的表示小鸟的图像)作为样品图像。另外,并不限于此,控制器15也可以经由外部I/F104(参考图4)从外部装置获取样品图像。如此得到的样品图像由控制器15输出到信号处理电路34。
由接收I/F34H接收从控制器15输出的样品图像。存储控制电路34J将由接收I/F34H接收到的样品图像存储于存储电路34F。
另外,即使在使用特征量信息作为检测用参考信息的情况下,也与样品图像同样地,由控制器15获取特征量信息。并且,由控制器15获取的特征量信息在控制器15的控制下,由存储控制电路34J存储于存储电路34F。
生成电路34C进行缩小即时预览图像数据70B2的处理,将由此得到的缩小图像数据70B3输出到第1检测电路34D。缩小图像数据70B3是分辨率比即时预览图像数据70B2低的图像数据。另外,在此,即时预览图像数据70B2是本发明的技术所涉及的“缩小前的图像数据即缩小前图像数据”的一例。
生成电路34C将即时预览图像数据70B2输出到帧存储器34G及输出I/F34B。输出I/F34B将从生成电路34C输入的即时预览图像数据70B2输出到控制器15。
在帧存储器34G中存储通过拍摄而得到的图像数据。具体而言,帧存储器34G是FIFO方式的存储器,以帧单位存储即时预览图像数据70B2。
第1检测电路34D进行第1检测处理。第1检测处理是指从由通过生成电路34C缩小输出用图像数据70B1而得到的缩小图像数据70B3表示的图像(以下,也称为“缩小图像”)中检测特定被摄体图像200的处理。在第1检测处理中,使用存储电路34F的检测用参考信息。即,第1检测电路34D参考检测用参考信息从缩小图像中检测特定被摄体图像200。
第1检测电路34D将表示第1检测处理的检测结果的第1检测结果信息输出到第2检测电路34E及输出I/F34B。在第1检测结果信息中包含表示第1检测处理是否成功的第1检测处理成功与否信息。并且,在第1检测处理成功的情况下,在第1检测结果信息中包含跟踪框信息。跟踪框信息是指表示跟踪框200B的信息。在第1检测结果信息中包含的跟踪框信息中包含确定缩小图像内的跟踪框200B的位置的位置特定信息(例如,坐标)。跟踪框200B是跟踪特定被摄体图像200的框,在图11所示的例子中,包围特定被摄体图像200,且包围区域200A的矩形状的框表示为跟踪框200B。另外,在此,作为跟踪框200B示出了矩形状的框,但也可以是其他形状的框。并且,在此,作为跟踪框200B,例示了包围特定被摄体图像200及区域200A的框,但本发明的技术并不限于此,跟踪框200B也可以是仅包围特定被摄体图像200及区域200A中的特定被摄体图像200的框。
第2检测电路34E对存储于帧存储器34G中的即时预览图像数据70B2进行第2检测处理。具体而言,第2检测电路34E在通过由第1检测电路34D执行第1检测处理而未检测到特定被摄体图像200的情况下,从帧存储器34G获取1帧量的即时预览图像数据70B2,从由所获取的即时预览图像数据70B2表示的即时预览图像中检测特定被摄体图像200。
另外,第2检测电路34E参考从第1检测电路34D输入的第1检测结果信息中包含的第1检测处理成功与否信息来进行通过由第1检测电路34D执行第1检测处理是否检测到检测特定被摄体图像200的判定。在通过执行第1检测处理未检测到特定被摄体图像200的情况下,即,在第1检测处理成功与否信息是表示第1检测处理未成功的信息的情况下,第2检测电路34E对存储于帧存储器34G中的即时预览图像数据70B2进行第2检测处理。
第2检测电路34E将表示第2检测处理的检测结果的第2检测结果信息输出到输出I/F34B。在第2检测结果信息中包含表示第2检测处理是否成功的第2检测处理成功与否信息。并且,在第2检测处理成功的情况下,在第2检测结果信息中包含跟踪框信息。在第2检测结果信息中包含的跟踪框信息中也包含确定即时预览图像内的跟踪框200B的位置的位置特定信息(例如,坐标)。
另外,以下,为了便于说明,在不需要区分说明第1检测结果信息和第2检测结果信息的情况下,称为“检测结果信息”。并且,以下,为了便于说明,在不需要区分说明第1检测处理和第2检测处理的情况下,称为“检测处理”。
输出I/F34B在从第1检测电路34D输入第1检测结果信息的情况下,将第1检测结果信息输出到控制器15,在从第2检测电路34E输入第2检测结果信息的情况下,将第2检测结果信息输出到控制器15。控制器15在显示器26上显示由从输出I/F34B输入的检测结果信息表示的检测结果,即检测处理中的检测结果。在图11所示的例子中,以包围特定被摄体图像200的方式,跟踪框200B作为检测处理中的检测结果重叠显示于即时预览图像上。
图12中示出了表示数字图像数据70B、输出用图像数据70B1、即时预览图像数据70B2及缩小图像数据70B3的关系性的一例的概念图。作为一例,如图12所示,数字图像数据70B缩小为输出用图像数据70B1、即时预览图像数据70B2及缩小图像数据70B3这3个图像数据。当将n设为1以上的整数时,输出用图像数据70B1是由数字图像数据70B的第“2n-1”行的像素组形成的图像数据。并且,即时预览图像数据70B2是由从第“2n-1”行的像素组除去第“6n+1”行的像素组而得到的像素组形成的图像数据。此外,缩小图像数据70B3是由从第“2n-1”行的像素组除去第“6n+1”行的像素组及第“6n-3”行的像素组而得到的像素组形成的图像数据。
如此,输出用图像数据70B1是分辨率比数字图像数据70B低的图像数据,即时预览图像数据70B2是分辨率比输出用图像数据70B1低的图像数据,缩小图像数据70B3是分辨率比即时预览图像数据70B2低的图像数据。
另外,在图12中,举出了通过以水平线单位间隔剔除图像数据来缩小图像数据的例子,但本发明的技术并不限定于此。例如,可以通过以垂直线单位间隔剔除图像数据来缩小图像数据,也可以通过以水平线单位及垂直线单位间隔剔除图像数据来缩小图像数据,缩小图像数据的方法可以是任何方法。
图13A中示出了表示第1检测处理成功时的显示器26的显示内容的一例的画面图。图13B中示出了第1检测处理失败,且第2检测处理成功时的显示器26的显示内容的一例的画面图。图13C中示出了表示第1检测处理及第2检测处理均失败时的显示器26的显示内容的一例的画面图。
作为一例,如图13A所示,在第1检测处理成功的情况下,在显示器26上,在控制器15的控制下,以包围特定被摄体图像200的方式,由第1检测结果信息中包含的跟踪框信息表示的跟踪框200B作为第1检测处理中的检测结果重叠显示于即时预览图像上。
作为一例,如图13B所示,在特定被摄体图像200中,特定被摄体图像200的色调与背景图像(在图13B所示的例子中,表示森林的图像)的色调同化。因此,特定被摄体图像200与背景图像的边界未被第1检测电路34D检测到,使用缩小图像数据70B3的第1检测处理失败。然而,使用分辨率比缩小图像数据70B3高的即时预览图像数据70B2的第2检测处理成功。这是因为,即时预览图像数据70B2的分辨率比缩小图像数据70B3高,特定被摄体图像200与背景图像的边界被第2检测电路34E检测到。在该情况下,在显示器26上,在控制器15的控制下,以包围特定被摄体图像200的方式,由第2检测结果信息中包含的跟踪框信息表示的跟踪框200B作为第2检测处理中的检测结果重叠显示于即时预览图像上。
作为一例,如图13C所示,在第1检测处理失败,且第2检测处理也失败的情况下,在显示器26上,表示第2检测处理失败的消息202作为第2检测处理中的检测结果重叠显示于即时预览图像上。在图13C所示的例子中,作为消息202,示出了“未检测到关注被摄体。”的消息,但本发明的技术并不限定于此,只要是能够向用户通知未检测到特定被摄体图像200的消息和/或图像,则可以是任何信息。并且,也可以代替或同时使用利用消息及/图像的可见通知,在控制器15的控制下进行利用语音回放装置(省略图示)的可听通知、使光源(省略图示)点亮或闪烁的可见通知和/或使振动器(省略图示)以特殊的振动模式产生振动的触觉通知。
图14中示出了对第1帧(1F)~第4帧(4F)的图像数据的处理定时的一例。图14所示的1F~4F的“F”是指“Frame:帧”的简称。另外,以下,为了便于说明,在不需要区分说明跟踪框200B及消息202的情况下,称为“摄像支援信息”。
作为一例,如图14所示,每当由接收I/F110D1接收垂直同步信号时,开始从光电转换元件42读出1帧量的模拟图像数据70A。在图14所示的例子中,由接收I/F110D1依次接收第1次~第4次垂直同步信号,开始第1帧~第4帧模拟图像数据70A的读出。
对从光电转换元件42的第1行的水平线到最终行的水平线按照水平同步信号按每一行进行模拟图像数据70A的读出,当对每一行的读出结束时,结束读出的水平线的各像素被复位。模拟图像数据70A被转换为数字图像数据70B,按照所读出的模拟图像数据70A的帧的顺序(摄像顺序),数字图像数据70B以1帧单位可区分地且以FIFO方式存储于存储器112。
控制电路110C以帧单位从存储器112获取数字图像数据70B,通过缩小所获取的数字图像数据70B而生成输出用图像数据70B1。并且,控制电路110C经由输出I/F110D2将输出用图像数据70B1输出到信号处理电路34。
在信号处理电路34中,生成电路34C通过缩小输出用图像数据70B1而生成即时预览图像数据70B2。在各帧中,当由生成电路34C生成即时预览图像数据70B2时,由所生成的即时预览图像数据70B2表示的即时预览图像显示于显示器26上。
并且,生成电路34C通过缩小即时预览图像数据70B2而生成缩小图像数据70B3。在各帧中,当由生成电路34C生成缩小图像数据70B3时,所生成的缩小图像数据70B3在第1检测处理中使用。
在图14所示的例子中,使用第1帧及第4帧缩小图像数据70B3的第1检测处理成功,如上所述,跟踪框200B重叠显示于即时预览图像上(参考图13A)。
另一方面,使用第2帧及第3帧缩小图像数据70B3的第1检测处理失败。在该情况下,即时预览图像数据70B2在第2检测处理中使用。即时预览图像数据70B2是分辨率比缩小图像数据70B3高的图像数据,因此在第2检测电路34E中执行比第1检测处理高精度的第2检测处理。
在图14所示的例子中,使用第2帧即时预览图像数据70B2的第2检测处理成功,如上所述,跟踪框200B重叠显示于即时预览图像上(参考图13B)。另一方面,使用第3帧即时预览图像数据70B2的第2检测处理失败,如上所述,消息202重叠显示于即时预览图像上(参考图13C)。
接着,参考图15A及图15B对本第1实施方式所涉及的摄像装置10的作用进行说明。另外,图15A及图15B中示出了由后级电路13执行的后级电路处理的流程的一例。
在图15A所示的后级电路处理中,首先,在步骤ST10中,生成电路34C判定是否由接收I/F34A接收到输出用图像数据70B1。在步骤ST10中,在接收I/F34A未接收到输出用图像数据70B1的情况下判定为“否”,后级电路处理转移到图15B所示的步骤ST40。在步骤ST10中,在由接收I/F34A接收到输出用图像数据70B1的情况下判定为“是”,后级电路处理转移到步骤ST11。
在步骤ST11中,生成电路34C通过缩小由接收I/F34A接收到的输出用图像数据70B1而生成即时预览图像数据70B2,然后,后级电路处理转移到步骤ST12。
在步骤ST12中,生成电路34C将即时预览图像数据70B2存储于帧存储器34G,且经由输出I/F34B向控制器15输出即时预览图像数据70B2,然后,后级电路处理转移到步骤ST14。
在步骤ST14中,控制器15将由即时预览图像数据70B2表示的即时预览图像显示于显示器26上,然后,后级电路处理转移到步骤ST16。
在步骤ST16中,生成电路34C通过缩小即时预览图像数据70B2而生成缩小图像数据70B3,然后,后级电路处理转移到步骤ST18。
在步骤ST18中,第1检测电路34D使用缩小图像数据70B3及检测用参考信息执行第1检测处理,然后,后级电路处理转移到步骤ST20。
在步骤ST20中,第1检测电路34D判定第1检测处理是否失败。在步骤ST20中,在第1检测处理成功的情况下判定为“否”,后级电路处理转移到步骤ST22。在步骤ST20中,在第1检测处理失败的情况下判定为“是”,后级电路处理转移到步骤ST26。
在步骤ST22中,第1检测电路34D将包含表示第1检测处理成功的第1检测处理成功与否信息的第1检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST24。
在步骤ST24中,控制器15将由第1检测结果信息中包含的跟踪框信息表示的加入跟踪框200B的即时预览图像显示于显示器26上。即,作为一例,如图13A所示,控制器15对即时预览图像重叠显示跟踪框200B,然后,后级电路处理转移到图15B所示的步骤ST40。
在步骤ST26中,第1检测电路34D将包含表示第1检测处理失败的第1检测处理成功与否信息的第1检测结果信息输出到第2检测电路34E,然后,后级电路处理转移到图15B所示的步骤ST28。
在图15B所示的步骤ST28中,第2检测电路34E使用即时预览图像数据70B2及检测用参考信息执行第2检测处理,然后,后级电路处理转移到步骤ST30。
在步骤ST30中,第2检测电路34E判定第2检测处理是否成功。在步骤ST30中,在第2检测处理失败的情况下判定为“否”,后级电路处理转移到步骤ST32。在步骤ST30中,在第2检测处理成功的情况下判定为“是”,后级电路处理转移到步骤ST36。
在步骤ST32中,第2检测电路34E将包含表示第2检测处理失败的第2检测处理成功与否信息的第2检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST34。
在步骤ST34中,控制器15将加入消息202的即时预览图像显示于显示器26上。即,作为一例,如图13C所示,控制器15对即时预览图像重叠显示消息202,然后,后级电路处理转移到步骤ST40。
在步骤ST36中,第2检测电路34E将包含表示第2检测处理成功的第2检测处理成功与否信息的第2检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST38。
在步骤ST38中,控制器15将由第2检测结果信息中包含的跟踪框信息表示的加入跟踪框200B的即时预览图像显示于显示器26上。即,作为一例,如图13B所示,控制器15对即时预览图像重叠显示跟踪框200B,然后,后级电路处理转移到步骤ST40。
在步骤ST40中,控制器15判定是否满足结束后级电路处理的条件(以下,称为“后级电路处理结束条件”)。作为后级电路处理结束条件的一例,可举出由接收器件84(参考图4)接收到结束后级电路处理的指示的条件。在步骤ST40中,在不满足后级电路处理结束条件的情况下判定为“否”,后级电路处理转移到步骤ST10。在步骤ST40中,在满足后级电路处理结束条件的情况下判定为“是”,后级电路处理结束。
如以上说明,在本第1实施方式所涉及的摄像装置10中,由生成电路34C进行缩小数字图像数据70B的处理,由第1检测电路34D进行使用缩小图像数据70B3的第1检测处理。并且,在通过第1检测处理未检测到特定被摄体图像200的情况下,由第2检测电路34E执行使用存储于帧存储器34G中的即时预览图像数据70B2第2检测处理。
在此,在第2检测处理中使用的即时预览图像数据70B2是分辨率比在第1检测处理中使用的缩小图像数据70B3高的图像数据。因此,第2检测处理比第1检测处理精度高。并且,对使用缩小图像数据70B3的第1检测电路34D施加的处理负载比对使用即时预览图像数据70B2的第2检测电路34E施加的处理负载轻,只要第1检测处理不失败,则不进行第2检测电路34E中的第2检测处理。因此,根据本结构,与始终仅使用缩小图像数据70B3进行检测处理的情况相比,能够实现处理负载的减轻及高精度的检测。
并且,在本第1实施方式所涉及的摄像装置10中,由即时预览图像数据70B2表示的即时预览图像内的所指示的特定被摄体图像200是表示小鸟(移动体)的图像。因此,根据本结构,即使特定被摄体图像200是表示小鸟(移动体)的图像,也能够根据检测处理中的检测结果确定小鸟(移动体)。
并且,在本实施方式所涉及的摄像装置10中,由第2检测电路34E执行使用即时预览图像数据70B2的第2检测处理。因此,根据本结构,和与即时预览图像数据70B2不同,且仅用于第2检测处理的图像数据与即时预览图像数据70B2一起生成的情况相比,能够减轻处理负载。
此外,在本第1实施方式所涉及的摄像装置10中,由第1检测结果信息中包含的跟踪框信息表示的加入跟踪框200B的即时预览图像显示于显示器26上。并且,由第2检测结果信息中包含的跟踪框信息表示的加入跟踪框200B的即时预览图像显示于显示器26上。此外,加入消息202的即时预览图像显示于显示器26上。因此,根据本结构,能够使用户感知检测处理中的检测结果。
另外,在上述第1实施方式中,举出在由第1检测电路34D未检测到特定被摄体图像200的情况下(第1检测处理失败时),由第2检测电路34E进行特定被摄体图像200的检测的方式例进行了说明,但本发明的技术并不限定于此。例如,第2检测电路34E也可以检测表示与特定被摄体图像200不同的被摄体的图像。作为表示与特定被摄体图像200不同的被摄体的图像,可举出表示比特定被摄体图像200小型的被摄体的图像(例如,表示特定被摄体图像200中包含的特定部位的图像)、表示人物的脸部的图像和/或表示人物的瞳孔的图像等。
并且,在上述第1实施方式中,作为成像元件38例示了层叠型成像元件,但本发明的技术并不限定于此,即使代替层叠型成像元件而使用非层叠型成像元件,本发明的技术也成立。
[第2实施方式]
在上述第1实施方式中,举出表示小鸟的图像被检测为特定被摄体图像200的方式例进行了说明,但在本第2实施方式中,对人物的脸部及瞳孔为检测对象的情况进行说明。另外,在本第2实施方式中,对与上述第1实施方式相同的构成要件标注相同的符号,并省略其说明。
作为一例,如图16所示,本第2实施方式所涉及的第1检测处理是检测表示人物的脸部的脸部图像300A和表示人物的瞳孔的瞳孔图像300B作为与在上述第1实施方式中说明的特定被摄体图像200相当的图像的处理。另外,检测脸部图像300A及瞳孔图像300B的技术是公知技术,因此在此省略详细的说明。
第1检测电路34D从由缩小图像数据70B3表示的缩小图像中检测脸部图像300A,从所检测到的脸部图像300A中检测瞳孔图像300B。在图16所示的例子中,作为比人物的脸部小型的被摄体,示出了人物的左瞳孔及右瞳孔。并且,在图16所示的例子中,作为瞳孔图像300B,示出了表示人物的左瞳孔的左瞳孔图像300B1和表示人物的右瞳孔的右瞳孔图像300B2。
另外,在本第2实施方式中,人物的脸部是本发明的技术所涉及的“特定的被摄体”的一例,脸部图像300A是本发明的技术所涉及的“特定被摄体图像”的一例,左瞳孔图像300B1及右瞳孔图像300B2是本发明的技术所涉及的“小型被摄体图像”的一例。
第1检测电路34D与上述第1实施方式同样地,将第1检测结果信息输出到控制器15及第2检测电路34E。第1检测结果信息大致分为表示第1检测电路34D对脸部图像300A的检测结果的第1脸部检测结果信息和表示第1检测电路34D对瞳孔图像300B的检测结果的第1瞳孔检测结果信息。另外,以下,在不需要区分说明第1脸部检测结果信息和第1瞳孔检测结果信息的情况下,称为“第1检测结果信息”。
在第1检测结果信息中包含第1检测处理成功与否信息及跟踪框信息。本第2实施方式所涉及的第1检测结果信息中包含的第1检测处理成功与否信息是表示第1检测电路34D中的脸部图像300A的检测的成功与否的信息及表示第1检测电路34D中的瞳孔图像300B的检测的成功与否的信息。
本第2实施方式所涉及的第1检测结果信息中包含的跟踪框信息是表示跟踪脸部图像300A及瞳孔图像300B的框的信息。在图16所示的例子中,作为跟踪脸部图像300A的框,示出了划定脸部图像300A的区域的矩形状框300A1。并且,在图16所示的例子中,作为跟踪瞳孔图像300B的框,示出了划定左瞳孔图像300B1的区域的矩形状框300B1a和划定右瞳孔图像300B2的区域的矩形状框300B2a。并且,在本第2实施方式所涉及的第1检测结果信息中包含的跟踪框信息中也包含确定缩小图像内的矩形状框300A1、300B1a及300B2a的位置的位置特定信息(例如,坐标)。
作为一例,如图17所示,第2检测电路34E具备脸部图像检测电路34E2及瞳孔图像检测电路34E3。当包含表示第1检测处理失败的第1检测处理成功与否信息的第1检测结果信息从第1检测电路34D输出到第2检测电路34E,并由第2检测电路34E接收时,脸部图像检测电路34E2从帧存储器34G获取即时预览图像数据70B2。脸部图像检测电路34E2从由从帧存储器34G获取的即时预览图像数据70B2表示的即时预览图像中检测脸部图像300A。并且,瞳孔图像检测电路34E3从由脸部图像检测电路34E2检测到的脸部图像300A中检测瞳孔图像300B。
第2检测电路34E与上述第1实施方式同样地,将第2检测结果信息输出到控制器15。第2检测结果信息大致分为表示脸部图像检测电路34E2对脸部图像300A的检测结果的第2脸部检测结果信息和表示瞳孔图像检测电路34E3对瞳孔图像300B的检测结果的第2瞳孔检测结果信息。另外,以下,在不需要区分说明第2脸部检测结果信息和第2瞳孔检测结果信息的情况下,称为“第2检测结果信息”。
在第2检测结果信息中包含第2检测处理成功与否信息及跟踪框信息。本第2实施方式所涉及的第2检测结果信息中包含的第2检测处理成功与否信息是表示脸部图像检测电路34E2中的脸部图像300A的检测的成功与否的信息及表示瞳孔图像检测电路34E3中的瞳孔图像300B的检测的成功与否的信息。本第2实施方式所涉及的第2检测结果信息中包含的跟踪框信息与本第2实施方式所涉及的第1检测结果信息中包含的跟踪框信息同样地,是表示跟踪脸部图像300A及瞳孔图像300B的框的信息。并且,在本第2实施方式所涉及的第1检测结果信息中包含的跟踪框信息中也包含确定即时预览图像内的矩形状框300A1、300B1a及300B2a的位置的位置特定信息(例如,坐标)。
图18A中示出了由第1检测电路34D从由缩小图像数据70B3表示的缩小图像中检测到脸部图像300A,且从缩小图像中检测到瞳孔图像300B时的显示器26的显示方式的一例。作为一例,如图18A所示,在显示器26上显示即时预览图像,且矩形状框300A1以包围脸部图像300A的方式层叠显示于即时预览图像上。并且,在显示器26上,矩形状框300B1a以包围左瞳孔图像300B1的方式重叠显示于即时预览图像上,且矩形状框300B2a以包围右瞳孔图像300B2的方式重叠显示于即时预览图像上。
图18B中示出了由第1检测电路34D进行的第1检测处理及由第2检测电路34E进行的第2检测处理均失败时的显示器26的显示方式的一例。在本第2实施方式中,第2检测处理是指脸部图像检测电路34E2检测脸部图像300A的处理及瞳孔图像检测电路34E3检测瞳孔图像300B的处理。作为一例,如图18B所示,在显示器26上显示即时预览图像,且显示表示脸部图像300A的检测和瞳孔图像300B的检测均失败的消息M1。
在图18B所示的例子中,作为消息M1示出了“脸部·瞳孔检测失败”的消息,但这仅为一例,只要是能够向用户通知脸部图像300A的检测和瞳孔图像300B的检测均失败的消息和/或图像,则可以是任何信息。并且,也可以代替或同时使用利用消息及/图像的可见通知,在控制器15的控制下进行利用语音回放装置(省略图示)的可听通知、使光源(省略图示)点亮或闪烁的可见通知和/或使振动器(省略图示)以特殊的振动模式产生振动的触觉通知。
图18C中示出了由第1检测电路34D或第2检测电路34E进行的脸部图像300A的检测成功,但瞳孔图像300B的检测失败时的显示器26的显示方式的一例。作为一例,如图18C所示,在显示器26上显示即时预览图像,且矩形状框300A1以包围脸部图像300A的方式层叠显示于即时预览图像上。并且,在显示器26上显示表示瞳孔图像300B的检测失败的消息M2。
在图18C所示的例子中,作为消息M2示出了“瞳孔检测失败”的消息,但这仅为一例,只要是能够向用户通知瞳孔图像300B的检测失败的消息和/或图像,则可以是任何信息。并且,也可以代替或同时使用利用消息及/图像的可见通知,在控制器15的控制下进行利用语音回放装置(省略图示)的可听通知、使光源(省略图示)点亮或闪烁的可见通知和/或使振动器(省略图示)以特殊的振动模式产生振动的触觉通知。
图19中示出了对第1帧(1F)~第5帧(5F)的图像数据的处理定时的一例。图19所示的1F~5F的“F”是指“Frame:帧”的简称。另外,在图19所示的例子中,对于与图14所示的例子重复的处理省略说明。并且,以下,为了便于说明,将第1检测电路34D从缩小图像中检测脸部图像300A的处理也称为“第1脸部检测处理”,将第1检测电路34D从缩小图像中检测瞳孔图像300B的处理也称为“第1瞳孔检测处理”。并且,以下,为了便于说明,将脸部图像检测电路34E2从即时预览图像中检测脸部图像300A的处理也称为“第2脸部检测处理”,将瞳孔图像检测电路34E3从即时预览图像中检测瞳孔图像300B的处理也称为“第2瞳孔检测处理”。
在图19所示的例子中,使用第1帧缩小图像数据70B3的第1脸部检测处理成功。在该情况下,在第1检测电路34D中执行使用缩小图像数据70B3中表示与通过第1脸部检测处理检测到的脸部图像300A相当的区域的一部分缩小图像数据70B3的第1瞳孔检测处理。在图19所示的例子中,使用第1帧缩小图像数据70B3的第1瞳孔检测处理成功。在该情况下,作为一例,如图18A所示,矩形状框300A1、300B1a及300B2a重叠显示于即时预览图像上。
使用第2帧缩小图像数据70B3的第1脸部检测处理失败。在该情况下,即时预览图像数据70B2由脸部图像检测电路34E2用于第2脸部检测处理。即时预览图像数据70B2是分辨率比缩小图像数据70B3高的图像数据,因此在脸部图像检测电路34E2中执行比第1脸部检测处理高精度的第2脸部检测处理。
在图19所示的例子中,使用第2帧即时预览图像数据70B2的第2脸部检测处理成功。在该情况下,在瞳孔图像检测电路34E3中执行使用第2帧即时预览图像数据70B2中表示与通过第2脸部检测处理检测到的脸部图像300A相当的区域的一部分即时预览图像数据70B2的第2瞳孔检测处理。即时预览图像数据70B2是分辨率比缩小图像数据70B3高的图像数据,因此在瞳孔图像检测电路34E3中执行比第1瞳孔检测处理高精度的第2瞳孔检测处理。在图19所示的例子中,使用第2帧即时预览图像数据70B2的第2瞳孔检测处理成功。如此,当第2脸部检测处理及第2瞳孔检测处理成功时,作为一例,如图18A所示,矩形状框300A1、300B1a及300B2a重叠显示于即时预览图像上。
在图19所示的例子中,使用第3帧缩小图像数据70B3的第1脸部检测处理失败。在该情况下,即时预览图像数据70B2由脸部图像检测电路34E2用于第2脸部检测处理。在图19所示的例子中,使用第3帧即时预览图像数据70B2的第2脸部检测处理也失败。如此,当第1脸部检测处理及第2脸部检测处理失败时,作为一例,如图18B所示,在显示器26上与即时预览图像一起显示消息M1。
在图19所示的例子中,使用第4帧缩小图像数据70B3的第1脸部检测处理失败。在该情况下,即时预览图像数据70B2由脸部图像检测电路34E2用于第2脸部检测处理。在图19所示的例子中,使用第4帧即时预览图像数据70B2的第2脸部检测处理成功。在该情况下,在瞳孔图像检测电路34E3中执行使用第4帧即时预览图像数据70B2中表示与通过第2脸部检测处理检测到的脸部图像300A相当的区域的一部分即时预览图像数据70B2的第2瞳孔检测处理。在图19所示的例子中,使用第4帧即时预览图像数据70B2的第2瞳孔检测处理失败。在该情况下,作为一例,如图18C所示,在显示器26上与即时预览图像一起显示消息M2。
在图19所示的例子中,使用第5帧缩小图像数据70B3的第1脸部检测处理成功,但使用第5帧缩小图像数据70B3的第1瞳孔检测处理失败。在该情况下,即时预览图像数据70B2由脸部图像检测电路34E2用于第2脸部检测处理。在图19所示的例子中,使用第5帧即时预览图像数据70B2的第2脸部检测处理成功。在该情况下,第5帧即时预览图像数据70B2中表示与通过第2脸部检测处理检测到的脸部图像300A相当的区域的一部分即时预览图像数据70B2用于第2瞳孔检测处理。在图19所示的例子中,使用第5帧即时预览图像数据70B2的第2瞳孔检测处理失败。在该情况下,作为一例,如图18C所示,在显示器26上与即时预览图像一起显示消息M2。
接着,参考图20A~图20D对本第2实施方式所涉及的摄像装置10的作用进行说明。另外,图20A~图20D中示出了由后级电路13执行的后级电路处理的流程的一例。
在图20A所示的后级电路处理中,首先,在步骤ST100中,生成电路34C判定是否由接收I/F34A接收到输出用图像数据70B1。在步骤ST100中,在接收I/F34A未接收到输出用图像数据70B1的情况下判定为“否”,后级电路处理转移到图20D所示的步骤ST164。在步骤ST100中,在由接收I/F34A接收到输出用图像数据70B1的情况下判定为“是”,后级电路处理转移到步骤ST101。
在步骤ST101中,生成电路34C通过缩小由接收I/F34A接收到的输出用图像数据70B1而生成即时预览图像数据70B2,然后,后级电路处理转移到步骤ST102。
在步骤ST102中,生成电路34C将即时预览图像数据70B2存储于帧存储器34G,且经由输出I/F34B向控制器15输出即时预览图像数据70B2,然后,后级电路处理转移到步骤ST104。
在步骤ST104中,控制器15将由即时预览图像数据70B2表示的即时预览图像显示于显示器26上,然后,后级电路处理转移到步骤ST106。
在步骤ST106中,生成电路34C通过缩小即时预览图像数据70B2而生成缩小图像数据70B3,然后,后级电路处理转移到步骤ST108。
在步骤ST108中,第1检测电路34D使用缩小图像数据70B3执行第1脸部检测处理,然后,后级电路处理转移到步骤ST110。
在步骤ST110中,第1检测电路34D判定第1脸部检测处理是否成功。在步骤ST110中,在第1脸部检测处理成功的情况下判定为“是”,后级电路处理转移到步骤ST112。在步骤ST110中,在第1脸部检测处理失败的情况下判定为“否”,后级电路处理转移到步骤ST116。
在步骤ST112中,第1检测电路34D将包含表示第1脸部检测处理成功的第1检测处理成功与否信息的第1脸部检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到图20D所示的步骤ST151。
在步骤ST116中,第1检测电路34D将包含表示第1脸部检测处理失败的第1检测处理成功与否信息的第1脸部检测结果信息输出到第2检测电路34E及控制器15,然后,后级电路处理转移到图20B所示的步骤ST118。
在图20B所示的步骤ST118中,脸部图像检测电路34E2使用在步骤ST101中生成的即时预览图像数据70B2执行第2脸部检测处理,然后,后级电路处理转移到步骤ST120。
在步骤ST120中,脸部图像检测电路34E2判定第2脸部检测处理是否成功。在步骤ST120中,在第2脸部检测处理成功的情况下判定为“是”,后级电路处理转移到步骤ST126。在步骤ST120中,在第2脸部检测处理失败的情况下判定为“否”,后级电路处理转移到步骤ST122。
在步骤ST122中,脸部图像检测电路34E2将包含表示第2脸部检测处理失败的第2检测处理成功与否信息的第2脸部检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST124。
在步骤ST124中,作为一例,如图18B所示,控制器15在显示器26上显示消息M1作为表示脸部图像300A的检测及瞳孔图像300B的检测失败的消息,然后,后级电路处理转移到图20D所示的步骤ST164。
在步骤ST126中,脸部图像检测电路34E2将包含表示第2脸部检测处理成功的第2检测处理成功与否信息的第2脸部检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST128。
在步骤ST128中,控制器15将加入脸部跟踪框的即时预览图像显示于显示器26上。在此,脸部跟踪框例如是指由第1检测结果信息中包含的跟踪框信息表示的矩形状框300A1。即,在步骤ST128中,控制器15对即时预览图像以包围脸部图像300A的方式重叠显示矩形状框300A1,然后,后级电路处理转移到图20C所示的步骤ST130。
在图20C所示的步骤ST130中,瞳孔图像检测电路34E3使用在步骤ST101中生成的即时预览图像数据70B2中表示与通过第2脸部检测处理检测到的脸部图像300A相当的区域的一部分即时预览图像数据70B2执行第2瞳孔检测处理,然后,后级电路处理转移到步骤ST132。
在步骤ST132中,瞳孔图像检测电路34E3判定第2瞳孔检测处理是否成功。在步骤ST132中,在第2瞳孔检测处理成功的情况下判定为“是”,后级电路处理转移到步骤ST134。在步骤ST132中,在第2瞳孔检测处理失败的情况下判定为“否”,后级电路处理转移到步骤ST138。
在步骤ST134中,瞳孔图像检测电路34E3将包含表示第2瞳孔检测处理成功的第2检测处理成功与否信息的第2瞳孔检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST136。
在步骤ST136中,控制器15将加入瞳孔跟踪框的即时预览图像显示于显示器26上。在此,瞳孔跟踪框例如是指由第2检测结果信息中包含的跟踪框信息表示的矩形状框300B1a及300B2a。即,在步骤ST136中,控制器15对即时预览图像以包围左瞳孔图像300B1的方式重叠显示矩形状框300B1a,且对即时预览图像以包围右瞳孔图像300B2的方式重叠显示矩形状框300B2a,然后,后级电路处理转移到图20D所示的步骤ST164。
在步骤ST138中,瞳孔图像检测电路34E3将包含表示第2瞳孔检测处理失败的第2检测处理成功与否信息的第2瞳孔检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST140。
在步骤ST140中,作为一例,如图18C所示,控制器15在显示器26上显示消息M2作为表示瞳孔图像300B的检测失败的消息,然后,后级电路处理转移到图20D所示的步骤ST164。
在图20D所示的步骤ST151中,控制器15将加入脸部跟踪框的即时预览图像显示于显示器26上。即,在步骤ST151中,控制器15对即时预览图像以包围脸部图像300A的方式重叠显示矩形状框300A1,然后,后级电路处理转移到步骤ST152。
在步骤ST152中,第1检测电路34D使用在步骤ST101中生成的缩小图像数据70B3中表示与通过第1脸部检测处理检测到的脸部图像300A相当的区域的一部分缩小图像数据70B3执行第1瞳孔检测处理,然后,后级电路处理转移到步骤ST154。
在步骤ST154中,第1检测电路34D判定第1瞳孔检测处理是否成功。在步骤ST154中,在第1瞳孔检测处理成功的情况下判定为“是”,后级电路处理转移到步骤ST160。在步骤ST154中,在第1瞳孔检测处理失败的情况下判定为“否”,后级电路处理转移到步骤ST166。
在步骤ST160中,第1检测电路34D将包含表示第1瞳孔检测处理成功的第1检测处理成功与否信息的第1瞳孔检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST162。
在步骤ST162中,控制器15将加入瞳孔跟踪框的即时预览图像显示于显示器26上。即,在步骤ST162中,控制器15对即时预览图像以包围左瞳孔图像300B1的方式重叠显示矩形状框300B1a,且对即时预览图像以包围右瞳孔图像300B2的方式重叠显示矩形状框300B2a,然后,后级电路处理转移到步骤ST164。
在步骤ST166中,第1检测电路34D将包含表示第1瞳孔检测处理失败的第1检测处理成功与否信息的第1瞳孔检测结果信息经由输出I/F34B输出到控制器15,然后,后级电路处理转移到步骤ST168。
在步骤ST168中,作为一例,如图18C所示,控制器15在显示器26上显示消息M2作为表示瞳孔图像300B的检测失败的消息,然后,后级电路处理转移到步骤ST164。
在步骤ST164中,控制器15判定是否满足在上述第1实施方式中说明的后级电路处理结束条件。在步骤ST164中,在不满足后级电路处理结束条件的情况下判定为“否”,后级电路处理转移到步骤ST100。在步骤ST164中,在满足后级电路处理结束条件的情况下判定为“是”,后级电路处理结束。
如以上说明,在本第2实施方式所涉及的摄像装置10中,由脸部图像检测电路34E2从由即时预览图像数据70B2表示的即时预览图像中检测脸部图像300A。并且,由瞳孔图像检测电路34E3从由即时预览图像数据70B2表示的即时预览图像中检测比脸部图像小的图像即瞳孔图像300B。
在此,在第2脸部检测处理及第2瞳孔检测处理中使用的即时预览图像数据70B2是分辨率比在第1脸部检测处理及第1瞳孔检测处理中使用的缩小图像数据70B3高的图像数据。因此,第2脸部检测处理及第2瞳孔检测处理的精度比第1脸部检测处理及第1瞳孔检测处理的精度高。并且,对使用缩小图像数据70B3的第1检测电路34D施加的处理负载比对使用即时预览图像数据70B2的脸部图像检测电路34E2及瞳孔图像检测电路34E3施加的处理负载轻,只要第1脸部检测处理和/或第1瞳孔检测处理不失败,则不进行第2脸部检测处理及第2瞳孔检测处理。因此,根据本结构,与仅由第1检测处理检测脸部图像300A及瞳孔图像300B的情况相比,能够提高检测脸部图像300A及瞳孔图像300B的可能性。
另外,在本第2实施方式中,作为本发明的技术所涉及的“特定的被摄体”例示了人物的脸部,作为本发明的技术所涉及的“小型的被摄体”例示了人物的瞳孔,但本发明的技术并不限定于此。例如,作为本发明的技术所涉及的“小型的被摄体”,也可以代替人物的瞳孔或与人物的瞳孔一起适用人物的鼻子和/或口等部位。
并且,本发明的技术所涉及的“特定的被摄体”及“小型的被摄体”不必是人物的部位。例如,第2检测电路34E也可以使用即时预览图像数据70B2来检测表示人物的脸部以外的被摄体的第1图像和表示比由第1图像表示的被摄体小型的被摄体的第2图像。作为第1图像,例如可举出表示小鸟的图像,作为此时的第2图像,例如可举出表示比虫或植物等小鸟小型的被摄体的图像。并且,除此以外,作为第1图像,例如可举出表示树木的图像,作为此时的第2图像,例如可举出表示比小鸟和/或虫等树木小型的被摄体的图像。因此,根据本结构,与仅通过第1检测处理检测表示特定的被摄体的图像及表示比特定的被摄体小型的被摄体的图像的情况相比,能够提高检测表示比表示特定的被摄体的图像及表示比特定的被摄体小型的被摄体的图像的可能性。
并且,在本第2实施方式所涉及的摄像装置10中,加入脸部跟踪框的即时预览图像显示于显示器26上(参考图18A及图18C)。并且,加入瞳孔跟踪框的即时预览图像显示于显示器26上(参考图18A)。并且,加入消息M1的即时预览图像显示于显示器26上(参考图18B)。此外,加入消息M2的即时预览图像显示于显示器26上(参考图18C)。因此,根据本结构,能够使用户感知分别在第1脸部检测处理、第1瞳孔检测处理、第2脸部检测处理及第2瞳孔检测处理中的检测结果。
另外,在上述第2实施方式中,举出脸部图像检测电路34E2使用1帧量的即时预览图像数据70B2检测脸部图像300A的方式例进行了说明,但本发明的技术并不限定于此。例如,第2检测电路34E也可以对部分区域图像数据进行第2脸部检测处理及第2瞳孔检测处理。部分区域图像数据是1帧量的即时预览图像数据70B2中的一部分即时预览图像数据70B2。具体而言,部分区域图像数据是指表示部分区域的图像数据,该部分区域是由即时预览图像数据70B2表示的即时预览图像内的部分区域,且与在进行第2脸部检测处理及第2瞳孔检测处理的帧的前一帧中通过第1脸部检测处理检测到的脸部图像300A的位置对应。并且,在此,进行第2脸部检测处理的帧的前一帧例如是指1帧以上前的帧。
在该情况下,作为一例,如图21所示,第1检测电路34D获取能够确定由进行第2脸部检测处理及第2瞳孔检测处理的帧的前一帧的缩小图像数据70B3表示的缩小图像中的与脸部图像300A的位置对应的部分区域的位置的区域确定数据(例如,坐标),并将所获取的区域确定数据存储于存储电路34F。在此,作为区域确定数据的一例,采用了能够确定缩小图像内的矩形状框300A1的位置的数据(例如,坐标)。另外,区域确定数据并不限于能够确定缩小图像内的矩形状框300A1的位置的数据,例如可以是能够确定脸部图像300A的位置的数据(例如,坐标)。
作为一例,如图22所示,生成电路34C具备即时预览图像数据生成电路34C1及提取电路34C2。即时预览图像数据生成电路34C1从成像元件38获取输出用图像数据70B1,通过缩小所获取的输出用图像数据70B1而生成即时预览图像数据70B2。即时预览图像数据生成电路34C1将所生成的即时预览图像数据70B2输出到控制器15及提取电路34C2。
提取电路34C2从由即时预览图像数据生成电路34C1输入的即时预览图像数据70B2中,参考存储于存储电路34F中的区域确定数据提取部分区域图像数据。即,提取电路34C2从即时预览图像数据70B2提取表示与由第1检测电路34D检测到的脸部图像300A的位置对应的区域的一部分即时预览图像数据70B2作为部分区域图像数据。提取电路34C2将从即时预览图像数据70B2提取的部分区域图像数据存储于存储电路34F。另外,在本第2实施方式中,部分区域图像数据是本发明的技术所涉及的“特定被摄体图像区域数据”的一例。并且,在本第2实施方式中,存储电路34F是本发明的技术所涉及的“存储部”的一例。
在图22所示的例子中,示出了在存储电路34F中存储部分区域图像数据的方式例,但这仅为一例,也可以与存储电路34F分开设置部分区域图像数据用存储器(省略图示),在部分区域图像数据用存储器中存储部分区域图像数据。并且,也可以在帧存储器34G(参考图11)中以帧单位存储部分区域图像数据,由第2检测电路34E从帧存储器34G以帧单位获取部分区域图像数据。
作为一例,如图23所示,脸部图像检测电路34E2从存储电路34F获取部分区域图像数据,对所获取的部分区域图像数据执行第2脸部检测处理。并且,瞳孔图像检测电路34E3从存储电路34F获取部分区域图像数据,对所获取的部分区域图像数据执行第2瞳孔检测处理。
如此在图21~图23所示的例子中,由第2检测电路34E对部分区域图像数据进行第2脸部检测处理及第2瞳孔检测处理。部分区域图像数据是表示部分区域的图像数据,该部分区域是由即时预览图像数据70B2表示的即时预览图像内的部分区域,且与在进行第2脸部检测处理的帧的前一帧中通过第1脸部检测处理检测到的脸部图像300A的位置对应。因此,根据本结构,与对1帧量以上的即时预览图像数据70B2进行第2脸部检测处理及第2瞳孔检测处理的情况相比,能够减轻用于第2脸部检测处理及第2瞳孔检测处理的处理负载。
另外,在此,举出对部分区域图像数据进行第2脸部检测处理及第2瞳孔检测处理的方式例进行了说明,但本发明的技术并不限定于此,也可以对部分区域图像数据进行第2脸部检测处理或第2瞳孔检测处理。
并且,在此,举出了由提取电路34C2根据基于第1检测处理的检测结果的区域确定数据提取部分区域图像数据的方式例,但本发明的技术并不限定于此。例如,也可以由提取电路34C2提取即时预览图像数据70B2中的与由用户经由触摸面板28指示的区域200A对应的即时预览图像数据70B2作为部分区域图像数据。在该情况下,能够有助于对用户想要的部分区域图像数据进行第2检测处理。
并且,在图21~图23所示的例子中,在通过第1脸部检测处理检测到脸部图像300A的情况下,由提取电路34C2将即时预览图像数据70B2中的表示与脸部图像300A的位置对应的区域的部分区域图像数据存储于存储电路34F。因此,根据本结构,与1帧量以上的即时预览图像数据70B2存储于存储电路34F中的情况相比,能够减少存储于存储电路34F中的数据量。
并且,在图21~图23所示的例子中,在通过第1脸部检测处理检测到脸部图像300A的情况下,由脸部图像检测电路34E2对存储于存储电路34F中的部分区域图像数据进行第2脸部检测处理。因此,根据本结构,与对1帧量的即时预览图像数据70B2中的部分区域图像数据以外的即时预览图像数据70B2进行第2脸部检测处理的情况相比,能够提高通过第2脸部检测处理检测脸部图像300A的概率。
此外,在图21~图23所示的例子中,在通过第1脸部检测处理检测到脸部图像300A的情况下,由瞳孔图像检测电路34E3对存储于存储电路34F中的部分区域图像数据进行第2瞳孔检测处理。因此,根据本结构,与对1帧量的即时预览图像数据70B2中的部分区域图像数据以外的即时预览图像数据70B2进行第2瞳孔检测处理的情况相比,能够提高通过第2瞳孔检测处理检测瞳孔图像300B的概率。
[第3实施方式]
在上述第2实施方式中,举出对即时预览图像数据70B2执行第2脸部检测处理及第2瞳孔检测处理的方式例进行了说明,但在本第3实施方式中,对不仅对即时预览图像数据70B2,而且对数字图像数据70B也执行第2脸部检测处理及第2瞳孔检测处理的方式例进行说明。另外,在本第3实施方式中,对与上述第2实施方式相同的构成要件标注相同的符号,并省略其说明。
作为一例,如图24所示,在本第3实施方式所涉及的摄像装置10中,控制电路110C按照从控制器15输入的垂直同步信号,从存储器112获取数字图像数据70B。控制电路110C经由输出I/F110D2与信号处理电路34的接收I/F34A能够并行通信地连接,按照帧速率使数字图像数据70B与输出用图像数据70B1同步,并输出到信号处理电路34。在信号处理电路34中,在从成像元件38输出的数字图像数据70B与输出用图像数据70B1同步的定时由接收I/F34A接收。
作为一例,如图25所示,生成电路34C将在由接收I/F34A同步的定时接收到的数字图像数据70B及即时预览图像数据70B2存储于帧存储器34G。由此,在帧存储器34G中,按照以帧速率规定的1帧量的期间存储分辨率不同的两种图像数据。第2检测电路34E对分辨率不同的两种图像数据从低分辨率的图像数据到高分辨率的图像数据阶段性地进行第2检测处理。即,第2检测电路34E首先对即时预览图像数据70B2进行第2检测处理,接着,对数字图像数据70B进行第2检测处理。
图26A~图26C中示出了由本第3实施方式所涉及的摄像装置10中包含的第1检测电路34D及第2检测电路34E进行的对图像数据的处理定时的一例。另外,在图26A~图26C所示的例子中,对于与图14及图19所示的例子重复的处理省略说明。并且,以下,为了便于说明,将脸部图像检测电路34E2从由数字图像数据70B表示的图像中检测脸部图像300A的处理也称为“第3脸部检测处理”,将瞳孔图像检测电路34E3从由数字图像数据70B表示的图像中检测瞳孔图像300B的处理也称为“第3瞳孔检测处理”。在本第3实施方式中,第2脸部检测处理、第2瞳孔检测处理、第3脸部检测处理及第3瞳孔检测处理是本发明的技术所涉及的“第2检测处理”的一例。
作为一例,如图26A所示,在第1脸部检测处理失败,且第2脸部检测处理失败的情况下,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的数字图像数据70B的第3脸部检测处理。在此,当第3脸部检测处理成功时,作为一例,如图18A所示,矩形状框300A1重叠显示于即时预览图像上。并且,当第3脸部检测处理成功时,在瞳孔图像检测电路34E3中执行使用存储于帧存储器34G中的数字图像数据70B中的表示与通过第3脸部检测处理检测到的脸部图像300A相当的区域的一部分数字图像数据70B的第3瞳孔检测处理。当第3瞳孔检测处理成功时,作为一例,如图18A所示,矩形状框300B1a及300B2a重叠显示于即时预览图像上。
作为一例,如图26A所示,在第1脸部检测处理失败,且第2脸部检测处理成功的情况下,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的即时预览图像数据70B2的第2瞳孔检测处理。在此,当第2瞳孔检测处理失败时,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的数字图像数据70B的第3脸部检测处理。在此,当第3脸部检测处理成功时,作为一例,如图18A所示,矩形状框300A1重叠显示于即时预览图像上。并且,当第3脸部检测处理成功时,在瞳孔图像检测电路34E3中执行使用存储于帧存储器34G中的数字图像数据70B中的表示与通过第3脸部检测处理检测到的脸部图像300A相当的区域的一部分数字图像数据70B的第3瞳孔检测处理。当第3瞳孔检测处理成功时,作为一例,如图18A所示,矩形状框300B1a及300B2a重叠显示于即时预览图像上。
作为一例,如图26B所示,在第1脸部检测处理失败,且第2脸部检测处理失败的情况下,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的数字图像数据70B的第3脸部检测处理。在此,当第3脸部检测处理成功时,作为一例,如图18C所示,矩形状框300A1重叠显示于即时预览图像上。并且,当第3脸部检测处理成功时,在瞳孔图像检测电路34E3中执行使用存储于帧存储器34G中的数字图像数据70B中的表示与通过第3脸部检测处理检测到的脸部图像300A相当的区域的一部分数字图像数据70B的第3瞳孔检测处理。当第3瞳孔检测处理失败时,作为一例,如图18C所示,在显示器26上与即时预览图像一起显示消息M2。
作为一例,如图26B所示,在第1脸部检测处理失败,且第2脸部检测处理成功的情况下,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的即时预览图像数据70B2的第2瞳孔检测处理。在此,当第2瞳孔检测处理失败时,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的数字图像数据70B的第3脸部检测处理。在此,当第3脸部检测处理成功时,作为一例,如图18C所示,矩形状框300A1重叠显示于即时预览图像上。并且,当第3脸部检测处理成功时,在瞳孔图像检测电路34E3中执行使用存储于帧存储器34G中的数字图像数据70B中的表示与通过第3脸部检测处理检测到的脸部图像300A相当的区域的一部分数字图像数据70B的第3瞳孔检测处理。当第3瞳孔检测处理失败时,作为一例,如图18C所示,在显示器26上与即时预览图像一起显示消息M2。
作为一例,如图26C所示,在第1脸部检测处理失败,且第2脸部检测处理失败的情况下,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的数字图像数据70B的第3脸部检测处理。在此,当第3脸部检测处理失败时,作为一例,如图18C所示,矩形状框300A1重叠显示于即时预览图像上。并且,当第3脸部检测处理成功时,在瞳孔图像检测电路34E3中执行使用存储于帧存储器34G中的数字图像数据70B中的表示与通过第3脸部检测处理检测到的脸部图像300A相当的区域的一部分数字图像数据70B的第3瞳孔检测处理。当第3瞳孔检测处理失败时,作为一例,如图18B所示,在显示器26上与即时预览图像一起显示消息M1。
作为一例,如图26C所示,当第1脸部检测处理成功,且第1瞳孔检测处理失败时,作为一例,如图18A所示,矩形状框300A1重叠显示于即时预览图像上。由脸部图像检测电路34E2执行使用存储于帧存储器34G中的即时预览图像数据70B2的第2脸部检测处理。当第1脸部检测处理成功时,在瞳孔图像检测电路34E3中执行使用存储于帧存储器34G中的即时预览图像数据70B2中的表示与通过第2脸部检测处理检测到的脸部图像300A相当的区域的一部分即时预览图像数据70B2的第2瞳孔检测处理。当第2瞳孔检测处理失败时,由脸部图像检测电路34E2执行使用存储于帧存储器34G中的数字图像数据70B的第3脸部检测处理。当第3脸部检测处理成功时,在瞳孔图像检测电路34E3中执行使用存储于帧存储器34G中的数字图像数据70B中的表示与通过第2脸部检测处理检测到的脸部图像300A相当的区域的一部分数字图像数据70B2的第3瞳孔检测处理。当第3瞳孔检测处理成功时,作为一例,如图18A所示,矩形状框300B1a及300B2a重叠显示于即时预览图像上。
如以上说明,在本第3实施方式所涉及的摄像装置10中,由生成电路34C进行缩小数字图像数据70B的处理,由第1检测电路34D进行使用缩小图像数据70B3的第1检测处理。并且,在通过第1检测处理未检测到特定被摄体图像200的情况下,由第2检测电路34E执行阶段性地使用存储于帧存储器34G中的即时预览图像数据70B2及数字图像数据70B的第2检测处理。即,在执行使用即时预览图像数据70B2的第2脸部检测处理及第2瞳孔检测处理,第2脸部检测处理和/或第2瞳孔检测处理的检测处理失败的情况下,执行使用分辨率比即时预览图像数据70B2高的数字图像数据70B的第3脸部检测处理及第3瞳孔检测处理。因此,根据本结构,与始终仅使用即时预览图像数据70B2进行第2检测处理的情况相比,能够实现高精度的检测。
另外,在上述第3实施方式中,当第2瞳孔检测处理失败时,由脸部图像检测电路34E2执行第3脸部检测处理之后,由瞳孔图像检测电路34E3执行第3瞳孔检测处理,但本发明的技术并不限定于此。例如,如图27所示,在第2瞳孔检测处理失败的情况下,也可以不执行第3脸部检测处理,而由瞳孔图像检测电路34E3执行使用存储于帧存储器34G中的数字图像数据70B的第3瞳孔检测处理。在该情况下,如图21~图23所示的例子,也可以参考区域确定数据,由瞳孔图像检测电路34E3执行使用表示与数字图像数据70B中的脸部图像300A的位置对应的区域的一部分数字图像数据70B的第3瞳孔检测处理。
并且,在图26A~图26C所示的例子中,举出由脸部图像检测电路34E2执行使用数字图像数据70B的第3脸部检测处理,由瞳孔图像检测电路34E3执行使用数字图像数据70B的第3瞳孔检测处理的方式例进行了说明,但本发明的技术并不限定于此。例如,如图28所示,也可以由脸部图像检测电路34E2执行第3脸部检测处理及第4脸部检测处理,由瞳孔图像检测电路34E3执行第3瞳孔检测处理及第4瞳孔检测处理。
在图28所示的例子中,作为第3脸部检测处理,由脸部图像检测电路34E2执行使用输出用图像数据70B1的第3脸部检测处理,作为第3瞳孔检测处理,由瞳孔图像检测电路34E3执行使用输出用图像数据70B1的第3瞳孔检测处理。并且,在第3瞳孔检测处理失败的情况下,脸部图像检测电路34E2执行第4脸部检测处理。第4脸部检测处理是指从数字图像数据70B中检测脸部图像300A的处理。并且,在第4脸部检测处理成功的情况下,瞳孔图像检测电路34E3执行第4瞳孔检测处理。第4瞳孔检测处理是指使用数字图像数据70B中的表示与通过第4脸部检测处理检测到的脸部图像300A的位置对应的区域的一部分数字图像数据70B检测瞳孔图像300B的处理。
另外,在图28所示的例子中,当第3瞳孔检测处理失败时,由脸部图像检测电路34E2执行第4脸部检测处理之后,执行第4瞳孔检测处理,但本发明的技术并不限定于此。例如,在第3瞳孔检测处理失败的情况下,也可以不执行第4脸部检测处理,而由瞳孔图像检测电路34E3执行使用存储于帧存储器34G中的数字图像数据70B的第4瞳孔检测处理。在该情况下,如图21~图23所示的例子,也可以参考区域确定数据,由瞳孔图像检测电路34E3执行使用表示与数字图像数据70B中的脸部图像300A的位置对应的区域的一部分数字图像数据70B的第4瞳孔检测处理。
[第4实施方式]
在上述第1实施方式中,举出仅一种图像数据存储于帧存储器34G中的方式例进行了说明,但在本第4实施方式中,对帧存储器34G中存储多种图像数据的方式例进行说明。另外,在本第4实施方式中,对与上述第1~第3实施方式相同的构成要件标注相同的符号,并省略其说明。
作为一例,如图29所示,本第4实施方式所涉及的摄像装置10中包含的信号处理电路34与在上述第1~第3实施方式中说明的信号处理电路34相比,不同点在于,具有分析电路34K及将指示区域信息输入到分析电路34K。
从生成电路34C向分析电路34K输入输出用图像数据70B1。并且,生成电路34C根据输出用图像数据生成第1缩小前图像数据及第2缩小前图像数据,将所生成的第1缩小前图像数据及第2缩小前图像数据按每个规定期间存储于帧存储器34G。作为规定期间,采用了与以帧速率规定的1帧量的传送期间相当的期间。另外,规定期间并不限于此,例如,当将N设为1以上的整数时,也可以将与以帧速率规定的2N帧量以上的传送期间相当的期间采用为规定期间。
第1缩小前图像数据及第2缩小前图像数据是在第2检测电路34E中使用的图像数据。具体而言,第1缩小前图像数据及第2缩小前图像数据是在第2检测电路34E中的第2检测处理中使用的第2检测处理对象图像数据。第1缩小前图像数据及第2缩小前图像数据是互不相同的分辨率的图像数据,分辨率均比输出用图像数据70B1高,且分辨率比即时预览图像数据70B2低。并且,第1缩小前图像数据的分辨率低于第2缩小前图像数据的分辨率。另外,以下,为了便于说明,在不需要区分说明第1缩小前图像数据及第2缩小前图像数据的情况下,称为“第2检测处理对象图像数据”。
分析电路34K在由第2检测电路34E进行第2检测处理之前,按每个规定期间分析输出用图像数据70B1。并且,第2检测电路34E对第1缩小前图像数据及第2缩小前图像数据中的,按每个规定期间根据分析电路34K中的分析结果确定的第2检测处理对象图像数据进行进行第2检测处理。分析电路34K对输出用图像数据70B1中的表示与由指示区域信息指示的区域200A的位置对应的区域的一部分输出用图像数据70B1即关注区域图像数据进行分析。
作为一例,如图30A所示,分析电路34K按每个规定期间从触摸面板28获取指示区域信息。通过用户的手指11对触摸面板28进行滑动操作来更新指示区域信息。即,通过用户的手指11对触摸面板28进行滑动操作来变更区域200A的位置。另外,在此,例示了滑动操作,但并不限于此,也可以是轻击操作等其他操作。
分析电路34K根据指示区域信息从输出用图像数据70B1获取关注区域图像数据,并分析由所获取的关注区域图像数据表示的图像(以下,称为“指示区域图像”)的对比度。分析电路34K判定指示区域图像的对比度是否为阈值以上,并将判定结果作为分析结果输出到第2检测电路34E。在指示区域图像的对比度为阈值以上的情况下,第2检测电路34E获取第1缩小前图像数据作为第2检测处理对象图像数据,对所获取的第2检测处理对象图像数据进行第2检测处理。并且,作为一例,如图30B所示,在指示区域图像的对比度小于阈值的情况下,第2检测电路34E获取第2缩小前图像数据作为第2检测处理对象图像数据,对所获取的第2检测处理对象图像数据进行第2检测处理。
另外,在此,举出由分析电路34K分析对比度的方式例进行了说明,但本发明的技术并不限定于此,也可以由分析电路34K分析轮廓、模糊程度、亮度的分布和/或色调的分布等。
如以上说明,在本第4实施方式所涉及的摄像装置10中,由生成电路34C根据输出用图像数据生成第1缩小前图像数据及第2缩小前图像数据,所生成的第1缩小前图像数据及第2缩小前图像数据按每个规定期间存储于帧存储器34G。因此,根据本结构,与一种第2检测处理对象图像数据按每个规定期间存储于帧存储器34G的情况相比,能够增加按每个规定期间在第2检测处理中使用的第2检测处理对象图像数据的选项。
并且,在本第4实施方式所涉及的摄像装置10中,在由第2检测电路34E进行第2检测处理之前,由分析电路34K按每个规定期间分析输出用图像数据70B1。并且,由第2检测电路34E对存储于帧存储器34G中的第1缩小前图像数据及第2缩小前图像数据中的,按每个规定期间根据分析电路34K中的分析结果确定的第2检测处理对象图像数据进行第2检测处理。因此,根据本结构,能够对与现状对应的种类的第2检测处理对象图像数据进行第2检测处理。
并且,在图30B所示的区域200A内,特定被摄体图像200与背景图像的色调同化,与此相对,在图30A所示的区域200A内,特定被摄体图像200与背景图像的色调未同化。即,图30B所示的区域200A内的对比度低于图30A所示的区域200A内的对比度,因此在图30B所示的例子的情况下,第2检测电路34E获取分辨率比第1缩小前图像数据高的第2缩小前图像数据作为第2检测处理对象图像数据,对所获取的第2检测处理对象图像数据进行第2检测处理。由此,与对第1缩小前图像数据进行第2检测处理的情况相比,能够提高检测特定被摄体图像200的可能性。
另外,在上述第4实施方式中,例示了第1缩小前图像数据及第2缩小前图像数据这两种图像数据,但本发明的技术并不限定于此,也可以是3种以上的图像数据。作为3种以上的图像数据,例如可举出4K的图像数据、FHD的图像数据及VGA的图像数据等。
并且,在上述第1~第4实施方式中,举出由位于成像元件38的后级的信号处理电路34进行缩小输出用图像数据的处理、第1检测处理及第2检测处理的方式例进行了说明,但本发明的技术并不限定于此。例如,作为本发明的技术所涉及的“处理部”的一例,也可以使用成像元件38的处理电路110。在该情况下,例如,如图31所示,成像元件38可以内置与上述信号处理电路34相当的信号处理电路110E。由此,不需要信号处理电路34,因此输出I/F110D2与控制器15的接收I/F15E连接。在图31所示的例子中,信号处理电路110E与控制电路110C连接,在控制电路110C与信号处理电路110E之间进行各种信息的授受。根据本结构,与使成像元件38的外部的处理部(例如,控制器15)处理图像数据的情况相比,能够高速地处理图像数据。
并且,作为本发明的技术所涉及的“存储部”的一例,也可以使用存储器112。例如,也可以用内置于成像元件38中的存储器112来代替图31所示的信号处理电路110E中包含的多个构成要件中的,与上述信号处理电路34中包含的存储电路34F相当的存储电路及与帧存储器34G相当的帧存储器中的至少一者。根据本结构,与将图像数据存储于成像元件38的外部的存储装置中的情况相比,能够实现对图像数据的高速访问。
并且,在上述摄像装置10中,作为成像元件38,采用了将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件。由此,与未将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件相比,成像元件38的便携性提高。并且,与未将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件相比,能够提高设计的自由度。此外,与未将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件相比,也能够有助于摄像装置10的小型化。
并且,在上述摄像装置10中,作为成像元件38,采用了存储器112层叠于光电转换元件42上的层叠型成像元件。由此,由于能够缩短连接光电转换元件42与存储器112的配线,因此能够减少配线延迟,其结果,与未层叠光电转换元件42和存储器112的情况相比,能够提高从光电转换元件42向存储器112的图像数据的传送速度。传送速度的提高也有助于整个处理电路110中的处理的高速化。并且,与未层叠光电转换元件42和存储器112的情况相比,也能够提高设计的自由度。此外,与未层叠光电转换元件42和存储器112的情况相比,也能够有助于摄像装置10的小型化。
并且,在上述摄像装置10中,作为成像元件38,例示了将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件,但本发明的技术并不限定于此。例如,只要将光电转换元件42、处理电路110及存储器112中的至少光电转换元件42及存储器112单芯片化即可。
并且,在上述摄像装置10中,举出通过第2检测处理检测脸部图像300A,且检测瞳孔图像300B时的方式例进行了说明,但本发明的技术并不限定于此,例如,也可以通过第2检测处理检测脸部图像300A或瞳孔图像300B。
在上述各实施方式中,例示了镜头可换式摄像装置10,但本发明的技术并不限定于此。例如,如图32所示,也可以在智能器件400上搭载有摄像装置主体414,该摄像装置主体414具有与在上述各实施方式中说明的摄像装置主体12相当的结构及功能。
作为一例,如图32所示,智能设备400具备框体412,并且摄像装置主体414容纳于框体412中。作为智能器件400的一例,可举出作为带有摄像功能的电子设备的智能手机或平板终端等。
成像透镜416安装于框体412上。在图32所示的例子中,成像透镜416在使智能器件400处于垂直放置的状态时的框体412的背面412A的左上部从背面412A露出。成像透镜416的中心位于光轴L1上。在摄像装置主体414上内置有成像元件38。摄像装置主体414从成像透镜416取入被摄体光。取入到摄像装置主体414内的被摄体光在成像元件38上成像。
另外,在图32所示的例子中,示出了仅摄像装置主体414内置于智能器件400中的方式例,但本发明的技术并不限定于此,可以在智能器件400内置有多台数码相机,在该情况下,只要在至少1台数码相机中搭载有摄像装置主体414即可。
并且,在上述各实施方式中,通信I/F之间按照PCIe的连接标准连接,但本发明的技术并不限定于此。作为高速通信标准,也可以采用LVDS、SATA、SLVS-EC或MIPI等其他连接标准来代替PCIe连接标准。
并且,在上述各实施方式中,成像元件38与信号处理电路34之间的通信、控制器15与成像元件38的通信、及信号处理电路34与控制器15的通信均为有线形式的通信。然而,本发明的技术并不限定于此。成像元件38与信号处理电路34之间的通信、控制器15与成像元件38的通信和/或信号处理电路34与控制器15的通信也可以是无线形式的通信。
并且,在上述各实施方式中,举出UI***器件17组装在摄像装置主体12中的方式例进行了说明,但UI***器件17中包含的多个构成要件中的至少一部分可以外置在摄像装置主体12上。并且,UI***器件17中包含的多个构成要件中的至少一部分也可以作为分体与外部I/F104连接来使用。
并且,在上述实施方式中,作为帧速率例示了120fps,但本发明的技术并不限定于此,也可以将摄像用帧速率(例如,在图8所示的摄像处理中适用的帧速率)和输出用帧速率(例如,在图8所示的输出处理中适用的帧速率)设为不同的帧速率。摄像用帧速率和/或输出用帧速率可以是固定的帧速率,也可以是可变的帧速率。在可变的帧速率的情况下,例如可以在满足规定条件(例如,由接收器件84接收到变更帧速率的指示的条件和/或作为变更帧速率的定时而事先确定的定时到来的条件)的情况下变更帧速率。在可变的帧速率的情况下,帧速率的具体的数值例如可以根据由接收器件84接收到的指示来变更,也可以根据后级电路13和/或成像元件38的运转率来变更。
并且,在上述各实施方式中,例示了信号处理电路34,但本发明的技术并不限定于此,除了信号处理电路34以外,还可以使用一个以上的信号处理电路。在该情况下,只要将成像元件38与多个信号处理电路的每一个直接连接即可。
并且,在上述各实施方式中,举出信号处理电路34由包含ASIC及FPGA的器件来实现的方式例进行了说明,但本发明的技术并不限定于此。例如,信号处理电路34也可以通过计算机的软件结构来实现。
在该情况下,例如,如图33所示,在信号处理电路34中内置有计算机852,将用于使计算机852执行上述各实施方式所涉及的后级电路处理的后级电路处理程序902存储于存储介质900。作为存储介质900的一例,可举出作为非临时存储介质的SSD或USB存储器等任意的便携式存储介质。计算机852具备CPU852A、储存器852B及存储器852C。储存器852B是EEPROM等非易失性存储装置,存储器852C是RAM等存储装置。存储于存储介质900中的后级电路处理程序902安装于计算机852。CPU852A按照后级电路处理程序902执行后级电路处理。另外,后级电路处理程序902也可以不存储于存储介质900,而存储于储存器852B。
并且,也可以在经由通信网络(省略图示)与计算机852连接的其他计算机或服务器装置等储存器(例如,非易失性存储装置)中存储后级电路处理程序902,根据上述摄像装置10或智能器件400的请求下载后级电路处理程序902并安装于计算机852。
另外,不需要在与计算机852连接的其他计算机或服务器装置等储存器中存储全部后级电路处理程序902,可以存储后级电路处理程序902的一部分。
在图33所示的例子中,例示了信号处理电路34中内置有计算机852的方式例,但本发明的技术并不限定于此,例如计算机852可以设置在信号处理电路34的外部。
在图33所示的例子中,CPU852A是单个CPU,但也可以是多个CPU。并且,也可以适用GPU来代替CPU852A。
在图33所示的例子中,例示了计算机852,但本发明的技术并不限定于此,也可以适用包含ASIC、FPGA和/或PLD的器件来代替计算机852。并且,也可以使用硬件结构及软件结构的组合来代替计算机852。
并且,在上述各实施方式中,举出处理电路110由包含ASIC及FPGA的器件来实现的方式例进行了说明,但本发明的技术并不限定于此。例如,也可以通过基于计算机的软件结构来实现处理电路110中包含的多个器件中的至少控制电路110C。并且,在图31所示的例子中,也可以通过计算机的软件结构来实现处理电路110中包含的多个器件中的至少信号处理电路110E。
在该情况下,例如,如图34所示,在成像元件38中内置有计算机852,将用于使计算机852执行上述各实施方式所涉及的后级电路处理的后级电路处理程序902存储于存储介质900。存储于存储介质900中的后级电路处理程序902安装于计算机852。并且,也可以在经由通信网络(省略图示)与计算机852连接的其他计算机或服务器装置等储存器(例如,非易失性存储装置)中存储后级电路处理程序902,根据成像元件38的请求下载后级电路处理程序902并安装于计算机852。
在图34所示的例子中,例示了成像元件38中内置有计算机852的方式例,但本发明的技术并不限定于此,例如计算机852可以设置在成像元件38的外部。并且,在图34所示的例子中,CPU852A是单个CPU,但也可以是多个CPU。并且,也可以适用GPU来代替CPU852A。并且,在图34所示的例子中,例示了计算机852,但本发明的技术并不限定于此,也可以适用包含ASIC、FP GA和/或PLD的器件来代替计算机852。并且,也可以使用硬件结构及软件结构的组合来代替计算机852。
作为执行在上述各实施方式中说明的后级电路处理的硬件资源,能够使用以下所示的各种处理器。作为处理器,例如可举出通用的处理器即CPU,如上所述,通过执行软件即程序,作为执行后级电路处理的硬件资源而发挥功能。并且,作为处理器,例如可举出作为处理器的专用电路,所述处理器具有FPG A、PLD、或ASIC等为了执行特定的处理而专门设计的电路结构。任何处理器中都内置或连接有存储器,通过任何处理器都使用存储器来执行后级电路处理。
执行后级电路处理的硬件资源可以由这些各种处理器中的一个构成,也可以由相同种类或不同种类的两个以上的处理器的组合(例如,多个FPGA的组合、或CPU与FPGA的组合)构成。并且,执行后级电路处理的硬件资源可以是一个处理器。
作为由一个处理器构成的例子,第一,存在如下方式:如以客户端及服务器等计算机为代表,由一个以上的CPU和软件的组合来构成一个处理器,该处理器作为执行后级电路处理的硬件资源而发挥功能。第二,存在如下方式:如以SoC等为代表,使用由一个IC芯片来实现包括执行后级电路处理的多个硬件资源的整个***的功能的处理器。如此,后级电路处理通过使用一个以上上述各种处理器作为硬件资源来实现。
此外,作为这些各种处理器的硬件结构,更具体而言,能够使用将半导体元件等电路元件进行了组合的电路。
并且,上述各种处理仅为一例。因此,在不脱离主旨的范围内,当然可以删除不必要的步骤,或者追加新的步骤,或者切换处理顺序。
并且,在图1所示的例子中例示摄像装置10,在图32所示的例子中例示了智能器件400,但本发明的技术并不限定于此。即,本发明的技术也能够适用于内置有具有与在上述各实施方式中说明的摄像装置主体12相当的结构及功能的摄像装置的各种电子设备(例如,镜头固定式相机、个人计算机或可穿戴终端装置等),并且即使在这些电子设备中,也能够得到与摄像装置10及智能器件400相同的作用及效果。
并且,在上述各实施方式中,例示了显示器26,但本发明的技术并不限定于此。例如,可以将附接到摄像装置的单独的显示器用作本发明的技术所涉及的“显示装置”。
以上所示的记载内容及图示内容是关于本发明的技术所涉及部分的详细说明,只是本发明的技术的一例。例如,与上述结构、功能、作用及效果有关的说明是与本发明的技术所涉及部分的结构、功能、作用及效果的一例有关的说明。因此,在不脱离本发明的技术的主旨的范围内,当然可以对以上所示的记载内容及图示内容删除不必要的部分,或者追加新的要素,或者进行替换。并且,为了避免复杂化,并且为了容易理解本发明的技术所涉及的部分,在以上所示的记载内容及图示内容中,省略了在能够实施本发明的技术的方面不需要特别说明的与技术常识等有关的说明。
在本说明书中,“A和/或B”与“A及B中的至少一个”的含义相同。即,“A和/或B”是指可以只是A,可以只是B,也可以是A及B的组合。并且,在本说明书中,附加“和/或”来表现3个以上的事项的情况下,也可以适用与“A和/或B”相同的概念。
本说明书中所记载的所有文献、专利申请及技术标准,以与具体且分别记载通过参考而援用各文献、专利申请及技术标准的情况相同程度,通过参考而援用于本说明书中。
关于以上实施方式,进一步公开以下附记。
(附记1)
一种摄像装置,其包含:
存储器,存储通过拍摄而得到的图像数据;及
信号处理电路,对上述图像数据进行处理,
上述信号处理电路进行缩小上述图像数据的处理,并且进行从由通过缩小上述图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理,在通过上述第1检测处理未检测到上述特定被摄体图像的情况下,对存储于上述存储器中的缩小前的上述图像数据即缩小前图像数据进行第2检测处理。
(附记2)
一种成像元件,其包含:
存储器,存储通过拍摄而得到的图像数据,且内置于所述成像元件中;及
信号处理电路,对上述图像数据进行处理,且内置于所述成像元件中,
上述信号处理电路进行缩小上述图像数据的处理,并且进行从由通过缩小上述图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理,在通过上述第1检测处理未检测到上述特定被摄体图像的情况下,对存储于上述存储器中的缩小前的上述图像数据即缩小前图像数据进行第2检测处理。
(附记3)
一种成像元件,其包含:
存储部(存储器),存储通过拍摄而得到的图像数据,且内置于上述成像元件中;及
处理部(信号处理电路),对上述图像数据进行处理,且内置于上述成像元件中,
上述处理部进行缩小上述图像数据的处理,并且进行从由通过缩小上述图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理,在通过上述第1检测处理未检测到上述特定被摄体图像的情况下,对存储于上述存储部中的缩小前的上述图像数据即缩小前图像数据进行第2检测处理。
(附记4)
根据附记3所述的成像元件,其中,
上述处理部对表示部分区域的部分区域图像数据进行上述第2检测处理,上述部分区域是由上述缩小前图像数据表示的图像内的部分区域,且与在进行上述第2检测处理的帧的前一帧中通过上述第1检测处理检测到的上述特定被摄体图像的位置对应。
(附记5)
根据附记4所述的成像元件,其中,
上述部分区域是由上述缩小前图像数据表示的图像内的所指示的上述特定的被摄体的区域。
(附记6)
根据附记3至5中任一项所述的成像元件,其中,
在通过上述第1检测处理检测到上述特定被摄体图像的情况下,上述处理部将上述缩小前图像数据中的表示与上述特定被摄体图像的位置对应的区域的特定被摄体图像区域数据存储于上述存储部。
(附记7)
根据附记6所述的成像元件,其中,
在通过上述第1检测处理检测到上述特定被摄体图像的情况下,上述处理部对存储于上述存储部中的上述特定被摄体图像区域数据进行上述第2检测处理。
(附记8)
根据附记3至7中任一项所述的成像元件,其中,
上述处理部根据上述图像数据生成多种上述缩小前图像数据,将所生成的上述多种缩小前图像数据按每个规定期间存储于上述存储部。
(附记9)
根据附记8所述的成像元件,其中,
上述处理部在进行上述第2检测处理之前,按每个上述规定期间分析上述图像数据,对存储于上述存储部中的上述多种缩小前图像数据中的按每个上述规定期间根据分析结果确定的上述缩小前图像数据进行上述第2检测处理。
(附记10)
根据附记9所述的成像元件,其中,
上述处理部在进行上述第2检测处理之前,按每个上述规定期间根据上述图像数据分析指示区域图像的对比度,对存储于上述存储部中的上述多种缩小前图像数据中的按每个上述规定期间根据上述分析结果确定的上述缩小前图像数据进行上述第2检测处理。
(附记11)
根据附记3至10中任一项所述的成像元件,其中,
上述第2检测处理是从由上述缩小前图像数据表示的图像内检测上述特定被摄体图像及表示比上述特定的被摄体小型的被摄体的小型被摄体图像中的至少一个的处理。
(附记12)
根据附记11所述的成像元件,其中,
上述特定被摄体图像是表示脸部的脸部图像,
上述小型被摄体图像是表示瞳孔的瞳孔图像。
(附记13)
根据附记3至12中任一项所述的成像元件,其中,
上述特定被摄体图像是由上述图像数据表示的图像内的表示所指示的移动体的移动体图像。
(附记14)
根据附记3至13中任一项所述的成像元件,其中,
上述缩小前图像数据是显示用图像数据。
(附记15)
根据附记3至14中任一项所述的成像元件,其中,
上述处理部对分辨率不同的多个上述缩小前图像数据,从低分辨率的上述缩小前图像数据到高分辨率的上述缩小前图像数据阶段性地进行上述第2检测处理。
Claims (19)
1.一种摄像装置,其具备:
存储器,存储通过拍摄而得到的图像数据;及
信号处理电路,对所述图像数据进行处理,
所述信号处理电路进行如下处理:
进行缩小所述图像数据的处理,并且进行从由通过缩小所述图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理,
在通过所述第1检测处理未检测到所述特定被摄体图像的情况下,对存储于所述存储器中的缩小前的所述图像数据即缩小前图像数据进行第2检测处理,
对表示部分区域的部分区域图像数据进行所述第2检测处理,所述部分区域是由所述缩小前图像数据表示的图像内的部分区域,且与在进行所述第2检测处理的帧的前一帧中通过所述第1检测处理检测到的所述特定被摄体图像的位置对应。
2.根据权利要求1所述的摄像装置,其中,
所述部分区域是由所述缩小前图像数据表示的图像内的所指示的所述特定的被摄体的区域。
3.根据权利要求1或2所述的摄像装置,其中,
在通过所述第1检测处理检测到所述特定被摄体图像的情况下,所述信号处理电路将所述缩小前图像数据中的表示与所述特定被摄体图像的位置对应的区域的特定被摄体图像区域数据存储于所述存储器。
4.根据权利要求3所述的摄像装置,其中,
在通过所述第1检测处理检测到所述特定被摄体图像的情况下,所述信号处理电路对存储于所述存储器中的所述特定被摄体图像区域数据进行所述第2检测处理。
5.根据权利要求1至4中任一项所述的摄像装置,其中,
所述信号处理电路进行如下处理:
根据所述图像数据生成多种所述缩小前图像数据,
将所生成的所述多种缩小前图像数据按每个规定期间存储于所述存储器。
6.根据权利要求5所述的摄像装置,其中,
所述信号处理电路进行如下处理:
在进行所述第2检测处理之前,按每个所述规定期间分析所述图像数据,
对存储于所述存储器中的所述多种缩小前图像数据中的按每个所述规定期间根据分析结果确定的所述缩小前图像数据进行所述第2检测处理。
7.根据权利要求6所述的摄像装置,其中,
所述信号处理电路进行如下处理:
在进行所述第2检测处理之前,按每个所述规定期间根据所述图像数据分析指示区域图像的对比度,
对存储于所述存储器中的所述多种缩小前图像数据中的按每个所述规定期间根据所述分析结果确定的所述缩小前图像数据进行所述第2检测处理。
8.根据权利要求1、2、4、6、7中任一项所述的摄像装置,其中,
所述第2检测处理是从由所述缩小前图像数据表示的图像内检测所述特定被摄体图像及表示比所述特定的被摄体小型的被摄体的小型被摄体图像中的至少一个的处理。
9.根据权利要求8所述的摄像装置,其中,
所述特定被摄体图像是表示脸部的脸部图像,
所述小型被摄体图像是表示瞳孔的瞳孔图像。
10.根据权利要求1至4、6、7、9中任一项所述的摄像装置,其中,
所述特定被摄体图像是由所述图像数据表示的图像内的表示所指示的移动体的移动体图像。
11.根据权利要求1至4、6、7、9中任一项所述的摄像装置,其中,
所述缩小前图像数据是显示用图像数据。
12.根据权利要求1至4、6、7、9中任一项所述的摄像装置,其还包含成像元件,
所述成像元件内置有所述存储器。
13.根据权利要求12所述的摄像装置,其中,
所述成像元件内置有所述信号处理电路。
14.根据权利要求12所述的摄像装置,其中,
所述成像元件是至少将光电转换元件和所述存储器单芯片化而成的成像元件。
15.根据权利要求14所述的摄像装置,其中,
所述成像元件是所述存储器层叠于所述光电转换元件上的层叠型成像元件。
16.根据权利要求1至4、6、7、9、13至15中任一项所述的摄像装置,其还包含处理器,所述处理器进行使显示装置显示所述第1检测处理中的检测结果及所述第2检测处理中的检测结果中的至少一者的控制。
17.根据权利要求1至4、6、7、9、13至15中任一项所述的摄像装置,其中,
所述信号处理电路对分辨率不同的多个所述缩小前图像数据,从低分辨率的所述缩小前图像数据到高分辨率的所述缩小前图像数据阶段性地进行所述第2检测处理。
18.一种摄像装置的工作方法,其包括如下步骤:
将通过拍摄而得到的图像数据存储于存储器;
进行缩小所述图像数据的处理;
进行从由通过缩小所述图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理;
在通过所述第1检测处理未检测到所述特定被摄体图像的情况下,对存储于所述存储器中的缩小前的所述图像数据即缩小前图像数据进行第2检测处理;及
对表示部分区域的部分区域图像数据进行所述第2检测处理,所述部分区域是由所述缩小前图像数据表示的图像内的部分区域,且与在进行所述第2检测处理的帧的前一帧中通过所述第1检测处理检测到的所述特定被摄体图像的位置对应。
19.一种计算机可读取的非暂时性的存储介质,存储有程序,该程序用于使计算机执行包括以下步骤的处理:
将通过拍摄而得到的图像数据存储于存储器;
进行缩小所述图像数据的处理;
进行从由通过缩小所述图像数据而得到的缩小图像数据表示的缩小图像中检测表示特定的被摄体的特定被摄体图像的第1检测处理;及
在通过所述第1检测处理未检测到所述特定被摄体图像的情况下,对存储于所述存储器中的缩小前的所述图像数据即缩小前图像数据进行第2检测处理;及
对表示部分区域的部分区域图像数据进行所述第2检测处理,所述部分区域是由所述缩小前图像数据表示的图像内的部分区域,且与在进行所述第2检测处理的帧的前一帧中通过所述第1检测处理检测到的所述特定被摄体图像的位置对应。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019-148877 | 2019-08-14 | ||
JP2019148877 | 2019-08-14 | ||
PCT/JP2020/025833 WO2021029152A1 (ja) | 2019-08-14 | 2020-07-01 | 撮像装置、撮像装置の作動方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114258672A CN114258672A (zh) | 2022-03-29 |
CN114258672B true CN114258672B (zh) | 2024-05-14 |
Family
ID=74570572
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080056928.5A Active CN114258672B (zh) | 2019-08-14 | 2020-07-01 | 摄像装置、摄像装置的工作方法及存储介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11689816B2 (zh) |
JP (1) | JP7279169B2 (zh) |
CN (1) | CN114258672B (zh) |
WO (1) | WO2021029152A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7132392B1 (ja) * | 2021-05-12 | 2022-09-06 | レノボ・シンガポール・プライベート・リミテッド | 電子機器、及び制御方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008022517A (ja) * | 2006-06-13 | 2008-01-31 | Matsushita Electric Ind Co Ltd | 画像表示装置および画像表示プログラム |
CN101359150A (zh) * | 2007-08-02 | 2009-02-04 | 佳能株式会社 | 摄像设备及其控制方法 |
CN104519271A (zh) * | 2013-09-27 | 2015-04-15 | 索尼公司 | 图像处理设备和方法和程序 |
JP2016219949A (ja) * | 2015-05-18 | 2016-12-22 | キヤノン株式会社 | 撮像装置、その制御方法、および制御プログラム |
JP2018056944A (ja) * | 2016-09-30 | 2018-04-05 | 株式会社ニコン | 撮像装置および撮像素子 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8081252B2 (en) | 2006-06-13 | 2011-12-20 | Panasonic Corporation | Image displaying apparatus |
JP2008109485A (ja) * | 2006-10-26 | 2008-05-08 | Fujifilm Corp | 撮像装置及び撮像制御方法 |
JP5129683B2 (ja) * | 2008-08-05 | 2013-01-30 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP4702418B2 (ja) * | 2008-09-09 | 2011-06-15 | カシオ計算機株式会社 | 撮影装置、画像領域の存否判定方法及びプログラム |
JP5306106B2 (ja) * | 2009-08-19 | 2013-10-02 | キヤノン株式会社 | 画像認識装置及び画像認識方法 |
US9082235B2 (en) * | 2011-07-12 | 2015-07-14 | Microsoft Technology Licensing, Llc | Using facial data for device authentication or subject identification |
US10440252B2 (en) * | 2013-09-24 | 2019-10-08 | Sony Corporation | Apparatus and imaging method for setting a target of an image |
TWI521473B (zh) * | 2014-03-19 | 2016-02-11 | 晶睿通訊股份有限公司 | 影像分析裝置、方法及電腦可讀取媒體 |
KR20160050755A (ko) * | 2014-10-31 | 2016-05-11 | 삼성전자주식회사 | 전자 장치 및 그의 홍채 인식 방법 |
US20190034734A1 (en) * | 2017-07-28 | 2019-01-31 | Qualcomm Incorporated | Object classification using machine learning and object tracking |
EP3502954A1 (en) * | 2017-12-21 | 2019-06-26 | Vestel Elektronik Sanayi ve Ticaret A.S. | Method of facial recognition for authenticating user of electronic device and electronic device |
US10699126B2 (en) * | 2018-01-09 | 2020-06-30 | Qualcomm Incorporated | Adaptive object detection and recognition |
CN113287295B (zh) * | 2018-12-26 | 2023-07-25 | 富士胶片株式会社 | 摄像元件、摄像装置、摄像元件的工作方法及存储介质 |
CN113228612A (zh) * | 2018-12-26 | 2021-08-06 | 富士胶片株式会社 | 摄像装置、摄像装置的图像数据处理方法及程序 |
JP7362748B2 (ja) * | 2019-08-28 | 2023-10-17 | 富士フイルム株式会社 | 撮像素子、撮像装置、撮像素子の作動方法、及びプログラム |
WO2021039114A1 (ja) * | 2019-08-29 | 2021-03-04 | 富士フイルム株式会社 | 撮像装置、撮像装置の動作方法、及びプログラム |
CN114830626A (zh) * | 2019-12-19 | 2022-07-29 | 富士胶片株式会社 | 摄像装置、摄像装置的工作方法、程序及摄像*** |
CN112818933A (zh) * | 2021-02-26 | 2021-05-18 | 北京市商汤科技开发有限公司 | 目标对象的识别处理方法、装置、设备及介质 |
JP7132392B1 (ja) * | 2021-05-12 | 2022-09-06 | レノボ・シンガポール・プライベート・リミテッド | 電子機器、及び制御方法 |
JP7218397B2 (ja) * | 2021-05-12 | 2023-02-06 | レノボ・シンガポール・プライベート・リミテッド | 電子機器、及び制御方法 |
-
2020
- 2020-07-01 CN CN202080056928.5A patent/CN114258672B/zh active Active
- 2020-07-01 JP JP2021539834A patent/JP7279169B2/ja active Active
- 2020-07-01 WO PCT/JP2020/025833 patent/WO2021029152A1/ja active Application Filing
-
2022
- 2022-02-08 US US17/666,591 patent/US11689816B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008022517A (ja) * | 2006-06-13 | 2008-01-31 | Matsushita Electric Ind Co Ltd | 画像表示装置および画像表示プログラム |
CN101359150A (zh) * | 2007-08-02 | 2009-02-04 | 佳能株式会社 | 摄像设备及其控制方法 |
CN104519271A (zh) * | 2013-09-27 | 2015-04-15 | 索尼公司 | 图像处理设备和方法和程序 |
JP2016219949A (ja) * | 2015-05-18 | 2016-12-22 | キヤノン株式会社 | 撮像装置、その制御方法、および制御プログラム |
JP2018056944A (ja) * | 2016-09-30 | 2018-04-05 | 株式会社ニコン | 撮像装置および撮像素子 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2021029152A1 (zh) | 2021-02-18 |
CN114258672A (zh) | 2022-03-29 |
US11689816B2 (en) | 2023-06-27 |
JP7279169B2 (ja) | 2023-05-22 |
WO2021029152A1 (ja) | 2021-02-18 |
US20220166923A1 (en) | 2022-05-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8810664B2 (en) | Imaging apparatus, imaging method and computer program | |
JP6808993B2 (ja) | 撮像素子、電子機器、撮像方法、およびプログラム | |
US20240031706A1 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
CN104170369B (zh) | 用于捕获图像的方法、设备和计算机可读存储介质 | |
CN114258672B (zh) | 摄像装置、摄像装置的工作方法及存储介质 | |
US20240080410A1 (en) | Imaging apparatus, image data processing method of imaging apparatus, and program | |
CN113287295B (zh) | 摄像元件、摄像装置、摄像元件的工作方法及存储介质 | |
JP2023169254A (ja) | 撮像素子、撮像素子の作動方法、プログラム、及び撮像システム | |
CN112640429B (zh) | 成像元件、摄像装置、图像数据处理方法及存储介质 | |
US11910115B2 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
US9906752B2 (en) | Imaging apparatus and control method thereof | |
CN113454977B (zh) | 成像元件、摄像装置、成像元件的工作方法及计算机可读存储介质 | |
CN114270800A (zh) | 摄像装置、摄像装置的动作方法及程序 | |
JPWO2021029152A5 (zh) | ||
CN112640430B (zh) | 成像元件、摄像装置、图像数据处理方法及存储介质 | |
US20220141420A1 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
JP6889622B2 (ja) | 画像処理装置およびその制御方法ならびにプログラム | |
CN112740662A (zh) | 成像元件、摄像装置、图像数据输出方法及程序 | |
KR101700356B1 (ko) | 디지털 촬영 장치 및 촬영 방법 | |
CN112640430A (zh) | 成像元件、摄像装置、图像数据处理方法及程序 | |
CN116458168A (zh) | 检测装置、摄像装置、检测方法及程序 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |