CN104702852A - 用于高动态范围成像的使用照相机阵列的差异估计的技术 - Google Patents
用于高动态范围成像的使用照相机阵列的差异估计的技术 Download PDFInfo
- Publication number
- CN104702852A CN104702852A CN201410690898.XA CN201410690898A CN104702852A CN 104702852 A CN104702852 A CN 104702852A CN 201410690898 A CN201410690898 A CN 201410690898A CN 104702852 A CN104702852 A CN 104702852A
- Authority
- CN
- China
- Prior art keywords
- image
- camera
- pattern matrix
- normalization
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 69
- 238000000034 method Methods 0.000 title claims abstract description 68
- 238000003491 array Methods 0.000 title abstract 2
- 239000011159 matrix material Substances 0.000 claims description 142
- 238000010606 normalization Methods 0.000 claims description 61
- 238000006073 displacement reaction Methods 0.000 claims description 35
- 230000004044 response Effects 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 description 33
- 238000005516 engineering process Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 16
- 238000004422 calculation algorithm Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 10
- 230000033001 locomotion Effects 0.000 description 10
- 230000008878 coupling Effects 0.000 description 9
- 238000010168 coupling process Methods 0.000 description 9
- 238000005859 coupling reaction Methods 0.000 description 9
- 229920006395 saturated elastomer Polymers 0.000 description 8
- 238000003860 storage Methods 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 230000008859 change Effects 0.000 description 6
- 238000009826 distribution Methods 0.000 description 5
- 230000003068 static effect Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 229920000642 polymer Polymers 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 210000000707 wrist Anatomy 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 239000003990 capacitor Substances 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 201000006549 dyspepsia Diseases 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000013011 mating Effects 0.000 description 1
- 230000007334 memory performance Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000008521 reorganization Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 229910052814 silicon oxide Inorganic materials 0.000 description 1
- -1 silicon oxide nitride Chemical class 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20216—Image averaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20228—Disparity calculation for image-based rendering
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
本发明涉及用于高动态范围成像的使用照相机阵列的差异估计的技术。描述了用于照相机阵列的改善的聚焦的技术。在一个实施例中,***可以包括:处理器电路,照相机阵列,以及,用于在所述处理器电路上执行的成像管理模块,用于从照相机阵列捕捉图像阵列,所述图像阵列包括分别利用曝光参数的第一和第二值拍摄的第一和第二图像,所述第一值不同于所述第二值,估计噪声水平,基于相应的图像的噪声水平规一化每一图像的强度以产生相应的规一化的图像,标识所述相应的规一化的图像中的每一图像中的候选差异,为每一个候选差异估计高动态范围(HDR)图像小块,以及,从HDR图像小块和目标函数计算误差,以产生差异估计。描述并要求保护了其他实施例。
Description
背景技术
在图像获取和处理领域,可能需要基于由二维照相机阵列捕捉到的一组图像来生成合成图像。生成这样的合成图像可涉及组合捕获图像中的某些或全部。照相机阵列的用户常常可能希望在这样的合成图像中,对应于特定可视特征(例如,诸如脸)的区域在动态范围内。聚焦特定合成图像可涉及部分地基于可视特征相对于照相机阵列的深度,变换捕获图像中的某些或全部。在某些情况下,这样的可视特征的深度可能不是已知的,且可能不希望要求用户人工地确定并输入该深度。如此,可能需要用于聚焦合成图像的一个区域而不要求了解聚焦深度的技术。
附图说明
图1示出了设备的一个实施例和第一***的一个实施例。
图2A示出了第一照相机阵列的一个实施例。
图2B示出了第一照相机阵列的第二实施例。
图3A-3E一起示出了捕获图像阵列的一个实施例。
图4A示出了差异图。
图4B示出了差异图的一个实施例。
图5示出了第二照相机阵列的一个实施例。
图6示出了第一逻辑流的一个实施例。
图7示出了第二***的一个实施例。
图8示出第三***的一个实施例。
图9示出设备的一个实施例。
具体实施方式
各实施例可以一般涉及照相机阵列的改善的合成动态范围的技术。在一个实施例中,例如,设备可以包括处理器电路和成像管理模块,成像管理模块可以由处理器电路操作,以对于包括多个图像的图像阵列的多个候选位移因子中的每一个,确定对应的锐度,确定最佳位移因子,该最佳位移因子包括对应于最大化的锐度的候选位移因子,并基于最佳位移因子,变换图像阵列。如此,可以生成合成图像,其中,HDR图像的一个或多个特定期望的区域在动态范围内,例如,没有欠饱和或过饱和。可以描述并要求保护其他实施例。
多个实施例可包括一个或多个元件。元件可以包括被配置为执行某些操作的任何结构。每个元件可以按一组给定设计参数或性能约束的需要而被实现为硬件、软件或其任意组合。尽管作为示例可按照某一拓扑的有限数量的元件来描述实施例,但该实施例可包括按照为给定实现所需要的替换拓扑的更多或更少的元件。值得注意的是,对“一个实施例”或“实施例”的任何提及都表示结合该实施例描述的特定特征、结构或特性被包括在至少一个实施例中。在整个说明书中的不同位置出现短语“在一个实施例中”或“在某些实施例中,”以及“在各实施例中”不一定都是指同一个实施例。
图1示出了设备100的框图。如图1所示,设备100包括多个元件,包括处理器电路102、存储器单元104,以及成像管理模块106。然而,各实施例不仅限于此图中所示出的元件的类型、数量或布局。
在各实施例中,设备100可以包括处理器电路102。处理器电路102可以使用任何处理器或逻辑器件,诸如复杂指令集计算机(CISC)微处理器、精简指令集计算(RISC)微处理器、超长指令字(VLIW)微处理器、x86指令集兼容的处理器、实现指令集的组合的处理器、多核处理器,诸如双核处理器或双核移动处理器,或任何其他微处理器或中央处理单元(CPU),来实现。处理器电路102也可被实现为专用处理器,诸如控制器、微控制器、嵌入式处理器、芯片多处理器(CMP)、协处理器、数字信号处理器(DSP)、网络处理器、媒体处理器、输入/输出(I/O)处理器、媒体存取控制(MAC)处理器、无线基带处理器、专用集成电路(ASIC)、场可编程门阵列(FPGA)、可编程逻辑器件(PLD)等。例如,在一实施例中,处理器电路102可被实现为通用处理器,诸如由美国加州圣克拉拉的公司制造的处理器。这些实施例不限于这种情境。
在某些实施例中,设备100可以包括存储器单元104或被配置为可通信地与存储器单元104耦合。存储器单元104可使用能够储存数据的任何机器可读或计算机可读介质来实现,包括易失性和非易失性存储器。例如,存储器单元104可包括只读存储器(ROM)、随机存取存储器(RAM)、动态RAM(DRAM)、双数据率DRAM(DDRAM)、同步DRAM(SDRAM)、静态RAM(SRAM)、可编程ROM(PROM)、可擦除可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)、闪存、诸如铁电聚合物存储器之类的聚合物存储器、奥弗辛斯基(ovonic)存储器、相变或铁电存储器、硅氧化氮氧化硅(SONOS)存储器、磁卡或光卡、或任何其它类型的适于储存信息的介质。值得注意的是,存储器单元104的某部分或全部可被包括在与处理器102相同的集成电路上,或者存储器单元104的某部分或全部可被置于集成电路或在处理器电路102的集成电路之外的其它介质(例如硬盘驱动器)上。虽然存储器单元104包括在图1中的设备100内,在某些实施例中,存储器单元104可以设备100外部的。这些实施例不限于这种情境。
在各实施例中,设备100可以包括成像管理模块106。成像管理模块106可以包括可操作以捕捉、处理、编辑、压缩、存储、打印,和/或显示一个或多个图像的逻辑、算法,和/或指令。在某些实施例中,成像管理模块106可以包括实现为成像应用程序或操作***内的软件的编程例程、函数,和/或进程。在各其他实施例中成像管理模块106可以实现为独立芯片或集成电路,或作为包括在处理器电路102内或图形芯片或其他集成电路或芯片内的电路。这些实施例不限于这种情境。
图1还示出了***140的框图。***140可以包括设备100中的如前所述的元件中的任何一种。***140还可以进一步包括显示器142。显示器142可以包括能够显示从处理器电路102接收到的信息的任何显示设备。显示器142的示例可以包括电视机、监视器、投影仪,以及计算机屏幕。在一个实施例中,例如,显示器142可以由液晶显示器(LCD)、发光二极管(LED)显示器,或其他类型的合适的视觉接口来实现。显示器142可以包括,例如,触敏彩色显示屏幕。在各实现中,显示器142可以包括包含嵌入的晶体管的一个或多个薄膜晶体管(TFT)LCD。在各实施例中,显示器142可以被配置为显示可操作以直接或间接地控制成像管理模块106的图形用户界面。例如,在某些实施例中,显示器142可以被配置为显示由实现成像管理模块106的成像应用程序所生成的图形用户界面。在这样的实施例中,图形用户界面可以实现成像管理模块106的、处理、编辑、压缩、存储、打印,和/或显示一个或多个图像的操作。然而,各实施例不仅限于这些示例。
在某些实施例中,设备100和/或***140可以可配置以可通信地与照相机阵列150耦合。照相机阵列150可以包括多个照相机150-n。值得注意的是,如此处所使用的“n”以及类似的符号旨在作为表示任何正整数的变量。如此,例如,如果实现方式设置n=4的值,那么,完整的一组照相机150-n可以包括照相机150-1,150-2,150-3,以及150-4。值得注意的是,虽然照相机阵列150在图1中被示为设备100和***140外部的,但是,在某些实施例中,照相机阵列150可以包括在设备100和/或***140内。这些实施例不限于这种情境。
多个照相机的阵列可以从以已知配置排列的不同的照相机位置获取三维(“3D”)场景。例如,N个照相机可以排列为一行N个元件,其中,N是正整数。在其他实施例中,N个照相机可以排列为一列M个元件,其中,M是正整数。在其他实施例中,MxN的多个照相机可以排列为M行和N列的二维阵列。
在某些实施例中,可以通过以平铺模式移动子阵列并随每一移动捕捉图像,模拟完全MxN阵列。子阵列可以是平铺完全MxN阵列的矩形、三角形、六边形等等形状。例如,可以通过移动Mx1列N次,或通过移动1xN行M次,或通过移动单一照相机MxN次,模拟MxN阵列。对于这样的实施例,在拍摄完整的一组MxN图像所需的时间过程中,要拍摄的场景应该基本上是静态的。
在各实施例中,照相机阵列150可以包括二维(2D)照相机阵列。2D照相机阵列可以包括这样的照相机阵列,其中,照相机的光心位于或大致位于三维空间中的公共面中,并在它们的公共面内排列为或大致排列为多行和列。值得注意的是,由于2D照相机阵列内的照相机的光心可以大致位于但不一定准确地位于公共面中,因此,特定2D照相机阵列中的光心的实际布局可以是三维的。这些实施例不限于这种情境。
图2A示出了照相机阵列200的示例。如图2A所示,照相机阵列200包括九个照相机,标记为202-1到202-9,朝向如其中包括的虚线箭头所示出的。照相机阵列200中的每一照相机202-n都包括相应的光心204-n。例如,照相机202-1包括光心204-1。各实施例不仅限于此示例。
图2B演示了图2A的照相机阵列200可以包括2D照相机阵列。图2B包括图2A的照相机阵列200中的照相机202-n的光心204-n。如图2B所示,这些光心204-n位于或大致位于公共面210中,并驻留或大致驻留在公共面210内的相应的行R1,R2,以及R3以及列C1,C2,以及C3中。例如,光心204-1,204-4,以及204-7全部驻留或大致驻留在在列C1中,而光心204-7,204-8,以及204-9全部驻留或大致驻留在行R3中。各实施例不仅限于这些示例。值得注意的是,尽管在图2A和2B的示例2D照相机阵列中是排列为三行和三列的九个照相机202-n,但是,包括较少或较大数量的照相机的2D照相机阵列以及对应的光心,行,以及列都是可以的,这些实施例不限于这种情境。
照相机阵列的一个重要应用在于计算出合成图像,其具有场景的动态范围和分辨率的改善的组合。改善的组合对于感知或解析具有高动态范围的图像中的图像细节是有用的。动态范围和分辨率的改善的组合的计算开始于标识和估计来自照相机阵列的图像中的对应的像素之间的差异(disparity)。场景的一对图像之间的差异被称为图像对中的场景的对应的点之间的差异。可以扩展差异的计算以包括一对以上的图像。
传统的方法假定阵列中的全部照相机都使用相同曝光参数的值,例如,光圈数刻度、快门速度,和/或增益的值,对场景进行成像。然而,整个场景可能包括非常亮的区域及其他非常暗的区域。这会产生整个场景上的高动态范围(“HDR”)。例如,在阳光照射的窗口前面并且被其从背后照亮的内景产生HDR图像。常规传感器阵列不能在捕捉场景的整个动态范围的同时具备充分小的强度分辨率以解析亮的区域或暗的区域内的轻微的强度差异。因此,亮的区域看起来像褪了色,且/或较暗的区域简单地看上去是黑的。
根据本发明的各实施例通过使用照相机阵列,解决在HDR场景上提供足够的分辨率的问题。阵列内的不同的照相机可以使用为捕捉场景的不同的部分而定制的曝光参数的不同的值。某些照相机可以具有针对场景的亮区域定制的设置,而其他照相机可以具有针对场景的暗的区域定制的设置。可以使用所估计的差异,组合来自这些多个照相机的图像,以产生比来自照相机阵列中的任何一个照相机的单一图像具有更高动态范围的图像。
传统的差异估计技术包括多基线立体像(multiple-baseline stereo“MBS”)进程,该进程使用图像小块之间的差值平方和(“SSD”)或绝对差值的总和(“SAD”)。然而,当照相机使用曝光参数的不同的值时,这样的进程表现不佳。这是因为,阵列中的不同的照相机所使用的曝光参数的不同的值在某些图像中导致欠饱和和过饱和的区域以及这些图像中程度变化的噪声。当来自用于计算SSD的参考照相机的图像遭受饱和困扰时,饱和进一步导致问题。使用曝光时间/增益未知的静态场景的图像的多曝光立体像是已知的,其中,使用估计差异的迭代技术。可以通过使用不同的图像作为参考,多次运行差异估计进程,来解决饱和。然而,这样的进程常常计算量很大。
根据本发明的各实施例提供从照相机阵列估计差异的进程,其中,阵列中不同的照相机的曝光参数的值不一定相同。进程的各实施例解决饱和和噪声变化二者。各实施例采取使用照相机阵列的任何场景的时间同步的捕捉,从而曝光参数的值是已知的。各实施例具有在计算方面高效的优点,因为进程不是迭代的。
一些实施例可以使用图像调整(rectification),以便简化图像间像素位置对应关系的确定。图像调整涉及变换一个或多个图像,以便对于由第一照相机捕捉到的调整的第一图像中的特定像素,搜索由第二照相机捕捉到的对应的调整的第二图像中的对应的像素可以局限于调整的第二图像中与该像素出现在调整的第一图像中的行或列相同的像素行或像素列。来自照相机阵列150的已知几何形状的一组调整的图像使用{x(k),k<=N}来表示,其中,x(k)表示来自照相机150-k的图像。假设对应的曝光参数值是已知的,在N照相机之间都全部相同。各实施例提供非迭代的并且在计算方面有效的从这些具有变化的曝光的图像估计差异的方式。
在某些实施例中,照相机阵列150可以包括五个照相机的一行,产生利用变化的曝光参数的值捕捉到的五个图像。在图3A-3E中示出了输入图像,在图4A-4B中示出了以两种方式计算出的估计的差异。此处所描述的各实施例可以产生比已知技术更密地匹配的差异图。
返回到图1,在操作中,诸如图2A和2B中所示出的2D照相机阵列200之类的照相机阵列150可以捕捉多个图像152-p,它们可以被视为包括捕获图像阵列152。包括由2D照相机阵列150捕获图像152-p的捕获图像阵列152可以包括二维捕获图像阵列。在某些实施例中,捕获图像阵列152可以包括若干个捕获图像152-p,其数量等于照相机阵列150中的照相机150-n的数量,捕获图像152-p中的每一个都可以包括由照相机150-n中的对应的照相机捕获图像。这些实施例不限于这种情境。
图3A-3E示出了从照相机阵列捕捉的一组捕获图像的至少一部分,具体而言,照相机阵列被配置为5x1阵列,例如,一行或一列的五个照相机元件。从图3A进行到图3E,每一连续的图像都是使用按每一图像以2为因子(即,一光圈数刻度)增大的曝光时间捕捉到的。在图3A中不可辨别的暗的区域(例如,装运箱的盖子)在图3E中可清晰辨别。相反,在图3E中不可辨别的亮区域(例如,窗户外面的)在图3A中可清晰辨别。图3A-3E的捕获图像对应于图1的捕获图像152-p。各实施例不仅限于此示例。
返回到图1,在各实施例中,可能需要组合包括在诸如捕获图像152-p(例如,图3A-3E)之类的捕获图像内的信息,以基于那些捕获图像生成合成图像160。例如,可能需要通过组合包括在那些捕获图像152-p内的信息,生成具有相对于捕获图像阵列152中的任何或全部捕获图像152-p的那些特性而言得到增强的,改善的,和/或所期望的特性的合成图像160。在某些实施例中,基于捕获图像152-p生成合成图像160可以包括确定各种捕获图像152-p的对应的位置,确定那些位置的描述性的属性,并基于捕获图像152-p中的对应的位置的描述性的属性,计算合成图像中的位置的描述性的属性。相对于任何两个特定的图像,当第一图像内的位置和第二图像内的位置包括描述三维空间中的相同或大致相同点,诸如对象、特征、表面、人、风景或其他物理实体上的点的可视信息或由照相机阵列150捕捉到的视觉效果时,可以说两个位置彼此对应。例如,相对于图3A-3E的捕获图像,每一图像中的盖子边角的各位置被认为彼此对应,因为每一位置都描述图3A-3E的其相应的捕获图像中相同点。各实施例不仅限于此示例。
在各实施例中,确定捕获图像阵列152中的捕获图像152-p中的对应的位置可以包括根据一个或多个匹配算法在那些捕获图像152-p内搜索。在某些情况下,搜索一组捕获图像152-p内的对应的位置可能计算量很大,因为对于特定捕获图像152-p中的每一个位置,可能需要在其他捕获图像152-p中的位置的水平和垂直范围上都搜索,以便定位对应的位置。这可能是当捕获图像152-p中的对应的位置没有对准时的情况。例如,在一个类似图2B的3x3的捕获图像阵列中,搜索捕获图像内的对应的位置可能计算量很大,因为那些对应的位置在水平或垂直方向上都没有对准。更具体而言,例如,在一个类似图2B的3x3的捕获图像阵列中,第2位置,第5位置,以及第8位置驻留在它们的相应的捕获图像内的不同水平坐标处,尽管实际上它们的相应的捕获图像驻留在该3x3捕获图像阵列内的相同列中。各实施例不仅限于此示例。
返回到图1,为了降低与搜索一组捕获图像152-p内的对应的位置相关联的计算成本,设备100和/或***140,和/或设备100和/或***140外部的一个或多个元件可操作以对捕获图像阵列152执行图像调整,以获得包括调整的图像154-q的调整的图像阵列154。图像调整涉及变换一个或多个图像,以便对于由第一照相机捕捉到的调整的第一图像中的特定像素,搜索由第二照相机捕捉到的对应的调整的第二图像中的对应的像素可以局限于调整的第二图像的与该像素出现在调整的第一图像中的行或列相同的像素行或像素列。可以生成调整的图像154-q,以便调整的图像阵列154内各调整的图像154-q的共享共同行的各对应位置在它们的相应的调整的图像154-q内共享共同的水平坐标,调整的图像阵列154内各调整的图像154-q的共享共同列的各对应位置在它们的相应的调整的图像154-q内共享共同的垂直坐标。在某些实施例中,对诸如捕获图像阵列152之类的捕获图像阵列执行图像调整以获得诸如调整的图像阵列154之类的调整的图像阵列可以包括标识出基础照相机阵列150的公共面,基于该公共面,定义照相机阵列150的合成朝向,基于捕捉照相机的朝向与照相机阵列150的朝向的偏差,公共面内的捕捉照相机的位置,和/或捕捉照相机的固有的参数,旋转变换捕获图像阵列152中的捕获图像152-p。在各实施例中,设备100和/或***140,和/或设备100和/或***140外部的一个或多个元件可操作以通过基于捕获图像阵列152生成调整的图像阵列154,然后,基于调整的图像阵列154生成合成图像阵列160,来基于捕获图像阵列152生成合成图像160。这些实施例不限于这种情境。
返回到图1,如上文所指出的,相对于捕获图像阵列152,可能需要生成具有相对于捕获图像阵列152中的任何或全部捕获图像152-p和/或调整的图像阵列154中的调整的图像154-q的那些特性而言得到增强的,改善的,和/或所期望的特性的合成图像160。在某些实施例中,例如,可能需要生成其中特定HDR区域161在动态范围内的合成图像160。在各实施例中,这样的HDR区域161可以对应于一个或多个捕获图像152-p和/或调整的图像154-q中的感兴趣的一个或多个位置,这些位置又可以对应于一个或多个对象、特征、表面、人,或其他物理实体。感兴趣的位置所对应的对象、特征、表面、人,或其他物理实体可以被称为主要特征。在某些这样的实施例中,特定捕获图像152-p或调整的图像154-q可以包括参考图像155,可以在该参考图像155内选择感兴趣位置157,可能期望生成合成图像160,其中,包含对应于参考图像155中的感兴趣位置157的主要特征的HDR区域161在动态范围内。例如,在一个类似图2B的3x3的捕获图像阵列中,第5捕获图像可以包括参考图像155,第5位置可以被选为感兴趣的位置157。如此,可能需要生成其中包含欠饱和的或过饱和的区域的HDR区域161在动态范围内的合成图像160。实施例不仅限于此示例。
在各实施例中,为了生成其中对应于特定感兴趣位置的HDR区域161在动态范围内的合成图像160,成像管理模块106可操作,以根据HDR深度(其对应于感兴趣位置相对照相机阵列150的相关联深度)转换调整的图像阵列154。
图4A包括使用如本领域内已知的多基线立体像(“MBS”)进程的差异图。图4B包括根据一实施例的差异图。图4A和图4B表示差异,垂直标度示出了以像素为单位的差异。对应于较大的差异的区域对应于场景中的更靠近照相机的对象。黑像素对应于其中差异估计不可靠的区域。图4B具有较少的黑像素,差异在褶皱,打开的箱子的盖子,椅子等等部分更准确。
图5包括照相机阵列500的示例实施例,其中,示出了利用并非所有的都利用相同曝光参数值操作的照相机阵列捕捉场景的情况。如图5所示,照相机阵列500包括照相机502-1、502-2、502-3,以及502-4。每一照相机502-n都包括相应的光心504-n和图像平面506-n。虽然在图5中只示出了这四个照相机502-n,但是,诸如照相机阵列500之类的照相机阵列可以包括额外的照相机502-n,这些实施例不限于这种情境。聚焦深度509包括照相机阵列500(按照照相机502-1的光心508-1来定义)和参考点510之间的距离。连接参考点与照相机502-n的光心504-n的各线在相应的位置508-n和图像平面506-n相交。如此,可以说位置508-1、508-2、508-3,以及508-4彼此对应。在此示例中,选择照相机502-1作为参考照相机,选择照相机502-1的图像平面506-1中的位置508-1作为参考位置。在每一个其他照相机502-n的图像平面506-n中,在位置508-n和位置514-n之间存在间隔512-n,位置514-n驻留在图像平面506-n内与图像平面506-1内的参考位置508-1相同的坐标处。例如,在图像平面506-3中,间隔512-3分隔位置508-3(对应于图像平面506-1中的参考位置508-1)与位置514-3,位置514-3驻留在图像平面506-3内与图像平面506-1内的参考位置508-1相同的坐标处。
返回到图1,如上文所指出的,在各实施例中,可能需要生成合成图像160,其中包含对应于感兴趣位置的主要特征的HDR区域161在动态范围内,而成像管理模块106可操作,以根据对应于主要特征的HDR范围,变换调整的图像阵列154。然而,在某些实施例中,主要特征的相关联的深度可能是未知的,而且/或者可能不期望要求主要特征的相关联的深度被确定和/或输入到设备100和/或***140中。例如,照相机阵列150的用户可能期望专注于包括对象的主要特征,但是,可能无法知道或测量该对象相对于照相机阵列150的相关联的深度。
在各实施例中,设备100和/或***140可操作以生成其中包含由参考图像155中的相关的感兴趣位置157所标识的主要特征的HDR区域161在动态范围内的合成图像160,而无需要求直接确定主要特征的相关联的深度。更具体而言,在某些实施例中,代替要求直接确定由指定的感兴趣位置所标识的主要特征的相关联的深度,成像管理模块106可以评估水平位移因子158-1、垂直位移因子158-2、和/或一致位移因子158-3,该评估基于它们在包含主要特征的合成图像160中的焦点区域161中产生的锐度的级别而进行。虽然这些各种候选值可以对应于各种相关联的深度,但是,可不要求对那些相关联的深度的实际计算。
在一般操作中,设备100和/或***140可操作以接收由照相机阵列150-n捕获图像阵列152,和/或可操作以基于这样的捕获图像阵列154,生成调整的图像阵列154,或接收由一个或多个外部元件基于这样的捕获图像阵列152所生成的调整的图像阵列154。在各实施例中,设备100和/或***140可操作以向照相机阵列150发送指令,以捕捉捕获图像阵列152中的图像152-p,并可以响应于指令,接收捕获图像阵列152。这些实施例不限于这种情境。
在某些实施例中,成像管理模块106可操作以标识和/或定义捕获图像阵列152内的特定捕获图像152-p和/或调整的图像阵列154内的特定调整的图像154-q作为参考图像155。虽然参考图像155包括图1的示例中的捕获图像阵列152中的捕获图像152-p,但是,在各实施例中,参考图像155可以包括调整的图像154-q。在某些实施例中,特定照相机150-n可以被定义为参考照相机,以便每当接收到捕获图像阵列152和/或调整的图像阵列154时,对应于该照相机150-n的捕获图像152-p和/或调整的图像154-q将被定义为参考图像155。在各其他实施例中,参考图像155可以不包括捕获图像152-p或调整的图像154-q中的任何一个,而是由设备100和/或***140和/或一个或多个外部元件所生成的不同的图像。例如,在某些实施例中,成像管理模块106可操作,以生成其中包含主要特征的区域不一定在动态范围内的初步的合成图像160,此初步合成图像160可以包括参考图像155。这些实施例不限于这种情境。
在各实施例中,设备100和/或***140可以标识参考图像155内的感兴趣的位置157。在某些这样的实施例中,设备100和/或***140可以接收对感兴趣位置157的选择,并可以基于接收到的选择,标识出感兴趣位置157。例如,在各实施例中,设备100和/或***140可以在显示器142上呈现参考图像155,并通过用户界面接收对参考图像155内的感兴趣的位置157的选择。在各种这样的示例实施例中,用户可以使用鼠标、操纵杆、触摸板、键盘,或其他输入设备来通过用户界面选择参考图像155中的感兴趣的位置157。在某些实施例中,并非接收用户对感兴趣的位置157的选择,成像管理模块106可操作以使用一个或多个算法、子例程、函数,或操作来标识感兴趣的位置157。例如,在一个类似图2B的3x3的捕获图像阵列中,如果第5捕获图像包括参考图像155,则成像管理模块106可操作以使用一个或多个算法来判断其中的五角星是主要特征,并可以相应地将第5位置标识为感兴趣的位置157。这些实施例不限于这种情境。
在各实施例中,成像管理模块106可操作以确定对应于感兴趣的位置157的特征窗口159。在某些实施例中,确定特征窗口159可以包括确定定义出特征窗口159的特征窗口边界。特征窗口边界可以定义参考图像155内的包含对应于感兴趣的位置157的主要特征的区域,而特征窗口159可以包括参考图像155内的该区域。在各实施例中,确定特征窗口159可以包括确定特征窗口位置159-1和特征窗口大小159-2。在某些实施例中,特征窗口位置159-1可以包括特征窗口159的中心驻留在参考图像155内的位置。在各实施例中,特征窗口位置159-1可以被定义为与感兴趣的位置157相同,而在其他实施例中,特征窗口位置159-1可以基于对应于感兴趣的位置157的主要特征的属性来确定,并可以不与感兴趣的位置157相同。这些实施例不限于这种情境。
在某些实施例中,特征窗口大小159-2可以包括定义特征窗口159的高度和宽度的水平和垂直尺寸。在各实施例中,特征窗口159的高度和/或宽度可以以像素为单位来定义。在某些实施例中,特征窗口大小159-2可以包括将单一值指定为特征窗口159的高度和宽度二者的大小参数159-2-1。在各种这样的实施例中,特征窗口159可以包括参考图像155中的正方形区域。在某些其他实施例中,特征窗口大小159-2可以包括指定特征窗口159的宽度的宽度参数159-2-2和指定特征窗口159的高度的高度参数159-2-3,特征窗口159的宽度可以不等于特征窗口159的高度。这些实施例不限于这种情境。
返回到图1,在各实施例中,一旦确定了参考图像155中的特征窗口159,成像管理模块106可操作以基于特征窗口159,确定对应于参考图像155的捕获图像阵列152或调整的图像阵列154的一个或多个最佳位移因子158-s。在某些实施例中,成像管理模块106可操作以根据二次迭代过程来确定一个或多个最佳位移因子158-s。在二次迭代过程的每一迭代中,可以评估一个或多个候选位移因子158-s。在二次迭代过程的第一迭代中,可以根据一个或多个最小位移因子,确定一个或多个候选位移因子158-s的值。例如,在第一迭代中,可以评估包括值零的候选位移因子158-s。在每一随后的迭代中,可以增大一个或多个候选位移因子158-s,并可以评估增大的值。在各实施例中,一个或多个候选位移因子158-s可以包括整数的像素。在某些实施例中,在每一迭代中,一个或多个候选位移因子158-s可以增大达整数的像素。在各种这样的实施例中,在每一迭代中,一个或多个候选位移因子158-s可以增大一像素。在其中评估包括值零的候选位移因子158-s的初始迭代的特定示例中,候选位移因子158-s可以增大到值一,并且可以评估包括该值一的增大的候选位移因子158-s。在某些其他实施例中,子整数的像素可以和一个或多个像素内插法技术一起使用。这些实施例不限于这种情境。
在各实施例中,一个或多个最佳位移因子158-s可以包括位移因子158-s,当其应用于调整的图像阵列154时,位移因子158-s导致包括生成合成图像160,该图像160包括表现出最大化级别的聚焦和/或锐度的HDR区域161。对于给定组的候选位移因子158-s,对应于表现出最大化级别的聚焦和/或锐度的HDR区域的一个或多个位移因子158-s可以包括该组候选位移因子158-s之中的导致相对于该组中的全部候选位移因子158-s的最高级别的聚焦和/或锐度的一个或多个位移因子。在某些实施例中,在二次迭代过程的每一迭代中对一个或多个候选位移因子158-s的评估可以包括确定根据那些一个或多个候选位移因子158-s所生成的预期的合成图像160的HDR区域161的聚焦和/或锐度的级别。在各实施例中,执行此确定可能不需要整个预期的合成图像160的实际生成,相反,可以包括只生成预期的合成图像160驻留在焦点区域161内的部分。在某些实施例中,预期的合成图像160的焦点区域161可以由HDR区域边界进行定义,该HDR区域边界定义如果实际生成预期的合成图像160,焦点区域161的什么位置将在预期的合成图像160内。生成预期的合成图像160的驻留在其焦点区域161内的部分的过程可以被称为“生成焦点区域161”,在下文中应该使用此表述。这些实施例不限于这种情境。
在各实施例中,焦点区域161可以由HDR区域边界进行定义,该HDR区域边界对应于定义参考图像155中的特征窗口159的特征窗口边界。更具体而言,在某些实施例中,焦点区域161可以包括合成图像160内的对应于参考图像155中的特征窗口159内的位置和/或像素的位置和/或像素。在各实施例中,可以基于特征窗口边界,确定焦点区域边界。在其中参考图像155包括捕获图像阵列152内的捕获图像152-p或调整的图像阵列154内的调整的图像154-q的各实施例中,each other捕捉到的或调整的图像内的包括对应于根据一个或多个位移因子158-s的特征窗口159内那些位置和/或像素的位置和/或像素的区域可以被称为投影的特征窗口163-t。在某些这样的实施例中,对于任何一个或多个特定位移因子158-s,可以说合成图像160中的焦点区域161对应于在各种捕获图像152-p和/或调整的图像154-q内由那些一个或多个特定位移因子158-s定义的投影的特征窗口163-t。如此,给定一个或多个候选位移因子158-s和参考图像155中的特征窗口159,可以判断一组投影的特征窗口163-t对应于合成图像160中的焦点区域161并对应于参考图像155中的特征窗口159。这些实施例不限于这种情境。
在各实施例中,生成对应于一个或多个候选位移因子158-s的焦点区域161可以包括确定由一个或多个候选位移因子158-s所定义的投影的特征窗口163-t,并平均那些投影的特征窗口163-t和参考图像155中的特征窗口159内的像素的像素强度值。在某些实施例中,生成了对应于一个或多个候选位移因子158-s的焦点区域161,就可以确定该焦点区域161的焦点的级别。在各实施例中,焦点的级别可以包括锐度的度量。在某些实施例中,可以作为焦点区域161的空间梯度的平方定额,计算这样的锐度的度量。在各实施例中,在二次迭代过程的每一迭代中,可以生成要被评估的对应于一个或多个候选位移因子158-s的焦点区域161,可以对于该焦点区域161计算锐度的度量或焦点的其他级别。在某些实施例中,二次迭代过程可以持续,直到一个或多个候选位移因子158-s达到一个或多个位移因子限制180-v。在各实施例中,一个或多个位移因子180-v限制中的每一个可以包括一个或多个候选位移因子158-s中的对应于一个的最大候选值。在某些实施例中,导致表现最大化的锐度或其他焦点级别的的HDR区域161的生成的一个或多个候选位移因子158-s可以被标识为一个或多个最佳位移因子158-s。这些实施例不限于这种情境。
返回到图1,在各实施例中,一旦确定一个或多个最佳位移因子158-s,成像管理模块106可操作,以根据一个或多个最佳位移因子158-s,转换捕获图像阵列152和/或调整的图像阵列154。在某些这样的实施例中,参考图像155可以包括调整的图像阵列154的调整的图像154-q,成像管理模块106可操作,以根据一个或多个最佳位移因子158-s,转换调整的图像阵列154内的每一个其他调整的图像154-q。在各种这样的实施例中,对于调整的图像阵列154中的每一个其他调整的图像154-q,成像管理模块106可操作,以基于一个或多个最佳位移因子158-s和调整的图像阵列154中的那些调整的图像154-q相对于参考图像155的相对位置,确定一个或多个相对位移156-q-r。在某些实施例中,对于每一个其他调整的图像154-q,一个或多个相对位移156-q-r可以包括水平位移156-q-1和垂直位移156-q-2。在各实施例中,成像管理模块106可操作以通过水平地变换其像素中的每一个达水平位移156-q-1,来在水平方向变换每一个其他调整的图像154-q,并可操作以通过垂直地变换其像素中的每一个达垂直位移156-q-2,来在垂直方向变换每一个其他调整的图像154-q。这些实施例不限于这种情境。
在某些实施例中,一旦已经根据一个或多个最佳位移因子158-s而变换了捕获图像阵列152和/或调整的图像阵列154,成像管理模块106可操作以基于经变换的捕获图像阵列152和/或经变换的调整的图像阵列154,生成合成图像160。例如,在其中成像管理模块106可操作以根据一个或多个最佳位移因子158-s来变换调整的图像阵列154内的调整的图像154-q的各实施例中,成像管理模块106可操作以通过将参考图像155和调整的图像阵列中的其他调整的图像154-q中的像素的像素强度值求平均,来生成合成图像160。这些实施例不限于这种情境。
在各实施例中,如前所述的用于生成其中HDR区域161在动态范围内的合成图像160的技术可以应用于一系列捕获图像阵列152和/或调整的图像阵列154,以生成包括一系列包括合成图像160的帧的视频162,每一个合成图像160中的焦点区域161在动态范围内。例如,在某些实施例中,照相机阵列150可以被用来捕捉一系列捕获图像阵列152,该阵列152包括场景的捕获图像152-p,场景中运动的对象包括主要特征。假设照相机阵列150是静止的,对于照相机阵列150中的每一个照相机150-n,捕获图像152-p中的移动对象的位置在不同的捕获图像阵列152之间变化。相应地,基于捕获图像152-p生成的调整的图像154-q中的移动对象的位置将在不同的调整的图像阵列154之间变化。如此,如果特征对应于移动对象,则特征窗口159的位置可以预期在对应于一系列捕获图像阵列152和/或一系列调整的图像阵列154的一系列参考图像155中在不同参考图像155之间变化。
在各实施例中,为了考虑一系列参考图像155中的特征窗口159的运动,成像管理模块106可操作以使用运动跟踪算法来跟踪不同参考图像155之间的特征窗口159的运动。可以使用的算法的示例包括光流算法,基于mean-shift的跟踪算法,以及OpenTLD算法,虽然各实施例不仅限于这些示例。在某些实施例中,当接收到和/或生成捕获图像阵列152或调整的图像阵列154时,成像管理模块106可以使用运动跟踪算法来标识对应于该捕获图像阵列152或调整的图像阵列154的参考图像155中的特征窗口159的位置。在各种这样的实施例中,成像管理模块106可操作以使用运动跟踪算法来基于前一参考图像155中的特征窗口的位置,或基于多个前面的参考图像155中的特征窗口的位置,标识参考图像155中的特征窗口159的位置。这些实施例不限于这种情境。
在某些实施例中,当使用这样的运动跟踪算法来确定参考图像155的特征窗口159的位置时,基于该参考图像155生成的一个或多个位移因子158-s可能表现出对应于运动跟踪算法的使用的误差。进而,包括基于那些一个或多个位移因子158-s所生成的合成图像160的帧可包括那些一个或多个位移因子158-s中的误差所导致的可视伪像。为了减少或消除这样的伪像的发生,在各实施例中,可以平滑化基于一系列参考图像155确定的一个或多个位移因子158-s。在某些这样的实施例中,此平滑化处理可以通过过滤一个或多个位移因子158-s来完成。在一示例实施例中,可以使用卡尔曼滤波器来平滑化处理基于一系列参考图像155确定的一个或多个位移因子158-s。在各实施例中,卡尔曼滤波器还可以应用于运动跟踪输出,以最小化重新聚焦的视频中的可视伪像。这些实施例不限于这种情境。
图6示出了根据本发明的一实施例的逻辑流程600。与常常假定照相机的立体像对的已知的差异估计解决方案相比,逻辑流程600适用于任意大小或布局的照相机阵列150。进一步地,与假定由阵列150中的全部照相机150-n同等地对场景进行成像的已知的解决方案相比,逻辑流程600针对于来自用于HDR应用的照相机阵列150的曝光变化的图像或图像部分。逻辑流程600是非迭代的,并且在计算方面是有效率的。
与已知技术相比,逻辑流程600包括至少两个优点。首先,与传统的立体成像过程相比,逻辑流程600避免在误差计算中使用参考图像小块,因此,当参考图像小块饱和时避免已知技术的问题。其次,逻辑流程600在HDR估计和误差计算阶段使用输入图像的噪声模型,以便噪声模型考虑曝光变化序列中的噪声变化。
逻辑流程600总体上通过基于来自照相机阵列150的不同输入对象的对应的曝光参数值来规一化这些来自照相机阵列150的不同输入图像来操作。接下来,在每一个像素中,逻辑流程使用全部输入图像小块,估计每一个候选差异的HDR图像小块。最后,逻辑流程估计每一小块中的差异,作为最小化HDR图像小块以及来自阵列的所有图像小块之间的误差的候选差异(使用候选差异适当地移位)。逻辑流程适用于来自传感器的原始Bayer数据(在饱和极限内与传感器上的入射强度线性地成比例)和成像流水线的输出处的图像(通常包括去镶嵌、色彩校正、白平衡、伽马转换等等)。如果原始Bayer数据可用,那么,差异估计的质量更好。然而,某些移动设备(例如,移动电话或平板电脑)常常不能提供原始Bayer数据。对于这样的设备,各实施例使用由移动设备所产生的RGB数据。
逻辑流程600从框602开始,此时,从照相机阵列150内的照相机150-k捕捉图像。照相机150-k所使用的曝光参数值不完全一样。具体而言,可以选择曝光参数值,以便照相机150-k中的每一个都可以捕捉图像,在高动态范围图像的预定强度范围内不会有欠饱和或过饱和。
接下来,在框604,逻辑流程600估计每一捕获图像中存在的噪声。对噪声水平的估计用于进一步处理。每一捕获图像中的噪声量取决于用于捕捉图像的曝光参数值。数码相机传感器受不同的噪声源的困扰,诸如暗电流、光子散粒噪声、读出噪声和来自模拟到数字转换(“ADC”)的噪声。
来自CCD图像传感器的原始RGB图像数据可以被称为Bayer数据。此处用于原始Bayer数据的噪声模型包括表示应用于传感器的ISO增益的曝光参数。可以通过改变诸如曝光时间或ISO增益之类的曝光参数,从CCD图像传感器捕捉图像。CCD图像传感器的至少某些制造商提供改变ISO增益的能力。当由于图像中的运动或手持照相机的不稳定性所导致的模糊而使增大曝光时间不可行时,改变ISO增益常常是改变曝光参数的有用的方式。假设Ij表示在单位时间内在传感器上的像素位置j处生成电子的数量,这与入射的光谱辐照度成比例,导致在曝光时间t内生成Ij·t电子。各实施例根据公式(1)-(4),将像素值建模为正态随机变量Xj:
Xj=(Sj+R)αg+Q (1)
Sj~N(Ijt+μDC,Ijt+μDC) (2)
R~N(μR,σ2 R) (3)
Q~N(μQ,σ2 Q) (4)
在公式(3)和(4)中,N(μ,σ2)表示采用平均值μ和方差σ2的正态分布。Sj是表示在像素位置j处收集到的电子的数量的随机变量。Sj通常使用泊松分布来建模,其平均值通过生成的电子的数量和暗电流μDC来确定。泊松分布可以使用正态分布来建模,正态分布对于大量的电子是合理的。模型不考虑暗电流对曝光时间和温度的任何依赖性,并且模型假定使用室外摄影的典型曝光时间所估计的恒定值。“R”表示读出噪声,“Q”表示来自ADC的噪声,这两者都被建模为高斯随机变量。变量“g”表示应用于传感器的ISO增益,“α”表示照相机电路和模拟放大器的组合的增益,以每个电子的数字数为单位。噪声模型不建模传感器中的像素响应不均匀性。
接下来,在框606,可以归一化来自框602的每一捕获图像的强度。可以使用前面参考框604所描述的噪声模型实现对于原始Bayer数据的强度归一化。第j个曝光归一化的图像(表示为yj(k))可以根据公式(5)计算如下:
照相机处理流水线已知是应用于从传感器捕捉到的Bayer数据的一组计算,以便生成可以被查看、保存,或以别的方式处理的8比特RGB图像。典型的照相机流水线算法包括去镶嵌、白平衡、颜色补偿、灰度校正等等。对于图像数据是在照相机处理流水线应用于原始数据之后获得的情况,公式(5)的线性归一化不再有效。然而,颜色直方图匹配可以是用于归一化利用不同的响应和颜色特征捕获图像数据的有效技术。因此,各实施例将阵列中的每个图像的直方图匹配到采取中值曝光水平的照相机,以计算归一化的图像。为避免来自其他照相机(这些照相机所处区域中,采用中值曝光的图像会遭受饱和困扰)的图像中的信息损失,框606的各实施例通过通过使用浮点精度,计算直方图匹配的图像,来归一化图像。对彩色图像的每一颜色通道(例如,红色、绿色和蓝色)独立地执行直方图匹配。
接下来,在框608,估计动态范围。具体而言,框608首先将阵列中的照相机视图中的一个表示为参考视图。然后,对于参考视图,估计HDR场景。接下来,对于每一个视图,逻辑流程600检查每一个像素位置,以便标识候选差异。可以基于照相机的分辨率、照相机之间的物理间隔、和感兴趣的深度范围,来确定候选差异。然后,框608使用来自照相机阵列的全部图像,估计每一个候选差异的HDR图像小块。
框608通过考虑一组L个候选差异来分析差异,以便发现照相机的最短的基线对。基线是指一对照相机之间的物理间隔。最短的基线对是指具有最小物理间隔的照相机对。对于每一个候选差异,可以计算阵列中的每个照相机同参考视图之间的差异。然后,将规一化的图像小块移位合适的差异,以生成移位的图像小块zl(k)。
与隐含地假设图像被良好地对准的估计HDR图像的已知技术相比,此处所描述的各实施例不为差异估计而假定图像被很好地校准。相反,逻辑流程600将HDR图像估计为移位的小块的加权总和。使用所有像素位置的强度标度的中点(Imid)来确定加权总和的各权重,如下面在公式(6)-(7)所示:
逻辑流程600通过使用公式(7)来估计Imid,其中,Pmax对应于整个场景上方的最大像素值:
对于照相机处理流水线的输出处的常规图像,噪声模型不再有效,因为已经通过变换其属性的照相机处理流水线处理了包括噪声的数据。HDR估计的常规方法试图从输入图像来估计照相机响应曲线,该过程对每一候选差异执行起来计算量很大。然而,当图像来自已知的照相机和处理流水线时,在框608中,可以离线估计和使用照相机响应曲线。当照相机响应曲线不可用时,此处所描述的各实施例使用与不同的图像的曝光水平成比例的各权重,以便提供令人满意的结果。各实施例使用阈值标准来检测饱和的像素,其他操作框612通过将它们的对应的权重设置为零,避免使用饱和的像素。
接下来,在框610,通过使用目标函数(objective function),估计误差。目标函数计算在估计的HDR图像小块和来自照相机阵列150的每一图像之间的绝对差值的加权总和(“SAD”)。然后,每一个像素位置处的差异被估计为使目标函数最小化的差异。注意,误差计算使用为参考视图而估计的HDR图像,而不直接使用实际参考照相机视图,因此,避免了在来自参考照相机的视图受饱和困扰的情况下可能会出现的问题。在一些实施例中,在九个像素的窗口大小上计算目标函数。
接下来,在可选框612,可以执行其他操作。例如,可以组合来自多个图像的元素以产生合成图像,此合成图像具有高动态范围,且仍具有比较高的分辨率从而足以在亮区和暗区内呈现可见的细节。
常常在差异计算中使用过滤以消除假匹配。对具有不同的曝光的图像的差异估计是一个具有挑战性的问题,并可能导致更多假匹配。测试表明,用于立体像应用的常规过滤标准在消除许多假匹配方面不成功,对于传统的方法,可能需要更为积极性的过滤。相比之下,此处所描述的各实施例标识出目标函数的两个最小值,并能够过滤掉其中两个最小值相差程度小于预定阈值标准的匹配。
图7示出了***700的一个实施例。在各实施例中,***700可以表示适用于诸如图1的设备100和/或***140和/或图6的逻辑流程600之类的此处所描述的一个或多个实施例的***或架构。这些实施例不限于这种情境。
如图7所示,***700可以包括多个元件。按设计或性能约束的给定集合所需,一个或多个元件可使用一个或多个电路、组件、寄存器、处理器、软件子例程、模块、或其任意组合实现。尽管图7示出特定拓扑中有限数目的元件作为示例,但可以理解可按给定实现所需在***700中以任意适当拓扑使用更多或更少的元件。这些实施例不限于这种情境。
在各实施例中,***700可以包括处理器电路702。处理器电路702可以使用任何处理器或逻辑设备来实现,并可以与图1的处理器电路102相同或类似。
在一个实施例中,***700可以包括耦合到处理器电路704的存储器单元702。按给定实现所需,存储器单元704可经由通信总线743、或通过处理器电路702与存储器单元702之间的专用通信总线耦合于处理器电路704。存储器单元704可以使用能够存储数据的任何机器可读的或计算机可读介质来实现,包括易失性和非易失性存储器,并可以与图1的存储器单元104相同或类似。在某些实施例中,机器可读的或计算机可读介质可以包括非瞬时的介质。这些实施例不限于这种情境。
在各实施例中,***700可包括收发器744。收发器744可包括能够使用多种适当的无线通信技术发送和接收信号的一个或多个无线电。这些技术可涉及跨一个或多个无线网络的通信。示例性无线网络包括(但不限于)无线局域网(WLAN)、无线个域网(WPAN)、无线城域网(WMAN)、蜂窝网络以及卫星网络。在跨这些网络的通信中,收发器744可根据任何版本的一个或多个可适用标准来操作。这些实施例不限于这种情境。
在各实施例中,***700可包括显示器745。显示器745可以包括能够显示从处理器电路702接收到的信息的任何显示设备,并可以与图1的显示器142相同或类似。
在各实施例中,***700可包括存储746。存储746可实现为非易失性存储设备,例如但不限于,磁盘驱动器、光盘驱动器、磁带驱动器、内部存储设备、附属存储设备、闪存、电池应急SDRAM(同步DRAM)和/或网络可访问存储设备。在各实施例中,存储746可以包括当例如包括多个硬盘驱动器时,提高存储器性能或对有价值的数字媒体的增强的保护的技术。存储746的进一步的示例可以包括硬盘、软盘、只读光盘存储器(CD-ROM)、可记录光盘(CD-R)、可重写光盘(CD-RW)、光盘、磁性介质、磁光介质、可移动存储器卡或盘、各种类型的DVD设备、磁带设备、磁带盒设备等等。这些实施例不限于这种情境。
在各实施例中,***700可以包括一个或多个I/O适配器747。I/O适配器747的示例可包括通用串行总线(USB)端口/适配器、IEEE 1394火线端口/适配器等。这些实施例不限于这种情境。
图8示出了***800的实施例。在各实施例中,***800可以表示适用于诸如图1的设备100和/或***140,图6的逻辑流程600,和/或图7的***700之类的此处所描述的一个或多个实施例的***或架构。这些实施例不限于这种情境。
如图8所示,***800可以包括多个元件。按设计或性能约束的给定集合所需,一个或多个元件可使用一个或多个电路、组件、寄存器、处理器、软件子例程、模块、或其任意组合实现。尽管图8示出特定拓扑中有限数目的元件作为示例,但可以理解可按给定实现所需在***800中以任意适当拓扑使用更多或更少的元件。这些实施例不限于这种情境。
在各实施例中,***800可以是媒体***,但是***800不仅限于此情境。例如,***800可被纳入到个人计算机(PC)、膝上计算机、超薄笔记本电脑、平板计算机、触摸板、便携式计算机、手持式计算机、掌上计算机、个人数字助理(PDA)、蜂窝电话、组合式蜂窝电话/PDA、电视机、智能设备(例如智能电话、智能平板计算机或智能电视机)、移动互联网设备(MID)、消息接发(messaging)设备、数据通信设备等中。
在各实施例中,***800包括耦合到显示器845的平台801。平台801可以从诸如内容服务设备848、或内容递送设备849之类的内容设备或其他类似的内容源接收内容。包括一个或多个导航特征的导航控制器850可以被用来与例如平台801和/或显示器845进行交互。在下文中更详细地描述这些组件中的每一个。
在各实施例中,平台801可包括处理器电路802、芯片组803、存储器单元804、收发器844、存储846、应用806和/或图形子***851的任何组合。芯片组803可以在处理器电路802、存储器单元804、收发器844、存储器846、应用806,和/或图形子***851之间提供相互通信。例如,芯片集803可包括能够提供与存储846的相互通信的存储适配器(未示出)。
处理器电路802可以使用任何处理器或逻辑设备来实现,并可以与图7在处理器电路702相同或类似。
存储器单元804可以使用能够存储数据的任何机器可读的或计算机可读介质来实现,并可以与图7中的存储器单元704相同或类似。
收发器844可以包括能够使用各种合适在无线通信技术,传输和接收信号在一个或多个无线电装置(radio),并可以与图7中的收发器744相同或类似。
显示器845可以包括任何电视机类型监视器或显示器,并可以与图7中的显示器745相同或类似。
存储846可以实现为非易失性存储设备,并可以与图7中的存储746相同或类似。
图形子***851可执行对例如静止图像或视频的图像的处理以供显示。图形子***851可以例如是图形处理单元(GPU)或视觉处理单元(VPU)。模拟或数字接口可用于通信地耦合图形子***851和显示器845。例如,接口可以是高清多媒体接口(HDMI)、显示器端口、无线HDMI和/或无线HD适应技术中的任何一种。图形子***851可被集成至处理器电路802或芯片组803。图形子***851可以是与芯片集803可通信地耦合的独立卡。
本文中所描述的图形和/或视频处理技术可在各种硬件架构中实现。例如,图形和/或视频功能可被集成在芯片集中。替代地,可使用分立的图形和/或视频处理器。作为又一实施例,图形和/或视频功能可由包括多核处理器在内的通用处理器实现。在又一实施例中,这些功能可实现在消费者电子设备中。
在各实施例中,内容服务设备848可由任何国内、国际和/或独立服务所主控,并因此可经由例如因特网对平台801访问。内容服务设备848可耦合到平台801和/或显示器845。平台801和/或内容服务设备848可耦合到网络852以向网络852传递媒体信息并对来自网络760的媒体信息进行传递(例如,发送和/或接收)。内容传递设备849也可耦合到平台801和/或显示器845。
在各实施例中,内容服务设备848可以包括有线电视盒、个人计算机、网络、电话、启用因特网的设备或能够分发数字信息和/或内容的电器,以及能够通过网络845或直接在内容提供商和平台801和/或显示器845之间单方向地或双向地传递内容的任何其他类似的设备。将能理解,内容可经由网络852单向和/或双向地传递到和传递自***800中的各组件中的任一个和内容提供者。内容的示例可包括任何媒体信息,包括例如视频、音乐、医疗和游戏信息等等。
内容服务设备848接收内容,诸如有线电视节目,其包括媒体信息、数字信息和/或其他内容。内容提供者的例子可包括任何有线或***或无线电,或者互联网内容提供者。所提供的示例不旨在限制各实施例。
在各实施例中,平台801可从具有一个或多个导航特征的导航控制器850接收控制信号。导航控制器850的导航特征可以被用来,例如,与用户界面853进行交互。在一些实施例中,导航控制器850可以是定点设备,它可以是允许用户将空间(例如连续和多维)数据输入到计算机中的计算机硬件组件(具体地说是人机接口设备)。许多***——例如图形用户接口(GUI)以及电视机和监视器——允许用户使用身体姿势控制并将数据提供给计算机或电视机。
导航控制器850的导航特征的移动可以通过指针、光标、焦点环,或显示在显示器上的其他可视指示器,反映在显示器上(例如,显示器845)。例如,在软件应用806的控制下,位于导航控制器850上的导航特征可被映射至显示在用户界面853上的视觉导航特征。在各实施例中,导航控制器850可以不是单独组件,而是集成到平台801和/或显示器845上。然而,各实施例并不限于这些元件或本文中示出或描述的情境。
在各实施例中,驱动程序(未示出)可以包括允许用户立即打开和关闭平台801的技术,类似于电视机,例如,当启用时,在初始引导之后,按下按钮。在平台被“关闭”时,程序逻辑可以允许平台801将内容流送到媒体适配器或其他内容服务设备848或内容递送设备849。另外,芯片组803还可以包括,例如,对于5.1环绕声音频和/或高清晰度7.1环绕声音频的硬件和/或软件支持。驱动器可包括用于集成的图形平台的图形驱动器。在各实施例中,图形驱动程序可以包括***组件互连(PCI)Express图形卡。
在各实施例中,***800中所示组件中的任意一个或多个可被集成。例如,平台801和内容服务设备848可被集成,或者平台801和内容传递设备849可被集成,或者平台801、内容服务设备848和内容传递设备849可被集成。在各实施例中,平台801和显示器845可以是集成单元。例如,显示器845和内容服务设备848可被集成,或者显示器845和内容传递设备849可被集成。这些示例不旨在限制各实施例。
在各实施例中,***800可实现为无线***、有线***或两者的组合。当实现为无线***时,***800可包括适于在无线共享介质上通信的组件和接口,例如一个或多个天线、发射机、接收机、收发机、放大器、过滤器、控制逻辑等等。无线共享媒体的一个例子可包括无线频谱的一些部分,例如RF频谱等。当实现为有线***时,***800可以包括适用于通过有线通信介质进行通信的组件和接口,诸如I/O适配器、将I/O适配器与相应的有线通信介质连接的物理连接器、网络接口卡(NIC)、光盘控制器、视频控制器、音频控制器等等。有线通信介质的示例可包括,线路、电缆、金属导线、印刷电路板(PCB)、后面板、交换机结构、半导体材料、双绞线、同轴电缆、光纤等等。
平台801可建立一个或多个逻辑或物理通道以交换信息。该信息可包括媒体信息和控制信息。媒体信息可指表示针对用户的内容的任何数据。内容的示例可以包括,例如,来自语音谈话、视频会议、流式视频、电子邮件消息、语音邮件消息、字母数字符号、图形、图像、视频、文本等等的数据。来自语音会话的数据可以是,例如,语音信息、静默时段、背景噪声、舒适噪声、音调等等。控制信息可指表示用于自动化***的命令、指令或控制字的任何数据。例如,控制信息可用于使媒体信息路由通过***,或指示节点以预定方式处理该媒体信息。然而,各实施例不限于图8中所示出的或所描述的上下文中的元件。
如上文所描述的,***800可以以不同的物理样式或形状因子来体现。图9示出了其中可以实现***800的小形状因子设备900的各实施例。在一些实施例中,例如设备900可被实现为具有无线能力的移动计算设备的一部分。移动计算设备可指具有处理***以及移动电源或供电(诸如一个或多个电池)的任何设备。
如前所述,移动计算设备的例子可包括个人计算机(PC)、膝上计算机、超薄笔记本电脑、平板计算机、触摸板、便携式计算机、手持式计算机、掌上计算机、个人数字助理(PDA)、蜂窝电话、组合式蜂窝电话/PDA、电视机、智能设备(例如智能电话、智能平板计算机或智能电视机)、移动互联网设备(MID)、发消息设备、数据通信设备等。
移动计算设备的例子也可包括被配置成由人佩戴的计算机,例如手腕式计算机、手指式计算机、戒指式计算机、眼镜式计算机、皮带夹计算机、腕带式计算机、鞋式计算机、服饰式计算机以及其它可佩戴计算机。在各实施例中,例如移动计算设备可被实现为能够执行计算机应用以及语音通信和/或数据通信的智能电话。尽管已经以实现为智能电话的移动计算设备为例描述了一些实施例,但可理解其他实施例也可利用其他无线移动计算设备来实现。这些实施例不限于这种情境。
如图9所示,设备900可以包括显示器945、导航控制器950、用户界面953、外壳954、I/O设备955,以及天线956。显示器945可以包括用于显示适合于移动计算设备的任何合适的显示单元,并可以与图8中的显示器845相同或类似。导航控制器950可以包括一个或多个导航特征,这些导航特征可以被用来与用户界面953进行交互,并可以与图8中的导航控制器850相同或类似。I/O设备955可以包括用于向移动计算设备中输入信息的任何合适的I/O设备。I/O设备955的示例可以包括字母数字键盘、数字键区、触摸板、输入键、按钮、开关、往复式开关、话筒、扬声器、语音识别设备以及软件等等。信息还可以通过麦克风输入到设备900中。该信息可通过语音识别设备数字化。这些实施例不限于这种情境。
各个实施例可利用硬件部件、软件部件或两者的组合来实现。硬件部件的例子可包括处理器、微处理器、电路、电路元件(例如晶体管、电阻器、电容器、电感器等)、集成电路、专用集成电路(ASIC)、可编程逻辑器件(PLD)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)、逻辑门、寄存器、半导体器件、芯片、微芯片、芯片集等等。软件的示例可包括软件组件、程序、应用、计算机程序、应用程序、***程序、机器程序、操作***软件、中间件、固件、软件模块、例程、子例程、函数、方法、程序、软件接口、应用程序接口(API)、指令集、计算代码、计算机代码、代码段、计算机代码段、字、值、符号或它们的任意组合。判断一个实施例是否使用硬件元件和/或软件元件来实现可以根据任意数量的因素而不同,如所期望的计算速率、功率级别、耐热性、处理周期预算、输入数据速率、输出数据速率、存储器资源、数据总线速度,及其他设计或性能约束。
至少一个实施例的一个或多个方面可以由存储在机器可读介质上的代表性指令来实现,该指令表示处理器中的各种逻辑,该指令在被机器读取时使得该机器构成用于执行本文所述的技术的逻辑。被称为“IP核”的这样的表示可以存储在有形的机器可读介质中,并提供给各种客户或生产设施,以加载到实际制造逻辑或处理器的制造机器中。例如,可使用机器可读介质或者制品来实现一些实施例,这些介质或者制品可存储指令或者指令集,这些指令或指令集在由机器执行时可使该机器根据实施例来执行方法和/或操作。这样的机器可以包括,例如,任何合适的处理平台、计算平台、计算设备、处理设备、计算***、处理***、计算机、处理器等等,并可以使用硬件和/或软件的任何合适的组合来实现。机器可读取的介质或制品可以包括,例如,任何合适类型的存储器单元、存储器设备、存储器制品、存储器介质、存储设备、存储器制品、存储器介质和/或存储器单元,例如,存储器、可移动或不可移动介质、可擦除的或非可擦除的介质,可写入的或重写的介质、数字或模拟介质、硬盘、软盘、只读光盘存储器(CD-ROM)、可记录光盘(CD-R)、可重写光盘(CD-RW)、光盘、磁性介质、磁光介质、可移动存储器卡或盘、各种类型的数字多功能盘(DVD)、磁带、磁带盒等等。指令可包括任何合适类型的代码,如源代码、已编译的代码、已解释的代码、可执行代码、静态代码、动态代码、加密代码等等,使用任何合适的高级别的、低级别的、面向对象的、可视的、已编译的和/或解释性编程语言来实现。
下列示例涉及进一步的实施例:
至少一个机器可读取的介质可以包括多个指令,所述指令,响应于在计算设备上执行,可以致使该计算设备:从照相机阵列接收图像阵列,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值,估计所述图像阵列的每一图像的噪声水平,基于相应的图像的噪声水平规一化每一图像的强度以产生相应的规一化的图像,标识相应的规一化的图像中的每一图像中的候选差异,为每一个候选差异估计高动态范围(HDR)图像小块,以及,从所述HDR图像小块和目标函数计算误差,以产生差异估计。
这种至少一个机器可读取的介质可以包括指令,所述指令,响应于在计算设备上执行,可以致使计算设备:通过使用所述差异估计,产生比所述图像阵列中的任何一个图像具有更高的动态范围的合成图像。
对于这种至少一个机器可读取的介质,估计噪声水平可以包括对照相机阵列的照相机的传感器应用ISO增益。
对于这种至少一个机器可读取的介质,所述照相机阵列可以包括单行照相机和单列照相机中的一个。
这种至少一个机器可读取的介质可以包括指令,所述指令,响应于在计算设备上执行,可以致使计算设备:将参考视图指定为所述图像阵列中的一个图像,计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异,将所述规一化的图像移位达其相应的差异,以及,计算所述移位的、规一化的图像的加权总和。
对于这种至少一个机器可读取的介质,可以使用所述图像的所有像素位置的强度标度的中点来确定所述移位的、规一化的图像的权重。
对于这种至少一个机器可读取的介质,所述移位的、规一化的图像的权重可以与所述图像阵列中的相应的图像的曝光水平成比例。
对于这种至少一个机器可读取的介质,图像阵列的图像可以包括来自相应的照相机的原始Bayer数据。
对于这种至少一个机器可读取的介质,图像阵列中的图像可以包括来自相应的照相机的成像流水线的输出数据。
这种至少一个机器可读取的介质可以包括指令,所述指令,响应于在计算设备上执行,可以致使计算设备估计HDR图像小块,包括使用照相机响应曲线。
一种设备可以包括处理器电路,以及,用于在所述处理器电路上执行的成像管理模块,用于从照相机阵列接收图像阵列,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值,估计所述图像阵列的每一图像的噪声水平,基于相应的图像的噪声水平规一化每一图像的强度以产生相应的规一化的图像,标识所述相应的规一化的图像中的每一图像中的候选差异,为每一个候选差异估计高动态范围(HDR)图像小块,以及,从HDR图像小块和目标函数计算误差,产生差异估计。
对于这种设备,成像管理模块可以通过使用差异估计,产生比图像阵列中的任何一个图像具有更高的动态范围的合成图像。
对于这种设备,成像管理模块可以通过对照相机阵列的照相机的传感器应用ISO增益,来估计噪声水平。
对于这种设备,成像管理模块可以包括单行照相机和单列照相机中的一个。
对于这种设备,成像管理模块可以将参考视图指定为图像阵列的一个图像,计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异,将所述规一化的图像移位达其相应的差异,以及,计算所述移位的、规一化的图像的加权总和。
对于这种的设备,成像管理模块可以使用所述图像的所有像素位置的强度标度的中点,确定所述移位的、规一化的图像的权重。
对于这种设备,成像管理模块可以确定与所述图像阵列中的相应的图像的曝光水平成比例的所述移位的、规一化的图像的权重。
对于这种设备,图像阵列的图像包括来自相应的照相机的原始Bayer数据。
对于这种设备,图像阵列中的图像包括来自相应的照相机的成像流水线的输出数据。
对于这种设备,成像管理模块可以通过使用照相机响应曲线,估计所述HDR图像小块。
一种由处理器电路执行的方法,可以包括从照相机阵列接收图像阵列,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值,估计所述图像阵列的每一图像的噪声水平,基于所述相应的图像的所述噪声水平规一化每一图像的强度以产生相应的规一化的图像,标识所述相应的规一化的图像中的每一图像中的候选差异,为每一个候选差异估计高动态范围(HDR)图像小块,以及,从所述HDR图像小块和目标函数计算误差,以产生差异估计。
这种方法可以包括通过使用所述差异估计,产生比所述图像阵列中的任何一个图像具有更高的动态范围的合成图像。
这种方法可以包括,估计所述噪声水平包括对所述照相机阵列的照相机的传感器应用ISO增益。
对于这种方法,所述照相机阵列可以包括单行照相机和单列照相机中的一个。
这种方法可以包括将参考视图指定为所述图像阵列中的一个图像,计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异,将所述规一化的图像移位达其相应的差异,以及,计算所述移位的、规一化的图像的加权总和。
这种方法可以包括使用所述图像的所有像素位置的强度标度的中点,确定所述移位的、规一化的图像的权重。
这种方法可以包括确定与所述图像阵列中的相应的图像的曝光水平成比例的所述移位的、规一化的图像的权重。
对于这种方法,图像阵列的图像可以包括来自相应的照相机的原始Bayer数据。
对于这种方法,图像阵列中的图像可以包括来自相应的照相机的成像流水线的输出数据。
这种方法可以包括通过使用照相机响应曲线估计所述HDR图像小块。
一种***,可以包括处理器电路,包括多个照相机的照相机阵列,以及用于在处理器电路上执行的成像管理模块,用于确定包括对应于所述照相机阵列中的多个照相机的多个图像的图像阵列的多个候选位移因子中的每一个的对应的锐度,确定最佳位移因子,该最佳位移因子包括对应于合成图像的焦点区域的最大化锐度的候选位移因子,以及,基于最佳位移因子,变换图像阵列,以将多个图像的对应于焦点区域的区域对准。
一种***,可以包括处理器电路,包括多个照相机的照相机阵列,以及,用于在所述处理器电路上执行的成像管理模块,用于从照相机阵列捕捉图像阵列,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值,估计所述图像阵列的每一图像的噪声水平,基于相应的图像的噪声水平规一化每一图像的强度以产生相应的规一化的图像,标识所述相应的规一化的图像中的每一图像中的候选差异,为每一个候选差异估计高动态范围(HDR)图像小块,以及,从HDR图像小块和目标函数计算误差,产生差异估计。
对于这种***,成像管理模块可以通过使用差异估计,产生比图像阵列中的任何一个图像具有更高的动态范围的合成图像。
对于这种***,成像管理模块可以通过对照相机阵列的照相机的传感器应用ISO增益,来估计噪声水平。
对于这种***,成像管理模块可以包括单行照相机和单列照相机中的一个。
对于这种***,成像管理模块可以将参考视图指定为图像阵列的一个图像,计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异,将所述规一化的图像移位达其相应的差异,以及,计算所述移位的、规一化的图像的加权总和。
对于这种的***,成像管理模块可以使用所述图像的所有像素位置的强度标度的中点来确定所述移位的、规一化的图像的权重。
对于这种***,成像管理模块可以确定与所述图像阵列中的相应的图像的曝光量级成比例的所述移位的、规一化的图像的权重。
对于这种***,图像阵列的图像包括来自相应的照相机的原始Bayer数据。
对于这种***,图像阵列中的图像包括来自相应的照相机的成像流水线的输出数据。
对于这种***,成像管理模块可以通过使用照相机响应曲线,估计所述HDR图像小块。
一种设备,可以包括用于从照相机阵列接收图像阵列的装置,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值,用于估计所述图像阵列的每一图像的噪声水平的装置,用于基于所述相应的图像的所述噪声水平来规一化每一图像的强度以产生相应的规一化的图像的装置,用于标识所述相应的规一化的图像中每一图像中的候选差异的装置,用于为每一个候选差异估计高动态范围(HDR)图像小块的装置,以及,用于从所述HDR图像小块和目标函数计算误差,以产生差异估计的装置。
这种设备可以包括用于通过使用所述差异估计,产生比所述图像阵列中的任何一个图像具有更高的动态范围的合成图像的装置。
这种设备可以包括用于估计所述噪声水平(包括对所述照相机阵列的照相机的传感器应用ISO增益)的装置。
对于这种设备,所述照相机阵列可以包括单行照相机和单列照相机中的一个。
这种设备可以包括用于将参考视图指定为所述图像阵列中的一个图像的装置,用于计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异的装置,用于将所述规一化的图像移位达其相应的差异的装置,以及,用于计算所述移位的、规一化的图像的加权总和的装置。
这种设备可以包括用于使用所述图像的所有像素位置的强度标度的中点,确定所述移位的、规一化的图像的权重的装置。
这种设备可以包括用于确定与所述图像阵列中的相应的图像的曝光量级成比例的所述移位的、规一化的图像的权重的装置。
对于这种设备,图像阵列的图像可以包括来自相应的照相机的原始Bayer数据。
对于这种设备,图像阵列中的图像可以包括来自相应的照相机的成像流水线的输出数据。
这种设备可以包括用于通过使用照相机响应曲线估计所述HDR图像小块的装置。
在此已经阐明了许多具体的细节,以便对这些实施例有透彻的理解。然而,本领域技术人员将会理解,可在没有这些具体细节的情况下实施这些实施例。在其它实例中,未对公知操作、组件和电路进行详细描述,以免使这些实施例难以理解。可以认识到,在此公开的、特定的结构细节和功能细节可以是代表性的,不一定限制这些实施例的范围。
可以使用表达“耦合”和“连接”以及它们的派生词来描述某些实施例。这些术语并不旨在作为彼此的同义词。例如,某些实施例可以使用术语“连接的”和/或“耦合的”来描述,以指示两个或更多个元件彼此直接物理或电气接触。然而,术语“耦合”也可以意味着,两个或更多彼此不直接接触,但是仍彼此合作或进行交互的元件。
除非特别声明,应该理解,诸如“处理”、“计算”、“运算”、“确定”等等之类的术语是指计算机或计算***,或类似的电子计算设备的动作和/或进程,所述计算***或类似的电子计算设备操纵和/或转换表示为计算***的寄存器和/或存储器内的物理(如,电子)量的数据,将这些数据转换为类似地表示为计算***存储器或寄存器或其他这样的信息存储器、传输或显示设备内的物理量的其他数据。这些实施例不限于这种情境。
应当注意,本文所描述的方法不必以所述顺序或任何特定顺序来执行。此外,参考本文标识的方法而描述的各种活动可以按串行或并行方式执行。
尽管在本文中已经图示并描述了各特定实施例,但应当认识到,被预计能够实现相同目的的任何安排可以替换所示的特定实施例。本文公开内容旨在覆盖各种实施例的任何和全部改编或变形。应当理解,以上描述是以说明性的方式而非限制性的方式进行的。对于本领域技术人员而言,在阅读了以上描述之后,上述实施例的组合以及未在本文中具体描述的其它实施例是显而易见的。因此,各种实施例的范围包括了使用以上各组分、结构和方法的任何其它应用。
要强调的是,提供本公开内容的摘要是为了符合37 C.F.R.§1.72(b),该条文要求有将允许读者快速地弄清本技术公开的性质的摘要。但应理解,它不能被用来解释或限制权利要求的范围或含义。此外,由上述“具体实施方式”可见,将各种特征组合在单个实施例中是为了使公开内容流畅。这种公开方式不应被解释为反映了这样一种意图,即所要求保护的实施例需要比各权利要求清楚记载的特征要多的特征。相反,如所附权利要求反映出来的那样,本发明的方面少于以上公开的单个实施例的所有特征。如此,下面的权利要求被包括到“具体实施方式”,每一个权利要求本身也作为单独的优选实施例。在所附权利要求书中,术语“包括”和“其特征在于”被用作相应的术语“包含”和“其中”的普通英语等效词。此外,“第一”、“第二”和“第三”等术语仅用作标号,不是对其对象的数字要求。
尽管用结构特征和/或方法动作专用的语言描述了本主题,但可以理解,所附权利要求书中定义的主题不必限于上述具体特征或动作。相反,上述具体特征和动作是作为实现权利要求的示例形式公开的。
Claims (25)
1.一种产生差异估计的方法,包括:
从照相机阵列接收图像阵列,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用所述曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值;
估计所述图像阵列的每一图像的噪声水平;
基于相应的图像的所述噪声水平,规一化每一图像的强度,以产生相应的规一化的图像;
标识所述相应的规一化的图像中的每一图像中的候选差异;
为每一个候选差异估计高动态范围(HDR)图像小块;以及
从所述HDR图像小块和目标函数计算误差,以产生差异估计。
2.如权利要求1所述的方法,其特征在于,包括:
通过使用所述差异估计,产生比所述图像阵列中的任何一个图像具有更高的动态范围的合成图像。
3.如权利要求1所述的方法,其特征在于,估计所述噪声水平包括对所述照相机阵列的照相机的传感器应用ISO增益。
4.如权利要求1所述的方法,其特征在于,所述照相机阵列包括单行照相机和单列照相机中的一个。
5.如权利要求1所述的方法,其特征在于,估计所述HDR图像小块包括:
将参考视图指定为所述图像阵列中的一个图像;
计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异;
将所述规一化的图像移位达其相应的差异;以及
计算所述移位的、规一化的图像的加权总和。
6.如权利要求5所述的方法,其特征在于,使用所述图像的所有像素位置的强度标度的中点来确定所述移位的、规一化的图像的权重。
7.如权利要求5所述的方法,其特征在于,确定与所述图像阵列中的相应的图像的曝光水平成比例的所述移位的、规一化的图像的权重。
8.如权利要求1所述的方法,其特征在于,所述图像阵列中的图像包括来自相应的照相机的原始Bayer数据。
9.如权利要求1所述的方法,其特征在于,所述图像阵列中的图像包括来自相应的照相机的成像流水线的输出数据。
10.如权利要求1所述的方法,其特征在于,通过使用照相机响应曲线来估计所述HDR图像小块。
11.一种产生差异估计的设备,包括:
处理器电路;以及
用于在所述处理器电路上执行以执行以下操作的成像管理模块:
从照相机阵列接收图像阵列,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用所述曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值;
估计所述图像阵列的每一图像的噪声水平;
基于相应的图像的所述噪声水平,规一化每一图像的强度,以产生相应的规一化的图像;
标识所述相应的规一化的图像中的每一图像中的候选差异;
为每一个候选差异估计高动态范围(HDR)图像小块;以及
从所述HDR图像小块和目标函数计算误差,以产生差异估计。
12.如权利要求1所述的设备,其特征在于,所述成像管理模块:
通过使用所述差异估计,产生比所述图像阵列中的任何一个图像具有更高的动态范围的合成图像。
13.如权利要求1所述的设备,其特征在于,所述成像管理模块通过对所述照相机阵列的照相机的传感器应用ISO增益,来估计所述噪声水平。
14.如权利要求1所述的设备,其特征在于,所述照相机阵列包括单行照相机和单列照相机中的一个。
15.如权利要求1所述的设备,其特征在于,所述成像管理模块:
将参考视图指定为所述图像阵列中的一个图像;
计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异;
将所述规一化的图像移位达其相应的差异;以及
计算所述移位的、规一化的图像的加权总和。
16.如权利要求15所述的设备,其特征在于,所述成像管理模块使用所述图像的所有像素位置的强度标度的中点来确定所述移位的、规一化的图像的权重。
17.如权利要求15所述的设备,其特征在于,所述成像管理模块确定与所述图像阵列中的相应的图像的曝光水平成比例的所述移位的、规一化的图像的权重。
18.如权利要求1所述的设备,其特征在于,所述图像阵列中的图像包括来自相应的照相机的原始Bayer数据。
19.一种产生差异估计的***,包括:
处理器电路;
包括多个照相机的照相机阵列;以及
用于在所述处理器电路上执行以执行以下操作的成像管理模块:
从所述照相机阵列捕捉图像阵列,所述图像阵列包括利用曝光参数的第一值拍摄的第一图像和利用所述曝光参数的第二值拍摄的第二图像,所述第一值不同于所述第二值;
估计所述图像阵列的每一图像的噪声水平;
基于所述相应的图像的所述噪声水平,规一化每一图像的强度,以产生相应的规一化的图像;
标识所述相应的规一化的图像中的每一图像中的候选差异;
为每一个候选差异估计高动态范围(HDR)图像小块;以及
从所述HDR图像小块和目标函数计算误差,以产生差异估计。
20.如权利要求19所述的***,其特征在于,所述成像管理模块:
通过使用所述差异估计,产生比所述图像阵列中的任何一个图像具有更高的动态范围的合成图像。
21.如权利要求19所述的***,其特征在于,所述成像管理模块通过对所述照相机阵列的照相机的传感器应用ISO增益,来估计所述噪声水平。
22.如权利要求19所述的***,其特征在于,所述照相机阵列包括单行照相机和单列照相机中的一个。
23.如权利要求19所述的***,其特征在于,所述成像管理模块:
将参考视图指定为所述图像阵列中的一个图像;
计算所述参考视图和所述图像阵列的每一其他图像之间的相应的差异;
将所述规一化的图像移位达其相应的差异;以及
计算所述移位的、规一化的图像的加权总和。
24.如权利要求23所述的***,其特征在于,所述成像管理模块确定与所述图像阵列中的相应的图像的曝光水平成比例的所述移位的、规一化的图像的权重。
25.如权利要求19所述的***,其特征在于,所述图像阵列中的图像包括来自相应的照相机的原始Bayer数据。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/101,061 | 2013-12-09 | ||
US14/101,061 US9600887B2 (en) | 2013-12-09 | 2013-12-09 | Techniques for disparity estimation using camera arrays for high dynamic range imaging |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104702852A true CN104702852A (zh) | 2015-06-10 |
CN104702852B CN104702852B (zh) | 2018-10-23 |
Family
ID=52002656
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410690898.XA Active CN104702852B (zh) | 2013-12-09 | 2014-11-25 | 用于高动态范围成像的使用照相机阵列的差异估计的技术 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9600887B2 (zh) |
EP (1) | EP2881915B1 (zh) |
CN (1) | CN104702852B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017133075A1 (zh) * | 2016-02-01 | 2017-08-10 | 中兴通讯股份有限公司 | 相位差的确定方法及装置 |
CN108702437A (zh) * | 2016-04-01 | 2018-10-23 | 英特尔公司 | 用于3d成像***的高动态范围深度生成 |
CN109997351A (zh) * | 2016-12-22 | 2019-07-09 | 华为技术有限公司 | 用于生成高动态范围图像的方法和装置 |
CN110049240A (zh) * | 2019-04-03 | 2019-07-23 | Oppo广东移动通信有限公司 | 摄像头控制方法、装置、电子设备和计算机可读存储介质 |
CN112261315A (zh) * | 2020-09-07 | 2021-01-22 | 清华大学 | 基于相机阵列孔径合成的高分辨率计算成像***及方法 |
CN113256537A (zh) * | 2021-06-22 | 2021-08-13 | 英特灵达信息技术(深圳)有限公司 | 一种图像数据生成方法和装置 |
CN114020331A (zh) * | 2021-11-10 | 2022-02-08 | 中国科学院长春光学精密机械与物理研究所 | 一种传感器阵列共通道数据压缩传输方法及其设备 |
CN114697545A (zh) * | 2020-12-29 | 2022-07-01 | 财团法人工业技术研究院 | 可移动摄影***和摄影构图控制方法 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9633426B2 (en) | 2014-05-30 | 2017-04-25 | General Electric Company | Remote visual inspection image capture system and method |
JP6548367B2 (ja) * | 2014-07-16 | 2019-07-24 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法及びプログラム |
US20170332000A1 (en) * | 2016-05-10 | 2017-11-16 | Lytro, Inc. | High dynamic range light-field imaging |
US10366478B2 (en) | 2016-05-18 | 2019-07-30 | Interdigital Ce Patent Holdings | Method and device for obtaining a HDR image by graph signal processing |
US10165257B2 (en) | 2016-09-28 | 2018-12-25 | Intel Corporation | Robust disparity estimation in the presence of significant intensity variations for camera arrays |
US10742894B2 (en) | 2017-08-11 | 2020-08-11 | Ut-Battelle, Llc | Optical array for high-quality imaging in harsh environments |
EP3685346A4 (en) * | 2017-11-09 | 2020-09-02 | SZ DJI Technology Co., Ltd. | SYSTEM AND PROCEDURE FOR ADJUSTING THE DYNAMIC IMAGE AREA |
KR102459853B1 (ko) * | 2017-11-23 | 2022-10-27 | 삼성전자주식회사 | 디스패리티 추정 장치 및 방법 |
US11288820B2 (en) * | 2018-06-09 | 2022-03-29 | Lot Spot Inc. | System and method for transforming video data into directional object count |
CN108876809B (zh) * | 2018-06-17 | 2021-07-20 | 天津理工大学 | 一种基于卡尔曼滤波的tld图像跟踪算法 |
CN111460870A (zh) | 2019-01-18 | 2020-07-28 | 北京市商汤科技开发有限公司 | 目标的朝向确定方法及装置、电子设备及存储介质 |
CN110012227B (zh) * | 2019-04-09 | 2021-06-29 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
KR20220010264A (ko) * | 2020-07-17 | 2022-01-25 | 에스케이하이닉스 주식회사 | 노이즈 제거 회로, 이미지 센싱 장치 및 그 동작방법 |
CN115174763A (zh) * | 2022-07-05 | 2022-10-11 | 重庆邮电大学 | 一种基于zynq的图像实时显示*** |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100271512A1 (en) * | 2009-04-23 | 2010-10-28 | Haim Garten | Multiple exposure high dynamic range image capture |
US20120162379A1 (en) * | 2010-12-27 | 2012-06-28 | 3Dmedia Corporation | Primary and auxiliary image capture devcies for image processing and related methods |
CN103413339A (zh) * | 2013-07-23 | 2013-11-27 | 清华大学 | 十亿像素高动态范围图像重建与显示的方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7574021B2 (en) * | 2006-09-18 | 2009-08-11 | Sarnoff Corporation | Iris recognition for a secure facility |
-
2013
- 2013-12-09 US US14/101,061 patent/US9600887B2/en active Active
-
2014
- 2014-11-03 EP EP14191567.8A patent/EP2881915B1/en active Active
- 2014-11-25 CN CN201410690898.XA patent/CN104702852B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100271512A1 (en) * | 2009-04-23 | 2010-10-28 | Haim Garten | Multiple exposure high dynamic range image capture |
US20120162379A1 (en) * | 2010-12-27 | 2012-06-28 | 3Dmedia Corporation | Primary and auxiliary image capture devcies for image processing and related methods |
CN103413339A (zh) * | 2013-07-23 | 2013-11-27 | 清华大学 | 十亿像素高动态范围图像重建与显示的方法 |
Non-Patent Citations (2)
Title |
---|
BENNETT WILBURN: "HIGH PERFORMANCE IMAGING UING ARRAYS OF INEXPENIVE CAMERAS", 《PROCEEDING SIGGRAPH "05 ACM SIGGRAPH 2005 PAPERS》 * |
JOEL KRONANDER ET AL: "Unified HDR recontruction from raw CFA data", 《COMPUTATIONAL PHOTOGRAPHY(ICCP), 2013 IEEE INTERNATIONAL CONFERENCE ON, IEEE》 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017133075A1 (zh) * | 2016-02-01 | 2017-08-10 | 中兴通讯股份有限公司 | 相位差的确定方法及装置 |
CN108702437A (zh) * | 2016-04-01 | 2018-10-23 | 英特尔公司 | 用于3d成像***的高动态范围深度生成 |
CN109997351B (zh) * | 2016-12-22 | 2021-02-23 | 华为技术有限公司 | 用于生成高动态范围图像的方法和装置 |
CN109997351A (zh) * | 2016-12-22 | 2019-07-09 | 华为技术有限公司 | 用于生成高动态范围图像的方法和装置 |
US11017509B2 (en) | 2016-12-22 | 2021-05-25 | Huawei Technologies Co., Ltd. | Method and apparatus for generating high dynamic range image |
CN110049240A (zh) * | 2019-04-03 | 2019-07-23 | Oppo广东移动通信有限公司 | 摄像头控制方法、装置、电子设备和计算机可读存储介质 |
CN110049240B (zh) * | 2019-04-03 | 2021-01-26 | Oppo广东移动通信有限公司 | 摄像头控制方法、装置、电子设备和计算机可读存储介质 |
CN112261315A (zh) * | 2020-09-07 | 2021-01-22 | 清华大学 | 基于相机阵列孔径合成的高分辨率计算成像***及方法 |
CN112261315B (zh) * | 2020-09-07 | 2022-06-17 | 清华大学 | 基于相机阵列孔径合成的高分辨率计算成像***及方法 |
CN114697545A (zh) * | 2020-12-29 | 2022-07-01 | 财团法人工业技术研究院 | 可移动摄影***和摄影构图控制方法 |
CN114697545B (zh) * | 2020-12-29 | 2023-10-13 | 财团法人工业技术研究院 | 可移动摄影***和摄影构图控制方法 |
CN113256537A (zh) * | 2021-06-22 | 2021-08-13 | 英特灵达信息技术(深圳)有限公司 | 一种图像数据生成方法和装置 |
CN113256537B (zh) * | 2021-06-22 | 2022-01-07 | 英特灵达信息技术(深圳)有限公司 | 一种图像数据生成方法和装置 |
CN114020331A (zh) * | 2021-11-10 | 2022-02-08 | 中国科学院长春光学精密机械与物理研究所 | 一种传感器阵列共通道数据压缩传输方法及其设备 |
CN114020331B (zh) * | 2021-11-10 | 2024-04-02 | 中国科学院长春光学精密机械与物理研究所 | 一种传感器阵列共通道数据压缩传输方法及其设备 |
Also Published As
Publication number | Publication date |
---|---|
EP2881915B1 (en) | 2018-10-17 |
US20150161797A1 (en) | 2015-06-11 |
US9600887B2 (en) | 2017-03-21 |
EP2881915A1 (en) | 2015-06-10 |
EP2881915A8 (en) | 2016-02-17 |
CN104702852B (zh) | 2018-10-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104702852A (zh) | 用于高动态范围成像的使用照相机阵列的差异估计的技术 | |
US11423508B2 (en) | Method and system of point cloud registration for image processing | |
US10089750B2 (en) | Method and system of automatic object dimension measurement by using image processing | |
US10013764B2 (en) | Local adaptive histogram equalization | |
Yu et al. | Shading-based shape refinement of RGB-D images | |
US9743016B2 (en) | Techniques for improved focusing of camera arrays | |
US9727775B2 (en) | Method and system of curved object recognition using image matching for image processing | |
Krig | Computer vision metrics: Survey, taxonomy, and analysis | |
US11176694B2 (en) | Method and apparatus for active depth sensing and calibration method thereof | |
US9940717B2 (en) | Method and system of geometric camera self-calibration quality assessment | |
US7554575B2 (en) | Fast imaging system calibration | |
KR101595537B1 (ko) | 국부화된 세그먼트화 이미지들의 네트워크 캡처 및 3d 디스플레이 | |
US9704254B2 (en) | Stereo image matching by shape preserving filtering of a cost volume in a phase domain | |
US10762664B2 (en) | Multi-camera processor with feature matching | |
CN112017135A (zh) | 一种遥感影像数据时空融合的方法、***及设备 | |
US9058655B2 (en) | Region of interest based image registration | |
US9900580B2 (en) | Techniques for improved image disparity estimation | |
US20190287259A1 (en) | Hierarchical disparity hypothesis generation with slanted support windows | |
WO2023086694A1 (en) | Image modification techniques | |
US11600023B2 (en) | Optical center calibration | |
US11182617B2 (en) | Device and method for generating heat map | |
Kanj | Flicker removal and color correction for high speed videos | |
Kim et al. | On-Chip Depth and Image Sensing System With Offset Pixel Apertures | |
Sun | HDR image construction from multi-exposed stereo LDR images | |
Mustaniemi | Image fusion algorithm for a multi-aperture camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |