CN114911062A - 具有双成像光路的光学***和具有双成像光路的光学装置 - Google Patents
具有双成像光路的光学***和具有双成像光路的光学装置 Download PDFInfo
- Publication number
- CN114911062A CN114911062A CN202110168574.XA CN202110168574A CN114911062A CN 114911062 A CN114911062 A CN 114911062A CN 202110168574 A CN202110168574 A CN 202110168574A CN 114911062 A CN114911062 A CN 114911062A
- Authority
- CN
- China
- Prior art keywords
- light
- unit
- imaging
- optical
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003287 optical effect Effects 0.000 title claims abstract description 241
- 238000003384 imaging method Methods 0.000 title claims abstract description 199
- 230000004927 fusion Effects 0.000 claims abstract description 36
- 230000009977 dual effect Effects 0.000 claims description 51
- 230000001902 propagating effect Effects 0.000 claims description 14
- 230000010287 polarization Effects 0.000 claims description 8
- 238000009826 distribution Methods 0.000 claims description 4
- 238000013461 design Methods 0.000 abstract description 13
- 230000000694 effects Effects 0.000 abstract description 10
- 230000009286 beneficial effect Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 13
- 230000015572 biosynthetic process Effects 0.000 description 9
- 238000001914 filtration Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 8
- 230000008901 benefit Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000004304 visual acuity Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/10—Beam splitting or combining systems
- G02B27/1006—Beam splitting or combining systems for splitting or combining different wavelengths
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/50—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images the image being built up from image elements distributed over a 3D volume, e.g. voxels
- G02B30/52—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images the image being built up from image elements distributed over a 3D volume, e.g. voxels the 3D volume being constructed from a stack or sequence of 2D planes, e.g. depth sampling systems
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
公开了一种具有双成像光路的光学***和具有双成像光路的光学装置,其中,所述光学***通过巧妙的光学设计,来解决用于采集深度图像的深度成像***和用于采集彩色图像的彩色成像***之间的视差问题,以利于后续的深度图像和彩色图像的融合。也就是,在本申请中,所述光学***以调整光学设计的角度来优化RGB‑D的图像融合效果。
Description
技术领域
本申请涉及3D成像领域,尤其是涉及具有双成像光路的光学***和具有双成像光路的光学装置。
背景技术
近年来,基于CCD感光单元或CMOS感光单元的二维成像技术已逐渐发展成熟,并在诸如医疗、安防、工业生产等诸多的领域得到了广泛的应用。然而,对于三维的真实世界,二维成像技术无法充分表达被摄目标的信息(例如,无法表达被摄目标的深度信息),在此背景下,三维成像技术应运而生。
三维成像技术不仅能够采集被摄目标自身的3D信息,而且还能够采集被摄目标在真实三维场景中的位姿信息,因此,在其机器视觉、虚拟现实、增强现实、自动驾驶等领域具有广泛的应用前景。
在三维成像技术中,一种技术路径为:通过深度摄像模组(例如,TOF 深度摄像模组)采集被摄目标的深度图像,同时,通过RGB摄像模组采集被摄目标的彩色图像,进而,通过图像融合算法融合被摄目标的深度图像和彩色图像,以获得同时具有被摄目标的深度信息和彩色信息的RGB-D图像。
在现行的技术方案中,虽然深度摄像模组与RGB摄像模组之间具有特定的相对位置关系,但本质上深度摄像模组与RGB摄像模组为在物理层面上为完全相互独立的两个元器件。并且,由于在采集被摄目标的图像信息时,深度摄像模组和RGB摄像模组之间存在视差,导致该被摄目标在深度摄像模组所采集的深度图像中的图像内容和该被摄目标在RGB摄像模组采集的彩色图像的图像内容之间不对齐。
相应地,在现行的技术方案中,RGB-D图像的成像质量取决于图像融合算法的优劣,为了取得良好的图像融合效果,所采用的图像融合算法需要进行复杂的信号处理和大量耗时的数据计算。在这样的技术发展趋势下,绝对多数厂商尝试从优化和复杂化图像融合算法的角度,来优化RGB-D图像的成像效果。但是,这种技术改进思路存在其天然缺陷。
因此,期待一种新型的用于RGB-D成像的技术方案。
发明内容
本申请的一个优势在于提供一种具有双成像光路的光学***和具有双成像光路的光学装置,其中,所述光学***通过巧妙的光学设计,来解决用于采集深度图像的深度成像***和用于采集彩色图像的彩色成像***之间的视差问题,以利于后续的深度图像和彩色图像的融合。也就是,在本申请中,所述光学***以调整光学设计的角度来优化RGB-D的图像融合效果。
本申请的一个优势在于提供一种具有双成像光路的光学***和具有双成像光路的光学装置,其中,所述具有双成像光路的光学***通过巧妙的光学设计,使得所述光学***的彩色成像***的感光面与成像光路之间的夹角与所述光学***的深度成像***的感光面与成像光路之间的夹角相一致,以解决深度成像***与彩色成像***的视差问题,以利于后续的RGB-D图像融合。
本申请的一个优势在于提供一种具有双成像光路的光学***和具有双成像光路的光学装置,其具有相对更为紧凑的结构设计,利于设备小型化的发展趋势。
为了实现上述至少一发明目的,本申请提供了一种具有双成像光路的光学***,其包括:
分光单元,被配置为接收来自被摄目标的成像光线并将该成像光线分成沿着第一光路传播的第一成像光线和沿着第二光路传播的第二成像光线,所述第一光路与所述第二光路之间成预设夹角,其中,所述成像光线包括来自被摄目标的可见光和来自被摄目标的近红外光;
深度摄像模组,包括投射单元和接收单元,所述投射单元被配置为投射近红外光至被摄目标,其中,所述接收单元包括第一感光单元和被保持于所述第一感光单元的感光路径上的第一透镜组和第一滤光单元,其中,所述第一滤光单元被配置为过滤所述第一成像光线中的可见光部分,所述感光单元被配置为接收来自所述第一光路并透过所述第一透镜组和所述第一滤光单元的第一成像光线,以生成所述被摄目标的深度图像;以及
彩色摄像模组,包括第二感光单元和被保持于所述第二感光单元的感光路径上的第二透镜组和第二滤光单元,其中,所述第二滤光单元被配置为过滤所述第二成像光线中的近红外光部分,所述第二感光单元被配置为接收来自所述第二光路并透过所述第二透镜组和所述第二滤光单元的第二成像光线,以生成所述被摄目标的彩色图像。
在上述具有双成像光路的光学***中,所述第一光路与所述第一感光单元的感光面垂直,所述第二光路与所述第二感光单元的感光面垂直。
在上述具有双成像光路的光学***中,所述第一透镜组和所述第二透镜组具有相同的视场角。
在上述具有双成像光路的光学***中,所述第一感光单元与所述第二感光单元具有相同的像素阵列分布。
在上述具有双成像光路的光学***中,所述第一光路与所述第二光路之间的夹角为90°。
在上述具有双成像光路的光学***中,所述分光单元,包括:第一棱镜、第二棱镜和夹设于所述第一棱镜与所述第二棱镜之间的偏振分光膜。
在上述具有双成像光路的光学***中,进一步包括第三透镜组,所述第三透镜组被配置为接收来自所述被摄目标的所述成像光线并将所述成像光线聚集向所述分光单元。
在上述具有双成像光路的光学***中,所述第三透镜组包括第一预设数量的光学透镜,所述第一预设数量为1-3。
在上述具有双成像光路的光学***中,所述第二透镜组包括第二预设数量的光学透镜,所述第一预设数量与所述第二预设数量之和大于等于5。
在上述具有双成像光路的光学***中,所述第一透镜组包括第三预设数量的光学透镜,所述第一预设数量与所述第三预设数量之和大于等于3且小于等于5。
在上述具有双成像光路的光学***中,所述第三透镜组具有入光面和出光面,所述第三透镜组的出光面邻近于所述分光单元。
在上述具有双成像光路的光学***中,进一步包括:对应于所述分光单元的匀光单元,所述匀光单元被配置为接收来自所述被摄目标的所述成像光线并将所述成像光线导向至所述分光单元。
在上述具有双成像光路的光学***中,所述匀光单元具有入光面和出光面,所述匀光单元的出光面邻近于所述分光单元。
在上述具有双成像光路的光学***中,进一步包括光转折单元,所述光转折单元被设置于所述第一光路上,被配置为将来自所述第一光路的所述第一成像光线转向至所述深度摄像模组的所述接收单元。
在上述具有双成像光路的光学***中,进一步包括光转折单元,所述光转折单元被设置于所述第二光路上,被配置为将来自所述第二光路的所述第二成像光线转向至所述彩色摄像模组。
在上述具有双成像光路的光学***中,所述光转折单元被集成于所述彩色摄像模组内。
根据本申请的另一方面,还提供了一种具有双成像光路的光学装置,其包括:
如上所述的具有双成像光路的光学***;以及
与所述光学***可通信地连接的控制器,其中,所述控制器用于融合所述深度图像和所述彩色图像,以获得融合图像。
在上述具有具有双成像光路的光学装置中,当所述深度图像和所述彩色图像具有相同分辨率时,所述控制器用于将所述深度图像中各像素的深度值赋值于所述彩色图像的对应像素点,以获得所述融合图像。
在上述具有具有双成像光路的光学装置中,当所述深度图像和所述彩色图像具有不同分辨率时,所述控制器用于:基于所述彩色图像与所述深度图像的分辨率之间的比值,将所述彩色图像调整为与所述深度图像具有相同分辨率的校正彩色图像;以及,将所述深度图像中各像素的深度值赋值于所述校正彩色图像的对应像素点,以获得所述融合图像。
通过对随后的描述和附图的理解,本申请进一步的目的和优势将得以充分体现。
本申请的这些和其它目的、特点和优势,通过下述的详细说明,附图和权利要求得以充分体现。
附图说明
从下面结合附图对本发明实施例的详细描述中,本申请的这些和/或其它方面和优点将变得更加清楚并更容易理解,其中:
图1图示了根据本申请实施例的具有双成像光路的光学***的示意图。
图2图示了根据本申请实施例的所述光学***所采集的深度图像和彩色图像之间的关系示意图。
图3图示了根据本申请实施例的所述光学***的一变形实施的示意图。
图4图示了根据本申请实施例的所述光学***的另一变形实施的示意图。
图5图示了根据本申请实施例的所述光学***的又一变形实施的示意图。
图6图示了根据本申请实施例的所述光学***的又一变形实施的示意图
图7图示了根据本申请实施例的具有双成像光路的光学装置的示意图。
具体实施方式
以下说明书和权利要求中使用的术语和词不限于字面的含义,而是仅由本发明人使用以使得能够清楚和一致地理解本申请。因此,对本领域技术人员很明显仅为了说明的目的而不是为了如所附权利要求和它们的等效物所定义的限制本申请的目的而提供本申请的各种实施例的以下描述。
可以理解的是,术语“一”应理解为“至少一”或“一个或多个”,即在一个实施例中,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个,术语“一”不能理解为对数量的限制。
虽然比如“第一”、“第二”等的序数将用于描述各种组件,但是在这里不限制那些组件。该术语仅用于区分一个组件与另一组件。例如,第一组件可以被称为第二组件,且同样地,第二组件也可以被称为第一组件,而不脱离发明构思的教导。在此使用的术语“和/或”包括一个或多个关联的列出的项目的任何和全部组合。
在这里使用的术语仅用于描述各种实施例的目的且不意在限制。如在此使用的,单数形式意在也包括复数形式,除非上下文清楚地指示例外。另外将理解术语“包括”和/或“具有”当在该说明书中使用时指定所述的特征、数目、步骤、操作、组件、元件或其组合的存在,而不排除一个或多个其它特征、数目、步骤、操作、组件、元件或其组的存在或者附加。
申请概述
如上所述,在三维成像技术中,一种技术路径为:通过深度摄像模组(例如,TOF深度摄像模组、散斑结构光深度摄像模组)采集被摄目标的深度图像,同时,通过RGB摄像模组采集被摄目标的彩色图像,进而,通过图像融合算法融合被摄目标的深度图像和彩色图像,以获得同时具有被摄目标的深度信息和彩色信息的RGB-D图像。
在现行的技术方案中,虽然深度摄像模组与RGB摄像模组之间具有特定的相对位置关系,但本质上深度摄像模组与RGB摄像模组为在物理层面上为完全相互独立的两个元器件。并且,由于在采集被摄目标的图像信息时,深度摄像模组和RGB摄像模组之间存在视差,导致该被摄目标在深度摄像模组所采集的深度图像中的图像内容和该被摄目标在RGB摄像模组采集的彩色图像的图像内容之间不对齐。更具体地,这里,深度摄像模组与RGB摄像模组之间存在视差指的是:深度摄像模组的感光面与其成像光路之间的夹角与RGB 摄像模组的感光面与其成像光路之间的夹角不一致。
相应地,在现行的技术方案中,RGB-D图像的成像质量取决于图像融合算法的优劣,为了取得良好的图像融合效果,所采用的图像融合算法需要进行复杂的信号处理和大量耗时的数据计算。在这样的技术发展趋势下,绝对多数厂商尝试从优化和复杂化图像融合算法的角度,来优化RGB-D图像的成像效果。但是,这种技术改进思路存在其天然缺陷。
首先,在现行的RGB-D图像融合的算法中,第一个关键在于:将深度图像与RGB图像中的特征点进行对齐,而无论图像融合算法如何优化,其皆无法改变深度图像和彩色图像存在视差的事实,这导致特征匹配的难度始终很高。也就是,无论图像融合算法如何优化,其皆无法彻底消除视差所带来的不良影响。更何况,在实际成像过程中,还可能存在图像畸变、图像遮挡、曝光差异等成像问题,这些都会降低图像融合的成像效果。
其次,图像融合算法的优化往往伴随着算法的复杂化,也就是,图像融合算法会消耗更多的计算资源,这不仅会产生更大的功耗,而且,还会影响图像的实时性。
针对上述技术问题,本申请的基本思路在于从调整光学设计的角度来解决用于采集深度图像的深度成像***和用于采集彩色图像的彩色成像***之间的视差问题,以利于后续的深度图像和彩色图像的融合。也就是,在本申请中,所述光学***以调整光学设计的角度来优化RGB-D的图像融合效果。
基于此,本申请提供了一种具有双成像光路的光学***,其包括:分光单元,被配置为接收来自被摄目标的成像光线并将该成像光线分成沿着第一光路传播的第一成像光线和沿着第二光路传播的第二成像光线,所述第一光路与所述第二光路之间成预设夹角,其中,所述成像光线包括来自被摄目标的可见光和来自被摄目标的近红外光;深度摄像模组,包括投射单元和接收单元,所述投射单元被配置为投射近红外光至被摄目标,其中,所述接收单元包括第一感光单元和被保持于所述第一感光单元的感光路径上的第一透镜组和第一滤光单元,其中,所述第一滤光单元被配置为过滤所述第一成像光线中的可见光部分,所述第一感光单元被配置为接收来自所述第一光路并透过所述第一透镜组和所述第一滤光单元的第一成像光线,以生成所述被摄目标的深度图像;以及,彩色摄像模组,包括第二感光单元和被保持于所述第二感光单元的感光路径上的第二透镜组和第二滤光单元,其中,所述第二滤光单元被配置为过滤所述第二成像光线中的近红外光部分,所述第二感光单元被配置为接收来自所述第二光路并透过所述第二透镜组和所述第二滤光单元的第二成像光线,以生成所述被摄目标的彩色图像。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示意性光学***
图1图示了根据本申请实施例的一种具有双成像光路的光学***的示意图。如图1所示,根据本申请实施例的所述具有双成像光路的光学***100,包括:分光单元110、深度摄像模组120和彩色摄像模组130,其中,所述分光单元110用于接收来自被摄目标的成像光线140,并将该成像光线分成沿着第一光路传播的第一成像光线141和沿着第二光路传播的第二成像光线 142,其中,沿着第一光路传播的第一成像光线141被传播至所述深度摄像模组120,以生成深度图像,沿着第二光路传播的第二成像光线142被传播至所述彩色摄像模组130,以生成彩色图像。
也就是,本申请实施例的所述光学***100,包括两个成像***:深度成像***和彩色成像***,其中,深度成像***用于采集被摄目标的深度图像,彩色成像***用于采集被摄目标的彩色图像。
更具体地,在本申请实施例中,所述成像光线140包括可见光和近红外光(也就是,波长为780nm至3000nm的光),其中,所述近红外光由所述深度摄像模组120产生,其中,在经过所述分光单元110的分光作用后,所述成像光线140被分为沿着第一光路传播的第一成像光线141和沿着第二光路传播的第二成像光线142。相应地,所述第一成像光线141和所述第二成像光线142也都包括可见光和近红外光。并且,特别地,所述第一光路与所述第二光路之间具有预设夹角,也就是,在经过所述分光单元110的作用后,所述成像光线140被分成两部分成像光线,这两部分成像光线之间具有确定的相对位置关系。
如图1所示,在本申请一个具体的示例中,所述分光单元110,包括:第一棱镜111、第二棱镜112和夹设于所述第一棱镜111与所述第二棱镜 112之间的偏振分光膜113,其中,来自被摄目标的所述成像光线140通过所述第一棱镜111进入所述分光单元110并在所述偏振分光膜113处产生分光以形成沿着第一光路传播的第一成像光线141和沿着第二光路传播的第二成像光线142。更具体地,在该具体示例中,所述第一棱镜111与所述第二棱镜112可以被配置为一对高精度直角棱镜,所述偏振分光膜113被配置于所述第一棱镜111与所述第二棱镜112中任一棱镜的斜边上。
特别地,在该示例中,由所述第一棱镜111、第二棱镜112和偏振分光膜113构成的所述分光单元110,能够把入射的非偏振光(即,所述成像光线)分成两束垂直的线偏光(即,所述第一成像光线和所述第二成像光线),其中P偏光完全通过,而S偏光以45度角被反射,出射方向与P光成90度角。也就是,在该具体示例中,所述分光单元110将所述成像光线分成相互垂直的第一成像光线141和第二成像光线142,即,所述第一光路与所述第二光路之间所成的预设夹角为90度。值得一提的是,在本申请其他示例中,在经过所述分光单元110的作用后,所述第一光路和所述第二光路之间还可以成其他夹角,对此,并不为本申请所局限。
如图1所示,在本申请实施例中,所述深度摄像模组120,包括:投射单元121和接收单元122,其中,所述投射单元121用于投射近红外光至被摄目标,所述接收单元122,用于接收来自所述分光单元110的所述第一成像光线141,以生成被摄目标的深度图像。在具体实施中,所述深度摄像模组120,包括但不限于:TOF深度摄像模组(例如,Direct TOF深度摄像模组,或者,Indirect TOF摄像模组等),散斑结构光深度摄像模组等。
如图1所示,所述接收单元122,包括第一感光单元123和被保持于所述第一感光单元123的感光路径上的第一透镜组124和第一滤光单元125,其中,所述第一滤光单元125被配置为过滤所述第一成像光线141中的可见光部分,所述第一感光单元123被配置为接收来自所述第一光路并透过所述第一透镜租124和所述第一滤光单元125的第一成像光线141,以生成所述被摄目标的深度图像。
值得一提的是,在具体实施中,所述深度摄像模组120还可以包括其他必要的部件,例如,支架,线路板等,因在本申请中重点在于讲述光学设计部分,故在此不对深度摄像模组120的具体结构做过多展开。并且,在本申请其他示例中,所述深度摄像模组120还可以被替换为其他深度摄像模组,例如,散斑结构光深度摄像模组等,对此,同样并不为本申请所局限。
如图1所示,在本申请实施例中,所述彩色摄像模组130,包括:第二感光单元131和被保持于所述第二感光单元131的感光路径上的第二透镜组 132和第二滤光单元133,其中,所述第二感光单元131被配置为过滤所述第二成像光线142并透过所述第二透镜组132和所述第二滤光单元133的第二成像光线142,以生成所述被摄目标的彩色图像。特别地,在本申请实施例中,所述第二滤光单元133为红外滤光单元,相应地,在成像过程中,穿过所述第二透镜组132的第二成像光线142在所述第二滤光单元133所发生过滤,其中,所述第二滤光单元133用于过滤所述第二成像光线142中的近红外光部分,以使得抵达所述第二感光单元131的成像光线中不含有近红外光部分,从而避免近红外光部分对彩色图像的成像产生干扰。
值得一提的是,在具体实施中,所述彩色摄像模组130还可以包括其他必要的部件,例如,支架,线路板等,因在本申请中重点在于讲述光学设计部分,故在此不对彩色摄像模组的具体结构做过多展开。
应注意到,在本申请实施例中,所述第一成像光线141沿着第一光路传播至所述第一感光单元123,所述第二成像光线142沿着第二光路传播至所述第二感光单元131,并且,所述第一光路垂直于所述第一感光单元123(更明确地,垂直于所述第一感光单元123的感光面),所述第二光路垂直于所述第二感光单元131(更明确地,垂直于所述第二感光单元131的感光面),因此,所述深度摄像模组120所采集的所述深度图像,与,所述彩色摄像模组130所采集的彩色图像之间不存在视差。也就是,被摄目标在所述深度图像中的图像特征与被摄目标在所述彩色图像中的图像特征之间对齐,以利于图像融合。也就是,所述深度图像和所述彩色图像的中心点完全重合(如图 2所示),并且,所述被摄目标在所述深度图像和所述彩色图像是相互对齐的,从而在将所述深度图像和所述彩色图像融合时,无需进行特征点匹配以极大地简化了图像融合算法的复杂度。
特别地,在本申请一个具体的示例中,所述深度摄像模组120的所述第一透镜组124和所述彩色摄像模组130的所述第二透镜组132之间具有相同的视场角(即,所述深度摄像模组120和所述彩色摄像模组130之间具有相同的感受域),以使得所述深度图像和所述彩色图像的中心点完全重合,并且,所述深度图像和所述彩色图像之间具有相同的尺度。优选地,在该示例中,所述第一感光单元123与所述第二感光单元131具有相同的像素阵列分布。也就是,所述第一感光单元123与所述第二感光单元131之间具有相同的分辨率,所述深度摄像模组120采集的深度图像和所述所彩色摄像模组 130采集的RGB图像具有相同的分辨率,使得在进行RGB-D图像融合时,无需对所述深度图像和所述彩色图像进行图像配准(即,将所述深度图像中的特征点与所述彩色图像中的特征点进行匹配对齐),只需将所述彩色图像的每个像素点上赋值所述深度图像中对应像素点的深度值即可。
当然,在本申请其他示例中,所述第一感光单元123与所述第二感光单元131之间的像素阵列分布可不相同,也就是,所述第一感光单元123与所述第二感光单元131之间具有不同的分辨率。在这些示例中,在进行RGB-D 图像融合过程中,可基于所述第一感光单元123与所述第二感光单元131之间的像素比先对所述彩色图像的尺寸进行调整,在调整为与所述深度图像具有相同尺寸后,再将所述深度图像中对应像素点的深度值赋值于所述彩色图像中对应的像素点。应注意到,即便所述第一感光单元123与所述第二感光单元131之间的分辨率不同,在进行RGB-D图像融合时,同样不需要进行特征点匹配等复杂的图像融合计算。
综上,基于本申请实施例的所述具有双成像光路的光学***被阐明,其通过巧妙的光学设计,来解决用于采集深度图像的深度成像***和用于采集彩色图像的彩色成像***之间的视差问题,以利于后续的深度图像和彩色图像的融合。也就是,在本申请中,所述光学***以调整光学设计的角度来优化RGB-D的图像融合效果。
图3图示了根据本申请实施例的所述光学***的一变形实施的示意图。
如图3所示,在该变形实施例中,所述具有双成像光路的光学***100 进一步包括第三透镜组150,所述第三透镜组150用于接收来自所述被摄目标的所述成像光线140并将所述成像光线140聚集向所述分光单元110。也就是,相较于图1所示意的所述光学***100,在该变形实施中,所述光学***100进一步包括设置于所述分光单元110前方的所述第三透镜组150,以使得所述成像光线140在先通过所述第三透镜组150后进入所述分光单元110。
在该变形实施中,所述第三透镜组150,包括至少一光学透镜,其能够在接收到来自所述被摄目标的所述成像光线140后对所述成像光线140聚集以所述成像光线140被聚拢为平行度更高的成像光线。也就是说,在该变形实施中,所述第三透镜组150能够在所述成像光线140进入所述分光单元 110前,对所述成像光线140进行调制以使得所述成像光线140更近似于平行光,这样,所述成像光线140能以近乎垂直于所述分光单元110的所述第一棱镜111的方式进入所述分光单元内。
特别地,在该变形实施中,所述第三透镜组150具有入光面和出光面,所述第三透镜组150的出光面邻近于所述分光单元110,以使得穿过所述第三透镜组150的所述成像光线140能以近乎垂直于所述分光单元110的所述第一棱镜111的方式进入所述分光单元110内。也就是,在该变形实施例中,所述第三透镜组150的出光面与所述分光单元110的入光面之间的距离很小,本领域普通技术人员应当理解,在现有工艺水平下最小可实现0.2mm左右的距离,以使得通过所述第三透镜组150的所述成像光线140在抵达所述分光单元110的过程中不会因传播距离过长而产生发散。应可以理解,在该变形实施例的一些具体示例中,所述第三透镜组150与所述分光单元110之间的距离可近乎为0。
并且,应注意到,在该变形实施例中,所述第三透镜组150与所述深度摄像模组120的所述第一透镜组124和所述彩色摄像模组130的所述第二透镜组132组成成像光路,因此,所述第三透镜组150可分担所述第一透镜组 124及所述第二透镜组132的部分光焦度。
具体地,在该变形实施例中,所述第三透镜组150包括第一预设数量的光学透镜,所述第一预设数量为1-3。所述第一透镜组包括第三预设数量的光学透镜。特别地,在该变形实施例中,所述第一预设数量与所述第三预设数量之和大于等于3且小于等于5。相应地,在配置所述第三透镜组150后,所述深度摄像模组120的所述第一透镜组124所包含的光学透镜数量可适当的减少,例如,被减少到仅包含一片光学透镜。这样,所述第一透镜组124的尺寸可得以缩减,以利于所述深度摄像模组120的小型化。
具体地,在该变形实施例中,所述第二透镜组132包括第二预设数量的光学透镜,所述第一预设数量与所述第二预设数量之和大于等于5,例如,当所述第三透镜组150包括3片光学透镜时,所述第二透镜组132至少包括 2片光学透镜。本领域普通技术人员应知晓,对于透镜组而言,其所包含的光学透镜数量越多,其解像力越高,但当光学透镜的数量过高时,其组装工艺难以实现,因此,在现有的透镜组中,很难将光学透镜的数量做到超过5 片。
相应地,在该变形实施例中,对于所述彩色摄像模组130而言,其实际参与成像的透镜组由所述第二透镜组132和所述第三透镜组150构成,也就是,所述彩色摄像模组130所包含的光学透镜的数量为所述第一预设数量与所述第二预设数量之和,因此,在该变形实施例中,所述彩色摄像模组130 具有相对较高的成像质量。另一方面,对于所述第二透镜组132和所述第三透镜组150而言,其各自不用设计过多数量的光学透镜,因此,其在工艺上也容易实现。
图4图示了根据本申请实施例的所述光学***的另一变形实施的示意图。
如图4所示,在该变形实施中,相较于如图1所示意的所述光学***,所述具有双成像光路的光学***100,进一步包括:对应于所述分光单元110 的匀光单元160,所述匀光单元160用于接收来自所述被摄目标的所述成像光线140并将所述成像光线140导向至所述分光单元110。
本领域普通技术人员应知晓,所述匀光单元160的作用在于将光线均匀化,因此,在通过所述匀光单元160后所述成像光线具有相对较优的平行度。也就是,在该变形实施中,所述匀光单元160能够在所述成像光线进入所述分光单元110前,对所述成像光线140进行调制以使得所述成像光线140更近似于平行光,这样,所述成像光线140能以近乎垂直于所述分光单元110 的所述第一棱镜111的方式进入所述分光单元110内。
特别地,在该变形实施中,所述匀光单元160进一步具有入光面和出光面,所述匀光单元160的出光面邻近于所述分光单元110,以使得穿过所述匀光单元160的所述成像光线140能以近乎垂直于所述分光单元110的所述第一棱镜111的方式进入所述分光单元110内。也就是,在该变形实施例中,所述匀光单元160的出光面与所述分光单元110的入光面之间的距离很小,以使得通过所述匀光单元160的所述成像光线140在抵达所述分光单元110的过程中不会因传播距离过长而产生发散。应可以理解,在该变形实施例的一些具体示例中,所述匀光单元160与所述分光单元110之间的距离可近乎为0。
图5图示了根据本申请实施例的所述光学***的又一变形实施的示意图。如图5所示,在该变形实施中,所述具有双成像光路的光学***100,进一步包括:光转折单元170。
如图5所示,在该变形实施中,所述光转折单元170被设置于所述第一光路上,被配置为将来自所述第一光路的所述第一成像光线141转向至所述深度摄像模组120的所述接收单元122。也就是,所述光转折单元170被配置于所述光学***100的第一光路上,并将来自第一光路的所述第一成像光线141通过折射转向所述深度摄像模组120的所述接收单元122,以使得所述光学***100的结构紧凑,有利于该模组设备小型化。
在具体实施中,所述光转折单元170可被实施为光反射镜、光转折棱镜等,对此,并不为本申请所局限。
图6图示了根据本申请实施例的所述光学***的又一变形实施例的示意图。在该变形实施中,所述具有双成像光路的光学***100,对所述光转折元件的设置位置做了调整。
具体地,在该变形实施例中,所述光转折单元170被设置于所述第二光路上,被配置为将来自所述第二光路的所述第二成像光线142转向至所述彩色摄像模组130。也就是,所述光转折单元170被配置于所述光学***100 的第二光路上,并将来自第二光路的所述第二成像光线142通过折射转向所述彩色摄像模组130,以使得所述光学***100的结构紧凑,有利于该模组设备小型化。
值得一提的是,在本申请其他示例中,所述光转折单元170还可以被集成于所述彩色摄像模组130内或者被集成于所述深度摄像模组内。应可以理解,当所述光转折元件170被集成于所述彩色摄像模组130内时,所述彩色摄像模组130被实施为潜望式摄像模组。
示意性光学装置
图7图示了根据本申请实施例的具有双成像光路的光学装置的示意图。
如图7所示,根据本申请实施例的所述具有双成像光路的光学装置210,其包括:如上所述的具有双成像光路的光学***100;以及,与所述光学***100可通信地连接的控制器220,其中,所述控制器220用于融合所述深度图像和所述彩色图像,以获得融合图像。也就是,所述光学装置210的所述控制器220用于将通过上述的光学***100获得所述深度图像和所述彩色图像进行配置和融合,以获得所述融合图像。
在本申请实施例中当所述深度摄像模组120获得的所述深度图像和所述彩色摄像模组130获得的所述彩色图像具有相同分辨率,所述控制器220用于将所述深度图像中各像素的深度值赋值于所述彩色图像的对应像素点,以获得所述融合图像。也就是,当通过所述光学***100所采集的所述深度图像和所述彩色图像具有相同的视场角和分辨率时,所述控制器220仅需将所述深度图像中各像素的深度值赋值于所述彩色图像的对应像素点,就可以获得RGB-D融合图像。
相应地,当所述深度摄像模组120获得的所述深度图像和所述彩色摄像模组130获得的所述彩色图像具有不同分辨率时,所述控制器能够以如下方式融合所述彩色图像和所述深度图像以获得RGB-D图像。
具体地,首先,所述控制器基于所述彩色摄像模组130获得的所述彩色图像与所述深度摄像模组120获得的所述深度图像的分辨率之间的比值,将所述彩色图像调整为与所述深度图像具有相同分辨率的校正彩色图像。接着,将所述深度图像中各像素的深度值赋值于所述校正彩色图像的对应像素点,以获得所述融合图像。
当然,在本申请其他示例中,所述控制器220还能够以其他方式融合所述深度图像和所述彩色图像。但不管以何种图像融合算法融合,应注意到,在本申请实施例中,由于所述深度图像和所述彩色图像之间不存在视差,因此,所述深度图像和所述彩色图像在进行图像融合时,不需要进行复杂的特征点匹配,也就是,在本申请实施例中,所采用的图像融合算法相对较为简单。
本领域的技术人员应理解,上述描述及附图中所示的本发明的实施例只作为举例而并不限制本发明。本发明的目的已经完整并有效地实现。本发明的功能及结构原理已在实施例中展示和说明,在没有背离所述原理下,本发明的实施方式可以有任何变形或修改。
Claims (19)
1.一种具有双成像光路的光学***,其特征在于,包括:
分光单元,被配置为接收来自被摄目标的成像光线并将该成像光线分成沿着第一光路传播的第一成像光线和沿着第二光路传播的第二成像光线,所述第一光路与所述第二光路之间成预设夹角,其中,所述成像光线包括来自被摄目标的可见光和来自被摄目标的近红外光;
深度摄像模组,包括投射单元和接收单元,所述投射单元被配置为投射近红外光至被摄目标,其中,所述接收单元包括第一感光单元和被保持于所述第一感光单元的感光路径上的第一透镜组和第一滤光单元,其中,所述第一滤光单元被配置为过滤所述第一成像光线中的可见光部分,所述第一感光单元被配置为接收来自所述第一光路并透过所述第一透镜组和所述第一滤光单元的第一成像光线,以生成所述被摄目标的深度图像;以及
彩色摄像模组,包括第二感光单元和被保持于所述第二感光单元的感光路径上的第二透镜组和第二滤光单元,其中,所述第二滤光单元被配置为过滤所述第二成像光线中的近红外光部分,所述第二感光单元被配置为接收来自所述第二光路并透过所述第二透镜组和所述第二滤光单元的第二成像光线,以生成所述被摄目标的彩色图像。
2.根据权利要求1所述的具有双成像光路的光学***,其中,所述第一光路与所述第一感光单元的感光面垂直,所述第二光路与所述第二感光单元的感光面垂直。
3.根据权利要求2所述的具有双成像光路的光学***,其中,所述第一透镜组和所述第二透镜组具有相同的视场角。
4.根据权利要求3所述的具有双成像光路的光学***,其中,所述第一感光单元与所述第二感光单元具有相同的像素阵列分布。
5.根据权利要求2所述的具有双成像光路的光学***,其中,所述第一光路与所述第二光路之间的夹角为90°。
6.根据权利要求1所述的具有双成像光路的光学***,其中,所述分光单元,包括:第一棱镜、第二棱镜和夹设于所述第一棱镜与所述第二棱镜之间的偏振分光膜。
7.根据权利要求1至6任一所述的具有双成像光路的光学***,进一步包括第三透镜组,所述第三透镜组被配置为接收来自所述被摄目标的所述成像光线并将所述成像光线聚集向所述分光单元。
8.根据权利要求7所述的具有双成像光路的光学***,其中,所述第三透镜组包括第一预设数量的光学透镜,所述第一预设数量为1-3。
9.根据权利要求8所述的具有双成像光路的光学***,其中,所述第二透镜组包括第二预设数量的光学透镜,所述第一预设数量与所述第二预设数量之和大于等于5。
10.根据权利要求8所述的具有双成像光路的光学***,其中,所述第一透镜组包括第三预设数量的光学透镜,所述第一预设数量与所述第三预设数量之和大于等于3且小于等于5。
11.根据权利要求7所述的具有双成像光路的光学***,其中,所述第三透镜组具有入光面和出光面,所述第三透镜组的出光面邻近于所述分光单元。
12.根据权利要求1至6任一所述的具有双成像光路的光学***,进一步包括:对应于所述分光单元的匀光单元,所述匀光单元被配置为接收来自所述被摄目标的所述成像光线并将所述成像光线导向至所述分光单元。
13.根据权利要求12所述的具有双成像光路的光学***,其中,所述匀光单元具有入光面和出光面,所述匀光单元的出光面邻近于所述分光单元。
14.根据权利要求1至6任一所述的具有双成像光路的光学***,进一步包括光转折单元,所述光转折单元被设置于所述第一光路上,被配置为将来自所述第一光路的所述第一成像光线转向至所述深度摄像模组的所述接收单元。
15.根据权利要求1至6任一所述的具有双成像光路的光学***,进一步包括光转折单元,所述光转折单元被设置于所述第二光路上,被配置为将来自所述第二光路的所述第二成像光线转向至所述彩色摄像模组。
16.根据权利要求15所述的具有双成像光路的光学***,其中,所述光转折单元被集成于所述彩色摄像模组内。
17.一种具有双成像光路的光学装置,其特征在于,包括:
如权利要求1至16任一所述的具有双成像光路的光学***;以及
与所述光学***可通信地连接的控制器,其中,所述控制器用于融合所述深度图像和所述彩色图像,以获得融合图像。
18.根据权利要求17所述的具有双成像光路的光学装置,其中,当所述深度图像和所述彩色图像具有相同分辨率时,所述控制器用于将所述深度图像中各像素的深度值赋值于所述彩色图像的对应像素点,以获得所述融合图像。
19.根据权利要求17所述的具有双成像光路的光学装置,其中,当所述深度图像和所述彩色图像具有不同分辨率时,所述控制器用于:
基于所述彩色图像与所述深度图像的分辨率之间的比值,将所述彩色图像调整为与所述深度图像具有相同分辨率的校正彩色图像;以及
将所述深度图像中各像素的深度值赋值于所述校正彩色图像的对应像素点,以获得所述融合图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110168574.XA CN114911062A (zh) | 2021-02-07 | 2021-02-07 | 具有双成像光路的光学***和具有双成像光路的光学装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110168574.XA CN114911062A (zh) | 2021-02-07 | 2021-02-07 | 具有双成像光路的光学***和具有双成像光路的光学装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114911062A true CN114911062A (zh) | 2022-08-16 |
Family
ID=82761530
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110168574.XA Pending CN114911062A (zh) | 2021-02-07 | 2021-02-07 | 具有双成像光路的光学***和具有双成像光路的光学装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114911062A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115670391A (zh) * | 2023-01-03 | 2023-02-03 | 中国科学技术大学 | 一种用于生物组织诊断的同轴智能影像*** |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109727188A (zh) * | 2017-10-31 | 2019-05-07 | 比亚迪股份有限公司 | 图像处理方法及其装置、安全驾驶方法及其装置 |
CN210093323U (zh) * | 2019-05-08 | 2020-02-18 | 深圳奥比中光科技有限公司 | 光学变焦成像装置及深度相机 |
WO2020168465A1 (zh) * | 2019-02-19 | 2020-08-27 | 华为技术有限公司 | 一种图像处理的装置和方法 |
CN112150528A (zh) * | 2019-06-27 | 2020-12-29 | Oppo广东移动通信有限公司 | 一种深度图像获取方法及终端、计算机可读存储介质 |
-
2021
- 2021-02-07 CN CN202110168574.XA patent/CN114911062A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109727188A (zh) * | 2017-10-31 | 2019-05-07 | 比亚迪股份有限公司 | 图像处理方法及其装置、安全驾驶方法及其装置 |
WO2020168465A1 (zh) * | 2019-02-19 | 2020-08-27 | 华为技术有限公司 | 一种图像处理的装置和方法 |
CN210093323U (zh) * | 2019-05-08 | 2020-02-18 | 深圳奥比中光科技有限公司 | 光学变焦成像装置及深度相机 |
CN112150528A (zh) * | 2019-06-27 | 2020-12-29 | Oppo广东移动通信有限公司 | 一种深度图像获取方法及终端、计算机可读存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115670391A (zh) * | 2023-01-03 | 2023-02-03 | 中国科学技术大学 | 一种用于生物组织诊断的同轴智能影像*** |
CN115670391B (zh) * | 2023-01-03 | 2023-04-28 | 中国科学技术大学 | 一种用于生物组织诊断的同轴智能影像*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102305263B1 (ko) | 홍채 이미지 형성을 위한 다중 모드 이미지 획득 | |
EP3480648B1 (en) | Adaptive three-dimensional imaging system | |
CN101937168B (zh) | 一种光学立体成像装置及立体摄像方法 | |
CN103152517A (zh) | 用于移动虹膜识别设备的成像模组及移动设备 | |
CN108718406B (zh) | 一种可变焦3d深度相机及其成像方法 | |
WO2022017447A1 (zh) | 图像显示控制方法、图像显示控制装置及头戴式显示设备 | |
CN111443476B (zh) | 显微镜自动对焦方法、显微镜***、医疗设备和存储介质 | |
CN114911062A (zh) | 具有双成像光路的光学***和具有双成像光路的光学装置 | |
Meuleman et al. | Single-shot monocular rgb-d imaging using uneven double refraction | |
CN103412461B (zh) | 基于分光片的3d成像*** | |
CN111665932B (zh) | 头戴式显示装置以及其眼球追踪装置 | |
CN116843740A (zh) | 一种无偏振片液晶透镜深度估计方法 | |
Jin et al. | A corner detection method for conventional light field camera by jointly using line-features | |
CN108737700A (zh) | 摄像装置 | |
KR102062765B1 (ko) | 이미지 변환 메커니즘을 갖춘 3d 이미지 캡쳐 시스템과 그 사용 방법 | |
CN111258166B (zh) | 摄像模组及其潜望式摄像模组和图像获取方法及工作方法 | |
KR20190108721A (ko) | 360도 카메라와 평면 거울을 이용한 다시점 영상 획득 장치 및 방법 | |
CN111443477B (zh) | 显微镜自动对焦方法、显微镜***、医疗设备和存储介质 | |
CN208143347U (zh) | 摄像装置 | |
CN112750157A (zh) | 一种深度图像生成方法及装置 | |
WO2018176575A1 (zh) | 一种可共光心的摄像机装置、全景无缝拼接组件及方法 | |
US20230176261A1 (en) | Uniaxial optical multi-measurement imaging system | |
JP2002148732A (ja) | 3次元動画入力装置 | |
US8698876B2 (en) | Single camera device and method for 3D video imaging using a refracting lens array | |
KR101790168B1 (ko) | 포물경을 이용한 입체영상 디스플레이 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |