CN106662433B - 结构化光成像***及方法 - Google Patents

结构化光成像***及方法 Download PDF

Info

Publication number
CN106662433B
CN106662433B CN201580033539.XA CN201580033539A CN106662433B CN 106662433 B CN106662433 B CN 106662433B CN 201580033539 A CN201580033539 A CN 201580033539A CN 106662433 B CN106662433 B CN 106662433B
Authority
CN
China
Prior art keywords
optical transmitting
structured light
transmitting set
group
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201580033539.XA
Other languages
English (en)
Other versions
CN106662433A (zh
Inventor
T·欧吉尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ams Sensors Singapore Pte Ltd
Original Assignee
Heptagon Micro Optics Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Heptagon Micro Optics Pte Ltd filed Critical Heptagon Micro Optics Pte Ltd
Publication of CN106662433A publication Critical patent/CN106662433A/zh
Application granted granted Critical
Publication of CN106662433B publication Critical patent/CN106662433B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01SDEVICES USING THE PROCESS OF LIGHT AMPLIFICATION BY STIMULATED EMISSION OF RADIATION [LASER] TO AMPLIFY OR GENERATE LIGHT; DEVICES USING STIMULATED EMISSION OF ELECTROMAGNETIC RADIATION IN WAVE RANGES OTHER THAN OPTICAL
    • H01S5/00Semiconductor lasers
    • H01S5/40Arrangement of two or more semiconductor lasers, not provided for in groups H01S5/02 - H01S5/30
    • H01S5/42Arrays of surface emitting lasers
    • H01S5/423Arrays of surface emitting lasers having a vertical cavity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Wire Bonding (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Cameras In General (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本发明涉及一种结构化光成像***及方法。该结构化光成像***及方法适于包括具有至少两组光发射器的投射器以及具有像素阵列的图像传感器,其中控制器被配置为使得各组能独立地操作。在一变型中,该图像传感器的各像素给该至少两组光发射器中的每一组分配一个储存节点。

Description

结构化光成像***及方法
技术领域
本发明涉及成像***及方法,更具体地,涉及结构化光成像***及方法。本发明还涉及用来确定场景的深度图的方法及装置。
背景技术
许多深度感测测量***(亦称为3D成像***或3D摄像机)依赖三角测量原理。主动三角测量***中的最常用方法之一是利用发射器(或投射器)及接收器,此两者物理上彼此分离以建立三角测量***的基线长度。投射器可提供结构化的照明。结构化的照明在此文中被理解为一种被空间编码或调制的照明。接收器包含具有像素阵列的图像传感器。控制器通常处理由接收器所获得的原始图像,并导出所获得的对象、场景或人物的三维深度图。此种***通常被称为结构化光成像***。结构化的照明可具有任何规则的形状,例如,线形或圆形,或可具有诸如伪随机点图案的伪随机图案,或者进一步可具有伪随机形状或形状的尺寸。在结构化光成像***的投射器中,此种伪随机但规则的图案的实施及使用已公开于PCT公开案WO2007/105205A2中且已广泛地应用于游戏产业。US2013/0038881A1及WO2013127974A1中记载了一种在结构化光成像中使用的新型投射器,其基于同一芯片上的许多发光激光二极管并且投射到3D空间。已在固态发光装置上的投影的图案的形成具有高效节能的优点。例如,在随机点图案的情况中,所有产生的光被固有地束缚至这些点。在这些点之间没有损失。另一方面,基于压印透明片、掩模或微镜阵列,诸如数字光处理器(DLP),来建立投射器,该些点之间的光被阻挡或偏移。因此,损失大量的所产生的光功率。其他投射器基于单个准直的激光二极管以及一或多个衍射光学组件。这些类型的投射器显示了良好的效率,但是在大的温度范围内保持图案足够稳定以基于结构化光成像来进行合理的深度测量是非常具有挑战性的。为了应对此种热缺陷,可对图案投射器的部件作温度控制,例如,藉由使用Peltier组件或加热电阻,从而减少整体能源效率。
基于时间编码的结构化光源及图像传感器的结构化光成像***的另一进良已在欧洲公开案EP2519001A2中被提出。对结构化光成像***施加时间编码可以减去背景光,无论是开像素(on-pixel)(在图像传感器上的像素能执行差分成像的情况下)或是关像素(off-pixel(图像后处理时)。此外,时间编码或调制能实现多个摄像机操作。这意味着不同的结构化光成像***可施用时间编码,并且藉由这样做,可以在相同的环境内操作而不互相干扰。能以有限的干扰进行操作的具体时间编码方式为,例如,基于码分多址、频分多址或是其他如频率或相位跳变。
发明内容
本发明的一个目的是提供一种具有改良的深度及横向分辨率的高效率的结构化光成像***以及相应的方法和装置、以及一种用于深度映像场景的方法。结构化光成像***亦可被理解为结构化光成像装置。
这些目的特别通过独立权利要求的特征来实现。此外,从属权利要求及说明书产生进一步的有利实施例。
在第一方面中,该结构化光成像装置包含:投射器,该投射器包含用于发射结构化光的至少两组光发射器;用于感测源自该投射器的光的图像传感器;以及控制单元。该控制器被构造且被配置为用于独立地操作该至少两组光发射器中的每一组。
在另一方面中,该结构化光成像***包括图像传感器及投射器,其中该投射器包括至少两组光发射器,其中控制器被配置为使各组能够独立地操作。
两个方面可以混合及互换。
在本发明的一些实施例中,该投射器中的单个光投射装置被配置为将由该至少两组光发射器所发射的结构化光投射到场景。若该组光发射器的图案是由相同的单个光投射装置所投射,则是有利的且减少了处理及校正的复杂度。这将导致不同组光发射器的恒定组合图案,其独立于该场景中的对象的距离。藉由在该组光发射器前方设置例如两个物理上分离的光投射装置,不同的发射图案在这段距离上彼此交叉跨越。因此,在单个距离处的单个校正采集将不足以根据三角测量而推导出差异和测量距离。
在本发明的一些实施例中,该至少两组光发射器包括垂直腔面发射激光器(VCSEL)。在一些情况中,VCSEL可以是光发射器的一适当选择,因为它们可被集成在小的装置中且由于它们的低成本及可大批量制造。
在本发明的一些实施例中,该至少两组光发射器被配置在单个芯片上。对于该至少两组光发射器在相同芯片上的情况,可简化光投射装置的设计。
在本发明的一些实施例中,该至少两组光发射器被配置成物理地交错。该至少两组光发射器的物理交错以及其投射允许该发射的结构化光具有更紧密的结构,因此,从该结构化光图像所获得的空间信息可获得更高的横向及深度分辨率。
在本发明的一些实施例中,该至少两组光发射器被配置成发射相同但偏移的结构化光图案。通过由该至少两组光发射器发射相同但偏移的结构化光图案,比起由该至少两组光发射器发射完全不同的图案,结果将变得更能被预测。
在本发明的一些实施例中,该至少两组光发射器被配置成发射不同的结构化光图案。发射不同的结构化光图案,例如,发射随机点图案和条纹图案可增加深度分辨率。此外,不同的随机点图案的组合是可能的。
在本发明的一些实施例中,该控制器被配置为使得该至少两组光发射器能够以交错模式操作。因为该控制器可被配置为使得各组独立地操作,因此交错不同组光发射器的操作是有利的。取决于实际应用,不同的交错操作方案是可能的,例如伪噪声(pseudo-noise)操作、跳频操作或其他。交错操作有助于减少结构化光成像***之间的干扰,并可降低本发明中快速移动对象的问题。
在本发明的一些实施例中,图像传感器包括像素阵列,每个像素针对每组光发射器具有独立的储存节点。
在本发明的一些实施例中,该控制器被配置为使得针对该图像传感器的每个像素,为每组光发射器分配一个储存节点。在该图像传感器的每个像素上,每组光发射器具有一单独的储存节点是有利的。这可将每组光发射器的图像储存在单独的储存节点中。
在本发明的一些实施例中,该图像传感器的像素包括公共信号去除电路,其被构成为去除该图像传感器上的像素的储存节点的公共模式信号。在像素级别上的公共模式信号的去除会增加动态范围,并且能够抑制背景光。
在本发明的一些实施例中,该控制器被配置为使得在曝光期间该至少两组光发射器能够交替地、反复地被开启,其中该信号被相应地整合在像素的所分配的储存节点上。在曝光期间,该组光发射器的交替及反复操作以及在像素中的分配的储存节点中的相应信号的整合,有助于减少在同一环境中与其他结构化光成像***的干扰,并且进一步降低由于曝光期间场景变化的影响。
在本发明的一些实施例中,该图像传感器的像素为飞行时间(time-of-flight)像素。大多数现有的飞行时间像素已包含两个储存节点及甚至像素中(in-pixel)公共模式去除电路。因此,技术人员可基于此种飞行时间像素结构而建立根据本发明的结构化光***,而无需设计新的像素。
在第一方面中,该结构化光成像方法包含提供投射器,其包含至少两组光发射器,从该至少两组光发射器发射结构化光,其中各组光发射器组独立地操作,以及藉由图像传感器感测源自该投射器的光。
在另一方面中,该结构化光成像方法包含使用图像传感器及投射器,其中该投射器包括至少两组光发射器,每组光发射器独立地操作。
两个方面可以混合及互换。
在一变型中,由该至少两组光发射器所发射的该结构化光通过单个光投射装置被投射到场景上。在一变型中,该至少两组光发射器以交错模式操作。在一变型中,针对该图像传感器各像素的该至少两组,每组光发射器分配一个储存节点。在一变型中,去除该图像传感器的储存节点的公共模式信号。在一变型中,在曝光期间交替地且反复地开启该至少两组光发射器,其中该信号相应地被整合在像素的所分配的储存节点中。
用于场景之深度映射的方法包括:
-以来自投射器的结构化光照射该场景,该投射器包含至少第一和第二组光发射器;
-该照射包括独立地操作每组光发射器;
-检测从该场景反射的该结构化光的光部分;
-从所检测的光部分确定该场景的深度图。
在另一方面,用于场景的深度映射的方法包括:
-藉由本文中所描述的这种结构化光成像装置(或***)的辅助,照亮该场景;
-藉由该结构化光成像装置(或***)的辅助,检测从该场景反射的该结构化光的光部分;
-从所检测的光部分确定该场景的深度图。
用于确定场景的深度图的装置包含本文中所描述的这种结构化光成像装置(或***),用于以结构化光照亮该场景,以及用于检测从该场景反射的该结构化光的光部分。并且其包含处理单元,用于根据所检测的光部分确定该场景的深度图。该处理单元可包含在该结构化光成像装置的控制器中。
附图说明
本文所描述之发明将从下文所给出的详细描述及附图而被更充分地理解,下文所给出的详细描述及附图不应被视为对所附权利要求中所述的发明的限制。附图示出了
图1结构化光成像装置及方法的构造方框图;
图2本发明实施例中可实施的像素的构造方框图;
图3本发明实施例中可实施的具有两组光发射器的发光组件的俯视图;
图4在两组光发射器皆同时开启的情况下(图4a)以及在每组光发射器被单独控制的情况下(图4b),由如图3中所示的发光组件所造成的随机点图案;
图5现有的结构化光成像***的被减少为两个点的图像(图5a至c),其中插图显示放大的细节(上图:光栅化的黑与白,下图:灰阶),以及图5d至f绘出跨越图5a至c的点的中心的信号的水平横截面;
图6结构化光成像***的被减少为两个点的图像(图6a至c),其中插图显示放大的细节(上图:光栅化的黑与白,下图:灰阶),以及图6d至f绘出跨越图6a至c的点的中心的信号的水平横截面。
具体实施方式
在现有技术的结构化光成像***中,投射器是静态的,此意味着总是发射相同的图案,或者投射器包括一些移动部件在投射器中,诸如微镜(例如,基于MEMS的数字光学处理器),或者投射器包括局部透明度改变装置,诸如液晶装置。后两者几乎能够任意地改变图案,但由于该方法的光阻挡性质使得大部分的发射光被浪费了。本发明可以,至少在实例中,实现无需任何移动部件的高效率结构化光成像***、更佳的分辨率、以及增加的温度稳定性。
图1示出了设备及方法的实施例的方框图。结构化光成像***10包括光投射器110、图像传感器120、光学***130、及控制器150,用以获取场景中的对象50的图像。光学***130通常包括成像光学元件及光学带通滤波器以阻挡不需要的光。图像传感器120包括像素121的阵列。投射器110包括发光组件111,例如,VCSEL(VCSEL:垂直腔面发射激光器)阵列,其具有第一组光发射器111a及第二组光发射器111b。该光发射器的所有光是由光投射装置112朝向场景投射。光投射装置112可包含透镜、屏蔽及/或衍射光学组件。
两组光发射器111a、111b由控制器150控制。此外,控制器150将两组光发射器111a、111b与图像传感器120及像素121同步。
光发射器为,例如,垂直腔面发射激光器(VCSEL)阵列上的VCSEL。一种具有基于VCSEL阵列但不将发射器如本专利申请案所提出的分离成能被独立操作的不同组的发光组件110的结构化光成像***10已由US2013/0038881A1及WO2013127974A1公开。
根据图1,当光输出源自于第一组光发射器111a时,结构化光成像***10的光输出对应于来自投射器110的第一结构化光发射20a。当第一组光发射器20a开启并到达对象50时,所发出的结构化光被对象50反射,且第一反射光30a的一部分到达结构化光成像***10的光学***130。光学***130将第一反射光30a成像到图像传感器120的像素121上。当光输出源自于第二组光发射器111b时,结构化光成像***10的光输出对应于出自投射器110的第二光输出20b。当第二组光发射器20b开启并到达对象50时,所发出的结构化光被对象50反射,且第二反射光30b的一部分到达结构化光成像***10的光学***130。光学***130将第二反射光30b成像到图像传感器120的像素121上。发射光的波长为,例如,介于800nm及1000nm之间,但也可以是在可见光、红外线或紫外线的范围内。
图像传感器120的像素121的一实施例示于图2中。像素121包括感光区域122。在感光区域下方的光生电荷可通过第一开关123a被传送到第一储存节点124a中,或是通过第二开关123b被传送到第二储存节点124b中。
一些像素的实现还包括第三开关,用以,例如,在读取或空闲时间期间排出(dump)不需要的电荷。在所示实施例中,像素121还包括信号处理电路125,其执行信号的减法,更具体地,确定储存在第一储存节点124a中的电荷和储存在第二储存节点124b中的电荷的差值。
在读取信号之前,减法或者公共模式电荷去除(公共模式信号去除)可以在曝光期间不断地发生、在曝光期间或者在曝光结束时多次发生。使用类似像素结构的结构化光成像***已呈现于EP2519001A2中,其中将在结构化光的发射期间的所有光传送到图像传感器120上的像素121的第一储存节点124a,并且其中在相等的持续时间期间,结构化光的发射关闭且只将背景光信号传送到图像传感器120上的像素121的第二储存节点124b。这种开启/关闭循环可被重复多次,且这些信号分别被整合在这些像素的第一及第二储存节点中。
藉由在各像素的两个储存节点中执行减法或公共信号去除(公共模式信号去除),可在信号处理路径上较早去除背景信号。包含此种像素结构的其他像素结构,即,具有有单个感光区域、由第一开关连接至第一储存节点以及由第二开关连接至第二储存节点的像素,在飞行时间深度成像及荧光寿命显微术所使用的像素中是众所周知的。此种像素结构已公开于,例如,专利US5856667、EP1009984B1、EP1513202B1及US7884310B2。
本发明的一个实施例提出由控制器150同步两组光发射器111a、111b及两个开关123a、123b。在第一阶段中,第一组光发射器111a被开启,第二组光发射器111b被关闭。在这段期间,所有来自图像传感器120的像素121的感光区域122的光生电荷通过开关123a被传送到第一储存节点124a。在第二阶段中,第二组光发射器111b被开启,第一组光发射器111a被关闭。此时,所有来自图像传感器120的像素121的感光区域122的光生电通透过开关123b被传送到第二储存节点124b。
第一及第二阶段的循环可被重复多次。特别是,在同一循环中,第一阶段的持续时间可以和第二阶段的持续时间相同。通常,各个循环中阶段的持续时间可有所不同。藉由这样做,循环的时间编码是可能的,并且例如,正交调制方案可被施用以避免不同的结构化光成像***10之间的干扰。更快的循环,意味着更短的阶段持续时间,通常在场景中有快速移动对象的情况下显示效能改进。阶段持续时间通常在几百纳秒到几百微秒的量级。取决于应用,针对单次曝光和它们整合在两个储存节点中的信号可重复多达百万次循环。
像素121中的信号处理电路125可包括一些公共光信号去除能力(公共模式信号去除能力)。像素121中的这种公共信号去除特性可大幅增加结构化光成像***10的动态范围并增加背景光的鲁棒性(robustness)。
在所有循环的曝光之后,将数据从图像传感器120的像素121读取至控制单元150,其中,从该数据可导出在环境中成像对象50的深度图。
图3示出了发光组件111的一个说明性实施方式。发光组件111包括第一组光发射器111a及第二组光发射器111b。两组光发射器111a、111b可被不同地控制。对两个不同组的不同控制可允许在曝光期间交替地控制(特别是操作)各组光发射器,并且将其与至像素(121)上的不同储存节点(124a、124b)的分配同步。来自第一组光发射器111a及第二组光发射器111b的发射的随机点图案可被投影至场景中的对象50上,而源自第一组光发射器111a的任意发射点不会与源自第二组光发射器111b的任意发射点干扰。若两组光发射器的光藉由相同的光投射装置112而被投射至空间中,则可达成此情形。光投射装置112通常包括一或多个透镜组件、屏蔽及/或衍射光学组件。
在一实施例中,发光组件111建立在相同发射芯片上的第一组垂直腔面发射激光器(VCSEL)和第二组VCSEL上。第一及第二组光发射器可以在物理上交错。此外,第一及第二组光发射器(111a、111b)可被配置成发射相同的结构化光图案,例如,相同的随机点图案,但第一发射结构光图案相对于第二发射结构光图案横向偏移。在其他情况中,两组光发射器(111a、111b)可被配置成发射不同的结构化光图案,例如随机点图案和条纹状图案,或者两个不同的随机点图案。
图4a及图4b的图像对应于图3中所示的发光组件。图4a示出了当所有的光发射器被开启且被等同地控制时,所发射的结构化光发射。由两个不同组光发射器(111a、111b)所发射的点无法区分。由此,如图4a中所示的发射光图案相当于随机点图案,其在结构光成像中为现有技术并且其已例如由PCT公开案WO2007/105205A2公开。然而,图4b示出了根据一实施例的可能的发射图案。当第一组光发射器被开启时发射光20a被表示为空心圆,而当第二组光发射器被开启时发射光20b被表示为黑点。
为了说明之目的,该范例受限于各组光发射器的随机点图案。然而,许多不同的结构化光图案及其组合为本发明可能的实现方式。在随机点图案的情况下,第二组光发射器111b可具有与第一组光发射器111a相同但相对于第一组光发射器而横向偏移的图案,且可被独立地操作。
作为一范例,在第一阶段期间,第一组光发射器111a被开启(空心圆),并且由图像传感器120所获得的光电荷通过像素121上的第一开关123a被传送到第一储存节点124a,参照图2。在第二阶段中,第二组光发射器111b被开启,并且由图像传感器120所获得的电荷通过第二开关123b被传送到像素121上的第二储存节点124b。这两个阶段可再次在单次曝光期间被重复多次,其具有可能不同的阶段持续时间,以减少与其他结构化光成像***10的干扰,并减少在获取场景中的快速移动对象50时的假象(artefacts)。像素121可进一步地具有像素内的公共信号去除电路,其使得结构化光成像***10在背景抑制方面的鲁棒性更好。
图5及图6的系列图像示出了相较于现有的结构化光成像***,本发明的可能优点。参照两个相邻点的图像来示出此优点。图5a-c及图6a-c提供了插图,为了改进清晰度这些插图显示了对应图像的放大细节(上图:光栅化的黑与白,下图:灰阶)。
在图5的一系列图像中,示出了现有的结构化光成像***的结果。在此图像系列中,图像中的两个点源自于相同的投射器及相同的发光组件。两个点同时由投射器发射;两个点的信号同时被整合在图像传感器的像素上。图5a示出了由图像传感器所获得的两个点,该两个点的重心距离为相隔4个像素。图5d示出了穿过图5a的这些点的中心的水平信号横截面。图5b示出了与图5a相同的图像,但这次,两个点的中心之间的距离只有3个像素。图5e示出了穿过图5b的这些点的信号的水平横截面。图5c示出了与图5a及图5b相同的图像,但这次,该些点仅相隔两个像素。图5c的水平横截面绘示于图5f中。
点之间为4个像素的距离时(图5a及图5d),于图像中可清楚地区分及识别这些点。然而,若这些点彼此更靠近时,将越来越难以区分(图5b及图5e),而当这些点仅相隔2个像素时则完全无法区分这些点(图5c及图5f)。这表示,现有结构化光成像***所给出的结构化光的信息密度是有限的。
图6显示基于具体实施例的一系列结果。在曝光的第一阶段中,第一组光发射器111a被开启,并且所有的光电荷通过第一开关123a被传送到图像传感器120上的像素121上的第一储存节点124a(亦参照图2)。在第二阶段中,第二组光发射器111b被开启,并且所有的光电荷通过第二开关123b被传送到图像传感器120上的像素121上的第二储存节点124b。可在曝光期间将这两个阶段的循环重复多次。为了说明之目的,将图像中的点数目减少为只有两个点。第一个点是在曝光期间所有循环的第一阶段期间被整合的信号,第二个点是在曝光期间所有循环的第二阶段期间被整合的信号。
在图示的情况中,假设像素121在它的信号处理电路125中包含一公共信号去除电路,以从第一及第二储存节点124a、124b减去信号的公共水平(参照图2)。因此所产生的图像为像素121的第一储存节点124a与像素121的第二储存节点124b的差分图像。
若仅存在背景光,所产生的差分图像的值大约为零(在公共信号去除之后只留下噪声),且其针对源自第一组光发射器111a的点具有正信号,以及针对源自第二光发射器111b的点具有负信号。图6a至c各图示出了根据此实施例所产生的差分图像的两个点。图6a显示源自第一组光发射器111a的一个发射器的点及源自第二组光发射器111b的一个发射器的点的图像。两点的重心相隔4个像素。图6d示出了通过这些点的中心的水平横截面。图6b示出了与图6a中相同的点,但是两点为相隔3个像素。图6e以这些点的中心示出了信号的水平横截面。图6c显示了与图6a及图6b相同的点,但中心的距离减少为2个像素。图6f示出了通过这些点中心的信号的水平横截面。即使这两个点之间具有短如2个像素的距离,仍可以轻易地区分这两个点。
图6及图5的系列图像显示,相较于图5的现有结构化光成像***,对于图6的结构化光成像***10而言,这些点能更好地被区分。此范例显示了本文所公开的结构化光中能封装的信息密度可以比现有的结构化光成像***中所能封装的信息密度还要高。因此,可提高深度及横向分辨率,或者使用较低像素计数的图像传感器,其降低了***复杂度、图像处理资源及成本。
还进一步公开了下面的实施例:
结构化光成像***实施例(结构化光成像装置实施例):
E1.一种结构化光成像***(10),包括图像传感器(120)及投射器(110),其中投射器(110)包括至少两组光发射器(111a、111b),其中控制器(150)被配置为使得各组能独立地操作。
E2.根据实施例E1的结构化光成像***(10),其中投射器(110)的单个光投射装置(112)被配置为将由至少两组光发射器(111a、111b)所发射的结构化光投射到场景上。
E3.根据实施例E1或E2的结构化光成像***(10),其中所述至少两组光发射器(111a、111b)包括垂直腔面发射激光器(VCSEL)。
E4.根据实施例E1至E3中任意一个的结构化光成像***(10),其中所述至少两组光发射器(111a、111b)被配置在单个芯片上。
E5.根据实施例E1至E4中任意一个的结构化光成像***(10),其中所述至少两组光发射器(111a、111b)物理交错地配置。
E6.根据实施例E1至E5中任意一个的结构化光成像***(10),其中所述至少两组光发射器(111a、111b)被配置成发射相同但偏移的结构化光图案。
E7.根根据实施例E1至E6中任意一个的结构化光成像***(10),其中所述至少两组光发射器(111a、111b)配置成发射不同的结构化光图案。
E8.根据实施例E1至E7中任意一个的结构化光成像***(10),其中所述控制器(150)被配置为使所述至少两组光发射器(111a、111b)能够以交错模式操作。
E9.根据实施例E1至E8中任意一个的结构化光成像***(10),其中图像传感器(120)包括像素(121)阵列,每个像素(121)针对每组光发射器(111a、111b)具有独立的储存节点(124a、124b)。
E10.根据实施例E1至E9中任意一个的结构化光成像***(10),其中控制器(150)被配置为使得针对图像传感器(120)的每个像素(121),每组光发射器(111a、111b)分配一个储存节点(124a、124b)。
E11.根据实施例E1至E10中任意一个的结构化光成像***(10),其中图像传感器(120)的像素(121)包括公共信号去除电路,其被配置为去除图像传感器(120)上的像素(121)的储存节点(124a、124b)的公共模式信号。
E12.根据实施例E1至E11中任意一个的结构化光成像***(10),其中控制器(150)被配置为使得所述至少两组光发射器(111a、111b)在曝光期间交替地且反复地开启,其中信号相应地被整合在像素(121)的所分配的储存节点(124a、124b)上。
E13.根据实施例E1至E12中任意一个的结构化光成像***(10),其中图像传感器(120)的像素(121)为飞行时间像素。
结构化光成像方法实施例:
E14.一种结构化光成像方法,使用图像传感器(120)及投射器(110),其中投射器(110)包括至少两组光发射器(111a、111b),各个光发射器组可独立地操作。
E15.根据实施例E14的结构化光成像方法,其中将由所述至少两组光发射器(111a、111b)所发射的结构化光通过单个光投射装置(112)投射到场景上。
E16.根据实施例E14或E15的结构化光成像方法,其中以交错模式操作所述至少两组光发射器(111a、111b)。
E17.根据实施例E14至E16中任意一个的结构化光成像方法,其中针对图像传感器(120)的每个像素(121),每组光发射器(111a、111b)分配一个储存节点(124a、124b)。
E18.根据实施例E14至E17中任意一个的结构化光成像方法,其中,去除图像传感器的储存节点的公共模式信号。
E19.根据实施例E14至E18中任意一个的结构化光成像方法,其中在曝光期间交替地且反复地开启所述至少两组光发射器(111a、111b),其中信号相应地被整合在像素(121)的所分配的储存节点(124a、124b)上。
【符号说明】
10:结构化光成像***
110:投射器
111:发光组件
111a/b:第一/第二组光发射器
112:光投射装置
130:光学***
120:图像传感器
121:像素
122:感光区域
123a/b:第一/第二开关
124a/b:第一/第二储存节点
125:信号处理电路
150:控制器
50:对象
20a:当第一组光发射器开启时所发射的结构化光
20b:当第二组光发射器开启时所发射的结构化光
30a:当第一组光发射器开启时所反射的光
30b:当第二组光发射器开启时所反射的光

Claims (27)

1.一种结构化光成像装置,包含:
投射器,其包含***作用于发射结构化光的至少两组光发射器,
图像传感器,其***作用于感测源自该投射器的光,其中该图像传感器包括像素阵列,每个像素包含至少两个储存节点,及
控制单元,其中该控制器***作用于独立地操作该至少两组光发射器中的每一组,且其中该控制器***作用于在曝光期间反复地、交替地开启各组光发射器中的不同组光发射器,并且用于将其与各像素中的不同储存节点的分配同步。
2.根据权利要求1所述的结构化光成像装置,其中每个像素针对每组光发射器具有独立的储存节点。
3.根据权利要求1所述的结构化光成像装置,其中该控制器***作用于针对每个像素,向每组光发射器分配相应储存节点中不同的一个。
4.根据权利要求1所述的结构化光成像装置,其中该图像传感器包括公共信号去除电路。
5.根据权利要求4所述的结构化光成像装置,其中该公共信号去除电路中的每一个被配置用于从相应储存节点去除公共模式信号。
6.根据权利要求1所述的结构化光成像装置,其中该控制器被进一步操作用于在每个像素中、在不同的各个储存节点中,收集源自不同组的光发射器发出的结构化光的电荷。
7.根据权利要求1所述的结构化光成像装置,该投射器仅包含单个光投射装置,且该光投射装置***作用于将由该至少两组光发射器所发射的结构化光投射到场景上。
8.根据权利要求1所述的结构化光成像装置,其中该至少两组光发射器包含垂直腔面发射激光器。
9.根据权利要求1所述的结构化光成像装置,其中该至少两组光发射器中的每一组包含至少一个垂直腔面发射激光器。
10.根据权利要求1所述的结构化光成像装置,其中该至少两组光发射器中的每一组包含多个垂直腔面发射激光器。
11.根据权利要求1所述的结构化光成像装置,其中该至少两组光发射器被配置在单个芯片上。
12.根据权利要求1所述的结构化光成像装置,其中该至少两组光发射器被配置成物理地交错。
13.根据权利要求1所述的结构化光成像装置,其中该至少两组光发射器***作成发射相同的但偏移的结构化光图案。
14.根据权利要求1所述的结构化光成像装置,其中该至少两组光发射器***作成发射不同的结构化光图案。
15.根据权利要求1所述的结构化光成像装置,其中该控制器***作用于以交错模式操作该至少两组光发射器。
16.根据权利要求1所述的结构化光成像装置,其中该控制器***作用于以一次仅操作各组光发射器中的一组的模式操作该至少两组光发射器。
17.一种用于确定场景的深度图的深度映像装置,该装置包括:根据权利要求1所述的结构化光成像装置,用于以结构化光照射该场景,且用于检测从该场景反射的该结构化光的光部分;以及处理单元,用于根据所检测到的光部分确定该场景的深度图。
18.根据权利要求17所述的深度映像装置,其中该处理单元包含于该结构化光成像装置的控制器中。
19.一种场景的深度映射的方法,包括:
-藉由根据权利要求1至11中任一项所述的结构化光成像装置的辅助,以结构化光照射该场景;
-藉由该结构化光成像装置的辅助,检测从该场景反射的该结构化光的光部分;
-从所检测到的光部分确定该场景的深度图。
20.一种结构化光成像方法,包括:
提供投射器,该投射器包含至少两组光发射器;
从该至少两组光发射器发射结构化光,其中每组光发射器被独立地操作,且其中在曝光期间反复地、交替地开启各组光发射器中的不同组光发射器;
藉由图像传感器感测源自该投射器的光,其中该图像传感器包含像素阵列,每个像素包含至少两个储存节点,以及
将在曝光期间反复地、交替地开启各组光发射器中的不同组光发射器与各像素中的不同储存节点的分配同步。
21.根据权利要求20所述的方法,包括仅通过单个光投射装置,将来自该至少两组光发射器的结构化光发射至场景上。
22.根据权利要求20所述的方法,包括以交错模式操作该至少两组光发射器。
23.根据权利要求20所述的方法,该方法包括:针对每个像素,向每组光发射器分配相应储存节点中不同的一个。
24.根据权利要求20所述的方法,该方法包括:在每个像素中,从各个像素的各个储存节点去除公共模式信号。
25.根据权利要求20所述的方法,包括,在每个像素中、在不同的各个储存节点中,收集源自不同组的光发射器发出的结构化光的电荷。
26.一种场景的深度映射的方法,包括:
-以来自投射器的结构化光照射该场景,该投射器包含至少第一和第二组光发射器;
-所述照射包括独立地操作每组光发射器,其中在曝光期间反复地、交替地开启各组光发射器中的不同组光发射器;
-利用图像传感器检测从该场景反射的该结构化光的光部分,其中该图像传感器包含像素阵列,每个像素包含至少两个储存节点;
-将在曝光期间反复地、交替地开启各组光发射器中的不同组光发射器与各像素中的不同储存节点的分配同步;
-从所检测到的光部分确定该场景的深度图,以及确定各像素中的不同储存节点的分配。
27.根据权利要求26所述的方法,包括:确定在所检测到的源自该第一组光发射器的光部分和所检测到的源自该第二组光发射器的光部分之间的差。
CN201580033539.XA 2014-06-27 2015-06-23 结构化光成像***及方法 Active CN106662433B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CH9762014 2014-06-27
CH00976/14 2014-06-27
PCT/SG2015/050177 WO2015199615A1 (en) 2014-06-27 2015-06-23 Structured light imaging system and method

Publications (2)

Publication Number Publication Date
CN106662433A CN106662433A (zh) 2017-05-10
CN106662433B true CN106662433B (zh) 2019-09-06

Family

ID=54938550

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580033539.XA Active CN106662433B (zh) 2014-06-27 2015-06-23 结构化光成像***及方法

Country Status (5)

Country Link
US (1) US20170142393A1 (zh)
KR (1) KR102425033B1 (zh)
CN (1) CN106662433B (zh)
TW (1) TWI669482B (zh)
WO (1) WO2015199615A1 (zh)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110187878A1 (en) 2010-02-02 2011-08-04 Primesense Ltd. Synchronization of projected illumination with rolling shutter of image sensor
US10368056B2 (en) 2015-06-19 2019-07-30 Shanghai Percipio Technology Limited Depth data detection and monitoring apparatus
CN105554470B (zh) * 2016-01-16 2018-12-25 上海图漾信息科技有限公司 深度数据监控***
US10620300B2 (en) 2015-08-20 2020-04-14 Apple Inc. SPAD array with gated histogram construction
KR20170105701A (ko) * 2016-03-09 2017-09-20 한국전자통신연구원 스캐닝 장치 및 이의 동작 방법
US10241244B2 (en) 2016-07-29 2019-03-26 Lumentum Operations Llc Thin film total internal reflection diffraction grating for single polarization or dual polarization
CN106767707B (zh) * 2016-12-16 2019-06-04 中南大学 一种基于结构光的储物状态检测方法及***
CN106802138B (zh) * 2017-02-24 2019-09-24 先临三维科技股份有限公司 一种三维扫描***及其扫描方法
US10445893B2 (en) 2017-03-10 2019-10-15 Microsoft Technology Licensing, Llc Dot-based time of flight
US10955552B2 (en) 2017-09-27 2021-03-23 Apple Inc. Waveform design for a LiDAR system with closely-spaced pulses
US10731976B2 (en) 2017-10-02 2020-08-04 Liqxtal Technology Inc. Optical sensing device and structured light projector
US10458783B2 (en) 2017-10-13 2019-10-29 Faro Technologies, Inc. Three-dimensional scanner having pixel memory
CN111465870B (zh) 2017-12-18 2023-08-29 苹果公司 使用可寻址发射器阵列的飞行时间感测
US10447424B2 (en) 2018-01-18 2019-10-15 Apple Inc. Spatial multiplexing scheme
DE102018105219A1 (de) 2018-03-07 2019-09-12 Ifm Electronic Gmbh Optisches Messsystem zur tiefensensitiven Messung und dessen Verwendung
US10877285B2 (en) 2018-03-28 2020-12-29 Apple Inc. Wavelength-based spatial multiplexing scheme
DE102018004078A1 (de) * 2018-05-22 2019-11-28 Friedrich-Schiller-Universität Jena Verfahren zur strukturierten Beleuchtung
CN108845332B (zh) * 2018-07-04 2020-11-20 歌尔光学科技有限公司 基于tof模组的深度信息测量方法及装置
US11054546B2 (en) 2018-07-16 2021-07-06 Faro Technologies, Inc. Laser scanner with enhanced dymanic range imaging
JP2020020680A (ja) * 2018-08-01 2020-02-06 ソニーセミコンダクタソリューションズ株式会社 光源装置、撮像装置、センシングモジュール
JP2020020681A (ja) * 2018-08-01 2020-02-06 ソニーセミコンダクタソリューションズ株式会社 光源装置、イメージセンサ、センシングモジュール
JP2020021842A (ja) * 2018-08-01 2020-02-06 ソニーセミコンダクタソリューションズ株式会社 光源装置、駆動方法、センシングモジュール
CN109299677A (zh) * 2018-09-07 2019-02-01 西安知微传感技术有限公司 一种人脸识别活体判断方法及***
US11493606B1 (en) 2018-09-12 2022-11-08 Apple Inc. Multi-beam scanning system
CN113330328B (zh) 2019-02-11 2024-06-14 苹果公司 深度感测方法及装置
CN113490880A (zh) * 2019-03-01 2021-10-08 瑞识科技(深圳)有限公司 基于垂直腔面发射激光器(vcsel)阵列的图案投影仪
US11500094B2 (en) 2019-06-10 2022-11-15 Apple Inc. Selection of pulse repetition intervals for sensing time of flight
US11555900B1 (en) 2019-07-17 2023-01-17 Apple Inc. LiDAR system with enhanced area coverage
KR102233295B1 (ko) * 2019-09-03 2021-03-29 한국과학기술원 스트라이프 패턴을 가지는 가변 구조광 생성 장치 및 방법
EP3798679B1 (en) * 2019-09-30 2023-06-21 STMicroelectronics (Research & Development) Limited Laser safety verification
US11733359B2 (en) 2019-12-03 2023-08-22 Apple Inc. Configurable array of single-photon detectors
US11297289B2 (en) * 2019-12-26 2022-04-05 Himax Technologies Limited Structured light projector
KR20210115715A (ko) * 2020-03-16 2021-09-27 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그의 동작 방법
CN111526303B (zh) * 2020-04-30 2022-05-24 长春长光辰芯光电技术有限公司 结构光成像中去除背景光的方法
US11681028B2 (en) 2021-07-18 2023-06-20 Apple Inc. Close-range measurement of time of flight using parallax shift

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101900534A (zh) * 2009-05-27 2010-12-01 株式会社高永科技 三维形状测量设备和三维形状测量方法
CN101904773A (zh) * 2009-06-03 2010-12-08 卡尔斯特里姆保健公司 用于牙齿表面形状及色调成像的设备
CN102401646A (zh) * 2010-07-19 2012-04-04 通用电气公司 基于结构光测量的方法
CN102760234A (zh) * 2011-04-14 2012-10-31 财团法人工业技术研究院 深度图像采集装置、***及其方法
CN103309137A (zh) * 2012-03-15 2013-09-18 普莱姆森斯有限公司 结构光的投影机

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040222987A1 (en) * 2003-05-08 2004-11-11 Chang Nelson Liang An Multiframe image processing
KR101121329B1 (ko) * 2007-03-28 2012-03-09 인터디지탈 테크날러지 코포레이션 피기백 전송된 접수확인/무접수확인(pan) 필드가 어드레싱되는 임시 블럭 흐름(tbf)을 표시하기 위한 방법 및 장치
US8659698B2 (en) * 2007-05-17 2014-02-25 Ilya Blayvas Compact 3D scanner with fixed pattern projector and dual band image sensor
DE102009030549A1 (de) * 2009-06-25 2010-12-30 Osram Opto Semiconductors Gmbh Optisches Projektionsgerät
US9083905B2 (en) * 2011-04-26 2015-07-14 Semiconductor Components Industries, Llc Structured light imaging system
US8749796B2 (en) * 2011-08-09 2014-06-10 Primesense Ltd. Projectors of structured light
US9599805B2 (en) * 2011-10-19 2017-03-21 National Synchrotron Radiation Research Center Optical imaging system using structured illumination
US9020006B2 (en) * 2012-01-18 2015-04-28 Hewlett-Packard Development Company, L.P. High density laser optics
US20150260509A1 (en) * 2014-03-11 2015-09-17 Jonathan Kofman Three dimensional (3d) imaging by a mobile communication device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101900534A (zh) * 2009-05-27 2010-12-01 株式会社高永科技 三维形状测量设备和三维形状测量方法
CN101904773A (zh) * 2009-06-03 2010-12-08 卡尔斯特里姆保健公司 用于牙齿表面形状及色调成像的设备
CN102401646A (zh) * 2010-07-19 2012-04-04 通用电气公司 基于结构光测量的方法
CN102760234A (zh) * 2011-04-14 2012-10-31 财团法人工业技术研究院 深度图像采集装置、***及其方法
CN103309137A (zh) * 2012-03-15 2013-09-18 普莱姆森斯有限公司 结构光的投影机

Also Published As

Publication number Publication date
US20170142393A1 (en) 2017-05-18
KR20170027788A (ko) 2017-03-10
WO2015199615A1 (en) 2015-12-30
TWI669482B (zh) 2019-08-21
CN106662433A (zh) 2017-05-10
KR102425033B1 (ko) 2022-07-25
TW201614189A (en) 2016-04-16

Similar Documents

Publication Publication Date Title
CN106662433B (zh) 结构化光成像***及方法
US11863734B2 (en) Time-of-flight camera system
JP6983192B2 (ja) 撮像システムおよびそれを動作させる方法
JP2021039131A (ja) Tofカメラシステムおよび該システムにより距離を測定するための方法
JP6796602B2 (ja) 歯科用オブジェクトの3d測定のためのカメラおよび手法
EP3577416B1 (en) System and method for 3d scanning
EP2405663A1 (en) Method of driving an image sensor
CN109343070A (zh) 时间飞行深度相机
JP2022518023A (ja) 複数個の通過域を有するバンドパスフィルタを備える三次元センサ
US10469831B2 (en) Near-instant capture of high-resolution facial geometry and reflectance
KR20200123849A (ko) 가변 밀도들의 투영 패턴을 사용하는 거리 측정
CN107430187A (zh) 深度传感器模块和深度感测方法
CN102265176A (zh) 具有单光子计数能力的cmos成像器
JP3482990B2 (ja) 3次元画像撮影装置
SG176440A1 (en) 3d geometric modeling and 3d video content creation
CN107925750A (zh) 带距离图像获取装置的投影装置以及投影映射方法
CN209167538U (zh) 时间飞行深度相机
CN107229056A (zh) 图像处理装置、图像处理方法以及记录介质
CN109283508A (zh) 飞行时间计算方法
CN109991581A (zh) 飞行时间获取方法和飞行时间相机
CN111213371A (zh) 具有可寻址光源的滚动快门图像传感器阵列的3d相机***
KR101223800B1 (ko) Rgb 컬러가 적용된 모아레를 이용한 형상 측정장치
WO2006013314A1 (en) Imaging system
CN220230445U (zh) 一种三维扫描***
CN220230446U (zh) 一种三维扫描***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant