CN109642787B - 3d表面测量的***与方法 - Google Patents

3d表面测量的***与方法 Download PDF

Info

Publication number
CN109642787B
CN109642787B CN201780047289.4A CN201780047289A CN109642787B CN 109642787 B CN109642787 B CN 109642787B CN 201780047289 A CN201780047289 A CN 201780047289A CN 109642787 B CN109642787 B CN 109642787B
Authority
CN
China
Prior art keywords
illumination
light
sample
3dsm
sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780047289.4A
Other languages
English (en)
Other versions
CN109642787A (zh
Inventor
孟令飞
江俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mura Inc
Original Assignee
Mura Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mura Inc filed Critical Mura Inc
Publication of CN109642787A publication Critical patent/CN109642787A/zh
Application granted granted Critical
Publication of CN109642787B publication Critical patent/CN109642787B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/30Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces
    • G01B11/303Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces using photoelectric detection means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)

Abstract

某些实施例涉及3D表面测量***和方法,其配置为将一个或多个光束中的工程照明光线引导入射到样品表面的N个照明方向。该***和方法可使用在工程照明被引导到样品表面时捕获的强度图像来测量表面法线图,深度图和表面特性图。

Description

3D表面测量的***与方法
相关申请的交叉引用
本申请要求对2017年7月20日提交的美国申请号15/655,656题为“Systems andMethods for 3D Surface Measurements”,2016年7月20日提交的美国临时专利申请号62/364,320题为“Systems and Methods for 3D Surface Microgeometry and ReflectanceProperties Measurement”,以及2017年5月27日提交的美国临时专利申请号62,511,964题为“Systems and Methods for 3D Surface Microgeometry and ReflectanceProperties Measurement”的优先权,其中每一个申请全文以引用的方式结合于此并用于所有目的。
技术领域
本文描述的某些实施例通常涉及***测量,并且更具体的,涉及用于测量表面微几何和/或表面特性的3D表面测量方法和***(3DSM方法和***),可在例如用于缺陷检测和质量控制的生产以及如计算机图形学的其他应用中实施。
背景技术
据证实,拥有高深度分辨率的3D表面微几何(也称为形貌)的测量是非常困难的,它也是3D测量和计算机视觉领域活跃研究的焦点。在3D测量领域,用户的需求是更高的简便性和更快的速度,使得非接触式光学方法受到特别关注。常规的可用来测量表面深度的技术,其深度分辨率可从纳米级到微米级,包括白光干涉仪,共聚焦显微镜和变焦测量技术。然而,使用这些技术的常规仪器因为采用高倍率显微镜物镜,通常具有窄视野,短工作距离和浅景深。由于这些常规仪器使用精密的光学和机械部件,它们也倾向于非常昂贵。此外,基于干涉的仪器通常对于周遭环境比如振动敏感。而且这些技术大多数是设计来做表面形貌测量,无法获取比如漫反射和镜面反射这样的反射特性。在De Groot,P.,“Principles of interference microscopy for the measurement of surfacetopography,”Advances in Optics and Photonics,vol.7,no.1,pp.1-65(2015)中可以找到白光干涉仪的例子,通过引用的方式结合于此。在Matilla,A.,et al.,Three-dimensional measurements with a novel technique combination of confocal andfocus variation with a simultaneous scan,”Proc.SPIE,pp.98900B–11,(2016)中可以找到变焦设备的例子,通过引用的方式结合于此。
在计算机视觉领域,已经使用较简单的配置对3D表面测量进行了一些研究。光度立体技术是一种通过在不同照明方向下捕捉多幅图像来重建表面法线和深度的方法,但这种方法假定场景是Lambertian型的(即漫反射型的)。在Basri,D.,et al.,“Photometricstereo with general,unknown lighting,”International Journal of ComputerVision,vol.72,no.3,pp.239–257(2007)中可以找到利用获取不同光照方向下的多幅图像来重建表面法线和深度的方法的例子,该例通过引用的方式结合于此。在真实世界中,大多数物体不是纯漫反射的,可能是镜面反射或者二者兼有。最近已经在探索新技术来处理物体不是漫反射的问题,也已经提出一些方法来解决镜面反射表面的微几何测量的问题。这些方法的例子可以在Chen,T.,et al,Mesostructure from specularity,”Proc.CVPR,pp.1825–1832(2006)和Francken,Y.,et al.,“High quality mesostructureacquisition using specularities,”in Proc.CVPR,p.1-7(2007)中找到,这些例子通过引用的方式结合于此。这些提出的方法要么使用手动移动的点光源,要么使用结构光照明,来从镜面反射中重建深度,但是他们的方法只能捕捉到有限照明方向数量的图像,从而可能导致对反射场采样不充分。在另一个例子中,物体被压进一个弹性皮肤来去除物体的镜面反射,再基于被覆盖皮肤的反射用光度立体技术来估计表面法线。可以在U.S.PatentPublication 20130033595,titled“HIGH-RESOLUTION SURFACE MEASUREMENT SYSTEMSAND METHODS,”by Adelson,H.,and Johnson,Micah K中找到这个例子,该例通过引用的方式结合于此。然而,使用该方法时,采样物体的真实反射被弹性皮肤阻挡了,关于颜色和其他反射性质的信息也损失了。
在计算机图形学领域,已经对用于计算机图形学渲染的同时采集表面几何以及反射特性进行了一些研究。比如,一种用于空间变化BRDF的物体的光度立体技术可以在Goldman,D.B.,et al.“Shape and spatially-varying BRDFs from photometricstereo,”IEEE Trans.PAMI,vol.32,no.6,pp.1060–1071(2010)中找到,该文献全文通过引用的方式结合于此。在该例中,在不同的光照方向下捕获多幅图像,再从用于渲染的BRDF模型中重建出形状和反射参数。然而,为了满足正交的假设,这种方法需要相机和照明离样品很远,而且由于有限数量的照明方向,这种方法不能捕捉到表面的详细微几何。另外,已经提出一种用于测量表面法线,高度,漫反射和镜面反射参数的反射测量技术,但这种方法需要一个在物体表面移动的线性光源。可在U.S.Patent No.6,919,962,titled“Reflectometry apparatus and method,”中找到这样一种反射测量***,该例通过引用的方式结合于此。还提出了一种用来测量物体反射特性的镜面物体扫描仪,但这种扫描仪需要一个围绕物体旋转的弧形光源。可在U.S.Patent Application No.14/212,751titled“Specular object scanner for measuring reflectance properties of objects,”中找到这样一个镜面物体扫描仪的例子,该例通过引用的方式结合于此。另外,已经开发出一种12光半球圆顶用来捕获皮肤纹理的详细微几何方法,该方法可能会改善面部合成的真实感。可在Graham,P.,et al.,“Measurement-based synthesis of facialmicrogeometry,”in Computer Graphics Forum,vol.32,no.2,pt.3.Wiley OnlineLibrary,pp.335–344(2013)中找到这样一个***的例子,该例通过引用的方式结合于此。然而,在这个例子中,12光半球圆顶在表面上只有有限的角度采样,对于更光滑的镜面反射物体可能不适用。为了获得更密集的采样,该例讨论使用一个灯光舞台,但灯光舞台体积大,一些光可能被照相机阻挡。
在这些常规技术中,为了满足正交的假设,照相机和多个照明设备被放置在很远的地方。这种搭建方式通常会引入一个大的形态因子,而且一些照明可能被相机阻挡。由于相机不能近距离地获取表面图像,因此很难达到微米级的深度分辨率和精确度。这些常规技术使用有限数量的扩展光源,而且由于物理维度的限制,通常会安排大的角度采样步数。这可能导致反射场的采样不够,从而影响对相对更光滑的镜面反射表面的表面法线的估计。而且,通常一些扩展光源以倾斜的角度放置,这样会引入严重的阴影效应。大多数的常规方法不能测量表面的反射特性。
发明内容
某些实施例是关于用于3D表面测量的方法和***。
某些实施例涉及一种3D表面测量***,该***包含工程照明***,其配置为提供至少一个光束入射到待成像样品表面的N个照明方向。每个光束包含具有不同强度的照明光线。3D表面测量***还包含相机,其具有成像镜头和至少一个传感器,被配置为基于接收自被照亮样品的光在N个照明方向捕获强度图像。并且,3D表面测量***包含控制器,其配置为执行指令以从N个照明方向的强度图像确定每个传感器像素的传感器响应,将每个传感器像素处的传感器响应与多个预先确定的传感器响应中的一个匹配,以在每个传感器像素处确定表面法线,通过合并至少一个传感器的所有传感器像素的确定的表面法线来构造表面的表面法线图。
某些实施例涉及一种3D表面测量方法,其从相机的至少一个传感器的信号中接收样品的多个强度图像。在一个或多个光束的N个照明方向的每一个照明方向以多个曝光时间捕获多幅图像,其中每个光是包含不同强度的照明光线。该方法也从在N个照明方向的强度图像中在每个传感器像素处决定传感器响应。并且,该方法将将每个传感器像素处的传感器响应与多个预先确定的传感器响应中的一个匹配,以在每个传感器像素处确定表面法线,通过合并至少一个传感器的所有传感器像素的确定的表面法线来构造表面法线图。
某些实施例涉及一种3D表面测量方法,其设计至少一个光束入射到待成像样品表面的N个照明方向,每个光束包含不同强度的照明光线。该方法也使用相机的至少一个传感器捕获,其中基于接收自被照亮样品的光在每个照明方向以多个曝光时间捕获强度图像。并且,该方法将强度图像传送给一个或多个处理器。一个或多个处理器从N个照明方向的强度图像确定每个传感器像素的传感器响应,将每个传感器像素处的传感器响应与多个预先确定的传感器响应中的一个匹配,以在每个传感器像素处确定表面法线,通过合并至少一个传感器的所有传感器像素的确定的表面法线来构造表面法线图。
某些实施例设计一种用于校准3D表面测量***的3D表面测量方法。该方法包含其设计至少一个光束入射到镜子或铬球表面的N个照明方向,每个光束包含不同强度的照明光线。该方法还包括使用相机的至少一个传感器,基于接收反射自镜子或铬球的光在每个照明方向捕获强度图像。该方法还包括基于强度图像确定校准偏移和N个照明方向。
下面参考相关附图更详细的描述这些或其他特征。
附图说明
图1A是根据一种实施方式,描绘具有表面法线N的样品的单个微表面的简化示意图。
图1B为根据一种实施方式,对应于一个3DSM***的81个表面法线方向的一系列81个预先确定的传感器响应的示意图。
图2是根据各种实施方式的描绘3DSM***组件的简化框图。
图3A是根据实施例的第一漫射器的第一透射轮廓和第二漫射器的第二透射轮廓的图示,两个轮廓都具有高斯或类似于高斯的分布。
图3B是根据一个实施例的具有线性梯度轮廓的图示。
图3C是根据一个实施例的具有随机分布轮廓的图示。
图4是根据一个实施例,描绘在3DSM方法数据采集阶段期间的3DSM***部件的侧视图的示意图。
图5是根据一个实施例,描绘在3DSM方法数据采集阶段期间的3DSM***部件的侧视图的示意图。
图6A-6C是根据各种实施方式,示出由3DSM***执行的一次数据采集阶段的三个操作的示意图。
图6D是根据实施例描述在分析阶段期间由图6A-6C中的3DSM***采取的一般方法的示意图。
图7是根据一个实施例描述配置为使用准直照明和漫射器产生工程照明的3DSM***的示意图。
图8是没有用工程照明而捕获的传感器响应图像。
图9是使用图7中的3DSM***提供的工程照明捕获的传感器响应图像。
图10A是根据一个实施例的包含组合滤光器的3DSM***的组件示意图。
图10B是根据一种实施方式的组合滤光器的透射率剖面图示。
图10C是根据一种实施方式的组合滤光器的透射率剖面图示。
图10D是根据一种实施方式的具有线性梯度的组合滤光器的透射率剖面图示。
图11A-11B是根据一个实施例,描述由3DSM***执行的3DSM方法的数据采集阶段的两种操作的示意图,该3DSM***配置为操纵工程照明方向。
图12是根据一个实施例描述由3DSM***执行的3DSM方法的数据采集阶段的一种操作的示意图。
图13是根据一个实施例描述包含附加照明设备的3DSM***部件的示意图。
图14A-14B是根据一个实施例描述配置为操纵照明方向的3DSM***部件的示意图。
图15A-15C是根据一个实施例描述由3DSM***执行的使用镜子作为参考物体的校准过程的示意图。
图16A-16B是根据一种实施方式由图15A-15C描述的校准过程产生的入射光线偏移的图示。
图17A和17B是根据一种实施方式描述采用图15A-15C中所示的校准过程的结果的***对准过程的图示。
图18A-18C是根据一个实施例描述包含铬球阵列的3DSM***执行的***校准过程的三个操作的示意图。
图19A-19B是根据一个实施例在校准过程期间铬球阵列中的单个铬球在两个不同的照明方向被照亮的图像。
图20A和20B是根据一种实施方式采用图18A-18C描述的校准过程对于169个不同照明方向校准的天顶角和方位角的图示。
图21A-21C是描述按照一个实施例使用镜子与单个铬球组合来实现校准过程的3DSM***的示意图。
图22描绘了根据一个实施例,单个传感器像素的一系列预先确定的传感器响应。
图23描绘根据一个实施例将对应于表面像素的单个传感器像素的测量传感器响应与一系列预先确定传感器响应之一匹配的操作的示意图。
图24A是根据一个实施例的皮革样品照片,显示被3DSM***分析的区域。
图24B是由3DSM***测量的图24A的皮革表面面积的测量深度图的图示。
图24C是由3DSM***测量的图24A的皮革表面面积的测量表面法线图的图示。
图24D是由3DSM***测量的图24A的皮革表面面积的测量漫反射图的图示。
图24E是由3DSM***测量的图24A的皮革表面面积的镜面反射图的图示。
图24F是由3DSM***测量的图24A的皮革表面面积的表面粗糙度图的图示。
图25A是一硬币的照片。
图25B是根据一个实施例,使用示于图25A的硬币的测量深度图进行3D渲染。
图25C是根据一个实施例,对示于图25A的硬币的沿着黑线测量的测量深度曲线图。
图26A-26D是根据一种实施方式,基于由3DSM***测量的微几何和反射特性的渲染。
图27A-27C是根据一个实施例描述由配置为控制工程照明的波长和偏振的3DSM***实施的数据采集阶段的操作的示意图。
图28A-28C是按照一个实施例,描述使用由控制来自样品表面的反射光的波长和偏振的3DSM***实现的数据采集阶段的三个操作的示意图。
图29A-29C是按照一个实施例,描述使用由控制工程照明和来自样品表面的反射光两者的波长和偏振的3DSM***实现的数据采集阶段的三个操作的示意图。
图30是按照一个实施例,示出3DSM***部件的示意图,该3DSM***配置为控制工程照明和来自样品表面的反射光两者的波长和偏振。
图31A-31C是根据一个实施例,描述由3DSM***实施的数据采集阶段操作的示意图,该3DSM***配置为控制样品表面的运动。
图32A-32C是根据一个实施例,描述由3DSM***实施的数据采集阶段的操作的示意图,该***配置为控制工程照明和相机的运动。
图33是根据一个实施例,描述3DSM方法数据采集阶段和分析阶段的操作的示意图,该方法使用配置为控制样品表面运动的3DSM***来获取表面发射率特性。
图34是根据一个实施例,描述3DSM方法数据采集阶段和分析阶段的操作的示意图,该方法使用配置为控制工程照明和相机运动的3DSM***来获取表面发射率特性。
图35是根据一个实施例,描述3DSM方法数据采集阶段和分析阶段的操作的示意图,该方法使用配置为控制来自样品表面发射光的波长和/或偏振的3DSM***来获取表面发射率特性。
图36是根据一个实施例,描述3DSM方法数据采集阶段和分析阶段的操作的示意图,该方法使用配置为控制半透明样品运动的3DSM***来获得表面半透明特性。
图37是根据一个实施例,描述3DSM方法数据采集阶段和分析阶段的操作的示意图,该方法使用配置为控制背光运动的3DSM***来获得表面半透明特性。
图38是根据一个实施例,描述3DSM方法数据采集阶段和分析阶段的操作的示意图,该方法使用配置为控制工程照明和相机运动的3DSM***来获得表面半透明特性。
图39是根据一个实施例,描述3DSM方法数据采集阶段和分析阶段的操作的示意图,该方法使用配置为控制背光和传自样品表面的光两者的波长/偏振的3DSM***来获得表面半透明特性。
图40是根据一种实施方式,描述图11A-B的3DSM***的示意图,该***配置为将工程照明切换到关闭状态。
图41是根据一个实施例描绘3DSM***数据采样操作的示意图。
图42是根据各种实施方式的3DSM方法的操作的流程图。
图43是描绘图42中的3DSM方法的一个操作的子操作的流程图。
图44是描绘图42中的3DSM方法的一个操作的子操作的流程图。
图45是根据一个实施例,描绘渲染操作的输入输出的框图。
图46A是根据一个实施例由3DSM***测量的合成皮革表面的漫反射特性的图示。
图46B是根据一个实施例由3DSM***测量的如图46A所示合成皮革表面的镜面反射特性的图示。
图46C是根据一个实施例由3DSM***测量的如图46A所示合成皮革表面的光泽度特性的图示。
图46D是根据一个实施例由3DSM***测量的如图46A所示合成皮革表面漫反射和镜面反射的组合颜色外观的图示。
图46E是根据一个实施例由3DSM***测量的金属特性图的图示,该金属特性图描述如图46A所示合成皮革表面的介电和金属性质。
图46F是根据一个实施例由3DSM***测量的粗糙度特性的图示。
图46G是根据一个实施例由3DSM***测量的如图46A所示合成皮革表面法线图的图示。
图46H是根据一个实施例由3DSM***测量的如图46A所示合成皮革表面深度图的图示。
图46I是根据一个实施例由3DSM***测量的如图46A所示合成皮革表面基于物理特性的渲染。
图47是根据一个实施例,描述包含缺陷检测过程的3DSM方法操作的框图。
图48是根据一个实施例,描述包含缺陷检测过程的3DSM方法操作的框图。
图49A是根据一个实施例,由3DSM***测量被污垢和纤维污染的LCD面板的镜面反射特性的图示,该3DSM***配置为缺陷检测。
图49B是根据一个实施例,由3DSM***测量的如图49A所示具有污垢和纤维的LCD面板的漫反射特性的图示。
图49C是根据一个实施例,由3DSM***测量的如图49A所示具有污垢和纤维的LCD面板的表面粗糙度特性的图示。
图49D是根据一个实施例,由3DSM***测量的如图49A所示具有污垢和纤维的LCD面板的测量法线图的图示。
图49E是根据一个实施例,由3DSM***测量的由如图49A所示具有污垢和纤维的LCD面板的测量深度图的图示。
图49F是根据一个实施例的表面缺陷可视化操作的图示,该操作使用由3DSM***实施的包含缺陷检测的3DSM方法测量的示于图49A-49E的测量参数。
图50A是根据一个实施例,由配置为缺陷检测的3DSM***测量具有划痕和凹坑的LCD面板的测量镜面反射特性的图示。
图50B是根据一个实施例,由3DSM***测量的如图50A所示具有划痕和凹坑的LCD面板的测量漫反射特性的图示。
图50C是根据一个实施例,由3DSM***测量的如图50A所示具有划痕和凹坑的LCD面板的测量表面粗糙特性的图示。
图50D是根据一个实施例,由3DSM***测量的如图50A所示具有划痕和凹坑的LCD面板的测量法线图的图示。
图50E是根据一个实施例,由3DSM***测量的如图50A所示具有划痕和凹坑的LCD面板的测量深度图特性的图示。
图50F是根据一个实施例,使用由3DSM***测量的如图50A所示参数作为表面缺陷检测的图示。
图51是根据一个实施例,描绘具有白点的LCD面板的测量亮度图的图示,该亮度图由3DSM***实施的3DSM方法中的表面缺陷检测过程测量。
图52是根据一个实施例,描绘具有不均匀性的LCD面板的测量均匀性图的图示,该均匀性图由3DSM***实施的3DSM方法中的表面缺陷检测过程测量。
具体实施方式
为了描述本公开的各个方面,以下描述针对某些实施方式。然而,本领域专业技术人员将容易认识到,本文的教导可以以多种不同方式应用。因此,本教导不旨在限于仅在附图中描绘的实施方式,而是具有广泛的适用性,这对于本领域专业技术人员来说将是显而易见的。
实施例涉及用于3D表面测量的方法和***(3DSM方法与***),包含对微几何和表面特性比如反射特性,发射率特性,半透明特性等的测量。3DSM***实现了可用于同时获得表面几何和特性的方法。在各种实施例中,3DSM***包含工程照明***,其产生和操纵工程照明的入射方向到沿着样品表面的不同点到N个不同的照明方向。工程照明具有已知的分布,例如高斯分布,图样等等。在数据采集期间,对于N个不同的照明方向,由数码相机的一个或多个传感器捕捉来自表面的光。3DSM***对于这N个照明方向为每一个传感器像素捕获测量的传感器响应。3DSM为每个传感器像素确定表面法线,例如,通过将测量的传感器响应与一组预先确定的传感器响应的最佳拟合匹配来确定。每个预先确定的传感器响应对应一个表面法线。可基于已知分布的在不同照明方向下的工程照明来计算对于不同表面法线的预先确定的传感器响应。在分析阶段期间,3DSM***通过将测量的传感器响应与预先确定的传感器响应匹配来确定表面每个点处的表面法线。3DSM***可以从表面上不同点处的表面法线来估计深度图。3DSM***还可以利用表面法线图来决定表面特性,例如反射特性,例如基于一个BRDF模型估计的漫反射率,镜面反射率和粗糙度。
I.3DSM***和方法简介
大多数真实世界的表面是不平整的,可以近似为一系列面向各个方向的平坦的微表面。每一个这种微表面有一个表面法向矢量(这里也称作“表面法线”)。在三维表面上的点的二维网格化的表面法线对应着表面的轮廓。表面的深度图(形貌的)和各种表面特性,例如反射特性,可以由二维网格化的表面法线来确定。可用于从表面法线确定深度图和表面特性的技术示例可在US专利20130033595,名为“HIGH-RESOLUTION SURFACEMEASUREMENT SYSTEMS AND METHODS,”by Adelson,H.,和Johnson,M.K.,et al.,“Shapeand spatially-varying BRDFs from photometric stereo,”IEEE Trans.PAMI,vol.32,no.6,pp.1060-1071(2010)中找到。
在某些实施方式中,3DSM***包含工程照明***,其配置为将一束具有各种照明强度的光线引导至样品表面上的点(这里也称为“像素”)。该光束照明光线的工程强度分布是已知的。在很多情况下,该工程照明***包括运动控制装置,其配置为旋转和/或平移一个或多个***部件来使得光束相对于样品旋转。光束在两个正交的方向旋转,从而将光束引导到的不同照明方向入射样品,同时相机测量从被照亮的样品传来的光的强度分布。在曝光时间期间测量的强度分布在这里称为“强度图像”,或简称为“图像”。该强度图像可用来产生样品的2D网格化表面法线。
在一种实施方式中,可在数据采集期间操纵(旋转/平移)样品或者同时操纵工程照明以及相机来扫描样品上的工程照明。3DSM***通过分析捕获的图像来测量样品的表面法线,深度和表面特性的图。在大面积样品的数据采集期间,用工程照明在该大面积样品的一个区域上扫描,再在另一个区域上扫描,以此类推,直到扫描整个样品。3DSM***可将对于大面积样品不同区域测量到的表面法线图,深度图和表面特性拼接在一起,来生成整个表面的图。该方法可能有一个或多个技术优势。一个技术优势可能是可在大面积表面上测量的能力。另一个技术优势是对于大面积样品的不同区域测量得到的表面法线图,深度图和表面特性可以拼接在一起,这样在整个表面的测量图中提供了高的空间分辨率。再一个技术优势是该3DSM***相比于大面积表面,可以更精确的控制对于样品较小区域的准直照明。
图1A是根据一个实施例的具有表面法线N的样品的单个微表面的简化示意图。在该简化场景中,有着不同强度的三(3)条光线L1,L2和L3形成的光束如图示入射到微表面点P上。如图所示,只有L1光线被反射(显示为反射光线R)回相机,相机的传感器会测量L1光线的强度值。光线L2和L3没有被反射回相机。由于三(3)条光线L1,L2和L3被设计成对于不同输出角度的特定已知的强度分布,因此传感器的读数对应于L1光线已知的强度值。通过这种方法,3DSM***可利用传感器读数来识别从微表面反射来的L1光线。基于强度分布和传播照明到表面的任何光学部件的配置,照明光线L1的照明角度也是已知的。3DSM***可基于识别到的照明光线L1的角度和传感器的位置,来确定微表面的表面法线。
在特定场景下,工程照明包含一束照明光线,其中一些光线有相同的或者大体相同的强度。附加地或替代地,***部件可具有各种传输特性,并且传感器可具有有限的动态范围。在这些情况下,特定强度值的传感器读数可能不会只对应单个照明光线,而可以对应多条拥有相似输出功率的光线。例如,如果图1A中的光线L1和光线L3有相同的功率,基于接收到的光线L1的传感器读数就会对应两条照明光线L1和L3。为了确定从微表面反射回来的光线和估计表面法线,本文描述的某些3DSM***对每个表面上的点在不同的光束照明方向取传感器读数。在一些情况下,3DSM***包含运动控制装置,其通过旋转一个或多个***部件以在两个正交的方向上将光束一起旋转,从而引导光束到一系列N个照明方向。对于特定的3DSM***,基于在两个正交方向旋转光束,每个表面法线有唯一的传感器响应。每个测量的传感器响应是一种强度值的图样,对于不同的照明方向测量于传感器像素。例如,一个传感器响应式样可有四百(400)个强度值,与四百(400)个照明方向相关,这些照明方向是基于沿着x方向的20个旋转角以及沿着与x方向正交的y方向的20个旋转角。在各种实施方式中,3DSM***将测量的传感器响和预先确定的传感器响应进行比较。3DSM确定一个与测量的传感器响应最匹配的预先传感器响应,以估计每个像素处的表面法线。
图1B显示根据一种实施方式,对应于3DSM***的一系列八十一(81)个表面法线方向的八十一(81)个预先确定的传感器响应。在该例中,对于四百(400)个旋转位置,其对应于二十(20)个沿着y轴(旋转角Y)的旋转角度和沿着与y轴正交的x轴(旋转角X)的20个旋转角度,每个表面法线有唯一的20x20的归一化强度的传感器响应式样。
II.3DSM***
图2是根据各种实施方式的3DSM***10的简化框图。3DSM***10包括控制器20,控制器20具有处理器22和与处理器22进行电子通讯的存储器24。处理器22配置为通过运行存储于存储器24的指令以控制3DSM 10***的功能。处理器22也可取出存在存储区24的数据和/或将数据保存到存储器24。3DSM***10还包括工程照明***,该***具有一个或多个照明设备34,一个或多个光学元件36以及一个运动控制设备32。每个照明设备34包含一个或多个光源。照明设备34和光学元件36配置为在操作期间向样品提供工程照明。3DSM***10还进一步可选地(用虚线表示)包括样品平台40来接收样品以及相机60,该相机具有一个或多个镜头和传感器,其配置为在操作期间接受来自样品的光并捕获强度测量值。运动控制设备32可选地(用虚线表示)与照明设备34,光学组件36,相机60和样品平台40中的一个或多个通讯,是为了控制他们的运动(例如平移/旋转)以将工程照明相对于样品旋转到N个旋转位置。例如,运动控制设备32可包含与***组件耦合的电机来旋转或平移部件,使得工程照明在一系列采样时间中旋转到不同的旋转位置。控制器20与照明设备34以及相机进行电子通讯,以发送控制信号来控制这些组件的功能以及接收数据,比例如来自相机60的强度测量值。例如,控制器20可向相机60和运动控制设备32发送控制信号,以同步相机60的曝光时间来确保运动控制设备32正保持***部件在一个特定的位置,以对表面在特定的旋转位置提供工程照明。
3DSM***10也可选地(用虚线表示)包含通讯接口72和与通讯接口72通讯的显示器70。控制器20配置为可设置输出原始数据,处理数据例如表面测量或渲染的数据,和/或为了在显示器70上显示而通过通讯接口72的其他数据。在另一个实施例中,3DSM***10还可包含一个或多个附加的通讯接口和/或与通讯接口通讯的计算设备。另外并且可选地,3DSM***10还可包含一个外部存储设备与通讯接口通讯,用以在外部设备存储数据,和/或与用户界面通讯的通讯接口,以接收3DSM***10的操作员的输入。***部件之间已描述的电子通讯可能提供电力和/或通讯数据。各种实施方式***部件之间的电子通讯可以是有线和/或无线方式。
在各种实施方式中,3DSM***包含具有一个或多个照明设备的工程照明***,一个或多个光学元件以及运动控制装置。工程照明***设计为产生和提供工程照明对于样品表面在两个正交方向上的相对旋转。工程照明通常指一个或多个光束,每个光束由多条照明光线组成。每个光束中照明光线处于不同的角度。处于不同输出角度的照明光线的功率可以是,例如说,线性,三角,曲线或者随机分布。根据一个方面,位于不同角度的照明光线的功率是基于高斯分布或类似于高斯分布的分布。另一方面,位于不同角度的照明光线的功率具有线性梯度。再一方面,位于不同角度的照明光线的功率是随机的。
在各种实施方式中,3DSM***实现具有照明光线的工程光源,其对于不同输出角度的功率呈现高斯或者类似高斯分布的形式。在这些情况下,工程照明***通常包括具有准直器和漫射器的光学元件。准直器配置为准直来自一个或多个光源的照明。漫射器配置为接收准直后的照明并产生一个或多个光束。每个光束有无限数量的照射光线,其对不同输出角度的输出功率是高斯或者类似高斯分布。合适的漫射器例子已被商业化。例如一个合适的漫射器是由Thorlabs制造的DG20-1500。
图3A是说明根据实施例的穿过第一漫射器的第一透射轮廓310和穿过第二漫射器的第二透射轮廓320的图示。这些是典型漫射器透射轮廓的示例。对于不同的输出角度(即来自于各自的漫射器的角度),每一个透射轮廓展示具有类似于高斯分布的照明光束输出功率。透射轮廓310,320是无限数量照明光线的归一化输出功率值的分布图,这些光线是从各自的漫射器传来具有不同输出角度,用度做度量单位。透射轮廓310,320示出沿着每条轮廓的三条光线,其输出角度为-7度,0度和6度。第一条透射轮廓310有在-7度的第一条光线336,其归一化功率约为0.17,在0度的第二条光线332的归一化功率约为0.98以及在6度的第三条光线338的归一化功率约为0.2。第二条透射轮廓320在-7度的第一条光线330的归一化功率约为0.6,在0度的第二条光线332的归一化功率约为0.98以及在6度的第三条光线334的归一化功率约为0.67。可提供非高斯强度分布的商用漫射器的例子是来自于Thorlabs RPC Photonics的Engineered DiffusersTM
在3DSM***的另一方面,工程照明包含一个或多个光束,每个光束的照明光线的功率基于输出角度变化,输出角度是根据线性梯度分布。图3B是根据一个实施例,示出对于不同输出角度,光束的照明光线分布的线性梯度轮廓340的示图。线性梯度轮廓340包括无限数量的光线在不同输出角度下的归一化功率。线性梯度轮廓340有在-10度的第一条光线的归一化功率为0.5,在0度的第二条光线344的归一化功率约为0.3,以及在10度的第三条光线346的归一化功率约为0.2。在该实例中,梯度随着输出角度的增加线性减少。在其他情况下,梯度是线性增加的。
在3DSM***的另一方面,工程照明包含一个或多个光束,每个光束的照明光线的功率基于输出角度变化,输出角度是根据随机分布。图3C是根据一种实施方式,示出随机分布光线的轮廓350。轮廓350包括在不同的输出角度的照明光线的归一化功率。轮廓350在-10度有第一条光线352的归一化功率约为0.65,在0度的第二条光线354的归一化功率约为0.95,以及在10度的第三条光线356的归一化功率约为0.3。
图4是根据一个实施例的3DSM***400的部件侧视示意图,该图显示的是在操作期间,相机460在不同设置下进行多次曝光。3DSM***400包含工程照明***430,样品平台440和一台或多台相机460。拥有表面482的样品480如所示放置于样品平台440上。3DSM***400包含一个在点L处与表面480平行的x轴,在点L处垂直于表面480的z轴,以及正交于x和z轴的y轴(未显示)。在该时刻,显示了工程化照明***440在提供一束包含6条不同强度光线的光束,这些光线是在样品480的表面482上的L点以不同角度入射。光束被引导到与表面482正交的0度照明方向。光束的旋转方向是沿着x轴的0度旋转以及沿着y轴的0度旋转。应当理解的是,虽然出于简化的目的图中仅显示6条光线,但是应有无限数量的光线入射于表面点L。工程照明***430包含运动控制设备432,一个或多个光学元件436,以及一个或多个照明设备434。运动控制设备432与光学元件436和相机460耦合,从而能够平移和/或旋转这两个***部件中的一个或者一起到不同的方向,以便在操作期间旋转6条光线组成的光束在不同的采样时间到不同的旋转位置。运动控制设备432是可选地(用虚线表示)耦合于照明设备434以便能在操作中平移和/或旋转照明设备。比如,光线可以递增的沿着x轴和/或z轴旋转。在每一个旋转位置,相机的一个或多个传感器取得从被照明的样品480传来的光的多次曝光的强度测量值(图像)。
图5是根据一个实施例的3DSM***500的部件侧视示意图,该图显示的是在操作期间,相机进行多次曝光。3DSM***500包含工程照明***530和样品平台540。有着表面582的样品580示出放置在样品平台540上。在该时刻,工程照明***530示出提供3个光束,包括向样品580的表面582的表面点L以不同入射角入射具有不同强度的3条光线L1,L2和L3的第一个光束,向表面点M以不同入射角入射具有不同强度的3条光线M1,M2和M3的第二个光束,以及向表面点N以不同入射角入射具有不同强度的3条光线N1,N2和N3。每个光束被引导沿着正交于表面582的0度照明方向。3DSM***500包含在每个点L,M和N平行于表面582的局部x轴,在每个点L,M和N垂直于表面582的局部z轴,以及在每个点L,M和N与x轴和z轴正交的y轴(未显示)。工程照明***530配置为在操作期间的不同采样时间旋转每个光束到不同的旋转位置。
如上所述,各种实施方式的3DSM***包含配置为产生工程照明和操纵工程照明的工程照明***。工程照明***包含一个或多个照明设备,一个或多个光学元件以及运动控制设备。每个照明设备包含一个或多个光源。可使用各种形式的光源,比如,发光二极管(LED),激光,钨,和/或卤素。在各种实施方式中,每个光源是一个点光源。在另一个实施方式中,照明光源是以一维或者二维光源阵列的形式,例如,二维LED矩阵。
根据各种实施方式,工程照明***包括一个或多个光学元件,产生照明光线的光束以及传播照明光线到样品表面。光学元件的一些例子包括漫射器,准直器,光纤,光纤束,光导,镜子,分束器,如带通滤色器或偏振滤光器的滤光器和其他合适的光学器件。在某些实施方式中,一个或多个光学元件包括至少一个漫射器,一个分束器和一个准直器。
根据各种实施方式,工程化照明***还包括运动控设备,其与3DSM***的一个或多个部件耦合。运动控制设备配置为操纵(旋转和/或平移)这些部件,使其提供一个或多个光束对于样品的相对转动。附加地和替代地,运动控制设备配置为操纵这些部件以提供工程照明到大面积样品的不同部分。
在具有运动控制设备的实施例中,运动控制设备配置成为了一个或多个光束相对的转动来操纵***部件,该设备平移和/或旋转这些部件到不同的位置,使得拥有多条照明光线的每个光束在两个正交方向上被旋转到N个不同的旋转位置。在每个入射角处,运动控制设备保持这些***部件的位置,同时相机对来自被照亮样品的光进行强度测量。运动控制设备包括一个或多个用于控制运动的合适部件,比如致动器,电动机,伺服器等等。在两个正交方向的转数可以是不同的数值。在一些方面,转数在100到500转的范围内。在一个方面,转数大于100转。在一个方面,转数为400,沿着一个方向旋转20转以及沿着与第一方向正交的第二方向旋转20转。在另一方面,转数为100,沿着一个方向旋转10转以及沿着与第一方向正交的第二方向旋转10转。在另一方面,转数为225,沿着一个方向旋转15转以及沿着与第一方向正交的第二方向旋转15转。
在某些情况下,运动控制设备通过操纵(平移和/或旋转)3DSM***的一个或多个光学组件来旋转一个或多个光束。例如,3DSM***可能有一面镜子,配置为接收光束中的照明光线。在这种情况下,可用运动控制设备旋转镜子来改变光线的旋转位置。附加地或替换地,运动控制设备在不同的观察方向下可操纵相机捕获从样品传来的反射光。在一方面,运动控制设备可操纵光束分束器来旋转光束。在另一方面,运动控制设备可将照明设备和光学元件一起操纵来旋转光束。
在一些实施例中,运动控制设备配置为操纵一个或多个***部件来获得样品一部分(例如大面积的样品)的强度图像,然后再操纵一个或多个***部件以便相机的传感器能获得样品不同部分的强度图像,直到获得整个大面积样品的强度图像为止。例如,运动控制设备可以递增地平移样品到不同的位置。在另一个实例中,运动控制设备可以相对于样品平移照明设备,光学部件,和/或相机。在一种实施方式中,运动控制设备包括x-y平台。例如,样品平台可以位于x-y平台上。
根据各种实施方式,3DSM***包括一个或多个相机。每个相机有至少一个成像镜头(如远心镜头,远摄像头,或具有固定或可变放大率的任何镜头),和在3DSM方法的数据采集阶段,一个或多个配置为进行强度测量(这里也成为“强度图像”,“图像”,“强度分布”)的传感器。在一方面,每个传感器是一个图像传感器。一些合适传感器的例子是CMOS传感器,电荷耦合器件(CCD),以及其他类似的设备。一些合适的成像镜头是远心镜头,远摄像头,具有固定或可变放大率的镜头,以及其他类似的设备。商用的合适的图像传感器的实例是Thorlabs生产的DCC3260C。在一个方面,3DSM***包括一台相机。在另一方面,3DSM***包括多台可分别从多个不同视角拍摄图像的相机。
根据各种实施方式,3DSM***包括一个或多个处理器(例如微处理器),用来执行存放在存储器里的命令以实现3DSM***的功能,包括3DSM方法的操作。例如,一个或多个处理器可以在数据采集阶段期间发送控制指令给相机去控制曝光来获得强度图像。一个或多个处理器也可运行3DSM方法的操作基于强度图像来决定3D表面微几何和样品反射特性。在一些情况下,指令存放在控制器的内部存储器设备。内部存储设备可包含一个非易失存储器阵列,用来存储可执行的处理器编码(这里也称作“指令”),为了在强度测量上执行各种逻辑或其他操作,这些编码由处理器取得来执行本文描述的各种功能或操作。内部存储设备也可存储原始和/或处理过的强度测量数据。在一些实施方式中,内部存储设备或者一个单独的存储区可附加地或可选地包括一个易失性存储器阵列来暂时存储将被执行的编码以及将被处理,存储或者显示的测量值。在一些实施方式中,控制器本身可包括易失性存储器,以及在有些实例中亦可包括非易失性存储器。
根据各种实施方式,3DSM***包括与控制器进行电子通讯的通讯接口和与通讯接口通讯的显示器。控制器配置为或可配置成通过通讯接口在显示器上输出原始强度测量值或者处理过的数据。附加地或可替换地,控制器可通过通讯接口输出原始强度测量值或者处理过的数据到外部计算***。实际上,在一些实施方式中,3DSM***的一个或多个功能由这样的外部计算***来执行。在一些实施方式中,控制器可配置为通过通讯接口将原始数据和处理过的数据存储到外部存储设备中。
III.3DSM***和方法的示例
在各种实施方式中,3DSM***执行的3DSM方法通常包括数据采集阶段和分析阶段。可选地,3DSM方法也可包括一个或多个显示阶段,校准阶段,以及计算预先确定的传感器响应阶段。在数据采集阶段期间,旋转一个或多个光束到N个不同的照明方向,在每个照明方向,由相机捕获不同曝光设定下的n幅强度图像。在分析阶段期间,确定每个表面像素的表面法线。为了决定表面法线,3DSM方法对每个表面像素从捕捉到的强度图像中产生一个测量的传感器响应,对于不同的法线将测量的响应与一组预先确定的传感器响应中的一个来匹配,以及在样品(这里也称作“物体”)表面上构建出表面法线图。可选地,在分析阶段,3DSM方法也可基于表面法线图确定表面的特性。因为照明是用已知分布设计的,传感器响应可通过取工程光线分布函数和在不同照明方向下所有可能的表面法线方向的卷积来事先计算好。表面法线则可基于捕获的传感器响应与预先确定的传感器响应的最佳匹配来决定。深度图则可以通过表面法线估计。反射特性,比如漫反射率,镜面反射率和粗糙度可通过基于BRDF模型来估计,BRDF模型的示例有Ward模型,Cook-Torrance模型和Blinn-Phong模型。
用来实现3DSM方法的各种3DSM***的配置在本部分描述。各种实施例的3DSM方法的某些细节在V部分详述。某些在该部分描述的图示包括3DSM***的一些部件,以便讨论3DSM方法中的特殊操作。应当理解,在这些简化实例中仅图示出了一些部件,所示的3DSM***可包括诸如图2描述的那些附加***部件。
图6A-6C是根据各种实施方式,示出由3DSM***执行的一次数据采集阶段的三个操作的示意图。图6D是根据各种实例,由图6A-6C中的3DSM***执行的3DSM方法在分析阶段的操作的示意图。在图示分析阶段中的操作使用图6A-6C所示的数据采集阶段期间捕获的强度图像,以确定沿着表面每个点的表面法线,以及深度图和/或基于表面法线的反射特性。
在图6A-6C中,3DSM***的部件示出包含工程照明***630和相机660。图6D中示出3DSM***也包含一个或多个处理器622。在图6A-6C所示的数据采集阶段,工程照明***630示出提供三条光束L,M和N:第一条光束入射于样品680的表面682上的L点,第二条光束入射于样品680的表面682上的M点以及第三条光束入射于样品680的表面682上的N点。
尽管为了简化,图6A-6C和其他示例显示三个光束,应当理解,工程照明***可提供无限数量光束的工程照明,入射照明为二维,可照亮整个表面或待分析表面的整个面积。在每个光束中有无线条照明光线,尽管显示时为了简化只有三条。每一个光束是工程照明,其功率值遵循某种分布,例如,高斯分布,三角分布,线性分布,随机分布等等。在由图示3DSM***执行的数据采集阶段期间,光束被旋转到N个不同的照明方向。
图6A-6C显示在N个照明方向的三个中的数据采集操作。如图所示,三个光束如图6A-6C所示依次旋转到三个不同的照明方向。来自样品680的反射光R传到相机660,不同曝光设置下的多幅图像被捕获。在图6A-6C示出的光束的每一个照明方向,相机的一个或多个传感器被曝光两次以捕获两幅强度图像。在图6A中,相机660使用曝光I设置来捕获“图像IA”和曝光II设置来捕获“图像IIA”。在图6B中,相机660使用曝光I设置来捕获“图像IB”和曝光II设置来捕获“图像IIB”。在图6C中,相机660使用曝光I设置来捕获“图像IC”和曝光II设置来捕获“图像IIC”。在另一个实施例中,附加图像可在每个照明方向捕获。尽管图示示例显示照明方向的特定角度范围,在其他示例中数据采集阶段可包括一个更大的角度采样来捕获更多样化的双向反射分布函数(BRDF)。在一种情况下,例如,可采用具有1度步长的从-45到45度的角度采样。
在图6D中,在来自相机660的信号中,3DSM***的一个或多个处理器622接收在N个不同的照明方向和不同的曝光(曝光I和曝光II)设置下捕获的图像691(图6A-6C所示)。由于照明是用已知分布设计的,传感器响应694可由一个或多个处理器通过取工程光线分布函数和不同照明方向下所有可能的表面法线方向的卷积来预先确定。产生预先确定的传感器响应可在分析阶段期间或者在数据采集阶段之前的过程中执行,例如,可在可选的校准过程期间。在分析阶段期间,一个或多个处理器基于捕获的传感器响应和预先确定的传感器响应的最佳匹配来决定每个表面像素处的表面法线。然后一个或多个处理器从表面法线来估计深度图。附加地或替换地,一个或多个处理器可决定反射特性,例如漫反射率,镜面反射率和粗糙度可基于BRDF模型估计,例如Ward模型,Cook-Torrance模型和Blinn-Phong模型。
在各种实施方式中,3DSM***在光束的每个照明方向下捕获多个不同曝光设置下的强度测量。例如,可在曝光设置为1毫秒时获得一个强度测量值,并且可在曝光设置为100毫秒时获得第二个强度测量值。通常,捕获多次曝光允许捕获高动态范围图像。
在具有大面积样品的实施方式中,在数据采集阶段期间,将样品平移到不同的平移位置,并且为每个平移位置的较小视野捕获图像。例如,3DSM***可包括用于沿着x和y方向平移样品的x-y平移平台。一旦在每个较小的视野捕获到图像,就可为每个较小的视野确定法线图,深度图和反射特性图像,并可将它们拼接以实现更大的视野。
在一种实施方式中,3DSM***包含第一偏振滤光器,配置为使工程照明在传到样品之前穿过该第一偏振滤光器。3DSM***还包括一个放置在相机前的第二偏振滤光器。通过改变相机前的第二偏振滤光器的偏振级,可分别捕获漫反射和镜面反射率图像,再将其拟合到一个BRDF模型中来确定其他反射特性。
在各种实施例中,光束的照明方向快速改变。例如,照明方向可以每秒100度的速率改变。另外,传感器可以每秒100帧的速率进行强度测量。
图7是根据一个实施例的3DSM***700的示意图。3DSM***700包括具有漫射器736,镜子737和光束分束器738的光学元件的工程照明***。工程照明***还包括来自照明设备(未显示)的准直照明735。3DSM***700还包括相机760。在所示的数据采集阶段期间,漫射器736接收准直照明735,并且通过漫射器736传送准直照明,该漫射器基于漫射器的透射率来扩散照明,该透射率通常遵循如高斯分布一样的分布。例如,漫射器736可有如图3A所示的透射率轮廓之一。在图7中,漫射器736将准直照明分散为三条照明光线A1,A2和A3。照明光线A1,A2和A3在通过漫射器736传输后具有不同的强度。照明光线A2有最高的强度,照明光线A1和A3有较低的强度。镜子737接收这三条照明光线A1,A2和A3并反射这些光线。光束分束器738从镜子737接收反射光线B1,B2和B3并反射这些光线。反射光线M1,M2和M3被传播到位于样品780的表面782的M点上。在该图示中,为了简便示出光束中的三条照明光线M1,M2和M3,应当理解的是工程照明为M点提供的是具有无限数量的照明光线。在该图示中,在表面点M处只显示一个光束,应当理解的是,无限数量的表面点接收无限数量的工程照明光束。表面782反射照明光线并且反射光线792通过光束分束器738被相机760接收。入射光线M1,M2和M3的强度分布与照明光线A1,A2和A3的一样。即,入射光线M1,M2和M3设计为与照明光线A1-A3有着相同的分布函数。尽管为了简便显示三条光线,应当理解的是,这也适用于更多数量的光线。
图8是没有用工程照明而捕获的传感器响应。在该实例中,利用平行于相机光轴的入射光来捕获强度图像。入射光线未被设计而仅是准直照明。样品为一个铬球,具有镜子般的反射,表面法线仰角从0到90度变化。
图9是使用图7中的3DSM***确定的传感器响应。在该示例中,利用在使用漫射器实现高斯分布之后的工程照明来捕获强度图像。通过比较图8和图9的强度图像,可显示出在如图8所示的常规准直照明下,相机只有很少的像素测量强度。在这种情况下,有限数量的像素值可用于估计表面法线。相比而言,在图9所示的工程照明下,传感器响应更宽,更多的像素值可用于表面法线的估计。使用具有已知分布函数的工程照明而不是准直光的某些实施例的技术优势可包括显著增加要构造的表面法线的空间范围和/或以更高的角度分辨率估计每个表面法线。
图10A是根据一个实施例的3DSM***800的组件示意图。3DSM***800包括具有准直器834,光纤束836,组合滤光器835,镜子837和光束分束器838的光学元件的工程照明***。3DSM***还包括相机860。图10B根据一种实施方式,显示图10A中的组合滤光器835的示例布局。在图10B中,组合滤光器835是杯型的三个中性密度(ND)滤光器的组合:第一ND滤光器895,第二滤光器896和第三滤光器897。尽管显示了三个ND滤光器,其他实施方式可使用附加的滤光器。在中间的第一ND滤光器895有最高的透射率,第二ND滤光器896和第三ND滤光器897的透射率逐渐减小。图10C是根据一种实施方式,图10A示出的组合滤光器835的另一个示例布局。在该示例中,滤光器有随机分布的透射。图10D是根据一种实施方式,图10A示出的组合滤光器835的另一个示例布局。在该示例中,滤光器有线性梯度分布的透射。
回到图10A,在所示的数据采集阶段期间,照明穿过光纤束836到组合滤光器835。穿过组合滤光器835的不同分区的照明被设计为具有来自于组合滤光器上的不同点的不同强度的三条光线。穿过准直器834之后,光线A1,A2和A3有不同的强度,与来自于图7配置所示的漫射器736的光线类似。照明光线A2有最高的强度,照明光线A1和A3有较低的强度。镜子837接收三条照明光线A1,A2和A3并反射这些光线。光束分束器838从镜子837接收接收反射光线B1,B2和B3并反射这些光线。反射光线M1,M2和M3被传播到样品880的表面882上的M点。在该图示中,为了简便显示了一个光束中的三条照明光线M1,M2和M3,应当理解的是,提供给M点的工程照明有无限数量的照明光线。表面882反射照明光线,反射光线892穿过光束分束器838,并被相机860接收。入射光线M1,M2和M3的强度分布与照明光线A1,A1和A3的强度分布相同。
图41是根据一个实施例描绘3DSM***4100数据采样操作的示意图。3DSM***4100包括照明光源4134和具有光学元件的工程照明***,这些光学元件包括漫射器4136,照明准直器4139,镜子4137和光束分束器4138。3DSM***4100还包括相机4160。在图示的数据采集阶段期间,从光源4134传来的光穿过漫射器4136,该漫射器被设计为具有某种透射分布,比如高斯分布。穿过漫射器4136的光线接着由照明准直器4139准直。光线A1,A2和A3进一步被光束分束器4138反射,被投影到样品4180的表面4182上。入射光线L1,M2和N3也被设计为具有已知的强度分布,该分布遵循漫射器4136的透射轮廓。
A.照明方向的操控
在某些实施方式中,3DSM***配置为操纵一个或多个光束的照明方向。例如,3DSM***可包括移动的镜子来操纵从镜子反射的照明光束的方向。图11A-11B是根据一方面图示由具有旋转(自旋)镜子937的3DSM***900执行数据采集操作的示意图。图12是说明图11A-B中的3DSM***执行一次数据采集操作的示意图。在一种情况下,图11A-11B和图12中的图示出了数据采集阶段的三种操作。在另一种情况下,图11A-11B中的图示出了一个数据采集阶段的两种操作,图12示出了另一个数据采集阶段的一种操作。
3DSM***900包含具有光学元件的工程照明***,光学元件包括漫射器936,旋转镜937和光束分束器938。工程照明***也包括来自于照明设备(未显示)的准直照明935。3DSM***900还包括相机960。3DSM***900也包括x轴,z轴和正交于x轴和z轴的y轴(未显示)。3DSM***900也包括与移动镜937耦合的运动控制设备932。运动控制设备932配置为将旋转镜937绕着x轴和y轴旋转(两个正交的旋转方向)。该图示出旋转镜937绕着x轴在第一位置(虚线)和当前第二位置(实线)之间旋转。
在图11A和11B中,漫射器936接收准直照明935,并且准直照明通过漫射器传输,漫射器基于漫射器的透射率分布来扩散照明。镜子937接收到照明光线A2并将其反射。光束分束器938从镜子接收到反射光线B2并将其反射。反射光线M2被传到样品980的表面982上。样品980的表面982反射照明光线并且反射光线992,993通过光束分束器938传输,反射的透射光线992,993由相机960接收。
在图12中,漫射器936接收准直照明935,并且准直照明通过漫射器936传输,漫射器基于漫射器的透射率分布来扩散照明。移动镜937接收到照明光线A2并将其反射。样品980的表面982反射照明光线B2,反射光线994通过光束分束器938传输,并且反射的透射光线994由相机960接收。在图12中,当旋转镜937以一个大的倾斜角定位时,照明光线B2直接从旋转镜937反射到表面982上,没有从光束分束器938上反弹。图示的配置允许更大的光线入射角。
在图11A-11B中,入射照明M2的方向可利用运动控制设备932快速旋转旋转镜937来改变,运动控制设备例如旋转台,万向支架和测角仪。在图12中,入射照明B2的方向可利用运动控制设备932快速旋转旋转镜937来改变。尽管在图11A-B和图12中显示一条入射光线,应当理解的是,可使用同样的***配置来指引照明光线的光束穿过整个视野,如图6A-6C所示的那样。
配置为利用旋转镜操纵一个或多个光束的工程照明方向的3DSM***可提供一个或多个技术优势。第一,一个技术优势是可围绕着主要表面法线捕获BRDF的大量角度采样,并且可通过调整镜子旋转角度实现非常精细的采样步数。这种方法可允许对相对更平滑的镜面表面的表面法线进行无偏估计。第二,一个技术优势是该实现可避免光度立体技术常见的阴影效应。第三,另一个技术优势通过使用工程照明,可估计的表面法线的范围显著延展。如果不采用工程照明,可估计的表面法线的范围仅由入射光线的扫描范围决定。但通过工程照明,可估计表面法线的范围增加,并且该增强与工程照明分布的带宽成比例。第四,另一个技术优势是相机和照明不必放置在远处以满足正交的假设。因此,整个***可以以紧凑的形式构建,可在更近的距离捕获数据,以达到更好的空间和深度分辨率以及精度。
对于有着大斜率表面的样品,可加入附加的照明光源来改善估计,该光源位于一个倾斜的角度。图13示出了放置附加照明光源的示例。尽管在示例中只显示两个照明光源,在其他实施例中也可使用更多的光源。
图13是根据一方面,示出具有旋转(自旋)镜1037的3DSM***1000。3DSM***1000包括具有光学部件的工程照明***,光学部件包括漫射器1036,旋转镜1037和光束分束器1038。工程照明***也包含三个照明设备:配置为提供准直照明1035的第一照明设备1010,第二照明设备1011和第三光源1012。3DSM***1000还包含相机1060。3DSM***1000也包括x轴,z轴和与x轴和z轴正交的y轴(未显示)。3DSM***1000还包括与旋转镜1037耦合的运动控制设备1032。运动控制设备1032配置为旋转旋转镜1037绕着x轴和y轴在第一位置(虚线)和当前第二位置(实线)之间旋转。漫射器1036接收准直照明1035并且准直照明穿过漫射器1036,漫射器基于器透射率分布来扩散照明。尽管为了简化仅显示从漫射器传来一条光线,应当理解的是,多条光线穿过到达旋转镜1037。旋转镜1037接收照明光线A2并将其反射。光束分束器1038从镜子1037接收反射光线B2并将其反射。反射光线M2被传到样品1080的表面1082上。样品1080的表面1082反射入射光线。从表面1082反射的光线通过光束分束器1038传播。从光束分束器1038传播的光线1093由相机1060接收。
图14A-14B是根据一个实施例示出配置为操纵照明方向的3DSM***1100执行数据采集操作的示意图。3DSM***1100包括具有光学元件的工程照明***,光学元件包括漫射器1136,具有光轴1133的准直器1134,照明阵列1135,镜子1137和光束分束器1138。3DSM***1100还包括相机1160。如所示,照明阵列1135放置在准直器1134后面。
在照明阵列中可采用不同类型的照明,例如LED和光纤。在所示的示例中,中间照明元件(如LED)放置在准直器1134的焦点上。在其他示例中,也可采用其他位置。照明阵列的每一个圆圈代表一个单独的照明元件。实心圆圈表示打开照明元件,空心圆圈代表关闭照明。通过打开和关闭每一个照明元件,可操纵入射光线M2到样品1180表面1182上的方向。在图14A-14B中,照明阵列1135包含5个照明元件1191,1192,1193,1194和1195。在另一个示例中,可采用更多或更少的照明元件。在图14A中,照明阵列1135的中间照明元件1193被点亮。在图14B中,照明阵列1135的照明元件1191被点亮。准直器1134接收从激活元件传来的照明。
在图14A-14B所示的操作中,漫射器1136接收从准直器1134传来的准直照明。照明通过1136传输,并基于漫射器的透射分布被扩散。镜子1137接收照明光线并将其反射。简便起见,只显示由镜子1137反射一条光线A2。光束分束器1138从镜子接收反射光线B2并将其反射。反射光线M2被传到样品1180的表面1182的点上。样品1180的表面1182反射照明光线,反射光线1198通过光束分束器1138传播并且透射光线1198由相机160接收。在操作中,3DSM***1100可以通过开关单个照明元件来操纵入射光线M2的方向。
B.校准过程
在某些实施方式中,3DSM***产生对准同一方向的工程照明光束。例如,在图6A-6C中,三条光束的中心照明光线L2,M2和N2彼此平行。然而,在其他实施方式中,照明光束由于不完美的光线准直可发散或会聚。在一个实施方式中,3DSM包括一个校准过程,可用来估计入射光线与上面讨论的理想情况的偏移。
3DSM***的入射光线方向(例如,图6A-6C中的入射光线L2,M2和N2)可由照明控制来控制(如在图11A中使用旋转镜子937)或基于照明阵列的认知(如图14A中的照明阵列1135)。为考虑3DSM***的未对准情况,可使用校准过程来决定偏移且可在分析阶段考虑偏移。
下面是使用各种元件作为参考物体的校准过程的示例。图示示例可在本文描述的任意***配置中使用。
1.镜子
在其他实施方式中,***校准过程使用镜子。根据一个实施例,使用镜子1480的***校准过程的示例显示在图15A-15C中。根据一个实施例,图15A-15C示出由3DSM***在校准过程期间实现的三个数据采集操作。在校正过程期间,在3DSM***分析样品时放置镜子1480,并且改变入射光线的方向。3DSM***包括相机1460。在校正过程期间,从镜子1480反射的照明由相机1460接收,并且在所有不同方向上捕获强度图像。图15A-15C示出三个方向的入射光线。3DSM***有一个或多个处理器(例如图2中的处理器),可基于来自镜子1480的反射校准入射光线的偏差。
图16A-16B是根据一个实施例,显示由使用镜子的校准过程中产生的入射光线校准偏移的图示。图16A示出就天顶角而言,在每个像素处的入射光线的校准偏移的图示。图16A示出就方位角而言,在每个像素处的入射光线的校准偏移的图示。理想情况下,如果实现完美的准直,在每个像素处的天顶角和方位角值应该相同。但实际上,如图16A和16B所示,在每个像素处这些数值是不同的。在一种实施方式中,3DSM方法使用校准过程的结果来在分析阶段考虑偏移,以补偿任何未对准。
图17A和17B是根据一个实施例,示出使用镜子作为参考对象的校准过程的***对准的图示。在图6A中,每个光束中的中心光线L2,M2和N2与物体表面垂直,而且反射光线R与这些中心光线平行。在某些实施方式中,这种平行布置是优选的。为了得到这种平行布置,需要在照明路径和成像路径中对准不同的***部件,比如可以采用本文描述的校准过程来实现。在一种实施方式中,校准过程采用镜子以类似于图15A-15C的方式如通过操纵样品平台来进行光学器件(这里也成为为光学元件),相机,物体平面的主动对准。图17A和17B是使用如图11A-11B配置的3DSM***捕获参考镜子表面图像的示例。图17A是均匀的捕获图像,表明不同的光学部件处于对准。图17B是不均匀的捕获图像,表明一个或多个部件的不良对准。使用镜子的校准方法可行,是因为镜子是平坦的而且只能在一个方向反射光,因此任何未对准都会导致来自镜子的部分反射光。
2.铬球
在其他实施方式中,***校准过程使用一个或多个铬球。按照一个实施例,***校准过程使用铬球阵列1580的例子显示于图18A-18C中。在铬球阵列1580中可使用不同数量的铬球。
图18A-18C示出根据一个实施例在由3DSM***1500实现的校准过程中的三个数据采集操作。在校准过程期间,铬球阵列1580作为物体被放置,并且入射光线的方向被改变。3DSM***1500包括相机1560。在校准过程期间,相机1560接收从铬球阵列1580反射的照明,并且捕获所有不同方向的强度图像。由于每个球体具有已知的几何形状,当入射光线改变方向时,球体的不同部分会突出显示。3DSM***有一个或多个处理器(例如图2中的处理器22),可根据来自于铬球阵列1580的反射校准入射光线的方向。
图19A和19B是根据一个实施方式,当入射光线被改变到两个不同的方向并且球体不同部分显示高亮的铬球阵列的单个铬球的捕获图像。基于高亮的位置可估计入射光线的方向。
图20A和20B是根据一个实施方式,使用如图18A-18C的3DSM***1500的校准过程对于169个不同入射光线方向校准的天顶角和方位角的范例的图示。
3.镜子与铬球
在其他实施方式中,***校准过程使用镜子和一个或多个铬球。图21A-21C是按照一个实施例的使用镜子2080与单个铬球2081的组合实现***校准过程的3DSM***2000的示意图。在校准过程期间,镜子2080和铬球2081作为被成像物体放置,并且入射光线的方向被改变。3DSM***2000包括相机2060。在校准过程期间,在相机2060处接收从铬球2081和镜子2080的反射的照明而且捕获所有不同方向的强度图像。使用在图15A-15C和图16A-16B中描述的方法来校准光线偏离于理想平行条件下的偏移,入射光线方向由在图18A-18C,图19A-19B和图20A-20B描述的方法来校准。通过使用镜子与铬球的组合,这两个校准过程可以同时执行。
C.预先确定的传感器响应(这里也称作预先计算的传感器响应)
因为工程化照明的强度分布已知,传感器响应可由取工程光线分布函数和在不同照明方向的所有可能的表面法线方向的卷积来预先确定。在各种实施方式中,3DSM方法包括在数据采集阶段期间获取强度图像的操作,在分析阶段使用强度图像为每一个表面点决定测量传感器响应的操作,将测量传感器响应与预先确定的传感器响应匹配来决定每一个对应于表面图像数据中像素的表面点的表面法线。表面点这里有时被称作“像素”或“表面像素”。
图22根据一个实施例,描绘了单个传感器像素的一系列预先确定的传感器响应。每一个传感器响应是三维图的形式。在每个传感器响应图中,x轴和y轴分别代表在x轴和y轴被改变的入射光线方向,z轴是传感器响应的归一化强度。每个图是具有不同表面法向量的预先确定的传感器响应。图示的一系列p个预先确定的传感器响应包括第一传感器响应1902,第二传感器响应1904,…,第(p-1)个传感器响应1906和第p个传感器响应1908。
图23是根据一个实施例,将对应于表面像素1911的单个传感器像素的测量传感器响应与一系列预先确定传感器响应之一匹配的操作的示意图。在图23中,当照明在x和y方向都改变时,可对单个像素1911计算捕获的响应1912,并且最佳匹配的预先确定的传感器响应1914可基于不同的度量比如相关性和最小差异找到。匹配的预先确定的传感器响应的表面法线矢量则被分配给该像素。对捕获图像中的所有像素重复相同的传感器响应匹配过程。
D.微几何和反射特性测量以及相关渲染的示例
图24A是皮革样品的照片。皮革样品的面积2301(由照面中的矩形表示)通过实施方式中的3DSM***分析,以深度图和反射特性的形式测量微几何。根据一个方面,面积2301可为相机视野中样品的一部分。
图24B是由3DSM***分析的示于图24A的皮革样品的面积2301的测量深度图的图示。图24C是由3DSM***分析的皮革样品部分2301的表面法线图。图24D是由3DSM***分析的皮革样品面积2301的测量漫反射图。图24E是由3DSM***决定的皮革样品面积2301的测量镜面反射图。图24F是由3DSM决定的皮革样品面积2301的测量表面粗糙度图。
图25A是硬币的照片。图25B是图25A中的硬币的3D渲染,是根据一个实施例,由3DSM***使用测量深度图产生。图25C是由3DSM***决定的显示于图25A的硬币的沿着黑线测量的测量深度曲线图。深度以微米为单位测量。
图26A-26D是根据一个实施方式,基于由3DSM***测量的样品的测量微几何和反射特性的基于物理的渲染。图26A是羊毛样品的渲染。图26B是绿色皮革样品的渲染。图26C是岩石样品的渲染。图26D是层压木材样品的渲染。
E.波长和偏振控制
在某些实施方式中,3DSM***控制工程照明,来自样品表面的光(在相机与样品之间的光路),或者工程照明以及来自样品表面的光两者的波长和/或偏振。在这些情况下,3DSM包括一个或多个波长和/或偏振控制设备。为了控制工程照明,反射光,或者在通向相机的光路上的另一点的光的波长,可以使用诸如装载有不同光谱滤光器的滤光轮或液晶可调滤光器的控制装置。或者,也可使用不同波长的不同光源来控制工程照明的波长。为了控制偏振,可采用在不同位置旋转的偏振器或者转载有不同偏振器的滤光轮。
图27A-27C是按照一个实施例的描述配置为控制工程照明的波长和偏振的3DSM***2700实施的数据采集阶段三个操作的示意图。3DSM***2700包含工程照明***2730,相机2760和与工程照明通讯以改变工程照明的波长和/或偏振状态的控制设备2739。在一种情况下,波长/偏振控制设备2739是工程化照明2730的一个部件。可单独控制工程化照明的波长和偏振或者一起控制,图像可在不同的照明方向下以及不同的曝光下被捕获,以一种与示于图6A-6C类似的方式。在图示的操作中,示出工程照明***提供三个光束:第一个光束入射在样品2780的表面2782的L点,第二个光束入射在样品2780的表面2782的M点,第三个光束入射在样品2780的表面2782的N点。
图27A-27C显示光束的N个照明方向中的三个的数据采集操作。来自样品2780的反射光R传到相机2760并且在两种曝光设置“曝光A”和“曝光B”的每一个在不同的波长/偏振状态捕获多个图像。尽管为了简化,仅示出在不同设置下的三个照明方向和两种曝光,应当理解的是,数据采集可包括附加的照明方向和/或附加的曝光。接着,被捕获的图像在信号中传送到一个或多个处理器,用来分析不同的波长和偏振状态的图像。在分析阶段期间,一个或多个处理器使用捕获图像来构造表面法线图,深度图和反射特性图,所有这些都是在不同波长和/或偏振状态下测量。
图28A-28C是按照一个实施例,示出使用3DSM***2800控制来自样品2880的表面2882的反射光2898的波长和偏振的数据采集阶段的三个操作的示意图。3DSM***2800包含工程照明***2830,相机2860和与反射光2898通讯以改变波长和/或偏振状态的波长/偏振控制设备2839。反射光2898的波长和偏振可单独控制或一起控制,图像可在不同的照明方向下以及不同的曝光下被捕获,以一种示于图6A-6C类似的方式。在图示的操作中,示出工程化照明***2830提供三个光束:第一个光束入射在样品2880的表面2882的L点,第二个光束入射在样品2880的表面2882的M点,第三个光束入射在样品2880的表面2882的N点。图28A-28C显示光束的N个照明方向中的三个的数据采集操作。来自样品2880的反射光R传到相机2860并且在两种曝光设置“曝光A”和“曝光B”的每一个的不同波长/偏振状态下捕获多个图像。尽管为了简化,仅示出在不同设置下的三个照明方向和两种曝光,应当理解的是,数据采集可包括附加的照明方向和/或附加的曝光。接着,被捕获的图像在信号中传送到一个或多个处理器,用来分析不同的波长和偏振状态的图像。在3DSM方法的分析阶段操作中,一个或多个处理器使用捕获图像来构造表面法线图,深度图和反射特性图,所有这些都是在不同波长和/或偏振状态下测量。
图29A-29C是按照一个实施例,示出使用3DSM***2900控制工程照明和来自样品2980的表面2982的反射光2998两者的波长和偏振的数据采集阶段的三个操作的示意图。3DSM***2900包含工程照明***2930,相机2960,与工程照明通讯以改变波长和/或偏振状态的第一波长/偏振控制设备2938,以及与反射光2998通讯以改变反射光2998波长和/或偏振状态的第二波长/偏振控制设备2939。在一种情况下,第一和第二波长/偏振控制设备2938,2939中的一个或两个都是工程照明***2930的组件。工程照明的波长和偏振可单独控制或一起控制,反射光2998的波长和偏振也可以单独或者一起控制。
图像在不同的照明方向下以及不同的曝光下被捕获,以一种示于图6A-6C类似的方式。在图示的操作中,示出工程照明***2930提供三个光束:第一个光束入射在样品2980的表面2982的L点,第二个光束入射在样品2980的表面2982的M点,第三个光束入射在样品2980的表面2982的N点。图29A-29C显示光束的N个照明方向中的三个的数据采集操作。来自样品2980的反射光R传到相机2960并且在两种曝光设置“曝光A”和“曝光B”的每一个的不同波长/偏振状态下捕获多个图像。尽管为了简化,仅示出在不同设置的三个照明方向和两种曝光,应当理解的是,数据采集可包括附加的照明方向和/或附加的曝光。接着,被捕获的图像在信号中传送到一个或多个处理器,用来分析不同的波长和偏振状态的图像。在3DSM方法的分析阶段操作中,一个或多个处理器使用捕获图像来构造表面法线图,深度图和反射特性图,所有这些都是在不同波长和/或偏振状态下测量。
图30是按照一个实施例的3DSM***3000的数据采集阶段的一次操作的示意图,该***控制工程照明和来自样品3080表面3082的反射光3098的波长和偏振。3DSM***3000包括具有照明光源3034的工程照明***和光学元件,其中光学元件包括第一波长/偏振控制设备3031,准直器3033,漫射器3036,旋转镜3037和光束分束器3038。3DSM***3000还包括第二波长/偏振控制设备3039和相机3060。3DSM***3000也包括x轴,z轴和与x轴和z轴正交的y轴(未显示)。3DSM***还包括与旋转镜3037耦合的运动控制设备3032。运动控制设备3032配置为绕着x轴和y轴(两个正交的旋转方向)将旋转镜3037旋转。第一波长/偏振控制设备3031控制从照明光源3034传来的照明,然后准直器3033接收从第一波长/偏振控制设备3031传来的光。在操作期间,漫射器3036接收来自于准直器3033的准直照明3035,然后漫射器3036基于漫射器的透射率分布扩散照明。为了简便,显示三条照明光线A1,A2,A3。旋转镜3037接收照明光线并将其反射。光束分束器3038从镜子3037接收反射光线B1,B2,B3再将其反射。样品3080的表面3082分别在点L,M,N处接收入射光线L1,M2和N3。反射自表面3082的光通过光束分束器3038传输。第二个波长/偏振控制设备3039接收透过光束分束器3038的光。由第二波长/偏振控制设备3039传播的光由相机3060接收,并且在不同的波长/偏振状态捕获多幅图像。在操作期间,第一波长/偏振控制设备3031控制着传到3033的光的波长和/或偏振状态和/或第二波长/偏振控制设备3039控制从样品3080反射的和通过光束分束器3038传播的光的波长和/或偏振状态。在操作期间,光传到相机3060处,在多个曝光设置的每一个设置的不同的波长/偏振状态下捕获多幅图像。捕获的图像在信号中传给一个或多个处理器以分析不同波长和偏振状态的图像。
在图30中,第一波长/偏振控制设备3031实现对工程照明的波长和偏振控制,而第二波长/偏振控制设备3039实现对来自样品表面的反射光的波长和偏振控制。为控制波长,可使用如装载不同光谱滤光器的滤光轮或液晶可调滤光器的装置。为控制偏振,可使用在不同位置旋转的偏振器或者装载不同偏振器的滤光轮。具有不同波长的不同光源也可用来控制工程照明的波长。
F.样品表面的受控运动
在某些实施方式中,3DSM***配置为控制样品表面的运动。例如,3DSM***可包含与样品平台耦合的运动控制装置来控制样品表面的平移,倾斜和旋转。
图31A-31C是根据一个实施方式,示出3DSM***3100执行的数据操作中的三个操作的示意图,该***包括与样品平台3140耦合的运动控制设备3132,用以操纵样品表面的位置。3DSM***3100包含样品平台3140,工程照明光源3130,与样品平台3140耦合的运动控制设备3132。在图31A-31C中的图示数据阶段的操作中,入射照明包含三个光束:第一光束入射在样品3180表面3182的L点,第二光束入射在样品3180表面3182的M点,第三光束入射在样品3180表面3182的N点。尽管为了简便示出包含三条光线的三个光束,应当理解的是,可采用更大数量的光线和/或光束。运动控制设备3132配置为控制样品的位置,包括应用于表面的一次或多次的平移,倾斜和旋转。在样品3180的每一个受控位置,相机在不同的照明方向和不同的曝光设置下捕获图像,类似于在图6A-6C中捕获的图像。尽管显示了三个照明位置,应当理解的是,可实施附加的照明位置。在操作期间,捕获图像的数据在信号中传给一个或多个处理器,这些处理器使用图像数据在每个受控位置构造表面法线图,深度图和反射特性图。
在样品表面大于相机视野的实施方式中,样品可在样品平面上沿着不同的方向平移,可在不同的平移位置上捕获图像。在每个控制方向上捕获的图像可用来在每个平移位置上测量表面法线图,深度图和反射特性,然后这些数据可以拼接在一起。
-高度图和各向异性
在一些实施方式中,3DSM***还包含配置为调整样品表面和相机之间距离以将表面带到焦点处的平台。在一个实施方式中,表面与相机间的距离可以逐渐调整,并且在每个距离处捕获图像。在不同距离捕获的图像可用来决定特性,并且整合在一起来扩展相机视野深度,也可以被处理来以基于来自散焦方法的深度来估计高度图。该高度图可与使用工程照明测量的深度图合并。
在某些情况下,表面可呈现各向异性反射。在这种情况下,在不同的旋转位置测量特性可能很实用。在一个实施方式中,3DSM***还包括可以用来旋转样品表面的旋转平台,并且3DSM***在不同的旋转位置测量表面法线,深度和反射特性。可以倾斜表面来改变照明,表面法线和相机观察方向之间的几何关系。
在一些情况下,在这些附加高度和/或旋转位置捕获的图像和在不同照明方向下捕获的图像可一起拟合到一个BRDF模型,可提供改善的反射特性的测量。
G.工程照明和相机的受控运动
在某些实施方式中,3DSM***配置为控制工程化照明和相机一致运动。例如,3DSM***可包括单独与每个工程化照明***和相机耦合,或与两者都耦合的运动控制装置。
图32A-32C是根据一个实施例,示出配置为控制工程照明和相机运动的3DSM***3200执行的数据采集阶段的三个操作。可通过应用不同的运动控制,如平移,倾斜和旋转,来一起或者单独控制工程照明和相机。在每个受控位置,相机在不同的照明方向和不同的曝光设置下捕获图像,类似于在图6A-6C中捕获的图像。3DSM***3200包括工程照明***3230,相机3260和与工程照明***3230以及相机3260都耦合的运动控制设备3232。在图32A-32C中的所示数据采集阶段的三个操作中,入射照明包含三个光束:第一光束入射在样品3280表面3282的L点,第二光束入射在样品3280表面3282的M点,第三光束入射在样品3280表面3282的N点。尽管为了简便示出包含三条光线的三个光束,应当理解的是,可采用更大数量的光线和/或光束。运动控制设备3232配置为控制应用于工程照明***3230和相机3260的一次或多次的平移,倾斜和旋转。在每一个受控位置,相机在不同的照明方向和不同的曝光设置下捕获图像,类似于在图6A-6C中捕获的图像。尽管显示了三个位置,应当理解的是,可实施附加的位置。在操作期间,捕获图像的数据在信号中传给一个或多个处理器,这些处理器使用图像数据在每个控制方向构造表面法线图,深度图和反射特性。
在样品表面大于相机的视野的实施方式中,工程照明和相机可一起或单独沿着平行于样品平面的不同的方向平移。在数据采集期间,相机可在不同的平移位置上捕获图像。在每个控制方向上捕获的图像可用来在每个平移位置上测量表面法线图,深度图和反射特性,然后这些数据可以拼接在一起。
H.波长/偏振控制和运动控制
在一个实施方式中,3DSM***合并波长/偏振和运动控制以捕获不同波长下,不同偏振状态以及不同受控位置下的图像。例如,3DSM***可包含如图27A-27C,图28A-28C以及图29A-29C中的一个或多个波长/偏振控制设备,和如图31A-31C以及图32A-32C中的一个或多个运动控制设备。
I.表面发射率特性
在一些实施方式中,3DSM***配置为获得表面发射率特性。在数据采集期间,工程照明切换到开启状态以照亮表面,然后切换到关闭的状态,在此期间相机接收来自表面的发射光(发射)并基于接收到的发射捕获强度测量值。这些3DSM***可配置为控制发射表面的运动,工程照明和相机的运动,来自于样品表面的发射光的波长和/或偏振的一个或多个。
图33-35是根据一个实施例,描绘3DSM方法的数据采集和分析阶段的操作的示意图,该方法获得表面发射特性。图33示出根据一个实施例,配置为控制发射表面运动的3DSM***3300执行数据采集阶段的示意图。图34示出根据一个实施例,配置为控制工程化照明和相机运动的3DSM***3400执行数据采集阶段的示意图。图35示出根据一个实施例,配置为控制来自样品表面的发射光的波长和/或偏振的3DSM***3500执行数据采集阶段的示意图。在一种实施方式中,将图33和图34中所示的运动控制和图35所示的波长/偏振控制组合在一起以在不同的受控位置,不同的波长和不同的偏振状态下捕获图像。
图33是控制发射表面3382运动的数据采集阶段操作和获取样品发射特性的数据分析阶段操作的示意图,如由一个实施例中的3DSM***3300所执行。3DSM***3300包括接收具有发射表面3382的样品3380的样品平台,工程照明***3330,与样品平台3340耦合的运动控制设备3332,捕获图像的相机3360和一个或多个处理器3322。当工程照明3330在开启状态,工程照明***提供工程照明到样品3380的发射表面3382。图示实例显示照明***在开启状态之后的关闭状态。这时,发射表面3382发射光(发射)传到相机3360。运动控制设备3332配置为控制应用于发射表面3382的诸如平移,倾斜和旋转。在每个运动受控位置,相机3360在不同曝光设置下捕获图像。尽管只显示两个曝光,曝光A和曝光B,可在附加的曝光下取得附加的图像。在操作期间,捕获图像的图像数据在信号中传给一个或多个处理器3322,这些处理器使用图像数据以测量表面发射特性,例如颜色,亮度和均匀度。
图34是控制工程照明和相机运动的数据采集阶段的操作和获取样品发射特性的分析阶段的操作的示意图,如由一个实施例中的3DSM***3400所执行。3DSM***3400包括包含工程照明***3430和捕获图像的相机3460的组件3401。3DSM***3400还包括与组件3401耦合的运动控制设备3432,和一个或多个处理器3422。当工程照明3430在开启状态,工程照明***提供工程照明到样品3480的发射表面3482。图示示例显示照明***3430在开启状态之后的关闭状态。这时,发射表面3482发射光(发射)传到相机3460。运动控制设备3432配置为控制应用于工程照明和相机3460两者或者只应用于相机3460的诸如平移,倾斜和旋转。在每个运动受控位置,相机3460在不同曝光设置下捕获图像。尽管只显示两个曝光,曝光A和曝光B,可在附加的曝光下取得附加的图像。在操作期间,捕获图像的图像数据在信号中传给一个或多个处理器,这些处理器使用图像数据以测量表面发射特性,例如颜色,亮度和均匀度。
图35是控制来自样品3580的发射表面3582的发射光3598的波长和/或偏振的数据采集阶段的操作和获取样品发射特性的分析阶段的操作的示意图,如由一个实施例中的3DSM***3500所执行。3DSM***3500包括工程照明***3530,捕获图像的相机3560,配置为改变发射自样品3580表面3582的光的波长/偏振控制设备3538,以及一个或多个处理器3522。当工程照明3530在开启状态,工程照明***3530提供工程照明到样品3580的发射表面3582。图示示例显示照明***3530在开启状态之后的关闭状态。这时,发射表面3582发射光(发射),波长/偏振控制设备3538正控制发射的波长和/或偏振状态并且传播光到相机3560。可单独或一起控制发射光的波长和偏振,并且表面发射特性由3DSM***3500在不同波长和/或偏振状态下测量。
J.表面半透明特性
在一些实施方式中,3DSM***配置为获得表面半透明特性。例如,当发现样品表面是半透明的时,工程照明可切换到关闭状态。然后点亮放置在半透明表面后面的背光,相机仅测量来自半透明表面的透射光。强度测量可用来决定样品表面的半透明特性。
图36是控制半透明表面3682运动的数据采集阶段的操作和获取表面半透明特性的分析阶段操作的示意图,如由一个实施例中的3DSM***3600所执行。3DSM***3600包括背光光源3690,运动控制设备3632,工程照明***3630,相机3660和一个或多个处理器3622。在操作期间,运动控制设备3632与所示放置着样品3680的样品平台耦合。图示实例显示工程照明光源3630是关闭状态。这时,位于半透明表面3682后面的背光光源3690提供背光3691。相机3660仅测量从半透明表面3682穿过的透射光3698。运动控制设备3632控制运动和半透明表面3682的位置。在每个受控位置,在不同的曝光设置“曝光A”和“曝光B”下捕获多幅图像。尽管只显示两个曝光,可在别的实施例中应用附加的曝光。如图36描述,捕获图像的图像数据在信号中传给一个或多个处理器3622,这些处理器使用图像数据以测量半透明表面特性,例如颜色,透射率和alpha图中的一个或多个特性。
图37是控制背光3791运动的数据采集阶段操作的示意图,如由一个实施例中的3DSM***3700所执行。3DSM***3700包括背光光源3790,运动控制设备3732,工程照明***3730,相机3760以及一个或多个处理器3722。图示实例显示工程照明***3730处于关闭状态。这时,在半透明表面3782后面的背光3790提供背光3791。相机3760仅测量从半透明表面3782穿过的透射光3798。运动控制设备3732控制背光3791的运动。不同的运动控制例如,一个或多个平移,倾斜和旋转可应用于背光3791。在每个受控位置,在不同的曝光设置“曝光A”和“曝光B”下捕获多幅图像。尽管只显示两个曝光,曝光A和曝光B,可在别的实施例中应用附加的曝光。如图37描述,捕获图像的图像数据在信号中传给一个或多个处理器3722,这些处理器使用图像数据以测量半透明表面特性,例如颜色,透射率和alpha图中的一个或多个特性。
图38是控制工程照明***和相机3860运动的数据采集阶段操作和获取表面半透明特性的分析阶段的操作的示意图,如由一个实施例中的3DSM***3800所执行。3DSM***3800包括包含工程照明***3830和捕获图像的相机3860的组件3831,与组件3831耦合的运动控制设备3833,和一个或多个处理器3822。图示实例显示照明***3830是关闭状态。这时,位于半透明表面3882后面的背光光源3890提供背光3891。相机3860仅测量从半透明表面3882穿过的透射光3898。运动控制设备3833控制工程照明和相机的运动。可将不同的运动控制,如平移,倾斜和旋转应用于工程照明和相机3860两者上或者单独应用于相机3860,并在每个受控位置,在不同曝光设置下捕获图像。在每一个受控位置不同的曝光设置“曝光A”和“曝光B”下捕获多幅图像。尽管只显示两个曝光,可在别的实施例中应用附加的曝光。如图38描述,捕获图像的图像数据在信号中传给一个或多个处理器3822,这些处理器使用图像数据以测量半透明表面特性,例如颜色,透射率和alpha图中的一个或多个特性。
图39是控制背光3938和/或来自表面3982的透射光的波长和/或偏振的数据采集阶段的示意图,如由一个实施例中的3DSM***3900所执行。3DSM***3900包括背光光源3938,第一波长/偏振控制设备3990,工程照明***3930,第二波长/偏振控制设备3939,用于捕获图像的相机3960和一个或多个处理器3922。图示实例显示照明***3930是关闭状态。这时,位于半透明表面3982后面的背光光源3938提供背光3992。相机3960仅测量从半透明表面3982穿过的透射光3999。第一波长/偏振控制设备3990控制背光3938的波长和/或偏振,第二波长/偏振控制设备3939控制来自样品3980的表面3982的透射光3998的波长和/或偏振。波长和偏振状态可单独控制或者一起控制。背光和透射光也可以单独控制或一起控制。在每个受控位置在不同曝光设置“曝光A”和“曝光B”下捕获多幅图像。尽管只显示两个曝光,可在别的实施例中应用附加的曝光。如图39描述,捕获图像的图像数据在信号中传给一个或多个处理器3922,这些处理器使用图像数据以测量在不同波长和偏振状态下的表面半透明特性。
在一个实施例中,示于图37-38的运动控制和示于图39的波长/偏振控制也可合并在一起,在不同的受控位置,不同的波长和不同的偏振状态下捕获图像。
K.在工程照明关闭状态下的3DSM***的示例
图40描述了图11A-B和图12中的3DSM***900的实施方式的示意图。在该实施方式中,3DSM***900配置为将工程照明切换到关闭状态。3DSM***900包括具有光学元件的工程照明***,该光学元件包括漫射器936,旋转镜937和光束分束器938。工程照明***还包括来自照明设备(未显示)的准直照明935。3DSM***900还包含相机960。3DSM***900还包含x轴,z轴和与x轴和z轴正交的y轴(未显示)。3DSM***900还包含与旋转镜937耦合的运动控制设备932。运动控制设备932配置为将镜子937绕着x轴和z轴旋转(两个正交的旋转方向)。图示显示旋转镜937绕着y轴在第一位置(虚线)和当前的第二位置(实线)之间旋转。在图40中,漫射器936接收准直照明935,并且准直照明通过漫射器936传输。运动控制设备932将旋转镜937转到无法把来自漫射器936的光反射给光束分束器938的位置上,例如,与漫射器936平行的位置。在图示示例中,镜子937从第一位置转到第二位置,光线A2被反射回来为B2而不会落到光束分束器938上。在该示例中,物体表面982不接收任何来自工程照明的光。通过切换工程照明到关闭状态,相机960只测量来自于表面982的发射光和/或透射光。该实施方式中的图像可用来测量表面发射特性或者表面半透明特性。
V.3DSM方法
图42是根据各种实施方式描绘3DSM方法的操作的流程图。3DSM方法由本文描述的各种实施方式的3DSM***来实现。3DSM方法通常包括数据采集阶段,分析阶段和可选的显示阶段。一个或多个处理器(如图2中的处理器22)执行存储器(如图2中的存储器24)中存放的指令来执行分析阶段和可选显示阶段的一个或多个操作。
在操作4210,获取强度图像以用于数据采集阶段的运行。在数据采集阶段期间,一个或多个光束的工程照明被引导N个不同的照明方向,入射到待分析样品的表面。可用于产生工程照明的工程照明***的示例在以上部分描述。N个不同的照明方向通常基于将光束在两个正交的方向旋转。例如,3DSM***可将光束沿着第一方向旋转20个旋转角度,沿着与第一方向正交的第二方向旋转20个旋转角度,以得到四百(400)个照明方向的组合。在每个照明方向上,相机在不同的曝光设置下捕获n幅图像。图43是操作4210的子操作的流程图。
在操作4212中,3DSM方法初始化计数器i=1。在操作4214,工程照明***在照明方向提供θi处向样品表面提供工程照明。例如,工程照明***可在照明方向θi处向表面提供一个或多个各种强度的照明光线的光束。在以上部分描述的各种实例中阐述了各种用于产生工程照明的不同***配置。在每一个照明方向,相机的传感器为每个曝光设置(操作4216)捕获n幅强度图像。在一种情况下,在每个照明方向捕获2幅强度图像。在另一种情况下,在每个照明方向捕获3幅强度图像。在另一种情况下,在每个照明方向捕获多于3幅的强度图像。
在操作4218,3DSM方法增加计数器i=i+1。在操作4220,3DSM方法返回到重复操作4214,4216和4218直到i大于N。在操作4220中如果i大于N,3DSM方法执行可选操作(以虚线表示)4222,4224。如果实施可选操作4222,改变光的波长和/或偏振到不同的状态,方法返回到操作4212以重复操作4212,4214,4216,4218和4220来为新的波长/偏振状态对于N个照明方向捕获强度图像。可替换地,可在操作4214之后在每个照明方向θi改变波长/偏振到不同的状态。
可选操作4224通常在样品表面比相机视野大时来实现。在可选操作4224期间,样品平移到不同的方向重复操作4212,4214,4216,4218和可选4222来为样品表面的不同部分(例如每一个具有相机视野面积的部分)捕获强度图像,直到分析完整个样品表面。在一个示例中,使用运动控制设备(例如x-y平台)来递增地将样品平移到不同的位置,以便相机视野中具有的是样品表面的不同部分。在另一个示例中,运动控制装置可相对于样品平移照明设备和/或相机。
回到图42,在操作4300,一个或多个处理器执行指令,为每个表面像素基于强度图像决定表面法线图。图44是操作4300的子操作的流程图。
在操作4310,3DSM方法基于在数据采集阶段期间捕获的强度图像,为每一个传感器像素产生测量的传感器响应。每一个传感器像素对应于表面的一个表面点。在数据采集阶段期间,对于N个不同的照明方向,不同的曝光设置以及可选的对于不同的波长/偏振状态,3DSM***相机的一个或多个传感器在每个传感器像素处采集强度值。为每个传感器像素对于N个照明方向对于不同曝光中的一个基于在传感器像素处测量的强度值构造测量传感器响应。在一种情况下,3DSM***基于最佳对比度或动态范围来决定使用在测量传感器响应中不同曝光中的一个。在另一种情况下,在不同曝光下的所有测量强度值被转换为辐射图或者高动态范围图像。
在操作4320,3DSM方法为每个传感器像素决定表面法线,通过将测量传感器响应与针对不同表面法线的一组预先确定的传感器响应的最佳拟合相匹配来实现。因为照明使用已知的分布设计,传感器响应可通过取工程光线分布函数与在不同照明方向的所有可能表面法线方向的卷积来预先确定。然后可基于捕获的传感器响应和预先确定传感器响应的最佳匹配来确定测量的表面法线。可基于不同的度量,如相关性和最小差异,找到最佳匹配的预先确定的传感器响应。接着将匹配的预先确定的传感器响应的表面法向矢量指派给每个像素。对捕获图像中的所有像素重复同样的传感器响应匹配过程来决定表面的表面法线。
在一个示例中,用于表面法线估计的传感器响应匹配可用以下公式1描述:
Figure GDA0003089793300000441
这里n是表面法线,Si是工程照明旋转到ith方向的测量传感器响应,Si’是工程照明旋转到ith方向的预先确定的传感器响应。也可采用其他目标函数。未知的表面法线n可基于优化或暴力方法来估计,其中对各种表面法线情况将预测的传感器响应进行计算,并在每个表面位置上将其与测量传感器响应比较。
回到图42,一旦对整个表面确定了表面法线,3DSM方法可从表面法线估计深度图来决定测量表面形貌(操作4320)。可从确定的表面法线来计算深度图。该操作可基于一个目标函数完成,此目标函数为估计的表面深度的表面梯度和测量的表面梯度的误差平方的积分。
在操作4340,3DSM方法基于表面法线决定样品的各种表面特性。反射特性,比如漫反射系数,镜面反射系数和粗糙度可基于一个BRDF模型来估计,例如Ward模型,Cook-Torrance模型以及Blinn-Phong模型。
BRDF模型是表面如何对光反应的数学近似,而且为表面物质的漫反射特性和镜面高亮建立模型。当光从不同角度入射到表面上,反射光代表不同的BRDF特性。由于工程照明旋转到不同的位置,采集到表面BRDF大量的角度采样。将从图像采集的数据拟合进一个BRDF数学模型,例如Ward模型,Cook-Torrance模型以及Blinn-Phong模型。这些BRDF模型通常是一个非线性函数,该函数以照明法线,相机视图法线为变量,以法线,漫反射,镜面反射和粗糙度为系数。不同的BRDF模型可有不同的系数,比如各向异性,基色,金属和光泽度。例如,一个各向同性的Ward BRDF模型可描述为一个如公式2的非线性函数:
ρ(LN,VN)=f(n,ρd,ρs,β) 公式2
这里LN是入射光的法线,VN是相机视图方向的法线,n是表面法线,ρd是漫反射系数,ρs是镜面反射系数,β是粗糙系数。f(n,ρds,β)是描述BRDF模型的非线性函数。LN和VN是基于***涉及配置或者校准可被已知的变量。n,ρds,和β是需要估计的系数。在操作4300估计表面法线。接着可用以下的目标函数估计系数ρds,和β:
Figure GDA0003089793300000451
也可采用其他目标函数。可使用暴力穷举方法或非线性优化来估计ρd,ρs,和β系数。并对所有的表面位置重复该过程。如果需要,在操作4300处估计的表面法线也可用作初始点。然后可细化表面法线n,并且使用如下的目标函数来估计系数ρd,ρs和β。在其他实施方式中也可使用其他的目标函数。
Figure GDA0003089793300000452
可选地(如虚线所示),在操作4360处,3DSM方法可产生一个或多个渲染和/或执行附加的分析。可采用例如基于测量表面法线,深度,反射特性,发射特性和半透明特性的光线投射和光线追踪技术来产生渲染。在可选的显示操作期间,可在如图2所示的显示器70的显示器上提供渲染和/或其他输出。
图45是根据一个实施例的描述渲染操作4360的输入和输出的框图。在图45中,示出使用测量的表面法线,深度,反射特性,表面发射率特性和表面半透明特性的基于物理的渲染和照片级渲染。如图所示,测量的表面法线,深度和反射特性,例如漫反射,镜面反射,光泽度,基色,金属图和粗糙度可用于渲染物体的反射外观。测量的表面发射性质,如颜色,亮度和均匀性,可用于渲染物体的发射性外观。测量的表面半透明特性,例如颜色,透射率和alpha图可用于渲染物体的半透明外观。
图46A-46H是根据一个实施方式由3DSM***测量的合成皮革样品的表面反射特性,表面法线和深度图的图示。图46A是合成皮革表面的测量漫反射。图46B是合成皮革表面的测量镜面反射。图46C是合成皮革表面的测量光泽度。图46D是测量的基色,描述合成皮革表面的漫反射和镜面反射的组合颜色外观。图46E是测量的金属性图,描述合成皮革表面的介电和金属性质。图46F是合成皮革表面的测量粗糙度。图46G是合成皮革表面的测量法线图。图46H是合成皮革表面的测量深度图。图46I是使用测量参数的合成皮革的基于物理的渲染。
-缺陷检测
在某些实施方式中,3DSM方法可基于由3DSM方法决定的某些结果来检测缺陷,3DSM方法如图42-44中描述。图47是根据一个实施例的示出包含缺陷检测过程的3DSM方法的操作的框图。在图47中,该图示出使用测量的表面法线,深度,反射特性,表面发射特性和表面半透明特性来进行表面缺陷可视化。反射表面上的缺陷可表现为不同的法线,深度和反射特性。同样的,发射性表面上的缺陷也可呈现不同的发射特性以及半透明表面的缺陷可呈现不同的半透明特性。基于测量的反射特性,测量的发射特性和测量的半透明特性的3D渲染可用来在三维空间提供缺陷可视化。3D渲染中可虚拟地改变不同照明条件和不同观看条件。
图48是根据一个实施例,示出缺陷检测过程的框图。在图48中,该图示出使用测量的表面法线,深度,反射特性,表面发射特性和表面半透明特性的表面缺陷检测和分类。可将图像处理和模式识别技术应用于测量反射表面的法线,深度和反射特性,应用于测量发射表面的发射特性,以及应用于测量半透明表面的半透明特性。任何在这些测量参数上呈现不同外观的缺陷都可被检测到。然后检测到的缺陷可传给机器识别模块。基于已经学习了可能的缺陷特性的表面缺陷库,可将表面缺陷分到不同类别中去。
图49A-49F是根据一个实施方式,由3DSM***测量的被污垢和纤维污染的LCD面板的测量的表面反射特性,法线和深度的图示。图49A是测量的镜面反射的图示。图49B是测量的漫反射的图示。图49C是测量的粗糙度的图示。图49D是测量的法线图的图示。图49E是测量的深度图的图示。污垢和纤维的反射比LCD面板的反射更具扩散性,因此污垢和纤维在图49A的镜面反射图中显示为更暗,而在图49B的漫反射图中更亮。在粗糙度图中也可看到污垢和纤维显示更大的粗糙度值。在法线图和深度图中可看出污垢和纤维有不同的值,表示不同的高度和3D形状。所有这些测量参数可用来识别在LCD面板上的污垢和纤维。图49F是使用测量参数的表面缺陷可视化的图示。在3D渲染中使用测量的法线,深度和反射特性。在场景中放置虚拟灯光以及在倾斜角度虚拟的放置相机。在图49F中示出在3D渲染中可清楚地将缺陷可视化。
图50A-50F是根据一个实施方式,由3DSM***测量具有划痕和凹坑的LCD面板的测量的表面反射特性,法线和深度的图示。图50A是测量的镜面反射的图示。图50B是测量的漫反射的图示。图50C是测量的粗糙度的图示。图50D是测量的法线图的图示。图50E是测量的深度图的图示。图50F是使用测量参数的表面缺陷检测的图示。红色像素为检测到的缺陷。
图51-52是根据一个实施方式,描绘由3DSM***测量表面缺陷检测的过程,该过程使用了具有白点的LCD面板和具有非均匀性的LCD面板的测量的表面发射特性。将工程照明切换到关闭状态测量图像。图51是具有白点的LCD面板的测量亮度图,该白点在圆内被识别。图52是不均匀LCD面板的测量均匀性图。椭圆内识别了一个非均匀区域。
在一个实施例中,3DSM方法采用的校准过程使用镜子和铬球来补偿不完美的***对齐,并且提供更精确的照明方向信息。
在一个实施例中,为了改善估计可在倾斜角度增加附加的多个照明。
在一个实施例中,可使用镜子作为参考物体来实行***对齐。
在一个实施例中,可对工程照明和来自物体表面的反射光应用波长和偏振控制。
在一个实施例中,可对物体表面,工程照明和相机应用运动控制。
在一个实施例中,可通过切换工程照明为关闭状态测量发射表面的发射率特性。
在一个实施例中,可通过切换工程照明为关闭状态以及放置背光在表面后来测量半透明表面的半透明特性。
在一个实施例中,测量的表面法线,深度,反射特性,表面发射特性以及表面半透明特性可用于基于物理的渲染和照片级真实渲染。
在一个实施例中,测量的表面法线,深度,反射特性,表面发射特性以及表面半透明特性可用于表面缺陷可视化,表面缺陷检测和分类。
在不脱离本公开的范围的情况下,可对任何上述实施例进行修改,添加或删减。在不脱离本公开的范围的情况下,上述实施例可包含更多,更少或其他特征。并且,在不脱离本公开的范围的情况下,可以以任何合适的顺序执行所述特征的步骤。
应当理解的是,如上所述的本发明可以以模块或集成化的方式使用计算机软件以控制逻辑的形式实现。基于本文提供的公开和教导,本领域专业技术人员将知道并理解使用硬件以及硬件和软件的组合来实现本发明的其他方式和/或方法。
本申请中描述的任何软件组件或功能可实现为由处理器执行的软件代码,该处理器使用任何合适的计算机语言,例如,Java,C++或Perl,使用例如常规或面向对象技术。软件代码可存储为CRM上的一系列指令或命令,例如随机存取存储器(RAM),只读存储器(ROM),诸如硬盘驱动器或软盘之类的磁性介质,或者如CD-ROM的光学介质。任何这样的CRM可驻留在单个计算装置上或内部,并且可存在于***或网络内的不同计算装置上或内部。
尽管为了便于理解,已经详细描述了前述公开的实施例,但所描述的实施例应被认为是说明性的而非限制性的。对于本领域专业技术人员显而易见的是,可在所附的权利要求范围内实施某些改变和修改。
在不脱离本公开的范围的情况下,来自任何实施例的一个或多个特征可与任何其他实施例的一个或多个特征组合。并且,在不脱离本公开的范围的情况下,可对任何实施例进行修改,添加或删减。在不脱离本公开的范围的情况下,可根据特定需求集成或分离任何实施例中的组件。

Claims (26)

1.一种3D表面测量***包括:
一工程照明***,其配置为提供至少一个光束依次入射到待成像样品表面的N个照明方向,其中每个光束包含不同强度的照明光线,在操作期间,以不同方向配置的每个光束的照明光线会聚到所述样品的所述表面;
第一相机,具有成像镜头和至少一个传感器,被配置为基于接收自被照亮样品的光获取强度图像,在所述至少一个光束指向所述N个照明方向中的一者时获取每一强度图像;以及
一配置为执行指令的控制器来:
确定所述至少一个传感器的多个传感器像素的每个传感器像素处的传感器响应,从对应于所述N个照明方向的所述强度图像确定所述传感器响应;
将每个传感器像素处的传感器响应与多个预先确定的传感器响应中的一个匹配,以在每个传感器像素处确定表面法线;以及
通过合并所述至少一个传感器的所述多个传感器像素的确定的表面法线来构造所述样品的所述表面的表面法线图。
2.根据权利要求1所述的3D表面测量***,所述工程照明***包括:
具有至少一个光源的照明设备;以及
一个或多个光学元件,配置为基于来自至少一个光源的光产生和传播至少一个光束到样品表面和把来自照明表面的光传播到所述第一相机。
3.根据权利要求2所述的3D表面测量***,所述一个或多个光学元件包括一个漫射器,其配置为根据漫射器的透射轮廓将照明从至少一个光源扩散以产生每个光束的不同强度的照明光线。
4.根据权利要求3所述的3D表面测量***,所述漫射器透射轮廓配置为根据高斯或类高斯分布将不同强度的照明光线扩展到不同角度。
5.根据权利要求2所述的3D表面测量***,所述一个或多个光学元件还配置为根据一个线性梯度将不同强度的照明分配在不同角度。
6.根据权利要求2所述的3D表面测量***,所述一个或多个光学元件还配置为根据一个随机分布将不同强度的照明分配在不同角度。
7.根据权利要求2所述的3D表面测量***,还包括一个附加的照明光源,其配置为将照明引导到以一个倾斜的角度入射样品表面。
8.根据权利要求2所述的3D表面测量***,所述一个或多个光学元件包括:
一镜子,配置为接收来自至少一个光源的照明光线;以及
一光束分束器,配置为来自镜子的照明光线和将照明光线反射到样品表面,并配置为透射从样品表面反射的光。
9.根据权利要求2所述的3D表面测量***,所述一个或多个光学元件包括:
一具有多个中性密度滤光器的组合滤光器,该组合滤光器配置为设计来自至少一个光源的照明为所述至少一个光束的每一者的不同强度的照明光线,每个中性密度滤光器与一个照明光线相关联;以及
一准直器,配置为准直传自组合滤光器的照明光线。
10.根据权利要求1所述的3D表面测量***,所述工程照明***包括:
一具有多个照明元件的照明阵列,所述照明阵列配置为在单个曝光时间激活其中一个照明元件;以及
一准直器,配置为准直接收自一个被激活照明元件的光;以及
一漫射器,配置为根据一漫射器的透射轮廓将来自准直器的准直照明扩展为每个光束的不同强度的照明光线。
11.根据权利要求1所述的3D表面测量***,还包括一运动设备,配置为将样品和/或工程照明和相机一起操作。
12.根据权利要求11的3D表面测量***,所述运动设备配置为将样品和/或工程照明以及相机一起操纵以将照明光线移动到样品表面的不同区域。
13.根据权利要求11的3D表面测量***,所述运动设备配置为将样品和/或工程照明以及相机一起操纵以将照明光线引导到N个照明方向。
14.根据权利要求2的3D表面测量***,还包含一波长和/或偏振控制设备,配置为改变所述至少一个光束的波长和/或偏振,或改变来自样品表面的反射光的波长和/或偏振。
15.根据权利要求2的3D表面测量***,还包括第一波长和/或偏振控制设备,配置为改变所述至少一个光束的波长和/或偏振,以及第二波长和/或偏振设备,配置为改变来自样品表面反射光的波长和/或偏振。
16.根据权利要求2的3D表面测量***,所述控制器还配置为执行指令来决定样品表面的深度图和/或表面特性。
17.根据权利要求2的3D表面测量***,还包括具有一个成像镜头和至少一个传感器的第二相机,所述第二相机配置为基于接收来自照明样品的光在N个照明方向捕获图像,所述第二相机从与第一相机不同的角度捕获图像。
18.根据权利要求1的3D表面测量***,其中每个光束的照明光线会聚到一点。
19.一种3D表面测量方法包括:
接收来自相机的至少一个传感器的信号中样品的多幅强度图像,接收以多个曝光时间捕捉的多幅强度图像,在一个或多个光束指向N个照明方向中的一者时获取每一强度图像,每个光束包含不同强度的照明光线,每个光束的照明光线以不同方向会聚到所述样品的所述表面;
确定所述至少一个传感器的多个传感器像素的每个传感器像素处的传感器响应,从所述N个照明方向处的所述强度图像确定所述传感器响应;
将每个传感器像素处的传感器响应与多个预先确定的传感器响应中的一个匹配,以在每个传感器像素处确定表面法线;以及
通过合并所述至少一个传感器的所述多个传感器像素的确定的表面法线来构造所述样品的所述表面的表面法线图。
20.根据权利要求19的3D表面测量方法,还包括从表面法线图确定表面深度图。
21.根据权利要求19的3D表面测量方法,还包括基于表面法线图确定表面的表面特性图。
22.根据权利要求21的3D表面测量方法,所述表面特性包括反射特性、发射率特性和半透明特性中的一个或多个。
23.根据权利要求19的3D表面测量方法,还包括基于表面特性图和/或表面深度图确定样品表面的缺陷,其中每个图从所述表面法线图确定。
24.根据权利要求19的3D表面测量方法,还包括:
从表面法线图确定表面深度图;
基于表面法线图确定表面的一个或多个表面特性图;以及
基于表面法线图、深度图和表面的所述一个或多个表面特性图的至少一者产生基于物理的渲染。
25.3D表面测量方法包括:
a)设计至少一个光束依次入射到待成像样品表面的N个照明方向,每个光束包含具有不同强度的照明光线,指向不同方向的每个光束的照明光线会聚到所述样品的所述表面;
b)使用具有至少一个传感器的相机基于接收自被照亮样品的光以多个曝光时间获取强度图像,在所述至少一个光束指向所述N个照明方向中的一者时获取每一强度图像;以及
c)将强度图像传送给一个或多个处理器,所述一个或多个处理器确定所述至少一个传感器的多个传感器像素的每个传感器像素处的传感器响应,从所述N个照明方向处的强度图像确定所述传感器响应,将每个传感器像素处的所述传感器响应与多个预先确定的传感器响应中的一个匹配,以在每个传感器像素处确定表面法线,通过合并至少一个传感器的所述多个传感器像素的确定的表面法线来构造所述样品的所述表面的表面法线图。
26.根据权利要求25的3D表面测量方法,进一步包括改变所述至少一个光束的照明光线的波长/偏振和/或来自被照亮样品的光的波长/偏振,再重复a)和b)。
CN201780047289.4A 2016-07-20 2017-07-20 3d表面测量的***与方法 Active CN109642787B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662364320P 2016-07-20 2016-07-20
US62/364,320 2016-07-20
US201762511964P 2017-05-27 2017-05-27
US62/511,964 2017-05-27
PCT/US2017/043174 WO2018017897A1 (en) 2016-07-20 2017-07-20 Systems and methods for 3d surface measurements

Publications (2)

Publication Number Publication Date
CN109642787A CN109642787A (zh) 2019-04-16
CN109642787B true CN109642787B (zh) 2021-10-29

Family

ID=60989549

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780047289.4A Active CN109642787B (zh) 2016-07-20 2017-07-20 3d表面测量的***与方法

Country Status (4)

Country Link
US (1) US10502556B2 (zh)
EP (1) EP3488182A4 (zh)
CN (1) CN109642787B (zh)
WO (1) WO2018017897A1 (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR3037177B1 (fr) * 2015-06-08 2018-06-01 Commissariat A L'energie Atomique Et Aux Energies Alternatives Procede de traitement d'images avec specularites
US10473454B1 (en) * 2017-01-06 2019-11-12 Kla-Tencor Corporation Imaging-based height measurement based on known geometric information
JP6971585B2 (ja) * 2017-02-21 2021-11-24 キヤノン株式会社 画像処理装置および画像処理方法
KR102464368B1 (ko) * 2017-11-07 2022-11-07 삼성전자주식회사 메타 프로젝터 및 이를 포함하는 전자 장치
JP6934811B2 (ja) * 2017-11-16 2021-09-15 株式会社ミツトヨ 三次元測定装置
JP7179472B2 (ja) * 2018-03-22 2022-11-29 キヤノン株式会社 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体
US10753882B1 (en) * 2019-04-10 2020-08-25 Griffyn Robotech Private Ltd. Inspection and cosmetic grading through image processing system and method
JP7007324B2 (ja) * 2019-04-25 2022-01-24 ファナック株式会社 画像処理装置、画像処理方法、及びロボットシステム
US10805549B1 (en) * 2019-08-20 2020-10-13 Himax Technologies Limited Method and apparatus of auto exposure control based on pattern detection in depth sensing system
EP3798679B1 (en) * 2019-09-30 2023-06-21 STMicroelectronics (Research & Development) Limited Laser safety verification
JP2022552833A (ja) * 2019-10-07 2022-12-20 ボストン ポーラリメトリックス,インコーポレイティド 偏光による面法線計測のためのシステム及び方法
WO2021084907A1 (ja) * 2019-10-30 2021-05-06 ソニー株式会社 画像処理装置、画像処理方法及び画像処理プログラム
EP3819586B1 (en) * 2019-11-08 2022-03-30 M-XR Limited Method for generating a three-dimensional model of an object
KR102558937B1 (ko) * 2020-01-27 2023-07-21 코그넥스코오포레이션 다수의 유형들의 광을 이용한 비전 검사를 위한 시스템들 및 방법들
EP3893214A1 (en) 2020-04-07 2021-10-13 Koninklijke Philips N.V. Alarm management device
GB2602793B (en) * 2021-01-06 2023-02-08 Foster & Freeman Ltd Improved coaxial examination of surfaces
CN117170093B (zh) * 2023-11-03 2024-01-09 山东创瑞激光科技有限公司 一种面式扫描的光路***

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101118155A (zh) * 2006-08-01 2008-02-06 三菱电机株式会社 用于感测反光物体的表面形状的方法和***
WO2010107434A1 (en) * 2009-03-19 2010-09-23 General Electric Company Optical gage and three-dimensional surface profile measurement method
US8045179B1 (en) * 2008-07-30 2011-10-25 Kla-Tencor Corporation Bright and dark field scatterometry systems for line roughness metrology
CN102519391A (zh) * 2011-12-28 2012-06-27 东南大学 基于弱饱和二维图像的物体表面三维立体图像重建方法
CN102607466A (zh) * 2012-03-29 2012-07-25 天津大学 高反射自由曲面光栅投影快速非接触测量方法及装置
CN103261836A (zh) * 2010-10-08 2013-08-21 欧姆龙株式会社 形状测量设备及形状测量方法
CN104515773A (zh) * 2013-09-03 2015-04-15 库利克和索夫工业公司 用于利用结构光测量半导体器件元件的物理特性的***和方法
WO2015080827A1 (en) * 2013-11-26 2015-06-04 Nanometrics Incorporated Optical metrology system for spectral imaging of a sample
CN204758502U (zh) * 2012-05-01 2015-11-11 苹果公司 透镜测试***
CN205103181U (zh) * 2015-11-18 2016-03-23 朱振昌 一种透明片状产品外观缺陷成像***

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9123116B2 (en) * 2011-04-19 2015-09-01 University Of Southern California Multiview face capture using polarized spherical gradient illumination
US6919962B2 (en) 2003-02-07 2005-07-19 University Of Southern California Reflectometry apparatus and method
US20080232679A1 (en) * 2005-08-17 2008-09-25 Hahn Daniel V Apparatus and Method for 3-Dimensional Scanning of an Object
US7433128B1 (en) * 2007-03-30 2008-10-07 Mitutoyo Corporation Adaptive light-path surface tilt sensor for machine vision inspection
US7929142B2 (en) 2007-09-25 2011-04-19 Microsoft Corporation Photodiode-based bi-directional reflectance distribution function (BRDF) measurement
WO2010021148A1 (ja) * 2008-08-20 2010-02-25 国立大学法人東北大学 形状・傾斜検知及び/又は計測光学装置及び方法並びにその関連装置
US9508191B2 (en) * 2010-07-23 2016-11-29 Pacific Data Images Llc Optimal point density using camera proximity for point-based global illumination
US20120265487A1 (en) * 2011-04-15 2012-10-18 Bruker Nano, Inc. Method and Apparatus of Analyzing Sample Surface Data
US9127938B2 (en) 2011-07-28 2015-09-08 Massachusetts Institute Of Technology High-resolution surface measurement systems and methods
CN103857982A (zh) * 2011-08-15 2014-06-11 纽约市哥伦比亚大学理事会 使用漫射结构光实现机器视觉的***和方法
US9176054B2 (en) * 2012-06-07 2015-11-03 Canon Kabushiki Kaisha System for tomographic imaging using coherent light that has a random phase distribution
JP2016507752A (ja) * 2013-02-12 2016-03-10 ザイゴ コーポレーションZygo Corporation 表面色を備えた表面トポグラフィ干渉計
WO2014153022A1 (en) 2013-03-14 2014-09-25 University Of Southern California Specular object scanner for measuring reflectance properties of objects
US9367909B2 (en) * 2013-07-10 2016-06-14 Canon Kabushiki Kaisha Devices, systems, and methods for classifying materials based on a bidirectional reflectance distribution function
US8982125B1 (en) 2014-05-15 2015-03-17 Chaos Software Ltd. Shading CG representations of materials
GB2526838B (en) * 2014-06-04 2016-06-01 Imagination Tech Ltd Relightable texture for use in rendering an image
US9261356B2 (en) * 2014-07-03 2016-02-16 Align Technology, Inc. Confocal surface topography measurement with fixed focal positions

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101118155A (zh) * 2006-08-01 2008-02-06 三菱电机株式会社 用于感测反光物体的表面形状的方法和***
US8045179B1 (en) * 2008-07-30 2011-10-25 Kla-Tencor Corporation Bright and dark field scatterometry systems for line roughness metrology
WO2010107434A1 (en) * 2009-03-19 2010-09-23 General Electric Company Optical gage and three-dimensional surface profile measurement method
CN103261836A (zh) * 2010-10-08 2013-08-21 欧姆龙株式会社 形状测量设备及形状测量方法
CN102519391A (zh) * 2011-12-28 2012-06-27 东南大学 基于弱饱和二维图像的物体表面三维立体图像重建方法
CN102607466A (zh) * 2012-03-29 2012-07-25 天津大学 高反射自由曲面光栅投影快速非接触测量方法及装置
CN204758502U (zh) * 2012-05-01 2015-11-11 苹果公司 透镜测试***
CN104515773A (zh) * 2013-09-03 2015-04-15 库利克和索夫工业公司 用于利用结构光测量半导体器件元件的物理特性的***和方法
WO2015080827A1 (en) * 2013-11-26 2015-06-04 Nanometrics Incorporated Optical metrology system for spectral imaging of a sample
CN205103181U (zh) * 2015-11-18 2016-03-23 朱振昌 一种透明片状产品外观缺陷成像***

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Relief texture from specularities;Wang Jing等;《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》;20060531;第28卷(第3期);第446-457页 *

Also Published As

Publication number Publication date
CN109642787A (zh) 2019-04-16
WO2018017897A8 (en) 2019-02-14
US20180023947A1 (en) 2018-01-25
US10502556B2 (en) 2019-12-10
EP3488182A4 (en) 2020-08-26
EP3488182A1 (en) 2019-05-29
WO2018017897A1 (en) 2018-01-25

Similar Documents

Publication Publication Date Title
CN109642787B (zh) 3d表面测量的***与方法
JP6319329B2 (ja) プレノプティック・カメラを使った表面属性の推定
Dana BRDF/BTF measurement device
US8649024B2 (en) Non-contact surface characterization using modulated illumination
CN104950429B (zh) 包括用于提供多次成像和测量能力的可***组件的3d显微镜
US9618329B2 (en) Optical inspection probe
JP6364777B2 (ja) 画像データ取得システム及び画像データ取得方法
CN110214290A (zh) 显微光谱测量方法和***
US20180224270A1 (en) Three-dimensional imager having circular polarizers
KR20110105720A (ko) 텔레센트릭 디포커스를 이용한 3차원 촬영
CA2188005A1 (en) Optical three-dimensional profilometry method based on processing speckle images in partially coherent, light, and interferometer implementing such a method
US7453777B2 (en) Method and device for optical form measurement and/or estimation
TWI428557B (zh) 反射度分布曲線的建模方法及應用該方法的厚度檢測方法以及厚度檢測反射儀
JP2015505039A (ja) 変調光を使用した非接触表面形状評価
Werling et al. Inspection of specular and partially specular surfaces
US20220316870A1 (en) Method and apparatus for determining a contour of a frame groove
Liao et al. Light fall-off stereo
KR20220095100A (ko) 매끄러운 표면을 지닌 측정 대상물의 광학 측정 영상 처리 방법 및 그 측정 시스템
JP2021511871A (ja) マルチコアファイバイメージング
Tagawa et al. 8-D reflectance field for computational photography
US11231375B2 (en) Apparatus for high-speed surface relief measurement
Heikkinen Defocused speckle imaging for remote surface motion measurements
De Zeeuw et al. Wide-baseline light fields using ellipsoidal mirrors
Lucat et al. Diffraction removal in an image-based BRDF measurement setup
KR20230071539A (ko) 단일 촬상형 tsom 검사 방법 및 그에 적합한 tsom 검사 장치

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant