CN111292364B - 一种三维模型构建过程中图像快速匹配的方法 - Google Patents

Abstract

本发明提供了一种三维模型构建过程中图像快速匹配的方法，包括，选择待匹配的基准图像和搜索图像；分别构建上述两个图像的影像金字塔；对两个影像金字塔顶部第1层进行SURF特征匹配，实现初步匹配；建立上述两个影像金字塔第1层之间的几何约束条件；将搜索图像影像金字塔当前层某一窗口纠正采样到基准图像影像金字塔第1层的像方坐标系下；在两个金字塔影像的该层对应的两幅图像的灰度值之间建立相关函数；根据匹配结果建立述两个影像金字塔下一层之间的几何约束条件，重复步骤5、6，直至完成上述两个影像金字塔底部最后一层的匹配。首次针对体积有限的目标物围绕式采集的方案，提出了通过优化同名点匹配算法的方式兼顾合成速度和精度。

Description

一种三维模型构建过程中图像快速匹配的方法

技术领域

本发明涉及形貌测量技术领域，特别涉及3D形貌测量技术领域。

背景技术

在进行3D测量，利用3D测量数据进行加工制造，或是利用3D数据进行展示、识别时，首先应当为目标物建立具有较为准确的3D模型。目前常用的方法包括使用机器视觉的方式，采集物体不同角度的图片，并将这些图片匹配拼接形成3D模型。这些3D模型可以看作是现实事物的数据化，利用这些数据可以加工制造与目标物相匹配的配套物。例如可以采集人体脚部3D数据从而制造更为合适的鞋子。另外，这些数据也可以用来进行身份的验证。例如合成人体虹膜3D模型后可作为身份标准数据，在使用时再次采集虹膜3D数据，与标准数据进行比对，即可识别身份。但是无论是工厂制造还是交易识别，对3D模型的合成速度和精度要求都比较高，否则将带来客户体验的极大劣化。

而现有技术中，人们认为合成速度的提高有赖于3D模型重建算法的优化。于是提出了各种改进3D模型重建的算法，但效果一般。并且现有技术中也没有考虑环绕式采集过程中可能出现的拍摄照片存在空间分辨率高、旋转角大、多视角拍摄等特点，容易造成各照片因获取角度差异以及太阳光在物体表面的发生反射、散射现象，导致照片各部分曝光不均匀，照片的辐射畸变大；与此同时由于超高的高分辨率，导致照片上局部特征少的问题。即现有技术中没有任何专门针对环绕式采集的算法优化。

本领域还认为精度的提高更多依赖于图像采集的精度。使用高分辨率的相机自然可以提高图像采集精度，并在一定程度上提高3D建模的精度，但是超高分辨率的图像也带来了合成速度的极度下降。

而且，合成速度和合成精度在某种程度上是一对矛盾，合成速度的提高会导致最终3D合成精度下降；要提高3D合成精度则需要降低合成速度，通过更多的图片来合成。首先，现有技术中没有能够较好地同时提高合成速度和合成效果的算法。其次，通常认为采集和合成是两个过程，互不影响，并没有统一考虑。这影响了3D合成建模的效率无法兼顾提高合成速度和合成的精度。最后，在现有技术中，也曾提出使用包括转动角度、目标物尺寸、物距的经验公式限定相机位置，从而兼顾合成速度和效果。然而在实际应用中发现：除非有精确量角装置，否则用户对角度并不敏感，难以准确确定角度；目标物尺寸难以准确确定，特别是某些应用场合目标物需要频繁更换，每次测量带来大量额外工作量，并且需要专业设备才能准确测量不规则目标物。测量的误差导致相机位置设定误差，从而会影响采集合成速度和效果；准确度和速度还需要进一步提高。

因此，目前急需解决以下技术问题：①能够打破算法优化偏见，通过同名点匹配算法提高合成速度和合成精度；②算法能够和采集图像的方法相互配合从而同时提高合成速度和合成精度。③能够针对环绕式采集目标物，生成3D模型的场景，专门进行算法优化。

发明内容

鉴于上述问题，提出了本发明提供一种克服上述问题或者至少部分地解决上述问题的一种三维模型构建过程中图像快速匹配的方法。

本发明的一方面提供了一种三维模型构建过程中图像快速匹配的方法，包括，

步骤1：选择待匹配的基准图像和搜索图像；

步骤2：分别构建上述两个图像的影像金字塔；

步骤3：对两个影像金字塔顶部第1层进行SURF特征匹配，实现初步匹配；

步骤4：建立上述两个影像金字塔第1层之间的几何约束条件；

步骤5：将搜索图像影像金字塔当前层某一窗口纠正采样到基准图像影像金字塔第1层的像方坐标系下；

步骤6：在两个金字塔影像的该层对应的两幅图像的灰度值之间建立相关函数；

步骤7：根据匹配结果建立述两个影像金字塔下一层之间的几何约束条件，并相应重复步骤5、6，以此类推，直至完成上述两个影像金字塔底部最后一层的匹配。

可选的，影像金字塔是以金字塔形状排列的分辨率逐渐降低的图像集合，金字塔的底部是原始图像，顶部是从原始影像采样的低分辨率的影像。

可选的，几何约束条件是基准影像与搜索影像之间的仿射变换关系，通过SURF影像匹配获取的同名点对，计算得到6个仿射变换参数。

可选的，步骤5包括：利用仿射变换系数将搜索影像窗口纠正采样到基准影像的像方坐标系下，使基准影像和搜索影像的共轭实体在像方上一致，即二者不存在旋转、几何变形和尺度变化。

可选的，步骤6包括：选取预设范围的基准影像目标区与搜索影像的匹配窗口计算相关系数，取其相关系数最大且大于阈值的点作为匹配点。

可选的，在进行图像采集时，

其中L为在相邻两个采集位置时图像采集装置光心的直线距离；f为图像采集装置的焦距；d为图像采集装置感光元件的矩形长度或宽度；T为图像采集装置感光元件沿着光轴到目标物表面的距离；δ为调整系数。

可选的，δ<0.603；优选δ<0.498，δ<0.356，δ<0.311。

本发明的另一方面提供了一种三维模型构建方法，包括上述的匹配的方法。

本发明的第三方面提供了一种三维数据比对方法，包括上述的匹配的方法。

发明点及技术效果

1、首次针对体积有限的目标物围绕式采集的方案，提出了通过优化同名点匹配算法的方式兼顾合成速度和精度。

2、通过优化相机采集图片的位置的方式来和优化的算法相互配合一起提高合成速度和合成精度。并且优化位置时，无需测量角度，无需测量目标尺寸，适用性更强。

3、将搜索影像窗口纠正采样到基准影像的像方坐标系下，使基准影像和搜索影像不存在旋转、几何变形和尺度变化，从而提高匹配精度和速度。

4、通过对图像重采样分层，并且由低分辨率图像层依次向高分辨率图像曾进行匹配，提高匹配精度和速度。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1为本发明实施例中提供的影像同名点匹配流程图；

图2为本发明实施例中提供的影像金字塔每层匹配示意图；

图3为本发明实施例中提供的一种采集设备；

图4为本发明实施例中提供的另一种采集设备。

附图标记与各部件的对应关系如下：

1载物台，2转动装置，3转动臂，4图像采集装置。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

同名点匹配算法

经过大量研究发现，在利用近景拍摄照片进行三维重建时，由于拍摄照片存在空间分辨率高、旋转角大、多视角拍摄等特点，容易造成各照片因获取角度差异以及太阳光在物体表面的发生反射、散射现象，导致照片各部分曝光不均匀，照片的辐射畸变大；与此同时由于超高的高分辨率，导致照片上局部特征少，这给后续照片同名点的匹配带来很大困难。除此之外，在近景物体三维重建过程中，照片同名点匹配的速度，直接影响了重建的速度，直接关系着用户体验。基于上述本发明独特的发现，提出了一种基于几何约束条件的空间一致性的同名点匹配方法，该方法能够较好解决上述高分辨率，多视角拍摄近景照片的匹配困难，快速的实现拍摄照片间的同名点匹配。

本发明通过一种基于几何约束条件的空间一致性的同名点匹配方法，完成拍摄照片同名点的匹配。该方法首先在影像金字塔顶层进行SURF特征初匹配，快速建立二者的初始仿射变换关系；接着在基准影像进行特征点提取，然后在影像金字塔顶层，以仿射变换关系为几何约束条件，将特征点位窗口变换到搜索影像，同时将搜索影像窗口采样纠正到基准影像的像方空间坐标系下，进行相关系数匹配，接着在局部范围内采用多项式迭代剔除粗差，利用获得同名像点再次解算、更新二者的仿射变换关系；然后进行下层影像匹配直至底层影像，最后，将匹配结果转换到搜索影像的像方空间坐标系下，并进行最小二乘匹配，提高匹配精度。请参考影像同名点匹配流程图，如图1所示，及影像金字塔每层匹配示意图，如图2所示。

第一步，建立基准图像和搜索图像的影像金字塔；

影像金字塔就是一系列以金字塔形状排列的分辨率逐渐降低的图像集合。金字塔的底部是是原始图像，而顶部是从原始影像采样的低分辨率的影像。最底层的分辨率最高，并且数据量最大，随着层数的增加，其分辨率逐渐降低，从原始影像数据中抽取数据构建金字塔时，采用重采样方法构建，形成一个多个分辨率层次。从金字塔的底层到顶层，分辨率越来越低，但是表示的范围却是一致的，可以用一个公式来表示各层的分辨率。设影像数据的原始分辨率为r0，重采样率为m，则第j层的分辨率rj＝r0×mj，其中重采样率可以是任何大于1的整数。该方法中重采样率m值为2，当顶层影像像素长或者宽小于1024时，不再继续采样生成上层影像，分别完成基准图像和搜索图像的影像金字塔的创建。

第二步，SURF影像初匹配；

基于SURF特征的影像初匹配，即在利用SURF特征匹配抗旋转、尺度不变等特性的同时，提高匹配效率。基本思路为在两张影像的金字塔顶层进行SURF特征匹配，缩小了搜索范围，大大降低计算量，提高匹配速度；接着利用基于多项式的随机采样法进行粗差剔除，该方法能够较好的剔除较大粗差点；然后把匹配结果映射到影像底层，利用匹配点对建立起两张影像的仿射变换关系，完成了无人机影像的初匹配。

第三步，设置几何约束条件；

几何约束条件是基准影像与搜索影像之间的仿射变换关系，通过SURF影像初匹配获取的同名点对，计算得到6个仿射变换参数。其作用是确立了影像间几何关系，减小后续精匹配的搜索范围，提高整个影像匹配的效率。

其中X,Y是基准影像上的特征点的像素列号与行号，x,y是基准影像上的特征点在搜索影像上对应的同名像素点的像素列号与行号，a₀、a₁、a₂、b₀、b₁、b₂是仿射变换多项式的系数。

第四步，实现像方一致性；

像方一致性是指利用仿射变换系数将搜索影像窗口纠正采样到基准影像的像方坐标系下，使基准影像和搜索影像的共轭实体在像方上一致，即二者不存在旋转、几何变形和尺度变化。也就是说，匹配结果都是基准影像的像方坐标系下的坐标，而传统的匹配结果一个是基准影像像坐标，一个是搜索影像像坐标。这样做的原因是：匹配时解算基准影像到搜索影像变换的正算和反算两套参数，在初始变换参数不精确的情况下，利用反算参数将匹配点映射到搜索影像上会产生较大误差，最终会因搜索位置不正确导致后续匹配的失败；另外，在匹配过程中反复的正算和反算也会产生点位误差，影响匹配的点位精度。

第五步，相关系数匹配；

相关系数匹配是指在两幅影像的灰度值之间建立相关函数，用以描述影像之间的相关性。影像相关系数可以简单地描述为协方差函数除以两信号的方差，它是一个标准化的协方差函数。其实质是选取一定范围的基准影像目标区(由目标区半径确定)，与搜索影像的匹配窗口(由搜索区半径确定)计算相关系数，取其相关系数最大且大于阈值的点作为匹配点，参与计算协方差的窗口大小称为匹配半径。相关系数公式如下：

其中σ(x,x)为基准影像目标区像元灰度的方差，σ(y,y)为搜索影像的搜索区像元灰度的方差，σ(x,y)为目标区与搜索区的像元灰度的协方差，令ρ取最大值且大于T的像素位置(c,r)即为同名点的位置，阈值T一般取0.7～0.9。该发明中T取0.85。

第六步，几何约束下像方一致性的影像连接点匹配；

首先在基准影像的金字塔底层的目标窗口内采用Forstner算子进行点特征提取，特征点的分布尽可能均匀，并进行逻辑分块，确保每一块内都有相近数量的特征点，并将该提取结果映射影像金字塔的各层。

然后在两张影像的金字塔顶层进行SURF特征匹配，计算得出顶层影像间的6个仿射变换参数，通过基准影像上的目标窗口和仿射变换参数求得搜索影像上对应搜索窗口的四个角点坐标，并以目标窗口为基准对搜索窗口利用仿射变换公式进行重采样。然后利用相关系数法将目标窗口内的上述Forstner算子提取的特征点匹配到重采样后的搜索窗口得到共轭特征点，将各相关系数最大且大于阈值的共轭特征点保留下来，然后利用Ransac思想剔除误匹配点便得到了更为精确的共轭点。利用这些精确的共轭点更新6个仿射变换参数，然后利用更新参数的仿射变换公式计算得到目标窗口剩余特征点的共轭点。

将顶层的匹配结果传导到影像下一层，只需要在搜索影像上传导，然后进行与顶层金字塔同样的匹配，注意每次都使用更新过的仿射变换参数进行影像重采样。直至将匹配结果传导到金字塔最底层。然后将底层的匹配结果作为初始位置，进行最小二乘匹配，得到精确的连接点匹配结果。

最后完成基准影像上其他目标窗口的匹配。整个影像匹配，是所有满足一定重叠度的邻接影像进行匹配，这样得到大量的多度连接点。同时影像匹配可以进行并行处理设计，提高匹配效率。

下面以影像A与影像B进行同名点匹配为例进行说明。

①为了快速获得影像A与影像B的位置关系，对A影像与B影像进行降低分辨率的重采样，将影像A与B采样到1024像素*1024像素大小，得到影像A1和B1，然后在A1和B1采样影像上进行SURF特征点提取与匹配。得到A1影像与B1影像的多个像素点的同名点对Pair(A1,B1)，然后根据影像采样的比例关系，将A1影像与B1影像的像素点的同名点对Pair(A1,B1)映射到影像A和B上，得到影像A与影像B的点对Pair(A,B)。

②A影像与B影像的像素点的同名点对Pair(A,B)的像素行列号坐标带入公式1，可以解算出得到影像A1和A2的6个仿射变换参数a₀、a₁、a₂、b₀、b₁、b₂即得到了影像A与影像B像素间的几何位置关系。

③然后以A影像为基准影像，对A影像进行2倍比率的多级降分辨率采样，构建影像的金字塔。然后金字塔底层影像的目标窗口内采用Forstner算子进行点特征提取，并进行逻辑分块(50像素*50像素为一块)，确保每一块内都有特征点，并将该提取结果映射影像金字塔的各层。

④然后通过6个仿射变换参数，将A影像的特征点周围10*10像素的窗口，计算得到对应B影像对应的窗口位置，然后对B影像窗口的影像仿射变换公式进行重采样，纠正到A影像的像素坐标系下。然后利用相关系数法将目标窗口内的上述Forstner算子提取的特征点匹配到重采样后的搜索窗口得到共轭特征点，将各相关系数最大且大于阈值0.8的共轭特征点保留下来，然后利用Ransac思想剔除误匹配点便得到了更为精确的共轭点，即同名特征点。

采集设备

为了实现3D信息的采集，本发明提供了一种用于3D信息采集的图像采集设备，包括图像采集装置、转动装置。图像采集装置用于通过图像采集装置的采集区域与目标物相对运动采集目标物一组图像；采集区域移动装置，用于驱动图像采集装置的采集区域与目标物产生相对运动。采集区域为图像采集装置的有效视场范围。具体采集设备的结构又有不同形态，如下：

①采集区域移动装置为转动结构的采集设备

如图3所示，目标物固定于载物台1上，转动装置2包括转动驱动装置、转动臂3，其中转动驱动装置可以位于目标物上方，带动转动臂3转动，转动臂3连接有向下延伸的立柱，立柱上安装有图像采集装置4。通过转动装置2的驱动，使得图像采集装置4围绕目标物转动。

在另一种情况下，如图4所示，设备包括圆形载物台1，用于承载目标物；转动装置2包括转动驱动装置、转动臂3，其中转动臂3为弯折形状，水平下段部转动固定于底座，使得竖直上段部绕载物台1转动；图像采集装置4，用于采集目标物图像，安装于转动臂3上段部，特别的图像采集装置4还可以沿转动臂上下俯仰转动，以调节采集角度。

事实上，使得图像采集装置绕目标物转动的方式并不限于以上，例如图像采集装置设置在围绕目标物的环形轨道上、位于转台上、位于转动的悬臂上等各种结构均可以实现。因此，图像采集装置只要绕目标物转动即可。当然这种转动并不一定是完整的圆周运动，可以根据采集需要只转动一定角度。并且这种转动也不一定必须为圆周运动，图像采集装置的运动轨迹可以为其它曲线轨迹，但要保证相机从不同角度拍摄物体。

除了上述方式，在某些情况下也可以将相机固定，承载目标物的载物台转动，使得目标物面向图像采集装置的方向时刻变化，从而使得图像采集装置能够从不同角度采集目标物图像。但此时计算时，仍然可以按照转化为图像采集装置运动的情况下来进行计算，从而使得运动符合相应经验公式(具体下面将详细阐述)。例如，载物台转动的场景下，可以假设载物台不动，而图像采集装置转动。通过利用经验公式设定图像采集装置转动时拍摄位置的距离，从而推导出其转速，从而反推出载物台转速，以方便进行转速控制，实现3D采集。

另外，为了使得图像采集装置能够采集目标物不同方向的图像，也可以保持图像采集装置和目标物均静止，通过转动图像采集装置的光轴来实现。例如：采集区域移动装置为光学扫描装置，使得图像采集装置不移动或转动的情况下，图像采集装置的采集区域与目标物产生相对运动。采集区域移动装置还包括光线偏转单元，光线偏转单元被机械驱动发生转动，或被电学驱动导致光路偏折，或本身为多组在空间的排布，从而实现从不同角度获得目标物的图像。光线偏转单元典型地可以为反射镜，通过转动使得目标物不同方向的图像被采集。或直接于空间布置环绕目标物的反射镜，依次使得反射镜的光进入图像采集装置中。与前述类似，这种情况下光轴的转动可以看作是图像采集装置虚拟位置的转动，通过这种转换的方法，假设为图像采集装置转动，从而利用下述经验公式进行计算。

图像采集装置用于采集目标物的图像，其可以为定焦相机，或变焦相机。特别是即可以为可见光相机，也可以为红外相机。当然，可以理解的是任何具有图像采集功能的装置均可以使用，并不构成对本发明的限定，例如可以为CCD、CMOS、相机、摄像机、工业相机、监视器、摄像头、手机、平板、笔记本、移动终端、可穿戴设备、智能眼镜、智能手表、智能手环以及带有图像采集功能所有设备。

在转动设置时，还可以在设备中加入背景板。背景板位于图像采集装置对面，并且在图像采集装置转动时同步转动，在图像采集装置静止时保持静止。而使得图像采集装置采集的目标物图像都是以背景板为背景的。当然，也可以为目标物设定完全固定的背景板，以使得无论图像采集装置如何运动，均可以将该背景板作为采集背景。背景板全部为纯色，或大部分(主体)为纯色。特别是可以为白色板或黑色板，具体颜色可以根据目标物主体颜色来选择。背景板通常为平板，优选也可以为曲面板，例如凹面板、凸面板、球形板，甚至在某些应用场景下，可以为表面为波浪形的背景板；也可以为多种形状拼接板，例如可以用三段平面进行拼接，而整体呈现凹形，或用平面和曲面进行拼接等。

设备还包括处理器，也称处理单元，用以根据图像采集装置采集的多个图像，根据3D合成算法，合成目标物3D模型，得到目标物3D信息。

除了上述转动方式外，在某些场景下，很难有较大空间容纳转动装置转动。此时要限定转动装置的转动空间。例如转动装置可以包括转动驱动装置和转动臂，其中转动臂的旋转轨迹与转动中心距离较小或转动臂的中心线与转动中心线重合(或近似重合)。转动驱动装置可以包括电机，电机通过齿轮与直线型转动臂直接连接，此时转动臂的物理中心线与转动臂转动中心线重合。在另外一种情况下，转动臂为L型，包括横臂和竖臂。转动臂的横臂与转动驱动装置连接，图像采集装置安装在竖臂上。转动驱动装置包括电机，电机带动横臂转动，与横臂固定连接的竖臂从而相应转动，此时转动中心线与竖臂的物理中心线并不重合。通常为了节约转动空间，这种不重合的距离可以适当减小，或横臂尺寸适当减小。当然，在使用时，可以将L型转动臂的竖臂放入目标物内部，而横臂放在外面，就可以减小对转动空间的要求，此时反而要求横臂尺寸更长一些。

②采集区域移动装置为平动结构的采集设备

除了上述转动结构外，图像采集装置可以以直线轨迹相对目标物运动。例如图像采集装置位于直线轨道上，沿直线轨道依次经过目标物进行拍摄，在过程中图像采集装置保持不转动。其中直线轨道也可以用直线悬臂代替。但更佳的是，在图像采集装置整体沿直线轨迹运动时，其进行一定的转动，从而使得图像采集装置的光轴朝向目标物。

③采集区域移动装置为无规则运动结构的采集设备

有时，采集区域移动并不规则，例如可以手持图像采集装置环绕目标物进行拍摄，此时难以以严格的轨道进行运动，图像采集装置的运动轨迹难以准确预测。因此在这种情况下如何保证拍摄图像能够准确、稳定地合成3D模型是一大难题，目前还未有人提及。更常见的方法是多拍照片，用照片数量的冗余来解决该问题。但这样合成结果并不稳定。虽然目前也有一些通过限定相机转动角度的方式提高合成效果，但实际上用户对于角度并不敏感，即使给出优选角度，在手持拍摄的情况下用户也很难操作。因此本发明提出了通过限定两次拍照相机移动距离的方式来提高合成效果、缩短合成时间的方法。

例如在进行人脸识别过程中，用户可以手持移动终端围绕自己面部进行移动拍摄。只要符合拍照位置的经验要求(具体下述)，就可以准确合成面部3D模型，此时与预先存储的标准模型相对比，即可实现人脸识别。例如可以解锁手机，或进行支付验证。

在无规则运动的情况下，可以在移动终端或图像采集装置中设置传感器，通过传感器测量图像采集装置两次拍摄时移动的直线距离，在移动距离不满足上述关于L(具体下述条件)的经验条件时，向用户发出报警。报警包括向用户发出声音或灯光报警。当然，也可以在用户移动图像采集装置时，手机屏幕上显示，或语音实时提示用户移动的距离，以及可移动的最大距离L。实现该功能的传感器包括：测距仪、陀螺仪、加速度计、定位传感器和/或它们的组合。

④多相机方式的采集设备

可以了解，除了通过相机与目标物相对运动从而使得相机可以拍摄目标物不同角度的图像外，还可以在目标物周围不同位置设置多个相机，从而可以实现同时拍摄目标物不同角度的图像。

图像采集装置位置优化

如在采集花瓶的外表面信息时，图像采集装置可以绕花瓶一周转动，拍摄花瓶圆周360°范围内的图像。此时，图像采集装置究竟在哪个位置进行采集需要进行优化，否则将难以兼顾3D模型构建的时间和效果。当然，除了绕目标转动的方式外，也可以布置多个图像采集装置同时进行采集(具体可以参见“多相机方式的采集设备”)，此时图像采集装置位置依然需要优化，优化的经验条件与上述一致，此时由于有多个图像采集装置，因此优化的位置就是两个相邻图像采集装置之间的位置。

采集区域移动装置为转动结构，图像采集装置4围绕目标物1转动，在进行3D采集时，图像采集装置4在不同采集位置光轴方向相对于目标物1发生变化，此时相邻两个图像采集装置4的位置，或图像采集装置4相邻两个采集位置满足如下条件：

δ<0.603

其中L为相邻两个采集位置图像采集装置4光心的直线距离；f为图像采集装置4的焦距；d为图像采集装置4感光元件(CCD)的矩形长度或宽度；T为图像采集装置4感光元件沿着光轴到目标物1表面的距离；δ为调整系数。

当上述两个位置是沿图像采集装置4感光元件长度方向时，d取矩形长度；当上述两个位置是沿图像采集装置4感光元件宽度方向时，d取矩形宽度。

图像采集装置4在两个位置中的任何一个位置时，感光元件沿着光轴到目标物表面的距离作为T。除了这种方法外，在另一种情况下，L为A_n、A_n+1两个图像采集装置光心的直线距离，与A_n、A_n+1两个图像采集装置4相邻的A_n-1、A_n+2两个图像采集装置4和A_n、A_n+1两个图像采集装置4各自感光元件沿着光轴到目标物1表面的距离分别为T_n-1、T_n、T_n+1、T_n+2，T＝(T_n-1+T_n+T_n+1+T_n+2)/4。当然可以不只限于相邻4个位置，也可以用更多的位置进行平均值计算。

如上，L应当为两个图像采集装置4光心的直线距离，但由于图像采集装置4光心位置在某些情况下并不容易确定，因此在某些情况下也可以使用图像采集装置4的感光元件中心、图像采集装置4的几何中心、图像采集装置4与云台(或平台、支架)连接的轴中心、镜头近端或远端表面的中心替代，经过试验发现由此带来的误差是在可接受的范围内的，因此上述范围也在本发明的保护范围之内。

通常情况下，现有技术中均采用物体尺寸、视场角等参数作为推算相机位置的方式，并且两个相机之间的位置关系也采用角度表达。由于角度在实际使用过程中并不好测量，因此在实际使用时较为不便。并且，物体尺寸会随着测量物体的变化而改变。例如，在进行一个成年人头部3D信息采集后，再进行儿童头部采集时，就需要重新测量头部尺寸，重新推算。上述不方便的测量以及多次重新测量都会带来测量的误差，从而导致相机位置推算错误。而本方案根据大量实验数据，给出了相机位置需要满足的经验条件，不仅避免测量难以准确测量的角度，而且不需要直接测量物体大小尺寸。经验条件中d、f均为相机固定参数，在购买相机、镜头时，厂家即会给出相应参数，无需测量。而T仅为一个直线距离，用传统测量方法，例如直尺、激光测距仪均可以很便捷的测量得到。因此，本发明的经验公式使得准备过程变得方便快捷，同时也提高了相机位置的排布准确度，使得相机能够设置在优化的位置中，从而在同时兼顾了3D合成精度和速度，具体实验数据参见下述。

利用本发明装置，进行实验，得到了如下实验结果。

更换相机镜头，再次实验，得到了如下实验结果。

更换相机镜头，再次实验，得到了如下实验结果。

从上述实验结果及大量实验经验可以得出，δ的值应当满足δ<0.603，此时已经能够合成部分3D模型，虽然有一部分无法自动合成，但是在要求不高的情况下也是可以接受的，并且可以通过手动或者更换算法的方式弥补无法合成的部分。特别是δ的值满足δ<0.498时，能够最佳地兼顾合成效果和合成时间的平衡；为了获得更好的合成效果可以选择δ<0.356，此时合成时间会上升，但合成质量更好。当然为了进一步提高合成效果，可以选择δ<0.311。而当δ为0.681时，已经无法合成。但这里应当注意，以上范围仅仅是最佳实施例，并不构成对保护范围的限定。

并且从上述实验可以看出，对于相机拍照位置的确定，只需要获取相机参数(焦距f、CCD尺寸)、相机CCD与物体表面的距离T即可根据上述公式得到，这使得在进行设备设计和调试时变得容易。由于相机参数(焦距f、CCD尺寸)在相机购买时就已经确定，并且是产品说明中就会标示的，很容易获得。因此根据上述公式很容易就能够计算得到相机位置，而不需要再进行繁琐的视场角测量和物体尺寸测量。特别是在一些场合中，需要更换相机镜头，那么本发明的方法直接更换镜头常规参数f计算即可得到相机位置；同理，在采集不同物体时，由于物体大小不同，对于物体尺寸的测量也较为繁琐。而使用本发明的方法，无需进行物体尺寸测量，能够更为便捷地确定相机位置。并且使用本发明确定的相机位置，能够兼顾合成时间和合成效果。因此，上述经验条件是本发明的发明点之一。

以上是采集目标物外表面图像进行3D合成时得到的数据，根据上述类似方法，可以进行目标物内表面以及目标物连接部实验，同样可以得到相应数据如下：

在进行内表面采集时，δ的值应当满足δ<0.587，此时已经能够合成部分3D模型，虽然有一部分无法自动合成，但是在要求不高的情况下也是可以接受的，并且可以通过手动或者更换算法的方式弥补无法合成的部分。特别是δ的值满足δ<0.443时，能够最佳地兼顾合成效果和合成时间的平衡；为了获得更好的合成效果可以选择δ<0.319，此时合成时间会上升，但合成质量更好。当然为了进一步提高合成效果，可以选择δ<0.282。而当δ为0.675时，已经无法合成。但这里应当注意，以上范围仅仅是最佳实施例，并不构成对保护范围的限定。

在进行连接部采集时，δ的值应当满足δ<0.513，此时配合内外表面的图像已经能够合成部分3D模型，形成较为完整的包括内外表面的3D模型，虽然有一部分无法自动合成，但是在要求不高的情况下也是可以接受的，并且可以通过手动或者更换算法的方式弥补无法合成的部分。特别是δ的值满足δ<0.415时，能够最佳地兼顾合成效果和合成时间的平衡；为了获得更好的合成效果可以选择δ<0.301，此时合成时间会上升，但合成质量更好。当然为了进一步提高合成效果，可以选择δ<0.269。而当δ为0.660时，已经无法合成。但这里应当注意，以上范围仅仅是最佳实施例，并不构成对保护范围的限定。

以上数据仅为验证该公式条件所做实验得到的，并不对发明构成限定。即使没有这些数据，也不影响该公式的客观性。本领域技术人员可以根据需要调整设备参数和步骤细节进行实验，得到其他数据也是符合该公式条件的。

3D合成方法流程

根据上述采集方法，图像采集装置1通过与目标物相对运动而采集目标物一组图像；

处理单元根据上述一组图像中的多个图像得到目标物的3D信息。具体算法如下。当然，处理单元可以直接设置在图像采集装置1所在的壳体内，也可以通过数据线或通过无线方式与图像采集装置1连接。例如可以使用独立的计算机、服务器及集群服务器等作为处理单元，图像采集装置1采集到的图像数据传输至其上，进行3D合成。同时，也可以将图像采集装置1的数据传输至云平台，利用云平台的强大计算能力进行3D合成。

利用上述采集到的图片进行3D合成时，可以采用现有算法实现，也可以采用本发明提出的优化的算法，主要包括如下步骤：

步骤1：对所有输入照片进行图像增强处理。采用下述滤波器增强原始照片的反差和同时压制噪声。

式中：g(x，y)为原始影像在(x，y)处灰度值，f(x，y)为经过Wallis滤波器增强后该处的灰度值，m_g为原始影像局部灰度均值，s_g为原始影像局部灰度标准偏差，m_f为变换后的影像局部灰度目标值，s_f为变换后影像局部灰度标准偏差目标值。c∈(0，1)为影像方差的扩展常数，b∈(0，1)为影像亮度系数常数。

该滤波器可以大大增强影像中不同尺度的影像纹理模式，所以在提取影像的点特征时可以提高特征点的数量和精度，在照片特征匹配中则提高了匹配结果可靠性和精度。

步骤2：对输入的所有照片进行特征点提取，并进行特征点匹配，获取稀疏特征点。采用SURF算子对照片进行特征点提取与匹配。SURF特征匹配方法主要包含三个过程，特征点检测、特征点描述和特征点匹配。该方法使用Hessian矩阵来检测特征点，用箱式滤波器(Box Filters)来代替二阶高斯滤波，用积分图像来加速卷积以提高计算速度，并减少了局部影像特征描述符的维数，来加快匹配速度。主要步骤包括①构建Hessian矩阵，生成所有的兴趣点，用于特征提取，构建Hessian矩阵的目的是为了生成图像稳定的边缘点(突变点)；②构建尺度空间特征点定位，将经过Hessian矩阵处理的每个像素点与二维图像空间和尺度空间邻域内的26个点进行比较，初步定位出关键点，再经过滤除能量比较弱的关键点以及错误定位的关键点，筛选出最终的稳定的特征点；③特征点主方向的确定，采用的是统计特征点圆形邻域内的harr小波特征。即在特征点的圆形邻域内，统计60度扇形内所有点的水平、垂直harr小波特征总和，然后扇形以0.2弧度大小的间隔进行转动并再次统计该区域内harr小波特征值之后，最后将值最大的那个扇形的方向作为该特征点的主方向；④生成64维特征点描述向量,特征点周围取一个4*4的矩形区域块，但是所取得矩形区域方向是沿着特征点的主方向。每个子区域统计25个像素的水平方向和垂直方向的haar小波特征，这里的水平和垂直方向都是相对主方向而言的。该haar小波特征为水平方向值之后、垂直方向值之后、水平方向绝对值之后以及垂直方向绝对值之和4个方向，把这4个值作为每个子块区域的特征向量，所以一共有4*4*4＝64维向量作为Surf特征的描述子；⑤特征点匹配，通过计算两个特征点间的欧式距离来确定匹配度，欧氏距离越短，代表两个特征点的匹配度越好。

步骤3：输入匹配的特征点坐标，利用光束法平差，解算稀疏的人脸三维点云和拍照相机的位置和姿态数据，即获得了稀疏人脸模型三维点云和位置的模型坐标值；以稀疏特征点为初值，进行多视照片稠密匹配，获取得到密集点云数据。该过程主要有四个步骤：立体像对选择、深度图计算、深度图优化、深度图融合。针对输入数据集里的每一张影像，我们选择一张参考影像形成一个立体像对，用于计算深度图。因此我们可以得到所有影像的粗略的深度图，这些深度图可能包含噪声和错误，我们利用它的邻域深度图进行一致性检查，来优化每一张影像的深度图。最后进行深度图融合，得到整个场景的三维点云。

步骤4：利用密集点云进行人脸曲面重建。包括定义八叉树、设置函数空间、创建向量场、求解泊松方程、提取等值面几个过程。由梯度关系得到采样点和指示函数的积分关系，根据积分关系获得点云的向量场，计算指示函数梯度场的逼近，构成泊松方程。根据泊松方程使用矩阵迭代求出近似解，采用移动方体算法提取等值面，对所测点云重构出被测物体的模型。

步骤5：人脸模型的全自动纹理贴图。表面模型构建完成后，进行纹理贴图。主要过程包括：①纹理数据获取通过图像重建目标的表面三角面格网；②重建模型三角面的可见性分析。利用图像的标定信息计算每个三角面的可见图像集以及最优参考图像；③三角面聚类生成纹理贴片。根据三角面的可见图像集、最优参考图像以及三角面的邻域拓扑关系，将三角面聚类生成为若干参考图像纹理贴片；④纹理贴片自动排序生成纹理图像。对生成的纹理贴片，按照其大小关系进行排序，生成包围面积最小的纹理图像，得到每个三角面的纹理映射坐标。

应当注意，上述算法是本发明的优化算法，本算法与图像采集条件相互配合，使用该算法兼顾了合成的时间和质量，是本发明的发明点之一。当然，使用现有技术中常规3D合成算法也可以实现，只是合成效果和速度会受到一定影响。

三维模型的利用

利用上述方法可以合成目标物的三维模型，从而将现实物理世界的物体完整地数字化。这些数字化的信息可以用来进行物体的识别、比对，用来产品设计，用来进行3D展示，用来辅助医疗等多种用途。

例如，在采集了人脸的三维信息后，就可以将其作为识别比对的基础，进行人脸3D识别。

例如，利用人体三维模型可以为用户设计更合身的衣服。

例如，生成工件的三维模型后，可以直接进行3D打印加工。

例如，生成了人体内部的三维模型后，可以将人体信息数字化，从而用来模拟手术过程，用于医疗教学。

上述目标物体、目标物、及物体皆表示预获取三维信息的对象。可以为一实体物体，也可以为多个物体组成物。例如可以为头部、手部等。所述目标物的三维信息包括三维图像、三维点云、三维网格、局部三维特征、三维尺寸及一切带有目标物三维特征的参数。本发明里所谓的三维是指具有XYZ三个方向信息，特别是具有深度信息，与只有二维平面信息具有本质区别。也与一些称为三维、全景、全息、三维，但实际上只包括二维信息，特别是不包括深度信息的定义有本质区别。

本发明所说的采集区域是指图像采集装置(例如相机)能够拍摄的范围。本发明中的图像采集装置可以为CCD、CMOS、相机、摄像机、工业相机、监视器、摄像头、手机、平板、笔记本、移动终端、可穿戴设备、智能眼镜、智能手表、智能手环以及带有图像采集功能所有设备。

本发明所述的转动运动，为在采集过程中前一位置采集平面和后一位置采集平面发生交叉而不是平行，或前一位置图像采集装置光轴和后一位置图像采集位置光轴发生交叉而不是平行。也就是说，图像采集装置的采集区域环绕或部分环绕目标物运动，均可以认为是两者相对转动。虽然本发明实施例中列举更多的为有轨道的转动运动，但是可以理解，只要图像采集设备的采集区域和目标物之间发生非平行的运动，均是转动范畴，均可以使用本发明的限定条件。本发明保护范围并不限定于实施例中的有轨道转动。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的基于本发明装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

至此，本领域技术人员应认识到，虽然本文已详尽示出和描述了本发明的多个示例性实施例，但是，在不脱离本发明精神和范围的情况下，仍可根据本发明公开的内容直接确定或推导出符合本发明原理的许多其他变型或修改。因此，本发明的范围应被理解和认定为覆盖了所有这些其他变型或修改。

Claims (11)

1.一种三维模型构建过程中图像快速匹配的方法，其特征在于：

步骤1：选择待匹配的基准图像和搜索图像；

步骤2：分别构建上述两个图像的影像金字塔；

步骤3：对两个影像金字塔顶部第1层进行SURF特征匹配，实现初步匹配；

步骤4：建立上述两个影像金字塔第1层之间的几何约束条件；

步骤5：将搜索图像影像金字塔当前层某一窗口纠正采样到基准图像影像金字塔第1层的像方坐标系下；

步骤6：在两个金字塔影像的该层对应的两幅图像的灰度值之间建立相关函数；

步骤7：根据匹配结果建立述两个影像金字塔下一层之间的几何约束条件，并相应重复步骤5、6，以此类推，直至完成上述两个影像金字塔底部最后一层的匹配；

在进行图像采集时，

其中L为在相邻两个采集位置时图像采集装置光心的直线距离；f为图像采集装置的焦距；d为图像采集装置感光元件的矩形长度或宽度；T为图像采集装置感光元件沿着光轴到目标物表面的距离；δ为调整系数。

2.如权利要求1所述方法，其特征在于：影像金字塔是以金字塔形状排列的分辨率逐渐降低的图像集合，金字塔的底部是原始图像，顶部是从原始影像采样的低分辨率的影像。

3.如权利要求1所述方法，其特征在于：几何约束条件是基准影像与搜索影像之间的仿射变换关系，通过SURF影像匹配获取的同名点对，计算得到6个仿射变换参数。

4.如权利要求1所述方法，其特征在于：步骤5包括：利用仿射变换系数将搜索影像窗口纠正采样到基准影像的像方坐标系下，使基准影像和搜索影像的共轭实体在像方上一致，即二者不存在旋转、几何变形和尺度变化。

5.如权利要求1所述方法，其特征在于：步骤6包括：选取预设范围的基准影像目标区与搜索影像的匹配窗口计算相关系数，取其相关系数最大且大于阈值的点作为匹配点。

6.如权利要求1所述方法，其特征在于：δ<0.603。

7.如权利要求1所述方法，其特征在于：δ<0.498。

8.如权利要求1所述方法，其特征在于：δ<0.356。

9.如权利要求1所述方法，其特征在于：δ<0.311。

10.一种三维模型构建方法，其特征在于：包括如权利要求1-9所述的匹配的方法。

11.一种三维数据比对方法，其特征在于：包括如权利要求1-9所述的匹配的方法。

Images