一种基于深度相机的飞机油箱三维重建方法与检测方法
技术领域
本发明属于计算机视觉领域,涉及点云之间的匹配方法,具体为一种基于深度相机的飞机油箱三维重建方法和利用所述重建方法检测油箱的方法。
背景技术
飞机整体油箱是油密区域,是飞机结构密封中要求最严格的部位,其良好的密封性是实现“安全、经济、舒适、环保”目标的必然要求。而事实上,目前在研型号中,整体油箱的泄漏情况反复出现,导致制造时的气密试验和油密试验周期远高于同类竞争机型。然而,目前油箱内部涂胶质量只能靠人工目测,效率不高同时检查效果也不好。
三维重建主要工作是点云的匹配问题,如何能快速、精确地配准帧与帧(或者帧与模型)之间的点云数据一直是一个研究热点。该问题比较经典的解决方案是迭代最临近点(Iterative Closest Point,ICP)及其变形算法。该算法通常用寻找点的对应关系及优化距离目标函数的方法求解,其中以点对平面法因其快速收敛性而应用较广,但也存在一些问题,比如该算法在有较多平滑曲面的情况下的表现并不稳定,因为没有足够的几何特征来支撑优化。同时,在初始粗配准达不到一定要求下,ICP算法也容易失效。
发明内容
针对传统方法检测飞机油箱内部效率低、检查效果不好的情况,本发明提出了采用三维重建的方式重建油箱内部点云,通过与理论数模作对比,以此来评估油箱内部涂胶质量。并针对现有三维重建技术配准技术的不足,提出了一种基于深度相机的飞机整体油箱高精度三维重建方法,该方法结合点云的颜色与几何信息,在提高配准精度的同时有效解决了算法稳定性的问题。
本发明提供的技术方案为:
一种基于深度相机的飞机油箱三维重建方法,其特征在于,包括以下步骤:
步骤一、场景点云数据采集
将深度相机伸入待检测的飞机油箱,从不同视角采集油箱的内部信息,获得多帧带有颜色信息的飞机油箱点云数据,保证每帧点云数据与相邻帧点云之间都有部分重叠,用于后续配准;
步骤二、场景点云模型粗配准
对步骤一采集的点云数据进行预处理,通过特征匹配找到待匹配点云之间的对应点,通过对应点的位置变换关系,解算出点云之间的粗配准变换矩阵;
步骤三、场景点云模型的精配准
将粗配准后的各帧点云的颜色信息与几何信息参数化,采用ICP算法建立待匹配点云中的精确对应点集,将对应点参数化后的颜色与几何信息整合到一起形成优化目标,最小化该目标求得所述精配准变换矩阵。
在上述方案的基础上,进一步改进或优选的方案还包括:
步骤三中,建立优化目标,计算精配准变换矩阵T的过程为:
针对两待配准场景P、Q的点云,通过公式(1)将二者对应点集κ={(p,q)}中点的颜色信息与几何信息整合形成一个综合的优化目标;
E(T)=(1-σ)EC(T)+σEG(T) (1)
上式中,E(T)由两部分组成,EC(T)代表点云颜色信息的优化目标,EG(T)表示点云几何信息的优化目标,σ∈[0,1]是平衡EC(T)和EG(T)两个目标的权重;
在最小化E(T)的目标下,利用高斯牛顿法来计算两点云间的精配准变换矩阵T,即目标函数E(T)最小时,对应的精配准变换矩阵为最终应用到场景点云上的变换矩阵。
步骤三中,颜色信息和几何信息的量化过程均通过一连续函数实现:
颜色信息量化过程:
为点p切平面上的向量,C(p)为离散函数,表示从点云到颜色信息的检索函数,C
P(u)为其对应连续函数,
为C
P(u)的梯度;
几何信息量化过程:
GP(u)≈(op-p)Tnp (3)
op为虚拟相机所在位置,np表示p点的法向量;
上式中,点p为场景P点云中的一个点,其它待配准场景点云颜色信息和几何信息的量化过程采用相同的原理。
结合所述公式(2)、(3),公式(1)可具体表达为:
上式中,C(q)为场景Q点云中点q的离散函数,表示从点云到颜色信息的检索函数;σ为权重,s表示两个矩阵相乘,即s(q,T)=Tq;f表示投影函数,将经变换矩阵T变换后的对应点q投影到点p的切平面上。
在步骤三建立对应点集和求解精配准变换矩阵的匹配迭代过程中:
通过初始迭代时,对场景点云下采样只留下较少的点,得到稀疏点云,随着迭代的进行,下采样的幅度越来越小,使每次迭代处理的密度呈现由粗到精的变化。
进一步的,所述步骤二的过程为:
(21)对步骤一中采集的各场景点云数据进行预处理
所述预处理的过程为:首先利用直通滤波的方法去除场景边缘数据模糊、质量较低的冗余数据;然后利用基于统计学的去噪算法对点云中的离群点进行剔除;最后计算场景中各点的法矢,其中法矢信息是采用基于局部表面拟合估计法向量的方法获取的;
(22)基于点对特征的方法建立全局模型描述
(23)利用步骤(22)中建立的全局模型描述,通过搜索不同场景间的相似点对特征,进行点云之间的特征匹配,找到两两点云之间的粗配准对应点,计算所述对应点在两点云中的位姿变换矩阵,并进行位姿聚类和投票操作,得到点云的最终粗配准变换矩阵。
进一步的,步骤(23)中:
所述位姿聚类是指将比较相近的位姿变换矩阵,对应的投票数量即得分取平均值,以消除相近位姿的影响,提高算法对位姿检测的稳定性;
所述投票操作是通过累加两点云中各对应点位姿变换矩阵出现的次数进行投票,最终得票最高的为点云的最终粗配准变换矩阵。
一种基于如上所述三维重建方法的飞机油箱检测方法,其特征在于,通过所述三维重建方法,重建待检测油箱的内部点云模型,并与预设的理论模型作对比,评估飞机油箱内部的涂胶质量。
有益效果:
本发明检测方法利用三维重建的方法代替人工来检测油箱的涂胶质量,不仅提高了检测效率,且检测效果更好。而本发明三维重建方法与现有三维重建技术相比,具有以下优点:1)通过结合量化(参数化)的点云颜色和几何信息,优化对精配准变换矩阵的求解,可克服现有算法在较多平滑曲面的情况下表现不稳定的情况;2)使用基于ppf特征的粗配准方法,快速有效的保证精配准的初始位置后,结合了点云的颜色信息与几何信息的优化目标,使得精配准算法的稳定性进一步提高;3)匹配迭代过程中对点云采用“由粗到精”的处理方式,可提高算法效率,减少了陷入局部最小值的可能性。
附图说明
图1是飞机整体油箱高精度三维重建方法流程图;
图2是飞机整体油箱测量方法示意图;
图3是本发明两点之间ppf特征示意图;
图4是本发明飞机油箱部分点云精配准结果图。
具体实施方式
为了阐明本发明的工作流程和工作原理,下面结合附图和具体实施例对本发明做详细说明。
实施例一:
一种基于深度相机的飞机油箱三维重建方法,包括以下步骤:
步骤一:采集场景点云数据
将RGB-D深度相机伸入飞机油箱,从不同视角采集油箱内部的图像信息,获得多帧带有颜色信息的飞机油箱点云数据,这些片段点云数据将作为后续粗配准步骤的输入。每帧点云可视为对应全局场景下的一个“小场景”,后文如无特别说明,场景均指所述“小场景”。
搭载RGB-D深度相机的硬件结构如图2所示,图中各部分分别为:
1:三脚架;
2:RGB-D深度相机;
3:伸缩杆;
4:连接件。
所述RGB-D深度相机2安装在伸缩杆3的前端,伸缩杆3偏后的某一位置通过云台等活动连接件4,安装在所述三脚架1的顶端。其中,所述RGB-D深度相机的工作参数为:垂直方向的标称测量精度在0.1mm以内;采集到的点云数据中,相邻两点之间的距离为0.286mm,工作范围(即物体距相机的最远与最近距离)在458-1118mm之间。所述硬件结构可提供四个方向的自由度,分别为三脚架的升降,伸缩杆的伸长和缩短,伸缩杆绕三脚架z轴(竖向轴)的旋转,伸缩杆绕三脚架x轴的旋转(俯仰转动)。利用该硬件结构,在飞机油箱内部采集点云数据,保证每帧点云数据与相邻帧之间都有部分重叠,以此满足后续的点云配准要求。
步骤二:场景点云模型粗配准
(21)对步骤一中采集的各场景点云数据进行预处理
所述预处理的过程为:首先利用直通滤波的方法去除场景边缘数据模糊、质量较低的冗余数据;然后利用基于统计学的去噪算法对点云中的离群点进行剔除;最后计算场景中各点的法矢,其中法矢信息是采用基于局部表面拟合估计法向量的方法获取的。
(22)基于点对特征(ppf)的方法建立全局模型描述
遍历各个场景点云中的每一个点,以两两配对的关系,建立其与点云中其它所有点的点对特征,然后建立由点对特征索引的哈希表,即对场景建立了全局模型描述。所述全局模型描述表示为由点对特征索引的哈希表,各场景点云中,具有相似特征的点对被存储于哈希表的相同位置,可以通过使用某一点对特征F作为访问哈希表的键,来获取键值(哈希值),将与F相似的点对特征搜索出来。
所述全局模型描述表示从点对特征空间到模型的映射,具体来说是将四维点对特征映射到场景所有点对的集合中。
关于所述点对特征,以场景P点云的点对特征为Fp为例,设p1,p2为该场景中点云的第一点和第二点,p1,p2的点对特征Fp(p1,p2)可定义为:
F1=||d||2
F2=∠(n1,d)
F3=∠(n2,d)
F4=∠(n1,n2)
F(p1,p2)=(F1,F2,F3,F4)
上式中,n1为p1对应的法向量,n2为p2对应的法向量,d为两点之间的距离。
由上式可知,点对特征Fp(p1,p2)由四个分量定义而成,其中,第一个分量F表示点之间的距离,设∠(a,b)∈[0,π]表示括号内两个向量a,b之间的夹角,则分量F2、F3、F4分别表示第一点法线与两点连线的夹角、第二点法线与两点连线的夹角、两点法线之间的夹角,如图3所示。
(23)特征匹配
首先,利用步骤(22)中建立的全局模型描述,通过搜索不同场景间的相似点对特征,进行点云之间的特征匹配,找到两两点云之间的对应点(即点云中经过旋转和平移能够与另一点云中的某点对齐的点),不同视角点云的对应点仅存在于点云之间的重叠区域。
之后,针对匹配得到的对应点,计算所述对应点在两点云中的位姿变换矩阵(平移和旋转),并进行位姿聚类和投票操作,得票最高者即为最终粗配准变换矩阵。利用所述最终粗配准变换矩阵得到的粗配准结果,作为精配准过程的初始位置。
上述过程中,所述位姿聚类是指,将比较相近的变换矩阵对应的投票数量(即得分)取平均值,以消除相近位姿的影响,提高算法对位姿检测的稳定性;所述投票操作是指,通过累加两点云中各配对对应点的位姿变换矩阵出现的次数,进行计票和投票,将最终得票最高的视为目标粗配准变换矩阵。
步骤三:场景点云模型精配准
(31)将粗配准后的两场景点云的颜色量与几何量参数化(即量化)。为了在优化过程中能够使用颜色信息,使用一个连续函数来量化点云中点的颜色信息,这里以场景P中的一个点p为例来说明点的颜色量化过程;
其中,u为p点切平面上的向量,CP(u)为离散函数,表示从点云到颜色信息的检索函数,C
P(u)为其对应连续函数,
为C
P(u)的梯度,可由临近点最小二乘法求出;
同理,我们使用连续函数GP(u)来量化点p的几何信息(主要是指点的位置、法向等几何信息):
GP(u)≈(op-p)Tnp
其中,op为虚拟相机所在位置,np表示p点的法向量(所述虚拟相机是人为假设的,该相机的图像平面是p点邻域的切平面)。
上两式中,上标的T为转置符号,下同。
(32)利用ICP算法建立待匹配点云的精确对应点集κ={(p,q)}。
ICP算法在每次优化迭代过程中,会寻找P,Q两场景对应的点云M、TkN中,距离小于ε的点作为对应点。其中,M为场景P对应的(原始)点云,N为场景Q对应的(原始)点云,Tk是当前(第k次)迭代循环中的变换矩阵,TkN指的是第k次迭代中,点云N经过变化矩阵Tk作用(平移和旋转)后的点云。而每次迭代中找到的对应点集κ={(p,q)}会被用于之后进一步精配准的过程。随着迭代优化的进行,对应点集κ={(p,q)}也在不断更新。
(33)建立优化目标,计算精配准变换矩阵T。
本实施例将对应点集κ={(p,q)}中点的颜色信息与几何信息整合形成一个综合的优化目标:
E(T)=(1-σ)EC(T)+σEG(T)
上式中,E(T)由两部分组成,EC(T)代表点云颜色信息的优化目标,EG(T)表示点云几何信息的优化目标,σ∈[0,1]是平衡EC(T)和EG(T)两个目标的权重;
在最小化E(T)的目标下,利用高斯牛顿法来计算点云M、N的精确匹配变换矩阵T,具体为:
(a)综合颜色与几何信息的优化目标的具体表达式为
其中,
分别为光度(即颜色)与几何残差,具体计算方法如下:
上式中,C(q)为针对Q场景点云中点q的离散函数,表示从点云到颜色信息的检索函数;σ为权重,s(q,T)表示两个矩阵相乘,即s(q,T)=Tq;f表示投影函数,将经矩阵T变换后的对应点q投影到点p的切平面上;
(b)当第(k+1)次迭代时,对应点集κ={(p,q)}之间的精变换矩阵T可拆分为如下形式
Tk+1=ξTk
其中,T
k+1表示第k+1次迭代时累积的变换矩阵,T
k即表示其上一个循环的变换矩阵,ξ表示当前循环使得优化目标E(T)最小时的变换矩阵,可利用高斯牛顿法求解线性***
(该式是由目标函数E(T)变换而来,其中r是残差向量,J
r是r的雅可比式)来计算。
如果ICP算法迭代到第k+1次时,即达到最小化目标函数的要求,则TK+1就是最终应用到场景Q上的精配准变换矩阵。
其中,
式中,
是对每一个点p∈P预计算的梯度,J
f(s)是f的雅可比式,J
s(ξ)是关于ξ的s的雅可比式。
(34)匹配迭代过程中(即建立对应点和计算精确配准变换矩阵T),对点云采用“由粗到精”的处理方式,即开始迭代时对较稀疏的点云进行优化,随着迭代过程的进行点云的密度也在不断增加,这样不仅提高了效率,也减少了陷入局部最小值的可能性,具体为:
由于目标函数E(T)是一个非线性最小二乘函数,因此可用高斯牛顿法进行求解。然而又由于目标函数是非凸函数,因此容易陷入局部最小值。为了解决这个问题,拟提出由粗及细的目标函数优化算法。通过调整体素的大小对数据进行稀疏采样并构建点云数据分层次模型,即在初始迭代时对场景点云(如场景P)下采样,只留下较少的点,得到稀疏点云,而随着迭代的进行,下采样的幅度越来越小(即点云密度在变大),这样在每次迭代中,处理的点云密度均不同,并呈现由粗到精的变化。这样处理的好处在于优化过程中,粗优化可使配准更加平滑从而解决局部最小值问题,并指导高斯牛顿法寻找全局最优解。
最终精配准结果如图4所示,图中为飞机油箱两个部分的精配准结果图与配准精度RMS。本实施例三维重建方法匹配准确率高,算法效率较好,且有效解决了经典ICP算法在飞机整体油箱内部重建中稳定性不足的问题。
实施例二:
利用实施例一提供的三维重建方法,重建待检测油箱的内部点云模型,并与理论数模做对比,评估飞机油箱内部的涂胶质量。所述理论数模基于涂胶精准的油箱模型建立。
以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解,本发明不受上述实施例的限制,上述实施例和说明书中描述的只是说明本发明的原理,在不脱离本发明精神和范围的前提下,本发明还会有各种变化和改进,本发明要求保护范围由所附的权利要求书、说明书及其等效物界定。