发明内容
鉴于上述问题,提出了本申请以便提供一种克服上述问题或者至少部分的解决上述问题的相机参数的标定方法和装置、三维数据生成方法和装置、预测数据集合的生成方法和装置、道路信息分析方法和装置、电子设备、机器可读介质、软件产品。
依据本申请的一个方面,提供了一种相机参数的标定方法,包括:
基于相机在多个第一视角采集的第一图像,确定所述相机在第一视角下分别对应的相机参数,至少部分第一图像对应不同的相机焦距;
在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点;
基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;
依据所述预测数据集合获得第二视角下的相机参数。
可选的,所述相机包括可变焦距球机,所述相机参数包括相机内参和相机外参。
可选的,所述目标位置的图像所覆盖的内容范围超过所述相机的采集范围的预设比例。
可选的,所述在第二视角采集的第二图像和至少一个第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点包括:
提取所述第一图像和第二图像分别对应的图像特征点;
确定图像特征点之间的特征匹配值,根据特征匹配值确定具有匹配关系的目标图像特征点。
可选的,所述基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合包括:
构建映射函数,所述映射函数用于依据第一视角和第二视角分别对应的相机参数,将目标图像特征点在第一视角下的坐标信息转换为第二视角下的坐标信息;
迭代优化所述映射函数,将优化获得的映射函数作为预测第二视角下的相机参数的预测数据集合。
可选的,所述方法还包括:
依据所述目标图像特征点在第一图像和第二图像中的坐标信息,确定相机在第二视角的相机参数的初始值,并依据所述初始值优化所述预测数据集合。
可选的,所述依据所述目标图像特征点在第一图像和第二图像中的坐标信息,确定相机在第二视角的相机参数的初始值包括:
按照相机在所述第一视角的相机参数,将所述目标图像特征点在第一图像中的坐标信息转换至世界坐标系下的坐标信息;
基于目标图像特征点在世界坐标系下的坐标信息、在第二图像中的坐标信息以及所述相机在第二视角的相机参数的初始值,构造关系函数;
依据所述关系函数求解所述相机在第二视角的相机参数的初始值。
可选的,所述图像特征点包括角点特征点、SIFT特征点、ORB特征点中至少一种,所述预测数据集合采用最小化重投影误差算法进行优化。
依据本申请的另一个方面,还提供了一种三维数据生成方法,包括:
获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;所述预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,所述第一视角下分别对应的相机参数基于所述第一图像确定,至少部分第一图像对应不同的相机焦距;
依据所述预测数据集合获得第二视角下的相机参数;
基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据。
依据本申请的另一个方面,还提供了一种预测数据集合的生成方法,包括:
基于相机在多个第一视角采集的第一图像,确定所述相机在第一视角下分别对应的相机参数,至少部分第一图像对应不同的相机焦距;
在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点;
基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合。
依据本申请的另一个方面,还提供了一种道路信息分析方法,应用于道路附近位置安装的可变焦距球机,所述方法包括:
获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;所述预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,所述第一视角下分别对应的相机参数基于所述第一图像确定,至少部分第一图像对应不同的相机焦距;
依据所述预测数据集合获得第二视角下的相机参数;
基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据;
基于所述三维数据进行道路信息分析。
依据本申请的另一个方面,还提供了一种电子设备,其特征在于,包括:处理器;和
存储器,其上存储有可执行代码,当所述可执行代码被执行时,使得所述处理器执行如上述任一项所述的方法。
依据本申请的另一个方面,还提供了一个或多个机器可读介质,其上存储有可执行代码,当所述可执行代码被处理器执行时,实现如上述一项所述的方法。
依据本申请的另一个方面,还提供了一种软件产品,包括计算机程序/指令,其中,当所述计算机程序/指令被执行时,实现执行如上述任一项所述的方法。
依据本申请实施例,先基于相机在多个第一视角和焦距下采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
在道路监测场景下,由于三维空间范围较广,而固定视角枪机可视范围有限无法满足目标场景的大范围覆盖,所以在交通路口或楼顶高处,通常采用可变焦距球机,通过变焦和转动监测相机获取较远或较近处的大场景信息。但连续变焦和转动会直接改变相机参数,所以如何高效标定可变焦距球机的相机参数具有实际应用价值。
传统相机标定算法需要使用真实尺寸已知的三维标定物或平面标定物,通过建立标定物上坐标已知的点与其图像点之间的对应,利用优化算法求解相机模型的内外参数,标定物的加工和维护较困难,在道路监测场景下放置标定物较为困难,不能适用于上述球机监测场景下的参数标定。
特别是可变焦距球机在拍摄图像时会持续发生角度转动和焦距的变换,角度转动导致不同视角对应的是不同的相机坐标系,相机相对世界坐标系的相机外参发生了变化。焦距的变换导致相机内参发生了变化,因此在不同视角下的相机参数也发生了变化,需要根据不同的视角重新确定相机参数。
本申请实施例提供了相机参数的标定方案,并将其用于三维数据的生成、预测数据集合的生成、道路分析等具体应用中,如下展开描述。
相机标定是确定物体表面某点的三维几何位置与其在图像上对应点之间的相对变换关系,从而根据该相对变化关系将采集的图像投射到三维空间中,获得描绘三维空间的三维数据。上述相对变换关系也即是相机参数,具体可以分为相机内参和相机外参。相机内参主要包括相机焦距、主点位置、斜切系数和畸变参数等参数,畸变参数可以进一步包括径向畸变参数和切向畸变参数。相机外参相机相对于真实世界(三维空间坐标系,真实场景)的参数,用于将世界坐标系转换至相机坐标系下,具体形式可以是世界坐标系到相机坐标系的旋转矩阵和平移向量。
本申请首先采集相机在多个视角(记为第一视角)下的图像(记为第一图像),至少部分第一图像对应不同的相机焦距,例如全部都对应不同的焦距,或是部分焦距相同,部分焦距不同。并且,针对各个第一视角,分别确定在该视角下的相机参数,具体可以采用现有的任意适用的方案,此处不做限制。
进一步,根据第一视角采集的图像以及第一视角下确定的相机参数,来确定第二视角下的相机参数。首先,在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点。通过获取第二视角采集的第二图像,并分别提取第一图像和第二图像的图像特征点,针对待匹配的第一图像和第二图像,确定出具有匹配关系的目标图像特征点,也即是,在第一图像和第二图像中均存在的图像特征点,表征该第一图像和第二图像在目标图像特征点的位置上发生了内容上的交集。
由于需要与第二视角的图像进行特征点匹配,也即是说第一视角和第二视角在图像采集的内容上是有交集的。因此,上述多个第一视角可以是临时任意选取的视角,也可以是预先确定的视角。因此,在选取第一视角时,可以使得各个第一视角加起来的视角范围尽量大一些,例如,将360度的视角范围划分为四个区域,在四个点上安排第一视角,从而可以使得第一视角的覆盖范围可以得到整个球机的所有采集范围,比如,在东西南北四个方向上设置第一视角。当然,为了采集更为清晰和完整的内容,可以多选取一些第一视角,确保各个视角的图像采集质量。第二视角是待确定相机参数的视角,可以是第一视角覆盖范围内的视角,当第一视角的覆盖范围足够大时,第二视角可以是任意视角。
在确定目标图像特征点之后,可以基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,并依据该预测数据集合获得第二视角下的相机参数。由于无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,上述方案可以适用于任意相机的参数标定,特别是可以适用于焦距连续变化的球机。
若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,则可以实现更大范围的相机参数的标定,例如第一视角采集的内容范围的加和可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
一种可选的实施例中,在第二视角采集的第二图像和至少一个第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点时,可以提取第一图像和第二图像分别对应的图像特征点,进一步确定图像特征点之间的特征匹配值,根据特征匹配值确定具有匹配关系的目标图像特征点。
其中,图像的特征点用于表征图像在某些维度上的特性,例如可以包括角点(corner point)特征点、SIFT(Scale Invariant Feature Transform,尺度不变特征变换)特征点、ORB(Oriented FAST and Rotated BRIEF,定向快速旋转)特征点中至少一种。角点特征点通常是特定特征点,这些特征点在图像中有具体的坐标,并具有某些数学特征,如局部最大或最小灰度、某些梯度特征等。SIFT特征点是图像的局部特征点,其对旋转、尺度缩放、亮度变化保持不变性,对视角变化、仿射变换、噪声也保持一定程度的稳定性。ORB特征点是采用一定模式和操作选取出的具有局部不变性的特征点,比如,当图像进行旋转的同时,需要将坐标系也进行相应的旋转,这样使得进行旋转后依然不变的特征点是具有局部不变性的特征点。实际应用中,也可以根据需要选择其他任意适用的特征点。
特征点之间的特征匹配值表征特征点之间的相似程度,特征匹配值比较高,则可以认为是具有匹配关系的特征点。上述特征点可以采用特征向量的形式进行表征,相应的,在计算特征点之间的特征匹配值时,可以计算向量之间的相似度,选取相似度满足条件,比如相似度较大的特征点确定为具有匹配关系的特征点。具体可以采用最邻近特征向量匹配法实现。
一种可选的实施例中,基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合的过程中,可以构建映射函数,该映射函数用于依据第一视角和第二视角分别对应的相机参数,将目标图像特征点在第一视角下的坐标信息转换为第二视角下的坐标信息,也即是,将第一视角下的图像特征点依据相机参数反投影至第二视角。
因此,通过求解该映射函数可以获得第二视角对应的相机参数,该映射函数中包括未知的第二视角下的相机参数以及一些未知的系数,因此,可以迭代优化所述映射函数,将优化获得的映射函数作为预测第二视角下的相机参数的预测数据集合,就可以进一步基于该预测数据集合获得第二视角下的相机参数。
在优化上述映射函数时,其中涉及到的损失函数可以依据映射函数预估的第二视角下的坐标信息与目标图像特征点在第二图像中对应的坐标信息的差异值确定。上述优化过程可以采用最小化重投影误差算法进行优化。
如下给出相机参数的求解过程的示例:
假设第一图像集合为Ii(i=1,2,...,N),N≥4,采用传统标定算法得到第一视角下的相机内参矩阵Ki,对应的焦距表示为fi,主点位置pi固定在图像中心,畸变参数为disti={ki1,ki2,pi1,pi2},相机外参的旋转矩阵和平移向量分别表示为Ri和ti。在第二视角下的第二图像为Ic(对应参数下标采用*c表示),并将匹配的图像特征点集合分别表示为Fc和Fi,假设第二图像特征点xc∈Fc和某第一视角(预置位)第一图像特征点xi∈Fi相互匹配。
首先依据畸变参数dist
i将x
i去畸变(畸变内参)得到
然后在预置位相机坐标系下,将去畸变后的像素对应的光线方向旋转至当前视角,具体为
将d
c的z方向归一化得到当前视角相机坐标系的标准坐标
(2)针对当前位置,第二视角下的内参矩阵K
c,畸变参数dist={k1,k2,p1,p2},将
正向投影到第二视角的成像平面上,如下:
其中
k
1和k
2表示径向畸变参数,p
1和p
2表示切向畸变参数。再把畸变后的坐标投影到成像平面得到像素坐标估计值:
据此构造映射函数:
目标是最小化重投影误差,采用Levenberg-Marquard算法优化上述函数,求解第二视角下的相机参数。
在上述对预测数据集合进行优化的过程中,还可以先确定一个第二相机参数的初始值,依据该初始值进行预测数据集合的优化,可以是依据所述目标图像特征点在第一图像和第二图像中的坐标信息,确定相机在第二视角的相机参数的初始值。
假设球机的成像中心在旋转过程中位置保持不变,仅存在相机坐标系下的旋转,并且假设变焦中心是图像像素平面中心点。可以通过世界坐标系对第一视角和第二视角的相机参数进行转换计算,例如,按照相机在第一视角的相机参数,将目标图像特征点在第一图像中的坐标信息转换至世界坐标系下的坐标信息,然后基于目标图像特征点在世界坐标系下的坐标信息、在第二图像中的坐标信息以及相机在第二视角的相机参数的初始值,构造关系函数,依据关系函数求解相机在第二视角的相机参数的初始值。
如下给出初始值的一个实现过程示例:
假设第一视角相对于世界坐标系的旋转为R
avg(初始化为单位矩阵),焦距为f
avg(初始化为图像分辨率的较小维度),另外假设第二视角的图像特征点x
c∈F
c和某个第一视角图像特征点x
i∈F
i相互匹配。在第一视角的相机坐标系下,x
i对应的光线方向为
其中norm(*)表示向量归一化。将此方向按照世界坐标系旋转至一个参考位置
(等号表示赋值操作),随后将参考位置依据第二视角相对于世界坐标系的旋转至d
c=R
avgd
i。焦距变换同样可将第二视角图像特征点转换成光线方向
理论上,d
c和
方向一致,因此构造如下函数:
其中,(*·*)表示向量内积,N表示第一视角(预置位)个数,其中第一图像i和第二图像有Mi对特征匹配点,通过对该方程进行优化,可以求解Ravg和favg的初始值。
第二视角下的平移向量t
c的估计方法可以是通过构造如下函数:
即可求解出t
c。
结合上述初始值进行求解第二视角下的相机参数的过程中,其中Rc可以由Ravg初始化,通过初始标定使得Rc获得更为准确的数值,依据估计的焦距favg构造上述的内参矩阵Kc和畸变参数。
需要说明的是,上述方案的实现可以在相机内部,也可以在服务器或是云端实现。方案对应可以实施为应用程序、服务、实例、软件形态的功能模块、虚拟机(VirtualMachine,VM)或容器,或者也可以实现为具有图像处理功能的硬件设备(如服务器或终端设备)或硬件芯片(如CPU、GPU或FPGA)等。计算平台可以利用自身的计算资源提供预测数据结合的优化、相机参数的计算、三维数据的处理中的部分或全部处理,相机或是需求方可以通过客户端或是设定接口申请上述处理并提交相机采集的相关数据,平台通过上述方法将处理结果反馈给相机或是需求方。或者也可以是相机或是需求方自己的计算资源执行上述处理。具体搭建何种应用架构进行使用本申请并不做限制。
上述方案可以进一步应用于三维数据生成过程中,通过获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,该预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,各第一视角下分别对应的相机参数基于分别采集的第一图像确定。之后可以依据预测数据集合获得第二视角下的相机参数,从而可以基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据。
相应也可以提供为一种预测数据集合的生成方法,基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点,进一步基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合。
本申请也可以应用于道路分析的应用场景下,可以将本申请的方案部署于道路附近位置安装的可变焦距球机,获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,第一视角下分别对应的相机参数基于第一图像确定,之后可以依据预测数据集合获得第二视角下的相机参数,然后基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据,以基于三维数据进行道路信息分析,例如可以进行道路概况分析、安全态势分析、拥堵分析等等。
参考图1给出了本申请的相机参数标定方案的一个示例。
首先,道路上安装的球机采集东南西北四个视角下的图像,作为第一图像,在这四个视角下先标定相机参数。之后,采集任意视角图像作为第二图像,计算第二图像和第一图像的特征匹配关系,确定两个图像之间匹配的像素点。基于匹配的像素点在两个图像中的坐标信息构建映射函数,用于依据第一视角和第二视角分别对应的相机参数,将目标图像特征点在第一视角下的坐标信息转换为第二视角下的坐标信息。通过优化该映射函数可以获得用于基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合。后续基于该预设数据集合获得第二视角下的相机参数,进一步可以将第二视角下采集的图像投射至三维空间,获得三维数据,用于后续的道路分析中。
参照图2,示出了根据本申请实施例一的一种相机参数的标定方法的流程图,该方法具体可以包括以下步骤:
步骤101,基于相机在多个第一视角采集的第一图像,确定所述相机在第一视角下分别对应的相机参数,至少部分第一图像对应不同的相机焦距;
步骤102,在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点;
步骤103,基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;
步骤104,依据所述预测数据集合获得第二视角下的相机参数。
一种可选的实施例中,所述相机包括可变焦距球机,所述相机参数包括相机内参和相机外参。
一种可选的实施例中,所述目标位置的图像所覆盖的内容范围超过所述相机的采集范围的预设比例。
一种可选的实施例中,所述在第二视角采集的第二图像和至少一个第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点包括:
提取所述第一图像和第二图像分别对应的图像特征点;
确定图像特征点之间的特征匹配值,根据特征匹配值确定具有匹配关系的目标图像特征点。
一种可选的实施例中,所述基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合包括:
构建映射函数,所述映射函数用于依据第一视角和第二视角分别对应的相机参数,将目标图像特征点在第一视角下的坐标信息转换为第二视角下的坐标信息;
迭代优化所述映射函数,将优化获得的映射函数作为预测第二视角下的相机参数的预测数据集合。
一种可选的实施例中,所述方法还包括:
依据所述目标图像特征点在第一图像和第二图像中的坐标信息,确定相机在第二视角的相机参数的初始值,并依据所述初始值优化所述预测数据集合。
一种可选的实施例中,所述依据所述目标图像特征点在第一图像和第二图像中的坐标信息,确定相机在第二视角的相机参数的初始值包括:
按照相机在所述第一视角的相机参数,将所述目标图像特征点在第一图像中的坐标信息转换至世界坐标系下的坐标信息;
基于目标图像特征点在世界坐标系下的坐标信息、在第二图像中的坐标信息以及所述相机在第二视角的相机参数的初始值,构造关系函数;
依据所述关系函数求解所述相机在第二视角的相机参数的初始值。
一种可选的实施例中,所述图像特征点包括角点特征点、SIFT特征点、ORB特征点中至少一种,所述预测数据集合采用最小化重投影误差算法进行优化。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
参照图3,示出了根据本申请实施例二的一种三维数据生成方法的流程图,该方法具体可以包括以下步骤:
步骤201,获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;所述预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,所述第一视角下分别对应的相机参数基于所述第一图像确定,至少部分第一图像对应不同的相机焦距;
步骤202,依据所述预测数据集合获得第二视角下的相机参数;
步骤203,基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
参照图4,示出了根据本申请实施例三的一种预测数据集合的生成方法的流程图,该方法具体可以包括以下步骤:
步骤301,基于相机在多个第一视角采集的第一图像,确定所述相机在第一视角下分别对应的相机参数,至少部分第一图像对应不同的相机焦距;
步骤302,在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点;
步骤303,基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
参照图5,示出了根据本申请实施例四的一种道路信息分析方法的流程图,应用于道路附近位置安装的可变焦距球机,该方法具体可以包括以下步骤:
步骤401,获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;所述预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,所述第一视角下分别对应的相机参数基于所述第一图像确定,至少部分第一图像对应不同的相机焦距;
步骤402,依据所述预测数据集合获得第二视角下的相机参数;
步骤403,基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据;
步骤404,基于所述三维数据进行道路信息分析。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
参照图6,示出了根据本申请实施例五的一种相机参数的标定装置的结构框图,该装置具体可以包括:
相机参数确定模块501,用于基于相机在多个第一视角采集的第一图像,确定所述相机在第一视角下分别对应的相机参数,至少部分第一图像对应不同的相机焦距;
特征点匹配模块502,用于在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点;
集合创建模块503,用于基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;
参数确定模块504,用于依据所述预测数据集合获得第二视角下的相机参数。
一种可选的实施例中,所述相机包括可变焦距球机,所述相机参数包括相机内参和相机外参。
一种可选的实施例中,所述目标位置的图像所覆盖的内容范围超过所述相机的采集范围的预设比例。
一种可选的实施例中,所述特征点匹配模块,具体用于提取所述第一图像和第二图像分别对应的图像特征点;确定图像特征点之间的特征匹配值,根据特征匹配值确定具有匹配关系的目标图像特征点。
一种可选的实施例中,所述集合创建模块,具体用于构建映射函数,所述映射函数用于依据第一视角和第二视角分别对应的相机参数,将目标图像特征点在第一视角下的坐标信息转换为第二视角下的坐标信息;迭代优化所述映射函数,将优化获得的映射函数作为预测第二视角下的相机参数的预测数据集合。
一种可选的实施例中,所述装置还包括:
初始值确定模块,用于依据所述目标图像特征点在第一图像和第二图像中的坐标信息,确定相机在第二视角的相机参数的初始值,并依据所述初始值优化所述预测数据集合。
一种可选的实施例中,所述初始值确定模块,具体用于按照相机在所述第一视角的相机参数,将所述目标图像特征点在第一图像中的坐标信息转换至世界坐标系下的坐标信息;基于目标图像特征点在世界坐标系下的坐标信息、在第二图像中的坐标信息以及所述相机在第二视角的相机参数的初始值,构造关系函数;依据所述关系函数求解所述相机在第二视角的相机参数的初始值。
一种可选的实施例中,所述图像特征点包括角点特征点、SIFT特征点、ORB特征点中至少一种,所述预测数据集合采用最小化重投影误差算法进行优化。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
参照图7,示出了根据本申请实施例六的一种三维数据生成装置的结构框图,该装置具体可以包括:
集合获取模块601,用于获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;所述预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,所述第一视角下分别对应的相机参数基于所述第一图像确定,至少部分第一图像对应不同的相机焦距;
参数确定模块602,用于依据所述预测数据集合获得第二视角下的相机参数;
三维数据投射模块603,用于基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
参照图8,示出了根据本申请实施例七的一种预测数据集合的生成装置的结构框图,该装置具体可以包括:
参数确定模块701,用于基于相机在多个第一视角采集的第一图像,确定所述相机在第一视角下分别对应的相机参数,至少部分第一图像对应不同的相机焦距;
匹配点确定模块702,用于在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定具有匹配关系的目标图像特征点;
集合创建模块703,用于基于所述目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
参照图9,示出了根据本申请实施例八的一种道路信息分析装置的结构框图,应用于道路附近位置安装的可变焦距球机,该装置具体可以包括:
预测数据集合获取模块801,用于获取基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合;所述预测数据集合基于第二图像和多个第一视角采集的第一图像中具有匹配关系的目标图像特征点建立,所述第一视角下分别对应的相机参数基于所述第一图像确定,至少部分第一图像对应不同的相机焦距;
参数确定模块802,用于依据所述预测数据集合获得第二视角下的相机参数;
三维数据预测模块803,用于基于第二视角下的相机参数将第二视角下采集的第二图像投射至三维空间,获得第二视角下的三维数据;
道路分析模块804,用于基于所述三维数据进行道路信息分析。
依据本申请实施例,先基于相机在多个第一视角采集的第一图像,确定相机在第一视角下分别对应的相机参数,然后在第二视角采集的第二图像和第一图像分别对应的图像特征点中,确定出具有匹配关系的目标图像特征点,再基于目标图像特征点在第一图像和第二图像分别对应的坐标信息,建立基于第一视角下的相机参数预测第二视角下的相机参数的预测数据集合,无需标定物,即可基于该预测数据集合获得其他视角下的相机参数,可以实现采集范围内的连续视角下的参数预测,适用于焦距连续变化的球机。若目标位置的图像所覆盖的内容范围超过所述相机的采集范围的一定比例,例如内容范围可以完全覆盖到球机的采集范围,则可以实现球机范围内任一视角的参数预测。
对于装置和***实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开的实施例可被实现为使用任意适当的硬件,固件,软件,或及其任意组合进行想要的配置的***。图10示意性地示出了可被用于实现本公开中所述的各个实施例的示例性***(或装置)900。
对于一个实施例,图10示出了示例性***900,该***具有一个或多个处理器902、被耦合到(一个或多个)处理器902中的至少一个的***控制模块(芯片组)904、被耦合到***控制模块904的***存储器909、被耦合到***控制模块904的非易失性存储器(NVM)/存储设备908、被耦合到***控制模块904的一个或多个输入/输出设备910,以及被耦合到***控制模块909的网络接口912。
处理器902可包括一个或多个单核或多核处理器,处理器902可包括通用处理器或专用处理器(例如图形处理器、应用处理器、基频处理器等)的任意组合。在一些实施例中,***900能够作为本申请实施例中所述的浏览器。
在一些实施例中,***900可包括具有指令的一个或多个计算机可读介质(例如,***存储器909或NVM/存储设备908)以及与该一个或多个计算机可读介质相合并被配置为执行指令以实现模块从而执行本公开中所述的动作的一个或多个处理器902。
对于一个实施例,***控制模块904可包括任意适当的接口控制器,以向(一个或多个)处理器902中的至少一个和/或与***控制模块904通信的任意适当的设备或组件提供任意适当的接口。
***控制模块904可包括存储器控制器模块,以向***存储器909提供接口。存储器控制器模块可以是硬件模块、软件模块和/或固件模块。
***存储器909可被用于例如为***900加载和存储数据和/或指令。对于一个实施例,***存储器909可包括任意适当的易失性存储器,例如,适当的DRAM。在一些实施例中,***存储器909可包括双倍数据速率类型四同步动态随机存取存储器(DDR4SDRAM)。
对于一个实施例,***控制模块904可包括一个或多个输入/输出控制器,以向NVM/存储设备908及(一个或多个)输入/输出设备910提供接口。
例如,NVM/存储设备608可被用于存储数据和/或指令。NVM/存储设备608可包括任意适当的非易失性存储器(例如,闪存)和/或可包括任意适当的(一个或多个)非易失性存储设备(例如,一个或多个硬盘驱动器(HDD)、一个或多个光盘(CD)驱动器和/或一个或多个数字通用光盘(DVD)驱动器)。
NVM/存储设备608可包括在物理上作为***600被安装在其上的设备的一部分的存储资源,或者其可被该设备访问而不必作为该设备的一部分。例如,NVM/存储设备608可通过网络经由(一个或多个)输入/输出设备910进行访问。
(一个或多个)输入/输出设备910可为***900提供接口以与任意其他适当的设备通信,输入/输出设备910可以包括通信组件、音频组件、传感器组件等。网络接口912可为***900提供接口以通过一个或多个网络通信,***900可根据一个或多个无线网络标准和/或协议中的任意标准和/或协议来与无线网络的一个或多个组件进行无线通信,例如接入基于通信标准的无线网络,如WiFi、2G、3G、4G或5G,或它们的组合进行无线通信。
对于一个实施例,(一个或多个)处理器902中的至少一个可与***控制模块904的一个或多个控制器(例如,存储器控制器模块)的逻辑封装在一起。对于一个实施例,(一个或多个)处理器902中的至少一个可与***控制模块904的一个或多个控制器的逻辑封装在一起以形成***级封装(SiP)。对于一个实施例,(一个或多个)处理器902中的至少一个可与***控制模块904的一个或多个控制器的逻辑集成在同一模具上。对于一个实施例,(一个或多个)处理器902中的至少一个可与***控制模块904的一个或多个控制器的逻辑集成在同一模具上以形成片上***(SoC)。
在各个实施例中,***900可以但不限于是:浏览器、工作站、台式计算设备或移动计算设备(例如,膝上型计算设备、手持计算设备、平板电脑、上网本等)。在各个实施例中,***900可具有更多或更少的组件和/或不同的架构。例如,在一些实施例中,***900包括一个或多个摄像机、键盘、液晶显示器(LCD)屏幕(包括触屏显示器)、非易失性存储器端口、多个天线、图形芯片、专用集成电路(ASIC)和扬声器。
其中,如果显示器包括触摸面板,显示屏可以被实现为触屏显示器,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还识别与所述触摸或滑动操作相关的持续时间和压力。
本申请实施例还提供了一种非易失性可读存储介质,该存储介质中存储有一个或多个模块(programs),该一个或多个模块被应用在终端设备时,可以使得该终端设备执行本申请实施例中各方法步骤的指令(instructions)。
在一个示例中提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如本申请实施例的方法。
在一个示例中还提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如本申请实施例的方法。
在一个示例中还提供了一种软件产品,包括计算机程序/指令,其中,当所述计算机程序/指令被执行时,实现执行本申请实施例的方法。
虽然某些实施例是以说明和描述为目的的,各种各样的替代、和/或、等效的实施方案、或计算来达到同样的目的实施例示出和描述的实现,不脱离本申请的实施范围。本申请旨在覆盖本文讨论的实施例的任何修改或变化。因此,显然本文描述的实施例仅由权利要求和它们的等同物来限定。