CN112541932B - 基于双光相机不同焦距变换参数的多源图像配准方法 - Google Patents
基于双光相机不同焦距变换参数的多源图像配准方法 Download PDFInfo
- Publication number
- CN112541932B CN112541932B CN202011375819.8A CN202011375819A CN112541932B CN 112541932 B CN112541932 B CN 112541932B CN 202011375819 A CN202011375819 A CN 202011375819A CN 112541932 B CN112541932 B CN 112541932B
- Authority
- CN
- China
- Prior art keywords
- characteristic point
- characteristic
- points
- image
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000009466 transformation Effects 0.000 title claims abstract description 95
- 238000000034 method Methods 0.000 title claims abstract description 40
- 230000003287 optical effect Effects 0.000 claims abstract description 84
- 239000011159 matrix material Substances 0.000 claims abstract description 73
- 238000001514 detection method Methods 0.000 claims abstract description 23
- 238000005457 optimization Methods 0.000 claims abstract description 11
- 230000001131 transforming effect Effects 0.000 claims description 23
- 230000008859 change Effects 0.000 claims description 7
- 238000005070 sampling Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 12
- 230000000694 effects Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20016—Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20164—Salient point detection; Corner detection
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法,通过建立不同焦距的变换矩阵参数库,对多源图像进行角点检测,获得第一特征点集合以及第二特征点集合,利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合,进一步对集合剔除误匹配的特征点,得到待优化的特征点集合;利用距离信息和位置信息对待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;利用最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。相比于现有技术,可以在配准精度达到亚像素级的同时,提升配准效率。
Description
技术领域
本发明属于多源图像配准技术领域,尤其涉及一种基于双光相机不同焦距变换参数的多源图像配准方法。
背景技术
自动化图像配准方法一般属于参数寻优型图像配准方法,其主要思想是,设定初始变换参数,对待配准图像利用初始变换参数进行配准得到初步结果,再通过相似性度量判定结果是否满足要求,如果不满足,通过迭代寻优的方法找出最优的变换模型参数,实现图像配准。传统的人工参与的多源图像配准方法配准速度普遍在1分钟左右,自动化图像配准方法从图像配准的数学定义出发,直接用最优化理论通过搜索策略和迭代寻优的方式实现自动化配准,减少人工参与过程,降低资金投入。
但是由于多源图像之间的成像机理迥异,造成两种图像之间的相关性较小,导致多源图像难以实时配准。现有的自动化多源图像配准方法在平衡多源图像配准精度和配准速度时难以把握。另外,传统的利用搜索策略寻找最优参数需要进行多次迭代,耗费大量的时间,而且还会出现局部收敛的情况。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种基于双光相机不同焦距变换参数的多源图像配准方法。本发明要解决的技术问题通过以下技术方案实现:
本发明提供的一种基于双光相机不同焦距变换参数的多源图像配准方法包括:
步骤1:根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间,建立双光相机不同焦距的变换矩阵参数库;
步骤2:获取多源图像以及拍摄该多源图像时的焦距,所述多源图像包括:光学图像和红外图像;
步骤3:使用Harris角点检测算法,对所述多源图像进行角点检测,获得光学图像的第一特征点集合以及红外图像的第二特征点集合;
步骤4:利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合;
步骤5:在所述变换矩阵参数库中,确定所述焦距所在区间的目标变换矩阵参数;
步骤6:使用所述目标变换矩阵参数在所述匹配的特征点对集合中剔除误匹配的特征点,得到待优化的特征点集合;
步骤7:利用距离信息和位置信息对所述待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;
步骤8:采用随机抽样一致性算法,对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;
步骤9:利用所述最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。
可选的,所述根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间包括:
根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将预设的马达步数的焦距设置为1个子区间,将焦距区间划分为N个子区间。
可选的,所述建立双光相机不同焦距的变换矩阵参数库包括:
将每个子区间的子矩阵按序拼接为变换矩阵;
将红外图像的每个像素点位置信息以及与该像素点匹配的光学图像的像素点位置信息代入所述变换矩阵,得到变换矩阵参数库。
可选的,所述步骤3包括:
使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的第一特征点集合和红外图像的第二特征点集合。
可选的,所述使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的特征点集合和红外图像的特征点集合的步骤包括:
步骤41:在所述多源图像中,使用Harris角点检测算法,设置局部窗口沿任意方向移动;
步骤42:当局部窗口内的超过预设数量的像素点的灰度值发生变化时,则该局部窗口内包含特征点,当局部窗口内的超过预设数量的像素点的灰度值不发生变化时,则该局部窗口内不包含特征点;
步骤43:针对光学图像,将该光学图像中包含特征点的局部窗口内提取特征点,组成第一特征点集合,以及针对红外图像,将该红外图像中包含特征点的局部窗口内提取特征点组成第二特征点集合。
可选的,所述步骤6包括:
步骤61:将红外图像第一参数变换矩阵进行变换获得变换后的红外图像;
步骤62:基于变化后的红外图像光学图像匹配的特征点之间距离信息,计算匹配的特征点之间的误差值;
步骤63:如果误差值小于预设的误差阈值,则将匹配的特征点对保留,如果误差值大于预设的误差阈值,则剔除误匹配的特征点。
可选的,所述步骤7包括:
步骤71a:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是一对多时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72a:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73a:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第一目标特征点对保留,并组成最优匹配的特征点对集合。
可选的,所述步骤7包括:
步骤71b:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对一时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72b:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73b:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第二目标特征点对保留,并组成最优匹配的特征点对集合。
可选的,所述步骤7包括:
步骤71c:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对多时,将第一特征点组成第一集合;
步骤72c:将目标集合中的第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤73c:确定变换后的第一特征点匹配的多个第二特征点组成第二集合;
步骤74c:计算变换后的第一特征点与第二集合中每个第二特征点之间的距离信息误差值,将距离误差值最小的第二特征点与第一特征点保留。
步骤75c:针对第一集合中的第一特征点重复步骤72c至步骤74c,获得第三集合;
其中,所述第三集合中的第一特征点与第二特征点是一对多或一对一的关系;
步骤76c:当所述第三集合中的第一特征点与第二特征点是一对多的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤77c:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤78c:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第三目标特征点对保留,并组成最优匹配的特征点对集合;
步骤79c:当所述第三集合中的第一特征点与第二特征点是一对一的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤80c:计算变换后的第一特征点与第二特征点之间的欧氏距离;
步骤81c:将所述满足欧式距离小于预设的距离阈值的第一特征点与第二特征点作为第四目标特征点对保留,并组成最优匹配的特征点对集合;
可选的,所述步骤8包括:
S81:从最优匹配的特征点对集合中随机选出3组初始匹配的特征点对构成初始样本;
S82:利用初始样本,计算多源图像的变换参数矩阵M;
S83:利用光学图像的变换参数矩阵M对该光学图像的特征点进行变换,以及利用红外图像的变换参数矩阵M对该光学图像的特征点进行变换,计算最优匹配的特征点对集合中一对匹配特征点之间的距离;
S84:判断每一对匹配特征点之间的距离是否不小于距离阈值,如果是则将该特征点对确定为局内点,如果否则将该特征点对确定为局外点;
S85:通过迭代寻优的方式,遍历所有初始样本,选取局内点数量最多的一个初始样本作为最优样本;
S86:将局内点作为正确匹配的特征点对加入最优样本;
S87:确定所述最优样本的参数,组成最优配准参数模型。
本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法,通过建立不同焦距的变换矩阵参数库,对多源图像进行角点检测,获得第一特征点集合以及第二特征点集合,利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合,进一步对集合剔除误匹配的特征点,得到待优化的特征点集合;利用距离信息和位置信息对待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;利用最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。相比于现有技术,可以在配准精度达到亚像素级的前提下,提升配准效率。以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
图1为本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法的流程图;
图2为本发明实施例提供的一种云台控制软件界面的示意图;
图3a为本发明实施例提供的大楼的光学图像;
图3b为本发明实施例提供的大楼的红外图像;
图4a为本发明实施例提供的一种角点检测光学图像的效果图;
图4b为本发明实施例提供的一种角点检测红外图像的效果图;
图5a为本发明实施例提供的在直线上检测角点的示意图;
图5b为本发明实施例提供的在平坦区域上检测的示意图;
图5c为本发明实施例提供的在角点位置上检测角点的示意图;
图6为本发明实施例提供的初始匹配图像的示意图;
图7为本发明实施例提供的用对应焦距的变换矩阵处理图像的效果图;
图8为本发明实施例提供的得到最优配准参数模型的效果图;
图9a为本发明实施例提供的配准结果图;
图9b为本发明实施例提供的叠加显示的效果图。
具体实施方式
下面结合具体实施例对本发明做进一步详细的描述,但本发明的实施方式不限于此。
实施例一
如图1所示,本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法包括:
S1:根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间,建立双光相机不同焦距的变换矩阵参数库;
其中,双光相机量化焦距步长内近似不变性特征是指,红外相机和光学相机的焦距在很小范围内变化时,由红外图像变换到光学图像的变换模型矩阵参数在10个像素误差范围内可以用同一个变换矩阵参数表示。
S2:获取多源图像以及拍摄该多源图像时的焦距;
其中,所述多源图像包括:光学图像和红外图像。
S3:使用Harris角点检测算法,对所述多源图像进行角点检测,获得光学图像的第一特征点集合以及红外图像的第二特征点集合;
S4:利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合;
S5:在所述变换矩阵参数库中,确定所述焦距所在区间的目标变换矩阵参数;
S6:使用所述目标变换矩阵参数在所述匹配的特征点对集合中剔除误匹配的特征点,得到待优化的特征点集合;
S7:利用距离信息和位置信息对所述待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;
S8:采用随机抽样一致性算法,对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;
S9:利用所述最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。
本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法,通过建立不同焦距的变换矩阵参数库,对多源图像进行角点检测,获得第一特征点集合以及第二特征点集合,利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合,进一步对集合剔除误匹配的特征点,得到待优化的特征点集合;利用距离信息和位置信息对待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;利用最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。相比于现有技术,可以在配准精度达到亚像素级的同时,提升配准效率。
实施例二
作为本发明一种可选的实施例,所述根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间包括:
根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将预设的马达步数的焦距设置为1个子区间,将焦距区间划分为N个子区间。
可以理解,将焦距区间划分成N个子区间是指,根据不同应用场景,每5-15个马达步数的焦距设置为1个子区间。
实施例三
作为本发明可选的一种实施例,所述建立双光相机不同焦距的变换矩阵参数库包括:
步骤a:将每个子区间的子矩阵按序拼接为变换矩阵;
步骤b:将红外图像的每个像素点位置信息以及与该像素点匹配的光学图像的像素点位置信息代入所述变换矩阵,得到变换矩阵参数库。
其实际实施过程如下:
参考图2,图2为云台控制软件的界面图;首先固定好双光相机,通过云台控制软件调整相机的拍摄角度,确定拍摄过程中相机具有良好的视角。
通过云台控制软件在马达步数(控制焦距)751到-37范围内,每间隔8个马达步数固定焦距,拍摄特征明显的光学和红外图像,如果拍摄的图像模糊时,采用云台控制软件的“添加”按钮设定焦距进行补拍,“添加”按钮主要功能是当自动拍照拍摄的图像模糊时,可以输入相应的焦距,然后点击“添加”按钮就会拍摄对应焦距的图像。保证每组图像清晰且特征易于提取。用MATLAB软件利用基于特征点的图像配准方法求取对应焦距的变换模型参数。变换模型参数进行图像配准,通过均方根误差定量对配准精度进行分析,如果配准精度达到要求则保存该焦距对应的变换矩阵参数。反之,采用云台控制软件的“添加”按钮设定焦距进行补拍,再计算其变换模型矩阵参数,最终建立不同焦距对应的变换矩阵参数库。
如图3a和3b所示,光学图像大小为1920′1080像素,红外图像大小为640′480像素。获取相机拍摄图像时的焦距,然后调用变换模型矩阵参数库找出对应焦距所在区间的变换矩阵参数。
利用特征描述序列建立初始匹配关系(变换矩阵),实现多源图像初始配准。变换矩阵及其参数如下:
kx表示沿x轴方向红外图像变换到光学图像的放大倍数,ky表示沿y轴方向红外图像变换到光学图像的放大倍数;θ代表红外图像变换到光学图像的旋转角度;sx,sy为分别沿x、y轴红外图像变换到光学图像的平移的像素点数。
变换矩阵是把一个二维坐标系转换到另一个二维坐标系的对应关系,转换过程坐标点的相对位置和属性不发生变换,即:
x'=kx cosθ·x-ky sinθ·y+sx
y'=kx sinθ·x+ky cosθ·y+sy
上述是一个线性变换,该过程只发生旋转和平移过程。图像配准就是将不同时间、不同传感器(成像设备)或不同条件下(天候、照度、摄像位置和角度等)获取的两幅或多幅图像通过变换矩阵进行匹配、叠加的过程。
将变换矩阵按行优先的方法排列,其中部分焦距变换参数表请参见表1所示。
表1不同焦距变换矩阵部分参数表
表1是建立的双光相机变换参数模型库中的一部分,这些配准参数是以8个马达步数为步长建立的双光相机矩阵参数,从表中可以看出相邻序号的配准参数的误差都在10个像素的误差范围内。
实施例四
作为本发明可选的一种实施例,所述S3包括:
使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的第一特征点集合和红外图像的第二特征点集合。
其中,利用用Harris角点检测算法通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,对输入的光学和红外图像进行角点检测,得到光学和红外特征点集合。利用Harris角点检测算法提取的角点结果图,如图4a和4b所示,光学图像所提取的角点数量明显多于和红外图像角点数量,两幅图像在大楼棱角明显的地方均提取出了特征点。由于分辨率、成像原理和拍摄环境等因素的影响,在红外图像中的某些地方存在角点漏检的情况,但已经检测出足够数量的角点,不影响后续配准。
实施例五
作为本发明可选的一种实施例,所述使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的特征点集合和红外图像的特征点集合的步骤包括:
步骤41:在所述多源图像中,使用Harris角点检测算法,设置局部窗口沿任意方向移动;
步骤42:当局部窗口内的超过预设数量的像素点的灰度值发生变化时,则该局部窗口内包含特征点,当局部窗口内的超过预设数量的像素点的灰度值不发生变化时,则该局部窗口内不包含特征点;
步骤43:针对光学图像,将该光学图像中包含特征点的局部窗口内提取特征点,组成第一特征点集合,以及针对红外图像,将该红外图像中包含特征点的局部窗口内提取特征点组成第二特征点集合。
请参见图5a,当且仅当局部搜索窗口沿着某一方向移动时,窗口中图像的灰度值没有明显改变,沿着其它任意方向移动时窗口中图像的灰度值均发生明显变化,则局部窗口遇到了直线段。请参见图5b,如果局部搜索窗口沿着任意方向移动,窗口中图像的灰度值基本不变,则窗口内是平坦区域。请参见图5c,如果局部搜索窗口沿着任何方向移动时,灰度值均发生显著变化,则该局部窗口内含有角点。
实施例六
作为本发明一种可选的实施例,所述S6包括:
步骤61:将红外图像第一参数变换矩阵进行变换获得变换后的红外图像;
步骤62:基于变化后的红外图像光学图像匹配的特征点之间距离信息,计算匹配的特征点之间的误差值;
步骤63:如果误差值小于预设的误差阈值,则将匹配的特征点对保留,如果误差值大于预设的误差阈值,则剔除误匹配的特征点。
利用特征点集合对光学和红外图像进行初步匹配,得到匹配特征点对的映射关系,有一对一,一对多,多对一和多对多。
初始匹配图像如图6所示,可以看出图像中有许多误匹配的角点和一些无关角点,需要对这些误匹配的角点进行剔除来提高图像配准的精度。
使用对应焦距下的变换矩参数对初始匹配后的误匹配角点进行剔除。设定一个误差阈值,将红外特征点用变换矩阵进行变换,求取它和光学图像中对应匹配特征点的距离信息误差值,如果误差值小于阈值,则保留。如果误差值大于阈值,则剔除误匹配的特征点,实现误匹配的特征点对的第一次剔除。结果如图7所示。由处理结果可以看出,因为该变换是仿射变换,对应点的连线相互平行,说明保留下角点对是精确的特征点对集合,剔除了许多误匹配的角点和无关角点,节约了大量时间。
实施例七
作为本发明可选的一种实施例,所述S7包括:
步骤71a:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是一对多时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72a:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73a:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第一目标特征点对保留,并组成最优匹配的特征点对集合。
可以理解,根据特征点对的大小要求,对第一次剔除后的匹配的特征点中一对多、多对一和多对多的特征点对中误匹配点对进行第二次剔除。
对于一对多,将红外特征点用变换矩阵进行变换,求取它和光学图像中对应的多个匹配特征点的距离信息误差值,保留其中误差值最小的光学图像特征点,剔除非误差值最小的光学特征点,使一对多对应变成一对一对应,再求取这一对一特征点对的欧氏距离,如果欧氏距离小于等于7个像素点则保留,否则剔除。
实施例八
作为本发明可选的一种实施例,所述S7包括:
步骤71b:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对一时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72b:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73b:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第二目标特征点对保留,并组成最优匹配的特征点对集合。
对于多对一,将多个红外特征点分别用变换矩阵进行变换,分别求取它们和光学图像中对应的匹配特征点的距离信息误差值,保留其中误差值最小的红外图像特征点,剔除非误差值最小的红外特征点,使一对多对应变成一对一对应,再求取这一对一特征点对的欧氏距离,如果欧氏距离小于等于7个像素点则保留,否则剔除。
实施例九
作为本发明可选的一种实施例,所述S7包括:
步骤71c:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对多时,将第一特征点组成第一集合;
步骤72c:将目标集合中的第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤73c:确定变换后的第一特征点匹配的多个第二特征点组成第二集合;
步骤74c:计算变换后的第一特征点与第二集合中每个第二特征点之间的距离信息误差值,将距离误差值最小的第二特征点与第一特征点保留。
步骤75c:针对第一集合中的第一特征点重复步骤72c至步骤74c,获得第三集合;
其中,所述第三集合中的第一特征点与第二特征点是一对多或一对一的关系;
步骤76c:当所述第三集合中的第一特征点与第二特征点是一对多的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤77c:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤78c:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第三目标特征点对保留,并组成最优匹配的特征点对集合;
步骤79c:当所述第三集合中的第一特征点与第二特征点是一对一的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤80c:计算变换后的第一特征点与第二特征点之间的欧氏距离;
步骤81c:将所述满足欧式距离小于预设的距离阈值的第一特征点与第二特征点作为第四目标特征点对保留,并组成最优匹配的特征点对集合;
对于多对多,将被光学特征点对应次数超过一次的红外特征点集合A找到,对A中每个元素a1、a2、a3……分别用变换矩阵进行变换,分别找到A中每个元素和光学图像中对应的匹配特征点集合B1、B2、B3……。对B1中每个元素分别求与其对应的元素a1的距离信息误差值,保留B1中距离信息误差值最大的那个元素。对于B2、B3……采取和对B1相同的做法,对于遍历完B1、B2、B3……,从没有被保留过的光学特征点进行剔除。
使多对多对应变成一对一对应和一对多对应的集合C。对于集合C中的每个一对一对应的特征点对计算其欧氏距离,如果欧氏距离小于等于7个像素点则保留,否则剔除。对于集合C中每个一对多对应的特征点对,进行上述一对多的剔除办法进行剔除。
实施例八
作为本发明可选的一种实施例,所述S8包括:
S81:从最优匹配的特征点对集合中随机选出3组初始匹配的特征点对构成初始样本;
S82:利用初始样本,计算多源图像的变换参数矩阵M;
S83:利用光学图像的变换参数矩阵M对该光学图像的特征点进行变换,以及利用红外图像的变换参数矩阵M对该光学图像的特征点进行变换,计算最优匹配的特征点对集合中一对匹配特征点之间的距离;
S84:判断每一对匹配特征点之间的距离是否不小于距离阈值,如果是则将该特征点对确定为局内点,如果否则将该特征点对确定为局外点;
S85:通过迭代寻优的方式,遍历所有初始样本,选取局内点数量最多的一个初始样本作为最优样本;
S86:将局内点作为正确匹配的特征点对加入最优样本;
S87:确定所述最优样本的参数,组成最优配准参数模型。
如图8所示,采用随机抽样一致性算法(RANSAC)对距离和位置信息约束后的匹配特征点对进行迭代拟合,减小控制点估计误差,得到精确稳健的最优配准参数模型。
可以理解,按照本发明提供的图像配准方法对红外图像以及光学图像进行图像配准后,配准结果如图9a所示,叠加显示结果如图9b所示。由叠加显示图可以看出红外图像和光学图像的大楼柱子、屋顶、建筑的顶点已经完全对齐,没有出现错位和虚影的情况。因此可以认为红外图像和光学图像达到了比较好配准效果。
为了更加精确的分析和评估该方法的配准效果,使用均方根误差的方法对红外和光学图像的配准精度进行评估。从红外图像和光学图像中随机挑选10组控制点对,计算这些控制点对之间的均方根误差RMSE。通过计算可得均方根误差RMSE=0.5957,说明配准精度达到了亚像素级,验证了该配准方法的有效性。而且由于利用了变换矩阵模型库剔除了大量误匹配的角点和无关角点,在配准精度相同达到亚像素级配准的情况下,将配准时间由原来的1分钟缩短到20秒左右。另外,整个配准过程无需人工参与,实现了自动化多源图像配准。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触,也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且,第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方,或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。此外,本领域的技术人员可以将本说明书中描述的不同实施例或示例进行接合和组合。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (5)
1.一种基于双光相机不同焦距变换参数的多源图像配准方法,其特征在于,所述多源图像配准方法包括:
步骤1:根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间,建立双光相机不同焦距的变换矩阵参数库;
步骤2:获取多源图像以及拍摄该多源图像时的焦距,所述多源图像包括:光学图像和红外图像;
步骤3:使用Harris角点检测算法,对所述多源图像进行角点检测,获得光学图像的第一特征点集合以及红外图像的第二特征点集合;
步骤4:利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合;
步骤5:在所述变换矩阵参数库中,确定所述焦距所在区间的目标变换矩阵参数;
步骤6:使用所述目标变换矩阵参数在所述匹配的特征点对集合中剔除误匹配的特征点,得到待优化的特征点集合;
步骤7:利用距离信息和位置信息对所述待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;
步骤8:采用随机抽样一致性算法,对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;
步骤9:利用所述最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像;
所述根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间包括:
根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将预设的马达步数的焦距设置为1个子区间,将焦距区间划分为N个子区间;
所述建立双光相机不同焦距的变换矩阵参数库包括:
将每个子区间的子矩阵按序拼接为变换矩阵;
将红外图像的每个像素点位置信息以及与该像素点匹配的光学图像的像素点位置信息代入所述变换矩阵,得到变换矩阵参数库;
所述步骤7包括三种方案,分别为:
第一种:
步骤71a:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是一对多时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72a:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73a:将同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第一目标特征点对保留,并组成最优匹配的特征点对集合;
第二种:
步骤71b:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对一时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72b:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73b:将同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第二目标特征点对保留,并组成最优匹配的特征点对集合;
第三种:
步骤71c:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对多时,将第一特征点组成第一集合;
步骤72c:将目标集合中的第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤73c:确定变换后的第一特征点匹配的多个第二特征点组成第二集合;
步骤74c:计算变换后的第一特征点与第二集合中每个第二特征点之间的距离信息误差值,将距离误差值最小的第二特征点与第一特征点保留;
步骤75c:针对第一集合中的第一特征点重复步骤72c至步骤74c,获得第三集合;
其中,所述第三集合中的第一特征点与第二特征点是一对多或一对一的关系;
步骤76c:当所述第三集合中的第一特征点与第二特征点是一对多的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤77c:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤78c:将同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第三目标特征点对保留,并组成最优匹配的特征点对集合;
步骤79c:当所述第三集合中的第一特征点与第二特征点是一对一的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤80c:计算变换后的第一特征点与第二特征点之间的欧氏距离;
步骤81c:将所述满足欧式距离小于预设的距离阈值的第一特征点与第二特征点作为第四目标特征点对保留,并组成最优匹配的特征点对集合。
2.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤3包括:
使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的第一特征点集合和红外图像的第二特征点集合。
3.根据权利要求2所述的多源图像配准方法,其特征在于,所述使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的特征点集合和红外图像的特征点集合的步骤包括:
步骤41:在所述多源图像中,使用Harris角点检测算法,设置局部窗口沿任意方向移动;
步骤42:当局部窗口内的超过预设数量的像素点的灰度值发生变化时,则该局部窗口内包含特征点,当局部窗口内的超过预设数量的像素点的灰度值不发生变化时,则该局部窗口内不包含特征点;
步骤43:针对光学图像,将该光学图像中包含特征点的局部窗口内提取特征点,组成第一特征点集合,以及针对红外图像,将该红外图像中包含特征点的局部窗口内提取特征点组成第二特征点集合。
4.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤6包括:
步骤61:将红外图像第一参数变换矩阵进行变换获得变换后的红外图像;
步骤62:基于变化后的红外图像光学图像匹配的特征点之间距离信息,计算匹配的特征点之间的误差值;
步骤63:如果误差值小于预设的误差阈值,则将匹配的特征点对保留,如果误差值大于预设的误差阈值,则剔除误匹配的特征点。
5.根据权利要求1 所述的多源图像配准方法,其特征在于,所述步骤8包括:
S81:从最优匹配的特征点对集合中随机选出3组初始匹配的特征点对构成初始样本;
S82:利用初始样本,计算多源图像的变换参数矩阵M;
S83:利用光学图像的变换参数矩阵M对该光学图像的特征点进行变换,以及利用红外图像的变换参数矩阵M对该光学图像的特征点进行变换,计算最优匹配的特征点对集合中一对匹配特征点之间的距离;
S84: 判断每一对匹配特征点之间的距离是否不小于距离阈值,如果是则将该特征点对确定为局内点,如果否则将该特征点对确定为局外点;
S85:通过迭代寻优的方式,遍历所有初始样本,选取局内点数量最多的一个初始样本作为最优样本;
S86:将局内点作为正确匹配的特征点对加入最优样本;
S87:确定所述最优样本的参数,组成最优配准参数模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011375819.8A CN112541932B (zh) | 2020-11-30 | 2020-11-30 | 基于双光相机不同焦距变换参数的多源图像配准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011375819.8A CN112541932B (zh) | 2020-11-30 | 2020-11-30 | 基于双光相机不同焦距变换参数的多源图像配准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112541932A CN112541932A (zh) | 2021-03-23 |
CN112541932B true CN112541932B (zh) | 2024-03-26 |
Family
ID=75016778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011375819.8A Active CN112541932B (zh) | 2020-11-30 | 2020-11-30 | 基于双光相机不同焦距变换参数的多源图像配准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112541932B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114205519A (zh) * | 2021-11-09 | 2022-03-18 | 南京泰立瑞信息科技有限公司 | 一种放大成像***的快速齐焦方法及装置 |
CN114143459A (zh) * | 2021-11-26 | 2022-03-04 | 中国电子科技集团公司第五十四研究所 | 一种适用于大变焦摄像头的视频消抖方法 |
CN116523982B (zh) * | 2023-05-12 | 2024-05-03 | 北京长木谷医疗科技股份有限公司 | 基于相似度兼容性度量的稀疏点云配准方法及装置 |
CN116612441B (zh) * | 2023-07-21 | 2023-09-22 | 山东科技大学 | 一种基于矿井排粉图像识别的钻孔防卡方法、设备及介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6738532B1 (en) * | 2000-08-30 | 2004-05-18 | The Boeing Company | Image registration using reduced resolution transform space |
CN103106688A (zh) * | 2013-02-20 | 2013-05-15 | 北京工业大学 | 基于双层配准方法的室内三维场景重建方法 |
CN103856727A (zh) * | 2014-03-24 | 2014-06-11 | 北京工业大学 | 一种多路实时视频拼接处理*** |
WO2015096806A1 (zh) * | 2013-12-29 | 2015-07-02 | 刘进 | 智能机姿态测定、全景影像生成及目标识别方法 |
WO2015103621A1 (en) * | 2014-01-06 | 2015-07-09 | Oculus Vr, Llc | Calibration of virtual reality systems |
CN106447704A (zh) * | 2016-10-13 | 2017-02-22 | 西北工业大学 | 基于显著区域特征和边缘度的可见光‑红外图像配准方法 |
CN106960449A (zh) * | 2017-03-14 | 2017-07-18 | 西安电子科技大学 | 基于多特征约束的异源配准方法 |
CN106981077A (zh) * | 2017-03-24 | 2017-07-25 | 中国人民解放军国防科学技术大学 | 基于dce和lss的红外图像和可见光图像配准方法 |
CN107993258A (zh) * | 2017-11-23 | 2018-05-04 | 浙江大华技术股份有限公司 | 一种图像配准方法及装置 |
CN110310310A (zh) * | 2019-03-27 | 2019-10-08 | 南京航空航天大学 | 一种针对航空影像配准的改进方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8199248B2 (en) * | 2009-01-30 | 2012-06-12 | Sony Corporation | Two-dimensional polynomial model for depth estimation based on two-picture matching |
-
2020
- 2020-11-30 CN CN202011375819.8A patent/CN112541932B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6738532B1 (en) * | 2000-08-30 | 2004-05-18 | The Boeing Company | Image registration using reduced resolution transform space |
CN103106688A (zh) * | 2013-02-20 | 2013-05-15 | 北京工业大学 | 基于双层配准方法的室内三维场景重建方法 |
WO2015096806A1 (zh) * | 2013-12-29 | 2015-07-02 | 刘进 | 智能机姿态测定、全景影像生成及目标识别方法 |
WO2015103621A1 (en) * | 2014-01-06 | 2015-07-09 | Oculus Vr, Llc | Calibration of virtual reality systems |
CN103856727A (zh) * | 2014-03-24 | 2014-06-11 | 北京工业大学 | 一种多路实时视频拼接处理*** |
CN106447704A (zh) * | 2016-10-13 | 2017-02-22 | 西北工业大学 | 基于显著区域特征和边缘度的可见光‑红外图像配准方法 |
CN106960449A (zh) * | 2017-03-14 | 2017-07-18 | 西安电子科技大学 | 基于多特征约束的异源配准方法 |
CN106981077A (zh) * | 2017-03-24 | 2017-07-25 | 中国人民解放军国防科学技术大学 | 基于dce和lss的红外图像和可见光图像配准方法 |
CN107993258A (zh) * | 2017-11-23 | 2018-05-04 | 浙江大华技术股份有限公司 | 一种图像配准方法及装置 |
CN110310310A (zh) * | 2019-03-27 | 2019-10-08 | 南京航空航天大学 | 一种针对航空影像配准的改进方法 |
Non-Patent Citations (5)
Title |
---|
"The Study of the Object Depth Estimation Based on Point Pair Features on Images";Jun-Jie Hu等;《2019 20th IEEE/ACIS International Conference on Software Engineering, Artificial Intelligence, Networking and Parallel/Distributed Computing》;20191219;全文 * |
"红外图像配准技术在电力设备故障检测中的研究与应用";郭晓杰;《中国优秀硕士学位论文全文数据库》;20080915;全文 * |
基于轮廓多边形拟合的红外与可见光图像配准算法;李振华;江耿红;徐胜男;刘允刚;;***工程与电子技术;20151231(12);全文 * |
相机移动场景下的多曝光图像融合***设计;孙艳艳;董峰;龚惠兴;;电子设计工程;20160620(12);全文 * |
结合FAST-SURF和改进k-d树最近邻查找的图像配准;陈剑虹;韩小珍;;西安理工大学学报;20160630(02);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112541932A (zh) | 2021-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112541932B (zh) | 基于双光相机不同焦距变换参数的多源图像配准方法 | |
CN112802124B (zh) | 多台立体相机的标定方法及装置、电子设备及存储介质 | |
WO2021004416A1 (zh) | 一种基于视觉信标建立信标地图的方法、装置 | |
CN106504290B (zh) | 一种高精度的摄像机动态标定方法 | |
CN107633536A (zh) | 一种基于二维平面模板的相机标定方法及*** | |
CN109211198B (zh) | 一种基于三目视觉的智能目标检测和测量***和方法 | |
CN112132874B (zh) | 无标定板异源图像配准方法、装置、电子设备及存储介质 | |
Wang et al. | Recognition and location of the internal corners of planar checkerboard calibration pattern image | |
CN112184711A (zh) | 一种光伏组件缺陷检测和定位方法及*** | |
CA2507174A1 (en) | Method of registering and aligning multiple images | |
CN111784778A (zh) | 基于线性求解非线性优化的双目相机外参标定方法和*** | |
CN112489137A (zh) | 一种rgbd相机标定方法及*** | |
CN109308715A (zh) | 一种基于点特征和线特征结合的光学图像配准方法 | |
CN113890955A (zh) | 一种多套拍照式扫描仪的扫描方法、装置和*** | |
CN114529615B (zh) | 雷达标定方法、装置及存储介质 | |
CN107067441B (zh) | 摄像机标定方法及装置 | |
CN112489141B (zh) | 车载摄像头单板单图带中继镜的产线标定方法及装置 | |
CN112164119B (zh) | 一种适用于狭小空间的环绕放置多摄像机***标定方法 | |
CN111968182B (zh) | 一种双目相机非线性模型参数的标定方法 | |
CN112507755A (zh) | 最小化二维码角点重投影误差的目标物体六自由度定位方法及*** | |
CN116862984A (zh) | 一种相机的空间位姿估计方法 | |
CN104484647B (zh) | 一种高分辨率遥感图像云高度检测方法 | |
CN108898585B (zh) | 一种轴类零件检测方法及其装置 | |
CN116205993A (zh) | 一种用于3d aoi的双远心镜头高精度标定方法 | |
CN116912333B (zh) | 一种基于作业围栏标定杆的相机姿态自标定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |