CN114332183A - 图像配准方法、装置、计算机设备和存储介质 - Google Patents
图像配准方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN114332183A CN114332183A CN202110913481.5A CN202110913481A CN114332183A CN 114332183 A CN114332183 A CN 114332183A CN 202110913481 A CN202110913481 A CN 202110913481A CN 114332183 A CN114332183 A CN 114332183A
- Authority
- CN
- China
- Prior art keywords
- image
- candidate
- matched
- transformation
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 77
- 238000003860 storage Methods 0.000 title claims abstract description 19
- 230000009466 transformation Effects 0.000 claims abstract description 481
- 238000012545 processing Methods 0.000 claims abstract description 80
- 238000012216 screening Methods 0.000 claims abstract description 50
- 238000004590 computer program Methods 0.000 claims description 20
- 230000001131 transforming effect Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000007689 inspection Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000010339 dilation Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 241000023320 Luma <angiosperm> Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000012372 quality testing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
Abstract
本申请涉及一种图像配准方法、装置、计算机设备和存储介质。所述方法包括:对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;获取参考图像,并确定所述参考图像中的至少两个局部特征区域;从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。采用本方法能够提高图像配准的准确性。
Description
技术领域
本申请涉及计算机技术领域,特别是涉及一种图像配准方法、装置、计算机设备和存储介质。
背景技术
随着计算机技术的发展,出现了图像配准技术。图像配准(Image registration)就是将不同时间、不同成像设备或不同条件下(例如气候、照度、摄像位置和角度等)获取的两幅或多幅图像进行匹配、叠加的过程,它已经被广泛地应用于遥感数据分析、计算机视觉、图像处理等领域。
然而,传统的图像配准方法在图像特征比较接近、图像模糊或特征点十分集中时容易匹配错误,从而导致图像的配准不够准确。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高准确性的图像配准方法、装置、计算机设备和存储介质。
一种图像配准方法,所述方法包括:
对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;
获取参考图像,并确定所述参考图像中的至少两个局部特征区域;
从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;
根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;
基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。
一种图像配准装置,所述装置包括:
变换模块,用于对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;
获取模块,用于获取参考图像,并确定所述参考图像中的至少两个局部特征区域;
筛选模块,用于从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;
确定模块,用于根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;
配准模块,用于基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。
在一个实施例中,所述变换模块,还用于获取多种变换方式分别对应的图像变换参数,所述图像变换参数包括旋转参数和缩放参数中的至少一种;基于各所述图像变换参数分别对所述待配准图像进行图像变换处理,得到多张待匹配图像。
在一个实施例中,所述获取模块,还用于获取参考图像,通过至少两个参考框对所述参考图像进行划分,得到每个参考框中所包含的局部特征区域;
所述筛选模块,还用于针对每张待匹配图像,在所述待匹配图像中确定与每个所述参考框对应的候选框,并对所述候选框进行外扩处理;对于每个外扩后的候选框,在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的区域,作为与所述局部特征区域相匹配的候选区域。
在一个实施例中,所述筛选模块,还用于通过所述参考框中的局部特征区域,对相应的外扩后的候选框中的区域进行遍历,并在每次遍历中确定所遍历的区域对应的置信度;将满足置信度条件的置信度所对应的区域,作为与所述局部特征区域相匹配的候选区域。
在一个实施例中,所述筛选模块,还用于对于每张待匹配图像,均从相应待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并确定各个候选区域所对应的候选相似度;基于每张待匹配图像所包括的各候选区域的候选相似度,从所述待匹配图像中筛选出目标匹配图像。
在一个实施例中,所述筛选模块,还用于对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度;当各所述目标相似度所对应的候选区域处于同一待匹配图像中时,将所述同一待匹配图像作为目标匹配图像;当各所述目标相似度所对应的候选区域处于不同的待匹配图像中时,确定所述不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标图像。
在一个实施例中,所述确定模块,还用于确定所述至少两个局部特征区域中每个局部特征区域的参考中心点,以及所述目标匹配图像中每个候选区域的候选中心点;将每个所述局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并基于所述匹配点对确定所述参考图像和所述待配准图像之间的目标变换参数。
在一个实施例中,所述确定模块,还用于获取与所述目标匹配图像对应的变换方式所对应的目标图像变换参数;基于所述目标图像变换参数对所述目标匹配图像进行图像逆变换处理,得到逆变换图像;根据所述匹配点对中的候选中心点在所述逆变换图像中的位置,与相应的局部特征区域中参考中心点在所述参考图像中的位置,确定所述参考图像和所述待配准图像之间的目标变换参数。
在一个实施例中,所述确定模块,还用于将各匹配点对进行组合,每个组合中包括至少两个匹配点对;对于每个组合,根据组合中所包括的匹配点对,计算所述参考图像和所述待配准图像之间的组合变换参数,得到每个组合分别对应的组合变换参数;对于每个组合变换参数,确定所述组合变换参数是否适用于在相应组合之外的其他匹配点对,以得到各个组合变换参数分别对应的第一适用数量;将满足第一预设数量条件的第一适用数量所对应的组合变换参数,作为所述参考图像和所述待配准图像之间的目标变换参数。
在一个实施例中,所述确定模块,还用于对于每个组合,获取除组合所包括的匹配点对之外的其余匹配点对中候选中心点的位置,并基于相应组合所对应的组合变换参数,对获取的候选中心点进行变换,得到组合变换位置;对于每个组合所对应的各其余匹配点对,分别计算各其余匹配点对中的组合变换位置和相应参考中心点的参考位置之间的第一误差;根据所述第一误差,确定相应组合的组合变换参数所适用的匹配点对的第一适用数量。
在一个实施例中,所述确定模块,还用于从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点对计算所述参考图像和所述待配准图像之间的候选变换参数;确定当次未被选取的匹配点对在所述候选变换参数下所产生的第二误差,根据所述第二误差确定所述候选变换参数所适用的匹配点对的第二适用数量;继续选取至少两个匹配点对,返回所述根据当次所选取的匹配点对计算所述参考图像和所述待配准图像之间的候选变换参数的步骤并继续执行,直至达到预设停止条件时停止,得到每个候选变换参数所对应的第二适用数量;将满足第二预设数量条件的第二适用数量所对应的候选变换参数,作为所述参考图像和所述待配准图像之间的目标变换参数。
在一个实施例中,所述待配准图像和所述参考图像均为同一工业器件的图像;所述参考图像为所述工业器件在调试完成后拍摄的图像,所述参考图像中的至少两个局部特征区域中的每个局部特征区域均具有唯一性。
一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现以下步骤:
对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;
获取参考图像,并确定所述参考图像中的至少两个局部特征区域;
从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;
根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;
基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现以下步骤:
对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;
获取参考图像,并确定所述参考图像中的至少两个局部特征区域;
从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;
根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;
基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。
一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中,计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上以下步骤:对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;获取参考图像,并确定所述参考图像中的至少两个局部特征区域;从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。
上述图像配准方法、装置、计算机设备、存储介质和计算机程序,通过对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像,确定参考图像中的至少两个局部特征区域,以通过参考图像的局部特征区域在待匹配图像中查找相应匹配的候选区域,能够基于图像之间相匹配的区域从多张待匹配图像中准确筛选出与参考图像最相似的目标匹配图像。并且基于图像区域进行筛选,能够有效避免由于单个特征点相似导致匹配不准确的问题,从而能够提高目标匹配图像筛选的准确性。根据目标匹配图像中与至少两个局部特征区域相匹配的候选区域,准确计算出参考图像和待配准图像之间的目标变换参数,使得基于目标变换参数能够更准确地对待配准图像进行配准,从而获得向参考图像进行配准后的图像。
附图说明
图1为一个实施例中图像配准方法的应用环境图;
图2为一个实施例中图像配准方法的流程示意图;
图3为一个实施例中基于每张待匹配图像所包括的各候选区域的候选相似度,从待匹配图像中筛选出目标匹配图像的流程示意图;
图4为另一个实施例中基于匹配点对确定参考图像和待配准图像之间的目标变换参数的流程示意图;
图5为一个实施例中基于匹配点对确定参考图像和待配准图像之间的目标变换参数的流程示意图;
图6为另一个实施例中基于匹配点对确定参考图像和待配准图像之间的目标变换参数的流程示意图;
图7为一个实施例中基于模板匹配的图像配准方法的流程示意图;
图8为一个实施例中参考图像和待匹配图像的对比示意图;
图9为一个实施例中应用于工业质检场景的流程示意图;
图10为一个实施例中图像配准装置的结构框图;
图11为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请涉及人工智能(Artificial Intelligence,AI)技术领域,其中,人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用***。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。本申请实施例提供的方案涉及人工智能的图像配准方法,具体通过如下各实施例进行说明。
本申请提供的图像配准方法,可以应用于如图1所示的图像配准***。如图1所示,该图像配准***包括终端110和服务器120。在一个实施例中,终端110和服务器120均可单独执行本申请实施例中提供的图像配准方法。终端110和服务器120也可协同用于执行本申请实施例中提供的图像配准方法。当终端110和服务器120协同用于执行本申请实施例中提供的图像配准方法时,终端110获取待配准图像和参考图像,将待配准图像和参考图像发送至服务器120。服务器120对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像。服务器120确定参考图像中的至少两个局部特征区域,从各待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据候选区域从待匹配图像中筛选出目标匹配图像。服务器120根据目标匹配图像中与至少两个局部特征区域相匹配的候选区域,确定参考图像和待配准图像之间的目标变换参数。服务器120基于目标变换参数对待配准图像进行配准,得到配准后的图像,将配准后的图像返回至终端120。
其中,服务器120可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式***,还可以是提供云计算服务的云服务器或多个云服务器构成的云服务器集群。终端110可以是智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、车载终端、智能电视等,但并不局限于此。终端110以及服务器120可以通过有线或无线通信方式进行直接或间接地连接,本申请在此不做限制。
在一个实施例中,多个服务器可组成为一区块链,而服务器为区块链上的节点。
在一个实施例中,与该图像配准方法相关的数据可保存于区块链上,例如待配准图像、多种变换方式、待匹配图像、参考图像、目标变换参数和配准后的图像等数据均可保存于区块链上。类似地,与识别模型训练方法相关的数据也可保存于区块链上。
需要说明的是,本申请各实施例中提及的“多个”等的数量均指代“至少两个”的数量,比如,“多种”指的是至少两种,“多张”指的是至少两张,“多个”指的是至少两个。
在一个实施例中,如图2所示,提供了一种图像配准方法,以该方法应用于计算机设备(该计算机设备具体可以是图1中的终端或服务器)为例进行说明,包括以下步骤:
步骤S202,对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像。
其中,待配准图像是需要进行配准的图像,待配准图像可以是RGB(Red,Green,Blue)图像、灰度图像、深度图像、YUV图像中的Y分量所对应的图像等其中的任意一种,但不限于此。其中,YUV图像中的“Y”表示明亮度(Luminance或Luma),也就是灰阶值,“U”和“V”表示的则是色度(Chrominance或Chroma),作用是描述影像色彩及饱和度,用于指定像素的颜色。待配准图像可以是对任意场景拍摄得到的图像,例如可以为人物图像、风景图像或工业器件图像等,但不限于此。
待匹配图像是待配准图像经过变换得到的图像,不同的变换方式可得到不同的待匹配图像。图像变换方式包括旋转变换和尺度变换中的至少一种,通过图像变换可改变待配准图像的方向和尺寸中的至少一种。旋转变换包括不同旋转参数的变换,尺度变换包括不同缩放参数的变换。
具体地,计算机设备可获取待配准图像,并获取至少两个图像变换方式。将待配准图像分别按照每种变换方式进行图像变换处理,得到每种变换方式下对应的待匹配图像。
步骤S204,获取参考图像,并确定参考图像中的至少两个局部特征区域。
其中,参考图像是用于对待配准图像进行配准的对照图像,参考图像和待配准图像均为对同一场景拍摄所得到的图像。参考图像可以是RGB图像、灰度图像、深度图像、YUV图像中的Y分量所对应的图像等其中的任意一种,但不限于此。
具体地,计算机设备获取参考图像,并从该参考图像中选取至少两个局部特征区域。该至少两个局部特征区域中的任意两个局部特征区域之间可存在相同的部分,也可均不相同。
在一个实施例中,可通过终端拍摄一场景得到各帧图像,将第一帧图像作为参考图像,将除第一帧图像以外的其余各帧图像均作为待配准图像。
步骤S206,从各待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据候选区域从待匹配图像中筛选出目标匹配图像。
具体地,计算机设备确定每个待匹配图像中分别与每个局部特征区域相匹配的候选区域后,根据每张待匹配图像中所包含的各候选区域,从多张待匹配图像中筛选出目标匹配图像。
在一个实施例中,计算机设备分别计算每个候选区域与相匹配的局部特征区域之间的相似度,基于相似度从待匹配图像中筛选出目标匹配图像。
步骤S208,根据目标匹配图像中与至少两个局部特征区域相匹配的候选区域,确定参考图像和待配准图像之间的目标变换参数。
具体地,计算机设备根据目标匹配图像中的各个候选区域,和参考图像中的至少两个局部特征区域,从各候选区域中选取特征点,并从相应的局部特征区域中选取特征点,以构成匹配点对。基于所获得的匹配点对,计算参考图像和待配准图像之间的目标变换参数。
步骤S210,基于目标变换参数对待配准图像进行配准,得到配准后的图像。
其中,对齐配准处理是指将两张或多张图像在空间位置的对准,以将不同时间、不同成像设备或不同条件下获取的两幅或多幅图像进行匹配、叠加的过程。
具体地,获得目标变换参数后,计算机设备可获取待配准图像中各像素,基于该目标变换参数将各像素映射至与参考图像相同的图像空间中,得到配准后的图像。
在一个实施例中,计算机设备可从待配准图像中提取特征点,基于该目标变换参数将各特征点映射至与参考图像相同的图像空间中,得到配准后的图像。
在一个实施例中,对参考图像和各待匹配图像分别进行直方图均衡化处理,以增强图像的对比度,有效的提高针对光照变化的鲁棒性。进行直方图均衡化处理后再执行步骤S206及其之后的步骤。
上述的图像配准方法中,通过对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像,确定参考图像中的至少两个局部特征区域,以通过参考图像的局部特征区域在待匹配图像中查找相应匹配的候选区域,能够基于图像之间相匹配的区域从多张待匹配图像中准确筛选出与参考图像最相似的目标匹配图像。并且基于图像区域进行筛选,能够有效避免由于单个特征点相似导致匹配不准确的问题,从而能够提高目标匹配图像筛选的准确性。根据目标匹配图像中与至少两个局部特征区域相匹配的候选区域,准确计算出参考图像和待配准图像之间的目标变换参数,使得基于目标变换参数能够更准确地对待配准图像进行配准,从而获得向参考图像进行配准后的图像。
在一个实施例中,对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像,包括:
获取多种变换方式分别对应的图像变换参数,图像变换参数包括旋转参数和缩放参数中的至少一种;基于各图像变换参数分别对待配准图像进行图像变换处理,得到多张待匹配图像。
其中,图像变换参数包括旋转参数和缩放参数中的至少一种,不同的变换方式对应不同的图像变换参数。例如,旋转参数为缩放参数为图像变换参数可包含旋转参数中的任意一个参数,或者可以包含缩放参数中的任意一个参数,还可包含两者的组合,如图像变换参数包含旋转参数R和缩放参数S。
具体地,计算机设备获取多种变换方式,并获取每种变换方式分别对应的图像变换参数。对于每种变换方式,按照与每种变换方式相应的图像变换参数对待配准图像进行图像变换处理,得到每种图像变换方式分别对应的待匹配图像。
进一步地,对于每种变换方式,计算机设备可获取变换方式对应的旋转参数和缩放参数,按照旋转参数对待配准图像进行旋转变换,再按照该缩放参数对旋转变换后的图像进行尺度变换,得到待配准图像在该变换方式下对应的待匹配图像。按照相同的处理,可得到待配准图像在每种变换方式下分别对应的待匹配图像。
在一个实施例中,对于每种变换方式,计算机设备可获取变换方式对应的旋转参数和缩放参数,按照缩放参数对待配准图像进行尺度变换,再按照该旋转参数对尺度变换后的图像进行旋转变换,得到待配准图像在该变换方式下对应的待匹配图像。按照相同的处理,可得到待配准图像在每种变换方式下分别对应的待匹配图像。
本实施例中,获取多种变换方式分别对应的图像变换参数,图像变换参数包括旋转参数和缩放参数中的至少一种,基于各图像变换参数分别对待配准图像进行图像变换处理,得到待配准图像在发生不同的旋转和不同的缩放后所生成的待匹配图像,能够通过不同旋转和不同缩放下的待匹配图像,了解该待配准图像相对应参考图像所产生的旋转误差和缩放误差,以准确对待配准图像进行配准。
在一个实施例中,获取参考图像,并确定参考图像中的至少两个局部特征区域,包括:
获取参考图像,通过至少两个参考框对参考图像进行划分,得到每个参考框中所包含的局部特征区域;
从各待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,包括:
针对每张待匹配图像,在待匹配图像中确定与每个参考框对应的候选框,并对候选框进行外扩处理;对于每个外扩后的候选框,在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的区域,作为与局部特征区域相匹配的候选区域。
具体地,计算机设备获取参考图像,通过至少两个参考框对参考图像进行划分,得到每个参考框中所包含的局部特征区域。
在一个实施例中,计算机设备可对图像进行主体识别,通过至少两个参考框对识别的主体进行划分,每个参考框中包含该主体的局部特征区域。例如,通过5个参考框将参考图像中的主体进行划分,每个参考框中包含该主体的局部特征区域。
在一个实施例中,各个参考框中所包含的局部特征区域可存在相同的部分。例如,5个参考框中分别包含对应的局部特征区域,第1个参考框中的局部特征区域和第2个参考框中的局部特征区域可存在相同的部分,第3个参考框中的局部特征区域和第2个参考框中的局部特征区域可存在相同的部分。
计算机设备可确定参考图像中每个参考框的位置,对于一张待匹配图像,根据每个参考框的位置,在该待匹配图像中确定与参考框的位置相同的候选框。对待匹配图像中的候选框进行外扩处理,得到外扩后的候选框,以及该外扩后的候选框中所包含的图像区域。对于待匹配图像中的每个外扩后的候选框,将参考框中所包含的局部特征区域在对应的外扩后的候选框中所包含的图像区域上进行遍历,以在该图像区域中查找与局部特征区域相匹配的区域,将所查找到的与局部特征区域相匹配的区域作为该局部特征区域相匹配的候选区域。按照相应的处理方式,可在待匹配图像的每个外扩后的候选框中查找出与相应的参考框所包含的局部特征区域相匹配的候选区域。
在一个实施例中,计算机设备可确定参考图像中每个参考框的坐标,对于一张待匹配图像,根据每个参考框的坐标,在该待匹配图像中确定与参考框的坐标相同的候选框。
对于每张待匹配图像,均按照上述方式进行处理,可得到每张待匹配图像中分别与每个局部特征区域相匹配的候选区域。
本实施例中,获取参考图像,通过至少两个参考框对参考图像进行划分,以通过候选框提取参考图像的各个局部特征区域。针对每张待匹配图像,在待匹配图像中确定与每个参考框对应的候选框,并对候选框进行外扩处理,对于每个外扩后的候选框,从而能够准确在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的候选区域,使得能够通过参考图像的局部特征区域在待匹配图像中查找相应匹配的候选区域,避免直接进行特征点匹配所导致匹配不准确的问题。
在一个实施例中,在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的区域,作为与局部特征区域相匹配的候选区域,包括:
通过参考框中的局部特征区域,对相应的外扩后的候选框中的区域进行遍历,并在每次遍历中确定所遍历的区域对应的置信度;将满足置信度条件的置信度所对应的区域,作为与局部特征区域相匹配的候选区域。
其中,置信度是指局部特征区域所遍历的多个区域中,每个区域与局部特征区域相匹配的可信程度,即每个区域作为候选区域的可信程度。置信度条件可以指置信度最高或者置信度满足置信度阈值等。
具体地,对于每个参考框中的局部特征区域,计算机设备确定与参考框相应的外扩后的候选框,使用该参考框中的局部特征区域在该外扩后的候选框中进行遍历,每次遍历时计算当前所遍历的区域对应的置信度,遍历完成时得到每次遍历的区域分别对应的置信度。计算机设备获取置信度条件,从各个置信度中筛选出满足该置信度条件的目标置信度,将目标置信度所对应的区域作为该局部特征区域相匹配的候选区域。按照相同的处理方式,可确定出每个局部特征区域相匹配的候选区域。
在一个实施例中,计算机设备从各个置信度中筛选出最高的置信度作为目标置信度,将目标置信度所对应的区域作为相应的局部特征区域相匹配的候选区域。
本实施例中,通过参考框中的局部特征区域,对相应的外扩后的候选框中的区域进行遍历,并在每次遍历中确定所遍历的区域对应的置信度,能够将满足置信度条件的置信度所对应的区域,作为与局部特征区域相匹配的候选区域,从而基于置信度准确筛选中与每个局部特征区域最相似的候选区域。
在一个实施例中,从各待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据候选区域从待匹配图像中筛选出目标匹配图像,包括:
对于每张待匹配图像,均从相应待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并确定各个候选区域所对应的候选相似度;基于每张待匹配图像所包括的各候选区域的候选相似度,从待匹配图像中筛选出目标匹配图像。
具体地,对于每张待匹配图像,计算机设备均从待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并计算每个候选区域与相匹配的局部特征区域之间的相似度,得到每个候选区域分别对应的候选相似度。基于每张待匹配图像包括的各候选区域所对应的候选相似度,从待匹配图像中筛选出目标匹配图像。
在一个实施例中,基于每张待匹配图像所包括的各候选区域的候选相似度,从待匹配图像中筛选出目标匹配图像,包括:确定各候选相似度中满足相似度条件的目标相似度,将目标相似度对应的候选区域所在的待匹配图像作为目标匹配图像。
计算机设备从每张待匹配图像包括的各候选区域所对应的候选相似度中,筛选出满足相似度条件的候选相似度作为目标相似度,得到每个局部特征区域分别对应的目标相似度。计算机设备可确定各目标相似度对应的候选区域所在的待匹配图像,将目标相似度对应的候选区域所在的待匹配图像作为目标匹配图像。
在一个实施例中,确定各候选相似度中满足相似度条件的目标相似度,将目标相似度对应的候选区域所在的待匹配图像作为目标匹配图像,包括:对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度;当各目标相似度所对应的候选区域处于同一待匹配图像中时,将同一待匹配图像作为目标匹配图像;当各目标相似度所对应的候选区域处于不同的待匹配图像中时,确定不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标图像。
本实施例中,对于每张待匹配图像,均从相应待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并确定各个候选区域所对应的候选相似度,基于每张待匹配图像所包括的各候选区域的候选相似度,能够从待匹配图像中准确筛选出目标匹配图像,使用图像的区域之间的相似度作为筛选条件,能够进一步提高筛选的准确性。
在一个实施例中,如图3所示,基于每张待匹配图像所包括的各候选区域的候选相似度,从待匹配图像中筛选出目标匹配图像,包括:
步骤S302,对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度。
具体地,对于每个局部特征区域,计算机设备从同一局部特征区域与相匹配的每个候选区域所对应的候选相似度中确定最高相似度,将最高相似度作为该同一局部特征区域对应的目标相似度。按照相同的处理方式,可得到每个局部特征区域分别对应的目标相似度。例如,参考图像有3个局部特征区域,25张待匹配图像中的每张待匹配图像中均有3个对应的候选区域,则每个局部特征区域分别对应25个候选区域,计算每个局部特征区域与对应25个候选区域之间的相似度,从一个局部特征区域对应的25个相似度中选择最高的相似度作为该局部特征区域的目标相似度。
步骤S304,当各目标相似度所对应的候选区域处于同一待匹配图像中时,将同一待匹配图像作为目标匹配图像。
具体地,计算机设备可确定每个目标相似度对应的候选区域所处的待匹配图像。当各目标相似度所对应的候选区域均处于同一待匹配图像中时,将该同一待匹配图像作为目标匹配图像。
步骤S306,当各目标相似度所对应的候选区域处于不同的待匹配图像中时,确定不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标图像。
具体地,当各目标相似度所对应的候选区域处于不同的待匹配图像中时,计算机设备可确定不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量。计算机设备确定出存在目标相似度的数量最高的待匹配图像,将该待匹配图像作为目标图像。
在一个实施中,当各目标相似度所对应的候选区域处于不同的待匹配图像中时,根据每张待匹配图像分别对应的候选相似度,确定同一张图像中各候选相似度的相似度均值,并将相似度均值最高的待匹配图像作为目标图像。
在一个实施中,当各目标相似度所对应的候选区域处于不同的待匹配图像中时,根据每张待匹配图像分别对应的候选相似度,确定同一张图像中各候选相似度的相似度之和,并将相似度之和最高的待匹配图像作为目标匹配图像。
本实施例中,对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度,从而能够筛选出与每个局部特征最相似的候选区域。当各目标相似度所对应的候选区域处于同一待匹配图像中时,将同一待匹配图像作为目标匹配图像,当各目标相似度所对应的候选区域处于不同的待匹配图像中时,确定不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标图像,从而能够在筛选出与局部特征区域最相似的候选区域的基础上,进一步筛选出与参考图像最相似的待匹配图像,通过两次筛选进一步提高目标匹配图像筛选的准确度。
在一个实施例中,根据目标匹配图像中与至少两个局部特征区域相匹配的候选区域,确定参考图像和待配准图像之间的目标变换参数,包括:
确定至少两个局部特征区域中每个局部特征区域的参考中心点,以及目标匹配图像中每个候选区域的候选中心点;将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并基于匹配点对确定参考图像和待配准图像之间的目标变换参数。
具体地,计算机设备确定至少两个局部特征区域中每个局部特征区域的参考中心点,并确定目标匹配图像中的每个候选区域的候选中心点。对于每个局部特征区域,将与局部特征区域相匹配的候选区域对应的候选中心点和该局部特征区域的参考中心点作为匹配点对,得到每个参考中心点相匹配的候选中心点,从而得到至少两个匹配点对。根据至少两个匹配点对计算参考图像和待配准图像之间的目标变换参数。
在一个实施例中,计算机设备将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并确定每个参考中心点在参考图像中的位置,确定每个候选中心点在目标匹配图像中的位置,并基于匹配点对中参考中心点的位置和候选中心点的位置计算参考图像和待配准图像之间的目标变换参数。
在一个实施例中,参考中心点在参考图像中的位置可以是参考中心点在参考图像中的坐标,候选中心点在目标匹配图像中的位置可以是候选中心点在目标匹配图像中的坐标。
本实施例中,确定至少两个局部特征区域中每个局部特征区域的参考中心点,以及目标匹配图像中每个候选区域的候选中心点,将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并基于匹配点对确定参考图像和待配准图像之间的目标变换参数,能够避免由于在区域中的各特征点比较相似的情况下直接自动生成特征点后所导致的误匹配问题。并且,选择区域的中心点作为匹配点对,既能够准确获得匹配点对,又能够减少匹配点对数量,提高计算效率。
在一个实施例中,如图4所示,在将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对之后,还包括步骤S402至步骤S404:
步骤S402,获取与目标匹配图像对应的变换方式所对应的目标图像变换参数。
其中,目标图像变换参数是指目标匹配图像对应的旋转参数和缩放参数。
具体地,计算机设备可获取待配准图像在进行图像变换处理时所使用的变换方式,从而获取该变换方式对应的旋转参数和缩放参数。
步骤S404,基于目标图像变换参数对目标匹配图像进行图像逆变换处理,得到逆变换图像。
其中,图像逆变换处理是指通过与生成目标匹配图像相反的处理过程,将目标匹配图像变换为待配准图像。
具体地,计算机设备确定待配准图像生成该目标匹配图像时所使用的变换方式对应的处理过程,按照相反的处理过程对该目标匹配图像进行图像逆变换处理,得到逆变换图像。该逆变换图像即为待配准图像。
在一个实施例中,计算机设备可基于缩放参数对目标匹配图像进行放大处理,放大处理的放大数值和缩放参数的数值相同,并基于旋转参数相反的方向对该放大处理后的图像进行旋转,旋转的角度和旋转参数的角度相同。可以理解的是,图像逆变换处理中旋转处理和缩放处理的顺序,与变换方式中的旋转处理和缩放处理的顺序相反。
例如,待配准图像先向右旋转3°,再缩放0.8倍得到该目标匹配图像,则将目标匹配图像放大0.8倍,再像左旋转3°,得到逆变换图像,则该逆变换图像实际为待配准图像。
基于匹配点对确定参考图像和待配准图像之间的目标变换参数,包括步骤S406:
步骤S406,根据匹配点对中的候选中心点在逆变换图像中的位置,与相应的局部特征区域中参考中心点在参考图像中的位置,确定参考图像和待配准图像之间的目标变换参数。
具体地,在一个实施例中,计算机设备将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并确定每个参考中心点在参考图像中的位置,确定每个候选中心点在逆变换图像中的位置,并基于匹配点对中参考中心点的位置和候选中心点的位置计算参考图像和待配准图像之间的目标变换参数。
在一个实施例中,参考中心点在参考图像中的位置可以是参考中心点在参考图像中的坐标,候选中心点在逆变换图像中的位置可以是候选中心点在逆变换图像中的坐标。根据匹配点对所对应的坐标,可计算出计算参考图像和逆变换图像之间的目标变换参数,该目标变换参数即为参考图像和待配准图像之间的目标变换参数。
本实施例中,获取与目标匹配图像对应的变换方式所对应的目标图像变换参数,基于目标图像变换参数对目标匹配图像进行图像逆变换处理,从而能够将目标匹配图像再经过图像逆变换处理可得到原来的待配准图像,而此时的待配准图像中已确定好与参考图像的匹配点,避免了直接将待配准图像和参考图像进行特征点匹配所导致的匹配不准确的现象,从而能够有效提高图像配准的精度。使用匹配点对中的候选中心点在逆变换图像中的位置,与相应的局部特征区域中参考中心点在参考图像中的位置,使得参考图像仍然是与待配准图像计算目标变换参数,所计算的目标变换参数更准确。
在一个实施例中,如图5所示,基于匹配点对确定参考图像和待配准图像之间的目标变换参数,包括:
步骤S502,将各匹配点对进行组合,每个组合中包括至少两个匹配点对。
具体地,计算机设备计算得到参考图像和目标匹配图像之间的至少两个匹配点对,当至少两个匹配点对中仅包含两个匹配点对时,将两个匹配点对作为一个组合。当至少两个匹配点对中多于两个匹配点对时,将每个匹配点对分别与其他匹配点对组合,得到各个组合。每个组合中包括至少两个匹配点对。
例如,计算得到匹配点对A、B、C、D和E,则可得到AB、AC、AD、AE、BC、BD、BE、CD、CE和DE这10个组合。
步骤S504,对于每个组合,根据组合中所包括的匹配点对,计算参考图像和待配准图像之间的组合变换参数,得到每个组合分别对应的组合变换参数。
具体地,对于每个组合,计算机设备可通过一个组合中所包含的匹配点对,计算出参考图像和待配准图像之间的组合变换参数,则每个组合均可计算出对应的组合变换参数。例如上述10个组合,可计算出10个组合变换参数。
步骤S506,对于每个组合变换参数,确定组合变换参数是否适用于在相应组合之外的其他匹配点对,以得到各个组合变换参数分别对应的第一适用数量。
具体地,对于每个组合变换参数,计算机设备可确定组合变换参数是否适用于在与该组合变换参数相应的组合之外的其他匹配点对中,从而确定出每个组合变换参数分别对应的第一适用数量。
进一步地,在计算出一个组合变换参数后,计算机设备可确定该组合变换参数使用适用于其他匹配点对中,以得到该组合变换参数对应的第一适用数量。按照相同的处理方式,可得到每个组合变换参数分别对应的第一适用数量。
步骤S508,将满足第一预设数量条件的第一适用数量所对应的组合变换参数,作为参考图像和待配准图像之间的目标变换参数。
具体地,计算机设备获取第一预设数量条件,从每个组合变换参数分别对应的第一适用数量中筛选出满足第一预设数量条件第一适用数量,将筛选出的第一适用数量对应的组合变换参数作为参考图像和待配准图像之间的目标变换参数。
在一个实施例中,确定每个组合对应的组合变换参数所适用的匹配点对的第一适用数量,筛选出大于第一数量阈值的第一适用数量。将筛选出的第一适用数量对应的组合变换参数作为参考图像和待配准图像之间的目标变换参数。
在一个实施例中,确定每个组合对应的组合变换参数所适用的匹配点对的第一适用数量,将第一适用数量最多的组合变换参数作为参考图像和待配准图像之间的目标变换参数。
本实施例中,将各匹配点对进行组合,每个组合中包括至少两个匹配点对,根据组合中所包括的匹配点对,计算参考图像和待配准图像之间的组合变换参数,得到每个组合分别对应的组合变换参数,对于每个组合变换参数,确定组合变换参数是否适用于在相应组合之外的其他匹配点对,能够判断每个组合变换参数适用于哪些匹配点对,以得到各个组合变换参数分别对应的第一适用数量,从而能够基于第一预设数量条件筛选出最适用组合变换参数,作为参考图像和待配准图像之间的目标变换参数。在计算出多个组合变换参数的基础上,进一步筛选最适用的组合变换参数,使得后续对待配准图像的配准处理更准确、更可靠。
在一个实施例中,对于每个组合变换参数,确定组合变换参数是否适用于在相应组合之外的其余匹配点对,以得到各个组合变换参数分别对应的第一适用数量,包括:
对于每个组合,获取除组合所包括的匹配点对之外的其余匹配点对中候选中心点的位置,并基于相应组合所对应的组合变换参数,对获取的候选中心点进行变换,得到组合变换位置;对于每个组合所对应的各其余匹配点对,分别计算各其余匹配点对中的组合变换位置和相应参考中心点的参考位置之间的第一误差;根据第一误差,确定相应组合的组合变换参数所适用的匹配点对的第一适用数量。
具体地,计算机设备通过一组合中的匹配点对计算出该组合对应的组合变换参数后,获取除该组合所包括的匹配点对之外的其余匹配点对,并获取其余匹配点对中的候选中心点的位置。计算机设备根据候选中心点的位置和该组合变换参数,计算出组合变换位置。计算机设备获取其余匹配点对中的参考中心点的位置,根据组合变换位置和相应的参考中心点的位置之间的差异,确定适用该组合变换参数的匹配点对。若匹配点对适用该组合变换参数,则通过组合变换参数和候选中心点所计算出来的组合变换位置应该与参考中心点的位置基本一致。则可认为当组合变换位置和相应的参考中心点的位置之间的差异很小时,表示该组合变换位置即为该参考中心点的位置,则可判定该匹配点对适用该组合变换参数。
同样地,通过组合变换参数和参考中心点所计算出来的组合变换位置应该与候选中心点的位置基本一致。
进一步地,计算机设备计算组合变换位置和相应的参考中心点的位置之间的第一误差,根据第一误差确定适用该组合变换参数的匹配点对,从而确定出该组合变换参数所适用的匹配点对的第一适用数量。按照相同的处理方式,可确定出每种组合变换参数分别对应的第一适用数量。
在一个实施例中,计算机设备计算组合变换位置和相应的参考中心点的位置之间的第一误差,当第一误差小于或等于误差阈值时,表示该匹配点对适用该组合变换参数。当第一误差大于误差阈值时,表示该匹配点对不适用该组合变换参数。
本实施例中,对于每个组合,获取除组合所包括的匹配点对之外的其余匹配点对中候选中心点的位置,并基于相应组合所对应的组合变换参数,对获取的候选中心点进行变换,得到组合变换位置,对于每个组合所对应的各其余匹配点对,分别计算各其余匹配点对中的组合变换位置和相应参考中心点的参考位置之间的第一误差,从而能够通过组合变换位置和参考中心点的参考位置之间的第一误差验证组合变换参数是否适用于所有的匹配点对。根据第一误差确定相应组合的组合变换参数适用于哪些匹配点对,以及适用于多少个匹配点对,从而能够准确筛选中适用于所有匹配点对的组合变换参数,或者筛选出适用于最多的匹配点对的组合变换参数。在计算出各组合变换参数的基础上,进一步筛选最适用的组合变换参数,使得对待配准图像的配准处理更准确、更可靠。
在一个实施例中,对于每个组合,获取除组合所包括的匹配点对之外的其余匹配点对中候选中心点的位置,并基于相应组合所对应的组合变换参数,对获取的参考中心点进行变换,得到组合变换位置;对于每个组合所对应的各其余匹配点对,分别计算各其余匹配点对中的组合变换位置和相应候选中心点的位置之间的第三误差;根据第三误差,确定相应组合的组合变换参数所适用的匹配点对的第一适用数量。本实施例的具体处理过程可参考与第一误差相关的处理过程,在此不再赘述。
在一个实施例中,如图6所示,基于匹配点对确定参考图像和待配准图像之间的目标变换参数,包括:
步骤S602,从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数。
具体地,计算机设备确定各匹配点对后,可从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点对中的参考中心点的位置和候选中心点的位置计算出参考图像和待配准图像之间的候选变换参数。
在一个实施例中,根据当次所选取的匹配点对中的参考中心点在参考图像中的位置和候选中心点在目标匹配图像中的位置,计算出参考图像和待配准图像之间的候选变换参数。
在一个实施例中,根据当次所选取的匹配点对中的参考中心点在参考图像中的位置和候选中心点在逆变换图像中的位置,计算出参考图像和待配准图像之间的候选变换参数。
步骤S604,确定当次未被选取的匹配点对在候选变换参数下所产生的第二误差,根据第二误差确定候选变换参数所适用的匹配点对的第二适用数量。
具体地,计算机设备确定当次未被选取的匹配点对,获取未被选取的匹配点对中候选中心点的位置,并基于该组合变换参数,对获取的候选中心点的位置进行变换,得到对应的候选变换位置。计算机设备计算该候选变换位置和相应参考中心点的参考位置之间的第二误差,根据每个匹配点对分别对应的第二误差,确定当次的候选变换参数所适用的匹配点对,得到当次的候选变换参数所对应的第二适用数量。
在一个实施例中,计算机设备确定当次未被选取的匹配点对,获取未被选取的匹配点对中候选中心点的位置,并基于该候选变换参数,对获取的参考中心点的位置进行变换,得到对应的候选变换位置。计算机设备计算该候选变换位置和相应候选中心点的位置之间的第二误差,根据每个匹配点对分别对应的第二误差,确定当次的候选变换参数所适用的匹配点对,从而得到当次的候选变换参数所对应的第二适用数量。
在一个实施例中,计算机设备计算候选变换位置和相应的参考中心点的位置之间的第二误差,当第二误差小于或等于误差阈值时,表示该匹配点对适用该候选变换参数。当第二误差大于误差阈值时,表示该匹配点对不适用该候选变换参数。
步骤S606,继续选取至少两个匹配点对,返回根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数的步骤并继续执行,直至达到预设停止条件时停止,得到每个候选变换参数所对应的第二适用数量。
其中,预设停止条件是迭代次数达到预设迭代次数,或者不存在未被选取的匹配点对,或者每个匹配点对均已用于与其他匹配点对计算候选变换参数。
具体地,确定出上一个候选变换参数所适用的匹配点对的第二适用数量后,继续选取至少两个匹配点对。每次选择的匹配点对可不完全相同,也可以可完全不同。例如第一次选取匹配点对1、2,第二次选择匹配点对1、3,第三次可选择匹配点对4、5。
继续选取至少两个匹配点对后,返回步骤S602中的根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数的步骤并继续执行,以计算出本次的候选变换参数对应的第二适用数量,再执行下一个候选变换参数的计算,直至满足预设停止条件时停止,得到每个候选变换参数所对应的第二适用数量。
在一个实施例中,预设停止条件是迭代次数达到预设迭代次数。从选取至少两个匹配点对开始,到计算出当次的候选变换参数对应的第二适用数量的过程作为一次迭代。计算机设备每完成一次迭代后,可确定当次迭代使用达到预设迭代次数,当未达到预设迭代次数时执行下一次迭代处理,当达到预设迭代次数时迭代停止,得到每次迭代中的候选变换参数对应的第二适用数量。
在一个实施例中,当匹配点对数量较多时,预设停止条件可设置为迭代次数达到预设迭代次数,匹配点对数量多可设置有限次的迭代次数,有利于提高计算效率。当匹配点对数量较少时,预设停止条件可设置为不存在未被选取的匹配点对,或者每个匹配点对均已用于与其他匹配点对计算候选变换参数,匹配点对数量少可尽可能使用所有匹配点对计算候选变换参数,使得最终确定的目标变换参数能够适用于更多的匹配点对,使得候选的图像配准更全面更准确。
步骤S608,将满足第二预设数量条件的第二适用数量所对应的候选变换参数,作为参考图像和待配准图像之间的目标变换参数。
具体地,计算机设备获取第二预设数量条件,从每个候选变换参数分别对应的第二适用数量中筛选出满足第二预设数量条件第二适用数量,将筛选出的第二适用数量对应的候选变换参数作为参考图像和待配准图像之间的目标变换参数。
在一个实施例中,确定每个候选变换参数所适用的匹配点对的第二适用数量,筛选出大于第二数量阈值的第二适用数量。将筛选出的第二适用数量对应的候选变换参数作为参考图像和待配准图像之间的目标变换参数。
在一个实施例中,确定每个候选变换参数所适用的匹配点对的第二适用数量,将第二适用数量最多的候选变换参数作为参考图像和待配准图像之间的目标变换参数。
本实施例中,从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数,确定当次未被选取的匹配点对在候选变换参数下所产生的第二误差,根据第二误差确定候选变换参数所适用的匹配点对的第二适用数量,继续选取至少两个匹配点对,返回根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数的步骤并继续执行,直至达到预设停止条件时停止,能够通过多次循环迭代计算出每次的候选变换参数所对应的第二适用数量。将满足第二预设数量条件的第二适用数量所对应的候选变换参数,能够筛选出最适用的候选变换参数作为参考图像和待配准图像之间的变换关系,能够有效提高待配准图像向参考图像进行配准的准确性。
如图7所示,为一个实施例中基于模板匹配的图像配准方法的流程示意图。
步骤S702,获取参考图像,并执行步骤S704,在参考图像中通过N个参考框选取N个局部特征区域,执行步骤S706。
步骤S706,对参考图像进行直方图均衡化处理,以增加参考图像的对比度。
可以理解的是,步骤S702至步骤S706的处理,与步骤S708至步骤S712的处理可分别独立进行,执行的先后顺序不限,也可同时进行。
步骤S708,获取待配准图像,以执行步骤S710,即对待配准图像进行尺度变换和旋转变换,得到多张待匹配图像。
接着,执行步骤S712,对多张待匹配图像进行直方图均衡化处理。
接着,执行步骤S714,在每张待匹配图像中确定与N个参考框的位置相同的候选框,并对候选框进行外扩处理。
通过模板匹配在外扩后的候选框中的区域内,查找与相应参考框中的局部特征区域相匹配的候选区域,得到每张待匹配图像中的N个候选区域。根据每张待匹配图像中的N个候选区域,筛选与参考图像相似度最高的目标匹配图像。
将N个局部特征区域的参考中心点和目标匹配图像中相应的N候选区域的候选中心点作为匹配点对,以执行步骤S716。
步骤S716,通过ransac(随机抽样一致性)算法来进行外点滤除,得到目标变换参数。其中ransac算法步骤如下:(1)从各个匹配对中随机抽出2组匹配点对,计算出对应变换参数H;(2)计算其他匹配点对在该变换参数H下产生的误差,若误差小于阈值,则认为该匹配点对是内点,加入内点集I;(3)若当前内点集I中的匹配点对的数量大于最大数量I_best,则更新I_best=I,并记录当前的变换参数H;(4)若当前的迭代次数达到预设迭代次数,则停止迭代,否则迭代次数加1,并重复上述步骤,直至当前的迭代次数达到预设迭代次数时停止,将最大数量I_best对应的变换参数H作为目标变换参数。通过外点滤除可以消除错误的匹配点对配准造成的影响,增强对成像缺失的鲁棒性。
步骤S716,获得目标变换参数后,可通过相似变换对待配准图像进行图像矫正。
在一个实施例中,待配准图像和参考图像均为同一工业器件的图像;参考图像为工业器件在调试完成后拍摄的图像,参考图像中的至少两个局部特征区域中的每个局部特征区域均具有唯一性。
具体地,在工业自动化***中,需要对生产出来的工业器件进行质量检测,则会在固定位置放置用于拍摄工业器件的机器。一旦机器调试完毕,成像角度就会固定下来,选取调试完毕后的机器所拍摄的第一张图像作为参考图像,后续生产过程中所有该角度拍摄的图像相较于参考图像只有较小的位置变化和光照变化。将后续生产过程中拍摄的图像作为待配准图像,将待配准图像向参考图像进行配准,以矫正待配准图像。
获取参考图像后,可在参考图像中通过4个候选框选取4局部特征区域,并且所选取的每个局部特征区域具有唯一性。
统计该工业自动化***中机器的成像误差范围,包括平移参数范围t∈(-t,t),旋转参数范围r∈(-r,r),缩放参数范围s∈(-s,s),则可设置旋转参数为缩放参数为将旋转参数和缩放参数分别组合,可得到25种变换方式,则按照每种变换方式对生产工程中的待配准图像进行旋转和尺度变换,每张待配准图像可得到25张待匹配图像。
对每张待匹配图像,将参考图像中的4个候选框按照坐标对应到待匹配图像中,得到每张待匹配图像中的4个候选框。
如图8所示,图8中的(a)为待匹配图像,图8中的(b)为参考图像。将参考图像中的4个参考框对应到待匹配图像中,得到对应的4个候选框。
将每个候选框外扩,这样能够将误差范围内的所有情况都包含进去,使得该处理方式针对位置变化有较好的鲁棒性。
在每个外扩后的候选框中,通过模板匹配(match template)查找与相应的局部特征区域相匹配的候选区域,则对于每个局部特征区域,都存在对应的25个候选区域。对于4个局部特征区域中的每个局部特征区域,可分别计算出与25个候选区域之间的候选相似度,并从25个候选相似度中选择最高相似度,作为对应的目标相似度,则4个局部特征区域可得到4个目标相似度。
确定这4个目标相似度对应的候选区域是否处于同一张待匹配图像中时,是则将该待匹配图像作为目标匹配图像,否则确定这4个目标相似度对应的候选区域分别所处的待匹配图像,确定每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标匹配图像。
确定目标匹配图像中的4个候选区域的候选中心点和4个局部特征区域的参考中心点,以组成4个匹配点对A、B、C和D。如图8中的虚线所示,给出了参考图像和待匹配图像之间的3对匹配点对。
确定目标匹配图像后,将目标匹配图像进行图像逆变换处理,从而之前的待配准图像,使得待配准图像和参考图像的尺寸保持一致。确定4个候选中心点在待配准图像中的坐标,并确定4个参考中心点在参考图像中的坐标,使用匹配点对AB计算出变换参数1,并使用匹配点对C和D对变换参数1进行验证,以确定变换参数1是否适用于匹配点对C和D。具体计算方式如下:通过变换参数1对匹配点对C中的候选中心点的坐标进行变换,得到变换后的坐标,计算变换后的坐标和匹配点对C中的参考中心点的坐标之间的误差,若误差小于或等于误差阈值,表示变换后的坐标和参考中心点的坐标一致,则变换参数1对匹配点对C适用。若误差大于误差阈值,表示变换后的坐标和参考中心点的坐标不一致,则变换参数1对匹配点对C并不适用。利用相同的方式对匹配点对D进行处理,从而计算出该变换参数1适用的匹配点对的数量。
类似地,使用匹配点对AC计算出变换参数2、匹配点对AD计算出变换参数3、匹配点对BC计算出变换参数4、匹配点对BD计算出变换参数5和匹配点对CD计算出变换参数6,且分别计算出每个变换参数适用的匹配点对的数量。
将适用匹配点对的数量最多的变换参数作为目标变换参数,例如变换参数5适用的匹配点对的数量最多,则将变换参数5作为目标变换参数,并通过变换参数5对待配准图像进行配准处理,以实现对待配准图像的矫正。
可以理解的是,工业生产中存在多张待配准图像,每张待配准图像均按照本实施例的方式进行处理,从而实现对每张待配准图像的矫正。
本实施例中,图像配准方法可应用于工业器件图像的配准场景上,待配准图像和参考图像均为同一工业器件的图像,参考图像为工业器件在调试完成后拍摄的图像,参考图像中的至少两个局部特征区域中的每个局部特征区域均具有唯一性,使得所选取的局部特征区域具备关键性特征,能够有效降低自动生成特征点后误匹配的情况。工业器件往往各个部分在颜色、形状等方面比较类似,则各个部分的特征点也比较相似,直接使用特征点匹配容易存在误匹配的情况,导致图像配准不准确。则本实施例中通过图像的局部特征区域进行匹配,比单个特征点匹配更准确,并且在局部特征区域匹配后,选择局部特征区域的中心点构成匹配点对,既能够减少匹配点对的数量、节省特征点匹配的时间,又能够进一步提高匹配点对的准确性。而在获得匹配点对之后,从各个匹配点对计算出的变换参数中进一步筛选出最适用的目标变换参数,有效地提高了在工业器件图像校准上的精度和准确性。
在一个实施例中,该图像配准方法可应用于工业质检场景。如图9所示,为一个实施例中工业质检的流程示意图。在当前的工业智能质检平台中,工业制造的元器件,尤其是3C类元器件通常较小,且构造精密,因此摄像头都是针对缺陷频发位置,设计成多角度拍摄。具体到某一个摄像头时,都会有一个固定的“感兴趣区域”成像清晰,其余区域则相对模糊,留给其他的摄像头来拍照。本实施例的图像配准方法就是将所拍摄的“感兴趣区域”通过图像配准处理与参考图像进行对齐,得到配准后的图像,以便在后续的缺陷对比学习中能够有效的定位并识别出“感兴趣区域”内存在的缺陷。
在一个实施例中,提供一种图像配准方法,应用于计算机设备,包括:
获取多帧图像,将第一帧图像作为参考帧图像,将其余各帧图像作为待配准图像。
获取多种变换方式分别对应的图像变换参数,该图像变换参数包括旋转参数和缩放参数中的至少一种。
基于各图像变换参数分别对待配准图像进行图像变换处理,得到多张待匹配图像。
通过至少两个参考框对参考图像进行划分,得到每个参考框中所包含的局部特征区域。
针对每张待匹配图像,在待匹配图像中确定与每个参考框对应的候选框,并对候选框进行外扩处理。
通过参考框中的局部特征区域,对相应的外扩后的候选框中的区域进行遍历,并在每次遍历中确定所遍历的区域对应的置信度。
将满足置信度条件的置信度所对应的区域,作为与局部特征区域相匹配的候选区域。
计算每张待匹配图像所包括的各候选区域与对应的局部特征区域之间的候选相似度。
对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度。
可选地,当各目标相似度所对应的候选区域处于同一待匹配图像中时,将同一待匹配图像作为目标匹配图像。
可选地,当各目标相似度所对应的候选区域处于不同的待匹配图像中时,确定不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标匹配图像。
确定至少两个局部特征区域中每个局部特征区域的参考中心点,以及各参考中心点在参考图像中的位置,并确定目标匹配图像中每个候选区域的候选中心点。
将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,获取与目标匹配图像对应的变换方式所对应的目标图像变换参数。
基于目标图像变换参数对目标匹配图像进行图像逆变换处理,得到逆变换图像。
从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点中的候选中心点在逆变换图像中的位置,与相应的参考中心点在参考图像中的位置,计算参考图像和待配准图像之间的候选变换参数。
确定当次未被选取的匹配点中候选中心点的位置,并基于相应候选变换参数,对获取的候选中心点进行变换,得到对应的候选变换位置。
分别计算当次未被选取的匹配点中候选变换位置和相应参考中心点的参考位置之间的第二误差,根据第二误差确定候选变换参数所适用的匹配点对的第二适用数量。进一步地,当第二误差小于或等于误差阈值时,表示该匹配点对适用该候选变换参数。当第二误差大于误差阈值时,表示该匹配点对不适用该候选变换参数。
继续选取至少两个匹配点对,返回根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数的步骤并继续执行,直至达到预设停止条件时停止,得到每个候选变换参数所对应的第二适用数量;
将最大的第二适用数量所对应的候选变换参数,作为参考图像和待配准图像之间的目标变换参数。
基于目标变换参数对待配准图像进行配准,得到配准后的图像。
对于每张待配准图像,均按照上述处理方式,分别计算出与参考图像之间的目标变换参数,从而基于目标变换参数进行配准,得到各张向参考图像配准后的图像。
本实施例中,通过对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像,确定参考图像中的至少两个局部特征区域,以通过参考图像的局部特征区域在待匹配图像中查找相应匹配的候选区域,通过图像的局部特征区域进行匹配,比单个特征点匹配更准确,并且在局部特征区域匹配后,选择局部特征区域的中心点构成匹配点对,既能够减少匹配点对的数量、节省特征点匹配的时间,又能够进一步提高匹配点对的准确性。而在获得匹配点对之后,从各个匹配点对计算出的变换参数中进一步筛选出最适用的目标变换参数,有效地提高了在图像校准上的精度和准确性。
应该理解的是,虽然图2-图9的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2-图9中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中,如图10所示,提供了一种图像配准装置1000,该装置可以采用软件模块或硬件模块,或者是二者的结合成为计算机设备的一部分,该装置具体包括:变换模块1002、获取模块1004、筛选模块1006、确定模块1008和配准模块1010,其中:
变换模块1002,用于对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像。
获取模块1004,用于获取参考图像,并确定参考图像中的至少两个局部特征区域。
筛选模块1006,用于从各待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据候选区域从待匹配图像中筛选出目标匹配图像。
确定模块1008,用于根据目标匹配图像中与至少两个局部特征区域相匹配的候选区域,确定参考图像和待配准图像之间的目标变换参数。
配准模块1010,用于基于目标变换参数对待配准图像进行配准,得到配准后的图像。
本实施例中,通过对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像,确定参考图像中的至少两个局部特征区域,以通过参考图像的局部特征区域在待匹配图像中查找相应匹配的候选区域,能够基于图像之间相匹配的区域从多张待匹配图像中准确筛选出与参考图像最相似的目标匹配图像。并且基于图像区域进行筛选,能够有效避免由于单个特征点相似导致匹配不准确的问题,从而能够提高目标匹配图像筛选的准确性。根据目标匹配图像中与至少两个局部特征区域相匹配的候选区域,准确计算出参考图像和待配准图像之间的目标变换参数,使得基于目标变换参数能够更准确地对待配准图像进行配准,从而获得向参考图像进行配准后的图像。
在一个实施例中,变换模块1002,还用于获取多种变换方式分别对应的图像变换参数,图像变换参数包括旋转参数和缩放参数中的至少一种;基于各图像变换参数分别对待配准图像进行图像变换处理,得到多张待匹配图像。
本实施例中,获取多种变换方式分别对应的图像变换参数,图像变换参数包括旋转参数和缩放参数中的至少一种,基于各图像变换参数分别对待配准图像进行图像变换处理,得到待配准图像在发生不同的旋转和不同的缩放后所生成的待匹配图像,能够通过不同旋转和不同缩放下待匹配图像了解该待配准图像相对应参考图像所产生的旋转误差和缩放误差,以准确对待配准图像进行配准。
在一个实施例中,获取模块1004,还用于获取参考图像,通过至少两个参考框对参考图像进行划分,得到每个参考框中所包含的局部特征区域;
筛选模块1006,还用于针对每张待匹配图像,在待匹配图像中确定与每个参考框对应的候选框,并对候选框进行外扩处理;对于每个外扩后的候选框,在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的区域,作为与局部特征区域相匹配的候选区域。
本实施例中,获取参考图像,通过至少两个参考框对参考图像进行划分,以通过候选框提取参考图像的各个局部特征区域。针对每张待匹配图像,在待匹配图像中确定与每个参考框对应的候选框,并对候选框进行外扩处理,对于每个外扩后的候选框,从而能够准确在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的候选区域,使得能够通过参考图像的局部特征区域在待匹配图像中查找相应匹配的候选区域,避免直接进行特征点匹配所导致匹配不准确的问题。
在一个实施例中,筛选模块1006,还用于通过参考框中的局部特征区域,对相应的外扩后的候选框中的区域进行遍历,并在每次遍历中确定所遍历的区域对应的置信度;将满足置信度条件的置信度所对应的区域,作为与局部特征区域相匹配的候选区域。
本实施例中,通过参考框中的局部特征区域,对相应的外扩后的候选框中的区域进行遍历,并在每次遍历中确定所遍历的区域对应的置信度,能够将满足置信度条件的置信度所对应的区域,作为与局部特征区域相匹配的候选区域,从而基于置信度准确筛选中与每个局部特征区域最相似的候选区域。
在一个实施例中,筛选模块1006,还用于对于每张待匹配图像,均从相应待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并确定各个候选区域所对应的候选相似度;基于每张待匹配图像所包括的各候选区域的候选相似度,从待匹配图像中筛选出目标匹配图像。
本实施例中,对于每张待匹配图像,均从相应待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并确定各个候选区域所对应的候选相似度,基于每张待匹配图像所包括的各候选区域的候选相似度,能够从待匹配图像中准确筛选出目标匹配图像,使用图像的区域之间的相似度作为筛选条件,能够进一步提高筛选的准确性。
在一个实施例中,筛选模块1006,还用于对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度;当各目标相似度所对应的候选区域处于同一待匹配图像中时,将同一待匹配图像作为目标匹配图像;当各目标相似度所对应的候选区域处于不同的待匹配图像中时,确定不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标图像。
本实施例中,对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度,从而能够筛选出与每个局部特征最相似的候选区域。当各目标相似度所对应的候选区域处于同一待匹配图像中时,将同一待匹配图像作为目标匹配图像,当各目标相似度所对应的候选区域处于不同的待匹配图像中时,确定不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标图像,从而能够在筛选出与局部特征区域最相似的候选区域的基础上,进一步筛选出与参考图像最相似的待匹配图像,通过两次筛选进一步提高目标匹配图像筛选的准确度。
在一个实施例中,确定模块1008,还用于确定至少两个局部特征区域中每个局部特征区域的参考中心点,以及目标匹配图像中每个候选区域的候选中心点;将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并基于匹配点对确定参考图像和待配准图像之间的目标变换参数。
本实施例中,确定至少两个局部特征区域中每个局部特征区域的参考中心点,以及目标匹配图像中每个候选区域的候选中心点,将每个局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并基于匹配点对确定参考图像和待配准图像之间的目标变换参数,能够避免由于在区域中的各特征点比较相似的情况下直接自动生成特征点后所导致的误匹配问题。并且,选择区域的中心点作为匹配点对,既能够准确获得匹配点对,又能够减少匹配点对数量,提高计算效率。
在一个实施例中,确定模块1008,还用于获取与目标匹配图像对应的变换方式所对应的目标图像变换参数;基于目标图像变换参数对目标匹配图像进行图像逆变换处理,得到逆变换图像;根据匹配点对中的候选中心点在逆变换图像中的位置,与相应的局部特征区域中参考中心点在参考图像中的位置,确定参考图像和待配准图像之间的目标变换参数。
本实施例中,获取与目标匹配图像对应的变换方式所对应的目标图像变换参数,基于目标图像变换参数对目标匹配图像进行图像逆变换处理,从而能够将目标匹配图像再经过图像逆变换处理得到原来的待配准图像,而此时的待配准图像中已确定好与参考图像的匹配点,避免了直接将待配准图像和参考图像进行特征点匹配所导致的匹配不准确的现象,从而能够有效提高图像配准的精度。使用匹配点对中的候选中心点在逆变换图像中的位置,与相应的局部特征区域中参考中心点在参考图像中的位置,使得参考图像仍然是与待配准图像计算目标变换参数,所计算的目标变换参数更准确。
在一个实施例中,确定模块1008,还用于将各匹配点对进行组合,每个组合中包括至少两个匹配点对;对于每个组合,根据组合中所包括的匹配点对,计算参考图像和待配准图像之间的组合变换参数,得到每个组合分别对应的组合变换参数;对于每个组合变换参数,确定组合变换参数是否适用于在相应组合之外的其他匹配点对,以得到各个组合变换参数分别对应的第一适用数量;将满足第一预设数量条件的第一适用数量所对应的组合变换参数,作为参考图像和待配准图像之间的目标变换参数。
本实施例中,将各匹配点对进行组合,每个组合中包括至少两个匹配点对,根据组合中所包括的匹配点对,计算参考图像和待配准图像之间的组合变换参数,得到每个组合分别对应的组合变换参数,对于每个组合变换参数,确定组合变换参数是否适用于在相应组合之外的其他匹配点对,能够判断每个组合变换参数适用于哪些匹配点对,以得到各个组合变换参数分别对应的第一适用数量,从而能够基于第一预设数量条件筛选出最适用组合变换参数,作为参考图像和待配准图像之间的目标变换参数。在计算出多个组合变换参数的基础上,进一步筛选最适用的组合变换参数,使得后续对待配准图像的配准处理更准确、更可靠。
在一个实施例中,确定模块1008,还用于对于每个组合,获取除组合所包括的匹配点对之外的其余匹配点对中候选中心点的位置,并基于相应组合所对应的组合变换参数,对获取的候选中心点进行变换,得到组合变换位置;对于每个组合所对应的各其余匹配点对,分别计算各其余匹配点对中的组合变换位置和相应参考中心点的参考位置之间的第一误差;根据第一误差,确定相应组合的组合变换参数所适用的匹配点对的第一适用数量。
本实施例中,对于每个组合,获取除组合所包括的匹配点对之外的其余匹配点对中候选中心点的位置,并基于相应组合所对应的组合变换参数,对获取的候选中心点进行变换,得到组合变换位置,对于每个组合所对应的各其余匹配点对,分别计算各其余匹配点对中的组合变换位置和相应参考中心点的参考位置之间的第一误差,从而能够通过组合变换位置和参考中心点的参考位置之间的第一误差验证组合变换参数是否适用于所有的匹配点对。根据第一误差确定相应组合的组合变换参数适用于哪些匹配点对,以及适用于多少个匹配点对,从而能够准确筛选中适用于所有匹配点对的组合变换参数,或者筛选出适用于最多的匹配点对的组合变换参数。在计算出各组合变换参数的基础上,进一步筛选最适用的组合变换参数,使得对待配准图像的配准处理更准确、更可靠。
在一个实施例中,确定模块1008,还用于从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数;确定当次未被选取的匹配点对在候选变换参数下所产生的第二误差,根据第二误差确定候选变换参数所适用的匹配点对的第二适用数量;继续选取至少两个匹配点对,返回根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数的步骤并继续执行,直至达到预设停止条件时停止,得到每个候选变换参数所对应的第二适用数量;将满足第二预设数量条件的第二适用数量所对应的候选变换参数,作为参考图像和待配准图像之间的目标变换参数。
本实施例中,从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数,确定当次未被选取的匹配点对在候选变换参数下所产生的第二误差,根据第二误差确定候选变换参数所适用的匹配点对的第二适用数量,继续选取至少两个匹配点对,返回根据当次所选取的匹配点对计算参考图像和待配准图像之间的候选变换参数的步骤并继续执行,直至达到预设停止条件时停止,能够通过多次循环迭代计算出每次的候选变换参数所对应的第二适用数量。将满足第二预设数量条件的第二适用数量所对应的候选变换参数,能够筛选出最适用的候选变换参数作为参考图像和待配准图像之间的变换关系,能够有效提高待配准图像向参考图像进行配准的准确性。
在一个实施例中,待配准图像和参考图像均为同一工业器件的图像;参考图像为工业器件在调试完成后拍摄的图像,参考图像中的至少两个局部特征区域中的每个局部特征区域均具有唯一性。
本实施例中,图像配准方法可应用于工业器件图像的配准场景上,待配准图像和参考图像均为同一工业器件的图像,参考图像为工业器件在调试完成后拍摄的图像,参考图像中的至少两个局部特征区域中的每个局部特征区域均具有唯一性,使得所选取的局部特征区域具备关键性特征,能够有效降低自动生成特征点后误匹配的情况。工业器件往往各个部分在颜色、形状等方面比较类似,则各个部分的特征点也比较相似,直接使用特征点匹配容易存在误匹配的情况,导致图像配准不准确。则本实施例中通过图像的局部特征区域进行匹配,比单个特征点匹配更准确,并且在局部特征区域匹配后,选择局部特征区域的中心点构成匹配点对,既能够减少匹配点对的数量、节省特征点匹配的时间,又能够进一步提高匹配点对的准确性。而在获得匹配点对之后,从各个匹配点对计算出的变换参数中进一步筛选出最适用的目标变换参数,有效地提高了在工业器件图像校准上的精度和准确性。
关于图像配准装置的具体限定可以参见上文中对于图像配准方法的限定,在此不再赘述。上述图像配准装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种计算机设备,该计算机设备可以是终端或服务器。本实施例以终端为例,其内部结构图可以如图11所示。该计算机设备包括通过***总线连接的处理器、存储器、通信接口、显示屏和输入装置。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作***和计算机程序。该内存储器为非易失性存储介质中的操作***和计算机程序的运行提供环境。该计算机设备的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、运营商网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种图像配准方法。该计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏,该计算机设备的输入装置可以是显示屏上覆盖的触摸层,也可以是计算机设备外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图11中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,还提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机可读存储介质,存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各方法实施例中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-Only Memory,ROM)、磁带、软盘、闪存或光存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (15)
1.一种图像配准方法,其特征在于,所述方法包括:
对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;
获取参考图像,并确定所述参考图像中的至少两个局部特征区域;
从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;
根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;
基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。
2.根据权利要求1所述的方法,其特征在于,所述对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像,包括:
获取多种变换方式分别对应的图像变换参数,所述图像变换参数包括旋转参数和缩放参数中的至少一种;
基于各所述图像变换参数分别对所述待配准图像进行图像变换处理,得到多张待匹配图像。
3.根据权利要求1所述的方法,其特征在于,所述获取参考图像,并确定所述参考图像中的至少两个局部特征区域,包括:
获取参考图像,通过至少两个参考框对所述参考图像进行划分,得到每个参考框中所包含的局部特征区域;
所述从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,包括:
针对每张待匹配图像,在所述待匹配图像中确定与每个所述参考框对应的候选框,并对所述候选框进行外扩处理;
对于每个外扩后的候选框,在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的区域,作为与所述局部特征区域相匹配的候选区域。
4.根据权利要求3所述的方法,其特征在于,所述在外扩后的候选框中查找与相应参考框中所包含的局部特征区域相匹配的区域,作为与所述局部特征区域相匹配的候选区域,包括:
通过所述参考框中的局部特征区域,对相应的外扩后的候选框中的区域进行遍历,并在每次遍历中确定所遍历的区域对应的置信度;
将满足置信度条件的置信度所对应的区域,作为与所述局部特征区域相匹配的候选区域。
5.根据权利要求1所述的方法,其特征在于,所述从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像,包括:
对于每张待匹配图像,均从相应待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并确定各个候选区域所对应的候选相似度;
基于每张待匹配图像所包括的各候选区域的候选相似度,从所述待匹配图像中筛选出目标匹配图像。
6.根据权利要求5所述的方法,其特征在于,所述基于每张待匹配图像所包括的各候选区域的候选相似度,从所述待匹配图像中筛选出目标匹配图像,包括:
对于每个局部特征区域,将同一局部特征区域与相匹配的每个候选区域之间的候选相似度中的最高相似度,作为相应局部特征区域对应的目标相似度;
当各所述目标相似度所对应的候选区域处于同一待匹配图像中时,将所述同一待匹配图像作为目标匹配图像;
当各所述目标相似度所对应的候选区域处于不同的待匹配图像中时,确定所述不同的待匹配图像中每张待匹配图像分别对应的目标相似度的数量,并将对应目标相似度数量最多的待匹配图像作为目标图像。
7.根据权利要求1所述的方法,其特征在于,所述根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数,包括:
确定所述至少两个局部特征区域中每个局部特征区域的参考中心点,以及所述目标匹配图像中每个候选区域的候选中心点;
将每个所述局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对,并基于所述匹配点对确定所述参考图像和所述待配准图像之间的目标变换参数。
8.根据权利要求7所述的方法,其特征在于,在所述将每个所述局部特征区域的参考中心点和相应的候选区域中的候选中心点作为匹配点对之后,还包括:
获取与所述目标匹配图像对应的变换方式所对应的目标图像变换参数;
基于所述目标图像变换参数对所述目标匹配图像进行图像逆变换处理,得到逆变换图像;
所述基于所述匹配点对确定所述参考图像和所述待配准图像之间的目标变换参数,包括:
根据所述匹配点对中的候选中心点在所述逆变换图像中的位置,与相应的局部特征区域中参考中心点在所述参考图像中的位置,确定所述参考图像和所述待配准图像之间的目标变换参数。
9.根据权利要求7所述的方法,其特征在于,所述基于所述匹配点对确定所述参考图像和所述待配准图像之间的目标变换参数,包括:
将各匹配点对进行组合,每个组合中包括至少两个匹配点对;
对于每个组合,根据组合中所包括的匹配点对,计算所述参考图像和所述待配准图像之间的组合变换参数,得到每个组合分别对应的组合变换参数;
对于每个组合变换参数,确定所述组合变换参数是否适用于在相应组合之外的其他匹配点对,以得到各个组合变换参数分别对应的第一适用数量;
将满足第一预设数量条件的第一适用数量所对应的组合变换参数,作为所述参考图像和所述待配准图像之间的目标变换参数。
10.根据权利要求9所述的方法,其特征在于,所述对于每个组合变换参数,确定所述组合变换参数是否适用于在相应组合之外的其余匹配点对,以得到各个组合变换参数分别对应的第一适用数量,包括:
对于每个组合,获取除组合所包括的匹配点对之外的其余匹配点对中候选中心点的位置,并基于相应组合所对应的组合变换参数,对获取的候选中心点进行变换,得到组合变换位置;
对于每个组合所对应的各其余匹配点对,分别计算各其余匹配点对中的组合变换位置和相应参考中心点的参考位置之间的第一误差;
根据所述第一误差,确定相应组合的组合变换参数所适用的匹配点对的第一适用数量。
11.根据权利要求7所述的方法,其特征在于,所述基于所述匹配点对确定所述参考图像和所述待配准图像之间的目标变换参数,包括:
从各匹配点对中选取至少两个匹配点对,根据当次所选取的匹配点对计算所述参考图像和所述待配准图像之间的候选变换参数;
确定当次未被选取的匹配点对在所述候选变换参数下所产生的第二误差,根据所述第二误差确定所述候选变换参数所适用的匹配点对的第二适用数量;
继续选取至少两个匹配点对,返回所述根据当次所选取的匹配点对计算所述参考图像和所述待配准图像之间的候选变换参数的步骤并继续执行,直至达到预设停止条件时停止,得到每个候选变换参数所对应的第二适用数量;
将满足第二预设数量条件的第二适用数量所对应的候选变换参数,作为所述参考图像和所述待配准图像之间的目标变换参数。
12.根据权利要求1至11任意一项所述的方法,其特征在于,所述待配准图像和所述参考图像均为同一工业器件的图像;所述参考图像为所述工业器件在调试完成后拍摄的图像,所述参考图像中的至少两个局部特征区域中的每个局部特征区域均具有唯一性。
13.一种图像配准装置,其特征在于,所述装置包括:
变换模块,用于对待配准图像按照多种变换方式进行不同的图像变换处理,得到多张待匹配图像;
获取模块,用于获取参考图像,并确定所述参考图像中的至少两个局部特征区域;
筛选模块,用于从各所述待匹配图像中确定与每个局部特征区域分别相匹配的候选区域,并根据所述候选区域从所述待匹配图像中筛选出目标匹配图像;
确定模块,用于根据所述目标匹配图像中与所述至少两个局部特征区域相匹配的候选区域,确定所述参考图像和所述待配准图像之间的目标变换参数;
配准模块,用于基于所述目标变换参数对所述待配准图像进行配准,得到配准后的图像。
14.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至12中任一项所述的方法的步骤。
15.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至12中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110913481.5A CN114332183A (zh) | 2021-08-10 | 2021-08-10 | 图像配准方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110913481.5A CN114332183A (zh) | 2021-08-10 | 2021-08-10 | 图像配准方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114332183A true CN114332183A (zh) | 2022-04-12 |
Family
ID=81044346
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110913481.5A Pending CN114332183A (zh) | 2021-08-10 | 2021-08-10 | 图像配准方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114332183A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116433738A (zh) * | 2023-06-13 | 2023-07-14 | 武汉楚精灵医疗科技有限公司 | 影像配准方法、装置、计算机设备及计算机可读存储介质 |
CN116612390A (zh) * | 2023-07-21 | 2023-08-18 | 山东鑫邦建设集团有限公司 | 一种建筑工程用的信息管理*** |
CN117173439A (zh) * | 2023-11-01 | 2023-12-05 | 腾讯科技(深圳)有限公司 | 基于gpu的图像处理方法、装置、存储介质及电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103955931A (zh) * | 2014-04-29 | 2014-07-30 | 江苏物联网研究发展中心 | 一种图像匹配方法及装置 |
CN106257535A (zh) * | 2016-08-11 | 2016-12-28 | 河海大学常州校区 | 基于surf算子的电气设备红外与可见光图像配准方法 |
CN110569850A (zh) * | 2019-08-20 | 2019-12-13 | 北京旷视科技有限公司 | 字符识别模板匹配方法、装置和文本识别设备 |
CN112488062A (zh) * | 2020-12-18 | 2021-03-12 | 浙江大华技术股份有限公司 | 一种图像识别方法、装置、设备及介质 |
-
2021
- 2021-08-10 CN CN202110913481.5A patent/CN114332183A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103955931A (zh) * | 2014-04-29 | 2014-07-30 | 江苏物联网研究发展中心 | 一种图像匹配方法及装置 |
CN106257535A (zh) * | 2016-08-11 | 2016-12-28 | 河海大学常州校区 | 基于surf算子的电气设备红外与可见光图像配准方法 |
CN110569850A (zh) * | 2019-08-20 | 2019-12-13 | 北京旷视科技有限公司 | 字符识别模板匹配方法、装置和文本识别设备 |
CN112488062A (zh) * | 2020-12-18 | 2021-03-12 | 浙江大华技术股份有限公司 | 一种图像识别方法、装置、设备及介质 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116433738A (zh) * | 2023-06-13 | 2023-07-14 | 武汉楚精灵医疗科技有限公司 | 影像配准方法、装置、计算机设备及计算机可读存储介质 |
CN116433738B (zh) * | 2023-06-13 | 2023-08-29 | 武汉楚精灵医疗科技有限公司 | 影像配准方法、装置、计算机设备及计算机可读存储介质 |
CN116612390A (zh) * | 2023-07-21 | 2023-08-18 | 山东鑫邦建设集团有限公司 | 一种建筑工程用的信息管理*** |
CN116612390B (zh) * | 2023-07-21 | 2023-10-03 | 山东鑫邦建设集团有限公司 | 一种建筑工程用的信息管理*** |
CN117173439A (zh) * | 2023-11-01 | 2023-12-05 | 腾讯科技(深圳)有限公司 | 基于gpu的图像处理方法、装置、存储介质及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110135455B (zh) | 影像匹配方法、装置及计算机可读存储介质 | |
CN110390640B (zh) | 基于模板的泊松融合图像拼接方法、***、设备及介质 | |
CN114332183A (zh) | 图像配准方法、装置、计算机设备和存储介质 | |
CN107633526B (zh) | 一种图像跟踪点获取方法及设备、存储介质 | |
US9727775B2 (en) | Method and system of curved object recognition using image matching for image processing | |
WO2022141178A1 (zh) | 图像处理方法及装置 | |
SE1000142A1 (sv) | Digital bildmanipulation innefattande identifiering av ett målområde i en målbild och sömlös ersättning av bildinformation utifrån en källbild | |
JP6582516B2 (ja) | 画像におけるカラーチャートの検出装置及び検出方法 | |
CN105976327B (zh) | 对第一图像进行变换的方法、处理模块和存储介质 | |
CN110544202B (zh) | 一种基于模板匹配与特征聚类的视差图像拼接方法及*** | |
WO2023098045A1 (zh) | 图像对齐方法、装置、计算机设备和存储介质 | |
CN113505799B (zh) | 显著性检测方法及其模型的训练方法和装置、设备、介质 | |
CN110599424A (zh) | 影像自动匀色处理方法及装置、电子设备、存储介质 | |
CN114998773A (zh) | 适用于无人机***航拍图像的特征误匹配剔除方法及*** | |
US20190172226A1 (en) | System and method for generating training images | |
CN112734630B (zh) | 正射影像处理方法、装置、设备及存储介质 | |
CN111681271B (zh) | 一种多通道多光谱相机配准方法、***及介质 | |
Zhao et al. | Learning probabilistic coordinate fields for robust correspondences | |
CN113298187A (zh) | 图像处理方法及装置、计算机可读存储介质 | |
Su et al. | Gpr-net: Multi-view layout estimation via a geometry-aware panorama registration network | |
CN117253022A (zh) | 一种对象识别方法、装置及查验设备 | |
CN110288691B (zh) | 渲染图像的方法、装置、电子设备和计算机可读存储介质 | |
WO2022206679A1 (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN116363641A (zh) | 一种图像处理方法、装置及电子设备 | |
CN116188535A (zh) | 基于光流估计的视频跟踪方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |