CN115661368B - 一种图像匹配方法、装置、服务器及存储介质 - Google Patents
一种图像匹配方法、装置、服务器及存储介质 Download PDFInfo
- Publication number
- CN115661368B CN115661368B CN202211598037.XA CN202211598037A CN115661368B CN 115661368 B CN115661368 B CN 115661368B CN 202211598037 A CN202211598037 A CN 202211598037A CN 115661368 B CN115661368 B CN 115661368B
- Authority
- CN
- China
- Prior art keywords
- image
- matching
- matched
- acquiring
- trained
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000013528 artificial neural network Methods 0.000 claims abstract description 50
- 238000000605 extraction Methods 0.000 claims abstract description 50
- 238000012545 processing Methods 0.000 claims abstract description 26
- 238000004458 analytical method Methods 0.000 claims description 38
- 229920001651 Cyanoacrylate Polymers 0.000 claims description 16
- 239000004830 Super Glue Substances 0.000 claims description 16
- 230000008520 organization Effects 0.000 claims description 13
- 230000004044 response Effects 0.000 claims description 13
- 239000011159 matrix material Substances 0.000 claims description 11
- 238000012937 correction Methods 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 11
- 238000012549 training Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Image Analysis (AREA)
Abstract
本申请提供一种图像匹配方法、装置、服务器及存储介质。具体包括:通过获取待匹配的图像集,获取与采集类型对应的图像预配对算法;并对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;获取待匹配的图像集中每张图像的特征区域块,并采用预训练的神经网络以及特征提取网络,获取图像对应的特征描述子;采用预训练的匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。通过本申请提供的方法,神经网络的参与提高了待匹配的图像集中各图像对应的特征描述子的提取效率,提高了匹配的准确度,提高了依据该待匹配的图像集进行三维重建的效率和效果。
Description
技术领域
本申请涉及图像匹配技术领域,具体涉及一种图像匹配方法、装置、服务器及存储介质。
背景技术
在利用图像信息对目标物体进行三维重建时,需要根据图像信息提取足够的特征信息,并根据这些特征信息完成图像匹配,才能推算出该目标物体较为完整的三维信息,以实现三维重建。可见,完成图像匹配是实现三维重建的重要步骤。
而现有技术中,图像匹配常采用尺度不变特征变换(Scale invariant featuretransform,简称:SIFT)特征提取算法,其复杂度高,难以满足实时性要求,且在图像匹配时常用的随机抽样一致性(Random Sample Consensus,简称:RANSAC)算法,迭代次数没有上限,常常无法得出最优解,难以实现图像匹配,导致三维重建所需的时间长且得到的效果不好。
因此,快速且准确的完成图像匹配仍是当下亟需解决的技术问题。
发明内容
本申请提供一种图像匹配方法、装置、服务器及存储介质,用以解决现有技术中的特征提取算法复杂度高且图像匹配算法难以得到最优解而使得图像难以匹配,造成的三维重建时间长效果差的技术问题。
第一方面,本申请提供一种图像匹配方法,包括:
获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理。
在一种可能的实现方式中,所述对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,包括:
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块。
在一种可能的实现方式中,所述对所述图像进行黑塞Hessain矩阵分析,获取分析结果,包括:
在一种可能的实现方式中,根据所述分析结果,获取所述图像对应的内角点,包括:
根据所述分析结果,采用公式:
在一种可能的实现方式中,所述采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子,包括:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
在一种可能的实现方式中,该方法,还包括:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块,包括:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
第二方面,本申请提供一种图像匹配装置,包括:
图像获取模块,用于获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
预配对模块,用于根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
特征提取模块,用于对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
图像匹配模块,用于根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理。
另外,可选的,所述特征提取模块,具体用于:
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块。
可选的,所述特征提取模块,具体用于:
可选的,所述特征提取模块,具体用于:
根据所述分析结果,采用公式:
可选的,所述图像匹配模块,具体用于:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
可选的,所述特征提取模块,还用于:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述特征提取模块,具体用于:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
第三方面,本申请提供一种服务器,包括:
处理器和存储器;
所述存储器用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行如第一方面所述的方法。
第四方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如第一方面所述的方法。
本申请提供一种图像匹配方法、装置、服务器及存储介质。具体包括:获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法;根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子;根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。通过本申请提供的方法,对待匹配的图像集中图像先进行预配对,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子,最后将预配对的初始图像对及该初始图像对对应的特征描述子输入预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,神经网络的参与提高了待匹配的图像集中各图像对应的特征描述子的提取效率,提高了匹配的准确度,也提高了依据该待匹配的图像集进行三维重建的效率和效果。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请提供的一种图像匹配方法实施例一的流程示意图;
图2为本申请提供的一种图像匹配方法实施例二的流程示意图;
图3为本申请提供的一种图像匹配装置实施例的结构示意图;
图4为本申请提供的一种服务器实施例的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在根据本实施例的启示下作出的所有其他实施例,都属于本申请保护的范围。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
在通过目标物体的图像信息来对该目标物体进行三维重建的时候,需要根据该目标物体的二维的图像信息中推算出该目标物体对应的准确的三维信息,而想要得到三维信息,首先就需要对目标物体进行像素上的识别与对齐,即图像匹配。现有技术在进行图像匹配过程中常用的SIFT特征提取算法,复杂度高,计算起来要消耗很高的时间和资源成本,难以满足实时性的要求,且在对所提取的特征描述子进行匹配过程中常用的RANSAC算法是通过迭代的方式从包含内点和外点的点集中估计模型拟合数据的参数,但该算法迭代次数没有上限,计算量大,还常常得不到最优解,匹配效果不稳定。基于上述两种算法进行图像匹配而进行的三维重建,耗时较长且效果不佳。
因此,本申请的技术构思在于:如何提高图像匹配效率及准确度,以在依据图像信息进行三维重建时节省时间,改善重建效果。
下面,通过具体实施例对本申请的技术方案进行详细说明。需要说明的是,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。
图1为本申请提供的一种图像匹配方法实施例一的流程示意图。参照图1,该方法包括:
步骤S101、获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法。
在本实施例中,待匹配的图像集是针对需要进行三维重建的目标物体而拍摄的图像集,该图像集内图像可以是由相应的设备在不同时刻、不同位置以不同角度拍摄的,可以反映该目标物体不同维度特征的图像,因此该待匹配的图像集中各图像相对于目标物体在各方向上的正视图,有着不同程度的方向和角度上的形变。可选的,该设备可以是数码相机、手机、平板电脑等具有图像拍摄功能的设备。
在本实施例中,待匹配的图像集的采集类型包括采集图像使用的设备类型、采集图像时的环境类型以及采集图像的数量等,图像预配对算法包括穷举法、词袋法、顺序序列法、全球定位***(Global Positioning System,简称:GPS)辅助聚类法等。若待匹配的图像集中图像数量不超过200张,则获取穷举法为该待匹配的图像集的图像预配对算法;若待匹配的图像集中图像由同一设备采集,且不同图像间间隔以相同的物理距离,则获取顺序序列法为该待匹配的图像集的图像预配对算法;若待匹配的图像集中图像采集时处于室外环境,且采集设备可标记采集位置的GPS,则获取GPS辅助聚类法为该待匹配的图像集的图像预配对算法;若待匹配的图像集中图像采集时处于室外环境,但无法获取采集位置的GPS,则获取词袋法为该待匹配的图像集的图像预配对算法。
步骤S102、根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对。
在本实施例中,根据待匹配的图像集的采集类型而获取到的预配对算法,对待匹配的图像集中的图像进行预配对处理,以获取待匹配的图像集对应的多个两两匹配的初始图像匹配对。
在本实施例中,若获取到穷举法为该待匹配的图像集的图像预配对算法,则待匹配的图像集中每张图像均与其余图像进行预配对;若获取到顺序序列法为该待匹配的图像集的图像预配对算法,则待匹配的图像集中每张图像可只与拍摄时物理间隔最近的图像进行预配对;若获取到GPS辅助聚类法为该待匹配的图像集的图像预配对算法,则可以根据待匹配的图像集中图像的GPS信息进行分组后再预匹配,始终以GPS信息最相近的两张图像最为优选的与匹配对;若获取到词袋法为该待匹配的图像集的图像预配对算法,则基于词袋模型进行图像预配对。
步骤S103、对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子。
在本实施例中,对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子。经过预训练的神经网络能够具有很强的信息综合能力,同时具有自学习、自组织、自适应性,能很好地协调多种输入信息关系,在并行处理多张图像,时效性高,同时拥有很强的鲁棒性。
步骤S104、根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。
在本实施例中,将多个初始图像匹配对和各匹配对中图像对应的特征描述子输入预训练的SuperGlue匹配网络,若输入的初始图像匹配对能够匹配的特征描述子与其输入的匹配对中图像对应的特征描述子的比值超过预设阈值,即认为该初始图像匹配对中两张图像可以匹配,输出匹配结果为匹配成功的初始图像匹配对的信息,以实现基于该匹配结果进行的图像三维重建处理。可选的,预设阈值标记为match_threshold,其具体参数值可以设为0.2。
在本实施例中,预训练的SuperGlue匹配网络,是基于历史获得的图像集的初始匹配对,获取由预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络获取的特征描述子为训练集的输入,以标记了该历史图像集的初始匹配对的匹配结果为训练集的输出,对原始SuperGlue匹配网络进行训练,获取预训练的SuperGlue匹配网络。由于训练集的输入集中HardNet特征提取网络获取的特征描述子较原始SuperPoint特征提取网络获取的特征描述子更为丰富,具有更高的置信度,故而预训练的SuperGlue匹配网络较原始SuperGlue匹配网络的匹配精度更高更准确。
本实施例中,通过获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法;根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子;根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。通过本实施例提供的方法,对待匹配的图像集中图像先进行预配对,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子,最后将预配对的初始图像对及该初始图像对对应的特征描述子输入预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,神经网络的参与提高了待匹配的图像集中各图像对应的特征描述子的提取效率,提升了匹配的准确度,提高了依据该待匹配的图像集进行三维重建的效率和效果。
在上述实施例的基础上,步骤S103中采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子的一种具体实现方式包括:
采用预训练的Orientation神经网络和预训练的AffineNet神经网络,对特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像。
根据特征区域图像,采用HardNet特征提取网络,提取特征区域图像对应的预设数量的特征描述子。
在本实施例中,预训练的Orientation神经网络和预训练的AffineNet神经网络,是将由于不同的采集方向和角度而导致具有不同程度的方向和形变的特征区域块作为训练集的输入,将矫正后对应的特征区域图像作为训练集的输出,训练Orientation神经网络和AffineNet神经网络而得到。训练集可根据待匹配的图像集的采集类型来进行调整,示例性的,以室外建筑为目标物体时,由于五目相机的不同镜头存在固定角度关系,可以丰富数据源的拍摄角度,且无人机从高处俯拍可以避免由障碍物遮挡引入的干扰,故而该训练集可使用由无人机搭载五目相机采集的图像作为特征区域块的来源图像集;以室内静物为目标物体时,则需要搭建背景色单一的图像采集环境,并使用同一设备拍摄获得的图像为特征区域块的来源图像集,以尽量控制变量。
在本实施例中,HardNet特征提取网络在所有的卷积层用Padding去补充一圈0(最后一层卷积除外),以保证图像尺寸不变,且为了保证特征描述子的性能,没有设置池化层。采用HardNet特征提取网络,提取特征区域图像对应的预设数量的特征描述子。可选的,预设数量可以是128维。
图2为本申请提供的一种图像匹配方法实施例二的流程示意图。参照图2,在上述图1实施例的基础上,步骤S103中,对于待匹配的图像集中每张图像,获取图像的特征区域块的一种具体实现方式为:
步骤S201、对于待匹配的图像集中每张图像,对图像进行黑塞Hessain矩阵分析,获取分析结果。
在一种可能的实现方式中,步骤S201进一步包括:
在本实施例中,对待匹配的图像集中每张图像,对图像上的每个像素点(x,y),计算图像在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵,并获取每个像素点(x,y)对应的Hessain响应值,将每个像素点对应的依据像素点在图像上的对应位置关系进行排列,得到与被分析图像同尺寸的Hessain矩阵分析结果。
步骤S202、根据分析结果,获取图像对应的内角点。
在一种具体的实现方式中,步骤S202进一步包括:
根据分析结果,采用公式:
在本实施例中,为极大值且的点对应高斯曲率变大的点,故将为极大值且的点定义为角点。待匹配的图像集中的每张图像有多个角点。角点是图像很重要的特征,角点在保留图像图形重要特征的同时,可以有效地减少信息的数据量,有效地提高了计算的速度,有利于图像的可靠匹配,对图像图形的理解和分析有很重要的作用。
在本实施例中,为使得获得的特征区域块中包含更多有效特征点,获取以角点为中心向附近延伸第二预设像素长度所对应区域内小于零的点为内角点。内角点为角点附近延伸第二预设像素长度所对应区域的局部极大值点,包含更多的目标物体图像信息,比角点更稳定,更容易获取到有效特征区域块。可选的,第二预设像素长度可以是4像素。
步骤S203、以内角点为中心,根据第一预设像素长度,获取图像的特征区域块。
在本实施例中,一个内角点对应的特征区域块可以是根据不同的第一预设像素长度获取到的多个特征区域块。可选的,第一预设像素长度可以是15像素到25像素范围内的任一像素长度,可以在该范围内确定6个不同的像素长度来获取6个不同大小的特征区域块。
本实施例中,根据对待匹配的图像集中每张图像的黑塞矩阵分析结果,确定出包含更多图像信息的内角点,并根据以内角点为中心,即种子点,根据第一预设像素长度,获取图像的一个或多个特征区域块。以内角点为中心点获取到的特征区域块拥有更多目标物体的有效特征,可保障后续获取得到的特征描述子的有效性,提高图像匹配准确度,保障了三维重建的成像效果。
在上述图2实施例的基础上,该方法,还包括:
对于待匹配的图像集中每张图像,获取图像对应的灰度图像,并根据灰度图像,采用Harris算法,获取图像对应的颜色梯度。
则以内角点为中心,根据第一预设像素长度,获取图像的特征区域块,包括:
以内角点为中心,根据第一预设像素长度和颜色梯度,获取图像的特征区域块。
在本实施例中,待匹配的图像集中具有图像拍摄功能的设备所拍摄的R(红)G(绿)B(蓝)类型的彩色图像,在RGB模型中,假设三通道的值相等,即R=G=B,则该像素点的色彩信息可以由同一的灰度值表示,灰度值的范围是0~255。获取待匹配的图像集中每张图像的灰度图像后,可减少对该图像的计算量,便于采用Harris算法,获取该图像对应的颜色梯度。颜色梯度可以体现该图像中不同颜色所代表的图像信息。
在本实施例中,可以以内角点为中心,根据第一预设像素长度和颜色梯度,获取包含有图像颜色梯度信息的特征区域块。第一预设像素长度可以在15像素到25像素之间任意取值。
图3为本申请提供的一种图像匹配装置实施例的结构示意图。参照图3,图像匹配装置300包括:图像获取模块301、预配对模块302、特征提取模块303和图像匹配模块304。图像获取模块301,用于获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法;预配对模块302,用于根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;特征提取模块303,用于对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子;图像匹配模块304,用于根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。
另外,可选的,特征提取模块303,具体用于:对于待匹配的图像集中每张图像,对图像进行黑塞Hessain矩阵分析,获取分析结果;根据分析结果,获取图像对应的内角点;以内角点为中心,根据第一预设像素长度,获取图像的特征区域块。
可选的,特征提取模块303,具体用于:对图像上的每个像素点(x,y),计算图像在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵;对于每个像素点(x,y),分别获取每个像素点(x,y)对应的Hessain响应值;将每个像素点对应的依据像素点在图像上的对应位置关系进行排列,获取分析结果。
可选的,特征提取模块303,具体用于:根据分析结果,采用公式:获取图像每个像素点(x,y)对应的高斯曲率;将高斯曲率变大的点,作为图像的角点;获取以角点为中心向附近延伸第二预设像素长度所对应区域内小于零的点为内角点;其中,为图像中像素点(x,y)对应的Hessain响应值;为图像在x方向上的一阶导数;为图像在y方向上的一阶导数。
可选的,图像匹配模块304,具体用于:采用预训练的Orientation神经网络和预训练的AffineNet神经网络,对特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;根据特征区域图像,采用HardNet特征提取网络,提取特征区域图像对应的预设数量的特征描述子。
可选的,特征提取模块303,还用于:对于待匹配的图像集中每张图像,获取图像对应的灰度图像,并根据灰度图像,采用Harris算法,获取图像对应的颜色梯度;则特征提取模块303,具体用于:以内角点为中心,根据第一预设像素长度和颜色梯度,获取图像的特征区域块。
本申请实施例提供的一种图像匹配装置可以执行上述任一方法实施例技术方案,其实现原理以及有益效果类似,此处不再赘述。
图4为本申请提供的一种服务器实施例的结构示意图。参照图4,服务器400包括:处理器401和存储器402。
存储器402用于存储处理器401的可执行指令。
其中,处理器401配置为经由执行可执行指令来执行前述任一方法实施例中的技术方案。
本申请提供的一种服务器用于执行前述任一方法实施例中的技术方案,其实现原理和技术效果类似,在此不再赘述。
本申请还提供一种计算机可读存储介质,计算机可读存储介质中存储有计算机执行指令,该计算机执行指令被处理器执行时用于执行前述任一方法实施例中的技术方案,其实现原理和技术效果类似,在此不再赘述。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或对其中部分或全部技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (12)
1.一种图像匹配方法,其特征在于,包括:
获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理。
4.根据权利要求1至3任一所述的方法,其特征在于,所述采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子,包括:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
5.根据权利要求1所述的方法,其特征在于,还包括:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块,包括:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
6.一种图像匹配装置,其特征在于,包括:
图像获取模块,用于获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
预配对模块,用于根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
特征提取模块,用于对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
图像匹配模块,用于根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理;
所述特征提取模块,具体用于:
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块。
9.根据权利要求6至8任一所述的装置,其特征在于,所述图像匹配模块,具体用于:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
10.根据权利要求6所述的装置,其特征在于,所述特征提取模块,还用于:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述特征提取模块,具体用于:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
11.一种服务器,其特征在于,包括:
处理器和存储器;
所述存储器用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行如权利要求1至5中任一项所述的方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如权利要求1至5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211598037.XA CN115661368B (zh) | 2022-12-14 | 2022-12-14 | 一种图像匹配方法、装置、服务器及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211598037.XA CN115661368B (zh) | 2022-12-14 | 2022-12-14 | 一种图像匹配方法、装置、服务器及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115661368A CN115661368A (zh) | 2023-01-31 |
CN115661368B true CN115661368B (zh) | 2023-04-11 |
Family
ID=85022936
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211598037.XA Active CN115661368B (zh) | 2022-12-14 | 2022-12-14 | 一种图像匹配方法、装置、服务器及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115661368B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110009722A (zh) * | 2019-04-16 | 2019-07-12 | 成都四方伟业软件股份有限公司 | 三维重建方法及装置 |
WO2020206903A1 (zh) * | 2019-04-08 | 2020-10-15 | 平安科技(深圳)有限公司 | 影像匹配方法、装置及计算机可读存储介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100309225A1 (en) * | 2009-06-03 | 2010-12-09 | Gray Douglas R | Image matching for mobile augmented reality |
CN101984463A (zh) * | 2010-11-02 | 2011-03-09 | 中兴通讯股份有限公司 | 全景图合成方法及装置 |
CN110781911B (zh) * | 2019-08-15 | 2022-08-19 | 腾讯科技(深圳)有限公司 | 一种图像匹配方法、装置、设备及存储介质 |
-
2022
- 2022-12-14 CN CN202211598037.XA patent/CN115661368B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020206903A1 (zh) * | 2019-04-08 | 2020-10-15 | 平安科技(深圳)有限公司 | 影像匹配方法、装置及计算机可读存储介质 |
CN110009722A (zh) * | 2019-04-16 | 2019-07-12 | 成都四方伟业软件股份有限公司 | 三维重建方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115661368A (zh) | 2023-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2020228446A1 (zh) | 模型训练方法、装置、终端及存储介质 | |
US9530073B2 (en) | Efficient descriptor extraction over multiple levels of an image scale space | |
CN110232326B (zh) | 一种三维物体识别方法、装置及存储介质 | |
CN108345821B (zh) | 面部追踪方法及设备 | |
JP2016513843A (ja) | 特徴の空間局所化を利用することによる物体検出時間の減少 | |
CN103426190B (zh) | 图像重构的方法及*** | |
WO2022179549A1 (zh) | 一种标定方法、装置、计算机设备和存储介质 | |
CN112435223B (zh) | 目标检测方法、装置及存储介质 | |
WO2020014913A1 (zh) | 物体体积测量方法、相关装置及计算机可读存储介质 | |
CN112861666A (zh) | 一种基于深度学习的鸡群计数方法及应用 | |
CN114332183A (zh) | 图像配准方法、装置、计算机设备和存储介质 | |
CN116664892A (zh) | 基于交叉注意与可形变卷积的多时相遥感图像配准方法 | |
CN117876608B (zh) | 三维图像重建方法、装置、计算机设备及存储介质 | |
Badki et al. | Robust radiometric calibration for dynamic scenes in the wild | |
CN112102379B (zh) | 一种无人机多光谱影像配准方法 | |
CN115661368B (zh) | 一种图像匹配方法、装置、服务器及存储介质 | |
CN111914890B (zh) | 图像之间的图像块匹配方法、图像配准方法和产品 | |
US9098746B2 (en) | Building texture extracting apparatus and method thereof | |
CN109493279B (zh) | 一种大规模无人机图像并行拼接方法 | |
CN110751163B (zh) | 目标定位方法及其装置、计算机可读存储介质和电子设备 | |
CN106651950B (zh) | 一种基于二次曲线透视投影不变性的单相机位姿估计方法 | |
CN114913246A (zh) | 相机标定方法、装置、电子设备及存储介质 | |
CN110020624B (zh) | 图像识别方法、终端设备及存储介质 | |
CN114140429A (zh) | 一种车端实时停车位检测方法和装置 | |
Otoya et al. | Real-time non-invasive leaf area measurement method using depth images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |