CN115661368B - 一种图像匹配方法、装置、服务器及存储介质 - Google Patents

一种图像匹配方法、装置、服务器及存储介质 Download PDF

Info

Publication number
CN115661368B
CN115661368B CN202211598037.XA CN202211598037A CN115661368B CN 115661368 B CN115661368 B CN 115661368B CN 202211598037 A CN202211598037 A CN 202211598037A CN 115661368 B CN115661368 B CN 115661368B
Authority
CN
China
Prior art keywords
image
matching
matched
acquiring
trained
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211598037.XA
Other languages
English (en)
Other versions
CN115661368A (zh
Inventor
金岩
邱敏
刘继超
詹慧媚
甘琳
唐至威
冯谨强
胡国锋
付晓雪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hainayun IoT Technology Co Ltd
Qingdao Hainayun Digital Technology Co Ltd
Qingdao Hainayun Intelligent System Co Ltd
Original Assignee
Hainayun IoT Technology Co Ltd
Qingdao Hainayun Digital Technology Co Ltd
Qingdao Hainayun Intelligent System Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hainayun IoT Technology Co Ltd, Qingdao Hainayun Digital Technology Co Ltd, Qingdao Hainayun Intelligent System Co Ltd filed Critical Hainayun IoT Technology Co Ltd
Priority to CN202211598037.XA priority Critical patent/CN115661368B/zh
Publication of CN115661368A publication Critical patent/CN115661368A/zh
Application granted granted Critical
Publication of CN115661368B publication Critical patent/CN115661368B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Image Analysis (AREA)

Abstract

本申请提供一种图像匹配方法、装置、服务器及存储介质。具体包括:通过获取待匹配的图像集,获取与采集类型对应的图像预配对算法;并对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;获取待匹配的图像集中每张图像的特征区域块,并采用预训练的神经网络以及特征提取网络,获取图像对应的特征描述子;采用预训练的匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。通过本申请提供的方法,神经网络的参与提高了待匹配的图像集中各图像对应的特征描述子的提取效率,提高了匹配的准确度,提高了依据该待匹配的图像集进行三维重建的效率和效果。

Description

一种图像匹配方法、装置、服务器及存储介质
技术领域
本申请涉及图像匹配技术领域,具体涉及一种图像匹配方法、装置、服务器及存储介质。
背景技术
在利用图像信息对目标物体进行三维重建时,需要根据图像信息提取足够的特征信息,并根据这些特征信息完成图像匹配,才能推算出该目标物体较为完整的三维信息,以实现三维重建。可见,完成图像匹配是实现三维重建的重要步骤。
而现有技术中,图像匹配常采用尺度不变特征变换(Scale invariant featuretransform,简称:SIFT)特征提取算法,其复杂度高,难以满足实时性要求,且在图像匹配时常用的随机抽样一致性(Random Sample Consensus,简称:RANSAC)算法,迭代次数没有上限,常常无法得出最优解,难以实现图像匹配,导致三维重建所需的时间长且得到的效果不好。
因此,快速且准确的完成图像匹配仍是当下亟需解决的技术问题。
发明内容
本申请提供一种图像匹配方法、装置、服务器及存储介质,用以解决现有技术中的特征提取算法复杂度高且图像匹配算法难以得到最优解而使得图像难以匹配,造成的三维重建时间长效果差的技术问题。
第一方面,本申请提供一种图像匹配方法,包括:
获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理。
在一种可能的实现方式中,所述对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,包括:
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块。
在一种可能的实现方式中,所述对所述图像进行黑塞Hessain矩阵分析,获取分析结果,包括:
对所述图像
Figure 884592DEST_PATH_IMAGE001
上的每个像素点(x,y),计算图像
Figure 554608DEST_PATH_IMAGE001
在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵
Figure 575521DEST_PATH_IMAGE002
对于每个所述像素点(x,y),分别获取每个像素点(x,y)对应的Hessain响应值
Figure 356395DEST_PATH_IMAGE003
将所述每个像素点对应的
Figure 748193DEST_PATH_IMAGE004
依据所述像素点在所述图像上的对应位置关系进行排列,获取所述分析结果。
在一种可能的实现方式中,根据所述分析结果,获取所述图像对应的内角点,包括:
根据所述分析结果,采用公式:
Figure 589110DEST_PATH_IMAGE005
获取所述图像
Figure 315627DEST_PATH_IMAGE001
每个像素点(x,y)对应的高斯曲率
Figure 41137DEST_PATH_IMAGE006
将所述高斯曲率
Figure 412076DEST_PATH_IMAGE006
变大的点,作为所述图像的角点;
获取以所述角点为中心向附近延伸第二预设像素长度所对应区域内
Figure 158315DEST_PATH_IMAGE007
小于零的点为内角点;
其中,
Figure 608013DEST_PATH_IMAGE007
为所述图像中像素点(x,y)对应的Hessain响应值;
Figure 996269DEST_PATH_IMAGE008
为所述图像
Figure 362660DEST_PATH_IMAGE001
在x方向上的一阶导数;
Figure 670013DEST_PATH_IMAGE009
为所述图像
Figure 246488DEST_PATH_IMAGE001
在y方向上的一阶导数。
在一种可能的实现方式中,所述采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子,包括:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
在一种可能的实现方式中,该方法,还包括:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块,包括:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
第二方面,本申请提供一种图像匹配装置,包括:
图像获取模块,用于获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
预配对模块,用于根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
特征提取模块,用于对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
图像匹配模块,用于根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理。
另外,可选的,所述特征提取模块,具体用于:
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块。
可选的,所述特征提取模块,具体用于:
对所述图像
Figure 48222DEST_PATH_IMAGE001
上的每个像素点(x,y),计算图像
Figure 128173DEST_PATH_IMAGE001
在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵
Figure 370542DEST_PATH_IMAGE002
对于每个所述像素点(x,y),分别获取每个像素点(x,y)对应的Hessain响应值
Figure 168734DEST_PATH_IMAGE003
将所述每个像素点对应的
Figure 508580DEST_PATH_IMAGE004
依据所述像素点在所述图像上的对应位置关系进行排列,获取所述分析结果。
可选的,所述特征提取模块,具体用于:
根据所述分析结果,采用公式:
Figure 708617DEST_PATH_IMAGE005
获取所述图像
Figure 623352DEST_PATH_IMAGE001
每个像素点(x,y)对应的高斯曲率
Figure 643261DEST_PATH_IMAGE006
将所述高斯曲率
Figure 52377DEST_PATH_IMAGE006
变大的点,作为所述图像的角点;
获取以所述角点为中心向附近延伸第二预设像素长度所对应区域内
Figure 106920DEST_PATH_IMAGE004
小于零的点为内角点;
其中,
Figure 428442DEST_PATH_IMAGE007
为所述图像中像素点(x,y)对应的Hessain响应值;
Figure 201226DEST_PATH_IMAGE008
为所述图像
Figure 148454DEST_PATH_IMAGE001
在x方向上的一阶导数;
Figure 323083DEST_PATH_IMAGE009
为所述图像
Figure 579621DEST_PATH_IMAGE001
在y方向上的一阶导数。
可选的,所述图像匹配模块,具体用于:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
可选的,所述特征提取模块,还用于:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述特征提取模块,具体用于:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
第三方面,本申请提供一种服务器,包括:
处理器和存储器;
所述存储器用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行如第一方面所述的方法。
第四方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如第一方面所述的方法。
本申请提供一种图像匹配方法、装置、服务器及存储介质。具体包括:获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法;根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子;根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。通过本申请提供的方法,对待匹配的图像集中图像先进行预配对,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子,最后将预配对的初始图像对及该初始图像对对应的特征描述子输入预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,神经网络的参与提高了待匹配的图像集中各图像对应的特征描述子的提取效率,提高了匹配的准确度,也提高了依据该待匹配的图像集进行三维重建的效率和效果。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本申请提供的一种图像匹配方法实施例一的流程示意图;
图2为本申请提供的一种图像匹配方法实施例二的流程示意图;
图3为本申请提供的一种图像匹配装置实施例的结构示意图;
图4为本申请提供的一种服务器实施例的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在根据本实施例的启示下作出的所有其他实施例,都属于本申请保护的范围。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
在通过目标物体的图像信息来对该目标物体进行三维重建的时候,需要根据该目标物体的二维的图像信息中推算出该目标物体对应的准确的三维信息,而想要得到三维信息,首先就需要对目标物体进行像素上的识别与对齐,即图像匹配。现有技术在进行图像匹配过程中常用的SIFT特征提取算法,复杂度高,计算起来要消耗很高的时间和资源成本,难以满足实时性的要求,且在对所提取的特征描述子进行匹配过程中常用的RANSAC算法是通过迭代的方式从包含内点和外点的点集中估计模型拟合数据的参数,但该算法迭代次数没有上限,计算量大,还常常得不到最优解,匹配效果不稳定。基于上述两种算法进行图像匹配而进行的三维重建,耗时较长且效果不佳。
因此,本申请的技术构思在于:如何提高图像匹配效率及准确度,以在依据图像信息进行三维重建时节省时间,改善重建效果。
下面,通过具体实施例对本申请的技术方案进行详细说明。需要说明的是,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。
图1为本申请提供的一种图像匹配方法实施例一的流程示意图。参照图1,该方法包括:
步骤S101、获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法。
在本实施例中,待匹配的图像集是针对需要进行三维重建的目标物体而拍摄的图像集,该图像集内图像可以是由相应的设备在不同时刻、不同位置以不同角度拍摄的,可以反映该目标物体不同维度特征的图像,因此该待匹配的图像集中各图像相对于目标物体在各方向上的正视图,有着不同程度的方向和角度上的形变。可选的,该设备可以是数码相机、手机、平板电脑等具有图像拍摄功能的设备。
在本实施例中,待匹配的图像集的采集类型包括采集图像使用的设备类型、采集图像时的环境类型以及采集图像的数量等,图像预配对算法包括穷举法、词袋法、顺序序列法、全球定位***(Global Positioning System,简称:GPS)辅助聚类法等。若待匹配的图像集中图像数量不超过200张,则获取穷举法为该待匹配的图像集的图像预配对算法;若待匹配的图像集中图像由同一设备采集,且不同图像间间隔以相同的物理距离,则获取顺序序列法为该待匹配的图像集的图像预配对算法;若待匹配的图像集中图像采集时处于室外环境,且采集设备可标记采集位置的GPS,则获取GPS辅助聚类法为该待匹配的图像集的图像预配对算法;若待匹配的图像集中图像采集时处于室外环境,但无法获取采集位置的GPS,则获取词袋法为该待匹配的图像集的图像预配对算法。
步骤S102、根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对。
在本实施例中,根据待匹配的图像集的采集类型而获取到的预配对算法,对待匹配的图像集中的图像进行预配对处理,以获取待匹配的图像集对应的多个两两匹配的初始图像匹配对。
在本实施例中,若获取到穷举法为该待匹配的图像集的图像预配对算法,则待匹配的图像集中每张图像均与其余图像进行预配对;若获取到顺序序列法为该待匹配的图像集的图像预配对算法,则待匹配的图像集中每张图像可只与拍摄时物理间隔最近的图像进行预配对;若获取到GPS辅助聚类法为该待匹配的图像集的图像预配对算法,则可以根据待匹配的图像集中图像的GPS信息进行分组后再预匹配,始终以GPS信息最相近的两张图像最为优选的与匹配对;若获取到词袋法为该待匹配的图像集的图像预配对算法,则基于词袋模型进行图像预配对。
步骤S103、对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子。
在本实施例中,对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子。经过预训练的神经网络能够具有很强的信息综合能力,同时具有自学习、自组织、自适应性,能很好地协调多种输入信息关系,在并行处理多张图像,时效性高,同时拥有很强的鲁棒性。
步骤S104、根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。
在本实施例中,将多个初始图像匹配对和各匹配对中图像对应的特征描述子输入预训练的SuperGlue匹配网络,若输入的初始图像匹配对能够匹配的特征描述子与其输入的匹配对中图像对应的特征描述子的比值超过预设阈值,即认为该初始图像匹配对中两张图像可以匹配,输出匹配结果为匹配成功的初始图像匹配对的信息,以实现基于该匹配结果进行的图像三维重建处理。可选的,预设阈值标记为match_threshold,其具体参数值可以设为0.2。
在本实施例中,预训练的SuperGlue匹配网络,是基于历史获得的图像集的初始匹配对,获取由预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络获取的特征描述子为训练集的输入,以标记了该历史图像集的初始匹配对的匹配结果为训练集的输出,对原始SuperGlue匹配网络进行训练,获取预训练的SuperGlue匹配网络。由于训练集的输入集中HardNet特征提取网络获取的特征描述子较原始SuperPoint特征提取网络获取的特征描述子更为丰富,具有更高的置信度,故而预训练的SuperGlue匹配网络较原始SuperGlue匹配网络的匹配精度更高更准确。
本实施例中,通过获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法;根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子;根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。通过本实施例提供的方法,对待匹配的图像集中图像先进行预配对,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子,最后将预配对的初始图像对及该初始图像对对应的特征描述子输入预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,神经网络的参与提高了待匹配的图像集中各图像对应的特征描述子的提取效率,提升了匹配的准确度,提高了依据该待匹配的图像集进行三维重建的效率和效果。
在上述实施例的基础上,步骤S103中采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子的一种具体实现方式包括:
采用预训练的Orientation神经网络和预训练的AffineNet神经网络,对特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像。
根据特征区域图像,采用HardNet特征提取网络,提取特征区域图像对应的预设数量的特征描述子。
在本实施例中,预训练的Orientation神经网络和预训练的AffineNet神经网络,是将由于不同的采集方向和角度而导致具有不同程度的方向和形变的特征区域块作为训练集的输入,将矫正后对应的特征区域图像作为训练集的输出,训练Orientation神经网络和AffineNet神经网络而得到。训练集可根据待匹配的图像集的采集类型来进行调整,示例性的,以室外建筑为目标物体时,由于五目相机的不同镜头存在固定角度关系,可以丰富数据源的拍摄角度,且无人机从高处俯拍可以避免由障碍物遮挡引入的干扰,故而该训练集可使用由无人机搭载五目相机采集的图像作为特征区域块的来源图像集;以室内静物为目标物体时,则需要搭建背景色单一的图像采集环境,并使用同一设备拍摄获得的图像为特征区域块的来源图像集,以尽量控制变量。
在本实施例中,HardNet特征提取网络在所有的卷积层用Padding去补充一圈0(最后一层卷积除外),以保证图像尺寸不变,且为了保证特征描述子的性能,没有设置池化层。采用HardNet特征提取网络,提取特征区域图像对应的预设数量的特征描述子。可选的,预设数量可以是128维。
图2为本申请提供的一种图像匹配方法实施例二的流程示意图。参照图2,在上述图1实施例的基础上,步骤S103中,对于待匹配的图像集中每张图像,获取图像的特征区域块的一种具体实现方式为:
步骤S201、对于待匹配的图像集中每张图像,对图像进行黑塞Hessain矩阵分析,获取分析结果。
在一种可能的实现方式中,步骤S201进一步包括:
对图像
Figure 574122DEST_PATH_IMAGE001
上的每个像素点(x,y),计算图像
Figure 325040DEST_PATH_IMAGE001
在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵
Figure 354176DEST_PATH_IMAGE002
对于每个像素点(x,y),分别获取每个像素点(x,y)对应的Hessain响应值
Figure 20430DEST_PATH_IMAGE003
将每个像素点对应的
Figure 767807DEST_PATH_IMAGE004
依据像素点在图像上的对应位置关系进行排列,获取分析结果。
在本实施例中,对待匹配的图像集中每张图像,对图像
Figure 56837DEST_PATH_IMAGE001
上的每个像素点(x,y),计算图像
Figure 940479DEST_PATH_IMAGE001
在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵
Figure 273240DEST_PATH_IMAGE002
,并获取每个像素点(x,y)对应的Hessain响应值
Figure 242333DEST_PATH_IMAGE003
,将每个像素点对应的
Figure 335054DEST_PATH_IMAGE004
依据像素点在图像上的对应位置关系进行排列,得到与被分析图像同尺寸的Hessain矩阵分析结果。
步骤S202、根据分析结果,获取图像对应的内角点。
在一种具体的实现方式中,步骤S202进一步包括:
根据分析结果,采用公式:
Figure 73203DEST_PATH_IMAGE010
获取图像
Figure 343910DEST_PATH_IMAGE001
每个像素点(x,y)对应的高斯曲率
Figure 800299DEST_PATH_IMAGE006
将高斯曲率
Figure 431131DEST_PATH_IMAGE006
变大的点,作为图像的角点。
获取以角点为中心向附近延伸第二预设像素长度所对应区域内
Figure 289366DEST_PATH_IMAGE004
小于零的点为内角点。
其中,
Figure 229509DEST_PATH_IMAGE007
为图像中像素点(x,y)对应的Hessain响应值;
Figure 907615DEST_PATH_IMAGE008
为图像
Figure 342139DEST_PATH_IMAGE001
在x方向上的一阶导数;
Figure 54880DEST_PATH_IMAGE009
为图像
Figure 664459DEST_PATH_IMAGE001
在y方向上的一阶导数。
在本实施例中,
Figure 95440DEST_PATH_IMAGE007
为极大值且
Figure 68076DEST_PATH_IMAGE011
的点对应高斯曲率变大的点,故将
Figure 635323DEST_PATH_IMAGE007
为极大值且
Figure 917269DEST_PATH_IMAGE011
的点定义为角点。待匹配的图像集中的每张图像有多个角点。角点是图像很重要的特征,角点在保留图像图形重要特征的同时,可以有效地减少信息的数据量,有效地提高了计算的速度,有利于图像的可靠匹配,对图像图形的理解和分析有很重要的作用。
在本实施例中,为使得获得的特征区域块中包含更多有效特征点,获取以角点为中心向附近延伸第二预设像素长度所对应区域内
Figure 710913DEST_PATH_IMAGE004
小于零的点为内角点。内角点为角点附近延伸第二预设像素长度所对应区域的局部极大值点,包含更多的目标物体图像信息,比角点更稳定,更容易获取到有效特征区域块。可选的,第二预设像素长度可以是4像素。
步骤S203、以内角点为中心,根据第一预设像素长度,获取图像的特征区域块。
在本实施例中,一个内角点对应的特征区域块可以是根据不同的第一预设像素长度获取到的多个特征区域块。可选的,第一预设像素长度可以是15像素到25像素范围内的任一像素长度,可以在该范围内确定6个不同的像素长度来获取6个不同大小的特征区域块。
本实施例中,根据对待匹配的图像集中每张图像的黑塞矩阵分析结果,确定出包含更多图像信息的内角点,并根据以内角点为中心,即种子点,根据第一预设像素长度,获取图像的一个或多个特征区域块。以内角点为中心点获取到的特征区域块拥有更多目标物体的有效特征,可保障后续获取得到的特征描述子的有效性,提高图像匹配准确度,保障了三维重建的成像效果。
在上述图2实施例的基础上,该方法,还包括:
对于待匹配的图像集中每张图像,获取图像对应的灰度图像,并根据灰度图像,采用Harris算法,获取图像对应的颜色梯度。
则以内角点为中心,根据第一预设像素长度,获取图像的特征区域块,包括:
以内角点为中心,根据第一预设像素长度和颜色梯度,获取图像的特征区域块。
在本实施例中,待匹配的图像集中具有图像拍摄功能的设备所拍摄的R(红)G(绿)B(蓝)类型的彩色图像,在RGB模型中,假设三通道的值相等,即R=G=B,则该像素点的色彩信息可以由同一的灰度值表示,灰度值的范围是0~255。获取待匹配的图像集中每张图像的灰度图像后,可减少对该图像的计算量,便于采用Harris算法,获取该图像对应的颜色梯度。颜色梯度可以体现该图像中不同颜色所代表的图像信息。
在本实施例中,可以以内角点为中心,根据第一预设像素长度和颜色梯度,获取包含有图像颜色梯度信息的特征区域块。第一预设像素长度可以在15像素到25像素之间任意取值。
图3为本申请提供的一种图像匹配装置实施例的结构示意图。参照图3,图像匹配装置300包括:图像获取模块301、预配对模块302、特征提取模块303和图像匹配模块304。图像获取模块301,用于获取待匹配的图像集,并根据待匹配的图像集的采集类型,获取与采集类型对应的图像预配对算法;预配对模块302,用于根据图像预配对算法,对待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;特征提取模块303,用于对于待匹配的图像集中每张图像,获取图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取图像对应的特征描述子;图像匹配模块304,用于根据多个初始图像匹配对和待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取待匹配的图像集的匹配结果,以实现基于匹配结果进行的图像三维重建处理。
另外,可选的,特征提取模块303,具体用于:对于待匹配的图像集中每张图像,对图像进行黑塞Hessain矩阵分析,获取分析结果;根据分析结果,获取图像对应的内角点;以内角点为中心,根据第一预设像素长度,获取图像的特征区域块。
可选的,特征提取模块303,具体用于:对图像
Figure 611872DEST_PATH_IMAGE001
上的每个像素点(x,y),计算图像
Figure 33626DEST_PATH_IMAGE001
在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵
Figure 987938DEST_PATH_IMAGE002
;对于每个像素点(x,y),分别获取每个像素点(x,y)对应的Hessain响应值
Figure 127933DEST_PATH_IMAGE003
;将每个像素点对应的
Figure 707950DEST_PATH_IMAGE004
依据像素点在图像上的对应位置关系进行排列,获取分析结果。
可选的,特征提取模块303,具体用于:根据分析结果,采用公式:
Figure 374423DEST_PATH_IMAGE012
获取图像
Figure 873538DEST_PATH_IMAGE001
每个像素点(x,y)对应的高斯曲率
Figure 376194DEST_PATH_IMAGE006
;将高斯曲率
Figure 618957DEST_PATH_IMAGE006
变大的点,作为图像的角点;获取以角点为中心向附近延伸第二预设像素长度所对应区域内
Figure 898192DEST_PATH_IMAGE004
小于零的点为内角点;其中,
Figure 568208DEST_PATH_IMAGE007
为图像中像素点(x,y)对应的Hessain响应值;
Figure 292581DEST_PATH_IMAGE008
为图像
Figure 339035DEST_PATH_IMAGE001
在x方向上的一阶导数;
Figure 980100DEST_PATH_IMAGE009
为图像
Figure 821017DEST_PATH_IMAGE001
在y方向上的一阶导数。
可选的,图像匹配模块304,具体用于:采用预训练的Orientation神经网络和预训练的AffineNet神经网络,对特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;根据特征区域图像,采用HardNet特征提取网络,提取特征区域图像对应的预设数量的特征描述子。
可选的,特征提取模块303,还用于:对于待匹配的图像集中每张图像,获取图像对应的灰度图像,并根据灰度图像,采用Harris算法,获取图像对应的颜色梯度;则特征提取模块303,具体用于:以内角点为中心,根据第一预设像素长度和颜色梯度,获取图像的特征区域块。
本申请实施例提供的一种图像匹配装置可以执行上述任一方法实施例技术方案,其实现原理以及有益效果类似,此处不再赘述。
图4为本申请提供的一种服务器实施例的结构示意图。参照图4,服务器400包括:处理器401和存储器402。
存储器402用于存储处理器401的可执行指令。
其中,处理器401配置为经由执行可执行指令来执行前述任一方法实施例中的技术方案。
本申请提供的一种服务器用于执行前述任一方法实施例中的技术方案,其实现原理和技术效果类似,在此不再赘述。
本申请还提供一种计算机可读存储介质,计算机可读存储介质中存储有计算机执行指令,该计算机执行指令被处理器执行时用于执行前述任一方法实施例中的技术方案,其实现原理和技术效果类似,在此不再赘述。
本领域普通技术人员可以理解:实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或对其中部分或全部技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。

Claims (12)

1.一种图像匹配方法,其特征在于,包括:
获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理。
2.根据权利要求1所述的方法,其特征在于,所述对所述图像进行黑塞Hessain矩阵分析,获取分析结果,包括:
对所述图像
Figure QLYQS_1
上的每个像素点(x,y),计算图像
Figure QLYQS_2
在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵
Figure QLYQS_3
对于每个所述像素点(x,y),分别获取每个像素点(x,y)对应的Hessain响应值
Figure QLYQS_4
将所述每个像素点对应的
Figure QLYQS_5
依据所述像素点在所述图像上的对应位置关系进行排列,获取所述分析结果。
3.根据权利要求2所述的方法,其特征在于,根据所述分析结果,获取所述图像对应的内角点,包括:
根据所述分析结果,采用公式:
Figure QLYQS_6
获取所述图像
Figure QLYQS_7
每个像素点(x,y)对应的高斯曲率
Figure QLYQS_8
将所述高斯曲率
Figure QLYQS_9
变大的点,作为所述图像的角点;
获取以所述角点为中心向附近延伸第二预设像素长度所对应区域内
Figure QLYQS_10
小于零的点为内角点;
其中,
Figure QLYQS_11
为所述图像中像素点(x,y)对应的Hessain响应值;
Figure QLYQS_12
为所述图像
Figure QLYQS_13
在x方向上的一阶导数;
Figure QLYQS_14
为所述图像
Figure QLYQS_15
在y方向上的一阶导数。
4.根据权利要求1至3任一所述的方法,其特征在于,所述采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子,包括:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
5.根据权利要求1所述的方法,其特征在于,还包括:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块,包括:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
6.一种图像匹配装置,其特征在于,包括:
图像获取模块,用于获取待匹配的图像集,并根据所述待匹配的图像集的采集类型,获取与所述采集类型对应的图像预配对算法;
预配对模块,用于根据所述图像预配对算法,对所述待匹配的图像集中的图像进行预配对处理,获取多个初始图像匹配对;
特征提取模块,用于对于所述待匹配的图像集中每张图像,获取所述图像的特征区域块,并采用预训练的Orientation神经网络、预训练的AffineNet神经网络以及HardNet特征提取网络,获取所述图像对应的特征描述子;
图像匹配模块,用于根据所述多个初始图像匹配对和所述待匹配的图像集中每张图像对应的特征描述子,采用预训练的SuperGlue匹配网络,获取所述待匹配的图像集的匹配结果,以实现基于所述匹配结果进行的图像三维重建处理;
所述特征提取模块,具体用于:
对于所述待匹配的图像集中每张图像,对所述图像进行黑塞Hessain矩阵分析,获取分析结果;
根据所述分析结果,获取所述图像对应的内角点;
以所述内角点为中心,根据第一预设像素长度,获取所述图像的特征区域块。
7.根据权利要求6所述的装置,其特征在于,所述特征提取模块,具体用于:
对所述图像
Figure QLYQS_16
上的每个像素点(x,y),计算图像
Figure QLYQS_17
在x方向、y方向上的二阶偏导数以及在xy方向上的二阶导数,获取Hessain矩阵
Figure QLYQS_18
对于每个所述像素点(x,y),分别获取每个像素点(x,y)对应的Hessain响应值
Figure QLYQS_19
将所述每个像素点对应的
Figure QLYQS_20
依据所述像素点在所述图像上的对应位置关系进行排列,获取所述分析结果。
8.根据权利要求7所述的装置,其特征在于,所述特征提取模块,具体用于:
根据所述分析结果,采用公式:
Figure QLYQS_21
获取所述图像
Figure QLYQS_22
每个像素点(x,y)对应的高斯曲率
Figure QLYQS_23
将所述高斯曲率
Figure QLYQS_24
变大的点,作为所述图像的角点;
获取以所述角点为中心向附近延伸第二预设像素长度所对应区域内
Figure QLYQS_25
小于零的点为内角点;
其中,
Figure QLYQS_26
为所述图像中像素点(x,y)对应的Hessain响应值;
Figure QLYQS_27
为所述图像
Figure QLYQS_28
在x方向上的一阶导数;
Figure QLYQS_29
为所述图像
Figure QLYQS_30
在y方向上的一阶导数。
9.根据权利要求6至8任一所述的装置,其特征在于,所述图像匹配模块,具体用于:
采用所述预训练的Orientation神经网络和预训练的AffineNet神经网络,对所述特征区域块进行方向和形变矫正处理,以获取矫正后的特征区域块对应的特征区域图像;
根据所述特征区域图像,采用所述HardNet特征提取网络,提取所述特征区域图像对应的预设数量的特征描述子。
10.根据权利要求6所述的装置,其特征在于,所述特征提取模块,还用于:
对于所述待匹配的图像集中每张图像,获取所述图像对应的灰度图像,并根据所述灰度图像,采用Harris算法,获取所述图像对应的颜色梯度;
则所述特征提取模块,具体用于:
以所述内角点为中心,根据所述第一预设像素长度和所述颜色梯度,获取所述图像的特征区域块。
11.一种服务器,其特征在于,包括:
处理器和存储器;
所述存储器用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行如权利要求1至5中任一项所述的方法。
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,所述计算机执行指令被处理器执行时用于实现如权利要求1至5中任一项所述的方法。
CN202211598037.XA 2022-12-14 2022-12-14 一种图像匹配方法、装置、服务器及存储介质 Active CN115661368B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211598037.XA CN115661368B (zh) 2022-12-14 2022-12-14 一种图像匹配方法、装置、服务器及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211598037.XA CN115661368B (zh) 2022-12-14 2022-12-14 一种图像匹配方法、装置、服务器及存储介质

Publications (2)

Publication Number Publication Date
CN115661368A CN115661368A (zh) 2023-01-31
CN115661368B true CN115661368B (zh) 2023-04-11

Family

ID=85022936

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211598037.XA Active CN115661368B (zh) 2022-12-14 2022-12-14 一种图像匹配方法、装置、服务器及存储介质

Country Status (1)

Country Link
CN (1) CN115661368B (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110009722A (zh) * 2019-04-16 2019-07-12 成都四方伟业软件股份有限公司 三维重建方法及装置
WO2020206903A1 (zh) * 2019-04-08 2020-10-15 平安科技(深圳)有限公司 影像匹配方法、装置及计算机可读存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100309225A1 (en) * 2009-06-03 2010-12-09 Gray Douglas R Image matching for mobile augmented reality
CN101984463A (zh) * 2010-11-02 2011-03-09 中兴通讯股份有限公司 全景图合成方法及装置
CN110781911B (zh) * 2019-08-15 2022-08-19 腾讯科技(深圳)有限公司 一种图像匹配方法、装置、设备及存储介质

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020206903A1 (zh) * 2019-04-08 2020-10-15 平安科技(深圳)有限公司 影像匹配方法、装置及计算机可读存储介质
CN110009722A (zh) * 2019-04-16 2019-07-12 成都四方伟业软件股份有限公司 三维重建方法及装置

Also Published As

Publication number Publication date
CN115661368A (zh) 2023-01-31

Similar Documents

Publication Publication Date Title
WO2020228446A1 (zh) 模型训练方法、装置、终端及存储介质
US9530073B2 (en) Efficient descriptor extraction over multiple levels of an image scale space
CN110232326B (zh) 一种三维物体识别方法、装置及存储介质
CN108345821B (zh) 面部追踪方法及设备
JP2016513843A (ja) 特徴の空間局所化を利用することによる物体検出時間の減少
CN103426190B (zh) 图像重构的方法及***
WO2022179549A1 (zh) 一种标定方法、装置、计算机设备和存储介质
CN112435223B (zh) 目标检测方法、装置及存储介质
WO2020014913A1 (zh) 物体体积测量方法、相关装置及计算机可读存储介质
CN112861666A (zh) 一种基于深度学习的鸡群计数方法及应用
CN114332183A (zh) 图像配准方法、装置、计算机设备和存储介质
CN116664892A (zh) 基于交叉注意与可形变卷积的多时相遥感图像配准方法
CN117876608B (zh) 三维图像重建方法、装置、计算机设备及存储介质
Badki et al. Robust radiometric calibration for dynamic scenes in the wild
CN112102379B (zh) 一种无人机多光谱影像配准方法
CN115661368B (zh) 一种图像匹配方法、装置、服务器及存储介质
CN111914890B (zh) 图像之间的图像块匹配方法、图像配准方法和产品
US9098746B2 (en) Building texture extracting apparatus and method thereof
CN109493279B (zh) 一种大规模无人机图像并行拼接方法
CN110751163B (zh) 目标定位方法及其装置、计算机可读存储介质和电子设备
CN106651950B (zh) 一种基于二次曲线透视投影不变性的单相机位姿估计方法
CN114913246A (zh) 相机标定方法、装置、电子设备及存储介质
CN110020624B (zh) 图像识别方法、终端设备及存储介质
CN114140429A (zh) 一种车端实时停车位检测方法和装置
Otoya et al. Real-time non-invasive leaf area measurement method using depth images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant