CN111310818B - 特征描述子确定方法、装置及计算机可读存储介质 - Google Patents
特征描述子确定方法、装置及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111310818B CN111310818B CN202010084051.2A CN202010084051A CN111310818B CN 111310818 B CN111310818 B CN 111310818B CN 202010084051 A CN202010084051 A CN 202010084051A CN 111310818 B CN111310818 B CN 111310818B
- Authority
- CN
- China
- Prior art keywords
- image
- determining
- feature
- coordinate system
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
- G06V10/7515—Shifting the patterns to accommodate for positional errors
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本公开的实施例公开了一种特征描述子确定方法、装置及计算机可读存储介质。该方法包括:获取第一图像上的特征点的法向量;根据特征点的法向量,确定局部坐标系;其中,特征点的法向量表征局部坐标系的Z轴方向;确定由第一图像上的特征点和特征点的邻域点集组成的第一图像块,并在由局部坐标系的X轴和Y轴确定的平面上,确定用于模拟第一图像块对应的真实空间采样区域的目标正视图;根据第一图像、局部坐标系和目标正视图,确定特征点的特征描述子。本公开的实施例能够保证确定出的特征点的特征描述子的可靠性,在利用特征描述子进行图像特征匹配时,匹配结果的可靠性也能够得到有效地保证。
Description
技术领域
本公开涉及图像处理技术领域,尤其涉及一种特征描述子确定方法、装置及计算机可读存储介质。
背景技术
在图像处理技术领域中,一些情况下需要进行图像特征匹配,例如,在存在识别两张图像中的人物是否为同一人物的需求时,需要进行图像特征匹配。这种情况下,可以分别确定两张图像上的特征点的特征描述子,然后比较两张图像上的特征点的特征描述子,以基于比较结果,实现图像特征匹配。
目前,由于各方面原因(例如拍摄角度不同),图像特征会在不同方向上发生不同的形变,这样会影响到确定出的特征点的特征描述子的可靠性,从而影响到进行图像特征匹配时,匹配结果的可靠性。
发明内容
为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种特征描述子确定方法、装置及计算机可读存储介质。
根据本公开实施例的一个方面,提供了一种特征描述子确定方法,包括:
获取第一图像上的特征点的法向量;
根据所述特征点的法向量,确定局部坐标系;其中,所述特征点的法向量表征所述局部坐标系的Z轴方向;
确定由所述第一图像上的所述特征点和所述特征点的邻域点集组成的第一图像块,并在由所述局部坐标系的X轴和Y轴确定的平面上,确定用于模拟所述第一图像块对应的真实空间采样区域的目标正视图;
根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子。
在一个可选示例中,所述根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子,包括:
根据所述局部坐标系和所述第一图像,确定所述目标正视图中的每个像素点对应的灰度值;
根据所确定的灰度值,确定所述目标正视图的主方向;
按照所述主方向,旋转所述目标正视图,并根据旋转后的所述目标正视图,确定所述特征点的特征描述子。
在一个可选示例中,所述第一图像基于图像采集装置获取;
所述根据所述局部坐标系和所述第一图像,确定所述目标正视图中的每个像素点对应的灰度值,包括:
获取所述图像采集装置的内参矩阵;
获取所述图像采集装置的装置坐标系与所述局部坐标系之间的转换矩阵;
确定所述目标正视图中的每个像素点在所述局部坐标系下的坐标;
根据所述第一图像、所述内参矩阵、所述转换矩阵,以及所述目标正视图中的每个像素点在所述局部坐标系下的坐标,确定所述目标正视图中的每个像素点对应的灰度值。
在一个可选示例中,所述根据所述第一图像、所述内参矩阵、所述转换矩阵,以及所述目标正视图中的每个像素点在所述局部坐标系下坐标,确定所述目标正视图中的每个像素点对应的灰度值,包括:
利用所述转换矩阵,将第一像素点在所述局部坐标系下的坐标转换至所述装置坐标系下,以获得相应的转换坐标;其中,所述第一像素点为所述目标正视图中的任一像素点;
利用所述内参矩阵,将所述转换坐标投影至所述第一图像,以确定相应的投影坐标;
将所述第一图像上所述投影坐标对应的灰度值作为所述第一像素点对应的灰度值。
在一个可选示例中,所述目标正视图中包括M行N列像素点,则第二像素点在所述局部坐标系下的坐标满足:
x=(i-0.5*M)*d/f
y=(j-0.5*N)*d/f
其中,所述第二像素点为所述目标正视图中的任一像素点,x为所述第二像素点在所述局部坐标系下的坐标中的X轴坐标,i与所述第二像素点的行排序关联,d为所述特征点的深度,f为所述图像采集装置的焦距,y为所述第二像素点在所述局部坐标系下的坐标中的Y轴坐标,j与所述第二像素点的列排序关联。
在一个可选示例中,
所述获取第一图像上的特征点的法向量之前,所述方法还包括:
采集第二图像;
基于所述第二图像,构建图像金字塔;
将所述图像金字塔中的每一图像分别作为一第一图像;
所述根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子之后,所述方法还包括:
基于各所述第一图像上的所述特征点的特征描述子,进行图像特征匹配。
在一个可选示例中,
所述采集第二图像之后,所述方法还包括:
确定所述第二图像上的每个像素点的法向量,并基于所确定的法向量,构建法向量金字塔;
所述获取第一图像上的特征点的法向量,包括:
从所述法向量金字塔中,获取第一图像上的特征点的法向量。
在一个可选示例中,所述基于所述第二图像,构建图像金字塔,包括:
在所述第二图像不属于灰度图像的情况下,将所述第二图像转换为属于灰度图像的第三图像;
利用所述第三图像,构建图像金字塔。
根据本公开实施例的另一个方面,提供了一种特征描述子确定装置,包括:
获取模块,用于获取第一图像上的特征点的法向量;
第一确定模块,用于根据所述特征点的法向量,确定局部坐标系;其中,所述特征点的法向量表征所述局部坐标系的Z轴方向;
第二确定模块,用于确定由所述第一图像上的所述特征点和所述特征点的邻域点集组成的第一图像块,并在由所述局部坐标系的X轴和Y轴确定的平面上,确定用于模拟所述第一图像块对应的真实空间采样区域的目标正视图;
第三确定模块,用于根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子。
在一个可选示例中,所述第三确定模块,包括:
第一确定子模块,用于根据所述局部坐标系和所述第一图像,确定所述目标正视图中的每个像素点对应的灰度值;
第二确定子模块,用于根据所确定的灰度值,确定所述目标正视图的主方向;
第三确定子模块,用于按照所述主方向,旋转所述目标正视图,并根据旋转后的所述目标正视图,确定所述特征点的特征描述子。
在一个可选示例中,所述第一图像基于图像采集装置获取;
所述第一确定子模块,包括:
第一获取单元,用于获取所述图像采集装置的内参矩阵;
第二获取单元,用于获取所述图像采集装置的装置坐标系与所述局部坐标系之间的转换矩阵;
第一确定单元,用于确定所述目标正视图中的每个像素点在所述局部坐标系下的坐标;
第二确定单元,用于根据所述第一图像、所述内参矩阵、所述转换矩阵,以及所述目标正视图中的每个像素点在所述局部坐标系下的坐标,确定所述目标正视图中的每个像素点对应的灰度值。
在一个可选示例中,所述第二确定单元,包括:
转换子单元,用于利用所述转换矩阵,将第一像素点在所述局部坐标系下的坐标转换至所述装置坐标系下,以获得相应的转换坐标;其中,所述第一像素点为所述目标正视图中的任一像素点;
投影子单元,用于利用所述内参矩阵,将所述转换坐标投影至所述第一图像,以确定相应的投影坐标;
确定子单元,用于将所述第一图像上所述投影坐标对应的灰度值作为所述第一像素点对应的灰度值。
在一个可选示例中,所述目标正视图中包括M行N列像素点,则第二像素点在所述局部坐标系下的坐标满足:
x=(i-0.5*M)*d/f
y=(j-0.5*N)*d/f
其中,所述第二像素点为所述目标正视图中的任一像素点,x为所述第二像素点在所述局部坐标系下的坐标中的X轴坐标,i与所述第二像素点的行排序关联,d为所述特征点的深度,f为所述图像采集装置的焦距,y为所述第二像素点在所述局部坐标系下的坐标中的Y轴坐标,j与所述第二像素点的列排序关联。
在一个可选示例中,
所述装置还包括:
采集模块,用于在获取第一图像上的特征点的法向量之前,采集第二图像;
第一构建模块,用于基于所述第二图像,构建图像金字塔;
第四确定模块,用于将所述图像金字塔中的每一图像分别作为一第一图像;
所述装置还包括:
特征匹配模块,用于在根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子之后,基于各所述第一图像上的所述特征点的特征描述子,进行图像特征匹配。
在一个可选示例中,
所述装置还包括:
第二构建模块,用于在采集第二图像之后,确定所述第二图像上的每个像素点的法向量,并基于所确定的法向量,构建法向量金字塔;
所述获取模块,具体用于:
从所述法向量金字塔中,获取第一图像上的特征点的法向量。
在一个可选示例中,所述第一构建模块,包括:
转换子模块,用于在所述第二图像不属于灰度图像的情况下,将所述第二图像转换为属于灰度图像的第三图像;
构建子模块,用于利用所述第三图像,构建图像金字塔。
根据本公开实施例的再一个方面,提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述特征描述子确定方法。
根据本公开实施例的又一个方面,提供了一种电子设备,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述特征描述子确定方法。
本公开的实施例中,在获取第一图像上的特征点的法向量之后,可以根据特征点的法向量,确定局部坐标系;接下来,可以在由局部坐标系的X轴和Y轴确定的平面上,确定用于模拟第一图像块对应的真实空间采样区域的目标正视图;之后,可以根据第一图像、局部坐标系和目标正视图,确定特征点的特征描述子。可见,本公开的实施例中,为了确定特征点的特征描述子,可以沿特征点的法向量建立相应的局部坐标系,通过模拟对真实空间的采样,可以在局部坐标系的特定平面上确定目标正视图,基于第一图像、局部坐标系和目标正视图,可以将特征点变换到其的法向量视角下进行描述,这样能够对图像特征的形变起到一定的矫正作用,从而能够保证确定出的特征点的特征描述子的可靠性。因此,在利用确定出的特征描述子进行图像特征匹配时,匹配结果的可靠性也能够得到有效地保证。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是本公开一示例性实施例提供的特征描述子确定方法的流程示意图。
图2是图像采集装置的采样原理图。
图3是本公开另一示例性实施例提供的特征描述子确定方法的流程示意图。
图4是局部坐标系的示意图。
图5是本公开再一示例性实施例提供的特征描述子确定方法的流程示意图。
图6-1是利用现有方案提取特征点时的效果示意图。
图6-2是利用本公开的实施例中的方案提取特征点时的效果示意图。
图7-1是利用现有方案进行图像特征匹配时的效果示意图。
图7-2是利用本公开的实施例中的方案进行图像特征匹配时的效果示意图。
图8-1是利用本公开的实施例中的方案时的形变矫正效果图。
图8-2是利用本公开的实施例中的方案时的另一形变矫正效果图。
图9是本公开一示例性实施例提供的特征描述子确定装置的结构示意图。
图10是本公开另一示例性实施例提供的特征描述子确定装置的结构示意图。
图11是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机***、服务器等电子设备,其可与众多其它通用或专用计算***环境或配置一起操作。适于与终端设备、计算机***、服务器等电子设备一起使用的众所周知的终端设备、计算***、环境和/或配置的例子包括但不限于:个人计算机***、服务器计算机***、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的***、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机***、大型计算机***和包括上述任何***的分布式云计算技术环境,等等。
终端设备、计算机***、服务器等电子设备可以在由计算机***执行的计算机***可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机***/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算***存储介质上。
示例性方法
图1是本公开一示例性实施例提供的特征描述子确定方法的流程示意图。图1所示的方法包括步骤101、步骤102、步骤103和步骤104,下面对各步骤分别进行说明。
步骤101,获取第一图像上的特征点的法向量。
这里,在获取第一图像之后,可以进行图像特征的提取,以确定第一图像上的特征点;其中,特征点也可以称为关键点。
可以理解的是,图像特征是图像承载的信息的一种数字表达形式,在进行图像特征的提取时,常用的方法有:尺寸不变性特征转换(Scale-invariant feature transform,SIFT)、加速稳健特征(Speeded-Up Robust Features,SURF)和旋转不变性二进制描述算法(Oriented FAST and Rotated BRIEF,ORB);其中,SIFT、SURF和ORB对光照、尺寸和旋转等均具有一定的抗性,并且,ORB可应用于实时特征检测。为了便于理解,本公开的实施例中均以进行图像特征的提取时,使用的方法为ORB的情况为例进行说明。
需要说明的是,ORB分为特征提取和特征点描述两部分,特征提取是由加速分割测试特征(Features from Accelerate Segment,FAST)算法发展来的,特征点描述是根据二进制稳健基元独立特征(Binary Robust Independent Elementary Features,BRIEF)改进来的,ORB改进了FAST检测子不具有方向性的问题,并采用速度极快的BRIEF,使整个特征提取的环节大大加速。
在一个可选示例中,可以先将第一图像划分为若干个一定大小的格子(即cell),然后分别在每个cell内确定多个特征点,以保证特征点的均匀分布,避免特征点分布过度集中。另外,还可以利用四叉树,进一步保证特征点的均匀分布。
对于确定出的任一特征点,可以获取其的法向量。需要说明的是,获取特征点的法向量的具体实现形式多样,为了布局清楚,后续进行举例介绍。
步骤102,根据特征点的法向量,确定局部坐标系;其中,特征点的法向量表征局部坐标系的Z轴方向。
这里,特征点的法向量可以用n表示,为了确定出局部坐标系,可以随机选取一个与n不平行的单位向量。接下来,可以将n与随机选取的单位向量进行叉乘,得到第一叉乘结果a,a可以表征局部坐标系的X轴方向。之后,可以将n与a进行叉乘,得到第二叉乘结果b,b可以表征局部坐标系的Y轴方向,至此,局部坐标系被成功确定出来。
步骤103,确定由第一图像上的特征点和特征点的邻域点集组成的第一图像块,并在由局部坐标系的X轴和Y轴确定的平面上,确定用于模拟第一图像块对应的真实空间采样区域的目标正视图。
这里,第一图像块可以为由第一图像上的特征点和特征点的若干个邻域点组成的图像块,邻域点的数量可以为8个、15个、24个或者其他个数,在此不再一一列举。
这里,由局部坐标系的X轴和Y轴确定的平面可以称为正视图平面,正视图平面上的任一点的Z轴坐标为0。
一般而言,图像可以认为是对真实空间的采样,图像上的一个像素点的像素大小对应于真实空间中的一段距离,例如,如图2所示,图像上的AB所表征的像素大小可以对应于空间中的CD所表征的距离。那么,图像上的一个像素点可以对应真实空间中的一片区域,由特征点对应的空间区域,以及特征点的邻域点集对应的空间区域组成的整个区域可以认为是第一图像块对应的真实空间采样区域。由于目标正视图用于模拟第一图像块对应的真实空间采样区域,目标正视图相当于是模拟对真实空间的采样得到的正视图。
步骤104,根据第一图像、局部坐标系和目标正视图,确定特征点的特征描述子。
这里,可以结合BRIEF,确定特征点的特征描述子;其中,特征描述子用于对特征点的属性进行描述,特征描述子可以为256维的特征描述子,特征描述子可以占32个字节。
本公开的实施例中,在获取第一图像上的特征点的法向量之后,可以根据特征点的法向量,确定局部坐标系;接下来,可以在由局部坐标系的X轴和Y轴确定的平面上,确定用于模拟第一图像块对应的真实空间采样区域的目标正视图;之后,可以根据第一图像、局部坐标系和目标正视图,确定特征点的特征描述子。可见,本公开的实施例中,为了确定特征点的特征描述子,可以沿特征点的法向量建立相应的局部坐标系,通过模拟对真实空间的采样,可以在局部坐标系的特定平面上确定目标正视图,基于第一图像、局部坐标系和目标正视图,可以将特征点变换到其的法向量视角下进行描述,这样能够对图像特征的形变起到一定的矫正作用,从而能够保证确定出的特征点的特征描述子的可靠性。因此,在利用确定出的特征描述子进行图像特征匹配时,匹配结果的可靠性也能够得到有效地保证。
图3是本公开另一示例性实施例提供的特征描述子确定方法的流程示意图。图3所示的方法包括步骤301、步骤302、步骤303、步骤304、步骤305和步骤306,下面对各步骤分别进行说明。
步骤301,获取第一图像上的特征点的法向量。
步骤302,根据特征点的法向量,确定局部坐标系;其中,特征点的法向量表征局部坐标系的Z轴方向。
步骤303,确定由第一图像上的特征点和特征点的邻域点集组成的第一图像块,并在由局部坐标系的X轴和Y轴确定的平面上,确定用于模拟第一图像块对应的真实空间采样区域的目标正视图。
需要说明的是,步骤301至步骤303的具体实施过程参照对步骤101至步骤103的说明即可,在此不再赘述。
如图4所示,目标正视图中可以包括15个像素点,位于中心的像素点可以与特征点对应,其他像素点可以与特征点的邻域点对应。当然,目标正视图中包括的像素点的数量并不局限于此,在此不再一一列举。
步骤304,根据局部坐标系和第一图像,确定目标正视图中的每个像素点对应的灰度值。
一般而言,灰度值用于表征灰度图像中点的颜色深度,范围一般为0到255,白色为255,黑色为0。
需要说明的是,根据局部坐标系和第一图像,确定目标正视图中的每个像素点对应的灰度值的具体实现形式多样,为了布局清楚,后续进行举例介绍。
步骤305,根据所确定的灰度值,确定目标正视图的主方向。
这里,在确定出目标正视图中的每个像素点对应的灰度值之后,可以基于灰度质心法,求取目标正视图的主方向。
一般而言,目标正视图的矩的计算公式可以为:
其中,I(x,y)表示横坐标为x,纵坐标为y的点的灰度值。
那么,目标正视图的质心可以表示为Pc=(m10/m00,m01/m00),目标正视图的主方向可以表示为θ=a tan 2(m01,m10)。
步骤306,按照主方向,旋转目标正视图,并根据旋转后的目标正视图,确定特征点的特征描述子。
在确定出目标正视图的主方向之后,可以将目标正视图按照主方向旋转,以保证特征点的旋转不变形。
需要说明的是,可以预先训练得到局部坐标系中的最优的256个点对。由于目标正视图上的每个像素点对应的灰度值是已知的,在按照主方向,旋转目标正视图之后,可以利用旋转后的目标正视图,确定出256个点对中的每个点所对应的灰度值。
针对256个点对中的每个点对,均可以进行τ测试,τ测试所使用的公式可以为:
其中,p(x)表示某个点对中的一个点的灰度值,p(y)表示该点对中的另一个点的灰度值。
之后可以利用下述公式计算fn(p)。
这里,n为256,计算得到的fn(p)即可作为特征点的特征描述子。
本公开的实施例中,在获取第一图像上的特征点的法向量之后,可以根据特征点的法向量,确定局部坐标系,并在由局部坐标系的X轴和Y轴确定的平面上,确定用于模拟第一图像块对应的真实空间采样区域的目标正视图。接下来,可以根据局部坐标系和第一图像,确定目标正视图中的每个像素点对应的灰度值,根据所确定的灰度值,确定目标正视图的主方向,按照主方向,旋转目标正视图,并根据旋转后的目标正视图,确定特征点的特征描述子。可见,本公开的实施例中,为了确定特征点的特征描述子,可以沿特征点的法向量建立相应的局部坐标系,通过模拟对真实空间的采样,可以在局部坐标系的特定平面上确定目标正视图,基于第一图像、局部坐标系和目标正视图,可以将特征点变换到其的法向量视角下进行描述,这样能够对图像特征的形变起到一定的矫正作用,从而能够保证确定出的特征点的特征描述子的可靠性,并且,通过对目标正视图的旋转,可以保证特征点的旋转不变形,从而能够进一步保证确定出的特征点的特征描述子的可靠性。因此,在利用确定出的特征描述子进行图像特征匹配时,匹配结果的可靠性也能够得到有效地保证。
在一个可选示例中,第一图像基于图像采集装置获取;
根据局部坐标系和第一图像,确定目标正视图中的每个像素点对应的灰度值,包括:
获取图像采集装置的内参矩阵;
获取图像采集装置的装置坐标系与局部坐标系之间的转换矩阵;
确定目标正视图中的每个像素点在局部坐标系下的坐标;
根据第一图像、内参矩阵、转换矩阵,以及目标正视图中的每个像素点在局部坐标系下的坐标,确定目标正视图中的每个像素点对应的灰度值。
这里,图像采集装置可以为相机,这时,图像采集装置的装置坐标系也可以称为相机坐标系,局部坐标系中的正视图平面可以认为是虚拟出的相机的物平面;图像采集装置的内参矩阵可以预先确定并进行存储。
这里,图像采集装置的装置坐标系与局部坐标系之间的转换矩阵可以同时包括旋转矩阵和平移矩阵。下面对确定旋转矩阵和平移矩阵的方式进行举例介绍。
在局部坐标系的X轴方向用a进行表征,Y轴方向用b进行表征,Z轴方向用n进行表征的情况下,如果只考虑旋转,则装置坐标系中的单位正交基(e1,e2,e3)经过一次旋转会变成局部坐标系中的(a,b,n)。对于同一个向量,假设其在装置坐标系和局部坐标系下的坐标分别为[a1,a2,a3]T和[b1,b2,b3]T,则根据坐标的定义,可以有:
最后求解可以得到R=[aT,bT,nT],R作为装置坐标系与局部坐标系之间的旋转矩阵。
这里,还可以获取预先存储的图像采集装置的内参矩阵,并利用所获取的内参矩阵,确定特征点映射至装置坐标系后的三维坐标,该三维坐标用kpt进行表示,装置坐标系与局部坐标系之间的平移矩阵用s表示,则可以有s=kpt。
至此,旋转矩阵和平移矩阵均被成功确定出来,也即,图像采集装置的装置坐标系与局部坐标系之间的转换矩阵被成功确定出来。
另外,还可以确定目标正视图中的每个像素点在局部坐标系下的坐标。需要说明的是,目标正视图中的任一像素点可以用下文中的第一像素点或者第二像素点进行表征。
在一种具体实施方式中,目标正视图中包括M行N列像素点,则第二像素点在局部坐标系下的坐标满足:
x=(i-0.5*M)*d/f
y=(j-0.5*N)*d/f
其中,第二像素点为目标正视图中的任一像素点,x为第二像素点在局部坐标系下的坐标中的X轴坐标,i与第二像素点的行排序关联,d为特征点的深度,f为图像采集装置的焦距,y为第二像素点在局部坐标系下的坐标中的Y轴坐标,j与第二像素点的列排序关联。
这里,如图3所示,O为图像采集装置的光心,f为图像采集装置的焦距,d为特征点的深度(其可以利用深度图进行获取),AB为一个像素大小,AB对应的空间距离为CD,由相似三角形原理可知:CD=d/f。
这里,可以预先将M设置为3,将N设置为5。这样,由图3可知,目标正视图可以包括三行五列像素点,按照从左至右的方向,每一列的列号可以依次记为1、2、3、4、5,按照从上至下的方向,每一行的行号可以记为1、2、3。对于图3中的15个像素点中的任一像素点,可以将其所在行的行号与1的差值作为其对应的i的取值,将其所在列的列号与1的差值作为其对应的j的取值。按照这样的取值规律,位于最下面一行的五个像素点对应的i的取值均为2,位于最下面一行的五个像素点对应的j的取值依次为0、1、2、3、4。
需要指出的是,对于图3而言,按照从左至右的方向,每一列的列号也可以依次记为0、1、2、3、4,按照从上至下的方向,每一行的行号也可以记为0、1、2。这种情况下,对于图3中的15个像素点中的任一像素点,可以将其所在行的行号作为其对应的i的取值,将其所在列的列号作为其对应的j的取值。
针对最下面一行最左侧的像素点,在确定出其对应的i的取值(即i=2)和其对应的j的取值(即j=0)之后,可以将i=2代入x=(i-0.5*M)*d/f,以求得其在局部坐标系下的坐标中的横坐标,将j=0代入y=(j-0.5*M)*d/f,以求得其在局部坐标系下的坐标中的纵坐标,至此,最下面一行最左侧的像素点在局部坐标系下的坐标被成功确定出来,该坐标可以表示为(x,y,0)的形式。
需要指出的是,按照与上段中类似的坐标确定方式,其他像素点在局部坐标系下的坐标也能够被确定出来。
可见,这种实施方式中,利用特征点的深度信息,图像采集装置的焦距,以及预先设置的M和N的取值,能够非常便捷地确定出每个像素点在局部坐标系下的坐标。
之后,可以根据第一图像、内参矩阵、转换矩阵,以及目标正视图中的每个像素点在局部坐标系下的坐标,确定目标正视图中的每个像素点对应的灰度值。
在一种具体实施方式中,根据第一图像、内参矩阵、转换矩阵,以及目标正视图中的每个像素点在局部坐标系下的坐标,确定目标正视图中的每个像素点对应的灰度值,包括:
利用转换矩阵,将第一像素点在局部坐标系下的坐标转换至装置坐标系下,以获得相应的转换坐标;其中,第一像素点为目标正视图中的任一像素点;
利用内参矩阵,将转换坐标投影至第一图像,以确定相应的投影坐标;
将第一图像上投影坐标对应的灰度值作为第一像素点对应的灰度值。
在第一像素点在局部坐标系下的坐标为已知的情况下,利用之前确定出的旋转矩阵和平移矩阵,对该坐标进行旋转和平移,可以确定出装置坐标下的转换坐标。接下来,可以利用内参矩阵,将转换坐标重投影回第一图像上,以确定出相应的投影坐标。
这里,第一图像上的每个像素点的灰度值可以预先获取并存储,在确定出第一图像上的投影坐标之后,可以获取该投影坐标对应的像素点的灰度值,并将该灰度值作为第一像素点对应的灰度值。可选地,在确定出的投影坐标不是整数的情况下,可以采用双线性插值法求解灰度值。
需要说明的是,按照与上段中类似的灰度值确定方式,其他像素点对应的灰度值也能够被确定出来。
可见,这种实施方式中,利用转换矩阵和内参矩阵,可以进行由局部坐标系至装置坐标系,以及由装置坐标系至第一图像的转换,从而能够便捷地确定出每个像素点对应的灰度值。
之后,可以基于确定出的灰度值,确定目标正视图的主方向,并基于主方向,确定特征点的特征描述子。
可见,本公开的实施例中,利用图像采集装置的内参矩阵,图像采集装置的装置坐标系与局部坐标系之间的转换矩阵,以及目标正视图中的每个像素点在局部坐标系下的坐标,能够从第一图像上获取到准确可靠的灰度值,这样能够保证基于灰度值确定出的主方向的可靠性,从而能够保证后续确定出的特征点的特征描述子的可靠性。
在一个可选示例中,
获取第一图像上的特征点的法向量之前,该方法还包括:
采集第二图像;
基于第二图像,构建图像金字塔;
将图像金字塔中的每一图像分别作为一第一图像;
根据第一图像、局部坐标系和目标正视图,确定特征点的特征描述子之后,该方法还包括:
基于各第一图像上的特征点的特征描述子,进行图像特征匹配。
这里,可以调用图像采集装置进行图像拍摄,以采集得到第二图像。接下来,可以利用预设的缩放因子,对第二图像进行若干次缩放,以得到若干缩放图像,并将所得到的若干缩放图像和第二图像以金字塔形状进行排列,从而构建出图像金字塔,图像金字塔中的每一图像可以分别作为一第一图像。
接下来,针对每一第一图像,可以获取其上的特征点的法向量,确定相应的局部坐标系及相应的特征描述子。在各第一图像上的特征点的特征描述子均确定出来之后,可以根据所有特征描述子进行特征匹配。
可见,本公开的实施例中,通过图像金字塔的构建,所有图像处理操作均能够在图像金字塔上进行,这样有利于保证特征点的尺度不变形,并且,本公开的实施例中还能够将不同方向的图像特征变形进行统一矫正,使图像特征保持形变一致性,从而较好地保证图像匹配结果的可靠性。
需要指出的是,第一图像的获取也可以不依赖于图像金字塔,例如,在采集第二图像之后,可以直接将第二图像作为第一图像,这也是可行的。
在一个可选示例中,
采集第二图像之后,该方法还包括:
确定第二图像上的每个像素点的法向量,并基于所确定的法向量,构建法向量金字塔;
获取第一图像上的特征点的法向量,包括:
从法向量金字塔中,获取第一图像上的特征点的法向量。
一般而言,通过图像采集装置直接采集的图像属于RGB(R代表红色,G代表绿色,B代表蓝色)图像,那么,第二图像可以属于RGB。在采集到属于RGB图像的第二图像之后,可以对第二图像进行深度学习,以得到第二图像对应的深度图像。
接下来,可以利用深度图像,估计第二图像中的每个像素点的法向量。具体地,可以利用深度图像,将第二图像中的像素点逐个投影以得到3D点云;针对每个3D点云,可以对其的邻域点集进行主成分分析(Principal Component Analysis,PCA)处理,从而得到每个3D点云的法向量。
具体地,对3D点云的邻域点集进行PCA处理时,需要对各邻域点的三维坐标进行中心化,以求得协方差矩阵,之后还需要进行对角化,以求得三个特征值,这三个特征值中,最小的特征值对应的特征向量可以认为是3D点云的法向量。
之后,可以将3D点云的法向量作为第二图像中的相应像素点的法向量。
在第二图像中的每个像素点的法向量均确定之后,可以基于所确定的法向量,构建法向量金字塔,法向量金字塔可以用于记录第二图像中的所有像素点的法向量。
这样,当需要确定第一图像中的特征点的特征描述子时,可以从法向量金字塔中获取特征点的法向量,以用于特征描述子的确定过程。
可见,本公开的实施例中,利用法向量金字塔,能够非常便捷地实现特征点的法向量的获取。
当然,第二图像中的所有像素点的法向量也可以不通过法向量金字塔记录,而通过表格或者其他形式进行记录,在此不再一一列举。
在一个可选示例中,基于第二图像,构建图像金字塔,包括:
在第二图像不属于灰度图像的情况下,将第二图像转换为属于灰度图像的第三图像;
利用第三图像,构建图像金字塔。
这里,在第二图像不属于灰度图像的情况下,例如第二图像属于RGB图像的情况下,可以将第二图像转换为属于灰度图像的第三图像,然后利用第三图像构建图像金字塔。具体地,可以利用预设的缩放因子,对第三图像进行若干次缩放,以得到若干缩放图像,并将所得到的若干缩放图像和第三图像以金字塔形状进行排列,从而构建出图像金字塔,构建出的图像金字塔也可以称为灰度图金字塔。
本公开的实施例中,通过将第二图像转换为属于灰度图像的第三图像,能够提高构建图像金字塔的速度,以及后续确定特征点的特征描述子的速度。
在一个可选示例中,如图5所示,在调用图像采集装置采集第二图像之后,可以先进行法向量的求解,以确定第二图像中的每个像素点的法向量;在第二图像属于RGB图像的情况下,还可以将RGB图像变为灰度图,以得到第三图像。
接下来,可以构建法向量金字塔和灰度图金字塔;其中,法向量金字塔可以利用第三图像构建,灰度图金字塔可以利用法向量求解结果构建。之后,可以将灰度图金字塔中的每一图像分别作为一第一图像。
针对每一第一图像,可以进行特征点的提取。在提取出特征点之后,可以从法向量金字塔中,获取特征点的法向量,并根据特征点的法向量,建立局部坐标系。在建立好局部坐标系之后,可以求解局部坐标系中的正视图平面上的目标正视图,计算目标正视图的主方向,按照计算出的主方向,旋转目标正视图,并利用BRIFE描述特征点,以得到特征点的特征描述子。
再之后,可以根据各第一图像上的特征点的特征描述子,进行图像特征匹配。
通过实验验证可知,在利用现有方案对两幅待比对的图像提取特征点时,提取的特征点分布均非常集中,具体可以见图6-1中所示的分布情况;而在利用本公开的实施例中的方案对两幅待比对的图像提取特征点时(即将图像划分为多个cell,且利用四叉树进行提取),提取的特征点非常均匀,具体可以见图6-2中所示的分布情况。
另外,通过实验验证可知,在按照现有方案和本公开的实施例中的方案进行图像特征匹配时,本公开的实施例中的方案的匹配效果优于现有方案。具体地,在按照现有方案进行图像特征匹配时,如图7-1所示,一共可以有1001对特征点匹配,最大的汉明距离为92,最小的汉明距离为14,以汉明距离为30进行过滤,一共可以有39对匹配满足要求;而在按照本公开的实施例中的方案进行图像特征匹配时,如图7-2所示,一共可以有1003对特征点匹配,最大的汉明距离为86,最小的汉明距离为13,以汉明距离为30进行过滤,一共可以有55对匹配满足要求。
需要指出的是,在利用本公开的实施例中的方案进行图像特征匹配时,如图8-1所示,可以将地面处的曲线矫正为直线,如图8-2所示,还可以将弯曲的灯管矫正为平直状的灯管,这样能够有效地保证匹配效果。
可见,不管是特征点提取效果,还是图像匹配效果,本公开的实施例中的方案均优于现有方案。
综上,本公开的实施例中,结合RGB图像对应的深度图像,可以计算每个特征点的法向量方向,通过沿法向量方向建立局部坐标系,直接在物方模拟图像采集装置的采样过程,重建特征点处的目标正视图,利用灰度质心法将目标正视图旋转到其主方向上,以使特征点具有方向性,还可以结合BRIEF对特征点进行描述,这样能够将不同方向的图像特征变形统一矫正,具有形变一致性,尤其是在由于大视场宽基线引起的巨大全景图局部特征形变的情况下,能够起到非常好的矫正效果。另外,本公开的实施例中,所有图像处理操作可以均在图像金字塔上进行,以保证特征点的尺度不变形。
本公开的实施例提供的任一种特征描述子确定方法可以由任意适当的具有数据处理能力的设备执行,包括但不限于:终端设备和服务器等。或者,本公开实施例提供的任一种特征描述子确定方法可以由处理器执行,如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种特征描述子确定方法。
下文不再赘述。
示例性装置
图9是本公开一示例性实施例提供的特征描述子确定装置的结构示意图。图9所示的装置包括获取模块901、第一确定模块902、第二确定模块903和第三确定模块904。
获取模块901,用于获取第一图像上的特征点的法向量;
第一确定模块902,用于根据特征点的法向量,确定局部坐标系;其中,特征点的法向量表征局部坐标系的Z轴方向;
第二确定模块903,用于确定由第一图像上的特征点和特征点的邻域点集组成的第一图像块,并在由局部坐标系的X轴和Y轴确定的平面上,确定用于模拟第一图像块对应的真实空间采样区域的目标正视图;
第三确定模块904,用于根据第一图像、局部坐标系和目标正视图,确定特征点的特征描述子。
在一个可选示例中,第三确定模块904,包括:
第一确定子模块,用于根据局部坐标系和第一图像,确定目标正视图中的每个像素点对应的灰度值;
第二确定子模块,用于根据所确定的灰度值,确定目标正视图的主方向;
第三确定子模块,用于按照主方向,旋转目标正视图,并根据旋转后的目标正视图,确定特征点的特征描述子。
在一个可选示例中,第一图像基于图像采集装置获取;
第一确定子模块,包括:
第一获取单元,用于获取图像采集装置的内参矩阵;
第二获取单元,用于获取图像采集装置的装置坐标系与局部坐标系之间的转换矩阵;
第一确定单元,用于确定目标正视图中的每个像素点在局部坐标系下的坐标;
第二确定单元,用于根据第一图像、内参矩阵、转换矩阵,以及目标正视图中的每个像素点在局部坐标系下的坐标,确定目标正视图中的每个像素点对应的灰度值。
在一个可选示例中,第二确定单元,包括:
转换子单元,用于利用转换矩阵,将第一像素点在局部坐标系下的坐标转换至装置坐标系下,以获得相应的转换坐标;其中,第一像素点为目标正视图中的任一像素点;
投影子单元,用于利用内参矩阵,将转换坐标投影至第一图像,以确定相应的投影坐标;
确定子单元,用于将第一图像上投影坐标对应的灰度值作为第一像素点对应的灰度值。
在一个可选示例中,目标正视图中包括M行N列像素点,则第二像素点在局部坐标系下的坐标满足:
x=(i-0.5*M)*d/f
y=(j-0.5*N)*d/f
其中,第二像素点为目标正视图中的任一像素点,x为第二像素点在局部坐标系下的坐标中的X轴坐标,i与第二像素点的行排序关联,d为特征点的深度,f为图像采集装置的焦距,y为第二像素点在局部坐标系下的坐标中的Y轴坐标,j与第二像素点的列排序关联。
在一个可选示例中,
如图10所示,该装置还包括:
采集模块911,用于在获取第一图像上的特征点的法向量之前,采集第二图像;
第一构建模块912,用于基于第二图像,构建图像金字塔;
第四确定模块913,用于将图像金字塔中的每一图像分别作为一第一图像;
该装置还包括:
特征匹配模块921,用于在根据第一图像、局部坐标系和目标正视图,确定特征点的特征描述子之后,基于各第一图像上的特征点的特征描述子,进行图像特征匹配。
在一个可选示例中,
该装置还包括:
第二构建模块,用于在采集第二图像之后,确定第二图像上的每个像素点的法向量,并基于所确定的法向量,构建法向量金字塔;
获取模块901,具体用于:
从法向量金字塔中,获取第一图像上的特征点的法向量。
在一个可选示例中,第一构建模块,包括:
转换子模块,用于在第二图像不属于灰度图像的情况下,将第二图像转换为属于灰度图像的第三图像;
构建子模块,用于利用第三图像,构建图像金字塔。
示例性电子设备
下面,参考图11来描述根据本公开实施例的电子设备。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备,该单机设备可以与第一设备和第二设备进行通信,以从它们接收所采集到的输入信号。
图11图示了根据本公开实施例的电子设备110的框图。
如图11所示,电子设备110包括一个或多个处理器111和存储器112。
处理器111可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备110中的其他组件以执行期望的功能。
存储器112可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器111可以运行所述程序指令,以实现上文所述的本公开的各个实施例的特征描述子确定方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备110还可以包括:输入装置113和输出装置114,这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
例如,在电子设备110是第一设备或第二设备时,该输入装置113可以是麦克风或麦克风阵列。在电子设备110是单机设备时,该输入装置113可以是通信网络连接器,用于从第一设备100和第二设备200接收所采集的输入信号。
此外,该输入装置113还可以包括例如键盘、鼠标等等。
该输出装置114可以向外部输出各种信息。该输出装置114可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出装置等等。
当然,为了简化,图11中仅示出了该电子设备110中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备110还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的特征描述子确定方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的特征描述子确定方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于***实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (16)
1.一种特征描述子确定方法,其特征在于,包括:
获取第一图像上的特征点的法向量;其中,确定任一图像上的像素点的法向量的方式为:利用本图像对应的深度图像,将本图像中的像素点逐个投影以得到3D点云,针对每个3D点云,对其的邻域点集进行主成分分析处理,以得到每个3D点云的法向量,将3D点云的法向量作为本图像中的相应像素点的法向量;
根据所述特征点的法向量,确定局部坐标系;其中,所述特征点的法向量表征所述局部坐标系的Z轴方向;
确定由所述第一图像上的所述特征点和所述特征点的邻域点集组成的第一图像块,并在由所述局部坐标系的X轴和Y轴确定的平面上,通过模拟对真实空间的采样,确定用于模拟所述第一图像块对应的真实空间采样区域的目标正视图;
根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子;
所述根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子,包括:
根据所述局部坐标系和所述第一图像,确定所述目标正视图中的每个像素点对应的灰度值;
根据所确定的灰度值,基于灰度质心法,确定所述目标正视图的主方向;
按照所述主方向,旋转所述目标正视图,并根据旋转后的所述目标正视图,确定所述特征点的特征描述子。
2.根据权利要求1所述的方法,其特征在于,所述第一图像基于图像采集装置获取;
所述根据所述局部坐标系和所述第一图像,确定所述目标正视图中的每个像素点对应的灰度值,包括:
获取所述图像采集装置的内参矩阵;
获取所述图像采集装置的装置坐标系与所述局部坐标系之间的转换矩阵;
确定所述目标正视图中的每个像素点在所述局部坐标系下的坐标;
根据所述第一图像、所述内参矩阵、所述转换矩阵,以及所述目标正视图中的每个像素点在所述局部坐标系下的坐标,确定所述目标正视图中的每个像素点对应的灰度值。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一图像、所述内参矩阵、所述转换矩阵,以及所述目标正视图中的每个像素点在所述局部坐标系下的坐标,确定所述目标正视图中的每个像素点对应的灰度值,包括:
利用所述转换矩阵,将第一像素点在所述局部坐标系下的坐标转换至所述装置坐标系下,以获得相应的转换坐标;其中,所述第一像素点为所述目标正视图中的任一像素点;
利用所述内参矩阵,将所述转换坐标投影至所述第一图像,以确定相应的投影坐标;
将所述第一图像上所述投影坐标对应的灰度值作为所述第一像素点对应的灰度值。
4.根据权利要求2所述的方法,其特征在于,所述目标正视图中包括M行N列像素点,则第二像素点在所述局部坐标系下的坐标满足:
x=(i-0.5*M)*d/f
y=(j-0.5*N)*d/f
其中,所述第二像素点为所述目标正视图中的任一像素点,x为所述第二像素点在所述局部坐标系下的坐标中的X轴坐标,i与所述第二像素点的行排序关联,d为所述特征点的深度,f为所述图像采集装置的焦距,y为所述第二像素点在所述局部坐标系下的坐标中的Y轴坐标,j与所述第二像素点的列排序关联。
5.根据权利要求1-4中任一所述的方法,其特征在于,
所述获取第一图像上的特征点的法向量之前,所述方法还包括:
采集第二图像;
基于所述第二图像,构建图像金字塔;
将所述图像金字塔中的每一图像分别作为一第一图像;
所述根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子之后,所述方法还包括:
基于各所述第一图像上的所述特征点的特征描述子,进行图像特征匹配。
6.根据权利要求5所述的方法,其特征在于,
所述采集第二图像之后,所述方法还包括:
确定所述第二图像上的每个像素点的法向量,并基于所确定的法向量,构建法向量金字塔;
所述获取第一图像上的特征点的法向量,包括:
从所述法向量金字塔中,获取第一图像上的特征点的法向量。
7.根据权利要求5所述的方法,其特征在于,所述基于所述第二图像,构建图像金字塔,包括:
在所述第二图像不属于灰度图像的情况下,将所述第二图像转换为属于灰度图像的第三图像;
利用所述第三图像,构建图像金字塔。
8.一种特征描述子确定装置,其特征在于,包括:
获取模块,用于获取第一图像上的特征点的法向量;其中,确定任一图像上的像素点的法向量的方式为:利用本图像对应的深度图像,将本图像中的像素点逐个投影以得到3D点云,针对每个3D点云,对其的邻域点集进行主成分分析处理,以得到每个3D点云的法向量,将3D点云的法向量作为本图像中的相应像素点的法向量;
第一确定模块,用于根据所述特征点的法向量,确定局部坐标系;其中,所述特征点的法向量表征所述局部坐标系的Z轴方向;
第二确定模块,用于确定由所述第一图像上的所述特征点和所述特征点的邻域点集组成的第一图像块,并在由所述局部坐标系的X轴和Y轴确定的平面上,通过模拟对真实空间的采样,确定用于模拟所述第一图像块对应的真实空间采样区域的目标正视图;
第三确定模块,用于根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子;
所述第三确定模块,包括:
第一确定子模块,用于根据所述局部坐标系和所述第一图像,确定所述目标正视图中的每个像素点对应的灰度值;
第二确定子模块,用于根据所确定的灰度值,基于灰度质心法,确定所述目标正视图的主方向;
第三确定子模块,用于按照所述主方向,旋转所述目标正视图,并根据旋转后的所述目标正视图,确定所述特征点的特征描述子。
9.根据权利要求8所述的装置,其特征在于,所述第一图像基于图像采集装置获取;
所述第一确定子模块,包括:
第一获取单元,用于获取所述图像采集装置的内参矩阵;
第二获取单元,用于获取所述图像采集装置的装置坐标系与所述局部坐标系之间的转换矩阵;
第一确定单元,用于确定所述目标正视图中的每个像素点在所述局部坐标系下的坐标;
第二确定单元,用于根据所述第一图像、所述内参矩阵、所述转换矩阵,以及所述目标正视图中的每个像素点在所述局部坐标系下的坐标,确定所述目标正视图中的每个像素点对应的灰度值。
10.根据权利要求9所述的装置,其特征在于,所述第二确定单元,包括:
转换子单元,用于利用所述转换矩阵,将第一像素点在所述局部坐标系下的坐标转换至所述装置坐标系下,以获得相应的转换坐标;其中,所述第一像素点为所述目标正视图中的任一像素点;
投影子单元,用于利用所述内参矩阵,将所述转换坐标投影至所述第一图像,以确定相应的投影坐标;
确定子单元,用于将所述第一图像上所述投影坐标对应的灰度值作为所述第一像素点对应的灰度值。
11.根据权利要求9所述的装置,其特征在于,所述目标正视图中包括M行N列像素点,则第二像素点在所述局部坐标系下的坐标满足:
x=(i-0.5*M)*d/f
y=(j-0.5*N)*d/f
其中,所述第二像素点为所述目标正视图中的任一像素点,x为所述第二像素点在所述局部坐标系下的坐标中的X轴坐标,i与所述第二像素点的行排序关联,d为所述特征点的深度,f为所述图像采集装置的焦距,y为所述第二像素点在所述局部坐标系下的坐标中的Y轴坐标,j与所述第二像素点的列排序关联。
12.根据权利要求8-11中任一所述的装置,其特征在于,
所述装置还包括:
采集模块,用于在获取第一图像上的特征点的法向量之前,采集第二图像;
第一构建模块,用于基于所述第二图像,构建图像金字塔;
第四确定模块,用于将所述图像金字塔中的每一图像分别作为一第一图像;
所述装置还包括:
特征匹配模块,用于在根据所述第一图像、所述局部坐标系和所述目标正视图,确定所述特征点的特征描述子之后,基于各所述第一图像上的所述特征点的特征描述子,进行图像特征匹配。
13.根据权利要求12所述的装置,其特征在于,
所述装置还包括:
第二构建模块,用于在采集第二图像之后,确定所述第二图像上的每个像素点的法向量,并基于所确定的法向量,构建法向量金字塔;
所述获取模块,具体用于:
从所述法向量金字塔中,获取第一图像上的特征点的法向量。
14.根据权利要求12所述的装置,其特征在于,所述第一构建模块,包括:
转换子模块,用于在所述第二图像不属于灰度图像的情况下,将所述第二图像转换为属于灰度图像的第三图像;
构建子模块,用于利用所述第三图像,构建图像金字塔。
15.一种计算机可读存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序用于执行上述权利要求1-7中任一所述的特征描述子确定方法。
16.一种电子设备,其特征在于,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-7中任一所述的特征描述子确定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010084051.2A CN111310818B (zh) | 2020-02-10 | 2020-02-10 | 特征描述子确定方法、装置及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010084051.2A CN111310818B (zh) | 2020-02-10 | 2020-02-10 | 特征描述子确定方法、装置及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111310818A CN111310818A (zh) | 2020-06-19 |
CN111310818B true CN111310818B (zh) | 2021-05-18 |
Family
ID=71146974
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010084051.2A Active CN111310818B (zh) | 2020-02-10 | 2020-02-10 | 特征描述子确定方法、装置及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111310818B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112150600B (zh) * | 2020-09-24 | 2023-03-17 | 上海联影医疗科技股份有限公司 | 一种容积重建图像生成方法、装置、***及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107967473A (zh) * | 2016-10-20 | 2018-04-27 | 南京万云信息技术有限公司 | 基于图文识别和语义的机器人自主定位和导航 |
CN109919984A (zh) * | 2019-04-15 | 2019-06-21 | 武汉惟景三维科技有限公司 | 一种基于局部特征描述子的点云自动配准方法 |
CN110334762A (zh) * | 2019-07-04 | 2019-10-15 | 华南师范大学 | 一种基于四叉树结合orb和sift的特征匹配方法 |
CN110738273A (zh) * | 2019-10-23 | 2020-01-31 | 成都极米科技股份有限公司 | 图像特征点的匹配方法、装置、设备及存储介质 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104134206B (zh) * | 2014-07-15 | 2017-03-15 | 中国人民解放军信息工程大学 | 基于三维二值特征描述子的ct体数据快速匹配方法 |
CN107818598B (zh) * | 2017-10-20 | 2020-12-25 | 西安电子科技大学昆山创新研究院 | 一种基于视觉矫正的三维点云地图融合方法 |
CN109752855A (zh) * | 2017-11-08 | 2019-05-14 | 九阳股份有限公司 | 一种光斑发射装置和检测几何光斑的方法 |
CN114839775A (zh) * | 2018-02-19 | 2022-08-02 | 3M创新有限公司 | 光学膜装置 |
CN108876906A (zh) * | 2018-06-06 | 2018-11-23 | 链家网(北京)科技有限公司 | 基于点云的全局平面优化建立虚拟三维模型的方法及装置 |
CN110111378B (zh) * | 2019-04-04 | 2021-07-02 | 贝壳技术有限公司 | 一种基于室内三维数据的点云配准优化方法和装置 |
CN110070567B (zh) * | 2019-04-28 | 2021-06-11 | 中铁七局集团有限公司 | 一种地面激光点云配准方法 |
CN110211163A (zh) * | 2019-05-29 | 2019-09-06 | 西安财经学院 | 一种基于epfh特征的点云匹配算法 |
CN110738265A (zh) * | 2019-10-18 | 2020-01-31 | 太原理工大学 | 一种基于改进的lbp特征和lndp特征相融合的改进orb算法 |
-
2020
- 2020-02-10 CN CN202010084051.2A patent/CN111310818B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107967473A (zh) * | 2016-10-20 | 2018-04-27 | 南京万云信息技术有限公司 | 基于图文识别和语义的机器人自主定位和导航 |
CN109919984A (zh) * | 2019-04-15 | 2019-06-21 | 武汉惟景三维科技有限公司 | 一种基于局部特征描述子的点云自动配准方法 |
CN110334762A (zh) * | 2019-07-04 | 2019-10-15 | 华南师范大学 | 一种基于四叉树结合orb和sift的特征匹配方法 |
CN110738273A (zh) * | 2019-10-23 | 2020-01-31 | 成都极米科技股份有限公司 | 图像特征点的匹配方法、装置、设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
ORB-SLAM: A Versatile and Accurate Monocular SLAM System;Raul Mur-Artal 等;《IEEE Transactions on Robotics》;20151030;第31卷(第5期);第1147-1163页 * |
Rotation and affine invariant accurate feature selection and matching method for RGBD images;V.T. Dharmasir 等;《2017 IEEE International Conference on Computational Intelligence and Virtual Environments for Measurement Systems and Applications》;20170628;第1-4页 * |
Also Published As
Publication number | Publication date |
---|---|
CN111310818A (zh) | 2020-06-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108427927B (zh) | 目标再识别方法和装置、电子设备、程序和存储介质 | |
JP6334735B2 (ja) | エッジベクトルを利用した画像特徴検出 | |
JP5714599B2 (ja) | イメージ認識のための記述子パッチの高速部分空間射影 | |
JP4161659B2 (ja) | 画像認識システム及びその認識方法並びにプログラム | |
US11380017B2 (en) | Dual-view angle image calibration method and apparatus, storage medium and electronic device | |
JP5261501B2 (ja) | 不変の視覚場面及び物体の認識 | |
CN111429354B (zh) | 图像拼接及全景图拼接方法和装置、存储介质、电子设备 | |
CN113409372B (zh) | 图像配准方法及相关装置、设备和存储介质 | |
CN113361527B (zh) | 多目标对象的识别定位方法及装置、电子设备、存储介质 | |
JP6071002B2 (ja) | 信頼度取得装置、信頼度取得方法および信頼度取得プログラム | |
CN112489114A (zh) | 图像转换方法、装置、计算机可读存储介质及电子设备 | |
CN112102404B (zh) | 物体检测追踪方法、装置及头戴显示设备 | |
CN114047823A (zh) | 三维模型展示方法、计算机可读存储介质及电子设备 | |
KR102421604B1 (ko) | 이미지 처리 방법, 장치 및 전자 기기 | |
CN111985556A (zh) | 关键点识别模型的生成方法和关键点识别方法 | |
CN114330565A (zh) | 一种人脸识别方法及装置 | |
CN113240736A (zh) | 基于yolo6d改进网络的位姿估计方法及装置 | |
WO2022262273A1 (zh) | 光心对齐检测方法和装置、存储介质、电子设备 | |
CN111310818B (zh) | 特征描述子确定方法、装置及计算机可读存储介质 | |
KR20190018274A (ko) | 이미지에 포함된 특징 포인트의 시간 또는 공간의 움직임에 기초하여 이미지에 존재하는 피사체를 인식하는 장치 및 방법 | |
US11495049B2 (en) | Biometric feature reconstruction method, storage medium and neural network | |
CN112418250A (zh) | 一种复杂3d点云的优化匹配方法 | |
CN112037130A (zh) | 一种自适应图像拼接融合方法、装置、电子设备及存储介质 | |
CN111429353A (zh) | 图像拼接及全景图拼接方法和装置、存储介质、电子设备 | |
CN113744339B (zh) | 生成全景图像的方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20200721 Address after: 100085 Floor 102-1, Building No. 35, West Second Banner Road, Haidian District, Beijing Applicant after: Seashell Housing (Beijing) Technology Co.,Ltd. Address before: 300 457 days Unit 5, Room 1, 112, Room 1, Office Building C, Nangang Industrial Zone, Binhai New Area Economic and Technological Development Zone, Tianjin Applicant before: BEIKE TECHNOLOGY Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |