CN115222974A - 特征点匹配方法及装置、存储介质及电子设备 - Google Patents

Abstract

本公开涉及图像处理技术领域，具体涉及一种特征点匹配方法及装置、计算机可读存储介质及电子设备，该方法包括：获取待配准图像与参考图像之间的正向光流以及反向光流；根据正向光流以及反向光流确定待配准图像或参考图像中的候选像素点的光流误差；根据候选像素点的光流误差，从候选像素点中选取目标像素点；对目标像素点进行重复纹理检测得到检测结果，并根据检测结果确定待配准图像和参考图像之间的匹配特征点对。本公开实施例的技术方案的得到的匹配特征点对的精度较高。

Description

特征点匹配方法及装置、存储介质及电子设备

技术领域

本公开涉及图像处理技术领域，具体而言，涉及一种特征点匹配方法及装置、计算机可读存储介质及电子设备。

背景技术

在计算机视觉应用中，通常需要对不同图像的特征点进行匹配。

但是相关技术中的特征点匹配方法的匹配精度较差，导致得到的匹配特征点对的匹配程度低。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种特征点匹配方法、特征点匹配方法装置、计算机可读介质和电子设备，进而至少在一定程度上提高特征点匹配方法的匹配精度，进而提升得到匹配特征点对的匹配程度。

根据本公开的第一方面，提供一种特征点匹配方法，包括：获取待配准图像与参考图像之间的正向光流以及反向光流；根据所述正向光流以及反向光流确定所述待配准图像或所述参考图像中的候选像素点的光流误差；根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点；对所述目标像素点进行重复纹理检测得到检测结果，并根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对。

根据本公开的第二方面，提供一种特征点匹配装置，包括：光流获取模块，用于获取待配准图像与参考图像之间的正向光流以及反向光流；误差确定模块，用于根据所述正向光流以及反向光流确定所述待配准图像或所述参考图像中的候选像素点的光流误差；像素选取模块：用于根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点；图像匹配模块，用于对所述目标像素点进行重复纹理检测得到检测结果，并根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对。

根据本公开的第三方面，提供一种计算机可读介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述的方法。

根据本公开的第四方面，提供一种电子设备，其特征在于，包括：一个或多个处理器；以及存储器，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器实现上述的方法。

本公开的一种实施例所提供的特征点匹配方法，获取待配准图像与参考图像之间的正向光流以及反向光流；根据正向光流以及反向光流确定待配准图像或参考图像中的候选像素点的光流误差；根据候选像素点的光流误差，从候选像素点中选取目标像素点；对目标像素点进行重复纹理检测得到检测结果，并根据检测结果确定待配准图像和参考图像之间的匹配特征点对。相较于现有技术，一方面，通过待配准图像的参考图像之间的正向光流和反向光流来确定光流误差，并根据光流误差来获取目标像素点，排除了不准确的像素点，提升了特征点匹配的精度，另一方面，基于重复纹理检测结果来确定待配准图像和所述参考图像之间的匹配特征点对，删减了重复纹理对特征点匹配的影响，进一步的提升了特征点匹配的精度，提升了得到的匹配特征点对的匹配程度。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示出了可以应用本公开实施例的一种示例性***架构的示意图；

图2示意性示出本公开示例性实施例中一种特征点匹配方法的流程图；

图3示意性示出本公开示例性实施例中一种正向光流图像的示意图；

图4示意性示出本公开示例性实施例中一种反向光流图像的示意图；

图5示意性示出本公开示例性实施例中一种确定光流误差的流程图；

图6示意性示出本公开示例性实施例中另一种确定光流误差的流程图；

图7示意性示出本公开示例性实施例中一种确定检测结果的流程图；

图8示意性示出本公开示例性实施例中一种第一图像块以及第二图像块的示意图；

图9示意性示出本公开示例性实施例中一种重复纹理检测的流程图

图10示意性示出本公开示例性实施例中另一种特征点匹配方法的流程图；

图11示意性示出本公开示例性实施例中一种极线误差的计算原理图；

图12示意性示出本公开示例性实施例中再一种征点匹配方法的流程图；

图13示意性示出本公开示例性实施例中一种特征点匹配装置的组成示意图；

图14示意性示出本公开示例性实施例中另一种特征点匹配装置的组成示意图；

图15示出了可以应用本公开实施例的一种电子设备的示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

在相关技术中较为常用的特征点匹配方案包括基于描述子的特征匹配方案、基于光流的特征点匹配方案、基于块匹配的特征点匹配方案，以及基于深度学习的特征点匹配方案。特征点匹配方案有几率出现错误，进而可能造成特征点的误匹配问题。因此，特征点匹配方案应该包括特征点匹配和特征点筛选等步骤，特征点匹配和特征点筛选都将直接影响特征点匹配的质量。

较常用的误匹配点剔除算法有：基于单应矩阵的ransac剔点算法，基于基础矩阵的ransac筛选点方案，基于GMS(Grid-based Motion Statistics)的特征点筛选方案等。其中，基于单应矩阵的筛点方法，仅适用于图像内容为平面的场景；基于基础矩阵的筛点方法，是基于极线约束的筛点方案，当图像的纹理沿极线方向是重复纹理时，极线方向的误匹配点很难剔除掉；基于GMS的剔点方案，是按待筛选的所在区域的正确匹配点的概率来判断该待筛选点是否为正确匹配的特征点，极易导致误匹配点被成片保留或者被成片删除。以上误匹配点筛选方案不能保证重复纹理区域的误匹配点一定被有效删除。

基于上述缺点，本公开提出一种特征点匹配方法，图1示出了能够实现本公开特征点匹配方法的***架构的示意图，该***架构100可以包括终端110与服务器120。其中，终端110可以是智能手机、平板电脑、台式电脑、笔记本电脑等终端设备，服务器120泛指提供本示例性实施方式中图像处理、特征点匹配等相关服务的后台***，可以是一台服务器或多台服务器形成的集群。终端110与服务器120之间可以通过有线或无线的通信链路形成连接，以进行数据交互。

在一种实施方式中，可以由终端110执行上述特征点匹配方法。例如，用户使用终端110拍摄图像或者用户在终端110的相册中选取待配准图像与参考图像后，由终端110对待配准图像与参考图像中进行特征点匹配，输出匹配特征点对。

在一种实施方式中，可以由服务器120可以执行上述特征点匹配方法。例如，用户使用终端110拍摄图像或者用户在终端110的相册中待配准图像与参考图像后，终端110将该图像上传至服务器120，由服务器120对待配准图像与参考图像中进行特征点匹配，向终端110返回匹配特征点对。

由上可知，本示例性实施方式中的特征点匹配方法的执行主体可以是上述终端110或服务器120，本公开对此不做限定。

下面结合图2对本示例性实施方式中的图像质量评价方法进行说明，图2示出了该图像质量评价方法的示例性流程，可以包括：

步骤S210，获取待配准图像与参考图像之间的正向光流以及反向光流；

步骤S220，根据所述正向光流以及反向光流确定所述待配准图像或所述参考图像中的候选像素点的光流误差；

步骤S230，根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点；

步骤S240，对所述目标像素点进行重复纹理检测得到检测结果，并根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对。

基于上述方法，一方面，通过待配准图像的参考图像之间的正向光流和反向光流来确定光流误差，并根据光流误差来获取目标像素点，排除了不准确的像素点，提升了特征点匹配的精度，另一方面，基于重复纹理检测结果来确定待配准图像和所述参考图像之间的匹配特征点对，删减了重复纹理对特征点匹配的影响，进一步的提升了特征点匹配的精度，提升了得到的匹配特征点对的匹配程度。

下面对图2中的每个步骤进行具体说明。

参考图2，在步骤S210中，获取待配准图像与参考图像之间的正向光流以及反向光流。

在公开的一种示例实施方式中，正向光流为从参考图像到待配准图像的光流，反向光流为从待配准图像到参考准图像的光流。

在本示例实施方式中，在获取上述待配准图像与参考图像之间的正向光流和反向光流之前，可以首先对上述待配准图像与参考图像进行预处理，其中预处理可以包括但不限于将待配准图像与参考图像转换成灰度图像，对其进行尺寸调整，亮度拉伸等，还可以根据用户需求进行自定义，在本示例实施方式中不做具体限定。

在本示例实施方式中，可以利用DIS(Dense Inverse Search)即稠密逆向光流搜索算法来获取待配准图像与参考图像之间的正向光流以及反向光流。

其中，DIS(Dense Inverse Search)即稠密逆向光流搜索算法是一种基于图像金字塔进行的光流计算方法。其步骤可以包括基于多尺度的快速光流逆向搜索、稀疏光流稠密化、对稠密光流快速的变分求精。相比于像素级的光流估计，DIS是基于像素块级别的光流反向搜索方法，计算一次梯度，可以供多次反向搜索使用，减少了计算量。完成块的光流计算后，将块光流按照一定规则进行加权计算出每个像素的光流，实现稀疏光流稠密化。最后基于梯度信息和平滑性对稠密光流图进行变分优化，使稠密光流图像更可靠。DIS光流算法计算了图像之间的稠密光流信息，可以根据特定规则直接选取可靠的光流信息进行特征匹配，得到较高质量的特征点匹配对。

在本示例实施方式中，具体可以包括对待配准图像与参考图像构建图像金字塔并对一些计算量进行初始化，根据当前层图像的梯度计算图像的块状积分图；基于图像块的逆向搜索求解稀疏的图像光流场；稀疏光流场稠密化，得到图像的稠密光流并对稠密光流图像进行变分求精；将中稠密化后的光流图变换到下一层图像的尺寸，作为下一层图像进行光流搜索的初始光流。最底层的光流图像变换到跟原始图像一样大小并乘以相应的放大比例，得到与待配准图像与参考图像对应的光流。

上述正向光流和反向光流可以图像的形式表示，参照图3和图4所示，图3示出了正向光流图像，图4示出了反向光流图像，在二维图像中每个像素的光流是一个二维向量。如光流图所示，A区域表示x方向的光流为负，y方向的光流为正，B区域表示x方向和y方向的光流都是正数，C区域表示x方向的光流为正，y方向的光流为负，D区域表示x方向和y方向的光流都是负数。

需要说明的是，利用DIS(Dense Inverse Search)获取光流的方式可以参照相关技术中的内容，此处不再赘述。

在步骤S220中，根据所述正向光流以及反向光流确定所述待配准图像或所述参考图像中的候选像素点的光流误差。

在本公开的一种示例实施方式中，可以根据正向光流和反向光流计算参考图像中的候选像素点对应的光流误差，此时，上述候选像素点可以包括上述参考图像中的所有像素点，也可以是每一个区域中的像素点，也可以根据用户需求进行自定义，在本示例实施方式中不做具体限定。光流误差可以用光流误差图像的形式表示，参照图5所示，具体而言，确定参考图像中的候选像素点对应的光流误差可以包括步骤S510至步骤S530。

在步骤S510中，根据所述正向光流确定所述参考图像中的候选像素点在所述待配准图像中的第一匹配点。

在本示例实施方式中可以直接根据上述正向光流确定上述参考图像中的所有候选像素点在待配准图像中一一对应的第一匹配点，举例而言，假设参考图像中的候选像素点为A_n，则其对应在待配准图像中的第一匹配点为B_n，其中，A1_n和B_n中的n的值一一对应，即A1₁和B₁对应，A1₃和B₃对应。

在步骤S520中，根据所述反向光流确定所述第一匹配点在所述参考图像中的第二匹配点。

在得到上述第一匹配点之后，可以利用上述反向光流计算第一匹配电在参考图像中对应的第二匹配点，举例而言，利用上述反向光流计算第一匹配点为B_n在参考图像中对应的第二匹配点A2_n，其中，A2_n和B_n中的n的值一一对应，即A2₁和B₁对应，A2₃和B₃对应。

在步骤S530中，根据参考图像中的候选像素点以及候选像素点对应的第二匹配点确定所述光流误差。

在确定上述第二匹配点之后，可以根据上述参考图像中的候选像素点预计上述第二匹配点确定上述光流误差，具体而言，可以计算上述第二匹配点A2_n与候选像素点A1_n之间的距离作为上述光流误差，可以计算每一个候选像素点与第二匹配点之间的距离既可以得到多个光流误差，可以将多个光流误差构成的图像作为光流误差图像，也可以计算部分候选像素点与第二匹配点之间的距离作为光流误差图像，在本示例实施方式中不做具体限定。

在本公开的另一种示例实施方式中，，可以根据正向光流和反向光流计算待配准图像中的候选像素点对应的光流误差，此时，上述候选像素点可以包括上述待配准图像中的所有像素点，也可以是每一个区域中的像素点，也可以根据用户需求进行自定义，在本示例实施方式中不做具体限定。光流误差可以用光流误差图像的形式表示，参照图6所示，具体而言，确定参考图像中的候选像素点对应的光流误差可以包括步骤S610至步骤S630。

在步骤S610中，根据所述反向光流确定所述待配准图像中的候选像素点在所述参考图像中的第三匹配点。

在本示例实施方式中可以直接根据上述反向光流确定上述待配准图像中的所有候选像素点在参考图像中一一对应的第三匹配点，举例而言，假设待配准图像中的候选像素点为B1_n，则其对应在参考图像中的第三匹配点为A_n，其中，A_n和B1_n中的n的值一一对应，即A₁和B1₁对应，A₃和B1₃对应。

在步骤S620中，根据所述正向光流确定所述第三匹配点在所述待配准图像中的第四匹配点。

在得到上述第三匹配点之后，可以利用上述反向光流计算第一匹配电在待配准图像中对应的第四匹配点，举例而言，利用上述反向光流计算第三匹配点为A_n在待配准图像中对应的第四匹配点B2_n，其中，B2_n和A_n中的n的值一一对应，即B2₁和A₁对应，B2₃和A₃对应。

在步骤S630中，根据待配准图像中的候选像素点以及候选像素点对应的第四匹配点确定所述光流误差。

在确定上述第四匹配点之后，可以根据上述待配准图像中的候选像素点预计上述第四匹配点确定上述光流误差，具体而言，可以计算上述第四匹配点B2_n与候选像素点B1_n之间的距离作为上述光流误差，可以计算每一个候选像素点与第四匹配点之间的距离既可以得到多个光流误差，可以将多个光流误差构成的图像作为光流误差图像，也可以计算部分候选像素点与第四匹配点之间的距离作为光流误差图像，在本示例实施方式中不做具体限定。

在步骤S230中，根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点。

在本示例实施方式中，在确定上述光流误差之后，可以根据上述光流误差在上述候选像素点中选取目标像素点，具体而言，可以首先设定与预设光流阈值，然后根据预设光流阈值在多个候选像素点中选取多个目标像素点。

在本示例实施方式中，可以光流误差小于上述预设光流阈值的候选像素点确定为目标像素点，具体而言，可以将上述小于预设光流阈值的光流误差确定为目标光流，将目标光流对应的候选像素点确定为上述目标像素点，其中预设光流阈值的值可以根据用户需求进行自定义，在本示例实施方式中不做具体限定。

通过正向光流以及反向光流计算的光流误差，基于光流误差和预设光流阈值来在候选像素点中确定目标像素点，能够增加目标像素点的可靠性，使得后续在特征点匹配时的精度更高。

在步骤S240中，对所述目标像素点进行重复纹理检测得到检测结果，并根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对。

在本示例实施方式中，在得到上述目标像素点之后，可以对上述目标像素点进行重复纹理检测，并得到检测结果，其中，检测结果可以包括目标像素点是重复纹理像素点或者目标像素点是非重复纹理像素点，在对上述目标像素点进行重复纹理检测时，可以针对上述目标像素点执行步骤S710至步骤S750。具体而言：

在步骤S710中，获取包括所述目标像素点的第一图像块；

在本公开的一种示例实施方式中，获取包括上述目标像素点的第一图像块时，可以以上述目标像素点为中心确定一个预设尺寸的图像块作为上述第一图像块，其中，上述预设尺寸可以是9*9、7*7、11*11等，还可以和根据用户需求进行自定义，例如，在检测较大的重复纹理时，可以较大的预设尺寸，在本示例实施方式中不做具体限定。

在步骤S720中，确定所述第一图像块的梯度；

在本示例实施方式中，在确定上述第一图像块之后们可以确定上述第一图像块的梯度，即确定上述第一图像块的边缘的方向，梯度可以是水平方向、竖直方向，也可以与水平方向倾斜任意角度的方向，例如，与水平方向倾斜45度，与水平方向倾斜23度等，在本示例实施方式中不做具体限定。

在步骤S730中，沿所述梯度的方向确定至少一个与所述第一图像块尺寸相同的第二图像块；

在确定上述第一图像块的梯度之后，可以沿上述梯度的方向确定至少一个与第一图像块尺寸相同的第二图像块，举例而言，可以沿上述梯度的正方向确定一个与第一图像块尺寸相同的第二图像块，然后沿述梯度的反方向确定一个与第一图像块尺寸相同的第二图像块，在本示例实施方式中，选取上述第二图像块时，可以以上述目标像素点为起点，步长为5来确定上述第二图像块。

具体可以参照图8所示，假设像素坐标点p为目标像素点{P_as}中的一个像素点，先以p为中心，取一个9*9的第一图像块记为patch(p)然后可以以像素p为起点按步长5，在p的梯度方向上前后各取一个9*9的第二图像块，分别记为patch(p_l)和patch(p_r)，其中，上述步长可以是第一图像块尺寸的一半，若上述第一图像块尺寸为奇数，则取临近尺寸一半的任一整数即可，也可根据使用场景进行自定义，同时，一个方向的第二图像块的数量也是多个，例如，按照步长为1，2或者3，沿p的梯度方向前后各取两个或者两个以上的第二图像块。

在步骤S740中，计算所述第一图像块和所述第二图像块之间的相似度；

在本公开的一种示例实施方式中，在得到上述第一图像块以及第二图像块之后，计算上述第一图像块和第二图像块之间的相似度，具体而言，可以分别取出patch(p)、patch(p_l)和patch(p_r)的像素值序列，按照从左往右，从上到下的顺序排列像素值，结果分别记为：L_l、L₀和L_r；计算L₀和L_l的相似度记为S_0l,计算L₀和L_r的相似度为S_0r，可以通过如下计算公式来完成对上述相似度的计算，其中，相似度计算公式如下：

其中，L₁和L₂是两个待比较的图像块的像素值序列，即分别对应上述第一图像块以及第二图像块对应的像素值序列，

和

是第一图像块以及第二图像块像素值的均值。d(L₁,L₂)即相似度，的取值范围是[-1,1]，越接近于1，两个图像块越相似。如果L₁和L₂相等，即两个图像块一样，则分子等于分母，相关性计算结果等于1。其中k表示第一图像块以及第二图像块的的像素标识，即像素点的排序序列号。

需要说明得是，确定上述第一图像块和第二图像块之间的相似度时，还可以采用其他方式，例如，比较图像区域的灰度直方图，梯度直方图判断两个图像区域是否相似。此外，也可以通过计算图像区域之间的误差平方和(SSD)、绝对误差和(SAD)、平均绝对差(MAD)、平均误差平方和(MSD)、归一化积相关(NCC)，结构相似性(SSIM)等来衡量图像区域的相似性，在本示例实施方式中不做具体限定。

在步骤S750中，根据所述相似度得到所述检测结果。

在本示例实施方式中，在计算得到相似度之后，可以根据上述相似的度来确定上述检测结果，具体而言，确定同一个目标像素点对应的多个相似度，通过比较相似度阈值以及相似度来确定上述目标像素点是否为重复纹理像素点的检测结果。

在本示例实施方式中，可以首先确定同一个目标像素点对应的多个相似度中的最大值，然后利用上述最大值与上述相似度阈值进行比较，若上述最大值大于上述预设阈值，则判定上述目标像素点为重复纹理像素点。若上述最大值小于或等于上述相似度阈值，则哦安定上述目标像素点为非重复纹理像素点。

在得到上述检测结果之后，若上述目标像素点为参考图像中的像素点，则确定参考图像中检测结果为不重复纹理像素点的目标像素点在所述待配准图像中对应的匹配特征点。

若上述目标像素点为待配准图像中的像素点，则确定所述待配准图像中检测结果为不重复纹理像素点的目标像素点在所述参考图像中对应的匹配特征点。

上述步骤可以删除重复纹理像素点，避免了由于重复纹理区域亮度特征的重复性，生成错误光流，从而导致匹配出错的问题，提升了特征点匹配的精度。

在本公开的一种示例实施方式中，还可以根据上述相似度来确定目标像素点的权重信息，然后根据权重信息确定上述待配准图像和参考图像之间的匹配特征点对。其中，若相速度越大，则目标像素点对应的权重信息则越小。

在本示例实施方式中，可以利用过上述权重信息进行特征点匹配，例如，在用特征点进行参数优化或者模型优化时，对重复纹理区域的目标响度点赋予较低的权重参与优化，对非重复纹理区域的目标像素点赋予较高权重参与优化，从而一定程度上减小重复纹理弱纹理的误匹配带来的影响。

下面可以参照图9对上述重复纹理检测进行项详细说明，可以首先执行步骤S910，输入目标像素点，然后执行步骤S920，以目标像素点为中心确定第一图像块，之后执行步骤S930，确定第一图像块对应的梯度，在然后可以执行步骤S940，沿梯度的正方向和反方向各获取一个第二图像块，之后执行步骤S950，计算两个第二图像块分别与第一图像块之间的相似度，在得到相似度之后可以执行步骤S960，确定相似度中的最大值，之后执行步骤S970，判断最大值是否大于相似度阈值，若是，则执行步骤S980，将上述目标像素点判定为重复纹理像素点，若否，则执行步骤S990，将上述目标像素点判定为非重复纹理像素点。

在本公开的一种示例实施方式中，参照图10所示，本公开的特征点匹配方法还可以包括步骤S250和步骤S260。

在步骤S250中，检测所述匹配特征点对中的特征点的极线误差。

在本示例实施方式中，可以首先确定待配准图像与参考图像之间的基础矩阵，然后确定所述参考图像中的像素点在待配准图像中的对应的极线，最后将待配准图像中与所述参考图像中的像素点对应的像素点到所述极线的距离确定为所述极线误差，具体而言，参照图11所示，求待配准图像与参考图像的基础矩阵F，利用F矩阵求到从左图中的一特征点p1在右图中对应的极线L，最后计算右图中与p1对应特征点p2到极线L的距离，记为这一对特征点的极线误差。

其中，参照图11所示，极线约束是指在左图像L中的一点，它在右图R中的对应匹配点必定在某一条直线上，这条直线就是极线。点P为世界坐标系上一点，p为左图像上一点，p′为右图像上一点，则Ppp′形成一个平面，称为极平面，左右两条直线l₁和l₂则称为极线，O_l与O_r则为左右相机的光心。如果已知左图像一点P，想去查找右图像中的对应匹配点p′所在的极线。若上述匹配特征点为误匹配点，则那么前面所述的关系不成立，通过极线约束找到的极线与匹配点之间就会有较大距离，也就是极线误差较大，因此可以直接根据极线误差的大小，将极线误差较大的点判为误匹配点剔除。

在步骤S260中，根据所述极线误差对所述匹配特征点对进行更新。

在本示例实施方式中，在得到上述极线误差之后，可以利用极线误差对上述匹配特征点对进行更新，具体而言，可以首先确定上述目标响度思安对应的极线误差的标注差，然后根据上述标注差确定一个误差阈值，最后可以根据上述极线误差和误差阈值更新上述特征匹配点对。

举例而言，在计算得到上述极线误差的标注差σ之后，可以根据3σ法则，将极线误差与均值的距离大于3σ的点剔掉。

需要说明的是，上述步骤S250和步骤时S260是为了删除误匹配点，能够进一步的提升特征点匹配的精度，使得得到的匹配特征点对的匹配程度更高。

在一种示例实施方式中，删除误匹配点的方式不局限于上述极线误差，也可以采用常规的ransac筛点方案，好可以根据用户需求进行自定义，在本示例实施方式中不做具体限定。

下面参照图12所示，对公开的特征点匹配方法进行详细说明，首先可以执行步骤S1210，预处理，即对参考图像和待配准图像进行预处理，然后执行步骤S1220，获取正向光流和反向光流，即通过DIS模块获取参考图像和待配准图像之间的正向光流和反向光流；然后执行步骤S1230，获取目标像素点，之后执行步骤S1240，重复纹理检测，然后执行步骤S1250，基于检测结果得到匹配特征点对，之后执行步骤S1260，删除误匹配点，最后执行步骤S1270，得到更新后匹配特征点对。

综上所述，本示例性实施方式中，一方面，通过待配准图像的参考图像之间的正向光流和反向光流来确定光流误差，并根据光流误差来获取目标像素点，排除了不准确的像素点，提升了特征点匹配的精度，另一方面，基于重复纹理检测结果来确定待配准图像和所述参考图像之间的匹配特征点对，删除了检测结果为重复纹理像素点的目标像素点，删减了重复纹理对特征点匹配的影响，进一步的提升了特征点匹配的精度，提升了得到的匹配特征点对的匹配程度。再另一方面，在得到匹配特征点对之后，计算各各个匹配特征点对之间的极线误差，并基于极线误差判断是否为误匹配，删除了误匹配的匹配特征点，进一步的提升了特征点匹配的精度，提升了得到的匹配特征点对的匹配程度。

需要注意的是，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

进一步的，参考图13所示，本示例的实施方式中还提供一种特征点匹配装置1300，包括光流获取模块1310、误差确定模块1320、像素选取模块1330和图像匹配模块1340。其中：

光流获取模块1310可以用于获取待配准图像与参考图像之间的正向光流以及反向光流。

误差确定模块1320可以用于根据所述正向光流以及反向光流确定所述待配准图像或所述参考图像中的候选像素点的光流误差。

在一种示例实施方式中，所述正向光流为从参考图像到待配准图像的光流，所述反向光流为从待配准图像到参考准图像的光流，误差确定模块1320被配置为根据所述正向光流确定所述参考图像中的候选像素点在所述待配准图像中的第一匹配点；根据所述反向光流确定所述第一匹配点在所述参考图像中的第二匹配点；根据参考图像中的候选像素点以及候选像素点对应的第二匹配点确定所述光流误差。

在一种示例实施方式中，误差确定模块1320还可以被配置为根据所述反向光流确定所述待配准图像中的候选像素点在所述参考图像中的第三匹配点；根据所述正向光流确定所述第三匹配点在所述待配准图像中的第四匹配点；根据待配准图像中的候选像素点以及候选像素点对应的第四匹配点确定所述光流误差。

像素选取模块1330可以用于根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点。

在一种示例实施方式中，像素选取模块1330可以被配置为获取一预设光流阈值；根据所述预设光流阈值在所述光流误差中确定目标光流；将参考图像中与所述目标光流的对应的候选像素点作为所述目标像素点。

图像匹配模块1340可以用于对所述目标像素点进行重复纹理检测得到检测结果，并根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对。

在本公开的一种示例实施方式中，图像匹配模块1340可以被配置为对所述目标像素点执行如下操作：获取包括所述目标像素点的第一图像块；确定所述第一图像块的梯度；沿所述梯度的方向确定至少一个与所述第一图像块尺寸相同的第二图像块；计算所述第一图像块和所述第二图像块之间的相似度；根据所述相似度得到所述检测结果。

在本示例实施方式中，沿所述梯度的方向确定至少一个与所述第一图像块尺寸相同的第二图像块时，图像匹配模块1340可以沿所述梯度的正方向确定一个与所述第一图像块尺寸相同的第二图像块，沿所述梯度的反方向确定另一个与所述第一图像块尺寸相同的第二图像块；计算所述第一图像块与所述第二图像块之间的相似度。

在本示例实施方式中，图像匹配模块1340可以被配置为获取第一图像块与所述第二图像块之间的相似度中的最大值；根据所述最大值和相似度阈值得到所述检测结果。

在本公开的一种示例实施方式中，图像匹配模块1340可以被配置为通过比较所述相似度与相似度阈值，得到所述目标像素点是否为重复纹理像素点的检测结果。

在本公开的一种示例实施方式中，图像匹配模块1340可以被配置为根据所述相似度确定目标像素点的权重信息；根据所述权重信息确定所述待配准图像和所述参考图像之间的匹配特征点对。

在本公开的一种示例实施方式中，图像匹配模块1340可以被配置为确定所述参考图像中检测结果为不重复纹理像素点的目标像素点在所述待配准图像中对应的匹配特征点；或确定所述待配准图像中检测结果为不重复纹理像素点的目标像素点在所述参考图像中对应的匹配特征点。

在本公开的一种示例实施方式中，参照图14所示，特征点匹配装置还可以包括误差检测模块1350和匹配更新模块1360，其中，

误差检测模块1350可以用于检测所述匹配特征点对中的特征点的极线误差。

在一种示例实施方式中，误差检测模块1350可以被配置为确定所述待配准图像与参考图像之间的基础矩阵；确定所述参考图像中的像素点在待配准图像中的对应的极线；将待配准图像中与所述参考图像中的像素点对应的像素点到所述极线的距离确定为所述极线误差。

匹配更新模块1360可以用于根据所述极线误差对所述匹配特征点对进行更新。

在本公开的一种示例实施方式中，匹配更新模块1360可以被配置为确定所有目标像素点对应的极线误差的标准差；根据所述标准差确定误差阈值；根据所述极线误差和所述误差阈值更新所述匹配特征点。

上述装置中各模块的具体细节在方法部分实施方式中已经详细说明，未披露的细节内容可以参见方法部分的实施方式内容，因而不再赘述。

本公开的示例性实施方式还提供一种用于执行上述特征点匹配方法的电子设备，该电子设备可以是上述终端110或服务器130。一般的，该电子设备可以包括处理器与存储器，存储器用于存储处理器的可执行指令，处理器配置为经由执行可执行指令来执行上述图像特征点匹配方法。

下面以图15中的移动终端1500为例，对该电子设备的构造进行示例性说明。本领域技术人员应当理解，除了特别用于移动目的的部件之外，图15中的构造也能够应用于固定类型的设备。

如图15所示，移动终端1500具体可以包括：处理器1501、存储器1502、总线1503、移动通信模块1504、天线1、无线通信模块205、天线2、显示屏1506、摄像模块1507、音频模块1508、电源模块1509与传感器模块1510。

处理器1501可以包括一个或多个处理单元，例如：处理器1501可以包括AP(Application Processor，应用处理器)、调制解调处理器、GPU(Graphics ProcessingUnit，图形处理器)、ISP(Image Signal Processor，图像信号处理器)、控制器、编码器、解码器、DSP(Digital Signal Processor，数字信号处理器)、基带处理器和/或NPU(Neural-Network Processing Unit，神经网络处理器)等。本示例性实施方式中的特征点匹配方法可以由AP、GPU或DSP来执行，当方法涉及到神经网络相关的处理时，可以由NPU来执行。

编码器可以对图像或视频进行编码(即压缩)，例如可以将目标图像编码为特定的格式，以减小数据大小，便于存储或发送。解码器可以对图像或视频的编码数据进行解码(即解压缩)，以还原出图像或视频数据，如可以读取目标图像的编码数据，通过解码器进行解码，以还原出目标图像的数据，进而对该数据进行特征点匹配的相关处理。移动终端1500可以支持一种或多种编码器和解码器。这样，移动终端1500可以处理多种编码格式的图像或视频，例如：JPEG(Joint Photographic Experts Group，联合图像专家组)、PNG(Portable Network Graphics，便携式网络图形)、BMP(Bitmap，位图)等图像格式，MPEG(Moving Picture Experts Group，动态图像专家组)1、MPEG2、H.263、H.264、HEVC(HighEfficiency Video Coding，高效率视频编码)等视频格式。

处理器1501可以通过总线1503与存储器1502或其他部件形成连接。

存储器1502可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。处理器1501通过运行存储在存储器1502的指令，执行移动终端1500的各种功能应用以及数据处理。存储器1502还可以存储应用数据，例如存储图像，视频等文件。

移动终端1500的通信功能可以通过移动通信模块1504、天线1、无线通信模块1505、天线2、调制解调处理器以及基带处理器等实现。天线1和天线2用于发射和接收电磁波信号。移动通信模块1504可以提供应用在移动终端1500上2G、3G、4G、5G等移动通信解决方案。无线通信模块1505可以提供应用在移动终端200上的无线局域网、蓝牙、近场通信等无线通信解决方案。

显示屏1506用于实现显示功能，如显示用户界面、图像、视频等。摄像模块1507用于实现拍摄功能，如拍摄图像、视频等。音频模块1508用于实现音频功能，如播放音频，采集语音等。电源模块1509用于实现电源管理功能，如为电池充电、为设备供电、监测电池状态等。传感器模块1510可以包括深度传感器15101、压力传感器15102、陀螺仪传感器15103、气压传感器15104等，以实现相应的感应检测功能。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为***、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“***”。

本公开的示例性实施方式还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。

需要说明的是，本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

此外，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限。

Claims (16)

1.一种特征点匹配方法，其特征在于，包括：

获取待配准图像与参考图像之间的正向光流以及反向光流；

根据所述正向光流以及反向光流确定所述待配准图像或所述参考图像中的候选像素点的光流误差；

根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点；

对所述目标像素点进行重复纹理检测得到检测结果，并根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对。

2.根据权利要求1所述的方法，其特征在于，所述正向光流为从参考图像到待配准图像的光流，所述反向光流为从待配准图像到参考准图像的光流；所述根据所述正向光流以及反向光流确定所述参考图像中的候选像素点的光流误差包括：

根据所述正向光流确定所述参考图像中的候选像素点在所述待配准图像中的第一匹配点；

根据所述反向光流确定所述第一匹配点在所述参考图像中的第二匹配点；

根据参考图像中的候选像素点以及候选像素点对应的第二匹配点确定所述光流误差。

3.根据权利要求1所述的方法，其特征在于，所述正向光流为从参考图像到待配准图像的光流，所述反向光流为从待配准图像到参考准图像的光流；所述根据所述正向光流以及反向光流确定所述待配准图像中的候选像素点的光流误差包括：

根据所述反向光流确定所述待配准图像中的候选像素点在所述参考图像中的第三匹配点；

根据所述正向光流确定所述第三匹配点在所述待配准图像中的第四匹配点；

根据待配准图像中的候选像素点以及候选像素点对应的第四匹配点确定所述光流误差。

4.根据权利要求1所述的方法，其特征在于，所述根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点包括：

获取一预设光流阈值；

根据所述预设光流阈值在所述光流误差中确定目标光流；

将参考图像中与所述目标光流的对应的候选像素点作为所述目标像素点。

5.根据权利要求1所述的方法，其特征在于，所述对所述目标像素点进行重复纹理检测得到检测结果包括：

对所述目标像素点执行如下操作：

获取包括所述目标像素点的第一图像块；

确定所述第一图像块的梯度；

沿所述梯度的方向确定至少一个与所述第一图像块尺寸相同的第二图像块；

计算所述第一图像块和所述第二图像块之间的相似度；

根据所述相似度得到所述检测结果。

6.根据权利要求5所述的方法，其特征在于，所述沿所述梯度的方向确定至少一个与所述第一图像块尺寸相同的第二图像块包括：

沿所述梯度的正方向确定一个与所述第一图像块尺寸相同的第二图像块，沿所述梯度的反方向确定另一个与所述第一图像块尺寸相同的第二图像块；

计算所述第一图像块与所述第二图像块之间的相似度。

7.根据权利要求6所述的方法，其特征在于，所述根据所述相似度得到所述检测结果包括：

获取第一图像块与所述第二图像块之间的相似度中的最大值；

根据所述最大值和相似度阈值得到所述检测结果。

8.根据权利要求5所述的方法，其特征在于，所述根据所述相似度得到所述检测结果包括：

通过比较所述相似度与相似度阈值，得到所述目标像素点是否为重复纹理像素点的检测结果。

9.根据权利要求5所述的方法，其特征在于，所述根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对包括：

根据所述相似度确定目标像素点的权重信息；

根据所述权重信息确定所述待配准图像和所述参考图像之间的匹配特征点对。

10.根据权利要求1所述的方法，其特征在于，所述检测结果包括所述目标像素点为重复纹理像素点或非重复纹理像素点；所述根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对包括：

确定所述参考图像中检测结果为不重复纹理像素点的目标像素点在所述待配准图像中对应的匹配特征点；或

确定所述待配准图像中检测结果为不重复纹理像素点的目标像素点在所述参考图像中对应的匹配特征点。

11.根据权利要求1所述的方法，其特征在于，在得到匹配特征点对后，所述方法还包括：

检测所述匹配特征点对中的特征点的极线误差；

根据所述极线误差对所述匹配特征点对进行更新。

12.根据权利要求11所述的方法，其特征在于，所述检测所述匹配特征点中的特征点的极线误差包括：

确定所述待配准图像与参考图像之间的基础矩阵；

确定所述参考图像中的像素点在待配准图像中的对应的极线；

将待配准图像中与所述参考图像中的像素点对应的像素点到所述极线的距离确定为所述极线误差。

13.根据权利要求11所述的方法，其特征在于，所述根据所述极线误差对所述匹配特征点对进行更新包括：

确定所有目标像素点对应的极线误差的标准差；

根据所述标准差确定误差阈值；

根据所述极线误差和所述误差阈值更新所述匹配特征点。

14.一种特征点匹配装置，其特征在于，包括：

光流获取模块，用于获取待配准图像与参考图像之间的正向光流以及反向光流；

误差确定模块，用于根据所述正向光流以及反向光流确定所述待配准图像或所述参考图像中的候选像素点的光流误差；

像素选取模块：用于根据所述候选像素点的光流误差，从所述候选像素点中选取目标像素点；

图像匹配模块，用于对所述目标像素点进行重复纹理检测得到检测结果，并根据所述检测结果确定所述待配准图像和所述参考图像之间的匹配特征点对。

15.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1至11中任一项所述的特征点匹配方法。

16.一种电子设备，其特征在于，包括：

一个或多个处理器；以及

存储器，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1至11中任一项所述的特征点匹配方法。

Images