CN103473565A - 一种图像匹配方法和装置 - Google Patents
一种图像匹配方法和装置 Download PDFInfo
- Publication number
- CN103473565A CN103473565A CN2013103742297A CN201310374229A CN103473565A CN 103473565 A CN103473565 A CN 103473565A CN 2013103742297 A CN2013103742297 A CN 2013103742297A CN 201310374229 A CN201310374229 A CN 201310374229A CN 103473565 A CN103473565 A CN 103473565A
- Authority
- CN
- China
- Prior art keywords
- point
- image
- characteristic
- characteristic point
- subpoint
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种图像匹配方法和装置,该方法获取从第一图像与第二图像中匹配出的初始特征点集合;依次基于初始特征点集合中的每对特征点对的匹配关系,确定第一图像中预设的参考点在第二图像中的投影点,得到多个投影点;从该多个投影点中,确定与第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点;从该初始特征点集合中去除第一投影点对应的特征点对,并根据该初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系。该方法能够提高图像之间匹配的精度以及图像匹配的可靠性。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种图像匹配方法和装置。
背景技术
图像匹配技术已经被应用于多个领域,如图像配准、目标识别、脸部识别、医学图像处理等。然而,无论采用何种图像匹配技术,都无法避免出现误匹配的现象,使匹配出的匹配点集合中存在较多的错误匹配点。
为了两幅图像之间的匹配关系时,需要计算两幅图像之间的变换模型参数,但是当匹配点集合中存在大量错误匹配点时,会影响到变换模型参数的估计精度,进而影响到确定图像之间匹配关系。虽然目前采用随机采样一致性算法(RANSAC,Random Sample Consensus)、最小平方中值法等算法来进行图像变换模型参数的估计,可以降低误匹配点对确定图像匹配关系的影响。但是当错误匹配点数量较多,利用这些算法进行变换模型参数估计,也会存在参数估计精度低的问题,从而影响了确定图像之间的匹配关系可靠性。
发明内容
有鉴于此,本发明提供一种图像匹配方法和装置,该方法能够提高图像之间匹配的精度,进而提高图像匹配的可靠性。
为实现以上目的,本发明的第一方面提供了一种图像匹配方法,包括:
获取从第一图像与第二图像中匹配出的初始特征点集合,其中,所述初始特征点集合中包括多对特征点对;
依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,得到多个投影点;
从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点;
从所述初始特征点集合中去除所述第一投影点对应的特征点对,并根据所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系。
结合第一方面,在第一种可能的实现方式中,所述依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,包括:
获取所述每对特征点对中的第一特征点和第二特征点的特征点信息,其中,所述第一特征点为所述第一图像中的特征点,所述第二特征点为第二图像中的特征点;所述特征点信息包括:特征点在所属图像中的位置、尺度和主方向;
基于所述第一特征点与所述第二特征点的匹配关系,并依据所述第一特征点和第二特征点的特征点信息以及所述参考点在所述第一图像中的位置,确定所述参考点在所述第二图像中的投影点。
结合第一方面的第一种可能的实现方式,在第二种可能的实现方式中,所述基于所述第一特征点与所述第二特征点的匹配关系,并依据所述第一特征点和第二特征点的特征点信息以及所述参考点在所述第一图像中的位置,确定所述参考点在所述第二图像中的投影点,包括:
根据所述第一特征点的特征点信息,计算所述第一特征点与所述参考点的第一距离,以及所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角;
根据所述第一特征点的尺度和第二特征点的尺度,计算第二特征点相对第一特征点的尺度缩放因子;
基于所述第一特征点与第二特征点的匹配关系,并根据所述第二特征点的位置、所述第二特征点的主方向、所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角、所述第一距离以及所述尺度缩放因子,计算所述参考点在所述第二图像中的投影点的位置。
结合第一方面的第二种可能的实现方式,在第三种可能的实现方式中,所述基于所述第一特征点与第二特征点的匹配关系,并根据所述第二特征点的位置、所述第二特征点的主方向、所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角、所述第一距离以及所述尺度缩放因子,计算所述参考点在所述第二图像中的投影点的位置,包括:
通过如下方式,计算所述参考点在所述第二图像中的投影点的位置P(Xr,kj,Yr,kj):
Xr,kj=xkj+Sri,kj*dr,ri*cos(wkj+Δφr,ri);
Yr,kj=ykj+Sri,kj*dr,ri*sin(wkj+Δφr,ri);
其中,xkj,ykj分别为所述第二特征点在所述第二图像中的横坐标和纵坐标;Sri,kj为所述尺度缩放因子;dr,ri为所述第一距离;wkj为所述第二特征点的主方向;Δφr,ri为所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角。
结合第一方面、第一方面的第一种可能的实现方式、第一方面的第二种可能的实现方式和第一方面的第三种可能的实现方式,在第四种可能的实现方式中,所述从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点,包括:
统计所述第二图像中各个坐标位置处的投影点个数,并利用核密度估计方法,分别计算所述第二图像中各个坐标位置处指定核窗宽内的密度,确定密度最大值所在的第一位置。
结合第一方面、第一方面的第一种可能的实现方式、第一方面的第二种可能的实现方式、第一方面的第三种可能的实现方式和第一方面的第四种可能的实现方式,在第五种可能的实现方式中,所述根据所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系,包括:
利用随机采样一致性算法,对所述初始特征点集合中剩余的特征点进行变换模型参数估计,并根据估计出的变换模型参数确定所述第一图像和所述第二图像的匹配关系。
本发明的第二方面提供了一种图像匹配装置,包括:
特征点对获取单元,用于获取从第一图像与第二图像中匹配出的初始特征点集合,其中,所述初始特征点集合中包括多对特征点对;
投影点确定单元,用于依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,得到多个投影点;
投影点筛选单元,用于从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点;
特征点对去除单元,用于从所述初始特征点集合中去除所述第一投影点对应的特征点对;
匹配单元,用于根据去除了所述第一投影点对应的特征点对之后,所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系。
结合第二方面,在第一种可能的实现方式中,所述投影点确定单元,包括:
信息获取单元,用于获取所述每对特征点对中的第一特征点和第二特征点的特征点信息,其中,所述第一特征点为所述第一图像中的特征点,所述第二特征点为第二图像中的特征点;所述特征点信息包括:特征点在所属图像中的位置、尺度和主方向;
投影点确定子单元,用于基于所述第一特征点与所述第二特征点的匹配关系,并依据所述第一特征点和第二特征点的特征点信息以及所述参考点在所述第一图像中的位置,确定所述参考点在所述第二图像中的投影点。
结合第二方面的第一种可能实现方式,在第二种可能的实现方式中,所述投影点确定子单元,包括:
第一计算单元,用于根据所述第一特征点的特征点信息,计算所述第一特征点与所述参考点的第一距离,以及所述第一特征点与所述参考点的矢量方向与所述第一特征点的主方向之间的夹角;
第二计算单元,用于根据所述第一特征点的尺度和第二特征点的尺度,计算第二特征点相对第一特征点的尺度缩放因子;
投影点计算单元,用于基于所述第一特征点与第二特征点的匹配关系,并根据所述第二特征点的位置、所述第二特征点的主方向、所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角、所述第一距离以及所述尺度缩放因子,计算所述参考点在所述第二图像中的投影点的位置。
结合第二方面、第二方面的第一种可能的实现方式和第二方面的第二种可能的实现方式,在第三种可能的实现方式中,所述投影点筛选单元,包括:
投影点筛选子单元,用于统计所述第二图像中各个坐标位置处的投影点个数,并利用核密度估计方法,分别计算所述第二图像中各个坐标位置处指定核窗宽内的密度,确定密度最大值所在的第一位置。
结合第二方面、第二方面的第一种可能的实现方式、第二方面的第二种可能的实现方式和第二方面的第三种可能的实现方式中,在第四种可能的实现方式中,所述匹配单元包括:
匹配子单元,用于利用随机采样一致性算法,对去除了所述第一投影点对应的特征点对之后,所述初始特征点集合中剩余的特征点进行变换模型参数估计,并根据估计出的变换模型参数确定所述第一图像和所述第二图像的匹配关系。
从上述的技术方案可以看出,本发明在获取到待匹配的第一图像和第二图像中匹配出的初始特征点集合后,基于初始特征点集合中每对特征点对的匹配关系,确定第一图像中预设的参考点在该第二图像中的投影点,并确定与该第二图像中投影点最密集的第一位置距离大于预设阈值的第一投影点,由于特征点对为正确特征点对时,基于特征点对确定出的投影点的位置应在指定范围内,因此,该第一投影点对应的特征点对为误匹配特征点对,这样。利用初始特征点集合中去除了与第一投影点对应的特征点对之后的特征点对,确定第一图像和第二图像的匹配关系,提高了图像匹配的精准度和可靠性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一个实施例所示的一种图像匹配方法的流程示意图;
图2为本发明另一个实施例所示的一种图像匹配方法的流程示意图;
图3为本发明一个实施例所示的一种图像匹配装置的结构示意图;
图4为本发明另一个实施例所示的一种图像匹配装置的结构示意图;
图5为本发明一个实施例所示的一种计算节点的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种图像匹配方法,以提高图像匹配的精准度。
参见图1,其示出了本发明一种图像匹配方法的一个实施例的流程示意图,该方法包括:
步骤101:获取从第一图像与第二图像中匹配出的初始特征点集合。
该初始特征点集合中包括多对特征点对,每对特征点包括分别来自第一图像和第二图像的两个特征点,且这两个特征点具有匹配关系。该初始特征点集合中所包含的特征点对为通过现有的特征搜索匹配算法匹配出的特征点对,该初始特征点集合中的特征点对中会存在误匹配的特征点对。
其中,该第一图像和第二图像为待进行匹配的两幅图像。图像匹配实际上是将不同分辨率,不同位置如经过平移或旋转等,不同的比例尺度的两幅图像对应起来,并确定这两幅图像之间对应的匹配关系。两幅图像之间的匹配关系,可以通过两幅图像之间的变换关系确定。例如,这两幅图像之间存在怎样的旋转、平移、缩放等变换关系等。为了确定这两幅图像之间的匹配关系,在匹配过程中可以将这两幅图像中的一幅可以作为参考图像,另一幅图像则作为需要与该参考图像进行匹配的图像。在本申请实施例中将第一图像作为参考图像,第二图像为需要与该参考图像进行匹配的图像。
步骤102:依次基于每对特征点对的匹配关系,确定第一图像中预设的参考点在第二图像中的投影点,得到多个投影点。
其中,参考点为预先在参考图像即第一图像中选取出的一点,该参考点可以为在该第一图像中选取出的任意一点。可选的,该参考点可以为该第一图像的中心点。
对于初始特征点集合中的任意一对特征点对而言,在基于该特征点对的两个特征点确实为第一图像和第二图像中相互匹配的两个特征点的前提下,确定该第一图像的参考点在该第二图像上的投影点位置。这样,对于这多对特征点对的匹配关系,可以得到该参考点在该第二图像中的多个投影点,这多个投影点位置可能重合,也可能为处于不同的位置点。
步骤103:从这多个投影点中,确定与第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点。
由于参考点为该第一图像中一个固定点,而当两幅图像确定时,这两幅图像具有的匹配关系也是某种确定关系,因此,如果各个特征点对均为正确匹配出的特征点对时,该参考点在多个图像中的投影点投影位置应该在同一位置点。由此可知,基于该初始特征点集合中正确匹配的特征点对的匹配关系,确定出的投影点位置应该在第二图像中的同一点,而基于误匹配的特征点对的匹配关系,确定出的投影点的位置应该分散在该第二图像中的各个不同位置处。
考虑到实际应用中,确定投影点的过程会存在一定的误差,导致基于正确匹配的特征点对的匹配关系,确定出的投影位置点也不可能完全落在同一位置点上,但是这部分投影点的位置应该分布在一定的范围内。因此,可以确定出第二图像中投影点最密集的第一位置,并将与该第一位置的距离在预设阈值内的投影点作为基于正确匹配的特征点的匹配关系确定出的投影点。
相应的,如果投影点的位置与该第一位置的距离大于该预设阈值,那么确定该投影点对应的特征点对为错误匹配的特征点对。其中,如果基于特征点对的匹配关系,确定出参考点在该第二图像中的投影点,则该特征点对即为该投影点所对应的特征点对。
为了描述方便,本申请中将与该第一位置的距离大于该预设阈值的投影点称为该第一投影点,当基于某特征点对的匹配关系,确定出的投影点为第一投影点时,那么该特征点对则为误匹配的特征点对。
步骤104:从该初始特征点集合中去除第一投影点对应的特征点对,并根据初始特征点集合中剩余的特征点对,确定第一图像和第二图像的匹配关系。
由于该第一投影点对应的特征点对为错误匹配的特征点对,本申请将该错误匹配的特征点对从该初始特征点集合中去除,并利用去除了误匹配的特征点对之后的特征点对来进行图像匹配关系的分析,以确定第一图像和第二图像的匹配关系。
本申请实施例中,在获取到待匹配的第一图像和第二图像中匹配出的初始特征点集合时,并不是直接利用该初始特征点集合中特征点对来对这两幅图像之间的匹配关系进行分析。而是根据如果两幅图像中的匹配关系确定的情况下,其中一幅图像中一个固定点到另一幅图像中的投影点位置应在落在一定范围内的原理,分别基于初始特征点集合中每对特征点对的匹配关系,确定第一图像中预设的参考点在该第二图像中的投影点,并进一步确定得到的投影点中,与该第二图像中投影点最密集的第一位置距离大于预设阈值的第一投影点,进而将该第一投影点对应的特征点对确定为误匹配的特征点对。这样,利用初始特征点集合中,去除了误匹配的特征点对之后的特征点对来分析第一图像和第二图像的匹配关系,提高了图像匹配的精准度和可靠性。
其中,在根据初始特征点集合中剩余的特征点对,确定第一图像和第二图像的匹配关系时,可以采用现有的任意方式来进行变换模型参数估计,进而确定两幅图像之间的匹配关系。如,可以采用最小平方中值法、M估计法(M-estimators)等算法计算变换模型参数估计,进而确定两幅图像间的匹配关系。在利用这几种算法进行变换模型参数估计的过程中对该剩余的特征点对中可能存在的误匹配点进行了进一步的去除,进一步提高了确定出的图像匹配关系的准确度。
可选的,考虑到随机采样一致性(RANSAC,Random Sample Consensus)算法在进行参数估计的估计精度较高,可以利用RANSAC算法,对该初始特征点集合中剩余的特征点对进行变换模型参数估计,并根据估计出的变换模型参数确定该第一图像和第二图像的匹配关系。
由于RANSAC算法是一种不确定算法,在利用该RANSAC进行图像的变换模型参数估计的过程,需要通过迭代的方式估计模型参数,它有一定的概率得出一个合理的结果,为了提高概率必须提高迭代次数。因此,在初始特征点集合中错误匹配点数据较多的情况下,利用该RANSAC算法进行变换模型参数估计,则可能会需要较多次数的迭代运算,计算量较大,不能满足实时性的要求。而通过本发明的方法先将该第一投影点对应的误匹配特征点对去除之后,再利用RANSAC算法进行变换模型参数估计,则可以大幅度减少迭代次数,降低变换模型参数估计的计算量,满足了实时性要求。
可以理解的是,在本发明任意一个实施例中,获取该匹配出的初始特征点集合的过程与现有的匹配特征点集合的过程相同,如,通过特征点提取,特征点匹配等操作得到该初始特征点集合,在此不再赘述。
可选的,可以分别对第一图像和第二图像进行多尺度不变特征检测,从第一图像提取出待匹配特征点集合,并从第二图像中提取出相应的待匹配特征点集合。如,可以通过尺度不变特征转换(SIFT,Scale-invariant featuretransform)算法、加速鲁棒特征(SURF,Speeded Up Robust Features)算法或者随机蕨((Random ferns)算法等,来对图像进行多尺度不变特征检测。得到第一图像以及第二图像的待匹配特征点集合之后,可以分别计算该第一图像和第二图像中的待匹配特征点集合中各个特征点的匹配关系,获取匹配出该初始特征点集合。如,利用特征搜索匹配算法匹配出特征点对,从而得到包含多个特征点对的初始特征点集合。
可选的,在本发明的任意实施例中,为了根据每个特征点对中的第一特征点与第二特征点的匹配关系,确定该参考点在第二图像中的投影点位置,可以获取每对特征点对中的每个特征点的特征点信息,该特征点信息包括特征点在所属图像中的位置、尺度和主方向。为了描述方便,将特征点对中属于第一图像的特征点称为第一特征点,将该特征点对中属于第二图像中的特征点称为第二特征点。如,第一特征点的特征点信息包括该第一特征点在第一图像中的坐标位置,尺度和主方向。其中,确定特征点在所属图像中的位置、尺度和主方向的方法可以与现有的方式相同。例如,可以通过SIFT算法计算特征点的主方向时,可以是在特征点的附件选取指定大小的区域,并计算该区域的梯度直方图,将直方图的峰值的方向代表该特征点的主方向。
其中,该特征点信息可以是为了在确定两幅图像之间的特征点对的过程中,计算出该特征点信息,并在确定参考点在第二图像的投影点时,直接获取已经计算出的特征点信息。
当然,根据特征点对的特征点信息,并基于特征点对中第一特征点和第二特征点的匹配关系,确定参考点的投影方式可能有多种方式。
参见图2,其示出了本发明一种图像匹配方法的另一个实施例的流程示意图,该实施例提供了一种优选的确定投影点的方式,本实施例的方法包括:
步骤201:获取从第一图像与第二图像中匹配出的初始特征点集合。
其中,初始特征点集合中包含了多个特征点对。
该步骤与前面实施例的相关描述过程相似,在此不再赘述。
步骤202:获取每对特征点对中的第一特征点和第二特征点的特征点信息。
其中,对于任意一对特征点对而言,该第一特征点为该特征点对中属于第一图像中的特征点,该第二特征点为该特征点对中属于该第二图像中的特征点。该特征点信息包括:特征点在所属图像中的位置、尺度和主方向。
步骤203:根据第一特征点的特征点信息,计算第一特征点与第一图像中预设的参考点的第一距离,以及第一特征点到该参考点的矢量方向与第一特征点的主方向之间的夹角。
当该第一特征点的位置以及该参考点的位置确定后,可以计算出该第一特征点与该参考点的第一距离。
为了描述方便,本实施例中设特征点对中包括第一特征点Pri以及第二特征点Pkj。如果第一图像中该参考点的位置为(xr,yr)),第一特征点在第一图像中的位置为(xri,yri),则该第一距离dr,ri为:
同样的,根据该第一特征点和参考点的位置可以确定第一特征点到该参考点的矢量,从而确定出矢量方向,进而得到该矢量方向与该第一特征点主方向之间的夹角Δφr,ri。
步骤204:根据该第一特征点的尺度和第二特征点的尺度,计算第二特征点相对第一特征点的尺度缩放因子。
步骤205:基于第一特征点与第二特征点的匹配关系,并根据第二特征点的位置、第二特征点的主方向、该第一特征点到该参考点的矢量方向与第一特征点的主方向之间的夹角、第一距离以及尺度缩放因子,计算参考点在第二图像中的投影点的位置。
根据以上步骤中计算出的参数,可以确定出基于该特征点对的匹配关系,得到的该参考点在该第二图像中的投影点的位置。
具体的,对于该特征点对的匹配关系,通过如下方式,计算该参考点在第二图像中的投影点的位置P(Xr,kj,Yr,kj):
Xr,kj=xkj+Sri,kj*dr,ri*cos(wkj+Δφr,ri) (公式二)
Yr,kj=ykj+Sri,kj*dr,ri*sin(wkj+Δφr,ri) (公式三)
其中,xkj,ykj分别为所述第二特征点在所述第二图像中的横坐标和纵坐标;Sri,kj为尺度缩放因子;dr,ri为第一距离;wkj为第二特征点的主方向;Δφr,ri为第一特征点到该参考点的矢量方向与第一特征点的主方向之间的夹角。
步骤206:从该多个投影点中,确定与第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点。
步骤207:从初始特征点集合中去除第一投影点对应的特征点对,并根据初始特征点集合中剩余的特征点对,确定第一图像和所述第二图像的匹配关系。
其中,步骤208和步骤209的操作可以参照以上实施例的相关描述,在此不再赘述。
在本申请实施例中,由于可以在匹配特征点对的过程中计算出特征点对中的两个特征点的位置、尺度和主方向的特征点信息,无需单独计算特征点信息,避免了增加特征点信息的计算量。而且利用该特征点信息,确定参考点的投影点时,计算量较小,从而能够比较快速的确定出参考点的各个投影点位置,进而根据投影点的位置,去除误匹配特征点,提高了去除误匹配点的速度。
可选的,在以上任意一个实施例中,在得到参考点在第二图像中的多个投影点的位置之后,确定第二图像中投影点最密集的第一位置可以是:统计该第二图像中各个坐标位置处的投影点个数,并利用核密度估计方法,分别计算第二图像中各个坐标位置处指定核窗宽内的密度,确定密度最大值所在的第一位置。如,可以通过累加器对统计第二图像中各个坐标位置的投影点个数。每当基于一个特征点对中的两个特征点的匹配关系,确定出参考点在该第二图像中的投影点的位置时,该累加器对当前投影点的位置的值加一,直至得到多个投影点,确定出各个位置处所对应的值,从而确定出各个位置处的投影点个数。
其中,核密度估计方法的思想为是采用核窗宽内的样本总数处于总样本个数,从而得到密度最大值所在的核窗位置。
对应本发明的方法,本发明还提供了一种图像匹配装置。参见图3,示出了本发明一种图像匹配装置的一个实施例的结构示意图,本实施例的装置可以包括:特征点对获取单元301、投影点确定单元302、投影点筛选单元303、特征点对去除单元304和匹配单元305。
其中,特征点对获取单元301,用于获取从第一图像与第二图像中匹配出的初始特征点集合,其中,所述初始特征点集合中包括多对特征点对。
投影点确定单元302,用于依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,得到多个投影点。
投影点筛选单元303,用于从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点;
特征点对去除单元304,用于从所述初始特征点集合中去除所述第一投影点对应的特征点对。
匹配单元305,用于根据去除了所述第一投影点对应的特征点对之后,所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系。
可选的,该特征点对获取单元,具体用于对所述第一图像和所述第二图像进行多尺度不变特征检测,分别得到所述第一图像和第二图像中的待匹配特征点集合;分别计算所述第一图像和第二图像中的待匹配特征点集合中各个特征点的匹配关系,获取匹配出的所述初始特征点集合。
可选的,该匹配单元305可以包括:匹配子单元,用于利用随机采样一致性算法,对去除了所述第一投影点对应的特征点对之后,所述初始特征点集合中剩余的特征点进行变换模型参数估计,并根据估计出的变换模型参数确定所述第一图像和所述第二图像的匹配关系。
参见图4,示出了本发明中一种图像匹配装置另一个实施例的结构示意图,与上一装置实施例的不同之处在于:
在本实施例中该投影点确定单元302可以包括:
信息获取单元3021,用于获取所述每对特征点对中的第一特征点和第二特征点的特征点信息,其中,所述第一特征点为所述第一图像中的特征点,所述第二特征点为第二图像中的特征点;所述特征点信息包括:特征点在所属图像中的位置、尺度和主方向;
投影点确定子单元3022,用于基于所述第一特征点与所述第二特征点的匹配关系,并依据所述第一特征点和第二特征点的特征点信息以及所述参考点在所述第一图像中的位置,确定所述参考点在所述第二图像中的投影点。
进一步的,该投影点确定子单元,可以包括:
第一计算单元,用于根据所述第一特征点的特征点信息,计算所述第一特征点与所述参考点的第一距离,以及所述第一特征点与所述参考点的矢量方向与所述第一特征点的主方向之间的第一夹角;
第二计算单元,用于根据所述第一特征点的尺度和第二特征点的尺度,计算第二特征点相对第一特征点的尺度缩放因子;
投影点计算单元,用于基于所述第一特征点与第二特征点的匹配关系,并根据所述第二特征点的位置、所述第二特征点的主方向、所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角、所述第一距离以及所述尺度缩放因子,计算所述参考点在所述第二图像中的投影点的位置。
具体的,该投影点计算单元通过如下方式,计算所述参考点在所述第二图像中的投影点的位置P(Xr,kj,Yr,kj):
Xr,kj=xkj+Sri,kj*dr,ri*cos(wkj+Δφr,ri);
Yr,kj=ykj+Sri,kj*dr,ri*sin(wkj+Δφr,ri);
其中,xkj,ykj分别为所述第二特征点在所述第二图像中的横坐标和纵坐标;Sri,kj为所述尺度缩放因子;dr,ri为所述第一距离;wkj为所述第二特征点的主方向;Δφr,ri为所述角度差。
可选的,在以上任意一个实施例中,该投影点筛选单元,可以包括:
投影点筛选子单元,用于统计所述第二图像中各个坐标位置处的投影点个数,并利用核密度估计方法,分别计算所述第二图像中各个坐标位置处指定核窗宽内的密度,确定密度最大值所在的第一位置。
另一方面,本发明还提供了一种计算节点,参见图5,示出了本发明一种计算节点的一个实施例的结构示意图,该计算节点可能是包含计算能力的主机服务器,或者是个人计算机PC,或者是可携带的便携式计算机或终端等等。本实施例的计算节点500可以包括:存储器501、处理器502、通信接口503和通信总线504。
其中,该存储器501、处理器502以及通信接口503通过该通信总线504完成相互间的通信。
该通信接口504,用于与网元通信,比如共享存储***中的节点、其他网络终端等等。
该存储器501,用于从第一图像与第二图像中匹配出的初始特征点集合,并存储包含有处理器502所运行的程序的信息,其中,该初始特征点集合中包含了多个特征点对。其中,该存储器可能包含高速RAM存储器,也可能还包括非易失性存储器。
处理器502,用于依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,得到多个投影点;从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点;从所述初始特征点集合中去除所述第一投影点对应的特征点对,并根据所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系。
其中,该处理器可能是一个中央处理器CPU,或者是特定集成电路ASIC(Application Specific Integrated Circuit),或者是被配置成实施本发明实施例的一个或多个集成电路。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (12)
1.一种图像匹配方法,其特征在于,包括:
获取从第一图像与第二图像中匹配出的初始特征点集合,其中,所述初始特征点集合中包括多对特征点对;
依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,得到多个投影点;
从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点;
从所述初始特征点集合中去除所述第一投影点对应的特征点对,并根据所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系。
2.根据权利要求1所述的方法,其特征在于,所述依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,包括:
获取所述每对特征点对中的第一特征点和第二特征点的特征点信息,其中,所述第一特征点为所述第一图像中的特征点,所述第二特征点为第二图像中的特征点;所述特征点信息包括:特征点在所属图像中的位置、尺度和主方向;
基于所述第一特征点与所述第二特征点的匹配关系,并依据所述第一特征点和第二特征点的特征点信息以及所述参考点在所述第一图像中的位置,确定所述参考点在所述第二图像中的投影点。
3.根据权利要求2所述的方法,其特征在于,所述基于所述第一特征点与所述第二特征点的匹配关系,并依据所述第一特征点和第二特征点的特征点信息以及所述参考点在所述第一图像中的位置,确定所述参考点在所述第二图像中的投影点,包括:
根据所述第一特征点的特征点信息,计算所述第一特征点与所述参考点的第一距离,以及所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角;
根据所述第一特征点的尺度和第二特征点的尺度,计算第二特征点相对第一特征点的尺度缩放因子;
基于所述第一特征点与第二特征点的匹配关系,并根据所述第二特征点的位置、所述第二特征点的主方向、所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角、所述第一距离以及所述尺度缩放因子,计算所述参考点在所述第二图像中的投影点的位置。
4.根据权利要求3所述的方法,其特征在于,所述基于所述第一特征点与第二特征点的匹配关系,并根据所述第二特征点的位置、所述第二特征点的主方向、所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角、所述第一距离以及所述尺度缩放因子,计算所述参考点在所述第二图像中的投影点的位置,包括:
通过如下方式,计算所述参考点在所述第二图像中的投影点的位置P(Xr,kj,Yr,kj):
Xr,kj=xkj+Sri,kj*dr,ri*cos(wkj+Δφr,ri);
Yr,kj=ykj+Sri,kj*dr,ri*sin(wkj+Δφr,ri);
其中,xkj,ykj分别为所述第二特征点在所述第二图像中的横坐标和纵坐标;Sri,kj为所述尺度缩放因子;dr,ri为所述第一距离;wkj为所述第二特征点的主方向;Δφr,ri为所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点,包括:
统计所述第二图像中各个坐标位置处的投影点个数,并利用核密度估计方法,分别计算所述第二图像中各个坐标位置处指定核窗宽内的密度,确定密度最大值所在的第一位置。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述根据所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系,包括:
利用随机采样一致性算法,对所述初始特征点集合中剩余的特征点进行变换模型参数估计,并根据估计出的变换模型参数确定所述第一图像和所述第二图像的匹配关系。
7.根据权利要求1至6任一项所述的方法,其特征在于,所述获取从第一图像与第二图像中匹配出的初始特征点集合,包括:
对所述第一图像和所述第二图像进行多尺度不变特征检测,分别得到所述第一图像和第二图像中的待匹配特征点集合;
分别计算所述第一图像和第二图像中的待匹配特征点集合中各个特征点的匹配关系,获取匹配出的所述初始特征点集合。
8.一种图像匹配装置,其特征在于,包括:
特征点对获取单元,用于获取从第一图像与第二图像中匹配出的初始特征点集合,其中,所述初始特征点集合中包括多对特征点对;
投影点确定单元,用于依次基于每对所述特征点对的匹配关系,确定所述第一图像中预设的参考点在所述第二图像中的投影点,得到多个投影点;
投影点筛选单元,用于从所述多个投影点中,确定与所述第二图像中投影点最密集的第一位置的距离大于预设阈值的至少一个第一投影点;
特征点对去除单元,用于从所述初始特征点集合中去除所述第一投影点对应的特征点对;
匹配单元,用于根据去除了所述第一投影点对应的特征点对之后,所述初始特征点集合中剩余的特征点对,确定所述第一图像和所述第二图像的匹配关系。
9.根据权利要求8所述的装置,其特征在于,所述投影点确定单元,包括:
信息获取单元,用于获取所述每对特征点对中的第一特征点和第二特征点的特征点信息,其中,所述第一特征点为所述第一图像中的特征点,所述第二特征点为第二图像中的特征点;所述特征点信息包括:特征点在所属图像中的位置、尺度和主方向;
投影点确定子单元,用于基于所述第一特征点与所述第二特征点的匹配关系,并依据所述第一特征点和第二特征点的特征点信息以及所述参考点在所述第一图像中的位置,确定所述参考点在所述第二图像中的投影点。
10.根据权利要求8所述的装置,其特征在于,所述投影点确定子单元,包括:
第一计算单元,用于根据所述第一特征点的特征点信息,计算所述第一特征点与所述参考点的第一距离,以及所述第一特征点与所述参考点的矢量方向与所述第一特征点的主方向之间的夹角;
第二计算单元,用于根据所述第一特征点的尺度和第二特征点的尺度,计算第二特征点相对第一特征点的尺度缩放因子;
投影点计算单元,用于基于所述第一特征点与第二特征点的匹配关系,并根据所述第二特征点的位置、所述第二特征点的主方向、所述第一特征点到所述参考点的矢量方向与所述第一特征点的主方向之间的夹角、所述第一距离以及所述尺度缩放因子,计算所述参考点在所述第二图像中的投影点的位置。
11.根据权利要求8至10任一项所述的装置,其特征在于,所述投影点筛选单元,包括:
投影点筛选子单元,用于统计所述第二图像中各个坐标位置处的投影点个数,并利用核密度估计方法,分别计算所述第二图像中各个坐标位置处指定核窗宽内的密度,确定密度最大值所在的第一位置。
12.根据权利要求8至11任一项所述的装置,其特征在于,所述匹配单元包括:
匹配子单元,用于利用随机采样一致性算法,对去除了所述第一投影点对应的特征点对之后,所述初始特征点集合中剩余的特征点进行变换模型参数估计,并根据估计出的变换模型参数确定所述第一图像和所述第二图像的匹配关系。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310374229.7A CN103473565B (zh) | 2013-08-23 | 2013-08-23 | 一种图像匹配方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310374229.7A CN103473565B (zh) | 2013-08-23 | 2013-08-23 | 一种图像匹配方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103473565A true CN103473565A (zh) | 2013-12-25 |
CN103473565B CN103473565B (zh) | 2017-04-26 |
Family
ID=49798409
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310374229.7A Expired - Fee Related CN103473565B (zh) | 2013-08-23 | 2013-08-23 | 一种图像匹配方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103473565B (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105095344A (zh) * | 2015-05-29 | 2015-11-25 | 广东正业科技股份有限公司 | 一种时空环数据结构的建模方法及装置 |
CN105205494A (zh) * | 2015-08-31 | 2015-12-30 | 小米科技有限责任公司 | 相似图片识别方法及装置 |
CN106779055A (zh) * | 2017-01-10 | 2017-05-31 | 北京邮电大学 | 图像特征提取方法和装置 |
CN106878691A (zh) * | 2015-12-14 | 2017-06-20 | 现代自动车株式会社 | 图像投影装置及其控制方法 |
CN107148632A (zh) * | 2014-04-24 | 2017-09-08 | 河谷控股Ip有限责任公司 | 用于基于图像的目标识别的稳健特征识别 |
WO2017210908A1 (zh) * | 2016-06-08 | 2017-12-14 | 华为技术有限公司 | 处理方法与终端 |
CN108182457A (zh) * | 2018-01-30 | 2018-06-19 | 百度在线网络技术(北京)有限公司 | 用于生成信息的方法和装置 |
CN109186625A (zh) * | 2018-10-24 | 2019-01-11 | 北京奥特贝睿科技有限公司 | 智能车辆利用混合采样滤波进行精确定位的方法及*** |
CN105554441B (zh) * | 2014-10-23 | 2019-11-19 | 韩华泰科株式会社 | 用于配准图像的设备和方法 |
CN111010496A (zh) * | 2019-12-24 | 2020-04-14 | 维沃移动通信(杭州)有限公司 | 一种图像处理方法及电子设备 |
CN111083456A (zh) * | 2019-12-24 | 2020-04-28 | 成都极米科技股份有限公司 | 投影校正方法、装置、投影仪及可读存储介质 |
WO2020259365A1 (zh) * | 2019-06-27 | 2020-12-30 | Oppo广东移动通信有限公司 | 一种图像处理方法及装置、计算机可读存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007334795A (ja) * | 2006-06-19 | 2007-12-27 | Sony Corp | 情報処理装置および方法、並びにプログラム |
CN101556692A (zh) * | 2008-04-09 | 2009-10-14 | 西安盛泽电子有限公司 | 基于特征点邻域伪Zernike矩的图像拼接方法 |
CN101984463A (zh) * | 2010-11-02 | 2011-03-09 | 中兴通讯股份有限公司 | 全景图合成方法及装置 |
CN102005047A (zh) * | 2010-11-15 | 2011-04-06 | 无锡中星微电子有限公司 | 图像配准***及其方法 |
US20110134221A1 (en) * | 2009-12-07 | 2011-06-09 | Samsung Electronics Co., Ltd. | Object recognition system using left and right images and method |
CN102256111A (zh) * | 2011-07-17 | 2011-11-23 | 西安电子科技大学 | 多通道全景视频实时监控***及方法 |
JP2011259044A (ja) * | 2010-06-04 | 2011-12-22 | Panasonic Corp | 画像処理装置、方法 |
-
2013
- 2013-08-23 CN CN201310374229.7A patent/CN103473565B/zh not_active Expired - Fee Related
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007334795A (ja) * | 2006-06-19 | 2007-12-27 | Sony Corp | 情報処理装置および方法、並びにプログラム |
CN101556692A (zh) * | 2008-04-09 | 2009-10-14 | 西安盛泽电子有限公司 | 基于特征点邻域伪Zernike矩的图像拼接方法 |
US20110134221A1 (en) * | 2009-12-07 | 2011-06-09 | Samsung Electronics Co., Ltd. | Object recognition system using left and right images and method |
JP2011259044A (ja) * | 2010-06-04 | 2011-12-22 | Panasonic Corp | 画像処理装置、方法 |
CN101984463A (zh) * | 2010-11-02 | 2011-03-09 | 中兴通讯股份有限公司 | 全景图合成方法及装置 |
CN102005047A (zh) * | 2010-11-15 | 2011-04-06 | 无锡中星微电子有限公司 | 图像配准***及其方法 |
CN102256111A (zh) * | 2011-07-17 | 2011-11-23 | 西安电子科技大学 | 多通道全景视频实时监控***及方法 |
Non-Patent Citations (1)
Title |
---|
张波等: "一种改进的Harris特征点匹配算法", 《计算机***应用》 * |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107148632A (zh) * | 2014-04-24 | 2017-09-08 | 河谷控股Ip有限责任公司 | 用于基于图像的目标识别的稳健特征识别 |
CN107148632B (zh) * | 2014-04-24 | 2020-10-27 | 河谷控股Ip有限责任公司 | 用于基于图像的目标识别的稳健特征识别 |
CN105554441B (zh) * | 2014-10-23 | 2019-11-19 | 韩华泰科株式会社 | 用于配准图像的设备和方法 |
CN105095344B (zh) * | 2015-05-29 | 2018-08-17 | 南昌正业科技有限公司 | 一种时空环数据结构的建模方法及装置 |
CN105095344A (zh) * | 2015-05-29 | 2015-11-25 | 广东正业科技股份有限公司 | 一种时空环数据结构的建模方法及装置 |
CN105205494A (zh) * | 2015-08-31 | 2015-12-30 | 小米科技有限责任公司 | 相似图片识别方法及装置 |
CN105205494B (zh) * | 2015-08-31 | 2018-12-11 | 小米科技有限责任公司 | 相似图片识别方法及装置 |
CN106878691A (zh) * | 2015-12-14 | 2017-06-20 | 现代自动车株式会社 | 图像投影装置及其控制方法 |
US10838601B2 (en) | 2016-06-08 | 2020-11-17 | Huawei Technologies Co., Ltd. | Processing method and terminal |
WO2017210908A1 (zh) * | 2016-06-08 | 2017-12-14 | 华为技术有限公司 | 处理方法与终端 |
AU2016409676B2 (en) * | 2016-06-08 | 2020-01-30 | Huawei Technologies Co., Ltd. | Processing method and terminal |
CN106779055B (zh) * | 2017-01-10 | 2019-06-21 | 北京邮电大学 | 图像特征提取方法和装置 |
CN106779055A (zh) * | 2017-01-10 | 2017-05-31 | 北京邮电大学 | 图像特征提取方法和装置 |
CN108182457A (zh) * | 2018-01-30 | 2018-06-19 | 百度在线网络技术(北京)有限公司 | 用于生成信息的方法和装置 |
CN108182457B (zh) * | 2018-01-30 | 2022-01-28 | 百度在线网络技术(北京)有限公司 | 用于生成信息的方法和装置 |
CN109186625A (zh) * | 2018-10-24 | 2019-01-11 | 北京奥特贝睿科技有限公司 | 智能车辆利用混合采样滤波进行精确定位的方法及*** |
CN109186625B (zh) * | 2018-10-24 | 2020-05-05 | 北京奥特贝睿科技有限公司 | 智能车辆利用混合采样滤波进行精确定位的方法及*** |
WO2020259365A1 (zh) * | 2019-06-27 | 2020-12-30 | Oppo广东移动通信有限公司 | 一种图像处理方法及装置、计算机可读存储介质 |
CN111010496A (zh) * | 2019-12-24 | 2020-04-14 | 维沃移动通信(杭州)有限公司 | 一种图像处理方法及电子设备 |
CN111083456A (zh) * | 2019-12-24 | 2020-04-28 | 成都极米科技股份有限公司 | 投影校正方法、装置、投影仪及可读存储介质 |
CN111010496B (zh) * | 2019-12-24 | 2022-07-08 | 维沃移动通信(杭州)有限公司 | 一种图像处理方法及电子设备 |
CN111083456B (zh) * | 2019-12-24 | 2023-06-16 | 成都极米科技股份有限公司 | 投影校正方法、装置、投影仪及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN103473565B (zh) | 2017-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103473565A (zh) | 一种图像匹配方法和装置 | |
Tardif | Non-iterative approach for fast and accurate vanishing point detection | |
CN103236064B (zh) | 一种基于法向量的点云自动配准方法 | |
Novatnack et al. | Scale-dependent/invariant local 3D shape descriptors for fully automatic registration of multiple sets of range images | |
Qin et al. | Query adaptive similarity for large scale object retrieval | |
Mirzaei et al. | Optimal estimation of vanishing points in a manhattan world | |
US9092697B2 (en) | Image recognition system and method for identifying similarities in different images | |
CN107368820B (zh) | 一种精细化手势识别方法、装置及设备 | |
CN104392241A (zh) | 一种基于混合回归的头部姿态估计方法 | |
TW201710989A (zh) | 疑似侵權產品圖片的檢測方法及裝置 | |
CN106340010B (zh) | 一种基于二阶轮廓差分的角点检测方法 | |
CN104331899A (zh) | 一种sar图像配准方法及装置 | |
CN103559476A (zh) | 一种指纹匹配方法和装置 | |
CN106462773B (zh) | 使用gabor函数的模式识别***及方法 | |
CN103345760A (zh) | 一种医学图像对象形状模板标记点的自动生成方法 | |
CN113095187A (zh) | 一种基于图像特征匹配对齐的试卷批改方法 | |
CN106155540A (zh) | 电子毛笔笔形处理方法和装置 | |
CN103823887A (zh) | 基于低秩全局几何一致性检验的错误匹配检测方法 | |
CN105447869A (zh) | 基于粒子群优化算法的摄像机自标定方法及装置 | |
CN111161348B (zh) | 一种基于单目相机的物***姿估计方法、装置及设备 | |
Cui et al. | Global propagation of affine invariant features for robust matching | |
CN110930384A (zh) | 基于密度信息的人群计数方法、装置、设备以及介质 | |
CN114332809A (zh) | 一种图像识别方法、装置、电子设备和存储介质 | |
Xu et al. | A statistical method for peak localization in Hough space by analysing butterflies | |
CN109978043B (zh) | 一种目标检测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170426 Termination date: 20180823 |
|
CF01 | Termination of patent right due to non-payment of annual fee |