CN112749590B - 目标检测方法、装置、计算机设备和计算机可读存储介质 - Google Patents
目标检测方法、装置、计算机设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN112749590B CN112749590B CN201911047482.5A CN201911047482A CN112749590B CN 112749590 B CN112749590 B CN 112749590B CN 201911047482 A CN201911047482 A CN 201911047482A CN 112749590 B CN112749590 B CN 112749590B
- Authority
- CN
- China
- Prior art keywords
- frame
- detection
- candidate
- frames
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种目标检测方法、装置、计算机设备和计算机可读存储介质,属于计算机视觉技术领域。所述方法包括:根据目标检测模型,确定视频中的检测图像中的多个检测框;根据该视频中与该检测图像相邻的前n个图像中每个图像中的目标框,确定该检测图像中的多个预测框,目标框用于指示存在目标的区域,n为大于或等于2的整数;根据该检测图像中的多个预测框,从该检测图像中的多个检测框中选取目标框。本申请可以避免因目标遮挡、目标拥挤等情况而导致的检测框误过滤,提高目标检出率。
Description
技术领域
本申请涉及计算机视觉技术领域,特别涉及一种目标检测方法、装置、计算机设备和计算机可读存储介质。
背景技术
目标检测是计算机视觉技术领域中重要的研究主题之一,在智能交通***、智能监控***等方面具有广泛的应用价值。目标检测是指将目标从复杂场景图像中检测出来,以便后续对目标进行分类或跟踪等处理。在目标检测中,通常采用从待检测的图像中提取目标框的方法,目标框用于指示该图像中存在目标的区域。
目前,在进行目标检测时,通常是先将待检测的图像输入目标检测模型,由目标检测模型输出该图像中的多个检测框中每个检测框的大小、位置和置信度,每个检测框的置信度用于指示每个检测框对应的区域存在目标的概率。再根据该多个检测框之间的重合度以及每个检测框的置信度,使用NMS(Non-maximum suppression,非极大值抑制)算法对该多个检测框进行过滤,并将保留的检测框确定为目标框。
然而,在存在目标遮挡、目标拥挤等情况的复杂场景图像中,两个不同的目标所在的检测框可能会存在较多重合。当直接根据该多个检测框之间的重合度进行检测框过滤时,很有可能会误过滤掉这两个不同的目标中的一个目标所在的检测框,从而会严重影响目标检出率。
发明内容
本申请提供了一种目标检测方法、装置、计算机设备和计算机可读存储介质,可以解决相关技术的目标检出率过低的问题。所述技术方案如下:
一方面,提供了一种目标检测方法,所述方法包括:
根据目标检测模型,确定视频中的检测图像中的多个检测框;
根据所述视频中与所述检测图像相邻的前n个图像中每个图像中的目标框,确定所述检测图像中的多个预测框,所述目标框用于指示存在目标的区域,所述n为大于或等于2的整数;
根据所述检测图像中的多个预测框,从所述检测图像中的多个检测框中选取目标框。
可选地,所述根据目标检测模型,确定视频中的检测图像中的多个检测框,包括:
将视频中的检测图像输入到目标检测模型,由所述目标检测模型输出所述检测图像中的多个检测框中每个检测框的大小、位置和置信度,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率。
可选地,所述根据所述视频中与所述检测图像相邻的前n个图像中每个图像中的目标框,确定所述检测图像中的多个预测框,包括:
从所述前n个图像中每个图像中的目标框中获取第一候选框,以得到n个第一候选框,所述n个第一候选框中每个第一候选框对应的区域中存在同一目标;
根据所述n个第一候选框中每个第一候选框的位置,确定所述检测图像中的一个预测框的位置;
根据所述n个第一候选框中每个第一候选框的大小,确定所述检测图像中的所述一个预测框的大小。
可选地,所述根据所述n个第一候选框中每个第一候选框的位置,确定所述检测图像中的一个预测框的位置,包括:
对于所述n个第一候选框中的任意一个第一候选框,以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第一坐标点的横坐标,以所述一个第一候选框的位置的横坐标为所述一个第一候选框对应的第一坐标点的纵坐标,构建所述一个第一候选框对应的第一坐标点;以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第二坐标点的横坐标,以所述一个第一候选框的位置的纵坐标为所述一个第一候选框对应的第二坐标点的纵坐标,构建所述一个第一候选框对应的第二坐标点;
对所述n个第一候选框对应的n个第一坐标点进行曲线拟合,得到第一曲线;对所述n个第一候选框对应的n个第二坐标点进行曲线拟合,得到第二曲线;
以所述检测图像的播放时间为横坐标,将所述检测图像的播放时间在所述第一曲线中对应的坐标点的纵坐标确定为所述检测图像中的一个预测框的位置的横坐标,以及将所述检测图像的播放时间在所述第二曲线中对应的坐标点的纵坐标确定为所述检测图像中的所述一个预测框的位置的纵坐标,以得到所述检测图像中的所述一个预测框的位置。
可选地,所述根据所述检测图像中的多个预测框,从所述检测图像中的多个检测框中选取目标框,包括:
根据所述检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从所述检测图像中的多个检测框中获取第一候选框作为目标框,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率;
根据所述检测图像中的多个第一候选框与多个第二候选框之间的重合度,对所述检测图像中的多个第二候选框进行过滤,并将保留的第二候选框作为第三候选框,所述第二候选框为所述检测图像中的多个检测框中除第一候选框之外的检测框;
根据所述检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对所述检测图像中的多个第三候选框进行过滤,并将保留的第三候选框作为目标框。
可选地,所述根据所述检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从所述检测图像中的多个检测框中获取第一候选框,包括:
从所述检测图像中的多个预测框中选取一个预测框,对选取出的预测框执行以下操作,直至对所述检测图像中的多个预测框中的每个预测框均执行以下操作为止:
对于所述检测图像中的多个检测框中的任意一个检测框,将选取出的预测框与所述一个检测框之间的重合度与所述一个检测框的置信度相乘,得到所述一个检测框的目标数值;
将所述检测图像中的多个检测框中目标数值最大且大于参考数值的检测框确定为与选取出的预测框对应的第一候选框。
可选地,所述根据所述检测图像中的多个第一候选框与多个第二候选框之间的重合度,对所述检测图像中的多个第二候选框进行过滤,包括:
删除所述检测图像中的多个第二候选框中与所述检测图像中的多个第一候选框中的任一第一候选框之间的重合度大于或等于第一重合度的第二候选框。
可选地,所述根据所述检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对所述检测图像中的多个第三候选框进行过滤,包括:
从所述检测图像中的多个第三候选框中选取置信度最大的第三候选框作为目标候选框;
将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框;
删除所述检测图像中的第四候选框中与目标候选框之间的重合度大于或等于第二重合度的第四候选框;
判断所述检测图像中的第四候选框的个数是否为1;
当所述检测图像中的第四候选框的个数不为1时,从所述检测图像中的第四候选框中选取置信度最大的第四候选框作为目标候选框,返回所述将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框的步骤;当所述检测图像中的第四候选框的个数为1时,结束操作。
一方面,提供了一种目标检测装置,所述装置包括:
第一确定模块,用于根据目标检测模型,确定视频中的检测图像中的多个检测框;
第二确定模块,用于根据所述视频中与所述检测图像相邻的前n个图像中每个图像中的目标框,确定所述检测图像中的多个预测框,所述目标框用于指示存在目标的区域,所述n为大于或等于2的整数;
选取模块,用于根据所述检测图像中的多个预测框,从所述检测图像中的多个检测框中选取目标框。
可选地,所述第一确定模块包括:
输出单元,用于将视频中的检测图像输入到目标检测模型,由所述目标检测模型输出所述检测图像中的多个检测框中每个检测框的大小、位置和置信度,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率。
可选地,所述第二确定模块包括:
第一获取单元,用于从所述前n个图像中每个图像中的目标框中获取第一候选框,以得到n个第一候选框,所述n个第一候选框中每个第一候选框对应的区域中存在同一目标;
第一确定单元,用于根据所述n个第一候选框中每个第一候选框的位置,确定所述检测图像中的一个预测框的位置;
第二确定单元,用于根据所述n个第一候选框中每个第一候选框的大小,确定所述检测图像中的所述一个预测框的大小。
可选地,所述第一确定单元用于:
对于所述n个第一候选框中的任意一个第一候选框,以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第一坐标点的横坐标,以所述一个第一候选框的位置的横坐标为所述一个第一候选框对应的第一坐标点的纵坐标,构建所述一个第一候选框对应的第一坐标点;以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第二坐标点的横坐标,以所述一个第一候选框的位置的纵坐标为所述一个第一候选框对应的第二坐标点的纵坐标,构建所述一个第一候选框对应的第二坐标点;
对所述n个第一候选框对应的n个第一坐标点进行曲线拟合,得到第一曲线;对所述n个第一候选框对应的n个第二坐标点进行曲线拟合,得到第二曲线;
以所述检测图像的播放时间为横坐标,将所述检测图像的播放时间在所述第一曲线中对应的坐标点的纵坐标确定为所述检测图像中的一个预测框的位置的横坐标,以及将所述检测图像的播放时间在所述第二曲线中对应的坐标点的纵坐标确定为所述检测图像中的所述一个预测框的位置的纵坐标,以得到所述检测图像中的所述一个预测框的位置。
可选地,所述选取模块包括:
第二获取单元,用于根据所述检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从所述检测图像中的多个检测框中获取第一候选框作为目标框,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率;
第一过滤单元,用于根据所述检测图像中的多个第一候选框与多个第二候选框之间的重合度,对所述检测图像中的多个第二候选框进行过滤,并将保留的第二候选框作为第三候选框,所述第二候选框为所述检测图像中的多个检测框中除第一候选框之外的检测框;
第二过滤单元,用于根据所述检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对所述检测图像中的多个第三候选框进行过滤,并将保留的第三候选框作为目标框。
可选地,所述第二获取单元用于:
从所述检测图像中的多个预测框中选取一个预测框,对选取出的预测框执行以下操作,直至对所述检测图像中的多个预测框中的每个预测框均执行以下操作为止:
对于所述检测图像中的多个检测框中的任意一个检测框,将选取出的预测框与所述一个检测框之间的重合度与所述一个检测框的置信度相乘,得到所述一个检测框的目标数值;
将所述检测图像中的多个检测框中目标数值最大且大于参考数值的检测框确定为与选取出的预测框对应的第一候选框。
可选地,所述第一过滤单元用于:
删除所述检测图像中的多个第二候选框中与所述检测图像中的多个第一候选框中的任一第一候选框之间的重合度大于或等于第一重合度的第二候选框。
可选地,所述第二过滤单元用于:
从所述检测图像中的多个第三候选框中选取置信度最大的第三候选框作为目标候选框;
将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框;
删除所述检测图像中的第四候选框中与目标候选框之间的重合度大于或等于第二重合度的第四候选框;
判断所述检测图像中的第四候选框的个数是否为1;
当所述检测图像中的第四候选框的个数不为1时,从所述检测图像中的第四候选框中选取置信度最大的第四候选框作为目标候选框,返回所述将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框的步骤;当所述检测图像中的第四候选框的个数为1时,结束操作。
一方面,提供了一种计算机设备,其特征在于,所述计算机设备包括处理器、通信接口、存储器和通信总线,所述处理器、所述通信接口和所述存储器通过所述通信总线完成相互间的通信,所述存储器用于存放计算机程序,所述处理器用于执行所述存储器上所存放的程序,以实现上述的目标检测方法的步骤。
一方面,提供了一种计算机可读存储介质,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述的目标检测方法的步骤。
一方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述的目标检测方法的步骤。
本申请提供的技术方案至少可以带来以下有益效果:
根据目标检测模型,确定视频中的检测图像中的多个检测框后,根据该视频中与该检测图像相邻的前n个图像中每个图像中的目标框,确定该检测图像中的多个预测框。由于该检测图像中的多个预测框是根据该前n个图像中出现的目标的历史跟踪信息确定得到,所以该检测图像中的多个预测框指示的区域附近很有可能存在目标。之后,根据该检测图像中的多个预测框,从该检测图像中的多个检测框中选取目标框,可以避免因目标遮挡、目标拥挤等情况而导致的检测框误过滤,提高目标检出率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种目标检测方法的流程图;
图2是本申请实施例提供的一种第一候选框的位置示意图;
图3是本申请实施例提供的一种第一曲线的示意图;
图4是本申请实施例提供的一种第二曲线的示意图;
图5是本申请实施例提供的一种目标检测过程的示意图;
图6是本申请实施例提供的一种跟踪预测模块的示意图;
图7是本申请实施例提供的一种非极大值抑制模块的示意图;
图8是本申请实施例提供的一种目标检测装置的结构示意图;
图9是本申请实施例提供的另一种目标检测装置的结构示意图;
图10是本申请实施例提供的又一种目标检测装置的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
在对本申请实施例进行详细地解释说明之前,先对本申请实施例提供的应用场景予以说明。
本申请实施例提供的目标检测方法可以应用于视频分析的场景中。当然,本申请实施例提供的目标检测方法也可以应用于其他场景,本申请实施例对此不作限定。
视频中往往会包含有多个目标,且这多个目标通常处于运动状态。人们在分析视频时,往往希望对这多个目标进行定位,即对该视频进行目标检测。目前常用目标检测模型进行目标检测。具体地,将该视频的视频图像输入目标检测模型,目标检测模型就会输出该视频图像中的多个检测框中每个检测框的大小、位置和置信度。由于目标检测模型输出的多个检测框中往往具有冗余的检测框,所以通常使用NMS算法来过滤冗余的检测框。
相关技术中,NMS算法具体为:(1)从该视频图像中的多个检测框中选取置信度最大的检测框作为第一参考框。(2)将该视频图像中的多个检测框中除第一参考框之外的检测框确定为第二参考框。(3)删除该视频图像中的第二参考框中与第一参考框之间的重合度大于或等于参考重合度的第二参考框。(4)判断该视频图像中的第二参考框的个数是否为1。(5)当该视频图像中的第二参考框的个数不为1时,从该视频图像中的第二参考框中选取置信度最大的第二参考框作为第一参考框,并返回步骤(2);当该视频图像中的第二参考框的个数为1时,结束操作。
然而,在存在目标遮挡、目标拥挤等情况的复杂场景图像中,两个不同的目标的检测框很有可能会存在较多重合,此时如果直接使用上述NMS算法来对该视频图像中的多个检测框进行过滤,将很有可能会误过滤掉这两个不同的目标中的一个目标的检测框,从而会严重影响目标检出率。
为此,本申请实施例提供了一种目标检测方法,可以通过视频中与检测图像相邻的前n个图像中的目标框来确定该检测图像中的预测框,并根据该检测图像中的预测框来对该检测图像中的多个检测框过滤,从而减少了误过滤的情况,提高了目标检出率。
接下来对本申请实施例提供的目标检测方法进行详细的解释说明。
图1是本申请实施例提供的一种目标检测方法的流程图。参见图1,该方法包括如下步骤。
步骤101:根据目标检测模型,确定视频中的检测图像中的多个检测框。
需要说明的是,视频可以是存储动态影像的文件,该视频可以为终端拍摄到的视频,如可以为摄像机拍摄到的视频等,本申请实施例对此不作限定。检测图像可以是该视频中需要进行目标检测的图像,如该检测图像可以是该视频中当前正在播放的图像,该检测图像中可能出现人、动物、交通工具等各种目标,本申请实施例对此不作限定。
另外,目标检测模型可以是预先训练好的能够确定图像中出现的目标所在的检测框的模型,如目标检测模型可以为CNN(Convolutional Neural Network,卷积神经网络)等。
再者,检测框用于指示可能存在目标的区域,该区域通常可以为矩形区域。根据目标检测模型确定出的该检测图像中的多个检测框为该检测图像的原始检测结果。
具体地,步骤101的操作可以为:将视频中的检测图像输入到目标检测模型,由目标检测模型输出该检测图像中的多个检测框中每个检测框的大小、位置和置信度,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率。
需要说明的是,将该检测图像输入到目标检测模型后,目标检测模型就可以预测该检测图像中可能存在目标的区域对应的检测框的大小和位置,以及确定每个检测框对应的区域中存在目标的概率,继而输出每个检测框的大小、位置和置信度。检测框的大小可以为检测框的长和宽,检测框的位置可以为检测框的中心点的坐标。
另外,检测框对应的区域为该检测框所指示的可能存在目标的区域。检测框的置信度越大,表明该检测框对应的区域中存在目标的概率越大。检测框的置信度越小,表明该检测框对应的区域中存在目标的概率越小。置信度可以为大于或等于0且小于或等于1的数值。
步骤102:根据该视频中与该检测图像相邻的前n个图像中每个图像中的目标框,确定该检测图像中的多个预测框,n为大于或等于2的整数。
需要说明的是,目标框用于指示存在目标的区域,该区域可以为矩形区域。该前n个图像为已经进行过目标检测的图像,如该前n个图像可以为在该检测图像之前已经播放过的图像,因而已经在该前n个图像中的每个图像中确定出了目标框。
另外,对于该前n个图像中均出现的一个目标,该前n个图像中均包含这个目标所在的目标框。对于这个目标来说,该前n个图像中包含的这个目标所在的目标框就是这个目标的历史跟踪信息。
再者,该检测图像中的多个预测框是根据该前n个图像中出现的目标的历史跟踪信息确定出的用于指示很有可能存在目标的区域的框,该区域可以为矩形区域。
具体地,步骤102的操作可以为:从该前n个图像中每个图像中的目标框中获取第一候选框,以得到n个第一候选框;根据该n个第一候选框中每个第一候选框的位置,确定该检测图像中的一个预测框的位置;根据该n个第一候选框中每个第一候选框的大小,确定该检测图像中的这一个预测框的大小。
需要说明的是,该n个第一候选框是该前n个图像中均出现的一个目标所在的目标框,这个目标与该n个第一候选框对应,该n个第一候选框就是这个目标的历史跟踪信息。例如,n为5,该视频中与该检测图像相邻的前5个图像中均出现了目标1,则可以将该前5个图像中的每个图像中目标1所在的目标框均确定为第一候选框,以得到目标1对应的5个第一候选框,这5个第一候选框就是目标1的历史跟踪信息。
另外,由于该n个第一候选框为这个目标的历史跟踪信息,所以根据该n个第一候选框中每个第一候选框的位置,就可以预测出该检测图像中这个目标所在的预测框的位置,根据该n个第一候选框中每个第一候选框的大小,就可以预测出该检测图像中这个目标所在的预测框的大小,如此,就可以确定出该检测图像中这个目标所在的预测框。
值得注意的是,对于该前n个图像中均出现的多个目标,该多个目标中的每个目标可以对应n个第一候选框。此时,对于该多个目标中每个目标,都可以根据这个目标对应的n个第一候选框,来预测该检测图像中这个目标所在的预测框。如此,就可以预测出该检测图像中该多个目标中每个目标所在的预测框,从而得到该检测图像中的多个预测框。
其中,根据该n个第一候选框中每个第一候选框的大小,确定该检测图像中的这一个预测框的大小时,可以将该n个第一候选框的平均大小确定为该检测图像中的这一个预测框的大小;或者,可以将该n个第一候选框中与该检测图像相邻的前一个图像中的第一候选框的大小确定为该检测图像中的这一个预测框的大小。当然,也可以根据该n个第一候选框中每个第一候选框的大小,通过其它方式确定该检测图像中的这一个预测框的大小,本申请实施例对此不作限定。
其中,根据该n个第一候选框中每个第一候选框的位置,确定该检测图像中的一个预测框的位置的操作可以包括如下步骤(1)-步骤(3):
(1)对于该n个第一候选框中的任意一个第一候选框,以这一个第一候选框所属的图像的播放时间为这一个第一候选框对应的第一坐标点的横坐标,以这一个第一候选框的位置的横坐标为这一个第一候选框对应的第一坐标点的纵坐标,构建这一个第一候选框对应的第一坐标点;以这一个第一候选框所属的图像的播放时间为这一个第一候选框对应的第二坐标点的横坐标,以这一个第一候选框的位置的纵坐标为这一个第一候选框对应的第二坐标点的纵坐标,构建这一个第一候选框对应的第二坐标点。
需要说明的是,这一个第一候选框所属的图像的播放时间是在播放该视频之前就预先确定好的,该图像的播放时间用于指示在该视频的播放过程中该图像是什么时候播放。本申请实施例中,将该图像的播放时间作为这一个第一候选框对应的第一坐标点和第二坐标点的横坐标。
另外,这一个第一候选框的位置是指这一个第一候选框的中心点的坐标。本申请实施例中,将这一个第一候选框的中心点的横坐标作为这一个第一候选框对应的第一坐标点的纵坐标,将这一个第一框的中心点的纵坐标作为这一个第一候选框对应的第二坐标点的纵坐标。
(2)对该n个第一候选框对应的n个第一坐标点进行曲线拟合,得到第一曲线;对该n个第一候选框对应的n个第二坐标点进行曲线拟合,得到第二曲线。
需要说明的是,每个第一候选框对应一个第一坐标点,因而该n个第一候选框总共对应n个第一坐标点。每个第一候选框对应一个第二坐标点,因而该n个第一候选框总共对应n个第二坐标点。
另外,由于该n个第一候选框是同一个目标所在的n个目标框,所以对该n个第一候选框对应的n个第一坐标点进行曲线拟合后得到的第一曲线是这个目标对应的第一曲线,第一曲线代表了这个目标在该前n个图像中的横向移动趋势。同样,对该n个第一候选框对应的n个第二坐标点进行曲线拟合后得到的第二曲线是这个目标对应的第二曲线,第二曲线代表了这个目标在该前n个图像中的纵向移动趋势。如此,通过第一曲线和第二曲线就可以反映这个目标在该前n个图像中的移动趋势。
(3)以该检测图像的播放时间为横坐标,将该检测图像的播放时间在第一曲线中对应的坐标点的纵坐标确定为该检测图像中的一个预测框的位置的横坐标,以及将该检测图像的播放时间在第二曲线中对应的坐标点的纵坐标确定为该检测图像中的这一个预测框的位置的纵坐标,以得到该检测图像中的这一个预测框的位置。
由于该n个第一候选框是同一个目标所在的n个目标框,第一曲线代表了这个目标在该前n个图像中的横向移动趋势,第二曲线代表了这个目标在该前n个图像中的纵向移动趋势,所以可以通过该检测图像的播放时间,从第一曲线中获取该检测图像中这个目标所在的预测框的位置的横坐标,从第二曲线中获取该检测图像中这个目标所在的预测框的位置的纵坐标,以得到该检测图像中这个目标所在的预测框的位置。
为了便于理解,下面结合图2-图4来对根据该n个第一候选框中每个第一候选框的位置,确定该检测图像中的一个预测框的位置的操作进行举例说明。
参见图2,图2示出了5个第一候选框的位置的坐标,且该5个第一候选框的位置的坐标分别为(0,8)、(5,10)、(10,13)、(15,18)、(20,24),根据这5个第一候选框的位置确定一个预测框的位置的操作如下:
(1)参见图3,以每个第一候选框所属的图像的播放时间为每个第一候选框对应的第一坐标点的横坐标,以每个第一候选框的位置的横坐标为每个第一候选框对应的第一坐标点的纵坐标,画出该5个第一候选框的对应的5个第一坐标点,并据此拟合出第一曲线。
第一曲线反映了第一候选框的位置的横坐标随时间变化的规律,即第一曲线代表了目标在前n个图像中的横向移动趋势。如此,根据第一曲线可以得到当前的检测图像中预测框的位置的横坐标。如图3中“○”内的坐标点的位置的纵坐标即为预测框的位置的横坐标,即预测框的位置的横坐标为25。
(2)参见图4,以每个第一候选框所属的图像的播放时间为每个第一候选框对应的第二坐标点的横坐标,以每个每一候选框的位置的纵坐标为每个第一候选框对应的第二坐标点的纵坐标,画出该5个第一候选框对应的5个第二坐标点,并据此拟合出第二曲线。
第二曲线反映了第一候选框的位置的纵坐标随时间变化的规律,即第二曲线代表了目标在前n个图像中的纵向移动趋势。如此,根据第二曲线可以得到当前的检测图像中预测框的位置的纵坐标。如图4中“○”内的坐标点的位置的纵坐标即为预测框的位置的纵坐标,即预测框的位置的纵坐标为30。
前两步得到预测框的位置的横坐标以及纵坐标后,就在检测图像中确定出了预测框的位置。如图2中“○”内的坐标点的位置即为预测框的位置,即预测框的位置的坐标为(25,30)。
步骤103:根据该检测图像中的多个预测框,从该检测图像中的多个检测框中选取目标框。
由于该检测图像中的多个预测框是根据该前n个图像中出现的目标的历史跟踪信息确定得到,所以该检测图像中的多个预测框指示的区域附近很有可能存在目标,因而根据该检测图像中的多个预测框,来从该检测图像中的多个检测框中选取目标框,可以避免因目标遮挡、目标拥挤等情况而导致的检测框误过滤,提高目标检出率。
具体地,步骤103的操作可以为:根据该检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从该检测图像中的多个检测框中获取第一候选框作为目标框;根据该检测图像中的多个第一候选框与多个第二候选框之间的重合度,对该检测图像中的多个第二候选框进行过滤,并将保留的第二候选框作为第三候选框;根据该检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对该检测图像中的多个第三候选框进行过滤,并将保留的第三候选框作为目标框。
需要说明的是,两个框之间的重合度是指这两个框之间的IOU(Intersection-over-Union,交并比),可以用这两个框的重叠区域面积除以这两个框的并集区域面积得到。两个框之间的重合度可以指示这两个框对应的区域存在的目标为同一目标的概率。也即是,这两个框之间的重合度越大,这两个框对应的区域中存在的目标为同一目标的概率越高;这两个框之间的重合度越小,这两个框对应的区域中存在的目标为同一目标的概率越低。
另外,第二候选框为该检测图像中的多个检测框中除第一候选框之外的检测框。例如,该检测图像中的多个检测框为检测框1、检测框2、检测框3和检测框4,该检测图像中的多个第一候选框为检测框1和检测框3,则该检测图像中的多个第二候选框为检测框2和检测框4。
其中,根据该检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从该检测图像中的多个检测框中获取第一候选框的操作可以为:从该检测图像中的多个预测框中选取一个预测框,对选取出的预测框执行以下操作,直至对该检测图像中的多个预测框中的每个预测框均执行以下操作为止:对于该检测图像中的多个检测框中的任意一个检测框,将选取出的预测框与这一个检测框之间的重合度与这一个检测框的置信度相乘,得到这一个检测框的目标数值;将该检测图像中的多个检测框中目标数值最大且大于参考数值的检测框确定为与选取出的预测框对应的第一候选框。
需要说明的是,这一个检测框与选取出的预测框之间的重合度在一定程度上可以反映这一个检测框对应的区域中存在的目标与选取出的预测框对应的区域中存在的目标为同一目标的概率。并且,这一个检测框的置信度用于指示这一个检测框对应的区域中存在目标的概率。因而选取出的预测框与这一个检测框之间的重合度与这一个检测框的置信度相乘得到的这一个检测框的目标数值可以指示这一个检测框对应的区域中存在选取出的预测框对应的区域中存在的目标的概率。也即是,这一个检测框的目标数值越大,这一个检测框对应的区域中越有可能存在选取出的预测框对应的区域中存在的目标;这一个检测框的目标数值越小,这一个检测框对应的区域中越没有可能存在选取出的预测框对应的区域中存在的目标。
另外,参考数值可以预先进行设置,且参考数值可以设置得较大,如参考数值可以为0.9等。当这一个检测框的目标数值大于参考数值时,表明这一个检测框对应的区域中很有可能存在选取出的预测框对应的区域中存在的目标,因此,可以选取该检测图像中的多个检测框中目标数值大于参考数值的检测框中目标数值最大的检测框,选取出的这一个检测框是该检测图像中的多个检测框中最有可能存在选取出的预测框对应的区域中存在的目标的检测框,因而可以将选取出的这一个检测框确定与选取出的预测框对应的第一候选框,并将第一候选框作为目标框。
其中,根据该检测图像中的多个第一候选框与多个第二候选框之间的重合度,对该检测图像中的多个第二候选框进行过滤的操作可以为:删除该检测图像中的多个第二候选框中与该检测图像中的多个第一候选框中的任一第一候选框之间的重合度大于或等于第一重合度的第二候选框。
需要说明的是,第一重合度可以预先进行设置,且第一重合度可以设置得较大,如第一重合度可以为0.8、0.9等。
再者,当该检测图像中的某个第二候选框与某个第一候选框之间的重合度大于或等于第一重合度时,表明这个第二候选框与这个第一候选框之间的重合度较大,此时这个第二候选框对应的区域中存在的目标与这个第一候选框对应的区域中存在的目标很有可能是同一目标,因而可以删除这个第二候选框。
其中,根据该检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对该检测图像中的多个第三候选框进行过滤时,可以根据该检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,使用NMS算法来对该检测图像中的多个第三候选框进行过滤。具体地,可以包括如下步骤(1)-步骤(5):
(1)从该检测图像中的多个第三候选框中选取置信度最大的第三候选框作为目标候选框。
需要说明的是,从该检测图像中的多个第三候选框中选取的目标候选框是该多个第三候选框中最有可能存在目标的区域对应的第三候选框。本申请实施例中对该检测图像中的目标候选框均进行了保留。
(2)将该检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框。
需要说明的是,从该检测图像中的多个第三候选框中确定出的第四候选框为需要进行过滤的第三候选框。本申请实施例中对该检测图像中的第四候选框进行过滤。
(3)删除该检测图像中的第四候选框中与目标候选框之间的重合度大于或等于第二重合度的第四候选框。
需要说明的是,第二重合度可以预先进行设置,且第二重合度可以设置得较大。实际应用中,第二重合度可以小于第一重合度,如第二重合度可以为0.7、0.75等。
另外,当该检测图像中的某个第四候选框与目标候选框之间的重合度大于或等于第二重合度时,表明这个第四候选框与目标候选框之间的重合度较大,此时这个第四候选框对应的区域中存在的目标与目标候选框对应的区域中存在的目标很有可能是同一目标,因而可以删除这个第四候选框。
(4)判断该检测图像中的第四候选框的个数是否为1。
(5)当该检测图像中的第四候选框的个数不为1时,从该检测图像中的第四候选框中选取置信度最大的第四候选框作为目标候选框,返回步骤(2);当该检测图像中的第四候选框的个数为1时,结束操作。
需要说明的是,当该检测图像中的第四候选框的个数为1时,表明这个检测图像中已保留的目标候选框与该检测图像中唯一剩余的这个第四候选框之间的重合度均小于第二重合度,因而此时可以对这个第四候选框也进行保留,并结束操作。
当该检测图像中的第四候选框的个数不为1时,即当该检测图像中的第四候选框的个数为至少两个时,可以继续从该检测图像中的第四候选框中选取置信度最大的第四候选框作为目标候选框,然后返回步骤(2)重新确定该检测图像中的第四候选框,并继续对该检测图像中的第四候选框进行过滤。
为了便于理解,下面结合图5-图7来对本申请实施例提供的目标检测方法进行举例说明。
具体地,参见图5,本申请实施例提供的目标检测方法可以应用于目标检测***中,目标检测***中可以包括跟踪预测模块和非极大值抑制模块。
第一步,获取目标检测模型输出的视频中的检测图像中的多个检测框的大小、位置和置信度。第二步,获取该视频中与该检测图像相邻的前n个图像中每个图像中的目标框的大小和位置。第三步,将该前n个图像中每个图像中的目标框的大小和位置输入跟踪预测模块进行处理,具体地,对于该前n个图像中均出现的多个目标中的每个目标,跟踪预测模块根据该前n个图像中的每个图像的目标框中这个目标所在的第一候选框的大小和位置,确定该检测图像中这个目标所在的预测框的大小和位置。第四步,将该检测模块中多个检测框的大小、位置和置信度以及该检测图像中的多个预测框的大小和位置输入非极大值抑制模块进行处理,具体地,非极大值抑制模块可以根据该检测图像中的多个预测框的大小和位置以及该检测模块中多个检测框的大小、位置和置信度,从该检测图像中的多个检测框中选取目标框。
其中,参见图6,跟踪预测模块包括目标跟踪单元和位置预测单元。
第一步,将该前n个图像中每个图像中的目标框的大小和位置输入目标跟踪单元进行处理,具体地,对于该前n个图像中均出现的多个目标中的每个目标,目标跟踪单元从该前n个图像中每个图像中的目标框获取这个目标所在的目标框作为第一候选框,以得到这个目标对应的n个第一候选框。第二步,将该n个第一候选框的大小和位置输入位置预测单元进行处理,具体地,位置预测单元可以根据该n个第一候选框中每个第一候选框的大小确定该检测图像中这个目标所在的预测框的大小,以及根据该n个第一候选框中每个第一候选框的位置确定该检测图像中这个目标所在的预测框的位置。
其中,参见图7,非极大值抑制模块包括基于跟踪目标的处理单元和剩余检测目标的处理单元。
第一步,将该检测模块中多个检测框的大小、位置和置信度以及该检测图像中的多个预测框的大小和位置输入基于跟踪目标的处理单元进行处理,具体地,基于跟踪目标的处理单元可以根据该检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从该检测图像中的多个检测框中获取第一候选框作为目标框,再根据该检测图像中的多个第一候选框与多个第二候选框之间的重合度,对该多个第二候选框进行过滤,将保留的第二候选框作为第三候选框。第二步,将该检测图像中的多个第三候选框的大小、位置和置信度输入剩余检测目标的处理单元进行处理,具体地,剩余检测目标的处理单元可以根据该检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对该检测图像中的多个第三候选框进行过滤,并将保留的第三候选框作为目标框。
在本申请实施例中,根据目标检测模型,确定视频中的检测图像中的多个检测框后,根据该视频中与该检测图像相邻的前n个图像中每个图像中的目标框,确定该检测图像中的多个预测框。由于该检测图像中的多个预测框是根据该前n个图像中出现的目标的历史跟踪信息确定得到,所以该检测图像中的多个预测框指示的区域附近很有可能存在目标。之后,根据该检测图像中的多个预测框,从该检测图像中的多个检测框中选取目标框,可以避免因目标遮挡、目标拥挤等情况而导致的检测框误过滤,提高目标检出率。
图8是本申请实施例提供的一种目标检测装置的结构示意图。参考图8,该装置包括:第一确定模块801、第二确定模块802和选取模块803。
第一确定模块801,用于根据目标检测模型,确定视频中的检测图像中的多个检测框;
第二确定模块802,用于根据该视频中与该检测图像相邻的前n个图像中每个图像中的目标框,确定该检测图像中的多个预测框,目标框用于指示存在目标的区域,n为大于或等于2的整数;
选取模块803,用于根据该检测图像中的多个预测框,从该检测图像中的多个检测框中选取目标框。
可选地,第一确定模块801包括:
输出单元,用于将视频中的检测图像输入到目标检测模型,由目标检测模型输出该检测图像中的多个检测框中每个检测框的大小、位置和置信度,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率。
可选地,第二确定模块802包括:
第一获取单元,用于从前n个图像中每个图像中的目标框中获取第一候选框,以得到n个第一候选框,n个第一候选框中每个第一候选框对应的区域中存在同一目标;
第一确定单元,用于根据n个第一候选框中每个第一候选框的位置,确定检测图像中的一个预测框的位置;
第二确定单元,用于根据n个第一候选框中每个第一候选框的大小,确定检测图像中的一个预测框的大小。
可选地,第一确定单元用于:
对于n个第一候选框中的任意一个第一候选框,以一个第一候选框所属的图像的播放时间为一个第一候选框对应的第一坐标点的横坐标,以一个第一候选框的位置的横坐标为一个第一候选框对应的第一坐标点的纵坐标,构建一个第一候选框对应的第一坐标点;以一个第一候选框所属的图像的播放时间为一个第一候选框对应的第二坐标点的横坐标,以一个第一候选框的位置的纵坐标为一个第一候选框对应的第二坐标点的纵坐标,构建一个第一候选框对应的第二坐标点;
对n个第一候选框对应的n个第一坐标点进行曲线拟合,得到第一曲线;对n个第一候选框对应的n个第二坐标点进行曲线拟合,得到第二曲线;
以检测图像的播放时间为横坐标,将检测图像的播放时间在第一曲线中对应的坐标点的纵坐标确定为检测图像中的一个预测框的位置的横坐标,以及将检测图像的播放时间在第二曲线中对应的坐标点的纵坐标确定为检测图像中的一个预测框的位置的纵坐标,以得到检测图像中的一个预测框的位置。
可选地,选取模块803包括:
第二获取单元,用于根据该检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从该检测图像中的多个检测框中获取第一候选框作为目标框,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率;
第一过滤单元,用于根据该检测图像中的多个第一候选框与多个第二候选框之间的重合度,对该检测图像中的多个第二候选框进行过滤,并将保留的第二候选框作为第三候选框,第二候选框为该检测图像中的多个检测框中除第一候选框之外的检测框;
第二过滤单元,用于根据该检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对该检测图像中的多个第三候选框进行过滤,并将保留的第三候选框作为目标框。
可选地,第二获取单元用于:
从该检测图像中的多个预测框中选取一个预测框,对选取出的预测框执行以下操作,直至对该检测图像中的多个预测框中的每个预测框均执行以下操作为止:
对于该检测图像中的多个检测框中的任意一个检测框,将选取出的预测框与这一个检测框之间的重合度与这一个检测框的置信度相乘,得到这一个检测框的目标数值;
将该检测图像中的多个检测框中目标数值最大且大于参考数值的检测框确定为与选取出的预测框对应的第一候选框。
可选地,第一过滤单元用于:
删除该检测图像中的多个第二候选框中与该检测图像中的多个第一候选框中的任一第一候选框之间的重合度大于或等于第一重合度的第二候选框。
可选地,第二过滤单元用于:
从该检测图像中的多个第三候选框中选取置信度最大的第三候选框作为目标候选框;
将该检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框;
删除该检测图像中的第四候选框中与目标候选框之间的重合度大于或等于第二重合度的第四候选框;
判断该检测图像中的第四候选框的个数是否为1;
当该检测图像中的第四候选框的个数不为1时,从该检测图像中的第四候选框中选取置信度最大的第四候选框作为目标候选框,返回触发将该检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框;当该检测图像中的第四候选框的个数为1时,结束操作。
在本申请实施例中,根据目标检测模型,确定视频中的检测图像中的多个检测框后,根据该视频中与该检测图像相邻的前n个图像中每个图像中的目标框,确定该检测图像中的多个预测框。由于该检测图像中的多个预测框是根据该前n个图像中出现的目标的历史跟踪信息确定得到,所以该检测图像中的多个预测框指示的区域附近很有可能存在目标。之后,根据该检测图像中的多个预测框,从该检测图像中的多个检测框中选取目标框,可以避免因目标遮挡、目标拥挤等情况而导致的检测框误过滤,提高目标检出率。
图9是本申请实施例提供的一种目标检测装置的结构示意图。参见图9,该装置可以为终端900,终端900可以是:智能手机、平板电脑、MP3播放器(Moving Picture ExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端900还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端900包括有:处理器901和存储器902。
处理器901可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器901可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器901也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器901可以集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器901还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器902可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器902还可包括高速随机存取存储器以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器902中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器901所执行以实现本申请中方法实施例提供的目标检测方法。
在一些实施例中,终端900还可选包括有:***设备接口903和至少一个***设备。处理器901、存储器902和***设备接口903之间可以通过总线或信号线相连。各个***设备可以通过总线、信号线或电路板与***设备接口903相连。具体地,***设备包括:射频电路904、触摸显示屏905、摄像头906、音频电路907、定位组件908和电源909中的至少一种。
***设备接口903可被用于将I/O(Input/Output,输入/输出)相关的至少一个***设备连接到处理器901和存储器902。在一些实施例中,处理器901、存储器902和***设备接口903被集成在同一芯片或电路板上;在一些其他实施例中,处理器901、存储器902和***设备接口903中的任意一个或两个可以在单独的芯片或电路板上实现,本申请对此不加以限定。
射频电路904用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路904通过电磁信号与通信网络以及其他通信设备进行通信。射频电路904将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路904包括:天线***、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等。射频电路904可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路904还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏905用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏905是触摸显示屏时,显示屏905还具有采集在显示屏905的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器901进行处理。此时,显示屏905还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏905可以为一个,设置在终端900的前面板;在另一些实施例中,显示屏905可以为至少两个,分别设置在终端900的不同表面或呈折叠设计;在再一些实施例中,显示屏905可以是柔性显示屏,设置在终端900的弯曲表面上或折叠面上。甚至,显示屏905还可以设置成非矩形的不规则图形,也即异形屏。显示屏905可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件906用于采集图像或视频。可选地,摄像头组件906包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件906还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路907可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器901进行处理,或者输入至射频电路904以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端900的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器901或射频电路904的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路907还可以包括耳机插孔。
定位组件908用于定位终端900的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件908可以是基于美国的GPS(GlobalPositioning System,全球定位***)、中国的北斗***、俄罗斯的格雷纳斯***或欧盟的伽利略***的定位组件。
电源909用于为终端900中的各个组件进行供电。电源909可以是交流电、直流电、一次性电池或可充电电池。当电源909包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端900还包括有一个或多个传感器910。该一个或多个传感器910包括但不限于:加速度传感器911、陀螺仪传感器912、压力传感器913、指纹传感器914、光学传感器915以及接近传感器916。
加速度传感器911可以检测以终端900建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器911可以用于检测重力加速度在三个坐标轴上的分量。处理器901可以根据加速度传感器911采集的重力加速度信号,控制触摸显示屏905以横向视图或纵向视图进行用户界面的显示。加速度传感器911还可以用于游戏或用户的运动数据的采集。
陀螺仪传感器912可以检测终端900的机体方向及转动角度,陀螺仪传感器912可以与加速度传感器911协同采集用户对终端900的3D动作。处理器901根据陀螺仪传感器912采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器913可以设置在终端900的侧边框和/或触摸显示屏905的下层。当压力传感器913设置在终端900的侧边框时,可以检测用户对终端900的握持信号,由处理器901根据压力传感器913采集的握持信号进行左右手识别或快捷操作。当压力传感器913设置在触摸显示屏905的下层时,由处理器901根据用户对触摸显示屏905的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器914用于采集用户的指纹,由处理器901根据指纹传感器914采集到的指纹识别用户的身份,或者,由指纹传感器914根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器901授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器914可以被设置在终端900的正面、背面或侧面。当终端900上设置有物理按键或厂商Logo时,指纹传感器914可以与物理按键或厂商Logo集成在一起。
光学传感器915用于采集环境光强度。在一个实施例中,处理器901可以根据光学传感器915采集的环境光强度,控制触摸显示屏905的显示亮度。具体地,当环境光强度较高时,调高触摸显示屏905的显示亮度;当环境光强度较低时,调低触摸显示屏905的显示亮度。在另一个实施例中,处理器901还可以根据光学传感器915采集的环境光强度,动态调整摄像头组件906的拍摄参数。
接近传感器916也称距离传感器,通常设置在终端900的前面板。接近传感器916用于采集用户与终端900的正面之间的距离。在一个实施例中,当接近传感器916检测到用户与终端900的正面之间的距离逐渐变小时,由处理器901控制触摸显示屏905从亮屏状态切换为息屏状态;当接近传感器916检测到用户与终端900的正面之间的距离逐渐变大时,由处理器901控制触摸显示屏905从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图9中示出的结构并不构成对终端900的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
图10是本申请实施例提供的一种目标检测装置的结构示意图。参见图10,该装置可以为服务器1000,服务器1000可以是后台服务器集群中的服务器。具体来讲:
服务器1000包括CPU(Central Processing Unit,中央处理器)1001、包括RAM(Random Access Memory,随机存取存储器)1002和ROM(Read-Only Memory,只读存储器)1003的***存储器1004,以及连接***存储器1004和中央处理单元1001的***总线1005。服务器1000还包括帮助计算机内的各个器件之间传输信息的基本I/O(Input/Output,输入/输出)***1006,和用于存储操作***1013、应用程序1014和其他程序模块1015的大容量存储设备1007。
基本输入/输出***1006包括有用于显示信息的显示器1008和用于用户输入信息的诸如鼠标、键盘之类的输入设备1009。其中显示器1008和输入设备1009都通过连接到***总线1005的输入/输出控制器1010连接到中央处理单元1001。基本输入/输出***1006还可以包括输入/输出控制器1010以用于接收和处理来自键盘、鼠标或电子触控笔等多个其他设备的输入。类似地,输入/输出控制器1010还提供输出到显示屏、打印机或其他类型的输出设备。
大容量存储设备1007通过连接到***总线1005的大容量存储控制器(未示出)连接到中央处理单元1001。大容量存储设备1007及其相关联的计算机可读介质为服务器1000提供非易失性存储。也就是说,大容量存储设备1007可以包括诸如硬盘或CD-ROM(CompactDisc Read-Only Memory,只读光盘)驱动器之类的计算机可读介质(未示出)。
不失一般性,计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM(Electrically Erasable Programmable Read-Only Memory,可擦可编程只读存储器)、EEPROM(Electrically Erasable Programmable Read-Only Memory,电可擦可编程只读存储器)、闪存或其他固态存储其技术,以及包括CD-ROM、DVD(Digital VersatileDisc,数字通用光盘)或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知计算机存储介质不局限于上述几种。***存储器1004和大容量存储设备1007可以统称为存储器。
根据本申请的各种实施例,服务器1000还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即服务器1000可以通过连接在***总线1005上的网络接口单元1011连接到网络1012,或者说,也可以使用网络接口单元1011来连接到其他类型的网络或远程计算机***(未示出)。
上述存储器还包括一个或者一个以上的程序,一个或者一个以上程序存储于存储器中,被配置由CPU执行。该一个或者一个以上程序包含用于进行图1实施例提供的目标检测方法的指令。
在一些实施例中,还提供了一种计算机可读存储介质,该存储介质内存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中目标检测方法的步骤。例如,该计算机可读存储介质可以是ROM、RAM、CD-ROM、磁带、软盘和光数据存储设备等。
值得注意的是,本申请提到的计算机可读存储介质可以为非易失性存储介质,换句话说,可以是非瞬时性存储介质。
应当理解的是,实现上述实施例的全部或部分步骤可以通过软件、硬件、固件或者其任意结合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。该计算机程序产品包括一个或多个计算机指令。该计算机指令可以存储在上述计算机可读存储介质中。
也即是,在一些实施例中,还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述的目标检测方法的步骤。
以上所述为本申请提供的实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (11)
1.一种目标检测方法,其特征在于,所述方法包括:
根据目标检测模型,确定视频中的检测图像中的多个检测框;
根据所述视频中与所述检测图像相邻的前n个图像中每个图像中的目标框,确定所述检测图像中的多个预测框,所述目标框用于指示存在目标的区域,所述n为大于或等于2的整数;
根据所述检测图像中的多个预测框,从所述检测图像中的多个检测框中选取目标框;
所述根据所述视频中与所述检测图像相邻的前n个图像中每个图像中的目标框,确定所述检测图像中的多个预测框,包括:
从所述前n个图像中每个图像中的目标框中获取第一候选框,以得到n个第一候选框,所述n个第一候选框中每个第一候选框对应的区域中存在同一目标;根据所述n个第一候选框中每个第一候选框的大小,确定所述检测图像中的一个预测框的大小;对于所述n个第一候选框中的任意一个第一候选框,以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第一坐标点的横坐标,以所述一个第一候选框的中心点的横坐标为所述一个第一候选框对应的第一坐标点的纵坐标,构建所述一个第一候选框对应的第一坐标点;以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第二坐标点的横坐标,以所述一个第一候选框的中心点的纵坐标为所述一个第一候选框对应的第二坐标点的纵坐标,构建所述一个第一候选框对应的第二坐标点;
对所述n个第一候选框对应的n个第一坐标点进行曲线拟合,得到第一曲线;对所述n个第一候选框对应的n个第二坐标点进行曲线拟合,得到第二曲线;
以所述检测图像的播放时间为横坐标,将所述检测图像的播放时间在所述第一曲线中对应的坐标点的纵坐标确定为所述检测图像中的所述一个预测框的位置的横坐标,以及将所述检测图像的播放时间在所述第二曲线中对应的坐标点的纵坐标确定为所述检测图像中的所述一个预测框的位置的纵坐标,以得到所述检测图像中的所述一个预测框的位置。
2.如权利要求1所述的方法,其特征在于,所述根据目标检测模型,确定视频中的检测图像中的多个检测框,包括:
将视频中的检测图像输入到目标检测模型,由所述目标检测模型输出所述检测图像中的多个检测框中每个检测框的大小、位置和置信度,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率。
3.如权利要求1-2任一所述的方法,其特征在于,所述根据所述检测图像中的多个预测框,从所述检测图像中的多个检测框中选取目标框,包括:
根据所述检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从所述检测图像中的多个检测框中获取第一候选框作为目标框,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率;
根据所述检测图像中的多个第一候选框与多个第二候选框之间的重合度,对所述检测图像中的多个第二候选框进行过滤,并将保留的第二候选框作为第三候选框,所述第二候选框为所述检测图像中的多个检测框中除第一候选框之外的检测框;
根据所述检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对所述检测图像中的多个第三候选框进行过滤,并将保留的第三候选框作为目标框。
4.如权利要求3所述的方法,其特征在于,所述根据所述检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从所述检测图像中的多个检测框中获取第一候选框,包括:
从所述检测图像中的多个预测框中选取一个预测框,对选取出的预测框执行以下操作,直至对所述检测图像中的多个预测框中的每个预测框均执行以下操作为止:
对于所述检测图像中的多个检测框中的任意一个检测框,将选取出的预测框与所述一个检测框之间的重合度与所述一个检测框的置信度相乘,得到所述一个检测框的目标数值;
将所述检测图像中的多个检测框中目标数值最大且大于参考数值的检测框确定为与选取出的预测框对应的第一候选框。
5.如权利要求3所述的方法,其特征在于,所述根据所述检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对所述检测图像中的多个第三候选框进行过滤,包括:
从所述检测图像中的多个第三候选框中选取置信度最大的第三候选框作为目标候选框;
将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框;
删除所述检测图像中的第四候选框中与目标候选框之间的重合度大于或等于第二重合度的第四候选框;
判断所述检测图像中的第四候选框的个数是否为1;
当所述检测图像中的第四候选框的个数不为1时,从所述检测图像中的第四候选框中选取置信度最大的第四候选框作为目标候选框,返回所述将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框的步骤;当所述检测图像中的第四候选框的个数为1时,结束操作。
6.一种目标检测装置,其特征在于,所述装置包括:
第一确定模块,用于根据目标检测模型,确定视频中的检测图像中的多个检测框;
第二确定模块,用于根据所述视频中与所述检测图像相邻的前n个图像中每个图像中的目标框,确定所述检测图像中的多个预测框,所述目标框用于指示存在目标的区域,所述n为大于或等于2的整数;
选取模块,用于根据所述检测图像中的多个预测框,从所述检测图像中的多个检测框中选取目标框;
所述第二确定模块包括:
第一获取单元,用于从所述前n个图像中每个图像中的目标框中获取第一候选框,以得到n个第一候选框,所述n个第一候选框中每个第一候选框对应的区域中存在同一目标;
第一确定单元,用于根据所述n个第一候选框中每个第一候选框的位置,确定所述检测图像中的一个预测框的位置;
第二确定单元,用于根据所述n个第一候选框中每个第一候选框的大小,确定所述检测图像中的所述一个预测框的大小;
所述第一确定单元用于:
对于所述n个第一候选框中的任意一个第一候选框,以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第一坐标点的横坐标,以所述一个第一候选框的中心点的横坐标为所述一个第一候选框对应的第一坐标点的纵坐标,构建所述一个第一候选框对应的第一坐标点;以所述一个第一候选框所属的图像的播放时间为所述一个第一候选框对应的第二坐标点的横坐标,以所述一个第一候选框的中心点的纵坐标为所述一个第一候选框对应的第二坐标点的纵坐标,构建所述一个第一候选框对应的第二坐标点;
对所述n个第一候选框对应的n个第一坐标点进行曲线拟合,得到第一曲线;对所述n个第一候选框对应的n个第二坐标点进行曲线拟合,得到第二曲线;
以所述检测图像的播放时间为横坐标,将所述检测图像的播放时间在所述第一曲线中对应的坐标点的纵坐标确定为所述检测图像中的一个预测框的位置的横坐标,以及将所述检测图像的播放时间在所述第二曲线中对应的坐标点的纵坐标确定为所述检测图像中的所述一个预测框的位置的纵坐标,以得到所述检测图像中的所述一个预测框的位置。
7.如权利要求6所述的装置,其特征在于,所述选取模块包括:
第二获取单元,用于根据所述检测图像中的多个预测框与多个检测框之间的重合度以及每个检测框的置信度,从所述检测图像中的多个检测框中获取第一候选框作为目标框,每个检测框的置信度用于指示每个检测框对应的区域中存在目标的概率;
第一过滤单元,用于根据所述检测图像中的多个第一候选框与多个第二候选框之间的重合度,对所述检测图像中的多个第二候选框进行过滤,并将保留的第二候选框作为第三候选框,所述第二候选框为所述检测图像中的多个检测框中除第一候选框之外的检测框;
第二过滤单元,用于根据所述检测图像中的多个第三候选框之间的重合度以及每个第三候选框的置信度,对所述检测图像中的多个第三候选框进行过滤,并将保留的第三候选框作为目标框。
8.如权利要求7所述的装置,其特征在于,所述第二获取单元用于:
从所述检测图像中的多个预测框中选取一个预测框,对选取出的预测框执行以下操作,直至对所述检测图像中的多个预测框中的每个预测框均执行以下操作为止:
对于所述检测图像中的多个检测框中的任意一个检测框,将选取出的预测框与所述一个检测框之间的重合度与所述一个检测框的置信度相乘,得到所述一个检测框的目标数值;
将所述检测图像中的多个检测框中目标数值最大且大于参考数值的检测框确定为与选取出的预测框对应的第一候选框。
9.如权利要求7所述的装置,其特征在于,所述第二过滤单元用于:
从所述检测图像中的多个第三候选框中选取置信度最大的第三候选框作为目标候选框;
将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框;
删除所述检测图像中的第四候选框中与目标候选框之间的重合度大于或等于第二重合度的第四候选框;
判断所述检测图像中的第四候选框的个数是否为1;
当所述检测图像中的第四候选框的个数不为1时,从所述检测图像中的第四候选框中选取置信度最大的第四候选框作为目标候选框,返回所述将所述检测图像中的多个第三候选框中除目标候选框之外的第三候选框确定为第四候选框的步骤;当所述检测图像中的第四候选框的个数为1时,结束操作。
10.一种计算机设备,其特征在于,所述计算机设备包括处理器、通信接口、存储器和通信总线,所述处理器、所述通信接口和所述存储器通过所述通信总线完成相互间的通信,所述存储器用于存放计算机程序,所述处理器用于执行所述存储器上所存放的程序,以实现权利要求1-5任一所述方法的步骤。
11.一种计算机可读存储介质,其特征在于,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1-5任一所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911047482.5A CN112749590B (zh) | 2019-10-30 | 2019-10-30 | 目标检测方法、装置、计算机设备和计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911047482.5A CN112749590B (zh) | 2019-10-30 | 2019-10-30 | 目标检测方法、装置、计算机设备和计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112749590A CN112749590A (zh) | 2021-05-04 |
CN112749590B true CN112749590B (zh) | 2023-02-07 |
Family
ID=75640818
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911047482.5A Active CN112749590B (zh) | 2019-10-30 | 2019-10-30 | 目标检测方法、装置、计算机设备和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112749590B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112949785B (zh) * | 2021-05-14 | 2021-08-20 | 长沙智能驾驶研究院有限公司 | 对象检测方法、装置、设备及计算机存储介质 |
CN113705643B (zh) * | 2021-08-17 | 2022-10-28 | 荣耀终端有限公司 | 一种目标物检测方法、装置以及电子设备 |
CN114550062A (zh) * | 2022-02-25 | 2022-05-27 | 京东科技信息技术有限公司 | 图像中运动对象的确定方法、装置、电子设备和存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108268869A (zh) * | 2018-02-13 | 2018-07-10 | 北京旷视科技有限公司 | 目标检测方法、装置及*** |
CN108875577A (zh) * | 2018-05-11 | 2018-11-23 | 深圳市易成自动驾驶技术有限公司 | 目标检测方法、装置及计算机可读存储介质 |
CN109903310A (zh) * | 2019-01-23 | 2019-06-18 | 平安科技(深圳)有限公司 | 目标跟踪方法、装置、计算机装置及计算机存储介质 |
CN110047095A (zh) * | 2019-03-06 | 2019-07-23 | 平安科技(深圳)有限公司 | 基于目标检测的跟踪方法、装置及终端设备 |
CN110210304A (zh) * | 2019-04-29 | 2019-09-06 | 北京百度网讯科技有限公司 | 用于目标检测和跟踪的方法及*** |
CN110222787A (zh) * | 2019-06-14 | 2019-09-10 | 合肥工业大学 | 多尺度目标检测方法、装置、计算机设备及存储介质 |
CN110363790A (zh) * | 2018-04-11 | 2019-10-22 | 北京京东尚科信息技术有限公司 | 目标追踪方法、装置和计算机可读存储介质 |
-
2019
- 2019-10-30 CN CN201911047482.5A patent/CN112749590B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108268869A (zh) * | 2018-02-13 | 2018-07-10 | 北京旷视科技有限公司 | 目标检测方法、装置及*** |
CN110363790A (zh) * | 2018-04-11 | 2019-10-22 | 北京京东尚科信息技术有限公司 | 目标追踪方法、装置和计算机可读存储介质 |
CN108875577A (zh) * | 2018-05-11 | 2018-11-23 | 深圳市易成自动驾驶技术有限公司 | 目标检测方法、装置及计算机可读存储介质 |
CN109903310A (zh) * | 2019-01-23 | 2019-06-18 | 平安科技(深圳)有限公司 | 目标跟踪方法、装置、计算机装置及计算机存储介质 |
CN110047095A (zh) * | 2019-03-06 | 2019-07-23 | 平安科技(深圳)有限公司 | 基于目标检测的跟踪方法、装置及终端设备 |
CN110210304A (zh) * | 2019-04-29 | 2019-09-06 | 北京百度网讯科技有限公司 | 用于目标检测和跟踪的方法及*** |
CN110222787A (zh) * | 2019-06-14 | 2019-09-10 | 合肥工业大学 | 多尺度目标检测方法、装置、计算机设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
Fast Deep Neural Networks With Knowledge Guided Training and Predicted Regions of Interests for Real-Time Video Object Detection;W. Cao, J. Yuan, Z. He, Z. Zhang and Z. He;《IEEE Access》;20181231;论文第8990-8999页 * |
结合关联特征和卷积神经网络的视频目标检测;刘玉杰,曹先知,李宗民,李华;《华南理工大学学报( 自然科学版)》;20181231;论文第26-33页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112749590A (zh) | 2021-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110798790B (zh) | 麦克风异常检测方法、装置及存储介质 | |
CN110490179B (zh) | 车牌识别方法、装置及存储介质 | |
CN110839128B (zh) | 拍照行为检测方法、装置及存储介质 | |
CN111127509B (zh) | 目标跟踪方法、装置和计算机可读存储介质 | |
CN108132790B (zh) | 检测无用代码的方法、装置及计算机存储介质 | |
CN112749590B (zh) | 目标检测方法、装置、计算机设备和计算机可读存储介质 | |
CN112084811A (zh) | 身份信息的确定方法、装置及存储介质 | |
CN110570465B (zh) | 实时定位与地图构建方法、装置及计算机可读存储介质 | |
CN111027490A (zh) | 人脸属性识别方法及装置、存储介质 | |
CN111754386A (zh) | 图像区域屏蔽方法、装置、设备及存储介质 | |
CN111586279B (zh) | 确定拍摄状态的方法、装置、设备及存储介质 | |
CN110633336B (zh) | 激光数据搜索范围的确定方法、装置及存储介质 | |
CN111127541A (zh) | 车辆尺寸的确定方法、装置及存储介质 | |
CN111931712B (zh) | 人脸识别方法、装置、抓拍机及*** | |
CN111860064B (zh) | 基于视频的目标检测方法、装置、设备及存储介质 | |
CN110163192B (zh) | 字符识别方法、装置及可读介质 | |
CN111611414A (zh) | 车辆检索方法、装置及存储介质 | |
CN113706807B (zh) | 发出报警信息的方法、装置、设备及存储介质 | |
CN113592874B (zh) | 图像显示方法、装置和计算机设备 | |
CN110263695B (zh) | 人脸部位的位置获取方法、装置、电子设备及存储介质 | |
CN113256656A (zh) | 图像分割方法和装置 | |
CN111723615B (zh) | 对检测物图像进行检测物匹配判定的方法和装置 | |
CN113301422A (zh) | 获取视频封面的方法、终端及存储介质 | |
CN111860030A (zh) | 行为检测方法、装置、设备及存储介质 | |
CN112861565A (zh) | 确定轨迹相似度的方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |