CN107993245B - 一种空天背景多目标检测和跟踪方法 - Google Patents
一种空天背景多目标检测和跟踪方法 Download PDFInfo
- Publication number
- CN107993245B CN107993245B CN201711130289.9A CN201711130289A CN107993245B CN 107993245 B CN107993245 B CN 107993245B CN 201711130289 A CN201711130289 A CN 201711130289A CN 107993245 B CN107993245 B CN 107993245B
- Authority
- CN
- China
- Prior art keywords
- tracking
- target
- detection
- matrix
- association
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 124
- 238000000034 method Methods 0.000 title claims abstract description 77
- 230000011218 segmentation Effects 0.000 claims abstract description 23
- 238000001914 filtration Methods 0.000 claims abstract description 10
- 238000006073 displacement reaction Methods 0.000 claims abstract description 8
- 230000000877 morphologic effect Effects 0.000 claims abstract description 8
- 239000011159 matrix material Substances 0.000 claims description 52
- 230000008569 process Effects 0.000 claims description 13
- 238000012937 correction Methods 0.000 claims description 12
- 238000005259 measurement Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 claims description 5
- 238000004891 communication Methods 0.000 claims description 4
- 230000026676 system process Effects 0.000 claims description 4
- 230000007704 transition Effects 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 3
- 230000001052 transient effect Effects 0.000 abstract description 5
- 230000000875 corresponding effect Effects 0.000 description 19
- 230000000694 effects Effects 0.000 description 13
- 230000008859 change Effects 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000004927 fusion Effects 0.000 description 4
- 230000008034 disappearance Effects 0.000 description 3
- 238000003709 image segmentation Methods 0.000 description 3
- 238000007621 cluster analysis Methods 0.000 description 2
- 230000007797 corrosion Effects 0.000 description 2
- 238000005260 corrosion Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 206010034719 Personality change Diseases 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000008961 swelling Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
- G06T5/30—Erosion or dilatation, e.g. thinning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/40—Image enhancement or restoration using histogram techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/187—Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20036—Morphological image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种空天背景多目标检测和跟踪方法,包括以下步骤:S1:对原始图像进行S、V通道二值化分割,实现目标与背景的分割;对分割的目标图像进行形态学滤波,得到各目标的基本轮廓并进行连通分量检测,得到目标个数和外接波门信息;S2:以目标形心在像素坐标轴的横、纵坐标轴位置及两方向上的单位位移作为状态变量,以目标在像素坐标轴的横、纵坐标轴位置作为观测变量,建立运动模型,实现对各检测目标航迹的预测跟踪;S3:将检测集合和跟踪集合进行数据关联,实现检测目标和跟踪目标的匹配;本发明可实现空天背景下多目标检测、跟踪和轨迹预测,一定程度上解决了运动目标交叉运动及短暂遮挡的方法,提高了对目标检测跟踪的速度和稳定性。
Description
技术领域
本发明属于图像和视频处理技术领域,更具体地,涉及一种空天背景多目标检测和跟踪方法。
背景技术
空天背景下目标检测,常常采用目标分割与模式识别融合方法或帧间差分方法,在实际操作过程中,影像采集设备往往跟随机动目标实时运动,使得目标背景变化大,帧间差分方法难以达到良好效果;同时由于机动目标在运动过程中可能出现由于姿态变化、距离变化等造成的形变较大、视场占比剧烈变化等现象,采用目标形状、大小、角点等信息进行分割识别存在较大困难。
发明内容
针对现有技术的以上缺陷或改进需求,本发明提供了一种空天背景多目标检测和跟踪方法,可实现空天背景下多目标检测、跟踪和轨迹预测,一定程度上解决了运动目标交叉运动及短暂遮挡的问题,提高了对目标检测跟踪的速度和稳定性。
为实现上述目的,按照本发明的一个方面,提供了一种空天背景多目标检测和跟踪方法,包括以下步骤:
S1:基于HSV颜色模型对原始图像进行S、V通道二值化分割,实现目标与背景的分割;对分割的目标图像进行形态学滤波以实现目标断裂区域的连通,得到各目标的基本轮廓;对目标的基本轮廓进行连通分量检测,得到目标个数和外接波门信息,生成检测集合;
S2:根据卡尔曼滤波器模型,利用检测集合中的目标信息,以目标形心在像素坐标轴的横、纵坐标轴位置及两方向上的单位位移作为状态变量,以目标在像素坐标轴的横、纵坐标轴位置作为观测变量,建立运动模型并配置修正矩阵,实现对各检测目标航迹的预测跟踪,得到跟踪集合。
S3:将检测集合和跟踪集合进行数据关联,实现检测目标和跟踪目标的匹配。
优选的,上述空天背景多目标检测和跟踪方法,步骤S3包括以下子步骤:
S31:根据目标检测得到的检测集合和位置预测得到的跟踪集合,利用匹配代价函数建立代价矩阵,依据检测、跟踪集合大小分别初始化各自关联集合,并建立检测、跟踪配对集合;
S32:设置跟踪波门阈值,以预测航迹形心为中心,以半径为跟踪波门阈值的圆波门作为跟踪波门对检测目标进行初判断;
若代价矩阵中的最小值小于跟踪波门阈值,表示检测目标落入波门,则进行关联;若最小值大于跟踪波门阈值,则表示所有检测目标与预测航迹没有关联;
S33:当代价矩阵中的最小值低于跟踪波门阈值时,将检测、跟踪集合的关联集合中的相应位置置1,表示已被关联,并将相应编号组成的二维数据***跟踪配对集合,并将代价矩阵中该位置所在行、所在列值均设为大于波门阈值的数,表示相应行列数据无法关联成功;
S34:依次循环执行S32、S33,实现检测集合与跟踪集合的有效关联。
优选的,上述空天背景多目标检测和跟踪方法,步骤S1中目标与背景的分割包括以下步骤:将原始图像由RGB转换至HSV颜色空间;获取原始图像的S、V通道信息,并对各通道归一化,进行直方图分析,确定S、V通道的阈值以进行二值化分割;
形态学滤波过程包括以下步骤:采用与操作将S、V通道二值化分割后的图像进行融合;采用一定大小的结构元素对融合后的图像进行膨胀处理,得到目标的基本轮廓,生成连通集合。
优选的,上述空天背景多目标检测和跟踪方法,其S通道二值化阈值为S通道直方图中频率最高点位置的4/3处,所述V通道二值化阈值为V通道直方图中频率最高点的2/3处;所述结构元素的大小为11×11个像素。
优选的,上述空天背景多目标检测和跟踪方法,步骤S2中,所述运动模型为匀速直线运动,
其中,Cx、Cy分别为目标形心在像素坐标轴的横、纵坐标轴位置,k为离散时间。
优选的,上述空天背景多目标检测和跟踪方法,其修正矩阵包括状态转移矩阵Ak、测量矩阵Ck、***过程噪声协方差矩阵Qk、***过程噪声协方差矩阵Rk、初始后验错误估计协方差矩阵P0和状态初始值X0;
优选的,上述空天背景多目标检测和跟踪方法,步骤S3中,所述代价矩阵为根据检测目标数M和已建立跟踪航迹的跟踪目标数N建立的M×N维矩阵,矩阵中各元素为各检测目标与相应跟踪目标形心间的欧式距离;
所述关联集合为用于记录相关检测目标、跟踪航迹是否已被关联的一维矩阵,该集合成员由0和1组成,为0时表示未被关联,为1时表示已被关联,初始化时默认为均未关联,其成员均置为0;
所述配对集合为二维链表,用于记录关联成功的检测编号与跟踪航迹编号,初始化为空。
优选的,上述空天背景多目标检测和跟踪方法,步骤S34之后还包括以下步骤:
S35:对于与检测关联成功的跟踪,则进行卡尔曼滤波器状态修正,并更新跟踪集合;
S36:对于未与检测相关联的跟踪,则删除所述跟踪,并更新跟踪集合;
S37:对于未与跟踪相关联的检测,则生成新的跟踪与所述检测重新关联,并更新跟踪集合;
S38:对新的跟踪集合进行卡尔曼滤波器状态预测,并重新与检测集合进行关联。
优选的,上述空天背景多目标检测和跟踪方法,其特征在于,还包括以下对交叉运动和虚警进行处理的方法:
S4:每建立新的目标跟踪后便开始记录对应的跟踪总数、跟踪可见帧数、跟踪不可见帧数;
S41:当关联成功时,跟踪总数均自加1,跟踪不可见帧数置0,并生成新的跟踪集合;
S42:当跟踪未关联时,跟踪总数均自加1,跟踪不可见帧数加1;
判断是否满足跟踪总数<8且检测率<60%,若是,则判定该目标为伪目标或虚警,将该跟踪从跟踪集合中删除;若否,则将该跟踪***跟踪集合;
判断是否满足跟踪不可见帧数>20,若是,则认为该目标消失,将该跟踪从跟踪集合中删除;若否,则将该跟踪***跟踪集合;
S43:若出现未与跟踪相关联的检测,则建立新的跟踪轨迹,初始化新的卡尔曼滤波器,跟踪不可见帧数初始化为0,跟踪总数初始置1,并将该跟踪***跟踪集合;
S44:更新跟踪集合,进行卡尔曼滤波器状态修正和预测。
优选的,上述空天背景多目标检测和跟踪方法,其跟踪波门阈值为100个像素。
总体而言,通过本发明所构思的以上技术方案与现有技术相比,能够取得下列有益效果:
(1)本发明提供的一种空天背景多目标检测和跟踪方法,采用了基于卡尔曼滤波器和数据关联矩阵的多目标跟踪方法,以目标形心在像素坐标轴的横、纵坐标轴位置及两方向上的单位位移作为状态变量,检测到目标在像素坐标轴的横、纵坐标轴位置作为观测变量,建立运动模型并配置模型参数,消除了机动目标在运动过程中可能出现由于姿态变化、距离变化等造成的形变较大、视场占比剧烈变化等现象的影响;根据目标检测得到的检测集合和结合运动模型与卡尔曼滤波器位置预测得到的跟踪集合,建立相关的匹配代价函数、关联矩阵和匹配集合,使检测集合与跟踪集合有效关联,从而实现了复杂背景下多目标的准确跟踪;
(2)本发明提供的一种空天背景多目标检测和跟踪方法,在跟踪过程中,当检测到新目标时初始化新的卡尔曼滤波器开始跟踪,当检测到已跟踪目标时则利用检测到的位置信息对相应卡尔曼状态进行修正和预测;通过卡尔曼卡尔曼滤波器的状态预测和状态修正的不断更新迭代,实时删除无效跟踪并更新跟踪集合,达到了良好的动态跟踪效果;
(3)本发明提供的一种空天背景多目标检测和跟踪方法,通过利用关联算法对卡尔曼滤波器进行预测和状态修正,在一定程度上解决目标在场景中频繁出现和消失、交叉运动和短暂遮挡等问题。
附图说明
图1是本发明提供的一种空天背景多目标检测和跟踪方法的流程总图;
图2是本发明提供的一种空天背景多目标检测和跟踪方法的的流程图;
图3是膨胀算法示意图;
图4是检测方法仿真效果图;
图5是机动多目标跟踪基本原理图;
图6是多目标跟踪数据关联方法流程图;
图7是本发明提供的一种空天背景多目标检测和跟踪方法的识别效果图;
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
空天背景下机动目标检测具有以下特点:目标具备一定的运动速度、运动过程中姿态变化频繁、大小变化很大、背景均为相对单一的天空背景、偶尔有云层和乌云出现、可能出现多个目标、目标占据视场最大不到1/2的特点。
考虑如上特征,本发明提供的一种空天背景多目标检测和跟踪方法,其核心主要在于检测、跟踪和关联三个部分,方法总流程如图1所示;
一、目标检测:考虑到空天背景下目标在颜色饱和度、明亮度上与背景存在一定差异,采用了基于颜色空间的彩色图像分割算法。通过对颜色空间模型的分析,选用了反映图像明亮度与颜色信息相互独立不相关特性的HSV颜色模型,利用目标在S(饱和度)通道与V(亮度)通道与背景存在差异的特点,通过S通道、V通道阈值二值化,结合图像融合,以实现目标与背景的分割。对分割的图像进行形态学滤波(腐蚀)以实现目标断裂区域的连通,进而对连通集合进行检测并统计形成检测集合,以记录检测到的目标个数及各目标的外接矩形(波门)信息。
二、目标跟踪:跟踪方法采用卡尔曼滤波器对目标形心进行预测跟踪,以目标形心在像素坐标轴的横、纵坐标轴位置及两方向上的单位位移(速度)作为状态变量,检测到目标在像素坐标轴的横、纵坐标轴位置作为观测变量,并建立相关运动模型,假设目标在单位时间(相邻两帧)间为匀速直线运动,配置相关运动模型参数以实现对各检测目标的跟踪。
三、数据关联:为实现多目标跟踪及虚警判断,需考虑检测目标与跟踪目标的关联问题,即如何将检测数据与已有航迹进行配对,以确定检测数据对应的目标,并判断检测目标是否为虚警,以供后续进行不同处理。为此,本方法采用了一种基于数据关联矩阵的多目标跟踪方法,根据目标检测得到的检测集合和结合运动模型与Kalman滤波器位置预测得到的跟踪集合,建立相关的匹配代价函数、关联矩阵和匹配集合,以实现检测集与跟踪集的有效关联;同时通过利用关联算法,在一定程度上解决目标在场景中频繁出现和消失、交叉运动和短暂遮挡等问题。
以下结合附图和实施例对本发明提供的一种空天背景多目标检测和跟踪方法作进一步的详细描述。
一、多目标检测和跟踪方法
图2是本发明提供的一种空天背景多目标检测和跟踪方法的的流程图;具体包括以下步骤:
1、颜色空间的选择和转换
HSV(Hue、Saturation and Value)颜色模型是从人的视觉***出发,用色调(Hue)、色饱和度(Saturation)和明亮度(Value)来描述颜色。HSV模型具有将明亮度(V)与反应色彩本质特性的两个参数色度(H)和饱和度(S)一一分开,其相互独立不相关的特性。因此,利用HSV模型中各分量的不相关性,可通过对各通道进行聚类分析,实现图像分割、目标检测的目标。本方法利用HSV模型的上述优势,结合目标与背景在饱和度、明亮度的相对差异,通过对图像中S、V通道进行聚类分析以实现飞机目标与背景的有效分割。
RGB向HSV转换公式如下:
if(H<0)then H=H+360将H<0的色度转换到0~360范围内
2、图像分割
选定HSV颜色空间后,需对原始图像进行颜色特征分析以实现目标与背景的正确分割。首先分别将同一场景、不同场景下帧图像由RGB转换至HSV颜色空间,获取H、S、V各通道信息,并对各通道归一化,进行直方图分析,进而寻找合适的阈值进行二值化分割。
通过对空天背景特征的分析,得出目标与背景在S、V通道上存在差异,目标饱和度整体高于背景,明亮度整体低于背景;由于机动目标颜色的不确定性,H通道不宜作为分割的依据,故利用目标与背景的饱和度、明亮度差异做分割处理。
经对大量背景与前景的采样分析,S、V通道的分割阈值基本在0.2与0.5附近。但为增强方法对环境适应的鲁棒性,鉴于粗跟踪下目标不会充斥整个视场的1/2,方法采用将S通道直方图中频率最高点位置的4/3处作为S通道二值化阈值,V通道直方图中频率最高点处的2/3作为V通道二值化阈值,将大于S通道阈值处置1,小于V通道阈值处置1,即认为目标与背景在饱和度、亮度上存在1/3的差距,经测试该阈值下分割效果较为准确和稳定,这样便实现了分割阈值的自适应。
3、图像融合
鉴于机动目标与背景在饱和度、亮度上同时存在差异,因此对二值化分割后的图像进行与操作实现图像融合。
4、形态学滤波
对图像进行融合后,可基本从背景中提取机动目标,但得到的图像仍存在目标区域断裂的问题,所以要得到完整的目标位置,需对图像进行形态学处理。为解决目标区域断裂的现有需求,本方法选用膨胀算法进行处理。
膨胀是将与物体接触的所有背景点合并到该物体中,使边界向外部扩张的过程,可以用来填补物体中的空洞;膨胀的定义为:把结构元素B平移a后得到Ba,若Ba击中X,我们记下这个a点,所有满足上述条件的a点组成的集合称作X被B膨胀的结果。如图3所示,图中X是被处理的对象,B是结构元素,对于任意一个在阴影部分的点a,Ba击中X,所以X被B膨胀的结果就是上述阴影部分。阴影部分包括X的所有范围,就像X膨胀了一圈似的,故形象地称为膨胀。
膨胀运算中,结构元素的大小是个关键的因素,取的太大则滤波得到的轮廓可能超过目标大小,取的太小则可能无法完全填补目标断裂区域。经大量测试比较,采用11×11个像素大小的结构元素效果较好。
5、连通分量检测,生成检测集合
经过腐蚀运算,便可得到目标的基本轮廓,对其进行连通分量检测得到目标个数,并记录其矩形外轮廓信息生成检测集合。
利用本发明提供的空天背景多目标检测和跟踪方法,针对某具体案例的仿真效果如图4所示,其中,图a为原始图像,图b为原始图像进行S通道二值化阈值分割效果图,图c为原始图像进行V通道二值化阈值分割效果图,图d为S、V两通道阈值分割后图像融合效果图,图e为融合后图像进行行膨胀运算效果图。
二、多目标跟踪方法
Kalman滤波器是根据最小均方误差准则建立起来的估计方法,卡尔曼滤波的核心思想是递推,先在不考虑激励噪声和观测噪声的基础上得到状态的估计值和观测数据的估计值,再用观测数据的估计误差去修正状态的估计值,通过选择修正矩阵使得状态估计误差的均方值最小。
根据卡尔曼滤波模型,结合二维影像中运动目标特点,利用目标检测得到的检测信息,将目标形心在像素坐标轴的横、纵坐标轴位置及两方向上的单位位移(速度)作为状态变量,本实施例方法假设状态噪声w(k)与观测噪声v(k)均为零均值高斯白噪声;由于没有控制量,将B设为0,则设状态向量xk设为一个四维向量,如下所示,
根据检测到的目标信息,设定目标形心在像素坐标轴的横、纵坐标轴位置作为观测变量,如下所示,
其中k为离散时间,由于相邻两帧图像时间间隔较短,目标运动状态变化比较小,故假设目标在单位时间内是匀速运动;根据kn时刻的观测变量yn对kn+1时刻的目标状态yn+1进行估计和预测,并通过选择修正矩阵使得状态估计误差的均方值最小;设定转状态转移矩阵Ak是一个4行4列的常数矩阵,如下所示,
由于抽样得到图像中目标运动是连续的,分析状态向量中各元素的物理意义以及它们之间的函数关系可得知,此处dt=1。
测量矩阵设定为一个2行4列的常数矩阵,如下所示,
假设***过程噪声W和测量噪声V服从高斯分布,p(w)~N(O,Q)、p(v)~N(O,R),***过程噪声协方差矩阵设定如下,
测量过程噪声协方差矩阵如下,
初始后验错误估计协方差矩阵设定如下:
初始位置按照测量值假设为真值,初始速度均假设为0.1,如下:
配置相关模型参数后,便可实现对目标下个位置信息的预测;在跟踪中估计目标状态分为三个阶段,分别为卡尔曼滤波器初始化、卡尔曼状态估计(预测)和卡尔曼状态更新(修正)。当检测到新目标时则初始化新的卡尔曼滤波器开始跟踪,当检测到已跟踪目标时则利用检测到的位置信息对相应卡尔曼状态进行修正和预测。
三、数据关联方法
多目标跟踪主要包含以下几个基本要素:跟踪起始与终结、跟踪门的形成、数据关联、跟踪维持等。多目标跟踪的关键在于如何有效地进行数据关联,即如何将检测数据与已有航迹进行配对,以确定哪个测量来自哪个目标,并判断相应检测目标的类型。图5为多目标跟踪的基本原理图,多目标跟踪数据关联方法流程图如图6所示,具体包括以下步骤:
1、相关集合、矩阵初始化、建立代价矩阵
根据得到的检测、跟踪集合,利用匹配代价函数建立相关代价矩阵,依据检测、跟踪集合大小分别初始化各自关联集合,并建立检测、跟踪配对集合,匹配代价函数采用非贝叶斯估计方法中的“最邻近”关联方法,认为离目标预测位置最近的检测作为最佳匹配策略。具体如下:
假设检测到的目标数为M,已建立跟踪航迹数为N,则建立相应N×M维代价矩阵,其各元素为相应检测目标与相应跟踪航迹形心间的欧式距离。
检测、跟踪集合的关联集合分别为相应大小的一维矩阵,记录相关检测目标、跟踪航迹是否已被关联。该集合成员由0和1组成,为0时表示未被关联,为1时表示已被关联。初始化时默认为均未关联,其成员均设为0。
跟踪配对集合为二维链表,其记录关联成功的检测标号与跟踪航迹编号,初始化为空。
2、跟踪波门初判断
跟踪门是以被跟踪目标的预测位置为中心,用来确定该目标的观测值可能出现的范围。波门的大小由正确接收回波的概率来确定,在确定波门形状与大小时,应使真实量测以很高的概率落入波门中,同时又要尽量减少落入波门的无关量测的数量;跟踪门是将观测值分配给已建立的目标航迹或者确定新的目标航迹的一种粗略的检测方法。
跟踪门的作用为:当观测值落入某个目标的跟踪门内时,该观测值被考虑用于目标航迹状态的更新;如果观测值没有落入任何目标的跟踪门内,则认为观测值可能来自于新的目标或者虚警。
根据影像特点,本方法采用以预测航迹形心为中心,半径为100个像素的圆波门作为跟踪波门对检测目标进行初判断。首先根据代价矩阵得到矩阵中的最小值及相关坐标位置,若该最小值小于100,则表示检测目标落入波门,则可进行关联,若该最小值大于100,则表示所有检测目标与预测航迹没有关联。
3、数据关联
当代价矩阵中最小值低于跟踪波门阈值时,则表示该位置对应检测号与航迹跟踪号匹配成功,则将检测、跟踪集合的关联集合中相应位置置1,表示已被关联,同时将相应编号组成的二维数据***跟踪配对集合,并将代价矩阵中该位置所在行、所在列值均设为大于波门阈值的数(例如101),表示相应行列数据已不可能再关联成功。完成后,依次循环执行步骤2、3过程,便可实现检测集合与跟踪集合的有效配对。
4、交叉运动、虚警处理
考虑到场景中多个目标可能频繁出现和消失、交叉运动和短暂遮挡等问题,本方法做了如下处理:
每建立新的跟踪后便开始记录对应的跟踪总数、跟踪可见帧数、跟踪不可见帧数。当关联成功及跟踪未关联时,跟踪总数均自加1;当关联成功,则跟踪不可见帧数置0,并更新跟踪集合;当跟踪未关联时,则跟踪不可见帧数加1,并更新跟踪集合。
根据噪声、伪目标等常出现在跟踪起始阶段的特点,方法对检测到新目标的前8帧跟踪进行统计分析,若检测率(跟踪可见帧数/跟踪总数)低于60%,则认为该目标为伪目标或虚警。
考虑到运动目标在运动中可能存在交叉、遮挡等造成短暂消失的现象,方法对跟踪航迹进行了处理,当跟踪航迹在连续20帧内未实现有效关联则认为该目标消失,将该跟踪删除并更新跟踪集合。
图7是本发明提供的一种空天背景多目标检测和跟踪方法的识别效果图;其中,图a和图b分别为多个机动目标在不同时刻下的跟踪效果图,如图所示,多个机动目标在不同时刻下的飞行姿态、大小和视占比均发生了较大变化,采用本发明提供的多目标检测和跟踪方法能够实现对多个机动目标的有效跟踪和识别。
相比于现有的目标分割与模式识别融合方法或帧间差分方法,本发明提供的一种空天背景多目标检测和跟踪方法,克服了目标在运动过程中出现的形变较大、视场占比剧烈变化等不利因素的影响,可实现空天背景下多目标检测、跟踪和轨迹预测,并在一定程度上解决了运动目标交叉运动及短暂遮挡的问题,提高了对目标检测跟踪的速度和稳定性。
本领域的技术人员容易理解,以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (9)
1.一种空天背景多目标检测和跟踪方法,其特征在于,包括以下步骤:
S1:基于HSV颜色模型对多目标原始图像进行S、V通道二值化分割,实现目标与背景的分割;对分割的目标图像进行形态学滤波以实现目标断裂区域的连通,得到各目标的基本轮廓;对目标的基本轮廓进行连通分量检测,得到目标个数和外接波门信息,生成检测集合;
S2:根据卡尔曼滤波器模型,利用检测集合中的目标信息,以目标形心在像素坐标轴的横、纵坐标轴位置及两方向上的单位位移作为状态变量,以目标在像素坐标轴的横、纵坐标轴位置作为观测变量,建立运动模型并配置修正矩阵,实现对各检测目标航迹的预测跟踪,得到跟踪集合;
S3:将检测集合和跟踪集合进行数据关联,实现检测目标和跟踪目标的匹配;
S4:每建立新的目标跟踪后便开始记录对应的跟踪总数、跟踪可见帧数、跟踪不可见帧数;
S41:当关联成功时,跟踪总数均自加1,跟踪不可见帧数置0,并生成新的跟踪集合;
S42:当跟踪未关联时,跟踪总数均自加1,跟踪不可见帧数加1;
判断是否满足跟踪总数<8且检测率<60%,若是,则判定该目标为伪目标或虚警,将该跟踪从跟踪集合中删除;若否,则将该跟踪***跟踪集合;所述检测率为跟踪可见帧数与跟踪总数的比值;
判断是否满足跟踪不可见帧数>20,若是,则认为该目标消失,将该跟踪从跟踪集合中删除;若否,则将该跟踪***跟踪集合;
S43:若出现未与跟踪相关联的检测,则建立新的跟踪轨迹,初始化新的卡尔曼滤波器,跟踪不可见帧数初始化为0,跟踪总数初始置1,并将该跟踪***跟踪集合;
S44:更新跟踪集合,进行卡尔曼滤波器状态修正和预测。
2.如权利要求1所述的空天背景多目标检测和跟踪方法,其特征在于,步骤S3包括以下子步骤:
S31:根据目标检测得到的检测集合和位置预测得到的跟踪集合,利用匹配代价函数建立代价矩阵,依据检测、跟踪集合大小分别初始化各自关联集合,并建立检测、跟踪配对集合;
S32:设置跟踪波门阈值,以预测航迹形心为中心,以半径为跟踪波门阈值的圆波门作为跟踪波门对检测目标进行初判断;
若代价矩阵中的最小值小于跟踪波门阈值,表示检测目标落入波门,则进行关联;若最小值大于跟踪波门阈值,则表示所有检测目标与预测航迹没有关联;
S33:当代价矩阵中的最小值低于跟踪波门阈值时,将检测、跟踪集合的关联集合中的相应位置置1,表示已被关联,并将相应编号组成的二维数据***跟踪配对集合,并将代价矩阵中该位置所在行、所在列值均设为大于波门阈值的数,表示相应行列数据无法关联成功;
S34:依次循环执行S32、S33,实现检测集合与跟踪集合的有效关联。
3.如权利要求1或2所述的空天背景多目标检测和跟踪方法,其特征在于,步骤S1中目标与背景的分割包括以下步骤:将原始图像由RGB转换至HSV颜色空间;获取原始图像的S、V通道信息,并对各通道归一化,进行直方图分析,确定S、V通道的阈值以进行二值化分割;
形态学滤波过程包括以下步骤:采用与操作将S、V通道二值化分割后的图像进行融合;采用一定大小的结构元素对融合后的图像进行膨胀处理,得到目标的基本轮廓,生成连通集合。
4.如权利要求3所述的空天背景多目标检测和跟踪方法,其特征在于,所述S通道二值化阈值为S通道直方图中频率最高点位置的4/3处,所述V通道二值化阈值为V通道直方图中频率最高点的2/3处;所述结构元素的大小为11×11个像素。
7.如权利要求2所述的空天背景多目标检测和跟踪方法,其特征在于,步骤S3中,所述代价矩阵为根据检测目标数M和已建立跟踪航迹的跟踪目标数N建立的M×N维矩阵,矩阵中各元素为各检测目标与相应跟踪目标形心间的欧式距离;
所述关联集合为用于记录相关检测目标、跟踪航迹是否已被关联的一维矩阵,该集合成员由0和1组成,为0时表示未被关联,为1时表示已被关联,初始化时默认为均未关联,其成员均置为0;
所述配对集合为二维链表,用于记录关联成功的检测编号与跟踪航迹编号,初始化为空。
8.如权利要求7所述的空天背景多目标检测和跟踪方法,其特征在于,步骤S34之后还包括以下步骤:
S35:对于与检测关联成功的跟踪,则进行卡尔曼滤波器状态修正,并更新跟踪集合;
S36:对于未与检测相关联的跟踪,则删除所述跟踪,并更新跟踪集合;
S37:对于未与跟踪相关联的检测,则生成新的跟踪与所述检测重新关联,并更新跟踪集合;
S38:对新的跟踪集合进行卡尔曼滤波器状态预测,并重新与检测集合进行关联。
9.如权利要求2所述的空天背景多目标检测和跟踪方法,其特征在于,所述跟踪波门阈值为100个像素。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711130289.9A CN107993245B (zh) | 2017-11-15 | 2017-11-15 | 一种空天背景多目标检测和跟踪方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711130289.9A CN107993245B (zh) | 2017-11-15 | 2017-11-15 | 一种空天背景多目标检测和跟踪方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107993245A CN107993245A (zh) | 2018-05-04 |
CN107993245B true CN107993245B (zh) | 2021-09-14 |
Family
ID=62030990
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711130289.9A Active CN107993245B (zh) | 2017-11-15 | 2017-11-15 | 一种空天背景多目标检测和跟踪方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107993245B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108919841B (zh) * | 2018-08-24 | 2022-03-08 | 湖北三江航天红峰控制有限公司 | 一种光电跟踪***的复合轴控制方法及*** |
CN109446393B (zh) * | 2018-09-12 | 2020-06-30 | 北京邮电大学 | 一种网络社区话题分类方法及装置 |
CN109934131A (zh) * | 2019-02-28 | 2019-06-25 | 南京航空航天大学 | 一种基于无人机的小目标检测方法 |
CN109959378A (zh) * | 2019-03-08 | 2019-07-02 | 联创汽车电子有限公司 | 多目标跟踪精度计算***及其计算方法 |
CN110148153B (zh) * | 2019-04-03 | 2021-09-14 | 深圳云天励飞技术有限公司 | 一种多目标的跟踪方法和相关装置 |
CN110111364B (zh) * | 2019-04-30 | 2022-12-27 | 腾讯科技(深圳)有限公司 | 运动检测方法、装置、电子设备及存储介质 |
CN111915496B (zh) * | 2019-05-08 | 2024-04-23 | 北京字节跳动网络技术有限公司 | 一种图像处理方法、装置及存储介质 |
CN110646798B (zh) * | 2019-09-23 | 2021-09-28 | 森思泰克河北科技有限公司 | 目标航迹关联方法、雷达和终端设备 |
CN112001225B (zh) * | 2020-07-06 | 2023-06-23 | 西安电子科技大学 | 一种在线多目标跟踪方法、***及应用 |
CN111985379A (zh) * | 2020-08-13 | 2020-11-24 | 中国第一汽车股份有限公司 | 基于车载雷达的目标追踪方法、装置、设备及车辆 |
CN114463370A (zh) * | 2020-11-09 | 2022-05-10 | 北京理工大学 | 二维影像目标跟踪优化方法及装置 |
CN113129328B (zh) * | 2021-04-22 | 2022-05-17 | 中国电子科技集团公司第二十九研究所 | 一种目标热点区域精细化分析方法 |
CN113379790B (zh) * | 2021-06-21 | 2022-03-22 | 山东八五信息技术有限公司 | 一种基于3d模型的高空瞭望观测物体的ai预警定位方法 |
CN113393400B (zh) * | 2021-06-22 | 2022-08-30 | 中海油田服务股份有限公司 | 消除电成像图像噪声特征的处理方法及装置 |
CN113945207B (zh) * | 2021-09-08 | 2023-11-24 | 杭州电子科技大学 | 一种基于目标三状态建模的遮挡目标多帧跟踪方法 |
CN115529298B (zh) * | 2022-11-30 | 2023-10-13 | 湖南快乐阳光互动娱乐传媒有限公司 | 一种密集视音频传输***、方法和装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3664892B2 (ja) * | 1998-09-30 | 2005-06-29 | 松下電器産業株式会社 | ステレオ画像処理方法および装置と侵入物体監視システム |
JP5452307B2 (ja) * | 2010-03-23 | 2014-03-26 | 三菱電機株式会社 | 追尾装置 |
CN104730528A (zh) * | 2013-12-19 | 2015-06-24 | 中国科学院声学研究所 | 一种水声多目标自主检测与方位跟踪方法 |
CN103809173B (zh) * | 2014-02-28 | 2016-03-09 | 西安电子科技大学 | 帧恒虚警目标检测跟踪一体化方法 |
CN105335743A (zh) * | 2015-10-28 | 2016-02-17 | 重庆邮电大学 | 一种车牌识别方法 |
CN106767832B (zh) * | 2017-01-17 | 2020-11-13 | 哈尔滨工业大学 | 一种基于动态多维分配的被动多源多目标跟踪方法 |
-
2017
- 2017-11-15 CN CN201711130289.9A patent/CN107993245B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN107993245A (zh) | 2018-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107993245B (zh) | 一种空天背景多目标检测和跟踪方法 | |
CN107016691B (zh) | 基于超像素特征的运动目标检测方法 | |
CN109978851B (zh) | 一种红外视频空中弱小运动目标检测跟踪方法 | |
CN106023257B (zh) | 一种基于旋翼无人机平台的目标跟踪方法 | |
CN108022258B (zh) | 基于单次多框检测器与卡尔曼滤波的实时多目标跟踪方法 | |
CN109191432B (zh) | 基于域变换滤波多尺度分解的遥感图像云检测方法 | |
CN106778712B (zh) | 一种多目标检测与跟踪方法 | |
CN103942557B (zh) | 一种煤矿井下图像预处理方法 | |
US20200250840A1 (en) | Shadow detection method and system for surveillance video image, and shadow removing method | |
CN105184812B (zh) | 一种基于目标跟踪的行人徘徊检测方法 | |
CN114677554A (zh) | 一种基于YOLOv5与Deepsort的统计滤波红外小目标检测跟踪方法 | |
KR101827889B1 (ko) | 지역적 대비차 계산 방법을 이용한 실시간 소형 표적 검출방법 | |
CN111709968B (zh) | 一种基于图像处理的低空目标探测跟踪方法 | |
CN109389609B (zh) | 基于fart神经网络的交互自反馈红外目标检测方法 | |
CN110647836B (zh) | 一种鲁棒的基于深度学习的单目标跟踪方法 | |
CN109993052B (zh) | 一种复杂场景下尺度自适应的目标跟踪方法和*** | |
CN107909002B (zh) | 基于海岸线匹配的红外遥感图像海陆分割方法 | |
CN107609571B (zh) | 一种基于lark特征的自适应目标跟踪方法 | |
CN112818905B (zh) | 一种基于注意力和时空信息的有限像素车辆目标检测方法 | |
CN111199556A (zh) | 基于摄像头的室内行人检测和跟踪方法 | |
CN110782487A (zh) | 一种基于改进的粒子滤波算法的目标跟踪方法 | |
CN109446978B (zh) | 基于凝视卫星复杂场景的飞机动目标跟踪方法 | |
CN103942786B (zh) | 无人机可见光和红外图像的自适应团块目标检测方法 | |
CN107103301B (zh) | 视频目标时空最大稳定性判别性颜色区域匹配方法和*** | |
CN117036404A (zh) | 一种单目热成像同时定位与建图方法和*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |