CN117197186A - 基于态势感知的多模融合目标跟踪方法、装置和电子设备 - Google Patents
基于态势感知的多模融合目标跟踪方法、装置和电子设备 Download PDFInfo
- Publication number
- CN117197186A CN117197186A CN202310996592.6A CN202310996592A CN117197186A CN 117197186 A CN117197186 A CN 117197186A CN 202310996592 A CN202310996592 A CN 202310996592A CN 117197186 A CN117197186 A CN 117197186A
- Authority
- CN
- China
- Prior art keywords
- information
- target object
- object information
- matching result
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 230000004927 fusion Effects 0.000 title claims abstract description 20
- 230000003068 static effect Effects 0.000 claims abstract description 24
- 238000001514 detection method Methods 0.000 claims abstract description 15
- 230000004044 response Effects 0.000 claims description 37
- 230000008859 change Effects 0.000 claims description 32
- 238000000605 extraction Methods 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 11
- 238000002156 mixing Methods 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 4
- 230000000903 blocking effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 239000000725 suspension Substances 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本公开的实施例公开了基于态势感知的多模融合目标跟踪方法、装置和电子设备。该方法的一具体实施方式包括:对目标图像进行物体检测,得到目标物体信息组;执行以下匹配步骤:对前向目标物体信息组和目标物体信息组进行位置匹配;确定未匹配的各个目标物体信息;根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配;对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新;确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息;生成对应所得到的目标物体信息组的物体跟踪信息。该实施方式提升了生成的匹配结果的准确性,减少了计算资源的耗费。
Description
技术领域
本公开的实施例涉及计算机技术领域,具体涉及基于态势感知的多模融合目标跟踪方法、装置和电子设备。
背景技术
对各个图像中的物体信息进行跟踪,可以确定图像中物体信息的状态。在对图像中的物体进行追踪时,通常采用的方式为对图像中的物体进行位置匹配,以实现对各个图像中的物体信息的跟踪,或对每帧图像都进行特征提取,根据提取的特征信息对各个图像信息中的物体信息进行跟踪。
然而,发明人发现,当采用上述方式对物体信息进行跟踪时,经常会存在如下技术问题:
第一,仅根据物体的位置信息生成跟踪信息,当图像中的物体之间发生重叠时,对重叠的各个物体进行位置信息检测的难度较大,造成所检测的物***置信息的准确性较低,导致根据物体的位置信息生成的跟踪信息的准确性较低;若对每帧图像进行特征提取,特征提取的次数较多,且若采集图像的光照环境及图像的分辨率较差,提取的特征信息的辨识率较低,造成提取图像特征需要的时间复杂度和空间复杂度较大,导致计算资源耗费较多。
第二,直接对图像中的物体信息进行跟踪,未考虑对图像中的物体信息的状态进行预测及处理,以及未根据处理后的物体信息生成跟踪结果,导致对所有的物体信息进行跟踪耗费的计算资源较多且生成跟踪结果的耗时较长。
该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解,并因此,其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了基于态势感知的多模融合目标跟踪方法、装置、电子设备和计算机可读介质,来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面,本公开的一些实施例提供了一种基于态势感知的多模融合目标跟踪方法,该方法包括:对目标图像进行物体检测,得到目标物体信息组;响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息;根据上述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息;根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息;对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新;根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息;根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。
第二方面,本公开的一些实施例提供了一种基于态势感知的多模融合目标跟踪装置,装置包括:检测单元,被配置成对目标图像进行物体检测,得到目标物体信息组;执行单元,被配置成响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息;根据上述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息;根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息;对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新;根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息;生成单元,被配置成根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。
第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,上述计算机程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的基于态势感知的多模融合目标跟踪方法,减少了计算资源的耗费,提升了生成的物体跟踪信息的准确性。具体来说,造成生成的物体跟踪信息的准确性较低,计算资源耗费的较多的原因在于:仅根据物体的位置信息生成跟踪信息,当图像中的物体之间发生重叠时,对重叠的各个物体进行位置信息检测的难度较大,造成所检测的物***置信息的准确性较低,导致根据物体的位置信息生成的跟踪信息的准确性较低;若对每帧图像进行特征提取,特征提取的次数较多,且若采集图像的光照环境及图像的分辨率较差,提取的特征信息的辨识率较低,造成提取图像特征需要的时间复杂度和空间复杂度较大,导致计算资源耗费较多。基于此,本公开的一些实施例的基于态势感知的多模融合目标跟踪方法,首先,对目标图像进行物体检测,得到目标物体信息组。由此,可以检测到上述目标图像中的各个物体信息。然后,响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:首先,对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息。由此,可以得到前向目标图像中的物体信息和目标物体信息组的位置匹配结果信息。之后,根据上述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息。由此,可以得到未匹配成功的各个目标物体信息,可以用于生成特征匹配结果信息。其次,根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息。由此,可以得到满足特征匹配条件的特征匹配结果。接着,对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新。由此,可以得到各个目标物体信息更新后的状态信息。其次,根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息。由此,可以得到表征满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息,可以用于生成对应目标物体信息组的物体跟踪信息。最后,根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。由此,可以得到上述目标物体信息组与前向目标物体信息组的跟踪结果。也因为是根据位置信息和特征信息生成的跟踪结果,而不是仅根据位置信息生成的跟踪结果,从而提升了生成的跟踪结果的准确性。还因为是对未匹配的各个目标物体信息进行的特征提取处理,并不是对全部的目标物体信息进行特征提取处理,从而减少了特征提取的次数,减少了耗费的计算资源。由此,可以提升生成的物体跟踪信息的准确性,可以减少计算资源的耗费。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是根据本公开的基于态势感知的多模融合目标跟踪方法的一些实施例的流程图;
图2是根据本公开的基于态势感知的多模融合目标跟踪装置的一些实施例的结构示意图;
图3是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1示出了根据本公开的基于态势感知的多模融合目标跟踪方法的一些实施例的流程100。该基于态势感知的多模融合目标跟踪方法,包括以下步骤:
步骤101,对目标图像进行物体检测,得到目标物体信息组。
在一些实施例中,基于态势感知的多模融合目标跟踪方法的执行主体(例如计算设备)可以对目标图像进行物体检测,得到目标物体信息组。其中,上述目标图像可以为目标视频流中的任意一帧图像。上述目标视频流可以为拍摄的任意视频。上述目标物体信息组可以表征上述目标图像中包括的各个物体信息。上述目标物体信息组中的目标物体信息可以包括物体的类别和编码。例如,物体的类别可以为“车”。编码可以为01。实践中,上述执行主体可以对上述目标图像进行图像识别,从而得到上述目标图像中包括的各个物体信息。
可选地,在步骤101之后,首先,上述执行主体还可以响应于确定检测到满足预设变更条件的变更目标图像,对上述变更目标图像进行检测,得到变更目标物体信息组。其中,上述预设变更条件可以为变更目标图像的帧序大于上述目标图像的帧序。上述变更目标图像可以表征检测到的更新的目标图像。上述变更目标物体信息组可以表征上述变更目标图像中的各个物体信息。例如,变更目标物体信息组中的变更目标物体信息可以包括物体的类别和编码。例如,物体的类别可以为“建筑”。编码可以为23。
然后,可以将所得到的变更目标物体信息组作为目标物体信息组,再次执行上述匹配步骤。
可选地,在步骤101之前,上述执行主体还可以响应于确定未检测到满足上述预设前向条件的前向目标图像,将所得到的目标物体信息组中的每个目标物体信息作为物体信息添加至上述物体信息集合,得到变更物体信息集合作为物体信息集合。其中,上述预设前向条件可以为前向目标图像的帧序小于上述目标物体图像的帧序。上述前向目标图像可以表征上述目标图像的前一帧图像。上述物体信息集合可以表征从图像中提取的各个物体信息。上述物体信息集合的初始值可以为空。上述变更物体信息集合可以表征变更后的物体信息集合。
步骤102,响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:
步骤1021,对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息。
在一些实施例中,上述执行主体可以对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息。其中,上述位置匹配结果信息可以表征前向目标物体信息组中的前向目标物体信息的坐标与上述目标物体信息组中的目标物体信息的坐标的匹配结果。上述位置匹配结果信息可以表征但不限于以下中的一项:前向目标物体信息与目标物体信息匹配成功、前向目标物体信息未匹配成功、目标物体信息未匹配成功。
在一些实施例的一些可选的实现方式中,上述执行主体可以通过以下步骤对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息:
第一步,将上述目标图像输入至预先训练的物体中心位置信息生成模型,得到对应所得到目标物体信息组的各个第一位置信息。其中,上述预先训练的物体中心位置信息生成模型可以为生成物体中心坐标的模型。上述各个第一位置信息中的第一位置信息可以表征上述目标图像中的物体中心的二维坐标。例如,上述物体中心位置信息生成模型可以为卷积神经网络模型。
第二步,将对应前向目标物体信息组的前向目标图像输入至上述物体中心位置信息生成模型,得到对应前向目标物体信息组的各个第二位置信息。其中,上述各个第二位置信息中的第二位置信息可以表征对应前向目标物体信息组的前向目标图像中的物体中心的二维坐标。上述各个第二位置信息中的第二位置信息对应上述前向目标物体信息组中的前向目标物体信息。
第三步,对于所得到的目标物体信息组中的每个目标物体信息,执行以下位置匹配步骤:
第一子步骤,确定上述目标物体信息对应的第一位置信息。
第二子步骤,根据上述第一位置信息,确定所得到的各个第二位置信息中是否存在满足预设位置条件的第二位置信息。其中,上述预设位置条件可以为上述第一位置信息与第二位置信息的距离小于预设距离值。对于上述预设距离值的具体数值不做限定。实践中,首先,上述执行主体可以确定上述第一位置信息与上述各个第二位置信息中每个第二位置信息间坐标的距离值,得到各个距离值。然后,可以确定所得到的各个距离值中是否存在满足上述预设位置条件的距离值。
第三子步骤,响应于确定所得到的各个第二位置信息中存在满足上述预设位置条件的第二位置信息,将满足上述预设位置条件的第二位置信息确定为目标位置信息。
第四子步骤,将所得到的前向目标物体信息组中对应上述目标位置信息的前向目标物体信息确定为目标前向目标物体信息。其中,上述目标前向目标物体信息可以为满足上述预设位置条件的前向目标物体信息。
第五子步骤,将所确定的目标前向目标物体信息和上述目标物体信息输入至预先训练的物体信息匹配模型,得到对应上述目标物体信息和所确定的目标前向目标物体信息的匹配信息。其中,上述物体信息匹配模型可以为生成前向目标物体信息与目标物体信息的匹配信息的模型。例如,上述物体信息匹配模型可以为卷积神经网络模型。上述匹配信息可以为上述前向目标物体信息与上述目标物体信息的匹配度。上述匹配度可以表征上述前向目标物体信息与上述目标物体信息的相似值。
第六子步骤,响应于确定所得到的匹配信息满足预设匹配信息条件,将第一预设匹配结果信息确定为对应上述目标物体信息的第一匹配结果信息。其中,上述预设匹配信息条件可以为得到的匹配信息表征的匹配度大于百分之80。上述第一预设匹配结果信息可以表征前向目标物体信息与目标物体信息匹配成功。
第七子步骤,将所得到的第一匹配结果信息添加至第一匹配结果信息集合,以对第一匹配结果信息集合进行更新。其中,上述第一匹配结果信息集合可以表征前向目标物体信息与目标物体信息匹配成功的各个匹配结果。
第八子步骤,将所确定的目标前向目标物体信息和上述目标物体信息分别从所得到的前向目标物体信息组和目标物体信息组中删除,得到更新后的前向目标物体信息组和目标物体信息组。实践中,上述执行主体可以根据目标前向目标物体信息和上述目标物体信息包括的ID编码,从所得到的前向目标物体信息组中将对应上述目标前向目标物体信息的ID编码的前向目标物体信息和目标物体信息组中对应上述目标物体信息的ID编码的目标物体信息删除。
第四步,将第二预设匹配结果信息确定为对应更新后的前向目标物体信息组中的每个前向目标物体信息的第二匹配结果信息,得到各个第二匹配结果信息。其中,上述第二预设匹配结果信息可以表征前向目标物体信息未匹配成功。更新后的前向目标物体信息组中的前向目标物体信息可以表征未匹配成功的前向目标物体信息。
第五步,将所得到的各个第二匹配结果信息添加至第二匹配结果信息集合,以对第二匹配结果信息集合进行更新。其中,上述第二匹配结果信息集合中的第二匹配结果信息可以表征前向目标物体信息未匹配成功。
第六步,将第三预设匹配结果信息确定为更新后的目标物体信息中的每个目标物体信息的第三匹配结果信息,得到各个第三匹配结果信息。其中,上述第三预设匹配结果信息可以表征目标物体信息未匹配成功。上述更新后的目标物体信息中的目标物体信息可以为未匹配成功的目标物体信息。
第七步,将所得到的各个第三匹配结果信息添加至第三匹配结果信息集合,以对第三匹配结果信息集合进行更新。其中,上述第三匹配结果信息集合可以表征未匹配成功的各个目标物体信息的各个匹配结果。
第八步,将所更新的第一匹配结果信息集合、第二匹配结果信息集合和第三匹配结果信息集合确定为位置匹配结果信息。
步骤1022,根据位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息。
在一些实施例中,上述执行主体可以根据位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息。其中,上述未匹配的各个目标物体信息可以表征前向目标图像中未匹配成功的各个前向目标物体信息和上述目标图像中未匹配成功的各个目标物体信息。
在一些实施例的一些可选的实现方式中,上述执行主体可以通过以下步骤根据位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息:
第一步,响应于确定上述位置匹配结果信息中的第三匹配结果信息集合和第二匹配结果信息集合非空,将所得到的目标物体信息组中对应上述第三匹配结果信息集合的目标物体信息和对应上述第二匹配结果信息集合的前向目标物体信息确定为未匹配的目标物体信息,得到未匹配的各个目标物体信息。
步骤1023,根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息。
在一些实施例中,上述执行主体可以根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息。其中,上述特征匹配结果信息可以为根据物体的特征信息进行匹配的结果。上述特征匹配结果信息可以表征但不限于以下中的一项:前向目标物体信息与目标物体信息匹配成功、前向目标物体信息未匹配成功、目标物体信息未匹配成功。
在一些实施例的一些可选的实现方式中,上述执行主体可以通过以下步骤根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息:
第一步,对所得到的物体信息集合中的每个物体信息进行特征提取处理,得到对应所得到的物体信息集合的各个物体特征信息。实践中,上述执行主体可以将所得到的物体信息集合中的每个物体信息输入至预先训练的特征提取模型,得到对应上述物体信息集合的各个物体特征信息。其中,上述特征提取模型可以为提取图像中物体特征信息的模型。上述各个物体特征信息中的物体特征信息可以包括但不限于以下中的一项:物体的形状、颜色。例如,上述特征提取模型可以为神经网络模型。
第二步,对未匹配的各个目标物体信息中的每个目标物体信息进行特征提取处理,得到各个目标物体特征信息。实践中,上述执行主体可以将未匹配的各个目标物体信息中的每个目标物体信息输入至上述特征提取模型,得到各个物体特征信息作为各个目标物体特征信息。其中,上述各个目标物体特征信息中的目标物体特征信息可以表征上述目标物体信息的特征。上述各个目标物体特征信息中的目标物体特征信息可以包括但不限于以下中的一项:物体的形状、颜色。
第三步,对于所得到的各个目标物体特征信息中的每个目标物体特征信息,执行以下步骤:
第一子步骤,确定所得到的各个物体特征信息中是否存在满足预设特征条件的物体特征信息。其中,上述预设特征条件可以为与上述目标物体特征信息相同的物体特征信息。
第二子步骤,响应于确定所得到的各个物体特征信息中存在满足上述预设特征条件的物体特征信息,将第四预设匹配结果信息确定为对应上述目标物体特征信息的第四匹配结果信息。其中,上述第四匹配结果信息可以为前向目标物体信息与目标物体信息匹配成功。
第三子步骤,将所得到的第四匹配结果信息添加至第四匹配结果信息集合,得到变更第四匹配结果信息集合作为第四匹配结果信息集合。其中,上述第四匹配结果信息集合可以为根据物体特征信息匹配成功的各个匹配结果信息。
第四子步骤,将对应上述目标物体特征信息的目标物体信息从未匹配的各个目标物体信息中删除,以对未匹配的各个目标物体信息进行更新。
第五子步骤,将所得到的各个物体特征信息中满足上述预设特征条件的物体特征信息删除,以对所得到的各个物体特征信息进行更新。
第六子步骤,响应于确定所得到的各个物体特征信息中不存在满足上述预设特征条件的物体特征信息,将第五预设匹配结果信息确定为对应上述目标物体特征信息的第五匹配结果信息。其中,上述第五匹配结果信息可以为前向目标物体信息未匹配成功或目标物体信息未匹配成功。
第七子步骤,将对应上述目标物体特征信息的第五匹配结果信息添加至第五匹配结果信息集合,得到变更第五匹配结果信息集合作为第五匹配结果信息集合。其中,上述第五匹配结果信息集合可以表征根据特征信息未匹配成功的各个第五匹配结果信息。
第四步,将所得到的第五匹配结果信息集合和第四匹配结果信息集合确定为特征匹配结果信息。
步骤1024,对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新。
在一些实施例中,上述执行主体可以对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新。其中,上述状态信息可以表征目标物体的实时状态。例如,上述状态信息可以包括目标物体的位置信息、图像中的目标物体是否仍然存在。实践中,上述执行主体可以根据滤波器对第一匹配结果信息对应的目标物体信息的位置信息进行更新,或将匹配结果信息为第二匹配结果信息对应的前向目标物体信息的状态更新为“物体失踪”,或将第三匹配结果信息对应的目标物体信息作为物体信息添加至物体信息集合中。例如,上述滤波器可以为卡尔曼滤波器。
步骤1025,根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息。
在一些实施例中,上述执行主体可以根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息。实践中,上述执行主体可以通过各种方式根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息。
在一些实施例的一些可选的实现方式中,上述执行主体可以通过以下步骤根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息:
第一步,根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设匹配条件的各个目标物体信息。其中,上述预设匹配条件可以为目标物体信息的位置匹配结果信息表征前向目标物体信息与目标物体信息匹配成功,或目标物体信息的特征匹配结果信息表征前向目标物体信息与目标物体信息匹配成功,或前向目标物体信息的位置匹配结果信息表征前向目标物体信息未匹配成功,或前向目标物体信息的特征匹配结果信息表征前向目标物体信息未匹配成功。实践中,上述执行主体可以从上述位置匹配结果信息对应的各个目标物体信息中选择满足上述预设匹配条件的各个目标物体信息。上述执行主体还可以从上述特征匹配结果信息对应的各个目标物体信息中选择满足上述预设匹配条件的各个目标物体信息。由此,可以得到满足上述预设匹配条件的各个目标物体信息。
第二步,确定对应满足预设匹配条件的各个目标物体信息中的每个目标物体信息的状态信息,得到各个状态信息。实践中,上述执行主体可以根据计算机视觉算法,获取各个目标物体信息中的每个目标物体信息的状态信息,得到各个状态信息。其中,上述计算机视觉算法可以为局部***。上述局部***可以用于在视频中跟踪目标物体的位置和运动。上述各个状体信息中的每个状态信息可以包括但不限于以下中的一项:位置变更信息、历史速度信息、历史交并比信息、物体间位置信息。
第三步,对于所确定的各个状态信息中的每个状态信息,执行以下检验步骤:
第一子步骤,将上述状态信息对应的目标物体信息确定为第一目标物体信息。
第二子步骤,根据上述状态信息包括的位置变更信息,确定对应上述第一目标物体信息的速度信息。其中,上述位置变更信息可以表征上述第一目标物体信息在前向目标图像和目标图像中坐标变更的距离值。上述距离值可以包括第一目标距离值和各个第二目标距离值。上述第一目标距离值可以表征前向目标物体图像中上述第一目标物体中心点与目标图像中上述第一目标物体中心点间的距离差值。第二目标距离差值可以表征前向目标物体图像中上述第一目标物体信息在目标方向的速度分量与目标物体图像中上述第一目标物体信息在上述目标方向的速度分量间的距离差值。上述目标方向可以为但不限于以下中的一项:东方、南方、西方、北方。上述各个第二目标距离值可以表征在东南西北四个方向的各个距离差值。上述速度信息可以表征上述第一目标物体信息中心点的速度以及上述第一目标物体信息在东南西北四个方向的速度分量。实践中,首先,上述执行主体可以确定上述第一目标物体信息坐标的变更信息。然后,可以将前向目标图像和目标图像的间隔时间确定为目标间隔时间。之后,可以将对应上述第一目标物体信息中心点的距离差值与上述目标间隔时间的比值确定为上述第一目标物体信息中心点的速度。接着,可以将对应上述第一目标物体信息在东南西北四个方向的各个距离差值与上述目标间隔时间的各个比值确定为上述第一目标物体信息在东南西北四个方向的速度分量。上述各个距离差值中的距离差值对应上述各个比值中的比值。
第三子步骤,根据上述状态信息包括的物体间位置信息,确定对应上述第一目标物体信息的最大交并比信息。其中,将当前帧图像中与上述第一目标物体信息相异的各个目标物体信息作为各个相异目标物体信息。上述物体间位置信息可以包括上述第一目标物体信息的坐标信息和各个相异目标物体信息的各个坐标信息。上述最大交并比信息可以表征上述第一目标物体信息与各个相异目标物体信息的各个交并比信息中的最大的交并比信息。上述最大交并比信息可以为上述第一目标物体信息的边界框与相异目标物体信息的边界框的交集区域面积和并集区域面积的比值。实践中,首先,上述执行主体可以确定上述第一目标物体信息与每个相异目标物体信息的交并比信息,得到各个交并比信息。然后,可以将所得到的各个交并比信息中最大的交并比信息确定为最大交并比信息。
第四子步骤,根据上述状态信息包括的历史速度信息,确定上述第一目标物体信息的投影角度信息是否满足预设角度值条件。其中,上述历史速度信息可以包括前向目标图像或前向数值帧图像内上述第一目标物体信息的中心点的速度以及上述第一目标物体信息在东南西北四个方向的速度分量。上述投影角度信息可以为上述第一目标物体信息在坐标系上的任意垂直分量上的投影的角度值。上述预设角度值条件可以为上述第一目标物体信息在坐标系上的任意垂直分量上的投影的角度值大于0且小于预设角度值。对于上述预设角度值的数值,在此不做限定。对于前向数值帧图像内的前向数值帧内图像的数量,在此不做限定。例如,第一目标物体信息的坐标系可以为笛卡尔坐标系。实践中,首先,响应于确定上述第一目标物体信息的投影角度信息表征的角度值大于0且小于预设角度值,上述执行主体可以确定上述第一目标物体信息的投影角度信息满足预设角度值条件。然后,响应于确定上述第一目标物体信息的投影角度信息表征的角度值小于0或大于等于上述预设角度值,上述执行主体可以确定上述第一目标物体信息的投影角度信息不满足上述预设角度值条件。
第五子步骤,响应于确定上述第一目标物体信息的投影角度信息满足上述预设角度值条件,确定上述历史速度信息是否满足第一预设历史速度条件。其中,上述第一预设历史速度条件可以为上述历史速度信息中包括的上述第一目标物体信息在东南西北四个方向的速度分量均小于预设速度值。对于上述预设速度值的数值,在此不做限定。
第六子步骤,响应于确定上述历史速度信息满足上述第一预设历史速度条件,将上述第一目标物体信息确定为满足上述预设易错条件的目标物体信息。
第四步,对所确定的各个第一目标物体信息进行阻断处理。实践中,上述执行主体可以在预设时间段内对上述第一目标物体信息的特征信息进行阻断处理,上述阻断处理可以表征将上述第一目标物体信息的状态信息确定为悬挂状态。上述悬挂状态可以表征在预设时间段内上述执行主体无需对上述各个第一目标物体信息进行特征提取,且在上述预设时间段内无需对上述第一目标物体信息进行位置信息匹配处理或特征信息匹配处理。对于上述预设时间段的具体时间段不做限定。
可选地,在上述检验步骤中,首先,上述执行主体还可以响应于确定上述第一目标物体信息的投影角度信息不满足上述预设角度值条件,根据上述状态信息包括的历史速度信息,确定对应上述第一目标物体信息的线段信息是否满足预设交叉条件。其中,上述预设交叉条件可以为上述第一目标物体信息的线段信息与相异目标物体信息的线段信息有交叉点。上述第一目标物体信息的线段信息可以为以前向目标图像中上述第一目标物体信息的中心点为起点,以目标图像中上述第一目标物体信息的中心点为终点的连线。上述相异目标物体信息的线段信息可以为以前向目标图像中上述相异目标物体信息的中心点为起点,以目标图像中上述相异目标物体信息的中心点为终点的连线。
然后,可以根据上述状态信息包括的历史交并比信息,确定对应上述第一目标物体信息的目标交并比信息是否满足预设变更条件。其中,上述历史交并比信息可以包括上述目标图像前的预设数值帧图像中对应上述第一目标物体信息的各个交并比信息和上述目标图像中对应的第一目标物体信息的交并比信息。上述目标交并比信息可以包括上述预设数值帧图像内每个图像中对应上述第一目标物体信息的最大交并比信息。上述预设变更条件可以为预设数值帧图像对应的各个交并比信息中的最大交并比信息与最小交并比信息的差值大于预设交并比差值。对于上述预设交并比差值的具体数值,在此不做限定。上述预设数值帧图像可以为连续的各帧图像。对于预设数值帧图像对应的图像数量,在此不做限定。
之后,可以响应于确定对应上述第一目标物体信息的目标交并比信息满足上述预设变更条件,根据上述状态信息包括的历史速度信息,确定对应上述第一目标物体信息的边缘速度信息是否满足预设边缘速度变化条件。其中,上述边缘速度信息可以为上述第一目标物体信息的任意方向的对向的速度值。例如,任意方向可以为东方,则任意方向的对向可以为西方。上述预设边缘速度变化条件可以为上述第一目标物体信息在预设数值帧图像中的边缘速度信息的变更大于预设速度值。对于上述预设速度值的数值不做具体限定。实践中,首先,上述执行主体可以获取在上述预设数值帧图像中对应上述第一目标物体信息的各个边缘速度信息。然后,可以确定所获取的各个边缘速度信息中最大的边缘速度信息和最小的边缘速度信息的差值是否大于预设速度值。之后,响应于确定最大的边缘速度信息和最小的边缘速度信息的差值大于上述预设速度值,上述执行主体可以确定对应上述第一目标物体信息的边缘速度信息满足上述预设边缘速度变化条件。最后,响应于确定最大的边缘速度信息和最小的边缘速度信息的差值小于或等于上述预设速度值,上述执行主体可以确定对应上述第一目标物体信息的边缘速度信息不满足预设边缘速度变化条件。
接着,可以根据上述状态信息包括的第一目标物体信息的历史交并比信息,确定上述第一目标物体信息的最大交并比信息是否满足预设增大条件。其中,上述最大交并比信息可以为数值最大的交并比信息。上述预设增大条件可以为对应目标图像的最大交并比信息与对应前向目标图像的最大交并比信息的差值大于预设交并比数值。对于上述预设交并比数值的具体数值不做限定。实践中,首先,上述执行主体可以从历史交并比信息中获取对应目标图像的最大交并比信息和对应前向目标图像的最大交并比信息。然后,响应于确定目标图像的最大交并比信息和对应前向目标图像的最大交并比信息的差值大于预设交并比数值,可以确定上述第一目标物体信息的最大交并比信息满足预设增大条件。之后,响应于确定目标图像的最大交并比信息和对应前向目标图像的最大交并比信息的差值小于或等于上述预设交并比数值,可以确定上述第一目标物体信息的最大交并比信息不满足上述预设增大条件。
其次,可以响应于确定上述第一目标物体信息的最大交并比信息满足上述预设增大条件或上述第一目标物体信息的线段信息满足上述预设交叉条件或上述第一目标物体信息的边缘速度信息满足上述预设边缘速度变化条件,将上述第一目标物体信息确定为第一易错目标物体信息。上述预设易错条件可以为上述第一目标物体信息的最大交并比信息满足上述预设增大条件,或上述第一目标物体信息的线段信息满足上述预设交叉条件,或上述第一目标物体信息的边缘速度信息满足上述预设边缘速度变化条件。
然后,可以对所确定的第一易错目标物体信息进行特征提取处理,得到对应所确定的第一易错目标物体信息的物体特征信息。需要说明的是,对所确定的第一易错目标物体信息进行特征提取的方式与对未匹配的各个目标物体信息中的每个目标物体信息进行特征提取处理的方式相同,因此,在此不再赘述。
紧接着,可以将对应所确定的第一易错目标物体信息作为物体信息添加至物体信息集合,得到变更后的物体信息集合作为物体信息集合。由此,可以对上述物体信息集合进行更新,得到更新后的物体信息集合。
最后,可以将所确定的第一易错目标物体信息确定为满足上述预设易错条件的目标物体信息。
可选地,在上述检验步骤中,首先,上述执行主体可以响应于确定上述第一目标物体信息不满足上述预设易错条件,根据上述状态信息中包括的合速度大小信息,确定上述第一目标物体信息是否满足预设合速度条件。其中,上述合速度大小信息可以为上述第一目标物体信息在预设数值帧图像中的各个合速度数值。上述预设合速度条件可以为上述第一目标物体信息的各个合速度数值均小于预设合速度值。对于上述预设合速度值的大小不做具体限定。对于预设数值帧图像中图像的具体数量不做限定。
然后,可以响应于确定上述第一目标物体信息满足上述预设合速度条件,将上述第一目标物体信息确定为满足上述预设静止条件的目标物体信息,以及确定对应上述第一目标物体信息的物体特征信息。其中,上述预设静止条件可以为对应上述第一目标物体信息的各个合速度数值均小于上述预设合速度值。
之后,可以将对应上述第一目标物体信息作为物体信息添加至物体信息集合,得到变更后的物体信息集合作为物体信息集合。
最后,可以响应于检测到预设时间段内上述第一目标物体信息的状态信息满足预设正常匹配条件,对上述第一目标物体信息进行匹配处理。其中,上述预设正常匹配条件可以为在上述预设时间段内上述第一目标物体信息不满足上述预设静止条件。
上述技术方案作为本公开的实施例的一个发明点,解决了背景技术提及的技术问题二“直接对图像中的物体信息进行跟踪,未考虑对图像中的物体信息的状态进行预测及处理,以及未根据处理后的物体信息生成跟踪结果,导致对所有的物体信息进行跟踪耗费的计算资源较多且生成跟踪结果的耗时较长”。导致对所有的物体信息进行跟踪耗费的计算资源较多且生成跟踪结果的耗时较长的原因为直接对图像中的物体信息进行跟踪,未考虑对图像中的物体信息的状态进行预测及处理,以及未根据处理后的物体信息生成跟踪结果。如果解决了上述因素,就能达到减少对所有的物体信息进行跟踪耗费的计算资源以及缩短生成跟踪结果的耗时。为了达到这一效果,本公开根据物体信息的状态信息,对各个物体信息进行预测,以及对满足上述预设易错条件和上述预设静止条件的物体信息进行处理,根据处理后的各个物体信息生成跟踪结果信息,而不是直接根据未处理的物体信息生成跟踪结果信息。因此,减少了对所有的物体信息进行跟踪耗费的计算资源且缩短了生成跟踪结果的耗时。
步骤103,根据满足预设易错条件的目标物体信息、满足预设静止条件的目标物体信息和满足预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。
在一些实施例中,上述执行主体可以根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。其中,上述物体跟踪信息可以表征前向目标图像中的前向目标物体信息组与目标图像中的目标物体信息组的匹配结果。对应所得到的目标物体信息组的物体跟踪信息所表征的匹配结果可以表征但不限于以下中的一项:前向目标物体信息与目标物体信息匹配成功、前向目标物体信息未匹配成功、目标物体信息未匹配成功。例如,物体跟踪信息可以包括目标物体信息组中编码为23的目标物体信息与前向目标物体信息组中编码为23的前向目标物体信息匹配成功。
在一些实施例的一些可选的实现方式中,上述执行主体可以通过以下步骤根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息:
第一步,获取对应前向目标物体图像的前向物体跟踪信息。其中,上述前向物体跟踪信息可以表征上述前向目标物体图像中的前向目标物体信息组与前向目标物体图像的上帧目标物体图像中的上帧目标物体信息组的匹配结果。上述上帧目标物体信息组可以表征上述上帧目标物体图像中的各个物体信息。对应前向目标物体图像的前向物体跟踪信息所表征的匹配结果可以表征但不限于以下中的一项:前向目标物体信息与上帧目标物体信息匹配成功、前向目标物体信息未匹配成功、上帧目标物体信息未匹配成功。例如,前向物体跟踪信息可以包括前向目标物体信息组中编码为29的前向目标物体信息未匹配成功。
第二步,将不满足上述预设易错条件和上述预设静止条件的各个目标物体信息添加至对应前向目标物体信息组的前向物体跟踪信息,得到变更前向物体跟踪信息。其中,上述变更前向物体跟踪信息可以表征目标物体信息组的匹配信息。
第三步,将所得到的变更前向物体跟踪信息确定为对应所得到的目标物体信息组的物体跟踪信息。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的基于态势感知的多模融合目标跟踪方法,减少了计算资源的耗费,提升了生成的物体跟踪信息的准确性。具体来说,造成生成的物体跟踪信息的准确性较低,计算资源耗费的较多的原因在于:仅根据物体的位置信息生成跟踪信息,当图像中的物体之间发生重叠时,对重叠的各个物体进行位置信息检测的难度较大,造成所检测的物***置信息的准确性较低,导致根据物体的位置信息生成的跟踪信息的准确性较低;若对每帧图像进行特征提取,特征提取的次数较多,且若采集图像的光照环境及图像的分辨率较差,提取的特征信息的辨识率较低,造成提取图像特征需要的时间复杂度和空间复杂度较大,导致计算资源耗费较多。基于此,本公开的一些实施例的基于态势感知的多模融合目标跟踪方法,首先,对目标图像进行物体检测,得到目标物体信息组。由此,可以检测到上述目标图像中的各个物体信息。然后,响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:首先,对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息。由此,可以得到前向目标图像中的物体信息和目标物体信息组的位置匹配结果信息。之后,根据上述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息。由此,可以得到未匹配成功的各个目标物体信息,可以用于生成特征匹配结果信息。其次,根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息。由此,可以得到满足特征匹配条件的特征匹配结果。接着,对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新。由此,可以得到各个目标物体信息更新后的状态信息。其次,根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息。由此,可以得到表征满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息,可以用于生成对应目标物体信息组的物体跟踪信息。最后,根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。由此,可以得到上述目标物体信息组与前向目标物体信息组的跟踪结果。也因为是根据位置信息和特征信息生成的跟踪结果,而不是仅根据位置信息生成的跟踪结果,从而提升了生成的跟踪结果的准确性。还因为是对未匹配的各个目标物体信息进行的特征提取处理,并不是对全部的目标物体信息进行特征提取处理,从而减少了特征提取的次数,减少了耗费的计算资源。由此,可以提升生成的物体跟踪信息的准确性,可以减少计算资源的耗费。
进一步参考图2,作为对上述各图所示方法的实现,本公开提供了一种基于态势感知的多模融合目标跟踪方法的一些实施例,这些装置实施例与图1所示的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图2所示,一些实施例的基于态势感知的多模融合目标跟踪生成装置200包括:检测单元201、执行单元202和生成单元203。其中,检测单元201,被配置成对目标图像进行物体检测,得到目标物体信息组;执行单元202,被配置成响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息;根据上述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息;根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息;对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新;根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息;生成单元203,被配置成根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。
可以理解的是,该装置200中记载的诸单元与参考图1描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置200及其中包含的单元,在此不再赘述。
下面参考图3,其示出了适于用来实现本公开的一些实施例的电子设备300(例如计算设备)的结构示意图。图3示出的电子设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图3所示,电子设备300可以包括处理装置301(例如中央处理器、图形处理器等),其可以根据存储在只读存储器(ROM)302中的程序或者从存储装置308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中,还存储有电子设备300操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
通常,以下装置可以连接至I/O接口305:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置306;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307;包括例如磁带、硬盘等的存储装置308;以及通信装置309。通信装置309可以允许电子设备300与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的电子设备300,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图3中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置309从网络上被下载和安装,或者从存储装置308被安装,或者从ROM 302被安装。在该计算机程序被处理装置301执行时,执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是,本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:对目标图像进行物体检测,得到目标物体信息组;响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息;根据上述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息;根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息;对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新;根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息;根据满足上述预设易错条件的目标物体信息、满足上述预设静止条件的目标物体信息和满足上述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:检测单元、执行单元和生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,检测单元还可以被描述为“对目标图像进行物体检测,得到目标物体信息组的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种基于态势感知的多模融合目标跟踪方法,包括:
对目标图像进行物体检测,得到目标物体信息组;
响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:
对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息;
根据所述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息;
根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息;
对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新;
根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息;
根据满足所述预设易错条件的目标物体信息、满足所述预设静止条件的目标物体信息和满足所述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。
2.根据权利要求1所述的方法,其中,所述方法还包括:
响应于确定检测到满足预设变更条件的变更目标图像,对所述变更目标图像进行检测,得到变更目标物体信息组;
将所得到的变更目标物体信息组作为目标物体信息组,再次执行所述匹配步骤。
3.根据权利要求1所述的方法,其中,所述方法还包括:
响应于确定未检测到满足所述预设前向条件的前向目标图像,将所得到的目标物体信息组中的每个目标物体信息作为物体信息添加至所述物体信息集合,得到变更物体信息集合作为物体信息集合。
4.根据权利要求1所述的方法,其中,所述对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息,包括:
将所述目标图像输入至预先训练的物体中心位置信息生成模型,得到对应所得到目标物体信息组的各个第一位置信息;
将对应前向目标物体信息组的前向目标图像输入至所述物体中心位置信息生成模型,得到对应前向目标物体信息组的各个第二位置信息;
对于所得到的目标物体信息组中的每个目标物体信息,执行以下位置匹配步骤:
确定所述目标物体信息对应的第一位置信息;
根据所述第一位置信息,确定所得到的各个第二位置信息中是否存在满足预设位置条件的第二位置信息;
响应于确定所得到的各个第二位置信息中存在满足所述预设位置条件的第二位置信息,将满足所述预设位置条件的第二位置信息确定为目标位置信息;
将所得到的前向目标物体信息组中对应所述目标位置信息的前向目标物体信息确定为目标前向目标物体信息;
将所确定的目标前向目标物体信息和所述目标物体信息输入至预先训练的物体信息匹配模型,得到对应所述目标物体信息和所确定的目标前向目标物体信息的匹配信息;
响应于确定所得到的匹配信息满足预设匹配信息条件,将第一预设匹配结果信息确定为对应所述目标物体信息的第一匹配结果信息;
将所得到的第一匹配结果信息添加至第一匹配结果信息集合,以对第一匹配结果信息集合进行更新;
将所确定的目标前向目标物体信息和所述目标物体信息分别从所得到的前向目标物体信息组和目标物体信息组中删除,得到更新后的前向目标物体信息组和目标物体信息组;
将第二预设匹配结果信息确定为对应更新后的前向目标物体信息组中的每个前向目标物体信息的第二匹配结果信息,得到各个第二匹配结果信息;
将所得到的各个第二匹配结果信息添加至第二匹配结果信息集合,以对第二匹配结果信息集合进行更新;
将第三预设匹配结果信息确定为更新后的目标物体信息中的每个目标物体信息的第三匹配结果信息,得到各个第三匹配结果信息;
将所得到的各个第三匹配结果信息添加至第三匹配结果信息集合,以对第三匹配结果信息集合进行更新;
将所更新的第一匹配结果信息集合、第二匹配结果信息集合和第三匹配结果信息集合确定为位置匹配结果信息。
5.根据权利要求4所述的方法,其中,所述根据所述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息,包括:
响应于确定所述位置匹配结果信息中的第三匹配结果信息集合和第二匹配结果信息集合非空,将所得到的目标物体信息组中对应所述第三匹配结果信息集合的目标物体信息和对应所述第二匹配结果信息集合的前向目标物体信息确定为未匹配的目标物体信息,得到未匹配的各个目标物体信息。
6.根据权利要求1所述的方法,其中,所述根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息,包括:
对所得到的物体信息集合中的每个物体信息进行特征提取处理,得到对应所得到的物体信息集合的各个物体特征信息;
对未匹配的各个目标物体信息中的每个目标物体信息进行特征提取处理,得到各个目标物体特征信息;
对于所得到的各个目标物体特征信息中的每个目标物体特征信息,执行以下步骤:
确定所得到的各个物体特征信息中是否存在满足预设特征条件的物体特征信息;
响应于确定所得到的各个物体特征信息中存在满足所述预设特征条件的物体特征信息,将第四预设匹配结果信息确定为对应所述目标物体特征信息的第四匹配结果信息;
将对应所述目标物体特征信息的第四匹配结果信息添加至第四匹配结果信息集合,得到变更第四匹配结果信息集合作为第四匹配结果信息集合;
将对应所述目标物体特征信息的目标物体信息从未匹配的各个目标物体信息中删除,以对未匹配的各个目标物体信息进行更新;
将所得到的各个物体特征信息中满足所述预设特征条件的物体特征信息删除,以对所得到的各个物体特征信息进行更新;
响应于确定所得到的各个物体特征信息中不存在满足所述预设特征条件的物体特征信息,将第五预设匹配结果信息确定为对应所述目标物体特征信息的第五匹配结果信息;
将对应所述目标物体特征信息的第五匹配结果信息添加至第五匹配结果信息集合,得到变更第五匹配结果信息集合作为第五匹配结果信息集合;
将所得到的第五匹配结果信息集合和第四匹配结果信息集合确定为特征匹配结果信息。
7.根据权利要求1所述的方法,其中,所述根据满足所述预设易错条件的目标物体信息、满足所述预设静止条件的目标物体信息和满足所述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息,包括:
获取对应前向目标物体图像的前向物体跟踪信息;
将不满足所述预设易错条件和所述预设静止条件的各个目标物体信息添加至对应前向目标物体信息组的前向物体跟踪信息,得到变更前向物体跟踪信息;
将所得到的变更前向物体跟踪信息确定为对应所得到的目标物体信息组的物体跟踪信息。
8.一种基于态势感知的多模融合目标跟踪装置,包括:
检测单元,被配置成对目标图像进行物体检测,得到目标物体信息组;
执行单元,被配置成响应于确定检测到满足预设前向条件的前向目标图像,根据所得到的目标物体信息组和对应所检测的前向目标图像的前向目标物体信息组,执行以下匹配步骤:对前向目标物体信息组和所得到的目标物体信息组进行位置匹配,得到位置匹配结果信息;根据所述位置匹配结果信息和所得到的目标物体信息组,确定未匹配的各个目标物体信息;根据物体信息集合,对未匹配的各个目标物体信息进行特征匹配,得到特征匹配结果信息;对所得到的位置匹配结果信息和特征匹配结果信息对应的各个目标物体信息的状态信息进行更新;根据所得到的位置匹配结果信息和特征匹配结果信息,确定满足预设易错条件的目标物体信息和满足预设静止条件的目标物体信息;
生成单元,被配置成根据满足所述预设易错条件的目标物体信息、满足所述预设静止条件的目标物体信息和满足所述预设前向条件的前向目标图像,生成对应所得到的目标物体信息组的物体跟踪信息。
9.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1-7中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310996592.6A CN117197186A (zh) | 2023-08-09 | 2023-08-09 | 基于态势感知的多模融合目标跟踪方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310996592.6A CN117197186A (zh) | 2023-08-09 | 2023-08-09 | 基于态势感知的多模融合目标跟踪方法、装置和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117197186A true CN117197186A (zh) | 2023-12-08 |
Family
ID=88989591
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310996592.6A Pending CN117197186A (zh) | 2023-08-09 | 2023-08-09 | 基于态势感知的多模融合目标跟踪方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117197186A (zh) |
-
2023
- 2023-08-09 CN CN202310996592.6A patent/CN117197186A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108710885B (zh) | 目标对象的检测方法和装置 | |
CN110287810B (zh) | 车门动作检测方法、装置和计算机可读存储介质 | |
CN114993328B (zh) | 车辆定位评估方法、装置、设备和计算机可读介质 | |
CN113050643B (zh) | 无人车路径规划方法、装置、电子设备和计算机可读介质 | |
CN115511779B (zh) | 图像检测方法、装置、电子设备和存储介质 | |
CN114399589A (zh) | 三维车道线生成方法、装置、电子设备和计算机可读介质 | |
CN111797263A (zh) | 图像标签生成方法、装置、设备和计算机可读介质 | |
CN113435393B (zh) | 森林火灾烟雾根节点检测方法、装置和设备 | |
CN117197186A (zh) | 基于态势感知的多模融合目标跟踪方法、装置和电子设备 | |
CN111680754B (zh) | 图像分类方法、装置、电子设备及计算机可读存储介质 | |
CN114579054A (zh) | 一种数据处理方法、装置、电子设备及计算机可读介质 | |
CN114419298A (zh) | 虚拟物体的生成方法、装置、设备及存储介质 | |
CN113297973A (zh) | 关键点检测方法、装置、设备和计算机可读介质 | |
CN113778078A (zh) | 定位信息生成方法、装置、电子设备和计算机可读介质 | |
CN116880726B (zh) | 3d空间的图标交互方法、装置、电子设备和介质 | |
CN116301482B (zh) | 3d空间的窗口显示方法和头戴式显示设备 | |
CN113744259B (zh) | 基于灰度值增加数量序列的森林火灾烟雾检测方法和设备 | |
CN110633707A (zh) | 预测速度的方法和装置 | |
CN115147789B (zh) | 分合流道路信息检测方法、装置、设备和计算机可读介质 | |
CN115900638B (zh) | 障碍物航向角信息生成方法、装置、电子设备和可读介质 | |
CN114359673B (zh) | 基于度量学习的小样本烟雾检测方法、装置和设备 | |
CN111814807B (zh) | 用于处理图像的方法、装置、电子设备和计算机可读介质 | |
CN113469159B (zh) | 障碍物信息生成方法、装置、电子设备和计算机可读介质 | |
CN118229171B (zh) | 电力设备存放区域信息展示方法、装置与电子设备 | |
CN111860209B (zh) | 手部识别方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |