CN115661198A - 基于单阶段目标追踪模型的目标追踪方法、装置及介质 - Google Patents
基于单阶段目标追踪模型的目标追踪方法、装置及介质 Download PDFInfo
- Publication number
- CN115661198A CN115661198A CN202211287178.XA CN202211287178A CN115661198A CN 115661198 A CN115661198 A CN 115661198A CN 202211287178 A CN202211287178 A CN 202211287178A CN 115661198 A CN115661198 A CN 115661198A
- Authority
- CN
- China
- Prior art keywords
- branch
- tracking
- detection
- target
- pedestrian
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
本申请提供一种基于单阶段目标追踪模型的目标追踪方法、装置及介质。该方法包括:获取包含追踪对象的视频数据,将视频数据输入到预定的单阶段目标追踪模型中;利用单阶段目标追踪模型中的特征提取模块对每一帧图像进行处理得到特征图;将特征图输入到检测分支,利用检测分支对追踪对象在图像中的位置进行回归,得到追踪对象对应的目标框;将特征图输入到行人重识别分支,利用行人重识别分支对特征图的低维特征向量进行提取,得到行人重识别低维特征向量;基于追踪对象对应的目标框以及行人重识别低维特征向量,对追踪对象在视频数据中产生的轨迹进行追踪。本申请提升了追踪算法的精度,提升追踪速度,提高追踪的鲁棒性。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种基于单阶段目标追踪模型的目标追踪方法、装置及介质。
背景技术
行人检测是利用计算机视觉技术识别图像或者视频流中是否存在行人并给予精确定位。该技术应用领域广泛,可与行人跟踪、行人重识别等技术结合,能够很好地应用于人工智能***、车辆辅助驾驶***、智能视频监控、人体行为分析、智能交通等现实场景领域。
目前基于行人重识别网络的目标追踪方法中,从视频流中提取每一帧图像,然后将图像输入到行人重识别网络中进行目标检测,根据目标检测的结果确定行人在图像中的位置。当前的目标检测方式主要分为单阶段目标检测方式和两阶段目标检测方式,其中,单阶段目标检测方式的推理时间较短,追踪速度较快,但是追踪精度较低,两阶段目标检测方式虽然具有一定精度,但是两阶段目标检测算法的推理时间较长,降低了目标追踪的速度。
发明内容
有鉴于此,本申请实施例提供了一种基于单阶段目标追踪模型的目标追踪方法、装置及介质,以解决现有技术存在的目标追踪算法推理时间较长,降低目标追踪速度,且追踪精度较低的问题。
本申请实施例的第一方面,提供了一种基于单阶段目标追踪模型的目标追踪方法,包括:获取包含追踪对象的视频数据,将视频数据输入到预定的单阶段目标追踪模型中;利用单阶段目标追踪模型中的特征提取模块对视频数据中的每一帧图像进行处理,得到特征图;将特征图输入到单阶段目标追踪模型中的检测分支,利用检测分支对追踪对象在图像中的位置进行回归,得到追踪对象对应的目标框,其中检测分支采用基于Anchor-Free的检测模块;将特征图输入到单阶段目标追踪模型中的行人重识别分支,利用行人重识别分支对特征图的低维特征向量进行提取,得到行人重识别低维特征向量;基于追踪对象对应的目标框以及行人重识别低维特征向量,对追踪对象在视频数据中产生的轨迹进行追踪。
本申请实施例的第二方面,提供了一种基于单阶段目标追踪模型的目标追踪装置,包括:输入模块,被配置为获取包含追踪对象的视频数据,将视频数据输入到预定的单阶段目标追踪模型中;处理模块,被配置为利用单阶段目标追踪模型中的特征提取模块对视频数据中的每一帧图像进行处理,得到特征图;回归模块,被配置为将特征图输入到单阶段目标追踪模型中的检测分支,利用检测分支对追踪对象在图像中的位置进行回归,得到追踪对象对应的目标框,其中检测分支采用基于Anchor-Free的检测模块;提取模块,被配置为将特征图输入到单阶段目标追踪模型中的行人重识别分支,利用行人重识别分支对特征图的低维特征向量进行提取,得到行人重识别低维特征向量;追踪模块,被配置为基于追踪对象对应的目标框以及行人重识别低维特征向量,对追踪对象在视频数据中产生的轨迹进行追踪。
本申请实施例的第三方面,提供了一种电子设备,包括存储器,处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行程序时实现上述方法的步骤。
本申请实施例的第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述方法的步骤。
本申请实施例采用的上述至少一个技术方案能够达到以下有益效果:
通过获取包含追踪对象的视频数据,将视频数据输入到预定的单阶段目标追踪模型中;利用单阶段目标追踪模型中的特征提取模块对视频数据中的每一帧图像进行处理,得到特征图;将特征图输入到单阶段目标追踪模型中的检测分支,利用检测分支对追踪对象在图像中的位置进行回归,得到追踪对象对应的目标框,其中检测分支采用基于Anchor-Free的检测模块;将特征图输入到单阶段目标追踪模型中的行人重识别分支,利用行人重识别分支对特征图的低维特征向量进行提取,得到行人重识别低维特征向量;基于追踪对象对应的目标框以及行人重识别低维特征向量,对追踪对象在视频数据中产生的轨迹进行追踪。本申请基于Anchor-Free的单阶段目标追踪模型在保证追踪速度的前提下,提升了目标追踪的精度,提高跟踪的鲁棒性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1是本申请实施例提供的单阶段目标追踪模型的结构示意图;
图2是本申请实施例提供的基于单阶段目标追踪模型的目标追踪方法的流程示意图;
图3是本申请实施例提供的利用MixUp增强算法进行数据增强的原理示意图;
图4是本申请实施例提供的基于Anchor-Free的检测分支的结构示意图;
图5是本申请实施例提供的Re-ID分支的结构示意图;
图6是本申请实施例提供的基于单阶段目标追踪模型的目标追踪装置的结构示意图;
图7是本申请实施例提供的电子设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
多目标跟踪(MOT)一直是计算机视觉的一个长期目标,目标是估计视频中多个目标的轨迹,该任务的成功解决将有利于许多应用,如动作识别、运动视频分析、老年护理和人机交互。现存的SOTA方法当中大部分都是采用两阶段目标检测方式(two-step方法)两步走,尽管随着近年来目标检测算法与Re-ID的发展,two-step方法在目标跟踪上有明显的性能提升,但是two-step方法不会共享检测算法与Re-ID的特征图,所以其速度很慢,很难在视频速率下进行推理,因此亟需提供一种快速的目标追踪算法。
当前的目标检测方式主要分为单阶段目标检测方式和两阶段目标检测方式,其中,两阶段目标检测方式虽然具有一定精度,但是两阶段目标检测算法的推理时间较长,降低了目标追踪的速度。随着two-step目标追踪算法的成熟,更多的研究人员开始研究同时检测目标和学习Re-ID特征的one-shot算法,当特征图在目标检测与Re-ID之间共享之后,可以大大的减少推理时间,但在精度上就会比two-step方法低很多,因此需要提供一种既能保证追踪速度,还能保证追踪精度的单阶段目标追踪算法。
有鉴于此,本申请实施例为解决上述问题,提供了一种基于,通过Anchor-Free的单阶段目标追踪算法,首先利用特征提取模块对每一帧图像进行处理,得到特征图,之后将特征图分别输入到检测分支和行人重识别分支,利用检测分支对追踪对象在图像中的位置进行回归,确定追踪对象的目标框,利用行人重识别分支提取特征图中的低维特征向量,最后基于追踪对象对应的目标框以及行人重识别低维特征向量,实现行人的单阶段目标追踪。下面结合附图以及具体实施例对本申请技术方案的内容进行详细描述。
图1是本申请实施例提供的单阶段目标追踪模型的结构示意图,如图1所示,该单阶段目标追踪模型具体可以包括:
本申请实施例的单阶段目标追踪模型包括输入模块Input、特征提取模块Backbone、检测分支Detection Head以及行人重识别分支Re-ID Head;其中,输入模块Input用于将视频数据处理成一系列的图像帧,依次将每一帧图像输入到单阶段目标追踪模型中进行目标检测;特征提取模块Backbone用于从图像中提取特征图,特征提取模块Backbone中***可变形卷积网络DCN;检测分支Detection Head采用基于Anchor-Free的检测模块,用于从特征图中回归追踪对象(比如行人)的具***置,得到追踪对象对应的目标框;行人重识别分支Re-ID Head用于从特征图中提取低维的特征向量,输入Re-ID特征信息(即低维的向量信息)。
下面基于图1所示的单阶段目标追踪模型的结构,对本申请基于单阶段目标追踪模型的目标追踪方法的实现过程进行详细描述。
图2是本申请实施例提供的基于单阶段目标追踪模型的目标追踪方法的流程示意图。图2的基于单阶段目标追踪模型的目标追踪方法可以由服务器执行。如图2所示,该基于单阶段目标追踪模型的目标追踪方法具体可以包括:
S201,获取包含追踪对象的视频数据,将视频数据输入到预定的单阶段目标追踪模型中;
S202,利用单阶段目标追踪模型中的特征提取模块对视频数据中的每一帧图像进行处理,得到特征图;
S203,将特征图输入到单阶段目标追踪模型中的检测分支,利用检测分支对追踪对象在图像中的位置进行回归,得到追踪对象对应的目标框,其中检测分支采用基于Anchor-Free的检测模块;
S204,将特征图输入到单阶段目标追踪模型中的行人重识别分支,利用行人重识别分支对特征图的低维特征向量进行提取,得到行人重识别低维特征向量;
S205,基于追踪对象对应的目标框以及行人重识别低维特征向量,对追踪对象在视频数据中产生的轨迹进行追踪。
具体地,在追踪某个人在一段时间内的轨迹时,往往获取的是一些视频流,将视频流输入到模型中进行检测,但是单阶段目标追踪模型处理的对象是图像,单阶段目标追踪模型实际上是对视频流中每一帧图像进行单独的目标检测处理。因此,本申请实施例既可以获取包含追踪对象的视频数据,也可以直接获取图像数据,将图像数据作为单阶段目标追踪模型的输入。获取输入数据的类型不构成对本申请技术方案的限定。
进一步地,本申请实施例的单阶段目标追踪模型采用基于Anchor-Free的检测分支,相比Anchor-Based目标检测算法,需要在图像中生成大量的检测框,从大量的检测框中选择一个最接近目标位置的框作为检测结果,而利用Anchor-Free可以直接回归出行人在图像中的位置,不需要生成大量的检测框,从而加快了目标检测算法的检测速度。
在一些实施例中,单阶段目标追踪模型的预训练过程包括:获取预先配置的检测数据,利用MixUp增强算法对检测数据进行数据增强,得到新的检测数据,利用新的检测数据对单阶段目标追踪模型中的检测分支进行训练;在训练完检测分支后,利用预先配置的追踪数据对完整的单阶段目标追踪模型进行训练,得到训练后的单阶段目标追踪模型,其中追踪数据中包含目标框以及每个目标框对应的对象标识。
具体地,在使用单阶段目标追踪模型进行目标追踪之前,需要先对单阶段目标追踪模型进行预训练,在预训练过程中,首先利用MixUp增强算法对检测数据进行数据增强,利用数据增强后组成的新的检测数据训练基于Anchor-Free的检测分支,在训练检测分支时,可以先将行人重识别分支从模型中剔除;在训练完检测分支之后,再使用追踪数据训练完整的单阶段目标追踪模型。
需要说明的是,检测数据中可以只包含目标框,而不包含目标框对应的对象标识,而追踪数据中既包含目标框,也包含每个目标框对应的对象标识,这里的对象标识可以认为是行人重识别分支(Re-ID分支)的标签,目标框的对象标识是指该目标框对应哪个追踪对象(比如哪个行人)。
在一些实施例中,利用MixUp增强算法对检测数据进行数据增强,得到新的检测数据,包括:将检测数据中的任意两张原始图像进行融合,以便将两张原始图像融合成一张图像,得到融合后的图像,在融合后的图像中将原始图像中的目标框进行叠加,依据原始图像以及融合后的图像生成新的检测数据。
具体地,MixUp是一种运用在计算机视觉中的对图像进行混类增强的算法,它可以将不同类之间的图像进行混合,从而扩充训练数据集。下面结合附图对MixUp增强算法的实现过程及原理进行说明,图3是本申请实施例提供的利用MixUp增强算法进行数据增强的原理示意图,如图3所示,该利用MixUp增强算法进行数据增强的过程具体可以包括:
在检测分支Detection Head的预训练阶段,为了提高检测算法的性能,本申请实施例使用了MixUp增强算法进行数据增强,该增强算法的原理是将两组图片融合为一组,即将检测数据中的任意两组原始图片进行两两融合,得到新的图片,将得到的新图片作为融合后的新图片,同时原始图片中的目标框也会在新图片中进行叠加,最后将原始图片以及融合后的新图片共同生成新的检测数据,利用新的检测数据对检测分支Detection Head进行训练。
在一些实施例中,特征提取模块中***有可变形卷积网络,可变形卷积网络采用ResNet34残差网络,ResNet34残差网络中的stem阶段设有2个3×3卷积层,将原始残差模块中的残差分支前两个卷积层的步长进行交换,并将原始短路分支中步长为2的1×1卷积层替换为步长为2的平均池化层和1×1卷积层。
具体地,本申请实施例的特征提取模块Backbone中***有可变形卷积网络DCN,在实际应用中,可变形卷积网络DCN可采用ResNet34网络,相比现有的ResNet34网络,本申请对原始的ResNet34网络作了以下改进:
在特征提取阶段,为了提取更加丰富的特征,本申请实施例对原始的ResNet34网络进行了改进,原始ResNet Backbone中的stem阶段包含一个7×7并且stride(步长)为2的卷积层,由于卷积的计算量是长宽的二次方,7×7的卷积比3×3的卷积计算量大5.4倍,因此本申请实施例将这里的7×7的卷积核替换为三个传统的3×3卷积核,从而降低卷积计算量,同时保持和7×7卷积核相同的感受野;接着本申请实施例将残差模块中残差分支前两个卷积层的stride进行交换,避免stride为2的1×1卷积造成信息损失,同样地将短路分支中stride为2的1×1卷积换成stride为2的average pooling(平均池化层)和1×1卷积,这样可以进一步减少在残差模块中对特征图造成信息损失。
在一些实施例中,检测分支中包含热图分支、中心偏移分支和框分支,热图分支、中心偏移分支和框分支均由2个3×3卷积层和1个1×1卷积层构成;其中,热图分支用于输出尺寸为(1,H,W)的热图,中心偏移分支用于输出尺寸为(2,H,W)的中心偏移量,框分支用于输出尺寸为(2,H,W)的框坐标。
具体地,目前基于Anchor-Based的追踪器会同时提取检测框和检测框内物体的Re-ID信息(低维的向量信息)。而基于Anchor-Based检测器产生出来的anchor并不适合去学***的学习Re-ID分支。鉴于现有的基于Anchor-Based的追踪器存在的问题,本申请实施例提供一种基于Anchor-Free的检测分支。
下面结合附图对本申请实施例提供的基于Anchor-Free的检测分支的结构进行说明,图4是本申请实施例提供的基于Anchor-Free的检测分支的结构示意图,如图4所示,该基于Anchor-Free的检测分支具体可以包括:
检测分支结构中包含以下三个分支,分别为热图分支、中心偏移分支和框分支,每个分支均由2个3x3卷积层和1个1x1卷积层构成,热图分支输出尺寸为(1,H,W),中心偏移分支输出尺寸为(2,H,W),框分支输出尺寸为(2,H,W),其中H为高度,W为宽度。
在一些实施例中,利用检测分支对追踪对象在图像中的位置进行回归,得到追踪对象对应的目标框,包括:基于热图、中心偏移量以及框坐标对追踪对象在图像中的位置进行回归,得到追踪对象在图像中对应的目标框,并确定目标框在图像中的位置。
具体地,基于Anchor-Free的检测分支的输出中包含三种数据,即热图、中心偏移量和框坐标,基于这三种数据,基于Anchor-Free的检测分支可以回归出追踪对象(比如行人)在图像中的具***置(即目标框的位置),从而准确判断行人在图像中的位置。
在一些实施例中,行人重识别分支采用Re-ID分支,Re-ID分支中包含2个3×3卷积层和1个1×1卷积层,Re-ID分支输出尺寸为(128,H,W)的低维特征向量。
具体地,行人重识别分支(Re-ID分支)用于高效提取低维特征向量,Re-ID任务中输出的特征向量通常维度较高,而训练高维Re-ID特征需要大量的训练数据,这对于one-shot跟踪算法是不可用的。之前的two-step方法较少受到这个问题的影响,因为它们可以利用丰富的reid数据集,这些数据集提供裁剪的人体。但是one-shot跟踪算法不能使用它们,因为需要原始的未裁剪的图像。一种解决方案是通过降低reid特征的维数来减少其对数据的依赖。所以采用更低维度的特征向量对one-shot更友好,学习更低维度的特征向量可以降低过拟合的风险,提高跟踪的鲁棒性。
下面结合附图对本申请实施例提供的Re-ID分支的结构进行说明,图5是本申请实施例提供的Re-ID分支的结构示意图,如图5所示,该Re-ID分支具体可以包括:
Re-ID分支包含一个分支,该分支包含2个3×3卷积层和1个1×1卷积层构成,其输出尺寸为(128,H,W),其中H为高度,W为宽度,在实际应用中,Re-ID分支的输出为低维的特征向量。
根据本申请实施例提供的技术方案,本申请提出了一种基于Anchor-Free的单阶段目标追踪算法,该算法可以保证追踪速度和追踪精度;本申请在传统特征提取模块Backbone的基础上进行了改进,同时引入了DCN来提取更加充分的信息,该信息有利于后续Re-ID分支的学习;另外,本申请在单阶段目标追踪模型的结构中设计了一种基于Anchor-Free的检测分支和高效的Re-ID分支,达到在保证追踪速度的前提下,提升追踪精度,提高追踪的鲁棒性的效果。
下述为本申请装置实施例,可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节,请参照本申请方法实施例。
图6是本申请实施例提供的基于单阶段目标追踪模型的目标追踪装置的结构示意图。如图6所示,该基于单阶段目标追踪模型的目标追踪装置包括:
输入模块601,被配置为获取包含追踪对象的视频数据,将视频数据输入到预定的单阶段目标追踪模型中;
处理模块602,被配置为利用单阶段目标追踪模型中的特征提取模块对视频数据中的每一帧图像进行处理,得到特征图;
回归模块603,被配置为将特征图输入到单阶段目标追踪模型中的检测分支,利用检测分支对追踪对象在图像中的位置进行回归,得到追踪对象对应的目标框,其中检测分支采用基于Anchor-Free的检测模块;
提取模块604,被配置为将特征图输入到单阶段目标追踪模型中的行人重识别分支,利用行人重识别分支对特征图的低维特征向量进行提取,得到行人重识别低维特征向量;
追踪模块605,被配置为基于追踪对象对应的目标框以及行人重识别低维特征向量,对追踪对象在视频数据中产生的轨迹进行追踪。
在一些实施例中,图6的预训练模块606获取预先配置的检测数据,利用MixUp增强算法对检测数据进行数据增强,得到新的检测数据,利用新的检测数据对单阶段目标追踪模型中的检测分支进行训练;在训练完检测分支后,利用预先配置的追踪数据对完整的单阶段目标追踪模型进行训练,得到训练后的单阶段目标追踪模型,其中追踪数据中包含目标框以及每个目标框对应的对象标识。
在一些实施例中,图6的预训练模块606将检测数据中的任意两张原始图像进行融合,以便将两张原始图像融合成一张图像,得到融合后的图像,在融合后的图像中将原始图像中的目标框进行叠加,依据原始图像以及融合后的图像生成新的检测数据。
在一些实施例中,特征提取模块中***有可变形卷积网络,可变形卷积网络采用ResNet34残差网络,ResNet34残差网络中的stem阶段设有2个3×3卷积层,将原始残差模块中的残差分支前两个卷积层的步长进行交换,并将原始短路分支中步长为2的1×1卷积层替换为步长为2的平均池化层和1×1卷积层。
在一些实施例中,检测分支中包含热图分支、中心偏移分支和框分支,热图分支、中心偏移分支和框分支均由2个3×3卷积层和1个1×1卷积层构成;其中,热图分支用于输出尺寸为(1,H,W)的热图,中心偏移分支用于输出尺寸为(2,H,W)的中心偏移量,框分支用于输出尺寸为(2,H,W)的框坐标。
在一些实施例中,图6的回归模块603基于热图、中心偏移量以及框坐标对追踪对象在图像中的位置进行回归,得到追踪对象在图像中对应的目标框,并确定目标框在图像中的位置。
在一些实施例中,行人重识别分支采用Re-ID分支,Re-ID分支中包含2个3×3卷积层和1个1×1卷积层,Re-ID分支输出尺寸为(128,H,W)的低维特征向量。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
图7是本申请实施例提供的电子设备7的结构示意图。如图7所示,该实施例的电子设备7包括:处理器701、存储器702以及存储在该存储器702中并且可以在处理器701上运行的计算机程序703。处理器701执行计算机程序703时实现上述各个方法实施例中的步骤。或者,处理器701执行计算机程序703时实现上述各装置实施例中各模块/单元的功能。
示例性地,计算机程序703可以被分割成一个或多个模块/单元,一个或多个模块/单元被存储在存储器702中,并由处理器701执行,以完成本申请。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序703在电子设备7中的执行过程。
电子设备7可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备7可以包括但不仅限于处理器701和存储器702。本领域技术人员可以理解,图7仅仅是电子设备7的示例,并不构成对电子设备7的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如,电子设备还可以包括输入输出设备、网络接入设备、总线等。
处理器701可以是中央处理单元(Central Processing Unit,CPU),也可以是其它通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器702可以是电子设备7的内部存储单元,例如,电子设备7的硬盘或内存。存储器702也可以是电子设备7的外部存储设备,例如,电子设备7上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器702还可以既包括电子设备7的内部存储单元也包括外部存储设备。存储器702用于存储计算机程序以及电子设备所需的其它程序和数据。存储器702还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,计算机程序可以存储在计算机可读存储介质中,该计算机程序在被处理器执行时,可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是,计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如,在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种基于单阶段目标追踪模型的目标追踪方法,其特征在于,包括:
获取包含追踪对象的视频数据,将所述视频数据输入到预定的单阶段目标追踪模型中;
利用所述单阶段目标追踪模型中的特征提取模块对所述视频数据中的每一帧图像进行处理,得到特征图;
将所述特征图输入到所述单阶段目标追踪模型中的检测分支,利用所述检测分支对所述追踪对象在图像中的位置进行回归,得到所述追踪对象对应的目标框,其中所述检测分支采用基于Anchor-Free的检测模块;
将所述特征图输入到所述单阶段目标追踪模型中的行人重识别分支,利用所述行人重识别分支对所述特征图的低维特征向量进行提取,得到行人重识别低维特征向量;
基于所述追踪对象对应的目标框以及所述行人重识别低维特征向量,对所述追踪对象在视频数据中产生的轨迹进行追踪。
2.根据权利要求1所述的方法,其特征在于,所述单阶段目标追踪模型的预训练过程包括:
获取预先配置的检测数据,利用MixUp增强算法对所述检测数据进行数据增强,得到新的检测数据,利用所述新的检测数据对所述单阶段目标追踪模型中的检测分支进行训练;
在训练完所述检测分支后,利用预先配置的追踪数据对完整的所述单阶段目标追踪模型进行训练,得到训练后的单阶段目标追踪模型,其中所述追踪数据中包含目标框以及每个目标框对应的对象标识。
3.根据权利要求2所述的方法,其特征在于,所述利用MixUp增强算法对所述检测数据进行数据增强,得到新的检测数据,包括:
将所述检测数据中的任意两张原始图像进行融合,以便将两张原始图像融合成一张图像,得到融合后的图像,在所述融合后的图像中将所述原始图像中的目标框进行叠加,依据所述原始图像以及所述融合后的图像生成所述新的检测数据。
4.根据权利要求1所述的方法,其特征在于,所述特征提取模块中***有可变形卷积网络,所述可变形卷积网络采用ResNet34残差网络,所述ResNet34残差网络中的stem阶段设有2个3×3卷积层,将原始残差模块中的残差分支前两个卷积层的步长进行交换,并将原始短路分支中步长为2的1×1卷积层替换为步长为2的平均池化层和1×1卷积层。
5.根据权利要求1所述的方法,其特征在于,所述检测分支中包含热图分支、中心偏移分支和框分支,所述热图分支、所述中心偏移分支和所述框分支均由2个3×3卷积层和1个1×1卷积层构成;
其中,所述热图分支用于输出尺寸为(1,H,W)的热图,所述中心偏移分支用于输出尺寸为(2,H,W)的中心偏移量,所述框分支用于输出尺寸为(2,H,W)的框坐标。
6.根据权利要求5述的方法,其特征在于,所述利用所述检测分支对所述追踪对象在图像中的位置进行回归,得到所述追踪对象对应的目标框,包括:
基于所述热图、所述中心偏移量以及所述框坐标对所述追踪对象在图像中的位置进行回归,得到所述追踪对象在所述图像中对应的目标框,并确定所述目标框在所述图像中的位置。
7.据权利要求1所述的方法,其特征在于,所述行人重识别分支采用Re-ID分支,所述Re-ID分支中包含2个3×3卷积层和1个1×1卷积层,所述Re-ID分支输出尺寸为(128,H,W)的低维特征向量。
8.一种基于单阶段目标追踪模型的目标追踪装置,其特征在于,包括:
输入模块,被配置为获取包含追踪对象的视频数据,将所述视频数据输入到预定的单阶段目标追踪模型中;
处理模块,被配置为利用所述单阶段目标追踪模型中的特征提取模块对所述视频数据中的每一帧图像进行处理,得到特征图;
回归模块,被配置为将所述特征图输入到所述单阶段目标追踪模型中的检测分支,利用所述检测分支对所述追踪对象在图像中的位置进行回归,得到所述追踪对象对应的目标框,其中所述检测分支采用基于Anchor-Free的检测模块;
提取模块,被配置为将所述特征图输入到所述单阶段目标追踪模型中的行人重识别分支,利用所述行人重识别分支对所述特征图的低维特征向量进行提取,得到行人重识别低维特征向量;
追踪模块,被配置为基于所述追踪对象对应的目标框以及所述行人重识别低维特征向量,对所述追踪对象在视频数据中产生的轨迹进行追踪。
9.一种电子设备,包括存储器,处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211287178.XA CN115661198A (zh) | 2022-10-20 | 2022-10-20 | 基于单阶段目标追踪模型的目标追踪方法、装置及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211287178.XA CN115661198A (zh) | 2022-10-20 | 2022-10-20 | 基于单阶段目标追踪模型的目标追踪方法、装置及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115661198A true CN115661198A (zh) | 2023-01-31 |
Family
ID=84990275
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211287178.XA Pending CN115661198A (zh) | 2022-10-20 | 2022-10-20 | 基于单阶段目标追踪模型的目标追踪方法、装置及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115661198A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116935167A (zh) * | 2023-09-12 | 2023-10-24 | 深圳须弥云图空间科技有限公司 | 目标追踪模型的训练方法及装置 |
-
2022
- 2022-10-20 CN CN202211287178.XA patent/CN115661198A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116935167A (zh) * | 2023-09-12 | 2023-10-24 | 深圳须弥云图空间科技有限公司 | 目标追踪模型的训练方法及装置 |
CN116935167B (zh) * | 2023-09-12 | 2024-05-10 | 深圳须弥云图空间科技有限公司 | 目标追踪模型的训练方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Lim et al. | Learning multi-scale features for foreground segmentation | |
Li et al. | Deep neural network for structural prediction and lane detection in traffic scene | |
Ramesh et al. | Dart: distribution aware retinal transform for event-based cameras | |
Han et al. | Yolopv2: Better, faster, stronger for panoptic driving perception | |
Yang et al. | Small object augmentation of urban scenes for real-time semantic segmentation | |
US20190205758A1 (en) | Gland segmentation with deeply-supervised multi-level deconvolution networks | |
CN112200111A (zh) | 一种全局与局部特征融合的遮挡鲁棒行人重识别方法 | |
CN110555387B (zh) | 骨架序列中基于局部关节点轨迹时空卷的行为识别方法 | |
Cao et al. | Rapid detection of blind roads and crosswalks by using a lightweight semantic segmentation network | |
Zhang et al. | Deep learning in lane marking detection: A survey | |
US11062455B2 (en) | Data filtering of image stacks and video streams | |
Tang et al. | Integrated feature pyramid network with feature aggregation for traffic sign detection | |
WO2024001123A1 (zh) | 基于神经网络模型的图像识别方法、装置及终端设备 | |
Chen et al. | An attention based YOLOv5 network for small traffic sign recognition | |
CN115546840A (zh) | 基于半监督知识蒸馏的行人重识别模型训练方法及装置 | |
CN115661198A (zh) | 基于单阶段目标追踪模型的目标追踪方法、装置及介质 | |
Jiang et al. | Unexpected dynamic obstacle monocular detection in the driver view | |
CN114359554A (zh) | 一种基于多感受野上下文语义信息的图像语义分割方法 | |
Ding et al. | Object detection method based on lightweight YOLOv4 and attention mechanism in security scenes | |
Huang et al. | CATFPN: Adaptive feature pyramid with scale-wise concatenation and self-attention | |
Qiu et al. | MFIALane: Multiscale feature information aggregator network for lane detection | |
Jin et al. | Auxiliary detection head for one-stage object detection | |
Yao et al. | DevNet: Deviation aware network for lane detection | |
Wang et al. | Summary of object detection based on convolutional neural network | |
Hassan et al. | Enhanced dynamic sign language recognition using slowfast networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |