CN111563438B - 一种用于视频结构化的目标排重方法和装置 - Google Patents
一种用于视频结构化的目标排重方法和装置 Download PDFInfo
- Publication number
- CN111563438B CN111563438B CN202010351089.1A CN202010351089A CN111563438B CN 111563438 B CN111563438 B CN 111563438B CN 202010351089 A CN202010351089 A CN 202010351089A CN 111563438 B CN111563438 B CN 111563438B
- Authority
- CN
- China
- Prior art keywords
- position information
- tracker
- target
- matched
- kalman
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
- G06V20/42—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/277—Analysis of motion involving stochastic approaches, e.g. using Kalman filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种用于视频结构化的目标排重方法和装置,通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。通过本发明可以对目标进行跟踪,有效提高算法的性能,提高计算速度。
Description
技术领域
本发明涉及视频结构化领域,具体涉及一种用于视频结构化的目标排重方法和装置。
背景技术
视频结构化是一种视频内容信息提取的技术,它对视频内容按照语义关系,采用时空分割、特征提取、对象识别等处理手段,组织成可供计算机和人理解的文本信息的技术。从数据处理的流程看,视频结构化描述技术能够将监控视频转化为人和机器可理解的信息,并进一步转化为有用的情报,实现视频数据向信息、情报的转化。
视频结构化技术是计算机视觉研究领域的热点之一。视频结构化主要可以分为以下两个目的:1、对视频中的行人和车辆进行相关属性检测,包括目标识别、特征识别或行为描述等;2、运动目标的轨迹分析,可以将同一视频中每一个行人和每一辆车只保留一张图片,即行人、车辆排重。
针对目标排重,现在主流的算法是通过对比前后两帧图片中行人和车辆的相似度来进行排重。而由于目标的外观基本一样,所以现有的相似度算法很难区分,这就可能造成目标在同一段视频中结构化多次,因此导致视频结构化处理重复性高,计算量大,影响算法的性能。
针对现有的视频结构化算法存在同一目标输出多次的情况,本申请提出一种改进的用于视频结构化的目标排重方法和装置是具有重要意义的。
发明内容
针对上述提到的现有视频结构化算法存在同一目标输出多次,造成算法性能低、计算速度慢等问题。本申请的实施例的目的在于提出了一种用于视频结构化的目标排重方法和装置,来解决以上背景技术部分提到的技术问题。
第一方面,本申请的实施例提供了一种用于视频结构化的目标排重方法,包括以下步骤:
S1:通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;
S2:将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;
S3:根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;
S4:将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及
S5:根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。
以上首先对目标进行跟踪,用没有跟踪到的卡尔曼滤波器所对应的先前位置信息再来预测新的目标的位置信息,通过两次匹配对目标的位置信息进行处理,可以有效减少处理量,提高算法的计算速度。
在一些实施例中,步骤S2中若第一位置信息是从视频中的第一帧中获取的,则直接生成目标对应的卡尔曼***,并保存第一位置信息。视频中的第一帧不用进行匹配,直接生成目标对应的卡尔曼***并保存对应的位置信息。
在一些实施例中,步骤S3具体包括:
S31:对第一次匹配结果中成功匹配的第一位置信息,将与其匹配的卡尔曼***和第一位置信息进行更新;
S32:对第一次匹配结果中未被匹配上的第一位置信息,初始化一个卡尔曼***,并保存卡尔曼***;
S33:对第一次匹配结果中第一次未被匹配上的卡尔曼***,先判断对应的目标是否存在KCF***,若不存在KCF***,则利用当前帧的前一帧的第一位置信息初始化一个KCF***,并通过KCF***预测当前帧的目标的第二位置信息,若存在KCF***,则直接利用KCF***预测当前帧的目标的第二位置信息。
卡尔曼***和KCF***属于同一个目标信息,一个目标一定存在卡尔曼***,但不一定会有KCF***,因此需要对未被匹配上的卡尔曼***所对应的目标进一步判断是否存在KCF***,以进行进一步的跟踪和预测。
在一些实施例中,步骤S5具体包括:
S51:根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,对匹配成功的第二位置信息进行保存,对第二次未被匹配上的卡尔曼***设置丢失标记,其中第二次未被匹配上的卡尔曼***为第二次匹配结果中未被匹配上的第一次未被匹配上的卡尔曼***;
S52:判断deepsort网络中的卡尔曼***是否有丢失标记以输出目标排重后的位置信息。
通过对第二次未被匹配上的卡尔曼***设置丢失标记以进行排重,获得同一目标下在一个视频下尽可能保留一张图片,将最后一次跟踪上的目标的位置信息作为目标排重后的位置信息。
在一些实施例中,步骤S51包括具体包括:
S511:对第二次匹配结果中成功匹配的第二位置信息,deepsort网络将与其匹配的卡尔曼***进行更新并保存第二位置信息;
S512:对第二次匹配结果中第二次未被匹配上的卡尔曼***设置丢失标记;
S513:对第二次匹配结果中未被匹配上的第二位置信息不进行任何处理。
第二次未匹配上的卡尔曼***说明第一次未匹配上的卡尔曼***与经过KCF***预测的第二位置信息进行匹配后仍未被匹配上,此时第二次未匹配上的卡尔曼***保留的可能是目标丢失前的目标位置信息。
在一些实施例中,步骤S52具体包括:
S521:对deepsort网络中的卡尔曼***进行判断,若卡尔曼***带有丢失标记且连续丢失帧数大于设定阈值,则删除卡尔曼***和KCF***并输出卡尔曼***对应保存的位置信息,若卡尔曼***未带有丢失标记则不进行任何操作;
S522:判断当前帧是否是视频的最后一帧,若是则结束,否则循环步骤S1-S5。
卡尔曼***中带有丢失标记且连续丢失帧数超过设定阈值,可以直接将卡尔曼***对应保存最后的位置信息作为目标排重后的位置信息,因此输出目标排重后的位置信息,可以减少计算量,提高计算速度。
在一些实施例中,目标排重后的位置信息包括步骤S521中输出的卡尔曼***对应保存的位置信息。此时目标排重后的位置信息为最后一次追踪上的目标的位置信息。
在一些实施例中,目标检测算法包括yolo目标检测算法。通过yolo目标检测算法可以很方便地检测出当前帧中的目标的位置信息。
在一些实施例中,目标包括车辆、人或船。目标可以不受限制,在视频结构化处理技术中应用广泛。
在第二方面,本申请还提出了一种用于视频结构化的目标排重装置,包括:
目标检测模块,被配置为通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;
第一次匹配模块,被配置为将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;
第一次处理模块,被配置为根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;
第二次匹配模块,被配置为将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及
第二次处理模块,被配置为根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。
在第三方面,本申请还提出了一种计算机存储介质,其上存储有计算机程序,计算机程序被计算机执行时实现第一方面提到的步骤。
本发明提出了一种用于视频结构化的目标排重方法和装置,通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。通过卡尔曼***进行目标跟踪匹配,再通过与KCF***预测的位置信息进行再一次跟踪匹配,进一步对目标进行排重,以获得最后一次跟踪上的目标的位置信息。通过本发明可以对目标进行跟踪,有效提高算法的性能,减少不必要的计算,使目标排重后得到最后跟踪上的一张图片。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请的一个实施例可以应用于其中的示例性装置架构图;
图2为本发明的实施例的用于视频结构化的目标排重方法的流程示意图;
图3为本发明的实施例的用于视频结构化的目标排重方法的步骤S3的流程示意图;
图4为本发明的实施例的用于视频结构化的目标排重方法的步骤S5的流程示意图;
图5为本发明的实施例的用于视频结构化的目标排重方法的步骤S51的流程示意图;
图6为本发明的实施例的用于视频结构化的目标排重方法的步骤S52的流程示意图;
图7为本发明的实施例的用于视频结构化的目标排重装置的示意图;
图8是适于用来实现本申请实施例的电子设备的计算机装置的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
图1示出了可以应用本申请实施例的用于视频结构化的目标排重方法或用于视频结构化的目标排重装置的示例性装置架构100。
如图1所示,装置架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种应用,例如数据处理类应用、文件处理类应用等。
终端设备101、102、103可以是硬件,也可以是软件。当终端设备101、102、103为硬件时,可以是各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上传的文件或数据进行处理的后台数据处理服务器。后台数据处理服务器可以对获取的文件或数据进行处理,生成处理结果。
需要说明的是,本申请实施例所提供的用于视频结构化的目标排重方法可以由服务器105执行,也可以由终端设备101、102、103执行,相应地,用于视频结构化的目标排重装置可以设置于服务器105中,也可以设置于终端设备101、102、103中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。在所处理的数据不需要从远程获取的情况下,上述装置架构可以不包括网络,而只需服务器或终端设备。
图2示出了本申请的实施例公开的一种用于视频结构化的目标排重方法,包括以下步骤:
S1:通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;
S2:将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;
S3:根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;
S4:将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及
S5:根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。
以上首先对目标进行跟踪,通过两次匹配对目标的位置信息进行处理,可以有效减少处理量,提高算法的计算速度。在具体的实施例中,目标包括车辆、人或船。目标可以不受限制,在视频结构化处理技术中应用广泛。在本申请的实施例中采用车辆进行举例。针对现有车辆相似度算法存在同一目标输出多次的情况,采用目标跟踪算法进行视频结构化中的车辆排重。
本发明的方法从视频的第一帧开始读取,通过目标检测算法检测当前帧中的车辆的第一位置信息,在优选的实施例中,目标检测算法包括yolo目标检测算法。在其他可选的实施例中,还可以选择其他目标检测算法进行对当前帧的目标的第一位置信息进行检测。
将步骤S1中检测到的车辆的第一位置信息传入deepsort网络并与deepsort网络中现有的卡尔曼***进行匹配。在具体的实施例中,若第一位置信息是从视频中的第一帧中获取的,则直接生成目标对应的卡尔曼***,并保存第一位置信息。视频中的第一帧不用进行匹配,直接生成目标对应的卡尔曼***并保存对应的位置信息。最后得到第一次匹配的结果,存在以下三种匹配结果:1、第一位置信息和卡尔曼***成功匹配;2、第一位置信息未被匹配上;3、卡尔曼***未被匹配上。然后针对这三种匹配结果有3种处理方式。
在具体的实施例中,如图3所示,步骤S3具体包括:
S31:对第一次匹配结果中成功匹配的第一位置信息,将与其匹配的卡尔曼***和第一位置信息进行更新;
S32:对第一次匹配结果中未被匹配上的第一位置信息,初始化一个卡尔曼***,并保存卡尔曼***;
S33:对第一次匹配结果中第一次未被匹配上的卡尔曼***,先判断对应的目标是否存在KCF***,若不存在KCF***,则利用当前帧的前一帧的第一位置信息初始化一个KCF***,并通过KCF***预测当前帧的目标的第二位置信息,若存在KCF***,则直接利用KCF***预测当前帧的目标的第二位置信息。
对第一次匹配结果中成功匹配的第一位置信息,将对应的卡尔曼***以及车辆的位置信息进行更新,此时说明目标已经跟踪上,因此对卡尔曼***进行更新。对于第一次匹配结果中未被匹配上的第一位置信息,认为是新目标进入视野,因此初始化一个对应的卡尔曼***进行跟踪,并保存对应的车辆的第一位置信息。对于第一次匹配结果中第一次未被匹配上的卡尔曼***,说明此时可能目标已经丢失,需要进一步进行判断,由于卡尔曼***和KCF***属于同一个目标信息,一个目标一定存在卡尔曼***,但不一定会有KCF***,因此需要对未被匹配上的卡尔曼***所对应的目标进一步判断是否存在KCF***,以进行进一步的跟踪和预测。KCF***可以由卡尔曼***里保存的信息生成。因此用没有跟踪到的卡尔曼滤波器所对应的先前位置信息再来预测新的目标的位置信息,进一步判断卡尔曼***所对应的目标是否已经丢失。
在具体的实施例中,如图4所示,步骤S5具体包括:
S51:根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,对匹配成功的第二位置信息进行保存,对第二次未被匹配上的卡尔曼***设置丢失标记,其中第二次未被匹配上的卡尔曼***为第二次匹配结果中未被匹配上的第一次未被匹配上的卡尔曼***;
S52:判断deepsort网络中的卡尔曼***是否有丢失标记以输出目标排重后的位置信息。
在具体的实施例中,如图5所示,步骤S51包括具体包括:
S511:对第二次匹配结果中成功匹配的第二位置信息,deepsort网络将与其匹配的卡尔曼***进行更新并保存第二位置信息;
S512:对第二次匹配结果中第二次未被匹配上的卡尔曼***设置丢失标记;
S513:对第二次匹配结果中未被匹配上的第二位置信息不进行任何处理。
在一些实施例中,如图6所示,步骤S52具体包括:
S521:对deepsort网络中的卡尔曼***进行判断,若卡尔曼***带有丢失标记且连续丢失帧数大于设定阈值,则删除卡尔曼***和KCF***并输出卡尔曼***对应保存的位置信息,若卡尔曼***未带有丢失标记则不进行任何操作;
S522:判断当前帧是否是视频的最后一帧,若是则结束,否则循环步骤S1-S5。
通过对第二次未被匹配上的卡尔曼***设置丢失标记以进行排重,获得同一目标下在一个视频下尽可能保留一张图片,将最后一次跟踪上的车辆的位置信息作为目标排重后的位置信息。第二次未被匹配上的卡尔曼***说明第一次未被匹配上的卡尔曼***与经过KCF***预测的第二位置信息进行匹配后仍未被匹配上,此时第二次未被匹配上的卡尔曼***保留的可能为目标丢失之前的目标位置信息。因此将第二次未被匹配上的卡尔曼***带上丢失标记。卡尔曼***中带有丢失标记且连续丢失帧数超过设定阈值,可以直接将卡尔曼***对应保存最后的位置信息作为目标排重后的位置信息,因此可以输出设定为目标排重后的位置信息。在具体的实施例中,目标排重后的位置信息包括步骤S521中输出的卡尔曼***对应保存的位置信息。此时目标排重后的位置信息为最后一次追踪上的目标的位置信息。因此通过本发明可以有效减少计算量,提高计算速度。
与上述的实施例中提到的一种用于视频结构化的目标排重方法相对应,本申请的实施例中还提出了一种用于视频结构化的目标排重装置,如图7所示,包括:
目标检测模块1,被配置为通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;
第一次匹配模块2,被配置为将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;
第一次处理模块3,被配置为根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;
第二次匹配模块4,被配置为将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及
第二次处理模块5,被配置为根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。
本发明提出了一种用于视频结构化的目标排重方法和装置,通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。通过卡尔曼***进行目标跟踪匹配,再通过与KCF***预测的位置信息进行再一次跟踪匹配,进一步对目标进行排重,以获得最后一次跟踪上的目标的位置信息。通过本发明可以对目标进行跟踪,有效提高算法的性能,减少不必要的计算,使目标排重后得到最后跟踪上的一张图片。
下面参考图8,其示出了适于用来实现本申请实施例的电子设备(例如图1所示的服务器或终端设备)的计算机装置800的结构示意图。图8示出的电子设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图8所示,计算机装置800包括中央处理单元(CPU)801和图形处理器(GPU)802,其可以根据存储在只读存储器(ROM)803中的程序或者从存储部分809加载到随机访问存储器(RAM)804中的程序而执行各种适当的动作和处理。在RAM 804中,还存储有装置800操作所需的各种程序和数据。CPU 801、GPU802、ROM 803以及RAM804通过总线805彼此相连。输入/输出(I/O)接口806也连接至总线805。
以下部件连接至I/O接口806:包括键盘、鼠标等的输入部分807;包括诸如、液晶显示器(LCD)等以及扬声器等的输出部分808;包括硬盘等的存储部分809;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分810。通信部分810经由诸如因特网的网络执行通信处理。驱动器811也可以根据需要连接至I/O接口806。可拆卸介质812,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器811上,以便于从其上读出的计算机程序根据需要被安装入存储部分809。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分810从网络上被下载和安装,和/或从可拆卸介质812被安装。在该计算机程序被中央处理单元(CPU)801和图形处理器(GPU)802执行时,执行本申请的方法中限定的上述功能。
需要说明的是,本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。计算机可读介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的装置、装置或器件,或者任意以上的组合。计算机可读介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行装置、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行装置、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本申请各种实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的装置来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;将第一位置信息输入deepsort网络并与deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;根据第一次匹配结果对卡尔曼***或第一位置信息进行处理,其中对于第一次未被匹配上的卡尔曼***所对应的目标通过KCF***预测得到对应的目标的第二位置信息;将第二位置信息与第一次未被匹配上的卡尔曼***进行第二次匹配,获得第二次匹配结果;以及根据第二次匹配结果对第一次未被匹配上的卡尔曼***和第二位置信息进行处理,得到目标排重后的位置信息。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种用于视频结构化的目标排重方法,其特征在于,包括以下步骤:
S1:通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;
S2:将所述第一位置信息输入deepsort网络并与所述deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;
S3:根据所述第一次匹配结果对所述卡尔曼***或所述第一位置信息进行处理,其中对于第一次未被匹配上的所述卡尔曼***所对应的目标通过KCF***预测得到所述对应的目标的第二位置信息;
S4:将所述第二位置信息与所述第一次未被匹配上的所述卡尔曼***进行第二次匹配,获得第二次匹配结果;以及
S5:根据所述第二次匹配结果对所述第一次未被匹配上的所述卡尔曼***和所述第二位置信息进行处理,得到所述目标排重后的位置信息;
所述步骤S5具体包括:
S51:根据所述第二次匹配结果对所述第一次未被匹配上的所述卡尔曼***和所述第二位置信息进行处理,对匹配成功的所述第二位置信息进行保存,对第二次未被匹配上的所述卡尔曼***设置丢失标记,其中第二次未被匹配上的所述卡尔曼***为所述第二次匹配结果中未被匹配上的所述第一次未被匹配上的所述卡尔曼***;
S52:判断所述deepsort网络中的所述卡尔曼***是否有所述丢失标记以输出所述目标排重后的位置信息。
2.根据权利要求1所述的用于视频结构化的目标排重方法,其特征在于,所述步骤S2中若所述第一位置信息是从所述视频中的第一帧中获取的,则直接生成所述目标对应的所述卡尔曼***,并保存所述第一位置信息。
3.根据权利要求1所述的用于视频结构化的目标排重方法,其特征在于,所述步骤S3具体包括:
S31:对所述第一次匹配结果中成功匹配的所述第一位置信息,将与其匹配的所述卡尔曼***和所述第一位置信息进行更新;
S32:对所述第一次匹配结果中未被匹配上的所述第一位置信息,初始化一个所述卡尔曼***,并保存所述卡尔曼***;
S33:对所述第一次匹配结果中所述第一次未被匹配上的所述卡尔曼***,先判断所述对应的目标是否存在所述KCF***,若不存在所述KCF***,则利用所述当前帧的前一帧的所述第一位置信息初始化一个所述KCF***,并通过所述KCF***预测所述当前帧的所述目标的所述第二位置信息,若存在所述KCF***,则直接利用所述KCF***预测所述当前帧的所述目标的所述第二位置信息。
4.根据权利要求1所述的用于视频结构化的目标排重方法,其特征在于,所述步骤S51包括具体包括:
S511:对所述第二次匹配结果中成功匹配的所述第二位置信息,所述deepsort网络将与其匹配的所述卡尔曼***进行更新并保存所述第二位置信息;
S512:对所述第二次匹配结果中所述第二次未被匹配上的所述卡尔曼***设置所述丢失标记;
S513:对所述第二次匹配结果中未被匹配上的所述第二位置信息不进行任何处理。
5.根据权利要求1所述的用于视频结构化的目标排重方法,其特征在于,所述步骤S52具体包括:
S521:对所述deepsort网络中的所述卡尔曼***进行判断,若所述卡尔曼***带有所述丢失标记且连续丢失帧数大于设定阈值,则删除所述卡尔曼***和所述KCF***并输出所述卡尔曼***对应保存的位置信息,若所述卡尔曼***未带有所述丢失标记则不进行任何操作;
S522:判断所述当前帧是否是所述视频的最后一帧,若是则结束,否则循环所述步骤S1-S5。
6.根据权利要求5所述的用于视频结构化的目标排重方法,其特征在于,所述目标排重后的位置信息包括所述步骤S521中输出的所述卡尔曼***对应保存的位置信息。
7.根据权利要求1-5中任一项所述的用于视频结构化的目标排重方法,其特征在于,所述目标检测算法包括yolo目标检测算法。
8.根据权利要求1-5中任一项所述的用于视频结构化的目标排重方法,其特征在于,所述目标包括车辆、人或船。
9.一种用于视频结构化的目标排重装置,其特征在于,包括:
目标检测模块,被配置为通过目标检测算法检测视频中当前帧所具有的目标的第一位置信息;
第一次匹配模块,被配置为将所述第一位置信息输入deepsort网络并与所述deepsort网络中的卡尔曼***进行第一次匹配,获得第一次匹配结果;
第一次处理模块,被配置为根据所述第一次匹配结果对所述卡尔曼***或所述第一位置信息进行处理,其中对于第一次未被匹配上的所述卡尔曼***所对应的目标通过KCF***预测得到所述对应的目标的第二位置信息;
第二次匹配模块,被配置为将所述第二位置信息与所述第一次未被匹配上的所述卡尔曼***进行第二次匹配,获得第二次匹配结果;以及
第二次处理模块,被配置为根据所述第二次匹配结果对所述第一次未被匹配上的所述卡尔曼***和所述第二位置信息进行处理,得到所述目标排重后的位置信息,具体包括:
根据所述第二次匹配结果对所述第一次未被匹配上的所述卡尔曼***和所述第二位置信息进行处理,对匹配成功的所述第二位置信息进行保存,对第二次未被匹配上的所述卡尔曼***设置丢失标记,其中第二次未被匹配上的所述卡尔曼***为所述第二次匹配结果中未被匹配上的所述第一次未被匹配上的所述卡尔曼***;
判断所述deepsort网络中的所述卡尔曼***是否有所述丢失标记以输出所述目标排重后的位置信息。
10.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被计算机执行时实现权利要求1至8中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010351089.1A CN111563438B (zh) | 2020-04-28 | 2020-04-28 | 一种用于视频结构化的目标排重方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010351089.1A CN111563438B (zh) | 2020-04-28 | 2020-04-28 | 一种用于视频结构化的目标排重方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111563438A CN111563438A (zh) | 2020-08-21 |
CN111563438B true CN111563438B (zh) | 2022-08-12 |
Family
ID=72074485
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010351089.1A Active CN111563438B (zh) | 2020-04-28 | 2020-04-28 | 一种用于视频结构化的目标排重方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111563438B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107871111A (zh) * | 2016-09-28 | 2018-04-03 | 苏宁云商集团股份有限公司 | 一种行为分析方法及*** |
CN107894189A (zh) * | 2017-10-31 | 2018-04-10 | 北京艾克利特光电科技有限公司 | 一种目标点自动追踪的光电瞄准***及其自动追踪方法 |
WO2019074601A1 (en) * | 2017-10-13 | 2019-04-18 | Qualcomm Incorporated | TRACKING OBJECTS FOR NEURONAL NETWORK SYSTEMS |
CN110519532A (zh) * | 2019-09-02 | 2019-11-29 | 中移物联网有限公司 | 一种信息获取方法及电子设备 |
CN110751674A (zh) * | 2018-07-24 | 2020-02-04 | 北京深鉴智能科技有限公司 | 多目标跟踪方法及相应视频分析*** |
-
2020
- 2020-04-28 CN CN202010351089.1A patent/CN111563438B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107871111A (zh) * | 2016-09-28 | 2018-04-03 | 苏宁云商集团股份有限公司 | 一种行为分析方法及*** |
WO2019074601A1 (en) * | 2017-10-13 | 2019-04-18 | Qualcomm Incorporated | TRACKING OBJECTS FOR NEURONAL NETWORK SYSTEMS |
CN107894189A (zh) * | 2017-10-31 | 2018-04-10 | 北京艾克利特光电科技有限公司 | 一种目标点自动追踪的光电瞄准***及其自动追踪方法 |
CN110751674A (zh) * | 2018-07-24 | 2020-02-04 | 北京深鉴智能科技有限公司 | 多目标跟踪方法及相应视频分析*** |
CN110519532A (zh) * | 2019-09-02 | 2019-11-29 | 中移物联网有限公司 | 一种信息获取方法及电子设备 |
Non-Patent Citations (2)
Title |
---|
基于卡尔曼滤波器的运动目标跟踪算法;王建东等;《数字通信》;20091225(第06期);全文 * |
智能视觉监控中的运动目标检测和跟踪技术研究;刘鑫;《中国优秀硕士学位论文全文数据库》;20070815;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111563438A (zh) | 2020-08-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113627536B (zh) | 模型训练、视频分类方法,装置,设备以及存储介质 | |
CN110633423A (zh) | 目标账号识别方法、装置、设备及存储介质 | |
CN113378855A (zh) | 用于处理多任务的方法、相关装置及计算机程序产品 | |
CN108470179B (zh) | 用于检测对象的方法和装置 | |
CN111767750A (zh) | 图像处理方法和装置 | |
CN112800919A (zh) | 一种检测目标类型视频方法、装置、设备以及存储介质 | |
CN109919220B (zh) | 用于生成视频的特征向量的方法和装置 | |
CN111160410A (zh) | 一种物体检测方法和装置 | |
CN108509876B (zh) | 针对视频的物体检测方法、装置、设备、存储介质及程序 | |
CN110852250B (zh) | 一种基于最大面积法的车辆排重方法、装置及存储介质 | |
CN110414625B (zh) | 确定相似数据的方法、装置、电子设备及存储介质 | |
CN111563438B (zh) | 一种用于视频结构化的目标排重方法和装置 | |
CN111626054A (zh) | 新违法行为描述词识别方法与装置、电子设备及存储介质 | |
CN114724144B (zh) | 文本识别方法、模型的训练方法、装置、设备及介质 | |
CN113657596B (zh) | 训练模型和图像识别的方法和装置 | |
CN110852252B (zh) | 一种基于最小距离、最大长宽比的车辆排重方法和装置 | |
CN110634155A (zh) | 一种基于深度学习的目标检测方法和装置 | |
CN114093006A (zh) | 活体人脸检测模型的训练方法、装置、设备以及存储介质 | |
CN111666449B (zh) | 视频检索方法、装置、电子设备和计算机可读介质 | |
CN114581711A (zh) | 目标对象检测方法、装置、设备、存储介质以及程序产品 | |
CN112581492A (zh) | 一种运动目标检测方法和装置 | |
CN110826497B (zh) | 一种基于最小距离法的车辆排重方法、装置及存储介质 | |
CN110796698B (zh) | 一种最大面积、最小长宽比的车辆排重方法和装置 | |
CN111259194A (zh) | 用于确定重复视频的方法和装置 | |
CN114329475B (zh) | 恶意代码检测模型的训练方法、装置以及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |