CN114298992A - 一种视频帧去重方法、装置、电子设备及存储介质 - Google Patents

一种视频帧去重方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN114298992A
CN114298992A CN202111574051.1A CN202111574051A CN114298992A CN 114298992 A CN114298992 A CN 114298992A CN 202111574051 A CN202111574051 A CN 202111574051A CN 114298992 A CN114298992 A CN 114298992A
Authority
CN
China
Prior art keywords
video frame
defect
feature
target video
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111574051.1A
Other languages
English (en)
Inventor
杨苏辉
聂磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202111574051.1A priority Critical patent/CN114298992A/zh
Publication of CN114298992A publication Critical patent/CN114298992A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本公开提供了一种视频帧去重方法、装置、电子设备及存储介质,涉及计算机领域,尤其涉及计算机视觉技术领域,具体涉及一种视频帧去重方法、装置、电子设备及存储介质。具体实现方案为:获取巡视视频,缺陷检测,确定一目标视频帧;将目标视频帧以及目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征,筛选出目标视频帧的候选视频帧;基于第一缺陷特征描述信息、第二缺陷特征描述信息、目标视频帧的缺陷位置信息、候选视频帧的缺陷位置信息,确定与目标视频帧的缺陷区域相同的视频帧。实现了从粗粒度到细粒度的缺陷视频帧去重,大幅提高了缺陷视频帧去重的精准度。

Description

一种视频帧去重方法、装置、电子设备及存储介质
技术领域
本公开涉及计算机技术领域,尤其涉及计算机视觉技术领域,具体涉及一种视频帧去重方法、装置、电子设备及存储介质。
背景技术
工业场景中有大量的工控设备需要精细化的维护,为了对工控设备进行维护,目前采用工业探针在工控设备内部巡视,产生工控设备的巡视视频,从中筛选出包含缺陷区域的缺陷视频帧,根据这些缺陷视频帧判断工控设备的缺陷类型、缺陷位置、缺陷程度等,便于后续维护。
发明内容
本公开提供了一种车机功能唤醒的方法、装置、电子设备及存储介质。
根据本公开的一方面,提供了一种视频帧去重方法,包括:
获取巡视视频,对所述巡视视频中的视频帧进行缺陷检测,确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息,并从所述缺陷视频帧中确定一目标视频帧;
将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征,并基于所述第一全局特征和所述第二全局特征的特征距离,从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧;
分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息,基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息,从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧,作为去重视频帧。
根据本公开的另一方面,提供了一种视频帧去重装置,包括:
巡视视频获取模块,用于获取巡视视频,对所述巡视视频中的视频帧进行缺陷检测,确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息,并从所述缺陷视频帧中确定一目标视频帧;
全局特征筛选模块,用于将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征,并基于所述第一全局特征和所述第二全局特征的特征距离,从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧;
去重模块,用于分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息,基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息,从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧,作为去重视频帧。
根据本公开的另一方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行视频帧去重方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行视频帧去重方法。
根据本公开的又一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现视频帧去重方法。
可见,先识别出缺陷视频帧和缺陷位置信息,然后从图像整体出发,通过深度模型提取全局特征,根据目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征初步筛选得到候选视频帧,初步筛选得到的候选视频帧是图像整体信息与目标视频帧类似的视频帧;进一步的,基于缺陷区域的局部特征,结合缺陷位置信息对候选视频帧和目标视频帧进行匹配,能够剔除图像背景相似、缺陷前景有差别的视频帧,最终筛选出与目标视频帧包含的缺陷区域相同的视频帧,也就是需要去重的视频帧。可见,考虑到缺陷外观、形态较为相似的特点,在视频帧去重过程中,并非直接对前景的缺陷区域进行操作,而是结合图像的前景缺陷区域信息和背景信息进行去重,充分利用视频的时空信息,提高实时性和应用性,并实现了从粗粒度到细粒度的缺陷视频帧去重,大幅提高了缺陷视频帧去重的精准度。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。
图1为本公开实施例提供的视频帧去重方法的一种流程示意图;
图2为本公开实施例提供的视频帧去重方法的另一种流程示意图;
图3为本公开实施例提供的视频帧去重方法的一种示意图;
图4是用来实现本公开实施例的视频帧去重方法的装置的框图;
图5是用来实现本公开实施例的视频帧去重方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
工业场景中有大量的工控设备需要精细化的维护,为了对工控设备进行维护,目前采用工业探针在工控设备内部巡视,产生工控设备的巡视视频,从中筛选出包含缺陷区域的缺陷视频帧,根据这些缺陷视频帧判断工控设备的缺陷类型、缺陷位置、缺陷程度等,便于后续维护。
工业探针在巡视过程中,在每个区域都会有一段时间的滞留,造成巡视视频中存在大量的重复视频帧,给后续的核查带来极大的不便,因此需要对重复的缺陷视频帧进行去重。
目前,在获取巡视视频后,通常采用人工方式查找视频帧中的缺陷,随后通过人工比对缺陷区域去重或通过图像匹配算法进行去重。通过人工比对缺陷区域的方式耗费大量的人力,去重效率和准确率较低;而采用图像匹配算法进行去重,受限于现有的图像匹配算法的性能,也不能达到很好的去重效果。
具体的,现有的图像匹配去重的方法主要包括以下三种,第一种方式:基于传统图像特征的相似图像判断方式,即通过方向梯度直方图(Histogram of Oriented Gradient,HOG)等算法提取缺陷视频帧图像特征,然后对缺陷视频帧逐个比较特征距离,如欧式距离、余弦距离等,继而判断视频帧是否重复;第二种方式:基于深度特征的图像相似度判断方式,和第一种方法主要不同在于提取缺陷视频帧特征时采用深度神经网络的方法,例如残差网络(Residual Network,ResNet)等网络,继而在一定程度上提升图像相似度匹配的精度;第三种方式:主要通过图像匹配的方法获取缺陷图像对的特征点的匹配情况,当匹配到的特征点数目大于一定的人工设定的阈值情况下,认为缺陷图像对是重复的,继而实现缺陷图像去重。
然而,以上三种方法都存在各自的缺点。
对于第一种方法,受限于提取的图像特征质量,且传统算法提取的图像特征表征性较弱,鲁棒性较差极易受到图像细小扰动造成的图像差异的影响,因此不适用于复杂多样的工控设备场景;对于第二种方法,相对于第一种方法,通过引入深度神经网络显著提高了图像特征提取能力,但是目前该方法尚未有针对视频领域的算法适配,在处理视频的情况下,没有充分利用视频的时空信息,因此实时性和应用性较差;对于最后一种方法,在实际视频场景中应用,面临耗时长,无法解决巡视视角差异大、巡视视角多变带来的影响,鲁棒性较差。
为了解决上述技术问题,本公开提供了一种视频帧去重方法、装置、电子设备及存储介质。
本公开的一个实施例中,提供了一种视频帧去重方法,方法包括:
获取巡视视频,对所述巡视视频中的视频帧进行缺陷检测,确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息,并从所述缺陷视频帧中确定一目标视频帧;
将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征,并基于所述第一全局特征和所述第二全局特征的特征距离,从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧;
分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息,基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息,从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧,作为去重视频帧。
本公开实施例中,先识别出缺陷视频帧和缺陷位置信息,然后从图像整体出发,通过深度模型提取全局特征,根据目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征初步筛选得到候选视频帧,初步筛选得到的候选视频帧是图像整体信息与目标视频帧类似的视频帧;进一步的,基于缺陷区域的局部特征,结合缺陷位置信息对候选视频帧和目标视频帧进行匹配,能够剔除图像背景相似、缺陷前景有差别的视频帧,最终筛选出与目标视频帧包含的缺陷区域相同的视频帧,也就是需要去重的视频帧。可见,考虑到缺陷外观、形态较为相似的特点,在视频帧去重过程中,并非直接对前景的缺陷区域进行操作,而是结合图像的前景缺陷区域信息和背景信息进行去重,充分利用视频的时空信息,提高实时性和应用性,并实现了从粗粒度到细粒度的缺陷视频帧去重,大幅提高了缺陷视频帧去重的精准度。
下面对本公开实施例提供的视频帧去重方法、装置、电子设备及存储介质分别进行详细介绍。
参见图1,图1为本公开实施例提供的视频帧去重方法的一种流程示意图,如图1所示,方法可以包括以下步骤:
S101:获取巡视视频,对巡视视频中的视频帧进行缺陷检测,确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息,并从缺陷视频帧中确定一目标视频帧。
本公开实施例可以应用于工控设备领域,对工控设备内部的巡视视频中缺陷视频帧进行去重。具体的,为了对工控设备进行维护,采用工业探针在工控设备内部巡视,产生工控设备的巡视视频,巡视视频中有些视频帧中包含工控设备的缺陷,例如灼烧、凹陷、孔洞、刮伤等缺陷,由于工业探针会在工控设备内部滞留,会造成巡视视频中存在大量的重复视频帧,例如多个视频帧里都是同一个缺陷,这种情况下希望只保留一个视频帧,将其余视频帧去除。
本步骤中,获取巡视视频,对巡视视频中的视频帧进行缺陷检测。
具体的,可以将巡视视频中的视频帧输入预先训练的缺陷检测模型,得到缺陷检测结果。
作为一个示例,可以采用yolov5模型作为缺陷检测模型,采用大量的包含缺陷区域的样本图像帧对yolov5模型进行训练。在训练过程中,可以自适应的设置多种anchor(锚点框),以涵盖工控设备内部缺陷的多种尺寸。
作为一个示例,主干网络可以采用CSPNet(Cross Stage Partial Network)结构,模型neck部分采用FPN(Feature Pyramid Networks,特征图金字塔网络)和PAN(PyramidAttention Network for Semantic Segmentation,金字塔注意力网络)结构,充分利用图像中的语义信息,极大增强模型的特征表达能力,在保证性能提升的同时,降低模型的参数量。
上述模型结构仅作为一个示例,本公开并不局限于某一特定的算法模型,例如,也可以采用其他的通用物体检测模型作为缺陷检测模型,例如cascade-rcnn模型、swin-transformer模型等。
在将巡视视频中的视频帧输入预先训练的缺陷检测模型后,即可确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息。缺陷位置是指缺陷区域所处的图像中位置,可以用包含左上角坐标和右下角坐标的矩形来表示。
此外,需要从缺陷视频帧中确定一目标视频帧,可以将最先出现的缺陷视频帧确定为目标视频帧。
例如,帧号为1-9的视频帧中不包含缺陷区域,帧号为10-14的视频帧都包含缺陷区域,是缺陷视频帧,则可以将帧号为10的视频帧确定为目标视频帧,后续去重过程中,判断帧号11-14的视频帧是否和目标视频帧包含同一缺陷区域,若是则进行去重。
S102:将目标视频帧以及目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征,并基于第一全局特征和第二全局特征的特征距离,从邻近缺陷视频帧中筛选出目标视频帧的候选视频帧。
本公开实施例中,提出时间连续性约束用于缩短当前帧的候选缺陷帧比较范围,也就是说,在针对当前的目标视频帧进行比较时,只跟指定的连续时间内的缺陷视频帧进行特征距离的度量,此外,可以根据不同的工控设备巡视习惯设定比对的帧数,从而大大降低图像特征相似度比较的操作空间和耗时。
因此,输入全局特征提取模型的邻近缺陷视频帧可以是位于目标视频帧之后的预设数目的缺陷视频帧。
工控设备内部巡视视频的缺陷视频帧去重,与自然场景的图像去重具有较大的不同,自然场景的图像去重主要对前景进行操作,但工控设备不同部位的缺陷类型大致相同,且缺陷外观、形态较为相似,仅考虑前景的缺陷区域会导致去重的精确度较差。
因此,本公开实施例中,先从图像整体信息出发,通过全局特征进行初步筛选。
具体的,将目标视频帧和邻近缺陷视频帧输入全局特征提取模型,分别得到目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征,然后计算第一全局特征和第二全局特征的特征距离,特征距离能够表征全局特征的相似度,进而筛选出图像整体信息与目标视频帧类似的视频帧,作为候选视频帧。
作为一个示例,可以采用VGG(Visual Geometry Group Network)模型作为全局特征提取模型。为了更好的获取缺陷视频帧的全局图像特征,可以采用度量学习相关技术优化训练VGG特征提取网络。具体的,将VGG网络的全连接层的输出数目设置为缺陷类型数,并将VGG多分类转换成多标签分类,同时在特征编码层引入arcMargin或triplet loss联合损失对特征编码空间进行约束,实现缺陷类型的聚类,即VGG提取的全局图像特征能够将不同的缺陷编码在不同的簇内,也就是说,使包含不同类型缺陷的图像帧对应的全局图像特征之间的特征距离尽可能的远离,进而经过全局特征提取模型后,能够得到背景和前景都较为接近的候选视频帧集合。
上述模型结构仅作为一个示例,本公开并不局限于某一特定的算法模型,例如,也可以采用resnet50、mobilenet等轻量化分类模型作为全局特征提取模型。
S103:分别提取目标视频帧的第一缺陷特征描述信息和候选视频帧的第二缺陷特征描述信息,基于第一缺陷特征描述信息、第二缺陷特征描述信息、目标视频帧的缺陷位置信息、候选视频帧的缺陷位置信息,从候选视频帧中确定与目标视频帧的缺陷区域相同的视频帧,作为去重视频帧。
首先提取目标视频帧的第一缺陷特征描述信息和候选视频帧的第二缺陷特征描述信息。具体可以采用尺度不变特征变换(Scale-invariant feature transform,SIFT)等算法提取缺陷特征描述信息。
其中,第一缺陷特征描述信息为目标视频帧中第一缺陷区域的特征点位置信息和特征点描述子;第二缺陷特征描述信息为候选视频帧中第二缺陷区域的特征点位置信息和特征点描述子。
进一步的,基于缺陷特征描述信息,结合缺陷位置信息对候选视频帧和目标视频帧进行匹配,筛选出与目标视频帧包含的缺陷区域相同的视频帧,作为去重视频帧。
本公开实施例中,先识别出缺陷视频帧和缺陷位置信息,然后从图像整体出发,通过深度模型提取全局特征,根据目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征初步筛选得到候选视频帧,初步筛选得到的候选视频帧是图像整体信息与目标视频帧类似的视频帧;进一步的,基于缺陷区域的局部特征,结合缺陷位置信息对候选视频帧和目标视频帧进行匹配,能够剔除图像背景相似、缺陷前景有差别的视频帧,最终筛选出与目标视频帧包含的缺陷区域相同的视频帧,也就是需要去重的视频帧。可见,考虑到缺陷外观、形态较为相似的特点,在视频帧去重过程中,并非直接对前景的缺陷区域进行操作,而是结合图像的前景缺陷区域信息和背景信息进行去重,充分利用视频的时空信息,提高实时性和应用性,并实现了从粗粒度到细粒度的缺陷视频帧去重,大幅提高了缺陷视频帧去重的精准度。
本公开的一个实施例中,参见图2,图2为本公开实施例提供的视频帧去重方法的另一种流程示意图,上述步骤:基于第一缺陷特征描述信息、第二缺陷特征描述信息、目标视频帧的缺陷位置信息、候选视频帧的缺陷位置信息,从候选视频帧中确定与目标视频帧的缺陷区域相同的视频帧,作为去重视频帧,具体可以包括以下细化步骤:
S201:将第一缺陷特征描述信息和第二缺陷特征描述信息输入特征匹配模型,得到第一缺陷区域和第二缺陷区域的映射关系。
具体的,第一缺陷特征描述信息为目标视频帧中第一缺陷区域的特征点位置信息和特征点描述子;第二缺陷特征描述信息为候选视频帧中第二缺陷区域的特征点位置信息和特征点描述子。
作为一个示例,可以采用superglue(Self-Supervised Interest PointDetection and Description,自监督深度学习特征点)模型作为特征匹配模型。superglue模型通过注意力图卷积神经网络对特征点的描述子与对应的特征点位置进行特征编码,并采用最优匹配层进行特征点之间的对应,极大的提高了特征区域的匹配能力。
其中,superglue模型的输入是两张图像的特征点位置信息和特征点描述子,输出是这两张图像之间的单应矩阵,单应矩阵能够表征图像之间特征区域的映射关系。
则在本公开实施例的场景下,特征匹配模型输出的单应矩阵能够表征第一缺陷区域和第二缺陷区域的映射关系。
上述模型结构仅作为一个示例,本公开并不局限于某一特定的算法模型,例如,也可以采用Patch2Pix,PDCNet等算法作为替代,以得到第一缺陷区域和第二缺陷区域的映射关系。
S202:根据映射关系对目标视频帧的缺陷位置信息进行映射,并基于映射后的缺陷位置信息、候选视频帧的缺陷位置信息计算缺陷区域交并比。
映射关系也就是单应矩阵,根据单应矩阵可以进行视角转换。
根据单应矩阵对目标视频帧的缺陷位置进行映射,得到映射后的缺陷位置。
可以理解为,通过单应矩阵,将不同角度拍摄的目标视频帧和候选视频帧转换到同样的视角下。
从而,可以基于映射后的缺陷位置信息、候选视频帧的缺陷位置信息计算同样的视角下的缺陷区域交并比。
S203:若缺陷区域交并比大于预设阈值,确定候选视频帧为去重视频帧。
可以理解的,如果在同样的视角下,缺陷区域的交并比大于预设阈值,可以理解为目标视频帧和候选视频帧包含的缺陷区域是相同的,这种情况下,确定候选视频帧为去重视频帧,需要将其去除,仅保留目标视频帧。
反之,如果缺陷区域的交并比不大于预设阈值,可以理解为目标视频帧和候选视频帧包含的缺陷区域是不同的,这种情况下,无需对该候选视频帧进行去重操作。
可见,本公开实施例中,在对前景缺陷特征进行匹配时,还考虑了缺陷位置信息。具体的,先基于前景缺陷特征计算目标视频帧和候选视频帧的单应矩阵,根据单应矩阵和缺陷位置信息,计算相同视角下目标视频帧的缺陷位置与候选视频帧中缺陷位置的交并比,当交并比大于一定的阈值,才认为候选视频帧是去重视频帧。
通过上述方式,能够减少拍摄视角不同、巡视视角差异大、巡视视角多变等问题对缺陷区域匹配造成的干扰,提高鲁棒性,并大大抑制图像匹配中背景信息的干扰,更聚焦于前景缺陷特征信息,提高了筛选去重视频的精确度。
本公开的一个实施例中,为了进一步降低缺陷视频帧比对的时间复杂度,可以在得到目标视频帧的重复帧集合后,不直接循环到下一缺陷视频帧进行比较,而是直接进行跳帧,跳到当前目标视频帧的重复帧集合中最后一个视频帧的下一缺陷视频帧,再次进行全局图像特征和局部缺陷特征匹配,依此循环直到巡视视频结束。
也就是说,按照缺陷视频帧的先后顺序,跳过目标视频帧的去重视频帧,确定新的目标视频帧,并返回将目标视频帧以及目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型的步骤。
作为一个示例,假设当前目标视频帧的帧号为10,经过图1所示步骤后,判定帧号为11,12,13的视频帧均为去重视频帧,则下一次比较时,直接跳帧到帧号为14的视频帧,将帧号为14的视频帧确定为新的目标视频帧,重新进行去重。通过此操作,将缺陷视频帧比较的时间复杂度从o(n2)降为o(n),提高了整个去重流程的运行效率。
为了便于理解,下面结合图3对本公开实施例提供的视频帧去重方法进行进一步介绍。
图3为本公开实施例提供的视频帧去重方法的一种示意图,如图3所示,获取工控设备内部的巡视视频,从巡视视频中抽取视频帧,经过尺寸缩放处理,输入缺陷检测模型,得到检测结果,包括缺陷视频帧和缺陷位置信息,将检测结果存储在数据库。缺陷视频帧经过全局特征提取模型,得到全局特征,存储在特征库中。确定当前的目标视频帧和邻近的缺陷视频帧,根据全局特征的特征距离,筛选出图像整体信息与目标视频帧类似的视频帧,作为候选视频帧。随后,进行缺陷特征匹配,得到单应矩阵,结合缺陷位置信息,计算交并比,根据交并比确定去重视频帧,对包含重复缺陷的候选视频帧进行去重。随后,按照缺陷视频帧的先后顺序,跳过目标视频帧的去重视频帧,确定新的目标视频帧并返回全局特征比对的步骤,依此循环直到巡视视频结束,得到去重后的巡视视频。
可见,本公开针对工控设备内部巡视视频的缺陷自动化检测并去重的一系列问题,提出了一套完整的解决方案,通过分步骤提取全局图像特征、前景缺陷特征、跳帧等方式,有效解决了特征提取能力不足、视频帧的时空信息利用率低、视频级别的图像特征比对耗时较长、缺陷高度相似造成去重精度差等难题,且大幅降低了人力和时间成本。
并且,通过计算单应矩阵、交并比的方式,能够减少拍摄视角不同、巡视视角差异大、巡视视角多变等问题对缺陷区域匹配造成的干扰,提高鲁棒性,并大大抑制图像匹配中背景信息的干扰,更聚焦于前景缺陷特征信息,提高了筛选去重视频的精确度。
参见图4,图4是用来实现本公开实施例的视频帧去重方法的装置的框图,如图4所示,装置可以包括:
巡视视频获取模块401,用于获取巡视视频,对所述巡视视频中的视频帧进行缺陷检测,确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息,并从所述缺陷视频帧中确定一目标视频帧;
全局特征筛选模块402,用于将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征,并基于所述第一全局特征和所述第二全局特征的特征距离,从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧;
去重模块403,用于分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息,基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息,从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧,作为去重视频帧。
本公开的一个实施例中,所述第一缺陷特征描述信息为所述目标视频帧中第一缺陷区域的特征点位置信息和特征点描述子;所述第二缺陷特征描述信息为所述候选视频帧中第二缺陷区域的特征点位置信息和特征点描述子。
本公开的一个实施例中,所述去重模块403,具体用于:
将所述第一缺陷特征描述信息和所述第二缺陷特征描述信息输入特征匹配模型,得到所述第一缺陷区域和所述第二缺陷区域的映射关系;
根据所述映射关系对所述目标视频帧的缺陷位置信息进行映射,并基于映射后的缺陷位置信息、所述候选视频帧的缺陷位置信息计算缺陷区域交并比;
若所述缺陷区域交并比大于预设阈值,确定所述候选视频帧为所述去重视频帧。
本公开的一个实施例中,还包括:
跳帧模块,用于按照所述缺陷视频帧的先后顺序,跳过所述目标视频帧的去重视频帧,确定新的目标视频帧,并返回将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型的步骤。
可见,先识别出缺陷视频帧和缺陷位置信息,然后从图像整体出发,通过深度模型提取全局特征,根据目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征初步筛选得到候选视频帧,初步筛选得到的候选视频帧是图像整体信息与目标视频帧类似的视频帧;进一步的,基于缺陷区域的局部特征,结合缺陷位置信息对候选视频帧和目标视频帧进行匹配,能够剔除图像背景相似、缺陷前景有差别的视频帧,最终筛选出与目标视频帧包含的缺陷区域相同的视频帧,也就是需要去重的视频帧。可见,考虑到缺陷外观、形态较为相似的特点,在视频帧去重过程中,并非直接对前景的缺陷区域进行操作,而是结合图像的前景缺陷区域信息和背景信息进行去重,充分利用视频的时空信息,提高实时性和应用性,并实现了从粗粒度到细粒度的缺陷视频帧去重,大幅提高了缺陷视频帧去重的精准度。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
本公开提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行视频帧去重方法。
本公开提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行视频帧去重方法。
本公开提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现视频帧去重方法。
图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示,设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM 503中,还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如视频帧去重方法。例如,在一些实施例中,视频帧去重方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时,可以执行上文描述的视频帧去重方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行视频帧去重方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

Claims (11)

1.一种视频帧去重方法,包括:
获取巡视视频,对所述巡视视频中的视频帧进行缺陷检测,确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息,并从所述缺陷视频帧中确定一目标视频帧;
将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征,并基于所述第一全局特征和所述第二全局特征的特征距离,从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧;
分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息,基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息,从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧,作为去重视频帧。
2.根据权利要求1所述的方法,其中,
所述第一缺陷特征描述信息为所述目标视频帧中第一缺陷区域的特征点位置信息和特征点描述子;所述第二缺陷特征描述信息为所述候选视频帧中第二缺陷区域的特征点位置信息和特征点描述子。
3.根据权利要求2所述的方法,其中,所述基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息,从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧,作为去重视频帧的步骤,包括:
将所述第一缺陷特征描述信息和所述第二缺陷特征描述信息输入特征匹配模型,得到所述第一缺陷区域和所述第二缺陷区域的映射关系;
根据所述映射关系对所述目标视频帧的缺陷位置信息进行映射,并基于映射后的缺陷位置信息、所述候选视频帧的缺陷位置信息计算缺陷区域交并比;
若所述缺陷区域交并比大于预设阈值,确定所述候选视频帧为所述去重视频帧。
4.根据权利要求1所述的方法,还包括:
按照所述缺陷视频帧的先后顺序,跳过所述目标视频帧的去重视频帧,确定新的目标视频帧,并返回将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型的步骤。
5.一种视频帧去重装置,包括:
巡视视频获取模块,用于获取巡视视频,对所述巡视视频中的视频帧进行缺陷检测,确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息,并从所述缺陷视频帧中确定一目标视频帧;
全局特征筛选模块,用于将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型,得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征,并基于所述第一全局特征和所述第二全局特征的特征距离,从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧;
去重模块,用于分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息,基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息,从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧,作为去重视频帧。
6.根据权利要求5所述的装置,其中,
所述第一缺陷特征描述信息为所述目标视频帧中第一缺陷区域的特征点位置信息和特征点描述子;所述第二缺陷特征描述信息为所述候选视频帧中第二缺陷区域的特征点位置信息和特征点描述子。
7.根据权利要求6所述的装置,其中,所述去重模块,具体用于:
将所述第一缺陷特征描述信息和所述第二缺陷特征描述信息输入特征匹配模型,得到所述第一缺陷区域和所述第二缺陷区域的映射关系;
根据所述映射关系对所述目标视频帧的缺陷位置信息进行映射,并基于映射后的缺陷位置信息、所述候选视频帧的缺陷位置信息计算缺陷区域交并比;
若所述缺陷区域交并比大于预设阈值,确定所述候选视频帧为所述去重视频帧。
8.根据权利要求5所述的装置,还包括:
跳帧模块,用于按照所述缺陷视频帧的先后顺序,跳过所述目标视频帧的去重视频帧,确定新的目标视频帧,并返回将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型的步骤。
9.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-4中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-4中任一项所述的方法。
11.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-4中任一项所述的方法。
CN202111574051.1A 2021-12-21 2021-12-21 一种视频帧去重方法、装置、电子设备及存储介质 Pending CN114298992A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111574051.1A CN114298992A (zh) 2021-12-21 2021-12-21 一种视频帧去重方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111574051.1A CN114298992A (zh) 2021-12-21 2021-12-21 一种视频帧去重方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN114298992A true CN114298992A (zh) 2022-04-08

Family

ID=80969461

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111574051.1A Pending CN114298992A (zh) 2021-12-21 2021-12-21 一种视频帧去重方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN114298992A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116824112A (zh) * 2023-06-13 2023-09-29 广州市玄武无线科技股份有限公司 一种商品图像去重识别方法及装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103631932A (zh) * 2013-12-06 2014-03-12 中国科学院自动化研究所 一种对重复视频进行检测的方法
CN106649440A (zh) * 2016-09-13 2017-05-10 西安理工大学 融合全局r特征的近似重复视频检索方法
KR20190127320A (ko) * 2018-05-04 2019-11-13 (주)브릭 반복 패턴 영상의 결함 위치 파악 장치 및 방법
CN110781733A (zh) * 2019-09-17 2020-02-11 浙江大华技术股份有限公司 图像去重方法、存储介质、网络设备和智能监控***
CN110944201A (zh) * 2019-12-02 2020-03-31 深圳云朵数据技术有限公司 一种视频去重压缩的方法、装置、服务器及存储介质
CN110996123A (zh) * 2019-12-18 2020-04-10 广州市百果园信息技术有限公司 一种视频处理方法、装置、设备及介质
CN112001902A (zh) * 2020-08-19 2020-11-27 上海商汤智能科技有限公司 缺陷检测方法和相关装置、设备、存储介质
CN113537414A (zh) * 2021-09-15 2021-10-22 深圳新视智科技术有限公司 锂电池缺陷检测方法、装置、设备及存储介质
US20210342992A1 (en) * 2020-05-04 2021-11-04 Kla Corporation Print check repeater defect detection
CN113691733A (zh) * 2021-09-18 2021-11-23 北京百度网讯科技有限公司 视频抖动检测方法、装置、电子设备和存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103631932A (zh) * 2013-12-06 2014-03-12 中国科学院自动化研究所 一种对重复视频进行检测的方法
CN106649440A (zh) * 2016-09-13 2017-05-10 西安理工大学 融合全局r特征的近似重复视频检索方法
KR20190127320A (ko) * 2018-05-04 2019-11-13 (주)브릭 반복 패턴 영상의 결함 위치 파악 장치 및 방법
CN110781733A (zh) * 2019-09-17 2020-02-11 浙江大华技术股份有限公司 图像去重方法、存储介质、网络设备和智能监控***
CN110944201A (zh) * 2019-12-02 2020-03-31 深圳云朵数据技术有限公司 一种视频去重压缩的方法、装置、服务器及存储介质
CN110996123A (zh) * 2019-12-18 2020-04-10 广州市百果园信息技术有限公司 一种视频处理方法、装置、设备及介质
US20210342992A1 (en) * 2020-05-04 2021-11-04 Kla Corporation Print check repeater defect detection
CN112001902A (zh) * 2020-08-19 2020-11-27 上海商汤智能科技有限公司 缺陷检测方法和相关装置、设备、存储介质
CN113537414A (zh) * 2021-09-15 2021-10-22 深圳新视智科技术有限公司 锂电池缺陷检测方法、装置、设备及存储介质
CN113691733A (zh) * 2021-09-18 2021-11-23 北京百度网讯科技有限公司 视频抖动检测方法、装置、电子设备和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
位一鸣;童力;罗麟;杨珊;: "基于卷积神经网络的主变压器外观缺陷检测方法", 浙江电力, no. 04, 9 May 2019 (2019-05-09) *
胡正平;赵梦瑶;辛丙一;: "结合全局与局部视频表示的视频异常检测算法", 模式识别与人工智能, no. 02, 15 February 2020 (2020-02-15) *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116824112A (zh) * 2023-06-13 2023-09-29 广州市玄武无线科技股份有限公司 一种商品图像去重识别方法及装置

Similar Documents

Publication Publication Date Title
CN109151501B (zh) 一种视频关键帧提取方法、装置、终端设备及存储介质
CN111753727B (zh) 用于提取结构化信息的方法、装置、设备及可读存储介质
CN110610510B (zh) 目标跟踪方法、装置、电子设备及存储介质
Shen et al. Real-time superpixel segmentation by DBSCAN clustering algorithm
CN109376256B (zh) 图像搜索方法及装置
US9639943B1 (en) Scanning of a handheld object for 3-dimensional reconstruction
CN110717489A (zh) Osd的文字区域的识别方法、装置及存储介质
CN111625683B (zh) 基于图结构差异分析的视频摘要自动生成方法及***
CN112101386B (zh) 文本检测方法、装置、计算机设备和存储介质
CN112989995B (zh) 文本检测方法、装置及电子设备
CN115330940B (zh) 一种三维重建方法、装置、设备和介质
CN114511661A (zh) 图像渲染方法、装置、电子设备及存储介质
CN115471476A (zh) 一种部件缺陷检测方法、装置、设备及介质
WO2019100348A1 (zh) 图像检索方法和装置以及图像库的生成方法和装置
CN114298992A (zh) 一种视频帧去重方法、装置、电子设备及存储介质
CN108694411A (zh) 一种识别相似图像的方法
CN109451318B (zh) 便于vr视频编码的方法、装置、电子设备及存储介质
CN115471772A (zh) 一种关键帧的提取方法、装置、设备及介质
CN113468906B (zh) 图形码提取模型构建方法、识别方法、装置、设备和介质
CN115861255A (zh) 用于图像处理的模型训练方法、装置、设备、介质及产品
CN114494887A (zh) 遥感图像分类方法、装置、计算机设备和可读存储介质
CN110580706A (zh) 一种视频背景模型的提取方法及装置
CN114445751A (zh) 视频关键帧图像轮廓特征的提取方法和装置
CN114511862A (zh) 表格识别方法、装置及电子设备
CN112084874A (zh) 一种物体检测方法、装置及终端设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination