CN109784164B - 前景识别方法、装置、电子设备及存储介质 - Google Patents

前景识别方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN109784164B
CN109784164B CN201811520020.6A CN201811520020A CN109784164B CN 109784164 B CN109784164 B CN 109784164B CN 201811520020 A CN201811520020 A CN 201811520020A CN 109784164 B CN109784164 B CN 109784164B
Authority
CN
China
Prior art keywords
frame
target foreground
foreground probability
probability map
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811520020.6A
Other languages
English (en)
Other versions
CN109784164A (zh
Inventor
边红昌
郑文
宋丛礼
郭益林
于永航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Dajia Internet Information Technology Co Ltd
Original Assignee
Beijing Dajia Internet Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dajia Internet Information Technology Co Ltd filed Critical Beijing Dajia Internet Information Technology Co Ltd
Priority to CN201811520020.6A priority Critical patent/CN109784164B/zh
Publication of CN109784164A publication Critical patent/CN109784164A/zh
Application granted granted Critical
Publication of CN109784164B publication Critical patent/CN109784164B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本申请是关于一种前景识别方法、装置、电子设备及存储介质,涉及图像处理技术领域,所述方法,包括:获取视频的至少一帧原始图像;将各帧所述原始图像输入语义分割网络,得到各帧所述原始图像对应的原始目标前景概率图;对各帧所述原始目标前景概率图进行时序平滑,得到各帧第一目标前景概率图;对各帧所述第一目标前景概率图进行双边滤波,得到各帧第二目标前景概率图;基于各帧所述第二目标前景概率图,识别所述视频各帧所述原始图像的目标前景。从语义分割网络得到原始目标前景概率图后,对该原始目标前景概率图进行了时序平滑和双边滤波,该第二目标前景概率图中的前景边界更为准确,能够更为准确的识别出视频各帧原始图像的目标前景。

Description

前景识别方法、装置、电子设备及存储介质
技术领域
本公开涉及图像处理技术领域,尤其涉及前景识别方法、装置、电子设备及存储介质。
背景技术
视频表现形式丰富多样,能够为用户提供更多信息,娱乐性能好,因此应用广泛。
语义分割网络可以将视频中每一帧图像分割为若干个具有某种特定语义含义的像素区域,并识别出每个区域的类别,最终获得一幅具有像素语义标注的目标前景概率图,进而便于对视频中每一帧图像进行像素级的操作。例如,通过语义分割网络将视频中每一帧原始图像的目标前景识别出来,进行像素级的操作等。
相关技术中,直接采用语义分割网络,识别视频中每一帧原始图像的目标前景,存在识别不准的问题。
发明内容
为克服相关技术中存在的问题,本公开提供一种前景识别及装置。
根据本公开实施例的第一方面,提供一种前景识别方法,包括
获取视频的至少一帧原始图像;
将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;
基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
可选的,所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图,包括:
从所述视频中,获取从所述视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
可选的,所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图之前,还包括:
针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
针对每一个像素,确定所述n个差值中的最大差值;
针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图,包括:
针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
可选的,所述基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景,包括:
对每一帧所述第二目标前景概率图进行高斯平滑;
基于每一帧高斯平滑后的第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
可选的,所述基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景之后,还包括:
对从所述视频中获取的每一帧所述原始图像的目标前景,进行前景处理。
可选的,所述将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图之前,还包括:
获取图像样本数据;
基于所述图像样本数据,训练所述语义分割网络。
根据本公开实施例的第二目标方面,提供一种前景识别装置,包括:
原始图像获取模块,被配置为获取视频的至少一帧原始图像;
原始目标前景概率图获取模块,被配置为将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
第一目标前景概率图确定模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
第二目标前景概率图确定模块,被配置为对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;
目标前景识别模块,被配置为基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
可选的,所述第一目标前景概率图确定模块包括:
参考图像获取子模块,被配置为从所述视频中,获取从所述视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
参考目标前景概率图获取子模块,被配置为将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
第一目标前景概率值确定子模块,被配置为确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
第二目标前景概率值获取子模块,被配置为从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
第一目标前景概率图确定子模块,被配置为针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
可选的,所述装置还可以包括:
差值确定模块,被配置为针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
最大差值确定模块,被配置为针对每一个像素,确定所述n个差值中的最大差值;
目标像素确定模块,被配置为针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述第一目标前景概率图确定子模块包括:
第一目标前景概率图确定单元,被配置为针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
可选的,所述目标前景识别模块包括:
高斯平滑子模块,被配置为对每一帧所述第二目标前景概率图进行高斯平滑;
目标前景识别子模块,被配置为基于每一帧高斯平滑后的第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
可选的,所述装置还可以包括:
前景处理模块,被配置为对从所述视频中获取的每一帧所述原始图像的目标前景,进行前景处理。
可选的,所述装置还可以包括:
图像样本数据获取模块,被配置为获取图像样本数据;
语义分割网络训练模块,被配置为基于所述图像样本数据,训练所述语义分割网络。
根据本公开实施例的第三方面,提供一种电子设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:执行上述任一项所述的前景识别方法。
根据本公开实施例的第四方面,提供一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行上述任一项所述的前景识别方法。
根据本公开实施例的第五方面,提供一种应用程序,当所述应用程序由移动终端的处理器执行时,使得移动终端能够执行上述任一项所述的前景识别方法。
本公开的实施例提供的技术方案可以包括以下有益效果:获取视频的至少一帧原始图像;将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。相对于现有技术中,从语义分割网络中输出的原始目标前景概率图后,就直接基于该原始目标前景概率图识别该原始图像的目标前景而言,本申请实施例,从语义分割网络得到原始目标前景概率图后,对该原始目标前景概率图进行了时序平滑和双边滤波,使得该第二目标前景概率图中的前景边界更为准确,进而能够从第二目标前景概率图中,更为准确的识别出从视频中获取的每一帧原始图像的目标前景。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种前景识别方法的流程图。
图2是根据一示例性实施例示出的另一种前景识别方法的流程图。
图3是根据一示例性实施例示出的一种前景处理的示意图。
图4是根据一示例性实施例示出的一种前景识别装置框图。
图5是根据一示例性实施例示出的另一种前景识别装置框图。
图6是根据一示例性实施例示出的一种电子设备的框图。
图7是根据一示例性实施例示出的另一种电子设备的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种前景识别方法的流程图,如图1所示,前景识别方法包括以下步骤。
在步骤S11中,获取视频的至少一帧原始图像。
在本申请实施例中,上述视频可以为直接拍摄的视频,或者,网络中下载或接收的视频等,该视频还可以包括:动画、动态图片等。在本申请实施例中对此不作具体限定。
在本申请实施例中,上述原始图像可以为该视频中的任一帧原始图像。例如,可以为第一帧原始图像、第二帧原始图像等。该原始图像可以为RGB格式、YUV格式等各种格式的原始图像,在本申请实施例中,对此不作具体限定。
在本申请实施例中,可以对上述视频进行解码,进而获取该视频中的至少一帧原始图像。在本申请实施例中,对此不作具体限定。
在步骤S12中,将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率。
在本申请实施例中,针对从该视频中获取的每一帧原始图像,根据其要识别的目标前景,具体确定对应的语义分割网络。即,该语义分割网络可以与要识别的目标前景具有对应关系。例如,要对从视频中获取的每一帧原始图像中的天空进行识别,则需要识别的目标前景即为天空,该语义分割网络则可以为针对天空的语义识别网络。在本申请实施例中,对此不作具体限定。
在本申请实施例中,该语义分割网络可以将从视频中获取的每一帧原始图像分割为若干个具有某种特定语义含义的像素区域,并识别出每个区域的类别,最终获得一幅具有像素语义标注的目标前景概率图,进而便于对视频中每一帧图像进行像素级的操作。例如,要对从视频中获取的每一帧原始图像中的天空进行识别,则需要识别的目标前景即为天空,则该语义分割网络则可以将从该视频中获取的每一帧原始图像中的天空识别出来,同时可以得到每一个像素为天空的概率值。在本申请实施例中,对此不作具体限定。
在本申请实施例中,上述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率。具体的,原始目标前景概率图可以与相应的原始图像大小一致,原始目标前景概率图每一个像素点的像素值能够表征,相应的原始图像中该像素点为目标前景的概率,例如原始图像的大小为h*w,对应的原始目标前景概率图也是h*w,并且,h*w个像素中,每一个像素值均表征相应的原始图像中该像素点为目标前景的概率。
例如,若原始图像1的尺寸为:20*30,若原始图像1对应的原始目标前景概率图为原始目标前景概率图1,则原始目标前景概率图1的尺寸也可以为:20*30。原始目标前景概率图1中,像素点(0,1)对应的像素值,若为204,则可以表征原始图像1中,像素点(0,1)为目标前景的概率可以为:204/255=0.8。
在本申请实施例中,将从上述视频中获取的每一帧原始图像输入上述语义分割网络,可以得到与从上述视频中获取的每一帧原始图像对应的每一帧原始目标前景概率图。每一帧原始目标前景概率图为:从上述视频中获取的每一帧所述原始图像中,每一个像素为目标前景的概率值对应的图像。具体的,该每一帧原始目标前景概率图中,目标前景的像素可以以设定方式进行显示,该原始目标前景概率图中,可以提供从上述视频中获取的每一帧所述原始图像中,每一个像素为目标前景的概率值。例如,若目标前景为天空,若从上述视频中获取的每一帧原始图像中,坐标为(x1,y1)的像素为目标前景天空的概率值为:0.9,则该原始目标前景概率图中坐标为(x1,y1)的像素为目标前景天空的概率值为:0.9。
在步骤S13中,对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图。
在本申请实施例中,视频中时序连续的几帧原始图像,同一坐标的相似性通常较高,进而,视频中时序连续的几帧原始图像,同一坐标的目标前景的概率值通常差距不应该太大,但由于抖动等原因的存在,使得视频中时序连续的几帧原始图像,通过该语义分割网络输出的同一坐标的目标前景概率值可能差距较大,为了避免上述抖动等原因导致的对目标前景的识别不准的问题,可以对上述原始目标前景概率图进行时序平滑,进而消除抖动等因素的打扰,以提高对从视频中获取的每一帧原始图像的目标前景的识别准确度。
在本申请实施例中,针对从视频中获取的每一帧原始图像,可以从上述视频中获取对应的参考原始图像,该参考原始图像可以为在上述视频中,与该帧原始图像时序相关性较高的1帧或多帧原始图像。在申请实施例中,对此不作具体限定。
在申请实施例中,可以根据每一帧原始图像对应的参考图像,分别对上述原始图像对应的每一帧原始目标前景概率图进行时序平滑,进而得到从视频中获取的每一帧第一目标前景概率图。
在步骤S14中,对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图。
在本申请的实施例中,可以对上述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图。
具体的,该双边滤波可以为结合了该第一目标前景概率图的空间邻近度和像素值相似度的一种折中处理,该双边滤波可以同时考虑空域信息和像素值相似性,达到保边去噪的目的。
在本申请的实施例中,可选的,该双边滤波可以为结合了阿尔法截尾均值滤波与高斯滤波的双边滤波,该双边滤波中核的系数表达式可以如下:
Figure BDA0001902986910000081
在公式1中,i,j为核中心的像素坐标,k,l为的核中心的邻域像素坐标,f(i,j)为核中心像素值,f(k,l)为核中心的邻域的像素值,
Figure BDA0001902986910000082
为位置方差,
Figure BDA0001902986910000083
为像素值方差。
在本申请实施例中,核的大小以及上述位置方差等,可以根据实际需要进行设定,在本申请实施例中,对此不作具体限定。
在本申请实施例中,对上述每一帧第一目标前景概率图进行双边滤波后,得到每一帧第二目标前景概率图。通过上述双边滤波,由于同时考虑空域信息和像素值相似性,每一帧第二目标前景概率图中,目标前景和背景的边界更加准确,进而可以提升后续对目标情景识别的准确性。
在步骤S15中,基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
在本申请的实施例中,每一帧第二目标前景概率图中,目标前景和背景的边界更加准确,进而基于每一帧上述第二目标前景概率图,对从该视频中获取的每一帧上述原始图像的目标前景进行识别。
具体的,可以设定一定的像素阈值或目标前景概率阈值,将上述第二目标前景概率图中,大于等于该像素阈值或目标情景概率阈值的像素,确定为该目标前景的第一像素,得到上述第二目标前景概率值中,每一个第一像素的目标坐标,将从该视频中获取的该帧原始图像中的上述目标坐标对应的像素,确定为从该视频中获取的该原始图像的目标前景。该像素阈值或目标情景概率阈值可以根据实际需要进行设定,在本申请实施例中对此不作具体限定。
本公开的实施例提供的技术方案可以包括以下有益效果:获取视频的至少一帧原始图像;将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。相对于现有技术中,从语义分割网络中输出的原始目标前景概率图后,就直接基于该原始目标前景概率图识别该原始图像的目标前景而言,本申请实施例,从语义分割网络得到原始目标前景概率图后,对该原始目标前景概率图进行了时序平滑和双边滤波,使得该第二目标前景概率图中的前景边界更为准确,进而能够从第二目标前景概率图中,更为准确的识别出从视频中获取的每一帧原始图像的目标前景。
图2是根据一示例性实施例示出的另一种前景识别方法的流程图,如图2所示,包括以下步骤。
在步骤S21中,获取视频的至少一帧原始图像。
在本申请的实施例中,步骤S21可以参照上述步骤S11,为了避免重复此处不再赘述。
在步骤S22中,获取图像样本数据。
在本申请的实施例中,图像样本数据可以是通过相机等拍摄装置拍摄的图像,或者可以为通过网络下载或接收的图像等。该图像样本数据中可以包括多个不同的物体或主体,例如,可以包括:人、天空、道路、树木等。在本申请实施例中,对此不作具体限定。
在本申请实施例中,在获取到图像样本数据的同时或之后,可以针对上述图像样本数据获取其对应的初始标签图,该初始标签图可以是对上述每一个图像样本数据进行类别标注的图。例如,针对上述例子,若图像样本数据包括:人、天空、树木等,目标前景若为天空,该初始标签图即为将该图像样本数据中每一个像素进行归类后的图,例如,标注出每一个像素点是否属于天空,或者,可以标注出每一个像素点为天空的概率值等。在本申请实施例中,对此不作具体限定。
在步骤S23中,基于所述图像样本数据,训练所述语义分割网络。
在本申请的实施例中,可以针对上述图像样本数据,训练上述语义分割网络,具体的,可以将上述图像样本数据对应的初始标签图,输入原始语义分割网络,采用该原始语义分割网络,提取图像样本数据对应的特征部分,该特征部分可以包括该每一个主体的局部特征或该图像样本数据的整体特征,该局部特征可以识别出该图像样本数据中每一个主体的形状等,该图像样本数据的整体特征可以为该图像样本数据中每一个主体的逻辑结构等。例如,天空通常位于人或者树木的上方等。
对上述图像样本数据对应的特征部分进行相应的运算,获得上述图像样本数据中每一个主体的边缘特征,将上述图像样本数据的整体特征、局部特征、边缘特征等进行相应运算,同时,参照上述图像样本数据对应的初始标签图,对上述原始语义分割网络中的每一项参数进行调整,直至根据该原始语义分割网络输出的整体特征、局部特征、每一个主体的边缘特征,与上述图像样本数据对应的初始标签图的一致性达到预设阈值的情况下,训练得到该语义分割网络;或者,直至根据该原始语义分割网络输出的整体特征、目标前景的局部特征、目标前景的边缘特征,与上述图像样本数据对应的初始标签图中的目标前景的一致性达到预设阈值,训练得到该语义分割网络。在本申请实施例中,对此不作具体限定。
在本申请的实施例中,该语义分割网络可以与欲识别的目标前景具有对应关系,则在训练上述语义分割网络的过程中,可以主要关注上述图像样本数据中该目标前景的相关数据,进而提高该语义分割网络相对该目标前景的针对性,进而提高针对该目标前景的识别准确性。在本申请实施例中,对此不作具体限定。
在步骤S24中,将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率。
在本申请的实施例中,步骤S24可以参照上述步骤S12,为了避免重复,此处不再赘述。
在步骤S25中,从所述视频中,获取从所述视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数。
在本申请的实施例中,从上述视频中获取的每一帧原始图像的参考图像,可以为该视频中该帧原始图像之前的n帧原始图像,n可以为大于0的整数。n可以根据实际需要等进行选取。例如,n可以取值为1,或者,n可以取值为2等。在本申请实施例中,对此不作具体限定。
例如,若从该视频中获取的原始图像为视频1中的第10帧原始图像,若n为1,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像,再例如,若n为2,则该帧原始图像的参考图像,可以为视频1中的第8帧原始图像和第9帧原始图像。
在本申请可选的实施例中,可以对上述视频进行解码,获取从上述视频中获取的每一帧原始图像的参考图像。在本申请实施例中,对此不作具体限定。
在步骤S26中,将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率。
在本申请的实施例中,可以将每一帧上述参考图像输入语义分割网络,得到每一帧参考图像对应的每一帧参考目标前景概率图。例如,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图。
在本申请实施例中,上述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率。具体的,参考目标前景概率图可以与相应的参考图像大小一致,参考目标前景概率图每一个像素点的像素值能够表征,相应的参考图像中该像素点为目标前景的概率,例如参考图像的大小为h*w,对应的参考目标前景概率图也是h*w,并且,h*w个像素中,每一个像素值均表征相应的参考图像中该像素点为目标前景的概率。
例如,若参考图像1的尺寸为:20*30,若参考图像1对应的参考目标前景概率图为参考目标前景概率图1,则参考目标前景概率图1的尺寸也可以为:20*30。参考目标前景概率图1中,像素点(0,1)对应的像素值,若为153,则可以表征参考图像1中,像素点(0,1)为目标前景的概率可以为:153/255=0.7。
在本申请的实施例中,上述每一帧参考目标前景概率图为:每一帧上述参考图像中,每一个像素为目标前景的概率值对应的图像。例如,若目标前景为天空,若从某一帧参考图像中,坐标为(x2,y2)的像素为目标前景天空的概率值为:0.8,则该帧参考目标前景概率图中坐标为(x2,y2)的像素为目标前景天空的概率值为:0.8。
在步骤S27中,确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值。
在本申请的实施例中,可以确定每一帧参考目标前景概率图中,每一个像素的第一目标前景概率值。
具体的,每一帧参考目标前景概率图中包括了每一个像素的目标前景概率值,即,每一帧参考目标前景概率图中包括了每一个像素为目标前景的概率值,可以从每一帧参考目标前景概率图中,直接获取每一个像素的目标前景概率值,将该目标前景概率值直接确定为每一个像素的第一目标前景概率值。或者,可以从每一帧参考目标前景概率图中,获取每一个像素的目标前景概率值,同时从视频中,获取每一帧参考图像时序相关的原始图像,将上述与每一帧参考图像时序相关的原始图像,输入上述语义分割网络,得到第三目标前景概率图,结合上述第三目标前景概率图中每一个像素的目标前景概率值,和上述参考目标前景概率图中每一个像素的目标前景概率值,确定该第一目标前景概率值。在本申请实施例中,对此不作具体限定。
在步骤S28中,从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值。
在本申请的实施例中,可以从每一帧原始目标前景概率图中,获取每一个像素的第二目标前景概率值。
具体的,每一帧原始目标前景概率图中包括了每一个像素的第二目标前景概率值,即,每一帧原始目标前景概率图中包括了每一个像素为目标前景的概率值,可以从每一帧原始目标前景概率图中,直接获取每一个像素的第二目标前景概率值。例如,针对上述例子,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,第10帧原始图像对应的原始目标前景概率图中,获取的坐标为(x1,y1)的像素的第二目标前景概率值即为0.9。
在步骤S29中,针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
在本申请实施例中,该预设权重可以根据实际需要进行设定。在本申请实施例中,对此不作具体限定。在本申请实施例中,为了避免抖动等导致的对目标前景的识别不准,可以针对每一帧上述原始目标前景概率图,将上述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧第一目标前景概率图。
例如,针对上述例子,若从视频中获取的原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,若n为1,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图2,根据该参考目标前景概率图2,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,若原始目标前景概率图1中像素的第二目标前景概率值对应的预设权重为0.6,参考目标前景概率图2中对应像素的第一目标前景概率值的预设权重为0.4,则视频1中第10帧原始图像的第一目标前景概率图中,坐标为(x1,y1)的像素的目标前景概率值即可以为:0.6×0.9+0.4×0.8=0.86。
再例如,针对上述例子,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,若n为2,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像和视频1中的第8帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图2,根据该参考目标前景概率图2,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,将上述视频1中的第8帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图3,若根据该参考目标前景概率图3,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.7,若原始目标前景概率图1中像素的第二目标前景概率值对应的预设权重为0.6,参考目标前景概率图2中对应像素的第一目标前景概率值的预设权重为0.3,参考目标前景概率图3中对应像素的第一目标前景概率值的预设权重为0.1,则视频1中第10帧原始图像的第一目标前景概率图中,坐标为(x1,y1)的像素的目标前景概率值即可以为:0.6×0.9+0.3×0.8+0.1×0.7=0.85。
在本申请实施例中,若n≥2,即,一帧原始图像可以对应2帧及以上的参考图像,需要说明的是,通常距离该原始图像时序距离越近的参考图像,其与该原始图像的相似性可能会更高,因此,可以将时序距离越近的参考图像的权重设置的较大一些。例如,针对上述例子,若n为2,上述视频1中的第9帧原始图像作为参考图像,距离视频1中第10帧原始图像的时序距离,通常可以大于,上述视频1中的第8帧原始图像作为参考图像,距离视频1中第10帧原始图像的时序距离,进而,参考目标前景概率图2中对应像素的第一目标前景概率值的预设权重为0.3,参考目标前景概率图3中对应像素的第一目标前景概率值的预设权重为0.1,即,参考目标前景概率图2中对应像素的第一目标前景概率值的预设权重可以大于,参考目标前景概率图3中对应像素的第一目标前景概率值的预设权重。进而可以进一步去除抖动的影响,有利于准确识别目标前景。
在本申请实施例中,若n≥2,即,一帧原始图像可以对应2帧及以上的参考图像,若上述几帧参考图像,其与该原始图像的相似性若相当,则可以将每一帧参考图像的权重设置为相同。在本发明实施例中,对此不作具体限定。
在本申请实施例中,可选的,所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图之前,还可以包括:针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;针对每一个像素,确定所述n个差值中的最大差值;针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图,包括:针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
具体的,上述预设差值范围可以根据实际需要进行设定等。可以针对每一帧原始目标前景概率图,分别确定每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值。针对每一个像素,确定n个差值中的最大差值,针对每一帧原始目标前景概率图,确定最大差值在预设差值范围之外的目标像素值,针对每一帧原始目标前景概率图,将目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照上述预设权重加权求和,得到每一帧第一目标前景概率图。即,只是针对抖动较为严重的像素进行时序平滑处理,进而可以提升处理速度。
例如,针对上述例子,若n为1,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,n为1,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图2,根据该参考目标前景概率图2,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,则针对该帧原始图像的原始目标前景概率图,得到坐标为(x1,y1)的像素的第二目标前景概率值对应的1个差值可以为:0.9-0.8=0.1。则1个差值中的最大差值即可以为其本身,若该预设差值范围为-0.08至+0.08,则该差值0.1在该预设差值范围之外,则坐标为(x1,y1)的像素即可以为目标像素,以此类推,得到该帧原始目标前景概率图中的所有目标像素,将该帧原始目标前景概率图中的所有目标像素第二目标前景概率值与对应像素的1个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
再例如,针对上述例子,若原始图像为视频1中的第10帧原始图像,若该帧原始图像对应的原始目标前景概率图1中,坐标为(x1,y1)的像素的第二目标前景概率值为0.9,若n为2,则该帧原始图像的参考图像,可以为视频1中的第9帧原始图像和视频1中的第8帧原始图像,将上述视频1中的第9帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图2,根据该参考目标前景概率图2,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.8,将上述视频1中的第8帧原始图像,作为视频1中第10帧原始图像的参考图像,输入语义分割网络,得到参考图像对应的参考目标前景概率图3,若根据该参考目标前景概率图3,确定的坐标为(x1,y1)的像素的第一目标前景概率值若为0.7,则针对该帧原始图像的原始目标前景概率图,得到坐标为(x1,y1)的像素的第二目标前景概率值对应的2个差值可以为:0.9-0.8=0.1,和0.9-0.7=0.2。这2个差值中的最大差值即可以为0.2,若该预设差值范围为-0.1至+0.1,则该最大差值0.2在该预设差值范围之外,则坐标为(x1,y1)的像素即可以为目标像素,以此类推,得到该帧原始目标前景概率图中的所有目标像素,将该帧原始目标前景概率图中的所有目标像素第二目标前景概率值与对应像素的2个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
在步骤S30中,对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图。
在本申请实施例中,上述步骤S30可以参照上述步骤S14,为了避免重复,此处不再赘述。
在步骤S31中,对每一帧所述第二目标前景概率图进行高斯平滑。
在本申请实施例中,可以对上述第二目标前景概率图进行高速平滑,进而可以使得第二目标前景概率图中,目标前景的边缘较为模糊或平滑,避免从该第二目标前景概率图中识别出来的目标前景的轮廓或边缘太过生硬。
在本申请实施例中,该高斯平滑可以为高斯滤波,可以为对上述第二目标前景概率图进行高斯滤波。具体的,用一个模板,如或称卷积、掩模等,扫描该第二目标前景概率图中的每一个像素,用该模板确定的邻域内像素值的加权平均值去替代模板中心像素点的像素值。在本申请实施例中,对此不作具体限定。
在步骤S32中,基于每一帧高斯平滑后的第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
在本申请实施例中,基于每一帧高斯平滑后的第二目标前景概率图,识别从该视频中获取的每一帧上述原始图像的目标前景。具体的,可以设定一定的像素阈值或目标前景概率阈值,将上述高斯平滑后的第二目标前景概率图中,大于等于该像素阈值或目标情景概率阈值的像素,确定为该目标前景的第一像素,得到上述高斯平滑后的第二目标前景概率图中,每一个第一像素的目标坐标,将从该视频中获取的该帧原始图像中的上述目标坐标对应的像素,确定为该原始图像的目标前景。该像素阈值或目标情景概率阈值可以根据实际需要进行设定,在本申请实施例中对此不作具体限定。
在步骤S33中,对从所述视频中获取的每一帧所述原始图像的目标前景,进行前景处理。
在本申请实施例中,对从上述视频中获取的每一帧原始图像的目标前景,进行前景处理。该前景处理可以包括,前景替换,或前景编辑等。
具体的,可以对从上述视频中获取的每一帧原始图像的目标前景中的全部像素,用预设像素进行替换,或者,可以对从上述视频中获取的每一帧原始图像的目标前景中的部分像素,用预设像素进行替换,或者,可以对从上述视频中获取的某几帧原始图像的目标前景中的全部像素,用预设像素进行替换,或者,可以对从上述视频中获取的某几帧原始图像的目标前景中的部分像素,用预设像素进行替换等。在本申请实施例中,对此不作具体限定。
例如,参照图3所示,图3是根据一示例性实施例示出的一种前景处理的示意图,如
图3所示,图3的左侧为从上述视频中获取的一帧原始图像,图3的右侧为对从上述视频中获取的该原始图像中的目标前景,前景处理后的示意图。具体的,图3中从上述视频中获取的原始图像中的目标前景可以为小狗10,图3的右侧中的20即为对从上述视频中获取的该原始图像中的目标前景小狗10的部分像素用预设像素进行了替换。
在本申请实施例中,通过对从上述视频中获取的每一帧原始图像的原始目标前景概率图进行上述处理后,可以从上述第二目标前景概率图中,准确识别出从上述视频中获取的每一帧原始图像的目标前景,通过对上述目标前景的上述前景处理,无需重新拍摄、下载或接收视频,即可得到新的视频,进而可以提升娱乐效果。
本公开的实施例提供的技术方案可以包括以下有益效果:获取视频的至少一帧原始图像;将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。相对于现有技术中,从语义分割网络中输出的原始目标前景概率图后,就直接基于该原始目标前景概率图识别该原始图像的目标前景而言,本申请实施例,从语义分割网络得到原始目标前景概率图后,对该原始目标前景概率图进行了时序平滑和双边滤波,使得该第二目标前景概率图中的前景边界更为准确,进而能够从第二目标前景概率图中,更为准确的识别出从视频中获取的每一帧原始图像的目标前景。
图4是根据一示例性实施例示出的一种前景识别装置框图。参照图4,该装置包括原始图像获取模块301,原始目标前景概率图获取模块304、第一目标前景概率图确定模块305、第二目标前景概率图确定模块306和目标前景识别模块307。
原始图像获取模块301,被配置为获取视频的至少一帧原始图像;
原始目标前景概率图获取模块304,被配置为将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
第一目标前景概率图确定模块305,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
第二目标前景概率图确定模块306,被配置为对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;
目标前景识别模块307,被配置为基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
可选的,在上述图4的基础上,参照图5所示,所述第一目标前景概率图确定模块305可以包括:
参考图像获取子模块3051,被配置为从所述视频中,获取从所述视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
参考目标前景概率图获取子模块3052,被配置为将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
第一目标前景概率值确定子模块3053,被配置为确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
第二目标前景概率值获取子模块3054,被配置为从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
第一目标前景概率图确定子模块3055,被配置为针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
可选的,所述装置还可以包括:
差值确定模块,被配置为针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
最大差值确定模块,被配置为针对每一个像素,确定所述n个差值中的最大差值;
目标像素确定模块,被配置为针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述第一目标前景概率图确定子模块3055可以包括:
第一目标前景概率图确定单元,被配置为针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
可选的,所述目标前景识别模块307可以包括:
高斯平滑子模块3071,被配置为对每一帧所述第二目标前景概率图进行高斯平滑;
目标前景识别子模块3072,被配置为基于每一帧高斯平滑后的第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
可选的,所述装置还可以包括:
前景处理模块308,被配置为对从所述视频中获取的每一帧所述原始图像的目标前景,进行前景处理。
可选的,所述装置还可以包括:
图像样本数据获取模块302,被配置为获取图像样本数据;
语义分割网络训练模块303,被配置为基于所述图像样本数据,训练所述语义分割网络。
关于上述实施例中的装置,其中各个单元或模块等执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图6是根据一示例性实施例示出的一种电子设备600的框图。例如,电子设备600可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图6,电子设备600可以包括以下一个或多个组件:处理组件602,存储器604,电力组件606,多媒体组件608,音频组件610,输入/输出(I/O)的接口612,传感器组件614,以及通信组件616。
处理组件602通常控制电子设备600的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件602可以包括一个或多个处理器620来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件602可以包括一个或多个模块,便于处理组件602和其他组件之间的交互。例如,处理组件602可以包括多媒体模块,以方便多媒体组件608和处理组件602之间的交互。
存储器604被配置为存储各种类型的数据以支持在设备600的操作。这些数据的示例包括用于在电子设备600上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器604可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件606为电子设备600的各种组件提供电力。电源组件606可以包括电源管理***,一个或多个电源,及其他与为电子设备600生成、管理和分配电力相关联的组件。
多媒体组件608包括在所述电子设备600和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件608包括一个前置摄像头和/或后置摄像头。当设备600处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件610被配置为输出和/或输入音频信号。例如,音频组件610包括一个麦克风(MIC),当电子设备600处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器604或经由通信组件616发送。在一些实施例中,音频组件610还包括一个扬声器,用于输出音频信号。
I/O接口612为处理组件602和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件614包括一个或多个传感器,用于为电子设备600提供各个方面的状态评估。例如,传感器组件614可以检测到设备600的打开/关闭状态,组件的相对定位,例如所述组件为电子设备600的显示器和小键盘,传感器组件614还可以检测电子设备600或电子设备600一个组件的位置改变,用户与电子设备600接触的存在或不存在,电子设备600方位或加速/减速和电子设备600的温度变化。传感器组件614可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件614还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件614还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件616被配置为便于电子设备600和其他设备之间有线或无线方式的通信。电子设备600可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件616经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件616还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备600可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述图1至图2的前景识别方法,且能达到相同的技术效果,为了避免重复此处不再赘述。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器604,上述指令可由装置600的处理器620执行以完成上述图1至图2的前景识别方法,且能达到相同的技术效果,为了避免重复此处不再赘述。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图7是根据一示例性实施例示出的另一种电子设备700的框图。例如,电子设备700可以被提供为一服务器。参照图7,电子设备700包括处理组件722,其进一步包括一个或多个处理器,以及由存储器732所代表的存储器资源,用于存储可由处理组件722的执行的指令,例如应用程序。存储器732中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件722被配置为执行指令,以执行上述图1至图2的前景识别方法,且能达到相同的技术效果,为了避免重复此处不再赘述。
电子设备700还可以包括一个电源组件726被配置为执行电子设备700的电源管理,一个有线或无线网络接口750被配置为将电子设备700连接到网络,和一个输入输出(I/O)接口758。电子设备700可以操作基于存储在存储器732的操作***,例如WindowsServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
根据本公开实施例的一个方面,提供一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行上述图1至图2的前景识别方法,且能达到相同的技术效果,为了避免重复此处不再赘述。本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种前景识别方法,其特征在于,包括:
获取视频的至少一帧原始图像;
将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;
基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景;
所述对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图,包括:
从所述视频中,获取从所述视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图;
所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图之前,还包括:
针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
针对每一个像素,确定所述n个差值中的最大差值;
针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图,包括:
针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
2.根据权利要求1所述的前景识别方法,其特征在于,所述基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景,包括:
对每一帧所述第二目标前景概率图进行高斯平滑;
基于每一帧高斯平滑后的第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
3.根据权利要求1所述的前景识别方法,其特征在于,所述基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景之后,还包括:
对从所述视频中获取的每一帧所述原始图像的目标前景,进行前景处理。
4.根据权利要求1所述的前景识别方法,其特征在于,所述将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图之前,还包括:
获取图像样本数据;
基于所述图像样本数据,训练所述语义分割网络。
5.一种前景识别装置,其特征在于,包括:
原始图像获取模块,被配置为获取视频的至少一帧原始图像;
原始目标前景概率图获取模块,被配置为将从所述视频中获取的每一帧所述原始图像输入语义分割网络,得到与从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图;所述原始目标前景概率图中,每一个像素点的像素值表征了相应的原始图像中对应像素点为目标前景的概率;
第一目标前景概率图确定模块,被配置为对从所述视频中获取的每一帧所述原始图像对应的每一帧原始目标前景概率图进行时序平滑,得到所述从视频中获取的每一帧所述原始图像对应的每一帧第一目标前景概率图;
第二目标前景概率图确定模块,被配置为对每一帧所述第一目标前景概率图进行双边滤波,得到每一帧第二目标前景概率图;
目标前景识别模块,被配置为基于每一帧所述第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景;
所述第一目标前景概率图确定模块包括:
参考图像获取子模块,被配置为从所述视频中,获取从所述视频中获取的每一帧所述原始图像的参考图像;所述参考图像为所述视频中获取的每一帧所述原始图像之前的n帧原始图像;所述n为大于0的整数;
参考目标前景概率图获取子模块,被配置为将每一帧所述参考图像输入所述语义分割网络,得到每一帧所述参考图像对应的每一帧参考目标前景概率图;所述参考目标前景概率图中,每一个像素点的像素值表征了相应的参考图像中对应像素点为目标前景的概率;
第一目标前景概率值确定子模块,被配置为确定每一帧所述参考目标前景概率图中,每一个像素的第一目标前景概率值;
第二目标前景概率值获取子模块,被配置为从每一帧所述原始目标前景概率图中,获取每一个像素的第二目标前景概率值;
第一目标前景概率图确定子模块,被配置为针对每一帧所述原始目标前景概率图,将所述每一个像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图;
还包括:
差值确定模块,被配置为针对每一帧所述原始目标前景概率图,分别确定所述每一个像素的第二目标前景概率值与对应像素的每一个第一目标前景概率值的差值,得到每一个像素的第二目标前景概率值对应的n个差值;
最大差值确定模块,被配置为针对每一个像素,确定所述n个差值中的最大差值;
目标像素确定模块,被配置为针对每一帧所述原始目标前景概率图,确定所述最大差值在预设差值范围之外的目标像素;
所述第一目标前景概率图确定子模块包括:
第一目标前景概率图确定单元,被配置为针对每一帧所述原始目标前景概率图,将所述目标像素的第二目标前景概率值与对应像素的n个第一目标前景概率值,按照预设权重加权求和,得到每一帧所述第一目标前景概率图。
6.根据权利要求5所述的前景识别装置,其特征在于,所述目标前景识别模块包括:
高斯平滑子模块,被配置为对每一帧所述第二目标前景概率图进行高斯平滑;
目标前景识别子模块,被配置为基于每一帧高斯平滑后的第二目标前景概率图,识别从所述视频中获取的每一帧所述原始图像的目标前景。
7.根据权利要求5所述的前景识别装置,其特征在于,还包括:
前景处理模块,被配置为对从所述视频中获取的每一帧所述原始图像的目标前景,进行前景处理。
8.根据权利要求5所述的前景识别装置,其特征在于,还包括:
图像样本数据获取模块,被配置为获取图像样本数据;
语义分割网络训练模块,被配置为基于所述图像样本数据,训练所述语义分割网络。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的第一存储器;
其中,所述处理器被配置为:执行如权利要求1至4中任一项所述的前景识别方法。
10.一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行如权利要求1至4中任一项所述的前景识别方法。
CN201811520020.6A 2018-12-12 2018-12-12 前景识别方法、装置、电子设备及存储介质 Active CN109784164B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811520020.6A CN109784164B (zh) 2018-12-12 2018-12-12 前景识别方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811520020.6A CN109784164B (zh) 2018-12-12 2018-12-12 前景识别方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN109784164A CN109784164A (zh) 2019-05-21
CN109784164B true CN109784164B (zh) 2020-11-06

Family

ID=66496780

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811520020.6A Active CN109784164B (zh) 2018-12-12 2018-12-12 前景识别方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN109784164B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111405293B (zh) * 2020-03-20 2022-05-03 北京达佳互联信息技术有限公司 一种视频传输方法及装置
CN111507997B (zh) * 2020-04-22 2023-07-25 腾讯科技(深圳)有限公司 图像分割方法、装置、设备及计算机存储介质
CN113763306B (zh) * 2020-06-01 2024-06-04 杭州海康威视数字技术股份有限公司 一种地标检测方法、装置及电子设备
CN112508959B (zh) * 2020-12-15 2022-11-11 清华大学 视频目标分割方法、装置、电子设备及存储介质
CN112734874B (zh) * 2021-01-04 2024-06-18 厦门美图之家科技有限公司 油画生成方法、装置、计算机设备和存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101676953A (zh) * 2008-08-22 2010-03-24 奥多比公司 自动视频图像分割
WO2010136593A2 (en) * 2009-05-29 2010-12-02 Tessera Technologies Ireland Limited Methods and apparatuses for foreground, top-of-the-head separation from background
CN102609934A (zh) * 2011-12-22 2012-07-25 中国科学院自动化研究所 一种基于深度图像的多目标分割和跟踪方法
CN102970528A (zh) * 2012-12-28 2013-03-13 北京航空航天大学 基于变化检测和帧差累积的视频对象分割方法
CN103262119A (zh) * 2010-12-08 2013-08-21 阿尔卡特朗讯公司 用于对图像进行分割的方法和***
CN105261037A (zh) * 2015-10-08 2016-01-20 重庆理工大学 一种自适应复杂场景的运动目标检测方法
CN106875406A (zh) * 2017-01-24 2017-06-20 北京航空航天大学 图像引导的视频语义对象分割方法及装置
CN107564025A (zh) * 2017-08-09 2018-01-09 浙江大学 一种基于深度神经网络的电力设备红外图像语义分割方法
CN107564032A (zh) * 2017-09-01 2018-01-09 深圳市唯特视科技有限公司 一种基于外观网络的视频跟踪对象分割方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101676953A (zh) * 2008-08-22 2010-03-24 奥多比公司 自动视频图像分割
WO2010136593A2 (en) * 2009-05-29 2010-12-02 Tessera Technologies Ireland Limited Methods and apparatuses for foreground, top-of-the-head separation from background
CN103262119A (zh) * 2010-12-08 2013-08-21 阿尔卡特朗讯公司 用于对图像进行分割的方法和***
CN102609934A (zh) * 2011-12-22 2012-07-25 中国科学院自动化研究所 一种基于深度图像的多目标分割和跟踪方法
CN102970528A (zh) * 2012-12-28 2013-03-13 北京航空航天大学 基于变化检测和帧差累积的视频对象分割方法
CN105261037A (zh) * 2015-10-08 2016-01-20 重庆理工大学 一种自适应复杂场景的运动目标检测方法
CN106875406A (zh) * 2017-01-24 2017-06-20 北京航空航天大学 图像引导的视频语义对象分割方法及装置
CN107564025A (zh) * 2017-08-09 2018-01-09 浙江大学 一种基于深度神经网络的电力设备红外图像语义分割方法
CN107564032A (zh) * 2017-09-01 2018-01-09 深圳市唯特视科技有限公司 一种基于外观网络的视频跟踪对象分割方法

Also Published As

Publication number Publication date
CN109784164A (zh) 2019-05-21

Similar Documents

Publication Publication Date Title
CN109784164B (zh) 前景识别方法、装置、电子设备及存储介质
CN109345485B (zh) 一种图像增强方法、装置、电子设备及存储介质
CN108154465B (zh) 图像处理方法及装置
CN109889724B (zh) 图像虚化方法、装置、电子设备及可读存储介质
CN109509195B (zh) 前景处理方法、装置、电子设备及存储介质
CN111553864B (zh) 图像修复方法及装置、电子设备和存储介质
CN110619350B (zh) 图像检测方法、装置及存储介质
CN107798654B (zh) 图像磨皮方法及装置、存储介质
CN110580688B (zh) 一种图像处理方法、装置、电子设备及存储介质
CN108154466B (zh) 图像处理方法及装置
CN109784327B (zh) 边界框确定方法、装置、电子设备及存储介质
CN106534951B (zh) 视频分割方法和装置
CN112188091B (zh) 人脸信息识别方法、装置、电子设备及存储介质
WO2023103298A1 (zh) 遮挡检测方法及装置、电子设备、存储介质及计算机程序产品
CN112634160A (zh) 拍照方法及装置、终端、存储介质
CN112200040A (zh) 遮挡图像检测方法、装置及介质
CN110728180B (zh) 图像处理方法、装置及存储介质
CN111523346A (zh) 图像识别方法及装置、电子设备和存储介质
CN110796012B (zh) 图像处理方法、装置、电子设备及可读存储介质
CN110827219B (zh) 图像处理模型的训练方法、装置及介质
CN113660531A (zh) 视频处理方法及装置、电子设备和存储介质
CN110110742B (zh) 多特征融合方法、装置、电子设备及存储介质
CN106469446B (zh) 深度图像的分割方法和分割装置
CN113506324B (zh) 图像处理方法及装置、电子设备和存储介质
CN111507131A (zh) 活体检测方法及装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant