CN110378945A - 深度图处理方法、装置和电子设备 - Google Patents
深度图处理方法、装置和电子设备 Download PDFInfo
- Publication number
- CN110378945A CN110378945A CN201910622956.8A CN201910622956A CN110378945A CN 110378945 A CN110378945 A CN 110378945A CN 201910622956 A CN201910622956 A CN 201910622956A CN 110378945 A CN110378945 A CN 110378945A
- Authority
- CN
- China
- Prior art keywords
- depth
- interest
- area
- pixel unit
- depth map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本申请提出一种深度图处理方法、装置和电子设备,其中,方法包括:同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息;从成像图中识别感兴趣区域;根据深度图,确定感兴趣区域中各像素单元对应的深度信息;根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。该方法能够实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种深度图处理方法、装置和电子设备。
背景技术
目前,为了改善深度图质量,可以对深度图进行滤波处理。现有技术中,采用双边滤波、各向异性滤波、基于固定阈值的滤波等通过滤波算法,对深度图进行滤波处理。
然而实际应用场景中,由于往往会存在较多的不确定性,比如背景与前景的距离不同,前景到飞行时间(Time of Flight,简称TOF)相机的距离不同,环境光照不同等等,上述滤波算法需要用户针对具体场景做合理的参数设置。这种方式下,对于没有相关专业经验的用户或者仅仅是利用深度图的应用开发者来说,这样的设置是非常困难的,可能导致滤波后的深度图中存在较多的飞像素点,影响后续的图像处理。
发明内容
本申请提出一种深度图处理方法、装置和电子设备,以实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性,用于解决现有技术中滤波后的深度图中存在较多的飞像素点的技术问题。
本申请第一方面实施例提出了一种深度图处理方法,包括:
同步采集成像图和深度图;其中,所述深度图用于指示所述成像图中各像素单元对应深度信息;
从成像图中识别感兴趣区域;
根据所述深度图,确定所述感兴趣区域中各像素单元对应的深度信息;
根据所述感兴趣区域中各像素单元对应的深度信息,判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理。
本申请实施例的深度图处理方法,通过同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息,之后,从成像图中识别感兴趣区域,并根据深度图,确定感兴趣区域中各像素单元对应的深度信息,最后,根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。由此,可以实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性。
本申请第二方面实施例提出了一种深度图处理装置,包括:
采集模块,用于同步采集成像图和深度图;其中,所述深度图用于指示所述成像图中各像素单元对应深度信息;
识别模块,用于从成像图中识别感兴趣区域;
确定模块,用于根据所述深度图,确定所述感兴趣区域中各像素单元对应的深度信息;
判断模块,用于根据所述感兴趣区域中各像素单元对应的深度信息,判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理。
本申请实施例的深度图处理装置,通过同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息,之后,从成像图中识别感兴趣区域,并根据深度图,确定感兴趣区域中各像素单元对应的深度信息,最后,根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。由此,可以实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性。
本申请第三方面实施例提出了一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如本申请第一方面实施例提出的深度图处理方法。
本申请第四方面实施例提出了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本申请第一方面实施例提出的深度图处理方法。
本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本申请实施例一所提供的深度图处理方法的流程示意图;
图2为本申请实施例二所提供的深度图处理方法的流程示意图;
图3为本申请实施例三所提供的深度图处理方法的流程示意图;
图4为本申请实施例四所提供的深度图处理方法的流程示意图;
图5为本申请实施例五所提供的深度图处理方法的流程示意图;
图6为本申请实施例六所提供的深度图处理装置的结构示意图;
图7为本申请实施例七所提供的深度图处理装置的结构示意图。
具体实施方式
下面详细描述本申请的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本申请,而不能理解为对本申请的限制。
目前,单频率TOF相机的原始数据的处理流程主要包括以下步骤:
步骤1,将原始数据转换为i,q数据,其中,i,q表示收集的电荷,分别为距离对应延迟相角的正弦值和余弦值;
步骤2,将i,q转化为置信度p0(|i|+|q|)和相位差c0(arctan(i/q));
步骤3,对置信度p0进行误差校正,得到p_cor;
步骤4,根据p_cor和c0确定i,q;
步骤5,对i,q进行滤波处理;
步骤6,对滤波处理后的径向深度图转为点云深度图。
其中,步骤5中对i,q进行滤波,是对i,q进行独立的滤波,主要涉及以下子步骤:
a)通过平滑相应的i,q数值,以平滑深度图的整体深度值,其中,平滑滤波采用的是诸如向异性滤波、中值滤波等通用的滤波算法;
b)将i,q转换为深度信息和置信度信息;
c)对产生的深度进行通用算法的滤波(包括时间以及空间滤波),其中,采用的通用算法包括双边滤波、各向异性滤波、飞像素/置信度阈值滤波等等滤波算法,可以在一定程度改善输出深度图质量。
然而,上述滤波算法需要用户针对具体场景做合理的参数设置,对于没有相关专业经验的用户或者仅仅是利用深度图的应用开发者来说,这样的设置是非常困难的,可能导致滤波后的深度图中存在较多的飞像素点,影响后续的图像处理。
本申请主要针对现有技术中滤波后的深度图中存在较多的飞像素点的技术问题,提出一种深度图处理方法。
本申请实施例的深度图处理方法,通过同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息,之后,从成像图中识别感兴趣区域,并根据深度图,确定感兴趣区域中各像素单元对应的深度信息,最后,根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。由此,可以实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性。
下面参考附图描述本申请实施例的深度图处理方法、装置和电子设备。
图1为本申请实施例一所提供的深度图处理方法的流程示意图。
本申请实施例以该深度图处理方法被配置于深度图处理装置中来举例说明,该深度图处理装置可以应用于任一具有拍照功能的电子设备中,以使该电子设备执行深度图处理功能。
其中,电子设备可以为移动终端或者智能摄像机等,对此不作限制。移动终端可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作***、触摸屏和/或显示屏的硬件设备。
如图1所示,该深度图处理方法包括以下步骤:
步骤101,同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息。
本申请实施例中,成像图为二维的,例如,电子设备可以包括RGB摄像头,通过该RGB摄像头采集得到成像图。
本申请实施例中,电子设备可以包括TOF相机或TOF摄像头,通过TOF相机采集得到深度图,其中,成像图和深度图为同步采集的,例如,在控制RGB摄像头采集成像图时,可以同步控制TOF相机采集深度图。
本申请实施例中,采集得到的深度图中,每个像素单元具有对应的深度信息,用于指示成像图中各像素单元对应深度信息,其中,深度信息包括深度和深度的置信度。具体地,TOF相机可以包括红外发射光源,通过红外发射光源向外发射光波信号,感光模组可以接收反射光波信号,从而根据发射光波信号与反射光波信号的相位变化,可以进行距离测量,得到对应的深度。
也就是说,每个像素单元对应的深度是根据红外光相位差生成的,而深度的置信度是根据红外光强确定的,其中,距离TOF相机越近,深度越小,深度的置信度越大,距离TOF相机越远,深度越大,深度的置信度越小。
步骤102,从成像图中识别感兴趣区域。
本申请实施例中,感兴趣区域(Region of Interest,简称ROI)可以为用户感兴趣的物体所在的区域,其中,感兴趣的物体可以为电子设备的内置程序预先设定的,或者,为了满足用户的个性化需求,感兴趣的物体还可以由用户进行设置,比如电子设备可以提供输入界面,用户可以根据自身需求在该输入界面,输入其感兴趣的物体,本申请对此并不做限制。
举例而言,感兴趣的物体所在的区域,即ROI可以为植物、动物、建筑物、人等所在的区域,或者,对于人像场景而言,ROI可以为人像的局部区域,比如人脸区域、手部区域、腰部区域、腿部区域、脚部区域等等,此处不一一列举。
作为一种可能的实现方式,为了提升感兴趣区域识别结果的准确性,可以基于深度学习的图像处理技术,在成像图中识别该感兴趣区域。
例如,可以采用语义分割模型,对成像图进行识别,确定感兴趣区域,其中,语义分割模块可以为相关技术中较为成熟的语义分割模型,比如为deeplab、psp等模型,对此不作限制。具体地,可以预先采集训练图像,或者从互联网上下载训练图像,而后可以对训练图像中感兴趣的物体所在的区域进行标注,利用标注后的训练图像,对初始的语义分割模型进行训练,训练后的语义分割模型可以学习得到图像与感兴趣区域之间的对应关系。
或者,还可以采用预先训练的识别模型,对成像图进行识别,确定感兴趣区域,其中,上述预先训练的识别模型,已学习得到颜色特征、形状特征、边缘特征和/或纹理特征与感兴趣区域之间的对应关系。
作为另一种可能的实现方式,还可以基于RGB颜色分割方法,从成像图中识别感兴趣区域。例如,当感兴趣区域为手部区域时,可以将RGB颜色空间的成像图转化到HSV颜色空间进行手部皮肤检测,并对检测结果进行二值化,比如检测到皮肤,则将像素单元对应的取值设为1,若未检测到皮肤,则将像素单元对应的取值设为0,之后,对各个包含取值1的区域,进行像素单元个数的统计,从而可以将统计结果最大的区域,作为手部区域。
需要说明的是,还可以基于其他算法,从成像图中识别感兴趣区域,本申请对此并不做限制。
步骤103,根据深度图,确定感兴趣区域中各像素单元对应的深度信息。
本申请实施例中,在确定成像图中的感兴趣区域后,可以根据深度图,确定该感兴趣区域中各像素单元对应的深度信息。具体地,在确定成像图中感兴趣区域后,针对该感兴趣区域中的每个像素单元,可以根据深度图和成像图之间的映射关系,在深度图中,确定与该像素单元对应的第一像素单元,从而根据该第一像素单元的深度信息,可以确定成像图中对应像素单元的深度信息。
步骤104,根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。
本申请实施例中,在确定感兴趣区域中各像素单元对应的深度信息后,可以根据该感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。例如,感兴趣区域内可以同时包含感兴趣的物体和背景(比如凳子、桌子、墙、地面等),在感兴趣的物体和背景的距离较近的场景下,感兴趣的物体边缘较为清晰,飞像素点现象不明显,因此,可以无需对深度图中各像素单元的深度信息进行滤波处理,而在感兴趣的物体和背景的距离较远的场景下,或者,背景的深度较大时,此时,感兴趣的物体边缘可能较为模糊,飞像素点现象较为明显,因此,可以对深度图中各像素单元的深度信息进行滤波处理。
由此,可以实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性,解决飞像素点对感兴趣区域边缘干扰的问题。
本申请实施例的深度图处理方法,通过同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息,之后,从成像图中识别感兴趣区域,并根据深度图,确定感兴趣区域中各像素单元对应的深度信息,最后,根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。由此,可以实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性。
作为一种可能的实现方式,可以根据感兴趣区域中各像素单元对应的深度信息,确定感兴趣区域所属的场景类型,从而根据场景类型判断是否需要对深度图总各像素单元的深度信息进行滤波处理。下面结合实施例二,对上述过程进行详细说明。
图2为本申请实施例二所提供的深度图处理方法的流程示意图。
如图2所示,在图1所示实施例的基础上,步骤104具体可以包括以下子步骤:
步骤201,根据感兴趣区域中各像素单元对应的深度信息,确定感兴趣区域所属场景类型。
本申请实施例中,场景类型,可以根据深度图中背景到前景(比如感兴趣的物体)的距离进行划分,也可以根据背景到TOF相机的距离进行划分,也可以根据环境亮度进行划分,本申请对此不做限制。
作为一种可能的实现方式,可以预先设置不同深度信息与场景类型之间的对应关系,从而,本申请中,在确定感兴趣区域中各像素单元对应的深度信息后,可以根据深度信息,查询上述对应关系,确定该感兴趣区域所属的场景类型。
作为一种示例,以场景类型是根据深度图中背景到前景的距离以及背景到TOF相机的距离进行划分的示例,假设当背景到TOF相机的距离较远,例如大于第一距离阈值(比如1.5米)时,确定该场景类型为场景类型1,当背景和前景的距离较近,比如小于第二距离阈值(比如0.2米)时,确定该场景类型为场景类型2,当背景和前景的距离较远,比如大于第三距离阈值(比如0.3米)时,确定场景类型为场景3,并建立上述距离与场景类型之间的对应关系。从而本申请中,在确定感兴趣区域中各像素单元对应的深度信息后,可以根据感兴趣区域中各像素单元对应的深度信息,确定背景和前景的距离以及背景到TOF相机的距离,从而根据确定的结果,查询上述对应关系,确定该感兴趣区域所属场景类型。
步骤202,根据场景类型,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。
本申请实施例中,在确定场景类型后,可以根据该场景类型,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。
仍以上述例子示例,当场景类型为场景类型2时,由于前景和背景的距离较近,前景边缘较为清晰,飞像素点现象不明显,因此,可以确定无需对深度图中各像素单元的深度信息进行滤波处理,而当场景类型为场景类型1或者场景类型3时,由于前景和背景的距离较远,或者,背景的深度较大,此时,前景边缘可能较为模糊,飞像素点现象较为明显,因此,可以确定需要对深度图中各像素单元的深度信息进行滤波处理。
本申请实施例的深度图处理方法,通过根据感兴趣区域中各像素单元对应的深度信息,确定感兴趣区域所属场景类型;根据场景类型,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。由此,可以实现根据不同的场景类型,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量。
作为一种可能的实现方式,可以将背景较远,比如超出测量范围的背景,作为第一场景类型,将背景未超过测量范围,且前景与背景之间的距离较远的场景,作为第二场景类型,将背景未超过测量范围,且前景与背景之间的距离较近的场景,作为第三场景类型。从而本申请中,在确定感兴趣区域中各像素单元对应的深度信息后,可以根据感兴趣区域中各像素单元对应的深度信息,确定背景和前景的距离以及背景到TOF相机的距离,从而根据确定的结果,确定该感兴趣区域所属场景类型。下面结合实施例三,对上述过程进行详细说明。
图3为本申请实施例三所提供的深度图处理方法的流程示意图。
如图3所示,在图2所示实施例的基础上,步骤201具体可以包括以下子步骤:
步骤301,根据感兴趣区域中各像素单元对应的置信度,判断感兴趣区域是否存在超出测量范围的背景,若是,执行步骤302,若否,执行步骤303。
需要说明的是,背景距离TOF相机越近,深度的置信度越大,背景距离TOF相机越远,深度的置信度越小,因此,本申请实施例中,根据感兴趣区域中各像素单元对应的置信度,可以确定感兴趣区域是否存在超出测量范围的背景。
作为一种可能的实现方式,可以判断感兴趣区域中是否存在置信度小于第一置信阈值的像素单元,若是,则确定感兴趣区域中存在超出测量范围的背景,若否,则确定感兴趣区域中不存在超出测量范围的背景。
其中,第一置信阈值可以根据可测量范围预先确定,比如,可以预先确定在近景拍摄时,对应的可测量范围,从而根据该可测量范围,确定第一置信阈值,或者,也可以预先确定在远景拍摄时,对应的可测量范围,从而根据该可测量范围,确定第一置信阈值。在用户拍摄图像时,可以根据用户的操作,确定为近景拍摄还是为远景拍摄,从而可以确定对应的第一置信阈值。
需要说明的是,由于感兴趣区域中可能存在异常点、干扰点,或者,感兴趣区域中只存在较小部分的背景区域,比如只存在一个小墙角,因此,若成像图中仅存在几个或较少个数的像素单元对应深度的置信度小于第一置信阈值,即确定感兴趣区域中存在超出测量范围的背景显然是不合理的。因此,作为另一种可能的实现方式,为了提升判断结果的准确性,可以对感兴趣区域中,对应置信度小于第一置信阈值的像素单元统计个数,得到第一像素个数,并确定第一像素个数与感兴趣区域内总像素个数之比,得到第一比值,并判断第一比值是否大于第一阈值,若是,则确定感兴趣区域中存在超出测量范围的背景,若否,则确定感兴趣区域中不存在超出测量范围的背景。其中,第一比值为预先设置的,比如,第一比值可以为10%。
步骤302,识别感兴趣区域属于第一场景类型。
本申请实施例中,当确定存在超出测量范围的背景,即背景较远时,识别感兴趣区域所属场景类型为第一场景类型。
步骤303,根据感兴趣区域中各像素单元对应的深度,确定感兴趣区域中背景与前景之间的距离等级。
本申请实施例中,当确定不存在超出测量范围的背景时,可以根据感兴趣区域中各像素单元对应的深度,确定感兴趣区域中背景与前景之间的距离等级。
作为一种可能的实现方式,可以根据感兴趣区域中各像素单元的深度,确定最大深度和最小深度,根据最大深度和最小深度之比或之差,确定感兴趣区域中背景与前景之间的距离等级。
需要说明的是,由于感兴趣区域中可能存在异常点、干扰点,导致相应像素单元对应深度的置信度较小(距离摄像头较远),若将该像素单元对应的深度,作为最大深度显然是不合理的。因此,作为又一种可能的实现方式,为了提升判断结果的准确性,可以对感兴趣区域,从各像素单元对应深度中,筛选出置信度大于第二置信阈值的目标深度,并从目标深度中,确定最大深度和最小深度,从而可以根据最大深度和最小深度之比或之差,确定感兴趣区域中背景与前景之间的距离等级。其中,第二置信阈值为预先确定的。
举例而言,当最大深度和最小深度之比越大,或者最大深度和最小深度之差越大时,可以确定距离等级越大,而当最大深度和最小深度之比越小,或者最大深度和最小深度之差越小,可以确定距离等级越小。其中,距离等级越大,前景与背景之间的距离越远,距离等级越小,前景与背景之间的距离越近。
步骤304,根据距离等级,识别感兴趣区域属于第二场景类型,或者属于第三场景类型;其中,第二场景类型中背景与前景之间的距离大于第三场景类型中背景与前景之间的距离。
本申请实施例中,在确定距离等级后,可以根据该距离等级,识别感兴趣区域属于第二场景类型还是第三场景类型。其中,第二场景类型中背景与前景之间的距离大于第三场景类型中背景与前景之间的距离。
作为一种可能的实现方式,可以预先建立距离等级与场景类型之间的对应关系,从而本申请中,在确定距离等级后,可以查询上述对应关系,确定感兴趣区域所属场景等级。
举例而言,当最大深度和最小深度之比或之差处于第一范围内,确定距离等级为等级一,当最大深度和最小深度之比或之差处于第二范围内,确定距离等级为等级二,建立等级一与场景类型三,等级二与场景类型二之间的对应关系。从而本申请中,在确定最大深度和最小深度后,可以判断最大深度和最小深度之比或之差是位于第一范围内还是位于第二范围内,若位于第一范围内,则确定距离等级为等级一,感兴趣区域属于第三场景类型,若位于第二范围内,则确定距离等级为等级二,感兴趣区域属于第二场景类型。
本申请实施例的深度图处理方法,通过根据感兴趣区域中各像素单元对应的深度和深度的置信度,判断感兴趣区域所属的场景类型,可以提升识别结果的准确性。
本申请实施例中,在根据实施例三确定感兴趣区域所属场景类型后,针对步骤202,具体包括:当感兴趣区域所属场景类型为第一场景类型和第二场景类型时,由于背景的深度较大,或者,前景和背景的距离较远,此时,前景边缘可能较为模糊,飞像素点现象较为明显,因此,可以确定需要对深度图进行滤波处理。而当感兴趣区域所属场景类型为第三场景类型时,由于前景和背景的距离较近,前景边缘较为清晰,飞像素点现象不明显,因此,可以确定无需对深度图进行滤波处理。
作为一种可能的实现方式,当根据上述实施例确定需要对深度图中各像素单元的深度信息进行滤波处理之后,可以对深度图中置信度小于目标置信阈值的像素单元,删除相应像素单元对应的深度。具体地,针对深度图中的每个像素单元,可以将该像素单元对应深度的置信度与目标置信阈值进行比较,若该像素单元对应深度的置信度小于目标置信阈值,则删除该像素单元对应的深度,若该像素单元对应深度的置信度大于或者等于目标置信阈值,则保留该像素单元对应的深度。由此,可以实现仅保留置信度较高的像素单元对应的深度,将置信度较低的像素单元对应的深度作为噪声数据进行删除,可以有效去除深度图中的异常点,比如飞像素点,改善深度图的平滑性。
其中,可以根据感兴趣区域中各像素单元对应深度的置信度,确定置信度的均值,根据该均值,确定目标置信阈值,或者,可以根据感兴趣区域中各像素单元对应的置信度,确定置信度的中值,根据该中值,确定目标置信阈值,或者,还可以根据其他算法,确定目标置信阈值,本申请对此并不做限制。
作为一种可能的实现方式,可以根据感兴趣区域内预设个数的像素单元对应置信度的中值,确定目标置信阈值。下面结合实施例四,对上述过程进行详细说明。
图4为本申请实施例四所提供的深度图处理方法的流程示意图。
如图4所示,在对深度图中置信度小于目标置信阈值的像素单元,删除相应像素单元对应的深度之前,该深度图处理方法还可以包括以下步骤:
步骤401,根据感兴趣区域中各像素单元对应的置信度,按照置信度从大到小对像素单元排序,得到排序在前的多个像素单元。
本申请实施例中,针对感兴趣区域,可以将该感兴趣区域中所有像素单元对应深度的置信度,按照置信度大小按序排列,比如按照置信度从大到小排序,得到排序在前的多个像素单元。
作为一种可能的实现方式,多个像素单元的个数,可以为感兴趣区域中包含的像素单元总个数与固定比例的乘积。其中,0<固定比例≤1,该固定比例可以由电子设备的内置程序预先设定,或者还可以由用户进行设置,对此不作限制,比如固定比例可以为10%。
作为另一种可能的实现方式,多个像素单元的个数,还可以与感兴趣区域中包含的像素单元总个数具有正向关系,即多个像素单元的个数可以随着感兴趣区域中包含的像素单元总个数的增大而增大,或者,多个像素单元的个数可以随着感兴趣区域中包含的像素单元总个数的减小而减小。
步骤402,根据多个像素单元对应置信度的中值,确定目标置信阈值。
本申请实施例中,在确定排序在前的多个像素单元后,比如,标记多个像素单元的个数为N,若N为奇数,则多个像素单元对应置信度的中值,可以为处于序列中第(N+1)/2个位置的像素单元对应深度的置信度;若N为偶数,则多个像素单元对应置信度的中值,可以为处于序列中第N/2个位置的像素单元对应深度的置信度,或者为处于序列中第(N/2+1)个位置的像素单元对应深度的置信度,或者为处于序列中第N/2个位置像素单元对应深度的置信度和第(N/2+1)个位置的像素单元对应深度的置信度的均值。在确定多个像素单元对应置信度的中值后,可以将该中值,作为目标置信阈值。
本申请实施例的深度图处理方法,通过根据感兴趣区域中各像素单元对应的置信度,按照置信度从大到小对像素单元排序,得到排序在前的多个像素单元;根据多个像素单元对应置信度的中值,确定目标置信阈值。由此,可以实现针对感兴趣区域内各像素单元对应深度的置信度,自适应选取目标置信阈值,从而根据该目标置信阈值,对深度图进行滤波时,可以提高感兴趣区域内深度图的质量。
需要说明的是,实际应用过程中,成像图中的感兴趣区域的个数可以为多个,比如人像场景,存在多张人脸,或者用户在拍摄景物时,成像图存在多种植物、动物等,此时,深度图中也将存在多个感兴趣区域,因此,本申请中,可以确定每个感兴趣区域对应的目标置信阈值,从而可以根据每个区域对应的目标置信阈值,对相应感兴趣区域内的各像素单元所对应深度进行滤波处理,以提高每个感兴趣区域内深度图的质量。
作为一种可能的实现方式,在对深度图内各像素单元进行滤波处理之后,可以将滤波处理后的深度图中各像素单元与成像图中的各像素单元进行对齐处理,之后,根据对齐后的成像图和深度图,确定成像图中各像素单元对应的深度。下面结合实施例五,对上述过程进行详细说明。
图5为本申请实施例五所提供的深度图处理方法的流程示意图。
如图5所示,在上述实施例的基础上,该深度图处理方法还可以包括以下步骤:
步骤501,将滤波处理后的深度图中各像素单元,与成像图中各像素单元对齐。
本申请实施例中,对齐处理可以包括去畸变、坐标转换等步骤。
需要说明的是,采集图像时,是将图像坐标转换为相机坐标系中,由于相机透镜可能存在一定的畸变,包括横向畸变和/或切向畸变,因此,为了提升图像的处理效果,可以对滤波处理后的深度图和/或成像图进行去畸变处理。具体地,通过相机标定,可以确定相机的内部参数,包括焦距、光心和畸变系数,因此,在去畸变处理时,可以进行相机透镜畸变处理,由相机坐标转换到图像坐标。
可以理解的是,RGB图像数据与深度图像数据的空间坐标系是不同的,前者的原点是RGB摄像头,后者的原点是红外摄像头,因此两者会有相应的误差,因此,在对齐处理时,可以将深度图上的2D点转换到世界坐标的3D点,再将世界坐标的3D点投影到成像图上。
步骤502,根据对齐后的成像图和深度图,确定成像图中各像素单元对应的深度。
本申请实施例中,在将成像图与深度图进行对齐处理后,可以根据对齐后的成像图和深度图,确定成像图中各像素单元对应的深度。具体地,针对成像图中的各像素单元,可以将深度图中对应像素单元对应的深度,作为该像素单元对应的深度。
需要说明的是,TOF相机和RGB摄像头的安装位置不同,两者的拍摄视角不同,在将深度图与成像图对齐后,可能导致成像图中存在部分像素单元缺失对应的深度,因此,本申请中,还可以对成像图进行平滑深度,补充缺失的深度。例如,针对成像图中各缺失深度的像素单元而言,可以利用该像素单元周围的像素单元对应的深度,确定该像素单元的深度,例如,可以将该像素单元周围的像素单元对应的深度取均值,作为该像素单元的深度。
为了实现上述实施例,本申请还提出一种深度图处理装置。
图6为本申请实施例六所提供的深度图处理装置的结构示意图。
本申请实施例的深度图处理装置可以设置于电子设备中,该电子设备可以为移动终端或者智能摄像机等,对此不作限制。移动终端可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作***、触摸屏和/或显示屏的硬件设备。
如图6所示,该深度图处理装置包括:采集模块101、识别模块102、确定模块103以及判断模块104。
其中,采集模块101,用于同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息。
本申请实施例中,成像图为二维的,例如,电子设备可以包括RGB摄像头,通过该RGB摄像头采集得到成像图。
本申请实施例中,电子设备可以包括TOF相机或TOF摄像头,通过TOF相机采集得到深度图,其中,成像图和深度图为同步采集的,例如,在控制RGB摄像头采集成像图时,可以同步控制TOF相机采集深度图。
本申请实施例中,采集得到的深度图中,每个像素单元具有对应的深度信息,用于指示成像图中各像素单元对应深度信息,其中,深度信息包括深度和深度的置信度。具体地,TOF相机可以包括红外发射光源,通过红外发射光源向外发射光波信号,感光模组可以接收反射光波信号,从而根据发射光波信号与反射光波信号的相位变化,可以进行距离测量,得到对应的深度。
也就是说,每个像素单元对应的深度是根据红外光相位差生成的,而深度的置信度是根据红外光强确定的,其中,距离TOF相机越近,深度越小,深度的置信度越大,距离TOF相机越远,深度越大,深度的置信度越小。
识别模块102,用于从成像图中识别感兴趣区域。
本申请实施例中,感兴趣区域(Region of Interest,简称ROI)可以为用户感兴趣的物体所在的区域,其中,感兴趣的物体可以为电子设备的内置程序预先设定的,或者,为了满足用户的个性化需求,感兴趣的物体还可以由用户进行设置,比如电子设备可以提供输入界面,用户可以根据自身需求在该输入界面,输入其感兴趣的物体,本申请对此并不做限制。
举例而言,感兴趣的物体所在的区域,即ROI可以为植物、动物、建筑物、人等所在的区域,或者,对于人像场景而言,ROI可以为人像的局部区域,比如人脸区域、手部区域、腰部区域、腿部区域、脚部区域等等,此处不一一列举。
作为一种可能的实现方式,为了提升感兴趣区域识别结果的准确性,识别模块102可以基于深度学习的图像处理技术,在成像图中识别该感兴趣区域。
例如,识别模块102可以采用语义分割模型,对成像图进行识别,确定感兴趣区域,其中,语义分割模块可以为相关技术中较为成熟的语义分割模型,比如为deeplab、psp等模型,对此不作限制。具体地,可以预先采集训练图像,或者从互联网上下载训练图像,而后可以对训练图像中感兴趣的物体所在的区域进行标注,利用标注后的训练图像,对初始的语义分割模型进行训练,训练后的语义分割模型可以学习得到图像与感兴趣区域之间的对应关系。
或者,识别模块102还可以采用预先训练的识别模型,对成像图进行识别,确定感兴趣区域,其中,上述预先训练的识别模型,已学习得到颜色特征、形状特征、边缘特征和/或纹理特征与感兴趣区域之间的对应关系。
作为另一种可能的实现方式,识别模块102还可以基于RGB颜色分割方法,从成像图中识别感兴趣区域。例如,当感兴趣区域为手部区域时,可以将RGB颜色空间的成像图转化到HSV颜色空间进行手部皮肤检测,并对检测结果进行二值化,比如检测到皮肤,则将像素单元对应的取值设为1,若未检测到皮肤,则将像素单元对应的取值设为0,之后,对各个包含取值1的区域,进行像素单元个数的统计,从而可以将统计结果最大的区域,作为手部区域。
需要说明的是,识别模块102还可以基于其他算法,从成像图中识别感兴趣区域,本申请对此并不做限制。
确定模块103,用于根据深度图,确定感兴趣区域中各像素单元对应的深度信息。
本申请实施例中,在识别模块102确定成像图中的感兴趣区域后,可以由确定模块103根据深度图,确定该感兴趣区域中各像素单元对应的深度信息。具体地,在确定成像图中感兴趣区域后,针对该感兴趣区域中的每个像素单元,确定模块103可以根据深度图和成像图之间的映射关系,在深度图中,确定与该像素单元对应的第一像素单元,从而根据该第一像素单元的深度信息,可以确定成像图中对应像素单元的深度信息。
判断模块104,用于根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。
本申请实施例中,在确定模块103确定感兴趣区域中各像素单元对应的深度信息后,可以由判断模块104根据该感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。例如,感兴趣区域内可以同时包含感兴趣的物体和背景(比如凳子、桌子、墙、地面等),在感兴趣的物体和背景的距离较近的场景下,感兴趣的物体边缘较为清晰,飞像素点现象不明显,因此,可以无需对深度图中各像素单元的深度信息进行滤波处理,而在感兴趣的物体和背景的距离较远的场景下,或者,背景的深度较大时,此时,感兴趣的物体边缘可能较为模糊,飞像素点现象较为明显,因此,可以对深度图中各像素单元的深度信息进行滤波处理。
进一步地,在本申请实施例的一种可能的实现方式中,参见图7,在图6所示实施例的基础上,该深度图处理装置还可以包括:
判断模块104,包括:
确定子模块1041,用于根据感兴趣区域中各像素单元对应的深度信息,确定感兴趣区域所属场景类型。
本申请实施例中,场景类型,可以根据深度图中背景到前景(比如感兴趣的物体)的距离进行划分,也可以根据背景到TOF相机的距离进行划分,也可以根据环境亮度进行划分,本申请对此不做限制。
作为一种可能的实现方式,可以预先设置不同深度信息与场景类型之间的对应关系,从而,本申请中,在确定感兴趣区域中各像素单元对应的深度信息后,确定子模块1041可以根据深度信息,查询上述对应关系,确定该感兴趣区域所属的场景类型。
作为一种示例,以场景类型是根据深度图中背景到前景的距离以及背景到TOF相机的距离进行划分的示例,假设当背景到TOF相机的距离较远,例如大于第一距离阈值时,确定该场景类型为场景类型1,当背景和前景的距离较近,比如小于第二距离阈值时,确定该场景类型为场景类型2,当背景和前景的距离较远,比如大于第三距离阈值时,确定场景类型为场景3,并建立上述距离与场景类型之间的对应关系。从而本申请中,在确定感兴趣区域中各像素单元对应的深度信息后,可以根据感兴趣区域中各像素单元对应的深度信息,确定背景和前景的距离以及背景到TOF相机的距离,从而根据确定的结果,查询上述对应关系,确定该感兴趣区域所属场景类型。
判断子模块1042,用于根据场景类型,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。
本申请实施例中,在确定子模块1041确定场景类型后,可以由判断子模块1042根据该场景类型,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。
仍以上述例子示例,当场景类型为场景类型2时,由于前景和背景的距离较近,前景边缘较为清晰,飞像素点现象不明显,因此,判断子模块1042可以确定无需对深度图中各像素单元的深度信息进行滤波处理,而当场景类型为场景类型1或者场景类型3时,由于前景和背景的距离较远,或者,背景的深度较大,此时,前景边缘可能较为模糊,飞像素点现象较为明显,因此,判断子模块1042可以确定需要对深度图中各像素单元的深度信息进行滤波处理。
确定子模块1041,包括:
判断单元10411,用于根据感兴趣区域中各像素单元对应的置信度,判断感兴趣区域是否存在超出测量范围的背景。
需要说明的是,背景距离TOF相机越近,深度的置信度越大,背景距离TOF相机越远,深度的置信度越小,因此,本申请实施例中,判断单元10411根据感兴趣区域中各像素单元对应的置信度,可以确定感兴趣区域是否存在超出测量范围的背景。
作为一种可能的实现方式,判断单元10411可以判断感兴趣区域中是否存在置信度小于第一置信阈值的像素单元,若是,则确定感兴趣区域中存在超出测量范围的背景,若否,则确定感兴趣区域中不存在超出测量范围的背景。
其中,第一置信阈值可以根据可测量范围预先确定,比如,可以预先确定在近景拍摄时,对应的可测量范围,从而根据该可测量范围,确定第一置信阈值,或者,也可以预先确定在远景拍摄时,对应的可测量范围,从而根据该可测量范围,确定第一置信阈值。在用户拍摄图像时,可以根据用户的操作,确定为近景拍摄还是为远景拍摄,从而可以确定对应的第一置信阈值。
需要说明的是,由于感兴趣区域中可能存在异常点、干扰点,或者,感兴趣区域中只存在较小部分的背景区域,比如只存在一个小墙角,因此,若成像图中仅存在几个或较少个数的像素单元对应深度的置信度小于第一置信阈值,即确定感兴趣区域中存在超出测量范围的背景显然是不合理的。因此,作为另一种可能的实现方式,为了提升判断结果的准确性,判断单元10411可以对感兴趣区域中,对应置信度小于第一置信阈值的像素单元统计个数,得到第一像素个数,并确定第一像素个数与感兴趣区域内总像素个数之比,得到第一比值,并判断第一比值是否大于第一阈值,若是,则确定感兴趣区域中存在超出测量范围的背景,若否,则确定感兴趣区域中不存在超出测量范围的背景。其中,第一比值为预先设置的,比如,第一比值可以为10%。
识别单元10412,用于若确定存在超出测量范围的背景,识别感兴趣区域属于第一场景类型。
本申请实施例中,当判断单元10411确定存在超出测量范围的背景,即背景较远时,识别单元10412识别感兴趣区域所属场景类型为第一场景类型。
确定单元10413,用于若确定不存在超出测量范围的背景,根据感兴趣区域中各像素单元对应的深度,确定感兴趣区域中背景与前景之间的距离等级。
本申请实施例中,当判断单元10411确定不存在超出测量范围的背景时,可以由确定单元10413根据感兴趣区域中各像素单元对应的深度,确定感兴趣区域中背景与前景之间的距离等级。
作为一种可能的实现方式,确定单元10413可以根据感兴趣区域中各像素单元的深度,确定最大深度和最小深度,根据最大深度和最小深度之比或之差,确定感兴趣区域中背景与前景之间的距离等级。
需要说明的是,由于感兴趣区域中可能存在异常点、干扰点,导致相应像素单元对应深度的置信度较小(距离摄像头较远),若将该像素单元对应的深度,作为最大深度显然是不合理的。因此,作为又一种可能的实现方式,为了提升判断结果的准确性,确定单元10413可以对感兴趣区域,从各像素单元对应深度中,筛选出置信度大于第二置信阈值的目标深度,并从目标深度中,确定最大深度和最小深度,从而可以根据最大深度和最小深度之比或之差,确定感兴趣区域中背景与前景之间的距离等级。其中,第二置信阈值为预先确定的。
举例而言,当最大深度和最小深度之比越大,或者最大深度和最小深度之差越大时,可以确定距离等级越大,而当最大深度和最小深度之比越小,或者最大深度和最小深度之差越小,可以确定距离等级越小。其中,距离等级越大,前景与背景之间的距离越远,距离等级越小,前景与背景之间的距离越近。
识别单元10412,还用于根据距离等级,识别感兴趣区域属于第二场景类型,或者属于第三场景类型;其中,第二场景类型中背景与前景之间的距离大于第三场景类型中背景与前景之间的距离。
本申请实施例中,在确定单元10413确定距离等级后,可以由识别单元10412根据该距离等级,识别感兴趣区域属于第二场景类型还是第三场景类型。其中,第二场景类型中背景与前景之间的距离大于第三场景类型中背景与前景之间的距离。
作为一种可能的实现方式,可以预先建立距离等级与场景类型之间的对应关系,从而本申请中,在确定距离等级后,识别单元10412可以查询上述对应关系,确定感兴趣区域所属场景等级。
举例而言,当最大深度和最小深度之比或之差处于第一范围内,确定距离等级为等级一,当最大深度和最小深度之比或之差处于第二范围内,确定距离等级为等级二,建立等级一与场景类型三,等级二与场景类型二之间的对应关系。从而本申请中,在确定最大深度和最小深度后,可以判断最大深度和最小深度之比或之差是位于第一范围内还是位于第二范围内,若位于第一范围内,则确定距离等级为等级一,感兴趣区域属于第三场景类型,若位于第二范围内,则确定距离等级为等级二,感兴趣区域属于第二场景类型。
判断子模块1042,具体用于:若属于第一场景类型和第二场景类型,对深度图中感兴趣区域进行滤波处理;若属于第三场景类型,确定无需对深度图进行滤波处理。
本申请实施例中,当感兴趣区域所属场景类型为第一场景类型和第二场景类型时,由于背景的深度较大,或者,前景和背景的距离较远,此时,前景边缘可能较为模糊,飞像素点现象较为明显,因此,判断子模块1042可以确定需要对深度图进行滤波处理。而当感兴趣区域所属场景类型为第三场景类型时,由于前景和背景的距离较近,前景边缘较为清晰,飞像素点现象不明显,因此,判断子模块1042可以确定无需对深度图进行滤波处理。
删除模块105,用于若确定需进行滤波处理,对深度图中置信度小于目标置信阈值的像素单元,删除相应像素单元对应的深度。
具体地,针对深度图中的每个像素单元,删除模块105可以将该像素单元对应深度的置信度与目标置信阈值进行比较,若该像素单元对应深度的置信度小于目标置信阈值,则删除该像素单元对应的深度,若该像素单元对应深度的置信度大于或者等于目标置信阈值,则保留该像素单元对应的深度。由此,可以实现仅保留置信度较高的像素单元对应的深度,将置信度较低的像素单元对应的深度作为噪声数据进行删除,可以有效去除深度图中的异常点,比如飞像素点,改善深度图的平滑性。
其中,可以根据感兴趣区域中各像素单元对应深度的置信度,确定置信度的均值,根据该均值,确定目标置信阈值,或者,可以根据感兴趣区域中各像素单元对应的置信度,确定置信度的中值,根据该中值,确定目标置信阈值,或者,还可以根据其他算法,确定目标置信阈值,本申请对此并不做限制。
处理模块106,用于根据感兴趣区域中各像素单元对应的置信度,按照置信度从大到小对像素单元排序,得到排序在前的多个像素单元,并根据多个像素单元对应置信度的中值,确定目标置信阈值。
本申请实施例中,针对感兴趣区域,处理模块106可以将该感兴趣区域中所有像素单元对应深度的置信度,按照置信度大小按序排列,比如按照置信度从大到小排序,得到排序在前的多个像素单元。
作为一种可能的实现方式,多个像素单元的个数,可以为感兴趣区域中包含的像素单元总个数与固定比例的乘积。其中,0<固定比例≤1,该固定比例可以由电子设备的内置程序预先设定,或者还可以由用户进行设置,对此不作限制,比如固定比例可以为10%。
作为另一种可能的实现方式,多个像素单元的个数,还可以与感兴趣区域中包含的像素单元总个数具有正向关系,即多个像素单元的个数可以随着感兴趣区域中包含的像素单元总个数的增大而增大,或者,多个像素单元的个数可以随着感兴趣区域中包含的像素单元总个数的减小而减小。
本申请实施例中,在处理模块106确定排序在前的多个像素单元后,比如,标记多个像素单元的个数为N,若N为奇数,则多个像素单元对应置信度的中值,可以为处于序列中第(N+1)/2个位置的像素单元对应深度的置信度;若N为偶数,则多个像素单元对应置信度的中值,可以为处于序列中第N/2个位置的像素单元对应深度的置信度,或者为处于序列中第(N/2+1)个位置的像素单元对应深度的置信度,或者为处于序列中第N/2个位置像素单元对应深度的置信度和第(N/2+1)个位置的像素单元对应深度的置信度的均值。在确定多个像素单元对应置信度的中值后,可以将该中值,作为目标置信阈值。
需要说明的是,实际应用过程中,成像图中的感兴趣区域的个数可以为多个,比如人像场景,存在多张人脸,或者用户在拍摄景物时,成像图存在多种植物、动物等,此时,深度图中也将存在多个感兴趣区域,因此,本申请中,处理模块106可以确定每个感兴趣区域对应的目标置信阈值,从而可以根据每个区域对应的目标置信阈值,对相应感兴趣区域内的各像素单元所对应深度进行滤波处理,以提高每个感兴趣区域内深度图的质量。
本申请实施例的深度图处理装置,通过同步采集成像图和深度图;其中,深度图用于指示成像图中各像素单元对应深度信息,之后,从成像图中识别感兴趣区域,并根据深度图,确定感兴趣区域中各像素单元对应的深度信息,最后,根据感兴趣区域中各像素单元对应的深度信息,判断是否需要对深度图中各像素单元的深度信息进行滤波处理。由此,可以实现根据感兴趣区域中各像素单元对应的深度信息,自适应的选取滤波方式对深度图中各像素单元的深度信息进行滤波处理,以输出高质量的感兴趣区域,提高感兴趣区域内深度图的质量,提升感兴趣区域边缘效果,并且,可以有效去除感兴趣区域内的异常点,比如飞像素点,改善深度图的平滑性。
为了实现上述实施例,本申请还提出一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行程序时,实现如本申请前述实施例提出的深度图处理方法。
为了实现上述实施例,本申请还提出一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本申请前述实施例提出的深度图处理方法。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行***、装置或设备(如基于计算机的***、包括处理器的***或其他可以从指令执行***、装置或设备取指令并执行指令的***)使用,或结合这些指令执行***、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行***、装置或设备或结合这些指令执行***、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行***执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (12)
1.一种深度图处理方法,其特征在于,所述方法包括:
同步采集成像图和深度图;其中,所述深度图用于指示所述成像图中各像素单元对应深度信息;
从成像图中识别感兴趣区域;
根据所述深度图,确定所述感兴趣区域中各像素单元对应的深度信息;
根据所述感兴趣区域中各像素单元对应的深度信息,判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理。
2.根据权利要求1所述的深度图处理方法,其特征在于,所述根据所述感兴趣区域中各像素单元对应的深度信息,判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理,包括:
根据所述感兴趣区域中各像素单元对应的深度信息,确定所述感兴趣区域所属场景类型;
根据所述场景类型,判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理。
3.根据权利要求2所述的深度图处理方法,其特征在于,所述深度信息包括:深度和所述深度的置信度;所述根据所述感兴趣区域中各像素单元对应的深度信息,确定所述感兴趣区域所属场景类型,包括:
根据所述感兴趣区域中各像素单元对应的置信度,判断所述感兴趣区域是否存在超出测量范围的背景;
若确定存在超出测量范围的背景,识别所述感兴趣区域属于第一场景类型;
若确定不存在超出测量范围的背景,根据所述感兴趣区域中各像素单元对应的深度,确定所述感兴趣区域中背景与前景之间的距离等级;
根据所述距离等级,识别所述感兴趣区域属于第二场景类型,或者属于第三场景类型;其中,所述第二场景类型中背景与前景之间的距离大于所述第三场景类型中背景与前景之间的距离。
4.根据权利要求3所述的深度图处理方法,其特征在于,所述根据所述场景类型,判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理,包括:
若属于所述第一场景类型和所述第二场景类型,对所述深度图中所述感兴趣区域进行滤波处理;
若属于所述第三场景类型,确定无需对所述深度图进行滤波处理。
5.根据权利要求3所述的深度图处理方法,其特征在于,所述根据所述感兴趣区域中各像素单元对应的置信度,判断所述感兴趣区域是否存在超出测量范围的背景,包括:
对感兴趣区域中,对应置信度小于第一置信阈值的像素单元统计个数,得到第一像素个数;
确定所述第一像素个数与所述感兴趣区域内总像素个数之比,得到第一比值;
若所述第一比值大于第一阈值,确定所述感兴趣区域中存在超出测量范围的背景;
若所述第一比值不大于所述第一阈值,确定所述感兴趣区域中不存在超出测量范围的背景。
6.根据权利要求3所述的深度图处理方法,其特征在于,所述根据所述感兴趣区域中各像素单元对应的深度,确定所述感兴趣区域中背景与前景之间的距离等级,包括:
对所述感兴趣区域,从各像素单元对应深度中,筛选出置信度大于第二置信阈值的目标深度;
从所述目标深度中,确定最大深度和最小深度;
根据所述最大深度和所述最小深度之比,确定所述感兴趣区域中背景与前景之间的距离等级。
7.根据权利要求3所述的深度图处理方法,其特征在于,所述判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理之后,还包括:
若确定需进行滤波处理,对所述深度图中置信度小于目标置信阈值的像素单元,删除相应像素单元对应的深度。
8.根据权利要求7所述的深度图处理方法,其特征在于,所述对所述深度图中置信度小于目标置信阈值的像素单元,删除相应像素单元对应的深度之前,还包括:
根据所述感兴趣区域中各像素单元对应的置信度,按照置信度从大到小对像素单元排序,得到排序在前的多个像素单元;
根据所述多个像素单元对应置信度的中值,确定所述目标置信阈值。
9.根据权利要求8所述的深度图处理方法,其特征在于,所述多个像素单元的个数,为所述感兴趣区域中包含的像素单元总个数与固定比例的乘积。
10.一种深度图处理装置,其特征在于,所述装置包括:
采集模块,用于同步采集成像图和深度图;其中,所述深度图用于指示所述成像图中各像素单元对应深度信息;
识别模块,用于从成像图中识别感兴趣区域;
确定模块,用于根据所述深度图,确定所述感兴趣区域中各像素单元对应的深度信息;
判断模块,用于根据所述感兴趣区域中各像素单元对应的深度信息,判断是否需要对所述深度图中各像素单元的深度信息进行滤波处理。
11.一种电子设备,其特征在于,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如权利要求1-9中任一所述的深度图处理方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-9中任一所述的深度图处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910622956.8A CN110378945B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910622956.8A CN110378945B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法、装置和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110378945A true CN110378945A (zh) | 2019-10-25 |
CN110378945B CN110378945B (zh) | 2021-06-18 |
Family
ID=68252694
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910622956.8A Active CN110378945B (zh) | 2019-07-11 | 2019-07-11 | 深度图处理方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110378945B (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111242861A (zh) * | 2020-01-09 | 2020-06-05 | 浙江光珀智能科技有限公司 | 去除tof相机杂散光方法及装置、电子设备及存储介质 |
CN111246120A (zh) * | 2020-01-20 | 2020-06-05 | 珊口(深圳)智能科技有限公司 | 移动设备的图像数据处理方法、控制***及存储介质 |
CN111366916A (zh) * | 2020-02-17 | 2020-07-03 | 北京睿思奥图智能科技有限公司 | 确定交互目标与机器人之间距离的方法、装置及电子设备 |
WO2021004245A1 (en) * | 2019-07-11 | 2021-01-14 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Depth image processing method and apparatus, and electronic device |
CN112532882A (zh) * | 2020-11-26 | 2021-03-19 | 维沃移动通信有限公司 | 图像显示方法和装置 |
CN112866552A (zh) * | 2019-11-12 | 2021-05-28 | Oppo广东移动通信有限公司 | 对焦方法和装置、电子设备、计算机可读存储介质 |
CN112987022A (zh) * | 2021-03-11 | 2021-06-18 | Oppo广东移动通信有限公司 | 测距方法及装置、计算机可读介质和电子设备 |
CN113126944A (zh) * | 2021-05-17 | 2021-07-16 | 北京的卢深视科技有限公司 | 深度图的显示方法、显示装置、电子设备及存储介质 |
CN113313658A (zh) * | 2021-07-29 | 2021-08-27 | 南昌虚拟现实研究院股份有限公司 | 图像处理方法、装置、电子设备及存储介质 |
WO2021169705A1 (zh) * | 2020-02-26 | 2021-09-02 | 深圳市瑞立视多媒体科技有限公司 | 手势深度信息的处理方法、装置、设备及存储介质 |
CN113902786A (zh) * | 2021-09-23 | 2022-01-07 | 珠海视熙科技有限公司 | 一种深度图像的预处理方法、***及相关装置 |
CN114066779A (zh) * | 2022-01-13 | 2022-02-18 | 杭州蓝芯科技有限公司 | 一种深度图滤波方法及装置、电子设备、存储介质 |
WO2022109796A1 (zh) * | 2020-11-24 | 2022-06-02 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、摄像头组件及电子设备 |
CN114902294A (zh) * | 2020-01-02 | 2022-08-12 | 国际商业机器公司 | 移动增强现实中的细粒度视觉识别 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101873509A (zh) * | 2010-06-30 | 2010-10-27 | 清华大学 | 消除深度图序列背景和边缘抖动的方法 |
CN102724399A (zh) * | 2011-03-25 | 2012-10-10 | 索尼公司 | 基于场景深度图的缩放、孔径和快门速度的自动设定 |
CN102819837A (zh) * | 2012-07-12 | 2012-12-12 | 清华大学 | 基于反馈控制的深度图处理方法及装置 |
CN102867288A (zh) * | 2011-07-07 | 2013-01-09 | 三星电子株式会社 | 深度图像转换设备和方法 |
CN103139577A (zh) * | 2011-11-23 | 2013-06-05 | 华为技术有限公司 | 一种深度图像滤波方法、获取深度图像滤波阈值的方法和装置 |
CN103226810A (zh) * | 2012-01-26 | 2013-07-31 | 索尼公司 | 图像处理设备和图像处理方法 |
US20140293010A1 (en) * | 2009-11-18 | 2014-10-02 | Quang H. Nguyen | System for executing 3d propagation for depth image-based rendering |
CN107507206A (zh) * | 2017-06-09 | 2017-12-22 | 合肥工业大学 | 一种基于显著性检测的深度图提取方法 |
-
2019
- 2019-07-11 CN CN201910622956.8A patent/CN110378945B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140293010A1 (en) * | 2009-11-18 | 2014-10-02 | Quang H. Nguyen | System for executing 3d propagation for depth image-based rendering |
CN101873509A (zh) * | 2010-06-30 | 2010-10-27 | 清华大学 | 消除深度图序列背景和边缘抖动的方法 |
CN102724399A (zh) * | 2011-03-25 | 2012-10-10 | 索尼公司 | 基于场景深度图的缩放、孔径和快门速度的自动设定 |
CN102867288A (zh) * | 2011-07-07 | 2013-01-09 | 三星电子株式会社 | 深度图像转换设备和方法 |
CN103139577A (zh) * | 2011-11-23 | 2013-06-05 | 华为技术有限公司 | 一种深度图像滤波方法、获取深度图像滤波阈值的方法和装置 |
CN103226810A (zh) * | 2012-01-26 | 2013-07-31 | 索尼公司 | 图像处理设备和图像处理方法 |
CN102819837A (zh) * | 2012-07-12 | 2012-12-12 | 清华大学 | 基于反馈控制的深度图处理方法及装置 |
CN107507206A (zh) * | 2017-06-09 | 2017-12-22 | 合肥工业大学 | 一种基于显著性检测的深度图提取方法 |
Non-Patent Citations (3)
Title |
---|
LI CHEN ET AL.: "Depth image enhancement for Kinect using region growing and bilateral filter", 《PROCEEDINGS OF THE 21ST INTERNATIONAL CONFERENCE ON PATTERN RECOGNITION (ICPR2012)》 * |
蔡健荣等: "马铃薯薄片干燥过程形态变化三维成像", 《农业工程学报》 * |
魏海涛: "基于场景分类和视觉关注的深度图生成算法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021004245A1 (en) * | 2019-07-11 | 2021-01-14 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Depth image processing method and apparatus, and electronic device |
US11205278B2 (en) | 2019-07-11 | 2021-12-21 | Shenzhen Heytap Technology Corp., Ltd. | Depth image processing method and apparatus, and electronic device |
CN112866552A (zh) * | 2019-11-12 | 2021-05-28 | Oppo广东移动通信有限公司 | 对焦方法和装置、电子设备、计算机可读存储介质 |
CN114902294B (zh) * | 2020-01-02 | 2023-10-20 | 国际商业机器公司 | 移动增强现实中的细粒度视觉识别 |
CN114902294A (zh) * | 2020-01-02 | 2022-08-12 | 国际商业机器公司 | 移动增强现实中的细粒度视觉识别 |
CN111242861A (zh) * | 2020-01-09 | 2020-06-05 | 浙江光珀智能科技有限公司 | 去除tof相机杂散光方法及装置、电子设备及存储介质 |
CN111242861B (zh) * | 2020-01-09 | 2023-09-12 | 浙江光珀智能科技有限公司 | 去除tof相机杂散光方法及装置、电子设备及存储介质 |
CN111246120B (zh) * | 2020-01-20 | 2021-11-23 | 珊口(深圳)智能科技有限公司 | 移动设备的图像数据处理方法、控制***及存储介质 |
CN111246120A (zh) * | 2020-01-20 | 2020-06-05 | 珊口(深圳)智能科技有限公司 | 移动设备的图像数据处理方法、控制***及存储介质 |
CN111366916A (zh) * | 2020-02-17 | 2020-07-03 | 北京睿思奥图智能科技有限公司 | 确定交互目标与机器人之间距离的方法、装置及电子设备 |
CN111366916B (zh) * | 2020-02-17 | 2021-04-06 | 山东睿思奥图智能科技有限公司 | 确定交互目标与机器人之间距离的方法、装置及电子设备 |
WO2021169705A1 (zh) * | 2020-02-26 | 2021-09-02 | 深圳市瑞立视多媒体科技有限公司 | 手势深度信息的处理方法、装置、设备及存储介质 |
WO2022109796A1 (zh) * | 2020-11-24 | 2022-06-02 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、摄像头组件及电子设备 |
CN112532882A (zh) * | 2020-11-26 | 2021-03-19 | 维沃移动通信有限公司 | 图像显示方法和装置 |
CN112987022A (zh) * | 2021-03-11 | 2021-06-18 | Oppo广东移动通信有限公司 | 测距方法及装置、计算机可读介质和电子设备 |
CN113126944A (zh) * | 2021-05-17 | 2021-07-16 | 北京的卢深视科技有限公司 | 深度图的显示方法、显示装置、电子设备及存储介质 |
CN113313658A (zh) * | 2021-07-29 | 2021-08-27 | 南昌虚拟现实研究院股份有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN113902786A (zh) * | 2021-09-23 | 2022-01-07 | 珠海视熙科技有限公司 | 一种深度图像的预处理方法、***及相关装置 |
CN114066779A (zh) * | 2022-01-13 | 2022-02-18 | 杭州蓝芯科技有限公司 | 一种深度图滤波方法及装置、电子设备、存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN110378945B (zh) | 2021-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110378945A (zh) | 深度图处理方法、装置和电子设备 | |
CN110378946A (zh) | 深度图处理方法、装置以及电子设备 | |
CN110400338A (zh) | 深度图处理方法、装置和电子设备 | |
CN105580051B (zh) | 图像捕捉反馈 | |
CN108323204A (zh) | 一种检测人脸瑕疵点的方法和智能终端 | |
CN108388905B (zh) | 一种基于卷积神经网络和邻域上下文的光源估计方法 | |
CN105659200A (zh) | 用于显示图形用户界面的方法、设备和*** | |
CN110168562A (zh) | 基于深度的控制方法、基于深度的控制装置和电子装置 | |
CN107479801A (zh) | 基于用户表情的终端显示方法、装置及终端 | |
CN109816745A (zh) | 人体热力图展示方法及相关产品 | |
JP2006506164A5 (zh) | ||
CN110378944A (zh) | 深度图处理方法、装置和电子设备 | |
CN106297755A (zh) | 一种用于乐谱图像识别的电子设备及识别方法 | |
CN107944420A (zh) | 人脸图像的光照处理方法和装置 | |
CN107016348A (zh) | 结合深度信息的人脸检测方法、检测装置和电子装置 | |
CN109084350A (zh) | 一种具滤光功能视觉检测模块的油烟机及油烟浓度检测方法 | |
CN109939432A (zh) | 一种智能跳绳计数方法 | |
Han et al. | Improved visual background extractor using an adaptive distance threshold | |
CN112465778A (zh) | 一种水下鱼群观测装置及方法 | |
CN107610076A (zh) | 图像处理方法和装置、电子装置和计算机可读存储介质 | |
CN114067172A (zh) | 一种仿真图像生成方法、仿真图像生成装置及电子设备 | |
CN111080754B (zh) | 一种头部肢体特征点连线的人物动画制作方法及装置 | |
JP4697923B2 (ja) | 水中または水面における移動体の計数システムおよび計数方法 | |
Khan et al. | A review of benchmark datasets and training loss functions in neural depth estimation | |
CN109799905A (zh) | 一种手部跟踪方法和广告机 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |