CN110378246A - 地面检测方法、装置、计算机可读存储介质及电子设备 - Google Patents

地面检测方法、装置、计算机可读存储介质及电子设备 Download PDF

Info

Publication number
CN110378246A
CN110378246A CN201910563488.1A CN201910563488A CN110378246A CN 110378246 A CN110378246 A CN 110378246A CN 201910563488 A CN201910563488 A CN 201910563488A CN 110378246 A CN110378246 A CN 110378246A
Authority
CN
China
Prior art keywords
ground
ordered
point cloud
dimensional point
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910563488.1A
Other languages
English (en)
Inventor
李业
廉士国
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cloudminds Robotics Co Ltd
Original Assignee
Cloudminds Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cloudminds Inc filed Critical Cloudminds Inc
Priority to CN201910563488.1A priority Critical patent/CN110378246A/zh
Publication of CN110378246A publication Critical patent/CN110378246A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本公开涉及一种地面检测方法、装置、计算机可读存储介质及电子设备。该方法包括:获取目标地面的地面图像对应的世界坐标系下的有序三维点云;将有序三维点云作为预先训练的地面检测模型的输入,得到目标地面对应的地面检测结果,地面检测结果包括地面类型,该地面类型用于表征目标地面是否为斜坡的斜坡地面。这样,通过将该有序三维点云输入至地面检测模型,即可得到该目标地面对应的地面检测结果,无需使用人工检测算法,从而避免了人工算法设计难度极高,逻辑复杂、鲁棒性不佳的问题。并且,由于根据有序三维点云对地面进行检测,所以,可以避免相关技术中视差图和深度图在过曝、过暗、弱纹理区域下会出现较多的空洞、较大的误差的弊端。

Description

地面检测方法、装置、计算机可读存储介质及电子设备
技术领域
本公开涉及计算机视觉技术领域,具体地,涉及一种地面检测方法、装置、计算机可读存储介质及电子设备。
背景技术
在导盲、机器人、自动驾驶等领域,斜坡检测是一项极其重要的难点技术。视障人士、机器人、自动驾驶车辆需要提前预知前方地面的地面类型,例如,前方地面的地面类型否为上坡类型、下坡类型或者水平类型,如此,才能针对不同地面类型通过提前调整行进姿态和方式来保障行进安全。
相关技术中基于RGB二维图像的地面检测方法根本无法区分水平地面、斜坡地面,因此涉及到需要区分水平地面、斜坡地面的地面检测通常是基于视差图、深度图来进行。而视差图和深度图由于获取原理的缺陷,通常在过曝、过暗、弱纹理区域下会出现较多的空洞、较大的误差,因此基于此类数据的人工算法设计难度极高,逻辑复杂、鲁棒性不佳、很难获得准确的地面类型,进而不能准确地针对前方地面的地面类型通过提前调整行进姿态和方式来保障行进安全。
发明内容
本公开的目的是提供一种地面检测方法、装置、计算机可读存储介质及电子设备,以实现对地面进行准确地检测。
为了实现上述目的,本公开提供一种地面检测方法,包括:
获取目标地面的地面图像对应的世界坐标系下的有序三维点云;
将所述有序三维点云作为预先训练的地面检测模型的输入,得到所述目标地面对应的地面检测结果,所述地面检测结果包括地面类型,所述地面类型用于表征所述目标地面是否为包含斜坡的斜坡地面。
可选地,所述获取目标地面的地面图像对应的世界坐标系下的有序三维点云,包括:
获取所述地面图像对应的深度图,以及所述地面图像对应的世界坐标系下的姿态角,所述姿态角包括获取所述地面图像的图像获取装置在世界坐标系下的角度;
根据所述深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
可选地,所述根据所述深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云,包括:
根据所述深度图和预设的归一化尺度,确定归一化因子;
根据所述深度图和所述归一化因子,确定归一化后的深度图;
根据所述归一化后的深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
可选地,若所述地面类型表征所述目标地面为所述斜坡地面,所述地面检测结果还包括:所述斜坡相对于水平面的倾角和所述斜坡在所述地面图像中的位置信息。
可选地,所述地面检测模型通过以下方式训练得到:
获取样本地面的样本地面图像;
获取所述样本地面图像对应的世界坐标系下的样本有序三维点云,所述样本有序三维点云标注有所述样本地面的样本地面类型、所述样本地面相对于水平面的样本倾角以及所述样本地面在所述样本地面图像中的样本位置;
将所述样本有序三维点云作为模型训练样本进行训练,得到所述地面检测模型。
可选地,所述方法还包括:
根据所述斜坡在所述地面图像中的位置信息和所述世界坐标系下的有序三维点云,确定所述斜坡在所述世界坐标系下的位置信息。
可选地,所述方法还包括:
若所述地面类型表征所述目标地面为所述斜坡地面,则输出提示信息。
本公开还提供一种地面检测装置,包括:
第一获取模块,用于获取目标地面的地面图像对应的世界坐标系下的有序三维点云;
输入模块,用于将所述有序三维点云作为预先训练的地面检测模型的输入,得到所述目标地面对应的地面检测结果,所述地面检测结果包括地面类型,所述地面类型用于表征所述目标地面是否为包含斜坡的斜坡地面。
可选地,所述第一获取模块包括:
获取子模块,用于获取所述地面图像对应的深度图,以及所述地面图像对应的世界坐标系下的姿态角,所述姿态角包括获取所述地面图像的图像获取装置在世界坐标系下的角度;
确定子模块,用于根据所述深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
可选地,所述确定子模块包括:
归一化因子确定子模块,用于根据所述深度图和预设的归一化尺度,确定归一化因子;
深度图确定子模块,用于根据所述深度图和所述归一化因子,确定归一化后的深度图;
点云确定子模块,用于根据所述归一化后的深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
可选地,若所述地面类型表征所述目标地面为所述斜坡地面,所述地面检测结果还包括:所述斜坡相对于水平面的倾角和所述斜坡在所述地面图像中的位置信息。
可选地,所述装置还包括:
第二获取模块,用于获取样本地面的样本地面图像;
第三获取模块,用于获取所述样本地面图像对应的世界坐标系下的样本有序三维点云,所述样本有序三维点云标注有所述样本地面的样本地面类型、所述样本地面相对于水平面的样本倾角以及所述样本地面在所述样本地面图像中的样本位置;
训练模块,用于将所述样本有序三维点云作为模型训练样本进行训练,得到所述地面检测模型。
可选地,所述装置还包括:
确定模块,用于根据所述斜坡在所述地面图像中的位置信息和所述世界坐标系下的有序三维点云,确定所述斜坡在所述世界坐标系下的位置信息。
可选地,所述装置还包括:
输出模块,用于若所述地面类型表征所述目标地面为所述斜坡地面,则输出提示信息。
本公开还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现本公开所提供的地面检测方法的步骤。
本公开还提供一种电子设备,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现本公开所提供的地面检测方法的步骤。
通过上述技术方案,获取目标地面的地面图像对应的世界坐标系下的有序三维点云;将有序三维点云作为预先训练的地面检测模型的输入,得到目标地面对应的地面检测结果,地面检测结果包括地面类型,该地面类型用于表征目标地面是否为斜坡的斜坡地面。这样,通过将地面图像对应的世界坐标系下的有序三维点云输入至地面检测模型,即可得到该目标地面对应的地面检测结果,无需使用人工检测算法,从而避免了人工算法设计难度极高,逻辑复杂、鲁棒性不佳的问题。并且,由于根据地面图像对应的世界坐标系下的有序三维点云对目标地面进行检测,所以,可以避免相关技术中视差图和深度图在过曝、过暗、弱纹理区域下会出现较多的空洞、较大的误差的弊端。此外,该地面检测模型是基于现有的RGB二维图像的神经网络框架训练得到的,如此,无需构建新的神经网络框架,利用现有的神经网络框架,即可实现对地面的检测。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本公开的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本公开,但并不构成对本公开的限制。在附图中:
图1是根据一示例性实施例示出的一种地面检测方法的流程图。
图2是根据一示例性实施例示出的一种获取世界坐标系下的有序三维点云的流程图。
图3是根据一示例性实施例示出的一种地面检测装置的框图。
图4是根据一示例性实施例示出的一种电子设备的框图。
图5是根据另一示例性实施例示出的一种电子设备的框图。
具体实施方式
以下结合附图对本公开的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本公开,并不用于限制本公开。
当前计算机视觉领域的深度学习的神经网络框架分为两类:一类是基于RGB二维图像的神经网络框架,另一类是基于无序三维点云的神经网络框架(例如,PointNet)。由于无序三维点云是去除无效点云仅保留有效点云的点云,且无序三维点云中点云的位置会随意更改,无法与视觉传感器获取的图像对齐,所以,技术人员无法基于所采集到的图像在该无序三维点云中进行标注。基于RGB二维图像的神经网络框架的输入为三通道,具体地,可以将RGB二维图像的图像数据处理为R对应的图像数据的R矩阵,G对应的图像数据的G矩阵,B对应的图像数据的B矩阵,然后,将R矩阵、G矩阵、B矩阵分别输入至三通道中。
发明人考虑到有序三维点云可以与视觉传感器获取的图像对齐,进而可以根据图像在有序三维点云中进行标注,且,有序三维点云也可以用三维矩阵进行表示,如,X矩阵、Y矩阵和Z矩阵,因此,使用有序三维点云既可以实现标注,还可以兼容现有的基于RGB二维图像的神经网络框架(输入为三通道的神经网络框架),无需再额外设置其他的神经网络框架。因此,提出一种地面检测方法、装置、计算机可读存储介质及移动设备。
图1是根据一示例性实施例示出的一种地面检测方法的流程图。如图1所示,该方法包括以下步骤:
在步骤11中,获取目标地面的地面图像对应的世界坐标系下的有序三维点云。
世界坐标系下的有序三维点云可以是基于激光雷达获得的激光点云,也可以基于地面图像获得的点云。由于基于地面图像获得的点云是与地面图像对齐的,具有稠密性,后续基于该点云进行地面检测时可以提高地面检测的准确度避免漏检,以及基于地面图像获得的点云可以用三维矩阵表示,可以作为现有的基于RGB二维图像的神经网络框架的输入,无需额外构建其它的神经网络框架。因此,在本公开中,以基于地面图像获得的点云为例,进行说明。
具体地,可以通过图像获取装置获取该目标地面的地面图像。图像获取装置可以为单目相机、双目相机、深度相机等视觉传感器。目标地面可以是图像获取装置所能获取到的最大范围内的地面,也可以是用户设置的目标范围内的地面。在一种实施例中,该方法可以应用于机器人设备、移动头盔以及无人驾驶车辆等移动设备,该图像获取装置可以安装在该移动设备上,在图像获取装置拍摄到目标地面的地面图像时,将该地面图像发送至移动设备进行处理,以得到该地面图像对应的世界坐标系下的有序三维点云。在另一实施例中,该方法还可以应用于服务器,在图像获取装置获取到目标地面的地面图像时,将该地面图像发送至服务器进行处理,以得到该地面图像对应的世界坐标系下的有序三维点云。
在步骤12中,将有序三维点云作为预先训练的地面检测模型的输入,得到目标地面对应的地面检测结果。
在得到世界坐标系下的有序三维点云之后,将其作为预先训练的地面检测模型的输入,即可得到目标地面对应的地面检测结果。其中,地面检测结果包括地面类型,该地面类型用于表征目标地面是否为包含斜坡的斜坡地面。
在导盲、机器人移动、自动驾驶等移动过程中,需要实时检测前方地面是否有斜坡,以便视障人士、机器人、自动驾驶车辆可以提前预知前方地面的地面类型。尤为重要的是,需提前预知前方地面是否有斜坡,并在提前预知前方地面包含有斜坡时,可以通过提前调整行进姿态和方式来保障移动安全。因此,在本公开中,该地面检测结果至少包括地面类型,该地面类型用于表征目标地面是否为包含斜坡的斜坡地面。
此外,如上所述,该地面检测模型是基于现有的RGB二维图像的神经网络框架训练得到的,其可以例如为:RCNN,Fast-RCNN,Faster-RCNN,Yolo,SSD等神经网络模型。如此,无需构建新的神经网络框架,利用现有的神经网络框架进行训练,即可实现对地面的检测。
通过上述技术方案,获取目标地面的地面图像对应的世界坐标系下的有序三维点云;将有序三维点云作为预先训练的地面检测模型的输入,得到目标地面对应的地面检测结果,地面检测结果包括地面类型,该地面类型用于表征目标地面是否为斜坡的斜坡地面。这样,通过将地面图像对应的世界坐标系下的有序三维点云输入至地面检测模型,即可得到该目标地面对应的地面检测结果,无需使用人工检测算法,从而避免了人工算法设计难度极高,逻辑复杂、鲁棒性不佳的问题。并且,由于根据地面图像对应的世界坐标系下的有序三维点云对目标地面进行检测,所以,可以避免相关技术中视差图和深度图在过曝、过暗、弱纹理区域下会出现较多的空洞、较大的误差的弊端。此外,该地面检测模型是基于现有的RGB二维图像的神经网络框架训练得到的,如此,无需构建新的神经网络框架,利用现有的神经网络框架,即可实现对地面的检测。
为了便于本领域技术人员更好的理解本公开提供的地面检测方法,下面以一个完整的实施例,对该地面检测方法进行描述。
如图2所示,图1中的步骤11可以包括步骤111和步骤112。
在步骤111中,获取地面图像对应的深度图,以及地面图像对应的世界坐标系下的姿态角。其中,姿态角包括获取地面图像的图像获取装置在世界坐标系下的角度。
具体地,深度图可以是直接通过该视觉传感器、RGB-D相机等直接获取得到的,也可以是根据图像获取装置获取到的地面图像后期处理得到的,本公开中对于该深度图的来源不做限制,只要该深度图与目标地面的地面图像对应即可。姿态角是通过姿态传感器获取得到的,该姿态角包括获取地面图像的图像获取装置在世界坐标系下的角度。
在步骤112中,根据深度图和姿态角,确定地面图像对应的世界坐标系下的有序三维点云。
在一种实施方式中,为了提高计算效率,快速获得地面检测结果,在获取到深度图和姿态角之后,对深度图进行归一化处理,以得到归一化处理后的深度图。
具体地,对深度图进行归一化处理的具体实施方式为:首先,根据深度图和预设的归一化尺度,确定归一化因子,示例地,根据公式(1)确定归一化因子:
其中,S表征归一化因子,Norm表征预设的归一化尺度,针对每个深度图该值保持不变,W表征深度图的宽,H表征深度图的高。
接着,根据深度图和归一化因子,确定归一化后的深度图。示例地,可以根据公式(2),确定归一化后的深度图:
其中,WS表征归一化后的深度图的宽,HS表征归一化后的深度图的高。通过WS和HS就可以确定出归一化后的深度图。
然后,基于归一化后的深度图和姿态角,确定地面图像对应的世界坐标系下的有序三维点云。
示例地,以图像获取装置为相机为例,根据公式(3)和归一化后的深度图,构建相机坐标系下的三维点云:
其中,u和v为归一化后的深度图中像素点的位置坐标,M3×4是相机的内参矩阵,Xc、Yc和Zc是三维点云在相机坐标系下的坐标值,Zc是归一化后深度图中像素点的深度值,其为已知量。
针对深度图中的每一像素点,均利用上述公式(3)计算得到在相机坐标系下的坐标值,按照与深度图或地面图像中的像素一一对应的方式,从左到右从上到下排列成具有相同宽和高的三通道浮点矩阵,三个通道分别存放Xc、Yc和Zc的值,无效点用(0,0,0)代替,即可构建成有序三维点云。
以相机光心为世界坐标系原点,选取水平向右为XW轴正方向,垂直向下为YW轴正方向,垂直XW、YW平面并指向正前方为ZW轴正方向,建立标准水平姿态的世界坐标系。根据相机坐标系和标准水平姿态的世界坐标系之间的关系式(4),可以将相机坐标系下的有序三维点云P(Xc,Yc,Zc)转换为世界坐标系下的有序三维点云P(XW,YW,ZW):
其中,XW,YW,ZW表征世界坐标系下的有序三维点云的坐标值,α、β、γ分别表征姿态角中相机坐标系X与水平面的夹角、相机坐标系Y轴在水平面上的投影与世界坐标系Y轴的夹角、相机坐标系Z轴与包括相机坐标系X的铅垂面的夹角。
至此,可以得到目标地面的地面图像对应的世界坐标系下的有序三维点云。在得到有序三维点云之后,将该有序三维点云输入至预先训练的地面检测模型中,以得到目标对面对应的地面检测结果。
在实际应用中,在检测到目标地面中存在斜坡时,还需要进一步输出斜坡相对于水平面的倾角和斜坡在地面图像中位置信息。这样,便于移动设备的处理器或者服务器可以进一步根据该斜坡相对于水平面的倾角以及斜坡在地面图像中的位置信息,调整移动设备的行进姿态和方式以保证行进安全。
需要说明的是,该地面检测模型可以通过以下方式训练得到:
首先,获取样本地面的样本地面图像。其中,该样本地面图像至少包括地面类型为斜坡类型的样本地面的图像,且该样本地面图像为多个。
接着,获取该样本地面图像对应的世界坐标系下的有序三维点云。如上所述,由于该地面检测模型是基于现有的RGB二维图像的神经网络框架得到的,且该神经网络框架具有三通道输入,以及,技术人员是基于样本地面图像中的斜坡、斜坡在样本地面图像中的位置、以及斜坡相对于水平面的倾角对样本点云进行标注的,所以,在本公开中,需要获得该样本地面图像对应的世界坐标系下的样本有序三维点云。
其中,该样本有序三维点云是与样本地面图像对齐的,从而方便技术人员基于样本地面图像包括的斜坡、斜坡在样本地面图像中的位置、以及斜坡相对于水平面的倾角在该样本有序三维点云中进行标注,以获得标注有样本地面类型、样本地面相对于水平面的样本倾角、样本地面在样本地面图像中的样本位置的样本有序三维点云。
最后,将该样本有序三维点云作为模型训练样本进行训练,以得到地面检测模型。
示例地,可以通过该样本有序三维点云对深度神经网络模型进行训练,得到地面检测模型。这样,在将目标地面的地面图像对应的世界坐标系下的有序三维点云输入至该预先训练得到的地面检测模型时,可以得到目标地面对应的地面检测结果,该检测结果包括地面类型,以及,在地面类型为斜坡地面时,该检测结果还可以包括:该斜坡相对于水平面的倾角和该斜坡在地面图像中的位置信息。
需要说明的是,由于在上坡地面和下坡地面中,移动设备需要调整不同的行进姿态和方式,因此,在一种可能的实施例中,若目标地面的地面类型为斜坡类型,则还需进一步区分出该斜坡类型为上坡类型或下坡类型,即,地面检测模型输出的地面检测结果中除了包括表征目标地面为斜坡地面的地面类型之外,还需进一步确定出该斜坡地面为上坡地面还是为下坡地面。为了使地面检测模型可以进一步检测出目标地面为上坡地面还是下坡地面,在对地面检测模型进行训练的过程中,该样本地面包括地面类型为上坡类型的上坡地面,和地面类型为下坡类型的下坡地面,其中,由于图像获取装置的获取范围有限,所以,样本地面图像中可能不会同时包括上坡地面和下坡地面。
这样,技术人员可以根据该样本图像中的上坡地面或下坡地面,在样本有序三维点云中标注出上坡类型或下坡类型、以及上坡或下坡在样本地面图像中的位置和相对于水平面的倾角,并通过将该样本有序三维点云作为输入、将在该样本有序三维点云中的标注结果作为输出对深度神经网络模型参数进行训练。如此,训练得到的地面检测模型可以检测出该斜坡地面是上坡地面还是下坡地面。
此外,考虑到地面检测模型输出斜坡的位置信息是指斜坡在地面图像中的位置信息,而图像中的位置信息并不能很直观地反映出斜坡在世界坐标系下的位置信息。但是,在实际应用中,移动设备只有在确定出该斜坡在世界坐标系下的位置信息后,才能对行进姿态和方式作为准确地调整,因此,在本公开中,在确定出斜坡在地面图像中的位置信息之后,还需将该位置信息转化成世界坐标系下的位置信息。
具体地,根据斜坡在地面图像中的位置信息和世界坐标系下的有序三维点云,确定斜坡在世界坐标系下的位置信息。由于该有序三维点云是与地面图像对齐的,以及世界坐标系下的有序三维点云中的每一点的坐标均是其在世界坐标系下的坐标,即,真实空间中的坐标,因此,可以基于斜坡在地面图像中的位置信息和世界坐标系下的有序三维点云,确定出斜坡在世界坐标系下的位置信息。如此,移动设备可以基于该斜坡在世界坐标系下的位置信息,调整行进姿态和方式来保障行进安全。
在一种实施例中,若地面类型表征目标地面为斜坡地面,则输出提示信息。
通常情况下,移动设备或者视障人士在斜坡地面处行进时易发生危险,为了进一步避免危险的发生,在本公开中,在检测到目标地面为斜坡地面时,还可以输出提示信息,对视障人士、自动驾驶车辆内的人员进行提示。其中,输出提示消息可以通过语音、蜂鸣声、灯光等各种方式来实施。例如,可以通过麦克风输出语音提示:前方地面5米处有斜坡,请注意!
采用上述技术方案,在检测到目标地面为斜坡地面时,可以进一步输出提示信息对用户进行提示,使用户提前预知前方地面状况,并及时调整行进姿态和方式,以进一步避免危险的发生。
基于同一发明构思,本公开还提供一种地面检测装置。图3是根据一示例性实施例示出的一种地面检测装置的框图,如图3所示,该装置可以包括:
第一获取模块31,用于获取目标地面的地面图像对应的世界坐标系下的有序三维点云;
输入模块32,用于将所述有序三维点云作为预先训练的地面检测模型的输入,得到所述目标地面对应的地面检测结果,所述地面检测结果包括地面类型,所述地面类型用于表征所述目标地面是否为包含斜坡的斜坡地面。
可选地,所述第一获取模块31可以包括:
获取子模块,用于获取所述地面图像对应的深度图,以及所述地面图像对应的世界坐标系下的姿态角,所述姿态角包括获取所述地面图像的图像获取装置在世界坐标系下的角度;
确定子模块,用于根据所述深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
可选地,所述确定子模块可以包括:
归一化因子确定子模块,用于根据所述深度图和预设的归一化尺度,确定归一化因子;
深度图确定子模块,用于根据所述深度图和所述归一化因子,确定归一化后的深度图;
点云确定子模块,用于根据所述归一化后的深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
可选地,若所述地面类型表征所述目标地面为所述斜坡地面,所述地面检测结果还包括:所述斜坡相对于水平面的倾角和所述斜坡在所述地面图像中的位置信息。
可选地,所述装置还可以包括:
第二获取模块,用于获取样本地面的样本地面图像;
第三获取模块,用于获取所述样本地面图像对应的世界坐标系下的样本有序三维点云,所述样本有序三维点云标注有所述样本地面的样本地面类型、所述样本地面相对于水平面的样本倾角以及所述样本地面在所述样本地面图像中的样本位置;
训练模块,用于将所述样本有序三维点云作为模型训练样本进行训练,得到所述地面检测模型。
可选地,所述装置还可以包括:
确定模块,用于根据所述斜坡在所述地面图像中的位置信息和所述世界坐标系下的有序三维点云,确定所述斜坡在所述世界坐标系下的位置信息。
可选地,所述装置还可以包括:
输出模块,用于若所述地面类型表征所述目标地面为所述斜坡地面,则输出提示信息。
本领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述功能模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
采用上述装置,通过将地面图像对应的世界坐标系下的有序三维点云输入至地面检测模型,即可得到该目标地面对应的地面检测结果,无需使用人工检测算法,从而避免了人工算法设计难度极高,逻辑复杂、鲁棒性不佳的问题。并且,由于根据地面图像对应的世界坐标系下的有序三维点云对地面进行检测,所以,可以避免相关技术中视差图和深度图在过曝、过暗、弱纹理区域下会出现较多的空洞、较大的误差的弊端。此外,该地面检测模型是基于现有的RGB二维图像的神经网络框架训练得到的,如此,无需构建新的神经网络框架,利用现有的神经网络框架,即可实现对地面的检测。
图4是根据一示例性实施例示出的一种电子设备400的框图。其中,该电子设备可以是机器人设备或者移动头盔等。如图4所示,该电子设备400可以包括:处理器401,存储器402。该电子设备400还可以包括多媒体组件403,输入/输出(I/O)接口404,以及通信组件405中的一者或多者。
其中,处理器401用于控制该电子设备400的整体操作,以完成上述的地面检测方法中的全部或部分步骤。存储器402用于存储各种类型的数据以支持在该电子设备400的操作,这些数据例如可以包括用于在该电子设备400上操作的任何应用程序或方法的指令,以及应用程序相关的数据,例如联系人数据、收发的消息、图片、音频、视频等等。该存储器402可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,例如静态随机存取存储器(Static Random Access Memory,简称SRAM),电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,简称EEPROM),可擦除可编程只读存储器(Erasable Programmable Read-Only Memory,简称EPROM),可编程只读存储器(Programmable Read-Only Memory,简称PROM),只读存储器(Read-Only Memory,简称ROM),磁存储器,快闪存储器,磁盘或光盘。多媒体组件403可以包括屏幕和音频组件。其中屏幕例如可以是触摸屏,音频组件用于输出和/或输入音频信号。例如,音频组件可以包括一个麦克风,麦克风用于接收外部音频信号。所接收的音频信号可以被进一步存储在存储器402或通过通信组件405发送。音频组件还包括至少一个扬声器,用于输出音频信号。I/O接口404为处理器401和其他接口模块之间提供接口,上述其他接口模块可以是键盘,鼠标,按钮等。这些按钮可以是虚拟按钮或者实体按钮。通信组件405用于该电子设备400与其他设备之间进行有线或无线通信。无线通信,例如Wi-Fi,蓝牙,近场通信(Near FieldCommunication,简称NFC),2G、3G、4G、NB-IOT、eMTC、或其他5G等等,或它们中的一种或几种的组合,在此不做限定。因此相应的该通信组件405可以包括:Wi-Fi模块,蓝牙模块,NFC模块等等。
在一示例性实施例中,电子设备400可以被一个或多个应用专用集成电路(Application Specific Integrated Circuit,简称ASIC)、数字信号处理器(DigitalSignal Processor,简称DSP)、数字信号处理设备(Digital Signal Processing Device,简称DSPD)、可编程逻辑器件(Programmable Logic Device,简称PLD)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述的地面检测方法。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的地面检测方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器402,上述程序指令可由电子设备400的处理器401执行以完成上述的地面检测方法。
图5是根据另一示例性实施例示出的一种电子设备500的框图。例如,电子设备500可以被提供为一服务器。参照图5,电子设备500包括处理器522,其数量可以为一个或多个,以及存储器532,用于存储可由处理器522执行的计算机程序。存储器532中存储的计算机程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理器522可以被配置为执行该计算机程序,以执行上述的地面检测方法。
另外,电子设备500还可以包括电源组件526和通信组件550,该电源组件526可以被配置为执行电子设备500的电源管理,该通信组件550可以被配置为实现电子设备500的通信,例如,有线或无线通信。此外,该电子设备500还可以包括输入/输出(I/O)接口558。电子设备500可以操作基于存储在存储器532的操作***,例如Windows ServerTM,Mac OSXTM,UnixTM,LinuxTM等等。
在另一示例性实施例中,还提供了一种包括程序指令的计算机可读存储介质,该程序指令被处理器执行时实现上述的地面检测方法的步骤。例如,该计算机可读存储介质可以为上述包括程序指令的存储器532,上述程序指令可由电子设备500的处理器522执行以完成上述的地面检测方法。
在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的地面检测方法的代码部分。
以上结合附图详细描述了本公开的优选实施方式,但是,本公开并不限于上述实施方式中的具体细节,在本公开的技术构思范围内,可以对本公开的技术方案进行多种简单变型,这些简单变型均属于本公开的保护范围。
另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合。为了避免不必要的重复,本公开对各种可能的组合方式不再另行说明。
此外,本公开的各种不同的实施方式之间也可以进行任意组合,只要其不违背本公开的思想,其同样应当视为本公开所公开的内容。

Claims (10)

1.一种地面检测方法,其特征在于,包括:
获取目标地面的地面图像对应的世界坐标系下的有序三维点云;
将所述有序三维点云作为预先训练的地面检测模型的输入,得到所述目标地面对应的地面检测结果,所述地面检测结果包括地面类型,所述地面类型用于表征所述目标地面是否为包含斜坡的斜坡地面。
2.根据权利要求1所述的方法,其特征在于,所述获取目标地面的地面图像对应的世界坐标系下的有序三维点云,包括:
获取所述地面图像对应的深度图,以及所述地面图像对应的世界坐标系下的姿态角,所述姿态角包括获取所述地面图像的图像获取装置在世界坐标系下的角度;
根据所述深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
3.根据权利要求2所述的方法,其特征在于,所述根据所述深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云,包括:
根据所述深度图和预设的归一化尺度,确定归一化因子;
根据所述深度图和所述归一化因子,确定归一化后的深度图;
根据所述归一化后的深度图和所述姿态角,确定所述地面图像对应的世界坐标系下的有序三维点云。
4.根据权利要求1所述的方法,其特征在于,若所述地面类型表征所述目标地面为所述斜坡地面,所述地面检测结果还包括:所述斜坡相对于水平面的倾角和所述斜坡在所述地面图像中的位置信息。
5.根据权利要求4所述的方法,其特征在于,所述地面检测模型通过以下方式训练得到:
获取样本地面的样本地面图像;
获取所述样本地面图像对应的世界坐标系下的样本有序三维点云,所述样本有序三维点云标注有所述样本地面的样本地面类型、所述样本地面相对于水平面的样本倾角以及所述样本地面在所述样本地面图像中的样本位置;
将所述样本有序三维点云作为模型训练样本进行训练,得到所述地面检测模型。
6.根据权利要求4所述的方法,其特征在于,所述方法还包括:
根据所述斜坡在所述地面图像中的位置信息和所述世界坐标系下的有序三维点云,确定所述斜坡在所述世界坐标系下的位置信息。
7.根据权利要求1至6中任一项所述的方法,其特征在于,所述方法还包括:
若所述地面类型表征所述目标地面为所述斜坡地面,则输出提示信息。
8.一种地面检测装置,其特征在于,包括:
第一获取模块,用于获取目标地面的地面图像对应的世界坐标系下的有序三维点云;
输入模块,用于将所述有序三维点云作为预先训练的地面检测模型的输入,得到所述目标地面对应的地面检测结果,所述地面检测结果包括地面类型,所述地面类型用于表征所述目标地面是否为包含斜坡的斜坡地面。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1至7中任一项所述方法的步骤。
10.一种电子设备,其特征在于,包括:
存储器,其上存储有计算机程序;
处理器,用于执行所述存储器中的所述计算机程序,以实现权利要求1至7中任一项所述方法的步骤。
CN201910563488.1A 2019-06-26 2019-06-26 地面检测方法、装置、计算机可读存储介质及电子设备 Pending CN110378246A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910563488.1A CN110378246A (zh) 2019-06-26 2019-06-26 地面检测方法、装置、计算机可读存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910563488.1A CN110378246A (zh) 2019-06-26 2019-06-26 地面检测方法、装置、计算机可读存储介质及电子设备

Publications (1)

Publication Number Publication Date
CN110378246A true CN110378246A (zh) 2019-10-25

Family

ID=68250945

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910563488.1A Pending CN110378246A (zh) 2019-06-26 2019-06-26 地面检测方法、装置、计算机可读存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN110378246A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111123278A (zh) * 2019-12-30 2020-05-08 科沃斯机器人股份有限公司 分区方法、设备及存储介质
CN111586299A (zh) * 2020-05-09 2020-08-25 北京华捷艾米科技有限公司 一种图像处理方法和相关设备
CN111754636A (zh) * 2020-06-26 2020-10-09 北京百度网讯科技有限公司 三维点云处理方法、三维点云处理模型训练方法及装置
CN112580428A (zh) * 2020-11-09 2021-03-30 义乌市输变电工程有限公司设计分公司 一种配电网设计方法及装置
CN113848884A (zh) * 2021-09-07 2021-12-28 华侨大学 一种基于特征融合和时空约束的无人驾驶工程机械决策方法
WO2023015914A1 (zh) * 2021-08-12 2023-02-16 达闼机器人股份有限公司 图像重力方向的获取方法、装置、电子设备及存储介质
CN116385528A (zh) * 2023-03-28 2023-07-04 小米汽车科技有限公司 标注信息的生成方法、装置、电子设备、车辆及存储介质

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1286178A2 (de) * 2001-08-23 2003-02-26 IBEO Automobile Sensor GmbH Verfahren zur optischen Bodenerkennung
US20130096886A1 (en) * 2010-03-31 2013-04-18 Borys Vorobyov System and Method for Extracting Features from Data Having Spatial Coordinates
CN103287582A (zh) * 2012-02-15 2013-09-11 空中客车运营简化股份公司 飞行器下降异常检测
US20160330434A1 (en) * 2015-05-08 2016-11-10 Lite-On Electronics (Guangzhou) Limited Control method of a depth camera
CN108245385A (zh) * 2018-01-16 2018-07-06 曹醒龙 一种帮助视障人士出行的装置
CN108363995A (zh) * 2018-03-19 2018-08-03 百度在线网络技术(北京)有限公司 用于生成数据的方法和装置
CN108614274A (zh) * 2018-05-22 2018-10-02 广州市极臻智能科技有限公司 基于多旋翼无人机的交叉式跨越线距离测量方法及装置
CN108885791A (zh) * 2018-07-06 2018-11-23 深圳前海达闼云端智能科技有限公司 地面检测方法、相关装置及计算机可读存储介质
CN109002039A (zh) * 2018-07-06 2018-12-14 达闼科技(北京)有限公司 避障提醒方法、相关装置及计算机可读存储介质
CN109074668A (zh) * 2018-08-02 2018-12-21 深圳前海达闼云端智能科技有限公司 路径导航方法、相关装置及计算机可读存储介质
US10186049B1 (en) * 2017-03-06 2019-01-22 URC Ventures, Inc. Determining changes in object structure over time using mobile device images
US20190188460A1 (en) * 2017-12-18 2019-06-20 Arcsoft (Hangzhou) Multimedia Technology Co., Ltd. Method and device for use in hand gesture recognition

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1286178A2 (de) * 2001-08-23 2003-02-26 IBEO Automobile Sensor GmbH Verfahren zur optischen Bodenerkennung
US20130096886A1 (en) * 2010-03-31 2013-04-18 Borys Vorobyov System and Method for Extracting Features from Data Having Spatial Coordinates
CN103287582A (zh) * 2012-02-15 2013-09-11 空中客车运营简化股份公司 飞行器下降异常检测
US20160330434A1 (en) * 2015-05-08 2016-11-10 Lite-On Electronics (Guangzhou) Limited Control method of a depth camera
US10186049B1 (en) * 2017-03-06 2019-01-22 URC Ventures, Inc. Determining changes in object structure over time using mobile device images
US20190188460A1 (en) * 2017-12-18 2019-06-20 Arcsoft (Hangzhou) Multimedia Technology Co., Ltd. Method and device for use in hand gesture recognition
CN108245385A (zh) * 2018-01-16 2018-07-06 曹醒龙 一种帮助视障人士出行的装置
CN108363995A (zh) * 2018-03-19 2018-08-03 百度在线网络技术(北京)有限公司 用于生成数据的方法和装置
CN108614274A (zh) * 2018-05-22 2018-10-02 广州市极臻智能科技有限公司 基于多旋翼无人机的交叉式跨越线距离测量方法及装置
CN108885791A (zh) * 2018-07-06 2018-11-23 深圳前海达闼云端智能科技有限公司 地面检测方法、相关装置及计算机可读存储介质
CN109002039A (zh) * 2018-07-06 2018-12-14 达闼科技(北京)有限公司 避障提醒方法、相关装置及计算机可读存储介质
CN109074668A (zh) * 2018-08-02 2018-12-21 深圳前海达闼云端智能科技有限公司 路径导航方法、相关装置及计算机可读存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
朱株: "基于三维数据面向无人车导航的非结构化场景理解", 《中国博士学位论文全文数据库(工程科技Ⅱ辑)》 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111123278A (zh) * 2019-12-30 2020-05-08 科沃斯机器人股份有限公司 分区方法、设备及存储介质
CN111123278B (zh) * 2019-12-30 2022-07-12 科沃斯机器人股份有限公司 分区方法、设备及存储介质
CN111586299A (zh) * 2020-05-09 2020-08-25 北京华捷艾米科技有限公司 一种图像处理方法和相关设备
CN111586299B (zh) * 2020-05-09 2021-10-19 北京华捷艾米科技有限公司 一种图像处理方法和相关设备
CN111754636A (zh) * 2020-06-26 2020-10-09 北京百度网讯科技有限公司 三维点云处理方法、三维点云处理模型训练方法及装置
CN111754636B (zh) * 2020-06-26 2023-07-25 北京百度网讯科技有限公司 三维点云处理方法、三维点云处理模型训练方法及装置
CN112580428A (zh) * 2020-11-09 2021-03-30 义乌市输变电工程有限公司设计分公司 一种配电网设计方法及装置
WO2023015914A1 (zh) * 2021-08-12 2023-02-16 达闼机器人股份有限公司 图像重力方向的获取方法、装置、电子设备及存储介质
CN113848884A (zh) * 2021-09-07 2021-12-28 华侨大学 一种基于特征融合和时空约束的无人驾驶工程机械决策方法
CN113848884B (zh) * 2021-09-07 2023-05-05 华侨大学 一种基于特征融合和时空约束的无人驾驶工程机械决策方法
CN116385528A (zh) * 2023-03-28 2023-07-04 小米汽车科技有限公司 标注信息的生成方法、装置、电子设备、车辆及存储介质
CN116385528B (zh) * 2023-03-28 2024-04-30 小米汽车科技有限公司 标注信息的生成方法、装置、电子设备、车辆及存储介质

Similar Documents

Publication Publication Date Title
CN110378246A (zh) 地面检测方法、装置、计算机可读存储介质及电子设备
US11915501B2 (en) Object detection method and apparatus, electronic device, and storage medium
CN104173054B (zh) 基于双目视觉技术的人体身高测量方法及其装置
CN109657553B (zh) 一种学生课堂注意力检测方法
CN105023010B (zh) 一种人脸活体检测方法及***
CN101068344B (zh) 物体检测装置
CN105447853B (zh) 飞行装置、飞行控制***及方法
CN103765870A (zh) 图像处理装置、包括图像处理装置的投影仪和投影仪***、图像处理方法
CN103473542B (zh) 多线索融合的目标跟踪方法
CN112258567B (zh) 物体抓取点的视觉定位方法、装置、存储介质及电子设备
CN110378965A (zh) 确定坐标系转换参数的方法、装置、设备和存储介质
CN105096307B (zh) 在成对的立体图像中检测物体的方法
EP2458405A1 (en) Graphics-aided remote position measurement with handheld geodesic device
CN106125994B (zh) 坐标匹配方法及使用该坐标匹配方法的操控方法和终端
US11315264B2 (en) Laser sensor-based map generation
CN105654067A (zh) 一种车辆检测方法及装置
CN109002039A (zh) 避障提醒方法、相关装置及计算机可读存储介质
CN108885791A (zh) 地面检测方法、相关装置及计算机可读存储介质
CN106361345A (zh) 基于摄像头标定的视频图像中人体身高测量的***及方法
CN105931263A (zh) 一种目标跟踪方法及电子设备
CN104964708B (zh) 一种基于车载双目视觉的路面坑槽检测方法
CN108474658A (zh) 地面形态检测方法及***、无人机降落方法和无人机
KR102297202B1 (ko) 차량용 표시 장치
CN109253722A (zh) 融合语义分割的单目测距***、方法、设备及存储介质
CN104680145B (zh) 一种门的开关状态变化检测方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20210303

Address after: 201111 2nd floor, building 2, no.1508, Kunyang Road, Minhang District, Shanghai

Applicant after: Dalu Robot Co.,Ltd.

Address before: 518000 Room 201, building A, No. 1, Qian Wan Road, Qianhai Shenzhen Hong Kong cooperation zone, Shenzhen, Guangdong (Shenzhen Qianhai business secretary Co., Ltd.)

Applicant before: Shenzhen Qianhaida Yunyun Intelligent Technology Co.,Ltd.

TA01 Transfer of patent application right
CB02 Change of applicant information

Address after: 201111 Building 8, No. 207, Zhongqing Road, Minhang District, Shanghai

Applicant after: Dayu robot Co.,Ltd.

Address before: 201111 2nd floor, building 2, no.1508, Kunyang Road, Minhang District, Shanghai

Applicant before: Dalu Robot Co.,Ltd.

CB02 Change of applicant information