CN112304293B - 道路高度检测方法、装置、可读存储介质和电子设备 - Google Patents
道路高度检测方法、装置、可读存储介质和电子设备 Download PDFInfo
- Publication number
- CN112304293B CN112304293B CN201910714976.8A CN201910714976A CN112304293B CN 112304293 B CN112304293 B CN 112304293B CN 201910714976 A CN201910714976 A CN 201910714976A CN 112304293 B CN112304293 B CN 112304293B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- optical axis
- camera
- height
- offset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/04—Interpretation of pictures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
- G01B11/06—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness for measuring thickness ; e.g. of sheet material
- G01B11/0608—Height gauges
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本公开实施例公开了一种道路高度检测方法、装置、可读存储介质和电子设备,其中,方法包括:通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;对所述道路图像中的目标物体进行检测,获得物体检测框;基于所述相机的光轴和所述物体检测框确定所述相机的第一光轴偏移值;基于所述第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值,本公开根据射影几何相关理论,实现快速求取道路高度。由于只涉及到单幅图像上少量特征信息的运算,不需要跟踪前后多幅图像,也不需要进行其他特征的提取和匹配,因此具有非常高的实时性。
Description
技术领域
本公开涉及辅助驾驶技术领域,尤其是一种道路高度检测方法、装置、可读存储介质和电子设备。
背景技术
道路高度模型是指车辆前方的道路高度或坡度,由于此前检测道路高度的传感设备如雷达等较为昂贵,同时通过图像来获取道路高度较为困难,计算机辅助驾驶***大多采用了路面为平面的假设,这种方式对坡度较大的路面并不能很好地处理,比如出现检测盲区、测距不准、跟踪丢失等问题。
发明内容
为了解决上述技术问题,提出了本公开。本公开的实施例提供了一种道路高度检测方法、装置、可读存储介质和电子设备。
根据本公开实施例的一个方面,提供了一种道路高度检测方法,包括:
通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;
对所述道路图像中的目标物体进行检测,获得物体检测框;
基于所述相机的光轴和所述物体检测框确定所述相机的第一光轴偏移值;
基于所述第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值。
根据本公开实施例的另一方面,提供了一种道路高度检测装置,包括:
图像采集模块,用于通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;
物体检测模块,用于对所述图像采集模块采集的道路图像中的目标物体进行检测,获得物体检测框;
偏移值确定模块,用于基于所述相机的光轴和所述物体检测模块获得的物体检测框确定所述相机的第一光轴偏移值;
高度确定模块,用于基于所述偏移值确定模块确定的第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值。
根据本公开实施例的又一方面,提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述实施例提供的道路高度检测方法。
根据本公开实施例的还一方面,提供了一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述实施例提供的道路高度检测方法。
基于本公开上述实施例提供的一种道路高度检测方法、装置、可读存储介质和电子设备,通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;对所述道路图像中的目标物体进行检测,获得物体检测框;基于所述相机的光轴和所述物体检测框确定所述相机的第一光轴偏移值;基于所述第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值,本公开根据射影几何相关理论,实现快速求取道路高度。由于只涉及到单幅图像上少量特征信息的运算,不需要跟踪前后多幅图像,也不需要进行其他特征的提取和匹配,因此具有非常高的实时性;并且,整个计算不受场景的限制,适用于任何包含车辆和行人的静止和运动场景的道路高度计算。
下面通过附图和实施例,对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述,本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开,并不构成对本公开的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1(a)是前方车辆与车辆在平行路面时图像中相机光轴和车辆检测框之间的位置示意图。
图1(b)是车辆前方道路为上坡时图像中相机光轴和车辆检测框之间的位置示意图。
图1(c)是车辆前方道路为下坡时图像中相机光轴和车辆检测框之间的位置示意图。
图1(d)是前方车辆与行人在平行路面时图像中相机光轴和车辆检测框之间的位置示意图。
图1(e)是车辆前方道路为上坡时图像中相机光轴和行人检测框之间的位置示意图。
图1(f)是车辆前方道路为下坡时图像中相机光轴和行人检测框之间的位置示意图。
图2是本公开涉及的根据车辆计算道路高度的流程示意图。
图3是本公开涉及的根据行人计算道路高度的流程示意图。
图4是基于车辆计算路面高度的几何原理图。
图5是本公开一示例性实施例提供的道路高度检测方法的流程示意图。
图6是本公开图5所示的实施例中步骤503的一个流程示意图。
图7是本公开另一示例性实施例提供的道路高度检测方法的流程示意图。
图8是本公开一示例性实施例提供的道路高度检测装置的结构示意图。
图9是本公开另一示例性实施例提供的道路高度检测装置的结构示意图。
图10是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面,将参考附图详细地描述根据本公开的示例实施例。显然,所描述的实施例仅仅是本公开的一部分实施例,而不是本公开的全部实施例,应理解,本公开不受这里描述的示例实施例的限制。
应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解,本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等,既不代表任何特定技术含义,也不表示它们之间的必然逻辑顺序。
还应理解,在本公开实施例中,“多个”可以指两个或两个以上,“至少一个”可以指一个、两个或两个以上。
还应理解,对于本公开实施例中提及的任一部件、数据或结构,在没有明确限定或者在前后文给出相反启示的情况下,一般可以理解为一个或多个。
另外,本公开中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本公开中字符“/”,一般表示前后关联对象是一种“或”的关系。
还应理解,本公开对各个实施例的描述着重强调各个实施例之间的不同之处,其相同或相似之处可以相互参考,为了简洁,不再一一赘述。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机***、服务器等电子设备,其可与众多其它通用或专用计算***环境或配置一起操作。适于与终端设备、计算机***、服务器等电子设备一起使用的众所周知的终端设备、计算***、环境和/或配置的例子包括但不限于:个人计算机***、服务器计算机***、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的***、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机***、大型计算机***和包括上述任何***的分布式云计算技术环境,等等。
终端设备、计算机***、服务器等电子设备可以在由计算机***执行的计算机***可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机***/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算***存储介质上。
申请概述
在实现本公开的过程中,发明人发现,现有技术中对于道路高度的检测通常通过激光雷达,获取三维点云,通过三维点云来恢复道路高度;该方案至少存在以下问题:激光雷达的方案成本过高,不适合一般的辅助驾驶***。
示例性***
利用单目摄像头感知的车辆和行人信息,根据射影几何相关理论,来快速求取道路高度。由于只涉及到单幅图像上少量特征信息的运算,不需要跟踪前后多幅图像,也不需要进行其他特征的提取和匹配,因此具有非常高的实时性。此外,整个计算不受场景的限制,适用于任何包含车辆和行人的静止和运动场景。
图1(a)是前方车辆与车辆在平行路面时图像中相机光轴和车辆检测框之间的位置示意图。如图所示,车辆100前面安装有摄像头101,103为摄像机光轴,在路面平坦时,相机光轴指向前方车辆105的尾部104位置,204和205分别为图像中相机光轴和车辆检测框。
图1(b)是车辆前方道路为上坡时图像中相机光轴和车辆检测框之间的位置示意图。如图所示,车辆100上的相机光轴103此时指向坡面106的位置,该位置相对平坦路面104偏低,前方车辆107处于上坡路面109上。
图1(c)是车辆前方道路为下坡时图像中相机光轴和车辆检测框之间的位置示意图。如图所示,车辆100上的相机光轴103指向111位置,该位置相对平坦路面的104偏高,前方车辆108处于下坡路面110上。
图1(d)是前方车辆与行人在平行路面时图像中相机光轴和车辆检测框之间的位置示意图。如图所示,车辆100上的摄像头为101,相机光轴为103,平坦路面时103指向前方行人112的104位置。204和208分别为图像中的相机光轴和行人检测框。
图1(e)是车辆前方道路为上坡时图像中相机光轴和行人检测框之间的位置示意图。如图所示,车辆100上的相机光轴103指向上坡面的106位置,行人113位于上坡面109上,209为图像中行人检测框。
图1(f)是车辆前方道路为下坡时图像中相机光轴和行人检测框之间的位置示意图。如图所示,车辆100上的相机光轴103指向111位置,210为图像中行人检测框。
图2是本公开涉及的根据车辆计算道路高度的流程示意图。如图2所示,包括:步骤201,通过摄像机获取一帧图像;202,对该图像进行分析,检测其中的车辆;可选地,车辆检测可使用鲁棒性较好的卷积神经网络获得图像中包含位置信息的一个矩形框实现;203,通过图像中检测的车辆判断该车辆的宽度范围;车辆实体的宽度有一些先验知识,例如,多数轿车宽1.8m,中巴2.0m,箱式货车为2.3m,大巴2.5m,具体可根据计算得到的宽度范围来选取上面的一个值,如果车辆类型更多,可以继续细分,使宽度更准确。204,根据图像中相机光轴和检测到的车辆计算出相机光轴的偏移;通过相机光轴的坐标和车辆坐标确定光轴的偏移值,计算出相机光轴相对车辆的偏移,相机光轴可以想象为一束激光,会打在前方车辆上形成一个斑点,前方车辆上下坡和平路时,这个斑点的位置就不一样了,也就是所谓的偏移(可参照图1所示)。该偏移值可用来定性表示上坡或下坡的坡度大小。205,根据203获得的车辆宽度和204计算的偏移值得到归一化偏移,归一化的目的是消除不同高度车辆的影响,同时获得道路高度的直接计算公式;206,根据归一化偏移计算道路高度。207,对计算的结果进行筛选,例如,通过过滤噪声,将异常大或异常小的值进行过滤,可认为该筛选为一个去噪过程。筛选是由于车辆检测框不一定准确,比如包括露出一半的车辆,此时需要对结果进行筛选,筛选后的道路高度用于输入道路高度模型A。
图3是本公开涉及的根据行人计算道路高度的流程示意图。301,通过摄像机获取一帧图像;302,对图像进行分析,检测其中的行人;303,根据检测到的行人判断的高度范围,正常行人一般高度为1.5m-2.0m之间;304,计算相机光轴相对行人的偏移;305,计算归一化偏移;306,根据303获得的高度和305计算的归一化偏移来计算道路高度;307,对计算的结果进行筛选并将筛选后的送入道路高度模型A。
根据车辆和行人计算道路高度的流程大体形同,其区别仅在于前者依赖于宽度,后者依赖于高度。
基于车辆的道路垂直高度计算原理:如果host车辆和前面的车辆始终在同一个平面上,那么相机光轴指在前车上的位置不变,这个位置用偏移offset来表示,当两辆车不在同一个平面上时,offset会发生变化。基于车辆的高度计算便是根据这种变化关系来求解两个车辆所在平面的差异。图4是基于车辆计算路面高度的几何原理图。如图4所示,相机光轴打在前车上的位置表示量offset(即,相机光轴相对车辆偏移)可通过下列公式(1)计算:
其中,hc为相机安装高度,hv为前方车辆或行人高度,s为当前车辆与前方车辆或行人在水平方向的距离,h为前方车辆或行人所处位置相对当前车辆的道路高度,θ为相机的俯仰角。令两辆车所在同一个平面上时的offset为stdoffset,此时h为0,stdoffset记为标准偏移,带入公式(1),得到公式(2):
为了消除不同高度的车辆的影响,需要对offset做个归一化。归一化之后的偏移量为normoffset,通过以下公式(3)计算:
在已知归一化偏移后,便可以通过以下公式(4)计算出前车所在平面相对于host所在平面的高度h:
h=normoffset*(hc+s*tan(θ)) 公式(4)
由于相机光轴打在前车上的偏移量与图像中消失点相对于前车框的偏移量是相等的,因此normoffset可由图像空间获得。
上述所有的偏移量都在世界坐标系下计算,根据相机线性成像模型,该偏移量在图像中依然成立,因此计算的目标转为计算图像空间中的归一化偏移。图像空间中normoffset的计算包括:假设消失点为vp(x,y),图像中的检测框(车辆或行人)为rect(l,t,r,b),此时,可通过公式(5)计算normoffset:
其中,(l,t)为检测框的左上角坐标,(r,b)为检测框的右下角坐标,rect.t表示检测框的顶部坐标,rect.height表示检测框的高度,vp.y表示图像中相机光轴纵坐标。公式(5)中最关键的是获取到stdoffset,可选地,可以初始化一个stdoffset,在跟踪过程中进行矫正。一种矫正方式是:在错误的stdoffset下每辆车都会得到一组不正确的normoffset,对这组normoffset求方差,如果方差很小,则表明两辆车处于同一平面,此时,另一种矫正犯事是:如果检测到前车在15m之内,那么直接令因为15m的范围两辆车几乎在同一平面。完成矫正后可正常运行。对于行人可以直接利用公式(5)用来计算,然后代入公式(4)计算出道路高度。
上述公式(5)计算normoffset的方法有一个缺点是需要求取实际车辆的高度,在经过一段时间的测试后发现无论是采用三角相似法还是EKF都很难得到准确的车辆高度,从而导致计算的路面高度误差比较大。因此提出对公式(5)进行改进得到公式(6),以避免求解车辆高度。
其中,camh表示该车辆上相机的安装高度,H表示前方车辆或行人的实际高度,h′表示图像中车辆的高度,w表示图像中车辆的宽度,由于图像中宽度的抖动比高度小,而且时间车辆的宽度在1.8m左右,因此需要进行一步转换。
由摄像机投影原理可得以下公式(7):
带入公式(6),并进行化简可得公式(9):
因此,得到计算道路高度的计算公式(10):
其中,fu和fv分别表示相机的横向焦距和纵向焦距(大多数相机中横向焦距和纵向焦距相等,但也有不等的情况),W表示车辆的真实宽度。上述公式(10)完全将对车辆高度的依赖转移到车辆宽度上,而车辆宽度比较稳定,因此计算出的路面高度比较准确。
本公开还涉及到对道路模型的更新及输出。其中,道路高度模型可以是神经网络或者简单的多项式模型等。可选地,道路高度模型是一个三次曲线或贝塞尔曲线模型等,每次根据车辆或行人获得一个道路高度h,就将该道路高度输入到这个道路高度模型里面去矫正这个道路高度模型的系数,实现对该道路高度模型的更新,使该道路高度模型越来越准确,即越来越具有普适性。
示例性方法
图5是本公开一示例性实施例提供的道路高度检测方法的流程示意图。本实施例可应用在电子设备上,如图5所示,包括如下步骤:
步骤501,通过设置在车辆上的相机采集车辆前方的道路图像。
其中,道路图像中包括目标物体,其中,目标物体可以包括但不限于前方车辆、行人等。
步骤502,对道路图像中的目标物体进行检测,获得物体检测框。
在一实施例中,物体检测框可以表现为道路图像中的矩形框或其他形状的框,该物体检测框用于体现目标物体在道路图像中的位置。
步骤503,基于相机的光轴和物体检测框确定相机的第一光轴偏移值。
可选地,第一光轴偏移值可以基于相机的光轴在物体检测框中的位置确定。
步骤504,基于第一光轴偏移值确定目标物体所在位置与车辆所在位置之间的相对高度值。
其中,相对高度值为车辆所在位置和目标物体所在位置在垂直方向上的高度差。
本公开上述实施例提供的一种道路高度检测方法,通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;对所述道路图像中的目标物体进行检测,获得物体检测框;基于所述相机的光轴和所述物体检测框确定所述相机的第一光轴偏移值;基于所述第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值,本公开根据射影几何相关理论,实现快速求取道路高度。由于只涉及到单幅图像上少量特征信息的运算,不需要跟踪前后多幅图像,也不需要进行其他特征的提取和匹配,因此具有非常高的实时性;并且,整个计算不受场景的限制,适用于任何包含车辆和行人的静止和运动场景的道路高度计算。
在一些可选的实施例中,步骤504包括:基于相机的高度、车辆与目标物体之间的距离、相机的俯仰角和第一光轴偏移值,确定相对高度值。
可选地,可基于上述图4所示实施例中获得的公式(4)实现对相对高度值的计算,其中,公式(4)中的normoffset对应本实施例中的第一光轴偏移值,hc对应本实施例中的相机的高度,s对应车辆与目标物体之间的距离,θ对应相机的俯仰角,通过将上述各个取值带入公式(4)即可计算获得相对高度值h,通过公式(4)计算相对高度值,消除不同高度的目标物体的高度对相对高度值的影响,使计算获得的相对高度值更加准确。
在一些可选的实施例中,在执行步骤504之前,本实施例方法还包括:
基于第三光轴偏移对第二光轴偏移进行归一化处理,确定第一光轴偏移与相机的高度、车辆与目标物体之间的距离、相机的俯仰角和相对高度之间的关系。
其中,第二光轴偏移为相机的光轴与目标物体之间的实际偏移,第三光轴偏移为假设目标物体与车辆在同一高度时相机的光轴与目标物体之间的偏移。
可选地,本实施例中的第二光轴偏移对应上述图4提供的实施例中的公式(1)中的相机光轴相对车辆偏移offset,第三光轴偏移对应上述图4提供的实施例中的公式(2)中的标准偏移stdoffset,通过公式(2)对公式(1)进行归一化处理,获得第一光轴偏移对应的公式(3),本实施例通过基于标准偏移对实际偏移进行归一化,实现消除了不同高度的目标物体对计算第一光轴偏移的影响,简化了第一光轴偏移的计算,提高了处理速度。
如图6所示,在上述图5所示实施例的基础上,步骤503可包括如下步骤:
步骤5031,获得相机的光轴在道路图像中的消失点在物体检测框中的消失点偏移值。
在一些可选的实施例中,上述实施例中的步骤5031包括:
基于偏移计算参数与消失点偏移之间的关系,确定消失点偏移值。
其中,偏移计算参数包括:物体检测框的图像坐标、消失点的图像坐标、目标物体的真实高度、目标物体在道路图像中的图像高度、相机的高度、车辆与目标物体之间的距离和相机的俯仰角。
可选地,确定消失点偏移值的过程可利用上述图4提供的实施例中的公式(6)实现,其中,公式(6)中的rect.t对应物体检测框的图像坐标,vp.y对应消失点的图像坐标,H对应目标物体的真实高度,h′对应目标物体在道路图像中的图像高度,hc对应相机的高度,s对应车辆与目标物体之间的距离,θ对应相机的俯仰角。
步骤5032,基于消失点偏移值确定第一光轴偏移值。
其中,第一光轴偏移与相机在道路图像中的消失点在物体检测框中的偏移值相等。
本实施例中,由于第一光轴偏移、第二光轴偏移和第三光轴偏移都在世界坐标系下计算,根据相机线性成像模型,上述偏移量在图像中依然成立,因此计算的目标转为计算图像空间中的归一化偏移。
可选地,目标物体为人或其他车辆。
本公开实施例通过车辆前方的行人或其他车辆对前方道路的高度进行计算,只需采集包括前方的行人或其他车辆的图像即可实现对前方道路高度的计算,简化了计算过程,提高了计算效率。
在一些可选的实施例中,在步骤504之前,还包括:
基于道路图像中包括的其他车辆的类型和物体检测框确定其他车辆的宽度值。
当目标物体为其他车辆时,本实施例可参照图2所示实施例中的步骤203,通过图像中检测的车辆判断该车辆的宽度范围;车辆实体的宽度有一些先验知识,例如,多数轿车宽1.8m,中巴2.0m,箱式货车为2.3m,大巴2.5m,具体可根据计算得到的宽度范围来选取上面的一个值,如果车辆类型更多,可以继续细分,使宽度更准确。
或,基于道路图像和物体检测框确定道路图像中包括的人的高度值。
当目标物体为人时,本实施例可参照图3所示实施例中的步骤303,根据检测到的行人判断的高度范围,正常行人一般高度为1.5m-2.0m之间。
图7是本公开另一示例性实施例提供的道路高度检测方法的流程示意图。本实施例可应用在电子设备上,如图7所示,包括如下步骤:
步骤701,通过设置在车辆上的相机采集车辆前方的道路图像。
步骤702,对道路图像中的目标物体进行检测,获得物体检测框。
步骤703,确定其他车辆的宽度与其他车辆的高度之间的转换关系。
本实施例中的转换关系可基于图4提供的实施例中的公式(8)确定,如公式(8)所示,可基于相机的横向焦距和纵向焦距,以及图像中车辆的高度和图像中车辆的宽度,以及车辆的实际宽度确定车辆的实际高度。
步骤704,将其他车辆的宽度替换偏移计算参数中的目标物体的真实高度。
本实施例通过公式(8)将偏移计算参数中的其他车辆的真实高度替换为其他车辆的宽度。
步骤705,基于替换后的偏移计算参数与消失点偏移之间的关系,确定消失点偏移值。
步骤706,基于消失点偏移值确定第一光轴偏移值。
步骤707,基于第一光轴偏移值确定目标物体所在位置与车辆所在位置之间的相对高度值。
本实施例通过将其他车辆的高度替换为其他车辆的宽度,克服了以公式(5)计算相对高度值时需要求取其他车辆的高度的缺点,由于车辆高度的计算很难得到准确值,会导致计算的相对高度值误差较大,本实施例通过利用摄像机投影原理对其他车辆的高度和宽度建立关系,并获得针对其他车辆的计算相对高度值的公式(10),以该公式计算相对高度时,完全将对车辆高度的依赖转移到车辆宽度上,而车辆宽度比较稳定,因此计算出的路面高度比较准确。
在一些可选实施例中,可将上述任意实施例提供的道路高度检测方法应用于车辆智能驾驶方法,本实施例提供的车辆智能驾驶方法包括:基于上述任意一项实施例提供的道路高度检测方法,确定车辆所在车道的车道线中至少一个点在世界坐标系下与车辆所在位置之间的相对高度值;
基于相对高度值对车辆进行智能控制。
本实施例通过上述实施例提供的道路高度检测方法实现对车辆前方道路高度的预测,在已知前方道路高度的情况下,改善了车辆智能驾驶的效果。
可选地,对车辆进行的智能控制包括以下至少之一:调整设置在车辆上的相机的俯仰角、调整车辆的车速、调整车辆车灯的角度。
本实施例实现了以下有益效果:在已经道路高度的情况下通过调整相机pitch角来实现调整摄像机的投影平面目的,去除道路平面的假设,获取了更为准确的障碍物位置和距离。提前调整车辆发动机的功率,使车辆保持和平路时相同的行驶速度,增加驾驶的舒适性。在晚上根据道路坡度调整车辆前灯的角度,使之能够照射更远的范围。
并且在前方道路坡度未知的情况下,车辆由平路转为上坡或下坡时,车辆速度会突然减慢或加快,给驾驶员及乘车人带来一定的不适感,本实施例通过道路高度检测方法可以使得车辆提前预知前方道路坡度,及时调整发动机功率,使车辆保持匀速,减少了对驾驶员及乘车人产生的不适。
本公开实施例提供的任一种道路高度检测方法可以由任意适当的具有数据处理能力的设备执行,包括但不限于:终端设备和服务器等。或者,本公开实施例提供的任一种道路高度检测方法可以由处理器执行,如处理器通过调用存储器存储的相应指令来执行本公开实施例提及的任一种道路高度检测方法。下文不再赘述。
示例性装置
图8是本公开一示例性实施例提供的道路高度检测装置的结构示意图。本实施例提供的装置包括:
图像采集模块81,用于通过设置在车辆上的相机采集车辆前方的道路图像。其中,道路图像中包括目标物体;
物体检测模块82,用于对图像采集模块81采集的道路图像中的目标物体进行检测,获得物体检测框。
偏移值确定模块83,用于基于相机的光轴和物体检测模块82获得的物体检测框确定所述相机的第一光轴偏移值;
高度确定模块84,用于基于偏移值确定模块83确定的第一光轴偏移值确定目标物体所在位置与车辆所在位置之间的相对高度值。
本公开上述实施例提供的一种道路高度检测装置,通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;对所述道路图像中的目标物体进行检测,获得物体检测框;基于所述相机的光轴和所述物体检测框确定所述相机的第一光轴偏移值;基于所述第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值,本公开根据射影几何相关理论,实现快速求取道路高度。由于只涉及到单幅图像上少量特征信息的运算,不需要跟踪前后多幅图像,也不需要进行其他特征的提取和匹配,因此具有非常高的实时性;并且,整个计算不受场景的限制,适用于任何包含车辆和行人的静止和运动场景的道路高度计算。
图9是本公开另一示例性实施例提供的道路高度检测装置的结构示意图。本实施例提供的装置包括:
偏移值确定模块83,包括:
消失点确定单元832,用于获得相机的光轴在道路图像中的消失点在物体检测框中的消失点偏移值。
可选地,消失点确定单元832,具体用于基于偏移计算参数与消失点偏移之间的关系,确定消失点偏移值。
其中,偏移计算参数包括:物体检测框的图像坐标、消失点的图像坐标、目标物体的真实高度、目标物体在道路图像中的图像高度、相机的高度、车辆与所述目标物体之间的距离和相机的俯仰角。
光轴偏移值确定单元833,用于基于消失点偏移值确定第一光轴偏移值。
高度确定模块84,具体用于基于相机的高度、车辆与目标物体之间的距离、相机的俯仰角和第一光轴偏移,确定相对高度值。
在高度确定模块84之前,还包括:
关系确定模块91,用于基于第三光轴偏移对第二光轴偏移进行归一化处理,确定第一光轴偏移与相机的高度、车辆与目标物体之间的距离、相机的俯仰角和相对高度之间的关系。
其中,第二光轴偏移为相机的光轴与目标物体之间的实际偏移,第三光轴偏移为假设目标物体与车辆在同一高度时相机的光轴与目标物体之间的偏移。
可选地,目标物体为人或其他车辆。
高度确定模块84,还用于基于道路图像中包括的其他车辆的类型和物体检测框确定其他车辆的宽度值;或,基于道路图像和物体检测框确定道路图像中包括的人的高度值。
可选地,偏移值确定模块83,还包括:
宽高转换单元831,用于确定其他车辆的宽度与其他车辆的高度之间的转换关系;将其他车辆的宽度替换偏移计算参数中的目标物体的真实高度。
消失点确定单元832,具体用于基于替换后的偏移计算参数与消失点偏移之间的关系,确定消失点偏移值。
示例性电子设备
下面,参考图10来描述根据本公开实施例的电子设备。该电子设备可以是第一设备100和第二设备200中的任一个或两者、或与它们独立的单机设备,该单机设备可以与第一设备和第二设备进行通信,以从它们接收所采集到的输入信号。
图10图示了根据本公开实施例的电子设备的框图。
如图10所示,电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器101可以运行所述程序指令,以实现上文所述的本公开的各个实施例的道路高度检测方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中,电子设备10还可以包括:输入装置13和输出装置14,这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
例如,在该电子设备是第一设备100或第二设备200时,该输入装置13可以是上述的麦克风或麦克风阵列,用于捕捉声源的输入信号。在该电子设备是单机设备时,该输入装置13可以是通信网络连接器,用于从第一设备100和第二设备200接收所采集的输入信号。
此外,该输入设备13还可以包括例如键盘、鼠标等等。
该输出装置14可以向外部输出各种信息,包括确定出的距离信息、方向信息等。该输出设备14可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图10中仅示出了该电子设备10中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的道路高度检测方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的道路高度检测方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于***实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (9)
1.一种道路高度检测方法,包括:
通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;
对所述道路图像中的目标物体进行检测,获得物体检测框;
基于所述相机的光轴和所述物体检测框确定所述相机的第一光轴偏移值;包括:获得所述相机的光轴在所述道路图像中的消失点在所述物体检测框中的消失点偏移值;基于所述消失点偏移值确定所述第一光轴偏移值;
基于所述第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值;包括:基于所述相机的高度、所述车辆与所述目标物体之间的距离、所述相机的俯仰角和所述第一光轴偏移,确定所述相对高度值。
2.根据权利要求1所述的方法,在基于所述相机的高度、所述车辆与所述目标物体之间的距离、所述相机的俯仰角和所述第一光轴偏移,确定所述相对高度值之前,还包括:
基于第三光轴偏移对第二光轴偏移进行归一化处理,确定所述第一光轴偏移与所述相机的高度、所述车辆与所述目标物体之间的距离、所述相机的俯仰角和相对高度之间的关系;其中,所述第二光轴偏移为所述相机的光轴与所述目标物体之间的实际偏移,所述第三光轴偏移为假设所述目标物体与所述车辆在同一高度时所述相机的光轴与所述目标物体之间的偏移。
3.根据权利要求1所述的方法,其中,所述获得所述相机的光轴在所述道路图像中的消失点在所述物体检测框中的消失点偏移值,包括:
基于偏移计算参数与消失点偏移之间的关系,确定所述消失点偏移值;所述偏移计算参数包括:所述物体检测框的图像坐标、所述消失点的图像坐标、所述目标物体的真实高度、所述目标物体在所述道路图像中的图像高度、所述相机的高度、所述车辆与所述目标物体之间的距离和所述相机的俯仰角。
4.根据权利要求3所述的方法,其中,所述目标物体为人或其他车辆。
5.根据权利要求4所述的方法,在基于所述第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值之前,还包括:
基于所述道路图像中包括的其他车辆的类型和所述物体检测框确定所述其他车辆的宽度值;或,
基于所述道路图像和所述物体检测框确定所述道路图像中包括的人的高度值。
6.根据权利要求5所述的方法,在基于偏移计算参数与消失点偏移之间的关系,确定所述消失点偏移值之前,还包括:
确定所述其他车辆的宽度与所述其他车辆的高度之间的转换关系;
将所述其他车辆的宽度替换所述偏移计算参数中的所述目标物体的真实高度;
所述基于偏移计算参数与消失点偏移之间的关系,确定所述消失点偏移值,包括:
基于替换后的所述偏移计算参数与消失点偏移之间的关系,确定所述消失点偏移值。
7.一种道路高度检测装置,包括:
图像采集模块,用于通过设置在车辆上的相机采集所述车辆前方的道路图像,所述道路图像中包括目标物体;
物体检测模块,用于对所述图像采集模块采集的道路图像中的目标物体进行检测,获得物体检测框;
偏移值确定模块,用于基于所述相机的光轴和所述物体检测模块获得的物体检测框确定所述相机的第一光轴偏移值;所述偏移值确定模块,具体用于获得所述相机的光轴在所述道路图像中的消失点在所述物体检测框中的消失点偏移值;基于所述消失点偏移值确定所述第一光轴偏移值;
高度确定模块,用于基于所述偏移值确定模块确定的第一光轴偏移值确定所述目标物体所在位置与所述车辆所在位置之间的相对高度值;所述高度确定模块,具体用于基于所述相机的高度、所述车辆与所述目标物体之间的距离、所述相机的俯仰角和所述第一光轴偏移,确定所述相对高度值。
8.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序用于执行上述权利要求1-6任一所述的道路高度检测方法。
9.一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-6任一所述的道路高度检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910714976.8A CN112304293B (zh) | 2019-08-02 | 2019-08-02 | 道路高度检测方法、装置、可读存储介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910714976.8A CN112304293B (zh) | 2019-08-02 | 2019-08-02 | 道路高度检测方法、装置、可读存储介质和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112304293A CN112304293A (zh) | 2021-02-02 |
CN112304293B true CN112304293B (zh) | 2022-09-13 |
Family
ID=74485233
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910714976.8A Active CN112304293B (zh) | 2019-08-02 | 2019-08-02 | 道路高度检测方法、装置、可读存储介质和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112304293B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112862890B (zh) * | 2021-02-07 | 2023-07-04 | 黑芝麻智能科技(重庆)有限公司 | 道路坡度预测方法、装置和存储介质 |
CN115511938A (zh) * | 2022-11-02 | 2022-12-23 | 清智汽车科技(苏州)有限公司 | 基于单目摄像头的高度确定方法和装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102201056A (zh) * | 2010-03-26 | 2011-09-28 | 日产自动车株式会社 | 车辆用环境识别装置以及方法 |
CN103679120A (zh) * | 2012-09-11 | 2014-03-26 | 株式会社理光 | 不平道路的检测方法和*** |
CN104554275A (zh) * | 2013-10-25 | 2015-04-29 | 罗伯特·博世有限公司 | 用于求取位于车辆前方的道路的高度走向的方法和设备 |
CN106327466A (zh) * | 2015-06-24 | 2017-01-11 | 株式会社理光 | 道路分割物的检测方法和装置 |
CN106462727A (zh) * | 2014-01-30 | 2017-02-22 | 移动眼视力科技有限公司 | 用于车道尽头识别的***和方法 |
CN109141347A (zh) * | 2017-06-28 | 2019-01-04 | 京东方科技集团股份有限公司 | 车载摄像机测距方法及装置、存储介质和电子设备 |
CN109300159A (zh) * | 2018-09-07 | 2019-02-01 | 百度在线网络技术(北京)有限公司 | 位置检测方法、装置、设备、存储介质及车辆 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3895238B2 (ja) * | 2002-08-28 | 2007-03-22 | 株式会社東芝 | 障害物検出装置及びその方法 |
US9118816B2 (en) * | 2011-12-06 | 2015-08-25 | Mobileye Vision Technologies Ltd. | Road vertical contour detection |
DE102012101085A1 (de) * | 2012-02-10 | 2013-08-14 | Conti Temic Microelectronic Gmbh | Bestimmung einer Beschaffenheit einer Fahrbahnoberfläche mittels einer 3D-Kamera |
-
2019
- 2019-08-02 CN CN201910714976.8A patent/CN112304293B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102201056A (zh) * | 2010-03-26 | 2011-09-28 | 日产自动车株式会社 | 车辆用环境识别装置以及方法 |
CN103679120A (zh) * | 2012-09-11 | 2014-03-26 | 株式会社理光 | 不平道路的检测方法和*** |
CN104554275A (zh) * | 2013-10-25 | 2015-04-29 | 罗伯特·博世有限公司 | 用于求取位于车辆前方的道路的高度走向的方法和设备 |
CN106462727A (zh) * | 2014-01-30 | 2017-02-22 | 移动眼视力科技有限公司 | 用于车道尽头识别的***和方法 |
CN106327466A (zh) * | 2015-06-24 | 2017-01-11 | 株式会社理光 | 道路分割物的检测方法和装置 |
CN109141347A (zh) * | 2017-06-28 | 2019-01-04 | 京东方科技集团股份有限公司 | 车载摄像机测距方法及装置、存储介质和电子设备 |
CN109300159A (zh) * | 2018-09-07 | 2019-02-01 | 百度在线网络技术(北京)有限公司 | 位置检测方法、装置、设备、存储介质及车辆 |
Also Published As
Publication number | Publication date |
---|---|
CN112304293A (zh) | 2021-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6670071B2 (ja) | 車両用画像認識システム、及び対応法 | |
US10580155B2 (en) | Image processing apparatus, imaging device, device control system, frequency distribution image generation method, and recording medium | |
US9824586B2 (en) | Moving object recognition systems, moving object recognition programs, and moving object recognition methods | |
US11935250B2 (en) | Method, device and computer-readable storage medium with instructions for processing sensor data | |
JP2020064046A (ja) | 車両位置決定方法及び車両位置決定装置 | |
CN107305632B (zh) | 基于单目计算机视觉技术的目标对象距离测量方法与*** | |
CN106447730B (zh) | 参数估计方法、装置和电子设备 | |
JP6450294B2 (ja) | 物体検出装置、物体検出方法、及びプログラム | |
US11691585B2 (en) | Image processing apparatus, imaging device, moving body device control system, image processing method, and program product | |
CN110853085B (zh) | 基于语义slam的建图方法和装置及电子设备 | |
JP6816401B2 (ja) | 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム | |
CN110794406A (zh) | 多源传感器数据融合***和方法 | |
CN112304293B (zh) | 道路高度检测方法、装置、可读存储介质和电子设备 | |
US20130182896A1 (en) | Gradient estimation apparatus, gradient estimation method, and gradient estimation program | |
CN112184799A (zh) | 车道线空间坐标确定方法、装置、存储介质和电子设备 | |
CN114913290A (zh) | 多视角融合的场景重建方法、感知网络训练方法及装置 | |
CN115187941A (zh) | 目标检测定位方法、***、设备及存储介质 | |
CN114782510A (zh) | 目标物体的深度估计方法和装置、存储介质、电子设备 | |
CN113160322A (zh) | 摄像装置标定方法和设备、介质以及电子设备 | |
WO2024051344A1 (zh) | 一种地图创建方法及装置 | |
KR102003387B1 (ko) | 조감도 이미지를 이용한 교통 장애물의 검출 및 거리 측정 방법, 교통 장애물을 검출하고 거리를 측정하는 프로그램을 저장한 컴퓨터 판독가능 기록매체 | |
CN114973208B (zh) | 车辆盲区监测预警方法及相关设备 | |
CN114037977B (zh) | 道路灭点的检测方法、装置、设备及存储介质 | |
CN112835063B (zh) | 物体动静属性的确定方法、装置、设备及存储介质 | |
JP2001108434A (ja) | 距離測定方法及び距離測定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |