CN104781829B - 用于识别车辆在车道上的位置的方法和设备 - Google Patents
用于识别车辆在车道上的位置的方法和设备 Download PDFInfo
- Publication number
- CN104781829B CN104781829B CN201380045342.9A CN201380045342A CN104781829B CN 104781829 B CN104781829 B CN 104781829B CN 201380045342 A CN201380045342 A CN 201380045342A CN 104781829 B CN104781829 B CN 104781829B
- Authority
- CN
- China
- Prior art keywords
- video camera
- image
- vehicle
- track
- optical axial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/147—Details of sensors, e.g. sensor lenses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/16—Image acquisition using multiple overlapping images; Image stitching
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Vascular Medicine (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种用于识别所述车辆(100)在车道(320)上的位置的方法(200)。本发明具有四个步骤(210,220,230,240)。在读取的步骤(210)中,读取具有第一光学轴线(130b)的第一摄像机(120b)的第一图像和具有第二光学轴线(130a)的至少第二摄像机(120a)的至少一个第二图像,其中所述第一摄像机(120b)和所述第二摄像机(120a)如此取向,使得所述第一光学轴线(130b)和所述第二光学轴线(130a)在所述第一摄像机(120b)和/或所述第二摄像机(120a)的检测角(135b)的外部相交,其中所述第一图像和所述至少第二图像包含各一个视角,所述各一个视角与所述车辆(100)的行驶方向(150)最大偏差90度角。在确定的步骤(220)中,在所述第一图像中确定至少一个相关联的梯度(610)并且在所述至少第二图像中确定至少一个另外的相关联的图像梯度(610)。在分配的步骤(230)中,将所述至少一个相关联的图像梯度(610)分配给一个行车道边界对象(330,335,340,350,410)并且将所述至少一个另外的相关联的图像梯度(610)分配给所述行车道边界对象(330,335,340,350,410)和/或另一个行车道边界对象(330,335,340,350,410)以及在求取的步骤(240)中求取所述车辆(100)相对于所述行车道边界对象(330,335,340,350,410)和/或所述另一个行车道边界对象(330,335,340,350,410)的相对位置,以便识别所述车辆(100)在所述车道(320)上的位置。
Description
技术领域
本发明涉及一种用于识别车辆在车道上的位置的方法、一种相应的设备、一种车道识别***以及一种相应的计算机程序产品。
背景技术
当今,用于探测行车道标记(白色/黄色)的***基于单目摄像机或立体摄像机。驾驶员的基于此的转向支持(车道保持***)同样如此。通过方向盘上的转矩可以使车辆保持在所探测的车道内。串行***的特征在于高的可用性,但在困难的情形中(如对向灯光、夜晚、潮湿、雪或建筑工地)在其可用方面可能降低。在立体摄像机中,也可能由于光学路径的干扰以及在道路上的反射出现可用性降低,因为存在大的重叠的图像区域并且在两个摄像机图像中出现所述效果。另一方面在于,当车道不通过标记而是例如通过绿化带或护栏限界时,几乎不能实施行车道边缘的稳健识别。
当今的***可能导致,使在“良好情况”中(例如德国的高速公路)已对所述***习惯了的驾驶员在可用性降低的情形中、在特殊情况中或在差的道路上变得不安并且因此丧失对***的信任并且降低可接受度。现在,对于当前的***的挑战是:从良好标记的道路变换到差地标记的州属公路。
存在以下公开文献:它们在车辆中使用前方摄像机和/或向后行驶摄像机,以便在对向灯光情况中也能够实现稳健的车道识别***。
例如,公开文献US 20070091135c A1描述了一种方案,其中基于车道识别***也能够实现车道保持***。在对向灯光情况中,仅仅根据来自向后行驶摄像机的图像的识别结果保持车道可能是有问题的,因为对此需要车道识别的前瞻,所述前瞻在对向灯光情况中不能由前方摄像机保证并且不能由向后行驶摄像机保证。
在DE-102006021177 A1中示出一种***,其利用雷达传感器以及侧面摄像机和向后行驶摄像机,以便能够识别前方行驶的车辆的车道变换。没有对车道识别进行描述。
发明内容
在所述背景下,借助本发明提出根据主权利要求的一种用于识别车辆在车道上的位置的方法、一种使用所述方法的设备以及一种相应的计算机程序产品。由相应的从属权利要求和随后的描述得到有利的构型。
本发明基于以下认识:在成像方法中摄像机中的光学轴线的取向可以是很多干扰参量的直接影响。此外,***的稳健性通过冗余和多个光学检测***的彼此偏差的光学轴线提高。借助多个摄像机***的内在校准和外在校准能够将图像变换到一个共同的世界坐标系中,其中其他计算可以基于变换成世界坐标的图像。
本发明实现一种用于识别车辆在车道上的位置的方法,其中所述方法具有以下步骤:
读取具有第一光学轴线的第一摄像机的第一图像和具有第二光学轴线的至少第二摄像机的至少一个第二图像,其中第一和第二摄像机如此取向,使得第一光学轴线和第二光学轴线在第一摄像机和/或第二摄像机的检测角的外部相交,其中所述第一图像和所述至少一个第二图像包含各一个视角,所述各一个视角与车辆的行驶方向最大偏差90度角。
在第一图像中确定至少一个相关联的(verkettet)图像梯度并且在至少一个第二图像中确定至少一个另外的相关联的图像梯度;
将所述至少一个相关联的图像梯度分配给一个行车道边界对象并且将所述至少一个另外的相关联的图像梯度分配给所述行车道边界对象和/或另一个行车道边界对象;
求取车辆相对于所述行车道边界对象和/或所述另一个行车道边界对象的相对位置,以便识别车辆在车道上的位置。
车辆可以涉及载客车辆、商用车辆或摩托车。车辆可以在具有至少一个车道的行车道上运动。车道可供车辆用于一个方向上的行驶。车道可以通过道路标记——如行车道边界和行车带边界或引导线表征。不同的车道也可以是不特征化的。行车道边界对象可以具有可与车道不同的表面、颜色和/或结构。道路设施的引导柱和/或其他装置——例如交通标牌或护栏可以是行车道边界对象。车辆在车道上的位置可以表示车辆与车道的侧边缘的侧向间距和/或车辆的行驶方向与车道边缘或行车道边缘的角度。可以在车辆中设置至少两个摄像机。摄像机可以分别具有一个光学轴线和一个检测角。光学轴线可以延伸经过所拍摄的图像的中点。第一摄像机的光学轴线可以在一个公差范围内在车辆的行驶方向上取向。在时间变化过程中,可以由至少第二摄像机检测由第一摄像机所检测的对象。检测角可以称作像角和/或水平像角。检测角可以理解为表征图像的边缘的视角和表征图像的相对置的边缘的视角之间的角。视角可以表示观察对象的视角或者表示在观察对象时得出的方向。视角可以参考光学轴线和/或参考车辆的行驶方向。在一个像点处,图像梯度可以代表直接相邻像点的最大强度增大的方向。相关联的图像梯度可以理解为相邻图像梯度的关联或汇总,其中汇总的图像梯度可以在一个公差范围内具有所述图像梯度的相应的方向和大小。相关联的图像梯度可以称作“链(String)”。在此,像点可以称作像素。相邻像点可以理解为直接相邻的像点,即两个彼此接触的像点和/或也可以将最近的和/或次近的像点称作相邻像点。设置多个摄像机尤其可以是有利的,使得在光学路径由迎面驶来的车辆干扰的情形中仅仅一个摄像机受此负面影响。
本发明提供以下优点:现在通过以不同光学轴线取向的第一和第二摄像机的图像的使用在一个摄像机的光学轴线的干扰(例如炫目)时也可以实现图像的非常好的且稳健的分析处理。由此可以非常简单地确保在暂时不利的情况中当摄像机在所述不利的情况中炫目时也可以识别车辆在车道上的位置。在此,不从应借助两个摄像机检测和/或监视尽可能大的图像区域的立体摄像机读取图像,而从以能够在摄像机中的一个的光学路径的干扰时实现所读取的图像的处理的稳健性的光学轴线取向的摄像机***读取图像。
也有利的是,在另一种实施方式中本方法具有在使用沿着相关联的图像梯度的图像区域的情况下分类至少一个相关联的图像梯度和至少一个另外的相关联的图像梯度的步骤并且具有选择至少一个所分类的相关联的图像梯度的步骤,其中所分类的相关联的图像梯度代表可用于车道的线走向估计的那些相关联的图像梯度。分类的步骤和选择的步骤可以设置在分配的步骤之后并且在求取的步骤之前。线走向估计可以产生用于车道的边界线。在相互间隔开的行车道边界对象中,线走向估计可以产生两个彼此间隔开设置的行车道边界对象之间的车道的走向。因为在此根据成像特性更多的像素或者更大的图像区域可以用于纹理分析和/或颜色分析,所以借助纹理分析或颜色分类可以在侧面摄像机的图像中实现比在现有技术中能够实现的好得多的颜色分类。
此外,在一种实施方式中,在分类的步骤中也可以给至少一个相关联的图像梯度和至少一个另外的相关联的图像梯度分别分配一个质量值,其中所述质量值代表至少一个相关联的图像梯度的精确度和/或所期望的方差作为车道的边界。在本方法内,可以通过将质量值分配给相关联的图像梯度来确定用于车辆在车道内的位置确定的概率。由此,可以进一步提高本方法的稳健性。
除线的好得多的分类以外,用于相关联的图像梯度的质量值或者扩展特征也能够实现相关联的图像梯度的时间稳健的跟踪或者追踪,这引起可以将空间时间特征用于线走向估计,这使算法更稳健地、更准确地且更高地可供使用。因为也可以在侧面摄像机的图像中再次发现并且分析借助前方摄像机已经“看到”并且分配地追踪了的特征,所以具有所属特征的空间时间的相关联的图像梯度允许整体行车道走向估计。
此外,在读取的步骤中也可以内在地和/或外在地校准所述图像和至少第二图像。通过内在的和/或外在的校准,可以使第一图像和/或第二图像的任何像点可靠地分配参考车辆的位置。这种校准例如可以理解为图像坐标到例如参考车辆上的固定点的真实坐标系的变换。在本发明的另一种实施方式中,在读取的步骤中第一图像和至少第二图像具有重叠的部分区域。在重叠的部分区域中,对象可以由第一摄像机而且由第二摄像机识别。第一图像和第二图像的重叠的部分区域可以简化外在校准和/或简化相关联的图像梯度到行车道边界对象的分配。如果在重叠的部分区域中成像相关联的图像梯度,则可以在第一图像中并且在第二图像中更容易地实施分配。当第一摄像机的第一光学轴线和第二摄像机的第二光学轴线具有小于90度的角时,尤其可能存在第一图像和第二图像的重叠的部分区域。在一种实施方式中,摄像机中的一个作为前方摄像机取向。
根据本发明的另一种实施方式,在读取的步骤中可以读取至少第三摄像机的至少一个另外的图像,其中至少第三摄像机的第三光学轴线与第一摄像机的第一光学轴线以及至少第二摄像机的第二光学轴线偏差。第三摄像机的第三光学轴线可以在第一摄像机的检测角的外部和/或第二摄像机的检测角的外部与第一光学轴线和/或第二光学轴线相交。另一图像可以包含以下视角:所述视角与车辆的行驶方向最大偏差90度角。换言之,另一图像至少具有位于正常行驶方向上的图像份额。另一图像可以具有以下部分区域:所述部分区域允许与第一图像的部分区域和/或第二图像的部分区域重叠。第一摄像机可以涉及前方摄像机。第二摄像机和/或第三摄像机可以涉及侧面摄像机,其中第二摄像机的光学轴线与车辆的行驶方向具有以下角:所述角可以相应于第三摄像机的光学轴线与车辆的行驶方向的负角。
在本发明的另一种实施方式中,本方法可以具有在使用行车道边界对象和/或另一行车道边界对象的情况下建立线走向模型作为车道的边界的步骤,其中线走向模型描述车道的走向和/或车道的未来走向。本发明的这种实施方式提供进一步利用已经求取的行车道边界对象的优点,以便由此在驾驶员辅助***中也能够实现车道引导。这提供以下优点:可以将已经求取的并且因此可供使用的对象用于另一功能性。
此外,本发明实现一种设备,其构造用于在相应的装置中实施或者实现根据本发明的方法的步骤。本发明所基于的任务也可以通过本发明的设备形式的这种实施变型快速且有效地解决。
在此,设备可以理解为处理传感器信号并且据此输出控制信号和/或数据信号的电设备。所述设备可以具有可能按照硬件方式和/或按照软件方式构造的接口。当按照硬件方式构造时,所述接口例如可以是所谓的***ASIC的一部分,其包含所述设备的不同功能。然而,所述接口也可能是单独的集成电路或至少部分地由分立的组件组成。当按照软件方式构造时,所述接口可以是例如在微控制器上与其他软件模块并存的软件模块。
计算机程序产品也是有利的,其具有程序代码,其存储在机器可读的载体——例如半导体存储器、硬盘存储器或光学存储器上并且当在计算机或设备上实施所述程序产品时用于实施根据以上所描述的实施方式中任一种所述的方法。
本发明实现一种用于识别车辆在车道上的位置的车道识别***,其中所述车道识别***具有以下特征:
第一摄像机,其具有第一光学轴线;
至少一个第二摄像机,其具有第二光学轴线,其中第一光学轴线和第二光学轴线在第一摄像机的检测角的外部和/或第二摄像机的检测角的外部相交,其中第一摄像机和至少第二摄像机构造成包含各一个视角,所述各一个视角与车辆的行驶方向最大偏差90度角;
设备,其具有装置,所述装置构造用于实施本方法的一种变型方案的步骤,以便识别车辆在车道上的位置。
根据本发明的一个方面,可以实现非常稳健的并且高可供使用的车道识别***,所述车道识别***适合作为车道保持***的输入参量的供给。本发明的大的优点在于,实施具有例如一个前方摄像机和一个、尤其两个设置在侧面的摄像机的布置。通过侧面摄像机的布置也可能的是,仅仅基于所述侧面摄像机来估计车辆的前瞻的车道边界模型。车道识别算法的特征例如在于,其在两个、尤其三个摄像机图像中实施车道边界模型的整体估计并且因此能够从不同的视角检测车道边界。因此,避免可能由于光学路径的干扰、模糊或反射在摄像机中的一个的图像中出现的问题并且此外能够实现车道保持功能。通过借助一个或多个侧面取向的摄像机的摄像机布置,也能够实现车道标记或草地边缘的改善的颜色分类,因为侧面摄像机可以几乎在最大程度上在公差范围中垂直于边界取向并且能够以比前方摄像机多得多的像素成像所述边界。也可以非常好地识别雪情况。通过整体估计也可以使车道识别***几乎没有问题地应对卷起的雪或雨。因为出现相对较小的透视成像效果,所以也可以通过摄像机的垂直布置特别好地实现突出的对象——如护栏的识别和分类。
附图说明
以下借助附图示例性地进一步阐述本发明。附图示出:
图1:车辆的示意图,所述车辆具有根据本发明的一个实施例的用于识别车辆在车道上的位置的车道识别***;
图2:根据本发明的一个实施例的用于识别车辆在车道上的位置的方法的流程图;
图3:根据本发明的一个实施例具有车道识别***的车辆在车道上的示意图;
图4至图8:在图3中示出的具有根据本发明的一个实施例的车道识别***的车辆的示意图。
在本发明的优选实施例的随后描述中,对于在不同附图中示出的并且相似作用的元素使用相同或相似的参考标记,其中不重复描述这些元素。
具体实施方式
根据本发明的以下实施例示出基于前方摄像机***和侧面摄像机***的高度可用的车道识别***和车道保持***。
在在此提出的方案中提出一种车道识别***,所述车道识别***由所设置的摄像机***的三个图像估计车道边界模型。算法的在此提出的实施例的特征在于,所述算法通过摄像机的布置和车道边界模型的整体估计在所述三个摄像机图像中是高度可用的并且在情况——例如对向灯光、差的天气、差的道路、雨线(Regenlinien)、建筑工地、草地边缘、雪等中也能够实现车道保持功能。
图1示出车辆的示意图,所述车辆具有根据本发明的一个实施例的用于识别车辆在车道上的位置的车道识别***。车辆100具有车道识别***110,所述车道识别***具有设备115,其中所述设备具有装置以便实施用于识别车辆在车道上的位置的方法。设备115具有用于从至少两个摄像机读取图像的接口116a。此外,设备115具有用于确定所读取的每个图像的至少一个相关联的图像梯度的装置116b、用于对于每一个所读取的图像将至少一个相关联的图像梯度分配给行车道边界对象的装置116c以及用于求取车辆与行车道边界对象的相对位置以便识别车辆在车道上的位置的装置116d。此外,车道识别***110具有第一摄像机120a和第二摄像机120b,它们与设备115的用于读取图像的接口116a连接。在图1中示出的实施例具有第三摄像机120c。第一摄像机120a具有第一光学轴线130a。第一摄像机120a以检测角135a检测第一图像,其中检测检测区域140a。第二摄像机120b具有第二光学轴线130b。第二摄像机120b以检测角135b检测第二图像,其中检测检测区域140b。第三摄像机120c具有第三光学轴线170。第三摄像机120c以检测角135c检测第三图像,其中检测检测区域140c。车辆100在行驶方向150上运动。第一摄像机120a和第二摄像机120b具有重叠的图像区域160。第二摄像机120b和第三摄像机120c具有重叠的图像区域160。在图1中示出的实施例中,第二摄像机120b的光学轴线130b基本上与行驶方向150平行地取向,即第二摄像机120b的第二光学轴线130b在公差范围中与行驶方向150平行地设置。第一摄像机120a和第三摄像机120c设置为侧面摄像机,其中第一摄像机120a以基本上相对于行驶方向150在右侧的视向取向,而第三摄像机120c以基本上相对于行驶方向150在左侧的视向取向。第一光学轴线与行驶方向的角在公差范围内是60度。第二光学轴线和第三光学轴线之间的角在公差范围内是60度。
通过至少两个、尤其三个设置在车辆上的视频摄像机可以如以上描述的那样实现高度可用的车道识别算法并且因此在比现有技术中多得多的情况中实现车道保持的功能。
在没有示出的其他实施例中,没有摄像机设置为前方摄像机和/或光学轴线之间的角在5度和120c度之间变化。
图2示出根据本发明的一个实施例的用于识别车辆在车道上的位置的方法的流程图。方法200具有读取的步骤210、确定的步骤220、分配的步骤230以及求取的步骤240。在一个实施例中,可以在图1中示出的设备115上实施所述方法200。因此,以下也使用图1的参考标记来说明关系。
在读取的步骤210中,读取具有第一光学轴线的第一摄像机的第一图像和具有第二光学轴线的至少第二摄像机的至少一个第二图像,其中第一和第二摄像机如此取向,使得第一光学轴线和第二光学轴线在第一摄像机和/或第二摄像机的检测角的外部相交,其中第一图像和至少第二图像包含各一个视角,所述各一个视角与车辆的行驶方向最大偏差90度角。在确定的步骤220中,在第一图像中确定至少一个相关联的图像梯度并且在至少第二图像中确定至少一个另外的相关联的图像梯度。在分配的步骤230中,将所述至少一个相关联的图像梯度分配给一个行车道边界对象并且将所述至少一个另外的相关联的图像梯度分配给所述行车道边界对象和/或另一行车道边界对象。在求取240的步骤中,求取车辆与所述行车道边界对象和/或所述另一行车道边界对象的相对位置,以便识别车辆在车道上的位置。
在使用至少两个、尤其三个经校准的摄像机的情况下实施车道边界模型的整体估计。除所描述的方法步骤210、220、230、240以外,也能够以步骤——“预处理”、“扩展特征的计算”、“特征选择和变换”、“线走向估计”和“线选择”来描述本发明的实施例。
方法200基于在所有至少两个、尤其三个摄像机图像中计算的相关联的图像梯度特征(所谓的链)。相关联的图像梯度是在各个梯度的本地邻近中具有相似梯度定向和梯度强度的相关联的梯度,即在更长的相关联的图像梯度上梯度强度和梯度定向可以部分明显变化。在所有“好的”相关联的图像梯度的本地周围环境中,由摄像机的图像计算扩展特征。所述扩展特征用于线的分类并且在相关联的图像梯度的本地周围环境中计算。扩展特征的示例可以是纹理分析、颜色饱和度分析或所述链左侧和右侧的光流。
必须从摄像机的图像的相关联的图像梯度中选择那些描述行车道边界的相关联的图像梯度。当摄像机是经校准的时,可以将线走向估计所需的分类或者空间时间特征变换成世界坐标系。动态的在线校准和表面估计对于从像素坐标到世界坐标的变换同样有意义。前方摄像机的相关联的图像梯度特别好地适合以更高的前瞻识别车道边界走向。来自两个侧面摄像机的相关联的图像梯度非常好地适合于梯度走向的颜色分类并且此外对于高可用性和准确度非常重要,因为在比前方摄像机的图像中多得多的像素上成像车道边界。此外,能够比借助单个前方摄像机的图像好得多地分类通过侧面摄像机的图像中的光流突出的对象、例如护栏。
选择具有其所属的质量值的“好的”相关联的图像梯度以进行线走向估计以来自一个或多个侧面摄像机的图像的相关联的图像梯度开始。选择所有“好的”相关联的图像梯度并且将它们变换到世界坐标系中。世界坐标系建立摄像机相互之间的关系并且除空间时间特征以外也允许车道边界模型的整体估计,例如借助样条线或借助回旋曲线。从一个或多个侧面摄像机的相关联的图像梯度出发,在前方摄像机的图像中搜寻描述车道边界的相关联的图像梯度。此外,搜寻可以描述未来的行车道走向的另外的相关联的图像梯度。
线走向模型——例如回旋曲线或样条线的估计基于所选择的并且变换到世界坐标系中的具有其质量值或者扩展特征的空间时间链。选择所追踪的已辨识为车道边界的线。通过相关联的图像梯度的质量值和相关联的图像梯度的追踪能够实现比现今好得多的线选择,因为首先可以通过来自一个或多个侧面摄像机的图像的扩展特征最大程度地防止误报(falsch-positiv)的线选择。例如,可以借助侧面摄像机唯一地辨识现今仍是问题的湿边缘。因为通过三个摄像机图像和在空间时间上追踪的相关联的图像梯度存在比现今多得多的信息,所以对于新式算法和摄像机布置而言光学路径的干扰(例如炫目)也是小得多的问题。此外,可能总是完全炫目仅仅一个摄像机。
图3根据本发明的一个实施例示出车道上的具有车道识别***的车辆的示意图。行车道310具有两个车道320。行车道310由绿化带330限界,所述绿化带至行车道310具有草地边缘335。草地边缘335表示行车道310和绿化带330之间的边界。此外,行车道310具有行车道标记。在行车道310的中间是作为纵向标记的引导线340,其通过行车道310上的虚线在视觉上分离两个车道320。行车道310在行车道310的与草地边缘335相对置的一侧上具有行车道边界350。行车道边界350也称作边缘线350。在朝向草地边缘的车道310上设置有相应在图1中示出的车辆100,所述车辆具有三个摄像机120a、120b、120c,其中第二摄像机120b相应于前方摄像机,第一摄像机120a设置为相对于行驶方向在右侧设置的侧面摄像机,而第三摄像机120c设置为相对于车辆的行驶方向在左侧设置的侧面摄像机。第一摄像机120a和第三摄像机120c的检测区域分别包括至少一个至少部分向前方定向的视角以及关于车辆的行驶方向部分向后定向的视角。第一摄像机120a的检测区域和第二摄像机120b的检测区域具有重叠的部分区域160。第二摄像机120b的检测区域和第三摄像机120c的检测区域具有重叠的部分区域160。
以州属公路上的草地边缘为例可以看到,摄像机布置和所提出的算法是有利的。如果利用单个前方摄像机120a,则草地边缘335的线走向的估计和识别不总是简单的,因为很难识别道路310到草地边缘335的过渡,主要在颜色分类的领域中。现在,如果使用根据本发明的方法,则能够好得多地实现以上所述,因为草地边缘335可以由侧面摄像机120a、120c良好地识别以及分类,然后也可以通过前方摄像机120b中的存在的可能涉及草地边缘的先验信息非常好地实现草地边缘335的估计。
如在图3中看到的那样,摄像机120a、120b、120c如此设置,使得在前方摄像机120b和侧面摄像机120a、120c之间存在非常小的重叠区域160。
在一个实施例中,在侧面摄像机120a、120c中广角镜组是有利的。在图3中示出的实施例中,对于前方摄像机120b建议具有标准焦距的摄像机。
内在地并且外在地校准摄像机120a、120b、120c。将具有中心——中/后轴线的世界坐标系假设为基坐标系。通过外在校准,对于每一个摄像机120a、120b、120c建立相对于世界坐标系的参考。
在随后的附图——图4至图7中,根据在图3中示出的根据本发明的一个实施例的具有车道识别***的车辆100在车道上的示意图进一步阐述在图2中描述的根据本发明的一个实施例的用于识别车辆在车道上的位置的方法。
图4示出具有根据本发明的一个实施例的车道识别***的车辆的俯视的示意图。车辆100具有前方摄像机和相对于行驶方向指向右侧的侧面摄像机和相对于行驶方向指向左侧的侧面摄像机。相对于行驶方向朝向右侧的侧面摄像机具有检测区域140a。在行驶方向上向前的前方摄像机具有检测区域140b。相对于行驶方向朝向左侧的侧面摄像机具有检测区域140c。
行车道310在相对置的两侧上由草地边缘335限界。绿化带330分别与草地边缘335邻接。行车道310具有行车道标记。一个行车道标记构造为引导线340,另一个行车道标记构造为行车道边界350。在行车道310上构造有两个车道320,其中一个车道320由草地边缘335和引导线340限界而另一车道320由引导线340和行车道边界350限界。车辆100位于车道320上,所述车道由草地边缘335和引导线340限界。此外,行车道320通过引导柱410限界。引导桩410也可以称作引导桩。可以将引导线340、行车道边界350、引导柱410和/或草地边缘335总称作行车道边界对象。
图5示出具有根据本发明的一个实施例的车道识别***的车辆的俯视的示意图。所述示图相应于已经在图4中示出的示图。突出了检测区域140a、140b、140c的重叠的部分区域。在此,车辆具有前方摄像机和侧面摄像机,它们具有轻微重叠的视域140a、140b或140c,其中以参考标记160表示这些重叠的视域。
图6示出具有根据本发明的一个实施例的车道识别***的车辆的俯视的示意图。所述示图相应于已经在图4中示出的示图。突出了在图2中描述的用于识别车辆在车道上的位置的方法的确定的步骤中所确定的相关联的图像梯度610,所述相关联的图像梯度在同一方法的分配的步骤中分配给各个行车道边界对象。相关联的图像梯度610象征性表示在图4中描述的行车道边界对象——如引导线、行车道边界、引导柱和/或草地边缘。在没有示出的其他实施例中,借助相关联的图像梯度识别其他的行车道边界对象。所描述的方法在求取的方法中求取车辆相对于行车道边界对象的相对位置。
图7示出具有根据本发明的一个实施例的车道识别***的车辆的俯视的示意图。在根据本发明的一个特别实施例中,在建立的步骤中建立线走向模型,其中将在图6中示出的相关联的图像梯度汇总成线走向模型。由相关联的图像梯度得到车道边界线710a、710b、710c。根据所选择的相关联的图像梯度或者特征实现线走向估计。在图7的当前实施例中,估计以及在时间上追踪三个车道边界线。
图8示出具有根据本发明的一个实施例的车道识别***的车辆的俯视的示意图。本发明的所述实施例描述相关联的图像梯度的分类。在本方法的根据本发明的一个实施例的可选步骤中,分类相关联的图像梯度和围绕所述相关联的图像梯度的边缘区域。用于颜色分类的分析区域810在沿着相关联的图像梯度的主延伸方向的左侧和右侧,即根据相关联的图像梯度的定向的右侧和左侧。作为扩展特征,也可考虑纹理分析或颜色分类。由此,在侧面摄像机的图像中能够实现好得多的颜色分类并且在侧面摄像机中能够实现改善的对象流。
仅仅示例性地选择所描述的和在示图中示出的实施例。可以完全地或在单个特征方面相互组合不同的实施例。一个实施例也可以通过另一个实施例的特征来补充。
此外,可以重复以及以不同于所描述的顺序的顺序实施根据本发明的方法步骤。
如果一个实施例在第一特征和第二特征之间包括“和/或”关系,则这样理解:所述实施例根据一种实施方式不仅具有第一特征而且具有第二特征而根据另一种实施方式或者仅仅具有第一特征或者仅仅具有第二特征。
Claims (9)
1.一种用于识别车辆(100)在车道(320)上的位置的方法(200),其中,所述方法(200)具有以下步骤:
读取(210)具有第一光学轴线(130b)的第一摄像机(120b)的第一图像和具有第二光学轴线(130a)的至少第二摄像机(120a)的至少第二图像,其中,所述第一摄像机(120b)和所述第二摄像机(120a)如此取向,使得所述第一光学轴线(130b)和所述第二光学轴线(130a)在所述第一摄像机(120b)和/或所述第二摄像机(120a)的检测角(135b)的外部相交,其中,所述第一图像和所述至少第二图像包含各一个视角,所述各一个视角与所述车辆(100)的行驶方向(150)最大偏差90度角;
在所述第一图像中确定(220)至少一个相关联的图像梯度(610)并且在所述至少第二图像中确定至少一个另外的相关联的图像梯度(610);
将所述至少一个相关联的图像梯度(610)分配(230)给一个行车道边界对象(330,335,340,350,410)并且将所述至少一个另外的相关联的图像梯度(610)分配给所述行车道边界对象(330,335,340,350,410)和/或另一个行车道边界对象(330,335,340,350,410);
求取(240)所述车辆(100)相对于所述行车道边界对象(330,335,340,350,410)和/或所述另一个行车道边界对象(330,335,340,350,410)的相对位置,以便识别所述车辆(100)在所述车道(320)上的位置。
2.根据权利要求1所述的方法(200),所述方法具有在使用沿着所述相关联的图像梯度(610)的图像区域的情况下并且在选择代表能够用于所述车道(320)的线走向估计的那些相关联的图像梯度(610)的至少一个所分类的相关联的图像梯度的情况下分类所述至少一个相关联的图像梯度(610)和所述至少一个另外的相关联的图像梯度(610)的步骤。
3.根据权利要求2所述的方法(200),其中,在分类的步骤中,给所述至少一个相关联的图像梯度(610)和所述至少一个另外的相关联的图像梯度(610)分别分配一个质量值,其中,所述质量值代表所述至少一个相关联的图像梯度(610)作为所述车道(320)的边界的精确度和/或所期望的方差。
4.根据权利要求1至3中任一项所述的方法(200),其中,在读取(210)的步骤中内在地和/或外在地校准所述图像和所述至少第二图像。
5.根据权利要求1至3中任一项所述的方法(200),其中,在读取(210)的步骤中,所述第一图像和所述至少第二图像具有重叠的部分区域(160)。
6.根据权利要求1至3中任一项所述的方法(200),其中,在读取(210)的步骤中,读取至少第三摄像机(120c)的至少一个另外的图像,其中,所述至少第三摄像机(120c)的光学轴线(130c)与所述第一摄像机(120b)的光学轴线(130b)以及与所述至少第二摄像机(120a)的光学轴线(130a)偏差。
7.根据权利要求1至3中任一项所述的方法(200),所述方法具有在使用所述行车道边界对象(330,335,340,350,410)和/或所述另一个行车道边界对象(330,335,340,350,410)的情况下建立线走向模型作为所述车道(320)的边界的步骤,其中,所述线走向模型描述所述车道(320)的走向和/或所述车道(320)的未来走向。
8.一种用于识别车辆(100)在车道(320)上的位置的设备(115),所述设备具有
第一装置,所述第一装置用于读取(210)具有第一光学轴线(130b)的第一摄像机(120b)的第一图像和具有第二光学轴线(130a)的至少第二摄像机(120a)的至少第二图像,其中,所述第一摄像机(120b)和所述第二摄像机(120a)如此取向,使得所述第一光学轴线(130b)和所述第二光学轴线(130a)在所述第一摄像机(120b)和/或所述第二摄像机(120a)的检测角(135b)的外部相交,其中,所述第一图像和所述至少第二图像包含各一个视角,所述各一个视角与所述车辆(100)的行驶方向(150)最大偏差90度角;
第二装置,所述第二装置用于在所述第一图像中确定(220)至少一个相关联的图像梯度(610)并且在所述至少第二图像中确定至少一个另外的相关联的图像梯度(610);
第三装置,所述第三装置用于将所述至少一个相关联的图像梯度(610)分配(230)给一个行车道边界对象(330,335,340,350,410)并且将所述至少一个另外的相关联的图像梯度(610)分配给所述行车道边界对象(330,335,340,350,410)和/或另一个行车道边界对象(330,335,340,350,410);
第四装置,所述第四装置用于求取(240)所述车辆(100)相对于所述行车道边界对象(330,335,340,350,410)和/或所述另一个行车道边界对象(330,335,340,350,410)的相对位置,以便识别所述车辆(100)在所述车道(320)上的位置。
9.一种用于识别车辆(100)在车道(320)上的位置的车道识别***,其中,所述车道识别***具有以下特征:
第一摄像机(120b),其具有第一光学轴线(130b);
至少一个第二摄像机(120a),其具有第二光学轴线(130a),其中,所述第一摄像机(120b)和所述第二摄像机(120a)如此取向,使得所述第一光学轴线(130b)和所述第二光学轴线(130a)在所述第一摄像机(120b)和/或所述第二摄像机(120a)的检测角(135b,135a)的外部相交,其中,所述第一摄像机(120b)和所述至少第二摄像机(120a)构造成包含各一个视角,所述各一个视角与所述车辆(100)的行驶方向(150)最大偏差90度角;
一种设备(115),其具有用于实施根据权利要求1至7中任一项所述的方法(200)的步骤的装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102012215322.5 | 2012-08-29 | ||
DE102012215322.5A DE102012215322A1 (de) | 2012-08-29 | 2012-08-29 | Verfahren und Vorrichtung zum Erkennen einer Position eines Fahrzeugs auf einer Fahrspur |
PCT/EP2013/066188 WO2014032904A1 (de) | 2012-08-29 | 2013-08-01 | Verfahren und vorrichtung zum erkennen einer position eines fahrzeugs auf einer fahrspur |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104781829A CN104781829A (zh) | 2015-07-15 |
CN104781829B true CN104781829B (zh) | 2018-05-01 |
Family
ID=48951446
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201380045342.9A Active CN104781829B (zh) | 2012-08-29 | 2013-08-01 | 用于识别车辆在车道上的位置的方法和设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9569673B2 (zh) |
CN (1) | CN104781829B (zh) |
DE (1) | DE102012215322A1 (zh) |
WO (1) | WO2014032904A1 (zh) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101491324B1 (ko) * | 2013-10-08 | 2015-02-06 | 현대자동차주식회사 | 차량용 영상 획득 장치 |
KR102255432B1 (ko) * | 2014-06-17 | 2021-05-24 | 팅크웨어(주) | 전자 장치 및 그의 제어 방법 |
DE102014108684B4 (de) | 2014-06-20 | 2024-02-22 | Knorr-Bremse Systeme für Nutzfahrzeuge GmbH | Fahrzeug mit Umfeldüberwachungseinrichtung sowie Verfahren zum Betreiben einer solchen Überwachungseinrichtung |
FI130426B (fi) * | 2014-06-30 | 2023-08-23 | Konecranes Oyj | Kuorman kuljettaminen kuormankäsittelylaitteella |
GB2536028B (en) * | 2015-03-05 | 2018-05-09 | Red Fox Id Ltd | Vehicle detection apparatus with inductive loops |
CN107924625B (zh) * | 2015-08-19 | 2021-11-12 | 三菱电机株式会社 | 车道识别装置以及车道识别方法 |
DE102016205434A1 (de) * | 2015-11-25 | 2017-06-01 | Volkswagen Aktiengesellschaft | Verfahren und System zum Erstellen einer spurgenauen Belegungskarte für Fahrspuren |
KR20170071120A (ko) * | 2015-12-15 | 2017-06-23 | 현대자동차주식회사 | Lkas 시스템, 이를 포함하는 차량, 및 lkas 제어 방법 |
US10124730B2 (en) * | 2016-03-17 | 2018-11-13 | Ford Global Technologies, Llc | Vehicle lane boundary position |
US10210406B2 (en) * | 2016-08-19 | 2019-02-19 | Dura Operating, Llc | System and method of simultaneously generating a multiple lane map and localizing a vehicle in the generated map |
JP6616275B2 (ja) * | 2016-12-15 | 2019-12-04 | 株式会社Soken | 運転支援装置 |
JP6708154B2 (ja) * | 2017-03-28 | 2020-06-10 | カシオ計算機株式会社 | 対象物検出装置、対象物検出方法、及びプログラム |
US10509413B2 (en) * | 2017-09-07 | 2019-12-17 | GM Global Technology Operations LLC | Ground reference determination for autonomous vehicle operations |
DE102017120773A1 (de) * | 2017-09-08 | 2019-03-14 | Connaught Electronics Ltd. | Verfahren zum Erkennen einer Fahrspurbegrenzung einer Fahrspur für ein Kraftfahrzeug, Spurassistent sowie Kraftfahrzeug |
TWI699756B (zh) * | 2017-09-13 | 2020-07-21 | 國立清華大學 | 基於彈性特徵影像尺的定位量測系統 |
CN110228428A (zh) * | 2018-03-05 | 2019-09-13 | 株式会社小糸制作所 | 传感器*** |
US10773717B2 (en) * | 2018-04-12 | 2020-09-15 | Trw Automotive U.S. Llc | Vehicle assist system |
JP7082538B2 (ja) * | 2018-07-10 | 2022-06-08 | 本田技研工業株式会社 | 画像処理装置及びプログラム |
CN109166353B (zh) * | 2018-09-12 | 2021-08-20 | 安徽中科美络信息技术有限公司 | 一种车辆行驶前方复杂路口导向车道检测方法及*** |
DE102018132676A1 (de) * | 2018-12-18 | 2020-06-18 | Valeo Schalter Und Sensoren Gmbh | Verfahren zum Lokalisieren eines Fahrzeugs in einer Umgebung |
EP3671262B1 (en) * | 2018-12-21 | 2023-05-17 | Easymile | Method and system for handling blind sectors of scanning layers of redundant sensors in a vehicle |
CN111382658B (zh) * | 2019-11-14 | 2023-04-18 | 北京航空航天大学 | 一种基于图像灰度梯度一致性的自然环境下道路交通标志检测方法 |
CN112927394A (zh) * | 2021-03-29 | 2021-06-08 | 广州科技职业技术大学 | 一种基于行车记录仪的共享*** |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1285690A (zh) * | 1999-08-18 | 2001-02-28 | 松下电器产业株式会社 | 多功能车载摄像机***及其图像显示方法 |
WO2003047900A1 (de) * | 2001-12-05 | 2003-06-12 | Daimlerchrysler Ag | System zur automatischen folgeführung eines kraftfahrzeugs |
CN1530263A (zh) * | 2003-03-11 | 2004-09-22 | 日产自动车株式会社 | 车道偏差报警*** |
EP1852325A1 (de) * | 2006-05-06 | 2007-11-07 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren zur Folgeregelung für ein Kraftfahrzeug |
CN101320089A (zh) * | 2007-06-05 | 2008-12-10 | 通用汽车环球科技运作公司 | 用于车辆动力估计的雷达、激光雷达和摄像机增强的方法 |
CN102227758A (zh) * | 2008-11-28 | 2011-10-26 | 日立汽车***株式会社 | 摄像装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3352655B2 (ja) * | 1999-09-22 | 2002-12-03 | 富士重工業株式会社 | 車線認識装置 |
US6819779B1 (en) * | 2000-11-22 | 2004-11-16 | Cognex Corporation | Lane detection system and apparatus |
JP4754936B2 (ja) | 2005-10-25 | 2011-08-24 | 株式会社リコー | 画像処理方法、プログラム、画像処理装置、画像形成装置及び画像形成システム |
US7876926B2 (en) * | 2006-11-03 | 2011-01-25 | Delphi Technologies, Inc. | Lane marker detection and fitting methods |
-
2012
- 2012-08-29 DE DE102012215322.5A patent/DE102012215322A1/de active Pending
-
2013
- 2013-08-01 CN CN201380045342.9A patent/CN104781829B/zh active Active
- 2013-08-01 US US14/425,100 patent/US9569673B2/en active Active
- 2013-08-01 WO PCT/EP2013/066188 patent/WO2014032904A1/de active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1285690A (zh) * | 1999-08-18 | 2001-02-28 | 松下电器产业株式会社 | 多功能车载摄像机***及其图像显示方法 |
WO2003047900A1 (de) * | 2001-12-05 | 2003-06-12 | Daimlerchrysler Ag | System zur automatischen folgeführung eines kraftfahrzeugs |
CN1530263A (zh) * | 2003-03-11 | 2004-09-22 | 日产自动车株式会社 | 车道偏差报警*** |
EP1852325A1 (de) * | 2006-05-06 | 2007-11-07 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren zur Folgeregelung für ein Kraftfahrzeug |
CN101320089A (zh) * | 2007-06-05 | 2008-12-10 | 通用汽车环球科技运作公司 | 用于车辆动力估计的雷达、激光雷达和摄像机增强的方法 |
CN102227758A (zh) * | 2008-11-28 | 2011-10-26 | 日立汽车***株式会社 | 摄像装置 |
Also Published As
Publication number | Publication date |
---|---|
CN104781829A (zh) | 2015-07-15 |
DE102012215322A1 (de) | 2014-03-06 |
US9569673B2 (en) | 2017-02-14 |
US20150278610A1 (en) | 2015-10-01 |
WO2014032904A1 (de) | 2014-03-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104781829B (zh) | 用于识别车辆在车道上的位置的方法和设备 | |
US10521676B2 (en) | Lane detection device, lane departure determination device, lane detection method and lane departure determination method | |
US10943131B2 (en) | Image based lane marking classification | |
KR20230004425A (ko) | 자율 주행 차량 환경 인지 소프트웨어 구조 | |
JP6126094B2 (ja) | 車載用画像認識装置 | |
US9591274B2 (en) | Three-dimensional object detection device, and three-dimensional object detection method | |
US20130286205A1 (en) | Approaching object detection device and method for detecting approaching objects | |
CN103366154B (zh) | 可重配置的畅通路径检测*** | |
CN109635737B (zh) | 基于道路标记线视觉识别辅助车辆导航定位方法 | |
CN104011737A (zh) | 用于探测雾的方法 | |
US20200285913A1 (en) | Method for training and using a neural network to detect ego part position | |
CN107389084A (zh) | 行车路径规划方法及存储介质 | |
CN104115188A (zh) | 立体物检测装置 | |
US10984264B2 (en) | Detection and validation of objects from sequential images of a camera | |
Dai et al. | A vision-based method for on-road truck height measurement in proactive prevention of collision with overpasses and tunnels | |
CN104115203A (zh) | 立体物检测装置 | |
CN104115204A (zh) | 立体物检测装置 | |
US11069049B2 (en) | Division line detection device and division line detection method | |
Raguraman et al. | Intelligent drivable area detection system using camera and LiDAR sensor for autonomous vehicle | |
JP5974923B2 (ja) | 道路端検出システム、方法およびプログラム | |
US11087150B2 (en) | Detection and validation of objects from sequential images of a camera by using homographies | |
JP5888275B2 (ja) | 道路端検出システム、方法およびプログラム | |
JPWO2017158982A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、物体認識装置及び機器制御システム | |
CN116794650A (zh) | 一种毫米波雷达与摄像头数据融合的目标检测方法和装置 | |
US20200410256A1 (en) | Method and Device for Detecting Lanes, Driver Assistance System and Vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |