CN104115201B - 立体物检测装置 - Google Patents

立体物检测装置 Download PDF

Info

Publication number
CN104115201B
CN104115201B CN201380009060.3A CN201380009060A CN104115201B CN 104115201 B CN104115201 B CN 104115201B CN 201380009060 A CN201380009060 A CN 201380009060A CN 104115201 B CN104115201 B CN 104115201B
Authority
CN
China
Prior art keywords
stereoscopic article
detection
detection zone
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201380009060.3A
Other languages
English (en)
Other versions
CN104115201A (zh
Inventor
深田修
早川泰久
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Publication of CN104115201A publication Critical patent/CN104115201A/zh
Application granted granted Critical
Publication of CN104115201B publication Critical patent/CN104115201B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/002Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle
    • B60Q9/004Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle using wave sensors
    • B60Q9/005Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for parking purposes, e.g. for warning the driver that his vehicle has contacted or is about to contact an obstacle using wave sensors using a video camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

本发明提供一种立体物检测装置,其能够有效地防止将被本车辆超越的其他车辆作为检测对象的其他车辆进行检测,能够以高精度对检测对象的其他车辆进行检测。立体物检测装置具有:图像变换单元(31),其将由拍摄单元(10)获得的图像视点变换为鸟瞰视野图像;立体物检测单元(33),其生成车宽方向波形信息,基于该信息,进行车宽方向检测处理;立体物判定单元(34),其对检测到的立体物是否是存在于检测区域的其他车辆进行判定;以及控制单元(34),其确定检测位置,在所确定的检测位置在检测区域内从本车辆行进方向的前方向后方移动,并到达检测区域内的规定位置的情况下,抑制将立体物判定为是检测对象的其他车辆的情况。

Description

立体物检测装置
技术领域
本发明涉及立体物检测装置。
本申请基于2012年2月23日申请的日本国专利申请的特愿2012-037472主张优先权,对于认可通过文献的参照进行的编入的指定国,通过参照将上述的申请所记载的内容编入引入本申请中,作为本申请的记载的一部分。
背景技术
当前,已知有如下技术:将在不同的时刻拍摄到的两张拍摄图像变换为鸟瞰视野图像,基于变换后的两张鸟瞰视野图像的差分对障碍物进行检测(参照专利文献1)。
专利文献1:日本特开2008-227646号公报
发明内容
在基于对本车辆后方进行拍摄而得到的拍摄图像,对存在于本车辆后方的相邻车道上的其他车辆进行了检测的情况下,存在导致将被本车辆超越的其他车辆作为检测对象的其他车辆进行检测的问题。
本发明所解决的课题在于,提供一种能够有效地防止将被本车辆超越的其他车辆作为检测对象的其他车辆进行检测,能够以高精度对检测对象的其他车辆进行检测的立体物检测装置。
本发明提供如下方式解决上述问题:使不同的时刻的鸟瞰视野图像的位置在鸟瞰时位置对齐,在该位置对齐后的鸟瞰视野图像的差分图像上,沿着车宽方向对表示规定的差分的像素数进行计数,并确定获得大于或等于规定值的计数数量的检测位置,在所确定的检测位置在检测区域内从本车辆行进方向的前方向后方移动,并到达检测区域内的规定位置的情况下,抑制将检测到的立体物判定为是检测对象的其他车辆的情况。
发明的效果
根据本发明,沿着车宽方向对表示规定的图像信息的像素数进行计数,从而能够对在检测区域内的其他车辆的前保险杠的位置进行检测,与其他车辆的前保险杠的位置相对应地对本车辆是否超越了其他车辆适当地进行判定,因此,能够有效地防止将本车辆超越的其他车辆作为检测对象的其他车辆而检测,能够高精度地对作为检测对象的其他车辆进行检测。
附图说明
图1是搭载有立体物检测装置的车辆的概略构成图。
图2是表示图1的车辆的行驶状态的俯视图。
图3是表示第1实施方式涉及的计算机的详细情况的框图。
图4用于说明位置对齐部的处理的概要的图,(a)表示车辆的移动状态的俯视图、(b)表示位置对齐的概要的图像。
图5是表示由立体物检测部生成第1差分波形的情形的概略图。
图6是表示由立体物检测部分割的小区域的图。
图7是表示由立体物检测部获得的柱状图的一个例子的图。
图8是表示由立体物检测部进行的加权的图。
图9是表示由立体物检测部获得的柱状图的另一个例子的图。
图10是表示由立体物检测部生成第2差分波形的情形的概略图。
图11是用于说明对由立体物判定部进行的超越判断方法的图。
图12是表示第1实施方式涉及的相邻车辆检测方法的流程图(其1)。
图13是表示第1实施方式涉及的相邻车辆检测方法的流程图(其2)。
图14是表示第2实施方式涉及的计算机的详细情况的框图。
图15是表示车辆的行驶状态的图,(a)是表示检测区域等的位置关系的俯视图,(b)是表示实际空间中的检测区域等的位置关系的斜视图。
图16是用于对亮度差计算部的动作进行说明的图,(a)是表示鸟瞰视野图像中的注视线、参照线、注视点以及参照点的位置关系的图,(b)是表示实际空间中的注视线、参照线、注视点以及参照点的位置关系的图。
图17是用于对亮度差计算部的详细的动作进行说明的图,(a)是表示鸟瞰视野图像中的检测区域的图,(b)是表示鸟瞰视野图像中的注视线、参照线、注视点以及参照点的位置关系的图。
图18是表示用于对边缘检测动作进行说明的图像例的图。
图19是表示边缘线和边缘线上的亮度分布的图,(a)是表示在检测区域中存在立体物(相邻车辆)的情况下的亮度分布的图,(b)是表示在检测区域中存在立体物的情况下的亮度分布的图。
图20是表示第2实施方式涉及的相邻车辆检测方法的流程图(其1)。
图21是表示第2实施方式涉及的相邻车辆检测方法的流程图(其2)。
具体实施方式
《第1实施方式》
图1是搭载有第1实施方式涉及的立体物检测装置1的车辆的概略构成图。本实施方式涉及的立体物检测装置1的目的在于,对在本车辆V1变更车道时有可能接触的存在于相邻车道的车辆(下面也称为相邻车辆)进行检测。如图1所示,本实施方式涉及的立体物检测装置1包括照相机10、车速传感器20、计算机30和警报装置40。
如图1所示,照相机10在本车辆V1的后方的高度h的部位处以光轴从水平向下成为角度θ的方式安装于车辆V1上。照相机10从该位置对本车辆V1的周围环境中的规定区域进行拍摄。车速传感器20用于对本车辆V1的行驶速度进行检测,例如根据由对车轮的转速进行探测的车轮速度传感器检测出的车轮速度计算车速。计算机30对存在于本车辆后方的相邻车道的相邻车辆进行检测。警报装置40在由计算机30检测到的相邻车辆有可能与本车辆V1接触的情况下等向本车辆V1的驾驶员发出警报。
图2是表示图1的本车辆V1的行驶状态的俯视图。如图2所示,照相机10以规定的视场角a对车辆后方侧进行拍摄。此时,照相机10的视场角a设定为除了能够拍摄本车辆V1所行驶的车道之外,还能拍摄其左右的车道(相邻车道)的视场角。
图3是表示图1的计算机30的详细情况的框图。此外,在图3中为了明确连接关系,也图示了照相机10、车速传感器20以及警报装置40。
如图3所示,计算机30包括视点变换部31、位置对齐部32、立体物检测部33、立体物判定部34。下面,对各自的结构进行说明。
视点变换部31输入利用照相机10的拍摄而获得的规定区域的拍摄图像数据,将输入的拍摄图像数据视点变换为鸟瞰观察的状态的鸟瞰视野图像数据。所谓鸟瞰观察的状态是从上空例如铅垂向下俯视的假想照相机的视点观察到的状态。该视点变换能够以例如日本特开2008-219063号公报所记载的方式执行。将拍摄图像数据视点变换成鸟瞰视野图像数据是基于下述原理,即,立体物所特有的铅垂边缘在向鸟瞰视野图像数据的视点变换时,被变换为通过特定的定点的直线组,因此只要利用此原理,就能够识别平面物和立体物。
位置对齐部32将通过视点变换部31的视点变换而获得的鸟瞰视野图像数据依次输入,对输入的不同的时刻的鸟瞰视野图像数据的位置进行位置对齐。图4是用于说明位置对齐部32的处理的概要的图,(a)是表示本车辆V1的移动状态的俯视图、(b)是表示位置对齐的概要的图像。
如图4的(a)所示,设为当前时刻的本车辆V1位于P1,一个时刻前的本车辆V1位于P1’。另外,相邻车辆V2位于本车辆V1的后侧方向上,处于与本车辆V1并行的状态,设为当前时刻的相邻车辆V2位于P2,一个时刻前的相邻车辆V2位于P2’。并且,设为本车辆V1在一个时刻移动了距离d。此外,一个时刻前既可以是从当前时刻起早预定的时间(例如1个控制周期)的时刻,也可以是早任意时间的时刻。
在这样的状态下,当前时刻的鸟瞰视野图像PBt如图4的(b)所示。在该鸟瞰视野图像PBt中,对于描绘在路面上的白线,成为矩形形状,比较准确地成为俯视的状态,但对于相邻车辆V2(位置P2),发生歪斜。另外,对于一个时刻前的鸟瞰视野图像PBt-1也同样地,对于描绘在路面上的白线,成为矩形形状,比较准确地成为俯视的状态,但对于相邻车辆V2(位置P2’),发生歪斜。其原因在于,如上所述,立体物的铅垂边缘(除了严格意义上的铅垂边缘以外,还包含从路面以三维空间立起的边缘)由于向鸟瞰视野图像数据的视点变换处理而呈现为沿着歪斜的方向的直线组,与此相对,路面上的平面图像不包含铅垂边缘,因此,即使进行视点变换,也不会产生这种歪斜。
位置对齐部32在数据上执行如上述的鸟瞰视野图像PBt、PBt-1的位置对齐。此时,位置对齐部32使一个时刻前的鸟瞰视野图像PBt-1偏置,并使其与当前时刻的鸟瞰视野图像PBt的位置一致。图4的(b)中的左侧的图像和中央的图像表示偏置了移动距离d’的状态。该偏置量d’是与图4的(a)所示的本车辆V1的实际的移动距离d相对应的鸟瞰视野图像数据上的移动量,基于来自车速传感器20的信号和从一个时刻前到当前时刻为止的时间确定。
另外,在位置对齐后,位置对齐部32取得鸟瞰视野图像PBt、PBt-1的差分,生成差分图像PDt的数据。在此,在本实施方式中,位置对齐部32为了与照度环境的变化相对应,而将鸟瞰视野图像PBt、PBt-1的像素值的差绝对值化,在该绝对值大于或等于规定的阈值th时,差分图像PDt的像素值设为“1”,在绝对值小于规定的阈值th时,差分图像PDt的像素值设为“0”,从而能够生成如图4的(b)的右侧所示的差分图像PDt的数据。
返回到图3,立体物检测部33基于图4的(b)所示的差分图像PDt的数据,对立体物进行检测。此时,立体物检测部33对于实际空间上的立体物的移动距离也进行计算。在进行立体物的检测和移动距离的计算时,立体物检测部33首先生成第1差分波形DW1t
在生成第1差分波形DW1t时,立体物检测部33在差分图像PDt中设定检测区域。本例的立体物检测装置1的目的在于,对在本车辆V1变更车道时有可能接触的相邻车辆计算移动距离。因此,在本例中,如图2所示在本车辆V1的后侧方设定矩形形状的检测区域A1、A2。此外,这样的检测区域A1、A2既可以根据相对于本车辆V1的相对位置进行设定,也可以以白线的位置为基准进行设定。在以白线的位置为基准进行设定的情况下,立体物检测装置1可以利用例如现有的白线识别技术等。
另外,如图2所示,立体物检测部33将设定的检测区域A1、A2的本车辆V1侧的边(沿着行驶方向的边)识别为接地线L1、L2。通常接地线是指立体物与地面接触的线,但在本实施方式中不是与地面接触的线,而是如上所述地设定。此外,即使是该情况下,从经验上来看,本实施方式涉及的接地线与根据相邻车辆V2原来的位置求出的接地线之差也不会过大,在实际使用方面没有问题。
图5是表示由立体物检测部33生成第1差分波形DW1t的情形的概略图。如图5所示,立体物检测部33根据在由位置对齐部32计算出的差分图像PDt(图4的(b)的右图)中与检测区域A1、A2相当的部分,生成第1差分波形DW1t。此时,立体物检测部33沿着由于视点变换而立体物歪斜的方向,生成第1差分波形DW1t。此外,在图5所示的例中,出于方便,仅采用检测区域A1进行说明,但对于检测区域A2也以同样的顺序生成第1差分波形DW1t
具体地进行说明,首先,立体物检测部33在差分图像PDt的数据上对立体物歪斜的方向上的线La进行定义。然后,立体物检测部33在线La上对表示规定的差分的差分像素DP的数量进行计数。在本实施方式中,表示规定的差分的差分像素DP是差分图像PDt的像素值以“0”、“1”表现,示出“1”的像素作为差分像素DP进行计数。
立体物检测部33在对差分像素DP的数量进行了计数之后,求出线La与接地线L1的交点CP。然后,立体物检测部33使交点CP与计数数量相对应,基于交点CP的位置对横轴位置、即图5右图的上下方向轴上的位置进行确定,并且,根据计数数量对纵轴位置、即图5右图的左右方向轴上的位置进行确定,作为交点CP处的计数数量进行标示。
以下,同样地,立体物检测部33对立体物歪斜的方向上的线Lb、Lc…进行定义,对差分像素DP的数量进行计数,基于各交点CP的位置确定横轴位置,根据计数数量(差分像素DP的数量)确定纵轴位置并进行标示。立体物检测部33依次重复上述内容而进行频率分布化,从而如图5右图所示生成第1差分波形DW1t
在此,差分图像PDt的数据上的差分像素DP是在不同的时刻的图像中存在变化的像素,换言之,也可以说是存在有立体物的部位。因此,在存在有立体物的部位,沿着立体物歪斜的方向对像素数进行计数并进行频率分布化,从而生成第1差分波形DW1t。尤其是,沿着立体物歪斜的方向对像素数量进行计数,因此,对于立体物根据高度方向的信息生成第1差分波形DW1t
此外,如图5左图所示,立体物歪斜的方向上的线La和线Lb与检测区域A1重复的距离不同。因此,如果检测区域A1被差分像素DP充满,则线La上的差分像素DP的数量多于线Lb上的差分像素DP的数量。因此,在立体物检测部33根据差分像素DP的计数数量确定纵轴位置的情况下,基于立体物歪斜的方向上的线La、Lb与检测区域A1重复的距离进行标准化。如果列举具体例,在图5左图中线La上的差分像素DP有6个,线Lb上的差分像素DP有5个。因此,在图5中根据计数数量确定纵轴位置时,立体物检测部33将计数数量除以重复距离等而进行标准化。由此,与立体物歪斜的方向上的线La、Lb相对应的第1差分波形DW1t的值大致相同。
另外,在生成第1差分波形DW1t后,立体物检测部33通过当前时刻的第1差分波形DW1t和一个时刻前的第1差分波形DW1t-1之间的对比,对移动距离进行计算。即,立体物检测部33根据第1差分波形DW1t、DW1t-1的时间变化,对移动距离进行计算。
详细地进行说明,立体物检测部33如图6所示地将第1差分波形DW1t分割为多个小区域DW1t1~DW1tn(n为大于或等于2的任意的整数)。图6是表示由立体物检测部33分割的小区域DW1t1~DW1tn的图。如图6所示,小区域DW1t1~DW1tn例如相互重复地分割。例如小区域DW1t1与小区域DW1t2重复,小区域DW1t2与小区域DW1t3重复。
然后,立体物检测部33针对每个小区域DW1t1~DW1tn求出偏置量(差分波形的横轴方向(图6的上下方向)上的移动量)。在这里,偏置量根据一个时刻前的第1差分波形DW1t-1与当前时刻的第1差分波形DW1t之差(横轴方向的距离)求出。此时,立体物检测部33对针对每个小区域DW1t1~DW1tn判定使一个时刻前的第1差分波形DW1t-1沿着横轴方向移动时与当前时刻的第1差分波形DW1t之间的误差成为最小的位置(横轴方向上的位置),将与差分波形DW1t-1的原来的位置与误差成为最小的位置之间的横轴方向的移动量作为偏置量求出。然后,立体物检测部33对针对每个小区域DW1t1~DW1tn求出的偏置量进行计数并绘制柱状图。
图7是表示利用立体物检测部33获得的柱状图的一个例子的图。如图7所示,各小区域DW1t1~DW1tn与一个时刻前的第1差分波形DW1t-1之间的误差成为最小的移动量即偏置量存在些许的波动。因此,立体物检测部33将包含波动在内的偏置量绘制成柱状图,根据柱状图计算移动距离。此时,立体物检测部33根据柱状图的极大值对相邻车辆的移动距离进行计算。即,在图7所示的例中,立体物检测部33将表示柱状图的极大值的偏置量计算为移动距离τ。这样,在本实施方式中,即使偏置量存在波动,也能够根据该极大值计算准确性更高的移动距离。此外,移动距离τ是相邻车辆相对于本车辆V1的相对移动距离。因此,立体物检测部33在对绝对移动距离进行计算的情况下基于所得到的移动距离τ和来自车速传感器20的信号对绝对移动距离进行计算。
如上所述,在本实施方式中,根据在不同的时刻生成的第1差分波形DW1t的误差成为最小时的第1差分波形DW1t的偏置量对立体物的移动距离进行计算,从而根据波形这样的1维的信息的偏置量对移动距离进行计算,在计算移动距离时能够抑制计算成本。另外,通过将在不同的时刻生成的第1差分波形DW1t分割成多个小区域DW1t1~DW1tn,能够获得多个表示立体物的各自的部位的波形,由此,能够针对立体物的各自的部位求出偏置量,能够根据多个偏置量求出移动距离,因此,能够提高移动距离的计算精度。另外,在本实施方式中,通过根据包含高度方向的信息在内的第1差分波形DW1t的时间变化,对立体物的移动距离进行计算,从而与仅着眼于1点的移动这样的情况相比,能够使时间变化前的检测部位和时间变化后的检测部位包含高度方向的信息而被指定,因此,在立体物中容易成为相同的部位,根据相同的部位的时间变化对移动距离进行计算,从而提高移动距离的计算精度。
此外,也可以在绘制柱状图时,立体物检测部33针对多个小区域DW1t1~DW1tn中的每一个进行加权,对应于权重对针对每个小区域DW1t1~DW1tn求出的偏置量进行计数并绘制柱状图。图8是表示由立体物检测部33进行加权的图。
如图8所示,小区域DW1m(m为大于或等于1且小于或等于n-1的整数)是平坦的。即,在小区域DW1m中,表示规定的差分的像素数的计数的最大值与最小值之差变小。立体物检测部33对这样的小区域DW1m设较小的权重。其原因在于,平坦的小区域DW1m没有特征,在计算偏置量时误差变大的可能性较高。
另一方面,小区域DW1m+k(k为小于或等于n-m的整数)具有起伏。即,在小区域DW1m中,表示规定的差分的像素数的计数的最大值与最小值之差变大。立体物检测部33针对这样的小区域DW1m增大权重。其原因在于,具有起伏的小区域DW1m+k存在特征,能够准确地进行偏置量的计算的可能性较高。通过这样加权,能够提高移动距离的计算精度。
此外,为了提高移动距离的计算精度,在上述实施方式中,将第1差分波形DW1t分割成了多个小区域DW1t1~DW1tn,但在移动距离的计算精度要求并不是很高的情况下,也可以不分割成小区域DW1t1~DW1tn。在该情况下,立体物检测部33根据第1差分波形DW1t与第1差分波形DW1t-1之间的误差成为最小时的第1差分波形DW1t的偏置量对移动距离进行计算。即,求出一个时刻前的第1差分波形DW1t-1与当前时刻的第1差分波形DW1t之间的偏置量的方法并不限定于上述内容。
此外,在本实施方式中,立体物检测部33求出本车辆V1(照相机10)的移动速度,根据求出的移动速度求出针对静止物的偏置量。在求出静止物的偏置量之后,立体物检测部33在忽视了柱状图的极大值中的相当于静止物的偏置量后对相邻车辆的移动距离进行计算。
图9是表示由立体物检测部33获得的柱状图的另一个例子的图。在照相机10的视场角内除了立体物之外还存在静止物的情况下,在获得的柱状图中出现两个极大值τ1、τ2。在该情况下,两个极大值τ1、τ2中的某一个为静止物的偏置量。因此,立体物检测部33根据移动速度求出针对静止物的偏置量,忽视相当于该偏置量的极大值,采用剩余一个极大值对立体物的移动距离进行计算。由此,能够防止由于静止物而使立体物的移动距离的计算精度降低的情况。
此外,在即使忽视相当于静止物的偏置量,也存在多个极大值的情况下,设想为在照相机10的视场角内存在多个立体物。但是,在检测区域A1、A2内存在多个立体物是极为罕见的。因此,立体物检测部33中止移动距离的计算。由此,在本实施方式中,能够防止极大值存在多个这样对错误的移动距离进行计算的情况。
另外,立体物检测部33根据由位置对齐部32计算出的差分图像PDt(图4的(b)的右图)中的与检测区域A1、A2相当的部分,沿着车宽方向生成第2差分波形DW2t。在此,图10是表示由立体物检测部33生成第2差分波形DW2t的情形的概略图。如图10所示,立体物检测部33沿着车宽方向生成第2差分波形DW2t。此外,在图10所示的例子中,出于方便,仅使用检测区域A1进行说明,但对检测区域A2也以同样的顺序生成第2差分波形DW2t
具体地进行说明,首先,立体物检测部33在差分图像PDt的数据上,对车宽方向上的线La’进行定义。然后,立体物检测部33在线La’上对表示规定的差分的差分像素DP的数量进行计数。
立体物检测部33在对差分像素DP的数量进行了计数之后,求出线La’与接地线L1的交点CP。然后,立体物检测部33使交点CP与计数数量相对应,基于交点CP的位置对横轴位置、即图10右图的上下方向轴上的位置进行确定,并且,根据计数数量对纵轴位置、即图10右图的左右方向轴上的位置进行确定,作为交点CP处的计数数量进行标示。
以下,同样地,立体物检测部33对车轴方向上的线Lb’、Lc’…进行定义,对差分像素DP的数量进行计数,基于各交点CP的位置确定横轴位置,根据计数数量(差分像素DP的数量)确定纵轴位置并进行标示。立体物检测部33依次反复进行上述内容并进行频率分布化,从而如图10右图所示地生成第2差分波形DW2t。这样,在本实施方式中,在车宽方向上对差分像素DP进行计数,从而能够对在实际空间中处于相同高度的位置的相邻车辆的前保险杠进行检测。
如上所述,第2差分波形DW2t是表示规定亮度差的像素的分布信息的一个方式,本实施方式中的“像素的分布信息”可视为表示沿着车宽方向检测的“亮度差大于或等于规定阈值的像素”的分布的状态的信息。即,立体物检测部33在由视点变换部31获得的鸟瞰视野图像中,沿着车宽方向基于亮度差大于或等于规定阈值的像素的分布信息,对立体物进行检测。
图3所示的立体物判定部34基于由立体物检测部33生成的第2差分波形DW2t,进行本车辆是否超越了在相邻车道上行驶的相邻车辆的判断。在对本车辆是否超越了相邻车辆进行判断时,首先,立体物判定部34基于第2差分波形DW2t,进行在相邻车道上是否存在相邻车辆的判断。具体而言,立体物判定部34基于第2差分波形DW2t,对差分像素DP的计数数量大于或等于阈值s的检测位置的数量进行检测,在计数数量大于或等于阈值s的检测位置连续地检测到大于或等于规定数目的情况下,判断为在相邻车道上存在相邻车辆。此外,上述规定数目并没有特别地限定,能够通过实验等适当地设定,以使能够基于检测位置的数量对相邻车辆进行判断。此外,并不限定于上述结构,也可以构成为,例如,在计数数量大于或等于阈值s的检测位置连续地检测到大于或等于能够判定为相邻车辆的规定宽度的的情况下,判断为在相邻车道上存在相邻车辆。
并且,立体物判定部34判断在差分像素DP的计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置是否到达了检测区域A1内的规定位置P0,从而对本车辆是否超越了相邻车辆进行判断。在此,如上所述,在车宽方向上对差分像素DP进行计数,从而能够对存在于检测区域A1、A2内的相邻车辆的前保险杠进行检测,由此,能够对检测区域A1、A2内的相邻车辆的前保险杠的位置进行检测。因此,立体物判定部34在计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置到达了检测区域A1内的规定位置P0的情况下,判定为相邻车辆(相邻车辆的前保险杠的位置)位于距本车辆较远的后方,本车辆超越了相邻车辆,判断为不存在在本车辆变更车道时有可能接触的相邻车辆,判定为检测对象的相邻车辆、即本车辆在变更车道时有可能接触的相邻车辆不存在于相邻车道。
例如,在图11(A)所示的例中,立体物判定部34在计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置P1未到达检测区域内的规定位置P0,因此,判断为本车辆变更车道时有可能接触的相邻车辆存在于相邻车道,判定为作为检测对象的相邻车辆存在于相邻车道。另一方面,在图11(B)所示的例子中,立体物判定部34在计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置P1到达检测区域内的规定位置P0,因此,判断为存在本车辆在变更车道时有可能接触的相邻车辆,判定为检测对象的相邻车辆存在于相邻车道。
此外,图11(A)、图11(B)所示的规定位置P0的位置并没有特别限定,例如,规定位置P0的位置也可以设为与图11(A)、图11(B)所示的规定位置P0相比更靠近本车辆的位置,或者,规定位置P0的位置也可以设为与图11(A)、图11(B)所示的规定位置P0相比更远离本车辆的位置。
下面,对本实施方式涉及的相邻车辆检测处理进行说明。图12、图13是表示本实施方式的相邻车辆检测处理的流程图。如图12所示,首先,利用计算机30从照相机10取得拍摄图像的数据(步骤S101),利用视点变换部31基于取得的拍摄图像的数据生成鸟瞰视野图像PBt的数据(步骤S102)。
然后,位置对齐部33使鸟瞰视野图像PBt的数据和一个时刻前的鸟瞰视野图像PBt-1的数据位置对齐,生成差分图像PDt的数据(步骤S103)。之后,立体物检测部33根据差分图像PDt的数据沿着由于视点变换而立体物歪斜的方向对像素值为“1”的差分像素DP的数量进行计数,生成第1差分波形DW1t(步骤S104)。
如果生成第1差分波形DW1t,则立体物判定部34对第1差分波形DW1t的峰值是否大于或等于规定的阈值α进行判断(步骤S105)。在第1差分波形DW1t的峰值不大于或等于阈值α的情况下,即几乎没有差分的情况下,认为在拍摄图像内不存在立体物。因此,在判断为第1差分波形DW1t的峰值不大于或等于阈值α的情况下(步骤S105=No),立体物判定部34判断为不存在立体物,不存在其他车辆(步骤S115),在正在进行警告的通知的情况下,在解除警告后(步骤S116),返回到步骤S101,反复进行上述处理。
另一方面,在判断为第1差分波形DW1t的峰值大于或等于阈值α的情况下(步骤S105=Yes),立体物判定部34判断为在相邻车道上存在立体物,进入步骤S106。
在步骤S106中,由立体物检测部33将第1差分波形DW1t分割成多个小区域DW1t1~DW1tn。然后,立体物检测部33针对小区域DW1t1~DW1tn的每一个进行加权,对小区域DW1t1~DW1tn的每一个偏置量进行计算(步骤S107),增加权重而生成柱状图(步骤S108)。
然后,立体物检测部33基于柱状图对相邻车辆相对于本车辆的移动距离即相对移动距离进行计算,对计算出的相对移动距离进行时间微分,从而对相对移动速度进行计算(步骤S109)。并且,立体物检测部33加上由车速传感器20检测到的本车车速,对相邻车辆的绝对移动速度进行计算(步骤S110)。
在步骤S111中,利用立体物判定部34进行在步骤S109中检测到的相邻车辆的相对移动速度是否为负值的判断。在相邻车辆的相对移动速度为负值的情况下,即,在相邻车辆的移动速度比本车辆的移动速度慢的情况下,判断为本车辆正要超越相邻车辆,进入图13所示的步骤S201。另一方面,在相邻车辆的相对移动速度不是负值的情况下,进入步骤S112。
在判断为本车辆正要超越相邻车辆的情况下(步骤S111=No),如图10所示,立体物检测部33沿着车宽方向对像素值为“1”的差分像素DP的数量进行计数,生成第2差分波形DW2t(图13的步骤S201)。
然后,立体物判定部34基于所生成的第2差分波形DW2t,对差分像素DP的计数数量大于或等于阈值s的检测位置的数量进行检测,对计数数量大于或等于阈值s的检测位置是否连续地检测到大于或等于规定数目进行判断(步骤S202)。例如,在规定数目被设定为“3”的情况下,在图11(A)、图11(B)所示的例中,在任一情况下,计数数量大于或等于阈值s的检测位置均连续地检测到大于或等于规定数目。在计数数量大于或等于阈值s的检测位置连续大于或等于规定数目的情况下(步骤S202=Yes),判断为在检测区域A1、A2内存在相邻车辆,进入步骤S203。另一方面,在计数数量大于或等于阈值s的检测位置没有连续地检测到大于或等于规定数目的情况下(步骤S202=No),立体物判定部34判断为在检测区域A1、A2内不存在相邻车辆,进入图12所示的步骤S115,判定为检测对象的相邻车辆不存在于相邻车道(步骤S115)。
然后,立体物判定部34对差分像素DP的计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置P1是否到达了检测区域A1、A2内的规定位置P0进行判断(步骤S203)。在最靠近本车辆的检测位置P1未到达规定位置P0的情况下(步骤S203=No),判断为本车辆未超越相邻车辆,进入图12所示的步骤S112。另一方面,在最靠近本车辆的检测位置P1到达了规定位置P0的情况下(步骤S203=Yes),立体物判定部34判断为本车辆超越相邻车辆,本车辆变更车道时与相邻车辆没有可能接触,进入图12所示的步骤S115,判断为检测对象的相邻车辆不存在于相邻车道(步骤S115)。
另一方面,在判断为本车辆不会超越相邻车辆的情况下(步骤S111=No),立体物判定部34对相邻车辆的绝对移动速度是否大于或等于10km/h、且相邻车辆相对于本车辆的相对移动速度是否小于或等于+60km/h进行判断(步骤S112)。在满足两者的情况下(步骤S112=Yes),立体物判定部34判断为检测对象的相邻车辆存在于相邻车道(步骤S113),为了在本车辆变更了车道变更的情况下不与相邻车辆接触,而使警报装置40向本车辆的驾驶员通知警告(步骤S114)。然后,在保持通知警告的状态下,返回到步骤S101,反复进行上述处理。另一方面,在任一者均不满足的情况下(步骤S112=No),立体物判定部34判断为检测对象的相邻车辆不存在于相邻车道(步骤S115),在正在通知警告的情况下,在解除警告之后(步骤S116),返回到步骤S101,反复进行上述处理。
如上所述,在本实施方式中,在本车辆超越在相邻车道上行驶的相邻车辆时通知了警告的情况下,在差分像素DP的计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置P1到达检测区域A1、A2内的规定位置P0,判断为本车辆超越了相邻车辆的情况下(步骤S203=Yes),也判定为检测对象的相邻车辆不存在于相邻车道(步骤S115),即使在检测区域内A1、A2内存在相邻车辆的情况下,也解除警告(步骤S116)。由此,在本实施方式中,在本车辆超越相邻车辆时,能够通过警告减轻对本车辆的驾驶员带来的麻烦。此外,在步骤S114中,通知警告的方法并没有特别限定,例如利用警报装置40向驾驶员输出警告音、或者提示警告显示即可。
此外,在本实施方式中,重点在于:将本车辆的后侧方设为检测区域A1、A2,在本车辆变更了车道的情况下是否有可能接触。因此,执行步骤S112的处理。即,如果以本实施方式的***在高速道路上工作为前提,则在相邻车辆的速度小于10km/h的情况下,即使存在有相邻车辆,在车道变更时相邻车辆也位于离本车辆较远的后方的位置,因此成为问题的情况较少。同样地,在相邻车辆相对本车辆的相对移动速度超过+60km/h的情况下(即,相邻车辆以比本车辆的速度大60km/h的速度移动的情况下),在车道变更时相邻车辆在本车辆的前方移动,因此成为问题的情况较少。
另外,在步骤S112中对相邻车辆的绝对移动速度是否大于或等于10km/h且相邻车辆相对于本车辆的相对移动速度是否小于或等于+60km/h进行判断,从而具有以下效果。例如有时由于照相机10的安装误差而有可能将静止物的绝对移动速度检测为几km/h。由此,通过对是否大于或等于10km/h进行判断,能够降低将静止物判断为相邻车辆的可能性。另外,由于噪音而有可能将相邻车辆相对于本车辆的相对速度检测为超过+60km/h的速度。由此,通过对相对速度是否小于或等于+60km/h进行判断,从而能够降低由噪音导致的误检测的可能性。
如上所述,在第1实施方式中,将在不同的时刻获得的两张图像变换为鸟瞰视野图像,基于两张鸟瞰视野图像的差分生成差分图像PDt。并且,沿着由于视点变换而立体物歪斜的方向,对在差分图像PDt的数据上表示规定的差分的像素数进行计数并进行频率分布化,从而根据差分图像PDt的数据生成第1差分波形DW1t。并且,在第1实施方式中,沿着车宽方向,对在差分图像PDt的数据上表示规定的差分的像素数进行计数并进行频率分布化,从而生成第2差分波形DW2t。在此,对在差分图像PDt的数据上表示规定的差分的像素数,沿着车宽方向进行计数,从而能够对在检测区域A1、A2内存在的相邻车辆的前保险杠进行检测,能够对检测区域A1、A2内的相邻车辆的前保险杠的位置进行检测。并且,在本实施方式中,如图11(B)所示,在计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置P1到达了检测区域A1、A2内的规定位置P0的情况下,判断为相邻车辆(相邻车辆的前保险杠的位置)与本车辆离得较远,本车辆超越了相邻车辆,从而判断为不存在在本车辆变更了车道时有可能接触的相邻车辆,判定为检测对象的相邻车辆不存在于相邻车道。由此,在第1实施方式中,例如,在本车辆超越相邻车辆时正在通知警告的情景中,在计数数量大于或等于阈值s的检测位置中最靠近本车辆的检测位置P1到达了检测区域A1、A2内的规定位置P0,由此判定为本车辆超越了相邻车辆的情况下,即使在检测区域A1、A2内存在相邻车辆的情况下,也判定为检测对象的相邻车辆不存在于相邻车道,解除警告。由此,在本车辆超越相邻车辆时,能够减轻因警告给本车辆的驾驶员带来的麻烦。
《第2实施方式》
下面,对第2实施方式涉及的立体物检测装置1a进行说明。如图14所示,第2实施方式涉及的立体物检测装置1a取代第1实施方式的计算机30而具有计算机30a,除了以下说明所示地动作以外,与第1实施方式相同。在此,图14是表示第2实施方式涉及的计算机30a的详细情况的框图。
如图14所示,第2实施方式涉及的立体物检测装置1a具有照相机10、计算机30a和警告装置40,计算机30a由视点变换部31、亮度差计算部35、边缘线检测部36、立体物检测部33a、立体物判定部34a构成。下面对第2实施方式涉及的立体物检测装置1a的各结构进行说明。
图15是表示图14的照相机10的拍摄范围等的图,图15的(a)是俯视图,图15的(b)表示从本车辆V1起后侧方的实际空间上的斜视图。如图15的(a)所示,照相机10设为规定的视场角a,从该规定的视场角a所包含的本车辆V1拍摄后侧方。照相机10的视场角a与图2所示的情况同样,设定为在照相机10的拍摄范围内除了包括本车辆V1行驶的车道之外,还包括相邻的车道。
本例的检测区域A1、A2在俯视(鸟瞰的状态)下为梯形状,这些检测区域A1、A2的位置、大小以及形状基于距离d1~d4确定。此外,该图21所示的例子的检测区域A1、A2并不限于梯形状,也可以如图2所示在鸟瞰的状态下呈矩形等其他形状。
在这里,距离d1是从本车辆V1至接地线L1、L2为止的距离。接地线L1、L2是指在与本车辆V1所行驶的车道相邻的车道上存在的立体物与地面接触的线。在本实施方式中,其目的在于,对在本车辆V1的后侧方在与本车辆V1的车道相邻的左右的车道行驶的相邻车辆V2等(包含两轮车等)进行检测。因此,能够根据从本车辆V1至白线W为止的距离d11以及从白线W至预测为相邻车辆V2所行驶的位置为止的距离d12,预先大致固定地确定成为相邻车辆V2的接地线L1、L2的位置即距离d1。
另外,对于距离d1,并不限于固定地确定的情况,也可以是可变的。在该情况下,计算机30a利用白线识别等技术对白线W相对于本车辆V1的位置进行识别,基于识别出的白线W的位置,确定距离d11。由此,距离d1能够使用所确定的距离d11可变地设定。在下面的本实施方式中,相邻车辆V2所行驶的位置(距白线W的距离d12)以及本车辆V1所行驶的位置(距白线W的距离d11)大致确定,因此,固定地确定距离d1。
距离d2是从本车辆V1的后端部沿着车辆行进方向延伸的距离。该距离d2确定为至少检测区域A1、A2被收纳在照相机10的视场角a内。尤其是在本实施方式中,距离d2设定为与被视场角a划分出的范围相接触。距离d3是表示检测区域A1、A2的车辆行进方向上的长度的距离。该距离d3基于成为检测对象的立体物的大小而确定。在本实施方式中,检测对象为相邻车辆V2等,因此,距离d3设定为包含相邻车辆V2在内的长度。
如图15的(b)所示,距离d4是表示在实际空间中以包含相邻车辆V2等的轮胎的方式设定的高度的距离。距离d4在鸟瞰视野图像中为图15的(a)所示的长度。此外,距离d4也可以设为在鸟瞰视野图像中不包含与左右的相邻车道进一步相邻的车道(即隔着一个车道而相邻的更相邻车道)的长度。其原因在于,如果包含从本车辆V1的车道隔着一个车道而相邻的车道,则无法区分在本车辆V1所行驶的车道即本车道的左右的相邻车道上存在相邻车辆V2、还是在隔着一个车道而相邻的更相邻车道上存在更相邻车辆。
如上所述,距离d1~距离d4被确定,由此,检测区域A1、A2的位置、大小以及形状被确定。具体地进行说明,利用距离d1对呈梯形的检测区域A1、A2的上边b1的位置进行确定。利用距离d2对上边b1的始点位置C1进行确定。利用距离d3对上边b1的终点位置C2进行确定。利用从照相机10朝向始点位置C1延伸的直线L3对呈梯形的检测区域A1、A2的侧边b2进行确定。同样地利用从照相机10朝向终点位置C2延伸的直线L4对呈梯形的检测区域A1、A2的侧边b3进行确定。利用距离d4对呈梯形的检测区域A1、A2的下边b4的位置进行确定。如上所述,由各边b1~b4围成的区域成为检测区域A1、A2。如图15的(b)所示,该检测区域A1、A2在从本车辆V1起后侧方的实际空间上成为正方形(长方形)。
返回到图14,向视点变换部31输入由照相机10进行拍摄而获得的规定区域的拍摄图像数据。视点变换部31对输入的拍摄图像数据进行向鸟瞰观察的状态的鸟瞰视野图像数据的视点变换处理。鸟瞰观察的状态是指从上空例如从铅垂向下(或者稍微斜向下)俯视的假想照相机的视点观察的状态。该视点变换处理能够通过例如日本特开2008-219063号公报所记载的技术实现。
亮度差计算部35为了对鸟瞰视野图像所包含的立体物的边缘进行检测,对利用视点变换部31进行视点变换后的鸟瞰视野图像数据进行亮度差的计算。亮度差计算部35针对实际空间中的沿着铅垂方向延伸的铅垂假想线的多个位置中的每一个,计算该各位置的旁边的两个像素间的亮度差。亮度差计算部35能够通过将实际空间中的沿着铅垂方向延伸的铅垂假想线仅设定1根的方法、及将铅垂假想线设定两根的方法中的任一个方法计算亮度差。
在这里,对将铅垂假想线设定两根的具体的方法进行说明。亮度差计算部35针对视点变换后的鸟瞰视野图像,设定与在实际空间中沿着铅垂方向延伸的线段相当的第1铅垂假想线、与第1铅垂假想线不同并与在实际空间中沿着铅垂方向延伸的线段相当的第2铅垂假想线。亮度差计算部35沿着第1铅垂假想线以及第2铅垂假想线连续地求出第1铅垂假想线上的点和第2铅垂假想线上的点之间的亮度差。下面,对该亮度差计算部35的动作详细地进行说明。
如图16的(a)所示,亮度差计算部35对与在实际空间中沿着铅垂方向延伸的线段相当且通过检测区域A1的第1铅垂假想线La(下面称为注视线La)进行设定。另外,亮度差计算部35对与注视线La不同并与在实际空间中沿着铅垂方向延伸的线段相当且通过检测区域A1的第2铅垂假想线Lr(下面称为参照线Lr)进行设定。在这里,参照线Lr设定于在实际空间中与注视线La分开规定距离的位置。此外,与在实际空间中沿着铅垂方向延伸的线段相当的线,是指在鸟瞰视野图像中从照相机10的位置Ps起呈放射状扩散的线。该呈放射状扩散的线是沿着在变换成鸟瞰时立体物歪斜的方向的线。
亮度差计算部35在注视线La上设定注视点Pa(第1铅垂假想线上的点)。另外,亮度差计算部35在参照线Lr上设定参照点Pr(第2铅垂假想线上的点)。这些注视线La、注视点Pa、参照线Lr、参照点Pr在实际空间上成为图16的(b)所示的关系。从图16的(b)可知,注视线La以及参照线Lr是在实际空间上沿着铅垂方向延伸的线,注视点Pa和参照点Pr是在实际空间上设定在大致相同高度的点。此外,注视点Pa和参照点Pr并不是必须要严格地处于相同高度,允许可视为注视点Pa和参照点Pr处于相同高度程度的误差。
亮度差计算部35求出注视点Pa与参照点Pr之间的亮度差。假设如果注视点Pa与参照点Pr之间的亮度差较大,则认为在注视点Pa与参照点Pr之间存在边缘。尤其是,在第2实施方式中,为了检测存在于检测区域A1、A2中的立体物,针对鸟瞰视野图像,作为在实际空间上沿着铅垂方向延伸的线段而设定铅垂假想线,因此,在注视线La与参照线Lr之间的亮度差较高的情况下,在注视线La的设定部位存在立体物的边缘的可能性较高。因此,图14所示的边缘线检测部36基于注视点Pa与参照点Pr之间的亮度差,检测边缘线。
对这一点更详细地进行说明。图17是表示亮度差计算部35的详细动作的图,图17的(a)是表示鸟瞰观察的状态的鸟瞰视野图像,图17的(b)是将图17的(a)所示的鸟瞰视野图像的一部分B1放大后的图。此外,对于图17也仅图示检测区域A1进行说明,但对于检测区域A2也以同样的顺序计算亮度差。
在相邻车辆V2映在由照相机10拍摄到的拍摄图像内的情况下,如图17的(a)所示,相邻车辆V2出现在鸟瞰视野图像内的检测区域A1中。如在图17的(b)中示出的图17的(a)中的区域B1的放大图所示,在鸟瞰视野图像上,在相邻车辆V2的轮胎的橡胶部分上设定有注视线La。在该状态下,亮度差计算部35首先设定参照线Lr。参照线Lr沿着铅垂方向设定于在实际空间上从注视线La分离规定的距离的位置处。具体而言,在本实施方式涉及的立体物检测装置1a中,参照线Lr设定于在实际空间上从注视线La分离10cm的位置处。由此,参照线Lr设定于在鸟瞰视野图像上例如从相邻车辆V2的轮胎的橡胶分离相当于10cm的相邻车辆V2的轮胎的轮毂上。
然后,亮度差计算部35在注视线La上设定多个注视点Pa1~PaN。在图17的(b)中,出于方便说明,设定有6个注视点Pa1~Pa6(下面在表示任意的点的情况下,简称为注视点Pai)。此外,设定在注视线La上的注视点Pa的数量可以是任意个。在下面的说明中,设为N个注视点Pa设定在注视线La上而进行说明。
然后,亮度差计算部35以在实际空间上与各注视点Pa1~PaN处于相同高度的方式设定各参照点Pr1~PrN。然后,亮度差计算部35对处于相同高度的注视点Pa与参照点Pr彼此的亮度差进行计算。由此,亮度差计算部35针对实际空间中沿着铅垂方向延伸的铅垂假想线的多个位置(1~N)中的每一个,计算两个像素的亮度差。亮度差计算部35例如在第1注视点Pa1与第1参照点Pr1之间计算亮度差,在第2注视点Pa2与第2参照点Pr2之间计算亮度差。由此,亮度差计算部35沿着注视线La以及参照线Lr连续地求出亮度差。即,亮度差计算部35依次求出第3注视点Pa3~第N注视点PaN与第3参照点Pr3~第N参照点PrN之间的亮度差。
亮度差计算部35在检测区域A1内一边将注视线La挪动,一边反复执行上述的参照线Lr的设定、注视点Pa以及参照点Pr的设定、亮度差的计算这样的处理。即,亮度差计算部35一边分别将注视线La以及参照线Lr在实际空间上沿着接地线L1的延伸方向将位置改变相同距离,一边反复执行上述的处理。亮度差计算部35例如将在上次处理中作为参照线Lr的线设定为注视线La,相对于该注视线La设定参照线Lr,依次求出亮度差。
如上所述,在第2实施方式中,根据在实际空间上处于大致相同高度的注视线La上的注视点Pa和参照线Lr上的参照点Pr求出亮度差,从而能够明确地检测出在存在沿着铅垂方向延伸的边缘的情况下的亮度差。另外,为了进行在实际空间中沿着铅垂方向延伸的铅垂假想线彼此的亮度比较,即使由于变换成鸟瞰视野图像而立体物与距路面的高度相对应地被拉长,也不会影响立体物的检测处理,而能够提高立体物的检测精度。
返回到图14,边缘线检测部36根据由亮度差计算部35计算出的连续的亮度差,检测边缘线。例如,在图17的(b)所示的情况下,第1注视点Pa1和第1参照点Pr1位于相同的轮胎部分,因此,亮度差较小。另一方面,在第2注视点Pa2~第6注视点Pa6位于轮胎的橡胶部分处,第2参照点Pr2~第6参照点Pr6位于轮胎的轮毂部分处。因而,第2参照点Pa2~第6注视点Pa6与第2参照点Pr2~第6参照点Pr6之间的亮度差变大。因此,边缘线检测部36能够检测出在亮度差较大的第2注视点Pa2~第6注视点Pa6与第2参照点Pr2~第6参照点Pr6之间存在边缘线。
具体而言,边缘线检测部36在对边缘线进行检测时,首先按照下述的式1,并根据第i个注视点Pai(坐标(xi,yi))和第i个参照点Pri(坐标(xi’,yi’))之间的亮度差,使第i个注视点Pai带有属性。
[式1]
在I(xi,yi)>I(xi’,yi’)+t时,
s(xi,yi)=1
在I(xi,yi)<I(xi’,yi’)-t时,
s(xi,yi)=-1
除了上述以外时,
s(xi,yi)=0
在上述式1中,t表示规定的阈值,I(xi,yi)表示第i个注视点Pai的亮度值,I(xi’,yi’)表示第i个参照点Pri的亮度值。根据上述式1,在注视点Pai的亮度值比参照点Pri与阈值t相加而得到的亮度值高的情况下,该注视点Pai的属性s(xi,yi)成为‘1’。另一方面,在注视点Pai的亮度值比从参照点Pri减去亮度阈值t而得到的亮度值低的情况下,该注视点Pai的属性s(xi,yi)成为‘-1’。在注视点Pai的亮度值与参照点Pri的亮度值为除此以外的关系的情况下,注视点Pai的属性s(xi,yi)成为‘0’。
然后,边缘线检测部36基于下述式2并根据沿着注视线La的属性s的连续性c(xi,yi),判定注视线La是否是边缘线。
[式2]
在s(xi,yi)=s(xi+1,yi+1)时(且除了0=0),
c(xi,yi)=1
在上述以外时,
c(xi,yi)=0
在注视点Pai的属性s(xi,yi)与相邻的注视点Pai+1的属性s(xi+1,yi+1)相同的情况下,连续性c(xi,yi)成为‘1’。在注视点Pai的属性s(xi,yi)与相邻的注视点Pai+1的属性s(xi+1,yi+1)不相同的情况下,连续性c(xi,yi)成为‘0’。
然后,边缘线检测部36对注视线La上的全部的注视点Pa的连续性c求出总和。边缘线检测部36通过将求出的连续性c的总和除以注视点Pa的数N而将连续性c标准化。然后,边缘线检测部36在标准化的值超过阈值θ的情况下,将注视线La判断为边缘线。此外,阈值θ是预先通过实验等设定的值。
即,边缘线检测部36基于下述式3,判断注视线La是否是边缘线。然后,边缘线检测部36对在检测区域A1上描绘出的注视线La的全部判断是否是边缘线。
[式3]
Σc(xi,yi)/N>θ
如上所述,在第2实施方式中,基于注视线La上的注视点Pa与参照线Lr上的参照点Pr之间的亮度差,使注视点Pa带有属性,基于沿着注视线La的属性的连续性c,判断该注视线La是否是边缘线,因此,能够将亮度较高的区域与亮度较低的区域之间的边界作为边缘线进行检测,按照人的自然的感觉进行边缘检测。对该效果详细地进行说明。图18是表示对边缘线检测部36的处理进行说明的图像例的图。该图像例是表示亮度较高的区域与亮度较低的区域反复的条纹花样的第1条纹花样101、和表示亮度较低的区域与亮度较高的区域反复的条纹花样的第2条纹花样102相邻的图像。另外,在该图像例中,第1条纹花样101的亮度较高的区域与第2条纹花样102的亮度较低的区域相邻,并且,第1条纹花样101的亮度较低的区域与第2条纹花样102的亮度较高的区域相邻。位于该第1条纹花样101与第2条纹花样102之间的边界的部位103,存在根据人的感觉而不察觉为边缘的倾向。
相对于此,亮度较低的区域与亮度较高的区域相邻,因此,如果仅凭亮度差对边缘进行检测,则该部位103被识别为边缘。但是,边缘线检测部36在部位103处的亮度差的基础上,仅在该亮度差的属性存在连续性的情况下,将部位103判定为边缘线,因此,能够抑制边缘线检测部36将不被人的感觉识别为边缘线的部位103识别为边缘线的误判定,能够按照人的感觉进行边缘检测。
返回到图14,立体物检测部33a基于由边缘线检测部36检测到的边缘线的量,检测立体物。如上所述,本实施方式涉及的立体物检测装置1a对在实际空间上沿着铅垂方向延伸的边缘线进行检测。检测到较多的沿着铅垂方向延伸的边缘线是指立体物存在于检测区域A1、A2的可能性较高。因此,立体物检测部33a基于由边缘线检测部36检测到的边缘线的量,检测立体物。具体而言,立体物检测部33a对由边缘线检测部36检测到的边缘线的量是否大于或等于规定的阈值β进行判断,在边缘线的量大于或等于规定的阈值β的情况下,判断为由边缘线检测部36检测到的边缘线为立体物的边缘线,由此,将基于边缘线的立体物检测为相邻车辆V2。
而且,立体物检测部33a在对立体物进行检测之前,判定由边缘线检测部36检测到的边缘线是否正确。立体物检测部33a判定边缘线上的鸟瞰视野图像的沿着边缘线的亮度变化是否大于或等于规定的阈值tb。在边缘线上的鸟瞰视野图像的亮度变化大于或等于阈值tb的情况下,判断为该边缘线是由于误判定而检测到的。另一方面,在边缘线上的鸟瞰视野图像的亮度变化小于阈值tb的情况下,判定为该边缘线是正确的。此外,该阈值tb是通过实验等预先设定的值。
图19是表示边缘线的亮度分布的图,图19的(a)表示作为立体物的相邻车辆V2存在于检测区域A1中的情况下的边缘线以及亮度分布,图19的(b)表示在检测区域A1中不存在立体物的情况下的边缘线以及亮度分布。
如图19的(a)所示,被判断为在鸟瞰视野图像中设定于相邻车辆V2的轮胎橡胶部分的注视线La是边缘线。在该情况下,注视线La上的鸟瞰视野图像的亮度变化是平稳的。这取决于:由照相机10拍摄到的图像被视点变换成鸟瞰视野图像,从而相邻车辆的轮胎在鸟瞰视野图像内被拉长。另一方面,如图19的(b)所示,在鸟瞰视野图像中在描绘于路面上的“50”这样的白色文字部分设定的注视线La被误判定为边缘线。在该情况下,注视线La上的鸟瞰视野图像的亮度变化起伏较大。其原因在于,在边缘线上混有白色文字中的亮度较高的部分和路面等亮度较低的部分。
基于如上述的注视线La上的亮度分布的不同,立体物检测部33a判定边缘线是否是由于误判定而检测到的。例如,在将由照相机10取得的拍摄图像变换为鸟瞰视野图像的情况下,存在该拍摄图像所包含的立体物以被拉长的状态出现在鸟瞰视野图像中的倾向。如上所述,在相邻车辆的轮胎被拉长的情况下,轮胎这样的一个部位被拉长,因此,存在拉长的方向上的鸟瞰视野图像的亮度变化较小的倾向。相对于此,在将描绘于路面的文字等误判定为边缘线的情况下,在鸟瞰视野图像中混合地包含文字部分这样的亮度较高的区域和路面部分这样的亮度较低的区域。在该情况下,在鸟瞰视野图像中,存在拉长的方向上的亮度变化增大的倾向。因此,在沿着边缘线的亮度变化大于或等于规定的阈值tb的情况下,立体物检测部33a判断为,该边缘线是由于误判定而检测到的,该边缘线并不是源于立体物的。由此,抑制路面上的“50”这样的白色文字、路边的杂草等被判定为边缘线而使立体物的检测精度降低。另一方面,立体物检测部33a在沿着边缘线的亮度变化小于规定的阈值tb的情况下,判断为该边缘线是立体物的边缘线,判断为存在有立体物。
具体而言,立体物检测部33a按照下述式4、5中的某一个,对边缘线的亮度变化进行计算。该边缘线的亮度变化相当于实际空间中的铅垂方向的评价值。下述式4利用注视线La上的第i个亮度值I(xi,yi)与相邻的第i+1个亮度值I(xi+1,yi+1)之间的差分的平方的合计值,评价亮度分布。另外,下述式5利用注视线La上的第i个亮度值I(xi,yi)、相邻的第i+1个亮度值I(xi+1,yi+1)之间的差分的绝对值的合计值,评价亮度分布。
[式4]
相当于铅垂方向的评价值=Σ[{I(xi,yi)-I(xi+1,yi+1)}2]
[式5]
相当于铅垂方向的方向评价值=Σ|I(xi,yi)-I(xi+1,yi+1)|
此外,不限于式5,也可以如下述式6所示,采用阈值t2而将相邻的亮度值的属性b二值化,针对全部的注视点Pa求出该二值化的属性b的总和。
[式6]
相当于铅垂方向的评价值=Σb(xi,yi)
但是,在|I(xi,yi)-I(xi+1,yi+1)|>t2时,
b(xi,yi)=1
在上述以外时,
b(xi,yi)=0
在注视点Pai的亮度值与参照点Pri的亮度值之间的亮度差的绝对值大于阈值t2的情况下,该注视点Pa(xi,yi)的属性b(xi,yi)成为‘1’。在除此以外的关系的情况下,注视点Pai的属性b(xi,yi)成为‘0’。该阈值t2是为了判定注视线La未处于相同的立体物上而通过实验等预先设定的。并且,立体物检测部33a对注视线La上的所有注视点Pa求出属性b的总和,并求出相当于铅垂方向的评价值,从而对边缘线是否源于立体物、立体物是否存在进行判定。
另外,立体物检测部33a根据与检测区域A1、A2相当的部分,对沿着车宽方向延伸的边缘线进行检测,生成一维的边缘波形EDt。例如,立体物检测部33a例如如图10所示对与沿着车宽方向延伸的边缘线相对应的像素数沿着车宽方向进行计数并进行频率分布化,从而生成一维的边缘波形EDt。立体物判定部34a基于由立体物检测部33a生成的边缘波形EDt,对本车辆是否超越了相邻车辆进行判定,从而对本车辆变更了车道时有可能接触的相邻车辆进行判定。
如上所述,边缘波形EDt是表示规定亮度差的像素的分布信息的一个方式,本实施方式中的“像素的分布信息”可视为表示沿着车宽方向检测的“亮度差大于或等于规定阈值的像素”的分布的状态的信息。即,立体物检测部33a在由视点变换部31获得的鸟瞰视野图像中,沿着车宽方向基于亮度差大于或等于规定阈值的像素的分布信息,对立体物进行检测。
下面,对第2实施方式涉及的相邻车辆检测方法进行说明。图20是表示第2实施方式涉及的相邻车辆检测方法的详细情况的流程图。此外,在图20中,出于方便,对以检测区域A1为对象的处理进行说明,但对于检测区域A2也执行同样的处理。
首先,在步骤S301中,利用照相机10对由视场角a以及安装位置指定的规定区域进行拍摄,利用计算机30a取得由照相机10拍摄到的拍摄图像的图像数据。然后,在步骤S302中,视点变换部31对取得的图像数据进行视点变换,生成鸟瞰视野图像数据。
然后,在步骤S303中,亮度差计算部35在检测区域A1上设定注视线La。此时,亮度差计算部35将与在实际空间中沿着铅垂方向延伸的线相当的线设定为注视线La。另外,在步骤S303中,亮度差计算部35在检测区域A1上也进行参照线Lr的设定。此外,亮度差计算部35将与在实际空间中沿着铅垂方向延伸的线段相当且在实际空间上与注视线La分开规定距离的线设定为参照线Lr。
然后,在步骤S304中,亮度差计算部35在注视线La上对多个注视点Pa进行设定,并且,在参照线Lr上设定参照点Pr,以使得在实际空间上注视点Pa与参照点Pr处于大致相同高度。由此,注视点Pa和参照点Pr沿着大致水平方向排列,容易对在实际空间上沿着铅垂方向延伸的边缘线进行检测。另外,此时,亮度差计算部35设定在由边缘线检测部36进行边缘检测时不会成为问题的程度的数量的注视点Pa。
然后,在步骤S305中,亮度差计算部35对在实际空间上处于相同高度的注视点Pa与参照点Pr之间的亮度差进行计算。另外,边缘线检测部36按照上述式1对各注视点Pa的属性s进行计算。而且,在步骤S306中,边缘线检测部36按照上述式2对各注视点Pa的属性s的连续性c进行计算。并且,在步骤S307中,边缘线检测部36按照上述式3,对将连续性c的总和标准化而得到的值是否大于阈值θ进行判定。并且,在判断为标准化而得到的值大于阈值θ的情况下(步骤S307=Yes),在步骤S308中,边缘线检测部36将该注视线La检测为边缘线。而且,处理转向步骤S309。在判断为标准化而得到的值不大于阈值θ的情况下(步骤S307=No),边缘线检测部36不将该注视线La检测为边缘线,处理转向步骤S309。
在步骤S309中,计算机30a对针对在检测区域A1上能够设定的全部注视线La是否执行了上述的步骤S303~步骤S308的处理进行判断。在判断为未针对全部的注视线La进行上述处理的情况下(步骤S309=No),使处理返回到步骤S303,重新设定注视线La,反复进行至步骤S309为止的处理。另一方面,在判断为对全部的注视线La进行了上述处理的情况下(步骤S309=Yes),处理转向步骤S310。
在步骤S310中,立体物检测部33a针对在步骤S308中检测到的各边缘线,计算沿着该边缘线的亮度变化。立体物检测部33a按照上述式4、5、6中的任一式对边缘线的亮度变化进行计算。然后,在步骤S311中,立体物检测部33a将边缘线中的、亮度变化大于或等于规定的阈值tb的边缘线除外。即,判定为亮度变化较大的边缘线不是正确的边缘线,边缘线不用于立体物的检测。其原因在于,如上所述,能够抑制检测区域A1所包含的路面上的文字、路边的杂草等被检测为边缘线的情况。因而,规定的阈值tb是预先通过实验等求出的,是基于因路面上的文字、路边的杂草等产生的亮度变化而设定的值。另一方面,立体物检测部33a将边缘线中的亮度变化小于规定的阈值tb的边缘线判断为立体物的边缘线,由此,检测存在于相邻车辆的立体物。
然后,在步骤S312中,利用立体物判定部34a进行边缘线的量是否大于或等于阈值β的判断。在此,阈值β被预先设定为,基于边缘线的数量能够判定为在检测区域A1、A2内出现的四轮车的值。在判定为边缘线的量不大于或等于阈值β的情况下(步骤S312=No),在步骤S316中,立体物判定部34a判定为作为检测对象的相邻车辆不存在于相邻车道,在正在通知警告的情况下,解除警告后(步骤S317),返回到步骤S301,反复进行上述处理。另一方面,在判定为边缘线的量大于或等于阈值β的情况下(步骤S312=Yes),进入步骤S313。
在步骤S313中,利用立体物判定部34a进行相邻车辆的相对移动速度是否为负值的判断。例如,立体物判定部34a基于边缘线的时间变化对相邻车辆的相对移动速度进行计算,在相邻车辆的相对移动速度为负值的情况下,即,相邻车辆的移动速度比本车辆的移动速度慢的情况下,判定为本车辆正想要超越相邻车辆,进入图21所示的步骤S401。另一方面,在相邻车辆的相对移动速度不为负的值的情况下,判定为检测对象的相邻车辆存在于相邻车道(步骤S314),在对本车辆的驾驶员通知警告之后(步骤S315),返回到步骤S301,反复进行上述处理。
并且,在判断为本车辆正想要超越相邻车辆的情况下(步骤S313=Yes),如第1实施方式的图10所示,立体物检测部33a对沿着车宽方向延伸的边缘线进行检测,基于检测到的沿着车宽方向延伸的边缘线,生成一维的边缘波形EWt(步骤S401)。例如,如图10所示,立体物检测部33a沿着车宽方向对与沿着车宽方向延伸的边缘线相对应的像素数进行计数并进行频率分布化,从而能够生成一维的边缘波形EWt。并且,立体物判定部34a与第1实施方式的步骤S202同样地对计数数量大于或等于阈值s’的检测位置的数量进行检测,在计数数量大于或等于阈值s’的检测位置连续大于或等于规定数目的情况下(步骤S402=Yes),判断为在检测区域A1、A2中存在相邻车辆,进入步骤S403。另一方面,在计数数量大于或等于阈值s’的检测位置没有连续地检测到大于或等于规定数目的情况下(步骤S402=No),判断为相邻车辆不存在于检测区域A1、A2,判定为作为研究对象的相邻车辆不存在于相邻车道(图20的步骤S316)。然后,在正在通知警告的情况下,解除警告(步骤S317),返回步骤S301,反复进行上述处理。
然后,立体物判定部34a与第1实施方式的步骤S203同样地,判断在计数数量大于或等于阈值s’的检测位置中最靠近本车辆的检测位置P1是否到达检测区域A1、A2内的规定位置P0。在最靠近本车辆的检测位置P1到达规定位置P0的情况下(步骤S403=Yes),判断为本车辆超越相邻车辆,在本车辆变更了车道时没有与相邻车辆接触可能性,判定为检测对象的相邻车辆不存在于相邻车道(图20的步骤S316)。然后,在正在通知警告的的情况下,解除警告(步骤S317),返回步骤S301,反复进行上述处理。另一方面,在最靠近本车辆的检测位置P1未到达规定位置P0的情况下(步骤S403=No),判断为本车辆未超越相邻车辆,判定为检测对象的相邻车辆存在于相邻车道(图20的步骤S314)。然后,对本车辆的驾驶员通知警告后(步骤S315),返回到步骤S301,反复进行上述处理。
如上所述,在第2实施方式中,将拍摄图像变换为鸟瞰视野图像,从变换后的鸟瞰视野图像中对立体物的边缘信息进行检测。并且,对沿着车宽方向延伸的边缘线进行检测,基于检测到的沿着车宽方向的边缘线,生成一维的边缘波形EWt。并且,基于生成的边缘波形EWt,对本车辆是否超越了相邻车辆进行判定。由此,在第2实施方式中,除了第1实施方式的效果之外,能够适当地基于边缘信息对本车辆是否超越了相邻车辆进行判定,因此,能够有效地防止将被本车辆超越的相邻车辆检测为检测对象的相邻车辆,能够提高检测对象的相邻车辆的检测精度。
此外,以上说明的实施方式是为了容易理解本发明而记载的,并不是为了限定本发明而记载的。因而,在上述的实施方式中公开的各要素是还包含属于本发明的保护范围的全部的设计变更、等同物在内的主旨。
例如,在上述实施方式中,例示了如下结构:在判定为本车辆超越了在相邻车道上行驶的相邻车辆的情况下,判定为检测对象的相邻车辆不存在于相邻车道,但并不限定于该构成,也可以构成为,例如,在判定为车辆超越了在相邻车道上行驶的相邻车辆的情况下,减小判定为其是作为检测对象的相邻车辆的可信度。
另外,除了上述实施方式之外,也可以构成为,在存在多个相邻车辆且本车辆超越这些多个相邻车辆的情景中,在与一个相邻车辆相对应的检测位置到达检测区域A1、A2内的规定位置P0之前,在检测区域A1、A2的前方检测到其他相邻车辆的情况下,将在检测区域A1、A2的前方新检测到的相邻车辆作为新的判断对象。
并且,在上述第1实施方式中,例示了如下结构:如图12的步骤S111所示,基于第1差分波形DW1t的时间变化,对本车辆是否正想要超越相邻车辆进行判定,但并不限定于该结构,也可以构成为,例如,基于第2差分波形DW2t的时间变化,对本车辆是否正在超越相邻车辆进行判定。也可以构成为,例如,基于当前时刻的第2差分波形DW2t和一个时刻前的第2差分波形DW2t-1,对相邻车辆的相对移动速度进行计算,在相邻车辆的相对移动速度为负值的情况下,判定为本车辆正想要超过相邻车辆。
另外,在上述实施方式中,将拍摄到的当前时刻的图像和一个时刻前的图像变换为鸟瞰图,在进行变换后的鸟瞰图的位置对齐的基础上,生成差分图像PDt,对生成的差分图像PDt沿着歪斜方向(将拍摄而得到的图像变换成鸟瞰图时的立体物的歪斜方向)进行评价而生成第1差分波形DW1t,但并不限定于此,也可以构成为,例如,仅将一个时刻前的图像变换为鸟瞰图,在对变换后的鸟瞰图进行了位置对齐之后,再次变换成与拍摄而得到的图像相当的图像,通过该图像与当前时刻的图像,生成差分图像,对生成的差分图像沿着与歪斜方向相当的方向(即,将歪斜方向变换为拍摄图像上的方向的方向)进行评价,从而生成第1差分波形DW1t。即,只要能够进行当前时刻的图像和一个时刻前的图像之间的位置对齐,根据进行了位置对齐的两个图像的差分,生成差分图像PDt,沿着变换为鸟瞰图时的立体物的歪斜方向,对差分图像PDt进行评价,则没有必要一定明确地生成鸟瞰图。
另外,在上述实施方式中,基于来自速度传感器20的信号对本车辆V1的车速进行了判断,但并不限于此,也可以构成为根据不同的时刻的多个图像推定速度。在该情况下,不需要车速传感器20,能够实现结构的简化。
此外,上述实施方式的照相机10相当于本发明的拍摄单元,视点变换部31相当于本发明的图像变换单元,位置对齐部32、立体物检测部33、亮度差检测部35和边缘线检测部36相当于本发明的立体物检测单元,立体物判定部34相当于本发明的立体物判定单元和控制单元。
标号的说明
1、1a…立体物检测装置
10…照相机
20…车速传感器
30、30a…计算机
31…视点变换部
32…位置对齐部
33、33a…立体物检测部
34、34a…立体物判定部
35…亮度差计算部
36…边缘线检测部
a…视场角
A1、A2…检测区域
CP…交点
DP…差分像素
DW1t,DW1t-1…第1差分波形
DW2t,DW2t-1…第2差分波形
DW1t1~DW1m,DW1m+k~DW1tn…小区域
L1、L2…接地线
La、Lb…立体物歪斜的方向上的线
La’,Lb’…车宽方向上的线
PBt…鸟瞰视野图像
PDt…差分图像
V1…本车辆
V2…相邻车辆

Claims (9)

1.一种立体物检测装置,其特征在于,具有:
拍摄单元,其拍摄规定的检测区域;
图像变换单元,其将由所述拍摄单元获得的图像视点变换为鸟瞰视野图像;
立体物检测单元,其使由所述图像变换单元获得的不同的时刻的鸟瞰视野图像的位置在鸟瞰视野上位置对齐,在该位置对齐后的鸟瞰视野图像的差分图像上,沿着车宽方向对表示规定的差分的像素数进行计数并进行频率分布化,从而生成车宽方向波形信息,基于该车宽方向波形信息,进行对在所述检测区域内存在的立体物进行检测的车宽方向检测处理;
立体物判定单元,其对由所述立体物检测单元检测到的所述立体物是否是存在于所述检测区域的检测对象的其他车辆进行判定;以及
控制单元,其确定在由所述立体物检测单元进行的所述车宽方向检测处理中获得大于或等于规定值的计数数量的检测位置,在所确定的所述检测位置在所述检测区域内从本车辆行进方向的前方向后方移动,并到达所述检测区域内的本车辆行进方向上的规定位置的情况下,抑制所述立体物判定单元将所述立体物判定为是检测对象的其他车辆的情况。
2.根据权利要求1所述的立体物检测装置,其特征在于,
所述立体物检测单元在进行所述车宽方向检测处理时,在沿着所述检测区域内的本车辆行进方向的不同的多个位置,沿着车宽方向对表示所述规定的差分的像素数进行计数并进行频率分布化,从而生成所述车宽方向差分波形信息,
所述控制单元确定在由所述立体物检测单元进行的所述车宽方向检测处理中获得大于或等于规定值的计数数量的多个检测位置,在确定的多个检测位置中最靠近本车辆的检测位置在所述检测区域内从本车辆行进方向的前方向后方移动,并到达所述检测区域内的本车辆行进方向上的规定位置的情况下,抑制所述立体物判定单元将所述立体物判定为是检测对象的其他车辆的情况。
3.根据权利要求1或2所述的立体物检测装置,其特征在于,
所述立体物检测单元使由所述图像变换单元获得的不同的时刻的鸟瞰视野图像的位置在鸟瞰视野上位置对齐,在该位置对齐后的鸟瞰视野图像的差分图像上,沿着在视点变换为鸟瞰视野图像时立体物歪斜的方向对表示规定的差分的像素数进行计数并进行频率分布化,从而生成歪斜方向波形信息,基于该歪斜方向波形信息,也进行对所述立体物进行检测的歪斜方向检测处理。
4.根据权利要求3所述的立体物检测装置,其特征在于,
所述立体物检测单元基于所述车宽方向波形信息的时间变化或者所述歪斜方向波形信息的时间变化,对所述立体物的相对移动速度进行计算,
所述控制单元对所述立体物的相对移动速度是否是本车辆能够超越所述立体物的超越车速进行判断,在该判断的结果为所述相对移动速度是所述超越车速的情况下,使所述立体物检测单元进行所述车宽方向检测处理,在所述相对移动速度不是所述超越车速的情况下,使所述立体物检测单元进行所述歪斜方向检测处理。
5.一种立体物检测装置,其特征在于,具有:
拍摄单元,其拍摄规定的检测区域;
图像变换单元,其将由所述拍摄单元获得的图像视点变换为鸟瞰视野图像;
立体物检测单元,其根据由所述图像变换单元获得的鸟瞰视野图像对边缘信息进行检测,并沿着车宽方向对所述边缘信息进行检测,从而进行对在所述检测区域内存在的立体物进行检测的车宽方向检测处理;
立体物判定单元,其对由所述立体物检测单元检测到的所述立体物是否是存在于所述检测区域的检测对象的其他车辆进行判定;以及
控制单元,其确定在由所述立体物检测单元进行的所述车宽方向检测处理中获得大于或等于规定值的计数数量的检测位置,在所确定的所述检测位置在所述检测区域内从本车辆行进方向的前方向后方移动,并到达所述检测区域内的本车辆行进方向上的规定位置的情况下,抑制所述立体物判定单元将所述立体物判定为是检测对象的其他车辆的情况。
6.根据权利要求5所述的立体物检测装置,其特征在于,
所述立体物检测单元在进行所述车宽方向检测处理时,在沿着所述检测区域内的本车辆行进方向的不同的多个位置,沿着车宽方向对所述边缘信息进行检测,
所述控制单元确定在由所述立体物检测单元进行的所述车宽方向检测处理中获得大于或等于规定值的计数数量的多个检测位置,在所确定的多个检测位置中最靠近本车辆的检测位置在所述检测区域内从本车辆行进方向的前方向后方移动,并到达所述检测区域内的本车辆行进方向上的规定位置的情况下,抑制所述立体物判定单元将所述立体物判定为是检测对象的其他车辆的情况。
7.根据权利要求5或6所述的立体物检测装置,其特征在于,
所述立体物检测单元还进行歪斜方向检测处理,在该歪斜方向检测处理中沿着在视点变换为所述鸟瞰视野图像时立体物歪斜的方向对所述边缘信息进行检测,从而对所述立体物进行检测。
8.根据权利要求7所述的立体物检测装置,其特征在于,
所述立体物检测单元基于所述边缘信息的时间变化,对所述立体物的相对移动速度进行计算,
所述控制单元对所述立体物的相对移动速度是否是本车辆能够超越所述立体物的超越车速进行判断,在该判断的结果为所述相对移动速度是所述超越车速的情况下,使所述立体物检测单元进行所述车宽方向检测处理,在所述相对移动速度不是所述超越车速的情况下,使所述立体物检测单元进行所述歪斜方向检测处理。
9.一种立体物检测装置,其特征在于,具有:
拍摄单元,其拍摄规定的检测区域;
图像变换单元,其将由所述拍摄单元获得的图像视点变换为鸟瞰视野图像;
立体物检测单元,其在由所述图像变换单元获得的所述鸟瞰视野图像中,沿着车宽方向对亮度差大于或等于规定阈值的像素的分布信息进行检测,基于检测到的所述像素的分布信息,进行对在所述检测区域内存在的立体物进行检测的车宽方向检测处理;
立体物判定单元,其对由所述立体物检测单元检测到的所述立体物是否是存在于所述检测区域的检测对象的其他车辆进行判定;以及
控制单元,其确定在由所述立体物检测单元进行的所述车宽方向检测处理中获得大于或等于规定值的计数数量的检测位置,在所确定的所述检测位置在所述检测区域内从本车辆行进方向的前方向后方移动,并到达所述检测区域内的本车辆行进方向上的规定位置的情况下,抑制所述立体物判定单元将所述立体物判定为是检测对象的其他车辆的情况。
CN201380009060.3A 2012-02-23 2013-02-13 立体物检测装置 Active CN104115201B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012037472 2012-02-23
JP2012-037472 2012-02-23
PCT/JP2013/053327 WO2013125403A1 (ja) 2012-02-23 2013-02-13 立体物検出装置

Publications (2)

Publication Number Publication Date
CN104115201A CN104115201A (zh) 2014-10-22
CN104115201B true CN104115201B (zh) 2017-03-29

Family

ID=49005590

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201380009060.3A Active CN104115201B (zh) 2012-02-23 2013-02-13 立体物检测装置

Country Status (9)

Country Link
US (1) US9783127B2 (zh)
EP (1) EP2819115B1 (zh)
JP (1) JP5682734B2 (zh)
CN (1) CN104115201B (zh)
BR (1) BR112014020410B1 (zh)
MX (1) MX343201B (zh)
MY (1) MY172967A (zh)
RU (1) RU2619724C2 (zh)
WO (1) WO2013125403A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10397544B2 (en) * 2010-08-19 2019-08-27 Nissan Motor Co., Ltd. Three-dimensional object detection device and three-dimensional object detection method
EP2757541B1 (en) * 2011-09-12 2020-09-09 Nissan Motor Co., Ltd Three-dimensional object detection device
JP6462629B2 (ja) * 2016-05-19 2019-01-30 株式会社Soken 運転支援装置及び運転支援プログラム
CN106809159B (zh) * 2016-10-26 2020-06-16 蔚来汽车有限公司 车辆超越动作自动提醒方法和装置
CN111899515B (zh) * 2020-09-29 2021-01-19 深圳市城市交通规划设计研究中心股份有限公司 一种基于智慧道路边缘计算网关的车辆检测***
CN113658424B (zh) * 2021-07-23 2022-07-12 南昌工程学院 基于稀疏卫星定位数据的车辆频繁变道识别方法及装置
CN116665204B (zh) * 2023-07-21 2023-10-20 山东兴诺工贸股份有限公司 一种基于数据分析的玻璃杯破损检测***

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3063481B2 (ja) * 1993-09-21 2000-07-12 日産自動車株式会社 車両用物体検出装置
JP2002298299A (ja) * 2001-03-30 2002-10-11 Toshiba Corp 車両の運転支援装置
JP2003306102A (ja) * 2002-04-11 2003-10-28 Toshiba Corp 追越車両検出装置と運転支援システムの後側方警報装置
JP2006079346A (ja) * 2004-09-09 2006-03-23 Nissan Motor Co Ltd 車両周囲物体検出装置
JP2007249722A (ja) * 2006-03-17 2007-09-27 Hitachi Ltd 物体検知装置
JP2008219063A (ja) 2007-02-28 2008-09-18 Sanyo Electric Co Ltd 車両周辺監視装置及び方法
JP2008227646A (ja) 2007-03-09 2008-09-25 Clarion Co Ltd 障害物検知装置
EP2191457B1 (en) * 2007-09-11 2014-12-10 Magna Electronics Imaging system for vehicle
JP2009126270A (ja) * 2007-11-21 2009-06-11 Sanyo Electric Co Ltd 画像処理装置及び方法、運転支援システム、車両
JP2010141836A (ja) * 2008-12-15 2010-06-24 Sanyo Electric Co Ltd 障害物検知装置
EP2401176B1 (en) * 2009-02-27 2019-05-08 Magna Electronics Alert system for vehicle
JP5464885B2 (ja) * 2009-03-31 2014-04-09 日野自動車株式会社 並走警報装置、車両およびプログラム
JP5251927B2 (ja) * 2010-06-21 2013-07-31 日産自動車株式会社 移動距離検出装置及び移動距離検出方法
RU2432276C1 (ru) * 2010-07-07 2011-10-27 Осман Мирзаевич Мирза Способ наблюдения за дорожной ситуацией с движущегося транспортного средства (варианты)

Also Published As

Publication number Publication date
WO2013125403A1 (ja) 2013-08-29
RU2014138324A (ru) 2016-04-10
MY172967A (en) 2019-12-16
MX343201B (es) 2016-10-28
BR112014020410B1 (pt) 2021-10-05
US20150054920A1 (en) 2015-02-26
JPWO2013125403A1 (ja) 2015-07-30
EP2819115A1 (en) 2014-12-31
EP2819115B1 (en) 2022-08-24
MX2014009942A (es) 2014-11-12
JP5682734B2 (ja) 2015-03-11
US9783127B2 (en) 2017-10-10
BR112014020410A2 (pt) 2021-05-25
CN104115201A (zh) 2014-10-22
RU2619724C2 (ru) 2017-05-17
EP2819115A4 (en) 2015-06-03

Similar Documents

Publication Publication Date Title
CN104115186B (zh) 立体物检测装置
CN104115188B (zh) 立体物检测装置
CN104115201B (zh) 立体物检测装置
CN104106105B (zh) 立体物检测装置
CN104094311B (zh) 立体物检测装置
CN104115204B (zh) 立体物检测装置
CN104115203B (zh) 立体物检测装置
JP4456086B2 (ja) 車両周辺監視装置
CN104508723B (zh) 图像处理装置
CN104509100B (zh) 三维物体检测装置以及三维物体检测方法
JPH06293236A (ja) 走行環境監視装置
JP2006184276A (ja) 視覚検知による全天候障害物衝突防止装置とその方法
JP2008051688A (ja) 車両自動計測装置、車両自動計測システム及び車両自動計測方法
JP5943077B2 (ja) 立体物検出装置および立体物検出方法
CN102542256B (zh) 对陷阱和行人进行前部碰撞警告的先进警告***
CN109886064B (zh) 确定可驾驶空间的边界的方法
KR20180063524A (ko) 가상 차선을 이용한 전방 차량 위험도 감지 방법 및 장치
US7885430B2 (en) Automotive environment monitoring device, vehicle with the automotive environment monitoring device, and automotive environment monitoring program
JP2008299787A (ja) 車両検知装置
KR102119641B1 (ko) 보행자 검출 장치 및 방법
JP2007293487A (ja) 車両の周辺監視装置、車両、車両の周辺監視方法、並びに車両の周辺監視用プログラム
JP5668891B2 (ja) 立体物検出装置
JP4815506B2 (ja) 車両周辺監視装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant