CN102422333B - 车辆周围监测装置 - Google Patents

车辆周围监测装置 Download PDF

Info

Publication number
CN102422333B
CN102422333B CN201080019133.3A CN201080019133A CN102422333B CN 102422333 B CN102422333 B CN 102422333B CN 201080019133 A CN201080019133 A CN 201080019133A CN 102422333 B CN102422333 B CN 102422333B
Authority
CN
China
Prior art keywords
vehicle
distance
sample period
image
control cycle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201080019133.3A
Other languages
English (en)
Other versions
CN102422333A (zh
Inventor
相村诚
长冈伸治
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Publication of CN102422333A publication Critical patent/CN102422333A/zh
Application granted granted Critical
Publication of CN102422333B publication Critical patent/CN102422333B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)

Abstract

本发明的目的在于,提供一种车辆周围监测装置,采用该车辆周围监测装置,能够抑制,在根据对象物的时间序列图像计算对象物与车辆之间的距离时计算结果不及时出来这样的问题的发生。车辆周围监测装置具有第1距离计算机构(25)、车速传感器(4)、取样周期设定机构(23),在规定的取样周期内的不同时刻由红外线照相机(2R、2L)拍摄到多个图像,第1距离计算机构(25)利用该多个图像之间的同一对象物在图像上的视差梯度来计算出车辆(10)与对象物之间的距离。车速传感器(4)用于检测出车辆的速度。车辆10的速度越高,取样周期设定机构(23)将取样周期设定得越短。

Description

车辆周围监测装置
技术领域
本发明涉及一种车辆周围监测装置,其根据由配备在车辆上的拍摄机构拍摄到得图像来对上述车辆的周围进行监测。 
背景技术
现有技术中已知有这样一种车辆周围监测装置(例如,参照日本发明专利公开公报特开2007-213561号),该车辆周围监测装置根据由配备在车辆上的1台照相机所得到的时间序列图像,计算出同一对象物的图像部分的大小的变化率,根据该变化率计算出对象物与车辆之间的距离。 
在上述日本发明专利公开公报特开2007-213561号中,关于对象物的图像部分的变化率的计算时所使用的图像的取样周期的具体设定,并没有任何记载。并且,在使用对象物的时间序列图像计算距离时,若使时间序列图像的取样周期为恒定,那么,车辆与对象物之间的距离越远则对象物的图像的大小的变化率越小,因而,在对象物距车辆较远时,对象物与车辆之间的距离的计算精度会较低。 
因而,以距车辆的距离在规定距离以内这样的范围为检测区域,在此检测区域中检测是否存在对象物(行人、自行车、大型动物等),为了在对象物处于检测区域的最远处时,也能够保证对象物与车辆之间的距离的计算精度,必需要将时间序列图像的取样周期设定为比较长的时间。 
此外,像这样地考虑到对象物距车辆较远的情况而将时间序列图像的区域周期设定为与该情况相适应的恒定时间的话,在计算距车辆较近的对象物与车辆之间的距离时,这样的取样周期就显得太长了,这有可能造成计算距车辆较近的对象物与车辆之间的距离时所 花费的时间太长,不能及时的计算出来。 
发明内容
有鉴于此,本发明的目的在于,提供一种车辆周围监测装置,采用该车辆周围监测装置,能够抑制,在根据对象物的时间序列图像计算对象物与车辆之间的距离时计算结果不及时出来这样的问题的发生。 
为了达到上述目的,本发明的第1形态涉及的车辆周围监测装置构成为,包括:距离计算机构,在规定的取样周期的不同时刻由所述拍摄机构拍摄到了多个图像,所述距离计算机构利用该多个图像间的、同一对象物在图像上的规定特征的变化程度来计算出所述车辆与对象物之间的距离;车速检测机构,其检测出所述车辆的车速;取样周期设定机构,其对所述取样周期进行设定,所述车辆的车速越低,则将所述取样周期设定得越短。 
采用这样的本发明,车辆的车速越低取样周期设定机构将上述取样周期设定得也越短,因而,在车辆行驶在高速公路而车速较高、有必要检测到远方的对象物时,能够将上述取样周期设定得较长,从而保证车辆与对象物之间的距离的计算精度。另外,在车辆行驶在市区的狭窄街道而车速较低、有必要检测到近处的对象物时,能够将取样周期设定得较短,从而避免不能及时地计算出对象物与车辆的距离这样的情况的发生。 
另外,在第1形态中,可以为,所述距离计算机构在每一规定的控制周期计算出所述车辆与对象物之间的距离。所述取样周期设定机构对所述取样周期进行设定,在上一次控制周期中由所述距离计算机构计算出的所述车辆与对象物之间的距离越小,则在本次控制周期中将所述取样周期设定得越短。 
采用这样的本发明,在本次控制周期中的所述车辆与对象物之间的距离被设想为与上一次的控制周期中由距离计算机构计算出的所述车辆与对象物之间的距离大致相等。并且,所述车辆与对象物之 间的距离越远,则所述取样周期越长,以该取样周期拍摄到的图像之间的规定特征的变化程度也越大,因而为了保证相对距离的计算精度,需要选取较长的取样周期。而所述车辆与对象物之间的距离越短,这时即使将所述取样周期设定得较短,拍摄到的图像之间规定特征的变化程度也较大,因而相对距离的计算精度也较高。因而,由所述取样周期设定机构对取样周期进行设定,在上一次控制周期中所计算出的所述车辆与对象物之间的距离越短,则将本次控制周期中的所述取样周期也设定得越短,从而能够在所述车辆与对象物相距较远时将所述取样周期设定得较长从而保证相对距离的计算精度,并且,在所述车辆与对象物的距离较近时,能够将所述取样周期设定得较短从而避免相对距离不能及时地计算出来。 
另外,在第1形态中,可以为,所述距离计算机构在每一规定的控制周期计算出所述车辆与对象物之间的距离。所述取样周期设定机构,利用在上一次控制周期由所述距离计算机构计算出的所述车辆与所述对象物之间的距离、所述车辆的车速、在上一次控制周期中计算出所述车辆与对象物之间的距离的那一时刻到现在所经过的时间,来计算出本次控制周期中所述车辆与对象物之间的推定距离,并且,该推定距离越小则在本次控制周期中将所述取样时间设定得越短。 
采用这样的本发明,所述车辆与对象物之间的距离越远,则所述取样周期越长,以该取样周期拍摄到的图像之间的规定特征的变化程度也越大,因而为了保证相对距离的计算精度,需要选取较长的取样周期。而所述车辆与对象物之间的距离越短,这时即使将所述取样周期设定得较短,拍摄到的图像之间规定特征的变化程度也较大,因而相对距离的计算精度也较高。因而,由所述取样周期设定机构对取样周期进行设定,在上一次控制周期中所计算出的所述车辆与对象物之间的距离越短,则将本次控制周期中的所述取样周期也设定得越短,从而能够在所述车辆与对象物相距较远时将所述取样周期设定得较长从而保证相对距离的计算精度,并且,在所述车 辆与对象物的距离较近时,能够将所述取样周期设定得较短从而避免相对距离不能及时地计算出来。 
另外,本发明的第2形态的车辆周围监测装置构成为,包括:距离计算机构,在规定的取样周期内的不同时刻由所述拍摄机构拍摄到了多个图像,所述距离计算机构在每一规定的控制周期内,利用该多个图像间的、同一对象物在图像上的规定特征的变化程度来计算出所述车辆与对象物之间的距离;取样周期设定机构,其对所述取样周期进行设定,在上一次控制周期中由所述距离计算机构计算出的所述车辆与对象物之间的距离越小,则本次控制周期中将所述取样周期设定得越短。 
采用这样的本发明,在本次控制周期中的所述车辆与对象物之间的距离被设想为与上一次的控制周期中由距离计算机构计算出的所述车辆与对象物之间的距离大致相等。并且,所述车辆与对象物之间的距离越远,则所述取样周期越长,以该取样周期拍摄到的图像之间的规定特征的变化程度也越大,因而为了保证相对距离的计算精度,需要选取较长的取样周期。而所述车辆与对象物之间的距离越短,这时即使将所述取样周期设定得较短,拍摄到的图像之间规定特征的变化程度也较大,因而相对距离的计算精度也较高。因而,由所述取样周期设定机构对取样周期进行设定,在上一次控制周期中所计算出的所述车辆与对象物之间的距离越短,则将本次控制周期中的所述取样周期也设定得越短,从而能够在所述车辆与对象物相距较远时将所述取样周期设定得较长从而保证相对距离的计算精度,并且,在所述车辆与对象物的距离较近时,能够将所述取样周期设定得较短从而避免相对距离不能及时地计算出来。 
本发明第3形态的车辆周围进行监测装置构成为,包括:距离计算机构,在规定的取样周期内的不同时刻由所述拍摄机构拍摄到了多个图像,所述距离计算机构在每一规定的控制周期内,利用该多个图像间的、同一对象物在图像上的规定特征的变化程度来计算出所述车辆与对象物之间的距离;取样周期设定机构,其利用在上一 次控制周期由所述距离计算机构计算出的所述车辆与所述对象物之间的距离、所述车辆的车速、在上一次控制周期中计算出所述车辆与对象物之间的距离的那一时刻到现在所经过的时间,来计算出本次控制周期中所述车辆与对象物之间的推定距离,并且,该推定距离越小则将本次控制周期中的所述取样时间设定得越短。 
所述车辆与对象物之间的距离越远,则所述取样周期越长,以该取样周期拍摄到的图像之间的规定特征的变化程度也越大,因而为了保证相对距离的计算精度,需要选取较长的取样周期。而所述车辆与对象物之间的距离越短,这时即使将所述取样周期设定得较短,拍摄到的图像之间规定特征的变化程度也较大,因而相对距离的计算精度也较高。因而,由所述取样周期设定机构对取样周期进行设定,在上一次控制周期中所计算出的所述车辆与对象物之间的距离越短,则将本次控制周期中的所述取样周期也设定得越短,从而能够在所述车辆与对象物相距较远时将所述取样周期设定得较长从而保证相对距离的计算精度,并且,在所述车辆与对象物的距离较近时,能够将所述取样周期设定得较短从而避免相对距离不能及时地计算出来。 
附图说明
图1是本发明中车辆周围监测装置的结构框图; 
图2是说明将图1所示的车辆周围监测装置安装到车辆上的状态的示意图; 
图3是表示图1所示的图像处理单元中的各处理步骤的流程图; 
图4是说明用对应图像提取机构进行提取图像处理和图像之间的视差的示意图; 
图5是说明视差错位量的影响的示意图,以及说明根据视差梯度计算出理论视差的示意图; 
图6是取样周期设定处理的流程图; 
图7是取样周期的设定方法的说明图; 
图8是对视差的时序数据的可靠性进行判定并且计算出视差梯度,再根据视差梯度对与对象物之间的推定距离的可靠性进行判定处理的流程图; 
图9是根据视差梯度计算出与对象物之间的距离的流程图; 
图10是表示说明根据视差梯度计算出与对象物之间的距离的示意图; 
图11是表示说明根据视差梯度计算出与对象物之间的距离的示意图. 
具体实施方式
下面参照图1~图11对本发明的具体实施方式进行说明。图1为本发明的车辆周围监测装置的结构框图,本发明的车辆周围监测装置由图像处理单元1构成。图像处理单元1上连接着:对车辆10的前方的图像进行拍摄的左右一对红外线照相机(相当于本发明中的拍摄装置)2R、2L;检测车辆10的偏航角速度的偏航角速度传感器3;检测车辆10的行驶速度的车速传感器4(相当于本发明中的车速检测机构);检测是否有对车辆10的制动操作的制动传感器5;利用声音提醒驾驶员注意的扬声器6;以及平视显示器(显示装置)7,该平视显示器7显示由红外线照相机2R、2L所得到的图像,并且进行显示以使驾驶员认识到与车辆的接触(碰撞)的可能性较高的对象物。 
参照图2,红外线照相机2R、2L配置在车辆10的前部,且二者的位置以车辆10的宽度方向中心为中心大致对称,两台红外线照相机2R、2L的光轴相互平行,并且,二者的光轴距路面的高度相等。红外线照相机2R、2L对远红外区域的光的敏感度较高,因此其具有拍摄的物体的温度越高则所输出的映像信号的等级也越高(辉度越高)这样的特性。另外,显示装置7使画面7a显示在车辆10的前玻璃的驾驶员的前方位置上。 
另外,参照图1,图像处理单元1为由微处理器(未图示)等构 成的电子单元,从红外线照相机2R、2L输出的模拟图像信号被变换为数字化数据后记录在图像存储器(未图示)中,图像处理单元1的微处理器能够对记录在图像处理器中的关于车辆前方的情况的图像进行各种运算处理。 
将车辆监测用程序应用于上述微型计算机时,该微型计算机会起到如下机构的作用,即,对象物提取机构20,由其从红外线照相机2R所拍到的第1图像中提取在实际空间中被监测对象的第1图像;对应图像提取机构21,由其从红外线照相机2L所拍到的第2图像中,提取与上述第1图像具有相关性的第2图像;视差计算机构22,由其计算出由经被监测对象提取机构20提取的第1图像和经对应图像提取机构21提取的第2图像的视差;取样周期设定机构23,为了由视差计算机构21计算出关于同一对象物的视差的时间序列数据,该取样周期设定机构23对获取第1图像与第2图像的取样周期进行设定;视差梯度计算机构24,由其从经过视差计算机构22计算出的同一被监测对象的视差的时间序列数据中计算出视差梯度,即、每隔单位时间时的视差变化率;第1距离计算机构25,其根据视差梯度计算出对象物和车辆10之间的距离;第2距离计算机构26,其根据一个视差数据计算出对象物和车辆10之间的距离;距离可靠性判定机构27,由其判定经第1距离计算机构25计算出的距离的可靠性;触碰判定机构28,由其判定车辆10和对象物之间有无产生触碰的可能性。 
下面根据图3所示的流程图,对由图像处理单元1所进行的对车辆10的周围进行监测处理进行说明。图像处理单元1在每一个规定的控制周期按照图3所示的流程执行处理从而对车辆10的周围进行监测。 
首先在步骤(STEP,下同)1,由红外线照相机2R、2L输出的红外线图像的模拟信号输入图像处理单元1,步骤2中该模拟信号经A/D变换处理而成为被数字化的灰度图像并存储在图像存储器中。 
另外,在步骤1~步骤2中可以获取由红外线照相机2R所拍到 的灰度图像(以下称为右侧图像)以及由红外线照相机2L所拍到的灰度图像(以下称为左侧图像)。而且在右侧图像和左侧图像中,由于同一对象物的图像的水平位置会有错位(视差),所以能够根据该视差计算出在实际空间中从车辆10到该对象物的距离。 
接着在步骤3中,图像处理单元1以右侧图像为基准图像进行二值图像处理(将灰度在规定阈值以上的像素值当作“1”(白),而将灰度在该阈值以下的像素值当作“0”(黑)的处理)而形成二值图像。接着在步骤4~步骤6中,由对象物提取机构20进行相应的处理。在步骤4中,由对象物提取机构20对包含在二值图像中各白色区域的图像进行游程编码数据(二值图像中沿x(水平)方向连续的白色像素线的数据)化处理。另外,在步骤5中,由对象物提取机构20对二值图像中在y(垂直)方向上具有重叠部分的线合起来作为1个图像进行标定,在步骤6中,将标定的图像作为被监测对象物的候补图像而提取出来。 
在接下来的步骤7中,图像处理单元1计算出各候补图像的重心G、面积S以及其外接四边形的纵横比ASPECT。另外,关于具体的计算方法,由于是已知的一般方法,例如在日本发明专利公开公报特开2001-6096中有记载,所以在此省略其说明。之后,图像处理单元1并行执行后续的步骤8~步骤9与步骤20~步骤22的处理。 
在步骤8中,由图像处理单元1对经过红外线照相机2R、2L所拍到的图像得来的二值图像在每隔规定的采样周期提取出的图像进行同一性判定,之后再将图像中判定为同一对象物的图像的位置(重心位置)的时序数据存储在存储器中(时间追踪)。另外,在步骤9中,图像处理单元1读取由车速传感器4测出的车速VCAR和由偏航角速度传感器6测出的偏航角速度YR,并以时间为参数对偏航角速度YR进行积分计算从而计算出车辆10的转向角θr。 
另外,步骤20~步骤21是由对应图像提取机构21所进行的相应的处理。参照图4可知,在步骤20中,由对应图像提取机构21从由对象物提取机构20提取出的对象物的候补图像中选择其一,之后从右侧图像的灰度图像30中抽出对应的搜索图像30a(由被选择的候补图像的外接四边形包围的整个区域的图像)。在接下来的步骤21中,由对象物提取机构20在左侧图像的灰度图像31中设定用来搜索对应于搜索图像30a的图像的搜索区域32,并在搜索图像30a和该搜索区域32之间进行相关度运算而提取出对应图像31a。
在接下来的步骤22中,由视差计算机构22进行相应的处理。由视差计算机构22计算出搜索图像30a的重心位置以及对应图像31a的重心位置之差并将其作为视差dx,之后进入步骤10。 
在步骤10中进行“距离计算处理”,即,由图像处理单元1计算出对应于搜索图像30a和对应图像31a的对象物在实际空间中和车辆10之间的距离。关于“距离计算处理”将在后面进行描述。 
在接下来的步骤11~步骤15和步骤30中,由触碰判定机构28进行相应的处理。在步骤11中,由触碰判定机构28将搜索图像30a的坐标(x、y)和在步骤10中计算出的对象物和车辆10之间的距离z变换为实际空间坐标系(X、Y、Z),从而计算出对应于搜索图像30a的对象物在实际空间中的位置坐标。另外,如图2所示,实际空间坐标系(X、Y、Z)为这样确定的一种坐标系,即,其以红外线照相机2R和2L的安装位置的中间位置为原点O,以车辆10的车宽方向为X轴,铅垂方向为Y轴,车辆10的前方方向为Z轴。还有,图像中的坐标系为这样一种坐标系,即,其以图像的中心为原点,以水平方向为x轴,垂直方向为y轴。 
在接下来的步骤12中,由触碰判定机构28进行横向摆动角修正处理,以修正因车辆10横向摆动所产生的图像上的位置变动。另外,在步骤13中,由触碰判定机构28从经转向角修正后的同一对象物在实际空间的时间序列数据中,计算出对象物相对于车辆10产生移动的相对移动矢量。其中,时间数据是从在规定的监测期间内所拍到的多个图像中获取的。 
另外,对于对象物的实际空间坐标系(X、Y、Z)以及移动矢量的具体求法,由于已在之前公开的日本发明专利公开公报特开 2001-6096中详细说明过,所以在此省略其说明。 
接下来,在步骤14中由触碰判定机构28进行“提醒判定处理”,以判断车辆10和对象物之间有无产生触碰的可能性,并且据此判定是否有必要对驾驶员进行提醒。而且,通过“提醒判定处理”而判定为需要对驾驶员进行提醒时进入步骤30,从而通过扬声器6输出提示音并由显示装置7显示提醒画面。另外,而且,经“提醒判定处理”而判定为不必对驾驶员进行提醒时返回步骤1,图像处理单元1不对驾驶员进行提醒。 
在“提醒判定处理”中,由触碰判定机构28判定以下各种情况并根据其判定结果判定是否有必要对驾驶员进行提醒,即,需要进行判定的各种情况包括判定对象物还有较长的时间才有可能与自己的车辆10产生触碰,或是对象物存在于设定在自己的车辆周围的接近判定区域内,或是对象物有可能从接近判定区域外进入接近判定区域内而与自己的车辆10产生触碰,对象物是否是行人,对象物是否是人工构造物等。 
另外,对于“提醒判定处理”中具体处理内容,由于已在之前公开的日本发明专利公开公报特开2001-6096中作为“警报判定处理”详细说明过,所以在此省略其说明。 
接下来参照图5~图11说明图3中步骤10的“距离计算处理”。如图4所示,对同一对象物,既从右侧图像中提取出搜索图像30a,又从左侧图像31中提取出对应图像31a,进而在已经计算出视差dx时,可根据下式(1)计算出对象物和车辆10之间的距离Z。 
Z = f p · D dx - - - ( 1 )
其中,Z:对象物和车辆10之间的距离、f:红外线照相机2R和2L的焦距、p:红外线照相机2R和2L像素间隔、D:红外线照相机2R和2L的中心距离、dx:视差。 
但在实际情况中,车辆和对象物之间的实际间隔(实际距离)和根据上式(1)计算出的间隔(计算距离)会在以下因素等的影响下产生偏差,即,(a)车辆10在行驶时的振动带来的影响、(b)将红外线照相机2R和2L搭载在车辆10上时的对准精度、(c)由对应图像提取机构21提取出同一对象物的图像时的相关度运算精度等。 
如下式(2)所示,上述实际距离和计算距离之间的偏差在上式(3)中会作为视差错位量α而产生影响。 
Z = f p · D dx + α - - - ( 2 )
而且,车辆10和对象物之间的距离Z越长时视差dx会变得越小,因此不能不考虑上式(2)中的视差错位量α的影响。因而,会出现使用计算距离的触碰判定机构28所判定的对象物和车辆10之间产生触碰的可能性的判定精度下降的问题。 
在此,图5中(a)所示为,车辆10以72km/h的速度行驶时视差dx和距离Z之间的关系,其中,以纵轴为视差dx、横轴为车辆10与对象物之间的距离Z。图中的d1为视差错位量α=0时,d2为视差错位量α=-2(像素)时,d3为视差错位量α=-4(像素)时的情况。 
从图5中(a)可知,距离与视差dx之间的关系会随着视差错位量α的值而产生变化,所以根据视差计算距离时会产生计算误差。例如,实际上车辆10与对象物之间的距离为150m时,视差错位量α=-2(像素)则距离的计算数值为205m,视差错位量α=-4(像素)则距离的计算数值为322m。 
但即使有视差错位产生,视差梯度(物体运动时视差的变化率)也不会产生变化。因此,由第1距离计算机构25根据视差的时间序列数据计算出各图像间的视差梯度,再用视差梯度计算出对象物和车辆10之间的距离时,可排除视差错位量α造成的影响。 
从右侧图像以及左侧图像得到的同一对象物的图像部分的视差相当于本发明中的同一对象物的图像部分的规定特征。从视差的时间序列数据计算出的视差梯度相当于本发明中的规定特征的变化程 度。 
第1距离计算机构25按照图6所示的流程,对获取视差的时间序列数据的取样周期进行设定,视差的时间序列数据用于计算出视差梯度。在步骤90中,取样周期设定机构23判断在存储器(未图示)中是否保存有在上一个取样周期中计算出的对象物与车辆10之间的距离L(n-1)的数据。 
这里,由于图像处理单元1在车辆10行驶时按照图3所示的流程对车辆周围进行监测处理,因而,在存储器(未图示)中是否保存有在上一个取样周期中计算出的对象物与车辆10之间的距离L(n-1)的数据这一情况表示车辆10处于行驶中。 
在步骤90中,当存储器(未图示)中是否保存有在上一个取样周期中计算出的对象物与车辆10之间的距离L(n-1)时,进入步骤91。并且,取样周期设定机构23获取由车速传感器4检测出的车速VCAR以及上一次的控制周期中距离L(n-1)计算出时到现在这一时刻所经过的时间Δt。 
在接下来的步骤92中,取样周期设定机构23按照下式(3)计算出在本次控制周期中对象物与车辆10之间的推定距离Le。 
Le=L(n-1)-VCAR×Δt    (3) 
其中,Le:本次控制周期中对象物与车辆10之间的推定距离;L(n-1):上一次控制周期中对象物与车辆10之间的计算出距离;VCAR:车辆10的速度;Δt:上一次的控制周期中距离计算出时到现在这一时刻所经过的时间。 
并且,取样周期设定机构23根据图7中(a)中的a3所示的推定距离Le与取样周期Tw的映射关系,利用计算出的推定距离Le计算取样周期的数值,将此数值作为本次控制周期中的取样周期Tw。此时,对象物与车辆10之间的距离越短,则取样周期Tw也设定为越短的时间。 
此时,随着对象物与车辆10逐渐接近,取样周期Tw也设定得越短。因而,与图7中(a)中的a2所示的、使取样周期Tw为恒定 时间而维持对象物与车辆的距离较远时的距离计算精度这种情况相比,能够迅速地计算出对象物与车辆10的距离从而检测到对象物。另外,与为了迅速地计算出对象物与车辆10的距离而设定为较短的恒定取样周期相比,由于拍摄图像的数量较少即可,因而能够降低计算相对距离时图像处理单元1的处理负荷。 
另外,在本实施方式中,使用根据上式(3)计算出的对象物与车辆10之间的推定距离Le进行设定,Le越小则取样周期Tw也设定为越短的时间,然而,也可以使用在上一次控制周期中的对象物与车辆10之间的算出距离L(n-1)进行设定,L(n-1)则取样周期Tw也设定为越短的时间。 
另外,在推定距离Le与算出距离L(n-1)之间存在误差,考虑到该误差的存在,也可以如图7中(a)中的a3所示地阶梯性地设定取样周期Tw。 
另外,也可以如图7中(b)所示地,设定一个系数k1(0≤k1≤1),推定距离Le越小则该系数k1也设定得越小,想象对象物与车辆之间的距离较远而预先设定取样周期的初始值,将该初始值乘以上述系数k1,将所得到的结果设定为本次控制周期中的取样周期Tw。 
另一方面,在步骤90中,当存储器(未图示)中并未保存有在上一次的控制周期中被算出的对象物与车辆10之间的距离L(n-1)时,进入步骤100。并且,取样周期设定机构23获取由车速传感器4检测到的车速VCAR。 
在接下来的步骤101中,取样周期设定机构23根据图7中(c)中的b1所示的车速VCAR与取样周期Tw的映射关系利用所得到的车速VCAR计算取样周期的数值,将所得到的数值设定为本次控制周期中的取样周期Tw。此时,车辆10的速度越低则取样周期Tw也设定为越短的时间。 
此时,车速较低这样的情况想象为车辆行驶在市区中狭窄的道路上的情况,此时有可能会有行人从旁边突然出现。因而,车速越慢 将取样周期Tw也设定的较短,从而能够缩短这样的行人到车辆之间的距离的计算所需的时间,从而避免了不能及时监测到行人这样的情况的发生。 
在步骤93中,取样周期设定机构23进行等待,直至获取到了步骤92或101中所设定的取样周期Tw以上的时间的时间序列图像,之后进入步骤94。在步骤94中,由第1距离计算机构25进行相应的处理,在该步骤94中,第1距离计算机构25使用视差梯度算出对象物与车辆10之间的距离,之后进入步骤95返回图3的流程。 
第1距离计算机构25按照图8所示的流程,在图6的步骤94中进行相应的处理,接下来对该处理进行说明。 
在步骤50中,由第1距离计算机构25在预先设定的时间序列时间Ts(例如1秒钟)内进行去除无法用于计算的数值的处理,即,从由视差计算机构22计算出的视差的时间序列数据中去除未能计算出视差的数据(由对应图像提取机构21进行的相关度运算失败时的数据等)或是视差数值与其他数据计算出的数值严重偏离的数据。 
另外,在步骤51中,由第1距离计算机构25根据视差的时间序列数据的个数或求视差时相关度运算中的相关度等,对视差的时序数据的可靠性进行判定。当判定为视差的时序数据可靠时,由下一个步骤52进入步骤53。另外,当判定为视差的时序数据不可靠时,由步骤52进入步骤60,禁止触碰判定机构28根据此次视差的时序数据进行处理。 
在步骤53中,由第1距离计算机构25从视差的时序数据中计算出视差梯度,在步骤54中,根据视差梯度推定车辆10和对象物之间的距离。关于步骤54中的距离推定处理将在后面进行详述。 
接下来在步骤55中,由距离可靠性判定机构27进行相应的处理。由距离可靠性判定机构27比较距离Z1和Z2。其中,距离Z1为利用视差梯度由第1距离计算机构25计算出的车辆10和对象物之间的距离,距离Z2为例如利用视差的时间序列数据的中间数值由第2距离计算机构26根据上式(1)计算出的车辆10和对象物之间的距 离。 
当Z1和Z2之差从规定范围内(因红外线照相机2R、2L的安装精度或车辆的振动等而产生变化的车辆10的固有范围)偏离时,由距离可靠性判定机构27判定为视差错位量α较大而Z1的可靠性较低。当距离可靠性判定机构27判定为Z1的可靠性较低时,由步骤56进入步骤60。另外,当判定为Z1的可靠性较高时,由步骤56进入步骤57,此时,由触碰判定机构28进行图3中的步骤11之后的触碰判定处理。 
接下来参照图9来说明图8中步骤54的由第1距离计算机构25进行的“距离推定处理”。在步骤70中,将由车速传感器4测出的车辆10的速度VCAR输入第1距离计算机构25中。另外,在接下来的步骤71中,将在图8中步骤53计算出的视差梯度的算出值Ia输入第1距离计算机构25中。在步骤72中,输入时间序列时间Ts(例如1秒)。 
之后,第1距离计算机构25反复循环进行步骤73~步骤76中的相应的处理,并计算出与视差梯度的算出值Ia对应的视差。图5中的(b)表示视差错位量α=0、车辆10以100km/h的速度行驶时的视差和视差梯度之间的变化关系,其中,以左侧纵轴为视差dx、右侧纵轴为视差梯度、横轴为时间,并且针对处于静止状态的对象物。图中e1代表视差的时间序列数据(理论视差的时间序列数据),e2代表视差梯度(理论视差梯度)。 
在步骤73~步骤76循环的步骤73中,由第1距离计算机构25将视差采样周期Tw从图5中(b)所示的经过5秒时朝向0秒以逐渐错开采样时间Ts(例如1秒)的方式设定(例如4~5秒、3.5~4.5秒、3.0~4.0秒、2.5~3.5秒、…)。另外,在步骤74中,由第1距离计算机构25根据车辆10的速度VCAR和采样周期Tw作成Tw中的视差的理论时间序列数据。 
在接下来的步骤75中,由第1距离计算机构25从各采样周期Tw中的视差的理论时间序列数据中计算出视差梯度的理论值It,在步骤76中,判断视差梯度的算出值Ia是否在理论值It以上。 
当步骤76中的视差梯度的算出值Ia在理论值It以上时,脱离该循环而进入步骤77,当视差梯度的算出值Ia小于理论值It时返回步骤73,设定下一个采样周期Tw而进行步骤74之后的各项处理。 
在步骤77中,由第1距离计算机构25获取与在步骤73~步骤76循环中最后计算出的视差梯度的理论值It所对应的视差 例如,当视差梯度的算出值Ia为150时,如图5中(b)所示,会获取视差梯度的算出值Ia在理论值It以上时的采样周期Tw(2.5~3.5秒)的中间数值3.0秒时的理论时间序列数据的视差9.0。 
在接下来的步骤78中,由第1距离计算机构25将视差9.0代入上式(1)的dx而计算出车辆和对象物之间的距离。 
接下来参照图10~图11说明由视差梯度对车辆和对象物之间的距离进行推定的处理的其他实施方式。 
首先,图10中(a)和图10中(b)所示为视差的时间序列数据的分布情况,其中,纵轴设定为视差、横轴设定为时间。图10中(a)为由t11~t13的采样周期中的9个视差的计算数据计算出直线Sa的情况。 
图10中(b)所示为,视差错位量α=0时代表理论视差梯度的直线处于不同的车辆和对象物之间的距离时的情况,其中,S1为将距离设定为190m的直线,S2为将距离设定为180m的直线,Sn为将距离设定为100m的直线。 
如图10中(a)所示,可以由第1距离计算机构25从图10中(b)的直线S1~Sn中选择与由视差的时间序列数据中作成的直线Sa具有相同的梯度的直线,并能将被选择的直线的设定距离作为车辆10和对象物之间的距离而计算出。 
接下来,图11所示为,预先准备好的根据车辆10的不同行驶速度(图11中为70km/h、95km/h、100km/h)的视差梯度和对象物的距离的相关映射关系图像M1、M2、M3、…的情况。通过由第1距离计算机构25将从视差的时间序列数据中计算出的视差梯度适用于 与车辆10的行驶速度对应选择的相关映射关系,能够计算出车辆10和对象物之间的距离。 
例如,车辆10的行驶速度为70km/h、从视差的时间序列数据中计算出的视差梯度为Ia时,由第1距离计算机构25选择图11中的相关映射关系图像M1并适用视差梯度为Ia时,可计算出车辆10和对象物之间的距离Z1。 
另外,在上述实施方式中,距离可靠性判定机构27通过比较距离Z1和Z2来判断Z1的可靠性,但也可采用其他方法判断Z1的可靠性。以下说明通过距离可靠性判定机构27判断Z1的可靠性的其他方法。其中,上述距离Z1为利用视差梯度由第1距离计算机构25计算出的车辆10和对象物之间的距离,距离Z2为例如利用视差的时间序列数据的中间数值由第2距离计算机构26根据上式(1)计算出的车辆10和对象物之间的距离。 
在图8的步骤55中,由距离可靠性判定机构27来比较推定视差dx′和视差dx。其中,推定视差dx′是将由第1距离计算机构25用视差梯度计算出的与车辆10之间的距离Z1,代入作为上式(1)的逆运算式的下式(4)中而计算出的,其与距离Z1对应。视差dx是由视差计算机构22计算出的。 
dx ′ = f p · D Z 1 - - - ( 4 )
其中,dx′:推定视差、f:红外线照相机2R和2L的焦距、p:红外线照相机2R和2L像素间隔、D:红外线照相机2R和2L的中心距离、Z1:由第1距离计算机构25计算出的对象物和车辆10之间的距离。 
当视差dx和推定视差dx′之差偏离第2规定范围内(因红外线照相机2R、2L的安装精度或车辆的振动等而产生变化的车辆10的固有范围)时,由距离可靠性判定机构27判定为视差错位量α较大而Z1的可靠性较低。 
当距离可靠性判定机构27判定为Z1的可靠性较低时,由接下 来的步骤56进入步骤60。另外,当判定为Z1的可靠性不低时,由步骤56进入步骤57,此时,由触碰判定机构28进行图3中步骤11之后的触碰判定处理。 
另外,在本实施方式中,设置有两台红外线照相机2R、2L,利用左侧图像与右侧图像关于同一对象物在图像上的视差,来算出车辆10与对象物之间的距离,然而,本发明也能够适用于例如日本发明专利公开公报特开2007-213561中公开的情况,即,由一台照相机进行拍摄,获得时间序列图像,利用所获得的时间序列图像间的同一对象物在图像上的大小的变化率,来算出车辆与对象物之间的距离。 
此时,可以将为了算出同一对象物在图像上的大小的变化率的需要设定的参数即取样周期(两个图像的拍摄时刻之间的时间长度)这样设定,即,车速越低则设定得越短,或者在上一次控制周期中算出的对象物与车辆之间的距离越短则将本次控制周期的取样时间也设定得较短。另外,也可以利用在上一次控制周期中计算出的对象物与车辆之间的距离、车速、上一次控制周期中的对象物与车辆的距离的计算时到现在所经过的时间,来计算出本次控制周期中对象物与车辆之间的推定距离,此推定距离越短则本次控制周期中的两个图像的取样周期也设定得越短。 
另外,在本实施方式中例示了拍摄车辆前方的情况,但是也可以拍摄车辆的后方或者侧方等其他方向来判断有无与对象物产生触碰的可能性。 
还有,在本实施方式中,作为摄像机构,使用了红外线照相机2R、2L,但是也可以使用能拍摄可见光图像的可见光照相机。 
工业实用性 
如上所述,采用本发明的车辆周围监测装置,由于可在根据对象物的时间序列图像计算出对象物与车辆的距离时避免不能及时计算出距离这样的情况的发生,因而本发明可以很好地对车辆周围的情况进行监测。 

Claims (2)

1.一种车辆周围监测装置,其利用车载的拍摄机构所拍摄到的图像对车辆的周围进行监测,其特征在于,
包括:
距离计算机构,在各规定的控制周期计算出所述车辆与对象物之间的距离,其基于在规定的取样周期由所述拍摄机构在不同时刻拍摄到了多个图像,对同一对象物的规定特征在不同图像间的变化程度来计算出所述车辆与对象物之间的距离;
车速检测机构,其检测出所述车辆的车速;
取样周期设定机构,其对控制周期中的所述取样周期进行设定,首先利用在上一次控制周期由所述距离计算机构计算出的所述车辆与所述对象物之间的距离、所述车辆的车速以及从在上一次控制周期中计算出所述车辆与对象物之间的距离的那一时刻到现在所经过的时间,来计算出本次控制周期中所述车辆与对象物之间的推定距离,并且,根据该推定距离的大小,推定距离越小则所述取样周期设定机构将本次控制周期中的所述取样时间设定得越短。
2.根据权利要求1所述的车辆周围监测装置,其特征在于,
所述车辆的车速越低,则所述取样周期设定机构将所述取样周期设定得越短。
CN201080019133.3A 2009-04-28 2010-01-14 车辆周围监测装置 Expired - Fee Related CN102422333B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009109080A JP4733756B2 (ja) 2009-04-28 2009-04-28 車両周辺監視装置
JP2009-109080 2009-04-28
PCT/JP2010/050313 WO2010125833A1 (ja) 2009-04-28 2010-01-14 車両周辺監視装置

Publications (2)

Publication Number Publication Date
CN102422333A CN102422333A (zh) 2012-04-18
CN102422333B true CN102422333B (zh) 2014-10-22

Family

ID=43031989

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201080019133.3A Expired - Fee Related CN102422333B (zh) 2009-04-28 2010-01-14 车辆周围监测装置

Country Status (5)

Country Link
US (1) US8401715B2 (zh)
EP (1) EP2413304A4 (zh)
JP (1) JP4733756B2 (zh)
CN (1) CN102422333B (zh)
WO (1) WO2010125833A1 (zh)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012243049A (ja) * 2011-05-19 2012-12-10 Fuji Heavy Ind Ltd 環境認識装置および環境認識方法
JP5547144B2 (ja) * 2011-09-08 2014-07-09 株式会社東芝 監視装置、その方法、及び、そのプログラム
JP5760090B2 (ja) * 2011-09-28 2015-08-05 本田技研工業株式会社 生体認識装置
JP5612621B2 (ja) * 2012-02-28 2014-10-22 富士重工業株式会社 車外環境認識装置
JP5502149B2 (ja) * 2012-06-29 2014-05-28 本田技研工業株式会社 車両周辺監視装置
JP5957359B2 (ja) * 2012-10-19 2016-07-27 日立オートモティブシステムズ株式会社 ステレオ画像処理装置及びステレオ画像処理方法
JP5790627B2 (ja) * 2012-12-03 2015-10-07 株式会社デンソー 物標検出装置
US9886767B2 (en) * 2013-05-03 2018-02-06 Nokia Technologies Oy Method, apparatus and computer program product for segmentation of objects in images
JP6110256B2 (ja) * 2013-08-21 2017-04-05 株式会社日本自動車部品総合研究所 対象物推定装置および対象物推定方法
US20150122560A1 (en) * 2013-11-06 2015-05-07 King Fahd University Of Petroleum And Minerals Multi-car trackless transportation system
US9091558B2 (en) * 2013-12-23 2015-07-28 Automotive Research & Testing Center Autonomous driver assistance system and autonomous driving method thereof
JP6402469B2 (ja) * 2014-04-04 2018-10-10 富士電機株式会社 安全制御装置および安全制御システム
US11354881B2 (en) * 2015-07-27 2022-06-07 United Launch Alliance, L.L.C. System and method to enable the application of optical tracking techniques for generating dynamic quantities of interest with alias protection
US10126722B2 (en) 2016-08-01 2018-11-13 Qualcomm Incorporated System and method of dynamically controlling parameters for processing sensor output data for collision avoidance and path planning
JP6920159B2 (ja) * 2017-09-29 2021-08-18 株式会社デンソー 車両の周辺監視装置と周辺監視方法
CN108091178B (zh) * 2017-12-25 2020-10-09 重庆冀繁科技发展有限公司 基于车联网的车辆防碰撞***
CN108039065B (zh) * 2017-12-25 2020-10-09 重庆冀繁科技发展有限公司 车辆运行安全监控方法
CN108091139A (zh) * 2018-01-23 2018-05-29 余绍志 一种基于大数据的交通安全自动评估***
US11276159B1 (en) 2018-05-15 2022-03-15 United Launch Alliance, L.L.C. System and method for rocket engine health monitoring using digital image correlation (DIC)
CN108858186B (zh) * 2018-05-30 2021-05-07 南昌大学 一种小车对红外物体检测、识别及跟踪方法
JP7187291B2 (ja) * 2018-12-14 2022-12-12 株式会社小糸製作所 赤外線カメラシステム及び車両
WO2020194421A1 (ja) 2019-03-25 2020-10-01 日本電気株式会社 情報処理装置、分析システム、データ集約方法及びコンピュータ可読媒体
WO2021230314A1 (ja) * 2020-05-14 2021-11-18 国立大学法人 東京大学 計測システム、車両、計測装置、計測プログラム及び計測方法
JP7456614B2 (ja) 2020-06-22 2024-03-27 株式会社富士機械工作所 金属円筒管の矯正方法及び矯正装置
JP7380449B2 (ja) * 2020-06-30 2023-11-15 トヨタ自動車株式会社 判定装置及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1373720A (zh) * 1999-09-20 2002-10-09 松下电器产业株式会社 驾驶提醒装置
CN1791806A (zh) * 2003-05-22 2006-06-21 罗伯特.博世有限公司 一种探测汽车周围目标的方法和装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3827368B2 (ja) * 1996-08-01 2006-09-27 富士通テン株式会社 複眼カメラによる車間距離計測装置
JP3515926B2 (ja) 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
JP2001141813A (ja) * 1999-11-16 2001-05-25 Mitsubishi Electric Corp 車両周辺監視装置
US6636148B2 (en) * 2000-09-04 2003-10-21 Fujitsu Ten Limited Periphery monitoring system
JP4970926B2 (ja) * 2006-01-16 2012-07-11 本田技研工業株式会社 車両周辺監視装置
JP2008298533A (ja) * 2007-05-30 2008-12-11 Konica Minolta Holdings Inc 障害物計測方法、障害物計測装置及び障害物計測システム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1373720A (zh) * 1999-09-20 2002-10-09 松下电器产业株式会社 驾驶提醒装置
CN1791806A (zh) * 2003-05-22 2006-06-21 罗伯特.博世有限公司 一种探测汽车周围目标的方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JP特开平10-47954A 1998.02.20

Also Published As

Publication number Publication date
EP2413304A4 (en) 2012-10-24
CN102422333A (zh) 2012-04-18
US20120041617A1 (en) 2012-02-16
EP2413304A1 (en) 2012-02-01
JP2010257377A (ja) 2010-11-11
WO2010125833A1 (ja) 2010-11-04
JP4733756B2 (ja) 2011-07-27
US8401715B2 (en) 2013-03-19

Similar Documents

Publication Publication Date Title
CN102422333B (zh) 车辆周围监测装置
CN102187367A (zh) 车辆周围监测装置
US10102751B2 (en) Inclination detection in two-wheelers
CA2987373C (en) Position estimation device and position estimation method
US9435879B2 (en) Alert display device and alert display method
US9704047B2 (en) Moving object recognition apparatus
CN102187377B (zh) 车辆的周围监测装置
CN112349144B (zh) 一种基于单目视觉的车辆碰撞预警方法及***
CN102007521B (zh) 车辆周围监测装置
CN202169907U (zh) 车外环境识别装置
EP2202708A1 (en) Vehicle environment monitoring apparatus
CN103718224A (zh) 三维物体检测装置和三维物体检测方法
CN102203837A (zh) 车辆周围监测装置
CN102985958A (zh) 车辆周围监测装置
JP6936098B2 (ja) 対象物推定装置
JP2017138660A (ja) 物体検出方法、物体検出装置、およびプログラム
CN102016954A (zh) 车辆周围监测装置
JP2007334511A (ja) 対象物検出装置、車両、対象物検出方法、並びに対象物検出用プログラム
JP6185327B2 (ja) 車両後側方警報装置、車両後側方警報方法および他車両距離検出装置
JP5832850B2 (ja) 車線監視システム及び車線監視方法
JP2019067115A (ja) 路面検出装置
JP4823753B2 (ja) 車両の周辺監視装置
KR102003574B1 (ko) 차량을 위해 차량별 특유의 설정 방향 데이터를 측정하기 위한 방법 및 장치
WO2018212090A1 (ja) 制御装置及び制御方法
JP4629638B2 (ja) 車両の周辺監視装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20141022

Termination date: 20160114