CN104512329B - 倒车安全辅助方法、装置及汽车 - Google Patents
倒车安全辅助方法、装置及汽车 Download PDFInfo
- Publication number
- CN104512329B CN104512329B CN201310451913.0A CN201310451913A CN104512329B CN 104512329 B CN104512329 B CN 104512329B CN 201310451913 A CN201310451913 A CN 201310451913A CN 104512329 B CN104512329 B CN 104512329B
- Authority
- CN
- China
- Prior art keywords
- moving objects
- image
- module
- recorded
- moving
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/80—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
- B60R2300/806—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种倒车安全辅助方法、装置及汽车。其中,倒车安全辅助方法包括以下步骤:通过置于车尾的摄像头采集车辆倒车路线上的实时视频;在实时视频中检测出运动对象,获取运动对象的形状尺寸和当前位置;对检测出的运动对象进行跟踪,获取运动对象的运动方向和运动速率;根据运动对象的形状尺寸、当前位置、运动方向和运动速率,进行预警逻辑判断;以及根据预警逻辑判断的结果,进行报警或不报警。本发明能够快速检测倒车路线上的突然出现的运动对象并及时预警,提高倒车过程中的安全性。
Description
技术领域
本发明属于汽车电子领域和视觉处理领域,具体涉及一种倒车安全辅助方法、倒车安全辅助装置及汽车。
背景技术
随着汽车的不断增多,因倒车产生的擦碰等事故也不断增多,特别是在拥挤的停车场和十字路口处,由于后视镜存在很大盲区,对于突然进入倒车路线的运动对象很难做出及时反应,容易造成碰撞事故。因此,及时检测出倒车路线上的运动对象,提前预警,可以给使用者足够的时间采取措施避免事故。
目前倒车安全辅助***主要有两种:倒车雷达辅助***和倒车影像辅助***,它们可以一定程度上提高倒车的安全性,但仍有很大的局限性。倒车雷达辅助***的最大探测距离仅为2m左右,此探测距离对于快速靠近的运动对象无法做出及时预警;另外,倒车雷达无法准确检测低于探头安装位置的障碍物;并且倒车雷达探测范围有限,无法检测到后视镜部分盲区的障碍物。倒车影像仅为驾驶员提供影像参考,没有预警功能,并且使用者无法一直关注倒车影像。
发明内容
本发明旨在至少在一定程度上解决上述技术问题之一或至少提供一种有用的商业选择。为此,本发明的第一个目的在于提出一种监视范围全面、抗扰动性强、预测准确度高的倒车安全辅助方法。
根据本发明实施例的倒车安全辅助方法,包括以下步骤:A.通过置于车尾的摄像头采集车辆倒车路线上的实时视频;B.在所述实时视频中检测出运动对象,获取所述运动对象的形状尺寸和当前位置;C.对检测出的所述运动对象进行跟踪,获取所述运动对象的运动方向和运动速率;D.根据所述运动对象的所述形状尺寸、所述当前位置、所述运动方向和所述运动速率,进行预警逻辑判断;以及E.根据预警逻辑判断的结果,进行报警或不报警。
根据本发明实施例的倒车安全辅助方法,至少具有如下优点:
(1)采用摄像头进行监视,可检测10m范围内的物体,而倒车雷达的最大探测距离仅为2m左右,本发明具有监视范围更广更全面的优点。
(2)结合帧间差分和背景差分对运动对象进行检测,能够避免光照变化、目标阴影、扰动噪声等外界因素的干扰,能够适应各种场景变化,抗扰动性强、预测准确度高。
(3)采用分布投影算法检测所述运动对象的当前位置,投影的方式将二维空间的图像转化到一维空间,计算量大大减小,数据处理效率高,适用于实时监测。
(4)综合考虑运动对象的形状尺寸、当前位置、运动速率、运动方向的特征信息,判断是否存在行车安全隐患,并确定安全隐患等级,具有真实全面、智能化的优点。
另外,根据本发明上述实施例的倒车安全辅助方法还可以具有如下附加的技术特征:
在本发明的一个实施例中,还包括:在所述步骤A之后、所述步骤B之前,对所述实时视频并进行图像预处理。
在本发明的一个实施例中,所述步骤B具体包括:B1.判断当前帧是否为第一帧;B2.如果当前帧是第一帧,则以当前帧的源图像作为当前帧的背景图像,进入步骤B4;B3.如果当前帧不是第一帧,则采用帧间差分和背景差分相结合方法获得当前帧的背景图像,进入步骤B4;B4.用当前帧的源图像减去当前帧的背景图像,得到背景差分图像;B5.对所述背景差分图像进行自适应阈值的图像二值化,分辨出运动区域和非运动区域;B6.对所述运动区域的背景保持不变,对所述非运动区域的背景进行替换更新;以及B7.采用分布投影算法获取运动区域内的运动对象,并获取所述运动对象的形状尺寸和当前位置。
在本发明的一个实施例中,所述步骤B5中所述自适应阈值的图像二值化过程的计算公式为:其中α为自适应系数且0<α<1,(i,j)表示第i行第j列的像素,bt(i,j)为t时刻当前帧的背景图像中(i,j)的值,bt-1(i,j)为前一帧的背景图像中(i,j)的值,ft(i,j)为当前帧的源图像中(i,j)的值,Dt(i,j)为t时刻的背景差分图像的二值化结果。
在本发明的一个实施例中,所述步骤C具体包括:C1.提供当前运动对象集合和已记录运动对象集合,所述当前运动对象集合中的元素为当前帧中通过所述步骤B检测出的所述运动对象,所述已记录运动对象集合的元素在0时刻初始化为空,在后续时刻中通过执行步骤C3和步骤C4进行更新;C2.将所述已记录运动对象集合中各个元素逐一与所述当前运动对象集合中的各个元素进行匹配,如果匹配成功,则对所述运动对象的所述形状尺寸和所述当前位置进行更新,并分别在所述当前运动对象集合和所述已记录运动对象集合中标记这两个元素为已匹配;C3.扫描所述已记录运动对象集合,如果存在某个元素未被标记已匹配,认为有旧的所述运动对象离开视野,则将所述元素从所述已记录运动对象集合中删除以更新所述已记录运动对象集合;C4.扫描所述当前运动对象集合,如果存在某个元素未被标记已匹配,则认为有新的所述运动对象进入视野,则将所述元素添加到所述已记录运动对象集合中以更新所述已记录运动对象集合;以及C5.重复步骤C1至C4,得到各个时刻的所述已记录运动对象集合,将所述已记录运动对象集合中的所述运动对象的相邻两个时刻的所述当前位置进行比较,获得所述运动对象的所述运动方向和所述运动速率。
在本发明的一个实施例中,执行所述步骤C的同时,还包括:记录所述运动对象的可信度,所述可信度用于辅助更新所述已记录运动对象集合,其中,当连续多帧图像检测到所述运动对象时,所述运动对象的所述可信度逐渐累加;当连续多帧图像检测不到所述运动对象时,所述运动对象的所述可信度逐渐递减。
为此,本发明的第二个目的在于提出一种监视范围全面、抗扰动性强、预测准确度高的倒车安全辅助装置。
根据本发明实施例的倒车安全辅助装置,包括:视频采集模块,所述视频采集模块包括置于车尾的摄像头,用于采集车辆倒车路线上的实时视频;运动对象检测模块,所述运动对象检测模块与所述视频采集模块相连,用于在所述实时视频中检测出运动对象,获取所述运动对象的形状尺寸和当前位置;运动对象跟踪模块,所述运动对象跟踪模块与所述运动对象检测模块相连,用于对检测出的所述运动对象进行跟踪,获取所述运动对象的运动方向和运动速率;预警逻辑判断模块,所述预警逻辑判断模块与所述运动对象跟踪模块相连,用于根据所述运动对象的所述形状尺寸、所述当前位置、所述运动方向和所述运动速率,进行预警逻辑判断;以及报警器,所述报警器与所述预警逻辑判断模块相连,根据所述预警逻辑判断模块的判断结果进行报警或不报警。
根据本发明实施例的倒车安全辅助装置,至少具有如下优点:
(1)视频采集模块采用摄像头进行监视,可检测10m范围内的物体,而倒车雷达的最大探测距离仅为2m左右,本发明具有监视范围更广更全面的优点。
(2)运动对象检测模块中,结合帧间差分和背景差分对运动对象进行检测,能够避免光照变化、目标阴影、扰动噪声等外界因素的干扰,能够适应各种场景变化,抗扰动性强、预测准确度高。
(3)运动对象跟踪模块中,采用分布投影算法检测所述运动对象的当前位置,投影的方式将二维空间的图像转化到一维空间,计算量大大减小,数据处理效率高,适用于实时监测。
(4)综合考虑运动对象的形状尺寸、当前位置、运动速率、运动方向的特征信息,判断是否存在行车安全隐患,并确定安全隐患等级,具有真实全面、智能化的优点。
另外,根据本发明上述实施例的倒车安全辅助方法还可以具有如下附加的技术特征:
在本发明的一个实施例中,还包括:图像预处理模块,所述图像预处理模块位于所述视频采集模块与所述运动对象检测模块之间,用于对所述实时视频并进行图像预处理。
在本发明的一个实施例中,所述运动对象检测模块具体包括:背景图像获取模块,其中,如果当前帧是第一帧,所述背景图像获取模块以当前帧的源图像作为当前帧的背景图像,如果当前帧不是第一帧,所述背景图像获取模块采用帧间差分和背景差分相结合方法获得当前帧的背景图像;背景差分图像获取模块,所述背景差分图像获取模块与所述背景图像获取模块相连,用于将当前帧的源图像减去当前帧的背景图像得到背景差分图像;图像二值化模块,所述图像二值化模块与所述背景差分图像获取模块相连,用于对所述背景差分图像进行自适应阈值的图像二值化,分辨出运动区域和非运动区域;背景更新模块,所述背景更新模块与所述图像二值化模块相连,用于对所述运动区域的背景保持不变,对所述非运动区域的背景进行替换更新;以及尺寸位置获取模块,尺寸位置获取模块与所述图像二值化模块相连,用于采用分布投影算法获取运动区域内的运动对象,并获取所述运动对象的形状尺寸和当前位置。
在本发明的一个实施例中,所述图像二值化模块中所述自适应阈值的图像二值化过程的计算公式为:其中α为自适应系数且0<α<1,(i,j)表示第i行第j列的像素,bt(i,j)为t时刻当前帧的背景图像中(i,j)的值,bt-1(i,j)为前一帧的背景图像中(i,j)的值,ft(i,j)为当前帧的源图像中(i,j)的值,Dt(i,j)为t时刻的背景差分图像的二值化结果。
在本发明的一个实施例中,所述运动对象跟踪模块具体包括:当前运动对象集合内存,用于存储当前运动对象集合,所述当前运动对象集合中的元素为当前帧中通过所述运动对象检测模块检测出的所述运动对象;已记录运动对象集合内存,用于存储已记录运动对象集合,所述已记录运动对象集合的元素在0时刻初始化为空,在后续时刻中不断更新;匹配模块,所述匹配模块分别与所述当前运动对象集合内存和已记录运动对象集合内存相连,用于将所述已记录运动对象集合中各个元素逐一与所述当前运动对象集合中的各个元素进行匹配,如果匹配成功,则对所述运动对象的所述形状尺寸和所述当前位置进行更新,并分别在所述当前运动对象集合和所述已记录运动对象集合中标记这两个元素为已匹配;扫描更新模块,所述扫描更新模块分别与所述当前运动对象集合内存和已记录运动对象集合内存相连,用于对所述已记录运动对象集合进行更新,其中,所述扫描更新模块扫描所述已记录运动对象集合,如果存在某个元素未被标记已匹配,认为有旧的所述运动对象离开视野,则所述扫描更新模块将所述元素从所述已记录运动对象集合中删除以更新所述已记录运动对象集合;和所述扫描更新模块扫描所述当前运动对象集合,如果存在某个元素未被标记已匹配,则认为有新的所述运动对象进入视野,则所述扫描更新模块将将所述元素添加到所述已记录运动对象集合中以更新所述已记录运动对象集合;以及运动参数获取模块,与所述已记录运动对象集合内存相连,用于将所述已记录运动对象集合中的所述运动对象的相邻两个时刻的所述当前位置进行比较,获得所述运动对象的所述运动方向和所述运动速率。
在本发明的一个实施例中,所述运动对象跟踪模块中还包括:可信度内存,所述可信度内存用于记录所述运动对象的可信度,所述可信度用于辅助更新所述已记录运动对象集合,其中,当连续多帧图像检测到所述运动对象时,所述运动对象的所述可信度逐渐累加;当连续多帧图像检测不到所述运动对象时,所述运动对象的所述可信度逐渐递减。
为此,本发明的第三个目的在于提出一种监视范围全面、抗扰动性强、预测准确度高的汽车。
根据本发明实施例的汽车,包括本发明上述公开的任一种倒车安全辅助装置。
由于本发明实施例的汽车具有与本发明实施例的倒车安全辅助装置的相似的结构,因此也具有类似的优点。
本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解,其中:
图1是本发明实施例的倒车安全辅助方法的流程示意图;
图2是本发明实施例的倒车安全辅助方法的运动对象检测过程流程示意图;
图3是本发明实施例的倒车安全辅助方法的运动对象跟踪过程流程示意图;和
图4是本发明实施例的倒车安全辅助装置的结构框图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
如图1所示,本发明实施例的倒车安全辅助方法,具体可以包括如下步骤:
A.通过置于车尾的摄像头采集车辆倒车路线上的实时视频。
具体地:通过置于车身尾部的摄像头对车辆倒车路线上的情况进行拍摄,摄像头的有效分辨率为640×480,帧率为30帧/秒。由于摄像头安装位置和角度会直接影响拍摄区域,操作不当则有可能产生盲区,因此该安装过程颇为重要。具体的安装位置和角度根据不同的车型和车身大小而有所不同,优选地,摄像头安装方向采用斜向下倾斜安装,这样可以较好地得到车辆倒车路线上实时状况。
优选地,在完成上述步骤A之后,需要对实时视频并进行图像预处理。具体地:采集完实时视频后,需通过视频解码器将摄像头输入的模拟信号解码为YUV的数字视频,完成A/D转换并输入DSP芯片,DSP通过PPI接口将图像保存。DSP采集并保存图像后,利用3×3的高斯滤波器进行图像去噪和平滑预处理,提高了图像质量。
B.在实时视频中检测出运动对象,获取运动对象的形状尺寸和当前位置。
运动对象检测技术就是把视频图像序列中运动变化的区域一帧一帧地检测分离出来,去除背景图像的影响从而找到感兴趣的目标前景部分。现实环境中,由于光照变化、目标阴影、扰动噪声等外界因素的干扰使得运动对象的准确检测变得相当困难。本实施例的运动对象的检测过程结合图2,具体可以包括如下步骤:
B1.判断当前帧是否为第一帧。
B2.如果当前帧是第一帧,则以当前帧的源图像作为当前帧的背景图像,进入步骤B4。
具体地,记第一帧对应的时刻t=0,则有Back(t)=SourceImage(t),t=0。其中Back(t)表示t时刻当前帧(即第t+1帧)的背景图像,SourceImage(t)表示t时刻当前帧的源图像。
B3.如果当前帧不是第一帧,则采用帧间差分和背景差分相结合方法获得当前帧的背景图像,进入步骤B4。
传统的背景差分算法在运动对象检测一开始选取第一帧或者前几帧的平均值作为背景图像的初始模型,但对于初始帧中含有运动对象,这显然是不准确的,当后续处理中背景更新速度很慢时会对检测造成严重影响。因此本实施例采用帧间差分和背景差分相结合,以提高准确性,具体计算公式如下:
从上式可以看出,SourceImage(t)-Back(t-1)差值较小时,Back(t)几乎与Back(t+1)相等。这意味着该方法具有低通的特性,把运动对象看成随机噪声,进行了背景图像的获取,算法复杂度低。从上式还可以看出,当t变大时,1/t逐渐减小所以公式后半部分可以忽略不计,计算速度快、运算量减小,从而能满足物体检测的实时性。
B4.用当前帧的源图像减去当前帧的背景图像,得到背景差分图像。
具体地,在t时刻,记当前帧的源图像中(i,j)像素点色彩值为ft(i,j),当前帧的背景图像中(i,j)像素点色彩值为bt(i,j),则在当前帧的背景差分图像中(i,j)像素点色彩值为dt(i,j)=ft(i,j)-bt(i,j)。
B5.对背景差分图像进行自适应阈值的图像二值化,分辨出运动区域和非运动区域。
具体地,图像二值化的计算公式为:二值化后取值为1的区域意味着当前帧的源图像和背景图像差异较大,属于运动区域,;二值化后取值为0的区域意味着当前帧的源图像和背景图像差异较小,属于非运动区域。
需要说明的是,非运动区域中,源图像和背景图像的微小差异是由于倒车过程中摄像头视角变化引起的,例如一棵树在倒车视频中也会发生缓慢的位置运动,其属于非运动区域。运动区域中,源图像和背景图像中的差异较大,该差异一方面是倒车过程中摄像头视角变化引起的相对运动,另一方面是由于运动对象本身的绝对运动,例如一条飞奔的小狗在倒车视频中发生明显的位置运动,其属于运动区域。
需要说明的是,T是当前源图像和当前背景差分运算后的二值化阈值。差分后图像的噪声分布很大且具有高斯分布的相同特性,而运动对象区域不具备这种特性,因此通过计算差分图像的均值、标准偏差可以得到相应噪声分布的均值、标准偏差的估计值。根据概率统计原理,高斯分布的随机变量满足3δ原则,因此利用3δ原则求得的阈值T进行二值化处理可以实现对差分图像的噪声最大程度抑制,从而大大降低噪声的干扰,确定出运动区域。
B6.对运动区域的背景保持不变,对非运动区域的背景进行替换更新。
该步骤的计算公式可以为:其中α为自适应系数且0<α<1。其他符号在上文中已有释义,其中(i,j)表示第i行第j列的像素,bt(i,j)为t时刻当前帧的背景图像中(i,j)的值,bt-1(i,j)为前一帧的背景图像中(i,j)的值,ft(i,j)为当前帧的源图像中(i,j)的值,Dt(i,j)为t时刻的背景差分图像的二值化结果。
步骤B6实质上是在步骤B3对背景更新的基础上做更进一步的背景更新。如果仅依靠步骤B3描述的背景更新方法,随着t的增大,背景模型趋于稳定。而实际应用中,随着车辆的运动背景时刻在发生变化,需要对非运动区域背景进行更新。通过步骤B6描述的方法,可以时刻更新非运动区域的背景,并且不影响运动对象的检测。
B7.采用分布投影算法获取运动区域内的运动对象,并获取运动对象的形状尺寸和当前位置。
分步投影算法是指,首先对图像做竖直投影,每个运动对象会在投影结果中产生相应的波峰,因此通过竖直投影可以检测出感兴趣图像区域中运动对象的个数以及各个运动对象的水平边界。然后对每个运动对象在其水平边界内分别做水平投影,其投影结果可以准确反应各个运动对象的竖直边界,从而检测出各个运动对象的边界位置,确定运动对象的形状尺寸和当前位置。分布投影的方式将二维空间的图像转化到一维空间,数据量大大减少,适用于嵌入式***的实时检测。
C.对检测出的运动对象进行跟踪,获取运动对象的运动方向和运动速率。
对运动对象进行跟踪是指:在连续的图像帧间创建基于位置、大小、速度、方向等有关特征的对应匹配以及记录运动对象在视频序列中的运动轨迹。如图3所示,步骤C具体可以包括如下步骤:
C1.提供当前运动对象集合和已记录运动对象集合,当前运动对象集合中的元素为当前帧中通过步骤B检测出的运动对象,已记录运动对象集合的元素在0时刻初始化为空,在后续时刻中通过执行步骤C3和步骤C4进行更新。
C2.将已记录运动对象集合中各个元素逐一与当前运动对象集合中的各个元素进行匹配,如果匹配成功,则对运动对象的形状尺寸和当前位置进行更新,并分别在当前运动对象集合和已记录运动对象集合中标记这两个元素为已匹配。
C3.扫描已记录运动对象集合,如果存在某个元素未被标记已匹配,认为有旧的运动对象离开视野,则将元素从已记录运动对象集合中删除以更新已记录运动对象集合。
C4.扫描当前运动对象集合,如果存在某个元素未被标记已匹配,则认为有新的运动对象进入视野,则将元素添加到已记录运动对象集合中以更新已记录运动对象集合。
需要说明的是,步骤C3和步骤C4可以以先后、后先或同时的顺序进行。
C5.重复C1至C4,得到各个时刻的已记录运动对象集合,将已记录运动对象集合中的运动对象的相邻两个时刻的当前位置进行比较,获得运动对象的运动方向和运动速率。
上述运动对象跟踪方法它是基于特征的运动对象跟踪方法,准确性较高,具有一定的抗噪声性。
根据本发明的一个示例,执行步骤C的同时,还包括:记录运动对象的可信度,可信度用于辅助更新已记录运动对象集合。其中,当连续多帧图像检测到运动对象时,运动对象的可信度逐渐累加;当连续多帧图像检测不到运动对象时,运动对象的可信度逐渐递减。当运动对象具有可信度参数之后,在执行步骤C3时就可以参考该可信度。例如,扫描已记录运动对象集合,首次发现存在某个元素未被标记已匹配(即检测到已记录运动对象集合中的某一元素首次未标记匹配),意味着首次跟踪跟丢了该元素对应的运动对象。此时实际情况未必是该运动对象彻底消失在视野中,也有可能是误差。因此不宜立刻删除该元素,而是减小该元素的可信度,直至可信度小于可信度阈值时,才认为运动对象真正离开,才将元素从已记录运动对象集合中删除。借助于可信度的辅助,使得本实施例的跟踪结果更真实更准确。
D.根据运动对象的形状尺寸、当前位置、运动方向和运动速率,进行预警逻辑判断。
首先,根据上述步骤B和步骤C获取的运动对象的形状尺寸、当前位置、运动方向和运动速率等信息,预测未来短期内的运动对象的运动轨迹。然后,综合判断是否存在行车安全隐患,并确定安全隐患等级。例如,预测到某个运动对象体积较大、其与车辆的相对速度较大、并且其与车辆的相对距离小于安全阈值,则意味着将来很可能会发生剧烈相撞,此时判断此情况为严重安全隐患。又例如,预测到某个运动对象体积较小,其与车辆的相对速度较小,并且其与车辆的相对距离略大于安全阈值,则意味着将来有可能会发生轻微相撞,此时判断此情况为普通安全隐患。本领域技术人员可以根据实际情况灵活地实现步骤D。
E.根据预警逻辑判断的结果进行报警或不报警。
报警可以采用声音报警、光电报警、声音报警和光电报警二者的结合,或者其他形式,对用户进行警示。
根据本发明实施例的倒车安全辅助方法,至少具有如下优点:
(1)采用摄像头进行监视,可检测10m范围内的物体,而倒车雷达的最大探测距离仅为2m左右,本发明具有监视范围更广更全面的优点。
(2)结合帧间差分和背景差分对运动对象进行检测,能够避免光照变化、目标阴影、扰动噪声等外界因素的干扰,能够适应各种场景变化,抗扰动性强、预测准确度高。
(3)采用分布投影算法检测运动对象的当前位置和位置,投影的方式将二维空间的图像转化到一维空间,计算量大大减小,数据处理效率高,适用于实时监测。
(4)通过运动对象跟踪算法在连续的图像帧间创建基于位置、大小、速度、方向等有关特征的对应匹配以及记录运动对象在视频序列中的运动轨迹,准确性高,具有一定的抗噪声性。
(5)综合考虑运动对象的形状尺寸、当前位置、运动速率、运动方向的特征信息,判断是否存在行车安全隐患,并确定安全隐患等级,具有真实全面、智能化的优点。
本发明提出一种倒车安全辅助装置,如图4所示,可以包括:视频采集模块100、运动对象检测模块200、运动对象跟踪模块300和预警逻辑判断模块400。视频采集模块100包括置于车尾的摄像头,用于获取车辆倒车路线上的实时视频。运动对象检测模块200与视频采集模块100相连,用于在实时视频中检测出运动对象,获取运动对象的形状尺寸和当前位置。运动对象跟踪模块300与运动对象检测模块200相连,用于对检测出的运动对象进行跟踪,获取运动对象的运动方向和运动速率。预警逻辑判断模块400与运动对象跟踪模块300相连,用于根据运动对象的形状尺寸、当前位置、运动方向和运动速率,进行预警逻辑判断。报警器500与预警逻辑判断模块400相连,根据预警逻辑判断模块400的判断结果进行报警或不报警。
根据本发明的一个示例,倒车安全辅助装置还可以包括:图像预处理模块600。该图像预处理模块600位于视频采集模块100与运动对象检测模块200之间,用于对采集到的实时视频并进行图像预处理。
根据本发明的一个示例,运动对象检测模块200具体可以包括背景图像获取模块、背景差分图像获取模块、图像二值化模块、背景更新模块和尺寸位置获取模块。背景图像获取模块中,如果当前帧是第一帧,背景图像获取模块以当前帧的源图像作为当前帧的背景图像,如果当前帧不是第一帧,背景图像获取模块采用帧间差分和背景差分相结合方法获得当前帧的背景图像。背景差分图像获取模块与背景图像获取模块相连,用于将当前帧的源图像减去当前帧的背景图像得到背景差分图像。图像二值化模块与背景差分图像获取模块相连,用于对背景差分图像进行自适应阈值的图像二值化,分辨出运动区域和非运动区域。背景更新模块与图像二值化模块相连,用于对运动区域的背景保持不变,对非运动区域的背景进行替换更新。尺寸位置获取模块与图像二值化模块相连,用于采用分布投影算法获取运动区域内的运动对象,并获取运动对象的形状尺寸和当前位置。
根据本发明的一个示例,图像二值化模块中自适应阈值的图像二值化过程的计算公式可以为:其中α为自适应系数且0<α<1,(i,j)表示第i行第j列的像素,bt(i,j)为t时刻当前帧的背景图像中(i,j)的值,bt-1(i,j)为前一帧的背景图像中(i,j)的值,ft(i,j)为当前帧的源图像中(i,j)的值,Dt(i,j)为t时刻的背景差分图像的二值化结果。
根据本发明的一个示例,运动对象跟踪模块300具体可以包括:当前运动对象集合内存、已记录运动对象集合内存、匹配模块、扫描更新模块和运动参数获取模块。当前运动对象集合内存用于存储当前运动对象集合。当前运动对象集合中的元素为当前帧中通过运动对象检测模块检测出的运动对象。已记录运动对象集合内存用于存储已记录运动对象集合。已记录运动对象集合的元素在0时刻初始化为空,在后续时刻中不断更新。匹配模块分别与当前运动对象集合内存和已记录运动对象集合内存相连,用于将已记录运动对象集合中各个元素逐一与当前运动对象集合中的各个元素进行匹配。如果匹配成功,则对运动对象的形状尺寸和当前位置进行更新,并分别在当前运动对象集合和已记录运动对象集合中标记这两个元素为已匹配。扫描更新模块分别与当前运动对象集合内存和已记录运动对象集合内存相连,用于对已记录运动对象集合进行更新。该更新过程分两种情况,第一种情况,扫描更新模块扫描已记录运动对象集合,如果存在某个元素未被标记已匹配,认为有旧的运动对象离开视野,则扫描更新模块将元素从已记录运动对象集合中删除以更新已记录运动对象集合。第二种情况,扫描更新模块扫描当前运动对象集合,如果存在某个元素未被标记已匹配,则认为有新的运动对象进入视野,则扫描更新模块将将元素添加到已记录运动对象集合中以更新已记录运动对象集合。运动参数获取模块与已记录运动对象集合内存相连,用于将已记录运动对象集合中的运动对象的相邻两个时刻的当前位置进行比较,获得运动对象的运动方向和运动速率。
根据本发明的一个示例,运动对象跟踪模块300中还可以包括:可信度内存。该可信度内存用于记录运动对象的可信度,可信度用于辅助更新已记录运动对象集合。当连续多帧图像检测到运动对象时,运动对象的可信度逐渐累加;当连续多帧图像检测不到运动对象时,运动对象的可信度逐渐递减。当扫描更新模块对已记录运动对象集合进行第一种情况的更新时,可以参考可信度。例如,扫描更新模块检测到已记录运动对象集合中的某一元素首次未标记匹配,即意味着首次跟踪跟丢了该元素对应的运动对象。此时实际情况未必是该运动对象彻底消失在视野中,也有可能是误差。因此不宜立刻删除该元素,而是减小该元素的可信度,直至可信度小于可信度阈值时,才认为运动对象真正离开,才将元素从已记录运动对象集合中删除。借助于可信度的辅助,使得本发明的跟踪结果更真实更准确。
本发明实施例的倒车安全辅助装置,用于倒车过程中突然出现在倒车路线上的运动对象检测,提前预警保证安全。
根据本发明实施例的倒车安全辅助装置,至少具有如下优点:
(1)采用摄像头进行监视,可检测10m范围内的物体,而倒车雷达的最大探测距离仅为2m左右,本发明具有监视范围更广更全面的优点。
(2)结合帧间差分和背景差分对运动对象进行检测,能够避免光照变化、目标阴影、扰动噪声等外界因素的干扰,能够适应各种场景变化,抗扰动性强、预测准确度高。
(3)采用分布投影算法检测运动对象的当前位置和位置,投影的方式将二维空间的图像转化到一维空间,计算量大大减小,数据处理效率高,适用于实时监测。
(4)通过运动对象跟踪算法在连续的图像帧间创建基于位置、大小、速度、方向等有关特征的对应匹配以及记录运动对象在视频序列中的运动轨迹,准确性高,具有一定的抗噪声性。
(5)综合考虑运动对象的形状尺寸、当前位置、运动速率、运动方向的特征信息,判断是否存在行车安全隐患,并确定安全隐患等级,具有真实全面、智能化的优点。
本发明还提出一种监视范围全面、抗扰动性强、预测准确度高的汽车。根据本发明实施例的汽车,包括本发明上述公开的任一种倒车安全辅助装置。
由于本发明实施例的汽车具有与本发明实施例的倒车安全辅助装置的相似的结构,因此也具有类似的优点。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在不脱离本发明的原理和宗旨的情况下在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (11)
1.一种倒车安全辅助方法,其特征在于,包括以下步骤:
A.通过置于车尾的摄像头采集车辆倒车路线上的实时视频;
B.结合帧间差分和背景差分在所述实时视频中检测出运动对象,获取所述运动对象的形状尺寸和当前位置,其中,所述步骤B具体包括:B1.判断当前帧是否为第一帧;B2.如果当前帧是第一帧,则以当前帧的源图像作为当前帧的背景图像,进入步骤B4;B3.如果当前帧不是第一帧,则采用帧间差分和背景差分相结合方法获得当前帧的背景图像,进入步骤B4;B4.用当前帧的源图像减去当前帧的背景图像,得到背景差分图像;B5.对所述背景差分图像进行自适应阈值的图像二值化,分辨出运动区域和非运动区域;B6.对所述运动区域的背景保持不变,对所述非运动区域的背景进行替换更新;B7.采用分布投影算法获取运动区域内的运动对象,并获取所述运动对象的形状尺寸和当前位置;
C.对检测出的所述运动对象进行跟踪,获取所述运动对象的运动方向和运动速率;
D.根据所述运动对象的所述形状尺寸、所述当前位置、所述运动方向和所述运动速率,进行预警逻辑判断;以及
E.根据所述预警逻辑判断的结果,进行报警或不报警。
2.根据权利要求1所述的倒车安全辅助方法,其特征在于,还包括:在所述步骤A之后、所述步骤B之前,对所述实时视频并进行图像预处理。
3.根据权利要求1所述的倒车安全辅助方法,其特征在于,所述步骤B5中所述自适应阈值的图像二值化过程的计算公式为:其中α为自适应系数且0<α<1,(i,j)表示第i行第j列的像素,bt(i,j)为t时刻当前帧的背景图像中(i,j)的值,bt-1(i,j)为前一帧的背景图像中(i,j)的值,ft(i,j)为当前帧的源图像中(i,j)的值,Dt(i,j)为t时刻的背景差分图像的二值化结果。
4.根据权利要求1所述的倒车安全辅助方法,其特征在于,所述步骤C具体包括:
C1.提供当前运动对象集合和已记录运动对象集合,所述当前运动对象集合中的元素为当前帧中通过所述步骤B检测出的所述运动对象,所述已记录运动对象集合的元素在0时刻初始化为空,在后续时刻中通过执行步骤C3和步骤C4进行更新;
C2.将所述已记录运动对象集合中各个元素逐一与所述当前运动对象集合中的各个元素进行匹配,如果匹配成功,则对所述运动对象的所述形状尺寸和所述当前位置进行更新,并分别在所述当前运动对象集合和所述已记录运动对象集合中标记这两个元素为已匹配;
C3.扫描所述已记录运动对象集合,如果存在某个元素未被标记已匹配,认为有旧的所述运动对象离开视野,则将所述元素从所述已记录运动对象集合中删除以更新所述已记录运动对象集合;
C4.扫描所述当前运动对象集合,如果存在某个元素未被标记已匹配,则认为有新的所述运动对象进入视野,则将所述元素添加到所述已记录运动对象集合中以更新所述已记录运动对象集合;以及
C5.重复步骤C1至C4,得到各个时刻的所述已记录运动对象集合,将所述已记录运动对象集合中的所述运动对象的相邻两个时刻的所述当前位置进行比较,获得所述运动对象的所述运动方向和所述运动速率。
5.根据权利要求4所述的倒车安全辅助方法,其特征在于,执行所述步骤C的同时,还包括:记录所述运动对象的可信度,所述可信度用于辅助更新所述已记录运动对象集合,其中,
当连续多帧图像检测到所述运动对象时,所述运动对象的所述可信度逐渐累加;
当连续多帧图像检测不到所述运动对象时,所述运动对象的所述可信度逐渐递减。
6.一种倒车安全辅助装置,其特征在于,包括:
视频采集模块,所述视频采集模块包括置于车尾的摄像头,所述视频采集模块用于采集车辆倒车路线上的实时视频;
运动对象检测模块,所述运动对象检测模块与所述视频采集模块相连,用于结合帧间差分和背景差分在所述实时视频中检测出运动对象,获取所述运动对象的形状尺寸和当前位置,其中,所述运动对象检测模块具体包括:背景图像获取模块,其中,如果当前帧是第一帧,所述背景图像获取模块以当前帧的源图像作为当前帧的背景图像,如果当前帧不是第一帧,所述背景图像获取模块采用帧间差分和背景差分相结合方法获得当前帧的背景图像;背景差分图像获取模块,所述背景差分图像获取模块与所述背景图像获取模块相连,用于将当前帧的源图像减去当前帧的背景图像得到背景差分图像;图像二值化模块,所述图像二值化模块与所述背景差分图像获取模块相连,用于对所述背景差分图像进行自适应阈值的图像二值化,分辨出运动区域和非运动区域;背景更新模块,所述背景更新模块与所述图像二值化模块相连,用于对所述运动区域的背景保持不变,对所述非运动区域的背景进行替换更新;尺寸位置获取模块,尺寸位置获取模块与所述图像二值化模块相连,用于采用分布投影算法获取运动区域内的运动对象,并获取所述运动对象的形状尺寸和当前位置;
运动对象跟踪模块,所述运动对象跟踪模块与所述运动对象检测模块相连,用于对检测出的所述运动对象进行跟踪,获取所述运动对象的运动方向和运动速率;
预警逻辑判断模块,所述预警逻辑判断模块与所述运动对象跟踪模块相连,用于根据所述运动对象的所述形状尺寸、所述当前位置、所述运动方向和所述运动速率,进行预警逻辑判断;以及
报警器,所述报警器与所述预警逻辑判断模块相连,根据所述预警逻辑判断模块的判断结果进行报警或不报警。
7.根据权利要求6所述的倒车安全辅助装置,其特征在于,还包括:图像预处理模块,所述图像预处理模块位于所述视频采集模块与所述运动对象检测模块之间,用于对所述实时视频并进行图像预处理。
8.根据权利要求6所述的倒车安全辅助装置,其特征在于,所述图像二值化模块中所述自适应阈值的图像二值化过程的计算公式为:其中α为自适应系数且0<α<1,(i,j)表示第i行第j列的像素,bt(i,j)为t时刻当前帧的背景图像中(i,j)的值,bt-1(i,j)为前一帧的背景图像中(i,j)的值,ft(i,j)为当前帧的源图像中(i,j)的值,Dt(i,j)为t时刻的背景差分图像的二值化结果。
9.根据权利要求6所述的倒车安全辅助装置,其特征在于,所述运动对象跟踪模块具体包括:
当前运动对象集合内存,用于存储当前运动对象集合,所述当前运动对象集合中的元素为当前帧中通过所述运动对象检测模块检测出的所述运动对象;
已记录运动对象集合内存,用于存储已记录运动对象集合,所述已记录运动对象集合的元素在0时刻初始化为空,在后续时刻中不断更新;
匹配模块,所述匹配模块分别与所述当前运动对象集合内存和已记录运动对象集合内存相连,用于将所述已记录运动对象集合中各个元素逐一与所述当前运动对象集合中的各个元素进行匹配,如果匹配成功,则对所述运动对象的所述形状尺寸和所述当前位置进行更新,并分别在所述当前运动对象集合和所述已记录运动对象集合中标记这两个元素为已匹配;
扫描更新模块,所述扫描更新模块分别与所述当前运动对象集合内存和已记录运动对象集合内存相连,用于对所述已记录运动对象集合进行更新,其中,
所述扫描更新模块扫描所述已记录运动对象集合,如果存在某个元素未被标记已匹配,认为有旧的所述运动对象离开视野,则所述扫描更新模块将所述元素从所述已记录运动对象集合中删除以更新所述已记录运动对象集合;和
所述扫描更新模块扫描所述当前运动对象集合,如果存在某个元素未被标记已匹配,则认为有新的所述运动对象进入视野,则所述扫描更新模块将将所述元素添加到所述已记录运动对象集合中以更新所述已记录运动对象集合;以及
运动参数获取模块,与所述已记录运动对象集合内存相连,用于将所述已记录运动对象集合中的所述运动对象的相邻两个时刻的所述当前位置进行比较,获得所述运动对象的所述运动方向和所述运动速率。
10.根据权利要求9所述的倒车安全辅助装置,其特征在于,所述运动对象跟踪模块中还包括:可信度内存,所述可信度内存用于记录所述运动对象的可信度,所述可信度用于辅助更新所述已记录运动对象集合,其中,
当连续多帧图像检测到所述运动对象时,所述运动对象的所述可信度逐渐累加;
当连续多帧图像检测不到所述运动对象时,所述运动对象的所述可信度逐渐递减。
11.一种汽车,其特征在于,包括权利要求6-10中任一项所述的倒车安全辅助装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310451913.0A CN104512329B (zh) | 2013-09-27 | 2013-09-27 | 倒车安全辅助方法、装置及汽车 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201310451913.0A CN104512329B (zh) | 2013-09-27 | 2013-09-27 | 倒车安全辅助方法、装置及汽车 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104512329A CN104512329A (zh) | 2015-04-15 |
CN104512329B true CN104512329B (zh) | 2017-04-05 |
Family
ID=52788373
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310451913.0A Active CN104512329B (zh) | 2013-09-27 | 2013-09-27 | 倒车安全辅助方法、装置及汽车 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104512329B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106608221B (zh) * | 2015-10-26 | 2019-06-25 | 比亚迪股份有限公司 | 车辆盲区的检测***和方法 |
CN105946718B (zh) * | 2016-06-08 | 2019-04-05 | 深圳芯智汇科技有限公司 | 车载终端及其切换显示倒车影像的方法 |
CN107644528A (zh) * | 2017-08-02 | 2018-01-30 | 浙江工业大学 | 一种基于车辆跟踪的车辆排队长度检测方法 |
CN108297794B (zh) * | 2018-01-11 | 2022-11-18 | 阿尔派株式会社 | 停车支援装置及行驶预测线显示方法 |
CN109145805B (zh) * | 2018-08-15 | 2021-05-14 | 深圳市豪恩汽车电子装备股份有限公司 | 车载环境下的移动目标检测方法及*** |
CN109243150A (zh) * | 2018-09-30 | 2019-01-18 | 深圳市金豪泰科技有限公司 | 一种车辆预警方法及终端 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101256073A (zh) * | 2007-02-28 | 2008-09-03 | 三洋电机株式会社 | 车辆四周监视装置及方法 |
CN102774325A (zh) * | 2012-07-31 | 2012-11-14 | 西安交通大学 | 一种后视倒车辅助***和形成后视障碍图像的方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004114879A (ja) * | 2002-09-27 | 2004-04-15 | Clarion Co Ltd | 駐車補助装置および画像表示装置 |
DE102005023177A1 (de) * | 2005-05-19 | 2006-11-30 | Robert Bosch Gmbh | Verfahren zur Fahrerunterstützung |
EP3594853A3 (en) * | 2007-05-03 | 2020-04-08 | Sony Deutschland GmbH | Method for detecting moving objects in a blind spot region of a vehicle and blind spot detection device |
DE102010042063B4 (de) * | 2010-10-06 | 2021-10-28 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Bestimmen von aufbereiteten Bilddaten über ein Umfeld eines Fahrzeugs |
CN103150748B (zh) * | 2013-03-18 | 2017-03-22 | 大连慈航电子有限公司 | 倒车影像3d 场景重构方法和*** |
-
2013
- 2013-09-27 CN CN201310451913.0A patent/CN104512329B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101256073A (zh) * | 2007-02-28 | 2008-09-03 | 三洋电机株式会社 | 车辆四周监视装置及方法 |
CN102774325A (zh) * | 2012-07-31 | 2012-11-14 | 西安交通大学 | 一种后视倒车辅助***和形成后视障碍图像的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN104512329A (zh) | 2015-04-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104512329B (zh) | 倒车安全辅助方法、装置及汽车 | |
US11643076B2 (en) | Forward collision control method and apparatus, electronic device, program, and medium | |
CN104517111B (zh) | 车道线检测方法、***、车道偏离预警方法及*** | |
Chan et al. | Vehicle detection under various lighting conditions by incorporating particle filter | |
CN110738121A (zh) | 一种前方车辆检测方法及检测*** | |
Yousaf et al. | Comparative analysis of automatic vehicle classification techniques: a survey | |
WO2019026785A1 (ja) | 付着物検出装置、および、それを備えた車両システム | |
CN111198371A (zh) | 前视障碍物检测*** | |
CN1862620A (zh) | 高速公路汽车行驶智能检测预警方法及其预警*** | |
CN107274678B (zh) | 一种基于Kinect的夜间车流量统计及车型识别方法 | |
AU2013316125B2 (en) | Backward movement indicator apparatus for a vehicle | |
CN105930787A (zh) | 车辆开门预警方法 | |
CN109703460A (zh) | 多摄像头的复杂场景自适应车辆碰撞预警装置及预警方法 | |
CN104881645A (zh) | 基于特征点互信息量和光流法的车辆前方目标的检测方法 | |
CN110298300A (zh) | 一种检测车辆违章压线的方法 | |
CN102496281A (zh) | 一种基于跟踪与虚拟线圈结合的车辆闯红灯检测方法 | |
CN106570487A (zh) | 物体间的碰撞预测方法和装置 | |
CN1606033A (zh) | 红外图像序列中弱小目标的检测和跟踪方法 | |
Kraus et al. | The radar ghost dataset–an evaluation of ghost objects in automotive radar data | |
CN115100618B (zh) | 一种多源异构感知信息多层级融合表征与目标识别方法 | |
Sonoda et al. | Moving objects detection at an intersection by sequential background extraction | |
CN202885814U (zh) | 基于单目视觉的复杂道路环境下障碍实时检测装置 | |
Chen et al. | A hierarchical accident recognition method for highway traffic systems | |
Frías-Velázquez et al. | A mathematical morphology-based approach for vehicle detection in road tunnels | |
Gu et al. | Real-Time Vehicle Passenger Detection Through Deep Learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |