CN104517098B - 滤波装置及环境识别*** - Google Patents
滤波装置及环境识别*** Download PDFInfo
- Publication number
- CN104517098B CN104517098B CN201410503511.5A CN201410503511A CN104517098B CN 104517098 B CN104517098 B CN 104517098B CN 201410503511 A CN201410503511 A CN 201410503511A CN 104517098 B CN104517098 B CN 104517098B
- Authority
- CN
- China
- Prior art keywords
- waveform
- estimate
- evaluation
- difference
- correlation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/32—Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
Abstract
本发明涉及一种滤波装置及环境识别***,通过对评价函数的评价值进行恰当地评价而能够有效地排除本来应视为无效的差分值。本发明的滤波装置具备:评价值导出部(160),对于具有相互关联性的一对图像,导出表示从一个图像任意地提取的区块和从另一个比较对象提取的多个区块之间的相关性的多个评价值;基准波形设定部(162),在根据多个评价值而形成的变化波形中设定包含相关性最高的评价值的基准波形;差值判定部(164),判定变化波形中是否存在与基准波形相似的相似波形,并基于该判定结果来判定相关性最高的评价值作为差值是否有效。
Description
技术领域
本发明涉及求出多个比较对象中的对象物的差值(视差)时,判定该差值是否有效的滤波装置和环境识别***。
背景技术
以往,检测位于本车辆的前方的车辆等特定物,以避免与前行车辆的碰撞(碰撞回避控制),或以使本车辆与前行车辆的车距保持在安全距离的方式进行控制(巡航控制)的技术已被人所知(例如,专利文献1)。
在这样的碰撞回避控制、巡航控制中,为了得到位于本车辆前方的对象物的与本车辆之间的相对距离,例如使用视角不同的两个摄像装置,分别从其中获取图像数据,并利用图案匹配导出视差,所谓图案匹配是从基于另一个图像数据的图像(以下,称为比较图像)中检索与基于从一个图像数据的图像(以下,称为基准图像)任意提取的区块(以下,称为基准区块)相关性高的区块(以下,称为比较区块)。然后,参照摄像装置的设置位置和/或焦距等拍摄参数,使用通过三角测量法进行的所谓立体视觉法,由被导出的视差求出对象物相对于摄像装置的相对距离,变换为相对距离加上水平距离和高度的三维位置信息。然后,使用该三维位置信息进行各种识别处理。在此,“水平”表示画面横向,后述的“垂直”表示画面纵向。
在上述图案匹配中,在比较图像上一边使区块沿水平方向移动一边计算与基准图像的区块的相关性,将相关性最高的区块在比较图像上的坐标与基准图像的区块的坐标的差分(差值)设为视差。然而,在水平方向上存在具有相似特征的对象物和/或在对象物中具有相似特征的对象部位的情况下,有可能与相似的其他对象物和/或对象部位形成匹配,从而导出错误的视差。
因此,公开有如下的技术:在图案匹配中,当比较图像的一个比较区块与基准图像的多个基准区块的相关性变得最高时,仅将与视差最小的基准区块相关的视差作为有效(例如,专利文献2)。
现有技术文献
专利文献
专利文献1:日本专利第3349060号公报
专利文献2:日本专利第3287465号公报
发明内容
然而,在相似的对象物和/或对象部位例如连续存在三个以上的情况下,如果基准图像的对象物与比较图像的分离的其他对象物和/或对象部位形成匹配,则导出的视差(差值)与本来的视差相距甚远,从而有可能将本来比存在于车辆前方的对象物位于更远的对象物误判断为位于比存在于车辆前方的对象物更靠近的位置。在此,即使采用专利文献2的技术,如果一旦将错误地导出的视差判定为有效,则依然可能发生前述的现象。也就是说,在这样的相似的对象物/或对象部位连续存在的情况下,无法有效地排除本来应视为无效的视差。
本发明鉴于这样的问题,其目的在于提供一种通过对评价函数的评价值进行恰当地评价而能够有效地排除本来应无效的差值的滤波装置和环境识别***。
为了解决上述问题,本发明的滤波装置的特征在于具备:评价值导出部,对于具有相互关联性的一对比较对象,导出表示从一个比较对象任意地提取的提取部位和从另一个比较对象提取的多个提取部位之间的相关性的多个评价值;基准波形设定部,在根据多个评价值而形成的变化波形中设定包含相关性最高的评价值的基准波形;差值判定部,判定变化波形中是否存在与基准波形相似的相似波形,并基于判定结果来判定相关性最高的评价值作为差值是否有效。
差值判定部可以将从变化波形的斜率变为0的极值点的评价值的绝对值、相关性最高的评价值与变化波形的斜率为0且在变化波形上与成为相关性最高的评价值的极值点在水平位置上相邻的极值点的的评价值之间的差分、以及相关性最高的评价值与满足预定条件的极值点之间的水平方向的差分中选择的一个或多个参数与基准波形相近似的波形作为相似波形。
基准波形设定部可以在从相关性最高的评价值到变化波形的斜率为0且与成为相关性最高的评价值的极值点在水平位置上相邻的两个极值点为止的两个波形之中,将相关性最高的评价值与极值点的评价值之间的差分大的波形设定为基准波形。
比较对象可以是图像,提取部位可以是由图像中的一个或多个像素构成的区块。
为了解决上述问题,本发明的环境识别***的特征在于具备:摄像装置,生成具有相互关联性的一对图像;评价值导出部,对于所生成的一对图像,导出表示从一个图像任意地提取的区块和从另一个图像提取的多个区块之间的相关性的多个评价值;基准波形设定部,在根据多个评价值而形成的变化波形中设定包含相关性最高的评价值的基准波形;差值判定部,判定变化波形中是否存在与基准波形相似的相似波形,并基于该判定结果来判定相关性最高的评价值作为视差是否有效。
根据本发明,通过对评价函数的评价值进行恰当地评价而能够有效地排除本来应无效的差值。
附图说明
图1是表示环境识别***的连接关系的框图。
图2是表示车外环境识别装置的大致功能的功能框图。
图3是说明平均值差分匹配的动作的说明图。
图4是例示了基准图像和比较图像的说明图。
图5是表示任意的两个区域的评价值的变化的说明图。
图6是用于说明极值点的确定处理的说明图。
图7是用于说明基准波形的说明图。
图8是用于说明差值判定部中的相似波形的限定的说明图。
图9是用于说明差值判定部中的相似波形的限定的说明图。
图10是用于说明差值判定部中的相似波形的限定的说明图。
符号说明
100:环境识别*** 110:摄像装置
120:车外环境识别装置(滤波装置) 160:评价值导出部
162:基准波形设定部 164:差值判定部
200:基准图像 204:基准区块
210:比较图像 214:比较区块
具体实施方式
以下,参照附图对本发明的优选的实施方式进行详细说明。所述实施方式所示的尺寸、材料、其他具体的数值等仅仅是用来使发明容易理解的例示,除了特别声明的情况以外,并不限定本发明。应予说明,在本说明书和附图中,对于实际上具有相同的功能、构成的要素,标记相同的符号,因而省略重复说明,并且与本发明没有直接关系的要素省略图示。
近年来,搭载了防碰撞功能的车辆逐渐被普及,所谓碰撞防止功能是指通过搭载于车辆的车载照相机拍摄本车辆的前方的道路环境,基于图像(比较对象)内的颜色信息和/或位置信息,确定前行车辆等的对象物,避免本车辆与被确定的对象物之间的碰撞,将本车辆与前行车辆之间的车距保持在安全的距离(ACC:Adaptive Cruise Control,自适应巡航控制)。
在所述碰撞防止功能中,为了得到位于本车辆前方的对象物的与本车辆的相对距离,例如使用视角不同的两个摄像装置,对从两个摄像装置分别取得的一对比较对象即基准图像和比较图像进行比较,并使用所谓的图案匹配提取相关性高的区块(提取部位)。然而,在图像上的水平方向连续多次出现具有相似特征的对象物和/或在对象物中具有相似特征的对象部位的情况下,与相似的其他对象物和/或对象部位形成图案匹配,从而存在导出错误的视差(差值)的可能性。因此,在本实施方式中,其目的在于,判断是否存在与变化波形,即评价值的最小值(相关性成为最高的值)附近的波形相似的波形(波形是否有重复性),从而有效地排除本来应无效的视差,其中,变化波形是根据图案匹配的评价函数中的评价值而形成的波形。在此,区块表示由图像中的一个或者多个图像构成的部位。以下,说明用于实现这样的目的的环境识别***,详细描述作为其具体的构成要素的设置于车外环境识别装置的滤波装置。
(环境识别***100)
图1是表示环境识别***100的连接关系的框图。环境识别***100构成为包含设置于本车辆1内的摄像装置110、车外环境识别装置120和车辆控制装置(ECU:EngineControl Unit,发动机控制单元)130。
摄像装置110构成为包含电荷耦合器件(CCD,Charge-Coupled Device)和/或互补金属氧化半导体(CMOS,Complementary Metal-Oxide Semiconductor)等拍摄元件,所述摄像装置110能够拍摄与本车辆1的前方相当的环境,并生成由三个色相(R(红)、G(绿)、B(蓝))构成的彩色图像和/或单色图像。在此,采用利用摄像装置110拍摄的彩色图像作为亮度图像,区别于后述的距离图像。
另外,摄像装置110在本车辆1的行进方向侧使两个摄像装置110以各自的光轴大致平行的方式在大致水平方向上分离而设置。摄像装置110例如按照1/60秒每帧(60fps)连续生成对本车辆1的前方的检测区域中存在的对象物进行拍摄而得到的图像数据。在此,识别的对象物不仅包括车辆、行人、信号灯、道路(前行路)、护栏、建筑物之类的独立存在的立体物,还包括尾灯或闪烁警示灯、信号灯的各亮灯部分等能够确定为立体物的一部分的物体。以下的实施方式中的各功能部以如此的图像数据的更新作为契机按帧进行各处理。
车外环境识别装置120分别从两个摄像装置110取得图像数据,使用所谓的图案匹配导出视差,将被导出的视差信息(相当于后述的相对距离)与图像数据对应关联而生成距离图像。对于图案匹配,在后面进行详细描述。另外,车外环境识别装置120使用基于亮度图像的亮度、和包含基于距离图像的与本车辆1之间的相对距离的实际空间中的三维位置信息,将亮度相等的且三维位置信息相近的区块彼此作为对象物而进行群组化,从而确定本车辆1前方的检测区域中的对象物是否与哪个特定物对应。
若确定了特定物,则车外环境识别装置120一边追踪该特定物(例如,前行车辆),一边导出特定物的相对速度等,进行特定物与本车辆1碰撞的可能性是否高的判定。其中,当判定为碰撞的可能性高时,车外环境识别装置120将该情况通过设置于驾驶员的前方的显示器122向驾驶员进行警告显示(报告),并且对车辆控制装置130输出表示该情况的信息。
车辆控制装置130通过方向盘132、加速踏板134、制动踏板136接收驾驶员的操作输入,并传送到转向机构142、驱动机构144、制动机构146,从而控制本车辆1。另外,车辆控制装置130依照车外环境识别装置120的指示,控制驱动机构144、制动机构146。
以下,对车外环境识别装置120的构成进行详细描述。在此,对本实施方式中特征性的求出滤波装置中的对象物的视差的处理进行详细说明,对与本实施方式的特征无关的构成省略说明。
(车外环境识别装置120)
图2是表示车外环境识别装置120的大致功能的功能框图。如图2所示,车外环境识别装置120包含I/F部150、数据存储部152和中央控制部154。
I/F部150是用于进行与摄像装置110和/或车辆控制装置130进行双向的信息交换的接口。数据存储部152由RAM、闪存、HDD等构成,以存储以下所示的各功能部的处理所需的各种信息,另外,临时存储从摄像装置110接收到的图像数据。
中央控制部154由包含中央处理装置(CPU)、储存有程序等的ROM、作为工作区域的RAM等的半导体集成电路构成,该中央控制部154通过***总线156来控制I/F部150、数据存储部152等。另外,在本实施方式中,中央控制部154还作为评价值导出部160、基准波形设定部162、差值判定部164发挥功能。另外,评价值导出部160、基准波形设定部162以及差值判定部164还作为滤波装置发挥功能。以下,对图案匹配处理的详细动作进行说明。
(图案匹配处理)
评价值导出部160分别从两个摄像装置110取得图像数据,针对基于取得的两个图像数据且相互具有关联性的一对图像,导出多个评价值,所述多个评价值表示从成为基准的一个图像(基准图像)任意提取的区块与从作为比较对象的另一个图像(比较图像)提取的多个区块之间的相关性。
作为该图案匹配,可以考虑在一对图像之间,以任意的区块为单位比较亮度(Y色差信号)。例如有求出亮度的差值的绝对差值和(SAD,Sum of Absolute Difference)、将差值平方后使用的差值的平方和(SSD,Sum of Squared intensity Difference)、求出从各像素的亮度减去平均值而得到的分散值的相似度的归一化互相关(NCC,Normalized CrossCorrelation)等方法。其中,此处是举出SAD作为例子进行说明。另外,在本实施方式中,进行如下的平均值差分匹配:求出基准图像和比较图像的区块周围的像素的亮度的平均值,基于从区块内的亮度减去各自的平均值而得到的结果来导出评价值。以下,对平均值差分匹配的动作进行说明。
图3是说明平均值差分匹配的动作的说明图。首先,如图3的(a)所示,评价值导出部160从基准图像200中例如提取水平4个像素×垂直4个像素的由像素202的排列所表示的区块(以下,称为基准区块)204。然后,在以后的处理中,依次提取基准区块204,按照每个提取出的基准区块204导出视差。在此,虽然将基准区块204设定为水平4个像素×垂直4个像素,但基准区块204内的像素数量可以任意设定。
在所述基准区块204中,对于相邻的基准区块204彼此的像素不进行重叠。另外,在本实施方式中,由于使基准区块204彼此相邻,因而例如对于投射到检测区域(例如水平600个像素×垂直180个像素)的全部的像素202,水平150×垂直45=6750个区块作为基准区块204依次被提取。
但是,如上所述,在本实施方式中由于采用了平均值差分匹配,因此如图3的(b)所示,评价值导出部160基于下述数学式1,求出以基准区块204为中心的由基准区块204的周围的水平8个像素×垂直8个像素表示的区域206内的像素202的亮度Rb(i,j)的平均值Ab。
Ab=ΣRb(i,j)/64…(数学式1)
其中,i是由1~8表示的区域206内的水平像素位置,j是由1~8表示的区域206内的垂直像素位置。另外,在区域206未被收纳于基准图像200的情况下(因端部而区域206缺失的情况),省略未被收纳的部分而求出平均值Ab。
然后,评价值导出部160如下述数学式2那样,从基准区块204内的像素202的亮度Eb(i,j)减去上述平均值Ab,导出平均值差分亮度EEb(i,j)。
EEb(i,j)=Eb(i,j)-Ab…(数学式2)
其中,i是由1~4表示的基准区块204内的水平像素位置,j是由1~4表示的基准区块204内的垂直像素位置。
接着,评价值导出部160如图3的(c)所示从比较图像210,例如提取由水平4个像素×垂直4个像素的像素212的排列所表示的区块(以下,称为比较区块)214。在此,针对一个基准区块204,依次提取多个比较区块214,导出分别表示与基准区块204的相关性的评价值。
对于所述比较区块214而言,例如在水平方向上每次移动1个像素地被提取,所以相邻的比较区块214彼此的像素重叠。在本实施方式中,对于一个基准区块204,从与基准区块204相当的位置216在水平方向的左右提取合计128个比较区块214。因此,提取范围(探索范围)变成水平(128+3=)131个像素×垂直4个像素。与基准区块204相当的位置216与提取范围的位置关系根据基准图像200与比较图像210的视差的出现形态而设定。
但是,如上所述,由于在本实施方式中采用了平均值差分匹配,因此与基准区块204同样,评价值导出部160基于下述数学式3求出以比较区块214为中心的由比较区块214的周围的水平8个像素×垂直8个像素表示的区域内的像素的亮度Rc(i,j)的平均值Ac。
Ac=ΣRc(i,j)/64…(数学式3)
其中,i是由1~8表示的区域内的水平像素位置,j是由1~8表示的区域内的垂直像素位置。
然后,评价值导出部160如下述数学式4那样,从比较区块214内的像素的亮度Ec(i,j)中减去上述平均值Ac,导出平均值差分亮度EEc(i,j)。
EEc(i,j)=Ec(i,j)-Ac…(数学式4)
其中,i是由1~4表示的比较区块214内的水平像素位置,j是由1~4表示的比较区块214内的垂直像素位置。
接着,如下述数学式5所示,评价值导出部160从基准区块204的各像素202的平均值差分亮度EEb(i,j)减去比较区块214内的相当于相同的位置的各像素212的平均值差分亮度EEc(i,j),将其累加导出评价值S。
S=Σ(EEb(i,j)-EEc(i,j))…(数学式5)
这样被导出的多个评价值S越小,即差分越小,相关性越高。因此,针对一个基准区块204的与比较区块214之间的多个(这里是128个)评价值中,最小的评价值(最小值)的位置成为表示视差的一端的位置的候补。
当针对任意的基准区块204的评价值的最小值被导出时,评价值导出部160使与其最小值相当的比较区块214的坐标与基准区块204(相当于基准区块204的位置216)的坐标的差分作为视差存储到数据存储部152的预定的区域中。因此,在数据存储部152,存储有水平150×垂直45=6750个基准区块204的视差。
由于上述平均值差分匹配中仅将图像的高频成分作为匹配的对象,从而具有与高通滤波器等价的作用,因此能够去除低频噪音。另外,即使对于基准图像200与比较图像210之间的亮度的轻微的失衡的影响、照相机和/或模拟电路部件的老化所导致的增益变化的影响,也能够提高视差的确定精度,且提高视差的导出精度。
图4是例示了基准图像200和比较图像210的说明图。在此,从视角不同的两个摄像装置110取得的一对图像中,将如图4的(a)所示的来自位于右侧的摄像装置110的图像设定为基准图像200,将图4的(b)所示的来自位于左侧的摄像装置110的图像设定为比较图像210。
当评价值导出部160基于基准图像200和比较图像210导出评价值时,例如在如图4的(a)所示的区域220中,车辆的侧端产生边缘,易于进行图案匹配,能够容易地导出视差。
另一方面,如图4的(a)所示的区域222的外壁那样,在水平方向上连续重复具有相似的特征的对象部位(在此,栅栏的图案)的情况下,基准图像200的基准区块204与比较图像210内的本来不应被匹配的比较区块214形成匹配,从而有可能导出错误的视差。
图5是表示前述两个区域220、222的评价值的变化的说明图,图5的(a)表示区域220中的任意的基准区块204的示例,图5的(b)表示区域222中的任意的基准区块204的示例。另外,在图5的(a)、(b)中,横轴表示比较区块214的水平位置,纵轴表示评价值。在此,评价值越小表示相关性越高。
在图5的(a)中,区域220中被比较的区块彼此是具有特点的区块,因此评价值较小的部分会局部性地突出,从而明显地出现最小值。另一方面,在图5的(b)中,出现多个与评价值的最小值相当的波形向下凸出的极值点(斜率为0的点),而根据基准图像200和比较图像210的显示形态,尤其是,位于最小值附近的其他极值点变为最小值,从而有可能将其极值点误识别为视差。
因此,在本实施方式中,关注作为根据图案匹配的评价值而形成的波形的变化波形,判断是否存在与评价值的最小值(相关性最高的值)附近的波形相似的波形,即变化波形是否具有重复性,并当变化波形中存在有多个相似的波形时,视为其评价值不够可靠,且判定为作为视差是无效的。以下,详细描述该处理。
基准波形设定部162由根据多个评价值而形成的变化波形确定极值点的同时,基于所确定的极值点中的相关性最高的评价值(最小值)和其他的极值点来设定包含最小值的基准波形。
图6是用于说明极值点的确定处理的说明图。极值点是变化波形的斜率为0的点,因而该极值点的水平方向前后的两个点均变为极值点以上或以下的值。具体地讲,假设相邻的三个点的比较区块214的水平位置和评价值为(x-1,s0)、(x,s1)(x+1,s2)。当所述点彼此的关系满足下述数学式6或者数学式7时,点彼此的关系变为如图6的(a)所示,变成水平位置x的评价值s1为向下凸出的极值点(以下,称为谷极值点)。
s0≧s1且s1<s2…(数学式6)
s0>s1且s1≦s2…(数学式7)
另外,当点彼此的关系满足下述数学式8或者数学式9时,点彼此的关系变为如图6的(b)所示,变成水平位置x的评价值s1为向上凸出的极值点(以下,称为峰极值点)。
s0≦s1且s1>s2…(数学式8)
s0<s1且s1≧s2…(数学式9)
图7是用于说明基准波形的说明图。基准波形设定部162导出作为谷极值点的最小值和与最小值在水平位置上相邻的两个极值点(峰极值点)的评价值的差分。这样,导出与位于水平方向左侧的峰极值点的评价值的差分Hl和与位于水平方向右侧的峰极值点的评价值的差分Hr。然后,如图7所示,基准波形设定部162在两个波形中将最小值与峰极值点的评价值的差分较大的一侧(在此,评价值的差分Hl侧)的极值点之间的变化波形设定为基准波形。当然,当评价值的差分Hr大于差分Hl时,评价值的差分Hr侧的极值点之间的变化波形变为基准波形。
如此,通过针对最小值仅将与其一侧的极值点之间的波形设为基准波形,从而可以减轻比较波形时的处理负荷。并且,作为极值点,通过选择大于与最小值的评价值的差分的极值点,即,选择更具有特点的极值点,从而可高精度地提取与基准波形相似的波形。
差值判定部164判定在变化波形中是否存在与基准波形相似的相似波形,并基于该结果判定评价值的最小值作为视差是否有效。为了判定是否存在与基准波形相似的相似波形,差值判定部164通过多个条件而限定波形,检测出满足所有条件的波形。在本实施方式中,假设满足三个条件的波形为相似波形。
图8至图10是用于说明差值判定部164中的相似波形的限定的说明图。首先,如图8的(a)那样,差值判定部164从变化波形中将与由点划线表示的基准波形具有相同倾向的波形(即,在水平方向左侧具有峰极值点且在水平方向右侧具有谷极值点的图8的(a)中用实线表示的波形)全部提取而作为相似波形的候补。接着,如图8的(b)那样,差值判定部164排除谷极值点的评价值的绝对值与基准波形的谷极值点(最小值)不相近似的波形,即,排除谷极值点的评价值的绝对值为预定的阈值以上的由图中的虚线表示的波形。这样,只有谷极值点的评价值的绝对值为小于预定的阈值的波形作为相似波形的候补而被留下。
在此,预定的阈值D根据下述数学式10而确定。
D=H×Gd+P+B…(数学式10)
其中,H为前述评价值的差分Hl和Hr中较大的差分,Gd表示设定的增益,P表示最小值,B表示任意的偏移量。
根据所述构成,可以有效地排除谷极值点的评价值的绝对值远离最小值的不应被认定为视差的波形。
接着,如图9那样,差值判定部164在根据数学式10而被缩小范围的波形中,排除与最小值和峰极值点的评价值的差分不相近的(即,峰极值点和谷极值点的评价值的差分V没有落入定范围的)用虚线表示的波形。这样,只有峰极值点和谷极值点的评价值的差分V落入预定范围内的波形作为相似波形的候补而被留下。
在此,是否处于预定范围是根据下述数学式11而确定。
H×Gl<V<H×Gh…(数学式11)
其中,H为前述评价值的差分Hl和Hr中较大的差分,G1、Gh为分别定义上限和下限的增益。
根据所述构成,能够有效地排除峰极值点与谷极值点之间的评价值的差分V远离基准波形中的峰极值点与谷极值点之间的评价值的差分的不应被认定为与基准波形相似的波形。
接着,如图10那样,在差值判定部164通过数学式11而被缩小范围的波形中,排除与从最小值到满足预定的条件的谷极值点为止的水平方向上的差分不相似的波形,即排除如下述数学式12所示从最小值到预定的谷极值点为止的水平方向上的差分W与通过数学式11而被缩小范围的波形的谷极值点彼此的水平方向上的差分X之差的绝对值为预定的阈值T以上的用虚线表示的波形。这样,只有谷极值点彼此的水平方向上的差分与从最小值到预定的谷极值点为止的水平方向上的差分相似的波形作为相似波形的候补而被留下。
|W-X|<T…(数学式12)
其中,预定的谷极值点是通过数学式11而被缩小范围的波形中与基准波形是属于水平方向上位于前后的两个波形中的任意一个波形的谷极值点。在图10的示例中,将位于基准波形的左侧的波形的谷极值点设为预定的谷极值点,然而,当然也可以将位于基准波形的右侧的波形的谷极值点设为预定的谷极值点。差值判定部164如此将留下来的波形设定为相似波形。
根据该构成,可以有效地排除谷极值点彼此的水平方向上的差分X远离于从最小值到预定的谷极值点为止的水平方向上的差分W的不应被认定为波形间的距离与包含基准波形的波形间的距离相似的波形。
接着,差值判定部164基于作为通过数学式12而被缩小范围的波形的一个或多个相似波形来判定最小值作为视差是否有效。具体地,差值判定部164基于相似波形的数量(或者,其谷极值点的数量)是否为预定的阈值(例如,2)以上,如图10那样,如果相似波形为预定的阈值以上,则使得最小值作为视差失效。
并且,除此之外,代替前述的相似波形的数量,还可以判定相似波形是否是基准波形的水平方向前后的波形。例如,在图10的示例中,相似波形存在于基准波形的水平方向前后,因而使得最小值作为视差失效。
如以上说明,在本实施方式中,通过多个条件来判定是否存在与评价值的最小值附近的波形相似的波形,即判定变化波形是否有重复性,如果在变化波形中相似的波形存在有多个,则其评价值不够可靠,而作为视差失效。这样,可以有效地排除本来应无效的视差。
另外,还提供使计算机作为上述的滤波装置和/或环境识别***发挥功能的程序或记录了该程序的计算机可读取的软盘、光盘、ROM、CD、DVD、BD等存储介质。在此,程序是指采用任意的语言或记录方法而记录的数据处理单元。
以上,参照附图,对本发明的优选实施方式进行了说明,但本发明当然也不限于所述实施方式。应了解的是,若本领域的技术人员在权利要求书中记载的范围内,能够想到各种的变更例或修改例,这是显而易见的,对于这些当然也属于本发明的技术范围。
例如,在上述的实施方式中,作为比较对象,举出使用视角不同的两个摄像装置110中同时拍摄的一对图像的例子进行了说明,但并不限于上述情况,对于相互具有关联性的一对图像也能够广泛应用。作为这样的相互具有关联性的一对图像,例如可考虑作为所谓光流(optical flow)的处理对象的用一个摄像装置(单眼相机)在不同时刻拍摄且按时间序列输出的两个图像,和/或作为所谓模板匹配的处理对象的被拍摄的图像与预先准备的图像的组合等。另外,上述的实施方式中,作为差值,举出视角不同的两个摄像装置110中同时拍摄的一对图像中的“视差”进行了说明,但并不限于上述情况,差值是相互具有关联性的一对图像中的基准区块的差分等对应的提取部位彼此之间的差分即可。
另外,上述的实施方式中,虽然将亮度图像设定为比较对象,基于亮度图像的亮度导出评价值,但并不限于上述情况,可以将除亮度以外的信息、例如由远红外线相机得到的热分布、由激光雷达或毫米波雷达得到的反射强度的分布等作为比较对象,基于这些导出评价值。该情况也与上述同样,差值是对应的提取部位彼此的差分即可。
产业上的可利用性
本发明能够用于在求多个图像中的对象物的差值(视差)时,判定其差值是否有效的滤波装置和环境识别***。
Claims (4)
1.一种滤波装置,其特征在于,具备:
评价值导出部,对于具有相互关联性的一对比较对象,导出表示从一个比较对象任意地提取的提取部位和从另一个比较对象提取的多个提取部位之间的相关性的多个评价值;
基准波形设定部,在根据所述多个评价值而形成的变化波形中,将如下的波形设定为基准波形:所述波形包含相关性最高的评价值,且所述波形是在从所述相关性最高的评价值到所述变化波形的斜率首个变为0的水平方向上的前后两个拐点为止的两个波形之中相关性最高的评价值与该拐点的评价值之间的差分大的波形;
差值判定部,判定所述变化波形中是否存在与所述基准波形相似的相似波形,并基于该判定结果来判定所述相关性最高的评价值作为差值是否有效。
2.根据权利要求1所述的滤波装置,其特征在于,
所述差值判定部将从所述变化波形的斜率变为0的拐点的评价值的绝对值、所述相关性最高的评价值与该变化波形的斜率首个变为0的拐点的评价值之间的差分、以及该相关性最高的评价值与满足预定条件的该拐点之间的水平方向的差分中选择的一个或多个参数与所述基准波形相近似的波形作为所述相似波形。
3.根据权利要求1或2所述的滤波装置,其特征在于,
所述比较对象是图像,所述提取部位是由该图像中的一个或多个像素构成的区块。
4.一种环境识别***,其特征在于,具备:
摄像装置,生成具有相互关联性的一对图像;
评价值导出部,对于所生成的一对图像,导出表示从一个图像任意地提取的区块和从另一个图像提取的多个区块之间的相关性的多个评价值;
基准波形设定部,在根据所述多个评价值而形成的变化波形中,将如下的波形设定为基准波形:包含相关性最高的评价值,所述波形是从所述相关性最高的评价值到所述变化波形的斜率首个变为0的水平方向上的前后两个拐点为止的两个波形之中相关性最高的评价值与该拐点的评价值之间的差分大的波形;
差值判定部,判定所述变化波形中是否存在与所述基准波形相似的相似波形,并基于该判定结果来判定所述相关性最高的评价值作为视差是否有效。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013-205391 | 2013-09-30 | ||
JP2013205391A JP5890816B2 (ja) | 2013-09-30 | 2013-09-30 | フィルタリング装置および環境認識システム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104517098A CN104517098A (zh) | 2015-04-15 |
CN104517098B true CN104517098B (zh) | 2017-06-20 |
Family
ID=52673280
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410503511.5A Active CN104517098B (zh) | 2013-09-30 | 2014-09-26 | 滤波装置及环境识别*** |
Country Status (4)
Country | Link |
---|---|
US (1) | US9430707B2 (zh) |
JP (1) | JP5890816B2 (zh) |
CN (1) | CN104517098B (zh) |
DE (1) | DE102014113360A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113240057B (zh) * | 2021-07-12 | 2021-09-28 | 武汉中原电子信息有限公司 | 一种基于电力数据采集的高精度误差检测方法及*** |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1479587A (zh) * | 2001-11-13 | 2004-03-03 | 波形分段及分割段的表征方法 | |
CN102982508A (zh) * | 2011-06-17 | 2013-03-20 | 索尼公司 | 图像处理设备和方法、程序和记录介质 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3349060B2 (ja) | 1997-04-04 | 2002-11-20 | 富士重工業株式会社 | 車外監視装置 |
JP3287465B2 (ja) | 1999-09-22 | 2002-06-04 | 富士重工業株式会社 | ステレオ画像処理装置 |
JP3760068B2 (ja) * | 1999-12-02 | 2006-03-29 | 本田技研工業株式会社 | 画像認識装置 |
JP2001324305A (ja) * | 2000-05-17 | 2001-11-22 | Minolta Co Ltd | 画像対応位置検出装置および該装置を備える測距装置 |
JP2001351200A (ja) * | 2000-06-09 | 2001-12-21 | Nissan Motor Co Ltd | 車載用物体検知装置 |
JP4275378B2 (ja) * | 2002-09-27 | 2009-06-10 | 富士重工業株式会社 | ステレオ画像処理装置およびステレオ画像処理方法 |
JP2004234423A (ja) * | 2003-01-31 | 2004-08-19 | Seiko Epson Corp | ステレオ画像処理方法およびステレオ画像処理装置、並びにステレオ画像処理プログラム |
JP2005114365A (ja) * | 2003-10-02 | 2005-04-28 | Fuji Electric Device Technology Co Ltd | 距離測定方法 |
US7697749B2 (en) * | 2004-08-09 | 2010-04-13 | Fuji Jukogyo Kabushiki Kaisha | Stereo image processing device |
JP4856611B2 (ja) * | 2007-10-29 | 2012-01-18 | 富士重工業株式会社 | 物体検出装置 |
JP5545036B2 (ja) * | 2010-05-28 | 2014-07-09 | 三菱電機株式会社 | 画像処理装置、画像処理方法および画像表示装置 |
JP5824953B2 (ja) * | 2011-08-09 | 2015-12-02 | 株式会社ソシオネクスト | 画像処理装置、画像処理方法及び撮像装置 |
JP6025467B2 (ja) * | 2012-09-12 | 2016-11-16 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP5955292B2 (ja) * | 2013-09-30 | 2016-07-20 | 富士重工業株式会社 | フィルタリング装置 |
JP5955291B2 (ja) * | 2013-09-30 | 2016-07-20 | 富士重工業株式会社 | フィルタリング装置および環境認識システム |
-
2013
- 2013-09-30 JP JP2013205391A patent/JP5890816B2/ja active Active
-
2014
- 2014-09-04 US US14/477,600 patent/US9430707B2/en active Active
- 2014-09-17 DE DE201410113360 patent/DE102014113360A1/de active Pending
- 2014-09-26 CN CN201410503511.5A patent/CN104517098B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1479587A (zh) * | 2001-11-13 | 2004-03-03 | 波形分段及分割段的表征方法 | |
CN102982508A (zh) * | 2011-06-17 | 2013-03-20 | 索尼公司 | 图像处理设备和方法、程序和记录介质 |
Also Published As
Publication number | Publication date |
---|---|
US9430707B2 (en) | 2016-08-30 |
JP2015069567A (ja) | 2015-04-13 |
DE102014113360A1 (de) | 2015-04-02 |
JP5890816B2 (ja) | 2016-03-22 |
CN104517098A (zh) | 2015-04-15 |
US20150092984A1 (en) | 2015-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4832227B2 (ja) | 物体検出装置および物体検出方法 | |
CN107688764B (zh) | 检测车辆违章的方法及装置 | |
Reisman et al. | Crowd detection in video sequences | |
US9280900B2 (en) | Vehicle external environment recognition device | |
CN105022985B (zh) | 车道识别装置 | |
CN108243623A (zh) | 基于双目立体视觉的汽车防碰撞预警方法和*** | |
JP6453490B2 (ja) | 路面反射を認識し評価するための方法及び装置 | |
CN105849585B (zh) | 物体识别装置 | |
US9349070B2 (en) | Vehicle external environment recognition device | |
US9886773B2 (en) | Object detection apparatus and object detection method | |
CN107045619A (zh) | 车外环境识别装置 | |
CN104517099B (zh) | 滤波装置和环境识别*** | |
KR101483742B1 (ko) | 지능형 차량의 차선 검출방법 | |
JP2020095622A (ja) | 画像処理装置および画像処理方法 | |
JP7119317B2 (ja) | 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及び、情報処理プログラム | |
CN105320930A (zh) | 对象物识别装置 | |
CN104512334B (zh) | 滤波装置 | |
CN105320928A (zh) | 对象物识别装置 | |
CN104517098B (zh) | 滤波装置及环境识别*** | |
JP2020095623A (ja) | 画像処理装置および画像処理方法 | |
JP6174960B2 (ja) | 車外環境認識装置 | |
KR100976142B1 (ko) | 차량검출방법 | |
JP6719328B2 (ja) | 車外監視装置 | |
JP6273156B2 (ja) | 歩行者認識装置 | |
JP6354963B2 (ja) | 物体認識装置、物体認識方法、および物体認識プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: Tokyo, Japan Applicant after: Subaru Co. Address before: Tokyo, Japan Applicant before: Fuji Heavy Industries, Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |