CN101701828B - 基于立体视觉和信息融合的盲人自主导航方法 - Google Patents

基于立体视觉和信息融合的盲人自主导航方法 Download PDF

Info

Publication number
CN101701828B
CN101701828B CN200910234985A CN200910234985A CN101701828B CN 101701828 B CN101701828 B CN 101701828B CN 200910234985 A CN200910234985 A CN 200910234985A CN 200910234985 A CN200910234985 A CN 200910234985A CN 101701828 B CN101701828 B CN 101701828B
Authority
CN
China
Prior art keywords
output
image
obtains
information fusion
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN200910234985A
Other languages
English (en)
Other versions
CN101701828A (zh
Inventor
周东翔
刘云辉
刘顺
杨延光
范才智
蔡宣平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National University of Defense Technology
Original Assignee
CHANGZHOU HYPER MEDIUM AND SENSING TECHNOLOGY INSTITUTE Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CHANGZHOU HYPER MEDIUM AND SENSING TECHNOLOGY INSTITUTE Co Ltd filed Critical CHANGZHOU HYPER MEDIUM AND SENSING TECHNOLOGY INSTITUTE Co Ltd
Priority to CN200910234985A priority Critical patent/CN101701828B/zh
Publication of CN101701828A publication Critical patent/CN101701828A/zh
Application granted granted Critical
Publication of CN101701828B publication Critical patent/CN101701828B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Traffic Control Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Position Fixing By Use Of Radio Waves (AREA)

Abstract

本发明涉及导航***的技术领域,尤其是一种基于立体视觉和信息融合的盲人自主导航方法。左边图像与右边图像输出连接图像预处理,图像预处理输出连接图像分割,图像分割连接特征提取,特征提取输出连接立体匹配,立体匹配输出连接获取视差图,获取视差图输出连接获取深度图像和目标探测与标识,获取深度图像输出连接目标探测与标识,目标探测与标识输出连接目标尺寸、距离和方向参与计算,目标尺寸、距离和方向参与计算输出连接多传感器信息融合,多传感器信息融合输出连接语音输出障碍位置、大小、距离及方向等信息,超声波测距、电子罗盘测向和GPS定位输出连接多传感器信息融合。本发明的算法对于提高盲人的自主性和独立行走能力有很大的实用价值。

Description

基于立体视觉和信息融合的盲人自主导航方法
技术领域
本发明涉及一种导航***,尤其涉及一种基于立体视觉和信息融合的盲人自主导航方法。 
背景技术
我国有上千万的弱势群体,他们出行时会面临各种复杂、多变的交通环境,日益增多的机动车辆、道路中的各种障碍物都将威胁到盲人的出行,盲人的出行一类是步行,一类是乘车远行,盲人的行走需要一个导航仪或者导航犬。 
立体视觉(stereo vision)是计算机视觉的核心技术之一,利用其可建构出环境中的物体在图像中的深度信息。双目视觉是目前被广泛关注的一种立体感知***,它具有结构紧凑、能耗小、信息量丰富、较高的识别准确度等优点。但基于立体视觉方法设计的导盲辅具易受环境光源与遮蔽物的影响,立体匹配产生的噪声使得主要目标物不易与背景分离,导致障碍物误判率增大,且获取的目标深度信息往往存在较大误差。超声波传感器具有较高的距离探测精度,但在复杂环境中使用受限。目前的导盲辅具多以上述两者中的一种为主,再结合其它传感器进行障碍物的探测,缺乏有效利用不同传感器的优点进行优势互补的自主导航算法。 
发明内容
本发明要解决的技术问题是:目前盲人导航仪缺乏有效利用不同传感器的优点进行优势互补的自主导航算法,提供一种基于立体视觉和信息融合的盲人自主导航方法。 
为了克服背景技术中存在的缺陷,本发明解决其技术问题所采用的技术方案是:本发明包括底层驱动与数据通信模块,嵌入式硬件平台,I/O接口驱动模块和Linux实时操作***,它主要包括立体视觉和多传感器信息融合方面,并按下列步骤执行:左边图像与右边图像输出连接图像预处理,图像预处理输出连接图像分割,图像分割连接特征提取,特征提取输出连接立体匹配,立体匹配输出连接获取视差图,获取视差图输出连接获取深度图像和目标探测与标识,获取深度图像输出连接目标探测与标识,目标探测与标识输出连接目标尺寸、距离和方向参数计算,目标尺寸、距离和方向参与计算输出连接多传感器信息融合,多传感器信息融合输出连接语音输出障碍位置、大小、距离及方向等信息,超声波测距、电子罗盘测向和GPS定位输出连接多传感器信息融合。 
根据本发明的另一个实施例,进一步包括所述图像预处理包括图像滤波,图像增强,图像校准、色彩校正。 
根据本发明的另一个实施例,进一步包括所述图像分割是基于HSV色彩空间的固定阈值分割,边缘检测以及区域模板匹配等方法将图像中的路面分割出来,并通过形态滤波将噪声块及其它怀疑目标剔除,然后采用链码跟踪算法进行连通块分析(也称Blob分析)。 
根据本发明的另一个实施例,进一步包括所述特征提取是在左、右两幅图像中提取共同的特征。 
根据本发明的另一个实施例,进一步包括所述立体匹配是基于特征、区域和相关匹配找到两幅图像之间的对应关系,利用SIFT算法(具有亮度、平移、旋转和尺度不变性)实现左右摄像机同时获取的图像的配准。 
根据本发明的另一个实施例,进一步包括所述获取视差图是通过对其进行平滑和分类,可得出路面和障碍物的视差图,利用后者获取障碍物的深度信息。 
根据本发明的另一个实施例,进一步包括所述获取深度图像是根据视差和几何关系,获取目标三维信息。 
根据本发明的另一个实施例,进一步包括所述目标检测与标识与障碍物的视差值是一样的,利用获取视差图来标识障碍物。 
根据本发明的另一个实施例,进一步包括所述目标尺寸、距离和方向参数计算是在获取目标位置坐标后,获取其对应的块,进而估计障碍物的距离、尺寸和方向参数。 
根据本发明的另一个实施例,进一步包括所述多传感器信息融合是基于立体视觉获取障碍物的相对位置、方向、尺寸以及距离,结合超声波传感器获取的距离信息,电子罗盘获取的方向信息和GPS获取的绝对位置信息,进一步提高导盲***的距离探测精度和定位、定向能力。 
本发明的有益效果是:本发明的算法将可以提高导盲***的性能,对于提高盲人的自主性和独立行走能力具有很大的实用价值。可有效地提高盲人的生活、工作质量,扩大沟通的人群,扩展盲人的世界,适应信息社会的发展,应用前景明显,经济效益和社会效益可观。 
附图说明
下面结合附图和实施例对本发明进一步说明。 
图1是本发明的算法流程示意图; 
图2是本发明的***软件示意图。 
具体实施方式
现在结合附图和优选实施例对本发明作进一步详细的说明。这些附图均为简化的示意图,仅以示意方式说明本发明的基本结构,因此其仅显示与本发明有关的构成。 
图2是本发明的***软件示意图,图中基于嵌入式硬件平台和Linux实时操作***搭建***软件结构,主要分为多传感器数据采集、数据通信与传输存储、信息处理与融合、信息显示与用户接口几个部分。导航算法主要侧重在立体视觉和多传感器信息融合方面,算法流程图如图1所示,图中主要包括左边图像与右边图像输出连接图像预处理,图像预处理输出连接图像分割,图像分割连接特征提取,特征提取输出连接立体匹配,立体匹配输出连接获取视差图,获取视差图输出连接获取深度图像和目标探测与标识,获取深度图像输出连接目标探测与标识,目标探测与标识输出连接目标尺寸、距离和方向参数计算,目标尺寸、距离和方向参与计算输出连接多传感器信息融合,多传感器信息融合输出连接语音输出障碍位置、大小、距离及方向等信息,超声波测距、电子罗盘测向和GPS定位输出连接多传感器信息融合。
本发明主要包括如下步骤:图像预处理包括图像滤波,图像增强,图像校准、色彩校正;图像分割是基于HSV色彩空间的固定阈值分割,边缘检测以及区域模板匹配等方法将图像中的路面分割出来,并通过形态滤波将噪声块及其它怀疑目标剔除,然后采用链码跟踪算法进行连通块分析(也称Blob分析);特征提取是在左、右两幅图像中提取共同的特征;立体匹配是基于特征、区域和相关匹配找到两幅图像之间的对应关系,可利用SIFT算法(具有亮度、平移、旋转和尺度不变性)实现左右摄像机同时获取的图像的配准;获取视差图是通过对其进行平滑和分类,可得出路面和障碍物的视差图,利用后者获取障碍物的深度信息;获取深度图像是根据视差和几何关系,获取目标三维信息;目标检测与标识与障碍物的视差值是一样的,可利用获取视差图来标识障碍物;参数计算是在获取目标位置坐标后,可获取其对应的块,进而估计障碍物的距离、尺寸和方向参数;多传感器信息融合是基于立体视觉获取障碍物的相对位置、方向、尺寸以及距离,结合超声波传感器获取的距离信息,电子罗盘获取的方向信息和GPS获取的绝对位置信息,进一步提高导盲***的距离探测精度和定位、定向能力;信息输出:获取障碍物的位置、大小、形状、距离、方向的信息,并以语音或振动输出方式提示使用者。 
本发明的算法将可以提高导盲***的性能,对于提高盲人的自主性和独立行走能力具有很大的实用价值。可有效地提高盲人的生活、工作质量,扩大沟通的人群,扩展盲人的世界,适应信息社会的发展,应用前景明显,经济效益和社会效益可观。 
以上述依据本发明的理想实施例为启示,通过上述的说明内容,相关工作人员完全可以在不偏离本项发明技术思想的范围内,进行多样的变更以及修改。本项发明的技术性范围并不局限于说明书上的内容,必须要根据权利要求范围来确定其技术性范围。 

Claims (1)

1.一种基于立体视觉和信息融合的盲人自主导航方法,包括底层驱动与数据通信模块,嵌入式硬件平台,I/O接口驱动模块和Linux实时操作***,其特征在于:它主要包括立体视觉和多传感器信息融合方面,并按下列步骤执行:左边图像与右边图像输出连接图像预处理,图像预处理输出连接图像分割,图像分割连接特征提取,特征提取输出连接立体匹配,立体匹配输出连接获取视差图,获取视差图输出连接获取深度图像和目标探测与标识,获取深度图像输出连接目标探测与标识,目标探测与标识输出连接目标尺寸、距离和方向参数计算,目标尺寸、距离和方向参数计算输出连接多传感器信息融合,多传感器信息融合输出连接语音输出障碍物位置、大小、距离及方向的信息,超声波测距、电子罗盘测向和GPS定位输出连接多传感器信息融合;所述图像预处理包括图像滤波,图像增强,图像校准、色彩校正;所述图像分割是基于HSV色彩空间的固定阈值分割,边缘检测以及区域模板匹配的方法将图像中的路面分割出来,并通过形态滤波将噪声块及其它怀疑目标剔除,然后采用链码跟踪算法进行连通块分析;所述特征提取是在左、右两幅图像中提取共同的特征;所述立体匹配是基于特征、区域和相关匹配找到两幅图像之间的对应关系,利用SIFT算法实现左右摄像机同时获取的图像的配准;所述获取视差图是通过对其进行平滑和分类,可得出路面和障碍物的视差图,利用后者获取障碍物的深度信息;所述获取深度图像是根据视差和几何关系,获取目标三维信息;所述目标检测与标识与障碍物的视差值是一样的,利用获取视差图来标识障碍物;所述目标尺寸、距离和方向参数计算是在获取目标位置坐标后,获取其对应的块,进而估计障碍物的距离、尺寸和方向参数;所述多传感器信息融合是基于立体视觉获取障碍物的相对位置、方向、尺寸以及距离,结合超声波传感器获取的距离信息,电子罗盘获取的方向信息和GPS获取的绝对位置信息,进一步提高导盲***的距离探测精度和定位、定向能力。
CN200910234985A 2009-11-23 2009-11-23 基于立体视觉和信息融合的盲人自主导航方法 Expired - Fee Related CN101701828B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN200910234985A CN101701828B (zh) 2009-11-23 2009-11-23 基于立体视觉和信息融合的盲人自主导航方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN200910234985A CN101701828B (zh) 2009-11-23 2009-11-23 基于立体视觉和信息融合的盲人自主导航方法

Publications (2)

Publication Number Publication Date
CN101701828A CN101701828A (zh) 2010-05-05
CN101701828B true CN101701828B (zh) 2012-10-03

Family

ID=42156748

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200910234985A Expired - Fee Related CN101701828B (zh) 2009-11-23 2009-11-23 基于立体视觉和信息融合的盲人自主导航方法

Country Status (1)

Country Link
CN (1) CN101701828B (zh)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW201219752A (en) 2010-11-08 2012-05-16 Ind Tech Res Inst Automatic navigation method and automatic navigation system
US9098908B2 (en) * 2011-10-21 2015-08-04 Microsoft Technology Licensing, Llc Generating a depth map
CN103284866A (zh) * 2012-02-24 2013-09-11 鸿富锦精密工业(深圳)有限公司 行走辅助***及行走辅助方法
DE102012209316A1 (de) * 2012-06-01 2013-12-05 Robert Bosch Gmbh Verfahren und Vorrichtung zum Verarbeiten von Sensordaten eines Stereosensorsystems
CN103971356B (zh) * 2013-02-04 2017-09-08 腾讯科技(深圳)有限公司 基于视差信息的街景图像目标分割方法及装置
CN103750986A (zh) * 2014-01-24 2014-04-30 成都万先自动化科技有限责任公司 导盲服
US10028102B2 (en) * 2014-12-26 2018-07-17 Here Global B.V. Localization of a device using multilateration
WO2017021781A1 (en) * 2015-08-03 2017-02-09 Tom Tom Global Content B.V. Methods and systems for generating and using localisation reference data
CN105342816A (zh) * 2015-11-24 2016-02-24 上海斐讯数据通信技术有限公司 一种用于盲人导航的实时避障***
CN106909141A (zh) * 2015-12-23 2017-06-30 北京机电工程研究所 障碍物探测定位装置及避障***
CN105698763A (zh) * 2016-01-22 2016-06-22 吉林大学 一种以立体视觉检测障碍物的装置与方法
CN105997448B (zh) * 2016-04-30 2019-04-26 中国海洋大学 频域投影式超声回波定位导盲仪
CN106197452A (zh) * 2016-07-21 2016-12-07 触景无限科技(北京)有限公司 一种视觉图像处理设备及***
CN106197429A (zh) * 2016-07-21 2016-12-07 触景无限科技(北京)有限公司 一种多信息融合定位设备及***
CN106289290A (zh) * 2016-07-21 2017-01-04 触景无限科技(北京)有限公司 一种路径导航***及方法
CN106289232B (zh) * 2016-07-24 2019-06-21 广东大仓机器人科技有限公司 一种基于深度传感器的机器人避障方法
CN106408613A (zh) * 2016-09-18 2017-02-15 合肥视尔信息科技有限公司 一种适用于虚拟导诉员***的立体视觉建立方法
WO2019012535A1 (en) 2017-07-12 2019-01-17 Guardian Optical Technologies Ltd. SYSTEMS AND METHODS FOR ACQUIRING INFORMATION FROM AN ENVIRONMENT
CN107610152B (zh) * 2017-08-31 2020-02-28 杭州视氪科技有限公司 一种用于躲避水面与障碍物的通路检测方法
CN107909009B (zh) * 2017-10-27 2021-09-17 北京中科慧眼科技有限公司 一种基于路面学习的障碍物检测方法与装置
CN108012325B (zh) * 2017-10-30 2021-01-19 上海神添实业有限公司 一种基于uwb和双目视觉的导航定位方法
CN107802468B (zh) * 2017-11-14 2020-01-10 石化盈科信息技术有限责任公司 导盲方法及导盲***
CN108627816A (zh) * 2018-02-28 2018-10-09 沈阳上博智像科技有限公司 影像测距方法、装置、存储介质和电子设备
CN109931946A (zh) * 2019-04-10 2019-06-25 福州大学 基于Android智能手机的盲人视觉测距导航方法
CN110194085B (zh) * 2019-05-12 2019-11-19 猫头鹰安防科技有限公司 基于视觉检测的电子辅助平台
CN110346004B (zh) * 2019-08-16 2020-08-21 杭州山科智能科技股份有限公司 一种双声道超声时差法的流量测量数据融合方法
CN110470307A (zh) * 2019-08-28 2019-11-19 中国科学院长春光学精密机械与物理研究所 一种视障患者导航***和方法
CN113108780A (zh) * 2021-03-30 2021-07-13 沈奥 一种基于视觉惯导slam算法的无人船自主导航方法
CN113420704A (zh) * 2021-06-18 2021-09-21 北京盈迪曼德科技有限公司 一种基于视觉传感器的物体识别方法、装置及机器人

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5107467A (en) * 1990-04-13 1992-04-21 Jorson Enterprises, Inc. Echo location system for vision-impaired persons
US6198395B1 (en) * 1998-02-09 2001-03-06 Gary E. Sussman Sensor for sight impaired individuals
CN2500297Y (zh) * 2001-09-13 2002-07-17 潘爱武 盲人用超声波回声导航器
CN101368828A (zh) * 2008-10-15 2009-02-18 同济大学 基于计算机视觉的盲人导航方法及***
CN101483806A (zh) * 2009-02-24 2009-07-15 南京师范大学 面向视障人群的户外导盲服务***及方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5107467A (en) * 1990-04-13 1992-04-21 Jorson Enterprises, Inc. Echo location system for vision-impaired persons
US6198395B1 (en) * 1998-02-09 2001-03-06 Gary E. Sussman Sensor for sight impaired individuals
CN2500297Y (zh) * 2001-09-13 2002-07-17 潘爱武 盲人用超声波回声导航器
CN101368828A (zh) * 2008-10-15 2009-02-18 同济大学 基于计算机视觉的盲人导航方法及***
CN101483806A (zh) * 2009-02-24 2009-07-15 南京师范大学 面向视障人群的户外导盲服务***及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
王臣豪等.基于Blob的车辆识别及其跟踪算法研究.《第十二届全国信号处理学术年会(CCSP-2005)论文集》.2005,全文. *
黄穗等.基于边缘矩阵的链编码追踪算法.《石河子大学学报(自然科学版)》.2005,第23卷(第5期),全文. *

Also Published As

Publication number Publication date
CN101701828A (zh) 2010-05-05

Similar Documents

Publication Publication Date Title
CN101701828B (zh) 基于立体视觉和信息融合的盲人自主导航方法
CN112101128B (zh) 一种基于多传感器信息融合的无人方程式赛车感知规划方法
CN105946853B (zh) 基于多传感器融合的长距离自动泊车的***及方法
EP3647734A1 (en) Automatic generation of dimensionally reduced maps and spatiotemporal localization for navigation of a vehicle
WO2018133851A1 (zh) 一种点云数据处理方法、装置及计算机存储介质
JP7074438B2 (ja) 自車位置推定装置
EP2574958B1 (en) Road-terrain detection method and system for driver assistance systems
CN103901895B (zh) 一种基于无极FastSLAM算法和匹配优化目标定位方法及机器人
CN107389084B (zh) 行车路径规划方法及存储介质
CN111837014A (zh) 用于匿名化导航信息的***和方法
CN108955688A (zh) 双轮差速移动机器人定位方法及***
CN107392103A (zh) 路面车道线的检测方法及装置、电子设备
CN107341454A (zh) 一种场景中障碍物的检测方法及装置、电子设备
CN108960035A (zh) 使用场景检测模式在感知场景图中分类对象的方法和***
CN107657825A (zh) 泊车方法及装置
KR101779963B1 (ko) 학습기반 도로환경 인식기의 성능 향상 방법 및 이를 위한 장치
CN109997052B (zh) 利用交叉传感器特征点参考生成环境模型并定位的方法和***
US20220266824A1 (en) Road information generation apparatus
CN115112130A (zh) 本车位置推定装置
JP4957021B2 (ja) 車両用地図データ作成装置、及び、車両用地図データ更新装置
CN115158322A (zh) 地图信息生成装置及本车位置推定装置
CN114954508A (zh) 车辆控制装置
CN115050205B (zh) 地图生成装置以及位置识别装置
US20230314162A1 (en) Map generation apparatus
US20220307861A1 (en) Map generation apparatus

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: CHANGZHOU INSTITUTE OF SUPERMEDIA AND SENSING TECH

Free format text: FORMER OWNER: CHANGZHOU DAQI INFORMATION TECHNOLOGY CO., LTD.

Effective date: 20111213

C41 Transfer of patent application or patent right or utility model
C53 Correction of patent for invention or patent application
CB03 Change of inventor or designer information

Inventor after: Zhou Dongxiang

Inventor after: Liu Yunhui

Inventor after: Liu Shun

Inventor after: Yang Yanguang

Inventor after: Fan Caizhi

Inventor after: Cai Xuanping

Inventor before: Liu Yunhui

Inventor before: Yang Yanguang

Inventor before: Liu Shun

Inventor before: Fan Caizhi

Inventor before: Zhou Dongxiang

Inventor before: Cai Xuanping

COR Change of bibliographic data

Free format text: CORRECT: INVENTOR; FROM: LIU YUNHUI YANG YANGUANG LIU SHUN FAN CAIZHI ZHOU DONGXIANG CAI XUANPING TO: ZHOU DONGXIANG LIU YUNHUI LIU SHUN YANG YANGUANG FAN CAIZHI CAI XUANPING

Free format text: CORRECT: ADDRESS; FROM: 213011 CHANGZHOU, JIANGSU PROVINCE TO: 213000 CHANGZHOU, JIANGSU PROVINCE

TA01 Transfer of patent application right

Effective date of registration: 20111213

Address after: 213000 Jiangsu Province, the Clock Tower District, ERON Road, No. 213 High-tech Venture Center, room 1008

Applicant after: Changzhou Hyper Medium and Sensing Technology Institute Co., Ltd.

Address before: 213011 1008, hi tech Innovation Service Center, 213 ERON Road, bell tower area, Jiangsu, Changzhou

Applicant before: Changzhou Daqi Information Technology Co., Ltd.

C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: DEFENSIVE SCIENTIFIC AND TECHNOLOGICAL UNIV., PLA

Effective date: 20130205

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20130205

Address after: 213000 Jiangsu Province, the Clock Tower District, ERON Road, No. 213 High-tech Venture Center, room 1008

Patentee after: Changzhou Hyper Medium and Sensing Technology Institute Co., Ltd.

Patentee after: National University of Defense Technology of People's Liberation Army of China

Address before: 213000 Jiangsu Province, the Clock Tower District, ERON Road, No. 213 High-tech Venture Center, room 1008

Patentee before: Changzhou Hyper Medium and Sensing Technology Institute Co., Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20121003

Termination date: 20181123