CN108195378A - 一种基于环视相机的智能视觉导航*** - Google Patents
一种基于环视相机的智能视觉导航*** Download PDFInfo
- Publication number
- CN108195378A CN108195378A CN201711421471.XA CN201711421471A CN108195378A CN 108195378 A CN108195378 A CN 108195378A CN 201711421471 A CN201711421471 A CN 201711421471A CN 108195378 A CN108195378 A CN 108195378A
- Authority
- CN
- China
- Prior art keywords
- module
- information
- camera
- barrier
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于环视相机的智能视觉导航***,包括:环视相机模块(1)、超声波模块(2)、图像匹配拼接模块(3)、障碍物与目标识别模块(4)、三维地图建模模块(5)、视觉信息与超声波信息融合避障模块(6)、全景相机(7)与移动计算平台(8)。全景相机(7)集成环视相机模块(1)、超声波模块(2)、图像匹配拼接模块(3)实现图像拼接与目标测距;移动计算平台(8)集成障碍物与目标识别模块(4)、三维地图建模模块(5)和视觉信息与超声波信息融合避障模块(6)实现目标识别、地图构建与路径规划。本发明利用环视相机实现静止状态360度成像与高精度目标识别,并融合超声波测距信息,有利于实现路径选择和避障。
Description
技术领域
本发明涉及一种智能视觉导航***,特别是一种基于环视相机的智能视觉导航***。
背景技术
多年来,国际和国内都有大量的科技工作者致力于视觉导航方面的研究开发工作,因而对许多问题的认识和求解都取得了长足的发展。在视觉导航方式中,目前国内外应用最多的还是采用在移动平台上安装摄像头的基于局部的导航方式,例如,利用车载摄像机和较少传感器通过识别路标进行导航、利用车载摄像机和超声波传感器研究视觉导航***的避障问题、利用车载摄像机进行三维建模导航等。主要有两种***,一种是利用普通摄像头和超声波测距结合的导航***;另外一种是利用全景相机的视觉导航***。前者利用普通摄像头采集移动平台行驶前方的图像,然后对图像进行道路检测,障碍物跟踪,并结合分布在移动平台四周的超声波测距信息完成避障。由于普通摄像头只有几十度的视野范围,为了获取更大视野范围,只能采用旋转云台进行环扫,即便这样,仍然会有较大的视觉死区,且摄像头旋转速度慢,目标定位困难。此外,超声波测距分布在移动平台四周,需要配置额外的总线管理和控制***,增加了***的复杂度。另外一种全景相机方案利用特殊制造的光学镜头,在静止状态获取360度环视图像,但是光学结构设计工艺复杂、精度要求高、成本较高,且成像分辨率低、畸变严重、帧率低,在移动平台快速运动过程中难以满足实时检测道路与导航的需求。虽然全景相机能够集成一些几何校正算法来解决畸变问题,但是与普通摄像头相比,畸变依然很大,不利于道路检测与障碍物识别。
发明内容
本发明目的在于提供一种基于环视相机的智能视觉导航***,解决基于摄像头导航***中360度视场与畸变率矛盾以及由于畸变导致的道路检测与障碍识别困难问题。
一种基于环视相机的智能视觉导航***,包括:环视相机模块、超声波模块、图像匹配拼接模块、障碍物与目标识别模块、三维地图建模模块、视觉信息与超声波信息融合避障模块、全景相机和移动计算平台。其中,环视相机模块、超声波模块、图像匹配拼接模块运行在全景相机上,障碍物与目标识别模块、三维地图建模模块和视觉信息与超声波信息融合避障模块运行在移动计算平台上。全景相机与移动计算平台之间通过网线连接完成信息传递。
环视相机模块的功能为:实时采集移动平台周围360度范围内的图像数据。
超声波模块的功能为:实时采集移动平台到周围障碍物的距离。
图像匹配拼接模块的功能为:利用图像拼接算法实现图像的拼接,并将拼接后的图像按照前180度和后180度展开成两幅条带的画面,分别称为前视图像和后视图像。图像拼接算法包括:基于SIFT的图像拼接算法、基于Harris的图像拼接算法和基于FAST角点的图像拼接算法。
障碍物与目标识别模块的功能为:利用目标识别算法实现特定目标的识别,为运动平台提供运动方向,使运动平台朝特定目标行进,障碍物的识别主要依靠图像分割与超声波测距信息。目标识别算法包括:基于CNN的目标识别算法、基于SVM的目标识别算法和基于RNN的目标识别算法。
三维地图建模模块的功能为:以运动平台的初始位置为起点,通过采集运动平台的运行方向与速度,根据障碍物与目标识别结果结合超声波测距信息建立其周围环境的三维地图。
视觉信息与超声波信息融合避障模块的功能为:将超声波测距信息叠加到相应方向的图像数据中,实现图像数据与测距信息的融合,并根据融合结果与三维地图的建立结果,给出运动平台的最优路径。
全景相机的功能为:为环视相机模块、超声波模块与图像匹配拼接模块提供集成平台,保障实现三个模块的功能。
移动计算平台功能为:提供障碍物与目标识别模块、三维地图建模模块和视觉信息与超声波信息融合避障模块的集成平台与运算支持。
环视相机模块控制8个摄像头同步采集数据,并将这些图像数据传送到图像匹配拼接模块,按照前后180度视场角拼接为前视图像和后视图像。同时,超声波模块获取8个超声波传感器同步测距数据。图像数据与超声波数据通过网线传送给便障碍物与目标识别模块。障碍物与目标识别模块首先对前视图像和后视图像分别进行处理,完成图像中障碍物与目标的识别,根据障碍物或目标在图像中的位置,获取相应位置的超声波传感器数据,即距离信息;然后,三维地图建模模块利用障碍物或目标距离信息、环视图像数据与运动平台自身位置信息形成三维地图,并将地图传递给视觉信息与超声波信息融合避障模块;视觉信息与超声波信息融合避障模块结合运动平台的运动速度在三维地图中建立拒止区域,并在拒止区域内依据最优化路径选择原理,实现运动平台的避障与路径选择。
至此,完成基于环视相机的智能视觉导航***。
本发明利用环视相机能够在静止状态下实现360度环视成像和自动拼接,图像畸变小,分辨率高,更容易实现高精度目标定位和高精度目标识别;超声波测距装置采用与摄像头方向重合的安装方式,容易实现图像数据与测距信息的融合,有利于实现路径选择和避障。
附图说明
图1一种基于环视相机的智能视觉导航***组成示意图。
1.环视相机模块 2.超声波模块 3.图像匹配拼接模块 4.障碍物与目标识别模块5.三维地图建模模块 6.视觉信息与超声波信息融合避障模块 7.全景相机8.移动计算平台
具体实施方式
一种基于环视相机的智能视觉导航***,包括:环视相机模块1、超声波模块2、图像匹配拼接模块3、障碍物与目标识别模块4、三维地图建模模块5、视觉信息与超声波信息融合避障模块6、全景相机7和移动计算平台8。其中,环视相机模块1、超声波模块2、图像匹配拼接模块3运行在全景相机7上,障碍物与目标识别模块4、三维地图建模模块5和视觉信息与超声波信息融合避障模块6运行在移动计算平台8上。全景相机与移动计算平台之间通过网线连接完成信息传递。
环视相机模块1的功能为:实时采集移动平台周围360度范围内的图像数据。
超声波模块2的功能为:实时采集移动平台到周围障碍物的距离。
图像匹配拼接模块3的功能为:利用图像拼接算法实现图像的拼接,并将拼接后的图像按照前180度和后180度展开成两幅条带的画面,分别称为前视图像和后视图像。图像拼接算法包括:基于SIFT的图像拼接算法、基于Harris的图像拼接算法和基于FAST角点的图像拼接算法。
障碍物与目标识别模块4的功能为:利用目标识别算法实现特定目标的识别,为运动平台提供运动方向,使运动平台朝特定目标行进,障碍物的识别主要依靠图像分割与超声波测距信息。目标识别算法包括:基于CNN的目标识别算法、基于SVM的目标识别算法和基于RNN的目标识别算法。
三维地图建模模块5的功能为:以运动平台的初始位置为起点,通过采集运动平台的运行方向与速度,根据障碍物与目标识别结果结合超声波测距信息建立其周围环境的三维地图。
视觉信息与超声波信息融合避障模块6的功能为:将超声波测距信息叠加到相应方向的图像数据中,实现图像数据与测距信息的融合,并根据融合结果与三维地图的建立结果,给出运动平台的最优路径。
全景相机7的功能为:为环视相机模块1、超声波模块2与图像匹配拼接模块3提供集成平台,保障实现三个模块的功能。
移动计算平台8功能为:提供障碍物与目标识别模块4、三维地图建模模块5和视觉信息与超声波信息融合避障模块6的集成平台与运算支持。
环视相机模块1控制8个摄像头同步采集数据,并将这些图像数据传送到图像匹配拼接模块3,按照前后180度视场角拼接为前视图像和后视图像。同时,超声波模块2获取8个超声波传感器同步测距数据。图像数据与超声波数据通过网线传送给障碍物与目标识别模块4。障碍物与目标识别模块4首先对前视图像和后视图像分别进行处理,完成图像中障碍物与目标的识别,根据障碍物或目标在图像中的位置,获取相应位置的超声波传感器数据,即距离信息;然后,三维地图建模模块5利用障碍物或目标距离信息、环视图像数据与运动平台自身位置信息形成三维地图,并将地图传递给视觉信息与超声波信息融合避障模块6;视觉信息与超声波信息融合避障模块6结合运动平台的运动速度在三维地图中建立拒止区域,并在拒止区域内依据最优化路径选择原理,实现运动平台的避障与路径选择。
至此,完成基于环视相机的智能视觉导航***。
Claims (9)
1.一种基于环视相机的智能视觉导航***,其特征在于包括:环视相机模块(1)、超声波模块(2)、图像匹配拼接模块(3)、障碍物与目标识别模块(4)、三维地图建模模块(5)、视觉信息与超声波信息融合避障模块(6)、全景相机(7)和移动计算平台(8);其中,环视相机模块(1)、超声波模块(2)、图像匹配拼接模块(3)运行在全景相机(7)上,障碍物与目标识别模块(4)、三维地图建模模块(5)和视觉信息与超声波信息融合避障模块(6)运行在移动计算平台(8)上;全景相机与移动计算平台之间通过网线连接完成信息传递;
环视相机模块(1)控制8个摄像头同步采集数据,并将这些图像数据传送到图像匹配拼接模块(3),按照前后180度视场角拼接为前视图像和后视图像;同时,超声波模块(2)获取8个超声波传感器同步测距数据;图像数据与超声波数据通过网线传送给障碍物与目标识别模块(4);障碍物与目标识别模块(4)首先对前视图像和后视图像分别进行处理,完成图像中障碍物与目标的识别,根据障碍物或目标在图像中的位置,获取相应位置的超声波传感器数据,即距离信息;然后,三维地图建模模块(5)利用障碍物或目标距离信息、环视图像数据与运动平台自身位置信息形成三维地图,并将地图传递给视觉信息与超声波信息融合避障模块(6);视觉信息与超声波信息融合避障模块(6)结合运动平台的运动速度在三维地图中建立拒止区域,并在拒止区域内依据最优化路径选择原理,实现运动平台的避障与路径选择;
至此,完成基于环视相机的智能视觉导航***。
2.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述环视相机模块(1)的功能为:实时采集移动平台周围360度范围内的图像数据。
3.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述超声波模块(2)的功能为:实时采集移动平台到周围障碍物的距离。
4.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述图像匹配拼接模块(3)的功能为:利用图像拼接算法实现图像的拼接,并将拼接后的图像按照前180度和后180度展开成两幅条带的画面,分别称为前视图像和后视图像。图像拼接算法包括:基于SIFT的图像拼接算法、基于Harris的图像拼接算法和基于FAST角点的图像拼接算法。
5.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述障碍物与目标识别模块(4)的功能为:利用目标识别算法实现特定目标的识别,为运动平台提供运动方向,使运动平台朝特定目标行进,障碍物的识别主要依靠图像分割与超声波测距信息。目标识别算法包括:基于CNN的目标识别算法、基于SVM的目标识别算法和基于RNN的目标识别算法。
6.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述三维地图建模模块(5)的功能为:以运动平台的初始位置为起点,通过采集运动平台的运行方向与速度,根据障碍物与目标识别结果结合超声波测距信息建立其周围环境的三维地图。
7.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述视觉信息与超声波信息融合避障模块(6)的功能为:将超声波测距信息叠加到相应方向的图像数据中,实现图像数据与测距信息的融合,并根据融合结果与三维地图的建立结果,给出运动平台的最优路径。
8.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述全景相机(7)的功能为:为环视相机模块(1)、超声波模块(2)与图像匹配拼接模块(3)提供集成平台,保障实现三个模块的功能。
9.根据权利要求1所述的一种基于环视相机的智能视觉导航***,其特征在于所述移动计算平台(8)功能为:提供障碍物与目标识别模块(4)、三维地图建模模块(5)和视觉信息与超声波信息融合避障模块(6)的集成平台与运算支持。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711421471.XA CN108195378A (zh) | 2017-12-25 | 2017-12-25 | 一种基于环视相机的智能视觉导航*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711421471.XA CN108195378A (zh) | 2017-12-25 | 2017-12-25 | 一种基于环视相机的智能视觉导航*** |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108195378A true CN108195378A (zh) | 2018-06-22 |
Family
ID=62584105
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711421471.XA Pending CN108195378A (zh) | 2017-12-25 | 2017-12-25 | 一种基于环视相机的智能视觉导航*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108195378A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109582032A (zh) * | 2018-10-11 | 2019-04-05 | 天津大学 | 多旋翼无人机在复杂环境下的快速实时避障路径选择方法 |
CN109636895A (zh) * | 2018-10-31 | 2019-04-16 | 北京航天晨信科技有限责任公司 | 一种全息显示方法和电子沙盘装置 |
CN110816520A (zh) * | 2019-11-27 | 2020-02-21 | 安徽江淮汽车集团股份有限公司 | 自动泊车方法、设备、存储介质及装置 |
CN112526520A (zh) * | 2019-08-29 | 2021-03-19 | 中车株洲电力机车研究所有限公司 | 一种行人及障碍物提示*** |
CN113110466A (zh) * | 2021-04-22 | 2021-07-13 | 深圳市井智高科机器人有限公司 | 一种用于agv机器人的高灵敏度避障***及方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102621986A (zh) * | 2012-04-13 | 2012-08-01 | 西北农林科技大学 | 一种基于视觉和超声波的导航控制*** |
EP2990765A1 (en) * | 2014-08-27 | 2016-03-02 | Kabushiki Kaisha TOPCON | Image processing device, image processing method, and program therefor |
CN105607635A (zh) * | 2016-01-05 | 2016-05-25 | 东莞市松迪智能机器人科技有限公司 | 自动导引车全景光学视觉导航控制***及全向自动导引车 |
CN105946853A (zh) * | 2016-04-28 | 2016-09-21 | 中山大学 | 基于多传感器融合的长距离自动泊车的***及方法 |
CN106357966A (zh) * | 2016-11-01 | 2017-01-25 | 乐视控股(北京)有限公司 | 全景图像拍摄装置及全景图像获取方法 |
CN106705964A (zh) * | 2017-01-06 | 2017-05-24 | 武汉大学 | 全景相机融合imu、激光扫描仪定位与导航***及方法 |
CN106802668A (zh) * | 2017-02-16 | 2017-06-06 | 上海交通大学 | 基于双目与超声波融合的无人机三维避撞方法及*** |
CN106878687A (zh) * | 2017-04-12 | 2017-06-20 | 吉林大学 | 一种基于多传感器的车载环境识别***及全方位视觉模块 |
CN106926800A (zh) * | 2017-03-28 | 2017-07-07 | 重庆大学 | 多摄像头适配的车载视觉感知*** |
CN107507230A (zh) * | 2017-08-31 | 2017-12-22 | 成都观界创宇科技有限公司 | 应用于全景图像的目标跟踪方法及全景相机 |
-
2017
- 2017-12-25 CN CN201711421471.XA patent/CN108195378A/zh active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102621986A (zh) * | 2012-04-13 | 2012-08-01 | 西北农林科技大学 | 一种基于视觉和超声波的导航控制*** |
EP2990765A1 (en) * | 2014-08-27 | 2016-03-02 | Kabushiki Kaisha TOPCON | Image processing device, image processing method, and program therefor |
CN105607635A (zh) * | 2016-01-05 | 2016-05-25 | 东莞市松迪智能机器人科技有限公司 | 自动导引车全景光学视觉导航控制***及全向自动导引车 |
CN105946853A (zh) * | 2016-04-28 | 2016-09-21 | 中山大学 | 基于多传感器融合的长距离自动泊车的***及方法 |
CN106357966A (zh) * | 2016-11-01 | 2017-01-25 | 乐视控股(北京)有限公司 | 全景图像拍摄装置及全景图像获取方法 |
CN106705964A (zh) * | 2017-01-06 | 2017-05-24 | 武汉大学 | 全景相机融合imu、激光扫描仪定位与导航***及方法 |
CN106802668A (zh) * | 2017-02-16 | 2017-06-06 | 上海交通大学 | 基于双目与超声波融合的无人机三维避撞方法及*** |
CN106926800A (zh) * | 2017-03-28 | 2017-07-07 | 重庆大学 | 多摄像头适配的车载视觉感知*** |
CN106878687A (zh) * | 2017-04-12 | 2017-06-20 | 吉林大学 | 一种基于多传感器的车载环境识别***及全方位视觉模块 |
CN107507230A (zh) * | 2017-08-31 | 2017-12-22 | 成都观界创宇科技有限公司 | 应用于全景图像的目标跟踪方法及全景相机 |
Non-Patent Citations (1)
Title |
---|
李盛辉等: "自主导航农业车辆的全景视觉同时定位与地图创建", 《江苏农业学报》 * |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109582032A (zh) * | 2018-10-11 | 2019-04-05 | 天津大学 | 多旋翼无人机在复杂环境下的快速实时避障路径选择方法 |
CN109582032B (zh) * | 2018-10-11 | 2021-10-12 | 天津大学 | 多旋翼无人机在复杂环境下的快速实时避障路径选择方法 |
CN109636895A (zh) * | 2018-10-31 | 2019-04-16 | 北京航天晨信科技有限责任公司 | 一种全息显示方法和电子沙盘装置 |
CN109636895B (zh) * | 2018-10-31 | 2023-11-17 | 北京航天晨信科技有限责任公司 | 一种全息显示方法和电子沙盘装置 |
CN112526520A (zh) * | 2019-08-29 | 2021-03-19 | 中车株洲电力机车研究所有限公司 | 一种行人及障碍物提示*** |
CN110816520A (zh) * | 2019-11-27 | 2020-02-21 | 安徽江淮汽车集团股份有限公司 | 自动泊车方法、设备、存储介质及装置 |
CN110816520B (zh) * | 2019-11-27 | 2021-10-29 | 安徽江淮汽车集团股份有限公司 | 自动泊车方法、设备、存储介质及装置 |
CN113110466A (zh) * | 2021-04-22 | 2021-07-13 | 深圳市井智高科机器人有限公司 | 一种用于agv机器人的高灵敏度避障***及方法 |
CN113110466B (zh) * | 2021-04-22 | 2021-12-21 | 深圳市井智高科机器人有限公司 | 一种用于agv机器人的高灵敏度避障***及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108195378A (zh) | 一种基于环视相机的智能视觉导航*** | |
JP7334881B2 (ja) | 自動運転車両システム用交差視野 | |
KR102493878B1 (ko) | 검출된 주차 차량의 특징에 기반을 둔 호스트 차량의 제어 | |
JP7010221B2 (ja) | 画像生成装置、画像生成方法、及び、プログラム | |
EP3008708B1 (en) | Vision augmented navigation | |
EP3995782A1 (en) | Systems and methods for estimating future paths | |
EP1961613B1 (en) | Driving support method and driving support device | |
CN102944224B (zh) | 一种无人驾驶车的自动环境感知***的工作方法 | |
JP4425495B2 (ja) | 車外監視装置 | |
CN104204847B (zh) | 用于可视化车辆的周围环境的方法和装置 | |
US9733080B2 (en) | Wide-angle image pickup unit and measuring device | |
JP6007848B2 (ja) | 目視確認評価装置、方法及びプログラム | |
CN104835117A (zh) | 基于重叠方式的球面全景图生成方法 | |
KR20180070571A (ko) | 이미지 시각화를 생성하기 위한 시스템들 및 방법들 | |
JP7163748B2 (ja) | 車両用表示制御装置 | |
CN107071341A (zh) | 小型雷达和光电转台的联动控制***及其控制方法 | |
JP2016175586A (ja) | 車両周辺監視装置、車両周辺監視方法、及びプログラム | |
CN110750153A (zh) | 一种无人驾驶车辆的动态虚拟化装置 | |
CN103204104A (zh) | 一种车辆全视角驾驶监控***及方法 | |
CN107798306A (zh) | 一种智能驾驶和远程可视化智能定损***及方法 | |
CN109883433A (zh) | 基于360度全景视图的结构化环境中车辆定位方法 | |
JP2019533875A (ja) | 道路の合成トップビュー画像を生成するための方法およびシステム | |
JP2004120661A (ja) | 移動体周辺監視装置 | |
CN115346368A (zh) | 一种基于远、近景多传感器一体融合的交通路侧感知***及方法 | |
CN205787326U (zh) | 全方位图像采集复合镜头 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180622 |
|
RJ01 | Rejection of invention patent application after publication |