CN111989544B - 基于光学目标的室内车辆导航的***和方法 - Google Patents
基于光学目标的室内车辆导航的***和方法 Download PDFInfo
- Publication number
- CN111989544B CN111989544B CN201980021348.XA CN201980021348A CN111989544B CN 111989544 B CN111989544 B CN 111989544B CN 201980021348 A CN201980021348 A CN 201980021348A CN 111989544 B CN111989544 B CN 111989544B
- Authority
- CN
- China
- Prior art keywords
- vehicle
- target
- materials handling
- optical target
- optical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003287 optical effect Effects 0.000 title claims abstract description 249
- 238000000034 method Methods 0.000 title claims abstract description 77
- 238000005007 materials handling Methods 0.000 claims abstract description 86
- 230000006870 function Effects 0.000 claims abstract description 29
- 238000001914 filtration Methods 0.000 claims abstract description 9
- 230000007246 mechanism Effects 0.000 claims description 34
- 238000013507 mapping Methods 0.000 claims description 14
- 238000003860 storage Methods 0.000 claims description 10
- 238000004891 communication Methods 0.000 claims description 8
- 239000000463 material Substances 0.000 claims description 8
- 239000003550 marker Substances 0.000 claims description 5
- 230000003595 spectral effect Effects 0.000 claims description 4
- 230000001186 cumulative effect Effects 0.000 claims description 3
- 238000001514 detection method Methods 0.000 description 48
- 230000008569 process Effects 0.000 description 47
- 238000012795 verification Methods 0.000 description 18
- 238000000605 extraction Methods 0.000 description 13
- 230000002776 aggregation Effects 0.000 description 8
- 238000004220 aggregation Methods 0.000 description 8
- 238000011084 recovery Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 238000012937 correction Methods 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 230000004807 localization Effects 0.000 description 3
- 230000005855 radiation Effects 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 229910052782 aluminium Inorganic materials 0.000 description 2
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 240000003380 Passiflora rubra Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000001125 extrusion Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000037074 physically active Effects 0.000 description 1
- 239000002243 precursor Substances 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000011524 similarity measure Methods 0.000 description 1
- 238000005549 size reduction Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000032258 transport Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
- G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0251—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C15/00—Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
- G01C15/02—Means for marking measuring points
- G01C15/04—Permanent marks; Boundary markers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0234—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using optical markers or beacons
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0272—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means comprising means for registering the travel distance, e.g. revolutions of wheels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Electromagnetism (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Navigation (AREA)
- Warehouses Or Storage Devices (AREA)
Abstract
一种用于将物料搬运车辆沿着表面导航或追踪其导航的车辆、***和方法,其包括相机和车辆功能,以将来自与高架特征的输入图像相关联的相机数据的二维图像信息与仓库地图的多个全局目标位置进行匹配,以生成多个候选光学目标、与每个全局目标位置关联的光学目标和代码;对目标进行过滤,以确定候选光学目标;对该目标进行解码以识别相关联的代码;识别与所识别的代码相关联的光学目标;确定相对于所识别的光学目标的相机度量以及所识别的光学目标在仓库地图中的位置和取向;基于相机度量来计算车辆姿态;以及利用车辆姿态来导航物料搬运车辆。
Description
相关申请的交叉引用
本说明书要求于2018年2月23日提交的标题为“SYSTEMS AND METHODS FOROPTICAL TARGET BASED INDOOR VEHICLE NAVIGATION”(基于光学目标的室内车辆导航的***和方法)的美国临时专利申请序列号No.62/634,219的优先权,其整体通过引用被结合于此。
技术领域
本说明书总体上涉及用于基于高架特征为工业车辆提供全局定位的***和方法,并且更具体地,涉及用于利用全局定位来分析仓库中的高架光学目标以追踪位置已知或未知的工业车辆的位置。
背景技术
为了将物品在工业环境中四处移动,工人经常利用工业车辆,包括例如叉车、手动和机动托盘装卸车和/或其它物料搬运车辆。工业车辆可以被配置为导航通过环境的自动引导车辆或手动引导车辆。为了便于自动引导、导航或二者,工业车辆可以被调整用于在环境内定位。也就是说,工业车辆可以用传感器和处理器调整,以用于确定工业车辆在环境内的定位,诸如例如,该工业车辆的姿态和位置。
发明内容
在一个实施例中,物料搬运车辆可以包括:相机;车辆处理器;被配置为使物料搬运车辆沿着库存中转表面移动的驱动机构;被配置为在仓库的存储架中存储和检索货物的物料搬运机构;以及与驱动机构和物料搬运机构通信的车辆控制架构。相机可以通信地耦接到车辆处理器,并且捕获高架特征的输入图像。物料搬运车辆的车辆处理器执行车辆功能,以(i)从相机获取相机数据的初始集合,该相机数据的初始集合包括与高架特征的输入图像相关联的二维图像信息,以及(ii)将来自相机数据的初始集合的二维图像信息与仓库地图的多个全局目标位置进行匹配,以生成多个候选光学目标。仓库地图的全局目标位置可以与高架特征的测绘相关联,该仓库地图可以被配置为存储与每个全局目标位置相关联的光学目标的位置和取向,并且每个光学目标可以与代码相关联。车辆功能还可以是(iii)对多个候选光学目标进行过滤,以确定候选光学目标,(iv)对候选光学目标进行解码,以识别与候选光学目标相关联的代码,(v)识别与所识别的代码相关联的光学目标,(vi)确定相机度量,该相机度量包括相机相对于所识别的光学目标的距离和角度以及所识别的光学目标在仓库地图中的位置和取向的表示,(vii)基于相机度量来计算车辆姿态,以及(viii)利用车辆姿态来导航物料搬运车辆。
在另一实施例中,物料搬运车辆可以包括:相机;车辆处理器;被配置为使物料搬运车辆沿着库存中转表面移动的驱动机构;被配置为在仓库的存储架中存储和检索货物的物料搬运机构;以及与驱动机构和物料搬运机构通信的车辆控制架构。相机可以通信地耦接到车辆处理器,并且捕获高架特征的输入图像。物料搬运车辆的车辆处理器执行车辆功能,以(i)从相机获取相机数据的初始集合,相机数据的初始集合包括与高架特征的输入图像相关联的二维图像信息,以及(ii)将来自相机数据的初始集合的二维图像信息与仓库地图的多个全局目标位置进行匹配,以生成多个候选光学目标。仓库地图的全局目标位置可以与高架特征的测绘关联,仓库地图可以被配置为存储与每个全局目标位置相关联的光学目标的位置和取向,并且每个光学目标可以与代码相关联。每个光学目标可以包括安装在杆上的多个点光源,该杆被配置用于作为高架特征被附接到天花板,并且该多个点光源包括光图案作为用于每个相应光学目标的代码。车辆功能还可以是(iii)对多个候选光学目标进行过滤,以确定候选光学目标,(iv)对候选光学目标进行解码,以识别与候选光学目标相关联的代码,(v)识别与所识别的代码相关联的光学目标,(vi)确定相机度量,该相机度量包括相机相对于所识别的光学目标的距离和角度以及所识别的光学目标在仓库地图中的位置和取向的表示,(vii)基于相机度量来计算车辆姿态,以及(viii)利用车辆姿态来追踪物料搬运车辆沿着库存中转表面的导航,或以至少部分自动化方式将物料搬运车辆沿着库存中转表面导航,或进行这二者。
在又一实施例中,将物料搬运车辆沿着库存中转表面导航或者追踪该导航的方法可以包括以下步骤:将物料搬运车辆设置在仓库的库存中转表面上,其中物料搬运车辆包括:相机;车辆处理器;被配置为使物料搬运车辆沿着库存中转表面移动的驱动机构;被配置为在仓库的存储架中存储和检索货物的物料搬运机构;以及与驱动机构和物料搬运机构通信的车辆控制架构。该方法还可以包括利用驱动机构将物料搬运车辆沿着库存中转表面移动;当物料搬运车辆沿着库存中转表面移动时,经由相机捕获仓库的高架特征的输入图像;以及从相机获取相机数据的初始集合,相机数据的初始集合包括与高架特征的输入图像相关联的二维图像信息。该方法还可以包括将来自相机数据的初始集合的二维图像信息与仓库地图的多个全局目标位置进行匹配,以生成多个候选光学目标,其中,仓库地图的全局目标位置与高架特征的测绘相关联,仓库地图被配置为存储与每个全局目标位置相关联的光学目标的位置和取向,并且每个光学目标与代码相关联。该方法还可以包括对多个候选光学目标进行过滤,以确定候选光学目标;对候选光学目标进行解码,以识别与候选光学目标向关联的代码;识别与所识别的代码关联的光学目标;确定相机度量,该相机度量包括相机相对于所识别的光学目标的距离和角度以及所识别的光学目标在仓库地图中的位置和取向的表示;基于相机度量来计算车辆姿态;以及利用车辆姿态来导航物料搬运车辆。
结合附图鉴于以下的具体描述,将更充分地理解由本文描述的实施例提供的这些特征和附加特征。
附图说明
附图中阐述的实施例本质上是说明性和示例性的,并不旨在限制由权利要求书限定的主题。当结合以下附图阅读时,可以理解以下对说明性实施例的详细描述,其中用类似的附图标记指示类似的结构,并且其中:
图1描绘了根据本文示出和描述的一个或多个实施例的用于定位的车辆;
图2描绘了根据本文示出和描述的一个或多个实施例的示例性光学目标;
图3描绘了根据本文示出和描述的一个或多个实施例的用于图2的示例性光学目标的多个有源目标图案;
图4描绘了根据本文示出和描述的一个或多个实施例在定位处理内用于相机特征提取以及全局定位方法的应用和验证的示例性方法的流程图;
图5描绘了根据本文示出和描述的一个或多个实施例的全局定位方法的示例性方法的流程图概况;
图6描绘了根据本文示出和描述的一个或多个实施例的全局定位方法的另一示例性方法的流程图概况;以及
图7描绘了根据本文示出和描述的一个或多个实施例的全局定位方法的又一示例性方法的流程图概况。
具体实施方式
本文描述的实施例总体上涉及用于从高架特征中提取特征的定位技术,这些高架特征包括但不限于如本文描述的光学目标。本文利用定位来表示使得能够在仓库、工业设施或其它环境中主动追踪车辆位置的各种***配置中的任一种。本公开的构思不限于任何特定的定位***配置,并且被认为可应用于多种常规的和尚待开发的定位***中的任一种。如将在下面进一步更详细描述的,可以将定位***与全局目标定位方法(GTLM)和/或验证***一起使用,使得如果通过定位***方法丢失了工业车辆,则可以利用GTLM恢复车辆,并且可以利用验证***检查恢复精度,之后公布新的当前车辆位置。附加地或可替代地,GTLM可以被用作定位***本身以及恢复***,并且/或者可以将验证***与定位***和/或GTLM***一起使用。这样的定位***可以包括于2016年5月24日发布的标题为“LOSTVEHICLE RECOVERY UTILIZING ASSOCIATED FEATURE PAIRS”(利用相关联的特征对的丢失车辆恢复)的美国专利No.9,349,181和于2018年5月29日发布的标题为“VEHICLEPOSITIONING OR NAVIGATION UTILIZING ASSOCIATED FEATURE PAIRS”(利用相关联的特征对的车辆定位或导航)的美国专利No.9,984,467中描述的定位***,这两者通过引用被整体结合于此。与本申请的内容相比,在这些参考文献中定义特定技术术语或短语的方式上的任何不一致应该主要参考在本申请中定义该术语或短语的方式来解释。
本文描述的实施例总体上涉及这种用于仓库环境中的物料搬运车辆的定位技术。出于定义和描述本公开的概念和范围的目的,要注意,“仓库”涵盖物料搬运车辆在其中运输货物的任何室内或以其它方式覆盖的设施,包括但不限于主要用于存储货物的仓库(诸如将单层或多层仓库货架或存储单元布置在走道或其它地方的仓库)以及货物被物料搬运车辆在设施中四处运输以便用在一个或多个制造过程中的制造设施。
因此,可以使用定位***定位和/或导航工业车辆通过诸如仓库之类的建筑结构。适当地,诸如本文描述的光学目标以及照明之类的高架特征可以被安装在建筑物中或建筑物的天花板上。然而,在一些实施例中,高架特征也可以或可替代地经由合适结构被从屋顶或墙壁悬挂下来。在一些实施例中,相机可以被安装到导航通过仓库的工业车辆(例如,自动引导车辆或手动引导车辆)。输入图像可以是在从图像中提取特征之前从相机捕获的任何图像。
现在参考图1,车辆100可以被配置为导航通过诸如仓库110之类的工业设施。车辆100可以包括这样的物料搬运车辆,其包括用于使物料搬运车辆沿着库存中转表面移动的驱动机构、被配置为在工业设施的存储架中存储和检索货物的物料搬运机构,以及与驱动机构和物料搬运机构通信的车辆控制架构。车辆100可以包括用于升降和移动有效载荷的工业车辆,诸如例如叉车、前移式卡车、转塔式卡车、步行式堆高车、拖车、托盘车、高/低、堆积机载重车、拖车装载机、侧向装载机、叉式起重机等。工业车辆可以被配置为沿着期望路径自动或手动地导航诸如仓库110的表面122之类的库存中转表面。相应地,可以通过一个或多个车轮124的旋转来引导车辆100向前和向后。附加地,可以通过操纵一个或多个车轮124使得车辆100改变方向。可选地,车辆可以包括用于控制车辆功能的操作员控件126,车辆功能诸如但不限于车轮124的速度、车轮124的方向等。操作员控件126可以包括被指派用于车辆100的功能的控件,诸如例如开关、按钮、杆、手柄、踏板、输入/输出设备等。注意的是,如本文使用的术语“导航”可以意指控制车辆从一个地方到另一个地方的移动。
车辆100还可以包括用于捕获诸如高架特征的输入图像之类的高架图像的相机102。相机102可以是能够捕获物体的视觉外观并将视觉外观变换成图像的任何设备。相应地,相机102可以包括诸如例如电荷耦合器件、互补金属氧化物半导体传感器或其功能等同物之类的图像传感器。在一些实施例中,车辆100可以被定位于仓库110内并且被配置为捕获仓库110的天花板112的高架图像。为了捕获高架图像,相机102可以被安装到车辆100并聚焦于天花板112。出于定义和描述本公开的目的,如本文使用的术语“图像”可以意指被检测物体外观的表示。图像可以以各种机器可读的表示来提供,诸如例如JPEG、JPEG 2000、TIFF、原始图像格式、GIF、BMP、PNG、Netpbm格式、WEBP、光栅格式、矢量格式或适于捕获高架物体的任何其它格式。
仓库110的天花板112可以包括诸如高架光学目标130和高架灯之类的高架特征,高架灯诸如但不限于顶灯114,其用于从天花板112或者大体上从在仓库中操作的车辆上方提供照明。顶灯114可以包括大体矩形的灯,诸如例如天窗116、荧光灯等;并且可以被安装在天花板或墙壁结构中或者从天花板或墙壁结构悬挂下来,以便从上方提供照明。如本文使用的,术语“天窗”可以意指在天花板或顶部中的孔,其装配有诸如例如空气、玻璃、塑料等之类的用于允许日光透过的大体透光的介质。尽管天窗可以具有各种形状和大小,但本文描述的天窗可以包括“标准”的长的、大体矩形的天窗,其可以被大梁或横梁分割成一系列面板,也可以不分割。可替代地,天窗可以包括矩形或圆形形状的较小的分立天窗,这些天窗的大小近似于卧室窗户,即,约30英寸×约60英寸(约73cm×约146cm)。可替代地或附加地,顶灯114可以包括诸如例如圆形灯118、合并灯120等之类的大体圆形的灯,合并灯120可以包括看上去是单个物体的多个相邻的圆形灯。因此,高架灯或“顶灯”包括自然光(例如,阳光)和人造(例如,电动)光的来源。
本文描述的实施例可以包括一个或多个车辆处理器,诸如与相机102通信地耦接的处理器104。该一个或多个处理器104可以执行机器可读指令,以自动地实现本文描述的方法或功能中的任一种。用于存储机器可读指令的存储器106可以通信地耦接到该一个或多个处理器104、相机102或其任何组合。一个或多个处理器104可以包括处理器、集成电路、微芯片、计算机或能够执行机器可读指令或已经被配置为以类似于机器可读指令的方式执行功能的任何其它计算设备。存储器106可以包括RAM、ROM、闪速存储器、硬盘驱动器或能够存储机器可读指令的任何非暂态设备。
一个或多个处理器104和存储器106可以与相机102集成。可替代地或附加地,该一个或多个处理器104和存储器106中的每一个可以与车辆100集成。而且,该一个或多个处理器104和存储器106中的每一个可以与车辆100和相机102分开。例如,管理服务器、服务器或移动计算设备可以包括一个或多个处理器104、存储器106或这二者。注意的是,在不偏离本公开的范围的情况下,该一个或多个处理器104、存储器106和相机102可以是相互通信地耦接的分立部件。相应地,在一些实施例中,一个或多个处理器104的部件、存储器106的部件以及相机102的部件可以在物理上彼此分开。如本文使用的,短语“通信地耦接”意指部件能够相互交换数据信号,该数据信号诸如例如经由导电介质的电信号、经由空气的电磁信号、经由光波导的光信号等。
因此,本公开的实施例可以包括以任一代的任何编程语言(例如,1GL、2GL、3GL、4GL或5GL)编写的逻辑或算法。该逻辑或算法可以被编写为可以由处理器直接执行的机器语言,或者可以被编译或汇编成机器可读指令并存储在机器可读介质上的汇编语言、面向对象编程(OOP)、脚本语言、微代码等。可替代地或附加地,可以用硬件描述语言(HDL)编写逻辑或算法。另外,可以经由现场可编程门阵列(FPGA)配置或专用集成电路(ASIC)或其等同物来实现逻辑或算法。
如上所述,车辆100可以包括一个或多个处理器104或者与其通信地耦接。相应地,一个或多个处理器104可以执行机器可读指令,以操作或取代操作员控件126的功能。机器可读指令可以被存储在存储器106上。相应地,在一些实施例中,可以由执行机器可读指令的一个或多个处理器104来自动地导航车辆100。在一些实施例中,当车辆100被导航时,定位***可以监视车辆的位置。
例如,车辆100可以基于车辆100的定位位置沿着仓库110的表面122沿着期望路径自动导航到期望位置。在一些实施例中,车辆100可以确定车辆100相对于仓库110的定位位置。可以通过将图像数据与地图数据进行比较来执行对车辆100的定位位置的确定。地图数据可以被本地存储在存储器106中,其可以被定期更新,或者地图数据可以由服务器等提供。在实施例中,工业设施地图包括与高架特征的测绘相关联的多个三维全局特征点。在给定定位位置和期望位置的情况下,可以为车辆100确定行驶路径。一旦行驶路径已知,车辆100就可以沿着行驶路径行驶,以在仓库110的表面122上导航。具体而言,一个或多个处理器104可以执行机器可读指令,以执行定位***功能并操作车辆100。在一个实施例中,一个或多个处理器104可以调节车轮124的转向并控制节流阀以使车辆100在表面122上导航。
参照图2,光学目标130被示出为点光源的布置。在实施例中,光学目标130可以包括角功率特性并适于在远距离处的检测。作为非限制性示例,光学目标130的点光源可以包括多个发光二极管(LED)。LED可以与相应的角漫射透镜一起使用并被其覆盖,以提供角功率特性。角漫射透镜可以是蝙蝠翼透镜等。在其它实施例中,可以不使用这样的角漫射透镜,使得LED看上去在光学目标130正下方最亮,而当从相对于光学目标130的侧角度观看时亮度变暗。使用角漫射透镜允许LED的正下方亮度的衰减以及相关联的角侧向亮度的增加,以具有角发射特性。对于由角漫射透镜覆盖的LED而言,利用这种角发射特性,例如当LED面向下方时,朝向角侧方向而不是直接向下发射更高的能量。作为非限制示例,辐射图案可以使得与从正下方观看LED相比,利用角漫射透镜的LED在10米的距离处看上去具有近似的亮度。这样的辐射图案可以确保仓库地板的平坦场辐射,光学目标130被安装在该地板上方,并且LED在例如以指向下的LED为中心的60度圆锥体内指向该地板。然后,检测范围可以是安装在车辆上的相机高度与有源光学目标130在被安装在仓库环境的天花板设施上并被朝向仓库地板指向下时的高度之间的差值的两倍(即,1/cos(60°))。在本公开的范围内,光学目标130的其它检测范围是可能的。
光学目标130可以包括适于安装于仓库环境的天花板基础设施的各种结构。在一些实施例中,光学目标130可以包括圆形形状、正方形形状或其它合适的安装形状。在本公开的范围内设想LED在光学目标130上的任何二维或三维布置,其可以被等距或不等距地间隔。例如,LED在光学目标130上的正方形布置可以被认为是二维布置。附加地,在本公开的范围内设想用于光学目标130的单个LED安装或多个LED安装二者。
在实施例中,光学目标130可以包括其上安装有多个点光源的杆132。点光源可以是例如安装在杆132上的发光二极管(LED)134。杆132可以是铝或类似材料。杆132可以是1.6米长,并且包括中央条带部分136,LED 134以线性方式沿其安装。在其它实施例中,杆的长度可以更长或更短。LED可以发射白光。可替代地,LED可以发射单色光或具有窄光谱带宽的光,诸如橙色光。作为示例而非限制,六个LED 134可以沿着中央条形部分136安装。六个LED 134可以沿着中央条带部分136等距地装配。在其它实施例中,杆132可以包括多于或少于六个LED。例如,被配置为从主电源向光学目标130提供电力的电力驱动器138也可以被安装在杆132上。一系列的磁性支座可以被设置在杆132的背面上,以便于与天花板基础设施一起安装。例如,磁性支座可以与链条或其它合适的固定装置一起使杆132保持抵靠平顶梁。在实施例中,蓝牙低功耗(BLE)信标可以被设置在光学目标130上,并且BLE天线可以被设置在车辆硬件上,以用于扫描这样的信号。可以使用BLE接收信号强度指示(RSSI)来确定具有作为相似光图案的相同识别码的歧义光学目标130之间的识别。附加地或可替代地,在WiFi接入点的位置对定位***已知的情况下可以利用WiFi信号强度来确定具有作为相似光图案的相同识别码的歧义光学目标130之间的识别。作为非限制示例,为了消除非唯一目标130之间的歧义,可以利用其它观察,诸如附加的相机观察、激光观察、无线电波观察、激光观察、磁场观察或其组合。作为非限制示例,相对于包括相同光学代码150的多个非唯一目标,可以通过计算高于预定阈值的适配度度量和选择具有最佳适配、排名和/或对适配度度量的匹配对候选目标130来执行恢复位置的歧义消除。可以拒绝不在适配度度量的阈值或范围内的那些非唯一有源目标130,同时分析其它非唯一有源目标130,以确定最佳适配,从而将候选光学目标130识别为最佳适配目标。在实施例中,适配度度量可以基于UV空间中的预期特征与实际观察的特征的距离、基于来自WIFI的用于BLE信标源的附加无线电信号的强度,和/或基于有线引导观察的接近度。附加地或可替代地,本文描述的***可以通过验证聚集的里程计信息与库存中转表面的物理形状和存在于库存中转表面上的静态障碍物的兼容性,来相对于一个或多个候选光学目标130消除位置的歧义。在实施例中,例如,当在光学目标130的一个或多个LED发生故障而确定错误代码时,可以生成并显示“截止(off)”代码状态而不显示错误代码。对于正确的代码,可以生成并显示“正确”或“导通(on)”代码状态。
光学目标130可以包括中心基准标记140,该中心基准标记140通过与来自地面的激光测距仪一起使用,有助于测量在地图中存储的全局仓库坐标框架中的目标位置。光学目标130的末端标记142可以例如被着色为黑色,或者可以是相对于光学目标130的杆132的另一种对比色,诸如橙色,其中杆132是被阳极氧化成黑色以减少虚假反射的铝挤压件。光学目标130的末端标记142可以被用于使光学目标130的取向偏振,而不用知道关联到有源光学目标130的LED导通/截止图案。连同与光学目标130相关联的代码150和光学目标130的三维坐标以基于地图指示仓库环境中的目标位置,光学目标130的取向被记录在用于在定位***操作期间使用的定位特征图中。相对于光学目标130,代码150可以是唯一的或非唯一的。
参照图3,示出了包括六个LED 134的光学目标130的多个光图案的示例。每个光图案可以是光学代码150。当内部二极管中的至少一个导通而至少一个截止时,外部二极管可以始终导通。内部二极管的状态和相关联的导通/截止图案与关于光学目标130的代码的信息相关联。在光学目标130的导通/截止内部二极管图案没有随时间推移而改变时,可以与观看方向无关地提取光学目标130的代码150。在实施例中,六个代码可以与用于六个光学目标130的六个相应光图案相关联。例如,如图3中所示,相对于从左到右的四个内部二极管,六个光学目标130具有以下图案:代码1具有导通/截止/截止/截止的图案;代码2具有截止/截止/导通/导通的图案;代码3具有截止/截止/导通/截止的图案;代码4具有导通/截止/导通/导通的图案;代码5具有截止/导通/导通/导通的图案;而代码6具有截止/导通/截止/导通的图案。可以诸如通过光学目标130上的物理开关或通过例如基于远程控制的开关来切换代码,以促成现场使用。
光学目标130可以被安装在天花板基础设施上,诸如梁、檩等。所安装的光学目标130在地图坐标框架内的的全局位置和取向被测量,并将其连同作为例如相应的LED光图案的每个目标代码150一起记录,以供全局定位***在如本文描述的车辆操作期间利用。在实施例中,通过利用诸如激光测距仪或激光测距器之类的激光工具或其它合适的测绘扫描工具进行的手动测绘,被安装到天花板基础设施的光学目标130的测绘可以实现。
图4说明了GTLM中的有源目标使用以及定位***160的实施例的处理流程图。作为示例而非以限制的形式,在图4的定位***160中,车辆传感器被配置为接收和处理框162中的输入数据,相对于里程计的作为输入传感器168,相对于周围物体的激光检测作为传感器输入170,而相对于辅助导航的有线引导的作为传感器输入172。框162的传感器输入被关联为被定位模块166用来为车辆提供定位作为正常种子更新的数据。
在图4的步骤1中,车辆传感器还被配置为接收和处理高架特征的图像数据作为如本文描述的图像输入174。例如,从设置在车辆上的相机捕获高架图像。检测高架特征候选,诸如在2016年5月24日发布的标题为“LOST VEHICLE RECOVERY UTILIZING ASSOCIATEDFEATURE PAIRS”(利用关联特征对的丢失车辆恢复)的美国专利No.9,349,181和2018年5月29日发布的标题为“VEHICLE POSITIONING OR NAVIGATION UTILIZING ASSOCIATEDFEATURE PAIRS”(利用关联特征对的车辆定位或导航)的美国专利No.9,984,467中描述的。例如,在步骤2中,输入178的特征候选是框176中从高架图像的检测,其中相机特征提取模块164已经将该高架图像识别为潜在的兴趣特征,诸如如本文描述的顶灯、天窗和有源光学目标130的LED。例如,相对于光检测,特征候选被用作用于光和天窗检测的输入。然后,通过框182的检测到的光和/或天窗的所提取特征184可以与用于定位的相关联数据一起利用,以确定仓库中的车辆位置。
相对于图4的GTLM,接收和处理高架特征的图像数据的车辆传感器具体地可以接收和处理与一个或多个有源光学目标130关联的图像数据,如以下相对于图5至图6的处理500、600更详细描述的。特别地,图4的步骤3阐述了有源目标检测器模块180,其应用两个相应的处理500、600,用于通过检测处理500进行的有源光学目标130检测(步骤4)和通过图6的验证处理600进行验证(步骤5)。步骤4的检测处理500被更详细地阐述为图5中的检测处理500。步骤5的验证处理600被更详细地阐述为图6中的验证处理600。有源目标检测器模块180的处理500、600可以发生在定位***160的相机特征提取模块164内,其从步骤2的特征候选中提取有源光学目标130。在步骤4中,检测过程500对输入的特征候选点进行过滤,以移除不太可能来自有源光学目标130的一个或多个LED的特征候选点,并且识别作为要成为有源光学目标130或一个或多个有源光学目标130的部分的候选的特征候选点。在步骤5中,验证过程600应用这样的方法:其验证步骤4中发现的各个候选,并找到诸如相应LED光图案之类的相关联显示的代码。
在得到所提取特征184的步骤6之后,如果在有源目标确定框186中尚未找到有源光学目标130,则可以继续其它定位***处理,在这些处理中,通过数据关联框188中的数据关联来融合传感器数据(诸如输入里程计、激光和有线引导数据)加相机特征,以在更新框190中估计车辆的位置。然而,如果在步骤6之后在有源目标确定框186中找到一个或多个有源光学目标130,则该一个或多个有源光学目标130与相机特征提取模块检测到的其它顶灯特征组合并被发送到定位***160的定位模块166。在实施例中,一旦识别了有源目标130并且该有源目标130与仓库的地图中的相应目标位置坐标匹配,可以对如本文描述的其它高架特征(诸如灯和/或天窗)执行附加相机特征提取。一旦在步骤6之后检测到有源目标130,就基于有源目标130在姿态恢复框192中的步骤7中确定并恢复车辆的姿态。如果已经提取了有源目标130,则通过从高架图像上的二维图像帧投影到三维全局坐标框架中并且使得估计基于对相机的测绘目标位置和几何参数,可以从所提取的有源目标130单独估计车辆的姿态。例如,在使用本文描述的GTLM和定位***之前,对多个光学目标130的位置进行测绘并将其存储在仓库地图中。
在状态框194中确定已定位的状态(前进至步骤8)或丢失的状态(前进至步骤9)。在步骤8中,对于已定位的状态,可以使用从提取出的有源光学目标130计算出的姿态,以基于所提取的有源光学目标130来对车辆的定位重置种子(reseed),从而确保在重置种子姿态框196中的精确定位。这种情形在定位***160处于已定位的状态但是当前估计的姿态与从所提取的有源光学目标130恢复的姿态之间存在不一致时可能发生。然后,可以使用恢复的姿态将当前估计的姿态重置为恢复的姿态,以通过设置新的车辆姿态来对车辆定位重置种子。在步骤9的恢复姿态框中,当定位***160处于丢失状态时,可以使用从所提取的有源光学目标130计算出的姿态将当前估计姿态重置种子为所恢复的姿态。
例如,当使用定位***为室内仓库环境中的工业车辆提供定位时,存在定位***可能丢失(步骤9)或者说以其他方式不能可靠操作的情形。示例场景包括:工业车辆可能在室外行驶,而可从诸如顶灯之类的高架天花板特征中提取的相机特征可能是不可用的;或者仓库环境的工业车辆可以在其中行进的部分具有不足以保持准确定位的密度的可提取特征。如果定位***的状态为丢失使得车辆丢失,则可以利用所恢复的姿态作为车辆定位和导航的新种子或起始位置。例如,在车辆离开测绘区域或丢失了测绘特征的追踪之后,车辆可以考虑为未被定位。在这种情形下,在成功进行检测以恢复车辆位置后,可以利用有源目标130来促成车辆的重新定位。除定位***之外或作为定位***的替代可以利用GTLM。例如,可以例如通过提供可靠方式将定位***重置种子为已知车辆位置,来使用GTLM将由定位***所提供的准确定位的可用性最大化。
然而,如果定位的状态为已定位为使得车辆位置已知(步骤8),则可以基于全局修正模式下所恢复的姿态来验证车辆位置和/或使车辆位置更加准确。例如,对于已定位但定位精度低的车辆,在成功检测到有源目标130后,使用有源目标130允许车辆的定位准确性增加。有源目标130能够被用于验证预测的车辆位置并高度确定地修正车辆定位。这样的全局修正模式可以按各种方式支持定位***。作为非限制示例,有源光学目标130可以被安装在天花板基础设施位置中,其中其它高架特征的密度不足以用定位***进行高精度定位。附加地或可替代地,有源目标130可以被安装在这样的位置,其中非常期望位置修正的可用性。通过使用这样的有源目标130,在车辆可通过定位***来定位的时长中可用时间的增加增强了车辆定位在可用时间和提高定位精度方面的价值。
在图5至图6的相应处理500、600中更详细地阐述了有源目标检测器模块的处理。可以用透镜将有源光学目标130的图像投影到成像传感器上并将其数字化为二维图像信号以创建高架图像。在与检测处理500的图5的框502相关联的步骤1中,连同诸如顶灯和天窗之类的其它高架特征,一个或多个成像的有源光学目标130的LED的位置在二维图像空间中被提取为分别与LED相关联的“关键点”特征,并且其包括x和y和半径尺寸。由有源目标检测器模块通过图4中的步骤4的检测处理500和步骤5的验证处理600将这些其它高架特征与二维图像信号一起处理。
图5将图4的步骤4的检测处理500更详细地阐述为有源目标候选检测处理。在与图5的检测处理500的框502相关联的步骤2中,检测处理从高架图像中过滤太大以至于不能成为有源光学目标130的LED的所有关键点特征。输入到框504的步骤2中的检测处理的框506的约束可以包括最大关键点特征大小系数和关键点特征大小下降,以指示可接受的关键点特征大小范围。
在与框508相关联的步骤3中,检测处理500在其余关键点特征集合中搜索可以是有源光学目标130或有源光学目标130的部分的成像的LED的布置。所搜索的信息包括代表表示共线图案的成像LED的坐标集合的有源目标片段的集合。有源目标片段被收集并存储在数据结构中,诸如存储在存储模块中。输入到与框508相关联的步骤3中的检测处理500中的框510的约束可以包括紧密拟合到检测特征的包围盒的最大目标宽高比、最大边长和最大面积,该检测特征被关联到有源光学目标130。
在与检测处理500的框512相关联的步骤4中,有源目标片段的该集合被聚合并组合到包含潜在有源光学目标130的线的集合中。这种聚合减少了待处理的数据量,从而提高了有源目标检测器模块的效率和处理速度。在实施例中,这样的线的集合不是线段,即,没有起点或终点,而是无限长,并且仅由它们与水平坐标轴的角度和其与描述UV空间的坐标系原点的距离来描述。在执行框512的步骤4的聚合之后,所有目标候选可以与这样的线之一共线。多个目标候选可以在同一条线上,要么是因为在计算出的线上有不止一个目标,要么在计算出的线上存在其它目标候选,其在后续处理步骤中被证明是假检测。这些目标候选可以在计算出的线内是重叠的,诸如,一个真实的有源光学目标130在线上,而另一个检测到的有源目标是假的,由来自真实的有源光学目标130和一个或多个噪声提取的两个关键定特征组成。由于本文描述的定位***不限于每个图像帧检测仅一个有源目标,因此可能存在包含有源目标候选的多于一条这样的线。例如,可能存在安装在附近(例如,在40cm距离处)的两个平行目标,导致得到包含有源目标候选的至少两条线。框512的步骤4的聚合提供了对这样的线的重复的移除,并且作为框514的积累参数的聚合参数定义了两条略有不同的线何时可以被认为是等同的。由于诸如像素合并(pixel binning)等之类的数字化效果,导致可能出现线之间的这种微小差异。聚合允许移除重复的线以进行处理,例如,当要处理较少这样的线时,其增加了后续步骤的性能效率和速度。
进入与框516相关联的步骤5中的检测处理500的输入可以是框518的线捕捉距离(line snap distance)。作为非限制示例,如上所述的关键点特征的集合和线的集合可能存在于UV空间中。线捕捉距离参数有助于确定哪个关键点特征属于哪条线。例如,线捕捉距离参数可以指定如果关键点特征x与线y的距离(即,x投影到y上的正交投影的线段的长度)小于线捕捉距离,则关键点特征x属于线y。在本公开的范围内,设想到使用合适数据结构的关键点特征与线之间的其它关联。
从分别与框520、524相关联的步骤6和步骤7中的线的集合中的每条线中提取潜在的候选有源光学目标130。在与框520相关联的步骤6中,来自框522的作为目标高度和长度参数的输入可以包括目标高度范围、最小可接受目标长度、最大可接受目标长度和候选高度松弛。通过示例而非限制,步骤6针对有源目标候选的早期过滤,以通过减少候选的数量来降低计算成本。检查有源目标候选在UV空间中的大小和位置,以确定它可能是有源光学目标130。例如,在该步骤中将会滤除检测到的顶灯的行。对于每个目标候选,实施例中***从UV空间向3D空间反向投影,以估计目标候选的物理大小。该大小估计应该在最小可接受目标长度的输入参数与最大可接受目标长度的输入参数之间。然而,在该阶段中,用于有源光学目标130的代码150可能是未知的,使得不存在可以使用的单个高度。因此,将目标候选与仓库地图中的有源目标的所有高度的范围进行比较。参数候选高度松弛可以针对目标高度估计指定附加全局不确定性,以使***容忍由这样的因素引入的估计错误:诸如但不限于轻微不准确的相机参数、不完全水平的卡车、不精确的所测绘(测量)的有源目标高度等。在实施例中,本文描述的处理在如果对于所有可能的目标代码而言有源目标高度是均匀的或者如果存在少量具有均匀高度的子集(例如,仅安装在8米和12米高处的目标)时,则以更高效的方式过滤在随后的计算成本更高的阶段中原本会被拒绝的大多数候选。
在实施例中,可以从每条线中提取多个候选有源光学目标130,以在存在与噪声检测相关联的噪声的情况下促成有源光学目标130的提取。在与框524相关联的步骤7中,去除了可能由于数据聚合不足而导致的冲突的候选有源光学目标。在与框526相关联的步骤8中,从图5的检测处理500输出候选有源光学目标130的集合。
图6更详细地阐述了图4的步骤5的验证处理600,描绘了被应用于从图5的检测处理500输出的候选有源光学目标130的集合的解码和验证处理的步骤。验证处理600跟在图5的检测处理500之后,使得在图5的框526和步骤8中输出的候选有源光学目标130的集合在框602中被输入到与图6的框602相关联的步骤9中的验证处理600。验证处理600被应用于所有该集合的候选有源光学目标130。候选有源光学目标130的解码和验证考虑到光学调制传递函数不是完美的,使得光学***的分辨率受到限制,并且使得该分辨率可能朝向图像拐角劣化。
在对比度低的区域中,由于不完美的调制传递导致特征提取的可靠性会降低。在这样的情形下,针对有源目标候选验证的验证处理可以先开始过滤对于与图6的框604相关联的步骤10中的可靠解码而言太小的目标候选。在框606中作为目标大小参数的输入可以包括最大图像空间范围和径向对称衰减。在实施例中,最大图像空间范围参数与目标候选为了不会由于不可靠解码被拒绝而在UV空间中必须具有的大小相关,诸如在观察在较大距离处的有源目标时一些LED未被检测到的示例中。径向对称衰减参数可以考虑以下情形:由于不完美的透镜和渐晕,图像质量在图像中心处是最好的,并且朝向图像拐角下降。该***可以实现径向对称(指数)模型,其中径向对称衰减参数指定图像质量朝向图像拐角的下降幅度。实际上,如果在图像拐角中检测到目标候选,则只有当检测到的拐角目标候选在UV空间中比最大图像空间范围参数更大或更长时,才可以进一步处理检测到的拐角目标候选。二维图像UV空间中可接受的最小目标候选大小在高架图像的中心可能更小,并且朝向图像拐角增加。检测到的两个LED在图像UV空间中之间的距离可以是至少2个像素,但在本公开的范围内设想到其它更大或更小的距离。
在与框608相关联的步骤11中,可以针对对于可靠解码而言不太小的目标候选来解码以有源目标LED的图案存储的信息。来自框610的作为目标点参数的输入可以包括内部目标点位置的容差。可以在有源目标候选解码子例程中使用内部点位置容差参数。作为非限制示例,在物理有源目标上的LED等距间隔开的情况下,在解码之前,观察到的目标候选经过投影到天花板平面以便投影不失真。例如,由于不完美的相机校准或不处于水平的卡车或不处于水平的所安装的有源目标,导致该投影可能不完美。因此,所投影的LED不会表现为在UV空间中完美地等距间隔开。相机传感器引入的像素锁定效果可以进一步有助于未等距间隔开的关键点检测。为了允许***在对有源目标候选进行解码时在这样的缺陷下工作,***可以允许所提取的特征在UV空间中移位有源目标长度的一定百分比。例如,如果目标在UV空间中为100个像素长,并且内部目标点的位置容差参数值被设置为0.02,则有源目标被检测的关键点如果位于UV空间中的其理想位置的2个像素内,则该被检测的关键点将被解释为处于“被导通”配置的LED。在实施例中,可以通过将这些LED点图案透视投影到平行于地板的三维平面上进行解码,以去除透视失真。这样的投影可以利用包括相对于车辆的相机姿态的经校准相机参数作为输入。未被检测到有效代码的任何候选有源光学目标130被拒绝。
在与框612相关联的步骤12中,对于任何被成功解码的候选有源光学目标130,使用有源光学目标130的检测到的LED的三维表示来基于具有该代码的候选目标的测绘高度来估计有源光学目标130的物理大小。不在有效大小范围内的候选目标被拒绝。确定候选目标是否在有效大小范围内的输入可以包括最小和最大可接受物理目标大小作为框614的物理目标大小可接受参数。
在与框616相关联的步骤13中,验证处理600继续进行,以确定目标图像是否有效。在实施例中,这样的确定是基于图像信号验证的,该图像信号验证利用在检测到的LED四周的成对图像块之间的计算归一化互相关。***检查可以分析与候选有源光学目标130相关联的图像信号,以拒绝例如在高对比度图像区域(诸如与天窗相关联的那些区域)中的假阳性检测。作为非限制示例,对于检测到的有源目标候选,可以相对于一个或多个有源目标LED的潜在位置来计算UV空间中的所有相关联位置,而不取决于有源目标LED具有导通状态还是截止状态。可以通过在3D空间中进行插值随后对UV空间进行反向投影来计算这样的位置。可以选择以检测到的或插值的LED位置为中心的图像块,并且这些图像块的尺寸可以随着位置之间的距离而缩放,并且被设置为使得UV空间中图像块的成对重叠最小化。可以计算成对图像块之间的合适的图像相似度量。举例来说而非限制,如果与一个或多个所检测的LED对应的图像块的成对相似性的最大值小于相对于与所检测的和/或所插值的LED位置对应的块的块的成对相似性的最小阈值,则在框617中可以拒绝有源目标检测以去除假阳性拒绝。框617中的拒绝可以不基于一个或多个参数,其可以是可选的。例如,可替代地,如基于特定图像有效性检查方案所要求的,可以用框618的可选图像参数对框617中的拒绝进行参数化,诸如以提供定义拒绝标准的灵活性。
在另一实施例中,该确定是基于背景是否有效,并且最终***检查可以分析与候选有源光学目标130相关联的图像信号,以拒绝在高对比度图像区域(诸如与天窗相关联的那些区域)中的假阳性检测。作为可选图像参数的框618的图像背景参数的输入可以包括暗水平低阈值、暗水平高阈值和目标亮度阈值绝对值。作为非限制示例,从候选有源光学目标130的扩大的包围盒构建灰度值的直方图,以基于前述包围盒内像素的灰度值的直方图分布来拒绝假阳性检测。对于在框616中确定候选目标的目标图像是无效的,候选目标在框617中被拒绝,并且来自处理700的一个或多个其它候选目标被分析。对于在框616中确定候选目标的目标图像是有效的,接受候选目标作为检测到的有源目标。在与框620相关联的步骤14中,生成一个或多个所检测的有源目标。
同样,可以分析检测到具有在整个场所并不唯一的代码的有源光学目标130。对于这样的目标,定位***可以使用周围特征来解决与对应于具有相似或等同代码或图案的这样的有源光学目标130的潜在位置相关联的歧义。
在实施例中,定位***可以通过检查诸如灯和天窗之类的相应周围高架特征以进行目标间的区分来识别具有等同代码的特定目标。在这样的处理中,有源光学目标130可以如上所述从高架图像中提取,并且相应代码被识别。在相同高架图像帧中从任何高架特征(诸如顶灯)提取质心,并且在所存储的地图中确定具有所提取的有源光学目标130的所提取代码的所有位置。对于具有识别的所提取代码的每个所识别的目标位置,计算车辆的相关联姿态。定位***特征图被过滤并用于使用该姿态识别光学目标130四周的周围局部高架特征,并且将这些特征投影到二维图像空间,以用作有源光学目标130的预测。可以执行相关联的最近邻居数据以匹配来自二维图像空间中的图像帧的预测和高架特征提取。在本公开的范围内设想到其它合适的数据关联方法。
此外,可以计算姿态适配度。作为示例而非限制,姿态适配度可以是预测与提取之间的平均匹配误差,并且可以保留找到的多个匹配。可以选择具有最佳姿态适配度(诸如在具有最小关联误差的一个示例中)的候选目标,并且将其作为有源光学目标130传递到如上所述的定位***,以确定车辆姿态。在多个目标返回低且类似的姿态适配度的情形下,来自相关联的数据的多个匹配可以被用来从选项中确定所选择的有源光学目标130作为具有最多匹配的一个。如果目标之间的匹配数目相同,则***可以拒绝来自高架图像的目标,或者执行多个附加测试以消除目标候选的集合内的歧义。
在实施例中,例如,可以影响以上相对于图5描述的检测处理的参数可以是检测范围和检测可靠性。多个光学目标130的可能检测的空间范围可以是基于所安装的有源光学目标130与车辆上的相机中心之间的高度差、相机取向、有源光学目标130在仓库环境的取向、有源光学目标130上的LED的亮度和间隔。例如,与仓库环境中的其它目标相比处于更高高度的有源光学目标130由于来自相机的能见锥区较大而可以允许有更大的检测范围。这种更高的目标可能需要更亮、更远间隔的LED,以提供足以进行如本文描述的初始关键点特征检测的图像对比度。对于在较低高度范围处具有高LED亮度的的光学目标130,检测范围可以是基于观看方向的。作为非限制示例,在垂直于目标方向的方向上观看这样的较低光学目标130可以使相比于与目标的方向对准且平行地观看该较低光学目标130而言引起较少缩短,以允许有较大的检测范围。
检测可靠性可以基于周围视觉混乱量,其可以限制光学目标130上的LED的LED可见性。例如,机架或管道可以遮挡这样的LED或全部光学目标130的相机视图,以防止检测。在实施例中,可以分析连续的后续帧,以减轻错误检测的机会。
在实施例中,存在其它变型处理以提取有源目标候选。这些变型的可行性可以取决于可用的计算力和图像中存在的视觉混乱量。视觉混乱最小的图像可以允许直接从所提取的特征点的合适空间分割中提取有源目标,这些特征点可以是例如用递归2聚类KMEANS方案获得的。在这样的方案中,如果已达到期望的LED数量或者特征点满足图像空间中的特定共线性标准,则递归下降终止。这样的动作引起对对关键点特征的集合的分割,并且可以是作为本文描述的聚合步骤的替换或补充。
在实施例中,按分割检测方案,可能错过有源目标,使得如果分割将目标中的个体LED检测分开,则不生成有源目标候选。因此,这种分割方案可以适合于与UV空间中的其它特征在空间上充分分开的有源目标。
诸如包括与有源目标LED的投影不相关的所提取的特征点的图像之类的视觉混乱程度更高的图像可能经历更穷尽的搜索。作为非限制示例,限制搜索空间以便限制可以使用的计算成本的技术涉及如本公开所描述的计算所提取的特征点的Delaunay三角剖分,并且聚合所得Delaunay图的边。在真实的有源目标候选附近存在的适度视觉混乱的实施例中,可以通过以深度优先的方式从所选择的未访问顶点开始直接遍历Delaunay图来高效地实现聚合,并且该聚合可以基于当前访问顶点的前述共线性标准而终止。由于计算成本,导致可以允许只针对极其混乱的场景进行完全穷尽的搜索。例如,在这样的极为混乱的场景中,很可能在圆的周长内出现不止一个假阳性特征提取。该圆可以包括位于两个最远相邻的真阳性目标特征提取的二等分处的中心点以及与这两个真阳性有源目标特征提取的距离相等的直径。
图7说明了与基于如本文描述从高架特征的输入图像中识别光学目标来沿着库存中转表面122导航和/或追踪物料搬运车辆100相关联的处理700。在实施例中,并且如本文描述的,物料搬运车辆100包括:相机102;车辆处理器104;被配置为通过例如车轮124使物料搬运车辆100沿着库存中转表面122移动的驱动机构;被配置为在仓库10的存储架中存储和检索货物的物料搬运机构;以及与驱动机构和物料搬运机构通信的车辆控制架构。相机102通信地耦接到车辆处理器104,并且捕获仓库110的高架特征的输入图像。
物料搬运车辆的车辆处理器执行车辆功能,诸如处理700中阐述的功能。在框702中,车辆功能可以是检索包括高架特征的二维图像信息的相机数据。例如,功能可以是从相机102检索相机数据的初始集合。相机数据的该初始集合可以包括与高架特征的输入图像关联的二维图像信息。
在框704中,二维图像信息可以与多个全局目标位置匹配,以生成多个候选光学目标130。例如,来自相机数据的初始集合的二维图像信息可以与仓库地图的多个全局目标位置匹配,以生成多个候选光学目标130。仓库地图的全局目标位置可以与高架特征的测绘相关联。仓库地图可以被配置为存储与各全局目标位置相关联的光学目标130的位置和取向,并且每个光学目标130可以与代码150相关联。在实施例中,每个光学目标130可以包括诸如如本文描述的LED 134之类的多个点光源。该多个光源可以被安装在杆132上,杆132被配置用于作为高架特征附接到仓库110的天花板。该多个光源可以以定义用于每个相应光学目标130的代码150的图案来布置。因此,该多个点光源可以包括光图案作为用于每个相应光学目标130的代码150。如本文描述的,该多个点光源可以以等距且线性的方式安装在中央条带部分136上。进一步如上所述,该多个点光源可以被配置为发射白光、单色光、具有窄光谱带宽的光或其组合。
例如,每个光学目标130可以包括多个LED 134。如上所述,该多个LED 134可以由相应的角漫射透镜覆盖,该角漫射透镜被配置为衰减前向亮度并增加相关联的角侧向亮度,使得每个LED 134具有角发射特性,该角发射特性包括与每个LED 134的前向面对方向相比更高的朝向角侧方向的能量发射。
在实施例中,每个光学目标130可以包括被设置在与其上安装有多个点光源(诸如LED 134)的前表面相对的后表面上的系列磁性支座,该系列磁性支座被配置为将每个光学目标130抵靠天花板安装,以包括仓库110的高架特征。如本文描述的,每个光学目标130可以包括中心基准标记140,其被配置为辅助将每个光学目标130的位置存储在仓库地图中。中心基准标记140可以被配置为由设置在库存中转表面122的上或远离库存中转表面122设置的激光测距计检测,以生成每个光学目标130的位置。另外,每个光学目标130可以包括末端标记142,该末端标记142被配置为辅助将每个光学目标130的取向存储在仓库地图中。
在框706中,可以过滤多个候选光学目标130,以确定候选光学目标130,并且可以对候选光学目标130进行解码,以识别与候选光学目标130相关联的代码150。在框708中,可以识别与所识别的代码150相关联的光学目标130。此外,可以确定相机度量,该相机度量包括相机102相对于所识别的光学目标130的距离和角度以及所识别的光学目标130在仓库地图中的位置和取向的表示。
在框710中,可以基于所识别的光学目标130来计算车辆姿态。例如,可以基于相机度量来计算车辆姿态。在框712中,可以使用框710的车辆姿态来导航物料搬运车辆100。物料搬运车辆100的车辆处理器104可以进一步被配置为当物料搬运车辆100丢失时利用来自相机102的后续相机数据集合来重复处理700的步骤。车辆处理器104可以执行车辆功能以确定物料搬运车辆100是否丢失,包括以下中的至少一个:确定种子位置是否包括不正确数据,以及确定相机数据是否不足以校正与累积里程计相关联的错误,该累积里程计与物料搬运车辆100相关联。
在实施例中,物料搬运车辆100的车辆处理器104还可以执行功能,以使用与物料搬运车辆100相关联的累积里程计来将车辆姿态更新为当前定位位置,将种子位置更新为当前定位位置,并且利用该当前定位位置来追踪物料搬运车辆100沿着库存中转表面122的导航,或以至少部分自动化方式将物料搬运车辆100沿着库存中转表面122导航,或进行这二者。在将该种子位置更新为当前定位位置之后,可以将该种子位置作为当前定位位置在显示器上公布。
为了描述和定义本公开的目的,注意的是,本文对作为参数的“函数”的变量或另一变量的引用不旨在表示该变量排他地作为所列参数或变量的函数。确切地说,本文对作为所列参数的“函数”的变量的引用旨在是开放的,使得该变量可以是单个参数或多个参数的函数。
还注意的是,本文对“至少一个”部件、元件等的表述不应该被用于创建冠词“一”或“一个”的替换使用应该限于单个部件、元件等的推论。
注意的是,本文对本公开的部件被以特定方式“配置”或“编程”以实施特定属性或以特定方式起作用的表述是结构上的表述,与意图使用的表述形成对照。更具体地,本文引用部件被“配置”或“编程”的方式表示该部件的现存物理条件,并因此将被视为部件的结构特性的明确表述。
出于描述和定义本公开的目的,注意的是,术语“大体上”和“大约”在本文可以用来表示可以归因于任何定量比较、值、测量或其它表示的固有不确定程度。术语“大体上”和“大约”在本文也被用来表示定量表示可以在没有导致所讨论主题的基本功能变化的情况下根据所叙述的引用而变化的程度。
已经通过参考本公开的具体实施例详细地描述了本公开的主题,注意的是,本文公开的各种细节不应该被认为暗示这些细节涉及作为本文描述的各种实施例的基本部件的元件,即使是在本说明书随附的每个附图中图示了特定元件的情况下。此外,将显而易见的是,在不脱离本公开的范围的情况下,可以进行修改和变型,包括但不限于所附权利要求书中限定的实施例。更具体地,尽管本公开的一些方面在本文中被确定为是优选的或特别有利的,但是要预料到,本公开不必限于这些方面。
注意的是,所附权利要求书中的一个或多个利用术语“其中”作为过渡短语。出于定义本公开的目的,注意的是,在权利要求书中将该术语作为开放性过渡短语引入,其被用于引入结构的系列特性的表述并且应该以与更常使用的开放性前序术语“包括”相似的方式进行解释。
Claims (20)
1.一种物料搬运车辆,所述物料搬运车辆包括:相机;车辆处理器;被配置为使所述物料搬运车辆沿着库存中转表面移动的驱动机构;被配置为在仓库的存储架中存储和检索货物的物料搬运机构;以及与所述驱动机构和所述物料搬运机构通信的车辆控制架构,其中:
所述相机通信地耦接到所述车辆处理器,并且捕获高架特征的输入图像;并且
所述物料搬运车辆的所述车辆处理器执行车辆功能,以
(i)从所述相机检索相机数据的初始集合,所述相机数据的初始集合包括与所述高架特征的输入图像相关联的二维图像信息,
(ii)将来自所述相机数据的初始集合的二维图像信息与仓库地图的多个全局目标位置进行比较,以确定所述输入图像的各高架特征与所述仓库地图的全局目标位置之间的一个或多个匹配;
(iii)基于所述一个或多个匹配,为输入图像中的各高架特征中的高架特征生成多个候选光学目标,以便将输入图像中的高驾特征识别为在全局目标位置处的输入图像中的捕获的光学目标,其中,所述仓库地图的全局目标位置与所述高架特征的测绘相关联,所述仓库地图被配置为存储与每个全局目标位置相关联的光学目标的位置和取向,并且每个光学目标与代码相关联,
(iv)针对所述高架特征对所述多个候选光学目标进行过滤,
以生成每个经过滤的多个候选光学目标的排序,
(v)基于每个经过滤的多个候选光学目标的排序中的最高排序,为输入图像中的捕获的光学目标确定候选光学目标,
(vi)识别与经过滤的多个候选光学目标的最高排序相关联的所述候选光学目标的代码,以确定所识别的代码,
(vii)响应于确定所识别的代码,识别与所识别的代码相关联的光学目标,以确定代表在所述全局目标位置处的输入图像中的捕获的光学目标的所识别的光学目标,
(viii)响应于确定所识别的光学目标,确定相机度量,所述相机度量包括所述相机相对于所识别的光学目标的距离和角度以及所识别的光学目标在所述仓库地图中的位置和取向的表示,
(ix)基于所述相机度量来计算车辆姿态,以及
(x)利用所述车辆姿态来导航所述物料搬运车辆。
2.如权利要求1所述的物料搬运车辆,其中,每个光学目标包括多个发光二极管LED。
3.如权利要求1所述的物料搬运车辆,其中,每个光学目标包括多个发光二极管LED,所述多个LED由相应的角漫射透镜覆盖,所述角漫射透镜被配置为衰减前向亮度并增加相关联的角侧向亮度,使得每个LED具有角发射特性,所述角发射特性包括与每个LED的前向面对方向相比更高的朝向角侧方向的能量发射。
4.如权利要求1所述的物料搬运车辆,其中,每个光学目标是唯一的光学目标,并且包括以图案布置的多个点光源,所述图案将用于每个相应的唯一光学目标的代码定义为相应的唯一代码。
5.如权利要求1所述的物料搬运车辆,其中:
每个光学目标包括安装在杆上的多个点光源,所述杆被配置用于作为高架特征被附接到天花板;
所述多个点光源包括光图案作为用于每个相应光学目标的代码。
6.如权利要求5所述的物料搬运车辆,其中,所述多个点光源以等距且线性的方式被安装在中央条带部分上。
7.如权利要求5所述的物料搬运车辆,其中,所述多个点光源被配置为发射白光、单色光、具有窄光谱带宽的光或其组合。
8.如权利要求1所述的物料搬运车辆,其中,每个光学目标包括被设置在与安装有多个点光源的前表面相对的后表面上的系列磁性支座,所述系列磁性支座被配置为将每个光学目标抵靠天花板安装,以包括所述仓库的高架特征。
9.如权利要求1所述的物料搬运车辆,其中,每个光学目标包括中心标记,所述中心标记被配置为由激光测距计从库存中转表面检测,以生成要存储在所述仓库地图中的每个光学目标的位置。
10.如权利要求9所述的物料搬运车辆,其中,所述中心标记被配置为由设置在所述库存中转表面上的激光测距计检测以生成每个光学目标的位置。
11.如权利要求1所述的物料搬运车辆,其中,每个光学目标包括末端标记,所述末端标记被配置为由激光测距计从库存中转表面检测,以生成要存储在所述仓库地图中的每个光学目标的取向。
12.如权利要求1所述的物料搬运车辆,其中,所述车辆处理器进一步执行车辆功能,以:
(i)将所述车辆姿态更新为当前定位位置;
(ii)将种子位置更新为所述当前定位位置;以及
(iii)利用所述当前定位位置,追踪所述物料搬运车辆沿着所述库存中转表面的导航,以至少部分自动化方式将所述物料搬运车辆沿着所述库存中转表面导航,或进行这二者。
13.如权利要求12所述的物料搬运车辆,其中,在将所述种子位置更新为所述当前定位位置之后,所述车辆处理器进一步执行车辆功能以将所述种子位置作为所述当前定位位置在显示器上公布。
14.如权利要求1所述的物料搬运车辆,其中,所述车辆处理器被配置为当所述物料搬运车辆丢失时,利用相机数据的后续集合来重复步骤(i)-(vi)。
15.如权利要求14所述的物料搬运车辆,其中,所述车辆处理器执行车辆功能以确定所述物料搬运车辆是否丢失,所述车辆功能包括以下中的至少一个:
(i)确定种子位置是否包括不正确数据;以及
(ii)确定所述相机数据是否不足以校正与累积里程计相关联的错误,所述累积里程计与所述物料搬运车辆相关联。
16.一种物料搬运车辆,所述物料搬运车辆包括:相机;车辆处理器;被配置为使所述物料搬运车辆沿着库存中转表面移动的驱动机构;被配置为在仓库的存储架中存储和检索货物的物料搬运机构;以及与所述驱动机构和所述物料搬运机构通信的车辆控制架构,其中:
所述相机通信地耦接到所述车辆处理器,并且捕获高架特征的输入图像;并且
所述物料搬运车辆的所述车辆处理器执行车辆功能,以
(i)从所述相机获取相机数据的初始集合,所述相机数据的初始集合包括与所述高架特征的输入图像相关联的二维图像信息,
(ii)将来自所述相机数据的初始集合的二维图像信息与仓库地图的多个全局目标位置进行比较,以确定所述输入图像的各高架特征与所述仓库地图的全局目标位置之间的一个或多个匹配;
(iii)基于所述一个或多个匹配,为输入图像中的各高架特征中的高架特征生成多个候选光学目标,以将所述输入图像中的高架特征识别为在全局目标位置处的输入图像中的捕获的光学目标,其中,所述仓库地图的全局目标位置与所述高架特征的测绘关联,所述仓库地图被配置为存储与每个全局目标位置相关联的光学目标的位置和取向,并且每个光学目标与代码关联,其中,
每个光学目标包括安装在杆上的多个点光源,所述杆被配置用于作为所述各高架特征中的高架特征被附接到天花板,并且
所述多个点光源包括光图案作为用于每个相应光学目标的所述代码,
(iv)针对所述高架特征对所述多个候选光学目标进行过滤,
以生成每个经过滤的多个候选光学目标的排序,
(v)基于每个经过滤的多个候选光学目标的排序中的最高排序,为输入图像中的捕获的光学目标确定候选光学目标,
(vi)识别与经过滤的多个候选光学目标的最高排序相关联的所述候选光学目标的代码,以确定所识别的代码,
(vii)响应于确定所识别的代码,识别与所识别的代码相关联的光学目标,以确定代表在所述全局目标位置处的输入图像中的捕获的光学目标的所识别的光学目标,
(viii)响应于确定所识别的光学目标,确定相机度量,所述相机度量包括所述相机相对于所识别的光学目标的距离和角度以及所识别的光学目标在所述仓库地图中的位置和取向的表示,
(ix)基于所述相机度量来计算车辆姿态,以及
(x)利用所述车辆姿态,追踪所述物料搬运车辆沿着所述库存中转表面的导航,以至少部分自动化方式将所述物料搬运车辆沿着所述库存中转表面导航,或进行这二者。
17.如权利要求16所述的物料搬运车辆,其中,所述多个点光源以等距且线性的方式被安装在中央条带部分上。
18.如权利要求16所述的物料搬运车辆,其中,所述多个点光源被配置为发射白光、单色光、具有窄光谱带宽的光或其组合。
19.一种将物料搬运车辆沿着库存中转表面导航或者追踪所述物料搬运车辆沿着所述库存中转表面的导航的方法,该方法包括以下步骤:
将物料搬运车辆设置在仓库的库存中转表面上,其中,所述物料搬运车辆包括:相机;车辆处理器;被配置为使所述物料搬运车辆沿着所述库存中转表面移动的驱动机构;被配置为在仓库的存储架中存储和检索货物的物料搬运机构;以及与所述驱动机构和所述物料搬运机构通信的车辆控制架构;
利用所述驱动机构将所述物料搬运车辆沿着库存中转表面移动;
当所述物料搬运车辆沿着所述库存中转表面移动时,经由所述相机捕获所述仓库的高架特征的输入图像;
从所述相机检索相机数据的初始集合,所述相机数据的初始集合包括与所述高架特征的输入图像相关联的二维图像信息,
将来自所述相机数据的初始集合的二维图像信息与仓库地图的多个全局目标位置进行比较,以确定所述输入图像的各高架特征与所述仓库地图的全局目标位置之间的一个或多个匹配;
基于所述一个或多个匹配,为输入图像中的各高架特征中的高架特征生成多个候选光学目标,以将所述输入图像中的高架特征识别为在全局目标位置处的输入图像中的捕获的光学目标,其中,所述仓库地图的全局目标位置与所述高架特征的测绘相关联,所述仓库地图被配置为存储与每个全局目标位置相关联的光学目标的位置和取向,并且每个光学目标与代码关联;
针对所述高架特征对所述多个候选光学目标进行过滤,以生成每个经过滤的多个候选光学目标的排序,
基于每个经过滤的多个候选光学目标的排序中的最高排序,为输入图像中的捕获的光学目标确定候选光学目标;
识别与经过滤的多个候选光学目标的最高排序相关联的所述候选光学目标的代码,以确定所识别的代码,
响应于确定所识别的代码,识别与所识别的代码相关联的光学目标,以确定代表在所述全局目标位置处的输入图像中的捕获的光学目标的所识别的光学目标;
响应于确定所识别的光学目标,确定相机度量,所述相机度量包括所述相机相对于所识别的光学目标的距离和角度以及所识别的光学目标在所述仓库地图中的位置和取向的表示;
基于所述相机度量来计算车辆姿态;以及
利用所述车辆姿态来导航所述物料搬运车辆。
20.如权利要求19所述的方法,其中:
每个光学目标包括安装在杆上的多个点光源,所述杆被配置用于作为高架特征被附接到天花板;
所述多个点光源包括光图案作为用于每个相应光学目标的所述代码。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310868247.4A CN116907458A (zh) | 2018-02-23 | 2019-02-20 | 基于光学目标的室内车辆导航的***和方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862634219P | 2018-02-23 | 2018-02-23 | |
US62/634,219 | 2018-02-23 | ||
PCT/US2019/018768 WO2019164943A1 (en) | 2018-02-23 | 2019-02-20 | Systems and methods for optical target based indoor vehicle navigation |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310868247.4A Division CN116907458A (zh) | 2018-02-23 | 2019-02-20 | 基于光学目标的室内车辆导航的***和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111989544A CN111989544A (zh) | 2020-11-24 |
CN111989544B true CN111989544B (zh) | 2023-08-01 |
Family
ID=65812381
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980021348.XA Active CN111989544B (zh) | 2018-02-23 | 2019-02-20 | 基于光学目标的室内车辆导航的***和方法 |
CN202310868247.4A Pending CN116907458A (zh) | 2018-02-23 | 2019-02-20 | 基于光学目标的室内车辆导航的***和方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310868247.4A Pending CN116907458A (zh) | 2018-02-23 | 2019-02-20 | 基于光学目标的室内车辆导航的***和方法 |
Country Status (8)
Country | Link |
---|---|
US (3) | US11181925B2 (zh) |
EP (1) | EP3755969A1 (zh) |
KR (1) | KR20200124263A (zh) |
CN (2) | CN111989544B (zh) |
AU (2) | AU2019225801B2 (zh) |
CA (1) | CA3092038A1 (zh) |
MX (1) | MX2020008586A (zh) |
WO (1) | WO2019164943A1 (zh) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018036937A (ja) * | 2016-09-01 | 2018-03-08 | 住友電気工業株式会社 | 画像処理装置、画像処理システム、画像処理プログラムおよびラベル |
WO2018135110A1 (ja) * | 2017-01-20 | 2018-07-26 | ソニーネットワークコミュニケーションズ株式会社 | 情報処理装置、情報処理方法、プログラムおよび対空標識システム |
US20190128994A1 (en) * | 2017-10-31 | 2019-05-02 | Richard Kozdras | Sensor system |
CN110044334B (zh) * | 2018-01-16 | 2020-04-21 | 京东方科技集团股份有限公司 | 基于维诺图的室内空间定位 |
US11181925B2 (en) * | 2018-02-23 | 2021-11-23 | Crown Equipment Corporation | Systems and methods for optical target based indoor vehicle navigation |
EP3797403A1 (en) * | 2018-05-20 | 2021-03-31 | Avular B.V. | Estimating a pose of a spatially movable platform |
KR20210034602A (ko) | 2018-07-17 | 2021-03-30 | 크라운 이큅먼트 코포레이션 | 랙 레그 식별을 사용한 차량 위치 교정을 위한 시스템 및 방법 |
KR20210038538A (ko) * | 2018-08-01 | 2021-04-07 | 크라운 이큅먼트 코포레이션 | 창고 환경 속도 구역 관리를 위한 시스템 및 방법 |
US10852740B2 (en) * | 2018-09-28 | 2020-12-01 | X Development Llc | Determining the orientation of flat reflectors during robot mapping |
DE102018221142A1 (de) * | 2018-12-06 | 2020-06-10 | Robert Bosch Gmbh | Lokalisierung in komplexen Verkehrsszenarien durch Markierungen |
JPWO2020138345A1 (ja) * | 2018-12-27 | 2021-11-04 | 日本電気通信システム株式会社 | 物品位置管理装置、物品位置管理システム、物品位置管理方法及びプログラム |
WO2020163321A1 (en) | 2019-02-06 | 2020-08-13 | Crown Equpment Corporation | Systems and methods for vehicle position calibration using rack leg identification and mast sway compensation |
EP3963418B1 (en) | 2019-05-02 | 2023-12-27 | Crown Equipment Corporation | Industrial vehicle with feature-based localization and navigation |
CN110888348B (zh) * | 2019-10-17 | 2020-11-17 | 广东原点智能技术有限公司 | 一种基于激光slam的机器人码垛控制方法及其控制*** |
US11438886B2 (en) * | 2020-02-27 | 2022-09-06 | Psj International Ltd. | System for establishing positioning map data and method for the same |
CN111354121B (zh) * | 2020-03-09 | 2022-02-01 | 中通服公众信息产业股份有限公司 | 一种智能检查站人车混合核验***和方法 |
CN111652103B (zh) * | 2020-05-27 | 2023-09-19 | 北京百度网讯科技有限公司 | 室内定位方法、装置、设备以及存储介质 |
US11398048B2 (en) * | 2020-07-30 | 2022-07-26 | Apical Limited | Estimating camera pose |
CN112161618B (zh) * | 2020-09-14 | 2023-03-28 | 灵动科技(北京)有限公司 | 仓储机器人定位与地图构建方法、机器人及存储介质 |
CN114445502A (zh) | 2020-11-06 | 2022-05-06 | 财团法人工业技术研究院 | 多摄影机定位调度***及方法 |
CN113067847B (zh) * | 2021-02-02 | 2022-07-12 | 绍兴晨璞网络科技有限公司 | 一种匹配式超宽带定位***架构设计方法 |
CN114282559A (zh) * | 2021-12-17 | 2022-04-05 | 长春长光辰芯光电技术有限公司 | 一种光学代码定位方法、装置、图像传感器芯片 |
CN114485682B (zh) * | 2021-12-30 | 2023-06-27 | 武汉光庭信息技术股份有限公司 | 一种基于slam技术的定位方法 |
US20230399015A1 (en) * | 2022-06-14 | 2023-12-14 | Argo AI, LLC | Systems and Methods for Autonomous Vehicle Sensor Calibration and Validation |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106461400A (zh) * | 2014-06-27 | 2017-02-22 | 克朗设备公司 | 使用关联特征对的车辆位置确定或导航 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5798920A (en) * | 1995-11-17 | 1998-08-25 | Hk Systems, Inc. | Storage and retrieval machine control system having an encoder and an optical distance meter |
US8381982B2 (en) * | 2005-12-03 | 2013-02-26 | Sky-Trax, Inc. | Method and apparatus for managing and controlling manned and automated utility vehicles |
US8232745B2 (en) * | 2008-04-14 | 2012-07-31 | Digital Lumens Incorporated | Modular lighting systems |
US8261971B2 (en) * | 2010-06-30 | 2012-09-11 | Hong Kong Applied Science And Technology Research | Self-powered electronic label |
US8752761B2 (en) * | 2012-09-21 | 2014-06-17 | Symbol Technologies, Inc. | Locationing using mobile device, camera, and a light source |
US9523468B2 (en) * | 2013-08-12 | 2016-12-20 | Simply Leds, Llc. | Lighting fixture having enhanced light distribution performance |
US9170581B2 (en) * | 2013-09-30 | 2015-10-27 | Crown Equipment Limited | Industrial vehicles with overhead light based localization |
US9174830B1 (en) * | 2014-09-29 | 2015-11-03 | Crown Equipment Limited | Industrial vehicles with point fix based localization |
US9880009B2 (en) * | 2015-09-04 | 2018-01-30 | Crown Equipment Corporation | Industrial vehicle with feature-based localization and navigation |
US10072934B2 (en) * | 2016-01-15 | 2018-09-11 | Abl Ip Holding Llc | Passive marking on light fixture detected for position estimation |
US10351129B2 (en) * | 2017-01-13 | 2019-07-16 | Ford Global Technologies, Llc | Collision mitigation and avoidance |
US11181925B2 (en) * | 2018-02-23 | 2021-11-23 | Crown Equipment Corporation | Systems and methods for optical target based indoor vehicle navigation |
-
2019
- 2019-02-20 US US16/280,736 patent/US11181925B2/en active Active
- 2019-02-20 CN CN201980021348.XA patent/CN111989544B/zh active Active
- 2019-02-20 CA CA3092038A patent/CA3092038A1/en active Pending
- 2019-02-20 KR KR1020207027377A patent/KR20200124263A/ko unknown
- 2019-02-20 CN CN202310868247.4A patent/CN116907458A/zh active Pending
- 2019-02-20 WO PCT/US2019/018768 patent/WO2019164943A1/en active Application Filing
- 2019-02-20 AU AU2019225801A patent/AU2019225801B2/en active Active
- 2019-02-20 EP EP19711731.0A patent/EP3755969A1/en active Pending
- 2019-02-20 MX MX2020008586A patent/MX2020008586A/es unknown
-
2021
- 2021-10-21 US US17/506,946 patent/US11815905B2/en active Active
-
2023
- 2023-10-05 US US18/481,571 patent/US20240028045A1/en active Pending
-
2024
- 2024-03-12 AU AU2024201606A patent/AU2024201606A1/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106461400A (zh) * | 2014-06-27 | 2017-02-22 | 克朗设备公司 | 使用关联特征对的车辆位置确定或导航 |
Also Published As
Publication number | Publication date |
---|---|
AU2019225801B2 (en) | 2023-12-14 |
MX2020008586A (es) | 2020-09-21 |
US20220043457A1 (en) | 2022-02-10 |
US20240028045A1 (en) | 2024-01-25 |
CN111989544A (zh) | 2020-11-24 |
EP3755969A1 (en) | 2020-12-30 |
KR20200124263A (ko) | 2020-11-02 |
US11181925B2 (en) | 2021-11-23 |
CN116907458A (zh) | 2023-10-20 |
US11815905B2 (en) | 2023-11-14 |
AU2019225801A1 (en) | 2020-09-03 |
AU2024201606A1 (en) | 2024-03-28 |
CA3092038A1 (en) | 2019-08-29 |
WO2019164943A1 (en) | 2019-08-29 |
US20190265722A1 (en) | 2019-08-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111989544B (zh) | 基于光学目标的室内车辆导航的***和方法 | |
CN106525025B (zh) | 一种变电站巡检机器人路线规划导航方法 | |
US9174830B1 (en) | Industrial vehicles with point fix based localization | |
EP3489894B1 (en) | Industrial vehicles with overhead light based localization | |
JP6667065B2 (ja) | 位置推定装置および位置推定方法 | |
CN101351754B (zh) | 移动设备跟踪 | |
WO2008013355A1 (en) | System and method for calculating location using a combination of odometry and landmarks | |
CN112424721A (zh) | 使用机架腿标识进行车辆位置校准的***和方法 | |
KR102490521B1 (ko) | 라이다 좌표계와 카메라 좌표계의 벡터 정합을 통한 자동 캘리브레이션 방법 | |
CN106403926B (zh) | 一种定位方法和*** | |
Nagy et al. | SFM and semantic information based online targetless camera-LIDAR self-calibration | |
US20210382496A1 (en) | Position detection apparatus, position detection system, remote control apparatus, remote control system, position detection method, and program | |
CN115600118B (zh) | 基于二维激光点云的托盘腿识别方法及*** | |
Mount et al. | Automatic coverage selection for surface-based visual localization | |
Zou et al. | Static map reconstruction and dynamic object tracking for a camera and laser scanner system | |
CN104482872B (zh) | 基于平行结构光的路缘边界检测方法及装置、工程机械 | |
KR20140032113A (ko) | 자연랜드마크 및 인공랜드마크와 엔코더를 이용한 지능형 이동로봇의 위치인식 방법 | |
US20240012394A1 (en) | Location tracking system in factory and method thereof | |
KR102154043B1 (ko) | 이동체의 위치 인식을 위한 비전 모듈 및 이동체의 위치 인식 방법 | |
US12007238B2 (en) | Positioning system and method for operating a mobile unit positioning system | |
US20240029299A1 (en) | Method and device for mapping a deployment environment for at least one mobile unit and for locating at least one mobile unit in a deployment environment, and locating system for a deployment environment | |
Yang et al. | Characterization of Feature Matching Errors for Consistent Estimation in Vision-Aided Navigation | |
JP2020077297A (ja) | 位置姿勢推定装置 | |
JP2022054585A (ja) | 自走式点検ロボット |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |