CN113228137A - 碰撞规避***、深度成像***、交通工具、障碍物地图生成器及其方法 - Google Patents
碰撞规避***、深度成像***、交通工具、障碍物地图生成器及其方法 Download PDFInfo
- Publication number
- CN113228137A CN113228137A CN201980041426.2A CN201980041426A CN113228137A CN 113228137 A CN113228137 A CN 113228137A CN 201980041426 A CN201980041426 A CN 201980041426A CN 113228137 A CN113228137 A CN 113228137A
- Authority
- CN
- China
- Prior art keywords
- map
- depth
- pixels
- obstacle
- voxel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 131
- 238000000034 method Methods 0.000 title claims description 60
- 230000000875 corresponding effect Effects 0.000 description 62
- 230000006870 function Effects 0.000 description 41
- 238000001514 detection method Methods 0.000 description 16
- 238000005259 measurement Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 230000015654 memory Effects 0.000 description 11
- 230000033001 locomotion Effects 0.000 description 8
- 238000013507 mapping Methods 0.000 description 7
- 230000001276 controlling effect Effects 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 238000005266 casting Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 239000007787 solid Substances 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 2
- 230000002547 anomalous effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- IWEDIXLBFLAXBO-UHFFFAOYSA-N dicamba Chemical compound COC1=C(Cl)C=CC(Cl)=C1C(O)=O IWEDIXLBFLAXBO-UHFFFAOYSA-N 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/0047—Navigation or guidance aids for a single aircraft
- G08G5/0069—Navigation or guidance aids for a single aircraft specially adapted for an unmanned aircraft
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
- G01S19/01—Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
- G01S19/13—Receivers
- G01S19/14—Receivers specially adapted for specific applications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/0202—Control of position or course in two dimensions specially adapted to aircraft
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/10—Simultaneous control of position or course in three dimensions
- G05D1/101—Simultaneous control of position or course in three dimensions specially adapted for aircraft
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/0017—Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information
- G08G5/0021—Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information located in the aircraft
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/0073—Surveillance aids
- G08G5/0086—Surveillance aids for monitoring terrain
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G5/00—Traffic control systems for aircraft, e.g. air-traffic control [ATC]
- G08G5/04—Anti-collision systems
- G08G5/045—Navigation or guidance aids, e.g. determination of anti-collision manoeuvers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2101/00—UAVs specially adapted for particular uses or applications
- B64U2101/30—UAVs specially adapted for particular uses or applications for imaging, photography or videography
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64U—UNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
- B64U2201/00—UAVs characterised by their flight controls
- B64U2201/10—UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS]
- B64U2201/104—UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS] using satellite radio beacon positioning systems, e.g. GPS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Automation & Control Theory (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Traffic Control Systems (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
根据各方面,提供了一种障碍物地图生成器,包括:被配置成执行以下操作的一个或多个处理器:从深度成像***接收一个或多个深度图像;为所接收到的一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,第一像素集中的每一个像素具有指派给该像素的深度值并且第二像素集中的每一个像素不具有指派给该像素的深度值或者具有指派给该像素的预定义深度值范围之外的深度值;将预定义深度值指派给第二像素集中的一个或多个像素;以及基于所确定的第一像素集以及第二像素集中的向其指派预定义深度值的一个或多个像素来生成障碍物地图。
Description
相关申请的交叉引用
本申请是2018年12月27日提交的美国专利申请序列号16/233,245的PCT申请并要求该美国申请的优先权,该申请通过引用整体结合于此。
技术领域
各方面一般涉及碰撞规避***、深度成像***、交通工具、障碍物地图生成器及其方法。
背景技术
无人驾驶飞行器(UAV)可具有用于控制无人驾驶飞行器沿着预定义飞行路径飞行的一个或多个处理器。用于控制无人驾驶飞行器的飞行的一个或多个处理器可被称为飞行控制器或者可以是飞行控制器的一部分。预定义飞行路径可例如通过手动远程控制、航点控制、目标跟踪等来提供和/或修改。此外,障碍物检测和规避***可被实现以避免无人驾驶飞行器与位于该无人驾驶飞行器的预定义飞行路径中的障碍物的碰撞。作为示例,具有障碍物检测的无人驾驶飞行器被配置成在固体对象(例如,墙壁、树木、柱子等)前面停止并由此避免碰撞。作为示例,障碍物检测可基于至少一个成像***并且无人驾驶飞行器可包括与该至少一个成像***相关联的一个或多个处理器。然而,障碍物检测也可基于其他合适的传感器***。
附图说明
贯穿附图,应注意,相同的附图标记用于描绘相同或类似的要素、特征和结构。这些附图不一定按比例绘制,而是一般着重于说明本公开的各方面。在以下描述中,参照下面的附图描述本公开的一些方面,其中:
图1以示意图例示出根据各个方面的无人驾驶飞行器;
图2以示意图示出根据各方面的深度成像***;
图3以示意图示出根据各方面的障碍物地图生成器;
图4示出了根据各方面的用于生成障碍物地图的方法的流程图;
图5以示意图示出根据各方面的障碍物地图生成器;
图6A到6C以示意图示出根据各方面的障碍物地图生成器及其各种功能;
图7A和图7B分别示出了根据各方面的用于确定概率值的预定义函数;
图8以示意图示出根据各方面的障碍物地图的生成;
图9A和图9B示例性地示出了根据各方面的被转换成相应的体素图的两个场景;
图10A示例性地示出了根据各方面的不同时间处的动态对象的深度相机视图;
图10B示例性地示出了根据各方面的第一时间处的动态对象的检测以及基于此的体素图的生成;
图10C示例性地示出了根据各方面的第二时间处的动态对象的检测以及基于此的体素图的修改;
图11示出了根据各方面的选择性忘记功能的示意性流程图;
图12示出了根据各方面的用于操作深度成像***的方法的示意性流程图;以及
图13示出了根据各方面的用于操作障碍物地图生成器的方法的示意性流程图。
具体实施方式
以下详细描述中对附图进行参考,附图通过图示方式示出了可在其中实施本公开的具体细节和方面。足够详细地描述了一个或多个方面以使本领域的技术人员能实施本公开。可利用其他方面,并且可作出结构的、逻辑的和/或电气的改变,而不背离本公开的范围。本公开的各方面不一定是互斥的,因为可将一些方面与一个或多个其他方面组合以形成新的方面。结合方法描述各方面,并且结合设备描述了各方面。然而,可理解,结合方法描述的方面可被类似地应用于设备,并且反之亦然。
术语“示例性”可在本文中使用以意指“充当示例、实例或例示”。本文中被描述为“示例性”的任何方面或设计不必被解释为相比其他方面或设计是优选或有利的。
术语“至少一个”和“一个或多个”可被理解为包括大于或等于一的数量(例如,一个、二个、三个、四个、[...]等)。术语“多个(a plurality)”可被理解为包括大于或等于二的数量(例如,二个、三个、四个、五个、[...]等)。
关于一组要素的短语“......中的至少一个”在本文中可用于意指来自由这些要素组成的组的至少一个要素。例如,关于一组要素的短语“......中的至少一个”在本文中可用于意指以下中的选择:所列要素中的一个、多个的所列要素中的一个要素、多个个体所列要素、或多个所列要素中的多个。
说明书和权利要求书中的词语“复数”和“多个(multiple)”明确地指代大于一的量。因此,任何明确地调用上述词来指代一定数量的物体的短语(例如,“多个(a pluralityof)(物体)”、“多个(multiple)(物体)”)明确地指代多于一个的所述物体。说明书和权利要求书中的术语“(......的)组”、“(......的)集”、“(......的)集合”、“(......的)系列”、“(......的)序列”、“(......的)分组”等(如果存在)指代等于或大于一的量,即一个或多个。
如本文中所使用的术语“数据”可被理解为包括采用任何合适的模拟或数字形式的信息,例如,作为文件、文件的部分、文件集合、信号或流、信号或流的部分、信号或流的集合等等来提供的信息。进一步地,术语“数据”还可用于意指对信息的例如以指针的形式的引用。然而,术语“数据”不限于上述示例,并且可采取各种形式并表示如本领域中理解的任何信息。如本文描述的,任何类型的信息可以例如经由一个或多个处理器以合适的方式处理为例如数据。
例如,如本文中所使用的术语“处理器”或“控制器”可被理解为允许处置数据的任何种类的实体。可根据由处理器或控制器执行的一个或多个特定功能来处置数据。进一步地,如本文中所使用的处理器或控制器可被理解为任何种类的电路,例如任何种类的模拟或数字电路。处理器或控制器因此可以是或可包括模拟电路、数字电路、混合信号电路、逻辑电路、处理器、微处理器、中央处理单元(CPU)、图形处理单元(GPU)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)、集成电路、专用集成电路(ASIC)等,或其任何组合。下文将进一步详细描述的相应功能的任何其他种类的实现方式也可被理解为处理器、控制器或逻辑电路。应理解,本文中详述的处理器、控制器或逻辑电路中的任何两个(或更多个)可被实现为具有等效功能或类似功能的单个实体,并且相反地,本文中详述的任何单个处理器、控制器或逻辑电路可被实现为具有等效功能或类似功能的两个(或更多个)分开的实体。
本文中详述的术语“存储器”可被理解为包括任何合适类型的存储器或存储器设备,例如,作为示例,硬盘驱动器(HDD)、固态驱动器(SSD)、闪存。
软件实现的数据处置与硬件实现的数据处置之间的差异可能模糊。本文中详述的处理器、控制器和/或电路能以软件、硬件和/或作为包括软件和硬件的混合实现方式来实现。
本文中详述的术语“***”(例如,传感器***、控制***、计算***等)可被理解为交互元件的集合,其中,作为示例而非限制,这些元件可以是一个或多个机械组件、一个或多个电气组件、一条或多条指令(例如,被编码在存储介质中)、和/或一个或多个处理器等等。
关于“无人驾驶飞行器的位置”,“物体的位置”、“障碍物的位置”等使用的术语“位置”在本文中可被用于意指二维或三维空间中的点或区域。应理解,具有相应参考点的合适坐标系被用于描述位置、向量、运动等。关于“预定义飞行路径”、“已行进飞行路径”、“剩余飞行路径”等使用的术语“飞行路径”可被理解为二维或三维空间中的轨迹。飞行路径可包括无人驾驶飞行器已沿其行进的一系列(例如,分辨时间的一系列)位置、相应当前位置、和/或无人驾驶飞行器正朝其行进的至少一个目标位置。无人驾驶飞行器已沿其行进的一系列位置可限定已行进飞行路径。当前位置和至少一个目标位置可限定剩余飞行路径。
关于二维或三维地图使用的术语“地图”可包括描述物体在二维或三维空间中的位置的任何合适的方式。
根据各方面,体素图可被用于基于与物体相关联的体素来描述三维空间中的物体。为了基于体素图来防止碰撞,可将光线追踪、光线投射、栅格化等应用于体素数据。
无人驾驶飞行器(UAV)是具有自主飞行能力的航行器。在自主飞行中,人类飞行员不在无人驾驶飞行器上并且也不控制无人驾驶飞行器。无人驾驶飞行器还可被指示为无职员、无人占据或无飞行员的交通工具、航空器或航空器***、或者无人机。
根据各个方面,无人驾驶飞行器可包括支承框架,该支承框架充当用于安装无人驾驶飞行器的组件(诸如例如,马达、传感器、机械装置、发射器、接收器和用于根据需要控制无人驾驶飞行器的功能的任何类型的控制)的基底。安装到该支承框架的组件中的一者或多者可以至少部分地被壳体(也被称为机身、机体、外壳等)包围。作为示例,壳体可以机械地保护该一个或多个组件。此外,壳体可被构造成保护该一个或多个组件以免遭潮湿、灰尘、辐射(例如,热辐射)等。
根据各方面,无人驾驶飞行器可包括具有独立的双轴或三轴自由度以适当地跟踪目标(例如,感兴趣的人或点)的相机万向节,以及独立于无人机的实际飞行方向或实际姿态的跟踪相机。在某些方面,深度相机可被用于跟踪、监视无人驾驶飞行器的邻域、向无人驾驶飞行器的用户提供图像等。深度相机可允许将深度信息与图像相关联,例如以提供深度图像。这允许例如提供无人驾驶飞行器的邻域的图像的能力,该图像包括关于图像中描绘的一个或多个物体的深度信息。
作为示例,深度图像可包括指示图像中显示的物体的相对距离的信息。该距离信息可以是但不限于用于描绘距传感器的相对距离的颜色和/或着色。可以从深度信息确定物体的位置。基于深度图像,可以从深度信息构造二维地图或三维地图。所述地图构造可使用深度地图引擎来实现,该深度地图引擎可包括一个或多个处理器或者非暂态计算机可读介质,该一个或多个处理器或者非暂态计算机可读介质被配置成从由深度图像提供的深度信息来创建像素地图或体素地图(或任何其他合适的地图)。根据各方面,深度图像可例如由立体相机获得,例如,从具有不同视角的两个或更多个图像计算出深度图像。进一步地,可由可允许位置信息和距离(深度)信息相关的任何合适的一个或多个传感器(例如,激光扫描仪等)生成深度图像。
根据各方面,地图可以用于以合适的数据形式存储位置信息和/或环境状况信息,从而允许基于地图来控制无人驾驶飞行器的一个或多个操作。然而,可以使用其他合适的实现方式以允许至少基于移动数据来控制无人驾驶飞行器。
根据各方面,无人驾驶飞行器包括用于障碍物检测的至少一个传感器,例如仅仅一个传感器、两个传感器、或两个以上传感器。该至少一个传感器可被固定地安装在无人驾驶飞行器的支承框架上。另选地,该至少一个传感器可被固定至可移动安装结构以使该至少一个传感器可以对准所需方向。
根据各方面,无人驾驶飞行器可具有航向。该前进方向可被理解为被分派有向前直行的飞行方向的参考方向。
本文描述的无人驾驶飞行器可以是飞机(例如,固定翼飞机)或直升机(例如,多旋翼直升机)(即,旋翼无人驾驶飞行器(例如,四旋翼无人驾驶飞行器、十六旋翼无人驾驶飞行器、八旋翼无人驾驶飞行器))的形状。本文描述的无人驾驶飞行器可包括多个旋翼(例如,三个、四个、五个、六个、七个、八个或八个以上的旋翼),也被称为螺旋桨。每一个螺旋桨具有一个或多个螺旋桨叶片。在某些方面,螺旋桨可以是固定间距螺旋桨。
无人驾驶飞行器可被配置成以各种程度的自主性进行操作:在人类操作者的远程控制下、或者完全或间歇性自主地由机载计算机操作。无人驾驶飞行器可被配置成在升空(也被称为起飞)和/或着陆操作模式中自主地升空和着陆。另选地,无人驾驶飞行器可以在升空和/或着陆时通过无线电控制(RC)来手动控制。无人驾驶飞行器可被配置成基于飞行路径来自主飞行。行进路径可以是例如从起始点或无人驾驶飞行器的当前位置到目标位置的预定义飞行路径,或者飞行路径可以是可变的,例如跟随限定目标位置的目标。在某些方面,无人驾驶飞行器可以在安全高度或安全距离处切换到GPS制导的自主模式。无人驾驶飞行器可具有一个或多个故障安全操作模式,例如,返回至起始点、立即着陆等。在一些方面,无人驾驶飞行器可例如通过在飞行期间(例如,暂时地)进行远程控制来手动控制。
在下文中,更详细地描述无人驾驶飞行器。根据各方面,无人驾驶飞行器的一个或多个功能(例如,一个或多个碰撞规避功能、一个或多个安全操作、一个或多个路径查找功能等)可基于二维或三维地图来控制。
图1以示意图例示出根据各个方面的无人驾驶飞行器100。无人驾驶飞行器100可包括多个(例如,三个或多于三个,例如四个、六个、八个等)交通工具驱动布置110。交通工具驱动布置110中的每一个可包括至少一个驱动马达110m以及耦合至该至少一个驱动马达110m的至少一个螺旋桨110p。根据各方面,无人驾驶飞行器100的一个或多个驱动马达110m可以是电驱动马达。因此,交通工具驱动布置110中的每一者也可被称为电驱动或电飞行器驱动布置。
此外,无人驾驶飞行器100可包括被配置成控制无人驾驶飞行器100的飞行或任何其它操作的一个或多个处理器102p。处理器102p中的一个或多个可以是飞行控制器的部分或者可实现飞行控制器。一个或多个处理器102p可被配置成例如至少基于无人驾驶飞行器100的当前位置和无人驾驶飞行器100的目标位置来提供飞行路径。在某些方面,一个或多个处理器102p可基于地图来控制无人驾驶飞行器100,如以下更详细地描述的。在一些方面,一个或多个处理器102p可直接控制无人驾驶飞行器100的驱动马达110m,使得在这种情况下不使用附加的马达控制器。替代地,一个或多个处理器102p可以通过一个或多个附加马达控制器控制无人驾驶飞行器100的驱动马达110m。马达控制器可控制可被供应至相应马达的驱动功率。一个或多个处理器102p可包括或可实现适合于控制无人驾驶飞行器100的期望功能的任何类型的控制器。一个或多个处理器102p可由任何种类的一个或多个逻辑电路实现。
根据各个方面,无人驾驶飞行器100可包括一个或多个存储器102m。该一个或多个存储器102m可由任何种类的一个或多个电子存储实体(例如,一个或多个易失性存储器和/或一个或多个非易失性存储器)实现。根据某些方面,可使用一个或多个存储器102m,例如,用于与一个或多个处理器102p交互,用于构建和/或存储地图。
此外,无人驾驶飞行器100可包括一个或多个电源104。该一个或多个电源104可包括任何合适类型的电源,例如,直流(DC)电源。DC电源可包括一个或多个电池(例如,一个或多个可再充电电池)等。
根据各个方面,无人驾驶飞行器100可包括一个或多个传感器101。一个或多个传感器101可被配置成监视无人驾驶飞行器100的邻域。一个或多个传感器101可被配置成检测无人驾驶飞行器100附近的障碍物。根据各方面,一个或多个处理器102p可进一步被配置成用于基于所检测到的障碍物来修改无人驾驶飞行器100的预定义飞行路径,以生成规避无人驾驶飞行器附近的障碍物、到目标位置的无碰撞飞行路径。根据各方面,该一个或多个处理器可被进一步配置成降低无人驾驶飞行器100的高度以便在飞行期间避免碰撞,例如以防止与在碰撞航向上接近无人驾驶飞行器100的飞行对象碰撞。作为示例,如果无人驾驶飞行器100和杂物可彼此接近并且相对方位随时间保持不变,则可能存在碰撞可能性。
一个或多个传感器101可包括例如一个或多个相机(例如,深度相机、立体相机等)、一个或多个超声传感器、一个或多个雷达(无线电检测和测距)传感器、一个或多个激光雷达(光检测和测距)传感器等。一个或多个传感器101可包括例如允许检测对象以及对象的对应位置的任何其他合适的传感器。无人驾驶飞行器100可进一步包括位置检测***102g。位置检测***102g可基于例如全球定位***(GPS)或任何其他可用的定位***。因此,一个或多个处理器102p还可被配置成基于从位置检测***102g获得的数据来修改无人驾驶飞行器100的预定义飞行路径。位置检测***102g可被用来例如提供无人驾驶飞行器100自身的位置和/或移动数据(包括无人驾驶飞行器100的位置,例如,方向、速度、加速度等)。然而,可使用其他传感器(例如,图像传感器、磁传感器等)来提供无人驾驶飞行器100的位置和/或移动数据。可使用无人驾驶飞行器100以及一个或多个障碍物两者的位置和/或移动数据来预测碰撞(例如,预测一个或多个障碍物对无人驾驶飞行器的影响)。
根据各方面,一个或多个处理器102p可包括(或可通信地耦合到)至少一个收发机,该至少一个收发机被配置成提供包括数据(例如,视频或图像数据和/或命令)的无线电信号的上行链路传输和/或下行链路接收。至少一个收发器可包括射频(RF)发射器和/或射频(RF)接收器。
一个或多个处理器102p可进一步包括(或可通信地耦合到)惯性测量单元(IMU)和/或罗盘单元。惯性测量单元可允许例如无人驾驶飞行器100关于坐标***中的预定平面的校准,例如以确定无人驾驶飞行器100相对于重力向量(例如,来自地球)的滚动和俯仰角度。因此,可确定无人驾驶飞行器100在坐标***中的定向。可在无人驾驶飞行器以飞行样式操作之前使用惯性测量单元校准无人驾驶飞行器100。然而,可在一个或多个处理器102p和/或耦合至一个或多个处理器102p的附加组件中实现用于无人驾驶飞行器100的导航的任何其他合适的功能,例如,用于确定位置、速度(也被称为飞行速度)、方向(也被称为飞行方向)等。为了接收例如关于一个或多个障碍物的位置信息和/或移动数据,可使用深度图像相机的输入和图像处理。此外,为了存储如本文描述的无人驾驶飞行器100的地图(例如,内部地图)中的相应信息,可使用至少一个计算资源。
无人驾驶飞行器100在本文中可被称为无人机。然而,无人机可包括其他无人驾驶飞行器,例如无人驾驶地面交通工具、水上交通工具等。以类似方式,无人机可以是具有与交通工具的移动控制相关联的一个或多个自主功能的任何交通工具。
各方面涉及一种障碍物规避***,该***被配置成允许使用深度成像传感器来进行障碍物规避。在一些方面,障碍物规避***可允许最小化无人驾驶飞行器或任何其他无人机的撞毁风险。在另一方面,障碍物规避***可允许对结构(例如,建筑物结构、机器结构等)的高效检查。
交通工具的各种自主操作模式可需要知晓该交通工具在真实空间中的绝对位置和航向。通常,无人机的位置基于GPS(全球定位***)信息(例如,RTK(实时动态)GPS信息)来确定。交通工具的航向可以从分辨时间的GPS信息、从罗盘信息、从图像分析等中确定。交通工具可包括具有相对于交通工具航向的固定关系的深度成像***。因此,知晓交通工具的绝对位置和航向可允许生成三维地图(例如,体素图),该三维地图表示由交通工具的深度成像***检测到的一个或多个障碍物。为了生成三维地图(例如,体素图或任何其他合适的地图),由深度成像***生成的深度图像的深度信息可被变换成三维地图中所表示的绝对位置信息。
传感器(例如,超声传感器、激光扫描仪、雷达传感器、激光雷达传感器等)可用于至少在某种程度上生成深度图像。然而,它们无法提供详细视图,因为可以从例如一个或多个深度相机获取详细视图。
为了在无人机上进行高效的障碍物规避,具有无人机周围的区域的地图可以是有益的。该地图可包括表示在无人机的领域中检测到的一个或多个障碍物的一个或多个地图对象。在某些方面,地图可以随时间生成并且表示一个或多个检测到的障碍物的地图对象可被存储。与单个时间快照相比,这使得能够例如持续地知晓无人机的周遭,尤其是在无人机并非在所有方向上具有传感器的情况下(例如,在无人机不具有水平面中的360°视野的情况下)。
根据某些方面,一个或多个深度传感器(例如,一个或多个深度相机)可被配置成创建深度图像(例如,具有16位内容),该深度图像可指示0米和预定义最大范围(例如,65米)之间的到对象的距离。基于这些深度图像,可生成体素图,该体素图可以在完整的飞行时间期间基本上保持活跃。这可使得能够例如一旦对象已被无人机的任一个深度相机检测到,该无人机就可以在给定所检测到的障碍物是静止的情况下避免在稍后时间飞到这些障碍物中。一旦生成地图,无人机就可以甚至在该无人机正沿着当前没有深度相机指向的方向接近障碍物的情况下避免与该障碍物的碰撞。例如,如果已经观察到特定树木,则无人机稍后可能反向移向该树木并且将停止飞到树中以避免任何碰撞。
虽然该原理对静态场景可以非常有效,但在包括移动障碍物的动态场景中可能引发挑战。根据各方面,描述了用于障碍物地图(例如,用于体素图)的选择性忘记功能,其中该选择性忘记功能使得能够在进行高效且稳健的障碍物规避的情况下在具有动态障碍物的区域中飞行无人机。例如,这对于其中必须避免多个移动无人机之间的碰撞的基于集群的检查可以是有用的。
图2示出了根据各方面的深度成像***200的各种功能。在某些方面,深度成像***200可以是碰撞规避***的一部分。深度成像***200或包括该深度成像***200的碰撞规避***可以在无人驾驶飞行器(例如,参照图1描述的无人驾驶飞行器)或任何其它无人机中实现。作为示例,深度成像***200可包括一个或多个深度成像传感器202。该一个或多个深度成像传感器202可被配置成生成一个或多个深度成像传感器202的邻域202v的深度图像210。在某些方面,深度成像***200可被配置成生成深度图像210的时间序列。在一个或多个深度成像传感器202是无人机(例如,无人驾驶飞行器)的一部分的情况下,一个或多个深度成像传感器202可提供该无人机的邻域的深度图像210。一个或多个深度成像传感器202或该一个或多个深度成像传感器202的集群中的每一个深度成像传感器可限定各自的视场202f。
由一个或多个深度成像传感器202生成的每一个深度图像210可包括例如多个像素212。深度信息214在深度图像210中可由深度值来表示,该深度值可被指派给多个像素212中的对应像素。可使用对应的像素集,而不是单个像素,并且可将相应地深度值指派给该像素集。深度图像210的每一个像素或每一个像素集可具有该图像中的可以与从深度成像***200的视点开始的方向相关的位置(也被称为像素或像素位置)。换言之,与深度信息相关的方向信息在深度图像210中可由深度图像210内的像素位置来表示。根据各方面,表示一个或多个障碍物201在真实空间中的绝对位置的绝对位置信息可基于与深度图像210的相应像素212相关的像素位置和深度值来确定。作为示例,可生成地图(例如,三维体素图),包括表示一个或多个障碍物201的绝对位置的地图对象。所生成的地图可用于控制交通工具以避免与一个或多个障碍物201碰撞。
根据各方面,一个或多个深度成像传感器202可接收与一个或多个障碍物相关联的障碍物信息。作为示例,第一障碍物201a可以比第二障碍物201b更靠近一个或多个深度成像传感器202。结果,在深度图像210中,表示第一障碍物201a的第一图像对象211a可包括向其指派一个或多个第一深度值214a的一个或多个第一像素212a,并且表示第二障碍物201b的第二图像对象211b可包括向其指派一个或多个第二深度值214b的一个或多个第二像素212b,其中该一个或多个第一深度值214a低于该一个或多个第二深度值214b。可以理解,可以存在其中例如可能未检测到障碍物201、可能只检测到一个障碍物201或者可能检测到多个障碍物201的各种不同的情形。
在某些方面,每一个深度图像210可包括向其指派深度值的像素,这些像素表示经由一个或多个深度成像传感器202检测到的一个或多个障碍物201。这些像素和对应的深度值可被称为是有效的,并且可用作障碍物检测和规避功能的基础。有效深度范围可包括预定义深度值范围内的深度值。其他像素可能不具有指派给它的有效深度值,例如不包括深度值、包括预定义(例如,有效)深度值范围外的深度值。可以理解,预定义(例如,有效)深度值范围外的深度值可以类似地处于另一预定义(例如,无效)深度值范围内。
根据各个方面,深度成像***200可包括一个或多个处理器204。另外,深度成像***200或者包括该深度成像***200的碰撞规避***可包括一个或多个存储器(未示出)。在某些方面,可使用计算***来实现深度成像***200或者包括该深度成像***200的碰撞规避***的功能。作为示例,交通工具的计算***可用于控制交通工具并提供深度成像***200或者也包括该深度成像***200的碰撞规避***的功能。然而,也可使用专用计算***来为交通工具提供深度成像***200或者包括该深度成像***200的碰撞规避***的功能。深度成像***200或者包括该深度成像***200的碰撞规避***可被实现到任何至少部分地自主行进的交通工具中。
根据各方面,深度成像***200的一个或多个处理器204可被配置成确定(在204d中)包括第一(例如,有效)像素集221和第二(例如,无效)像素集223的相应深度图像210,第一像素集221中的每一个像素具有指派给它的(例如,有效)深度值,并且第二(无效)像素集223中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值。
作为示例,定义第一图像对象211a且向其指派一个或多个第一深度值214a的一个或多个第一像素212a可以是第一像素集221的一部分。此外,定义第二图像对象211b且向其指派一个或多个第二深度值214b的一个或多个第二像素212b也可以是第一像素集221的一部分。作为另一示例,深度图像210的一个或多个像素212c、212d、212e、212f可能不具有指派给它的深度值或者可具有指派给它的预定义深度值范围外的深度值,以使得该一个或多个像素212c、212d、212e、212f不表示障碍物。
此外,深度成像***200的一个或多个处理器204可被配置成将预定义深度值214p指派(在204a中)给第二像素集223中的一个或多个像素。如在图2中示例性地示出的,预定义深度值214p可被指派给第二像素集223中的像素212d。
说明性地,可由深度成像***200通过向第二像素集223中的一个或多个像素指派预定义深度值214p来生成经修改的深度图像210m。经修改的深度图像210m可至少包括向其指派对应深度值的第一(有效)像素集221以及第二像素集223中的向其指派预定义深度值的一个或多个像素。
如上所述,被指派给第一像素集221中的对应像素212a、212b的每一个深度值214a、214b可表示障碍物201a、201b离深度成像***200的距离,或者换言之,离深度成像***200的深度成像传感器202的距离。预定义深度值214p可表示例如最大测量距离,例如20米,例如30米,例如约15米到约50米的范围的离深度成像***200的距离。
根据各方面,预定义深度值214p可以只被指派给第二像素集223中的一小部分像素。作为示例,从第二像素集223中选择像素总数的0.1%到10%(例如0.1%到5%,例如0.1%到1%)部分以供向其指派预定义深度值214p。在某些方面,从第二像素集223中随机选择像素以供向其指派预定义深度值214p。
根据各方面,第二像素集223中的具有无效深度值以及未向其指派预定义深度值的像素可被丢弃。作为示例,这些像素可不被用于生成障碍物地图。
根据各方面,深度成像***200或者碰撞规避***的一个或多个处理器204可被配置成从深度图像210中确定与一个或多个深度成像传感器202的邻域202v中的一个或多个障碍物201a、201b相关联的一个或多个图像对象211a、211b。表示障碍物的图像对象可通过图像分析来标识。作为示例,可检查深度图像210以寻找包括具有预定义深度值范围内的类似深度值的像素的像素云。
图3示出了根据各方面的障碍物地图生成器300的各种功能。在某些方面,障碍物地图生成器300可以是碰撞规避***的一部分或者可以向碰撞规避***提供障碍物地图。障碍物地图生成器300或者包括该障碍物地图生成器300的碰撞规避***可以在无人驾驶飞行器(例如,参照图1描述的无人驾驶飞行器)或任何其它无人机中实现。障碍物地图生成器300可包括用以生成经修改的深度图像210m(例如参见图2)的深度成像***(例如,本文描述的深度成像***200),并且可被配置成基于经修改的深度图像210m来生成障碍物地图320。
根据各方面,可以在障碍物地图320中创建表示经由深度成像***200检测到的障碍物201a、201b的地图对象311a、311b。障碍物地图320可被配置成将障碍物地图320中的地图位置与真实空间中的绝对位置相关。
根据各方面,障碍物地图320可包括地图对象311c,该地图对象表示先前(例如,在生成经修改的深度图像210m和/或使用该经修改的深度图像210m来更新和/或生成障碍物地图320之前)检测到的障碍物。在先前检测到的障碍物不再存在于真实空间中的如由地图对象311c表示的位置的情况下,深度图像210不再表示该先前检测到的障碍物。根据各方面,可能不再有效的地图对象311c可以从障碍物地图320中被移除。根据各方面,可能不再有效的地图对象311c可以从障碍物地图320中移除或者基于经修改的深度图像210m来标记。作为示例,地图对象311c可被标记为无效。作为另一示例,可以向地图对象311c指派概率值(也被称为置信值或占用值),该概率值表示在真实空间中存在或缺少对应于该地图对象311c的障碍物的概率。在深度图像210不再表示该先前检测到的障碍物的情况下,概率值可减小。
根据各方面,包括关于在真实空间中存在障碍物的概率的信息的体素图的生成在下文中更详细地解释。
图4示出了用于生成障碍物地图的方法400的流程图,该方法400可包括:在410中基于一个或多个深度图像来生成体素图;以及在420中为该体素图中的一个或多个体素位置确定占用值,相应的占用值表示在对应于该相应体素位置的绝对位置处存在障碍物的概率。
图5以示意图示出根据各方面的障碍物地图生成器500。障碍物地图生成器500可包括被配置成基于一个或多个深度图像510来生成500g体素图520的一个或多个处理器500p。一个或多个处理器500p可被进一步配置成为体素图520中的一个或多个体素位置P(i,j,k)确定占用值L(i,j,k)。相应占用值La(i,j,k)、Lb(i,j,k)可表示在对应于相应体素位置Pa(i,j,k)、Pb(i,j,k)的绝对位置处存在障碍物501a、501b的概率。
根据各方面,体素图520可包括网格排列的多个体素V(i,j,k)。这些体素V(i,j,k)中的每一者可表示真实空间中的具有预定义维度(例如,高度h、长度1和宽度w)的区域。根据各方面,体素图520中的体素V(i,j,k)可表示真实空间中的绝对位置,或者换言之每一个体素位置Pa(i,j,k)、Pb(i,j,k)可以与真实空间中的不同绝对位置相关联。交通工具的移动可基于通信图520来控制以避免与真实空间中的障碍物501a、501b碰撞。
根据各方面,可使用光线追踪(也称为光线投射)来确定指派给体素图520中的体素V(i,j,k)的相应占用值,如以下更详细地描述的。
图6A以示意图示出根据各方面的障碍物地图生成器600。障碍物地图生成器600可包括被配置成接收深度图610的一个或多个处理器600p。深度图610可表示至少一个障碍物601相对于与深度图610相关联的视点610v的相对位置。根据各方面,一个或多个处理器600p可被配置成基于动态性610来生成600g体素图620。
体素图620的确定的若干方面可基于光线追踪,如在图6B中示意性地示出的。体素图620的生成可包括确定表示至少一个障碍物601的绝对位置的第一体素位置P1(i,j,k)以及确定表示与深度图610相关联的视点610v的绝对位置的第二体素位置P2(i,j,k)。说明性地,深度图610可允许以下假设:在检测到的障碍物601和视点610v之间存在无障碍物空间。
根据各方面,体素图620的生成可进一步包括确定第一体素位置P1(i,j,k)和第二体素位置P2(i,j,k)之间的一个或多个中间体素位置Pi(i,j,k)。
此外,可以为该一个或多个中间体素位置Pi(i,j,k)中的每一个确定中间占用值Li(i,j,k),相应的中间占用值Li(i,j,k)可表示在对应于该中间体素位置Pi(i,j,k)的绝对位置存在障碍物的概率。中间体素位置Pi(i,j,k)可通过追踪从第二体素位置P2(i,j,k)到第一体素位置P1(i,j,k)的光线620r来确定,其中与光线620r相交的每一个体素V(i,j,k)可限定中间体素位置Pi(i,j,k)之一。图6C示出了与相应体素单元Pi(i,j,k)相交的光线620r的示意图。
根据各方面,体素位置可由索引元组(i,j,k)来限定。取决于体素的数量以及体素在真实空间中的相关联的大小,体素图可覆盖真实空间中的预定义区域。
根据各方面,深度图像可以从深度传感器,例如从深度相机或立体相机***接收。使用来自深度图像的深度信息,体素图可以构建有空或被占用体素的特定概率。一般而言,体素图可以是例如三维网格内的各个体素的集合。例如,体素可具有与其相关联的预定义体素大小,例如体素大小可被设为约1厘米到约1米的范围内的值。作为示例,20厘米的体素大小以及2048×2048×2048个体素的体素网格可覆盖409.6×409.6×409.6m3的空间。在该空间内,可以为每一个体素限定概率值(也被称为占用值)。作为示例,零值可表示不存在关于对应区域的知识,例如,该区域可能是空的还是被占用。正值可指示对应区域在特定概率下被占用。负值可指示对应区域在特定概率下是空的。
光线追踪是一般可用于渲染拟真图像的图形技术。在这些情况下,光线追踪通常与自由空间一起操作,并且在数学上计算光线与另一对象(例如,三角形)之间的交叉点。例如,原点(1.03,3.28,3.71)处的具有方向(1.0,0.0,0.0)的光线与对象相交于(1.03,8.2,-3.04)。
在体素空间中,也可使用也被称为光线投射的光线追踪。然而,此处所有操作都是对体素块进行的,而不是在自由数学空间中进行的。例如,具有体素原点索引(3,7,9)和特定方向的光线可能与体素块相交于索引(7,8,3)。在体素光线追踪中,所有光线都可跟随沿着体素单元直到它们命中其目标或者满足最大长度准则,如在图6B和6C中示出的。
根据各方面,光线可以从相机原点追踪直到如投影自深度图像的体素的最终位置。对于与光线相交的每一个体素单元,概率值可被修改以表示真实空间的空区域或被占用区域。例如,从深度图像中可知,障碍物可位于距离10米的特定位置处。在这种情况下,沿着到该位置的光线的所有体素都可被设为表示自由空间的概率。
根据各方面,体素图620可以从随时间接收到的深度图像序列中生成,并且自由空间的概率阈值可随着每一个其他样本而增大,直到达到其中达到最大自由值的某一极限。这也可适用于被占用区域。如果被占用空间可以在多个深度图像中观察到,则占用概率可随着每一个样本而增大,直到它命中最大占用值。
根据各方面,对于每一个体素,占用值可以在确定与体素相关联的被占用空间之际渐进地增大,并且在确定与体素相关联的自由空间之际渐进地减小。作为示例,最小占用值可以是-1,且最大占用值可以是1,并且对于单次确定占用值的变化可以是0.2。说明性地,相应体素可被标记为被占用或空,并且对于每一次确定,与体素相关联的真实空间的确被占用或是自由的可能性可随着每一次确定而增大/减小。第一阈值和第二阈值可以与占用值相关联。当占用值达到第一阈值(例如,上限阈值,例如0.7)时,与体素相关联的真实空间可被认为被障碍物占用,并且当占用值达到第二阈值(例如,下限阈值,例如-0.7)时,与体素相关联的真实空间可被认为没有障碍物。
必须注意的是,用于确定概率值的其他实现是可能的。根据各方面,概率值的确定可包括预定义曲线,这些曲线可将概率值与到从深度图中确定的相应障碍物的距离相关,如在图7A和7B中示出的。
图7A示出了根据各方面的用于确定概率值的预定义函数702。在第二体素位置P2(i,j,k)(例如,与深度图像传感器的视点和/或位置和/或无人机的位置相关联)与第一体素位置P1(i,j,k)(例如,与经由深度图像检测到的障碍物相关联)之间,根据各方面,可根据预定义函数来设置概率值。
作为示例,可以为从深度图像中确定的10.5米的给定深度值710确定概率。(例如,线性)斜坡702s可以按以下方式设置:概率从9.5米开始向上升,在10米概率值为0(没有被占用还是空的信息),直到在10.5米概率为1(肯定被占用)。在低于1.5米的距离下,概率值可设为-1(肯定为空)。在不同的实现中,其他值是可能的。
换言之,障碍物的距离以及围绕该距离的功率值的预定义分布可以在确定相应功率值期间考虑。如图7A所示,为了添加来自体素图中的特定点处的10.5米深度值的信息,通过光线追踪确定的直到约10米的所有体素单元可以与表示该区域非常有可能是空的概率值-1相关。该值可随着与深度相机的距离而进一步缩放。作为示例,与较远离的项相比,接近项可以更有可能具有确切值。越接近障碍物(例如,在10到10.5米的距离下),该空间可能被占用的确定性就可快速上升。在10.5米距离下,该空间可以肯定被占用,因为原本深度值不会被设为10.5米。为了光线追踪,光线可过射达一个或多个体素块以将这些体素块也设为被占用。
图7B示出了用于确定概率值的预定义函数712(也被称为误差函数)的另一示例。如图7B所示,可使用概率函数中的至少部分地弯曲的增大712s,这可导致比图7A所示的完全线性的斜坡702s更精确的结果。至少部分地弯曲的增大712s的近乎线性部分的倾斜度可基于从该点到相机原点的距离来确定。这允许虑及来自深度相机(例如,立体相机)的测量的深度误差,该深度误差可随距离二次增大。
可以为以例如30fps运行的一个或多个深度相机(例如,一个或多个立体相机)以及为该一个或多个深度相机中的每一者的数千条光线完成概率值的确定(例如,计算)。这可招致对无人机的嵌入式***的巨大计算负担。
根据各方面,表示曲线概率模型的函数可用于确定体素图中的一个或多个体素的占用值(也被称为概率值)。曲线概率模型可表示一个点(例如,体素位置)在固体对象内的概率。
根据各方面,对无人机或者任何其它至少部分地自主控制的交通工具的环境进行制图对于异常障碍物(outlier)(例如,来自深度相机的可能由于立体匹配误差而生成的虚假深度数据)可以稳健得多。异常障碍物在几何上可能不一致,并因此一旦无人机移动,异常障碍物就将以某种不一致的方式移动。只获取区域中的有效深度数据的机会可以很大。由于有效的被占用空间前方的空间在经由光线追踪的体素图中被说明性地不被拍摄(shotfree),因此任何异常障碍物都将被释放。
此外,使用本文描述的算法和函数允许虑及体素图内的动态变化。例如,在无人机遇到其视场中的另一无人机的情况下,该无人机将首先停止或反向移动以不碰到这样的障碍物。然而,一旦另一无人机已经移开,该另一无人机的先前位置后的背景变得再次可见。由于直到该更远距离的光线被追踪,因此先前被该另一无人机占用的空间被检测为无障碍物。
本文描述的算法和函数的另一方面可以是如果对象被检测到远离,例如50、60或70米的距离,则在给定当今深度传感器的情况下通常可存在对深度准确性的仅仅较低的置信度。然而,在某些方面,在生成体素图期间虑及有限测量准确性的知识。例如,如果在大于预定义距离限制(例如,大于20米)的距离处检测到对象,则可以向中间体素位置指派至少在该预定义距离限制内表示自由空间的概率值。如果该对象例如曾经真的处于50或60米的距离处,则在这种情况下这可以是不相关的。说明性地,体素的概率值只可在最多预定义距离阈值(例如,最多20米距离)下编辑。
根据各方面,该一个或多个处理器500p、600p可以分别是无人驾驶飞行器100的一部分,或者由该一个或多个处理器500p、600p提供的功能可由无人驾驶飞行器100的一个或多个处理器102p来实现。
如本文中示例性地描述的深度图可包括一个或多个深度图像(或者可由一个或多个深度图像生成)。该一个或多个深度图像可由任何合适的传感器或传感器***(例如使用立体相机)来生成。在某些方面,该一个或多个深度图像可由交通工具(例如,无人驾驶飞行器100)的一个或多个传感器生成。
在下文中,描述了可以指上述一个或多个方面(例如,参照图4、5、6A到6C以及7A到7B描述的体素图生成的一个或多个方面)的各方面。
根据各方面,障碍物地图生成器可包括:被配置成接收深度图并基于该深度图来生成体素图的一个或多个处理器,该深度图表示至少一个障碍物相对于与该深度图相关联的视点的相对位置。在某些方面,体素图的生成可包括:确定表示至少一个障碍物的绝对位置的第一体素位置;确定表示视点的绝对位置的第二体素位置;确定第一体素位置和第二体素位置之间的一个或多个中间体素位置;以及为该一个或多个中间体素位置中的每一者确定中间占用值,相应的中间占用值表示在对应于该中间体素位置的绝对位置处存在障碍物的概率。障碍物地图生成器可任选地进一步包括:体素图的生成进一步包括为第一体素位置确定第一占用值,该第一占用值表示在至少一个障碍物的绝对位置处存在该至少一个障碍物的概率。障碍物地图生成器可任选地进一步包括:第一占用值表示比相应的中间占用值更高的概率。障碍物地图生成器可任选地进一步包括:该一个或多个中间体素图位置的确定包括追踪从第二体素位置到第一体素位置的光线,其中该一个或多个中间体素位置处的每一个体素与所追踪的光线相交。障碍物地图生成器可任选地进一步包括:相应的中间占用值的确定包括对连续地为相应体素位置确定的一个或多个占用值进行合计。障碍物地图生成器可任选地进一步包括:第一占用值和相应的中间占用值处在第一边界值和第二边界值之间的范围内。在某些方面,第一边界值表示肯定存在自由空间,而第二边界值表示肯定存在障碍物。障碍物地图生成器可任选地进一步包括:第一占用值和相应的中间占用值是基于与深度图相关联的测量准确性来确定的。障碍物地图生成器可任选地进一步包括:深度图包括从一个或多个深度图像传感器接收到的一个或多个深度图像。障碍物地图生成器可任选地进一步包括:第一体素位置的确定包括基于一个或多个映射参数来将深度图映射到体素图。障碍物地图生成器可任选地进一步包括:该一个或多个映射参数表示与深度图相关联的视场和查看方向以及视点的绝对位置。障碍物地图生成器可任选地进一步包括:相应的中间占用值的确定基于预定义占用值序列。
根据各方面,障碍物地图生成器可被配置成:接收深度图,该深度图表示真实空间中的障碍物以及指派给该障碍物的深度值,该深度值表示该障碍物离与该深度图相关联的视点的距离;接收该视点的绝对位置;基于该深度图来生成障碍物地图(例如,体素图)。障碍物地图(例如,体素图)的生成可包括:确定第一体素位置处的表示障碍物的第一体素;基于接收到的视点的绝对位置来确定第二体素位置处的表示该视点的第二体素;确定第一体素位置和第二体素位置之间的中间体素位置处的中间体素的集合,该中间体素的集合中的每一个体素与从第二体素位置追踪到第一体素位置的单根光线相交;向第一体素指派第一占用值;以及向该中间体素的集合中的一个或多个体素指派第二占用值,第一占用值表示比第二占用值更大的障碍物存在概率。根据另一方面,障碍物地图生成器可被配置成:从一个或多个深度图像中生成障碍物地图,该障碍物地图包括表示真实空间中的绝对位置的地图位置并且该一个或多个深度图像表示一个或多个障碍物的相对位置;从该一个或多个深度图像中确定表示该一个或多个障碍物的绝对位置的一个或多个第一地图位置;确定与该一个或多个深度图像的视点相关联的第二地图位置;为该一个或多个第一地图位置中的每一者确定相应的第一地图位置和第二地图位置之间的中间地图位置的集合,该中间地图位置的集合中的每一个中间地图位置与从第二地图位置追踪到相应的第一地图位置的单根光线相交;向该一个或多个第一地图位置指派第一占用值,该第一占用值表示存在相应障碍物的第一概率;以及向分别确定的中间地图位置的集合中的一个或多个中间地图位置指派第二占用值,该第二占用值表示存在障碍物的第二概率,其中第二概率小于第一概率。相应的障碍物地图生成器可包括用于执行与障碍物地图的生成相关联的相应功能的一个或多个处理器或计算***。
根据各方面,碰撞规避***可包括如本文描述的例如被配置成生成障碍物地图(例如,生成体素图)的障碍物地图生成器。碰撞规避***可进一步包括被配置成基于所生成的障碍物地图(例如,所生成的体素图)来指令对交通工具的控制的一个或多个处理器。碰撞规避***可包括:一个或多个深度成像传感器,其被配置成提供该一个或多个深度成像传感器的邻域的深度图像,该深度图像包括多个像素,其中深度值被指派给该多个像素中的每一个像素;以及一个或多个处理器,其被配置成从该深度图像中确定与该一个或多个深度成像传感器的邻域中的一个或多个障碍物相关联的一个或多个图像对象,该一个或多个图像对象中的每一者包括一个或多个像素以及指派给该一个或多个像素的一个或多个深度值;为该一个或多个图像对象中的每一者确定方向信息和距离信息,其中该方向信息表示从该一个或多个深度成像传感器指向对应于相应图像对象的障碍物的方向,并且其中该距离信息表示沿该方向到该障碍物的距离;基于与该一个或多个深度成像传感器相关联的位置信息来从该方向信息和该距离信息中确定该障碍物的绝对位置以及与该深度图像相关联的视点的绝对位置;生成体素图;以及基于所生成的体素图来指令对交通工具的控制,其中该体素图的生成包括:确定表示该障碍物的绝对位置的一个或多个第一体素;确定表示该视点的绝对位置的第二体素;为该一个或多个第一体素中的每一者确定相应的第一体素与第二体素之间的中间体素的集合,该中间体素的集合中的每一个体素与从第二体素追踪到该相应的第一体素的单根光线相交;向该一个或多个第一体素指派第一占用值,该第一占用值表示存在该障碍物的概率;以及向分别确定的中间体素的集合中的一个或多个中间体素指派第二占用值,该第二占用值表示存在自由空间的概率。根据另一方面,碰撞规避***可包括:被配置成从一个或多个深度图像中生成地图的一个或多个处理器,该地图包括表示真实空间中的绝对位置的地图位置并且该一个或多个深度图像表示一个或多个障碍物的相对位置。该地图的生成可包括:从该一个或多个深度图像中确定表示该一个或多个障碍物的绝对位置的一个或多个第一地图位置;确定与该一个或多个深度图像的视点相关联的第二地图位置;为该一个或多个第一地图位置中的每一者确定相应的第一地图位置和第二地图位置之间的中间地图位置的集合,该中间地图位置的集合中的每一个中间地图位置与从第二地图位置追踪到该相应的第一地图位置的单根光线相交;向该一个或多个第一地图位置指派第一占用值,该第一占用值表示存在障碍物的概率;以及向分别确定的中间地图位置的集合中的一个或多个中间地图位置指派第二占用值,该第二占用值表示存在自由空间的概率。该一个或多个处理器可被进一步配置成基于所生成的地图来指令对交通工具的控制。根据另一方面,碰撞规避***可包括:一个或多个深度图像传感器,其被配置成接收该一个或多个深度图像传感器的邻域的深度信息并从接收到的深度信息中生成一个或多个深度图像,该一个或多个深度图像包括表示该一个或多个深度图像传感器的邻域中的障碍物的至少一个图像对象以及指派给该至少一个图像对象的深度值,该深度值表示该障碍物离该一个或多个深度图像传感器的距离;一个或多个处理器,其被配置成在接收到深度信息时确定该一个或多个深度图像传感器的绝对位置;生成三维体素图;基于该一个或多个深度图像来确定对应于障碍物的绝对位置的一个或多个第一体素位置处的一个或多个第一体素;基于该一个或多个深度图像传感器的所确定的绝对位置来确定表示该绝对位置的第二体素位置处的第二体素;为该一个或多个第一体素中的每一者确定相应的第一体素位置和第二体素位置之间的中间体素位置处的中间体素的集合,该中间体素的集合中的每一个体素与从第二体素位置追踪到该相应的第一体素位置的单根光线相交;向该一个或多个第一体素指派第一占用值,该第一占用值表示存在该障碍物的概率;以及向分别确定的中间体素的集合中的一个或多个中间体素指派第二占用值,该第二占用值表示存在自由空间的概率。
根据各方面,障碍物地图生成器可包括:一个或多个处理器,其被配置成基于深度图来生成体素图;以及为该体素图中的一个或多个体素位置确定占用值,相应的占用值表示在对应于相应体素位置的绝对位置处存在障碍物的概率。障碍物地图生成器可任选地进一步包括一个或多个存储器。该一个或多个处理器可被进一步配置成在该一个或多个存储器中存储指派给体素图中的对应体素位置的所确定的占用值。相应占用值的确定可包括:确定表示该障碍物的绝对位置的第一体素位置;确定表示与深度图相关联的视点的绝对位置的第二体素位置;确定第一体素位置和第二体素位置之间的一个或多个中间体素位置;以及为该一个或多个中间体素位置中的每一者确定中间占用值,相应的中间占用值表示在对应于该中间体素位置的绝对位置处存在障碍物的概率。体素图的生成可进一步包括为第一体素位置确定第一占用值。第一占用值可表示在至少一个障碍物的绝对位置处存在该至少一个障碍物的概率。第一占用值可表示比相应的中间占用值更高的概率。该一个或多个中间体素位置的确定可包括追踪从第二体素位置到第一体素位置的光线。该一个或多个中间体素位置处的每一个体素可以与所追踪的光线相交。对相应占用值的确定可包括对连续为相应体素位置确定的一个或多个占用值进行合计。第一占用值和相应的中间占用值可以在第一边界值和第二边界值之间的范围内。第一边界值可表示肯定存在自由空间。第二边界值可表示肯定存在障碍物。相应占用值可基于与深度图相关联的测量准确性来确定。深度图可包括,可基于从一个或多个深度图像传感器接收到的一个或多个深度图像来生成。第一体素位置的确定可包括基于一个或多个映射参数来将深度图映射到体素图。该一个或多个映射参数可表示与深度图相关联的视场和查看方向以及视点的绝对位置。相应的中间占用值的确定可基于预定义函数。
根据各方面,深度成像***200可生成经修改的深度图像(例如参见图2)。经修改的深度图像210m可用于基于光线追踪来生成体素图,如本文描述的。由于经修改的深度图像210m包括具有预定义深度值214p的一个或多个像素,因此这些像素可用作光线追踪算法的目标。与深度图像220的可被丢弃的无效深度值形成对比,具有预定义深度值214p的一个或多个像素可允许通过以下操作来确定一个或多个中间体素位置:追踪从与视点相关联的体素位置的光线来确定一个或多个中间体素位置;和/或深度成像***200的位置;和/或无人机的位置到与向其指派预定义深度值214p的像素位置相对应的体素位置的光线。
作为示例,障碍物可由体素图中的一个或多个体素来表示。这些一个或多个体素可被称为地图对象(例如,参见图3中的障碍物地图320中示出的地图对象311c),其中障碍物地图是体素图。表示障碍物的一个或多个体素可具有从先前检测到的障碍物指派给它的占用值。在深度图像210不再表示该先前检测到的障碍物的情况下,占用值可以在每一次表示该障碍物的一个或多个体素被确定为对应于无障碍物空间时(例如,在表示该障碍物的一个或多个体素在光线追踪算法期间被确定为中间体素的情况下)减小。
图8示意性地示出了根据各方面的基于深度图像的障碍物地图320的生成800。障碍物地图320的生成800可包括向障碍物地图320添加800a一个或多个地图对象811a、811b,该一个或多个地图对象811a、811b表示预定义区域中(例如,交通工具的邻域中)的一个或多个障碍物。障碍物地图320的生成800可进一步包括修改800b(例如删除,例如标记,等等)被包括在障碍物地图320中的一个或多个地图对象811b。
作为示例,障碍物地图320可包括基于第一深度图像810a来被添加到障碍物地图320的第一地图对象811a和第二地图对象811b。第一地图对象811a可具有指派给它的第一地图位置Pa(i,j,k)。第二地图对象811b可具有指派给它的第二地图位置Pb(i,j,k)。地图位置Pa(i,j,k)、Pb(i,j,k)中的每一者可以与从第一深度图像810a中确定的真实空间中的位置相关。此外,地图对象811a、811b中的每一者可具有指派给它的占用值La(i,j,k)、Lb(i,j,k)。在某些方面,相应置信值La(i,j,k)、Lb(i,j,k)表示在真实空间中实际存在对应障碍物的概率。相应占用值La(i,j,k)、Lb(i,j,k)可根据测量和/或预测准确性来设置,如以上参照用于体素图的占用值描述的。根据各方面,体素图可用作障碍物地图320,其中检测到的障碍物可由分别为对应于真实空间中检测到的障碍物的位置的体素位置处的一个或多个体素设置的占用值来表示,如本文中示例性地描述的。然而,地图中(例如,计算机地图中)的障碍物的其他表示可以按相同或相似的方式使用。
此外,第二地图对象811b(仅作为示例)和/或指派给它的占用值Lb(i,j,k)可基于第二深度图像810b来修改800m。第二深度图像810b可以在第一深度图像810a之后拍摄。根据各方面,如果第二深度图像810b可以不包括对应于第二地图对象811b的障碍物,则指派给它的占用值Lb(i,j,k)可以减小。替代地,第二地图对象811b可以在第二深度图像810b可以不包括对应于第二地图对象811b的障碍物的情况下被从障碍物地图320中删除800d。
此外,第一地图对象811a(作为另一示例)和/或指派给它的占用值La(i,j,k)可基于第二深度图像810b来修改800m。第二深度图像810b可以在第一深度图像810a之后拍摄。根据各方面,如果第二深度图像810b仍包括对应于第一地图对象811a的障碍物,则指派给它的占用值La(i,j,k)可以减小。
根据各方面,相应占用值La(i,j,k)、Lb(i,j,k)表示障碍物地图320中的地图位置Pa(i,j,k)、Pb(i,j,k)的占用。相应占用值La(i,j,k)、Lb(i,j,k)可基于来自深度图像的有效像素(例如,基于所确定的第一(有效)像素集)来增大。相应占用值La(i,j,k)、Lb(i,j,k)可基于来自深度图像的无效像素(例如,基于第二像素集中的向其指派预定义深度值的一个或多个像素)来减小。
如本文描述的,第二像素集中不再无效而是向其指派预定义深度值的一个或多个像素可用作用于生成体素图(例如,如图6A到7B所示)的光线追踪算法中的目标。换言之,障碍物地图的生成可包括:确定表示深度成像***200的绝对位置的第一地图位置(参见图6A到7B中的地图位置P2(i,j,k));确定表示由第二像素集中的向其指派预定义深度值的一个或多个像素表示的一个或多个绝对位置的一个或多个第二地图位置(参见图6A到7B中的地图位置P1(i,j,k));确定第一地图位置与一个或多个第二地图位置中的每一者之间的一个或多个中间地图位置(参见图6A到7B中的地图位置Pi(i,j,k));以及为该一个或多个中间地图位置中的每一者确定中间占用值(参见图7A中的中间占用值Li(i,j,k)),相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
此外,障碍物地图的生成可包括:从第一像素集中的一个或多个像素中确定表示深度成像***的邻域中的一个或多个障碍物的一个或多个绝对位置的一个或多个第三地图位置(参见地图位置Pa(i,j,k)、Pb(i,j,k));为该一个或多个第三地图位置中的每一者确定占用值,所确定的占用值表示在对应于相应的第三地图位置的绝对位置处存在至少一个障碍物的概率。
如本文描述的,障碍物地图320可以是体素图,第一地图位置可以是第一体素位置,一个或多个第二地图位置可以是一个或多个第二体素位置,并且一个或多个中间地图位置可以是一个或多个中间体素位置。一个或多个中间体素位置的确定可包括追踪从第一体素位置到一个或多个第二体素位置中的每一者的光线,其中该一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
根据各方面,障碍物地图320的生成可进一步包括:确定第一地图位置与一个或多个第三地图位置中的每一者之间的一个或多个中间地图位置;以及为该一个或多个中间地图位置中的每一者确定占用值,相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
此外,在障碍物地图是体素图的情况下,一个或多个第三地图位置可以是一个或多个第三体素位置。一个或多个中间体素位置的确定可包括追踪从第一体素位置到一个或多个第三体素位置中的每一者的光线,其中该一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
根据各方面,深度图像中的不向其指派深度值或者向其指派预定义深度值范围外的深度值的每一个像素可以是第二(无效)像素集的一部分。在不进行任何附加测量的情况下,例如图像区域813可能在对应于第二地图对象811b的障碍物不再存在于真实空间中的情况下不具有指派给它的任何有效深度值。因此,图像区域813中的像素在此情况下可被确定为是第二(无效)像素集的一部分。
在不进行任何附加测量的情况下,图像区域813可能无助于障碍物地图320的生成,因为该图像区域可能只包括无效深度值,例如高于预定义阈值的深度值或者根本不具有深度值。因此,在不进行任何附加测量的情况下,深度图像的各个图像区域可以不允许检测障碍物是否消失(例如,移动的障碍物),并因此障碍物地图320可包括可能在真实空间中不具有对应障碍物的地图对象。因此,预定义深度值可被指派给第二像素集中的一个或多个像素。在进行该附加测量的情况下,图像区域813的一个或多个像素813p可以说明性地具有指派给它的有效(预定义)深度值,并且因此可有助于障碍物地图320的生成(或换言之,修改)。这允许在对应于第二地图对象811b的障碍物不再存在于真实空间中的对应位置处的情况下从障碍物地图中删除该第二地图对象811b。可以在对应于第二地图对象811b的障碍物不再存在于真实空间中的对应位置处的情况下减小800m指派给第二地图对象811b的占用值Lb(i,j,k),而不是立即删除第二地图对象811b。
在下文中,描述了一个或多个方面,其中深度传感器可用于提供无人机(或任何其他交通工具)应在其中操作的区域的深度图像,该深度图像被转换成基于体素的地图。
图9A和图9B示例性地示出了根据各方面的被转换(在900c中)成相应的体素图920a、920b的两个场景910a、910b。相应场景可包括可被检测为障碍物并被添加到体素图920a、920b的静态对象。
图10A示例性地示出了动态对象1001(例如,另一无人机、鸟等)在第一时间1000a和第二时间1000b的深度相机视图1000。在下文中,描述了关于在动态对象1001正在无人机的深度成像***的视场内移动时生成该无人机的邻域的体素图的各方面。
图10B示例性地示出了在第一时间1000a检测到动态对象1001并基于此生成体素图1020。根据各方面,动态对象1001可以在第一时间1000a经由相应地提供深度图像1010a的深度成像***来检测。基于此,动态对象1001在真实世界中的对应部分可被确定并且体素图1020可被更新,例如对应的地图对象1030a可以在体素图1020中生成。在某些方面,动态对象1030a可包括占用值,该占用值被指派给体素图1020中的处于一体素位置的至少一个体素1020v,该体素位置对应于动态对象1001在第一时间1000a在真实空间中的位置。真实空间中的对应于动态对象1030a的区域可被认为被障碍物占用并因此可避免碰撞。
图10C示例性地示出了在第二时间1000b检测到动态对象1001。根据各方面,动态对象1001可以在第二时间1000b经由相应地提供深度图像1010a的深度成像***来检测。相比于第一时间,动态对象1001已经移动并因此已改变其在真实空间中的位置。基于深度图像1010b,动态对象1001在真实世界中的对应实际部分可被确定并且体素图1020可被更新,例如对应的地图对象可以在体素图1020中生成,如参照图10B描述的。然而,由于动态对象1001先前(例如,在第一时间1000a)占用的区域1011现在被清空,因此可以从体素图中移除先前添加的地图对象1030a。
然而,深度成像***中的可用于生成深度图像1010a、1010b的深度传感器可能具有限制(例如,在检测范围方面等)。因此,相应的深度图像1010a、1010b的至少某些像素可能不具有指派给它的深度值(或至少不具有有效深度值)。作为示例,深度值零在深度图像中可用于指示该图像区域(例如,包括一个或多个像素)处的深度值无效。
在某些方面,深度图像的白色区域(例如,参见图10C的顶部)可表示无效深度值。这意味着无法从白色区域获取用于生成障碍物地图(例如,体素图1020)的信息。如图10C所示,在动态对象1001的“旧”位置(在第一时间1000a),只有无效深度值可用。如果存在指示下一对象例如在30米远的有效深度值,则障碍物地图可被相应地更新,但由此,旧且现在无效的障碍物将仍然在障碍物地图中表示。
在某些方面,可使用全局“忘却”功能来例如在预定义时间后从障碍物地图中删除“旧”条目。然而,这一全局忘却功能可能不合乎需要,因为例如静态障碍物(例如,树木、建筑物等)也会被检测到,并且当没有深度相机可用且障碍物规避功能可能未恰当地运作时,无人机可能与此类障碍物碰撞。说明性地,在可以在某一任意时间(例如,在两分钟后)从障碍物地图中移除这些静态障碍物的情况下,无人机的领航员的错误预期可能导致撞毁。此外,对于快速移动的对象(如其他无人机、鸟等),例如两分钟可能太长,因为对象可能在该时间内阻挡继续飞行的路径(例如,两分钟可能是无人机的电池寿命的5%到15%)。
根据各方面,本文描述了选择性忘却功能。该选择性忘却功能可用于生成(例如,更新)体素图的占用值。然而,其他地图可以按类似方式更新。选择性忘却功能可包括以下两方面:
·第一:考虑由该选择性忘却功能修改仅仅当前在深度传感器的视场内的地图数据;以及
·第二:随机化器可将当前深度图像中的无效深度值的仅仅一小部分(例如,小于10%、小于5%或小于1%)变为指示在该方向上存在自由空间的值。作为示例,深度图像中的无效深度值的一小部分被设为值20米或更大。
根据各方面,选择性忘却功能的算法可以如下:
函数“随机值匹配某一数值()”可以例如以平均约每200次函数调用一次的随机化方式返回true(真)。这可以是为了降低要忘却的体素相比于蛮力忘却相机视图内具有无效深度值的所有体素的百分比。根据各方面,忘却体素的速率可被限制以降低丢失有效地图数据的风险。
选择性忘却功能可以在深度成像***中(例如,在本文描述的深度成像***200中)和/或在障碍物地图生成器(例如,本文描述的障碍物地图生成器300)中实现。
根据各方面,由深度成像***(例如,由深度成像***200)生成的深度图像可被直接修改,这可保证只修改当前在深度成像***的视场内的数据。由此,仍可执行以下情形:例如在没有传感器的情况下反向飞向先前观察到的对象且不引发碰撞。
此外,由于选择性忘却功能只改变无效深度值而不是任何有效深度值,因此仍将在地图中输入任何有效障碍物。这可以按以下方式自动缩放:如果许多有效深度值可用,则只有非常少的数据将被算法人为地忘却。关于此的另一种方式也可缩放。如果存在许多无效深度值,则忘却更多数据,因为没有其它可靠数据可用。
此处提及的术语“忘却”可包括例如完全破坏先前已被设为占用的体素或者减小占用的置信值。例如,条目可能需要在它实际上被从地图中删除之前被随机地忘却四次。
替代地,可使用其他函数来选择修改深度图像中的哪些无效深度值,而不是随机化器。例如,深度图像可被拆分成各个区域(例如,16×12),并且在这些区域中的每一者中,在一个实例中第一深度值被修改,在下一轮中第二深度值被修改,以此类推。
图11示出了根据各方面的选择性忘记功能1100的示意性流程图。根据各方面,例如在1110中,可以从深度图像中确定有效深度数据和无效/未知深度数据。对于无效/未知深度数据,在1120中,可将每第n个深度值设为预定义深度值。该预定义深度值可以是例如20米。最后,例如在1130中,可基于有效深度数据和经改变深度值来生成体素图。说明性地,存储表示无人机的邻域的信息的历史数据。
根据各方面,深度成像***可包括被配置成生成深度图像的一个或多个深度成像传感器,以及被配置成执行以下操作的一个或多个处理器:对于所生成的深度图像中的每一个深度值确定该深度值是否在预定义深度值范围内,并且在所确定的深度值在预定义深度值范围内的情况下用预定义深度值来替换该深度值。
图12示出了根据各方面的用于操作深度成像***(例如,如图12所示的深度成像***200)的方法1200的示意性流程图。用于操作深度成像***的方法1200可包括:在1210中生成一个或多个深度图像;在1220中为所生成的一个或多个深度图像中的每一个深度图像确定第一(例如,有效)像素集和第二(例如,无效)像素集,该第一像素集中的每一个像素具有指派给它的深度值并且该第二像素集中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值;以及在1230中将预定义深度值指派给该第二像素集中的一个或多个像素。在1230中,生成经修改的深度图像,经修改的深度图像至少包括第一像素集以及第二像素集中的向其指派预定义深度值的一个或多个像素。
以类似方式,用于操作碰撞规避***的方法可包括:从深度成像***的邻域中生成一个或多个深度图像;为所生成的一个或多个深度图像中的每一个深度图像确定第一(例如,有效)像素集和第二(例如,无效)像素集,该第一像素集中的每一个像素具有指派给它的深度值并且该第二像素集中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值;以及将预定义深度值指派给该第二像素集中的一个或多个像素。
图13示出了根据各方面的用于操作障碍物地图生成器(例如,如图13所示的障碍物地图生成器300)的方法1300的示意性流程图。方法1300可以是根据各方面的用于生成障碍物地图的方法。用于操作障碍物地图生成器的方法1300可包括:在1310中接收一个或多个深度图像;在1320中为所接收到的一个或多个深度图像中的每一个深度图像确定第一(例如,有效)像素集和第二(例如,无效)像素集,第一像素集中的每一个像素具有指派给该像素的深度值并且第二像素集中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围之外的深度值;在1330中将预定义深度值指派给第二像素集中的一个或多个像素;以及在1340中基于所确定的第一像素集以及第二像素集中的向其指派预定义深度值的一个或多个像素来生成障碍物地图。该障碍物地图可包括体素图。然而,可以按类似方式使用存储深度数据的任何其他合适的方式。
在下文中,描述了各种示例,这些示例可参考上述一个或多个方面,例如上述无人驾驶飞行器100(或任何其他至少部分自主控制的交通工具)、深度成像***200和/或障碍物地图生成器300的一个或多个方面。
示例1是一种障碍物地图生成器,包括:被配置成执行以下操作的一个或多个处理器:从深度成像***接收一个或多个深度图像;为所接收到的一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,第一像素集中的每一个像素具有指派给该像素的深度值并且第二像素集中的每一个像素不具有指派给该像素的深度值或者具有指派给该像素的预定义深度值范围之外的深度值;将预定义深度值指派给第二像素集中的一个或多个像素;以及基于所确定的第一像素集以及第二像素集中的向其指派预定义深度值的一个或多个像素来生成障碍物地图。
在示例2中,示例1的障碍物地图生成器可进一步包括:指派给第一像素集中的对应像素的深度值表示障碍物离深度成像***的距离。
在示例3中,示例1或2的障碍物地图生成器可进一步包括:预定义深度值表示深度成像***的最大测量距离。
在示例4中,示例1到3中的任一项的障碍物地图生成器可进一步包括:该一个或多个处理器被进一步配置成停止将第二像素集中的未向其指派预定义深度值的像素用于障碍物地图的生成。
在示例5中,示例1到4中的任一项的障碍物地图生成器可进一步包括:障碍物地图的生成包括基于所确定的第一像素集来生成表示深度成像***的邻域中的障碍物的地图对象。
在示例6中,示例1到5中的任一项的障碍物地图生成器可进一步包括:障碍物地图的生成包括基于第二像素集中的向其指派预定义深度值的一个或多个像素来删除表示深度成像***的邻域中的障碍物的一个或多个地图对象。
在示例7中,示例1到6中的任一项的障碍物地图生成器可进一步包括:障碍物地图的生成包括基于所确定的第一像素集来确定指派给障碍物地图中的地图位置的占用值,该占用值表示在对应于该地图位置的绝对位置处存在障碍物的概率。
在示例8中,示例1到7中的任一项的障碍物地图生成器可进一步包括:障碍物地图的生成包括对于障碍物地图中的一个或多个地图位置,基于第二像素集中的向其指派预定义深度值的一个或多个像素来减小指派给障碍物地图中的地图位置的占用值,该占用值表示在对应于该地图位置的绝对位置处存在障碍物的概率。
在示例9中,示例1到7中的任一项的障碍物地图生成器可进一步包括:障碍物地图的生成包括:确定表示深度成像***的绝对位置的第一地图位置;确定表示一个或多个绝对位置的一个或多个第二地图位置,该一个或多个绝对位置由第二像素集中的向其指派预定义深度值的一个或多个像素来表示;确定该第一地图位置与该一个或多个第二地图位置中的每一者之间的一个或多个中间地图位置;以及为该一个或多个中间地图位置中的每一者确定占用值,相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
在示例10中,示例9的障碍物地图生成器可进一步包括:障碍物地图的生成进一步包括:从第一像素集中的一个或多个像素中确定表示深度成像***的邻域中的一个或多个障碍物的一个或多个绝对位置的一个或多个第三地图位置;为该一个或多个第三地图位置中的每一者确定占用值,所确定的占用值表示在对应于相应的第三地图位置的绝对位置处存在至少一个障碍物的概率。
在示例11中,示例9或10中的任一项的障碍物地图生成器可进一步包括:障碍物地图是体素图,第一地图位置是第一体素位置,一个或多个第二地图位置是一个或多个第二体素位置,一个或多个中间地图位置是一个或多个中间体素位置。
在示例12中,示例11的障碍物地图生成器可进一步包括:一个或多个中间体素位置的确定包括追踪从第一体素位置到一个或多个第二体素位置中的每一者的光线,其中该一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
在示例13中,示例10的障碍物地图生成器可进一步包括:障碍物地图的生成进一步包括:确定第一地图位置与一个或多个第三地图位置中的每一者之间的一个或多个中间地图位置;以及为该一个或多个中间地图位置中的每一者确定占用值,相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
在示例14中,示例13的障碍物地图生成器可进一步包括:障碍物地图是体素图,第一地图位置是第一体素位置,一个或多个第三地图位置是一个或多个第三体素位置,一个或多个中间地图位置是一个或多个中间体素位置。
在示例15中,示例14的障碍物地图生成器可进一步包括:一个或多个中间体素位置的确定包括追踪从第一体素位置到一个或多个第三体素位置中的每一者的光线,其中该一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
在示例16中,示例1到15中的任一项的障碍物地图生成器可进一步包括:该一个或多个处理器被进一步配置成从第二像素集中随机选择供向其指派预定义深度值的一个或多个像素。
在示例17中,示例16的障碍物地图生成器可进一步包括:像素总数中的0.1%到10%部分被从第二像素集中选择以供向其指派预定义深度值。
示例18是一种碰撞规避***,包括:被配置成生成一个或多个深度图像的深度成像***;以及根据示例1到17中的任一项的障碍物地图生成器,该障碍物地图生成器基于所生成的深度图像来生成障碍物地图。
示例19是一种碰撞规避***,包括:被配置成从深度成像***的邻域中生成一个或多个深度图像的深度成像***;以及被配置成执行以下操作的一个或多个处理器:为每一个深度图像确定第一像素集和第二像素集,该第一像素集中的每一个像素具有指派给它的深度值并且该第二像素集中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值,以及将预定义深度值指派给该第二像素集中的一个或多个像素。
在示例20中,示例19的碰撞规避***可进一步包括:指派给第一像素集中的对应像素的深度值表示障碍物离深度成像***的距离。
在示例21中,示例19或20的碰撞规避***可进一步包括:预定义深度值表示深度成像***的最大测量距离。
在示例22中,示例19到21中的任一项的碰撞规避***可进一步包括:该一个或多个处理器被进一步配置成丢弃第二像素集中的未向其指派预定义深度值的像素。
在示例23中,示例19到22中的任一项的碰撞规避***可进一步包括:该一个或多个处理器被进一步配置成从第二像素集中随机选择供向其指派预定义深度值的一个或多个像素。
在示例24中,示例23的碰撞规避***可进一步包括:像素总数中的0.1%到10%部分被从第二像素集中选择以供向其指派预定义深度值。
示例25是一种交通工具,包括示例18到24中的任一项的碰撞规避***,该碰撞规避***使该交通工具避免与该交通工具的邻域中的一个或多个障碍物碰撞。
示例26是一种深度成像***,包括:被配置成生成一个或多个深度图像的一个或多个深度成像传感器;以及被配置成执行以下操作的一个或多个处理器:为该一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,第一像素集中的每一个像素具有指派给它的深度值并且第二像素集中的每一个像素集不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值;向第二像素集中的一个或多个像素指派预定义深度值以生成经修改的深度图像,该经修改的深度图像至少包括第一像素集以及第二像素集中的向其指派预定义深度值的一个或多个像素。
在示例27中,示例26的深度成像***可进一步包括:指派给第一像素集中的对应像素的深度值表示障碍物离深度成像***的距离。
在示例28中,示例26或27的深度成像***可进一步包括:预定义深度值表示深度成像***的最大测量距离。
在示例29中,示例26到28中的任一项的深度成像***可进一步包括:该一个或多个处理器被进一步配置成丢弃第二像素集中的未向其指派预定义深度值的像素。
在示例30中,示例26到29中的任一项的深度成像***可进一步包括:该一个或多个处理器被进一步配置成从第二像素集中随机选择供向其指派预定义深度值的一个或多个像素。
在示例31中,示例30的深度成像***可进一步包括:像素总数中的0.1%到10%部分被从第二像素集中选择以供向其指派预定义深度值。
示例32是一种用于生成障碍物地图的方法,该方法包括:从深度成像***接收一个或多个深度图像;为所接收到的一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,第一像素集中的每一个像素具有指派给该像素的深度值并且第二像素集中的每一个像素不具有指派给该像素的深度值或者具有指派给该像素的预定义深度值范围之外的深度值;将预定义深度值指派给第二像素集中的一个或多个像素;以及基于所确定的第一像素集以及第二像素集中的向其指派预定义深度值的一个或多个像素来生成障碍物地图。
在示例33中,示例32的方法可进一步包括:指派给第一像素集中的对应像素的深度值表示障碍物离深度成像***的距离。
在示例34中,示例32或22的方法可进一步包括:预定义深度值表示深度成像***的最大测量距离。
在示例35中,示例32到34中的任一项的方法,进一步包括:停止将第二像素集中的未向其指派预定义深度值的像素用于障碍物地图的生成。
在示例36中,示例32到35中的任一项的方法可进一步包括:生成障碍物地图包括基于所确定的第一像素集来生成表示深度成像***的邻域中的障碍物的地图对象。
在示例37中,示例32到36中的任一项的方法可进一步包括:生成障碍物地图包括基于第二像素集中的向其指派预定义深度值的一个或多个像素来删除表示深度成像***的邻域中的障碍物的一个或多个地图对象。
在示例38中,示例32到37中的任一项的方法可进一步包括:生成障碍物地图包括基于所确定的第一像素集来增大表示障碍物地图中的地图位置的占用的占用值。
在示例39中,示例32到38中的任一项的方法可进一步包括:生成障碍物地图包括对于障碍物地图中的一个或多个地图位置,基于第二像素集中的向其指派预定义深度值的一个或多个像素来减小表示该一个或多个地图位置的占用的占用值。
在示例40中,示例32到38中的任一项的方法可进一步包括:生成障碍物地图包括:确定表示深度成像***的绝对位置的第一地图位置;确定表示一个或多个绝对位置的一个或多个第二地图位置,该一个或多个绝对位置由第二像素集中的向其指派预定义深度值的一个或多个像素来表示;确定该第一地图位置与该一个或多个第二地图位置中的每一者之间的一个或多个中间地图位置;以及为该一个或多个中间地图位置中的每一者确定占用值,相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
在示例41中,示例40的方法可进一步包括:生成障碍物地图进一步包括:从第一像素集中的一个或多个像素中确定表示深度成像***的邻域中的一个或多个障碍物的一个或多个绝对位置的一个或多个第三地图位置;为该一个或多个第三地图位置中的每一者确定占用值,所确定的占用值表示在对应于相应的第三地图位置的绝对位置处存在至少一个障碍物的概率。
在示例42中,示例40或41的方法可进一步包括:障碍物地图是体素图,第一地图位置是第一体素位置,一个或多个第二地图位置是一个或多个第二体素位置,一个或多个中间地图位置是一个或多个中间体素位置。
在示例43中,示例42的方法可进一步包括:确定一个或多个中间体素位置包括追踪从第一体素位置到一个或多个第二体素位置中的每一者的光线,其中该一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
在示例44中,示例41的方法可进一步包括:生成障碍物地图进一步包括:确定第一地图位置与一个或多个第三地图位置中的每一者之间的一个或多个中间地图位置;以及为该一个或多个中间地图位置中的每一者确定占用值,相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
在示例45中,示例44的方法可进一步包括:障碍物地图是体素图,第一地图位置是第一体素位置,一个或多个第三地图位置是一个或多个第三体素位置,一个或多个中间地图位置是一个或多个中间体素位置。
在示例46中,示例45的方法可进一步包括:确定一个或多个中间体素位置包括追踪从第一体素位置到一个或多个第三体素位置中的每一者的光线,其中该一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
在示例47中,示例32到15中的任一项的方法,进一步包括:从第二像素集中随机选择供向其指派预定义深度值的一个或多个像素。
在示例48中,示例47的方法可进一步包括:像素总数中的0.1%到10%部分被从第二像素集中选择以供向其指派预定义深度值。
示例49是一种用于操作碰撞规避***的方法,该方法包括:从深度成像***的邻域中生成一个或多个深度图像;为所生成的一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,该第一像素集中的每一个像素具有指派给它的深度值并且该第二像素集中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值;以及将预定义深度值指派给该第二像素集中的一个或多个像素。
在示例50中,示例49的方法可进一步包括:指派给第一像素集中的对应像素的深度值表示障碍物离深度成像***的距离。
在示例51中,示例49或50的方法可进一步包括:预定义深度值表示深度成像***的最大测量距离。
在示例52中,示例49到51中的任一项的方法,进一步包括:丢弃第二像素集中的未向其指派预定义深度值的像素。
在示例53中,示例49到52中的任一项的方法,进一步包括:从第二像素集中随机选择供向其指派预定义深度值的一个或多个像素。
在示例54中,示例53的方法可进一步包括:像素总数中的0.1%到10%部分被从第二像素集中选择以供向其指派预定义深度值。
示例55是一种用于操作深度成像***的方法,该方法包括:生成一个或多个深度图像;为该一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,第一像素集中的每一个像素具有指派给它的深度值并且第二像素集中的每一个像素集不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值;以及向第二像素集中的一个或多个像素指派预定义深度值以生成经修改的深度图像,该经修改的深度图像至少包括第一像素集以及第二像素集中的向其指派预定义深度值的一个或多个像素。
在示例56中,示例55的方法可进一步包括:指派给第一像素集中的对应像素的深度值表示障碍物离深度成像***的距离。
在示例57中,示例55或56的方法可进一步包括:预定义深度值表示深度成像***的最大测量距离。
在示例58中,示例55到57中的任一项的方法,进一步包括:丢弃第二像素集中的未向其指派预定义深度值的像素。
在示例59中,示例55到58中的任一项的方法,进一步包括:从第二像素集中随机选择供向其指派预定义深度值的一个或多个像素。
在示例60中,示例59的方法可进一步包括:像素总数中的0.1%到10%部分被从第二像素集中选择以供向其指派预定义深度值。
示例61是一种深度成像***,包括:被配置成生成深度图像的一个或多个深度成像传感器;以及被配置成执行以下操作的一个或多个处理器:对于所生成的深度图像中的每一个深度值确定该深度值是否在预定义深度值范围内,并且在所确定的深度值在预定义深度值范围内的情况下用预定义深度值来随机地替换该深度值。
在示例62中,示例61的深度成像***可进一步包括:预定义深度值范围包括表示小于0.5m的距离的一个或多个深度值。作为示例,预定义深度值范围包括表示无效深度值(例如,0)的深度值。
示例63是一种用于操作交通工具的方法,该方法包括:根据示例32到48中的任一项基于深度图像来生成障碍物地图;以及基于所生成的障碍物地图来使该交通工具避免与该交通工具的邻域中的一个或多个障碍物碰撞。
在某些方面,本文描述的任何方法可以部分地或完全被实现为具有程序指令的非瞬态计算机可读介质,这些程序指令在被执行时使得一个或多个处理器执行该方法的至少一部分或全部。
虽然已经参照具体方面具体地示出和描述了本公开,但本领域技术人员应当理解,可对本发明作出形式上和细节上的各种变化而不背离如所附权利要求所限定的本公开的精神和范围。因此,本公开的范围由所附权利要求表示并且因此旨在涵盖落在权利要求的等效含义和范围内的所有变化。
Claims (25)
1.一种障碍物地图生成器,包括:
一个或多个处理器,其被配置成:
从深度成像***接收一个或多个深度图像,
为所接收到的一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,所述第一像素集中的每一个像素具有指派给它的深度值并且所述第二像素集中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值,
向所述第二像素集中的一个或多个像素指派预定义深度值,以及
基于所确定的第一像素集以及所述第二像素集中的向其指派所述预定义深度值的一个或多个像素来生成障碍物地图。
2.如权利要求1所述的障碍物地图生成器,
其中指派给所述第一像素集中的对应像素的深度值表示障碍物离所述深度成像***的距离。
3.如权利要求1或2所述的障碍物地图生成器,
其中所述预定义深度值表示所述深度成像***的最大测量距离。
4.如权利要求1或2所述的障碍物地图生成器,
其中所述一个或多个处理器被进一步配置成停止将所述第二像素集中的未向其指派所述预定义深度值的像素用于所述障碍物地图的生成。
5.如权利要求1或2所述的障碍物地图生成器,
其中所述障碍物地图的生成包括基于所确定的第一像素集来生成表示所述深度成像***的邻域中的障碍物的地图对象。
6.如权利要求1或2所述的障碍物地图生成器,
其中所述障碍物地图的生成包括基于所述第二像素集中的向其指派所述预定义深度值的一个或多个像素来删除表示所述深度成像***的邻域中的障碍物的一个或多个地图对象。
7.如权利要求1或2所述的障碍物地图生成器,
其中所述障碍物地图的生成包括基于所确定的第一像素集来确定指派给所述障碍物地图中的地图位置的占用值,所述占用值表示在对应于所述地图位置的绝对位置处存在障碍物的概率。
8.如权利要求1或2所述的障碍物地图生成器,
其中所述障碍物地图的生成包括对于所述障碍物地图中的一个或多个地图位置,基于所述第二像素集中的向其指派所述预定义深度值的一个或多个像素来减小指派给所述障碍物地图中的地图位置的占用值,所述占用值表示在对应于所述地图位置的绝对位置处存在障碍物的概率。
9.如权利要求1或2所述的障碍物地图生成器,
其中所述障碍物地图的生成包括:
确定表示所述深度成像***的绝对位置的第一地图位置;
确定表示一个或多个绝对位置的一个或多个第二地图位置,所述一个或多个绝对位置由所述第二像素集中的向其指派所述预定义深度值的一个或多个像素表示;
确定所述第一地图位置与所述一个或多个第二地图位置中的每一者之间的一个或多个中间地图位置;以及
为所述一个或多个中间地图位置中的每一者确定占用值,相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
10.如权利要求9所述的障碍物地图生成器,
其中所述障碍物地图的生成进一步包括:
从所述第一像素集中的一个或多个像素中确定一个或多个第三地图位置,所述一个或多个第三地图位置表示所述深度成像***的邻域中的一个或多个障碍物的一个或多个绝对位置;
为所述一个或多个第三地图地图位置中的每一者确定占用值,所确定的占用值表示在对应于相应的第三地图位置的绝对位置处存在至少一个障碍物的概率。
11.如权利要求9或10所述的障碍物地图生成器,
其中障碍物地图是体素图,所述第一地图位置是第一体素位置,所述一个或多个第二地图位置是一个或多个第二体素位置,所述一个或多个中间地图位置是一个或多个中间体素位置。
12.如权利要求11所述的障碍物地图生成器,
其中对所述一个或多个中间体素位置的确定包括追踪从所述第一体素位置到所述一个或多个第二体素位置中的每一者的光线,其中所述一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
13.如权利要求10所述的障碍物地图生成器,
其中所述障碍物地图的生成进一步包括:
确定所述第一地图位置与所述一个或多个第三地图位置中的每一者之间的一个或多个中间地图位置;以及
为所述一个或多个中间地图位置中的每一者确定占用值,相应的中间占用值表示在对应于该中间地图位置的绝对位置处存在障碍物的概率。
14.如权利要求13所述的障碍物地图生成器,
其中障碍物地图是体素图,所述第一地图位置是第一体素位置,所述一个或多个第三地图位置是一个或多个第三体素位置,所述一个或多个中间地图位置是一个或多个中间体素位置。
15.如权利要求14所述的障碍物地图生成器,
其中对所述一个或多个中间体素位置的确定包括追踪从所述第一体素位置到所述一个或多个第三体素位置中的每一者的光线,其中所述一个或多个中间体素位置处的每一个体素与所追踪的光线相交。
16.如权利要求1或2所述的障碍物地图生成器,
其中所述一个或多个处理器被进一步配置成从所述第二像素集中随机选择供向其指派所述预定义深度值的一个或多个像素。
17.如权利要求16所述的障碍物地图生成器,
其中像素总数中的小于10%部分被从所述第二像素集中选择以供向其指派所述预定义深度值。
18.一种交通工具,包括:
被配置成生成一个或多个深度图像的深度成像***;
如权利要求1或2所述的障碍物地图生成器,所述障碍物地图生成器用于基于所生成的深度图像来生成障碍物地图;以及
碰撞规避***,其用于基于所生成的障碍物地图来使得所述交通工具避免与所述交通工具的邻域中的一个或多个障碍物碰撞。
19.一种深度成像***,包括:
被配置成生成深度图像的一个或多个深度成像传感器;以及
一个或多个处理器,其被配置成:
对于所生成的深度图像中的每一个深度值,确定该深度值是否在预定义深度值范围内;
在所确定的深度值在所述预定义深度值范围内的情况下用预定义深度值来随机地替换所述深度值。
20.如权利要求19所述的深度成像***,
其中所述预定义深度值范围包括表示小于0.5米的距离的一个或多个深度值。
21.一种用于生成障碍物地图的方法,所述方法包括:
从深度成像***接收一个或多个深度图像;
为所接收到的一个或多个深度图像中的每一个深度图像确定第一像素集和第二像素集,所述第一像素集中的每一个像素具有指派给它的深度值并且所述第二像素集中的每一个像素不具有指派给它的深度值或者具有指派给它的预定义深度值范围外的深度值;
向所述第二像素集中的一个或多个像素指派预定义深度值;以及
基于所确定的第一像素集以及所述第二像素集中的向其指派所述预定义深度值的一个或多个像素来生成障碍物地图。
22.如权利要求21所述的方法,
其中指派给所述第一像素集中的对应像素的深度值表示障碍物离所述深度成像***的距离。
23.如权利要求21或22所述的方法,
其中所述预定义深度值表示所述深度成像***的最大测量距离。
24.如权利要求21或22所述的方法,进一步包括:
停止将所述第二像素集中的未向其指派所述预定义深度值的像素用于所述障碍物地图的生成。
25.如权利要求21或22所述的方法,
其中生成所述障碍物地图包括基于所确定的第一像素集来生成表示所述深度成像***的邻域中的障碍物的地图对象。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/233,245 | 2018-12-27 | ||
US16/233,245 US10937325B2 (en) | 2018-12-27 | 2018-12-27 | Collision avoidance system, depth imaging system, vehicle, obstacle map generator, and methods thereof |
PCT/US2019/062084 WO2020139481A1 (en) | 2018-12-27 | 2019-11-19 | Collision avoidance system, depth imaging system, vehicle, obstacle map generator, and methods thereof |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113228137A true CN113228137A (zh) | 2021-08-06 |
Family
ID=66533944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980041426.2A Pending CN113228137A (zh) | 2018-12-27 | 2019-11-19 | 碰撞规避***、深度成像***、交通工具、障碍物地图生成器及其方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10937325B2 (zh) |
EP (1) | EP3903298A4 (zh) |
CN (1) | CN113228137A (zh) |
WO (1) | WO2020139481A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI816387B (zh) * | 2022-05-05 | 2023-09-21 | 勝薪科技股份有限公司 | 語意距離地圖的建構方法及其相關移動裝置 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9607426B1 (en) * | 2013-12-20 | 2017-03-28 | Imagination Technologies Limited | Asynchronous and concurrent ray tracing and rasterization rendering processes |
US10937325B2 (en) | 2018-12-27 | 2021-03-02 | Intel Corporation | Collision avoidance system, depth imaging system, vehicle, obstacle map generator, and methods thereof |
US10921463B1 (en) * | 2019-06-05 | 2021-02-16 | Christopher Davis Williams | Systems and methods for vehicle orientation determination |
CN110568857A (zh) * | 2019-08-15 | 2019-12-13 | 深圳市道通智能航空技术有限公司 | 无人机飞行控制方法及无人机 |
WO2021079778A1 (ja) * | 2019-10-24 | 2021-04-29 | ソニー株式会社 | 移動体、情報処理方法、プログラム及び情報処理システム |
US20220398395A1 (en) * | 2021-06-10 | 2022-12-15 | Sony Group Corporation | Extraneous content removal from images of a scene captured by a multi-drone swarm |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9361706B2 (en) | 2009-11-30 | 2016-06-07 | Brigham Young University | Real-time optical flow sensor design and its application to obstacle detection |
US8761457B1 (en) * | 2013-11-27 | 2014-06-24 | Google Inc. | Aligning ground based images and aerial imagery |
US9747519B2 (en) * | 2015-04-24 | 2017-08-29 | Microsoft Technology Licensing, Llc | Classifying ambiguous image data |
US10269136B2 (en) * | 2015-04-29 | 2019-04-23 | Hewlett-Packard Development Company, L.P. | System and method for processing depth images which capture an interaction of an object relative to an interaction plane |
CN105346706B (zh) | 2015-11-13 | 2018-09-04 | 深圳市道通智能航空技术有限公司 | 飞行装置、飞行控制***及方法 |
CN105761265A (zh) | 2016-02-23 | 2016-07-13 | 英华达(上海)科技有限公司 | 利用影像深度信息提供避障的方法及无人飞行载具 |
CN106054888A (zh) | 2016-06-28 | 2016-10-26 | 旗瀚科技股份有限公司 | 一种机器人自动避障方法和装置 |
US10621780B2 (en) * | 2017-02-02 | 2020-04-14 | Infatics, Inc. | System and methods for improved aerial mapping with aerial vehicles |
US20180350086A1 (en) | 2017-05-31 | 2018-12-06 | Qualcomm Incorporated | System And Method Of Dynamically Filtering Depth Estimates To Generate A Volumetric Map Of A Three-Dimensional Environment Having An Adjustable Maximum Depth |
US10962650B2 (en) * | 2017-10-31 | 2021-03-30 | United States Of America As Represented By The Administrator Of Nasa | Polyhedral geofences |
CN109034018B (zh) * | 2018-07-12 | 2022-01-21 | 北京航空航天大学 | 一种基于双目视觉的低空小型无人机障碍物感知方法 |
US10937325B2 (en) | 2018-12-27 | 2021-03-02 | Intel Corporation | Collision avoidance system, depth imaging system, vehicle, obstacle map generator, and methods thereof |
-
2018
- 2018-12-27 US US16/233,245 patent/US10937325B2/en active Active
-
2019
- 2019-11-19 WO PCT/US2019/062084 patent/WO2020139481A1/en unknown
- 2019-11-19 EP EP19901544.7A patent/EP3903298A4/en active Pending
- 2019-11-19 CN CN201980041426.2A patent/CN113228137A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI816387B (zh) * | 2022-05-05 | 2023-09-21 | 勝薪科技股份有限公司 | 語意距離地圖的建構方法及其相關移動裝置 |
US11972587B2 (en) | 2022-05-05 | 2024-04-30 | Fitipower Integrated Technology Inc. | Method for establishing semantic distance map and related moving device |
Also Published As
Publication number | Publication date |
---|---|
US10937325B2 (en) | 2021-03-02 |
EP3903298A1 (en) | 2021-11-03 |
US20190156684A1 (en) | 2019-05-23 |
EP3903298A4 (en) | 2022-08-10 |
WO2020139481A1 (en) | 2020-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11237572B2 (en) | Collision avoidance system, depth imaging system, vehicle, map generator and methods thereof | |
CN113228137A (zh) | 碰撞规避***、深度成像***、交通工具、障碍物地图生成器及其方法 | |
CN108776492B (zh) | 一种基于双目相机的四轴飞行器自主避障与导航方法 | |
CN109708636B (zh) | 导航图配置方法、避障方法以及装置、终端、无人飞行器 | |
US10459445B2 (en) | Unmanned aerial vehicle and method for operating an unmanned aerial vehicle | |
EP3387507B1 (en) | Systems and methods for uav flight control | |
JP7263630B2 (ja) | 無人航空機による3次元再構成の実行 | |
CN107209514B (zh) | 传感器数据的选择性处理 | |
US20200026720A1 (en) | Construction and update of elevation maps | |
ES2876449T3 (es) | Cartografía de entorno de múltiples sensores | |
CN108132678B (zh) | 一种飞行器的飞行控制方法及相关装置 | |
WO2019157455A1 (en) | Aerial vehicle smart landing | |
US20180350086A1 (en) | System And Method Of Dynamically Filtering Depth Estimates To Generate A Volumetric Map Of A Three-Dimensional Environment Having An Adjustable Maximum Depth | |
WO2018023556A1 (en) | Methods and systems for obstacle identification and avoidance | |
US20190051192A1 (en) | Impact avoidance for an unmanned aerial vehicle | |
JP6527726B2 (ja) | 自律移動ロボット | |
US20190066522A1 (en) | Controlling Landings of an Aerial Robotic Vehicle Using Three-Dimensional Terrain Maps Generated Using Visual-Inertial Odometry | |
JP7153306B2 (ja) | 検出対象位置特定システム | |
WO2021237535A1 (zh) | 碰撞处理方法、设备及介质 | |
KR102249485B1 (ko) | 로봇 자율주행 시스템 및 방법 | |
EP4327317A1 (en) | System infrastructure for manned vertical take-off and landing aerial vehicles | |
Naveenkumar et al. | Autonomous Drone Using Time-of-Flight Sensor for Collision Avoidance Check for updates | |
Naveenkumar et al. | Autonomous Drone Using Time-of-Flight Sensor for Collision Avoidance |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20221019 Address after: Irish Dublin Applicant after: Taihao Research Co.,Ltd. Address before: California, USA Applicant before: INTEL Corp. |