CN111044992A - 用于自动驾驶的基于交叉验证的自动lidar校准 - Google Patents
用于自动驾驶的基于交叉验证的自动lidar校准 Download PDFInfo
- Publication number
- CN111044992A CN111044992A CN201910683999.7A CN201910683999A CN111044992A CN 111044992 A CN111044992 A CN 111044992A CN 201910683999 A CN201910683999 A CN 201910683999A CN 111044992 A CN111044992 A CN 111044992A
- Authority
- CN
- China
- Prior art keywords
- lidar
- coordinate converter
- obstacle
- lidar image
- coordinate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000002790 cross-validation Methods 0.000 title description 2
- 238000000034 method Methods 0.000 claims abstract description 54
- 230000008447 perception Effects 0.000 claims abstract description 35
- 230000006870 function Effects 0.000 claims abstract description 15
- 238000012545 processing Methods 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 25
- 230000015654 memory Effects 0.000 claims description 17
- 230000001131 transforming effect Effects 0.000 claims description 12
- 238000013459 approach Methods 0.000 claims description 7
- 238000011478 gradient descent method Methods 0.000 claims description 2
- 238000006243 chemical reaction Methods 0.000 abstract description 5
- 238000003860 storage Methods 0.000 description 29
- 238000004891 communication Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 238000004422 calculation algorithm Methods 0.000 description 8
- 238000005457 optimization Methods 0.000 description 6
- 230000002085 persistent effect Effects 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 238000007405 data analysis Methods 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000005291 magnetic effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009429 electrical wiring Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 229910000078 germane Inorganic materials 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000004043 responsiveness Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
- G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
- G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
- G01S19/42—Determining position
- G01S19/45—Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
- G05D1/024—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0276—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
- G05D1/0278—Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using satellite positioning signals, e.g. GPS
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
- G01S2013/9322—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles using additional data, e.g. driver condition, road state or weather data
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Automation & Control Theory (AREA)
- Aviation & Aerospace Engineering (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Game Theory and Decision Science (AREA)
- Medical Informatics (AREA)
- Artificial Intelligence (AREA)
- Business, Economics & Management (AREA)
- Optics & Photonics (AREA)
- Traffic Control Systems (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Navigation (AREA)
Abstract
在一个实施方式中，接收表示由ADV的LIDAR装置在不同时间点捕获的LIDAR点云数据的一组LIDAR图像。对于LIDAR图像中的每个，利用感知方法来确定LIDAR图像中捕获的障碍物在局部坐标系中的位置。使用坐标转换器(例如，LIDAR到GPS坐标转换逻辑或函数)将LIDAR图像从局部坐标系变换至全局坐标系。通过调整坐标转换器的一个或多个参数，基于变换后的LIDAR图像来优化坐标转换器，并且迭代地执行上述操作以获得一组最佳参数。然后，可利用优化后的坐标转换器在自动驾驶期间实时处理后续的LIDAR图像。
Description
技术领域
本公开的实施方式总体涉及操作自动驾驶车辆。更具体地，本公开的实施方式涉及用于自动驾驶的LIDAR校准。
背景技术
以自动驾驶模式运行(例如，无人驾驶)的车辆可将乘员、尤其是驾驶员从一些驾驶相关的职责中解放出来。当以自动驾驶模式运行时，车辆可使用车载传感器导航到各个位置，从而允许车辆在最少人机交互的情况下或在没有任何乘客的一些情况下行驶。
光探测和测距(LIDAR)装置是自动驾驶车辆(ADV)的最重要和最普遍的传感器之一。自动驾驶的精度和效率严重依赖于LIDAR装置的精度。周期性地，LIDAR装置需要校准。LIDAR校准对于大规模生产来说是需要解决的具有挑战性的问题。一直以来缺乏校准LIDAR装置的有效方法。
发明内容
在本公开的一方面，提供了一种计算机实施的方法，包括：
接收由自动驾驶车辆的LIDAR装置捕获的多个LIDAR图像；
对于所述LIDAR图像中的每个，
使用感知方法确定所述LIDAR图像中捕获的障碍物在局部坐标系中的位置，以及
使用坐标转换器将所述LIDAR图像从所述局部坐标系变换至全局坐标系；以及
通过迭代地调整所述坐标转换器的一个或多个参数，基于出现在变换后的LIDAR图像中的障碍物的位置来优化所述坐标转换器，其中，优化后的坐标转换器用于在自动驾驶期间实时处理后续的LIDAR图像。
在本公开的另一方面，提供了一种存储有指令的非暂时性机器可读介质，所述指令在由处理器执行时致使所述处理器执行操作，所述操作包括：
接收由自动驾驶车辆的LIDAR装置捕获的多个LIDAR图像；
对于所述LIDAR图像中的每个，
使用感知方法确定所述LIDAR图像中捕获的障碍物在局部坐标系中的位置，以及
使用坐标转换器将所述LIDAR图像从所述局部坐标系变换至全局坐标系；以及
通过迭代地调整所述坐标转换器的一个或多个参数，基于出现在变换后的LIDAR图像中的障碍物的位置来优化所述坐标转换器，其中，优化后的坐标转换器用于在自动驾驶期间实时处理后续的LIDAR图像。
在本公开的又一方面，提供了一种数据处理***，包括：
处理器；以及
存储器，所述存储器联接至所述处理器，以存储指令，所述指令在由所述处理器执行时致使所述处理器执行操作，所述操作包括：
接收由自动驾驶车辆的LIDAR装置捕获的多个LIDAR图像；
对于所述LIDAR图像中的每个，
使用感知方法确定所述LIDAR图像中捕获的障碍物在局部坐标系中的位置，以及
使用坐标转换器将所述LIDAR图像从所述局部坐标系变换至全局坐标系；以及
通过迭代地调整所述坐标转换器的一个或多个参数，基于出现在变换后的LIDAR图像中的障碍物的位置来优化所述坐标转换器，其中，优化后的坐标转换器用于在自动驾驶期间实时处理后续的LIDAR图像。
附图说明
本公开的实施方式在附图的各图中以举例而非限制的方式示出，附图中的相同参考标记指示相似元件。
图1是示出根据一个实施方式的网络化***的框图。
图2是示出根据一个实施方式的自动驾驶车辆的示例的框图。
图3A至图3B是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划***的示例的框图。
图4是示出根据一个实施方式的LIDAR校准***的示例的框图。
图5是示出根据一个实施方式的用于校准目的的LIDAR图像的示例的图示。
图6是示出根据一个实施方式的LIDAR校准过程的示例的流程图。
图7是示出根据另一实施方式的LIDAR校准过程的示例的流程图。
图8是示出根据一个实施方式的数据处理***的框图。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面，附图将示出所述各种实施方式。下列描述和附图是本公开的说明，而不应当解释为对本公开进行限制。描述了许多特定细节以提供对本公开的各种实施方式的全面理解。然而，在某些情况下，并未描述众所周知的或常规的细节，以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的提及意味着结合该实施方式所描述的特定特征、结构或特性可包括在本公开的至少一个实施方式中。短语“在一个实施方式中”在本说明书中各个地方的出现不必全部指同一实施方式。
根据一些实施方式，驱动ADV以从安装在ADV上的LIDAR装置收集LIDAR数据(诸如LIDAR行点云数据)、相应的位置数据(例如，GPS数据)和车辆前进方向。LIDAR数据在LIDAR空间或LIDAR坐标系中获得。LIDAR数据可在车辆坐标系(例如，车辆后轴的中心点，相对于车辆的局部坐标系)中转换。对于由LIDAR数据解释的每个LIDAR图像，利用感知过程或算法来辨认和识别由LIDAR图像捕获的障碍物或对象。障碍物的位置在LIDAR或车辆坐标空间中计算。
坐标转换器用于将LIDAR图像从LIDAR坐标空间转化或转换至诸如GPS坐标系的全局坐标系。对于坐标转换器的给定的一组参数或系数，将转化的LIDAR图像相互比较以确定由LIDAR图像捕获的相同障碍物的一致性。调整坐标转换器的参数并重复执行上述过程以确定坐标转换器的一组最佳参数，使得由LIDAR图像捕获的障碍物的一致性达到最大，此时坐标转换器被认为是最佳坐标转换器。然后可将最佳坐标转换器上传到ADV上以实时用于处理LIDAR图像。坐标转换器可由四元数函数表示，四元数函数也称为Q函数。
根据一个实施方式，接收表示由ADV的LIDAR装置在不同时间点捕获的LIDAR点云数据的一组LIDAR图像。对于LIDAR图像中的每个，利用感知方法来确定LIDAR图像中捕获的障碍物在局部坐标系中的位置。使用坐标转换器(例如，LIDAR到GPS坐标转换逻辑或函数)将LIDAR图像从局部坐标系变换至全局坐标系。通过调整坐标转换器的一个或多个参数，基于变换的LIDAR图像来优化坐标转换器，并且迭代地执行上述操作以获得一组最佳参数。然后，可利用优化的坐标转换器在自动驾驶期间实时处理后续的LIDAR图像。
在一个实施方式中，检查变换的LIDAR图像以确定出现在变换的LIDAR图像中的障碍物的一致性。重复优化坐标转换器，直到一致性达到预定阈值以上。可替代地，执行优化直到迭代的次数达到预定阈值，接着选择具有最高一致性的坐标转换器的一组参数作为坐标转换器的一组最佳参数。
在一个实施方式中，在确定出现在LIDAR图像中的障碍物的一致性时，对其中出现障碍物的LIDAR图像的数量进行计数。当坐标转换器产生其中具有捕获的障碍物的最大数量的变换LIDAR图像时，该坐标转换器被认为是最佳坐标转换器，并且其相关联的一组参数或系数被认为是一组最佳参数或系数。在一个实施方式中，坐标转换器包括四元数函数或由四元数函数表示，其中，使用上述技术优化四元数函数的系数。在一个实施方式中，使用梯度下降方法来执行迭代优化。
图1是示出根据本公开的一个实施方式的自动驾驶车辆网络配置的框图。参考图1，网络配置100包括可通过网络102通信地联接到一个或多个服务器103至104的自动驾驶车辆101。尽管示出一个自动驾驶车辆，但多个自动驾驶车辆可通过网络102联接到彼此和/或联接到服务器103至104。网络102可以是任何类型的网络，例如，有线或无线的局域网(LAN)、诸如互联网的广域网(WAN)、蜂窝网络、卫星网络或其组合。服务器103至104可以是任何类型的服务器或服务器群集，诸如，网络或云服务器、应用服务器、后端服务器或其组合。服务器103至104可以是数据分析服务器、内容服务器、交通信息服务器、地图和兴趣点(MPOI)服务器或位置服务器等。
自动驾驶车辆是指可配置成处于自动驾驶模式下的车辆，在所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导航通过环境。这种自动驾驶车辆可包括传感器***，所述传感器***具有配置成检测与车辆运行环境有关的信息的一个或多个传感器。所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。自动驾驶车辆101可在手动模式下、在全自动驾驶模式下或者在部分自动驾驶模式下运行。
在一个实施方式中，自动驾驶车辆101包括，但不限于，感知与规划***110、车辆控制***111、无线通信***112、用户接口***113和传感器***115。自动驾驶车辆101还可包括普通车辆中包括的某些常用部件，诸如：发动机、车轮、方向盘、变速器等，所述部件可由车辆控制***111和/或感知与规划***110使用多种通信信号和/或命令进行控制，该多种通信信号和/或命令例如，加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等。
部件110至115可经由互连件、总线、网络或其组合通信地联接到彼此。例如，部件110至115可经由控制器局域网(CAN)总线通信地联接到彼此。CAN总线是设计成允许微控制器和装置在没有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的复用电气布线设计的基于消息的协议，但也用于许多其它环境。
现在参考图2，在一个实施方式中，传感器***115包括但不限于一个或多个摄像机211、全球定位***(GPS)单元212、惯性测量单元(IMU)213、雷达单元214以及光探测和测距(LIDAR)单元215。GPS单元212可包括收发器，所述收发器可操作以提供关于自动驾驶车辆的位置的信息。IMU单元213可基于惯性加速度来感测自动驾驶车辆的位置和定向变化。雷达单元214可表示利用无线电信号来感测自动驾驶车辆的本地环境内的对象的***。在一些实施方式中，除感测对象之外，雷达单元214可另外感测对象的速度和/或前进方向。LIDAR单元215可使用激光来感测自动驾驶车辆所处环境中的对象。除其它***部件之外，LIDAR单元215还可包括一个或多个激光源、激光扫描器以及一个或多个检测器。摄像机211可包括用来采集自动驾驶车辆周围环境的图像的一个或多个装置。摄像机211可以是静物摄像机和/或视频摄像机。摄像机可以是可机械地移动的，例如，通过将摄像机安装在旋转和/或倾斜平台上。
传感器***115还可包括其它传感器，诸如：声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例如，麦克风)。音频传感器可配置成从自动驾驶车辆周围的环境中采集声音。转向传感器可配置成感测方向盘、车辆的车轮或其组合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情形下，油门传感器和制动传感器可集成为集成式油门/制动传感器。
在一个实施方式中，车辆控制***111包括但不限于转向单元201、油门单元202(也称为加速单元)和制动单元203。转向单元201用来调整车辆的方向或前进方向。油门单元202用来控制电动机或发动机的速度，电动机或发动机的速度进而控制车辆的速度和加速度。制动单元203通过提供摩擦使车辆的车轮或轮胎减速而使车辆减速。应注意，如图2所示的部件可以以硬件、软件或其组合实施。
返回参考图1，无线通信***112允许自动驾驶车辆101与诸如装置、传感器、其它车辆等外部***之间的通信。例如，无线通信***112可以与一个或多个装置直接无线通信，或者经由通信网络进行无线通信，诸如，通过网络102与服务器103至104通信。无线通信***112可使用任何蜂窝通信网络或无线局域网(WLAN)，例如，使用WiFi，以与另一部件或***通信。无线通信***112可例如使用红外链路、蓝牙等与装置(例如，乘客的移动装置、显示装置、车辆101内的扬声器)直接通信。用户接口***113可以是在车辆101内实施的***装置的部分，包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
自动驾驶车辆101的功能中的一些或全部可由感知与规划***110控制或管理，尤其当在自动驾驶模式下操作时。感知与规划***110包括必要的硬件(例如，处理器、存储器、存储装置)和软件(例如，操作***、规划和路线安排程序)，以从传感器***115、控制***111、无线通信***112和/或用户接口***113接收信息，处理所接收的信息，规划从起始点到目的地点的路线或路径，随后基于规划和控制信息来驾驶车辆101。可替代地，感知与规划***110可与车辆控制***111集成在一起。
例如，作为乘客的用户可例如经由用户接口来指定行程的起始位置和目的地。感知与规划***110获得行程相关数据。例如，感知与规划***110可从MPOI服务器中获得位置和路线信息，所述MPOI服务器可以是服务器103至104的一部分。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI。可替代地，此类位置和MPOI信息可本地高速缓存在感知与规划***110的永久性存储装置中。
当自动驾驶车辆101沿着路线移动时，感知与规划***110也可从交通信息***或服务器(TIS)获得实时交通信息。应注意，服务器103至104可由第三方实体进行操作。可替代地，服务器103至104的功能可与感知与规划***110集成在一起。基于实时交通信息、MPOI信息和位置信息以及由传感器***115检测或感测的实时本地环境数据(例如，障碍物、对象、附近车辆)，感知与规划***110可规划最佳路线并且根据所规划的路线例如经由控制***111来驾驶车辆101，以安全且高效到达指定目的地。
服务器103可以是数据分析***，从而为各种客户执行数据分析服务。在一个实施方式中，数据分析***103包括数据收集器121和机器学习引擎122。数据收集器121从各种车辆(自动驾驶车辆或由人类驾驶员驾驶的常规车辆)收集驾驶统计数据123。驾驶统计数据123包括指示所发出的驾驶指令(例如，油门、制动、转向指令)以及由车辆的传感器在不同的时间点捕捉到的车辆的响应(例如，速度、加速、减速、方向)的信息。驾驶统计数据123还可包括描述不同时间点下的驾驶环境的信息，例如，路线(包括起始位置和目的地位置)、MPOI、道路状况、天气状况等。
基于驾驶统计数据123，出于各种目的，机器学习引擎122生成或训练一组规则、算法和/或预测模型124。在一个实施方式中，算法124可包括用于校准或优化坐标转换器的算法，坐标转换器将LIDAR图像的局部坐标系转换至诸如GPS***的全局坐标系，使得LIDAR图像可用于自动驾驶。然后算法124可上传到ADV上以在自动驾驶期间实时使用。
根据一个实施方式，LIDAR校准***125配置成使用由许多ADV在一段时间内收集的一组LIDAR图像来校准或优化坐标转换器，其中，所述一组LIDAR图像可由数据收集器121收集。配置有一组参数的坐标转换器用于将LIDAR图像从局部/相对坐标空间转化或转换至全局/绝对坐标系(诸如GPS坐标系)。对于坐标转换器的给定的一组参数或系数，将转化的LIDAR图像相互比较以确定由LIDAR图像捕获的相同障碍物的一致性。调整坐标转换器的参数并重复执行上述过程以确定坐标转换器的一组最佳参数，使得由LIDAR图像捕获的障碍物的一致性达到最大，此时坐标转换器被认为是最佳坐标转换器。然后可将最佳坐标转换器上传到ADV上以实时用于处理LIDAR图像。坐标转换器可由四元数函数表示。
图3A和图3B是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划***的示例的框图。***300可实施为图1的自动驾驶车辆101的一部分，包括但不限于感知与规划***110、控制***111和传感器***115。参考图3A至图3B，感知与规划***110包括但不限于定位模块301、感知模块302、预测模块303、决策模块304、规划模块305、控制模块306、路线安排模块307和坐标转换器308。
模块301至308中的一些或全部可以以软件、硬件或其组合实施。例如，这些模块可安装在永久性存储装置352中、加载到存储器351中，并且由一个或多个处理器(未示出)执行。应注意，这些模块中的一些或全部可通信地联接到图2的车辆控制***111的一些或全部模块或者与它们集成在一起。模块301至308中的一些可一起集成为集成模块。
定位模块301确定自动驾驶车辆300的当前位置(例如，利用GPS单元212)以及管理与用户的行程或路线相关的任何数据。定位模块301(又称作为地图与路线模块)管理与用户的行程或路线相关的任何数据。用户可例如经由用户接口登录并且指定行程的起始位置和目的地。定位模块301与自动驾驶车辆300的诸如地图与路线信息311的其它部件通信，以获得行程相关数据。例如，定位模块301可从位置服务器和地图与POI(MPOI)服务器获得位置和路线信息。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI，从而可作为地图与路线信息311的一部分高速缓存。当自动驾驶车辆300沿着路线移动时，定位模块301也可从交通信息***或服务器获得实时交通信息。
基于由传感器***115提供的传感器数据和由定位模块301获得的定位信息，感知模块302确定对周围环境的感知。感知信息可表示普通驾驶员在驾驶员正驾驶的车辆周围将感知到的东西。感知可包括例如采用对象形式的车道配置、交通灯信号、另一车辆的相对位置、行人、建筑物、人行横道或其它交通相关标志(例如，停止标志、让行标志)等。车道配置包括描述一个或多个车道的信息，诸如，例如车道的形状(例如，直线或弯曲)、车道的宽度、道路中的车道数量、单向或双向车道、合并或分开车道、出口车道等。
感知模块302可包括计算机视觉***或计算机视觉***的功能，以处理并分析由一个或多个摄像机采集的图像，从而识别自动驾驶车辆环境中的对象和/或特征。所述对象可包括交通信号、道路边界、其它车辆、行人和/或障碍物等。计算机视觉***可使用对象识别算法、视频跟踪以及其它计算机视觉技术。在一些实施方式中，计算机视觉***可绘制环境地图，跟踪对象，以及估算对象的速度等。感知模块302也可基于由诸如雷达和/或LIDAR的其它传感器提供的其它传感器数据来检测对象。
针对每个对象，预测模块303预测对象在这种情况下将如何表现。预测是基于感知数据执行的，该感知数据在考虑一组地图/路线信息311和交通规则312的时间点感知驾驶环境。例如，如果对象为相反方向上的车辆且当前驾驶环境包括十字路口，则预测模块303将预测车辆是否可能会笔直向前移动或转弯。如果感知数据表明十字路口没有交通灯，则预测模块303可能会预测车辆在进入十字路口之前可能需要完全停车。如果感知数据表明车辆目前处于左转唯一车道或右转唯一车道，则预测模块303可能预测车辆将更可能分别左转或右转。
针对每个对象，决策模块304作出关于如何处置对象的决定。例如，针对特定对象(例如，交叉路线中的另一车辆)以及描述对象的元数据(例如，速度、方向、转弯角度)，决策模块304决定如何与所述对象相遇(例如，超车、让行、停止、超过)。决策模块304可根据诸如交通规则或驾驶规则312的规则集来作出此类决定，所述规则集可存储在永久性存储装置352中。
路线安排模块307配置成提供从起始点到目的地点的一个或多个路线或路径。对于从起始位置到目的地位置的给定行程，例如从用户接收的给定行程，路线安排模块307获得路线与地图信息311，并确定从起始位置至到达目的地位置的所有可能路线或路径。路线安排模块307可生成地形图形式的参考线，它确定了从起始位置至到达目的地位置的每个路线。参考线是指不受其它诸如其它车辆、障碍物或交通状况的任何干扰的理想路线或路径。即，如果道路上没有其它车辆、行人或障碍物，则ADV应精确地或紧密地跟随参考线。然后，将地形图提供至决策模块304和/或规划模块305。决策模块304和/或规划模块305检查所有可能的路线，以根据由其它模块提供的其它数据选择和更改最佳路线中的一个，其中，其它数据诸如为来自定位模块301的交通状况、由感知模块302感知到的驾驶环境以及由预测模块303预测的交通状况。根据时间点下的特定驾驶环境，用于控制ADV的实际路径或路线可能接近于或不同于由路线安排模块307提供的参考线。
基于针对所感知到的对象中的每个的决定，规划模块305使用由路线安排模块307提供的参考线作为基础，为自动驾驶车辆规划路径或路线以及驾驶参数(例如，距离、速度和/或转弯角度)。换言之，针对给定的对象，决策模块304决定对该对象做什么，而规划模块305确定如何去做。例如，针对给定的对象，决策模块304可决定超过所述对象，而规划模块305可确定在所述对象的左侧还是右侧超过。规划和控制数据由规划模块305生成，包括描述车辆300在下一移动循环(例如，下一路线/路径段)中将如何移动的信息。例如，规划和控制数据可指示车辆300以30英里每小时(mph)的速度移动10米，随后以25mph的速度变到右侧车道。
基于规划和控制数据，控制模块306根据由规划和控制数据限定的路线或路径通过将适当的命令或信号发送到车辆控制***111来控制并驾驶自动驾驶车辆。所述规划和控制数据包括足够的信息，以沿着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如，油门、制动、转向命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中，规划阶段在多个规划周期(也称作为驾驶周期)中执行，例如，在每个时间间隔为100毫秒(ms)的周期中执行。对于规划周期或驾驶周期中的每一个，将基于规划和控制数据发出一个或多个控制命令。即，对于每100ms，规划模块305规划下一个路线段或路径段，例如，包括目标位置和ADV到达目标位置所需要的时间。可替代地，规划模块305还可规定具体的速度、方向和/或转向角等。在一个实施方式中，规划模块305为下一个预定时段(诸如，5秒)规划路线段或路径段。对于每个规划周期，规划模块305基于在前一周期中规划的目标位置规划用于当前周期(例如，下一个5秒)的目标位置。控制模块306然后基于当前周期的规划和控制数据生成一个或多个控制命令(例如，油门、制动、转向控制命令)。
应注意，决策模块304和规划模块305可集成为集成模块。决策模块304/规划模块305可包括导航***或导航***的功能，以确定自动驾驶车辆的驾驶路径。例如，导航***可确定用于影响自动驾驶车辆沿着以下路径移动的一系列速度和前进方向：所述路径在使自动驾驶车辆沿着通往最终目的地的基于车行道的路径前进的同时，基本上避免感知到的障碍物。目的地可根据经由用户接口***113进行的用户输入来设定。导航***可在自动驾驶车辆正在运行的同时动态地更新驾驶路径。导航***可将来自GPS***和一个或多个地图的数据合并，以确定用于自动驾驶车辆的驾驶路径。
根据一个实施方式，在LIDAR图像可用于自动驾驶之前，诸如用于确定障碍物的绝对位置和规划绕障碍物导航的路径等，坐标转换器308配置成将由LIDAR装置捕获的LIDAR图像从局部坐标系(例如，诸如LIDAR坐标系的相对坐标系)转换或变换至全局坐标系(例如，诸如GPS坐标系的绝对坐标系)。坐标转换器308可实施为感知模块302的一部分。当LIDAR图像捕捉障碍物时，障碍物的坐标或位置是相对于LIDAR装置的安装位置的相对位置。这种坐标不能用于自动驾驶。它们必须转换为诸如GPS坐标的全局坐标或绝对坐标。
在一个实施方式中，基于由LIDAR装置捕获的大量LIDAR图像，通过诸如LIDAR校准***125的LIDAR校准***来训练、校准和优化坐标转换器308，并且重复调整坐标转换器308的参数，直到它以最佳方式运行。该优化可离线执行，或者可替代地，可在自动驾驶期间收集LIDAR图像并将其存储为驾驶统计数据313的一部分。LIDAR校准模块309可实施成动态地和周期性地校准坐标转换器308。
在一个实施方式中，坐标转换器308可由四元数函数实现或表示，四元数函数也称为Q函数。在数学中，四元数是扩展复数的数字***。并且它们适用于三维(3D)空间的力学。四元数的特征是两个四元数的乘法是非交换的。四元数限定为3D空间中的两条有向直线的商或等效地限定为两个向量的商。四元数通常以下列形式表示：a+b*i+c*j+d*k，其中，a、b、c和d是实数，以及i、j和k是基本四元数单位。四元数在纯数学和应用数学中都发现有应用，特别是涉及三维旋转的计算，诸如3D计算机图形学、计算机视觉和晶体结构分析。例如，在确定自动驾驶空间中的对象的位置时，i可表示前/后向量(例如，前进方向)；j可表示左/右向量(例如，滚动角)；以及k可表示特定位置的上/下向量(例如，俯仰角)。
图4是示出根据一个实施方式的LIDAR校准***的框图。LIDAR校准模块400可实施为图1的LIDAR校准***125或图3A的LIDAR校准模块309的一部分。参考图4，在一个实施方式中，LIDAR校准模块400包括LIDAR数据收集器401、感知模块402、坐标转换器或函数403、参数优化器404和障碍物重叠计数器405。应注意，这些模块401至405中的一些或所有可集成为更少的模块。数据收集器401可实施为图1的数据收集器121的一部分。感知模块402可实施为感知模块302的一部分。数据收集器401配置成当ADV在预定的驾驶环境周围行驶时接收由ADV的LIDAR装置捕获的LIDAR图像，其中，驾驶环境中包括可由LIDAR装置捕获的静态障碍物。LIDAR图像可作为LIDAR图像411的一部分存储在永久性存储装置中。LIDAR图像中的至少一些或全部会在一段时间(例如，五秒)的不同时间点捕获其中的障碍物。
如上所述，ADV的操作以诸如规划周期的周期形式执行。每个周期均将持续大约100毫秒。在LIDAR扫描期间，连续地收集LIDAR数据100ms。在一个实施方式中，然后利用100ms的LIDAR数据来形成LIDAR图像。因此，每100毫秒将形成一个LIDAR图像。通常，LIDAR每秒可旋转5至20圈。为了校准坐标转换器，可使用5分钟的LIDAR数据，即5×60×10＝3000个LIDAR图像。
在一个实施方式中，对于LIDAR图像中的每个，感知模块402可对LIDAR图像执行感知过程以辨认和识别由LIDAR图像捕获的障碍物。确定障碍物相对于LIDAR装置的位置的位置。障碍物的这种位置称作为局部坐标系(例如，LIDAR坐标空间)中的相对位置。调用具有一组给定参数的坐标转换器403，以使用与LIDAR图像相关联的GPS数据将障碍物的位置从局部/相对坐标空间变换或转化至全局/绝对坐标空间。一旦已使用坐标转换器变换了所有的LIDAR图像，就可测量由变换后的LIDAR图像捕获的障碍物的一致性。然后将该一致性及其相关的坐标转换器的参数存储为坐标转换参数412的一部分。通过调整坐标转换器403的至少一个参数来迭代地执行上述操作。利用不同组的参数，由LIDAR图像捕获的障碍物的一致性在坐标变换之后可能不同。
根据一个实施方式，测量由LIDAR图像表示的障碍物的一致性的一个方法是确定在坐标转换之后由LIDAR图像捕获的障碍物的位置的重叠。障碍物重叠计数器405用于对捕捉其位置与另一LIDAR图像的障碍物重叠的障碍物的LIDAR图像的数量进行计数。
现在参考图5，在该示例中，基于在一段时间内收集的LIDAR数据捕获并形成LIDAR图像501至LIDAR图像504。如上所述，如果每100ms形成一个LIDAR图像，则LIDAR图像501至LIDAR图像504可表示五分钟时间段内的3000个LIDAR图像。LIDAR图像中的至少一些其中包括捕获的障碍物，诸如障碍物511至障碍物514。在感知情况下，LIDAR图像中的每个均应在相同或相似的位置处捕获障碍物，特别是在短时间段内或障碍物是静态障碍物(非移动障碍物)。
在利用配置有一组给定参数的坐标转换器进行坐标转换之后，障碍物511至障碍物514的一些位置可能由于坐标转换器的不同参数设置而移位。通过比较和测量LIDAR图像之中障碍物511至障碍物514的重叠，可确定用于最佳坐标转换器的一组参数。该方法背后的基本原理是，如果坐标转换器是最佳的，则LIDAR图像501至LIDAR图像504的障碍物511至障碍物514的位置应是一致的，即，位置应相同或近乎相同。产生具有重叠障碍物的最大数量的LIDAR图像的坐标转换器的一组参数将被视为一组最佳参数。
在一个实施方式中，在每次迭代中利用不同组的参数迭代地执行坐标转换器的优化，直到由LIDAR图像表示的障碍物的一致性(例如，具有与另一LIDAR图像重叠的障碍物的LIDAR图像的数量)高于预定阈值。可替代地，迭代地执行优化直到迭代的次数达到预定阈值，接着将选择所有参数当中产生最高一致性的一组参数作为一组最佳参数。
图6是示出根据一个实施方式的LIDAR校准的过程的流程图。过程600可以由处理逻辑执行，所述处理逻辑可包括软件、硬件或其组合。例如，过程600可由LIDAR校准模块400执行。参考图6，在操作601中，当ADV在预定驾驶环境内行驶时，处理逻辑接收由ADV的LIDAR装置捕获的一组LIDAR图像。在操作602中，对于LIDAR图像中的每个，利用感知方法来确定LIDAR图像中捕获的障碍物在局部坐标系(例如，LIDAR相对坐标空间)中的位置。在操作603中，利用配置有一组参数的坐标转换器将LIDAR图像从局部坐标系变换或转换至全局坐标系(例如，GPS绝对坐标空间)。在操作604中，通过调整坐标转换器的参数中的至少一个，基于出现在变换后的LIDAR图像中的障碍物的位置来优化坐标转换器。然后可将优化的坐标转换器上传到ADV，以实时处理LIDAR数据。
图7是示出根据另一实施方式的LIDAR校准的过程的流程图。过程700可由处理逻辑执行，所述处理逻辑可包括软件、硬件或它们的组合。例如，过程700可由LIDAR校准模块400执行。参考图7，在操作701中，利用坐标转换器将LIDAR图像从局部坐标系变换至全局坐标系。在操作702中，处理逻辑确定变换后的LIDAR图像的数量，变换后的LIDAR图像具有其位置与另一变换后的LIDAR图像的障碍物重叠的障碍物。在操作703中，处理逻辑确定具有重叠障碍物的LIDAR图像的数量是否大于预定阈值。如果是，则在操作706中，将坐标转换器的该组参数视为一组最佳参数。如果具有重叠障碍物的LIDAR图像的数量小于预定阈值，则在操作704中，确定迭代次数是否超过预定阈值。如果不是，则在操作705中调整参数中的至少一个，并迭代地执行上述操作。否则，在操作706中，选择产生具有重叠障碍物的最高数量的LIDAR图像的一组参数作为最佳参数。
应注意，如上文示出和描述的部件中的一些或全部可在软件、硬件或其组合中实施。例如，此类部件可实施为安装并存储在永久性存储装置中的软件，所述软件可通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。可替代地，此类部件可实施为编程或嵌入到专用硬件(诸如，集成电路(例如，专用集成电路或ASIC)、数字信号处理器(DSP)或现场可编程门阵列(FPGA))中的可执行代码，所述可执行代码可经由来自应用的相应驱动程序和/或操作***来访问。此外，此类部件可实施为处理器或处理器内核中的特定硬件逻辑，作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
图8是示出可与本公开的一个实施方式一起使用的数据处理***的示例的框图。例如，***1500可表示以上所述的执行上述过程或方法中的任一个的任何数据处理***，例如，图1的感知与规划***110或者服务器103至104中的任一个。***1500可包括许多不同的部件。这些部件可实施为集成电路(IC)、集成电路的部分、分立电子装置或适用于电路板(诸如，计算机***的主板或***卡)的其它模块或者实施为以其它方式并入计算机***的机架内的部件。
还应注意，***1500旨在示出计算机***的许多部件的高阶视图。然而，应当理解的是，某些实施例中可具有附加的部件，此外，其它实施例中可具有所示部件的不同布置。***1500可表示台式计算机、膝上型计算机、平板计算机、服务器、移动电话、媒体播放器、个人数字助理(PDA)、智能手表、个人通信器、游戏装置、网络路由器或集线器、无线接入点(AP)或中继器、机顶盒或其组合。此外，虽然仅示出了单个机器或***，但是术语“机器”或“***”还应当理解为包括单独地或共同地执行一个(或多个)指令集以执行本文所讨论的任何一种或多种方法的机器或***的任何集合。
在一个实施方式中，***1500包括通过总线或互连件1510连接的处理器1501、存储器1503以及装置1505至1508。处理器1501可表示其中包括单个处理器内核或多个处理器内核的单个处理器或多个处理器。处理器1501可表示一个或多个通用处理器，诸如，微处理器、中央处理单元(CPU)等。更具体地，处理器1501可以是复杂指令集计算(CISC)微处理器、精简指令集计算(RISC)微处理器、超长指令字(VLIW)微处理器、或实施其它指令集的处理器、或实施指令集组合的处理器。处理器1501还可以是一个或多个专用处理器，诸如，专用集成电路(ASIC)、蜂窝或基带处理器、现场可编程门阵列(FPGA)、数字信号处理器(DSP)、网络处理器、图形处理器、通信处理器、加密处理器、协处理器、嵌入式处理器、或者能够处理指令的任何其它类型的逻辑。
处理器1501(其可以是低功率多核处理器套接口，诸如超低电压处理器)可充当用于与所述***的各种部件通信的主处理单元和中央集线器。这种处理器可实施为片上***(SoC)。处理器1501配置成执行用于执行本文所讨论的操作和步骤的指令。***1500还可包括与可选的图形子***1504通信的图形接口，图形子***1504可包括显示控制器、图形处理器和/或显示装置。
处理器1501可与存储器1503通信，存储器1503在一个实施方式中可经由多个存储器装置实施以提供给定量的***存储。存储器1503可包括一个或多个易失性存储(或存储器)装置，诸如，随机存取存储器(RAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、静态RAM(SRAM)或者其它类型的存储装置。存储器1503可存储包括由处理器1501或任何其它装置执行的指令序列的信息。例如，各种操作***、装置驱动程序、固件(例如，输入输出基本***或BIOS)和/或应用的可执行代码和/或数据可加载到存储器1503中并由处理器1501执行。操作***可以是任何类型的操作***，例如，机器人操作***(ROS)、来自
公司的
操作***、来自苹果公司的Mac
来自
公司的
LINUX、UNIX，或者其它实时或嵌入式操作***。
***1500还可包括IO装置，诸如装置1505至1508，包括网络接口装置1505、可选的输入装置1506，以及其它可选的IO装置1507。网络接口装置1505可包括无线收发器和/或网络接口卡(NIC)。所述无线收发器可以是WiFi收发器、红外收发器、蓝牙收发器、WiMax收发器、无线蜂窝电话收发器、卫星收发器(例如，全球定位***(GPS)收发器)或其它射频(RF)收发器或者它们的组合。NIC可以是以太网卡。
输入装置1506可包括鼠标、触摸板、触敏屏幕(其可与显示装置1504集成在一起)、指针装置(诸如，手写笔)和/或键盘(例如，物理键盘或作为触敏屏幕的一部分显示的虚拟键盘)。例如，输入装置1506可包括联接到触摸屏的触摸屏控制器。触摸屏和触摸屏控制器例如可使用多种触敏技术(包括但不限于电容、电阻、红外和表面声波技术)中的任一种，以及其它接近传感器阵列或用于确定与触摸屏接触的一个或多个点的其它元件来检测其接触和移动或间断。
IO装置1507可包括音频装置。音频装置可包括扬声器和/或麦克风，以促进支持语音的功能，诸如语音识别、语音复制、数字记录和/或电话功能。其它IO装置1507还可包括通用串行总线(USB)端口、并行端口、串行端口、打印机、网络接口、总线桥(例如，PCI-PCI桥)、传感器(例如，诸如加速度计运动传感器、陀螺仪、磁强计、光传感器、罗盘、接近传感器等)或者它们的组合。装置1507还可包括成像处理子***(例如，摄像机)，所述成像处理子***可包括用于促进摄像机功能(诸如，记录照片和视频片段)的光学传感器，诸如电荷耦合装置(CCD)或互补金属氧化物半导体(CMOS)光学传感器。某些传感器可经由传感器集线器(未示出)联接到互连件1510，而诸如键盘或热传感器的其它装置可根据***1500的具体配置或设计由嵌入式控制器(未示出)控制。
为了提供对诸如数据、应用、一个或多个操作***等信息的永久性存储，大容量存储装置(未示出)也可联接到处理器1501。在各种实施方式中，为了实现更薄且更轻的***设计并且改进***响应性，这种大容量存储装置可经由固态装置(SSD)来实施。然而，在其它实施方式中，大容量存储装置可主要使用硬盘驱动器(HDD)来实施，其中较小量的SSD存储装置充当SSD高速缓存以在断电事件期间实现上下文状态以及其它此类信息的非易失性存储，从而使得在***活动重新启动时能够实现快速通电。另外，闪存装置可例如经由串行***接口(SPI)联接到处理器1501。这种闪存装置可提供***软件的非易失性存储，所述***软件包括所述***的BIOS以及其它固件。
存储装置1508可包括计算机可访问的存储介质1509(也称为机器可读存储介质或计算机可读介质)，其上存储有体现本文所述的任何一种或多种方法或功能的一个或多个指令集或软件(例如，模块、单元和/或逻辑1528)。处理模块/单元/逻辑1528可表示上述部件中的任一个，例如规划模块305、控制模块306或LIDAR校准模块400。处理模块/单元/逻辑1528还可在其由数据处理***1500、存储器1503和处理器1501执行期间完全地或至少部分地驻留在存储器1503内和/或处理器1501内，数据处理***1500、存储器1503和处理器1501也构成机器可访问的存储介质。处理模块/单元/逻辑1528还可通过网络经由网络接口装置1505进行传输或接收。
计算机可读存储介质1509也可用来永久性地存储以上描述的一些软件功能。虽然计算机可读存储介质1509在示例性实施方式中被示为单个介质，但是术语“计算机可读存储介质”应当被认为包括存储所述一个或多个指令集的单个介质或多个介质(例如，集中式或分布式数据库和/或相关联的高速缓存和服务器)。术语“计算机可读存储介质”还应当被认为包括能够存储或编码指令集的任何介质，所述指令集用于由机器执行并且使得所述机器执行本公开的任何一种或多种方法。因此，术语“计算机可读存储介质”应当被认为包括但不限于固态存储器以及光学介质和磁性介质，或者任何其它非暂时性机器可读介质。
本文所述的处理模块/单元/逻辑1528、部件以及其它特征可实施为分立硬件部件或集成在硬件部件(诸如，ASICS、FPGA、DSP或类似装置)的功能中。此外，处理模块/单元/逻辑1528可实施为硬件装置内的固件或功能电路。此外，处理模块/单元/逻辑1528可以以硬件装置和软件部件的任何组合来实施。
应注意，虽然***1500示出为具有数据处理***的各种部件，但是并不旨在表示使部件互连的任何特定架构或方式；因为此类细节和本公开的实施方式没有密切关系。还应当认识到，具有更少部件或可能具有更多部件的网络计算机、手持计算机、移动电话、服务器和/或其它数据处理***也可与本公开的实施方式一起使用。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领域中的技术人员所使用的方式，以将他们的工作实质最有效地传达给本领域中的其他技术人员。本文中，算法通常被认为是导致所期望结果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而，应当牢记，所有这些和类似的术语均旨在与适当的物理量关联，并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其它方式明确地指出，否则应当了解，在整个说明书中，利用术语(诸如所附权利要求书中所阐述的术语)进行的讨论是指计算机***或类似电子计算装置的动作和处理，所述计算机***或电子计算装置操控计算机***的寄存器和存储器内的表示为物理(电子)量的数据，并将所述数据变换成计算机***存储器或寄存器或者其它此类信息存储装置、传输或显示装置内类似地表示为物理量的其它数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计算机程序存储在非暂时性计算机可读介质中。机器可读介质包括用于以机器(例如，计算机)可读的形式存储信息的任何机构。例如，机器可读(例如，计算机可读)介质包括机器(例如，计算机)可读存储介质(例如，只读存储器(“ROM”)、随机存取存储器(“RAM”)、磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可由处理逻辑来执行，所述处理逻辑包括硬件(例如，电路、专用逻辑等)、软件(例如，体现在非暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上文是依据一些顺序操作来描述的，但是应当了解，所述操作中的一些可按不同的顺序执行。此外，一些操作可并行地执行而不是顺序地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认识到，可使用多种编程语言来实施如本文描述的本公开的实施方式的教导。
在以上的说明书中，已经参考本公开的具体示例性实施方式对本公开的实施方式进行了描述。将显而易见的是，在不脱离所附权利要求书中阐述的本公开的更宽泛精神和范围的情况下，可对本发明作出各种修改。因此，应当在说明性意义而不是限制性意义上来理解本说明书和附图。
Claims (23)
1.一种计算机实施的方法，包括：
接收由自动驾驶车辆的LIDAR装置捕获的多个LIDAR图像；
对于所述LIDAR图像中的每个，
使用感知方法确定所述LIDAR图像中捕获的障碍物在局部坐标系中的位置，以及
使用坐标转换器将所述LIDAR图像从所述局部坐标系变换至全局坐标系；以及
通过迭代地调整所述坐标转换器的一个或多个参数，基于出现在变换后的LIDAR图像中的障碍物的位置来优化所述坐标转换器，其中，优化后的坐标转换器用于在自动驾驶期间实时处理后续的LIDAR图像。
2.根据权利要求1所述的方法，还包括检查所述变换后的LIDAR图像以确定出现在所述变换后的LIDAR图像中的障碍物的一致性。
3.根据权利要求2所述的方法，还包括迭代地执行使用感知方法进行确定的步骤、使用坐标转换器进行变换的步骤、以及检查所述变换后的LIDAR图像的步骤，直到出现在所述LIDAR图像中的障碍物的一致性大于预定阈值。
4.根据权利要求2所述的方法，还包括迭代地执行使用感知方法进行确定的步骤、使用坐标转换器进行变换的步骤、以及检查所述变换后的LIDAR图像的步骤，直到迭代的次数达到预定阈值。
5.根据权利要求4所述的方法，其中，当迭代的次数达到所述预定阈值时，选择具有最高一致性的、所述坐标转换器的一组参数作为用于实时自动驾驶的配置所述坐标转换器的一组最佳参数。
6.根据权利要求1所述的方法，还包括对包括位置与另一LIDAR图像的障碍物重叠的障碍物的、变换后的LIDAR图像的数量进行计数。
7.根据权利要求6所述的方法，其中，优化后的坐标转换器产生具有与另一LIDAR图像重叠的障碍物的最大数量的LIDAR图像。
8.根据权利要求1所述的方法，其中，所述坐标转换器包括四元数函数。
9.根据权利要求1所述的方法，其中，优化所述坐标转换器使用梯度下降方法来执行。
10.一种存储有指令的非暂时性机器可读介质，所述指令在由处理器执行时致使所述处理器执行操作，所述操作包括：
接收由自动驾驶车辆的LIDAR装置捕获的多个LIDAR图像；
对于所述LIDAR图像中的每个，
使用感知方法确定所述LIDAR图像中捕获的障碍物在局部坐标系中的位置，以及
使用坐标转换器将所述LIDAR图像从所述局部坐标系变换至全局坐标系；
以及通过迭代地调整所述坐标转换器的一个或多个参数，基于出现在变换后的LIDAR图像中的障碍物的位置来优化所述坐标转换器，其中，优化后的坐标转换器用于在自动驾驶期间实时处理后续的LIDAR图像。
11.根据权利要求10所述的机器可读介质，其中，所述操作还包括检查变换后的LIDAR图像以确定出现在所述变换后的LIDAR图像中的障碍物的一致性。
12.根据权利要求11所述的机器可读介质，其中，所述操作还包括迭代地执行使用感知方法进行确定的操作、使用坐标转换器进行变换的操作、以及检查所述变换后的LIDAR图像的操作，直到出现在所述LIDAR图像中的障碍物的一致性大于预定阈值。
13.根据权利要求11所述的机器可读介质，其中，所述操作还包括迭代地执行使用感知方法进行确定的操作、使用坐标转换器进行变换的操作、以及检查所述变换后的LIDAR图像的操作，直到迭代的次数达到预定阈值。
14.根据权利要求13所述的机器可读介质，其中，当迭代的次数达到所述预定阈值时，选择具有最高一致性的、所述坐标转换器的一组参数作为用于自动驾驶的实时配置所述坐标转换器的一组最佳参数。
15.根据权利要求10所述的机器可读介质，其中，所述操作还包括对包括位置与另一LIDAR图像的障碍物重叠的障碍物的、变换后的LIDAR图像的数量进行计数。
16.根据权利要求15所述的机器可读介质，其中，优化后的坐标转换器产生具有与另一LIDAR图像重叠的障碍物的最大数量的LIDAR图像。
17.一种数据处理***，包括：
处理器；以及
存储器，所述存储器联接至所述处理器，以存储指令，所述指令在由所述处理器执行时致使所述处理器执行操作，所述操作包括：
接收由自动驾驶车辆的LIDAR装置捕获的多个LIDAR图像；
对于所述LIDAR图像中的每个，
使用感知方法确定所述LIDAR图像中捕获的障碍物在局部坐标系中的位置，以及
使用坐标转换器将所述LIDAR图像从所述局部坐标系变换至全局坐标系；以及
通过迭代地调整所述坐标转换器的一个或多个参数，基于出现在变换后的LIDAR图像中的障碍物的位置来优化所述坐标转换器，其中，优化后的坐标转换器用于在自动驾驶期间实时处理后续的LIDAR图像。
18.根据权利要求17所述的***，其中，所述操作还包括检查变换后的LIDAR图像以确定出现在所述变换后的LIDAR图像中的障碍物的一致性。
19.根据权利要求18所述的***，其中，所述操作还包括迭代地执行使用感知方法进行确定的操作、使用坐标转换器进行变换的操作、以及检查所述变换后的LIDAR图像的操作，直到出现在所述LIDAR图像中的障碍物的一致性大于预定阈值。
20.根据权利要求18所述的***，其中，所述操作还包括迭代地执行使用感知方法进行确定的操作、使用坐标转换器进行变换的操作、以及检查所述变换后的LIDAR图像的操作，直到迭代的次数达到预定阈值。
21.根据权利要求20所述的***，其中，当迭代的次数达到所述预定阈值时，选择具有最高一致性的、所述坐标转换器的一组参数作为用于自动驾驶的实时配置所述坐标转换器的一组最佳参数。
22.根据权利要求17所述的***，其中，所述操作还包括对包括位置与另一LIDAR图像的障碍物重叠的障碍物的、变换后的LIDAR图像的数量进行计数。
23.根据权利要求22所述的***，其中，优化后的坐标转换器产生具有与另一LIDAR图像重叠的障碍物的最大数量的LIDAR图像。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US16/158,292 US11428817B2 (en) | 2018-10-11 | 2018-10-11 | Automatic LIDAR calibration based on cross validation for autonomous driving |
| US16/158,292 | 2018-10-11 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111044992A true CN111044992A (zh) | 2020-04-21 |
| CN111044992B CN111044992B (zh) | 2023-12-26 |
Family
ID=67439065
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910683999.7A Active CN111044992B (zh) | 2018-10-11 | 2019-07-26 | 用于自动驾驶的基于交叉验证的自动lidar校准 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US11428817B2 (zh) |
| EP (1) | EP3637142B1 (zh) |
| JP (1) | JP6890639B2 (zh) |
| CN (1) | CN111044992B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113465608A (zh) * | 2021-07-22 | 2021-10-01 | 清华大学苏州汽车研究院（吴江） | 一种路侧传感器标定方法及*** |
| CN113950703A (zh) * | 2020-05-15 | 2022-01-18 | 百度时代网络技术（北京）有限公司 | 具有用于点云融合的探测器 |
| WO2022127532A1 (zh) * | 2020-12-16 | 2022-06-23 | 华为技术有限公司 | 一种激光雷达与imu的外参标定方法、装置及设备 |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB202305331D0 (en) * | 2019-12-18 | 2023-05-24 | Motional Ad Llc | Camera-to-lidar calibration and validation |
| CN114026463B (zh) * | 2020-05-15 | 2024-06-21 | 百度时代网络技术（北京）有限公司 | 基于部分点云的行人速度估计方法 |
| US20220004012A1 (en) * | 2020-07-06 | 2022-01-06 | Seagate Technology Llc | Variable resolution and automatic windowing for lidar |
| CN112887172B (zh) * | 2021-02-19 | 2023-03-24 | 北京百度网讯科技有限公司 | 车辆感知***测试方法、装置、设备及存储介质 |
| CN113759390B (zh) * | 2021-07-27 | 2023-07-14 | 华能伊敏煤电有限责任公司 | 基于自动驾驶矿卡车辆中虚拟激光雷达技术的应用方法 |
| CN113702928B (zh) * | 2021-08-05 | 2024-04-05 | 青岛海信网络科技股份有限公司 | 一种路口雷达标定方法和设备 |
| CN114578328B (zh) * | 2022-02-24 | 2023-03-17 | 苏州驾驶宝智能科技有限公司 | 一种多激光雷达和多相机传感器空间位置自动标定方法 |
| CN115188195A (zh) * | 2022-07-21 | 2022-10-14 | 同济大学 | 一种城市全向交叉口的车辆轨迹实时提取方法和*** |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009168472A (ja) * | 2008-01-10 | 2009-07-30 | Zenrin Co Ltd | レーザースキャナのキャリブレーション装置及びキャリブレーション方法 |
| CN103038761A (zh) * | 2010-04-13 | 2013-04-10 | 视觉智能有限合伙公司 | 自校准的远程成像和数据处理*** |
| US20160076892A1 (en) * | 2014-03-24 | 2016-03-17 | SZ DJI Technology Co., Ltd | Methods and systems for determining a state of an unmanned aerial vehicle |
| US20170123419A1 (en) * | 2015-11-04 | 2017-05-04 | Zoox, Inc. | Machine-learning systems and techniques to optimize teleoperation and/or planner decisions |
| CN107817503A (zh) * | 2016-09-14 | 2018-03-20 | 北京百度网讯科技有限公司 | 应用于激光点云数据的运动补偿方法和装置 |
| CN108027243A (zh) * | 2016-07-21 | 2018-05-11 | 百度（美国）有限责任公司 | 用于操作自动驾驶车辆的控制误差校正规划方法 |
Family Cites Families (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002074368A (ja) * | 2000-08-25 | 2002-03-15 | Matsushita Electric Ind Co Ltd | 移動物体認識追跡装置 |
| JP2012202749A (ja) | 2011-03-24 | 2012-10-22 | Yokogawa Denshikiki Co Ltd | 方位測定装置 |
| US8600589B2 (en) | 2012-04-24 | 2013-12-03 | Exelis, Inc. | Point cloud visualization of acceptable helicopter landing zones based on 4D LIDAR |
| JP2015004593A (ja) | 2013-06-21 | 2015-01-08 | 三菱電機株式会社 | ナビゲーション装置 |
| US9201424B1 (en) * | 2013-08-27 | 2015-12-01 | Google Inc. | Camera calibration using structure from motion techniques |
| CN105180937B (zh) * | 2015-10-15 | 2018-01-02 | 常熟理工学院 | 一种mems‑imu初始对准方法 |
| EP3368957B1 (en) * | 2015-10-30 | 2022-02-09 | SZ DJI Technology Co., Ltd. | Systems and methods for uav path planning and control |
| US20180075614A1 (en) * | 2016-09-12 | 2018-03-15 | DunAn Precision, Inc. | Method of Depth Estimation Using a Camera and Inertial Sensor |
| CN106405555B (zh) * | 2016-09-23 | 2019-01-01 | 百度在线网络技术（北京）有限公司 | 用于车载雷达***的障碍物检测方法和装置 |
| JP6548690B2 (ja) | 2016-10-06 | 2019-07-24 | 株式会社アドバンスド・データ・コントロールズ | シミュレーションシステム、シミュレーションプログラム及びシミュレーション方法 |
| US10546195B2 (en) * | 2016-12-02 | 2020-01-28 | Geostat Aerospace & Technology Inc. | Methods and systems for automatic object detection from aerial imagery |
| US10401866B2 (en) | 2017-05-03 | 2019-09-03 | GM Global Technology Operations LLC | Methods and systems for lidar point cloud anomalies |
| US10671082B2 (en) * | 2017-07-03 | 2020-06-02 | Baidu Usa Llc | High resolution 3D point clouds generation based on CNN and CRF models |
| US10852420B2 (en) * | 2018-05-18 | 2020-12-01 | Industrial Technology Research Institute | Object detection system, autonomous vehicle using the same, and object detection method thereof |
| US11042157B2 (en) * | 2018-07-23 | 2021-06-22 | Baidu Usa Llc | Lane/object detection and tracking perception system for autonomous vehicles |
| CN109100707B (zh) * | 2018-08-21 | 2019-11-26 | 百度在线网络技术（北京）有限公司 | 雷达传感器的标定方法、装置、设备及存储介质 |
| US11520347B2 (en) * | 2019-01-23 | 2022-12-06 | Baidu Usa Llc | Comprehensive and efficient method to incorporate map features for object detection with LiDAR |
-
2018
- 2018-10-11 US US16/158,292 patent/US11428817B2/en active Active
-
2019
- 2019-07-26 CN CN201910683999.7A patent/CN111044992B/zh active Active
- 2019-07-26 EP EP19188565.6A patent/EP3637142B1/en active Active
- 2019-08-21 JP JP2019151058A patent/JP6890639B2/ja active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009168472A (ja) * | 2008-01-10 | 2009-07-30 | Zenrin Co Ltd | レーザースキャナのキャリブレーション装置及びキャリブレーション方法 |
| CN103038761A (zh) * | 2010-04-13 | 2013-04-10 | 视觉智能有限合伙公司 | 自校准的远程成像和数据处理*** |
| US20160076892A1 (en) * | 2014-03-24 | 2016-03-17 | SZ DJI Technology Co., Ltd | Methods and systems for determining a state of an unmanned aerial vehicle |
| US20170123419A1 (en) * | 2015-11-04 | 2017-05-04 | Zoox, Inc. | Machine-learning systems and techniques to optimize teleoperation and/or planner decisions |
| CN108027243A (zh) * | 2016-07-21 | 2018-05-11 | 百度（美国）有限责任公司 | 用于操作自动驾驶车辆的控制误差校正规划方法 |
| CN107817503A (zh) * | 2016-09-14 | 2018-03-20 | 北京百度网讯科技有限公司 | 应用于激光点云数据的运动补偿方法和装置 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113950703A (zh) * | 2020-05-15 | 2022-01-18 | 百度时代网络技术（北京）有限公司 | 具有用于点云融合的探测器 |
| WO2022127532A1 (zh) * | 2020-12-16 | 2022-06-23 | 华为技术有限公司 | 一种激光雷达与imu的外参标定方法、装置及设备 |
| CN113465608A (zh) * | 2021-07-22 | 2021-10-01 | 清华大学苏州汽车研究院（吴江） | 一种路侧传感器标定方法及*** |
| CN113465608B (zh) * | 2021-07-22 | 2024-05-03 | 清华大学苏州汽车研究院（吴江） | 一种路侧传感器标定方法及*** |
Also Published As
| Publication number | Publication date |
|---|---|
| EP3637142B1 (en) | 2022-09-07 |
| EP3637142A1 (en) | 2020-04-15 |
| US20200116866A1 (en) | 2020-04-16 |
| JP6890639B2 (ja) | 2021-06-18 |
| JP2020061125A (ja) | 2020-04-16 |
| US11428817B2 (en) | 2022-08-30 |
| CN111044992B (zh) | 2023-12-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111044991B (zh) | 一种用于自动驾驶的基于预收集静态反射图的lidar校准方法 | |
| CN110727267B (zh) | 具有冗余超声雷达的自动驾驶车辆 | |
| CN110667591B (zh) | 用于自动驾驶车辆的规划驾驶感知*** | |
| CN110386142B (zh) | 用于自动驾驶车辆的俯仰角校准方法 | |
| CN111044992B (zh) | 用于自动驾驶的基于交叉验证的自动lidar校准 | |
| CN111380534B (zh) | 用于自动驾驶车辆的基于st图学习的方法 | |
| CN108733046B (zh) | 用于自动驾驶车辆的轨迹重新规划的***和方法 | |
| CN110621541B (zh) | 用于生成轨迹以操作自动驾驶车辆的方法和*** | |
| CN111856923B (zh) | 加速对复杂驾驶场景的规划的参数学习的神经网络方法 | |
| CN111712417A (zh) | 用于自动驾驶车辆的、基于隧道的规划*** | |
| WO2020132959A1 (en) | Spiral curve based vertical parking planner system for autonomous driving vehicles | |
| CN111328313B (zh) | 用于自动驾驶车辆的控制占主导的三点转弯规划 | |
| CN111328385B (zh) | 用于自动驾驶车辆的基于螺旋路径的三点转弯规划 | |
| WO2020132942A1 (en) | A mutual nudge algorithm for self-reverse lane of autonomous driving | |
| WO2020062029A1 (en) | Enumeration-based three-point turn planning for autonomous driving vehicles | |
| CN113226825A (zh) | 自动驾驶车辆的基于扭矩反馈的车辆纵向自动校准*** | |
| CN111033418A (zh) | 用于自动驾驶车辆的速度控制命令自动校准*** | |
| CN112272805A (zh) | 连接两条平滑参考线的基于多点增强的拼接方法 | |
| CN112041637B (zh) | 用于3级自动驾驶车辆的无地图且基于摄像机的车道标识取样方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |