CN111824139A - 用于预测与自动驾驶车辆相关的运动对象的运动的方法 - Google Patents

用于预测与自动驾驶车辆相关的运动对象的运动的方法 Download PDF

Info

Publication number
CN111824139A
CN111824139A CN201911264232.7A CN201911264232A CN111824139A CN 111824139 A CN111824139 A CN 111824139A CN 201911264232 A CN201911264232 A CN 201911264232A CN 111824139 A CN111824139 A CN 111824139A
Authority
CN
China
Prior art keywords
trajectory
cost
calculating
moving object
candidates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911264232.7A
Other languages
English (en)
Other versions
CN111824139B (zh
Inventor
许珂诚
张雅嘉
孙宏艺
潘嘉诚
缪景皓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of CN111824139A publication Critical patent/CN111824139A/zh
Application granted granted Critical
Publication of CN111824139B publication Critical patent/CN111824139B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • B60W30/0956Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/18Propelling the vehicle
    • B60W30/18009Propelling the vehicle related to particular drive situations
    • B60W30/18145Cornering
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/09Taking automatic action to avoid collision, e.g. braking and steering
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095Predicting travel path or likelihood of collision
    • B60W30/0953Predicting travel path or likelihood of collision the prediction being responsive to vehicle dynamic parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/18Propelling the vehicle
    • B60W30/18009Propelling the vehicle related to particular drive situations
    • B60W30/18159Traversing an intersection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0011Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0027Planning or execution of driving tasks using trajectory prediction for other traffic participants
    • B60W60/00274Planning or execution of driving tasks using trajectory prediction for other traffic participants considering possible movement changes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404Characteristics
    • B60W2554/4045Intention, e.g. lane change or imminent movement
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2720/00Output or target parameters relating to overall vehicle dynamics
    • B60W2720/12Lateral speed
    • B60W2720/125Lateral acceleration

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)

Abstract

响应于感知到移动对象,基于运动对象的在先运动预测,例如,使用机器学习模型来确定运动对象的一个或多个可能的对象路径,该机器学习模型可基于不同车辆的大量的行驶统计信息来创建。对于每个可能的对象路径,基于预定加速度集生成轨迹候选项集。每个轨迹候选项对应于预定加速度中的一个。使用预定成本函数为每个轨迹候选项计算轨迹成本。在轨迹候选项中选择轨迹候选项中具有最低轨迹成本的一个轨迹候选项。基于移动对象的可能的对象路径的最低成本,规划ADV路径以导航ADV,以避免与移动对象发生碰撞。

Description

用于预测与自动驾驶车辆相关的运动对象的运动的方法
技术领域
本公开的实施方式总体涉及操作自动驾驶车辆。更具体地,本公开的实施方式涉及基于与自动驾驶车辆的交互来预测运动对象的运动。
背景技术
以自动驾驶模式运行(例如,无人驾驶)的车辆可以将乘员、尤其是驾驶员从一些驾驶相关的职责中解放出来。当以自动驾驶模式运行时,车辆可以使用车载传感器导航到各个位置,从而允许车辆在最少人机交互的情况下或在没有任何乘客的一些情况下行驶。
运动规划和控制是自动驾驶中的关键操作。在自动驾驶中,响应于诸如车辆的运动对象,基于自动驾驶车辆周围的驾驶环境来执行对运动对象的预测。然后可以基于运动对象的运动预测来执行运动规划。但是,这样的预测不足以精确地预测运动对象的将来运动。
发明内容
本申请的一个方面提供了一种用于操作自动驾驶车辆(ADV)的计算机实施的方法。该方法可包括:响应于感知到运动对象,基于所述运动对象的在先运动预测来确定一个或多个可能的对象路径;对于所述可能的对象路径中的每个,基于预定的加速度集生成轨迹候选项集,使用预定成本函数计算所述轨迹候选项中的每个的轨迹成本,以及在所述轨迹候选项中选择所述轨迹候选项中具有最低轨迹成本的一个轨迹候选项来表示所述可能的对象路径;以及基于与所述移动对象的所述可能的对象路径相关的所述最低轨迹成本,规划ADV路径来导航所述ADV以避免与所述移动对象发生碰撞。
本申请的另一方面提供了一种存储有指令的非暂时性机器可读介质,所述指令在由处理器执行时致使所述处理器执行操作。所述操作可包括:响应于感知到移动对象,基于所述移动对象的在先运动预测来确定一个或多个可能的对象路径;对于所述可能的对象路径中的每个,基于预定的加速度集生成轨迹候选项集,使用预定成本函数计算所述轨迹候选项中的每个的轨迹成本,以及在所述轨迹候选项中选择所述轨迹候选项中具有最低轨迹成本的一个轨迹候选项来表示所述可能的对象路径;以及基于与所述移动对象的所述可能的对象路径相关的所述最低轨迹成本规划ADV路径,以导航所述ADV以避免与所述移动对象发生碰撞。
本申请的又一方面提供了一种数据处理***。数据处理***包括处理器和存储器,存储器联接到所述处理器以存储指令。所述指令在由所述处理器执行时使所述处理器执行操作,所述操作可包括:
响应于感知到运动对象,基于所述运动对象的在先运动预测来确定一个或多个可能的对象路径;对于所述可能的对象路径中的每个,基于预定的加速度集生成轨迹候选项集,使用预定成本函数计算所述轨迹候选项中的每个的轨迹成本,以及在所述轨迹候选项中选择所述轨迹候选项中具有最低轨迹成本的一个轨迹候选项来表示所述可能的对象路径;以及基于与所述移动对象的所述可能的对象路径相关的所述最低轨迹成本,规划ADV路径以导航所述ADV以避免与所述移动对象发生碰撞。
附图说明
本公开的实施方式在附图的各图中以举例而非限制的方式示出,附图中的相同参考数字指示相似元件。
图1是示出根据一个实施方式的网络化***的框图。
图2是示出根据一个实施方式的自动驾驶车辆的示例的框图。
图3A至图3B是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划***的示例的框图。
图4是示出根据一个实施方式的预测模块的示例的框图。
图5是示出根据一个实施方式的预测过程的处理流程图。
图6A至图6D是示出根据一个实施方式的预测过程的示图。
图7A和7B是示出根据另一实施方式的预测过程的示图。
图8是示出根据一个实施方式的预测过程的流程图。
图9是示出根据一个实施方式的计算轨迹成本的过程的流程图。
图10是示出根据一个实施方式的数据处理***的框图。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面,附图将示出所述各种实施方式。下列描述和附图是对本公开的说明,而不应当解释为限制本公开。描述了许多特定细节以提供对本公开各种实施方式的全面理解。然而,在某些情况下,并未描述众所周知的或常规的细节以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的提及意味着结合该实施方式所描述的特定特征、结构或特性可以包括在本公开的至少一个实施方式中。短语“在一个实施方式中”在本说明书中各个地方的出现不必全部指同一实施方式。
根据一些实施方式,在对运动对象进行常规预测之后,根据自动驾驶车辆(ADV)的当前状态,例如ADV的相对位置、速度和前进方向,执行在后分析。该分析用于调整或改善运动对象的预测。其结果是,考虑了运动对象与ADV之间的交互以进一步改善运动对象的运动预测,因为ADV如何运动可能影响运动对象的运动,反之亦然。
根据一个实施方式,响应于感知到运动对象(例如,车辆),基于运动对象的在先运动预测来预测或确定运动对象的一个或多个可能的对象路径,例如,使用机器学习模型,该模型可以基于不同车辆的大量驾驶统计数据创建。对于每个可能的对象路径,基于一组预定的加速度生成一组轨迹候选项。每个轨迹候选项对应于预定加速度中的一个。使用预定成本函数为每个轨迹候选项计算轨迹成本。选择轨迹候选项中具有最低轨迹成本的轨迹候选项之一,以表示对应的可能对象路径。基于移动对象的可能对象路径的最低成本,规划ADV路径以导航ADV,以避免与移动对象发生碰撞。
在一个实施方式中,在计算每个轨迹候选项的成本时,为轨迹候选项计算向心加速度成本和碰撞成本。然后基于向心加速度成本和碰撞成本来确定轨迹候选项的轨迹成本。当计算轨迹候选项的向心加速度成本时,确定并选择沿着该轨迹候选项的一组轨迹点。轨迹点可以沿着轨迹候选项按时间均匀分布。对于每个轨迹点,计算出该轨迹点的向心加速度。可以基于运动对象的速度和与轨迹点相关的时间点处的曲率来确定向心加速度。然后,使用第一成本函数基于所有轨迹点的向心加速度来确定向心加速度成本。在一个实施方式中,当计算用于轨迹候选项的碰撞成本时,确定ADV与每个轨迹点之间的相对距离。使用第二成本函数基于轨迹点与ADV之间的相对距离确定轨迹候选项的碰撞成本。
根据另一实施方式,对于每个可能的对象路径,基于最低轨迹成本来确定似然值或概率。似然值表示移动对象将根据所选轨迹候选项移动的似然性。基于所选轨迹候选项的似然值和在先概率(例如,在先的驾驶或规划周期期间计算的概率),计算出可能的对象路径的运动对象的运动概率。注意,可以针对在ADV的预定接近范围内感知到的每个运动对象来迭代地执行以上操作。基于感知到的所有移动对象的移动概率来规划ADV路径。
图1是示出根据本公开的一个实施方式的自动驾驶车辆网络配置的框图。参考图1,网络配置100包括可以通过网络102通信地联接到一个或多个服务器103至104的自动驾驶车辆101。尽管示出一个自动驾驶车辆,但多个自动驾驶车辆可以通过网络102联接到彼此和/或联接到服务器103至104。网络102可以是任何类型的网络,例如,有线或无线的局域网(LAN)、诸如互联网的广域网(WAN)、蜂窝网络、卫星网络或其组合。服务器103至104可以是任何类型的服务器或服务器群集,诸如,网络或云服务器、应用服务器、后端服务器或其组合。服务器103至104可以是数据分析服务器、内容服务器、交通信息服务器、地图和兴趣点(MPOI)服务器或者位置服务器等。
自动驾驶车辆是指可以被配置成处于自动驾驶模式下的车辆,在所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导航通过环境。这种自动驾驶车辆可以包括传感器***,所述传感器***具有被配置成检测与车辆运行环境有关的信息的一个或多个传感器。所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。自动驾驶车辆101可以在手动模式下、在全自动驾驶模式下或者在部分自动驾驶模式下运行。
在一个实施方式中,自动驾驶车辆101包括,但不限于,感知与规划***110、车辆控制***111、无线通信***112、用户接口***113、信息娱乐***114和传感器***115。自动驾驶车辆101还可以包括普通车辆中包括的某些常用部件,诸如:发动机、车轮、方向盘、变速器等,所述部件可以由车辆控制***111和/或感知与规划***110使用多种通信信号和/或命令进行控制,该多种通信信号和/或命令例如,加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等。
部件110至115可以经由互连件、总线、网络或其组合通信地联接到彼此。例如,部件110至115可以经由控制器局域网(CAN)总线通信地联接到彼此。CAN总线是被设计成允许微控制器和装置在没有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的复用电气布线设计的基于消息的协议,但也用于许多其它环境。
现在参考图2,在一个实施方式中,传感器***115包括但不限于一个或多个摄像机211、全球定位***(GPS)单元212、惯性测量单元(IMU)213、雷达单元214以及光探测和测距(LIDAR)单元215。GPS***212可以包括收发器,所述收发器可操作以提供关于自动驾驶车辆的位置的信息。IMU单元213可以基于惯性加速度来感测自动驾驶车辆的位置和定向变化。雷达单元214可以表示利用无线电信号来感测自动驾驶车辆的本地环境内的对象的***。在一些实施方式中,除感测对象之外,雷达单元214可以另外感测对象的速度和/或前进方向。LIDAR单元215可以使用激光来感测自动驾驶车辆所处环境中的对象。除其它***部件之外,LIDAR单元215还可以包括一个或多个激光源、激光扫描器以及一个或多个检测器。摄像机211可以包括用来采集自动驾驶车辆周围环境的图像的一个或多个装置。摄像机211可以是静物摄像机和/或视频摄像机。摄像机可以是可机械地移动的,例如,通过将摄像机安装在旋转和/或倾斜平台上。
传感器***115还可以包括其它传感器,诸如:声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例如,麦克风)。音频传感器可以被配置成从自动驾驶车辆周围的环境中采集声音。转向传感器可以被配置成感测方向盘、车辆的车轮或其组合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情形下,油门传感器和制动传感器可以集成为集成式油门/制动传感器。
在一个实施方式中,车辆控制***111包括但不限于转向单元201、油门单元202(也被称为加速单元)和制动单元203。转向单元201用来调整车辆的方向或前进方向。油门单元202用来控制电动机或发动机的速度,电动机或发动机的速度进而控制车辆的速度和加速度。制动单元203通过提供摩擦使车辆的车轮或轮胎减速而使车辆减速。应注意,如图2所示的部件可以以硬件、软件或其组合实施。
回到图1,无线通信***112允许自动驾驶车辆101与诸如装置、传感器、其它车辆等外部***之间的通信。例如,无线通信***112可以与一个或多个装置直接无线通信,或者经由通信网络进行无线通信,诸如,通过网络102与服务器103至104通信。无线通信***112可以使用任何蜂窝通信网络或无线局域网(WLAN),例如,使用WiFi,以与另一部件或***通信。无线通信***112可以例如使用红外链路、蓝牙等与装置(例如,乘客的移动装置、显示装置、车辆101内的扬声器)直接通信。用户接口***113可以是在车辆101内实施的***装置的部分,包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
自动驾驶车辆101的功能中的一些或全部可以由感知与规划***110控制或管理,尤其当在自动驾驶模式下操作时。感知与规划***110包括必要的硬件(例如,处理器、存储器、存储设备)和软件(例如,操作***、规划和路线安排程序),以从传感器***115、控制***111、无线通信***112和/或用户接口***113接收信息,处理所接收的信息,规划从起始点到目的地点的路线或路径,随后基于规划和控制信息来驾驶车辆101。替代地,感知与规划***110可以与车辆控制***111集成在一起。
例如,作为乘客的用户可以例如经由用户接口来指定行程的起始位置和目的地。感知与规划***110获得行程相关数据。例如,感知与规划***110可以从MPOI服务器中获得位置和路线信息,所述MPOI服务器可以是服务器103至104的一部分。位置服务器提供位置服务,并且MPOI服务器提供地图服务和某些位置的POI。替代地,此类位置和MPOI信息可以本地高速缓存在感知与规划***110的永久性存储装置中。
当自动驾驶车辆101沿着路线移动时,感知与规划***110也可以从交通信息***或服务器(TIS)获得实时交通信息。应注意,服务器103至104可以由第三方实体进行操作。替代地,服务器103至104的功能可以与感知与规划***110集成在一起。基于实时交通信息、MPOI信息和位置信息以及由传感器***115检测或感测的实时本地环境数据(例如,障碍物、对象、附近车辆),感知与规划***110可以规划最佳路线并且根据所规划的路线例如经由控制***111来驾驶车辆101,以安全且高效到达指定目的地。
服务器103可以是用于为各种客户端执行数据分析服务的数据分析***。在一个实施方式中,数据分析***103包括数据收集器121和机器学习引擎122。数据收集器121从各种车辆收集驾驶统计数据123,所述车辆可以是自动驾驶车辆,也可以是人类驾驶员驾驶的常规车辆。驾驶统计数据123包括指示所发出的驾驶命令(例如,油门、制动、转向命令)以及在不同的时间点由车辆的传感器捕获的车辆的响应(例如,速度、加速度、减速度、方向)的信息。驾驶统计数据123还可包括描述不同时间点的驾驶环境的信息,例如路线(包括起始位置和目的地位置)、MPOI、道路状况、天气状况等。
基于驾驶统计数据123,机器学习引擎122出于各种目的而生成或训练规则集、算法和/或预测模型124。在一个实施方式中,算法124可以包括这样的算法,该算法基于从安装在ADV上的各种传感器获得的传感器数据来感知运动对象,并根据ADV的当前状态(例如速度、相对位置)来预测运动对象的运动或运动趋势。具体地,算法124可以包括算法或成本函数,以计算向心加速度成本以及轨迹候选项的碰撞成本,以便计算移动对象可以移动的可能路径的成本。然后可以将算法124上传到ADV上,以在自动驾驶期间实时使用。
图3A和图3B是示出根据本公开一个实施方式的与自动驾驶车辆一起使用的感知与规划***的示例的框图。***300可以被实施为图1的自动驾驶车辆101的一部分,包括但不限于感知与规划***110、控制***111和传感器***115。参考图3A至图3B,感知与规划***110包括但不限于定位模块301、感知模块302、预测模块303、决策模块304、规划模块305、控制模块306以及路线制定模块307。
模块301至307中的一些或全部可以以软件、硬件或其组合实施。例如,这些模块可以安装在永久性存储装置352中、加载到存储器351中,并且由一个或多个处理器(未示出)执行。应注意,这些模块中的一些或全部可以通信地联接到图2的车辆控制***111的一些或全部模块或者与它们集成在一起。模块301至307中的一些可以一起集成为集成模块。
定位模块301(例如,利用GPS单元212)确定自动驾驶车辆300的当前位置,并管理与用户的行程或路线有关的任何数据。定位模块301(也被称为地图与路线模块)管理与用户的行程或路线相关的任何数据。用户可以例如经由用户接口登录并且指定行程的起始位置和目的地。定位模块301与自动驾驶车辆300的诸如地图和路线信息311的其它部件通信,以获得行程相关数据。例如,定位模块301可以从位置服务器和地图与POI(MPOI)服务器获得位置和路线信息。位置服务器提供位置服务,并且MPOI服务器提供地图服务和某些位置的POI,从而可以作为地图和路线信息311的一部分高速缓存。当自动驾驶车辆300沿着路线移动时,定位模块301也可以从交通信息***或服务器获得实时交通信息。
基于由传感器***115提供的传感器数据和由定位模块301获得的定位信息,感知模块302确定对周围环境的感知。感知信息可以表示普通驾驶员在驾驶员正驾驶的车辆周围将感知到的东西。感知可以包括例如采用对象形式的车道配置、交通灯信号、另一车辆的相对位置、行人、建筑物、人行横道或其它交通相关标志(例如,停止标志、让行标志)等。车道配置包括描述一个或多个车道的信息,例如,车道的形状(例如,笔直或弯曲)、车道的宽度、一条道路中有多少个车道、单向或双向车道、合流或分流车道、出口车道等。
感知模块302可以包括计算机视觉***或计算机视觉***的功能,以处理并分析由一个或多个摄像机采集的图像,从而识别自动驾驶车辆环境中的对象和/或特征。所述对象可以包括交通信号、道路边界、其它车辆、行人和/或障碍物等。计算机视觉***可以使用对象识别算法、视频跟踪以及其它计算机视觉技术。在一些实施方式中,计算机视觉***可以绘制环境地图,跟踪对象,以及估算对象的速度等。感知模块302也可以基于由诸如雷达和/或LIDAR的其它传感器提供的其它传感器数据来检测对象。
对于每个对象,预测模块303预测该对象在所述情形下将表现出什么。根据一组地图/路线信息311和交通规则312,基于该时间点的感知驾驶环境的感知数据来执行预测。例如,如果对象是处于相反方向的车辆并且当前驾驶环境包括十字路口,则预测模块303将预测车辆是将可能直线向前移动还是进行转弯。如果感知数据表明十字路口没有交通灯,则预测模块303可预测车辆在进入十字路口之前可能需要完全停止。如果感知数据表明车辆当前处于仅左转弯车道或仅右转弯车道,则预测模块303可分别预测车辆将更可能向左转弯或向右转弯。
针对每个对象,决策模块304作出关于如何处置对象的决定。例如,针对特定对象(例如,交叉路线中的另一车辆)以及描述对象的元数据(例如,速度、方向、转弯角度),决策模块304决定如何与所述对象相遇(例如,超车、让行、停止、超过)。决策模块304可以根据诸如交通规则或驾驶规则312的规则集来作出此类决定,所述规则集可以存储在永久性存储装置352中。
路线制定模块307配置成提供从起点到目的地点的一个或多个路线或路径。对于从开始位置到目的地位置的给定行程(例如,从用户接收的),路线制定模块307获得路线和地图信息311,并且确定从开始位置至到达目的地位置的所有可能的路线或路径。路线制定模块307可以以地形图的形式生成用于其确定的从开始位置至到达目的地位置的路线中的每个的参考线。参考线指的是理想的路线或路径,而不受诸如其他车辆、障碍物或交通状况的其他事物的任何干扰。即,如果道路上不存在其他车辆、行人或障碍物,则ADV应该精确地或紧密地遵循参考线。然后,地形图被提供至决策模块304和/或规划模块305。根据由其它模块提供的其它数据(诸如,来自定位模块301的交通状况、由感知模块302感知的驾驶环境和由预测模块303预测的交通状况),决策模块304和/或规划模块305检查所有可能的路线以选择和修改最优路线中的一个。用于控制ADV的实际路径或路线可与由路线制定模块307提供的参考线接近不同,这取决于该时间点的特定驾驶环境。
基于针对所感知到的对象中的每个的决定,规划模块305使用由路线制定模块307提供的参考线作为基础为自动驾驶车辆规划路径或路线以及驾驶参数(例如,距离、速度和/或转弯角度)。换言之,针对给定的对象,决策模块304决定对该对象做什么,而规划模块305确定如何去做。例如,针对给定的对象,决策模块304可以决定超过所述对象,而规划模块305可以确定在所述对象的左侧还是右侧超过。规划和控制数据由规划模块305生成,包括描述车辆300在下一移动循环(例如,下一路线/路径段)中将如何移动的信息。例如,规划和控制数据可以指示车辆300以30英里每小时(mph)的速度移动10米,随后以25mph的速度变到右侧车道。
基于规划和控制数据,控制模块306根据由规划和控制数据限定的路线或路径通过将适当的命令或信号发送到车辆控制***111来控制并驾驶自动驾驶车辆。所述规划和控制数据包括足够的信息,以沿着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如,油门、制动和转向命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中,在多个规划周期(也被称为行驶周期)(诸如,例如,在每100毫秒(ms)的时间间隔中)中执行规划阶段。针对规划周期或行驶周期中的每一个,将基于规划数据和控制数据发出一个或多个控制命令。即,对于每个100ms,规划模块305规划下一路线段或路径段,例如,包括目标位置和ADV到达目标位置所需的时间。替代地,规划模块305还可指定具体速度、方向和/或转向角等。在一个实施方式中,规划模块305为下一预定时间段(诸如5秒)规划路线段或路径段。对于每个规划周期,规划模块305基于先前周期中规划的目标位置来规划当前周期(例如,接下来的5秒)的目标位置。然后,控制模块306基于当前周期的规划数据和控制数据生成一个或多个控制命令(例如,油门命令、制动命令、转向控制命令)。
应注意,决策模块304和规划模块305可以集成为集成模块,称为规划和控制(PnC)模块。决策模块304/规划模块305可以包括导航***或导航***的功能,以确定自动驾驶车辆的驾驶路径。例如,导航***可以确定用于实现自动驾驶车辆沿着以下路径移动的一系列速度和前进方向:所述路径在使自动驾驶车辆沿着通往最终目的地的基于车行道的路径前进的同时,基本上避免感知到的障碍物。目的地可以根据经由用户接口***113进行的用户输入来设定。导航***可以在自动驾驶车辆正在运行的同时动态地更新驾驶路径。导航***可以将来自GPS***和一个或多个地图的数据合并,以确定用于自动驾驶车辆的驾驶路径。
尽管未示出,但是***110还包括数据收集器或数据记录模块,以收集和记录与由模块301-307执行的操作有关的数据。例如,收集的数据可以记录在每个驾驶周期的不同时间点感知到的障碍物的运动的任何预测,做出的任何决定,规划的任何路径和轨迹以及车辆的响应或状态(例如,速度、前进方向、加速度、位置)。所收集的数据可以作为驾驶统计信息313的一部分存储在永久性存储设备中。所收集的数据可以被用作相同行程的ADV的后续驾驶周期中的历史驾驶统计信息的一部分,或者可替代地,收集的数据可以通过数据分析***(例如,图1的数据分析***103)离线分析,例如,以用于训练机器学习模型或用于改善自主驾驶算法或规则。
根据一个实施方式,在预测运动对象的运动中,在运动对象的正常预测之后(例如,基于运动对象的先前的预测运动和/或实际运动),预测模块303根据ADV的当前状态执行在后分析,例如ADV的相对位置、速度和前进方向。所述分析用于调整或改善运动对象的预测。其结果是,在预测过程期间考虑运动对象与ADV之间的交互,以提高运动对象的运动预测的准确性。其后的基本原理是,ADV如何移动可能会影响移动对象的反应和运动,反之亦然。
图4是示出根据一个实施方式的预测模块的示例的框图,以及图5是示出根据一个实施方式的预测过程的处理流程图。参照图4和图5,在一个实施方式中,预测模块303包括路径预测器401、轨迹生成器402、成本计算器和概率计算器404。模块401至404可以集成为更少的模块或单个模块,并且可以以软件、硬件或其组合来实现。路径预测器401配置为预测或确定移动对象在这种情况下可能移动的一个或多个可能路径集。轨迹生成器402被配置为针对每个可能路径生成一个或多个轨迹候选项集。成本计算器403配置为计算用于选择集合的代表性轨迹的每个轨迹候选项的成本。概率计算器404被配置为计算移动对象可能移动的每个可能路径的概率。
根据一个实施方式,响应于感知模块302感知到运动对象(例如,车辆),路径预测器401例如,使用应用于先前预测的机器学习预测模型或驾驶统计数据基于运动对象的先前运动预测501(例如,在先前的规划周期期间执行)来确定运动对象的一个或多个可能的对象路径。可以基于在各种驾驶场景下的不同车辆的大量驾驶统计来创建预测模型。对于每个可能的对象路径,轨迹生成器602基于预定的加速度集来生成轨迹候选项集,作为轨迹规则或算法502的一部分。
现在参考图6A,在该示例中,ADV 601和移动对象602正接近交叉路口。在一个实施方式中,路径预测器401确定移动对象602可能移动的一个或多个可能路径集,也称为可能对象路径。在该示例中,移动对象602可以经由路径611向左转,经由路径612笔直移动或经由路径613向右转,而ADV 601可以直线行驶或向左转。出于说明目的,在不考虑ADV 601的当前状态的情况下,基于作为行驶统计信息313的一部分的运动对象602的先前运动和/或先前的预测数据501,路径611至613的运动概率分别可为30%、60%和30%。这种移动概率是在不考虑ADV 601的状态的情况下确定的,其中,ADV 601可以在某个时间点以一定的速度、前进方向和加速度直线移动或向左转。
根据一个实施方式,对于每个可能的对象路径611至613,轨迹生成器402使用轨迹规则或算法502生成轨迹候选项集。每个轨迹候选项对应于预定加速度之一。在一个实施方式中,预定加速度集包括加速度集[0.0,-0.5,-1.0,-1.5,-2.0,-2.5,-3.0],其中,负加速度表示减速度。因此,对于每个可能的路径,生成轨迹候选项集,每个轨迹候选项集对应于纵向方向上的预定加速度之一。在横向方向上,根据一个实施方式,可以根据预定的横向定位算法来确定每个轨迹候选项的每个轨迹点的横向位置。在一个实施方式中,横向位置可以确定为:l(t)=l(0)*exp(-0.95t)。l(t)表示在时间(t)处轨迹候选项相对于运动对象的当前横向位置或轨迹候选项的起始位置l(0)的横向位置。
现在参考图6B,出于说明的目的,对于可能的对象路径611,生成轨迹候选项集611A至611B。轨迹候选项611A至611B中的每一个对应于如上所述的预定加速度之一。例如,轨迹候选项611A可对应于0.0的加速度,而轨迹候选项611B可对应于-3.0的加速度。每个预定加速度表示如果移动对象将根据相应的预定加速度运动,则乘坐在移动对象(例如,车辆)中的乘客的舒适度。随着加速度(或减速度)变大,舒适度将越小。
对于轨迹候选项611A至611B中的每个,在一个实施方式中,成本计算器403使用成本函数或算法503计算轨迹候选项的轨迹成本。在轨迹候选项当中具有最低轨迹成本的轨迹候选项611A至611B之一被选择来表示对应的可能对象路径。由概率计算器404使用概率公式504来计算所选轨迹候选项的移动概率。例如,通过规划模块305规划ADV路径,以基于最低成本的运动对象的可能对象路径导航ADV,以避免与运动对象发生碰撞。
在一个实施方式中,在计算每个轨迹候选项的成本时,为轨迹候选项计算向心加速度成本和碰撞成本。然后基于向心加速度成本和碰撞成本来确定轨迹候选项的轨迹成本。根据一个实施方式,当计算轨迹候选项的向心加速成本时,确定并选择沿着轨迹候选项的轨迹点集。轨迹点可以按时间沿着轨迹候选项均匀地分布。
现在参考图6C,在该示例中,沿着轨迹候选项611A选择轨迹点621至624,其中,可按时间均匀选择轨迹点621至624。对于每个轨迹点,计算出轨迹点的向心加速度。向心加速度是指以匀速圆周运动移动而由净外力产生的对象的加速度;向心的意思是“朝向中心”或“中心搜索(center seeking)”。向心加速度的方向是朝向圆心。
可以基于移动对象602的速度(v)和与轨迹点相关的时间点的曲率来确定向心加速度。在一个实施方式中,在轨迹曲线的时间点处,向心加速度(c)可以计算为:c=v2*曲率。可替代地,c=v2/r,其中,r表示轨迹曲线在时间点处的半径。
然后,使用第一成本函数基于所有轨迹点的向心加速度来确定向心加速度成本。在该示例中,轨迹点621至624的向心加速度分别计算为c1、c2、c3和c4。在一个实施方式中,可以基于以下公式来确定向心加速度成本:
向心加速度成本=(c1^2+c2^2+c3^2+c4^2)/(|c1|+|c2|+|c3|+|c4|)
在一个实施方式中,当计算轨迹候选项的碰撞成本时,确定ADV 601与每个轨迹点621至624之间的相对距离,在此示例中称为d1、d2、d3和d4。使用第二成本函数基于轨迹点与ADV之间的相对距离确定轨迹候选项的碰撞成本。在一个实施方式中,可以基于以下公式来确定碰撞成本:
碰撞成本=[(exp(-d1))2+(exp(-d2))2+(exp(-d3))2+(exp(-d4))2]
/
(|d1|+|d2|+|d3|+|d4|)
轨迹成本(CostT)=向心加速度成本+碰撞成本
根据另一实施方式,对于每个可能的对象路径,基于最低轨迹成本来确定似然值或似然概率(Plikelihood),其中,似然值表示移动对象将根据选定的轨迹候选项移动的似然性。在一个实施方式中,可以如下确定似然值:Plikelihood=exp(-α*CostT),其中,α是可调系数。
基于所选择的轨迹候选项的似然值和在先概率(Pprior)(例如,在先前驾驶或规划周期期间计算出的概率),计算对于可能的对象路径运动对象的运动概率(Pmoving)。在一个实施方式中,可以如下确定移动概率:
Pmoving=Pprior*Plikelihood
其结果是,可以根据如图6D所示的ADV 601的状态来调整可能的对象路径的移动概率。然后将具有最高移动概率的可能的对象路径用作移动对象的最终预测运动。在一个实施方式中,对于每个轨迹候选项,在两个相邻轨迹点之间以一秒为时间间隔至少选择8个轨迹点(例如,沿着轨迹的总共8秒的时间)。在上面的示例中,将创建轨迹点(c1,d1),(c2,d2),(c3,d3),(c4,d4),(c5,d5),(c6,d6),(c7,d7)和(c8,d8),并且以上公式可以应用于8个轨迹点中的每一个。
该方法背后的基本原理是,在给定ADV 601的状态的情况下,移动对象602可决定不同地移动。例如,如果ADV 601的速度高,则移动对象602可向左转让路。可替代地,如果移动对象602决定沿路径612直线移动,然而,如果ADV 601开始向左转,则移动对象602可通过允许ADV 601先向左转而减速以让路,或者如果ADV 601和移动对象602之间的相对距离足够大,则移动对象可加速以移动到ADV 601前面。通过考虑ADV 601和移动对象602之间的交互,可以更准确地预测移动对象602的移动。
注意,可以针对在ADV的预定接近范围内感知到的每个移动对象迭代地执行以上操作。基于所有感知到的移动对象的移动概率来规划ADV路径。上述技术还可以应用于各种驾驶情况,例如如图7A和7B所示的车道改变情况。图7A示出了不考虑与ADV的交互的可能的对象路径的移动概率,而图7B示出了根据ADV的状态的可能的对象路径的移动概率。移动对象可以是车辆、摩托车、自行车、行人或其他对象。
应注意,如上文示出和描述的部件中的一些或全部可以以软件、硬件或其组合实施。例如,此类部件可以实施为安装并存储在永久性存储装置中的软件,所述软件可以通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。替代地,此类部件可以实施为编程或嵌入到专用硬件(诸如,集成电路(例如,专用集成电路或ASIC)、数字信号处理器(DSP)或现场可编程门阵列(FPGA))中的可执行代码,所述可执行代码可以经由来自应用的相应驱动程序和/或操作***来访问。此外,此类部件可以实施为处理器或处理器内核中的特定硬件逻辑,作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
图8是示出根据一个实施方式的在自动驾驶中预测移动对象的移动的过程的流程图。可通过可包括软件、硬件或其组合的处理逻辑来执行过程800。例如,过程800可以由预测模块303执行。参考图8,在操作801中,响应于感知到移动对象,基于移动对象的在先运动或在先预测来确定一个或多个可能的对象路径。对于每个可能的对象路径,在操作802中,处理逻辑基于预定的加速度集来生成轨迹候选项集。加速度集可以是以上所述的那些集。在操作803中,使用预定成本函数为每个轨迹候选项计算轨迹成本。在一个实施方式中,轨迹成本包括如上所述使用相应的成本公式的向心加速度成本和碰撞成本。在操作804中,在轨迹候选项的轨迹成本当中选择具有最低轨迹成本的轨迹候选项之一。在操作805中,然后基于与可能的对象路径相关联的最低轨迹成本,规划ADV路径来导航ADV以避免与移动对象碰撞。
图9是示出根据一个实施方式的在自动驾驶中预测移动对象的移动的过程的流程图。过程900可以作为操作803中涉及的操作的一部分来执行。参考图9,对于给定的轨迹,在操作901中,基于对应轨迹点的速度和曲率确定沿着轨迹的每个轨迹点的向心加速度。在操作902中,基于轨迹点的向心加速度来计算向心加速度成本。在操作903中,确定每个轨迹点与ADV之间的相对距离。在操作904中,基于ADV与所有轨迹点之间的相对距离来计算碰撞成本。在操作905中,基于向心加速成本和碰撞成本来计算轨迹的总轨迹成本。在一个实施方式中,总轨迹成本是向心加速成本和碰撞成本的总和。
图10是示出可以与本公开的一个实施方式一起使用的数据处理***的示例的框图。例如,***1500可以表示以上所述的执行上述过程或方法中的任一个的任何数据处理***,例如,图1的感知与规划***110或者服务器103至104中的任一个。***1500可以包括许多不同的部件。这些部件可以实施为集成电路(IC)、集成电路的部分、分立电子装置或适用于电路板(诸如,计算机***的主板或***卡)的其它模块或者实施为以其它方式并入计算机***的机架内的部件。
还应注意,***1500旨在示出计算机***的许多部件的高阶视图。然而,应当理解的是,某些实施方式中可以具有附加的部件,此外,其它实施方式中可以具有所示部件的不同布置。***1500可以表示台式计算机、膝上型计算机、平板计算机、服务器、移动电话、媒体播放器、个人数字助理(PDA)、智能手表、个人通信器、游戏装置、网络路由器或集线器、无线接入点(AP)或中继器、机顶盒或其组合。此外,虽然仅示出了单个机器或***,但是术语“机器”或“***”还应当被理解为包括单独地或共同地执行一个(或多个)指令集以执行本文所讨论的任何一种或多种方法的机器或***的任何集合。
在一个实施方式中,***1500包括通过总线或互连件1510连接的处理器1501、存储器1503以及装置1505至1508。处理器1501可以表示其中包括单个处理器内核或多个处理器内核的单个处理器或多个处理器。处理器1501可以表示一个或多个通用处理器,诸如,微处理器、中央处理单元(CPU)等。更具体地,处理器1501可以是复杂指令集计算(CISC)微处理器、精简指令集计算(RISC)微处理器、超长指令字(VLIW)微处理器、或实施其它指令集的处理器、或实施指令集组合的处理器。处理器1501还可以是一个或多个专用处理器,诸如,专用集成电路(ASIC)、蜂窝或基带处理器、现场可编程门阵列(FPGA)、数字信号处理器(DSP)、网络处理器、图形处理器、通信处理器、加密处理器、协处理器、嵌入式处理器、或者能够处理指令的任何其它类型的逻辑。
处理器1501(其可以是低功率多核处理器套接口,诸如超低电压处理器)可以充当用于与所述***的各种部件通信的主处理单元和中央集线器。这种处理器可以实施为片上***(SoC)。处理器1501被配置成执行用于执行本文所讨论的操作和步骤的指令。***1500还可以包括与可选的图形子***1504通信的图形接口,图形子***1504可以包括显示控制器、图形处理器和/或显示装置。
处理器1501可以与存储器1503通信,存储器1503在一个实施方式中可以经由多个存储器装置实施以提供给定量的***存储。存储器1503可以包括一个或多个易失性存储(或存储器)装置,诸如,随机存取存储器(RAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、静态RAM(SRAM)或者其它类型的存储装置。存储器1503可以存储包括由处理器1501或任何其它装置执行的指令序列的信息。例如,各种操作***、装置驱动程序、固件(例如,输入输出基本***或BIOS)和/或应用的可执行代码和/或数据可以加载到存储器1503中并由处理器1501执行。操作***可以是任何类型的操作***,例如,机器人操作***(ROS)、来自
Figure BDA0002312402580000181
公司的
Figure BDA0002312402580000182
操作***、来自苹果公司的Mac
Figure BDA0002312402580000185
来自
Figure BDA0002312402580000183
公司的
Figure BDA0002312402580000184
LINUX、UNIX,或者其它实时或嵌入式操作***。
***1500还可以包括IO装置,诸如装置1505至1508,包括网络接口装置1505、可选的输入装置1506,以及其它可选的IO装置1507。网络接口装置1505可以包括无线收发器和/或网络接口卡(NIC)。所述无线收发器可以是WiFi收发器、红外收发器、蓝牙收发器、WiMax收发器、无线蜂窝电话收发器、卫星收发器(例如,全球定位***(GPS)收发器)或其它射频(RF)收发器或者它们的组合。NIC可以是以太网卡。
输入装置1506可以包括鼠标、触摸板、触敏屏幕(其可以与显示装置1504集成在一起)、指针装置(诸如,手写笔)和/或键盘(例如,物理键盘或作为触敏屏幕的一部分显示的虚拟键盘)。例如,输入装置1506可以包括联接到触摸屏的触摸屏控制器。触摸屏和触摸屏控制器例如可以使用多种触敏技术(包括但不限于电容、电阻、红外和表面声波技术)中的任一种,以及其它接近传感器阵列或用于确定与触摸屏接触的一个或多个点的其它元件来检测其接触和移动或间断。
IO装置1507可以包括音频装置。音频装置可以包括扬声器和/或麦克风,以促进支持语音的功能,诸如语音识别、语音复制、数字记录和/或电话功能。其它IO装置1507还可以包括通用串行总线(USB)端口、并行端口、串行端口、打印机、网络接口、总线桥(例如,PCI-PCI桥)、传感器(例如,诸如加速度计运动传感器、陀螺仪、磁强计、光传感器、罗盘、接近传感器等)或者它们的组合。装置1507还可以包括成像处理子***(例如,摄像机),所述成像处理子***可以包括用于促进摄像机功能(诸如,记录照片和视频片段)的光学传感器,诸如电荷联接装置(CCD)或互补金属氧化物半导体(CMOS)光学传感器。某些传感器可以经由传感器集线器(未示出)联接到互连件1510,而诸如键盘或热传感器的其它装置可以根据***1500的具体配置或设计由嵌入式控制器(未示出)控制。
为了提供对诸如数据、应用、一个或多个操作***等信息的永久性存储,大容量存储设备(未示出)也可以联接到处理器1501。在各种实施方式中,为了实现更薄且更轻的***设计并且改进***响应性,这种大容量存储设备可以经由固态装置(SSD)来实施。然而,在其它实施方式中,大容量存储设备可以主要使用硬盘驱动器(HDD)来实施,其中较小量的SSD存储设备充当SSD高速缓存以在断电事件期间实现上下文状态以及其它此类信息的非易失性存储,从而使得在***活动重新启动时能够实现快速通电。另外,闪存装置可以例如经由串行***接口(SPI)联接到处理器1501。这种闪存装置可以提供***软件的非易失性存储,所述***软件包括所述***的BIOS以及其它固件。
存储装置1508可以包括计算机可访问的存储介质1509(也被称为机器可读存储介质或计算机可读介质),其上存储有体现本文所述的任何一种或多种方法或功能的一个或多个指令集或软件(例如,模块、单元和/或逻辑1528)。处理模块/单元/逻辑1528可以表示上述部件中的任一个,例如预测模块303、规划模块305和/或控制模块306。处理模块/单元/逻辑1528还可以在其由数据处理***1500、存储器1503和处理器1501执行期间完全地或至少部分地驻留在存储器1503内和/或处理器1501内,数据处理***1500、存储器1503和处理器1501也构成机器可访问的存储介质。处理模块/单元/逻辑1528还可以通过网络经由网络接口装置1505进行传输或接收。
计算机可读存储介质1509也可以用来永久性地存储以上描述的一些软件功能。虽然计算机可读存储介质1509在示例性实施方式中被示为单个介质,但是术语“计算机可读存储介质”应当被认为包括存储所述一个或多个指令集的单个介质或多个介质(例如,集中式或分布式数据库和/或相关联的高速缓存和服务器)。术语“计算机可读存储介质”还应当被认为包括能够存储或编码指令集的任何介质,所述指令集用于由机器执行并且使得所述机器执行本公开的任何一种或多种方法。因此,术语“计算机可读存储介质”应当被认为包括但不限于固态存储器以及光学介质和磁性介质,或者任何其它非暂时性机器可读介质。
本文所述的处理模块/单元/逻辑1528、部件以及其它特征可以实施为分立硬件部件或集成在硬件部件(诸如,ASICS、FPGA、DSP或类似装置)的功能中。此外,处理模块/单元/逻辑1528可以实施为硬件装置内的固件或功能电路。此外,处理模块/单元/逻辑1528可以以硬件装置和软件部件的任何组合来实施。
应注意,虽然***1500被示出为具有数据处理***的各种部件,但是并不旨在表示使部件互连的任何特定架构或方式;因为此类细节和本公开的实施方式没有密切关系。还应当认识到,具有更少部件或可能具有更多部件的网络计算机、手持计算机、移动电话、服务器和/或其它数据处理***也可以与本公开的实施方式一起使用。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领域中的技术人员所使用的方式,以将他们的工作实质最有效地传达给本领域中的其他技术人员。本文中,算法通常被认为是导致所期望结果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而,应当牢记,所有这些和类似的术语均旨在与适当的物理量关联,并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其它方式明确地指出,否则应当了解,在整个说明书中,利用术语(诸如所附权利要求书中所阐述的术语)进行的讨论是指计算机***或类似电子计算装置的动作和处理,所述计算机***或电子计算装置操控计算机***的寄存器和存储器内的表示为物理(电子)量的数据,并将所述数据变换成计算机***存储器或寄存器或者其它此类信息存储设备、传输或显示装置内类似地表示为物理量的其它数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计算机程序被存储在非暂时性计算机可读介质中。机器可读介质包括用于以机器(例如,计算机)可读的形式存储信息的任何机构。例如,机器可读(例如,计算机可读)介质包括机器(例如,计算机)可读存储介质(例如,只读存储器(“ROM”)、随机存取存储器(“RAM”)、磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可以由处理逻辑来执行,所述处理逻辑包括硬件(例如,电路、专用逻辑等)、软件(例如,体现在非暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上文是依据一些顺序操作来描述的,但是应当了解,所述操作中的一些可以按不同的顺序执行。此外,一些操作可以并行地执行而不是顺序地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认识到,可以使用多种编程语言来实施如本文描述的本公开的实施方式的教导。
在以上的说明书中,已经参考本公开的具体示例性实施方式对本发明的实施方式进行了描述。将显而易见的是,在不脱离所附权利要求书中阐述的本发明的更宽泛精神和范围的情况下,可以对本公开作出各种修改。因此,应当在说明性意义而不是限制性意义上来理解本说明书和附图。

Claims (20)

1.一种用于操作自动驾驶车辆(ADV)的计算机实施的方法,所述方法包括:
响应于感知到运动对象,基于所述运动对象的在先运动预测来确定一个或多个可能的对象路径;
对于所述可能的对象路径中的每个,
基于预定的加速度集生成轨迹候选项集,
使用预定成本函数计算所述轨迹候选项中的每个的轨迹成本,以及
在所述轨迹候选项中选择所述轨迹候选项中具有最低轨迹成本的一个轨迹候选项来表示所述可能的对象路径;以及
基于与所述移动对象的所述可能的对象路径相关的所述最低轨迹成本,规划自动驾驶车辆路径来导航所述自动驾驶车辆以避免与所述移动对象发生碰撞。
2.根据权利要求1所述的方法,还包括:
对于所述可能的对象路径中的每个,基于所选择的轨迹候选项的所述轨迹成本计算移动概率;以及
选择所述可能的对象路径中具有最高移动概率的一个对象路径,其中,基于所选择的所述移动对象的所述可能的对象路径来规划所述自动驾驶车辆路径。
3.根据权利要求2所述的方法,其中,计算可能的对象路径的移动概率包括:
基于与所述可能的对象路径相关联的所述最低轨迹成本确定似然值,其中,所述似然值表示所述移动对象将根据所述可能的对象路径移动的似然性;以及
基于所述可能的对象路径的所述似然值和在先概率,计算所述可能的对象路径的所述移动概率。
4.根据权利要求1所述的方法,其中,所述轨迹候选项中的每个与所述移动对象沿着所述轨迹候选项移动的所述预定加速度中的一个预定加速度相关联。
5.根据权利要求1所述的方法,其中,计算所述轨迹候选项中的每个的成本包括:
使用第一预定成本函数计算所述轨迹候选项的向心加速度成本;
使用第二预定成本函数计算所述轨迹候选项的碰撞成本;以及
基于所述向心加速度成本和所述碰撞成本,计算所述轨迹候选项的轨迹成本。
6.根据权利要求5所述的方法,其中,计算所述轨迹候选项的向心加速度成本包括:
确定沿着所述轨迹候选项的多个轨迹点;
对于所述轨迹点中的每个,计算所述轨迹点的向心加速度;以及
基于所述轨迹点的所述向心加速度计算所述向心加速度成本。
7.根据权利要求6所述的方法,其中,基于所述移动对象的速度和所述轨迹候选项在所述轨迹点处的曲率来确定每个轨迹点的所述向心加速度。
8.根据权利要求6所述的方法,其中,沿着所述轨迹候选项在时间上均匀地选择所述轨迹点。
9.根据权利要求5所述的方法,其中,计算所述轨迹候选项的碰撞成本包括:
确定沿着所述轨迹候选项的多个轨迹点;
对于所述轨迹点中的每个,在对应于所述轨迹点的时间点处确定所述轨迹点与所述自动驾驶车辆之间的相对距离;以及
根据所述轨迹点与所述自动驾驶车辆之间的相对距离计算所述碰撞成本。
10.一种存储有指令的非暂时性机器可读介质,所述指令在由处理器执行时致使所述处理器执行操作,所述操作包括:
响应于感知到移动对象,基于所述移动对象的在先运动预测来确定一个或多个可能的对象路径;
对于所述可能的对象路径中的每个,
基于预定的加速度集生成轨迹候选项集,
使用预定成本函数计算所述轨迹候选项中的每个的轨迹成本,以及
在所述轨迹候选项中选择所述轨迹候选项中具有最低轨迹成本的一个轨迹候选项来表示所述可能的对象路径;以及
基于与所述移动对象的所述可能的对象路径相关的所述最低轨迹成本规划自动驾驶车辆路径,以导航所述自动驾驶车辆以避免与所述移动对象发生碰撞。
11.根据权利要求10所述的机器可读介质,其中,所述操作还包括:
对于所述可能的对象路径中的每个,基于所选择的轨迹候选项的轨迹成本计算移动概率;以及
选择所述可能的对象路径中具有最高移动概率的一个可能的对象路径,其中,基于所选择的所述移动对象的可能的对象路径来规划所述自动驾驶车辆路径。
12.根据权利要求11所述的机器可读介质,其中,计算可能的对象路径的移动概率包括:
基于与所述可能的对象路径相关联的所述最低轨迹成本确定似然值,其中,所述似然值表示所述移动对象将根据所述可能的对象路径移动的似然性;以及
基于所述可能的对象路径的在先概率和所述似然值,计算所述可能的对象路径的所述移动概率。
13.根据权利要求10所述的机器可读介质,其中,所述轨迹候选项中的每个与所述移动对象沿着所述轨迹候选项移动的预定加速度中的一个相关联。
14.根据权利要求10所述的机器可读介质,其中,计算所述轨迹候选项中的每个的成本包括:
使用第一预定成本函数计算所述轨迹候选项的向心加速度成本;
使用第二预定成本函数计算所述轨迹候选项的碰撞成本;以及
基于所述向心加速度成本和所述碰撞成本,计算所述轨迹候选项的轨迹成本。
15.根据权利要求14所述的机器可读介质,其中,计算所述轨迹候选项的向心加速度成本包括:
确定沿着所述轨迹候选项的多个轨迹点;
对于所述轨迹点中的每个,计算所述轨迹点的向心加速度;以及
基于所述轨迹点的向心加速度计算所述向心加速度成本。
16.根据权利要求15所述的机器可读介质,其中,每个轨迹点的所述向心加速度是基于所述移动对象的速度和所述轨迹候选项的所述轨迹点处的曲率来确定的。
17.根据权利要求15所述的机器可读介质,其中,沿着所述轨迹候选项在时间上均匀地选择所述轨迹点。
18.根据权利要求14所述的机器可读介质,其中,计算所述轨迹候选项的碰撞成本包括:
确定沿着所述轨迹候选项的多个轨迹点;
对于所述轨迹点中的每个,在对应于所述轨迹点的时间点处,确定所述轨迹点与所述自动驾驶车辆之间的相对距离;以及
根据所述轨迹点和所述自动驾驶车辆之间的所述相对距离计算所述碰撞成本。
19.数据处理***,包括:
处理器;以及
存储器,联接到所述处理器以存储指令,所述指令在由所述处理器执行时使所述处理器执行操作,所述操作包括:
响应于感知到运动对象,基于所述运动对象的在先运动预测来确定一个或多个可能的对象路径,
对于所述可能的对象路径中的每个,
基于预定的加速度集生成轨迹候选项集,
使用预定成本函数计算所述轨迹候选项中的每个的轨迹成本,以及
在所述轨迹候选项中选择所述轨迹候选项中具有最低轨迹成本的一个轨迹候选项来表示所述可能的对象路径,以及
基于与所述移动对象的所述可能的对象路径相关的所述最低轨迹成本,规划自动驾驶车辆路径以导航所述自动驾驶车辆以避免与所述移动对象发生碰撞。
20.根据权利要求19所述的***,其中,所述操作还包括:
对于所述可能的对象路径中的每个,基于所选择的轨迹候选项的所述轨迹成本计算移动概率;以及
选择所述可能的对象路径中具有最高移动概率的一个可能的对象路径,其中,基于所选择的所述移动对象的所述可能的对象路径来规划所述自动驾驶车辆路径。
CN201911264232.7A 2019-04-23 2019-12-11 用于预测与自动驾驶车辆相关的运动对象的运动的方法 Active CN111824139B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/392,354 2019-04-23
US16/392,354 US11305765B2 (en) 2019-04-23 2019-04-23 Method for predicting movement of moving objects relative to an autonomous driving vehicle

Publications (2)

Publication Number Publication Date
CN111824139A true CN111824139A (zh) 2020-10-27
CN111824139B CN111824139B (zh) 2023-08-01

Family

ID=72911715

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911264232.7A Active CN111824139B (zh) 2019-04-23 2019-12-11 用于预测与自动驾驶车辆相关的运动对象的运动的方法

Country Status (2)

Country Link
US (1) US11305765B2 (zh)
CN (1) CN111824139B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113335311A (zh) * 2021-07-22 2021-09-03 中国第一汽车股份有限公司 一种车辆碰撞检测方法、装置、车辆及存储介质
CN113483775A (zh) * 2021-06-30 2021-10-08 上海商汤临港智能科技有限公司 路径预测方法及装置、电子设备及计算机可读存储介质
CN114103938A (zh) * 2021-03-23 2022-03-01 京东鲲鹏(江苏)科技有限公司 控制车辆纵向运动的方法、装置及存储介质
CN114279455A (zh) * 2021-11-16 2022-04-05 北京百度网讯科技有限公司 路径规划方法、装置、电子设备和可读存储介质
CN114523963A (zh) * 2020-11-23 2022-05-24 Aptiv技术有限公司 预测与宿主车辆的道路碰撞的***和方法
CN116507541A (zh) * 2020-11-18 2023-07-28 埃尔构人工智能有限责任公司 用于在自动驾驶中预测其他道路使用者的反应的方法和***

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112018001106T5 (de) * 2017-03-02 2019-11-21 Panasonic Intellectual Property Management Co., Ltd. Fahrassistenzverfahren, Fahrassistenzvorrichtung und dieses Verfahren verwendendes Fahrassistenzsystem
US11634162B2 (en) * 2019-08-16 2023-04-25 Uatc, Llc. Full uncertainty for motion planning in autonomous vehicles
US11420630B2 (en) 2019-10-24 2022-08-23 Zoox, Inc. Trajectory modifications based on a collision zone
US11643073B2 (en) * 2019-10-24 2023-05-09 Zoox, Inc. Trajectory modifications based on a collision zone
US11407431B2 (en) * 2019-11-22 2022-08-09 Samsung Electronics Co., Ltd. System and method for object trajectory prediction in an autonomous scenario
KR102304018B1 (ko) * 2019-12-10 2021-09-23 주식회사 라이드플럭스 자율주행 차량의 충돌 방지 방법, 장치 및 컴퓨터프로그램
WO2021133832A1 (en) * 2019-12-27 2021-07-01 Waymo Llc Conditional behavior prediction for autonomous vehicles
US11465619B2 (en) * 2020-05-27 2022-10-11 Zoox, Inc. Vehicle collision avoidance based on perturbed object trajectories
US11814075B2 (en) 2020-08-26 2023-11-14 Motional Ad Llc Conditional motion predictions
US20220121201A1 (en) * 2020-10-15 2022-04-21 Argo AI, LLC System for anticipating future state of an autonomous vehicle
US20220379889A1 (en) * 2021-05-28 2022-12-01 Zoox, Inc. Vehicle deceleration planning
CN114291116B (zh) * 2022-01-24 2023-05-16 广州小鹏自动驾驶科技有限公司 周围车辆轨迹预测方法、装置、车辆及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160375901A1 (en) * 2015-06-29 2016-12-29 Mitsubishi Electric Research Laboratories, Inc. System and Method for Controlling Semi-Autonomous Vehicles
US9645577B1 (en) * 2016-03-23 2017-05-09 nuTonomy Inc. Facilitating vehicle driving and self-driving
US20180356819A1 (en) * 2017-06-13 2018-12-13 GM Global Technology Operations LLC Autonomous vehicle driving systems and methods for critical conditions
US20190080266A1 (en) * 2017-09-11 2019-03-14 Baidu Usa Llc Cost based path planning for autonomous driving vehicles
CN109507997A (zh) * 2017-09-15 2019-03-22 现代摩比斯株式会社 用于自动驾驶的装置、方法和***

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8060306B2 (en) * 2007-10-04 2011-11-15 Deere & Company Method and system for obstacle avoidance for a vehicle
KR101664582B1 (ko) * 2014-11-12 2016-10-10 현대자동차주식회사 자율주행차량의 주행경로 생성장치 및 방법
JP6308186B2 (ja) * 2015-08-28 2018-04-11 トヨタ自動車株式会社 衝突回避支援装置
JP6558239B2 (ja) * 2015-12-22 2019-08-14 アイシン・エィ・ダブリュ株式会社 自動運転支援システム、自動運転支援方法及びコンピュータプログラム
KR101795250B1 (ko) * 2016-05-03 2017-11-07 현대자동차주식회사 자율주행차량의 주행경로 계획장치 및 방법
CN107140629B (zh) * 2017-07-12 2019-07-16 邓功甫 一种石墨烯的制备方法
US10678248B2 (en) * 2018-02-15 2020-06-09 GM Global Technology Operations LLC Fast trajectory planning via maneuver pattern selection
US10691130B2 (en) * 2018-06-06 2020-06-23 Uatc, Llc Gridlock solver for motion planning system of an autonomous vehicle
TWI674984B (zh) * 2018-11-15 2019-10-21 財團法人車輛研究測試中心 自動駕駛車輛之行駛軌跡規劃系統及方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160375901A1 (en) * 2015-06-29 2016-12-29 Mitsubishi Electric Research Laboratories, Inc. System and Method for Controlling Semi-Autonomous Vehicles
US9645577B1 (en) * 2016-03-23 2017-05-09 nuTonomy Inc. Facilitating vehicle driving and self-driving
US20180356819A1 (en) * 2017-06-13 2018-12-13 GM Global Technology Operations LLC Autonomous vehicle driving systems and methods for critical conditions
US20190080266A1 (en) * 2017-09-11 2019-03-14 Baidu Usa Llc Cost based path planning for autonomous driving vehicles
CN109489675A (zh) * 2017-09-11 2019-03-19 百度(美国)有限责任公司 用于自动驾驶车辆的基于成本的路径规划
CN109507997A (zh) * 2017-09-15 2019-03-22 现代摩比斯株式会社 用于自动驾驶的装置、方法和***

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116507541A (zh) * 2020-11-18 2023-07-28 埃尔构人工智能有限责任公司 用于在自动驾驶中预测其他道路使用者的反应的方法和***
CN114523963A (zh) * 2020-11-23 2022-05-24 Aptiv技术有限公司 预测与宿主车辆的道路碰撞的***和方法
CN114523963B (zh) * 2020-11-23 2024-01-30 Aptiv技术有限公司 预测与宿主车辆的道路碰撞的***和方法
CN114103938A (zh) * 2021-03-23 2022-03-01 京东鲲鹏(江苏)科技有限公司 控制车辆纵向运动的方法、装置及存储介质
CN113483775A (zh) * 2021-06-30 2021-10-08 上海商汤临港智能科技有限公司 路径预测方法及装置、电子设备及计算机可读存储介质
CN113335311A (zh) * 2021-07-22 2021-09-03 中国第一汽车股份有限公司 一种车辆碰撞检测方法、装置、车辆及存储介质
CN113335311B (zh) * 2021-07-22 2022-09-23 中国第一汽车股份有限公司 一种车辆碰撞检测方法、装置、车辆及存储介质
CN114279455A (zh) * 2021-11-16 2022-04-05 北京百度网讯科技有限公司 路径规划方法、装置、电子设备和可读存储介质

Also Published As

Publication number Publication date
US20200339116A1 (en) 2020-10-29
US11305765B2 (en) 2022-04-19
CN111824139B (zh) 2023-08-01

Similar Documents

Publication Publication Date Title
CN111824139B (zh) 用于预测与自动驾驶车辆相关的运动对象的运动的方法
CN110389581B (zh) 用于为自动驾驶车辆生成障碍物的预测轨迹的方法
CN110389583B (zh) 生成自动驾驶车辆的轨迹的方法
CN109947090B (zh) 用于自动驾驶车辆规划的非阻塞边界
CN110389585B (zh) 用于自动驾驶车辆的基于学习的速度规划器
CN110794823B (zh) 预测自动驾驶车辆的对象移动的方法和***
CN110239562B (zh) 自动驾驶车辆的基于周围车辆行为的实时感知调整与驾驶调适
CN108604095B (zh) 确定操作自动驾驶车辆的转向率的方法、介质及处理***
CN110389580B (zh) 用于规划自动驾驶车辆的路径的漂移校正的方法
CN110096053B (zh) 用于自动驾驶车辆的驾驶轨迹生成方法、***和机器可读介质
CN108733046B (zh) 用于自动驾驶车辆的轨迹重新规划的***和方法
CN108255170B (zh) 动态地调整自动驾驶车辆的速度控制率的方法
CN110597243B (zh) 自动驾驶车辆的基于v2x通信的车辆车道***
CN108891417B (zh) 用于操作自动驾驶车辆的方法及数据处理***
CN110727267A (zh) 具有冗余超声雷达的自动驾驶车辆
CN110621541B (zh) 用于生成轨迹以操作自动驾驶车辆的方法和***
CN111380534A (zh) 用于自动驾驶车辆的基于st图学习的决策
CN112084830A (zh) 通过基于视觉的感知***检测对抗样本
CN111123906A (zh) 不同横向加速度约束下的最优纵向轨迹生成
CN111856923A (zh) 加速对复杂驾驶场景的规划的参数学习的神经网络方法
CN111328313B (zh) 用于自动驾驶车辆的控制占主导的三点转弯规划
US11136023B2 (en) Method for determining exiting intersection of moving objects for autonomous driving vehicles
CN111615618A (zh) 用于自动驾驶车辆的高速规划的基于多项式拟合的参考线平滑方法
CN111615476A (zh) 用于自动驾驶车辆的基于螺旋曲线的竖直停车规划***
WO2020132938A1 (en) Methods for obstacle filtering for non-nudge planning system in autonomous driving vehicle

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant