CN114938674A - 基于活动来对感知对象进行分类 - Google Patents

Abstract

公开了用于基于活动来对感知对象进行分类的***和方法等。这些***和方法可以包括用于接收与至少一个对象相对应的传感器信息并根据该传感器信息针对该至少一个对象来确定活动预测的部件。这些***和方法可以包括用于根据该活动预测来对该对象进行分类的部件。控制器电路可以至少部分地基于该至少一个对象的分类来操作运载工具的控制功能。

Description

基于活动来对感知对象进行分类

相关申请的交叉引用

本申请要求2019年1月8日提交的美国临时申请62/789,804和2019年3月1日提交的丹麦申请PA-2019-70146的权益。

技术领域

本发明通常涉及对对象进行分类。特别地，本发明涉及基于活动来对感知对象进行分类。

背景技术

自主运载工具(例如，无人机和自动驾驶小汽车)可被配置为在整个环境中自主地导航。这些运载工具可以依赖于各种类型的传感器以检测其周围环境。例如，自主运载工具可以包括LiDAR传感器、雷达传感器、立体照相机、红外照相机等。这些传感器可以是允许运载工具避免伤害周围行人、损坏周围构造和/或运载工具本身的重要特征。

发明内容

在本发明的至少一个方面中，提供一种运载工具。所述运载工具包括：至少一个传感器，其被配置为接收与接近所述运载工具的至少一个对象相对应的传感器信息。所述运载工具包括：至少一个控制器电路，其被配置为操作所述运载工具的控制功能。所述运载工具包括：计算机可读介质，其存储计算机可执行指令。所述运载工具包括：至少一个处理器，其通信地耦接至所述至少一个传感器，并且被配置为执行所述计算机可执行指令以：从所述至少一个传感器接收所述传感器信息；根据所述传感器信息，针对所述至少一个对象来确定活动预测；根据所述活动预测来对所述至少一个对象进行分类；以及使所述控制器电路至少部分地基于所述至少一个对象的分类来操作所述运载工具的控制功能。

所述至少一个处理器可以包括贝叶斯模型处理器。所述至少一个处理器可以包括深度学习处理器。所述深度学习处理器可以包括以下项至少之一：前馈神经网络、卷积神经网络、径向基函数神经网络、递归神经网络和模块化神经网络。

对所述至少一个对象进行分类可以包括：确定所述至少一个对象是非活动或活动的可能性。确定为所述至少一个对象是活动的可以包括：确定所述至少一个对象是否将在预定时间间隔内处于运动。确定为所述至少一个对象是非活动的可以包括：确定所述至少一个对象是否将在预定时间间隔内保持静止。对所述至少一个对象进行分类可以包括：指派超过(overtake)值。

操作所述运载工具的控制功能可以包括：使所述运载工具以预测速率行驶，其中所述预测速率是至少部分地基于所学习的类似人类的行为。操作所述运载工具的控制功能可以包括：使所述运载工具以预测速率行驶。所述预测速率可以是至少部分地基于以下项至少之一：传感器数据、所述运载工具的历史速率数据、所述运载工具的位置数据、所述至少一个对象的当前位置数据、所述至少一个对象的历史位置数据、以及交通灯数据。操作所述运载工具的控制功能可以包括：当所述至少一个处理器将所述至少一个对象分类为非活动时，使所述运载工具超过所述至少一个对象。使所述控制器电路操作所述运载工具的控制功能可以是至少部分地基于至少一个道路规则。操作所述运载工具的控制功能可以包括：使所述运载工具以预定速率接近所述至少一个对象。操作所述运载工具的控制功能可以包括：使所述运载工具与所述至少一个对象维持预定距离。当所述运载工具正在穿过主要路线时，操作所述运载工具的控制功能可以包括：使所述运载工具穿过替代路线。

所述至少一个处理器可被配置为基于所接收到的传感器信息来确定所述至少一个对象的一个或多个属性。使所述控制器电路操作所述运载工具的控制功能可以是至少部分地基于所确定的一个或多个属性。所述一个或多个属性可以包括以下项至少之一：所述至少一个对象所在的道路车道、所述至少一个对象到交通标志的距离、所述至少一个对象到指定停车位的距离、以及所述至少一个对象的速率。

所述至少一个处理器可以进一步执行操作以向所述至少一个对象的所确定的一个或多个属性指派权重。所述至少一个处理器还可被配置为使所述控制器电路至少部分地基于所指派的权重来操作所述运载工具的控制功能。所述至少一个处理器可以进一步执行操作以基于反馈信息来连续地更新所指派的权重。

所述至少一个处理器可以进一步执行操作以生成与所述至少一个对象的分类相对应的不确定性值。所述至少一个处理器还可被配置为执行操作以：在所述不确定性值满足不确定性值阈值的情况下，使所述控制器电路操作所述运载工具的控制功能以使所述运载工具进行停止和减速至少之一，以及使所述至少一个传感器捕获与所述至少一个对象相对应的附加传感器信息。

在本发明的至少另一方面，提供一种方法。所述方法包括：利用至少一个传感器，检测与接近运载工具的至少一个对象相对应的传感器信息。所述方法包括：从所述至少一个传感器接收所述传感器信息。所述方法包括：根据所述传感器信息，针对所述至少一个对象来确定活动预测。所述方法包括：根据所述活动预测来对所述至少一个对象进行分类。所述方法包括：至少部分地基于所述至少一个对象的分类来操作所述运载工具的控制功能。

附图说明

图1示出具有自主能力的自主运载工具的示例。

图2例示示例“云”计算环境。

图3例示计算机***。

图4示出自主运载工具的示例架构。

图5示出感知模块可以使用的输入和输出的示例。

图6示出LiDAR***的示例。

图7示出操作中的LiDAR***。

图8示出LiDAR***的操作的附加细节。

图9示出规划模块的输入和输出之间的关系的框图。

图10示出路径规划中所使用的有向图。

图11示出控制模块的输入和输出的框图。

图12示出控制器的输入、输出和组件的框图。

图13是示出根据本发明的一个或多个实施例的、包括具有如下***的运载工具的环境的例示示例，该***用于基于活动来对一个或多个感知对象进行分类。

图14示出根据本发明的一个或多个实施例的环境，其中在该环境中，AV基于目标运载工具的分类来超过该目标运载工具。

图15示出根据本发明的一个或多个实施例的用于基于活动来对感知对象进行分类的方法。

具体实施方式

在以下描述中，为了解释的目的，阐述了许多具体细节，以便提供对本发明的透彻理解。然而，本发明可以在没有这些具体细节的情况下实施将是明显的。在其它实例中，众所周知的构造和装置是以框图形式示出的，以避免不必要地使本发明模糊。

在附图中，为了便于描述，示出了示意要素(诸如表示装置、模块、指令块和数据要素的那些要素)的具体排列或次序。然而，本领域技术人员应当理解，附图中示意要素的具体次序或排列并不意在意味着要求特定的处理次序或序列、或处理过程的分离。此外，在附图中包含示意要素并不意在意味着在所有实施例中都需要这种要素，也不意在意味着由这种要素表示的特征不能包括在一些实施例中或不能在一些实施例中与其它要素结合。

此外，在附图中，连接要素、诸如实线或虚线或箭头用于例示两个或更多个其它示意要素之间的连接、关系或关联，没有任何此类连接要素并不意在意味着不能存在连接、关系或关联。换句话说，一些要素之间的连接、关系或关联未在附图中示出，以便不使本公开内容模糊。此外，为了便于例示，使用单个连接要素来表示要素之间的多个连接、关系或关联。例如，如果连接要素表示信号、数据或指令的通信，本领域技术人员应理解，这种要素表示影响通信可能需要的一个或多个信号路径(例如，总线)。

现在将详细参考实施例，其示例在附图中例示出。在以下的详细描述中，阐述了许多具体细节，以便提供对所描述的各种实施例的透彻理解。然而，对于本领域的普通技术人员来说将明显的是，可以在没有这些具体细节的情况下实施所描述的各种实施例。在其它情况下，没有详细描述众所周知的方法、程序、组件、电路和网络，以便不会不必要地使实施例的方面模糊。

下面描述的若干特征各自可以彼此独立地使用，也可以与其它特征的任何组合一起使用。然而，任何个别特征可能不能解决以上所讨论的任何问题，或者只能解决以上所讨论的问题之一。以上所讨论的一些问题可能不能通过本文所描述的任何一个特征得到充分解决。虽然提供了标题，但在本说明书的其它地方也可以找到与具体标题有关但在具有该标题的部分中未找到的信息。本文根据以下概要描述实施例：

1.总体概述

2.硬件概述

3.自主运载工具架构

4.自主运载工具输入

5.自主运载工具规划

6.自主运载工具控制

总体概述

尽管传感器可以是供AV在周围环境中导航用的重要工具，但传统AV***可能无法以允许AV复制涉及做出主观决策的典型人类驾驶行为的方式使用该信息。例如，尽管传统AV***可以使用传感器来避开所检测到的对象/行人，但传统AV***可能不具有使用传感器信息来确定是否通过道路上的运载工具的能力。能够做出这样的决定对于安全和交通流量考虑可能很重要。

本发明提供用于基于活动来对感知对象进行分类的***和方法。这些***和方法可以与AV集成以向AV提供基于由AV的传感器捕获到的信息来确定感知对象是否是活动/非活动的能力。基于该确定，AV可以确定该AV是否应进行绕过感知对象的机动动作。

***概述

图1示出具有自主能力的自主运载工具100的示例。

如本文所使用的，术语“自主能力”是指一种功能、特征或设施，该功能、特征或设施使运载工具能够部分地或完全地操作，而无需实时的人类干预，包括但不限于完全自主运载工具、高度自主运载工具和有条件自主运载工具。

如本文所使用的，自主运载工具(AV)是一种具有自主能力的运载工具。

如本文所使用的，“运载工具”包括货物或人员的运输方式。例如，小汽车、公共汽车、火车、飞机、无人机、卡车、船只、舰艇、潜水器、飞船等。无人驾驶的小汽车是运载工具的示例。

如本文所使用的，“轨迹”是指将AV从第一时空地点导航到第二时空地点的路径或路线。在实施例中，第一时空地点被称为初始地点或起始地点，第二时空地点被称为目的地、最终地点、目标、目标位置或目标地点。在一些示例中，轨迹由一个或多个路段(例如，道路的数段)组成，并且各路段由一个或多个块(例如，车道或交叉口的一部分)组成。在实施例中，时空地点对应于真实世界地点。例如，时空地点是上车或下车地点，以使人员或货物上车或下车。

如本文所使用的，“(一个或多个)传感器”包括一个或多个硬件组件，用于检测与传感器周围环境有关的信息。一些硬件组件可包括感测组件(例如，图像传感器、生物特征传感器)、传输和/或接收组件(例如，激光或射频波发射器和接收器)、电子组件(诸如，模数转换器)、数据存储装置(诸如，RAM和/或非易失性存储器)、软件或固件组件和数据处理组件(诸如，专用集成电路)、微处理器和/或微控制器。

如本文所使用的，“场景描述”是一种数据结构(例如，列表)或数据流，其包括由AV运载工具上的一个或多个传感器检测到的一个或多个分类或标记的对象，或由AV外部的源提供的一个或多个分类或标记的对象。

如本文所使用的，“道路”是一个可以被运载工具穿过的物理区域，并且可以对应于已命名的通道(例如，城市街道、州际高速公路等)或可对应于未命名的通道(例如，房屋或办公楼内的行车道、停车场的一段、空置停车场的一段、乡村区域的污物通道等)。因为有些运载工具(例如，四轮驱动的小卡车、越野车(SUV)等)能够穿过各种不特别适合运载工具行驶的物理区域，因此“道路”可以是任何市政当局或其它政府或行政机构没有正式定义为一条通道的物理区域。

如本文所使用的，“车道”是道路的可被运载工具穿越的部分。有时基于车道标记来识别车道。例如，车道可对应于车道标记之间的大部分或全部空间，或仅对应于车道标记之间的部分空间(例如，小于50％)。例如，具有相距很远的车道标记的道路可能容纳两个或两个以上的运载工具，使得一个运载工具可以在不穿过车道标记的情况下通过另一个运载工具，因此可被解释为车道比车道标记之间的空间窄，或车道之间有两个车道。在没有车道标记的情况下，也可以对车道进行解释。例如，可以基于环境的物理特征(例如，农村地区的岩石和沿着大道的树木、或者例如在欠发达地区应避免的自然障碍物)来定义车道。也可以独立于车道标记或物理特征来解释车道。例如，可以基于原本缺少将会被解释为车道边界的特征的在区域中无障碍物的任意路径来解释车道。在示例情景中，AV可以解释通过田野或空地的无障碍物部分的车道。在另一示例情景中，AV可以解释通过不具有车道标记的宽(例如，足够两个或更多个车道宽)道路的车道。在该情景中，AV可以将与车道有关的信息通信至其它AV，使得其它AV可以使用相同的车道信息来协调AV之间的路径规划。

术语“空中下载(OTA)客户端”包括任何AV，或者嵌入在AV中、耦接至AV或与AV进行通信的任何电子装置(例如，计算机、控制器、IoT装置、电子控制单元(ECU))。

术语“空中下载(OTA)更新”意味着对使用专有和/或标准化的无线通信技术递送至OTA客户端的软件、固件、数据或配置设置或者它们的任何组合的任何更新、改变、删除或添加，其中该专有和/或标准化的无线通信技术包括但不限于：蜂窝移动通信(例如，2G、3G、4G、5G)、无线电无线区域网络(例如，WiFi)和/或卫星因特网。

术语“边缘节点”是指耦接至网络的一个或多个边缘装置，这些装置提供与AV进行通信所用的门户并且可以与其它边缘节点和基于云的计算平台进行通信，以调度OTA更新并将OTA更新递送至OTA客户端。

术语“边缘装置”是指实现边缘节点并提供向企业或服务提供商(如VERIZON、AT&T)核心网的物理无线接入点(AP)的装置。边缘装置的示例包括但不限于：计算机、控制器、发送器、路由器、路由交换机、综合接入装置(IAD)、多路复用器、城域网(MAN)和广域网(WAN)接入装置。

“一个或多个”包括由一个要素执行的功能、由多个要素例如以分布式的方式执行的功能、由一个要素执行的若干功能、由若干要素执行的若干功能、或上述的任何组合。

还将理解的是，尽管在一些情况下，术语“第一”、“第二”等在本文中是用来描述各种要素的，但这些要素不应受到这些术语的限制。这些术语仅用于区分一个要素与另一个要素。例如，在未背离各种所描述的实施例的范围的情况下，第一触点可被称为第二触点，并且类似地，第二触点可被称为第一触点。第一触点和第二触点两者都是触点，但它们不是相同触点。

在本文所描述的各种实施例的说明书中使用的术语仅用于描述特定实施例的目的，而不是意在限制。如在所描述的各种实施例的说明书和所附权利要求书中所使用的，单数形式“a”、“an”和“the”也意在包括复数形式，除非上下文另有明确说明。还将理解的是，如本文所使用的“和/或”是指并且包括一个或多个相关清单项目的任何和所有可能的组合。还将理解的是，当在本说明书中使用术语“包括”、“包含”、“具备”和/或“具有”时，具体说明存在所陈述的特征、整数、步骤、操作、要素和/或组件，但并不排除存在或添加一个或多个其它特征、整数、步骤、操作、要素、组件、和/或其群组。

如本文所使用的，取决于上下文，术语“如果”可选地被理解为意指“当”或“在当时”或“响应于确定为”或“响应于检测到”。类似地，取决于上下文，短语“如果已确定”或“如果[所陈述的条件或事件]已被检测到”可选地被理解为意指“在确定时”或“响应于确定为“或”在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。

如本文所使用的，AV***是指AV以及支持AV操作的硬件、软件、存储的数据和实时生成的数据的阵列。在实施例中，AV***并入在AV内。在实施例中，AV***跨若干地点分布。例如，AV***的一些软件是在类似于下面关于图2描述的云计算环境200的云计算环境上实现的。

一般而言，本文件描述了适用于任何具有一种或多种自主能力的运载工具的技术，包括完全自主运载工具、高度自主运载工具和有条件自主运载工具，诸如分别为所谓的第5级、第4级和第3级运载工具(见SAE国际标准J3016：道路上机动车自动驾驶***相关术语的分类和定义，通过引用将其全部内容并入本文件，用于了解运载工具自主权等级的更多详细信息)。本文件所描述的技术也适用于部分自主运载工具和驾驶员辅助运载工具，诸如所谓的第2级和第1级运载工具(见SAE国际标准J3016：道路上机动车自动驾驶***相关术语的分类和定义)。在实施例中，一个或多个第1级、第2级、第3级、第4级和第5级运载工具***可基于对传感器输入的处理，在某些操作条件下自动执行某些运载工具操作(例如，转向、制动和使用地图)。本文件中所描述的技术可以使从完全自主运载工具到人类操作的运载工具范围内的任何级别的运载工具受益。

自主运载工具与需要人类驾驶员的运载工具相比存在优势。一个优势是安全性。例如，在2016年，美国经历了600万起汽车事故、240万人受伤、40000人死亡和1300万辆运载工具碰撞事故，估计社会成本为9100亿美元多。从1965年到2015年，每行驶1亿英里的美国交通事故死亡人数已从约6人减少到约1人，部分是由于运载工具中所部署的附加安全措施。例如，认为与将发生碰撞有关的额外半秒的警告减轻了60％的前后碰撞。然而，被动安全特征(例如，安全带、安全气囊)在改进该数字方面有可能已达到它们的极限。因而，诸如运载工具的自动控制等的主动安全措施是改进这些统计数据的可能的下一步。由于在95％的碰撞中认为人类驾驶员是造成严重碰撞前事件的原因，因此自动驾驶***例如通过以下操作，有可能实现更好的安全结果：比人类更好地可靠地识别和避免紧急情况；做出比人类更好的决策，比人类更好地遵守交通法规，并且比人类更好地预测将来事件；并且比人类更好地可靠地控制运载工具。

参考图1，AV***120使AV 100沿着轨迹198操作，穿过环境190至目的地199(有时称为最终地点)，同时避开对象(例如，自然障碍物191、运载工具193、行人192、骑车者和其它障碍物)和遵守道路规则(例如，操作规则或驾驶偏好)。

在实施例中，AV***120包括用于从计算机处理器146接收操作命令并对其进行操作的装置101。在实施例中，计算机处理器146与下面参考图3描述的处理器304相似。装置101的示例包括转向控制器102、制动器103、挡位、加速踏板或其它加速控制机构、挡风玻璃雨刮器、侧门锁、窗控器和转向指示器。

在实施例中，AV***120包括用于测量或推断AV 100的状态或条件的性质的传感器121，这些性质诸如是AV的位置、线速度和角速度及线加速度和角加速度、以及航向(例如，AV 100的前端的方向)。传感器121的示例是GPS、测量运载工具线加速度和角速率两者的惯性测量单元(IMU)、用于测量或估计轮滑移率的轮速率传感器、轮制动压力或制动扭矩传感器、发动机扭矩或轮扭矩传感器以及转向角度和角速率传感器。

在实施例中，传感器121还包括用于感测或测量AV的环境的性质的传感器。例如，可见光、红外或热(或两者兼有)光谱的单目或立体摄像机122，LiDAR 123，RADAR，超声波传感器，飞行时间(TOF)深度传感器，速率传感器，温度传感器，湿度传感器和降水传感器。

在实施例中，AV***120包括数据存储单元142和存储器144，用于存储与计算机处理器146相关联的机器指令或由传感器121收集的数据。在实施例中，数据存储单元142与以下关于图3描述的ROM 308或存储装置310类似。在实施例中，存储器144与下面描述的主存储器306类似。在实施例中，数据存储单元142和存储器144存储有关环境190的历史、实时和/或预测性信息。在实施例中，存储的信息包括地图、驾驶性能、交通拥堵更新或天气条件。在实施例中，与环境190有关的数据从远程数据库134通过通信信道传输到AV 100。

在实施例中，AV***120包括通信装置140，用于将对其它运载工具的状态和条件(诸如位置、线速度和角速度、线加速度和角加速度、以及线航向和角航向)测量或推断的性质传送到AV 100。这些装置包括运载工具到运载工具(V2V)和运载工具到基础设施(V2I)通信装置以及用于通过点对点或自组织(ad hoc)网络或两者进行无线通信的装置。在实施例中，通信装置140跨电磁频谱(包括无线电和光通信)或其它介质(例如，空气和声介质)进行通信。运载工具对运载工具(V2V)、运载工具对基础设施(V2I)通信(以及在一些实施例中为一种或多种其它类型的通信)的组合有时被称为运载工具对所有事物(V2X)通信。V2X通信通常符合一个或多个通信标准，用于与自主运载工具进行的和在自主运载工具之间的通信。

在实施例中，通信装置140包括通信接口。例如，有线、无线、WiMAX、Wi-Fi、蓝牙、卫星、蜂窝、光、近场、红外或无线电接口。通信接口将数据从远程数据库134传输到AV***120。在实施例中，远程数据库134嵌入在如图2中所描述的云计算环境200中。通信接口140将从传感器121收集的数据或与AV 100操作有关的其它数据传输到远程数据库134。在实施例中，通信接口140向AV 100传输与遥操作有关的信息。在一些实施例中，AV 100与其它远程(例如，“云”)服务器136通信。

在实施例中，远程数据库134还存储和传输数字数据(例如，存储诸如道路和街道地点的数据)。这些数据存储在AV 100上的存储器144中，或者通过通信信道从远程数据库134传输到AV 100。

在实施例中，远程数据库134存储和传输与以前在一天中类似时间沿着轨迹198行驶的运载工具的驾驶性质有关的历史信息(例如，速率和加速度分布)。在一个实现中，这种数据可以存储在AV 100上的存储器144中，或者通过通信信道从远程数据库134传输到AV100。

位于AV 100上的计算装置146基于实时传感器数据和先验信息两者以算法方式生成控制动作，允许AV***120执行其自主驾驶能力。

在实施例中，AV***120包括耦接至计算装置146的计算机***设备132，用于向AV100的用户(例如，乘员或远程用户)提供信息和提醒并接收来自该用户的输入。在实施例中，***设备132类似于下面参考图3讨论的显示器312、输入装置314和光标控制器316。耦接是无线的或有线的。任意两个或更多个的接口装置可以集成到单个装置中。

图2例示示例“云”计算环境。云计算是一种服务交付模式，用于使得能够方便、按需地在网络上访问可配置计算资源(例如网络、网络带宽、服务器、处理、内存、存储、应用程序、虚拟机和服务)的共享池。在典型的云计算***中，一个或多个大型云数据中心容纳用于交付云所提供的服务的机器。现在参考图2，云计算环境200包括通过云202互连的云数据中心204a、204b和204c。数据中心204a、204b和204c为连接到云202的计算机***206a、206b、206c、206d、206e和206f提供云计算服务。

云计算环境200包括一个或多个云数据中心。一般而言，云数据中心(例如图2中所示的云数据中心204a)是指构成云(例如图2中所示的云202或云的特定部分)的服务器的物理排列。例如，服务器在云数据中心中物理排列成房间、组、行和机架。云数据中心有一个或多个区域，其中包括一个或多个服务器房间。每个房间有一行或多行服务器，并且每行包括一个或多个机架。每个机架包括一个或多个单独的服务器节点。在一些实现中，区域、房间、机架和/或行中的服务器基于数据中心设施的物理基础设施要求(包括电力、能源、热力、热源和/或其它要求)被排列成若干组。在实施例中，服务器节点类似于图3中描述的计算机***。数据中心204a具有许多分布在多个机架上的计算***。

云202包括云数据中心204a、204b和204c以及用于连接云数据中心204a、204b和204c并有助于促进计算***206a-f对云计算服务的访问的网络和网络资源(例如，网络设备、节点、路由器、交换机和网络电缆)。在实施例中，该网络表示一个或多个本地网络、广域网或通过使用地面或卫星连接部署的有线或无线链路耦接的网际网络的任意组合。通过网络交换的数据使用多种网络层协议(诸如，因特网协议(IP)、多协议标签交换(MPLS)、异步传输模式(ATM)、帧中继(Frame Relay)等)进行传输。此外，在网络表示多个子网络的组合的实施例中，在每个底层子网络上使用不同的网络层协议。在一些实施例中，网络表示一个或多个互连网际网络(诸如公共因特网等)。

计算***206a-f或云计算服务消费者通过网络链路和网络适配器连接到云202。在实施例中，计算***206a-f被实现为各种计算装置，例如服务器、台式机、膝上型计算机、平板电脑、智能手机、物联网(IoT)装置、自主运载工具(包括小汽车、无人机、航天飞机、火车、公共汽车等)和消费电子产品。在实施例中，计算***206a-f在其它***中实现或作为其它***的一部分实现。

图3例示计算机***300。在实现中，计算机***300是一种专用计算装置。专用计算装置被硬连线以执行这些技术，或包括诸如一个或多个专用集成电路(ASIC)或现场可编程门阵列(FPGA)的被持久编程为执行上述技术的数字电子装置，或可包括一个或多个通用硬件处理器，这些硬件处理器经编程以根据固件、存储器、其它存储器、或者组合中的程序指令执行这些技术。这种专用的计算装置还可以将定制的硬线逻辑、ASIC或FPGA与定制的编程相结合来完成这些技术。在各种实施例中，专用计算装置是台式计算机***、便携式计算机***、手持装置、网络装置或包含硬线和/或程序逻辑以实现这些技术的任何其它装置。

在实施例中，计算机***300包括总线302或用于传达信息的其它通信机制、以及与总线302耦接以处理信息的硬件处理器304。硬件处理器304是例如通用微处理器。计算机***300还包括主存储器306，诸如随机存取存储器(RAM)或其它动态存储装置，该主存储器306耦接至总线302以存储信息和指令，该信息和指令由处理器304执行。在一个实现中，主存储器306用于在执行要由处理器304执行的指令期间存储临时变量或其它中间信息。当这些指令存储在处理器304可访问的非暂时性存储介质中时，使计算机***300变成一个专用机器，该机器被定制以执行指令中指定的操作。

在实施例中，计算机***300还包括只读存储器(ROM)308或耦接至总线302的其它静态存储装置，用于存储处理器304的静态信息和指令。提供诸如磁盘、光盘、固态驱动器或三维交叉点存储器的存储装置310，并且该存储装置310耦接至总线302以存储信息和指令。

在实施例中，计算机***300通过总线302耦接至诸如阴极射线管(CRT)、液晶显示器(LCD)、等离子体显示器、发光二极管(LED)显示器或用于向计算机用户显示信息的有机发光二极管(OLED)显示器的显示器312。包括字母数字键和其它键的输入装置314耦接至总线302，用于向处理器304传送信息和命令选择。另一种类型的用户输入装置是光标控制器316，诸如鼠标、轨迹球、触控显示器或光标方向键，用于将方向信息和命令选择传送到处理器304，并用于控制光标在显示器312上的移动。这种输入装置通常具有两个轴(第一轴(例如，x轴)和第二轴(例如，y轴))上的两个自由度，这两个轴允许装置指定平面上的位置。

根据一个实施例，本文的技术由计算机***300响应于处理器304执行主存储器306中包含的一个或多个指令的一个或多个序列而执行。这些指令从诸如存储装置310的另一存储介质读入主存储器306。执行主存储器306中包含的指令序列使处理器304执行本文所描述的过程步骤。在替代实施例中，使用硬连线电路代替或与软件指令结合使用。

如本文所使用的术语“存储介质”是指存储数据和/或指令的任何非暂时性介质，这些数据和/或指令使机器以特定方式操作。这种存储介质包括非易失性介质和/或易失性介质。非易失性介质例如包括诸如存储装置310的光盘、磁盘、固态驱动器或三维交叉点存储器。易失性介质包括动态存储器，诸如主存储器306。存储介质的常见形式包括例如软盘、软磁盘、硬盘、固态驱动器、磁带或任何其它磁数据存储介质、CD-ROM、任何其它光数据存储介质、任何具有孔型的物理介质、RAM、PROM和EPROM、FLASH-EPROM、NV-RAM、或任何其它存储芯片或存储盒。

存储介质有别于传输介质，但可以与传输介质相结合使用。传输介质参与存储介质之间的信息传输。例如，传输介质包括同轴电缆、铜线和光纤，其包括具备总线302的电线。传输介质也可以采取声波或光波的形式，诸如在无线电波和红外数据通信过程中产生的声波或光波。

在实施例中，各种形式的介质涉及将一个或多个指令的一个或多个序列承载到处理器304以供执行。例如，这些指令最初是在远程计算机的磁盘或固态驱动器上执行的。远程计算机将指令加载到其动态存储器中，并使用调制解调器通过电话线路发送指令。计算机***300的本地调制解调器接收电话线路上的数据，并使用红外发射器将数据转换为红外信号。红外检测器接收红外信号中承载的数据，并且适当的电路将数据放置在总线302上。总线302将数据承载到主存储器306，处理器304从主存储器306检索并执行指令。主存储器306接收的指令可以可选地在处理器304执行之前或之后存储在存储装置310上。

计算机***300还包括耦接至总线302的通信接口318。通信接口318提供耦接至连接至本地网络322的网络链路320的双向数据通信。例如，通信接口318是综合业务数字网(ISDN)卡、电缆调制解调器、卫星调制解调器或用以提供与相应类型电话线路的数据通信连接的调制解调器。作为另一示例，通信接口318是局域网(LAN)卡，用于提供与兼容LAN的数据通信连接。在一些实现中，无线链路也被实现。在任何这种实现中，通信接口318发送和接收承载表示各种类型的信息的数字数据流的电、电磁或光信号。

网络链路320通常通过一个或多个网络向其它数据装置提供数据通信。例如，网络链路320通过本地网络322提供与主计算机324或与由因特网服务提供商(ISP)326运营的云数据中心或设备的连接。ISP 326又通过现在通常称为“因特网”328的世界范围分组数据通信网络来提供数据通信服务。本地网络322和因特网328两者都使用承载数字数据流的电、电磁或光信号。通过各种网络的信号以及网络链路320上并通过通信接口318的信号是传输介质的示例形式，其中这些信号承载了进出计算机***300的数字数据。在实施例中，网络320包含上述云202或云202的一部分。

计算机***300通过(一个或多个)网络、网络链路320和通信接口318发送消息和接收包括程序代码的数据。在实施例中，计算机***300接收用于处理的代码。接收到的代码在接收到时由处理器304执行，和/或存储在存储装置310中，或存储在其它非易失性存储装置中以便以后执行。

自主运载工具架构

图4示出用于自主运载工具(例如，图1所示的AV 100)的示例架构400。架构400包括感知模块402(有时称为感知电路)、规划模块404(有时称为规划电路)、控制模块406(有时称为控制电路)、定位模块408(有时称为定位电路)和数据库模块410(有时称为数据库电路)。各模块在AV 100的操作中发挥作用。共同地，模块402、404、406、408和410可以是图1所示的AV***120的一部分。在一些实施例中，模块402、404、406、408和410中的任何模块是计算机软件(例如，计算机可读介质上所存储的可执行代码)和计算机硬件(例如，一个或多个微处理器、微控制器、专用集成电路[ASIC]、硬件存储器装置、其它类型的集成电路、其它类型的计算机硬件、或者这些硬件中的任何或所有的组合)的组合。模块402、404、406、408和410各自有时被称为处理电路(例如，计算机硬件、计算机软件、或者这两者的组合)。模块402、404、406、408和410中的任何或全部的组合也是处理电路的示例。

在使用中，规划模块404接收表示目的地412的数据，并且确定表示AV 100为了到达(例如，抵达)目的地412而可以行驶的轨迹414(有时称为路线)的数据。为了使规划模块404确定表示轨迹414的数据，规划模块404从感知模块402、定位模块408和数据库模块410接收数据。

感知模块402使用例如也如图1所示的一个或多个传感器121来识别附近的物理对象。将对象分类(例如，分组成诸如行人、自行车、汽车、交通标志等的类型)，并且将包括经分类的对象416的场景描述提供至规划模块404。

规划模块404还从定位模块408接收表示AV位置418的数据。定位模块408通过使用来自传感器121的数据和来自数据库模块410的数据(例如，地理数据)以计算位置来确定AV位置。例如，定位模块408使用来自GNSS(全球导航卫星***)传感器的数据和地理数据来计算AV的经度和纬度。在实施例中，定位模块408所使用的数据包括具有行车道几何性质的高精度地图、描述道路网络连接性质的地图、描述行车道物理性质(诸如交通速率、交通量、运载工具和自行车车道的数量、车道宽度、车道交通方向、或车道标记类型和地点，或者它们的组合)的地图、以及描述道路特征(诸如十字路口、交通标志或各种类型的其它行驶信号等)的空间地点的地图。在实施例中，高精度地图是通过将数据经由自动或手动标注添加到低精度地图所构建的。

控制模块406接收表示轨迹414的数据和表示AV位置418的数据，并且以将使得AV100行驶轨迹414到达目的地412的方式来操作AV的控制功能420a～420c(例如，转向、油门、制动、点火)。例如，如果轨迹414包括左转，则控制模块406将以如下方式操作控制功能420a～420c：转向功能的转向角度将使得AV 100左转，并且油门和制动将使得AV 100在进行转弯之前暂停并等待经过的行人或运载工具。

自主运载工具输入

图5示出感知模块402(图4)所使用的输入502a-502d(例如，图1中所示的传感器121)和输出504a-504d(例如，传感器数据)的示例。一个输入502a是LiDAR(光检测和测距)***(例如，图1所示的LiDAR 123)。LiDAR是使用光(例如，诸如红外光等的一道光)来获得与其视线中的物理对象有关的数据的技术。LiDAR***产生LiDAR数据作为输出504a。例如，LiDAR数据是用于构造环境190的表示的3D或2D点(也称为点云)的集合。

另一输入502b是RADAR(雷达)***。RADAR是使用无线电波来获得与附近的物理对象有关的数据的技术。RADAR可以获得与不在LiDAR***的视线内的对象有关的数据。RADAR***502b产生RADAR数据作为输出504b。例如，RADAR数据是用于构造环境190的表示的一个或多个射频电磁信号。

另一输入502c是照相机***。照相机***使用一个或多个照相机(例如，使用诸如电荷耦接器件[CCD]等的光传感器的数字照相机)来获取与附近的物理对象有关的信息。照相机***产生照相机数据作为输出504c。照相机数据通常采用图像数据(例如，诸如RAW、JPEG、PNG等的图像数据格式的数据)的形式。在一些示例中，照相机***具有例如为了立体影像(立体视觉)的目的的多个独立照相机，这使得照相机***能够感知深度。尽管照相机***所感知的对象在这里被描述为“附近”，但这是相对于AV而言的。在使用中，照相机***可被配置为“看见”远处的(例如，AV前方的远至1公里或更远的)对象。因此，照相机***可以具有为了感知遥远的对象而优化的诸如传感器和镜头等的特征。

另一输入502d是交通灯检测(TLD)***。TLD***使用一个或多个照相机来获得与交通灯、街道标志和提供视觉导航信息的其它物理对象有关的信息。TLD***产生TLD数据作为输出504d。TLD数据经常采用图像数据(例如，诸如RAW、JPEG、PNG等的图像数据格式的数据)的形式。TLD***与包含照相机的***的不同之处在于：TLD***使用具有宽视场(例如，使用广角镜头或鱼眼镜头)的照相机，以获得与尽可能多的提供视觉导航信息的物理对象有关的信息，使得AV 100能够访问这些对象所提供的所有相关导航信息。例如，TLD***的视角可以为约120度或更大。

在一些实施例中，使用传感器融合技术来组合输出504a-504d。因而，将个体输出504a-504d提供至AV 100的其它***(例如，提供至如图4所示的规划模块404)，或者可以采用相同类型的单个组合输出或多个组合输出(例如，使用相同组合技术或组合相同输出或者这两者)或不同类型的单个组合输出或多个组合输出(例如，使用不同的各个组合技术或组合不同的各个输出或者这两者)的形式，将组合输出提供至其它***。在一些实施例中，使用早期融合技术。早期融合技术的特征在于：在将一个或多个数据处理步骤应用到组合输出之前，将输出组合。在一些实施例中，使用后期融合技术。后期融合技术的特征在于：在将一个或多个数据处理步骤应用到个体输出之后，将输出组合。

图6示出LiDAR***602的示例(例如，图5所示的输入502a)。LiDAR***602从发光器606(例如，激光发射器)发射光604a-604c。LiDAR***所发射的光通常不在可见光谱中；例如，经常使用红外光。所发射的光604b中的一些光遇到物理对象608(例如，运载工具)并且反射回到LiDAR***602。(从LiDAR***发射的光通常不会穿透物理对象，例如，实心形式的物理对象。)LiDAR***602还具有用于检测反射光的一个或多个光检测器610。在实施例中，与LiDAR***相关联的一个或多个数据处理***生成表示LiDAR***的视场614的图像612。图像612包括表示物理对象608的边界616的信息。这样，图像612用于确定AV附近的一个或多个物理对象的边界616。

图7示出操作中的LiDAR***602。在该图所示的情境中，AV 100接收采用图像702的形式的照相机***输出504c和采用LiDAR数据点704的形式的LiDAR***输出504a两者。在使用中，AV 100的数据处理***将图像702与数据点704进行比较。特别地，在数据点704中也识别在图像702中识别出的物理对象706。这样，AV 100基于数据点704的轮廓和密度来感知物理对象的边界。

图8示出LiDAR***602的操作的附加细节。如上所述，AV 100基于LiDAR***602所检测到的数据点的特性来检测物理对象的边界。如图8所示，诸如地面802等的平坦对象将以一致的方式反射从LiDAR***602发射的光804a-804d。换句话说，由于LiDAR***602使用一致的间隔发射光，因此地面802将以相同的一致间隔将光反射回到LiDAR***602。在AV100在地面802上行驶时，在没有东西阻挡道路的情况下，LiDAR***602将继续检测到由下一个有效地面点806反射的光。然而，如果对象808阻挡道路，则LiDAR***602所发射的光804e-804f将以与预期一致方式不一致的方式从点810a-810b反射。根据该信息，AV 100可以确定存在对象808。

路径规划

图9示出(例如，如图4所示的)规划模块404的输入和输出之间的关系的框图900。一般而言，规划模块404的输出是从起点904(例如，源地点或初始地点)到终点906(例如，目的地或最终地点)的路线902。路线902通常由一个或多个路段定义。例如，路段是指要在街道、道路、公路、行车道或适合汽车行驶的其它物理区域的至少一部分上行驶的距离。在一些示例中，例如，如果AV 100是诸如四轮驱动(4WD)或全轮驱动(AWD)小汽车、SUV或小卡车等的能够越野的运载工具，则路线902包括诸如未铺面路径或开阔田野等的“越野”路段。

除路线902之外，规划模块还输出车道级路线规划数据908。车道级路线规划数据908用于在特定时间基于路线902的路段的条件来驶过这些路段。例如，如果路线902包括多车道公路，则车道级路线规划数据908包括轨迹规划数据910，其中AV 100可以使用该轨迹规划数据910以例如基于出口是否临近、多个车道中的一个或多个车道是否存在其它运载工具、或者在几分钟或更少时间的过程中变化的其它因素来从这多个车道中选择某车道。类似地，在一些实现中，车道级路线规划数据908包括路线902的某路段特有的速率约束912。例如，如果该路段包括行人或非预期交通，则速率约束912可以将AV 100限制到比预期速率慢的行驶速率，例如基于该路段的限速数据的速率。

在实施例中，向规划模块404的输入包括(例如，来自图4所示的数据库模块410的)数据库数据914、当前地点数据916(例如，图4所示的AV位置418)、(例如，用于图4所示的目的地412的)目的地数据918和对象数据920(例如，如图4所示的感知模块402所感知的经分类的对象416)。在一些实施例中，数据库数据914包括规划时所使用的规则。规则是使用形式语言(例如，使用布尔逻辑)指定的。在AV 100所遇到的任何给定情形中，这些规则中的至少一些规则将适用于该情形。如果规则具有基于AV 100可用的信息(例如，与周围环境有关的信息)所满足的条件，则该规则适用于给定情形。规则可以具有优先级。例如，“如果公路是高速公路，则移动到最左侧车道”这一规则与“如果出口在一英里内临近，则移动到最右侧车道”相比可以具有更低的优先级。

图10示出在路径规划中(例如，由规划模块404(图4))使用的有向图1000。一般而言，如图10所示的有向图那样的有向图1000用于确定任何起点1002和终点1004之间的路径。在现实世界中，分隔起点1002和终点1004的距离可能相对较大(例如，在两个不同的都市区域中)，或者可能相对较小(例如，毗邻城市街区的两个十字路口或多车道道路的两条车道)。

在实施例中，有向图1000具有表示起点1002和终点1004之间的AV 100可能占用的不同地点的节点1006a-1006d。在一些示例中，例如，在起点1002和终点1004表示不同的都市区域时，节点1006a-1006d表示道路的路段。在一些示例中，例如，在起点1002和终点1004表示相同道路上的不同地点时，节点1006a-1006d表示该道路上的不同位置。这样，有向图1000包括不同粒度级别的信息。在实施例中，具有高粒度的有向图也是具有更大规模的另一有向图的子图。例如，起点1002和终点1004相距远(例如，相距许多英里)的有向图的大部分信息处于低粒度，并且该有向图是基于所存储的数据，但该有向图还包括用于该有向图中的表示AV 100的视场中的物理地点的一部分的一些高粒度信息。

节点1006a-1006d不同于无法与节点重叠的对象1008a-1008b。在实施例中，在粒度低时，对象1008a-1008b表示汽车不能穿过的地区，例如无街道或道路的区域。在粒度高时，对象1008a-1008b表示AV 100的视场中的物理对象，例如其它汽车、行人、或AV 100不能与之共用物理空间的其它实体。在实施例中，对象1008a-1008b的一部分或全部是静态对象(例如，不改变位置的对象，诸如街灯或电线杆等)或动态对象(例如，能够改变位置的对象，诸如行人或其它小汽车等)。

节点1006a-1006d通过边1010a-1010c连接。如果两个节点1006a-1006b通过边1010a连接，则AV 100可以在一个节点1006a和另一节点1006b之间行驶，例如，而不必在到达另一节点1006b之前行驶到中间节点。(当提到AV 100在节点之间行驶时，意味着AV 100在由相应节点表示的两个物理位置之间行驶。)边1010a-1010c通常是双向的，从某种意义上，AV 100从第一节点行驶到第二节点，或者从第二节点行驶到第一节点。在实施例中，边1010a-1010c是单向的，从某种意义上，AV 100可以从第一节点行驶到第二节点，然而AV100不能从第二节点行驶到第一节点。在边1010a-1010c表示例如单向街道，街道、道路或公路的单独车道，或者由于法律或物理约束因而仅能沿一个方向穿过的其它特征的情况下，边1010a-1010c是单向的。

在实施例中，规划模块404使用有向图1000来识别由起点1002和终点1004之间的节点和边组成的路径1012。

边1010a-1010c具有关联成本1014a-1014b。成本1014a-1014b是表示在AV 100选择该边的情况下将花费的资源的值。典型的资源是时间。例如，如果一个边1010a所表示的物理距离是另一边1010b所表示的物理距离的两倍，则第一边1010a的关联成本1014a可以是第二边1010b的关联成本1014b的两倍。影响时间的其它因素包括预期交通、十字路口的数量、限速等。另一典型的资源是燃料经济性。两个边1010a-1010b可以表示相同的物理距离，但例如由于道路条件、预期天气等，因此一个边1010a与另一边1010b相比需要更多的燃料。

在规划模块404识别起点1002和终点1004之间的路径1012时，规划模块404通常选择针对成本优化的路径，例如，在将边的个体成本相加到一起时具有最小总成本的路径。

自主运载工具控制

图11示出(例如，如图4所示的)控制模块406的输入和输出的框图1100。控制模块根据控制器1102而操作，该控制器1102例如包括：与处理器304类似的一个或多个处理器(例如，诸如微处理器或微控制器或这两者等的一个或多个计算机处理器)；与主存储器306、ROM 308和存储装置310类似的短期和/或长期数据存储装置(例如，存储器，随机存取存储器或闪速存储器或这两者)；以及存储器中所存储的指令，这些指令在(例如，由一个或多个处理器)执行时执行控制器1102的操作。

在实施例中，控制器1102接收表示期望输出1104的数据。期望输出1104通常包括速度，例如速率和航向。期望输出1104例如可以基于从(例如，如图4所示的)规划模块404接收到的数据。根据期望输出1104，控制器1102产生可用作油门输入1106和转向输入1108的数据。油门输入1106表示例如通过接合转向踏板或接合另一油门控件来接合AV 100的油门(例如，加速控制)以实现期望输出1104的大小。在一些示例中，油门输入1106还包括可用于接合AV 100的制动器(例如，减速控制)的数据。转向输入1108表示转向角度，例如AV的转向控制(例如，方向盘、转向角致动器或用于控制转向角度的其它功能)应被定位成实现期望输出1104的角度。

在实施例中，控制器1102接收在调整提供至油门和转向的输入时使用的反馈。例如，如果AV 100遇到诸如山丘等的干扰1110，则AV 100的测量速率1112降至低于期望输出速率。在实施例中，任何测量输出1114均被提供至控制器1102，使得例如基于测量速率和期望输出之间的差分1113来进行所需的调整。测量输出1114包括测量位置1116、测量速度1118(包括速率和航向)、测量加速度1120和AV 100的传感器可测量的其它输出。

在实施例中，例如通过诸如照相机或LiDAR传感器等的传感器预先检测与干扰1110有关的信息，并且该信息被提供至预测性反馈模块1122。然后，预测性反馈模块1122将控制器1102可用于相应地调整的信息提供至控制器1102。例如，如果AV 100的传感器检测到(“看见”)山丘，则控制器1102可以使用该信息来准备在适当时间接合油门，以避免显著减速。

图12示出控制器1102的输入、输出和组件的框图1200。控制器1102具有影响油门/制动器控制器1204的操作的速率分析器1202。例如，速率分析器1202根据例如由控制器1102接收到并由速率分析器1202处理后的反馈，来指示油门/制动器控制器1204使用油门/制动器1206进行加速或进行减速。

控制器1102还具有影响方向盘控制器1210的操作的横向跟踪控制器1208。例如，横向跟踪控制器1208根据例如由控制器1102接收到并由横向跟踪控制器1208处理后的反馈，来指示方向盘控制器1210调整转向角致动器1212的位置。

控制器1102接收用于确定如何控制油门/制动器1206和转向角致动器1212的若干输入。规划模块404提供控制器1102例如选择AV 100开始操作时的航向并确定在AV 100到达十字交叉路口时穿过哪个道路路段所使用的信息。定位模块408例如将描述AV 100的当前地点的信息提供至控制器1102，使得控制器1102可以确定AV 100是否处于基于正控制油门/制动器1206和转向角致动器1212的方式而预期的地点。在实施例中，控制器1102接收来自其它输入1214的信息，例如从数据库、计算机网络等接收到的信息。

基于活动来对感知对象进行分类

图13是示出根据本发明的一个或多个实施例的包括具有***1300的运载工具1304的环境1316的例示示例，该***1300用于基于活动来对一个或多个感知对象1320进行分类。***1300包括传感器1348、数据存储装置1364、通信装置1332、计算机处理器1328、控制模块1336和AV控制1340(例如，转向、制动、油门等)。

传感器1348被配置为接收与接近AV 1304的至少一个目标对象1320(例如，运载工具、行人、道路固定装置、交通标志/灯、碎石等)相对应的传感器信息。传感器1348可以包括一个或多个传感器。传感器1348可以包括一个或多个类型的感测装置。例如，在实施例中，传感器1348包括前面参考图1所论述的传感器121其中之一。在实施例中，传感器1348包括如前面参考图5所论述的输入502a-c中的一个或多个。在实施例中，传感器1348包括LiDAR和/或照相机。照相机可以是被配置为捕获可见光、红外和/或热光谱中的光的单目或立体摄像机。在实施例中，传感器1348包括至少一个超声波传感器。在实施例中，传感器1348包括至少一个雷达。传感器1348至少之一还可以包括感测装置的组合。例如，在实施例中，传感器1348至少之一包括照相机和雷达。在实施例中，传感器1348至少之一还包括用于感测或测量AV 1304的环境1316的性质的附加传感器。例如，附加传感器可以包括：可见光、红外或热(或两者兼有)光谱中的单目或立体摄像机122；LiDAR 123；RADAR；超声波或其它听觉传感器，诸如阵列麦克风等；飞行时间(TOF)深度传感器；速率传感器；温度传感器：湿度传感器：以及降水传感器。

通信装置1332可以是图1所示的通信装置140的实施例。在实施例中，通信装置1332通过网络通信地耦接至服务器1312。在实施例中，通信装置1332通过因特网、电磁谱(包括无线电和光学通信)或其它介质(例如，空气和声学介质)进行通信。通信装置1332的一部分可以以软件或硬件实现。在一个示例中，通信装置1332或通信装置1332的一部分是PC、平板PC、STB、智能电话、物联网(IoT)设备或如下的任何机器的一部分，该任何机器能够执行指定该机器所要采取的动作的指令。以上参考图1中的通信装置140更详细地说明了通信装置1332。

AV控制1340可以是图4所示的控制420a-c的实施例。控制模块1336可以是图4所示的控制模块406的实施例。在一些实现中，控制模块406根据控制器电路进行操作，该控制器电路例如包括：与处理器304类似的一个或多个处理器(例如，诸如微处理器或微控制器或这两者等的一个或多个计算机处理器)；与主存储器306、ROM和存储装置310类似的短期和/或长期数据存储装置(例如，存储器、随机存取存储器或闪速存储器或这两者)；以及存储器中所存储的指令，这些指令在(例如，由一个或多个处理器)执行时执行该控制器电路的操作。AV控制1340接收来自控制模块1336的命令，并根据所接收到的命令调整AV 1304的转向、制动和油门。在一个实施例中，AV控制1340的一部分以软件或硬件实现。例如，AV控制1340或AV控制1340的一部分可以是PC、平板PC、STB、智能电话、物联网(IoT)设备或如下的任何机器的一部分，该任何机器能够执行指定该机器所要采取的动作的指令。以上参考图4中的模块406和420a-c更详细地说明了AV控制1340。

数据存储装置1364是图1所示的数据存储装置142或存储器144的实施例，并且包括以下中的一个或多个：基于半导体的存储器装置、磁存储器装置和***、光学存储器装置和***、固定存储器、可移动存储器、盘存储器、闪速存储器、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)和电子可擦除可编程只读存储器(EEPROM)等。

计算机处理器1328包括计算机可读介质1329。计算机可读介质1329(或计算机可读存储器)可以包括适合于本地技术环境的任何数据存储技术类型，其包括但不限于：基于半导体的存储器装置、磁存储器装置和***、光学存储器装置和***、固定存储器、可移动存储器、盘存储器、闪速存储器、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)和电子可擦除可编程只读存储器(EEPROM)等。在实施例中，计算机可读介质1329存储具有计算机可执行指令的代码段。

在实施例中，计算机处理器1328包括一个或多个经训练的深度学习模型。在实施例中，计算机处理器1328包括贝叶斯模型机器学习处理器。贝叶斯模型机器学习处理器使用一个或多个贝叶斯技术(诸如参数估计(例如，考虑到一些观测数据而近似多个参数的后验分布)和/或模型比较(例如，比较一组近似算法的输出)等)，以根据观测数据进行推断。在实施例中，计算机处理器1328包括深度学习模型机器学习处理器。深度学习模型机器学习处理器使用一个或多个深度学习技术(诸如允许处理器自动发现特征检测所需的表示的特征学习等)，以进行特定任务(例如，分类)。在实施例中，深度学习模型机器学习处理器包括前馈神经网络、卷积神经网络、径向基函数神经网络、递归神经网络和/或模块化神经网络。

在实施例中，计算机处理器1328包括与前面参考图3所论述的处理器304类似的一个或多个计算机处理器(例如，微处理器、微控制器或这两者)。计算机处理器1328被配置为执行诸如计算机可读介质1329上所存储的计算机可执行指令等的程序代码。计算机处理器1328被配置为通信地耦接至传感器1348、控制器电路1336、通信装置1332和/或数据存储装置1364。当计算机处理器1330执行计算机可执行指令时，使计算机处理器1330执行多个操作。

在实施例中，当计算机处理器1328执行计算机可执行指令时，计算机处理器1328被配置为从传感器1348接收传感器信息。传感器信息可以包括接近AV 1304的目标对象1320的对象检测、速率和/或地点数据(例如，运载工具、行人、交通灯、交通标志、道路/车道标记等的地点)。如前面所述，目标对象1320例如可以是运载工具(例如，小汽车、小型摩托车、自行车等)、行人、道路固定装置等。

在实施例中，当计算机处理器1328执行计算机可执行指令时，计算机处理器1328被配置为根据所接收到的传感器信息，针对接近AV 1304的至少一个目标对象1320来确定活动预测。例如，在实施例中，计算机处理器1328确定接近AV 1304的目标运载工具将静止一定时间段(例如，10秒、30秒、1分钟等)的可能性。如后面将说明的，该确定可用于对接近运载工具的一个或多个目标对象1320进行分类。在实施例中，确定活动预测包括：确定与接近AV 1304的目标对象1320相关联的一个或多个属性。例如，计算机处理器1328基于所接收到的传感器信息来确定：目标运载工具所在的道路车道、目标运载工具到停车灯/标志的距离、目标运载工具到指定停车场的距离、目标对象前方的空闲空间量、目标运载工具正在操作的区域的限速、乘员是否在目标运载工具内，目标运载工具的危险警示灯是否正在闪烁、目标运载工具的尾灯是否激活、目标运载工具的排气和/或发动机是否热、目标运载工具在先前时间段内是否移动、是否存在紧挨在目标运载工具前方的其它目标运载工具、等等。

在实施例中，计算机处理器1328被配置为将一个或多个权重指派给所检测到的目标对象1320的所确定的属性。这些属性是基于从传感器1348接收到的数据来确定的。例如，计算机处理器1328被配置为使用贝叶斯模型机器学习处理器，该贝叶斯模型机器学习处理器将权重指派给由照相机或LiDAR检测到的某些特征，诸如目标运载工具正在操作的车道、目标运载工具的门是否打开/关闭、基于诸如发动机声音等的视听提示得出目标运载工具的发动机是否正在运行等。所指派的权重可以基于学习哪些特定因素在与其它因素比较时对于预测目标对象1320是否有可能静止(或继续移动)一定时间段而言影响目标运载工具的状态的确定。例如，在实施例中，计算机处理器1328通过前面论述的一个或多个机器学习技术学习到如下：目标运载工具的发动机的关闭与该对象在停车道中相比更能指示目标运载工具将保持静止一定时间段，并且计算机处理器1328相应地将权重指派给各属性(例如，对于目标运载工具的发动机没有正在运行这一事实，权重值更高)。在实施例中，权重用于产生与目标对象1320将保持静止和/或处于运动的可能性相关联的预测值(例如，预测得分)。在实施例中，基于例如反馈信息来连续地更新计算机处理器1328指派权重的方式。计算机处理器1328或人类操作员可以基于如此得到的输出(例如，推断)来确定输出是否超过误差阈值，并且如果输出的确超过误差阈值，则相应地更新(例如，调整)加权方案。例如，如果计算机处理器1328基于所接收到的传感器信息和加权方案预测到目标对象1320将保持静止30秒、并且目标对象1320实际上仅保持静止10秒，则计算机处理器1328可以确定20秒的误差。如果20秒超过误差阈值(例如，15秒)，则可以以减小关联的误差的方式更新用于确定预测活动的加权方案。

在实施例中，计算机处理器1328被配置为对影响目标对象1320的状态的确定的因素进行排名。然后，计算机处理器1328基于各种因素的相对排名之间的比较来确定状态。在实施例中，排名是基于机器学习技术预先确定的。在实施例中，排名是基于人类输入预先确定的。

在实施例中，当计算机处理器1328执行计算机可执行指令时，计算机处理器1328被配置为根据活动预测来对接近AV 1304的至少一个目标对象1320进行分类。在实施例中，对目标对象1320进行分类包括：确定对象1320是非活动或活动的可能性。在实施例中，计算机处理器1328基于对象1320被预测为保持静止或保持移动的时间量(例如，预测活动)来确定对象1320是活动还是非活动的。

例如，在实施例中，如果所接收到的传感器信息指示目标运载工具正在向前移动并且其发动机正在运行，则计算机处理器1328确定为目标运载工具将保持处于运动至少额外30秒，并且基于该确定，计算机处理器1328将目标运载工具分类为活动。如果所接收到的传感器信息指示目标运载工具以其发动机不运行的状态静止、并且在目标运载工具中不存在乘客，则计算机处理器1328确定为目标小汽车将保持静止至少额外30秒，并且基于该确定，可以将目标运载工具分类为非活动。如果传感器信息指示目标运载工具是静止的但其发动机正在运行、激活的转弯信号(有时称为闪光信号灯)表示目标运载工具可能正在驶入交通、并且驾驶员在目标运载工具内回头看，则计算机处理器1328确定为目标运载工具将不会保持静止至少额外30秒，并且基于该确定，将目标运载工具分类为活动。可能导致确定为目标对象1320是活动(例如，将保持处于运动一定时间段或者将不会保持静止一定时间段)的其它因素可以包括：传感器信息是否指示目标运载工具在停车灯前停止；传感器信息是否指示目标运载工具正在搭载乘客；传感器信息是否指示目标运载工具正在穿过高速公路；传感器信息是否指示目标运载工具正在密集交通条件下操作；传感器信息是否指示目标运载工具的转弯信号被激活；传感器信息是否指示目标对象1320是静止的道路固定装置(例如，消火栓、路灯等)；传感器信息是否指示目标对象1320是进入人行横道的行人；等等。预定时间间隔可以是用户/制造商的选择，或者可以由计算机处理器1328(例如，使用一个或多个机器学习技术)学习，并且可以是基于例如安全、效率和实际考虑。

在实施例中，对目标对象1320进行分类包括：将超过值指派给目标对象1320。例如，计算机处理器1328产生与AV 1304是否应通过目标对象(例如，通过增加AV 1304的速率并且使AV 1304进行绕过目标对象1320的机动动作)有关的得分。超过值可以与如前面论述的加权方案相关联，该加权方案用于(例如，基于发动机热值、乘客/驾驶员的存在、驾驶员身***置、到停车灯的距离等)确定目标对象1320将保持静止或处于运动的可能性。

在实施例中，计算机处理器1328被配置为从例如数据存储装置1364和/或服务器1312接收历史传感器信息，并且除了基于所接收到的当前传感器信息之外，还基于该历史传感器信息，确定为目标对象1320是活动/非活动的。例如，在先前时间点，AV 1304可能已通过了被确定为停放和非活动的目标运载工具。在到达相同地点时，如果所接收到的当前传感器信息指示目标运载工具在相同停放地点处静止，则计算机处理器1328基于当前传感器信息和所存储的历史传感器信息来确定为目标运载工具是非活动的。

在实施例中，计算机处理器1328生成与至少一个目标对象1320的分类相对应的不确定性值。可以根据前面论述的加权方案和/或历史数据(诸如与过去预测的准确度相关联的数据等)来指派不确定性值。例如，在实施例中，与具有较高预测得分的已被分类为活动的目标对象1320相比，计算机处理器1328(基于加权方案)向与具有较低预测得分的已被分类为活动的目标对象1320相关联的分类指派更高的不确定性值。如前面所述，加权方案可以基于先前分类的准确度的确定，因此不确定性值也可以基于先前分类的准确度。

在实施例中，当计算机处理器1328执行计算机可执行指令时，计算机处理器1328被配置为使控制模块1336(例如，控制器电路)至少部分地基于至少一个目标对象1320的分类来操作AV 1304的AV控制1340(例如，控制功能)。例如，在实施例中，当计算机处理器1328将目标对象1320分类为非活动时，控制模块1336以使AV 1304超过目标对象1320的方式操作AV控制1340。图14示出根据本发明的一个或多个实施例的环境1400，其中在该环境1400中，AV 1304基于目标运载工具1412的分类来超过目标运载工具1412。如图14所示，AV 1304在穿过路径1450朝向目的地地点1428时接近目标运载工具1412。传感器信息例如指示：目标运载工具1412略微偏离路径1450、静止、不具有正在运行的发动机、并且在目标运载工具1412中不存在驾驶员/乘客。基于该信息，AV 1304确定为目标运载工具1412是非活动的，并且确定为超过目标运载工具1412。控制模块1336以使AV 1304进行绕过目标运载工具1412的机动动作的方式(例如，通过向AV控制1340传输控制信号)操作AV控制1340。

返回参考图13，在实施例中，控制模块1336至少部分地基于至少一个道路规则来操作AV控制1340。例如，计算机处理器1328使控制模块1336根据与限速、车道违规、交通灯违规等有关的法律来操作AV控制1340。在实施例中，控制模块1336以使AV 1304改变其穿过路线的方式操作AV控制1340。例如，如果AV 1304正在穿过第一路线(例如，主要路线)并且计算机处理器1328确定为大量(例如，5个、10个、20个等)目标对象1320是非活动的，则计算机处理器1328使控制模块1336操作AV控制1340，使得AV 1304穿过第二路线(例如，替代路线)。

在实施例中，控制模块1336操作AV控制1340以使AV 1304以预定速率接近目标对象1320。预定速率可以是相对于张贴限速有所降低的速率。在实施例中，控制模块1336操作AV控制1340以使AV 1304与目标对象1320维持预定距离。预定距离可以是相对于基于安全考虑而应维持的推荐距离有所增加的距离(例如，加利福尼亚州驾驶手册推荐基于运载工具的当前行驶速率的两秒的跟随距离)。预定速率和/或距离可以是基于与目标对象1320的分类相关联的不确定性值。例如，如果不确定性值超过不确定性值阈值(例如，30％不确定)，则与当目标对象1320的分类与更低的不确定性值(例如，20％不确定)相关联时相比，可以使AV 1304维持更大的距离和更慢的速率。

在实施例中，当与目标对象的分类相关联的不确定性值满足不确定性值阈值时，控制模块1336操作AV控制1340以使AV 1304停止或减慢。在实施例中，当使AV 1304停止或减速时，计算机处理器1328使传感器1348捕获与目标对象相对应的附加传感器信息。例如，假定目标对象1320已被指派了不确定性值是30％或更高的分类。如果不确定性值阈值是29％，则指派给分类的不确定性值可被确定为满足不确定性值阈值，并且可以使AV 1304停止或以预定速率(例如，5mph、10mph等)接近目标对象，使得传感器1348捕获与目标对象1320相关联的附加传感器信息(例如，目标对象保持静止的时间量、目标运载工具中的乘客数量、与目标小汽车的发动机相关联的不断变化的热值等)。附加传感器信息可用于调整所指派的分类或与所指派的分类相对应的不确定性值。

在实施例中，控制模块1336操作AV控制1340，使得使AV 1304以预测速率行驶。在实施例中，预测速率是至少部分地基于所学习的类似人类的行为。例如，计算机处理器1328使用传感器1348来观察在环境中(在AV 1304或另一运载工具中)导航的人类驾驶员，并通过一个或多个机器学习技术(例如，深度学习)进行学习，以在预测AV 1304在给定情形中应当行驶的速率方面复制所观察到的行为。在实施例中，计算机处理器1328(例如，从数据存储装置1364和/或服务器1312)访问与人类驾驶员相关联的驾驶日志，这些驾驶日志可以包括与人类驾驶员的动作相关联的视频和/或与人类驾驶员的动作相关联的历史速率数据。基于这些观察和/或驾驶日志，计算机处理器1328进行学习，以在遇到与人类驾驶员类似的情形时复制人类驾驶员所采取的动作。因此，计算机处理器1328例如进行学习，以采用与可能驶入交通或正快速穿过高速公路的目标对象1320相比更积极的方式超过(例如，通过)停放/非活动的目标对象1320，并且使得相应地对AV控制1340进行控制。作为另一示例，计算机处理器1328进行学习，以在目标对象1320是横穿AV 1304正穿过的街道的塑料袋或风滚草时停止或减速。计算机处理器1328进行学习，以在目标对象1320是横穿街道的婴儿车时，与在目标对象1320是风滚草时相比，更积极地停止，以及/或者进行学习，以在特定情况中加速将更有可能允许避开婴儿车的情况下加速。在实施例中，计算机处理器1328进行学习，以在驶过目标对象1320不太可能对AV 1304造成损坏时，驶过某些目标对象1320。例如，计算机处理器1328(例如，基于形状、大小、运动、变形能力等)将塑料袋/风滚草与大石块区分开，并使AV 1304驶过塑料袋/风滚草。

在实施例中，预测速率是至少部分地基于所接收到的传感器信息、历史传感器信息、AV 1304的历史速率数据、与AV 1304相关联的当前位置数据、至少一个目标对象1320的位置数据和/或交通灯数据。例如，计算机处理器1328基于限速信息或所检测到的交通灯信息来确定为AV 1304应当以相对于其当前速率更快的速率行驶，并且使得对AV控制1340进行控制以增加AV 1304的速率。当AV 1304正在穿过先前已穿过的高速公路、并且与AV 1304相关联的历史速率记录指示AV 1304通常以更快的速率在特定高速公路上移动时，计算机处理器1328确定为AV 1304应当以相对于其当前速率更快的速率行驶。

图15示出根据本发明的一个或多个实施例的用于基于活动来对感知对象进行分类的方法1500。为了说明的目的，方法1500被描述为由用于基于活动来对感知对象进行分类的***1300进行。然而，方法1500可以由能够感知对象并对对象进行分类的其它***1300进行。方法1500包括：检测与至少一个对象相对应的传感器信息(块1501)；接收传感器信息(块1502)；确定活动预测(块1503)；对至少一个对象进行分类(块1504)；以及操作控制功能(块1505)。

在块1501，传感器1348检测与接近AV 1304的环境相关联的传感器信息。传感器信息可以包括接近AV 1304的目标对象1320的对象检测、速率和/或地点数据(例如，运载工具、行人、交通灯、交通标志、道路/车道标记等的地点)。如前面所述，目标对象1320例如可以是运载工具(例如，小汽车、小型摩托车、自行车等)、行人、道路固定装置等。

在块1502，计算机处理器1328从传感器1348接收所捕获的传感器信息。

在块1503，计算机处理器1328根据所接收到的传感器信息，针对接近AV 1304的至少一个目标对象1320来确定活动预测。例如，计算机处理器1328确定接近AV 1304的目标运载工具将静止一定时间段(例如，10秒、30秒、1分钟等)的可能性。在实施例中，确定活动预测包括：确定与接近AV 1304的目标对象1320相关联的一个或多个属性。例如，计算机处理器1328基于所接收到的传感器信息来确定目标运载工具所在的道路车道、目标运载工具到停车灯/标志的距离、目标运载工具到指定停车场的距离、目标对象前方的空闲空间量、目标运载工具正在操作的区域的限速等。

在实施例中，计算机处理器1328将一个或多个权重指派给所检测到的目标对象1320的所确定的属性。例如，当计算机处理器1328包括贝叶斯模型机器学习处理器时，计算机处理器1328将权重指派给某些特征，诸如目标运载工具正在操作的车道、目标运载工具的门是否打开/关闭、目标运载工具的发动机是否正在运行等。所指派的权重可以基于学习哪些特定因素在与其它因素比较时倾向于对于预测目标对象1320是否有可能静止(或继续移动)一定时间段具有更大的影响。例如，计算机处理器1328可以通过前面论述的一个或多个机器学习技术学习到：目标运载工具的发动机关闭与该对象在停车道中相比更能指示目标运载工具将保持静止一定时间段，并且计算机处理器1328可以相应地将权重指派给各属性(例如，对于目标运载工具的发动机没有正在运行这一事实，权重值更高)。在实施例中，权重用于产生与目标对象1320将保持静止和/或处于运动的可能性相关联的预测值(例如，预测得分)。在实施例中，基于例如反馈信息来连续地更新计算机处理器1328指派权重的方式。计算机处理器1328或人类操作员可以基于如此得到的输出(例如，推断)来确定输出是否超过误差阈值，并且如果输出的确超过误差阈值，则相应地更新(例如，调整)加权方案。例如，如果计算机处理器1328基于所接收到的传感器信息和加权方案预测到目标对象1320将保持静止30秒、并且目标对象1320实际上仅保持静止10秒，则计算机处理器1328确定20秒的误差。如果20秒超过误差阈值(例如，15秒)，则可以以减小关联误差的方式更新用于确定预测活动的加权方案。

在块1504，计算机处理器1328根据活动预测来对接近AV 1304的至少一个目标对象1320进行分类。在实施例中，对目标对象1320进行分类包括：确定对象1320是非活动或活动的可能性。基于对象1320被预测为保持静止或保持移动的时间量(例如，预测活动)，计算机处理器1328确定对象1320是活动还是非活动的。

例如，如果所接收到的传感器信息指示目标运载工具正在向前移动并且其发动机正在运行，则计算机处理器1328可以确定为目标运载工具将保持处于运动至少额外30秒，并且基于该确定，计算机处理器1328将目标运载工具分类为活动。如果所接收到的传感器信息指示目标运载工具以其发动机不运行的状态静止、并且在目标运载工具中不存在乘客，则计算机处理器1328可以确定为目标小汽车将保持静止至少额外30秒，并且基于该确定，可以将目标运载工具分类为非活动。如果传感器信息指示目标运载工具是静止的但其发动机正在运行、激活的转弯信号指示示目标运载工具可能正在驶入交通、并且驾驶员在目标运载工具内回头看，则计算机处理器1328确定为目标运载工具将不会保持静止至少额外30秒，并且基于该确定，将目标运载工具分类为活动。可能导致确定为目标对象1320是活动(例如，将保持处于运动一定时间段或者将不会保持静止一定时间段)的其它因素可以包括：传感器信息是否指示目标运载工具在停车灯前停止；传感器信息是否指示目标运载工具正在搭载乘客；传感器信息是否指示目标运载工具正在穿过高速公路；传感器信息是否指示目标运载工具正在密集交通条件下操作；传感器信息是否指示目标对象1320是静止的道路固定装置(例如，消火栓、路灯等)；传感器信息是否指示目标对象1320是进入人行横道的行人；等等。预定时间间隔可以是用户/制造商的选择，或者可以由计算机处理器1328(例如，使用一个或多个机器学习技术)学习，并且可以是基于例如安全、效率和实际考虑。

在实施例中，对目标对象1320进行分类包括：将超过值指派给目标对象1320。例如，计算机处理器1328产生与AV 1304是否应通过目标对象(例如，通过增加AV 1304的速率并且使AV 1304进行绕过目标对象1320的机动动作)有关的得分。超过值可以与如前面论述的加权方案相关联，该加权方案用于(例如，基于发动机热值、乘客/驾驶员的存在、驾驶员身***置、到停车灯的距离等)确定目标对象1320将保持静止或处于运动的可能性。

在实施例中，计算机处理器1328从例如数据存储装置1364和/或服务器1312接收历史传感器信息，并且除了基于所接收到的当前传感器信息之外，还基于该历史传感器信息，确定为目标对象1320是活动/非活动的。例如，在先前时间点，AV 1304可能已通过了被确定为停放和非活动的目标运载工具。在到达相同地点时，如果所接收到的当前传感器信息指示目标运载工具在相同停放地点处静止，则计算机处理器1328可以基于当前传感器信息和所存储的历史传感器信息来确定为目标运载工具是非活动的。

在实施例中，计算机处理器1328生成与至少一个目标对象1320的分类相对应的不确定性值。可以根据前面论述的加权方案和/或历史数据(诸如与过去预测的准确度相关联的数据等)来指派不确定性值。例如，与具有较高预测得分的已被分类为活动的目标对象1320相比，计算机处理器1328可以(基于加权方案)向与具有较低预测得分的已被分类为活动的目标对象1320相关联的分类指派更高的不确定性值。如前面所述，加权方案可以基于先前分类的准确度的确定，因此不确定性值也可以基于先前分类的准确度。

在块1505，计算机处理器1328被配置为使控制模块1336(例如，控制器电路)至少部分地基于至少一个目标对象1320的分类来操作AV 1304的AV控制1340(例如，控制功能)。例如，在实施例中，当计算机处理器1328将目标对象1320分类为非活动时，控制模块1336以使AV 1304超过目标对象1320的方式操作AV控制1340。在实施例中，控制模块1336至少部分地基于至少一个道路规则来操作AV控制1340。例如，计算机处理器1328可以使控制模块1336根据与限速、车道违规、交通灯违规等有关的法律来操作AV控制1340。在实施例中，控制模块1336以使AV 1304改变其穿过路线的方式操作AV控制1340。例如，如果AV 1304正在穿过第一路线(例如，主要路线)并且计算机处理器1328确定为大量(例如，5个、10个、20个等)目标对象1320是非活动的，则计算机处理器1328可以使控制模块1336操作AV控制1340，使得AV 1304穿过第二路线(例如，替代路线)。

在实施例中，控制模块1336操作AV控制1340以使AV 1304以预定速率接近目标对象1320。例如，预定速率是相对于张贴限速有所下降的速率。在实施例中，控制模块1336操作AV控制1340以使AV 1304与目标对象1320维持预定距离。例如，预定距离是相对于推荐跟随距离有所增加的距离。预定速率和/或距离可以是基于与目标对象1320的分类相关联的不确定性值。例如，如果不确定性值超过不确定性值阈值(例如，30％不确定)，则与当目标对象1320的分类与更低的不确定性值(例如，20％不确定)相关联时相比，可以使AV 1304维持更大的距离和更慢的速率。

在实施例中，当与目标对象的分类相关联的不确定性值满足不确定性值阈值时，控制模块1336操作AV控制1340以使AV 1304停止或减慢。在实施例中，当使AV 1304停止或减速时，计算机处理器1328使传感器1348捕获与目标对象相对应的附加传感器信息。例如，假定目标对象1320已被指派了不确定性值是30％或更高的分类。如果不确定性值阈值是29％，则指派给分类的不确定性值可被确定为满足不确定性值阈值，并且可以使AV 1304停止或以预定速率(例如，5mph、10mph等)接近目标对象，使得传感器1348捕获与目标对象1320相关联的附加传感器信息(例如，目标对象保持静止的时间量、目标运载工具中的乘客数量、与目标小汽车的发动机相关联的不断变化的热值等)。附加传感器信息可用于调整所指派的分类或与所指派的分类相对应的不确定性值。

在实施例中，控制模块1336操作AV控制1340，使得使AV 1304以预测速率行驶。在实施例中，预测速率是至少部分地基于所学习的类似人类的行为。例如，计算机处理器1328使用传感器1348来观察在环境中(在AV 1304或另一运载工具中)导航的人类驾驶员，并通过一个或多个机器学习技术(例如，深度学习)进行学习，以在预测AV 1304在给定情形中应当行驶的速率方面复制所观察到的行为。计算机处理器1328(例如，从数据存储装置1364和/或服务器1312)访问与人类驾驶员相关联的驾驶日志，这些驾驶日志可以包括与人类驾驶员的动作相关联的视频和/或与人类驾驶员的动作相关联的历史速率数据。基于这些观察和/或驾驶日志，计算机处理器1328进行学习，以在遇到与人类驾驶员类似的情形时复制人类驾驶员所采取的动作。因此，计算机处理器1328例如可以进行学习，以采用与可能驶入交通或正快速穿过高速公路的目标对象1320相比更积极的方式超过(例如，通过)停放/非活动的目标对象1320，并且使得相应地对AV控制1340进行控制。作为另一示例，计算机处理器1328可以进行学习，以在目标对象1320是横穿AV 1304正穿过的街道的塑料袋或风滚草时停止或减速。计算机处理器1328还可以进行学习，以在目标对象1320是横穿街道的婴儿车时，与在目标对象1320是风滚草时相比，更积极地停止，以及/或者进行学习，以在特定情况中加速将更有可能允许避开婴儿车的情况下加速。

在实施例中，预测速率是至少部分地基于所接收到的传感器信息、历史传感器信息、AV 1304的历史速率数据、与AV 1304相关联的当前位置数据、至少一个目标对象1320的位置数据和/或交通灯数据。例如，计算机处理器1328可以基于限速信息或所检测到的交通灯信息来确定为AV 1304应当以相对于其当前速率更快的速率行驶，并且使得对AV控制1340进行控制以增加AV 1304的速率。当AV 1304正在穿过先前已穿过的高速公路、并且与AV 1304相关联的历史速率记录指示AV 1304通常以更快的速率在特定高速公路上移动时，计算机处理器1328可以确定为AV 1304应当以相对于其当前速率更快的速率行驶。

附加实施例

在实施例中，操作运载工具的控制功能包括：使运载工具以预定速率接近至少一个对象。

在实施例中，操作运载工具的控制功能包括：使运载工具与至少一个对象维持预定距离。

在实施例中，当运载工具正在穿过主要路线时，操作运载工具的控制功能包括：使运载工具穿过替代路线。

在实施例中，对至少一个对象进行分类包括：基于至少一个视听提示来确定至少一个对象是否具有正在运行的发动机。

在实施例中，至少一个传感器检测与接近运载工具的至少一个对象相对应的传感器信息。该传感器信息是从该至少一个传感器接收到的。根据该传感器信息，针对该至少一个对象来确定活动预测。根据该活动预测来对该至少一个对象进行分类。至少部分地基于该至少一个对象的分类来操作运载工具的控制功能。

在实施例中，运载工具包括至少一个传感器，该至少一个传感器被配置为接收与接近运载工具的至少一个对象相对应的传感器信息。至少一个控制器电路被配置为操作运载工具的控制功能。计算机可读介质存储计算机可执行指令。至少一个处理器通信地耦接至至少一个传感器，并且被配置为执行计算机可执行指令以从至少一个传感器接收传感器信息。根据该传感器信息，针对至少一个对象来确定活动预测。根据该活动预测来将至少一个对象分类为活动和非活动其中之一。根据至少一个对象是非活动的分类，使控制器电路操作运载工具的控制功能以通过该至少一个对象。

在实施例中，至少一个处理器包括贝叶斯模型处理器。

在实施例中，至少一个处理器包括深度学习处理器。

在实施例中，深度学习处理器包括以下至少一个：前馈神经网络、卷积神经网络、径向基函数神经网络、递归神经网络和模块化神经网络。

在实施例中，确定为至少一个对象是活动的包括：确定至少一个对象是否将在预定时间间隔内处于运动。

在实施例中，确定至少一个对象是非活动的包括：确定至少一个对象是否将在预定时间间隔内保持静止。

在实施例中，至少一个处理器被配置为基于所接收到的传感器信息来确定至少一个对象的一个或多个属性。对至少一个对象进行分类是至少部分地基于所确定的一个或多个属性。

在实施例中，一个或多个属性包括以下至少之一：至少一个对象所在的道路车道、至少一个对象到交通标志的距离、至少一个对象到指定停车位的距离以及至少一个对象的速率。

在实施例中，当至少一个处理器正在执行计算机可执行指令时，至少一个处理器进一步执行操作以向至少一个对象的所确定的一个或多个属性指派权重，以及至少部分地基于所指派的权重来对至少一个对象进行分类。

在实施例中，当至少一个处理器正在执行计算机可执行指令时，至少一个处理器进一步执行操作，以基于反馈信息来连续地更新所指派的权重。

在实施例中，操作运载工具的控制功能包括：当至少一个处理器将至少一个对象分类为非活动时，使运载工具超过至少一个对象。

在实施例中，使控制器电路操作运载工具的控制功能也是至少部分地基于至少一个道路规则。

在实施例中，当所述至少一个处理器正在执行计算机可执行指令时，至少一个处理器进一步执行操作，以生成与至少一个对象的分类相对应的不确定性值。

在实施例中，当至少一个处理器正在执行计算机可执行指令时，至少一个处理器进一步执行操作，以在不确定性值满足不确定值阈值时，使控制器电路操作运载工具的控制功能以使运载工具进行停止和减速至少之一。使至少一个传感器捕获与至少一个对象相对应的附加传感器信息。

在实施例中，操作运载工具的控制功能包括：使运载工具以预定速率接近至少一个对象。

在实施例中，操作运载工具的控制功能包括：使运载工具与至少一个对象维持预定距离。

在实施例中，当运载工具正在穿过主要路线时，操作运载工具的控制功能包括：使运载工具穿过替代路线。

在实施例中，对至少一个对象进行分类包括：基于至少一个视听提示来确定至少一个对象是否具有正在运行的发动机。

在实施例中，至少一个传感器检测与接近运载工具的至少一个对象相对应的传感器信息。该传感器信息是从该至少一个传感器接收到的。根据该传感器信息针对该至少一个对象来确定活动预测。根据该活动预测将该至少一个对象分类为活动和非活动其中之一。至少部分地基于该至少一个对象是非活动的分类来操作运载工具的控制功能。

在先前描述中，已经参考许多具体细节描述了本发明的实施例，这些具体细节可因实现而不同。因此，说明书和附图应被视为说明性的，而非限制性意义的。本发明范围的唯一且排他的指示、以及申请人期望是本发明范围的内容是以发布权利要求书的具体形式从本申请发布的权利要求书的字面和等同范围，包括任何后续修正。本文中明确阐述的用于被包括在此类权利要求中的术语的任何定义应当以此类术语如在权利要求书中所使用的意义为准。另外，当在先前的说明书或所附权利要求书使用术语“还包括”时，该短语的下文可以是附加的步骤或实体、或先前所述的步骤或实体的子步骤/子实体。

Claims (20)

1.一种运载工具，包括：

至少一个传感器，其被配置为接收与接近所述运载工具的至少一个对象相对应的传感器信息；

至少一个控制器电路，其被配置为操作所述运载工具的控制功能；

计算机可读介质，其存储计算机可执行指令；以及

至少一个处理器，其通信地耦接至所述至少一个传感器，并且被配置为执行所述计算机可执行指令以：

从所述至少一个传感器接收所述传感器信息；

根据所述传感器信息，针对所述至少一个对象来确定活动预测；

根据所述活动预测来对所述至少一个对象进行分类；以及

使所述控制器电路至少部分地基于所述至少一个对象的分类来操作所述运载工具的控制功能。

2.根据权利要求1所述的运载工具，其中，所述至少一个处理器包括贝叶斯模型处理器。

3.根据权利要求1或2所述的运载工具，其中，所述至少一个处理器包括深度学习处理器。

4.根据权利要求3所述的运载工具，其中，所述深度学习处理器包括以下项至少之一：前馈神经网络、卷积神经网络、径向基函数神经网络、递归神经网络和模块化神经网络。

5.根据权利要求1至4中任一项所述的运载工具，其中，对所述至少一个对象进行分类包括：确定所述至少一个对象是非活动或活动的可能性。

6.根据权利要求5所述的运载工具，其中，确定为所述至少一个对象是活动的包括：确定所述至少一个对象是否将在预定时间间隔内处于运动。

7.根据权利要求5所述的运载工具，其中，确定为所述至少一个对象是非活动的包括：确定所述至少一个对象是否将在预定时间间隔内保持静止。

8.根据权利要求1至7中任一项所述的运载工具，其中，操作所述运载工具的控制功能包括：使所述运载工具以预测速率行驶，其中所述预测速率是至少部分地基于所学习的类似人类的行为。

9.根据权利要求1至8中任一项所述的运载工具，其中，操作所述运载工具的控制功能包括：使所述运载工具以预测速率行驶，其中所述预测速率是至少部分地基于以下项至少之一：传感器数据、所述运载工具的历史速率数据、所述运载工具的位置数据、所述至少一个对象的当前位置数据、所述至少一个对象的历史位置数据以及交通灯数据。

10.根据权利要求1至9中任一项所述的运载工具，其中，对所述至少一个对象进行分类包括：指派超过值。

11.根据权利要求1至10中任一项所述的运载工具，其中，所述至少一个处理器被配置为基于所接收到的传感器信息来确定所述至少一个对象的一个或多个属性，以及其中，使所述控制器电路操作所述运载工具的控制功能是至少部分地基于所确定的一个或多个属性。

12.根据权利要求11所述的运载工具，其中，所述一个或多个属性包括以下项至少之一：所述至少一个对象所在的道路车道、所述至少一个对象到交通标志的距离、所述至少一个对象到指定停车位的距离以及所述至少一个对象的速率。

13.根据权利要求11或12所述的运载工具，其中，当所述至少一个处理器正在执行所述计算机可执行指令时，所述至少一个处理器进一步执行操作以向所述至少一个对象的所确定的一个或多个属性指派权重，以及使所述控制器电路操作所述运载工具的控制功能是至少部分地基于所指派的权重。

14.根据权利要求13所述的运载工具，其中，当所述至少一个处理器正在执行所述计算机可执行指令时，所述至少一个处理器进一步执行操作以基于反馈信息来连续地更新所指派的权重。

15.根据权利要求1至14中任一项所述的运载工具，其中，操作所述运载工具的控制功能包括：当所述至少一个处理器将所述至少一个对象分类为非活动时，使所述运载工具超过所述至少一个对象。

16.根据权利要求15所述的运载工具，其中，使所述控制器电路操作所述运载工具的控制功能也是至少部分地基于至少一个道路规则。

17.根据权利要求1至16中任一项所述的运载工具，其中，当所述至少一个处理器正在执行所述计算机可执行指令时，所述至少一个处理器进一步执行操作以生成与所述至少一个对象的分类相对应的不确定性值。

18.根据权利要求17所述的运载工具，其中，当所述至少一个处理器正在执行所述计算机可执行指令时，所述至少一个处理器进一步执行操作以：

在所述不确定性值满足不确定性值阈值的情况下，使所述控制器电路操作所述运载工具的控制功能以使所述运载工具进行停止和减速至少之一，以及

使所述至少一个传感器捕获与所述至少一个对象相对应的附加传感器信息。

19.一种方法，包括：

利用运载工具的至少一个传感器，接收与接近所述运载工具的至少一个对象相对应的传感器信息；

利用所述运载工具的至少一个控制器电路，操作所述运载工具的控制功能；

利用所述运载工具的一个或多个处理器，从所述至少一个传感器接收所述传感器信息；

利用所述一个或多个处理器，根据所述传感器信息针对所述至少一个对象来确定活动预测；

利用所述一个或多个处理器，根据所述活动预测来对所述至少一个对象进行分类；以及

利用所述一个或多个处理器，使所述控制器电路至少部分地基于所述至少一个对象的分类来操作所述运载工具的控制功能。

20.一种计算机可读存储介质，其存储有指令，所述指令在由一个或多个处理器执行时，使所述一个或多个处理器：

利用运载工具的至少一个传感器，接收与接近所述运载工具的至少一个对象相对应的传感器信息；

利用所述运载工具的至少一个控制器电路，操作所述运载工具的控制功能；

从所述至少一个传感器接收所述传感器信息；

根据所述传感器信息，针对所述至少一个对象来确定活动预测；

根据所述活动预测来对所述至少一个对象进行分类；以及

使所述控制器电路至少部分地基于所述至少一个对象的分类来操作所述运载工具的控制功能。

Images