JP6722280B2 - 自律走行車の交通予測における予測軌跡の評価フレームワーク - Google Patents

自律走行車の交通予測における予測軌跡の評価フレームワーク Download PDF

Info

Publication number
JP6722280B2
JP6722280B2 JP2018514804A JP2018514804A JP6722280B2 JP 6722280 B2 JP6722280 B2 JP 6722280B2 JP 2018514804 A JP2018514804 A JP 2018514804A JP 2018514804 A JP2018514804 A JP 2018514804A JP 6722280 B2 JP6722280 B2 JP 6722280B2
Authority
JP
Japan
Prior art keywords
trajectory
predicted
lane
actual
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018514804A
Other languages
English (en)
Other versions
JP2019527813A (ja
Inventor
リー リユン
リー リユン
ミャオ ジンハオ
ミャオ ジンハオ
シア ジョンプー
シア ジョンプー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu com Times Technology Beijing Co Ltd
Baidu USA LLC
Original Assignee
Baidu com Times Technology Beijing Co Ltd
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu com Times Technology Beijing Co Ltd, Baidu USA LLC filed Critical Baidu com Times Technology Beijing Co Ltd
Publication of JP2019527813A publication Critical patent/JP2019527813A/ja
Application granted granted Critical
Publication of JP6722280B2 publication Critical patent/JP6722280B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0011Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0221Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • G06F18/2178Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor
    • G06F18/2185Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor the supervisor being an automated module, e.g. intelligent oracle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/778Active pattern-learning, e.g. online learning of image or video features
    • G06V10/7784Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors
    • G06V10/7788Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors the supervisor being a human, e.g. interactive learning with a human teacher
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/161Decentralised systems, e.g. inter-vehicle communication
    • G08G1/163Decentralised systems, e.g. inter-vehicle communication involving continuous checking
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30241Trajectory

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Automation & Control Theory (AREA)
  • Mathematical Physics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Human Computer Interaction (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)

Description

本発明の実施形態は、一般的に自律走行車(ADV:autonomous driving vehicle)を動作させることに関する。より具体的には、本発明の実施形態は、自律走行車の交通予測を評価することに関する。
自律走行モードで(例えば、運転者(human drivers)なしで)動作させる車両で乗員、特に運転者は、いくつかの運転と関連して担当している点から軽減されることができる。自律走行モードで動作させるとき、自律走行車はオンボードセンサを使用してさまざまな場所にナビゲートすることができ、その結果、最小限のヒューマンコンピュータインタラクションで、又はいくつかの場合、乗客なしに車両が移動することが許容される。
交通予測は、自律走行車のソフトウェアを作成する際に解決すべき非常に重要な問題である。感知モジュールがセンサデータを収集し、構造化された検出対象(例えば、車両、サイクリスト及び歩行者)を生成する間に、予測モジュールは、実際にこのような対象の動作を実際予測しなければならない。予測結果は、近い将来に対象が存在可能な時間−空間位置を示す予測軌跡を含む。具体的なカテゴリー的レベルで予測の「行動」を評価することは簡単ですが、予測軌跡と実際軌跡との間の実際の類似度を数値的客観的に測定することは非常に困難である。
本発明の実施形態は、自律走行車両の軌跡予測を評価するためのコンピュータ実現方法、非一時的機械可読媒体及びデータ処理システムを提供する。
本発明の一実施形態によれば、自律走行車両の軌跡予測を評価するためのコンピュータに実現される方法は、自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法を用いて生成された対象の予測軌跡を受信するステップと、予測軌跡の複数の軌跡点から選択された少なくとも一部の軌跡点について、選択された軌跡点から複数の特徴を抽出するステップと、抽出された特徴にDNN(deep neural network)モデルを適用して類似度スコアを生成するステップであって、前記類似度スコアは、前記予測軌跡と、前記DNNモデルによってモデル化された以前の実際軌跡との間の類似度を示す、ステップと、類似度スコアに基づいて予測方法の精度を決定するステップとを含む。
本発明の他の実施形態では、非一時的機械可読媒体は、プロセッサによって実行されるときにプロセッサに動作を実行させるコマンドを記憶する。動作は、自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法を用いて生成された対象の予測軌跡を受信することと、予測軌跡の複数の軌跡点から選択された少なくとも一部の軌跡点について、選択された軌跡点から複数の特徴を抽出することと、抽出された特徴にDNNモデルを適用して類似度スコアを生成することであって、前記類似度スコアは、前記予測軌跡と、前記DNNモデルによってモデル化された以前の実際軌跡との間の類似度を示す、ことと、類似度スコアに基づいて予測方法の精度を決定することとを含む。
本発明の別の実施形態では、データ処理システムは、プロセッサと、前記プロセッサに接続されてコマンドを記憶するためのメモリとを含み、前記コマンドは、前記プロセッサによって実行されるとき、前記プロセッサに動作を実行させる。動作は、自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法を用いて生成された対象の予測軌跡を受信することと、予測軌跡の複数の軌跡点から選択された少なくとも一部の軌跡点について、選択された軌跡点から複数の特徴を抽出することと、抽出された特徴にDNNモデルを適用して類似度スコアを生成することであって、前記類似度スコアは、前記予測軌跡と、前記DNNモデルによってモデル化された以前の実際軌跡との間の類似度を示す、ことと、類似度スコアに基づいて予測方法の精度を決定することとを含む。
本発明の実施形態は、同一の符号(参照番号)が同一の要素を示す添付図面において例示として説明されるが、これに限定されない。
一実施形態に係るネットワークシステムを示すブロック図である。 一実施形態に係る自律走行車の一例を示すブロック図である。 一実施形態に係る自律走行車と一緒に使用される感知や計画システムの一例を示すブロック図である。 一実施形態に係るデータ分析システムを示すブロック図である。 実際軌跡と予測軌跡の一例を示す図である。 一実施形態に係るDNN(Deep Neural Network)の一例を示すブロック図である。 一実施形態に係るDNNを訓練するプロセスを示すフローチャートである。 一実施形態に係る自律走行車の予測方法を評価するプロセスを示すフローチャートである。 一実施形態に係るデータ処理システムを示すブロック図である。
以下、検討した詳細を参照して本発明の様々な実施形態及び態様を説明し、添付の図面は、前記様々な実施形態を示す。以下の説明及び図面は、本発明の例示であり、本発明を限定するものとして解釈されるべきではない。本発明の様々な実施形態の完全な理解を提供するために、多くの詳細が記載されている。しかしながら、場合によって、本発明の実施形態の説明の簡潔さから、周知又は従来の詳細は記載されていない。
本明細書において、「一実施形態」又は「実施形態」とは、当該実施形態に説明した特定の特徴、構造、又は特性を本発明の少なくとも1つの実施形態に含めることができることを意味する。本明細書にわたって記載の「一実施形態では/一実施形態において」という語句は、必ずしもすべて同じ実施形態を指すとは限らない。
自律走行のソフトウェアシステムでは、感知及び予測モジュールは、「客観的な」情報と「主観的な」情報とを抽出する2つの重要なモジュールである。感知モジュールが未加工のセンサデータから対象の存在、速度、位置、及び方向などの客観的な情報を抽出する際に、予測モジュールは、「予測」の計算を担当する。これらの予測には、行動レベルの予測が含まれる。例えば、特定の瞬間に、特定の車線の特定の速度の検出車両が、現在車線で隣接車線に変更することである。これらの予測は、空間的―時間的軌跡点でより具体化される。点の軌跡は、下流モジュール(例えば、運行(モーション)計画及び制御)によって大きく影響を受けて、安全かつ合理的な自律走行の決定を下す。
感知モジュールは、ポイントクラウド(point−cloud)、カメラ画像、GPS(Global Positioning System)及び/又はレーダーを含むが、これらに限定されない未加工のセンサデータを使用する。感知モジュールは、感知対象を検出して、位置、速度、及び方向などの情報を利用して補完する。これらの情報は、より「客観的」である。予測モジュールは、近い将来にこれらのすべての対象の動作を予測することを担当する。そのような予測は、対象が、現在車線を維持するか、他の車に変更するか、又は停止するかのようなメタ−行動レベル(meta−behavior level)で、通常、最初に計算される。そのような行動レベルの予測が行われた後で、これらの予測は、具体的な実際軌跡に説明される。軌跡は、「軌跡点」の集合で表現され、各点は、対象の未来位置とその時点での予測速度と方向を示す。本発明の実施形態は、予測軌跡と、対象としての実際軌跡との間の類似度を体系的に計算するものである。
一部の実施形態によれば、予測軌跡を生成するために使用される予測方法の精度を評価するために、DNNを訓練し、これを利用して、評価ネットワークを訓練することで、類似度の評価の問題を解決し、このネットワークを利用して予測軌跡と実際軌跡との間の差異や類似度を決定する。一実施形態では、予測軌跡は負例(negative example)として使用され、実際軌跡は、正例(positive example)として利用される。DNNネットワークは設計された特徴を持つ例により構築される。予測軌跡の形が実際軌跡の分布と異なる場合には、ネットワークは「実際」の軌跡と「予測」の軌跡とを区別して差別化する識別能力を持っている。したがって、よりよい軌跡を生成する改善がなされた場合には、予測軌跡が、ネットワークに提供され、訓練されたネットワークは、予定値に近いスコア(例えば、1)を付与することで、より大きい程度で「予測軌跡」を「実際軌跡」として分類させる。本構成では、予測軌跡と実際軌跡との間の類似度を評価する総括的かつ新しい方法である。
本発明の一実施形態によれば、予測軌跡が受信されたとき、予測軌跡の軌跡点のうちの少なくとも一部から複数の特徴のセットが抽出される。予測軌跡は自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法又はアルゴリズムを使用して予測される。抽出された特徴は、所定のDNNモデルに供給され、類似度スコアを生成する。類似度スコアは、予測軌跡と、DNNモデル訓練用の以前の実際軌跡との間の差異や、類似度を示す。類似度スコアは、予測軌跡を予測した予測方法を評価するために使用することができる。
例えば、類似度スコアが1に近いほど、対応する対象が近い将来に動く可能性が高い実際軌跡に、予測軌跡が近いことを示しており、これは予測方法が対象の潜在的な動きを正確に予測することを意味する。そうでない場合には、類似度スコアが−1に近いほど、実際軌跡が予測軌跡から逸脱することを示しており、これは予測方法を改善したり、変更する必要があることを意味する。DNNモデルを使用して評価スコアとして類似度スコアを体系的に生成することにより、対象の軌跡を予測するための予測方法を体系的に評価することができる。その結果、予測方法は、スコアに基づいて微調整されて改善されることができる。
本発明の他の実施形態によれば、DNNモデル又はモデルたちは、過去にキャプチャされた予測軌跡とそれに対応する実際軌跡を含む大量の過去の走行統計に基づいて訓練することができる。予測軌跡と対応する実際軌跡の各ペアについて、予測特徴セットが予測軌跡から抽出され、実際特徴のセットが、それに対応する実際軌跡から抽出される。DNNネットワーク又はモデルは、予測特徴と実際特徴に基づいて訓練される。DNNモデルを訓練するために、実際特徴は正例として活用される一方、予測特徴は負例に活用される。モデルは、類似度スコアを生成するために、対応する特徴を考慮して予測特徴に基づいて訓練することができる。類似度スコアは、予測特徴で表示された軌跡と、実際特徴で表示された実際軌跡との間の差異や類似度を示す。所定の第1の値(例えば、1)に近い類似度スコアは、予測軌跡が対応する実際軌跡と類似していることを示す。所定の第2の値(例えば、−1)に近い類似度スコアは、予測軌跡が対応する実際軌跡と異なっていることを示す。大量の予測軌跡とそれに対応する実際軌跡を使用してDNNモデル又はモデルをより正確に訓練することができる。
図1は本発明に係る一実施形態に係る自律走行車のネットワーク配置を示すブロック図である。図1を参照して、ネットワーク配置100はネットワーク102によって1つ以上のサーバ103〜104に通信可能に接続することができる自律走行車101を含む。1つの自律走行車を示すが、ネットワーク102によって複数の自律走行車は互いに接続され、及び/又はサーバ103〜104に接続されることができる。ネットワーク102は、任意のタイプのネットワーク、例えば有線又は無線のローカルエリアネットワーク(LAN)、例えばインターネット、セルラーネットワーク、衛星ネットワークの広域ネットワーク(WAN)又はその組み合わせであってもよい。サーバ103〜104は任意のタイプのサーバ又はサーバクラスタ、例えばWebサーバ又はクラウドサーバ、アプリケーションサーバ、バックエンドサーバ又はその組み合わせであってもよい。サーバ103〜104は、データ分析サーバ、内容サーバ、交通情報サーバ、地図(マップ)及び興味のあるポイント(MPOI)サーバ又は位置サーバ等であってもよい。
自律走行車とは、自律モードになるように配置できる車両を指し、前記自律モードで車両が運転者からの入力が非常に少ない又はない場合にもナビゲーションして環境を通過する。このような自律走行車は、センサシステムを含んでもよく、前記センサシステムは車両走行環境に関連する情報を検出するように配置される1つ以上のセンサを有する。前記車両及びその関連するコントローラは検出した情報を使用してナビゲーションし環境を通過する。自律走行車101は、手動モード、完全自律モード又は部分自律モードで運行することができる。
一実施形態において、自律走行車101は、感知及び計画システム110と、車両制御システム111と、無線通信システム112と、ユーザインターフェースシステム113と、センサシステム115とを含むが、これらに制限されない。自律走行車101は、通常の車両に含まれるある一般的な構成要素(部材)、例えばエンジン、車輪、ハンドル、変速器等をさらに含んでもよく、前記構成要素は、車両制御システム111及び/又は感知及び計画システム110により多種の通信信号及び/又はコマンド(例えば加速度信号又はコマンド、減速信号又はコマンド、ステアリング信号又はコマンド、ブレーキ信号又はコマンド等)を使用して制御することができる。
構成要素110〜115は、相互接続部材、バス、ネットワーク又はそれらの組み合わせを介して互いに通信可能に接続することができる。例えば、構成要素110〜115は、コントローラローカルエリアネットワーク(CAN)バスを介して互いに通信可能に接続することができる。CANバスは、マイクロコントローラ及び装置がホストコンピューターのない使用において互いに通信することを許可するような車両バス標準として設計される。それはメッセージに基づくプロトコルであり、最初に自動車内における複数の電線のために設計されたが、数多くのその他の環境(状況)にも用いられる。
現在、図2を参照して、一実施形態において、センサシステム115は、1つ以上のカメラ211と、全地球測位システム(GPS)ユニット212と、慣性計測ユニット(IMU)213と、レーダーユニット214と、LIDAR(光検出及び測距)ユニット215とを含むが、これらに制限されない。GPSシステム212は、送受信機を含んでもよく、前記送受信機は、自律走行車の位置に関する情報を提供するように動作することができる。IMUユニット213は、慣性加速度に基づいて自律走行車の位置及び方向変化を感知することができる。レーダーユニット214は、無線信号を利用して自律走行車のローカル環境内の対象を感知するシステムを示すことができる。いくつかの実施形態において、対象を感知する以外、レーダーユニット214は、さらに対象の速度及び/又は進行方向を感知することができる。LIDARユニット215はレーザを使用して自律走行車の所在する環境における対象を感知することができる。その他のシステム構成要素以外、LIDARユニット215は1つ以上のレーザ光源、レーザースキャナ及び1つ以上の検出器をさらに含んでもよい。カメラ211は、自律走行車の周辺環境の画像をキャプチャするための1つ以上の装置を含んでもよい。カメラ211は、スチルカメラ及び/又はビデオカメラであってもよい。カメラは、例えば回転及び/又は傾斜のプラットフォームに取り付けられる、機械的に移動可能なものであってもよい。
センサシステム115は、その他のセンサ、例えばソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ、及びオーディオセンサ(例えばマイクロフォン)をさらに含んでもよい。オーディオセンサは、自律走行車周辺の環境から音をキャプチャするように配置されてもよい。ステアリングセンサは、ハンドル、車両の車輪又はその組み合わせのステアリング角を感知するように配置できる。スロットルセンサ及びブレーキセンサは、それぞれ車両のスロットル位置及びブレーキ位置を感知する。いくつかの場合、スロットルセンサ及びブレーキセンサは、集積型スロットル/ブレーキセンサに一体化されてもよい。
一実施形態において、車両制御システム111は、ステアリングユニット201と、スロットルユニット202(加速ユニットとも呼ばれる)と、ブレーキユニット203とを含むが、これらに制限されない。ステアリングユニット201は、車両の方向又は進行方向を調整することに用いられる。スロットルユニット202は、モーター又はエンジンの速度を制御して、続いて車両の速度及び加速度を制御することに用いられる。ブレーキユニット203は、摩擦を提供することによって車両の車輪又はタイヤをスローダウンして車両を減速させることに用いられる。注意すべきなのは、図2に示すような構成要素はハードウェア、ソフトウェア又はその組み合わせで実現されることができる。
図1を再び参照して、無線通信システム112は、自律走行車101と、例えば装置、センサ、その他の車両等の外部システムとの間に通信することを可能にする。例えば、無線通信システム112は、1つ以上の装置に直接に又は通信ネットワークを介して無線通信し、例えばネットワーク102によってサーバ103〜104に通信できる。無線通信システム112は、任意のセルラー通信ネットワーク又は無線ローカルエリアネットワーク(WLAN)(例えばWiFi)を使用して他の構成要素やシステムに通信することができる。無線通信システム112は、例えば赤外線リンク、ブルートゥース等を使用して装置(例えば、乗客の移動装置、表示装置、車両101内のスピーカー)に直接に通信できる。ユーザインターフェースシステム113は、車両101内で実行される周辺装置の一部であってもよく、例えばキーボード、タッチスクリーンディスプレイ装置、マイクロフォン、及びスピーカー等を含む。
自律走行車101の一部又は全ての機能は、特に自律走行モードで操作する場合、感知及び計画システム110により制御したり管理したりすることができる。感知及び計画システム110は、必要なハードウェア(例えば、プロセッサ、メモリ、メモリ)、及びソフトウェア(例えば、オペレーティングシステム、計画及びルーティングプログラム)を含み、センサシステム115、車両制御システム111、無線通信システム112、及び/又はユーザインターフェースシステム113から情報を受信し、受信された情報を処理し、出発地から目的地までのルートや経路を計画し、そして計画及び制御情報に基づいて車両101を運行させる。あるいは、感知及び計画システム110と車両制御システム111とは一体化されてもよい。
例えば、乗客のユーザとして、例えばユーザインターフェースによって旅程の出発位置及び目的位置を指定することができる。感知及び計画システム110は旅程関連データを取得する。例えば、感知及び計画システム110は、MPOIサーバから位置及び経路情報を取得することができ、前記MPOIサーバはサーバ103〜104の一部であってもよい。位置サーバは、位置サービスを提供し、かつMPOIサーバは地図サービス及びある位置のPOIを提供する。あるいは、このような位置及びMPOI情報は、感知及び計画システム110の永続的記憶装置にローカルでキャッシュされることができる。
自律走行車101がルートに沿って移動する時に、感知及び計画システム110は、さらに交通情報システムやサーバ(TIS)からリアルタイム交通情報を取得することができる。注意すべきなのは、サーバ103〜104は、第三者エンティティにより動作されることができる。あるいは、サーバ103〜104の機能は、感知及び計画システム110と一体化されてもよい。リアルタイム交通情報、MPOI情報、位置情報、及びセンサシステム115が検出又は感知したリアルタイムなローカル環境データ(例えば、障害物、対象、付近車両)に基づいて、感知及び計画システム110は、安全で効果的に指定した目的地に到達するように、最適なルートを計画し、かつ計画したルートにより例えば車両制御システム111を介して車両101を運行することができる。
サーバ103は、様々なクライアントにデータ分析サービスを実行するためのデータ分析システムであってもよい。一実施形態では、データ分析システム103は、データコレクタ121と機械学習エンジン122を含む。データコレクタ121は、自律走行車や運転者によって運行される一般的な車両を含む、様々な車両からの走行統計123を収集する。走行統計123は、異なる時点で発行された走行コマンド(例えば、スロットルコマンド、ブレーキコマンド、ステアリングコマンド)と、車両のセンサによってキャプチャされた車両の応答(例えば、速度、加速、減速、方向)を示す情報を含む。走行統計123は、異なる時点での走行環境、例えば、ルート(出発と目的地の位置を含む)、MPOI、道路状態、天候状態などを説明する情報をさらに含んでもよい。
走行統計123に基づいて、機械学習エンジン122は、様々な目的のために、ルール、アルゴリズム及び/又は予測モデル124のセットを生成又は訓練させる。例えば、モデル124は、対象の予測軌跡と対象の実際軌跡との間の類似度を決定するための1つ以上のDNNモデルを含んでもよい。DNNは走行統計に基づいて訓練され、これを利用して評価ネットワークを訓練して類似度評価の問題を解決する。DNNモデルは、予測軌跡を生成するために使用される予測方法の精度を評価するために、予測軌跡と実際軌跡との間の差異や類似度を決定するために使用される。走行統計123は、ADVの永続記憶装置にキャプチャされ、記憶されることができる1つ以上の予測方法又はアルゴリズムを使用して、さまざまなADVが感知した様々な対象の予測軌跡を含んでもよい。また、それぞれのADVは永続記憶装置に記憶されることもある感知データに基づいて、対象の実際軌跡をキャプチャすることができる。
一実施形態では、DNNモデル124を訓練させるためには、予測軌跡は負例として、且つ、実際軌跡は正例として機械学習エンジン122によって使用される。DNNネットワークは設計された特徴を持つ例により構築される。予測軌跡の形が実際軌跡の分布と異なる場合には、ネットワークは「実際」の軌跡と「予測」の軌跡とを区別して差別化する識別能力を持っている。したがって、よりよい軌跡を生成する改善がなされた場合には、予測軌跡が、ネットワークに提供され、訓練されたネットワークは、予定値に近いスコア(例えば、1)を付与することで、より大きい程度で「予測軌跡」を「実際軌跡」として分類させる。DNNモデル124は、例えば、予測評価システム又はモジュール125によって、将来の軌跡の予測を評価するために使用することができる。
図3は、一実施形態に係る自律走行車と一緒に使用される感知や計画システムの一例を示すブロック図である。システム300は、図1の自律走行車101の一部として実現することができ、感知及び計画システム110、制御システム111と、センサシステム115を含むが、これに限定されない。図3に示すように、感知や計画システム110は、位置決めモジュール301は、感知モジュール302、予測モジュール303、決定モジュール304、計画モジュール305、制御モジュール306、データコレクタ307及び予測評価モジュール308を含むが、これに限定されない。
モジュール301〜308の一部又は全部は、ソフトウェア、ハードウェア、又はこれらの組み合わせで実現されてもよい。例えば、これらのモジュールは、永続記憶装置352に設置され、メモリ351にロードされ、複数のプロセッサ(図示せず)によって実行されることができる。これらのモジュールの一部又は全部は、図2の車両制御システム111の一部又はすべてのモジュールと通信可能に連接又は統合されることができる。モジュール301〜308の一部は、統合モジュールとして一緒に統合されてもよい。
位置決めモジュール301は、(例えば、GPSユニット212を利用して)自律走行車101の現在の位置を決定し、ユーザの行程やルートに関連する任意のデータを管理する。位置決めモジュール301(地図及び経路モジュールとも呼ばれる)は、ユーザの行程やルートに関連する任意のデータを管理する。ユーザは、例えば、ユーザインタフェースを介してログインして行程の出発位置と目的地を指定することができる。位置決めモジュール301は、地図及び経路情報311のような自律走行車101の他の構成要素と通信して行程関連データを取得する。例えば、位置決めモジュール301は、位置サーバ、及び地図とPOI(MPOI)サーバから位置と経路情報を獲得することができる。位置サーバは、位置情報サービスを提供し、MPOIサーバは地図サービスと地図及び経路情報311の一部としてキャッシュすることができる特定の場所のPOIを提供する。自律走行車101がルートに沿って移動する間に、位置決めモジュール301は、交通情報システム、又はサーバからリアルタイムの交通情報も取得することができる。
センサシステム115で提供されたセンサデータと、位置決めモジュール301で取得された位置決め情報とに基づいて、感知モジュール302によって周辺環境の感知が決定される。感知情報は、一般的な運転者が彼の走行する車両の周囲をどのように感知するかを示すことができる。感知は車線で構成(例えば、直線又は曲線の車線)、信号灯の信号、他の車両の相対的な位置、歩行者、建物、横断歩道又は他の交通関連の標識(例えば、停止標識、譲歩標識)などを、例えば、対象の形を含んでもよい。
感知モジュール302は、自律走行車の環境で対象及び/又は特徴を識別するためには、1つ以上のカメラによってキャプチャされた画像を処理し、分析するコンピュータビジョンシステム、又はコンピュータビジョンシステムの機能が含まれてもよい。対象は、交通信号、道路境界、他の車両、歩行者、及び/又は障害物などを含んでもよい。コンピュータビジョンシステムは、対象感知アルゴリズム、ビデオ、追跡、及び他のコンピュータビジョン技術を使用することができる。一部の実施形態では、コンピュータビジョンシステムは、環境をマッピングして、対象を追跡し、対象の速度推定などを行うことができる。感知モジュール302は、レーダー及び/又はLIDARのような他のセンサによって提供される他のセンサのデータに基づいて対象を検出することもできる。
それぞれの対象については、予測モジュール303は、状況下で対象がどのような行動をするかを予測する。予測は、地図/経路情報311と交通ルール312のセットを考慮して、その時点での走行環境を感知する感知データに基づいて実行される。例えば、対象が逆方向の車両であり、現在の走行環境が交差点を含む場合、予測モジュール303は、車両がすぐに前進するか、又は回転するかを予測するものである。感知データが、交差点が信号を持たないことを示す場合には、予測モジュール303は、車両が交差点に進入する前に、完全に停止しなければならないと予測することができる。感知データが、車両が現在左折専用車線又は右折専用車線であることを示す場合、予測モジュール303は、車両がそれぞれ左折又は右折をする可能性がより高いと予測することができる。
それぞれの対象については、決定モジュール304は、対象をどのように処理するかについての決定をする。例えば、特定の対象(例えば、交差ルートにある他の車)だけでなく、対象を記述するメタデータ(例えば、速度、方向、ステアリング角度)に対して、決定モジュール304は、対象をどの方式で対面するかを決定する(例えば、追い越し、譲歩、停止、通過)。決定モジュール304は、永続記憶装置352に記憶することができる交通ルール又は走行ルール312のようなルールのセットに基づいて、これらの決定を下すことができる。
感知された対象のそれぞれの決定に基づいて、計画モジュール305は、自律走行車へのパス又はルートだけでなく、走行パラメータ(例えば、距離、速度、及び/又は回転角度)を計画する。つまり、与えられた対象については、決定モジュール304は、対象の処理を決定し、計画モジュール305は、それをどのように行うかを決定する。例えば、与えられた対象については、決定モジュール304は、対象を通過することを決定することができるが、計画モジュール305は、対象の左側又は右側に通過するかを決定することができる。計画及び制御データは、計画モジュール305によって生成され、自律走行車101が、次の移動のサイクル(例えば、次のルート/経路セグメント)でどのように動くのかを記述する情報を含む。例えば、計画及び制御データは、自律走行車101が時速30マイル(mph)の速度で10m移動し、25mphの速度で右側車線に変更するよう指示することができる。
計画及び制御データに基づいて、制御モジュール306は、計画及び制御データによって定義されたルート又はパスに沿って、車両制御システム111に適切なコマンド又は信号を送信することにより、自律走行車を制御や走行させる。計画及び制御データには、パス、又はルート上の時間に応じた異なる点において、適切な車両設定又は走行パラメータ(例えば、スロットル、ブレーキ、及びステアリングコマンド)を使用して、ルート又はパスの第1地点で第2地点まで車両を走行することができる十分な情報が含まれている。
一実施形態において、計画ステップでは、多数の計画サイクル又はコマンドサイクルは、例えば、100ミリ秒(ms)の時間間隔ごとに実行される。計画サイクル又はコマンドサイクルごとに複数の制御コマンドが計画及び制御データに基づいて発行される。つまり、100ms毎に、計画モジュール305は、後続のルートセグメント又はパスセグメントを計画し、後続のルートセグメント又はパスセグメントは、例えば目標位置とADVが目標位置に到達するのに必要な時間を含んでもよい。代替的に、計画モジュール305は、特定の速度、方向、及び/又はステアリング舵角等を追加で特定することができる。一実施形態では、計画モジュール305は、例えば、5秒のような所定の後続期間ルートセグメント又はパスセグメントを計画する。各計画サイクルについては、計画モジュール305は、前のサイクルで計画された目標位置に基づいて、現在のサイクル(例えば、次の5秒)の目標位置を計画する。その後、制御モジュール306は、現在のサイクルの計画及び制御データに基づいて、1つ以上の制御コマンド(例えば、スロットル、ブレーキ、ステアリング制御コマンド)を発生させる。
決定モジュール304と計画モジュール305は、統合モジュールとして統合されることができる。決定モジュール304/計画モジュール305は、自律走行車の走行ルートを決定するためのナビゲーションシステムやナビゲーションシステムの機能を含んでもよい。例えば、ナビゲーションシステムは、一連の速度及び進行方向(directional heading)を決定して、大体において最終的な目的地に至る車線経路に沿って自律走行車を進ませる同時に、感知された障害物を実質的に避ける経路に沿って自律走行車を移動することができる。目的地は、ユーザインタフェースシステム113を介してユーザ入力に応じて設定されることができる。ナビゲーションシステムは、自律走行車が運行されている間、走行経路を動的に更新することができる。ナビゲーションシステムは、自律走行車のための走行ルートを決定するためにGPSシステム、及び1つ又は複数の地図からのデータを統合することができる。
決定モジュール304/計画モジュール305は、自律走行車の環境での潜在的な障害物を識別、評価、回避したり交渉するための衝突回避システム又は衝突回避システムの機能をさらに含んでもよい。例えば、衝突回避システムは、緊急回避操作、ステアリング操作、制動操作などを行うために、制御システム111の複数のサブシステムを操作して、自律走行車のナビゲーションの変化を実行することができる。衝突回避システムは、周辺の交通パターン、道路状況等に基づいて、実現可能な障害物回避操作を自動的に決定することができる。衝突回避システムは、自律走行車が緊急回避して進入する隣接領域で、車両、建築の障害物などを、他のセンサシステムが検出したときに、緊急回避操作が行われないように構成することができる。衝突回避システムは、使用可能であり、自律走行車両の乗員の安全を最大限にする操作を自動的に選択することができる。衝突回避システムは、自律走行車両の乗客室において最低限の加速を引き起こすと予想される回避操作を選択することができる。
一実施形態によれば、データコレクタ307は、モジュール301〜306からのデータを収集し、永続記憶装置352にデータを記憶する。例えば、データコレクタ307は、感知モジュール302から、実際軌跡を収集し、収集された実際軌跡を、実際軌跡313の一部として永続記憶装置352に記憶する。データコレクタ307は、予測モジュール303から予測軌跡をより収集し、予測軌跡を予測軌跡314の一部として永続記憶装置352に記憶することができる。実際軌跡313及び予測軌跡314は、DNNモデル(315、また、予測評価モデルたちとも呼ばれる)のようなDNNモデルを訓練させることに利用されて、例えば、図1の予測評価機125の一部として実現することができるオプションの予測評価モジュール又はシステム308によって予測モジュール303の性能を評価することができる。代替的に、実際軌跡313及び予測軌跡314は、データ分析システム103のようなデータ分析システムによってDNNモデルを訓練するために中央処理されてもよい。
図4は、一実施形態に係るデータ分析システムを示すブロック図である。システム400は、図1のシステム103の一部として実現されることができる。図4に示すように、システム400は、機械学習エンジン122、データコレクタ121及び予測評価モジュール308を含み、メモリ402にロードされて複数のプロセッサ401によって実行されることができる。一実施形態では、データコレクタ121は、異なる走行環境下で、様々な道路上で走行する様々なADVから走行統計情報を収集する。それぞれのADVは、対象の実際軌跡をキャプチャしてADVの各予測モジュールによって予測された対応の予測軌跡を記憶しながら、対象の軌跡を感知して予測する。実際軌跡及び予測軌跡は、データコレクタ121によって収集され、既知の実際軌跡313と既知の予測軌跡314との一部として永続記憶装置403内に記憶される。「既知の軌跡」という用語は、DNNモデル315のような予測評価モデルを訓練する目的で軌跡の訓練セットとして利用される、既存の軌跡を指す。
機械学習エンジン122は、既知の実際軌跡313と既知の予測軌跡314とに基づいて、既知の実際軌跡313及び既知の予測軌跡314から抽出された特徴に基づいてDNNモデル315を訓練させるように構成されている。一実施形態によれば、DNNモデル又はモデル315は、既知の予測軌跡314と、過去にキャプチャされた予測軌跡に対応する既知の実際軌跡313とを含む訓練多くの以前の走行統計に基づいて訓練することができる。
図5に示すように、本実施形態において、対象が車線500を移動しながら、例えば感知モジュール302によって対象の既知の実際軌跡501がキャプチャされ、ADVの予測モジュール303によって対象の既知の予測軌跡502が生成されると仮定する。予測軌跡502は、車線点(lane point)とも呼ばれる軌跡点511のような軌跡点のシーケンスを含む。各軌跡点は軌跡点を説明するメタデータ・セットと関連付けられる。メタデータは、対応する軌跡点によって示される特定の瞬間に、対象の移動している車線、対象の速度、対象の進行方向及び/又は対象の位置などを特定する情報を含んでもよい。
予測軌跡と対応する実際軌跡の少なくともいくつかの対の軌跡点のに対し、予測特徴のセットが予測軌跡502から抽出され、実際特徴のセットが対応する実際軌跡501から抽出される。DNNネットワーク又はモデルは、予測特徴と実際特徴に基づいて訓練される。DNNモデルを訓練するために、実際特徴は正例として活用される一方、予測特徴は負例に活用される。
一実施形態において、軌跡点の特徴は、物理的属性のセットと軌跡関連属性のセットを含む。物理的属性は、軌跡の始点の相対的な進行方向、速度、相対位置(例えば、緯度と経度)、及び対応する軌跡点で表示される特定の瞬間の対象の到着時間を含むが、これらに限定されない。軌跡関連属性は、対象が移動する特定の車線を識別するための車線識別子(ID)、車線方向(例えば、回転又は左折/右折)、車線の境界線及び縁石(curb of the lane)までの距離、当該瞬間での対象の進行方向と車線方向との間の差異、及び/又は当該瞬間での軌跡点と車線中心線との間の距離を含むが、これらに限定されない。
図5に示された例では、車線IDは車線500を十分に識別可能なものである。車線500の方向は、その瞬間の車線500の基準線(510、通常は中心線)の方向に基づいて決定されるものである。例えば、軌跡点511によって示されたその瞬間の車線方向は、軌跡点511に対応する基準線の角度に基づいて測定される。軌跡点511と車線500の縁石との間の距離は、軌跡点511と縁石503及び/又は縁石504との間の距離に基づいて測定される。物理的属性と軌跡関連属性は、図6に示すようにDNNモデルの複数の入力に提供される。
DNNは、入力と出力の層の間に隠された複数のレイヤーを持つ人工ニューラルネットワーク(ANN、artificial neural network)である。浅い(shallow)ANNと同様に、DNNは、複雑な非線形関係をモデル化することができる。DNNアーキテクチャは、対象が画像プリミティブ(image primitive)の階層構成で表現されているコンポジションモデル(compositional model)を生成する。追加の層を使用すると、下位レイヤの特徴構成を実現することができるので、同様のパフォーマンスの浅いネットワークよりも少ない数のデバイスに複雑なデータをモデル化することができる。ディープアーキテクチャ(deep architecture)は、いくつかの基本的なアプローチの多様な変形が含まれる。それぞれのアーキテクチャは、特定の分野で成功的である。すべて同じデータセットで評価されていないため、複数のアーキテクチャの性能を比較することがいつもできるとは限らない。
図6に示すように、既知の実際軌跡と既知の予測軌跡の物理的属性601と軌跡関連属性602は、DNNモデル600の入力にそれぞれ正例と負例として提供される。DNNモデル600の出力は、実際軌跡と予測軌跡との間の差異を表す類似度スコア603を生成する。DNNモデルは、様々な軌跡の大量の特徴に基づいて訓練することができる。既知の予測軌跡と既知の実際軌跡が与えられれば、DNNモデルの出力から類似度スコアが得られる。類似度スコアは予想類似度スコアと比較される。計算された類似度スコアが予想類似度スコアに十分に近くない場合には、計算された類似度スコアが期待されたスコアに近づくまでDNNモデルが繰り返し訓練される。
モデルは、類似度スコアを生成するために、対応する特徴を考慮して予測特徴に基づいて学習することができる。類似度スコアは予測特徴で表現された軌跡と実際特徴で表現された実際軌跡との間の差異や類似度を示す。所定の第1の値(例えば、1)に近い類似度スコアは、予測軌跡が対応する実際軌跡と類似していることを示す。所定の第2の値(例えば、−1)に近い類似度スコアは、予測軌跡が対応する実際軌跡と異なっていることを示す。大量の予測軌跡とその実際軌跡を使用して、DNNモデル又はモデルをより正確に訓練させることができる。
DNNモデル315が訓練されて生成されると、図4を再度参照するように、DNNモデル315は、未知の予測軌跡415によって表現された将来の予測を評価するために使用することができる。未知の予測軌跡415は、予測モジュール303によって予測されることができる。一実施形態では、特徴抽出器411は、未知の予測軌跡415の少なくとも一部の軌跡点から予測特徴を抽出するように構成されている。抽出された特徴は、上述したように、物理的属性のセットと軌跡関連属性のセットを含む。抽出された特徴は、DNNモデル315に供給され、類似度スコアを生成する。軌跡評価モジュール412は、予測モジュールが使用した予測方法又はアルゴリズムの性能を評価する。
例えば、類似度スコアが1に近いほど、対応する対象が、近い将来に動く可能性が高い実際軌跡に予測軌跡が近いことを示しており、これは予測方法が対象の潜在的な動きを正確に予測できることを意味する。それと反対に、類似度スコアが−1に近い場合、これは実際軌跡が予測軌跡から逸脱することを示しており、これは予測方法を改善する必要があることを意味する。DNNモデルを使用して評価スコアとして類似度スコアを体系的に生成することにより、対象の軌跡を予測するための予測方法を体系的に評価することができる。その結果、予測方法は、スコアに基づいて微調整されて改善される。一実施形態では、類似度スコアは、選択された軌跡点ごとに計算される。選択された軌跡点の類似度スコアの平均は、予測軌跡の最終類似度スコアを表すことに使用することができる。同様に、特定の予測方法を使用して予測された予測軌跡の一部又は全部の類似度スコアの平均は、予測方法の最終的な評価スコアとして使用することができる。
図7は、一実施形態に係る予測軌跡を評価するためのDNNを訓練するプロセスを示すフローチャートである。プロセス700は、ソフトウェア、ハードウェア、又はこれらの組み合わせを含む処理ロジックによって実行されることができる。例えば、プロセス700は、図4のシステム400によって実行されることができる。図7に示すように、ステップ701において、処理ロジックは、ADV周辺の走行環境の対象を感知する感知データに応答して生成された予測軌跡(例えば、既知の予測軌跡)を受信する。ステップ702において、処理ロジックは、予測軌跡の軌跡点のうちの少なくとも一部から予測特徴を抽出する。ステップ703において、処理ロジックは、対象が実際に移動した対象の実際軌跡(例えば、既知の実際軌跡)を受信する。それに応答して、ステップ704において、処理ロジックは、実際軌跡の軌跡点のうちの少なくとも一部から、実際特徴を抽出する。ステップ705において、処理ロジックは、抽出された予測特徴を負例であり、実際特徴を正例としてDNNモデルを訓練する。
図8は、一実施形態に基づいてDNNを使用して予測軌跡を評価するプロセスを示すフローチャートである。プロセス800は、ソフトウェア、ハードウェア、又はこれらの組み合わせを含む処理ロジックによって実行されることができる。例えば、プロセス800は、図4のシステム400によって実行されることができる。図8に示すように、ステップ801において、処理ロジックは、ADV周辺の走行環境における対象を感知する感知データに基づく予測方法又はアルゴリズムを使用して生成された予測軌跡(例えば、未知の予測軌跡)を受信する。予測軌跡の軌跡点のうちの少なくとも一部について、ステップ802において、処理ロジックは、選択された軌跡点から特徴セットを抽出する。ステップ803において、処理ロジックは、所定のDNNモデルを適用して特徴をカテゴリー化して類似度スコアを生成する。類似度スコアは、予測軌跡と1つ以上の以前の実際軌跡との間の類似度を示す。ステップ804において、処理ロジックは、類似度スコアに基づいて予測方法又はアルゴリズムの性能や精度を決定する。
上記図示された構成要素の一部又は全部は、ソフトウェア、ハードウェア、又はこれらの組み合わせにより実現されることができる。例えば、これらの構成要素は、本明細書全体に記載されたプロセス又はステップを実行するためには、プロセッサ(図示せず)によってメモリにロードされて実行されることができる永続記憶装置にインストールされて記憶されるソフトウェアとして実現ことができる。代替的に、これらの構成要素は、集積回路(例えば、特定用途向け集積回路又はASIC)、デジタル信号プロセッサ(DSP)又はフィールドプログラマブルゲートアレイ(Field Programmable Gate Array、FPGA)のような専用のハードウェアにプログラムされたり内蔵された実行可能コードとして実現されることができ、これは、アプリケーションから対応するドライバ及び/又はオペレーティングシステムを介してアクセスすることができる。さらに、これらの構成要素は1つ以上の特定のコマンドを使用してソフトウェア構成要素によってアクセス可能なコマンドセットの一部としてプロセッサ又はプロセッサコアの特定のハードウェアロジックとして実現することができる。
図9は、本発明の一実施形態と一緒に使用することができるデータ処理システムの一例を示すブロック図である。例えば、システム(1500)は、例えば、図4のシステム400及び/又は図1の任意のサーバ103〜104又は感知や計画システム110のような、上述された任意のプロセス又は方法を実行する上述したデータ処理システムのうちの任意のものを示すことができる。システム(1500)は、多数の異なる構成要素を含んでもよい。これらの構成要素は、集積回路(IC)、集積回路(IC)の一部であり、個別の電子装置、又はコンピュータシステムのマザーボード又はアドインカードなどの回路基板に適用される他のモジュールとして実現されることがあるか、コンピュータシステムのシャーシ内に含まれる他の構成要素として実現されることができる。
さらに、システム1500は、コンピュータシステムの多数の構成要素の高レベルビューを示すことを目的とする。しかしながら、いくつかの実現形態では、付加的構成要素が存在する場合があることを理解すべきである。また、他の実現形態において示される構成要素が異なる配置を有してもよい。システム1500は、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、サーバ、携帯電話、メディアプレーヤー、パーソナルディジタルアシスタント(PDA)、スマート腕時計、パーソナルコミュニケーター、ゲーム装置、ネットワークルータ又はハブ、無線アクセスポイント(AP)又はリピーター、セットトップボックス、又はそれらの組み合わせを示してもよい。また、単一の機器又はシステムのみを示したが、用語「機器」又は「システム」は、さらに、独立又は共同で1つ(又は複数)のコマンドセットを実行することにより本明細書に説明される任意の1種又は複数種の方法を実行する機器又はシステムの任意のセットを含むことを理解すべきである。
一実施形態において、システム1500は、バス又は相互接続部材1510によって接続されたプロセッサ1501、メモリ1503及び装置1505〜1508を備える。プロセッサ1501は、単一のプロセッサコア又は複数のプロセッサコアを含む単一のプロセッサ又は複数のプロセッサであってもよい。プロセッサ1501は、マイクロプロセッサ、中央処理装置(CPU)等のような1つ又は複数の汎用プロセッサであってもよい。より具体的には、プロセッサ1501は、複雑コマンドセット計算(CISC)マイクロプロセッサ、縮小コマンドセットコンピュータ(RISC)マイクロプロセッサ、超長コマンド語(VLIW)マイクロプロセッサ、又は他のコマンドセットを実現するプロセッサ、又はコマンドセットの組み合わせを実現するプロセッサであってもよい。プロセッサ1501は、さらに、専用集積回路(ASIC)、セルラ又はベースバンドプロセッサ、フィールドプログラマブルゲートアレイ(FPGA)、デジタル信号プロセッサ(DSP)、ネットワークプロセッサ、グラフィックプロセッサ、通信プロセッサ、暗号プロセッサ、コプロセッサ、組み込みプロセッサのような1つ又は複数の専用プロセッサ、あるいはコマンド処理可能な任意の他のタイプのロジックであってもよい。
プロセッサ1501(超低電圧プロセッサのような低電力マルチコアプロセッサソケットであってもよい)は、前記システムの各種の構成要素と通信するための主処理ユニット及び中央ハブとして用いられてもよい。このようなプロセッサは、システムオンチップ(SoC)として実現されることができる。プロセッサ1501は、本明細書に説明されるステップ及びステップを実行するためのコマンドを実行するように構成される。また、システム1500は、選択可能なグラフィックサブシステム1504と通信するグラフィックインターフェースをさらに含み、グラフィックサブシステム1504は、表示コントローラ、グラフィックプロセッサ及び/又は表示装置をさらに備えてもよい。
プロセッサ1501は、メモリ1503と通信してもよく、メモリ1503は、一実施形態において複数のメモリによって所定量のシステムメモリを提供する。メモリ1503は、ランダムアクセスメモリ(RAM)、ダイナミックRAM(DRAM)、シンクロナスDRAM(SDRAM)、スタティックRAM(SRAM)又は他のタイプのメモリのような1つ又は複数の揮発性記憶装置(又はメモリ)を備えてもよい。メモリ1503は、プロセッサ1501又は任意の他の装置により実行されるコマンド列を含む情報を記憶できる。例えば、複数種のオペレーティングシステム、装置ドライバー、ファームウェア(例えば、基本入出力システム又はBIOS)及び/又はアプリケーションの実行可能なコード及び/又はデータはメモリ1503にロードされてもよく、プロセッサ1501により実行される。オペレーティングシステムは、ロボットオペレーティングシステム(ROS)、Microsoft(R)会社からのWindows(R)オペレーティングシステム、アップル会社からのMac OS(R)/iOS(R)、Google(R)会社からのAndroid(R)、Linux、Unix又は他のリアルタイム又は組み込みオペレーティングシステムのような任意のタイプのオペレーティングシステムであってもよい。
システム1500は、IO装置、例えば装置1505〜1508をさらに備えてもよく、ネットワークインターフェース装置1505、選択可能な入力装置1506及び他の選択可能なIO装置1507を備えてもよい。ネットワークインターフェース装置1505は、無線送受信機及び/又はネットワークインターフェースカード(NIC)を備えてもよい。前記無線送受信機は、WiFi送受信機、赤外送受信機、ブルートゥース送受信機、WiMax送受信機、無線セルラーホン送受信機、衛星送受信機(例えば、全地球測位システム(GPS)送受信機)又は他の無線周波数(RF)送受信機又はそれらの組み合わせであってもよい。NICはイーサネットカードであってもよい。
入力装置1506は、マウス、タッチパッド、タッチスクリーン(それは表示装置1504と一体化されてもよい)、ポインタデバイス(例えばスタイラス)及び/又はキーボード(例えば、物理キーボード又はタッチスクリーンの一部として表示された仮想キーボード)を備えてもよい。例えば、入力装置1506は、タッチスクリーンに接続されるタッチスクリーンコントローラを含んでもよい。タッチスクリーン及びタッチスクリーンコントローラは、例えば複数種のタッチ感度技術(静電容量技術、抵抗技術、赤外技術及び表面音波技術を含むが、それらに限定されない)のいずれか、及びタッチスクリーンの1つ又は複数の接触点を決定するための他の近接センサアレイ又は他の素子を用いてそのタッチ点及び移動又は断続を検出することができる。
IO装置1507は音声装置を備えてもよい。音声装置は、スピーカ及び/又はマイクロホンを含んでもよく、それにより音声感知、音声コピー、デジタル記録及び/又は電話機能のような音声サポートの機能を促進する。他のIO装置1507は、汎用シリアルバス(USB)ポート、パラレルポート、シリアルポート、印刷機、ネットワークインターフェース、バスブリッジ(例えば、PCI−PCIブリッジ)、センサ(例えば、加速度計、ジャイロスコープ、磁力計、光センサ、コンパス、近接センサ等のような動きセンサ)又はそれらの組み合わせをさらに備えてもよい。装置1507は、結像処理サブシステム(例えば、カメラ)をさらに備えてもよく、前記結像処理サブシステムは、カメラ機能(例えば、写真及びビデオ断片の記録)を促進するための電荷カップリング装置(CCD)又は相補型金属酸化物半導体(CMOS)光学センサのような光学センサを備えてもよい。あるセンサは、センサハブ(図示せず)によって相互接続部材1510に接続されてもよく、キーボード又は熱センサのような他の装置は、組み込みコントローラ(図示せず)により制御されてもよく、これはシステム1500の特定配置又は設計により決められる。
データ、アプリケーション、1つ又は複数のオペレーティングシステム等のような情報の永続記憶を提供するために、大容量メモリ(図示せず)は、プロセッサ1501に接続されてもよい。様々な実施形態において、薄型化と軽量化のシステム設計を実現しかつシステムの応答能力を向上させるために、このような大容量メモリは、ソリッドステート装置(SSD)によって実現されることができる。なお、他の実施形態において、大容量メモリは、主にハードディスクドライブ(HDD)で実現されてもよく、少量のSSD記憶量は、SSDキャッシュとして、停電イベント期間にコンテキスト状態及び他のこのような情報の不揮発性記憶を実現し、それによりシステム動作が再開する時に通電を速く実現することができる。さらに、フラッシュデバイスは、例えばシリアルペリフェラルインターフェース(SPI)によってプロセッサ1501に接続されてもよい。このようなフラッシュデバイスは、システムソフトウェアの不揮発性記憶に用いられてもよく、前記システムソフトウェアは、前記システムのBIOS及び他のファームウェアを備える。
記憶装置1508は、任意の1種又は複数種の本明細書に記載の方法又は機能を実現する1つ又は複数のコマンドセット又はソフトウェア(例えば、モジュール、ユニット及び/又はロジック1528)が記憶されるコンピュータアクセス可能な記憶媒体1509(機械可読記憶媒体又はコンピュータ可読記憶媒体とも呼ばれる)を備えてもよい。処理モジュール/ユニット/ロジック1528は、例えば、制御モジュール305又は機械学習エンジン122のような上記構成要素のいずれかを示してもよい。処理モジュール/ユニット/ロジック1528は、さらにデータ処理システム1500により実行される期間にメモリ1503内及び/又はプロセッサ1501内に完全又は少なくとも部分的に存在してもよく、ここで、メモリ1503及びプロセッサ1501も、機器アクセス可能な記憶媒体を構成する。処理モジュール/ユニット/ロジック1528は、さらにネットワークによってネットワークインターフェース装置1505を経由して送受信されてもよい。
コンピュータ可読記憶媒体1509は、以上に説明されたいくつかのソフトウェア機能の一部を永続的に記憶してもよい。コンピュータ可読記憶媒体1509は、例示的な実施形態において単一の媒体として示されたが、用語「コンピュータ可読記憶媒体」は、前記1つ又は複数のコマンドセットが記憶される単一の媒体又は複数の媒体(例えば、集中型又は分散型データベース、及び/又は関連するキャッシュ及びサーバ)を備えることを理解すべきである。用語「コンピュータ可読記憶媒体」は、さらにコマンドセットを記憶又はコーディング可能な任意の媒体を備えることを理解すべきであり、前記コマンドセットは、機器により実行されかつ前記機器に本発明の任意の1種又は複数種の方法を実行させる。従って、用語「コンピュータ可読記憶媒体」は、ソリッドステートメモリ及び光学媒体と磁気媒体又は任意の他の非一時的機械可読媒体を備えるが、それらに限定されないことを理解すべきである。
本明細書に記載の処理モジュール/ユニット/ロジック1528、構成要素及び他の特徴は、ディスクリートハードウェア構成要素として実現されてもよく、又はハードウェア構成要素(例えばASICs、FPGA、DSP又は類似装置)の機能に統合されてもよい。さらに、処理モジュール/ユニット/ロジック1528は、ハードウェア装置内のファームウェア又は機能回路として実現されてもよい。また、処理モジュール/ユニット/ロジック1528は、ハードウェア装置及びソフトウェア構成要素の任意の組み合わせで実現されてもよい。
なお、システム1500は、データ処理システムの各種の構成要素を有するように示されているが、構成要素に相互接続させる任意の具体的な構造又は方式を限定するものではないことに注意すべき、それは、このような詳細が本発明の実施形態に密接な関係がないためである。また、より少ない構成要素又はより多くの構成要素を有するネットワークコンピュータ、ハンドヘルドコンピュータ、携帯電話、サーバ及び/又は他のデータ処理システムは、本発明の実施形態と共に使用されてもよい。
上記詳細な説明の一部は、コンピュータメモリにおけるデータビットに対する演算のアルゴリズム及び記号表現で示される。これらのアルゴリズムの説明及び表現は、データ処理分野における当業者によって使用され、それらの作業実質を所属分野の他の当業者に最も効果的に伝達する方法である。ここで、アルゴリズムは、通常、所望の結果につながる首尾一貫した動作列(sequence of operations)と考えられる。これらの動作とは、物理量に対して物理的動作を行う必要となるステップを指す。
ただし、これらの全ての及び類似の用語は、いずれも適切な物理量に関連付けられ、かつただこれらの量に適用される適切なラベルであることに注意すべきである。特に断らない限り、本出願の全体にわたって用語(例えば、添付している特許請求の範囲に説明された用語)による説明とは、コンピュータシステム又は類似の電子計算装置の動作及び処理であり、前記コンピュータシステム又は電子計算装置は、コンピュータシステムのレジスタ及びメモリに物理(例えば、電子)量としてデータを示し、かつ前記データをコンピュータシステムメモリ又はレジスタ又は他のこのような情報メモリ、伝送又は表示装置内において類似に物理量として示される他のデータに変換する。
本発明の実施形態は、さらに本明細書における動作を実行するためのコンピュータプログラムに関する。このようなコンピュータプログラムは、非一時的コンピュータ可読記憶媒体に記憶される。機器可読媒体は、機器(例えば、コンピュータ)可読な形態で情報を記憶する任意の機構を備える。例えば、機器可読(例えば、コンピュータ可読)媒体は、機器(例えば、コンピュータ)可読記憶媒体(例えば、読み出し専用メモリ(「ROM」)、ランダムアクセスメモリ(「RAM」)、磁気ディスク記憶媒体、光記憶媒体、フラッシュメモリメモリ)を備える。
上記図面に示される手順又は方法は、ハードウェア(例えば、回路、専用ロジック等)、ソフトウェア(例えば、非一時的コンピュータ可読記憶媒体に具現化される)、又は両方の組み合わせを含む処理ロジックにより実行されてもよい。前記手順又は方法は、本明細書において特定の順序に応じて説明されるが、説明された動作の一部は、異なる順序に応じて実行されてもよい。また、いくつかの動作は、順番ではなく並行に実行されてもよい。
本発明の実施形態は、いずれかの特定のプログラミング言語を参照して説明されていないが、複数種のプログラミング言語で本明細書に記載の本発明の実施形態の教示を実現できることを理解すべきである。
以上の明細書では、本発明の具体的な例示的な実施形態を参照してその実施形態を説明した。明らかなように、添付している特許請求の範囲に記載の本発明のより広い趣旨及び範囲を逸脱しない限り、様々な変形が可能である。従って、限定的なものではなく例示的なものとして本明細書及び図面を理解すべきである。

Claims (22)

  1. 自律走行車両の軌跡予測を評価するためのコンピュータ実現方法であって、
    自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法を用いて生成された対象の予測軌跡を受信するステップと、
    前記予測軌跡の複数の軌跡点から選択された少なくとも一部の軌跡点について、前記選択された軌跡点から複数の特徴を抽出するステップと、
    前記抽出された特徴にDNN(deep neural network)モデルを適用して類似度スコアを生成するステップであって、前記類似度スコアは、前記予測軌跡と、前記DNNモデルによってモデル化された以前の実際軌跡との間の類似度を示す、ステップと、
    前記類似度スコアに基づいて前記予測方法の精度を決定するステップと、を含む、方法。
  2. 前記受信された予測軌跡は、前記予測方法を用いて、1つ又は複数のADVによって予測された複数の予測軌跡の1つである、請求項1に記載の方法。
  3. 各軌跡点の前記抽出された特徴は、物理的属性のセットを含み、前記物理的属性は、前記軌跡点の相対的な進行方向と速度とを含む、請求項1に記載の方法。
  4. 各軌跡点の前記物理的属性は、前記予測軌跡の出発点に対する前記軌跡点の位置と、前記対象が前記軌跡の目的点に達する到達時間とをさらに含む、請求項3に記載の方法。
  5. 各軌跡点の前記抽出された特徴は、軌跡関連属性のセットを含み、
    前記軌跡関連属性は、
    前記対象の移動している車線を識別するための車線識別子(ID)と、
    車線が左へ曲がるか、右へ曲がるか否かを示す指示と、
    前記対象と前記車線の縁石との間の距離とを含む、請求項1に記載の方法。
  6. 前記軌跡関連属性は、
    前記対象の進行方向と前記車線の車線方向との間の差異と、
    前記対象と前記車線の基準線との間の距離とをさらに含む、請求項5に記載の方法。
  7. 前記DNNモデルを生成するステップをさらに含み、
    前記DNNモデルを生成するステップは、
    前記対象の感知データに基づいて予測された前記対象の第2の予測軌跡を受信するステップと、
    前記第2の予測軌跡から予測特徴を抽出するステップと、
    前記対象が実際に移動した実際軌跡を受信するステップと、
    前記実際軌跡の実際特徴を抽出するステップと、
    負例としての前記予測特徴と、正例としての前記実際特徴とに基づいて、前記DNNモデルを訓練して生成するステップとをさらに含む、請求項1に記載の方法。
  8. 非一時的機械可読媒体であって、
    前記非一時的機械可読媒体はコマンドを記憶しており、前記コマンドは、自律走行車(ADV)に実装されたプロセッサによって実行されるとき、
    前記自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法を用いて生成された対象の予測軌跡を受信することと、
    前記予測軌跡の複数の軌跡点から選択された少なくとも一部の軌跡点について、前記選択された軌跡点から複数の特徴を抽出することと、
    前記抽出された特徴にDNNモデルを適用して類似度スコアを生成することであって、
    前記類似度スコアは、前記予測軌跡と、前記DNNモデルによってモデル化された以前の実際軌跡との間の類似度を示す、ことと、
    前記類似度スコアに基づいて前記予測方法の精度を決定することとを含む動作を、前記プロセッサに実行させる、非一時的機械可読媒体。
  9. 非一時的機械可読媒体であって、
    前記非一時的機械可読媒体はコマンドを記憶しており、前記コマンドは、自律走行車(ADV)とネットワークを介して通信可能なサーバに実装されたプロセッサによって実行されるとき、
    前記自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法を用いて生成された対象の予測軌跡を受信することと、
    前記予測軌跡の複数の軌跡点から選択された少なくとも一部の軌跡点について、前記選択された軌跡点から複数の特徴を抽出することと、
    前記抽出された特徴にDNNモデルを適用して類似度スコアを生成することであって、
    前記類似度スコアは、前記予測軌跡と、前記DNNモデルによってモデル化された以前の実際軌跡との間の類似度を示す、ことと、
    前記類似度スコアに基づいて前記予測方法の精度を決定することとを含む動作を、前記プロセッサに実行させる、非一時的機械可読媒体。
  10. 前記受信された予測軌跡は、前記予測方法を用いて、1つ又は複数のADVによって予測された複数の予測軌跡の1つである、請求項8または9に記載の機械可読媒体。
  11. 各軌跡点の前記抽出された特徴は、物理的属性のセットを含み、前記物理的属性は、前記軌跡点の相対的な進行方向と速度とを含む、請求項8または9に記載の機械可読媒体。
  12. 各軌跡点の前記物理的属性は、前記予測軌跡の出発点に対する前記軌跡点の位置と、前記対象が前記軌跡の目的点に達する到達時間とをさらに含む、請求項11に記載の機械可読媒体。
  13. 各軌跡点の前記抽出された特徴は、軌跡関連属性のセットを含み、
    前記軌跡関連属性は、
    前記対象の移動している車線を識別するための車線識別子(ID)と、
    車線が左へ曲がるか、右へ曲がるか否かを示す指示と、
    前記対象と前記車線の縁石との間の距離とを含む、請求項8または9に記載の機械可読媒体。
  14. 前記軌跡関連属性は、
    前記対象の進行方向と前記車線の車線方向との間の差異と、
    記対象と前記車線の基準線との間の距離とをさらに含む、請求項13に記載の機械可読媒体。
  15. 前記動作は、前記DNNモデルを生成することをさらに含み、
    前記DNNモデルを生成することは、
    前記対象の感知データに基づいて予測された前記対象の第2の予測軌跡を受信することと、
    前記第2の予測軌跡から予測特徴を抽出することと、
    前記対象が実際に移動した実際軌跡を受信すること、
    前記実際軌跡の実際特徴を抽出することと、
    負例としての前記予測特徴と、正例としての前記実際特徴とに基づいて、前記DNNモデルを訓練して生成することとを含む、請求項8または9に記載の機械可読媒体。
  16. データ処理システムであって、
    プロセッサと、
    前記プロセッサに連接されてコマンドを記憶するメモリとを含み、
    前記コマンドは、前記プロセッサによって実行されるとき、前記プロセッサに動作を実行させ、
    前記動作は、
    自律走行車(ADV)周辺の走行環境内の対象を感知する感知データに基づく予測方法を用いて生成された対象の予測軌跡を受信することと、
    前記予測軌跡の複数の軌跡点から選択された少なくとも一部の軌跡点について、前記選択された軌跡点から複数の特徴を抽出することと、
    前記抽出された特徴にDNNモデルを適用して類似度スコアを生成することであって、
    前記類似度スコアは、前記予測軌跡と、前記DNNモデルによってモデル化された以前の実際軌跡との間の類似度を示す、ことと、
    前記類似度スコアに基づいて前記予測方法の精度を決定することとを含む、データ処理システム。
  17. 前記受信された予測軌跡は、前記予測方法を用いて、1つ又は複数のADVによって予測された複数の予測軌跡の1つである、請求項16に記載のデータ処理システム。
  18. 各軌跡点の前記抽出された特徴は、物理的属性のセットを含み、
    前記物理的属性は、前記軌跡点の相対的な進行方向と速度とを含む、請求項16に記載のデータ処理システム。
  19. 各軌跡点の前記物理的属性は、前記予測軌跡の出発点に対する前記軌跡点の位置と、前記対象が前記軌跡の目的点に達する到達時間とをさらに含む、請求項18に記載のデータ処理システム。
  20. 軌跡点の前記抽出された特徴は、軌跡関連属性のセットを含み、
    前記軌跡関連属性は、
    前記対象の移動している車線を識別するための車線識別子(ID)と、
    車線が左へ曲がるか、右へ曲がるか否かを示す指示と、
    前記対象と前記車線の縁石との間の距離とを含む、請求項16に記載のデータ処理システム。
  21. 前記軌跡関連属性は、
    前記対象の進行方向と前記車線の車線方向との間の差異と、
    前記対象と前記車線の基準線との間の距離とをさらに含む、請求項20に記載のデータ処理システム。
  22. 前記動作は、前記DNNモデルを生成することをさらに含み、
    前記DNNモデルを生成することは、
    前記対象の感知データに基づいて予測された前記対象の第2の予測軌跡を受信することと、
    前記第2の予測軌跡から予測特徴を抽出することと、
    前記対象が実際に移動した実際軌跡を受信することと、
    前記実際軌跡の実際特徴を抽出することと、
    負例としての前記予測特徴と、正例としての前記実際特徴とに基づいて、前記DNNモデルを訓練して生成することとを含む、請求項16に記載のデータ処理システム。
JP2018514804A 2017-06-22 2017-06-22 自律走行車の交通予測における予測軌跡の評価フレームワーク Active JP6722280B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2017/089487 WO2018232680A1 (en) 2017-06-22 2017-06-22 EVALUATION FRAME FOR PREDICTED TRAJECTORIES IN A SELF-CONTAINING VEHICLE TRAFFIC PREDICTION

Publications (2)

Publication Number Publication Date
JP2019527813A JP2019527813A (ja) 2019-10-03
JP6722280B2 true JP6722280B2 (ja) 2020-07-15

Family

ID=64693501

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018514804A Active JP6722280B2 (ja) 2017-06-22 2017-06-22 自律走行車の交通予測における予測軌跡の評価フレームワーク

Country Status (6)

Country Link
US (1) US11545033B2 (ja)
EP (1) EP3436783A4 (ja)
JP (1) JP6722280B2 (ja)
KR (1) KR102070527B1 (ja)
CN (1) CN109937343B (ja)
WO (1) WO2018232680A1 (ja)

Families Citing this family (86)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180374341A1 (en) * 2017-06-27 2018-12-27 GM Global Technology Operations LLC Systems and methods for predicting traffic patterns in an autonomous vehicle
US10782694B2 (en) * 2017-09-07 2020-09-22 Tusimple, Inc. Prediction-based system and method for trajectory planning of autonomous vehicles
US10739775B2 (en) * 2017-10-28 2020-08-11 Tusimple, Inc. System and method for real world autonomous vehicle trajectory simulation
US10737717B2 (en) * 2018-02-14 2020-08-11 GM Global Technology Operations LLC Trajectory tracking for vehicle lateral control using neural network
CN110298219A (zh) * 2018-03-23 2019-10-01 广州汽车集团股份有限公司 无人驾驶车道保持方法、装置、计算机设备和存储介质
US10457294B1 (en) * 2018-06-27 2019-10-29 Baidu Usa Llc Neural network based safety monitoring system for autonomous vehicles
EP3598414A1 (en) * 2018-07-20 2020-01-22 Volvo Car Corporation System and method for avoiding a collision course
US10814881B2 (en) * 2018-10-16 2020-10-27 Toyota Motor Engineering & Manufacturing North America, Inc. Vehicle velocity predictor using neural networks based on V2X data augmentation to enable predictive optimal control of connected and automated vehicles
US11577750B2 (en) * 2018-11-08 2023-02-14 Bayerische Motoren Werke Aktiengesellschaft Method and apparatus for determining a vehicle comfort metric for a prediction of a driving maneuver of a target vehicle
US11126197B2 (en) * 2018-11-19 2021-09-21 Waymo Llc Verification of iterative closest point alignments for autonomous vehicles
US11829870B2 (en) * 2018-11-26 2023-11-28 Uber Technologies, Inc. Deep reinforcement learning based models for hard-exploration problems
US10997729B2 (en) * 2018-11-30 2021-05-04 Baidu Usa Llc Real time object behavior prediction
CN109829577B (zh) * 2019-01-17 2021-10-01 北京交通大学 基于深度神经网络结构模型的轨道列车运行状态预测方法
WO2020160276A1 (en) 2019-01-30 2020-08-06 Perceptive Automata, Inc. Neural network based navigation of autonomous vehicles through traffic entities
JP7248208B2 (ja) * 2019-01-30 2023-03-29 バイドゥドットコム タイムズ テクノロジー (ベイジン) カンパニー リミテッド 自動運転車のためのポイントクラウド登録システム
US11467579B2 (en) 2019-02-06 2022-10-11 Perceptive Automata, Inc. Probabilistic neural network for predicting hidden context of traffic entities for autonomous vehicles
EP3924795A4 (en) * 2019-02-15 2022-12-21 Bayerische Motoren Werke Aktiengesellschaft TRAJECTORY PREDICTION USED FOR A DRIVING STRATEGY
US11126179B2 (en) * 2019-02-21 2021-09-21 Zoox, Inc. Motion prediction based on appearance
CN109857118B (zh) * 2019-03-12 2022-08-16 百度在线网络技术(北京)有限公司 无人车规划驾驶策略的方法、装置、设备及存储介质
WO2020191642A1 (zh) * 2019-03-27 2020-10-01 深圳市大疆创新科技有限公司 轨迹预测方法及装置、存储介质、驾驶***与车辆
DE102019002790B4 (de) 2019-04-16 2023-05-04 Mercedes-Benz Group AG Verfahren zur Prädiktion einer Verkehrssituation für ein Fahrzeug
CN109961106B (zh) * 2019-04-18 2022-03-18 北京百度网讯科技有限公司 轨迹分类模型的训练方法和装置、电子设备
NL2023068B1 (en) * 2019-05-03 2020-11-30 Prodrive Tech Bv System and method for positioning a mobile assembly
US11131993B2 (en) 2019-05-29 2021-09-28 Argo AI, LLC Methods and systems for trajectory forecasting with recurrent neural networks using inertial behavioral rollout
CN110187707B (zh) * 2019-05-30 2022-05-10 北京三快在线科技有限公司 无人驾驶设备运行轨迹的规划方法、装置及无人驾驶设备
US11327497B2 (en) 2019-06-21 2022-05-10 Volkswagen Ag Autonomous transportation vehicle image augmentation
US11531349B2 (en) * 2019-06-21 2022-12-20 Volkswagen Ag Corner case detection and collection for a path planning system
DE102019209736A1 (de) * 2019-07-03 2021-01-07 Robert Bosch Gmbh Verfahren zur Bewertung möglicher Trajektorien
CN114080634B (zh) * 2019-07-03 2024-04-26 伟摩有限责任公司 使用锚定轨迹的代理轨迹预测
US11631325B2 (en) * 2019-08-26 2023-04-18 GM Global Technology Operations LLC Methods and systems for traffic light state monitoring and traffic light to lane assignment
US11340622B2 (en) 2019-08-30 2022-05-24 Waymo Llc Determining respective impacts of agents
US11332132B2 (en) 2019-08-30 2022-05-17 Argo AI, LLC Method of handling occlusions at intersections in operation of autonomous vehicle
US11345342B2 (en) * 2019-09-27 2022-05-31 Intel Corporation Potential collision warning system based on road user intent prediction
CN114450703A (zh) * 2019-09-30 2022-05-06 北京航迹科技有限公司 预测行人的移动轨迹的***和方法
CN114450735A (zh) * 2019-09-30 2022-05-06 北京航迹科技有限公司 一种联合预测运动对象轨迹的***和方法
CN114556249A (zh) * 2019-09-30 2022-05-27 北京航迹科技有限公司 用于预测车辆轨迹的***和方法
EP3800521B1 (en) * 2019-10-01 2023-07-26 Elektrobit Automotive GmbH Deep learning based motion control of a vehicle
EP3812954A1 (en) * 2019-10-21 2021-04-28 Zenuity AB Performance monitoring and evaluation of a vehicle adas or autonomous driving feature
CN112712729B (zh) * 2019-10-26 2023-01-06 华为技术有限公司 预测运动轨迹的方法和***
CN110758403B (zh) * 2019-10-30 2022-03-01 北京百度网讯科技有限公司 自动驾驶车辆的控制方法、装置、设备及存储介质
US11586931B2 (en) 2019-10-31 2023-02-21 Waymo Llc Training trajectory scoring neural networks to accurately assign scores
US11912271B2 (en) 2019-11-07 2024-02-27 Motional Ad Llc Trajectory prediction from precomputed or dynamically generated bank of trajectories
WO2021097823A1 (zh) * 2019-11-22 2021-05-27 华为技术有限公司 用于确定车辆可通行空间的方法和装置
US20210173402A1 (en) * 2019-12-06 2021-06-10 Lyft, Inc. Systems and methods for determining vehicle trajectories directly from data indicative of human-driving behavior
US11061403B2 (en) * 2019-12-12 2021-07-13 Baidu Usa Llc Path planning with a preparation distance for a lane-change
CN111081017B (zh) * 2019-12-19 2021-07-06 苏州智加科技有限公司 车辆信息管理***、方法、计算机设备及存储介质
US11900224B2 (en) 2019-12-26 2024-02-13 Waymo Llc Generating trajectory labels from short-term intention and long-term result
US11967106B2 (en) * 2019-12-27 2024-04-23 Motional Ad Llc Object tracking supporting autonomous vehicle navigation
CN113383283B (zh) * 2019-12-30 2024-06-18 深圳元戎启行科技有限公司 感知信息处理方法、装置、计算机设备和存储介质
EP4074563A4 (en) * 2019-12-30 2022-12-28 Huawei Technologies Co., Ltd. TRAJECTORY PREDICTION METHOD AND ASSOCIATED DEVICE
CN113112643A (zh) * 2020-01-13 2021-07-13 北京地平线机器人技术研发有限公司 预测轨迹的评价方法、装置以及电子设备和存储介质
EP3872710A1 (en) * 2020-02-27 2021-09-01 Aptiv Technologies Limited Method and system for determining information on an expected trajectory of an object
CN111260082B (zh) * 2020-03-08 2023-11-07 北京瀚科科技集团有限公司 一种基于神经网络的空间对象运动轨迹预测模型构建方法
CN111829530B (zh) * 2020-03-10 2022-05-03 北京嘀嘀无限科技发展有限公司 一种评估方法、装置、存储介质以及电子设备
CN113393011B (zh) * 2020-03-13 2024-05-10 百度在线网络技术(北京)有限公司 预测限速信息的方法、装置、计算机设备和介质
CN111259801B (zh) * 2020-03-23 2021-07-20 重庆特斯联智慧科技股份有限公司 一种轨迹预测的人流冲突调节方法和***
US11535274B2 (en) * 2020-03-26 2022-12-27 Pony Ai Inc. Self-learning vehicle performance optimization
CN113511204B (zh) * 2020-03-27 2022-11-11 华为技术有限公司 一种车辆换道行为识别方法及相关设备
US20210304018A1 (en) * 2020-03-31 2021-09-30 Lyft, Inc. Systems and methods for predicting agent trajectory
CN111488984B (zh) * 2020-04-03 2023-07-21 中国科学院计算技术研究所 一种用于训练轨迹预测模型的方法和轨迹预测方法
CN113799793B (zh) * 2020-05-29 2023-05-12 魔门塔(苏州)科技有限公司 一种基于数据驱动的实现预测模型自动化迭代的***
CN111858800B (zh) * 2020-06-29 2024-03-26 北京百度网讯科技有限公司 确定大门通行状态的方法、装置、设备和计算机存储介质
CN111862144A (zh) * 2020-07-01 2020-10-30 睿视智觉(厦门)科技有限公司 一种确定物体移动轨迹分数的方法及装置
EP4172018A4 (en) 2020-07-28 2024-06-05 Waymo Llc AGENT PATH PREDICTION USING TARGET LOCATIONS
CN111873989B (zh) * 2020-07-29 2021-07-06 北京三快在线科技有限公司 车辆控制方法及装置
CN112017171B (zh) * 2020-08-27 2021-10-26 四川云从天府人工智能科技有限公司 一种图像处理指标评估方法、***、设备和介质
KR20220038859A (ko) 2020-09-21 2022-03-29 주식회사 스프링클라우드 표준 자율주행 인지 소프트웨어 품질 평가 장치 및 방법
KR20220038857A (ko) 2020-09-21 2022-03-29 주식회사 스프링클라우드 자율주행 상황 인지 알고리즘 평가 서비스 장치 및 방법
US11648965B2 (en) 2020-09-28 2023-05-16 Argo AI, LLC Method and system for using a reaction of other road users to ego-vehicle actions in autonomous driving
CN112212874B (zh) * 2020-11-09 2022-09-16 福建牧月科技有限公司 车辆轨迹预测方法、装置、电子设备及计算机可读介质
CN112461250A (zh) * 2020-11-16 2021-03-09 北京百度网讯科技有限公司 车辆航位推算服务的评估方法、装置、仿真设备及介质
EP4211615A1 (en) * 2020-11-16 2023-07-19 Waymo LLC Processing sparse top-down input representations of an environment using neural networks
CN114572240B (zh) * 2020-11-30 2023-11-14 北京百度网讯科技有限公司 车辆行驶控制方法、装置、车辆、电子设备及存储介质
CN113156961B (zh) * 2021-04-28 2024-04-12 广州极飞科技股份有限公司 驾驶控制模型训练方法、驾驶控制方法及相关装置
KR102589987B1 (ko) * 2021-05-04 2023-10-18 인하대학교 산학협력단 영상 및 레이더 특징 학습 기반 온라인 다중 객체 추적 방법 및 장치
CN113212454B (zh) * 2021-05-20 2023-05-12 中国第一汽车股份有限公司 车辆行驶状态的调整方法、装置、计算机设备和存储介质
CN113155173B (zh) * 2021-06-02 2022-08-30 福瑞泰克智能***有限公司 感知性能评测方法、装置、电子装置和存储介质
US11887317B2 (en) * 2021-08-30 2024-01-30 Ford Global Technologies, Llc Object trajectory forecasting
CN114348019B (zh) * 2021-12-20 2023-11-07 清华大学 车辆轨迹预测方法、装置、计算机设备和存储介质
KR102445049B1 (ko) * 2022-04-15 2022-09-21 국방과학연구소 단일 신경망 추정 자율주행 차량의 모델 예측 제어 방법 및 모델 예측 제어 시스템
CN114758502B (zh) * 2022-04-29 2023-08-18 北京百度网讯科技有限公司 双车联合轨迹预测方法及装置、电子设备和自动驾驶车辆
KR20240053350A (ko) 2022-10-17 2024-04-24 주식회사 스프링클라우드 자율 주행 소프트웨어 평가 방법 및 장치
KR20240053351A (ko) 2022-10-17 2024-04-24 주식회사 스프링클라우드 자율 주행 이벤트 기반의 자율 주행 소프트웨어 평가 방법 및 장치
KR20240053352A (ko) 2022-10-17 2024-04-24 주식회사 스프링클라우드 자율 주행 소프트웨어의 위험도 산출 방법 및 장치
CN116091553B (zh) * 2023-04-04 2023-06-30 小米汽车科技有限公司 轨迹的确定方法、装置、电子设备、车辆和存储介质
CN116358562B (zh) * 2023-05-31 2023-08-01 氧乐互动(天津)科技有限公司 消毒操作轨迹检测方法、装置、设备和存储介质

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3099934B2 (ja) * 1994-09-08 2000-10-16 株式会社東芝 走行所要時間予測装置
JP4577248B2 (ja) * 2006-03-23 2010-11-10 トヨタ自動車株式会社 移動体の経路探索システム、経路探索方法及び経路探索プログラム
GB2491987B (en) * 2008-03-03 2013-03-27 Videoiq Inc Method of searching data for objects identified by object detection
US8190330B2 (en) 2009-03-06 2012-05-29 GM Global Technology Operations LLC Model based predictive control for automated lane centering/changing control systems
US8849508B2 (en) 2011-03-28 2014-09-30 Tk Holdings Inc. Driver assistance system and method
US8466807B2 (en) * 2011-06-01 2013-06-18 GM Global Technology Operations LLC Fast collision detection technique for connected autonomous and manual vehicles
US20150074026A1 (en) * 2011-08-17 2015-03-12 Qualcomm Technologies Inc. Apparatus and methods for event-based plasticity in spiking neuron networks
JP5652364B2 (ja) * 2011-09-24 2015-01-14 株式会社デンソー 車両用挙動制御装置
JP6011788B2 (ja) * 2012-09-03 2016-10-19 マツダ株式会社 車両用制御装置
KR101500168B1 (ko) * 2013-10-14 2015-03-06 현대자동차주식회사 주행 도로의 측면 경계 인지 방법
EP3120300A4 (en) * 2014-03-19 2017-11-22 Neurala Inc. Methods and apparatus for autonomous robotic control
US20150292894A1 (en) 2014-04-11 2015-10-15 Telecommunication Systems, Inc. Travel route
DE112015004431B4 (de) * 2014-09-29 2021-07-29 Yazaki Corporation Fahrzeuganzeigevorrichtung
US9630318B2 (en) * 2014-10-02 2017-04-25 Brain Corporation Feature detection apparatus and methods for training of robotic navigation
US9248834B1 (en) * 2014-10-02 2016-02-02 Google Inc. Predicting trajectories of objects based on contextual information
CN104484911B (zh) 2014-10-29 2016-08-24 云南大学 基于QoE的个性化自动驾驶参数优化设定方法
CA3067160A1 (en) * 2015-02-10 2016-08-18 Mobileye Vision Technologies Ltd. Sparse map for autonomous vehicle navigation
US10536357B2 (en) * 2015-06-05 2020-01-14 Cisco Technology, Inc. Late data detection in data center
CN105069842A (zh) * 2015-08-03 2015-11-18 百度在线网络技术(北京)有限公司 道路三维模型的建模方法和装置
KR101714185B1 (ko) * 2015-08-05 2017-03-22 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량
CN105260699B (zh) * 2015-09-10 2018-06-26 百度在线网络技术(北京)有限公司 一种车道线数据的处理方法及装置
US10745003B2 (en) * 2015-11-04 2020-08-18 Zoox, Inc. Resilient safety system for a robotic vehicle
KR102137213B1 (ko) 2015-11-16 2020-08-13 삼성전자 주식회사 자율 주행을 위한 모델 학습 장치 및 방법과 자율 주행 장치
CN105741595B (zh) 2016-04-27 2018-02-27 常州加美科技有限公司 一种基于云端数据库的无人驾驶车辆导航行车方法
CN106314438B (zh) * 2016-08-15 2018-09-25 西北工业大学 一种司机驾驶轨迹中异常轨迹的检测方法和***
CN106570764A (zh) * 2016-11-09 2017-04-19 广州杰赛科技股份有限公司 一种用户关系预测方法及装置
US10255525B1 (en) * 2017-04-25 2019-04-09 Uber Technologies, Inc. FPGA device for image classification

Also Published As

Publication number Publication date
EP3436783A1 (en) 2019-02-06
KR20190013689A (ko) 2019-02-11
EP3436783A4 (en) 2019-02-06
CN109937343B (zh) 2023-06-13
JP2019527813A (ja) 2019-10-03
US20180374359A1 (en) 2018-12-27
WO2018232680A1 (en) 2018-12-27
US11545033B2 (en) 2023-01-03
CN109937343A (zh) 2019-06-25
KR102070527B1 (ko) 2020-01-28

Similar Documents

Publication Publication Date Title
JP6722280B2 (ja) 自律走行車の交通予測における予測軌跡の評価フレームワーク
JP6738932B2 (ja) シミュレーションプラットフォームに配置された、機械学習モデルを訓練するためのシステム及び方法
JP6720296B2 (ja) 自律走行のための地図画像に基づく交通予測
JP6748244B2 (ja) 自動運転車に用いられる学習に基づく速度計画装置
JP7050025B2 (ja) 自動運転車両のための計画運転感知システム
JP6754856B2 (ja) 自動運転車両のためのセンサー集約フレームワーク
JP6499806B2 (ja) 自律走行車のステアリング率の動的調整
JP6602352B2 (ja) 自律走行車用の計画フィードバックに基づく決定改善システム
JP6975512B2 (ja) 自動運転車両の周辺車両の挙動に基づくリアルタイム感知調整と運転調整
JP6644742B2 (ja) 頑健で効率的な車両測位用のアルゴリズム及びインフラ
JP6832421B2 (ja) シミュレーションに基づく自動運転車の感知要求の評価方法
JP6967051B2 (ja) 自動運転車両のための人間の運転行動を模倣する2段階基準線平滑化方法
JP6506805B2 (ja) 自律走行車の決定の評価フレームワーク
JP6494715B2 (ja) 自律走行車の速度制御率の動的調整方法
JP6578331B2 (ja) 自律走行車のコマンド遅延を決定するための方法
JP6972150B2 (ja) 自動運転車両のための歩行者確率予測システム
CN111476079B (zh) 将用于对象检测的地图特征与lidar合并的全面且有效的方法
JP2020064611A (ja) 標準的なナビゲーション地図と車両の過去の軌跡に基づいて決定された車線構成を利用した自動運転
JP2020523552A (ja) 自動運転車両の経路計画のための運転シナリオに基づく車線ガイドライン
JP2020521191A (ja) 自動運転車両の高速道路における自動運転に用いる、地図及びポジショニングなしで車線に沿う走行方法
JP2020083310A (ja) 車両挙動予測のための圧縮環境特徴の表示
JP2020083306A (ja) 自動運転車両を動作させるための所定のキャリブレーションテーブルに基づく車両制御システム
JP2021502915A (ja) 列挙に基づく自動運転車両の3ポイントターン計画
JP6987150B2 (ja) 自動運転車両の3ポイントターンの最適プランナー切り替え方法
JP7005571B2 (ja) 所定の負荷較正テーブルによる自動運転車両の車両負荷の確定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180320

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200619

R150 Certificate of patent or registration of utility model

Ref document number: 6722280

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250