JP2023514905A - 自律型車両のためのビヘイビア・プランニング - Google Patents

自律型車両のためのビヘイビア・プランニング Download PDF

Info

Publication number
JP2023514905A
JP2023514905A JP2022525030A JP2022525030A JP2023514905A JP 2023514905 A JP2023514905 A JP 2023514905A JP 2022525030 A JP2022525030 A JP 2022525030A JP 2022525030 A JP2022525030 A JP 2022525030A JP 2023514905 A JP2023514905 A JP 2023514905A
Authority
JP
Japan
Prior art keywords
lane
vehicle
trajectory
autonomous machine
trajectories
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022525030A
Other languages
English (en)
Inventor
二スター、デイヴィッド
ワン、エキシュウ
ウン、ジュリア
アヴィブ、ロテム
リー、スンホ
ジョン ビアルコウスキー、ジョシュア
リョン リー、ホン
ランカー、ヘルメス
テザノス、ラウル コレアル
チャン、ジェンイー
スモルヤンスキー、ニコライ
カメネフ、アレクセイ
ボーハン、オリン ボエール
ヴォロントソブ、アントン
セラ、ミゲル セインツ
ヘンケ、ビルギット
Original Assignee
エヌビディア コーポレーション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エヌビディア コーポレーション filed Critical エヌビディア コーポレーション
Publication of JP2023514905A publication Critical patent/JP2023514905A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0011Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/0097Predicting future conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0027Planning or execution of driving tasks using trajectory prediction for other traffic participants
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/60Intended control result
    • G05D1/646Following a predefined trajectory, e.g. a line marked on the floor or a flight path
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00Computing arrangements using knowledge-based models
    • G06N5/01Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/40High definition maps

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Remote Sensing (AREA)
  • Molecular Biology (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • Algebra (AREA)
  • Probability & Statistics with Applications (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

本開示の実施例は、自律型車両のためのビヘイビア・プランニングに関する。本明細書に記載の技術は、プランニング・システム内の異なる構成要素によって複数の仮説的軌道の評価に基づいて自律型車両の好ましい軌道を選択する。様々な構成要素は、構成要素の優先度に従って各軌道の最適化スコアを提供し、複数の構成要素からのスコアは、最終最適化スコアを形成し得る。この採点システムは、異なる構成要素の競合する優先度(たとえば、快適性、最小移動時間、燃料経済性)がともに考慮されることを可能にする。実例において、最高の結合されたスコアを有する軌道が、実装するために選択され得る。そのようなものとして、様々なファクタを評価する反復手法が、環境をナビゲートするときに自律型車両の最適な又は好ましい軌道を識別するために使用され得る。

Description

本発明は、自律型車両のためのビヘイビア・プランニングに関する。
監視なしに自律的に及び安全に車両を運転するためのシステムを設計することは極めて難しい。自律型車両は、車両の進路に沿った他の物体又は構造物との衝突を回避するために、注意深い-複雑な環境において移動する及び静的な障害物を識別する及びそれに反応するための驚くべき能力を有する知覚及びアクション・システムを利用する-運転者の機能的等価物として実行する能力を少なくとも有するべきである。したがって、障害物、進路、待機条件、道路若しくは車線ジオメトリ、及び/又は環境に関する他の情報を検出する能力は、しばしば、自律運転知覚システムにとって不可欠である。
運転知覚システムの判定は、ビヘイビア・プランニング-たとえば、車両のルートに沿った軌道を判定すること-のために使用され得る。そのようなものとして、自律型車両のビヘイビア・プランニングは、特に、複雑な都会のシナリオにとって、難しいが不可欠なタスクである。たとえば、自律型車両がその周辺を理解して安全で効果的なビヘイビア決定を行うために、自律型車両は、現在の車両軌道及びルート情報とともにこれらの様々な環境入力を処理して車両の連続する又は未来の軌道を計算しなければならない。しかしながら、ビヘイビア・プランニングのための従来のシステムは、しばしば、環境内の絶えず変化する変数を説明しない柔軟性のない決定に依拠する。たとえば、従来の方法は、最低移動時間を有するルートを選択し、次いで、ルートに従う車線プランを選び得る。しかしながら、この柔軟性のないプランニングは、変化する環境条件に基づいてプランニング・システムが軌道を最適に調整することを可能にしない。たとえば、他の判定-衝突回避などの-とは別個に車両のビヘイビアを決定することによって、現在のプランへの調整は、プロアクティブではなく、反応的であり得る。そのようなものとして、衝突回避の実例では、制御決定が、ビヘイビア・プランナからの出力を使用して、決定され得、そして、衝突が起こり得ると判定したとき、衝突回避機能性が、更新された制御決定を生成し得る。結果として、車両の軌道は、ファクタとして衝突回避を使用して決定されず、寧ろ、車両の衝突回避機能性によって上書きされる。したがって、これらの従来のシステムは、準最適である、及び車両の様々な異なる機能性-たとえば、衝突回避又は車線プランニング-からの動的入力を考慮しない、車両のビヘイビアを決定する。
本開示の実施例は、自律型車両のためのビヘイビア・プランニングに関する。以前の軌道プランニング技術に対するいくつかの優位性を有する自律型車両の軌道のプランニングに関連するシステム及び方法が、開示される。たとえば、従来の技術とは対照的に、本明細書に記載の技術は、複数の仮説的軌道がプランニング・システム内の異なる構成要素によって同時に評価されることを可能にする。これらの様々な構成要素-たとえば、衝突回避、車両操縦タイプ、ルート・プランニング、車線プランニング、イールド情報などに対応する-のそれぞれは、構成要素の優先度に従って各軌道の最適化スコアを提供し得る。そのようなものとして、複数の構成要素からのスコアは、最終最適化スコアを形成し得、最高の結合されたスコアを有する軌道が、実装するために選択され得る。この採点システムは、異なる構成要素の競合する優先度(たとえば、快適性、最小移動時間、燃料経済性、安全性など)がともに考慮されることを可能にする。
前述のものなどの従来のシステムとはさらに対照的に、本明細書に記載の技術は、現在好ましい又は選択された車線プラン又はルートに従わない帰結を数値化するために複数のシステム構成要素によって使用され得る情報を提供することによって、より安全でより効率的なプランニングを可能にする。たとえば、従来の手法は、次の5秒以内に車線を変更することに失敗することはルートを逃す原因となり得ることを認識し得るが、これらの従来の手法が、車両の潜在的な未来の軌道出力を生成するときに、この失敗を数値化又はエンコードすることは知られていない。本開示によれば、この失敗を数値化することによって、好ましい又は最適なルートが、辿るべき軌道を決定するときにプランニング・システムによって生成及び使用され得る。結果として、本開示のビヘイビア・プランニング・システムは、様々なシステム構成要素からの情報を使用して車両の潜在的軌道を決定することができ、環境変数の動的性質、ルート・プランニング情報、及び/又は車線プランニング情報を反映するために各反復又は時間ステップにおいて-たとえば、これらの様々なシステムのそれぞれを考慮して-潜在的軌道を更新することができる。
自律型車両のためのビヘイビア・プランニングのための本システム及び方法について、添付の図面を参照して、以下に詳しく説明する。
本開示のいくつかの実施例による、自律型車両のための例示的ビヘイビア・プランニング・アーキテクチャのイラストレーションである。 本開示のいくつかの実施例による、例示的レール・プラン及び対応する速度計算のイラストレーションである。 本開示のいくつかの実施例による、自律型車両の周りの例示的環境条件のイラストレーションである。 本開示のいくつかの実施例による、環境条件に従って調整されるときの例示的レール・プラン及び対応する速度計算のイラストレーションである。 本開示のいくつかの実施例による、自律型車両の軌道を選択する方法を示す流れ図である。 本開示のいくつかの実施例による、自律型車両の軌道を選択する方法を示す流れ図である。 本開示のいくつかの実施例による、自律型車両の軌道を選択する方法を示す流れ図である。 本開示のいくつかの実施例による、例示的自律型車両のイラストレーションである。 本開示のいくつかの実施例による、図8Aの例示的自律型車両のカメラ位置及び視野の実例である。 本開示のいくつかの実施例による、図8Aの例示的自律型車両の例示的システム・アーキテクチャのブロック図である。 本開示のいくつかの実施例による、クラウドベースのサーバと図8Aの例示的自律型車両との間の通信のシステム図である。 本開示のいくつかの実施例の実装において使用するのに適した例示的コンピューティングデバイスのブロック図である。 本開示のいくつかの実施例の実装において使用するのに適した例示的データ・センタのブロック図である。
本明細書に記載のものなどの、しかしこれらに限定されない、自律型車両又は別のタイプの自律マシンの軌道のプランニングに関して、システム及び方法が、開示される。本開示は、例示的自律型車両800(その実例は図8A~8Dに関して本明細書で説明され、本明細書で別法として「車両800」又は「自己車両800」と称される)に関して説明されることがあるが、これは限定を意図していない。たとえば、本明細書に記載のシステム及び方法は、非自律型車両、半自律型車両(たとえば、1つ又は複数の高度運転者支援システム(ADAS:advanced driver assistance system)における)、ロボット及びロボットのプラットフォーム、倉庫車両、オフロード車両、飛行船舶、ボート、並びに/又は他の車両タイプによって使用され得る。加えて、本開示は、自律運転に関して説明されることがあるが、これは限定を意図していない。たとえば、本明細書に記載のシステム及び方法は、ロボット工学(たとえば、ロボットのためのビヘイビア・プランニング)、航空システム(たとえば、ドローン又は他の航空機のためのビヘイビア・プランニング)、船舶システム(たとえば、船のためのビヘイビア・プランニング)、シミュレーション環境(たとえば、仮想シミュレーション環境内の仮想車両のビヘイビア・プランニング・システムを検査又は検証するための)、並びに/又は、たとえば、ルート・プランニング、車線プランニング、ビヘイビア・プランニング、及び/若しくは制御決定のための他の技術分野、において使用され得る。
本明細書に記載の技術は、各プランニング構成要素が最小限の計算資源を使用することを可能にするアーキテクチャを用い得る。いくつかの実施例において、本明細書に記載の軌道プランニング・システムは、それぞれが異なるプランニング・ホリゾンを有する、3つの異なるプランニング構成要素を用い得る。結果として、計算効率は、それぞれのプランニング・ホリゾンを横断する必要なタスクを完遂するのに十分な詳細だけを有するプランニング情報を各プランニング構成要素に提供することによって、改善され得る。少なくとも1つの実施例において、3つの異なるプランニング構成要素は、ルート・プランナ、車線プランナ、及びビヘイビア・プランナを含む。各構成要素は、結果及び/又は結果セットを生み出し、それをプランニング・パイプラインにおいて次の構成要素に通信することができる。ルート・プランナは、ルート・セットを車線プランナに通信することができ、車線プランナは、車線プランをビヘイビア・プランナに通信することができる。ビヘイビア・プランナは、複数の軌道を開発及び評価することができる。車線プランは、グラフ・ノードに関連する時間報酬を有する車線グラフの形を取り得る。このタイプの車線プランは、1つ又は複数の車線シーケンスを含む伝統的車線プランとは異なり得る。選択された又は最適化された軌道は、計画された軌道を実装する責任を有する運動コントローラにビヘイビア・プランナから送られ得る。
ルート・プランナは、大きな地理的エリア(たとえば、大都市圏、州、国、領域)をカバーするが、相対的に少量の詳細(たとえば、車線プランニング及び軌道プランニングのために使用される地理的情報において見つかるのよりも少ない詳細)を有する地理的情報を有し得る。ルート・プランナのプランニング・ホリゾンは、始点(たとえば、現在の位置)と目的地点との間の全エリアでもよい。ルート・プランナは、比較的大きなエリアの低詳細マップを使用して目的地までの複数のルートを計算することができる。たとえば、大きな地理的エリアは、129.5平方キロ・メートル(50平方マイル)超、1295平方キロ・メートル(500平方マイル)超、2590平方キロ・メートル(1000平方マイル)超、又はそれより大きくてもよい。一態様において、単一のルートが最初に最適として選択されず、代わりに、各ルートは、ルート目的地までの移動の推定時間に従って、又は最適な若しくは好ましいルートを数値化する何らかの他の採点機構によって、採点され得る。ほぼ無限数のルートが可能であり得るので、様々な方法が、トップの複数のルートを識別するために使用され得る。たとえば、移動の推定時間及び/又は他のファクタによって測定されるものとしての、5、10、50、及び/又は別の数の最良のルートが、識別され得る。これらのルートは、車線プランナに通信され得、ビヘイビア・プランナなどの、他の構成要素に加えて、車線プランナが、その複数の中から好ましいルートを決定し得る。
車線プランナは、ルート・プランナから受信された1つ又は複数のルートに基づいて車線プランを生成することができる。車線プランナは、ルート・プランナによって使用されるマップにおいて見つかるのよりもより多くの詳細を含む第2の地理的マップを使用することができる。第2の地理的マップは、ルート・プランナによって使用されるマップよりも小さい地理的エリアをカバーし得る。たとえば、より小さい地理的エリアは、129.5平方キロ・メートル(50平方マイル)未満でもよい。いくつかの実施例において、車線プランは、数マイルのプランニング・ホリゾンを有することができる注釈付き車線グラフの形を取ることができる。車線グラフは、一般に、ルート(たとえば、道路)上の自律型車両に利用可能な車線を示し得る。車線グラフ上の注釈は、車線グラフ上の様々な位置又は点の一時的スコアを示し得る。たとえば、一時的スコアは、10メートル、20メートル、又は何らかの他の間隔ごとに提供され得る。一時的スコアは、自律型車両を車線グラフ上の特定の点に動かす全体的価値を通信することができる。
ビヘイビア・プランニング構成要素は、次いで、様々な軌道を評価するときにこれらのスコアを考慮することができる。たとえば、いくつかの状況では、1つの車線が、任意の他の利用可能な車線と同様に働き得る。イラストレーションのように、ルートによって指示された出口から32.19キロメートル(20マイル)離れた州間幹線道路を下って移動する自律型車両は、移動時間に意味のある影響を及ぼさずに、いずれかの車線を使用し得る。この状況において、各車線の一時的スコアは、非常に類似している又は同じであることすらある。他方で、自律型車両が出口に近付くにつれて、出口車線における一時的スコアは、出口でない車線における一時的スコアよりも出口車線にあることの優先をますます示すことになる。出口において、出口車線における一時的スコアと他の車線における一時的スコアとの差は、出口を逃すことによって被る時間ペナルティに対応し得る。したがって、出口を逃すことが、目的地への移動時間の5分間の増加を引き起こすことになる場合、そのとき、一時的スコアの差は、この5分間の増加を反映し得る。
ビヘイビア・プランニング構成要素は、軌道を計画するときにこれらの異なる一時的スコアを考慮することができる。ビヘイビア・プランナは、ルート・プランナ又は車線プランナよりも小さいプランニング・ホリゾンを有し得る。一般に、ビヘイビア・プランナは、次の0.5秒、1秒、2秒、3秒、4秒、5秒、10秒、20秒などに関して、及び/又は距離尺度、たとえば、次の5m、10m、50m、100m、200m、300mなど、に基づいて、車両の移動を計画することができる。カバーされる距離は、車両の移動速度に応じて変化することになる。ビヘイビア・プランナは、小さいエリアにわたる高レベルの詳細を示すマップを使用し得る。たとえば、小さいエリアは、車線プランナ又はルート・プランナによって使用されるマップ内のエリアより少ないことがある。たとえば、ビヘイビア・プランナによって使用されるマップは、100平方メートル未満をカバーし得る。より豊富な詳細は、自律型車両に関連するセンサによって検出される物体(たとえば、他の車両、歩行者)を含み得る。一態様において、これらの物体のうちの少なくともいくつかは、車線プランナに利用可能な情報内にないことがある。選択された実際の軌道は、短期間、たとえば、1秒、又は短い距離、たとえば、5メートル、のみの自律型車両の運動を支配し得る。新しい軌道は、自律型車両の環境内の変化する条件(たとえば、移動している車両、移動している歩行者、待機条件など)について調整するために、絶えず評価及び実装され得る。
ビヘイビア・プランナは、取るべき自律型車両の1つ又は複数の望ましいアクションを最初に選択し得る。アクションは、車線プランナによって提供される注釈付き車線グラフに基づき得る。アクション又は選択されたアクションは、注釈付き車線グラフに含まれる一時的スコアによって示される安全な、効率的な、又は最良の結果を達成することに基づき得る。可能なアクションは、車線追従、車線変更速度適合、追い越し、ダブル・レーン・チェンジ、及び車線変更行動を含むが、これらに限定されない。ビヘイビア・プランナは、1つ又は複数の所望のアクションを完遂する複数の可能な又は仮説的軌道を生成し得る。ビヘイビア・プランナ内の様々な構成要素は、仮説的軌道を採点する及び/又は軌道を場合により除外することができる。たとえば、衝突回避構成要素が、仮説的軌道が衝突をもたらすことになる又はもたらす可能性があると判定した場合、次いで、仮説的軌道は、さらなる検討から除外され得る。これに対して、快適性モジュールは、自律型車両に乗っている乗客に快適な乗車を提供することに基づいて、各軌道にスコアを割り当て得る。選択された又は好ましい軌道が、最高の又は最良のスコアを有する複数の軌道から選択されるように、他のモジュール又は構成要素は、スコアを同様に生成する及び割り当てることができる。
結果として、本明細書に記載の技術は、最適な軌道を識別するために反復手法を使用することによって、現在の技術を改良し得る。第1の反復において、初期の複数の仮説的軌道が、評価のために追加の仮説的軌道を生成するためのシードの役割を果たす最高の最適化スコアを有する軌道で評価され得る。第2の反復において、第2の複数の仮説的軌道が、シード軌道の様々なパラメータをわずかに変更することによって、生成され得る。第2の複数の仮説的軌道は、次いで、これらの軌道のうちの1つがシード軌道より高い最適化スコアを有するかを判定するために、評価され得る。最高の最適化スコアを有する仮説的軌道が、実装するために選択され得る。
図1を参照すると、図1は、本開示のいくつかの実施例による、例示的ビヘイビア・プランニング・アーキテクチャ100である。本明細書に記載のこの及び他の構成は単に実例として記載されていることを理解されたい。他の構成及び要素(たとえば、マシン、インターフェース、機能、順番、機能のグループ化など)が、図示されたものに加えて又はそれらの代わりに使用され得、いくつかの要素は、完全に省略され得る。さらに、本明細書に記載の要素の多数は、個別の若しくは分散された構成要素として又は他の構成要素と併せて、並びに任意の適切な組合せ及び場所において実装され得る機能エンティティである。エンティティによって実行されるものとして本明細書に記載された様々な機能は、ハードウェア、ファームウェア、及び/又はソフトウェアによって実施され得る。たとえば、様々な機能は、メモリに記憶された命令を実行するプロセッサによって実施され得る。
ビヘイビア・プランニング・アーキテクチャ100は、異なるプランニング構成要素(たとえば、3つのプランニング構成要素)を使用することができ、それぞれのプランニング構成要素は異なるプランニング・ホリゾンを有する。1つの実施例において、異なるプランニング構成要素は、ルート・プランナ110、車線プランナ120、及びビヘイビア・プランナ140を含む。各構成要素は、結果及び/又は結果セットを生み出し、プランニング・パイプラインにおいて次の構成要素にそれを通信することができる。ルート・プランナ110は、ルート・セットを車線プランナ120に通信することができ、車線プランナ120は、車線プランをビヘイビア・プランナ140に通信することができる。ビヘイビア・プランナ140は、複数の軌道を開発及び評価することができ、選択された又は好ましい軌道は、計画された軌道を実装する責任を有する運動コントローラ180にビヘイビア・プランナから送られ得る。
ルート・プランナ110は、実施例において、地理的エリア(たとえば、町、大都市圏、州、国、領域など)をカバーするが、相対的に少量の詳細を有する、地理的情報112を使用し得る。ルート・プランナのプランニング・ホリゾンは、始点(たとえば、現在の位置)と目的地点(たとえば、最終位置)との間のエリア全体でもよい。技術は、比較的大きなエリアのより低詳細マップ(たとえば、高精細(HD:high-definition)マップと比較したGNSSベースのマップ)を使用して目的地までの複数のルートを計算することができる。ルート・プランナ110は、比較的大きなエリアの低詳細マップを使用して目的地までの複数のルートを計算することができる。たとえば、大きな地理的エリアは、129.5平方キロ・メートル(50平方マイル)超、1295平方キロ・メートル(500平方マイル)超、2590平方キロ・メートル(1000平方マイル)超、又はそれより大きくてもよい。しかしながら、これは限定を意図しておらず、いくつかの実施例において、任意の詳細レベルのマップが、使用され得る。一態様では、単一のルートが最初に最適又は好ましいとして選択されず、代わりに、複数のルートのうちの各ルートが、ルート目的地までの移動の推定時間に従って又は好ましいルートを数値化する何らかの他の採点機構によって採点され得る。そのようなものとして、そして、ほぼ無限数のルートが可能であり得るので、様々な方法が、複数のルートからいくつかの潜在的ルートを識別するために使用され得る。たとえば、移動の推定時間及び/又は他のファクタによって測定されたものとしての、10個の最良のルートが、識別され得る。これらのルートは、車線プランナ120に通信され得、それにより、複数のルートを車線プランナ120に提供する。
1つ又は複数の実施例において、ルート・プランナ110は、ドライブ・ミッション116を提供又は発行され得る。ドライブ・ミッション116は、大きな車線グラフ130内のGPS点及び/又は位置(たとえば、降ろす又は乗せるためにこのバス停で正確に停止する)としてエンコードされ得る、1つ又は複数のウェイポイントのシーケンスとして表現され得る。ドライブ・ミッション116はまた、駐車エリア(特定の駐車エリアで駐車するという要求)で終了し得る。1つ又は複数の実施例によれば、駐車エリアは、通常は駐車場の周りのループ構造及びオプションで駐車スペース自体のマップ知識を含む大きな車線グラフ130のサブセットである。
ルート・プランナ110は、他のプランニング・ステップからモジュール式に分離可能なものとして設計され得る。建築設計は、効率的に長距離ルートをサポートし得る。ルート・プランナ110は、結果として生じたルート・プラン並びにいくつかの基本状態情報を車線プランナ120に渡すことができる。ルート・プランは、現在の位置からウェイポイント又は駐車エリアに到着するために使用するための潜在的概算ルートであると判定された1つ又は複数のGPSトレースを含み得る。ルート・プランにおけるGPS点はまた、それらに関する期待時間報酬を有し得る(又は、好ましくは、時間報酬は、目的地までの残された期待時間として表され得る)。ルート・プランニングは、大陸全体にわたるルートについてでも、最短ルートがミリ秒の処理内で判定されることを可能にする、短縮階層118を使用して導出され得る。ルート・プランのGPSトレースは、特定の車線又は道路に関する厳格な主張ではなくて、おおよその案内を車線プランナ120に与えることができる。ルート・プランナ110は、互いの閾値移動時間内にある複数のルート又はルート変化を提供することができ、実施例において、各ルートは、推定される移動時間と関連付けられ得る。1つの実施例において、各ルート・セグメントは、出口を逃すこと及び代替ルートを強いられることのコストを計算するために使用され得る車線プランナ120及び他の構成要素情報を与える移動時間を割り当てられる。いくつかの実施例において、移動時間はまた、他の構成要素、たとえば、車線プランナ120、によって計算され得、移動時間は、距離及び速度制限を使用して計算され得るが、リアルタイムの交通データ、建設工事データ、気象データ、及び/又は同類のもので精緻化され得る。
ルート・プランナ110はまた、基本状態管理に対処するための状態管理構成要素114を含み得る。たとえば、状態管理構成要素114は、常温起動時に、センサ及び計算が作動及び実行していることと、ローカリゼーションが、自律型車両が動き始める前に(たとえば、ミッション制御システムが自律型車両をナビゲートし始める前に)、それの場所を見つけたことを確認することができる。それまで、ルート・プランナ110は、START状態にあり得る。その後、自律型車両(又はそれのビヘイビア・プランナ140)が、知られている車線グラフ上を移動している場合、ルート・プランナ110は、DRIVING状態へと切り替えることができる。ルート・プランナ110はまた、ドライブ・ミッションにおいて駐車エリアに到着するときにPARK状態に切り替えることができる。特別なSUMMON及びLIMP(警告)状態もまた存在する。予期せぬ何かが発生し、自律型車両が停車場まで減速する又は慎重に移動しているとき、徐行が生じる、たとえば、ローカリゼーションが、自律型車両がマップを外れた又はローカライズすることができないと宣言した場合、LIMP状態が、開始され得る。
車線プランナ120は、ルート・プランナから受信された1つ又は複数のルートに基づいて車線プランを生成することができる。車線プランナ120は、ルート・プランナによって使用されるマップにおいて見つかるのよりも多くの詳細を含む第2の地理的マップを使用することができる。第2の地理的マップは、ルート・プランナによって使用されるマップよりも小さい地理的エリアをカバーし得る。たとえば、より小さい地理的エリアは、129.5平方キロ・メートル(50平方マイル)未満でもよい。車線プランは、注釈付き車線グラフの形を取ることができ、注釈付き車線グラフは、数マイルのプランニング・ホリゾンを有することができる。車線グラフは、ルート(たとえば、道路)上の自律型車両に利用可能な車線を表し得る。車線グラフの注釈は、車線グラフ上の様々な位置の一時的スコアを示すことができる。たとえば、一時的スコアは、車線グラフ上で10メートル、20メートル、又は何らかの他の間隔ごとに提供され得る。一時的スコアは、潜在的な未来の位置の順次的時間報酬と言うことができる。より大きい又はより優れた報酬が、ルート目的地に向けたより速い進路に関連し得る、或いは、他の実施例では、より低いスコアが、より優れた又はより速い進路を示し得る。報酬のスケールは、時間の単位、たとえば、秒、であり得る。
一時的スコアは、自律型車両を車線グラフ上の特定の点に動かす全体的価値を通信する。ビヘイビア・プランナ140は、次いで、様々な軌道を評価するときにこれらのスコアを考慮することができる。たとえば、いくつかの状況では、1つの車線が、任意の他の利用可能な車線と同様に働き得る。イラストレーションのように、ルートによって指示された出口から32.19キロメートル(20マイル)離れて州間幹線道路を下って進む自律型車両は、移動時間に意味のある影響を及ぼさずに、いずれかの車線を使用し得る。この状況において、各車線の一時的スコアは、非常に類似している又は同じであることすらある。他方で、自律型車両が出口に近付くにつれて、出口車線における一時的スコアは、出口でない車線における一時的スコアよりも出口車線にあることの優先をますます示すことになる。出口において、出口車線における一時的スコアと他の車線における一時的スコアとの差は、出口を逃すことによって被る時間ペナルティに対応し得る。したがって、出口を逃すことが、目的地への移動時間の5分間の増加を引き起こすことになる場合、そのとき、一時的スコアの差は、この5分間の増加を反映し得る。
車線プランナ120は、車線進行予測子122及び駐車車線プランナ126を含み得る。車線プランナ120は、ルート・プラン及び基本状態情報をルート・プランナ110から受信し得る。車線プランニングの目的は、自律型車両の近くの様々な車線内にあることがどれほど有益かに関する情報を提供することでもよい。たとえば、自律型車両が、1つの車線がその他の車線及び出口から分離する位置に近付いている場合、車線プランナは、その出口を逃した場合にどのくらい多くの時間がさらに失われ得るかに関する情報を提供することができる。車線プランナ120の出力は、ローカル車線グラフ132に関連する大きな車線グラフ130上にエンコードされた期待時間報酬として表され得る。このエンコードは、ビヘイビア・プランナ140がそこに到着するための操縦の難しさに対する特定の車線内にあることの価値を測ることを可能にするので、単にどの車線内にあるべきかのストレートな命令又は推奨よりも柔軟性を提供し得る。
車線プランナ120は、車線位置の軽い表現及びそれらの間で移行するための期待時間に対応し得る、大きな車線グラフ130と連動する。車線プランナ120は、提案されたルートの周りの大きな車線グラフ130の回廊(たとえば、数百メートル幅)を切り取るためにガイドとしてルート・プランナ110によって提供されるルート・プランGPSトレースを使用し得る。車線プランナ120は、次いで、提案されたルートに沿ったいくらかの距離(たとえば、数マイル)を中心にしたエリアを目標にし、それを一時的プロキシ目的地として使用し得る。プロキシ目的地は、ここで回廊内の大きな車線グラフ130内のすべてのノードに伝搬し返され得る、ルート・プランからの期待時間報酬を有し得る。車線プランナ120は、車線変更と、それらが直ちに成功しない又は全く成功しない確率とを考慮する。これは、期待時間報酬が確率計算を必要とし得ることを意味する。たとえば、各ノードは、1セットのアクション(たとえば、車線保持、分岐点、車線変更)に関連し得、アクションは、新しい車線位置(たとえば、車線変更が成功したときには異なる車線、車線変更が失敗した場合には同じ車線にさらに沿った)を確率的にもたらす。
いくつかの実施例によれば、この確率は、プロキシ目的地における所与の固定値から開始する任意のノード内にあることの価値について解明される、マルコフ決定過程(MDP:Markov Decision Process)として表され得る。MDPは、自律型車両が道路の割れ目に近付くときに時間内に車線変更を行うという増加するプレッシャ、又は異なる車線に入ってから好ましい車線に戻る実行可能性を推定することなどに対処する。
MDPにおける状態の価値(この場合には大きな車線グラフ内のノードにおける)、たとえばクラシック価値反復、を推定するための多数のアルゴリズムが存在する。効率的であるように、ヒューリスティックが、大きな車線グラフ内のすべてのサイクルを取り除くために使用され得、それは、動的プログラミングの単一のパスへの価値反復を減らす。ヒューリスティックは、サイクル上の自律型車両から最も離れたエッジを取り除くためにサイクルが存在するときに使用され得る。このヒューリスティックは、自律型車両と目的地との最短距離の一部であるが、サイクルの一部である、エッジを取り除くことを回避する。しかしながら、サイクルを断つことは、目的地への途中で不必要なサイクルによって寄与される確率的調整を無視しないことがある。たとえば、自律型車両が、車線変更に失敗し、クローバ型交差点を周回して全く同じ車線変更を再び試みなければならない場合、これは、不必要なサイクルをもたらし得る。サイクルを断つことは、この可能性を取り除くが、不必要なサイクルを使用することは望ましくないことがあるので、これは、許容近似値でもよい。グラフが、指示され得、同じ目的地への複数の進路が、考慮され得る。また、同じノードを指し返す反射的エッジ、たとえば、車線変更を行うために停止して待つこと、もまた、正確に処理され得る(反射的エッジ以外の依存関係を有さないノードが、確定され得る)。
最初に、ダイクストラのアルゴリズム-及び/又は別の最短進路アルゴリズム・タイプ-が、任意のアクションを使用するすべてのノードまでの距離及び最短進路を見つけるために、実行し得る。次いで、ノードの報酬が、確定される、又はサイクル上のエッジが、単一グラフ・トラバーサルで反復して取り除かれる。ダイクストラは、次いで、最短オプティミスティック進路(それらができる場合に車線変更が成功したと仮定する)を見つけるために大きな車線グラフにわたり実行される。それは、それらに到着するためのオプティミスティック時間による車線プランニング範囲内のノードの順序付けを生み出す。また、エッジは、たとえば、対応するエッジの終わりに到着するための時間によって、順序付けされ得、そのようにして、エッジは、それらが指すノードと同じに順番付けされ得る。
後方エッジは、それの期待時間を確定するためにそれがどのノードに依存するか(それのアクション及び失敗したアクションについてそれが指すすべてのノード)を、各ノードについて、追跡を続けるために使用される。同様に、未確定のノードを指すエッジが、追跡され得る。
ゼロ依存関係を有するすべてのノードが、発見及び確定され得る。ノードが確定されるとき、後方エッジは、他のノードの依存関係カウントを減らすために使用され得る。これらの更新が、ゼロ依存関係を有する新しいノードを見つけた場合、新しいノードもまた、キューに入れられ得る。すべての確定されたノード及び確定されたノードを指すエッジもまた、前に計算されたノード及びエッジ順序から取り除かれ得る。
ゼロ依存関係を有するノードが存在しない場合、最も離れた未確定のエッジが、ダイクストラのアルゴリズム(及び/又は別の最短進路アルゴリズム・タイプ)の結果に従って、取り除かれ得る。ノード間の依存関係は、次いで、更新され得る。いくつかの実施例において、1つ又は複数のノードが、他のノードへの接続が存在しないことを意味する、ゼロ依存関係で生み出され得る。これは、行き止まりを表し、これらのノードに関連する時間は、ミッション失敗に相当する時間として決定され得る。すべてのノードが確定されたとき、プロセスは停止する。このアルゴリズムの複雑性は、本質的に、ダイクストラのアルゴリズムに加えた単一グラフ・トラバーサルの複雑性である。
車線プランナ120は、車線のローカル車線グラフ132にもリンクされる、マップ・データから導出された大きな車線グラフ130を使用する。1つ又は複数の実施例において、車線プランナ120は、大きな車線グラフ130全体の値を導出することができる。しかしながら、ビヘイビア・プランナ140は、ローカル車線グラフ132上の自律型車両に近い選ばれたものの値を(ただ単に又は主に)使用することができる。車線進行予測子122は、ライブ知覚、たとえば、異なる車線における車線速度及び渋滞のレベル及び最も近い車両の速度、に基づいて車線進行推定を生成することができる。進行予測が、一般的期待トラバーサル時間を変更するために使用される。期待トラバーサル時間は、現在速い車線への車線変更が有益であると車線プランナが決定することを可能にする。
車線プランナ120は、ルート・プランナ110が状態を変更する(たとえば、非限定的実例として、PARK、SUMMON、又はLIMPに)とき、機能を変更することができる。駐車に関して、車線プランナ120は、駐車車線プランナ126を使用して車線プランを生成することができる。駐車車線プランナ126は、駐車場の大きな車線グラフ・サイクルを使用して、最も長い間探索されていない駐車場の部分を探索するようにビヘイビア・プランナ140に動機を与えることができる。駐車は、任意の数のフェーズを有し得る。フェーズの非限定的実例は、駐車スポットへと徘徊及び操縦する駐車を含む。駐車徘徊は、目的が、スペースが見つかるまで、周期的に運転して回ることであることを除いて、都会エリアにおいて車線グラフの周りを運転することに同様に取り組む。車線プランナは、ループの周りの優れた運転パターンが達成されるように値を設定することによって、これを達成することができる。空のスペースへの視線が確立された後は、駐車操縦が、ビヘイビア・プランナ140によって開始される。
同様に、呼び出しは、任意の数のフェーズを同様に有し得る。自律型車両が、知られている車線グラフ上にあれば、次いで、目的地までの車線プランが、通常のDRIVING状態でのように、実行され得る。しかしながら、自律型車両が、知られている車線グラフ上にまだない、たとえば、マップされた進路を少し外れた駐車スペース内にある、又はマップされた進路を進むための標準的な道を有さない、場合、次いで、駐車車線プランナ126は、自律型車両が始動する場所から車線グラフ上の最も近いポーズのうちの1つまでの道を見つけるために使用され得る。単に呼び出し人へのおおよその方向を除いてマップが全く存在しない場合、次いで、そのおおよその方向が、単純に、ビヘイビア・プランナ140へと渡される。詳細なマップ情報が入手不可能な場合又は不十分な詳細のマップ情報が入手可能な場合、LIMPモードが同様に働き得る。
ビヘイビア・プランナ140は、1つ又は複数のアクションを考慮し、それらのアクションのより詳細な実装形態の仮説生成及び評価の1つ又は複数の反復の中を進むことができる。より詳細な実装形態は、正確な運動プラン(未来への数秒の時間にわたるポーズ軌道)として表現され得、運動プランナ172によって評価される。ビヘイビア・プランナ140は、アクション・ジェネレータ142、縦方向事前制限構成要素150、仮説生成160、及びアクション・プラン・セレクタ170を含む。
ビヘイビア・プランナ140は、ルート・プランナ又は車線プランナよりも小さいプランニング・ホリゾンを有し得る。一般に、ビヘイビア・プランナ140は、次の数秒の車両の移動を計画することができる。カバーされる距離は、車両の移動速度に応じて変化することになる。たとえば、ビヘイビア・プランナは、50m、100m、200m、300m、又は同類のもののプランニング・ホリゾンを有し得る。ビヘイビア・プランナ140は、小さいエリアにわたる高レベルの詳細を示すマップを使用し得る。たとえば、小さいエリアは、車線プランナ120又はルート・プランナ110によって使用されるマップ内のエリアより少なくてもよい。たとえば、ビヘイビア・プランナによって使用されるマップは、100平方メートル未満をカバーし得る。より豊富な詳細は、自律型車両に関連するセンサによって検出される物体(たとえば、他の車両、歩行者)を含むことができる。一態様において、これらの物体のうちの少なくともいくつかは、車線プランナ120に利用可能な情報内にないことがある。選択された実際の軌道は、短期間、たとえば、1秒、のみの自律型車両の運動を支配し得る。新しい軌道が、自律型車両の環境内の変化する条件(たとえば、移動している車両、移動している歩行者)について調整するために、絶えず評価及び実装され得る。
ビヘイビア・プランナ140によって評価される各アクションの計算フローは、アクション・ジェネレータ142によって開始され得る。アクション・ジェネレータ142は、取るべき自律型車両の1つ又は複数の望ましいアクションを最初に選択し得る。そして、アクションは、車線プランナ120によって提供される注釈付き車線グラフに基づき得る。アクション又は選択されるアクションは、注釈付き車線グラフに含まれる一時的スコアによって示される最良の結果を達成することに基づき得る。可能なアクションは、車線追従、車線変更速度適合、追い越し、車線変更行動、路肩に停止、駐車徘徊、駐車終盤、呼び出し、及び徐行を含むが、これらに限定されない。前述の構成要素と同様に、アクション・ジェネレータ142は、複数のアクションを選択又は採点し得る。いくつかの実施例において、アクションは公称レールとして表され得る、及び/又は各アクションは複数の公称レールに関連し得る。
アクションのうちの1つ又は複数が、公称横方向レール又は車線によって第1のフェーズにおいて開始され得る。世界モデル164は、たとえば、自律型車両が現在その中にある車線のすべての分岐点、並びに自律型車両が1つ又は複数の連続的車線変更でそこに変更することを考慮することができる車線を含む、分解して示したフォーマットですべての車線の明確なリストを提供し得る。自律型車両が現在その中にある車線のそれぞれは、車線追従アクションを提供する。自律型車両が恐らくはそこへ変更することができる車線のそれぞれは、車線変更アクションを提供する。同様に、自律型車両は、近付いてくる交通のでさえあり得る、別の車線内に一時的にありながら自己車線から出る及びそこへと戻る意図を有する追い越しアクションを考慮することができる。自律型車両はまた、世界モデル内の特別な車線である路肩で停車することを考慮することができる。自律型車両はまた、Uターンを考慮することができる。これらのアクションのそれぞれは、世界モデルからの公称レール及び車線エッジさえも備えていることがあり、ライブ知覚範囲を超える進路に関する情報を提供するマップにおいて車線にしばしば結び付けられる。
駐車の場合、駐車徘徊状態は、駐車車線プランナ126によって提供されるインセンティブを介して車線保持と同じアクション実装形態に立脚する。駐車徘徊している間、ビヘイビア・プランナは、視線内の空いている駐車スペースの存在に関してモニタしている。これは、ライブ知覚(たとえば、駐車スペースを検出するニューラル・ネットワークを使用する)又はマップされた駐車スペースと障害物知覚との組合せ、或いはその両方によって重複して提供され得る。このプロセスは、駐車プランナ144によって運動プランへと変換され得る-公称レールとはわずかに異なり得る-空いている駐車スペースが検出されたときに目標四辺形を提供し得る。駐車プランナ144は、現在のポーズと障害物干渉のない目標ポーズとの間のポーズの軌道の検索を行い得る。1つ又は複数の実施例において、アルゴリズムのA/Dファミリからの検索アルゴリズムが、ポーズの軌道を検索するために使用され得る。検索アルゴリズムが、スペースは実際に運動学的に到着するのが実現可能であるかを決定し、実現可能な場合、そこに到着するためのポーズの1つ又は複数のシーケンスを決定するために使用され得る。1つ又は複数の実施例において、この検索は、現在の障害物環境(たとえば、特定の時点における)で行われ得る。これは、運動効果、たとえば、自律型車両とそのスペースとの間で自律型車両を迅速に追い越そうとしている自転車運転者など、がまだ完全に考慮されていないことを意味する。この理由から、駐車プランナ144からのプランは、自律型車両のアクションが安全であることを確実にするためにこれらの運動効果を考慮することになる(他のアクタは、もちろん、自律型車両がゆっくり運転しているときでも速く移動し得る、ということに留意されたい)、残りのプロセスの公称レールとして考慮される。それでもなお、駐車プランナ144は、他の方法では見つからなかったであろう、スペースへと入るための3点ターンなどのことを発見し得るので、強力である。
呼び出し構成要素146は、駐車プランナ144と類似の方法で、しかし逆に、働き得る。駐車プランナ144は、車線グラフの近くの部分へと自律型車両を動かす運動プランを見つけるために使用される。車線グラフ上では、自律型車両は、車線追従アクションを使用していつものように進む。マップがない場合、又は自律型車両がLIMPモードにある場合、自律型車両は、どのコンパス方位で移動するかの一般的感覚しか有さないことがある。この場合、自律型車両は、単純に、そのコンパス方位を使用して公称レールを形成して残りのプロセスを案内することができる。それぞれのアクションの計算フローが、次いで、同様に進む。後にアクション・ジェネレータ142が続くプロセスの最後に、各アクションは、マップからの公称レール並びに/又は車線エッジ及び車線に関連付けられ得る。
縦方向事前制限構成要素150は、アクション・ジェネレータ142によって生成されたアクションに対応する公称レールを受信し得る。これらの公称レールのそれぞれは、縦方向事前制限構成要素150によって評価され得る。縦方向事前制限構成要素150は、1車線当たりの(又は1公称レール当たりの)基本的縦方向制約を考慮する。異なる制約が、異なる構成要素によって考慮され得る。縦方向事前制限構成要素150の構成要素は、カーブ速度適応152、速度調整154、距離維持156、安全制動158、及び/又はイールド・プランナ159を含む。縦方向事前制限構成要素150の出力は、入力として届いたそれぞれの公称レール/車線に関連する速度を制限する加速制約を含み得る。そのようなものとして、縦方向事前制限構成要素150は、加速制限、速度制約、又は距離制約で車線/レールを強化し得る。
カーブ速度適応152は、ある特定の速度において所与の車線/レールの湾曲を辿る場合に未来に生じ得る求心力を考慮することによって実行され得る。これは、関連マップ車線で現在起こるが、範囲におけるそれらの湾曲がこのタスクについて十分に正確になるときにライブ知覚車線でも起こり得る。カーブ速度適応152の結果は、求心力の許容範囲に基づいて計算された加速制約でもよい。求心力制約は、乗客快適性、安全性、及び/又は他のファクタに基づくことができる。
速度調整154は、この車線を使用しているときに速度制限への標準的服従を実装し得る。距離維持156及び安全制動158は、高速で長距離における車両及び他の競合者に関連するいくつかの縦方向制御職務を実行し得る。距離維持156構成要素は、別の移動している物体と自律型車両との距離を強制する加速制約を生成し得る。安全制動158構成要素は、異なるモデル化された条件の下で生じ得る潜在的衝突を回避するために制動を介して自律型車両を停止する能力を確保する類似の制約を生成し得る。障害物回避関連の縦方向制御の大部分は、運動プランナ172によって処理され得る。高速に関連する長距離を別にすれば、車線内の先導車両の正確な横方向位置及び範囲などのことの知覚粒度は、先導車両の横方向のまわりの運動プランニングを保証するのに十分に細かくないことがある。全速力で近付いてくる交通に関連する最高の距離及び速度において或いは停止した車両又は危険に遭遇する全速力において、自律型車両の現在の車線内に何か遅いものがあるように見えるので、決定の粒度は、減速する又はしないことであり得る。論理は、自律型車両に減速するように促す自律型車両の現在の車線の隣の車線内の遅い交通又は他の状況についても同様である。距離が高いとき、進路内障害物割当て(OIPA:Obstacle-In-Path-Assignment)が、障害物に作用するために使用され得る。障害物が近付くとき、制動の代わりに横方向ナッジングなどの微調整が、運動プランナ172によって選択され得る。このアーキテクチャはまた、有意な変更を有さない高速ハイウェイ運転のための既に調整された縦方向リミッタの使用を可能にする。
イールド・プランナ159は、いくつかのイールド(譲ること)は、イールドが必要とされていることを知るために自律型車両が車線内で横方向でどこにあるかを正確に考慮する必要はないという意味で、1車線当たり(又は車線対車線ベース)でイールドを処理し得る。これは、他者が先行権を有する停車場又はイールド線の処理を含む。そのような条件のこの存在は、待機条件を介して世界モデル164において提供される。待機条件は、入口線と出口線との間の自己進路のセクション、類似の競合セクションを有する競合者進路、並びに先行権状況と考えられ得る待機状態でエンコードされる。世界モデル164はまた、それによって自律型車両のビヘイビア及び制御モジュールが他の競合者が先行権を有すること(又は自律型車両が先行権を有すること)を演繹することができる、競合者の進路関連付けを提供し得る。待機条件は、前述のサブセット、たとえば、競合者進路への直接リンクを有さず、それに関連付けられた待機状態を有する停止線のみを有するオンランプを計るための交通信号灯、を含むことができる。待機条件で達成される関心の建築上の分離は、待機条件が期待、ルール、又は慣習をエンコードすることである。そのとき、イールドをモニタ及び実装する並びに実際の運動学的実行可能性又は任意の危険を判定することはビヘイビア・プランナ140の職責であり得る。イールド・プランナ159は、STOP_AT_ENTRY待機状態(たとえば、赤信号によって誘導される)を有する線で停止するために必要な減速を考慮する。イールド・プランナ149は、TAKE_WAY_TRANSIENT(たとえば、黄色信号によって誘導される)に対処することもでき、線において又はオーバーランのいくらかのマージンの前に停止するためにどんなレベルの減速が必要とされることになるかを計算することができる。これは、イールド・プランナ149が、たとえば、停止が必須でない可能性があるような線をほぼ過ぎたときに信号が黄色に変わるシナリオと、停止するのが適切なときのシナリオとの間を決定することを可能にする。
イールド・プランナ159はまた、自律型車両は競合進路に譲ることを期待されていることを指示し得る、YIELD_CONTENTION待機状態に対処する。このケースは、横断する歩行者、競合者が先行権を有する停止標識、イールド標識、保護されていない左折のために近付いてくる交通、ヨーロッパにおける右側優先、及び多数の多くのケースを含む。
これらのケースは、すべて、関連競合者進路上の競合者を考慮する及び自律型車両が彼らを妨げないことを確実にする、そしてまた自律型車両が譲っていることが彼らにとって明らかであることを確実にすることを共通して必要とする。それを行うために、イールド・プランナ159は、簡易化された(したがって、計算効率の良い)形の運動プランニングを実行し得る。1つ又は複数の実施例において、イールド・プランナは、自律型車両及び競合アクタが、それぞれの車線に沿って移動し、通過のためにそれぞれの車線に加えたいくらかのマージンの全範囲を必要とする、簡易化されたモデルを使用する。イールド・プランナ159は、その未来がロールアウトされる場合に(これについては運動プランニングに関するセクションで後述)請求されるセットが交差することになるかどうかを自律型車両及び競合者の縦方向プロファイルの特定のペアについて計算し得る。要するに、請求セットは、それの停止距離によって「請求される(claimed)」任意のアクタの前の点のセットである。物理的交点が存在しない場合でも、請求される積集合は、制御するのが難しい可能性のある危険な状況が起こっていることを意味し、最低でも他を怒らせる又はイールドの意図を問うことになるので、単純に身体の交点よりも請求される積集合を考慮することが優れており保守的であり得る。請求される積集合(又は実際の物理的交点)をもたらす加速プランが、縦方向制約として出力され得る。
自律型車両がイールド義務を有するケースでは、イールド・プランナ159は、縦方向進行の選択が競合者についての妥当な選択のいずれかと干渉するかどうかを分析することができる。すなわち、競合者が減速若しくは加速するか、或いは左折進路を選択するか真っすぐを選択するかなどにかかわらず、自律型車両は、うまく近付かないままでいることになる。
イールド・プランナ159はまた、併せて待機条件、待機グループとも呼ばれる、を考慮し得る。たとえば、右からの交差する交通を待つための安全な中間の場所が存在しないので、イールド・プランナ159は、左及び右の両方から交差する交通が、第1の交通のみをクリアしようと試みる前に、クリアされ得ることを確実にする必要があり得る。別のそのような実例は、保護されていない左を実行するときの左折の後の横断する歩行者である。この場合、イールド・プランナ159は、それが近付いてくる交通及び横断する歩行者の両方を同時にクリアすることができることを確実にしなければならないことがある。これは、それらの待機条件を待機グループへとグループ分けすることによって世界モデルにおいて合図される。
イールド・プランナ159はまた、ケースYIELD_ENTRYとYIELD_CONTENTIONとの区別を処理し得る。前者は、自律型車両が遅延なしに競合をクリアするための準備が整うまで自律型車両が入口線においてとどまることを期待する。後者のケースでは、自律型車両は、じりじりと前進することができ、近付いてくる交通を待って間隔を空けながら交差点へと前方へ運転することを可能にして、実際の競合自体によってのみ制約される。この状況において、制約は、じりじりと前進することと矛盾するすべての速度を排除し得る。
イールド・プランナ159はまた、STOPPED_FIRST_HAS_PRECEDENCE待機状態によって合図された、多方向一時停止交差点に対処し得る。この場合(規準的実例は米国の4方向一時停止交差点である)、先行権は、交差点に向かって誰が最初に停止したかから導出される。これに関して、イールド・プランナ159は、交差点に向かって誰が最初に停止したかを分析すること及び短期予測の組合せに依拠する。優先権が決定された後、イールドに関する同じ分析、入口から譲るか道を進むかが適用される。自律型車両及び競合者の両方が、交差点で停止された場合、短期予測は、履歴を使用して競合者の未来の運動を予測する。別の競合者が自律型車両より前に停止した状況では、予測は、それが今動くことになるということ(又は何らかの競合者が動くことになるということ)になるべきである。自律型車両が、すべての競合者のうちで最初に停止された場合、すべての競合者の予測は、彼らは元の場所にとどまるということであるべきである。これは、ポリシが「他に誰も通行していない、通行しない、さもなければ待っていない場合」とほぼ同じくらい単純になることを可能にするので、強力である。それは議論されている関連ケースについて十分な量のトレーニング・データを有することに依存する、ということに留意されたい。この形の短期予測はまた、運動プランニングにおいても使用することができ、体系化されていないケースにおいて譲るかどうかを予測するのを同様に助けることができる。
待機状態NEGOTIATEに関して、イールド・プランナ159は、目に見える競合者に関する職責を運動プランナ172に委任する。この状態に関して、いずれかの当事者の先行権の明らかな期待が存在しないことがあるが、代わりに、何が運動学的に実行可能であり、安全であり、効率的かに従って状況を協議することを期待する。運動プランナ172は、予測を所与として運動学的に実行可能で安全なこと及び請求される積集合を回避することを行うことになるが、それに加えて譲らない。これは、可能な限り多くの道を効果的に進んで、押しの強い断定的ビヘイビアを生成することになる。しかしながら、イールド・プランナ159は、競合者進路上の目に見えないアクタを考慮する。これは、可視性の簡単な議論を保証する。
世界モデル164は、3つの形で可視性を表現する:ラジアル距離マップにおける未知の領域として、ポリゴン閉塞境界線として、及び未知の進路占有として。知覚及びマッピング・システムの完全実装形態において、これらは、すべて、それらの境界線を有して、領域となって現れる閉塞エリアと、無矛盾であり得、矛盾なく、進路占有にも影響し得る。閉塞境界線が、進路占有であるように、終端間のトレーニングされたニューラル・ネットワークによって生み出され得る。しかしながら、これは、いくつかの実装形態において利用不可能なことがあり、したがって、プランニングは、進路占有を使用し得る。代替実施例は、閉塞境界線を使用して運動プランナ172の拡大する請求セットを生成し得る。イールド・プランナ159が、TAKE_WAY待機状態を有さない及び未知の占有頂点(又は短い距離)を有する競合者進路を発見するとき、それは、それらの頂点における最悪の場合の速度(最低から最高までの全間隔)を有する競合者を推測し、これらの仮想競合者とのイールド・プランニングを実行する。これは、知られている競合者進路をやって来るすべての閉塞競合者に対処する建築上の能力を提供する。
競合者進路は、マップから又はライブ検出によって、或いはその両方で知ることができる。これの1つの実装形態は、マップされた競合者進路、競合者がいると期待される進路の上からの頂点をセンサへと投影することによって可視性を分析すること、及び距離を深度マップと比較することに基づき得る。これは、原則として、静的オクルダ及び動的オクルダの両方からの閉塞に対処することができる。
縦方向事前制限構成要素150の様々な構成要素からの結合された出力は、複数の縦方向に制限された公称レールでもよい。アクション・ジェネレータ142によって生成されたレールは、レールに沿った多数の軌道を生成するために、複数の異なる加速プランと結合され得る。複数の縦方向に制限された公称レールは、縦方向事前制限構成要素150によって計算された様々な制約を満たすレールを含む。複数の縦方向に制限された公称レールは、さらなる精緻化のために仮説生成構成要素160に渡され得る。
運動プランニングは、仮説生成及び評価(運動プランナ172)を通る。アイディアは、運動プランナ172が非常に徹底的に品質について所与の軌道(自律型車両の未来への完全な計画されたポーズ)を評価するということであり、すべての軌道のスペースは、検索するには大きすぎるので、仮説生成160は、有望な又は妥当な軌道を提供する。
実施例によれば、高度な変化性が、運動プランナ172の仮説生成のために使用され得る。いくつかの実施例において、中心的構成要素は、それの湾曲を維持しながら、縦方向に制限された公称レールから開始する及びその周りの横方向に変化する選択を生成する進路ファン・ジェネレータ162である。これは、静的及び動的障害物を通過するためにナッジングして回りながら車線を進むことの意図に適合させられる。縦方向制限内の縦方向変動は、運動プランナの軌道の2Dグリッドを生み出して、各横方向選択に追加され得る。これは、標準的車線追従ケース並びにそれを踏まえた駐車徘徊、駐車終盤、呼び出し及び徐行など(たとえば及び制限せずに)のアクションのために使用される。
例示的軌道が、図2に示されている。公称レールは、自律型車両が位置する右車線に対応することができる。図に示すように、一連のコーン224は、回避されるべき障害物を提示する。進路ファン・ジェネレータ162は、公称レールに関連する異なる横方向に変化する選択を生成し得る。変化する選択は、進路202、進路204、進路206、進路208、進路210、進路212、進路214、進路216、進路218、進路220、及び進路222を含む。各進路は、プロファイル・グラフ230に示すように速度プロファイルに関連し得る。図に示すように、進路218、220、及び222は、短距離内で完全停止する。これに対して、進路202は、より高速が維持されることを可能にすることになる。
車線変更は、以下のように表現される、3つの段階において実行され得る:1)他の車線内の隙間を期待しながら現在の車線を辿ること、2)積極的に隙間に入ろうとして速度適応を実行しながら現在の車線を辿ること、及び隙間を使用しようとして又は隙間を作ろうとして最終的に横方向に押し進むこと。仮説生成及び評価にわたる複数の反復が、前のラウンドの結果を踏まえて、使用され得る、ということに留意されたい。車線変更のために、規則的車線追従(進路ファン生成及び運動プランナ評価)の1回の反復が、最初に実行され得る。車線変更の第1の段階について、それは、必要であり得るすべてのものである。速度適応段階について、最良の横方向選択が、決定され若しくは選ばれ、踏まえられる。これは、最良の速度適応の検索を実行するために、最良の横方向選択及び少数の追加の選択を使用して行われ得る(たとえば、最良の選択の左の1つ及び右の1つ)。これは、加速量及び切り替え時間によって一掃される、縦方向Sカーブの2次元ファミリを生成することによって、たとえば、Sカーブ・ジェネレータ163によって、行われ得る。仮説は、次いで、評価するために運動プランナ172を通過する。押し進むフェーズの間、最良の結果が、横方向の押し進む量を探るために使用され得る。
図3及び4は、近くの車両によって制約される車線変更のコンテキストにおける仮設生成を示す。図3は、自律型車両のすぐ前の左車線内の車両を示す前方ビュー302を含む。運転者側の後ろ向きのビュー304は、自律型車両のすぐ後ろの左車線内の車を示す。乗客側の後ろ向きのビュー308は、自律型車両が通過したコーンを示す。そして、後方ビュー310はまた、自律型車両のすぐ後ろの左車線内の車を示す。これらのビューは、左車線内の後続車と先導車との間のスペースへの車線変更と無矛盾の仮説的軌道を検索するために次に使用することができる、近くの車の位置を判定するために使用することができる。
図4は、進路ファン・ジェネレータ162によって生成された公称レール内の可能な進路を示す。これらの進路は、進路402、進路404、進路406、進路408、進路410、進路412、進路414、進路416、進路418、進路420、及び進路422を含む。速度プロファイル・グラフ430は、進路のうちのいくつかに利用可能な速度を示す。
仮説生成160は、柔軟であり、動的プログラミング構成要素166、又は初期の進路(たとえば、公称レール)を進む及び障害物から離れているようにそれを反復して調整する線形2次調整器(LQR:linear-quadratic regulator)/障害物を意識したMPC制御168によって実行される、自由形式の進路を検索するための動的プログラミングなどの他のより構造化されていない手法を使用することができる。これは、運動プランナが、次いで、危険な運動によって誘導される状況を確かめ、回避することになることを信頼して、又は請求セットを検索において直接に使用することによって、運動を無視する静的場面でいずれも行われ得る。
各仮説的軌道は、最高の品質又は最適な軌道を識別するために、プラン評価構成要素171によって評価され得る。ここで、品質は、多数の考慮すべき事柄を含むが、最適化スコアによって数値化され得る。異なる品質は、スコアを計算するときに異なる重さを有し得る。高レベルでは、理想的運転が、5カテゴリの期間まで戻ってトレースされ得る。目的は、快適性を最大化すること及び進行すること(時間、資金、燃料及び衣服などの資源の最低限の支出で目的地に到着する)を含み得るが、これらに限定されない。もう1つの目的は、衝突安全性を最大化すること(障害物)、他の事情が同じであれば車線を辿ること(進路)、及び適用可能なルール及び慣習に従いながら動作すること(待機条件)でもよい。これらの優先のうちのいくつかは、有形なやり方で運動プランに結び付けられる。進行及び滑らかさが、運動プランから直接評価され得る。他の態様について、直接に結び付けを行うことは難しいことがある。たとえば、距離維持のための優れた戦略は、まだ近接して見えてすらいない車両からの割り込みを回避するために近付いていることであることがあり、これは、この場面インスタンスにおいて障害物を分析することからは直接に認識可能でない。しかしながら、自律型車両の周りの障害物からの直接的運動学的制約は、短期予測で評価され得る。これについてはさらに後述する。
1つの態様において、最適化スコアは、時間に正規化される。潜在的な未来の位置の順次的時間報酬が、スコアにおいて及び始点として直接に使用され得、一方、スコアに寄与するその他の構成要素は、ペナルティとして時間を追加し得る。たとえば、予測される衝突は、相当な調整又はオフセット(たとえば、ペナルティ)を表し得る及びこの軌道を選択されないようにさせ得る、100時間を追加することになる。より少ないが、まだ望ましくない条件は、より少ない調整をもたらし得る。調整は、ルート距離又は移動の推定時間に従って、スケール変更又は正規化され得る。このようにして、ルートの望ましくない特徴から生じる調整は、より長いルートでより多くの時間を、そしてより短いルートでより少ない時間を追加することになる。正規化は、目的地までの時間のパーセンテージとして調整を計算することによって、生じ得る。たとえば、ルートに関するいくつかの条件は、目的地に到着するための残りの推定時間の2%の調整をもたらし得る。
運動プランナ172はまた、公称レールの近く又は考慮中の車線のエッジの間にとどまることを好む期間を有する。これらの好みは、最適化スコアを計算するために使用され得る。車線追従しているとき、車線エッジが物理的障害物ではない場合でも、車線境界線のエッジに及ばないことが強く好まれることがある。しかしながら、車線境界線のエッジに及ぶことが、衝突を回避するための唯一の妥当な方法である場合、それが、より好ましいことがある。しかしながら、これは、計画された制御された車線変更を行うこととは異なる。具体的には、計画された制御された車線変更では、インジケータ信号を開始する及び信号に気が付くための時間を他に与えるための時間が存在する。そうした理由で、運動プランナ172は、それらが同じ軌道である可能性があっても、車線追従及び車線変更のコンテキストの中で軌道を異なって考慮する。軌道の最適化スコアは、より接近して車線中心が辿られるほど、増え得る。軌道が車線境界線と交差するとき、最適化スコアは減り得る。スコア減少の量は、交差する車線のコンテキストに応じて決まり得る。たとえば、破線と交差することは、実線又は二重実線と交差することよりも小さいペナルティを含み得る。近付いてくる交通へと交差することは、非常に大きなペナルティになり得る。
運動プランナ172はまた、他のアクタへのイールド要件によって知らされるいくつかの期間を含み得るが、待機条件のうちの少なくともいくつかは、イールド・プランナ159によって対処され得る。運動プランナ172はまた、隣り合わせで車線を共用しないこと、又は他の車線内の競合者とさえも隣り合わせになることを回避することを好む期間を含み得る。これは、それらの条件を開始しない間に、車線を分け合うオートバイを受け入れること又は競争の激しい低速合流を押して通るときの隣り合った車線の共有などのビヘイビアを助ける。同様に、駐車された車両を通過すること又は誰かの盲点にあることを可能にすること、しかし、可能であればそれらの条件を一時的にさせることを好む。
運動プランニングのコアは、障害物競合者に対する運動プランを分析することを含み得る。分析は、請求セットの間の交点を監視することを含み得る。現在又は未来に、物体間の衝突が存在するかどうかを考慮する代わりに、開示される実施例による運動プランニングは、請求セットの間に交点が存在するかを考慮する。これは、ほぼ瞬間的な停止を可能にしない速度において移動している競合者を有する環境に静的運動プランニングをどのようにしてアップグレードするかに対処するための方法である。請求セットは、安全に停止して道路と横方向に並ぼうと試みながらアクタがトレースすることになる時空における形状である。アクタは、それが衝突安全性を維持することを必要とするので、このセットを仮想的に「請求する」。アイディアは、本体が交差しない場合でも、請求セットの交点は、何らかの形の制御された安全性を維持しながら許すことが難しいことになるということである。反対に、請求セットが、互いに尊重される場合、アクタは、それらの中にとどまることができる。アクタがそうする場合、請求セットは、時空において最後まで実行し、拡張しない。これは、静的運動プランニング問題を運動を有するものにアップグレードすることを可能にする。移動しているアクタは直ちに停止することはできないが、請求セットは、直ちに停止することができる。本手法のもう1つの利益は、珍しい又は遭遇するのが難しい近くの又は実際の衝突状況におけるデータ又は予測のトレーニングに本手法は依拠しないということである。本手法はまた、物理衝突なしに単純に逃げることを超えた衝突安全性を確保する。
1つ又は複数の実施例において、セーフティ・フォース・フィールド184の手法は、自律型車両のビヘイビア・プランナ140及び制御システム内で作動中でもよく、他の機能によって中断されない。それは、禁じられた瞬間的な制御を反応的に妨げ、それを許可された制御に変更する。しかしながら、設計は、通常動作でそれをトリガさせることになっていない。運動プランナ172は、よりプロアクティブなやり方で類似の基礎的制約に対処する。それは、本質的に、質問「私が未来に向けてこのようにして移動し、競合者は、それを条件として予測されるように移動する場合、制約はトリガされることになるか?」を尋ねる。そのとき、未来に制約をトリガしそうにない運動プランが、好ましい可能性がある、或いは未来において後でそれらをトリガする運動プランが、好ましい可能性がある。したがって、自律型車両は、遥かに早くに減速を開始する又は横方向の調整することができ、したがって、よりスムーズに及びより安全に運転することができる。基礎的制約は、自己車両、ひいては動作が非常に断定的になることを可能にする、ということに留意されたい。予測が、自律型車両は危険な状況に陥らないであろうと提案し、イールド・プランナ159による事前制限が生じない限り、運動プランナ172は、断定的ビヘイビアを生成することができる。
実施例によれば、運動プランナ172は、CUDA実装形態を使用して、多数の未来の請求される積集合を評価することができる。CUDAは、NVIDIA Corporationによって作成された並列計算プラットフォーム及びアプリケーション・プログラミング・インターフェース・モデルである。CUDAは、ソフトウェア開発者及びソフトウェア・エンジニアが多目的処理のためにCUDA対応グラフィックス処理ユニットを使用することを可能にする。このCUDA実装形態は、並行する軌道の多数の選択、通常は、横方向進路にわたって及び縦方向速度によっての両方で変化する軌道の2次元ファミリの軌道(たとえば、10x10グリッド)、を考慮する。運動プランナ172は、次いで、予測されるアクタ状態が、自律型車両に関連する請求される積集合につながるかを、それらの未来の軌道のそれぞれについて及び各時間ステップについて、チェックする。これは、時空の請求される積集合よりもわずかに保守的な制約によって、効率的に行われる。代わりに、他のアクタは、自律型車両の進路に沿って縦方向にクリアであるべきである(これは、請求セットは、縦方向及び時間方向を維持する投影のみを見る「横から」見られるとき、交差しないという、簡単な検査に似ている)、或いは、その請求セットは、時間方向を投影する「トップ・ビュー」から見られるとき、分離される。時間を投影するときのすべてのアクタの請求セットの近似値が、使用される(2D請求セット)。衝突チェックが、次いで、それらの2D請求セットのポリゴン表現で実行される。静的障害物は、2D請求セットとして直接使用することができる、ということに留意されたい。前述のプロセスは、衝突チェックが並行して多数の場面構成のポリゴン表現の間で実行されることを意味する。縦方向事前制限が、1アクションごとに運動プランナ172に利用可能であり、それは、仮説生成を変更するために運動プランナ172評価の前に並びにより速い軌道を回避することを本質的にブロックするように又は非常に好むように評価の後に使用され得る。
最後の安全な到着(LSA:Last Safe Arrival)プランナ174は、運動プランナ172とともに働く。LSAプランナ174制約は、慎重であると信じるだけの理由がない又は不規則に振る舞う可能性があると信じるだけの理由がある歩行者に適用され得る、SFF184より保守的な想定から生じる。それは、競合者(歩行者)は、自律型車両がそれらの進路を文字通りに占有するまで、任意の方法において加速し得る及び減速を開始しないと想定することによって、導出される。これは、瞬間的に且つコア制約より上の未来へと予測するプランナ(LSAプランナ174)の制約として適用される、SFF184からの請求される積集合と類似の制約をもたらす。かなり保守的であるが、歩行者のための安全な始点である、コア制約と同じ予測が使用される場合、そのとき、これは、現在の又は未来の請求セットのどれも、自律型車両が既に請求していないLSA時間の後の点を請求しない、ということをチェックすることになる。これは、それぞれの請求セットの最も遠い先に加えて、現在の停止距離次第のそれぞれの到着をチェックすることによって、効率的に行われ得る。これは、同じ軌道セットの運動プランナ評価と並行して実行し、歩行者のみに適用され得る。
短期予測構成要素161は、分析的手法とデータ駆動型手法との両方を使用して障害物の予測される位置を生成することができる。分析的手法は、世界モデル164によって与えられる障害物フェンスを取得し、それらは、車線構造(左折、右折、Uターン、又は直進など、競合者ごとの複数の車線選択が存在し得る、ということに留意されたい)に戻る何らかの段階的調整を与えられたベロシティ・ベクトルに沿って進み続けることになると予測する。分析的予測の強さは、低いがゼロではない確率が、関連していることが知られているがトレーニング・データにおいて稀である可能性がある事柄、たとえば、割り込み又は非常急ブレーキ、とエンコード及び関連付けされ得る、ということである。
データ駆動型手法は、未来がトレーニング・データとして知られているエピソードからトレーニングされる、競合者が何をすることになるかを予測するために、知覚された場面の履歴を使用する。実際のデータは、この形式のトレーニングのために特に有用であり得る。実施例によれば、このタイプのトレーニングは、自動システムの出力で行うことができ、したがって、手動で生み出されたグラウンド・トゥルースなしに大量のデータから利益を得ることができる。
プラン・セレクタ175は、プラン評価構成要素171によって提供されるレーティング又は採点に基づいてプランを選択する。1つのインスタンスにおいて、最高の品質スコアを有する軌道が、選択される。プラン・セレクタ175はまた、縦方向条件付け176及び横方向条件付け178を提供し得る。これらの両方は、選択された軌道に小さなスムージングを提供する。
選択されたプランは、SFF184、LSA186、車線保持アシスタント(LKA:Lane Keeping Assistant)188、及び(自動緊急ブレーキ)AEB190によって、評価され得る。運動プランナ172又は他の構成要素は、軌道又は、少なくとも、これらの構成要素が課す制約の順守を評価するときにこれらの構成要素からの入力を考慮してあることが可能である。たとえば、安全制動構成要素158は、自動緊急ブレーキの回避を意図した制約を生成し得る。
本明細書に記載の技術は、反復手法を使用して最適な軌道を識別することによって、現在の技術を改良することができる。第1の反復において、初期の複数の仮説的軌道は、評価のために追加の仮説的軌道を生成するためのシードの役割を果たす最高の最適化スコアを有する軌道で評価され得る。第2の反復において、第2の複数の仮説的軌道が、シード軌道の様々なパラメータをわずかに変更することによって、生成され得る。たとえば、シード軌道は、進路ファン・ジェネレータ162に通信され得、公称レールの代わりに入力として使用され得る。進路ファン・ジェネレータは、次いで、小さい横方向変動(公称レールでの第1の反復において使用されるものよりも小さい横方向の凹凸)及び小さい縦方向変動である第2の複数の軌道を生成し得る。第2の複数の仮説的軌道は、次いで、これらの軌道のうちの1つがシード軌道より高い最適化スコアを有するかを判定するために、評価され得る。最高の最適化スコアを有する仮説的軌道が、実装するために選択され得る。
モデル予測コントローラ(MPC:Model Predictive Controller)180は、選ばれた軌道を取得し、より精緻化された車両モデルを使用して瞬間的な横方向及び縦方向加速制御195を選択する。MPC制御は、制御シーケンス及びモデルに基づいて未来への軌道を計算すること、及びコスト関数を最適化するための非線形オプティマイザで制御シーケンスを反復して調整することによって、機能し得る。この場合、コスト関数は、滑らかさと必要な軌道を辿ることとのトレードオフを見つけるように設計され得る(この段階は、障害物を意識していないが、それは、軌道を忠実に辿るようにセットされ得、軌道の滑らかさが、運動プランニング段階によって確保されるべきである)。SFF184及び他の構成要素はまた、許容できない加速選択をゲートするために使用され得る。
ここで図5~図7を参照すると、本明細書で説明される、方法500、600、及び700の各ブロックは、ハードウェア、ファームウェア、及び/又はソフトウェアの任意の組合せを使用して実行され得る計算プロセスを含む。たとえば、様々な機能が、メモリに記憶された命令を実行するプロセッサによって、実施され得る。方法はまた、コンピュータ記憶媒体に記憶されたコンピュータ使用可能命令として実施され得る。方法は、いくつか例を挙げると、独立型アプリケーション、サービス又はホスト型サービス(独立型の又は別のホスト型サービスと組み合わせた)、或いは別の製品へのプラグインによって提供され得る。加えて、方法500、600、及び700は、例として、図1のビヘイビア・プランニング・システム100に関して、説明されている。しかしながら、これらの方法は、本明細書に記載のものを含むが、これらに限定されない、任意の1つのシステム、又は任意の組合せのシステムによって、追加で又は別法として、実行され得る。
図5は、本開示のいくつかの実施例による、自律型車両の軌道を選択するための方法500を示す流れ図である。方法500は、ブロック502において、自律マシンの潜在的な未来の位置の第1の一連の時間報酬を含む車線グラフを生成することを含む。方法500は、ブロック504において、自律マシン・アクションを自律マシンが完了することを可能にする複数の可能な軌道を生成することを含む。方法500は、ブロック506において、入力として第1の一連の時間報酬を使用して可能な軌道の最適化尺度を生成することを含む。方法500は、ブロック508において、最適化尺度を使用して実装のための軌道を選択することを含む。方法500は、ブロック510において、自律マシンを使用して軌道を実装することを含む。
ここで図6を参照すると、図6は、本開示のいくつかの実施例による、自律型車両の軌道を選択するための方法600を示す流れ図である。方法600は、ブロック602において、自律マシンに対応する1つ又は複数のセンサによって検出される物体の予測される未来の物***置を含む場面予測を生成することを含む;
方法600は、ブロック602において、自律マシン・アクションのための複数の可能な軌道を生成することを含み、複数の可能な軌道は、自律マシン・アクションに対応する公称横方向レール内の複数の縦方向条件及び横方向条件を有する。方法600は、ブロック604において、場面予測及び自律マシンの複数の潜在的な未来の位置に対応する第1の一連の時間報酬を使用して複数の可能な軌道を評価して複数の可能な軌道の最適化尺度を生成することを含む。方法600は、ブロック606において、評価のための追加の軌道を生成するために使用される開始パラメータ・セットの軌道を、最適化尺度を使用して選択することを含む。方法600は、ブロック608において、最適化尺度を使用して追加の軌道から個々の軌道を選択することを含む。方法600は、ブロック610において、自律マシンの個々の軌道を実装することを含む。
図7を参照すると、図7は、本開示のいくつかの実施例による、自律型車両の軌道を選択するための方法700を示す流れ図である。方法700は、ブロック702において、自律マシン・アクションのための複数の可能な軌道を生成することを含み、複数の可能な軌道は、複数の縦方向条件及び複数の横方向条件を有する。方法700は、ブロック704において、場面予測を使用して複数の可能な軌道内の軌道を評価して、軌道の最適化尺度を生成することを含む。方法700は、ブロック706において、最適化尺度を使用して複数の可能な軌道から個々の軌道を選択することを含む。方法700は、ブロック702において、自律マシンの個々の軌道を実装することを含み、そこで、複数の縦方向条件は、場面予測に少なくとも基づき、そして、複数の横方向条件は、自律マシンの移動方向に対応する公称レールに少なくとも基づく。
例示的自律型車両
図8Aは、本開示のいくつかの実施例による、例示的自律型車両800の図である。自律型車両800(或いは本明細書で「車両800」と称される)は、旅客車両、たとえば、乗用車、トラック、バス、ファースト・レスポンダ車両、シャトル、電気又は原動機付自転車、オートバイ、消防車、警察車両、救急車、ボート、建設車両、潜水艦、ドローン、及び/又は別のタイプの車両(たとえば、無人の及び/又は1人若しくは複数の乗客を乗せた)、を含み得るが、これらに限定されない。自律型車両は、一般に、米国運輸省道路交通***(NHTSA:National Highway Traffic Safety Administration)、米国運輸省の部署、及び自動車技術者協会(SAE:Society of Automotive Engineers)「Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicle」(2018年6月15日に公開された規格番号J3016-201806、2016年9月30日に公開された規格番号J3016-201609、及びこの規格の前の及び未来のバージョン)によって定義される、自動化レベルに関して記述される。移動車800は、自律運転レベルのレベル3~レベル5のうちの1個又は複数による機能の能力を有し得る。たとえば、移動車800は、実施例に応じて、条件付き自動化(レベル3)、高度自動化(レベル4)、及び/又は完全自動化(レベル5)の能力を有し得る。
移動車800は、移動車のシャシ、車体、車輪(たとえば、2、4、6、8、18など)、タイヤ、車軸、及び他の構成要素などの構成要素を含み得る。移動車800は、内部燃焼エンジン、ハイブリッド動力装置、完全な電気式エンジン、及び/又は別の推進システム・タイプなど、推進システム850を含み得る。推進システム850は、移動車800の推進力を有効にするために、トランスミッションを含み得る、移動車800のドライブ・トレインに接続され得る。推進システム850は、スロットル/加速装置852からの信号の受信に応答して制御され得る。
ハンドルを含み得る、ステアリング・システム854は、推進システム850が動作しているときに(たとえば、移動車が移動中のときに)移動車800のかじを取る(たとえば、所望の進路又はルートに沿って)ために使用され得る。ステアリング・システム854は、ステアリング・アクチュエータ856から信号を受信することができる。ハンドルは、完全自動化(レベル5)機能のオプションでもよい。
ブレーキ・センサ・システム846は、ブレーキ・アクチュエータ848及び/又はブレーキ・センサからの信号の受信に応答して移動車ブレーキを動作させるために使用され得る。
1個又は複数のシステム・オン・チップ(SoC:system on Chip)804(図8C)及び/又はGPUを含み得る、コントローラ836は、移動車800の1個若しくは複数の構成要素及び/又はシステムに信号(たとえば、コマンドの表現)を提供することができる。たとえば、コントローラは、1個又は複数のブレーキ・アクチュエータ848を介して移動車ブレーキを動作させて、1個又は複数のステアリング・アクチュエータ856を介してステアリング・システム854を動作させて、1個又は複数のスロットル/加速装置852を介して推進システム850を動作させるために、信号を送ることができる。コントローラ836は、センサ信号を処理する、並びに律的運転を可能にするために及び/又は運転者の移動車800の運転を支援するために動作コマンド(たとえば、コマンドを表す信号)を出力する、1個又は複数の搭載された(たとえば、統合された)計算デバイス(たとえば、スーパーコンピュータ)を含み得る。コントローラ836は、自律運転機能のための第1のコントローラ836、機能的安全性機能のための第2のコントローラ836、人工知能機能(たとえば、コンピュータ・ビジョン)のための第3のコントローラ836、インフォテインメント機能のための第4のコントローラ836、緊急状態における冗長性のための第5のコントローラ836、及び/又は他のコントローラを含み得る。いくつかの実例では、単一のコントローラ836が、前述の機能のうちの2個以上を処理することができ、2個以上のコントローラ836が、単一の機能、及び/又はその任意の組合せを処理することができる。
コントローラ836は、1個又は複数のセンサから受信したセンサ・データ(たとえば、センサ入力)に応答して移動車800の1個若しくは複数の構成要素及び/又はシステムを制御するための信号を提供することができる。センサ・データは、たとえば、そして制限なしに、全地球的航法衛星システム・センサ858(たとえば、グローバル・ポジショニング・システム・センサ)、RADARセンサ860、超音波センサ862、LIDARセンサ864、慣性計測装置(IMU:inertial measurement unit)センサ866(たとえば、加速度計、ジャイロスコープ、磁気コンパス、磁力計など)、マイクロフォン896、ステレオ・カメラ868、ワイドビュー・カメラ870(たとえば、魚眼カメラ)、赤外線カメラ872、サラウンド・カメラ874(たとえば、360度カメラ)、長距離及び/又は中距離カメラ898、スピード・センサ844(たとえば、移動車800のスピードを測定するための)、振動センサ842、ステアリング・センサ840、ブレーキ・センサ(たとえば、ブレーキ・センサ・システム846の一部としての)、及び/又は他のセンサ・タイプから受信され得る。
コントローラ836のうちの1個又は複数のコントローラは、移動車800の計器群832から入力(たとえば、入力データによって表される)を受信し、出力(たとえば、出力データ、表示データなどによって表される)をヒューマン・マシン・インターフェース(HMI:human-machine interface)ディスプレイ834、可聴式アナンシエータ、ラウドスピーカ、及び/又は移動車800の他の構成要素を介して提供することができる。出力は、移動車ベロシティ、スピード、時間、マップ・データ(たとえば、図8CのHDマップ822)、位置データ(たとえば、マップ上などの、移動車の800の位置)、方向、他の移動車の位置(たとえば、占有グリッド)、コントローラ836によって把握されるものとしての物体及び物体の状況に関する情報などの、情報を含み得る。たとえば、HMIディスプレイ834は、1個又は複数の物体(たとえば、道路標識、警告標識、交通信号の変化など)の存在、及び/又は移動車が行った、行っている、又は行うであろう運転操作(たとえば、今、車線変更をしていること、3.22km(2マイル)内の出口34Bを出ることなど)に関する情報を表示することができる。
移動車800はさらに、1個若しくは複数のワイヤレス・アンテナ826及び/又はモデムを使用して1個若しくは複数のネットワークを介して通信することができるネットワーク・インターフェース824を含む。たとえば、ネットワーク・インターフェース824は、LTE、WCDMA(登録商標)、UMTS、GSM、CDMA2000などを介する通信の能力を有し得る。ワイヤレス・アンテナ826はまた、ブルートゥース(登録商標)、ブルートゥース(登録商標)LE、Z-Wave、ZigBeeなどのローカル・エリア・ネットワーク、及び/又はLoRaWAN、SigFoxなどのロー・パワー・ワイドエリア・ネットワーク(LPWAN:low power wide-area network)を使用し、環境内の物体(たとえば、移動車、モバイル・デバイスなど)の間の通信を可能にすることができる。
図8Bは、本開示のいくつかの実施例による、図8Aの例示的自律型車両800のカメラ位置及び視野の実例である。カメラ及びそれぞれの視野は、1個の例示的実施例であり、制限することは意図されていない。たとえば、追加の及び/又は代替カメラが含まれ得る、及び/又はカメラは移動車800の異なる位置に置かれ得る。
カメラのカメラ・タイプは、移動車800の構成要素及び/又はシステムと使用するようになされ得るデジタル・カメラを含み得るが、これに限定されない。カメラは、自動車安全整合性レベル(ASIL:automotive safety integrity level)Bにおいて及び/又は別のASILにおいて動作することができる。カメラ・タイプは、実施例に応じて、60フレーム/秒(fps)、120fps、240fpsなど、任意の画像キャプチャ・レートの能力を有し得る。カメラは、ロール・シャッタ、グローバル・シャッタ、別のタイプのシャッタ、又はその組合せを使用する能力を有し得る。いくつかの実例では、カラー・フィルタ・アレイは、RCCC(red clear clear clear)カラー・フィルタ・アレイ、RCCB(red clear clear blue)カラー・フィルタ・アレイ、RBGC(red blue green clear)カラー・フィルタ・アレイ、Foveon X3カラー・フィルタ・アレイ、Bayerセンサ(RGGB)カラー・フィルタ・アレイ、モノクロ・センサ・カラー・フィルタ・アレイ、及び/又は別のタイプのカラー・フィルタ・アレイを含み得る。一部の実施例では、RCCC、RCCB、及び/又はRBGCカラー・フィルタ・アレイを有するカメラなどのクリア画素カメラは、光感度を上げるための取り組みにおいて使用され得る。
いくつかの実例では、カメラのうちの1個又は複数が、高度運転者支援システム(ADAS:advanced driver assistance system)機能(たとえば、冗長又はフェイルセーフ設計の一部として)を実行するために使用され得る。たとえば、多機能モノ・カメラは、車線逸脱警報、交通標識アシスト及びインテリジェント・ヘッドランプ制御を含む機能を提供するために設置され得る。カメラのうちの1個又は複数(たとえば、すべてのカメラ)が、画像データ(たとえば、ビデオ)を同時に記録及び提供することができる。
カメラのうちの1個又は複数は、カメラの画像データ・キャプチャ能力を妨げることがある自動車内からの迷光及び反射(たとえば、フロントガラスのミラーにおいて反射されたダッシュボードからの反射)を取り除くために、カスタム設計された(3D印刷された)部品などの取付部品において取り付けられ得る。サイドミラー取付部品を参照すると、サイドミラー部品は、カメラ取付板がサイドミラーの形状に合うように、カスタム3D印刷され得る。いくつかの実例では、カメラは、サイドミラー内に統合され得る。サイドビュー・カメラについては、カメラはまた、キャビンの各角にある4個の支柱内に統合され得る。
移動車800の前の環境の部分を含む視野を有するカメラ(たとえば、前向きのカメラ)は、前向きの進路及び障害物の識別を助け、1個若しくは複数のコントローラ836及び/又は制御SoCの助けにより、占有グリッドの生成及び/又は好ましい移動車進路の決定に不可欠な情報の提供の提供を助けるための、サラウンド・ビューのために使用され得る。前向きのカメラは、緊急ブレーキ、歩行者検出、及び衝突回避を含む、LIDARと同じADAS機能の多くを実行するために使用され得る。前向きのカメラはまた、車線逸脱警報(「LDW(Lane Departure Warning)」)、自律的クルーズ制御(「ACC(Autonomous Cruise Control)」)、及び/又は交通標識認識などの他の機能を含むADAS機能及びシステムのために使用され得る。
様々なカメラが、たとえば、CMOS(complementary metal oxide semiconductor)カラー画像化装置を含む単眼カメラ・プラットフォームを含む、前向きの構成において使用され得る。別の実例は、周辺(たとえば、歩行者、交差する交通又は自転車)からのビューに入る物体を把握するために使用され得るワイドビュー・カメラ870でもよい。図8Bにはワイドビュー・カメラは1個だけ示されているが、移動車800には任意の数のワイドビュー・カメラ870が存在し得る。加えて、長距離カメラ898(たとえば、ロングビュー・ステレオ・カメラ・ペア)が、特に、ニューラル・ネットワークがまだトレーニングされていない物体について、深度ベースの物体検出のために使用され得る。長距離カメラ898はまた、物体検出及び分類、並びに基本物体追跡のために使用され得る。
1個又は複数のステレオ・カメラ868もまた、前向きの構成に含まれ得る。ステレオ・カメラ868は、単一のチップ上に統合されたCAN又はイーサネット(登録商標)・インターフェースを有するプログラマブル論理(FPGA)及びマルチコア・マイクロプロセッサを提供し得る、拡張可能な処理ユニットを備えた統合された制御ユニットを含み得る。そのようなユニットは、画像内のすべてのポイントの距離推定値を含む、移動車の環境の3Dマップを生成するために使用され得る。代替ステレオ・カメラ868は、2個のカメラ・レンズ(左と右に1個ずつ)と、移動車から対象物体までの距離を測定する及び生成された情報(たとえば、メタデータ)を使用して自律的緊急ブレーキ及び車線逸脱警報機能をアクティブにすることができる画像処理チップとを含み得る、コンパクト・ステレオ・ビジョン・センサを含み得る。他のタイプのステレオ・カメラ868が、本明細書に記載のものに加えて、又はそれらの代わりに、使用されてもよい。
移動車800の側面に対する環境の部分を含む視野を有するカメラ(たとえば、サイドビュー・カメラ)が、占有グリッドを作成及び更新するために並びに側面衝撃衝突警報を生成するために使用される情報を提供する、サラウンド・ビューのために使用され得る。たとえば、サラウンド・カメラ874(たとえば、図8Bに示されるような4個のサラウンド・カメラ874)は、移動車800上に位置付けられ得る。サラウンド・カメラ874は、ワイドビュー・カメラ870、魚眼カメラ、360度カメラ、及び/又は同類のものを含み得る。たとえば、4個の魚眼カメラが、移動車の前、後ろ、及び側面に配置され得る。代替配置において、移動車は、3個のサラウンド・カメラ874(たとえば、左、右、及び後部)を使用してもよく、第4のサラウンド・ビュー・カメラとして1個又は複数の他のカメラ(たとえば、前向きのカメラ)を活用してもよい。
移動車800の後ろに対する環境の部分を含む視野を有するカメラ(たとえば、後方確認カメラ)が、駐車支援、サラウンド・ビュー、後部衝突警報、並びに占有グリッドの作成及び更新のために使用され得る。本明細書に記載のように、前向きのカメラ(たとえば、長距離及び/又は中距離カメラ898、ステレオ・カメラ868)、赤外線カメラ872など)としても適したカメラを含むがこれらに限定されない、多種多様なカメラが使用され得る。
図8Cは、本開示のいくつかの実施例による、図8Aの例示的自律型車両800の例示的システム・アーキテクチャのブロック図である。本明細書に記載されているこの及び他の配置は単に実例として説明されていることを理解されたい。他の配置及び要素(たとえば、マシン、インターフェース、機能、順番、機能のグループ分けなど)が、示されたものに加えて又はこれらに代わって使用されてもよく、いくつかの要素はともに除外されてもよい。さらに、本明細書に記載の要素の多くは、個別の又は分散された構成要素として又は他の構成要素と併せて、並びに任意の適切な組合せ及び場所において、実装され得る機能エンティティである。エンティティによって実行されるものとして本明細書に記載された様々な機能は、ハードウェア、ファームウェア、及び/又はソフトウェアによって実施され得る。たとえば、様々な機能が、メモリに記憶された命令を実行するプロセッサによって実施され得る。
図8Cの移動車800の構成要素、特徴、及びシステムのそれぞれは、バス802を介して接続されるものとして図示されている。バス802は、コントローラ・エリア・ネットワーク(CAN)データ・インターフェース(或いは、「CANバス」と称される)を含み得る。CANは、ブレーキ、加速度、ブレーキ、ステアリング、フロント・ガラス・ワイパなどの作動など、移動車800の様々な特徴及び機能の制御を助けるために使用される移動車800内のネットワークでもよい。CANバスは、それぞれが独自の一意の識別子(たとえば、CAN ID)を有する、数ダース又は数百ものノードを有するように構成され得る。CANバスは、ハンドル角度、対地速度、1分間のエンジン回転(RPM:revolutions per minute)、ボタン位置、及び/又は他の移動車状況指標を見つけるために読み取られ得る。CANバスは、ASIL B準拠でもよい。
バス802は、CANバスであるものとして本明細書に記載されているが、これは制限することを意図されていない。たとえば、CANバスに加えて、又はこのその代替として、FlexRay及び/又はイーサネット(登録商標)が使用されてもよい。加えて、単一の線が、バス802を表すために使用されているが、これは制限することを意図されていない。たとえば、1個若しくは複数のCANバス、1個若しくは複数のFlexRayバス、1個若しくは複数のイーサネット(登録商標)・バス、及び/又は異なるプロトコルを使用する1個若しくは複数の他のタイプのバスを含み得る、任意の数のバス802が存在し得る。いくつかの実例では、2個以上のバス802が、異なる機能を実行するために使用され得る、及び/又は冗長性のために使用され得る。たとえば、第1のバス802は衝突回避機能のために使用されてもよく、第2のバス802は作動制御のために使用されてもよい。任意の実例において、各バス802は、移動車800の構成要素のいずれかと通信し得、2個以上のバス802が同じ構成要素と通信し得る。いくつかの実例では、移動車内の各SoC804、各コントローラ836、及び/又は各コンピュータは、同じ入力データ(たとえば、移動車800のセンサからの入力)へのアクセスを有し得、CANバスなどの共通バスに接続され得る。
移動車800は、図8Aに関して本明細書で説明されるものなど、1個又は複数のコントローラ836を含み得る。コントローラ836は、様々な機能のために使用され得る。コントローラ836は、移動車800の様々な他の構成要素及びシステムのいずれかに連結されてもよく、移動車800、移動車800の人工知能、移動車800のためのインフォテインメント、及び/又は同類のものの制御のために使用され得る。
移動車800は、システム・オン・チップ(SoC)804を含み得る。SoC804は、CPU806、GPU808、プロセッサ810、キャッシュ812、加速装置814、データ・ストア816、及び/又は図示されていない他の構成要素及び特徴を含み得る。SoC804は、様々なプラットフォーム及びシステム内の移動車800を制御するために使用され得る。たとえば、SoC804は、1個又は複数のサーバ(たとえば、図8Dのサーバ878)からネットワーク・インターフェース824を介してマップのリフレッシュ及び/又は更新を取得することができるHDマップ822を有するシステム(たとえば、移動車800のシステム)において結合され得る。
CPU806は、CPUクラスタ又はCPU複合体(或いは、「CCPLEX」とも称される)を含み得る。CPU806は、複数のコア及び/又はL2キャッシュを含み得る。たとえば、一部の実施例では、CPU806は、コヒーレント・マルチプロセッサ構成内の8個のコアを含み得る。一部の実施例では、CPU806は、4個のデュアルコア・クラスタを含むことができ、各クラスタが専用のL2キャッシュ(たとえば、2MBL2キャッシュ)を有する。CPU806(たとえば、CCPLEX)は、CPU806のクラスタの任意の組合せが任意の所与の時間にアクティブになることを可能にする同時クラスタ動作をサポートするように構成され得る。
CPU806は、以下の特徴のうちの1個又は複数を含む電力管理能力を実装することができる:個別ハードウェア・ブロックが、動的電力を節約するためにアイドル状態のときに自動的にクロック・ゲーティングされ得る、各コア・クロックは、WFI/WFE命令の実行により命令をコアがアクティブに実行していないときにゲーティングされ得る、各コアは、独立してパワー・ゲーティングされ得る、各コア・クラスタは、すべてのコアがクロック・ゲーティングされる若しくはパワー・ゲーティングされるときに、独立してクロック・ゲーティングされ得る、及び/又は、各コア・クラスタは、すべてのコアがパワー・ゲーティングされるときに、独立してパワー・ゲーティングされ得る。CPU806は、電力状態を管理するための強化されたアルゴリズムをさらに実装することができ、そこでは、許容される電力状態及び予想されるウェイクアップ時間が指定され、ハードウェア/マイクロ・コードが、コア、クラスタ、及びCCPLEXに入力するための最良の電力状態を決定する。処理コアは、作業がマイクロ・コードにオフロードされたソフトウェアにおける簡略化された電力状態入力シーケンスをサポートすることができる。
GPU808は、統合されたGPU(或いは本明細書において「iGPU」と称される)を含み得る。GPU808は、プログラマブルになり得、並行のワークロードに効率的になり得る。一部の実例では、GPU808は、強化されたテンソル命令セットを使用することができる。GPU808は、1個又は複数のストリーミング・マイクロプロセッサを含み得、そこで、各ストリーミング・マイクロプロセッサは、L1キャッシュ(たとえば、少なくとも96KB記憶容量を有するL1キャッシュ)を含み得、ストリーミング・マイクロプロセッサのうちの2個以上が、キャッシュ(たとえば、512KB記憶容量を有するL2キャッシュ)を共用し得る。一部の実施例では、GPU808は、少なくとも8個のストリーミング・マイクロプロセッサを含み得る。GPU808は、計算アプリケーション・プログラミング・インターフェース(API)を使用することができる。加えて、GPU808は、1個若しくは複数の並行のコンピューティング・プラットフォーム及び/又はプログラミング・モデル(たとえば、NVIDIA CorporationのCUDA)を使用することができる。
GPU808は、自動車の及び組み込まれた使用事例における最高のパフォーマンスのために電力最適化され得る。たとえば、GPU808は、FinFET(Fin field-effect transistor)上に製造され得る。しかしながら、これは制限することを意図されておらず、GPU808は、他の半導体製造プロセスを使用し、製造され得る。各ストリーミング・マイクロプロセッサは、複数のブロックに区切られたいくつかの混合精度処理コアを組み込むことができる。限定ではなく、たとえば、64 PF32コア及び32 PF64コアは、4個の処理ブロックに区切られてもよい。そのような実例では、各処理ブロックは、16 FP32コア、8 FP64コア、16 INT32コア、深層学習行列演算のための2個の混合精度NVIDIAテンソル・コア、L0命令キャッシュ、ワープ・スケジューラ、発送ユニット、及び/又は64KBレジスタ・ファイルを割り当てられ得る。加えて、ストリーミング・マイクロプロセッサは、計算及びアドレス指定演算の混合を有するワークロードの効率的な実行を提供するための独立した並行の整数及び浮動小数点データ進路を含み得る。ストリーミング・マイクロプロセッサは、並行スレッドの間のより高い細粒度の同期及び連携を可能にするために、独立したスレッド・スケジューリング能力を含み得る。ストリーミング・マイクロプロセッサは、プログラミングを単純化しつつ性能を向上させるために、結合されたL1データ・キャッシュ及び共用メモリ・ユニットを含み得る。
GPU808は、一部の実例では、900GB/秒のピーク・メモリ帯域幅に関して、提供するための高帯域幅メモリ(HBM:high bandwidth memory)及び/又は16GBHBM2メモリ・サブシステムを含み得る。いくつかの実例では、HBMメモリに加えて、又はこれの代わりに、グラフィックス・ダブル・データ・レート・タイプ5同期ランダム・アクセス・メモリ(GDDR5:graphics double data rate type five synchronous random-access memory)などの同期グラフィックス・ランダム・アクセス・メモリ(SGRAM:synchronous graphics random-access memory)が使用され得る。
GPU808は、メモリ・ページに最も頻繁にアクセスするプロセッサへのそれらのメモリ・ページのより正確な移動を可能にするためにアクセス・カウンタを含む統一されたメモリ技術を含むことができ、それにより、プロセッサ間で共用される記憶範囲の効率を向上させる。いくつかの実例では、アドレス変換サービス(ATS:address translation service)サポートが、GPU808がCPU806ページ・テーブルに直接アクセスすることを可能にするために使用され得る。そのような実例では、GPU808メモリ管理ユニット(MMU:memory management unit)がミスを経験するとき、アドレス変換要求が、CPU806に送信され得る。応答して、CPU806は、アドレスの仮想対現実マッピングのためのそのページ・テーブルを調べることができ、GPU808に変換を送り返す。そのようなものとして、統一されたメモリ技術は、CPU806とGPU808との両方のメモリの単一統一仮想アドレス空間を可能にすることができ、それによりGPU808へのアプリケーションのGPU808プログラミング及び移植を単純化する。
加えて、GPU808は、他のプロセッサのメモリへのGPU808のアクセスの頻度を記録することができるアクセス・カウンタを含み得る。アクセス・カウンタは、メモリ・ページが最も頻繁にそのページにアクセスしているプロセッサの物理メモリに移動されることを確実にするのを助けることができる。
SoC804は、本明細書に記載のものを含む任意の数のキャッシュ812を含み得る。たとえば、キャッシュ812は、CPU806とGPU808との両方に利用可能な(たとえば、CPU806とGPU808との両方に接続された)L3キャッシュを含み得る。キャッシュ812は、キャッシュ・コヒーレンス・プロトコル(たとえば、MEI、MESI、MSIなど)を使用することなどによって、線の状態を記録することができるライトバック・キャッシュを含み得る。L3キャッシュは、より小さいキャッシュ・サイズが使用されてもよいが、実施例に応じて、4MB以上を含み得る。
SoC804は、車両800の様々なタスク又は動作のいずれか(たとえば、処理DNN)に関して処理を実行する際に活用され得る論理演算ユニット(ALU:arithmetic logic unit)を含み得る。加えて、SoC804は、システム内で数学演算を実行するための浮動小数点演算ユニット(FPU:floating point unit)(又は他のマス・コプロセッサ又は数値演算コプロセッサ・タイプ)を含み得る。たとえば、SoC104は、CPU806及び/又はGPU808内の実行ユニットとして統合された1個又は複数のFPUを含み得る。
SoC804は、1個又は複数の加速装置814(たとえば、ハードウェア・加速装置、ソフトウェア・加速装置、又はその組合せ)を含み得る。たとえば、SoC804は、最適化されたハードウェア加速装置及び/又は大きなオンチップ・メモリを含み得る、ハードウェア加速クラスタを含み得る。大きなオンチップメモリ(たとえば、4MBのSRAM)は、ハードウェア加速クラスタがニューラル・ネットワーク及び他の演算を加速することを可能にし得る。ハードウェア加速クラスタは、GPU808を補完するために及びGPU808のタスクの一部をオフロードするために(たとえば、他のタスクを実行するためのGPU808のより多くのサイクルを解放するために)使用され得る。一実例として、加速装置814は、加速に適するように十分に安定している対象ワークロード(たとえば、知覚、畳み込みニューラル・ネットワーク(CNN:convolutional neural network)など)のために使用され得る。本明細書では、「CNN」という用語は、領域ベースの又は領域的畳み込みニューラル・ネットワーク(RCNN:regional convolutional neural network)及び高速RCNN(たとえば、物体検出のために使用されるものとしての)を含む、すべてのタイプのCNNを含み得る。
加速装置814(たとえば、ハードウェア加速クラスタ)は、深層学習加速装置(DLA:deep learning accelerator)を含み得る。DLAは、深層学習アプリケーション及び推論のために1秒当たり追加の10兆の動作を提供するように構成することができる1個又は複数のテンソル処理ユニット(TPU:Tensor processing unit)を含み得る。TPUは、画像処理機能(たとえば、CNN、RCNNなどの)を実行するように構成及び最適化された加速装置でもよい。DLAはさらに、特定のセットのニューラル・ネットワーク・タイプ及び浮動小数点演算、並びに推論のために最適化され得る。DLAの設計は、汎用GPUよりも1ミリメートル当たりより多くのパフォーマンスを提供することができ、CPUのパフォーマンスを大きく超える。TPUは、たとえば、特徴と重みとの両方についてINT8、INT16、及びFP16データ・タイプをサポートする、単一インスタンス畳み込み機能、並びにポストプロセッサ機能を含む、いくつかの機能を実行することができる。
DLAは、以下を含むがこれらに限定されない、様々な機能のいずれかのために処理済み又は未処理のデータでニューラル・ネットワーク、特にCNN、を迅速に及び効率的に実行することができる:カメラ・センサからのデータを使用する物体識別及び検出のためのCNN、カメラ・センサからのデータを使用する距離推定のためのCNN、マイクロフォンからのデータを使用する緊急車両検出及び識別及び検出のためのCNN、カメラ・センサからのデータを使用する顔認識及び移動車所有者識別のためのCNN、及び/又は、セキュリティ及び/又は安全性関連イベントのためのCNN。
DLAは、GPU808の任意の機能を実行することができ、そして、推論加速装置を使用することによって、たとえば、設計者は、任意の機能のためにDLA又はGPU808のいずれかを対象にすることができる。たとえば、設計者は、DLA上のCNN及び浮動小数点演算の処理に重点的に取り組み、他の機能をGPU808及び/又は他の加速装置814に任せることができる。
加速装置814(たとえば、ハードウェア加速クラスタ)は、或いはコンピュータ・ビジョン加速装置と本明細書で称され得るプログラマブル・ビジョン加速装置(PVA:programmable vision accelerator)を含み得る。PVAは、高度運転者支援システム(ADAS:advanced driver assistance system)、自律運転、及び/又は拡張現実(AR:augmented reality)及び/又は仮想現実(VR:virtual reality)アプリケーションのためのコンピュータ・ビジョン・アルゴリズムを加速するように設計及び構成され得る。PVAは、パフォーマンスと柔軟性との間のバランスをもたらすことができる。たとえば、各PVAは、たとえば、任意の数の縮小命令セット・コンピュータ(RISC:reduced instruction set computer)コア、直接メモリ・アクセス(DMA:direct memory access)、及び/又は任意の数のベクトル・プロセッサを含み得るが、これらに限定されない。
RISCコアは、画像センサ(たとえば、本明細書に記載のカメラのうちのいずれかのカメラの画像センサ)、画像信号プロセッサ、及び/又は同類のものと相互作用することができる。それぞれのRISCコアは、任意の量のメモリを含み得る。RISCコアは、実施例に応じて、いくつかのプロトコルのいずれかを使用することができる。いくつかの実例では、RISCコアは、リアルタイム・オペレーティング・システム(RTOS:real-time operating system)を実行することができる。RISCコアは、1個若しくは複数の集積回路デバイス、特定用途向け集積回路(ASIC)、及び/又はメモリ・デバイスを使用して、実装され得る。たとえば、RISCコアは、命令キャッシュ及び/又はしっかりと結合されたRAMを含み得る。
DMAは、CPU806から独立したシステム・メモリにPVAの構成要素がアクセスすることを可能にし得る。DMAは、多次元アドレス指定及び/又は循環アドレス指定をサポートすることを含むがこれに限定されないPVAに最適化をもたらすために使用される任意の数の特徴をサポートすることができる。いくつかの実例では、DMAは、ブロック幅、ブロック高さ、ブロック深度、水平ブロック・ステッピング、垂直ブロック・ステッピング、及び/又は深度ステッピングを含み得る、6次元まで又はそれ以上のアドレス指定をサポートすることができる。
ベクトル・プロセッサは、コンピュータ・ビジョン・アルゴリズムのプログラミングを効率的に柔軟に実行する及び信号処理能力を提供するように設計され得るプログラマブル・プロセッサでもよい。いくつかの実例では、PVAは、PVAコア及び2個のベクトル処理サブシステム・パーティションを含み得る。PVAコアは、プロセッサ・サブシステム、DMAエンジン(たとえば、2個のDMAエンジン)、及び/又は他の周辺装置を含み得る。ベクトル処理サブシステムは、PVAの1次的処理エンジンとして動作することができ、ベクトル処理ユニット(VPU:vector processing unit)、命令キャッシュ、及び/又はベクトル・メモリ(たとえば、VMEM)を含み得る。VPUコアは、たとえば、単一の命令、複数のデータ(SIMD)、超長命令語(VLIW:very long instruction word)デジタル信号プロセッサなど、デジタル信号プロセッサを含み得る。SIMD及びVLIWの組合せは、スループット及びスピードを高めることができる。
それぞれのベクトル・プロセッサは、命令キャッシュを含み得、専用のメモリに連結され得る。結果として、一部の実例では、それぞれのベクトル・プロセッサは、他のベクトル・プロセッサから独立して実行するように構成され得る。他の実例において、特定のPVAに含まれるベクトル・プロセッサは、データ並列処理を用いるように構成され得る。たとえば、一部の実施例では、単一のPVAに含まれる複数のベクトル・プロセッサは、同じコンピュータ・ビジョン・アルゴリズムを、しかし画像の異なる領域上で、実行することができる。他の実例において、特定のPVAに含まれるベクトル・プロセッサは、異なるコンピュータ・ビジョン・アルゴリズムを、同じ画像上で、同時に実行することができ、或いは順次画像又は画像の部分で異なるアルゴリズムを実行することさえできる。特に、任意の数のPVAは、ハードウェア加速クラスタに含まれ得、任意の数のベクトル・プロセッサは、それぞれのPVAに含まれ得る。加えて、PVAは、全体的システム安全性を高めるために、追加のエラー訂正コード(ECC:error correcting code)メモリを含み得る。
加速装置814(たとえば、ハードウェア加速クラスタ)は、加速装置814のための高帯域幅、低レイテンシSRAMを提供するための、コンピュータ・ビジョン・ネットワーク・オンチップ及びSRAMを含み得る。いくつかの実例では、オンチップ・メモリは、たとえば、そして制限ではなく、PVAとDLAとの両方によってアクセス可能でもよい、8個のフィールド構成可能なメモリ・ブロックから成る、少なくとも4MBのSRAMを含み得る。各ペアのメモリ・ブロックは、高度周辺バス(APB:advanced peripheral bus)インターフェース、構成回路、コントローラ、及びマルチプレクサを含み得る。任意のタイプのメモリが、使用され得る。PVA及びDLAは、メモリへの高速アクセスを有するPVA及びDLAを提供するバックボーンを介してメモリにアクセスすることができる。バックボーンは、(たとえば、APBを使用して)PVA及びDLAをメモリに相互接続するコンピュータ・ビジョン・ネットワーク・オンチップを含み得る。
コンピュータ・ビジョン・ネットワーク・オンチップは、PVAとDLAとの両方が作動可能及び有効信号を提供することを、任意の制御信号/アドレス/データの送信の前に、決定するインターフェースを含み得る。そのようなインターフェースは、制御信号/アドレス/データを送信するための別個のフェーズ及び別個のチャネル、並びに連続的データ転送のためのバーストタイプの通信を提供することができる。このタイプのインターフェースは、ISO26262又はIEC61508規格に従うことができるが、他の規格及びプロトコルが使用されてもよい。
いくつかの実例では、SoC804は、2018年8月10日に出願された米国特許出願第16/101,232号に記載されるような、リアルタイム・レイトレーシング・ハードウェア加速装置を含み得る。リアルタイム・レイトレーシング・ハードウェア加速装置は、RADAR信号解釈のための、音響伝播合成及び/又は分析のための、SONARシステムのシミュレーションのための、一般波伝播シミュレーションのための、ローカリゼーション及び/又は他の機能を目的とするLIDARデータに対する比較のための、及び/又は他の使用のための、リアルタイム視覚化シミュレーションを生成するために、(たとえば、世界モデル内の)物体の位置及び規模を迅速に効率的に決定するために使用され得る。一部の実施例では、1個又は複数の木の走査ユニット(TTU:tree traversal unit)が、1個又は複数のレイトレーシング関連動作を実行するために使用され得る。
加速装置814(たとえば、ハードウェア加速装置クラスタ)は、自律運転のための多様な用途を有する。PVAは、ADAS及び自律型車両における極めて重要な処理段階に使用され得るプログラマブル・ビジョン加速装置でもよい。PVAの能力は、低電力及び低レイテンシにおいて、予測可能な処理を必要とするアルゴリズムの領域にふさわしい。言い換えれば、PVAは、低レイテンシ及び低電力とともに予測可能な実行時間を必要とする、小さなデータ集合上でも、半高密度の又は高密度の通常の計算で上手く機能する。それ故に、PVAは、物体検出及び整数計算での動作において効率的であるので、自律型車両のためのプラットフォームとの関連で、PVAは、クラシック・コンピュータ・ビジョン・アルゴリズムを実行するように設計される。
たとえば、本技術の1個の実施例によれば、PVAは、コンピュータ・ステレオ・ビジョンを実行するために使用される。半グローバルなマッチングベースのアルゴリズムが、一部の実例では使用され得るが、これは制限することを意図されていない。レベル3~5の自律運転のための多数のアプリケーションは、動き推定/ステレオ・マッチング・オンザフライ(たとえば、SFM(structure from motion)、歩行者認識、レーン検出など)を必要とする。PVAは、2個の単眼カメラからの入力でコンピュータ・ステレオ・ビジョン機能を実行することができる。
いくつかの実例では、PVAは、高密度のオプティカル・フローを実行するために使用され得る。処理されたRADARを提供するために未加工のRADARデータを処理する(たとえば、4D高速フーリエ変換を使用して)ことによる。他の実例において、PVAは、たとえば、飛行データの未加工の時間を処理して飛行データの処理済み時間を提供することにより、飛行深度処理の時間に使用される。
DLAは、たとえば、各物体検出の信頼性の測定値を出力するニューラル・ネットワークを含む、制御及び運転安全性を強化するために任意のタイプのネットワークを実行するために使用され得る。そのような信頼性値は、確率として、又は他の検出と比較した各検出の相対的「重み」を提供するものとして、解釈され得る。この信頼性値は、どの検出が誤判定検出ではなくて真陽性検出と考えられるべきであるかに関するさらなる決定をシステムが行うことを可能にする。たとえば、システムは、信頼性の閾値を設定し、真陽性検出としての閾値を超える検出のみを考慮することができる。自動非常ブレーキ(AEB:automatic emergency braking)システムにおいて、誤判定検出は、移動車に非常ブレーキを自動で実行させることになり、これは明らかに望ましくない。したがって、最も確信のある検出のみが、AEBのトリガとして考えられるべきである。DLAは、信頼性値を退行するニューラル・ネットワークを実行し得る。ニューラル・ネットワークは、境界ボックス次元、(たとえば、別のサブシステムから)取得されたグラウンド・プレーン推定、ニューラル・ネットワーク及び/又は他のセンサ(たとえば、LIDARセンサ864又はRADARセンサ860)から取得された物体の移動車800方位、距離、3D位置推定と相関する慣性計測装置(IMU:inertial measurement unit)センサ866出力、その他など、少なくともいくつかのサブセットのパラメータをその入力として受け取ることができる。
SoC804は、データ・ストア816(たとえば、メモリ)を含み得る。データ・ストア816は、SoC804のオンチップ・メモリでもよく、GPU及び/又はDLAで実行されることになるニューラル・ネットワークを記憶することができる。いくつかの実例では、データ・ストア816は、冗長性及び安全性のためにニューラル・ネットワークの複数のインスタンスを記憶するのに十分な大きさの容量を有し得る。データ・ストア812は、L2又はL3キャッシュ812を備え得る。データ・ストア816の参照は、本明細書に記載のような、PVA、DLA、及び/又は他の加速装置814に関連するメモリの参照を含み得る。
SoC804は、1個又は複数のプロセッサ810(たとえば、組み込まれたプロセッサ)を含み得る。プロセッサ810は、ブート電力及び管理能力及び関連するセキュリティ施行を処理するための専用のプロセッサ及びサブシステムでもよいブート及び電力管理プロセッサを含み得る。ブート及び電力管理プロセッサは、SoC804ブート・シーケンスの一部でもよく、実行時間電力管理サービスを提供することができる。ブート電力及び管理プロセッサは、クロック及び電圧プログラミング、システム低電力状態移行の支援、SoC804熱及び温度センサの管理、及び/又はSoC804電力状態の管理を提供することができる。各温度センサは、その出力頻度が温度に比例するリング発振器として実装されてもよく、SoC804は、リング発振器を使用してCPU806、GPU808、及び/又は加速装置814の温度を検出することができる。温度が、閾値を超えたと判定された場合、ブート及び電力管理プロセッサは、温度障害ルーティンに入り、SoC804をより低い電力状態に置く及び/又は移動車800をショーファーの安全停止モードにする(たとえば、移動車800を安全停止させる)ことができる。
プロセッサ810は、オーディオ処理エンジンの機能を果たし得る1セットの組み込まれたプロセッサをさらに含み得る。オーディオ処理エンジンは、複数のインターフェースを介するマルチチャネル・オーディオの完全なハードウェア・サポートとオーディオI/Oインターフェースの広く柔軟な範囲とを可能にするオーディオ・サブシステムでもよい。いくつかの実例では、オーディオ処理エンジンは、専用のRAMを有するデジタル信号プロセッサを有する専用のプロセッサ・コアである。
プロセッサ810は、低電力センサ管理及びウェイク使用事例をサポートするための必要なハードウェア特徴を提供することができる常時オンのプロセッサ・エンジンをさらに含み得る。常時オンのプロセッサ・エンジンは、プロセッサ・コア、しっかりと結合されたRAM、支援周辺装置(たとえば、タイマ及び割り込みコントローラ)、様々なI/Oコントローラ周辺装置、及びルーティング論理を含み得る。
プロセッサ810は、自動車のアプリケーションの安全性管理を処理するために専用のプロセッサ・サブシステムを含む安全性クラスタ・エンジンをさらに含み得る。安全性クラスタ・エンジンは、2個以上のプロセッサ・コア、しっかりと結合されたRAM、サポート周辺装置(たとえば、タイマ、割り込みコントローラなど)、及び/又はルーティング論理を含み得る。安全性モードにおいて、2個以上のコアは、ロックステップ・モードにおいて動作し、それらの動作の間の何らかの差を検出するための比較論理を有する単一のコアとして機能することができる。
プロセッサ810は、リアルタイム・カメラ管理を処理するための専用のプロセッサ・サブシステムを含み得るリアルタイム・カメラ・エンジンをさらに含み得る。
プロセッサ810は、カメラ処理パイプラインの一部であるハードウェア・エンジンである画像信号プロセッサを含み得る高ダイナミック・レンジ信号プロセッサをさらに含み得る。
プロセッサ810は、プレイヤ・ウインドウのための最終的画像を生み出すためにビデオ再生アプリケーションによって必要とされるビデオ処理後機能を実装する処理ブロック(たとえば、マイクロプロセッサに実装された)でもよいビデオ画像合成器を含み得る。ビデオ画像合成器は、ワイドビュー・カメラ870で、サラウンド・カメラ874で、及び/又はキャビン内監視カメラ・センサでレンズ歪み補正を実行することができる。キャビン内監視カメラ・センサは好ましくは、キャビン内イベントを識別し、適切に応答するように構成された、高度SoCの別のインスタンス上で実行するニューラル・ネットワークによって監視される。キャビン内システムは、セルラ・サービスをアクティブにする及び電話をかける、電子メールを書き取らせる、移動車の目的地を変更する、移動車のインフォテインメント・システム及び設定をアクティブにする又は変更する、或いは音声起動型ウェブ・サーフィンを提供するために、読唇術を実行することができる。ある特定の機能は、自律モードで動作しているときにのみ運転者に利用可能であり、そうでない場合には無効にされる。
ビデオ画像合成器は、空間的ノイズ低減及び時間的ノイズ低減の両方のための強化された時間的ノイズ低減を含み得る。たとえば、動きがビデオ内で生じた場合、ノイズ低減は、隣接するフレームによって提供される情報の重みを減らし、空間的情報に適切に重みを加える。画像又は画像の一部が動きを含まない場合、ビデオ画像合成器によって実行される時間的ノイズ低減は、前の画像からの情報を使用して現在の画像におけるノイズを減らすことができる。
ビデオ画像合成器はまた、入力ステレオ・レンズ・フレーム上でステレオ・レクティフィケーションを実行するように構成され得る。ビデオ画像合成器はさらに、オペレーティング・システム・デスクトップが使用中であるときにユーザ・インターフェース合成のために使用することができ、GPU808は、新しい表面を連続してレンダリングために必要とされない。GPU808の電源が入れられ、3Dレンダリングをアクティブに行っているときでも、ビデオ画像合成器は、GPU808をオフロードしてパフォーマンス及び反応性を向上させるために使用され得る。
SoC804は、カメラからビデオ及び入力を受信するためのモバイル・インダストリ・プロセッサ・インターフェース(MIPI:mobile industry processor interface)カメラ・シリアル・インターフェース、高速インターフェース、及び/又は、カメラ及び関連画素入力機能のために使用され得るビデオ入力ブロックをさらに含み得る。SoC804は、ソフトウェアによって制御され得る、及び特定の役割にコミットされていないI/O信号を受信するために使用され得る、入力/出力コントローラをさらに含み得る。
SoC804は、周辺装置、オーディオ・コーデック、電力管理、及び/又は他のデバイスとの通信を可能にするために、広範囲の周辺インターフェースをさらに含み得る。SoC804は、(たとえば、ギガビット・マルチメディア・シリアル・リンク及びイーサネット(登録商標)を介して接続された)カメラからのデータ、センサ(たとえば、イーサネット(登録商標)を介して接続され得るLIDARセンサ864、RADARセンサ860など)、バス802からのデータ(たとえば、移動車800のスピード、ハンドル位置など)、(たとえば、イーサネット(登録商標)又はCANバスを介して接続された)GNSSセンサ858からのデータを処理するために使用され得る。SoC804は、独自のDMAエンジンを含み得る及びルーティン・データ管理タスクからCPU806を解放するために使用され得る専用の高性能大容量記憶コントローラをさらに含み得る。
SoC804は、自動化レベル3~5に広がる柔軟なアーキテクチャを有する終端間プラットフォームでもよく、それによって、多様性及び冗長性のためにコンピュータ・ビジョン及びADAS技法を活用し、効率的に使用し、深層学習ツールとともに、柔軟な、信頼できる運転ソフトウェア・スタックのためのプラットフォームを提供する、総合的機能的安全性アーキテクチャを提供する。SoC804は、従来のシステムよりも高速で、信頼でき、さらにエネルギ効率がよく、空間効率がよくなり得る。たとえば、加速装置814が、CPU806と結合されるとき、GPU808、及びデータ・ストア816は、レベル3~5の自律型車両のための高速で効率的なプラットフォームを提供することができる。
したがって、本技術は、従来のシステムによって達成することができない能力及び機能性をもたらす。たとえば、コンピュータ・ビジョン・アルゴリズムは、多種多様な視覚的データにわたり多種多様な処理アルゴリズムを実行するために、Cプログラミング言語などの高レベルのプログラミング言語を使用して構成され得る、CPUで実行され得る。しかしながら、CPUは、しばしば、たとえば、実行時間及び電力消費に関連するものなど、多数のコンピュータ・ビジョン・アプリケーションの性能要件を満たすことができない。具体的には、多数のCPUは、移動車内ADASアプリケーションの要件及び実際のレベル3~5の自律型車両の要件である、リアルタイムでの複合物体検出アルゴリズムを実行することができない。
従来のシステムとは対照的に、CPU複合体、GPU複合体、及びハードウェア加速クラスタを提供することによって、本明細書に記載の技術は、複数のニューラル・ネットワークが同時に及び/又は連続して実行されることと、レベル3~5の自律運転機能を可能にするために結果が結合されることとを可能にする。たとえば、DLA又はdGPU(たとえば、GPU820)で実行するCNNは、ニューラル・ネットワークが具体的にトレーニングされていない標識を含む、交通標識をスーパーコンピュータが読み取る及び理解することを可能にする、テキスト及び単語認識を含み得る。DLAは、標識の意味論的理解を識別、解釈、及び提供することと、CPU複合体で実行する進路計画立案モジュールに意味論的理解を渡すこととを行うことができる、ニューラル・ネットワークをさらに含み得る。
別の実例として、複数のニューラル・ネットワークは、レベル3、4、又は5の運転に必要とされるように、同時に実行され得る。たとえば、電光とともに、「注意:点滅光は、凍った状態を示す」から成る警告標識は、いくつかのニューラル・ネットワークによって独立して又は集合的に解釈され得る。標識自体は、第1の配備されたニューラル・ネットワーク(たとえば、トレーニングされてあるニューラル・ネットワーク)によって交通標識として識別され得、テキスト「点滅光は、凍った状態を示す」は、点滅光が検出されるときには凍った状態が存在することを移動車の進路計画立案ソフトウェア(好ましくはCPU複合体上で実行する)に知らせる、第2の配備されたニューラル・ネットワークによって解釈され得る。点滅光は、点滅光の存在(又は無いこと)を移動車の進路計画立案ソフトウェアに知らせ、複数のフレームを介して第3の配備されたニューラル・ネットワークを動作させることによって識別され得る。すべての3個のニューラル・ネットワークは、DLA内及び/又はGPU808上などで、同時に実行することができる。
いくつかの実例では、顔認識及び移動車所有者識別のためのCNNは、カメラ・センサからのデータを使用して移動車800の正規の運転者及び/又は所有者の存在を識別することができる。常時オンのセンサ処理エンジンは、所有者が運転席側のドアに近付くときに移動車を解錠する及び明かりをつけるために、並びに、セキュリティ・モードにおいて、所有者が移動車を離れるときに移動車の動作を停止させるために、使用され得る。このようにして、SoC804は、盗難及び/又は車の乗っ取りに対するセキュリティをもたらす。
別の実例では、緊急車両検出及び識別のためのCNNは、マイクロフォン896からのデータを使用して緊急車両サイレンを検出及び識別することができる。一般分類子を使用してサイレンを検出する及び特徴を手動で抽出する従来のシステムとは対照的に、SoC804は、環境の及び都市の音の分類、並びに視覚的データの分類のためにCNNを使用する。好ましい一実施例では、DLA上で実行するCNNは、(たとえば、ドップラー効果を使用することによって)緊急車両の相対的終速度を識別するようにトレーニングされる。CNNはまた、GNSSセンサ858によって識別されるように、移動車が稼働しているローカル・エリアに特有の緊急車両を識別するようにトレーニングされ得る。それ故に、たとえば、欧州で稼働しているとき、CNNは、欧州のサイレンを検出しようとすることになり、そして、米国にあるとき、CNNは、北米のサイレンのみを識別しようとすることになる。緊急車両が検出された後は、制御プログラムが、緊急車両が通過するまで、超音波センサ862の支援を受けて、移動車を減速する、道の端に停止させる、移動車を駐車する、及び/又は移動車をアイドリングさせる、緊急車両安全性ルーティンを実行するために使用され得る。
移動車は、高速相互接続(たとえば、PCIe)を介してSoC804に連結され得るCPU818(たとえば、個別のCPU、又はdCPU)を含み得る。CPU818は、たとえば、X86プロセッサを含み得る。CPU818は、たとえば、ADASセンサとSoC804との間の潜在的に不整合の結果を調停すること、及び/又はコントローラ836及び/又はインフォテインメントSoC830の状況及び調子を監視することを含む、様々な機能のいずれかを実行するために使用され得る。
移動車800は、高速相互接続(たとえば、NVIDIA CorporationのNVLINK)を介してSoC804に連結され得るGPU820(たとえば、個別のGPU、又はdGPU)を含み得る。GPU820は、冗長及び/又は異なるニューラル・ネットワークを実行することなどによって、付加的人工知能機能をもたらすことができ、移動車800のセンサからの入力(たとえば、センサ・データ)に基づいてニューラル・ネットワークをトレーニング及び/又は更新するために使用され得る。
移動車800は、1個又は複数のワイヤレス・アンテナ826(たとえば、セルラ・アンテナ、ブルートゥース(登録商標)・アンテナなど、異なる通信プロトコルのための1個又は複数のワイヤレス・アンテナ)を含み得るネットワーク・インターフェース824をさらに含み得る。ネットワーク・インターフェース824は、インターネットを介するクラウドとの(たとえば、サーバ878及び/又は他のネットワーク・デバイスとの)、他の移動車との、及び/又は計算デバイス(たとえば、乗客のクライアント・デバイス)とのワイヤレス接続を使用可能にするために使用され得る。他の移動車と通信するために、直接リンクが2個の移動車の間に確立され得る、及び/又は、間接リンクが(たとえば、ネットワークを通じて及びインターネットを介して)確立され得る。直接リンクは、移動車対移動車通信リンクを使用し、提供され得る。移動車対移動車通信リンクは、移動車800に近接する移動車(たとえば、移動車800の前の、横の、及び/又は後ろの移動車)に関する移動車800情報を提供することができる。この機能は、移動車800の共同適応クルーズ制御機能の一部でもよい。
ネットワーク・インターフェース824は、変調及び復調機能を提供する及びコントローラ836がワイヤレス・ネットワークを介して通信することを可能にする、SoCを含み得る。ネットワーク・インターフェース824は、ベースバンドから無線周波数へのアップコンバージョン、及び無線周波数からベースバンドへのダウンコンバージョンのための無線周波数フロントエンドを含み得る。周波数コンバージョンは、よく知られているプロセスを通して実行することができ、及び/又はスーパーヘテロダイン・プロセスを用いて実行することができる。いくつかの実例では、無線周波数フロントエンド機能は、別個のチップによって提供され得る。ネットワーク・インターフェースは、LTE、WCDMA(登録商標)、UMTS、GSM、CDMA2000、ブルートゥース(登録商標)、ブルートゥース(登録商標)LE、Wi-Fi、Z-Wave、ZigBee、LoRaWAN、及び/又は他のワイヤレス・プロトコルを介して通信するためのワイヤレス機能を含み得る。
移動車800は、チップ外の(たとえば、SoC804外の)ストレージを含み得るデータ・ストア828をさらに含み得る。データ・ストア828は、RAM、SRAM、DRAM、VRAM、フラッシュ、ハードディスク、及び/又は、少なくとも1ビットのデータを記憶することができる他の構成要素及び/又はデバイスを含む、1個又は複数の記憶素子を含み得る。
車両800は、GNSSセンサ858をさらに含み得る。GNSSセンサ858(たとえば、GPS、支援されたGPSセンサ、ディファレンシャルGPS(DGPS)センサなど)は、マッピング、知覚、占有グリッド生成、及び/又は進路計画策定機能を支援する。たとえば、シリアル(RS-232)ブリッジへのイーサネット(登録商標)を有するUSBコネクタを使用するGPSを含むが、これに限定されない、任意の数のGNSSセンサ858が、使用され得る。
移動車800は、RADARセンサ860をさらに含み得る。RADARセンサ860は、暗闇及び/又は厳しい気象条件においても、長距離移動車検出のために移動車800によって使用され得る。RADAR機能安全性レベルは、ASIL Bでもよい。一部の実例では、RADARセンサ860は、未加工のデータにアクセスするためのイーサネット(登録商標)へのアクセスを用いて、制御のために及び物体追跡データにアクセスするために(たとえば、RADARセンサ860によって生成されたデータを送信するために)CAN及び/又はバス802を使用することができる。多種多様なRADARセンサ・タイプが、使用され得る。たとえば、そして制限なしに、RADARセンサ860は、前部、後部、及び側部RADAR使用に適し得る。一部の実例では、パルス・ドップラーRADARセンサが使用される。
RADARセンサ860は、狭い視野を有する長距離、広い視野を有する短距離、短距離側部カバレッジなど、異なる構成を含み得る。いくつかの実例では、長距離RADARは、適応クルーズ制御機能のために使用され得る。長距離RADARシステムは、250mの範囲内など、2個以上の独立したスキャンによって実現される広い視野を提供することができる。RADARセンサ860は、静的物体と動く物体との区別を助けることができ、緊急ブレーキ・アシスト及び前方衝突警報のためのADASシステムによって使用され得る。長距離RADARセンサは、複数の(たとえば、6つ以上の)固定RADARアンテナと高速CAN及びFlexRayインターフェースとを有するモノスタティック・マルチモーダルRADARを含み得る。6つのアンテナを有する一実例では、中央の4個のアンテナは、隣接レーン内の交通からの干渉を最小限にして高速で移動車800の周囲を記録するように設計された、集束ビーム・パターンを作成し得る。他の2個のアンテナは、視野を広げることができ、移動車800のレーンに入る又はこれを去る移動車を迅速に検出することを可能にする。
一実例として、中距離RADARシステムは、860m(前)又は80m(後)までの範囲、及び42度(前)又は850度(後)までの視野を含み得る。短距離RADARシステムは、後部バンパの両端に設置されるように設計されたRADARセンサを含み得るが、これに限定されない。後部バンパの両端に設置されるとき、そのようなRADARセンサ・システムは、移動車の後ろ及び隣の死角を常に監視する2個のビームを作成することができる。
短距離RADARシステムは、死角検出及び/又はレーン変更アシストのためにADASシステムにおいて使用され得る。
移動車800は、超音波センサ862をさらに含み得る。移動車800の前部、後部、及び/又は側部に位置付けられ得る、超音波センサ862は、駐車アシストのために及び/又は占有グリッドの作成及び更新のために使用され得る。多種多様な超音波センサ862が使用され得、異なる超音波センサ862が、異なる範囲の検出(たとえば、2.5m、4m)のために使用され得る。超音波センサ862は、ASIL Bの機能的安全性レベルにおいて動作することができる。
移動車800はLIDARセンサ864を含み得る。LIDARセンサ864は、物体及び歩行者検出、緊急ブレーキ、衝突回避、及び/又は他の機能のために使用され得る。LIDARセンサ864は、機能的安全性レベルASIL Bでもよい。いくつかの実例では、移動車800は、(たとえば、ギガビット・イーサネット(登録商標)・スイッチにデータを提供するために)イーサネット(登録商標)を使用することができる複数の(たとえば、2個、4個、6個などの)LIDARセンサ864を含み得る。
いくつかの実例では、LIDARセンサ864は、物体及び360度視野のそれらの距離のリストを提供する能力を有し得る。市販のLIDARセンサ864は、たとえば、2cm~3cmの精度を有し、800Mbpsイーサネット(登録商標)接続のサポートを有して、約800mの広告された範囲を有し得る。いくつかの実例では、1個又は複数の非突出したLIDARセンサ864が、使用され得る。そのような実例では、LIDARセンサ864は、移動車800の前部、後部、側部、及び/又は角に組み込まれ得る小さいデバイスとして実装され得る。そのような実例では、LIDARセンサ864は、低反射物体についても200mの範囲を有し、120度水平及び35度垂直視野まで提供することができる。前部に取り付けられたLIDARセンサ864は、45度と135度との間の水平視野向けに構成され得る。
いくつかの実例では、3DフラッシュLIDARなどのLIDAR技術もまた使用され得る。3DフラッシュLIDARは、約200mまで移動車の周囲を照らすために、送信元としてレーザーのフラッシュを使用する。フラッシュLIDARユニットは、移動車から物体までの範囲に順番に対応する、レーザー・パルス走行時間及び各画素上の反射光を記録する、レセプタを含む。フラッシュLIDARは、周囲の高精度の及び歪みのない画像があらゆるレーザー・フラッシュで生成されることを可能にし得る。いくつかの実例では、4個のフラッシュLIDARセンサが、移動車800の各側面に1個ずつ、配備され得る。利用可能な3DフラッシュLIDARシステムは、送風機以外に動く部分を有さないソリッドステート3Dステアリング・アレイLIDARカメラ(たとえば、非スキャン型LIDARデバイス)を含む。フラッシュLIDARデバイスは、1フレームにつき5ナノ秒クラスI(目に安全な)レーザー・パルスを使用することができ、3D範囲点群及び共記載された強度データの形で反射レーザー光をキャプチャし得る。フラッシュLIDARを使用することによって、また、フラッシュLIDARは、動く部分を有さないソリッドステート・デバイスであるので、LIDARセンサ864は、モーション・ブラー、振動、及び/又は衝撃の影響を受けにくくなり得る。
移動車は、IMUセンサ866をさらに含み得る。一部の実例では、IMUセンサ866は、移動車800の後部車軸の中央に位置付けられ得る。IMUセンサ866は、たとえば、加速度計、磁力計、ジャイロスコープ、磁気コンパス、及び/又は他のセンサ・タイプを含み得るが、これらに限定されない。いくつかの実例では、6軸アプリケーションなどにおいて、IMUセンサ866は、加速度計及びジャイロスコープを含み得るが、9軸アプリケーションにおいて、IMUセンサ866は、加速度計、ジャイロスコープ、及び磁力計を含み得る。
一部の実施例では、IMUセンサ866は、マイクロ電気機械システム(MEMS:micro-electro-mechanical system)慣性センサ、高感度GPSレシーバ、及び高度カルマン・フィルタリング・アルゴリズムを結合して位置、ベロシティ、及び姿勢の推定値を提供するミニチュア、高性能GPS支援型慣性航行システム(GPS/INS:GPS-Aided Inertial Navigation System)として実装され得る。そのようなものとして、一部の実例では、IMUセンサ866は、GPSからIMUセンサ866までのベロシティの変化を直接観測すること及び関連付けることによって、磁気センサからの入力を必要とせずに進行方向を移動車800が推定することを可能にし得る。いくつかの実例では、IMUセンサ866及びGNSSセンサ858は、単一の統合されたユニットにおいて結合され得る。
移動車は、移動車800内及び/又は周囲に置かれたマイクロフォン896を含み得る。マイクロフォン896は、中でも、緊急車両検出及び識別のために使用され得る。
移動車は、ステレオ・カメラ868、ワイドビュー・カメラ870、赤外線カメラ872、サラウンド・カメラ874、長距離及び/又は中距離カメラ898、及び/又は他のカメラ・タイプを含む、任意の数のカメラ・タイプをさらに含み得る。カメラは、移動車800の全外面の周りの画像データをキャプチャするために使用され得る。使用されるカメラのタイプは、移動車800の実施例及び要件に応じて決まり、任意の組合せのカメラ・タイプが、移動車800の周りの必要なカバレッジを実現するために使用され得る。加えて、カメラの数は、実施例に応じて異なり得る。たとえば、移動車は、6個のカメラ、7個のカメラ、10個のカメラ、12個のカメラ、及び/又は別の数のカメラを含み得る。カメラは、一実例として、ギガビット・マルチメディア・シリアル・リンク(GMSL:Gigabit Multimedia Serial Link)及び/又はギガビット・イーサネット(登録商標)をサポートし得るが、これに限定されない。それぞれのカメラは、図8A及び図8Bに関連して本明細書においてさらに詳しく説明される。
移動車800は、振動センサ842をさらに含み得る。振動センサ842は、車軸など、移動車の構成要素の振動を測定することができる。たとえば、振動の変化は、道路の表面の変化を示し得る。別の実例では、2個以上の振動センサ842が使用されるとき、振動の差は、道路表面の摩擦又は滑りを判定するために使用され得る(たとえば、振動の差が電力駆動車軸と自由回転車軸との間であるとき)。
移動車800は、ADASシステム838を含み得る。一部の実例では、ADASシステム838は、SoCを含み得る。ADASシステム838は、自律/適応/自動クルーズ制御(ACC:autonomous/adaptive/automatic cruise control)、共同適応クルーズ制御(CACC:cooperative adaptive cruise control)、前方衝突警報(FCW:forward crash warning)、自動緊急ブレーキ(AEB:automatic emergency braking)、車線逸脱警報(LDW:lane departure warning)、レーン・キープ・アシスト(LKA:lane keep assist)、死角警報(BSW:blind spot warning)、後部交差交通警報(RCTW:rear cross-traffic warning)、衝突警報システム(CWS:collision warning system)、レーン・センタリング(LC:lane centering)、及び/又は他の特徴及び機能を含み得る。
ACCシステムは、RADARセンサ860、LIDARセンサ864、及び/又はカメラを使用し得る。ACCシステムは、縦ACC及び/又は横ACCを含み得る。縦ACCは、移動車800のすぐ前の移動車までの距離を監視及び制御し、前方の移動車からの安全距離を維持するために移動車速度を自動的に調整する。横ACCは、距離の保持を実行し、必要なときにレーンを変更するように移動車800にアドバイスする。横ACCは、LCA及びCWSなどの他のADASアプリケーションに関連する。
CACCは、ワイヤレス・リンクを介して他の動車からネットワーク・インターフェース824及び/又はワイヤレス・アンテナ826を介して、或いは間接的にネットワーク接続を介して(たとえば、インターネットを介して)、受信することができる、他の移動車からの情報を使用する。直接リンクは、移動車対移動車(V2V:vehicle-to-vehicle)通信リンクによって提供され得、一方、間接リンクは、インフラストラクチャ対移動車(I2V:infrastructure-to-vehicle)通信リンクでもよい。一般に、V2V通信概念は、直前の移動車(たとえば、移動車800と同じレーン内にある、移動車800のすぐ前の移動車)に関する情報を提供し、一方、I2V通信概念は、さらに前の交通に関する情報を提供する。CACCシステムは、I2V情報ソースとV2V情報ソースとのいずれか又は両方を含み得る。移動車800の前方の移動車の情報を所与として、CACCは、より高信頼になり得、CACCは、交通の流れをよりスムーズにし、道路の渋滞を減らす可能性を有する。
運転者が修正行動を取ることができるように、FCWシステムは、危険を運転者に警告するように設計される。FCWシステムは、ディスプレイ、スピーカ、及び/又は振動部品など、運転者フィードバックに電気的に連結された、専用のプロセッサ、DSP、FPGA、及び/又はASICに連結された、前向きのカメラ及び/又はRADARセンサ860を使用する。FCWシステムは、音響、視覚的警報、振動及び/又はクイック・ブレーキ・パルスなどの形で、警報を提供することができる。
AEBシステムは、別の移動車又は他の物体との差し迫った前方衝突を検出し、運転者が指定された時間又は距離パラメータ内に修正行動を取らない場合に、ブレーキを自動的に適用することができる。AEBシステムは、専用のプロセッサ、DSP、FPGA、及び/又はASICに連結された、前向きのカメラ及び/又はRADARセンサ860を使用することができる。AEBシステムが危険を検出するとき、AEBシステムは通常は、先ず、衝突を回避するための修正行動を取るように運転者に警告し、運転者が修正行動を取らない場合、AEBシステムは、予測される衝突の影響を防ぐ、又は少なくとも軽減するための努力の一環としてブレーキを自動的に適用することができる。AEBシステムは、ダイナミック・ブレーキ・サポート及び/又は衝突切迫ブレーキなどの技法を含み得る。
LDWシステムは、ハンドル又はシートの振動など、視覚的、可聴式、及び/又は触覚的警報を提供して、移動車800が車線区分線を越えたときに運転者に警告する。LDWシステムは、運転者が、方向指示器を起動することによって、意図的な車線逸脱を指示するときには、起動しない。LDWシステムは、ディスプレイ、スピーカ、及び/又は振動部品など、運転者フィードバックに電気的に連結された、専用のプロセッサ、DSP、FPGA、及び/又はASICに連結された、前側を向いたカメラを使用することができる。
LKAシステムは、LDWシステムの変更形態である。LKAシステムは、移動車800が車線をはみ出し始めた場合に移動車800を修正するためにステアリング入力又はブレーキを提供する。
BSWシステムは、自動車の死角において移動車の運転者に検出及び警告する。BSWシステムは、合流又はレーンの変更が安全ではないことを指示するために視覚的、可聴式、及び/又は触覚的警告を提供することができる。システムは、運転者が方向指示器を使用するときに、付加的警告を提供することができる。BSWシステムは、運転者フィードバック、たとえば、ディスプレイ、スピーカ、及び/又は振動部品、に電気的に結合された、専用プロセッサ、DSP、FPGA、及び/又はASICに結合された、後ろ側を向いたカメラ及び/又はRADARセンサ860を使用することができる。
RCTWシステムは、車両800がバックしているときにリアカメラの範囲外で物体が検出されたときに視覚的、可聴式、及び/又は触覚的通知を提供することができる。いくつかのRCTWシステムは、衝突を回避するために車両ブレーキが適用されることを確実にするために、AEBを含む。RCTWシステムは、運転者フィードバック、たとえば、ディスプレイ、スピーカ、及び/又は振動部品、に電気的に結合された、専用プロセッサ、DSP、FPGA、及び/又はASICに結合された、1個又は複数の後ろを向いたRADARセンサ860を使用することができる。
従来のADASシステムは、運転者に警告し、安全状態が本当に存在するかどうかを運転者が判定し、それに応じて行動することを可能にするので、従来のADASシステムは、通常は壊滅的ではないが、運転者を悩ませている及び気を散らせていることがある誤判定結果を生み出す傾向にあることがあった。しかしながら、自律型車両800では、結果が矛盾する場合には、移動車800自体が、1次的コンピュータ又は2次的コンピュータ(たとえば、第1のコントローラ836又は第2のコントローラ836)からの結果を聞き入れるかどうかを決定しなければならない。たとえば、一部の実施例では、ADASシステム838は、知覚情報をバックアップ・コンピュータ合理性モジュールに提供するためのバックアップ及び/又は2次的コンピュータでもよい。バックアップ・コンピュータ合理性モニタは、ハードウェア構成要素で冗長な多様なソフトウェアを実行して、知覚及び動的運転タスクにおいて障害を検出することができる。ADASシステム838からの出力は、監督MCUに提供され得る。1次的コンピュータ及び2次的コンピュータからの出力が矛盾する場合、監督MCUは、安全な動作を確実にするためにその矛盾をどのように調整するかを決定する必要がある。
いくつかの実例では、1次的コンピュータは、選択された結果における1次的コンピュータの信頼性を指示する、信頼性スコアを監督MCUに提供するように構成され得る。信頼性スコアが閾値を超えた場合、監督MCUは、2次的コンピュータが矛盾する又は不整合の結果を与えるかどうかにかかわらず、1次的コンピュータの指示に従い得る。信頼性スコアが閾値を満たさない場合、及び1次的及び2次的コンピュータが異なる結果を示す(たとえば、矛盾する)場合、監督MCUは、コンピュータの間で調停して適切な結果を決定することができる。
監督MCUは、2次的コンピュータが誤ったアラームを提供する状態を、1次的コンピュータ及び2次的コンピュータからの出力に基づいて、判定するようにトレーニング及び構成されたニューラル・ネットワークを実行するように構成され得る。したがって、監督MCU内のニューラル・ネットワークは、2次的コンピュータの出力が信頼され得るとき、及びそれが信頼され得ないときを学習することができる。たとえば、2次的コンピュータがRADARベースのFCWシステムであるとき、監督MCU内のニューラル・ネットワークは、アラームをトリガする下水溝の鉄格子又はマンホールの蓋など、実際には危険ではない金属製の物をいつFCWが識別しているかを学習することができる。同様に、2次的コンピュータがカメラベースのLDWシステムであるとき、監督MCU内のニューラル・ネットワークは、自転車に乗った人又は歩行者が存在し、車線逸脱が、実際には、最も安全な操作であるときに、LDWを無視することを学習することができる。監督MCU上で実行中のニューラル・ネットワークを含む実施例では、監督MCUは、関連メモリを有するニューラル・ネットワークを実行するのに適したDLA又はGPUのうちの少なくとも1個を含み得る。好ましい実施例において、監督MCUは、SoC804の構成要素を備え得る、及び/又はSoC804の構成要素として含まれ得る。
他の実例において、ADASシステム838は、コンピュータ・ビジョンの従来のルールを使用するADAS機能を実行する2次的コンピュータを含み得る。そのようなものとして、2次的コンピュータは、古典的コンピュータ・ビジョン・ルール(if-then)を使用することができ、監督MCU内のニューラル・ネットワークの存在は、信頼性、安全性及び性能を向上させることができる。たとえば、多様な実装形態及び意図的な非同一性は、特にソフトウェア(又はソフトウェア-ハードウェア・インターフェース)機能によって引き起こされる障害に対して、システム全体をよりフォールトトレラントにする。たとえば、1次的コンピュータで実行中のソフトウェア内にソフトウェア・バグ又はエラーが存在し、2次的コンピュータで実行中の同一でないソフトウェア・コードが同じ総合的結果を提供する場合、監督MCUは、総合的結果は正しく、1次的コンピュータ上のソフトウェア又はハードウェア内のバグは重大なエラーを引き起こしていないというより大きな確信を有し得る。
いくつかの実例では、ADASシステム838の出力は、1次的コンピュータの知覚ブロック及び/又は1次的コンピュータの動的運転タスク・ブロックに供給され得る。たとえば、ADASシステム838が、すぐ前の物体が原因で、前方衝突警報を示した場合、知覚ブロックは、物体を識別するときに、この情報を使用することができる。他の実例において、2次的コンピュータは、本明細書に記載のように、トレーニングされ、それ故に誤判定のリスクを減らす、独自のニューラル・ネットワークを有し得る。
移動車800は、インフォテインメントSoC830(たとえば、移動車内のインフォテインメント・システム(IVI:in-vehicle infotainment system))をさらに含み得る。SoCとして図示及び記述されているが、インフォテインメント・システムは、SoCでなくてもよく、2個以上の個別の構成要素を含み得る。インフォテインメントSoC830は、オーディオ(たとえば、音楽、携帯情報端末、ナビゲーション命令、ニュース、無線など)、ビデオ(たとえば、TV、映画、ストリーミングなど)、電話(たとえば、ハンズフリー通話)、ネットワーク接続(たとえば、LTE、Wi-Fiなど)、及び/又は情報サービス(たとえば、ナビゲーション・システム、後方駐車支援、無線データシステム、燃料レベル、総移動距離、ブレーキ燃料レベル、オイル・レベル、ドアを開ける/閉じる、エア・フィルタ情報などの移動車関連情報)を移動車800に提供するために使用され得るハードウェア及びソフトウェアの組合せを含み得る。たとえば、インフォテインメントSoC830は、無線、ディスク・プレイヤ、ナビゲーション・システム、ビデオ・プレイヤ、USB及びブルートゥース(登録商標)接続、カーピュータ、車内エンターテインメント、Wi-Fi、ハンドル・オーディオ制御装置、ハンズ・フリー音声制御、ヘッドアップ・ディスプレイ(HUD:heads-up display)、HMIディスプレイ834、テレマティックス・デバイス、制御パネル(たとえば、様々な構成要素、特徴、及び/又はシステムを制御する及び/又はこれと相互に作用するための)、及び/又は他の構成要素でもよい。インフォテインメントSoC830は、ADASシステム838からの情報、計画された移動車操作などの自律運転情報、軌道、周囲環境情報(たとえば、交差点情報、移動車情報、道路情報など)、及び/又は他の情報など、移動車のユーザへの情報(たとえば、視覚的及び/又は可聴式の)を提供するためにさらに使用され得る。
インフォテインメントSoC830は、GPU機能性を含み得る。インフォテインメントSoC830は、バス802(たとえば、CANバス、イーサネット(登録商標)など)を介して、移動車800の他のデバイス、システム、及び/又は構成要素と通信することができる。いくつかの実例では、インフォテインメント・システムのGPUが、1次的コントローラ836(たとえば、移動車800の1次的及び/又はバックアップ・コンピュータ)が故障した場合に、いくつかのセルフドライブ機能を実行することができるように、インフォテインメントSoC830は、監督MCUに連結され得る。そのような実例では、インフォテインメントSoC830は、本明細書に記載のように、移動車800をショーファーの安全停止モードにすることができる。
移動車800は、計器群832(たとえば、デジタル・ダッシュ、電子計器群、デジタル計器パネルなど)をさらに含み得る。計器群832は、コントローラ及び/又はスーパーコンピュータ(たとえば、個別のコントローラ又はスーパーコンピュータ)を含み得る。計器群832は、スピードメーター、燃料レベル、油圧、タコメーター、オドメーター、方向指示器、ギアシフト位置インジケータ、シート・ベルト警告灯、パーキングブレーキ警告灯、エンジン故障灯、エアバッグ(SRS)システム情報、照明制御装置、安全システム制御装置、ナビゲーション情報など、1セットの器具類を含み得る。いくつかの実例では、情報は、インフォテインメントSoC830及び計器群832の間で表示及び/又は共有され得る。言い換えれば、計器群832は、インフォテインメントSoC830の一部として含まれてもよく、逆もまた同様である。
図8Dは、本開示のいくつかの実施例による、図8Aのクラウドベースのサーバと例示的自律型車両800との間の通信のシステム図である。システム876は、サーバ878、ネットワーク890、及び、移動車800を含む移動車を含み得る。サーバ878は、複数のGPU884(A)~884(H)(本明細書でGPU884と総称される)、PCIeスイッチ882(A)~882(H)(本明細書でPCIeスイッチ882と総称される)、及び/又はCPU880(A)~880(B)(本明細書でCPU880と総称される)を含み得る。GPU884、CPU880、及びPCIeスイッチは、たとえば、NVIDIA Corporationによって開発されたNVLinkインターフェース888及び/又はPCIe接続886などの、これらに限定されない、高速相互接続で相互に接続され得る。いくつかの実例では、GPU884は、NVLink及び/又はNVSwitch SoCを介して接続され、GPU884及びPCIeスイッチ882は、PCIe相互接続を介して接続される。8個のGPU884、2個のCPU880、及び2個のPCIeスイッチが図示されているが、これは制限を意図されていない。実施例に応じて、それぞれのサーバ878は、任意の数のGPU884、CPU880、及び/又はPCIeスイッチを含み得る。たとえば、サーバ878は、それぞれ、8個、16個、32個、及び/又はそれ以上のGPU884を含み得る。
サーバ878は、最近開始された道路工事など、予想外の又は変更された道路状態を示す画像を表す画像データを、ネットワーク890を介して、移動車から、受信することができる。サーバ878は、ニューラル・ネットワーク892、更新されたニューラル・ネットワーク892、及び/又は、交通及び道路状態に関する情報を含むマップ情報894をネットワーク890を介して移動車に送信することができる。マップ情報894の更新は、建設現場、くぼみ、迂回路、洪水、及び/又は他の障害物に関する情報など、HDマップ822の更新を含み得る。いくつかの実例では、ニューラル・ネットワーク892、更新されたニューラル・ネットワーク892、及び/又はマップ情報894は、環境において任意の数の移動車から受信されたデータにおいて表された新しいトレーニング及び/又は経験から、及び/又は(たとえば、サーバ878及び/又は他のサーバを使用する)データセンタにおいて実行されたトレーニングに基づいて、生じた可能性がある。
サーバ878は、トレーニング・データに基づいてマシン学習モデル(たとえば、ニューラル・ネットワーク)をトレーニングするために使用され得る。トレーニング・データは、移動車によって生成され得る、及び/又は(たとえば、ゲーム・エンジンを使用して)シミュレーションにおいて生成され得る。いくつかの実例では、トレーニング・データは、タグ付けされる(たとえば、ニューラル・ネットワークが、監督された学習の恩恵を受ける場合)及び/又は他の事前処理を受けるが、他の実例において、トレーニング・データは、タグ付け及び/又は事前処理されない(たとえば、ニューラル・ネットワークが、監督された学習を必要としない場合)。トレーニングは、たとえば以下のクラスを含むがこれらに限定されない、任意の1個又は複数のクラスのマシン学習技法に従って、実行され得る:監視されたトレーニング、半監視されたトレーニング、監視されていないトレーニング、自己学習、強化学習、連合型学習、転移学習、特徴学習(主要構成要素及びクラスタ分析を含む)、マルチ線形部分空間学習、多様体学習、表現学習(予備辞書学習を含む)、ルールに基づくマシン学習、異常検出、及びそれらの変更形態若しくは組合せ。マシン学習モデルがトレーシングされた後は、マシン学習モデルは、移動車によって使用され得(たとえば、ネットワーク890を介して移動車に送信される)、及び/又は、マシン学習モデルは、移動車を遠隔監視するために、サーバ878によって使用され得る。
いくつかの実例では、サーバ878は、移動車からデータを受信し、リアルタイムのインテリジェント推論のために最新のリアルタイムのニューラル・ネットワークにデータを適用することができる。サーバ878は、NVIDIA Corporationによって開発されたDGX及びDGXステーション・マシンなど、GPU884によって電力供給される深層学習スーパーコンピュータ及び/又は専用のAIコンピュータを含み得る。しかしながら、一部の実例では、サーバ878は、CPU電源式データセンタのみを使用する深層学習インフラストラクチャを含み得る。
サーバ878の深層学習インフラストラクチャは、高速のリアルタイム推論の能力を有することでき、その能力を使用して移動車800内のプロセッサ、ソフトウェア、及び/又は関連ハードウェアの調子を評価及び検証することができる。たとえば、深層学習インフラストラクチャは、移動車800がそのシーケンスの画像内に位置したシーケンスの画像及び/又は物体など、移動車800からの定期的更新を受信することができる(たとえば、コンピュータ・ビジョン及び/又は他のマシン学習物体分類技法を介して)。深層学習インフラストラクチャは、物体を識別し、移動車800によって識別された物体とそれらを比較するために、独自のニューラル・ネットワークを実行することができ、結果が一致せず、インフラストラクチャが、移動車800内のAIは正常に機能していないという結論を下した場合、サーバ878は、制御を推測し、乗客に通知し、安全な駐車操作を完了するように移動車800のフェイルセーフ・コンピュータに命じる移動車800への信号を送信することができる。
推論のために、サーバ878は、GPU884及び1個又は複数のプログラマブル推論加速装置(たとえば、NVIDIA CorporationのTensorRT)を含み得る。GPU電源式サーバ及び推論加速の組合せは、リアルタイムの反応性を可能にすることができる。パフォーマンスがさほど必要とされない場合など、他の実例では、CPU、FPGA、及び他のプロセッサによって電力供給されるサーバが、推論のために使用され得る。
例示的計算デバイス
図9は、本開示のいくつかの実施例の実装に使用するのに適した計算デバイス900の一実例のブロック図である。計算デバイス900は、以下のデバイスを間接的に又は直接的につなぐ相互接続システム902を含み得る:メモリ904、1個又は複数の中央処理装置(CPU)906、1個又は複数のグラフィック処理ユニット(GPU)908、通信インターフェース910、入力/出力(I/O)ポート912、入力/出力構成要素914、電力供給装置916、1個又は複数の提示構成要素918(たとえば、ディスプレイ)、及び1つ又は複数の論理ユニット920。少なくとも1個の実施例において、計算デバイス900は、1個又は複数の仮想マシン(VM)を含み得る、及び/又は、その構成要素のいずれかは、仮想構成要素(たとえば、仮想ハードウェア構成要素)を含み得る。非限定的実例として、GPU908のうちの1個又は複数は、1個又は複数のvGPUを含み得、CPU906のうちの1個又は複数は、1個又は複数のvCPUを含み得、及び/又は、論理ユニット920のうちの1個又は複数は、1個又は複数の仮想論理ユニットを含み得る。そのようなものとして、計算デバイス900は、個別の構成要素(たとえば、計算デバイス900専用の全GPU)、仮想構成要素(たとえば、計算デバイス900専用のGPUの一部分)、又はその組合せを含み得る。
図9の様々なブロックは、線で相互接続システム902を介して接続しているように示されているが、これは制限することを意図されておらず、単に分かりやすくするためである。たとえば、一部の実施例では、表示デバイスなどの提示構成要素918は、I/O構成要素914と考えられ得る(たとえば、ディスプレイがタッチ・スクリーンである場合)。別の実例として、CPU906及び/又はGPU908はメモリを含み得る(たとえば、メモリ904は、GPU908、CPU906、及び/又は他の構成要素のメモリに加えた記憶デバイスを表し得る)。言い換えれば、図9の計算デバイスは、単に例示である。「ワークステーション」、「サーバ」、「ラップトップ」、「デスクトップ」、「タブレット」、「クライアント・デバイス」、「モバイル・デバイス」、「ハンドヘルド・デバイス」、「ゲーム機」、「電子制御ユニット(ECU:electronic control unit)」、「仮想現実システム」、及び/又は他のデバイス若しくはシステム・タイプなどのカテゴリはすべて、図9の計算デバイスの範囲内にあることが意図されているので、これらは区別されない。
相互接続システム902は、1個又は複数のリンク又はバス、たとえば、アドレス・バス、データ・バス、制御バス、又はその組合せ、を表し得る。相互接続システム902は、1個又は複数のバス又はリンク・タイプ、たとえば、業界標準アーキテクチャ(ISA:industry standard architecture)バス、拡張業界標準アーキテクチャ(EISA:extended industry standard architecture)バス、VESA(video electronics standards association)バス、周辺構成要素相互接続(PCI:peripheral component interconnect)バス、周辺構成要素相互接続エクスプレス(PCIe:peripheral component interconnect express)バス、及び/又は別のタイプのバス若しくはリンク、を含み得る。一部の実施例では、構成要素の間に直接接続が存在する。一実例として、CPU906は、メモリ904に直接接続され得る。さらに、CPU906は、GPU908に直接接続され得る。構成要素の間に直接、又はポイント対ポイント接続が存在する場合、相互接続システム902は、接続を実施するためのPCIeリンクを含み得る。これらの実例では、PCIバスは、計算デバイス900に含まれる必要はない。
メモリ904は、様々なコンピュータ可読媒体のいずれかを含み得る。コンピュータ可読媒体は、計算デバイス900によってアクセスすることができる任意の利用可能な媒体でもよい。コンピュータ可読媒体は、揮発性及び不揮発性媒体の両方、及び取り外し可能な及び取り外し不可能な媒体を含み得る。例として、しかし限定ではなく、コンピュータ可読媒体は、コンピュータ記憶媒体及び通信媒体を備え得る。
コンピュータ記憶媒体は、コンピュータ可読命令、データ構造体、プログラム・モジュール、及び/又は他のデータ・タイプなどの情報の記憶のための任意の方法又は技術において実装された揮発性及び不揮発性媒体及び/又は取り外し可能な及び取り外し不可能な媒体の両方を含み得る。たとえば、メモリ904は、オペレーティング・システムなど、(たとえば、プログラム及び/又はプログラム要素を表す)コンピュータ可読命令を記憶することができる。コンピュータ記憶媒体は、RAM、ROM、EEPROM、フラッシュメモリ又は他のメモリ技術、CD-ROM、デジタル多用途ディスク(DVD:digital versatile disk)又は他の光ディスク・ストレージ、磁気カセット、磁気テープ、磁気ディスク・ストレージ又は他の磁気記憶デバイス、或いは、所望の情報を記憶するために使用し得る及び計算デバイス900によってアクセスし得る任意の他の媒体を含み得るが、これらに限定されない。本明細書では、コンピュータ記憶媒体は、信号自体を含まない。
コンピュータ記憶媒体は、搬送波などの変調データ信号又は他の移送機構においてコンピュータ可読命令、データ構造体、プログラム・モジュール、及び/又は他のデータ・タイプを実施することができ、任意の情報配信媒体を含む。「変調データ信号」という用語は、その特性セットのうちの1個又は複数を有する或いは信号内の情報をエンコードするような方式で変化した信号を指し得る。例として、しかし限定せず、コンピュータ記憶媒体は、ワイヤード・ネットワーク又は直接ワイヤード接続などのワイヤード媒体と、音響、RF、赤外線及び他のワイヤレス媒体などのワイヤレス媒体とを含み得る。前述のいずれかの組合せもまた、コンピュータ可読媒体の範囲に含まれるべきである。
CPU906は、コンピュータ可読命令のうちの少なくともいくつかを実行して計算デバイス900の1個又は複数の構成要素を制御して本明細書に記載の方法及び/又はプロセスのうちの1個又は複数を実行するように構成され得る。CPU906は、多数のソフトウェア・スレッドを同時に処理する能力を有する1個又は複数の(たとえば、1個、2個、4個、8個、28個、72個などの)コアをそれぞれ含み得る。CPU906は、任意のタイプのプロセッサを含み得、実装された計算デバイス900のタイプに応じて、異なるタイプのプロセッサを含み得る(たとえば、モバイル・デバイスのためのより少数のコアを有するプロセッサ、及びサーバのためのより多数のコアを有するプロセッサ)。たとえば、計算デバイス900のタイプに応じて、プロセッサは、縮小命令セット計算(RISC:Reduced Instruction Set Computing)を使用して実装されたAdvanced RISC Machines(ARM)プロセッサ、又は複合命令セット計算(CISC:Complex Instruction Set Computing)を使用して実装されたx86プロセッサでもよい。計算デバイス900は、計算コプロセッサなど、1個又は複数のマイクロプロセッサ又は補助コプロセッサ内の1個又は複数のCPU906を含み得る。
CPU906に加えて又はその代わりに、GPU908は、コンピュータ可読命令のうちの少なくともいくつかを実行して計算デバイス900の1個又は複数の構成要素を制御して本明細書に記載の方法及び/又はプロセスのうちの1個又は複数を実行するように構成され得る。GPU908のうちの1個若しくは複数は、統合されたGPU(たとえば、CPU906のうちの1個又は複数とでもよく、及び/又はGPU908のうちの1個若しくは複数は、離散GPUでもよい。実施例では、GPU908のうちの1個又は複数は、CPU906のうちの1個又は複数のコプロセッサでもよい。GPU908は、グラフィックス(たとえば、3Dグラフィックス)をレンダリングする又は汎用計算を実行するために、計算デバイス900によって使用され得る。たとえば、GPU908は、GPUによる汎用計算(GPGPU:General-Purpose computing on GPU)のために使用され得る。GPU908は、同時に数百又は数千のソフトウェア・スレッドを処理する能力を有する数百又は数千のコアを含み得る。GPU908は、レンダリング・コマンド(たとえば、ホスト・インターフェースを介して受信されたCPU906からのレンダリング・コマンド)に応答して、出力画像のための画素データを生成することができる。GPU908は、画素データ又は任意の他の適切なデータ、たとえばGPGPUデータ、を記憶するためのグラフィックス・メモリ、たとえば表示メモリ、を含み得る。表示メモリは、メモリ904の一部として含まれ得る。GPU908は、並行して動作する(たとえば、リンクを介して)2個以上のGPUを含み得る。リンクは、GPUに直接接続することができ(たとえば、NVLINKを使用して)、又はスイッチを介して(たとえば、NVSwitchを使用して)GPUを接続することができる。ともに結合されるとき、各GPU908は、出力の異なる部分の又は異なる出力の画素データ又はGPGPUデータ(たとえば、第1の画像の第1のGPU及び第2の画像の第2のGPU)を生成することができる。各GPUは、独自のメモリを含むことができ、又は他のGPUとメモリを共有することができる。
CPU906及び/又はGPU908に加えて又はその代わりに、論理ユニット920は、コンピュータ可読命令のうちの少なくともいくつかを実行して計算デバイス900のうちの1個又は複数を制御して本明細書に記載の方法及び/又はプロセスのうちの1個又は複数を実行するように構成され得る。実施例では、CPU906、GPU908、及び/又は論理ユニット920は、方法、プロセス及び/又はその部分の任意の組合せを離散的に又は合同で実行することができる。論理ユニット920のうちの1個若しくは複数は、CPU906及び/若しくはGPU908のうちの1個若しくは複数の一部でもよく及び/又はそこで統合されてもよく、及び/又は、論理ユニット920のうちの1個若しくは複数は、CPU906及び/若しくはGPU908に対する離散構成要素であっても若しくは他の方法でそれらの外部にあってもよい。実施例では、論理ユニット920のうちの1個又は複数は、CPU906のうちの1個若しくは複数及び/又はGPU908のうちの1個若しくは複数のコプロセッサでもよい。
論理ユニット920の実例は、1個又は複数の処理コア及び/又はその構成要素、たとえば、テンソル・コア(TC:Tensor Core)、テンソル処理ユニット(TPU:Tensor Processing Unit)、画素ビジュアル・コア(PVC:Pixel Visual Core)、ビジョン処理ユニット(VPU:Vision Processing Unit)、グラフィックス処理クラスタ(GPC:Graphics Processing Cluster)、テクスチャ処理クラスタ(TPC:Texture Processing Cluster)、ストリーミング・マルチプロセッサ(SM:Streaming Multiprocessor)、木の走査ユニット(TTU:Tree Traversal Unit)、人工知能加速装置(AIA:Artificial Intelligence Accelerator)、深層学習加速装置(DLA:Deep Learning Accelerator)、論理演算ユニット(ALU)、特定用途向け集積回路(ASIC)、浮動小数点演算ユニット(FPU)、入力/出力(I/O)エレメント、周辺構成要素相互接続(PCI)又は周辺構成要素相互接続エクスプレス(PCIe)エレメント、及び/又は同類のもの、を含む。
通信インターフェース910は、ワイヤード及び/又はワイヤレス通信を含む、電子通信ネットワークを介して計算デバイス900が他の計算デバイスと通信することを可能にする、1個又は複数のレシーバ、トランスミッタ、及び/又はトランシーバを含み得る。通信インターフェース910は、ワイヤレス・ネットワーク(たとえば、Wi-Fi、Z-Wave、ブルートゥース(登録商標)、ブルートゥース(登録商標)LE、ZigBeeなど)、ワイヤード・ネットワーク(たとえば、イーサネット(登録商標)又はInfiniBandを介して通信すること)、低電力ワイド・エリア・ネットワーク(たとえば、LoRaWAN、SigFoxなど)、及び/又はインターネットなどの、いくつかの異なるネットワークのうちのいずれかを介する通信を可能にするための構成要素及び機能を含み得る。
I/Oポート912は、そのうちのいくつかは計算デバイス900に内蔵(たとえば、統合)され得る、I/O構成要素914、提示構成要素918、及び/又は他の構成要素を含む、他のデバイスに計算デバイス900が論理的に連結されることを可能にすることができる。例示的なI/O構成要素914は、マイクロフォン、マウス、キーボード、ジョイスティック、ゲーム・パッド、ゲーム・コントローラ、サテライト・ディッシュ、スキャナ、プリンタ、ワイヤレス・デバイスなどを含む。I/O構成要素914は、エア・ジェスチャ、音声、又は、ユーザによって生成される他の生理的入力を処理する自然ユーザ・インターフェース(NUI:natural user interface)を提供することができる。場合によっては、入力は、さらなる処理のための適切なネットワーク要素に送信され得る。NUIは、音声認識、スタイラス認識、顔認識、生体認識、画面上での及び画面の隣でのジェスチャ認識、エア・ジェスチャ、頭部及び視標追跡、並びに計算デバイス900のディスプレイに関連するタッチ認識(さらに詳しく後述するような)の任意の組合せを実装し得る。計算デバイス900は、ジェスチャ検出及び認識のための、ステレオスコープ・カメラ・システム、赤外線カメラ・システム、RGBカメラ・システム、タッチ画面技術、及びこれらの組合せなど、深度カメラを含み得る。追加で、計算デバイス900は、動きの検出を可能にする加速度計又はジャイロスコープを含み得る(たとえば、慣性測定ユニット(IMU:inertia measurement unit)の一部として)。いくつかの実例では、加速度計又はジャイロスコープの出力は、没入型拡張現実又は仮想現実をレンダリングするために、計算デバイス900によって使用され得る。
電力供給装置916は、ハードワイヤード電力供給装置、バッテリ電力供給装置、又はその組合せを含み得る。電力供給装置916は、計算デバイス900の構成要素が動作することを可能にするために計算デバイス900に電力を提供することができる。
提示構成要素918は、ディスプレイ(たとえば、モニタ、タッチ画面、テレビジョン画面、ヘッドアップ表示装置(HUD)、他のディスプレイタイプ、又はその組合せ)、スピーカ、及び/又は他の提示構成要素を含み得る。提示構成要素918は、他の構成要素(たとえば、GPU908、CPU906など)からデータを受信し、データを(たとえば、画像、ビデオ、音響などとして)出力することができる。
例示的データ・センタ
図10は、本開示の少なくとも1個の実施例において使用され得る例示的データ・センタ1000を示す。データ・センタ1000は、データ・センタ・インフラストラクチャ層1010、フレームワーク層1020、ソフトウェア層1030、及び/又はアプリケーション層1040を含み得る。
図10に示すように、データ・センタ・インフラストラクチャ層1010は、資源オーケストレータ1012、グループ化された計算資源1014、及びノード計算資源(「ノードC.R.」)1016(1)~1016(N)を含み得、そこで、「N」は、任意の整数の、自然数を表す。少なくとも1個の実施例において、ノードC.R.1016(1)~1016(N)は、任意の数の中央処理装置(「CPU」)又は他のプロセッサ(加速装置、フィールド・プログラマブル・ゲート・アレイ(FPGA)、グラフィックス・プロセッサ若しくはグラフィックス・プロセッシング・ユニット(GPU)などを含む)、メモリ・デバイス(たとえば、動的リード・オンリ・メモリ)、記憶デバイス(たとえば、ソリッド・ステート若しくはディスク・ドライブ)、ネットワーク入力/出力(「NW I/O」)デバイス、ネットワーク・スイッチ、仮想マシン(「VM」)、電力モジュール、及び/又は冷却モジュールなどを含み得るが、これらに限定されない。いくつかの実施例において、ノードC.R.1016(1)~1016(N)のうちの1個又は複数のノードC.R.は、前述の計算資源のうちの1個又は複数を有するサーバに対応し得る。加えて、いくつかの実施例において、ノードC.R.1016(1)~10161(N)は、1個若しくは複数の仮想構成要素、たとえば、vGPU、vCPU、及び/若しくは同類のもの、を含み得る、並びに/又は、ノードC.R.1016(1)~1016(N)のうちの1個若しくは複数は、仮想マシン(VM)に対応し得る。
少なくとも1個の実施例において、グループ化された計算資源1014は、1個又は複数のラック(図示せず)内に収容された別個のグループのノードC.R.1016、或いは様々な地理的場所(やはり図示せず)にあるデータ・センタに収容された多数のラックを含み得る。グループ化された計算資源1014内の別個のグループのノードC.R.1016は、1個又は複数のワークロードをサポートするように構成する又は割り当てることができる、グループ化された計算、ネットワーク、メモリ又はストレージ資源を含み得る。少なくとも1個の実施例において、CPU、GPU、及び/又は他のプロセッサを含むいくつかのノードC.R.1016は、1個又は複数のワークロードをサポートするための計算資源を提供するために、1個又は複数のラック内にグループ化され得る。1個又は複数のラックはまた、任意の組合せで、任意の数の電力モジュール、冷却モジュール、及び/又はネットワーク・スイッチを含み得る。
資源オーケストレータ1022は、1個若しくは複数のノードC.R.1016(1)~1016(N)及び/又はグループ化された計算資源1014を構成又は他の方法で制御することができる。少なくとも1個の実施例において、資源オーケストレータ1022は、データ・センタ1000のソフトウェア設計インフラストラクチャ(「SDI」)管理エンティティを含み得る。資源オーケストレータ1022は、ハードウェア、ソフトウェア、又はその何らかの組合せを含み得る。
少なくとも1個の実施例において、図10に示すように、フレームワーク層1020は、ジョブ・スケジューラ1032、構成マネージャ1034、資源マネージャ1036、及び/又は分散型ファイル・システム1038を含み得る。フレームワーク層1020は、ソフトウェア層1030のソフトウェア1032及び/又はアプリケーション層1040の1個若しくは複数のアプリケーション1042をサポートするためにフレームワークを含み得る。ソフトウェア1032又はアプリケーション1042は、ウェブベースのサービス・ソフトウェア又はアプリケーション、たとえば、アマゾン・ウェブ・サービス、グーグル・クラウド及びMicrosoft Azureによって提供されるもの、をそれぞれ含み得る。フレームワーク層1020は、大規模データ処理(たとえば、「ビッグ・データ」)のための分散型ファイル・システム1038を使用し得るApache Spark(商標)(以下「Spark」)などのフリー及びオープン・ソース・ソフトウェア・ウェブ・アプリケーション・フレームワークのタイプでもよいが、これに限定されない。少なくとも1個の実施例において、ジョブ・スケジューラ1032は、データ・センタ1000の様々な層によってサポートされるワークロードのスケジューリングを容易にするために、Sparkドライバを含み得る。構成マネージャ1034は、異なる層、たとえば、ソフトウェア層1030と、大規模データ処理をサポートするためのSpark及び分散型ファイル・システム1038を含むフレームワーク層1020、を構成する能力を有し得る。資源マネージャ1036は、分散型ファイル・システム1038及びジョブ・スケジューラ1032のサポートのためにマップされた又は割り当てられたクラスタ化された又はグループ化された計算資源を管理する能力を有し得る。少なくとも1個の実施例において、クラスタ化された又はグループ化された計算資源は、データ・センタ・インフラストラクチャ層1010にグループ化された計算資源714を含み得る。資源マネージャ1036は、資源オーケストレータ1012と調整して、これらのマップされた又は割り当てられた計算資源を管理することができる。
少なくとも1個の実施例において、ソフトウェア層1030に含まれるソフトウェア1032は、ノードC.R.1016(1)~1016(N)の少なくとも部分、グループ化された計算資源1014、及び/又はフレームワーク層1020の分散型ファイル・システム1038によって使用されるソフトウェアを含み得る。1個又は複数のタイプのソフトウェアは、インターネット・ウェブ・ページ検索ソフトウェア、電子メール・ウイルス・スキャン・ソフトウェア、データベース・ソフトウェア、及びストリーミング・ビデオ・コンテンツ・ソフトウェアを含み得るが、これらに限定されない。
少なくとも1個の実施例において、アプリケーション層1040に含まれるアプリケーション1042は、ノードC.R.1016(1)~1016(N)の少なくとも部分、グループ化された計算資源1014、及び/又はフレームワーク層1020の分散型ファイル・システム1038によって使用される1個又は複数のタイプのアプリケーションを含み得る。1個又は複数のタイプのアプリケーションは、任意の数のゲノミクス・アプリケーション、認知計算、並びに、トレーニング若しくは推論ソフトウェア、マシン学習フレームワーク・ソフトウェア(たとえば、PyTorch、TensorFlow、Caffeなど)、及び/又は1個若しくは複数の実施例と併せて使用される他のマシン学習アプリケーションを含む、マシン学習アプリケーションを含み得るが、これらに限定されない。
少なくとも1個の実施例において、構成マネージャ1034、資源マネージャ1036、及び資源オーケストレータ1012のうちのいずれかは、任意の技術的に可能な方式で取得される任意の量及びタイプのデータに基づいて任意の数及びタイプの自己書換え型アクションを実装することができる。自己書換え型アクションは、よくない可能性のある構成決定を行うこと並びにデータ・センタの十分に活用されていない及び/又は実行の不十分な部分を恐らく回避することからデータ・センタ1000のデータ・センタ・オペレータを解放し得る。
データ・センタ1000は、1個又は複数のマシン学習モデルをトレーニングする或いは本明細書に記載の1個又は複数の実施例による1個又は複数のマシン学習モデルを使用して情報を予測する又は推論するために、ツール、サービス、ソフトウェア或いは他の資源を含み得る。たとえば、マシン学習モデルは、データ・センタ1000に関して前述されたソフトウェア及び/又は計算資源を使用するニューラル・ネットワーク・アーキテクチャによる重量パラメータの計算によって、トレーニングされ得る。少なくとも1個の実施例において、1個又は複数のニューラル・ネットワークに対応するトレーニングされた又は配備されたマシン学習モデルは、たとえば、本明細書に記載のものに限定されない、1個又は複数のトレーニング技法を介して計算された重量パラメータを使用することによって、データ・センタ1000に関して前述された資源を使用して情報を推論又は予測するために使用され得る。
少なくとも1個の実施例において、データ・センタ1000は、前述の資源を使用するトレーニング及び/又は推論の実行のために、CPU、特定用途向け集積回路(ASIC)、GPU、FPGA、及び/又は他のハードウェア(若しくはそれに対応する仮想計算資源)を使用することができる。さらに、前述の1個又は複数のソフトウェア及び/又はハードウェア資源は、情報の推論をユーザがトレーニング又は実行することを可能にするためのサービス、たとえば、画像認識、音声認識、又は他の人工知能サービス、として構成され得る。
例示的ネットワーク環境
本開示の実施例の実装において使用するのに適したネットワーク環境は、1個若しくは複数のクライアント・デバイス、サーバ、ネットワーク接続型ストレージ(NAS:network attached storage)、他のバックエンド・デバイス、及び/又は他のデバイス・タイプを含み得る。クライアント・デバイス、サーバ、及び/又は他のデバイス・タイプ(たとえば、各デバイス)は、図9の計算デバイス900の1個又は複数のインスタンスで実装され得る- たとえば、各デバイスは、計算デバイス900の類似の構成要素、特徴、及び/又は機能性を含み得る。加えて、バックエンド・デバイス(たとえば、サーバ、NASなど)が、実装される場合、バックエンド・デバイスは、データ・センタ1000の一部として含まれ得、その実例は、図10に関して本明細書でさらに詳述される。
ネットワーク環境の構成要素は、ワイヤード、ワイヤレス、又はその両方でもよい、ネットワークを介して互いに通信し得る。ネットワークは、複数のネットワーク、又はネットワークのネットワークを含み得る。実例として、ネットワークは、1個若しくは複数のワイド・エリア・ネットワーク(WAN)、1個若しくは複数のローカル・エリア・ネットワーク(LAN)、1個若しくは複数のパブリック・ネットワーク、たとえば、インターネット及び/若しくは公衆交換電話網(PSTN)、並びに/又は1個若しくは複数のプライベート・ネットワークを含み得る。ネットワークが、ワイヤレス電気通信ネットワークを含む場合、構成要素、たとえば、基地局、通信塔、或いはアクセス・ポイント(並びに他の構成要素)、は、ワイヤレス接続を提供し得る。
互換性のあるネットワーク環境は、1個又は複数のピア・ツー・ピア・ネットワーク環境- その場合、サーバはネットワーク環境に含まれないことがある- と、1個又は複数のクライアント・サーバ・ネットワーク環境- その場合、1個又は複数のサーバがネットワーク環境に含まれ得る- とを含み得る。ピア・ツー・ピア・ネットワーク環境では、サーバに関して本明細書に記載した機能性は、任意の数のクライアント・デバイスで実装され得る。
少なくとも1個の実施例において、ネットワーク環境は、1個又は複数のクラウドベースのネットワーク環境、分散型計算環境、その組合せなどを含み得る。クラウドベースのネットワーク環境は、フレームワーク層、ジョブ・スケジューラ、資源マネージャ、並びに、1個若しくは複数のコア・ネットワーク・サーバ及び/又はエッジ・サーバを含み得る、サーバのうちの1個又は複数で実装された分散型ファイル・システムを含み得る。フレームワーク層は、ソフトウェア層のソフトウェア及び/又はアプリケーション層の1個若しくは複数のアプリケーションをサポートするために、フレームワークを含み得る。ソフトウェア又はアプリケーションは、それぞれ、ウェブベースのサービス・ソフトウェア又はアプリケーションを含み得る。実施例において、クライアント・デバイスのうちの1個又は複数は、ウェブベースのサービス・ソフトウェア又はアプリケーションを使用し得る(たとえば、1個又は複数のアプリケーション・プログラミング・インターフェース(API)を介してサービス・ソフトウェア及び/又はアプリケーションにアクセスすることによって)。フレームワーク層は、たとえば大規模データ処理(たとえば、「ビッグ・データ」)のための分散型ファイル・システムを使用し得る、フリー及びオープン・ソース・ソフトウェア・ウェブ・アプリケーション・フレームワークのタイプでもよいが、これに限定されない。
クラウドベースのネットワーク環境は、本明細書に記載の計算及び/又はデータ・ストレージ機能(又は1個若しくは複数のその部分)の任意の組合せを実施するクラウド計算及び/又はクラウド・ストレージを提供し得る。これらの様々な機能のいずれも、セントラル又はコア・サーバ(たとえば、州、領域、国、世界にわたって分散され得る1個又は複数のデータ・センタなどの)から複数の場所に分散され得る。ユーザ(たとえば、クライアント・デバイス)への接続が、エッジ・サーバに比較的近い場合、コア・サーバは、機能性の少なくとも一部分をエッジ・サーバに任じ得る。クラウドベースのネットワーク環境は、プライベート(たとえば、単一の組織に制限される)でもよく、パブリック(たとえば、多数の組織に利用可能)、及び/又はその組合せ(たとえば、ハイブリッド・クラウド環境)でもよい。
クライアント・デバイスは、図9に関して本明細書に記載の例示的計算デバイス900の構成要素、特徴、及び機能性のうちの少なくともいくつかを含み得る。実例として、及び制限ではなく、クライアント・デバイスは、パーソナル・コンピュータ(PC)、ラップトップ・コンピュータ、モバイル・デバイス、スマートフォン、タブレット・コンピュータ、スマート・ウォッチ、ウェアラブル・コンピュータ、パーソナル・デジタル・アシスタント(PDA)、MP3プレイヤ、仮想現実ヘッドセット、全地球測位システム(GPS)又はデバイス、ビデオ・プレイヤ、ビデオカメラ、監視デバイス又はシステム、車両、ボート、飛行船、仮想マシン、ドローン、ロボット、ハンドヘルド通信デバイス、病院デバイス、ゲーミング・デバイス又はシステム、娯楽システム、車両コンピュータ・システム、組み込み型システム・コントローラ、リモート制御、器具、民生用電子デバイス、ワークステーション、エッジ・デバイス、これらの描写されたデバイスの任意の組合せ、或いは任意の他の適切なデバイスとして実施され得る。
本開示は、コンピュータ又は、携帯情報端末若しくは他のハンドヘルド・デバイスなどの、他のマシンによって実行されている、プログラム・モジュールなどのコンピュータ実行可能命令を含む、コンピュータ・コード又はマシン使用可能命令との一般的関連において説明されることがある。一般に、ルーティン、プログラム、オブジェクト、構成要素、データ構造体などを含むプログラム・モジュールは、特定のタスクを実行する又は特定の抽象データ・タイプを実装するコードを指す。本開示は、ハンドヘルド・デバイス、家電製品、汎用コンピュータ、より特殊な計算デバイスなどを含む、様々な構成で実施され得る。本開示はまた、通信ネットワークを介してリンクされた遠隔処理デバイスによってタスクが実行される分散型コンピューティング環境において実施され得る。
本明細書では、2個以上の要素に関する「及び/又は」の記述は、1個の要素のみ、又は要素の組合せを意味すると解釈されるべきである。たとえば、「要素A、要素B、及び/又は要素C」は、要素Aのみ、要素Bのみ、要素Cのみ、要素A及び要素B、要素A及び要素C、要素B及び要素C、或いは、要素A、B、及びCを含み得る。加えて、「要素A又は要素Bのうちの少なくとも1個」は、要素Aの少なくとも1個、要素Bの少なくとも1個、或いは、要素Aの少なくとも1個及び要素Bの少なくとも1個を含み得る。さらに、「要素A及び要素Bのうちの少なくとも1個」は、要素Aのうちの少なくとも1個、要素Bのうちの少なくとも1個、或いは、要素Aのうちの少なくとも1個及び要素Bのうちの少なくとも1個を含み得る。
本開示の主題は、法定の要件を満たすために特異性を有して記述されている。しかしながら、その記述自体が本開示の範囲を制限することは意図されていない。そうではなくて、本発明者は、請求されている主題が、他の現在の又は未来の技術と併せて、異なるステップ又は本文書に記載されたものと類似のステップの組合せを含むように、他の形で実施され得ることを意図している。さらに、「ステップ」及び/又は「ブロック」という用語は、使用される方法の異なる要素を含意するように本明細書で使用され得るが、これらの用語は、個別のステップの順番が明示的に記載されていない限り及びそのように記載されているときを除いて本明細書で開示される様々なステップの間に何らかの特定の順番を暗示するものとして解釈されるべきではない。

Claims (20)

  1. 自律マシンの軌道を選択する方法であって、前記自律マシンの潜在的な未来の位置の第1の一連の時間報酬を含む車線グラフを生成するステップと、前記自律マシンが自律マシン・アクションを完了することを可能にする複数の可能な軌道を生成するステップと、入力として前記第1の一連の時間報酬を使用して前記可能な軌道の最適化尺度を生成するステップと、前記最適化尺度を使用して実装のための軌道を選択するステップと、前記自律マシンを使用して前記軌道を実装するステップとを含む、方法。
  2. 入力として第1の地理的エリアの地理的データ・セットを使用して始点とルート目的地との間のルートを選択するステップをさらに含む、請求項1に記載の方法。
  3. 前記第1の一連の時間報酬が、前記第1の地理的エリアより小さい第2の地理的エリアの車線情報を使用して計算される一連の順次的時間報酬を含む、請求項2に記載の方法。
  4. 前記複数の可能な軌道が、前記第2の地理的エリアより小さい第3の地理的エリアの詳細な車線情報を使用して生成される、請求項3に記載の方法。
  5. 前記第1の一連の時間報酬が、前記自律マシンでセンサによって検出される物体を表すローカル世界モデルからの場面情報なしに計算される、請求項3に記載の方法。
  6. 前記自律マシンでセンサによって検出される物体の予測される未来の物***置を含む場面予測を生成するステップを含む、請求項1に記載の方法。
  7. 前記自律マシン・アクションが、入力として前記第1の一連の時間報酬を使用して選択される、請求項1に記載の方法。
  8. 前記車線グラフが、ルートの第2の車線上の前記自律マシンの潜在的な未来の位置の第2の一連の時間報酬を含む、請求項1に記載の方法。
  9. 自律マシンの軌道を選択する方法であって、前記自律マシンに対応する1つ又は複数のセンサによって検出された物体の予測される未来の物***置を含む場面予測を生成するステップと、自律マシン・アクションのための複数の可能な軌道を生成するステップであって、前記複数の可能な軌道が、前記自律マシン・アクションに対応する公称横方向レール内の複数の縦方向条件及び横方向条件を有する、ステップと、前記場面予測及び前記自律マシンの複数の潜在的な未来の位置に対応する第1の一連の時間報酬を使用して前記複数の可能な軌道を評価して、前記複数の可能な軌道の最適化尺度を生成するステップと、評価のための追加の軌道を生成するために使用される開始パラメータ・セットの軌道を、前記最適化尺度を使用して選択するステップと、前記最適化尺度を使用して前記追加の軌道から個々の軌道を選択するステップと、前記自律マシンの前記個々の軌道を実装するステップとを含む、方法。
  10. 前記場面予測を使用して前記自律マシン・アクションの縦方向制限を生成する、請求項9に記載の方法。
  11. 詳細なプランニングのための追加の自律マシン・アクションを選択するステップと、前記追加の自律マシン・アクションの追加の複数の軌道を生成するステップと、前記追加の軌道の前記最適化尺度を生成するために、前記場面予測及び前記第1の一連の時間報酬を使用して前記追加の複数の軌道において前記追加の軌道を評価するステップとをさらに含む、請求項9に記載の方法。
  12. 前記自律マシン・アクションの前記選択が、選択入力データとして車線グラフを使用して実行される、請求項9に記載の方法。
  13. 入力として第1の地理的エリアの地理的データ・セットを使用して始点とルート目的地との間のルートを選択するステップをさらに含む、請求項9に記載の方法。
  14. 前記第1の一連の時間報酬が、前記第1の地理的エリアより小さい第2の地理的エリアの車線情報を使用して計算される、請求項13に記載の方法。
  15. 前記第1の一連の時間報酬が、前記自律マシンの潜在的な未来の位置の第2の一連の順次的時間報酬を含む注釈付き車線グラフに対応する、請求項9に記載の方法。
  16. 前記第1の一連の時間報酬が、前記自律マシンで前記1つ又は複数のセンサによって検出される物体を表すローカル世界モデルからの場面情報なしに計算される、請求項9に記載の方法。
  17. 自律マシン・アクションのための複数の可能な軌道を生成することであって、前記複数の可能な軌道が複数の縦方向条件及び複数の横方向条件を有する、生成することと、場面予測を使用して前記複数の可能な軌道内の軌道を評価して、前記軌道の最適化尺度を生成することと、前記最適化尺度を使用して前記複数の可能な軌道から個々の軌道を選択することと、自律マシンの前記個々の軌道を実装することとを行うための1つ又は複数の処理ユニットを備え、前記複数の縦方向条件が、前記場面予測に少なくとも基づき、前記複数の横方向条件が、前記自律マシンの進行方向に対応する公称レールに少なくとも基づく、プロセッサ。
  18. 前記1つ又は複数の処理ユニットがさらに、前記自律マシンの前記進行方向の第1の車線上の前記自律マシンの潜在的な未来の位置の第1の一連の時間報酬を含む注釈付き車線グラフを生成するためのものであり、個々の時間報酬が、ルート目的地までの移動時間を表す、請求項17に記載のプロセッサ。
  19. 前記1つ又は複数の処理ユニットがさらに、評価のための追加の軌道を生成するために使用される開始パラメータ・セットの軌道を、前記最適化尺度を使用して選択することと、前記場面予測を使用して前記追加の軌道を評価して、前記追加の軌道の前記最適化尺度を生成することとを行うためのものである、請求項17に記載のプロセッサ。
  20. 前記追加の軌道が、前記複数の可能な軌道において見つからない新しい複数の縦方向条件及び横方向条件の組合せを含む、請求項19に記載のプロセッサ。
JP2022525030A 2020-02-19 2021-02-18 自律型車両のためのビヘイビア・プランニング Pending JP2023514905A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202062978309P 2020-02-19 2020-02-19
US62/978,309 2020-02-19
US17/178,464 2021-02-18
US17/178,464 US11981349B2 (en) 2020-02-19 2021-02-18 Behavior planning for autonomous vehicles
PCT/US2021/018488 WO2021168058A1 (en) 2020-02-19 2021-02-18 Behavior planning for autonomous vehicles

Publications (1)

Publication Number Publication Date
JP2023514905A true JP2023514905A (ja) 2023-04-12

Family

ID=77272430

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022525030A Pending JP2023514905A (ja) 2020-02-19 2021-02-18 自律型車両のためのビヘイビア・プランニング

Country Status (5)

Country Link
US (1) US11981349B2 (ja)
JP (1) JP2023514905A (ja)
CN (1) CN115175841A (ja)
DE (1) DE112021000216T5 (ja)
WO (1) WO2021168058A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7468496B2 (ja) 2021-11-30 2024-04-16 トヨタ自動車株式会社 運動マネージャ、自動運転装置、制御システム、車両、車両の制御方法およびプログラム

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113654561A (zh) * 2014-12-05 2021-11-16 苹果公司 自主导航***
JP6939376B2 (ja) * 2017-10-10 2021-09-22 トヨタ自動車株式会社 自動運転システム
DE102017218222A1 (de) * 2017-10-12 2019-04-18 Continental Automotive Gmbh Bestimmung der Position eines späteren Haltepunktes eines Fahrzeugs
US11130497B2 (en) 2017-12-18 2021-09-28 Plusai Limited Method and system for ensemble vehicle control prediction in autonomous driving vehicles
US20190185012A1 (en) 2017-12-18 2019-06-20 PlusAI Corp Method and system for personalized motion planning in autonomous driving vehicles
NL2020480B1 (en) * 2018-02-22 2019-08-29 Hardt Ip B V Method of controlling a direction of a trajectory of a vehicle
US11460848B1 (en) * 2018-12-06 2022-10-04 Waymo Llc Biased trajectory progress metric
EP3671390B1 (en) * 2018-12-21 2021-10-13 Airbus Defence and Space GmbH Method for operating an unmanned aerial vehicle as well as an unmanned aerial vehicle
KR102651410B1 (ko) * 2018-12-28 2024-03-28 현대자동차주식회사 자율 발렛 주차를 지원하는 시스템 및 방법, 그리고 이를 위한 인프라 및 차량
US11685398B2 (en) * 2020-02-27 2023-06-27 Baidu Usa Llc Lane based routing system for autonomous driving vehicles
EP4115347A1 (en) * 2020-03-06 2023-01-11 Embodied Intelligence, Inc. Trajectory optimization using neural networks
WO2021178872A1 (en) * 2020-03-06 2021-09-10 Embodied Intelligence Inc. Trajectory optimization using neural networks
US11961394B2 (en) * 2020-04-01 2024-04-16 Denso International America, Inc. Methods and systems for guiding road users
RU2764479C2 (ru) * 2020-04-23 2022-01-17 Общество с ограниченной ответственностью «Яндекс Беспилотные Технологии» Способ и система для управления работой самоуправляемого автомобиля
US11518393B2 (en) * 2020-07-31 2022-12-06 Uatc, Llc Vehicle trajectory dynamics validation and interpolation
US11710276B1 (en) * 2020-09-21 2023-07-25 Apple Inc. Method and device for improved motion planning
US11866070B2 (en) * 2020-09-28 2024-01-09 Guangzhou Automobile Group Co., Ltd. Vehicle control method and apparatus, storage medium, and electronic device
US11661082B2 (en) * 2020-10-28 2023-05-30 GM Global Technology Operations LLC Forward modeling for behavior control of autonomous vehicles
US11708092B2 (en) * 2020-12-14 2023-07-25 Honda Motor Co., Ltd. Lane selection
US11780470B2 (en) * 2020-12-14 2023-10-10 Honda Motor Co., Ltd. Lane selection
KR20220110977A (ko) * 2021-02-01 2022-08-09 현대모비스 주식회사 긴급차량 양보 시스템 및 그 제어 방법
US11993281B2 (en) * 2021-02-26 2024-05-28 Nissan North America, Inc. Learning in lane-level route planner
US11214271B1 (en) * 2021-03-10 2022-01-04 Aurora Operations, Inc. Control system interface for autonomous vehicle
CN112937608B (zh) * 2021-03-31 2022-06-21 吉林大学 一种基于轨迹预测的冰雪环境无人驾驶车辆一体化滚动决策方法、装置及存储介质
US11945441B2 (en) 2021-03-31 2024-04-02 Nissan North America, Inc. Explainability and interface design for lane-level route planner
WO2022212915A1 (en) 2021-04-01 2022-10-06 Giant.Ai, Inc. Spatio-temporal consistency embeddings from multiple observed modalities
US11625122B2 (en) 2021-04-01 2023-04-11 Sanctuary Cognitive Systems Corporation Combined analog and digital architecture for handling sensory input data
US11478927B1 (en) 2021-04-01 2022-10-25 Giant.Ai, Inc. Hybrid computing architectures with specialized processors to encode/decode latent representations for controlling dynamic mechanical systems
US11635903B2 (en) * 2021-06-15 2023-04-25 International Business Machines Corporation Cloud data migration
US11834076B2 (en) * 2021-06-28 2023-12-05 Waymo Llc Responding to emergency vehicles for autonomous vehicles
US11878706B2 (en) * 2021-08-19 2024-01-23 GM Global Technology Operations LLC Driver command prediction
US11904899B2 (en) * 2021-09-08 2024-02-20 GM Global Technology Operations LLC Limp home mode for an autonomous vehicle using a secondary autonomous sensor system
US11834077B2 (en) * 2021-09-14 2023-12-05 Barry Gilhuly Systems, methods, and media for occlusion-aware motion planning
US20230102443A1 (en) * 2021-09-28 2023-03-30 GM Global Technology Operations LLC Monitoring uncertainty for human-like behavioral modulation of trajectory planning
US20230127576A1 (en) * 2021-10-21 2023-04-27 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for coordinated vehicle lane assignment using reinforcement learning
CN113978259B (zh) * 2021-11-19 2022-10-18 张展浩 一种基于驾驶场景及驾驶习惯的电动汽车制动控制方法
CN114291109B (zh) * 2021-12-17 2023-07-21 广东机电职业技术学院 一种共享驾驶冲突解决方法、***和计算机设备
US12001175B2 (en) * 2021-12-20 2024-06-04 Gm Cruise Holdings Llc Long tail lidar 3-D object detection improvement with targeted simulation data injection
US20230192118A1 (en) * 2021-12-20 2023-06-22 GM Global Technology Operations LLC Automated driving system with desired level of driving aggressiveness
US20230192147A1 (en) * 2021-12-22 2023-06-22 Gm Cruise Holdings Llc Using maps at multiple resolutions and scale for trajectory prediction
US11541910B1 (en) * 2022-01-07 2023-01-03 Plusai, Inc. Methods and apparatus for navigation of an autonomous vehicle based on a location of the autonomous vehicle relative to shouldered objects
US11840257B2 (en) * 2022-03-25 2023-12-12 Embark Trucks Inc. Lane change determination for vehicle on shoulder
CN114670837B (zh) * 2022-04-24 2023-05-16 吉林大学 一种智能汽车类人弯道轨迹双重规划***
GB2618419A (en) * 2022-05-03 2023-11-08 Oxa Autonomy Ltd Controlling an autonomous vehicle
CN116729386B (zh) * 2023-07-07 2023-12-26 清华大学 多交叉路口场景下车辆分层规划和控制方法及装置

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7512487B1 (en) * 2006-11-02 2009-03-31 Google Inc. Adaptive and personalized navigation system
US11630800B2 (en) 2015-05-01 2023-04-18 Nvidia Corporation Programmable vision accelerator
US10379533B2 (en) * 2016-01-04 2019-08-13 GM Global Technology Operations LLC System and method for autonomous vehicle fleet routing
US9645577B1 (en) * 2016-03-23 2017-05-09 nuTonomy Inc. Facilitating vehicle driving and self-driving
CN109791409B (zh) * 2016-09-23 2022-11-29 苹果公司 自主车辆的运动控制决策
US10289469B2 (en) 2016-10-28 2019-05-14 Nvidia Corporation Reliability enhancement utilizing speculative execution systems and methods
US10133275B1 (en) 2017-03-01 2018-11-20 Zoox, Inc. Trajectory generation using temporal logic and tree search
US10518770B2 (en) * 2017-03-14 2019-12-31 Uatc, Llc Hierarchical motion planning for autonomous vehicles
US10761537B1 (en) * 2017-06-02 2020-09-01 Built Robotics Inc. Obstacle detection and manipulation by a vehicle within a dig site
US10621448B2 (en) * 2017-08-02 2020-04-14 Wing Aviation Llc Systems and methods for determining path confidence for unmanned vehicles
EP3695284A4 (en) * 2017-10-10 2021-04-14 The Government of the United States of America, as represented by the Secretary of the Navy PROCESS FOR IDENTIFYING OPTIMAL VEHICLE ROUTES WHEN ENERGY IS A KEY METRIC OR CONSTRAINT
EP3707572B1 (en) * 2017-11-10 2023-08-23 Nvidia Corporation Systems and methods for safe and reliable autonomous vehicles
US10416677B2 (en) * 2017-11-14 2019-09-17 Uber Technologies, Inc. Autonomous vehicle routing using annotated maps
WO2019098002A1 (ja) * 2017-11-20 2019-05-23 ソニー株式会社 情報処理装置、情報処理方法、プログラム、及び移動体
US10678248B2 (en) * 2018-02-15 2020-06-09 GM Global Technology Operations LLC Fast trajectory planning via maneuver pattern selection
US20190286151A1 (en) * 2018-03-14 2019-09-19 GM Global Technology Operations LLC Automated driving systems and control logic for cloud-based scenario planning of autonomous vehicles
US11169528B2 (en) * 2018-05-11 2021-11-09 Uatc, Llc Initial trajectory generator for motion planning system of autonomous vehicles
US10885698B2 (en) 2018-08-10 2021-01-05 Nvidia Corporation Method for programmable timeouts of tree traversal mechanisms in hardware
EP3864574A1 (en) * 2018-10-16 2021-08-18 Five AI Limited Autonomous vehicle planning and prediction
DK201970121A1 (en) * 2018-10-30 2020-06-04 Aptiv Technologies Limited GENERATION OF OPTIMAL TRAJECTORIES FOR NAVIGATION OF VEHICLES
DE102018008624A1 (de) * 2018-10-31 2020-04-30 Trw Automotive Gmbh Steuerungssystem und Steuerungsverfahren zum samplingbasierten Planen möglicher Trajektorien für Kraftfahrzeuge
US11048260B2 (en) * 2018-11-02 2021-06-29 Zoox, Inc. Adaptive scaling in trajectory generation
US11181919B2 (en) * 2018-11-27 2021-11-23 Wipro Limited Method and system for determining an optimal trajectory for navigation of an autonomous vehicle
CN113227927A (zh) * 2018-12-04 2021-08-06 杜克大学 在具有动态对象环境中促进运动规划的设备、方法和物体
US11087173B2 (en) * 2018-12-27 2021-08-10 Beijing Didi Infinity Technology And Development Co., Ltd. Using image pre-processing to generate a machine learning model
US11567514B2 (en) * 2019-02-11 2023-01-31 Tesla, Inc. Autonomous and user controlled vehicle summon to a target
US10809734B2 (en) * 2019-03-13 2020-10-20 Mobile Industrial Robots A/S Route planning in an autonomous device
FR3095042B1 (fr) * 2019-04-12 2021-04-09 Safran Electronics & Defense Procede de definition d’un chemin
US11634126B2 (en) * 2019-06-03 2023-04-25 Realtime Robotics, Inc. Apparatus, methods and articles to facilitate motion planning in environments having dynamic obstacles
US20200387156A1 (en) * 2019-06-06 2020-12-10 Denso International America, Inc. Autonomous Coach Vehicle Learned From Human Coach
US20210048825A1 (en) * 2019-08-13 2021-02-18 GM Global Technology Operations LLC Predictive and reactive field-of-view-based planning for autonomous driving
US11390300B2 (en) * 2019-10-18 2022-07-19 Uatc, Llc Method for using lateral motion to optimize trajectories for autonomous vehicles
US20210197819A1 (en) * 2019-12-31 2021-07-01 Zoox, Inc. Vehicle control to join route
US11755014B2 (en) * 2019-12-31 2023-09-12 Uatc, Llc Jointly learnable behavior and trajectory planning for autonomous vehicles

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7468496B2 (ja) 2021-11-30 2024-04-16 トヨタ自動車株式会社 運動マネージャ、自動運転装置、制御システム、車両、車両の制御方法およびプログラム

Also Published As

Publication number Publication date
DE112021000216T5 (de) 2022-11-03
US11981349B2 (en) 2024-05-14
US20210253128A1 (en) 2021-08-19
CN115175841A (zh) 2022-10-11
WO2021168058A1 (en) 2021-08-26

Similar Documents

Publication Publication Date Title
US11981349B2 (en) Behavior planning for autonomous vehicles
US11884294B2 (en) Lane change planning and control in autonomous machine applications
US20230124848A1 (en) Safety procedure analysis for obstacle avoidance in autonomous vehicles
US11885907B2 (en) Deep neural network for detecting obstacle instances using radar sensors in autonomous machine applications
US11531088B2 (en) Deep neural network for detecting obstacle instances using radar sensors in autonomous machine applications
EP3832341A1 (en) Deep neural network for detecting obstacle instances using radar sensors in autonomous machine applications
JP2023531330A (ja) マシン学習を使用した自律マシン・アプリケーションのためのセンサ融合
JP2023507695A (ja) 自律運転アプリケーションのための3次元交差点構造予測
JP2023548721A (ja) 自律システム及びアプリケーションにおけるビヘイビア予測のためのモデルベースの強化学習
US20220379917A1 (en) Using arrival times and safety procedures in motion planning trajectories for autonomous vehicles
JP2023031237A (ja) 自律マシン・アプリケーションのためのLiDARデータを使用する物体追跡
US20230130814A1 (en) Yield scenario encoding for autonomous systems
US20230049567A1 (en) Deep neural network for detecting obstacle instances using radar sensors in autonomous machine applications
US20230406315A1 (en) Encoding junction information in map data
JP2022132075A (ja) 自律運転アプリケーションにおけるディープ・ニューラル・ネットワーク知覚のためのグラウンド・トゥルース・データ生成
JP2023024276A (ja) 譲るシナリオにおける自律型車両のための行動計画立案
JP2023021910A (ja) 自律マシン・アプリケーションにおける距離画像マッピングのための信念伝搬
CN117581117A (zh) 自主机器***和应用中使用LiDAR数据的动态对象检测
JP2023071168A (ja) 自律マシン・アプリケーションのための粒子ベース危険検出
JP2023135587A (ja) 自律システム及びアプリケーションのための占有グリッドを使用したハザード検出
JP2023133049A (ja) 自律マシンシステム及びアプリケーションのための認知ベースの駐車支援
JP2022117916A (ja) 自律マシン・アプリケーションのための配備されたディープ・ニューラル・ネットワークのパッチ
US20230341234A1 (en) Lane planning architecture for autonomous machine systems and applications
US20240217557A1 (en) Behavior planning for autonomous vehicles in yield scenarios
CN117396926A (zh) 用于自主机器***和应用的基于感知的标志检测和解释

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231130