JP7169328B2 - 自律走行車両ためのニューラル・タスク計画部 - Google Patents
自律走行車両ためのニューラル・タスク計画部 Download PDFInfo
- Publication number
- JP7169328B2 JP7169328B2 JP2020174568A JP2020174568A JP7169328B2 JP 7169328 B2 JP7169328 B2 JP 7169328B2 JP 2020174568 A JP2020174568 A JP 2020174568A JP 2020174568 A JP2020174568 A JP 2020174568A JP 7169328 B2 JP7169328 B2 JP 7169328B2
- Authority
- JP
- Japan
- Prior art keywords
- subtask
- task
- planning
- observation data
- decision model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000001537 neural effect Effects 0.000 title description 15
- 238000000034 method Methods 0.000 claims description 79
- 230000007613 environmental effect Effects 0.000 claims description 47
- 230000033001 locomotion Effects 0.000 claims description 43
- 238000012549 training Methods 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 10
- 239000000284 extract Substances 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 4
- 238000009412 basement excavation Methods 0.000 description 43
- 238000005553 drilling Methods 0.000 description 30
- 230000008569 process Effects 0.000 description 19
- 230000006870 function Effects 0.000 description 15
- 230000013016 learning Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 13
- 238000010276 construction Methods 0.000 description 11
- 238000013459 approach Methods 0.000 description 6
- 238000004088 simulation Methods 0.000 description 6
- 238000003860 storage Methods 0.000 description 6
- 238000000354 decomposition reaction Methods 0.000 description 5
- 239000000463 material Substances 0.000 description 5
- 238000003062 neural network model Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000003542 behavioural effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 230000007704 transition Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000004807 localization Effects 0.000 description 2
- 230000003278 mimic effect Effects 0.000 description 2
- 238000005065 mining Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 239000012636 effector Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
- G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
- G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
- G05B13/027—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W2050/0001—Details of the control system
- B60W2050/0019—Control system elements or transfer functions
- B60W2050/0028—Mathematical models, e.g. for simulation
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/205—Remotely operated machines, e.g. unmanned vehicles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Automation & Control Theory (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Medical Informatics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Human Computer Interaction (AREA)
- Radar, Positioning & Navigation (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Business, Economics & Management (AREA)
- Game Theory and Decision Science (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Remote Sensing (AREA)
- Operation Control Of Excavators (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Image Analysis (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
第2の記録された、環境観察データを含む入力と記録された出力を有する入出力ペア・シーケンスを含むプリミティブ・トレーニング・データセットを用いて、第2のプランニング・コア、プリミティブ・デコーダ、第2の仕様デコーダ、及び、第2の終了デコーダを含むプリミティブ決定モデル(PDM)をトレーニングするステップと、を含み、
SDMのプランニングは、
少なくとも環境観察データに基づき、第1のプランニング・コアを用いて、特徴を抽出することと、
少なくとも環境観察データから抽出された特徴に基づき、サブタスク・デコーダを用いて、予測サブタスクを生成することと、
少なくとも環境観察データから抽出された特徴に基づき、第1の仕様デコーダを用いて、予測サブタスクに対応する第1の予測仕様を生成することと、
少なくとも環境観察データから抽出された特徴に基づき、第1の終了デコーダを用いて、タスクが完了したか否かを示す第1の予測終了ステータスを生成することと、
第1の記録された入出力ペア・シーケンス、予測サブタスク、第1の予測仕様、及び、第1の予測終了ステータスに基づき、第1の損失関数を用いて、SDMをトレーニングすることと、含み、
PDMのプランニングは、
少なくともローカル環境観察データに基づき、第2のプランニング・コアを用いて、特徴を抽出することと、
少なくともローカル環境観察データから抽出された特徴に基づき、プリミティブ・デコーダを用いて、予測プリミティブを生成することと、
少なくともローカル環境観察データから抽出された特徴に基づき、第2の仕様デコーダを用いて、予測プリミティブに対応する第2の予測仕様を生成することと、
第2の終了デコーダを用いて、サブタスクが完了したか否かを示す第2の予測終了ステータスを生成することと、
第2の記録された入出力ペア・シーケンス、予測プリミティブ、第2の予測仕様、及び、第2の予測終了ステータスに基づき、第2の損失関数を用いて、PDMをトレーニングすることと、
TPNの第1のフェーズとしてのトレーニングされたサブSDMと、TPNの第2のフェーズとしてのトレーニングされたPDMと、を組み合わせることによって、トレーニングされたTPNを生成することと、を含む実行方法。
タスク終了ステータスは、タスクが完了したことを示す前、反復は、サブタスク・プランニング・モジュールを呼び出して、グローバル・フレームにおける目標点へのトラックを生成し、目標点に到達した後、SDMに戻ることを含む、モーション・サブタスクとして、サブタスクに応答するステップと、
少なくともローカル実行サブタスクとローカル環境観察データに基づき、PDMを用いて、一つ以上のタスク・プリミティブを生成することと、
一つ以上のタスク・プリミティブを実行し、ローカル環境観察データと環境観察データを更新することと、
ローカル実行サブタスクを完了した後、SDMに戻ることと、を含む、ローカル実行サブタスクとして、サブタスクに応答するステップと、を含む。
環境観察データとタスクをトレーニングされたTPNに入力するステップと、
一つ以上のプリミティブを実行すると、ローカル環境観察データと環境観察データを更新するステップと、
タスク終了ステータスは、サブタスクが完了したことを示す場合、SDMによりタスク・プランニングを終了するステップと、を含み、
トレーニングされたTPNは、
タスクが与えられた場合、環境観察データから特徴を抽出する第1のプランニング・コアと、
第1のプランニング・コアに接続し、少なくとも環境観察データから抽出された特徴に基づき、サブタスクを生成する、サブタスク・デコーダと、
第1のプランニング・コアに接続し、少なくとも環境観察データから抽出された特徴に基づき、サブタスクに対応する仕様を生成する、第1の仕様デコーダと、
第1のプランニング・コアに接続し、少なくとも環境観察データに基づき、タスクが完了したか否かを示すタスク終了ステータスを生成する、第1の終了デコーダと、を含むSDMと、
SDMから出力され、ローカル実行サブタスクであるサブタスクに応答し、少なくともサブタスクに関連するローカル環境観察データを含む入力を用いて、特徴を抽出する、第2のプランニング・コアと、
第2のプランニング・コアに接続し、少なくともローカル環境観察データから抽出された特徴に基づき、一つ以上のプリミティブを生成する、プリミティブ・デコーダと、
第2のプランニング・コアに接続し、少なくともローカル環境観察データから抽出された特徴に基づき、プリミティブに対応する仕様を生成する、第2の仕様デコーダと、
第2のプランニング・コアに接続し、サブタスクが完了したか否かを示すサブタスク終了ステータスを生成する、第2の終了デコーダと、を含むPDMと、を含む、コンピュータ実行方法。
建設車両(例えば、掘削機)は、採鉱、建築、農業などの産業分野で、トレンチ掘削や資材積み込みなどの土木作業に広く用いられており、例えば、自動掘削の解決手段を開発することは傾向になっている。このようなシステムは、人件費の削減と操作の安全性の向上などのメリットがある。一方、近年、自動運転車両に関する広範な研究のおかげで、知覚、位置特定、ナビゲーションのアルゴリズムだけでなく、光検知と測距(LiDAR)やカメラなどのハードウェア・センサも驚くべき進歩を遂げ、完全自動運転の建設車両を製造する可能性を高める。
1.自動掘削機のタスク・プランニング
掘削タスクを与えられ、自動掘削機は、掘削操作シーケンスを生成するための全体掘削戦略をプランニングする必要がある。既存のタスク・プランニングの方法は、主にステータス間のルールに基づく遷移の有限ステータス機械(FSM)を利用する。いくつかの提案では、大量掘削パラメータ化スクリプトと呼ばれる方法が紹介され、この方法は、一連のステップで所望のタスクを記述する。各ステップは、いずれもイベントに基づく遷移のFSMのステータスとして表される。同様に、いくつかの提案では、別のホイールローダ・プランニング・システムを構築する。シミュレーションにおけるホイールローダの操作のための仮想オペレータ・モデルは、環境条件に基づいて制御入力を生成し、ここでは、イベントに基づく有限ステータス機械に関する。
タスク、及び、モーション・プランニング(TAMP)の問題は、ロボット工学においてかなり研究されてきた。従来の方法のほとんどは、タスクの分解ための様々なレベルの推論に関する。TAMPの1つのカテゴリは、タスク・プランニング・フェーズで幾何学的制約を考慮する。いくつかの提案では、幾何学的推論、及び、タスク・プランニングに対処するために、運動学的制約問題が公式化されており、ここでは、目標の幾何学的ステータスを達成するために最適化に基づく方法が導入される。TAMPの別のトピックは、タスクの記号表現を使用したハイレベルな論理の推論に注力しる。いくつかの提案では、プランニングのための記号表現方法を説明し、これは、シンボルがプランニング・エージェントによりもたらされる条件、及び、効果を表すことができることを証明する。いくつかの提案では、サンプリングに基づくTAMPエンコード方法がさらに開発され、記号表現を用いて、ロジックを符号化する。いくつかの提案では、時間論理仕様に基づくモーション・プランニング問題が公式化され、また、タスク・シーケンス・ソートの後ろの論理を明らかにしようとする。
深層学習では、特にニューラル・プログラミングにおける最新の研究成果はタスク・ラーニング問題を解決するための新しい視点を示唆している。これらの方法は、ニューラル・ネットワーク・モデルを開発して、トレーニング・データから基礎シーケンス決定戦略を学習する。ニューラル・プログラミング・インタープリタ(NPI)のニューラル・プログラミングの分野における1つの進歩が紹介された。NPIは、模倣学習を介してトレーニングされたニューラル・ネットワーク・モデルであり、コンピュータ・プログラムの機能を模倣するためである。学習したモデルは、プログラムを再帰的にトリガーし、プログラムを終了し、又は、再帰的に上位レベルのプログラムに戻ることができる。プログラムがタスクとして比較される場合、このような階層レイアウトは掘削タスク計画部と類似点を共有する。一部の研究では、NPIの概念を継承し、それをニューラル・タスク・プログラミング(NTP)に拡張する。これは、タスク・プランニング問題に対してより具体的なものである。NTPは、タスク仕様の分解を細かいサブタスク仕様に明示的に導入し、さらにサブルーチンに導入する。これらのサブルーチンはタスク・ラーニング問題のプリミティブに相当する。NTPは、階層構造を持つ順次タスクに対して強力な汎化機能を示す。
1. 問題の定義
1つ以上の実施形態では、タスク・プランニングの問題は、自動掘削機に用いられると考慮される。いくつかの実施形態は、地形の形状を変更することに関するトレンチ掘削、掘削、および材料再配置などの掘削作業に注力する。1つ以上の実施形態では、
はタスク・ディスクリプションのセットであり、
はすべての環境観察値のセットを表す。関数
は、タスクが完成したか
否か
を表すことに用いられる。設計しようとしているタスク計画部は、そのようなメイン・タスクをサブタスクのシーケンスに分割し、そして、それぞれ仕様を有するタスク・プリミティブに分割することができる。
はサブタスクのセットに用いられ、
はサブタスク仕様のセットを表す。
はタスク・プリミティブのセットのために用いられ、
はタスク・プリミティブ仕様のセットを表す。仕様フィールドは、低レベルのモーション計画部およびコントローラが高い成功率で実行するのに役立つ。なお、いくつかのデータ駆動型の方法でこのようなタスク・プランニングの問題を解決することで、人間の行動を模倣する。1つ以上の実施形態では、記述され得る正式な問題のステートメントは、以下のとおりである。
とタスク・ディスクリプション
が与えられた場合、サブタスク・シーケンスと仕様を生成できるタスク計画部を設計し、
(ただし、
、且つ、
)、また、計画部はこのようなシーケンスを詳細な仕様を有するタスク・プリミティブに変換することができる。
(ただし、
、且つ、
)。そのため、タスク・プリミティブを実行した後、
1つ以上の実施形態では、環境は2Dグリッド・マップとして表されてもよい。
は地形のグリッド・マップのp行目とq列目のセルの高さを表す。図1は、現実の世界で捕獲された3D LiDAR点から変換されたグリッド高さマップの一例を示す。元の3D点、3Dグリッド・マップ、又は、他の表現と比較して、グリッド・マップ表現は、ニューラル・モデルの畳み込み層のテンソル入力として用いられやすくてもよい。1つ以上の実施形態では、環境特徴は、グリッド・マップ表現を使用することで、畳み込みニューラル層に効果的に学習されてもよい。
を指定することで定義されてもよい。1つ以上の実施形態では、一般的なハイレベル・タスクは、以下のように指定されてもよい。
(ただし、
は掘削精度の公差パラメータである)。
を指定することにより、さまざまな掘削タスクを定義できる。例えば、定数0を有する
は、領域を格付けするためのタスクを定義でき
、定数の負値を有する
は、目標深さを含むトレンチを掘るためのタスクを定義できる。
220定義できる。タイル・マップにおいて、各タイルは長方形であり、複数のセルを含む。セル・マップ
230はグリッド・マップ全体から切り取られるサブ・マップに定義される。このタイル内のすべてのセルが処理されている場合、
を0に設定し、そうでなければ、
は1である。掘削タスクを与え、掘削機はすべてのタイルが処理されるまでタイルごとにタイルを処理する。
1つ以上の実施形態では、ニューラル・プログラミングを方法の実施形態に用い、一般的なタスクを入力として、サブタスク、又は、タスク・プリミティブを再帰的にトリガーする。掘削タスクの実施形態では、操作シーケンスは2つのカテゴリに分けられる。1つのカテゴリは車両のベースを特定の場所に移動することであり、別のカテゴリはベースが静止したまま掘削を行うことである。また、静的ベースで、掘削を行っているとともに、掘削機アームのモーションを次の掘削点を選択するステップと、選択した深さで、特定の場所を掘削するステップ、に分解することができる。そのような観察によると、サブタスクとタスク・プリミティブの階層的定義が定義され、表1に示されている。
とも呼ばれるサブ・タスク決定モデル(SDM)であり、下文に記述された1つ以上の実施形態では、一つ以上の所望サブタスクを決定することに用いられる。第2のモデルは、セル掘削モデル(CEM)、即ち
とも呼ばれるプリミティブ決定モデル(PDM)であり、下文に記述された1つ以上の実施形態では、少なくともサブタスクに基づき、一つ以上の所望のタスク・プリミティブを決定することに用いられる。
が与えられた場合、TEMモデルは、特定の定仕様
と共にトリガーするサブタスク
を選択し、計画部
を終了するか否かを決定する。1つ以上の実施形態では、このプロセスは(2)により記述される。
ただし、
は、
の場合、サブタスクが完了すること、又は、
の場合、サブタスクが完了しないこと、を示すインジケータである。なお、2つのモデル間の時間スケールを区別するために、TEMのインデックスはtであり、CEM/PATHのインデックスはiである。
1つ以上の実施形態では、既存の階層タスク計画部は、ハイレベル・タスクを分解し、それに対応して仕様を有するタスク・プリミティブを生成する。例えば、トレンチ領域タスクは、図3に示すように、タスク・プリミティブに分割されてもよい。
)と環境観察値
が与えられ、SDMモデル
(320、322、324、又は、326)は、最初にサブタスクを決定する(405)。
としてサブタスクに応答して、サブタスク・プランニング・モジュール
(330、又は、332)を呼び出し(410)、グローバル・フレームの目標点、又は、タイルへのトラックを生成する。目標点(
)に到達した後、プランニング・プロセス(415)は
に戻り、
に応答してローカル実行サブタスク(例えば、掘削動作ためのPDMモデル
(340、342、344、又は、346)をトリガーするためのexcavate tileのサブタスク)を生成する(420)。
モデルは、サブタスクを完了するために、さまざまなタスク・プリミティブを生成し、完了時に
(サブタスク完了信号)を出力する。move_base331、接近341および掘削343などの各タスク・プリミティブの実行は、環境に影響を与え、それにより、観察値
および
に影響を与え、又は、観察値
および
を更新する。
は最終的にプロセス全体を終了(425)し、観察値
を監視しながら
(タスク完了信号)を設定する。
1つ以上の実施形態では、第1のモデル(例えば、タイル掘削モデル(TEM))と第2のモデル(例えば、セル掘削モデル(CEM))の設計が提供されており、類似の構造が2つのモデルによって共有され、4つのサブモデル、即ちプランニング・コア
、サブタスク、又は、プリミティブ・デコーダ
、仕様デコーダ
、及び、終了デコーダ
を含んでもよい。
(ただし、
は、サブタスク、又は、プリミティブであり、
は、仕様であり、
は、終了インジケータである)
図5は、現在に開示された実施形態に係るシステム・モデル構成を示す。1つ以上の実施形態では、タイル掘削プランニング・レベルで、タイル・マップを入力タスクに与えた場合、広い地形をカバーするために、グローバル・タイル・シーケンスを決定する必要がある。TEM510は、最新のタイル・マップおよび処理されたタイルの履歴に基づき、掘削機が操作する必要がある次のタイルを予測することができる。具体的には、TEM510は、タイル・マップ
511の入力と過去のサブタスク・シーケンス
512を採用できる。従って、TEMの入力は次のように表してもよい。
1つ以上の実施形態では、セル掘削モデルは、図5に示すように、その仕様を含んだタイル掘削サブタスクによってトリガーされる。
に応じて、モデルの入力はローカル地形観測
で構成され、それは2次元のワン・ホット・ベクトルとして表される。
で、ローカル・プランニング・ステータス
を生成する。次に、プリミティブ・デコーダは、ローカル・プランニング・ステータスで、プリミティブ選択
を生成する。プリミティブ選択
は、エンド・エフェクターを特定の点に接近するか、特定の深さで現在の場所を掘削する。仕様デコーダは、
を使用して、各プリミティブの仕様
を生成する。つまり、プリミティブのlocal_coordinateに接近すること、又は、プリミティブの深さを掘削することである。
1つ以上の実施形態では、SDMモデル(例えば、TEM)およびPDMモデル(例えば、CEM)の両方が、実行トラックのシーケンスを用いて、監視のような方法でトレーニングする。サブタスク・トレーニング・データセットでSDMモデルをトレーニングでき、プリミティブ・トレーニング・データセットを使用してPDMモデルをトレーニングできる。トレーニング・プロセスを均一に記述することができように、一般的なシンボリック表現をモデルの入力と出力に使用する。
(ただし、
、
、及び、
は、パラメータであり、
、
、及び、
は、すべて交差エントロピー損失である。)
は予測されたサブタスクと記録されたサブタスクとの間の誤差である。PDMの場合、損失関数は第2の損失関数と呼ばれ、ただし、損失項
は、予測されたプリミティブと、記録されたプリミティブとの間の誤差である。
なお、これらの実験、及び、結果は例示として提供され、1つ以上の実施形態で特定の条件下で行われた。したがって、これらの実験もその結果も、現在の発明の明細書の範囲を限定するものではない。
1つ以上の実施例では、トラック発生器と呼ばれるカスタマイズ・プログラムを介して、TEM、及び、CEMモデルのためのトレーニング・データ・シーケンスを生成した。
として定義される。
1つ以上の実験設定において、タスク計画部TaskNetの実施形態は、トレーニングされたモデル「タイル掘削モデル」、及び、「セル掘削モデル」を用いて実施した。タスク計画部は、所望の深さの長方形の形状を掘削することなどのハイレベル・タスクを入力する。タスク計画部は、タスクを分解し、モーション計画部ための仕様を含んだモーション・プリミティブ・シーケンスを生成する。モーション計画部モデルは、仕様に基づいて実行可能なアームに基づくモーションを計算する。アームのモーションについては、逆運動学ソルバーで関節構成を計算する。
図11は、本発明の一実施形態に係るタスク・プランニングの実現のための様々なセンサを含んだセンサ・プラットフォームを示す。図11は、例えば、掘削機1105を使用するが、この例の実施例、及び、センサ・プラットフォームは、他の構成、農業、又は、産業応用、又は、フロントローダ、バックホーなどの車両に適用され得る。
本発明では、自律走行車両(例えば、掘削機)のための新規のニューラル掘削タスク計画部-TaskNetの実施形態を開示し、開示されたニューラル・タスク計画部の実施形態は、2つの学習に基づくニューラル・ネットワーク・モデルを含む。第1のモデルは、タイル・レベルの掘削戦略を学習するために設計されたタイル掘削モデル(TEM)で、第2のモデルは、適当な掘削セルを決定するために設計されたセル掘削モデル(CEM)である。
本発明の一実施形態では、1つ以上の情報処理システム/コンピューティング・システムを含んでもよいし、又は、1つ以上の情報処理システム/コンピューティング・システムで実施してもよい。コンピューティング・システムには、計算、運算、決定、分類、処理、伝送、受信、検索、発信、ルーティング、切り替え、記憶、表現、通信、マニフェスト(manifest)、検出、記録、再現、処理、又は、あらゆる形式の情報、インテリジェンス、又は、データとして構成される任意の手段、又は、手段の集合が含まれ得る。例えば、コンピューティング・システムは、パーソナル・コンピュータ(例えば、ラップトップ・コンピュータ)、タブレット・コンピュータ、タブレット、パーソナル・デジタル・アシスタント(PDA)、スマート・フォン、スマート・ウォッチ、スマート・パッケージ、サーバ(例えば、ブレード・サーバ、又は、ラック・サーバ)、ネットワーク・ストレージ・デバイス、カメラ、又は、その他の適切なデバイスであってもよいし、又は、それらを含んでもよい。サイズ、形状、パフォーマンス、機能、価格が変更することができる。コンピューティング・システムは、ランダム・アクセス・メモリ(RAM)、1つ以上の処理リソース(中央処理装置(CPU)、又は、ハードウェア、又は、ソフトウェア制御ロジック)、ROM、及び/又は、他のタイプのメモリを含んでもよい。コンピューティング・システムの追加コンポーネントには、1つ以上のディスク・ドライブと、外部デバイスと通信するための1つ以上のネットワーク・ポートと、様々な入出力(I/O)デバイス(例えば、キーボード、マウス、タッチ・スクリーン、及び/又は、ビデオ・ディスプレイ)と、を含んでもよい。コンピューティング・システムは、様々なハードウェア・コンポーネント間で通信を伝送できるように構成される1つ以上のバスをさらに含んでもよい。
Claims (21)
- 自律型作業車両に適用される、タスクを実行するためにタスク・プランニング・ネットワークをトレーニングするためのコンピュータ実行方法であって、
第1の記録された、いずれも環境観察データを含む入力と記録された出力を有する入出力ペア・シーケンスを含むサブタスク・トレーニング・データセットを用いて、タスクをサブタスクに分割するためのサブタスク決定モデルをトレーニングするステップであって、前記環境観察データは、前記タスクに関連する環境を感知したデータであり、前記サブタスク決定モデルは、第1のプランニング・コア、サブタスク・デコーダ、第1の仕様デコーダ、及び、第1の終了デコーダをサブモデルとして含む、ステップと、
第2の記録された、ローカル環境観察データを含む入力と記録された出力を有する入出力ペア・シーケンスを含むプリミティブ・トレーニング・データセットを用いて、サブタスクを実行可能なタスク・プリミティブに分割するためのプリミティブ決定モデルをトレーニングするステップであって、前記ローカル環境観察データは、サブタスクに関連する環境を感知したデータであり、第2のプランニング・コア、プリミティブ・デコーダ、第2の仕様デコーダ、及び、第2の終了デコーダをサブモデルとして含む、ステップと、を含み、
前記サブタスク決定モデルのプランニングは、
少なくとも前記環境観察データに基づき、前記第1のプランニング・コアを用いて、特徴を抽出することと、
少なくとも前記環境観察データから抽出された前記特徴に基づき、前記サブタスク・デコーダを用いて、予測サブタスクを生成することと、
少なくとも前記環境観察データから抽出された前記特徴に基づき、前記第1の仕様デコーダを用いて、前記予測サブタスクに対応する第1の予測仕様を生成することと、
少なくとも前記環境観察データから抽出された前記特徴に基づき、前記第1の終了デコーダを用いて、前記タスクが完了したか否かを示す第1の予測終了ステータスを生成することと、
前記第1の記録された入出力ペア・シーケンス、前記予測サブタスク、前記第1の予測仕様、及び、前記第1の予測終了ステータスに基づき、第1の損失関数を用いて、前記サブタスク決定モデルをトレーニングすることと、を含み、
第1の損失は、前記第1の記録された入出力ペア・シーケンスにおける、前記予測サブタスク、前記第1の予測仕様、前記第1の予測終了ステータスと、対応する記録されたサブタスク、記録された仕様、記録された終了ステータスと、の間の誤差の重み付け和であり、
前記プリミティブ決定モデルのプランニングは、
少なくとも前記ローカル環境観察データに基づき、前記第2のプランニング・コアを用いて、特徴を抽出することと、
少なくとも前記ローカル環境観察データから抽出された特徴に基づき、前記プリミティブ・デコーダを用いて、予測プリミティブを生成することと、
少なくとも前記ローカル環境観察データから抽出された特徴に基づき、前記第2の仕様デコーダを用いて、前記予測プリミティブに対応する第2の予測仕様を生成することと、
前記第2の終了デコーダを用いて、前記サブタスクが完了したか否かを示す第2の予測終了ステータスを生成することと、
前記第2の記録された入出力ペア・シーケンス、前記予測プリミティブ、前記第2の予測仕様、及び、前記第2の予測終了ステータスに基づき、第2の損失関数を用いて、前記プリミティブ決定モデルをトレーニングすることと、
前記タスク・プランニング・ネットワークの第1のフェーズとしてのトレーニングされたサブタスク決定モデルと、前記タスク・プランニング・ネットワークの第2のフェーズとしてのトレーニングされたプリミティブ決定モデルと、を統合することによって、トレーニングされたタスク・プランニング・ネットワークを生成することと、を含み、
第2の損失は、前記第2の記録された入出力ペア・シーケンスにおける、前記予測プリミティブ、前記第2の予測仕様、前記第2の予測終了ステータスと、対応する記録されたサブタスク、記録された仕様、記録された終了ステータスと、の間の誤差の重み付け和である、
コンピュータ実行方法。 - 前記タスク・プランニング・ネットワークは、さらに、前記サブタスク決定モデルに接続し、前記サブタスク決定モデルから出力され、モーション・サブタスクであるサブタスク毎に応答し、前記モーション・サブタスクを実行するためのトラックを決定するパス決定モジュールを含む、
ことを特徴とする請求項1に記載のコンピュータ実行方法。 - 前記環境観察データから抽出された前記特徴は、潜在的な空間表現である、
ことを特徴とする請求項1に記載のコンピュータ実行方法。 - 前記第1のプランニング・コアと前記第2のプランニング・コアは、前記プリミティブ決定モデルと前記サブタスク決定モデルによって共有される、
ことを特徴とする請求項1に記載のコンピュータ実行方法。 - 前記ローカル環境観察データは、前記環境観察データから切り取られる、
ことを特徴とする請求項1に記載のコンピュータ実行方法。 - 自律型作業車両に適用される、タスク・プランニング・ネットワークを用いて実行するためのコンピュータ実行方法であって、
前記タスク・プランニング・ネットワークは、第1のフェーズとしてタスクをサブタスクに分割するためのサブタスク決定モデルと、第2のフェーズとしてサブタスクを実行可能なタスク・プリミティブに分割するためのプリミティブ決定モデルとが統合されたものであり、
前記コンピュータ実行方法は、
少なくともタスク・ディスクリプションと前記タスクに関連する環境を感知したデータである環境観察データを与え、サブタスク決定モデルを用いて、サブタスク、前記サブタスクに関連する仕様、及び、前記タスクが完了したか否かを示すタスク終了ステータスを出力するステップと、
前記タスク終了ステータスがタスクの完了を示すまで、
前記サブタスクがモーション・サブタスクであることに応答して、
サブタスク・プランニング・モジュールを呼び出して、グローバル・フレームにおける目標点へのトラックを生成し、前記目標点に到達した後に、前記サブタスク決定モデルに戻ることと、
前記サブタスクがローカル実行サブタスクであることに応答して、
少なくとも前記ローカル実行サブタスクとサブタスクに関連する環境を感知したデータであるローカル環境観察データに基づき、プリミティブ決定モデルを用いて、一つ以上のタスク・プリミティブを生成し、
前記一つ以上のタスク・プリミティブを実行し、前記ローカル環境観察データと前記環境観察データを更新し、
前記ローカル実行サブタスクを完了した後に、前記サブタスク決定モデルに戻ることと、
を繰り返して実行するステップと、
を含む、コンピュータ実行方法。 - 前記サブタスク決定モデルと前記プリミティブ決定モデルは、予めトレーニングされる、
ことを特徴とする請求項6に記載のコンピュータ実行方法。 - 前記サブタスク決定モデルは、
前記タスクが与えられた場合、前記環境観察データから特徴を抽出する第1のプランニング・コアと、
前記第1のプランニング・コアに接続し、少なくとも前記環境観察データから抽出された前記特徴に基づき、前記サブタスクを生成するサブタスク・デコーダと、
前記第1のプランニング・コアに接続し、少なくとも前記環境観察データから抽出された前記特徴に基づき、前記サブタスクに対応する仕様を生成する第1の仕様デコーダと、
前記第1のプランニング・コアに接続し、前記タスクが完了したか否かを示す前記タスク終了ステータスを生成する第1の終了デコーダと、
をサブモデルとして含む、
ことを特徴とする請求項6に記載のコンピュータ実行方法。 - 前記サブタスク・デコーダが少なくとも前記環境観察データから抽出された前記特徴に基づき前記サブタスクを生成するステップは、さらに、
過去のモーション方向シーケンスを、前記環境観察データから抽出された前記特徴を有するベクトルに重畳して、カスケード・ベクトルを形成するステップと、
前記カスケード・ベクトルを前記サブタスク・デコーダにおける一つ以上の全接続の接続層に給送し、前記サブタスクを生成するステップと、
を含む、
ことを特徴とする請求項8に記載のコンピュータ実行方法。 - 前記プリミティブ決定モデルは、
前記サブタスク決定モデルから出力された前記サブタスクが与えられた場合、少なくとも前記ローカル環境観察データを含む入力を用いて特徴を抽出する第2のプランニング・コアと、
前記第2のプランニング・コアに接続し、少なくとも前記ローカル環境観察データから抽出された特徴に基づき、前記プリミティブを生成するプリミティブ・デコーダと、
前記第2のプランニング・コアに接続し、少なくとも前記ローカル環境観察データから抽出された特徴に基づき、前記プリミティブに対応する仕様を生成する第2の仕様デコーダと、
前記第2のプランニング・コアに接続し、前記サブタスクが完了したか否かを示すサブタスク終了ステータスを生成する第2の終了デコーダと、
を含む、
ことを特徴とする請求項8に記載のコンピュータ実行方法。 - 前記第2のプランニング・コアへの入力は、さらに、最後のプリミティブに関連する仕様を含む、
ことを特徴とする請求項10に記載のコンピュータ実行方法。 - 前記第1のプランニング・コアと前記第2のプランニング・コアは、前記プリミティブ決定モデルと前記サブタスク決定モデルによって共有される、
ことを特徴とする請求項10に記載のコンピュータ実行方法。 - 前記ローカル環境観察データは、前記環境観察データから切り取られる、
ことを特徴とする請求項10に記載のコンピュータ実行方法。 - 自律型作業車両に適用される、タスク・プランニング・ネットワークを用いてタスク・プランニングを実行するためのコンピュータ実行方法であって、
タスクと、前記タスクに関連する環境を感知したデータである環境観察データをトレーニングされたタスク・プランニング・ネットワークに入力するステップであって、
前記トレーニングされたタスク・プランニング・ネットワークは、第1のフェーズとしてタスクをサブタスクに分割するためのサブタスク決定モデルと、第2のフェーズとしてサブタスクを実行可能なタスク・プリミティブに分割するためのプリミティブ決定モデルとが統合されたものであり、
前記サブタスク決定モデルは、
前記タスクが与えられた場合、前記環境観察データから特徴を抽出する第1のプランニング・コアと、
前記第1のプランニング・コアに接続し、少なくとも前記環境観察データから抽出された前記特徴に基づき、サブタスクを生成するサブタスク・デコーダと、
前記第1のプランニング・コアに接続し、少なくとも前記環境観察データから抽出された前記特徴に基づき、前記サブタスクに対応する仕様を生成する第1の仕様デコーダと、
前記第1のプランニング・コアに接続し、少なくとも前記環境観察データに基づき、前記タスクが完了したか否かを示すタスク終了ステータスを生成する第1の終了デコーダと、をサブモデルとして含み、
前記プリミティブ決定モデルは、
前記サブタスク決定モデルから出力され、ローカル実行サブタスクである前記サブタスクに応答し、少なくとも前記サブタスクに関連するローカル環境観察データを含む入力を用いて、特徴を抽出する第2のプランニング・コアと、
前記第2のプランニング・コアに接続し、少なくとも前記ローカル環境観察データから抽出された特徴に基づき、一つ以上のプリミティブを生成するプリミティブ・デコーダと、
前記第2のプランニング・コアに接続し、少なくとも前記ローカル環境観察データから抽出された特徴に基づき、前記プリミティブに対応する仕様を生成する第2の仕様デコーダと、
前記第2のプランニング・コアに接続し、前記サブタスクが完了したか否かを示すサブタスク終了ステータスを生成する第2の終了デコーダと、を含む、プリミティブ決定モデルと、をサブモデルとして含む、ステップと、
前記一つ以上のプリミティブを実行すると、前記ローカル環境観察データと前記環境観察データを更新するステップと、
前記タスク終了ステータスは前記サブタスクが完了したことを示す場合、前記サブタスク決定モデルにより前記タスク・プランニングを終了するステップと、
を含む、コンピュータ実行方法。 - 前記第2のプランニング・コアへの入力は、さらに、最後のプリミティブに関連する仕様を含む、
ことを特徴とする請求項14に記載のコンピュータ実行方法。 - 前記ローカル環境観察データは、前記環境観察データから切り取られる、
ことを特徴とする請求項14に記載のコンピュータ実行方法。 - 前記サブタスク・デコーダが、少なくとも前記環境観察データから抽出された前記特徴に基づき、サブタスクを生成するステップは、
過去のモーション方向シーケンスを、前記環境観察データから抽出された前記特徴を有するベクトルに重畳して、カスケード・ベクトルを形成するステップと、
前記カスケード・ベクトルを前記サブタスク・デコーダにおける一つ以上の全接続の接続層に給送し、前記サブタスクを生成するステップと、
を含む、
ことを特徴とする請求項14に記載のコンピュータ実行方法。 - 前記第1のプランニング・コアと前記第2のプランニング・コアは、前記プリミティブ決定モデルと前記サブタスク決定モデルによって共有される、
ことを特徴とする請求項14に記載のコンピュータ実行方法。 - コンピュータ・プログラムであって、プロセッサにより実行された場合に、請求項1乃至5の何れか一項に記載のコンピュータ実行方法を実現させる、
コンピュータ・プログラム。 - コンピュータ・プログラムであって、プロセッサにより実行された場合に、請求項6乃至13の何れか一項に記載のコンピュータ実行方法を実現させる、
コンピュータ・プログラム。 - コンピュータ・プログラムであって、プロセッサにより実行された場合に、請求項14乃至18の何れか一項に記載のコンピュータ実行方法を実現させる、
コンピュータ・プログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/746,777 US11409287B2 (en) | 2020-01-17 | 2020-01-17 | Neural task planner for autonomous vehicles |
US16/746,777 | 2020-01-17 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021113487A JP2021113487A (ja) | 2021-08-05 |
JP7169328B2 true JP7169328B2 (ja) | 2022-11-10 |
Family
ID=72470211
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020174568A Active JP7169328B2 (ja) | 2020-01-17 | 2020-10-16 | 自律走行車両ためのニューラル・タスク計画部 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11409287B2 (ja) |
EP (1) | EP3852018A1 (ja) |
JP (1) | JP7169328B2 (ja) |
CN (1) | CN113139652A (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DK3907171T3 (da) * | 2020-05-06 | 2022-09-26 | Hiab Ab | En kran, et køretøj, og en metode til kranen |
CN113657228A (zh) * | 2021-08-06 | 2021-11-16 | 北京百度网讯科技有限公司 | 数据处理的方法、设备和存储介质 |
US20240093464A1 (en) * | 2022-04-07 | 2024-03-21 | AIM Intelligent Machines, Inc. | Autonomous Control Of Operations Of Earth-Moving Vehicles Using Trained Machine Learning Models |
US11746499B1 (en) * | 2022-05-10 | 2023-09-05 | AIM Intelligent Machines, Inc. | Hardware component configuration for autonomous control of powered earth-moving vehicles |
JP2024005910A (ja) * | 2022-06-30 | 2024-01-17 | 株式会社小松製作所 | 作業車両の経路計画生成システム、作業車両の経路計画生成方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018147261A (ja) | 2017-03-06 | 2018-09-20 | Kddi株式会社 | モデル統合装置、モデル統合システム、方法およびプログラム |
US20190129436A1 (en) | 2017-10-28 | 2019-05-02 | TuSimple | System and method for real world autonomous vehicle trajectory simulation |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2944774B2 (ja) * | 1991-03-20 | 1999-09-06 | ヤンマー農機株式会社 | 自動走行作業機における画像処理方法 |
US6076030A (en) * | 1998-10-14 | 2000-06-13 | Carnegie Mellon University | Learning system and method for optimizing control of autonomous earthmoving machinery |
JP4293404B2 (ja) | 2000-03-02 | 2009-07-08 | ダイセルノバフォーム株式会社 | 発泡成形体およびその製造方法 |
US10032117B2 (en) * | 2014-09-17 | 2018-07-24 | Caterpillar Inc. | Method for developing machine operation classifier using machine learning |
US10586173B2 (en) | 2016-01-27 | 2020-03-10 | Bonsai AI, Inc. | Searchable database of trained artificial intelligence objects that can be reused, reconfigured, and recomposed, into one or more subsequent artificial intelligence models |
CN106647742B (zh) * | 2016-10-31 | 2019-09-20 | 纳恩博(北京)科技有限公司 | 移动路径规划方法及装置 |
US10796204B2 (en) * | 2017-02-27 | 2020-10-06 | Huawei Technologies Co., Ltd. | Planning system and method for controlling operation of an autonomous vehicle to navigate a planned path |
CN106970615B (zh) * | 2017-03-21 | 2019-10-22 | 西北工业大学 | 一种深度强化学习的实时在线路径规划方法 |
EP3593293B1 (en) | 2017-05-19 | 2024-01-17 | Deepmind Technologies Limited | Imagination-based agent neural networks |
US10761537B1 (en) * | 2017-06-02 | 2020-09-01 | Built Robotics Inc. | Obstacle detection and manipulation by a vehicle within a dig site |
US11029693B2 (en) * | 2017-08-08 | 2021-06-08 | Tusimple, Inc. | Neural network based vehicle dynamics model |
CN111095291B (zh) * | 2018-02-27 | 2024-04-09 | 辉达公司 | 由自动驾驶车辆实时检测车道和边界 |
DE102019113114A1 (de) * | 2018-06-19 | 2019-12-19 | Nvidia Corporation | Verhaltensgesteuerte wegplanung in autonomen maschinenanwendungen |
CN109992000B (zh) * | 2019-04-04 | 2020-07-03 | 北京航空航天大学 | 一种基于分层强化学习的多无人机路径协同规划方法及装置 |
CN110348636B (zh) * | 2019-07-12 | 2023-07-28 | 南方科技大学 | 路径规划预测方法、装置、设备和计算机可读存储介质 |
US11378964B2 (en) * | 2019-10-28 | 2022-07-05 | Caterpillar Inc. | Systems and methods for autonomous movement of material |
-
2020
- 2020-01-17 US US16/746,777 patent/US11409287B2/en active Active
- 2020-09-09 EP EP20195356.9A patent/EP3852018A1/en not_active Withdrawn
- 2020-09-24 CN CN202011015292.8A patent/CN113139652A/zh active Pending
- 2020-10-16 JP JP2020174568A patent/JP7169328B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018147261A (ja) | 2017-03-06 | 2018-09-20 | Kddi株式会社 | モデル統合装置、モデル統合システム、方法およびプログラム |
US20190129436A1 (en) | 2017-10-28 | 2019-05-02 | TuSimple | System and method for real world autonomous vehicle trajectory simulation |
Also Published As
Publication number | Publication date |
---|---|
JP2021113487A (ja) | 2021-08-05 |
EP3852018A1 (en) | 2021-07-21 |
US11409287B2 (en) | 2022-08-09 |
US20210223774A1 (en) | 2021-07-22 |
CN113139652A (zh) | 2021-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7169328B2 (ja) | 自律走行車両ためのニューラル・タスク計画部 | |
Zhang et al. | An autonomous excavator system for material loading tasks | |
Schmidt et al. | Simulation and control of an autonomous bucket excavator for landscaping tasks | |
ElNimr et al. | Two-way integration of 3D visualization and discrete event simulation for modeling mobile crane movement under dynamically changing site layout | |
Eraliev et al. | Sensing, perception, decision, planning and action of autonomous excavators | |
Kamat | VITASCOPE: Extensible and scalable 3D visualization of simulated construction operations | |
Naghshbandi et al. | Technologies for safe and resilient earthmoving operations: A systematic literature review | |
Lu et al. | Excavation reinforcement learning using geometric representation | |
EP4083335B1 (en) | Hierarchical planning for autonomous machinery on various tasks | |
Toma et al. | Pathbench: A benchmarking platform for classical and learned path planning algorithms | |
Borngrund et al. | Deep-learning-based vision for earth-moving automation | |
Zhao et al. | TaskNet: A neural task planner for autonomous excavator | |
US20240131705A1 (en) | Imitation learning and model integrated trajectory planning | |
US20240093464A1 (en) | Autonomous Control Of Operations Of Earth-Moving Vehicles Using Trained Machine Learning Models | |
Frontoni et al. | A framework for simulations and tests of mobile robotics tasks | |
Marah et al. | An architecture for intelligent agent-based digital twin for cyber-physical systems | |
Zhu et al. | Excavation of fragmented rocks with multi-modal model-based reinforcement learning | |
CN114723020A (zh) | 用于杂乱刚性对象的挖掘学习 | |
Schmidt et al. | An autonomous excavator for landscaping tasks | |
Kamat et al. | Software mechanisms for extensible and scalable 3D visualization of construction operations | |
Feng et al. | Task-unit based trajectory generation for excavators utilizing expert operator skills | |
Cook et al. | Towards real-time robot simulation on uneven terrain using neural networks | |
Shi et al. | Autonomous rock excavation: intelligent control techniques and experimentation | |
Zhang et al. | Data-driven excavation trajectory planning for unmanned mining excavator | |
Somua-Gyimah | Dragline excavation simulation, real-time terrain recognition and object detection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210331 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220426 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220726 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221018 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221028 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7169328 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |