JP2020123259A - 自動運転プログラム評価システム、及び自動運転プログラム評価方法 - Google Patents
自動運転プログラム評価システム、及び自動運転プログラム評価方法 Download PDFInfo
- Publication number
- JP2020123259A JP2020123259A JP2019016071A JP2019016071A JP2020123259A JP 2020123259 A JP2020123259 A JP 2020123259A JP 2019016071 A JP2019016071 A JP 2019016071A JP 2019016071 A JP2019016071 A JP 2019016071A JP 2020123259 A JP2020123259 A JP 2020123259A
- Authority
- JP
- Japan
- Prior art keywords
- information
- evaluation
- predetermined
- program
- execution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Debugging And Monitoring (AREA)
Abstract
Description
[[第1実施形態]]
図1は、第1実施形態における自動運転プログラム開発システムの構成の一例を示す図である。自動運転プログラム開発システム1は、自動車の自動運転プログラムを用いた仮想的な自動運転システム(自動運転シミュレータ)である自動運転プログラム実行システム10と、自動運転プログラム実行システム10による自動運転の内容を評価する自動運転プログラム評価システム20とを含んで構成されている。
用線等の有線又は無線の通信ネットワークであってもよいし、両システムにおける装置間を直接に接続する所定の通信線であってもよい。また、自動運転プログラム実行システム10及び自動運転プログラム評価システム20内における各情報処理装置の間も、同様の通信ネットワークで接続される。
<自動運転プログラム実行システム>
自動運転プログラム実行システム10は、図1に示すように、地図情報110、外界認識情報130、シナリオ情報150、及び、1又は複数の自動運転プログラム170を記憶している。
生成し、当該自動車の制御対象装置を仮想的に動作させる。この場合、自動運転プログラム170は、シナリオ情報150に対応した外界認識情報130に基づき、自身の自動車、他の自動車、及び歩行者等の動きを、機械学習等により構築された人工知能(AI: Artificial Intelligence)により予測し、その予測結果に基づき制御信号を生成し、生成し
た制御信号により制御対象装置を制御する。このように、自動運転プログラム170は、制御対象装置に対する制御信号を生成することで、自動車の自動運転を実現する。
<実行ログ>
図2は、実行ログ300のデータ構成の一例を示す図である。この実行ログ300(以下、実行ログAという)は、地図情報110に停止禁止区域を設定し、シナリオ情報150に、自動車がこの停止禁止区域を含む所定の経路を走行又は停止するシナリオを設定した場合のログデータである。この実行ログ300は、自動車が走行を開始してからの経過時間301と、経過時間301が示すタイミングにおいて自動車が停止禁止区域に停止していた場合の、その停止位置303とをそれぞれデータ項目として備えている。
次に、自動運転プログラム評価システム20の構成について説明する。
<評価基準情報>
図4は、評価基準情報210の一例を示す図である。評価基準情報210は、自動車の運転の内容を評価する基準を規定した所定の法規の内容を記録した法規情報211と、法規情報211をパラメータ化した情報であるパラメータ情報213とを含んで構成されている。
「−20」する、と設定されている。
情報230を、評価基準の所定の数値により比較して表示する。
力装置54と、モニタ(ディスプレイ)等からなる、画面表示を行う出力装置55と、各装置と通信を行う通信装置56とを備える。
次に、自動運転プログラム開発システム1が行う処理(プログラム開発支援処理)について説明する。
図6は、プログラム開発支援処理における各処理の典型的な流れを示すフロー図である。まず、自動運転プログラム評価システム20は、シナリオ情報150を生成するシナリオ情報生成処理を実行し(s51)、生成したシナリオ情報150を記憶すると共に、生成したシナリオ情報150を自動運転プログラム実行システム10に送信する(s52)。
って、自動車の制御(各構成装置の制御)を行う。
<シナリオ情報生成処理>
まず、図7は、シナリオ情報生成処理の一例を説明するフロー図である。まず、自動運転プログラム評価システム20は、シナリオ情報150の生成に必要な、評価基準の項目を選択する(s101)。具体的には、例えば、自動運転プログラム評価システム20は、ユーザから、評価基準情報210における法規情報211の項目215の入力を受け付ける。
要な評価基準の項目215が他にあるか否かを判定する(s107)。具体的には、例えば、自動運転プログラム評価システム20は、ユーザから、評価基準の他の項目215の入力を受け付ける。
<評価結果情報生成処理>
評価結果情報生成処理は、前記のように、評価結果情報230として、評価結果詳細情報250及び評価結果概要情報270を表示する。
<評価結果画面表示処理>
評価結果画面表示処理は、複数回実行された自動運転実行処理の結果に基づき、生成された各評価結果情報230の内容を比較して表示する。例えば、評価結果画面表示処理は、各シナリオ情報150に係るシナリオの評価結果情報230の表示、同一の自動運転プログラム170に基づく各評価結果情報230の比較(同一のプログラムのバージョン毎の比較)の表示、異なる種類の自動運転プログラム170に基づく各評価結果情報230の比較(プログラムの開発メーカーによる比較)の表示を行った画面を表示する。以下、これらの画面について説明する。
図12、13は、シナリオ情報150に係るシナリオの評価結果情報230の比較を行った画面1000の一例を説明する図である。この画面1000は、自動運転プログラム170の実行に際して使用されたシナリオ情報150を表示するシナリオ表示欄1001、シナリオ表示欄1001に係るシナリオにおいて自動車が違反をした(基準を満たさな
かった)評価基準の項目とその内容を表示する違反項目表示欄1003、違反項目表示欄1003に係る項目における減点数の合計を表示する減点表示欄1005、違反項目表示欄1003に係る違反があった回数を表示する回数表示欄1007、及び、違反項目表示欄1003に係る違反があった場所を表示する発生箇所表示欄1009の各表示欄を有する。また、この画面1000は、全項目の減点数の合計(評価点数)を表示する評価点数表示欄1011を備える。
図14は、同一の自動運転プログラム170に基づく各評価結果情報230の比較を行った画面の一例を説明する図である。この画面1200は、自動運転プログラム170のバージョンを表示するバージョン表示欄1201と、バージョン表示欄1201に係るバージョンで自動運転実行処理を行った場合の、全評価基準における減点数の平均値を表示する全項目平均点数表示欄1203とを備える。すなわち、この画面1200は、所定の自動運転プログラム170に対して所定の修正を施した、すなわちバージョンアップした新たな自動運転プログラム170の性能の向上を確認するための画面である。
図15は、異なる種類の自動運転プログラム170に基づく各評価結果情報230の比較を行った画面の一例である。この画面1300は、自動運転プログラム170の種類を表示するプログラム種類表示欄1301と、プログラム種類表示欄1301に係る自動運転プログラム170で自動運転実行処理を行った場合の、全評価基準における減点数の平均値を表示する全項目平均点数表示欄1303とを備える。すなわち、この画面1300は、メーカー毎に異なる各自動運転プログラム170の性能を比較するための画面である。
このように、本実施形態の自動運転プログラム評価システム20によれば、仮想的に実行された自動運転を客観的かつ定量的に評価することができる。
第1実施形態では、プログラム開発支援処理において、自動運転プログラム実行システム10が、シナリオ情報150に規定する自動運転プログラム170による自動車の運転処理を、当該シナリオ情報150に係るシナリオが終了するまで実行し、その実行後に実行ログ300を自動運転プログラム評価システム20に送信していた。
図16は、第2実施形態に係るプログラム開発支援処理の一例を示すフロー図である。まず、自動運転プログラム評価システム20が行うシナリオ情報生成処理(s51)、自動運転プログラム実行システム10が行うシナリオ情報150の記憶、自動運転プログラム170の選択、及び地図情報110等の読み込み(s11−s15)は第1実施形態と同様である。
<付帯画像>
図17は、付帯画像195の表示の一例を示す図である。自動運転プログラム実行システム10がリアルタイム表示している運転シミュレーション画像190の上に、付帯画像195が表示されている。付帯画像195は、いわゆるポップアップ形式の画像であり、違反した評価基準の項目215(減点細目)の表示である減点細目表示部1951、項目215に対応する減点数219の表示である減点数表示部1952、及び、項目215に違反した箇所の表示である違反箇所表示部1953を有する。
は、第1の前記所定のプログラムの実行結果として出力された、前記所定の条件における第1の実行ログと、当該所定の条件における前記第1のプログラムと異なる第2の前記所定のプログラムの実行結果として出力された第2の実行ログとを受信し、前記評価結果情報生成部は、前記第1の実行ログに基づく第1の評価結果情報及び前記第2の実行ログに基づく第2の評価結果情報を生成し、前記評価結果情報表示部は、前記第1の評価結果情報及び前記第2の評価結果情報を、前記評価基準の所定の数値により比較して表示する、としてもよい。
Claims (7)
- プロセッサ及びメモリを備え、
所定の条件における所定の自動車の運転の内容を所定の数値で評価するための評価基準の情報である評価基準情報を記憶する評価基準情報記憶部と、
前記所定の条件における前記所定の自動車の運転の内容を決定する所定のプログラムの実行結果として出力された、当該自動車の運転の履歴を含む情報である実行ログを、所定の情報処理システムから受信する実行ログ受信部と、
受信した実行ログ及び前記評価基準情報に基づき、前記所定の条件における前記所定の自動車の運転の評価を所定の数値で示す評価結果情報を生成する評価結果情報生成部と、
を備える、自動運転プログラム評価システム。 - 前記生成した評価結果情報を表示する評価結果情報表示部を備える、請求項1に記載の自動運転プログラム評価システム。
- 前記実行ログ受信部は、前記所定のプログラムの実行結果として出力された、前記所定の条件における第1の実行ログと、当該所定の条件における前記所定のプログラムに対して所定の修正が施されたプログラムの実行結果として出力された第2の実行ログとを受信し、
前記評価結果情報生成部は、前記第1の実行ログに基づく第1の評価結果情報及び前記第2の実行ログに基づく第2の評価結果情報を生成し、
前記評価結果情報表示部は、前記第1の評価結果情報及び前記第2の評価結果情報を、前記評価基準の所定の数値により比較して表示する、
請求項2に記載の自動運転プログラム評価システム。 - 前記実行ログ受信部は、第1の前記所定のプログラムの実行結果として出力された、前記所定の条件における第1の実行ログと、当該所定の条件における前記第1のプログラムと異なる第2の前記所定のプログラムの実行結果として出力された第2の実行ログとを受信し、
前記評価結果情報生成部は、前記第1の実行ログに基づく第1の評価結果情報及び前記第2の実行ログに基づく第2の評価結果情報を生成し、
前記評価結果情報表示部は、前記第1の評価結果情報及び前記第2の評価結果情報を、前記評価基準の所定の数値により比較して表示する、
請求項2に記載の自動運転プログラム評価システム。 - 前記情報処理システムは、前記所定のプログラムの実行プロセスを、前記所定の条件における前記所定の自動車の運転の状況を示した画像により表示する運転状況表示部を備え、
前記自動運転プログラム評価システムは、前記情報処理システムが表示した前記画像に付帯して表示される、前記評価結果情報の内容を示す画像情報を、前記情報処理システムに送信する付帯画像情報送信部を備える、
請求項1に記載の自動運転プログラム評価システム。 - 前記評価基準情報から抽出された、前記自動車の運転の内容を規定した部分に基づき、前記自動車の運転の条件を示す情報であるシナリオ情報を生成するシナリオ情報生成部を備え、
前記実行ログ受信部は、前記生成したシナリオ情報に基づき実行された前記所定のプログラムの実行結果として出力された前記実行ログを、前記所定の情報処理システムから受信し、
前記評価結果情報生成部は、前記生成したシナリオ情報、前記受信した実行ログ、及び
前記評価基準情報に基づき、前記評価結果情報を生成する、
請求項1に記載の自動運転プログラム評価システム。 - プロセッサ及びメモリを備える自動運転プログラム評価システムが、
所定の条件における所定の自動車の運転の内容を所定の数値で評価するための評価基準の情報である評価基準情報を記憶する評価基準情報記憶処理と、
前記所定の条件における前記所定の自動車の運転の内容を決定する所定のプログラムの実行結果として出力された、当該自動車の運転の履歴を含む情報である実行ログを、所定の情報処理システムから受信する実行ログ受信処理と、
受信した実行ログ及び前記評価基準情報に基づき、前記所定の条件における前記所定の自動車の運転の評価を所定の数値で示す評価結果情報を生成する評価結果情報生成処理と、
を実行する、自動運転プログラム評価方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019016071A JP7213704B2 (ja) | 2019-01-31 | 2019-01-31 | 自動運転プログラム評価システム、及び自動運転プログラム評価方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019016071A JP7213704B2 (ja) | 2019-01-31 | 2019-01-31 | 自動運転プログラム評価システム、及び自動運転プログラム評価方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020123259A true JP2020123259A (ja) | 2020-08-13 |
JP7213704B2 JP7213704B2 (ja) | 2023-01-27 |
Family
ID=71992791
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019016071A Active JP7213704B2 (ja) | 2019-01-31 | 2019-01-31 | 自動運転プログラム評価システム、及び自動運転プログラム評価方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7213704B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220025626A (ko) * | 2020-08-24 | 2022-03-03 | 모셔널 에이디 엘엘씨 | 차량에 대한 머신 러닝 모델의 튜닝/트레이닝을 위한 운전 시나리오 샘플링 |
WO2022239250A1 (ja) * | 2021-05-14 | 2022-11-17 | 三菱電機株式会社 | 行動決定装置、行動決定方法、行動決定プログラム、設計支援装置、設計支援方法および設計支援プログラム |
WO2022246860A1 (zh) * | 2021-05-28 | 2022-12-01 | 深圳市大疆创新科技有限公司 | 一种自动驾驶***的性能测试方法 |
KR102579590B1 (ko) * | 2022-12-28 | 2023-09-18 | 도로교통공단 | 도로교통법 기반 자율주행차 운전능력 평가시나리오 생성 시스템 |
WO2024080168A1 (ja) * | 2022-10-12 | 2024-04-18 | ソフトバンクグループ株式会社 | 自動運転走行試験方法及びプログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002203108A (ja) * | 2000-12-28 | 2002-07-19 | Nipponkoa Insurance Co Ltd | 自動車損害保険販売支援システム、その方法及び記録媒体 |
JP2003173133A (ja) * | 2001-12-06 | 2003-06-20 | Honda Motor Co Ltd | 自動車運転疑似体験システムおよびそのデータベース |
JP2003288003A (ja) * | 2002-03-27 | 2003-10-10 | Honda Motor Co Ltd | 運転教習結果の評価システム及び方法 |
JP2012247854A (ja) * | 2011-05-25 | 2012-12-13 | Shinchosha | 運転評価システム、運転評価用プログラム、及び運転評価方法 |
US8606492B1 (en) * | 2011-08-31 | 2013-12-10 | Drivecam, Inc. | Driver log generation |
JP2018113015A (ja) * | 2016-09-23 | 2018-07-19 | ケーピーアイティ テクノロジーズ リミテッド | オートノマスシステムの検証法 |
-
2019
- 2019-01-31 JP JP2019016071A patent/JP7213704B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002203108A (ja) * | 2000-12-28 | 2002-07-19 | Nipponkoa Insurance Co Ltd | 自動車損害保険販売支援システム、その方法及び記録媒体 |
JP2003173133A (ja) * | 2001-12-06 | 2003-06-20 | Honda Motor Co Ltd | 自動車運転疑似体験システムおよびそのデータベース |
JP2003288003A (ja) * | 2002-03-27 | 2003-10-10 | Honda Motor Co Ltd | 運転教習結果の評価システム及び方法 |
JP2012247854A (ja) * | 2011-05-25 | 2012-12-13 | Shinchosha | 運転評価システム、運転評価用プログラム、及び運転評価方法 |
US8606492B1 (en) * | 2011-08-31 | 2013-12-10 | Drivecam, Inc. | Driver log generation |
JP2018113015A (ja) * | 2016-09-23 | 2018-07-19 | ケーピーアイティ テクノロジーズ リミテッド | オートノマスシステムの検証法 |
Non-Patent Citations (1)
Title |
---|
HUANG, W., ET AL: "Autonomous vehicles testing methods review", 2016 IEEE 19TH INTERNATIONAL CONFERENCE ON INTELLIGENT TRANSPORTATION SYSTEMS (ITSC) [ONLINE], JPN6022026893, 1 November 2016 (2016-11-01), pages 163 - 168, XP033028340, ISSN: 0004811875, DOI: 10.1109/ITSC.2016.7795548 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220025626A (ko) * | 2020-08-24 | 2022-03-03 | 모셔널 에이디 엘엘씨 | 차량에 대한 머신 러닝 모델의 튜닝/트레이닝을 위한 운전 시나리오 샘플링 |
KR102523313B1 (ko) * | 2020-08-24 | 2023-04-18 | 모셔널 에이디 엘엘씨 | 차량에 대한 머신 러닝 모델의 튜닝/트레이닝을 위한 운전 시나리오 샘플링 |
US11938957B2 (en) | 2020-08-24 | 2024-03-26 | Motional Ad Llc | Driving scenario sampling for training/tuning machine learning models for vehicles |
KR102685448B1 (ko) | 2020-08-24 | 2024-07-15 | 모셔널 에이디 엘엘씨 | 차량에 대한 머신 러닝 모델의 튜닝/트레이닝을 위한 운전 시나리오 샘플링 |
WO2022239250A1 (ja) * | 2021-05-14 | 2022-11-17 | 三菱電機株式会社 | 行動決定装置、行動決定方法、行動決定プログラム、設計支援装置、設計支援方法および設計支援プログラム |
WO2022246860A1 (zh) * | 2021-05-28 | 2022-12-01 | 深圳市大疆创新科技有限公司 | 一种自动驾驶***的性能测试方法 |
WO2024080168A1 (ja) * | 2022-10-12 | 2024-04-18 | ソフトバンクグループ株式会社 | 自動運転走行試験方法及びプログラム |
KR102579590B1 (ko) * | 2022-12-28 | 2023-09-18 | 도로교통공단 | 도로교통법 기반 자율주행차 운전능력 평가시나리오 생성 시스템 |
Also Published As
Publication number | Publication date |
---|---|
JP7213704B2 (ja) | 2023-01-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220121550A1 (en) | Autonomous Vehicle Testing Systems and Methods | |
JP7213704B2 (ja) | 自動運転プログラム評価システム、及び自動運転プログラム評価方法 | |
JP6832421B2 (ja) | シミュレーションに基づく自動運転車の感知要求の評価方法 | |
CN109520744B (zh) | 自动驾驶车辆的驾驶性能测试方法和装置 | |
CN111123735B (zh) | 自动驾驶仿真运行方法和装置 | |
CN111680362B (zh) | 一种自动驾驶仿真场景获取方法、装置、设备及存储介质 | |
CN114077541A (zh) | 验证用于自动驾驶车辆的自动控制软件的方法和*** | |
JP2020187754A (ja) | 課せられる責任の制約を伴うナビゲーションシステム | |
US11385991B1 (en) | Collision evaluation for log-based simulations | |
GB2536770A (en) | Virtual sensor testbed | |
GB2536549A (en) | Virtual autonomous response testbed | |
JP5455777B2 (ja) | 交通シミュレーション装置、及び交通シミュレーションプログラム | |
EP2963632A1 (en) | Manoeuvre assistance | |
CN113272744A (zh) | 用于监测自动驾驶车辆的适当行为的***及其方法 | |
CN112101670A (zh) | 数据处理方法、装置、电子设备和可读存储介质 | |
EP4198804A1 (en) | Simulation obstacle vehicles with driving styles | |
WO2023145490A1 (ja) | 運転システムの設計方法及び運転システム | |
WO2023145491A1 (ja) | 運転システムの評価方法及び記憶媒体 | |
JPWO2020026459A1 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
US11837090B2 (en) | System and methods of adaptive traffic rule-based decision making for autonomous driving | |
JP7353323B2 (ja) | 検証装置、方法及びプログラム | |
US20230339517A1 (en) | Autonomous driving evaluation system | |
KR102601833B1 (ko) | 게임 엔진에 기반한 자율주행 알고리즘 시뮬레이션 방법 및 시스템 | |
EP4068241A1 (en) | Driving assistance system and method of controlling autonomous vehicles | |
KR20240074144A (ko) | 자율 주행 차량의 시뮬레이션 방법, 장치 및 컴퓨터-판독가능 기록매체 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210702 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220531 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220628 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220824 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230104 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230117 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7213704 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |