JP2020064603A - 情報処理装置、プログラム及び情報処理方法 - Google Patents
情報処理装置、プログラム及び情報処理方法 Download PDFInfo
- Publication number
- JP2020064603A JP2020064603A JP2019091583A JP2019091583A JP2020064603A JP 2020064603 A JP2020064603 A JP 2020064603A JP 2019091583 A JP2019091583 A JP 2019091583A JP 2019091583 A JP2019091583 A JP 2019091583A JP 2020064603 A JP2020064603 A JP 2020064603A
- Authority
- JP
- Japan
- Prior art keywords
- sensing data
- sensor
- inclination
- target portion
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims description 85
- 238000003672 processing method Methods 0.000 title claims description 16
- 238000012545 processing Methods 0.000 claims abstract description 208
- 238000001514 detection method Methods 0.000 claims abstract description 108
- 238000000034 method Methods 0.000 claims description 50
- 230000008569 process Effects 0.000 claims description 36
- 238000013528 artificial neural network Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 5
- 230000009467 reduction Effects 0.000 abstract description 3
- 230000036544 posture Effects 0.000 description 47
- 238000010586 diagram Methods 0.000 description 27
- 230000008859 change Effects 0.000 description 16
- 230000006870 function Effects 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 230000015654 memory Effects 0.000 description 7
- 230000002093 peripheral effect Effects 0.000 description 7
- 239000000470 constituent Substances 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 230000010354 integration Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24133—Distances to prototypes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Regulating Braking Force (AREA)
Abstract
Description
自動車をはじめとする近年の移動体には、操縦の支援又は自律移動(自動運転)の機能を備えるものがある。そしてこのような機能には、移動体の進行方向をセンシングするセンサが出力するデータを用いての物体検出の結果を利用するものがある。このような物体検出は、例えばイメージセンサから出力される画像データを用いての画像認識によって行われる。この画像認識は、ディープラーニング等の昨今の機械学習の技術の応用分野のひとつでもあり、改良のための研究が日々なされている。その研究において、画像認識処理の高速化又は画像認識処理に要する消費電力の低減のための一手法として検討されるものに計算量の削減がある。例えば、画像処理装置への入力画像に対する画像認識処理の前処理として、当該入力画像をクロッピングすることで所定の領域を除去して画像認識処理の対象から除外することで計算量を削減することができる。
[1.情報処理装置の構成]
図3は、実施の形態に係る情報処理装置の構成例を示すブロック図である。本実施の形態に係る情報処理装置10は、自動車等の移動体が備える物体検知システム1の一構成要素であり、物体検知に用いるセンシングデータの入力を受ける。また、センシングデータに基づいて、移動体の移動経路前方の移動面の移動体に対する傾きを判定し、センシングデータのこの傾きに応じて決定する部分を用いて物体検知を実行する。
次に、上記のように構成される情報処理装置10の動作について、引き続き自動車に搭載されている場合を例に説明する。図4は、情報処理装置10が実行する、画像認識処理の対象であるデータの処理対象部分を決定するための処理の手順例を示すフロー図である。
本開示の一又は複数の態様に係る情報処理装置、プログラム及び情報処理方法は、上記の実施の形態の説明に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が想到する各種の変形を上記の実施の形態に施したものも、本開示の態様に含まれてもよい。下記にそのような変形の例、及び実施の形態の説明へのその他の補足事項を挙げる。
10 情報処理装置
11 周辺状況判断部
12 自機姿勢判断部
13 領域変更部
14 物体検出処理部
15 処理周期変更部
16 速度変更通知部
20 周辺状況センサ
30 LiDAR
40 傾きセンサ
50 位置・姿勢取得部
60 地図情報
70 速度,照度
Claims (11)
- プロセッサを備える情報処理装置であって、前記プロセッサは、
第1センサから出力される、第3センサが設置される装置の周辺状況の判断に用いる第1センシングデータ、及び第2センサから出力される、前記装置の姿勢の判断に用いる第2センシングデータの少なくとも1つを取得し、
取得した前記第1センシングデータ及び前記第2センシングデータの少なくとも1つに基づいて、前記第3センサのセンシング方向における面の、前記姿勢に対する傾きを判定し、
前記第3センサから出力され、前記センシング方向における物体検出処理に用いられる第3センシングデータの処理対象部分を、前記傾きに応じて決定し、
前記第3センシングデータの決定された前記処理対象部分を用いて前記物体検出処理を実行する、ように構成される
情報処理装置。 - 前記プロセッサは、
前記傾きが所定の範囲以内である場合、前記第3センシングデータの一部を前記処理対象部分として決定し、
前記傾きが前記所定の範囲を超える場合、前記第3センシングデータの前記一部より広い部分を前記処理対象部分として決定し、
さらに、前記傾きが前記所定の範囲を超える場合、前記物体検出処理の処理周期を前記傾きが前記所定の範囲以内である場合よりも長くする
請求項1に記載の情報処理装置。 - 前記装置は、移動体であり、
前記プロセッサは、
さらに、前記傾きが前記所定の範囲を超える場合、前記移動体に減速を要求する
請求項2に記載の情報処理装置。 - 前記装置は、移動体であり、
前記プロセッサは、
さらに、前記傾きが前記所定の範囲を超える場合、前記移動体の使用者に警告を通知する
請求項2又は3に記載の情報処理装置。 - さらに、前記物体検出処理の信頼度に影響を及ぼす要素に応じて、前記処理対象部分のサイズを変更する
請求項2〜4のいずれか一項に記載の情報処理装置。 - 前記物体検出処理は、前記処理対象部分を1つ以上の学習済みモデルに入力することにより実行される
請求項1〜5のいずれか一項に記載の情報処理装置。 - 前記1つ以上の学習済みモデルは、複数の学習済みモデルであり、
前記プロセッサは、前記複数の学習済みモデルから前記傾きに応じて選択した学習済みモデルに前記処理対象部分を入力する
請求項6に記載の情報処理装置。 - 前記学習済みモデルは、多層ニューラルネットワークであり、
前記プロセッサは、
さらに、前記装置から前記傾きの起点までの距離を取得し、
前記距離に応じた前記学習済みモデルの層について、前記処理対象部分を決定する
請求項6又は7に記載の情報処理装置。 - 前記プロセッサは、
前記処理対象部分を、前記傾きに応じて前記処理対象部分をシフトすることで決定する
請求項1〜8のいずれか一項に記載の情報処理装置。 - プロセッサを備える情報処理装置において、前記プロセッサによって実行されることで前記プロセッサに、
第1センサから出力される、第3センサが設置される装置の周辺状況の判断に用いる第1センシングデータ、及び第2センサから出力される、前記装置の姿勢の判断に用いる第2センシングデータの少なくとも1つを取得させ、
取得した前記第1センシングデータ及び前記第2センシングデータの少なくとも1つに基づいて、前記第3センサのセンシング方向における面の、前記姿勢に対する傾きを判定させ、
前記第3センサから出力され、前記センシング方向における物体検出処理に用いられる第3センシングデータの処理対象部分を、前記傾きに応じて決定させ、
前記第3センシングデータの決定された前記処理対象部分を用いて前記物体検出処理を実行させる
プログラム。 - プロセッサが、
第1センサから出力される、第3センサが設置される装置の周辺状況の判断に用いる第1センシングデータ、及び第2センサから出力される、前記装置の姿勢の判断に用いる第2センシングデータの少なくとも1つを取得し、
取得した前記第1センシングデータ及び前記第2センシングデータの少なくとも1つに基づいて、前記第3センサのセンシング方向における面の、前記姿勢に対する傾きを判定し、
前記第3センサから出力され、前記センシング方向における物体検出処理に用いられる第3センシングデータの処理対象部分を、前記傾きに応じて決定し、
前記第3センシングデータの決定された前記処理対象部分を用いて前記物体検出処理を実行する
情報処理方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP19873201.8A EP3869451A4 (en) | 2018-10-18 | 2019-08-06 | INFORMATION PROCESSING DEVICE, PROGRAM AND INFORMATION PROCESSING METHOD |
PCT/JP2019/030794 WO2020079927A1 (ja) | 2018-10-18 | 2019-08-06 | 情報処理装置、プログラム及び情報処理方法 |
CN201980005343.8A CN111417959A (zh) | 2018-10-18 | 2019-08-06 | 信息处理装置、程序及信息处理方法 |
US16/902,763 US11341670B2 (en) | 2018-10-18 | 2020-06-16 | Information processing device, information processing method, and recording medium |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862747278P | 2018-10-18 | 2018-10-18 | |
US62/747,278 | 2018-10-18 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020064603A true JP2020064603A (ja) | 2020-04-23 |
JP7326018B2 JP7326018B2 (ja) | 2023-08-15 |
Family
ID=70388324
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019091583A Active JP7326018B2 (ja) | 2018-10-18 | 2019-05-14 | 情報処理装置、情報処理方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP3869451A4 (ja) |
JP (1) | JP7326018B2 (ja) |
CN (1) | CN111417959A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022074700A1 (ja) * | 2020-10-05 | 2022-04-14 | 日本電気株式会社 | 情報処理装置、情報処理システム、情報処理方法 |
JP2023002215A (ja) * | 2021-06-22 | 2023-01-10 | 株式会社クボタ | 農業機械 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010162975A (ja) * | 2009-01-14 | 2010-07-29 | Fujitsu Ten Ltd | 車両制御システム |
WO2014073558A1 (ja) * | 2012-11-07 | 2014-05-15 | 株式会社デンソー | 車載レーダ装置、及び、この装置における坂道判定方法 |
JP2017100716A (ja) * | 2015-12-03 | 2017-06-08 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh | オープンエリアの識別 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8630806B1 (en) * | 2011-10-20 | 2014-01-14 | Google Inc. | Image processing for vehicle control |
US9145140B2 (en) * | 2012-03-26 | 2015-09-29 | Google Inc. | Robust method for detecting traffic signals and their associated states |
KR101641490B1 (ko) * | 2014-12-10 | 2016-07-21 | 엘지전자 주식회사 | 차량 운전 보조 장치 및 이를 구비한 차량 |
JP6657925B2 (ja) * | 2015-06-04 | 2020-03-04 | ソニー株式会社 | 車載カメラ・システム並びに画像処理装置 |
CN107226091B (zh) * | 2016-03-24 | 2021-11-26 | 松下电器(美国)知识产权公司 | 物体检测装置、物体检测方法以及记录介质 |
TWI611961B (zh) * | 2016-06-01 | 2018-01-21 | 緯創資通股份有限公司 | 車道線影像分析方法、影像分析裝置及其電腦可讀取式媒體 |
JP6759899B2 (ja) * | 2016-09-08 | 2020-09-23 | アイシン精機株式会社 | 車両用画像処理装置 |
KR20180061686A (ko) * | 2016-11-30 | 2018-06-08 | 삼성전자주식회사 | 자율 주행 경로 생성 방법 및 그 장치 |
US10586121B2 (en) * | 2017-01-27 | 2020-03-10 | Gentex Corporation | Image compensation for motorcycle banking |
-
2019
- 2019-05-14 JP JP2019091583A patent/JP7326018B2/ja active Active
- 2019-08-06 CN CN201980005343.8A patent/CN111417959A/zh active Pending
- 2019-08-06 EP EP19873201.8A patent/EP3869451A4/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010162975A (ja) * | 2009-01-14 | 2010-07-29 | Fujitsu Ten Ltd | 車両制御システム |
WO2014073558A1 (ja) * | 2012-11-07 | 2014-05-15 | 株式会社デンソー | 車載レーダ装置、及び、この装置における坂道判定方法 |
JP2017100716A (ja) * | 2015-12-03 | 2017-06-08 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングRobert Bosch Gmbh | オープンエリアの識別 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022074700A1 (ja) * | 2020-10-05 | 2022-04-14 | 日本電気株式会社 | 情報処理装置、情報処理システム、情報処理方法 |
JP2023002215A (ja) * | 2021-06-22 | 2023-01-10 | 株式会社クボタ | 農業機械 |
JP7387678B2 (ja) | 2021-06-22 | 2023-11-28 | 株式会社クボタ | 農業機械 |
Also Published As
Publication number | Publication date |
---|---|
JP7326018B2 (ja) | 2023-08-15 |
EP3869451A1 (en) | 2021-08-25 |
EP3869451A4 (en) | 2021-12-08 |
CN111417959A (zh) | 2020-07-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11192557B2 (en) | Road profile along a predicted path | |
US11790230B2 (en) | Distance to obstacle detection in autonomous machine applications | |
JP7349792B2 (ja) | 車両走行のための情報を提供する方法 | |
US20230205219A1 (en) | Path detection for autonomous machines using deep neural networks | |
US20210241004A1 (en) | Object fence generation for lane assignment in autonomous machine applications | |
JP6878493B2 (ja) | 自動運転車両(adv)に用いるピッチ角の補正方法 | |
US11900629B2 (en) | Surface profile estimation and bump detection for autonomous machine | |
KR102313026B1 (ko) | 차량 및 차량 후진 시 충돌방지 보조 방법 | |
CN108496178B (zh) | 用于估计未来路径的***和方法 | |
JP6984624B2 (ja) | 表示制御装置および表示制御プログラム | |
US20230316772A1 (en) | Under vehicle reconstruction for vehicle environment visualization | |
WO2020079927A1 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
JP2022008854A (ja) | 制御装置 | |
JP7326018B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP6595647B2 (ja) | 走行制御装置、車両および走行制御方法 | |
JP2023110364A (ja) | 物体追跡装置、物体追跡方法、およびプログラム | |
JP2009217491A (ja) | 移動支援装置、移動体、領域設定方法 | |
JP4847303B2 (ja) | 障害物検出方法、障害物検出プログラムおよび障害物検出装置 | |
US11915436B1 (en) | System for aligning sensor data with maps comprising covariances | |
WO2023192753A1 (en) | Under vehicle reconstruction for vehicle environment visualization | |
WO2023192756A1 (en) | Image stitching with dynamic seam placement based on object saliency for surround view visualization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230228 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230412 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230725 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230802 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7326018 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |