JP2022016908A - 俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置 - Google Patents

俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置 Download PDF

Info

Publication number
JP2022016908A
JP2022016908A JP2020119895A JP2020119895A JP2022016908A JP 2022016908 A JP2022016908 A JP 2022016908A JP 2020119895 A JP2020119895 A JP 2020119895A JP 2020119895 A JP2020119895 A JP 2020119895A JP 2022016908 A JP2022016908 A JP 2022016908A
Authority
JP
Japan
Prior art keywords
bird
eye view
view image
vehicle
point cloud
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020119895A
Other languages
English (en)
Inventor
晋也 田川
Shinya Tagawa
盛彦 坂野
Morihiko Sakano
佳彦 新谷
Yoshihiko Shinya
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Faurecia Clarion Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Faurecia Clarion Electronics Co Ltd filed Critical Faurecia Clarion Electronics Co Ltd
Priority to JP2020119895A priority Critical patent/JP2022016908A/ja
Priority to CN202110771626.2A priority patent/CN113997931B/zh
Priority to EP21184903.9A priority patent/EP3939863A1/en
Priority to US17/371,516 priority patent/US12033400B2/en
Publication of JP2022016908A publication Critical patent/JP2022016908A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/586Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of parking space
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/027Parking aids, e.g. instruction means
    • B62D15/0285Parking performed automatically
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/06Automatic manoeuvring for parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B62LAND VEHICLES FOR TRAVELLING OTHERWISE THAN ON RAILS
    • B62DMOTOR VEHICLES; TRAILERS
    • B62D15/00Steering not otherwise provided for
    • B62D15/02Steering position indicators ; Steering position determination; Steering aids
    • B62D15/021Determination of steering angle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404Characteristics
    • B60W2554/4048Field of view, e.g. obstructed view or direction of gaze
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00Input parameters relating to objects
    • B60W2554/40Dynamic objects, e.g. animals, windblown objects
    • B60W2554/404Characteristics
    • B60W2554/4049Relationship among other objects, e.g. converging dynamic objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Multimedia (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

【課題】データ量を低減した俯瞰画像を生成する俯瞰画像生成装置を提供する。【解決手段】俯瞰画像生成装置(155)は、車両(1)の移動距離を算出する移動量算出部(155A)と、カメラ(25)の撮影画像の視点を俯瞰視点に変換した俯瞰画像(200)を生成し、生成した俯瞰画像(200)の形状を直線状に形状変換した直線状俯瞰画像(131)を生成する直線状俯瞰画像生成部(155B)と、舵角センサ(43)のセンサデータが示す車両(1)の旋回量と、移動量算出部(155A)が算出した移動距離とを用いて、移動距離ごとの車両(1)の旋回角度を示す距離別旋回角度情報(133)を算出する距離別旋回角度生成部(155C)と、直線状俯瞰画像(131)と、距離別旋回角度情報(133)とを用いて俯瞰画像(200)を再構成する俯瞰画像再構成部(155D)と、を備える。【選択図】図3

Description

本発明は、俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置に関する。
従来、自動運転の一形態として自動駐車が知られている。自動駐車は、駐車場に限定した自動運転で、運転手の駐車運転の操作や車両周囲の監視、歩行者や車両などとの衝突防止を代替する。自動駐車を実現するための方法のひとつとして、地図を自己生成し、自己生成した地図上で自車の位置を特定して自動駐車を行う方法が知られている(例えば、特許文献1参照)。このような用途で使われる地図には、自車の位置を推定するランドマークや、カメラ画像等を俯瞰視点に変換して生成した地図画像(俯瞰画像)が含まれる。地図情報のデータ量は、できるだけ小さいことが望ましい。
特開2012-18170公報
特許文献1においては、LiDAR等の3次元情報取得センサで取得した密な3次元点群と、カメラ等で取得した色・輝度情報を対応付け、3次元点群を俯瞰視点に変換し、地図画像を生成している。この方法をとるためには、十分な密度の点群を取得できるセンサが必須であるうえ、3次元情報に色・輝度情報を紐付けた状態でデータを保持するため、データ量が多くなってしまう。
本発明は上記事情に鑑みてなされたものであり、データ量を低減した俯瞰画像を生成することを目的とする。
上記課題を解決するため、本発明の俯瞰画像生成装置は、車両に搭載されたセンサのセンサデータを取得するデータ取得部と、前記データ取得部が取得した前記センサデータを用いて前記車両の移動量を算出する移動量算出部と、前記データ取得部が取得した前記センサデータに含まれる前記車両の周囲を撮影した撮影画像を用いて前記撮影画像の視点を俯瞰視点に変換した俯瞰画像を生成し、生成した前記俯瞰画像の形状を直線状に形状変換した直線状俯瞰画像を生成する直線状俯瞰画像生成部と、前記データ取得部が取得した前記車両の旋回量を示す前記センサデータと、前記移動量算出部が算出した移動量とを用いて、前記車両の所定の移動量ごとの前記車両の旋回量を算出する移動量別旋回量算出部と、前記直線状俯瞰画像生成部が生成した前記直線状俯瞰画像と、前記移動量別旋回量算出部が算出した前記所定の移動量ごとの旋回量を示す情報とを記憶する記憶部と、前記直線状俯瞰画像と、前記移動量ごとの旋回量とを用いて、前記俯瞰画像を再構成する俯瞰画像再構成部と、を備えることを特徴とする。
本発明によれば、データ量を低減した俯瞰画像を生成することができる。
車載装置の構成を示すブロック図である。 点群地図の一例を示す図である。 俯瞰画像生成部の構成を示すブロック図である。 俯瞰画像の一例を示す図である。 直線状俯瞰画像の一例を示す図である。 不揮発性記憶部が記憶する分割された直線状俯瞰画像を示す図である。 不揮発性記憶部が記憶する分割された直線状俯瞰画像を示す図である。 自動駐車装置が備える動作モードと、動作モードの変更条件とを示す図である。 直線状俯瞰画像生成部の動作を示すフローチャートである。 距離別旋回角度生成部の動作を示すフローチャートである。 俯瞰画像再構成部の動作を示すフローチャートである。 動作モードが地図記憶モードの場合の自動駐車装置の動作を示すフローチャートである。 動作モードが自己位置推定モードの場合の自動駐車装置の動作を示すフローチャートである。 自己位置推定処理の詳細を示すフローチャートである。 局所周辺情報の選定の詳細な動作を示すフローチャートである。 マッチング処理の詳細な手順を示すフローチャートである。 自動駐車モードの動作を示すフローチャートである。 駐車場の一例を示す平面図である。 点群データを示す図である。 点群データを示す図である。 駐車場内の走行軌跡と、車両が駐車場内を走行したことにより得られた局所周辺情報とを示す図である。 マッチング処理のマッチング結果を示す図である。 (A)は、車両の現在位置を示す図であり、(B)は、現在位置において検出された点群データを示す図である。 駐車場データの点群データと、局所周辺情報の点群データとのマッチング結果を示す図である。 局所周辺情報の点群データを、駐車枠の幅の整数倍で移動させた場合の駐車場データの点群データとの関係を示す図である。 俯瞰画像生成システムのシステム構成図である。
[1.車載装置の構成]
以下、添付図面を参照して本発明の実施形態について説明する。
図1は、車載装置10の構成を示すブロック図である。
車載装置10は、車両1に搭載された装置であり、外界センサ群20、ナビゲーション装置30、車両センサ群40、車両制御装置50、操舵装置51、駆動装置53、制動装置55、通信装置60、入力装置70、表示装置80及び自動駐車装置100を備える。自動駐車装置100は、通信バス5を介して外界センサ群20、ナビゲーション装置30、車両センサ群40及び車両制御装置50に接続される。通信バス5には、例えば、CAN(Controller Area Network:登録商標)や、LIN(Local Interconnect Network)、車載イーサネット(登録商標)等の規格に対応したバスが採用される。
外界センサ群20は、レーダ21、ソナー23及びカメラ25を備える。
レーダ21及びソナー23は、それぞれ特定波長の電波や音波を放射し、放射した電波や音波が車両1の外部に存在する障害物で反射した反射波を受波するまでの時間を計測する。レーダ21及びソナー23は、計測した時間に基づいて、障害物の位置や方向、障害物までの距離等を測定する。レーダ21及びソナー23は、障害物を点群として測定し、測定結果を示す測定データを自動駐車装置100に出力する。
カメラ25は、例えば、車両1の前方、後方、右側方及び左側方にそれぞれ設置される。各カメラ25は、CCD(Charge-Coupled Device)やCMOS(Complementary Metal-Oxide-Semiconductor)等のイメージセンサと、イメージセンサの受光状態から画像を生成するデータ処理回路とを備える。
カメラ25は、4つのカメラ25により車両1を中心に360°の範囲を撮影可能となるように画角が調整されている。各カメラ25は、予め設定された撮影範囲を所定のフレームレートで撮影して撮影画像を生成する。各カメラ25は、撮影により生成した撮影画像を自動駐車装置100に出力する。
ナビゲーション装置30は、GNSS(Global Navigation Satellite System)信号を受信するGNSS受信器31を備える。ナビゲーション装置30は、GNSS受信器31が受信したGNSS信号に基づいて車両1の現在位置を示す緯度及び経度を演算する。
また、ナビゲーション装置30は、記憶部33を備える。記憶部33は、不揮発性の記憶装置であり、道路地図35を記憶する。道路地図35には、道路接続構造に関する情報と、道路位置に対応する緯度及び経度とが含まれる。
ナビゲーション装置30は、演算により求めた緯度及び経度と、この緯度及び経路を含む道路地図35とに基づいて、車両1が走行する道路位置の緯度及び経度を算出する。ナビゲーション装置30により算出される緯度及び経度は、高精度でなくてもよく、例えば、数m~10m程度の誤差が含まれてもよい。ナビゲーション装置30は、算出した緯度及び経度を測位データとして自動駐車装置100に出力する。
車両センサ群40は、車両1に搭載され、車両1の走行状態を検出する複数のセンサを備える。本実施形態は、車両センサ群40が、車両1の車速を検出する車速センサ41と、車両1のステアリングホイールの操舵角を検出する舵角センサ43とを備える構成を示すが、例えば、ブレーキセンサや、シフトポジションセンサ等の他のセンサを備える構成であってもよい。
車両制御装置50は、例えば、ECU(Electronic Control Unit)等のコンピュータ装置であり、車両1に搭載された操舵装置51、駆動装置53及び制動装置55を制御する装置である。車両制御装置50は、操舵装置51、駆動装置53及び制動装置55に接続される。車両制御装置50は、自動駐車装置100から入力される制御情報に従って操舵装置51、駆動装置53及び制動装置55を制御し、車両1を自動で走行させる。車両制御装置50は、本発明の自動駐車部に相当する。
通信装置60は、外部機器と無線通信を行い、外部機器とデータを送受信する。外部機器には、例えば、ユーザの所持する携帯端末が含まれる。通信装置60は、例えば、ユーザが車両1の外にいるときに、携帯端末とデータ通信を行い、情報を授受する。通信装置60が通信を行う対象はユーザの携帯端末に限定されない。通信装置60は、本発明の通信部に相当する。
入力装置70は、ユーザの操作を受け付ける受付部として機能する。本実施形態の入力装置70は、ハードウェアボタンとして、応答ボタン71と、自動駐車ボタン73とを備える。応答ボタン71は、表示装置70の表示に対するユーザの操作を受け付けるボタンであり、肯定操作を入力するボタンと、否定操作を入力するボタンとを備える。自動駐車ボタン73は、自動駐車装置100に、自動駐車を開始させるボタンである。入力装置70は、応答ボタン71や自動駐車ボタン73が操作されると、操作されたボタンに対応した操作信号を自動駐車装置100に出力する。自動駐車装置100は、入力された操作信号に基づき、応答ボタン71が操作されたのか、自動駐車ボタン73が操作されたのかを判定する。
表示装置70は、例えば、液晶ディスプレイ等の表示パネルを備え、自動駐車装置100により生成された表示データに基づく画像を表示パネルに表示させる。
また、表示装置70は、タッチパネルを備える構成としてもよい。タッチパネルは、表示パネルに対するタッチ操作を検出するタッチセンサを備える。タッチパネルは、タッチ操作によりタッチされたタッチパネルの座標を示す座標情報を自動駐車装置100に出力する。また、タッチパネルに応答ボタン71及び自動駐車ボタン73を表示させ、これらのボタンの表示位置に対応する座標情報が入力された場合に、自動駐車装置100は、対応するボタンが操作されたと判定してもよい。
自動駐車装置100は、インターフェイス101、ROM(Read Only Memory)110、RAM(Random access memory)120、不揮発性記憶部130及びプロセッサ150を備える。以下、インターフェイス101を、I/F101と表記する。
インターフェイス101は、通信バス5を介して、外界センサ群20、ナビゲーション装置30、車両センサ群40及び車両制御装置50に接続され、これらのセンサや装置と相互にデータ通信を行う。
ROM110は、読み取り専用のメモリであり、プロセッサ150が実行するコンピュータプログラムを記憶する。また、ROM110は、カメラ25の焦点距離や撮像素子サイズ等の内部パラメータと、車両1へのカメラ25の取り付け位置や取り付け姿勢を示す外部パラメータとを記憶する。
RAM120は、自動駐車装置100の主記憶装置として機能し、プロセッサ150が実行するコンピュータプログラムや、プロセッサ150がコンピュータプログラムの実行時に処理されるデータや処理結果のデータを記憶する。また、RAM120は、局所周辺情報121及びアウトライアリスト123を記憶する。
局所周辺情報121には、後述する位置推定モード230において、自動駐車装置100が検出したランドマークを構成する点の座標が登録される。ランドマークとは、レーダ21や、ソナー23、カメラ25等のセンサにより識別可能な特徴を有する物体であり、例えば、路面に形成された駐車枠や、車両1の走行の妨げとなる駐車場の柱や壁等の障害物が含まれる。ランドマークを構成する点の座標は、局所周辺情報121の登録を開始したときの車両1の位置及び向きを基準に、例えば、車両1の位置を原点とし、車両1の進行方向をY軸とし、進行方向右をX軸とする座標系である。この座標系を以下では「局所座標系」と呼ぶ。局所座標系は、本発明の第2座標系に相当する。
アウトライアリスト123は、局所周辺情報121として登録された点の座標のうち、除外する対象の点の情報が登録されたリストである。アウトライアリスト123は、自動駐車装置100により適宜更新される。
不揮発性記憶部130は、例えば、フラッシュメモリ等の不揮発性のメモリにより構成され、直線状俯瞰画像131、距離別旋回角度情報133、点群地図135、センサ誤差データベース137及び環境データベース139を記憶する。
直線状俯瞰画像131は、車両1の前方、後方、左側方及び右側方に設置されたカメラ25の撮影画像に基づいて生成される俯瞰画像である。詳細には、直線状俯瞰画像131は、俯瞰画像の生成の際に、舵角センサ43から得られる旋回量の情報を無視し、車速センサ41のセンサデータから得られる車両1の移動量(移動距離)の情報を反映して生成された俯瞰画像である。
距離別旋回角度情報133は、車速センサ41のセンサデータに基づいて算出された車両1の移動距離と、舵角センサ43のセンサデータに基づいて算出された旋回量とを対応づけて登録したテーブルを有する。自動駐車装置100が後述する地図記憶モード220に移行して記録座標系が設定され、外界センサ群20のセンサデータの記録が開始されると、車両1の移動距離と、移動距離ごとの旋回量とが対応づけられ、テーブルに登録される。記録座標系は、例えば、自動駐車装置100が地図記憶モード220に移行し、センサデータの記録を開始したときの車両1の位置を原点(0、0)とし、記録開始時の車両1の進行方向(姿勢)をY軸、記録開始時の車両1の右方向をX軸とした座標系である。
点群地図135には、駐車場に関するデータ(以下、駐車場データという)が登録される。駐車場データには、駐車場内の駐車位置を示す座標情報と、ランドマークの位置を示す座標情報と、地図データの作成時に車両1が走行した走行経路を示す座標情報とが含まれる。
図2は、点群地図135の一例を示す図である。図2に示す点群地図135には、2つの駐車場データが登録された例を示す。駐車場データには、駐車位置1351と、ランドマーク1352と、走行経路1353との位置情報が登録される。位置情報には、相対位置を示す情報と、絶対位置とを示す情報とが含まれる。相対位置を示す情報は、所定の位置を基準とする座標情報であり、絶対位置を示す情報は、緯度及び経度である。
駐車位置1351の座標情報は、例えば、駐車位置1351を矩形とした場合にこの矩形領域の4つの頂点の座標として記録される。ただし、駐車位置1351は、矩形に限定されず矩形以外の多角形や楕円形状でもよい。
ランドマーク1352の座標情報は、ランドマークを構成する点群の二次元平面上の座標を示す。
走行経路1353を示す座標情報は、駐車位置1351やランドマーク1352の座標の記録時に、車両1が走行した走行経路を示す。
点群地図135に登録される座標情報は、各駐車場データに固有の座標系での座標である。点群地図135に登録された各駐車場データに固有の座標系を駐車場座標系という。駐車場座標系は、例えば、外界センサ群20により測定される測定データの記録開始時の車両1の位置を示す座標を原点、記録開始時の車両1の進行方向をY軸、記録開始時の車両1の右方向をX軸とする座標系である。駐車場座標系は、本発明の第1座標系に相当する。
センサ誤差データベース137は、車両センサ群40のセンサデータに基づいて車両1の位置を推定した場合に含まれる誤差のデータが登録される。より詳細には、予め設定された車速及び旋回半径で車両1を走行させ、公知のデッドレコニングにより車両1の位置を推定した場合に含まれる誤差のデータが登録される。
環境データベース139には、公知のデッドレコニングにより車両1の位置を推定した場合の許容誤差を示すデータが、道路の道幅ごとに登録される。センサ誤差データベース137及び環境データベース139は、点群地図135が車両1の位置推定、及びその後の車両1の移動経路に生成等に使用できるか否かを判定する判定材料として用いられる。
プロセッサ150は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)により構成される演算処理装置である。プロセッサ150は、コンピュータプログラムを実行して車載装置10の各部を制御する。プロセッサ150は、単一のプロセッサにより構成してもよいし、複数のプロセッサにより構成することも可能である。また、プロセッサ150は、ROM110や、RAM120、不揮発性記憶部130の一部又は全部や、その他の回路と統合されたSoC(System on Chip)により構成してもよい。また、プロセッサ150は、プログラムを実行するCPUと、所定の演算処理を実行するDSP(Digital Signal Processor)との組合せにより構成してもよい。さらに、プロセッサ150の機能の全てをハードウェアに実装した構成としてもよく、プログラマブルデバイスを用いて構成してもよい。
プロセッサ150は、機能ブロックとして、データ取得部151、ランドマーク測位部152、点群データ検証部153、駐車場データ登録部154、俯瞰画像生成部155、位置推定部156、駐車経路生成部157、制御情報生成部158、表示制御部159及びモード切替部160を備える。これらのブロックは、プロセッサ150がコンピュータプログラムの命令セットを実行して、データの演算や制御を行うことにより実現される機能をブロックにより示したものである。
データ取得部151には、外界センサ群20や車両センサ群40が出力したセンサデータが入力される。データ取得部151は、入力されたセンサデータを不揮発性記憶部130に記憶させる。
ランドマーク測位部152は、ランドマーク測位を実行して、ランドマークを構成する点群の位置を示す点群データを取得する。ランドマークとは、上述したようにレーダ21や、ソナー23、カメラ25等のセンサにより識別可能な特徴を有する駐車場の柱や壁、駐車場の路面にペイントされた白線の駐車枠等である。本実施形態では、ランドマークに、他車両や人等の移動体は含めない。
ランドマーク測位部152は、レーダ21や、ソナー23のセンサデータや、カメラ25の撮影画像を不揮発性記憶部130から読み出す。ランドマーク測位部152は、読み出したセンサデータに基づいて検出対象となるランドマークの示す点群データを取得する。
次に、ランドマークとししての駐車枠を撮影画像から検出する方法について説明する。
ランドマーク測位部152は、ソーベルフィルタ等のフィルタを用いたフィルタ処理により、入力された撮影画像に含まれるエッジを抽出する。次に、ランドマーク測位部152は、例えば、白から黒への変化であるエッジの立ち上がりと、黒から白への変化であるエッジの立ち下がりのペアを抽出する。そして、ランドマーク測位部152は、このペアの間隔が、予め設定された第1設定範囲内にあるか否かを判定する。第1設定範囲は、ペアの間隔が、駐車枠を構成する白線の太さと略一致すると判定できる範囲に設定される。ランドマーク測位部152は、抽出したペアの間隔が、第1設定範囲内にある場合、検出したペアを駐車枠の候補に設定する。
ランドマーク測位部152は、同様の処理により駐車枠の候補を複数検出し、駐車枠の候補同士の間隔が、予め設定した第2設定範囲内にある場合、これらの駐車枠の候補を駐車枠として検出する。第2設定範囲は、駐車枠を構成する白線同士の間隔が取り得る範囲に設定される。
また、ランドマーク測位部152は、駐車枠以外の路面ペイントを、以下の処理により検出する。まず、ランドマーク測位部152は、ソーベルフィルタ等のフィルタを用いたフィルタ処理により、入力された撮影画像からエッジを抽出する。ランドマーク測位部152は、エッジ強度が予め設定した一定の値よりも大きく、エッジ同士の間隔が白線の幅に相当する予め定めた距離である画素を探索して撮影画像に含まれるエッジを抽出する。
次に、ランドマーク測位部152は、既知のテンプレートマッチングにより撮影画像から車両や人を検出し、検出した車両や人等の移動体を、フィルタ処理により抽出したエッジから除外する。また、ランドマーク測位部152は、ROM110から内部パラメータや外部パラメータを読み出し、読み出したこれらのパラメータを用いて撮影画像における被写体とカメラ25との位置関係を算出する。次に、ランドマーク測位部152は、連続して撮影された撮影画像を対象として、被写体を追跡することで車両1と被写体との相対的な速度差を算出する。そして、ランドマーク測位部152は、車速センサ41及び舵角センサ43のセンサデータにより求められる車両1の車速が、被写体との速度差に一致しなければ被写体が移動体であると判断し、この移動体に関する情報を測定結果から除外する。
ランドマーク測位部152は、検出した駐車位置1351を示す点群データや、ランドマークを示す点群データ、走行経路を示す点群データを、点群地図135に登録する。
点群データ検証部153は、車両1が駐車位置に移動し、サイドブレーキを作動させたことをトリガーとして、ランドマーク測位部152が取得した点群データが、駐車場データとして使用可能なデータであるか否かを検証する。
点群データ検証部153は、ランドマーク測位部152が取得した点群データが、車両1の自己位置の推定、及びその後の自動駐車による移動経路の生成等に使用できるデータであるか否かを検証する。点群データを、自己位置の推定等に使用できない場合、点群データを使用して自動駐車しようとしても失敗しまうため、これを防止することが目的である。
点群データ検証部153は、2つの検証条件に基づいて点群データを検証する。
1つ目の検証条件は、点群データの局所成立性である。また、2つ目の検証条件は、自律航法だけで走行可能な距離である。
点群データ検証部153は、点群データを取得するために車両1が走行した走行軌跡上の所定間隔ごとの位置において、一定周囲の点群の密度、形状から点群データの局所的成立性を判定する。例えば、車両1の一定周囲に存在する点群データの密度が予め設定されたしきい値以上であり、かつ、車両1の一定周囲内に同一の点群分布パターンがない場合、点群データ検証部153は、点群データの局所成立性を満たしていると判定する。
次に、2つ目の検証条件である自律航法だけで走行可能な距離について説明する。
点群データ検証部153は、点群データを取得するために車両1が走行した走行軌跡を所定間隔ごとに分割する。点群データ検証部153は、分割した区間ごとに自律航法だけで走行可能な距離を算出し、算出した距離をRAM120に記憶させる。点群データ検証部153は、センサ誤差データベース137及び環境データベース139を参照して、点群データの局所成立性が成り立たない区間があった場合でも、その区間の自律航法での誤差発生量が十分に小さく、許容誤差内であれば、検証対象の点群データを駐車場データとして使用できると判定する。また、点群データ検証部153は、局所成立性が成り立たず、かつ、自律航法での誤差が許容誤差よりも大きくなる区間が走行経路に含まれる場合、点群地図135を使用不可と判定する。
駐車場データ登録部154は、点群データ検証部153により駐車場データとして使用できると判定された点群データを、すでに点群地図135に登録された駐車場データに統合(マージ)するか、新たな駐車場データとして登録するかを判定する。
駐車場データ登録部154は、対象の点群データと、点群地図135に登録済みの駐車場データに含まれる点群データとの点群一致率を算出して、対象の点群データを、登録済みの駐車場データに統合するか、新たな駐車場データとして登録するかを判定する。駐車場データ登録部154は、判定結果に従って、点群データを、駐車場データに統合、又は、新たな駐車場データとして登録する。
[2.俯瞰画像生成部の構成、及び直線状俯瞰画像について]
図3は、俯瞰画像生成部155の構成を示すブロック図である。俯瞰画像生成部155は、本発明の俯瞰画像生成装置に相当する。
俯瞰画像生成部155は、移動量算出部155A、直線状俯瞰画像生成部155Bと、距離別旋回角度生成部155Cと、俯瞰画像再構成部155Dとを備える。
移動量算出部155Aには、車速センサ41のセンサデータが入力される。移動量算出部155Aは、入力されたセンサデータに基づき車両1が移動した移動距離を算出する。
移動量算出部155Aは、自動駐車装置100の動作モードが地図記憶モード220に移行し、記録座標系が設定され、外界センサ群20のセンサデータの記録が開始されると、入力される車速センサ41のセンサデータに基づき、車両1の移動距離を算出する。
直線状俯瞰画像生成部155Bは、カメラ25の撮影画像と、移動量算出部155Aが算出した車両1の移動距離とを用いて直線状俯瞰画像131を生成する。
一般的に、俯瞰画像は、カメラ25の撮影画像を、ROM110から読み出した外部パラメータを用いてソフトウェア的に視点変換することで、車両1の上方から地面を見下ろした視点である俯瞰視点の画像に変換し、変換した画像を、車両1の走行軌跡に沿って時系列的につなぎ合わせることで生成される。この際、直線状俯瞰画像生成部155Bは、舵角センサ43のセンサデータが示す旋回量の情報は考慮せずに、移動量算出部155Aが算出した車両1の移動距離のみを考慮して直線状俯瞰画像131を生成する。すなわち、直線状俯瞰画像131は、俯瞰画像200を直線的に延ばした画像である。
図4は、俯瞰画像の一例を示す図であり、図5は、直線状俯瞰画像131の一例を示す図である。図5に示す直線状俯瞰画像131は、旋回量の情報は考慮せずに生成する地図画像であるため、図4に示す旋回等によって生じる無駄な領域201のデータを削減することできる。
俯瞰画像200と直線状俯瞰画像131とを比較すると、俯瞰画像200は、車両1が旋回した場合にデータ量が極端に増える場合があるが、直線状俯瞰画像131は、車両1の移動距離に応じて比例的にデータ量が増えるという特徴を有している。
距離別旋回角度生成部155Cは、本発明の移動量別旋回量算出部に相当する。距離別旋回角度生成部155Cには、移動量算出部155Aが算出した車両1の移動距離と、舵角センサ43のセンサデータとが入力される。距離別旋回角度生成部155Cは、入力される移動距離と、センサデータが示す旋回量とを対応づけてテーブルに登録することで、距離別旋回角度情報133を生成する。距離別旋回角度生成部155Cは、自動駐車装置100が地図記憶モード220に移行して記録座標系が設定され、外界センサ群20のセンサデータの記録が開始されると、記録座標系における車両1の移動距離と、移動距離ごとの旋回量とを対応づけてテーブルに登録し、距離別旋回角度情報133を生成する。
直線状俯瞰画像生成部155Bが生成した直線状俯瞰画像131と、距離別旋回角度生成部155Cが生成した距離別旋回角度情報133とは、不揮発性記憶部130に記憶される。俯瞰画像200ではなく、直線状俯瞰画像131を不揮発性記憶部130に記憶させておくことで、立体駐車場等の階層構造も2次元画像で表現することができ、直線状俯瞰画像131を用いると立体駐車場であっても俯瞰画像200の生成が可能となる。
また、車速センサ41や舵角センサ43のセンサデータに誤差が含まれる場合、車両1が1周回って同じ場所に帰ってきたときに、俯瞰画像200上では本来同じ場所になるべきところが、誤差のため他の場所に画像が重なってしまう場合がある。
車速センサ41や舵角センサ43のセンサデータに誤差が含まれる場合であっても、直線状俯瞰画像131や距離別旋回角度情報133に基づいて生成される俯瞰画像200が誤って重なることがなく、俯瞰画像200の汚損を低減することができる。
また、自車挙動の補正情報を用いた俯瞰画像の形状補正が容易に可能であるという利点もある。
図6及び図7は、不揮発性記憶部130が記憶する分割された直線状俯瞰画像131を示す図である。
また、直線状俯瞰画像131は、図6や図7に示すように予め設定されたデータ量や距離で分割して不揮発性記憶部130に記憶させてもよい。
図6は、2つに分割した直線状俯瞰画像131Aと、直線状俯瞰画像131Bとを、不揮発性記憶部130の異なる記憶領域に記憶させた場合を示す。
また、図7は、不揮発性記憶部130が備える記憶領域の横軸をX軸、縦軸をY軸とし、予め設定されたデータ量や距離で分割した直線状俯瞰画像131Aと、直線状俯瞰画像131Bとを、記憶領域のX軸方向の座標値(X1)を揃えて記憶させた場合を示す。すなわち、直線状俯瞰画像131を予め設定されたデータ量で折り返して、不揮発性記憶部130の記憶領域に記憶させた場合を示す。
直線状俯瞰画像131を複数に分割して不揮発性記憶部130に記憶させることで、俯瞰画像再構成部155Dが直線状俯瞰画像131を読み出す際に、必要な部分だけを参照して読み出すことができ、プロセッサ150の処理負荷を軽減することができる。
また、直線状俯瞰画像131を不揮発性記憶部130に記憶させる場合に、直線状俯瞰画像131を既知の画像圧縮方法により圧縮してもよい。
俯瞰画像再構成部155Dは、不揮発性記憶部130から直線状俯瞰画像131と、距離別旋回角度情報133とを読み出す。また、俯瞰画像再構成部155Dに、直線状俯瞰画像131が生成した直線状俯瞰画像131と、距離別旋回角度生成部155Cが生成した距離別旋回角度情報133とが直接入力される構成であってもよい。
俯瞰画像再構成部155Dは、取得した直線状俯瞰画像131と、距離別旋回角度情報133とを用いて、図4に示す俯瞰画像200を再構成する。
また、俯瞰画像再構成部155Dは、不揮発性記憶部130から距離別旋回角度情報133を読み出した際に、読み出した距離別旋回角度情報133を、他のセンサのセンサデータや、補正情報により補正してもよい。他のセンサのセンサデータや、補正情報には、例えば、道路の路側に設置されたセンサから受信した信号や、ナビゲーション装置30のGNSS受信器31が受信したGNSS信号に基づいて算出した車両1の緯度及び経度、カメラ25の撮影画像等が含まれる。俯瞰画像再構成部155Dが、他のセンサのセンサデータや、補正情報を用いて距離別旋回角度情報133を補正することで、距離別旋回角度情報133の精度が向上し、俯瞰画像再構成部155Dが再構成する俯瞰画像200の精度を高めることができる。
図1に戻り、プロセッサ150が備える機能ブロックについて引き続き説明する。
位置推定部156は、自動駐車装置100の動作モードが位置推定モード230に移行すると、動作を開始する。
位置推定部156は、車両1の現在位置付近の点群データが、点群地図135に登録されている場合に、点群地図135に基づいて車両1の駐車場座標系での位置を推定する。位置推定部156は、外界センサ群20のセンサデータと、点群地図135の情報を照合して車両1の現在位置を推定する。
駐車経路生成部157は、位置推定部156が算出した車両1の位置から、点群地図135に登録された駐車位置までの駐車経路を既知の方法により生成する。駐車経路生成部157は、生成した駐車経路を制御情報生成部158に出力する。
制御情報生成部158は、駐車経路生成部157が生成した駐車経路に基づき、車両1の走行を制御する制御情報を生成する。この制御情報は、駐車経路に沿って車両1を走行させるための情報であり、操舵、駆動及び制動をそれぞれ制御する情報が含まれる。
表示制御部159は、点群データ検証部153が点群データを地図として使えると判定した場合、表示装置80に「今回の走行経路周辺を地図として記憶させますか?」という案内を表示させる。ユーザにより応答ボタン71が押下されると、点群データを駐車場データとして点群地図135に登録して、地図記憶モード220を終了する。
また、表示制御部159は、点群データ検証部153が点群データを地図として使えないと判定した場合、表示装置80に「地図に必要な情報が不足しています、ここで自動駐車したい場合は、同一経路を再度走行してください」という案内を表示させる。
モード切替部160は、自動駐車装置100の動作モードを変更する。自動駐車装置100の動作モードには、通常走行モード210、地図記憶モード220、位置推定モード230、自動駐車モード240及びギブアップモード250が含まれる。
[3.自動駐車装置100の動作モード]
図8は、自動駐車装置100が備える動作モードと、動作モードの変更条件とを示す図である。
通常走行モード210は、通常の走行モードである。自動駐車装置100は、動作モードが通常走行モードの場合、ランドマークを構成する点群の点群データを検出したり、点群地図135に基づいて車両1の位置を推定したりすることはない。自動駐車装置100は、通常走行モードの場合、地図記憶モード220や、位置推定モード230に移行する条件が成立したか否かの判定を行う。
地図記憶モード220は、駐車位置及びこの付近の点群データが、点群地図135に登録されていない場合、外界センサ群20のセンサデータに基づいてランドマークを構成する点群の点群データを検出し、検出した点群データを点群地図135に登録するモードである。自動駐車装置100は、動作モードが地図記憶モード220の場合、外界センサ群20のセンサデータに基づいて、駐車場の路面にペイントされた白線や障害物の情報、駐車位置の情報、走行経路等を検出する。自動駐車装置100は、検出した情報を点群地図135に登録する。
自動駐車装置100は、地図記憶モード220に移行すると、RAM120に一時的な記録領域を確保する。自動駐車装置100は、地図記憶モード220が終了するか、他のモードに遷移するまで以下の処理を繰り返す。すなわち、自動駐車装置100は、外界センサ群20から入力されるセンサデータに基づき、車両1の周囲に存在するランドマークを構成する点群を検出する。また、自動駐車装置100は、カメラ25が前回撮影してから今回撮影するまでに車両1が移動した移動量及び移動方向を算出する。そして、自動駐車装置100は、車両1の移動量や移動方向に基づき、検出した点群データから人物や移動体に相当する点群データを除外する。
さらに、自動駐車装置100は、ナビゲーション装置30から入力される車両1の位置を示す緯度及び経度を、点群データとあわせて点群地図135に登録する。自動駐車装置100はこの処理を繰り返す。点群データが示す座標は、記録座標系の座標値として記録される。「記録座標系」は、例えば、記録を開始した際の車両1の位置を原点(0、0)とし、記録開始時の車両1の進行方向(姿勢)をY軸、記録開始時の車両1の右方向をX軸とした座標系の座標値として扱われる。このため同一の駐車場において点群を記録しても、記録を開始した際の車両1の位置や姿勢により設定される記録座標系が異なるので、異なる座標にランドマークを構成する点群が記録される。
位置推定モード230は、車両1の現在位置付近の点群データが、点群地図135に登録されている場合に、点群地図135に基づいて車両1の駐車場座標系での位置を算出するモードである。自動駐車装置100は、外界センサ群20のセンサデータと、点群地図135の情報を照合して車両1の現在位置を推定する。自動駐車装置100は、外界センサ群20のセンサデータに基づき車両1の周囲に存在する白線や障害物を検出し、点群地図135と照合して現在位置を推定する。
自動駐車モード240は、ユーザにより自動駐車ボタン73が押下された状態で、位置推定モード230により算出した車両1の位置、及び駐車位置に基づき、車両1を駐車位置に駐車させる駐車経路を生成し、生成した駐車経路に従って車両1を移動させ、駐車位置に駐車させるモードである。
自動駐車装置100は、位置推定モード230で推定した車両1の現在位置、及び自動駐車モード240においても継続的に行う車両1の現在位置の推定結果に基づき、点群地図135に記憶された駐車位置に車両1を駐車させる。
ギブアップモード250は、ユーザにより自動駐車ボタン73が押下された状態で、位置推定モード230により車両1の位置を推定できなかった場合のモードである。この場合も、通常走行モード210と同様に、点群データを収集することもなく、位置推定モード230のように車両1の位置を推定することもない。
モード切替部160は、駐車位置の緯度及び経度と、ナビゲーション装置30から入力される車両1の現在位置を示す緯度及び経度とを比較して動作モードを変更する。モード切替部160は、車両1が現在走行中の地点付近の点群データが、点群地図135に登録されていない場合、動作モードを地図記憶モード220に移行させる。また、モード切替部160は、車両1が現在走行中の地点付近の点群データが、点群地図135に登録されている場合、動作モードを位置推定モード230に移行させる。
自動駐車装置100の動作モードが、地図記憶モード220の状態において、モード切替部160は、駐車位置の緯度及び経度と、ナビゲーション装置30から取得した車両1の現在位置を示す緯度及び経度情報を比較し、駐車位置を中心とする一定範囲の外側に車両1が位置する場合、動作モードを通常走行モード210に変更する。また、モード切替部160は、車両1が点群地図135に点群データを登録済みの区間に途中から侵入した場合には、動作モードを位置推定モード230に変更する。
また、点群地図135に点群データを登録済みの区間に進入したか否かの判定については、自動駐車装置100は、車両1の現在位置を示す緯度及び経度と、点群地図135に登録されたランドマークの緯度及び経度とを比較し、車両1の現在位置を示す緯度及び経度から予め設定された距離以内にランドマークがある場合、点群地図135に点群データを登録済みの区間に進入したと判定する。また、自動駐車装置100は、車両1の現在位置を示す緯度及び経度から予め設定された距離以内にランドマークがない場合、点群地図135に点群データを登録済みの区間に進入していないと判定する。
自動駐車装置100の動作モードが、位置推定モード230の状態において、モード切替部160は、ナビゲーション装置30から取得した車両1の緯度及び経度と、点群地図135に登録済みの駐車位置の緯度及び経度とを比較し、車両1が駐車位置を中心とする一定範囲外に出た場合、動作モードを通常走行モード210に変更する。また、モード切替部160は、車両1が点群地図135の未登録区間に途中から侵入した場合、地図記憶モード220に変更する。
また、モード切替部160は、位置推定モード230において、車両1の位置の推定に成功しており、車両1が駐車位置から所定の範囲内に位置し、かつ、ユーザが自動駐車ボタン73を押下している間のみ、動作モードを自動駐車モード240に変更する。すなわち、ユーザの承認がある場合に、車両1を駐車位置に自動で駐車させる自動駐車を実行する。また、モード切替部160は、位置推定モード230において、車両1の位置の推定に失敗した場合、ギブアップモード250に移行する。
[4.直線状俯瞰画像生成部155Bの動作]
図9は、直線状俯瞰画像生成部155Bの動作を示すフローチャートである。
図9を参照しながら直線状俯瞰画像生成部155Bの動作について説明する。
直線状俯瞰画像生成部155Bは、まず、俯瞰変換処理を実行する(ステップS1)。直線状俯瞰画像生成部155Bは、RAM120からカメラ25の撮影画像を取得する。カメラ25は、車両1の周囲を所定の撮影間隔で撮影して撮影画像を生成し、生成した撮影画像を自動駐車装置100に出力する。自動駐車装置100は、入力された撮影画像をRAM120に記憶させる。直線状俯瞰画像生成部155Bは、ソフトウェア的に視点変換の演算を行い、RAM120から取得した撮影画像を、車両1を上から地面を見下ろした視点の俯瞰画像に変換する。
視点変換の演算には、ROM110に記憶させたカメラ25の取り付け情報を示す外部パラメータや、カメラ25の内部の光学的情報を表す外部パラメータが用いられる。この俯瞰変換処理は、カメラ25の撮影画像と、外部パラメータがあれば、公知の技術により実現可能である。
次に、直線状俯瞰画像生成部155Bは、ステップS1で算出した俯瞰画像を投影する直線地図の座標を決定する(ステップS2)。すなわち、俯瞰画像の座標を対応づける直線形状の地図(以下、直線地図という)の座標を決定する。直線状俯瞰画像生成部155Bが生成する直線状俯瞰画像131は、図5に示すように俯瞰画像を旋回に関する情報を無視して直線的に延ばした画像である。直線状俯瞰画像生成部155Bは、移動量算出部155Aが車速センサ41のセンサデータに基づいて算出した車両1の移動距離を使用して、俯瞰画像の座標を対応づける直線地図の座標を算出する。
次に、直線状俯瞰画像生成部155Bは、ステップS2で対応づけた座標に従い、ステップS1で生成した俯瞰画像の色及び輝度情報を直線地図上に投影して直線状俯瞰画像131を生成する(ステップS3)。俯瞰画像の色及び輝度情報を投影する直線地図の座標によっては、前時刻に得た俯瞰映像と、現時刻で得た俯瞰映像とで、重なる部分が出てくる場合があるが、直線状俯瞰画像生成部155Bは、ブレンディング処理等によって前時刻に生成した俯瞰画像と、現時刻で生成した俯瞰画像とを適切に統合して直線状俯瞰画像131を生成する。直線状俯瞰画像生成部155Bは、生成した直線状俯瞰画像131を不揮発性記憶部130に記憶させる。
[5.距離別旋回角度生成部155Cの動作]
図10は、距離別旋回角度生成部155Cの動作を示すフローチャートである。
図10に示すフローチャートを参照しながら距離別旋回角度生成部155Cの動作について説明する。
距離別旋回角度生成部155Cは、まず、直線状俯瞰画像生成部155BがステップS2において実行した処理と同様に、俯瞰画像の座標を対応づける直線地図の座標を決定する(ステップS11)。距離別旋回角度生成部155Cは、移動量算出部155Aが車速センサ41のセンサデータに基づいて算出した車両1の移動距離を使用して、俯瞰画像の座標を対応づける直線地図の座標を算出する。
次に、距離別旋回角度生成部155Cは、旋回角度保存処理を実行する(ステップS12)。距離別旋回角度生成部155Cは、前時刻に測定された舵角センサ43のセンサデータが示す旋回量と、現時刻に測定された舵角センサ43のセンサデータが示す旋回量と差を求める。距離別旋回角度生成部155Cは、ステップS2で対応づけた座標に従い、求めた旋回量を、直線地図上の座標に対応づけてテーブルに登録する。直線地図上の座標は、車両1の移動距離に対応し、テーブルには、旋回量と、車両1の移動距離とが対応づけて登録される。
[6.俯瞰画像再構成部155Dの動作]
図11は、俯瞰画像再構成部155Dの動作を示すフローチャートである。
図11を参照しながら俯瞰画像再構成部155Dの動作について説明する。
まず、俯瞰画像再構成部155Dは、不揮発性記憶部130から直線状俯瞰画像131を読み出し(ステップS21)、さらに距離別旋回角度情報133を読み出す(ステップS22)。
次に、俯瞰画像再構成部155Dは、読み出した直線状俯瞰画像131及び距離別旋回角度情報133を用いて、地図座標変換処理を実行する(ステップS23)。俯瞰画像再構成部155Dは、距離別旋回角度情報133に含まれる車両1の移動距離と、旋回量とを用いて、目標とする俯瞰画像200の座標に対応づける直線状俯瞰画像131の座標を算出する。俯瞰画像200の座標を対応づける直線状俯瞰画像131の座標を算出することで、俯瞰画像200の座標における画素値の抜けを防止することができる。
次に、俯瞰画像再構成部155Dは、ステップS23で算出した座標に従い、直線状俯瞰画像131の各座標の色及び輝度情報を、対応づけられた俯瞰画像200の座標に投影する(ステップS24)。これにより、俯瞰画像再構成部155Dは、図4に示す俯瞰画像200を構成する。
[7.地図記憶モードにおける自動駐車装置の動作]
図12は、動作モードが地図記憶モード220である場合の自動駐車装置100の動作を示すフローチャートである。
図12に示すフローチャートを参照しながら動作モードが地図記憶モード220である場合の自動駐車装置100の動作について説明する。
図12に示すフローチャートの各ステップの実行主体は自動駐車装置100のプロセッサ150である。より詳細には、図12に示すフローチャートの各ステップは、プロセッサ150のデータ取得部151、ランドマーク測位部152、点群データ検証部153、駐車場データ登録部154、俯瞰画像生成部155の制御により実行される処理である。として動作する。
まず、自動駐車装置100は、動作モードが地図記憶モード220に移行したか否かを判定する(ステップT1)。自動駐車装置100は、地図記憶モード220に移行した場合(ステップT1/YES)ステップT2の処理に移行し、地図記憶モード220に移行していない場合(ステップT1/NO)、ステップT1の判定に留まる。
自動駐車装置100は、地図記憶モード220に移行すると(ステップT1/YES)、RAM120の初期化処理を実行しRAM120に新たな記録領域を確保する(ステップT2)。自動駐車装置100は、確保したRAM120の記憶領域に、ランドマーク測位により検出される点群データや、車両1の現在位置を示す緯度及び経度等を記憶させる。
次に、自動駐車装置100は、ランドマーク測位を実行する(ステップT3)。具体的には、自動駐車装置100は、カメラ25の撮影画像や、レーダ21及びソナー23のセンサデータに基づいてランドマークを構成する点群の点群データを検出する。ここで検出される点群データの座標は、記録座標系の座標である。次に、自動駐車装置100は、検出した点群データを、ナビゲーション装置30から入力される緯度及び経度に紐付ける(ステップT4)。
次に、自動駐車装置100は、カメラ25の前回の撮影から今回の撮影までの間に車両1が移動した移動量を求め、記録座標系における車両1の現在位置を更新する(ステップT5)。例えば、自動駐車装置100は、カメラ25の撮影画像における路面に存在する被写体の位置の変化から車両1の移動量を推定する。また、自動駐車装置100は、ナビゲーション装置30が誤差の小さい高精度なGNSS受信機を搭載している場合、このナビゲーション装置30から入力される緯度及び経度を利用して車両1の移動量を推定してもよい。
次に、自動駐車装置100は、ステップT3のランドマーク測位により検出したランドマークの位置を示す点群データを、記録座標系の座標としてRAM120に記憶させる(ステップT6)。
次に、自動駐車装置100は、俯瞰画像生成部155により俯瞰画像200を生成する(ステップT7)。より詳細には、俯瞰画像生成部155は、カメラ25の撮影画像や、車速センサ41のセンサデータに基づいて直線状俯瞰画像131と距離別旋回角度情報133とを生成する。次に、俯瞰画像生成部155は、生成した直線状俯瞰画像131と距離別旋回角度情報133とに基づいて俯瞰画像200を生成する。
自動駐車装置100は、俯瞰画像200を生成すると、生成した俯瞰画像200を表示装置80に表示させる(ステップT8)。自動駐車装置100は、俯瞰画像200を表示装置80に表示させる際に、ステップT3のランドマーク測位により検出した点群データを俯瞰画像200に重畳して表示させてもよい。自動駐車装置100は、ランドマークの位置に対応する俯瞰画像200の位置に、点群データを表示させる。
次に、自動駐車装置100は、車両制御装置50からサイドブレーキが操作されたこと通知する信号が入力されたか否かを判定する(ステップT9)。自動駐車装置100は、車両制御装置50からサイドブレーキが操作されたこと通知する信号が入力されない場合(ステップT9/NO)、ステップT3に戻り、ランドマーク測位を再度行う。
また、自動駐車装置100は、車両制御装置50からサイドブレーキが操作されたこと通知する信号が入力されると(ステップT9/YES)、応答ボタン71の操作を受け付けたか否かを判定する(ステップT10)。自動駐車装置100は、応答ボタン71の操作に対応する操作信号が入力されたか否かを判定して、応答ボタン71が操作されたか否かを判定する。自動駐車装置100は、所定時間を経過しても応答ボタン71が操作されない場合(ステップT10/NO)、ステップT3の処理に戻り、ランドマーク測位を再度行う。
また、自動駐車装置100は、応答ボタン71の操作に対応する操作信号が入力された場合(ステップT10/YES)、点群データの地図としての成立性を判定する(ステップT11)。自動駐車装置100は、上述した2つの検証条件が成立するか否かを判定して、点群データの地図としての成立性を判定する。自動駐車装置100は、点群データの地図としての成立性の判定結果をRAM120に記憶させる。
次に、自動駐車装置100は、ナビゲーション装置30から入力される車両1の現在位置を示す緯度及び経度の情報を取得し、駐車位置、すなわち車両1の現在位置として車両1の4隅の座標をRAM120に記憶させる(ステップT12)。この4隅の座標は、記録座標系の座標である。
次に、自動駐車装置100は、ステップT12で取得した緯度及び経度と略一致する緯度及び経度の駐車場データが、点群地図135に登録されているか否かを判定する(ステップT13)。自動駐車装置100は、取得した緯度及び経度と略一致する緯度及び経度の駐車場データが、点群地図135に登録されていない場合(ステップT13/NO)、RAM120が記憶する点群データや、ステップT12で取得した緯度及び経度、駐車位置を示す座標を新たな駐車場データとして点群地図135に登録する(ステップT19)。さらに、自動駐車装置100は、ステップT7で生成した直線状俯瞰画像131や、距離別旋回角度情報133を不揮発性記憶部130に記憶させる(ステップT19)。また、自動駐車装置100は、直線状俯瞰画像131を分割して不揮発性記憶部130に記憶させる場合、予め設定した一定距離、又は一定データ量で直線状俯瞰画像131を分割し、分割した直線状俯瞰画像131をそれぞれ不揮発性記憶部130に記憶させる。
また、自動駐車装置100は、ステップT12で取得した緯度及び経度と略一致する緯度及び経度の駐車場データが、点群地図135に登録されている場合(ステップT13/YES)、車両1の現在位置である駐車位置を基準として、RAM120に記憶させた点群データの座標系である記録座標系をターゲット駐車場データの点群データの座標系に変換する。ターゲット駐車場データは、ステップT12で取得した緯度及び経度と略一致する緯度及び経度の駐車場データである。自動駐車装置100は、ターゲット駐車場データに含まれる駐車位置と、ステップT12でRAM120に記憶させた駐車位置とが一致するように記録座標系の座標を駐車場座標系の座標に変換する座標変換式を導出する(ステップT14)。
次に、自動駐車装置100は、ステップT14で導出した座標変換式を用いて、RAM120に記憶させたランドマークの点群データの座標系を、ターゲット駐車場データの座標系である駐車場座標系に変換する(ステップT15)。
次に、自動駐車装置100は、RAM120に記憶させた点群データと、ターゲット駐車場データの点群データとの点群一致率IBを算出する(ステップT16)。点群一致率IBは以下の式(1)により算出される。
IB=2×Din/(D1+D2)・・・式(1)
上記式(1)において、「Din」は、ステップT15において座標変換した点群データの各点と、ターゲット駐車場データの点群データの各点の距離が所定の距離以内の点の数である。また、式(1)において、「D1」はRAM120に記憶させた点群データのデータ数、すなわち、点の数、「D2」はターゲット駐車場データが有する点群データのデータ数、すなわち、点の数である。
次に、自動駐車装置100は、ステップT16で求めた点群一致率IBが、予め設定されたしきい値よりも大きいか否かを判定する(ステップT17)。自動駐車装置100は、点群一致率IBがしきい値よりも大きい場合(ステップT17/YES)、マージ処理を実行する。具体的には、自動駐車装置100は、ターゲット駐車場データに、ステップT15において座標変換した点群データを追加する。
また、自動駐車装置100は、点群一致率IBがしきい値以下である場合(ステップT17/NO)、RAM120が記憶する点群データや、ステップT12で取得した緯度及び経度、駐車位置を示す座標を新たな駐車場データとして点群地図135に登録する(ステップT19)。さらに、自動駐車装置100は、ステップT7で生成した直線状俯瞰画像131や、距離別旋回角度情報133を不揮発性記憶部130に記憶させる(ステップT19)。
[8.位置推定モードの場合の自動駐車装置の動作]
図13は、動作モードが位置推定モード230である場合の自動駐車装置100の動作を示すフローチャートである。
図13に示すフローチャートを参照しながら、位置推定モード230における自動駐車装置100の動作について説明する。図13に示すフローチャートの各ステップの実行主体は自動駐車装置100のプロセッサ150である。より詳細には、図13に示すフローチャートの各ステップは、プロセッサ150の位置推定部156の制御により実行される処理である。
自動駐車装置100は、車両1が登録地点付近に移動し、かつ登録地点の周辺の駐車場データを点群地図135に登録済みであると判定すると、位置推定モード230に移行する。
まず、自動駐車装置100は、ナビゲーション装置30から入力される緯度及び経度の情報を取得する(ステップT31)。次に、自動駐車装置100は、点群地図135に含まれる駐車場データのうち、ステップT31で取得した車両1の現在位置である緯度及び経度と略一致する緯度及び経度を有し、かつ地図としての成立性が有効な(成立する)点群データを含む駐車場データを検出する(ステップT32)。
自動駐車装置100は、駐車場データを検出することができなかった場合(ステップT32/NO)、ステップT31の処理に戻り、ナビゲーション装置30から入力される緯度及び経度の情報を取得する。また、自動駐車装置100は、駐車場データを検出することができた場合(ステップT32/YES)、RAM120の初期化処理を実行して(ステップT33)、RAM120に記憶させた局所周辺情報121、及び車両1の現在位置を初期化する。自動駐車装置100は、従前の情報がRAM120に記憶されている場合、この情報を消去し、新たな座標系を設定する。ここで設定された座標系を局所座標系と呼ぶ。
次に、自動駐車装置100は、初期化処理を実行したときの車両1の位置及び姿勢(方位角)に基づいて局所座標系を設定する(ステップT34)。例えば、自動駐車装置100は、RAM120を初期化したときの車両1の位置を局所座標系の原点に設定し、初期化処理を実行したときの車両1の向きによりX軸及びY軸を設定する。また、車両1の現在位置の初期化は、車両1の現在位置が原点(0、0)に設定される。
次に、自動駐車装置100は、自己位置推定処理を実行する(ステップT35)。自己位置推定処理とは、車両1の駐車場座標系における位置を推定する処理である。この処理の詳細については、図15のフローチャートを参照しながら説明する。
次に、自動駐車装置100は、ステップT35の自己位置推定処理により自己位置を推定することができたか否かを判定する(ステップT36)。自動駐車装置100は、自己位置を推定することができなかった場合(ステップT36/NO)、ステップT35に戻り、再度、自己位置推定処理を実行する。また、自動駐車装置100は、自己位置を推定することができた場合(ステップT36/YES)、俯瞰画像200と、地図上の自己位置推定結果とを表示装置80に表示させる(ステップT37)。
次に、自動駐車装置100は、ステップT35の自己位置推定処理により推定した自己位置が、ステップT51で検出した駐車場データの駐車位置から予め設定された距離(N[m])以下の範囲にあるか否かを判定する(ステップT38)。Nは、任意の自然数である。自動駐車装置100は、推定した自己位置が、駐車場データの駐車位置から予め設定された距離以内にない場合(ステップT38/NO)、ステップT35の処理に戻る。
また、自動駐車装置100は、推定した自己位置が、駐車場データの駐車位置から予め設定された距離以内にある場合(ステップT38/YES)、表示装置80に自動駐車が可能な旨を表示する(ステップT39)。そして、自動駐車装置100は、自動駐車ボタン73の押下操作を受け付けたか否かを判定する(ステップT40)。自動駐車装置100は、自動駐車ボタン73の押下操作を受け付けていない場合(ステップT40/NO)、ステップT39の処理に戻る。
また、自動駐車装置100は、自動駐車ボタン73の押下操作を受け付けた場合(ステップT40/YES)、自動駐車モード240に移行し、自動駐車処理を実行する(ステップT41)。自動駐車処理の詳細については、図17に示すフローチャートを参照しながら説明する。
図14は、ステップT35の自己位置推定処理の詳細を示すフローチャートである。
図14を参照しながら自己位置推定処理の詳細について説明する。
図14に示すステップT351~ステップT354の処理は、図12にて説明したステップT3~ステップT6の処理とほぼ同一である。このため、ステップT351~ステップT354の詳細な説明は省略する。ただし、ステップT354において、点群データをRAM120に記憶させるときに、点群データを局所周辺情報121として記憶させる点がステップT6と異なる。
自動駐車装置100は、点群データを局所周辺情報121としてRAM120に記憶させると、局所周辺情報121の選定を行う(ステップT355)。自動駐車装置100は、局所周辺情報121に含まれる点群データの中から、次のステップT356において実行するマッチング処理に利用する点群データを選定する。局所周辺情報121に含まれる点群データは、自立航法等により推定する車両1の現在位置の累積誤差等により、点群地図135と全体形状が異なりマッチング処理が実行できない場合がある。局所周辺情報121の選定処理を実行することで、形状誤差が小さくマッチング可能な範囲の点群を適応的に選定する。
次に、自動駐車装置100は、マッチング処理を実行する(ステップT356)。このマッチング処理において、駐車場座標系と局所座標系との対応関係に基づき、局所座標系の座標を、駐車場座標系の座標に変換する座標変換式が求められる。マッチング処理の詳細については、図16のフローチャートを参照しながら詳細に説明する。
次に、自動駐車装置100は、自己位置を示す駐車場座標系の座標を算出する(ステップT357)。自動駐車装置100は、ステップT353で更新した局所周辺情報121に含まれる車両1の現在位置を示す局所座標系の座標と、ステップT355で求めた座標変換式とを用いて、車両1の現在位置を示す局所座標系の座標を、駐車場座標系の座標に変換する。自動駐車装置100は、変換した駐車場座標系の座標を、自己位置とする。
次に、自動駐車装置100は、ステップT357で算出した自己位置の信頼性を判定する自己診断を実行する(ステップT358)。自動駐車装置100は、例えば、以下に示す3つの指標に基づいて自己診断を実行する。
第1の指標は、車速センサ41及び舵角センサ43の出力を用いて公知のデッドレコニング技術によって推定した車両1の移動量と、自己位置推定によって推定された所定期間における移動量との誤差である。自動駐車装置100は、推定した車両1の移動量と、自己位置推定によって推定された所定期間における移動量との差が、あらかじめ設定されたしきい値よりも大きい場合、信頼度が低いと判定する。
第2の指標は、マッチング処理のときに算出される対応点の誤差量である。自動駐車装置100は、誤差量があらかじめ設定されたしきい値よりも大きい場合、信頼度が低いと判定する。
第3の指標は、類似解があるか否かの判定結果である。自動駐車装置100は、類似解があるか否かの判定を実施する。得られた解から駐車枠の幅分並進するなど、類似解を探索した場合に、対応点誤差が一定以内の点が同じくらいの数あった場合は、信頼度が低いと判定する。また、自動駐車装置100は、これら3つの指標のすべてで信頼度が低いと判断されなかった場合に自己位置が推定できたと判定する。
図15は、図14に示すステップT355の局所周辺情報の選定の詳細な動作を示すフローチャートである。
図15に示すフローチャートを参照しながら、局所周辺情報の選定の詳細について説明する。
まず、自動駐車装置100は、ステップT353において推定した移動量の推定結果を利用して、車両1の移動軌跡を算出する(ステップT3551)。自動駐車装置100は、車両1の現在位置を示す座標を、推定した移動量に基づいて変更し、変更した座標間を補間して生成される軌跡を移動軌跡として算出する。
次に、自動駐車装置100は、有効範囲を算出する(ステップT3552)。自動駐車装置100は、局所周辺情報121に含まれる点群データのうち、形状誤差が小さくマッチング処理に利用可能な範囲を算出する。
この有効範囲は、ステップT3551で算出した車両1の移動軌跡の長さや形状に基づいて判定する。局所周辺情報121に含まれる点群データは、車両1の移動距離が大きくなるなるほど、また車両1の旋回量が大きくなるほど、移動量の推定誤差が発生しやすい。逆に点群データが少なすぎると、マッチング処理が困難になる。このため、自動駐車装置100は、現在位置から予め設定された最低距離D[m]分の軌跡に沿って遡った範囲の点群データを取得する。その後、自動駐車装置100は、移動軌跡の接線の角度の変化量を累積し、予め設定された角度しきい値θ[deg]以上に変化するところまでの移動軌跡周辺の点群を取得する。移動軌跡に対して、移動軌跡を中心として予め設定された範囲X[m]×Y[m]の範囲の点群を局所周辺情報の点群の有効範囲とする。すなわち、有効範囲は得られた移動軌跡に沿った形状となる。
次に、自動駐車装置100は、ステップT3552で算出した有効範囲内の点群の点群データを、局所周辺情報121の点群データとして取得する(ステップT3553)。
図16は、図14のステップT356のマッチング処理の詳細な手順を示すフローチャートである。
図16に示すフローチャートを参照しながらマッチング処理の詳細について説明する。
まず、自動駐車装置100は、RAM120に記憶されたアウトライアリスト123を参照して、局所周辺情報121に含まれる点群のうちアウトライアリスト123に登録された点を一時的に処理対象外とする。この適用範囲は、図16に示すフローチャートのステップT3563~T3573であり、ステップT3574では、アウトライアリスト123に含まれていた点も対象となる。また、図16に示すフローチャートの初回実行時には、ステップT3561~T3564の処理を実行することができないため、ステップT3570から処理を開始する。
次に、自動駐車装置100は、ステップT351のランドマーク測位により検出したランドマークを構成する点群の座標を示す点群データの座標系を、駐車場座標系の座標に変換する(ステップT3562)。自動駐車装置100は、前回、マッチング処理を実行したときに算出した座標変換式を用いて、ランドマークを構成する点群の点群データの座標を、駐車場座標系の座標に変換する。
次に、自動駐車装置100は、瞬間一致度ICを算出する(ステップT3563)。瞬間一致度ICは、以下の式2により算出される。
IC=DIin/DIall・・・式(2)
上記式(2)において、「DIin」は、ステップT3562において駐車場座標系に変換された点群データのうち、点群地図135に駐車場データとして登録された点までの距離が、予め設定したしきい値以下の点の数である。また、式(2)において、「DIall」は、ステップT351のランドマーク測位により検出された点群の数である。
次に、自動駐車装置100は、ステップT3563で算出した瞬間一致度ICと、しきい値とを比較する(ステップT3564)。自動駐車装置100は、瞬間一致度ICがしきい値以下である場合(ステップT3564/NO)、駐車場データに含まれる点群データから周期的な特徴を有する点群データを検出する(ステップT3565)。例えば、自動駐車装置100は、駐車枠に対応する点群データを検出する。駐車枠は、所定の太さで路面にペイントされているため、白線の太さに相当する間隔が周期的な特徴として検出する。
次に、自動駐車装置100は、周期的な特徴を有する点群データを検出できたか否かを判定する(ステップT3566)。自動駐車装置100は、周期的な特徴を有する点群データを検出できたなかった場合(ステップT3566/NO)、ステップT3570の処理に移行する。また、自動駐車装置100は、周期的な特徴を有する点群データを検出できた場合(ステップT3566/YES)、検出した点群データの周期を検出する(ステップT3567)。具体的には、自動駐車装置100は、駐車枠の幅を算出する。
次に、自動駐車装置100は、前回、ステップT356のマッチング処理を実行したときに算出した座標変換式を基準として、この座標変換式を複数通りに変化させて全体一致度IWをそれぞれ算出する(ステップT3568)。座標変換式は、ステップT3567で検出した周期の整数倍で点群データの位置がずれるように複数通りに変化させる。全体一致度IWは、以下の式3により算出される。
IW= DWin/DWall・・・式(3)
上記式(3)において、「DWin」は、ステップT3562において、座標変換式を用いて駐車場座標系の座標に変換した点群データのうち、点群地図135に駐車場データとして登録された点までの距離が、予め設定したしきい値以下の点の数である。また、式(3)において、「DWall」は、ステップT351のランドマーク測位において検出された点の数である。
次に、自動駐車装置100は、ステップT3568で算出した全体一致度IWのうち、最大の全体一致度IWを与える座標変換式をRAM120に記憶させる(ステップT3569)。
ステップT3564の判定が肯定判定であった場合(ステップT3564/YES)、ステップT3566の判定が否定判定であった場合(ステップT3566/NO)、又はステップT3569の処理が終了した場合、自動駐車装置100は、点群データの対応づけを行う(ステップT3570)。自動駐車装置100は、点群地図135に登録された駐車場データの点群データと、局所周辺情報121の点群データとの対応づけを行う。
自動駐車装置100は、ステップT3564の判定、又はステップT3569の処理の次にステップT3570の点群データの対応づけを行う場合、局所周辺情報121の点群データはRAM120に記録された座標変換式を用いて座標変換された値を用いる。
ステップT3564において肯定判定され、次に、ステップT3570の処理を実行する場合、自動駐車装置100は、前回、ステップT356のマッチング処理を実行したときに算出した座標変換式を使用して座標変換した値を用いる。
一方、ステップT3566の処理の次にステップT3570の点群データの対応づけを行う場合、ステップT3569においてRAM120に記憶させた座標変換式を使用して座標変換した値を用いる。
次に、自動駐車装置100は、対応点の誤差が最小となるように座標変換式を変更する(ステップT3571)。例えば、自動駐車装置100は、ステップT3570において対応付けられた点同士の距離の指標の和が最小となるように座標変換式を変更する。対応付けられた点同士の距離の指標の和として距離の絶対値の和を採用することができる。
次に、自動駐車装置100は、誤差が収束したか否かを判定する(ステップT3572)。自動駐車装置100は、誤差が収束しない場合(ステップT3572/NO)、ステップT3570の処理に戻る。また、自動駐車装置100は、誤差が収束した場合(ステップT3572/YES)、ステップT3571の処理により変更した座標変換式をRAM120に記憶させる(ステップT3573)。
次に、自動駐車装置100は、アウトライアリスト123を更新する(ステップT3574)。まず、自動駐車装置100は、RAM120に記憶された既存のアウトライアリスト123をクリアする。次に、自動駐車装置100は、局所周辺情報121の点群データの座標を、ステップT3573において記憶させた座標変換式を用いて駐車場座標系の座標に変換する。次に、自動駐車装置100は、局所周辺情報121の点群データを構成する点と、この点が対応する駐車場データに含まれる点群データの点までの距離、すなわちユークリッド距離を算出する。自動駐車装置100は、この処理を、局所周辺情報121の点群データを構成するすべての点で行う。
次に、自動駐車装置100は、算出した距離が予め設定された距離よりも長い場合は、局所周辺情報121の点をアウトライアリスト123に加える。但し、このとき空間的に端部に位置することをアウトライアリスト123に加えるさらなる条件としてもよい。空間的な端部とは、記録を開始した際に取得された点など、他の点までの距離が遠い点である。以上の処理によりアウトライアリスト123が更新される。
上述のステップT3570の対応づけ処理、ステップT3571の誤差を最小化する処理、及び、ステップT3572の誤差が収束したか否かを判定する処理は、既知の点群マッチング技術であるICP(Iterative Closest Point)アルゴリズムを利用することができる。
[9.自動駐車モードの場合の自動駐車装置の動作]
図17は、図13に示すステップT41の自動駐車モード240の動作を示すフローチャートである。図17に示すフローチャートを参照しながら自動駐車モード240時の自動駐車装置100の動作について説明する。
自動駐車装置100は、車両1の自己位置の推定に成功し、推定した車両1の位置が駐車位置から所定の範囲内にあり、かつ、ユーザにより自動駐車ボタン73が押下されている間のみ、動作モードを位置推定モード230から自動駐車モード240に変更する。すなわち、ユーザの承認のもとに自動駐車モード240を実施する。
まず、自動駐車装置100は、自己位置推定処理を実行する(ステップT411)。
自動駐車装置100は、車両1の位置を示す駐車場座標系の座標を推定する。ステップT411の詳細は、ステップT35と同一であり、図14に示すフローチャートにて、詳細を説明済みであるため、説明を省略する。
次に、自動駐車装置100は、ステップT411で推定した位置から、点群地図135に登録された駐車位置までの駐車経路を既知の経路生成手法により生成する(ステップT412)。
次に、自動駐車装置100は、俯瞰画像200、ステップT411で推定した車両1の位置、ステップT412で生成した走行経路を表示装置80に表示させる(ステップT413)。車両1の位置は一定周期で更新され、俯瞰画像200上での車両1の動きが表示される。
次に、自動駐車装置100は、ステップT412において生成した駐車経路に対応した制御情報を生成し、生成した制御情報を車両制御装置50に出力する。車両制御装置50は、自動駐車装置100から入力された制御情報に従って操舵装置51、駆動装置53及び制動装置55を制御する(ステップT414)。これにより車両1が、駐車経路に沿って駐車位置まで移動する。この間、車両制御装置50は、自動駐車ボタン73が押下されている間だけ、操舵装置51、駆動装置53及び制動装置55の制御を継続する。また、自動駐車装置100は、カメラ25の撮影画像等から人物や他車両を検出した場合、制動装置55を動作させて車両1の走行を停止させる。
次に、自動駐車装置100は、ステップT411と同様に車両1の位置を推定し(ステップT415)、車両1が駐車位置に到着したか否かを判定する(ステップT416)。自動駐車装置100は、車両1が駐車位置に到着していない場合(ステップT416/NO)、ステップT414の処理に戻る。また、自動駐車装置100、車両1が駐車位置に到着した場合(ステップT416/YES)、この処理を終了させる。
[10.具体例の説明]
図18は、駐車場900の一例を示す平面図である。
図18に示す駐車場900は、建物800に隣接して設置されている。駐車場900内には、通行路903が設けられている。この通行路903は、図面視、建物800の左側面801に沿って配置された通行路903Aと、図面視、建物800の上面803に沿って配置された通行路903Bとにより構成される。駐車場900の駐車位置905は、これらの通行路903A及び907bに沿って、通行路903A及び907bの両側に配置される。また、通行路903Aの端部のうち、通行路903Bに接続される端部とは反対側の端部には、駐車場900の出入口901が設けられている。
図18に示す三角形の図形は、車両1を表している。車両1は、駐車場900の場外であり、車両1の方位が駐車場900内に進入する方向を向いている。また、複数の駐車位置905のうち、ハッチングにより示す駐車位置905は、目標の駐車位置907を示す。なお、図18において、駐車位置905を区画する駐車枠と、建物800以外のランドマークの図示は省略する。
自動駐車装置100は、駐車場900の出入口901付近で、地図記憶モード220に移行すると、ランドマーク測位を開始する。自動駐車装置100は、ランドマーク測位によって検出した駐車位置905の駐車枠に対応した点群を示す点群データをRAM120に記憶させる。自動駐車装置100は、動作モードが地図記憶モード220である場合、上述の処理を、パーキングブレーキが差動し、かつ応答ボタン71が押下されるまで繰り返す。
図19は、点群データ915Aを示す図である。特に、図19は、図18に示す駐車場900内でランドマーク測位を行った結果、得られる点群データ915Aを、図18に示す駐車場900の駐車位置905に合わせて表示した図である。
図19に実線で示す四角形の図形は、ランドマーク測位によって検出された点群データ915Aを可視化したものである。また、図19には、ランドマーク測位によって検出できなかった点群データ915Bを、破線で示す四角形の図形により示す。車両1に搭載されたレーダ21、ソナー23及びカメラ25は、センシング可能な範囲に制限がある。このため、車両1の位置が、駐車場900の出入口901付近にある場合、駐車場900の出入口901付近の駐車位置905を区画する駐車枠を示す点群データ915Aだけが検出される。車両1が駐車場900内に侵入し、車両1が通行路903を走行することで、駐車場900の全体の駐車位置905に対応した点群データ915Aを検出することができる。
図20は、点群データ915Aを示す図である。
図20(A)に示す点群データ915Aは、駐車場データとして点群地図135に登録済みのデータである。また、図20(A)に示す点群データ915Aは、車両1が通行路903の右側を走行して駐車位置907まで到達した場合に得られたデータである。
また、図20(B)に示す点群データ915Aは、車両1が駐車場900内を走行して、新たに得られたデータを示す。図20(B)に示す点群データ915Aは、通行路903の左側を走行して駐車位置907まで到達した場合に得られたデータである。
図20(A)に示す点群データ915Aは、車両1が通行路903の右側を走行したため、通行路903の左側に設けられた駐車位置905を示す点群データが取得できていない。また、図20(B)に示す点群データは、車両1が通行路903の左側を走行したため、通行路903の右側に設けられた駐車位置905を示す点群データが取得できていない。
また、図20(B)に示す点群データは、地図記憶モード220に移行したときに、車両1の姿勢が、駐車場900に正対していなかったため、図20(A)に示す点群データ915Aに比べて点群データ915Aが傾いている。車両1の姿勢(方位角)が、駐車場900に正対していないとは、車両1の車長方向が、通行路903Aに略平行になっていない状態を示す。
自動駐車装置100が、図18に示す駐車位置907に駐車してパーキングブレーキが差動し、かつ応答ボタン71が押下されると、ナビゲーション装置30から車両1の現在位置を示す緯度及び経度を取得する。また、自動駐車装置100は、車両1の4隅の記録座標系における座標をRAM120に記憶させる。
自動駐車装置100は、ナビゲーション装置30から取得した現在位置の緯度及び経度と略一致する緯度及び経度が、点群地図135に駐車場データとして登録されているか否かを判定する。自動駐車装置100は、ナビゲーション装置30から取得した緯度及び経度と略一致する緯度及び経度が、点群地図135に登録されていない場合、RAM120に記憶させた点群データを、新たな駐車場データとして点群地図135に登録する。
また、自動駐車装置100は、現在位置の緯度及び経度と略一致する緯度及び経度が、点群地図135に駐車場データとして登録されている場合、駐車位置905を区画する駐車枠を基準に座標変換を行い、点群一致率IBを算出する。
自動駐車装置100は、点群一致率IBが、予め設定されたしきい値よりも大きい場合、図20(A)に示す点群データ915Aに、図20(B)に示す点群データ915Aが統合される。この統合により、図20(A)に示す点群データ915Aには含まれていない通行路903Aの左側の駐車位置905を示す点群データ915Aが駐車場データとして登録される。また、すでに駐車場データとして登録済みの通行路903Aの右側の駐車位置905を示す点群データ915Aは、点群データ915Aとして登録されるデータ数が増加し、点群データ915Aの密度が高くなる。
次に、位置推定モード230において実行されるマッチング処理について具体的に説明する。
図21は、駐車場900内の走行軌跡910と、車両1が駐車場900内を走行したことにより得られた局所周辺情報121とを示す図である。
点群地図135には、図18に示す駐車場900に設けられたすべての駐車位置905の点群データ915Aが登録されていると仮定する。
図21に示す点群データ915Aは、局所周辺情報121としてRAM120に記憶させたデータである。より具体的には、車両1が、図21に示された車両1の位置に到達するまでにカメラ25で撮影した撮影画像から検出されたデータであって、座標系を、局所座標系から駐車場座標系に変換したデータである。
また、図21には、車両1の走行軌跡910を示す。車両1が図18に示す通行路903Aから通行路903Bに進むときに車両1が右折するため、右折旋回による旋回誤差が発生している。このため、局所周辺情報121として登録された点群データ915Aの形状が変化し、そのまま点群地図135に登録された駐車場データと、局所周辺情報121の点群データ915Aとをマッチングしても一致しない。
図21に示す走行軌跡910には、有効軌跡912と、有効軌跡912以外の軌跡911とが含まれる。有効軌跡912は、車両1が右折旋回を開始した地点から、図21に示された車両1の位置までの軌跡である。有効軌跡912を中心として、所定の範囲内に入る点群データ915Aをマッチングに利用することで、正しいマッチングを実施できる。図22に、有効軌跡912を中心として、所定の範囲内に入る点群データ915Aをマッチング処理に利用した場合のマッチング結果を示す。図22に破線で示す点群データ915Aが、実線で示す駐車位置905を区画する駐車枠にマッチしている。
図23(A)は、車両1の現在位置を示し、図23(B)は、現在位置において検出された点群データ915Aを示す図である。
より詳細には、図23(B)は、図23(A)に示す位置に車両1が位置するときに、カメラ25により撮影された撮影画像から検出された点群データ915Aを、駐車場座標に変換し、可視化した状態を示す。また、図23には、対比のために車両1もあわせて表示している。図23に示すように、車両1の左側には、駐車位置905を示す点群データ915Aが切れ目なく存在しており、車両1の右側は、駐車位置905を示す点群データ915Aが手前側にのみ存在する。
図24は、点群地図135に駐車場データとして登録された点群データ925と、局所周辺情報121としてRAM120に記憶させた点群データ915Aとのマッチング結果を示す図である。
図24は、点群地図135に駐車場データとして登録された点群データ925、又は局所周辺情報121のいずれか一方に誤差が含まれ、車両1の右側に存在する局所周辺情報121の点群データ915Aは、点群データ925とずれが生じている。このような状態で瞬間一致度ICを算出すると、車両1の右側の点群データ915Aのずれにより、瞬間一致度ICは低い値となる。
自動駐車装置100は、瞬間一致度ICがしきい値よりも小さいと判定した場合、点群地図135に駐車場データとして登録された点群データ925を使用して、駐車枠の幅を算出し、局所周辺情報121の点群データ915Aを、算出した駐車枠の幅の整数倍、移動させて全体一致度IWを算出する。
図25は、局所周辺情報121としてRAM120に記憶させた点群データ915Aを、駐車枠の幅の整数倍で移動させた場合の点群データ925との関係を示す図である。
図25(A)は、点群データ915Aを移動させる前の点群データ915Aと点群データ925との位置関係を示す図である。
図25(B)は、点群データ915Aを駐車枠の幅の+1倍だけ、図面視上方に移動させた場合の点群データ915Aと点群データ925との位置関係を示す図である。
図25(C)は、点群データ915Aを駐車枠の幅の-1倍だけ、図面視下方に移動させた場合の点群データ915Aと点群データ925との位置関係を示す図である。
図25(B)に示す点群データ915Aは、図面視上方に駐車枠の幅の1つ分移動しており、点群データ915Aと点群データ925とのずれが拡大している。このため、図25(B)における全体一致度IWは、図25(A)に示す点群データ915Aを移動させる前よりも小さくなる。
図25(C)に示す点群データ915Aは、図面視上方に駐車枠の幅の1つ分移動しており、点群データ915Aと点群データ925と略一致している。このため、図25(C)における全体一致度IWは、図25(A)に示す点群データ915Aを移動させる前よりも小さくなる。
このように、全体一致度IWに基づいて点群データ915Aの移動量を決定し、決定した移動量に対応する座標変換式をRAM120に記憶させる。これにより、自己位置の推定精度を高めることができる。
以上説明したように本実施形態の自動駐車装置100は、移動量算出部155A、直線状俯瞰画像生成部155B、距離別旋回角度生成部155C、俯瞰画像再構成部155D及び不揮発性記憶部130を備える。
移動量算出部155Aは、車速センサ41のセンサデータを用いて車両1の移動距離を算出する。
直線状俯瞰画像生成部155Bは、車両の周囲を撮影したカメラ25の撮影画像を用いて撮影画像の視点を俯瞰視点に変換した俯瞰画像200を生成し、生成した俯瞰画像の形状を直線状に形状変換した直線状俯瞰画像131を生成する。
距離別旋回角度生成部155Cは、舵角センサ43のセンサデータが示す車両1の旋回量と、移動量算出部155Aが算出した移動距離とを用いて、車両1の所定の移動距離ごとの旋回角度を示す距離別旋回角度情報133を算出する。
不揮発性記憶部130は、直線状俯瞰画像131と、距離別旋回角度情報133とを記憶する。
俯瞰画像再構成部155Dは、直線状俯瞰画像131と、距離別旋回角度情報133とを用いて、俯瞰画像200を再構成する。
このように本実施形態の自動駐車装置100は、俯瞰画像の形状を直線状に形状変換した直線状俯瞰画像131と、移動距離ごとの車両1の旋回角度を示す距離別旋回角度情報133とを不揮発性記憶部130に記憶させておき、俯瞰画像200を生成する場合には、直線状俯瞰画像131と距離別旋回角度情報133とに基づき俯瞰画像200を生成する。このため、俯瞰画像200のデータ量を削減することができる。
直線状俯瞰画像131のデータ量は、俯瞰画像200よりも少ないため、俯瞰画像200を不揮発性記憶部130に記憶させておく場合と比較して、不揮発性記憶部130に記憶させるデータ量を大幅に削減することができる。
また、直線状俯瞰画像131を不揮発性記憶部130に記憶させておくことで、立体駐車場等の階層構造を有する駐車場であっても2次元画像で表現することができ、直線状俯瞰画像131を用いると立体駐車場であっても俯瞰画像200の生成が可能となる。
また、センサデータに誤差が含まれる場合、1周回って同じ場所に帰ってきたとき、俯瞰画像200上は本来同じ場所になるべきところが、誤差のため他の場所に画像が重なってしまう場合があるが、センサデータに誤差があっても俯瞰画像200が誤って重なることがなく、俯瞰画像200の汚損を低減することができる。
図26は、俯瞰画像生成システム300のシステム構成図である。
俯瞰画像生成システム300は、車両1に搭載された車載装置10と、サーバ装置350とがネットワーク310を介して接続された構成を備える。
車載装置10は、自動駐車装置100を備える。自動駐車装置100は、地図記憶モード220に移行すると、図12のフローチャートに示す手順で駐車場データを生成し、生成した駐車場データと、自動駐車装置100の識別情報とを、通信装置60を介してサーバ装置350にアップロードする。
サーバ装置350は、自動駐車装置100から受信した駐車場データが登録された点群地図135を記憶する記憶装置を備える。サーバ装置350は、点群地図135を、自動駐車装置100の識別情報に対応づけて記憶装置に記憶させる。
サーバ装置350は、自動駐車装置100から駐車場データを受信すると、受信した識別情報に対応する点群地図135を検索し、検索した点群地図135に駐車場データを登録する。
自動駐車装置100は、位置推定モード230に移行すると、ナビゲーション装置30から取得した緯度及び経度と、自動駐車装置100の識別情報とを、通信装置60を介してサーバ装置350に送信する。
サーバ装置350は、受信した識別情報に対応する点群地図135を参照して、受信した緯度及び経度と略一致する緯度及び経度の駐車場データを取得する。サーバ装置350は、取得した駐車場データを該当の自動駐車装置100にダウンロードする。
自動駐車装置100は、サーバ装置350から駐車場データを受信すると、図13に示す手順に従って車両1の位置を推定し、自動駐車を実行する。
上述した実施形態は、あくまでも本発明の一態様を例示するものであって、本発明の要旨を逸脱しない範囲で任意に変形、及び応用が可能である。
例えば、上述した実施形態は、以下に示す変形実施が可能である。
(1)センサ誤差データベース137及び環境データベース139を記憶させる記憶装置は、ハードディスクドライブ等の補助記憶装置であってもよいし、車載装置10の外部のサーバ装置等に記憶させてもよい。
(2)自動駐車装置100は、車速センサ41及び舵角センサ43からセンシング結果を受信しなくてもよい。この場合、自動駐車装置100は、カメラ25の撮影画像を用いて車両1の移動を推定する。自動駐車装置100は、ROM110に格納された内部パラメータ及び外部パラメータを用いて、被写体とカメラ25との位置関係を算出する。そして複数の撮影画像においてその被写体を追跡することにより、車両1の移動量及び移動方向を推定する。
(2)点群地図135や局所周辺情報121を、3次元情報として不揮発性記憶部130に記憶させてもよい。3次元の点群情報は、2次元平面上に投影することにより、2次元で他の点群と比較してもよいし、3次元同士で比較してもよい。この場合、自動駐車装置100は、車速センサ41及び舵角センサ43から入力されるセンサデータに基づいて算出した車両1の移動量と、カメラ25から入力される複数の撮影画像とを用いて、公知のモーションステレオ技術や、そのモーション推定部分を内界センサや測位センサで補正した情報を用いることで、静止立体物の3次元点群を得ることができる。
(3)自動駐車装置100は、図16のステップT3564において、1回だけの否定判定によりステップT3565に進むのではなく、数回連続で否定判定された場合にステップT3565に進んでもよい。
(5)自動駐車装置100は、図16のステップT3564の判定に代えて、局所周辺情報121に含まれる点群データのうち、アウトライアと判定される点の割合が予め定めたしきい値よりも大きいか否かを判定してもよい。自動駐車装置100は、アウトライアと判定される点の割合がしきい値よりも大きい場合、ステップT3565に進み、アウトライアと判定される点の割合がしきい値以下の場合、ステップT3570に進む。さらに自動駐車装置100は、図16のステップT3564の判定に加えて、アウトライアと判定される点の割合がしきい値よりも大きい場合に、ステップST3565に進んでもよい。
(6)自動駐車装置100は、図16のステップT3565及びステップT3567の処理を予め行ってもよい。さらにその処理結果をRAM120や不揮発性記憶部130に記憶させてもよい。
(7)自動駐車装置100は、ユーザからの動作指令を車両1の内部に設けられた入力装置70からだけでなく、通信装置60から受信してもよい。例えば、ユーザの所持する携帯端末と通信装置60が通信を行い、ユーザが携帯端末を操作することにより、自動駐車装置100は自動駐車ボタン73が押された場合と同様の動作を行ってもよい。この場合は、自動駐車装置100は、ユーザが車両1の内部に居る場合だけでなく、ユーザが降車した後にも自動駐車を行うことができる。
(8)自動駐車装置100は、点群地図135に登録された駐車位置だけでなく、ユーザにより指定された位置に駐車を行ってもよい。ユーザによる駐車位置の指定は、例えば、自動駐車装置100が表示装置80に駐車位置の候補を表示し、ユーザが入力装置70によりそのいずれかを選択することにより行われる。
(9)自動駐車装置100は、通信装置60を経由して外部から点群地図135を受信してもよいし、作成した点群地図135を、通信装置60を経由して外部に送信してもよい。また、自動駐車装置100が点群地図135を送受信する相手は他車両に搭載された別の自動駐車装置100でもよいし、駐車場を管理する組織が管理する装置でもよい。
(10)車載装置10は、ナビゲーション装置30に代えて携帯端末を備え、携帯端末が通信を行う基地局の識別情報を緯度及び経度の代わりに記録してもよい。基地局の通信範囲は数百m程度に限られるので、通信を行う基地局が同一であれば同一の駐車場の可能性が高いからである。
(11)駐車場データに含まれる周期的な特徴は駐車枠に限定されない。例えば、路面ペイントの1つである横断歩道を構成する複数の直線なども周期的な特徴である。また、駐車場データがレーザレーダなどで取得した、壁などの障害物の情報から構成される場合は、規則的に並んだ柱も周期的な特徴である。
(12)上述した実施の形態では移動体である他車両や人間はランドマークに含めなかったが、移動体をランドマークに含めてもよい。その場合は移動体であるランドマークと移動体以外のランドマークを識別可能に記憶してもよい。
(13)自動駐車装置100は、地図記憶モード220において、検出したランドマークを識別し、それぞれのランドマークの識別結果を点群地図135に併せて記録してもよい。ランドマークの識別には、撮影画像から得られるランドマークの形状情報や色情報、さらに公知のモーションステレオ技術によるランドマークの立体形状情報が用いられる。ランドマークは、例えば、駐車枠、駐車枠以外の路面ペイント、縁石、ガードレール、壁、などのように識別される。さらに自動駐車装置100は、移動体である他車両や人間をランドマークに含め、他のランドマークと同様に識別結果を点群地図135に併せて記録してもよい。この場合、他車両と人間をあわせて「移動体」として識別及び記録してもよいし、他車両と人間を個別に識別及び記録してもよい。
また、図9~図17に示すフローチャートの処理単位は、自動駐車装置100の処理を理解容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって本発明が制限されることはない。
また、自動駐車装置100の処理は、処理内容に応じて、さらに多くの処理単位に分割することもできるし、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
また、本発明の情報処理方法をコンピュータにより実現する場合、このコンピュータに実行させるプログラムを記録媒体、又はプログラムを伝送する伝送媒体の態様で構成することも可能である。記録媒体には、磁気的、光学的記録媒体又は半導体メモリーデバイスを用いることができる。具体的には、記録媒体には、フレキシブルディスク、HDD(Hard Disk Drive)、CD-ROM(Compact Disk Read Only Memory)、DVD、Blu-ray(登録商標) Disc、光磁気ディスクが挙げられる。また、記録媒体として、フラッシュメモリ、カード型記録媒体等の可搬型、或いは固定式の記録媒体を挙げることもできる。また、上記記録媒体は、表示装置が備える内部記憶装置であるRAM、ROM、HDD等の不揮発性記憶装置であってもよい。
1 車両
5 通信バス
10 車載装置
20 外界センサ群
21 レーダ
23 ソナー
25 カメラ
30 ナビゲーション装置
31 GNSS受信器
33 記憶部
35 道路地図
40 車両センサ群
41 車速センサ
43 舵角センサ
50 車両制御装置
51 操舵装置
53 駆動装置
55 制動装置
60 通信装置
70 入力装置
71 応答ボタン
73 自動駐車ボタン
100 自動駐車装置
101 インターフェイス
110 ROM
120 RAM
121 局所周辺情報
123 アウトライアリスト
130 不揮発性記憶部
131 直線状俯瞰画像
133 距離別旋回角度情報
135 点群地図
137 センサ誤差データベース
139 環境データベース
150 プロセッサ
151 データ取得部
152 ランドマーク測位部
153 点群データ検証部
154 駐車場データ登録部
155 俯瞰画像生成部
155A 移動量算出部
155B 直線状俯瞰画像生成部
155C 距離別旋回角度生成部
155D 俯瞰画像再構成部
156 位置推定部
157 駐車経路生成部
158 制御情報生成部
160 モード切替部
200 俯瞰画像
201 領域
210 通常走行モード
220 地図記憶モード
230 位置推定モード
240 自動駐車モード
250 ギブアップモード
800 建物
801 左側面
803 上面
900 駐車場
901 出入口
903、903A、903B 通行路
905 駐車領域
907 駐車位置
910 走行軌跡
912 有効軌跡
915A、915B 点群データ
925 点群データ
1351 駐車位置
1352 ランドマーク
1353 走行経路

Claims (7)

  1. 車両に搭載されたセンサのセンサデータを取得するデータ取得部と、
    前記データ取得部が取得した前記センサデータを用いて前記車両の移動量を算出する移動量算出部と、
    前記データ取得部が取得した前記センサデータに含まれる前記車両の周囲を撮影した撮影画像を用いて、前記撮影画像の視点を俯瞰視点に変換した俯瞰画像を生成し、生成した前記俯瞰画像の形状を直線状に形状変換した直線状俯瞰画像を生成する直線状俯瞰画像生成部と、
    前記データ取得部が取得した前記車両の旋回量を示す前記センサデータと、前記移動量算出部が算出した移動量とを用いて、前記車両の所定の移動量ごとの前記車両の旋回量を算出する移動量別旋回量算出部と、
    前記直線状俯瞰画像生成部が生成した前記直線状俯瞰画像と、前記移動量別旋回量算出部が算出した前記所定の移動量ごとの旋回量を示す情報とを記憶する記憶部と、
    前記直線状俯瞰画像と、前記所定の移動量ごとの旋回量とを用いて、前記俯瞰画像を再構成する俯瞰画像再構成部と、を備えることを特徴とする俯瞰画像生成装置。
  2. 前記直線状俯瞰画像生成部は、前記撮影画像と、前記撮影画像を撮影するカメラの前記車両における取り付け位置を示すパラメータとを用いて、前記撮影画像の視点を俯瞰視点に変換した前記俯瞰画像を生成し、
    前記移動量算出部が算出した前記車両の所定の移動量に基づき、前記俯瞰画像の各座標を対応づける直線形状の画像の座標を決定し、決定した前記座標に、前記俯瞰画像の対応づけられた座標の画素値を投影して前記直線状俯瞰画像を生成する、ことを特徴とする請求項1記載の俯瞰画像生成装置。
  3. 前記記憶部は、前記直線状俯瞰画像を、予め設定されたデータ量又は距離ごとに分割して記憶する、ことを特徴とする請求項1又は2記載の俯瞰画像生成装置。
  4. 前記俯瞰画像再構成部は、前記記憶部から前記直線状俯瞰画像の一部と、前記所定の移動量ごとの旋回量を示す情報とを読み出し、読み出した前記直線状俯瞰画像と、前記所定の移動量ごとの旋回量とに基づき、前記俯瞰画像を再構成することを特徴とする請求項3記載の俯瞰画像生成装置。
  5. 俯瞰画像を生成する俯瞰画像生成装置と、サーバ装置とを備える俯瞰画像生成システムであって
    前記俯瞰画像生成装置は、
    車両に搭載されたセンサのセンサデータを取得するデータ取得部と、
    前記データ取得部が取得した前記センサデータを用いて前記車両の移動量を算出する移動量算出部と、
    前記データ取得部が取得した前記センサデータに含まれる前記車両の周囲を撮影した撮影画像を用いて前記撮影画像の視点を俯瞰視点に変換した俯瞰画像を生成し、生成した前記俯瞰画像の形状を直線状に形状変換した直線状俯瞰画像を生成する直線状俯瞰画像生成部と、
    前記データ取得部が取得した前記車両の旋回量を示す前記センサデータと、前記移動量算出部が算出した移動量とを用いて、前記車両の所定の移動量ごとの前記車両の旋回量を算出する移動量別旋回量算出部と、
    前記直線状俯瞰画像生成部が生成した前記直線状俯瞰画像と、前記移動量別旋回量算出部が算出した前記移動量ごとの旋回量を示す情報とを前記サーバ装置に送信する通信部と、を備え、
    前記サーバ装置は、前記俯瞰画像生成装置から受信した前記直線状俯瞰画像と、前記移動量ごとの旋回量を示す情報とを記憶する、
    ことを特徴とする俯瞰画像生成システム。
  6. 前記俯瞰画像生成装置は、前記通信部が、前記サーバ装置から受信した前記直線状俯瞰画像と、前記移動量ごとの旋回量の情報とに基づき、前記俯瞰画像を再構成する俯瞰画像再構成部を備えることを特徴とする請求項5記載の俯瞰画像生成システム。
  7. 請求項1記載の俯瞰画像生成装置を備える自動駐車装置であって、
    前記記憶部は、車両の周囲に存在する物体の一部を表す点群の第1座標系における座標を示す点群データを、緯度及び経度を示す測位データに対応づけて記憶し、
    前記データ取得部が取得した前記センサデータ、及び、前記移動量算出部が算出した前記移動量に基づき、第2座標系における前記車両の位置及び物体の一部を表す点群の前記第2座標系における座標が複数含まれる局所周辺情報を生成するランドマーク測位部と、
    前記点群データと前記局所周辺情報とに基づき前記第1座標系と前記第2座標系の関係を推定し、前記第1座標系における前記車両の位置を推定する位置推定部と、
    前記俯瞰画像生成装置が生成した前記俯瞰画像に、前記位置推定部が推定した前記車両の位置を重畳して表示装置に表示させる表示制御部と、
    前記点群データ及び前記位置推定部によって推定される前記車両の位置に基づき前記車両を駆動し、前記第1座標系における予め設定された駐車位置に前記車両を移動させる自動駐車部と、
    を備えることを特徴とする自動駐車装置。
JP2020119895A 2020-07-13 2020-07-13 俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置 Pending JP2022016908A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020119895A JP2022016908A (ja) 2020-07-13 2020-07-13 俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置
CN202110771626.2A CN113997931B (zh) 2020-07-13 2021-07-08 俯瞰图像生成装置、俯瞰图像生成***及自动泊车装置
EP21184903.9A EP3939863A1 (en) 2020-07-13 2021-07-09 Overhead-view image generation device, overhead-view image generation system, and automatic parking device
US17/371,516 US12033400B2 (en) 2020-07-13 2021-07-09 Overhead-view image generation device, overhead-view image generation system, and automatic parking device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020119895A JP2022016908A (ja) 2020-07-13 2020-07-13 俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置

Publications (1)

Publication Number Publication Date
JP2022016908A true JP2022016908A (ja) 2022-01-25

Family

ID=77249660

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020119895A Pending JP2022016908A (ja) 2020-07-13 2020-07-13 俯瞰画像生成装置、俯瞰画像生成システム及び自動駐車装置

Country Status (3)

Country Link
EP (1) EP3939863A1 (ja)
JP (1) JP2022016908A (ja)
CN (1) CN113997931B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023176621A1 (ja) * 2022-03-14 2023-09-21 パイオニア株式会社 推定装置、システム、推定方法、およびプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102022204313A1 (de) * 2022-05-02 2023-11-02 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zum Erzeugen eines Umfeldabbildes für einen Parkassistenten eines Fahrzeugs

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101082502A (zh) * 2006-05-29 2007-12-05 爱信艾达株式会社 驻车辅助方法及驻车辅助装置
JP4967620B2 (ja) * 2006-11-28 2012-07-04 アイシン・エィ・ダブリュ株式会社 駐車支援方法及び駐車支援装置
KR101319471B1 (ko) 2008-08-29 2013-10-17 미쓰비시덴키 가부시키가이샤 부감 화상 생성장치, 부감 화상 생성방법 및 기록매체
EP2583868B1 (en) * 2010-06-15 2018-06-20 Aisin Seiki Kabushiki Kaisha Drive assist device
JP5682788B2 (ja) * 2011-09-27 2015-03-11 アイシン精機株式会社 車両周辺監視装置
JP5820787B2 (ja) * 2012-08-30 2015-11-24 株式会社デンソー 画像処理装置、及びプログラム
DE102013224190B4 (de) * 2013-11-27 2021-05-06 Robert Bosch Gmbh Verfahren zur Bereitstellung von Fahrzeug-Kameradaten
BR112018007131A2 (ja) * 2015-10-08 2018-11-06 Nissan Motor Co., Ltd. A display supporting device and a display support method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023176621A1 (ja) * 2022-03-14 2023-09-21 パイオニア株式会社 推定装置、システム、推定方法、およびプログラム

Also Published As

Publication number Publication date
EP3939863A1 (en) 2022-01-19
CN113997931B (zh) 2024-05-24
US20220012509A1 (en) 2022-01-13
CN113997931A (zh) 2022-02-01

Similar Documents

Publication Publication Date Title
US11433880B2 (en) In-vehicle processing apparatus
JP7301909B2 (ja) 地図データ、レーザ、およびカメラからのヨー誤差の確定
US20200353914A1 (en) In-vehicle processing device and movement support system
US11915099B2 (en) Information processing method, information processing apparatus, and recording medium for selecting sensing data serving as learning data
KR20190087266A (ko) 자율주행을 위한 고정밀 지도의 업데이트 장치 및 방법
Alonso et al. Accurate global localization using visual odometry and digital maps on urban environments
JP5927735B2 (ja) 地図データ作成装置、自律移動システムおよび自律移動制御装置
JP7137359B2 (ja) 情報処理装置
TW202018328A (zh) 用於產生彩色點雲的方法和系統
JP2022518911A (ja) 乗り物のセンサとカメラアレイからの構造化された地図データの生成
US11351986B2 (en) In-vehicle processing apparatus
JP2002511614A (ja) 物***置の追跡・検知方法
JP6757261B2 (ja) 車載処理装置
JP2016157197A (ja) 自己位置推定装置、自己位置推定方法およびプログラム
KR102219843B1 (ko) 자율주행을 위한 위치 추정 장치 및 방법
US20210394782A1 (en) In-vehicle processing apparatus
JP6989284B2 (ja) 車両位置推定装置及びプログラム
CN113997931B (zh) 俯瞰图像生成装置、俯瞰图像生成***及自动泊车装置
KR102336778B1 (ko) 스카이라인을 이용한 차량의 측위 방법
CN112447058B (zh) 泊车方法、装置、计算机设备及存储介质
JP2018084492A (ja) 自己位置推定方法及び自己位置推定装置
Park et al. Vehicle localization using an AVM camera for an automated urban driving
KR101700764B1 (ko) 자율 이동 방법 및 그 장치
CN112528719A (zh) 推定装置、推定方法以及存储介质
US12033400B2 (en) Overhead-view image generation device, overhead-view image generation system, and automatic parking device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230602

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240422