JP2021009642A - Driving information control device and driving information control system - Google Patents

Driving information control device and driving information control system Download PDF

Info

Publication number
JP2021009642A
JP2021009642A JP2019124279A JP2019124279A JP2021009642A JP 2021009642 A JP2021009642 A JP 2021009642A JP 2019124279 A JP2019124279 A JP 2019124279A JP 2019124279 A JP2019124279 A JP 2019124279A JP 2021009642 A JP2021009642 A JP 2021009642A
Authority
JP
Japan
Prior art keywords
vehicle
information
information control
landmark
driving information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019124279A
Other languages
Japanese (ja)
Other versions
JP7296265B2 (en
Inventor
貴行 齊藤
Takayuki Saito
貴行 齊藤
大司 清宮
Daiji Kiyomiya
大司 清宮
幸夫 麻生
Yukio Aso
幸夫 麻生
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Priority to JP2019124279A priority Critical patent/JP7296265B2/en
Publication of JP2021009642A publication Critical patent/JP2021009642A/en
Application granted granted Critical
Publication of JP7296265B2 publication Critical patent/JP7296265B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Abstract

To provide a driving information control device and a driving information control system capable of improving an accuracy of information as a landmark of an object used for controlling a driving of a vehicle.SOLUTION: A vehicle control device 8 of a driving information control system recognizes a specific object around a vehicle as a landmark from images acquired by image pickup sensors 7a to 7d provided on the vehicle, and stores the recognized object as information used for controlling the driving of the vehicle. The vehicle control device 8 stores a specific object in an image selected by an input operation by a user's contact operation on a display screen on which the image captured by the image pickup sensor is displayed as a landmark.SELECTED DRAWING: Figure 2

Description

本発明は、運転情報制御装置および運転情報制御システムに関する。 The present invention relates to a driving information control device and a driving information control system.

近年、自動車等の運転に関しては自動運転や駐車支援の実施に関する要求が高まっており、これに伴って自車両周辺の構造物などの情報を取得管理することが必要となっている。 In recent years, there has been an increasing demand for automatic driving and parking support for driving automobiles and the like, and along with this, it is necessary to acquire and manage information such as structures around the own vehicle.

このような、運転に係る情報の取り扱いに関する技術として、例えば、特許文献1には、車両に搭載される状態判定装置であって、前記車両の運転者が視認すべき対象物を特定する対象物特定手段と、前記車両の運転者の状態を検出する状態検出手段と、前記状態検出手段により検出された運転者の状態が、前記対象物特定手段により特定された前記対象物に応じた所定の状態であるか否かを判定する判定手段と、を備える状態判定装置が開示されている。 As such a technique for handling information related to driving, for example, Patent Document 1 describes an object that is a state determination device mounted on a vehicle and identifies an object that the driver of the vehicle should see. The specific means, the state detecting means for detecting the state of the driver of the vehicle, and the state of the driver detected by the state detecting means are predetermined according to the object specified by the object specifying means. A state determination device including a determination unit for determining whether or not a state is in a state is disclosed.

また、特許文献2には、車両の周辺環境を検知する画像認識手段と前記車両の走行を制御する走行制御装置を有する走行制御システムであって、前記車両の周辺環境を記憶する周辺環境記憶手段を有し、前記周辺環境記憶手段に記憶された周辺環境の情報と前記画像認識手段による検出情報とに基づいて求められた前記画像認識手段の検知性能の状態に基づき、前記走行制御装置にて行う走行制御のモードを変更させる走行制御システムが開示されている。 Further, Patent Document 2 is a travel control system including an image recognition means for detecting the surrounding environment of the vehicle and a travel control device for controlling the travel of the vehicle, and the peripheral environment storage means for storing the peripheral environment of the vehicle. Based on the state of the detection performance of the image recognition means obtained based on the information of the surrounding environment stored in the surrounding environment storage means and the detection information by the image recognition means, the traveling control device A travel control system for changing the mode of travel control to be performed is disclosed.

特開2009−069885号公報JP-A-2009-0698885 特開2016−099635号公報Japanese Unexamined Patent Publication No. 2016-099635

上記特許文献1に記載の従来技術においては、走行中に経路上や道路周辺のユーザーが視認すべき対象物となるオブジェクトを特定し、車内ユーザー監視装置の車内撮影カメラが撮影した顔画像に基づいて、ユーザーがオブジェクトを視認しているか否か、すなわち、運転可能状態であるか否かを判定している。認識すべきオブジェクトとしては、信号や各種標識、白線及び黄色線、横断歩道、道路標示などが挙げられる。また、自動運転や駐車支援などにおいては、自車両周辺のオブジェクトを特定し、その情報に基づいて自車両の動作を制御する必要があり、上記特許文献2に記載の従来技術においては、自車両が走行した経路と自車両周辺の物体や白線等といったオブジェクトを特定して周辺環境情報として記憶し、記憶した周辺環境情報を用いて自車両を制御している。 In the prior art described in Patent Document 1, an object to be visually recognized by a user on a route or around a road while driving is specified, and based on a face image taken by an in-vehicle camera of an in-vehicle user monitoring device. Therefore, it is determined whether or not the user is visually recognizing the object, that is, whether or not the object is in an operable state. Objects to be recognized include traffic lights, various signs, white and yellow lines, pedestrian crossings, road markings, and the like. Further, in automatic driving, parking assistance, etc., it is necessary to identify an object around the own vehicle and control the operation of the own vehicle based on the information. In the prior art described in Patent Document 2 above, the own vehicle The route traveled by the vehicle and objects such as objects around the vehicle and white lines are specified and stored as peripheral environment information, and the vehicle is controlled using the stored peripheral environment information.

しかしながら、上記従来技術においては、自車両周辺のオブジェクトを特定することはできるものの、特定したオブジェクトが具体的にどこに存在するものであるかを特定することはできない。すなわち、特定されるオブジェクトの固体識別が出来ないため、特定したオブジェクトが自動運転や運転支援における自車両の走行経路上のオブジェクトであるのか否かを判定することができず、また、走行経路上のオブジェクトであったとしても、同様のオブジェクトが経路上に複数ある場合にはユニークな存在ではない可能性があり、自動運転や運転支援のような車両の走行の制御にランドマークとして用いるには情報の精度が不十分であった。 However, in the above-mentioned prior art, although it is possible to specify an object around the own vehicle, it is not possible to specify where the specified object is specifically located. That is, since the individual identification of the specified object cannot be performed, it cannot be determined whether or not the specified object is an object on the traveling path of the own vehicle in automatic driving or driving support, and it is not possible to determine on the traveling route. Even if it is an object of, it may not be unique if there are multiple similar objects on the route, and it can be used as a landmark for controlling the running of a vehicle such as automatic driving and driving assistance. The accuracy of the information was insufficient.

本発明は上記に鑑みてなされたものであり、車両の走行の制御に用いるオブジェクトのランドマークとしての情報の精度を向上することができる運転情報制御装置および運転情報制御システムを提供することを目的とする。 The present invention has been made in view of the above, and an object of the present invention is to provide a driving information control device and a driving information control system capable of improving the accuracy of information as landmarks of objects used for controlling the running of a vehicle. And.

本願は上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、車両に設けられた撮像センサで取得される画像から車両周辺の特定の物体をランドマークとして認識し、認識した前記物体を車両の走行の制御に用いる情報として記憶する運転情報制御装置であって、前記撮像センサで撮像された画像が表示された表示画面へのユーザーの接触操作による入力操作により選択された画像中の特定の物体をランドマークとして記憶するものとする。 The present application includes a plurality of means for solving the above problems. For example, a specific object around the vehicle is recognized and recognized as a landmark from an image acquired by an image sensor provided in the vehicle. An image selected by a user's contact operation on a display screen on which an image captured by the image sensor is displayed, which is a driving information control device that stores the object as information used for controlling the running of the vehicle. It is assumed that a specific object inside is memorized as a landmark.

本発明によれば、車両の走行の制御に用いるオブジェクトのランドマークとしての情報の精度を向上することができる。 According to the present invention, it is possible to improve the accuracy of information as a landmark of an object used for controlling the traveling of a vehicle.

車両の構成を模式的に示す図である。It is a figure which shows typically the structure of a vehicle. 運転情報制御システムを構成する車両制御装置を関連構成とともに抜き出して示す機能ブロック図である。It is a functional block diagram which shows by extracting the vehicle control device which constitutes a driving information control system together with the related structure. 駐車支援制御の一例を示す図である。It is a figure which shows an example of parking support control. 手動走行時における周辺環境情報の記憶に係る処理を示すフローチャートである。It is a flowchart which shows the process which concerns on the storage of the surrounding environment information at the time of manual driving. 自動走行時における周辺環境情報の記憶に係る処理を示すフローチャートである。It is a flowchart which shows the process to store the surrounding environment information at the time of automatic driving. 暫定記憶処理(自動記憶)の処理内容を示すフローチャートである。It is a flowchart which shows the processing content of the provisional storage process (automatic memory). 暫定記憶処理(手動記憶)の処理内容を示すフローチャートである。It is a flowchart which shows the processing content of the provisional storage process (manual memory). 永久記憶処理の処理内容を示すフローチャートである。It is a flowchart which shows the processing content of a permanent storage process. 暫定記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the provisional memory processing. 暫定記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the provisional memory processing. 暫定記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the provisional memory processing. 暫定記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the provisional memory processing. 永久記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the permanent memory processing. 永久記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the permanent memory processing. 永久記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the permanent memory processing. 永久記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the permanent memory processing. 永久記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the permanent memory processing. 永久記憶処理におけるHMIでの表示の様子を示す図である。It is a figure which shows the state of the display in HMI in the permanent memory processing.

以下、本発明の一実施の形態について図面を参照しつつ説明する。 Hereinafter, an embodiment of the present invention will be described with reference to the drawings.

図1は、車両の構成を模式的に示す図である。 FIG. 1 is a diagram schematically showing the configuration of a vehicle.

図1において、車両(以降、自車両と称する)100は、駆動力源としての、例えば筒内噴射式ガソリンエンジン1と、エンジン1に接離可能な自動変速機2と、プロペラシャフト3と、ディファレンシャルギア4と、ドライブシャフト5と、4つの車輪6と、各車輪に設けられたブレーキ装置10と、電動パワーステアリング11とを備えて概略構成された後輪駆動車である。ブレーキ装置10には、車輪6の回転速度に応じてパルス波形を生成して出力する車輪速センサ10aが設けられている。 In FIG. 1, the vehicle (hereinafter referred to as own vehicle) 100 includes, for example, an in-cylinder injection type gasoline engine 1, an automatic transmission 2 that can be connected to and detached from the engine 1, and a propeller shaft 3 as a driving force source. It is a rear-wheel drive vehicle roughly configured with a differential gear 4, a drive shaft 5, four wheels 6, a braking device 10 provided on each wheel, and an electric power steering 11. The brake device 10 is provided with a wheel speed sensor 10a that generates and outputs a pulse waveform according to the rotation speed of the wheel 6.

車両100の前方、後方、及び左右の側方には、それぞれ、撮像センサ7a〜7dが配備されている。撮像センサ7a〜7dは、車両100の周囲の物体や白線等の道路環境を撮像して出力する。なお、撮像センサ7a〜7dの取り付け位置や数などは上記に限定されるものではなく、車両100の周囲の情報を取得できるように設けられていれば良い。 Imaging sensors 7a to 7d are provided on the front, rear, and left and right sides of the vehicle 100, respectively. The image pickup sensors 7a to 7d take an image of the road environment such as an object around the vehicle 100 and a white line and output the image. The mounting positions and numbers of the image sensor 7a to 7d are not limited to the above, and may be provided so as to be able to acquire information on the surroundings of the vehicle 100.

また、自車両100には、車両制御装置8及び各種センサ類9、アクチュエータ、機器類などが設けられており、これらは車内LANやCAN通信を通じて信号やデータの授受が可能である。車両制御装置8は、撮像センサ7a〜7d、し車輪速センサ10a、センサ類9などから自車両100内部および外部の情報を得て、自動駐車(駐車支援制御)や自動運転(自動運転制御)等の制御を実現するための指令値を、エンジン1、ブレーキ装置10、電動パワーステアリング11、トランスミッション2などへ送信する。 Further, the own vehicle 100 is provided with a vehicle control device 8, various sensors 9, actuators, devices, and the like, which can exchange signals and data through an in-vehicle LAN or CAN communication. The vehicle control device 8 obtains information inside and outside the own vehicle 100 from image pickup sensors 7a to 7d, wheel speed sensors 10a, sensors 9, and the like, and automatically parks (parking support control) and automatically drives (automatic driving control). The command value for realizing the control such as is transmitted to the engine 1, the braking device 10, the electric power steering 11, the transmission 2, and the like.

なお、本実施の形態においては、駆動力源としてガソリンエンジンを例示して説明するが、これに限られず、例えば、駆動力源としてディーゼルエンジンや電動機などを用いてもよい。また、駆動方式として後輪駆動を例示して説明するが、これに限られず、例えば、前輪駆動や常時全輪駆動などに本発明を適用しても良い。また、自動変速機を用いた車両を例示して説明したが、これに限られず、例えば、無段変速機(CVT)を採用した車両に本発明を適用しても良い。 In the present embodiment, the gasoline engine will be described as an example of the driving force source, but the present invention is not limited to this, and for example, a diesel engine, an electric motor, or the like may be used as the driving force source. Further, the rear wheel drive will be described as an example of the drive system, but the present invention is not limited to this, and the present invention may be applied to, for example, front wheel drive or constant all-wheel drive. Moreover, although the vehicle using the automatic transmission has been described as an example, the present invention is not limited to this, and the present invention may be applied to, for example, a vehicle using a continuously variable transmission (CVT).

図2は、運転情報制御システムを構成する車両制御装置を関連構成とともに抜き出して示す機能ブロック図である。なお、本実施の形態においては、駐車支援制御を行う駐車支援システムの一部として運転情報制御システムを適用する場合を例示して説明する。 FIG. 2 is a functional block diagram showing the vehicle control devices constituting the driving information control system extracted together with the related configurations. In the present embodiment, a case where the driving information control system is applied as a part of the parking support system that performs parking support control will be described as an example.

ここで、駐車支援制御の概要について説明する。 Here, the outline of the parking support control will be described.

図3は、駐車支援制御の一例を示す図である。 FIG. 3 is a diagram showing an example of parking support control.

図3では、自車両100が、日常的に利用する経路(走行経路109)を通って保管場所まで走行し、駐車位置101で停止する駐車支援制御を行う場合を例示している。 FIG. 3 illustrates a case where the own vehicle 100 travels to a storage location through a route (travel route 109) that is used on a daily basis and performs parking support control that stops at the parking position 101.

駐車支援制御では、事前に走行経路109及び走行経路周辺の環境情報と、駐車を開始する駐車開始位置とを駐車支援システムに予め記憶させておく。例えば、乗員が自身で自車両100を運転しているときに、地点102にて周辺環境情報の記憶開始を指示することで、事前に走行経路109及び走行経路周辺の環境情報を記憶させておく。また、ここでは、地点102を駐車開始位置102として設定したものとする。 In the parking support control, the traveling route 109 and the environmental information around the traveling route and the parking start position at which parking is started are stored in advance in the parking support system. For example, when the occupant is driving his / her own vehicle 100, the traveling route 109 and the environment information around the traveling route are stored in advance by instructing the start of storage of the surrounding environment information at the point 102. .. Further, here, it is assumed that the point 102 is set as the parking start position 102.

記憶の対象は、例えば、道路脇に存在する電柱103、信号機104、横断歩道105、標識107、路面標示106、白線108など、駐車支援システムにおける認識時点で運動していないものとする。 It is assumed that the object of memory is not exercising at the time of recognition in the parking support system, such as a utility pole 103, a traffic light 104, a pedestrian crossing 105, a sign 107, a road marking 106, and a white line 108 existing on the side of a road.

そして、この状態で、次に自車両100が同じ経路を通って駐車開始位置に到達した場合に、乗員に対して駐車支援制御が可能である旨を通知する。ここで、乗員が駐車支援制御の開始を指示すると、駐車支援システムは、自車両100の操舵および車速を制御することにより、記憶した経路109を追従しながら自動的に走行を行い、駐車位置101位置に停車(駐車)する。 Then, in this state, when the own vehicle 100 next reaches the parking start position through the same route, the occupant is notified that the parking support control is possible. Here, when the occupant instructs to start the parking support control, the parking support system automatically travels while following the memorized route 109 by controlling the steering and the vehicle speed of the own vehicle 100, and the parking position 101 Stop (park) at the position.

図2において、運転情報制御システムは、撮像センサ7a〜7d、HMI31、車輪センサ34、位置検出器35、通信装置36、アクチュエータECU40、HMI41、及び車両制御装置8によって構成される。 In FIG. 2, the driving information control system includes image pickup sensors 7a to 7d, HMI 31, wheel sensor 34, position detector 35, communication device 36, actuator ECU 40, HMI 41, and vehicle control device 8.

HMI(Human Machine Interface)31,41は、内部構成として入力スイッチ部32、タッチ操作機能部33、表示器42、音声出力器43などを備えている。 The HMIs (Human Machine Interfaces) 31 and 41 include an input switch unit 32, a touch operation function unit 33, a display 42, an audio output device 43, and the like as internal configurations.

表示器42は、例えば、液晶ディスプレイによって構成され、表示器42の表示画面には、後述する撮像センサで撮像した俯瞰画像を表示したり、車両制御装置8からの画像信号の画像を表示したりする。タッチ操作機能部33は、接触操作によって各種選択や指示の入力などを行う機能であり、例えば、静電容量式のタッチパネルなどで構成されている。例えば、HMI31,41の一部を構成するタッチ操作機能部33や表示器42などの機能は、タッチパネル式の液晶ディスプレイで実現することができ、運転者を含む乗員によるディスプレイへの接触操作によって各種操作を行うことができる。 The display 42 is composed of, for example, a liquid crystal display, and on the display screen of the display 42, a bird's-eye view image captured by an imaging sensor described later can be displayed, or an image of an image signal from the vehicle control device 8 can be displayed. To do. The touch operation function unit 33 is a function of performing various selections and input of instructions by a touch operation, and is composed of, for example, a capacitance type touch panel or the like. For example, functions such as the touch operation function unit 33 and the display 42 that form a part of the HMIs 31 and 41 can be realized by a touch panel type liquid crystal display, and various functions can be realized by touching the display by an occupant including the driver. You can perform operations.

入力スイッチ部32は、例えば、自車両100の運転席周辺に設けられた専用の機械式スイッチである。なお、入力スイッチ部32は、GUI(Graphical User Interface)スイッチなどであってもよい。入力スイッチ部32は、駐車支援制御等に先立って周辺環境を記憶させる指示や車両を自動制御させる指示を運転者を含む乗員の操作によって受け付ける。 The input switch unit 32 is, for example, a dedicated mechanical switch provided around the driver's seat of the own vehicle 100. The input switch unit 32 may be a GUI (Graphical User Interface) switch or the like. The input switch unit 32 receives an instruction to store the surrounding environment and an instruction to automatically control the vehicle prior to the parking support control or the like by the operation of the occupants including the driver.

音声出力器43は、例えば、スピーカーによって構成され、自車両100の車室内の適切な場所に配置され、運転者を含む乗員への音声案内や警告音の出力に利用される。 The voice output device 43 is composed of, for example, a speaker, is arranged at an appropriate position in the vehicle interior of the own vehicle 100, and is used for voice guidance and warning sound output to occupants including the driver.

撮像センサ7a〜7dは、物体や白線や標識の情報を撮像するためのものであり、例えば、単眼のCCDカメラ、或いは、ステレオカメラ等で構成することができる。撮像センサ7a〜7dにより撮像される画像は、例えば、自車両100を含む周辺を車両上方に配置した仮想視点から見下ろした俯瞰画像に合成処理することができる。 The image pickup sensors 7a to 7d are for capturing information on an object, a white line, or a sign, and can be configured by, for example, a monocular CCD camera, a stereo camera, or the like. The images captured by the image pickup sensors 7a to 7d can be combined with, for example, a bird's-eye view image looking down from a virtual viewpoint in which the periphery including the own vehicle 100 is arranged above the vehicle.

車輪センサ34は、自車両100の各車輪6に取り付けられ車輪の回転速度を検出する車輪速センサ10aと、車輪速センサ10aにより検出された検出値を統合して車速信号データを生成して出力するコントローラ(図示せず)により構成されている。 The wheel sensor 34 integrates a wheel speed sensor 10a attached to each wheel 6 of the own vehicle 100 to detect the rotation speed of the wheels and a detection value detected by the wheel speed sensor 10a to generate and output vehicle speed signal data. It is composed of a controller (not shown).

位置検出器35は、自車両100の前方の方位(向き)を測定する方位センサと、衛星からの電波に基づいて車両の位置を測定するGPS(Global Positioning System)のためのGPS受信機などで構成される。 The position detector 35 is an orientation sensor that measures the front orientation (direction) of the own vehicle 100, a GPS receiver for GPS (Global Positioning System) that measures the position of the vehicle based on radio waves from satellites, and the like. It is composed.

通信装置36は、自車両100の外部からの通信を授受する装置であり、例えば、自車両周辺の道路情報として路面情報(レーンマーカー位置、停止線位置、横断歩道、などの路面ペイント種別と位置など)と物体情報(標識、信号機、地物、など道路周辺に存在する物体)を取得する。これらの情報としては、道路インフラに設置されたセンサによって検知した情報、外部データセンタに記憶された道路周辺情報(路面情報や物体情報など)、他車両が検知した道路周辺情報(路面情報や物体情報など)を用いることが可能である。また、事前に記憶している走行周辺の道路情報を通信装置36を用いて最新の情報に変更することも可能である。 The communication device 36 is a device that exchanges communication from the outside of the own vehicle 100. For example, the road surface paint type and position such as road surface information (lane marker position, stop line position, pedestrian crossing, etc.) as road information around the own vehicle 100. Etc.) and object information (objects existing around the road such as signs, traffic lights, features, etc.) are acquired. These information include information detected by sensors installed in the road infrastructure, road peripheral information stored in an external data center (road surface information, object information, etc.), and road peripheral information detected by other vehicles (road surface information and objects). Information etc.) can be used. Further, it is also possible to change the road information around the traveling area stored in advance to the latest information by using the communication device 36.

アクチュエータECU40は、例えば、駆動力を操作するアクセルペダルや制動力を操作するブレーキペダル、パーキングブレーキ、車両の進路方向を操作するステアリング、車両の進行方向を操作するシフトレバー等の機械要素や信号変換装置である。 The actuator ECU 40 includes mechanical elements such as an accelerator pedal for operating a driving force, a brake pedal for operating a braking force, a parking brake, a steering wheel for operating the course direction of the vehicle, and a shift lever for operating the traveling direction of the vehicle, and signal conversion. It is a device.

車両制御装置8は、自車位置推定部51、外界認識情報変換部52、周辺環境記憶部53、記憶情報照合部54、車両制御部55と、及び自車位置推定部51を備えている。情報制御部56は、外界認識情報変換部52、周辺環境記憶部53、及び記憶情報照合部54の動作を制御する。 The vehicle control device 8 includes a vehicle position estimation unit 51, an outside world recognition information conversion unit 52, a surrounding environment storage unit 53, a storage information collation unit 54, a vehicle control unit 55, and a vehicle position estimation unit 51. The information control unit 56 controls the operations of the external world recognition information conversion unit 52, the surrounding environment storage unit 53, and the storage information collation unit 54.

自車位置推定部51は、位置検出器35や車輪センサ34より出力される情報に基づいて、自車両100が走行する位置を演算して推定する。 The own vehicle position estimation unit 51 calculates and estimates the position in which the own vehicle 100 travels based on the information output from the position detector 35 and the wheel sensor 34.

外界認識情報変換部52は、撮像センサ7a〜7dで撮像された画像から手動記憶または自動記憶により取得(記憶)された周辺環境情報(オブジェクトの位置等)と、自車位置推定部51より出力される自車両100の位置とを特定の座標系(例えば、地球座標系)における位置関係として座標情報に変換する。 The external world recognition information conversion unit 52 outputs (stored) surrounding environment information (object position, etc.) acquired (stored) from the images captured by the image pickup sensors 7a to 7d by manual storage or automatic storage, and outputs from the own vehicle position estimation unit 51. The position of the own vehicle 100 is converted into coordinate information as a positional relationship in a specific coordinate system (for example, the earth coordinate system).

周辺環境記憶部53は、外界認識情報変換部52で得られた座標情報を記憶する。 The surrounding environment storage unit 53 stores the coordinate information obtained by the external world recognition information conversion unit 52.

記憶情報照合部54は、周辺環境記憶部53に記憶された座標情報(周辺環境情報、位置情報)と、自車位置推定部51からの自車両100の位置情報と、撮像センサ7a〜7dによって検知した自車両100の周辺環境の情報とに基づいて、撮像センサ7a〜7dで撮像された画像から得られる周辺環境情報と周辺環境記憶部53の周辺環境情報との特徴量を照合し、自車両100の位置に対応した対象物が合致しているか否かを判定する。例えば、特徴量の合致度合が高い場合は、低速自動運転可能状態(駐車支援制御が可能な状態)であると判定し、特徴量が低い場合は低速時動運転不可状態(駐車支援制御が不可能な状態)であると判定する。 The storage information collation unit 54 uses the coordinate information (surrounding environment information, position information) stored in the surrounding environment storage unit 53, the position information of the own vehicle 100 from the own vehicle position estimation unit 51, and the image pickup sensors 7a to 7d. Based on the detected information on the surrounding environment of the own vehicle 100, the feature amount of the surrounding environment information obtained from the images captured by the image pickup sensors 7a to 7d and the surrounding environment information of the surrounding environment storage unit 53 is collated, and the self It is determined whether or not the object corresponding to the position of the vehicle 100 matches. For example, if the feature amount matches well, it is determined that low-speed automatic driving is possible (parking support control is possible), and if the feature amount is low, low-speed driving is not possible (parking support control is not possible). It is determined that the condition is possible).

車両制御部55は、駐車支援制御を実施する際にアクチュエータECU40を制御する目標値を演算すると共に、制御指示を出力する。 The vehicle control unit 55 calculates a target value for controlling the actuator ECU 40 when performing parking support control, and outputs a control instruction.

以上のように構成した運転情報制御システムにおける周辺環境情報の記憶手順について説明する。 The procedure for storing the surrounding environment information in the driving information control system configured as described above will be described.

図4及び図5は、周辺環境情報の記憶に係る処理を示すフローチャートであり、図4は手動走行時を、図5は自動走行時をそれぞれ示している。また、図6及び図7は、暫定記憶処理の処理内容を示すフローチャートであり、図6は自動記憶の場合を、図7は手動記憶の場合をそれぞれ示している。また、図8は、永久記憶処理の処理内容を示すフローチャートである。 4 and 5 are flowcharts showing processing related to storage of surrounding environment information, FIG. 4 shows a manual running time, and FIG. 5 shows an automatic running time. 6 and 7 are flowcharts showing the processing contents of the provisional storage process, FIG. 6 shows the case of automatic storage, and FIG. 7 shows the case of manual storage. Further, FIG. 8 is a flowchart showing the processing contents of the permanent storage process.

図4において、車両制御装置8は、運転者が手動走行を行っている場合に(ステップS100)、暫定記憶処理(後の図6、図7参照)を行う(ステップS110)。続いて、自車両100が停車しているかどうかを判定し(ステップS120)、判定結果がNOの場合、すなわち、停車していない場合(走行中などの場合)には、判定結果がYESになるまでステップS100〜S120の処理を繰り返す。 In FIG. 4, the vehicle control device 8 performs provisional memory processing (see later FIGS. 6 and 7) when the driver is manually traveling (step S100) (step S110). Subsequently, it is determined whether or not the own vehicle 100 is stopped (step S120), and when the determination result is NO, that is, when the vehicle is not stopped (when the vehicle is running, etc.), the determination result is YES. The process of steps S100 to S120 is repeated until.

また、ステップS120での判定結果がYESの場合、すなわち、自車両100が停車している場合には、永久記憶処理(後の図8参照)を行い(ステップS130)、処理を終了する。 If the determination result in step S120 is YES, that is, when the own vehicle 100 is stopped, the permanent storage process (see FIG. 8 later) is performed (step S130), and the process ends.

また、図5において、車両制御装置8は、まず、運転者が手動走行を行っている場合に(ステップS200)、記憶済みのランドマークを検出したかどうかを判定し(ステップS210)、判定結果がNOの場合には、判定結果がYESになるまでステップS200の手動運転を継続する。 Further, in FIG. 5, the vehicle control device 8 first determines whether or not the memorized landmark is detected when the driver is manually driving (step S200), and the determination result is obtained. If is NO, the manual operation in step S200 is continued until the determination result becomes YES.

また、ステップS210での判定結果がYESの場合、すなわち、記憶済みのランドマークを検出した場合には、自車両100の運転者を含む乗員全員に自動走行を実施する旨を報知し(ステップS220)、運転者または乗員に自動走行を指示された場合に自動走行を実行する(ステップS230)。このように、自動走行を実施するかしないかの判断を運転者に促すことで、自動車が記憶しているランドマークを検出しても意図せず自動走行を開始することを防ぐことができる。なお、本実施の形態においては説明の簡単のために、ステップS220において自動走行が指示される場合のみを考えている。 Further, when the determination result in step S210 is YES, that is, when the memorized landmark is detected, all the occupants including the driver of the own vehicle 100 are notified that the automatic driving will be performed (step S220). ), The automatic driving is executed when the driver or the occupant is instructed to perform the automatic driving (step S230). In this way, by prompting the driver to decide whether or not to carry out automatic driving, it is possible to prevent the vehicle from unintentionally starting automatic driving even if a landmark stored in the automobile is detected. In the present embodiment, for the sake of simplicity of explanation, only the case where automatic driving is instructed in step S220 is considered.

ステップS230において自動走行を行っている場合に、暫定記憶処理(後の図6、図7参照)を行い(ステップS240)、続いて、自車両100が停止しているかどうかを判定する(ステップS250)。ステップS250での判定結果がNOの場合には、判定結果がYESになるまでステップS230,S240の処理を繰り返す。 When the automatic driving is performed in step S230, provisional storage processing (see FIGS. 6 and 7 below) is performed (step S240), and then it is determined whether or not the own vehicle 100 is stopped (step S250). ). If the determination result in step S250 is NO, the processes of steps S230 and S240 are repeated until the determination result becomes YES.

また、ステップS250での判定結果がYESの場合、すなわち、すなわち、自車両100が停車している場合には、永久記憶処理(後の図8参照)を行い(ステップS260)、処理を終了する。 If the determination result in step S250 is YES, that is, when the own vehicle 100 is stopped, the permanent storage process (see FIG. 8 later) is performed (step S260), and the process ends. ..

ここで、暫定記憶処理について説明する。暫定記憶処理には、自動記憶する場合、すなわち、車両制御装置8が運転者を含む乗員の意図に問わずランドマークを記憶する場合と、手動記憶する場合、すなわち、運転者を含む乗員が特定の画面をタッチすることで記憶する場合とがある。本実施の形態においては、自動記憶と手動記憶とを可能にすることで、自動記憶による運転者の操作を低減しつつ、手動記憶により運転者を含む乗員の意図に沿うランドマークを記憶することが可能になる。 Here, the provisional storage process will be described. In the provisional storage process, the case of automatic storage, that is, the case where the vehicle control device 8 stores the landmark regardless of the intention of the occupant including the driver, and the case of manual storage, that is, the case where the occupant including the driver is specified. It may be memorized by touching the screen of. In the present embodiment, by enabling automatic memory and manual memory, the driver's operation by the automatic memory is reduced, and the landmarks according to the intentions of the occupants including the driver are stored by the manual memory. Becomes possible.

図6において、車両制御装置8は、自動記憶の暫定記憶処理(ステップS300:図4のステップS110、図5のステップS240)の場合、まず、ランドマークを検出し(ステップS301)、検出したランドマークをHMI上で運転者を含む乗員に報知する(ステップS302)。ここでは、橙色の枠でランドマークを囲むことで運転者を含む乗員に検出したランドマークを報知する場合を例示している。なお、検出したランドマークの報知方法は他の方法を用いても良く、例えば、音を発生したり、囲んだ枠を点滅させたり、時間経過で色を変えたりしても良い。このように、HMIで検出したランドマークを枠で囲んだり、音を発生したりして運転者を含む乗員に報知することにより、視覚だけでなく聴覚でも理解することができ、運転者を含む乗員に何のランドマークを認識したか、またどのタイミングで認識したかを理解させることができる。 In FIG. 6, in the case of the provisional storage process of automatic storage (step S300: step S110 of FIG. 4, step S240 of FIG. 5), the vehicle control device 8 first detects a landmark (step S301), and the detected land. The mark is notified to the occupants including the driver on the HMI (step S302). Here, an example is illustrated in which the detected landmark is notified to the occupants including the driver by surrounding the landmark with an orange frame. Other methods may be used for notifying the detected landmarks, for example, sound may be generated, the enclosed frame may be blinked, or the color may be changed over time. In this way, by enclosing the landmark detected by HMI with a frame or generating a sound to notify the occupants including the driver, it is possible to understand not only visually but also auditorily, including the driver. It is possible to make the occupants understand what landmarks were recognized and at what timing.

続いて、視認したランドマークを暫定記憶するかどうかを運転者を含む乗員(ユーザー)に問い合わせし(ステップS303)、判定結果がNOの場合、すなわち、暫定記憶をしない旨の指示がなされた場合には、HMI上に記憶不可の旨のメッセージを表示し(ステップS304)、処理を終了する。また、ステップS303での判定結果がYESの場合、すなわち、暫定記憶をする旨の指示がなされた場合には、HMI上に記憶済みの旨のメッセージを表示し(ステップS305)、処理を終了する。 Subsequently, the occupant (user) including the driver is inquired as to whether or not to temporarily memorize the visually recognized landmark (step S303), and when the determination result is NO, that is, when an instruction is given not to tentatively memorize the landmark. Displays a message to the effect that it cannot be stored on the HMI (step S304), and ends the process. If the determination result in step S303 is YES, that is, when an instruction to perform provisional storage is given, a message indicating that the memory has been stored is displayed on the HMI (step S305), and the process ends. ..

図7において、車両制御装置8は、手動記憶の暫定記憶処理(ステップS400:図4のステップS110、図5のステップS240)の場合、まず、運転者を含む乗員がHMIに表示されているカメラ画面をタッチし(ステップS401)、車両制御装置8は、暫定記憶可能かどうかを判定する(ステップS402)。ステップS402での判定結果がNOの場合、すなわち、例えば、メモリ容量が不足して暫定記憶が不可である場合には、HMI上に記憶不可である旨のメッセージを表示して(ステップS403)、処理を終了する。また、ステップS402での判定結果がYESの場合、すなわち、暫定記憶が可能である場合には暫定記憶を実施し、HMI上に記憶した旨のメッセージを表示して(ステップS404)、処理を終了する。 In FIG. 7, in the case of the provisional storage process of manual storage (step S400: step S110 in FIG. 4, step S240 in FIG. 5), the vehicle control device 8 first displays a camera in which an occupant including a driver is displayed on the HMI. The screen is touched (step S401), and the vehicle control device 8 determines whether or not provisional storage is possible (step S402). If the determination result in step S402 is NO, that is, for example, if the memory capacity is insufficient and provisional storage is not possible, a message indicating that storage is not possible is displayed on the HMI (step S403). End the process. If the determination result in step S402 is YES, that is, if provisional storage is possible, provisional storage is performed, a message indicating that the data has been stored on the HMI is displayed (step S404), and the process ends. To do.

なお、図6及び図7の処理において暫定記憶処理を行う場合、カメラ画面の例えば右上などにメモリ容量を表示し、その容量をリアルタイムで増減させることで運転者を含む乗員にメモリ容量をその都度確認させることができ、暫定記憶の可否の目安を知らせることができる。 When the provisional storage process is performed in the processes of FIGS. 6 and 7, the memory capacity is displayed on the upper right of the camera screen, for example, and the memory capacity is increased or decreased in real time to give the memory capacity to the occupants including the driver each time. It can be confirmed and can inform the guideline of whether or not the provisional memory is possible.

図8において、車両制御装置8は、永久記憶処理(ステップS400:図4のステップS130、図5のステップS260)の場合、まず、運転者を含む乗員がセッティングボタン(例えば、入力スイッチ部32)を押下し(ステップS501)、HMIにセッティング画面を表示させて運転者を含む乗員に永久記憶処理の開始を選択させ(ステップS503)、HMIに前提記憶のランドマークの画像(データファイル)と位置情報とをダイジェスト表示する(ステップS503)。なお、画像ファイルではなく、GPS情報や自車位置推定の情報の位置情報により、複数記憶した暫定記憶のランドマークの推定位置を表示してもよい。この場合には、複数記憶した暫定記憶のランドマークを画像と位置情報でHMIに表示する際に懸念されるファイルサイズの大きさを削減することができる。 In FIG. 8, in the case of the permanent storage process (step S400: step S130 of FIG. 4, step S260 of FIG. 5), the vehicle control device 8 first has a setting button (for example, an input switch unit 32) by an occupant including the driver. (Step S501), display the setting screen on the HMI, let the occupants including the driver select to start the permanent storage process (step S503), and let the HMI display the image (data file) and position of the landmark of the prerequisite memory. The information is displayed as a digest (step S503). In addition, instead of the image file, the estimated positions of the landmarks of the provisional storage may be displayed by the position information of the GPS information or the information of the own vehicle position estimation. In this case, it is possible to reduce the size of the file size, which is a concern when displaying a plurality of stored temporary storage landmarks on the HMI with images and position information.

続いて、運転者を含む乗員が、HMI上に表示されている複数の暫定記憶のランドマーク(データファイル)の中から記憶させるランドマークをタッチすることで選択する(ステップS504)。このように、運転者を含む乗員が記憶させるランドマークを選択することで、次回手動走行する際に、どの経路を走行すればよいかを理解させることができる。また、HMIに表示することで、運転者を含む乗員がどのランドマークを記憶させればよいかを視覚的に報知することができる。また、記憶したランドマークを画像と位置表示を併せて表示することで、同じランドマークを記憶した場合でも、位置情報で判別することができる。さらに、運転者がどの経路を走行すれば自動走行が開始できるかを把握することができ、自動走行開始位置の精度をあげることが可能になる。 Subsequently, the occupant including the driver selects the landmark to be stored from the plurality of temporary storage landmarks (data files) displayed on the HMI by touching the landmark (step S504). In this way, by selecting the landmarks to be stored by the occupants including the driver, it is possible to make them understand which route should be taken the next time the manual driving is performed. In addition, by displaying it on the HMI, it is possible to visually notify which landmarks the occupants including the driver should memorize. Further, by displaying the stored landmark together with the image and the position display, even if the same landmark is stored, it can be discriminated by the position information. Further, it is possible to grasp which route the driver should take to start the automatic driving, and it is possible to improve the accuracy of the automatic driving start position.

続いて、永久記憶をするかどうかを運転者を含む乗員に問い合わせし(ステップS505)、判定結果がNOの場合には、HMI上に当該暫定記憶を削除する旨のメッセージを表示して(ステップS506)、処理を終了する。また、ステップS505での判定結果がYESの場合、すなわち、永久記憶を行うことが選択された場合には、永久記憶を実施し、HMI上に記憶した旨のメッセージを表示して(ステップS404)、処理を終了する。 Subsequently, the occupant including the driver is inquired as to whether or not to perform permanent memory (step S505), and if the determination result is NO, a message indicating that the provisional memory is to be deleted is displayed on the HMI (step S505). S506), the process is terminated. If the determination result in step S505 is YES, that is, if permanent storage is selected, permanent storage is performed and a message indicating that the memory is stored on the HMI is displayed (step S404). , End the process.

ここで、永久記憶したランドマークの映像ファイルやGPSなどの各種情報はECUまたはSDカードなどのメモリに保存が可能であるものとする。SDカードや外部媒体記憶に保存することで、大容量の記憶を保存することが可能になる。また、SDカードに複数の目的地までの走行する経路上にあるランドマークを記憶することも可能となり、複数の目的地に到達できる。また、外部記憶媒体に保存することで、車両が変わったとしても、同じシステムを搭載している車両に適用することが可能となる。なお、外部記憶媒体はSDカード以外の記憶媒体でもよく、ネットワークなどで接続された外部のサーバーでもよい。 Here, it is assumed that the permanently stored landmark video file and various information such as GPS can be saved in a memory such as an ECU or an SD card. By saving to an SD card or external medium storage, it is possible to save a large amount of storage. In addition, it is possible to store landmarks on a route traveling to a plurality of destinations on the SD card, and it is possible to reach a plurality of destinations. Further, by saving in an external storage medium, even if the vehicle changes, it can be applied to a vehicle equipped with the same system. The external storage medium may be a storage medium other than the SD card, or may be an external server connected by a network or the like.

以上のような暫定記憶処理や永久記憶処理におけるHMIでの表示の様子を図面を参照しつつ説明する。 The state of display by HMI in the above-mentioned provisional storage processing and permanent storage processing will be described with reference to the drawings.

図9〜図12は、暫定記憶処理におけるHMIでの表示の様子を示す図であり、図9は手動記憶の様子を、図10は手動記憶および自動記憶の様子を、図11は暫定記憶を行った場合の様子を、図12は暫定記憶を行わなかった場合の様子をそれぞれ示している。 9 to 12 are diagrams showing a state of display by HMI in the provisional storage process, FIG. 9 shows a state of manual memory, FIG. 10 shows a state of manual memory and automatic memory, and FIG. 11 shows a state of provisional memory. FIG. 12 shows the state when the provisional memory was performed, and the state when the provisional memory was not performed.

図9〜図12においては、HMI33,42の表示例として、自車両100の前方の映像として、自車両100、標識201、信号機202、横断歩道203のほか、ランドマークとしてのオブジェ1_211、オブジェ2_212、オブジェ3_213、及び、メモリ容量220が表示されている場合を示している。なお、各図においては符号を省略することもある。 In FIGS. 9 to 12, as a display example of the HMIs 33 and 42, as an image in front of the own vehicle 100, the own vehicle 100, a sign 201, a traffic light 202, a pedestrian crossing 203, as well as objects 1-211 and objects 2_212 as landmarks. , Object 3_213, and the case where the memory capacity 220 is displayed. The reference numerals may be omitted in each figure.

図9は、運転者を含む乗員がカメラ画面に表示されているランドマークをタッチして手動で記憶させる様子を示している。図9では、図7のステップS401のように、HMI33,42に表示されたオブジェクトのうち記憶させたいもの(ここでは、オブジェ1_211)を運転者を含む乗員がタッチする場合を例示している。 FIG. 9 shows a state in which an occupant including a driver touches a landmark displayed on the camera screen and manually memorizes it. FIG. 9 illustrates a case where an occupant including a driver touches an object (here, object 1-211) to be stored among the objects displayed on the HMIs 33 and 42, as in step S401 of FIG.

図10は、手動または自動でランドマークを記憶する様子を示している。図10では、一般的な道路等を走行する自車両100の環境情報として認識される頻度が多くなると想定される、すなわち、比較的普遍的に配置されていて数の多いオブジェクトである標識201や信号機202などが自動記憶の対象となり、例えば、図6のステップS302のように、HMI33,42上において橙色等の枠201a,202aで囲むことで運転者を含む乗員に当該オブジェクトがランドマークとして自動記憶の対象となったことを報知する。また、ランドマークとして手動記憶の対象となったオブジェクト(例えば、オブジェ1_211、オブジェ2_212)は、自動記憶の対象となったオブジェクトと区別するために、例えば、赤色等の枠211a,212aで囲むことで、手動記憶の対象となったことを運転者を含む乗員に報知することができる。なお、報知の方法としては、音を発生させたり、枠を点滅させたりしてもよい。 FIG. 10 shows how the landmark is memorized manually or automatically. In FIG. 10, it is assumed that the frequency of recognition as environmental information of the own vehicle 100 traveling on a general road or the like increases, that is, the sign 201, which is a relatively universally arranged and numerous object, and the like. The traffic light 202 and the like are subject to automatic storage. For example, as shown in step S302 in FIG. 6, the object is automatically stored as a landmark by the occupants including the driver by surrounding the HMIs 33 and 42 with frames 201a and 202a such as orange. Notify that it has become the target of memory. In addition, objects that are subject to manual storage as landmarks (for example, objects 1_211 and objects 2_212) are surrounded by frames 211a and 212a, such as red, in order to distinguish them from objects that are subject to automatic storage. Therefore, it is possible to notify the occupants including the driver that the object has been manually stored. As a method of notification, a sound may be generated or a frame may be blinked.

図11は、暫定記憶処理において記憶を実施した(記憶が成功した)様子を示している。図11では、図6のステップS305や図7のステップS404のように、暫定記憶を実施した旨を報知するメッセージ240をHMI33,42に表示して運転者を含む乗員に報知する。このとき、メモリ容量220をリアルタイムで更新し、また、枠線220a等で囲むことで運転者を含む乗員にそのことを報知する。なお、メモリ容量の表示内容については、メートル表示や時間表示などとし、運転者を含む乗員が容易に把握しやすい表示内容で報知する。また、記憶を続けることでメモリ容量が最大容量を超える場合は、古い記憶から削除してリライトを行う。メモリ容量を超える場合、古い情報を上書きして新しい情報を残すことで、運転者を含む乗員の記憶にも新しいものが残ることになり、常に最新の情報となるため、例えば、周辺環境の変化に対しても最新の情報を保持することができるので、利便性を向上することができる。 FIG. 11 shows how the memory was executed (memory was successful) in the provisional memory process. In FIG. 11, as in step S305 of FIG. 6 and step S404 of FIG. 7, a message 240 notifying that the provisional storage has been performed is displayed on the HMIs 33 and 42 to notify the occupants including the driver. At this time, the memory capacity 220 is updated in real time, and the occupants including the driver are notified of this by surrounding the memory capacity 220 with a frame line 220a or the like. The display content of the memory capacity is displayed in meters or time, and is notified by the display content that is easy for the occupants including the driver to grasp. If the memory capacity exceeds the maximum capacity due to continuous storage, the oldest memory is deleted and rewritten. When the memory capacity is exceeded, by overwriting the old information and leaving the new information, the new information will remain in the memory of the occupants including the driver, and the information will always be the latest, so for example, changes in the surrounding environment. Since the latest information can be retained, convenience can be improved.

図12は、暫定記憶処理において記憶を実施していない(記憶が失敗した)様子を示している。図12では、図6のステップS304や図7のステップS403のように、暫定記憶を実施していない旨を報知するメッセージ241をHMI33,42に表示して運転者を含む乗員に報知する。なお、運転者を含む乗員が記憶させる必要はないと判断した場合にも暫定記憶を取り消すことが可能であり、その際にもその旨を同様に報知する。 FIG. 12 shows a state in which memory is not executed (memory fails) in the provisional memory process. In FIG. 12, as in step S304 of FIG. 6 and step S403 of FIG. 7, a message 241 notifying that the provisional storage is not performed is displayed on the HMIs 33 and 42 to notify the occupants including the driver. It is possible to cancel the provisional memory even when the occupant including the driver determines that it is not necessary to memorize the memory, and in that case, the same is notified.

図13〜図18は、永久記憶処理におけるHMIでの表示の様子を示す図であり、図13はセッティング画面の様子を、図14及び図15は永久記憶の対象となるオブジェクト(データファイル)を選択している様子を、図16は永久記憶の選択画面の様子を、図17は永久記憶を行った場合の様子を、図18は永久記憶を行わなかった場合の様子をそれぞれ示している。 13 to 18 are diagrams showing a state of display in HMI in the permanent storage process, FIG. 13 shows a state of a setting screen, and FIGS. 14 and 15 show an object (data file) to be permanently stored. FIG. 16 shows a state of selection, FIG. 16 shows a state of a permanent memory selection screen, FIG. 17 shows a state of performing permanent memory, and FIG. 18 shows a state of not performing permanent memory.

図13は、HMI33,42に表示されるセッティング画面250の一例を示しており、セッティング画面250には、永久記憶に関する設定を行うための永久記憶選択ボタン250aのほか、ナビ設定ボタン250bなどの他の設定を行うためのボタンなども配置されている。図13では、停車後に永久記憶のセッティング画面に移る様子を示しており、運転者を含む乗員が永久記憶選択ボタン250aをタッチすることで、永久記憶の処理を開始する。なお、このセッティング画面250には、暫定記憶をするかしないかを選択できる項目も備えてもよい。また、永久記憶選択ボタン250aがセッティング画面250の階層に表示される場合を例示したが、他の階層に表示するようにしても良い。 FIG. 13 shows an example of the setting screen 250 displayed on the HMIs 33 and 42. On the setting screen 250, in addition to the permanent memory selection button 250a for setting the permanent memory, the navigation setting button 250b and the like are displayed. Buttons for setting the above are also arranged. FIG. 13 shows how the vehicle moves to the permanent memory setting screen after the vehicle is stopped, and the occupant including the driver touches the permanent memory selection button 250a to start the permanent memory processing. The setting screen 250 may also include an item that allows selection of whether or not to perform provisional storage. Further, although the case where the permanent storage selection button 250a is displayed in the layer of the setting screen 250 is illustrated, it may be displayed in another layer.

図14は、HMI33,42において永久記憶選択ボタン250aにより永久記憶の処理が開始された場合の情報一覧260の表示例を示しており、情報一覧260では、暫定記憶したランドマークのID260aを画像ファイル260bと記憶者260cとGPSによる位置情報260dとをダイジェストで表示している場合を例示している。この画面において永久記憶を行うランドマークを運転者を含む乗員がタッチして選択する(図8のステップS504参照)ことで、永久記憶の可否を選択する画面(後述)が表示される。 FIG. 14 shows a display example of the information list 260 when the permanent storage process is started by the permanent storage selection button 250a in the HMIs 33 and 42. In the information list 260, the provisionally stored landmark ID 260a is displayed as an image file. An example shows a case where the 260b, the memorizer 260c, and the GPS position information 260d are displayed as a digest. When an occupant including the driver touches and selects a landmark for permanent storage on this screen (see step S504 in FIG. 8), a screen (described later) for selecting whether or not permanent storage is possible is displayed.

図15は、HMI33,42において永久記憶選択ボタン250aにより永久記憶の処理が開始された場合の情報一覧261の他の表示例を示しており、図14の場合と比較してランドマークを示す画像ファイルを除き、ランドマークのID261aと記憶者261bとGPSによる位置情報261cのみを表示している場合を例示している。この画面において永久記憶を行うランドマークを運転者を含む乗員がタッチして選択することで、永久記憶の可否を選択する画面(後述)が表示される。暫定記憶したランドマークを画像と位置情報とでHMI33,42に表示するとファイルサイズが大きくなることが懸念されるが、図15の表示方法のようにGPSによる位置情報のみを簡易的に表示することにより、ファイルサイズを削減することができる。また、この場合にはファイルサイズの削減が期待されるため、例えば、ランドマークと対応する経路情報262を表示するようにしてもよい。 FIG. 15 shows another display example of the information list 261 when the permanent storage process is started by the permanent storage selection button 250a in the HMIs 33 and 42, and is an image showing a landmark as compared with the case of FIG. Excluding the file, the case where only the landmark ID 261a, the memorizer 261b, and the GPS position information 261c are displayed is illustrated. When an occupant including the driver touches and selects a landmark for permanent storage on this screen, a screen (described later) for selecting whether or not permanent storage is possible is displayed. There is a concern that the file size will increase if the temporarily stored landmarks are displayed on the HMIs 33 and 42 as images and location information, but only the GPS location information should be displayed simply as in the display method shown in FIG. Therefore, the file size can be reduced. Further, in this case, since the file size is expected to be reduced, for example, the route information 262 corresponding to the landmark may be displayed.

図16は、選択したランドマークを永久記憶するかの判断を運転者を含む乗員に選択させるための選択画面270を示している(図8のステップS505参照)。 FIG. 16 shows a selection screen 270 for allowing an occupant including a driver to select whether to permanently store the selected landmark (see step S505 in FIG. 8).

選択画面270においてYESボタン270aを選択すると、図17に示すように永久記憶を実施せずに削除した旨を示すメッセージ271を表示する(図8のステップS507参照)。メッセージ271には、次回以降の手動走行時に永久記憶にあるランドマークと同じランドマークを検出した場合は自動走行が可能である合図をHMI33,42に表示する旨のメッセージも含まれている。なお、このとき永久記憶の保存先は、ECUまたはSDカード等のメモリでもよい。 When the YES button 270a is selected on the selection screen 270, a message 271 indicating that the memory has been deleted without performing permanent storage is displayed as shown in FIG. 17 (see step S507 in FIG. 8). The message 271 also includes a message to display a signal on the HMIs 33 and 42 that automatic driving is possible when the same landmark as the landmark in the permanent memory is detected during the next manual driving. At this time, the storage destination of the permanent storage may be a memory such as an ECU or an SD card.

また、選択画面270においてNOボタン270bを選択すると、図18に示すように永久記憶を実施しなかった旨を示すメッセージ272を表示する(図8のステップS506参照)。 Further, when the NO button 270b is selected on the selection screen 270, a message 272 indicating that the permanent storage has not been performed is displayed as shown in FIG. 18 (see step S506 in FIG. 8).

以上のように構成した本実施の形態においては、車両の走行の制御に用いるオブジェクトのランドマークとしての情報の精度を向上することができる。 In the present embodiment configured as described above, the accuracy of information as a landmark of an object used for controlling the running of a vehicle can be improved.

<付記>
なお、本発明は上記の実施の形態に限定されるものではなく、その要旨を逸脱しない範囲内の様々な変形例や組み合わせが含まれる。また、本発明は、上記の実施の形態で説明した全ての構成を備えるものに限定されず、その構成の一部を削除したものも含まれる。また、上記の各構成、機能等は、それらの一部又は全部を、例えば集積回路で設計する等により実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。
<Additional notes>
The present invention is not limited to the above-described embodiment, and includes various modifications and combinations within a range that does not deviate from the gist thereof. Further, the present invention is not limited to the one including all the configurations described in the above-described embodiment, and includes the one in which a part of the configurations is deleted. Further, each of the above configurations, functions and the like may be realized by designing a part or all of them by, for example, an integrated circuit. Further, each of the above configurations, functions, and the like may be realized by software by the processor interpreting and executing a program that realizes each function.

1…エンジン、2…トランスミッション、3…プロペラシャフト、4…ディファレンシャルギア、5…ドライブシャフト、6…車輪、7a〜7d…撮像センサ、8…車両制御装置、9…センサ類、10…ブレーキ装置、10a…車輪速センサ、11…電動パワーステアリング、32…入力スイッチ部、33…タッチ操作機能部、34…車輪センサ、35…位置検出器、36…通信装置、42…表示器、43…音声出力器、51…自車位置推定部、52…外界認識情報変換部、53…周辺環境記憶部、54…記憶情報照合部、55…車両制御部、56…情報制御部、100…車両(自車両)、101…駐車位置、102…駐車開始位置、102…地点、103…電柱、104…信号機、105…横断歩道、106…路面標示、107…標識、108…白線、109…走行経路、109…経路、201…標識、201a…枠、202…信号機、202a…枠、203…横断歩道、211a…枠、212a…枠、220…メモリ容量、220a…枠線、240…メッセージ、241…メッセージ、250…セッティング画面、250a…永久記憶選択ボタン、250b…ナビ設定ボタン、260…情報一覧、260b…画像ファイル、260c…記憶者、260d…位置情報、261…情報一覧、261b…記憶者、261c…位置情報、262…経路情報、270…選択画面、270a…YESボタン、270b…NOボタン、271…メッセージ、272…メッセージ 1 ... engine, 2 ... transmission, 3 ... propeller shaft, 4 ... differential gear, 5 ... drive shaft, 6 ... wheels, 7a-7d ... image sensor, 8 ... vehicle control device, 9 ... sensors, 10 ... brake device, 10a ... Wheel speed sensor, 11 ... Electric power steering, 32 ... Input switch unit, 33 ... Touch operation function unit, 34 ... Wheel sensor, 35 ... Position detector, 36 ... Communication device, 42 ... Display, 43 ... Voice output Instrument, 51 ... Own vehicle position estimation unit, 52 ... External world recognition information conversion unit, 53 ... Surrounding environment storage unit, 54 ... Storage information collation unit, 55 ... Vehicle control unit, 56 ... Information control unit, 100 ... Vehicle (own vehicle) ), 101 ... Parking position, 102 ... Parking start position, 102 ... Point, 103 ... Electric pole, 104 ... Signal, 105 ... Crosswalk, 106 ... Road marking, 107 ... Sign, 108 ... White line, 109 ... Travel route, 109 ... Route, 201 ... Mark, 201a ... Frame, 202 ... Signal, 202a ... Frame, 203 ... Crosswalk, 211a ... Frame, 212a ... Frame, 220 ... Memory capacity, 220a ... Frame line, 240 ... Message, 241 ... Message, 250 ... Setting screen, 250a ... Permanent storage selection button, 250b ... Navigation setting button, 260 ... Information list, 260b ... Image file, 260c ... Rememberer, 260d ... Position information, 261 ... Information list, 261b ... Rememberer, 261c ... Information, 262 ... Route information, 270 ... Selection screen, 270a ... YES button, 270b ... NO button, 271 ... Message, 272 ... Message

Claims (4)

車両に設けられた撮像センサで取得される画像から車両周辺の特定の物体をランドマークとして認識し、認識した前記物体を車両の走行の制御に用いる情報として記憶する運転情報制御装置であって、
前記撮像センサで撮像された画像が表示された表示画面へのユーザーの接触操作による入力操作により選択された画像中の特定の物体をランドマークとして記憶することを特徴とする運転情報制御装置。
A driving information control device that recognizes a specific object around the vehicle as a landmark from an image acquired by an image sensor provided in the vehicle and stores the recognized object as information used for controlling the running of the vehicle.
A driving information control device characterized in that a specific object in an image selected by an input operation by a user's contact operation on a display screen on which an image captured by the image pickup sensor is displayed is stored as a landmark.
車両の周囲を撮像する撮像センサと、
撮像センサで撮像された画像の表示画面への表示と、前記表示画面へのユーザーの接触操作による入力操作とが可能な表示入力装置と
請求項1記載の運転情報制御装置とを備え、
前記運転情報制御装置は、前記ランドマークに基づいて、前記車両の走行の制御を行う車両制御部を備えたことを特徴とする運転情報制御システム。
An image sensor that captures the surroundings of the vehicle and
The operation information control device according to claim 1 is provided with a display input device capable of displaying an image captured by an image pickup sensor on a display screen and an input operation by a user's contact operation with the display screen.
The driving information control device is a driving information control system including a vehicle control unit that controls the running of the vehicle based on the landmark.
請求項2記載の運転情報制御システムにおいて、
音声出力装置をさらに備え、
前記運転情報制御装置は、前記表示入力装置へのユーザーの操作によって前記ランドマークが記憶された場合に、その旨を前記音声出力装置によってユーザーに報知することを特徴とする運転情報制御システム。
In the operation information control system according to claim 2,
Equipped with an additional audio output device
The driving information control device is a driving information control system, characterized in that, when the landmark is memorized by the user's operation on the display input device, the voice output device notifies the user to that effect.
請求項2記載の運転情報制御システムにおいて、
前記車両の位置情報を取得する位置情報取得装置をさらに備え、
前記運転情報制御装置は、前記ランドマークとその位置とを合わせて前記表示入力装置に表示することを特徴とする運転情報制御システム。
In the operation information control system according to claim 2,
Further equipped with a position information acquisition device for acquiring the position information of the vehicle,
The driving information control device is a driving information control system characterized in that the landmark and its position are combined and displayed on the display input device.
JP2019124279A 2019-07-03 2019-07-03 Driving information control device and driving information control system Active JP7296265B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019124279A JP7296265B2 (en) 2019-07-03 2019-07-03 Driving information control device and driving information control system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019124279A JP7296265B2 (en) 2019-07-03 2019-07-03 Driving information control device and driving information control system

Publications (2)

Publication Number Publication Date
JP2021009642A true JP2021009642A (en) 2021-01-28
JP7296265B2 JP7296265B2 (en) 2023-06-22

Family

ID=74199565

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019124279A Active JP7296265B2 (en) 2019-07-03 2019-07-03 Driving information control device and driving information control system

Country Status (1)

Country Link
JP (1) JP7296265B2 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10185607A (en) * 1996-12-24 1998-07-14 Aqueous Res:Kk Navigation system
JP2002005668A (en) * 2000-06-15 2002-01-09 Matsushita Electric Ind Co Ltd Navigation apparatus
JP2008026007A (en) * 2006-07-18 2008-02-07 Xanavi Informatics Corp Navigation device
JP2009017540A (en) * 2007-05-31 2009-01-22 Panasonic Corp Image capturing device, additional information providing server, and additional information filtering system
JP2013032949A (en) * 2011-08-01 2013-02-14 Aisin Aw Co Ltd Display processing system for vehicle, display processing method for vehicle, and program
WO2018070022A1 (en) * 2016-10-13 2018-04-19 日産自動車株式会社 Host-position estimation method and host-position estimation device
JP2018116653A (en) * 2017-01-20 2018-07-26 株式会社デンソーテン Identification apparatus, identification system and identification method

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10185607A (en) * 1996-12-24 1998-07-14 Aqueous Res:Kk Navigation system
JP2002005668A (en) * 2000-06-15 2002-01-09 Matsushita Electric Ind Co Ltd Navigation apparatus
JP2008026007A (en) * 2006-07-18 2008-02-07 Xanavi Informatics Corp Navigation device
JP2009017540A (en) * 2007-05-31 2009-01-22 Panasonic Corp Image capturing device, additional information providing server, and additional information filtering system
JP2013032949A (en) * 2011-08-01 2013-02-14 Aisin Aw Co Ltd Display processing system for vehicle, display processing method for vehicle, and program
WO2018070022A1 (en) * 2016-10-13 2018-04-19 日産自動車株式会社 Host-position estimation method and host-position estimation device
JP2018116653A (en) * 2017-01-20 2018-07-26 株式会社デンソーテン Identification apparatus, identification system and identification method

Also Published As

Publication number Publication date
JP7296265B2 (en) 2023-06-22

Similar Documents

Publication Publication Date Title
US11008016B2 (en) Display system, display method, and storage medium
JP6254554B2 (en) Information presentation system
JP6801787B2 (en) Parking support method and parking support device
CN110450717B (en) Parking assist apparatus
EP3290301B1 (en) Parking assist device
EP2910423B1 (en) Surroundings monitoring apparatus and program thereof
US20200079359A1 (en) Automated parking device and automated parking method
US20210179087A1 (en) Parking assist device, parking assist method, and computer program product
JP4450028B2 (en) Route guidance device
JP2007176244A (en) Parking support system
CN114126954A (en) Method for automatically parking a vehicle
US11643070B2 (en) Parking assist apparatus displaying perpendicular-parallel parking space
WO2016146558A1 (en) Method for operating a communication device for a motor vehicle during an autonomous drive mode, communication device as well as motor vehicle
JP2012008019A (en) Battery replacement support system, on-vehicle device, and battery replacement support device
CN110450790A (en) For the drive assistance device of vehicle, non-transitory computer-readable storage media and control method
CN107539218B (en) Display control device
JP2019209763A (en) Control device for vehicle
US11073833B2 (en) Vehicle control apparatus
JP2019156355A (en) Vehicle control device
US20230205405A1 (en) Control device and moving object
JP2021094938A (en) Vehicle display device and parking support system
JP7059525B2 (en) Parking support method and parking support device
JP6044429B2 (en) Parking assistance device and parking assistance method
JP7296265B2 (en) Driving information control device and driving information control system
JP7306333B2 (en) Image processing device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230606

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230612

R150 Certificate of patent or registration of utility model

Ref document number: 7296265

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150