WO2019097762A1 - 重畳画像表示装置及びコンピュータプログラム - Google Patents

重畳画像表示装置及びコンピュータプログラム Download PDF

Info

Publication number
WO2019097762A1
WO2019097762A1 PCT/JP2018/027053 JP2018027053W WO2019097762A1 WO 2019097762 A1 WO2019097762 A1 WO 2019097762A1 JP 2018027053 W JP2018027053 W JP 2018027053W WO 2019097762 A1 WO2019097762 A1 WO 2019097762A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
superimposed
guidance
vehicle
displayed
Prior art date
Application number
PCT/JP2018/027053
Other languages
English (en)
French (fr)
Inventor
賢二 渡邊
広之 三宅
Original Assignee
アイシン・エィ・ダブリュ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アイシン・エィ・ダブリュ株式会社 filed Critical アイシン・エィ・ダブリュ株式会社
Priority to DE112018004519.6T priority Critical patent/DE112018004519T5/de
Priority to US16/649,508 priority patent/US11525694B2/en
Publication of WO2019097762A1 publication Critical patent/WO2019097762A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/3407Route searching; Route guidance specially adapted for specific applications
    • G01C21/3415Dynamic re-routing, e.g. recalculating the route when the user deviates from calculated route or after detecting real-time traffic data or accidents
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/3407Route searching; Route guidance specially adapted for specific applications
    • G01C21/343Calculating itineraries, i.e. routes leading from a starting point to a series of categorical destinations using a global route restraint, round trips, touristic trips
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/365Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/166Navigation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/33Illumination features
    • B60K2360/347Optical elements for superposition of display information
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/33Illumination features
    • B60K2360/349Adjustment of brightness

Definitions

  • the present invention relates to a superimposed image display device and computer program for providing driving assistance for a vehicle.
  • various means have been used as information providing means for providing vehicle occupants with various information for providing vehicle travel support such as route guidance and obstacle warning.
  • a display by a liquid crystal display installed in a vehicle an audio output from a speaker, and the like.
  • an image superimposed on the driver's surrounding environment such as a head-up display (hereinafter referred to as HUD) or a window shield display (hereinafter referred to as WSD)
  • HUD head-up display
  • WSD window shield display
  • Japanese Patent Application Laid-Open No. 2013-79930 describes a driver who uses HUD to move away from the road surface using a HUD, such as an arrow indicating the traveling direction of the vehicle along the guide route and a mark indicating the genre of the facility. It is disclosed about displaying on the head.
  • a guide image for example, an arrow for guiding a right or left turn
  • a guide image for not prompting the driver to change the driving operation for example, go straight Arrows for guidance are displayed above the driver's head in the same display manner.
  • a guidance image that does not prompt the driver to change the driving operation that is, a guidance image that is not necessary to visually recognize when performing the driving operation is also displayed above the driver's head.
  • the present invention has been made to solve the above-mentioned problems in the prior art, and it is necessary for the driver to visually recognize the guidance image to be visually recognized in performing the driving operation more clearly while performing the driving operation. It is an object of the present invention to provide a superimposed image display device and a computer program in which the driver does not feel annoyance by a guidance image with low sex.
  • a superimposed image display device is a superimposed image display device mounted on a vehicle and causing an image to be superimposed and visually recognized on the surrounding environment in front of the vehicle.
  • the second guidance image includes at least one of a first guidance image for prompting a change of the driving operation and a second guidance image for not prompting the driver to change the driving operation, the second guidance image being more than the first guidance image
  • At least one of position, brightness, and color is displayed in a display manner in harmony with the surrounding environment to be superimposed.
  • a computer program is a program for supporting the running of a vehicle. Specifically, a superimposed image display device mounted on a vehicle and causing an image to be superimposed and visually recognized in the surrounding environment in front of the vehicle as a first image for prompting the driver to change the driving operation as the image and the driver Computer program for functioning as guidance image display means for displaying at least one of the second guidance image which does not prompt the change of the driving operation, and the second guidance image is obtained from the first guidance image Also, at least one of the position, the brightness, and the color is displayed in a display manner in harmony with the surrounding environment to be superimposed.
  • the driver can more clearly see the guidance image to be visually recognized in performing the driving operation even when a large number of guidance images are displayed. It becomes possible. On the other hand, it is possible to prevent the driver from being bothersome by the guidance image which is not necessary to be visually recognized when performing the driving operation.
  • FIG. 1 is a schematic block diagram of a superimposed image display device 1 according to the present embodiment.
  • the superimposed image display device 1 includes a navigation device 3 mounted on the vehicle 2 and a head-up display device (hereinafter referred to as HUD) 4 mounted on the vehicle 2 and connected to the navigation device 3 as well.
  • HUD head-up display device
  • the navigation device 3 searches for a recommended route to a destination, displays a map image around the current position of the vehicle 2 based on map data acquired from a server or stored in a memory, or is set. It has a function of performing travel guidance along the guided route together with the HUD 4. It is not necessary for the navigation device 3 to have all of the above-described functions, and the present invention can be configured as long as it has at least a function for performing travel guidance along the guidance route. The details of the structure of the navigation device 3 will be described later.
  • the HUD 4 is installed inside the dashboard 5 of the vehicle 2 and has a liquid crystal display 6 which is an image display surface on which an image is displayed. Then, the image projected on the liquid crystal display 6 is reflected by the front window 8 in front of the driver's seat through the concave mirror 7 and the like included in the HUD 4 as described later, and is made visible to the occupant 9 of the vehicle 2 ing.
  • the images displayed on the liquid crystal display 6 include information related to the vehicle 2 and various information used to support the driving of the occupant 9. For example, a warning for an object (other vehicle or pedestrian) to be a warning target for the occupant 9, guidance information based on the guidance route or guidance route set by the navigation device 3 (arrow etc. indicating a turning direction), Warnings (such as collision warning and speed limit), current vehicle speed, advertisement image, facility information, information sign, map image, traffic information, news, weather forecast, time, screen of connected smartphone, television program and the like.
  • the occupant 9 when the occupant 9 visually recognizes the image displayed on the liquid crystal display 6 by reflecting the front window 8, the occupant 9 is not at the front window 8 but at the tip of the front window 8.
  • the image displayed on the liquid crystal display 6 at a distant position of is visually recognized as a virtual image 10.
  • the virtual image 10 is displayed superimposed on the surrounding environment (scenery, real view) ahead of the vehicle, for example, on an arbitrary object (road surface, building, moving object to be warned, etc.) located ahead of the vehicle. It is also possible to superimpose and display.
  • the virtual image 10 visible to the occupant 9 is an image displayed on the liquid crystal display 6, the vertical direction and the horizontal direction may be reversed by the concave mirror 7 and other mirrors. It is necessary to display the image of the liquid crystal display 6.
  • the size is also changed by the concave mirror 7.
  • the curvature of the concave mirror 7 included in the HUD 4, the liquid crystal display 6 and the concave mirror 7, and the position at which the virtual image 10 is generated more specifically, the distance L from the occupant 9 to the virtual image 10 (hereinafter referred to as imaging distance)
  • imaging distance the distance L from the occupant 9 to the virtual image 10
  • the imaging distance L is determined by the distance (optical path length) along the optical path from the position where the image is displayed on the liquid crystal display 6 to the concave mirror 7.
  • the optical path length is set such that the imaging distance L is 2.5 m.
  • HUD4 is used as a means to display the image superimposed on the surrounding environment ahead of a vehicle in this embodiment
  • a window shield display that displays an image on the front window 8
  • an image may be displayed from the projector with the front window 8 as a screen, or the front window 8 may be a transmissive liquid crystal display.
  • the image displayed on the front window 8 by the WSD is an image superimposed on the surrounding environment in front of the vehicle, similarly to the HUD 4.
  • the surrounding environment in front of the vehicle captured by a front camera 11 described later on a liquid crystal display in the vehicle and to display an image superimposed on the displayed surrounding environment in the same liquid crystal display.
  • the image displayed on the liquid crystal display is an image superimposed on the surrounding environment in front of the vehicle, as in the HUD 4.
  • the front camera 11 is installed above the front bumper of the vehicle, the back side of the rearview mirror, and the like.
  • the front camera 11 is an imaging device having a camera using a solid-state imaging device such as a CCD, for example, and is installed with the optical axis direction facing forward in the traveling direction of the vehicle. Then, image processing is performed on the captured image captured by the front camera 11 to detect the condition of the front environment (that is, the environment in which the virtual image 10 is superimposed) which is visually recognized by the occupant 9 through the front window 8 Be done.
  • a sensor such as a millimeter wave radar may be used instead of the front camera 11.
  • an in-vehicle camera 12 is installed on the upper surface of the instrument panel of the vehicle.
  • the in-vehicle camera 12 is an imaging device having a camera using a solid-state imaging device such as a CCD, for example, and is installed with the optical axis direction facing the driver's seat. Then, the face of the occupant 9 sitting in the driver's seat is imaged. Then, image processing is performed on the captured image captured by the in-vehicle camera 12 to detect the eye position (gaze start point) of the occupant 9 and the gaze direction.
  • FIG. 2 is a block diagram showing the navigation device 3 according to the present embodiment.
  • the navigation device 3 includes a current position detection unit 13 for detecting the current position of the vehicle 2 on which the navigation device 3 is mounted, and a data recording unit 14 in which various data are recorded. , A navigation ECU 15 that performs various arithmetic processing based on the input information, an operation unit 16 that receives an operation from the user, and a liquid crystal display 17 that displays a map of the vehicle and facility information related to the facility to the user. Communication that communicates between a speaker 18 that outputs voice guidance regarding route guidance, a DVD drive 19 that reads a DVD that is a storage medium, and an information center such as a VICS (registered trademark: Vehicle Information and Communication System) center And a module 20.
  • the navigation device 3 is connected to the above-described HUD 4, the front camera 11, the in-vehicle camera 12, and the like via an on-vehicle network such as CAN.
  • the current position detection unit 13 includes the GPS 21, the vehicle speed sensor 22, the steering sensor 23, the gyro sensor 24, and the like, and can detect the current position, orientation, traveling speed of the vehicle, current time, etc. .
  • the vehicle speed sensor 22 is a sensor for detecting the moving distance of the vehicle and the vehicle speed, generates a pulse according to the rotation of the drive wheel of the vehicle, and outputs a pulse signal to the navigation ECU 15.
  • navigation ECU15 calculates the rotational speed and the movement distance of a driving wheel by counting the pulse which generate
  • the navigation device 3 does not have to include all the four types of sensors described above, and the navigation device 3 may be configured to include only one or more of these sensors.
  • the data recording unit 14 is a hard disk (not shown) as an external storage device and a recording medium, a driver for reading a map information DB 31 recorded on the hard disk, a predetermined program, etc. and writing predetermined data on the hard disk And a recording head (not shown).
  • the data recording unit 14 may have a flash memory, a memory card, or an optical disk such as a CD or a DVD instead of the hard disk.
  • the map information DB 31 may be stored in an external server, and the navigation device 3 may acquire the map information through communication.
  • the two-dimensional map information 33 is map information used in the general navigation device 3 and, for example, link data related to roads (links), node data related to node points, facility data related to facilities, search data used for route search processing , Map display data for displaying a map, intersection data regarding each intersection, search data for searching for a point, and the like.
  • the three-dimensional map information 34 is not only a plane but also height information, and is map information for expressing a map in three dimensions.
  • the contours of the road, the shape of the building, the lane markings of the road, traffic lights, road signs, signboards and the like in three dimensions are used as map information.
  • the three-dimensional map information 34 may include information other than the outline of the road, the shape of the building, the lane line of the road, the traffic light, the road sign, and the signboard.
  • road trees and road markings may also include information for expressing in three dimensions.
  • information for specifying the position of a light source for example, a street lamp arranged around a road, a signboard emitting light, etc.
  • the map itself may be stored in which the objects of the outline of the road, the shape of the building, the road division line, the traffic signal, the road sign, the signboard, etc. And may store information necessary for expressing a map in three dimensions (such as the outline of a road, the shape of a building, a road lane line, a traffic signal, a road sign, a signboard, etc.) .
  • the navigation device 3 three-dimensionally displays the target area using the information stored as the three-dimensional map information 34 at the necessary timing. Generate a map that you expressed.
  • the navigation device 3 performs two-dimensional map information 33 for general functions such as display of a map image on the liquid crystal display 17 and search for a guide route.
  • the process related to the display of the guidance image is performed using the three-dimensional map information 34 as described later.
  • the navigation ECU (Electronic Control Unit) 15 is an electronic control unit that controls the entire navigation device 3 and is a working memory when the CPU 41 as an arithmetic device and control device and the CPU 41 perform various arithmetic processing.
  • the RAM 42 which stores route data etc. when a route is searched, and a program for control, it is read out from ROM 43 and ROM 43 where the driving support processing program (FIG. 3) and the like described later are recorded.
  • An internal storage device such as a flash memory 44 for storing a program is provided.
  • the navigation ECU 15 has various means as a processing algorithm.
  • the captured image acquisition means acquires a captured image obtained by imaging the surrounding environment in front of the driver's line of sight of the driver of the vehicle.
  • the map information acquisition means acquires three-dimensional map information 34.
  • the light source position acquisition means acquires the position of the light source.
  • the collation means collates the captured image with the three-dimensional map information 34.
  • the image arranging unit arranges the guide image and the light source in the three-dimensional map information 34 based on the collation result of the collation unit.
  • a visual recognition mode acquisition means acquires the visual recognition mode of the guidance image at the time of visualizing a guidance image from the position of the vehicle in three-dimensional map information.
  • the operation unit 16 is operated when inputting a departure place as a travel start point and a destination as the travel end point, and has a plurality of operation switches (not shown) such as various keys and buttons. And navigation ECU15 performs control in order to perform various corresponding operations based on the switch signal outputted by pressing etc. of each switch.
  • the operation unit 16 may have a touch panel provided on the front of the liquid crystal display 17. Moreover, you may have a microphone and a speech recognition apparatus.
  • the liquid crystal display 17 includes map images including roads, traffic information, operation guidance, operation menus, guidance of keys, guidance route from the departure place to the destination, guidance information along the guidance route, news, weather forecast, The time, mail, television program etc. are displayed.
  • the HUD 4 since the HUD 4 is provided as information display means, the liquid crystal display 17 may be omitted if the display of the map image etc. is performed by the HUD 4.
  • the speaker 18 outputs voice guidance for guiding traveling along the guidance route based on an instruction from the navigation ECU 15 and guidance for traffic information.
  • the DVD drive 19 is a drive capable of reading data recorded on a recording medium such as a DVD or a CD. Then, based on the read data, reproduction of music and video, update of the map information DB 31, and the like are performed. In place of the DVD drive 19, a card slot for reading and writing a memory card may be provided.
  • the communication module 20 is a communication device for receiving traffic information including traffic jam information, regulation information, traffic accident information and the like transmitted from a traffic information center, for example, a VICS center or a probe center.
  • a traffic information center for example, a VICS center or a probe center.
  • a mobile phone or DCM corresponds.
  • FIG. 3 is a flowchart of a driving support processing program according to the present embodiment.
  • the driving support processing program is executed after the ACC power supply (accessory power supply) of the vehicle is turned on, and various information such as guidance of the traveling direction of the vehicle along the guiding route to the occupant 9 of the vehicle 2 using the HUD 4 Is a program that provides The program shown in the flowchart of FIG. 3 below is stored in the RAM 42 or the ROM 43 provided in the navigation device 3 and is executed by the CPU 41.
  • step (hereinafter abbreviated as S) 1 the CPU 41 acquires a captured image obtained by capturing the surrounding environment (landscape) in front of the vehicle by the front camera 11. Furthermore, the CPU 41 reads three-dimensional map information 34 around the current position of the vehicle from the map information DB 31. In addition, information necessary for expressing a map in three dimensions (three-dimensional coordinate data of a road contour, a building shape, a road division line, a traffic signal, a road sign, a signboard, etc.) in the three-dimensional map information 34 Etc. are stored.
  • the CPU 41 generates a three-dimensional three-dimensional map (a map representing a building, a road, etc. in three dimensions) showing the vicinity of the current position of the vehicle based on the three-dimensional map information 34 read in S1. Specifically, a three-dimensional three-dimensional map is generated by executing the following processing.
  • the CPU 41 acquires an object (shape data) obtained by modeling a road, a building, a road sign, a signboard, and the like on a three-dimensional space from the three-dimensional map information 34.
  • the CPU 41 may be configured to acquire the corresponding object among the objects modeled in advance and stored in the DB, or may be configured to perform modeling in S2 to newly create an object.
  • modeling information for identifying the shape and position of a road and a structure (building, road sign, signboard, etc.) located around a road is acquired from the three-dimensional map information 34, and based on the acquired information Perform modeling process.
  • modeling is a process of creating the shape of a model (object) in a three-dimensional space, and more specifically, determination of coordinates of each vertex, determination of parameters of equations representing boundaries, planes, etc. I do.
  • the modeled object shape data
  • the modeled object shape data
  • the modeled object is expressed in a form such as a “wire frame model” that displays only the side depending on the application, a “surface model” that displays a surface, or the like.
  • a three-dimensional space in which each object is formed is taken as a three-dimensional three-dimensional map.
  • the CPU 41 also specifies the current position and orientation of the vehicle in the generated three-dimensional three-dimensional map based on the parameters detected by the current position detection unit 13 in S2.
  • the current position of the host vehicle is particularly the installation position of the front camera 11 installed on the host vehicle, and the heading of the host vehicle is the front It is desirable to set the direction of the optical axis of the camera 11.
  • FIG. 4 is a view showing an example of the three-dimensional three-dimensional map 51 generated at S3.
  • objects 52 indicating roads and structures (buildings, road signs, signs, etc.) are arranged in a three-dimensional space.
  • objects 52 indicating roads and structures around the current position of the vehicle are arranged.
  • the three-dimensional three-dimensional map 51 is also disposed for the vehicle position mark 53 indicating the current position and the direction of the vehicle.
  • the CPU 41 collates the captured image acquired in S1 with the three-dimensional solid map generated in S2, and determines whether or not there is a gap between the two. Specifically, the CPU 41 uses the current position of the vehicle (more specifically, the installation position of the front camera 11 and the height also taken into consideration) set in the three-dimensional three-dimensional map as a viewpoint, and the direction of the vehicle The direction is set, and the image when the three-dimensional three-dimensional map is visually recognized according to the set viewpoint and gaze direction is collated with the captured image.
  • a three-dimensional three-dimensional map does not include moving objects such as pedestrians and other vehicles, and some fixed objects such as trees, displacement due to them is basically ignored and determined.
  • the CPU 41 sets the current position and orientation of the vehicle set in the three-dimensional stereo map so that the difference between the three-dimensional stereo map generated in S2 and the captured image acquired in S1 is small. to correct.
  • the current position and orientation of the vehicle in the three-dimensional three-dimensional map may be fixed to correct the object side.
  • it is possible to specify the current position and orientation of the host vehicle (more specifically, the installation position of the front camera 11 and the optical axis direction) within the three-dimensional three-dimensional map. After that, it returns to S3.
  • the CPU 41 determines, based on the current situation of the host vehicle and the surroundings, whether or not to display a guidance image that particularly urges a change in driving operation by the HUD 4 as a guidance image for assisting the driving of the vehicle. Do.
  • a guidance image to be displayed by the HUD 4 in the present embodiment (1) a guidance image (hereinafter referred to as a first guidance image) prompting the driver to change the driving operation, and (2) driving the driver And a guidance image not prompting a change in operation (hereinafter referred to as a second guidance image).
  • the first guidance image is a guidance image that causes the driver to perform a change in driving operation (for example, a change in steering angle or a change in the amount of depression of an accelerator or a brake) by visual recognition.
  • a change in driving operation for example, a change in steering angle or a change in the amount of depression of an accelerator or a brake
  • the image of the arrow which guides the advancing direction of the advancing path which the vehicle after leaving a guidance junction goes, the image of the warning with respect to warning subjects, such as a pedestrian, etc. correspond.
  • the second guidance image is a guidance image basically not causing the driver to change the driving operation (for example, change the steering angle or change the stepping amount of the accelerator or the brake) even if the driver visually recognizes is there.
  • running route of the future vehicle along a guide route, the image which guides the facility in the periphery, etc. correspond.
  • the CPU 41 acquires “position”, “brightness”, and “color” of an area to be superimposed, in particular, as information on the surrounding environment to which the first guidance image is to be superimposed. For example, when the first guidance image is superimposed on the road surface and displayed, the position of the road surface (three-dimensional position coordinates) to be superimposed, the brightness (brightness, brightness) of the road surface, the road surface Get the color (RGB value) of the one). On the other hand, when the first guide image is displayed superimposed on the wall surface of the building, the position (three-dimensional position coordinates) of the wall surface to be superimposed, brightness (luminance, illuminance) of the wall, color of the wall ( Get RGB value).
  • the "position” of the peripheral environment is specified based on the three-dimensional map information 34, and the "brightness” and the "color” are specified based on the image captured by the front camera 11.
  • the CPU 41 arranges the first guidance image to be displayed with respect to the three-dimensional solid map generated in S2.
  • the first guide image is arranged in a mode in which the “position”, “brightness” and “color” are not in harmony with the surrounding environment to be superimposed in comparison with a second guide image described later.
  • the traveling path on which the vehicle travels after leaving the guidance junction For example, when turning left at a guidance junction, the guidance image is arranged vertically standing at a position separated by a predetermined distance (for example, 1 m) above the road surface connected to the left of the guidance junction Do. That is, by arranging the first guidance image so as to be separated from the road surface, the "position" is not matched with the road surface to be superimposed.
  • the first guidance image to be arranged is displayed in a display color and brightness different from the color and the brightness of the surrounding environment to be superimposed.
  • the values are greatly different from the road surface (including those disposed on the road surface such as division lines) on which the RGB values and luminance of the first guidance image are superimposed.
  • the color difference between the road surface color and the RGB value is a predetermined value or more (for example, 50 or more), or the opposite color to the road surface color (for example, the first guidance if the road surface is blue)
  • a predetermined value or more for example, 50 or more
  • the opposite color to the road surface color for example, the first guidance if the road surface is blue
  • FIG. 5 is a view in which the first guidance image 54 is arranged on the three-dimensional stereoscopic map 51.
  • the first guidance image 54 is an image of an arrow for guiding the vehicle to advance to the road connected to the left after leaving the guidance junction 55, but on the left of the guidance junction 55 It is disposed in a state of being vertically erected at a position separated above a predetermined distance (for example, 1 m) from the road surface 56 of the road to be connected.
  • the first guidance image 54 is displayed in a display color and brightness different from the color and the brightness of the road surface 56.
  • the CPU 41 displays a second guidance image that does not particularly prompt the change of the driving operation by the HUD 4 as a guidance image for assisting the driving of the vehicle. Determine if
  • the second guidance image is basically a guidance image that the driver does not have to change the driving operation (for example, change the steering angle or change the amount of depression of the accelerator or the brake) even if the driver visually recognizes as described above. It is.
  • the CPU 41 acquires the “position”, “brightness”, and “color” of the area to be superimposed, in particular, as information on the surrounding environment to which the second guidance image is to be superimposed.
  • the details are the same as those of the above-described S6, so the description will be omitted.
  • the position of the light source for emitting light to the surrounding environment is also acquired.
  • a light source there are a sun, a street lamp, a signboard that emits light, and the like.
  • the position of the sun is specified from, for example, the current date and time.
  • the positions of street lights and billboards to emit light are specified from three-dimensional map information 34.
  • the CPU 41 arranges a second guidance image to be displayed with respect to the three-dimensional solid map generated in S2.
  • the second guide image is arranged in a mode in which the “position”, “brightness” and “color” are in harmony with the surrounding environment to be superimposed as compared with the above-described first guide image.
  • the guidance image is arranged by being superimposed on the road surface on which the vehicle travels (located on the road surface). Do. That is, by arranging the second guidance image on the road surface, the "position" is made to be in harmony with the road surface to be superimposed.
  • the second guidance image to be arranged is displayed with a display color and brightness that are the same as or similar to the color and brightness of the surrounding environment to be superimposed.
  • a value identical to or similar to a road surface (including one disposed on a road surface such as a dividing line) on which the RGB values and luminance of the second guidance image are superimposed I assume.
  • the second guidance image a color whose color difference between the road surface color and the RGB value is less than a predetermined value (for example, less than 50), or a color adjacent to the road surface color and the color wheel (within the predetermined angle) If the road surface is blue, the second guidance image is displayed in purple, and a method of displaying so that the difference in luminance is within a predetermined value with the road surface may be mentioned.
  • the display color of the second guidance image may be the same or similar color (eg, milky white, yellow) as the dividing line disposed on the road surface to be superimposed. Thereby, "brightness” and “color” are made to be in harmony with the road surface to be superimposed.
  • the CPU 41 when specifying the brightness of the second guidance image, arranges the light source acquired in S9 together with the second guidance image with respect to the three-dimensional stereoscopic map. And the irradiation aspect of the light from a light source to a 2nd guidance image is specified in a three-dimensional stereo map, and the brightness of a 2nd guidance image is specified based on the specified irradiation aspect. Specifically, in the range where the light from the light source is irradiated, the image is brighter than the range where the light is not irradiated.
  • FIG. 6 is a diagram in which the second guidance image 61 is arranged on the three-dimensional stereoscopic map 51.
  • the second guidance image 61 is an image of a mark indicating the future travel route of the vehicle along the guidance route, and is arranged parallel to the road surface 62 of the road on which the vehicle travels.
  • the second guidance image 61 is displayed with a display color and brightness that are the same as or similar to the color and brightness of the road surface 62.
  • the area irradiated with light by the light source (for example, the sun) 63 disposed with respect to the three-dimensional stereoscopic map 51 is displayed brighter than the area not irradiated.
  • the range shaded by the building located on the right side of the vehicle is displayed darker than the other ranges.
  • the CPU 41 first recognizes an image (hereinafter referred to as a visible image) in which the three-dimensional stereoscopic map on which the first guide image and the second guide image are arranged is viewed from the viewpoint of the vehicle (passenger) To get In particular, the viewpoint of the vehicle is the position of the eyes of the vehicle occupant.
  • the position of the occupant's eyes can be detected by the in-vehicle camera 12, and the current position and orientation of the vehicle finally identified as a result of comparison between the captured image in S3 and the three-dimensional solid map
  • the positions of the eyes of the occupant in the three-dimensional map are specified.
  • a visual recognition image is each object (a road, a building, a road sign, a signboard, a 1st guidance image, a 2nd guidance image, etc.) arranged on a three-dimensional solid map from the viewpoint of the vehicle (passenger) When viewed visually, it corresponds to the view of the vehicle occupant.
  • it is an image visually recognized from the viewpoint of a vehicle (passenger) about a visual recognition image, it is not necessary to be an image visually recognized in the advancing direction of a vehicle.
  • at least the visual recognition image needs to include the first guidance image and the second guidance image.
  • the CPU 41 sets a first guidance image and a second guidance to be displayed by the HUD 4 on the visual recognition mode (color, brightness, shape) of the first guidance image and the second guidance image included in the visual recognition image. It is stored as an image display mode.
  • the color, brightness and shape of the first guide image and the second guide image included in the visible image are each object (a road, a building, a road sign, a signboard, a first guide image) arranged on a three-dimensional three-dimensional map.
  • the second guidance image, etc. when viewed from the viewpoint of the vehicle (passenger), the color, the brightness, and the shape of the first guidance image and the second guidance image.
  • the shapes of the first guidance image and the second guidance image stored in S11 are the respective objects 68 (for example, the first guidance image 54 and the second guidance image 61 are located on the front side as shown in FIG. 7). When it overlaps with a road sign, a building, etc. and is visually recognized, it becomes a shape except an overlapping part. On the other hand, when the first guide image 54 and the second guide image 61 are viewed in an overlapping manner with the objects 69 located on the back side, the overlapping portion is also included.
  • the CPU 41 acquires the positions of the first guidance image and the second guidance image arranged in the three-dimensional stereoscopic map.
  • the CPU 41 performs display range determination processing (FIG. 9) described later.
  • a range in which the first guide image and the second guide image are displayed in the HUD 4 (a range in which the first guide image and the second guide image are projected on the front window 8 or the liquid crystal display 6 of the HUD 4 To determine the display range of the guidance image.
  • the CPU 41 transmits a control signal to the HUD 4, and causes the liquid crystal display 6 of the HUD 4 to transmit the first guide image and the second guide image of the color, brightness and shape stored in S11. It displays in the display range determined by said S13. As a result, virtual images of the first guidance image and the second guidance image are viewed from the occupants of the vehicle superimposed on the scenery in front of the vehicle.
  • FIG. 8 is a first guidance image and a second guidance image visually recognized by the occupant of the vehicle, particularly when the traveling direction of the traveling route on which the vehicle travels after leaving the guidance junction is left (that is, left). It is a figure showing a virtual image of a guidance image. As shown in FIG. 8, an arrow indicating that the vehicle travels to the left at a position separated upward with respect to the road surface of the traveling path after turning left at the guidance branch point 55 over the front window 8 of the vehicle
  • the first guidance image 54 is displayed as a virtual image.
  • a second guidance image 61 of a mark indicating the future travel route of the vehicle along the guidance route is displayed as a virtual image, superimposed on the road surface of the road on which the vehicle travels.
  • the first guidance image 54 is displayed in a color or brightness different from that of the road surface to be superimposed. Therefore, the vehicle occupant can clearly recognize the virtual image of the first guidance image 54 in distinction from the surrounding scenery.
  • the second guidance image 61 is displayed in the same color or brightness as or similar to the road surface to be superimposed. Therefore, the occupant of the vehicle sees the virtual image of the second guidance image 61 in harmony with the surrounding scenery, and does not cause the driver to feel bothersome.
  • both the virtual image of the first guidance image 54 and the virtual image of the second guidance image 61 are simultaneously displayed in the example shown in FIG. 8, only the virtual image of the first guidance image 54 is displayed depending on the condition of the vehicle. If there is a situation, there is also a situation where only the virtual image of the second guidance image 61 is displayed.
  • FIG. 9 is a flowchart of a sub-processing program of display range determination processing.
  • the CPU 41 detects the position of the eyes of the occupant of the vehicle based on the captured image captured by the in-vehicle camera 12.
  • the position of the detected eye is specified by three-dimensional position coordinates.
  • the CPU 41 determines whether the display of the HUD 4 is ON. In addition, it is possible to perform switching of ON or OFF of the display of HUD4 by operation of the passenger
  • the CPU 41 acquires position coordinates of the front window 8 which is an object on which the image is projected by the HUD 4.
  • the position coordinates of the front window 8 are specified by three-dimensional position coordinates.
  • the CPU 41 sets the coordinates for specifying the positions of the first guidance image and the second guidance image arranged in the three-dimensional three-dimensional map acquired at S12, to the positions of the first guidance image and the second guidance image. Acquire as coordinates.
  • the position coordinates of the first guidance image and the second guidance image are also specified by three-dimensional position coordinates.
  • the CPU 41 determines the projection ranges of the first guidance image and the second guidance image in the front window 8 based on the respective position coordinates acquired in S21, S23 and S24. Furthermore, the display range of the first guidance image and the second guidance image on the liquid crystal display 6 inside the HUD 4 is also determined from the determined projection range. Thereafter, the process proceeds to S14, and a virtual image is displayed using the HUD 4 based on the determined projection range and display range. The processing of S11 to S14 is repeated until the display of the HUD is turned off.
  • the first guidance image for prompting the driver to change the driving operation and the driving operation for the driver In the case where the second guidance image not prompting the user to change is superimposed on the surrounding environment in front of the vehicle for visual recognition, at least one of the position, brightness and color of the second guidance image is to be superimposed compared to the first guidance image. Since the display mode is displayed in harmony with the surrounding environment (S5 to S14), even when a large number of guidance images are displayed, the driver can more clearly see the first guidance image to be visually recognized when performing the driving operation It becomes possible. On the other hand, it is possible to prevent the driver from feeling annoyed by the second guidance image which is not necessary to be visually recognized when performing the driving operation.
  • a virtual image is generated in front of the front window 8 of the vehicle 2 by the HUD 4 in the present embodiment
  • a virtual image may be generated in front of windows other than the front window 8.
  • an object to which an image is reflected by the HUD 4 may be a visor (combiner) installed around the front window 8 instead of the front window 8 itself.
  • HUD4 is used as a means to display the image superimposed on a surrounding environment
  • WSD window shield display
  • FIG. it may be a display device in which the guidance image is superimposed on the real scene displayed on the liquid crystal display 17 of the navigation device 3.
  • the second guidance image is displayed in a display mode harmonized with the surrounding environment to be superimposed more than the first guidance image for the three elements of “position”, “brightness” and “color”.
  • position the surrounding environment
  • color the three elements of “position”, “brightness” and “color”.
  • only one or two elements may be targeted.
  • the first guidance image is not limited to the above example as long as it is an image regarding guidance for prompting the driver to change the driving operation.
  • the second guidance image is not limited to the above example as long as it is an image relating to guidance that does not prompt the driver to change the driving operation.
  • the control unit of the HUD 4 the vehicle control ECU, or another on-vehicle device may execute.
  • the control part of HUD4 it is also possible to comprise the superimposed image display apparatus which concerns on this invention only by HUD4.
  • the superimposed image display device can also have the following configuration, and in that case, the following effects can be obtained.
  • the first configuration is as follows.
  • a superimposed image display device (1) mounted on a vehicle (2) and causing an image to be superimposed and visually recognized in the surrounding environment in front of the vehicle, wherein the image is a first guide for prompting the driver to change the driving operation
  • the second guidance image includes at least one of the image (54) and a second guidance image (61) that does not prompt the driver to change the driving operation, and the second guidance image has a position and brightness more than the first guidance image.
  • at least one of the colors is displayed in a display manner in harmony with the surrounding environment to be superimposed.
  • the second configuration is as follows.
  • the first guide image (54) is displayed at a position to be separated and recognized above the road surface and the second guide image (61) is displayed at a position to be visually recognized on the road surface.
  • the driver is clearly made to visually recognize the guidance image to be visually recognized when performing the driving operation, particularly with respect to the display position of the guidance image, by displaying the guidance image away from the road surface. Is possible.
  • the third configuration is as follows.
  • the second guide image (61) is displayed in a display mode in harmony with the brightness or color of the road surface to be superimposed.
  • the driver is bothered by displaying the guidance image which is not necessary to be visually recognized in performing the driving operation in the display mode in harmony with the brightness or color of the road surface to be superimposed. It is possible to prevent the feeling of
  • the fourth configuration is as follows.
  • the first guide image (54) is displayed in a display color different from the color of the surrounding environment to be superimposed, and the second guide image (61) is the same as the color of the surrounding environment to be superimposed Alternatively, by displaying in a similar display color, the color is harmonized with the surrounding environment to be superimposed.
  • the driver can clearly see the display color of the guidance image by displaying the guidance image to be visually recognized in performing the driving operation in a color different from the overlapping place. It becomes possible. On the other hand, it is possible to prevent the driver from being bothersome by displaying the guidance image which is not necessary to be visually recognized in performing the driving operation with the same or similar color as the overlapping place.
  • the fifth configuration is as follows.
  • the first guide image (54) is displayed at a brightness different from the brightness of the surrounding environment to be superimposed
  • the second guide image (61) is the brightness of the surrounding environment to be superimposed and
  • the driver clearly sees the guidance image to be visually recognized when performing the driving operation, particularly with regard to the brightness of the guidance image, by displaying the guidance image at a different brightness from the overlapping place. It is possible to On the other hand, it is possible to prevent the driver from being bothersome by displaying the guidance image which is not necessary to be visually recognized in performing the driving operation with the same or similar brightness as the overlapping place. .
  • the sixth configuration is as follows.
  • the first guide image and the second guide image are displayed in a display mode corresponding to the visual mode acquired by the visual mode acquisition means.
  • the first guidance image having a shape and brightness that can be viewed by the driver of the vehicle by using the captured image obtained by imaging the landscape ahead of the vehicle and the three-dimensional map information And the second guide image can be easily generated.
  • the seventh configuration is as follows.
  • the first guide image (54) and the second guide image (61) are displayed as virtual images. According to the superimposed image display device having the above configuration, it is possible to visually recognize the guidance image without moving the line of sight of the vehicle occupant from the front in the traveling direction as much as possible.

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Navigation (AREA)
  • Instrument Panels (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Traffic Control Systems (AREA)

Abstract

運転操作を行うにあたって視認すべき案内画像についてはより明確に運転者に視認させる一方で、運転操作を行うにあたって視認する必要性の薄い案内画像によって運転者が煩わしさを感じさせることのない重畳画像表示装置及びコンピュータプログラムを提供する。具体的には、運転者に運転動作の変更を促す第1案内画像と運転者に運転動作の変更を促さない第2案内画像を車両前方の周辺環境に重畳して視認させる場合において、第2案内画像を、第1案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる周辺環境に調和した表示態様で表示する。

Description

重畳画像表示装置及びコンピュータプログラム
 本発明は、車両の走行支援を行う重畳画像表示装置及びコンピュータプログラムに関する。
 従来より、車両の乗員に対して経路案内や障害物の警告等の車両の走行支援を行う為の各種情報を提供する情報提供手段として、様々な手段が用いられている。例えば、車両に設置された液晶ディスプレイによる表示や、スピーカから出力する音声等である。そして、近年、このような情報提供手段の一つとして、ヘッドアップディスプレイ(以下、HUDという)やウインドウシールドディスプレイ(以下、WSDという)のように運転者の周辺環境(風景)に重畳する画像を表示することによって、情報の提供を行う装置がある。
 例えば、特開2013-79930号公報には、案内経路に沿って車両の進行方向を示す矢印や施設のジャンルを示すマーク等の複数種類の案内画像を、HUDを用いて路面から離れた運転者の頭上に表示することについて開示されている。
特開2013-79930号公報(図4)
 ここで、上記特許文献1に記載の技術では、運転者に運転動作の変更を促す案内画像(例えば右左折を案内する矢印)と運転者に運転動作の変更を促さない案内画像(例えば直進を案内する矢印)は、いずれも同じ表示態様で運転者の頭上に表示されていた。その結果、運転者に運転動作の変更を促さない案内画像、即ち、運転操作を行うにあたって視認する必要性の薄い案内画像についても運転者の頭上に表示されることとなるので、運転者が案内を煩わしいと感じる問題があった。
 本発明は前記従来における問題点を解消するためになされたものであり、運転操作を行うにあたって視認すべき案内画像についてはより明確に運転者に視認させる一方で、運転操作を行うにあたって視認する必要性の薄い案内画像によって運転者が煩わしさを感じさせることのない重畳画像表示装置及びコンピュータプログラムを提供することを目的とする。
 前記目的を達成するため本発明に係る重畳画像表示装置は、車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置であって、前記画像は、運転者に運転動作の変更を促す第1の案内画像と運転者に運転動作の変更を促さない第2の案内画像との少なくとも一方を含み、前記第2の案内画像は、前記第1の案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる前記周辺環境に調和した表示態様で表示される。
 また、本発明に係るコンピュータプログラムは、車両の走行支援を行うプログラムである。具体的には、車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置を、前記画像として運転者に運転動作の変更を促す第1の案内画像と運転者に運転動作の変更を促さない第2の案内画像との少なくとも一方を表示する案内画像表示手段として機能させる為のコンピュータプログラムであって、前記第2の案内画像は、前記第1の案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる前記周辺環境に調和した表示態様で表示される。
 前記構成を有する本発明に係る重畳画像表示装置及びコンピュータプログラムによれば、多数の案内画像が表示された場合においても運転操作を行うにあたって視認すべき案内画像についてはより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像によって運転者に煩わしさを感じさせることについて防止することが可能となる。
本実施形態に係る重畳画像表示装置の概略構成図である。 本実施形態に係るナビゲーション装置を示したブロック図である。 本実施形態に係る走行支援処理プログラムのフローチャートである。 3次元地図情報に基づいて生成される3次元立体地図を示した図である。 第1案内画像を配置した後の3次元立体地図を示した図である。 第2案内画像及び光源を配置した後の3次元立体地図を示した図である。 HUDに対して表示する第1案内画像及び第2案内画像の生成方法を説明した図である。 車両の乗員から視認される第1案内画像及び第2案内画像の虚像の例を示した図である。 表示範囲決定処理のサブ処理プログラムのフローチャートである。
 以下、本発明に係る重畳画像表示装置を具体化した一実施形態に基づき図面を参照しつつ詳細に説明する。先ず、本実施形態に係る重畳画像表示装置1の概略構成について図1を用いて説明する。図1は本実施形態に係る重畳画像表示装置1の概略構成図である。
 図1に示すように重畳画像表示装置1は、車両2に搭載されたナビゲーション装置3と、同じく車両2に搭載されるとともにナビゲーション装置3と接続されたヘッドアップディスプレイ装置(以下、HUDという)4とを基本的に有する。
 ここで、ナビゲーション装置3は、目的地までの推奨経路を探索したり、サーバから取得したりメモリに格納された地図データに基づいて車両2の現在位置周辺の地図画像を表示したり、設定された案内経路に沿った走行案内をHUD4とともに行う機能を有する。尚、上記機能の全てをナビゲーション装置3が備えている必要はなく、少なくとも案内経路に沿った走行案内を行う機能を有していれば本願発明を構成することが可能である。尚、ナビゲーション装置3の構造の詳細については後述する。
 一方、HUD4は、車両2のダッシュボード5内部に設置されており、内部には映像が表示される映像表示面である液晶ディスプレイ6を有する。そして、液晶ディスプレイ6に投射された映像を、後述のようにHUD4が備える凹面鏡7等を介し、更に運転席の前方のフロントウィンドウ8に反射させて車両2の乗員9に視認させるように構成されている。尚、液晶ディスプレイ6に表示される映像としては、車両2に関する情報や乗員9の運転の支援の為に用いられる各種情報がある。例えば乗員9に対して警告対象となる対象物(他車両や歩行者)に対する警告、ナビゲーション装置3で設定された案内経路や案内経路に基づく案内情報(右左折方向を示す矢印等)、路面に表示する警告(追突注意、制限速度等)、現在車速、広告画像、施設情報、案内標識、地図画像、交通情報、ニュース、天気予報、時刻、接続されたスマートフォンの画面、テレビ番組等がある。
 また、本実施形態のHUD4では、フロントウィンドウ8を反射して乗員9が液晶ディスプレイ6に表示された映像を視認した場合に、乗員9にはフロントウィンドウ8の位置ではなく、フロントウィンドウ8の先の遠方の位置に液晶ディスプレイ6に表示された映像が虚像10として視認されるように構成される。また、虚像10は車両前方の周辺環境(風景、実景)に重畳して表示されることとなり、例えば車両前方に位置する任意の対象物(路面、建築物、警告対象となる動体物等)に重畳させて表示させることも可能である。尚、乗員9が視認できる虚像10は液晶ディスプレイ6に表示された映像であるが、凹面鏡7やその他のミラーを介することによって上下方向や左右方向が反転する場合があり、それらの反転を考慮して液晶ディスプレイ6の映像の表示を行う必要がある。また、凹面鏡7を介することによってサイズも変更する。
 ここで、虚像10を生成する位置、より具体的には乗員9から虚像10までの距離(以下、結像距離という)Lについては、HUD4が備える凹面鏡7の曲率、液晶ディスプレイ6と凹面鏡7との相対位置等によって適宜設定することが可能である。例えば、凹面鏡7の曲率が固定であれば、液晶ディスプレイ6において映像の表示された位置から凹面鏡7までの光路に沿った距離(光路長)によって結像距離Lが決定される。例えば結像距離Lが2.5mとなるように光路長が設定されている。
 また、本実施形態では車両前方の周辺環境に重畳する画像を表示する手段としてHUD4を用いているが、他の手段を用いても良い。例えば、フロントウィンドウ8に対して映像を表示するウインドウシールドディスプレイ(WSD)を用いても良い。WSDでは、フロントウィンドウ8をスクリーンとしてプロジェクタから映像を表示しても良いし、フロントウィンドウ8を透過液晶ディスプレイとしても良い。WSDによってフロントウィンドウ8に対して表示された画像は、HUD4と同様に車両前方の周辺環境に重畳する画像となる。
 更に、後述のフロントカメラ11で撮像した車両前方の周辺環境を車内の液晶ディスプレイに表示し、同一の液晶ディスプレイ内において表示された周辺環境に重畳する画像を表示することも可能である。その場合においても液晶ディスプレイに表示された画像は、HUD4と同様に車両前方の周辺環境に重畳する画像となる。
 また、車両のフロントバンパの上方やルームミラーの裏側等にはフロントカメラ11が設置される。フロントカメラ11は、例えばCCD等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を車両の進行方向前方に向けて設置される。そして、フロントカメラ11により撮像された撮像画像に対して画像処理が行われることによって、フロントウィンドウ8越しに乗員9に視認される前方環境(即ち虚像10が重畳される環境)の状況等が検出される。尚、フロントカメラ11の代わりにミリ波レーダ等のセンサを用いても良い。
 また、車両のインストルメントパネルの上面には車内カメラ12が設置される。車内カメラ12は、例えばCCD等の固体撮像素子を用いたカメラを有する撮像装置であり、光軸方向を運転席に向けて設置される。そして、運転席に座った乗員9の顔を撮像する。そして、車内カメラ12により撮像された撮像画像に対して画像処理が行われることによって、乗員9の目の位置(視線開始点)や視線方向を検出する。
 次に、上記重畳画像表示装置1を構成するナビゲーション装置3の概略構成について図2を用いて説明する。図2は本実施形態に係るナビゲーション装置3を示したブロック図である。
 図2に示すように本実施形態に係るナビゲーション装置3は、ナビゲーション装置3が搭載された車両2の現在位置を検出する現在位置検出部13と、各種のデータが記録されたデータ記録部14と、入力された情報に基づいて、各種の演算処理を行うナビゲーションECU15と、ユーザからの操作を受け付ける操作部16と、ユーザに対して車両周辺の地図や施設の関する施設情報を表示する液晶ディスプレイ17と、経路案内に関する音声ガイダンスを出力するスピーカ18と、記憶媒体であるDVDを読み取るDVDドライブ19と、VICS(登録商標:Vehicle Information and Communication System)センタ等の情報センタとの間で通信を行う通信モジュール20と、を有する。また、ナビゲーション装置3はCAN等の車載ネットワークを介して、前述したHUD4、フロントカメラ11及び車内カメラ12等が接続されている。
 以下に、ナビゲーション装置3が有する各構成要素について順に説明する。
 現在位置検出部13は、GPS21、車速センサ22、ステアリングセンサ23、ジャイロセンサ24等からなり、現在の車両の位置、方位、車両の走行速度、現在時刻等を検出することが可能となっている。ここで、特に車速センサ22は、車両の移動距離や車速を検出する為のセンサであり、車両の駆動輪の回転に応じてパルスを発生させ、パルス信号をナビゲーションECU15に出力する。そして、ナビゲーションECU15は発生するパルスを計数することにより駆動輪の回転速度や移動距離を算出する。尚、上記4種類のセンサをナビゲーション装置3が全て備える必要はなく、これらの内の1又は複数種類のセンサのみをナビゲーション装置3が備える構成としても良い。
 また、データ記録部14は、外部記憶装置及び記録媒体としてのハードディスク(図示せず)と、ハードディスクに記録された地図情報DB31や所定のプログラム等を読み出すとともにハードディスクに所定のデータを書き込む為のドライバである記録ヘッド(図示せず)とを備えている。尚、データ記録部14はハードディスクの代わりにフラッシュメモリやメモリーカードやCDやDVD等の光ディスクを有していても良い。また、地図情報DB31は外部のサーバに格納させ、ナビゲーション装置3が通信により取得する構成としても良い。
 ここで、地図情報DB31は、2次元地図情報33と3次元地図情報34とがそれぞれ記憶される。2次元地図情報33は、一般的なナビゲーション装置3において用いられる地図情報であり、例えば、道路(リンク)に関するリンクデータ、ノード点に関するノードデータ、施設に関する施設データ、経路探索処理に用いられる探索データ、地図を表示するための地図表示データ、各交差点に関する交差点データ、地点を検索するための検索データ等を含む。
 一方、3次元地図情報34は、平面だけではなく高さ情報についても有し、3次元で地図を表現する為の地図情報である。特に本実施形態では3次元で道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等を表現する為の地図情報とする。尚、3次元地図情報34としては上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板以外の情報についても含めても良い。例えば、街路樹や路面標示等についても3次元で表現する為の情報を含めても良い。特に本実施形態では地図上に存在する光源(例えば道路周辺に配置された街路灯、発光する看板など)の位置を特定する情報についても含まれる。また、3次元地図情報34としては3次元空間上に上記道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の各オブジェクトを配置した地図そのものを記憶しても良いし、3次元で地図を表現する為に必要な情報(道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の3次元の座標データなど)を記憶しても良い。3次元で地図を表現する為に必要な情報が格納されている場合には、ナビゲーション装置3は、必要なタイミングで3次元地図情報34として記憶された情報を用いて、対象エリアを3次元で表現した地図を生成する。
 そして、ナビゲーション装置3は、液晶ディスプレイ17における地図画像の表示、案内経路の探索等の一般的な機能については2次元地図情報33を用いて行う。また、後述のように案内画像の表示に係る処理については2次元地図情報33に加えて3次元地図情報34についても用いて行う。
 一方、ナビゲーションECU(エレクトロニック・コントロール・ユニット)15は、ナビゲーション装置3の全体の制御を行う電子制御ユニットであり、演算装置及び制御装置としてのCPU41、並びにCPU41が各種の演算処理を行うにあたってワーキングメモリとして使用されるとともに、経路が探索されたときの経路データ等が記憶されるRAM42、制御用のプログラムのほか、後述の走行支援処理プログラム(図3)等が記録されたROM43、ROM43から読み出したプログラムを記憶するフラッシュメモリ44等の内部記憶装置を備えている。尚、ナビゲーションECU15は、処理アルゴリズムとしての各種手段を有する。例えば、撮像画像取得手段は、車両の運転者の視線前方の周辺環境を撮像した撮像画像を取得する。地図情報取得手段は、3次元地図情報34を取得する。光源位置取得手段は、光源の位置を取得する。照合手段は、撮像画像と3次元地図情報34を照合する。画像配置手段は、照合手段の照合結果に基づいて、3次元地図情報34内において案内画像と光源とを配置する。視認態様取得手段は、3次元地図情報内における車両の位置から案内画像を視認した場合の案内画像の視認態様を取得する。
 操作部16は、走行開始地点としての出発地及び走行終了地点としての目的地を入力する際等に操作され、各種のキー、ボタン等の複数の操作スイッチ(図示せず)を有する。そして、ナビゲーションECU15は、各スイッチの押下等により出力されるスイッチ信号に基づき、対応する各種の動作を実行すべく制御を行う。尚、操作部16は液晶ディスプレイ17の前面に設けたタッチパネルを有していても良い。また、マイクと音声認識装置を有していても良い。
 また、液晶ディスプレイ17には、道路を含む地図画像、交通情報、操作案内、操作メニュー、キーの案内、出発地から目的地までの案内経路、案内経路に沿った案内情報、ニュース、天気予報、時刻、メール、テレビ番組等が表示される。尚、本実施形態では情報の表示手段としてHUD4を備えているので、上記地図画像等の表示をHUD4で行う構成とすれば液晶ディスプレイ17は省略しても良い。
 また、スピーカ18は、ナビゲーションECU15からの指示に基づいて案内経路に沿った走行を案内する音声ガイダンスや、交通情報の案内を出力する。
 また、DVDドライブ19は、DVDやCD等の記録媒体に記録されたデータを読み取り可能なドライブである。そして、読み取ったデータに基づいて音楽や映像の再生、地図情報DB31の更新等が行われる。尚、DVDドライブ19に替えてメモリーカードを読み書きする為のカードスロットを設けても良い。
 また、通信モジュール20は、交通情報センタ、例えば、VICSセンタやプローブセンタ等から送信された渋滞情報、規制情報、交通事故情報等の各情報から成る交通情報を受信する為の通信装置であり、例えば携帯電話機やDCMが該当する。
 続いて、前記構成を有する重畳画像表示装置1の内、特にナビゲーション装置3において実行する走行支援処理プログラムについて図3に基づき説明する。図3は本実施形態に係る走行支援処理プログラムのフローチャートである。ここで、走行支援処理プログラムは車両のACC電源(accessory power supply)がONされた後に実行され、HUD4を用いて車両2の乗員9に案内経路に沿った車両の進行方向の案内等の各種情報を提供するプログラムである。尚、以下の図3にフローチャートで示されるプログラムは、ナビゲーション装置3が備えているRAM42やROM43に記憶されており、CPU41により実行される。
 先ず、走行支援処理プログラムでは、ステップ(以下、Sと略記する)1においてCPU41は、フロントカメラ11によって車両前方の周辺環境(風景)を撮像した撮像画像を取得する。更に、CPU41は、地図情報DB31から車両の現在位置周辺の3次元地図情報34を読み出す。尚、3次元地図情報34には、3次元で地図を表現する為に必要な情報(道路の輪郭、建築物の形状、道路の区画線、信号機、道路標識、看板等の3次元の座標データなど)が記憶される。
 次に、S2においてCPU41は、前記S1で読み出した3次元地図情報34に基づいて、車両の現在位置周辺を示す3次元立体地図(3次元で建物や道路等を表現した地図)を生成する。具体的には、以下の処理を実行することにより3次元立体地図を生成する。
 先ず、CPU41は、3次元地図情報34から3次元空間上に道路、建築物、道路標識、看板等をモデリングしたオブジェクト(形状データ)を取得する。尚、CPU41は、予めモデリングしてDBに格納しておいたオブジェクトの内、該当するオブジェクトを取得する構成としても良いし、S2においてモデリングを実施してオブジェクトを新たに作成する構成としても良い。モデリングを実施する場合には、3次元地図情報34から道路及び道路周辺にある構造物(建築物、道路標識、看板等)の形状や位置を特定する情報を取得し、取得した情報に基づいてモデリング処理を行う。
 ここで、モデリングとは3次元空間上においてモデル(物体)の形状を作成する処理であり、より具体的には各頂点の座標の決定や、境界線、面を表現する方程式のパラメータの決定などを行う。尚、モデリングについては公知の技術であるので詳細は省略する。そして、モデリングされたオブジェクト(形状データ)は、用途に応じて辺のみ表示する「ワイヤーフレームモデル」、面を表示する「サーフィスモデル」等の形で表現される。そして各オブジェクトが形成された3次元空間を3次元立体地図とする。
 また、前記S2でCPU41は、現在位置検出部13で検出されたパラメータに基づいて、生成された3次元立体地図における自車両の現在位置及び方位についても特定する。尚、後述の3次元立体地図と撮像画像との照合の処理を容易化する為に、自車両の現在位置は特に自車両に設置されたフロントカメラ11の設置位置とし、自車両の方位はフロントカメラ11の光軸方向とするのが望ましい。
 ここで、図4は前記S3で生成される3次元立体地図51の一例を示した図である。図4に示すように3次元立体地図51には、3次元空間に対して、道路や構造物(建築物、道路標識、看板等)を示す各オブジェクト52が配置される。特に車両の現在位置周辺の道路や構造物を示す各オブジェクト52が配置される。また、3次元立体地図51には自車両の現在位置と方位を示す自車位置マーク53についても配置される。
 続いてS3においてCPU41は、前記S1で取得した撮像画像と前記S2で生成された3次元立体地図とを照合し、両者の間にズレが生じていないかを判定する。具体的にはCPU41は、3次元立体地図に設定されている自車両の現在位置(より具体的にはフロントカメラ11の設置位置であり高さも考慮する)を視点とし、自車両の方位を視線方向に設定し、設定された視点及び視線方向によって3次元立体地図を視認した際の像と、撮像画像とを照合する。尚、3次元立体地図には、歩行者や他車両等の動体物、樹木などの一部の固定物については含まれないので、それらに起因するズレは基本的には無視して判定する。また、ズレが生じていないとは両者が完全に一致する場合のみに限らず、ある程度の許容範囲内のズレが生じている場合においてもズレが生じていないとみなすのが望ましい。
 そして、前記S1で取得した撮像画像と前記S2で生成された3次元立体地図との間にズレが生じていないと判定された場合(S3:YES)には、S5へと移行する。それに対して、前記S1で取得した撮像画像と前記S2で生成された3次元立体地図との間にズレが生じていると判定された場合(S3:NO)には、S4へと移行する。
 S4においてCPU41は、前記S2で生成された3次元立体地図について、前記S1で取得した撮像画像と間のズレが小さくなるように3次元立体地図内に設定された自車両の現在位置及び方位を補正する。尚、3次元立体地図における自車両の現在位置及び方位は固定してオブジェクト側を補正しても良い。それによって、3次元立体地図内における正確な自車両の現在位置及び方位(より具体的にはフロントカメラ11の設置位置と光軸方向)を特定することが可能となる。その後、S3へと戻る。
 一方、S5においてCPU41は、自車両や周辺の現在の状況に基づいて、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促す案内画像をHUD4により表示するか否かを判定する。ここで、本実施形態においてHUD4により表示対象となる案内画像としては、(1)運転者に運転動作の変更を促す案内画像(以下、第1案内画像という)と、(2)運転者に運転動作の変更を促さない案内画像(以下、第2案内画像という)とを含む。
 (1)第1案内画像は、運転者が視認することによって運転動作の変更(例えばステアリング角の変更、アクセルやブレーキの踏み量の変更)を行わせることとなる案内画像である。例えば案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する矢印の画像、歩行者等の警告対象物に対する警告の画像等が該当する。
 一方、(2)第2案内画像は、運転者が視認したとしても運転動作の変更(例えばステアリング角の変更、アクセルやブレーキの踏み量の変更)を行わせることが基本的に無い案内画像である。例えば案内経路に沿った今後の車両の走行経路を示すマークの画像、周辺にある施設を案内する画像等が該当する。
 従って、前記S5では、例えば自車両が案内分岐点から所定距離以内に位置する場合や、自車両の周辺に警告対象となる警告対象物が存在する場合等に、運転動作の変更を促す第1案内画像をHUD4により表示すると判定される。
 そして、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促す第1案内画像をHUD4により表示すると判定された場合(S5:YES)には、S6へと移行する。一方で、車両の走行支援を行う為の案内画像として、運転動作の変更を促す第1案内画像をHUD4により表示しないと判定された場合(S5:NO)には、S8へと移行する。
 先ずS6においてCPU41は、第1案内画像を重畳させる対象となる周辺環境の情報として、特に重畳させる領域の『位置』、『明るさ』、『色』を取得する。例えば、第1案内画像を路面に対して重畳させて表示する場合には、重畳させる路面の位置(3次元の位置座標)、路面の明るさ(輝度、明度)、路面(区画線等の路面に配置されたものも含む)の色(RGB値)を取得する。一方、第1案内画像を建築物の壁面に対して重畳させて表示する場合には、重畳させる壁面の位置(3次元の位置座標)、壁面の明るさ(輝度、照度)、壁面の色(RGB値)を取得する。尚、上記周辺環境の『位置』については3次元地図情報34に基づいて特定し、『明るさ』、『色』についてはフロントカメラ11で撮像した撮像画像に基づいて特定する。
 次に、S7においてCPU41は、表示対象となる第1案内画像を、前記S2で生成された3次元立体地図に対して配置する。ここで、第1案内画像については後述の第2案内画像と比較して重畳対象となる周辺環境に対して『位置』、『明るさ』、『色』が調和しない態様で配置する。
 例えば、第1案内画像が案内分岐点を退出した後の車両が進行する進行路の進行方向を案内する矢印の画像である場合には、案内分岐点を退出した後に車両が進行する進行路(例えば案内分岐点で左折する場合には、案内分岐点の左側に接続される道路)の路面に対して所定距離(例えば1m)上方に離間した位置に鉛直方向に立てた状態で案内画像を配置する。即ち、第1案内画像を路面から離間して配置することにより、『位置』を重畳対象である路面と調和させないようにする。
 また、配置される第1案内画像は、重畳対象となる周辺環境の色及び明るさと異なる表示色及び明るさで表示される。例えば、第1案内画像の重畳対象が路面である場合には、第1案内画像のRGB値や輝度を重畳させる路面(区画線等の路面に配置されたものも含む)と大きく異なる値とする。具体的には、第1案内画像を、路面の色とRGB値の数値差分が所定値以上(例えば50以上)の色、或いは路面の色と反対色(例えば路面が青色であれば第1案内画像は黄色)で表示し、輝度が路面よりも所定値以上高く又は低くなるように表示する方法等が挙げられる。それによって、『明るさ』や『色』を重畳対象である路面と調和させないようにする。
 ここで、図5は3次元立体地図51に対して第1案内画像54を配置した図である。図5に示すように第1案内画像54は、案内分岐点55を退出した後に車両が左側に接続される道路に進行することを案内する矢印の画像であるが、案内分岐点55の左側に接続される道路の路面56に対して所定距離(例えば1m)上方に離間した位置に鉛直方向に立てた状態で配置される。また、第1案内画像54は路面56の色及び明るさと異なる表示色及び明るさで表示される。
 その後、S8においてCPU41は、自車両や周辺の現在の状況に基づいて、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促さない第2案内画像をHUD4により表示するか否かを判定する。
 尚、第2案内画像は、上述したように運転者が視認したとしても運転動作の変更(例えばステアリング角の変更、アクセルやブレーキの踏み量の変更)を行わせることが基本的に無い案内画像である。例えば案内経路に沿った今後の車両の走行経路を示すマークの画像、周辺にある施設を案内する画像等が該当する。従って、前記S8では、例えばナビゲーション装置3において案内経路が設定されている場合や、自車両の周辺に案内対象となる施設が存在する場合等に、運転動作の変更を促さない第2案内画像をHUD4により表示すると判定される。
 そして、車両の走行支援を行う為の案内画像として、特に運転動作の変更を促さない第2案内画像をHUD4により表示すると判定された場合(S8:YES)には、S9へと移行する。一方で、車両の走行支援を行う為の案内画像として、運転動作の変更を促さない第2案内画像をHUD4により表示しないと判定された場合(S8:NO)には、S11へと移行する。
 先ずS9においてCPU41は、第2案内画像を重畳させる対象となる周辺環境の情報として、特に重畳させる領域の『位置』、『明るさ』、『色』を取得する。詳細については前記S6と同様であるので説明は省略する。また、前記S9では周辺環境に光を照射する光源の位置についても取得する。光源としては、太陽、街路灯、発光する看板等がある。尚、太陽の位置は、例えば現在の日付や時刻から特定する。街路灯や発光する看板の位置は、3次元地図情報34から特定する。
 次に、S10においてCPU41は、表示対象となる第2案内画像を、前記S2で生成された3次元立体地図に対して配置する。ここで、第2案内画像については前述の第1案内画像と比較して重畳対象となる周辺環境に対して『位置』、『明るさ』、『色』が調和する態様で配置する。
 例えば、第2案内画像が案内経路に沿った今後の車両の走行経路を示すマークの画像である場合には、車両が進行する道路の路面に重畳(路面上に位置)して案内画像を配置する。即ち、第2案内画像を路面上に配置することにより、『位置』を重畳対象である路面と調和するようにする。
 また、配置される第2案内画像は、重畳対象となる周辺環境の色及び明るさと同一又は類似する表示色及び明るさで表示される。例えば、第2案内画像の重畳対象が路面である場合には、第2案内画像のRGB値や輝度を重畳させる路面(区画線等の路面に配置されたものも含む)と同一又は類似する値とする。具体的には、第2案内画像を、路面の色とRGB値の数値差分が所定値未満(例えば50未満)の色、或いは路面の色と色相環において隣接又は所定角度以内にある色(例えば路面が青色であれば第2案内画像は紫色)で表示し、輝度の差が路面と所定値以内となるように表示する方法等が挙げられる。第2案内画像の表示色については、重畳対象となる路面に配置された区画線と同一又は類似する色(例えば、乳白色、黄色)とすることも可能である。それによって、『明るさ』や『色』を重畳対象である路面と調和するようにする。
 また、第2案内画像の明るさを特定する場合には、CPU41は3次元立体地図に対して第2案内画像とともに前記S9で取得した光源についても配置する。そして、光源から第2案内画像への光の照射態様を3次元立体地図において特定し、特定された照射態様に基づいて第2案内画像の明るさを特定する。具体的には、光源からの光が照射される範囲については、光が照射されない範囲よりも明るい画像とする。
 ここで、図6は3次元立体地図51に対して第2案内画像61を配置した図である。図6に示すように第2案内画像61は、案内経路に沿った今後の車両の走行経路を示すマークの画像であるが、車両が走行する道路の路面62上に平行に配置される。また、第2案内画像61は路面62の色及び明るさと同一又は類似する表示色及び明るさで表示される。更に、第2案内画像61の内、3次元立体地図51に対して配置された光源(例えば太陽)63によって光が照射される範囲は照射されない範囲よりも明るく表示される。図6に示す例では、車両の右側に位置する建物によって陰になる範囲が、他の範囲よりも暗く表示されている。
 次に、S11においてCPU41は、先ず第1案内画像や第2案内画像が配置された3次元立体地図を、車両(乗員)の視点から車両の進行方向に視認した画像(以下、視認画像という)を取得する。特に車両の視点は車両の乗員の目の位置とする。尚、乗員の目の位置については車内カメラ12によって検出することが可能であり、前記S3での撮像画像と3次元立体地図の照合の結果、最終的に特定された車両の現在位置及び方位と、車内カメラ12の検出結果を組み合わせることによって、3次元立体地図における乗員の目の位置を特定する。そして、視認画像は、3次元立体地図に配置された各オブジェクト(道路、建築物、道路標識、看板、第1案内画像、第2案内画像等)を車両(乗員)の視点から車両の進行方向に視認した際に視認できる像であり、車両の乗員の視界に相当する。尚、視認画像については車両(乗員)の視点から視認した画像であれば、必ずしも車両の進行方向に視認した画像である必要は無い。但し、少なくとも視認画像に第1案内画像や第2案内画像が含まれる必要はある。
 続いて、前記S11においてCPU41は、視認画像に含まれる第1案内画像及び第2案内画像の視認態様(色、明るさ、形状)を、HUD4により表示対象とする第1案内画像及び第2案内画像の表示態様として記憶する。尚、視認画像に含まれる第1案内画像及び第2案内画像の色、明るさ及び形状は、3次元立体地図に配置された各オブジェクト(道路、建築物、道路標識、看板、第1案内画像、第2案内画像等)を車両(乗員)の視点から視認した際に視認できる第1案内画像及び第2案内画像の色、明るさ及び形状である。ここで、前記S11で記憶される第1案内画像及び第2案内画像の形状は、図7に示すように第1案内画像54及び第2案内画像61が手前側に位置する各オブジェクト68(例えば道路標識、建築物など)と重なって視認される場合には、重なる部分を除いた形状となる。一方で、第1案内画像54及び第2案内画像61が奥側に位置する各オブジェクト69と重なって視認される場合には、重なる部分についても含む形状となる。
 更に、S12においてCPU41は、3次元立体地図において配置された第1案内画像及び第2案内画像の位置を取得する。
 その後、S13においてCPU41は、後述の表示範囲決定処理(図9)を行う。表示範囲決定処理では、HUD4において第1案内画像及び第2案内画像を表示する範囲(フロントウィンドウ8に対して第1案内画像及び第2案内画像を投影する範囲、或いはHUD4の液晶ディスプレイ6に対して案内画像を表示する範囲)を決定する。
 続いて、S14においてCPU41は、HUD4に対して制御信号を送信し、HUD4の液晶ディスプレイ6に対して前記S11で記憶された色、明るさ及び形状の第1案内画像及び第2案内画像を、前記S13で決定された表示範囲に表示する。その結果、第1案内画像及び第2案内画像の虚像が、車両の乗員から車両前方の風景に重畳して視認される。
 ここで、図8は特に案内分岐点を退出した後の車両が進行する進行路の進行方向が左方向(即ち左折)である場合に、車両の乗員から視認される第1案内画像及び第2案内画像の虚像を示した図である。
 図8に示すように、車両のフロントウィンドウ8越しには、案内分岐点55を左折した後の進行路の路面に対して上方に離間した位置に重畳して、左方へ進むことを示す矢印の第1案内画像54が虚像として表示されている。更に、車両が走行する道路の路面に重畳して、案内経路に沿った今後の車両の走行経路を示すマークの第2案内画像61が虚像として表示されている。また、第1案内画像54は重畳対象となる路面とは異なる色や明るさで表示される。従って、車両の乗員は周囲の景色とは区別して明確に第1案内画像54の虚像を視認することが可能となる。一方、第2案内画像61は重畳対象となる路面と同一又は類似する色や明るさで表示される。従って、車両の乗員は周囲の景色と調和して第2案内画像61の虚像を視認することとなり、運転者に煩わしさを感じさせることが無い。
 尚、図8に示す例では、第1案内画像54の虚像と第2案内画像61の虚像の両方を同時に表示しているが、車両の状況によっては第1案内画像54の虚像のみを表示する状況もあれば第2案内画像61の虚像のみを表示する状況もある。
 次に、前記S13において実行される表示範囲決定処理のサブ処理について図9に基づき説明する。図9は表示範囲決定処理のサブ処理プログラムのフローチャートである。
 先ず、S21においてCPU41は、車両の乗員の目の位置を車内カメラ12で撮像した撮像画像に基づいて検出する。尚、検出された目の位置は3次元の位置座標で特定される。
 次に、S22においてCPU41は、HUD4の表示がONになっているか否かを判定する。尚、HUD4の表示のON又はOFFの切り替えは車両の乗員の操作によって行うことが可能である。また、周辺状況や車両の状態に基づいてON又はOFFを自動で切り替えても良い。
 そして、HUD4の表示がONになっていると判定された場合(S22:YES)には、S23へと移行する。一方、HUD4の表示がOFFになっていると判定された場合(S22:NO)には、HUD4による第1案内画像及び第2案内画像の虚像の表示を行うことなく終了する。
 S23においてCPU41は、HUD4によって画像を投影する対象となるフロントウィンドウ8の位置座標を取得する。尚、フロントウィンドウ8の位置座標は3次元の位置座標で特定される。
 次に、S24においてCPU41は、前記S12で取得された3次元立体地図において配置された第1案内画像及び第2案内画像の位置を特定する座標を、第1案内画像及び第2案内画像の位置座標として取得する。尚、第1案内画像及び第2案内画像の位置座標は同じく3次元の位置座標で特定される。
 続いて、S25においてCPU41は、前記S21、S23及びS24で取得された各位置座標に基づいて、フロントウィンドウ8における第1案内画像及び第2案内画像の投影範囲を決定する。更に、決定された投影範囲からHUD4の内部の液晶ディスプレイ6における第1案内画像及び第2案内画像の表示範囲についても決定する。その後、S14へと移行し、決定された投影範囲や表示範囲に基づいてHUD4を用いた虚像の表示を行う。尚、HUDの表示がオフになるまで繰り返しS11~S14の処理を行うこととなる。
 以上詳細に説明した通り、本実施形態に係る重畳画像表示装置及び重畳画像表示装置において実行されるコンピュータプログラムによれば、運転者に運転動作の変更を促す第1案内画像と運転者に運転動作の変更を促さない第2案内画像を車両前方の周辺環境に重畳して視認させる場合において、第2案内画像を、第1案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる周辺環境に調和した表示態様で表示する(S5~S14)ので、多数の案内画像が表示された場合においても運転操作を行うにあたって視認すべき第1案内画像についてはより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い第2案内画像によって運転者に煩わしさを感じさせることについて防止することが可能となる。
 尚、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の改良、変形が可能であることは勿論である。
 例えば、上記本実施形態では、HUD4によって車両2のフロントウィンドウ8の前方に虚像を生成する構成としているが、フロントウィンドウ8以外のウィンドウの前方に虚像を生成する構成としても良い。また、HUD4により映像を反射させる対象はフロントウィンドウ8自身ではなくフロントウィンドウ8の周辺に設置されたバイザー(コンバイナー)であっても良い。
 また、本実施形態では、周辺環境に重畳する画像を表示する手段としてHUD4を用いているが、フロントウィンドウ8に対して画像を表示するウインドウシールドディスプレイ(WSD)を用いても良い。或いはナビゲーション装置3の液晶ディスプレイ17に表示した実景に、案内画像を重畳させる表示装置でもよい。
 また、本実施形態では、『位置』、『明るさ』及び『色』の3つの要素について、第2案内画像を、第1案内画像よりも重畳対象となる周辺環境に調和した表示態様で表示しているが、『位置』、『明るさ』及び『色』の内、いずれか1又は2のみの要素を対象としても良い。
 また、第1案内画像は運転者に運転動作の変更を促す案内に関する画像であれば上記例に限られない。同じく、第2案内画像は運転者に運転動作の変更を促さない案内に関する画像であれば上記例に限られない。
 また、本実施形態では、走行支援処理プログラム(図3)の処理をナビゲーション装置3のナビゲーションECU15が実行する構成としているが、実行主体は適宜変更することが可能である。例えば、HUD4の制御部、車両制御ECU、その他の車載器が実行する構成としても良い。尚、HUD4の制御部が実行する場合には、本発明に係る重畳画像表示装置はHUD4のみで構成することも可能である。
 また、本発明に係る重畳画像表示装置を具体化した実施例について上記に説明したが、重畳画像表示装置は以下の構成を有することも可能であり、その場合には以下の効果を奏する。
 例えば、第1の構成は以下のとおりである。
 車両(2)に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置(1)であって、前記画像は、運転者に運転動作の変更を促す第1の案内画像(54)と運転者に運転動作の変更を促さない第2の案内画像(61)との少なくとも一方を含み、前記第2の案内画像は、前記第1の案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる前記周辺環境に調和した表示態様で表示される。
 上記構成を有する重畳画像表示装置によれば、多数の案内画像が表示された場合においても運転操作を行うにあたって視認すべき案内画像についてはより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像によって運転者に煩わしさを感じさせることについて防止することが可能となる。
 また、第2の構成は以下のとおりである。
 前記第1の案内画像(54)は、路面に対して上方に離間して視認させる位置に表示され、前記第2の案内画像(61)は、路面上に視認させる位置に表示されることで、位置を重畳対象となる前記路面に調和させる。
 上記構成を有する重畳画像表示装置によれば、特に案内画像の表示位置に関して、運転操作を行うにあたって視認すべき案内画像については路面から離れた位置に表示することにより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像については路面上に表示することによって運転者に煩わしさを感じさせることについて防止することが可能となる。
 また、第3の構成は以下のとおりである。
 前記第2の案内画像(61)は、重畳対象となる前記路面の明るさ又は色と調和した表示態様で表示される。
 上記構成を有する重畳画像表示装置によれば、運転操作を行うにあたって視認する必要性の薄い案内画像については重畳する路面の明るさ又は色と調和した表示態様で表示することによって、運転者に煩わしさを感じさせることについて防止することが可能となる。
 また、第4の構成は以下のとおりである。
 前記第1の案内画像(54)は、重畳対象となる前記周辺環境の色と異なる表示色で表示され、前記第2の案内画像(61)は、重畳対象となる前記周辺環境の色と同一又は類似する表示色で表示されることで、色を重畳対象となる前記周辺環境と調和させる。
 上記構成を有する重畳画像表示装置によれば、特に案内画像の表示色に関して、運転操作を行うにあたって視認すべき案内画像については重畳する場所と異なる色で表示することにより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像については重畳する場所と同一又は類似する色で表示することによって運転者に煩わしさを感じさせることについて防止することが可能となる。
 また、第5の構成は以下のとおりである。
 前記第1の案内画像(54)は、重畳対象となる前記周辺環境の明るさとは異なる明るさで表示され、前記第2の案内画像(61)は、重畳対象となる前記周辺環境の明るさと同一又は類似する明るさで表示されることで、明るさを重畳対象となる前記周辺環境と調和させる。
 上記構成を有する重畳画像表示装置によれば、特に案内画像の明るさに関して、運転操作を行うにあたって視認すべき案内画像については重畳する場所と異なる明るさで表示することにより明確に運転者に視認させることが可能となる。一方で、運転操作を行うにあたって視認する必要性の薄い案内画像については重畳する場所と同一又は類似する明るさで表示することによって運転者に煩わしさを感じさせることについて防止することが可能となる。
 また、第6の構成は以下のとおりである。
 3次元地図情報(34)を取得する地図情報取得手段(41)と、光源(63)の位置を取得する光源位置取得手段(41)と、前記撮像画像と3次元地図情報を照合する照合手段(41)と、前記照合手段の照合結果に基づいて、3次元地図情報内において前記第1の案内画像と前記第2の案内画像と光源とを配置する画像配置手段(41)と、3次元地図情報内における車両の位置から視認した場合の前記第1の案内画像(54)と前記第2の案内画像(61)の視認態様を取得する視認態様取得手段(41)と、を有し、前記第1の案内画像及び前記第2の案内画像は、前記視認態様取得手段によって取得された視認態様に対応する表示態様で表示される。
 上記構成を有する重畳画像表示装置によれば、車両前方の風景を撮像した撮像画像と3次元地図情報とを用いることによって、車両の運転者から視認できる形状及び明るさを有する第1の案内画像と第2の案内画像を容易に生成することが可能となる。
 また、第7の構成は以下のとおりである。
 前記第1の案内画像(54)及び前記第2の案内画像(61)は虚像として表示される。
 上記構成を有する重畳画像表示装置によれば、車両の乗員の視線を進行方向前方からできる限り移動させることなく、案内画像を視認させることが可能となる。
  1         重畳画像表示装置
  2         車両
  3         ナビゲーション装置
  4         HUD
  8         フロントウィンドウ
  9         乗員
  41        CPU
  42        RAM
  43        ROM
  51        3次元立体地図
  52        オブジェクト
  54        第1案内画像
  61        第2案内画像
  63        光源

Claims (8)

  1.  車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置であって、
     前記画像は、運転者に運転動作の変更を促す第1の案内画像と運転者に運転動作の変更を促さない第2の案内画像との少なくとも一方を含み、
     前記第2の案内画像は、前記第1の案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる前記周辺環境に調和した表示態様で表示される重畳画像表示装置。
  2.  前記第1の案内画像は、路面に対して上方に離間して視認させる位置に表示され、
     前記第2の案内画像は、路面上に視認させる位置に表示されることで、位置を重畳対象となる前記路面に調和させる請求項1に記載の重畳画像表示装置。
  3.  前記第2の案内画像は、重畳対象となる前記路面の明るさ又は色と調和した表示態様で表示される請求項2に記載の重畳画像表示装置。
  4.  前記第1の案内画像は、重畳対象となる前記周辺環境の色と異なる表示色で表示され、
     前記第2の案内画像は、重畳対象となる前記周辺環境の色と同一又は類似する表示色で表示されることで、色を重畳対象となる前記周辺環境と調和させる請求項1乃至請求項3のいずれかに記載の重畳画像表示装置。
  5.  前記第1の案内画像は、重畳対象となる前記周辺環境の明るさとは異なる明るさで表示され、
     前記第2の案内画像は、重畳対象となる前記周辺環境の明るさと同一又は類似する明るさで表示されることで、明るさを重畳対象となる前記周辺環境と調和させる請求項1乃至請求項4のいずれかに記載の重畳画像表示装置。
  6.  前記車両の運転者の視線前方の周辺環境を撮像した撮像画像を取得する撮像画像取得手段と、
     3次元地図情報を取得する地図情報取得手段と、
     光源の位置を取得する光源位置取得手段と、
     前記撮像画像と3次元地図情報を照合する照合手段と、
     前記照合手段の照合結果に基づいて、3次元地図情報内において前記第1の案内画像と前記第2の案内画像と光源とを配置する画像配置手段と、
     3次元地図情報内における車両の位置から視認した場合の前記第1の案内画像と前記第2の案内画像の視認態様を取得する視認態様取得手段と、を有し、
     前記第1の案内画像及び前記第2の案内画像は、前記視認態様取得手段によって取得された視認態様に対応する表示態様で表示される請求項5に記載の重畳画像表示装置。
  7.  前記第1の案内画像及び前記第2の案内画像は虚像として表示される請求項1乃至請求項6の何れかに記載の重畳画像表示装置。
  8.  車両に搭載され、画像を前記車両前方の周辺環境に重畳して視認させる重畳画像表示装置を、
     前記画像として運転者に運転動作の変更を促す第1の案内画像と運転者に運転動作の変更を促さない第2の案内画像との少なくとも一方を表示する案内画像表示手段として機能させる為のコンピュータプログラムであって、
     前記第2の案内画像は、前記第1の案内画像よりも位置、明るさ、色の少なくとも一つが重畳対象となる前記周辺環境に調和した表示態様で表示されるコンピュータプログラム。
PCT/JP2018/027053 2017-11-17 2018-07-19 重畳画像表示装置及びコンピュータプログラム WO2019097762A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
DE112018004519.6T DE112018004519T5 (de) 2017-11-17 2018-07-19 Anzeigevorrichtung eines überlagerten Bildes und Computerprogramm
US16/649,508 US11525694B2 (en) 2017-11-17 2018-07-19 Superimposed-image display device and computer program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017222170A JP6946963B2 (ja) 2017-11-17 2017-11-17 重畳画像表示装置及びコンピュータプログラム
JP2017-222170 2017-11-17

Publications (1)

Publication Number Publication Date
WO2019097762A1 true WO2019097762A1 (ja) 2019-05-23

Family

ID=66538703

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/027053 WO2019097762A1 (ja) 2017-11-17 2018-07-19 重畳画像表示装置及びコンピュータプログラム

Country Status (4)

Country Link
US (1) US11525694B2 (ja)
JP (1) JP6946963B2 (ja)
DE (1) DE112018004519T5 (ja)
WO (1) WO2019097762A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7208356B2 (ja) * 2018-09-26 2023-01-18 コーヒレント・ロジックス・インコーポレーテッド 任意の世界ビューの生成
KR102091580B1 (ko) * 2019-07-09 2020-03-20 주식회사 모빌테크 이동식 도면화 시스템을 이용한 도로 표지 정보 수집 방법
KR20210009529A (ko) * 2019-07-17 2021-01-27 네이버랩스 주식회사 Hd 맵과 hud를 활용한 tbt 정보를 안내하는 방법 및 시스템
JP7151654B2 (ja) 2019-07-26 2022-10-12 トヨタ自動車株式会社 検索装置、学習装置、検索システム、検索プログラム、及び学習プログラム
JP6825683B1 (ja) * 2019-12-02 2021-02-03 トヨタ自動車株式会社 車両用表示制御装置、車両用表示装置、車両用表示制御方法及びプログラム
DE102020211211A1 (de) 2020-09-07 2022-03-10 Volkswagen Aktiengesellschaft Verfahren zum Vorbereiten eines Navigationsmanövers eines Fahrzeugs
CN113566836A (zh) * 2021-06-28 2021-10-29 阿波罗智联(北京)科技有限公司 道路指引方法、装置、电子设备及存储介质
JP2023012793A (ja) 2021-07-14 2023-01-26 株式会社アイシン 重畳画像表示装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07266923A (ja) * 1994-03-31 1995-10-17 Mazda Motor Corp 車両の表示装置
JP2005138801A (ja) * 2003-11-10 2005-06-02 Calsonic Kansei Corp ヘッドアップディスプレイ装置
WO2007142084A1 (ja) * 2006-06-05 2007-12-13 Panasonic Corporation ナビゲーション装置
JP2017032436A (ja) * 2015-08-03 2017-02-09 アイシン・エィ・ダブリュ株式会社 移動案内システム、移動案内方法及びコンピュータプログラム
JP2017094882A (ja) * 2015-11-23 2017-06-01 アイシン・エィ・ダブリュ株式会社 虚像生成システム、虚像生成方法及びコンピュータプログラム
JP2017181125A (ja) * 2016-03-29 2017-10-05 アイシン・エィ・ダブリュ株式会社 経路表示システムおよび経路表示プログラム

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7489303B1 (en) * 2001-02-22 2009-02-10 Pryor Timothy R Reconfigurable instrument panels
JP2010256878A (ja) * 2009-03-30 2010-11-11 Equos Research Co Ltd 情報表示装置
US20120224060A1 (en) * 2011-02-10 2012-09-06 Integrated Night Vision Systems Inc. Reducing Driver Distraction Using a Heads-Up Display
US9255813B2 (en) * 2011-10-14 2016-02-09 Microsoft Technology Licensing, Llc User controlled real object disappearance in a mixed reality display
US8781170B2 (en) * 2011-12-06 2014-07-15 GM Global Technology Operations LLC Vehicle ghosting on full windshield display
JP4975889B1 (ja) 2012-02-07 2012-07-11 パイオニア株式会社 ヘッドアップディスプレイ、制御方法、及び表示装置
US20140309872A1 (en) * 2013-04-15 2014-10-16 Flextronics Ap, Llc Customization of vehicle user interfaces based on user intelligence
WO2014097404A1 (ja) * 2012-12-18 2014-06-26 パイオニア株式会社 ヘッドアップディスプレイ、制御方法、プログラム、及び記憶媒体
US10723267B2 (en) * 2014-09-19 2020-07-28 Be Topnotch, Llc Display rear passenger view on a display screen in vehicle
US9712741B2 (en) * 2014-09-19 2017-07-18 Be Topnotch, Llc Smart vehicle sun visor
EP3300941B1 (en) * 2014-12-10 2020-05-13 Ricoh Company, Ltd. Information provision device, and information provision method
US10353532B1 (en) * 2014-12-18 2019-07-16 Leap Motion, Inc. User interface for integrated gestural interaction and multi-user collaboration in immersive virtual reality environments
EP3289430B1 (en) * 2015-04-27 2019-10-23 Snap-Aid Patents Ltd. Estimating and using relative head pose and camera field-of-view
US11095869B2 (en) * 2015-09-22 2021-08-17 Fyusion, Inc. System and method for generating combined embedded multi-view interactive digital media representations
US20190279447A1 (en) * 2015-12-03 2019-09-12 Autoconnect Holdings Llc Automatic vehicle diagnostic detection and communication
EP3246664A3 (en) * 2016-05-19 2018-02-14 Ricoh Company, Ltd. Information processing system and information display apparatus
KR101768589B1 (ko) * 2016-06-17 2017-08-17 엘지전자 주식회사 차량에 구비된 제어장치 및 이의 제어방법
WO2018021066A1 (ja) * 2016-07-29 2018-02-01 ソニー株式会社 画像処理装置および画像処理方法
CN109564705B (zh) * 2016-07-29 2023-10-20 索尼公司 图像处理装置及图像处理方法
US11134235B2 (en) * 2016-07-29 2021-09-28 Sony Corporation Image processing apparatus and image processing method
JP6944135B2 (ja) * 2016-07-29 2021-10-06 ソニーグループ株式会社 画像処理装置および画像処理方法
EP3493160A4 (en) * 2016-07-29 2019-06-05 Sony Corporation IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD
CN109478347A (zh) * 2016-07-29 2019-03-15 索尼公司 图像处理装置和图像处理方法
WO2018021064A1 (ja) * 2016-07-29 2018-02-01 ソニー株式会社 画像処理装置および画像処理方法
JP6977725B2 (ja) * 2016-08-03 2021-12-08 ソニーグループ株式会社 画像処理装置および画像処理方法
JP7127539B2 (ja) * 2016-08-05 2022-08-30 ソニーグループ株式会社 画像処理装置および画像処理方法
US10659686B2 (en) * 2018-03-23 2020-05-19 Fyusion, Inc. Conversion of an interactive multi-view image data set into a video

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07266923A (ja) * 1994-03-31 1995-10-17 Mazda Motor Corp 車両の表示装置
JP2005138801A (ja) * 2003-11-10 2005-06-02 Calsonic Kansei Corp ヘッドアップディスプレイ装置
WO2007142084A1 (ja) * 2006-06-05 2007-12-13 Panasonic Corporation ナビゲーション装置
JP2017032436A (ja) * 2015-08-03 2017-02-09 アイシン・エィ・ダブリュ株式会社 移動案内システム、移動案内方法及びコンピュータプログラム
JP2017094882A (ja) * 2015-11-23 2017-06-01 アイシン・エィ・ダブリュ株式会社 虚像生成システム、虚像生成方法及びコンピュータプログラム
JP2017181125A (ja) * 2016-03-29 2017-10-05 アイシン・エィ・ダブリュ株式会社 経路表示システムおよび経路表示プログラム

Also Published As

Publication number Publication date
JP2019095215A (ja) 2019-06-20
JP6946963B2 (ja) 2021-10-13
US11525694B2 (en) 2022-12-13
DE112018004519T5 (de) 2020-06-10
US20200249044A1 (en) 2020-08-06

Similar Documents

Publication Publication Date Title
WO2019097763A1 (ja) 重畳画像表示装置及びコンピュータプログラム
WO2019097762A1 (ja) 重畳画像表示装置及びコンピュータプログラム
JP6700623B2 (ja) 走行支援装置及びコンピュータプログラム
WO2019097755A1 (ja) 表示装置及びコンピュータプログラム
WO2020261781A1 (ja) 表示制御装置、表示制御プログラム、および持続的有形コンピュータ読み取り媒体
JP7151073B2 (ja) 表示装置及びコンピュータプログラム
JP2010143520A (ja) 車載用表示システム及び表示方法
JP2017094882A (ja) 虚像生成システム、虚像生成方法及びコンピュータプログラム
US11803053B2 (en) Display control device and non-transitory tangible computer-readable medium therefor
US11493357B2 (en) Superimposed image display device, superimposed image drawing method, and computer program
JP7310560B2 (ja) 表示制御装置及び表示制御プログラム
JP2019056884A (ja) 重畳画像表示装置
JP2014234139A (ja) 車載表示装置およびプログラム
JP6287351B2 (ja) ヘッドアップディスプレイ装置
JP2019010919A (ja) 走行支援装置及びコンピュータプログラム
JP7143728B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP7484132B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2021037916A (ja) 表示制御装置及び表示制御プログラム
JP6984341B2 (ja) 重畳画像表示装置及びコンピュータプログラム
JP7255443B2 (ja) 表示制御装置及び表示制御プログラム
JP2020139802A (ja) 重畳画像表示装置及びコンピュータプログラム
WO2020084827A1 (ja) 重畳画像表示装置及びコンピュータプログラム
JP2019202641A (ja) 表示装置
JP2021081232A (ja) 重畳画像表示装置及びコンピュータプログラム
JP2023008462A (ja) 重畳画像表示装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18879179

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 18879179

Country of ref document: EP

Kind code of ref document: A1