WO2021199583A1 - 撮像表示システム - Google Patents

撮像表示システム Download PDF

Info

Publication number
WO2021199583A1
WO2021199583A1 PCT/JP2021/001360 JP2021001360W WO2021199583A1 WO 2021199583 A1 WO2021199583 A1 WO 2021199583A1 JP 2021001360 W JP2021001360 W JP 2021001360W WO 2021199583 A1 WO2021199583 A1 WO 2021199583A1
Authority
WO
WIPO (PCT)
Prior art keywords
camera
light
display system
driver
translucent cover
Prior art date
Application number
PCT/JP2021/001360
Other languages
English (en)
French (fr)
Inventor
三野 吉輝
高橋 英樹
多田 真樹
森 俊也
裕昭 岡山
和博 南
Original Assignee
パナソニックIpマネジメント株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2020063144A external-priority patent/JP7504387B2/ja
Application filed by パナソニックIpマネジメント株式会社 filed Critical パナソニックIpマネジメント株式会社
Priority to DE112021002117.6T priority Critical patent/DE112021002117T5/de
Priority to CN202180023127.3A priority patent/CN115335253A/zh
Publication of WO2021199583A1 publication Critical patent/WO2021199583A1/ja
Priority to US17/950,606 priority patent/US20230019596A1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/29Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area inside the vehicle, e.g. for viewing passengers or cargo
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/21Optical features of instruments using cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/23Optical features of instruments using reflectors
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/31Virtual images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/33Illumination features
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/60Structural details of dashboards or instruments
    • B60K2360/68Features of instruments
    • B60K2360/691Housings
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/60Structural details of dashboards or instruments
    • B60K2360/68Features of instruments
    • B60K2360/693Cover plate features
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/77Instrument locations other than the dashboard
    • B60K2360/785Instrument locations other than the dashboard on or in relation to the windshield or windows
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/60Instruments characterised by their location or relative disposition in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/101Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using cameras with adjustable capturing direction
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/103Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using camera systems provided with artificial illumination device, e.g. IR light source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8006Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying scenes of vehicle interior, e.g. for monitoring passengers or cargo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging

Definitions

  • the present disclosure relates to an imaging display system mounted on, for example, a vehicle.
  • a system including a head-up display and a driver monitoring camera has been proposed as an imaging display system mounted on a vehicle (see, for example, Patent Document 1).
  • the system allows the driver of the vehicle to see a virtual image appearing through the windshield through a head-up display, and then images the driver with a driver monitoring camera.
  • Patent Document 1 has a problem that it is difficult to properly image the driver who is the user of the system.
  • the present disclosure provides an imaging display system capable of appropriately imaging the user while using a configuration in which the virtual image is visually recognized by the user.
  • the imaging display system has a display unit that emits first light indicating an image, an optical system including at least one mirror, and a housing that surrounds the display unit and the optical system.
  • the first light emitted from the display unit is transmitted through the translucent cover through the optical system, and is reflected by the display medium toward the user side.
  • the camera is arranged on the surface of the support on the translucent cover side, and the second light from the user side is reflected by the display medium toward the translucent cover side to form the translucent cover.
  • the projected user is imaged.
  • a recording medium such as a system, method, integrated circuit, computer program or computer-readable CD-ROM, and the system, method, integrated circuit, computer program. And any combination of recording media may be realized. Further, the recording medium may be a non-temporary recording medium.
  • the imaging display system of the present disclosure can appropriately image the user while using a configuration in which the virtual image is visually recognized by the user.
  • FIG. 1A is a diagram showing a system configuration assumed from the prior art.
  • FIG. 1B is a diagram showing an example of a surveillance image obtained by imaging with a driver monitoring camera of a system assumed from the prior art.
  • FIG. 2A is a diagram showing a configuration example of an imaging display system according to the embodiment.
  • FIG. 2B is a diagram showing an example of a surveillance image obtained by imaging with a driver monitoring camera according to the embodiment.
  • FIG. 3 is a diagram showing a configuration example of the imaging display system according to the first modification of the embodiment.
  • FIG. 4 is a diagram showing another configuration example of the imaging display system according to the first modification of the embodiment.
  • FIG. 5 is a diagram showing a configuration example of the imaging display system according to the second modification of the embodiment.
  • FIG. 6 is a diagram showing a configuration example of the imaging display system according to the third modification of the embodiment.
  • FIG. 7 is a diagram showing a configuration example of the imaging display system according to the modified example 4 of the embodiment.
  • FIG. 8 is a diagram showing a configuration example of the imaging display system according to the modified example 5 of the embodiment.
  • FIG. 9 is a diagram for explaining the processing by the control unit in the modified example 5 of the embodiment.
  • FIG. 10 is a diagram showing another configuration example of the imaging display system according to the modified example 5 of the embodiment.
  • FIG. 11 is a flowchart showing the processing operation of the control unit in the modified example 5 of the embodiment.
  • FIG. 1A is a diagram showing a system configuration assumed from the above-mentioned Patent Document 1.
  • This system 900 includes a head-up display (hereinafter referred to as HUD) 910 and a driver monitoring camera 920.
  • HUD head-up display
  • the HUD 910 is a device mounted on a vehicle and includes a housing 911, a display unit 912, a first mirror 913a and a second mirror 913b, and a translucent cover 914.
  • the light of the image emitted from the display unit 912 is reflected by the first mirror 913a and the second mirror 913b, transmitted through the translucent cover 914, and further reflected toward the driver 1 side by the windshield 2 of the vehicle. NS.
  • the driver 1 can visually recognize the image of the display unit 912 in the eye box B as a virtual image 3 appearing through the windshield 2.
  • the driver monitoring camera 920 is arranged in the housing 911.
  • the light from the driver 1 side is reflected by the windshield 2 toward the HUD910 side, transmitted through the translucent cover 914, and further reflected by the second mirror 913b toward the first mirror 913a side. Then, the light passes through, for example, the translucent first mirror 913a and enters the lens of the driver monitoring camera 920.
  • the driver monitoring camera 920 can image the driver 1.
  • the light from the driver 1 side is attenuated by repeated reflection or transmission at positions p1 to p4 (positions marked with broken lines in FIG. 1A).
  • the brightness of the surveillance image obtained by imaging with the driver monitoring camera 920 becomes low.
  • the imaging range A that can be captured by the driver monitoring camera 920 is narrow.
  • FIG. 1B is a diagram showing an example of a surveillance image obtained by imaging with the driver monitoring camera 920.
  • the imaging range A is narrow as described above, it is not possible to project the wide range of the driver 1 on the surveillance image Pic1 obtained by imaging with the driver monitoring camera 920. As a result, there is a problem that it is difficult to appropriately monitor the driver 1 based on the monitoring image Pic1.
  • the imaging display system has a display unit that emits first light indicating an image, an optical system including at least one mirror, and an opening.
  • a housing that surrounds the display unit and the optical system, a translucent cover that is arranged so as to close at least a part of the opening of the housing, and at least a part of the translucent cover.
  • a camera supported by a support connected to the outside of the housing is provided, and the first light emitted from the display unit passes through the translucent cover via the optical system and displays.
  • the camera is reflected by the medium toward the user side, the camera is arranged on the surface of the support on the translucent cover side, and the second light from the user side is directed toward the translucent cover side by the display medium.
  • the user is imaged by being reflected and projected on the translucent cover.
  • the display medium is a vehicle windshield.
  • a head-up display is configured by the display unit, the optical system, the housing, and the translucent cover so that the user can visually recognize the virtual image appearing through the display medium, and the camera is transparent from the outside of the housing of the head-up display.
  • the user projected on the optical cover is imaged. Therefore, since the second light from the user side reaches the camera without passing through the optical system of the head-up display, the camera can image the user with the second light having a strong intensity. As a result, the brightness of the captured image (so-called surveillance image) obtained by the imaging can be increased.
  • surveillance image the camera is located outside the housing, even if the condensed heat generated by sunlight is generated inside the housing, the influence of the condensed heat on the camera can be suppressed, and the camera layout can be freely designed. The degree can be increased.
  • the camera can be brought closer to the translucent cover, the imaging range of the camera can be expanded. Therefore, it is possible to appropriately image the user in a bright and wide range while utilizing the configuration in which the virtual image is visually recognized by the user. Further, since the camera is arranged on the surface of the support on the translucent cover side that covers at least a part of the translucent cover, the support can hide the camera from the user. As a result, the user can concentrate on work such as driving a vehicle without worrying about being photographed by the camera.
  • the translucent cover is laminated with a first infrared reflective layer having a higher reflectance to infrared rays than visible light and translucency to visible light
  • the camera may be an infrared camera. good.
  • infrared rays are light in the near infrared region.
  • the user can be imaged while suppressing the influence of external light, which is visible light, without reducing the user's visibility to the virtual image.
  • the display medium may be laminated with a second infrared reflective layer having a reflectance for infrared rays higher than that for visible light and a translucency for visible light.
  • the second infrared reflective layer is composed of two reflective layers, one of the two reflective layers is formed on the user-side surface of the display medium, and the other of the two reflective layers. May be formed on the surface of the display medium opposite to the user side.
  • the image pickup display system further includes an infrared transmitting portion which is translucent to infrared rays and has a higher reflectance or absorption rate to light other than infrared rays than infrared rays, and the camera is an infrared camera.
  • the user may be imaged by infrared rays incident on the image pickup element inside the camera from the translucent cover side via the infrared ray transmitting portion.
  • the influence of external light which is visible light
  • the influence of sunlight can be suppressed.
  • At least a part of the camera may be formed with a low-reflection layer having a reflectance lower than that of the support.
  • the imaging display system further includes a light source that is supported by the support and emits infrared rays as a third light.
  • the camera is an infrared camera, and the third light emitted from the light source is the third light.
  • the translucent cover may be reflected toward the display medium side, and the display medium may be reflected toward the user side.
  • infrared rays are light in the near infrared region.
  • the user is irradiated with the third light, which is infrared rays, so that the user illuminated by the third light can be imaged with the infrared camera.
  • the third light which is infrared rays
  • a support can hide the light source from the user.
  • the irradiation range of the third light can be easily adjusted to the imaging range of the camera, the light source can suppress the irradiation power of the third light without emitting the third light to an unnecessarily wide range. ..
  • the image pickup display system further includes a drive unit for moving the optical axis of the camera and a control unit for controlling the drive unit based on an image captured by the image captured by the camera. Is the camera when the second region having a higher brightness than the first region in which a part of the user is projected in the captured image is located at a position equal to or less than a predetermined distance from the first region.
  • the drive unit may be made to move the optical axis of the above.
  • the imaging display system According to one aspect of the present disclosure, it is possible to prevent the second region from overlapping the first region and making the first region unclear, so that the user's state is appropriately monitored. be able to.
  • the image pickup display system further includes a second camera different from the first camera, which is the camera, a switching unit for switching the camera used for the user's image pickup between the first camera and the second camera, and the above.
  • a control unit that controls the switching unit is provided based on the image captured by the image captured by the first camera, and the control unit is more than a first region in which a part of the user in the captured image is projected.
  • the switching unit may be made to switch from the first camera to the second camera.
  • the camera is switched from the first camera to the second camera. Therefore, it is possible to increase the possibility that the second region overlaps with the first region and a part of the user projected in the first region is not blurred.
  • the captured image including the unclear first region identifies the state of the user, such as whether the user is sleepy or looking away. Difficult to do.
  • a recording medium such as a system, method, integrated circuit, computer program or computer-readable CD-ROM, and the system, method, integrated circuit, computer program.
  • the recording medium may be a non-temporary recording medium.
  • each figure is a schematic view and is not necessarily exactly illustrated. Further, in each figure, the same components are designated by the same reference numerals. Further, in the following embodiments, expressions such as substantially the same are used. For example, substantially the same means not only that they are exactly the same, but also that they are substantially the same, that is, they include an error of, for example, a few percent. Further, substantially the same means the same within the range in which the effects of the present disclosure can be achieved. The same applies to expressions using other "abbreviations".
  • FIG. 2A is a diagram showing a configuration example of an imaging display system according to the present embodiment.
  • the imaging display system 100 in the present embodiment is, for example, a system mounted on a vehicle having a windshield 2, and includes a HUD 110 and a driver monitoring camera 120.
  • HUD110 forms a virtual image 3.
  • the virtual image 3 is visually recognized by the driver 1 who is a user of the imaging display system 100, for example, as if it exists on the front outside of the vehicle.
  • a HUD 110 includes a housing 111, a display unit 112, a first mirror 113a and a second mirror 113b, a translucent cover 114, and a support 115.
  • the display unit 112 displays an image visually recognized as a virtual image 3 by the driver 1. That is, the display unit 112 emits the first light L1 indicating the image.
  • the display unit 112 is an LCD (Liquid Crystal Display).
  • the display unit 112 may be a device other than the LCD, for example, an organic light emitting diode, a fluorescent display device (so-called seven segment), a plasma display, or the like. Further, the display unit 112 may be a projector or a scanning laser. Such a display unit 112 is housed on the bottom surface side in the housing 111, and emits the first light L1 to the rear upper side of the vehicle 10.
  • the first mirror 113a and the second mirror 113b form an optical system for guiding the first light L1 emitted from the display unit 112 to the outside of the housing 111.
  • the first light L1 emitted from the display unit 112 is reflected by the first mirror 113a toward the second mirror 113b, and further reflected by the second mirror 113b toward the outside of the housing 111.
  • the optical system in the present embodiment includes two mirrors, a first mirror 113a and a second mirror 113b, but may include at least one mirror.
  • the housing 111 is, for example, a resin molded product and is arranged inside the dashboard of the vehicle. Such a housing 111 has an opening and surrounds the display unit 112 and the first mirror 113a and the second mirror 113b constituting the above-mentioned optical system. When the housing 111 is arranged on the dashboard, the housing 111 is arranged with its opening facing upward.
  • the translucent cover 114 is a translucent cover arranged so as to close at least a part of the opening of the housing 111.
  • the translucent cover 114 is made of, for example, a resin-molded film.
  • Such a translucent cover 114 has a function as a dustproof cover for preventing dust or dust from entering the housing 111.
  • the translucent cover 114 is arranged in a curved state so as to be recessed inside the housing 111. As a result, at least a part of the light incident on the translucent cover 114 from the windshield 2 side is reflected by the translucent cover 114 toward the support 115 side.
  • the first light L1 emitted from the display unit 112 in the HUD 110 is transmitted through the transparent cover 114 via the optical system and is reflected by the windshield 2 toward the driver 1.
  • the windshield 2 is an example of a plate-shaped translucent display medium.
  • the driver 1 visually recognizes the image of the display unit 112 appearing as a virtual image 3 on the front outside (that is, the outside of the vehicle) of the windshield 2 by the reflected first light L1 while looking at the background through the windshield 2. can do.
  • Such a HUD 110 is designed so that the virtual image 3 can be visually recognized in a predetermined eye box B.
  • the eye box B is set based on, for example, the height of both eyes of the driver 1 and the position in the horizontal direction. Therefore, the driver 1 visually recognizes the virtual image 3 with both eyes located in the eye box B.
  • the support 115 is a member connected to the outside of the housing 111 so as to cover at least a part of the translucent cover 114. Specifically, the support 115 is formed to be in front of the translucent cover 114 and to stand from the front upper portion to the rear upper side of the housing 111. Such a support 115 is also called a bezel. Further, as described above, the support 115 is irradiated with the light reflected by the translucent cover 114. The surface of the support 115 that receives light is formed so as to be difficult to reflect the light. For example, the surface is dark or black. As a result, it is possible to suppress scattering of light such as external light. Therefore, the support 115 is also called a light trap.
  • the support 115 may be formed integrally with the housing 111 of the HUD 110 described above, or may be formed separately.
  • the driver monitoring camera 120 in the present embodiment is a camera supported by the above-mentioned support 115. Specifically, the driver monitoring camera 120 is arranged on the surface of the support 115 on the translucent cover 114 side. Then, the driver monitoring camera 120 takes an image of the driver 1 projected on the translucent cover 114.
  • the second light L2 from the driver 1 side is reflected by the windshield 2 toward the translucent cover 114 side.
  • the translucent cover 114 is irradiated with the second light L2 reflected by the windshield 2.
  • the translucent cover 114 is curved so that light is reflected toward the support 115 side. Therefore, the second light L2 is reflected toward the support 115 by the translucent cover 114.
  • the driver monitoring camera 120 supported by the support 115 receives the second light L2 reflected by the transparent cover 114, and thereby images the driver 1 projected on the transparent cover 114. Therefore, the driver 1 can be monitored by the driver monitoring camera 120.
  • the driver monitoring camera 120 is arranged outside the housing 111 of the HUD 110. Therefore, the number of times that the second light L2 is reflected or transmitted from the driver 1 side toward the driver monitoring camera 120 can be suppressed. That is, as shown in FIG. 2A, the second light L2 reaches the driver monitoring camera 120 after being reflected at the position p1 of the windshield 2 and reflected at the position p2 of the translucent cover 114. Therefore, the number of times of reflection or transmission can be suppressed to two. As a result, it is possible to suppress a decrease in the brightness of the surveillance image (that is, the captured image) obtained by imaging with the driver monitoring camera 120.
  • the surveillance image that is, the captured image
  • the driver monitoring camera 120 can be arranged near the translucent cover 114, the imaging range A that can be imaged by the driver monitoring camera 120 can be widened.
  • FIG. 2B is a diagram showing an example of a surveillance image obtained by imaging with the driver monitoring camera 120.
  • the driver 1 since the imaging range A is wide as described above, the driver 1 can project a wide range on the surveillance image Pic2 obtained by imaging with the driver monitoring camera 120. As a result, the driver 1 can be appropriately monitored based on the monitoring image Pic2.
  • the second light L2 from the driver 1 side reaches the driver monitoring camera 120 without passing through the optical system of the HUD 110, so that the driver monitoring camera 120 has a strong intensity.
  • the driver 1 can be imaged by the two-light L2.
  • the brightness of the surveillance image Pic2 obtained by the imaging can be increased.
  • the driver monitoring camera 120 is outside the housing 111, even if the condensed heat generated by sunlight is generated inside the housing 111, the influence of the condensed heat received by the driver monitoring camera 120 can be suppressed.
  • the degree of freedom in the layout design of the driver monitoring camera 120 can be increased.
  • the imaging range A of the driver monitoring camera 120 can be expanded. Therefore, the driver 1 can be photographed brightly and appropriately in a wide range. Specifically, as described above, the imaging brightness, which is the brightness of the surveillance image Pic2, can be increased. That is, sufficient imaging brightness can be secured. Further, since the second light L2 from the driver 1 side reaches the driver monitoring camera 120 without passing through the optical system of the HUD 110, the optical system of the HUD 110 is not used for imaging. That is, the optical system used for imaging can be simplified. As a result, the imaging resolution, which is the resolution of the surveillance image Pic2, can be improved. Further, since the imaging range A is wide, even if the driver 1 moves, the driver 1 can be imaged.
  • the driver monitoring camera 120 is arranged on the surface of the support 115 on the transparent cover 114 side that covers at least a part of the transparent cover 114, the driver monitoring camera 120 is hidden from the driver 1 by the support 115. be able to. As a result, the driver 1 can concentrate on work such as driving a vehicle without worrying about being imaged by the driver monitoring camera 120.
  • the driver monitoring camera 120 captures the driver 1 projected on the curved translucent cover 114, astigmatism may occur or the image may be distorted.
  • the occurrence of distortion can be suppressed by image processing or a correction optical system.
  • the occurrence of astigmatic difference can be suppressed by the correction optical system.
  • the occurrence of astigmatism can be suppressed by optimally adjusting the depth of focus of the driver monitoring camera 120.
  • the depth of focus may be adjusted by the aperture or by EODF (Extended Depth of Focus) by inserting a phase object.
  • FIG. 3 is a diagram showing a configuration example of the imaging display system according to the first modification of the embodiment.
  • the first infrared reflective layer 131 is laminated on the translucent cover 114.
  • the first infrared reflective layer 131 is made of a material having a higher reflectance for infrared rays than visible light and a translucency for visible light.
  • the first infrared reflective layer 131 is laminated on the upper surface of the translucent cover 114, that is, the surface on the windshield 2 side.
  • the first infrared reflective layer 131 may be laminated on the lower surface of the translucent cover 114, that is, on the surface opposite to the windshield 2 side. Further, the first infrared reflective layer 131 may be configured as a film.
  • a second infrared reflective layer 132 is laminated on the windshield 2 in this modified example.
  • the second infrared reflective layer 132 is made of a material having a higher reflectance for infrared rays than visible light and a translucency for visible light.
  • the second infrared reflective layer 132 is laminated on the inner surface of the windshield 2, that is, the surface on the driver 1 side.
  • the second infrared reflective layer 132 may be laminated on the outer surface of the windshield 2, that is, the surface opposite to the driver 1 side. Further, the second infrared reflective layer 132 may be configured as a film.
  • the driver monitoring camera 120 in this modification is an infrared camera.
  • the infrared rays in the present disclosure are, for example, light in the near-infrared region, but may be light in a region other than the near-infrared region.
  • FIG. 4 is a diagram showing another configuration example of the imaging display system according to the first modification of the embodiment.
  • the second infrared reflective layer 132 may be composed of two reflective layers 132a and 132b, as shown in FIG.
  • One of the two reflective layers 132a and 132b, for example, the reflective layer 132a is formed on the driver 1 side surface (that is, the inner surface) of the windshield 2.
  • the other of the two reflective layers 132a and 132b, for example, the reflective layer 132b is formed on the surface of the windshield 2 opposite to the driver 1 side.
  • the second infrared reflecting layer 132 is composed of the two reflecting layers 132a and 132b, the thickness of the second infrared reflecting layer 132 can be increased. As a result, the infrared rays contained in the sunlight L5 irradiated on the outer surface of the windshield 2 are reflected more efficiently, and the influence of the infrared rays contained in the sunlight L5 on the imaging by the driver monitoring camera 120 is further reduced. can do.
  • FIG. 5 is a diagram showing a configuration example of the imaging display system according to the second modification of the embodiment.
  • the imaging display system 102 in this modification has the same configuration as the imaging display system 100 in the above embodiment, and further includes an infrared transmitting unit 121.
  • the infrared transmitting portion 121 has a translucency with respect to infrared rays, and has a property of having a higher reflectance or absorptance with respect to light other than infrared rays than with infrared rays. As shown in FIG. 5, for example, such an infrared transmitting portion 121 is arranged in front of the driver monitoring camera 120, that is, between the driver monitoring camera 120 and the translucent cover 114.
  • the driver monitoring camera 120 is an infrared camera as in the first modification. Therefore, the driver monitoring camera 120 images the driver 1 with infrared rays incident on the image sensor inside the driver monitoring camera 120 from the translucent cover 114 side via the infrared transmitting portion 121.
  • the driver 1 can be imaged more appropriately by suppressing the influence of external light, which is visible light, for example.
  • external light which is visible light, for example.
  • the influence of sunlight L5 can be suppressed.
  • the infrared transmissive portion 121 is located between the driver monitoring camera 120 and the translucent cover 114, but may be attached to the driver monitoring camera 120, and may be attached to the inside of the driver monitoring camera 120. It may be contained.
  • FIG. 6 is a diagram showing a configuration example of the imaging display system according to the third modification of the embodiment.
  • the image pickup display system 103 in this modification includes a driver monitoring camera 120a instead of the driver monitoring camera 120 in the image pickup display system 100 in the above embodiment.
  • a low-reflection layer having a reflectance lower than that of the support 115 is formed on the surface of the driver monitoring camera 120a.
  • the intensity of the external light L4, which is the visible light reflected by the driver monitoring camera 120a, can be weakened. Therefore, it is possible to make it difficult for the external light L4 to reach the driver 1. That is, even if the external light L4 is reflected toward the windshield 2 side by the translucent cover 114 and further toward the driver 1 side by the windshield 2, the driver 1 is the driver monitoring camera 120a. The image can be made difficult to see. That is, the driver 1 can make it difficult for the driver 1 to notice the driver monitoring camera 120a, and the visibility of the outside world can be improved.
  • the low-reflection layer is formed on the entire surface of the driver monitoring camera 120a, but the low-reflection layer may be formed on at least a part of the surface.
  • FIG. 7 is a diagram showing a configuration example of the imaging display system according to the modified example 4 of the embodiment.
  • the imaging display system 104 in this modification has the same configuration as the imaging display system 100 in the above embodiment, and further includes a light source 140.
  • the light source 140 is supported by the support 115 and emits infrared rays as the third light L3.
  • the third light L3 emitted from the light source 140 is reflected toward the windshield 2 side by the translucent cover 114, and is reflected toward the driver 1 side by the windshield 2. That is, the third light L3, which is infrared rays from the light source 140, reaches the driver 1 from the translucent cover 114 via substantially the same optical path as the first light L1 emitted from the display unit 112.
  • the driver monitoring camera 120 in this modification is an infrared camera.
  • the driver monitoring camera 120 can generate a surveillance image Pic2 with high brightness of the driver 1 by imaging. Further, since the irradiation range of the third light L3 can be easily adjusted to the imaging range A of the driver monitoring camera 120, the light source 140 does not emit the third light L3 to an unnecessarily wide range, and the third light L3 is not emitted. Irradiation power can be suppressed.
  • FIG. 8 is a diagram showing a configuration example of the imaging display system according to the modified example 5 of the embodiment.
  • the image pickup display system 105 in this modification has the same configuration as the image pickup display system 100 in the above embodiment, and further includes a drive unit 150 and a control unit 160. Note that FIG. 8 partially shows a part of the imaging display system 105.
  • Such an imaging display system 105 shifts the imaging range of the driver monitoring camera 120 according to external light.
  • the drive unit 150 moves the optical axis of the driver monitoring camera 120 by, for example, tilting the driver monitoring camera 120.
  • the control unit 160 controls the drive unit 150 based on the monitoring image Pic2 obtained by imaging with the driver monitoring camera 120.
  • FIG. 9 is a diagram for explaining processing by the control unit 160.
  • the control unit 160 causes the drive unit 150 to move the optical axis of the driver monitoring camera 120 when the second region 12 in the surveillance image Pic2 is at a position equal to or less than a predetermined distance from the first region 11.
  • the first area 11 is an area in which a part of the driver 1 is projected, for example, an area in which both eyes of the driver 1 are projected.
  • the control unit 160 identifies the first region by performing image processing such as pattern matching on the monitored image Pic2.
  • the second region 12 is a region having a higher brightness than the first region 11, and is, for example, a region brightly illuminated by sunlight L5.
  • the average brightness of the second region 12 may be higher than the average brightness of the first region 11, and the maximum brightness of the second region 12 may be higher than the maximum brightness of the first region 11.
  • the distance between the first region 11 and the second region 12 may be the shortest distance between those regions or the distance between the centers of those regions.
  • control unit 160 moves the optical axis of the driver monitoring camera 120 to the drive unit 150 when the bright second region 12 is close to the first region 11. If the predetermined distance is 0, the control unit 160 moves the optical axis of the driver monitoring camera 120 to the drive unit 150 when the bright second region 12 overlaps the first region 11.
  • the optical axis of the driver monitoring camera 120 moves, so that the imaging range A can be shifted to, for example, the imaging range A1.
  • the possibility that the second region 12 can be separated from the first region 11 can be increased.
  • the second region 12 overlaps with the first region 11 and a part of the driver 1 projected in the first region 11 is not blurred.
  • a part of the driver 1 has both eyes, in the surveillance image Pic2 including the unclear first region 11, what kind of state is the driver 1 in a sleepy state or looking away? It is difficult to identify whether it is in a state.
  • the imaging display system 105 in this modification it is possible to prevent the second region 12 from overlapping the first region 11 and making the first region 11 unclear, so that the state of the driver 1 is appropriate. Can be monitored.
  • the optical axis of the driver monitoring camera 120 is moved in order to change the imaging range A to the imaging range A1, but two driver monitoring cameras having different optical axes may be switched.
  • FIG. 10 is a diagram showing another configuration example of the imaging display system 105 in the modified example 5 of the embodiment.
  • the imaging display system 105 shown in FIG. 10 includes two driver monitoring cameras 120 and 122. That is, the image pickup display system 105 includes a driver monitoring camera 122 having a different optical axis from the driver monitoring camera 120.
  • the imaging display system 105 shown in FIG. 10 includes a switching unit 170 instead of the driving unit 150 shown in FIG.
  • the switching unit 170 switches the camera used for imaging the driver 1 between the driver monitoring camera 120 and the driver monitoring camera 122.
  • the control unit 160 controls the switching unit 170 based on the monitoring image Pic2 obtained by imaging by the driver monitoring camera 120.
  • control unit 160 has the driver monitoring camera 120 to the driver monitoring camera 122 when the second region 12 in the surveillance image Pic2 is at a position equal to or less than a predetermined distance from the first region 11.
  • the switching unit 170 is made to perform the switching to.
  • the control unit 160 controls the switching unit 170 to change the camera used for imaging the driver 1 from the driver monitoring camera 120 to the driver monitoring camera. Switch to 122. Further, if the predetermined distance is 0, the control unit 160 is used for imaging the driver 1 by controlling the switching unit 170 when the bright second region 12 overlaps the first region 11. Switch between cameras.
  • the camera can be switched, so that the imaging range A can be changed to, for example, the imaging range A1.
  • the surveillance image obtained by imaging with the driver monitoring camera 122 it is possible to increase the possibility that the second region 12 is farther from the first region 11 than the surveillance image Pic2 of the driver monitoring camera 120.
  • FIG. 11 is a flowchart showing the processing operation of the control unit 160.
  • control unit 160 identifies the first region 11 from the monitoring image Pic2 (step S1).
  • control unit 160 determines whether or not the second region 12 having a brightness higher than that of the first region 11 exists in the monitoring image Pic2 (step S2).
  • step S3 when the control unit 160 determines that the second region 12 exists (Yes in step S2), whether or not the second region 12 is at a distance of 0 or less from the first region 11, that is, It is determined whether or not the second region 12 overlaps the first region 11 (step S3).
  • the control unit 160 determines that they overlap (Yes in step S3), in the example shown in FIG. 8, the optical axis of the driver monitoring camera 120 is moved to the drive unit 150 (step S4). Further, in the example shown in FIG. 10, the control unit 160 switches the camera used for imaging of the driver 1 from the driver monitoring camera 120 to the driver monitoring camera 122 by controlling the switching unit 170.
  • the control unit 160 determines whether or not the condition for ending the monitoring process of the driver 1 is satisfied (step S5). For example, the control unit 160 determines that the condition is satisfied when the ignition switch of the vehicle is turned off. Here, when the control unit 160 determines that the condition is satisfied (Yes in step S5), the control unit 160 ends the monitoring process. On the other hand, if it is determined that the condition is not satisfied (No in step S5), the control unit 160 repeatedly executes the process from step S1. When step S1 is repeated, the first region 11 is not the surveillance image Pic2 in which the first region 11 is specified in the previous step S1, but the surveillance image Pic2 newly obtained by the driver monitoring camera 120. Identification is done.
  • step S4 when the drive unit 150 repeatedly moves the optical axis, the optical axis may move alternately upward and downward, or may move only in either upward or downward direction.
  • step S4 when the camera is switched in step S4 and the processing from step S1 is repeated thereafter, the processing of steps S1 to S3 is performed on the surveillance image obtained by the camera after the switching.
  • step S4 after the camera used for imaging the driver 1 is switched from the driver monitoring camera 120 to the driver monitoring camera 122, the driver monitoring camera 122 is used instead of the driver monitoring camera 120. That is, in step S1, the control unit 160 identifies the first region 11 from the monitoring image obtained by imaging with the driver monitoring camera 122. Then, in the subsequent step S4, the control unit 160 switches the camera used for imaging of the driver 1 from the driver monitoring camera 122 to the driver monitoring camera 120 by controlling the switching unit 170.
  • the imaging display system 105 includes two driver monitoring cameras 120 and 122, but may include three or more driver monitoring cameras and switch to those cameras.
  • the control unit 160 may select a surveillance image in which the second region 12 is the farthest from the first region 11 among the surveillance images of each of the three or more driver monitoring cameras.
  • the image pickup display system includes a driver monitoring camera 120, and the driver monitoring camera 120 is made to take an image for monitoring the driver 1.
  • the driver monitoring camera 120 may image the image not only for monitoring the driver 1 but also for other purposes. In this case, the driver monitoring camera 120 is simply used as the camera 120 to image the user of the imaging display system.
  • the imaging display system is mounted on the vehicle, but it does not have to be mounted on the vehicle, as long as the windshield 2 functions as a display medium. It can be anything.
  • each of the first infrared reflecting layer 131, the second infrared reflecting layer 132, and the infrared transmitting portion 121 in the above-described embodiment and each modification may be made of a known material.
  • an imaging display system having a HUD has been described with reference to an embodiment and a modification thereof, but this imaging display system does not have to include the HUD.
  • the imaging display system can also be referred to as an imaging system.
  • Such an imaging system includes a reflector and a driver monitoring camera 120 supported by a support 115 arranged to cover at least a portion of the reflector.
  • the reflector may be a translucent cover 114, and if it has a function of reflecting light from the windshield 2 side, which is a display medium, it has translucency to visible light like the translucent cover 114. You don't have to.
  • the driver monitoring camera 120 is arranged on the surface of the support 115 on the reflector side.
  • Such a driver monitoring camera 120 captures an image of a user projected on the reflector by reflecting light from the user side, for example, the driver 1 toward the reflector side by the windshield 2.
  • the user can be appropriately imaged as in the above-described imaging display system.
  • Each component such as the drive unit 150, the control unit 160, and the switching unit 170 in the above modification 5 is realized by being composed of dedicated hardware or by executing a software program suitable for each component. May be done.
  • Each component may be realized by a program execution unit such as a CPU or a processor reading and executing a software program recorded on a recording medium such as a hard disk or a semiconductor memory.
  • the software that realizes the control unit 160 of the modification 5 is a program that executes each step of the flowchart shown in FIG.
  • the imaging display system of the present disclosure can be used as an in-vehicle device that is mounted on a vehicle, for example, and images the driver of the vehicle while visually recognizing a virtual image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Instrument Panels (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Studio Devices (AREA)

Abstract

虚像をユーザに視認させる構成を利用しながらそのユーザを適切に撮像することができる撮像表示システムを提供する。この撮像表示システム(100)は、表示部(112)と、第1ミラー(113a)および第2ミラー(113b)を含む光学系と、筐体(111)と、筐体(111)の開口の少なくとも一部を塞ぐように配置される透光性を有する透光カバー(114)と、筐体(111)の外側に連結される支持体(115)に支持されるドライバモニタリングカメラ(120)とを備え、表示部(112)から出射される第1光(L1)は、光学系を介して透光カバー(114)を透過し、ウインドシールド(2)によってユーザ側に向けて反射され、ドライバモニタリングカメラ(120)は、運転者(1)側からの第2光(L2)がウインドシールド(2)によって透光カバー(114)側に向けて反射されることによって透光カバー(114)に映し出される運転者(1)を撮像する。

Description

撮像表示システム
 本開示は、例えば車両などに搭載される撮像表示システムに関する。
 従来、車両に搭載される撮像表示システムとして、ヘッドアップディスプレイとドライバモニタリングカメラとを含むシステムが提案されている(例えば、特許文献1参照)。このシステムは、ヘッドアップディスプレイによってウインドシールド越しに現れる虚像を車両の運転者に視認させ、さらに、ドライバモニタリングカメラによってその運転者を撮像する。
米国特許出願公開第2018/0037116号明細書
 しかしながら、上記特許文献1のシステムでは、そのシステムのユーザである運転者を適切に撮像することが難しいという課題がある。
 そこで、本開示は、虚像をユーザに視認させる構成を利用しながらそのユーザを適切に撮像することができる撮像表示システムを提供する。
 本発明の一態様に係る撮像表示システムは、画像を示す第1光を出射する表示部と、少なくとも1つのミラーを含む光学系と、開口を有し、前記表示部および前記光学系を囲う筐体と、前記筐体の前記開口の少なくとも一部を塞ぐように配置される透光性を有する透光カバーと、前記透光カバーの少なくとも一部を覆うように前記筐体の外側に連結される支持体に支持されるカメラとを備え、前記表示部から出射される前記第1光は、前記光学系を介して前記透光カバーを透過し、表示媒体によってユーザ側に向けて反射され、前記カメラは、前記支持体における前記透光カバー側の面に配置され、前記ユーザ側からの第2光が前記表示媒体によって前記透光カバー側に向けて反射されることによって前記透光カバーに映し出される前記ユーザを撮像する。
 なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。また、記録媒体は、非一時的な記録媒体であってもよい。
 本開示の撮像表示システムは、虚像をユーザに視認させる構成を利用しながらそのユーザを適切に撮像することができる。
 本開示の一態様における更なる利点および効果は、明細書および図面から明らかにされる。かかる利点および/または効果は、いくつかの実施形態並びに明細書および図面に記載された特徴によってそれぞれ提供されるが、1つまたはそれ以上の同一の特徴を得るために必ずしも全てが提供される必要はない。
図1Aは、従来技術から想定されるシステムの構成を示す図である。 図1Bは、従来技術から想定されるシステムのドライバモニタリングカメラによる撮像によって得られる監視画像の一例を示す図である。 図2Aは、実施の形態における撮像表示システムの構成例を示す図である。 図2Bは、実施の形態におけるドライバモニタリングカメラによる撮像によって得られる監視画像の一例を示す図である。 図3は、実施の形態の変形例1における撮像表示システムの構成例を示す図である。 図4は、実施の形態の変形例1における撮像表示システムの他の構成例を示す図である。 図5は、実施の形態の変形例2における撮像表示システムの構成例を示す図である。 図6は、実施の形態の変形例3における撮像表示システムの構成例を示す図である。 図7は、実施の形態の変形例4における撮像表示システムの構成例を示す図である。 図8は、実施の形態の変形例5における撮像表示システムの構成例を示す図である。 図9は、実施の形態の変形例5における制御部による処理を説明するための図である。 図10は、実施の形態の変形例5における撮像表示システムの他の構成例を示す図である。 図11は、実施の形態の変形例5における制御部の処理動作を示すフローチャートである。
 (本発明の基礎となった知見)
 本発明者は、「背景技術」の欄において記載した上記特許文献1に関し、以下の問題が生じることを見出した。
 図1Aは、上記特許文献1から想定されるシステムの構成を示す図である。
 このシステム900は、ヘッドアップディスプレイ(以下、HUDという)910と、ドライバモニタリングカメラ920とを備える。
 HUD910は、車両に搭載される装置であって、筐体911と、表示部912と、第1ミラー913aおよび第2ミラー913bと、透光カバー914とを備える。
 表示部912から出射される画像の光は、第1ミラー913aおよび第2ミラー913bによって反射され、透光カバー914を透過し、さらに、車両のウインドシールド2によって運転者1側に向けて反射される。これにより、運転者1は、表示部912の画像を、ウインドシールド2越しに現れる虚像3としてアイボックスB内で視認することができる。
 また、ドライバモニタリングカメラ920は、筐体911内に配置されている。運転者1側からの光は、ウインドシールド2によってHUD910側に向けて反射され、透光カバー914を透過し、さらに、第2ミラー913bによって第1ミラー913a側に向けて反射される。そして、その光は、例えば半透明の第1ミラー913aを透過してドライバモニタリングカメラ920のレンズに入射する。これにより、このドライバモニタリングカメラ920は、運転者1を撮像することができる。
 しかし、その運転者1側からの光は、位置p1~p4(図1A中の破線丸印の位置)で反射または透過が繰り返されることによって減衰する。その結果、ドライバモニタリングカメラ920による撮像によって得られる監視画像の輝度は低くなってしまう。さらに、ドライバモニタリングカメラ920によって撮像することができる撮像範囲Aは狭い。
 図1Bは、ドライバモニタリングカメラ920による撮像によって得られる監視画像の一例を示す図である。
 上述のように撮像範囲Aが狭いため、ドライバモニタリングカメラ920による撮像によって得られる監視画像Pic1に、運転者1の広い範囲を映し出すことができない。その結果、その監視画像Pic1に基づいて運転者1を適切に監視することが難しいという課題がある。
 このような課題を解決するために、本発明の一態様に係る撮像表示システムは、画像を示す第1光を出射する表示部と、少なくとも1つのミラーを含む光学系と、開口を有し、前記表示部および前記光学系を囲う筐体と、前記筐体の前記開口の少なくとも一部を塞ぐように配置される透光性を有する透光カバーと、前記透光カバーの少なくとも一部を覆うように前記筐体の外側に連結される支持体に支持されるカメラとを備え、前記表示部から出射される前記第1光は、前記光学系を介して前記透光カバーを透過し、表示媒体によってユーザ側に向けて反射され、前記カメラは、前記支持体における前記透光カバー側の面に配置され、前記ユーザ側からの第2光が前記表示媒体によって前記透光カバー側に向けて反射されることによって前記透光カバーに映し出される前記ユーザを撮像する。例えば、表示媒体は車両のウインドシールドである。
 これにより、表示部と光学系と筐体と透光カバーとによって、表示媒体越しに現れる虚像をユーザに視認させるヘッドアップディスプレイが構成され、カメラは、そのヘッドアップディスプレイの筐体の外側から透光カバーに映し出されるユーザを撮像する。したがって、ユーザ側からの第2光が、ヘッドアップディスプレイの光学系を介することなくカメラに到達するため、カメラは、強い強度の第2光によってユーザを撮像することができる。その結果、その撮像によって得られる撮像画像(いわゆる監視画像)の輝度を高めることができる。また、カメラはその筐体の外にあるため、仮に筐体内で太陽光による集光熱が発生しても、カメラが受けるその集光熱の影響を抑えることができ、さらに、カメラの配置設計の自由度を高めることができる。
 さらに、カメラを透光カバーに近づけることができるため、そのカメラの撮像範囲を広げることができる。したがって、虚像をユーザに視認させる構成を利用しながら、ユーザを明るく、かつ広い範囲で適切に撮像することができる。また、カメラは、透光カバーの少なくとも一部を覆う支持体の透光カバー側の面に配置されるため、その支持体によってカメラをユーザから隠すことができる。その結果、ユーザはカメラによって撮像されていることを気にすることなく、例えば車両の運転などの作業に集中することができる。
 例えば、前記透光カバーには、可視光よりも赤外線に対する反射率が高く、かつ可視光に対して透光性を有する第1赤外線反射層が積層され、前記カメラは、赤外線カメラであってもよい。例えば、赤外線は、近赤外領域の光である。
 これにより、虚像に対するユーザの視認性を低減させることなく、例えば可視光である外光の影響を抑えてユーザを撮像することができる。
 また、前記表示媒体には、可視光よりも赤外線に対する反射率が高く、かつ可視光に対して透光性を有する第2赤外線反射層が積層されていてもよい。例えば、前記第2赤外線反射層は、2つの反射層からなり、前記2つの反射層のうちの一方は、前記表示媒体における前記ユーザ側の面に形成され、前記2つの反射層のうちの他方は、前記表示媒体における前記ユーザ側と反対側の面に形成されていてもよい。
 これにより、虚像に対するユーザの視認性を低減させることなく、例えば可視光である外光の影響をさらに抑えてユーザをより適切に撮像することができる。
 また、前記撮像表示システムは、さらに、赤外線に対して透光性を有し、赤外線よりも赤外線以外の光に対する反射率または吸収率が高い赤外線透過部を備え、前記カメラは、赤外線カメラであって、前記透光カバー側から前記赤外線透過部を介して前記カメラ内部の撮像素子に入射する赤外線によって、前記ユーザを撮像してもよい。
 これにより、例えば可視光である外光の影響をさらに抑えてユーザをより適切に撮像することができる。例えば、太陽光の影響を抑えることができる。
 また、前記カメラの少なくとも一部には、可視光に対する反射率が前記支持体よりも低い低反射層が形成されていてもよい。
 これにより、例えば太陽光などの外光がカメラに照射されても、その外光のうちの可視光のそのカメラでの反射を抑えることができる。その結果、カメラの像が透光カバーに映し出され難くすることができる。つまり、ユーザがそのカメラに気付き難くすることができ、外界の見易さを向上することができる。
 また、前記撮像表示システムは、さらに、前記支持体に支持され、赤外線を第3光として出射する光源を備え、前記カメラは、赤外線カメラであって、前記光源から出射される前記第3光は、前記透光カバーによって前記表示媒体側に向けて反射され、かつ、前記表示媒体によって前記ユーザ側に向けて反射されてもよい。例えば、赤外線は、近赤外領域の光である。
 これにより、赤外線である第3光がユーザに照射されるため、その第3光に照らされたユーザを赤外線カメラで撮像することができる。その結果、高い輝度の撮像画像を得ることができる。また、カメラと同様に、支持体によって光源をユーザから隠すことができる。さらに、第3光の照射範囲をカメラの撮像範囲に簡単に合わせることができるため、光源は無駄に広い範囲に第3光を出射することなく、その第3光の照射パワーを抑えることができる。
 また、前記撮像表示システムは、さらに、前記カメラの光軸を移動させる駆動部と、前記カメラによる撮像によって得られる撮像画像に基づいて、前記駆動部を制御する制御部とを備え、前記制御部は、前記撮像画像における前記ユーザの一部が映し出されている第1領域よりも高い輝度を有する第2領域が、前記第1領域から予め定められた距離以下の位置にある場合に、前記カメラの光軸の移動を前記駆動部に実行させてもよい。
 これにより、例えば太陽光などの外光によって明るく映し出されている第2領域が第1領域に近い場合には、カメラの光軸が移動する。その結果、第2領域を第1領域から離すことができる可能性を高めることができる。したがって、第2領域が第1領域に重なって、その第1領域に映し出されているユーザの一部が不鮮明になってしまうことを防ぐ可能性を高めることができる。例えば、そのユーザの一部が両目である場合、その不鮮明な第1領域を含む撮像画像では、そのユーザが眠い状態か、よそ見をしている状態かなど、どのような状態にあるのかを特定することが難しい。しかし、本開示の一態様に係る撮像表示システムでは、第2領域が第1領域に重なって第1領域が不鮮明になってしまうことを抑制することができるため、ユーザの状態を適切に監視することができる。
 また、前記撮像表示システムは、さらに、前記カメラである第1カメラと異なる第2カメラと、前記ユーザの撮像に用いられるカメラを前記第1カメラと前記第2カメラとに切り替える切替部と、前記第1カメラによる撮像によって得られる撮像画像に基づいて、前記切替部を制御する制御部とを備え、前記制御部は、前記撮像画像における前記ユーザの一部が映し出されている第1領域よりも高い輝度を有する第2領域が、前記第1領域から予め定められた距離以下の位置にある場合に、前記第1カメラから前記第2カメラへの切り替えを前記切替部に実行させてもよい。
 これにより、例えば太陽光などの外光によって明るく映し出されている第2領域が第1領域に近い場合には、カメラが第1カメラから第2カメラに切り替わる。したがって、第2領域が第1領域に重なって、その第1領域に映し出されているユーザの一部が不鮮明になってしまうことを防ぐ可能性を高めることができる。例えば、そのユーザの一部が両目である場合、その不鮮明な第1領域を含む撮像画像では、そのユーザが眠い状態か、よそ見をしている状態かなど、どのような状態にあるのかを特定することが難しい。しかし、本開示の一態様に係る撮像表示システムでは、第2領域が第1領域に重なって第1領域が不鮮明になってしまうことを抑制することができるため、ユーザの状態を適切に監視することができる。
 なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムまたは記録媒体の任意な組み合わせで実現されてもよい。また、記録媒体は、非一時的な記録媒体であってもよい。
 以下、実施の形態について、図面を参照しながら具体的に説明する。
 なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
 また、各図は、模式図であり、必ずしも厳密に図示されたものではない。また、各図において、同じ構成部材については同じ符号を付している。また、以下の実施の形態において、略同一などの表現を用いている。例えば、略同一は、完全に同じであることを意味するだけでなく、実質的に同じである、すなわち、例えば数%程度の誤差を含むことも意味する。また、略同一は、本開示による効果を奏し得る範囲において同一という意味である。他の「略」を用いた表現についても同様である。
 (実施の形態)
 図2Aは、本実施の形態における撮像表示システムの構成例を示す図である。
 本実施の形態における撮像表示システム100は、例えば、ウインドシールド2を有する車両などに搭載されるシステムであって、HUD110と、ドライバモニタリングカメラ120とを備える。
 HUD110は、虚像3を形成する。この虚像3は、例えば車両の前方外側に存在するように、撮像表示システム100のユーザである運転者1に視認される。このようなHUD110は、筐体111と、表示部112と、第1ミラー113aおよび第2ミラー113bと、透光カバー114と、支持体115とを備える。
 表示部112は、運転者1に虚像3として視認される画像を表示する。つまり、表示部112は、画像を示す第1光L1を出射する。例えば、表示部112は、LCD(Liquid Crystal Display)である。なお、表示部112は、LCD以外のデバイス、例えば有機発光ダイオード、蛍光表示装置(いわゆるセブンセグメント)、またはプラズマディスプレイなどであってもよい。また、表示部112は、プロジェクタまたは走査型レーザであってもよい。このような表示部112は、筐体111内の底面側に収納されて、車両10の後方上側に第1光L1を出射する。
 第1ミラー113aおよび第2ミラー113bは、表示部112から出射された第1光L1を筐体111の外に導くための光学系を構成している。例えば、表示部112から出射された第1光L1は、第1ミラー113aによって第2ミラー113b側に向けて反射され、さらに、その第2ミラー113bによって筐体111の外側に向けて反射される。なお、本実施の形態における光学系は、第1ミラー113aおよび第2ミラー113bの2つのミラーからなるが、少なくとも1つのミラーを含んでいればよい。
 筐体111は、例えば樹脂成型品であって、車両のダッシュボードの内部に配置される。このような筐体111は、開口を有し、表示部112と、上述の光学系を構成する第1ミラー113aおよび第2ミラー113bを囲う。なお、筐体111は、ダッシュボードに配置されるときには、その開口を上側に向けて配置される。
 透光カバー114は、筐体111の開口の少なくとも一部を塞ぐように配置される透光性を有するカバーである。透光カバー114は、例えば樹脂成型されたフィルムからなる。このような透光カバー114は、塵または埃などの筐体111内への進入を防止する防塵カバーとして機能を有する。また、透光カバー114は、筐体111の内側に凹むように湾曲した状態で配置される。これにより、ウインドシールド2側から透光カバー114に入射する光の少なくとも一部は、その透光カバー114によって支持体115側に向けて反射される。
 このようなHUD110における表示部112から出射される第1光L1は、光学系を介して透光カバー114を透過し、ウインドシールド2によって運転者1側に向けて反射される。なお、ウインドシールド2は、板状の透光性を有する表示媒体の一例である。その結果、運転者1は、ウインドシールド2越しの背景を見ながら、その反射された第1光L1によってウインドシールド2の前方外側(すなわち車外側)に虚像3として現われる表示部112の画像を視認することができる。
 また、このようなHUD110は、その虚像3が予め定められたアイボックスB内において視認されるように設計されている。アイボックスBは、例えば、運転者1の両目の高さおよび水平方向の位置などに基づいて設定される。したがって、運転者1は、そのアイボックスB内に両目が位置する状態で、その虚像3を視認する。
 支持体115は、透光カバー114の少なくとも一部を覆うように筐体111の外側に連結される部材である。具体的には、支持体115は、透光カバー114よりも前方にあって、筐体111の前方上部から後方上側に向けて立脚するように形成されている。このような支持体115は、ベゼルとも呼ばれる。また、上述のように、支持体115には、透光カバー114によって反射された光が照射される。この支持体115における光を受ける面は、その光を反射し難く形成されている。例えば、その面は暗色または黒色である。これにより、外光などの光の散乱を抑えることができる。したがって、この支持体115は、ライトトラップとも呼ばれる。なお、支持体115は、上述のHUD110の筐体111と一体に形成されていてもよく、別体に形成されていてもよい。
 本実施の形態におけるドライバモニタリングカメラ120は、上述の支持体115に支持されるカメラである。具体的には、ドライバモニタリングカメラ120は、支持体115における透光カバー114側の面に配置される。そして、ドライバモニタリングカメラ120は、その透光カバー114に映し出される運転者1を撮像する。
 つまり、運転者1側からの第2光L2は、ウインドシールド2によって透光カバー114側に向けて反射される。その結果、透光カバー114には、そのウインドシールド2によって反射された第2光L2が照射される。また、上述のように、透光カバー114は、光が支持体115側に反射されるように湾曲している。したがって、第2光L2は、透光カバー114によって支持体115側に反射される。これにより、支持体115に支持されているドライバモニタリングカメラ120は、その透光カバー114によって反射された第2光L2を受けることによって、その透光カバー114に映し出される運転者1を撮像する。したがって、ドライバモニタリングカメラ120によって運転者1を監視することができる。
 ここで、本実施の形態では、ドライバモニタリングカメラ120がHUD110の筐体111の外に配置されている。したがって、第2光L2が運転者1側からドライバモニタリングカメラ120に向かうまでに反射または透過される回数を抑えることができる。つまり、図2Aに示すように、第2光L2は、ウインドシールド2の位置p1で反射され、透光カバー114の位置p2で反射された後に、ドライバモニタリングカメラ120に到達する。したがって、反射または透過される回数を2回に抑えることができる。その結果、ドライバモニタリングカメラ120による撮像によって得られる監視画像(すなわち撮像画像)の輝度の低下を抑制することができる。
 さらに、本実施の形態では、ドライバモニタリングカメラ120を透光カバー114の近くに配置することができるため、そのドライバモニタリングカメラ120によって撮像することができる撮像範囲Aを広くすることができる。
 図2Bは、ドライバモニタリングカメラ120による撮像によって得られる監視画像の一例を示す図である。
 本実施の形態では、上述のように撮像範囲Aが広いため、ドライバモニタリングカメラ120による撮像によって得られる監視画像Pic2に、運転者1の広い範囲を映し出すことができる。その結果、その監視画像Pic2に基づいて運転者1を適切に監視することができる。
 以上のように、本実施の形態では、運転者1側からの第2光L2が、HUD110の光学系を介することなくドライバモニタリングカメラ120に到達するため、ドライバモニタリングカメラ120は、強い強度の第2光L2によって運転者1を撮像することができる。その結果、その撮像によって得られる監視画像Pic2の輝度を高めることができる。また、ドライバモニタリングカメラ120はその筐体111の外にあるため、仮に筐体111内で太陽光による集光熱が発生しても、ドライバモニタリングカメラ120が受けるその集光熱の影響を抑えることができ、さらに、ドライバモニタリングカメラ120の配置設計の自由度を高めることができる。
 さらに、ドライバモニタリングカメラ120を透光カバー114に近づけることができるため、そのドライバモニタリングカメラ120の撮像範囲Aを広げることができる。したがって、運転者1を明るく、かつ広い範囲で適切に撮像することができる。具体的には、上述のように、監視画像Pic2の輝度である撮像輝度を高めることができる。すなわち、撮像輝度を十分に確保することができる。さらに、運転者1側からの第2光L2が、HUD110の光学系を介することなくドライバモニタリングカメラ120に到達するため、撮像にはHUD110の光学系が用いられない。つまり、撮像に用いられる光学系をシンプルにすることができる。その結果、監視画像Pic2の解像度である撮像解像度を向上することができる。また、撮像範囲Aが広いため、運転者1が動いても、その運転者1を撮像することができる。
 また、ドライバモニタリングカメラ120は、透光カバー114の少なくとも一部を覆う支持体115の透光カバー114側の面に配置されるため、その支持体115によってドライバモニタリングカメラ120を運転者1から隠すことができる。その結果、運転者1はドライバモニタリングカメラ120によって撮像されていることを気にすることなく、例えば車両の運転などの作業に集中することができる。
 なお、上述の例では、ドライバモニタリングカメラ120は、湾曲している透光カバー114に映し出される運転者1を撮像するため、非点隔差が生じたり、像の歪みが発生したりする。しかし、歪みについては、画像処理または補正光学系によってその発生を抑制することができる。また、非点隔差については、補正光学系によってその発生を抑制することができる。例えば、その補正光学系では、ドライバモニタリングカメラ120の焦点深度を最適に調整することによって、非点隔差の発生を抑制することができる。焦点深度の調整は、絞りによって、あるいは、位相物体の挿入によるEODF(Extended Depth of Focus)によって行われてもよい。これにより、非点隔差および歪みのそれぞれが抑えられた監視画像Pic2を得ることができる。
 (変形例1)
 図3は、実施の形態の変形例1における撮像表示システムの構成例を示す図である。
 本変形例における撮像表示システム101では、図3に示すように、透光カバー114に第1赤外線反射層131が積層されている。この第1赤外線反射層131は、可視光よりも赤外線に対する反射率が高く、かつ可視光に対して透光性を有する材質からなる。例えば、第1赤外線反射層131は、透光カバー114の上面、すなわち、ウインドシールド2側の面に積層される。なお、第1赤外線反射層131は、透光カバー114の下面、すなわち、ウインドシールド2側と反対側の面に積層されていてもよい。また、第1赤外線反射層131は、フィルムとして構成されていてもよい。
 さらに、本変形例におけるウインドシールド2には、第2赤外線反射層132が積層されている。この第2赤外線反射層132は、可視光よりも赤外線に対する反射率が高く、かつ可視光に対して透光性を有する材質からなる。例えば、例えば、第2赤外線反射層132は、ウインドシールド2の内面、すなわち、運転者1側の面に積層される。なお、第2赤外線反射層132は、ウインドシールド2の外面、すなわち、運転者1側と反対側の面に積層されてもよい。また、第2赤外線反射層132は、フィルムとして構成されていてもよい。
 また、本変形例におけるドライバモニタリングカメラ120は、赤外線カメラである。なお、本開示における赤外線は、例えば近赤外領域の光であるが、近赤外領域以外の領域の光であってもよい。
 これにより、本変形例では、運転者1の撮像に赤外線を用いるため、虚像に対する運転者1の視認性を低減させることなく、例えば可視光である外光の影響を抑えて運転者1を撮像することができる。
 図4は、実施の形態の変形例1における撮像表示システムの他の構成例を示す図である。
 ここで、第2赤外線反射層132は、図4に示すように、2つの反射層132aおよび132bから構成されていてもよい。2つの反射層132aおよび132bのうちの一方、例えば反射層132aは、ウインドシールド2における運転者1側の面(すなわち内面)に形成される。その2つの反射層132aおよび132bのうちの他方、例えば反射層132bは、ウインドシールド2における運転者1側と反対側の面に形成されている。
 これにより、第2赤外線反射層132が2つの反射層132aおよび132bからなるため、第2赤外線反射層132の厚みを増すことができる。その結果、ウインドシールド2の外面に照射される太陽光L5に含まれる赤外線をより効率的に反射して、その太陽光L5に含まれる赤外線によって、ドライバモニタリングカメラ120による撮像に与える影響をより低減することができる。
 (変形例2)
 図5は、実施の形態の変形例2における撮像表示システムの構成例を示す図である。
 本変形例における撮像表示システム102は、上記実施の形態における撮像表示システム100と同様の構成を備えるとともに、さらに、赤外線透過部121を備える。
 赤外線透過部121は、赤外線に対して透光性を有し、赤外線よりも赤外線以外の光に対する反射率または吸収率が高い性質を有する。このような赤外線透過部121は、例えば図5に示すように、ドライバモニタリングカメラ120の前、すなわち、ドライバモニタリングカメラ120と透光カバー114との間に配置される。
 また、ドライバモニタリングカメラ120は、変形例1と同様、赤外線カメラである。したがって、ドライバモニタリングカメラ120は、透光カバー114側から赤外線透過部121を介してドライバモニタリングカメラ120内部の撮像素子に入射する赤外線によって、運転者1を撮像する。
 これにより、例えば可視光である外光の影響を抑えて運転者1をより適切に撮像することができる。例えば、太陽光L5の影響を抑えることができる。
 なお、本変形例では、赤外線透過部121は、ドライバモニタリングカメラ120と透光カバー114との間にあるが、ドライバモニタリングカメラ120に取着されていてもよく、そのドライバモニタリングカメラ120の内部に収められていてもよい。
 (変形例3)
 図6は、実施の形態の変形例3における撮像表示システムの構成例を示す図である。
 本変形例における撮像表示システム103は、上記実施の形態における撮像表示システム100におけるドライバモニタリングカメラ120の代わりに、ドライバモニタリングカメラ120aを備える。
 このドライバモニタリングカメラ120aの表面には、可視光に対する反射率が支持体115よりも低い低反射層が形成されている。
 したがって、例えば、太陽光などに含まれる可視光がドライバモニタリングカメラ120aに照射されても、そのドライバモニタリングカメラ120aによって反射されたその可視光である外光L4の強度を弱めることができる。したがって、外光L4が運転者1に届き難くすることができる。つまり、外光L4が、透光カバー114によってウインドシールド2側に向けて反射され、さらに、そのウインドシールド2によって運転者1側に向けて反射されても、運転者1がドライバモニタリングカメラ120aの像を視認し難くすることができる。つまり、運転者1がそのドライバモニタリングカメラ120aに気付き難くすることができ、外界の見易さを向上することができる。
 なお、本変形例では、ドライバモニタリングカメラ120aの表面全体に低反射層が形成されているが、少なくとも一部にその低反射層が形成されていてもよい。
 (変形例4)
 図7は、実施の形態の変形例4における撮像表示システムの構成例を示す図である。
 本変形例における撮像表示システム104は、上記実施の形態における撮像表示システム100と同様の構成を備えるとともに、さらに、光源140を備える。
 光源140は、支持体115に支持され、赤外線を第3光L3として出射する。この光源140から出射される第3光L3は、透光カバー114によってウインドシールド2側に向けて反射され、かつ、ウインドシールド2によって運転者1側に向けて反射される。つまり、光源140からの赤外線である第3光L3は、透光カバー114から、表示部112から出射された第1光L1と略同一の光路を経由して運転者1に届く。また、本変形例におけるドライバモニタリングカメラ120は、赤外線カメラである。
 その結果、運転者1がその第3光L3によって照らし出されるため、ドライバモニタリングカメラ120は、その運転者1の輝度が高い監視画像Pic2を撮像によって生成することができる。さらに、第3光L3の照射範囲をドライバモニタリングカメラ120の撮像範囲Aに簡単に合わせることができるため、光源140は無駄に広い範囲に第3光L3を出射することなく、その第3光L3の照射パワーを抑えることができる。
 (変形例5)
 図8は、実施の形態の変形例5における撮像表示システムの構成例を示す図である。
 本変形例における撮像表示システム105は、上記実施の形態における撮像表示システム100と同様の構成を備えるとともに、さらに、駆動部150と、制御部160とを備える。なお、図8では、撮像表示システム105の一部が部分的に示されている。
 このような撮像表示システム105は、ドライバモニタリングカメラ120の撮像範囲を外光に応じてシフトさせる。
 具体的には、駆動部150は、ドライバモニタリングカメラ120を例えば傾けることによって、そのドライバモニタリングカメラ120の光軸を移動させる。
 制御部160は、ドライバモニタリングカメラ120による撮像によって得られる監視画像Pic2に基づいて、駆動部150を制御する。
 図9は、制御部160による処理を説明するための図である。
 制御部160は、監視画像Pic2における第2領域12が第1領域11から予め定められた距離以下の位置にある場合に、ドライバモニタリングカメラ120の光軸の移動を駆動部150に実行させる。第1領域11は、運転者1の一部が映し出されている領域であって、例えば、運転者1の両目が映し出されている領域である。例えば、制御部160は、監視画像Pic2に対する例えばパターンマッチングなどの画像処理を行うことによって、その第1領域を特定する。第2領域12は、第1領域11よりも高い輝度を有する領域であって、例えば、太陽光L5によって明るく照らされた領域である。また、例えば、第2領域12の平均輝度が、第1領域11の平均輝度よりも高くてもよく、第2領域12の最高輝度が、第1領域11の最高輝度よりも高くてもよい。そして、第1領域11と第2領域12との間の距離は、それらの領域間の最短の距離でもよく、それらの領域の中心間の距離であってもよい。
 したがって、制御部160は、明るい第2領域12が第1領域11に近いときに、そのドライバモニタリングカメラ120の光軸を駆動部150に移動させる。また、その予め定められた距離が0であれば、制御部160は、明るい第2領域12が第1領域11に重なるときに、そのドライバモニタリングカメラ120の光軸を駆動部150に移動させる。
 これにより、ドライバモニタリングカメラ120の光軸が移動するため、撮像範囲Aを例えば撮像範囲A1にシフトさせることができる。その結果、第2領域12を第1領域11から離すことができる可能性を高めることができる。
 したがって、第2領域12が第1領域11に重なって、その第1領域11に映し出されている運転者1の一部が不鮮明になってしまうことを防ぐ可能性を高めることができる。例えば、その運転者1の一部が両目である場合、その不鮮明な第1領域11を含む監視画像Pic2では、その運転者1が眠い状態か、よそ見をしている状態かなど、どのような状態にあるのかを特定することが難しい。しかし、本変形例における撮像表示システム105では、第2領域12が第1領域11に重なって第1領域11が不鮮明になってしまうことを抑制することができるため、運転者1の状態を適切に監視することができる。
 また、上述の例では、撮像範囲Aを撮像範囲A1に変えるために、ドライバモニタリングカメラ120の光軸を移動させたが、光軸が互いに異なる2つのドライバモニタリングカメラの切り替えを行ってもよい。
 図10は、実施の形態の変形例5における撮像表示システム105の他の構成例を示す図である。
 図10に示す撮像表示システム105は、2つのドライバモニタリングカメラ120および122を備える。つまり、撮像表示システム105は、ドライバモニタリングカメラ120と光軸が異なるドライバモニタリングカメラ122を備える。
 そして、図10に示す撮像表示システム105は、図8に示す駆動部150の代わりに切替部170を備える。切替部170は、運転者1の撮像に用いられるカメラをドライバモニタリングカメラ120とドライバモニタリングカメラ122とに切り替える。また、図10に示す例では、制御部160は、ドライバモニタリングカメラ120による撮像によって得られる監視画像Pic2に基づいて、その切替部170を制御する。
 つまり、制御部160は、図9に示すように、監視画像Pic2における第2領域12が第1領域11から予め定められた距離以下の位置にある場合に、ドライバモニタリングカメラ120からドライバモニタリングカメラ122への切り替えを切替部170に実行させる。
 したがって、制御部160は、明るい第2領域12が第1領域11に近いときに、切替部170を制御することにより、運転者1の撮像に用いられるカメラをそのドライバモニタリングカメラ120からドライバモニタリングカメラ122に切り替える。また、その予め定められた距離が0であれば、制御部160は、明るい第2領域12が第1領域11に重なるときに、切替部170を制御することにより、運転者1の撮像に用いられるカメラを切り替える。
 これにより、カメラが切り替えられるため、撮像範囲Aを例えば撮像範囲A1に変えることができる。その結果、ドライバモニタリングカメラ122による撮像によって得られる監視画像では、ドライバモニタリングカメラ120の監視画像Pic2と比べて、第2領域12が第1領域11から遠く離れている可能性を高めることができる。
 図11は、制御部160の処理動作を示すフローチャートである。
 まず、制御部160は、監視画像Pic2から第1領域11を特定する(ステップS1)。
 次に、制御部160は、第1領域11よりも高い輝度を有する第2領域12がその監視画像Pic2に存在するか否かを判定する(ステップS2)。
 ここで、制御部160は、第2領域12が存在すると判定すると(ステップS2のYes)、さらに、第2領域12が第1領域11から0以下の距離の位置にあるか否か、すなわち、第2領域12が第1領域11に重なるか否かを判定する(ステップS3)。ここで、制御部160は、重なると判定すると(ステップS3のYes)、図8に示す例では、ドライバモニタリングカメラ120の光軸を駆動部150に移動させる(ステップS4)。また、図10に示す例では、制御部160は、切替部170を制御することにより、運転者1の撮像に用いられるカメラを、ドライバモニタリングカメラ120からドライバモニタリングカメラ122に切り替える。
 そして、制御部160は、運転者1のモニタリングの処理を終了するための条件が満たされたか否かを判定する(ステップS5)。例えば、制御部160は、車両のイグニッションスイッチがオフにされたときに、その条件が満たされたと判定する。ここで、制御部160は、その条件が満たされたと判定すると(ステップS5のYes)、モニタリングの処理を終了する。一方、その条件が満たされていないと判定すると(ステップS5のNo)、制御部160は、ステップS1からの処理を繰り返し実行する。なお、ステップS1が繰り返されるときには、先のステップS1で第1領域11が特定された監視画像Pic2ではなく、ドライバモニタリングカメラ120によって新たに得られた監視画像Pic2に対して、第1領域11の特定が行われる。
 なお、駆動部150によって光軸の移動が繰り返し行われるときには、その光軸は、上向きと下向きとに交互に移動してもよく、上向きおよび下向きの何れか一方にのみ移動してもよい。また、ステップS4でカメラの切り替えが行われ、その後にステップS1からの処理が繰り返される場合には、切り替え後のカメラによって得られる監視画像に対してステップS1~S3の処理が行われる。例えば、ステップS4において、運転者1の撮像に用いられるカメラが、ドライバモニタリングカメラ120からドライバモニタリングカメラ122に切り替えられた後には、ドライバモニタリングカメラ122がドライバモニタリングカメラ120の代わりに用いられる。つまり、ステップS1では、制御部160は、ドライバモニタリングカメラ122による撮像によって得られた監視画像から第1領域11を特定する。そして、その後のステップS4では、制御部160は、切替部170を制御することにより、運転者1の撮像に用いられるカメラを、ドライバモニタリングカメラ122からドライバモニタリングカメラ120に切り替える。
 また、図10の例では、撮像表示システム105は、2つのドライバモニタリングカメラ120および122を備えるが、3つ以上のドライバモニタリングカメラを備え、それらのカメラに対する切り替えを行ってもよい。例えば、制御部160は、3つ以上のドライバモニタリングカメラのそれぞれの監視画像のうち、第2領域12が第1領域11から最も離れている監視画像を選択してもよい。
 (その他の変形例)
 以上、一つまたは複数の態様に係る撮像表示システムについて、実施の形態およびその変形例に基づいて説明したが、本開示は、この実施の形態および変形例に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を上記実施の形態およびその変形例に施したものや、実施の形態および各変形例における構成要素を組み合わせて構築される形態も、本開示の範囲内に含まれてもよい。
 例えば、上記実施の形態および各変形例では、撮像表示システムは、ドライバモニタリングカメラ120を備えて、運転者1の監視のために、そのドライバモニタリングカメラ120に撮像をさせる。しかし、運転者1の監視のために限らず、他の目的でそのドライバモニタリングカメラ120に撮像させてもよい。この場合には、ドライバモニタリングカメラ120は、単にカメラ120として用いられ、その撮像表示システムのユーザを撮像する。
 また、上記実施の形態および各変形例では、撮像表示システムは車両に搭載されているが、その車両に搭載されていなくてもよく、ウインドシールド2は、表示媒体として機能するものであれば、どのようなものであってもよい。
 また、上記実施の形態および各変形例における第1赤外線反射層131、第2赤外線反射層132、および赤外線透過部121のそれぞれは、公知の材質によって構成されていてもよい。
 また、本開示では、実施の形態およびその変形例を用いて、HUDを有する撮像表示システムについて説明したが、この撮像表示システムは、HUDを備えていなくてもよい。この場合には、撮像表示システムは、撮像システムとも呼べる。このような撮像システムは、反射板と、その反射板の少なくとも一部を覆うように配置される支持体115に支持されるドライバモニタリングカメラ120とを備える。なお、反射板は、透光カバー114であってもよく、表示媒体であるウインドシールド2側からの光を反射する機能があれば、透光カバー114のように可視光に対する透光性を有していなくてもよい。そして、そのドライバモニタリングカメラ120は、その支持体115における反射板側の面に配置される。このようなドライバモニタリングカメラ120は、例えば運転者1であるユーザ側からの光がウインドシールド2によって反射板側に向けて反射されることによってその反射板に映し出されるユーザを撮像する。このような撮像システムでは、上述の撮像表示システムと同様に、ユーザを適切に撮像することができる。
 なお、上記変形例5における駆動部150、制御部160、および切替部170などの各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記変形例5の制御部160を実現するソフトウェアは、図11に示すフローチャートの各ステップを実行させるプログラムである。
 本開示の撮像表示システムは、例えば車両に搭載されて、その車両の運転者に虚像を視認させながらその運転者を撮像する車載機器として利用可能である。
 1  運転者(ユーザ)
 2  ウインドシールド(表示媒体)
 100~105  撮像表示システム
 110  HUD
 111  筐体
 112  表示部
 113a  第1ミラー
 113b  第2ミラー
 114  透光カバー
 115  支持体
 120,120a,122  ドライバモニタリングカメラ(カメラ)
 121  赤外線透過部
 131  第1赤外線反射層
 132  第2赤外線反射層
 132a,132b  反射層
 140  光源
 150  駆動部
 160  制御部
 170  切替部
 A、A1  撮像範囲
 B  アイボックス
 L1  第1光
 L2  第2光
 L3  第3光
 L4  外光
 L5  太陽光
 Pic1、Pic2  監視画像(撮像画像)

Claims (9)

  1.  画像を示す第1光を出射する表示部と、
     少なくとも1つのミラーを含む光学系と、
     開口を有し、前記表示部および前記光学系を囲う筐体と、
     前記筐体の前記開口の少なくとも一部を塞ぐように配置される透光性を有する透光カバーと、
     前記透光カバーの少なくとも一部を覆うように前記筐体の外側に連結される支持体に支持されるカメラとを備え、
     前記表示部から出射される前記第1光は、前記光学系を介して前記透光カバーを透過し、表示媒体によってユーザ側に向けて反射され、
     前記カメラは、
     前記支持体における前記透光カバー側の面に配置され、
     前記ユーザ側からの第2光が前記表示媒体によって前記透光カバー側に向けて反射されることによって前記透光カバーに映し出される前記ユーザを撮像する、
     撮像表示システム。
  2.  前記透光カバーには、可視光よりも赤外線に対する反射率が高く、かつ可視光に対して透光性を有する第1赤外線反射層が積層され、
     前記カメラは、赤外線カメラである、
     請求項1に記載の撮像表示システム。
  3.  前記表示媒体には、可視光よりも赤外線に対する反射率が高く、かつ可視光に対して透光性を有する第2赤外線反射層が積層されている、
     請求項2に記載の撮像表示システム。
  4.  前記第2赤外線反射層は、2つの反射層からなり、
     前記2つの反射層のうちの一方は、前記表示媒体における前記ユーザ側の面に形成され、
     前記2つの反射層のうちの他方は、前記表示媒体における前記ユーザ側と反対側の面に形成されている、
     請求項3に記載の撮像表示システム。
  5.  前記撮像表示システムは、さらに、
     赤外線に対して透光性を有し、赤外線よりも赤外線以外の光に対する反射率または吸収率が高い赤外線透過部を備え、
     前記カメラは、赤外線カメラであって、前記透光カバー側から前記赤外線透過部を介して前記カメラ内部の撮像素子に入射する赤外線によって、前記ユーザを撮像する、
     請求項1~4の何れか1項に記載の撮像表示システム。
  6.  前記カメラの少なくとも一部には、可視光に対する反射率が前記支持体よりも低い低反射層が形成されている、
     請求項1に記載の撮像表示システム。
  7.  前記撮像表示システムは、さらに、
     前記支持体に支持され、赤外線を第3光として出射する光源を備え、
     前記カメラは、赤外線カメラであって、
     前記光源から出射される前記第3光は、前記透光カバーによって前記表示媒体側に向けて反射され、かつ、前記表示媒体によって前記ユーザ側に向けて反射される、
     請求項1~6の何れか1項に記載の撮像表示システム。
  8.  前記撮像表示システムは、さらに、
     前記カメラの光軸を移動させる駆動部と、
     前記カメラによる撮像によって得られる撮像画像に基づいて、前記駆動部を制御する制御部とを備え、
     前記制御部は、
     前記撮像画像における前記ユーザの一部が映し出されている第1領域よりも高い輝度を有する第2領域が、前記第1領域から予め定められた距離以下の位置にある場合に、前記カメラの光軸の移動を前記駆動部に実行させる、
     請求項1~7の何れか1項に記載の撮像表示システム。
  9.  前記撮像表示システムは、さらに、
     前記カメラである第1カメラと異なる第2カメラと、
     前記ユーザの撮像に用いられるカメラを前記第1カメラと前記第2カメラとに切り替える切替部と、
     前記第1カメラによる撮像によって得られる撮像画像に基づいて、前記切替部を制御する制御部とを備え、
     前記制御部は、
     前記撮像画像における前記ユーザの一部が映し出されている第1領域よりも高い輝度を有する第2領域が、前記第1領域から予め定められた距離以下の位置にある場合に、前記第1カメラから前記第2カメラへの切り替えを前記切替部に実行させる、
     請求項1~7の何れか1項に記載の撮像表示システム。
PCT/JP2021/001360 2020-03-31 2021-01-15 撮像表示システム WO2021199583A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
DE112021002117.6T DE112021002117T5 (de) 2020-03-31 2021-01-15 Bildaufnahme- und Anzeigesystem
CN202180023127.3A CN115335253A (zh) 2020-03-31 2021-01-15 摄像显示***
US17/950,606 US20230019596A1 (en) 2020-03-31 2022-09-22 Imaging and display system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020063144A JP7504387B2 (ja) 2020-03-31 撮像表示システム
JP2020-063144 2020-03-31

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/950,606 Continuation US20230019596A1 (en) 2020-03-31 2022-09-22 Imaging and display system

Publications (1)

Publication Number Publication Date
WO2021199583A1 true WO2021199583A1 (ja) 2021-10-07

Family

ID=77929810

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/001360 WO2021199583A1 (ja) 2020-03-31 2021-01-15 撮像表示システム

Country Status (4)

Country Link
US (1) US20230019596A1 (ja)
CN (1) CN115335253A (ja)
DE (1) DE112021002117T5 (ja)
WO (1) WO2021199583A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011152883A (ja) * 2010-01-28 2011-08-11 Toyota Motor Corp 撮像装置
WO2018110041A1 (ja) * 2016-12-12 2018-06-21 富士フイルム株式会社 投写型表示装置、投写型表示装置の制御方法、投写型表示装置の制御プログラム
JP2018103883A (ja) * 2016-12-27 2018-07-05 矢崎総業株式会社 ドライバー撮像装置
JP2019128389A (ja) * 2018-01-22 2019-08-01 三菱電機株式会社 ヘッドアップディスプレイ装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180037116A1 (en) 2016-08-04 2018-02-08 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Combined head up display (hud) and camera system

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011152883A (ja) * 2010-01-28 2011-08-11 Toyota Motor Corp 撮像装置
WO2018110041A1 (ja) * 2016-12-12 2018-06-21 富士フイルム株式会社 投写型表示装置、投写型表示装置の制御方法、投写型表示装置の制御プログラム
JP2018103883A (ja) * 2016-12-27 2018-07-05 矢崎総業株式会社 ドライバー撮像装置
JP2019128389A (ja) * 2018-01-22 2019-08-01 三菱電機株式会社 ヘッドアップディスプレイ装置

Also Published As

Publication number Publication date
US20230019596A1 (en) 2023-01-19
DE112021002117T5 (de) 2023-03-09
CN115335253A (zh) 2022-11-11
JP2021160498A (ja) 2021-10-11

Similar Documents

Publication Publication Date Title
JP5392276B2 (ja) 虚像表示装置
CN110471181B (zh) 车辆用显示装置
JP6297238B1 (ja) 車両用表示装置
JP6489841B2 (ja) ヘッドアップディスプレイ
CN110471182B (zh) 车辆用显示装置
CN112744158A (zh) 显示***
JP2010243940A (ja) 画像表示装置
JP6737291B2 (ja) 表示装置及びヘッドアップディスプレイ
WO2021199574A1 (ja) 表示装置
JP2015152718A (ja) ヘッドアップディスプレイ装置
WO2020235675A1 (ja) ヘッドアップディスプレイ装置
CN112748575A (zh) 车辆用显示装置
KR20180122020A (ko) 헤드업 디스플레이 장치
US11812200B2 (en) Head-up display apparatus
JP2019028137A (ja) 車両用表示装置
JP7492670B2 (ja) 車両用表示装置
JP7268073B2 (ja) 車両用表示装置
JP2006069473A (ja) ヘッドアップディスプレイ
CN113325572A (zh) 可穿戴显示设备及注视点的位置的确定方法
WO2021199583A1 (ja) 撮像表示システム
JP7504387B2 (ja) 撮像表示システム
JP6907256B2 (ja) 車両用表示装置
JP7476747B2 (ja) 車両用表示装置
CN113022448B (zh) 显示***
JPH07101266A (ja) 車両用ヘッドアップディスプレイ

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21780544

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 21780544

Country of ref document: EP

Kind code of ref document: A1