JP5949509B2 - Mutual recognition notification system and mutual recognition notification device - Google Patents

Mutual recognition notification system and mutual recognition notification device Download PDF

Info

Publication number
JP5949509B2
JP5949509B2 JP2012267579A JP2012267579A JP5949509B2 JP 5949509 B2 JP5949509 B2 JP 5949509B2 JP 2012267579 A JP2012267579 A JP 2012267579A JP 2012267579 A JP2012267579 A JP 2012267579A JP 5949509 B2 JP5949509 B2 JP 5949509B2
Authority
JP
Japan
Prior art keywords
vehicle
driver
light emission
mutual recognition
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012267579A
Other languages
Japanese (ja)
Other versions
JP2014115732A (en
Inventor
敏裕 山方
敏裕 山方
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2012267579A priority Critical patent/JP5949509B2/en
Priority to DE112013005834.0T priority patent/DE112013005834B4/en
Priority to PCT/JP2013/006960 priority patent/WO2014087607A1/en
Publication of JP2014115732A publication Critical patent/JP2014115732A/en
Application granted granted Critical
Publication of JP5949509B2 publication Critical patent/JP5949509B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/161Decentralised systems, e.g. inter-vehicle communication
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/26Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic
    • B60Q1/50Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking
    • B60Q1/547Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to indicate the vehicle, or parts thereof, or to give signals, to other traffic for indicating other intentions or conditions, e.g. request for waiting or overtaking for issuing requests to other traffic participants; for confirming to other traffic participants they can proceed, e.g. they can overtake
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/008Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection

Description

本発明は、自車両に対する障害物を検出して運転者に通知する装置に関する。   The present invention relates to an apparatus for detecting an obstacle to a host vehicle and notifying a driver.

従来、車両運転時に運転者にとって死角となる領域を監視し、死角に他の車両(以降、相手車両)を検出した場合には、自車両の運転者に相手車両の存在を通知する装置がある(例えば特許文献1)。特許文献1では、自車両の運転者と相手車両の運転者の両方から視認することができる位置に自車両の発光装置を取付け、相手車両を検出した場合には、その発光装置を発光させることで自車両の運転者および相手車両の運転者に注意を促している。   2. Description of the Related Art Conventionally, there is a device that monitors an area that becomes a blind spot for a driver when driving a vehicle, and notifies the driver of the own vehicle of the existence of the partner vehicle when another vehicle (hereinafter, a partner vehicle) is detected in the blind spot. (For example, patent document 1). In Patent Document 1, a light emitting device of the own vehicle is attached at a position that can be visually recognized by both the driver of the own vehicle and the driver of the opponent vehicle, and when the opponent vehicle is detected, the light emitting device is caused to emit light. This alerts the driver of the host vehicle and the driver of the other vehicle.

特開2005−18235号公報JP 2005-18235 A

しかしながら、特許文献1に記載の技術では、相手車両の運転者が自車両の発光を認識しているかどうか、すなわち、相手車両の運転者が自車両を認識しているかは、自車両の運転者にとって不明であるという問題があった。   However, in the technique described in Patent Document 1, whether the driver of the partner vehicle recognizes the light emission of the host vehicle, that is, whether the driver of the partner vehicle recognizes the host vehicle is determined by the driver of the host vehicle. There was a problem that it was unknown.

本発明は、以上の事情を鑑みて成されたものであり、その目的とするところは、相手車両の運転者が自車両を認識していることを、自車両の運転者が認識可能な相互認識通知システムおよび相互認識通知装置を提供することにある。   The present invention has been made in view of the above circumstances, and an object of the present invention is to make it possible for the driver of the host vehicle to recognize that the driver of the partner vehicle recognizes the host vehicle. To provide a recognition notification system and a mutual recognition notification device.

その目的を達成するための相互認識通知システムの発明は、第1、第2の車両でそれぞれ用いられ、各車両の運転者が相互の存在を認識したことを通知するための相互認識通知装置を備える相互認識通知システムであって、
第1の車両に搭載される第1の相互認識通知装置(100)は、
前記第1の車両を運転する第1の運転者からは視認できない死角に存在する第2の車両を検出する車両検出手段(11b)と、
前記車両検出手段で前記第2の車両を検出したことを前記第1の運転者に通知する車両通知手段(21 S210)と、
前記車両通知手段の通知に基づいて前記第1の運転者が前記第2の車両を認識したことを入力するための第1の入力手段(24)と、
前記第1の車両の、前記第2の車両を運転する第2の運転者から直接視認可能な位置に取り付けられてあって、かつ、前記第1の入力手段に入力があった場合に発光する発光装置(25)と、を備え、
前記第2の車両に搭載される第2の相互認識通知装置(100)は、
前記発光装置の発光を前記第2の運転者が認識した場合に、前記第2の運転者が前記発光を認識したことを入力するための第2の入力手段(24)と、
前記第2の入力手段に入力があった場合に、前記第2の運転者が前記第1の車両を認識していることを前記第1の運転者に報知する応答信号を前記第1の車両に出力する応答手段(21 S370)と、を備え、
前記第1の相互認識通知装置は、さらに、
前記応答信号を検出する応答信号検出手段(11c)と、
前記応答信号検出手段で前記応答信号を検出した場合に、前記第2の運転者が前記第1の車両を認識していることを前記第1の運転者に通知する応答受信通知手段(21 S440)と、を備えることを特徴とする。
The invention of the mutual recognition notification system for achieving the object is a mutual recognition notification device used for the first and second vehicles, respectively, for notifying that the driver of each vehicle has recognized the mutual existence. A mutual recognition notification system comprising:
The first mutual recognition notification device (100) mounted on the first vehicle is:
Vehicle detection means (11b) for detecting a second vehicle existing in a blind spot that cannot be seen by a first driver driving the first vehicle;
Vehicle notification means (21 S210) for notifying the first driver that the vehicle detection means has detected the second vehicle;
First input means (24) for inputting that the first driver has recognized the second vehicle based on the notification of the vehicle notification means;
Light is emitted when the first vehicle is mounted at a position that is directly visible from a second driver who drives the second vehicle, and there is an input to the first input means. A light emitting device (25),
The second mutual recognition notification device (100) mounted on the second vehicle is:
Second input means (24) for inputting that the second driver recognizes the light emission when the second driver recognizes the light emission of the light emitting device;
When there is an input to the second input means, a response signal for notifying the first driver that the second driver recognizes the first vehicle is the first vehicle. Response means (21 S370) for outputting to
The first mutual recognition notification device further includes:
Response signal detecting means (11c) for detecting the response signal;
Response reception notifying means (21 S440) for notifying the first driver that the second driver recognizes the first vehicle when the response signal is detected by the response signal detecting means. ).

また、相互認識通知装置の発明は、上記相互認識通知システムにおいて用いられる第1、第2の相互認識通知装置の両方の機能を備えることを特徴とする。   In addition, the invention of the mutual recognition notification device includes both functions of the first and second mutual recognition notification devices used in the mutual recognition notification system.

このような構成では、相手車両(第2の車両)の運転者が自車両(第1の車両)の発光を認識している場合には、第2の入力手段に入力操作をすることで自車両に対して応答信号を出力する。そして自車両の相互認識通知装置はこの応答信号を検出すると、自車両の運転者に応答があったことを通知する。   In such a configuration, when the driver of the opponent vehicle (second vehicle) recognizes the light emission of the own vehicle (first vehicle), the driver performs an input operation on the second input means. A response signal is output to the vehicle. When the mutual recognition notifying device of the own vehicle detects this response signal, it notifies the driver of the own vehicle that there is a response.

したがって、自車両の発光に対して相手車両から応答信号が返ってきた場合には、相手車両の運転者が自車両を認識していることを自車両の運転者は認識することができる。   Therefore, when a response signal is returned from the partner vehicle for light emission from the host vehicle, the driver of the host vehicle can recognize that the driver of the partner vehicle recognizes the host vehicle.

本実施形態における相互認識通知装置100の構成を表すブロック図である。It is a block diagram showing the structure of the mutual recognition notification apparatus 100 in this embodiment. 本実施形態における相互認識通知装置100を搭載している車両の運転席周りの模式図である。It is a mimetic diagram around the driver's seat of the vehicle carrying the mutual recognition notifying device 100 in the present embodiment. 本実施形態における相互認識通知装置100を搭載している車両の正面図である。It is a front view of the vehicle carrying the mutual recognition notifying device 100 in the present embodiment. 本実施形態の相互認識通知装置100が監視する死角を説明するための概念図である。It is a conceptual diagram for demonstrating the blind spot which the mutual recognition notification apparatus 100 of this embodiment monitors. 本実施形態における相互認識通知システムの処理の流れを説明するための概念図である。It is a conceptual diagram for demonstrating the flow of a process of the mutual recognition notification system in this embodiment. 本実施形態における自車両に搭載された相互認識通知装置100が実施する処理の流れを説明するためのフローチャートである。It is a flowchart for demonstrating the flow of the process which the mutual recognition notification apparatus 100 mounted in the own vehicle in this embodiment implements. 本実施形態における障害物検出処理の流れを説明するためのフローチャートである。It is a flowchart for demonstrating the flow of the obstruction detection process in this embodiment. 本実施形態における通知制御処理の流れを説明するためのフローチャートである。It is a flowchart for demonstrating the flow of the notification control process in this embodiment. 本実施形態における応答制御処理の流れを説明するためのフローチャートである。It is a flowchart for demonstrating the flow of the response control process in this embodiment. 本実施形態における応答認識処理の流れを説明するためのフローチャートである。It is a flowchart for demonstrating the flow of the response recognition process in this embodiment. 車両Aと車両Bの位置関係を説明するための模式図である。4 is a schematic diagram for explaining a positional relationship between a vehicle A and a vehicle B. FIG.

以下、本発明の実施形態について、図面に基づいて説明する。図1に示すように、本実施形態における相互認識通知システムが備える相互認識通知装置100は、画像処理関連部10、通知処理関連部20、および記憶部15を含んでいる。ここで、画像処理関連部10、通知処理関連部20、および記憶部15は、例えばCAN(Controller Area Network)などの通信プロトコルに準拠した車内LANでそれぞれ接続されている。記憶部15は、後述する通知発光や応答発光の発光パターンが登録されており、この記憶部15が請求項に記載の第1の記憶部および第2の記憶部に相当する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. As shown in FIG. 1, the mutual recognition notification device 100 included in the mutual recognition notification system according to the present embodiment includes an image processing related unit 10, a notification processing related unit 20, and a storage unit 15. Here, the image processing related unit 10, the notification processing related unit 20, and the storage unit 15 are respectively connected by an in-vehicle LAN that conforms to a communication protocol such as CAN (Controller Area Network). The storage unit 15 is registered with a light emission pattern of notification light emission and response light emission, which will be described later, and this storage unit 15 corresponds to a first storage unit and a second storage unit described in the claims.

また、画像処理関連部10は、画像処理装置11、顔部撮像カメラ12、死角監視カメラ13、および前方カメラ14を含んでいる。画像処理装置11と顔部撮像カメラ12、死角監視カメラ13、および前方カメラ14とは、それぞれ有線または無線による公知のネットワークで接続されており、各カメラ12〜14が撮像した各種画像データは逐次画像処理装置11に入力される。   The image processing related unit 10 includes an image processing device 11, a face imaging camera 12, a blind spot monitoring camera 13, and a front camera 14. The image processing device 11, the face imaging camera 12, the blind spot monitoring camera 13, and the front camera 14 are connected to each other by a known wired or wireless network, and various image data captured by the cameras 12 to 14 are sequentially obtained. Input to the image processing apparatus 11.

また、通知処理関連部20は、相互認識通知ECU21、車輪速センサ22、ドアミラー位置センサ23、入力装置24、発光装置25、ドアミラーモータ26、ヘッドライト27、表示装置28、および音声出力装置29を含んでいる。相互認識通知ECU21と、車輪速センサ22、ドアミラー位置センサ23、入力装置24、発光装置25、ドアミラーモータ26、ヘッドライト27、表示装置28、および音声出力装置29とはそれぞれ有線または無線による公知のネットワークで接続されている。   The notification processing related unit 20 includes a mutual recognition notification ECU 21, a wheel speed sensor 22, a door mirror position sensor 23, an input device 24, a light emitting device 25, a door mirror motor 26, a headlight 27, a display device 28, and an audio output device 29. Contains. The mutual recognition notification ECU 21, the wheel speed sensor 22, the door mirror position sensor 23, the input device 24, the light emitting device 25, the door mirror motor 26, the headlight 27, the display device 28, and the audio output device 29 are each known by wire or wireless. Connected via network.

顔部撮像カメラ12は、撮像面を運転者Uに向けた姿勢にて、車両の室内に設置されており、運転者Uの顔を含む範囲を逐次(例えば100msecごと)撮像し、その撮影画像の画像データを、画像処理装置11に逐次出力する。なお、顔部撮像カメラ12の取り付け位置は、本実施形態ではバックミラー部分に取り付けるものとするが、ステアリングコラムカバーの上などに取付けてもよい。また、顔部撮像カメラ12は、赤外線を検出することにより、可視光の少ない環境下においても撮像可能な赤外線カメラとする。なお、顔部撮像カメラ12は、赤外線カメラのほかに、可視光を感知する光学式のカメラ等であってもよい。   The face imaging camera 12 is installed in a vehicle interior with the imaging surface directed toward the driver U, sequentially captures a range including the driver U's face (for example, every 100 msec), and the captured image Are sequentially output to the image processing apparatus 11. In addition, although the attachment position of the face imaging camera 12 shall be attached to a rear-view mirror part in this embodiment, you may attach it on a steering column cover. In addition, the face imaging camera 12 is an infrared camera that can capture an image even in an environment with little visible light by detecting infrared rays. The face imaging camera 12 may be an optical camera or the like that senses visible light in addition to the infrared camera.

死角監視カメラ13は、図2に示すように自車左右に備えられているドアミラー31(31L、31R)にそれぞれ1つずつ取付けられ、自車側方から斜め後方に存在する死角をそれぞれ逐次(例えば100msecごとに)撮影する。ここで死角の一例について、図4を用いて説明する。図4において、F1は運転者Uの顔および視線が車両進行方向を向いているときにフロントウインドウ32越しに視認可能な領域を示している。R1・L1は、運転者Uが顔を進行方向に向けている状態において、それぞれ運転席および助手席のサイドウインドウ越しに運転者Uが視認可能な領域を示している。また、左右のドアミラーが、後述する後方視認位置にそれぞれ位置するときにおいて、R2は右ドアミラー31Rを介して運転者Uが視認可能な範囲であり、L2は左ドアミラー31Lを介して運転者Uが視認可能な領域である。B1は、自車後方の領域を示している。   As shown in FIG. 2, the blind spot monitoring camera 13 is attached to each of the door mirrors 31 (31L, 31R) provided on the left and right sides of the host vehicle, and the blind spots existing obliquely rearward from the side of the host vehicle are sequentially ( Take a picture (for example, every 100 msec). Here, an example of the blind spot will be described with reference to FIG. In FIG. 4, F <b> 1 indicates an area that can be visually recognized through the front window 32 when the face and line of sight of the driver U are in the vehicle traveling direction. R1 and L1 indicate regions that the driver U can visually recognize through the side windows of the driver seat and the passenger seat, respectively, in a state where the driver U faces in the traveling direction. In addition, when the left and right door mirrors are positioned at the rear viewing positions, which will be described later, R2 is a range that is visible to the driver U through the right door mirror 31R, and L2 is the driver U through the left door mirror 31L. This is a visible area. B1 has shown the area | region behind the own vehicle.

運転者の視認可能な領域(F1、R1、L1、R2、L2)は運転時の姿勢や運転者Uの体格によって変動するものであるが、ここでは一般的な運転時の姿勢を想定したときに決定される領域とする。なお、顔部撮像カメラ12が撮影する画像データから、運転者Uの姿勢や顔の向きを検出し、その検出結果から運転者の視認可能な領域を適応的に決定する構成としても良い。   The region (F1, R1, L1, R2, L2) that can be visually recognized by the driver varies depending on the driving posture and the physique of the driver U, but here, assuming a general driving posture The area determined by In addition, it is good also as a structure which detects the driver | operator's U attitude | position and face direction from the image data which the face part imaging camera 12 image | photographs, and determines the area | region which a driver | operator can visually recognize from the detection result.

ここでの死角監視カメラ13が撮影する死角とは、R1とR2に挟まれ、自車の右側方から右斜め後方に位置するRXと、L1とL2に挟まれ、自車の左側方から左斜め後方に位置するLXとする。すなわち、右ドアミラー31Rに取付けられている死角監視カメラ13を死角監視カメラ13Rとすると、死角監視カメラ13Rは、死角RXを撮影範囲に含むように設置されている。また、左ドアミラー31Lに取付けられている死角監視カメラ13を死角監視カメラ13Lとすると、死角監視カメラ13Lは、自車左斜め後方の死角LXを撮影範囲に含むように設置されている。死角となる領域(RX、LX)はドアミラーの位置によって変化するが、死角監視カメラ13の撮影範囲は、その変化しうる領域も含むものとする。   The blind spot photographed by the blind spot monitoring camera 13 here is sandwiched between R1 and R2 and is located diagonally right rearward from the right side of the host vehicle, and sandwiched between L1 and L2, and left from the left side of the host vehicle. It is assumed that LX is located obliquely rearward. That is, if the blind spot monitoring camera 13 attached to the right door mirror 31R is the blind spot monitoring camera 13R, the blind spot monitoring camera 13R is installed so as to include the blind spot RX in the imaging range. Further, if the blind spot monitoring camera 13 attached to the left door mirror 31L is a blind spot monitoring camera 13L, the blind spot monitoring camera 13L is installed so as to include the blind spot LX obliquely rearward to the left of the vehicle in the imaging range. Although the blind areas (RX, LX) change depending on the position of the door mirror, the shooting range of the blind spot monitoring camera 13 includes the changeable area.

なお、一般的に自車後方の領域においても運転者Uから見えない領域が存在するが、本実施形態では死角監視カメラ13が撮影する対象とはしない。また、R1とF1の間、およびL1とF1の間にはフロントピラーによる死角に関しても本実施形態の対象としない。ただし、他の実施形態として、これらの自車後方や自車斜め前方の死角も監視するような死角監視カメラ13を別途備える構成としてもよい。本実施形態の相互認識通知装置100が備える死角監視カメラ13は光学式カメラとするが、赤外線カメラであってもよい。なお、赤外線カメラとする場合は、後述する応答信号は赤外線によるものとする。   In general, there is an area that cannot be seen by the driver U even in the area behind the host vehicle. However, in this embodiment, the blind spot monitoring camera 13 does not take an image. Further, the blind spot due to the front pillar is not a target of the present embodiment between R1 and F1 and between L1 and F1. However, as another embodiment, a configuration in which a blind spot monitoring camera 13 that monitors the blind spots behind the host vehicle and obliquely ahead of the host vehicle may be additionally provided. The blind spot monitoring camera 13 provided in the mutual recognition notification device 100 of the present embodiment is an optical camera, but may be an infrared camera. When an infrared camera is used, a response signal described later is assumed to be infrared.

発光装置25は、図2示すように左右のドアミラー31において、自車側方または自車斜め後方を走行する他の車両(相手車両)の運転者F、および自車両の運転者Uによって視認が可能な位置に取り付けられている。発光装置25は、単数または複数の発光素子25a(たとえば発光ダイオード)を備えており、相互認識通知ECU21の指示に基づいてこれらの発光素子25aを発光させる。発光素子25aとしては、発光ダイオードのほかに発光ランプを用いてもよく、さらに発光素子25aは、複数の異なる色を発光可能なものであってもよい。   As shown in FIG. 2, the light emitting device 25 is visually recognized by the driver F of the other vehicle (the partner vehicle) and the driver U of the host vehicle that run on the side of the host vehicle or diagonally behind the host vehicle. It is attached where possible. The light emitting device 25 includes one or a plurality of light emitting elements 25a (for example, light emitting diodes), and causes these light emitting elements 25a to emit light based on instructions from the mutual recognition notification ECU 21. As the light emitting element 25a, a light emitting lamp may be used in addition to the light emitting diode, and the light emitting element 25a may emit a plurality of different colors.

発光装置25は、所定の発光パターン(点滅、色などの組み合わせ)で発光することによって、自車両の死角に存在する相手車両の運転者Fに、自車両の運転者Uが相手車両を認識していることを通知する。このときの発光を通知発光とする。また、自車両の運転者に、自車両の死角に相手車両が存在することを通知するときには、通知発光とは異なる発光パターンで発光する。このときの発光を警告発光とする。自車右側のドアミラー31Rに取付けられた発光装置25を発光装置25R、自車左側のドアミラー31Lに取付けられた発光装置25を発光装置25Lとする。   The light emitting device 25 emits light with a predetermined light emission pattern (a combination of blinking, color, and the like), so that the driver U of the own vehicle recognizes the other vehicle in the blind spot of the own vehicle. Notify that The light emission at this time is referred to as notification light emission. In addition, when notifying the driver of the host vehicle that the opponent vehicle is present in the blind spot of the host vehicle, light is emitted with a light emission pattern different from the notification light emission. The light emission at this time is referred to as warning light emission. The light emitting device 25 attached to the right side door mirror 31R is referred to as a light emitting device 25R, and the light emitting device 25 attached to the left side door mirror 31L is referred to as a light emitting device 25L.

なお、本実施形態では、図2の30(30L、30R)に示すように、発光素子25aを死角監視カメラ13の周囲を取り囲むように配設し、発光装置25と死角監視カメラ13とを一体化した構成とするが、これに限らない。死角監視カメラ13と発光装置25は分離して配設されてもよい。   In this embodiment, as shown by 30 (30L, 30R) in FIG. 2, the light emitting element 25a is disposed so as to surround the blind spot monitoring camera 13, and the light emitting device 25 and the blind spot monitoring camera 13 are integrated. However, the present invention is not limited to this. The blind spot monitoring camera 13 and the light emitting device 25 may be disposed separately.

また、発光装置25は、自車両の運転者Uおよび上述した相手車両の運転者Fのそれぞれが視認可能な位置に取り付けられていればよい。このとき、コストの観点を別にすれば、自車両の運転者Uが視認する発光装置25と、相手車両の運転者Fが視認する発光装置25は同一の発光装置25ではなく、それぞれ別の発光装置25を備える構成としてもよい。たとえば、運転者Uが視認する発光装置25はメーター周りに設けてよいし、表示装置28に表示させてもよい。相手車両の運転者Fが視認する発光装置25は、ドアミラーに限定せず、自車両において相手車両の運転者から視認可能な位置であればどこでもよい。   Moreover, the light-emitting device 25 should just be attached in the position which each of the driver | operator U of the own vehicle and the driver | operator F of the other vehicle mentioned above can visually recognize. At this time, from the viewpoint of cost, the light-emitting device 25 visually recognized by the driver U of the host vehicle and the light-emitting device 25 visually recognized by the driver F of the opponent vehicle are not the same light-emitting device 25 but are different from each other. It is good also as a structure provided with the apparatus 25. FIG. For example, the light emitting device 25 visually recognized by the driver U may be provided around the meter or may be displayed on the display device 28. The light emitting device 25 visually recognized by the driver F of the partner vehicle is not limited to the door mirror, and may be any position that is visible from the driver of the partner vehicle in the host vehicle.

前方カメラ14は、自車両前方を撮影する前方撮像手段として用いられる光学式カメラであり、自車両前方の道路や道路上に存在する他車両等の画像を逐次(例えば100msecごとに)撮影する。なお、前方カメラ14は、自車両の車室外に配置されるものであってもよいし、自車両の乗員の視界を妨げることのない車室内に配置されるものであってもよい。   The front camera 14 is an optical camera that is used as a forward imaging means for photographing the front of the host vehicle, and sequentially captures images of roads ahead of the host vehicle and other vehicles existing on the road (for example, every 100 msec). In addition, the front camera 14 may be arrange | positioned outside the passenger compartment of the own vehicle, and may be arrange | positioned in the vehicle interior which does not obstruct the view of the passenger | crew of the own vehicle.

画像処理装置11は、各種の演算処理を行うプロセッサ、当該演算処理に用いられるプログラム等が格納されたフラッシュメモリ、及び演算の作業領域として機能するRAM等を備えている。加えて画像処理装置11は、死角監視カメラ13、顔部撮像カメラ12、および前方カメラ14と接続されており、各カメラ12〜14より、それぞれが撮影した画像データを逐次取得するインタフェースを有している。   The image processing apparatus 11 includes a processor that performs various types of arithmetic processing, a flash memory that stores programs used for the arithmetic processing, a RAM that functions as a calculation work area, and the like. In addition, the image processing apparatus 11 is connected to the blind spot monitoring camera 13, the face imaging camera 12, and the front camera 14, and has an interface for sequentially acquiring image data captured by each of the cameras 12 to 14. ing.

画像処理装置11が備える機能の1つである視線方向検出部11aは、顔部撮像カメラ12が撮影した画像データを逐次取得し、その画像データから、公知の画像処理技術によって、顔領域と、顔領域における目領域と、黒目部分などを検出する。本実施形態の顔部撮像カメラ12は自車両に固定して設置されているとともに、撮像方向も固定されているため、画像データにおける顔領域の位置や大きさに応じて、運転者Uの顔が位置すると想定される位置を算出できる。そして、視線方向検出部11aは顔領域の大きさと顔領域における目領域の位置および黒目の位置から、運転者Uの顔の向きや視線方向を算出する。   The line-of-sight direction detection unit 11a, which is one of the functions of the image processing apparatus 11, sequentially acquires image data captured by the face imaging camera 12, and from the image data, a face region and An eye area and a black eye part in the face area are detected. Since the face imaging camera 12 of the present embodiment is fixedly installed on the host vehicle and the imaging direction is also fixed, the face of the driver U is determined according to the position and size of the face area in the image data. It is possible to calculate a position that is assumed to be located. The gaze direction detection unit 11a calculates the face direction and gaze direction of the driver U from the size of the face area, the position of the eye area in the face area, and the position of the black eye.

画像処理装置11が備える機能の1つである車両検出部11bは、死角監視カメラ13が撮影した画像データを逐次取得し、その画像データから自動車、オートバイ、自転車、人などの障害物を公知のパターンマッチング法を用いて検出する。パターンマッチング法に用いる自動車などの形状パターンのデータは、たとえば画像処理装置11のフラッシュメモリ等に記憶させておけばよい。   The vehicle detection unit 11b, which is one of the functions of the image processing apparatus 11, sequentially acquires image data captured by the blind spot monitoring camera 13, and makes known obstacles such as automobiles, motorcycles, bicycles, and people from the image data. Detection is performed using a pattern matching method. Data on the shape pattern of an automobile or the like used for the pattern matching method may be stored in, for example, a flash memory of the image processing apparatus 11.

車両検出部11bで画像データから障害物を検出した場合には、画像データにおける障害物の位置と大きさから、その障害物の自車に対する相対位置を求める。また、連続したフレーム間における障害物の位置および大きさの変位量から、その障害物の移動速度や自車両に対する角度変化を算出する。そして、自車両に接近している障害物を、運転者Uに通知すべき障害物として検出する。なお、この車両検出部11bが請求項に記載の車両検出手段に相当する。   When the vehicle detection unit 11b detects an obstacle from the image data, the relative position of the obstacle to the own vehicle is obtained from the position and size of the obstacle in the image data. Further, the moving speed of the obstacle and the angle change with respect to the host vehicle are calculated from the displacement amount of the position and size of the obstacle between successive frames. Then, an obstacle approaching the host vehicle is detected as an obstacle to be notified to the driver U. In addition, this vehicle detection part 11b is equivalent to the vehicle detection means as described in a claim.

画像処理装置11が備える機能の1つである発光検出部11cは、死角監視カメラ13および前方カメラ14が撮影した画像データを逐次取得し、その画像データから光源を抽出し、他の車両が搭載する相互認識通知装置100による発光パターンを検出する。光源を抽出する方法としては、画像データの中から所定の閾値以上の明るさ(輝度)を有する部分を光源とすればよい。そして、カルマンフィルタなどを利用した画像処理によって、検出した光源の位置を追尾し、その光源の発光パターンを検出する。発光検出部11cは、検出した光源の発光パターンが記憶部15に記憶されている発光パターンと一致するか照合し、一致した場合にはその照合結果を相互認識通知ECU21に通知する。なお、死角監視カメラ13が撮影した画像データに基づいて、後述する応答発光を検出する発光検出部11cが請求項に記載の応答信号検出手段に相当する。また、前方カメラ14が撮影した画像データに基づいて通知発光を検出する発光検出部11cが請求項に記載の発光検出手段に相当する。   The light emission detection unit 11c, which is one of the functions of the image processing apparatus 11, sequentially acquires image data taken by the blind spot monitoring camera 13 and the front camera 14, extracts a light source from the image data, and is mounted on another vehicle. The light emission pattern by the mutual recognition notifying device 100 is detected. As a method for extracting the light source, a portion having brightness (luminance) equal to or higher than a predetermined threshold value from the image data may be used as the light source. Then, the position of the detected light source is tracked by image processing using a Kalman filter or the like, and the light emission pattern of the light source is detected. The light emission detection unit 11c checks whether the detected light emission pattern of the light source matches the light emission pattern stored in the storage unit 15. If the light emission pattern matches, the light emission detection unit 11c notifies the mutual recognition notification ECU 21 of the comparison result. Note that the light emission detection unit 11c that detects response light emission, which will be described later, based on the image data captured by the blind spot monitoring camera 13 corresponds to the response signal detection means described in the claims. Moreover, the light emission detection part 11c which detects notification light emission based on the image data image | photographed with the front camera 14 is equivalent to the light emission detection means as described in a claim.

なお、画像処理装置11が実施する処理は、以上で述べた視線方向検出部11a、車両検出部11b、発光検出部11cに限らず、その他の画像処理に関する処理も実施する。また、各検出部11a〜cからの検出結果などを含む情報データは、逐次相互認識通知ECU21に出力される。   Note that the processing performed by the image processing apparatus 11 is not limited to the line-of-sight direction detection unit 11a, the vehicle detection unit 11b, and the light emission detection unit 11c described above, and performs other processing related to image processing. Information data including detection results from the detection units 11a to 11c is sequentially output to the mutual recognition notification ECU 21.

車輪速センサ22は、各車輪の回転速度から自車両の速度を検出するためのセンサである。車輪速センサ22で検出した値は、相互認識通知ECU21に出力される。ドアミラー位置センサ23は、自車両に備えられた左右のドアミラーの位置を検出するためのセンサである。ドアミラー位置センサ23で検出した値は、相互認識通知ECU21に出力される。   The wheel speed sensor 22 is a sensor for detecting the speed of the host vehicle from the rotational speed of each wheel. The value detected by the wheel speed sensor 22 is output to the mutual recognition notification ECU 21. The door mirror position sensor 23 is a sensor for detecting the positions of the left and right door mirrors provided in the host vehicle. The value detected by the door mirror position sensor 23 is output to the mutual recognition notification ECU 21.

入力装置24は、入力のために運転者Uにより操作される少なくとも1つのスイッチ(図示せず)を備えている。運転者Uは、入力装置24に備えられているスイッチを押すことで、死角に存在する相手車両を認識したことを相互認識通知ECU21に入力することができる。すなわち、運転者Uが入力装置24に備えられたスイッチを操作すると、運転者Uが相手車両を認識していることを示す相手車両認識信号が相互認識通知ECU21に出力される。相互認識通知ECU21は、相手車両認識信号が入力されることで自車両の運転者Uが相手車両を認識している状態であると判定する。なお、以上の一連の入力操作を認識入力操作と称する。   The input device 24 includes at least one switch (not shown) operated by the driver U for input. The driver U can input to the mutual recognition notification ECU 21 that he / she has recognized the opponent vehicle existing in the blind spot by pressing a switch provided in the input device 24. That is, when the driver U operates a switch provided in the input device 24, a partner vehicle recognition signal indicating that the driver U recognizes the partner vehicle is output to the mutual recognition notification ECU 21. The mutual recognition notification ECU 21 determines that the driver U of the own vehicle recognizes the opponent vehicle when the opponent vehicle recognition signal is input. The series of input operations described above is referred to as a recognition input operation.

また、入力装置24は、ドアミラーモータ26を介してドアミラーを後述する死角捕捉位置まで動かすように運転者Uが相互認識通知ECU21に指示するためのスイッチを、さらに備えていても良い。このドアミラーを死角捕捉位置まで動かす入力操作をドアミラー調整入力操作と称する。   The input device 24 may further include a switch for the driver U to instruct the mutual recognition notification ECU 21 to move the door mirror to a blind spot capturing position to be described later via the door mirror motor 26. An input operation for moving the door mirror to the blind spot capturing position is referred to as a door mirror adjustment input operation.

さらに、入力装置24は、自車両の運転者Uが、他の車両(相手車両)が実施した通知発光を認識したことを相互認識通知ECU21に入力するためのスイッチを、さらに備えていてもよい。すなわち、運転者Uがこのスイッチを操作すると、運転者Uが相手車両からの通知発光を認識したことを示す通知認識信号が、相互認識通知ECU21に出力される。通知認識信号を受信した相互認識通知ECU21は、自車両の運転者Uが相手車両からの通知発光を認識している状態であると判定する。この一連の入力操作を応答入力操作と称する。   Furthermore, the input device 24 may further include a switch for inputting to the mutual recognition notification ECU 21 that the driver U of the own vehicle has recognized the notification light emission performed by another vehicle (the partner vehicle). . That is, when the driver U operates this switch, a notification recognition signal indicating that the driver U has recognized the notification light emission from the opponent vehicle is output to the mutual recognition notification ECU 21. The mutual recognition notification ECU 21 that has received the notification recognition signal determines that the driver U of the host vehicle recognizes the notification light emission from the partner vehicle. This series of input operations is referred to as a response input operation.

なお、これらの入力操作は、必ずしもそれぞれ異なるスイッチによって実行されるものではなく、同一のスイッチによって実現されても良い。すなわち、異なる条件において同一のスイッチを操作された場合、その条件によって異なる処理を実行するように予めプログラムされることで実現されてもよい。入力装置24に備えられているスイッチの数を1つとすることで、部品点数を削減するとともに、運転者Uの操作間違えを低減することができる。   Note that these input operations are not necessarily executed by different switches, and may be realized by the same switch. That is, when the same switch is operated under different conditions, it may be realized by being programmed in advance so as to execute different processes depending on the conditions. By setting the number of switches provided in the input device 24 to one, it is possible to reduce the number of parts and to reduce mistakes in the operation of the driver U.

本実施形態では、以上で述べたことを踏まえ、入力装置24は1つのスイッチを備えた構成とする。そして、運転者Uが入力装置24を操作したときの相互認識通知装置100の作動を制御するための処理上のフラグとして、動作フラグWを導入する。すなわち、動作フラグW=0の状態で入力装置24が押された場合には認識入力操作とし、W=1の状態で入力装置24が押された場合にはドアミラー調整入力操作とする。W=2のときに入力装置24が押された場合には応答入力操作とする。   In the present embodiment, based on the above description, the input device 24 is configured to include one switch. Then, an operation flag W is introduced as a processing flag for controlling the operation of the mutual recognition notifying device 100 when the driver U operates the input device 24. That is, when the input device 24 is pressed with the operation flag W = 0, the recognition input operation is performed, and when the input device 24 is pressed with W = 1, the door mirror adjustment input operation is performed. If the input device 24 is pressed when W = 2, a response input operation is performed.

また、この入力装置24は、運転中の運転者Uにとって操作しやすい位置に配設されることが好ましく、本実施形態では、ハンドルに設けられたステアリングスイッチとする。この入力装置24が請求項に記載の第1の入力手段、第2の入力手段、第3の入力手段に相当する。   In addition, the input device 24 is preferably disposed at a position where it can be easily operated by the driver U during driving. In this embodiment, the input device 24 is a steering switch provided on the steering wheel. This input device 24 corresponds to the first input means, the second input means, and the third input means recited in the claims.

また、入力装置24としては上記のような物理的にスイッチを備える構成でなくてもよい。例えば、上述したスイッチに相当する選択肢が表示装置28に表示されるように制御し、その表示装置28上の選択肢に運転者Uがタッチ操作することで入力操作する構成としても良い。あるいは、入力装置24は公知の音声認識装置であって、運転者Uの音声によって各種指示が入力される構成としてもよい。   Further, the input device 24 may not be configured to physically include a switch as described above. For example, a configuration may be adopted in which an option corresponding to the above-described switch is controlled to be displayed on the display device 28, and the driver U performs an input operation by touching the option on the display device 28. Alternatively, the input device 24 is a known voice recognition device, and various instructions may be input by the voice of the driver U.

相互認識通知ECU21は、マイクロコンピュータを主として構成され、いずれも周知のCPU、ROM・RAM・EEPROM等のメモリ、I/O、及びこれらを接続するバスによって構成される。相互認識通知ECU21は、車輪速センサ22、ドアミラー位置センサ23、入力装置24および画像処理装置11より各種情報データを取得する。そして、これら各種情報データに基づいてROMに記憶された各種の制御プログラムを実行し、自車両の運転者Uおよび自車両の死角に存在する相手車両の運転者F間で相互認識通知に関連する処理(以下、相互認識通知関連処理)等の各種の処理を実行する。   The mutual recognition notification ECU 21 is mainly composed of a microcomputer, and is composed of a well-known CPU, a memory such as a ROM / RAM / EEPROM, an I / O, and a bus connecting them. The mutual recognition notification ECU 21 acquires various information data from the wheel speed sensor 22, the door mirror position sensor 23, the input device 24, and the image processing device 11. Then, various control programs stored in the ROM are executed based on the various information data, and the mutual recognition notification is performed between the driver U of the own vehicle and the driver F of the opponent vehicle existing in the blind spot of the own vehicle. Various processes such as a process (hereinafter referred to as a mutual recognition notification related process) are executed.

ドアミラーモータ26は、車両の外部に設けられたドアミラー31の位置(角度を含む)を移動(すなわち回転)させるものである。このドアミラーモータ26は、相互認識通知ECU21からの制御信号(駆動信号)に応じてドアミラーの位置を、所定の後方視認位置から相互認識通知ECU21が算出する死角補足位置へ、また、死角補足位置から所定の後方視認位置へ回転させる。   The door mirror motor 26 moves (that is, rotates) the position (including the angle) of the door mirror 31 provided outside the vehicle. The door mirror motor 26 moves the position of the door mirror from a predetermined rear view position to a blind spot supplementary position calculated by the mutual recognition notice ECU 21 according to a control signal (drive signal) from the mutual recognition notice ECU 21 and from the blind spot supplementary position. Rotate to a predetermined rear view position.

ここで、所定の後方視認位置とは、車両走行時に後方を視認するためのドアミラーの位置であり、運転者Uの好みに応じたドアミラーの位置を示すものである。後方視認位置は、走行開始時にドライバが設定したドアミラー位置を後方視認位置として記憶しておく。また、運転者Uが予めドアミラー位置や座席位置など、好みの運転環境をEEPROM等の不揮発性メモリを含む記憶部15に登録している場合には、その登録されているドアミラー位置を用いる構成としてもよい。   Here, the predetermined rear viewing position is a position of the door mirror for visually confirming the rear when the vehicle is traveling, and indicates the position of the door mirror according to the preference of the driver U. As the rear visual recognition position, the door mirror position set by the driver at the start of traveling is stored as the rear visual recognition position. In addition, when the driver U has previously registered a favorite driving environment such as a door mirror position and a seat position in the storage unit 15 including a nonvolatile memory such as an EEPROM, the registered door mirror position is used. Also good.

また、死角捕捉位置とは、死角に存在する相手車両を運転者がドアミラー31を介して視認するためのドアミラー位置であって、死角監視カメラ13が検出している相手車両の相対的な位置と、運転者Uの顔の位置と、ドアミラー31Rの位置とから決定される。   The blind spot capturing position is a door mirror position for the driver to visually recognize the partner vehicle existing in the blind spot through the door mirror 31, and the relative position of the partner vehicle detected by the blind spot monitoring camera 13. It is determined from the position of the face of the driver U and the position of the door mirror 31R.

所定の後方視認位置から死角補足位置に回転させるためのドアミラーモータ26の回転量は、死角補足位置に応じて設定される。相互認識通知ECU21は、この回転量を示す値を、所定の後方視認位置、死角捕捉位置から、メモリ(図示省略)に予め記憶しておいたプログラムで算出し、ドアミラーモータ26を回転させる。   The amount of rotation of the door mirror motor 26 for rotating from a predetermined rear view position to the blind spot supplementary position is set according to the blind spot supplementary position. The mutual recognition notification ECU 21 calculates a value indicating the amount of rotation from a predetermined backward viewing position and blind spot capturing position by a program stored in advance in a memory (not shown), and rotates the door mirror motor 26.

ヘッドライト27は、運転者Uからの操作、または、相互認識通知ECU21からの制御に基づいて自車前方に可視光を照射する。   The headlight 27 irradiates visible light ahead of the host vehicle based on an operation from the driver U or a control from the mutual recognition notification ECU 21.

表示装置28は、相互認識通知ECU21の指示に従って、図示しない表示部にテキストや画像を表示する。例えば表示装置28は、フルカラー表示が可能なものであり、液晶ディスプレイ、有機ELディスプレイ等を用いて構成することができる。また、表示装置28としては、例えば、車載ナビゲーション装置に設けられたディスプレイを利用する構成としてもよいし、車載ナビゲーション装置のディスプレイとは別に、インストゥルメントパネル等に設けたディスプレイを用いる構成としてもよい。   The display device 28 displays text and images on a display unit (not shown) in accordance with instructions from the mutual recognition notification ECU 21. For example, the display device 28 is capable of full-color display and can be configured using a liquid crystal display, an organic EL display, or the like. Further, as the display device 28, for example, a configuration using a display provided in the in-vehicle navigation device may be used, or a configuration using a display provided in an instrument panel or the like separately from the display of the in-vehicle navigation device. Good.

音声出力装置29は、スピーカ等から構成され、相互認識通知ECU21の指示に従って音声を出力する。なお、音声出力装置29としては、例えば、車載ナビゲーション装置に設けられた音声出力装置29を利用する構成とする。   The audio output device 29 is composed of a speaker or the like, and outputs audio in accordance with instructions from the mutual recognition notification ECU 21. In addition, as the audio | voice output apparatus 29, it is set as the structure which utilizes the audio | voice output apparatus 29 provided in the vehicle-mounted navigation apparatus, for example.

次に、図5を用いて自車両および相手車両において実施される相互認識通知関連処理の概略を説明する。自車両、相手車両は、ともに同一の機能を有する相互認識通知装置100を搭載しており、自車両が請求項に記載の第1の車両、相手車両が請求項に記載の第2の車両にそれぞれ相当する。また、自車両の搭載する相互認識通知装置100が第1の相互認識通知装置、相手車両の搭載する相互認識通知装置100が第2の相互認識通知装置としてそれぞれ機能する。よって、この自車両と相手車両のそれぞれに搭載される相互認識通知装置100を備えるシステムが請求項に記載の相互認識通知システムに相当する。   Next, the outline of the mutual recognition notification related process performed in the own vehicle and the partner vehicle will be described with reference to FIG. The own vehicle and the opponent vehicle are both equipped with the mutual recognition notification device 100 having the same function. The own vehicle is the first vehicle described in the claims, and the opponent vehicle is the second vehicle described in the claims. Each corresponds. Further, the mutual recognition notification device 100 mounted on the host vehicle functions as a first mutual recognition notification device, and the mutual recognition notification device 100 mounted on the counterpart vehicle functions as a second mutual recognition notification device. Therefore, a system including the mutual recognition notification device 100 mounted on each of the host vehicle and the counterpart vehicle corresponds to the mutual recognition notification system described in the claims.

自車両では、自車両の死角に障害物が存在するかどうかを検出する障害物検出処理(ステップS100)は逐次実施している。そして、自車両の死角に車両(相手車両)が存在し(ステップS50)、この相手車両を障害物検出処理で検出した場合、自車両では通知制御処理(ステップS200)を開始する。自車両に搭載された相互認識通知装置100は、自車両の運転者Uが相手車両を認識しているかを判定する。そして、自車両の運転者Uが相手車両を認識しており、かつ、自車両の運転者Uより認識している旨の通知を行うように指示する入力操作が入力装置24にあった場合に、発光装置25を通知発光させる。相手車両に搭載される相互認識通知装置100では、応答制御処理が開始され(ステップS300)、相手車両の運転者Fは自車両への通知発光を認識すると、入力装置24のスイッチを押す。相手車両の相互認識通知装置は、運転者Fによる入力装置24への入力操作を受けて、ヘッドライト27を所定のパターンで発光(応答発光)させる。自車両の相互認識通知装置100は、応答認識処理(ステップS400)で相手車両からの応答発光を死角監視カメラ13で検出すると、相手車両が自車両の通知発光を認識していることを運転者Uに通知する。以上の手順によって、自車両の運転者Uおよび相手車両の運転者Fは、お互いに認識していることを共有することができる。以降では各処理について、より詳細に説明する。   In the host vehicle, the obstacle detection process (step S100) for detecting whether there is an obstacle in the blind spot of the host vehicle is sequentially performed. Then, when a vehicle (partner vehicle) exists in the blind spot of the host vehicle (step S50) and this partner vehicle is detected by the obstacle detection process, the host vehicle starts a notification control process (step S200). The mutual recognition notification device 100 mounted on the host vehicle determines whether the driver U of the host vehicle recognizes the opponent vehicle. Then, when the input device 24 has an input operation for instructing that the driver U of the own vehicle recognizes the opponent vehicle and that the driver U of the own vehicle recognizes the other vehicle. The light emitting device 25 emits notification light. In the mutual recognition notifying device 100 mounted on the partner vehicle, the response control process is started (step S300). When the driver F of the partner vehicle recognizes the notification light emission to the host vehicle, the switch of the input device 24 is pressed. In response to an input operation to the input device 24 by the driver F, the partner vehicle mutual recognition notification device causes the headlight 27 to emit light (response light emission) in a predetermined pattern. When the self-vehicle mutual recognition notifying device 100 detects the response light emission from the opponent vehicle by the blind spot monitoring camera 13 in the response recognition process (step S400), the driver recognizes that the opponent vehicle recognizes the notification light emission of the own vehicle. Notify U. Through the above procedure, the driver U of the own vehicle and the driver F of the opponent vehicle can share that they recognize each other. Hereinafter, each process will be described in more detail.

まず、図6のフローチャートを用いて自車両の相互認識通知装置100において実施される一連の処理について説明する。本フローのステップS100は、たとえば走行中において逐次(たとえば100msごとに)実施されている。ステップS100では、障害物検出処理を実施し、ステップS190に進む。この障害物検出処理は別途図7に示すフローチャートを用いて説明する。   First, a series of processes performed in the mutual recognition notification apparatus 100 of the own vehicle will be described using the flowchart of FIG. Step S100 of this flow is performed sequentially (for example, every 100 ms) during traveling, for example. In step S100, an obstacle detection process is performed, and the process proceeds to step S190. This obstacle detection process will be described separately using a flowchart shown in FIG.

図7のフローチャートは図6のステップS100に移ったときに開始され、ステップS110に進む。ステップS110では、画像処理装置11が死角監視処理を実施してステップS120に進む。ステップS110の死角監視処理では、死角監視カメラ13が撮影する画像データを逐次取得し、その画像データから自動車、オートバイ、自転車、人などの障害物を公知のパターンマッチング法を用いて検出する。ここで、死角にいずれかの障害物が存在することを検出した場合は、ステップS120がYesとなってステップS130に進む。また、死角にいずれの障害物とも一致するものがなかった場合は、ステップS120がNOとなってステップS110に戻る。   The flowchart in FIG. 7 is started when the process proceeds to step S100 in FIG. 6, and the process proceeds to step S110. In step S110, the image processing apparatus 11 performs a blind spot monitoring process and proceeds to step S120. In the blind spot monitoring process in step S110, image data taken by the blind spot monitoring camera 13 is sequentially acquired, and obstacles such as automobiles, motorcycles, bicycles, and people are detected from the image data using a known pattern matching method. Here, when it is detected that any obstacle exists in the blind spot, Step S120 becomes Yes and the process proceeds to Step S130. If no blind spot matches any obstacle, step S120 is NO and the process returns to step S110.

ステップS130では、障害物を検出した画像データの取得元から、障害物が存在する側を特定する。ここでは、死角監視カメラ13Rから取得した画像データにおいて障害物を検出した場合は自車右側に障害物が存在するとし、死角監視カメラ13Lから取得した画像データにおいて障害物を検出した場合は自車左側に障害物が存在するとする。   In step S130, the side where the obstacle exists is specified from the acquisition source of the image data that detected the obstacle. Here, if an obstacle is detected in the image data acquired from the blind spot monitoring camera 13R, an obstacle is present on the right side of the host vehicle. If an obstacle is detected in the image data acquired from the blind spot monitoring camera 13L, the host vehicle is detected. Suppose that there is an obstacle on the left side.

ステップS130で障害物が存在する側を特定した後は、障害物の形状と、画像処理装置11のフラッシュメモリに記憶されている人の形状パターンとを照合し、障害物が人であるかを判定する(ステップS140)。障害物の形状が人の形状パターンと一致した場合は、ステップS140がYesとなってステップS185に進む。障害物の形状が人の形状パターンと一致しなかった場合は、ステップS140がNoとなってステップS150に進む。   After identifying the side on which the obstacle exists in step S130, the shape of the obstacle is compared with the shape pattern of the person stored in the flash memory of the image processing apparatus 11 to determine whether the obstacle is a person. Determination is made (step S140). If the shape of the obstacle matches the human shape pattern, step S140 becomes Yes and the process proceeds to step S185. If the shape of the obstacle does not match the human shape pattern, step S140 is No and the process proceeds to step S150.

ステップS150では、障害物の形状と、車両の形状パターンとを照合し、障害物が車両であるかを判定する。車両の形状パターンとしては、大型車両、小型車両、輸送用車両、スポーツカー、オートバイ、自転車など、各種類に応じた車両形状をそれぞれ画像処理装置11のフラッシュメモリなどに登録しておけばよい。障害物の形状がいずれかの車両の形状パターンと一致した場合は、ステップS150がYesとなってステップS160に進む。障害物の形状がいずれの車両の形状パターンとも一致しなかった場合は、ステップS150がNoとなってステップS185に進む。   In step S150, the shape of the obstacle is compared with the shape pattern of the vehicle to determine whether the obstacle is a vehicle. As the vehicle shape pattern, a vehicle shape corresponding to each type, such as a large vehicle, a small vehicle, a transportation vehicle, a sports car, a motorcycle, or a bicycle, may be registered in the flash memory of the image processing apparatus 11. If the shape of the obstacle matches the shape pattern of any vehicle, step S150 is Yes and the process proceeds to step S160. If the shape of the obstacle does not match the shape pattern of any vehicle, step S150 is No and the process proceeds to step S185.

ステップS160では、相対速度算出処理を実施してステップS170に進む。ステップS160の相対速度算出処理では、まず死角監視カメラ13が取得した画像データにおける障害物の位置と大きさから、その障害物の自車に対する相対位置を求める。そして、連続するフレーム間において公知の画像処理技術によってその障害物を追尾し、その障害物の位置および大きさの変位量から、その障害物の自車に対する相対速度や移動方向を算出する。ここで、障害物が接近中であると判定された場合には、ステップS170がYesとなってステップS180に進む。また、障害物が接近中ではない場合にはステップS170がNoとなってステップS110に戻る。   In step S160, a relative speed calculation process is performed, and the process proceeds to step S170. In the relative speed calculation process in step S160, first, the relative position of the obstacle with respect to the own vehicle is obtained from the position and size of the obstacle in the image data acquired by the blind spot monitoring camera 13. Then, the obstacle is tracked by a known image processing technique between successive frames, and the relative speed and moving direction of the obstacle with respect to the own vehicle are calculated from the displacement amount of the position and size of the obstacle. If it is determined that the obstacle is approaching, step S170 is Yes and the process proceeds to step S180. If the obstacle is not approaching, step S170 is No and the process returns to step S110.

ステップS180では、以上の処理で検出した障害物を、通知すべき障害物(相手車両)と判定する。そして、通知すべき障害物を検出していることを内部状態として保持して障害物検出処理を抜ける(図6のステップS190に戻る)。   In step S180, the obstacle detected by the above process is determined as an obstacle to be notified (an opponent vehicle). Then, the fact that the obstacle to be notified is detected is held as an internal state, and the obstacle detection process is exited (return to step S190 in FIG. 6).

ステップS185は、ステップS140およびステップS150において、検出した障害物が車両ではないと判定した場合の処理である。ステップS185では、非車両対応処理を実施し、通知すべき障害物を検出していないことを内部状態として保持して障害物検出処理を抜ける。ここで、非車両対応処理とは、検出した障害物の種類に応じた処理を実施するように適宜設計されればよく、本実施形態の対象としないため言及しない。   Step S185 is processing when it is determined in steps S140 and S150 that the detected obstacle is not a vehicle. In step S185, a non-vehicle handling process is performed, and it is retained as an internal state that an obstacle to be notified is not detected, and the obstacle detection process is exited. Here, the non-vehicle handling process may be appropriately designed to perform a process according to the type of the detected obstacle, and is not mentioned because it is not a target of the present embodiment.

図6のステップS190では、ステップS100の障害物検出処理によって、通知すべき障害物を検出しているか否かを判定する。通知すべき障害物を検出している場合はステップS190がYesとなってステップS200に進む。通知すべき障害物を検出していない場合はステップS190がNoとなってステップS100に戻る。   In step S190 of FIG. 6, it is determined whether or not an obstacle to be notified is detected by the obstacle detection process in step S100. If an obstacle to be notified is detected, step S190 is Yes and the process proceeds to step S200. If no obstacle to be notified is detected, step S190 is No and the process returns to step S100.

ステップS200では、通知制御処理を実施し、ステップS290に進む。この通知制御処理は別途図8に示すフローチャートを用いて説明する。   In step S200, notification control processing is performed, and the process proceeds to step S290. This notification control process will be described separately using a flowchart shown in FIG.

図8のフローチャートは図6のステップS200に移ったときに開始され、ステップS205に進む。ステップS205では、動作フラグWをW=0として初期化し、ステップS210に進む。動作フラグWは、運転者Uが入力装置24を押したときの本実施形態における相互認識通知装置100の作動を制御するための、単なる処理上のフラグである。   The flowchart of FIG. 8 is started when the process proceeds to step S200 in FIG. 6, and the process proceeds to step S205. In step S205, the operation flag W is initialized as W = 0, and the process proceeds to step S210. The operation flag W is a mere processing flag for controlling the operation of the mutual recognition notifying device 100 in the present embodiment when the driver U presses the input device 24.

ステップS210では、相互認識通知ECU21は発光装置25を発光させるための指示信号を出力し、発光装置25を所定時間(警告発光時間T1)発光させる。この警告発光時間は適宜設計されればよく、たとえば2秒とする。また、発光とともに、表示装置28にも、死角に相手車両が存在する旨を運転者Uに通知する警告表示をすることで運転者Uの視線を、相手車両が存在する側のドアミラーまたは相手車両方向に誘導する。ステップS210で運転者Uに警告表示を実施した後、ステップS215に進む。なお、このステップS210が請求項に記載の車両通知手段に相当する。   In step S210, the mutual recognition notification ECU 21 outputs an instruction signal for causing the light emitting device 25 to emit light, and causes the light emitting device 25 to emit light for a predetermined time (warning light emission time T1). This warning light emission time may be designed as appropriate, for example, 2 seconds. In addition to the light emission, the display device 28 also displays a warning to notify the driver U that the opponent vehicle is present in the blind spot, so that the driver's line of sight can be displayed on the door mirror or the opponent vehicle on the side where the opponent vehicle exists. Guide in the direction. After displaying a warning to the driver U in step S210, the process proceeds to step S215. This step S210 corresponds to the vehicle notification means described in the claims.

ステップS215では、視線検出処理を実施してステップS220に進む。ステップS215の視線検出処理では、顔部撮像カメラ12が撮影した画像データから、公知の画像処理技術によって、運転者Uの視線方向を算出する。この視線検出処理は、発光装置25の警告発光が開始した時点を起算時刻として、所定時間(視線検出時間T2)継続して実施する。視線検出時間T2は、たとえば2秒とする。なお、このステップS215が請求項に記載の第1の視線方向検出手段に相当する。   In step S215, the line-of-sight detection process is performed, and the process proceeds to step S220. In the line-of-sight detection process in step S215, the line-of-sight direction of the driver U is calculated from image data captured by the face imaging camera 12 by a known image processing technique. This line-of-sight detection process is carried out continuously for a predetermined time (line-of-sight detection time T2), starting from the time when the warning light emission of the light emitting device 25 starts. The line-of-sight detection time T2 is, for example, 2 seconds. This step S215 corresponds to the first line-of-sight direction detecting means described in the claims.

ステップS220では、この視線検出時間T2内に、運転者Uが相手車両が存在する方向(相手車両方向)を直接視認したか否かを判定する。直接視認したか否かは次のように判定する。まず前提として、運転者Uは、死角に存在する相手車両を、ドアミラーを介して視認することはできない。運転者Uが相手車両を直接視認するためには、視線の移動だけではなく顔ごと振り向く必要がある。そこで、顔ごと相手車両方向へ振り向いた場合に、相手車両方向を直接視認したと判定する。なお、顔ごと相手車両方向を振り向いたかどうかは、顔部撮像カメラ12の取得する画像データ内の顔領域や目などの特徴点の動きを公知の画像処理技術によって検出すればよい。   In step S220, it is determined whether or not the driver U has directly visually recognized the direction in which the opponent vehicle exists (the opponent vehicle direction) within the line-of-sight detection time T2. It is determined as follows whether or not it has been directly visually recognized. First, as a premise, the driver U cannot visually recognize the opponent vehicle existing in the blind spot through the door mirror. In order for the driver U to directly view the opponent vehicle, it is necessary to turn around not only the line of sight but also the face. Therefore, when the face turns around in the direction of the opponent vehicle, it is determined that the opponent vehicle direction is directly visually recognized. Whether the face of the opponent vehicle is turned around with the face may be detected by a known image processing technique based on the movement of feature points such as a face area and eyes in the image data acquired by the face imaging camera 12.

そして視線検出時間T2内に、顔部撮像カメラ12の撮影した画像データより運転者Uが相手車両方向へ振り向く動作を検出した場合はその時点でステップS220がYesとなって、ステップS225に進む。また、視線検出時間T2内に、運転者Uが相手車両方向へ振り向く動作を検出しなかった場合は、ステップS220がNoとなってステップS235に進む。なお、このステップS220が請求項に記載の直接視認判定手段に相当する。   If the movement of the driver U turning toward the opponent vehicle is detected from the image data captured by the face imaging camera 12 within the line-of-sight detection time T2, step S220 is Yes at that time, and the process proceeds to step S225. On the other hand, if the driver U does not detect an action of turning in the direction of the opponent vehicle within the line-of-sight detection time T2, step S220 is No and the process proceeds to step S235. In addition, this step S220 is equivalent to the direct visual recognition determination means described in the claims.

ステップS225では、動作フラグW=0とし、ステップS230に進む。ステップS230では、ステップS220において相手車両を直接目視したと判定した時点を起算時刻として、所定時間(入力時間T3=2秒)内に、運転者Uによって入力装置24が操作されたかを判定する。自車両の運転者Uは、自分が死角に存在する相手車両を認識していることを、相手車両の運転者Uへ通知したい場合に、入力時間T3内にスイッチを操作する。なお、T2とT3をそれぞれ個別に設定したが、ステップS210の警告発光からS230がYesとなるまでを合わせた時間制限(たとえば2秒)を設けてもよい。   In step S225, the operation flag W = 0 is set, and the process proceeds to step S230. In step S230, it is determined whether the input device 24 has been operated by the driver U within a predetermined time (input time T3 = 2 seconds), starting from the time point when it was determined that the opponent vehicle was directly viewed in step S220. The driver U of the host vehicle operates the switch within the input time T3 when he / she wants to notify the driver U of the partner vehicle that he / she recognizes the partner vehicle existing in the blind spot. Although T2 and T3 are individually set, a time limit (for example, 2 seconds) may be provided in which the warning light emission in step S210 to S230 become Yes.

入力時間T3内に入力装置24が操作された場合には、ステップS230がYesとなってステップS265に進む。また、入力時間T3経過しても、入力装置24が操作されなかった場合には、ステップS230がNoとなってステップS270に進む。   If the input device 24 is operated within the input time T3, step S230 is Yes and the process proceeds to step S265. If the input device 24 is not operated even after the input time T3 has elapsed, step S230 is No and the process proceeds to step S270.

ステップS235では、上述した視線検出時間T2内において、運転者Uが相手車両の存在する側のドアミラー(説明のため、仮に右側のドアミラー31Rとする)を見たか否かを判定する。運転者Uがドアミラー31Rを見たかどうかは、視線方向検出部11aの検出結果に基づいて判定すればよい。すなわち、視線方向検出部11aが検出した運転者Uの視線方向がドアミラー31Rの方向(運転者Uの顔部の位置からドアミラーが取り付けられている位置への方向)と一致すれば、運転者Uがドアミラー31Rを見たとする。視線検出時間T2内に運転者Uがドアミラー31Rを見た場合にはステップS235がYesとなってステップS240に進む。また、視線検出時間T2を経過しても運転者Uがドアミラー31Rを見なかった場合にはステップS235がNoとなって、ステップS270に進む。   In step S235, it is determined whether or not the driver U has seen the door mirror on the side where the opponent vehicle is present (for the sake of explanation, the right door mirror 31R is assumed) within the above-described line-of-sight detection time T2. Whether or not the driver U has seen the door mirror 31R may be determined based on the detection result of the line-of-sight direction detection unit 11a. That is, if the line-of-sight direction of the driver U detected by the line-of-sight direction detection unit 11a matches the direction of the door mirror 31R (the direction from the position of the face of the driver U to the position where the door mirror is attached), the driver U Suppose you look at the door mirror 31R. If the driver U views the door mirror 31R within the line-of-sight detection time T2, Step S235 is Yes and the process proceeds to Step S240. If the driver U does not see the door mirror 31R even after the sight line detection time T2 has elapsed, step S235 is No and the process proceeds to step S270.

ステップS240では、動作フラグW=1とし、ステップS245に進む。ステップS245では、動作フラグW=1となった時点(≒ドアミラー31Rを見た時点)を起算時刻として、起算時刻より入力時間T3内に、運転者Uによって入力装置24が操作されたかを判定する。起算時刻より入力時間T3内に入力装置24が操作された場合は、その時点でステップS245がYesとなってステップS250に進む。また、入力時間T3経過しても入力装置24が操作されなかった場合は、ステップS245がNoとなって、ステップS270に進む。   In step S240, the operation flag W = 1 is set, and the process proceeds to step S245. In step S245, it is determined whether the input device 24 has been operated by the driver U within the input time T3 from the starting time when the operation flag W = 1 (≈when the door mirror 31R is viewed). . If the input device 24 is operated within the input time T3 from the starting time, step S245 is Yes at that time, and the process proceeds to step S250. If the input device 24 is not operated even after the input time T3 has elapsed, step S245 is No and the process proceeds to step S270.

ステップS250では、死角捕捉処理を実施した後、動作フラグW=0としてステップS255に進む。このステップS250の死角捕捉処理では、ドアミラー31Rの位置を、通常時設定されている後方視認位置から、死角捕捉位置へと回転させる。ここで、死角捕捉位置は、死角監視カメラ13が検出している相手車両の相対的な位置と、運転者Uの顔の位置と、ドアミラー31Rの位置とから決定される。   In step S250, after performing the blind spot capturing process, the operation flag W = 0 is set, and the process proceeds to step S255. In the blind spot capturing process in step S250, the position of the door mirror 31R is rotated from the rear viewing position set at the normal time to the blind spot capturing position. Here, the blind spot capturing position is determined from the relative position of the opponent vehicle detected by the blind spot monitoring camera 13, the face position of the driver U, and the position of the door mirror 31R.

より具体的には、ドアミラー31Rの鏡面部の中心位置を頂点として、運転者Uの顔の位置と相手車両とが為す角を求める。相手車両の位置は、車両検出部11bで検出した車両形状の中心位置とすればよい。そして、ドアミラー31Rの鏡面部の中心を通る法線が、前述した運転者Uの顔の位置と相手車両とが為す角の二等分線となるように、ドアミラー31Rの位置を決定する。なお、これの処理におけるドアミラー31R、運転者Uの顔の位置、相手車両の位置は、それぞれ路面に平行な座標系上で扱えばよい。   More specifically, the angle formed by the position of the driver U's face and the opponent vehicle is obtained with the center position of the mirror surface portion of the door mirror 31R as the apex. The position of the opponent vehicle may be the center position of the vehicle shape detected by the vehicle detection unit 11b. Then, the position of the door mirror 31R is determined so that the normal passing through the center of the mirror surface portion of the door mirror 31R becomes a bisector of the angle formed by the driver U's face position and the opponent vehicle. Note that the door mirror 31R, the position of the driver U's face, and the position of the opponent vehicle in this processing may be handled on a coordinate system parallel to the road surface.

死角捕捉位置を決定した後は、現在のドアミラー31Rを後方視認位置から死角捕捉位置まで回転させるためのドアミラーモータ26の回転量を計算し、その回転量だけドアミラーモータ26を回転させる。なお、ドアミラー31Rは後方視認位置から死角捕捉位置に移ってから所定の時間(たとえば4秒)経過すると、自動的に死角捕捉位置から後方視認位置に戻るものとする。   After the blind spot capturing position is determined, the rotation amount of the door mirror motor 26 for rotating the current door mirror 31R from the rear viewing position to the blind spot capturing position is calculated, and the door mirror motor 26 is rotated by the rotation amount. It is assumed that the door mirror 31R automatically returns from the blind spot capturing position to the backward visible position when a predetermined time (for example, 4 seconds) elapses after moving from the backward visible position to the blind spot capturing position.

ステップS255では、ドアミラー31Rが死角捕捉位置に到達した時点を起算時刻として、起算時刻より視線検出時間T2内において、運転者Uがドアミラー31Rを見たか否かを判定する。運転者Uが視線検出時間T2内にドアミラー31Rを見た場合にはステップS255がYesとなってステップS260に進む。また、視線検出時間T2を経過しても運転者Uがドアミラー31Rを見る動作をしなかった場合にはステップS255がNoとなって、ステップS270に進む。なお、このステップS255が請求項に記載の間接視認判定手段に相当する。   In step S255, it is determined whether the driver U has seen the door mirror 31R within the line-of-sight detection time T2 from the starting time, with the time when the door mirror 31R has reached the blind spot capturing position as the starting time. If the driver U sees the door mirror 31R within the line-of-sight detection time T2, step S255 is Yes and the process proceeds to step S260. If the driver U does not see the door mirror 31R even after the line-of-sight detection time T2 has elapsed, step S255 is No and the process proceeds to step S270. In addition, this step S255 is equivalent to the indirect visual recognition determination means described in the claims.

ステップS260では、ステップS255でドアミラー31Rを見た時点を起算時刻として、起算時刻より入力時間T3内に、運転者Uによって入力装置24が操作されたかを判定する。入力装置24が操作された場合は、その時点でステップS260がYesとなってステップS265に進む。また、入力時間T3経過しても入力装置24が操作されなかった場合は、ステップS260がNoとなって、ステップS270に進む。   In step S260, it is determined whether or not the input device 24 has been operated by the driver U within the input time T3 from the starting time, using the time when the door mirror 31R is viewed in step S255 as the starting time. When the input device 24 is operated, step S260 becomes Yes at that time, and the process proceeds to step S265. If the input device 24 is not operated even after the input time T3 has elapsed, step S260 is No and the process proceeds to step S270.

ステップS265では、相手車両への通知発光処理を実施して、通知制御処理を抜ける。通知発光処理では、まず相互認識通知ECU21が発光装置25に所定の発光パターンで発光(通知発光)するように指示する信号を出力する。発光装置25は、相互認識通知ECU21からの信号にしたがって、所定の発光パターンで発光する。ここで、所定の発光パターンとは、他の車両のランプなどの光源の明滅とは識別可能なように、道路上で通常観測されにくい発光パターン(たとえば、点滅を短時間に繰り返すなど)とすればよい。そして、相互認識通知ECU21は通知発光を実施したことを内部状態として保持して、図6のステップS290に戻る。   In step S265, a notification light emission process for the opponent vehicle is performed, and the notification control process is exited. In the notification light emission processing, the mutual recognition notification ECU 21 first outputs a signal instructing the light emitting device 25 to emit light (notification light emission) with a predetermined light emission pattern. The light emitting device 25 emits light with a predetermined light emission pattern in accordance with a signal from the mutual recognition notification ECU 21. Here, the predetermined light emission pattern is a light emission pattern that is difficult to observe normally on the road so that it can be distinguished from a blinking light source such as a lamp of another vehicle (for example, blinking is repeated in a short time). That's fine. Then, the mutual recognition notification ECU 21 holds that the notification light emission has been performed as an internal state, and returns to step S290 in FIG.

ステップS270では、通知制御処理を終了し、相互認識通知ECU21は通知発光を実施しなかったことを内部状態として保持して図6のステップS290に戻る。   In step S270, the notification control process is terminated, and the mutual recognition notification ECU 21 retains that the notification light emission has not been performed as an internal state, and returns to step S290 in FIG.

図6のステップS290では、ステップS200の通知制御処理で通知発光をした場合には、YesとなってステップS400に進む。また、通知発光をしなかった場合には、ステップS290がNoとなってステップS100に戻る。ステップS400では、応答認識処理を実施する。   In step S290 of FIG. 6, when the notification light emission is performed in the notification control process of step S200, the determination is Yes and the process proceeds to step S400. If the notification light emission is not performed, step S290 is No and the process returns to step S100. In step S400, a response recognition process is performed.

なお、自車両の相互認識通知関連処理におけるステップS290とステップS400の間には、相手車両での応答制御処理(図9)が実施される。そこで、ステップS400の応答認識処理について説明する前に、図9を用いて、相手車両における応答制御処理について説明する。なお、自車両と相手車両という関係は、それぞれの車両の走行位置によって相対的に定まるものであり、ひとつの車両が、ある場合には自車両となり、また別の場合には、相手車両となりうるものである。すなわち、以降で示す応答制御処理も自車両で実施されうる制御である。   In addition, the response control process (FIG. 9) in an other vehicle is implemented between step S290 and step S400 in the mutual recognition notification related process of the own vehicle. Therefore, before describing the response recognition processing in step S400, the response control processing in the opponent vehicle will be described using FIG. The relationship between the host vehicle and the partner vehicle is relatively determined by the travel position of each vehicle, and one vehicle can be the host vehicle in some cases, and can be the partner vehicle in other cases. Is. That is, the response control processing described below is control that can be performed in the host vehicle.

図9のフローチャートは、たとえば走行中において逐次(たとえば100msごとに)実施されており、ステップS305より開始する。ステップS305では、動作フラグWをW=0として初期化し、ステップS310に進む。ステップS310では、発光検出部11cで発光検出処理を実施してステップS320に進む。この発光検出処理では、前方カメラ14で撮影した画像データから、他の車両が搭載する相互認識通知装置100による通知発光を検出する。すなわち、画像データ内で検出した光源を公知の画像処理技術で複数のフレームに渡って追尾し、光源の発光パターンを検出する。そして、発光検出部11cで検出した光源の発光パターンと、記憶部15が記憶している通知発光パターンとを照合し、一致した場合には、ステップS320がYesとなって、ステップS330に進む。また、前方カメラ14から取得する画像データから、記憶部15に記憶している通知発光パターンに一致する発光を検出していない場合は、ステップS320がNoとステップS305に戻る。すなわち、記憶部15に記憶している通知発光パターンに合致する発光を検出するまで、ステップS305からステップS320を繰り返す。   The flowchart of FIG. 9 is performed sequentially (for example, every 100 ms) during traveling, for example, and starts from step S305. In step S305, the operation flag W is initialized as W = 0, and the process proceeds to step S310. In step S310, the light emission detection unit 11c performs light emission detection processing, and the process proceeds to step S320. In this light emission detection process, notification light emission by the mutual recognition notification device 100 mounted on another vehicle is detected from image data captured by the front camera 14. That is, the light source detected in the image data is tracked over a plurality of frames by a known image processing technique, and the light emission pattern of the light source is detected. Then, the light emission pattern of the light source detected by the light emission detection unit 11c and the notification light emission pattern stored in the storage unit 15 are collated. If they match, step S320 is Yes and the process proceeds to step S330. If no light emission matching the notification light emission pattern stored in the storage unit 15 is detected from the image data acquired from the front camera 14, step S320 returns No and returns to step S305. That is, step S305 to step S320 are repeated until light emission that matches the notification light emission pattern stored in the storage unit 15 is detected.

ステップS330では、発光方向算出処理を実施してステップS340に進む。発光方向算出処理では、通知発光をした光源の画像データ内の位置と、前方カメラ14の撮影方向、および前方カメラ14の取り付け位置から、その光源の方向を算出する。このステップS330が発光方向算出手段に相当する。   In step S330, a light emission direction calculation process is performed, and the process proceeds to step S340. In the light emission direction calculation process, the direction of the light source is calculated from the position in the image data of the light source that has emitted the notification light, the shooting direction of the front camera 14, and the mounting position of the front camera 14. This step S330 corresponds to the light emission direction calculating means.

ステップS340では、視線検出処理を実施してステップS350に進む。視線検出処理では、上述したように、顔部撮像カメラ12が撮影した画像データから、公知の画像処理技術によって、運転者Fの視線方向を算出する。なお、この視線検出処理は、発光検出処理で記憶部15が記憶する発光パターンと合致する光源を検出した時点を起算時刻として、視線検出時間T2の間、継続して実施する。このステップS340が請求項に記載の第2の視線方向検出手段に相当する。   In step S340, the line-of-sight detection process is performed, and the process proceeds to step S350. In the line-of-sight detection process, as described above, the line-of-sight direction of the driver F is calculated from the image data captured by the face imaging camera 12 by a known image processing technique. Note that this line-of-sight detection process is continuously performed during the line-of-sight detection time T2, with the point in time when the light source matching the light emission pattern stored in the storage unit 15 is detected in the light emission detection process. This step S340 corresponds to the second gaze direction detecting means described in the claims.

そして、起算時刻より視線検出時間T2内に、通知発光をした光源の方向と運転者Uの視線方向とが一致すると、その時点でステップS350がYesとなって、ステップS355に進む。また、視線検出時間T2経過しても、発光方向と視線方向が一致しなかった場合には、ステップS350がNoとなってステップS305に戻る。このステップS350が請求項に記載の発光視認判定手段に相当する。   Then, if the direction of the light source that has generated the notification light emission coincides with the line of sight of the driver U within the line-of-sight detection time T2 from the starting time, step S350 is Yes at that point, and the process proceeds to step S355. If the light emission direction does not coincide with the line-of-sight direction even after the line-of-sight detection time T2 has elapsed, step S350 is No and the process returns to step S305. This step S350 corresponds to the light emission visual recognition determining means described in the claims.

ステップS355では、動作フラグW=2として、ステップS360に進む。ステップS360では、通知発光をした光源の方向と運転者Fの視線方向が一致した時点を起算時刻として、起算時刻より入力時間T3内に運転者Fによって入力装置24が操作されたかを判定する。起算時刻より入力時間T3内に運転者Fによって入力装置24が操作された場合は、その時点でステップS360がYesとなってステップS370に進む。一方、起算時刻より入力時間T3経過しても、入力装置24が操作されなかった場合はステップS360がNoとなってステップS305に戻る。   In step S355, the operation flag W = 2 is set, and the process proceeds to step S360. In step S360, it is determined whether or not the input device 24 is operated by the driver F within the input time T3 from the starting time, with the time when the direction of the light source emitting the notification light coincides with the line-of-sight direction of the driver F. When the input device 24 is operated by the driver F within the input time T3 from the starting time, Step S360 is Yes at that time, and the process proceeds to Step S370. On the other hand, if the input device 24 is not operated even after the input time T3 has elapsed from the starting time, step S360 is No and the process returns to step S305.

ステップS370では、通知発光をしてきた車両(すなわち、自車両)へ、応答信号出力処理を実施し、応答制御処理を終了する。応答信号出力処理では、相互認識通知ECU21がヘッドライト27に所定の発光パターンで発光(応答発光)させる。なお、応答発光の発光パターンは、ステップS265で述べたように道路上で通常観測されにくい発光パターンであって、さらに、通知発光の発光パターンとは異なるものである。また、応答発光の光源として、ヘッドライト27にかわってフォグランプ(図示略)などその他の光源を用いてもよい。このステップ370が請求項に記載の応答手段に相当する。以上の一連の処理を、応答制御処理とする。   In step S370, a response signal output process is performed on the vehicle that has emitted the notification light (that is, the host vehicle), and the response control process ends. In the response signal output process, the mutual recognition notification ECU 21 causes the headlight 27 to emit light (response light emission) with a predetermined light emission pattern. Note that the response light emission pattern is a light emission pattern that is hardly observed on the road as described in step S265, and is different from the notification light emission pattern. Further, as a light source for response light emission, other light sources such as a fog lamp (not shown) may be used instead of the headlight 27. This step 370 corresponds to the response means described in the claims. The above series of processing is referred to as response control processing.

ここで、自車両における相互認識通知関連処理に戻り、図6のステップS400について図10を用いて説明する。図10のフローチャートは図6のステップS400に移ったときに開始され、ステップS410に進む。ステップS410では、発光検出部11cで応答信号検出処理を実施してステップS420に進む。この応答信号検出処理では、死角監視カメラ13で撮影した画像データから、相手車両からの応答発光を検出する。相手車両の応答発光であるか否かは、ステップS310で述べた発光検出処理と同様に、画像データから光源を抽出し、この光源の発光パターンが、記憶部15が記憶している応答発光パターンと一致しているかによって判定すればよい。なお、この応答信号検出処理は、通知発光を実施した時点を起算時刻として、起算時刻より所定の時間(応答検出時間T4、たとえば4秒)実施される。このステップS410を実施する発光検出部11cが請求項に記載の応答信号検出手段に相当する。   Here, returning to the mutual recognition notification-related processing in the host vehicle, step S400 in FIG. 6 will be described with reference to FIG. The flowchart of FIG. 10 is started when the process proceeds to step S400 in FIG. 6, and the process proceeds to step S410. In step S410, a response signal detection process is performed by the light emission detector 11c, and the process proceeds to step S420. In this response signal detection process, response light emission from the opponent vehicle is detected from the image data captured by the blind spot monitoring camera 13. Whether or not it is the response light emission of the opponent vehicle is extracted from the image data as in the light emission detection process described in step S310, and the light emission pattern of this light source is the response light emission pattern stored in the storage unit 15 It may be determined depending on whether or not. This response signal detection process is performed for a predetermined time (response detection time T4, for example, 4 seconds) from the start time, with the time when the notification light emission is performed as the start time. The light emission detection part 11c which implements this step S410 is equivalent to the response signal detection means described in the claims.

そして、応答検出時間T4内に、記憶部15が記憶している応答発光パターンと一致する発光を検出した場合には、ステップS420がYesとなって、ステップS430に進む。また、応答検出時間T4経過しても、記憶部15に記憶している発光パターンと一致する発光を検出していない場合は、ステップS420がNoとなって、応答なしとして応答認識処理を終了する。   If the light emission matching the response light emission pattern stored in the storage unit 15 is detected within the response detection time T4, step S420 is Yes and the process proceeds to step S430. If no light emission matching the light emission pattern stored in the storage unit 15 is detected even after the response detection time T4 has elapsed, step S420 is No, and the response recognition process is terminated with no response. .

ステップS430では、相手車両が応答発光したことを内部状態として保持し、ステップS440に進む。ステップS440では、自車両の通知発光を相手車両の運転者Fが認識していることを、自車両の運転者Uに報知する。報知方法としては、表示装置28に相互認識が成立した旨を示す表示を出力すればよい。あるいは、図示しないバックミラーの一部やメーター周りに相互認識成立灯(図示略)を設け、これを点灯することで自車両の運転者Uに報知しても良い。なお、このステップS440が請求項に記載の応答受信通知手段に相当する。   In step S430, the fact that the opponent vehicle has emitted a response light is held as an internal state, and the process proceeds to step S440. In step S440, the driver U of the host vehicle is notified that the driver F of the partner vehicle recognizes the notification light emission of the host vehicle. As a notification method, a display indicating that mutual recognition is established may be output on the display device 28. Alternatively, a mutual recognition establishment lamp (not shown) may be provided around a part of the rearview mirror (not shown) or around the meter, and the driver U of the host vehicle may be notified by lighting it. This step S440 corresponds to the response reception notifying means described in the claims.

また、本実施形態のように、相手車両が出力する応答信号の媒体をヘッドライトの光、すなわち可視光とすることで、発光検出部11cだけでなく、自車両の運転者Uも応答信号を視認することができ、よりスムーズな意思疎通を図ることができる。   Further, as in the present embodiment, the medium of the response signal output by the opponent vehicle is the light of the headlight, that is, visible light, so that not only the light emission detection unit 11c but also the driver U of the own vehicle outputs the response signal. It can be visually recognized, and smoother communication can be achieved.

ここで、以上で述べた本実施形態における一連の制御の一例を、図11を用いて説明する。図11中のAが自車両であり、通知発光などを実施する通知側の車両である。また、RXが車両Aの右側に存在する死角を示しており、Bは、その死角RXに存在し、通知発光に対して応答発光などを実施する応答側の車両(相手車両)である。車両A、車両Bともに図の矢印の方向(上方向)に前進走行しており、車両Bの走行速度は車両Aの走行速度よりも大きい。なお、車両Aの運転者を運転者U、車両Bの運転者を運転者Fとする。また、車両Aに搭載された相互認識通知装置100を100A、車両Bに搭載された相互認識通知装置100を100Bと区別する。ただし、これらは同じ機能を有する相互認識通知装置100とする。   Here, an example of a series of controls in the present embodiment described above will be described with reference to FIG. A in FIG. 11 is the host vehicle, which is a notification-side vehicle that performs notification light emission and the like. Further, RX indicates a blind spot existing on the right side of the vehicle A, and B is a responding vehicle (partner vehicle) that exists in the blind spot RX and that performs response light emission or the like with respect to notification light emission. Both the vehicle A and the vehicle B are traveling forward in the direction of the arrow (upward) in the figure, and the traveling speed of the vehicle B is higher than the traveling speed of the vehicle A. The driver of the vehicle A is the driver U, and the driver of the vehicle B is the driver F. Further, the mutual recognition notification device 100 mounted on the vehicle A is distinguished from 100A, and the mutual recognition notification device 100 mounted on the vehicle B is distinguished from 100B. However, these are the mutual recognition notification apparatus 100 having the same function.

車両Aの相互認識通知装置100Aでは、逐次障害物検出処理(S100)を実施している。すなわち、左右のドアミラーに設けた死角監視カメラ13(13L、13R)が撮影した画像データが逐次画像処理装置11の車両検出部11bに入力されている(S110)。そして、車両検出部11bで障害物を検出した場合、まず、検出した障害物が自車両の左右どちら側に存在するかを特定する(S130)。図11では、右ドアミラー31Rに備えられている死角監視カメラ13Rが撮影した画像データより、車両Bを検出する。そのため、障害物(すなわち車両B)が存在する側は右側となる。   In the mutual recognition notification device 100A of the vehicle A, obstacle detection processing (S100) is sequentially performed. That is, the image data captured by the blind spot monitoring cameras 13 (13L, 13R) provided on the left and right door mirrors are sequentially input to the vehicle detection unit 11b of the image processing device 11 (S110). When the vehicle detection unit 11b detects an obstacle, first, it is specified whether the detected obstacle exists on the left or right side of the host vehicle (S130). In FIG. 11, the vehicle B is detected from the image data captured by the blind spot monitoring camera 13R provided in the right door mirror 31R. Therefore, the side on which the obstacle (that is, vehicle B) exists is the right side.

そして、検出した障害物の形状パターンに対してパターンマッチングを実施することで、障害物が車両であると判定する(S150 Yes)。さらに、車両検出部11cにおいて、死角監視カメラ13Rで撮影する画像データに基づいて車両Bの車両Aに対する相対位置および相対速度を算出する(S160)。より具体的には、車両Bの走行速度は車両Aの速度より大きく、かつ、車両Aの右斜め後方を走行している。このため、死角監視カメラ13Rが撮影する画像データ内において、車両Bの大きさは徐々に大きくなる。このときのフレーム間における車両Bの大きさの変位量から相対速度を算出する。そして、車両Bは車両Aに接近中であることからS170がYesとなって、障害物を通知すべき障害物と判定される(S180)。   And it determines with an obstacle being a vehicle by implementing pattern matching with respect to the shape pattern of the detected obstacle (S150 Yes). Further, the vehicle detection unit 11c calculates a relative position and a relative speed of the vehicle B with respect to the vehicle A based on the image data captured by the blind spot monitoring camera 13R (S160). More specifically, the traveling speed of the vehicle B is greater than the speed of the vehicle A and travels diagonally right behind the vehicle A. For this reason, the size of the vehicle B gradually increases in the image data captured by the blind spot monitoring camera 13R. The relative speed is calculated from the amount of displacement of the size of the vehicle B between the frames at this time. And since vehicle B is approaching vehicle A, S170 becomes Yes and it determines with the obstacle which should notify an obstacle (S180).

以上より、S190がYesとなって、車両Aの相互認識通知装置100Aは通知制御処理を開始する。相互認識通知ECU21はW=0(S205)とした後に、発光装置25を発光させるとともに、表示装置上に警告表示をすることで運転者Uに車両Bが右後方より接近中であることを警告する(S210)。そして、顔部撮像カメラ12の撮影した画像データに基づいて視線方向検出部11aで運転者Uの視線検出処理を開始する(S215)。   From the above, S190 becomes Yes, and the mutual recognition notification device 100A of the vehicle A starts the notification control process. The mutual recognition notification ECU 21 sets W = 0 (S205) and then causes the light emitting device 25 to emit light and displays a warning on the display device to warn the driver U that the vehicle B is approaching from the right rear. (S210). Then, based on the image data captured by the face imaging camera 12, the gaze direction detection unit 11a starts the gaze detection process of the driver U (S215).

運転者Uは、発光装置25の発光または表示装置上の警告表示を受けて、右斜め後方を振り向いて直接視認する。視線方向検出部11aは、運転者Uの動作を検出し、運転者Uが車両Bを直接視認したことを示す情報データを相互認識通知ECU21に出力する(S220 Yes)。また、運転者Uは、振り向いて車両Bを視認すると、車両正面に視線を戻すとともに、ハンドルに設けられている入力装置24を操作する。相互認識通知ECU21は、車両Bを直接視認している旨の情報データを取得している状態において、入力装置24が操作されたため(S230 Yes)、発光装置25に通知発光させる(S265)。   The driver U receives light emission from the light emitting device 25 or a warning display on the display device, and turns directly to the right and visually recognizes it. The line-of-sight direction detection unit 11a detects the operation of the driver U, and outputs information data indicating that the driver U has directly viewed the vehicle B to the mutual recognition notification ECU 21 (S220 Yes). Further, when the driver U turns around and visually recognizes the vehicle B, the driver U returns the line of sight to the front of the vehicle and operates the input device 24 provided on the handle. The mutual recognition notification ECU 21 causes the light emitting device 25 to emit notification light (S265) because the input device 24 has been operated in a state where the information data indicating that the vehicle B is directly visually recognized is acquired (S230 Yes).

以上によって車両Aの相互認識通知装置100Aは通知発光を実施し(S290 Yes)、応答認識処理(S400)を開始する。すなわち、死角監視カメラ13Rで逐次取得する画像データに基づいて、応答信号検出処理を実施しながら、車両Bからの応答発光を待つ。   As described above, the mutual recognition notification device 100A of the vehicle A performs notification light emission (S290 Yes), and starts a response recognition process (S400). That is, based on the image data sequentially acquired by the blind spot monitoring camera 13R, the response light emission from the vehicle B is waited while the response signal detection process is performed.

車両Bの相互認識通知装置100Bの発光検出部11cでは、前方カメラの取得する画像データに基づいて、車両Aからの通知発光を検出し(S320 Yes)、発光方向を算出する(S330)。そして視線方向検出部11aは、運転者Fの視線検出処理を開始する(S340)。   The light emission detector 11c of the mutual recognition notifying device 100B of the vehicle B detects the notification light emission from the vehicle A based on the image data acquired by the front camera (S320 Yes), and calculates the light emission direction (S330). Then, the line-of-sight detection unit 11a starts the line-of-sight detection process of the driver F (S340).

運転者Fは車両Aからの通知発光を視認し、入力装置24を操作する。相互認識通知ECU21は、発光方向と運転者Fの視線方向が一致したと判定した状態に(S350 Yes)において、入力装置24が操作されたため(S360 YES)、ヘッドライト27に応答発光をさせる(S370)。   The driver F visually recognizes the notification light emission from the vehicle A and operates the input device 24. The mutual recognition notification ECU 21 causes the headlight 27 to emit light in response to the operation of the input device 24 (S360 YES) in a state where the light emission direction and the line-of-sight direction of the driver F coincide (S350 Yes). S370).

車両Aの相互認識通知装置100Aの発光検出部11cは、この車両Bからの応答発光を検出し(S420 Yes)、応答発光パターンに一致する応答発光が車両Bより為されたことを内部状態として取得する(S430)。そして、相互認識通知ECU21は、表示装置28に相互認識が成立した旨を示すテキストを表示するとともに、メーター周りに相互認識成立灯(図示略)を点灯することで自車両の運転者Uに報知する(S440)。   The light emission detection unit 11c of the mutual recognition notifying device 100A of the vehicle A detects the response light emission from the vehicle B (Yes in S420), and the response light emission that matches the response light emission pattern is made from the vehicle B as an internal state. Obtain (S430). Then, the mutual recognition notification ECU 21 displays a text indicating that mutual recognition is established on the display device 28, and informs the driver U of the host vehicle by lighting a mutual recognition establishment lamp (not shown) around the meter. (S440).

以上で述べたように、このような構成では、車両B(第2の車両)の運転者Fが車両A(第1の車両)の発光を認識している場合には、入力装置24を操作することで自車両に対してヘッドライト27を所定の発光パターンで応答発光させる。そして車両Aの相互認識通知装置100はこの応答発光を検出すると、車両Aの運転者Uに応答があったことを通知する。したがって、車両Aの発光に対して車両Bから応答発光が返ってきた場合には、車両Bの運転者Fが車両Aを認識していることを運転者Uは認識することができる。   As described above, in such a configuration, when the driver F of the vehicle B (second vehicle) recognizes the light emission of the vehicle A (first vehicle), the input device 24 is operated. By doing so, the headlight 27 is caused to respond to the host vehicle in a predetermined light emission pattern. And the mutual recognition notification apparatus 100 of the vehicle A will notify the driver | operator U of the vehicle A that there was a response, if this response light emission is detected. Therefore, when the response light emission is returned from the vehicle B with respect to the light emission of the vehicle A, the driver U can recognize that the driver F of the vehicle B recognizes the vehicle A.

なお、本実施形態では、障害物が接近中であれば距離によらず通知すべき障害物と判定したが、さらに自車両から所定距離L以内に位置する障害物のみを通知すべき障害物と判定する構成としてもよい。すなわち、直近の障害物のみを運転者Uに警告する場合に比べて、自車両からまだ離れている障害物まで運転者Uに警告してしまうと、警告の頻度が多くなり、かえって運転者Uの注意が散漫になってしまうおそれがある。上述したように、所定距離L圏内の接近中の障害物のみを通知することで、運転者Uにとってより重要度が高い情報が警告されるようになる。   In the present embodiment, if an obstacle is approaching, it is determined that the obstacle should be notified regardless of the distance, but the obstacle that should be notified only of the obstacle located within the predetermined distance L from the own vehicle It is good also as a structure to determine. That is, compared with the case where only the latest obstacle is warned to the driver U, if the driver U is warned to an obstacle that is still far from the host vehicle, the warning frequency increases, and instead the driver U May be distracting. As described above, by notifying only the approaching obstacle within the predetermined distance L range, information with higher importance for the driver U is warned.

ここで所定距離Lは、例えば15メートルなどの一定の距離とすればよい。また、より好ましい形態としては、自車両と相手車両の相対速度に一定の時間(例えば2秒)を乗算して定まる距離とすればよい。すなわち、通知すべきか否かの判定条件を一定距離としてしまうと、相対速度が比較的大きい場合と、小さい場合とでは、自車両の側方に到達するまでにかかる時間は異なる。相対速度が大きい場合には、運転者Uが接近中の相手車両を認識したり、通知処理を実行したりするために与えられている時間が短くなり、余裕がなくなってしまう。そこで、障害物を運転者Uに通知すべきか否かの判定条件を自車両と相手車両の相対速度によって適応的に設定することで、運転者Uが障害物を認識するために十分な時間を提供することができる。   Here, the predetermined distance L may be a constant distance such as 15 meters. Further, as a more preferable form, a distance determined by multiplying a relative speed between the host vehicle and the opponent vehicle by a certain time (for example, 2 seconds) may be used. In other words, if the determination condition for determining whether or not to notify is a fixed distance, the time taken to reach the side of the host vehicle differs depending on whether the relative speed is relatively large or small. When the relative speed is large, the time given for the driver U to recognize the approaching partner vehicle or to execute the notification process is shortened, and there is no room. Therefore, by setting adaptively the condition for determining whether or not an obstacle should be notified to the driver U according to the relative speed between the host vehicle and the partner vehicle, a sufficient time for the driver U to recognize the obstacle is given. Can be provided.

また、本実施形態では応答信号の媒体は可視光(ヘッドライトによる応答発光)としたが、これに限らない。応答信号は、可視光以外の光、電波、赤外線、超音波など、その他の媒体であってもよい。また、これらを組み合わせてもよい。すなわち、昼間は、周囲も明るいため、ヘッドライトの光が検出されにくい可能性がある。そこで、ヘッドライトの可視光に加えて、赤外線などを併用することで周囲の明るさに関係なく応答信号を検出する精度をより高めることができる。また、夜間など、ヘッドライトを短期間で点滅させることで他の車両への影響が懸念される場合においても、赤外線等によって応答信号を出力することで、そのような懸念を低減することができる。なお、電波など可視光以外の媒体を応答信号に用いる場合には、応答信号を検出する応答信号検出手段は、その媒体を検出可能な装置(たとえばアンテナや赤外線カメラなど)とする。   In the present embodiment, the response signal medium is visible light (response light emission by a headlight), but is not limited thereto. The response signal may be other media such as light other than visible light, radio waves, infrared rays, and ultrasonic waves. Moreover, you may combine these. That is, since the surroundings are bright during the day, the light from the headlight may not be easily detected. Therefore, in addition to the visible light of the headlight, the accuracy of detecting the response signal can be further increased regardless of the ambient brightness by using infrared rays or the like together. Even when the headlight blinks in a short period, such as at night, there is a concern about the influence on other vehicles, such a concern can be reduced by outputting a response signal by infrared rays or the like. . When a medium other than visible light such as radio waves is used for the response signal, the response signal detecting means for detecting the response signal is a device that can detect the medium (for example, an antenna or an infrared camera).

また、応答信号として、複数種類の信号パターン(可視光の場合は、発光パターンに相当する)を記憶部15に記憶させておいてもよい(以降、変形例1)。その場合、入力装置24はそれら信号パターンの数に対応したスイッチをそれぞれ備えておけばよい。たとえば、信号パターンとしては、通常の「認識しました」のほかに、「譲ります」「急いでいます」「後ろに入ります」「前に入ります」などに対応する信号パターンを記憶させておき、運転者は状況に応じて、それらのうちから選択して、入力する。先行車両(通知側の車両)がウインカーを出しており、斜線変更をしたそうにしている場合は、「譲ります」「急いでいます」などの応答発光をする。また、応答側の車両が車線変更したい場合には、「後ろに入ります」「前に入ります」などの応答発光をする。また、これらの信号パターンは通知発光に適用してもよい。また、応答信号に対して、通知側の車両から「了解しました」などの再応答を発光装置25の発光などによって実施しても良い。   Further, a plurality of types of signal patterns (corresponding to light emission patterns in the case of visible light) may be stored in the storage unit 15 as response signals (hereinafter referred to as Modification 1). In that case, the input device 24 may be provided with switches corresponding to the number of signal patterns. For example, in addition to the usual “Recognized” signal pattern, the signal pattern corresponding to “I give up”, “Hurry up”, “Enter in the back”, “Enter in the front”, etc. is memorized. The driver selects and inputs from among them according to the situation. If the preceding vehicle (notifying vehicle) has turned the blinker and changes the hatched line, a response is emitted, such as “I will yield” or “I am in a hurry”. Also, when the responding vehicle wants to change lanes, it emits a response light such as “enter back” or “enter front”. These signal patterns may be applied to notification light emission. In addition, a re-response such as “I understand” from the notifying vehicle may be performed by the light emission of the light emitting device 25 in response to the response signal.

100…相互認識通知装置、11a…視線方向検出部、11b…車両検出部、11c…発光検出部、発光装置、24…入力装置、27…ヘッドライト、21…相互認識通知ECU、15…記憶部、
S100…障害物検出手段、S210…車両通知手段、S440…応答受信通知手段、S215…第1の視線方向検出手段、S220…直接視認判定手段、S255…間接視認判定手段、S310…発光検出手段、S330…発光方向算出手段、S240…第2の視線方向検出手段、S350…発光視認判定手段
DESCRIPTION OF SYMBOLS 100 ... Mutual recognition notification apparatus, 11a ... Gaze direction detection part, 11b ... Vehicle detection part, 11c ... Light emission detection part, Light-emitting device, 24 ... Input device, 27 ... Headlight, 21 ... Mutual recognition notification ECU, 15 ... Memory | storage part ,
S100 ... Obstacle detection means, S210 ... Vehicle notification means, S440 ... Response reception notification means, S215 ... First gaze direction detection means, S220 ... Direct visual recognition determination means, S255 ... Indirect visual recognition determination means, S310 ... Light emission detection means, S330: Light emission direction calculation means, S240: Second line-of-sight direction detection means, S350: Light emission visual recognition determination means

Claims (11)

第1、第2の車両でそれぞれ用いられ、各車両の運転者が相互の存在を認識したことを通知するための相互認識通知装置を備える相互認識通知システムであって、
第1の車両に搭載される第1の相互認識通知装置(100)は、
前記第1の車両を運転する第1の運転者からは視認できない死角に存在する第2の車両を検出する車両検出手段(11b)と、
前記車両検出手段で前記第2の車両を検出したことを前記第1の運転者に通知する車両通知手段(21 S210)と、
前記車両通知手段の通知に基づいて前記第1の運転者が前記第2の車両を認識したことを入力するための第1の入力手段(24)と、
前記第1の車両の、前記第2の車両を運転する第2の運転者から直接視認可能な位置に取り付けられてあって、かつ、前記第1の入力手段に入力があった場合に発光する発光装置(25)と、を備え、
前記第2の車両に搭載される第2の相互認識通知装置(100)は、
前記発光装置の発光を前記第2の運転者が認識した場合に、前記第2の運転者が前記発光を認識したことを入力するための第2の入力手段(24)と、
前記第2の入力手段に入力があった場合に、前記第2の運転者が前記第1の車両を認識していることを前記第1の運転者に報知する応答信号を前記第1の車両に出力する応答手段(21 S370)と、を備え、
前記第1の相互認識通知装置は、さらに、
前記応答信号を検出する応答信号検出手段(11c)と、
前記応答信号検出手段で前記応答信号を検出した場合に、前記第2の運転者が前記第1の車両を認識していることを前記第1の運転者に通知する応答受信通知手段(21 S440)と、を備えることを特徴とする相互認識通知システム。
A mutual recognition notification system comprising a mutual recognition notification device for use in each of the first and second vehicles, for notifying that the driver of each vehicle has recognized the mutual existence,
The first mutual recognition notification device (100) mounted on the first vehicle is:
Vehicle detection means (11b) for detecting a second vehicle existing in a blind spot that cannot be seen by a first driver driving the first vehicle;
Vehicle notification means (21 S210) for notifying the first driver that the vehicle detection means has detected the second vehicle;
First input means (24) for inputting that the first driver has recognized the second vehicle based on the notification of the vehicle notification means;
Light is emitted when the first vehicle is mounted at a position that is directly visible from a second driver who drives the second vehicle, and there is an input to the first input means. A light emitting device (25),
The second mutual recognition notification device (100) mounted on the second vehicle is:
Second input means (24) for inputting that the second driver recognizes the light emission when the second driver recognizes the light emission of the light emitting device;
When there is an input to the second input means, a response signal for notifying the first driver that the second driver recognizes the first vehicle is the first vehicle. Response means (21 S370) for outputting to
The first mutual recognition notification device further includes:
Response signal detecting means (11c) for detecting the response signal;
Response reception notifying means (21 S440) for notifying the first driver that the second driver recognizes the first vehicle when the response signal is detected by the response signal detecting means. And a mutual recognition notification system.
請求項1において、
前記応答信号は、可視光によって実施されることを特徴とする相互認識通知システム。
In claim 1,
The mutual recognition notification system, wherein the response signal is implemented by visible light.
請求項1または2において、
前記第2の相互認識通知装置は、前記応答信号として、前記第2の運転者の意図を伝達するための信号パターンが複数種類登録されている第1の記憶部(15)を備え、
前記第2の入力手段は、前記記憶部の記憶する複数の信号パターンから前記第2の運転者が所望する信号パターンを応答信号として出力するように指示入力可能なものであって、
前記応答手段は、前記第2の入力手段の入力に基づいて、前記第2の運転者の意図に対応した信号パターンの応答信号を出力し、
前記第1の相互認識通知装置は、前記複数種類の信号パターンが登録されている第2の記憶部(15)を備え、
前記応答信号検出手段は前記応答信号を検出する際に、前記応答信号の信号パターンと前記記憶部に登録されている信号パターンと一致するものを検索し、一致する信号パターンがあった場合に、
前記応答受信通知手段は、前記応答信号の信号パターンに対応する前記第2の運転者の意図を前記第1の運転者に通知することを特徴とする相互認識通知システム。
In claim 1 or 2,
The second mutual recognition notification device includes a first storage unit (15) in which a plurality of types of signal patterns for transmitting the intention of the second driver are registered as the response signal.
The second input means can input an instruction to output a signal pattern desired by the second driver as a response signal from a plurality of signal patterns stored in the storage unit,
The response means outputs a response signal of a signal pattern corresponding to the intention of the second driver based on the input of the second input means,
The first mutual recognition notification device includes a second storage unit (15) in which the plurality of types of signal patterns are registered,
When the response signal detecting means detects the response signal, it searches for a signal pattern that matches the signal pattern of the response signal and the signal pattern registered in the storage unit, and when there is a matching signal pattern,
The response reception notifying means notifies the first driver of the intention of the second driver corresponding to the signal pattern of the response signal.
請求項1から3のいずれか1項において、
前記第1の相互認識通知装置は、前記第2の車両が存在する側のドアミラーの位置を、前記第1の運転者が前記ドアミラーを介して前記第2の車両を視認できる位置である死角捕捉位置まで動かすように運転者が指示するための第3の入力手段(24)を備え、
前記第3の入力手段に運転者からの入力があった場合に、前記ドアミラーの位置を前記死角捕捉位置に動かすことを特徴とする相互認識通知システム。
In any one of Claim 1 to 3,
The first mutual recognition notification device captures the position of the door mirror on the side where the second vehicle is present, and the blind spot is a position where the first driver can visually recognize the second vehicle via the door mirror. Comprising third input means (24) for the driver to instruct to move to a position;
The mutual recognition notification system, wherein when there is an input from a driver in the third input means, the position of the door mirror is moved to the blind spot capturing position.
請求項1〜4のいずれか1項において、
前記第1の相互認識通知装置は、前記第1の運転者の視線方向を検出する第1の視線方向検出手段(11a)と、
前記車両検出手段で前記第2の車両を検出しているときに、前記第2の車両が存在する方向と前記第1の視線方向検出手段で検出する前記視線方向とが同方向となった場合に、前記第1の運転者が前記第2の車両をドアミラーを介さずに視認したと判定する直接視認判定手段(21 S220)と、を備え、
前記直接視認判定手段で前記第1の運転者が前記第2の車両を視認したと判定された後に前記第1の入力手段への入力があった場合に、前記第1の相互認識通知装置は前記発光装置を発光させ、
前記直接視認判定手段で前記第1の運転者が前記第2の車両を視認したと判定されていない場合には、前記第1の入力手段に前記第1の運転者の入力があった場合でも、前記第1の相互認識通知装置は前記発光装置を発光させないことを特徴とする相互認識通知システム。
In any one of Claims 1-4,
The first mutual recognition notification device includes first gaze direction detection means (11a) for detecting the gaze direction of the first driver,
When the second vehicle is detected by the vehicle detection means, the direction in which the second vehicle exists and the line-of-sight direction detected by the first line-of-sight detection means are the same direction. And a direct visual recognition determination means (21 S220) for determining that the first driver visually recognizes the second vehicle without using a door mirror,
When there is an input to the first input means after it is determined that the first driver has visually recognized the second vehicle by the direct visual recognition determination means, the first mutual recognition notification device is Causing the light emitting device to emit light;
If it is not determined by the direct visual identification means that the first driver has visually recognized the second vehicle, even if the first driver has input to the first input means The first mutual recognition notification device does not cause the light emitting device to emit light.
請求項4において、
前記第1の相互認識通知装置は、前記第1の運転者の視線方向を検出する第1の視線方向検出手段(11a)と、
前記車両検出手段で前記第2の車両を検出しているときに、前記第2の車両が存在する方向と前記第1の視線方向検出手段で検出する前記視線方向とが同方向となった場合に、前記第1の運転者が前記第2の車両をドアミラーを介さずに視認した判定する直接視認判定手段(21 S220)と、
前記ドアミラーが前記死角捕捉位置となった後に前記ドアミラーの方向と前記第1の視線方向検出手段で検出する前記視線方向が同方向となった場合に、前記第1の運転者が前記ドアミラーを介して前記第2の車両を視認したと判定する間接視認判定手段(21 S255)と、を備え、
前記直接視認判定手段で前記第1の運転者が前記第2の車両を視認したと判定された後に前記第1の入力手段への入力があった場合、または、前記間接視認判定手段で前記第1の運転者が前記ドアミラーを介して前記第2の車両を視認したと判定された後に前記第1の入力手段に入力があった場合に、前記第1の相互認識通知装置は前記発光装置を発光させ、前記間接視認判定手段で前記第1の運転者が前記ドアミラーを介して前記第2の車両を視認したと判定されておらず、かつ、前記直接視認判定手段で前記第2の車両を視認したと判定されていない場合には、前記入力手段に前記第1の運転者の入力があった場合でも前記第1の相互認識通知装置は前記発光装置を発光させないことを特徴とする相互認識通知システム。
In claim 4,
The first mutual recognition notification device includes first gaze direction detection means (11a) for detecting the gaze direction of the first driver,
When the second vehicle is detected by the vehicle detection means, the direction in which the second vehicle exists and the line-of-sight direction detected by the first line-of-sight detection means are the same direction. In addition, a direct visual determination means (21 S220) for determining that the first driver visually recognizes the second vehicle without using a door mirror;
When the direction of the door mirror and the direction of the line of sight detected by the first line-of-sight direction detection means after the door mirror reaches the blind spot capturing position, the first driver passes the door mirror. Indirect visual recognition determination means (21 S255) for determining that the second vehicle has been visually recognized.
When there is an input to the first input means after it is determined that the first driver visually recognizes the second vehicle by the direct visual recognition determination means, or the indirect visual recognition determination means performs the first When it is determined that the first driver has visually recognized the second vehicle through the door mirror, the first mutual recognition notification device detects the light-emitting device when there is an input to the first input means. It is not determined that the first driver has visually recognized the second vehicle via the door mirror, and the second vehicle is The mutual recognition is characterized in that the first mutual recognition notifying device does not cause the light emitting device to emit light even when the input by the first driver is input to the input means when it is not determined that it has been visually recognized. Notification system.
請求項1〜6のいずれか1項において、
前記第2の相互認識通知装置は、前記発光装置による発光を検出する発光検出手段(11c)を備え、
前記発光検出手段が前記発光を検出した場合には、前記第2の相互認識通知装置は前記発光がされていることを前記第2の運転者に通知することを特徴とする相互認識通知システム。
In any one of Claims 1-6,
The second mutual recognition notification device includes light emission detection means (11c) for detecting light emission by the light emitting device,
When the light emission detecting means detects the light emission, the second mutual recognition notification device notifies the second driver that the light emission is being performed.
請求項1〜6のいずれか1項において、
前記第2の相互認識通知装置は、前記発光装置による発光を検出する発光検出手段(11c)と、
前記発光検出手段で前記発光を検出した場合には、前記発光をしている光源が存在する方向である発光方向を算出する発光方向算出手段(11)と、
前記第2の運転者の視線方向を検出する第2の視線方向検出手段(11a)と、
前記第2の相互認識通知装置は、前記発光を検出した後に前記発光方向算出手段で算出した前記発光方向と、前記第2の視線方向検出手段で検出した前記第2の運転者の視線方向が同方向となった場合に、前記第2の運転者が前記発光を視認したと判定する発光視認判定手段(21 S350)と、を備え、
前記発光視認判定手段で前記第2の運転者が前記発光を視認したと判定された後に前記第2の入力手段に入力があった場合に、前記応答手段より前記第1の車両に向けて前記応答信号を出力し、
前記発光視認判定手段で前記第2の運転者が前記発光を視認したと判定されていない場合には、前記第2の入力手段に入力があっても前記応答手段より前記応答信号を出力しないことを特徴とする相互認識通知システム。
In any one of Claims 1-6,
The second mutual recognition notification device includes a light emission detection means (11c) for detecting light emission by the light emitting device;
When the light emission is detected by the light emission detection means, a light emission direction calculation means (11) for calculating a light emission direction, which is a direction in which the light source emitting the light exists,
Second gaze direction detecting means (11a) for detecting the gaze direction of the second driver;
In the second mutual recognition notification device, the light emission direction calculated by the light emission direction calculation unit after detecting the light emission and the line-of-sight direction of the second driver detected by the second line-of-sight direction detection unit are A light emission visual recognition determining means (21 S350) for determining that the second driver has visually recognized the light emission when the direction is the same;
When there is an input to the second input means after it is determined by the light emission visual recognition determination means that the second driver has visually recognized the light emission, the response means directs the first vehicle toward the first vehicle. Output a response signal,
When the second driver does not determine that the second driver visually recognizes the light emission, the response signal is not output from the response means when the light emission visual recognition determination means does not determine that the second driver has visually recognized the light emission. A mutual recognition notification system characterized by
請求項6において、
前記第1の入力手段と前記第3の入力手段は同一のスイッチ(24)によりなり、
前記直接視認判定手段で前記第2の車両を視認したと判定された後に前記第1の運転者が前記スイッチを操作した場合には、前記発光装置を発光させ、
前記車両検出手段で前記第2の車両を検出しているときに、前記直接視認判定手段で前記第2の車両を視認したと判定されておらず、かつ、前記第1の視線方向検出手段で検出する前記視線方向と前記ドアミラーの方向が同方向となった後に前記第1の運転者が前記スイッチを操作した場合には、前記ドアミラーの位置を前記死角捕捉位置に動かすことを特徴とする相互認識通知システム。
In claim 6,
The first input means and the third input means comprise the same switch (24),
When the first driver operates the switch after it is determined that the second vehicle is visually recognized by the direct visual recognition determination unit, the light emitting device is caused to emit light,
When the second vehicle is detected by the vehicle detection means, it is not determined that the second visual observation means has visually recognized the second vehicle, and the first visual line direction detection means When the first driver operates the switch after the line-of-sight direction to be detected and the direction of the door mirror become the same direction, the position of the door mirror is moved to the blind spot capturing position. Recognition notification system.
請求項1において
前記発光装置は、前記第1の車両において、前記第1の運転者および前記第2の運転者の両者にとって直接視認可能な位置に取り付けられてあって、前記車両通知手段による通知は前記発光装置によって実施されることを特徴とする相互認識通知システム。
The light emitting device according to claim 1, wherein the light emitting device is attached to a position that is directly visible to both the first driver and the second driver in the first vehicle, and is notified by the vehicle notification unit. Is implemented by the light-emitting device.
請求項1〜10のいずれか1項に記載の相互認識通知システムで用いられる前記第1の相互認識通知装置および前記第2の相互認識通知装置の両方の機能を備えることを特徴とする相互認識通知装置。   It has the function of both the said 1st mutual recognition notification apparatus and the said 2nd mutual recognition notification apparatus used with the mutual recognition notification system of any one of Claims 1-10, The mutual recognition characterized by the above-mentioned. Notification device.
JP2012267579A 2012-12-06 2012-12-06 Mutual recognition notification system and mutual recognition notification device Expired - Fee Related JP5949509B2 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012267579A JP5949509B2 (en) 2012-12-06 2012-12-06 Mutual recognition notification system and mutual recognition notification device
DE112013005834.0T DE112013005834B4 (en) 2012-12-06 2013-11-27 Mutual recognition and mutual recognition teaching system
PCT/JP2013/006960 WO2014087607A1 (en) 2012-12-06 2013-11-27 Mutual recognition notification system and mutual recognition notification device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012267579A JP5949509B2 (en) 2012-12-06 2012-12-06 Mutual recognition notification system and mutual recognition notification device

Publications (2)

Publication Number Publication Date
JP2014115732A JP2014115732A (en) 2014-06-26
JP5949509B2 true JP5949509B2 (en) 2016-07-06

Family

ID=50883049

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012267579A Expired - Fee Related JP5949509B2 (en) 2012-12-06 2012-12-06 Mutual recognition notification system and mutual recognition notification device

Country Status (3)

Country Link
JP (1) JP5949509B2 (en)
DE (1) DE112013005834B4 (en)
WO (1) WO2014087607A1 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6477135B2 (en) * 2015-03-27 2019-03-06 株式会社デンソー In-vehicle communication device and communication system
GB201800423D0 (en) * 2018-01-11 2018-02-28 Impressive Ideas Ltd Display system for use in conjunction with driver protection apparatus
FR3099116B1 (en) 2019-07-26 2021-07-09 Faurecia Interieur Ind System and method for detecting a second vehicle in a detection zone of a first vehicle
US11390211B2 (en) * 2020-01-17 2022-07-19 Toyoda Gosei Co., Ltd. Steering wheel
JP2021189932A (en) * 2020-06-03 2021-12-13 トヨタ自動車株式会社 Moving object detection system

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10303578B4 (en) 2003-01-30 2015-08-13 SMR Patents S.à.r.l. Hazard detection system for vehicles with at least one side and rear environmental detection
JP4066892B2 (en) * 2003-06-24 2008-03-26 アイシン精機株式会社 Vehicle alarm device
JP2008181315A (en) * 2007-01-24 2008-08-07 Aisin Aw Co Ltd Driving-support method and driving-support device
JP2008293099A (en) * 2007-05-22 2008-12-04 Mazda Motor Corp Driving support device for vehicle
JP4985388B2 (en) * 2007-12-25 2012-07-25 トヨタ自動車株式会社 Driving support device and driving support system
JP5464885B2 (en) * 2009-03-31 2014-04-09 日野自動車株式会社 Parallel running warning device, vehicle and program
SE535786C2 (en) 2010-01-19 2012-12-18 Volvo Technology Corp Dead Angle Warning System
JP2012177997A (en) * 2011-02-25 2012-09-13 Panasonic Corp Headlight flashing content determination device
DE102012201046A1 (en) 2012-01-25 2013-07-25 Robert Bosch Gmbh Method and device for assisting a driver

Also Published As

Publication number Publication date
JP2014115732A (en) 2014-06-26
DE112013005834B4 (en) 2019-07-11
DE112013005834T5 (en) 2015-08-20
WO2014087607A1 (en) 2014-06-12

Similar Documents

Publication Publication Date Title
EP3093192B1 (en) Rear combination lamp for vehicle comprising a display
US10196068B2 (en) Convenience apparatus for vehicle and vehicle
KR101731719B1 (en) Method and apparatus for providing stopping movement mode and vehicle having the same
JP6523561B1 (en) Irradiation apparatus and irradiation method
US20150258928A1 (en) Vehicle-mounted apparatus
JP4100026B2 (en) Start support device
WO2014188903A1 (en) Lighting control device
JP5949509B2 (en) Mutual recognition notification system and mutual recognition notification device
JPWO2017068701A1 (en) Parking space detection method and apparatus
US11591018B2 (en) Parking assistance device
CN104163133A (en) Rear view camera system using rear view mirror location
US20190135169A1 (en) Vehicle communication system using projected light
JP2008193339A (en) Rear monitoring system
JP7215228B2 (en) Control device, control method, control program
KR20160147557A (en) Automatic parking apparatus for vehicle and Vehicle
US11884216B2 (en) Vehicular full mirror display system with auxiliary forward and rearward views
US11858414B2 (en) Attention calling device, attention calling method, and computer-readable medium
JP6914730B2 (en) Driving support device and driving support method
KR101601500B1 (en) System and Method for assisting vehicle driving for using smartphone
KR101515717B1 (en) Apparatus for dead zone watching in vehicle
WO2018235192A1 (en) Rear wheel position indicator
KR102168041B1 (en) Vehicle control device and vehicle control method
KR101533285B1 (en) Car safety system to get and display infrared images for sensing dangers in dark environments and photographing method for infrared images
JP4066892B2 (en) Vehicle alarm device
KR101843528B1 (en) Method and apparatus for providing stopping movement mode and vehicle having the same

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160510

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160523

R151 Written notification of patent or utility model registration

Ref document number: 5949509

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees