JPWO2013088613A1 - 運転支援装置 - Google Patents

運転支援装置 Download PDF

Info

Publication number
JPWO2013088613A1
JPWO2013088613A1 JP2013549066A JP2013549066A JPWO2013088613A1 JP WO2013088613 A1 JPWO2013088613 A1 JP WO2013088613A1 JP 2013549066 A JP2013549066 A JP 2013549066A JP 2013549066 A JP2013549066 A JP 2013549066A JP WO2013088613 A1 JPWO2013088613 A1 JP WO2013088613A1
Authority
JP
Japan
Prior art keywords
vehicle
image
display
sonar
host vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013549066A
Other languages
English (en)
Other versions
JP5938635B2 (ja
Inventor
将由 道口
将由 道口
達人 流郷
達人 流郷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2013088613A1 publication Critical patent/JPWO2013088613A1/ja
Application granted granted Critical
Publication of JP5938635B2 publication Critical patent/JP5938635B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/002Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Studio Devices (AREA)

Abstract

物体が検知された状況に基づいて、物体が未検知になっても運転状況に応じて物体が検知された際の画像表示を継続する運転支援装置。この装置では、自車両周囲を撮像する第1撮像手段(7)と、自車両周囲の物体を検知するソナー(12)と、自車両の左前方コーナを撮像する第2撮像手段(14)と、第1撮像手段(7)と第2撮像手段(14)の撮像画像に基づいて俯瞰画像を合成する画像合成手段と、ソナー(12)とシフトレバー(11)と車速センサ(9)の検知結果に基づいて表示手段(13)の表示の遷移を制御する制御手段(5)を備え、制御手段(5)は、ソナー(12)が物体を検知したときの自車両の走行状態とソナー(12)が物体を検知しなくなったときの自車両の走行状態とに基づいて表示手段(13)の表示の遷移条件を決定する。

Description

本発明は駐車時に障害物との衝突可能性を報知する運転支援装置に関する。
従来、物体の検知状態に連動させて、車両に物体が近づいた際に全周囲俯瞰画像をカメラ画像へ切り替えたり、俯瞰画像上に重畳表示したりして、運転を支援する運転支援装置が知られている(例えば特許文献1、特許文献2参照)。
特開2011−205514号公報 特開2006−131166号公報
しかし、物体がソナー等の物体検知手段による検知範囲外に離れると、物体がまだ車両の近くに存在するにもかかわらず、ディスプレイに表示される画像は未検知状態を示す画像に戻っていた。
本発明の目的は、物体が検知された状況に基づいて、物体が未検知になっても運転状況に応じて物体が検知された際の画像表示を継続することができる運転支援装置を提供することである。
上記目的を達成するために本発明は、物体検知手段が物体を検知したときの自車両の走行状態と物体検知手段が物体を検知しなくなったときの自車両の走行状態とに基づいて表示手段の表示の遷移条件を決定することを特徴とする。
本発明によれば、物体が物体検知手段の検知範囲外に離れたが車両の近くに存在する状況において、運転状況に応じて物体検知時の画像表示が継続されるため、運転者が車両近くの物体を認識しやすくすることができるという効果を奏する。
本発明の実施形態における運転支援装置の構成を示すブロック図 同図1の要部である第1、第2撮像手段の車両への取り付け位置をイメージで説明する図 同図1の要部であるソナーの車両への取り付け位置をイメージで説明する図 同図1の要部である第2撮像手段の画角とソナーの検知範囲を水平面のイメージで説明する図 本発明の実施形態における運転支援装置による運転支援処理のフローチャート図 同図1の要部である物体検知手段が物体検知した場合に合成される俯瞰画像をイメージで説明する図 同図5のステップS55のソナー反応時の車両状態判定を説明するフローチャート図 同図5のステップS58のソナー未反応時の車両状態判定を説明するフローチャート図 同図5のステップS59の遷移条件を説明する図 同図9のシーン1、2をイメージで説明する図 同図9のシーン3をイメージで説明する図 同図9のシーン7をイメージで説明する図 同図9のシーン8をイメージで説明する図 同図9のシーン11をイメージで説明する図 同図9のシーン12をイメージで説明する図
以下、本発明の一実施形態の運転支援装置について図面を参照しながら説明する。なお、本実施形態において、車両は右ハンドルであると仮定して説明する。
図1は本発明の実施形態の運転支援装置の構成を示すブロック図である。
図1において、運転支援装置1は、画像処理を行う画像ECU(Electric Control Unit)で構成され、揮発性メモリ2と、画像処理手段3と、不揮発性メモリ4と、制御手段5と、これらを互いに接続するバス6とを有する。運転支援装置1は、第1撮像手段7と、入力手段8と、車速センサ9と、舵角(ステアリング)センサ10と、シフトレバー11と、ソナー12と、表示手段13と、第2撮像手段14と接続する。入力手段8、車速センサ9、舵角センサ10、シフトレバー11、ソナー12、表示手段13、第2撮像手段14は運転支援装置1に含まれてもよい。
揮発性メモリ2は、例えばビデオメモリやRAM(Random Access Memory)で構成される。揮発性メモリ2は第1撮像手段7と接続する。また、揮発性メモリ2は第2撮像手段14と接続する。揮発性メモリ2は、第1撮像手段7、第2撮像手段14から所定時間毎に入力された撮像画像から得られる画像データを一時記憶する。揮発性メモリ2に記憶された画像データは、バス6を介して画像処理手段3に出力される。
画像処理手段3は、例えばASIC(Application Specific Integrated Circuit)やVLSI(Very Large Scale Integration)で構成される。画像処理手段3は表示手段13と接続する。画像処理手段3は、揮発性メモリ2から入力された画像データを視点変換し、不揮発性メモリ4から入力された画像データを重畳した俯瞰画像を所定時間毎に作成する。画像処理手段3は、俯瞰画像に視点変換を施さないノーマル画像を並べた合成画像を作成してもよい。視点変換の手法は、例えば国際公開第00/64175号に開示された技術を用いることができる。画像処理手段3は、この所定時間毎に作成された合成画像を表示画像として表示手段13に出力する。
不揮発性メモリ4は、例えばフラッシュメモリやROM(Read Only Memory)で構成される。不揮発性メモリ4は、自車両の画像データ等の各種画像データ、運転状況に応じた表示方法に関するデータテーブルが記憶されている。不揮発性メモリ4に記憶された画像データは、制御手段5の命令によって読み出され、画像処理手段3による各種画像処理に用いられる。
制御手段5は、例えばCPU(Central Processing Unit)やLSI(Large Scale Integration)で構成される。制御手段5は、入力手段8と、車速センサ9と、舵角センサ10と、シフトレバー11と、ソナー12と接続する。制御手段5は、入力手段8、車速センサ9、舵角センサ10、シフトレバー11、ソナー12から入力された各種信号に基づいて、画像処理手段3の画像処理、揮発性メモリ2や不揮発性メモリ4から読み出すデータ、第1撮像手段7や第2撮像手段14からの入力や表示手段13への出力等を制御する。
第1撮像手段7はそれぞれ4つのカメラで構成される。一方、第2撮像手段14は少なくとも1つのカメラで構成される。第1撮像手段7、第2撮像手段14は、所定時間毎に撮像した撮像画像を運転支援装置1の揮発性メモリ2に入力する。第1撮像手段7は、自車両の全周囲を撮像できるように車体に取り付けられる。また、第2撮像手段14は、少なくとも車両の左前方コーナに設置されている。この第1撮像手段7、第2撮像手段14の車体への取り付け位置について説明する。
図2は第1撮像手段7、第2撮像手段14の車両への取り付け位置をイメージで説明する図である。図2に示すように、第1撮像手段7は前方カメラ7a、右側方カメラ7b、左側方カメラ7c、後方カメラ7dとで構成される。前方カメラ7a、後方カメラ7dは例えば車体前後のバンパにそれぞれ取り付けられる。右側方カメラ7b、左側方カメラ7cは、例えば自車両の左右ドアミラー下部にそれぞれ取り付けられる。一方、第2撮像手段14は少なくとも自車両の左前方コーナに取り付けられる。
入力手段8は、例えばタッチパネルやリモコン、スイッチで構成される。入力手段8は、タッチパネルで構成される場合、表示手段13に設けられてもよい。
車速センサ9、舵角センサ10、シフトレバー11、ソナー12は、それぞれ自車両の車速を示す車速信号、舵角を示す舵角信号、シフトレバーの状態を示すシフトレバー信号、物体の検知信号や距離信号を制御手段5に出力する。ソナー12は、8つのソナーで構成され、自車両の車体四隅の四箇所と、車体の前後の四箇所に取り付けられる。このソナー12の車体への取り付け位置について説明する。
図3はソナー12の車両への取り付け位置をイメージで説明する図である。図2に示すように、ソナー12は、左前方コーナソナー12a、右前方コーナソナー12b、左後方コーナソナー12c、右後方コーナソナー12d、左前方ソナー12e、右前方ソナー12f、左後方ソナー12g、右後方ソナー12hで構成される。図3に示すように、左前方ソナー12e、右前方ソナー12f、左後方ソナー12g、右後方ソナー12hのそれぞれの水平面の検知範囲16e〜16hは、左前方コーナソナー12a、右前方コーナソナー12b、左後方コーナソナー12c、右後方コーナソナー12dのそれぞれの水平面の検知範囲16a〜16dよりも狭く設定されている。次に、左前方コーナソナー12aの検知範囲と第2撮像手段14の画角との関係について説明する。
図4は、第2撮像手段14の画角と左前方コーナソナー12aの水平面の検知範囲をイメージで説明する図である。図4に示すように、第2撮像手段14の画角17は、水平面で略180度に設定されている。そして、左前方コーナソナー12aの検知範囲16aは、第2撮像手段14の画角17内に包含される。すなわち、第2撮像手段14の画角17内に左前方コーナソナー12aの検知範囲16aが全て含まれている。
第2撮像手段14は左前方コーナソナー12aよりも車体上方に取り付けられていることが望ましい。これによって、左前方コーナソナー12aの検知範囲16aは、第2撮像手段14の画角17内に三次元的に包含されやすくなる。また、第2撮像手段14と左前方コーナソナー12aの光軸は略等しいことが望ましい。これによって第2撮像手段14の画角17内における左前方コーナソナー12aの検知範囲16aのずれが小さくなり、左前方コーナソナー12aの検知範囲16aの一部が第2撮像手段14の画角17外にはみ出してしまうおそれを低減することができる。
表示手段13は、例えばナビゲーション装置やリアシートのディスプレイで構成される。表示手段13は、画像処理手段3から入力された合成画像を表示する。この合成画像は俯俯瞰画像とノーマル画像とが並列に並べられた画像であることが望ましい。この俯瞰画像の境界付近で死角が存在することにより物体が消失することを防ぐためである。
図5は、制御手段5による運転支援処理のフローチャート図である。
まず、ステップS51に示すように、制御手段5は、シフトレバー11から入力されたシフトレバー信号に基づいてシフトレバー11がリバースの状態であるか否かを判定する。
ステップS51でYesの場合、制御手段5の命令によって、画像処理手段3は、揮発性メモリ2から取得した第1撮像手段7の撮影画像を用いて俯瞰画像を作成する。そして、ステップS52に示すように、表示手段13はこの作成した俯瞰画像と揮発性メモリ2から取得した後方カメラ7dの後方画像とを並列表示する。
次にステップS51でNoの場合、ステップS53に示すように、制御手段5の命令によって、画像処理手段3は、揮発性メモリ2から取得した第1撮像手段7の撮影画像を用いて俯瞰画像を作成し、表示手段13はこの作成した俯瞰画像と揮発性メモリ2から取得した前方カメラ7aの前方画像とを並列表示する。
次に、ステップS54に示すように、制御手段5は、ソナー12の検知結果から、自車両の左前方コーナに物体が存在するか否かを判定する。すなわち、制御手段5は、左前方コーナソナー12aが物体を検知したか否かを判定する。ステップS54でNoの場合、ステップS51の処理を再度行う。
一方、ステップS54でYesの場合、ステップS55に示すように、制御手段5は、ソナー12が反応した際の車両状態を判定する。そして、ステップS56に示すように、画像処理手段3は、ソナー12の反応時の車両状態に応じた画像を表示手段13に表示させる。具体的には、左前方コーナソナー12aが物体を検知したときに、画像処理手段3は、第1撮像手段7の撮像画像と第2撮像手段14の撮像画像とを用いて新たに俯瞰画像を作成し、表示手段13にこの作成した俯瞰画像を表示させる。また、表示手段13は、第2撮像手段14の撮像画像をこの俯瞰画像と並列表示する。このとき画像処理手段3は、第2撮像手段14の撮像画像を一部拡大して表示手段13に表示してもよい。また、第2撮像手段14の撮像画像の表示に替えて、作成した俯瞰画像のうち第2撮像手段14の撮像領域を含む一部の俯瞰画像を拡大した表示にしてもよい。なお、左前方コーナソナー12aが物体を検知したときにシフトレバー11がリバースだった場合、画像処理手段3は、第2撮像手段14の撮像画像に替えて後方カメラ7dの撮像画像を俯瞰画像と並列表示してもよい。また、ソナー12のリア側が反応した場合は、第1撮像手段7の撮像画像を用いた元の俯瞰画像のままステップS52またはステップS53の表示は維持され、物体検知を示すインジケータの追加や画面の背景色の変更が行われる。
次にステップS57に示すように、制御手段5は、ソナー12の検知結果から、自車両の左前方コーナに物体が存在しなくなったか否かを判定する。すなわち、制御手段5は、左前方コーナソナー12aが物体を検知しなくなったか否かを判定する。
ステップS57でNoの場合、ステップS54の処理を再度行う。一方、ステップS57でYesの場合、ステップS58に示すように、制御手段5は、ソナー12が未反応の際の車両状態を判定する。
そして、ステップS59に示すように、制御手段5は、ステップS55のソナー12が反応した際の車両状態とステップS58のソナー12が未反応の際の車両状態とに基づいて、ソナー12が未反応の際の画像表示への遷移条件を決定する。
そして、ステップS60に示すように、制御手段5は、ステップS59で決定した遷移条件を満たすか否かを判定する。ステップS60でNoの場合、ステップS61に示すように、制御手段5は、自車両の走行状態が変化したか否かを判定する。ステップS61でNoの場合、ステップS59で決定した画像表示の遷移条件は変化しないので、制御手段5は、再度ステップS60の処理を行う。一方、ステップS61でYesの場合、ステップS59で画像表示の遷移条件を決定するに際して用いられたステップS58の車両状態が変化するため、制御手段5は、ステップS57の処理を再度行う。
ステップS60でYesの場合、画像表示の遷移条件が満たされたため、画像処理手段3は、ソナー12が未反応時の車両状態に応じた画像を表示手段13に表示させる。換言すると、表示手段13は、シフトレバー11がリバースの場合にステップS52の俯瞰画像と後方画像を表示し、シフトレバー11がリバースでない(例えばドライブ、パーキング)場合にステップS53の俯瞰画像と前方画像を表示する。
ステップS62の処理後、ステップS63に示すように、制御手段5は、運転支援モード終了を検知したか否かを判定する。ステップS63でYesの場合、制御手段5は運転支援処理を終了する。例えば入力手段8から運転支援モード終了の入力がなされた場合、制御手段5は運転支援処理を終了する。一方、ステップS63でNoの場合、制御手段5はステップS51の処理を再度行う。
次に、左前方コーナソナー12aが物体を検知した場合にステップS56で作成される俯瞰画像と、第1撮像手段7の4つのカメラ7a〜7dの撮像画像によって作成される通常の俯瞰画像との相違点について説明する。図6はステップS56で作成された俯瞰画像をイメージで説明する図である。
図6の左方に示すように、左前方コーナソナー12aが物体を検知する前においては、画像処理手段3は、第1撮像手段7の4つのカメラ7a〜7dの撮像画像を用いた俯瞰画像40aを作成する。俯瞰画像40aの中央には自車両のイメージ画像21が重畳されている。俯瞰画像40aの各領域22〜25は前方カメラ7a、右側方カメラ7b、左側方カメラ7c、後方カメラ7dの撮像画像の視点変換画像にそれぞれ対応する。各領域22〜25の接合面は合成境界31〜34として表されている。自車両近傍で左前方コーナソナー12aが物体41を検知したとき、第1撮像手段7の4つのカメラ7a〜7dの撮像画像を用いた俯瞰画像のままでは合成境界34において死角が生じ、物体41が消失する可能性がある。
そこで、左前方コーナソナー12aが物体を検知した場合、図6の右方に示すように、画像処理手段3は、第1撮像手段7の4つのカメラ7a〜7dの撮像画像に加え、物体41が検知された左前方コーナを撮影する第2撮像手段14の撮像画像を用いて俯瞰画像40bを作成する。この俯瞰画像40bの各領域22〜26は、前方カメラ7a、右側方カメラ7b、左側方カメラ7c、後方カメラ7d、第2撮像手段14の撮像画像の視点変換画像にそれぞれ対応する。前方カメラ7aと第2撮像手段14との合成境界35、左側方カメラ7dと第2撮像手段14との合成境界36は、第2撮像手段14の視点変換画像の領域26が左前方コーナソナー12aの検知範囲を包含できる位置に設定される。換言すると、合成境界35、36は左前方コーナソナー12aの検知範囲外に設定される。これによって、左前方コーナソナー12aによって検知された物体41は、俯瞰画像40bにおいて合成境界35、36近傍で消失せず、領域26内での物体41の視認性が維持される。特に、合成境界近傍で物体41の倒れ込み方が急に変動することが無くなるため、ドライバは違和感なく物体41を視認することができる。また、物体41は車両を基点として放射状に遠ざかる方向に倒れ込むため、物体41の位置や方向を直感的に把握することができる。
なお、物体41を合成境界35、36からできるだけ遠ざけるためには、合成境界35、36は、第2撮像手段14の画角にできるだけ近づけて設定されるのが本来望ましい。一方で、合成境界35、36を第2撮像手段14の画角と略等しくさせてしまうと、第2撮像手段14が取り付け位置からズレた場合に本来の画角外の映り込みを生じてしまう。そのため、合成境界35、36は、第2撮像手段14の画角に対して数度から十度程度内側の位置に設定されるのが望ましい。
次に、ステップS55のソナー12が反応した際の車両状態の判定処理について説明する。図7は、図5のステップS55の処理を説明するフローチャート図である。
図7のステップS71に示すように、制御手段5は、物体を検知したソナー12は車両の後方に配置されたものであるか否かを判定する。ステップS71でYesの場合、ステップS72に示すように、制御手段5は、自車両後方のソナー12が反応した状態であると判定する。
一方、ステップS71でNoの場合、ステップS73に示すように、制御手段5は、シフトレバー11がパーキングであるか否かを判定する。ステップS73でYesの場合、ステップS74に示すように、制御手段5は、駐車時にソナー12が反応したと判定する。
一方、ステップS73でNoの場合、ステップS75に示すように、制御手段5は、シフトレバー11がドライブであるか否かを判定する。ステップS75でYesの場合、ステップS76に示すように、制御手段5は、前進時(例えば前進出庫時)にソナー12が反応したと判定する。
一方、ステップS75でNoの場合、ステップS77に示すように、制御手段5は、後退時(例えば後退駐車時)にソナー12が反応したと判定する。
次に、ステップS58のソナー12が未反応になった際の車両状態の判定処理について説明する。図8は、図5のステップS58の処理を説明するフローチャート図である。
図8のステップS81に示すように、制御手段5は、シフトレバー11がパーキングであるか否かを判定する。ステップS81でYesの場合、制御手段5は、ステップS82に示すように、自車両は駐車中であると判定する。
一方、ステップS81でNoの場合、ステップS83に示すように、制御手段5は、シフトレバー11がドライブまたはリバースで、車速センサ9の車速がゼロで停車中であるか否かを判定する。ステップS83でYesの場合、制御手段5は、ステップS84に示すように、自車両が停車中であると判定する。
一方、ステップS83でNoの場合、制御手段5は、ステップS85に示すように、シフトレバー11がドライブであるか否かを判定する。ステップS85でYesの場合、制御手段5は、ステップS86に示すように、自車両が前進中であると判定する。
一方、ステップS85でNoの場合、制御手段5は、ステップS87に示すように、自車両が後退中であると判定する。
次に、ステップS59の遷移条件について説明する。図9は、ステップS59の遷移条件を説明する図である。
図9に示すように、ステップS59の画像表示の遷移条件は、ソナー12が物体を検知したときの自車両の4つの走行状態とソナー12が物体を検知しなくなったときの自車両の4つの走行状態の組み合わせによる16シーンのそれぞれに設定されている。なお、本実施形態では、想定される駐車シーンで最も確率の高い並列駐車を想定して説明する。
まず、制御手段5は、ソナー12の反応があった場合に自車両の4つの走行状態を判定し、自車両の状態を推定する。具体的には、制御手段5は、ソナー12のフロント側が反応した場合、シフトレバー11の状態がパーキングなら自車両が停車中であると推定する。また、制御手段5は、シフトレバー11の状態がドライブなら自車両が前進中(例えば前進出庫中)であり、前方向かいの駐車車両や壁、柱にソナー12が反応したと推定する。また、制御手段5は、シフトレバー11の状態がリバースなら自車両が後退中(例えば後退駐車中)に前方向かいの車や壁、柱にソナー12が反応したと推定する。一方、ソナー12のリア側が反応した場合、制御手段5は、自車両の状態を問わない。
次に、制御手段5は、ソナー12による物体の検知が終わり、ソナー12が未反応状態になったときの自車両の走行状態を確認し、自車両の状態を推定する。制御手段5は、シフトレバー11がパーキングのとき、自車両は停車中であり、物体が離れていったか、自車両が駐停車したと推定する(シーン1、5、9、13)。また、制御手段5は、シフトレバー11がドライブかリバースで、かつ、車速センサ9の車速がゼロで停車中のとき、運転者が別の運転操作を検討中であるか、ドライブとリバースを切替えようとしている最中であると推定する(シーン2、6、10、14)。また、制御手段5は、シフトレバー11がドライブで移動中のとき、ソナー12が反応したときにシフトレバー11がドライブであったなら、物体と自車両が衝突しないことを運転者が見切って移動していると推定する(シーン7)。一方、制御手段5は、シフトレバー11がドライブで移動中のとき、ソナー12が反応したときにシフトレバー11がリバースであったなら、運転者が切返しをしようとしていると推定する(シーン11)。また、制御手段5は、シフトレバー11がリバースで移動中のとき、ソナー12が反応したときにシフトレバー11がドライブであったなら、運転者が切返しをしようとしていると推定する(シーン8)。一方、制御手段5は、シフトレバー11がドライブで移動中のとき、ソナー12が反応したときにシフトレバー11がリバースであったなら、物体と自車両が衝突しないことを運転者が見切って移動していると推定する(シーン12)。
次に、図9の主要なシーンについて、イメージを用いて説明する。
図10は、図9のシーン1、2をイメージで説明する図である。シフトレバー11がパーキングのときに左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がパーキング(シーン1)、または、シフトレバー11がドライブかリバースで、車速センサ9の車速がゼロで停車中(シーン2)である状態を示している。シーン1では、物体が遠のいていったので、物体が検知されなくなったときにすぐに表示を切り替えて良い。また、シーン2では、運転者がシフトレバー11を切り替えて停車中(まだ出発していない)の状態から相手が遠のいていったのでこの場合も物体が検知されなくなったときにすぐに表示を切り替えて良い。したがって、シーン1の遷移条件T1、T2はともにゼロに近い値(例えば1s程度)に設定される。
図11は、図9のシーン3をイメージで説明する図である。シーン3は、シフトレバー11がパーキングのときに左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がドライブである状態を示している。シーン3では、物体が近づいてきたが、自車両が前進で回避しようとしている。したがって、左前方コーナソナー12aが物体を検知しなくなった後もある程度回避できるまで画面への表示を継続する必要がある。したがって、シーン3の遷移条件は実際に自車両が移動するまでの距離D3に設定される。画面から物体が見えなくなる程度の間、表示を継続する必要があるため、D3は例えば数十cm程度に設定される。なお、シーン4についてもシーン3と同様に画面への表示を継続する必要があるため、距離D4はD3に近い値に設定される。
図12は、図9のシーン7をイメージで説明する図である。シーン7は、シフトレバー11がドライブで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がドライブで移動中である状態を示している。シーン7では、自車両が前方の駐車車両に衝突しないと運転者が見切って自車両を移動させて物体が検知されなくなっている。このとき、左前方コーナソナー12aが物体を検知しなくなった後もある程度前進によって回避した部分の表示を継続するのが望ましい。したがって、シーン7の遷移条件は距離D7に設定される。画面から物体が見えなくなる程度の間、表示が継続されるのが望ましいため、D7は距離D3やD4と同程度とするのが望ましい。
図13は、図9のシーン8をイメージで説明する図である。シーン8は、シフトレバー11がドライブで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がリバースで移動中である状態を示している。シーン8では、自車両が切り返しのために自車両を後退させて物体が検知されなくなっている。このとき、左前方コーナソナー12aが物体を検知しなくなった後もある程度後退によって回避した部分の表示を継続するのが望ましい。したがって、シーン8の遷移条件は距離D8に設定される。画面から物体が見えなくなる程度の間、表示が継続されるのが望ましいため、D8はD7と同様に距離D3やD4と同程度とするのが望ましい。
なお、シーン6では、シフトレバー11がドライブで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がドライブまたはリバースで、かつ、車速センサ9の車速がゼロで停車中である状態を示している。シーン6では、運転者が次の(別の)行動を考えているか、シフトレバーをドライブからリバース、またはリバースからドライブへ切り替えている最中であると推定される。したがって、遷移条件は、T1より長い所定の時間T6に設定されれば良い。また、シーン5では、シフトレバー11がドライブで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がパーキングである状態を示している。このとき、シーン5は、他のシーン6〜8から状態が遷移してきており、自車両が駐停車したと推定されるため、表示はすぐに切り替えられてよい。したがって、遷移条件T5は、T1と略同一の値に設定される。
図14は、図9のシーン11をイメージで説明する図である。シーン11は、シフトレバー11がリバースで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がドライブで移動中である状態を示している。シーン11では、自車両が切り返しのために後退して物体が検知されなくなっている。左前方コーナソナー12aが物体を検知しなくなった後もある程度前進によって回避した部分の表示を継続するのが望ましい。したがって、シーン11の遷移条件は距離D11に設定される。画面から物体が見えなくなる程度の間、表示が継続されるのが望ましいため、D11はD7やD8と同様に距離D3やD4と同程度とするのが望ましい。
図15は、図9のシーン12をイメージで説明する図である。シーン12は、シフトレバー11がリバースで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がリバースで移動中である状態を示している。シーン12では、自車両がそのまま見切って移動し、物体が検知されなくなっている。左前方コーナソナー12aが物体を検知しなくなった後もある程度後退によって回避した部分の表示を継続するのが望ましい。したがって、シーン12の遷移条件は距離D12に設定される。画面から物体が見えなくなる程度の間、表示が継続されるのが望ましいため、D12はD7、D8、D11と同様に距離D3やD4と同程度とするのが望ましい。
なお、シーン10では、シフトレバー11がリバースで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がドライブまたはリバースで、かつ、車速センサ9の車速がゼロで停車中である状態を示している。シーン10では、運転者が次の(別の)行動を考えているか、シフトレバーをドライブからリバース、またはリバースからドライブへ切り替えている最中であると推定される。したがって、遷移条件は、T1より長い所定の時間T10に設定されれば良い。また、シーン9では、シフトレバー11がリバースで左前方コーナソナー12aが物体を検知し、物体が検知されなくなったときにシフトレバー11がパーキングである状態を示している。このとき、シーン9は、他のシーン10〜12から状態が遷移してきており、自車両が駐停車したと推定されるため、表示はすぐに切り替えられてよい。したがって、遷移条件T9は、T1と略同一の値に設定される。
また、ソナー12のリア側によって物体が検知された場合、画面表示はステップS52で示される第1撮像手段7による俯瞰画像と後方画像、またはステップS53で示される第1撮像手段7による俯瞰画像と前方画像であり、ソナー12によって物体が検知されなくなっても表示内容に変化が無い。このとき、シーン13〜16においては物体が検知されなくなったらすぐに表示を遷移させて良い。したがって、シーン13〜16の遷移条件T13〜T16はT1と略同一の値に設定される。
以上、本発明によれば、制御手段5が、ソナー12が物体を検知したときの自車両の走行状態とソナー12が物体を検知しなくなったときの自車両の走行状態とに基づいて表示手段13の表示の遷移条件を決定する。これによって、物体がソナー12の検知範囲外に離れたが依然として自車両の近くに存在する状況において、運転状況に応じて物体検知時に物体近傍の死角をなくした5カメラによる俯瞰画像の画像表示が継続される。このため、運転者は、第2撮像手段で撮像されるほど自車両近くに存在して衝突の恐れがある物体を、例えば撮像範囲外に離れるまで認識し続けることができ、安全度を向上させることができる。
また、本実施形態では、車両が右ハンドルの場合を想定したため、左前方コーナに設けられた第2撮像手段14と左前方コーナソナー12aとを用いて、ドライバの死角になりやすい左前方コーナ近傍の物体が俯瞰画像上で消失することを防止したが、車両が左ハンドルの場合は、対象が左前方ではなく右前方になる。すなわち、車両が左ハンドルの場合、本実施形態における第2撮像手段14の設置位置は右前方コーナに置き換えられ、左前方コーナソナー12aは右前方コーナソナー12bに置き換えられる。
すなわち、第2撮像手段14は、自車両の四隅のうち自車両のハンドル位置と逆方向の前方コーナを撮像する。自車両のハンドル位置と逆方向の前方コーナに存在する物体を検知するソナー12による検知範囲は第2撮像手段14の画角内に包含される。ソナー12が物体を検知したとき、画像処理手段3は、第1撮像手段7の撮像画像と第2撮像手段14の撮像画像とを合成して俯瞰画像を作成し、この俯瞰画像のうち第2撮像手段14の撮像画像に基づく俯瞰画像の領域内にソナー12による検知範囲を包含させればよい。一方、ソナー12が自車両のハンドル位置と逆方向の前方コーナに存在する物体を検知しなかったとき、画像処理手段3は、第1撮像手段7の撮像画像を合成して俯瞰画像を作成する。
なお、本実施形態では、ソナー12のうち車両の前後の物体を検知するソナーは4つのソナー12e〜12fで構成されたが、少なくとも車両の前後の物体を検知するためには2つのソナーで構成されればよい。
なお、本実施形態ではソナー12は複数のソナーで構成されたが、複数のソナーが物体を検知した場合、制御手段5は、最も自車両に近い物体を検知したソナーを、物体を検知したソナーと判定する。
また、本実施形態では物体を検知する物体検知手段としてソナー12を用いたが、物体を検知するセンサであれば、赤外線センサ等他の手段を用いてもよい。
2011年12月15日出願の特願2011−274174の日本出願に含まれる明細書、図面および要約書の開示内容は、すべて本願に援用される。
本発明の運転支援装置は、特にソナー等によって自車両四隅の物体を検知した際に俯瞰画像上で物体を消失せずに表示して、ドライバが物体を認識することを容易にする点で有用である。
1 運転支援装置
3 画像処理手段
5 制御手段
7 第1撮像手段
12 ソナー
14 第2撮像手段

Claims (4)

  1. 自車両周囲を撮像する第1撮像手段と、
    自車両周囲の物体を検知する物体検知手段と、
    少なくとも自車両のハンドル位置と逆方向の前方コーナを含む自車両のコーナ周辺を撮像する第2撮像手段と、
    自車両の走行状態を検知する走行状態検知手段と、
    前記第1撮像手段または前記第1撮像手段および第2撮像手段から入力された自車両周囲の撮像画像に基づいて俯瞰画像を合成する画像合成手段と、
    前記画像合成手段が合成した俯瞰画像と前記第1撮像手段または第2撮像手段の所定の撮像画像とを表示する表示手段と、
    前記物体検知手段と走行状態検知手段の検知結果に基づいて前記表示手段の表示の遷移を制御する制御手段とを備え、
    前記制御手段は、前記物体検知手段が物体を検知したときの自車両の走行状態と前記物体検知手段が物体を検知しなくなったときの自車両の走行状態とに基づいて前記表示手段の表示の遷移条件を決定する、
    運転支援装置。
  2. 前記制御手段は、前記物体検知手段が物体を検知したときに自車両が停車中または前進中で、前記物体検知手段が物体を検知しなくなったときに自車両が移動中である場合、前記物体検知手段が物体を検知しなくなった後に自車両が所定距離移動したときに前記表示手段の表示を切り替える、
    請求項1に記載の運転支援装置。
  3. 前記制御手段は、前記物体検知手段が物体を検知したときに自車両が前進中または後退中で、前記物体検知手段が物体を検知しなくなったときに自車両のシフトレバーが前進または後退の状態で停車中である場合、前記物体検知手段が物体を検知しなくなった後に自車両が第1の所定時間経過したときに前記表示手段の表示を切り替える、
    請求項1に記載の運転支援装置。
  4. 前記制御手段は、前記物体検知手段が物体を検知しなくなったときに自車両のシフトレバーがパーキングである場合、前記第1の所定時間より短い第2の所定時間経過したときに前記表示手段の表示を切り替える、
    請求項3に記載の運転支援装置。
JP2013549066A 2011-12-15 2012-09-14 運転支援装置 Active JP5938635B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011274174 2011-12-15
JP2011274174 2011-12-15
PCT/JP2012/005865 WO2013088613A1 (ja) 2011-12-15 2012-09-14 運転支援装置

Publications (2)

Publication Number Publication Date
JPWO2013088613A1 true JPWO2013088613A1 (ja) 2015-04-27
JP5938635B2 JP5938635B2 (ja) 2016-06-22

Family

ID=48612096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013549066A Active JP5938635B2 (ja) 2011-12-15 2012-09-14 運転支援装置

Country Status (5)

Country Link
US (1) US9697735B2 (ja)
EP (1) EP2792553A4 (ja)
JP (1) JP5938635B2 (ja)
CN (1) CN103987582B (ja)
WO (1) WO2013088613A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6231345B2 (ja) 2013-10-18 2017-11-15 クラリオン株式会社 車両用発進支援装置
WO2015182753A1 (ja) * 2014-05-29 2015-12-03 株式会社ニコン 撮像装置および車両
US11518309B2 (en) * 2014-12-12 2022-12-06 Serge Hoyda LLC System and process for viewing in blind spots
JP6206395B2 (ja) * 2014-12-26 2017-10-04 トヨタ自動車株式会社 電子ミラー装置
JP6679939B2 (ja) * 2016-01-13 2020-04-15 株式会社Jvcケンウッド 車両用表示装置および車両用表示方法
JP6642306B2 (ja) * 2016-06-29 2020-02-05 アイシン精機株式会社 周辺監視装置
EP3293717B1 (en) * 2016-09-08 2021-11-10 KNORR-BREMSE Systeme für Nutzfahrzeuge GmbH An electronically controlled braking system
CN109997356B (zh) * 2017-07-31 2021-10-08 Jvc 建伍株式会社 显示控制装置、显示控制***、显示控制方法以及程序
FR3071333B1 (fr) * 2017-09-15 2021-06-11 Renault Sas Procede d’affichage sur un ecran d’un environnement d’un vehicule automobile, et vehicule automobile dans lequel un tel procede est mis en œuvre
US11548443B2 (en) 2017-11-10 2023-01-10 Honda Motor Co., Ltd. Display system, display method, and program for indicating a peripheral situation of a vehicle
EP3489087B1 (en) * 2017-11-24 2021-05-05 Ficomirrors, S.A.U. Vehicle imaging system
KR102037324B1 (ko) * 2017-11-30 2019-10-28 엘지전자 주식회사 자율주행 차량 및 그 제어 방법
JP2019151304A (ja) * 2018-03-06 2019-09-12 アイシン精機株式会社 周辺監視装置
CN109249876A (zh) * 2018-10-26 2019-01-22 湖北大学 自动辅助驾驶边缘计算***
JP6998360B2 (ja) * 2019-12-13 2022-01-18 本田技研工業株式会社 車両用表示装置及び駐車支援システム
DE102022120236B3 (de) * 2022-08-11 2023-03-09 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum harmonisierten Anzeigen von Kamerabildern in einem Kraftfahrzeug und entsprechend eingerichtetes Kraftfahrzeug

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000064175A1 (fr) * 1999-04-16 2000-10-26 Matsushita Electric Industrial Co., Ltd. Dispositif de traitement d'images et systeme de surveillance
JP2006131166A (ja) * 2004-11-09 2006-05-25 Alpine Electronics Inc 運転支援装置
JP2008213744A (ja) * 2007-03-06 2008-09-18 Auto Network Gijutsu Kenkyusho:Kk 車輌周辺視認装置
JP2010064750A (ja) * 2009-12-25 2010-03-25 Fujitsu Ten Ltd 運転支援装置
JP2010184606A (ja) * 2009-02-12 2010-08-26 Denso Corp 車両周辺表示装置
JP2011205514A (ja) * 2010-03-26 2011-10-13 Aisin Seiki Co Ltd 車両周辺監視装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1132750C (zh) * 1998-10-08 2003-12-31 松下电器产业株式会社 驾驶操作辅助器及记录媒体
JP4639753B2 (ja) 2004-10-25 2011-02-23 日産自動車株式会社 運転支援装置
JP4883977B2 (ja) * 2005-10-05 2012-02-22 アルパイン株式会社 車両用画像表示装置
CN1921621A (zh) * 2006-09-18 2007-02-28 李博航 全景可视驾驶辅助设备
JP4412365B2 (ja) * 2007-03-26 2010-02-10 アイシン・エィ・ダブリュ株式会社 運転支援方法及び運転支援装置
JP4900326B2 (ja) 2008-06-10 2012-03-21 日産自動車株式会社 駐車支援装置及び駐車支援方法
US8340870B2 (en) 2008-09-16 2012-12-25 Honda Motor Co., Ltd. Vehicle maneuver assistance device
JP2010143442A (ja) * 2008-12-19 2010-07-01 Honda Motor Co Ltd 車両の運転支援装置
CN101995239B (zh) 2009-08-11 2012-05-23 财团法人车辆研究测试中心 利用鸟瞰影像判断障碍物的***及方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000064175A1 (fr) * 1999-04-16 2000-10-26 Matsushita Electric Industrial Co., Ltd. Dispositif de traitement d'images et systeme de surveillance
JP2006131166A (ja) * 2004-11-09 2006-05-25 Alpine Electronics Inc 運転支援装置
JP2008213744A (ja) * 2007-03-06 2008-09-18 Auto Network Gijutsu Kenkyusho:Kk 車輌周辺視認装置
JP2010184606A (ja) * 2009-02-12 2010-08-26 Denso Corp 車両周辺表示装置
JP2010064750A (ja) * 2009-12-25 2010-03-25 Fujitsu Ten Ltd 運転支援装置
JP2011205514A (ja) * 2010-03-26 2011-10-13 Aisin Seiki Co Ltd 車両周辺監視装置

Also Published As

Publication number Publication date
EP2792553A1 (en) 2014-10-22
EP2792553A4 (en) 2015-09-09
JP5938635B2 (ja) 2016-06-22
US20140327776A1 (en) 2014-11-06
US9697735B2 (en) 2017-07-04
WO2013088613A1 (ja) 2013-06-20
CN103987582B (zh) 2017-02-22
CN103987582A (zh) 2014-08-13

Similar Documents

Publication Publication Date Title
JP5938635B2 (ja) 運転支援装置
JP6388267B2 (ja) 運転支援装置
JP5321267B2 (ja) 車両用画像表示装置及び俯瞰画像の表示方法
JP3695319B2 (ja) 車両周辺モニタ装置
EP3647131B1 (en) Parking assistance device
WO2007015446A1 (ja) 車両周囲監視装置及び車両周囲監視方法
JP5182137B2 (ja) 車両周辺表示装置
JP2007124097A (ja) 車両周辺視認装置
JP4595902B2 (ja) 車両周辺画像表示システム及び車両周辺画像表示方法
WO2019193819A1 (ja) 車両用表示制御装置、車両用表示システム、車両用表示制御方法、およびプログラム
WO2012144076A1 (ja) 車両周辺監視装置及び車両周辺監視情報の表示方法
US11220213B2 (en) Rear display device
JP4957589B2 (ja) 障害物警告装置、障害物警告方法及びコンピュータプログラム
JP5803757B2 (ja) 周辺監視装置及び周辺監視方法
JP2007091047A (ja) 車両駐車支援装置
JP2012166689A (ja) 運転支援装置
JP2012188058A (ja) 表示装置
KR101355101B1 (ko) 차량의 어라운드 뷰 모니터의 제어방법
JP2019081419A (ja) 駐車支援装置
JP2009208596A (ja) 障害物警告装置、障害物警告方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160411

R151 Written notification of patent or utility model registration

Ref document number: 5938635

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151