JP6456761B2 - 道路環境認識装置、車両制御装置及び車両制御方法 - Google Patents

道路環境認識装置、車両制御装置及び車両制御方法 Download PDF

Info

Publication number
JP6456761B2
JP6456761B2 JP2015086641A JP2015086641A JP6456761B2 JP 6456761 B2 JP6456761 B2 JP 6456761B2 JP 2015086641 A JP2015086641 A JP 2015086641A JP 2015086641 A JP2015086641 A JP 2015086641A JP 6456761 B2 JP6456761 B2 JP 6456761B2
Authority
JP
Japan
Prior art keywords
virtual line
lane
vehicle
unit
dimensional object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015086641A
Other languages
English (en)
Other versions
JP2016206882A (ja
Inventor
洋介 坂本
洋介 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2015086641A priority Critical patent/JP6456761B2/ja
Priority to US15/135,169 priority patent/US10053092B2/en
Publication of JP2016206882A publication Critical patent/JP2016206882A/ja
Application granted granted Critical
Publication of JP6456761B2 publication Critical patent/JP6456761B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/10Path keeping
    • B60W30/12Lane keeping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/04Conjoint control of vehicle sub-units of different type or different function including control of propulsion units
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/18Conjoint control of vehicle sub-units of different type or different function including control of braking systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/20Conjoint control of vehicle sub-units of different type or different function including control of steering systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408Radar; Laser, e.g. lidar
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/06Direction of travel
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • B60W2552/53Road markings, e.g. lane marker or crosswalk
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2720/00Output or target parameters relating to overall vehicle dynamics
    • B60W2720/24Direction of travel

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Traffic Control Systems (AREA)

Description

この発明は、車両の前方の道路環境を認識する道路環境認識装置に関し、また、道路環境認識装置で認識されたレーンマークを利用して車両を制御する車両制御装置及び車両制御方法に関する。
近時の車両はカメラやレーダを用いて前方の道路環境を認識する道路環境認識装置を搭載する。例えば、特許文献1はカメラ及び/又はレーダにより取得した情報を用いてガードレールやレーンマークを認識し、その外側に位置する立体物を誤認識と判定して認識対象から除外する装置を示している。
特許第4047249号公報(請求項6、段落[0060]〜[0065]、[0090])
道路環境認識装置を用いて車両を制御する車両制御装置がある。車両制御装置は道路環境認識装置でレーン両側のレーンマークを認識しつつ車両を制御する。ところで、レーンの境界にガードレールのような立体物が設けられている道路があり、そのような道路にはレーンマークが設けられていない場合がある。道路環境認識装置はこのような道路でレーンマークを認識することができない。このため車両制御装置で車両を制御することはできない。
特許文献1の装置はガードレールや実際に設けられたレーンマークを認識できるが、レーンマークが設けられない道路でレーンマークを認識することができない。このため、特許文献1の装置を用いたとしても、レーンマークが設けられない道路では車両を制御することができない。
本発明はこのような課題を考慮してなされたものであり、レーンの境界に立体物が設けられレーンマークが設けられない道路でレーンマークを認識できる道路環境認識装置と、その道路環境認識装置を用いた車両制御装置及び車両制御方法を提供することを目的とする。
本発明は、車両の前方の道路環境を認識する道路環境認識装置であって、前記車両が位置するレーンに沿って設けられる立体物を認識する認識部と、前記認識部により認識される前記立体物に基づいて仮想線を設定し、前記仮想線をレーンマークとみなす仮想線設定部と、を備えることを特徴とする。
本発明によれば、車両が位置するレーンに沿って設けられる立体物に基づいて仮想線を設定し、その仮想線をレーンマークとみなす。このため、レーンの境界に立体物が設けられレーンマークが設けられない道路でレーンマーク(仮想線)を認識でき、そのような道路でレーンマークを用いた車両制御が可能になる。
本発明に係る道路環境認識装置において、前記車両の前方を撮像する撮像部を備え、前記認識部は、前記撮像部により撮像された画像情報を用いて前記立体物を認識するようにしてもよい。撮像部はレーンマークの検出に優れており、レーンの一方側に設けられるレーンマークを高精度に認識できる。本発明によれば、レーンの一方側に設けられるレーンマーク及びレーンの他方側に設定するレーンマーク(仮想線)を用いた車両制御を高精度に行うことが可能になる。
本発明に係る道路環境認識装置において、前記車両の前方に電磁波を照射して反射波を検出する電磁波検出部を更に備え、前記認識部は、前記画像情報と前記電磁波検出部により検出された反射波情報を用いて前記立体物を認識するようにしてもよい。電磁波検出部は立体物の検出に優れており、精度の高い仮想線を設定することができる。本発明によれば、レーンの一方側に設けられるレーンマーク及びレーンの他方側に設定するレーンマーク(仮想線)を用いた車両制御を高精度に行うことが可能になる。
本発明に係る道路環境認識装置において、前記認識部は、前記立体物の外側に存在する他の立体物を認識の対象外にするようにしてもよい。本発明によれば、認識対象を減らすことで認識処理の負担を軽減することが可能になる。
本発明に係る道路環境認識装置において、 前記仮想線設定部は、複数時期に取得された情報を用いて前記仮想線を設定するようにしてもよい。本発明によれば、複数時期に取得された情報を用いるため、安定した仮想線を設定できる。
本発明に係る道路環境認識装置において、前記立体物に対して前記レーンを挟んで向き合うガードレールが設けられている場合に、前記認識部は、前記立体物に含まれる複数の立体物点を認識すると共に、前記ガードレールに含まれる複数の設置点を認識し、前記仮想線設定部は、前記立体物点を用いた直線近似により第1直線を求め、前記第1直線から第1距離だけ前記レーン側に離れた位置に前記仮想線の候補を設定すると共に、前記設置点を用いた直線近似により第2直線を求め、前記第2直線を第2距離だけ前記仮想線の候補側に移動させ、移動後の第2直線を用いて前記仮想線の候補を補正して前記仮想線を設定するようにしてもよい。本発明によれば、立体物とは別のガードレールを用いて仮想線の候補を補正するため、精度の高い仮想線を設定できる。
本発明に係る道路環境認識装置において、前記レーンに他のレーンマークが設けられている場合に、前記認識部は、前記他のレーンマークを認識し、前記仮想線設定部は、前記他のレーンマークを第3距離だけ前記仮想線の候補側に移動させ、移動後の前記他のレーンマークを用いて前記仮想線の候補を補正して前記仮想線を設定するようにしてもよい。本発明によれば、レーンに設けられるレーンマークを用いて仮想線の候補を補正するため、精度の高い仮想線を設定できる。
本発明に係る道路環境認識装置において、前記レーンに他のレーンマークが設けられている場合に、前記認識部は、前記他のレーンマークを認識し、前記仮想線設定部は、前記他のレーンマークと対称性がない直線の情報、又は、前記他のレーンマークから当該他のレーンマークと前記立体物との距離よりも離れている直線の情報を除外するようにしてもよい。本発明によれば、仮想線の設定時に関係のない情報を除外するため、仮想線を速やかに設定できる。
本発明に係る車両制御装置は道路環境認識装置を備え、前記車両の進行方向を予測して、前記車両が前記仮想線を超えることが予測される場合に前記車両が前記仮想線を超えることを予防し及び/又は前記車両を前記仮想線に沿って走行させる車両制御部を備える。本発明によれば、レーンの境界に立体物が設けられレーンマークが設けられない道路でレーンマーク(仮想線)を用いた車両制御が可能になる。
本発明は、車両が位置するレーンのレーンマークを認識し、前記レーンマークを利用して前記車両を制御する車両制御方法において、前記車両の前方を撮像して画像情報を取得すると共に前記車両の前方に電磁波を照射して反射波情報を取得し、前記画像情報と前記反射波情報を用いて前記車両が位置するレーンに沿って設けられる立体物を認識する認識工程と、前記認識工程により認識される前記立体物に基づいて仮想線を設定し、前記仮想線を前記レーンマークとみなす仮想線設定工程と、前記車両の進行方向を予測して、前記車両が前記仮想線を超えることが予測される場合に前記車両が前記仮想線を超えることを予防し及び/又は前記車両を前記仮想線に沿って走行させる車両制御工程と、を備え、更に前記認識工程では、前記立体物の外側に存在する他の立体物を認識の対象外にすることを特徴とする。本発明によれば、レーンの境界に立体物が設けられレーンマークが設けられない道路でレーンマーク(仮想線)を用いた車両制御が可能になる。
本発明に係る車両制御方法において、前記立体物に対して前記レーンを挟んで向き合うガードレールが設けられ、且つ、前記レーンに他のレーンマークが設けられている場合に、前記認識工程では、前記立体物に含まれる複数の立体物点を認識し、前記ガードレールに含まれる複数の設置点を認識し、前記他のレーンマークを認識し、前記仮想線設定工程では、前記立体物点を用いた直線近似により第1直線を求め、前記第1直線から第1距離だけ前記レーン側に離れた位置に前記仮想線の候補を設定すると共に、前記設置点を用いた直線近似により第2直線を求め、前記第2直線を第2距離だけ前記仮想線の候補側に移動させ、前記他のレーンマークを第3距離だけ前記仮想線の候補側に移動させ、移動後の前記第2直線及び移動後の前記他のレーンマークを用いて前記仮想線の候補を補正して前記仮想線を設定する。本発明によれば、精度の高い仮想線を設定できるため、車両制御の精度も向上する。
本発明によれば、レーンの境界に立体物が設けられレーンマークが設けられない道路でレーンマーク(仮想線)を認識でき、そのような道路でレーンマークを用いた車両制御が可能になる。
図1は道路環境の画像情報及び反射波情報の説明図である。 図2は本実施形態に係る車両制御装置及び道路環境認識装置の機能ブロック図である。 図3はレーダ点を用いた直線近似の説明図である。 図4は車両制御装置及び道路環境認識装置で行われる処理のフローチャートである。 図5は複数時期の道路環境の画像情報及び反射波情報の説明図である。
以下、本発明に係る道路環境認識装置、及び、道路環境認識装置を備える車両制御装置について好適な実施形態を挙げ、添付の図面を参照して詳細に説明する。
先ず、図1を用いて本実施形態で車両が走行する道路環境の一例を説明する。車両が走行するレーン70の左側にはレーン70に沿って立体物72が設けられる。立体物72にはガードレール・壁・ロードコーン・ポール等が含まれる。図1では立体物72としてガードレールを示す。立体物72とレーン70との境界にはレーンマークが設けられてない。立体物72の外側(図面左側)にはレーンマーク74が設けられた対向レーン70aが存在する。
車両が走行するレーン70の右側にはレーン70に沿って2本のレーンマーク76、78が設けられる。レーンマーク76、78の外側(図面右側)には、立体物72に対してレーン70を挟んで向き合うガードレール80が設けられる。
以下で説明する道路環境認識装置12は、立体物72に沿った仮想線82を設定するものである。また、車両制御装置10は、仮想線82を用いて車両を制御するものである。
[車両制御装置10及び道路環境認識装置12の構成]
車両制御装置10及び道路環境認識装置12の構成について、図2を用いて説明する。車両制御装置10は、車両前方の道路環境を認識する道路環境認識装置12と、車両の動作情報を検出するセンサ群14と、車両を制御する車両制御部16と、車両制御部16から出力される報知指令を受けて動作する報知部18と、車両制御部16から出力される加速指令を受けて動作する駆動部20と、車両制御部16から出力される制動指令を受けて動作する制動部22と、車両制御部16から出力される操舵指令を受けて動作する操舵部24と、を備える。
道路環境認識装置12は、車両の前方を撮像する撮像部26と、車両の前方に電磁波を照射して反射波を検出する電磁波検出部28と、撮像部26により撮像された画像情報60(図1参照)と電磁波検出部28により検出された反射波情報60a(図1参照)を用いて一連の認識処理を実行して仮想線82を設定する認識処理部30と、を備える。
撮像部26は、単眼カメラやステレオカメラ等のカメラにより構成される。カメラは、例えばフロントガラス内面上部に設置される。カメラは車両の前方の道路環境(レーンマーク74、76、78、立体物72、ガードレール80等)を撮像して画像情報60を取得する。
電磁波検出部28は、ミリ波レーダ、マイクロ波レーダ、レーザレーダ等のレーダや赤外線センサ(以下、まとめてレーダ等という。)により構成される。レーダ等は、例えばフロントグリル内に設置される。レーダ等は車両の前方の道路環境に電磁波を照射し、立体物72やガードレール80で反射した反射波の位置情報(以下、反射波情報という。)60aを取得する。なお、レーダ等は規定距離Lまでに存在する立体物72やガードレール80を検出可能である。
認識処理部30は、ECUにより構成される。ECUは、マイクロコンピュータを含む計算機であり、CPU(中央処理装置)、メモリであるROM(EEPROMも含む。)、RAM(ランダムアクセスメモリ)、その他、A/D変換器、D/A変換器等の入出力装置等を有する。ECUは、CPUがROMに記録されているプログラムを読み出し実行することで各種機能実現部、例えば各種制御部、演算部、及び処理部等として機能する。本実施形態で認識処理部30を構成するECUは、環境情報記録部32、認識部34、仮想線設定部36、ノイズ処理部38として機能する。なお、ECUは複数に分割してもよく、又は、他のECUと統合してもよい。
環境情報記録部32は、撮像部26で取得される画像情報60及び電磁波検出部28で取得される反射波情報60aをメモリに記録するように構成される。
認識部34は、環境情報記録部32で記録された画像情報60及び反射波情報60aから立体物72、ガードレール80、レーンマーク76、78といった道路環境を認識する。例えば、画像情報60を2値化し、エッジ点82a、82bを抽出してレーンマーク76、78として認識する。また、反射波情報60aから直線上に並ぶ複数のレーダ点84a、84b、84cを抽出して立体物72として認識する。認識部34は、画像情報60と反射波情報60aとのフュージョンにより道路環境を認識することも可能である。
仮想線設定部36は、直線近似部42と位置チェック部44とを備える。図3で示すように、直線近似部42は、反射波情報60aから抽出された複数のレーダ点、例えばレーダ点84aを直線近似して立体物72上に第1直線86を求める。更に、第1直線86に基づいて仮想線82を求める。位置チェック部44は、立体物72に対してレーン70を挟んで向き合うガードレール80や、レーン70の反対側に設けられるレーンマーク76、78の位置に基づいて、仮想線82の位置をチェックする。仮想線82の位置が適切でない場合は仮想線82の位置を補正する。
ノイズ処理部38は、仮想線82及び立体物72の外側に存在する道路環境情報をノイズとみなす。ノイズは認識の対象外とされる。
センサ群14は、車両の車速を検出する車速センサ、ステアリングホイールの操舵角を検出する操舵角センサ、ステアリングシャフトに発生するトルクを検出するトルクセンサ、車両の位置を検出するナビゲーション装置、ジャイロセンサ等により構成される。各センサの検出情報は車両制御部16に送信される。
車両制御部16は、ECUにより構成される。車両制御部16は、レーン逸脱抑制制御部52とレーンキープ制御部54として機能する。レーン逸脱抑制制御部52は、車両が仮想線82を超えることが予測される場合に、警報指令、減速指令、操舵指令等を出力して車両が仮想線82を超えることを予防するように構成される。レーンキープ制御部54は、操舵指令を出力して車両を仮想線82に沿って走行させるように構成される。
報知部18、駆動部20、制動部22、操舵部24は共にECUにより構成される。報知部18は車両制御部16から出力される警報指令に応じて車内のディスプレイに警告を表示させ及び/又はスピーカに警告音を出力させる。駆動部20は車両制御部16から出力される加速指令に応じて車両の駆動源を動作させる。車両がエンジン車両の場合は加速指令に応じてスロットルバルブ等を動作させて、駆動源(エンジン)を動作させる。車両が電動モータを含む電動車両の場合は加速指令に応じて駆動源(電動モータ)を動作させる。制動部22は車両制御部16から出力される減速指令に応じてブレーキアクチュエータを動作させて、ブレーキを動作させる。操舵部24は車両制御部16から出力される警報指令及び操舵指令に応じて電動パワーステアリングのモータを動作させる。モータはステアリングシャフトを振動又は回転させる。
[車両制御装置10及び道路環境認識装置12の処理]
車両制御装置10及び道路環境認識装置12で行われる処理について、図4を用いて説明する。なお、図4で示す処理は、所定時間毎、例えばms(ミリ秒)オーダの極めて短い時間毎に連続して行われる。
ステップS1にて、撮像部26は車両の前方の画像情報60を取得し、電磁波検出部28は車両の前方に電磁波を照射し反射波情報60aを取得する。環境情報記録部32は、取得された画像情報60及び反射波情報60aを記録する。
ステップS2にて、認識部34は、環境情報記録部32で記録された反射波情報60aからレーダ点(反射点位置)を抽出する。この際、認識部34は、車両側(図1の下方)からレーン70の奥側(図1の上方)までの間に並ぶ点列を抽出する。このときレーン70に沿って設けられる立体物72のレーダ点84a、84b、84cの他に、他の立体物、例えばガードレール80のレーダ点も抽出される。この段階で各レーダ点は互いに関連付けられていないため、立体物72やガードレール80の形状は認識されていない。
認識部34は、レーン70に沿って設けられるレーンマーク76、78を認識する。立体物72はレーン70の略中心線を対称軸としてレーンマーク76、78と線対称となる。このため、認識部34は、レーンマーク76、78と線対称とならないような点列を立体物72とは関係がないものと判断し、抽出の対称から除外する。また、レーンマーク76、78から立体物72までの距離が判っている場合、認識部34は、レーンマーク76、78からその距離以上離れた点、例えばレーンマーク74のエッジ点は立体物72とは関係がないものと判断し、抽出の対称から除外する。
ステップS3にて、認識部34は、抽出された複数のレーダ点84a、84b、84cの中から直線上に並ぶレーダ点84a、84b、84cの数を算出する。直線上に並ぶレーダ点の数が所定数以上である場合、ここでは複数のレーダ点84aが確認できる場合、各レーダ点84aは同一立体物72上の同一高さを示すものと判断される。認識部34は、直線上に並ぶ所定数以上のレーダ点84aを抽出する。なお、直線上に並ぶ所定数以上のレーダ点84b、84cを抽出することも可能である。
ステップS4にて、直線近似部42は、図3で示すように、直線上に並ぶ所定数以上のレーダ点84aを用いて最小二乗法等の直線近似を行い、立体物72上に第1直線86を設定する。更に、直線近似部42は、第1直線86から第1距離だけレーン70側に離れたレーン70の表面位置に仮想線の候補82´を設定する。仮想線の候補82´の幅は一般的なレーンマークの幅と同一とする。
認識部34は、画像情報60又は反射波情報60aからガードレール80の設置点88を認識する。直線近似部42は、直線上に並ぶ所定数以上の設置点88を用いて最小二乗法等の直線近似を行い、ガードレール80の設置点88上に第2直線90を設定する。
ステップS5にて、位置チェック部44は、直線近似部42により設定された仮想線の候補82´の位置をチェックする。例えば、立体物72とガードレール80との離間距離(第2距離)が判っている場合に、位置チェック部44は、ガードレール80側の第2直線90を仮想線の候補82´側に第2距離だけずらし、両者の重なり具合をチェックする。両者のずれが許容範囲内である場合は、仮想線の候補82´を正式な仮想線82とする。一方、両者のずれが許容範囲を超える場合は、仮想線の候補82´を補正する。例えば、仮想線の候補82´と仮想線の候補82´側にずらした第2直線90との中間線を求め、その中間線を正式な仮想線82とする。求められた仮想線82はレーンマークとみなされる。仮想線82の延在方向はレーン70の延在方向と略一致する。
更に立体物72とレーンマーク76、78との離間距離(第3距離)が判っている場合は、レーンマーク76、78を仮想線の候補82´側に第3距離だけずらし、両者の重なり具合をチェックすることもできる。この際、仮想線の候補82´を補正することもできる。
また、仮想線の候補82´と、第2直線90及び/又はレーンマーク76、78との対称性をチェックすることで、仮想線の候補82´の位置をチェックすることもできる。この際、仮想線の候補82´を補正することもできる。
ステップS5により、仮想線82すなわち仮想のレーンマークが設定されると、ステップS6の処理及びステップS7の処理が行われる。
ステップS6にて、ノイズ処理部38は、画像情報60及び反射波情報60aにおいて、立体物72の外側に存在する他の立体物のレーダ点やレーンマーク74のエッジ点をノイズとみなす。例えば、第1直線86が内側と外側の境界として使用される。
ステップS7にて、車両制御部16は仮想線82を用いた車両制御を行う。車両制御部16は、レーン逸脱抑制制御部52によるレーン逸脱抑制制御とレーンキープ制御部54によるレーンキープ制御の少なくとも一方を行う。
レーン逸脱抑制制御部52は、センサ群14(操舵角センサ、ナビゲーション装置、ジャイロセンサ等)の情報から、所定時間内の車両の進行方向を予測する。そして、車両が方向指示器を作動させずに仮想線82を超えることが予測される場合に、次のように車両が仮想線82を超えることを予防する。
先ずレーン逸脱抑制制御部52は報知部18及び操舵部24に警報指令を出力する。報知部18は車内のディスプレイに警告を表示させ、スピーカに警告音を出力させる。操舵部24は電動パワーステアリングのモータを動作させてステアリングシャフト及びステアリングホイールを振動させる。このようにレーン逸脱抑制制御部52は報知部18を介して運転者にレーン逸脱を報知する。
次にレーン逸脱抑制制御部52は操舵部24に操舵指令を出力する。操舵部24は電動パワーステアリングのモータを動作させてレーン70に戻る方向にステアリングシャフトを回転させる。このようにレーン逸脱抑制制御部52は操舵部24を介して操舵をアシスト又は自動制御する。
車両が仮想線82を大きく超えることが予測される場合は、レーン逸脱抑制制御部52は制動部22に減速指令を出力する。制動部22はブレーキアクチュエータを動作させてブレーキを動作させる。このようにレーン逸脱抑制制御部52は制動部22を介して車両を減速させる。
レーンキープ制御部54は、車両が仮想線82及びレーンマーク76の間の所定範囲内で走行するように操舵部24に操舵指令を出力する。操舵部24は電動パワーステアリングのモータを動作させてステアリングシャフトを回転させる。
[第1実施形態のまとめ]
本実施形態に係る道路環境認識装置12は、車両が位置するレーン70に沿って設けられる立体物72を認識する認識部34と、認識部34により認識される立体物72に基づいて仮想線82を設定し、仮想線82をレーンマークとみなす仮想線設定部36と、を備える。
本実施形態に係る道路環境認識装置12によれば、車両が位置するレーン70に沿って設けられる立体物72に基づいて仮想線82を設定し、その仮想線82をレーンマークとみなす。このため、レーン70の境界に立体物72が設けられレーンマークが設けられない道路でレーンマーク(仮想線82)を認識でき、そのような道路でレーンマークを用いた車両制御が可能になる。
また、本実施形態に係る道路環境認識装置12は、車両の前方を撮像する撮像部26を備える。認識部34は、撮像部26により撮像された画像情報60を用いて立体物72を認識する。撮像部26はレーンマーク76、78の検出に優れており、レーン70の一方側に設けられるレーンマーク76、78を高精度に認識できる。本実施形態によれば、レーン70の一方側に設けられるレーンマーク76、78及びレーン70の他方側に設定するレーンマーク(仮想線82)を用いた車両制御を高精度に行うことが可能になる。
また、本実施形態に係る道路環境認識装置12は、車両の前方に電磁波を照射して反射波を検出する電磁波検出部28を備える。認識部34は、画像情報60と電磁波検出部28により検出された反射波情報60aを用いて立体物72を認識する。電磁波検出部28は立体物72の検出に優れており、精度の高い仮想線82を設定することができる。本実施形態によれば、レーン70の一方側に設けられるレーンマーク76、78及びレーン70の他方側に設定するレーンマーク(仮想線82)を用いた車両制御を高精度に行うことが可能になる。
本実施形態に係る道路環境認識装置12において、認識部34は、立体物72の外側に存在する他の立体物を認識の対象外にする。本実施形態によれば、認識対象を減らすことで認識処理の負担を軽減することが可能になる。
本実施形態に係る道路環境認識装置12において、立体物72に対してレーン70を挟んで向き合うガードレール80が設けられている場合に、認識部34は、立体物72に含まれる複数のレーダ点(立体物点)84aを認識すると共に、ガードレール80に含まれる複数の設置点88を認識する。仮想線設定部36は、レーダ点(立体物点)84aを用いた直線近似により第1直線86を求め、第1直線86から第1距離だけレーン70側に離れた位置に仮想線の候補82´を設定する。更に、設置点88を用いた直線近似により第2直線90を求め、第2直線90を第2距離だけ仮想線の候補82´側に移動させ、移動後の第2直線90を用いて仮想線の候補82´を補正して仮想線82を設定する。本発明によれば、立体物72とは別のガードレール80を用いて仮想線の候補82´を補正するため、精度の高い仮想線82を設定できる。
本実施形態に係る道路環境認識装置12において、レーン70に他のレーンマーク76、78が設けられている場合に、認識部34は、他のレーンマーク76、78を認識する。更に、仮想線設定部36は、他のレーンマーク76、78を第3距離だけ仮想線の候補82´側に移動させ、移動後の他のレーンマーク76、78を用いて仮想線の候補82´を補正して仮想線82を設定する。本実施形態によれば、レーン70に設けられるレーンマーク76、78を用いて仮想線の候補82´を補正するため、精度の高い仮想線82を設定できる。
本実施形態に係る道路環境認識装置12において、レーン70に他のレーンマーク76、78が設けられている場合に、認識部34は、他のレーンマーク76、78を認識し、仮想線設定部36は、他のレーンマーク76、78と対称性がない直線の情報、又は、他のレーンマーク76、78から他のレーンマーク76、78と立体物72との距離よりも離れている直線の情報を除外する。本実施形態によれば、仮想線82の設定時に関係のない情報を除外するため、仮想線82を速やかに設定できる。
本実施形態に係る車両制御装置10は、車両の進行方向を予測して、車両が仮想線82を超えることが予測される場合に車両が仮想線82を超えることを予防し及び/又は車両を仮想線82に沿って走行させる車両制御部16を備える。本実施形態によれば、レーン70の境界に立体物72が設けられレーンマークが設けられない道路でレーンマーク(仮想線82)を用いた車両制御が可能になる。
また、本実施形態に係る車両制御方法は、車両の前方を撮像して画像情報60を取得すると共に車両の前方に電磁波を照射して反射波情報60aを取得し、画像情報60と反射波情報60aを用いて車両が位置するレーン70に沿って設けられる立体物72を認識する認識工程(ステップS1〜ステップS3)と、認識工程により認識される立体物72に基づいて仮想線82を設定し、仮想線82をレーンマークとみなす仮想線設定工程(ステップS4、ステップS5)と、車両の進行方向を予測して、車両が仮想線82を超えることが予測される場合に車両が仮想線82を超えることを予防し及び/又は車両を仮想線82に沿って走行させる車両制御工程(ステップS7)と、を備える。更に認識工程では、立体物72の外側に存在する他の立体物を認識の対象外にする(ステップS6)。本実施形態によれば、レーン70の境界に立体物72が設けられレーンマークが設けられない道路でレーンマーク(仮想線82)を用いた車両制御が可能になる。
本発明に係る車両制御方法において、立体物72に対してレーン70を挟んで向き合うガードレール80が設けられ、且つ、レーン70に他のレーンマーク76、78が設けられている場合に、認識工程(ステップS1〜ステップS3)では、立体物72に含まれる複数のレーダ点(立体物点)84aを認識し、ガードレール80に含まれる複数の設置点88を認識し、他のレーンマーク76、78を認識する。仮想線設定工程(ステップS4、ステップS5)では、レーダ点(立体物点)84aを用いた直線近似により第1直線86を求め、第1直線86から第1距離だけレーン70側に離れた位置に仮想線の候補82´を設定する。また、設置点88を用いた直線近似により第2直線90を求め、第2直線90を第2距離だけ仮想線の候補82´側に移動させる。また、他のレーンマーク76、78を第3距離だけ仮想線の候補82´側に移動させる。そして、移動後の第2直線90及び移動後の他のレーンマーク76、78を用いて仮想線の候補82´を補正して仮想線82を設定する。本実施形態によれば、精度の高い仮想線を設定できるため、車両制御の精度も向上する。
[変形例]
上記実施形態では一時期に取得された画像情報60及び反射波情報60aを用いて仮想線82を設定する。対して複数時期に取得された画像情報60及び反射波情報60aを用いることも可能である。図2、図4、図5を用いてこの変形例を説明する。
認識部34は、図4で示すステップS2、ステップS3の処理を、各時期t1、…、tnに取得された画像情報60及び反射波情報60aを用いて行う。直線近似部42は、各時期t1、…、tnに取得されたレーダ点を用いて最小二乗法等の直線近似を行い、立体物72上に第1直線を設定する。直線近似部42は、図5で示すように、第1直線から第1距離だけレーン70側に離れた位置に、第1直線と平行する仮想線の候補94´を設定する。なお、図5では、一時期に取得された画像情報60又は反射波情報60aに基づいて求められる仮想線の候補82´を実線で示し、複数時期に取得された画像情報60又は反射波情報60aに基づいて求められる仮想線の候補94´を点線で示す。
認識部34は、各時期t1、…、tnに取得された画像情報60又は反射波情報60aからガードレール80の設置点88を認識する。直線近似部42は、直線上に並ぶ所定数以上の設置点88を用いて最小二乗法等の直線近似を行い、ガードレール80の設置点88上に第2直線96を設定する。なお、図5では、一時期に取得された画像情報60又は反射波情報60aに基づいて求められる第2直線90を実線で示し、複数時期に取得された画像情報60又は反射波情報60aに基づいて求められる第2直線96を点線で示す。
図4で示すステップS5にて、位置チェック部44は、第2直線96を用いて仮想線の候補94´をチェックし、両者のずれが許容範囲内である場合は、仮想線の候補94´を正式な仮想線94とする。一方、両者のずれが許容範囲を超える場合は、仮想線の候補94´を補正して、補正後の仮想線の候補94´を正式な仮想線94とする。
この変形例によれば、複数時期に取得された情報を用いるため、安定した仮想線94を設定できる。
[他の実施形態]
なお、本発明は、上述の実施形態に限定されることなく、本発明の要旨を逸脱しない範囲において、種々の構成を採り得ることはもちろんである。例えば、電磁波検出部28を使用せず、撮像部26のみ設けるようにしてもよい。
また、直線近似部42で求めた直線を仮想線の候補82´として、位置チェック部44で仮想線の候補82´の位置チェックを行わなくてもよい。この場合、直線近似部42は、第1直線86から第1距離だけレーン70側に離れたレーン70の表面位置に仮想線82を設定する。
10…車両制御装置 12…道路環境認識装置
16…車両制御部 26…撮像部
28…電磁波検出部 34…認識部
36…仮想線設定部 38…ノイズ処理部
52…レーン逸脱抑制制御部 54…レーンキープ制御部
60…画像情報 60a…反射波情報
70…レーン 72…立体物
74、76、78…レーンマーク 80…ガードレール
82、94…仮想線 82´、94´…仮想線の候補
84a、84b、84c…レーダ点 86…第1直線
88…設置点

Claims (9)

  1. 車両の前方の道路環境を認識する道路環境認識装置であって、
    前記車両が位置するレーンに沿って設けられる立体物を認識する認識部と、
    前記認識部により認識される前記立体物に基づいて仮想線を設定し、前記仮想線をレーンマークとみなす仮想線設定部と、を備え
    前記立体物に対して前記レーンを挟んで向き合うガードレールが設けられている場合に、
    前記認識部は、前記立体物に含まれる複数の立体物点を認識すると共に、前記ガードレールに含まれる複数の設置点を認識し、
    前記仮想線設定部は、前記立体物点を用いた直線近似により第1直線を求め、前記第1直線から第1距離だけ前記レーン側に離れた位置に前記仮想線の候補を設定すると共に、前記設置点を用いた直線近似により第2直線を求め、前記第2直線を第2距離だけ前記仮想線の候補側に移動させ、移動後の第2直線を用いて前記仮想線の候補を補正して前記仮想線を設定する
    ことを特徴とする道路環境認識装置。
  2. 請求項1に記載の道路環境認識装置において、
    前記車両の前方を撮像する撮像部を備え、
    前記認識部は、前記撮像部により撮像された画像情報を用いて前記立体物を認識する
    ことを特徴とする道路環境認識装置。
  3. 請求項2に記載の道路環境認識装置において、
    前記車両の前方に電磁波を照射して反射波を検出する電磁波検出部を更に備え、
    前記認識部は、前記画像情報と前記電磁波検出部により検出された反射波情報を用いて前記立体物を認識する
    ことを特徴とする道路環境認識装置。
  4. 請求項1〜3のいずれか1項に記載の道路環境認識装置において、
    前記認識部は、前記立体物の外側に存在する他の立体物を認識の対象外にする
    ことを特徴とする道路環境認識装置。
  5. 請求項1に記載の道路環境認識装置において、
    前記仮想線設定部は、複数時期に取得された情報を用いて前記仮想線を設定する
    ことを特徴とする道路環境認識装置。
  6. 請求項に記載の道路環境認識装置において、
    前記レーンに他のレーンマークが設けられている場合に、
    前記認識部は、前記他のレーンマークを認識し、
    前記仮想線設定部は、前記他のレーンマークを第3距離だけ前記仮想線の候補側に移動させ、移動後の前記他のレーンマークを用いて前記仮想線の候補を補正して前記仮想線を設定する
    ことを特徴とする道路環境認識装置。
  7. 請求項1〜のいずれか1項に記載の道路環境認識装置を備え、
    前記車両の進行方向を予測して、前記車両が前記仮想線を超えることが予測される場合に前記車両が前記仮想線を超えることを予防し及び/又は前記車両を前記仮想線に沿って走行させる車両制御部を備える
    ことを特徴とする車両制御装置。
  8. 車両の前方の道路環境を認識する道路環境認識装置であって、
    前記車両が位置するレーンに沿って設けられる立体物を認識する認識部と、
    前記認識部により認識される前記立体物に基づいて仮想線を設定し、前記仮想線をレーンマークとみなす仮想線設定部と、を備え、
    前記レーンに他のレーンマークが設けられている場合に、
    前記認識部は、前記他のレーンマークを認識し、
    前記仮想線設定部は、前記他のレーンマークと前記レーンの中心線を対称軸として線対称とならない直線の情報、又は、前記他のレーンマークから当該他のレーンマークと前記立体物との距離よりも離れている直線の情報を除外する
    ことを特徴とする道路環境認識装置。
  9. 車両が位置するレーンのレーンマークを認識し、前記レーンマークを利用して前記車両を制御する車両制御方法において、
    前記車両の前方を撮像して画像情報を取得すると共に前記車両の前方に電磁波を照射して反射波情報を取得し、前記画像情報と前記反射波情報を用いて前記車両が位置するレーンに沿って設けられる立体物を認識する認識工程と、
    前記認識工程により認識される前記立体物に基づいて仮想線を設定し、前記仮想線を前記レーンマークとみなす仮想線設定工程と、
    前記車両の進行方向を予測して、前記車両が前記仮想線を超えることが予測される場合に前記車両が前記仮想線を超えることを予防し及び/又は前記車両を前記仮想線に沿って走行させる車両制御工程と、を備え、
    前記立体物に対して前記レーンを挟んで向き合うガードレールが設けられ、且つ、前記レーンに他のレーンマークが設けられている場合に、
    前記認識工程では、前記立体物に含まれる複数の立体物点を認識し、前記ガードレールに含まれる複数の設置点を認識し、前記他のレーンマークを認識し、
    前記仮想線設定工程では、前記立体物点を用いた直線近似により第1直線を求め、前記第1直線から第1距離だけ前記レーン側に離れた位置に前記仮想線の候補を設定すると共に、前記設置点を用いた直線近似により第2直線を求め、前記第2直線を第2距離だけ前記仮想線の候補側に移動させ、前記他のレーンマークを第3距離だけ前記仮想線の候補側に移動させ、移動後の前記第2直線及び移動後の前記他のレーンマークを用いて前記仮想線の候補を補正して前記仮想線を設定する
    ことを特徴とする車両制御方法。
JP2015086641A 2015-04-21 2015-04-21 道路環境認識装置、車両制御装置及び車両制御方法 Active JP6456761B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015086641A JP6456761B2 (ja) 2015-04-21 2015-04-21 道路環境認識装置、車両制御装置及び車両制御方法
US15/135,169 US10053092B2 (en) 2015-04-21 2016-04-21 Road environment recognition device, vehicle control device, and vehicle control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015086641A JP6456761B2 (ja) 2015-04-21 2015-04-21 道路環境認識装置、車両制御装置及び車両制御方法

Publications (2)

Publication Number Publication Date
JP2016206882A JP2016206882A (ja) 2016-12-08
JP6456761B2 true JP6456761B2 (ja) 2019-01-23

Family

ID=57147339

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015086641A Active JP6456761B2 (ja) 2015-04-21 2015-04-21 道路環境認識装置、車両制御装置及び車両制御方法

Country Status (2)

Country Link
US (1) US10053092B2 (ja)
JP (1) JP6456761B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6965152B2 (ja) * 2017-12-26 2021-11-10 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム
US11662219B2 (en) * 2020-06-23 2023-05-30 Baidu Usa Llc Routing based lane guidance system under traffic cone situation

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4047249B2 (ja) * 2003-08-27 2008-02-13 富士重工業株式会社 車両用運転支援装置
DE102004057296A1 (de) * 2004-11-26 2006-06-08 Daimlerchrysler Ag Lane-Departure-Warning mit Unterscheidung zwischen Fahrbahnrandmarkierung und baulicher Begrenzung des Fahrbahnrandes
US8340866B2 (en) * 2005-12-27 2012-12-25 Honda Motor Co., Ltd. Vehicle and steering control device for vehicle
US9280711B2 (en) * 2010-09-21 2016-03-08 Mobileye Vision Technologies Ltd. Barrier and guardrail detection using a single camera
KR101787996B1 (ko) * 2013-04-11 2017-10-19 주식회사 만도 차선 추정 장치 및 그 방법
JP6049541B2 (ja) * 2013-05-31 2016-12-21 日立オートモティブシステムズ株式会社 車両制御システム
JP2015001773A (ja) * 2013-06-13 2015-01-05 ボッシュ株式会社 車線推定装置
JP6362442B2 (ja) * 2014-06-13 2018-07-25 富士通株式会社 車線境界線抽出装置、車線境界線抽出方法、及びプログラム
JP6193819B2 (ja) * 2014-07-11 2017-09-06 株式会社Soken 走行区画線認識装置

Also Published As

Publication number Publication date
JP2016206882A (ja) 2016-12-08
US20160311430A1 (en) 2016-10-27
US10053092B2 (en) 2018-08-21

Similar Documents

Publication Publication Date Title
EP3141926B1 (en) Automated detection of hazardous drifting vehicles by vehicle sensors
JP6485328B2 (ja) 車両の運転支援装置
JP6369390B2 (ja) 車線合流判定装置
JP5952859B2 (ja) 車両の運転支援装置
JP6356586B2 (ja) 車両の走行制御装置
JP6356585B2 (ja) 車両の走行制御装置
JP6327708B2 (ja) 車両の運転支援装置
JP4602277B2 (ja) 衝突判定装置
JP6654923B2 (ja) 地図情報出力装置
GB2568060A (en) Controller for a vehicle
US10640035B2 (en) Out-of-vehicle notification device
WO2016158278A1 (ja) 車両制御装置、及び車両制御方法
JP6412346B2 (ja) 車両の運転支援装置
JP5785578B2 (ja) 車両周辺監視装置
US20160307026A1 (en) Stereoscopic object detection device and stereoscopic object detection method
JP2021513159A (ja) 車線を変更するときに、自動車両と、車両の隣の走行車線にある2次物体との間の衝突リスクを検知するためのシステムおよび方法
US20210001856A1 (en) Vehicle control device and vehicle control method
US10902728B2 (en) Blind spot object detection
JP5083172B2 (ja) 衝突予測装置
JP6429360B2 (ja) 物体検出装置
JP2017162178A (ja) 判定装置、判定方法、および判定プログラム
JP6456761B2 (ja) 道路環境認識装置、車両制御装置及び車両制御方法
JP4899899B2 (ja) 障害物認識装置及び方法
JP2018097689A (ja) 車両制御装置、車両制御方法
KR20150130056A (ko) 운전자 편의 장치 및 그의 제어 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181219

R150 Certificate of patent or registration of utility model

Ref document number: 6456761

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150