JP6747019B2 - 車両用表示方法及び車両用表示装置 - Google Patents

車両用表示方法及び車両用表示装置 Download PDF

Info

Publication number
JP6747019B2
JP6747019B2 JP2016074190A JP2016074190A JP6747019B2 JP 6747019 B2 JP6747019 B2 JP 6747019B2 JP 2016074190 A JP2016074190 A JP 2016074190A JP 2016074190 A JP2016074190 A JP 2016074190A JP 6747019 B2 JP6747019 B2 JP 6747019B2
Authority
JP
Japan
Prior art keywords
vehicle
image
sudden
automatic control
control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016074190A
Other languages
English (en)
Other versions
JP2017187839A (ja
Inventor
吉郎 高松
吉郎 高松
草柳 佳紀
佳紀 草柳
則政 岸
則政 岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2016074190A priority Critical patent/JP6747019B2/ja
Publication of JP2017187839A publication Critical patent/JP2017187839A/ja
Application granted granted Critical
Publication of JP6747019B2 publication Critical patent/JP6747019B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、車両用表示方法及び車両用表示装置に関する。
従来の運転支援装置として、自車の周辺情報に基づいて自車に危険が存在すると判断した場合に、危険を回避する方向に移動する模擬車両を表示手段に表示する装置が知られている(特許文献1参照。)。特許文献1に記載の運転支援装置によれば、乗員は、表示手段に表示された模擬車両の移動方向を確認することにより、危険を回避するために車両が移動すべき方向を事前に把握することができる。
従来の運転支援装置を備えた車両においては、他車両等の障害物との接触が予測された場合に、接触を回避するための急制動や急旋回等の自動的な制御が加わり、自車両に急動作が発生する場合がある。急動作の発生時には、乗員が自車両の周囲状況を確認する余裕がなく、なぜ急動作が発生したのか、即ち急動作の発生原因を把握するのが困難な場合がある。特許文献1に記載の運転支援装置のように接触を回避する方向を表示したとしても、急動作の発生時に注視することは困難であるし、その表示を見る限りでは急動作の発生原因までは把握することができず、この結果、乗員が不安感を抱くという問題がある。
特開2008−129718号公報
上記課題に鑑み、本発明は、自動的な制御により自車両に急動作が発生した場合に、急動作の発生原因を乗員に容易に把握させることができ、乗員に安心感を与える車両用表示方法及び車両用表示装置を提供することを目的とする。
本発明の一態様によれば、自車両の周囲状況に応じて、自車両の自動的な制御が実行されるか否か判定し、自動的な制御が実行されると判定された場合、周囲状況に基づいて自動的な制御の発生原因を含む周囲状況を示す画像を生成する。そして、画像表示手段に自動的な制御の発生原因を含む画像を表示することを特徴とする車両用表示方法及び車両用表示装置が提供される。
本発明によれば、自動的な制御が実行されると判定された場合に、自動的な制御の発生原因を乗員に容易に把握させることができ、乗員に安心感を与える車両用表示方法及び車両用表示装置を提供することができる。
本発明の第1の実施形態に係る車両用表示装置の一例を示すブロック図である。 本発明の第1の実施形態に係る自車両のカメラの配置例を示す上面図である。 本発明の第1の実施形態に係る画像表示手段の配置例を示す概略図である。 図4(a)〜図4(c)は、本発明の第1の実施形態に係る自車両の急動作の発生前、発生時、発生後の状況を順次示す上面図である。 図5(a)及び図5(b)は、本発明の第1の実施形態に係る画像生成部により生成された自車両の左後方及び右後方の状況を示す画像をそれぞれ示す概略図である。 図6(a)〜図6(c)は、本発明の第1の実施形態に係る画像生成部により生成された自車両の制御方向を示す画像の一例をそれぞれ示す概略図である。 本発明の第1の実施形態に係る画像表示手段による画像の表示例を示す概略図である。 図8(a)及び図8(b)は、本発明の第1の実施形態に係る自車両の急動作の発生前及び発生時の状況を順次示す上面図である。 図9(a)及び図9(b)は、本発明の第1の実施形態に係る画像生成部により生成された自車両の前方の状況を示す画像をそれぞれ示す概略図である。 本発明の第1の実施形態に係る自車両のカメラの配置例を示す上面図である。 本発明の第1の実施形態に係る画像生成部により生成された自車両の俯瞰画像を示す概略図である。 本発明の第1の実施形態に係る車両用表示方法の一例を説明するためのフローチャートである。 本発明の第1の実施形態に係る車両用表示方法の他の一例を説明するためのフローチャートである。 本発明の第2の実施形態に係る車両用表示装置の一例を示すブロック図である。 本発明のその他の実施形態に係る画像表示手段による画像の表示例を示す概略図である。 本発明のその他の実施形態に係る画像表示手段による画像の表示例を示す概略図である。
以下において、図面を参照して、本発明の第1及び第2の実施形態を説明する。以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を貼付している。但し、図面は模式的なものであり、厚みと平面寸法との関係、厚みの比率等は現実のものとは異なることに留意すべきである。また、図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることは勿論である。また、以下に示す実施形態は、本発明の技術的思想を具体化するための装置や方法を例示するものであって、本発明の技術的思想は、構成部品の材質、形状、構造、配置等を下記のものに特定するものではない。本発明の技術的思想は、特許請求の範囲に記載された請求項が規定する技術的範囲内において、種々の変更を加えることができる。
(第1の実施形態)
本発明の第1の実施形態に係る車両用表示装置は、自車両に搭載可能であり、図1に示すように、制御装置1と、周囲状況検出手段10と、画像表示手段7とを備える。制御装置1には、自車両を制御するための操舵手段6a、加速手段6b及び制動手段6cが接続されている。例えば、操舵手段6aとしてはステアリングホイール、加速手段6bとしてはアクセルペダル、制動手段6cとしてはブレーキ装置が使用可能である。周囲状況検出手段10は、自車両の周囲状況を検出するように、障害物検出手段2と、車線検出手段3と、複数(2つ)の撮像手段4a,4bとを備える。
障害物検出手段2としては、例えばレーザレーダ、ミリ波レーダ又はカメラを用いたセンサが使用可能である。障害物検出手段2の個数や配置位置は特に限定されず、例えば自車両の前方、側方及び後方に複数個設置されていてもよい。障害物検出手段2は、自車両の周囲に存在する他車両、電柱、壁等の障害物を検出し、自車両と障害物との相対位置、距離及び相対速度等を制御装置1に出力する。
車線検出手段3としては、例えばカメラを用いたセンサが使用可能である。車線検出手段3の個数や配置位置は特に限定されず、例えば自車両の前方又は後方に複数個設置されていてもよい。車線検出手段3は、例えばカメラによる撮像画像中の白線等の車線境界線を抽出することにより、車線境界線により区切られた自車両の走行車線及び隣接車線を検出し、検出した走行車線及び隣接車線の相対位置及び距離等を制御装置1に出力する。
撮像手段4a,4bとしては、例えばCCDカメラ等が使用可能である。撮像手段4a,4bは、自車両の周囲状況を逐次撮像する。撮像手段4aは、例えば図2に示すように、自車両101の左側面に、自車両101の左後方を撮像範囲R1とするように設置されている。撮像手段4bは、自車両101の右側面に、自車両101の右後方を撮像範囲R2とするように設置されている。なお、撮像手段4a,4bの個数や配置位置、撮像範囲R1,R2はこれに限定されない。図1に示した画像表示手段7としては、液晶ディスプレイ等が使用可能である。画像表示手段7は、図3に示すように、車室内のインストルメンタルパネル等の乗員から視認しやすい位置に設置される。
図1に示した制御装置1は、例えば中央処理装置(CPU)及び記憶装置等を含む電子制御ユニット(ECU)で構成できる。記憶装置としては、ROM及びRAM等が使用できる。制御装置1は、車線内位置取得部11、急動作要否判定部12、制御情報算出部13、車両制御部14、急動作識別部15、画像生成部16及び表示制御部17を備える。尚、車線内位置取得部11、急動作要否判定部12、制御情報算出部13、車両制御部14、急動作識別部15、画像生成部16及び表示制御部17は、制御装置1に機能的に備わるものでもよく、別筐体としてそれぞれ備わるものでもよい。
車線内位置取得部11は、障害物検出手段2により検出された障害物の相対位置と、車線検出手段3により検出された車線の相対位置に基づいて、障害物がどの車線内に存在するのかを特定し、車線に沿った自車両101と障害物との距離及び相対速度等を取得する。
急動作要否判定部12は、車線内位置取得部11により取得された車線に沿った自車両101と障害物との距離及び相対速度等に基づいて、自車両101と障害物との接触リスクを算出する。接触リスクは、自車両101と障害物とが接触する可能性の度合いを示す指標であり、接触リスクが高いほど、自車両101と障害物とが接触する可能性が高いことを意味する。例えば、自車両101と障害物との距離が近いほど接触リスクを高く算出し、自車両101と障害物との相対速度が接近する方向に高いほど接触リスクを高く算出する。更に、自車両101の速度が高いほど、接触リスクを高く算出してもよい。
なお、接触リスクは少なくとも自車両101と障害物との距離を用いれば算出可能であるが、自車両101と障害物との距離に加えて、自車両101と障害物との相対速度を用いることにより、接触リスクをより詳細に算出可能となる。自車両101と障害物との距離及び相対速度は、車線内位置取得部11により取得された車線に沿った方向(進行方向)における距離及び相対速度を用いてもよく、障害物検出手段2により検出された自車両101と障害物との直線的な距離及び相対速度を用いてもよい。
ここで、急動作要否判定部12による接触リスクの算出方法の一例を説明する。例えば、衝突余裕時間(TTC)及び車間時間(THW)を用いて接触リスクを算出できる。衝突余裕時間tは、現在の相対速度が維持されると仮定して、自車両101が先行する他車両に衝突するまでの時間を予測する指標であり、自車両101と他車両との相対速度をv、距離をxとして、以下の式(1)で求められる。

=−x/v …(1)
また、車間時間tは、現在の自車速度で現在の先行車位置に到達する時間を示す指標であり、自車速度をv、自車両101と他車両との距離をxとして、以下の式(2)で求められる。

=−x/v …(2)
式(1)及び式(2)で求めた衝突余裕時間t及び車間時間tを用いて、接触リスクRPは以下の式(3)のように設定可能である。

RP=1/2(α/t+β/t) …(3)

ここで、α、βのそれぞれは任意の係数であり適宜設定可能である。
急動作要否判定部12は更に、算出した接触リスクが所定の閾値以上か否かを判定することにより、自車両101が障害物に応じて急動作が必要か否かを識別する。即ち、急動作要否判定部12は、接触リスクが所定の閾値以上の場合に障害物を回避するための自車両101の急動作が必要と判定し、接触リスクが所定の閾値未満の場合に障害物を回避するための自車両101の急動作が不要と判定する。所定の閾値は適宜設定可能であり、制御装置1の記憶装置等に予め記憶していてもよい。尚、急動作要否判定部12は、車速、ヨーレート、ジャーク、旋回半径など、自車両の将来の挙動を予測して、何れかが所定値を超えた場合に、障害物に応じて急動作が必要になると識別するようにしてもよい。
制御情報算出部13は、急動作要否判定部12により接触リスクが所定の閾値以上であり、障害物に対して自車両101の急動作が必要と判定された場合に、自車両101と障害物との相対位置、距離及び相対速度等に基づいて、障害物との接触を回避するように自動制御するための自車両101の制御方向及び制御量を含む制御情報を算出する。
制御方向は、例えば、操舵手段6aの制御による右旋回方向(右方向)及び左旋回方向(左方向)、加速手段6bの制御による急加速方向(前方)、制動手段6cの制御による急減速方向(後方)を含む。更に、右旋回と急減速の組み合わせによる右後方、左旋回と急減速方向の組み合わせによる左後方、右旋回と急加速方向の組み合わせによる右前方、左旋回と急加速方向による左前方を含む。
制御量は、制御方向及びその制御方向に制御するための制御対象に対応しており、例えば急旋回のための操舵手段6aの操舵トルク量、急減速のための制動手段6cの制動量、急加速のための加速手段6bの踏み込み量、又はこれらの組み合わせを含む。制御方向及び制御量は、自車両101と障害物との相対位置、距離及び相対速度等に応じて適宜選択可能である。
車両制御部14は、制御情報算出部13により算出された制御方向及び制御量を含む制御情報を用いて、制御対象である操舵手段6a、制動手段6c及び加速手段6bをそれぞれ自動的に制御することにより、障害物との接触を回避するように自車両101を制御する。
急動作識別部(自動制御判定部)15は、制御情報算出部13により算出された制御量に基づいて、システムによる自動的な制御による自車両101の急動作の発生を識別する。急動作識別部15は、制御情報算出部13により算出された制御量が所定の閾値以上の場合、現在又はその前後のタイミングで、車両制御部14による自動的な制御に起因して、自車両101に急動作が発生すると判定する。一方、急動作識別部15は、制御情報算出部13により算出された制御量が所定の閾値未満の場合、急動作が発生しないと判定する。所定の閾値は、操舵トルク量や制動量等の制御量の種類に応じて適宜設定可能であり、制御装置1の記憶装置等に予め記憶していてもよい。
画像生成部16は、自車両101において自動的な制御が実行された場合に、自動的な制御が実行された発生原因を含む画像を生成する。具体的には、急動作識別部15により急動作が発生すると識別された場合、周囲状況検出手段10により検出された自車両101の周囲状況に基づいて、急動作の発生原因を含む周囲状況を示す画像を生成する。本発明の第1の実施の形態では、急動作の発生原因は、急動作要否判定部12により接触リスクが所定の閾値以上と判定された障害物であり既知である。画像生成部16は、例えば、急動作の発生原因となった障害物が撮像手段4a,4bの撮像範囲R1,R2に入ったときの撮像手段4a,4bによる撮像画像を取得する。
例えば、図4(a)に示すように、自車両101が走行中に、自車両101に先行する他車両102が急停止した状況を想定する。障害物検出手段2は、自車両101と他車両102との距離、相対位置及び相対速度等を検出する。車線検出手段3は、車線境界線L1,L2を検出することにより、車線境界線L1,L2で区切られた車線L0を検出する。車線内位置取得部11は、車線L0内の他車両102の相対位置等を取得する。
急動作要否判定部12は、障害物検出手段2により検出された自車両101と他車両102との距離及び相対速度等を用いて他車両102に対する接触リスクを算出する。急動作要否判定部12は更に、算出した接触リスクが所定の閾値以上と判定することにより、障害物との接触を回避するための自車両101の急動作が必要と判定する。制御情報算出部13は、他車両102との接触を回避するための制御方向を右旋回(右方向)として算出し、制御量として操舵トルク量を算出する。車両制御部14は、制御情報算出部13により算出された制御方向及び制御量を用いて操舵手段6aを自動的に操舵し、図4(b)に示すように右旋回することにより、急動作が発生する。急動作の発生後に、図4(c)に示すように、自車両101が他車両102を追い越したときに、撮像手段4aの撮像範囲R1に他車両102が入る。このタイミングでの撮像手段4a,4bによる撮像画像を画像生成部16が取得する。
画像生成部16は、図4(c)に示したタイミングでの撮像手段4a,4bによる撮像画像を用いて、急動作の発生原因を含む周囲状況を示す画像(周囲状況画像)を生成する。図5(a)は、図4(c)に示したタイミングで撮像手段4aにより撮像された画像I1である。画像I1は、左側のサイドミラーの写像と同様に、自車両101の左後方の状況を表示する。画像I1には、自車両101の左側面と、自車両101の走行車線L0を区切る車線境界線L1と、自車両101の後方に位置する、急動作の発生原因となった障害物である他車両102が写り込んでいる。
画像生成部16は更に、図5(a)に示すように、急動作の発生原因となった障害物である他車両102を囲う枠状のマークM0を重畳することにより、他車両102を強調表示してもよい。他車両102を強調表示する方法はこれに限定されず、例えば、他車両102を指し示す矢印を表示してもよい。他車両102を強調表示することにより、乗員は他車両102が急動作の発生原因となった障害物であることを容易に特定することができる。
一方、図5(b)は、図4(c)に示したタイミングで撮像手段4bにより撮像された画像I2である。画像I2は、右側のサイドミラーの写像と同様に、自車両101の右後方の状況を表示する。画像I2には、自車両101の右側面と、自車両101の走行車線L0を区切る車線境界線L2が写り込んでいる。なお、画像I2には、急動作の発生原因となった障害物である他車両102は写り込んでいないが、画像I1と同じタイミングで撮像し、画像I1とは異なる方向の状況を示す画像I2を表示することにより、乗員は急動作時の自車両101の周囲状況をより把握し易くなる。
なお、撮像手段4a,4bにより逐次撮像された画像を制御装置1の記憶装置等に逐次記録しておき、画像生成部16が、記録された複数の撮像画像のうちから、撮像手段4a,4bの撮像範囲R1,R2に障害物が入った時点の撮像画像を抽出してもよい。例えば、撮像手段4a,4bが自車両101の前方を撮像するように設けられており、急動作識別部15による急動作の識別後に、急動作の発生原因となった障害物のリアルタイムでの撮像が困難な場合でも、画像生成部16は、急動作の識別前に撮像されていた画像を用いて、急動作の発生原因を含む周囲状況を示す画像を生成可能である。
画像生成部16は更に、急動作の発生時の自車両101の制御方向を示すマークを表示する画像を生成してもよい。マークは例えば、右旋回の場合には右方向、左旋回の場合には左方向、急減速の場合には後方又は下方、急加速の場合には前方又は上方を示す。なお、急動作の発生時の自車両101の制御方向を示すマークは、急動作の発生原因となった障害物を含む周囲状況を含む画像中に重畳してもよい。
画像生成部16は、急動作の発生時の自車両101の制御方向を示すマークを表示する画像として、例えば図6(a)に示すように、自車両101を模擬した第1の模擬車両(自車アイコン)M1及び第2の模擬車両(自車アイコン)M2を表示する画像(制御方向画像)I3を生成する。図6(a)では、第2の模擬車両M2を模式的に破線で示しているが、第2の模擬車両M2は実線で描かれていてもよく、第1の模擬車両M1と色を異ならせること等により第1の模擬車両M1と区別できる態様であればよい。そして、画像生成部16は、第1の模擬車両M1の位置を基準として、第2の模擬車両M2を制御方向に対応する方向にずらして点灯又は点滅するように表示することにより、第2の模擬車両M2がずれた方向で急動作の発生時の制御方向を示す。また、第1の模擬車両M1の位置から制御方向に対応する方向に第2の模擬車両M2を移動することにより、その移動方向で急動作の発生時の制御方向を示してもよい。
例えば図6(a)に示すように、右旋回の場合には、第1の模擬車両M1に対して第2の模擬車両M2を右方向に移動させる。また、左旋回の場合には、第1の模擬車両M1に対して第2の模擬車両M2を左方向に移動させる。急減速(後方)の場合には、第1の模擬車両M1に対して第2の模擬車両M2を後方(画像上の下方)に移動させる。急加速の場合には、第1の模擬車両M1に対して第2の模擬車両M2を前方(画像上の上方)に移動させる。右旋回且つ急減速の場合には、第2の模擬車両M2を右後方に移動させてもよく、右旋回であることを優先して右方向に移動させてもよい。左旋回且つ急減速の場合には、第2の模擬車両M2を左後方に移動させてもよく、左旋回であることを優先して左方向に移動させてもよい。右旋回且つ急加速の場合には、第2の模擬車両M2を右前方に移動させてもよく、右旋回であることを優先して右方向に移動させてもよい。左旋回且つ急加速の場合には、第2の模擬車両M2を左前方に移動させてもよく、左旋回であることを優先して左方向に移動させてもよい。
第2の模擬車両M2が移動する際には、第2の模擬車両M2が移動方向に波打つように表示してもよい。例えば、第2の模擬車両M2が第1の模擬車両M1の位置に出現し、移動した後に消滅した後、第1の模擬車両M1の位置に再度出現するという一連の動きを周期的に繰り返してもよい。更に、制御情報算出部13により算出された制御量に応じて、第2の模擬車両M2の移動量D1や上述した一連の動きの周期を変化させてもよい。例えば、制御量が大きいほど第2の模擬車両M2の移動量D1を大きくし、一連の動きの周波数を高くしてもよい。
また、画像生成部16は、図6(b)に示すように、制御情報算出部13により算出された制御方向に応じて、第1の模擬車両M1の向きを基準として、第2の模擬車両M2の向きを傾けてもよい。例えば、右旋回の場合には図6(b)に示すように第2の模擬車両M2の向きを右方向に所定の角度θ1で傾けて、第2の模擬車両M2を時計回りに回転させる。左旋回の場合には第2の模擬車両M2の向きを左方向に傾けて、第2の模擬車両M2を半時計回りに回転させる。更に、制御情報算出部13により算出された操舵トルク量に応じて、第2の模擬車両M2の向きを傾ける所定の角度θ1を変化させてもよい。例えば、操舵トルク量が大きいほど、第2の模擬車両M2の向きを傾ける所定の角度θ1を大きくしてもよい。
また、画像生成部16は、第2の模擬車両M2を移動させる代わりに、図6(c)に示すように、第1の模擬車両M1の位置を起点として制御方向に対応する方向を指し示す矢印M3を表示してもよい。右旋回の場合には図6(c)に示すように矢印M3が第1の模擬車両M1の右方向を指し示す。左旋回の場合には第1の模擬車両M1の左方向を指し示す。急加速の場合には第1の模擬車両M1の前方を指し示し、急減速の場合には第1の模擬車両M1の後方を指し示す。また、制御情報算出部13により算出された制御量に応じて、矢印M3の長さD2や形状を変化させてもよい。例えば、制御量が大きいほど矢印M3の長さD2を長くし、矢印M3のサイズを大きくしてもよい。なお、急動作の発生時の自車両101の制御方向を示すマークとしてはこれらに限定されず、例えば制御方向が左方向であることを示す「左」や、制御方向が右方向であることを示す「右」等の文字情報を含むマークを表示してもよい。
表示制御部17は、画像生成部16により生成された画像I1,I2,I3を、図7に示すように、急動作の発生後に、所定の時間(例えば5秒間)継続して画像表示手段7に表示させる。画像I1,I2,I3の表示時間は適宜設定可能であり、制御装置1の記憶装置等に予め記憶していてもよい。なお、急動作の発生前又は急動作の発生時に画像生成部16により画像I1,I2,I3が既に生成されていた場合には、表示制御部17は、画像生成部16により画像I1,I2,I3が生成された時点、即ち急動作の発生前又は急動作の発生時から、急動作の発生後まで継続して画像I1,I2,I3を表示してもよい。即ち、表示制御部17が急動作の発生後に画像I1,I2,I3を表示することには、急動作の発生後に画像I1,I2,I3の表示を開始することの他、急動作の発生前又は急動作の発生時から画像I1,I2,I3の表示を開始して、急動作の発生後まで表示を継続することが含まれる。
表示制御部17は、制御情報算出部13により算出された制御量に応じて画像I1,I2,I3の表示時間を変化させてもよい。例えば、制御量が大きいほど画像I1,I2,I3の表示時間を長くしてもよい。制御量が大きい場合には乗員が急動作の発生原因を確認したい場合が多いと考えられるため、表示時間を長くすることにより乗員が確認し易くなる。表示制御部17は、表示時間を設定する代わりに、又は表示時間を設定するのと並行して、自車両101内に設けられたスイッチや画像表示手段7のタッチパネルが操作された場合に画像I1,I2,I3の表示を停止してもよい。
次に、図8(a)に示すように、自車両101に搭載された撮像手段4cが自車両101の前方を撮像範囲R3とする場合を説明する。自車両101が走行中に、自車両101に先行する他車両102が急停車した状況を想定する。急動作要否判定部12は、自車両101と他車両102との接触リスクが所定の閾値以上と判定する。制御情報算出部13は、他車両102との接触を回避するための制御方向として右旋回を算出し、制御量として操舵手段6aの操舵トルク量を算出する。急動作識別部15が、制御情報算出部13により算出された制御量が所定の閾値以上と判定することにより、急動作の発生を識別する。撮像手段4cの撮像範囲R3に他車両102が入った時点の撮像範囲を画像生成部16が取得し、他車両102を含む周囲状況を示す画像を生成する。
図8(b)に示すように、車両制御部14が、他車両102を回避するように、操舵手段6aを自動的に制御して右旋回することにより、急動作が発生する。急動作の発生後、表示制御部17が、画像生成部16により生成された画像を画像表示手段7に表示させる。
画像生成部16は、例えば図9(a)に示すように、車両前方の他車両102を含む周囲状況を示す撮像画像I4を取得する。画像生成部16は更に、他車両102を囲む枠状のマークM4を重畳して強調表示してもよい。画像生成部16は更に、図9(b)に示すように、自車両101の模擬車両M5を表示し、模擬車両M5を起点として、自車両101の制御方向を示す矢印M6等のマークを重畳してもよい。これにより、急動作の発生原因と自車両101の制御方向を一括して表示されるので、乗員は急動作の発生原因とその制御結果との因果関係を把握し易い。
次に、図10に示すように、複数の撮像手段4a,4b,4c,4dを自車両101の左側、右側、前方及び後方に搭載した場合を説明する。画像生成部16は、急動作識別部15により急動作の発生が識別された場合に、急動作が発生した時点での複数の撮像手段4a,4b,4c,4dによる複数の撮像画像を座標変換して合成することにより、図11に示すような俯瞰画像I5を生成する。
俯瞰画像I5には、急動作の発生原因となった障害物である他車両102と、車線境界線L1,L2で区切られた車線L0が写り込んでいる。画像生成部16は更に、急動作の発生原因となった障害物である他車両102を囲む枠状のマークM7を重畳して強調表示する。画像生成部16は更に、自車両101の模擬車両M8を配置し、模擬車両M8を起点として矢印M9を表示することにより自車両101の制御方向を示している。図11に示す俯瞰画像I5によれば、急動作の発生原因となった障害物である他車両102と、自車両101の制御方向とを1枚の画像中に表示可能であり、急動作の発生原因とその制御結果との因果関係を乗員に把握させ易くすることができる。
次に、図12のフローチャートを参照しながら、本発明の第1の実施形態に係る車両用表示方法の一例を説明する。なお、図12のフローチャートの一連の処理は、所定の制御周期で繰り返し実行可能である。
ステップS1において、障害物検出手段2が、自車両101の周囲に存在する障害物を検出して、自車両101と障害物との距離、相対位置及び相対速度を検出する。ステップS2において、車線検出手段3が、自車両101の周囲の車線の位置を検出する。ステップS3において、車線内位置取得部11が、障害物検出手段2により検出された障害物の相対位置と、車線検出手段3により検出された車線の位置とから、障害物の車線内の相対位置等を取得する。
ステップS4において、急動作要否判定部12が、車線内位置取得部11により取得された車線に沿った障害物との距離及び相対速度等に基づいて、自車両101と障害物との接触リスクを算出する。ステップS5において、急動作要否判定部12が、算出した接触リスクが所定の閾値以上か否かを判定することにより、障害物を回避するために自車両101の急動作が必要か否かを判定する。接触リスクが所定の閾値未満であり、自車両101の急動作が不要と判定された場合には、処理を完了する。一方、接触リスクが所定の閾値以上であり、自車両101の急動作が必要と判定された場合には、ステップS6に移行する。
ステップS6において、制御情報算出部13が、急動作要否判定部12により接触リスクが所定の閾値以上と判定された障害物との接触を回避するための制御方向及び制御量を含む制御情報を算出する。車両制御部14は、制御情報算出部13により算出された制御方向及び制御量を含む制御情報を用いて、障害物との接触を回避するように操舵手段6a等を自動的に制御する。
ステップS7において、急動作識別部15が、制御情報算出部13により算出された制御量が所定の閾値以上か否かを判定することにより、急動作の発生の有無を判定する。制御量が所定の閾値未満の場合には、急動作が発生しないと判定し、処理を完了する。一方、制御量が所定の閾値以上の場合には、現在又はその前後のタイミングで車両制御部14等のシステムに起因した急動作が発生すると判定し、ステップS8に移行する。
ステップS8において、画像生成部16が、その障害物との相対位置に基づいて、急動作の発生原因となった障害物が撮像範囲R1,R2に入るタイミングでの撮像手段4a,4bによる撮像画像を抽出し、急動作の発生原因を含む周囲状況と、急動作の発生時の自車両100の制御方向を示す画像を生成する。なお、急動作の発生原因となった障害物は、ステップS5において接触リスクが所定の閾値以上と判定された障害物であり既知である。ステップS9において、表示制御部17が、画像生成部16により生成された画像を、急動作の発生後に、所定の時間継続して画像表示手段7に表示させる。
なお、ステップS7において、急動作識別部15は、制御情報算出部13により算出された制御量を用いて急動作の発生を識別する場合を説明したが、図13に示すように、ステップS5において、急動作識別部15が、急動作要否判定部12により算出された接触リスクが所定の閾値以上か否かを判定することにより、急動作の発生の有無を先行して判定してもよい。即ち、急動作識別部15は、急動作要否判定部12により算出された接触リスクが所定の閾値以上の場合に、急動作が発生すると識別してもよい。
以上説明したように、本発明の第1の実施の形態によれば、自車両の自動的な制御が実行されるか否かを判定し、自動的な制御が実行されると判定された場合に、周囲状況に基づいて自動的な制御の発生原因を含む周囲状況を示す画像I1,I2,I4,I5を示すことになり、乗員は、自動的な制御が実行される発生原因を知ることができるようになる。
更に、自動的な制御を実行した場合に自動的な制御が実行されると判定することで、自動的な制御が実行されることを事前に判定できないとしても、自動的な制御を実行したタイミング以降に、自動的な制御の発生原因を含む周囲状況を示す画像I1,I2,I4,I5を示すことになる。これにより、乗員は、自動的な制御を実行したタイミング以降において、自動的な制御が実行された発生原因を確実に知ることができるようになる。
更に、自動的な制御を実行した後に、自車両内に設けられた画像表示手段に画像を表示することで、乗員がなぜ自動的な制御が発生したのか、即ち自動的な制御の発生原因を理解できない場合であっても、自動的な制御を実行した後に画像I1,I2,I4,I5を確認すれば、自動的な制御の発生原因を事後的に容易に把握することができる。したがって、システムの自動的な制御に対する安心感を乗員に与えることができる。
更に、システムによる自動車の自動制御に起因した急動作の発生後に、急動作の発生原因を含む周囲状況を示す画像I1,I2,I4,I5を表示することにより、急動作の発生時に、乗員がなぜ急動作が発生したのか、即ち急動作の発生原因を理解できない場合であっても、急動作の発生後に画像I1,I2,I4,I5を確認すれば、急動作の発生原因を事後的に容易に把握することができる。したがって、システムの自動的な制御に対する安心感を乗員に与えることができる。
更に、急動作の発生原因となった障害物を含む周囲状況に加えて、自車両101の制御方向を示すマークM1〜M3,M5,M6,M8,M9を含む画像I3〜I5を表示することにより、なぜ急動作が発生したのか、即ち急動作の発生原因と、それに対してどのように接触を回避したのか、即ち制御結果との因果関係を乗員に対して容易に把握させることができる。
更に、自車両101の制御方向を示すマークM1,M2として、自車両101を模擬した第1の模擬車両M1及び第2の模擬車両M2を互いに重畳するように表示し、第1の模擬車両M1の位置を基準として、自車両101の制御方向に対応する方向に第2の模擬車両M2をずらしして表示することにより、自車両101の制御方向を乗員に対して分かり易く提示することができる。
更に、自車両101の周囲状況に基づいて自車両101の制御量を算出し、自車両101の制御量が所定の閾値以上の場合に急動作の発生を識別することにより、現在又はその前後のタイミングで急動作が発生することを精度良く判定することができる。
(第2の実施形態)
本発明の第2の実施形態に係る車両用表示装置は、図14に示すように、自車両101のヨーレートレートを検出するヨーレート検出手段(ヨーレートセンサ)21と、自車両101の加速度を検出する加速度検出手段(加速度センサ)22と更に備える点が、図1に示した本発明の第1の実施形態に係る車両用表示装置の構成と異なる。
急動作識別部15は、ヨーレートセンサ21により検出された自車両101のヨーレートレートに基づいて、自車両101の急動作(急旋回)の発生を識別する。例えば、急動作識別部15は、自車両101のヨーレートレートが所定の閾値以上の場合には自車両101が急旋回したと判定し、自車両101のヨーレートレートが所定の閾値未満の場合には急旋回しなかったと判定する。なお、急動作識別部15は、ヨーレートからヨー加速度又はヨージャークを算出し、ヨー加速度又はヨージャークと所定の閾値を比較することにより急旋回の発生を識別しても良い。ヨー加速度又はヨージャークを利用することにより、高い即応性を得ることができる。
急動作識別部15は、加速度センサ22により検出された自車両101の加速度に基づいて、自車両101の急動作(急加減速)の発生を識別する。例えば、急動作識別部15は、自車両101の加速度が所定の閾値以上の場合には自車両101が急加速したと判定し、自車両101の加速度が所定の閾値未満の場合には急加速しなかったと判定する。また、急動作識別部15は、自車両101の加速度が所定の閾値未満の場合には急減速したと判定し、自車両101の加速度が所定の閾値以上の場合には急減速しなかったと判定する。なお、急動作識別部15は、加速度から加加速度を算出し、加加速度と所定の閾値を比較することにより急加減速の発生を識別しても良い。加加速度を利用することにより、高い即応性を得ることができる。
本発明の第2の実施の形態によれば、本発明の第1の実施の形態と同様に、システムによる緊急回避等の自動的な制御に起因した急動作の発生後に、急動作の発生原因となった障害物を含む周囲状況を表示することにより、急動作の発生時に、乗員がなぜ急動作が発生したのか、即ち急動作の発生原因を理解できない場合であっても、急動作の発生後に画像を確認すれば、急動作の発生原因を事後的に容易に把握することができる。したがって、システムの自動的な制御に対する安心感を乗員に与えることができる。
更に、急動作識別部15がヨーレートセンサ21により検出された自車両101のヨーレートレートに基づいて、急動作(急旋回)の発生を識別することにより、乗員は、急旋回であることを瞬時に把握できない場合であっても、急旋回の事後確認ができる。更に、加速度センサ22により検出された自車両101の加速度に基づいて、急動作(急加減速)の発生を識別することにより、乗員は、車両の急加減速を瞬時に把握できない場合であっても、急加減速の事後確認ができる。
(その他の実施の形態)
上記のように、本発明は第1及び第2の実施形態によって記載したが、この開示の一部をなす論述及び図面は本発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
また、表示制御部17が、急動作が発生した場合に、急動作の発生後に画像の表示を開始する場合を主に説明したが、通常の走行時には任意の画像を画像表示手段7に表示させておき、急動作が発生した場合に、画像生成部16により生成された画像を急動作の発生後に表示させるように、画像表示手段7に表示される画像を切り替えてもよい。任意の画像には、例えばカーナビゲーションシステムによる経路案内の画像や、現在の自車両101の周囲状況を示す画像が含まれる。また、表示制御部17は、急動作の発生時には画像生成部16により生成された画像と併せて、通常の走行時に表示している画像も表示してもよい。この場合、現在の周囲状況を確認しつつ、急動作の発生原因を同時に把握することができる。尚、急動作を識別したタイミングが急動作が発生するより前であれば、発生原因を含む画像の表示を開始するタイミングは、どこからでもよく、急動作を識別(予測)したタイミングからでもよい。また、発生原因を含む画像は、急動作が発生している際中にも表示するようにしても良い。
また、通常の走行時の画像として、図15に示すように撮像手段4aによる左後方の状況を示す画像I1、撮像手段4bによる右後方の状況を示す画像I2、自車両の制御方向を示す画像I3を逐次表示してもよい。自車両101の制御方向を示す画像I3は、模擬車両M1,M2と、接触リスク表示領域M10を表示している。急動作の発生が識別された場合に、画像生成部16は、接触リスク表示領域M10を点滅させてもよい。また、車両の制限車速に応じて、接触リスク表示領域M10の前後方向の色を変化させてもよい。また、画像生成部16は、急動作要否判定部12により接触リスクが高いと判定された場合に、第2の模擬車両M2を強調表示するように、第2の模擬車両M2の色や輝度を変化させてもよい。これにより、急動作の発生前に、乗員は急動作が発生することと、予測される自車両101の制御方向を容易に把握することができる。
また、急動作の発生後に画像表示手段7に表示させる画像として、自車両101の制御方向を示す画像I3は表示せずに、図5(a)に示した左後方の状況の撮像画像I1、図5(b)に示した右後方の撮像画像I2のみを、図16に示すように画像表示手段7に隣接して表示してもよい。また、急動作の発生後に画像表示手段7に表示させる画像として、左後方の状況の撮像画像I2及び右後方の撮像画像I3の発生原因が写り込んだいずれか一方のみを表示してもよい。
また、画像生成部16は、撮像手段4a,4b等による撮像画像を利用する代わりにコンピュータ・グラフィックス(CG)画像を生成してもよい。CG画像は、障害物検出手段2により検出された障害物との相対位置及び距離や、車線検出手段3により検出された車線の相対位置等に基づいて生成可能である。例えば、図5(a)に示した左後方の状況の撮像画像I1、図5(b)に示した右後方の撮像画像I2、図9(a)及び図9(b)に示した前方の状況の撮像画像I4、図11に示した俯瞰画像I5に対応するCG画像を生成可能である。
例えば障害物の撮像が困難な場合であっても、CG画像を生成することにより、急動作の発生原因を乗員に把握させることができる。また、撮像手段4a,4b等による障害物の撮像の可否を判定し、撮像可能と判定されたら撮像画像を採用し、撮像不可能と判定されたらCG画像を採用してもよい。
また、画像生成部16は、急動作の発生原因を含む周囲状況を示す画像として、静止画像を生成する代わりに、所定時間の動画を生成してもよい。動画の時間軸の一部に急動作の発生原因となった障害物が写り込んでいればよい。動画を表示することにより、急動作の発生前後の周囲状況の変化を乗員に容易に把握させることができる。また、表示制御部17は、動画を画像表示手段7に1回だけ表示させてもよく、複数回繰り返して表示させてもよい。また、表示制御部17は、動画を実際の撮像時間で表示させる代わりに、スローモーションで表示させてもよい。
このように、本発明はここでは記載していない様々な実施の形態等を含むことは勿論である。したがって、本発明の技術的範囲は上記の説明から妥当な特許請求の範囲に係る発明特定事項によってのみ定められるものである。
1…制御装置
2…障害物検出手段
3…車線検出手段
4a,4b,4c,4d…カメラ
6a…操舵手段
6b…加速手段
6c…制動手段
7…画像表示手段
10…周囲状況検出手段
11…車線内位置取得部
12…急動作要否判定部
13…制御情報算出部
14…車両制御部
15…急動作識別部
16…画像生成部
17…表示制御部
21…ヨーレートセンサ
22…加速度センサ
101…自車両
102…他車両

Claims (11)

  1. 自車両の周囲状況を検出するステップと、
    前記周囲状況に応じて、前記自車両の自動的な制御が実行されるか否かを判定するステップと、
    前記自動的な制御が実行されると判定された場合に、前記周囲状況に基づいて前記自動的な制御の発生原因を含む周囲状況を示す画像を生成するステップと、
    前記自車両内に設けられた画像表示手段に前記画像を表示するステップ
    を含み、
    前記自動的な制御が実行されるか否かを判定するステップは、前記自動的な制御の制御量に基づいて前記自車両の急動作の発生を識別することを含み、
    前記画像を表示するステップは、前記制御量が大きいほど前記画像の表示時間を長くすることを含むことを特徴とする車両用表示方法。
  2. 前記自動的な制御が実行されるか否かを判定するステップは、
    前記周囲状況に応じて、前記自車両の自動的な制御を実行した場合に、前記自動的な制御が実行されると判定することを含む
    ことを特徴とする請求項1に記載の車両用表示方法。
  3. 前記画像を表示するステップは、
    前記自動的な制御を実行した後に、前記自車両内に設けられた画像表示手段に前記画像を表示することを含む
    ことを特徴とする請求項1又は2に記載の車両用表示方法。
  4. 前記画像を生成するステップは、
    前記急動作の発生が識別された場合、前記周囲状況に基づいて前記自動的な制御の発生原因を含む周囲状況を示す画像を生成することを含む
    ことを特徴とする請求項1〜3のいずれか1項に記載の車両用表示方法。
  5. 前記画像を生成するステップは、
    前記画像中に、前記自動的な制御が実行される時の前記自車両の制御方向を示すマークを表示することを含む
    ことを特徴とする請求項1〜4のいずれか1項に記載の車両用表示方法。
  6. 前記画像を生成するステップは、
    前記画像中に前記自車両をそれぞれ模擬した第1及び第2の模擬車両を前記マークとして表示し、
    前記第1の模擬車両の位置を基準として、前記制御方向に対応する方向に前記第2の模擬車両の位置をずらす
    ことを含むことを特徴とする請求項5に記載の車両用表示方法。
  7. 前記自車両の加速度を検出するステップを更に含み、
    前記急動作の発生を識別することは、
    前記検出された加速度に基づいて前記急動作の発生を識別することを含む
    ことを特徴とする請求項1〜6のいずれか1項に記載の車両用表示方法。
  8. 前記自車両のヨーレートを検出するステップを更に含み、
    前記急動作の発生を識別することは、
    前記検出されたヨーレートレートに基づいて前記急動作の発生を識別することを含む
    ことを特徴とする請求項1〜7のいずれか1項に記載の車両用表示方法。
  9. 前記自車両の急動作が必要となるかを識別するステップと、
    前記急動作が必要となると識別された場合には、前記急動作の発生前に、前記自車両を模擬した第1及び第2の模擬車両を含む画像を前記画像表示手段に表示し、前記第1の模擬車両の位置を基準として、前記第2の模擬車両を強調表示しながら前記接触を回避する方向に対応する方向にずらすステップと
    を更に含むことを特徴とする請求項1〜8のいずれか1項に記載の車両用表示方法。
  10. 前記周囲状況を検出するステップは、
    前記周囲状況を撮像し、前記撮像した撮像画像を記憶装置に記憶することを含み、
    前記画像を生成するステップは、
    前記急動作の発生後に、前記記憶された撮像画像のうちから、前記発生原因が撮像範囲に入ったときの撮像画像を抽出し、前記抽出した撮像画像に基づいて前記自動的な制御の発生原因を含む周囲状況を示す画像を生成することを含む
    ことを特徴とする請求項1〜9のいずれか1項に記載の車両用表示方法。
  11. 自車両の周囲状況を検出する周囲状況検出手段と、
    前記周囲状況に応じて、前記自車両の自動的な制御が実行されるか否かを判定する自動制御判定部と、
    前記自動的な制御が実行されると判定された場合に、前記周囲状況に基づいて前記自動的な制御の発生原因を含む周囲状況を示す画像を生成する画像生成部と、
    前記自車両内に設けられ、前記画像を表示する画像表示手段と
    を備え
    前記自動制御判定部は、前記自動的な制御の制御量に基づいて前記自車両の急動作の発生を識別し、
    前記画像表示手段は、前記制御量が大きいほど前記画像の表示時間を長くすることを特徴とする車両用表示装置。
JP2016074190A 2016-04-01 2016-04-01 車両用表示方法及び車両用表示装置 Active JP6747019B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016074190A JP6747019B2 (ja) 2016-04-01 2016-04-01 車両用表示方法及び車両用表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016074190A JP6747019B2 (ja) 2016-04-01 2016-04-01 車両用表示方法及び車両用表示装置

Publications (2)

Publication Number Publication Date
JP2017187839A JP2017187839A (ja) 2017-10-12
JP6747019B2 true JP6747019B2 (ja) 2020-08-26

Family

ID=60044141

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016074190A Active JP6747019B2 (ja) 2016-04-01 2016-04-01 車両用表示方法及び車両用表示装置

Country Status (1)

Country Link
JP (1) JP6747019B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112018008075T5 (de) 2018-10-16 2021-07-08 Mitsubishi Electric Corporation Informationsbereitstellungsvorrichtung und Informationsbereitstellungsverfahren
EP4131201A4 (en) 2020-03-26 2023-09-06 Panasonic Intellectual Property Management Co., Ltd. INFORMATION PROCESSING METHOD AND INFORMATION PROCESSING SYSTEM
CN113085747B (zh) * 2021-05-08 2022-07-22 浙江吉利控股集团有限公司 一种显示屏安装结构和含该安装结构的车辆

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6124647A (en) * 1998-12-16 2000-09-26 Donnelly Corporation Information display in a rearview mirror
JP4037506B2 (ja) * 1998-03-12 2008-01-23 富士重工業株式会社 車両運動制御装置
JP3980765B2 (ja) * 1998-08-19 2007-09-26 本田技研工業株式会社 車両の走行安全装置
JP4231910B2 (ja) * 2000-04-25 2009-03-04 日産自動車株式会社 車線維持装置
JP3921925B2 (ja) * 2000-06-30 2007-05-30 日産自動車株式会社 車両用衝突防止装置
JP2008070998A (ja) * 2006-09-13 2008-03-27 Hitachi Ltd 車両周囲情報表示装置
JP2008186045A (ja) * 2007-01-26 2008-08-14 Denso Corp 運転評価装置
JP2012088756A (ja) * 2010-10-15 2012-05-10 Toyota Motor Corp 走行支援装置及び方法
JP2013254330A (ja) * 2012-06-06 2013-12-19 Toyota Motor Corp 車両用情報表示装置
JP6212409B2 (ja) * 2014-02-26 2017-10-11 株式会社Subaru 自動運転システム
JP6537780B2 (ja) * 2014-04-09 2019-07-03 日立オートモティブシステムズ株式会社 走行制御装置、車載用表示装置、及び走行制御システム

Also Published As

Publication number Publication date
JP2017187839A (ja) 2017-10-12

Similar Documents

Publication Publication Date Title
US10696295B2 (en) Parking assist device
EP3686084B1 (en) Parking support method and parking support device
JP6825709B2 (ja) 周囲車両表示方法及び周囲車両表示装置
JP6254554B2 (ja) 情報提示システム
EP3366540B1 (en) Information processing apparatus and non-transitory computer-readable recording medium
KR101276871B1 (ko) 차량 충돌 방지 장치 및 방법
US11016497B2 (en) Vehicle control system, vehicle control method, and vehicle control program
JP6304272B2 (ja) 車両用注意喚起装置
EP3632750B1 (en) Parking control method and parking control apparatus
WO2016017822A1 (ja) 衝突予想時間算出装置および衝突予想時間算出方法
JP2019182305A (ja) 車両制御装置、車両制御方法、およびプログラム
JP2006227811A (ja) 運転支援装置
EP3650315B1 (en) Parking assistance method and parking assistance device
JP2007034988A (ja) 車両の障害物回避報知装置
JP6747019B2 (ja) 車両用表示方法及び車両用表示装置
JP2019152963A (ja) 運転支援装置、運転支援方法、および記録媒体
JP2024054292A (ja) 駐車支援方法及び駐車支援装置
WO2019187749A1 (ja) 車両用情報提供装置
JP6910254B2 (ja) 運転支援表示方法及び運転支援表示装置
JP7004534B2 (ja) 車両の制御装置及び車両の制御方法
US20230373309A1 (en) Display control device
JP2017182429A (ja) 車両用表示方法及び車両用表示装置
JP2018116637A (ja) 車両制御装置
JP7226583B2 (ja) 信号機認識方法及び信号機認識装置
JP2013184498A (ja) 車両走行支援装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200720

R151 Written notification of patent or utility model registration

Ref document number: 6747019

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151