JP6756135B2 - 運転支援方法及び運転支援装置 - Google Patents

運転支援方法及び運転支援装置 Download PDF

Info

Publication number
JP6756135B2
JP6756135B2 JP2016070378A JP2016070378A JP6756135B2 JP 6756135 B2 JP6756135 B2 JP 6756135B2 JP 2016070378 A JP2016070378 A JP 2016070378A JP 2016070378 A JP2016070378 A JP 2016070378A JP 6756135 B2 JP6756135 B2 JP 6756135B2
Authority
JP
Japan
Prior art keywords
vehicle
image
virtual image
driving support
symbol
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016070378A
Other languages
English (en)
Other versions
JP2017182543A (ja
Inventor
草柳 佳紀
佳紀 草柳
則政 岸
則政 岸
吉郎 高松
吉郎 高松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2016070378A priority Critical patent/JP6756135B2/ja
Publication of JP2017182543A publication Critical patent/JP2017182543A/ja
Application granted granted Critical
Publication of JP6756135B2 publication Critical patent/JP6756135B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Description

本発明は、運転支援方法及び運転支援装置に関する。
従来より、自車両と後続車両の位置関係を乗員に通知する技術が知られている。例えば、特許文献1では、自車後方を撮影した画像上に所定間隔で並ぶアイコンを重畳し、合成した画像をモニタに表示している。
特開2009−29203号公報
しかしながら、特許文献1では、自車両と後続車両の位置関係を、アイコンを基準として把握する必要があり、乗員が自車両と後続車両の位置関係を直感的に把握することが難しかった。
本発明は、上記問題に鑑みて成されたものであり、その目的は、自車両と後続車両の位置関係を直感的に把握することができる運転支援方法及び運転支援装置を提供することである。
本発明の一態様に係る運転支援方法は、自車両の後方情報を取得し、取得した後方情報より後方画像を生成し、生成した後方画像上の自車両と後続車両との間に、自車両と後続車両の位置を示す仮想画像を重畳し、合成した画像をモニタに表示する。また、仮想画像上に記号を設定する。記号は、自車両の移動方向と反対の方向に移動するように設定され、自車両の車速が速いほど記号の移動速度が速くなる。
本発明によれば、自車両と後続車両との位置関係を直感的に把握することができる。
図1は、本発明の実施形態に係る運転支援装置の構成図である。 図2は、本発明の実施形態に係る運転支援装置がモニタに表示する画像を説明する図である。 図3は、本発明の実施形態に係る運転支援装置の動作例を説明するフローチャートである。 図4(a)、(b)、(c)は、本発明の実施形態に係る運転支援装置がモニタに表示する他の画像を説明する図である。 図5は、本発明の実施形態に係る運転支援装置がモニタに表示するさらに他の画像を説明する図である。
以下、本発明の実施形態について、図面を参照して説明する。図面の記載において同一部分には同一符号を付して説明を省略する。
図1を参照して本実施形態に係る運転支援装置1について説明する。図1に示すように、運転支援装置1は、右カメラ10と、左カメラ20と、画像処理回路30と、右ドアミラーモニタ40と、左ドアミラーモニタ50とを備える。
右カメラ10は、自車右側の右ドアミラー設置位置の近傍に配置される。左カメラ20は、自車左側の左ドアミラー設置位置の近傍に配置される。右ドアミラー設置位置とは、自車後方の路面を含む後方を鏡に映し出す従来の自車右側のドアミラーの設置位置である。左ドアミラー設置位置も同様に、従来の自車左側のドアミラーの設置位置である。
右カメラ10及び左カメラ20は、CCD(charge−coupled device)やCMOS(complementary metal oxide semiconductor)などの撮像素子を有したカメラである。右カメラ10及び左カメラ20は、それぞれ自車両の右後方、左後方を撮像することにより後方情報を取得し、取得した後方情報に関する電気信号を画像処理回路30に出力する。
画像処理回路30(コントローラ、制御部)は、右カメラ10及び左カメラ20から入力される電気信号を処理する回路であり、例えばIC、LSI等により構成される。画像処理回路30は、これを機能的に捉えた場合、ミラー画像生成部31と、後続車両検出部32と、記憶部33と、合成部34とに分類することができる。
ミラー画像生成部31(生成回路)は、右カメラ10及び左カメラ20から入力される電気信号から右ドアミラーモニタ40及び左ドアミラーモニタ50に表示するミラー画像(後方画像)を生成する。ミラー画像生成部31は、生成したミラー画像を後続車両検出部32に出力する。
後続車両検出部32は、ミラー画像生成部31によって生成されたミラー画像を用いて、自車後方に存在する後続車両を検出する。後続車両の検出方法については、車両の特徴を探索するパターンマッチングなどの周知の方法を用いることができる。後続車両検出部32は、検出結果を合成部34に出力する。また、後続車両検出部32は、ミラー画像に複数の後続車両が写っている場合には、それら複数の後続車両を検出する。
記憶部33には、ミラー画像に重畳するための仮想画像が各種記憶されている。
合成部34は、記憶部33に記憶されている仮想画像をミラー画像に重畳する。より詳しくは、合成部34は、自車両及び後続車両の位置を示す仮想画像をミラー画像に重畳する。そして、合成部34は、合成した画像を右ドアミラーモニタ40及び左ドアミラーモニタ50に出力する。
右ドアミラーモニタ40及び左ドアミラーモニタ50は、自車右側の右ドアミラー設置位置、及び自車左側の左ドアミラー設置位置に配置される。右ドアミラーモニタ40及び左ドアミラーモニタ50は、例えば、防水加工を施した液晶ディスプレイ等を採用できる。なお、右ドアミラーモニタ40及び左ドアミラーモニタ50の形状は、従来のドアミラーと同様にラウンドした曲面形状としてもよく、市販モニタと同様に四角形状としてもよい。
次に、図2を参照して運転支援装置1が右ドアミラーモニタ40に表示するミラー画像の一例を説明する。
図2に示すように、合成部34は、自車両M1の位置を示す仮想画像P1(第1仮想画像)と、自車両M1から見て右側を走行する後続車両M2の位置を示す仮想画像P2(第2仮想画像)をミラー画像上の自車両M1と後続車両M2との間に重畳する。また、仮想画像P1は、自車両M1が走行する車線から後続車両M2が走行する車線に向かって伸び、車線境界線を越える長さを有する。同様に、仮想画像P2は、後続車両M2が走行する車線から自車両M1が走行する車線に向かって伸び、車線境界線を越える長さを有する。このように仮想画像P1及びP2を、ミラー画像中の自車両M1と後続車両M2との間に重畳することにより、図2の矢印で示すように、乗員は、仮想画像P1から仮想画像P2までが車間距離であると一目で把握できる。すなわち、乗員は、自車両M1と後続車両M2との位置関係を直感的に把握できる。また、仮想画像P1と自車両M1は互いに離間した状態で表示されてもよく、互いに接した状態で表示されてもよい。仮想画像P2と後続車両M2も同様に、互いに離間してもよく、互いに接した状態で表示されてもよい。
また、図2に示すように、合成部34は、仮想画像P1及びP2をミラー画像の路面に重畳するのが好ましい。これにより、仮想画像P1及びP2が浮いて見えなくなる。すなわち、仮想画像P1及びP2が路面に張り付いているように見えるため、乗員は、正確な車間距離を把握できる。
また、図2に示すように、合成部34は、自車両M1の後端部から後続車両M2の走行車線に向かって伸びる仮想画像P1を重畳し、後続車両M2の先端部から自車両M1の走行車線に向かって伸びる仮想画像P2を重畳するのが好ましい。一般に車間距離とは、自車両M1の後端部から後続車両M2の先端部までの距離である。このため、合成部34が、自車両M1の後端部及び後続車両M2の先端部から伸びるように仮想画像P1及びP2を重畳することにより、乗員は、自車両M1と後続車両M2との車間距離を正確に把握できる。なお、自車両M1の後端部とは、例えば自車両M1のリアバンパである。また、後続車両M2の先端部とは、例えば後続車両M2のフロントバンパである。
仮想画像P1及びP2は、形や色などが限定されるものではないが、自車両M1及び後続車両M2の影を示す画像であることが好ましい。一般に影は、路面に張り付いて映るため、合成部34が、影を示す画像として仮想画像P1及びP2を重畳することにより、仮想画像P1及びP2が路面に張り付いているように見える。これにより、乗員は、自車両M1と後続車両M2との車間距離を正確に把握できる。さらに、仮想画像P1及びP2が影のように見えることになるため、乗員が仮想画像P1及びP2に対して感じる違和感を低減することができる。
また、合成部34は、仮想画像P1及びP2を走行車線に対し90度となるように重畳してもよく、自車両M1及び後続車両M2に対し90度となるように重畳してもよい。好ましくは、図2に示すように、合成部34は、仮想画像P1及びP2が平行となるように重畳する。このように仮想画像P1及びP2を重畳することにより、乗員は、車間距離の相対的な変化を直感的に把握できる。
次に、図3に示すフローチャートを参照して、本実施形態に係る運転支援装置1の一動作例について説明する。このフローチャートは、例えばイグニッションスイッチがオンされたときに開始する。
ステップS101において、右カメラ10及び左カメラ20は、自車後方を撮像し、撮像により取得した後方情報に関する電気信号を出力する。
ステップS102において、後続車両検出部32は、電気信号から生成されたミラー画像を用いて後続車両M2を検出する。後続車両検出部32が後続車両M2を検出した場合、ステップS103に処理が進む。後続車両検出部32が後続車両M2を検出しない場合、後続車両検出部32は待機する。
ステップS103において、合成部34は、自車両M1及び後続車両M2の位置を示す仮想画像P1及びP2をミラー画像上に重畳する。
ステップS104において、合成部34は、合成画像を右ドアミラーモニタ40及び左ドアミラーモニタ50に出力する。
以上説明したように、本実施形態に係る運転支援装置1によれば、以下の作用効果が得られる。
運転支援装置1は、右カメラ10及び左カメラ20が撮像により取得した電気信号からミラー画像を生成し、ミラー画像上の自車両M1と後続車両M2との間に、自車両M1と後続車両M2の位置を示す仮想画像P1及びP2を重畳する。これにより、乗員は、仮想画像P1から仮想画像P2までが車間距離であると一目で把握できる。すなわち、乗員は、自車両M1と後続車両M2との位置関係を直感的に把握できる。
また、運転支援装置1は、自車両M1及び後続車両M2の位置を示す仮想画像P1及び仮想画像P2をミラー画像の路面に重畳する。これにより、仮想画像P1及びP2が浮いて見えなくなる。すなわち、仮想画像P1及びP2が路面に張り付いているように見えるため、乗員は、正確な車間距離を把握できる。
仮想画像P1及びP2は、自車両M1及び後続車両M2の影を示す画像である。このように運転支援装置1が影を示す画像として仮想画像P1及びP2を重畳することにより、仮想画像P1及びP2が路面に張り付いているように見える。これにより、乗員は、自車両M1と後続車両M2との車間距離を正確に把握できる。さらに、仮想画像P1及びP2が影のように見えることになるため、乗員が仮想画像P1及びP2に対して感じる違和感を低減することができる。
また、運転支援装置1は、自車両M1の後端部から後続車両M2の走行車線に向かって伸びる仮想画像P1を重畳し、後続車両M2の先端部から自車両M1の走行車線に向かって伸びる仮想画像P2を重畳する。これにより、乗員は、正確な車間距離を把握できる。
また、運転支援装置1は、仮想画像P1及びP2が平行となるように重畳する。これにより、乗員は、車間距離の相対的な変化を直感的に把握できる。
上記のように、本発明の実施形態を記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
本実施形態では、仮想画像P1及びP2について影を示す画像として説明したが、仮想画像P1及びP2は影を示す画像に限定されない。例えば、図4(a)に示すように、合成部34は、仮想画像P2を線として重畳してもよい。同様に、図4(b)に示すように、合成部34は、仮想画像P1を線として重畳してもよい。また、図4(c)に示すように、合成部34は、仮想画像P1及びP2を線として重畳してもよい。また、線の代わりに楕円でもよい。このような各形状の仮想画像P1及びP2は、予め記憶部33に記憶されていてもよく、画像処理回路30が都度生成してもよい。なお、合成部34は、仮想画像P1及びP2の形状に関わらず、仮想画像P1及びP2が平行になるように重畳するのが好ましい。
また、運転支援装置1は、自車両M1の周囲の環境を取得し、取得した周囲の環境に基づく仮想画像P1及びP2を重畳してもよい。周囲の環境とは、例えば、走行中の時間帯が昼間であるか夜間であるか、路面が雨で濡れているか雪が積もっているかなどの走行中の環境をいう。これらの周囲の環境は、周知のセンサなどで取得することができる。周囲の環境が夜間の場合、仮想画像P1及びP2を影により示す画像として重畳すると視認性が低下する。そこで、合成部34は、仮想画像P1及びP2のコントラストや輝度などを変更し、夜間でも視認性が低下しない仮想画像P1及びP2を重畳する。また、周囲の環境に基づいて仮想画像P1及びP2を透視可能な透明性を有する画像としてもよい。このように、周囲の環境に基づく仮想画像P1及びP2を重畳することにより、乗員は、周囲の環境に関わらず自車両M1と後続車両M2との位置関係を直感的に把握できる。
また、仮想画像P1及びP2は車線境界線を越える長さを有する画像として説明したが、車線境界線がない道路の場合は、所定の長さを有する仮想画像P1及びP2を用いればよい。所定の長さについては、実験やシミュレーションを通じて求めることができる。
また、図5に示すように、合成部34は、仮想画像P1及びP2に記号を設定してもよい。ここで、「記号」とは、走行中の車両周囲の流れを示すもので、模様(例えば、波模様、グラデーション、肌理、木目など)、マーク(例えば、三角マーク、四角マークなど)等により示される。また、記号は、必ずしも、模様やマークに限定される必要はなく、疎らに見えるものであれば何でもよい。この記号は、車両走行に併せて動かすことにより、後方画像に写る車両周囲の動きに同化させることができる。これにより、乗員は、後方画像に対する違和感を抑制することができる。本実施形態では、仮想画像P1及びP2はそれぞれ、自車両M1及び後続車両M2の位置を示すので、アスファルトの模様を記号として設定する。なお、記号は、アスファルトの模様に限定されるものではなく、道路上の白線や、路肩など、車両の走行に併せて動いて見えるものを対象物としてもよい。画像処理回路30は、自車両M1の車速や移動方向に基づいて、記号の移動方向、及び記号の移動速度を設定する。また、画像処理回路30は、自車両M1の移動方向の反対となる方向に記号が移動するように記号を設定する。これにより、自車両M1の車速が速いほど記号の移動速度も速くなり、自車両M1の移動方向に応じた方向に記号が移動する。これにより、自車両M1の動きに適合するように記号が移動するため、記号は路面に張り付いているように見える。このように仮想画像P1及びP2に記号を設定することにより、乗員は、正確な車間距離を把握できる。なお、自車両M1の車速や移動方向は、車速センサや舵角センサを用いて取得することができる。
また、仮想画像P1及びP2は、常に表示されていると乗員が煩わしく感じる場合があるため、所定の条件が満たされた場合に限り表示するようにしてもよい。例えば、合成部34は、ウィンカースイッチの信号をトリガとして、仮想画像P1及びP2を重畳するようにしてもよい。詳しくは、合成部34は、ウィンカースイッチの信号を受信するまでは、仮想画像P1及びP2を重畳する処理を実施しないで待機し、ウィンカースイッチの信号を受信すると、仮想画像P1及びP2を重畳する。乗員が後続車両M2との車間距離を確認するシーンの一つは、車線変更時である。そこで、合成部34がウィンカースイッチの信号を受信した場合に仮想画像P1及びP2を重畳することにより、乗員が知りたい情報を、乗員が知りたいときに提供することができる。また、ウィンカースイッチの信号をトリガとして仮想画像P1及びP2を重畳する場合は、運転中常に仮想画像P1及びP2を重畳する場合と比較して、乗員が感じる煩わしさを低減でき、かつ画像処理に要するリソースを節約することができる。なお、車線変更が完了し、ウィンカースイッチの信号を受信しなくなった際には、合成部34は仮想画像P1及びP2を消去する。
また、左右のドアミラー画像を表示する場所は、右ドアミラーモニタ40及び左ドアミラーモニタ50に限定されない。例えば、インストルメントパネルに設けたディスプレイ、ヘッドアップディスプレイ、カーナビゲーション装置のディスプレイ、ピラーディスプレイなどに表示してもよい。
また、合成部34は、車両の属性に応じて仮想画像P1及びP2を重畳してもよい。例えば、自車両M1の後方にバイクが存在する場合、合成部34はバイクの大きさに合わせて仮想画像P2を重畳してもよい。バイクはミラー画像上の大きさが他の車両と比較して小さいため、合成部34が仮想画像P2を重畳することにより、車間距離だけでなく、バイクの存在を乗員に知らせることができる。
また、本実施形態では、ミラー画像に仮想画像P1及びP2を重畳したが、自車両M1の後方を写すミラー自体に仮想画像を重畳するようにしてもよい。自車両M1の後方をミラーで写す場合は、後続車両M2を画像から識別するのではなく、ソナー、カメラなど自車両周囲の状況を検出可能な各種センサにより、後続車両M2を認識するようにしてもよい。
なお、上述の実施形態の各機能は、1または複数の処理回路により実装され得る。処理回路は、電気回路を含む処理装置等のプログラムされた処理装置を含む。処理回路は、また、実施形態に記載された機能を実行するようにアレンジされた特定用途向け集積回路(ASIC)や従来型の回路部品のような装置を含む。
10 右カメラ
20 左カメラ
30 画像処理回路
31 ミラー画像生成部
32 後続車両検出部
33 記憶部
34 合成部
40 右ドアミラーモニタ
50 左ドアミラーモニタ

Claims (7)

  1. 撮像により自車両の後方情報を取得する撮像素子と、前記後方情報より後方画像を生成するコントローラと、前記後方画像を表示するモニタと、を備える運転支援装置の運転支援方法において、
    前記後方画像上の前記自車両と後続車両との間に、前記自車両と前記後続車両の位置を示す仮想画像を重畳し、
    前記仮想画像上に記号を設定し、
    前記記号は、前記自車両の移動方向と反対の方向に移動するように設定され、前記自車両の車速が速いほど前記記号の移動速度が速くなる
    ことを特徴とする運転支援方法。
  2. 前記仮想画像を重畳することは、
    前記仮想画像を路面に重畳することを含むことを特徴とする請求項1に記載の運転支援方法。
  3. 前記仮想画像を重畳することは、
    前記自車両と前記後続車両の影を示す前記仮想画像を重畳することを含むことを特徴とする請求項1または2に記載の運転支援方法。
  4. 前記仮想画像を重畳することは、
    前記自車両の後端部に第1仮想画像を重畳し、かつ前記後続車両の先端部に第2仮想画像を重畳することを含むことを特徴とする請求項1〜のいずれか1項に記載の運転支援方法。
  5. 前記仮想画像を重畳することは、
    前記第1仮想画像と、前記第2仮想画像とが平行になるように重畳することを含むことを特徴とする請求項に記載の運転支援方法。
  6. 前記自車両の周囲の環境を検出することをさらに含み、
    前記仮想画像を重畳することは、
    検出された前記周囲の環境に応じて前記仮想画像を重畳することを含むことを特徴とする請求項1〜のいずれか1項に記載の運転支援方法。
  7. 撮像により自車両の後方情報を取得する撮像素子と、
    前記撮像素子によって取得された前記後方情報より後方画像を生成する生成回路と、
    前記生成回路によって生成された前記後方画像を表示するモニタと、
    前記自車両と後続車両の位置を示す仮想画像を前記後方画像上の前記自車両と前記後続車両との間に重畳する制御部と
    を備え、
    前記制御部は、前記仮想画像上に記号を設定し、
    前記記号は、前記自車両の移動方向と反対の方向に移動するように設定され、前記自車両の車速が速いほど前記記号の移動速度が速くなる
    ことを特徴とする運転支援装置。
JP2016070378A 2016-03-31 2016-03-31 運転支援方法及び運転支援装置 Active JP6756135B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016070378A JP6756135B2 (ja) 2016-03-31 2016-03-31 運転支援方法及び運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016070378A JP6756135B2 (ja) 2016-03-31 2016-03-31 運転支援方法及び運転支援装置

Publications (2)

Publication Number Publication Date
JP2017182543A JP2017182543A (ja) 2017-10-05
JP6756135B2 true JP6756135B2 (ja) 2020-09-16

Family

ID=60007021

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016070378A Active JP6756135B2 (ja) 2016-03-31 2016-03-31 運転支援方法及び運転支援装置

Country Status (1)

Country Link
JP (1) JP6756135B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7128096B2 (ja) * 2018-11-26 2022-08-30 本田技研工業株式会社 映像表示装置
JP7283059B2 (ja) * 2018-11-28 2023-05-30 株式会社アイシン 周辺監視装置
WO2022250117A1 (ja) * 2021-05-27 2022-12-01 株式会社デンソー 車両用表示システム、車両用表示方法、及び車両用表示プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4749958B2 (ja) * 2006-07-05 2011-08-17 本田技研工業株式会社 運転支援装置
JP2009029203A (ja) * 2007-07-25 2009-02-12 Honda Motor Co Ltd 運転支援装置
JP4986070B2 (ja) * 2008-03-19 2012-07-25 マツダ株式会社 車両用周囲監視装置
JP5178361B2 (ja) * 2008-07-09 2013-04-10 本田技研工業株式会社 運転支援装置

Also Published As

Publication number Publication date
JP2017182543A (ja) 2017-10-05

Similar Documents

Publication Publication Date Title
CN105308620B (zh) 信息处理设备、接近对象通知方法和程序
JP5143235B2 (ja) 制御装置および車両周囲監視装置
WO2016002163A1 (ja) 画像表示装置、画像表示方法
US8854466B2 (en) Rearward view assistance apparatus displaying cropped vehicle rearward image
JP4389173B2 (ja) 車両用表示装置
JP6586849B2 (ja) 情報表示装置及び情報表示方法
JP7077616B2 (ja) 表示制御装置および表示制御方法
JP2007221200A (ja) 車両周辺監視装置
JP6756135B2 (ja) 運転支援方法及び運転支援装置
JP2009227245A (ja) 車載機器の操作装置
WO2015122124A1 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP2010116086A (ja) 車載用表示装置、表示方法および表示プログラム
US10740909B2 (en) Drive recorder
JP2009166624A (ja) 車両用後方監視装置および車両後方監視方法
JP2020068515A (ja) 画像処理装置
JP2018142884A (ja) 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP7047586B2 (ja) 車両用表示制御装置
JP6327115B2 (ja) 車両周辺画像表示装置、車両周辺画像表示方法
JP2019188855A (ja) 車両用視認装置
JP6552285B2 (ja) 車載表示装置及び車両後方映像表示方法
US11938863B2 (en) Peripheral image generation device and display control method
JP6662655B2 (ja) 車両用画像表示装置
JP2019153932A (ja) 汚れ報知装置
JP2006224927A (ja) 車両周辺視認装置
JP2009029340A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191218

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200728

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200810

R151 Written notification of patent or utility model registration

Ref document number: 6756135

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151