JP6394940B2 - 車両用表示システム - Google Patents

車両用表示システム Download PDF

Info

Publication number
JP6394940B2
JP6394940B2 JP2014106927A JP2014106927A JP6394940B2 JP 6394940 B2 JP6394940 B2 JP 6394940B2 JP 2014106927 A JP2014106927 A JP 2014106927A JP 2014106927 A JP2014106927 A JP 2014106927A JP 6394940 B2 JP6394940 B2 JP 6394940B2
Authority
JP
Japan
Prior art keywords
specific target
image
vehicle
emphasized image
relative height
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014106927A
Other languages
English (en)
Other versions
JP2015221633A (ja
Inventor
剛士 江尻
剛士 江尻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Seiki Co Ltd
Original Assignee
Nippon Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Seiki Co Ltd filed Critical Nippon Seiki Co Ltd
Priority to JP2014106927A priority Critical patent/JP6394940B2/ja
Publication of JP2015221633A publication Critical patent/JP2015221633A/ja
Application granted granted Critical
Publication of JP6394940B2 publication Critical patent/JP6394940B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instrument Panels (AREA)

Description

本発明は、車両の乗員であるユーザに対して画像を表示して注意喚起する車両用表示システムに関する。
従来の車両用表示システムとしては、特許文献1に開示されているようなヘッドアップディスプレイ装置からなる表示部を用いるものが知られている。特許文献1に開示されている車両用表示システムは、自車両が走行する車線上またはこの車線近傍に存在する障害物(特定対象)を検出し、この障害物を取り囲むような枠画像を自車両のウインドシールドに投影し、ユーザに実景である障害物とこの障害物を取り囲む枠画像とを視認させることで、ユーザの視線を前方方向から大きく移動させずに、注意すべき障害物を強調することが可能である。
このような車両用表示システムは、自車両の前方側を撮像する撮像手段を有しており、撮像画像を分析することで障害物の位置や種類、形状及びサイズなどを認識し、認識した障害物を囲むような大きさの枠画像を所定の位置に表示することで障害物を強調するものである。
特開2009−248721号公報
しかしながら、特許文献1のように、障害物の大きさを認識して、この障害物を囲むように枠画像の大きさを調整する車両用表示システムでは、障害物が自車両の近くに存在している場合、枠画像が大きく表示されすぎてしまい、ユーザの実景視認を妨げてしまったり、ユーザの注視領域が分散されてしまったりする恐れがあった。
すなわち、本発明は、実景の視認性低下を抑制し、視線移動が少なくても情報を認識可能な車両用表示システムを提供することを目的とする。
上記目的を達成するため、本発明に係る車両用表示システムは、車両前方の特定対象の位置を検出する前方認識部と、透過反射面に前記特定対象を強調する強調画像を投影することで前記透過反射面を介して実景である前記特定対象と前記強調画像とをユーザに視認させる表示部と、前記特定対象に対して前記強調画像を表示する相対的な高さ方向の位置、前記特定対象の接近に従って段階的または連続的に高くする制御部と、を備えることを特徴とする。
本発明によれば、実景の視認性低下を抑制し、視線移動が少なくても情報を認識させることができる。
本発明の実施形態における車両用表示システムの構成を説明する図である。 上記実施形態の車両用表示システムにより自車両のユーザが視認する景色を説明する図であり、(a)は特定対象が遠方に存在する場合の景色を示し、(b)は特定対象が近傍に存在する場合の景色を示した図である。 上記実施形態における強調画像を説明するための図であり、(a)は遠方強調画像を示す図であり、(b)は近傍強調画像を示す図である。 上記実施形態における強調画像の相対高さの推移を説明する図である。 本発明の実施形態における強調画像の相対高さ推移の変形例を説明する図である。
本発明の車両用表示システム10の実施形態について、図1を参照して説明する。
車両用表示システム10は、自車両1に搭載されるものであり、強調表示を自車両1のユーザ2に対して表示する表示部20と、自車両1の前方を監視する前方認識部30と、自車両1と特定対象P(例えば、歩行者P)との距離を検出する距離検出部40と、ユーザ2の視点位置を検出する視点位置検出部50と、前方認識部30,距離検出部40,視点位置検出部50から情報を入力し、表示部20を制御する制御部60と、を備える。
表示部20は、自車両1のフロントガラス(透過反射面)1aに表示光Lを投影することで、フロントガラス1aを通した実景とともに虚像である後述する強調画像Vをユーザ2に視認させるヘッドアップディスプレイ装置であり、後述する制御部60の制御の下、フロントガラス1aに投影する表示光Lの位置を調整することで、自車両1の前方の実景上の特定対象Pに後述する強調画像Vが重畳して視認されるように表示を行うことが可能である。なお、表示部20は、車両ECU70や図示しないナビゲーションシステムなどに接続されており、実景の特定対象Pに重畳する強調画像V以外にも、車速などの車両情報画像や経路案内を行う矢印画像などで構成される経路案内画像なども表示可能である。
前方認識部30は、自車両1が走行する路面を含む前方領域を撮像するものであり、例えばステレオカメラなどで構成される。前方認識部30は、撮像した画像の撮像データを、図示しない画像解析部を用いて、公知の画像処理、パターンマッチング法などにより画像解析することで、車線上(またはその付近)の特定対象P(前方車両や歩行者Pや障害物)の種類や特定対象Pの大きさ(後述する対象高さH及び横幅W)を解析することができ、さらに撮像された特定対象Pと自車両1との間の距離を算出することができる。また、前方認識部30は、特定対象Pと自車両1との距離の時間差分を比較することで、自車両1に対する特定対象Pの相対的な速度も検出することが可能である。
距離検出部40は、例えば、ミリ波レーダ等の近距離検出用レーダ、超音波等を用いたソナー、可視光線カメラ、赤外線カメラなどの撮像カメラ等で構成され、取得したデータを後述する制御部60に出力する。制御部60は、距離検出部40から入力したデータに基づき、特定対象Pとの距離や特定対象Pとの相対速度などを演算することができる。また、距離検出部40は、図示しない通信手段を有し、車車間通信や路上の通信インフラを介して自車両1と特定対象Pとの位置関係やその時間差分によって相対速度を求めてもよい。
視点位置検出部50は、ユーザ2の視点位置(視線の上下及び左右方向の位置)を検出するものであり、本実施形態では、ユーザ2を撮像する赤外線カメラ51と、この赤外線カメラ51で取得された撮像データを解析する視点画像解析部52と、を有する。
赤外線カメラ51は、ユーザ2の目を撮像するものであり、視点画像解析部52が赤外線カメラ51で取得された撮像データを、公知の画像処置、パターンマッチング法などにより画像解析することで、ユーザ2の視点位置を解析して、ユーザ2の視点位置に関する情報を後述する制御部60に出力することができる。なお、ユーザ2が図示しない入力手段を操作することで、自らの視点位置に合うように後述する強調画像Vの表示位置を調整するようにしてもよく、このような場合、視点位置検出部50を省略してもよい。
制御部60は、1つもしくは複数のマイクロプロセッサ,マイクロコントローラ,ASIC,FPGA,任意の他のICなどを有する処理部61と、書き換え可能なRAM,読み出し専用のROM,プログラム読み出し専用のEEPROM,不揮発性メモリであるフラッシュメモリなどのプログラムやデータを記憶することができる1つまたは複数のメモリを有する記憶部62と、を備え、表示部20,前方認識部30,距離検出部40,視点位置検出部50,車両ECU70及び図示しないナビゲーションシステム(車載機器)などと、CAN(Controller Area Network)バス通信等のバス80を介して信号を授受可能に接続される。
処理部61は、前方認識部30から入力される特定対象Pの位置に関する情報と、視点位置検出部50から入力されるユーザ2の視点位置に関する情報に基づき、表示部20に表示させる強調画像Vの表示位置を演算して、表示部20を制御する。このように、特定対象Pの位置と視点位置検出部50の位置とに基づいて、特定対象Pの表示位置を設定することにより、ユーザ2の体格の違いや姿勢の違いがあった場合でも、実景における特定対象Pに対する所望の位置に強調画像Vを重畳表示させることができる。
以上が、本実施形態における車両用表示システム10の構成であり、これより図2乃至4を用いて、本発明の特徴である強調画像Vについて説明をする。図2は、自車両1の運転席からユーザ2が前方視認した際に視認する風景の一例を示した図である。図2(a)は、歩行者P(特定対象P)が自車両1の遠方に存在する場合の強調画像V(遠方強調画像V1)が表示される様子を示した図であり、図2(b)は、歩行者Pが自車両1の近傍に存在する場合の強調画像V(近傍強調画像V2)が表示される様子を示した図である。また、図3は、処理部61が前方認識部30を介して認識する特定対象Pの対象高さHと横幅Wと、これら特定対象Pに対して表示する強調画像Vの大きさ、位置、形状と、を説明するための図であり、図3(a)は、遠方強調画像V1であり、図3(b)は、近傍強調画像V2である。さらに、図4は、特定対象Pに対して表示する強調画像Vの相対高さhの変化を説明するための図である。
特定対象Pが自車両1の遠方に存在する場合、表示部20は、処理部61の制御のもと、図2(a)に示すように、特定対象Pの下端である第1の相対高さh1の位置に、特定対象Pを強調する遠方強調画像V1を表示する。遠方強調画像V1は、図3(a)に示すように、特定対象Pの第1の対象幅Waよりも長い第1の画像幅w1を有する楕円形状の画像である。具体的には、遠方強調画像V1の第1の画像幅w1は、特定対象Pの第1の対象幅Waの1.5〜2倍程度の幅を有する。
特定対象Pが自車両1の近傍に存在する場合、表示部20は、処理部61の制御のもと、図2(b)に示すように、特定対象Pの中央付近である第2の相対高さh2の位置に特定対象Pを強調する近傍強調画像V2を表示する。近傍強調画像V2は、図3(b)に示すように、特定対象Pの第2の対象幅Wbよりも短い第2の画像幅w2を有する注意マークなどのアイコン画像である。具体的には、近傍強調画像V2の第2の画像幅w2は、特定対象Pの第2の対象幅Wbの0.5倍程度の幅を有する。
処理部61は、前方認識部30から特定対象Pの大きさ(特定対象Pの横幅W及び対象高さH)を検出し、特定対象Pの横幅Wに基づき、強調画像Vの画像幅wを調整する。すなわち、自車両1が特定対象Pに接近していくと、前方認識部30が認識する特定対象Pの横幅Wが大きくなるため、これに対応して画像幅wも大きくなる。特定対象Pの横幅Wに対する強調画像Vの画像幅wの比が一定になることが望ましい。なお、画像幅wは、前方認識部30が検出する特定対象Pの横幅Wのみに基づいて変化しなくてもよく、初期の画像幅wを、前方認識部30が認識する横幅Wに基づき決定し、その後、距離検出部40に基づいて検出された自車両1と特定対象Pとの距離Dに基づいて、画像幅wを変化させてもよい。
また、処理部61は、距離検出部40から自車両1と特定対象Pとの距離を検出し、この特定対象Pとの距離Dに基づき、特定対象Pに対する強調画像Vを表示する相対高さh、及び遠方強調画像V1、近傍強調画像V2の表示切り換えを行う。
まず、処理部61は、ユーザ2に報知すべき特定対象Pを検出した場合、特定対象Pの下端である第1の相対高さh1に遠方強調画像V1を表示し、自車両1と特定対象Pとの間の距離Dが所定の第1の距離D1になるまで、遠方強調画像V1を第1の相対高さh1に維持する。
次いで、自車両1と特定対象Pとの間の距離Dが第1の距離D1になった場合、処理部61は、遠方強調画像V1を非表示にして、近傍強調画像V2を表示する。そして、自車両1と特定対象Pとの間の距離Dが第2の距離D2以内になるまで、自車両1と特定対象Pとの間の距離Dに従い、特定対象Pに対して近傍強調画像V2を表示する相対高さhを、第1の相対高さh1から第2の相対高さh2まで変化させる。第2の相対高さh2は、特定対象Pの略半分の高さに位置する。すなわち、自車両1と特定対象Pとの間の距離Dが第1の距離D1から第2の距離D2まで変化した場合、近傍強調画像V2は、特定対象Pの下端から特定対象Pの半分の高さまで移動する。
さらに、自車両1と特定対象Pとの間の距離Dが第2の距離D2になった場合、自車両1と特定対象Pとの間の距離Dによらず、近傍強調画像V2を第2の相対高さh2に維持する。
以上説明したように、本実施形態の車両用表示システム10は、自車両1と特定対象Pとの間の距離Dが短くなった場合、すなわち特定対象Pが接近した場合、特定対象Pに対して強調画像Vを表示する相対高さhを上昇させることで、特定対象Pが近づいた場合でもユーザ2は視線を特定対象Pの下側に大きく移動させる必要がない。すなわち、特定対象Pを強調する強調画像Vに向けるユーザ2の視線移動を抑制するができ、特定対象Pを強調画像Vで強調しつつも、車両運行に対する注意力を低下させないことが可能である。
また、遠方に存在する特定対象Pを強調する場合、遠方強調画像V1を特定対象Pの下端付近に表示するので、強調画像Vが実景の特定対象Pに大きく重なることがない。したがって、ユーザ2に特定対象Pと遠方強調画像V1とを共に認識させやすくすることができる。また、遠方強調画像V1を特定対象Pの下端付近に表示するので、遠方強調画像V1の画像幅wを大きくしても、遠方強調画像V1が特定対象Pの視認性を妨げることがなく、特定対象Pの横幅Wよりも遠方強調画像V1の画像幅wを大きくすることで、特定対象Pの視認性を低下させずに、特定対象Pを確実に強調表示することができる。
また、特定対象Pに強調画像Vを重畳する際、特定対象Pの横幅Wよりも遠方強調画像V1の画像幅wを小さくすることで、特定対象Pの視認性を低下させずに、注意すべき特定対象Pを確実に強調表示することができる。
また、特定対象Pの横幅Wに基づいて、強調画像Vの画像幅wを調整し、特定対象Pの横幅Wに対する強調画像Vの画像幅wの比が一定になるように、強調画像Vの画像幅wを調整することで、特定対象Pの大きさに対して強調画像Vの相対的な大きさ変化することによってユーザ2が抱く違和感を軽減することができ、強調画像Vの大きさの変化に基づき自車両1と特定対象Pとの間の距離Dをユーザ2に直感的に認識させることができる。
これより本発明の変形例について説明する。以上に説明した実施形態では、自車両1と特定対象Pとの間の距離Dに基づいて、強調画像Vを表示する相対高さhを変化させるものであったが、これに限定されず、図5に示すように、前方認識部30が認識する特定対象Pの大きさEに基づいて変化させてもよい。特定対象Pの大きさEとは、特定対象Pの対象高さHであってもよく、横幅Wであってもよく、対象高さHと横幅Wとの積であってもよい。
まず、処理部61は、ユーザ2に報知すべき特定対象Pを検出した場合、特定対象Pの下端である第1の相対高さh1に遠方強調画像V1を表示し、特定対象Pの大きさEが所定の第2の大きさE2になるまで、遠方強調画像V1を第1の相対高さh1に維持する。
次いで、特定対象Pの大きさEが第2の大きさE2になった場合、処理部61は、遠方強調画像V1を非表示にして、近傍強調画像V2を表示する。そして、自車両1と特定対象Pとの間の距離Dが第3の大きさE3以内になるまで、特定対象Pの大きさEに従い、近傍強調画像V2を表示する特定対象Pに対する相対高さhを、第1の相対高さh1から第2の相対高さh2まで変化させる。
さらに、特定対象Pの大きさEが第3の大きさE3になった場合、自車両1と特定対象Pとの間の距離Dによらず、近傍強調画像V2を第2の相対高さh2に維持する。
また、上記実施形態においては、遠方強調画像V1と近傍強調画像V2との表示切り替えを、強調画像Vの相対高さhが変化する前にしていたが、これに限定されず、強調画像Vの相対高さhが変化して固定された後に遠方強調画像V1から近傍強調画像V2に切り替えてもよい。
また、上記実施形態においては、近傍強調画像V2が特定対象Pと重畳するようにしていたが、特定対象Pに重畳しない左右方向に表示されてもよい。
また、上記実施形態においては、強調画像Vを表示する相対高さhが連続的に変化するように説明したが、段階的に切り替えてもよい。
また、上記実施形態においては、強調画像Vを表示開始してから、パラメータ(自車両1と特定対象Pとの距離Dや特定対象Pの大きさE)が所定の値になるまで、強調画像Vを表示する相対高さhを固定し、その後、所定のパラメータ領域では、パラメータに応じて相対高さhを変化させ、さらにその後、パラメータに応じずに相対高さhを一定に維持するようにしていたが、これに限定されずに、強調画像Vを表示開始してからすぐにパラメータに応じて相対高さhを変化させてもよい。
また、上記実施形態においては、最後に強調画像Vが固定される第2の相対高さh2を特定対象Pの略中央領域としていたが、これに限定されずに、特定対象Pの中央領域より上側乃至特定対象Pの上端付近であってもよい。
また、上記実施形態においては、表示部20は、フロントガラス1aに強調画像Vを投影していたが、透過及び反射するものであればよく、コンバイナなどでもよい。
なお、本発明は、以上の実施形態によって限定されるものではない。本発明の要旨を変更しない範囲で、適宜、変更(構成要素の削除も含む)を加えることが可能である。
1 自車両
1a フロントガラス
2 ユーザ
10 車両用表示システム
20 表示部
30 前方認識部
40 距離検出部
50 視点位置検出部
60 制御部
61 処理部
62 記憶部
70 車両ECU

D 距離
D1 第1の距離(第1の位置)
D2 第2の距離(第2の位置)
H 対象高さ
Ha 第1の対象高さ
Hb 第2の対象高さ
h 相対高さ
h1 第1の相対高さ
h2 第2の相対高さ
L 表示光
P 特定対象(歩行者)
V 強調画像
V1 遠方強調画像
V2 近傍強調画像
W 横幅
Wa 第1の対象幅
Wb 第2の対象幅
w 画像幅
w1 第1の画像幅
w2 第2の画像幅





Claims (6)

  1. 車両前方の特定対象の位置を検出する前方認識部と、透過反射面に前記特定対象を強調する強調画像を投影することで前記透過反射面を介して実景である前記特定対象と前記強調画像とをユーザに視認させる表示部と、前記特定対象に対して前記強調画像を表示する相対的な高さ方向の位置、前記特定対象の接近に従って段階的または連続的に高くする制御部と、を備える、ことを特徴とする車両用表示システム。
  2. 前記制御部は、前記特定対象の高さ方向の中央から下側の領域を少なくとも含むように、前記特定対象の接近に従い、前記特定対象に対して前記強調画像を表示する相対的な高さを段階的または連続的に高くする、ことを特徴とする請求項に記載の車両用表示システム。
  3. 前記制御部は、前記特定対象が第1の位置より離れていると判定した場合、前記特定対象の接近によらず、前記特定対象に対する前記強調画像を表示する相対的な高さを略一定に維持する、ことを特徴とする請求項1又は2のいずれかに記載の車両用表示システム。
  4. 前記制御部は、前記特定対象が第2の位置より接近していると判定した場合、前記特定対象の接近によらず、前記特定対象に対する前記強調画像を表示する相対的な高さを略一定に維持する、ことを特徴とする請求項1乃至のいずれかに記載の車両用表示システム。
  5. 前記制御部が調整する前記強調画像を表示する相対的な高さの最低位置は、前記特定対象の下端付近である、ことを特徴とする請求項1乃至のいずれかに記載の車両用表示システム。
  6. 前記制御部は、前記特定対象が近づいた場合、前記特定対象の幅に対する前記強調画像の相対的な幅を小さくする、ことを特徴とする請求項1乃至のいずれかに記載の車両用表示システム。


JP2014106927A 2014-05-23 2014-05-23 車両用表示システム Active JP6394940B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014106927A JP6394940B2 (ja) 2014-05-23 2014-05-23 車両用表示システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014106927A JP6394940B2 (ja) 2014-05-23 2014-05-23 車両用表示システム

Publications (2)

Publication Number Publication Date
JP2015221633A JP2015221633A (ja) 2015-12-10
JP6394940B2 true JP6394940B2 (ja) 2018-09-26

Family

ID=54784924

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014106927A Active JP6394940B2 (ja) 2014-05-23 2014-05-23 車両用表示システム

Country Status (1)

Country Link
JP (1) JP6394940B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6741029B2 (ja) * 2016-02-08 2020-08-19 株式会社リコー 情報表示装置
JP6733277B2 (ja) * 2016-04-13 2020-07-29 日産自動車株式会社 画像表示方法及び画像表示装置
JP6694112B2 (ja) 2017-03-17 2020-05-13 マクセル株式会社 Ar表示装置及びar表示方法
JP6947873B2 (ja) * 2017-03-17 2021-10-13 マクセル株式会社 Ar表示装置、ar表示方法、およびプログラム
WO2019097918A1 (ja) * 2017-11-14 2019-05-23 マクセル株式会社 ヘッドアップディスプレイ装置およびその表示制御方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006176020A (ja) * 2004-12-22 2006-07-06 Nissan Motor Co Ltd 歩行者報知装置及び方法
JP4480755B2 (ja) * 2007-12-04 2010-06-16 カルソニックカンセイ株式会社 車両用ヘッドアップディスプレイ装置
JP4943367B2 (ja) * 2008-04-04 2012-05-30 カルソニックカンセイ株式会社 車両用情報表示装置
JP2010160606A (ja) * 2009-01-07 2010-07-22 Mazda Motor Corp 車両用情報提示システム
JP5533766B2 (ja) * 2011-04-05 2014-06-25 株式会社デンソー 車両用表示装置
JP5783155B2 (ja) * 2012-10-05 2015-09-24 株式会社デンソー 表示装置
JP6040897B2 (ja) * 2013-09-04 2016-12-07 トヨタ自動車株式会社 注意喚起表示装置及び注意喚起表示方法

Also Published As

Publication number Publication date
JP2015221633A (ja) 2015-12-10

Similar Documents

Publication Publication Date Title
US10800258B2 (en) Vehicular display control device
JP5999032B2 (ja) 車載表示装置およびプログラム
JP6459205B2 (ja) 車両用表示システム
US10229594B2 (en) Vehicle warning device
JP5911775B2 (ja) 画像生成装置、画像表示システム及び画像生成方法
WO2016147547A1 (ja) 画像生成装置
CN108394346B (zh) 图像显示设备
JP6394940B2 (ja) 車両用表示システム
JP6379779B2 (ja) 車両用表示装置
EP2894620B1 (en) Vehicle information display device and vehicle information display method
WO2019008764A1 (ja) 駐車支援方法及び駐車支援装置
JP6744236B2 (ja) 画像表示装置
JP6375816B2 (ja) 車両用周辺情報表示システム及び表示装置
JP2015226304A (ja) 車両用投影装置及びヘッドアップディスプレイシステム
US10965872B2 (en) Image display apparatus
JP2013207746A (ja) 車両の後側方撮影装置
US10040395B2 (en) Vehicular display control apparatus
JP2016074410A (ja) ヘッドアップディスプレイ装置、ヘッドアップディスプレイ表示方法
JP2010081245A (ja) 車両用表示装置および表示方法
JPWO2020105685A1 (ja) 表示制御装置、方法、及びコンピュータ・プログラム
WO2016056199A1 (ja) ヘッドアップディスプレイ装置、ヘッドアップディスプレイ表示方法
KR20160134005A (ko) 드론 및 주변차량을 이용한 시야 확보 방법 및 이를 이용한 디스플레이 시스템
US20200231099A1 (en) Image processing apparatus
WO2020158601A1 (ja) 表示制御装置、方法、及びコンピュータ・プログラム
JP2018087852A (ja) 虚像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180815

R150 Certificate of patent or registration of utility model

Ref document number: 6394940

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150