JP6516298B2 - 情報表示装置 - Google Patents

情報表示装置 Download PDF

Info

Publication number
JP6516298B2
JP6516298B2 JP2016093448A JP2016093448A JP6516298B2 JP 6516298 B2 JP6516298 B2 JP 6516298B2 JP 2016093448 A JP2016093448 A JP 2016093448A JP 2016093448 A JP2016093448 A JP 2016093448A JP 6516298 B2 JP6516298 B2 JP 6516298B2
Authority
JP
Japan
Prior art keywords
display
attention
caution
information
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016093448A
Other languages
English (en)
Other versions
JP2017200808A (ja
Inventor
浩司 岸
浩司 岸
孝恒 熊田
孝恒 熊田
亮一 中島
亮一 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
RIKEN Institute of Physical and Chemical Research
Original Assignee
Toyota Motor Corp
RIKEN Institute of Physical and Chemical Research
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp, RIKEN Institute of Physical and Chemical Research filed Critical Toyota Motor Corp
Priority to JP2016093448A priority Critical patent/JP6516298B2/ja
Priority to DE102017109073.8A priority patent/DE102017109073B4/de
Priority to CN201710289451.5A priority patent/CN107399327B/zh
Priority to US15/587,657 priority patent/US10102438B2/en
Publication of JP2017200808A publication Critical patent/JP2017200808A/ja
Application granted granted Critical
Publication of JP6516298B2 publication Critical patent/JP6516298B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • B60K35/285Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver for improving awareness by directing driver's gaze direction or eye points
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/29Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/634Warning indications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18Information management
    • B60K2360/186Displaying information according to relevancy
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18Information management
    • B60K2360/191Highlight information
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/21Optical features of instruments using cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20Optical features of instruments
    • B60K2360/33Illumination features
    • B60K2360/334Projection means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/301Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with other obstacle sensor information, e.g. using RADAR/LIDAR/SONAR sensors for estimating risk of collision
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0183Adaptation to parameters characterising the motion of the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Traffic Control Systems (AREA)
  • Instrument Panels (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明は、情報表示装置に関する。
従来、車両を運転する運転者と対話を行う対話装置が知られている(例えば特許文献1)。この対話装置は、運転者との対話内容の候補と、運転者の運転に対する集中度の向上度合いを示す対話効果と、運転者の嗜好とを対応付けて記憶する記憶部を備える。この対話装置は、対話効果及び嗜好に基づいて選択された候補に対応する対話内容で運転者との対話を実施することにより、運転者の運転に対する集中度を向上させる。
特開2013−242763号公報
ところで、自動運転システムが車両に搭載された場合、運転者は、通常の交通シーンでは自動運転システムに運転を任せつつ、緊急回避シーン等において車両の運転操作を行うように行動することが想定される。このため、自動運転システムによる自動運転中においては、運転者は車両の運転操作をしないものの、自動運転の内容に関心を払い、車両の周囲を監視することが望まれている。しかしながら、特許文献1記載の装置により実現される対話は、運転者の嗜好(例えば音楽)に基づいて決定されるため、自動運転システムによる車両の運転に対して運転者が意識を十分に向けることができないおそれがある。
本発明は、自動運転システムによる運転に対して意識を向けるように運転者に対して働きかけることができる情報表示装置を提供することを目的とする。
上記課題を解決するため、本発明者は鋭意検討を重ねることにより、図6に示される基本原理を見出した。図6は、情報表示装置の基本原理を示す概念図である。図6に示されるように、自動運転システムと運転者との間に「共同注意」が成立した場合、自動運転システムによる車両の運転(操作)の意図が運転者により理解され、意図の共有がなされると考えた。そして、この意図の共有により、自動運転システムによる自動運転中であっても、運転者が運転に対して意識を向け、当該運転に対する意識を持続することが可能となると考えた。なお、「共同注意」とは、例えば、車両の外部センサ等が取得した物体に関する情報に基づいて、自動運転システムが車両周囲の物体のうちどの物体を認識し且つ監視しているかを、表示部等を介して運転者に報知することをいう。
本発明者は、上記知見を検証するために心理実験を行った。心理実験では、被験者(健常成人20名)に対して、画面上を移動するボールを停止させるためのキー操作(「キー押し」)を、ボールの移動中の任意の位置で行うように指示した。実験条件として、ボールの停止態様(通常停止/急停止)とボールの移動速度(低速/高速)と注意対象(停止予定位置であるゴール)の表示態様(表示/非表示)とを変更した。図7及び図8は、心理実験に用いられた画面100の例である。図7の(a)に示された例では、ボール101は、画面100における左側から移動し、「キー押し」の後に徐々に減速を開始し、非表示のゴール102付近で停止する。つまり、ボール停止条件は通常停止であり、注意対象は表示されていない状況下の実験である。図7の(b)に示された例では、ボール101は、画面100における左側から移動し、「キー押し」の後に徐々に減速を開始し、表示されたゴール102付近で停止する。つまり、ボール停止条件は通常停止であり、注意対象は表示されている状況下の実験である。図8の(a)に示された例では、ボール101は、画面100における左側から移動し、「キー押し」の後に急に減速し、非表示のゴール102付近で停止する。つまり、ボール停止条件は急停止であり、注意対象は表示されていない状況下の実験である。図8の(b)に示された例では、ボール101は、画面100における左側から移動し、「キー押し」の後に急に減速し、表示されたゴール102付近で停止する。つまり、ボール停止条件は急停止であり、注意対象は表示されている状況下の実験である。
なお、全体の心理実験の75%では、被験者の「キー押し」とは無関係に、自動的にボール101がゴール102で停止するように自動制御した。この自動制御は、車両の自動運転を模したものであり、この場合のゴール102は、自動運転システムの監視対象(運転者の注意対象)に相当するものである。
被験者は、ボール101を停止させるキー操作を行った後、ボール101の停止操作に対する操作主体感を0から100までの間の数字で回答した。その結果を図9に示す。図9は、図7及び図8の心理実験の結果を示す図である。図9に示されるように、ボールの停止態様(通常停止/急停止)に関わらず、ゴール102を表示した場合には、ゴール102を表示しない場合と比べて被験者が感じる操作主体感が増加することが確認された。
以上のような知見により、本発明者は、注意対象を表示することで、効果的に自動運転システムによる車両の運転に対して運転者が意識を向けることを支援できることを見出し、本発明を完成するに至った。
本発明に係る情報表示装置は、車両の自動運転中において注意表示を表示する情報表示装置であって、車両の周囲に存在する複数の注意対象を認識する注意対象認識部と、車両の走行状態を認識する走行状態認識部と、注意表示を表示する表示部と、注意対象認識部の認識結果及び走行状態認識部の認識結果に基づいて車両が注意対象と接触するまでの予測時間を算出すると共に、予測時間に基づいて注意対象に対する注意深度を算出する注意深度算出部と、複数の注意対象のうち注意深度が最大である第1注意対象を決定すると共に、注意対象認識部の認識結果及び走行状態認識部の認識結果に基づいて、第1注意対象を強調表示する第1注意表示に関する第1表示情報、及び、第1注意対象と複数の注意対象のうち第1注意対象以外の第2注意対象とを囲む線である第2注意表示に関する第2表示情報を生成する表示情報生成部と、第1表示情報及び第2表示情報に基づいて、表示部に第1注意表示及び第2注意表示を表示させる表示制御部と、を備える。
本発明によれば、自動運転システムによる運転に対して意識を向けるように運転者に対して働きかけることができる情報表示装置を提供することが可能となる。
一実施形態に係る情報表示装置の構成概要を示すブロック図である。 図1の情報表示装置の注意表示の例を示す図である。 図1の情報表示装置による表示制御処理を示すフローチャートである。 図1の情報表示装置の注意表示の他の例を示す図である。 図1の情報表示装置の注意表示の他の例を示す図である。 情報表示装置の基本原理を示す概念図である。 心理実験に用いられた画面の表示例である。 心理実験に用いられた画面の表示例である。 図7及び図8の心理実験の結果を示す図である。
以下、図面を参照して、本発明の実施形態について説明する。なお、以下の説明において、同一又は相当要素には同一符号を付し、重複する説明を省略する。
図1は、本実施形態に係る情報表示装置1の構成概要図である。図1において、本実施形態に係る情報表示装置1は、自動運転システム3を有する車両2に搭載される。情報表示装置1は、自動運転システム3による車両2の自動運転中において、注意表示をフロントガラスWに投影して表示する。自動運転中とは、自動運転システム3により車両2が自動で走行する運転状態であることを意味する。自動運転には、速度制御と操舵制御とが含まれる。自動運転システム3は、外部センサ(例えば後述するミリ波レーダー10、フロントカメラ11等)を介して車両2の周囲を認識し、アクチュエータ4を動作させて、車両2の自動運転を行う。
情報表示装置1により表示される注意表示は、自動運転システム3による運転に対して意識を向けるように運転者(乗員)に対して働きかけるための表示である。具体的な一例として、注意表示は、視覚を通じて認識可能な文字・記号・図形等のオブジェクトであり、注意対象に関する表示を含む。注意対象は、自動運転中に外部センサ(例えば後述するミリ波レーダー10、フロントカメラ11等)を介して自動運転システム3に認識され、且つ、監視されている物体を意味する。具体的な一例として、注意対象は、自動運転システム3の追従対象の先行車両、又は回避対象の障害物等である。
情報表示装置1は、ミリ波レーダー10と、フロントカメラ11と、車速センサ12と、ECU[Electronic Control Unit]20と、HUD[Head Up Display]30と、を備えている。
ミリ波レーダー10は、車両2の周辺情報である外部状況を検出する検出機器である。ミリ波レーダー10は、電波(ミリ波)を利用して車両2の外部の注意対象を検出する。ミリ波レーダー10としては、周知の構成を採用することができる。ミリ波レーダー10は、検出した注意対象の検出情報をECU20へ送信する。
フロントカメラ11は、車両2の外部状況を撮像する撮像機器である。フロントカメラ11は、車両2の外部の注意対象を検出する。フロントカメラ11は、車両2のフロントガラスWの裏側に設けられている。フロントカメラ11は、単眼カメラであってもよく、ステレオカメラであってもよい。フロントカメラ11は、検出した注意対象の撮像情報をECU20へ送信する。
車速センサ12は、車両2の走行状態として車両2の速度(車速)を検出する検出器である。車速センサ12としては、周知の構成を採用することができる。車速センサ12は、検出した車速をECU20に出力する。情報表示装置1は、必ずしも車速センサ12を備える必要はない。
ECU20は、車両2の乗員に対する情報の表示に関する制御を行う電子制御ユニットであり、CPU[Central Processing Unit]、ROM[Read Only Memory]、RAM[Random Access Memory]を含むコンピュータを主体として構成されている。ECU20には、ミリ波レーダー[Radar]10、フロントカメラ11、車速センサ12、及びHUD30がそれぞれ接続されている。
HUD30は、注意表示を表示する表示部である。HUD30は、運転者に向かって反射するようにフロントガラスWへ光を照射することで、運転者の視界内に各種情報に関する注意表示(画像を含む)を投影するための機器である。HUD30は、例えば、車両2のダッシュボード内に設けられている。HUD30は、ECU20からの制御信号に応じて注意表示をフロントガラスWに投影する。HUD30は、ECU20からの制御信号に応じて、後述する第1注意表示C1及び第2注意表示C2をフロントガラスWに投影する。
次に、ECU20の機能的構成について説明する。なお、ECU20の機能の一部は、車両2と通信可能な情報管理センター等の施設のコンピュータで実行されてもよく、車両2と通信可能な携帯情報端末で実行されてもよい。ECU20は、注意対象認識部21、走行状態認識部22、注意深度算出部23、表示情報生成部24、及び表示制御部25を備えている。
注意対象認識部21は、車両2の周囲に存在する複数の注意対象を認識する。注意対象認識部21は、ミリ波レーダー10及びフロントカメラ11の検出結果(例えば、ミリ波レーダー10による注意対象の検出情報及びフロントカメラ11による注意対象の撮像情報)に基づいて、車両2に対する注意対象の位置、車両2と注意対象との相対距離及び相対速度を認識する。また、注意対象認識部21は、周知の方法により、車両2の外部の注意対象の位置に対応する車両2のフロントガラスW上における位置を推定する。走行状態認識部22は、車速センサ12の検出結果に基づいて、車両2の走行状態として車速を認識する。
注意深度算出部23は、注意対象認識部21の認識結果及び走行状態認識部22の認識結果(車両2と注意対象との相対速度及び相対距離)に基づいて、注意対象認識部21により認識された注意対象のTTC[Time To Collision]を算出する。TTCは、車両2が注意対象と接触するまでの予測時間である。注意深度算出部23は、算出したTTCに基づいて、注意対象認識部21により認識された注意対象に対する注意深度を算出する。注意深度は、注意対象認識部21により認識された注意対象に対する自動運転制御上の注意の大きさを意味する。具体的には、注意深度算出部23は、TTCの逆数を計算することで注意深度を算出する。
表示情報生成部24は、自動運転システム3による運転に対して意識を向上させるように運転者に対して働きかけるために、HUD30に注意表示を表示させる表示情報を生成する。具体的には、図2に示されるように、表示情報生成部24は、注意深度算出部23により算出された注意深度に基づいて、複数の注意対象V1〜V3のうち注意深度が最大である注意対象を第1注意対象V1として決定する。そして、表示情報生成部24は、注意対象認識部21の認識結果及び走行状態認識部22の認識結果に基づいて、フロントガラスW上における第1注意表示C1に関する第1表示情報、及びフロントガラスW上における第2注意表示C2に関する第2表示情報を生成する。注意対象V1〜V3は、特に限定されないが、例えば車両2の前方に存在する交差点付近を走行する他車両である。
第1注意表示C1は、フロントガラスW上において第1注意対象V1を強調表示させる注意表示である。第1注意表示C1は、注意対象認識部21により推定された車両2のフロントガラスW上における第1注意対象V1の位置(注意位置)に配置された図形である。第1注意表示C1は、例えば、第1注意対象を囲む長円等の図形である。第1注意表示C1は、例えば長円等の図形の線の太さが注意深度に応じて設定されることで強調される。第1注意表示C1は、例えば長円等の図形の塗りつぶしの色の濃さが注意深度に応じて設定されることで強調されてもよい。第1表示情報は、第1注意対象V1のフロントガラスW上における位置、色及び外観形状に関する情報を含む。
第2注意表示C2は、フロントガラスW上において第1注意対象V1と複数の注意対象V1〜V3のうち第1注意対象V1以外の第2注意対象V2,V3とを囲む線である。第2注意表示C2は、例えば、注意対象認識部21により推定された車両2のフロントガラスW上における注意対象V1〜V3のそれぞれの位置の外側を通るような曲線(注意対象V1〜V3の包絡線)である。第2注意表示C2では、注意対象V1〜V3の位置が互いに離間するほど、包絡線の面積が大きくなる。第2表示情報は、表示させる線の位置、色及び外観形状に関する情報を含む。
表示制御部25は、表示情報生成部24により生成された第1注意表示C1に関する第1表示情報及び第2注意表示C2に関する第2表示情報に基づいて、HUD30に対して制御信号を送信することで、HUD30に第1注意表示C1及び第2注意表示C2を表示させる。
次に、本実施形態に係る情報表示装置1の動作について説明する。図3は、本実施形態に係る情報表示装置1による表示制御処理を示すフローチャートである。表示制御処理は、例えば自動運転の開始操作等により開始され、自動運転中においてECU20により実行される。
図3に示されるように、まず、注意対象の認識が行われる(ステップS1)。この処理では、注意対象認識部21により、ミリ波レーダー10及びフロントカメラ11の検出情報及び車速センサ12の検出情報が読み込まれ、その検出情報に基づいて、車両2に対する注意対象の位置、車両2と注意対象との相対距離及び相対速度を認識する。続いて、認識した注意対象のTTCの算出が行われる(ステップS2)。この処理では、注意深度算出部23により、上記ステップS1で算出した相対距離及び相対速度に基づいて認識された注意対象のTTCが算出される。また、注意深度算出部23により、算出されたTTCに基づいて、認識した注意対象に対する注意深度の算出が行われる(ステップS3)。
続いて、表示情報生成部24により、算出された注意深度に基づいて、複数の注意対象V1〜V3のうち注意深度が最大である注意対象が第1注意対象V1として決定される(ステップS4)。続いて、表示情報生成部24により、第1注意対象V1について注意位置及び注意深度を含む第1注意表示C1に関する第1表示情報の生成が行われる(ステップS5)。また、第1注意対象V1以外の第2注意対象V2,V3について注意広がりを含む第2注意表示C2に関する第2表示情報の生成が行われる(ステップS6)。最後に、表示制御部25により、上記ステップS5及びS6で生成した第1表示情報及び第2表示情報に基づいてHUD30に第1注意表示C1及び第2注意表示C2の表示が行われる(ステップS7)。
以上説明したように、本実施形態に係る情報表示装置1によれば、注意深度算出部23により、注意対象V1〜V3に対する注意深度がTTCの逆数に基づいて算出されるため、TTCが小さいほど注意深度が大きく算出され、TTCが小さい注意対象V1における注意深度を高めることができる。一般的に、TTCが小さくなるほど接触リスクが大きくなる。注意深度としてTTCの逆数が採用されることにより、TTCが小さくなるほどTTCの変化に応じた注意深度の変化が大きくなる。つまり、注意深度としてTTCの逆数が採用されることにより、接触リスクが大きくなる範囲で、自動運転システム3が監視を強化していることを表現することができる。表示情報生成部24により、複数の注意対象V1〜V3のうち注意深度が最大である第1注意対象V1が決定されると共に、注意対象認識部21の認識結果及び走行状態認識部22の認識結果に基づいて、第1注意対象V1を強調表示させる第1注意表示C1に関する第1表示情報、及び、第1注意対象V1と複数の注意対象V1〜V3のうち第1注意対象V1以外の第2注意対象V2,V3とを囲む線である第2注意表示C2に関する第2表示情報が生成される。そして、表示制御部25により、フロントガラスW上における第1注意対象V1の位置(注意位置)に配置されて注意深度に応じて強調される第1注意表示C1がHUD30に表示され、注意対象V1〜V3の位置に応じた広がり(線の位置、面積等)を有する包絡線である第2注意表示C2がHUD30に表示される。そのため、運転者に注意位置、注意深度及び注意広がりを認識させて、自動運転システムによる運転に対して意識を向けるように運転者に対して働きかけることが可能となる。
なお、本発明に係る情報表示装置は、上記実施形態に記載されたものに限定されない。例えば、上記実施形態では、第2注意表示C2は、第1注意対象V1と複数の注意対象V1〜V3のうち第1注意対象V1以外の第2注意対象V2,V3とを囲む線に関する注意表示であったが、複数の注意対象V1〜V3のうち第1注意対象V1以外の第2注意対象V2,V3を囲む線に関する注意表示であってもよい。この場合、第2注意表示C2は、第1注意対象V1以外の第2注意対象V2,V3を囲む線であるため、第1注意対象V1が第2注意表示C2の線の外側にあってもよい(図4参照)。また、図5の例では、第2注意表示C2は、第1注意対象V1以外の第2注意対象V2〜V4を囲む線であり、結果として第1注意対象V1が第2注意表示C2の線の内側にあってもよい。
1…情報表示装置、21…注意対象認識部、22…走行状態認識部、23…注意深度算出部、24…表示情報生成部、25…表示制御部、30…HUD(表示部)。

Claims (6)

  1. 車両の自動運転中において注意表示を表示する情報表示装置であって、
    前記車両の周囲に存在する複数の注意対象を認識する注意対象認識部と、
    前記車両の走行状態を認識する走行状態認識部と、
    注意表示を表示する表示部と、
    前記注意対象認識部の認識結果及び前記走行状態認識部の認識結果に基づいて前記車両が前記注意対象と接触するまでの予測時間を算出すると共に、前記予測時間に基づいて前記注意対象に対する注意深度を算出する注意深度算出部と、
    前記複数の注意対象のうち前記注意深度が最大である第1注意対象を決定すると共に、前記注意対象認識部の認識結果及び前記走行状態認識部の認識結果に基づいて、前記第1注意対象を強調表示する第1注意表示に関する第1表示情報、及び、前記第1注意対象と前記複数の注意対象のうち前記第1注意対象以外の第2注意対象とを囲む線である第2注意表示に関する第2表示情報を生成する表示情報生成部と、
    前記第1表示情報及び前記第2表示情報に基づいて、前記表示部に前記第1注意表示及び前記第2注意表示を表示させる表示制御部と、
    を備える情報表示装置。
  2. 前記第2注意表示は、前記注意対象認識部により推定された前記車両のフロントガラス上における前記複数の注意対象のそれぞれの位置の外側を通る包絡線である、請求項1に記載の情報表示装置。
  3. 車両の自動運転中において注意表示を表示する情報表示装置であって、
    前記車両の周囲に存在する複数の注意対象を認識する注意対象認識部と、
    前記車両の走行状態を認識する走行状態認識部と、
    注意表示を表示する表示部と、
    前記注意対象認識部の認識結果及び前記走行状態認識部の認識結果に基づいて前記車両が前記注意対象と接触するまでの予測時間を算出すると共に、前記予測時間に基づいて前記注意対象に対する注意深度を算出する注意深度算出部と、
    前記複数の注意対象のうち前記注意深度が最大である第1注意対象を決定すると共に、前記注意対象認識部の認識結果及び前記走行状態認識部の認識結果に基づいて、前記第1注意対象を強調表示する第1注意表示に関する第1表示情報、及び、前記複数の注意対象のうち前記第1注意対象以外の前記注意対象である2つ以上の第2注意対象を囲む線である第3注意表示に関する第3表示情報を生成する表示情報生成部と、
    前記第1表示情報及び前記第3表示情報に基づいて、前記表示部に前記第1注意表示及び前記第3注意表示を表示させる表示制御部と、
    を備える情報表示装置。
  4. 前記注意深度算出部は、前記予測時間の逆数を計算することで前記注意深度を算出する、請求項1〜3の何れか一項に記載の情報表示装置。
  5. 前記第1注意表示は、前記第1注意対象を囲む図形である、請求項1〜4の何れか一項に記載の情報表示装置。
  6. 前記第1注意表示は、前記第1注意対象の前記注意深度の大きさに応じて前記図形の線の太さ又は前記図形の塗りつぶしの色の濃さを変更することで、前記第1注意対象を強調表示する、請求項5に記載の情報表示装置。
JP2016093448A 2016-05-06 2016-05-06 情報表示装置 Active JP6516298B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016093448A JP6516298B2 (ja) 2016-05-06 2016-05-06 情報表示装置
DE102017109073.8A DE102017109073B4 (de) 2016-05-06 2017-04-27 Informationsanzeigevorrichtung
CN201710289451.5A CN107399327B (zh) 2016-05-06 2017-04-27 信息显示装置
US15/587,657 US10102438B2 (en) 2016-05-06 2017-05-05 Information display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016093448A JP6516298B2 (ja) 2016-05-06 2016-05-06 情報表示装置

Publications (2)

Publication Number Publication Date
JP2017200808A JP2017200808A (ja) 2017-11-09
JP6516298B2 true JP6516298B2 (ja) 2019-05-22

Family

ID=60119252

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016093448A Active JP6516298B2 (ja) 2016-05-06 2016-05-06 情報表示装置

Country Status (4)

Country Link
US (1) US10102438B2 (ja)
JP (1) JP6516298B2 (ja)
CN (1) CN107399327B (ja)
DE (1) DE102017109073B4 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6661883B2 (ja) * 2015-02-09 2020-03-11 株式会社デンソー 車両用表示制御装置及び車両用表示制御方法
JP2019089394A (ja) * 2017-11-13 2019-06-13 矢崎総業株式会社 自動運転時情報伝達方法および車両用情報提示装置
JP7217874B2 (ja) * 2018-09-12 2023-02-06 国立大学法人 奈良先端科学技術大学院大学 評価装置、制御装置、操作主体感向上システム、評価方法、及びコンピュータプログラム
JP6702390B2 (ja) 2018-10-09 2020-06-03 トヨタ自動車株式会社 車両用駆動装置の制御装置、車載電子制御ユニット、学習済みモデル、機械学習システム、車両用駆動装置の制御方法、電子制御ユニットの製造方法及び出力パラメータ算出装置
JP7151393B2 (ja) * 2018-11-08 2022-10-12 トヨタ自動車株式会社 車両情報提供装置、車両情報提供方法及びプログラム
JP2020112698A (ja) 2019-01-11 2020-07-27 株式会社リコー 表示制御装置、表示装置、表示システム、移動体、プログラム、画像生成方法
JP7177413B2 (ja) * 2019-03-25 2022-11-24 三菱自動車工業株式会社 表示装置
JP7151633B2 (ja) * 2019-06-12 2022-10-12 トヨタ自動車株式会社 情報表示装置
CN110816543B (zh) * 2019-10-28 2021-04-06 东南大学 一种车辆转弯和变道场景下驾驶员分神驾驶检测和预警***及方法
JP2022094063A (ja) * 2020-12-14 2022-06-24 パナソニックIpマネジメント株式会社 安全確認支援システム及び安全確認支援方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3515926B2 (ja) * 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
JP4593798B2 (ja) * 2001-01-10 2010-12-08 本田技研工業株式会社 自動二輪車の車両用メータ装置
JP5054294B2 (ja) * 2005-08-05 2012-10-24 株式会社小松製作所 作業用車両に搭載される表示装置、及び同表示装置の表示方法
JP5023872B2 (ja) * 2007-08-06 2012-09-12 株式会社デンソー 画像表示制御装置及び画像表示制御システム
US8451108B2 (en) * 2007-10-12 2013-05-28 Mitsubishi Electric Corporation On-vehicle information providing device
JP4480755B2 (ja) 2007-12-04 2010-06-16 カルソニックカンセイ株式会社 車両用ヘッドアップディスプレイ装置
US8704653B2 (en) * 2009-04-02 2014-04-22 GM Global Technology Operations LLC Enhanced road vision on full windshield head-up display
EP2544162B1 (en) * 2010-03-01 2015-04-29 Honda Motor Co., Ltd. Surrounding area monitoring device for vehicle
JP5510202B2 (ja) 2010-09-01 2014-06-04 トヨタ自動車株式会社 車両用視覚能力訓練装置
JP5459154B2 (ja) * 2010-09-15 2014-04-02 トヨタ自動車株式会社 車両用周囲画像表示装置及び方法
WO2013118191A1 (ja) * 2012-02-10 2013-08-15 三菱電機株式会社 運転支援装置及び運転支援方法
JP2013242763A (ja) 2012-05-22 2013-12-05 Clarion Co Ltd 対話装置、対話システム、および対話制御方法
US20150042799A1 (en) * 2013-08-07 2015-02-12 GM Global Technology Operations LLC Object highlighting and sensing in vehicle image display systems
JP2015049842A (ja) * 2013-09-04 2015-03-16 トヨタ自動車株式会社 注意喚起表示装置及び注意喚起表示方法
JP6476546B2 (ja) 2014-01-22 2019-03-06 株式会社豊田中央研究所 覚醒維持装置及びプログラム
JP6252316B2 (ja) 2014-03-31 2017-12-27 株式会社デンソー 車両用表示制御装置
US20150339589A1 (en) * 2014-05-21 2015-11-26 Brain Corporation Apparatus and methods for training robots utilizing gaze-based saliency maps
JP6149824B2 (ja) * 2014-08-22 2017-06-21 トヨタ自動車株式会社 車載装置、車載装置の制御方法及び車載装置の制御プログラム
JP6382695B2 (ja) 2014-11-17 2018-08-29 株式会社ニューギン 遊技機

Also Published As

Publication number Publication date
CN107399327A (zh) 2017-11-28
CN107399327B (zh) 2020-08-07
US10102438B2 (en) 2018-10-16
DE102017109073A1 (de) 2017-11-09
US20170323164A1 (en) 2017-11-09
DE102017109073B4 (de) 2021-01-28
JP2017200808A (ja) 2017-11-09

Similar Documents

Publication Publication Date Title
JP6516298B2 (ja) 情報表示装置
JP4517393B2 (ja) 運転支援装置
JP5483535B2 (ja) 車両周辺認知支援装置
US10777082B2 (en) Driving assistance apparatus for vehicle
WO2016067544A1 (ja) 車載注意喚起システム及び報知制御装置
US11321911B2 (en) Method for representing the surroundings of a vehicle
JP4885793B2 (ja) 障害物監視装置
JP2017151637A (ja) 表示装置
JP2014019301A (ja) 緊急退避装置
EP2792529A1 (en) Vehicular information transmission device
JP3941770B2 (ja) 衝突可能性判定装置
US11167752B2 (en) Driving assistant apparatus, driving assistant method, moving object, and program
JP2007183831A (ja) 車両用制御装置
JP2013191050A (ja) 車両周辺監視装置
JP2005067514A (ja) 車両用表示装置
JP2009151566A (ja) 車両用表示装置
JP2008302741A (ja) 運転支援装置
JP2007286898A (ja) 運転支援装置及びプログラム
JP2009051346A (ja) 周辺監視用表示制御装置及び画像表示制御システム
JP2008186281A (ja) 車両用警報表示装置
JP4857891B2 (ja) 運転支援装置及びプログラム
JP5109851B2 (ja) 車両用警報表示制御装置
JP2013235378A (ja) 車両用情報提供装置
JP2005231381A (ja) 車両用情報提示装置および方法
JP5416193B2 (ja) 障害物監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20171114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180828

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190411

R151 Written notification of patent or utility model registration

Ref document number: 6516298

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250