CN111038447B - 用于控制车辆的装置和方法 - Google Patents

用于控制车辆的装置和方法 Download PDF

Info

Publication number
CN111038447B
CN111038447B CN201811415308.7A CN201811415308A CN111038447B CN 111038447 B CN111038447 B CN 111038447B CN 201811415308 A CN201811415308 A CN 201811415308A CN 111038447 B CN111038447 B CN 111038447B
Authority
CN
China
Prior art keywords
vehicle
driver
face
feature vector
controlling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811415308.7A
Other languages
English (en)
Other versions
CN111038447A (zh
Inventor
李彗真
金炫尚
申熙元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hyundai Motor Co
Kia Corp
Original Assignee
Hyundai Motor Co
Kia Motors Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hyundai Motor Co, Kia Motors Corp filed Critical Hyundai Motor Co
Publication of CN111038447A publication Critical patent/CN111038447A/zh
Application granted granted Critical
Publication of CN111038447B publication Critical patent/CN111038447B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/20Means to switch the anti-theft system on or off
    • B60R25/25Means to switch the anti-theft system on or off using biometry
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/01Fittings or systems for preventing or indicating unauthorised use or theft of vehicles operating on vehicle systems or fittings, e.g. on doors, seats or windscreens
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/20Means to switch the anti-theft system on or off
    • B60R25/24Means to switch the anti-theft system on or off using electronic identifiers containing a code not memorised by the user
    • B60R25/241Means to switch the anti-theft system on or off using electronic identifiers containing a code not memorised by the user whereby access privileges are related to the identifiers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R25/00Fittings or systems for preventing or indicating unauthorised use or theft of vehicles
    • B60R25/30Detection related to theft or to other events relevant to anti-theft systems
    • B60R25/305Detection related to theft or to other events relevant to anti-theft systems using a camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/56Information retrieval; Database structures therefor; File system structures therefor of still image data having vectorial format
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5854Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/011Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Library & Information Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • User Interface Of Digital Computer (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

本发明涉及用于控制车辆的装置和方法。其中,用于控制车辆的装置包括:传感器,其检测车辆周围物体的靠近和移动;摄像机,其获得车辆周围物体的移动图像和面部图像;以及控制器,其基于获得的车辆周围物体的移动图像和面部图像产生图形用户界面(GUI)。

Description

用于控制车辆的装置和方法
相关申请的交叉引用
本申请要求2018年10月11日在韩国知识产权局申请的韩国专利申请号10-2018-0121244的优先权,其全部内容以引用的方式并入本文。
技术领域
本申请涉及用于控制车辆的装置和方法。
背景技术
考虑到用户便捷性以及车辆驾驶性能的改进,已经开发了用于强化车辆和用户之间的交流的技术。例如,已经开发了将迎宾***并入车辆外灯的技术。
迎宾***是当用户靠近车辆时表现为车辆欢迎用户的***。与迎宾***相关的运行***的示例包括灯(例如下车灯、定位灯、尾灯、袖珍灯等)的点亮、后视镜的移动、迎宾声音操作等。
迎宾***是能够满足用户情感需求并且提供车辆对用户的易识别性的新型***。
然而,由于统一的显示和统一的操作模式,迎宾***无法反映用户的状态。
同时,为了用户便捷性,已经引入了智能钥匙***。携带智能钥匙的用户能够控制车辆门锁并且能够开启车辆。此外,执行功能使得车辆中的元件不受用户直接操作和控制,而是受传感器自动控制。
近年来,已经开发了通过识别用户面部来控制车辆门锁的技术。用户可以靠近车辆从而允许识别其面部。然而,当无法精确识别面部时,原因无法反馈并且频繁要求重新识别,使得用户不便。
发明内容
本申请的实施方案可以解决现有技术中出现的上述问题,同时完整地保持了由现有技术实现的优点。
本申请的一个方面提供一种车辆控制装置和方法,所述车辆控制装置和方法用于输出图形用户界面以提供未检测到面部的反馈或者根据用户的情绪状态输出图形用户界面。
本发明的构思要解决的技术问题不限于上述技术问题,本申请所属领域的技术人员通过如下说明可以清楚理解本文未提到的其它技术问题。
根据本申请的一个方面,用于控制车辆的装置包括:传感器,其检测车辆周围物体的靠近;摄像机,其获得车辆周围物体的移动图像和面部图像;以及控制器,其基于获得的车辆周围物体的移动图像和面部图像产生图形用户界面(GUI)。
所述控制器可以基于车辆周围物体的移动图像提取第一特征矢量。
第一特征矢量可以包括车辆周围物体的具体姿势和体型中的至少一者。
所述控制器可以从面部图像提取第二特征矢量,并且基于第二特征矢量确定所述物体是否是驾驶员。
所述第二特征矢量可以包括面部表情和面色中的至少一者。
所述控制器可以基于第二特征矢量和匹配第二特征矢量的第一特征矢量产生多模式数据。
所述控制器可以基于多模式数据确定驾驶员的情绪状态。
所述控制器可以根据所述情绪状态以不同方式产生图形用户界面(GUI)。
当确定车辆周围物体为驾驶员时,所述控制器可以控制车门的锁定/解锁。
所述控制器可以基于移动图像确定是否检测到车辆周围物体的面部,并且当确定未检测到面部时,所述控制器可以产生图形用户界面从而提供为什么未检测到面部的原因的反馈。
所述装置可以进一步包括窗户显示器,在所述窗户显示器上输出图形用户界面(GUI)。
根据本申请的另一个方面,用于控制车辆的方法包括:获得车辆周围物体的移动图像和面部图像的步骤;基于获得的车辆周围物体的移动图像和面部图像确定驾驶员的情绪状态的步骤;以及输出基于驾驶员的情绪状态产生的图形用户界面的步骤。
所述方法可以进一步包括:在获得车辆周围物体的面部图像的步骤之前基于移动图像确定是否检测到车辆周围物体的面部的步骤,以及当确定未检测到车辆周围物体的面部时输出图形用户界面从而提供为什么未检测到面部的原因的反馈的步骤。
所述方法可以进一步包括:在获得车辆周围物体的移动图像之后从车辆周围物体的移动图像中提取第一特征矢量的步骤。
所述第一特征矢量可以包括车辆周围物体的具体姿势和体型中的至少一者。
所述方法可以进一步包括:在获得车辆周围物体的面部图像的步骤之后,从车辆周围物体的面部图像中提取第二特征矢量,并且基于第二特征矢量确定所述物体是否是驾驶员的步骤。
所述第二特征矢量可以包括面部表情和面色中的至少一者。
基于获得的车辆周围物体的移动图像和面部图像确定驾驶员的情绪状态的步骤可以包括:基于第二特征矢量和匹配第二特征矢量的第一特征矢量产生多模式数据的步骤,以及基于多模式数据确定驾驶员的情绪状态的步骤。
所述方法可以进一步包括当确定车辆周围物体为驾驶员时控制车门的锁定/解锁的步骤。
在输出基于驾驶员的情绪状态产生的图形用户界面的步骤中,可以根据驾驶员的情绪状态以不同方式输出图形用户界面。
附图说明
通过结合附图进行的如下具体描述将更清楚地理解本申请的以上和其它目的、特征以及优点:
图1为显示根据本申请的实施方案的用于控制车辆的装置的方框图;
图2为显示根据本申请的实施方案的用于控制车辆的方法的流程图;
图3为显示根据本申请的另一个实施方案的用于控制车辆的方法的流程图;
图4为显示根据本申请的实施方案的车辆控制装置中包括的摄像机的图;
图5为显示根据本申请的实施方案的摄像机的视角的图;
图6为显示根据本申请的实施方案的显示器类型的图;
图7至图13为显示根据本申请的实施方案所显示的图形用户界面的图;并且
图14为显示执行根据本申请的实施方案的方法的计算***的构造的方框图。
具体实施方式
下文将参考附图对本申请的示例性实施方案进行详细描述。应理解即使在不同附图中显示,附图中相同的元件具有相同的附图标记。此外,在描述本申请的实施方案时,当不必要地模糊本申请的主题时,将省略与公知的功能或构造相关的详细描述。
本文可以使用例如“第一”、“第二”、“A”、“B”、“(a)”、“(b)”等术语来描述本申请的元件。这些术语仅用于区分各个元件,但是这些术语不限制这些元件的本质、序列、顺序或数目。除非另有声明,本文使用的所有术语(包括技术术语和科技术语)的含义与本申请所述领域的技术人员一般理解的含义相同。这些术语如同常用词典中定义的术语一样应被解释为具有与相关技术领域中的语境含义等同的含义,而不应被解释为具有理想含义或过于书面的含义,除非本申请中明确限定具有这样的含义。
图1为显示根据本申请的实施方案的用于控制车辆的装置的方框图。
如图1所示,根据本申请的实施方案的车辆控制装置可以包括传感器10、摄像机20、窗户显示器30和控制器40。
传感器10可以检测车辆周围物体的移动和靠近。为此目的,传感器10可以用近距离传感器来实施并且可以设置在车辆的侧面。在此,车辆周围物体的移动是指在车辆周围移动的所有物体的移动,所述物体可以包括用户。
近距离传感器可以在没有物理接触的情况下检测是否有任何物体靠近预设控制区域。近距离传感器可以包括红外传感器、电容传感器、射频传感器等。
根据一个实施方案,传感器10可以检测离车辆预定距离内的周围物体的移动和靠近。在此,预定距离可以限定为30cm。
摄像机20可以获得车辆周围物体的移动图像和面部图像。为此目的,根据一个实施方案,摄像机20可以设置在车辆立柱(即中柱或B柱)中。
在摄像机20设置在侧立柱中的情况下,摄像机20具有42°至70°的竖直视角和45°至55°的水平视角。
窗户显示器30可以包括车门玻璃,图像以投影方式投影在车门玻璃上。
根据一个实施方案,窗户显示器30可以以如下方式实施:图像在车辆前座的相对两侧投影在车门玻璃上。
控制器40可以控制本申请的车辆控制装置的整体操作。当确定检测到车辆周围物体的移动时,控制器40可以从由摄像机20获得的物体移动图像中提取第一特征矢量。
在此,第一特征矢量旨在检测车辆周围物体的移动特征。根据一个实施方案,第一特征矢量可以包括车辆周围物体的具体姿势或体型。面部可以包括在体型中。由于检测到的面部的精确度不足以确定物体是否是驾驶员,仅基于作为第一特征矢量提取的面部不容易确定物体是否是驾驶员。
因此,控制器40可以从物体移动图像中提取车辆周围物体的具体姿势或体型,并且可以通过具体姿势或体型检测车辆周围物体的移动特征。
当确定车辆周围物体靠近车辆时,控制器40可以确定是否检测了车辆周围物体的面部。当确定检测到车辆周围物体的面部时,控制器40可以从由摄像机20获得的物体的面部图像中提取第二特征矢量。
在此,第二特征矢量旨在检测面部表情。根据一个实施方案,第二特征矢量可以包括面部特征(眼睛、鼻子和嘴巴)和面色。
因此,控制器40可以从车辆周围物体的面部图像中提取面部特征或面色并且可以通过面部特征或面色检测面部表情特征。
控制器40可以基于提取的第二特征矢量确定车辆周围物体是谁。当确定车辆周围物体是车辆中注册的驾驶员时,控制器40可以进行控制使得车门锁定/解锁。同时,当确定车辆周围物体不是车辆中注册的驾驶员时,控制器40可以进行控制使得车门不锁定/解锁。
当基于提取的第二特征矢量通过对比车辆周围物体和与车辆中注册的驾驶员相关的信息确定车辆周围物体是驾驶员时,控制器40可以通过匹配第一特征矢量和第二特征矢量来产生多模式数据。
更具体地,控制器40可以将提取的驾驶员第二特征矢量(即驾驶员面部特征或面色)与车辆周围物体的体型进行匹配,并且可以基于匹配的第一特征矢量产生多模式数据。由于从车辆周围所有物体以及驾驶员的移动中提取第一特征矢量,并非提取的所有第一特征矢量都用于产生多模式数据,而是只有第一特征矢量中的与从第二特征矢量中提取的驾驶员面部特征或面色匹配的特征可以被选择,并且用于产生多模式数据。
控制器40可以基于产生的多模式数据确定驾驶员的情绪状态。例如,控制器40可以确定驾驶员的当前情绪状态为高兴状态、无聊状态或悲伤状态。
当确定了驾驶员的情绪状态时,控制器40可以根据情绪状态产生图形用户界面并且可以在窗户显示器30上输出图形用户界面。参考图7至图9给出其具体描述。
同时,当确定车辆周围物体靠近车辆但是未检测到面部时,控制器40可以通过窗户显示器30提供未检测到面部的反馈。
例如,当确定车辆周围物体未处于摄像机20的视角内时,控制器40可以产生图形用户界面引导物体处于摄像机20的视角内。控制器40可以根据车辆和车辆周围物体之间的距离调整图形尺寸。例如,当车辆周围物***于离车辆较远的位置时控制器40可以使输出图形的尺寸更大,并且当车辆周围物***于离车辆较近的位置时控制器40可以使输出图形的尺寸更小。
当确定尽管处于摄像机20的视角内但是由于摄像机20上的外来物质而难以检测车辆周围物体时,控制器40可以提供摄像机20上存在外来物质的反馈,因此允许容易地检测面部。
图2为显示根据本申请的实施方案的用于控制车辆的方法的流程图。
如图2所示,在根据本申请的实施方案的车辆控制方法中,控制器40获得车辆周围物体的移动图像并且确定车辆周围物体的靠近(步骤S21)。当通过传感器10确定车辆周围物体靠近时,控制器40基于移动图像确定是否检测到面部(步骤S22)。
当在步骤S22中确定未检测到面部时,控制器40产生图形用户界面从而提供未检测到面部的反馈,并且通过窗户显示器30输出图形用户界面(步骤S23)。
当确定车辆周围物体未处于摄像机20的视角内时,控制器40可以在步骤S23中产生图形用户界面引导物体处于摄像机20的视角内。例如,控制器40可以根据车辆和车辆周围物体之间的距离调整图形尺寸。当车辆周围物***于离车辆较远的位置时控制器40可以使输出图形的尺寸更大,并且当物***于离车辆较近的位置时控制器40可以使输出图形的尺寸更小。
当确定尽管处于摄像机20的视角内但是由于摄像机20上的外来物质而难以检测车辆周围物体时,控制器40可以在步骤S23中提供摄像机20上存在外来物质的反馈,因此允许容易地检测面部。
控制器40从摄像机20获得车辆周围物体的面部图像(步骤S24)。
控制器40基于在步骤S24中获得的物体的面部图像提取第二特征矢量(步骤S25)。在此,第二特征矢量旨在检测面部表情。根据一个实施方案,第二特征矢量可以包括面部特征(眼睛、鼻子和嘴巴)和面色。
控制器40基于在步骤S25中提取的第二特征矢量确定车辆周围物体是否是车辆中注册的驾驶员(步骤S26)。当在步骤S26中确定车辆周围物体是驾驶员时(Y),控制器40进行控制从而锁定或解锁车门(步骤S27)。同时,当在步骤S26中确定车辆周围物体不是车辆中注册的驾驶员时,控制器40终止上述过程。
图3为显示根据本申请的另一个实施方案的用于控制车辆的方法的流程图。
如图3所示,在根据本申请的另一个实施方案的车辆控制方法中,控制器40确定通过传感器10检测的车辆周围物体的移动(步骤S31)。步骤S31中的车辆周围物体的移动是指在车辆周围移动的所有物体的移动,并且所述物体可以包括用户。
当确定存在车辆周围物体的移动时,控制器40从摄像机20获得车辆周围物体的移动图像(步骤S32)。
控制器40基于车辆周围物体的移动图像提取第一特征矢量(步骤S33)。在此,第一特征矢量旨在检测车辆周围物体的移动特征。根据一个实施方案,第一特征矢量可以包括车辆周围物体的具体姿势或体型。面部可以包括在体型中。由于检测到的面部的精确度不足以确定物体是否是驾驶员,仅基于作为第一特征矢量提取的体型不容易确定物体是否是驾驶员。
控制器40确定通过传感器10检测的物体靠近车辆(步骤S34)。当确定车辆周围物体靠近车辆时,控制器40基于移动图像确定是否检测到面部(步骤S35)。
当在步骤S35中确定未检测到面部时(N),控制器40产生图形用户界面从而提供未检测到面部的反馈,并且通过窗户显示器30输出图形用户界面(步骤S36)。
当确定车辆周围物体未处于摄像机20的视角内时,控制器40可以在步骤S36中产生图形用户界面引导物体处于摄像机20的视角内。例如,控制器40可以根据离车辆周围物体的距离调整图形尺寸。当车辆周围物***于离车辆较远的位置时控制器40可以使输出图形的尺寸更大,并且当车辆周围物***于离车辆较近的位置时控制器40可以使输出图形的尺寸更小。
当确定尽管处于摄像机20的视角内但是由于摄像机20上的外来物质而难以检测车辆周围物体时,控制器40可以在步骤S36中提供摄像机20上存在外来物质的反馈,因此允许容易地检测面部。
同时,当在步骤中S35确定检测到面部时(Y),控制器40从摄像机20获得车辆周围物体的面部图像(步骤S37)。
控制器40基于获得的面部图像提取第二特征矢量(步骤S38)。在此,第二特征矢量旨在检测面部表情。根据一个实施方案,第二特征矢量可以包括面部特征(眼睛、鼻子和嘴巴)和面色。
控制器40基于在步骤S38中提取的第二特征矢量确定车辆周围物体是否是车辆中注册的驾驶员(步骤S39)。
当确定车辆周围物体是驾驶员时,控制器40通过匹配第一特征矢量和第二特征矢量产生多模式数据(步骤S40)。
在步骤S40中,控制器40可以将提取的驾驶员第二特征矢量(即驾驶员面部特征或面色)与车辆周围物体的体型进行匹配,并且可以基于匹配的第一特征矢量产生多模式数据。由于从车辆周围所有物体以及驾驶员的移动中提取第一特征矢量,并非提取的所有第一特征矢量都用于产生多模式数据,而是只有第一特征矢量中的与从第二特征矢量中提取的驾驶员面部特征或面色匹配的特征被选择并且用于产生多模式数据。
控制器40基于产生的多模式数据确定驾驶员的情绪状态(步骤S41)。在步骤S41中,控制器40可以基于多模式数据确定驾驶员的当前情绪状态为高兴状态、无聊状态或悲伤状态。
当确定了驾驶员的情绪状态时,控制器40根据情绪状态产生图形用户界面并且在窗户显示器30上输出图形用户界面(步骤S42)。
图4为显示根据本申请的实施方案的车辆控制装置中包括的摄像机的图。
如图4所示,根据本申请的实施方案的摄像机20可以在车辆的侧面***中柱(或B柱)41,因此可以容易地获得车辆周围物体的移动图像以及靠近车辆物体的面部图像。
图5为显示根据本申请的实施方案的摄像机的视角的图。
如图5所示,根据本申请的所述实施方案的摄像机20的视角为42°至70°。因此,摄像机20可以容易地获取离车辆30cm的物体的面部图像和移动图像。
图6为显示根据本申请的实施方案的显示器类型的图。
如图6所示,本申请的窗户显示器30可以包括窗户显示器61,图像从投影仪62投影到所述窗户显示器61上。在此,投影器62旨在朝着车辆相对两侧的窗户显示器61投影图像。根据一个实施方案,投影仪62可以设置在车辆内的遮阳板63中。
图7至图13为显示根据本申请的实施方案输出的图形用户界面的图。
图7至图9为显示根据由控制器40确定的驾驶员的情绪状态以不同方式产生的图形用户界面的图。
如图7所示,根据本申请的一个实施方案,当确定驾驶员的情绪状态为高兴状态时,控制器40可以在窗户显示器71上输出具有高兴表情的表情符号72。
如图8所示,根据本申请的一个实施方案,当确定驾驶员的情绪状态为悲伤状态时,控制器40可以在窗户显示器81上输出具有悲伤表情的表情符号82。
如图9所示,根据本申请的一个实施方案,当确定驾驶员的情绪状态为无聊状态时,控制器40可以在窗户显示器91上输出具有无聊表情的表情符号92。
此外,如图10至图13所示,当确定车辆周围物体靠近车辆但是未检测到面部时,控制器40可以通过窗户显示器30提供未检测到面部的反馈。
如图10和图11所示,根据本申请的实施方案,当控制器40确定车辆周围物体靠近车辆但是由于物体未处于摄像机20的视角内而未检测到面部时,控制器40可以在显示器101和111上输出图像引导面部移动至***中柱的摄像机20的位置。如图10和图11所示,引导面部移动的图像可以包括箭头102和112。然而不限于此,所述图像可以以各种形式实施。此外,所述图像可以根据距离以不同尺寸输出。此外,所述图像可以包括引导面部移动并且代表车辆和车辆周围物体之间的距离的数字。
例如,当确定车辆周围物体远离车辆时,控制器40可以如图10所示增大箭头102的尺寸,当确定车辆周围物体接近车辆时,控制器40可以如图11所示减小箭头112的尺寸。
如图12和图13所示,根据本申请的实施方案,当确定尽管处于摄像机20的视角内但是由于摄像机20上的外来物质而难以检测车辆周围物体时,控制器40可以提供摄像机20上存在外来物质的反馈,从而允许容易地检测面部。例如,控制器40可以进行控制从而如图12所示在窗户显示器121上产生和输出文字信息“错误”122,或者如图13所示在窗户显示器131上产生和输出文字信息“擦拭镜头”132。然而,用于反馈的输出事项不限于文字信息并且可以包括反映反馈内容的图像。例如,控制器40可以在窗户显示器131上靠近B柱输出图像从而提供由于外来物质而未检测到面部的反馈,或者可以输出红圈图像从而提供摄像机20上存在外来物质的反馈。
图14为显示执行根据本申请的实施方案的方法的计算***1000的构造的方框图。
参考图14,计算***1000可以包括通过总线1200连接在一起的至少一个处理器1100、存储器1300、用户界面输入设备1400、用户界面输出设备1500、储存装置1600和网络界面1700。
处理器1100可以是用于处理储存在存储器1300和/或储存装置1600中的指令的中央处理单元(CPU)或半导体装置。存储器1300和储存装置1600可以包括各种类型的易失性或非易失性存储介质。例如,存储器1300可以包括只读存储器(ROM)1310和随机存取存储器(RAM)1320。
因此,可以用由处理器1100执行的硬件模块或软件模块或其组合直接实施与本文描述的实施方案相关的上述方法步骤或算法。软件模块可以存在于储存介质(即存储器1300和/或储存装置1600)中,所述储存介质例如为RAM存储器、快闪存储器、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可拆卸磁盘或CD-ROM。示例性储存介质可以联接至处理器1100,并且处理器1100可以从储存介质中读取信息并且可以将信息记录在储存介质中。替代性地,储存介质可以与处理器1100整合在一起。处理器1100和储存介质可以存在于专用集成电路(ASIC)中。ASIC可以存在于用户端。在其它情况下,处理器1100和储存介质可以以分开的元件的形式存在于用户终端中。
根据本申请的实施方案,车辆控制装置和方法可以输出图形用户界面从而提供未检测到面部的反馈,或者可以输出根据情绪状态以不同方式产生的图形用户界面,因此向用户提供美学价值并且改进车辆的适销性。
上文尽管参考示例性实施方案和附图描述本申请,但是本申请并不限于此,而是可以由本申请所属领域的技术人员进行各种修改和改变而不偏离本申请的精神和范围。
因此,本申请的示例性实施方案用于解释本申请的精神和范围,但是不是限制性的,因此本申请的精神和范围不受所述实施方案的限制。本申请的范围应基于附图进行解释,并且所述范围内的与权利要求等效的所有技术理念应包括在本申请的范围内。

Claims (18)

1.一种用于控制车辆的装置,所述装置包括:
传感器,其配置为检测车辆周围物体的靠近;
摄像机,其配置为获得车辆周围物体的移动图像和面部图像;以及
控制器,其配置为基于获得的车辆周围物体的移动图像和面部图像确定驾驶员的情绪状态,并根据驾驶员的情绪状态产生与驾驶员的情绪状态一致的图形用户界面,从而反映驾驶员的情绪状态,
其中,所述控制器配置为基于移动图像确定是否检测到车辆周围物体的面部,并且当确定出未检测到面部时产生图形用户界面从而提供为什么未检测到面部的原因的反馈,
所述控制器进一步配置为当确定出尽管物体处于摄像机的视角内但是由于摄像机上的外来物质而未检测到面部时,生成图形用户界面以提供摄像机上存在外来物质的反馈。
2.根据权利要求1所述的用于控制车辆的装置,其中,所述控制器配置为基于车辆周围物体的移动图像提取第一特征矢量。
3.根据权利要求2所述的用于控制车辆的装置,其中,所述第一特征矢量包括车辆周围物体的具体姿势或体型。
4.根据权利要求2所述的用于控制车辆的装置,其中,所述控制器配置为从面部图像提取第二特征矢量,并且基于第二特征矢量确定所述物体是否是驾驶员。
5.根据权利要求4所述的用于控制车辆的装置,其中,所述第二特征矢量包括面部表情或面色。
6.根据权利要求4所述的用于控制车辆的装置,其中,所述控制器配置为基于第二特征矢量和匹配第二特征矢量的第一特征矢量产生多模式数据。
7.根据权利要求6所述的用于控制车辆的装置,其中,所述控制器配置为基于多模式数据确定驾驶员的情绪状态。
8.根据权利要求4所述的用于控制车辆的装置,其中,所述控制器配置为当确定车辆周围物体为驾驶员时控制车门的锁定/解锁。
9.根据权利要求1所述的用于控制车辆的装置,进一步包括窗户显示器,在所述窗户显示器上输出图形用户界面。
10.一种用于控制车辆的方法,所述方法包括:
获得车辆周围物体的移动图像和面部图像;
基于获得的车辆周围物体的移动图像和面部图像确定驾驶员的情绪状态;
输出基于驾驶员的情绪状态产生的与驾驶员的情绪状态一致的图形用户界面,从而反映驾驶员的情绪状态,
其中,基于移动图像确定是否检测到车辆周围物体的面部,并且当确定出未检测到面部时输出图形用户界面从而提供为什么未检测到面部的原因的反馈,
当确定出尽管物体处于摄像机的视角内但是由于摄像机上的外来物质而未检测到面部时,输出图形用户界面以提供摄像机上存在外来物质的反馈。
11.根据权利要求10所述的用于控制车辆的方法,进一步包括:在获得车辆周围物体的移动图像之后从车辆周围物体的移动图像中提取第一特征矢量。
12.根据权利要求11所述的用于控制车辆的方法,其中,所述第一特征矢量包括车辆周围物体的具体姿势或体型。
13.根据权利要求11所述的用于控制车辆的方法,进一步包括:在获得车辆周围物体的面部图像之后,从车辆周围物体的面部图像中提取第二特征矢量,并且基于第二特征矢量确定所述物体是否是驾驶员。
14.根据权利要求13所述的用于控制车辆的方法,其中,所述第二特征矢量包括面部表情或面色。
15.根据权利要求13所述的用于控制车辆的方法,其中,基于获得的车辆周围物体的移动图像和面部图像确定驾驶员的情绪状态包括:
基于第二特征矢量和匹配第二特征矢量的第一特征矢量产生多模式数据;
基于多模式数据确定驾驶员的情绪状态。
16.根据权利要求13所述的用于控制车辆的方法,进一步包括:当确定车辆周围物体为驾驶员时控制车门的锁定/解锁。
17.根据权利要求10所述的用于控制车辆的方法,其中,当输出基于驾驶员的情绪状态产生的图形用户界面时,根据驾驶员的情绪状态以不同方式输出图形用户界面。
18.一种用于控制车辆的方法,所述方法包括:
获得车辆周围物体的移动图像;
基于所述移动图像确定是否检测到车辆周围物体的面部;
当检测到物体的面部时:
获得车辆周围物体的面部图像;
基于获得的车辆周围物体的移动图像和面部图像确定驾驶员的情绪状态;
输出基于驾驶员的情绪状态产生的与驾驶员的情绪状态一致的图形用户界面,从而反映驾驶员的情绪状态;
当未检测到物体的面部时,输出图形用户界面从而提供为什么未检测到面部的原因的反馈,
其中,当尽管物体处于摄像机的视角内但是由于摄像机上的外来物质而未检测到面部时,输出图形用户界面以提供摄像机上存在外来物质的反馈。
CN201811415308.7A 2018-10-11 2018-11-26 用于控制车辆的装置和方法 Active CN111038447B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180121244A KR102634349B1 (ko) 2018-10-11 2018-10-11 차량의 제어 장치 및 방법
KR10-2018-0121244 2018-10-11

Publications (2)

Publication Number Publication Date
CN111038447A CN111038447A (zh) 2020-04-21
CN111038447B true CN111038447B (zh) 2023-05-05

Family

ID=70161354

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811415308.7A Active CN111038447B (zh) 2018-10-11 2018-11-26 用于控制车辆的装置和方法

Country Status (3)

Country Link
US (1) US11010594B2 (zh)
KR (1) KR102634349B1 (zh)
CN (1) CN111038447B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102020110777A1 (de) * 2020-04-21 2021-10-21 Bayerische Motoren Werke Aktiengesellschaft Vorrichtung und Verfahren zur Außenkommunikation eines Fahrzeugs
US11981288B2 (en) * 2021-08-24 2024-05-14 Ford Global Technologies, Llc Activating vehicle components based on intent of individual near vehicle

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105556246A (zh) * 2013-09-17 2016-05-04 丰田汽车销售美国股份有限公司 具有用户识别和车辆功能控制的交互式车辆窗户显示***
CN106114519A (zh) * 2016-08-05 2016-11-16 威马中德汽车科技成都有限公司 一种通过操作虚拟按钮对车辆进行控制的装置及方法
CN106293102A (zh) * 2016-10-13 2017-01-04 旗瀚科技有限公司 一种基于用户心情变化情绪的机器人情感交流方法
CN206003194U (zh) * 2016-08-30 2017-03-08 郭宇翔 一种交通工具的身份智能识别控制***

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216955A (ja) * 2002-01-23 2003-07-31 Sharp Corp ジェスチャ認識方法、ジェスチャ認識装置、対話装置及びジェスチャ認識プログラムを記録した記録媒体
JP2003303363A (ja) * 2002-04-11 2003-10-24 Ishikawajima Harima Heavy Ind Co Ltd コンテナターミナルの入出場管理方法及び装置
US7697729B2 (en) * 2004-01-29 2010-04-13 Authentec, Inc. System for and method of finger initiated actions
DE102005018487B4 (de) * 2005-04-21 2008-09-25 Daimler Ag Verfahren zum Betreiben einer Überwachungs- und Alarmvorrichtung bei parkenden Fahrzeugen sowie Überwachungs- und Alarmvorrichtung
EP1790541A2 (en) * 2005-11-23 2007-05-30 MobilEye Technologies, Ltd. Systems and methods for detecting obstructions in a camera field of view
JP5233322B2 (ja) * 2008-02-28 2013-07-10 オムロン株式会社 情報処理装置および方法、並びに、プログラム
KR101073216B1 (ko) 2009-04-17 2011-10-12 엘지전자 주식회사 버너 및 조리기기
KR101051365B1 (ko) * 2009-07-16 2011-07-22 주식회사 유니온커뮤니티 카메라를 구비한 출입관리장치 및 그 출입관리방법
US20110304541A1 (en) * 2010-06-11 2011-12-15 Navneet Dalal Method and system for detecting gestures
KR101284561B1 (ko) * 2011-02-14 2013-07-11 충남대학교산학협력단 멀티 모달리티 감정인식 시스템, 감정인식 방법 및 그 기록매체
KR101901417B1 (ko) * 2011-08-29 2018-09-27 한국전자통신연구원 감성기반 안전운전 자동차 서비스 시스템, 안전운전 서비스를 위한 감성인지 처리 장치 및 안전운전 서비스 장치, 감성기반 차량용 안전운전 서비스 방법
JP5197816B2 (ja) * 2011-08-31 2013-05-15 株式会社東芝 電子機器、電子機器の制御方法
US8441548B1 (en) * 2012-06-15 2013-05-14 Google Inc. Facial image quality assessment
US8542879B1 (en) * 2012-06-26 2013-09-24 Google Inc. Facial recognition
CN104395156B (zh) * 2012-07-03 2017-02-22 歌乐株式会社 车辆周围监视装置
US9275212B2 (en) * 2012-12-26 2016-03-01 Cellco Partnership Secure element biometric authentication system
JP6245875B2 (ja) * 2013-07-26 2017-12-13 クラリオン株式会社 レンズ汚れ検出装置およびレンズ汚れ検出方法
US20150220991A1 (en) 2014-02-05 2015-08-06 Harman International Industries, Incorporated External messaging in the automotive environment
JP6246014B2 (ja) * 2014-02-18 2017-12-13 クラリオン株式会社 外界認識システム、車両、及びカメラの汚れ検出方法
US9734425B2 (en) * 2015-02-11 2017-08-15 Qualcomm Incorporated Environmental scene condition detection
KR102222111B1 (ko) 2014-08-01 2021-03-03 삼성에스디아이 주식회사 이차 전지
KR101586228B1 (ko) * 2014-08-27 2016-01-18 주식회사 켐트로닉스 얼굴인식과 동작인식을 이용한 자동차 제어 장치 및 방법
US11392580B2 (en) * 2015-02-11 2022-07-19 Google Llc Methods, systems, and media for recommending computerized services based on an animate object in the user's environment
KR101732983B1 (ko) * 2015-05-11 2017-05-08 엘지전자 주식회사 차량용 리어 콤비네이션 램프 및 이를 포함하는 차량
DE102015209391A1 (de) * 2015-05-22 2016-11-24 Robert Bosch Gmbh Verfahren und Vorrichtung zum Erzeugen einer Maskierungsvorschrift sowie zum Maskieren einer Bildinformation einer Kamera
GB2545764B (en) * 2016-06-21 2022-04-06 Flashy Ltd A communication system and a method of communication
JP6585995B2 (ja) * 2015-11-06 2019-10-02 クラリオン株式会社 画像処理システム
KR101795416B1 (ko) 2016-10-07 2017-11-09 현대자동차 주식회사 도어 글라스 웰컴 시스템
JP6419134B2 (ja) 2016-11-25 2018-11-07 本田技研工業株式会社 車両感情表示装置、車両感情表示方法および車両感情表示プログラム
DE102017201328A1 (de) * 2017-01-27 2018-08-02 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Bestimmung eines Gesichtsausdrucks
US10845198B2 (en) * 2017-03-14 2020-11-24 Trimble Inc. Integrated vision-based and inertial sensor systems for use in vehicle navigation
US20180275747A1 (en) * 2017-03-25 2018-09-27 Camille Suzanne Campbell Portable emoji display and control
EP3456599A1 (en) * 2017-09-18 2019-03-20 The Hi-Tech Robotic Systemz Ltd Monitoring drivers and external environment for vehicles
US10205428B1 (en) * 2017-10-31 2019-02-12 Toyota Research Institute, Inc. Variable audible-alert device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105556246A (zh) * 2013-09-17 2016-05-04 丰田汽车销售美国股份有限公司 具有用户识别和车辆功能控制的交互式车辆窗户显示***
CN106114519A (zh) * 2016-08-05 2016-11-16 威马中德汽车科技成都有限公司 一种通过操作虚拟按钮对车辆进行控制的装置及方法
CN206003194U (zh) * 2016-08-30 2017-03-08 郭宇翔 一种交通工具的身份智能识别控制***
CN106293102A (zh) * 2016-10-13 2017-01-04 旗瀚科技有限公司 一种基于用户心情变化情绪的机器人情感交流方法

Also Published As

Publication number Publication date
US11010594B2 (en) 2021-05-18
KR20200044211A (ko) 2020-04-29
US20200117885A1 (en) 2020-04-16
CN111038447A (zh) 2020-04-21
KR102634349B1 (ko) 2024-02-07

Similar Documents

Publication Publication Date Title
CN108473109B (zh) 无缝车辆访问***
CN111332252B (zh) 车门解锁方法、装置、***、电子设备和存储介质
US11151234B2 (en) Augmented reality virtual reality touchless palm print identification
EP2842075B1 (en) Three-dimensional face recognition for mobile devices
US9335826B2 (en) Method of fusing multiple information sources in image-based gesture recognition system
US10496220B2 (en) Method and apparatus for controlling vehicular user interface under driving condition
US10757323B2 (en) Electronic device with image capture command source identification and corresponding methods
US9275274B2 (en) System and method for identifying handwriting gestures in an in-vehicle information system
CN111038447B (zh) 用于控制车辆的装置和方法
KR20190127338A (ko) 차량 단말 및 그의 얼굴 인증 방법
CN112298102A (zh) 车辆控制的方法、装置、存储介质及电子设备和车辆
JP2012121386A (ja) 車載装置
CN105426658A (zh) 一种车辆预启动方法及相关装置
KR102359136B1 (ko) 제스처 인식 방법 및 이를 수행하는 제스처 인식 장치
CN112330846A (zh) 车辆控制的方法、装置、存储介质及电子设备和车辆
US20140294241A1 (en) Vehicle having gesture detection system and method
CN112298104A (zh) 车辆控制的方法、装置、存储介质及电子设备和车辆
CN106980527A (zh) 启动指纹识别的方法、装置以及智能终端
US20190347500A1 (en) Electronic device for performing biometric authentication and method of operating the same
KR101947040B1 (ko) 테일 게이트 작동 시스템 및 그 방법
KR20150043795A (ko) 영상처리장치 및 그 제어방법
US20210183194A1 (en) Face Recognition Unlocking Device and Operation Method Thereof
JP2015014119A (ja) 車両ドア動作装置
KR101976498B1 (ko) 차량용 제스처 인식 시스템 및 그 방법
KR102446387B1 (ko) 전자 장치 및 그의 텍스트 제공 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant