KR102581359B1 - 차량용 사용자 인터페이스 장치 및 차량 - Google Patents

차량용 사용자 인터페이스 장치 및 차량 Download PDF

Info

Publication number
KR102581359B1
KR102581359B1 KR1020160113358A KR20160113358A KR102581359B1 KR 102581359 B1 KR102581359 B1 KR 102581359B1 KR 1020160113358 A KR1020160113358 A KR 1020160113358A KR 20160113358 A KR20160113358 A KR 20160113358A KR 102581359 B1 KR102581359 B1 KR 102581359B1
Authority
KR
South Korea
Prior art keywords
vehicle
processor
point
interest
unit
Prior art date
Application number
KR1020160113358A
Other languages
English (en)
Other versions
KR20180026241A (ko
Inventor
김일완
이재호
최성환
정두경
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020160113358A priority Critical patent/KR102581359B1/ko
Priority to PCT/KR2017/009554 priority patent/WO2018044098A1/en
Priority to US15/692,380 priority patent/US10488218B2/en
Priority to EP17847023.3A priority patent/EP3507125B1/en
Publication of KR20180026241A publication Critical patent/KR20180026241A/ko
Application granted granted Critical
Publication of KR102581359B1 publication Critical patent/KR102581359B1/ko

Links

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3679—Retrieval, searching and output of POI information, e.g. hotels, restaurants, shops, filling stations, parking facilities
    • G01C21/3682—Retrieval, searching and output of POI information, e.g. hotels, restaurants, shops, filling stations, parking facilities output of POI information on a road map
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/60—Instruments characterised by their location or relative disposition in or on vehicles
    • B60K37/02—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3635—Guidance using 3D or perspective road maps
    • G01C21/3638—Guidance using 3D or perspective road maps including 3D objects and buildings
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3644—Landmark guidance, e.g. using POIs or conspicuous other objects
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/3647—Guidance involving output of stored or live camera images or video streams
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/36—Input/output arrangements for on-board computers
    • G01C21/3626—Details of the output of route guidance instructions
    • G01C21/365—Guidance using head up displays or projectors, e.g. virtual vehicles or arrows projected on the windscreen or on the road itself
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/29—Geographical information databases
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • B60K2350/1004—
    • B60K2350/352—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Databases & Information Systems (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Computer Graphics (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명은 디스플레이부; 인터페이스부; 및 상기 인터페이스부를 통해, 차량 외부 영상을 수신하고, 상기 차량 외부 영상에서 기 설정된 관심 지점(POI : Point of Interest)에 대응되는 제1 영역을 특정하고, 상기 제1 영역을 지시하는 그래픽 객체가 상기 차량 외부 영상 위에 증강 현실로 표시되도록 상기 디스플레이부를 제어하고, 상기 그래픽 객체가 주행 차로 쪽에서 상기 제1 영역을 지시하도록 상기 디스플레이부를 제어하는 프로세서;를 포함하는 차량용 사용자 인터페이스 장치에 관한 것이다.

Description

차량용 사용자 인터페이스 장치 및 차량{User interface apparatus for vehicle and Vehicle}
본 발명은 차량용 사용자 인터페이스 장치 및 차량에 관한 것이다.
차량은 탑승하는 사용자가 원하는 방향으로 이동시키는 장치이다. 대표적으로 자동차를 예를 들 수 있다.
한편, 차량을 이용하는 사용자의 편의를 위해, 각 종 센서와 전자 장치 등이 구비되고 있는 추세이다. 특히, 사용자의 운전 편의를 위해 차량 운전자 보조 시스템(ADAS : Advanced Driver Assistance System)에 대한 연구가 활발하게 이루어지고 있다. 나아가, 자율 주행 자동차(Autonomous Vehicle)에 대한 개발이 활발하게 이루어 지고 있다.
최근 차량용 사용자 인터페이스 장치는, 디스플레이로 증강 현실(AR: Augmented Reality)로 그래픽 객체를 표시할 수 있는 HUD(Head Up Display)를 포함한다.
그러나, 종래 기술에 따른 HUD는, 관심 영역 (POI : Point of Interest)에 대응되는 그래픽 객체를 표시함에 있어, 일률적으로 표시하여, 그래픽 객체가 오브젝트에 가려진채로 표시되거나 관심 영역이 오브젝트에 가려진채로 그래픽 객체가 표시되어 사용자에게 혼동을 유발하는 문제가 있다.
본 발명의 실시예는 상기한 문제점을 해결하기 위하여, 주행 상황에 적합하도록 관심 지점에 대응되는 그래픽 객체를 표시하는 차량용 사용자 인터페이스 장치를 제공하는데 목적이 있다.
또한, 본 발명의 실시예는, 상기 차량용 사용자 인터페이스 장치를 포함하는 차량을 제공하는데 목적이 있다.
본 발명의 과제들은 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
상기 과제를 달성하기 위하여, 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치는, 디스플레이부; 인터페이스부; 및 상기 인터페이스부를 통해, 차량 외부 영상을 수신하고, 상기 차량 외부 영상에서 기 설정된 관심 지점(POI : Point of Interest)에 대응되는 영역을 특정하고, 상기 관심 지점을 지시하는 그래픽 객체가 상기 차량 외부 영상 위에 증강 현실로 표시되도록 상기 디스플레이부를 제어하고, 상기 그래픽 객체가 주행 차로 쪽에서 상기 관심 지점을 지시하도록 상기 디스플레이부를 제어하는 프로세서;를 를 포함한다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.
본 발명의 실시예에 따르면 다음과 같은 효과가 하나 혹은 그 이상 있다.
첫째, 관심 지점을 지시하는 그래픽 객체를 표시함에 있어, 주행 상황을 반영하므로, 증강 현실로 보다 정확하게 관심 지점을 지시하는 효과가 있다.
둘째, 차량의 사용자가 관심 지점의 위치를 정확하게 인지한 상태에서 주행이 이루어지므로, 효율적인 주행이 가능한 효과가 있다.
셋째, 그래픽 객체 표시할 때, 주행 상황과 연동하여 다양한 그래픽 효과를 주어 표시함으로써, 사용자가 보다 명확하게 정보를 인지하게 하는 효과가 있다.
본 발명의 효과들은 이상에서 언급한 효과들로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 8a는 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치를 설명하는데 참조되는 블록도이다.
도 8b는 도 8a의 프로세서(870)의 상세 구성을 설명하는데 참조되는 블록도이다.
도 9는 본 발명의 실시예에 따라 그래픽 객체를 표시하는 동작을 설명하는데 참조되는 도면이다.
도 10은 본 발명의 실시예에 따른 그래픽 객체의 바람직한 표시 영역을 설명하는데 참조되는 도면이다.
도 11은 본 발명의 실시예에 따라 차량과 관심 지점과의 거리에 기초한 제1 영역의 지시 위치를 설명하는데 참조되는 도면이다.
도 12는 본 발명의 실시예에 따라 차량과 관심 지점과의 거리에 기초한 그래픽 객체의 투명도를 설명하는데 참조되는 도면이다.
도 13은 본 발명의 실시예에 따라, 2D 좌표계에 기초한 겹침 판단 동작을 설명하는데 참조되는 도면이다.
도 14는 본 발명의 실시예에 따라 3D 좌표계에 기초한 겹침 판단 동작을 설명하는데 참조되는 도면이다.
도 15 내지 도 17은 본 발명의 실시예에 따라 겹침 상태 판단시, 그래픽 효과를 부여하는 동작을 설명하는데 참조되는 도면이다.
도 18은 본 발명의 실시예에 따라 겹침 상태 판단시, 애니메이션 효과를 부여하는 동작을 설명하는데 참조되는 도면이다.
도 19은 본 발명의 실시예에 따라 겹침 상태 판단시, 탑뷰 영상을 표시하는 동작을 설명하는데 참조되는 도면이다.
도 20은 본 발명의 실시예에 따라 겹침 상태 판단시, 주행 시뮬레이션 영상을 표시하는 동작을 설명하는데 참조되는 도면이다.
도 21a 내지 도 21b는 본 발명의 실시예에 따른 그래픽 객체 표시 영역을 설명하는데 참조되는 도면이다.
도 22는 본 발명의 실시예에 따라 디스플레이부(251)가 윈드 쉴드를 통해 증강현실 이미지를 구현하는 동작을 설명하는데 참조되는 개념도이다.
도 23a 내지 도 23b는 본 발명의 실시예에 따라 차량의 주행 상태에 기초하여 표시되는 그래픽 객체 및 정보를 설명하는데 참조되는 도면이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
도 1은 본 발명의 실시예에 따른 차량의 외관을 도시한 도면이다.
도 2는 본 발명의 실시예에 따른 차량을 외부의 다양한 각도에서 본 도면이다.
도 3 내지 도 4는 본 발명의 실시예에 따른 차량의 내부를 도시한 도면이다.
도 5 내지 도 6은 본 발명의 실시예에 따른 오브젝트를 설명하는데 참조되는 도면이다.
도 7은 본 발명의 실시예에 따른 차량을 설명하는데 참조되는 블럭도이다.
도 1 내지 도 7을 참조하면, 차량(100)은 동력원에 의해 회전하는 바퀴, 차량(100)의 진행 방향을 조절하기 위한 조향 입력 장치(510)를 포함할 수 있다.
차량(100)은 자율 주행 차량일 수 있다.
차량(100)은, 사용자 입력에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 사용자 인터페이스 장치(200)를 통해, 수신되는 사용자 입력에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 주행 상황 정보에 기초하여, 자율 주행 모드 또는 메뉴얼 모드로 전환될 수 있다. 주행 상황 정보는, 오브젝트 검출 장치(300)에서 제공된 오브젝트 정보에 기초하여 생성될 수 있다.
예를 들면, 차량(100)은, 오브젝트 검출 장치(300)에서 생성되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
예를 들면, 차량(100)은, 통신 장치(400)를 통해 수신되는 주행 상황 정보에 기초하여, 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)은, 외부 디바이스에서 제공되는 정보, 데이터, 신호에 기초하여 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.
차량(100)이 자율 주행 모드로 운행되는 경우, 자율 주행 차량(100)은, 운행 시스템(700)에 기초하여 운행될 수 있다.
예를 들면, 자율 주행 차량(100)은, 주행 시스템(710), 출차 시스템(740), 주차 시스템(750)에서 생성되는 정보, 데이터 또는 신호에 기초하여 운행될 수 있다.
차량(100)이 메뉴얼 모드로 운행되는 경우, 자율 주행 차량(100)은, 운전 조작 장치(500)를 통해 운전을 위한 사용자 입력을 수신할 수 있다. 운전 조작 장치(500)를 통해 수신되는 사용자 입력에 기초하여, 차량(100)은 운행될 수 있다.
전장(overall length)은 차량(100)의 앞부분에서 뒷부분까지의 길이, 전폭(width)은 차량(100)의 너비, 전고(height)는 바퀴 하부에서 루프까지의 길이를 의미한다. 이하의 설명에서, 전장 방향(L)은 차량(100)의 전장 측정의 기준이 되는 방향, 전폭 방향(W)은 차량(100)의 전폭 측정의 기준이 되는 방향, 전고 방향(H)은 차량(100)의 전고 측정의 기준이 되는 방향을 의미할 수 있다.
도 7에 예시된 바와 같이, 차량(100)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 운전 조작 장치(500), 차량 구동 장치(600), 운행 시스템(700), 내비게이션 시스템(770), 센싱부(120), 인터페이스부(130), 메모리(140), 제어부(170) 및 전원 공급부(190)를 포함할 수 있다.
실시예에 따라, 차량(100)은, 본 명세서에서 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
사용자 인터페이스 장치(200)는, 차량(100)과 사용자와의 소통을 위한 장치이다. 사용자 인터페이스 장치(200)는, 사용자 입력을 수신하고, 사용자에게 차량(100)에서 생성된 정보를 제공할 수 있다. 차량(100)은, 사용자 인터페이스 장치(200)를 통해, UI(User Interfaces) 또는 UX(User Experience)를 구현할 수 있다.
사용자 인터페이스 장치(200)는, 입력부(210), 내부 카메라(220), 생체 감지부(230), 출력부(250) 및 프로세서(270)를 포함할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수도 있다.
입력부(210)는, 사용자로부터 정보를 입력받기 위한 것으로, 입력부(210)에서 수집한 데이터는, 프로세서(270)에 의해 분석되어, 사용자의 제어 명령으로 처리될 수 있다.
입력부(210)는, 차량 내부에 배치될 수 있다. 예를 들면, 입력부(210)는, 스티어링 휠(steering wheel)의 일 영역, 인스투루먼트 패널(instrument panel)의 일 영역, 시트(seat)의 일 영역, 각 필러(pillar)의 일 영역, 도어(door)의 일 영역, 센타 콘솔(center console)의 일 영역, 헤드 라이닝(head lining)의 일 영역, 썬바이저(sun visor)의 일 영역, 윈드 쉴드(windshield)의 일 영역 또는 윈도우(window)의 일 영역 등에 배치될 수 있다.
입력부(210)는, 음성 입력부(211), 제스쳐 입력부(212), 터치 입력부(213) 및 기계식 입력부(214)를 포함할 수 있다.
음성 입력부(211)는, 사용자의 음성 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
음성 입력부(211)는, 하나 이상의 마이크로 폰을 포함할 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
제스쳐 입력부(212)는, 사용자의 제스쳐 입력을 감지하기 위한 적외선 센서 및 이미지 센서 중 적어도 어느 하나를 포함할 수 있다.
실시예에 따라, 제스쳐 입력부(212)는, 사용자의 3차원 제스쳐 입력을 감지할 수 있다. 이를 위해, 제스쳐 입력부(212)는, 복수의 적외선 광을 출력하는 광출력부 또는 복수의 이미지 센서를 포함할 수 있다.
제스쳐 입력부(212)는, TOF(Time of Flight) 방식, 구조광(Structured light) 방식 또는 디스패러티(Disparity) 방식을 통해 사용자의 3차원 제스쳐 입력을 감지할 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 전기적 신호로 전환할 수 있다. 전환된 전기적 신호는 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
터치 입력부(213)는, 사용자의 터치 입력을 감지하기 위한 터치 센서를 포함할 수 있다.
실시예에 따라, 터치 입력부(213)는 디스플레이부(251)와 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한, 터치 스크린은, 차량(100)과 사용자 사이의 입력 인터페이스 및 출력 인터페이스를 함께 제공할 수 있다.
기계식 입력부(214)는, 버튼, 돔 스위치(dome switch), 조그 휠 및 조그 스위치 중 적어도 어느 하나를 포함할 수 있다. 기계식 입력부(214)에 의해 생성된 전기적 신호는, 프로세서(270) 또는 제어부(170)에 제공될 수 있다.
기계식 입력부(214)는, 스티어링 휠, 센테 페시아, 센타 콘솔, 칵픽 모듈, 도어 등에 배치될 수 있다.
내부 카메라(220)는, 차량 내부 영상을 획득할 수 있다. 프로세서(270)는, 차량 내부 영상을 기초로, 사용자의 상태를 감지할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 시선 정보를 획득할 수 있다. 프로세서(270)는, 차량 내부 영상에서 사용자의 제스쳐를 감지할 수 있다.
생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있다. 생체 감지부(230)는, 사용자의 생체 정보를 획득할 수 있는 센서를 포함하고, 센서를 이용하여, 사용자의 지문 정보, 심박동 정보 등을 획득할 수 있다. 생체 정보는 사용자 인증을 위해 이용될 수 있다.
출력부(250)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것이다.
출력부(250)는, 디스플레이부(251), 음향 출력부(252) 및 햅틱 출력부(253) 중 적어도 어느 하나를 포함할 수 있다.
디스플레이부(251)는, 다양한 정보에 대응되는 그래픽 객체를 표시할 수 있다.
디스플레이부(251)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(251)는 터치 입력부(213)와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다.
디스플레이부(251)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(251)가 HUD로 구현되는 경우, 디스플레이부(251)는 투사 모듈을 구비하여 윈드 쉴드 또는 윈도우에 투사되는 이미지를 통해 정보를 출력할 수 있다.
디스플레이부(251)는, 투명 디스플레이를 포함할 수 있다. 투명 디스플레이는 윈드 쉴드 또는 윈도우에 부착될 수 있다.
투명 디스플레이는 소정의 투명도를 가지면서, 소정의 화면을 표시할 수 있다. 투명 디스플레이는, 투명도를 가지기 위해, 투명 디스플레이는 투명 TFEL(Thin Film Elecroluminescent), 투명 OLED(Organic Light-Emitting Diode), 투명 LCD(Liquid Crystal Display), 투과형 투명디스플레이, 투명 LED(Light Emitting Diode) 디스플레이 중 적어도 하나를 포함할 수 있다. 투명 디스플레이의 투명도는 조절될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 복수의 디스플레이부(251a 내지 251g)를 포함할 수 있다.
디스플레이부(251)는, 스티어링 휠의 일 영역, 인스투루먼트 패널의 일 영역(521a, 251b, 251e), 시트의 일 영역(251d), 각 필러의 일 영역(251f), 도어의 일 영역(251g), 센타 콘솔의 일 영역, 헤드 라이닝의 일 영역, 썬바이저의 일 영역에 배치되거나, 윈드 쉴드의 일영역(251c), 윈도우의 일영역(251h)에 구현될 수 있다.
음향 출력부(252)는, 프로세서(270) 또는 제어부(170)로부터 제공되는 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(252)는, 하나 이상의 스피커를 포함할 수 있다.
햅틱 출력부(253)는, 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(253)는, 스티어링 휠, 안전 벨트, 시트(110FL, 110FR, 110RL, 110RR)를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
프로세서(270)는, 사용자 인터페이스 장치(200)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 복수의 프로세서(270)를 포함하거나, 프로세서(270)를 포함하지 않을 수도 있다.
사용자 인터페이스 장치(200)에 프로세서(270)가 포함되지 않는 경우, 사용자 인터페이스 장치(200)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 사용자 인터페이스 장치(200)는, 차량용 디스플레이 장치로 명명될 수 있다.
사용자 인터페이스 장치(200)는, 제어부(170)의 제어에 따라 동작될 수 있다.
오브젝트 검출 장치(300)는, 차량(100) 외부에 위치하는 오브젝트를 검출하기 위한 장치이다. 오브젝트 검출 장치(300)는, 센싱 데이터에 기초하여, 오브젝트 정보를 생성할 수 있다.
오브젝트 정보는, 오브젝트의 존재 유무에 대한 정보, 오브젝트의 위치 정보, 차량(100)과 오브젝트와의 거리 정보 및 차량(100)과 오브젝트와의 상대 속도 정보를 포함할 수 있다.
오브젝트는, 차량(100)의 운행과 관련된 다양한 물체들일 수 있다.
도 5 내지 도 6을 참조하면, 오브젝트(O)는, 차선(OB10), 타 차량(OB11), 보행자(OB12), 이륜차(OB13), 교통 신호(OB14, OB15), 빛, 도로, 구조물, 과속 방지턱, 지형물, 동물 등을 포함할 수 있다.
차선(Lane)(OB10)은, 주행 차선, 주행 차선의 옆 차선, 대향되는 차량이 주행하는 차선일 수 있다. 차선(Lane)(OB10)은, 차선(Lane)을 형성하는 좌우측 선(Line)을 포함하는 개념일 수 있다.
타 차량(OB11)은, 차량(100)의 주변에서 주행 중인 차량일 수 있다. 타 차량은, 차량(100)으로부터 소정 거리 이내에 위치하는 차량일 수 있다. 예를 들면, 타 차량(OB11)은, 차량(100)보다 선행 또는 후행하는 차량일 수 있다.
보행자(OB12)는, 차량(100)의 주변에 위치한 사람일 수 있다. 보행자(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 사람일 수 있다. 예를 들면, 보행자(OB12)는, 인도 또는 차도상에 위치하는 사람일 수 있다.
이륜차(OB12)는, 차량(100)의 주변에 위치하고, 2개의 바퀴를 이용해 움직이는 탈것을 의미할 수 있다. 이륜차(OB12)는, 차량(100)으로부터 소정 거리 이내에 위치하는 2개의 바퀴를 가지는 탈 것일 수 있다. 예를 들면, 이륜차(OB13)는, 인도 또는 차도상에 위치하는 오토바이 또는 자전거일 수 있다.
교통 신호는, 교통 신호등(OB15), 교통 표지판(OB14), 도로면에 그려진 문양 또는 텍스트를 포함할 수 있다.
빛은, 타 차량에 구비된 램프에서 생성된 빛일 수 있다. 빛은, 가로등에서 생성된 빛을 수 있다. 빛은 태양광일 수 있다.
도로는, 도로면, 커브, 오르막, 내리막 등의 경사 등을 포함할 수 있다.
구조물은, 도로 주변에 위치하고, 지면에 고정된 물체일 수 있다. 예를 들면, 구조물은, 가로등, 가로수, 건물, 전봇대, 신호등, 다리를 포함할 수 있다.
지형물은, 산, 언덕, 등을 포함할 수 있다.
한편, 오브젝트는, 이동 오브젝트와 고정 오브젝트로 분류될 수 있다. 예를 들면, 이동 오브젝트는, 타 차량, 보행자를 포함하는 개념일 수 있다. 예를 들면, 고정 오브젝트는, 교통 신호, 도로, 구조물을 포함하는 개념일 수 있다.
오브젝트 검출 장치(300)는, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340), 적외선 센서(350) 및 프로세서(370)를 포함할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
카메라(310)는, 차량 외부 영상을 획득하기 위해, 차량의 외부의 적절한 곳에 위치할 수 있다. 카메라(310)는, 모노 카메라, 스테레오 카메라(310a), AVM(Around View Monitoring) 카메라(310b) 또는 360도 카메라일 수 있다.
카메라(310)는, 다양한 영상 처리 알고리즘을 이용하여, 오브젝트의 위치 정보, 오브젝트와의 거리 정보 또는 오브젝트와의 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 획득된 영상에서, 시간에 따른 오브젝트 크기의 변화를 기초로, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 핀홀(pin hole) 모델, 노면 프로파일링 등을 통해, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 스테레오 카메라(310a)에서 획득된 스테레오 영상에서 디스패러티(disparity) 정보를 기초로 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 카메라(310)는, 차량 전방의 영상을 획득하기 위해, 차량의 실내에서, 프런트 윈드 쉴드에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 프런트 범퍼 또는 라디에이터 그릴 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 후방의 영상을 획득하기 위해, 차량의 실내에서, 리어 글라스에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 리어 범퍼, 트렁크 또는 테일 게이트 주변에 배치될 수 있다.
예를 들면, 카메라(310)는, 차량 측방의 영상을 획득하기 위해, 차량의 실내에서 사이드 윈도우 중 적어도 어느 하나에 근접하게 배치될 수 있다. 또는, 카메라(310)는, 사이드 미러, 휀더 또는 도어 주변에 배치될 수 있다.
카메라(310)는, 획득된 영상을 프로세서(370)에 제공할 수 있다.
레이다(320)는, 전자파 송신부, 수신부를 포함할 수 있다. 레이더(320)는 전파 발사 원리상 펄스 레이더(Pulse Radar) 방식 또는 연속파 레이더(Continuous Wave Radar) 방식으로 구현될 수 있다. 레이더(320)는 연속파 레이더 방식 중에서 신호 파형에 따라 FMCW(Frequency Modulated Continuous Wave)방식 또는 FSK(Frequency Shift Keyong) 방식으로 구현될 수 있다.
레이더(320)는 전자파를 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
레이더(320)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
라이다(330)는, 레이저 송신부, 수신부를 포함할 수 있다. 라이다(330)는, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식으로 구현될 수 있다.
라이다(330)는, 구동식 또는 비구동식으로 구현될 수 있다.
구동식으로 구현되는 경우, 라이다(330)는, 모터에 의해 회전되며, 차량(100) 주변의 오브젝트를 검출할 수 있다.
비구동식으로 구현되는 경우, 라이다(330)는, 광 스티어링에 의해, 차량(100)을 기준으로 소정 범위 내에 위치하는 오브젝트를 검출할 수 있다. 차량(100)은 복수의 비구동식 라이다(330)를 포함할 수 있다.
라이다(330)는, 레이저 광 매개로, TOF(Time of Flight) 방식 또는 페이즈 쉬프트(phase-shift) 방식에 기초하여, 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
라이다(330)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
초음파 센서(340)는, 초음파 송신부, 수신부를 포함할 수 있다. 초음파 센서(340)은, 초음파를 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
초음파 센서(340)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
적외선 센서(350)는, 적외선 송신부, 수신부를 포함할 수 있다. 적외선 센서(340)는, 적외선 광을 기초로 오브젝트를 검출하고, 검출된 오브젝트의 위치, 검출된 오브젝트와의 거리 및 상대 속도를 검출할 수 있다.
적외선 센서(350)는, 차량의 전방, 후방 또는 측방에 위치하는 오브젝트를 감지하기 위해 차량의 외부의 적절한 위치에 배치될 수 있다.
프로세서(370)는, 오브젝트 검출 장치(300)의 각 유닛의 전반적인 동작을 제어할 수 있다.
프로세서(370)는, 획득된 영상에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 영상 처리 알고리즘을 통해, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출등의 동작을 수행할 수 있다.
예를 들면, 프로세서(370)는, 획득된 영상에서, 시간에 따른 오브젝트 크기의 변화를 기초로, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 프로세서(370)는, 핀홀(pin hole) 모델, 노면 프로파일링 등을 통해, 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
예를 들면, 프로세서(370)는, 스테레오 카메라(310a)에서 획득된 스테레오 영상에서 디스패러티(disparity) 정보를 기초로 오브젝트와의 거리 정보 및 상대 속도 정보를 획득할 수 있다.
프로세서(370)는, 송신된 전자파가 오브젝트에 반사되어 되돌아오는 반사 전자파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 전자파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 레이저가 오브젝트에 반사되어 되돌아오는 반사 레이저 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 레이저 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 초음파가 오브젝트에 반사되어 되돌아오는 반사 초음파에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 초음파에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
프로세서(370)는, 송신된 적외선 광이 오브젝트에 반사되어 되돌아오는 반사 적외선 광에 기초하여, 오브젝트를 검출하고, 트래킹할 수 있다. 프로세서(370)는, 적외선 광에 기초하여, 오브젝트와의 거리 산출, 오브젝트와의 상대 속도 산출 등의 동작을 수행할 수 있다.
실시예에 따라, 오브젝트 검출 장치(300)는, 복수의 프로세서(370)를 포함하거나, 프로세서(370)를 포함하지 않을 수도 있다. 예를 들면, 카메라(310), 레이다(320), 라이다(330), 초음파 센서(340) 및 적외선 센서(350) 각각은 개별적으로 프로세서를 포함할 수 있다.
오브젝트 검출 장치(300)에 프로세서(370)가 포함되지 않는 경우, 오브젝트 검출 장치(300)는, 차량(100)내 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
오브젝트 검출 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
통신 장치(400)는, 외부 디바이스와 통신을 수행하기 위한 장치이다. 여기서, 외부 디바이스는, 타 차량, 이동 단말기 또는 서버일 수 있다.
통신 장치(400)는, 통신을 수행하기 위해 송신 안테나, 수신 안테나, 각종 통신 프로토콜이 구현 가능한 RF(Radio Frequency) 회로 및 RF 소자 중 적어도 어느 하나를 포함할 수 있다.
통신 장치(400)는, 근거리 통신부(410), 위치 정보부(420), V2X 통신부(430), 광통신부(440), 방송 송수신부(450), ITS(Intelligent Transport Systems) 통신부(460) 및 프로세서(470)를 포함할 수 있다.
실시예에 따라, 통신 장치(400)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
근거리 통신부(410)는, 근거리 통신(Short range communication)을 위한 유닛이다. 근거리 통신부(410)는, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
근거리 통신부(410)는, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량(100)과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다.
위치 정보부(420)는, 차량(100)의 위치 정보를 획득하기 위한 유닛이다. 예를 들면, 위치 정보부(420)는, GPS(Global Positioning System) 모듈 또는 DGPS(Differential Global Positioning System) 모듈을 포함할 수 있다.
V2X 통신부(430)는, 서버(V2I : Vehicle to Infra), 타 차량(V2V : Vehicle to Vehicle) 또는 보행자(V2P : Vehicle to Pedestrian)와의 무선 통신 수행을 위한 유닛이다. V2X 통신부(430)는, 인프라와의 통신(V2I), 차량간 통신(V2V), 보행자와의 통신(V2P) 프로토콜이 구현 가능한 RF 회로를 포함할 수 있다.
광통신부(440)는, 광을 매개로 외부 디바이스와 통신을 수행하기 위한 유닛이다. 광통신부(440)는, 전기 신호를 광 신호로 전환하여 외부에 발신하는 광발신부 및 수신된 광 신호를 전기 신호로 전환하는 광수신부를 포함할 수 있다.
실시예에 따라, 광발신부는, 차량(100)에 포함된 램프와 일체화되게 형성될 수 있다.
방송 송수신부(450)는, 방송 채널을 통해, 외부의 방송 관리 서버로부터 방송 신호를 수신하거나, 방송 관리 서버에 방송 신호를 송출하기 위한 유닛이다. 방송 채널은, 위성 채널, 지상파 채널을 포함할 수 있다. 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 수 있다.
ITS 통신부(460)는, 교통 시스템과 정보, 데이터 또는 신호를 교환할 수 있다. ITS 통신부(460)는, 교통 시스템에 획득한 정보, 데이터를 제공할 수 있다. ITS 통신부(460)는, 교통 시스템으로부터, 정보, 데이터 또는 신호를 제공받을 수 있다. 예를 들면, ITS 통신부(460)는, 교통 시스템으로부터 도로 교통 정보를 수신하여, 제어부(170)에 제공할 수 있다. 예를 들면, ITS 통신부(460)는, 교통 시스템으로부터 제어 신호를 수신하여, 제어부(170) 또는 차량(100) 내부에 구비된 프로세서에 제공할 수 있다.
프로세서(470)는, 통신 장치(400)의 각 유닛의 전반적인 동작을 제어할 수 있다.
실시예에 따라, 통신 장치(400)는, 복수의 프로세서(470)를 포함하거나, 프로세서(470)를 포함하지 않을 수도 있다.
통신 장치(400)에 프로세서(470)가 포함되지 않는 경우, 통신 장치(400)는, 차량(100)내 다른 장치의 프로세서 또는 제어부(170)의 제어에 따라, 동작될 수 있다.
한편, 통신 장치(400)는, 사용자 인터페이스 장치(200)와 함께 차량용 디스플레이 장치를 구현할 수 있다. 이경우, 차량용 디스플레이 장치는, 텔레 매틱스(telematics) 장치 또는 AVN(Audio Video Navigation) 장치로 명명될 수 있다.
통신 장치(400)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운전 조작 장치(500)는, 운전을 위한 사용자 입력을 수신하는 장치이다.
메뉴얼 모드인 경우, 차량(100)은, 운전 조작 장치(500)에 의해 제공되는 신호에 기초하여 운행될 수 있다.
운전 조작 장치(500)는, 조향 입력 장치(510), 가속 입력 장치(530) 및 브레이크 입력 장치(570)를 포함할 수 있다.
조향 입력 장치(510)는, 사용자로부터 차량(100)의 진행 방향 입력을 수신할 수 있다. 조향 입력 장치(510)는, 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
가속 입력 장치(530)는, 사용자로부터 차량(100)의 가속을 위한 입력을 수신할 수 있다. 브레이크 입력 장치(570)는, 사용자로부터 차량(100)의 감속을 위한 입력을 수신할 수 있다. 가속 입력 장치(530) 및 브레이크 입력 장치(570)는, 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 장치 또는 브레이크 입력 장치는, 터치 스크린, 터치 패드 또는 버튼 형태로 형성될 수도 있다.
운전 조작 장치(500)는, 제어부(170)의 제어에 따라 동작될 수 있다.
차량 구동 장치(600)는, 차량(100)내 각종 장치의 구동을 전기적으로 제어하는 장치이다.
차량 구동 장치(600)는, 파워 트레인 구동부(610), 샤시 구동부(620), 도어/윈도우 구동부(630), 안전 장치 구동부(640), 램프 구동부(650) 및 공조 구동부(660)를 포함할 수 있다.
실시예에 따라, 차량 구동 장치(600)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 차량 구동 장치(600)는 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
파워 트레인 구동부(610)는, 파워 트레인 장치의 동작을 제어할 수 있다.
파워 트레인 구동부(610)는, 동력원 구동부(611) 및 변속기 구동부(612)를 포함할 수 있다.
동력원 구동부(611)는, 차량(100)의 동력원에 대한 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진이 동력원인 경우, 동력원 구동부(610)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(611)는, 제어부(170)의 제어에 따라, 엔진 출력 토크를 조정할 수 있다.
예를 들면, 전기 에너지 기반의 모터가 동력원인 경우, 동력원 구동부(610)는, 모터에 대한 제어를 수행할 수 있다. 동력원 구동부(610)는, 제어부(170)의 제어에 따라, 모터의 회전 속도, 토크 등을 조정할 수 있다.
변속기 구동부(612)는, 변속기에 대한 제어를 수행할 수 있다.
변속기 구동부(612)는, 변속기의 상태를 조정할 수 있다. 변속기 구동부(612)는, 변속기의 상태를, 전진(D), 후진(R), 중립(N) 또는 주차(P)로 조정할 수 있다.
한편, 엔진이 동력원인 경우, 변속기 구동부(612)는, 전진(D) 상태에서, 기어의 물림 상태를 조정할 수 있다.
샤시 구동부(620)는, 샤시 장치의 동작을 제어할 수 있다.
샤시 구동부(620)는, 조향 구동부(621), 브레이크 구동부(622) 및 서스펜션 구동부(623)를 포함할 수 있다.
조향 구동부(621)는, 차량(100) 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 조향 구동부(621)는, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(622)는, 차량(100) 내의 브레이크 장치(brake apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량(100)의 속도를 줄일 수 있다.
한편, 브레이크 구동부(622)는, 복수의 브레이크 각각을 개별적으로 제어할 수 있다. 브레이크 구동부(622)는, 복수의 휠에 걸리는 제동력을 서로 다르게 제어할 수 있다.
서스펜션 구동부(623)는, 차량(100) 내의 서스펜션 장치(suspension apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 서스펜션 구동부(623)는 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량(100)의 진동이 저감되도록 제어할 수 있다.
한편, 서스펜션 구동부(623)는, 복수의 서스펜션 각각을 개별적으로 제어할 수 있다.
도어/윈도우 구동부(630)는, 차량(100) 내의 도어 장치(door apparatus) 또는 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다.
도어/윈도우 구동부(630)는, 도어 구동부(631) 및 윈도우 구동부(632)를 포함할 수 있다.
도어 구동부(631)는, 도어 장치에 대한 제어를 수행할 수 있다. 도어 구동부(631)는, 차량(100)에 포함되는 복수의 도어의 개방, 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 트렁크(trunk) 또는 테일 게이트(tail gate)의 개방 또는 폐쇄를 제어할 수 있다. 도어 구동부(631)는, 썬루프(sunroof)의 개방 또는 폐쇄를 제어할 수 있다.
윈도우 구동부(632)는, 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 차량(100)에 포함되는 복수의 윈도우의 개방 또는 폐쇄를 제어할 수 있다.
안전 장치 구동부(640)는, 차량(100) 내의 각종 안전 장치(safety apparatus)에 대한 전자식 제어를 수행할 수 있다.
안전 장치 구동부(640)는, 에어백 구동부(641), 시트벨트 구동부(642) 및 보행자 보호 장치 구동부(643)를 포함할 수 있다.
에어백 구동부(641)는, 차량(100) 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 에어백 구동부(641)는, 위험 감지시, 에어백이 전개되도록 제어할 수 있다.
시트벨트 구동부(642)는, 차량(100) 내의 시트벨트 장치(seatbelt appartus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 시트벨트 구동부(642)는, 위험 감지시, 시트 밸트를 이용해 탑승객이 시트(110FL, 110FR, 110RL, 110RR)에 고정되도록 제어할 수 있다.
보행자 보호 장치 구동부(643)는, 후드 리프트 및 보행자 에어백에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 보행자 보호 장치 구동부(643)는, 보행자와의 충돌 감지시, 후드 리프트 업 및 보행자 에어백 전개되도록 제어할 수 있다.
램프 구동부(650)는, 차량(100) 내의 각종 램프 장치(lamp apparatus)에 대한 전자식 제어를 수행할 수 있다.
공조 구동부(660)는, 차량(100) 내의 공조 장치(air cinditioner)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 공조 구동부(660)는, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
차량 구동 장치(600)는, 프로세서를 포함할 수 있다. 차량 구동 장치(600)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
차량 구동 장치(600)는, 제어부(170)의 제어에 따라 동작될 수 있다.
운행 시스템(700)은, 차량(100)의 각종 운행을 제어하는 시스템이다. 운행 시스템(700)은, 자율 주행 모드에서 동작될 수 있다.
운행 시스템(700)은, 주행 시스템(710), 출차 시스템(740) 및 주차 시스템(750) 을 포함할 수 있다.
실시예에 따라, 운행 시스템(700)은, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수 있다.
한편, 운행 시스템(700)은, 프로세서를 포함할 수 있다. 운행 시스템(700)의 각 유닛은, 각각 개별적으로 프로세서를 포함할 수 있다.
한편, 실시예에 따라, 운행 시스템(700)이 소프트웨어적으로 구현되는 경우, 제어부(170)의 하위 개념일 수도 있다.
한편, 실시예에 따라, 운행 시스템(700)은, 사용자 인터페이스 장치(200), 오브젝트 검출 장치(300), 통신 장치(400), 차량 구동 장치(600) 및 제어부(170) 중 적어도 어느 하나를 포함하는 개념일 수 있다.
주행 시스템(710)은, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
주행 시스템(710)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주행을 수행할 수 있다.
출차 시스템(740)은, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
출차 시스템(740)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 출차를 수행할 수 있다.
주차 시스템(750)은, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 내비게이션 시스템(770)으로부터 내비게이션 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 오브젝트 검출 장치(300)로부터 오브젝트 정보를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
주차 시스템(750)은, 통신 장치(400)를 통해, 외부 디바이스로부터 신호를 제공받아, 차량 구동 장치(600)에 제어 신호를 제공하여, 차량(100)의 주차를 수행할 수 있다.
내비게이션 시스템(770)은, 내비게이션 정보를 제공할 수 있다. 내비게이션 정보는, 맵(map) 정보, 설정된 목적지 정보, 상기 목적지 설정 따른 경로 정보, 경로 상의 다양한 오브젝트에 대한 정보, 차선 정보 및 차량의 현재 위치 정보 중 적어도 어느 하나를 포함할 수 있다.
내비게이션 시스템(770)은, 메모리, 프로세서를 포함할 수 있다. 메모리는 내비게이션 정보를 저장할 수 있다. 프로세서는 내비게이션 시스템(770)의 동작을 제어할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 통신 장치(400)를 통해, 외부 디바이스로부터 정보를 수신하여, 기 저장된 정보를 업데이트 할 수 있다.
실시예에 따라, 내비게이션 시스템(770)은, 사용자 인터페이스 장치(200)의 하위 구성 요소로 분류될 수도 있다.
센싱부(120)는, 차량의 상태를 센싱할 수 있다. 센싱부(120)는, 자세 센서(예를 들면, 요 센서(yaw sensor), 롤 센서(roll sensor), 피치 센서(pitch sensor)), 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 조도 센서, 가속 페달 포지션 센서, 브레이크 페달 포지션 센서, 등을 포함할 수 있다.
센싱부(120)는, 차량 자세 정보, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도, 차량 외부 조도, 가속 페달에 가해지는 압력, 브레이크 페달에 가해지는 압력 등에 대한 센싱 신호를 획득할 수 있다.
센싱부(120)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
인터페이스부(130)는, 차량(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(130)는 이동 단말기와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기와 연결할 수 있다. 이경우, 인터페이스부(130)는 이동 단말기와 데이터를 교환할 수 있다.
한편, 인터페이스부(130)는 연결된 이동 단말기에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기가 인터페이스부(130)에 전기적으로 연결되는 경우, 제어부(170)의 제어에 따라, 인터페이스부(130)는 전원 공급부(190)에서 공급되는 전기 에너지를 이동 단말기에 제공할 수 있다.
메모리(140)는, 제어부(170)와 전기적으로 연결된다. 메모리(140)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(140)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(140)는 제어부(170)의 처리 또는 제어를 위한 프로그램 등, 차량(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
실시예에 따라, 메모리(140)는, 제어부(170)와 일체형으로 형성되거나, 제어부(170)의 하위 구성 요소로 구현될 수 있다.
제어부(170)는, 차량(100) 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(170)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
전원 공급부(190)는, 제어부(170)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원 공급부(190)는, 차량 내부의 배터리 등으로부터 전원을 공급받을 수 있다.
차량(100)에 포함되는, 하나 이상의 프로세서 및 제어부(170)는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
도 8a는 본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치를 설명하는데 참조되는 블록도이다.
도 8a를 참조하면, 차량용 사용자 인터페이스 장치(200)는, 입력부(210), 내부 카메라(220), 생체 감지부(230), 메모리(240), 인터페이스부(245), 출력부(250), 프로세서(270) 및 전원 공급부(290)를 포함할 수 있다.
실시예에 따라, 사용자 인터페이스 장치(200)는, 설명되는 구성 요소외에 다른 구성 요소를 더 포함하거나, 설명되는 구성 요소 중 일부를 포함하지 않을 수도 있다.
도 8a의 차량용 사용자 인터페이스 장치(200)는, 도 7의 차량용 사용자 인터페이스 장치(200)에서 설명된 각 구성 요소를 포함한다. 이하에서, 중복되는 설명은 생략하고, 도 7에서 설명되지 않은 부분을 중심으로 설명한다.
본 발명의 실시예에 따른 차량용 사용자 인터페이스 장치(200)는, 차량용 디스플레이 장치로 명명될 수 있다.
입력부(210), 내부 카메라(220), 생체 감지부(230)는, 도 7에서 설명된 내용이 적용될 수 있다.
메모리(240)는, 프로세서(270)와 전기적으로 연결된다. 메모리(240)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(240)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(240)는 프로세서(270)의 처리 또는 제어를 위한 프로그램 등, 사용자 인터페이스 장치(200) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
실시예에 따라, 메모리(240)는, 프로세서(270)와 일체형으로 형성되거나, 프로세서(270)의 하위 구성 요소로 구현될 수 있다.
인터페이스부(245)는, 차량(100)에 포함된 다른 장치와의 정보, 신호 또는 데이터 교환을 수행할 수 있다. 인터페이스부(245)는, 수신된 정보, 신호 또는 데이터를 프로세서(270)에 전송할 수 있다. 인터페이스부(245)는, 프로세서(270)에서 생성되거나 처리된 정보, 신호 또는 데이터를 차량(100)에 포함된 다른 장치에 전송할 수 있다. 인터페이스부(245)는, 차량(100)에 포함된 다른 장치로부터 정보, 신호 또는 데이터를 수신할 수 있다.
인터페이스부(245)는, 오브젝트 검출 장치(300)로부터, 차량 외부 영상을 수신할 수 있다.
인터페이스부(245)는, 오브젝트 검출 장치(300)로부터, 오브젝트 정보를 수신할 수 있다. 예를 들면, 인터페이스부(245)는, 차량 외부 영상에 포함된 복수의 오브젝트들의 디스패러티 정보를 수신할 수 있다.
인터페이스부(245)는, 내비게이션 시스템(770)으로부터 내비게이션 정보를 수신할 수 있다.
인터페이스부(245)가 수신한 정보, 신호 또는 데이터는, 프로세서(270)에 제공될 수 있다.
출력부(250)는, 디스플레이부(251), 음향 출력부(252) 및 햅틱 출력부(253)를 포함할 수 있다.
출력부(250)는, 도 7에서 설명된 내용이 적용될 수 있다. 이하에서, 디스플레이부(251)를 중심으로 설명한다.
디스플레이부(251)는, 프로세서(270)의 제어에 따라 동작될 수 있다.
디스플레이부(251)는, 그래픽 객체를 증강 현실로 표시할 수 있다. 예를 들면, 디스플레이부(251)는, 관심 지점(POI : Point of Interest)을 지시하는 그래픽 객체를 차량 외부 영상 위에 증강현실로 표시할 수 있다.
이경우, 디스플레이부(251)는, 그래픽 객체가 주행 차로 쪽에서, 관심 지점을 지시하도록 표시할 수 있다.
예를 들면, 디스플레이부(251)는, 관심 지점이 주행 차로의 왼쪽에 위치한 경우, 그래픽 객체를 관심 지점의 오른쪽에 표시할 수 있다.
예를 들면, 디스플레이부(251)는, 관심 지점이 주행 차로의 오른쪽에 위치한 경우, 그래픽 객체를 관심 지점의 왼쪽에 표시할 수 있다.
관심 지점은, 건물일 수 있다. 제1 영역은, 차량 외부 영상에서 건물에 대응되는 영역일 수 있다. 이경우, 디스플레이부(251)는, 그래픽 객체가, 차량을 기준으로, 제1 영역에서 건물의 형상이 나타나는 영역을 지시하도록 표시할 수 있다.
디스플레이부(251)는, 그래픽 객체의 표시 영역이, 시간의 흐름에 따라, 점차적으로, 제1 영역에서, 제1 영역보다 관심 지점에 더 가까운 제2 영역으로 변경되도록 표시할 수 있다.
디스플레이부(251)는, 그래픽 객체가 오브젝트에 대응되는 영역에 표시되는 경우, 그래픽 객체에 투명도를 부여할 수 있다.
디스플레이부(251)는, 오브젝트가 차량(100)과 관심 지점 사이에 위치하는 경우, 탑뷰 영상을 더 표시할 수 있다.
디스플레이부(251)는, 오브젝트가 차량(100)과 관심 지점 사이에 위치하는 경우, 관심 지점 주변에 위치한 타 차량이 획득한 영상을, 차량(100)의 시점에서 표시할 수 있다.
디스플레이부(251)는, 오브젝트가 차량(100)과 관심 지점 사이에 위치하는 경우, 차량(100)이 위치한 지점부터 관심 지점까지의 주행 시뮬레이션 영상을 표시할 수 있다.
디스플레이부(251)는, 그래픽 객체를, 차량 외부 영상에서 오브젝트에 대응되지 않는 영역에 표시할 수 있다.
디스플레이부(251)는, 그래픽 객체를, 차량 외부 영상에서 오브젝트에 대응되는 영역에 표시하는 경우, 오브젝트에 투명도를 부여하거나, 오브젝트가 제거하여 표시할 수 있다.
프로세서(270)는, 사용자 인터페이스 장치(200)의 각 유닛의 전반적인 동작을 제어할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 차량 외부 영상을 수신할 수 있다. 예를 들면, 차량 외부 영상은, 스테레오 카메라에서 획득된 차량의 전방 영상일 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 정보를 수신할 수 있다.
프로세서(270)는, 차량 외부 영상에서 기 설정된 관심 지점(POI : Point of Interest)에 대응되는 제1 영역을 특정할 수 있다.
관심 지점은, 목적지 및 경유지를 포함할 수 있다. 목적지 및 경유지는 내비게이션 시스템(770)에 의해 설정되거나, 사용자에 의해 설정될 수 있다.
관심 지점은, 주유소, 전기 충전소, 식당, 휴게소, 랜드 마크 및 관광 명소를 포함할 수 있다.
관심 지점은, 사용자가 기준 횟수 이상 검색한 지점일 수 있다. 예를 들면, 관심 지점은, 사용자가 사용자 인터페이스 장치(200)를 이용해 기준 횟수 이상 검색한 지점일 수 있다. 예를 들면, 관심 지점은, 사용자가 소지한 이동 단말기를 이용해 기준 횟수 이상 검색한 지점일 수 있다. 프로세서(270)는, 인터페이스부(245) 및 통신 장치(400)를 통해, 이동 단말기로부터 관심 지점 정보를 수신할 수 있다.
프로세서(270)는, 인터페이스부(245) 및 통신 장치(400)를 통해, 관심 지점 정보를 웹 서버로부터 수신될 수 있다. 이때, 관심 지점 정보는, 다수의 사용자가 입력하거나 검색한 지점을 기초로 생성된 빅데이터에 기초할 수 있다.
프로세서(270)는, 관심 지점에 대응되는 제1 영역을 지시하는 그래픽 객체가 차량 외부 영상 위에 증강 현실(AR : Augmented Reality)로 표시되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 그래픽 객체는, 관심 지점에 대응되는 영역을 지시하고, 소정 형상을 가지는 아이콘일 수 있다.
그래픽 객체는, 본체부과 지시부를 포함할 수 있다.
본체부는, 관심 지점의 정보를 표시하는 영역일 수 있다. 본체부는, 제1 색으로 표시될 수 있다. 본체부는, 원형, 타원형, 다각형 또는 입체 형상으로 표시될 수 있다. 실시예에 따라, 프로세서(270)는, 본체부 상에, 관심 지점과 관련된 텍스트가 표시되도록 디스플레이부(251)를 제어할 수 있다.
지시부는, 관심 지점에 대응되는 제1 영역을 지시하는 영역을 수 있다. 지시부는, 본체 영역과 차량 외부 영상에서 관심 지점에 대응되는 제1 영역을 연결할 수 있다.
프로세서(270)는, 차량 외부 영상에 그래픽 객체를 오버레이(overlay)하여 표시할 수 있다.
프로세서(270)는, 그래픽 객체가 주행 차로 쪽에서 관심 지점에 대응되는 제1 영역을 지시하도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 오브젝트 검출 장치(300)로부터 주행 차로에 대한 정보를 수신할 수 있다. 프로세서(270)는, 수신된 주행 차로에 대한 정보를 기초로, 차량 외부 영상에서, 주행 차로에 해당되는 영역을 구분할 수 있다.
프로세서(270)는, 차량 외부 영상에서 관심 지점에 대응되는 영역이 주행 차로를 기준으로 왼쪽에 위치하는지 오른쪽에 위치하는지 판단할 수 있다.
프로세서(270)는, 판단 결과를 기초로, 그래픽 객체가 주행 차로 쪽에서 관심 지점을 지시하도록 디스플레이부(251)를 제어할 수 있다.
이와 같이 제어함으로써, 차량 외부 영상에 표시되는 다양한 오브젝트와 최대한 겹쳐지지 않는 영역에 그래픽 객체가 표시되게 할 수 있다. 그에 따라, 차량(100)의 사용자는, 그래픽 객체를 명확하게 인지할 수 있게 된다.
만약, 본원 발명과는 다르게, 차량 외부 영상에 표시되는 다양한 오브젝트와 겹쳐지도록 그래픽 객체가 표시되는 경우, 사용자는, 차량용 사용자 인터페이스 장치에서 제공되는 정보를 잘못 인식할 수 있고, 그에 따라, 정확하지 않은 경로로 주행하게 되거나 사고를 유발할 수도 있게 된다.
프로세서(270)는, 차량 외부 영상에서, 제1 영역이 주행 차로의 왼쪽에 위치한 경우, 그래픽 객체를 제1 영역의 오른쪽에 표시하도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량 외부 영상에서, 제1 영역이 주행 차로의 오른쪽에 위치한 경우, 그래픽 객체를 제1 영역의 왼쪽에 표시하도록 디스플레이부(251)를 제어할 수 있다.
관심 지점은 건물일 수 있다.
프로세서(270)는, 차량 외부 영상에서 건물에 대응되는 제1 영역을 특정할 수 있다.
프로세서(270)는, 그래픽 객체가 차량(100)을 기준으로 제1 영상에서 건물의 형상이 나타나는 영역을 지시하도록 디스플레이부(251)를 제어할 수 있다.
차량(100)에서 바라볼 때, 건물의 전체 중 일부가 다른 오브젝트에 가려질 수 있다. 이경우, 프로세서(270)는, 그래픽 객체가 건물의 형상이 가려지지 않고 나타나는 영역을 지시하도록 디스플레이부(251)를 제어함으로써, 사용자가 관심 영역을 명확하게 인지하게 하는 효과가 있다.
프로세서(270)는, 차량(100)과 관심 지점과의 거리에 기초하여, 그래픽 객체가 지시하는 제1 영역의 지시 위치를 결정할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점과의 거리에 기초하여, 복수의 구간을 설정할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300) 또는 내비게이션 시스템(770)으로부터 차량(100)과 관심 지점과의 거리 정보를 수신할 수 있다.
프로세서(270)는, 기 설정된 복수의 구간 중, 차량(100)과 관심 지점과의 거리가 해당되는 구간에 따라, 제1 영역의 지시 위치를 결정할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 제1 구간에 해당되는 경우, 프로세서(270)는, 그래픽 객체가, 차량 외부 영상 중, 제1 영역의 제1 지점을 지시하도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 제2 구간에 해당되는 경우, 프로세서(270)는, 그래픽 객체가, 차량 외부 영상 중, 제1 영역의 제2 지점을 지시하도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 제3 구간에 해당되는 경우, 프로세서(270)는, 그래픽 객체가, 차량 외부 영상 중, 제1 영역의 제3 지점을 지시하도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점과의 거리에 기초하여, 그래픽 객체의 색, 크기 및 투명도 중 적어도 어느 하나를 결정할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점과의 거리에 기초하여, 복수의 구간을 설정할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300) 또는 내비게이션 시스템(770)으로부터 차량(100)과 관심 지점과의 거리 정보를 수신할 수 있다.
프로세서(270)는, 기 설정된 복수의 구간 중, 차량(100)과 관심 지점과의 거리가 해당되는 구간에 따라, 그래픽 객체의 색, 크기 및 투명도 중 적어도 어느 하나를 결정할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 제1 구간에 해당되는 경우, 프로세서(270)는, 차량 외부 영상에 그래픽 객체가 제1 색, 제1 크기 또는 제1 투명도로 표시되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 제2 구간에 해당되는 경우, 프로세서(270)는, 차량 외부 영상에 그래픽 객체가 제2 색, 제2 크기 또는 제2 투명도로 표시되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 제3 구간에 해당되는 경우, 프로세서(270)는, 차량 외부 영상에 그래픽 객체가 제3 색 제3 크기 또는 제3 투명도로 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점의 거리에 기초하여, 그래픽 객체의 크기를 결정할 수 있다. 프로세서(270)는, 기 설정된 복수의 구간 중, 차량(100)과 관심 지점과의 거리가 해당되는 구간에 따라, 그래픽 객체의 크기를 결정할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점의 거리에 기초하여, 그래픽 객체의 색을 결정할 수 있다. 프로세서(270)는, 기 설정된 복수의 구간 중, 차량(100)과 관심 지점과의 거리에 해당되는 구간에 따라, 그래픽 객체의 색을 결정할 수 있다.
이와 같은 제어를 통해, 차량(100)의 사용자는, 그래픽 객체만 보고도 차량(100)과 관심 지점과의 대략적인 거리를 인지할 수 있다.
또한, 차량(100)과 관심 지점과의 거리가 가까워질수록, 사용자가 그래픽 객체를 더욱더 명확하게 인식할 수 있는 효과가 있다.
프로세서(270)는, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다.
프로세서(270)는, 차량(100)에서 관심 지점을 바라볼 때, 오브젝트에 의해, 관심 지점이 가려지는지 판단할 수 있다.
여기서, 오브젝트는, 차량 외부 영상에서 차량(100)과 관심 지점을 제외한 다른 물체를 의미할 수 있다. 예를 들면, 오브젝트는, 타 차량일 수 있다. 예를 들면, 오브젝트는, 가로등, 가로수, 건물, 전봇대, 신호등, 다리 등의 구조물일 수 있다. 예를 들면, 오브젝트는, 산, 언덕 등의 지형물일 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 내비게이션 정보를 수신할 수 있다. 내비게이션 정보는, 3차원 맵 정보를 포함할 수 있다.
프로세서(270)는, 차량 외부 영상 및 내비게이션 정보를 기초로, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다.
프로세서(270)는, 좌표계를 통일함으로써, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다. 차량(100)과 관심 지점 사이에 오브젝트가 위치하는 상태는 겹침 상태로 명명될 수 있다.
3차원 맵 정보는 3차원 좌표계에 기초한다. 차량 외부 영상은 2차원 좌표계에 기초한다.
프로세서(270)는, 3차원 맵 정보와 차량 외부 영상을 2차원 좌표계 또는 3차원 좌표계로 통일함으로써, 겹침 상태를 판단할 수 있다.
프로세서(270)는, 인터페이스부(245)를 통해, 레이다(320), 라이다(330), 초음파 센서(340) 및 적외선 센서(350) 중 적어도 어느 하나의 센싱 정보를 수신할 수 있다.
프로세서(270)는, 상기 센싱 정보에 더 기초하여 겹침 상태를 판단할 수 있다.
예를 들면, 프로세서(270)는, 3차원 맵 정보를 2차원 맵 정보로 변환할 수 있다. 프로세서(270)는, 차량 외부 영상과 2차원 맵을 비교하여, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다. 프로세서(270)는, 3차원 맵 정보와 차량 외부 영상이 2차원 좌표계로 통일된 상태에서, 관심 지점과 소정의 오브젝트가 겹쳐지는 픽셀이 존재하는지 여부로 겹침 상태를 판단할 수 있다.
예를 들면, 프로세서(270)는, 인터페이스부(245)를 통해, 차량 외부 영상에 포함된 복수의 오브젝트들의, 위치 정보, 크기 정보 및 디스패러티 정보를 수신할 수 있다. 프로세서(270)는, 3차원 맵 상에 복수의 오브젝트들의 위치 정보, 크기 정보 및 디스패러티 정보를 반영하여, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다. 프로세서(270)는, 3차원 맵 정보와 차량 외부 영상이 3차원 좌표계로 통일된 상태에서, 차량(100)에서 관심 지점을 볼 때, 소정의 오브젝트가 관심 지점을 가리는지 여부로 겹침 상태를 판단할 수 있다.
프로세서(270)는, 오브젝트가 차량(100)과 관심 지점 사이에 위치하는 경우, 오브젝트 또는 그래픽 객체에 소정의 그래픽 효과를 부여하도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 오브젝트에 투명도를 부여하도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 오브젝트가 제거되도록 디스플레이부(251)를 제어할 수 있다.
이와 같이 제어함으로써, 사용자가 차량(100) 기준으로 오브젝트 뒤쪽에 위치한 관심 지점을 확인할 수 있다.
예를 들면, 프로세서(270)는, 오브젝트가 차량(100)과 관심 지점 사이에 위치하는 경우, 그래픽 객체에 애니메이션 효과를 부여하도록 디스플레이부(251)를 제어할 수 있다. 예를 들면, 프로세서(270)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 차량 외부 영상에서, 그래픽 객체가, 시간의 흐름에 따라, 점차적으로 제1 지점에서, 제2 지점으로 이동되도록 디스플레이부(251)를 제어할 수 있다. 여기서, 차량 외부 영상에서 제2 지점은, 제1 지점보다, 관심 지점에 대응되는 제1 영역에 더 가까울 수 있다.
그래픽 객체에 애니메이션 효과를 부여함으로써, 차량(100)의 사용자에게 관심 지점이 오브젝트에 가려짐을 인지하게 하는 효과가 있다.
예를 들면, 프로세서(270)는, 그래픽 객체가 오브젝트에 대응되는 영역에 표시되는 경우, 그래픽 객체에 투명도를 부여하도록 디스플레이부(251)를 제어할 수 있다.
이와 같이, 그래픽 객체에 투명도를 부여함으로써, 오브젝트를 사실적으로 표시함과 동시에 그래픽 객체까지 표시하여, 차량(100)의 사용자에게 사실적인 이미지를 제공하는 효과가 있다.
예를 들면, 프로세서(270)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 탑뷰 영상이 더 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 인터페이스부(245) 및 통신 장치(400)를 통해, 웹서버에 저장된 탑뷰 영상을 획득할 수 있다. 여기서, 탑뷰 이미지는 인공 위성 또는 항공기에서 촬영된 과거 또는 실시간 이미지일 수 있다.
프로세서(270)는, 내비게이션 시스템(770)으로부터 탑뷰 영상을 획득할 수있다.
프로세서(270)는, 탑뷰 영상에서 관심 지점에 대응되는 영역이 하이라이트 처리되도록 디스플레이부(251)를 제어할 수 있다.
이와 같이 제어함으로써, 관심 지점이, 오브젝트에 가려진 경우, 사용자는, 탑뷰 영상을 통해, 차량과, 관심 지점과, 오브젝트의 위치 관계를 정확하게 파악하여, 주행 상황을 인지할 수 있다.
프로세서(270)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 관심 지점 주변에 위치한 타 차량이 획득한 영상을 수신할 수 있다. 여기서, 영상은, 관심 지점 주변에 위치한 타 차량으로부터 수신한 관심 지점 주변 영상일 수 있다.
프로세서(270)는, 타 차량이 획득한 영상이, 차량(100)의 시점에서 표시되도록 디스플레이부(270)를 제어할 수 있다. 예를 들면, 프로세서(270)는, 타 차량이 획득한 영상을, 그래픽 처리하여, 차량(100)에서 촬영한 것과 같이 표시할 수 있다.
한편, 프로세서(270)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 관심 지점 주변에 위치한 구조물이 획득한 영상을 수신할 수 있다. 여기서, 구조물이 획득한 영상은, 교통 정보 수집을 위한 카메라가 부착된 구조물 또는 방법을 위한 카메라가 부착된 구조물에서 획득한 영상일 수 있다.
한편, 프로세서(270)는, 타 차량 또는 구조물에서 획득한 영상을 획득하기 위해, 권한 인증 과정을 수행할 수도 있다.
한편, 프로세서(270)는 관심 지점 주변 복수의 타 차량으로부터, 복수의 영상을 수신할 수 있다. 프로세서(270)는, 복수의 영상을 조합하여 3D 모델링을 수행하여, 3D 맵을 생성할 수 있다. 프로세서(270)는, 생성된 3D 맵 상에서, 차량(100), 관심 지점, 오브젝트를 각각 표시할 수 있다. 프로세서(270)는, 3D 맵과 차량 외부 영상을 합성하여 표시할 수도 있다.
프로세서(270)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 차량(100)이 위치한 지점부터, 관심 지점까지의 주행 시뮬레이션 영상이 표시되도록 디스플레이부(251)를 제어할 수 있다.
주행 시뮬레이션 영상은, 웹 서버에 저장된 이미지에 기초할 수 있다. 프로세서(270)는, 인터페이스부(245) 및 통신 장치(400)를 통해, 웹 서버에 저장된 도로 이미지를 획득할 수 있다. 여기서, 도로 이미지는, 차량(100)의 위치에서 관심 지점까지 도로 및 도로 주변을 촬영한 복수의 이미지일 수 있다. 프로세서(270)는, 복수의 이미지를 연속적으로 표시함으로써, 주행 시뮬레이션 영상을 표시할 수 있다.
프로세서(270)는, 그래픽 객체가, 차량 외부 영상에서 오브젝트에 대응되지 않는 영역에 표시되도록 디스플레이부(251)를 제어할 수 있다.
이와 같이 제어함으로써, 사용자가 혼동을 일으키지 않는 영역에 그래픽 객체를 표시할 수 있다.
프로세서(270)는, 그래픽 객체가, 외부 차량 영상에서 오브젝트에 대응되는 영역에 표시되는 경우, 오브젝트에 투명도가 부여되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 그래픽 객체가 차량 외부 영상에서 오브젝트에 대응되는 영역에 표시되는 경우, 오브젝트의 적어도 일부가 제거되도록 디스플레이부(251)를 제어할 수 있다.
이와 같이 제어함으로써, 터널 내부에서 주행하는 환경 등과 같이, 차량 외부 영상이 오브젝트로 가득 채워진 상태에서도, 사용자가 인지할 수 있는 그래픽 객체를 표시할 수 있는 효과가 있다.
전원 공급부(290)는, 프로세서(270)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원 공급부(290)는, 차량 내부의 배터리 등으로부터 전원을 공급받을 수 있다.
도 8b는 도 8a의 프로세서(870)의 상세 구성을 설명하는데 참조되는 블록도이다.
도 8b를 참조하면, 프로세서(270)는, 운전자 시선 정보 획득부(811), 차량 외부 영상 획득부(812), 관심 지점 특정부(813), 맵 정보 획득부(815), 좌표계 통일부(816), 판단부(817), 타 차량 영상 획득부(818), 디스플레이 제어부(821) 및 신호 출력부(822)를 포함할 수 있다.
운전자 시선 정보 획득부(811)는, 내부 카메라(220)를 통해, 운전자 시선 정보를 획득할 수 있다. 운전자 시선 정보 획득부(811)는, 내부 카메라(220)가 획득한 차량 내부 영상에서, 운전자의 눈을 검출할 수 있다. 운전자 시선 정보 획득부(811)는, 운전자의 눈 이미지를 기초로 운전자 시선 정보를 획득할 수 있다. 운전자 시선 정보는, 판단부(817)에 제공될 수 있다.
차량 외부 영상 획득부(812)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300)로부터, 차량 외부 영상 데이터를 획득할 수 있다. 차량 외부 영상 데이터는, 관심 지점 특정부(813), 및 좌표계 통일부(816)로 제공할 수 있다.
관심 지점 특정부(813)는, 차량 외부 영상 획득부(812)에서, 차량 외부 영상 데이터를 수신할 수 있다. 관심 지점 특정부(813)는, 차량 외부 영상에서, 기 설정된 관심 지점에 대응되는 제1 영역을 특정할 수 있다. 관심 지점 특정부(813)는, 특정된 제1 영역을 지속적으로 트래킹할 수 있다.
맵 정보 획득부(815)는, 인터페이스부(245)를 통해, 내비게이션 시스템(770)으로부터 3차원 맵 정보를 획득할 수 있다. 3차원 맵 정보는, 좌표계 통일부(816)에 제공될 수 있다.
좌표계 통일부(816)는, 3차원 맵 정보의 좌표계와, 차량 외부 영상의 좌표계를 2차원 좌표 또는 3차원 좌표로 통일할 수 있다.
3차원 맵 정보는 3차원 좌표계에 기초한다. 차량 외부 영상은 2차원 좌표계에 기초한다.
예를 들면, 좌표계 통일부(816)는, 3차원 맵 정보를 2차원 맵 정보로 변환할 수 있다. 좌표계 통일부(816)는, 차량 외부 영상에 2차원 맵 정보를 부가하여, 2차원 좌표계로 통일할 수 있다.
예를 들면, 좌표계 통일부(816)는, 차량 외부 영상에 포함된 복수의 오브젝트들의, 위치 정보, 크기 정보 및 디스패러티 정보를 수신할 수 있다. 좌표계 통일부(816)는, 3차원 맵 정보에 복수의 오브젝트들의, 위치 정보, 크기 정보 및 디스패러티 정보를 부가하여 3차원 좌표계로 통일할 수 있다.
판단부(817)는, 좌표계 통일부(816)에서 통일된 좌표계를 기초로 오브젝트와 관심 지점의 겹침을 판단할 수 있다.
판단부(817)는, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다.
판단부(817)는, 차량(100)에서 관심 지점을 바라볼 때, 오브젝트에 의해 관심 지점이 가려지는지 판단할 수 있다.
판단부(817)는, 3차원 맵 정보의 좌표계와 차량 외부 영상의 좌표계가 2차원 좌표계로 통일된 상태에서, 관심 지점과 소정의 오브젝트가 겹쳐지는 픽셀이 존재하는지 여부로 겹침 상태를 판단할 수 있다.
판단부(817)는, 3차원 맵 정보의 좌표계와 차량 외부 영상의 좌표계가 3차원 좌표계로 통일된 상태에서, 차량(100)에서 관심 지점을 볼 때, 소정의 오브젝트가 관심 지점을 가리는지 여부로 겹침 상태를 판단할 수 있다.
여기서, 오브젝트는, 차량 외부 영상에서 차량(100)과 관심 지점을 제외한 다른 물체를 의미할 수 있다. 예를 들면, 오브젝트는, 타 차량일 수 있다. 예를 들면, 오브젝트는, 가로등, 가로수, 건물, 전봇대, 신호등, 다리 등의 구조물일 수 있다. 예를 들면, 오브젝트는, 산, 언덕 등의 지형물일 수 있다.
판단부(817)는, 판단 결과를 디스플레이 제어부(821) 및 신호 출력부(822)에 제공할 수 있다.
타 차량 영상 획득부(818)는, 인터페이스부 및 통신 장치(400)를 통해 타 차량으로부터 영상을 획득할 수 있다. 여기서, 영상은, 관심 지점 주변에 위치한 타 차량으로부터 수신한 관심 지점 주변 영상일 수 있다.
디스플레이 제어부(821)는, 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 관심 지점에 대응되는 제1 영역을 지시하는 그래픽 객체가 차량 외부 영상 위에 증강 현실(AR : Augmented Reality)로 표시되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 그래픽 객체가 주행 차로 쪽에서 관심 지점에 대응되는 제1 영역을 지시하도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 차량 외부 영상에서, 제1 영역이 주행 차로의 왼쪽에 위치한 경우, 그래픽 객체를 제1 영역의 오른쪽에 표시하도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 차량 외부 영상에서, 제1 영역이 주행 차로의 오른쪽에 위치한 경우, 그래픽 객체를 제1 영역의 왼쪽에 표시하도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 그래픽 객체가 차량(100)을 기준으로 제1 영상에서 건물의 형상이 나타나는 영역을 지시하도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 그래픽 객체가, 차량 외부 영상에서 오브젝트에 대응되지 않는 영역에 표시되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 그래픽 객체가, 외부 차량 영상에서 오브젝트에 대응되는 영역에 표시되는 경우, 오브젝트에 투명도가 부여되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 그래픽 객체가 차량 외부 영상에서 오브젝트에 대응되는 영역에 표시되는 경우, 오브젝트의 적어도 일부가 제거되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 판단부(817)의 판단 결과를 기초로, 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 오브젝트에 투명도를 부여하도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 오브젝트가 제거되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 차량 외부 영상에서, 그래픽 객체가, 시간의 흐름에 따라, 점차적으로 제1 지점에서, 제2 지점으로 이동되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 그래픽 객체가 오브젝트에 대응되는 영역에 표시되는 경우, 그래픽 객체에 투명도를 부여하도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 탑뷰 영상이 더 표시되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 탑뷰 영상에서 관심 지점에 대응되는 영역이 하이라이트 처리되도록 디스플레이부(251)를 제어할 수 있다.
디스플레이 제어부(821)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 타 차량이 획득한 영상이, 차량(100)의 시점에서 표시되도록 디스플레이부(270)를 제어할 수 있다.
디스플레이 제어부(821)는, 오브젝트가, 차량(100)과 관심 지점 사이에 위치하는 경우, 차량(100)이 위치한 지점부터, 관심 지점까지의 주행 시뮬레이션 영상이 표시되도록 디스플레이부(251)를 제어할 수 있다.
신호 출력부(822)는, 판단 결과에 기초하여, 동력원, 브레이크 장치 및 조향 장치 중 적어도 어느 하나를 제어하기 위한 신호를 제공할 수 있다.
신호 출력부(822)는, 인터페이스부(245)를 통해, 차량 구동 장치(600)에 신호를 제공할 수 있다.
도 9는 본 발명의 실시예에 따라 그래픽 객체를 표시하는 동작을 설명하는데 참조되는 도면이다.
도 10은 본 발명의 실시예에 따른 그래픽 객체의 바람직한 표시 영역을 설명하는데 참조되는 도면이다.
도 9 내지 도 10을 참조하면, 프로세서(270)는, 인터페이스부(245)를 통해, 차량 외부 영상을 수신할 수 있다. 예를 들면, 차량 외부 영상은, 차량의 전방 영상일 수 있다.
카메라(310)는, 차량 주변 영상을 차량(100) 주행 중에 지속적으로 촬영한다. 프로세서(270)는, 인터페이스부(245)를 통해, 차량 외부 영상을 지속적으로 수신할 수 있다.
도 9에서 지시 부호 900은, 차량 외부 영상 중 정지 영상을 예시한다.
프로세서(270)는, 차량 외부 영상(900)에서, 기 설정된 관심 지점에 대응되는 제1 영역(920, 940)을 특정할 수 있다.
제1 영역(920, 940)은, 차량 외부 영상(900)에서 관심 지점에 해당되는 부분을 의미할 수 있다.
가령, 제1 건물이 목적지로 설정되어, 관심 지점으로 기 설정된 경우, 프로세서(270)는, 제1 건물에 대응되는 차량 외부 영상(900)의 영역(920)을 제1 영역으로 특정할 수 있다.
가령, 제2 건물이 경유지로 설정되어, 관심 지점으로 기 설정된 경우, 프로세서(270)는, 제2 건물에 대응되는 차량 외부 영상(900)의 영역(940)을 제2 영역으로 특정할 수 있다.
프로세서(270)는, 제1 영역을 지시하는 그래픽 객체(930, 950)가 차량 외부 영상(900) 위에 증강 현실로 표시되도록 디스플레이부(251)를 제어할 수 있다.
그래픽 객체(930)는, 본체부(931)와 지시부(932)를 포함할 수 있다.
본체부(931)는, 관심 지점의 정보를 표시하는 영역일 수 있다. 프로세서(270)는, 본체부(931) 상에, 관심 지점과 관련된 텍스트가 표시되도록 디스플레이부(251)를 제어할 수 있다.
지시부(932)는, 제1 영역(920)을 지시하는 영역을 수 있다.
프로세서(270)는, 그래픽 객체(930, 950)가, 주행 차로(910) 쪽에서 관심 지점에 대응되는 제1 영역을 지시하도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 차량 외부 영상에서, 제1 영역(920)이 주행 차로(910)의 왼쪽에 위치한 경우, 그래픽 객체(930)를 제1 영역(920)의 오른쪽에 표시하도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 그래픽 객체(930)를, 차량 외부 영상(900)에서, 제1 영역(920)의 오른쪽에 표시하되, 하늘이 표시되는 영역(1011), 주행 차로(910)의 오른쪽 건너편 영역(1012) 및 도로 영역(1013) 중 적어도 어느 하나의 영역에 표시할 수 있다.
프로세서(270)는, 차량 외부 영상에서, 제1 영역(940)이 주행 차로(910)의 오른쪽에 위치한 경우, 그래픽 객체(950)를 제1 영역(940)의 왼쪽에 표시하도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 그래픽 객체(950)를, 차량 외부 영상(900)에서, 제1 영역(940)의 왼쪽에 표시하되, 하늘이 표시되는 영역(1021), 주행 차로(910)의 왼쪽 건너편 영역(1022) 및 도로 영역(1023) 중 적어도 어느 하나의 영역에 표시할 수 있다.
도 11은 본 발명의 실시예에 따라 차량과 관심 지점과의 거리에 기초한 제1 영역의 지시 위치를 설명하는데 참조되는 도면이다.
도 11을 참조하면, 프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300) 또는 내비게이션 시스템(770)으로부터 차량(100)과 관심 지점과의 거리 정보를 수신할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점과의 거리에 기초하여, 그래픽 객체가 지시하는 제1 영역의 지시 위치를 결정할 수 있다.
프로세서(270)는, 기 설정된 복수의 구간 중, 차량(100)과 관심 지점과의 거리가 해당되는 구간에 따라, 제1 영역의 지시 위치를 결정할 수 있다.
한편, 차량(100)과 관심 지점과의 거리가 가까워질수록, 관심 지점에 대응되는 제1 영역의 크기는, 차량 외부 영상에서 점점 커질 수 있다.
제1 영역의 크기 변화에 따라, 프로세서(270)는, 그래픽 객체(1111, 1121, 1131)가 제1 영역을 지시하는 지시 위치를 변경할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 원거리(1110)에 해당하는 경우, 프로세서(270)는, 그래픽 객체(1111)가 제1 영역(1100)의 상단을 지시하도록 디스플레이부(251)를 제어할 수 있다. 여기서, 원거리는, 차량(100)과 관심 지점과의 거리가 500m 이상의 거리이다.
예를 들면, 차량(100)과 관심 지점과의 거리가 중거리(1120)에 해당하는 경우, 프로세서(270)는, 그래픽 객체(1121)가 제1 영역(1100)의 좌측 상단을 지시하도록 디스플레이부(251)를 제어할 수 있다. 여기서, 중거리는, 차량(100)과 관심 지점과의 거리가 200m에서 500m 사이의 거리이다.
예를 들면, 차량(100)과 관심 지점과의 거리가 근거리(1130)에 해당하는 경우, 프로세서(270)는, 그래픽 객체(1131)가 제1 영역(1100)의 좌측 중단을 지시하도록 디스플레이부(251)를 제어할 수 있다. 여기서, 단거리는, 차량(100)과 관심 지점과의 거리가 50m이하의 거리이다.
도 12는 본 발명의 실시예에 따라 차량과 관심 지점과의 거리에 기초한 그래픽 객체의 투명도를 설명하는데 참조되는 도면이다.
도 12를 참조하면, 프로세서(270)는, 인터페이스부(245)를 통해, 오브젝트 검출 장치(300) 또는 내비게이션 시스템(770)으로부터 차량(100)과 관심 지점과의 거리 정보를 수신할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점과의 거리에 기초하여, 그래픽 객체의 색, 크기 및 투명도 중 적어도 어느 하나를 결정할 수 있다.
프로세서(270)는, 기 설정된 복수의 구간 중, 차량(100)과 관심 지점과의 거리가 해당되는 구간에 따라, 그래픽 객체의 색, 크기 및 투명도 중 적어도 어느 하나를 결정할 수 있다.
한편, 차량(100)과 관심 지점과의 거리가 가까워질수록, 관심 지점에 대응되는 제1 영역의 크기는, 차량 외부 영상에서 점점 커질 수 있다.
제1 영역의 크기 변화에 따라, 프로세서(270)는, 그래픽 객체(1211, 1221, 1231)의 크기 또는 투명도를 변경할 수 있다.
예를 들면, 차량(100)과 관심 지점과의 거리가 원거리(1210)에 해당하는 경우, 프로세서(270)는, 그래픽 객체(1211)가 제1 색, 제1 크기 또는 제1 투명도로 표시되도록 디스플레이부(251)를 제어할 수 있다. 여기서, 원거리는, 차량(100)과 관심 지점과의 거리가 500m 이상의 거리이다.
예를 들면, 차량(100)과 관심 지점과의 거리가 중거리(1220)에 해당되는 경우, 프로세서(270)는, 그래픽 객체(1221)가 제2 색, 제2 크기 또는 제2 투명도로 표시되도록 디스플레이부(251)를 제어할 수 있다. 여기서, 중거리는, 차량(100)과 관심 지점과의 거리가 200m에서 500m 사이의 거리이다.
예를 들면, 차량(100)과 관심 지점과의 거리가 근거리(1230)에 해당되는 경우, 프로세서(270)는, 그래픽 객체(1231)가 제3 색, 제3 크기 또는 제3 투명도로 표시되도록 디스플레이부(251)를 제어할 수 있다. 여기서, 단거리는, 차량(100)과 관심 지점과의 거리가 50m이하의 거리이다.
도 13은 본 발명의 실시예에 따라, 2D 좌표계에 기초한 겹침 판단 동작을 설명하는데 참조되는 도면이다.
도 13을 참조하면, 프로세서(270)는, 3D 맵 정보 및 차량 외부 영상을 획득할 수 있다. 3차원 맵 정보는 3차원 좌표계에 기초한다. 차량 외부 영상은 2차원 좌표계에 기초한다.
프로세서(270)는, 3차원 맵 정보를 2차원 맵 정보로 변환할 수 있다. 프로세서(270)는, 차량 외부 영상에 2차원 맵 정보를 부가하여, 2차원 좌표계로 통일할 수 있다.
프로세서(270)는, 2차원 좌표계로 통일된 상태에서, 차량 외부 영상과 2차원 맵을 비교하여, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다.
예를 들면, 프로세서(270)는, 관심 지점과 소정의 오브젝트가 겹쳐지는 픽셀이 존재하는지 여부로 겹침 상태를 판단할 수 있다.
도 14는 본 발명의 실시예에 따라 3D 좌표계에 기초한 겹침 판단 동작을 설명하는데 참조되는 도면이다.
도 14를 참조하면, 프로세서(270)는, 3D 맵 정보 및 차량 외부 영상을 획득할 수 있다. 프로세서(270)는, 차량 외부 영상에 포함된 복수의 오브젝트들의, 위치 정보, 크기 정보 및 디스패러티 정보를 수신할 수 있다.
3차원 맵 정보는 3차원 좌표계에 기초한다. 차량 외부 영상은 2차원 좌표계에 기초한다.
프로세서(270)는, 3차원 맵 정보에 복수의 오브젝트들의, 위치 정보, 크기 정보 및 디스패러티 정보를 부가하여 3차원 좌표계로 통일할 수 있다.
프로세서(270)는, 3차원 좌표계로 통일된 상태에서, 3차원 맵 상에 복수의 오브젝트들의 위치 정보, 크기 정보 및 디스패러티 정보를 반영하여, 차량(100)과 관심 지점 사이에 오브젝트가 위치하는지 판단할 수 있다.
예를 들면, 프로세서(270)는, 차량(100)에서 관심 지점을 볼 때, 소정의 오브젝트가 관심 지점을 가리는지 여부로 겹침 상태를 판단할 수 있다.
도 15 내지 도 17은 본 발명의 실시예에 따라 겹침 상태 판단시, 그래픽 효과를 부여하는 동작을 설명하는데 참조되는 도면이다.
도 15에 예시된 바와 같이, 차량(100)과 관심 지점(1510) 사이에 오브젝트(1520)가 위치할 수 있다.
이경우, 프로세서(270)는, 관심 지점(1510)이 오브젝트(1520)에 의해 겹쳐진 상태를 판단할 수 있다.
관심 지점(1510)이 오브젝트(1520)와 겹침 상태로 판단되는 경우, 도 16에 예시된 바와 같이, 프로세서(270)는, 오브젝트(1520)에 투명도를 부여하도록 디스플레이부(251)를 제어할 수 있다.
관심 지점(1510)이 오브젝트(1520)와 겹침 상태로 판단되는 경우, 도 17에 예시된 바와 같이, 프로세서(270)는, 오브젝트가 제거되도록 디스플레이부(251)를 제어할 수 있다.
이와 같이 제어함으로써, 사용자가 차량(100) 기준으로 오브젝트 뒤쪽에 위치한 관심 지점을 확인하고, 인지할 수 있는 효과가 있다.
도 18은 본 발명의 실시예에 따라 겹침 상태 판단시, 애니메이션 효과를 부여하는 동작을 설명하는데 참조되는 도면이다.
도 18을 참조하면, 관심 지점이 오브젝트와 겹침 상태로 판단되는 경우, 프로세서(270)는, 그래픽 객체(1820, 1830)에 애니메이션 효과를 부여하도록 디스플레이부(251)를 제어할 수 있다.
도 18에 예시된 바와 같이, 오브젝트가 차량(100)과 관심 지점(1810) 사이에 위치하여, 차량(100)에서 관심 지점이 안보일 수 있다.
이경우, 프로세서(270)는, 그래픽 객체(1820, 1830)가, 시간의 흐름에 따라, 점차적으로 제1 지점(1820)에서 제2 지점(1830)으로 이동되도록 디스플레이부(251)를 제어할 수 있다.
여기서, 차량 외부 영상에서 제2 지점(1830)은, 제1 지점(1820)보다, 관심 지점에 대응되는 제1 영역에 더 가까운 지점일 수 있다.
한편, 실시예에 따라, 프로세서(270)는, 차량(100)과 관심 지점의 거리에 기초하여, 그래픽 객체(1820, 1830)의 움직임 속도를 가변할 수 있다.
프로세서(270)는, 차량(100)과 관심 지점의 거리가 가까워질수록, 그래픽 객체(1820, 1830)의 움직임 속도를 점차적으로 빠르게 변경할 수 있다.
프로세서(270는, 차량(100)과 관심 지점의 거리가 멀어질수록, 그래픽 객체(1820, 1830)의 움직임 속도를 점차적으로 느리게 변경할 수 있다.
이와 같이, 차량(100)과 관심 지점의 거리에 기초하여 그래픽 객체(1820, 1830)의 움직임 속도를 가변함으로써, 사용자가 차량(100)과 관심 지점과의 거리를 직관적으로 인식하게하는 효과가 있다.
도 19은 본 발명의 실시예에 따라 겹침 상태 판단시, 탑뷰 영상을 표시하는 동작을 설명하는데 참조되는 도면이다.
도 19를 참조하면, 관심 지점이 오브젝트와 겹침 상태로 판단되는 경우, 프로세서(270)는, 탑뷰 영상(1991)이 더 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 탑뷰 영상(1991)에 그래픽 객체(1992)를 오버레이하여 표시할 수 있다.
프로세서(270)는, 탑뷰 영상(1991)에서 관심 지점에 대응되는 영역이 하이라이트 처리되도록 디스플레이부(251)를 제어할 수 있다.
한편, 탑뷰 영상(1991)은, 차량 외부 영상이 표시되는 영역 중 어느 하나의 영역에 표시될 수 있다.
이와 같이 제어함으로써, 관심 지점이, 오브젝트에 가려진 경우, 사용자는, 탑뷰 영상을 통해, 차량과, 관심 지점과, 오브젝트의 위치 관계를 정확하게 파악하여, 주행 상황을 인지할 수 있다.
도 20은 본 발명의 실시예에 따라 겹침 상태 판단시, 주행 시뮬레이션 영상을 표시하는 동작을 설명하는데 참조되는 도면이다.
도 20을 참조하면, 관심 지점이 오브젝트와 겹침 상태로 판단되는 경우, 프로세서(270)는, 차량(100)이 위치한 지점부터, 관심 지점까지의 주행 시뮬레이션 영상이 표시되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 인터페이스부(245) 및 통신 장치(400)를 통해, 웹 서버로부터 차량(100)이 위치한 지점부터, 관심 지점까지의 도로 이미지를 획득할 수 있다. 도로 이미지는, 도로 및 도로 주변을 촬영한 복수의 이미지일 수 있다.
프로세서(270)는, 차량(100)이 움직이듯이 표현되게, 시간의 흐름에 따라, 변경되는 도로 이미지가 표시되도록 디스플레이부(251)를 제어할 수 있다.
예를 들면, 프로세서(270)는, 제1 시간에, 차량(100)이 제1 지점에 위치할 때 표시가능한 제1 도로 이미지가 표시되도록 디스플레이부(251)를 제어할 수 있다.
이후에, 프로세서(270)는, 제2 시간에, 차량(100)이 제2 지점에 위치할 때 표시가능한 제2 도로 이미지가 표시되도록 디스플레이부(251)를 제어할 수 있다.
이후에, 프로세서(270)는, 차량(100)이 관심 지점에 도착할때까지 시간에 흐름에 따라 표시가능한 도로 이미지가 표시되도록 디스플레이부(251)를 제어할 수 있다.
도 21a는 본 발명의 실시예에 따른 그래픽 객체 표시 영역을 설명하는데 참조되는 도면이다.
프로세서(270)는, 그래픽 객체가, 차량 외부 영상에서 오브젝트에 대응되지 않는 영역(2110)에 표시되도록 디스플레이부(251)를 제어할 수 있다.
여기서 오브젝트는, 차선, 타 차량, 보행자, 이륜차, 교통 신호, 빛, 도로, 구조물, 과속 방지턱, 지형물, 동물 등을 포함할 수 있다.
예를 들면, 프로세서(270)는, 그래픽 객체(2120, 2130)가 하늘이 표시된 영역(2110)에 표시되도록 디스플레이부(251)를 제어할 수 있다.
그래픽 객체(2120, 2130)는, 복수일 수 있다. 관심 지점이 복수인경우, 프로세서(270)는, 복수의 관심 지점 각각에 대응되는 그래픽 객체(2120, 2130)를 표시할 수 있다. 이경우, 프로세서(270)는, 제1 그래픽 객체를 제2 그래픽 객체보다 더 크게 표시하도록 디스플레이부(251)를 제어할 수 있다.
여기서, 제1 그래픽 객체는, 제1 관심 지점에 대응될 수 있다. 제2 그래픽 객체는, 제2 관심 지점에 대응될 수 있다. 차량(100)과 제1 관심 지점과의 제1 거리는, 차량(100)과 제2 관심 지점과의 제2 거리보다 작을 수 있다.
도 21b는 본 발명의 실시예에 따라 그래픽 객체를 오브젝트 위에 표시하는 동작을 설명하는데 참조되는 도면이다.
프로세서(270)는, 그래픽 객체(1530)가 차량 외부 영상에서 오브젝트(1520)에 대응되는 영역에 표시되는 경우, 오브젝트의 적어도 일부(1521)가 제거되도록 디스플레이부(251)를 제어할 수 있다.
프로세서(270)는, 그래픽 객체(1530)가, 외부 차량 영상에서 오브젝트(1520)에 대응되는 영역에 표시되는 경우, 오브젝트(1520)에 투명도가 부여되도록 디스플레이부(251)를 제어할 수 있다.
도 22는 본 발명의 실시예에 따라 디스플레이부(251)가 윈드 쉴드를 통해 증강현실 이미지를 구현하는 동작을 설명하는데 참조되는 개념도이다.
도 22에서, 디스플레이부(251)는 HUD인 것으로 가정한다.
이하의 설명에서, 증강현실 이미지는 그래픽 객체의 일 예일 수 있다.
도 22를 참조하면, 디스플레이부(251)는 디스플레이 패널(1942), 제1 미러(1944), 제2 미러(1946)를 포함할 수 있다.
디스플레이 패널(1942)에는 백 라이트 유닛이 구비되어, 프로세서(270)의 제어에 따라, 증강현실 이미지를 구현하기 위한 표시광을 윈드 쉴드(WS)를 향하여 투영할 수 있다.
프로세서(270)는 내부 카메라(220), 실외 카메라(310) 및 디스플레이 패널(1942)과 기능적으로 연결되어, 내부 카메라(220) 및/또는 실외 카메라(310)로부터 제공되는 영상을 기초로, 특정 증강현실 이미지를 구성하기 위한 영상 데이터를 생성하고, 이를 디스플레이 패널(1942)에 제공할 수 있다. 예컨대, 증강현실 이미지를 구성하기 위한 영상 데이터는 비트맵(bit map) 형식일 수 있다.
일 실시예에서, 프로세서(270)는 실외 카메라(310)로부터 제공되는 전방 영상을 기초로, 차량(100)의 전방에 존재하는 특정 오브젝트(1901)를 검출하고, 검출된 오브젝트(1901)에 대응하는 증강현실 이미지를 구성하기 위한 영상 데이터를 디스플레이 패널(1942)에 제공할 수 있다.
디스플레이 패널(1942)은 프로세서(270)로부터 제공되는 영상 데이터를 기초로, 증강현실 이미지에 대응하는 표시광을 제1 미러(1944)로 출력할 수 있다. 제2 미러(1946)는 제1 미러(1944)로부터 반사된 표시광을 윈드 쉴드(WS)에 재 반사함으로써, 윈드 쉴드(WS)를 통해 증강현실 이미지가 구현되도록 할 수 있다. 디스플레이 패널(1942)로부터 윈드 쉴드(WS)까지의 광학 경로(optical path)에 의해, 증강현실 이미지에 대응하는 표시광의 사이즈가 확대되거나 윈드 쉴드(WS)에 대한 투영 위치가 조절될 수 있다.
한편, 제2 미러(1946)에 의해 반사된 표시광은 윈드 쉴드(WS)의 미리 정해진 영역(이하, 표시 영역) 내에 투영될 수 있다. 표시 영역(1920)에는 증강현실 이미지(1930)가 보다 선명하게 보일 수 있도록 반사 필름이 부착될 수 있다.
이때, 윈드 쉴드(WS)에 투영된 표시광에 의해 증강현실 이미지가 구현되는데, 운전자의 위치에서는 증강현실 이미지(1930)가 윈드 쉴드(WS)의 표시 영역(1920)이 아닌, 표시 영역(1920) 너머의 차량(100) 외부에 표시되는 것으로 보일 수 있다. 즉, 증강현실 이미지(1930)는 차량(100)의 전방으로 소정 거리 앞에 마치 떠있는 것처럼 보이는 허상으로 인식될 수 있다. 예컨대, 증강현실 이미지(1930)는 오브젝트(1901)의 윤곽선, 속도, 충돌 경보 등에 대한 정보를 제공하는 그래픽 객체일 수 있다.
디스플레이부(251)가 허상을 통해 증강현실 이미지(1930)를 구현하는 경우, 운전자가 표시 영역(1920)을 통해 증강현실 이미지(1930)를 인지하기 위해서는, 운전자의 눈 위치가 아이 박스(1910) 내에 위치해야 한다. 아이 박스(1910)는 3차원의 부피를 가지는 차량(100) 실내의 공간으로서, 운전자의 눈이 아이 박스(1910) 내에 위치하는 경우, 표시 영역(1920)을 통해 증강현실 이미지(1930)를 확인할 수 있다. 반면, 운전자의 눈이 아이 박스(1910) 밖으로 벗어나는 경우, 증강현실 이미지(1930)의 일부분만이 보이거나, 증강현실 이미지(1930)가 전부 보이지 않을 수 있다. 메모리(240)에는 아이 박스(1910)의 경계를 정의하는 좌표값들이 미리 저장될 수 있다.
한편, 운전자의 눈이 아이 박스(1910) 내에 위치하는 경우, 운전자가 증강현실 이미지(1930)를 인지할 수 있다고 하더라도, 아이 박스(1910) 내에서의 눈 위치 변화에 따라, 운전자가 표시 영역(1920)을 통해 인지하게 되는 오브젝트(1901)의 실제 이미지와 증강현실 이미지(1930) 사이에는 오차가 발생할 수 있다. 이는, 운전자의 위치를 기준으로 할때, 증강현실 이미지(1930)까지의 거리와 오브젝트(1901)까지의 거리가 상이하기 때문에 발생하는 현상이며, 오브젝트(1901)가 상대적으로 멀어질수록 증강현실 이미지(1930)와의 오차는 점차적으로 증대될 수 있다. 이러한 오차를 저감 내지 해소하기 위해, 프로세서(270)는 운전자의 눈 위치를 기초로, 증강현실 이미지(1930)를 후처리할 수 있다.
구체적으로, 프로세서(270)는 내부 카메라(220)로부터 제공되는 운전자 영상으로부터, 운전자의 눈 위치를 검출할 수 있다. 일 실시예에서, 프로세서(270)는 아이 트래킹(eye tracking) 기법을 이용하여, 운전자 영상에 나타나는 운전자의 눈을 검출하고, 검출된 눈의 3차원 좌표값을 산출할 있다. 다른 실시예에서, 프로세서(270)는 에지 검출(edge detection) 기법을 이용하여, 운전자 영상으로부터 운전자의 얼굴 윤곽선을 추출하고, 추출된 윤곽선을 기초로, 운전자의 눈 위치를 추정할 수 있다.
메모리(240)에는 기준 위치에 대한 정보가 미리 설정될 수 있고, 프로세서(270)는 운전자의 눈 위치를 기준 위치와 비교하여, 기준 위치에 대한 눈 위치의 방향 및 거리를 산출할 수 있다. 즉, 프로세서(270)는 운전자의 현재 눈 위치가 기준 위치로부터 어느 방향으로 얼마만큼 떨어져 있는지 판단할 수 있다.
프로세서(270)는 기준 위치에 대한 눈 위치의 방향 및 거리에 따라, 증강현실 이미지에 대한 후처리에 적용할 시각 효과를 결정할 수 있다. 아울러, 프로세서(270)는 결정된 시각 효과의 크기를 결정할 수도 있다.
프로세서(270)는 결정된 시각 효과를 이용하여 증강현실 이미지(1930)를 후처리함으로써, 아이 박스(1910) 내에서의 눈 위치 변화에 따라 발생하는 오브젝트(1901)의 실제 이미지와의 오차를 억제하고, 보다 향상된 이미지 간 매칭 결과를 운전자에게 제공할 수 있다.
증강현실 이미지에 대한 후처리에 적용 가능한 시각 효과는, 증강현실 이미지에 대한 블러링(blurring), 위치 변경, 크기 변경, 형상 변경 및 기울기 변경 중 적어도 하나를 포함할 수 있다. 일 예로, 운전자의 눈 위치가 y축을 따라 좌우로 변화됨에 따라, 증강현실 이미지와 오브젝트의 실제 이미지 간에 수평적 오차가 발생한 경우, 프로세서(270)는 증강현실 이미지를 실제 이미지 쪽으로 수평적으로 이동시키거나, 증강현실 이미지의 폭 확장, 또는 증강현실 이미지의 적어도 일부분에 대한 블러링(blurring) 등의 시각 효과를 통해, 두 이미지 간의 불일치를 보상할 수 있다.
도 23a 내지 도 23b는 본 발명의 실시예에 따라 차량의 주행 상태에 기초하여 표시되는 그래픽 객체 및 정보를 설명하는데 참조되는 도면이다.
프로세서(270)는, 인터페이스부(245)를 통해, 센싱부(125)로부터, 주행 상태 정보를 수신할 수 있다.
주행 상태 정보는, 차량(100)이 주행 중인 상태인지 정지 상태인지에 대한 정보, 차량(100)의 주행 속도 정보를 포함할 수 있다.
도 23a에 예시된 바와 같이, 차량(100)이 주행 중인 상태인 경우, 프로세서(270)는, 그래픽 객체(2310)가 차량 외부 영상에 증강 현실로 표시되도록 디스플레이부(251)를 제어할 수 있다.
차량(100)이 저속 주행 상태가 아닌 경우, 프로세서(270)는, 그래픽 객체(2310)가 차량 외부 영상에 증강 현실로 표시되도록 디스플레이부(251)를 제어할 수 있다.
도 23b에 예시된 바와 같이, 차량(100)이 정지 상태인 경우, 프로세서(270)는, 그래픽 객체(2310)와 함께, 관심 지점에 대한 다양한 정보가 표시되도록 디스플레이부(251)를 제어할 수 있다.
차량(100)이 저속 주행 상태인 경우(예를 들면, 시속 20km이하로 주행 중인 경우), 프로세서(270)는, 그래픽 객체(2310)와 함께, 관심 지점에 대한 다양한 정보가 표시되도록 디스플레이부(251)를 제어할 수 있다.
관심 지점에 대한 정보는, 차량(100)과 관심 지점까지의 거리 정보, 관심 지점의 주차장 입구의 위치 정보, 관심 지점의 주차 비용 정보 및 관심 지점의 주차 공간 정보 중 적어도 어느 하나를 포함할 수 있다.
한편, 차량(100)이 정지 상태 또는 저속 주행 상태에서 저속 주행 상태가 아닌 상태로 주행하는 경우, 프로세서(270)는, 관심 지점에 대한 정보를 제거하고, 그래픽 객체(2310)만 표시되도록 디스플레이부(251)를 제어할 수 있다.
이와 같이, 차량(100)이 주행 상태인 경우에는, 그래픽 객체만 표시하고, 차량(100)이 정지 상태이거나 저속 주행 상태인 경우, 사용자에게 유용한 정보를 제공함으로써, 안전 운전을 유도하는 효과가 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 프로세서 또는 제어부를 포함할 수도 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
100 : 차량
200 : 차량용 사용자 인터페이스 장치

Claims (20)

  1. 디스플레이부;
    인터페이스부; 및
    상기 인터페이스부를 통해, 차량 외부 영상을 수신하고,
    상기 차량 외부 영상에서 기 설정된 관심 지점(POI : Point of Interest)에 대응되는 제1 영역을 특정하고,
    상기 제1 영역을 지시하는 그래픽 객체가 상기 차량 외부 영상 위에 증강 현실로 표시되도록 상기 디스플레이부를 제어하고,
    상기 그래픽 객체가 주행 차로 쪽에서 상기 제1 영역을 지시하도록 상기 디스플레이부를 제어하는 프로세서;를 포함하고,
    상기 프로세서는,
    상기 차량과 상기 관심 지점 사이의 거리가 가까워질수록, 상기 차량 외부 영상 상에서, 상기 제1 영역의 크기 증가에 대응하여, 상기 제1 영역을 지시하는 상기 그래픽 객체의 지시 위치가, 상기 제1 영역의 상단 방향에서 하단 방향으로 이동되도록 제어하며,
    상기 프로세서는,
    상기 관심 지점이, 상기 차량 외부 영상 내의 소정 오브젝트와 겹침으로 판단되는 경우, 상기 차량 외부 영상 내의 제2 영역에, 상기 관심 지점과, 상기 그래픽 객체에 대응하며 상기 그래픽 객체의 사이즈 보다 작은 사이즈의 제2 그래픽 객체를 포함하는 탑뷰 영상을 표시하도록 제어하는 차량용 사용자 인터페이스 장치.
  2. 삭제
  3. 제 1항에 있어서,
    상기 관심 지점은, 건물이고,
    상기 프로세서는,
    상기 차량 외부 영상에서, 상기 건물에 대응되는 상기 제1 영역을 특정하고,
    상기 그래픽 객체가, 차량을 기준으로, 상기 제1 영역에서 상기 건물의 형상이 나타나는 영역을 지시하도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  4. 제 1항에 있어서,
    상기 프로세서는,
    차량과 상기 관심 지점과의 거리에 기초하여, 상기 그래픽 객체가 지시하는 상기 제1 영역의 지시 위치를 결정하는 차량용 사용자 인터페이스 장치.
  5. 제 4항에 있어서,
    상기 프로세서는,
    기 설정된 복수의 구간 중, 상기 거리가 해당되는 구간에 따라, 상기 제1 영역의 지시 위치를 결정하는 차량용 사용자 인터페이스 장치.
  6. 제 1항에 있어서,
    상기 프로세서는,
    차량과 상기 관심 지점과의 거리에 기초하여, 상기 그래픽 객체의 색, 크기 및 투명도 중 적어도 어느 하나를 결정하는 차량용 사용자 인터페이스 장치.
  7. 제 6항에 있어서,
    상기 프로세서는,
    기 설정된 복수의 구간 중, 상기 거리가 해당되는 구간에 따라, 상기 그래픽 객체의 색, 크기 및 투명도 중 적어도 어느 하나를 결정하는 차량용 사용자 인터페이스 장치.
  8. 삭제
  9. 제 1항에 있어서,
    상기 프로세서는,
    상기 인터페이스부를 통해, 내비게이션 정보를 수신하고,
    상기 차량 외부 영상 및 상기 내비게이션 정보를 기초로, 차량과 상기 관심 지점 사이에 오브젝트가 위치하는지 판단하는 차량용 사용자 인터페이스 장치.
  10. 제 9항에 있어서,
    상기 내비게이션 정보는 3차원 맵 정보를 포함하고,
    상기 프로세서는,
    상기 3차원 맵 정보를 2차원 맵으로 변환하고,
    상기 차량 외부 영상과 상기 2차원 맵을 비교하여, 차량과 상기 관심 지점 사이에 오브젝트가 위치하는지 판단하는 차량용 사용자 인터페이스 장치.
  11. 제 9항에 있어서,
    상기 내비게이션 정보는 3차원 맵 정보를 포함하고,
    상기 프로세서는,
    상기 인터페이스부를 통해, 상기 차량 외부 영상에 포함된 복수의 오브젝트들의, 위치 정보, 크기 정보 및 디스패러티 정보를 수신하고,
    상기 3차원 맵 상에 상기 복수의 오브젝트들의, 위치 정보, 크기 정보 및 디스패러티 정보를 반영하여, 차량과 상기 관심 지점 사이에 오브젝트가 위치하는지 판단하는 차량용 사용자 인터페이스 장치.
  12. 제 1항에 있어서,
    상기 프로세서는,
    상기 오브젝트가, 차량과 상기 관심 지점 사이에 위치하는 경우,
    상기 오브젝트에 투명도를 부여하거나, 상기 오브젝트가 제거되도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  13. 제 1항에 있어서,
    상기 프로세서는,
    상기 오브젝트가, 차량과 상기 관심 지점 사이에 위치하는 경우,
    상기 차량 외부 영상에서, 상기 그래픽 객체가, 시간의 흐름에 따라, 점차적으로 제1 지점에서, 상기 제1 지점보다 상기 제1 영역에 더 가까운 제2 지점으로 이동되도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  14. 제 13항에 있어서,
    상기 프로세서는,
    상기 그래픽 객체가 상기 오브젝트에 대응되는 영역에 표시되는 경우,
    상기 그래픽 객체에 투명도를 부여하도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  15. 삭제
  16. 제 1항에 있어서,
    상기 프로세서는,
    상기 탑뷰 영상에서, 상기 관심 지점에 대응되는 영역이 하이라이트 처리되도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  17. 제 1항에 있어서,
    상기 프로세서는,
    상기 오브젝트가, 차량과 상기 관심 지점 사이에 위치하는 경우,
    상기 관심 지점 주변에 위치한 타 차량이 획득한 영상을 수신하고, 상기 타 차량이 획득한 영상이, 차량의 시점에서 표시되도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  18. 제 1항에 있어서,
    상기 프로세서는,
    상기 오브젝트가, 차량과 상기 관심 지점 사이에 위치하는 경우,
    차량이 위치한 지점부터 상기 관심 지점까지의 주행 시뮬레이션 영상이 표시되도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  19. 제 1항에 있어서,
    상기 프로세서는,
    상기 그래픽 객체가, 상기 차량 외부 영상에서 오브젝트에 대응되지 않는 영역에 표시되도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.
  20. 제 1항에 있어서,
    상기 프로세서는,
    상기 그래픽 객체가, 상기 차량 외부 영상에서 오브젝트에 대응되는 영역에 표시되는 경우, 상기 오브젝트에 투명도가 부여되거나, 상기 오브젝트가 제거되도록 상기 디스플레이부를 제어하는 차량용 사용자 인터페이스 장치.


KR1020160113358A 2016-09-02 2016-09-02 차량용 사용자 인터페이스 장치 및 차량 KR102581359B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020160113358A KR102581359B1 (ko) 2016-09-02 2016-09-02 차량용 사용자 인터페이스 장치 및 차량
PCT/KR2017/009554 WO2018044098A1 (en) 2016-09-02 2017-08-31 Vehicle user interface apparatus and vehicle
US15/692,380 US10488218B2 (en) 2016-09-02 2017-08-31 Vehicle user interface apparatus and vehicle
EP17847023.3A EP3507125B1 (en) 2016-09-02 2017-08-31 Vehicle user interface apparatus and vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160113358A KR102581359B1 (ko) 2016-09-02 2016-09-02 차량용 사용자 인터페이스 장치 및 차량

Publications (2)

Publication Number Publication Date
KR20180026241A KR20180026241A (ko) 2018-03-12
KR102581359B1 true KR102581359B1 (ko) 2023-09-20

Family

ID=61281144

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160113358A KR102581359B1 (ko) 2016-09-02 2016-09-02 차량용 사용자 인터페이스 장치 및 차량

Country Status (4)

Country Link
US (1) US10488218B2 (ko)
EP (1) EP3507125B1 (ko)
KR (1) KR102581359B1 (ko)
WO (1) WO2018044098A1 (ko)

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102581359B1 (ko) * 2016-09-02 2023-09-20 엘지전자 주식회사 차량용 사용자 인터페이스 장치 및 차량
US20190249394A1 (en) * 2016-10-28 2019-08-15 Husqvarna Ab A demolition robot control device and system
US11118930B2 (en) * 2017-07-14 2021-09-14 Lyft, Inc. Providing information to users of a transportation system using augmented reality elements
CN110019580B (zh) * 2017-08-25 2022-07-12 腾讯科技（深圳）有限公司 地图显示方法、装置、存储介质及终端
US11227494B1 (en) * 2017-09-29 2022-01-18 Apple Inc. Providing transit information in an augmented reality environment
US10891800B1 (en) 2017-09-29 2021-01-12 Apple Inc. Providing features of an electronic product in an augmented reality environment
KR102306790B1 (ko) 2017-11-08 2021-09-30 삼성전자주식회사 컨텐츠 시각화 장치 및 방법
KR20190063845A (ko) * 2017-11-30 2019-06-10 삼성전자주식회사 차로 유지 보조 방법 및 장치
USD879138S1 (en) 2018-03-16 2020-03-24 Magic Leap, Inc. Display panel or portion thereof with a transitional graphical user interface
US20190378334A1 (en) * 2018-06-08 2019-12-12 Vulcan Inc. Augmented reality portal-based applications
WO2019237085A1 (en) 2018-06-08 2019-12-12 Vulcan Inc. Session-based information exchange
US10996831B2 (en) 2018-06-29 2021-05-04 Vulcan Inc. Augmented reality cursors
US10901416B2 (en) * 2018-07-19 2021-01-26 Honda Motor Co., Ltd. Scene creation system for autonomous vehicles and methods thereof
WO2020017677A1 (ko) * 2018-07-20 2020-01-23 엘지전자 주식회사 영상 출력 장치
KR102628276B1 (ko) * 2018-08-24 2024-01-24 현대자동차주식회사 차량 및 차량의 클러스터 제어방법
US10882537B2 (en) 2018-09-17 2021-01-05 GM Global Technology Operations LLC Dynamic route information interface
US20210310814A1 (en) * 2018-11-01 2021-10-07 Lg Electronics Inc. Vehicular electronic device, operation method of vehicular electronic device, and system
CN109739020A (zh) * 2018-11-21 2019-05-10 国家电网有限公司 用于电动汽车充电桩运维检修的可穿戴智能设备***
US11790613B2 (en) 2019-01-31 2023-10-17 Lg Electronics Inc. Image output device
KR20200095314A (ko) * 2019-01-31 2020-08-10 엘지전자 주식회사 차량 간 영상 공유 방법
WO2020196933A1 (ko) * 2019-03-22 2020-10-01 엘지전자 주식회사 차량용 전자 장치 및 차량용 전자 장치의 동작 방법
WO2020230551A1 (ja) * 2019-05-15 2020-11-19 日産自動車株式会社 車両の走行制御方法及び走行制御装置
US11398036B2 (en) 2019-11-19 2022-07-26 Snap Inc. World-space segmentation
KR102490309B1 (ko) * 2019-12-03 2023-01-20 엘지전자 주식회사 Ar 네비게이션의 화면 표시 방법 및 ar 네이게이션 시스템
KR102387501B1 (ko) * 2020-03-03 2022-04-19 주식회사 코아소프트 증강현실 제공장치 및 제공방법
KR102312017B1 (ko) * 2020-03-03 2021-10-14 주식회사 코아소프트 대화형 증강현실 콘텐츠 메시지의 커뮤니케이션 장치
KR20210131129A (ko) * 2020-04-23 2021-11-02 현대자동차주식회사 이동 수단용 ui 생성 장치 및 ui 생성 방법
DE102020207314A1 (de) * 2020-06-11 2021-12-16 Volkswagen Aktiengesellschaft Steuerung einer Anzeige einer Augmented-Reality-Head-up-Display-Vorrichtung für ein Fortbewegungsmittel
EP3932719B1 (en) * 2020-07-03 2024-04-24 Honda Research Institute Europe GmbH Method for assisting a user of an assistance system, assistance system and vehicle comprising such a system
KR20220036199A (ko) * 2020-09-15 2022-03-22 현대자동차주식회사 증강현실 기반의 정보 표시 장치
US12032803B2 (en) 2020-09-23 2024-07-09 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments
US11562528B2 (en) * 2020-09-25 2023-01-24 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments
US11615597B2 (en) * 2020-09-25 2023-03-28 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments
JP7170076B2 (ja) * 2020-10-28 2022-11-11 株式会社日本総合研究所 情報処理方法及び情報処理システム
US11954242B2 (en) 2021-01-04 2024-04-09 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments
KR20220117550A (ko) * 2021-02-17 2022-08-24 현대자동차주식회사 정보 표시 방법 및 정보 표시 방법을 실행하기 위한 프로그램이 저장된 컴퓨터로 판독 가능한 기록매체
JP7288472B2 (ja) * 2021-02-26 2023-06-07 矢崎総業株式会社 車両用表示装置
US12001642B2 (en) 2021-04-19 2024-06-04 Apple Inc. User interfaces for managing visual content in media
US20220334693A1 (en) 2021-04-19 2022-10-20 Apple Inc. User interfaces for managing visual content in media
US11696017B2 (en) 2021-05-19 2023-07-04 Apple Inc. User interface for managing audible descriptions for visual media
KR102482829B1 (ko) 2021-07-05 2022-12-29 주식회사 애니랙티브 차량용 ar 디스플레이 장치 및 ar 서비스 플랫폼
CN118139775A (zh) * 2021-10-20 2024-06-04 三星电子株式会社 安装在车辆上的电子设备及其操作方法
WO2023153764A1 (ko) * 2022-02-11 2023-08-17 엘지전자 주식회사 디지털 트윈 기반 충전소 관제 시스템
US11978265B2 (en) * 2022-03-11 2024-05-07 GM Global Technology Operations LLC System and method for providing lane identification on an augmented reality display
US11935200B2 (en) * 2022-03-18 2024-03-19 GM Global Technology Operations LLC System and method for displaying infrastructure information on an augmented reality display

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140362195A1 (en) * 2013-03-15 2014-12-11 Honda Motor, Co., Ltd. Enhanced 3-dimensional (3-d) navigation
US20150302645A1 (en) * 2012-11-27 2015-10-22 Sony Corporation Image processing device, image processing method, program, and terminal device
US20160240012A1 (en) * 2013-10-01 2016-08-18 Daimler Ag Method and Device for Augmented Depiction

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112010005944T5 (de) * 2010-10-19 2013-08-14 Mitsubishi Electric Corporation Stereoskopische Dreidimensionen-Anzeigevorichtung
DE102011084596A1 (de) * 2011-10-17 2013-04-18 Robert Bosch Gmbh Verfahren zum Assistieren eines Fahrers in einer fremden Umgebung
WO2013169601A2 (en) * 2012-05-07 2013-11-14 Honda Motor Co., Ltd. Method to generate virtual display surfaces from video imagery of road based scenery
KR20140058309A (ko) * 2012-11-06 2014-05-14 삼성전자주식회사 차량용 컨트롤 장치
US20140267282A1 (en) * 2013-03-14 2014-09-18 Robert Bosch Gmbh System And Method For Context Dependent Level Of Detail Adjustment For Navigation Maps And Systems
GB201318049D0 (en) * 2013-10-11 2013-11-27 Tomtom Int Bv Apparatus and methods of displaying navigation instructions
JP6304628B2 (ja) * 2014-05-12 2018-04-04 パナソニックＩｐマネジメント株式会社 表示装置および表示方法
KR101588184B1 (ko) * 2014-10-22 2016-01-25 현대자동차주식회사 차량용 제어 장치, 차량, 및 차량의 제어방법
KR101619392B1 (ko) * 2014-11-14 2016-05-10 현대자동차 주식회사 헤드업 디스플레이
US9417087B1 (en) * 2015-02-06 2016-08-16 Volkswagen Ag Interactive 3D navigation system
KR101916993B1 (ko) * 2015-12-24 2018-11-08 엘지전자 주식회사 차량용 디스플레이 장치 및 그 제어방법
US20170350718A1 (en) * 2016-06-03 2017-12-07 Toyota Motor Sales, U.S.A., Inc. Information-attainment system based on monitoring an occupant
KR102581359B1 (ko) * 2016-09-02 2023-09-20 엘지전자 주식회사 차량용 사용자 인터페이스 장치 및 차량

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150302645A1 (en) * 2012-11-27 2015-10-22 Sony Corporation Image processing device, image processing method, program, and terminal device
US20140362195A1 (en) * 2013-03-15 2014-12-11 Honda Motor, Co., Ltd. Enhanced 3-dimensional (3-d) navigation
US20160240012A1 (en) * 2013-10-01 2016-08-18 Daimler Ag Method and Device for Augmented Depiction

Also Published As

Publication number Publication date
EP3507125B1 (en) 2021-07-14
EP3507125A4 (en) 2020-04-22
WO2018044098A1 (en) 2018-03-08
US20180066956A1 (en) 2018-03-08
US10488218B2 (en) 2019-11-26
EP3507125A1 (en) 2019-07-10
KR20180026241A (ko) 2018-03-12

Similar Documents

Publication Publication Date Title
KR102581359B1 (ko) 차량용 사용자 인터페이스 장치 및 차량
KR101994698B1 (ko) 차량용 사용자 인터페이스 장치 및 차량
EP3499191B1 (en) Vehicle control device mounted on vehicle
KR102275507B1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
CN111225845B (zh) 驾驶辅助***以及包括驾驶辅助***的车辆
KR102077573B1 (ko) 자동 주차 시스템 및 차량
KR102001917B1 (ko) 차량용 주차 시스템 및 차량
KR101949352B1 (ko) 자율 주행 차량 및 자율 주행 차량의 동작 방법
KR102333765B1 (ko) 자율 주행 시스템 및 차량
KR20190033975A (ko) 차량의 운행 시스템을 제어하는 방법
KR20180058608A (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
KR101977092B1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
EP4083932A1 (en) Display device interworking with vehicle and operating method thereof
KR101934731B1 (ko) 차량용 통신 장치 및 차량
KR20190038055A (ko) 차량 주행 제어 장치 및 차량 주행 방법
KR20220125148A (ko) 영상 출력 장치 및 그것의 제어 방법
KR101979277B1 (ko) 차량용 사용자 인터페이스 장치 및 차량
EP4079592A1 (en) Vehicle control device and control method therefor
KR102027950B1 (ko) 차량에 구비된 차량 제어 장치 및 차량의 제어방법
EP4290187A2 (en) Ar display device for vehicle and method for operating same
KR102611338B1 (ko) 차량의 ar 디스플레이 장치 및 그것의 동작방법
KR102609960B1 (ko) 차량의 ar 디스플레이 장치 및 그것의 동작방법
KR102043954B1 (ko) 차량에 구비된 차량용 로봇 및 차량용 로봇의 제어방법
KR102030693B1 (ko) 차량 제어 방법
KR102041964B1 (ko) 차량에 구비된 차량 제어 장치

Legal Events

Date Code Title Description
A201 Request for examination
AMND Amendment
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant