KR20200144005A - 차량내의 물품 정보를 제공하는 방법 및 장치 - Google Patents

차량내의 물품 정보를 제공하는 방법 및 장치 Download PDF

Info

Publication number
KR20200144005A
KR20200144005A KR1020190071812A KR20190071812A KR20200144005A KR 20200144005 A KR20200144005 A KR 20200144005A KR 1020190071812 A KR1020190071812 A KR 1020190071812A KR 20190071812 A KR20190071812 A KR 20190071812A KR 20200144005 A KR20200144005 A KR 20200144005A
Authority
KR
South Korea
Prior art keywords
information
vehicle
user
article
computing device
Prior art date
Application number
KR1020190071812A
Other languages
English (en)
Inventor
정정균
노경훈
이정용
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020190071812A priority Critical patent/KR20200144005A/ko
Priority to US16/546,138 priority patent/US20200050858A1/en
Publication of KR20200144005A publication Critical patent/KR20200144005A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/44—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]
    • G06Q50/30—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/40—Business processes related to the transportation industry
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R7/00—Stowing or holding appliances inside vehicle primarily intended for personal property smaller than suit-cases, e.g. travelling articles, or maps
    • B60R7/04—Stowing or holding appliances inside vehicle primarily intended for personal property smaller than suit-cases, e.g. travelling articles, or maps in driver or passenger space, e.g. using racks
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/14—Adaptive cruise control
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
    • G06K9/20—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2555/00—Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
    • B60W2555/20—Ambient conditions, e.g. wind or rain
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60Y—INDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2300/00—Purposes or special features of road vehicle drive control systems
    • B60Y2300/14—Cruise control

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Automation & Control Theory (AREA)
  • General Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Biomedical Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Transportation (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Evolutionary Biology (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명의 자율 주행 차량, 사용자 단말기 및 서버 중 하나 이상이 인공 지능(Artificial Intelligence) 모듈, 드론(Unmanned Aerial Vehicle, UAV), 로봇, 증강 현실(Augmented Reality, AR) 장치, 가상 현실(virtual reality, VR), 5G 서비스와 관련된 장치 등과 연계 혹은 융복합될 수 있다. 상술한 과제를 달성하기 위하여, 본 명세서의 일 실시 예에 따르는 연산장치에서 정보제공 방법은 차량 내부의 이미지 정보를 획득하는 단계; 상기 이미지 정보를 기반으로 사용자에 의해 상기 차량 내부에 위치된 물품 정보를 식별하는 단계; 및 상기 식별된 물품 정보를 기반으로 정보 제공 대상을 위한 정보를 식별하는 단계를 포함한다.

Description

차량내의 물품 정보를 제공하는 방법 및 장치{Method and apparatus for providing information of an item in a vehicle}
본 명세서의 실시 예는 차량 내에 있는 물품의 정보를 사용자에게 제공하는 방법 및 장치에 관한 것이다. 보다 구체적으로 본 명세서의 실시 예는 차량 내부의 이미지를 통해 물품 및 그와 관련된 정보를 확인하고 이를 기반으로 사용자에게 물품과 관련된 정보를 제공하는 방법 및 장치에 관한 것이다.
통상적으로 차량을 이용할 때 사용자는 물품을 가지고 탑승할 수 있으며, 필요에 따라서는 차량 내부에 물품을 보관하기도 한다. 이와 같은 경우 물품의 보관 여부를 파악하는 것은 사용자의 기억에만 의존해야 하는바, 차량 내부에 물품을 놓고 내리거나 필요 이상 장기간 차량 내부에 보관하게 되는 문제점이 발생하게 된다. 이와 같은 문제점은 자가용 외에도 대중 교통수단이나 공유 차량을 이용하는 경우 보다 더 빈번하게 발생할 수 있다. 이에 따라 차량 내의 물품 정보를 확인하고 이와 관련된 정보를 사용자에게 제공해줄 수 있는 방법 및 장치의 필요성이 증대된다.
본 명세서의 실시 예는 상술한 문제점을 해결하기 위하여 제안된 것으로 차량 내부의 이미지 정보를 기반으로 차량 내부에 있는 물품의 정보를 확인하고, 사용자의 필요에 따라 이와 같은 정보를 사용자에게 제공할 수 있는 방법 및 장치를 제공하는 것을 목적으로 한다.
본 명세서의 다른 실시 예는 확인된 물품의 정보와 날씨나 사용자의 일정과 같은 외부에서 획득된 정보를 기반으로 사용자에게 물품과 관련된 추가적인 정보를 제공할 수 있는 방법 및 장치를 제공하는 것을 목적으로 한다.
본 명세서의 다른 실시 예는 물품과 사용자 정보를 기반으로 정보 제공여부를 판단하여 사용자에게 선택적으로 정보를 제공할 수 있는 방법 및 장치를 제공하는 것을 목적으로 한다.
본 명세서의 또 다른 실시 예는 확인된 물품 정보와 사용자 정보를 기반으로 사용자에게 자율 주행을 통해 차량 내에 있는 물품을 전달하기 위한 정보를 제공할 수 있는 방법 및 장치를 제공하는 것을 목적으로 한다.
상술한 과제를 달성하기 위하여, 본 명세서의 일 실시 예에 따르는 연산장치에서 정보제공 방법은 차량 내부의 이미지 정보를 획득하는 단계; 상기 이미지 정보를 기반으로 사용자에 의해 상기 차량 내부에 위치된 물품 정보를 식별하는 단계; 및 상기 식별된 물품 정보를 기반으로 정보 제공 대상을 위한 정보를 식별하는 단계를 포함한다.
본 명세서의 다른 실시 예에 따르는 연산장치는 다른 장치와 통신하는 통신부; 및 차량 내부의 이미지 정보를 획득하고, 상기 이미지 정보를 기반으로 사용자에 의해 상기 차량 내부에 위치된 물품 정보를 식별하고, 상기 식별된 물품 정보를 기반으로 정보 제공 대상을 위한 정보를 식별하는 제어부를 포함한다.
본 명세서의 또 다른 실시 예에 따르는 비휘발성 저장매체는 차량 내부의 이미지 정보를 획득하는 단계; 상기 이미지 정보를 기반으로 사용자에 의해 상기 차량 내부에 위치된 물품 정보를 식별하는 단계; 및 상기 식별된 물품 정보를 기반으로 정보 제공 대상을 위한 정보를 식별하는 단계를 수행하는 인스트럭션을 포함한다.
본 명세서의 실시 예에 따르면, 차량 내에 있는 물품의 정보 확인하고, 확인된 정보를 사용자에게 선별적으로 제공할 수 있는 특징을 가진다. 본 명세서의 실시 예에 따르면 차량 외부에서 확인할 수 있는 정보를 추가적으로 고려하여 차량 내 물품에 관한 정보를 사용자에게 효과적으로 제공할 수 있다. 본 명세서의 실시 예에 따르면 차량 내 물품과 사용자의 정보를 고려하여 차량이 자율 주행을 통해 사용자에게 차량 내 물품을 전달할 수 있는 장소와 관련된 정보를 제공할 수 있다.
도 1은 본 발명의 일 실시 예에 따른 AI 장치를 나타낸다.
도 2는 본 발명의 일 실시 예에 따른 AI 서버를 나타낸다.
도 3은 본 발명의 일 실시 예에 따른 AI 시스템을 나타낸다.
도 4는 5G 통신 시스템에서 자율 주행 차량과 5G 네트워크의 기본동작의 일 예를 나타낸다.
도 5a 내지 5d는 차량 내 좌석 영역의 이미지를 기반으로 사용자와 물품을 식별하기 위한 방법을 설명하기 위한 도면이다.
도 6은 차량 내 트렁크 영역의 이미지를 기반으로 물품을 식별하기 위한 방법을 설명하기 위한 도면이다.
도 7은 차량 내 이미지 정보를 기반으로 물품을 식별하고 이에 관한 정보를 사용자에게 제공하는 방법을 설명하기 위한 순서도이다.
도 8은 차량의 운행 상태 정보를 기반으로 차량 내 물품과 관련된 정보를 사용자에게 제공하는 방법을 설명하기 위한 순서도이다.
도 9는 차량 내의 물품 정보를 기반으로 차량의 사용자가 하차할 경우 이에 대한 정보를 제공하는 방법을 설명하기 위한 순서도이다.
도 10a 및 10b는 차량 내 물품 정보를 사용자에게 제공하는 UI(user interface)를 설명하기 위한 도면이다.
도 11은 대중 교통 수단에서 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 도면이다.
도 12는 차량 내 물품의 정보와 외부 환경 정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 도면이다.
도 13a 및 13b는 차량 내 물품의 정보와 외부 환경 정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 UI를 설명하기 위한 도면이다.
도 14는 기온 및 차량내부 온도 관련정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 도면이다.
도 15a 내지 15c는 기온 및 차량내부 온도 관련정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 참조도 및 UI 설명을 위한 도면이다.
도 16은 차량 내 물품 정보 및 사용자의 정보를 기반으로 자율 주행을 통해 물품을 사용자에게 전달하는 방법을 설명하기 위한 도면이다.
도 17a 및 17b는 차량 내 물품 정보 및 사용자의 정보를 기반으로 자율 주행을 통해 물품을 사용자에게 전달하는 UI를 설명하기 위한 도면이다.
도 18은 사용자 요청에 의해 차량 내 물품 관련 정보를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 19는 차량 제어부의 확인을 통해 차량 내 물품 관련 정보를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 20은 차량 내 위치한 물품 정보를 수집하고 이를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 21은 사용자 일정 정보를 기반으로 차량 내 위치한 물품 정보를 고려하여 사용자에게 필요한 물품 정보를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 22는 차량 내 물품 정보와 날씨 정보를 고려하여, 차량 내 물품 보관 위치를 제안하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 23은 본 명세서의 실시 예에 따른 차량을 설명하기 위한 도면이다.
도 24는 본 명세서의 실시 예에 따른 정보 제공을 위한 연산장치를 설명하기 위한 도면이다.
이하, 본 발명의 실시 예를 첨부된 도면을 참조하여 상세하게 설명한다.
실시 예를 설명함에 있어서 본 발명이 속하는 기술 분야에 익히 알려져 있고 본 발명과 직접적으로 관련이 없는 기술 내용에 대해서는 설명을 생략한다. 이는 불필요한 설명을 생략함으로써 본 발명의 요지를 흐리지 않고 더욱 명확히 전달하기 위함이다.
마찬가지 이유로 첨부 도면에 있어서 일부 구성요소는 과장되거나 생략되거나 개략적으로 도시되었다. 또한, 각 구성요소의 크기는 실제 크기를 전적으로 반영하는 것이 아니다. 각 도면에서 동일한 또는 대응하는 구성요소에는 동일한 참조 번호를 부여하였다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.
이 때, 처리 흐름도 도면들의 각 블록과 흐름도 도면들의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수 있음을 이해할 수 있을 것이다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도 블록(들)에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 흐름도 블록(들)에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도 블록(들)에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.
또한, 각 블록은 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실행 예들에서는 블록들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.
이 때, 본 실시 예에서 사용되는 '~부'라는 용어는 소프트웨어 또는 FPGA또는 ASIC과 같은 하드웨어 구성요소를 의미하며, '~부'는 어떤 역할들을 수행한다. 그렇지만 '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들, 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다. 또한 실시 예에서 제어부로 언급되는 것은 해당 장치를 제어하기 위한 동작을 하는 구성으로 적어도 하나의 프로세서를 포함할 수 있다.
인공 지능은 인공적인 지능 또는 이를 만들 수 있는 방법론을 연구하는 분야를 의미하며, 머신 러닝(기계 학습, Machine Learning)은 인공 지능 분야에서 다루는 다양한 문제를 정의하고 그것을 해결하는 방법론을 연구하는 분야를 의미한다. 머신 러닝은 어떠한 작업에 대하여 꾸준한 경험을 통해 그 작업에 대한 성능을 높이는 알고리즘으로 정의하기도 한다. 본 명세서의 실시 예에서 인공 지능은 차량 내 이미지 분석을 통한 물품 식별하거나, 사용자 스케줄 정보를 기반으로 필요한 물품을 확인하거나, 사용자의 위치를 고려하여 물품을 전달할 위치를 결정하는 경우에도 적용될 수 있으나 이에 제한되지는 않는다.
인공 신경망(ANN: Artificial Neural Network)은 머신 러닝에서 사용되는 모델로써, 시냅스의 결합으로 네트워크를 형성한 인공 뉴런(노드)들로 구성되는, 문제 해결 능력을 가지는 모델 전반을 의미할 수 있다. 인공 신경망은 다른 레이어의 뉴런들 사이의 연결 패턴, 모델 파라미터를 갱신하는 학습 과정, 출력값을 생성하는 활성화 함수(Activation Function)에 의해 정의될 수 있다.
인공 신경망은 입력층(Input Layer), 출력층(Output Layer), 그리고 선택적으로 하나 이상의 은닉층(Hidden Layer)를 포함할 수 있다. 각 층은 하나 이상의 뉴런을 포함하고, 인공 신경망은 뉴런과 뉴런을 연결하는 시냅스를 포함할 수 있다. 인공 신경망에서 각 뉴런은 시냅스를 통해 입력되는 입력 신호들, 가중치, 편향에 대한 활성 함수의 함숫수값을 출력할 수 있다.
모델 파라미터는 학습을 통해 결정되는 파라미터를 의미하며, 시냅스 연결의 가중치와 뉴런의 편향 등이 포함된다. 그리고, 하이퍼파라미터는 머신 러닝 알고리즘에서 학습 전에 설정되어야 하는 파라미터를 의미하며, 학습률(Learning Rate), 반복 횟수, 미니 배치 크기, 초기화 함수 등이 포함된다.
인공 신경망의 학습의 목적은 손실 함수를 최소화하는 모델 파라미터를 결정하는 것으로 볼 수 있다. 손실 함수는 인공 신경망의 학습 과정에서 최적의 모델 파라미터를 결정하기 위한 지표로 이용될 수 있다.
머신 러닝은 학습 방식에 따라 지도 학습(Supervised Learning), 비지도 학습(Unsupervised Learning), 강화 학습(Reinforcement Learning)으로 분류할 수 있다.
지도 학습은 학습 데이터에 대한 레이블(label)이 주어진 상태에서 인공 신경망을 학습시키는 방법을 의미하며, 레이블이란 학습 데이터가 인공 신경망에 입력되는 경우 인공 신경망이 추론해 내야 하는 정답(또는 결과 값)을 의미할 수 있다. 비지도 학습은 학습 데이터에 대한 레이블이 주어지지 않는 상태에서 인공 신경망을 학습시키는 방법을 의미할 수 있다. 강화 학습은 어떤 환경 안에서 정의된 에이전트가 각 상태에서 누적 보상을 최대화하는 행동 혹은 행동 순서를 선택하도록 학습시키는 학습 방법을 의미할 수 있다.
인공 신경망 중에서 복수의 은닉층을 포함하는 심층 신경망(DNN: Deep Neural Network)으로 구현되는 머신 러닝을 딥 러닝(심층 학습, Deep Learning)이라 부르기도 하며, 딥 러닝은 머신 러닝의 일부이다. 이하에서, 머신 러닝은 딥 러닝을 포함하는 의미로 사용된다.
자율 주행은 스스로 주행하는 기술을 의미하며, 자율 주행 차량은 사용자의 조작 없이 또는 사용자의 최소한의 조작으로 주행하는 차량(Vehicle)을 의미한다.
예컨대, 자율 주행에는 주행중인 차선을 유지하는 기술, 어댑티브 크루즈 컨트롤과 같이 속도를 자동으로 조절하는 기술, 정해진 경로를 따라 자동으로 주행하는 기술, 목적지가 설정되면 자동으로 경로를 설정하여 주행하는 기술 등이 모두 포함될 수 있다.
차량은 내연 기관만을 구비하는 차량, 내연 기관과 전기 모터를 함께 구비하는 하이브리드 차량, 그리고 전기 모터만을 구비하는 전기 차량을 모두 포괄하며, 자동차뿐만 아니라 기차, 오토바이 등을 포함할 수 있다.
이때, 자율 주행 차량은 자율 주행 기능을 가진 로봇으로 볼 수 있다.
도 1은 본 발명의 일 실시 예에 따른 AI 장치(100)를 나타낸다.
AI 장치(100)는 TV, 프로젝터, 휴대폰, 스마트폰, 데스크탑 컴퓨터, 노트북, 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 태블릿 PC, 웨어러블 장치, 셋톱박스(STB), DMB 수신기, 라디오, 세탁기, 냉장고, 데스크탑 컴퓨터, 디지털 사이니지, 로봇, 차량 등과 같은, 고정형 기기 또는 이동 가능한 기기 등으로 구현될 수 있다. 실시 예에서 AI 장치는 이미지를 분석하고 정보를 사용자에게 제공하는 연산장치에 포함될 수 있다.
도 1을 참조하면, 단말기(100)는 통신부(110), 입력부(120), 러닝 프로세서(130), 센싱부(140), 출력부(150), 메모리(170) 및 프로세서(180) 등을 포함할 수 있다.
통신부(110)는 유무선 통신 기술을 이용하여 다른 AI 장치(100a 내지 100e)나 AI 서버(200) 등의 외부 장치들과 데이터를 송수신할 수 있다. 예컨대, 통신부(110)는 외부 장치들과 센서 정보, 사용자 입력, 학습 모델, 제어 신호 등을 송수신할 수 있다.
이때, 통신부(110)가 이용하는 통신 기술에는 GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), LTE(Long Term Evolution), 5G, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), ZigBee, NFC(Near Field Communication) 등이 있다.
입력부(120)는 다양한 종류의 데이터를 획득할 수 있다.
이때, 입력부(120)는 영상 신호 입력을 위한 카메라, 오디오 신호를 수신하기 위한 마이크로폰, 사용자로부터 정보를 입력 받기 위한 사용자 입력부 등을 포함할 수 있다. 여기서, 카메라나 마이크로폰을 센서로 취급하여, 카메라나 마이크로폰으로부터 획득한 신호를 센싱 데이터 또는 센서 정보라고 할 수도 있다.
입력부(120)는 모델 학습을 위한 학습 데이터 및 학습 모델을 이용하여 출력을 획득할 때 사용될 입력 데이터 등을 획득할 수 있다. 입력부(120)는 가공되지 않은 입력 데이터를 획득할 수도 있으며, 이 경우 프로세서(180) 또는 러닝 프로세서(130)는 입력 데이터에 대하여 전처리로써 입력 특징점(input feature)을 추출할 수 있다.
러닝 프로세서(130)는 학습 데이터를 이용하여 인공 신경망으로 구성된 모델을 학습시킬 수 있다. 여기서, 학습된 인공 신경망을 학습 모델이라 칭할 수 있다. 학습 모델은 학습 데이터가 아닌 새로운 입력 데이터에 대하여 결과 값을 추론해 내는데 사용될 수 있고, 추론된 값은 어떠한 동작을 수행하기 위한 판단의 기초로 이용될 수 있다.
이때, 러닝 프로세서(130)는 AI 서버(200)의 러닝 프로세서(240)과 함께 AI 프로세싱을 수행할 수 있다.
이때, 러닝 프로세서(130)는 AI 장치(100)에 통합되거나 구현된 메모리를 포함할 수 있다. 또는, 러닝 프로세서(130)는 메모리(170), AI 장치(100)에 직접 결합된 외부 메모리 또는 외부 장치에서 유지되는 메모리를 사용하여 구현될 수도 있다. 실시 예에서 차량 내 이미지 분석을 통해 사용자 및 물품 중 적어도 하나를 판단할 수 있다.
센싱부(140)는 다양한 센서들을 이용하여 AI 장치(100) 내부 정보, AI 장치(100)의 주변 환경 정보 및 사용자 정보 중 적어도 하나를 획득할 수 있다.
이때, 센싱부(140)에 포함되는 센서에는 근접 센서, 조도 센서, 가속도 센서, 자기 센서, 자이로 센서, 관성 센서, RGB 센서, IR 센서, 지문 인식 센서, 초음파 센서, 광 센서, 마이크로폰, 라이다, 레이더 등이 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시킬 수 있다.
이때, 출력부(150)에는 시각 정보를 출력하는 디스플레이부, 청각 정보를 출력하는 스피커, 촉각 정보를 출력하는 햅틱 모듈 등이 포함될 수 있다.
메모리(170)는 AI 장치(100)의 다양한 기능을 지원하는 데이터를 저장할 수 있다. 예컨대, 메모리(170)는 입력부(120)에서 획득한 입력 데이터, 학습 데이터, 학습 모델, 학습 히스토리 등을 저장할 수 있다.
프로세서(180)는 데이터 분석 알고리즘 또는 머신 러닝 알고리즘을 사용하여 결정되거나 생성된 정보에 기초하여, AI 장치(100)의 적어도 하나의 실행 가능한 동작을 결정할 수 있다. 그리고, 프로세서(180)는 AI 장치(100)의 구성 요소들을 제어하여 결정된 동작을 수행할 수 있다.
이를 위해, 프로세서(180)는 러닝 프로세서(130) 또는 메모리(170)의 데이터를 요청, 검색, 수신 또는 활용할 수 있고, 상기 적어도 하나의 실행 가능한 동작 중 예측되는 동작이나, 바람직한 것으로 판단되는 동작을 실행하도록 AI 장치(100)의 구성 요소들을 제어할 수 있다.
이때, 프로세서(180)는 결정된 동작을 수행하기 위하여 외부 장치의 연계가 필요한 경우, 해당 외부 장치를 제어하기 위한 제어 신호를 생성하고, 생성한 제어 신호를 해당 외부 장치에 전송할 수 있다.
프로세서(180)는 사용자 입력에 대하여 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 사용자의 요구 사항을 결정할 수 있다.
이때, 프로세서(180)는 음성 입력을 문자열로 변환하기 위한 STT(Speech To Text) 엔진 또는 자연어의 의도 정보를 획득하기 위한 자연어 처리(NLP: Natural Language Processing) 엔진 중에서 적어도 하나 이상을 이용하여, 사용자 입력에 상응하는 의도 정보를 획득할 수 있다.
이때, STT 엔진 또는 NLP 엔진 중에서 적어도 하나 이상은 적어도 일부가 머신 러닝 알고리즘에 따라 학습된 인공 신경망으로 구성될 수 있다. 그리고, STT 엔진 또는 NLP 엔진 중에서 적어도 하나 이상은 러닝 프로세서(130)에 의해 학습된 것이나, AI 서버(200)의 러닝 프로세서(240)에 의해 학습된 것이거나, 또는 이들의 분산 처리에 의해 학습된 것일 수 있다.
프로세서(180)는 AI 장치(100)의 동작 내용이나 동작에 대한 사용자의 피드백 등을 포함하는 이력 정보를 수집하여 메모리(170) 또는 러닝 프로세서(130)에 저장하거나, AI 서버(200) 등의 외부 장치에 전송할 수 있다. 수집된 이력 정보는 학습 모델을 갱신하는데 이용될 수 있다.
프로세서(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, AI 장치(100)의 구성 요소들 중 적어도 일부를 제어할 수 있다. 나아가, 프로세서(180)는 상기 응용 프로그램의 구동을 위하여, AI 장치(100)에 포함된 구성 요소들 중 둘 이상을 서로 조합하여 동작시킬 수 있다.
도 2는 본 발명의 일 실시 예에 따른 AI 서버(200)를 나타낸다.
도 2를 참조하면, AI 서버(200)는 머신 러닝 알고리즘을 이용하여 인공 신경망을 학습시키거나 학습된 인공 신경망을 이용하는 장치를 의미할 수 있다. 여기서, AI 서버(200)는 복수의 서버들로 구성되어 분산 처리를 수행할 수도 있고, 5G 네트워크로 정의될 수 있다. 이때, AI 서버(200)는 AI 장치(100)의 일부의 구성으로 포함되어, AI 프로세싱 중 적어도 일부를 함께 수행할 수도 있다.
AI 서버(200)는 통신부(210), 메모리(230), 러닝 프로세서(240) 및 프로세서(260) 등을 포함할 수 있다.
통신부(210)는 AI 장치(100) 등의 외부 장치와 데이터를 송수신할 수 있다.
메모리(230)는 모델 저장부(231)를 포함할 수 있다. 모델 저장부(231)는 러닝 프로세서(240)을 통하여 학습 중인 또는 학습된 모델(또는 인공 신경망, 231a)을 저장할 수 있다.
러닝 프로세서(240)는 학습 데이터를 이용하여 인공 신경망(231a)을 학습시킬 수 있다. 학습 모델은 인공 신경망의 AI 서버(200)에 탑재된 상태에서 이용되거나, AI 장치(100) 등의 외부 장치에 탑재되어 이용될 수도 있다.
학습 모델은 하드웨어, 소프트웨어 또는 하드웨어와 소프트웨어의 조합으로 구현될 수 있다. 학습 모델의 일부 또는 전부가 소프트웨어로 구현되는 경우 학습 모델을 구성하는 하나 이상의 명령어(instruction)는 메모리(230)에 저장될 수 있다.
프로세서(260)는 학습 모델을 이용하여 새로운 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수 있다.
도 3은 본 발명의 일 실시 예에 따른 AI 시스템(1)을 나타낸다.
도 3을 참조하면, AI 시스템(1)은 AI 서버(200), 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 중에서 적어도 하나 이상이 클라우드 네트워크(10)와 연결된다. 여기서, AI 기술이 적용된 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 등을 AI 장치(100a 내지 100e)라 칭할 수 있다.
클라우드 네트워크(10)는 클라우드 컴퓨팅 인프라의 일부를 구성하거나 클라우드 컴퓨팅 인프라 안에 존재하는 네트워크를 의미할 수 있다. 여기서, 클라우드 네트워크(10)는 3G 네트워크, 4G 또는 LTE(Long Term Evolution) 네트워크 또는 5G 네트워크 등을 이용하여 구성될 수 있다.
즉, AI 시스템(1)을 구성하는 각 장치들(100a 내지 100e, 200)은 클라우드 네트워크(10)를 통해 서로 연결될 수 있다. 특히, 각 장치들(100a 내지 100e, 200)은 기지국을 통해서 서로 통신할 수도 있지만, 기지국을 통하지 않고 직접 서로 통신할 수도 있다.
AI 서버(200)는 AI 프로세싱을 수행하는 서버와 빅 데이터에 대한 연산을 수행하는 서버를 포함할 수 있다.
AI 서버(200)는 AI 시스템(1)을 구성하는 AI 장치들인 로봇(100a), 자율 주행 차량(100b), XR 장치(100c), 스마트폰(100d) 또는 가전(100e) 중에서 적어도 하나 이상과 클라우드 네트워크(10)을 통하여 연결되고, 연결된 AI 장치들(100a 내지 100e)의 AI 프로세싱을 적어도 일부를 도울 수 있다.
이때, AI 서버(200)는 AI 장치(100a 내지 100e)를 대신하여 머신 러닝 알고리즘에 따라 인공 신경망을 학습시킬 수 있고, 학습 모델을 직접 저장하거나 AI 장치(100a 내지 100e)에 전송할 수 있다.
이때, AI 서버(200)는 AI 장치(100a 내지 100e)로부터 입력 데이터를 수신하고, 학습 모델을 이용하여 수신한 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성하여 AI 장치(100a 내지 100e)로 전송할 수 있다.
또는, AI 장치(100a 내지 100e)는 직접 학습 모델을 이용하여 입력 데이터에 대하여 결과 값을 추론하고, 추론한 결과 값에 기초한 응답이나 제어 명령을 생성할 수도 있다.
이하에서는, 상술한 기술이 적용되는 AI 장치(100a 내지 100e)의 다양한 실시 예들을 설명한다. 여기서, 도 3에 도시된 AI 장치(100a 내지 100e)는 도 1에 도시된 AI 장치(100)의 구체적인 실시 예로 볼 수 있다.
자율 주행 차량(100b)은 AI 기술이 적용되어, 이동형 로봇, 차량, 무인 비행체 등으로 구현될 수 있다.
자율 주행 차량(100b)은 자율 주행 기능을 제어하기 위한 자율 주행 제어 모듈을 포함할 수 있고, 자율 주행 제어 모듈은 소프트웨어 모듈 또는 이를 하드웨어로 구현한 칩을 의미할 수 있다. 자율 주행 제어 모듈은 자율 주행 차량(100b)의 구성으로써 내부에 포함될 수도 있지만, 자율 주행 차량(100b)의 외부에 별도의 하드웨어로 구성되어 연결될 수도 있다.
자율 주행 차량(100b)은 다양한 종류의 센서들로부터 획득한 센서 정보를 이용하여 자율 주행 차량(100b)의 상태 정보를 획득하거나, 주변 환경 및 객체를 검출(인식)하거나, 맵 데이터를 생성하거나, 이동 경로 및 주행 계획을 결정하거나, 동작을 결정할 수 있다. 실시 예에서 자율 주행 차량(100b)는 차량 내 물품을 사용자에게 전달할 위치를 결정하고, 이와 같은 정보를 사용자에게 제안할 수 있다.
여기서, 자율 주행 차량(100b)은 이동 경로 및 주행 계획을 결정하기 위하여, 로봇(100a)과 마찬가지로, 라이다, 레이더, 카메라 중에서 적어도 하나 이상의 센서에서 획득한 센서 정보를 이용할 수 있다.
특히, 자율 주행 차량(100b)은 시야가 가려지는 영역이나 일정 거리 이상의 영역에 대한 환경이나 객체는 외부 장치들로부터 센서 정보를 수신하여 인식하거나, 외부 장치들로부터 직접 인식된 정보를 수신할 수 있다.
자율 주행 차량(100b)은 적어도 하나 이상의 인공 신경망으로 구성된 학습 모델을 이용하여 상기한 동작들을 수행할 수 있다. 예컨대, 자율 주행 차량(100b)은 학습 모델을 이용하여 주변 환경 및 객체를 인식할 수 있고, 인식된 주변 환경 정보 또는 객체 정보를 이용하여 주행 동선을 결정할 수 있다. 여기서, 학습 모델은 자율 주행 차량(100b)에서 직접 학습되거나, AI 서버(200) 등의 외부 장치에서 학습된 것일 수 있다.
이때, 자율 주행 차량(100b)은 직접 학습 모델을 이용하여 결과를 생성하여 동작을 수행할 수도 있지만, AI 서버(200) 등의 외부 장치에 센서 정보를 전송하고 그에 따라 생성된 결과를 수신하여 동작을 수행할 수도 있다.
자율 주행 차량(100b)은 맵 데이터, 센서 정보로부터 검출한 객체 정보 또는 외부 장치로부터 획득한 객체 정보 중에서 적어도 하나 이상을 이용하여 이동 경로와 주행 계획을 결정하고, 구동부를 제어하여 결정된 이동 경로와 주행 계획에 따라 자율 주행 차량(100b)을 주행시킬 수 있다.
맵 데이터에는 자율 주행 차량(100b)이 주행하는 공간(예컨대, 도로)에 배치된 다양한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 예컨대, 맵 데이터에는 가로등, 바위, 건물 등의 고정 객체들과 차량, 보행자 등의 이동 가능한 객체들에 대한 객체 식별 정보가 포함될 수 있다. 그리고, 객체 식별 정보에는 명칭, 종류, 거리, 위치 등이 포함될 수 있다.
또한, 자율 주행 차량(100b)은 사용자의 제어/상호작용에 기초하여 구동부를 제어함으로써, 동작을 수행하거나 주행할 수 있다. 이때, 자율 주행 차량(100b)은 사용자의 동작이나 음성 발화에 따른 상호작용의 의도 정보를 획득하고, 획득한 의도 정보에 기초하여 응답을 결정하여 동작을 수행할 수 있다.
도 4는 5G 통신 시스템에서 자율 주행 차량과 5G 네트워크의 기본동작의 일 예를 나타낸다.
단계 S1에서 자율 주행 차량(Autonomous Vehicle)은 특정 정보 전송을 5G 네트워크로 전송한다.
상기 특정 정보는, 자율 주행 관련 정보를 포함할 수 있다.
상기 자율 주행 관련 정보는, 차량의 주행 제어와 직접적으로 관련된 정보일 수 있다. 예를 들어, 자율 주행 관련 정보는 차량 주변의 오브젝트를 지시하는 오브젝트 데이터, 맵 데이터(map data), 차량 상태 데이터, 차량 위치 데이터 및 드라이빙 플랜 데이터(driving plan data) 중 하나 이상을 포함할 수 있다.
단계 S2에서 상기 자율 주행 관련 정보는 자율 주행에 필요한 서비스 정보 등을 더 포함할 수 있다. 예를 들어, 상기 특정 정보는, 사용자 단말기를 통해 입력된 목적지와 차량의 안정 등급에 관한 정보를 포함할 수 있다. 그리고, 상기 5G 네트워크는 차량의 원격 제어 여부를 결정할 수 있다.
여기서, 상기 5G 네트워크는 자율 주행 관련 원격 제어를 수행하는 서버 또는 모듈을 포함할 수 있다.
그리고, 단계 S3에서 상기 5G 네트워크는 원격 제어와 관련된 정보(또는 신호)를 상기 자율 주행 차량으로 전송할 수 있다.
전술한 바와 같이, 상기 원격 제어와 관련된 정보는 자율 주행 차량에 직접적으로 적용되는 신호일 수도 있고, 나아가 자율 주행에 필요한 서비스 정보를 더 포함할 수 있다. 본 발명의 일 실시 예에서는 자율 주행 차량은, 상기 5G 네트워크에 연결된 서버를 통해 주행 경로 상에서 선택된 구간별 보험과 위험 구간 정보 등의 서비스 정보를 수신함으로써, 자율 주행과 관련된 서비스를 제공할 수 있다. 또한 실시 예에서 연산장치에서 결정된 위치 정보가 5G 네트워크를 통해 차량에 제공되고, 차량은 제공 받은 정보를 기반으로 자율 주행을 수행할 수 있다. 또한 자율 주행 중에 주행 관련 정보를 사용자에게 제공할 수 있다.
도 5a 내지 5d는 차량 내 좌석 영역의 이미지를 기반으로 사용자와 물품을 식별하기 위한 방법을 설명하기 위한 도면이다.
도 5a 내지 5d는 차량 내 좌석의 이미지 정보를 기반으로 사용자와 물품을 식별하기 위한 방법이 도시된다.
도 5a에서 차량 내부 이미지(500)가 도시된다. 실시 예에서 이미지 정보를 기반으로 차량 내부에 원래 배치된 물품을 확인할 수도 있다. 이후 이미지의 변화를 기반으로 사용자 또는 사용자에 의해 차량 내에 위치하게 된 물품을 식별할 수 있다. 또한 실시 예에서 이미지 정보를 기반으로 원래 배치된 물품이 없어졌을 경우 없어진 이미지에 대응하는 배치된 물품을 확인하여 이와 관련된 정보를 사용자에게 제공할 수도 있다. 이와 같이 실시 예에서 연산장치는 내부 이미지 정보를 반복하여 획득하고, 이미지의 차이 정보를 기반으로 차량 내에 위치하게 된 물품을 확인하거나, 위치한 물품이 없어진 것을 확인할 수 있다. 또한 연산장치는 실시 예에 따라 물품이 아니라 차량을 오염시키는 경우 오염 여부 및 오염 정도 역시 이미지 정보를 분석하여 확인할 수 있다. 또한 실시 예에서 연산장치는 이전에 획득된 이미지와의 비교 없이도 머신 러닝을 통해 차량 내부 사진 상에 위치한 물품과 사용자를 식별할 수도 있다.
도 5b에서 사용자(510)가 카메라(520)를 들고 차량에 탑승하게 된다. 이 때 연산장치는 사용자(510)과 카메라를(520)를 식별할 수 있다.
도 5c는 카메라(520)를 식별하는 방법과 관련된 도면이다. 연산장치는 카메라 주변 영역(530)을 인식하고 해당 영역의 이미지를 심층적으로 분석할 수 있다. 이와 같은 이미지 심층 분석을 통해 연산장치는 이미지 내의 물품의 종류, 물품의 특성, 물품이 차량 내에 놓인 시각 및 물품이 차량에서 나간 시각 중 적어도 하나를 확인할 수 있다.
도 5d는 사용자(510)이 카메라(520)를 차량 내부에 놓고 나간 상황을 도시한다. 이와 같은 경우 연산장치는 이후 설명하는 실시 예에서의 동작을 수행할 수 있다. 해당 동작의 일 예로 카메라(520)를 놓고 나갔다는 알람을 사용자에게 제공하거나, 카메라(520)를 보관하는 위치를 제안할 수 있다.
실시 예에서 차량 내부를 촬영하는 카메라는 하나 이상일 수 있으며, 여러 개의 카메라를 사용하는 경우 각 카메라에서 획득된 이미지를 각각 식별하거나, 이미지를 합친 뒤 합쳐진 이미지를 기반으로 이미지 식별을 할 수도 있다.
도 6은 차량 내 트렁크 영역의 이미지를 기반으로 물품을 식별하기 위한 방법을 설명하기 위한 도면이다.
도 6을 참조하면, 차량 내의 트렁크의 이미지가 도시된다.
실시 예에서 연산장치는 트렁크(600) 내부에 콜라(610)와 잼(620)을 식별할 수 있다. 이전 실시 예에서 설명한 것과 같이 트렁크 이미지를 기반으로 해당 물품을 식별할 수 있다. 또한 실시 예에서 연산장치는 식별한 물품의 특성 역시 판단할 수 있다. 일 예로 연산장치는 콜라(610)의 경우 탄산 음료이고, 높은 실내 온도에서 보관할 경우 터질 위험이 있다는 정보까지 식별할 수 있다. 또한 다른 예로 연산장치는 잼(620)의 경우 장기간 고온의 환경에 보관할 경우 변질의 우려가 있다는 정보까지 식별할 수 있다. 이와 같이 연산장치는 이미지를 통해 식별할 물품의 정보의 특성까지 파악할 수 있다.
도 7은 차량 내 이미지 정보를 기반으로 물품을 식별하고 이에 관한 정보를 사용자에게 제공하는 방법을 설명하기 위한 순서도이다.
도 7을 참조하면, 연산장치가 이미지 정보를 기반으로 물품을 식별하고 상기 물품에 관한 정보를 사용자에게 제공하는 방법이 도시된다.
단계 S70에서 연산장치는 차량 내부의 이미지 정보를 획득할 수 있다. 실시 예에서 이미지 정보는 차량의 좌석 영역 및 트렁크 영역에 위치한 카메라부에서 수신될 수 있다. 또한 실시 예에 따라 차량 내부의 수납 공간의 카메라에서도 이미지 정보를 수신할 수 있다.
단계 S71에서 연산장치는 수신한 이미지 정보를 분석할 수 있다. 실시 예에서 연산장치는 여러 번 수집된 이미지를 비교하여 변화를 판단하는 방식으로 이미지를 분석할 수 있다. 또한 실시 예에서 연산장치는 수집된 이미지 상에서 머신러닝을 통해 의미 있는 물품정보, 사용자 정보, 차량의 오염정보 등을 판단할 수 있다.
단계 S72에서 연산장치는 분석된 정보를 기반으로 차량 내에 위치하는 물품의 정보를 확인할 수 있다. 보다 구체적으로 이미지 식별을 통해 특정 영역에 물품이 위치하는지 확인할 수 있다.
단계 S73에서 연산장치는 확인된 물품 정보를 기반으로 물품의 종류 및 특성 중 적어도 하나를 확인할 수 있다. 또한 물품뿐만 아니라 위에서 언급한 사용자나 차량 내부의 오염 여부까지 판단할 수 있다. 실시 예에서 사용자나 차량 내부의 오염 여부를 판단하는 것은 공유 차량에서 특정 사용자가 차량을 오염시켰는지 판단하는 등의 경우에 유용하게 사용될 수 있다. 또한 실시 예에서 사용자 정보는 이미지 정보 이외의 공유 차량이나 대중 교통의 경우 결제 정보를 기반으로 확인될 수도 있다.
단계 S74에서 연산장치는 확인된 물품의 종류 및 특성과 같은 정보를 기반으로 사용자에게 차량 내부에 위치한 물품과 관련된 정보를 제공할 수 있다. 보다 구체적으로 연산장치는 사용자에 요청에 의해 해당 물품이 차량 내부에 있는지 여부에 대한 정보를 제공할 수 있다. 또한 실시 예에 따라 연산장치는 차량 내에 있는 물품과 관련된 정보를 외부에서 얻은 정보를 기반으로 사용자에게 알려줄지 여부를 판단하고 이와 관련된 정보를 사용자에게 제공할 수 있다. 이외에도 이하의 실시 예에서 설명되는 연산장치의 동작이 본 실시 예를 참조하여 실행될 수 있다.
도 8은 차량의 운행 상태 정보를 기반으로 차량 내 물품과 관련된 정보를 사용자에게 제공하는 방법을 설명하기 위한 순서도이다.
도 8을 참조하면, 연산장치가 차량에 적재된 물품 정보와 차량 운행 상태 정보를 기반으로 상기 물품에 관한 정보를 사용자에게 제공하는 방법이 도시된다.
단계 S80에서 연산장치는 차량에 적재된 물품 정보를 확인할 수 있다. 실시 예에서 연산장치는 차량의 카메라부로부터 이미지 정보를 통해 차량에 적재된 물품 정보를 확인할 수 있다.
단계 S81에서 연산장치는 차량의 운행 상태 정보를 확인할 수 있다. 보다 구체적으로 운행 상태 정보는 차량이 운행하는 도로의 상태, 차량의 속도 및 주변 차량의 운행 정보 중 적어도 하나를 포함할 수 있다. 또한 차량의 운행 상태 정보는 차량의 지난 운행 기록을 통해 급격한 감속, 가속 및 방향 전환이 있었는지 여부도 포함할 수 있다. 이와 같이 연산장치가 운행 상태 정보를 확인하는 것은 차량의 운행 상태에 따라 차량에 적재된 물품이 흔들리거나 넘어질 수 있기 때문이다.
단계 S82에서 연산장치는 단계 S80 및 S81에서 확인한 정보를 기반으로 사용자에게 제공할 물품 관련 정보를 확인할 수 있다. 보다 구체적으로 물품관련 정보는 사용자에 요청에 의해서 확인될 수 있다. 또한 상기 운행 상태 정보가 기 설정된 조건을 만족하는 경우에도 확인될 수 있다. 기 설정된 조건은 차량 운행으로 인해 차량에 적재된 물품에 가해지는 가속도가 일정 이상 되는 경우를 포함할 수 있으며, 이 외에도 물품의 적재 상태를 바꿀 수 있는 조건을 만족하는 경우 물품 관련 정보가 확인될 수 있다.
단계 S83에서 연산장치는 물품에 관한 이미지 정보를 사용자에게 제공할 수 있다. 이와 같은 이미지 정보는 사용자가 지정한 위치의 이미지 정보이거나, 연산장치에 의해 선택된 이미지 정보이거나, 차량 내부에 물품이 적재된 모든 위치의 이미지 정보이거나, 적재 상태가 변경된 위치의 이미지 정보일 수 있으며, 상기 이미지 정보의 조합도 제공이 가능하다.
이와 같은 실시 예를 통해 사용자는 운행 중에 차량 내부의 물품의 적재 상태가 운행 환경으로 인해 변경될 경우 관련 이미지 정보를 제공받을 수 있다. 또한 이와 같은 이미지 정보는 사용자가 소지하는 단말 및 차량의 디스플레이 중 적어도 하나를 통해 제공될 수 있다. 또한 운행 상태 정보 및 적재된 물품의 정보 중 적어도 하나를 기반으로 이미지 정보를 획득함으로써 필요 이상으로 이미지 정보를 다량으로 획득하는 것을 줄일 수 있으며, 상기 정보들 중 적어도 하나를 기반으로 사용자에게 물품 관련 정보를 제공할지를 결정할 수 있는 바, 사용자의 사용성이 향상될 수 있다.
도 9는 차량 내의 물품 정보를 기반으로 차량의 사용자가 하차할 경우 이에 대한 정보를 제공하는 방법을 설명하기 위한 순서도이다.
도 9을 참조하면, 연산장치가 차량에 적재된 물품 정보와 사용자의 하차 여부를 감지하여, 이를 기반으로 상기 물품에 관한 정보를 사용자에게 제공하는 방법이 도시된다. 이와 같은 실시 예는 대중교통이나 공유 차량에서 유용하게 적용될 수 있으나 이에 제한되지는 않는다.
단계 S90에서 연산장치는 차량에 적재된 물품 정보를 확인할 수 있다. 실시 예에서 연산장치는 차량의 카메라부로부터 이미지 정보를 통해 차량에 적재된 물품 정보를 확인할 수 있다. 또한 실시 예에서 연산장치는 차량에 적재된 물품과 대응되는 사용자도 감지할 수 있다. 실시 예에 따라 이와 같은 대응되는 사용자 정보는 승차시 물품과 같이 탑승한 사용자를 대응되는 사용자로 감지할 수 있다. 또한 실시 예에 따라 감지된 이미지 상에서 물품과 겹치는 영역이 가장 많은 사용자를 대응되는 사용자로 결정할 수 도 있다.
단계 S91에서 연산장치는 사용자의 하차 여부를 감지할 수 있다. 하차 여부는 차량 내부 이미지를 기반으로 판단할 수 있다. 또한 차량의 문의 개폐 여부와 연관하여 사용자 하차 여부를 감지할 수 있다.
단계 S92에서 연산장치는 사용자 하차 여부에 따라 정보제공이 필요한지 판단할 수 있다. 보다 구체적으로 사용자에 대응되는 물품이 차량 내부에 있는 경우 사용자에게 정보제공이 필요하다고 판단할 수 있다. 또한 실시 예에 따라 연산장치는 사용자가 하차 지점의 환경이나 사용자와 하차 지점 사이의 관계를 기반으로 정보제공이 필요한지 판단할 수 있다. 일 예로 사용자가 차량에 노트북을 가지고 타고, 직장으로 식별된 곳에 사용자가 하차할 경우 연산장치는 하차 위치와 사용자의 스케줄 정보 중 적어도 하나를 기반으로 사용자에게 정보제공이 필요한지 여부를 판단할 수 있다. 또한 사용자가 우산을 차량 내부에 두고 내리고, 일기 예보상 비가 예상될 경우 차량은 사용자에게 우산과 관련된 정보 제공이 필요하다고 판단할 수 있다. 또한 차량이 대중교통일 경우 사용자가 놓고 내린 물품에 대해서 정보제공을 보다 높은 빈도로 할 수 있다. 보다 구체적으로 버스나 택시 같은 대중교통 수단의 경우 사용자가 다시 탑승하기 어려운 환경에 있는바, 보다 사용자가 물품을 차량 내부에 놓고 내리는 경우, 즉각적으로 알람을 제공할 수 있다. 실시 예에서 즉각적인 알람을 제공하는 것은 차량 크락션, 안내방송, 차량의 디스플레이를 통한 관련 정보 제공 및 사용자의 단말기에 관련정보를 제공하는 방법 중 적어도 하나를 통해 실행될 수 있다.
도 10a 및 10b는 차량 내 물품 정보를 사용자에게 제공하는 UI(user interface)를 설명하기 위한 도면이다.
도 10a 및 10b를 참조하면, 사용자 단말에 제공되는 물품 관련 정보에 대한 UI가 개시된다.
실시 예에서 차량 트렁크에 콜라와 잼을 적재한 상태에서 목적지에 도착하면, 연산장치가 적재된 물품의 특성을 기반으로 사용자가 해당 물품을 가지고 나가야 할지 판단할 수 있다. 일 예로 집에 도착한 경우 해당 물품을 가지고 나갈 가능성이 크고, 연산장치는 식별번호 1010과 같이 사용자에게 정보를 제공할 수 있다. 또한 추가적으로 해당 이미지(1015)를 표시하면서 대상 물품을 지시해 줄 수도 있다. 또한 공유 차량을 이용하는 경우 사용자가 차량을 반납하는 경우 차량내 물품 정보를 제공할 수도 있다. 실시 예에서 연산장치는 제공하는 물품의 위치와 관련된 정보를 이미지 및 텍스트 중 적어도 하나를 통해 제공할 수 있다.
또한 실시 예에 따라 사용자가 차량내 물품을 사용할 가능성이 높은 목적지에 도착한 경우 식별번호 1020과 같이 해당 물품에 관한 정보를 제공할 수 있다. 일 예로 연산장치는 회사에서 노트북을 사용할 가능성이 높다는 것을 사용자 일정 정보를 통해 판단하고 이와 같은 정보를 제공할 수 있다.
또한 실시 예에 따라 사용자가 차량 내 물품을 가지고 내려야 한다는 것을 판단하여 이와 같은 정보를 식별번호 1025와 같이 제공할 수 있다. 일 예로 차량 내 위치한 물품이 외투이고, 외투가 차량 내에 위치하게 된 시간, 날씨 및 도착지 정보 중 적어도 하나를 기반으로 이와 같은 정보를 제공할 수 있다.
또한 실시 예에 따라 사용자가 차량 내 보관하는 물품을 가지고 내리는 것을 제안하는 정보를 제공할 수 있다. 일 예로 날씨 정보를 통해 비가 올 가능성이 기 설정된 조건 이상이고, 차량에 적재된 우산이 있고, 사용자가 우산을 소지하지 않은 조건 중 적어도 하나를 만족할 경우 사용자에게 우산을 가지고 내리는 것을 식빌번호 1030과 같이 제안할 수 있다.
도 11은 대중 교통 수단에서 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 도면이다.
도 11을 참조하면 버스와 같은 대중 교통 수단에서 사용자(1110)이 하차 하는 장면이 도시된다. 이때 연산장치는 버스 내에 해당 사용자(1110)에 대응하는 물품이 있는지 확인하고, 사용자(1110)가 물품을 놓고 내린 경우 이에 대응한 정보를 제공할 수 있다. 일 예로 차량의 디스플레이(1120)상으로 차량에 놓고 내린 물품이 있음을 사용자(1110)에게 알릴 수 있다. 또한 실시 예에 따라 차량의 경적이나 안내방송을 통해서도 사용자에게 놓고 내린 물품이 있는지 알려줄 수 있다. 실시 예에서 사용자(1110)에게 제공되는 정보는 놓고 내린 물품이 있다는 정보 및 물품의 정보를 포함할 수 있다. 또한 실시 예에 따라 사용자(1110)가 대중 교통 수단에 탑승할 때 사용한 결제 정보를 활용하여 사용자(1110)를 식별하고, 해당 사용자(1110)의 단말기로 해당 정보를 제공할 수도 있다.
도 12는 차량 내 물품의 정보와 외부 환경 정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 도면이다.
도 12를 참조하면, 연산장치가 차량에 적재된 물품 정보와 차량 운행 상태 정보를 기반으로 상기 물품에 관한 정보를 사용자에게 제공하는 방법이 도시된다.
단계 S120에서 연산장치는 차량에 적재된 물품 정보를 확인할 수 있다. 실시 예에서 연산장치는 차량의 카메라부로부터 이미지 정보를 통해 차량에 적재된 물품 정보를 확인할 수 있다.
단계 S121에서 연산장치는 확인된 물품 정보를 기반으로 해당 물품의 적재기간, 물품의 특성 및 차량 외부 환경 정보 중 적어도 하나를 확인하고, 이를 기반으로 물품 관련 정보를 제공할지 여부를 판단할 수 있다. 보다 구체적으로 차량 내에 위치한 물품이 고온에서 변질 가능성이 있는 물품이고, 외부 기온이 특정 온도 이상으로 올라가게 되면 연산장치는 이와 같은 정보를 제공할 수 있다. 또한 차량 내 적재 기간이 특정 조건 이상을 만족할 경우 연산장치는 이와 같은 정보를 제공할 수 있다.
단계 S122에서 연산장치는 단계 S121에서 확인한 정보를 기반으로 정보 제공이 필요한지 판단할 수 있다.
정보 제공이 필요하다고 판단될 경우 단계 S123에서 연산장치는 사용자에게 물품 관련 정보를 제공할 수 있다. 일 예로 연산장치는 물품 관련 정보와 함께 해당 물품의 보관 기간 정보 및 변질 가능성 정보 중 적어도 하나를 제공할 수 있다.
도 13a 및 13b는 차량 내 물품의 정보와 외부 환경 정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 UI를 설명하기 위한 도면이다.
도 13a 및 13b를 참조하면 연산장치가 사용자 단말을 통해 물품 관련 정보를 제공하는 UI가 도시된다. 실시 예에서 사용자 단말이라고 하였으나, 이는 차량의 디스플레이를 통해서도 제공될 수 있다.
도 13a는 연산장치의 판단에 의해 물품 관련 정보의 제공이 필요하다고 판단될 경우, 연산장치의 트리거링에 의해 정보가 제공될 수 있는 실시 예에 관한 도면이다.
보다 구체적으로 식별번호 1310과 같이 사용자에게 차량에 보관된 물품의 종류 및 물품의 보관 기간에 대한 정보를 제공하고, 식별번호 1315에서 사용자 요청이 있을 경우 식별번호 1320과 같이 해당 물품의 이미지를 제공할 수 있다. 실시 예에 따라 식별번호 1310 및 1320이 함께 사용자에게 제공될 수 있다.
도 13b는 연산장치의 판단에 의해 물품 관련 정보의 제공이 필요하다고 판단될 경우, 사용자가 특정 요청을 할 경우 관련 정보가 트리거링에 의해 정보가 제공될 수 있는 실시 예에 관한 도면이다.
보다 구체적으로 식별번호 1330과 같이 사용자가 차량에 있는 물품의 영상을 요청할 경우, 식별번호 1335 및 1340과 같은 해당 물품 관련 정보를 제공할 수 있다. 실시 예에 따라 연산장치가 제공하는 물품 관련 정보는 선택적으로 제공될 수 있다.
도 14는 기온 및 차량내부 온도 관련정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 도면이다.
도 14를 참조하면, 연산장치가 차량에 적재된 물품 정보와 차량 운행 상태 정보를 기반으로 상기 물품에 관한 정보를 사용자에게 제공하는 방법이 도시된다.
단계 S140에서 연산장치는 차량에 적재된 물품 정보를 확인할 수 있다. 실시 예에서 연산장치는 차량의 카메라부로부터 이미지 정보를 통해 차량에 적재된 물품 정보를 확인할 수 있다.
단계 S141에서 연산장치는 기온 및 차량 내부 온도 관련 정보를 확인할 수 있다. 보다 구체적으로 연산장치는 차량의 온도 센서, 외부의 날씨 정보 서버 및 통계 자료에 의해 기온 및 차량 내부 온도 관련 정보 중 적어도 하나를 확인할 수 있다.
단계 S142에서 연산장치는 위에서 확인한 정보들을 기반으로 차량에 위치한 물품에 관한 정보제공이 필요한지 판단할 수 있다. 일 예로 연산장치는 차량에 보관된 물품이 고온에 취약한 물품이고, 차량 내부 온도가 특정 온도 이상으로 올라가거나 혹은 올라갈 것이 예상되는 경우 물품에 대한 정보를 제공해야 한다고 판단할 수 있다.
단계 S143에서 연산장치가 사용자에게 물품 관련 정보를 제공해야 한다고 판단한 경우 사용자에게 물품 관련 정보 및 상기 물품을 보관하는데 적합한 장소 정보 중 적어도 하나를 제공할 수 있다. 일 예로 연산장치는 차량 외부로 물품을 옮기거나, 차량 내부 중 온도가 높이 올라가지 않는 위치로 해당 물품을 옮기는 것을 제안할 수 있다.
또한 실시 예에 따라서 기온이나 온도의 정보에 상관 없이 차량 내의 물품의 보관 장소를 제안할 수 있다. 보다 구체적으로 연산 장치의 판단에 의해 도난 가능성이 높은 물품이 외부에서 보일 수 있는 곳에 위치할 경우 사용자에게 보관 장소를 제안하는 동작을 수행할 수 있다.
도 15a 내지 15c는 기온 및 차량내부 온도 관련정보를 기반으로 사용자에게 물품 관련 정보를 제공하는 방법을 설명하기 위한 참조도 및 UI 설명을 위한 도면이다.
도 15a는 특정 온도의 맑은 날씨에서 차량 내부의 각 위치의 온도 정보를 나타낸다. 연산장치는 날씨 정보 서버로부터 수신한 정보, 차량이 주차된 위치 및 주차된 시간을 기반으로 차량의 각 부분의 온도가 어떻게 변하는지에 대한 정보를 획득할 수 있다. 이와 같이 획득한 정보를 기반으로 연산장치는 차량이 주차된 환경에서 차량 내부의 온도 분포가 어떻게 되는지 예상할 수 있다. 또한 실시 예에 따라 이와 같은 차량 내부의 온도 분포에 대한 정보는 외부로부터도 수신할 수 있다.
도 15b는 차량 내부(1510)에 카메라(1520)와 콜라(1530)가 위치한 것을 설명한 도면이다. 연산 장치는 해당 물품이 놓인 위치에 대응하는 예상 온도 정보 및 물품의 특정 정보를 기반으로 해당 물품의 위치 변경의 필요성이 있는지 판단할 수 있다. 또한 위치를 변경하여야 할 경우 상기 물품이 옮겨질 위치를 제안할 수도 있다. 이와 같이 옮겨질 위치는 상기 물품의 특성 및 옮겨질 곳의 온도 정보 중 적어도 하나를 기반으로 판단될 수 있다.
도 15c는 연산 장치의 판단에 의해 물품 관련 정보가 제공되는 UI를 나타낸 도면이다. 연산장치는 식별번호 1540과 같은 물품의 이미지 정보 및 식별번호 1545와 같은 관련 정보 중 적어도 하나를 사용자에게 제공할 수 있다. 일 예로 제공되는 관련 정보는 차량 내부의 예상 온도 정보, 차량 내부에 보관된 물품 정보, 해당 물품의 위치 변경 필요성 및 변경될 장소 중 적어도 하나를 포함할 수 있다.
도 16은 차량 내 물품 정보 및 사용자의 정보를 기반으로 자율 주행을 통해 물품을 사용자에게 전달하는 방법을 설명하기 위한 도면이다.
도 16을 참조하면, 연산장치가 차량에 적재된 물품 정보와 차량 운행 상태 정보를 기반으로 상기 물품에 관한 정보를 사용자에게 제공하는 방법이 도시된다.
단계 S160에서 연산장치는 차량에 적재된 물품 정보를 확인할 수 있다. 실시 예에서 연산장치는 차량의 카메라부로부터 수신한 이미지 정보를 통해 차량에 적재된 물품 정보를 확인할 수 있다. 또한 이전 실시 예에서 설명한 방법 중 적어도 하나를 기반으로 사용자의 정보를 확인할 수 있다. 한편 실시 예는 사용자가 물품을 차량 내에 두고 차량에서 떨어져 있는 상황에 대응될 수 있다. 일 예로 차량은 주차되어 있을 수 있다.
단계 S161에서 연산 장치는 물품 필요 여부를 확인할 수 있다. 일 예로 물품 필요 여부는 사용자가 제공한 해당 물품을 요청하는 정보를 기반으로 확인될 수 있다.
다른 에로 물품 필요 여부는 연산장치가 확인한 차량에 위치한 물품의 정보와 사용자 관련 정보를 기반으로 사용자가 물품을 필요한지 여부를 확인할 수 있다. 보다 구체적으로 사용자 관련 정보는 사용자 스케줄 정보 및 사용자의 업무 환경 정보 중 적어도 하나를 포함할 수 있다.
단계 S162에서 연산장치는 확인된 정보를 기반으로 물품 관련 정보 및 자율 운행을 통해 사용자와 만날 지점에 관한 정보 중 적어도 하나를 사용자에게 제공할 수 있다. 실시 예에서 상기 정보는 연산장치가 사용자의 단말과의 통신을 통해 전달할 수 있다. 일 예에서 물품 관련 정보는 차량 내 적재된 물품 정보 및 상기 물품에 대응되는 스케줄 정보 중 적어도 하나를 포함할 수 있다. 일 예에서 연산 장치는 자율 운행을 통해 상기 물품을 사용자에게 전달할 수 있도록 사용자와 만날 지점을 사용자에게 제안할 수 있다. 연산장치는 차량의 위치, 사용자의 위치, 주변 교통정보 및 사용자의 스케줄 정보 중 적어도 하나를 기반으로 사용자와 만날 지점을 제안할 수 있다.
단계 S163에서 연산장치는 사용자와 만날 지점을 확인할 수 있다. 일 예에서 만날 지점은 이전 단계에서 연산장치가 제안한 지점을 사용자가 승인한 경우 상기 제안한 지점으로 확인될 수 있다. 또한 다른 예에서 만날 지점은 사용자가 지정한 별도의 지점일 수 있다.
단계 S164에서 연산장치는 확인된 만날 지점까지 자율주행을 통해 이동할 수 있다. 실시 예에서 자율주행의 방식은 한정되지 않는다.
단계 S165에서 연산장치는 관련 정보를 제공할 수 있다. 일 예에서 관련 정보는 교통 상황 변화에 따라 소요 시간이 변경되는 경우에 이에 대한 정보를 포함할 수 있다. 또한 일 예에서 관련 정보는 만날 장소 주변의 교통 관련 정보를 포함할 수 있다. 또한 연산장치는 교통 상황의 변화 등에 의해 만날 장소를 변경해야 할 경우 변화된 정보를 기반으로 새로운 만날 장소를 다시 제안할 수 있으며, 사용자 선택에 따라 만날 장소를 변경할 수도 있다.
도 17a 및 17b는 차량 내 물품 정보 및 사용자의 정보를 기반으로 자율 주행을 통해 물품을 사용자에게 전달하는 UI를 설명하기 위한 도면이다.
도 17a는 연산장치가 차량 내부에 있는 물품이 사용자에게 전달되어야 한다는 것을 확인하고 이에 따라 관련 정보를 사용자에게 제공하는 UI가 개시된다.
식별번호 1710 및 1715와 같이 연산장치는 물품 정보, 물품에 대응되는 스케줄 정보, 만날 장소 정보 및 소요시간 정보 중 적어도 하나를 사용자에게 제공할 수 있다. 실시 예에서 만날 장소 정보는 사용자 위치, 차량위치 및 만날 장소 위치 중 적어도 하나를 포함하는 지도 이미지 정보일 수 있다. 실시 예에서 만날 장소 위치는 복수개 제안될 수 있다.
식별번호 1720와 같이 사용자는 연산장치에 의해 제안된 만날 장소로 자동차를 호출하는 명령을 연산장치에게 송신할 수 있다. 실시 예에서 이와 같은 명령은 자연어 처리를 기반으로 연산장치에서 그 의미를 파악할 수 있다.
식별번호 1725와 같이 연산장치는 사용자 명령에 따라 이동을 개시한다는 정보를 사용자에게 제공할 수 있다. 실시 예에서 연산장치는 만날 장소의 정보를 사용자에게 제공할 수 있다. 만날 장소의 정보는 만날 장소 주변의 교통 관련 정보를 포함할 수 있다.
도 17b는 위의 도 17a에서 설명한 실시 예의 대안적인 실시 예에 따른 UI가 개시된다.
위의 식별번호 1715의 메시지 이후에 사용자는 식별번호 1730과 같이 별도의 장소를 지정할 수 있다. 실시 예에서 사용자는 자신의 위치로 차량이 자율주행 해 오는 명령을 입력할 수 있다. 상기 명령어 역시 자연어 처리를 통해 연산장치가 식별할 수 있다.
식별번호 1735에서 연산장치는 사용자가 지정한 위치에 대한 정보 및 소요 예상시간 정보 중 적어도 하나를 사용자에게 제공할 수 있다. 실시 예에 따라 목적지 정보 및 목적지에서 구체적인 위치 정보 역시 제공될 수 있다. 또한 실시 예에 따라 목적지까지의 경로 정보 역시 사용자에게 제공될 수 있다.
식별번호 1740에서 연산장치는 사용자에게 주행과 관련된 추가적인 정보를 제공할 수 있다. 실시 예에서 추가적인 정보는 교통 상황의 변화에 따른 변경된 도착 정보를 포함할 수 있다. 실시 예에서 교통 상황의 변화로 소요시간이 증가하고 이에 대응한 변경된 도착 예정 시간이 제공될 수 있다.
도 18은 사용자 요청에 의해 차량 내 물품 관련 정보를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 18을 참조하면 차량에 포함된 요소(1800, 1802, 1804), 연산장치의 제어부(1806) 및 사용자의 이동 단말기(1808) 사이에서 정보 교환을 통해 물품관련 정보를 제공하는 방법이 도시된다.
단계 1810 내지 1825는 사용자가 차량의 터치스크린(1804)를 통해 카메라부(1800)이 촬영한 물품관련 이미지 정보를 제공 받는 과정을 설명한다. 보다 구체적으로 이와 같은 과정은 차량 내부의 사용자에게 직접 보이지 않는 위치에 물품이 위치하는 환경에서 사용될 수 있다.
단계 1810에서 터치스크린(1804)을 통해 수신된 사용자 입력을 기반으로 차량 제어부(1802)에 확인 요청 정보가 전송될 수 있다. 실시 예에서 확인 요청 정보는 확인하고자 하는 차량 내부의 위치와 관련된 정보일 수 있으며, 상기 위치와 관련된 정보는 특징 위치의 카메라를 지시하는 것을 수 있다.
단계 1815에서 차량 제어부(1802)는 대응되는 카메라부(1800)에 이미지정보를 요청할 수 있다.
단계 1820에서 카메라부(1800)는 이미지정보를 차량 제어부(1802)에 전달할 수 있다.
단계 1825에서 차량 제어부(1802)는 물품관련 이미지 정보를 터치 스크린(1804)에 전달하여 사용자에게 제공할 수 있도록 한다. 터치 스크린(1804)는 수신한 이미지를 사용자에게 제공할 수 있다.
이와 같은 실시 예는 사용자가 차량 내의 터치스크린을 통해 트렁크 등에 위치한 물품의 이미지를 활용하는데 사용될 수 있다.
단계 1830 내지 1865는 사용자가 이동단말기(1808)를 통해 차량의 물품 관련정보를 제공 받는 과정을 설명한다. 보다 구체적으로 이와 같은 과정은 사용자가 차량 외부에서 이동단말기(1808)를 통해 차량 내부의 물품 관련 정보를 제공 받기 위해 사용될 수 있다.
단계 1830에서 사용자의 이동 단말기(1808)에서 물품 정보를 확인하기 위한 확인 요청이 연산장치 제어부(1806)에 수신될 수 있다. 실시 예에서 확인 요청은 대상카메라부를 특정하거나, 특정 물품이 차량에 있는지에 대한 정보를 포함할 수 있다.
단계 1835에서 연산장치 제어부(1806)는 수신된 요청 정보를 확인할 수 있다. 실시 예에서 확인 요청은 일반적인 문장형식으로 수신될 수 있으며, 연산장치 제어부(1806)는 자연어 처리를 통해 해당 정보를 확인할 수 있다.
단계 1840에서 연산장치 제어부(1806)는 차량제어부(1802)에 확인된 정보를 기반으로 관련된 정보를 요청할 수 있다. 실시 예에서 요청되는 관련된 정보는 특정 카메라부가 촬영한 이미지 정보 및 특정 물품이 위치하는 부분에 대한 이미지 정보 중 적어도 하나를 포함할 수 있다.
단계 1845에서 차량제어부(1802)는 수신된 정보 요청을 기반으로 대응되는 카메라부(1800)에 이미지 정보를 요청할 수 있다.
단계 1850에서 카메라부(1800)는 요청 받은 이미지 정보를 차량제어부(1802)에 전송할 수 있다.
단계 1855에서 차량제어부(1802)는 연산장치 제어부(1806)에 획득한 물품 관련 이미지 정보를 전달할 수 있다.
단계 1860에서 연산장치 제어부(1806)는 수신한 이미지 정보를 기반으로 물품관련 정보를 확인할 수 있으며, 사용자가 요청한 정보에 대응한 물품 관련 정보를 확인할 수 있다. 실시 예에서 사용자가 요청한 위치나, 찾는 물건에 대응하는 이미지 정보, 그리고 확인된 물품에 대한 관련 정보 역시 확인될 수 있다.
단계 1865에서 연산장치 제어부는 물품 관련 정보를 이동 단말기(1808)에 제공할 수 있다.
일 실시 예에서 카메라부(1800) 및 차량 제어부(1802)는 복수개의 이미지를 촬영하여 연산장치 제어부(1806)에 전달할 수도 있다.
도 19는 차량 제어부의 확인을 통해 차량 내 물품 관련 정보를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 19를 참조하면 차량에 포함된 요소(1900, 1902), 연산장치의 제어부(1904) 및 사용자의 이동 단말기(1908) 사이에서 정보 교환을 통해 물품관련 정보를 제공하는 방법이 도시된다. 보다 구체적으로 본 실시 예는 차량 제어부에서 반복적 확인을 통해 이미지 정보를 획득하고 이를 연산장치 제어부에 전달하여, 차량 내부에 위치하는 사용자나 물품의 정보를 관리하고 차량에 물품을 놓고 내리는 경우 사용자에게 알람을 제공할 수 있는 특징을 가지게 된다.
단계 1910에서 차량 제어부(1902)는 이미지 정보 획득이 필요한 이벤트를 반복적으로 확인할 수 있다. 보다 구체적으로 차량 문이 열리거나, 트렁크가 열리는 경우 이와 같은 이벤트로 감지하고 이미지를 촬영하도록 카메라부(1900)를 제어할 수 있다. 또한 차량 내부의 사용자나 물품의 변화가 생길 수 있는 이벤트가 발생한 경우 차량 제어부는 이와 같은 이미지 정보를 획득하도록 이하의 동작을 수행할 수 있다.
단계 1915에서 차량 제어부(1902)는 확인한 이벤트 정보에 대응하는 이미지 정보를 카메라부(1900)에 요청할 수 있다. 일 예로 트렁크가 열린 경우 트렁크에 대응하는 카메라부(1900)에 이미지 촬영을 요청할 수 있다.
단계 1920에서 카메라부(1900)는 요청된 이미지 정보를 차량 제어부(1902)에 제공할 수 있다.
단계 1925에서 차량제어부(1902)는 수신한 이미지 정보를 연산장치 제어부(1904)에 전달할 수 있다.
단계 1930에서 연상장치 제어부(1904)는 수신한 이미지를 통해 이미지 정보를 인식하여 이를 통해 차량 내부의 물품 및 사용자 관련 정보를 확인할 수 있다. 또한 연산장치 제어부(1904)는 확인한 정보를 기반으로 사용자에게 정보 제공 필요성이 있는지 여부를 판단할 수도 있다.
단계 1935에서 연산장치 제어부(1904)는 확인 결과를 기반으로 물품 관련 정보를 이동 단말기(1908)에 제공할 수 있다.
도 20은 차량 내 위치한 물품 정보를 수집하고 이를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 20을 참조하면 차량에 포함된 요소(2000, 2002, 2004), 연산장치의 제어부(2006) 및 사용자의 이동 단말기(2008) 사이에서 정보 교환을 통해 물품관련 정보를 제공하는 방법이 도시된다. 이와 같은 실시 예를 통해 사용자에게 트렁크가 열리고 닫힐 때 변화를 통해 차량에 적재되었던 물품의 히스토리를 관리할 수 있다.
단계 2010 내지 2025는 차량제어부(2002)가 트렁크 내에 적재된 물품의 히스토리를 관리하는 실시 예를 설명하는 것이다.
단계 2010에서 차량 제어부(2002)는 트렁크 개폐동작을 감지할 수 있다. 트렁크 개폐 시 트렁크 내의 물품의 변화가 있을 수 있는바, 대응되는 시기의 이미지 정보의 감지가 필요하다.
단계 2015에서 차량 제어부(2002)는 카메라부(2002)에게 이미지 정보를 요청할 수 있다.
단계 2020에서 카메라부(2000)은 요청에 따른 이미지 정보를 차량 제어부(2002)에 제공할 수 있다.
단계 2025에서 차량 제어부(2002)는 이미지 정보를 저장할 수 있다.
추가적으로 단계 2030에서 사용자가 터치스크린(2004)을 통해 입력한 트렁크에 적재된 물품 정보를 제공하는 확인 요청을 차량 제어부(2002)에 전달될 수 있다. 실시 예에서 확인 요청은 특정 물품이 트렁크에 있는지 여부, 현재 트렁크의 이미지를 요청하는 정보, 트렁크에 실렸던 물품의 히스토리를 요청하는 정보 중 적어도 하나를 포함할 수 있다.
단계 2035에서 차량 제어부(2002)는 요청 정보에 대응하는 물품 관련 이미지 정보를 터치스크린(2004)에 제공할 수 있다.
또한 다른 방안으로 단계 2040에서 사용자가 이동 단말기(2008)를 통해 입력한 입력한 트렁크에 적재된 물품 정보를 제공하는 확인 요청이 연산장치 제어부(2006)에 전달될 수 있다. 실시 예에서 확인 요청은 특정 물품이 트렁크에 있는지 여부, 현재 트렁크의 이미지를 요청하는 정보, 트렁크에 실렸던 물품의 히스토리를 요청하는 정보 중 적어도 하나를 포함할 수 있다. 또한 상기 확인 요청은 일반 문장을 포함할 수 있다.
단계 2045에서 연산장치 제어부(2006)는 자연어 인식을 통해 요청 정보를 확인할 수 있다. 확인된 요청 정보를 기반으로 단계 2050 및 2055는 위의 단계 2030 및 2035와 같이 수행될 수 있다.
단계 2060에서 연산장치 제어부(2006)는 사용자의 확인 요청에 대응하는 이미지 정보를 이동 단말기(2008)에 제공할 수 있다.
도 21은 사용자 일정 정보를 기반으로 차량 내 위치한 물품 정보를 고려하여 사용자에게 필요한 물품 정보를 제공하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 21을 참조하면 차량에 포함된 요소(2100, 2102), 연산장치의 제어부(2106), 사용자 일정 정보 서버(2107) 및 사용자의 이동 단말기(2108) 사이에서 정보 교환을 통해 사용자의 일정 정보를 고려한 물품관련 정보를 사용자에게 제공하는 방법이 도시된다. 보다 구체적으로 이와 같은 방법을 통해 사용자의 차량 이용 히스토리 정보 및 사용자 일정 정보를 기반으로 차량에 보관된 물품 정보를 선택적으로 제공하는 특징을 가지게 된다.
단계 2110에서 연산장치 제어부(2106) 차량 사용과 관련해서 사용자 히스토리 정보를 저장할 수 있다. 이와 같은 정보는 차량 제어부(2102)로부터 통해 수신한 사용자의 차량 사용 히스토리와 관련된 정보를 기반으로 연산장치 제어부(2106)가 확인한 정보를 포함할 수 있다. 일 예로 특정 위치에서 특정 물품을 가지고 내리는 빈도와 같은 정보를 저장할 수 있다. 이와 같은 정보는 장소별, 시간별, 요일별, 계절별, 날씨별로 각각 사용자 사용 히스토리를 저장할 수 있다.
단계 2115에서 차량 제어부(2102)는 차량의 위치 또는 차량의 목적지 정보를 연산장치 제어부(2106)에 제공할 수 있다.
단계 2120에서 연산장치 제어부는 일정 정보 요청을 사용자 일정 정보 서버(2107)에 전송할 수 있다. 실시 예에서 일정 정보 서버는 외부에 별도의 서버의 형태로 구현될 수 있으며, 통신이 가능한 특정 단말에도 구현될 수 있다. 또한 사용자 일정 정보는 스케줄의 목적, 참석자, 장소와 같은 전반적인 정보를 포함할 수 있다.
단계 2125에서 사용자 일정 정보 서버(2107)은 요청 받은 사용자 일정 정보를 연산장치 제어부(2106)에 전송할 수 있다. 실시 예에서 현재 시간 차량 위치 및 목적지 중 적어도 하나를 기반으로 어느 시간대의 일정 정보가 제공될 지 결정될 수 있다.
단계 2130에서 연산장치 제어부(2106)은 수신한 정보를 기반으로 차량에 있는 물건 중 사용자의 현재 스케줄이나, 목적지에서 필요한 물건을 확인할 수 있다. 확인되는 물건은 해당 위치에서 통상적으로 사용하는 물건 혹은 해당 스케줄이 준비물로 기입된 물건이 일 예가 될 수 있다.
단계 2135에서 연산장치 제어부(2106)는 확인된 물건이 차량이 있는지, 또한 현재 상태가 어떻게 되는지 문의하는 물건 확인 요청 메시지를 차량 제어부(2102)에 전달할 수 있다.
단계 2140에서 차량 제어부(2102)는 해당 물건에 대응하는 이미지 정보를 카메라부(2100)에 요청하고, 단계 2145에서 카메라부(2100)는 요청 받은 이미지 정보를 차량 제어부(2102)에 다시 제공할 수 있다.
단계 2150에서 차량 제어부(2102)는 물품 관련 이미지 정보를 연산장치 제어부(2106)에 제공할 수 있다.
단계 2155에서 연산장치 제어부(2106)는 수신한 이미지 정보를 인식하여 사용자에게 필요한 물건이 있는지 확인할 수 있다.
단계 2160에서 연산장치 제어부(2106)는 사용자에게 필요한 물건 관련 정보를 이동 단말기(2108)로 전송할 수 있다. 또한 실시 예에서 필요 물건 정보는 차량에 설치된 디스플레이로도 전송될 수 있다.
한편 실시 예에서 연산장치 제어부(2106)는 차량 제어부(2102)로부터 이미지 정보를 수신한 이후에 차량에 위치한 물품 정보를 기반으로 필요 물건을 확인할 수도 있다.
도 22는 차량 내 물품 정보와 날씨 정보를 고려하여, 차량 내 물품 보관 위치를 제안하기 위해 각 노드들 사이에 정보를 전달하는 방법을 설명하기 위한 도면이다.
도 22를 참조하면 차량에 포함된 요소(2200, 2202), 연산장치의 제어부(2206), 날씨 정보 서버(2207) 및 사용자의 이동 단말기(2208) 사이에서 정보 교환을 통해 날씨 정보를 고려한 물품관련 정보를 사용자에게 제공하는 방법이 도시된다. 본 방법은 주차 시 혹은 주차 중에 날씨와 관련된 정보를 기반으로 사용자에게 차량 내부 물품의 정보를 제공하는 실시 예에 적용될 수 있으나 이에 제한되지 않고, 주행 중에도 관련 정보를 사용자에게 제공할 수 있다.
단계 2210에서 차량제어부(2202)는 연산장치 제어부(2206)로 차량 주차 정보를 제공할 수 있다. 실시 예에서 차량 주차 정보는 차량이 실내 혹은 실외에 주차했는지, 지리적 위치는 어디인지, 실외에 주차한 경우 그늘에 주차했는지 여부, 주차한 시간이 언제인지 여부 등을 포함할 수 있다. 이외에도 차량의 상태 변화와 관련될 수 있는 주차 관련 정보가 전반적으로 전달될 수 있다.
단계 2215에서 연산장치 제어부(2206)는 날씨 정보 서버(2207)에 날씨 정보 요청을 전송할 수 있다. 실시 예에서 요청되는 날씨 정보는 온도, 습도, 구름 관련 정보 및 강수 관련 정보 중 적어도 하나를 포함할 수 있다.
단계 2220에서 날씨 정보 서버(2207)은 연산장치 제어부(2206)에 요청한 날씨 정보를 전송할 수 있다.
단계 2225 내지 단계 2240은 단계 2135 내지 2150에서 수행된 동작과 대응되게 수행될 수 있다.
단계 2245에서 연산장치 제어부(2206)는 이미지 정보를 기반으로 물품 관련 정보를 확인할 수 있다. 보다 구체적으로 확인된 물건과 그에 대한 정보를 확인할 수 있으며, 이를 통해 물품의 특성 및 보관 기간 등을 확인할 수 있다.
단계 2250에서 연산장치 제어부(2206)는 확인 결과를 기반으로 변질/파손 등의 위험이 높은 물건에 대한 적절한 보관 위치를 제안하는 정보를 사용자의 이동 단말기(2208)에 제공할 수 있다.
도 23은 본 명세서의 실시 예에 따른 차량을 설명하기 위한 도면이다.
도 23을 참조하면 차량(2300)은 통상적으로 사용자가 탑승하여 이동할 수 있는 일반적인 차량 전반을 포함하며, 실시 예의 차량(2300) 입력부(2310), 표시부(2320), 저장부(2330), 카메라부(2340), 통신부(2350), 센서부(2360) 및 상기 센서부를 제어하는 차량 제어부(2370)를 포함할 수 있다.
입력부(2310)는 사용자의 입력을 수신할 수 있으며, 표시부(2320)는 차량(2300)의 동작과 관련된 정보를 디스플레이 할 수 있다. 일 예로 입력부(2310) 및 표시부(2320)가 터치스크린으로 구현될 수 있다.
저장부(2330)는 차량에서 생성되는 정보 및 통신부(2350)으로 송수신되는 정보 중 적어도 하나를 저장할 수 있다.
카메라부(2340)는 차량 내부 및 외부 중 적어도 하나를 촬영하여 이미지 정보를 생성할 수 있다. 실시 예에 따라 동영상을 촬영할 수도 있다.
통신부(2350)는 다른 노드들과 통신할 수 있도록 하며, 특정 서버들, 5G 서버, 사용자 단말 등과 통신을 할 수 있다.
센서부(2360)는 차량에서 감지하여야 하는 여러 물리 값들을 감지할 수 있다. 실시 예에서 온도, 광도, 습도 및 가속도 센서가 센서부(2360)에 포함될 수 있다.
차량 제어부(2370)는 차량 전반의 동작을 제어하며, 실시 예에서 설명한 방법과 관련된 차량 동작을 제어할 수 있다.
도 24는 본 명세서의 실시 예에 따른 정보 제공을 위한 연산장치를 설명하기 위한 도면이다.
도 24를 참조하면 연산장치(2400)는 본 명세서의 실시 예에 기재된 동작을 수행하는 장치로써 독립된 별도의 장치이거나, 차량에 설치되거나, 특정 서버상에 위치할 수 있으며, 구현에 따라 사용자 단말에 위치할 수도 있다. 실시 예의 연산장치(2400)는 통신부(2410), 저장부(2420) 및 상기 요소들을 제어하는 연산장치 제어부(2430)를 포함할 수 있다.
통신부(2410)는 실시 예 전반의 다른 노드들과 유/무선 통신할 수 있도록 하며, 정보 송수신이 통신부(2410)를 통해 수행될 수 있다.
저장부(2420)는 연산장치(2400)에서 생성되는 정보 및 통신부(2410)를 통해 송수신되는 정보를 저장할 수 있다.
연산장치 제어부(2430)는 연산장치 전반의 동작을 제어하며, 실시 예에서 설명한 방법과 관련된 연산장치의 동작을 제어할 수 있다.
실시 예 전반에서 사용자가 연산 장치에 입력하는 명령은 문장 형식일 수 있으며, 연산장치는 해당 명령을 자연어 처리 등의 기능을 활용하여 식별할 수 있다.
명세서 전반에서 연산장치는 차량 통신 가능한 별도의 서버에 위치할 수 있으나 이에 제한되지 않으며, 차량에 설치되거나, 사용자 단말에 설치될 수 있다. 또한 연산장치가 사용하는 정보는 차량, 사용자단말 및 외부 서버 중 적어도 하나로부터 수신될 수 있다.
명세서 전반에서 이미지 정보는 영상 정보로 대체될 수 있다. 이와 같은 대체를 통해 사용자는 소리와 함께 움직이는 영상 정보를 제공 받을 수 있다. 또한 이와 같은 동영상 정보를 제공하기 위하 차량에 마이크부가 구비될 수 있음은 자명하다.
한편, 본 명세서와 도면에는 본 발명의 바람직한 실시 예에 대하여 개시하였으며, 비록 특정 용어들이 사용되었으나, 이는 단지 본 발명의 기술 내용을 쉽게 설명하고 발명의 이해를 돕기 위한 일반적인 의미에서 사용된 것이지, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시 예 외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다.

Claims (15)

  1. 연산장치에서 정보제공 방법에 있어서,
    차량 내부의 이미지 정보를 획득하는 단계;
    상기 이미지 정보를 기반으로 사용자에 의해 상기 차량 내부에 위치된 물품 정보를 식별하는 단계; 및
    상기 식별된 물품 정보를 기반으로 정보 제공 대상을 위한 정보를 식별하는 단계를 포함하는 정보 제공 방법.
  2. 제1항에 있어서,
    상기 정보 제공 대상을 위한 정보는 상기 물품 정보 및 상기 차량의 위치와 관련된 정보를 기반으로 결정되는 것을 특징으로 하는 정보 제공 방법.
  3. 제2항에 있어서,
    상기 차량의 위치와 관련된 정보는 상기 차량의 물리적 위치 및 상기 사용자와 관련된 정보를 기반으로 결정되는 것을 특징으로 하는 정보 제공 방법.
  4. 제3항에 있어서,
    상기 사용자와 관련된 정보는 상기 사용자의 거주지 정보, 상기 사용자의 직장 정보 및 상기 사용자의 스케줄 정보 중 적어도 하나를 포함하는 것을 특징으로 하는 정보 제공 방법.
  5. 제2항에 있어서,
    상기 정보 제공 대상을 위한 정보는 상기 물품 정보, 상기 차량의 위치와 관련된 정보 및 상기 사용자의 위치와 관련된 정보를 기반으로 식별된 상기 차량과 상기 사용자가 만날 위치 정보를 포함하는 것을 특징으로 하는 정보 제공 방법.
  6. 제5항에 있어서,
    상기 정보 제공 대상을 위한 정보는 상기 차량과 상기 사용자가 만날 위치 정보에 대응하는 영역의 교통 정보를 기반으로 결정되는 것을 특징으로 하는 정보 제공 방법.
  7. 제1항에 있어서,
    상기 정보 제공 대상을 위한 정보는 일기 예보 정보 및 상기 차량 내부의 온도 정보 중 적어도 하나를 기반으로 결정되는 것을 특징으로 하는 정보 제공 방법.
  8. 제7항에 있어서,
    상기 차량 내부의 온도 정보는 상기 차량 내부의 복수의 위치의 온도 정보를 포함하고,
    상기 정보 제공 대상을 위한 정보는 상기 물품 정보 및 온도 정보를 기반으로 식별된 상기 차량 내부에 위치한 물품의 보관 장소를 포함하는 것을 특징으로 하는 정보 제공 방법.
  9. 제1항에 있어서,
    상기 물품 정보는 상기 식별된 물품이 일시적으로 상기 차량 내부에 위치하는 물품인지 상기 차량에 통상적으로 위치하는 물품인지 여부에 대한 정보를 포함하는 것을 특징으로 하는 것을 특징으로 하는 정보 제공 방법.
  10. 제1항에 있어서,
    상기 정보 제공 대상을 위한 정보는
    상기 식별된 물품이 차량에 위치한 시간과 관련된 정보, 상기 식별된 물품이 차량에서 외부로 나간 시간과 관련된 정보, 상기 식별된 물품과 관련된 사용자 정보 및 상기 외부로 및 상기 식별된 물품의 현재 차량 내부의 위치와 관련된 정보 중 적어도 하나를 포함하는 것을 특징으로 하는 정보 제공 방법.
  11. 제1항에 있어서,
    상기 식별된 물품 정보는 상기 물품이 차량 내부에 처음으로 위치하였는지 여부 및 상기 물품이 상기 차량 내부에 위치하는 빈도와 관련된 정보를 포함하는 것을 특징으로 하는 정보 제공 방법.
  12. 제1항에 있어서,
    정보 제공 대상을 위한 정보는 상기 차량의 운행 상태를 기반으로 식별되는 것을 특징으로 하는 정보 제공 방법.
  13. 제1항에 있어서,
    상기 연산장치는 상기 차량에 설치되거나, 상기 차량과 통신 가능한 별도의 장치에 설치되는 것을 특징으로 하는 정보 제공 방법.
  14. 연산장치에 있어서,
    다른 장치와 통신하는 통신부; 및
    차량 내부의 이미지 정보를 획득하고, 상기 이미지 정보를 기반으로 사용자에 의해 상기 차량 내부에 위치된 물품 정보를 식별하고, 상기 식별된 물품 정보를 기반으로 정보 제공 대상을 위한 정보를 식별하는 제어부를 포함하는 연산장치.
  15. 제1항 내지 제13항의 방법을 실행하기 위한 인스트럭션을 저장하는 비휘발성 저장매체.
KR1020190071812A 2019-06-17 2019-06-17 차량내의 물품 정보를 제공하는 방법 및 장치 KR20200144005A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190071812A KR20200144005A (ko) 2019-06-17 2019-06-17 차량내의 물품 정보를 제공하는 방법 및 장치
US16/546,138 US20200050858A1 (en) 2019-06-17 2019-08-20 Method and apparatus of providing information on item in vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190071812A KR20200144005A (ko) 2019-06-17 2019-06-17 차량내의 물품 정보를 제공하는 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20200144005A true KR20200144005A (ko) 2020-12-28

Family

ID=69405077

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190071812A KR20200144005A (ko) 2019-06-17 2019-06-17 차량내의 물품 정보를 제공하는 방법 및 장치

Country Status (2)

Country Link
US (1) US20200050858A1 (ko)
KR (1) KR20200144005A (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3070625A1 (en) * 2017-07-28 2019-01-31 Nuro, Inc. System and mechanism for upselling products on autonomous vehicles
US11907887B2 (en) 2020-03-23 2024-02-20 Nuro, Inc. Methods and apparatus for unattended deliveries
KR20210149476A (ko) * 2020-06-02 2021-12-09 현대자동차주식회사 자동차 및 그를 위한 실내 청결 관리 방법
CN112562114B (zh) * 2020-12-18 2022-12-20 北京百度网讯科技有限公司 数据采集的方法及装置

Also Published As

Publication number Publication date
US20200050858A1 (en) 2020-02-13

Similar Documents

Publication Publication Date Title
KR20200144005A (ko) 차량내의 물품 정보를 제공하는 방법 및 장치
US20210097852A1 (en) Moving robot
US11138844B2 (en) Artificial intelligence apparatus and method for detecting theft and tracing IoT device using same
US20190392382A1 (en) Refrigerator for managing item using artificial intelligence and operating method thereof
US11501250B2 (en) Refrigerator for providing information on item using artificial intelligence and method of operating the same
KR20200144006A (ko) 자율 주행 시스템
KR102353103B1 (ko) 인공 지능 장치 및 그의 동작 방법
US11755033B2 (en) Artificial intelligence device installed in vehicle and method therefor
KR20210022427A (ko) Ims 기반의 차량 실내 환경에서 화재 위험 요소 알림 장치 및 방법
US20200005643A1 (en) Method and apparatus for providing information on vehicle driving
KR102331672B1 (ko) 사용자의 위치를 결정하는 인공 지능 장치 및 그 방법
KR102297655B1 (ko) 외부 기기를 제어하기 위한 인공 지능 장치
KR102421488B1 (ko) 복수개의 출력 레이어를 이용한 인공 지능 장치 및 방법
US11605378B2 (en) Intelligent gateway device and system including the same
US20200007772A1 (en) Imaging reproducing method and apparatus
KR20210069419A (ko) Xr 디바이스 및 그 제어 방법
KR20210019765A (ko) 모듈러 로봇을 관리하는 방법 및 그 장치
US11878417B2 (en) Robot, method of controlling same, and server for controlling same
US20190384991A1 (en) Method and apparatus of identifying belonging of user based on image information
US11604959B2 (en) Artificial intelligence-based apparatus and method for providing wake-up time and bed time information
US20190371149A1 (en) Apparatus and method for user monitoring
KR20210103026A (ko) 자율 주행 시스템에서 차량의 주행을 제어하기 위한 방법 및 장치
US11116027B2 (en) Electronic apparatus and operation method thereof
US20190377360A1 (en) Method for item delivery using autonomous driving vehicle
KR102514128B1 (ko) 복수의 홈 디바이스간 연결을 제공하는 인공 지능 장치 및 그 방법