KR20160031797A - Interworking between products using the camera in real time - Google Patents

Interworking between products using the camera in real time Download PDF

Info

Publication number
KR20160031797A
KR20160031797A KR1020140121974A KR20140121974A KR20160031797A KR 20160031797 A KR20160031797 A KR 20160031797A KR 1020140121974 A KR1020140121974 A KR 1020140121974A KR 20140121974 A KR20140121974 A KR 20140121974A KR 20160031797 A KR20160031797 A KR 20160031797A
Authority
KR
South Korea
Prior art keywords
wearable device
electronic device
image data
control program
electronic
Prior art date
Application number
KR1020140121974A
Other languages
Korean (ko)
Inventor
원혁
신휘용
Original Assignee
원혁
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 원혁 filed Critical 원혁
Priority to KR1020140121974A priority Critical patent/KR20160031797A/en
Publication of KR20160031797A publication Critical patent/KR20160031797A/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/02—Details
    • H04L12/12—Arrangements for remote connection or disconnection of substations or of equipment thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00—Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06—Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Selective Calling Equipment (AREA)

Abstract

According to an embodiment, a wearable device may include: an image acquisition unit which acquires image data from the point of view of a user who wears the wearable device by using a camera and an eye tracking sensor of the wearable device; an identification unit which identifies a wireless control program of an electronic device corresponding to the acquired image data; and a control unit which provides a control function for the electronic device using the wireless control program.

Description

카메라를 이용한 실시간 제품 연동 기능{INTERWORKING BETWEEN PRODUCTS USING THE CAMERA IN REAL TIME}TECHNICAL FIELD The present invention relates to a real-time product linking function using a camera,

아래의 설명은 제품을 제어하는 기술에 관한 것으로, 실시간으로 제품간 연동을 하는 방법에 관한 것이다.The following description relates to a technology for controlling a product, and relates to a method for inter-product interoperation in real time.

제품을 제어하기 위하여 대부분 기기의 경우 사용자가 수동으로 연결을 설정해야만 하는 단점이 있다. 블루투스 혹은 와이파이 연결을 위해서는 기기 간의 인증 절차를 거쳐서 연결을 해야만 한다. 연결 후에도 자신이 제어하고자 하는 기기들을 일일이 사용자가 선택하여 제어를 해야한다. 현재 가정에서 제어가 가능한 기기들은 증가하고 있으며 사용자가 제어하고자 하는 기기의 경우 제어하고자 하는 기기의 애플리케이션을 선택하여만 한다.In order to control the product, most of the devices have a disadvantage that the user must manually set the connection. For Bluetooth or Wi-Fi connection, the device must be authenticated and connected. After the connection, the user must select and control the devices he / she wants to control. Currently, devices that can be controlled at home are increasing, and in the case of a device to be controlled by a user, an application of a device to be controlled is selected.

QR 코드를 이용하여 사용자가 제품을 제어하는 기술이 개발되었다. QR 코드만을 인식하면 자동으로 연결되고 사용자 등록 및 관리까지 전산으로 이루어진다는 장점을 지니고 있다. 하지만, 상기 기술 또한 다종의 기기일 경우 사용자가 수동으로 제어하고자 하는 기기들을 설정해야 하고, 제어하고자 하는 기기가 많아질수록 사용자의 불편함이 증가한다는 단점이 있다.A technology has been developed that allows users to control products using QR codes. If only QR code is recognized, it is automatically connected, and user registration and management are performed by computer. However, in the case of the above-described technology, the user has to set the devices to be controlled manually, and the disadvantage of the user increases as the number of devices to be controlled increases.

이에 따라 웨어러블 장치를 통하여 사용자가 보는 시점의 영상을 취득하고, 취득된 영상 이미지를 분석하여 사물을 인지하는 기술을 이용하여 제어할 기기를 자동으로 등록하거나, 자동으로 선택함으로써 제어하는 기술이 제공될 필요가 있다.Accordingly, there is provided a technique of automatically registering or automatically selecting a device to be controlled by using a technique of acquiring an image at a time point seen by a user through the wearable device and analyzing the acquired image image to recognize an object There is a need.

일 실시예에 따른 웨어러블 장치는 전자 기기의 무선 제어 프로그램을 제공할 수 있다.The wearable device according to an embodiment can provide a radio control program of an electronic device.

일 실시예에 따른 웨어러블 장치는, 상기 웨어러블 장치의 카메라 및 아이트래킹 센서를 이용하여 상기 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득하는 영상 획득부; 상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 식별하는 식별부; 및 상기 무선 제어 프로그램을 이용하여 상기 전자 기기에 대한 제어 기능을 제공하는 제어부를 포함할 수 있다.The wearable device according to one embodiment includes an image acquiring unit that acquires image data of a point of view of a wearer of the wearable device by using a camera and an eye tracking sensor of the wearable device; An identification unit for identifying a wireless control program of the electronic device corresponding to the obtained image data; And a control unit for providing a control function for the electronic device using the radio control program.

일 측에 따르면, 상기 식별부는, 상기 획득된 전자 기기의 영상 데이터를 정보 서버로 송신하고, 상기 정보 서버로부터 상기 전자 기기의 무선 제어 프로그램을 수신하거나 상기 전자 기기의 무선 제어 프로그램에 관한 정보를 수신할 수 있다.According to one aspect of the present invention, the identification unit may transmit the image data of the obtained electronic device to the information server, receive the wireless control program of the electronic device from the information server, or receive information on the wireless control program of the electronic device can do.

또 다른 일측에 따르면, 상기 식별부는, 상기 전자 기기와 무선 통신하여 상기 전자 기기의 디스플레이에 상기 전자 기기에 관한 QR 코드를 표시하도록 상기 전자 기기에 요청하고, 상기 웨어러블 장치의 카메라를 이용하여 상기 QR 코드를 인식하고, 상기 QR 코드를 이용하여 상기 전자 기기에 관한 정보를 획득할 수 있다.According to another aspect of the present invention, the identification unit may wirelessly communicate with the electronic device to request the electronic device to display a QR code related to the electronic device on a display of the electronic device, And can acquire information on the electronic device using the QR code.

일 실시예에 따른 웨어러블 장치의 동작 방법은, 상기 웨어러블 장치의 카메라 및 아이트래킹 센서를 이용하여 상기 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득하는 단계; 상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 식별하는 단계; 및 상기 무선 제어 프로그램을 이용하여 상기 전자 기기를 제어하는 단계를 포함할 수 있다.According to an embodiment of the present invention, there is provided a method of operating a wearable device, the method comprising: acquiring image data of a wearer of the wearable device using a camera and an eye tracking sensor of the wearable device; Identifying a wireless control program of an electronic device corresponding to the obtained image data; And controlling the electronic device using the radio control program.

일 측에 따르면, 상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 획득하는 단계를 더 포함하고, 상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 획득하는 단계는, 복수 개의 전자 기기에 대응하는 비교 데이터를 저장하는 단계; 상기 획득된 영상 데이터를 상기 비교 데이터와 비교하여 상기 영상 데이터에 대응하는 전자 기기를 검색하는 단계; 및 상기 검색된 전자 기기의 제어 프로그램을 획득하는 단계를 포함할 수 있다.According to one aspect of the present invention, the method further includes acquiring a radio control program of the electronic device corresponding to the obtained image data, wherein the step of acquiring the radio control program of the electronic device corresponding to the obtained image data comprises: Storing comparison data corresponding to the electronic device; Comparing the acquired image data with the comparison data to search for an electronic device corresponding to the image data; And obtaining a control program of the searched electronic device.

또 다른 일측에 따르면, 상기 복수 개의 전자 기기에 대응하는 비교 데이터를 저장하는 단계는, 상기 복수 개의 전자 기기의 각각에 대응하는 전자기기의 영상 데이터를 저장하는 단계를 포함하고, 상기 획득된 영상 데이터를 상기 비교 데이터와 비교하여 상기 영상 데이터에 대응하는 전자 기기를 검색하는 단계는, 상기 획득된 영상 데이터를 상기 저장된 복수 개의 전자기기의 영상 데이터와 비교하여 상기 영상 데이터에 대응하는 전자기기를 검색하는 단계를 포함할 수 있다.According to another aspect of the present invention, the step of storing the comparison data corresponding to the plurality of electronic devices includes a step of storing the image data of the electronic device corresponding to each of the plurality of electronic devices, Comparing the acquired image data with the comparison data to search for an electronic device corresponding to the image data, the electronic device corresponding to the image data is searched by comparing the acquired image data with the image data of the stored plurality of electronic devices Step < / RTI >

또 다른 일측에 따르면, 상기 복수 개의 전자 기기에 대응하는 비교 데이터를 저장하는 단계는, 상기 복수 개의 전자 기기의 각각에 대응하여 상기 전자기기의 이미지 특징 데이터를 저장하는 단계를 포함하고, 상기 획득된 영상 데이터를 상기 비교 데이터와 비교하여 상기 영상 데이터에 대응하는 전자 기기를 검색하는 단계는, 상기 획득된 영상 데이터를 분석하여 상기 획득된 영상 데이터의 이미지 특징 데이터를 추출하는 단계; 및 상기 추출된 이미지 특징 데이터와 상기 저장된 복수 개의 전자기기의 이미지 특성 데이터를 비교하여 상기 영상 데이터에 대응하는 전자기기를 검색하는 단계를 포함할 수 있다.According to another aspect of the present invention, the step of storing the comparison data corresponding to the plurality of electronic devices includes the step of storing the image characteristic data of the electronic device corresponding to each of the plurality of electronic devices, The step of comparing image data with the comparison data and searching for an electronic device corresponding to the image data may include extracting image characteristic data of the acquired image data by analyzing the acquired image data; And comparing the extracted image feature data with image characteristic data of the stored plurality of electronic devices to search for an electronic device corresponding to the image data.

또 다른 일측에 따르면, 웨어러블 장치의 동작 방법은, 상기 영상 데이터에 대응하는 전자 기기가 검색된 경우, 상기 웨어러블 장치의 위치 및 상기 웨어러블 장치의 상기 착용자가 보고 있는 시점에 대한 정보를 상기 검색된 전자 기기에 대한 식별자와 함께 저장하는 단계를 더 포함할 수 있다.According to another aspect of the present invention, there is provided a method of operating a wearable device, the method comprising: when the electronic device corresponding to the image data is searched, information on the position of the wearable device and the time point of the wearer's viewing of the wearable device, And storing the identifier with a corresponding identifier.

또 다른 일측에 따르면, 웨어러블 장치의 동작 방법은, 웨어러블 동상기 웨어러블 장치의 현재 위치 및 상기 웨어러블 장치의 상기 착용자가 현재 보고 있는 시점을 기 검색된 전자 기기와 함께 저장된 상기 웨어러블 장치의 위치 및 상기 웨어러블 장치의 상기 착용자가 보고 있는 시점을 비교하는 단계; 상기 웨어러블 장치의 현재 위치 및 상기 웨어러블 장치의 상기 착용자가 현재 보고 있는 시점이 기 검색된 전자 기기와 함께 저장된 상기 웨어러블 장치의 위치 및 상기 웨어러블 장치의 상기 착용자가 보고 있는 시점과 일치하는 경우, 상기 기 검색된 전자 기기에 대응하는 전자 기기의 무선 제어 프로그램을 식별하는 단계; 및 상기 무선 제어 프로그램을 이용하여 상기 전자 기기를 제어하는 단계를 포함할 수 있다.According to another aspect of the present invention, there is provided a method of operating a wearable device, the method comprising: detecting a current position of the wearable device and a time point at which the wearer of the wearable device is currently looking at a position of the wearable device, Comparing the point in time when the wearer is looking at; If the current position of the wearable device and the time point at which the wearer of the wearable device is currently viewing match the position of the wearable device stored together with the searched electronic device and the time at which the wearable device of the wearable device is watching, Identifying a radio control program of an electronic device corresponding to the electronic device; And controlling the electronic device using the radio control program.

또 다른 일측에 따르면, 웨어러블 장치의 동작 방법은, 가장 최근에 사용한 N개(N은 자연수)의 전자 기기에 대한 무선 제어 프로그램을 상기 웨어러블 장치에 유지하는 단계를 더 포함할 수 있다.According to another aspect of the present invention, the method of operating the wearable device may further include the step of maintaining, in the wearable device, a radio control program for the N most recently used electronic devices (N is a natural number).

또 다른 일측에 따르면, 웨어러블 장치의 동작 방법은, 무선 제어가 가능한 전자 기기의 리스트를 유지하는 단계; 및 상기 획득된 영상 데이터에 대응하는 전자 기기가 상기 리스트에 포함되어 있는 경우, 상기 전자 기기에 대한 무선 제어가 가능함을 상기 웨어러블 장치의 디스플레이에 표시하는 단계를 더 포함할 수 있다.According to another aspect, a method of operating a wearable device includes: maintaining a list of electronic devices capable of wireless control; And displaying on the display of the wearable device that wireless control of the electronic device is possible when the electronic device corresponding to the obtained image data is included in the list.

일 실시예에 따른 웨어러블 장치의 동작 방법은, 상기 웨어러블 장치와 연결이 설정되면 디스플레이에 QR 코드를 표시하는 전자 기기와 연결을 설정하는 단계; 상기 웨어러블 장치의 카메라를 이용하여 상기 웨어러블 장치의 착용자가 보고 있는 시점에 상기 전자 기기의 QR 코드가 인식되는지를 확인하는 단계; 상기 인식된 QR 코드를 정보 서버로 송신하고, 상기 정보 서버로부터 상기 전자 기기의 제어 프로그램을 획득하는 단계를 포함할 수 있다.A method of operating a wearable device according to an exemplary embodiment of the present invention includes: establishing a connection with an electronic device displaying a QR code on a display when a connection with the wearable device is established; Confirming whether the QR code of the electronic device is recognized at the time when the wearer of the wearable device is watching using the camera of the wearable device; Transmitting the recognized QR code to the information server, and obtaining the control program of the electronic device from the information server.

일 측에 따르면, 웨어러블 장치의 동작 방법은, 상기 획득된 상기 전자 기기의 제어 프로그램을 상기 웨어러블 장치에 자동으로 설치하는 단계; 및 상기 설치된 제어 프로그램을 실행하여 상기 전자 기기를 제어하는 단계를 더 포함할 수 있다.According to one aspect of the present invention, a method of operating a wearable device includes: automatically installing the obtained control program of the electronic device in the wearable device; And controlling the electronic apparatus by executing the installed control program.

일 실시예에 따른 전자 기기의 동작 방법은, 웨어러블 장치와 거리 제한 무선 통신을 이용하여 무선 연결을 설정하는 단계; 상기 웨어러블 장치가 상기 전자 기기로부터 미리 정해진 거리 이상 떨어져 있는지 판단하는 단계; 및 상기 웨어러블 장치가 상기 전자 기기로부터 미리 정해진 거리 이상 떨어져 있다고 판단되는 경우, 상기 전자 기기의 전원을 자동으로 오프하는 단계를 포함할 수 있다.A method of operating an electronic device according to an exemplary embodiment includes: establishing a wireless connection using a wearable device and a distance limited wireless communication; Determining whether the wearable device is separated from the electronic device by a predetermined distance or more; And automatically turning off the power of the electronic device when it is determined that the wearable device is away from the electronic device by a predetermined distance or more.

일 실시예에 따른 웨어러블 장치는 전자 기기에 대한 제어 기기를 가지고 있지 않아도 무선 제어 프로그램을 통하여 제어할 수 있으므로 사용자에게 편리함을 제공할 수 있다. 또한, 웨어러블 장치는 카메라 및 아이트래킹 센서를 통하여 사용자가 보고 있는 시점을 인식하고, 인식된 시점에 대한 전자 기기의 무선 제어 프로그램을 자동으로 활성화할 수 있다.The wearable device according to an embodiment can control convenience through a wireless control program even if the wearable device does not have a control device for the electronic device, thereby providing convenience to the user. In addition, the wearable device can recognize the time point the user is viewing through the camera and the eye tracking sensor, and can automatically activate the wireless control program of the electronic device at the recognized time.

도 1은 일 실시예에 따른 웨어러블 장치의 동작을 나타낸 도면이다.
도 2는 일 실시예에 따른 웨어러블 장치의 구성을 나타낸 블록도이다.
도 3은 일 실시예에 따른 웨어러블 장치의 동작 방법을 나타낸 흐름도이다.
도 4는 일 실시예에 따른 웨어러블 장치의 사물을 자동으로 인식하는 방법을 나타낸 흐름도이다.
도 5는 일 실시예에 따른 웨어러블 장치의 카메라 기능을 이용한 실시간 제품간 제어한 구현 예이다.1 is a view illustrating an operation of a wearable device according to an embodiment.
2 is a block diagram showing a configuration of a wearable device according to an embodiment.
3 is a flowchart illustrating a method of operating a wearable device according to an embodiment.
4 is a flowchart illustrating a method of automatically recognizing objects of a wearable device according to an exemplary embodiment.
5 is an example of real-time inter-product control using a camera function of a wearable device according to an embodiment.

이하, 실시예를 첨부한 도면을 참조하여 상세히 설명한다.
Hereinafter, embodiments will be described in detail with reference to the accompanying drawings.

도 1은 일실시예에 따른 웨어러블 장치의 동작을 나타낸 도면이다. 1 is a view illustrating an operation of a wearable device according to an embodiment.

웨어러블 장치(110)는 예를 들면, HMD, 스마트 워치 등과 같이 제어 프로그램이 증감 현실로 표현될 수 있는 착용형 기기일 수 있다. 제어 기기(130)는 사용자가 구입하였거나 보유하고 있는 기기, 상기 제어하고자 하는 기기, 예를 들면, TV, 스마트 폰, 스마트 기기 등의 하드웨어 혹은 내장된 각종 소프트웨어 등이 포함될 수 있다.The wearable device 110 may be, for example, a wearable device, such as an HMD or a smart watch, in which a control program can be expressed as an increase / decrease reality. The control device 130 may include hardware such as a device purchased or possessed by the user or a device to be controlled, for example, a TV, a smart phone, a smart device, or various built-in software.

웨어러블 장치(110)는 카메라 및 아이트래킹 센서를 이용하여 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득할 수 있다. 웨어러블 장치(110)는 획득된 영상 데이터에 대응하는 전자 기기(130)의 무선 제어 프로그램을 획득할 수 있다. 예를 들면, 웨어러블 장치는 복수 개의 전자 기기에 대응하는 비교 데이터를 저장할 수 있다. 복수 개의 전자 기기의 각각에 대응하는 전자 기기의 영상 데이터를 저장할 수 있다. 획득된 영상 데이터를 비교 데이터와 비교하여 영상 데이터에 대응하는 전자 기기를 검색할 수 있다. 획득된 영상 데이터를 저장된 복수 개의 전자 기기의 영상 데이터와 비교하여 영상 데이터에 대응하는 전자 기기를 검색할 수 있다. 이때, 영상 데이터로 비교할 수 있고, 특정 데이터만을 저장해두고 획득 영상 데이터에서 특징 데이터를 추출한 후 특징 데이터를 통하여 비교할 수 있다. 검색된 전자 기기의 제어 프로그램을 획득할 수 있다. The wearable apparatus 110 can acquire image data at a time point the wearer of the wearable apparatus is looking at using the camera and the eye tracking sensor. The wearable device 110 may acquire a wireless control program of the electronic device 130 corresponding to the acquired image data. For example, the wearable device can store comparison data corresponding to a plurality of electronic devices. The image data of the electronic device corresponding to each of the plurality of electronic devices can be stored. The acquired image data is compared with the comparison data to search for an electronic device corresponding to the image data. The acquired image data may be compared with image data of a plurality of stored electronic devices to search for electronic devices corresponding to the image data. At this time, the image data can be compared with each other, only the specific data can be stored, and the feature data can be extracted from the acquired image data and then compared through the feature data. The control program of the searched electronic device can be acquired.

웨어러블 장치(110)는 영상 데이터에 대응하는 전자 기기(130)가 검색된 경우, 웨어러블 장치의 위치 및 웨어러블 장치의 착용자가 보고 있는 시점에 대한 정보를 검색된 전자 기기에 대한 식별자와 함께 저장할 수 있다. 웨어러블 장치(110)의 현재 위치 및 웨어러블 장치의 착용자가 현재 보고 있는 시점을 기 검색된 전자 기기와 함께 저장된 웨어러블 장치의 위치 및 웨어러블 장치의 착용자가 보고 있는 시점을 비교할 수 있다. 웨어러블 장치의 현재 위치 및 웨어러블 장치의 착용자가 현재 보고 있는 시점이 기 검색된 전자 기기와 함께 저장된 웨어러블 장치의 위치 및 웨어러블 장치의 착용자가 보고 있는 시점과 일치하는 경우, 기 검색된 전자 기기에 대응하는 전자 기기의 무선 제어 프로그램을 식별할 수 있다. 웨어러블 장치(110)는 무선 제어 프로그램을 이용하여 전자 기기(130)를 제어할 수 있다. When the electronic device 130 corresponding to the image data is searched, the wearable device 110 may store information on the position of the wearable device and the time when the wearer of the wearable device sees the information, together with the identifier for the searched electronic device. It is possible to compare the current position of the wearable device 110 and the time point at which the wearer of the wearable device is currently viewing the position of the wearable device stored together with the searched electronic device and the time when the wearable device of the wearable device sees it. When the current position of the wearable device and the point in time at which the wearer of the wearable device is currently watching coincides with the position of the wearable device stored together with the searched electronic device and the time of the wearer of the wearable device, It is possible to identify the radio control program of The wearable device 110 can control the electronic device 130 using a radio control program.

웨어러블 장치(110)는 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 식별할 수 있다. 이때, 웨어러블 장치(110)는 무선 제어가 가능한 전자 기기의 리스트를 유지하고 있을 수 있다. 또한, 웨어러블 장치(110)는 가장 최근에 사용한 N개(N은 자연수)의 전자 기기에 대한 무선 제어 프로그램을 웨어러블 장치에 유지할 수 있다. The wearable device 110 can identify the wireless control program of the electronic device corresponding to the acquired image data. At this time, the wearable device 110 may maintain a list of electronic devices capable of wireless control. In addition, the wearable device 110 can maintain a wireless control program for the most recently used N (N is a natural number) electronic devices in the wearable device.

웨어러블 장치(110)는 획득된 영상 데이터에 대응하는 전자 기기가 리스트에 포함되어 있는 경우, 전자 기기에 대한 무선 제어가 가능함을 웨어러블 장치의 디스플레이에 표시할 수 있다. 웨어러블 장치(110)는 무선 제어 프로그램을 이용하여 전자 기기를 제어할 수 있다.The wearable apparatus 110 can display on the display of the wearable apparatus that wireless control of the electronic apparatus is possible when the electronic apparatus corresponding to the acquired image data is included in the list. The wearable apparatus 110 can control the electronic apparatus using the wireless control program.

일 실시예에 따른 웨어러블 장치는 웨어러블 장치와 거리 제한 무선 통신을 이용하여 무선 연결을 설정할 수 있다. 웨어러블 장치(110)가 전자 기기로부터 미리 정해진 거리 이상 멀어져 있는지 판단할 수 있다. 웨어러블 장치(110)가 전자 기기로부터 미리 정해진 거리 이상 떨어져 있다고 판단되는 경우, 전자 기기의 전원을 자동으로 오프할 수 있다. A wearable device according to an exemplary embodiment can establish a wireless connection using a distance limited wireless communication with a wearable device. It is possible to determine whether or not the wearable device 110 is moved away from the electronic device by a predetermined distance or more. When the wearable device 110 is determined to be located at a predetermined distance or more from the electronic device, the power of the electronic device can be automatically turned off.

사용자의 스마트 애플리케이션의 공유 기능을 통해서 집안에서 스마트 제어가 가능한 모든 기기에 동기화 정보를 제공할 수 있고, 가족 사용자를 공유할 수 있다. 가정 내의 인트라넷 사용자를 위한 제어 기기를 자동으로 컨넥트할 수 있다. 스마트 기기의 센서와 정보를 이용한 자동 기기를 제어할 수 있다. GPS 등의 센서를 이용한 자동 기기 정보를 제어할 수 있다. 예를 들면, 사용자가 출근을 할 경우, 전원 공급이 필요 없는 기기의 전원을 자동 오프할 수 있고, 사용자가 퇴근할 경우 환경 정보를 이용한 기기의 자동 동작을 실행시킬 수 있다. 또한, 예를 들면, 화면 밝기, 조명 밝기 등과 같이 조도 센서 등을 이용한 자동 기기 정보를 제어할 수 있다. With the sharing function of the user's smart application, it is possible to provide synchronization information to all devices that can be controlled smartly in the home, and to share the family user. Control devices for intranet users in the home can be automatically connected. It can control the sensor of smart device and the automatic device using information. It is possible to control automatic device information using a sensor such as GPS. For example, when the user goes to work, the power of the device which does not need power supply can be automatically turned off, and when the user goes home, the device can automatically perform the operation using the environment information. In addition, for example, automatic device information using an illuminance sensor, such as screen brightness, illumination brightness, and the like, can be controlled.

도 2는 일 실시예에 따른 웨어러블 장치의 구성을 나타낸 블록도이다.2 is a block diagram showing a configuration of a wearable device according to an embodiment.

웨어러블 장치(200)는 카메라 및 아이트래킹 센서를 이용하여 전자 기기를 제어하기 위한 장치로서, 영상 획득부(210), 식별부(220) 및 제어부(230)를 포함할 수 있다. The wearable device 200 is an apparatus for controlling an electronic device using a camera and an eye tracking sensor, and may include an image acquisition unit 210, an identification unit 220, and a control unit 230.

영상 획득부(210)는 웨어러블 장치의 카메라 및 아이트래킹 센서를 이용하여 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득할 수 있다. 이때, 착용자가 보고 있는 시점의 영상 데이터를 통하여 복수의 전자 기기에 대응하는 비교 데이터와 비교하여 영상 데이터에 대응하는 전자 기기를 검색하기 위하여 비교 데이터를 저장하고 있을 수 있다. 비교 데이터는 외부의 정보 서버에 저장하고 있을 수 있으며, 전자 기기에 저장하고 있을 수 있다. The image acquiring unit 210 can acquire image data of a wearable wearer's viewpoint using a camera and an eye tracking sensor of the wearable device. At this time, the comparison data may be stored in comparison with the comparison data corresponding to the plurality of electronic devices through the image data at the time of the wearer's viewing, so as to search for the electronic device corresponding to the image data. The comparison data may be stored in an external information server or may be stored in an electronic device.

식별부(220)는 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 식별할 수 있다. 식별부(220)는 획득된 전자 기기의 영상 데이터를 정보 서버로 송신하고, 정보 서버로부터 전자 기기의 무선 제어 프로그램을 수신하거나 전자 기기의 무선 제어 프로그램에 관한 정보를 수신할 수 있다. 예를 들면, 무선 제어 프로그램을 웨어러블 장치가 이미 저장하고 있을 수 있으므로 정보 서버가 어떤 전자 기기라는 것을 웨어러블 장치에 알려줄 수 있다. 그러면, 웨어러블 장치는 이에 대응하는 제어 프로그램을 저장하고 있는지 확인할 수 있고, 저장하고 있다면 해당 제어 프로그램을 사용하고 저장하고 있지 않다면 정보 서버에게 요청하여 다운로드 할 수 있다. The identification unit 220 can identify the wireless control program of the electronic device corresponding to the acquired image data. The identification unit 220 may transmit the acquired image data of the electronic device to the information server, receive the wireless control program of the electronic device from the information server, or receive the information on the wireless control program of the electronic device. For example, since the wearable device may already store the wireless control program, the wearable device can be informed that the information server is an electronic device. Then, the wearable apparatus can confirm whether or not the corresponding control program is stored. If it is stored, the wearable apparatus uses the corresponding control program, and if not, it can request and download it to the information server.

식별부(220)는 전자 기기와 무선 통신하여 전자 기기의 디스플레이에 전자 기기에 관한 QR 코드를 표시하도록 전자 기기에 요청할 수 있다. 식별부(220)는 웨어러블 장치의 카메라를 이용하여 QR 코드를 인식하고, QR 코드를 이용하여 전자 기기에 관한 정보를 획득할 수 있다. The identification unit 220 may request the electronic device to wirelessly communicate with the electronic device to display a QR code on the electronic device on the display of the electronic device. The identification unit 220 can recognize the QR code using the camera of the wearable device and acquire information on the electronic device using the QR code.

제어부(230)는 무선 제어 프로그램을 이용하여 전자 기기에 대한 제어 기능을 제공할 수 있다.The control unit 230 may provide a control function for the electronic device using the radio control program.

도 3은 일 실시예에 따른 웨어러블 장치의 동작 방법을 나타낸 흐름도이다.3 is a flowchart illustrating a method of operating a wearable device according to an embodiment.

도 3은 웨어러블 장치에 카메라 기능을 이용한 실시간 제품 제어 동작을 나타낸 도면으로, 웨어러블 장치의 앱을 실행(301)시킬 수 있다. 애플리케이션이 실행된 후, 제어할 전자 기기를 대기(302)할 수 있다. 웨어러블 장치는 제어할 전자 기기가 있는지 판단할 수 있다(303). 웨어러블 장치는 제어할 전자 기기가 있다면, 웨어러블 장치의 내장된 카메라와 아이트래킹 센서를 통해서 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득할 수 있다. 예를 들면, TV를 제어하기 위하여, 사용자는 웨어러블 장치의 내장된 카메라와 아이트래킹 센서를 통해서 제어할 TV의 영상 데이터를 획득할 수 있다. 3 is a diagram showing a real-time product control operation using a camera function in a wearable device, which can execute an app of a wearable device (301). After the application is executed, the electronic device to be controlled 302 can wait. The wearable device may determine whether there is an electronic device to be controlled (303). If there is an electronic device to be controlled, the wearable device can acquire image data at the time when the wearer of the wearable device is looking through the built-in camera and the eye tracking sensor of the wearable device. For example, in order to control the TV, the user can acquire the image data of the TV to be controlled through the built-in camera of the wearable device and the eye tracking sensor.

획득된 영상 데이터를 무선 통신을 이용하여 전자 기기로 전송할 수 있다. 웨어러블 장치와 제어할 전자 기기가 없다면, 웨어러블 장치는 대기 상태를 유지할 수 있다(302). 이때, 무선 통신이 가능한 전자 기기의 경우 자동으로 연결될 수 있으며, 무선 통신이 불가능한 전자 기기의 경우 사용자가 제어할 전자 기기를 선택함으로써 연결할 수 있다. 예를 들면, Wi-Fi, 블루투스와 같은 근거리 무선 통신을 이용할 수 있다. And the acquired image data can be transmitted to the electronic device using wireless communication. If there is no wearable device and an electronic device to be controlled, the wearable device can maintain the standby state (302). At this time, in the case of an electronic device capable of wireless communication, it can be automatically connected. In the case of an electronic device in which wireless communication is impossible, a user can select an electronic device to be controlled and connect. For example, it is possible to use short-range wireless communication such as Wi-Fi and Bluetooth.

웨어러블 장치는 복수 개의 전자 기기에 대응하는 비교 데이터를 저장할 수 있다. 예를 들면, 비교 데이터는 웨어러블 장치와 통신이 가능한 데이터베이스에 저장되어 있을 수 있고, 웨어러블 장치의 저장부에 비교데이터를 저장할 수 있다. The wearable device can store comparison data corresponding to a plurality of electronic devices. For example, the comparison data may be stored in a database capable of communicating with the wearable apparatus, and the comparison data may be stored in the storage unit of the wearable apparatus.

획득된 영상 데이터를 비교 데이터와 비교(305)하여 영상 데이터에 대응하는 전자 기기를 검색할 수 있다. 예를 들면, 영상 데이터를 통하여 비교할 수 있고, 특징 데이터만 저장해두고 획득 영상 데이터에서 특징 데이터를 추출한 후, 비교할 수도 있다. 또한, 획득된 전자 기기의 영상 데이터를 정보 서버로 송신하고, 정보 서버로부터 전자 기기의 무선 제어 프로그램을 수신하거나 전자 기기의 무선 제어 프로그램에 관한 정보를 수신할 수 있다. 예를 들면, 무선 제어 프로그램을 웨어러블 장치가 이미 저장하고 있을 수 있으므로, 정보 서버가 어떤 전자 기기라는 것을 웨어러블 장치에 통보할 수 있고, 웨어러블 장치는 이에 대응하는 제어 프로그램을 웨어러블 장치에 저장하고 있는지 확인하고 저장하고 있으면 해당 무선 제어 프로그램을 사용하고, 없으면 정보 서버에 무선 제어 프로그램을 요청하여 다운로드할 수 있다. The acquired image data is compared with the comparison data (305) to search for electronic devices corresponding to the image data. For example, it is possible to compare them through the image data, store only the characteristic data, extract the characteristic data from the acquired image data, and compare them. The image data of the obtained electronic device may be transmitted to the information server, the wireless control program of the electronic device may be received from the information server, or the information about the wireless control program of the electronic device may be received. For example, since the wearable device may already store the wireless control program, it is possible to notify the wearable device that the information server is an electronic device, and the wearable device confirms whether the corresponding control program is stored in the wearable device And if it is stored, the wireless control program is used, and if not, the wireless control program can be requested and downloaded to the information server.

검색된 전자 기기의 무선 제어 프로그램을 획득(306)할 수 있다. 이때, 제어 프로그램이 존재하지 않는 경우, 네트워크에 연결하여 해당 제어 프로그램을 다운 받아 웨어러블 장치에 전송할 수 있다. 예를 들면, 제어할 전자 기기가 웨어러블 장치로 제어 프로그램을 송신할 수 있고, 웨어러블 장치가 이미 복수 개의 제어 프로그램을 저장을 유지하고 있다가 검색된 전자 기기의 무선 제어 프로그램을 선택함으로써 사용할 수 있다(307). (306) the wireless control program of the searched electronic device. At this time, if the control program does not exist, the control program can be downloaded to the wearable device by connecting to the network. For example, the electronic device to be controlled can be used by sending a control program to the wearable device, and the wearable device is already storing a plurality of control programs and selecting a radio control program of the searched electronic device (307 ).

웨어러블 장치는 무선 제어가 가능한 전자 기기의 리스트를 유지할 수 있고, 획득된 영상 데이터에 대응하는 전자 기기가 리스트에 포함되어 있는 경우, 전자 기기에 대한 무선 제어가 가능함을 웨어러블 장치의 디스플레이에 표시할 수 있다. 웨어러블 장치는 무선 제어 프로그램을 이용하여 전자 기기를 제어(308)할 수 있다. 예를 들면, 사용자는 TV를 제어하고자 한다면, 증감 현실로 제어가 가능한 전자 기기가 표시된 웨어러블 장치에 터치와 같은 입력이나 음성 명령을 통하여 TV 채널을 제어할 수 있다. The wearable apparatus can maintain a list of electronic apparatuses capable of wireless control and can display on the display of the wearable apparatus that wireless control of the electronic apparatus is possible when the electronic apparatus corresponding to the acquired image data is included in the list have. The wearable device may control (308) the electronic device using a wireless control program. For example, if the user wishes to control the TV, the user can control the TV channel through a touch-like input or a voice command to the wearable device indicated by the controllable electronic device.

웨어러블 장치는 가장 최근에 사용한 N개(N은 자연수)의 전자 기기에 대한 무선 제어 프로그램을 웨어러블 장치에 유지할 수 있다. 최근에 사용한 전자 기기가 노트북, TV 라고 가정하면, 웨어러블 장치는 노트북에 대한 제어 프로그램, TV에 대한 제어 프로그램을 웨어러블 장치에 유지시킴으로써 301~307의 단계를 매번 수행하지 않고도 자동으로 전자 기기를 제어할 수 있다. The wearable device can keep the radio control program for the most recently used N (N is a natural number) electronic devices in the wearable device. Assuming that the recently used electronic device is a notebook computer or a TV, the wearable device maintains a control program for the notebook computer and a control program for the TV in the wearable device, thereby automatically controlling the electronic device without performing steps 301 to 307 .

일 실시예에 따른 웨어러블 장치는 전자 기기에 대한 제어 기기를 가지고 있지 않아도 무선 제어 프로그램을 통하여 제어할 수 있다. 또한, 웨어러블 장치는 카메라 및 아이트래킹 센서를 통하여 사용자가 보고 있는 시점을 인식하고, 인식된 시점에 대한 전자 기기의 무선 제어 프로그램을 자동으로 활성화할 수 있다.The wearable device according to an embodiment can control the wearable device through a wireless control program without having a control device for the electronic device. In addition, the wearable device can recognize the time point the user is viewing through the camera and the eye tracking sensor, and can automatically activate the wireless control program of the electronic device at the recognized time.

도 4는 일 실시예에 따른 웨어러블 장치의 사물을 자동으로 인식하는 방법을 나타낸 흐름도이다.4 is a flowchart illustrating a method of automatically recognizing objects of a wearable device according to an exemplary embodiment.

웨어러블 장치는 애플리케이션이 실행될 수 있다(411). 웨어러블 장치는 전자 기기의 QR 코드를 인식하기 위하여 전자 기기로 연결을 요구할 수 있다. 전자 기기는 대기 상태(401)에서, 웨어러블 장치로부터 연결 요구(402)가 있는지 판단할 수 있다. 웨어러블 장치로부터 연결 요구가 있다면, QR 코드를 표시할 수 있다. 웨어러블 장치의 카메라를 이용하여 웨어러블 장치의 착용자가 보고 있는 시점에 전자 기기의 QR 코드가 인식되는지를 확인할 수 있다. 웨어러블 장치는 인식된 QR 코드를 정보 서버로 송신할 수 있고(413), 정보 서버로부터 DB 검색(421)을 통하여 전자 기기의 제어 프로그램을 획득할 수 있다(422). 이때, 제어 프로그램에서 제어 기능은 XML로 전달될 수 있으며, OPP 언어 형식을 이용하여 제어가 가능하다. 제어 명령은 XML로 해당 프로그래밍 툴에 전달될 수 잇고, 표준화된 언어 형식을 통하여 제어가 가능하다. 정보 서버는 획득된 전자 기기의 제어 프로그램을 웨어러블 장치에 전송(414)할 수 있고, 웨어러블 장치는 전자 기기를 연결하여(404) 전자 기기를 제어할 수 있다. 이때, 획득된 전자 기기의 제어 프로그램을 웨어러블 장치에 자동으로 설치할 수 있고, 설치된 제어 프로그램을 실행하여 전자 기기를 제어할 수 있다.The wearable device may execute the application (411). The wearable device may request connection to the electronic device to recognize the QR code of the electronic device. The electronic device can determine whether there is a connection request 402 from the wearable device in the standby state 401. [ If there is a connection request from the wearable device, the QR code can be displayed. It is possible to confirm whether or not the QR code of the electronic device is recognized at the time when the wearer of the wearable device sees it by using the camera of the wearable device. The wearable device can transmit the recognized QR code to the information server 413 and obtain the control program of the electronic device 422 from the information server through the DB search 421. At this time, the control function in the control program can be transmitted as XML and can be controlled using the OPP language format. Control commands can be passed to the programming tool in XML and controlled via standardized language format. The information server may transmit (414) the obtained control program of the electronic device to the wearable device, and the wearable device may control the electronic device by connecting the electronic device (404). At this time, the acquired control program of the electronic device can be automatically installed in the wearable device, and the installed control program can be executed to control the electronic device.

일 실시예에 따른 웨어러블 장치는 QR코드를 이용하여 전자 기기를 인식하고, 제어할 수 있다. 이때, QR 코드는 64개의 digits로 구성될 수 있다. 1개의 digit는 알파벳 대소문자와 단자리 십진수로 구성될 수 있다. QR코드는 20자리의 VendorID, 12자리의 ProductID, 8자리의 VersionID, 24자리의 ProductTypeID로 구성될 수 있다. VendorID는 제품을 생산하는 생산자의 고유 코드를 나타내고, ProductID는 제품을 나타내는 유니코드이고, VersionID는 제품의 현재 버전을 나타내는 부가 코드이고, ProductTypeID는 표준화된 제품 ID를 나타내는 코드로 이루어질 수 있다.A wearable device according to an embodiment can recognize and control an electronic device using a QR code. At this time, the QR code can be composed of 64 digits. One digit can consist of alphabetic case and single digit decimal number. The QR code can be composed of 20-digit VendorID, 12-digit ProductID, 8-digit VersionID, and 24-digit ProductTypeID. The VendorID indicates a unique code of the producer producing the product, the ProductID the Unicode representing the product, the VersionID the additional code indicating the current version of the product, and the ProductTypeID the code representing the standardized product ID.

도 5는 일 실시예에 따른 웨어러블 장치의 카메라 기능을 이용한 실시간 제품간 제어한 구현 예이다. 5 is an example of real-time inter-product control using a camera function of a wearable device according to an embodiment.

도 5A는 웨어러블 장치의 카메라를 이용하여 전자 기기를 인식하고, 영상 데이터를 획득하는 예를 나타낸 도면이다.5A is a diagram showing an example of recognizing an electronic device using a camera of a wearable device and acquiring image data.

웨어러블 장치의 착용자는 제어하고자 하는 기기를 응시할 수 있다. 웨어러블 장치는 카메라 및 아이트래킹 센서를 이용하여 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득할 수 있다. 이때, 웨어러블 장치는 복수 개의 전자 기기의 영상 데이터를 획득할 수 있다. 예를 들면, 착용자가 TV를 응시하고 있을 수 있지만, 착용자가 바라보고 있는 시점에 TV, 스피커, 오디오와 같이 제어가 가능한 전자 기기가 인식될 수 있다. The wearer of the wearable device can take a look at the device to be controlled. The wearable device can acquire image data at a time point of the wearer's wearer's viewing by using the camera and the eye tracking sensor. At this time, the wearable device can acquire image data of a plurality of electronic devices. For example, although the wearer may be gazing at the TV, an electronic device that can be controlled such as a TV, a speaker, and audio can be recognized at a time when the wearer is looking at it.

웨어러블 장치는 착용자가 제어하고자 하는 TV를 식별할 수 있고, TV 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 식별할 수 있다. 예를 들면, TV의 영상 데이터를 정보 서버로 송신하고, 정보 서버로부터 전자 기기의 무선 제어 프로그램을 수신하거나 전자 기기의 무선 프로그램에 관한 정보를 수신할 수 있다. The wearable device can identify the TV to be controlled by the wearer and can identify the radio control program of the electronic device corresponding to the TV video data. For example, video data of a TV can be transmitted to an information server, a wireless control program of an electronic device can be received from an information server, or information on a wireless program of an electronic device can be received.

도 5B는 웨어러블 장치를 통하여 전자 기기를 제어하는 예를 나타낸 것으로, 웨어러블 장치(510)는 TV 제어 프로그램(530)을 이용하여 무선으로 TV(520)를 조작하는 예를 나타낸 것이다. 5B shows an example of controlling an electronic device through a wearable device, and the wearable device 510 shows an example of operating the TV 520 wirelessly using a TV control program 530. FIG.

예를 들면, 웨어러블 장치(510)의 착용자는 증감 현실로 표현된 TV 제어 프로그램(520)을 통하여 채널을 바꾸고, 검색어를 입력할 수 있다. 현재 방송되고 있는 뉴스를 시청하고자 한다면, 착용자는 웨어러블 장치에 디스플레이되는 TV 제어 프로그램을 통하여 뉴스라고 검색할 수 있고, 검색된 뉴스 중 시청하고자 하는 뉴스를 선택하여 시청할 수 있다. For example, the wearer of the wearable device 510 can change the channel through the TV control program 520 represented by the increase / decrease reality and input the search word. If the user wishes to view the news currently being broadcasted, the wearer can search for news through a TV control program displayed on the wearable device, and can select and view news to be viewed from the searched news.

일 실시예에 따른 웨어러블 장치는 전자 기기에 대한 전자 기기를 가지고 있지 않아도, 무선 제어 프로그램을 통하여 제어할 수 있으므로 사용자에게 편리함을 제공할 수 있다. The wearable device according to an embodiment can control the wearable device through a wireless control program even if the wearable device does not have an electronic device for the electronic device, thereby providing convenience to the user.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The apparatus described above may be implemented as a hardware component, a software component, and / or a combination of hardware components and software components. For example, the apparatus and components described in the embodiments may be implemented within a computer system, such as, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable array (FPA) A programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For ease of understanding, the processing apparatus may be described as being used singly, but those skilled in the art will recognize that the processing apparatus may have a plurality of processing elements and / As shown in FIG. For example, the processing unit may comprise a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as a parallel processor.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of the foregoing, and may be configured to configure the processing device to operate as desired or to process it collectively or collectively Device can be commanded. The software and / or data may be in the form of any type of machine, component, physical device, virtual equipment, computer storage media, or device , Or may be permanently or temporarily embodied in a transmitted signal wave. The software may be distributed over a networked computer system and stored or executed in a distributed manner. The software and data may be stored on one or more computer readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to an embodiment may be implemented in the form of a program command that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions to be recorded on the medium may be those specially designed and configured for the embodiments or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Magneto-optical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments. For example, it is to be understood that the techniques described may be performed in a different order than the described methods, and / or that components of the described systems, structures, devices, circuits, Lt; / RTI > or equivalents, even if it is replaced or replaced.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

110: 웨어러블 장치
120: 무선 통신망
130: 연동 기기110: Wearable device
120: Wireless communication network
130: Interlocking device

Claims (14)

웨어러블 장치에 있어서,
상기 웨어러블 장치의 카메라 및 아이트래킹 센서를 이용하여 상기 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득하는 영상 획득부;
상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 식별하는 식별부; 및
상기 무선 제어 프로그램을 이용하여 상기 전자 기기에 대한 제어 기능을 제공하는 제어부
를 포함하는 웨어러블 장치.In a wearable device,
An image acquiring unit acquiring image data at a time point the wearer of the wearable device is viewing by using the camera of the wearable device and the eye tracking sensor;
An identification unit for identifying a wireless control program of the electronic device corresponding to the obtained image data; And
A control unit for providing a control function for the electronic device using the radio control program,
. 제1항에 있어서,
상기 식별부는,
상기 획득된 전자 기기의 영상 데이터를 정보 서버로 송신하고, 상기 정보 서버로부터 상기 전자 기기의 무선 제어 프로그램을 수신하거나 상기 전자 기기의 무선 제어 프로그램에 관한 정보를 수신하는
웨어러블 장치.The method according to claim 1,
Wherein,
Receiving image data of the obtained electronic device to an information server, receiving a wireless control program of the electronic device from the information server, or receiving information on a wireless control program of the electronic device
Wearable device. 제1항에 있어서,
상기 식별부는,
상기 전자 기기와 무선 통신하여 상기 전자 기기의 디스플레이에 상기 전자 기기에 관한 QR 코드를 표시하도록 상기 전자 기기에 요청하고,
상기 웨어러블 장치의 카메라를 이용하여 상기 QR 코드를 인식하고, 상기 QR 코드를 이용하여 상기 전자 기기에 관한 정보를 획득하는
웨어러블 장치.The method according to claim 1,
Wherein,
Requesting the electronic device to wirelessly communicate with the electronic device to display a QR code relating to the electronic device on a display of the electronic device,
Recognizes the QR code using the camera of the wearable device, and acquires information on the electronic device using the QR code
Wearable device. 웨어러블 장치의 동작 방법에 있어서,
상기 웨어러블 장치의 카메라 및 아이트래킹 센서를 이용하여 상기 웨어러블 장치의 착용자가 보고 있는 시점의 영상 데이터를 획득하는 단계;
상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 식별하는 단계; 및
상기 무선 제어 프로그램을 이용하여 상기 전자 기기를 제어하는 단계
를 포함하는 웨어러블 장치의 동작 방법.A method of operating a wearable device,
Acquiring image data at a time point at which the wearer of the wearable device is looking at using the camera and the eye tracking sensor of the wearable device;
Identifying a wireless control program of an electronic device corresponding to the obtained image data; And
Controlling the electronic equipment using the radio control program
Of the wearable device. 제4항에 있어서,
상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 획득하는 단계
를 더 포함하고,
상기 획득된 영상 데이터에 대응하는 전자 기기의 무선 제어 프로그램을 획득하는 단계는,
복수 개의 전자 기기에 대응하는 비교 데이터를 저장하는 단계;
상기 획득된 영상 데이터를 상기 비교 데이터와 비교하여 상기 영상 데이터에 대응하는 전자 기기를 검색하는 단계; 및
상기 검색된 전자 기기의 제어 프로그램을 획득하는 단계
를 포함하는 웨어러블 장치의 동작 방법.5. The method of claim 4,
Acquiring a wireless control program of the electronic device corresponding to the obtained image data
Further comprising:
Wherein the acquiring of the wireless control program of the electronic device corresponding to the acquired image data comprises:
Storing comparison data corresponding to a plurality of electronic devices;
Comparing the acquired image data with the comparison data to search for an electronic device corresponding to the image data; And
Acquiring a control program of the searched electronic device
Of the wearable device. 제5항에 있어서,
상기 복수 개의 전자 기기에 대응하는 비교 데이터를 저장하는 단계는,
상기 복수 개의 전자 기기의 각각에 대응하는 전자기기의 영상 데이터를 저장하는 단계
를 포함하고,
상기 획득된 영상 데이터를 상기 비교 데이터와 비교하여 상기 영상 데이터에 대응하는 전자 기기를 검색하는 단계는,
상기 획득된 영상 데이터를 상기 저장된 복수 개의 전자기기의 영상 데이터와 비교하여 상기 영상 데이터에 대응하는 전자기기를 검색하는 단계
를 포함하는 웨어러블 장치의 동작 방법.6. The method of claim 5,
Wherein the step of storing the comparison data corresponding to the plurality of electronic devices comprises:
Storing image data of an electronic device corresponding to each of the plurality of electronic devices
Lt; / RTI >
Comparing the acquired image data with the comparison data to search for an electronic device corresponding to the image data,
Comparing the acquired image data with image data of the stored plurality of electronic devices to search for an electronic device corresponding to the image data
Of the wearable device. 제5항에 있어서,
상기 복수 개의 전자 기기에 대응하는 비교 데이터를 저장하는 단계는,
상기 복수 개의 전자 기기의 각각에 대응하여 상기 전자기기의 이미지 특징 데이터를 저장하는 단계
를 포함하고,
상기 획득된 영상 데이터를 상기 비교 데이터와 비교하여 상기 영상 데이터에 대응하는 전자 기기를 검색하는 단계는,
상기 획득된 영상 데이터를 분석하여 상기 획득된 영상 데이터의 이미지 특징 데이터를 추출하는 단계; 및
상기 추출된 이미지 특징 데이터와 상기 저장된 복수 개의 전자기기의 이미지 특성 데이터를 비교하여 상기 영상 데이터에 대응하는 전자기기를 검색하는 단계
를 포함하는 웨어러블 장치의 동작 방법.6. The method of claim 5,
Wherein the step of storing the comparison data corresponding to the plurality of electronic devices comprises:
Storing image feature data of the electronic device corresponding to each of the plurality of electronic devices
Lt; / RTI >
Comparing the acquired image data with the comparison data to search for an electronic device corresponding to the image data,
Analyzing the acquired image data and extracting image feature data of the obtained image data; And
Comparing the extracted image feature data with image characteristic data of the stored plurality of electronic devices to search for an electronic device corresponding to the image data
Of the wearable device. 제5항에 있어서,
상기 영상 데이터에 대응하는 전자 기기가 검색된 경우, 상기 웨어러블 장치의 위치 및 상기 웨어러블 장치의 상기 착용자가 보고 있는 시점에 대한 정보를 상기 검색된 전자 기기에 대한 식별자와 함께 저장하는 단계
를 더 포함하는 웨어러블 장치의 동작 방법.6. The method of claim 5,
Storing information about a position of the wearable device and a time point when the wearable device of the wearable device is looking at the device together with an identifier for the searched electronic device when the electronic device corresponding to the video data is searched
Further comprising the steps of: 제8항에 있어서,
상기 웨어러블 장치의 현재 위치 및 상기 웨어러블 장치의 상기 착용자가 현재 보고 있는 시점을 기 검색된 전자 기기와 함께 저장된 상기 웨어러블 장치의 위치 및 상기 웨어러블 장치의 상기 착용자가 보고 있는 시점을 비교하는 단계;
상기 웨어러블 장치의 현재 위치 및 상기 웨어러블 장치의 상기 착용자가 현재 보고 있는 시점이 기 검색된 전자 기기와 함께 저장된 상기 웨어러블 장치의 위치 및 상기 웨어러블 장치의 상기 착용자가 보고 있는 시점과 일치하는 경우, 상기 기 검색된 전자 기기에 대응하는 전자 기기의 무선 제어 프로그램을 식별하는 단계; 및
상기 무선 제어 프로그램을 이용하여 상기 전자 기기를 제어하는 단계
를 포함하는 웨어러블 장치의 동작 방법.9. The method of claim 8,
Comparing a current position of the wearable device and a time point at which the wearer of the wearable device is looking at the position of the wearable device stored together with the searched electronic device;
If the current position of the wearable device and the time point at which the wearer of the wearable device is currently viewing match the position of the wearable device stored together with the searched electronic device and the time at which the wearable device of the wearable device is watching, Identifying a radio control program of an electronic device corresponding to the electronic device; And
Controlling the electronic equipment using the radio control program
Of the wearable device. 제4항에 있어서,
가장 최근에 사용한 N개(N은 자연수)의 전자 기기에 대한 무선 제어 프로그램을 상기 웨어러블 장치에 유지하는 단계
를 더 포함하는 웨어러블 장치의 동작 방법.5. The method of claim 4,
(N is a natural number) of the most recently used electronic equipment in the wearable device
Further comprising the steps of: 제4항에 있어서,
무선 제어가 가능한 전자 기기의 리스트를 유지하는 단계; 및
상기 획득된 영상 데이터에 대응하는 전자 기기가 상기 리스트에 포함되어 있는 경우, 상기 전자 기기에 대한 무선 제어가 가능함을 상기 웨어러블 장치의 디스플레이에 표시하는 단계
를 더 포함하는 웨어러블 장치의 동작 방법.5. The method of claim 4,
Maintaining a list of electronic devices capable of wireless control; And
Displaying on the display of the wearable device that wireless control of the electronic device is possible when the electronic device corresponding to the obtained image data is included in the list
Further comprising the steps of: 웨어러블 장치의 동작 방법에 있어서,
상기 웨어러블 장치와 연결이 설정되면 디스플레이에 QR 코드를 표시하는 전자 기기와 연결을 설정하는 단계;
상기 웨어러블 장치의 카메라를 이용하여 상기 웨어러블 장치의 착용자가 보고 있는 시점에 상기 전자 기기의 QR 코드가 인식되는지를 확인하는 단계;
상기 인식된 QR 코드를 정보 서버로 송신하고, 상기 정보 서버로부터 상기 전자 기기의 제어 프로그램을 획득하는 단계
를 포함하는 웨어러블 장치의 동작 방법.A method of operating a wearable device,
Setting a connection with an electronic device displaying a QR code on a display when a connection with the wearable device is established;
Confirming whether the QR code of the electronic device is recognized at the time when the wearer of the wearable device is watching using the camera of the wearable device;
Transmitting the recognized QR code to an information server, and acquiring a control program of the electronic device from the information server
Of the wearable device. 제12항에 있어서,
상기 획득된 상기 전자 기기의 제어 프로그램을 상기 웨어러블 장치에 자동으로 설치하는 단계; 및
상기 설치된 제어 프로그램을 실행하여 상기 전자 기기를 제어하는 단계
를 더 포함하는 웨어러블 장치의 동작 방법.13. The method of claim 12,
Automatically installing the obtained control program of the electronic device in the wearable device; And
Executing the installed control program to control the electronic equipment
Further comprising the steps of: 전자 기기의 동작 방법에 있어서,
웨어러블 장치와 거리 제한 무선 통신을 이용하여 무선 연결을 설정하는 단계;
상기 웨어러블 장치가 상기 전자 기기로부터 미리 정해진 거리 이상 떨어져 있는지 판단하는 단계; 및
상기 웨어러블 장치가 상기 전자 기기로부터 미리 정해진 거리 이상 떨어져 있다고 판단되는 경우, 상기 전자 기기의 전원을 자동으로 오프하는 단계
를 포함하는 웨어러블 장치의 동작 방법.A method of operating an electronic device,
Establishing a wireless connection using a distance limited wireless communication with a wearable device;
Determining whether the wearable device is separated from the electronic device by a predetermined distance or more; And
And automatically turning off the power of the electronic device when it is determined that the wearable device is away from the electronic device by a predetermined distance or more
Of the wearable device.
KR1020140121974A 2014-09-15 2014-09-15 Interworking between products using the camera in real time KR20160031797A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140121974A KR20160031797A (en) 2014-09-15 2014-09-15 Interworking between products using the camera in real time

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140121974A KR20160031797A (en) 2014-09-15 2014-09-15 Interworking between products using the camera in real time

Publications (1)

Publication Number Publication Date
KR20160031797A true KR20160031797A (en) 2016-03-23

Family

ID=55645168

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140121974A KR20160031797A (en) 2014-09-15 2014-09-15 Interworking between products using the camera in real time

Country Status (1)

Country Link
KR (1) KR20160031797A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190055828A (en) * 2016-09-26 2019-05-23 스냅 인코포레이티드 Device pairing with optical cords

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190055828A (en) * 2016-09-26 2019-05-23 스냅 인코포레이티드 Device pairing with optical cords
KR20210148432A (en) * 2016-09-26 2021-12-07 스냅 인코포레이티드 Device pairing with optical codes
US11652635B2 (en) 2016-09-26 2023-05-16 Snap Inc. Device pairing with optical codes

Similar Documents

Publication Publication Date Title
US20230047899A1 (en) Graphical user interface and data transfer methods in a controlling device
CN110850593B (en) Mobile device and method for pairing electronic devices by mobile device
RU2698247C2 (en) System and method for configuring remote control functionality of portable device
EP3182715A2 (en) Method and apparatus for controlling electronic device
US20230061691A1 (en) Display Apparatus with Intelligent User Interface
US11706489B2 (en) Display apparatus with intelligent user interface
EP3567861B1 (en) Electronic apparatus and controlling method thereof
CN108369561B (en) Electronic device control apparatus and method, computer-readable recording medium
EP3174307B1 (en) Remote control device and operating method thereof
TWI544336B (en) Classes,electronic device and method of pairing thereof and seamless content playback method
EP3510754B1 (en) Method and system for determining the position of searching object device
US20190020543A1 (en) Automatic Determination of Display Device Functionality
US11334037B2 (en) Systems and methods for controlling devices
US9648397B2 (en) Function upgrade device, display apparatus and method for controlling display apparatus thereof
US10154521B2 (en) Mobile device and method for establishing a wireless link
US20170195129A1 (en) Method and device to control secondary devices
US10503776B2 (en) Image display apparatus and information providing method thereof
KR20160031797A (en) Interworking between products using the camera in real time
JP2017523740A (en) System and method for configuring a remote control function of a portable device
US20190266887A1 (en) Remote control system, remote control method, and program
US20170142487A1 (en) Methods and devices for recommending videos through bluetooth technology
KR20180125097A (en) Apparatus and method providing hybrid smart tv based on cloud
KR101590888B1 (en) Method and system for recognizing a mobile terminal by using its vid and pid information

Legal Events

Date Code Title Description
A201 Request for examination
N231 Notification of change of applicant
E902 Notification of reason for refusal
E601 Decision to refuse application