KR102249639B1 - Method, system and non-transitory computer-readable recording medium for supporting object control - Google Patents

Method, system and non-transitory computer-readable recording medium for supporting object control Download PDF

Info

Publication number
KR102249639B1
KR102249639B1 KR1020190061502A KR20190061502A KR102249639B1 KR 102249639 B1 KR102249639 B1 KR 102249639B1 KR 1020190061502 A KR1020190061502 A KR 1020190061502A KR 20190061502 A KR20190061502 A KR 20190061502A KR 102249639 B1 KR102249639 B1 KR 102249639B1
Authority
KR
South Korea
Prior art keywords
fingers
user
space coordinate
virtual manipulation
reference space
Prior art date
Application number
KR1020190061502A
Other languages
Korean (ko)
Other versions
KR102249639B9 (en
KR20200135079A (en
Inventor
김석중
Original Assignee
주식회사 브이터치
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 브이터치 filed Critical 주식회사 브이터치
Priority to KR1020190061502A priority Critical patent/KR102249639B1/en
Priority to PCT/KR2020/006456 priority patent/WO2020242103A1/en
Publication of KR20200135079A publication Critical patent/KR20200135079A/en
Application granted granted Critical
Publication of KR102249639B1 publication Critical patent/KR102249639B1/en
Publication of KR102249639B9 publication Critical patent/KR102249639B9/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 일 태양에 따르면, 객체 제어를 지원하는 방법으로서, 사용자의 객체 제어와 연관되는 복수의 손가락을 기준으로 가상 조작 영역을 특정하는 단계, 상기 복수의 손가락이 상기 가상 조작 영역과 각각 만나는 복수의 지점을 기준으로 복수의 기준 공간 좌표계를 각각 설정하는 단계, 및 상기 복수의 기준 공간 좌표계에서 각각 특정되는 상기 복수의 손가락의 동작을 참조하여 상기 사용자에 의해 의도되는 조작을 결정하는 단계를 포함하는 방법이 제공된다.According to an aspect of the present invention, a method of supporting object control, comprising: specifying a virtual manipulation area based on a plurality of fingers associated with a user's object control, wherein the plurality of fingers meet the virtual manipulation area, respectively. Setting a plurality of reference spatial coordinate systems based on a point of, and determining an operation intended by the user with reference to the motions of the plurality of fingers each specified in the plurality of reference spatial coordinate systems. A method is provided.

Description

객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체{METHOD, SYSTEM AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR SUPPORTING OBJECT CONTROL}METHOD, SYSTEM AND NON-TRANSITORY COMPUTER-READABLE RECORDING MEDIUM FOR SUPPORTING OBJECT CONTROL}

본 발명은 객체 제어를 지원하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체에 관한 것이다.The present invention relates to a method, system, and non-transitory computer-readable recording medium supporting object control.

근래에 들어, 증강 현실(AR; Augmented Reality)이나 가상 현실(VR; Virtual Reality)에 관한 관심이 높아지고 관련 기술 분야의 연구 개발이 활발하게 진행됨에 따라, 사용자의 신체 부위를 기반으로 객체를 제어하는 다양한 기술들이 소개되고 있다.In recent years, as interest in augmented reality (AR) or virtual reality (VR) is increasing, and research and development in related technology fields are actively progressing, objects are controlled based on the user's body part. Various technologies are being introduced.

이에 관한, 종래 기술의 일 예로서, 한국등록특허공보 제1968547호에 개시된 기술을 예로 들 수 있는데, 이에 따르면, 사용자 손가락 끝의 경로에 기초하여 가상의 원을 생성하고, 그 손가락의 끝의 위치가 가상의 원의 어느 위치에 해당하는지에 기초하여 사용자에 의해 의도되는 회전각을 산출하는 방법이 소개된 바 있다.In this regard, as an example of the prior art, a technique disclosed in Korean Patent Publication No. 1968547 may be exemplified. According to this, a virtual circle is generated based on the path of the user's fingertip, and the position of the fingertip A method of calculating the rotation angle intended by the user based on the position of the virtual circle has been introduced.

하지만, 위와 같은 종래 기술을 비롯하여 지금까지 소개된 기술에 의하면, 사용자에 의해 그려지는 경로에 기초하여 가상의 원을 특정한 후에야 회전각이 산출될 수 있으므로, 그 가상의 원을 생성하기 위하여 경로를 그리는 사전 동작이 필수적으로 요구되었고, 이는 사용자에게 여간 번거로운 일이 아니었다.However, according to the techniques introduced so far, including the prior art described above, the rotation angle can be calculated only after specifying the virtual circle based on the path drawn by the user, so that the path is drawn in order to create the virtual circle. Pre-operation was required, and this was not a cumbersome task for the user.

이에 본 발명자는, 사용자의 복수의 손가락을 기준으로 가상 조작 영역을 특정하고, 그 가상 조작 영역과 사용자의 복수의 손가락이 만나는 복수의 지점 각각을 기준으로 복수의 기준 공간 좌표계를 설정하고, 그 복수의 기준 공간 좌표계를 기준으로 특정되는 복수의 손가락의 동작을 참조하여 사용자에 의해 의도되는 조작을 결정함으로써, 사용자의 의도를 빠르면서도 정확하게 판단할 수 있는 신규하고도 진보된 기술을 제안하는 바이다.Accordingly, the present inventors specify a virtual manipulation area based on a plurality of fingers of a user, set a plurality of reference spatial coordinate systems based on each of a plurality of points where the virtual manipulation area and a plurality of fingers of the user meet, and the plurality of A new and advanced technology capable of quickly and accurately determining the user's intention is proposed by determining an operation intended by the user with reference to the motion of a plurality of fingers specified based on the reference spatial coordinate system of.

본 발명은, 전술한 종래 기술의 문제점을 모두 해결하는 것을 그 목적으로 한다.An object of the present invention is to solve all the problems of the prior art described above.

또한, 본 발명은, 사용자의 조작 의도를 파악하기 위한 가상 조작 영역을 빠르고 간편하게 특정하는 것을 그 목적으로 한다.In addition, an object of the present invention is to quickly and simply specify a virtual operation area for grasping the user's operation intention.

또한, 본 발명은 사용자의 조작 의도를 파악하기 위한 가상 조작 영역이 사용자의 복수의 손가락을 기준으로 직관적으로 특정될 수 있도록 하는 것을 그 목적으로 한다.In addition, an object of the present invention is to allow a virtual manipulation area for grasping a user's manipulation intention to be intuitively specified based on a plurality of fingers of a user.

또한, 본 발명은, 하나의 기준 좌표계가 아닌 복수의 기준 좌표계를 이용하여 사용자의 조작 의도를 정확하게 파악하는 것을 또 다른 목적으로 한다.In addition, another object of the present invention is to accurately grasp a user's manipulation intention by using a plurality of reference coordinate systems instead of one reference coordinate system.

상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.A typical configuration of the present invention for achieving the above object is as follows.

본 발명의 일 태양에 따르면, 객체 제어를 지원하는 방법으로서, 사용자의 객체 제어와 연관되는 복수의 손가락을 기준으로 가상 조작 영역을 특정하는 단계, 상기 복수의 손가락이 상기 가상 조작 영역과 각각 만나는 복수의 지점을 기준으로 복수의 기준 공간 좌표계를 각각 설정하는 단계, 및 상기 복수의 기준 공간 좌표계에서 각각 특정되는 상기 복수의 손가락의 동작을 참조하여 상기 사용자에 의해 의도되는 조작을 결정하는 단계를 포함하는 방법이 제공된다.According to an aspect of the present invention, a method of supporting object control, comprising: specifying a virtual manipulation area based on a plurality of fingers associated with a user's object control, wherein the plurality of fingers meet the virtual manipulation area, respectively. Setting a plurality of reference spatial coordinate systems based on a point of, and determining an operation intended by the user with reference to the motions of the plurality of fingers each specified in the plurality of reference spatial coordinate systems. A method is provided.

본 발명의 다른 태양에 따르면, 객체 제어를 지원하는 시스템으로서, 사용자의 객체 제어와 연관되는 복수의 손가락을 기준으로 가상 조작 영역을 특정하는 가상 조작 영역 특정부, 상기 복수의 손가락이 상기 가상 조작 영역과 각각 만나는 복수의 지점을 기준으로 복수의 기준 공간 좌표계를 각각 설정하는 기준 공간 좌표계 설정부, 및 상기 복수의 기준 공간 좌표계에서 각각 특정되는 상기 복수의 손가락의 동작을 참조하여 상기 사용자에 의해 의도되는 조작을 결정하는 조작 의도 결정부를 포함하는 시스템이 제공된다.According to another aspect of the present invention, a system supporting object control, comprising: a virtual manipulation area specifying unit that specifies a virtual manipulation area based on a plurality of fingers associated with a user's object control, the plurality of fingers being the virtual manipulation area A reference space coordinate system setting unit that sets a plurality of reference space coordinate systems, respectively, based on a plurality of points that meet each of and is intended by the user with reference to the operation of the plurality of fingers each specified in the plurality of reference space coordinate systems. A system is provided that includes an operation intention determining unit for determining an operation.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.In addition to this, another method for implementing the present invention, another system, and a non-transitory computer-readable recording medium for recording a computer program for executing the method are further provided.

본 발명에 의하면, 사용자의 조작 의도를 파악하기 위한 가상 조작 영역을 빠르고 간편하게 특정할 수 있게 된다.According to the present invention, it is possible to quickly and simply specify a virtual operation area for grasping the user's operation intention.

또한, 본 발명에 의하면, 사용자의 조작 의도를 파악하기 위한 가상 조작 영역이 사용자의 복수의 손가락을 기준으로 직관적으로 특정될 수 있게 된다.Further, according to the present invention, a virtual manipulation area for grasping a user's manipulation intention can be intuitively specified based on a plurality of fingers of the user.

또한, 본 발명에 의하면, 하나의 기준 좌표계가 아닌 복수의 기준 좌표계를 이용하여 사용자의 조작 의도를 정확하게 파악할 수 있게 된다.In addition, according to the present invention, it is possible to accurately grasp the user's operation intention by using a plurality of reference coordinate systems instead of one reference coordinate system.

도 1은 본 발명의 일 실시예에 따른 객체 제어 지원 시스템의 내부 구성을 상세하게 도시하는 도면이다.
도 2 내지 도 6은 본 발명의 일 실시예에 따라 사용자에게 객체 제어가 지원되는 과정을 예시적으로 나타내는 도면이다.1 is a diagram showing in detail the internal configuration of an object control support system according to an embodiment of the present invention.
2 to 6 are views exemplarily illustrating a process of supporting object control to a user according to an embodiment of the present invention.

후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS The detailed description of the present invention described below refers to the accompanying drawings, which illustrate specific embodiments in which the present invention may be practiced. These embodiments are described in detail sufficient to enable a person skilled in the art to practice the present invention. It should be understood that the various embodiments of the present invention are different from each other, but need not be mutually exclusive. For example, specific shapes, structures, and characteristics described in the present specification may be changed and implemented from one embodiment to another without departing from the spirit and scope of the present invention. In addition, it should be understood that the position or arrangement of individual elements in each embodiment may be changed without departing from the spirit and scope of the present invention. Accordingly, the detailed description to be described below is not made in a limiting sense, and the scope of the present invention should be taken as encompassing the scope claimed by the claims of the claims and all scopes equivalent thereto. Like reference numerals in the drawings indicate the same or similar elements over several aspects.

이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 바람직한 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.Hereinafter, various preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings in order to enable those of ordinary skill in the art to easily implement the present invention.

객체 제어 지원 시스템의 구성Configuration of object control support system

이하에서는, 본 발명의 구현을 위하여 중요한 기능을 수행하는 객체 제어 지원 시스템(100)의 내부 구성 및 각 구성요소의 기능에 대하여 살펴보기로 한다.Hereinafter, the internal configuration of the object control support system 100 that performs an important function for the implementation of the present invention and functions of each component will be described.

도 1은 본 발명의 일 실시예에 따른 객체 제어 지원 시스템(100)의 내부 구성을 상세하게 도시하는 도면이다.1 is a diagram showing in detail the internal configuration of an object control support system 100 according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일 실시예에 따른 객체 제어 지원 시스템(100)은 가상 조작 영역 특정부(110), 기준 공간 좌표 설정부(120), 조작 의도 결정부(130), 통신부(140) 및 제어부(150)를 포함할 수 있다. 또한, 본 발명의 일 실시예에 따르면, 가상 조작 영역 특정부(110), 기준 공간 좌표 설정부(120), 조작 의도 결정부(130), 통신부(140) 및 제어부(150)는 그 중 적어도 일부가 외부 시스템(미도시됨)과 통신하는 프로그램 모듈들일 수 있다. 이러한 프로그램 모듈들은 운영 시스템, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 객체 제어 지원 시스템(100)에 포함될 수 있으며, 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈들은 객체 제어 지원 시스템(100)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈들은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.Referring to FIG. 1, an object control support system 100 according to an embodiment of the present invention includes a virtual manipulation area specifying unit 110, a reference space coordinate setting unit 120, an operation intention determination unit 130, and a communication unit ( 140) and a control unit 150 may be included. In addition, according to an embodiment of the present invention, the virtual manipulation area specifying unit 110, the reference space coordinate setting unit 120, the manipulation intention determining unit 130, the communication unit 140, and the control unit 150 are at least Some may be program modules that communicate with an external system (not shown). These program modules may be included in the object control support system 100 in the form of an operating system, an application program module, and other program modules, and may be physically stored on various known storage devices. In addition, these program modules may be stored in a remote storage device capable of communicating with the object control support system 100. Meanwhile, these program modules include routines, subroutines, programs, objects, components, data structures, etc. that perform specific tasks or execute specific abstract data types according to the present invention, but are not limited thereto.

한편, 객체 제어 지원 시스템(100)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 객체 제어 지원 시스템(100)의 구성요소 또는 기능 중 적어도 일부가 필요에 따라 후술할 디바이스(200) 내에서 실현되거나 이러한 디바이스(200) 내에 포함될 수도 있음은 당업자에게 자명하다. 또한, 경우에 따라서는, 객체 제어 지원 시스템(100)의 모든 기능과 모든 구성요소가 디바이스(200) 내에서 전부 실행되거나 디바이스(200) 내에 전부 포함될 수도 있다.On the other hand, the object control support system 100 has been described as above, but this description is exemplary, and at least some of the components or functions of the object control support system 100 may be provided in the device 200 to be described later as needed. It will be apparent to those skilled in the art that it may be realized or included within such device 200. In addition, in some cases, all functions and all components of the object control support system 100 may be all executed in the device 200 or may be all included in the device 200.

본 발명의 일 실시예에 따른 디바이스(200)는 메모리 수단을 구비하고, 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기로서, 스마트 글래스, 스마트 워치, 스마트 밴드, 스마트 링, 스마트 넥클리스, 스마트 이어셋, 스마트 이어폰, 스마트 이어링 등과 같은 웨어러블 디바이스이거나 스마트폰, 스마트 패드, 데스크탑 컴퓨터, 서버, 노트북 컴퓨터, 워크스테이션, 피디에이(PDA), 웹 패드, 이동 전화기, 리모트 컨트롤러 등과 같은 다소 전통적인 디바이스가 포함될 수 있으며, 디바이스(200)는 전술한 예시뿐만 아니라 본 발명의 목적을 달성할 수 있는 범위 내에서 얼마든지 변경될 수 있다. 또한, 본 발명의 일 실시예에 따른 디바이스(200)는 사용자(예를 들어, 사용자의 손 부위)를 촬영하기 위한 카메라 모듈(미도시됨)을 포함하거나 공지의 통신망을 통해 카메라 모듈(또는 카메라 모듈을 포함하는 다른 디바이스(200))과 통신 가능할 수 있다.The device 200 according to an embodiment of the present invention is a digital device equipped with a memory means and equipped with a microprocessor to have computing power, and includes a smart glass, a smart watch, a smart band, a smart ring, a smart necklace, a smart ear set, It may be a wearable device such as a smart earphone, a smart earring, etc., or it may include a more or less traditional device such as a smartphone, smart pad, desktop computer, server, notebook computer, workstation, PDA, web pad, mobile phone, remote controller, etc. The device 200 may be changed as much as possible within a range capable of achieving the object of the present invention as well as the above-described example. In addition, the device 200 according to an embodiment of the present invention includes a camera module (not shown) for photographing a user (eg, a user's hand) or a camera module (or a camera module) through a known communication network. It may be possible to communicate with another device 200 including a module.

한편, 본 발명의 일 실시예에 따른 위의 디바이스(200)에는 본 발명에 따른 객체 제어를 지원하는 애플리케이션이 포함되어 있을 수 있다. 이와 같은 애플리케이션은 외부의 애플리케이션 배포 서버(미도시됨)로부터 다운로드된 것일 수 있다. 한편, 이러한 프로그램 모듈의 성격은 후술할 바와 같은 객체 제어 지원 시스템(100)의 가상 조작 영역 특정부(110), 기준 공간 좌표 설정부(120), 조작 의도 결정부(130), 통신부(140) 및 제어부(150)와 전반적으로 유사할 수 있다. 여기서, 애플리케이션은 그 적어도 일부가 필요에 따라 그것과 실질적으로 동일하거나 균등한 기능을 수행할 수 있는 하드웨어 장치나 펌웨어 장치로 치환될 수도 있다.Meanwhile, the above device 200 according to an embodiment of the present invention may include an application supporting object control according to the present invention. Such an application may be downloaded from an external application distribution server (not shown). On the other hand, the characteristics of these program modules are the virtual manipulation area specifying unit 110, the reference space coordinate setting unit 120, the manipulation intention determination unit 130, and the communication unit 140 of the object control support system 100 to be described later. And the control unit 150 may be generally similar. Here, at least a part of the application may be replaced with a hardware device or a firmware device capable of performing substantially the same or equivalent functions as the application.

먼저, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자의 객체 제어와 연관되는 복수의 손가락을 기준으로 가상 조작 영역을 특정하는 기능을 수행할 수 있다.First, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention may perform a function of specifying a virtual manipulation area based on a plurality of fingers associated with object control of a user.

예를 들어, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자의 복수의 손가락을 지나는 복수의 후보 가상 조작 영역 중 크기가 최소인 영역을 가상 조작 영역으로서 특정하거나, 사용자의 복수의 손가락 중 적어도 일부의 손가락과 접하는 복수의 후보 가상 조작 영역 중 크기가 최소인 영역을 가상 조작 영역으로서 특정하거나, 사용자의 복수의 손가락 모두와 접하는 영역을 가상 조작 영역으로서 특정할 수 있다. 본 발명의 일 실시예에 따른 가상 조작 영역의 형상은 원(circle), 구(sphere) 및 원기둥(cylinder) 중 적어도 하나의 형상을 포함할 수 있다.For example, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention specifies an area having the minimum size among a plurality of candidate virtual manipulation areas passing through a plurality of fingers of a user as a virtual manipulation area, or Among the plurality of candidate virtual manipulation areas in contact with at least some of the plurality of fingers, an area having the minimum size may be specified as a virtual manipulation area, or an area in contact with all of the plurality of fingers of the user may be specified as the virtual manipulation area. The shape of the virtual manipulation area according to an embodiment of the present invention may include at least one of a circle, a sphere, and a cylinder.

보다 구체적으로, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자가 복수의 손가락 끝을 오므려 손잡이(knob)을 잡는 것과 유사한 동작을 행하는 경우에, 사용자의 5개의 손가락 중 복수의 손가락(예를 들어, 3개의 손가락) 끝에 내접하는 복수의 후보 원 중 그 지름이 가장 작은 원에 해당되는 영역을 가상 조작 영역으로서 특정할 수 있다. 다른 예를 들면, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자가 복수의 손가락 끝을 오므려 손잡이(knob)을 잡는 것과 유사한 동작을 행하는 경우에, 5개의 손가락 중 복수의 손가락(예를 들어 3개의 손가락)의 끝에 모두 접하는 구(또는 원기둥)를 가상 조작 영역으로서 특정할 수 있다.More specifically, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention is a case where the user performs an operation similar to holding a knob by closing a plurality of finger tips, among the five fingers of the user. An area corresponding to a circle having the smallest diameter among a plurality of candidate circles inscribed at the ends of a plurality of fingers (eg, three fingers) can be specified as a virtual manipulation area. For another example, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention performs an operation similar to that of a user holding a knob by closing a plurality of finger tips. A sphere (or cylinder) in contact with all of the tips of the fingers of (for example, three fingers) can be specified as a virtual manipulation area.

또한, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자의 손가락의 위치 및 형태 중 적어도 하나를 참조하여 객체 제어와 연관되는 복수의 손가락을 특정할 수 있다.In addition, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention may specify a plurality of fingers associated with object control by referring to at least one of a location and a shape of a user's finger.

예를 들어, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자의 엄지, 검지 및 중지 손가락만이 펼쳐져 있고, 약지 및 새끼 손가락은 오므려져 있는 경우에 위의 엄지, 검지 및 중지 손가락을 객체 제어와 연관되는 복수의 손가락으로서 특정할 수 있다.For example, in the virtual manipulation area specifying unit 110 according to an embodiment of the present invention, when only the user's thumb, index and middle fingers are unfolded, and the ring and little fingers are closed, the upper thumb, index and middle fingers The middle finger can be specified as a plurality of fingers associated with object control.

다른 예를 들어, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자의 엄지, 검지 및 중지 손가락이 약지 및 새끼 손가락에 비해 덜 오므려져(즉, 약지 및 새끼 손가락이 엄지, 검지 및 중지 손가락 보다 덜 펼쳐져) 있는 경우에 위의 엄지, 검지 및 중지 손가락을 객체 제어와 연관되는 복수의 손가락으로서 특정할 수 있다.For another example, in the virtual manipulation area specifying unit 110 according to an embodiment of the present invention, the user's thumb, index and middle fingers are less constricted than the ring finger and the little finger (that is, the ring finger and the little finger are When there is less spread than the index and middle fingers), the upper thumb, index and middle fingers can be specified as a plurality of fingers associated with object control.

한편, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자의 손가락의 위치 및 형태 중 적어도 하나에 대응하여 객체 제어와 연관되는 손가락을 특정하기 위해, 그 대응 관계에 관하여 기설정된 룩업 테이블을 참조할 수 있다. 또한, 본 발명의 일 실시예에 따르면, 기계 학습(machine learning), 딥 러닝(deep learning)을 통해 사용자의 손가락의 위치 및 형태로부터 객체 제어와 연관되는 손가락을 특정하는 학습이 수행됨으로써, 이러한 룩업 테이블이 지속적으로 업데이트될 수 있다. 또한, 본 발명의 일 실시예에 따르면, 필요에 따라 객체 제어와 연관되는 복수의 손가락이 기설정(예를 들어, 엄지-검지-중지)될 수도 있다.Meanwhile, in order to specify a finger associated with object control in response to at least one of the location and shape of the user's finger, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention has a preset corresponding relationship. You can refer to the lookup table. In addition, according to an embodiment of the present invention, learning to specify a finger related to object control from the position and shape of the user's finger through machine learning and deep learning is performed, such that such a look-up is performed. The table can be constantly updated. Further, according to an embodiment of the present invention, a plurality of fingers associated with object control may be preset (eg, thumb-index-stop) as needed.

한편, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자가 소정의 동작을 행하는 것으로 판단되는 경우에, 객체 제어와 연관되는 복수의 손가락을 특정하는 기능을 수행할 수도 있다.Meanwhile, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention may perform a function of specifying a plurality of fingers related to object control when it is determined that the user is performing a predetermined operation.

예를 들어, 본 발명의 일 실시예에 따른 가상 조작 영역 특정부(110)는 사용자가 복수의 손가락 끝을 오므려 손잡이(knob)을 잡는 것과 유사한 동작(또는 그랩(grab) 동작)을 행하는 것으로 판단되는 경우에, 해당 사용자에게 객체 제어를 하려는 의도가 있는 것으로 판단하고, 사용자의 복수의 손가락 중 객체 제어와 연관되는 복수의 손가락을 특정하는 기능을 수행할 수 있다. 즉, 사용자에 의해 행해지는 소정의 동작이 객체 제어와 연관되는 복수의 손가락을 특정하는 기능을 수행하기 위한 트리거(trigger)로서 기능할 수 있다.For example, the virtual manipulation area specifying unit 110 according to an embodiment of the present invention performs a similar operation (or a grab operation) to a user holding a knob by closing a plurality of finger tips. When it is determined, it is determined that the user intends to control the object, and a function of specifying a plurality of fingers related to object control among the plurality of fingers of the user may be performed. That is, a predetermined operation performed by the user may function as a trigger for performing a function of specifying a plurality of fingers associated with object control.

다음으로, 본 발명의 일 실시예에 따른 기준 공간 좌표계 설정부(120)는 사용자의 복수의 손가락이 가상 조작 영역과 각각 만나는 복수의 지점을 기준으로 복수의 기준 공간 좌표계를 각각 설정하는 기능을 수행할 수 있다.Next, the reference space coordinate system setting unit 120 according to an embodiment of the present invention performs a function of respectively setting a plurality of reference space coordinate systems based on a plurality of points where a plurality of fingers of a user meet each of the virtual manipulation area. can do.

예를 들어, 본 발명의 일 실시예에 따른 기준 공간 좌표계 설정부(120)는 위의 가상 조작 영역에 대하여 위의 복수의 지점 각각에서 특정되는 접선 방향을 참조하여 복수의 기준 공간 좌표계 각각의 축(axis)을 설정할 수 있다.For example, the reference space coordinate system setting unit 120 according to an embodiment of the present invention refers to a tangential direction specified at each of the plurality of points above with respect to the virtual manipulation area, (axis) can be set.

보다 구체적으로, 본 발명의 일 실시예에 따른 기준 공간 좌표계 설정부(120)는, 위의 가상 조작 영역에 대하여 위의 복수의 지점 각각에서 특정되는 접선 방향에 대응하는 축을 각 기준 공간 좌표계의 가로축으로서 설정할 수 있고, 위의 가로축에 수직하면서 위의 복수의 지점을 지나는 축을 각 기준 공간 좌표계의 세로축으로서 설정할 수 있다. 본 발명의 일 실시예에 따르면, 위의 가로축은 회전 방향을 의미하는 축일 수 있고, 위의 세로축은 그랩(grab) 방향(즉, 가상 조작 영역의 중심을 향하는 방향) 또는 릴리즈(release) 방향(즉, 가상 조작 영역의 중심에서 멀어지는 방향)을 의미하는 축일 수 있다More specifically, the reference space coordinate system setting unit 120 according to an embodiment of the present invention refers to an axis corresponding to a tangent direction specified at each of the plurality of points above with respect to the virtual manipulation area as a horizontal axis of each reference space coordinate system. It can be set as, and an axis perpendicular to the upper horizontal axis and passing through the plurality of points above can be set as the vertical axis of each reference space coordinate system. According to an embodiment of the present invention, the horizontal axis above may be an axis indicating a rotation direction, and the vertical axis above is a grab direction (that is, a direction toward the center of the virtual manipulation area) or a release direction ( That is, it may be an axis that means a direction away from the center of the virtual manipulation area).

또한, 본 발명의 일 실시예에 따른 기준 공간 좌표계 설정부(120)는 위의 복수의 손가락 중 하나의 손가락과 가상 조작 영역의 중심을 지나는 축에 기초하여 추가 기준 공간 좌표계를 더 설정할 수 있다.In addition, the reference space coordinate system setting unit 120 according to an embodiment of the present invention may further set an additional reference space coordinate system based on an axis passing through the center of the virtual manipulation area and one finger among the plurality of fingers above.

예를 들어, 본 발명의 일 실시예에 따른 기준 공간 좌표계 설정부(120)는 복수의 손가락 중 하나의 손가락과 가상 조작 영역의 중심을 지나는 제1 축, 위의 가상 조작 영역의 중심을 지나면서 위의 제1 축과 수직(필요에 따라, 수직이 아니고 소정 각도를 이루도록 설정될 수도 있다)인 제2 축을 포함하는 추가 기준 공간 좌표계를 더 설정할 수 있다. 본 발명의 일 실시예에 따르면, 위의 제1 축은 회전 방향을 의미하는 축(예를 들어, 회전축)일 수 있고, 위의 제2 축은 크기 변화(구체적으로는 가상 조작 영역의 크기 변화)를 의미하는 축(예를 들어, 크기축)일 수 있다. 한편, 위에서는 제1 축 및 제2 축에 관하여 설명되어 있지만, 본 발명이 반드시 위의 2개의 축으로만 한정되는 것은 아니며 본 발명의 목적을 달성할 수 있는 있는 범위 내에서 제3 내지 제N 축까지도 얼마든지 확장될 수 있다.For example, the reference space coordinate system setting unit 120 according to an embodiment of the present invention passes through the center of the virtual manipulation area and the first axis passing through the center of the virtual manipulation area with one finger among the plurality of fingers. An additional reference space coordinate system including a second axis perpendicular to the above first axis (if necessary, it may be set to form a predetermined angle rather than vertical) may be further set. According to an embodiment of the present invention, the first axis above may be an axis (eg, a rotation axis) indicating a direction of rotation, and the second axis above is a change in size (specifically, a change in the size of the virtual manipulation area). It may be a mean axis (eg, a size axis). Meanwhile, although the first axis and the second axis have been described above, the present invention is not necessarily limited to the above two axes, and the third to Nth axes within the range capable of achieving the object of the present invention. It can be extended to any axis.

다음으로, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 복수의 기준 공간 좌표계에서 각각 특정되는 복수의 손가락의 동작을 참조하여 사용자에 의해 의도되는 조작을 결정하는 기능을 수행할 수 있다.Next, the manipulation intention determination unit 130 according to an embodiment of the present invention may perform a function of determining an intended manipulation by a user by referring to the motions of a plurality of fingers each specified in a plurality of reference spatial coordinate systems. have.

예를 들어, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 복수의 기준 공간 좌표계에서 각각 특정되는 복수의 손가락의 회전 방향 및 크기와 그랩(grab)-릴리즈(release) 방향 및 크기(또는 크기의 변화)를 참조하여 사용자에 의해 의도되는 조작을 결정할 수 있다.For example, the manipulation intention determination unit 130 according to an embodiment of the present invention includes a rotation direction and size of a plurality of fingers, respectively specified in a plurality of reference spatial coordinate systems, and a grab-release direction and size. You can refer to (or change in size) to determine the intended operation by the user.

보다 구체적으로, 본 발명의 일 실시예에 따르면, 위의 가상 조작 영역의 형상은 원 형상이고 사용자의 복수의 손가락(구체적으로는 손가락의 끝)에 그 원이 내접하도록 가상 조작 영역이 특정되는 경우에, 조작 의도 결정부(130)는, i) 그 내접원의 지름 또는 그 내접원의 지름의 변화가 임계 미만으로 작아지면, 사용자의 의해 의도되는 조작이 그랩(grab) 조작이고, ii) 그 내접원의 지름 또는 그 내접원의 지름의 변화가 임계 이상으로 커지면, 사용자의 의해 의도되는 조작이 릴리즈(release) 조작이고, iii) 그 내접원이 회전하고 지름이 작아지거나 같으면, 사용자의 의해 의도되는 조작이 회전 조작이고, iv) 그 내접원이 회전하고 지름이 커지면, 사용자의 의해 의도되는 조작이 릴리즈(release) 조작이고, v) 그 내접원이 이동하고 지름이 작아지거나 같으면, 사용자의 의해 의도되는 조작이 드래그(drag) 조작인 것으로 결정할 수 있다.More specifically, according to an embodiment of the present invention, when the shape of the virtual manipulation area is a circle shape and the virtual manipulation area is specified so that the circle is inscribed on a plurality of fingers (specifically, the tips of the fingers) of the user E, the operation intention determination unit 130, i) when the diameter of the inscribed circle or the change in the diameter of the inscribed circle becomes smaller than the threshold, the operation intended by the user is a grab operation, and ii) the inscribed circle If the change in diameter or the diameter of the inscribed circle becomes larger than the critical value, the operation intended by the user is a release operation, and iii) if the inscribed circle rotates and the diameter becomes smaller or equal, the operation intended by the user is a rotation operation. And iv) when the inscribed circle rotates and the diameter increases, the operation intended by the user is a release operation, and v) when the inscribed circle moves and the diameter decreases or becomes the same, the operation intended by the user is dragged. ) Can be determined to be an operation.

또한, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 복수의 기준 공간 좌표계에서 특정되는 복수의 손가락의 동작 중 과반수의 손가락의 동작을 기준으로 사용자에 의해 의도되는 조작을 결정할 수 있다.In addition, the manipulation intention determination unit 130 according to an embodiment of the present invention may determine a manipulation intended by a user based on the movement of a majority of fingers among the movements of a plurality of fingers specified in a plurality of reference spatial coordinate systems. .

예를 들어, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 복수의 기준 공간 좌표계에서 복수의 손가락 동작 각각에 대응되는 조작(예를 들어, 그랩(grab), 릴리즈(release), 시계 방향 회전(rotate clockwise) 및 반시계 방향 회전(rotate counterclockwise) 중 하나의 조작)을 특정하고, 과반수의 손가락 동작에 대응되는 조작이 그랩(grab) 조작인 경우에, 해당 사용자에 의해 의도되는 조작을 그랩 조작으로 결정할 수 있다.For example, the manipulation intention determination unit 130 according to an embodiment of the present invention may perform manipulation corresponding to each of a plurality of finger motions in a plurality of reference spatial coordinate systems (eg, grab, release, The operation intended by the user in which the operation corresponding to the majority of finger movements is a grab operation, specifying one operation of rotate clockwise and rotate counterclockwise). Can be determined by the grab operation.

다른 예를 들어, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 복수의 기준 공간 좌표계에서 복수의 손가락 중 과반수의 손가락 각각에 대응되는 조작(예를 들어, 그랩(grab), 릴리즈(release), 시계 방향 회전(rotate clockwise) 및 반시계 방향 회전(rotate counterclockwise) 중 하나의 조작)만이 특정되는 경우에(예를 들어, 복수의 손가락 중 일부의 손가락에 대응되는 조작이 특정되지 못하는 경우에), 그 과반수의 손가락 동작에 대응되는 조작이 그랩(grab) 조작인 경우에, 해당 사용자에 의해 의도되는 조작을 그랩 조작으로 결정할 수 있다.For another example, the manipulation intention determination unit 130 according to an embodiment of the present invention may perform manipulation (eg, grab, release) corresponding to each of a majority of a plurality of fingers in a plurality of reference space coordinate systems. (release), when only one operation of rotate clockwise and rotate counterclockwise is specified (for example, an operation corresponding to some of the plurality of fingers cannot be specified). In case), if the operation corresponding to the majority of the finger movements is a grab operation, the operation intended by the user can be determined as the grab operation.

한편, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 가상 조작 영역상에서 특정되는 복수의 손가락의 위치 변화를 참조하여 사용자에 의해 의도되는 회전 각도를 산출할 수 있다.Meanwhile, the manipulation intention determination unit 130 according to an embodiment of the present invention may calculate a rotation angle intended by the user by referring to a change in position of a plurality of fingers specified on the virtual manipulation area.

예를 들어, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 사용자의 복수의 손가락 중 회전 각도를 산출하기 위하여 이용할 손가락을 특정하고, 가상 조작 영역의 중심을 기준으로 해당 손가락이 회전되는 각도를 산출하고, 그 산출되는 회전 각도를 참조하여 사용자에 의해 의도되는 조작(예를 들어, 시계 또는 반시계 방향으로 회전하는 정도)을 결정할 수 있다.For example, the manipulation intention determination unit 130 according to an embodiment of the present invention specifies a finger to be used to calculate a rotation angle among a plurality of fingers of a user, and the finger rotates based on the center of the virtual manipulation area. It is possible to calculate the resulting angle and determine an operation intended by the user (eg, a degree of rotation in a clockwise or counterclockwise direction) by referring to the calculated rotation angle.

또한, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 기준 공간 좌표계 설정부(120)에 의해 앞서 살펴본 추가 기준 공간 좌표계가 설정되는 경우에, 그 추가 기준 공간 좌표계의 축의 회전 및 그 추가 기준 공간 좌표계에서 특정되는 가상 조작 영역의 크기 중 적어도 하나의 변화에 관한 정보를 특정하고, 그 특정되는 정보를 더 참조하여 사용자에 의해 의도되는 조작을 결정할 수도 있다. 본 발명의 일 실시예에 따르면, 위의 축의 회전 변화에 관한 정보에는, 축의 회전 여부, 축의 회전 각도, 축의 회전 방향 등에 관한 정보가 포함될 수 있고, 위의 크기 변화에 관한 정보에는 가상 조작 영역의 크기 변화 여부, 가상 조작 영역의 크기 변화 정도(예를 들어, 얼마나 작아졌는지) 등에 관한 정보가 포함될 수 있다.In addition, the operation intention determination unit 130 according to an embodiment of the present invention is configured to rotate the axis of the additional reference space coordinate system when the additional reference space coordinate system described above is set by the reference space coordinate system setting unit 120. Information about a change in at least one of the sizes of the virtual manipulation area specified in the additional reference space coordinate system may be specified, and an operation intended by the user may be determined by further referring to the specified information. According to an embodiment of the present invention, the information on the rotation change of the axis above may include information on whether the axis is rotated, the rotation angle of the axis, the rotation direction of the axis, and the like, and the information on the size change may include information on the virtual operation area. Information about whether the size has changed, the degree of change in the size of the virtual manipulation area (eg, how small it has become) may be included.

구체적으로, 본 발명의 일 실시예에 따른 조작 의도 결정부(130)는 위의 추가 기준 공간 좌표계의 축(예를 들어, 앞서 살펴본 제1 축)의 회전 변화에 관한 정보를 참조하여 앞서 살펴본 복수의 손가락의 회전 방향을 특정할 수 있고, 위의 추가 기준 공간 좌표계(예를 들어, 앞서 살펴본 추가 기준 공간 좌표계의 제2 축)를 기준으로 특정되는 가상 조작 영역의 지름(예를 들어, 원인 경우) 변화에 관한 정보를 더 참조하여, 앞서 살펴본 복수의 손가락의 회전 방향 및 크기와 그랩(grab)-릴리즈(release) 방향 및 크기(또는 크기의 변화)을 특정함으로써, 사용자에 의해 의도되는 조작을 결정할 수도 있다.Specifically, the manipulation intention determination unit 130 according to an embodiment of the present invention refers to the information on the rotation change of the axis of the additional reference space coordinate system (eg, the first axis discussed above), It is possible to specify the direction of rotation of the finger of, and the diameter of the virtual manipulation area specified with respect to the additional reference space coordinate system above (for example, the second axis of the additional reference space coordinate system discussed above) (for example, the cause case ) By further referring to the information on the change, specifying the rotation direction and size of the plurality of fingers and the grab-release direction and size (or change in size) as previously discussed, the manipulation intended by the user You can also decide.

다음으로, 본 발명의 일 실시예에 따르면, 통신부(140)는 가상 조작 영역 특정부(110), 기준 공간 좌표계 설정부(120) 및 조작 의도 결정부(130)로부터의/로의 데이터 송수신이 가능하도록 하는 기능을 수행할 수 있다.Next, according to an embodiment of the present invention, the communication unit 140 can transmit and receive data from/to the virtual manipulation area specifying unit 110, the reference space coordinate system setting unit 120, and the manipulation intention determination unit 130. You can perform the function to make it happen.

마지막으로, 본 발명의 일 실시예에 따르면, 제어부(150)는 가상 조작 영역 특정부(110), 기준 공간 좌표계 설정부(120), 조작 의도 결정부(130) 및 통신부(140) 간의 데이터의 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명에 따른 제어부(150)는 객체 제어 지원 시스템(100)의 외부로부터의/로의 데이터 흐름 또는 객체 제어 지원 시스템(100)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 가상 조작 영역 특정부(110), 기준 공간 좌표계 설정부(120), 조작 의도 결정부(130) 및 통신부(140)에서 각각 고유 기능을 수행하도록 제어할 수 있다.Lastly, according to an embodiment of the present invention, the control unit 150 includes the virtual manipulation area specifying unit 110, the reference space coordinate system setting unit 120, the operation intention determination unit 130, and the communication unit 140. It can perform the function of controlling the flow. That is, the control unit 150 according to the present invention controls the data flow from/to the outside of the object control support system 100 or the data flow between each component of the object control support system 100, so that the virtual manipulation area specifying unit (110), the reference space coordinate system setting unit 120, the manipulation intention determination unit 130, and the communication unit 140 may be controlled to perform a unique function, respectively.

본 발명의 일 실시예에 따르면, 객체 제어 지원 시스템(100)이 포함된 디바이스(200)을 이용하는 사용자에게 본 발명에 따른 객체 제어가 지원되는 상황을 가정해볼 수 있다.According to an embodiment of the present invention, a situation in which object control according to the present invention is supported to a user using the device 200 including the object control support system 100 may be assumed.

도 2 내지 도 6은 본 발명의 일 실시예에 따라 사용자에게 객체 제어가 지원되는 과정을 예시적으로 나타내는 도면이다.2 to 6 are views exemplarily illustrating a process of supporting object control to a user according to an embodiment of the present invention.

먼저, 본 발명의 일 실시예에 따른 디바이스(200)는 사용자의 객체 제어와 연관되는 복수의 손가락을 기준으로 가상 조작 영역을 특정할 수 있다. 본 발명의 일 실시예에 따르면, 필요에 따라 위의 디바이스(200)에는 카메라 모듈(미도시됨)이 더 포함될 수 있고, 디바이스(200)는 카메라 모듈로부터 사용자에 관한 이미지(예를 들어, 사용자의 복수의 손가락의 이미지)를 획득할 수 있고, 그 이미지를 이용하여 객체 제어와 연관되는 복수의 손가락을 특정하거나 가상 조작 영역을 특정할 수 있다.First, the device 200 according to an embodiment of the present invention may specify a virtual manipulation area based on a plurality of fingers associated with the user's object control. According to an embodiment of the present invention, if necessary, a camera module (not shown) may be further included in the device 200, and the device 200 is an image (for example, a user An image of a plurality of fingers) may be obtained, and a plurality of fingers associated with object control may be specified or a virtual manipulation area may be specified using the image.

구체적으로, 본 발명의 일 실시예에 따른 디바이스(200)는 사용자에 의해 그랩(grab) 동작이 행해지는 것으로 판단되면, 사용자의 손가락의 위치 및 형태 중 적어도 하나를 참조하여 객체 제어와 연관되는 복수의 손가락을 특정할 수 있다. 또한, 본 발명의 일 실시예에 따른 디바이스(200)는 사용자의 복수의 손가락 중 적어도 일부의 손가락과 접하는 복수의 후보 가상 조작 영역 중 크기가 최소인 영역을 가상 조작 영역으로서 특정할 수 있다.Specifically, when it is determined that a grab operation is performed by a user, the device 200 according to an embodiment of the present invention refers to at least one of the position and shape of the user's finger, and You can specify the finger of. In addition, the device 200 according to an embodiment of the present invention may specify an area having the smallest size among a plurality of candidate virtual manipulation areas in contact with at least some of the plurality of fingers of the user as the virtual manipulation area.

예를 들어, 도 2를 참조하면, 본 발명의 일 실시예에 따른 디바이스(200)는 사용자의 2 내지 5개의 손가락이 그랩(grab) 동작을 행하는 것으로 판단되면, 그에 대응하는 2 내지 5개의 손가락을 객체 제어와 연관되는 복수의 손가락으로 특정할 수 있다(210, 220, 230, 240). 또한, 본 발명의 일 실시예에 따른 디바이스(200)는 위의 복수의 손가락 중 적어도 일부의 손가락과 접하는 복수의 후보 가상 조작 영역(예를 들어 원(circle) 형상일 수 있다.) 중 크기가 최소인 영역을 가상 조작 영역으로서 특정할 수 있다(250, 260, 270, 280).For example, referring to FIG. 2, when it is determined that 2 to 5 fingers of a user are performing a grab operation, the device 200 according to an embodiment of the present invention May be specified as a plurality of fingers associated with object control (210, 220, 230, 240). In addition, the device 200 according to an embodiment of the present invention has a size of a plurality of candidate virtual manipulation areas (for example, a circle shape) in contact with at least some of the plurality of fingers. The minimum area can be specified as a virtual operation area (250, 260, 270, 280).

한편, 도 3을 참조하면, 본 발명의 일 실시예에 따른 위의 가상의 조작 영역의 형상은 이상에서 살펴본 원(310) 형상뿐만 아니라 구(320) 형상 및 원기둥(330) 형상일 수도 있다.Meanwhile, referring to FIG. 3, the shape of the above virtual manipulation area according to an embodiment of the present invention may be a sphere 320 shape and a cylinder 330 shape as well as the circle 310 shape discussed above.

그 다음에, 본 발명의 일 실시예에 따른 디바이스(200)는 복수의 손가락이 가상 조작 영역과 각각 만나는 복수의 지점을 기준으로 복수의 기준 공간 좌표계를 각각 설정할 수 있다.Then, the device 200 according to an embodiment of the present invention may set a plurality of reference spatial coordinate systems based on a plurality of points where a plurality of fingers meet each of the virtual manipulation area.

예를 들어, 도 4를 참조하면, 본 발명의 일 실시예에 따른 디바이스(200)는 위의 가상 조작 영역에 대하여 위의 복수의 지점(410, 420, 430) 각각에서 특정되는 접선 방향에 대응하는 축을 각 기준 공간 좌표계의 가로축(411, 421, 431)으로서 설정할 수 있고, 위의 가로축(411, 421, 431)에 수직하면서 위의 복수의 지점을 지나는 축을 각 기준 공간 좌표계의 세로축(412, 422, 432)으로서 설정할 수 있다. 여기서, 본 발명의 일 실시예에 따르면, 위의 가로축은 회전 방향을 의미하는 축일 수 있고, 위의 세로축은 그랩(grab) 또는 릴리즈(release) 방향을 의미하는 축일 수 있다For example, referring to FIG. 4, the device 200 according to an embodiment of the present invention corresponds to a tangential direction specified at each of the plurality of points 410, 420, and 430 above with respect to the above virtual manipulation area. The axis of the reference space can be set as the horizontal axes 411, 421, 431 of each reference space coordinate system, and the axis passing through the plurality of points above while being perpendicular to the horizontal axes 411, 421, 431 above is the vertical axis 412 of each reference space coordinate system. 422, 432). Here, according to an embodiment of the present invention, the horizontal axis above may be an axis indicating a rotation direction, and the vertical axis above may be an axis indicating a grab or release direction.

그 다음에, 본 발명의 일 실시예에 따른 디바이스(200)는 위의 복수의 기준 공간 좌표계에서 각각 특정되는 복수의 손가락의 동작을 참조하여 사용자에 의해 의도되는 조작을 결정할 수 있다.Then, the device 200 according to an embodiment of the present invention may determine an operation intended by the user by referring to the motions of the plurality of fingers, which are each specified in the plurality of reference spatial coordinate systems above.

예를 들어, 본 발명의 일 실시예에 따른 디바이스(200)는 복수의 기준 공간 좌표계에서 각각 특정되는 복수의 손가락의 회전 방향 및 크기와 그랩(grab)-릴리즈(release) 방향 및 크기의 변화를 참조하여 사용자에 의해 의도되는 조작을 결정할 수 있다.For example, the device 200 according to an embodiment of the present invention can control a change in rotation direction and size of a plurality of fingers, and a grab-release direction and size, respectively specified in a plurality of reference space coordinate systems. Reference can be made to determine the intended operation by the user.

한편, 도 5를 참조하면, 본 발명의 일 실시예에 따른 디바이스(200)는 위의 복수의 손가락 중 회전 각도를 산출하기 위하여 이용할 손가락을 특정(510)하고, 가상 조작 영역의 중심(511)을 기준으로 해당 손가락이 회전되는 각도(at1-at0)(즉, 회전 각도)를 산출하고, 그 산출되는 회전 각도를 참조하여 사용자에 의해 의도되는 조작(예를 들어, 시계 또는 반시계 방향으로 회전하는 정도)을 결정할 수 있다.Meanwhile, referring to FIG. 5, the device 200 according to an embodiment of the present invention specifies 510 a finger to be used to calculate a rotation angle among the plurality of fingers, and a center 511 of the virtual manipulation area Calculate the angle at which the finger is rotated (a t1 -a t0 ) (i.e., the rotation angle) based on and refer to the calculated rotation angle, and refer to Rotation degree) can be determined.

한편, 도 6을 참조하면, 본 발명의 일 실시예에 따른 디바이스(200)는 위의 복수의 손가락 중 하나의 손가락(630)과 가상 조작 영역(610)의 중심(620)을 지나는 제1 축(640), 위의 가상 조작 영역(610)의 중심(620)을 지나면서 위의 제1 축(640)과 수직인 제2 축(650)을 포함하는 추가 기준 공간 좌표계를 더 설정할 수 있다. 그 다음에, 본 발명의 일 실시예에 따른 디바이스(200)는 위의 추가 기준 공간 좌표계의 제1 축(640)을 기준으로 특정되는 회전 변화에 관한 정보를 더 참조하여 위의 복수의 손가락의 회전 방향 및 회전 크기를 특정할 수 있고, 위의 추가 기준 공간 좌표계의 제2 축(650)을 기준으로 특정되는 가상 조작 영역의 크기 변화에 관한 정보를 더 참조하여 위의 복수의 가락의 그랩(grab)-릴리즈(release) 방향 및 크기(또는 크기의 변화)를 특정할 수 있다. 그 다음에, 본 발명의 일 실시예에 따른 디바이스(200)는 그 특정되는 복수의 손가락의 회전 방향 및 크기와 그랩(grab)-릴리즈(release) 방향 및 크기의 변화를 참조하여 사용자에 의해 의도되는 조작을 결정할 수 있다.Meanwhile, referring to FIG. 6, the device 200 according to an embodiment of the present invention includes a first axis passing through one finger 630 of the plurality of fingers and the center 620 of the virtual manipulation area 610. An additional reference space coordinate system including a second axis 650 that is perpendicular to the first axis 640 and perpendicular to the first axis 640 may be further set while passing through the center 620 of the virtual manipulation area 610 above. Then, the device 200 according to an embodiment of the present invention further refers to information on a rotation change specified with respect to the first axis 640 of the additional reference space coordinate system. The rotation direction and rotation size can be specified, and the grab of the plurality of rhythms above is further referred to information on the change in the size of the virtual manipulation area specified with reference to the second axis 650 of the additional reference space coordinate system above. You can specify the grab)-release direction and size (or change in size). Then, the device 200 according to an embodiment of the present invention is intended by the user by referring to the specified rotation direction and size of the plurality of fingers and the change in the grab-release direction and size. The operation to be performed can be determined.

이상에서는, 본 발명의 일 실시예에 따른 가상 조작 영역의 형상이 원(circle) 형상인 실시예에 대하여 주로 설명되어 있지만, 본 발명이 반드시 원(circle) 형상에서만 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 원기둥(cylinder), 구(sphere), 다각형(polygon)과 같은 정형적인 도형뿐만 아니라 비정형 형상 등으로 얼마든지 변형될 수 있음을 밝혀 둔다.In the above, an embodiment in which the shape of a virtual manipulation area according to an embodiment of the present invention is a circle shape has been mainly described, but the present invention is not necessarily limited to a circle shape, and It is revealed that it can be transformed into irregular shapes as well as regular shapes such as cylinders, spheres, and polygons within the range that can achieve the purpose.

이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 비일시성의 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The embodiments according to the present invention described above may be implemented in the form of program instructions that can be executed through various computer components and recorded in a non-transitory computer-readable recording medium. The non-transitory computer-readable recording medium may include a program command, a data file, a data structure, or the like alone or in combination. The program instructions recorded in the non-transitory computer-readable recording medium may be specially designed and constructed for the present invention, or may be known and usable to those skilled in the computer software field. Examples of non-transitory computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tapes, optical recording media such as CD-ROMs and DVDs, and magnetic-optical media such as floptical disks ( magneto-optical media), and hardware devices specially configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those produced by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. The hardware device may be configured to operate as one or more software modules to perform the processing according to the present invention, and vice versa.

이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.In the above, the present invention has been described by specific matters such as specific elements and limited embodiments and drawings, but this is provided only to help a more general understanding of the present invention, and the present invention is not limited to the above embodiments. , Anyone having ordinary knowledge in the technical field to which the present invention pertains can make various modifications and variations from these descriptions.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.Therefore, the spirit of the present invention is limited to the above-described embodiments and should not be defined, and all modifications that are equally or equivalent to the claims as well as the claims to be described later fall within the scope of the spirit of the present invention. I would say.

100: 객체 제어 지원 시스템
110: 가상 조작 영역 특정부
120: 기준 공간 좌표계 설정부
130: 조작 의도 결정부
140: 통신부
150: 제어부
200: 디바이스100: object control support system
110: virtual operation area specification unit
120: reference space coordinate system setting unit
130: operation intention determination unit
140: communication department
150: control unit
200: device

Claims (14)

객체 제어를 지원하는 방법으로서,
사용자의 객체 제어와 연관되는 복수의 손가락을 기준으로 가상 조작 영역을 특정하는 단계,
상기 복수의 손가락이 상기 가상 조작 영역과 각각 만나는 복수의 지점을 기준으로 복수의 기준 공간 좌표계를 각각 설정하는 단계, 및
상기 복수의 기준 공간 좌표계에서 각각 특정되는 상기 복수의 손가락의 동작을 참조하여 상기 사용자에 의해 의도되는 조작을 결정하는 단계를 포함하고,
상기 설정 단계에서, 상기 복수의 지점 중 제1 지점을 기준으로 상기 복수의 기준 공간 좌표계 중 제1 기준 공간 좌표계를 결정하고, 상기 복수의 지점 중 제2 지점을 기준으로 상기 복수의 기준 공간 좌표계 중 제2 기준 공간 좌표계를 결정하는
방법.As a method of supporting object control,
Specifying a virtual manipulation area based on a plurality of fingers associated with the user's object control,
Setting a plurality of reference spatial coordinate systems, respectively, based on a plurality of points where the plurality of fingers meet each of the virtual manipulation area, and
And determining an operation intended by the user with reference to the motions of the plurality of fingers each specified in the plurality of reference space coordinate systems,
In the setting step, a first reference space coordinate system is determined from among the plurality of reference space coordinate systems based on a first point among the plurality of points, and among the plurality of reference space coordinate systems based on a second point among the plurality of points. To determine the second reference space coordinate system
Way. 제1항에 있어서,
상기 특정 단계에서, 상기 가상 조작 영역은 상기 복수의 손가락을 지나는 복수의 후보 가상 조작 영역 중 크기가 최소인 영역인
방법.The method of claim 1,
In the specific step, the virtual manipulation area is an area having a minimum size among a plurality of candidate virtual manipulation areas passing through the plurality of fingers.
Way. 제1항에 있어서,
상기 특정 단계에서, 상기 가상 조작 영역은 상기 복수의 손가락 중 적어도 일부의 손가락과 접하는 복수의 후보 가상 조작 영역 중 크기가 최소인 영역인
방법.The method of claim 1,
In the specific step, the virtual manipulation area is an area having a minimum size among a plurality of candidate virtual manipulation areas in contact with at least some of the plurality of fingers.
Way. 제1항에 있어서,
상기 특정 단계에서, 상기 가상 조작 영역은 상기 복수의 손가락 모두와 접하는
방법.The method of claim 1,
In the specific step, the virtual manipulation area is in contact with all of the plurality of fingers.
Way. 제1항에 있어서,
상기 특정 단계에서, 상기 사용자의 손가락의 위치 및 형태 중 적어도 하나를 참조하여 상기 객체 제어와 연관되는 복수의 손가락을 특정하는
방법.The method of claim 1,
In the specific step, specifying a plurality of fingers associated with the object control by referring to at least one of the position and shape of the user's finger
Way. 제5항에 있어서,
상기 사용자가 소정의 동작을 행하는 것으로 판단되는 경우에, 상기 객체 제어와 연관되는 복수의 손가락을 특정하는
방법The method of claim 5,
When it is determined that the user performs a predetermined operation, specifying a plurality of fingers associated with the object control
Way 제1항에 있어서,
상기 가상 조작 영역의 형상은, 원(circle), 구(sphere) 및 원기둥(cylinder) 중 적어도 하나의 형상을 포함하는
방법.The method of claim 1,
The shape of the virtual manipulation area includes at least one shape of a circle, a sphere, and a cylinder.
Way. 제1항에 있어서,
상기 설정 단계에서, 상기 가상 조작 영역에 대하여 상기 복수의 지점 각각에서 특정되는 접선 방향을 참조하여 상기 복수의 기준 공간 좌표계 각각의 축을 설정하는
방법.The method of claim 1,
In the setting step, setting an axis of each of the plurality of reference space coordinate systems with reference to a tangent direction specified at each of the plurality of points with respect to the virtual manipulation area
Way. 제1항에 있어서,
상기 설정 단계에서, 상기 복수의 손가락 중 하나의 손가락과 상기 가상 조작 영역의 중심을 지나는 축에 기초하여 추가 기준 공간 좌표계를 더 설정하는
방법.The method of claim 1,
In the setting step, further setting an additional reference space coordinate system based on an axis passing through the center of the virtual manipulation area and one finger among the plurality of fingers
Way. 제9항에 있어서,
상기 결정 단계에서, 상기 추가 기준 공간 좌표계의 축의 회전 및 상기 가상 조작 영역의 크기 중 적어도 하나의 변화에 관한 정보를 더 참조하여 상기 사용자에 의해 의도되는 조작을 결정하는
방법.The method of claim 9,
In the determining step, determining an operation intended by the user by further referring to information about a change in at least one of the rotation of the axis of the additional reference space coordinate system and the size of the virtual manipulation area.
Way. 제1항에 있어서,
상기 결정 단계에서, 상기 복수의 기준 공간 좌표계에서 특정되는 상기 복수의 손가락의 동작 중 과반수의 손가락의 동작을 기준으로 상기 사용자에 의해 의도되는 조작을 결정하는
방법.The method of claim 1,
In the determining step, determining an operation intended by the user based on the operation of a majority of fingers among the operations of the plurality of fingers specified in the plurality of reference spatial coordinate systems.
Way. 제1항에 있어서,
상기 결정 단계에서, 상기 가상 조작 영역상에서 특정되는 상기 복수의 손가락의 위치 변화를 참조하여 상기 사용자에 의해 의도되는 회전 각도를 산출하는
방법.The method of claim 1,
In the determining step, calculating a rotation angle intended by the user by referring to the position change of the plurality of fingers specified on the virtual manipulation area.
Way. 제1항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 비일시성의 컴퓨터 판독 가능 기록 매체.A non-transitory computer-readable recording medium for recording a computer program for executing the method according to claim 1. 객체 제어를 지원하는 시스템으로서,
사용자의 객체 제어와 연관되는 복수의 손가락을 기준으로 가상 조작 영역을 특정하는 가상 조작 영역 특정부,
상기 복수의 손가락이 상기 가상 조작 영역과 각각 만나는 복수의 지점을 기준으로 복수의 기준 공간 좌표계를 각각 설정하는 기준 공간 좌표계 설정부, 및
상기 복수의 기준 공간 좌표계에서 각각 특정되는 상기 복수의 손가락의 동작을 참조하여 상기 사용자에 의해 의도되는 조작을 결정하는 조작 의도 결정부를 포함하고,
상기 기준 공간 좌표계 설정부는, 상기 복수의 지점 중 제1 지점을 기준으로 상기 복수의 기준 공간 좌표계 중 제1 기준 공간 좌표계를 결정하고, 상기 복수의 지점 중 제2 지점을 기준으로 상기 복수의 기준 공간 좌표계 중 제2 기준 공간 좌표계를 결정하는
시스템.As a system that supports object control,
A virtual manipulation area specifying unit that specifies a virtual manipulation area based on a plurality of fingers associated with the user's object control,
A reference space coordinate system setting unit for setting a plurality of reference space coordinate systems, respectively, based on a plurality of points where the plurality of fingers meet each of the virtual manipulation area, and
And an operation intention determination unit configured to determine an operation intended by the user by referring to the operation of the plurality of fingers each specified in the plurality of reference space coordinate systems,
The reference space coordinate system setting unit may determine a first reference space coordinate system among the plurality of reference space coordinate systems based on a first point among the plurality of points, and the plurality of reference spaces based on a second point among the plurality of points. To determine the second reference space coordinate system among the coordinate systems
system.
KR1020190061502A 2019-05-24 2019-05-24 Method, system and non-transitory computer-readable recording medium for supporting object control KR102249639B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190061502A KR102249639B1 (en) 2019-05-24 2019-05-24 Method, system and non-transitory computer-readable recording medium for supporting object control
PCT/KR2020/006456 WO2020242103A1 (en) 2019-05-24 2020-05-15 Method, system, and non-transitory computer-readable recording medium for supporting object control

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190061502A KR102249639B1 (en) 2019-05-24 2019-05-24 Method, system and non-transitory computer-readable recording medium for supporting object control

Publications (3)

Publication Number Publication Date
KR20200135079A KR20200135079A (en) 2020-12-02
KR102249639B1 true KR102249639B1 (en) 2021-05-10
KR102249639B9 KR102249639B9 (en) 2021-10-27

Family

ID=73553242

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190061502A KR102249639B1 (en) 2019-05-24 2019-05-24 Method, system and non-transitory computer-readable recording medium for supporting object control

Country Status (2)

Country Link
KR (1) KR102249639B1 (en)
WO (1) WO2020242103A1 (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101611709B1 (en) * 2014-07-16 2016-04-12 세종대학교산학협력단 Multi-modal system for displaying hand mouse recognition region and mapping between hand mouse and monitor user interface and control method thereof

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016088981A1 (en) * 2014-12-05 2016-06-09 주식회사 퓨처플레이 Method, device, and system for providing user interface, and non-transitory computer-readable recording medium
KR101712350B1 (en) * 2015-10-15 2017-03-07 한국과학기술연구원 Near-eye display device for selecting virtual object, method for selecting virtual object using the device and recording medium for performing the method
KR101968547B1 (en) * 2017-07-17 2019-04-12 주식회사 브이터치 Method, system and non-transitory computer-readable recording medium for assisting object control

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101611709B1 (en) * 2014-07-16 2016-04-12 세종대학교산학협력단 Multi-modal system for displaying hand mouse recognition region and mapping between hand mouse and monitor user interface and control method thereof

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
TAEHEE LEE 등, Handy AR: Markerless Inspection of Augmented Reality Objects Using Fingertip Tracking, IEEE ISWC 2007, 11th International Symposium on Wearable Computers, Boston, MA, pp. 1-8, 2007.10.13*
나민영 등, 손 인터페이스 응용을 위한 비전기반 실시간 손 인식 방법, 한국 HCI 학회 학술대회, pp. 146-149, 2012.01.31*

Also Published As

Publication number Publication date
WO2020242103A1 (en) 2020-12-03
KR102249639B9 (en) 2021-10-27
KR20200135079A (en) 2020-12-02

Similar Documents

Publication Publication Date Title
JP6955557B2 (en) Game screen display control methods, devices, storage media and electronic devices
EP2503441B1 (en) Methods and apparatus for providing a local coordinate frame user interface for multitouch-enabled devices
US11397463B2 (en) Discrete and continuous gestures for enabling hand rays
EP3548989B1 (en) Generating virtual notation surfaces with gestures in an augmented and/or virtual reality environment
US10198861B2 (en) User interactive controls for a priori path navigation in virtual environment
US20130132903A1 (en) Local Coordinate Frame User Interface for Multitouch-Enabled Applications
US10572012B2 (en) Electronic device for performing gestures and methods for determining orientation thereof
US10983661B2 (en) Interface for positioning an object in three-dimensional graphical space
US10649615B2 (en) Control interface for a three-dimensional graphical object
US10713853B2 (en) Automatically grouping objects in three-dimensional graphical space
JP2022008987A (en) Tracking of position and orientation of virtual controller in virtual reality system
CN102778997B (en) A kind of window display method and device
US10089000B2 (en) Auto targeting assistance for input devices
CN113168281B (en) Computer readable medium, electronic device and method
KR20170139474A (en) Method, device, system and non-transitory computer-readable recording medium for providing user interface
KR20200091988A (en) Method for controlling device and electronic device thereof
US11181972B2 (en) Image processing apparatus, image processing method, and program
JP2023537755A (en) An electronic device for controlling a host device using motion and mouse signals
KR102224932B1 (en) Apparatus for processing user input using vision sensor and method thereof
CN113692520A (en) Method for controlling portable device and portable device
KR102249639B1 (en) Method, system and non-transitory computer-readable recording medium for supporting object control
KR102086863B1 (en) Terminal controlled by touch input and method thereof
KR101980725B1 (en) Method, system and non-transitory computer-readable recording medium for supporting an object control
KR20200015045A (en) Electronic device and method for providing virtual input tool
KR101968547B1 (en) Method, system and non-transitory computer-readable recording medium for assisting object control

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
G170 Publication of correction