KR101807655B1 - 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 - Google Patents
사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 Download PDFInfo
- Publication number
- KR101807655B1 KR101807655B1 KR1020160092097A KR20160092097A KR101807655B1 KR 101807655 B1 KR101807655 B1 KR 101807655B1 KR 1020160092097 A KR1020160092097 A KR 1020160092097A KR 20160092097 A KR20160092097 A KR 20160092097A KR 101807655 B1 KR101807655 B1 KR 101807655B1
- Authority
- KR
- South Korea
- Prior art keywords
- haptic feedback
- triggering event
- information
- event
- attributes
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1626—Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03545—Pens or stylus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0416—Control or interface arrangements specially adapted for digitisers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/0486—Drag-and-drop
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/014—Force feedback applied to GUI
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/048—Indexing scheme relating to G06F3/048
- G06F2203/04808—Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Optics & Photonics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
본 발명은 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하는 단계, 및 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 단계를 포함하고, 상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 방법이 제공된다.
본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하는 단계, 및 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 단계를 포함하고, 상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 방법이 제공된다.
Description
본 발명은 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
근래에 들어, 스마트폰, 스마트 패드 등과 같이 다양한 통신 및 센싱 기능과 강력한 연산 기능을 갖춘 이동식 스마트 디바이스가 널리 사용되고 있다. 이러한 이동식 스마트 디바이스 중에는 사용자가 신체에 착용하여 휴대할 수 있는 비교적 작은 크기의 것(예를 들면, 스마트 글래스, 스마트 워치, 스마트 밴드, 링이나 브로치와 같은 형태의 스마트 디바이스, 신체나 의류에 직접적으로 착용되거나 매립되는 스마트 디바이스 등)도 있다.
이러한 상황에서 사용자는 본인의 두 개 이상의 (이종의) 스마트 디바이스를 사용하여 어떤 작업을 수행하려고 하거나, 본인의 스마트 디바이스와 다른 사용자의 디바이스가 함께 개입될 필요가 있는 어떤 작업이 수행되게끔 하려고 할 수 있으며, 그 작업이 수행되고 있는 상태에 관한 정보를 직관적으로 제공 받기를 원할 수 있다. 그러나, 종래의 기술에 따르면, 이러한 사용자의 (잠재적인) 의도와 니즈(Needs)가 적절하게 서포팅될 수 없었다.
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한, 본 발명은 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 트리거링 이벤트가 발생한 것으로 판단되면, 트리거링 이벤트와 연관된 제1 디바이스 및 제2 디바이스 사이의 인터랙션에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스에 인가되는 압력에 관한 정보, 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 제1 디바이스 및 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어함으로써, 두 개 이상의 디바이스가 연관된 상태에서 수행되는 작업에 관한 정보를 햅틱 피드백을 통하여 사용자에게 직관적으로 제공할 수 있도록 하는 것을 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 사용자 인터페이스를 제공하기 위한 방법으로서, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하는 단계, 및 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 단계를 포함하고, 상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 방법이 제공된다.
본 발명의 다른 태양에 따르면, 사용자 인터페이스를 제공하기 위한 디바이스로서, 상기 디바이스 및 다른 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는 것을 감지하는 센싱 모듈, 및 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 디바이스 및 상기 다른 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 디바이스 또는 상기 다른 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 디바이스 또는 상기 다른 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 디바이스 및 상기 다른 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 프로그램 모듈을 포함하고, 상기 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 다른 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 다른 디바이스는 상기 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 디바이스가 제공된다.
본 발명의 또 다른 태양에 따르면, 사용자 인터페이스를 제공하기 위한 시스템으로서, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 제어부, 및 상기 제1 디바이스 및 상기 제2 디바이스 중 적어도 하나로부터 제공 받은 정보를 저장하는 저장소를 포함하고, 상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상보(相補)적으로 제어되고, 상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 시스템이 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 디바이스, 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하기 위한 비일시성의 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 두 개 이상의 디바이스가 연관된 상태에서 수행되는 작업에 관한 정보를 햅틱 피드백을 통하여 사용자에게 직관적으로 제공할 수 있게 되는 효과가 달성된다.
또한, 본 발명에 의하면, 사용자의 신체에 착용되어 있는 디바이스와 사용자의 신체에 착용되어 있지 않은 디바이스 사이에서 수행되는 작업이나 사용자의 신체에 착용되어 있는 둘 이상의 디바이스 사이에서 수행되는 작업에 관한 정보를 직감시키는 다양한 패턴의 햅틱 피드백을 제공할 수 있게 되는 효과가 달성된다.
또한, 본 발명에 의하면, 디지털 디바이스를 사용하는 사용자에게 실제 펜이나 연필을 사용할 때 느낄 수 있는 실감을 제공할 수 있게 되는 효과가 달성된다.
도 1은 본 발명의 일 실시예에 따라 사용자 인터페이스를 제공하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 2 내지 도 4는 본 발명의 일 실시예에 따라 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임을 비롯한 물리적인 속성을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
도 5 내지 도 9는 본 발명의 일 실시예에 따라 트리거링 이벤트와 연관된 부분의 표시 상태, 컨텐츠 또는 기능을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
도 10 내지 도 11은 본 발명의 일 실시예에 따라 이종의 디바이스 사이에서 발생하는 인터랙션을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
도 2 내지 도 4는 본 발명의 일 실시예에 따라 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임을 비롯한 물리적인 속성을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
도 5 내지 도 9는 본 발명의 일 실시예에 따라 트리거링 이벤트와 연관된 부분의 표시 상태, 컨텐츠 또는 기능을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
도 10 내지 도 11은 본 발명의 일 실시예에 따라 이종의 디바이스 사이에서 발생하는 인터랙션을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
전체 시스템의 구성
도 1은 본 발명의 일 실시예에 따라 사용자 인터페이스를 제공하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 전체 시스템은 통신망(100), 사용자 인터페이스 제공 시스템(200), 및 복수의 디바이스(310, 320, 330)를 포함하여 구성될 수 있다.
먼저, 본 발명의 일 실시예에 따른 통신망(100)은 유선 통신이나 무선 통신과 같은 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN; Local Area Network), 도시권 통신망(MAN; Metropolitan Area Network), 광역 통신망(WAN; Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 명세서에서 말하는 통신망(100)은 공지의 인터넷 또는 월드와이드웹(WWW; World Wide Web)일 수 있다. 그러나, 통신망(100)은, 굳이 이에 국한될 필요 없이, 공지의 유무선 데이터 통신망, 공지의 전화망 또는 공지의 유무선 텔레비전 통신망을 그 적어도 일부에 있어서 포함할 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기일 수 있다. 이러한 사용자 인터페이스 제공 시스템(200)은 서버 시스템일 수 있다. 사용자 인터페이스 제공 시스템(200)은 통신망(100)을 통하여 디바이스(310, 320, 330) 중 하나가 다른 하나로 소정의 정보나 제어 명령을 제공하거나, 하나가 다른 하나로부터 소정의 정보나 제어 명령을 제공 받도록 매개하는 기능을 수행할 수 있다.
이를 위하여, 사용자 인터페이스 제공 시스템(200)은, 아래에서 자세하게 설명되는 바와 같이, 제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 트리거링 이벤트가 발생한 것으로 판단되면, 트리거링 이벤트와 연관된 제1 디바이스 및 제2 디바이스 사이의 인터랙션에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스 또는 제2 디바이스에 인가되는 압력에 관한 정보, 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 제1 디바이스 및 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어함으로써, 두 개 이상의 디바이스가 연관된 상태에서 수행되는 작업에 관한 정보를 햅틱 피드백을 통하여 사용자에게 직관적으로 제공할 수 있도록 하는 기능을 수행할 수 있다.
이와 같은 사용자 인터페이스 제공은 사용자 인터페이스 제공 시스템(200)에 의하여 포함되는 제어부(미도시됨)에 의하여 수행될 수 있다. 이러한 제어부는 사용자 인터페이스 제공 시스템(200) 내에서 프로그램 모듈의 형태로 존재할 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태를 가질 수 있다. 또한, 프로그램 모듈은 사용자 인터페이스 제공 시스템(200)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
또한, 본 발명의 일 실시예에 따르면, 사용자 인터페이스 제공 시스템(200)은 복수의 디바이스(310, 320, 330) 사이에서 발생하는 인터랙션에 관한 정보를 저장하고, 이것이 복수의 디바이스(310, 320, 330) 중 적어도 하나에 의하여 이용되도록 하는 기능을 더 수행할 수 있다. 또한, 사용자 인터페이스 제공 시스템(200)은 복수의 디바이스(310, 320, 330) 중 적어도 하나로부터 제공 받은 신체 접촉 여부 또는 신체 접촉 위치에 관한 정보를 저장하고, 이것이 복수의 디바이스(310, 320, 330) 중 적어도 하나에 의하여 이용되도록 하는 기능을 더 수행할 수 있다. 나아가, 인터페이스 제공 시스템(200)은 복수의 디바이스(310, 320, 330) 중 적어도 하나에서 제공되고 있는 컨텐츠 또는 기능을 구성하는 정보를 저장하고, 이러한 정보가 복수의 디바이스(310, 320, 330) 중 적어도 하나에 의하여 이용되도록 하는 기능을 더 수행할 수 있다. 상술한 저장은 사용자 인터페이스 제공 시스템(200)에 의하여 포함되는 저장소(미도시됨)에 의하여 수행될 수 있다. 본 발명의 일 실시예에 따르면, 이러한 저장소는 컴퓨터 판독 가능한 기록 매체를 포함하는 개념으로서, 협의의 데이터베이스뿐만 아니라 파일 시스템에 기반을 둔 데이터 기록 등을 포함하는 광의의 데이터베이스일 수도 있다.
사용자 인터페이스 제공 시스템(200)의 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다. 한편, 사용자 인터페이스 제공 시스템(200)에 관하여 위와 같이 설명되었으나, 이러한 설명은 예시적인 것이고, 사용자 인터페이스 제공 시스템(200)에 요구되는 기능이나 구성요소의 적어도 일부가 필요에 따라 조작의 대상이 되는 복수의 디바이스(310, 320, 330) 중 적어도 하나에서 실현되거나 포함될 수도 있음은 당업자에게 자명하다.
마지막으로, 본 발명의 일 실시예에 따른 복수의 디바이스(310, 320, 330)는 사용자 인터페이스 제공 시스템(200) 또는 복수의 디바이스(310, 320, 330) 중 상대되는 것(바람직하게는, 복수의 디바이스(310, 320, 330)는 서로 분리되어 있거나 외부화(externalization) 되어 있을 수 있음)에 접속한 후 통신할 수 있는 기능을 포함하는 디지털 기기로서, 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기라면 얼마든지 본 발명에 따른 디바이스(310, 320, 330)로서 채택될 수 있다. 디바이스(310, 320, 330)는 스마트폰, 스마트 패드, 스마트 글래스, 스마트 워치, 스마트 밴드, 스마트 링, 스마트 네클레스(necklace), 스마트 펜 등과 같은 소위 스마트 디바이스이거나 데스크탑 컴퓨터, 노트북 컴퓨터, 워크스테이션, PDA, 웹 패드, 이동 전화기, 버튼, 마우스, 키보드 등과 같은 다소 전통적인 디바이스일 수 있다. 또한, 디바이스(310, 320, 330)는 리모컨, 가전기기 등의 IoT(Internet of Things) 디바이스일 수 있다. 또한, 디바이스(310, 320, 330)는 붓(blush), 컴퍼스(compass), 각도기(protractor), 가위(scissors), 자(ruler), 장갑(gloves) 등의 기능을 수행할 수 있는 필기용 스마트 디바이스일 수 있다.
구체적으로, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 사용자에게 전달되는 햅틱 피드백(예를 들면, 진동, 전기 자극 등)을 발생시킬 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 액츄에이터, 진동 모터, 전기 자극 발생기 등의 햅틱 피드백 발생 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 사용자로부터의 조작을 입력 받을 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 터치 패널, 포인팅 도구(예를 들면, 마우스, 스마트 펜 등), 사용자 조작이 가능한 그래픽 객체, 키보드, 토글 스위치, 생채 정보(지문 등) 인식 센서, 거리 센서, 호버링(hovering) 인식 센서 등의 센싱 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 그 디바이스(310, 320, 330)의 위치, 자세나 움직임에 관한 물리적인 정보를 획득할 수 있는 기술 수단이 적어도 하나 포함될 수 있다. 이러한 기술 수단의 예로서, 공지의 구성요소인, 움직임 센서, 가속도 센서, 자이로스코프, 자기 센서, 위치 결정 모듈(GPS 모듈, 비콘 기반의 위치 결정(확인) 모듈 등), 기압계, 거리 센서, 카메라 등의 센싱 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 해당 디바이스(310, 320, 330)를 소지하고 있는 사용자의 인체로부터 획득되는 생체 정보에 기초하여 해당 디바이스(310, 320)의 위치, 자세나 움직임에 관한 물리적인 정보를 획득할 수 있는 기술 수단이 포함될 수 있다. 이러한 기술 수단의 예로서, 근전도 신호 측정 장치 등의 센싱 모듈을 들 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디바이스(310, 320, 330)에는 해당 디바이스(310, 320, 330)를 소지하고 있는 사용자에 의하여 인가되는 압력에 관한 물리적인 정보를 획득할 수 있는 기술 수단이 포함될 수 있다. 이러한 기술 수단의 예로서, 압력 센서 등의 센싱 모듈을 들 수 있다.
또한, 디바이스(310, 320, 330)에는 위와 같은 물리적인 정보를 처리하여 다른 디바이스(310, 320, 330)에 대하여 정보나 제어 명령을 제공하거나 다른 디바이스(310, 320, 330)로부터 정보나 제어 명령을 제공 받거나 이러한 정보나 제어 명령을 생성하기 위한 애플리케이션 프로그램이 더 포함되어 있을 수 있다. 이러한 애플리케이션은 해당 디바이스(310, 320, 330) 내에서 프로그램 모듈의 형태로 존재할 수 있다. 이러한 프로그램 모듈의 성격은 전술한 바와 같은 사용자 인터페이스 제공 시스템(200)의 제어부와 전반적으로 유사할 수 있다. 여기서, 애플리케이션은 그 적어도 일부가 필요에 따라 그것과 실질적으로 동일하거나 균등한 기능을 수행할 수 있는 하드웨어 장치나 펌웨어 장치로 치환될 수도 있다.
한편, 본 발명의 일 실시예에 따르면, 제1 디바이스(310)와 제2 디바이스(320)가 소정의 연관성(예를 들면, 동일한 사용자에게 속하는 것이라는 연관성이나, 동일한 사용자를 위하여 기능하는 것이라는 연관성이나, 서로 실질적으로 가까운 곳에 배치되어 있는 것이라는 연관성이나, 이들 중 하나가 다른 하나를 인증하거나 허용하는 것이 합당하다는 연관성)을 갖는 것이라는 점이 인식되는 경우에, 제1 디바이스(310)와 제2 디바이스(320) 간에 소정의 연결이 형성될 수 있는데, 이러한 인식 또는 연결은 사용자 인터페이스 제공 시스템(200)에 의해 수행되거나 제1 디바이스(310) 및 제2 디바이스(320)에 의해 수행될 수 있다.
실시예들
아래에서는, 본 발명에 따른 사용자 인터페이스 제공 시스템(200)이 여러 실시예에 따라 복수의 디바이스(310, 320, 330)가 개입되는 사용자 인터페이스를 제공하는 구체적인 예에 관하여 자세하게 살펴보기로 한다.
본 발명의 일 실시예에 따르면, 사용자 인터페이스 제공 시스템(200)은, 제1 디바이스(310) 및 제2 디바이스(320) 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 트리거링 이벤트가 발생한 것으로 판단되면, 트리거링 이벤트와 연관된 제1 디바이스(310) 및 제2 디바이스(320) 사이의 인터랙션에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스(310) 또는 제2 디바이스(320)의 위치, 자세 또는 움직임에 관한 정보, 트리거링 이벤트와 연관된 제1 디바이스(310) 또는 제2 디바이스(320)에 인가되는 압력에 관한 정보, 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 제1 디바이스(310) 및 제2 디바이스(320) 중 적어도 하나에서 제공되는 햅틱 피드백의 속성을 제어할 수 있다. 여기서, 제2 디바이스(320)는 터치 패널이 구비된 표시 화면을 포함하고 있는 제1 디바이스(310)와 인터랙션할 수 있는 스마트 펜 디바이스일 수 있다.
본 발명의 일 실시예에 따르면, 트리거링 이벤트에는, 제1 디바이스(310)와 제2 디바이스(320)가 개입될 수 있으면서도 제1 디바이스(310), 제2 디바이스(320) 또는 사용자 인터페이스 제공 시스템(200)에 의하여 감지될 수 있는 모든 종류의 이벤트가 포함될 수 있다. 예를 들면, 트리거링 이벤트에는, 제1 디바이스(310)에 대하여 제2 디바이스(320)를 접촉시키는 조작이 발생하는 이벤트, 제1 디바이스(310)에 대하여 제2 디바이스(320)를 호버링(hovering)시키는 조작이 발생하는 이벤트 등이 포함될 수 있다. 다른 예를 들면, 트리거링 이벤트에는, 제1 디바이스(310)와 제2 디바이스(320)가 인터랙션함에 따라 제1 디바이스(310)와 제2 디바이스(320) 사이에서 데이터 전송, 결제, 보안 인증 등의 작업이 수행되는 이벤트를 포함할 수 있다. 또 다른 예를 들면, 트리거링 이벤트에는, 제1 디바이스(310)의 위치, 자세 또는 움직임과 제2 디바이스(320)의 위치, 자세 또는 움직임 사이의 상대적인 관계가 기설정된 관계(예를 들면, 제2 디바이스(320)가 제1 디바이스(310)의 표시 화면에 대하여 기설정된 각도로 기울어지는 관계 등)에 해당하게 되는 이벤트를 포함할 수 있다.
구체적으로, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은, 트리거링 이벤트가 발생하는 것에 대응하여, 제1 디바이스(310) 또는 제2 디바이스(320)의 위치, 자세 또는 움직임을 참조로 하여 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 속성(즉, 패턴)을 결정하는 기능을 수행할 수 있다.
또한, 본 발명의 일 실시예에 따르면, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은, 트리거링 이벤트가 발생하는 것에 대응하여, 트리거링 이벤트와 연관된 부분의 표시 상태를 참조로 하여 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 속성(즉, 패턴)을 결정하는 기능을 수행할 수 있다. 예를 들면, 사용자가 터치하고 있는 부분에 표시되는 그래픽 객체의 컬러, 밝기, 입체감 등에 따라 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기, 시간, 발생 위치 등이 결정될 수 있다.
또한, 본 발명의 일 실시예에 따르면, 본 발명의 일 실시예에 따른 사용자 인터페이스 제공 시스템(200)은, 트리거링 이벤트가 발생하는 것에 대응하여, 트리거링 이벤트와 연관된 컨텐츠 또는 기능을 참조로 하여 제1 디바이스(310) 및 제2 디바이스(320) 각각에서 제공되는 햅틱 피드백의 속성을 결정하는 기능을 수행할 수 있다.
도 2 내지 도 4는 본 발명의 일 실시예에 따라 제1 디바이스 또는 제2 디바이스의 위치, 자세 또는 움직임을 비롯한 물리적인 속성을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 2를 참조하면, 태블릿인 제1 디바이스(310)와 스마트 펜 디바이스인 제2 디바이스(320)가 이루는 각도(201, 202)에 따라 햅틱 피드백의 세기가 제어될 수 있다. 예를 들면, 제1 디바이스(310)의 표시 화면에 대한 법선 방향과 제2 디바이스(320)의 길이 방향이 이루는 각도가 작아짐에 따라(즉, 제2 디바이스(320)가 제1 디바이스(310)의 표시 화면에 대하여 상대적으로 서 있는 자세를 취하게 됨에 따라) 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 작아지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 커질 수 있다. 반대로, 제1 디바이스(310)의 표시 화면에 대한 법선 방향과 제2 디바이스(320)의 길이 방향이 이루는 각도가 커짐에 따라(즉, 제2 디바이스(320)가 제1 디바이스(310)의 표시 화면에 대하여 상대적으로 누워 있는 자세를 취하게 됨에 따라) 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 커지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 작아질 수 있다.
계속하여, 도 2를 참조하면, 스마트 펜 디바이스인 제2 디바이스(320)의 펜촉(즉, 제1 디바이스(310)의 표시 화면과의 접촉 면적)의 두께에 따라 햅틱 피드백의 세기가 제어될 수 있다. 예를 들면, 제2 디바이스(320)의 펜촉(321)의 두께가 얇아짐에 따라 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 작아지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 커질 수 있다(도 2의 (a) 참조). 반대로, 제2 디바이스(320)의 펜촉(322)의 두께가 두꺼워짐에 따라 제1 디바이스(310)에서 제공되는 햅틱 피드백의 세기가 커지고 제2 디바이스(320)에서 제공되는 햅틱 피드백의 세기는 작아질 수 있다(도 2의 (b) 참조).
다음으로, 도 3을 참조하면, 태블릿인 제1 디바이스(310)에서 제공되는 햅틱 피드백이 제1 디바이스(310)의 표시 화면에 대하여 수직한 Y축을 따라 그 방향이 주기적으로 전환되는 패턴으로 발생되고, 스마트 펜 디바이스인 제2 디바이스(320)에서 제공되는 햅틱 피드백이 제2 디바이스(320)의 길이 방향에 평행한 축(위의 Y축과 실질적으로 동일할 수 있음)을 따라 그 방향이 주기적으로 전환되는 패턴으로 발생되는 경우를 가정할 수 있다. 이러한 경우에, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 서로 주기가 일치하고 방향이 반대이면, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 상쇄됨에 따라 사용자가 느끼는 햅틱 피드백의 세기가 작아질 수 있다(도 3의 (a) 참조). 반대로, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 서로 주기가 일치하고 방향도 일치하면, 제1 디바이스(310)에서 제공되는 햅틱 피드백과 제2 디바이스(320)에서 제공되는 햅틱 피드백이 서로 보강됨에 따라 사용자가 느끼는 햅틱 피드백의 세기가 커질 수 있다(도 3의 (b) 참조). 한편, 위와 같은 상쇄 또는 보강에 따른 사용자 경험의 변화는 제1 디바이스(310)의 표시 화면에 대한 법선 방향과 제2 디바이스(320)의 길이 방향이 이루는 각도가 작아짐에 따라 더 커질 수 있다.
다음으로, 도 4를 참조하면, 태블릿인 제1 디바이스(310)의 표시 화면에 대하여 스마트 펜 디바이스인 제2 디바이스(320)가 호버링되거나 터치됨에 따라 햅틱 피드백이 제공되는 위치가 달라질 수 있다. 예를 들면, 제2 디바이스(320)의 펜촉 부분이 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체가 표시된 지점으로부터 기설정된 거리 내에 떠 있는(즉, 호버링되는) 경우에, 제2 디바이스(320)에서 햅틱 피드백(401)이 제공될 수 있으며, 이에 따라 제2 디바이스(320)를 조작하고 있는 사용자가 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체를 터치하는 것이 유도될 수 있게 된다. 다른 예를 들면, 제2 디바이스(320)의 펜촉 부분이 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체가 표시된 지점에 터치되는 경우에, 제1 디바이스(320)에서 햅틱 피드백(402)이 제공될 수 있으며, 이에 따라 제2 디바이스(320)를 조작하고 있는 사용자는 제1 디바이스(310)의 표시 화면 상의 소정의 그래픽 객체가 터치되었다는 것을 직감할 수 있게 된다.
도 5 내지 도 9는 본 발명의 일 실시예에 따라 트리거링 이벤트와 연관된 부분의 표시 상태, 컨텐츠 또는 기능을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 5를 참조하면, 햅틱 피드백이 제공되는 위치 또는 세기가 두 개의 디바이스(310, 320) 사이에서 상보(相補)적으로 제어되는 경우를 가정할 수 있다.
구체적으로, 도 5의 (a)를 참조하면, 사용자가 스마트 펜 디바이스인 제2 디바이스(320)를 이용하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시된 그래픽 객체에 대하여 소정의 조작을 입력함으로써 해당 그래픽 객체에 대응하는 파일이 복사되는 경우에, 제1 디바이스(310)에서 제공되는 햅틱 피드백(501)의 세기가 작아지는 것과 함께 제2 디바이스(320)에서 제공되는 햅틱 피드백(502)의 세기가 커질 수 있으며, 이에 따라 사용자는 제1 디바이스(310)에서 제공되던 햅틱 피드백이 제2 디바이스(320)로 옮겨온 것과 같이 느껴지는 사용자 경험(UX, User Experience)을 제공 받을 수 있게 된다.
다음으로, 도 5의 (b)를 참조하면, 사용자가 스마트 펜 디바이스인 제2 디바이스(320)를 이용하여 태블릿인 제1 디바이스(310)의 표시 화면 상의 임의의 지점에 대하여 소정의 조작을 입력함으로써 제1 디바이스(310)의 저장소에 어떤 파일이 붙여넣기되는 경우에, 제2 디바이스(320)에서 제공되는 햅틱 피드백(504)의 세기가 작아지는 것과 함께 제1 디바이스(310)에서 제공되는 햅틱 피드백(503)의 세기가 커질 수 있으며, 이에 따라 사용자는 제2 디바이스(320)에서 제공되던 햅틱 피드백이 제1 디바이스(310)로 옮겨온 것과 같이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 6을 참조하면, 햅틱 피드백이 제공되는 위치 또는 세기가 세 개의 디바이스(310, 320, 330) 사이에서 상보(相補)적으로 제어되는 경우를 가정할 수 있다.
구체적으로, 도 6의 (a)를 참조하면, 사용자가 스마트 밴드인 제3 디바이스(330)를 손목에 착용한 손으로 스마트 펜 디바이스인 제2 디바이스(320)를 조작하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시된 그래픽 객체에 대하여 소정의 조작을 입력함으로써 해당 그래픽 객체에 대응하는 파일이 복사되는 경우에, 제1 디바이스(310)에서 제공되는 햅틱 피드백(601)의 세기가 작아지고, 이와 함께 제2 디바이스(320)에서 제공되는 햅틱 피드백(602)의 세기가 커졌다가 작아지고, 또 이와 함께 제3 디바이스(330)에서 제공되는 햅틱 피드백(603)의 세기가 커질 수 있으며, 이에 따라 사용자는 제1 디바이스(310)에서 제공되던 햅틱 피드백이 제2 디바이스(320)를 거쳐 제3 디바이스(330)로 옮겨온 것과 같이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 6의 (b)를 참조하면, 사용자가 스마트 밴드인 제3 디바이스(330)를 손목에 착용한 손으로 스마트 펜 디바이스인 제2 디바이스(320)를 조작하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시된 그래픽 객체에 대하여 소정의 조작을 입력함으로써 제1 디바이스(310)의 저장소에 어떤 파일이 붙여넣기되는 경우에, 제3 디바이스(330)에서 제공되는 햅틱 피드백(606)의 세기가 작아지고, 이와 함께 제2 디바이스(320)에서 제공되는 햅틱 피드백(605)의 세기가 커졌다가 작아지고, 또 이와 함께 제1 디바이스(310)에서 제공되는 햅틱 피드백(604)의 세기가 커질 수 있으며, 이에 따라 사용자는 제3 디바이스(330)에서 제공되던 햅틱 피드백이 제2 디바이스(320)를 거쳐 제1 디바이스(310)로 옮겨온 것과 같이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 7 및 도 8을 참조하면, 태블릿인 제1 디바이스(310)의 표시 화면 상에 표시되는 그래픽 객체 중 스마트 펜 디바이스인 제2 디바이스(320)에 의하여 조작되는 그래픽 객체의 속성(외관, 외관에 매타포된 물질의 속성 또는 재질 등) 또는 그 그래픽 객체에 대응하는 컨텐츠의 속성(파일 크기, 개수, 유형 등)에 따라 햅틱 피드백의 속성이 제어될 수 있다.
구체적으로, 도 7을 참조하면, 스마트 펜 디바이스인 제2 디바이스(320)에 의하여 드래그되는 그래픽 객체(제1 디바이스(310)의 표시 화면 상에 표시됨)에 대응하는 컨텐츠의 파일 크기가 100MB인 경우에(711) 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백(701, 702)의 세기가 그 파일 크기가 20MB인 경우에(712) 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백(703, 704)의 세기보다 상대적으로 크게 결정될 수 있다. 이에 따라, 사용자는 컨텐츠의 파일 크기가 클수록 더 강한 저항감이 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
또한, 도 8을 참조하면, 스마트 펜 디바이스인 제2 디바이스(320)에 의하여 터치되는 그래픽 객체(제1 디바이스(310)의 표시 화면 상에 표시됨)의 외관의 입체감 또는 두께가 상대적으로 작은 경우에(801) 제2 디바이스(320)의 아래쪽에 설치되어 있는 진동 모터에서 햅틱 피드백이 발생될 수 있고, 그 그래픽 객체의 외관의 입체감 또는 두께가 상대적으로 큰 경우에는(802) 제2 디바이스(320)의 위쪽에 설치되어 있는 진동 모터에서 햅틱 피드백이 발생될 수 있다. 이에 따라, 사용자는 그래픽 객체의 입체감이 직관적으로 느껴지는 사용자 경험을 제공 받을 수 있게 된다.
다음으로, 도 9를 참조하면, 태블릿인 제1 디바이스(310)과 스마트 펜 디바이스인 제2 디바이스(320)가 인터랙션함에 있어서, 제2 디바이스(320)에 대응하여 설정되는 입력 툴의 종류(901, 902, 903, 904, 905)에 따라 햅틱 피드백의 패턴이 달라질 수 있고(도 9의 (a) 참조), 제1 디바이스의 표시 화면(310) 상에 표시되는 바탕(또는 레이어)의 재질(911, 912)에 따라 햅틱 피드백의 패턴이 달라질 수 있으며(도 9의 (b) 참조), 제2 디바이스의 종류(921, 922)에 따라 햅틱 피드백의 패턴이 달라질 수 있다(도 9의 (c) 참조).
도 10 내지 도 11은 본 발명의 일 실시예에 따라 이종의 디바이스 사이에서 발생하는 인터랙션을 참조로 하여 햅틱 피드백의 속성을 제어하는 구성을 예시적으로 나타내는 도면이다.
먼저, 도 10을 참조하면, 사용자가 스마트 자 디바이스인 제3 디바이스(330)와 스마트 펜 디바이스인 제2 디바이스(320)를 함께 이용하여 태블릿인 제1 디바이스(310)의 표시 화면 상에 소정의 그래픽 객체를 드로잉하는 경우에, 제1 디바이스(310) 또는 제3 디바이스(330)에서 햅틱 피드백이 발생되는 부분의 위치가 제2 디바이스(320)의 펜촉의 움직임에 따라 이동할 수 있다.
다음으로, 도 11을 참조하면, 사용자에 의해 조작되는 스마트 펜 디바이스인 제2 디바이스(320)가 헤드 마운티드 디바이스인 제1 디바이스(310)에 의해 발생되는 증강 현실 객체(또는 가상 현실 객체)와 인터랙션하는 경우에, 제1 디바이스(310) 또는 제2 디바이스(320)에서 제공되는 햅틱 피드백의 속성이 그 인터랙션에 기초하여 동적으로 제어될 수 있다.
이상에서는, 제1 디바이스(310)가 태블릿, 스마트폰 또는 헤드 마운티드 디바이스이고 제2 디바이스(320)가 스마트 펜 디바이스인 실시예에 대하여 주로 설명되었지만, 본 발명이 반드시 이에 한정되는 것은 아니며, 본 발명의 목적을 달성할 수 있는 범위 내에서 제1 디바이스와 제2 디바이스는 앞서 언급된 다른 다양한 종류의 디바이스로도 구현될 수 있음을 밝혀 둔다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 비일시성의 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 비일시성의 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.
100: 통신망
200: 사용자 인터페이스 제공 시스템
310: 제1 디바이스
320: 제2 디바이스
330: 제3 디바이스
200: 사용자 인터페이스 제공 시스템
310: 제1 디바이스
320: 제2 디바이스
330: 제3 디바이스
Claims (12)
- 사용자 인터페이스를 제공하기 위한 방법으로서,
제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하는 단계, 및
상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 단계
를 포함하고,
상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상기 제1 디바이스와 상기 제2 디바이스 사이에서 서로 연동하여 상보(相補)적으로 제어되고,
상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 방법. - 제1항에 있어서,
상기 트리거링 이벤트에는, 상기 제1 디바이스에 대하여 상기 제2 디바이스를 접촉시키는 조작이 발생하는 이벤트, 상기 제1 디바이스에 대하여 상기 제2 디바이스를 호버링(hovering)시키는 조작이 발생하는 이벤트, 상기 제1 디바이스의 위치, 자세 또는 움직임과 상기 제2 디바이스의 위치, 자세 또는 움직임 사이의 상대적인 관계가 기설정된 관계에 해당하게 되는 이벤트 및 상기 제1 디바이스와 상기 제2 디바이스가 인터랙션하는 이벤트 중 적어도 하나가 포함되는 방법. - 제1항에 있어서,
상기 햅틱 피드백의 속성은, 상기 햅틱 피드백이 제공되는 시간, 순서, 시간 간격, 세기, 위치 및 방향 중 적어도 하나에 의해 특정되는 방법. - 제1항에 있어서,
상기 제1 디바이스 및 상기 제2 디바이스 중 어느 하나가 상기 사용자의 신체에 접촉되어 있고,
상기 제어 단계에서,
상기 트리거링 이벤트가 발생하면, 상기 획득된 신체 접촉 위치에 관한 정보를 더 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 방법. - 제1항에 있어서,
상기 제1 디바이스는 증강 현실(AR) 객체를 발생시키는 헤드 마운티드 디바이스(HMD)이고,
상기 제어 단계에서,
상기 트리거링 이벤트가 발생하면, 상기 제1 디바이스에 의하여 발생되는 증강 현실 객체와 상기 제2 디바이스 사이의 인터랙션에 관한 정보를 더 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 방법. - 제1항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록한 비일시성의 컴퓨터 판독 가능한 기록 매체.
- 사용자 인터페이스를 제공하기 위한 디바이스로서,
상기 디바이스 및 다른 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는 것을 감지하는 센싱 모듈, 및
상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 디바이스 및 상기 다른 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 디바이스 또는 상기 다른 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 디바이스 또는 상기 다른 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 디바이스 및 상기 다른 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 프로그램 모듈
을 포함하고,
상기 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 다른 디바이스에서 제공되는 햅틱 피드백의 속성은 상기 디바이스와 상기 다른 디바이스 사이에서 서로 연동하여 상보(相補)적으로 제어되고,
상기 다른 디바이스는 상기 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 디바이스. - 사용자 인터페이스를 제공하기 위한 시스템으로서,
제1 디바이스 및 제2 디바이스 중 적어도 하나에서 햅틱 피드백을 유발하는 트리거링 이벤트가 발생하는지 여부를 판단하고, 상기 트리거링 이벤트가 발생한 것으로 판단되면, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 및 상기 제2 디바이스 사이의 인터랙션에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스의 위치, 자세 또는 움직임에 관한 정보, 상기 트리거링 이벤트와 연관된 상기 제1 디바이스 또는 상기 제2 디바이스에 인가되는 압력에 관한 정보, 상기 트리거링 이벤트와 연관된 표시 상태에 관한 정보 및 상기 트리거링 이벤트와 연관된 컨텐츠 또는 기능에 관한 정보 중 적어도 하나를 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 제어부, 및
상기 제1 디바이스 및 상기 제2 디바이스 중 적어도 하나로부터 제공 받은 정보를 저장하는 저장소
를 포함하고,
상기 제1 디바이스에서 제공되는 햅틱 피드백의 속성과 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성은 상기 제1 디바이스와 상기 제2 디바이스 사이에서 서로 연동하여 상보(相補)적으로 제어되고,
상기 제2 디바이스는 상기 제1 디바이스와 인터랙션할 수 있는 스마트 펜 디바이스인 시스템. - 제8항에 있어서,
상기 트리거링 이벤트에는, 상기 제1 디바이스에 대하여 상기 제2 디바이스를 접촉시키는 조작이 발생하는 이벤트, 상기 제1 디바이스에 대하여 상기 제2 디바이스를 호버링(hovering)시키는 조작이 발생하는 이벤트, 상기 제1 디바이스의 위치, 자세 또는 움직임과 상기 제2 디바이스의 위치, 자세 또는 움직임 사이의 상대적인 관계가 기설정된 관계에 해당하게 되는 이벤트 및 상기 제1 디바이스와 상기 제2 디바이스가 인터랙션하는 이벤트 중 적어도 하나가 포함되는 시스템. - 제8항에 있어서,
상기 햅틱 피드백의 속성은, 상기 햅틱 피드백이 제공되는 시간, 순서, 시간 간격, 세기, 위치 및 방향 중 적어도 하나에 의해 특정되는 시스템. - 제8항에 있어서,
상기 제1 디바이스 및 상기 제2 디바이스 중 어느 하나가 상기 사용자의 신체에 접촉되어 있고,
상기 제어부는, 상기 트리거링 이벤트가 발생하면, 상기 획득된 신체 접촉 위치에 관한 정보를 더 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 시스템. - 제8항에 있어서,
상기 제1 디바이스는 증강 현실(AR) 객체를 발생시키는 헤드 마운티드 디바이스(HMD)이고,
상기 제어부는, 상기 트리거링 이벤트가 발생하면, 상기 제1 디바이스에 의하여 발생되는 증강 현실 객체와 상기 제2 디바이스 사이의 인터랙션에 관한 정보를 더 참조로 하여, 상기 제1 디바이스 및 상기 제2 디바이스에서 제공되는 햅틱 피드백의 속성을 제어하는 시스템.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20150169742 | 2015-12-01 | ||
KR1020150169742 | 2015-12-01 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170165717A Division KR20170139474A (ko) | 2015-12-01 | 2017-12-05 | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20170064456A KR20170064456A (ko) | 2017-06-09 |
KR101807655B1 true KR101807655B1 (ko) | 2017-12-11 |
Family
ID=58797212
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160092097A KR101807655B1 (ko) | 2015-12-01 | 2016-07-20 | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 |
KR1020170165717A KR20170139474A (ko) | 2015-12-01 | 2017-12-05 | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170165717A KR20170139474A (ko) | 2015-12-01 | 2017-12-05 | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190025921A1 (ko) |
KR (2) | KR101807655B1 (ko) |
WO (1) | WO2017095123A1 (ko) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102268797B1 (ko) * | 2017-12-28 | 2021-06-23 | 엘에스일렉트릭(주) | 증강 현실 제공 시스템 및 방법 |
WO2019143189A1 (en) * | 2018-01-18 | 2019-07-25 | Samsung Electronics Co., Ltd. | Electronic device and method of operating electronic device in virtual reality |
US10769701B1 (en) * | 2018-02-27 | 2020-09-08 | Amazon Technologies, Inc. | Sensory-based delivery of content |
US20190369752A1 (en) * | 2018-05-30 | 2019-12-05 | Oculus Vr, Llc | Styluses, head-mounted display systems, and related methods |
GB2584167B (en) * | 2019-05-24 | 2023-06-28 | Sensae Aps | User interface, user interface system and method |
US11797090B2 (en) | 2021-05-13 | 2023-10-24 | Microsoft Technology Licensing, Llc | Stylus haptic output |
KR102395865B1 (ko) * | 2021-11-23 | 2022-05-10 | (주)몽몽이 | 인공지능을 이용한 반려동물 증강현실 구현 시스템 |
KR102559938B1 (ko) * | 2022-04-24 | 2023-07-27 | 주식회사 피앤씨솔루션 | 증강현실 전용 필기도구를 이용한 증강현실 텍스쳐 전시 방법 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8253686B2 (en) * | 2007-11-26 | 2012-08-28 | Electronics And Telecommunications Research Institute | Pointing apparatus capable of providing haptic feedback, and haptic interaction system and method using the same |
EP2539759A1 (en) * | 2010-02-28 | 2013-01-02 | Osterhout Group, Inc. | Local advertising content on an interactive head-mounted eyepiece |
US8416066B2 (en) * | 2010-04-29 | 2013-04-09 | Microsoft Corporation | Active vibrations |
GB201205765D0 (en) * | 2012-03-30 | 2012-05-16 | Hiwave Technologies Uk Ltd | Touch and haptics device |
US9715276B2 (en) * | 2012-04-04 | 2017-07-25 | Immersion Corporation | Sound to haptic effect conversion system using multiple actuators |
KR101988310B1 (ko) * | 2012-10-31 | 2019-06-12 | 엘지전자 주식회사 | 정전식 스타일러스 펜 및 이를 포함하는 이동 단말기 |
KR20140090318A (ko) * | 2013-01-07 | 2014-07-17 | 삼성전자주식회사 | 햅틱 기반 카메라 운용 지원 방법 및 이를 지원하는 단말기 |
KR102104910B1 (ko) * | 2013-02-28 | 2020-04-27 | 삼성전자주식회사 | 입력 유닛에 촉각 피드백을 제공하는 휴대 장치 및 그 방법 |
US9367136B2 (en) * | 2013-04-12 | 2016-06-14 | Microsoft Technology Licensing, Llc | Holographic object feedback |
KR102087392B1 (ko) * | 2013-05-13 | 2020-04-14 | 삼성전자주식회사 | 동작 방법 및 그 전자 장치 |
KR101815720B1 (ko) * | 2013-05-21 | 2018-01-05 | 삼성전자주식회사 | 진동 제어 방법 및 장치 |
KR102204784B1 (ko) * | 2014-03-10 | 2021-01-19 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
US9753539B2 (en) * | 2014-10-02 | 2017-09-05 | Futureplay Inc. | Method, device, system and non-transitory computer-readable recording medium for providing user interface |
US9990078B2 (en) * | 2015-12-11 | 2018-06-05 | Immersion Corporation | Systems and methods for position-based haptic effects |
-
2016
- 2016-07-20 KR KR1020160092097A patent/KR101807655B1/ko active IP Right Grant
- 2016-11-30 US US15/780,291 patent/US20190025921A1/en not_active Abandoned
- 2016-11-30 WO PCT/KR2016/013929 patent/WO2017095123A1/ko active Application Filing
-
2017
- 2017-12-05 KR KR1020170165717A patent/KR20170139474A/ko active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2017095123A1 (ko) | 2017-06-08 |
US20190025921A1 (en) | 2019-01-24 |
KR20170064456A (ko) | 2017-06-09 |
KR20170139474A (ko) | 2017-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101807655B1 (ko) | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 | |
US10055064B2 (en) | Controlling multiple devices with a wearable input device | |
JP4515458B2 (ja) | 3次元ポインティング方法、3次元ポインティング装置、及び3次元ポインティングプログラム | |
US20200310561A1 (en) | Input device for use in 2d and 3d environments | |
KR101302138B1 (ko) | 착용형 컴퓨팅 환경 기반의 사용자 인터페이스 장치 및 그 방법 | |
WO2014129105A1 (ja) | ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイ及びヘッドマウントディスプレイ制御プログラム | |
US9753539B2 (en) | Method, device, system and non-transitory computer-readable recording medium for providing user interface | |
KR101318244B1 (ko) | 3차원 사용자 인터페이스 구현 시스템 및 구현 방법 | |
CN102707799B (zh) | 一种手势识别方法及手势识别装置 | |
US20130283214A1 (en) | Apparatus and method for providing user interface for recognizing gesture | |
CN107003804B (zh) | 为提供原型设计工具的方法、***及可进行非暂时性的计算机解读的记录媒介 | |
WO2015108112A1 (ja) | 操作判定装置、操作判定方法、および、プログラム | |
CN109782920A (zh) | 一种用于扩展现实的人机交互方法及处理终端 | |
US20110216014A1 (en) | Multimedia wireless touch control device | |
KR20110137587A (ko) | 공간 입출력 인터페이싱 장치 및 방법 | |
US10175767B2 (en) | Method, device, system and non-transitory computer-readable recording medium for providing user interface | |
EP3433713B1 (en) | Selecting first digital input behavior based on presence of a second, concurrent, input | |
KR101790216B1 (ko) | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 | |
KR20170124593A (ko) | 지능형 상호작용 방법, 장비 및 시스템 | |
KR101916700B1 (ko) | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 | |
KR101680698B1 (ko) | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 | |
US20230116966A1 (en) | A dual peripheral device | |
KR101793146B1 (ko) | 입력 장치 | |
JP2023079161A (ja) | 表示制御装置、表示制御方法、及びプログラム | |
KR20240036543A (ko) | 혼합 현실 입출력 확장 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
A302 | Request for accelerated examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
A107 | Divisional application of patent | ||
GRNT | Written decision to grant |