WO2017155314A1 - 사용자의 자세의 변화에 기초하여 제어 인터페이스를 동적으로 제공하기 위한 제어 장치, 상기 제어 장치에서 제어 인터페이스를 동적으로 제공하기 위한 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 - Google Patents
사용자의 자세의 변화에 기초하여 제어 인터페이스를 동적으로 제공하기 위한 제어 장치, 상기 제어 장치에서 제어 인터페이스를 동적으로 제공하기 위한 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 Download PDFInfo
- Publication number
- WO2017155314A1 WO2017155314A1 PCT/KR2017/002533 KR2017002533W WO2017155314A1 WO 2017155314 A1 WO2017155314 A1 WO 2017155314A1 KR 2017002533 W KR2017002533 W KR 2017002533W WO 2017155314 A1 WO2017155314 A1 WO 2017155314A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- user
- control
- control device
- control interface
- information
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04Q—SELECTING
- H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1694—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1698—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a sending/receiving arrangement to establish a cordless communication link, e.g. radio or infrared link, integrated cellular phone
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2200/00—Indexing scheme relating to G06F1/04 - G06F1/32
- G06F2200/16—Indexing scheme relating to G06F1/16 - G06F1/18
- G06F2200/163—Indexing scheme relating to constructional details of the computer
- G06F2200/1637—Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04Q—SELECTING
- H04Q2209/00—Arrangements in telecontrol or telemetry systems
- H04Q2209/40—Arrangements in telecontrol or telemetry systems using a wireless architecture
Definitions
- the present invention relates to a control device for dynamically providing a control interface based on a change in a posture of a user, a method for dynamically providing a control interface in the control device, and a computer readout for recording a computer program for executing the method. It relates to a possible recording medium.
- wearable devices that can be worn by a user or attached near the body have been widely used. Such wearable devices are often used to control nearby electronic devices or IoT devices.
- the difference between the wearable device and the existing first generation smart device is that the wearable device may have a physical value that is closely related to the motion or posture of the user. Therefore, different control commands may be defined according to the above physical values that the wearable device may have.
- the present inventor further goes further and proposes a technique for dramatically improving the control interface of a wearable device that can be used to control an electronic device or an IoT device.
- the present invention aims to solve all of the above-mentioned problems of the prior art.
- Another object of the present invention is to dynamically provide a control interface in a control device based on a change in posture of a user.
- Another object of the present invention is to provide a control interface such that the characteristics or location of the electronic device or IoT device to be controlled are further considered.
- a method for dynamically providing a control interface in a user's control device comprising: deriving information about a change in posture of the user based on motion data of the control device, wherein the motion data is And is recorded over time by a sensor included in the control device, and dynamically constructing and providing a control interface at the control device based on the derived information.
- a computer readable recording medium for recording another method for implementing the present invention, another control device, and a computer program for executing the method.
- control device can dynamically provide a control interface based on the change of the posture of the user.
- the characteristics or the location of the electronic device or IoT device to be controlled can be further considered.
- FIG. 1 is a diagram illustrating a schematic configuration of an entire system for dynamically providing a control interface in a control device based on a change in a posture of a user according to an embodiment of the present invention.
- control support system 200 is a diagram illustrating in detail the internal configuration of the control support system 200 according to an embodiment of the present invention.
- control device 300 is a diagram illustrating in detail the internal configuration of the control device 300 according to an embodiment of the present invention.
- FIG. 4 is a diagram illustrating a posture that a user may take for control by a control device and a control interface at that time according to an embodiment of the present invention.
- FIG. 5 is a diagram illustrating an example of a control interface when a user wears a control device on a wrist indoors according to an embodiment of the present invention.
- FIG. 6 is a diagram illustrating an example of a control interface when a user stands and uses a control device according to an embodiment of the present invention.
- FIG. 7 is a diagram illustrating an example of a control interface when a user uses a control device in a room according to an embodiment of the present invention.
- FIG. 8 is a diagram illustrating an example of a control interface when a user uses a control device in an autonomous vehicle according to an embodiment of the present invention.
- FIG. 1 is a diagram illustrating a schematic configuration of an entire system for dynamically providing a control interface in a control device based on a change in a posture of a user according to an embodiment of the present invention.
- the entire system is a communication network 100, a control support system 200, a control device 300, and an external device 400-that is, an object of control.
- Electronic devices or IoT devices are included in the entire system.
- the communication network 100 may be configured regardless of a communication mode such as wired communication or wireless communication, and includes a local area network (LAN) and a metropolitan area network (MAN). ), And various communication networks such as a wide area network (WAN).
- LAN local area network
- MAN metropolitan area network
- WAN wide area network
- the communication network 100 as used herein may be a known Internet or World Wide Web (WWW).
- WWW World Wide Web
- the communication network 100 may include, at least in part, a known wired / wireless data communication network, a known telephone network, or a known wired / wireless television communication network without being limited thereto.
- the communication network 100 may be a wireless data communication network, and may implement at least a portion of a conventional communication scheme such as WiFi communication, LTE communication, Bluetooth communication, infrared communication, and ultrasonic communication.
- the communication network 100 may implement at least a part of a communication method of fifth generation wireless communication, which was announced in January 2017 at the prestigious exhibition CES (International Consumer Electronics Show).
- control support system 200 when the user changes the posture while wearing the control device 300 or attaching it near the body, the control interface is controlled by the user in the control device 300.
- the control support system 200 may support the control device 300 to communicate with each of the external devices 400 to be controlled through the communication network 100.
- the external device 400 may be a control object.
- control support system 200 The configuration and function of the control support system 200 according to the present invention will be described in more detail below.
- control support system 200 as described above is not necessarily required when the control device 300 can directly transmit a predetermined control signal to the external device 400 without passing through the control support system 200. It may not.
- the control device 300 transmits a predetermined predetermined infrared signal to the external device 400, then the external device 400 can decode the signal and perform an operation or action accordingly. You can do that.
- the control device 300 and the external device 400 may communicate directly by another of the various wireless communication methods as described above.
- the control device 300 is a digital device that can communicate with the control support system 200 or the external device 400 as necessary, smart watch, smart band, smart ring,
- the control device according to the present invention can be used as long as it is a digital device that can be worn by the user or attached to the body, such as a smart glass, a smart phone, a mobile phone, a PDA, etc., and has a memory means and is equipped with a microprocessor. And may be adopted as 300.
- the control device 300 may comprise a component for control of the external device 400, for example, a control interface as described in detail below, which allows a user to make an input relating to the control. .
- the control device 300 may derive the information about the change of the posture of the user by itself, or after receiving such information from the control support system 200, the control interface may be dynamically provided based on the information.
- control device 300 The configuration and function of the control device 300 according to the present invention will be described in more detail below.
- the external device 400 may be any electronic device or IoT device that can be controlled.
- the external device 400 may receive a control signal from the control support system 200 or the control device 300 through the communication network 100 and be controlled accordingly.
- Various examples of the external device 400 will be described below.
- control support system 200 According to the present invention, the internal structure of the control support system 200 according to the present invention and the function of each component will be described.
- control support system 200 is a diagram illustrating in detail the internal configuration of the control support system 200 according to an embodiment of the present invention.
- the control support system 200 may be a digital device having memory capability and a microprocessor.
- the control support system 200 may be a server system.
- the control support system 200 may include a posture information deriving unit 210, a location information determining unit 220, a database 230, a communication unit 240, and a control unit 250.
- the attitude information deriving unit 210, the location information determining unit 220, the database 230, the communication unit 240, and the control unit 250 are at least a part of the control device 300.
- a program module communicating with the external device 400.
- Such program modules may be included in the control support system 200 in the form of an operating system, an application program module, or other program modules, and may be physically stored in various known storage devices.
- program modules may be stored in a remote storage device that can communicate with the control support system 200.
- program modules include, but are not limited to, routines, subroutines, programs, objects, components, data structures, etc. that perform particular tasks or execute particular abstract data types, described below, in accordance with the present invention.
- the posture information deriving unit 210 receives data about the movement (which will be described later) from the control device 300 and based on the control device 300.
- a function of deriving information about a change in posture of a user who uses a may be performed.
- the posture information deriving unit 210 may include information about a trajectory indicated in a situation in which the control device 300 is worn by the user or disposed near the body based on the motion data of the control device 300 ( Information about an absolute position over time of the control device 300, information about a relative virtual reference point or relative position over time with respect to a device different from the control device 300, or the control device 300 Information about speed, acceleration, triaxial rotation, and the like (ie, information over time) may be determined to derive information regarding a change in a posture of a user.
- the posture information deriving unit 210 performs information collection and accumulation of collected information with respect to a plurality of control apparatuses 300 used by a plurality of users, respectively, thereby generating a motion trajectory having a characteristic within a predetermined range.
- the new posture change can be specified based on a movement trajectory having a characteristic within a predetermined range or matching with the posture change known in the.
- the posture information deriving unit 210 may determine the movement as a specific type of movement (that is, a specific posture change) by analyzing the characteristics of the movement trajectory, which is commonly expressed by the plurality of control apparatuses 300. have.
- a specific posture change may be reported from the movement of the control device 300.
- it may be considered which part of the body of the user the control device 300 is worn. For example, it may be considered which part (location) of the user's finger, wrist, and upper arm is worn on the control device 300.
- the posture information derived as described above (including information on the position of the control device 300 is worn on the user's body, if necessary) and the characteristics of the movement trajectory related thereto are related to the database 230 to be described later Can be stored.
- attitude information derivation unit 210 as described above is not essential, and all or part of the function may be replaced by the attitude information derivation unit 320 that may be included in the control device 300 as described below. have.
- the position information determining unit 220 based on the position or orientation of the control device 300 and / or the position or orientation of the external device 400, The positional relationship between the control device 300 and the external device 400 may be determined, and information about the determined positional relationship may be provided to the control device 300.
- the positional relationship may be an angle in a space or a plane between a direction indicated by the control device 300 and the external device 400, or a distance between two devices, or a combination of such angle and distance information.
- this component is not essential, and all or part of the function may be replaced by the location information determiner 330 which may be included in the control device 300 as described below.
- previously registered information eg, smart home service
- Device location information or indoor location information by a known magnetic field map reading technology (for example, the technology disclosed by Korean Patent No. 10-1527212 of Ideka Co., Ltd. of Korea) may be used.
- the database 230 provides a control interface according to the movement data of the control device 300, the posture information derived from the data, and / or the corresponding posture change of the posture information. Rules regarding the can be stored.
- the database 230 is shown to be included in the control support system 200 in FIG. 2, the database 230 may be separate from the control support system 200 according to the needs of those skilled in the art to implement the present invention. It may be configured.
- the database 230 in the present invention is a concept that includes a computer-readable recording medium, and may be a broad database including not only a negotiated database but also a file system based on a file system. If the set can be retrieved to extract data, it can be the database 230 of the present invention.
- the communication unit 240 performs a function to enable the transmission and reception of data to and from the posture information deriving unit 210, the location information determining unit 220 and the database 230. Can be.
- control unit 250 provides a function of controlling the flow of data between the posture information deriving unit 210, the location information determining unit 220, the database 230, and the communication unit 240. Can be done. That is, the controller 250 according to the present invention controls the data flow from / to the outside of the control support system 200 or the data flow between each component of the control support system 200, thereby obtaining the attitude information derivation unit 210.
- the location information determiner 220, the database 230, and the communicator 240 may control to perform unique functions.
- control device 300 Accordingly, the internal structure of the control device 300 according to the present invention and the function of each component will be described.
- the control device 300 includes a sensor 310, a posture information deriving unit 320, a location information determining unit 330, a control interface providing unit 332, a storage unit 335, It may be configured to include a communication unit 340 and the control unit 350.
- the sensor unit 310, the attitude information derivation unit 320, the location information determination unit 330, the control interface providing unit 332, the storage unit 335, the communication unit 340 and The controller 350 may be a program module in which at least some of them communicate with the control support system 200 or the external device 400.
- Such a program module may be included in the control device 300 in the form of an operating system, an application program module, or other program modules, and may be physically stored in various known storage devices.
- a program module may be stored in a remote storage device that can communicate with the control device 300.
- program modules include, but are not limited to, routines, subroutines, programs, objects, components, data structures, etc. that perform particular tasks or execute particular abstract data types, described below, in accordance with the present invention.
- the sensor unit 310 may include a sensor such as a motion sensor, an acceleration sensor, a gyro sensor, a three-axis rotation sensor, and the like, which operate according to the movement of the user or the body part of the user. . That is, the sensor unit 310 may be composed of at least one of these known sensors.
- the sensor unit 310 may detect the movement of the control device 300 and output (record) data according to the passage of time.
- Such motion data may be physical values related to the speed, acceleration, three-axis rotation, etc. of the control device 300.
- the motion data may be stored in the storage 335 as described later.
- the sensor unit 310 may include a magnetic sensor for detecting a geomagnetic.
- the posture information deriving unit 320 based on the output value (that is, the motion data of the control device 300) of the sensor 310 over time, the sensor It is possible to derive information about a change in a posture of a user wearing the control device 300, which is estimated from the trajectory of the movement of the control device 300 including the unit 310, and further estimated from the trajectory. If necessary, the above posture information may include information about a position where the control device 300 is worn on the user's body. However, this component is not essential, and all or part of the function may be replaced by the attitude information deriving unit 210 which may be included in the control support system 200.
- the location information determiner 330 provides information on the positional relationship between the control device 300 and the external device 400 according to the derived information about the change in the posture of the user. You can decide. However, this component is not essential, and all or part of the function may be replaced by the location information determiner 220 which may be included in the control support system 200.
- the construction principle of the attitude information derivation unit 320 or the location information deciding unit 330 may be substantially similar to that of the attitude information derivation unit 210 or the location information determination unit 220 as described above, Information or data may be the same or similar.
- control interface providing unit 332 dynamically controls the control interface on the control device 300 based on the positional relationship determined between the control device 300 and the external device 400. You can perform the function provided.
- the control interface may include an interface for allowing a user to select an external device 400 to be controlled and an interface for allowing a user to specifically control the selected external device 400.
- the control interface may be a graphic interface as described below to enable the user to intuitively understand the position of the external device 400 with respect to the control device 300.
- the position of the external device 400 may be dynamically displayed graphically, which will be described later.
- the control interface as described above is an application program or an application program that is started accordingly when the user indicates a specific posture change while wearing the control device 300 (ie, the posture change of the user may be a requirement of starting). It can be included in the program.
- Such an application program may include at least a part of the location information determiner 330 and other components of the control device 300 as necessary.
- the application program may be downloaded to the control device 300 by the control support system 200 or another server device.
- the storage unit 335 provides a control interface according to the movement data of the control device 300, the posture information derived from the data, and / or the corresponding posture change of the posture information. The rules for doing so may be stored.
- the storage unit 335 may be a known storage device such as a flash memory or a hard disk.
- the communication unit 340 is a sensor unit 310, attitude information derivation unit 320, location information determination unit 330, control interface providing unit 332, and storage unit ( 335 may perform a function to enable the transmission and reception of data to / from.
- control unit 350 includes a sensor unit 310, a posture information deriving unit 320, a location information determining unit 330, a control interface providing unit 332, and a storage unit 335.
- the communication unit 340 to control the flow of data. That is, the controller 350 according to the present invention controls the data flow from / to the outside of the control device 300 or the data flow between each component of the control device 300, thereby deriving the sensor unit 310 and the attitude information.
- the unit 320, the location information determiner 330, the control interface provider 332, the storage 335, and the communicator 340 may control to perform unique functions, respectively.
- control support system 200 or the control device 300 according to the present invention will be described with respect to deriving information about the change in the posture of the user.
- FIG. 4 is a diagram illustrating a posture that a user may take for control by a control device and a control interface at that time according to an embodiment of the present invention.
- the user may take a posture looking at the control device 300 (typically, a smart watch) worn on the left wrist.
- the user's attitude is inevitably changed.
- This behavior is somewhat typical of the trajectory of the movement of the human arm, so that the motion data of the sensor unit 310 of the control device 300 also has a certain pattern (that is, the trajectory characteristic of the movement) within a certain range. ) Can be a factor causing it to be generated.
- a pattern may be that which appears along the trajectory it typically draws when the user raises the left wrist from a position near the waist to the position of view.
- the similar pattern of motion data may reveal that the user has moved the control device 300 worn on the left wrist with a very high probability as shown in the left view of FIG. 4.
- the motion data of the sensor unit 310 may be analyzed by the posture information deriving unit 320 for a predetermined time.
- the length of this time may be determined by some experimentation by those skilled in the art. Such length of time may be determined uniformly according to the judgment of those skilled in the art, but may be adaptively determined according to the type of motion data or the trajectory characteristic of the motion that it represents.
- the posture information deriving unit 320 may determine predetermined posture information by comparing a characteristic pattern of previously stored motion data with a characteristic pattern of newly detected motion data. This may be related to a change in posture indicated by a user or a part wearing the control device 300.
- attitude information derivation unit 320 of the control device 300 has described the derivation of the attitude information
- the attitude information derivation unit 210 of the control support system 200 may be responsible for at least some of these functions. have.
- the motion data of the sensor unit 310 may be transmitted to the control support system 200.
- control interface may be dynamically provided by the control interface providing unit 332 based on the information about the change in the attitude determined by the posture information deriving unit 210 or the posture information deriving unit 320.
- the above-mentioned change in the user's wrist mainly as a change in the posture of the user to allow the control interface to be provided dynamically, but such a change in the posture can actually be variously captured.
- a posture change may be captured based on data of movements typically seen when the user moves his left wrist and arm while bowing his head slightly to the left. Even data about the user's upper body twisting or moving slightly can also be the basis for capturing posture changes.
- FIG. 5 is a diagram illustrating an example of a control interface when a user wears a control device on a wrist indoors according to an embodiment of the present invention.
- the user can look at the control device 300 (eg, a smart watch) while wearing it on the wrist, in which case the control device 300 controls, based on the trajectory of the movement.
- the interface can be provided dynamically.
- Such a control interface may be configured as shown. That is, the control interface may be configured and provided according to the positional relationship between the various external devices 400 and the control device 300 disposed in the indoor space where the control device 300 exists.
- the external device 400 to be controlled by the control device 300 may be displayed by arranging corresponding graphics according to the direction or distance that the control device 300 has relative to the control device 300.
- Such a direction may be substantially coincident with the direction of the gaze that a user has when the user wears and uses the control device 300.
- the graphics of at least two external devices 400 lying in a similar direction may be displayed relatively far or close to the user.
- the user can grasp the external device 400 that he can control very intuitively, and can select and touch the appropriate graphic on the control interface.
- a touch may cause a dedicated control interface for the external device 400 to be provided, as exemplarily shown in the likelihood of FIG. 4.
- the control interface may include a menu (eg, a predetermined menu) that allows the corresponding external devices 400 to be controlled together after the corresponding plurality of graphics are selected at once. That is, the user can select a button or the like).
- the graphic of the external device 400 which has been recently controlled by the user or for some other reason has expressed user interest or is currently operating is specifically highlighted or prioritized-for example.
- the first screen of the control interface can be displayed. This feature may be particularly useful when graphics for a large number of external devices 400 need to be displayed in the control interface. However, even if the external device 400 has been controlled or the user's interest has been expressed, if such recent control or user's interest has been in the past for a predetermined time, highlighting or priority display may not be performed.
- the interest can be any interest that can be captured according to the context of use of the user's control device 300 or external device 400. For example, the external device 400 that is associated with a job that the user is doing on the control device 300 or a job that the control device 300 knows about is being performed on another device (not shown) is considered to be of interest. Can be.
- the control interface as described above is provided in a lower order than the notification message (for example, a messenger notification message) that needs to be displayed preferentially to the user on the screen of the control device 300, If the notification message is provided as recently as the predetermined time or less may not be provided at all. This is because, for example, the user lifting the left wrist may merely be an operation for viewing the notification message.
- the notification message and the control interface may be provided side by side in a state where the screen of the control device 300 is visually divided.
- FIG. 6 is a diagram illustrating an example of a control interface when a user stands and uses a control device according to an embodiment of the present invention.
- the user may stand facing forward (12 o'clock in the figure), wherein the control device 300 may also face forward.
- the control interface may display a plurality of external devices 400 disposed in front of each other according to the positional relationship between each of them and the control device 300.
- control interface may display a plurality of completely different external devices 400 disposed at the rear side according to the positional relationship between each of them and the control device 300.
- FIG. 7 is a diagram illustrating an example of a control interface when a user uses a control device in a room according to an embodiment of the present invention.
- control support system 200 may provide the application program including the control interface of the control device 300 with information that the personal computer requires the use right.
- FIG. 8 is a diagram illustrating an example of a control interface when a user uses a control device in an autonomous vehicle according to an embodiment of the present invention.
- the user may be a person of a certain age or more.
- Navigation that is made available ie navigation with autonomous driving commands
- the above user may be a low age minor.
- the application program including the control interface of the control device 300 may disable the graphic for controlling the navigation on the control interface after determining the age of the user.
- the control interface may be dynamically provided based on the biometric information of the user wearing the control device 300.
- the control device 300 may collect not only the posture change of the user but also biometric information such as a change in body temperature or a change in the pulse. Therefore, the control interface may preferentially display the air conditioner when the body temperature of the user who wants to control is high when there are a plurality of controllable external devices 400. This may help the user to quickly control the body temperature by lowering the temperature around him.
- control interface accordingly darkens the lighting of the room so that the user can be more comfortable, and the electronic device is attached.
- lighting, chairs, beds, etc. may be given priority.
- Embodiments according to the present invention described above can be implemented in the form of program instructions that can be executed by various computer components and recorded in a computer-readable recording medium.
- the computer-readable recording medium may include program instructions, data files, data structures, etc. alone or in combination.
- Program instructions recorded on the computer-readable recording medium may be specially designed and configured for the present invention, or may be known and available to those skilled in the computer software arts.
- Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical recording media such as CD-ROMs and DVDs, and magneto-optical media such as floptical disks. medium) and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.
- Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
- the hardware device may be modified with one or more software modules to perform the processing according to the present invention, and vice versa.
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Computer Networks & Wireless Communication (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
본 발명의 일 태양에 따르면, 사용자의 제어 장치에서 제어 인터페이스가 동적으로 제공되도록 하는 방법으로서, 제어 장치의 움직임 데이터에 기초하여, 그 사용자의 자세 변화에 관한 정보를 도출하는 단계 - 상기 움직임 데이터는 상기 제어 장치에 포함되는 센서에 의하여 시간의 흐름에 따라 기록되는 것임 -, 및 상기 도출된 정보에 기초하여, 상기 제어 장치에서 제어 인터페이스를 동적으로 구성하여 제공하는 단계를 포함하는 방법이 제공된다.
Description
본 발명은 사용자의 자세의 변화에 기초하여 제어 인터페이스를 동적으로 제공하기 위한 제어 장치, 상기 제어 장치에서 제어 인터페이스를 동적으로 제공하기 위한 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
근래에 들어, 사용자가 착용하거나 신체 가까운 곳에 붙여 두고 사용할 수 있는 웨어러블 장치가 광범위하게 보급되고 있다. 이러한 웨어러블 장치는 종종 주변의 전자 장치나 IoT 기기를 제어하는 데에 사용되기도 한다.
웨어러블 장치가 기존의 1세대 스마트 장치와 대비하여 볼 때에 차별화되는 점은 바로 그 사용자의 동작이나 자세와 밀접하게 연관된 물리 값을 가질 수 있다는 것이다. 따라서, 웨어러블 장치가 가질 수 있는 위와 같은 물리 값에 따라 서로 다른 제어 명령이 정의될 수 있었다.
본 발명자는, 여기서 한 걸음 더 나아가, 전자 장치나 IoT 기기를 제어하는 데에 사용될 수 있는 웨어러블 장치의 제어 인터페이스를 획기적으로 개선하기 위한 기술을 제안하는 바이다.
본 발명은 전술한 종래 기술의 문제점을 모두 해결하는 것을 그 목적으로 한다.
본 발명은 사용자의 자세의 변화에 기초하여 제어 장치에서 제어 인터페이스를 동적으로 제공하는 것을 다른 목적으로 한다.
본 발명은 상기와 같은 제어 인터페이스의 제공에 있어서 제어 대상인 전자 장치나 IoT 기기의 특성이나 위치가 더 고려되도록 하는 것을 또 다른 목적으로 한다.
상기 목적을 달성하기 위한 본 발명의 대표적인 구성은 다음과 같다.
본 발명의 일 태양에 따르면, 사용자의 제어 장치에서 제어 인터페이스가 동적으로 제공되도록 하는 방법으로서, 제어 장치의 움직임 데이터에 기초하여, 그 사용자의 자세 변화에 관한 정보를 도출하는 단계 - 상기 움직임 데이터는 상기 제어 장치에 포함되는 센서에 의하여 시간의 흐름에 따라 기록되는 것임 - , 및 상기 도출된 정보에 기초하여, 상기 제어 장치에서 제어 인터페이스를 동적으로 구성하여 제공하는 단계를 포함하는 방법이 제공된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 제어 장치 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공된다.
본 발명에 의하면, 사용자의 자세의 변화에 기초하여 제어 장치에서 제어 인터페이스를 동적으로 제공할 수 있게 된다.
본 발명에 의하면, 상기와 같은 제어 인터페이스의 제공에 있어서 제어 대상인 전자 장치나 IoT 기기의 특성이나 위치가 더 고려될 수 있게 된다.
도 1은 본 발명의 일 실시예에 따라 사용자의 자세의 변화에 기초하여 제어 장치에서 제어 인터페이스가 동적으로 제공되도록 하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 2는 본 발명의 일 실시예에 따른 제어 지원 시스템(200)의 내부 구성을 상세하게 도시하는 도면이다.
도 3은 본 발명의 일 실시예에 따른 제어 장치(300)의 내부 구성을 상세하게 도시하는 도면이다.
도 4는 본 발명의 일 실시예에 따라 사용자가 제어 장치에 의한 제어를 위하여 취할 수 있는 자세와 그때의 제어 인터페이스에 관하여 나타내는 도면이다.
도 5는 본 발명의 일 실시예에 따라 사용자가 실내에서 제어 장치를 손목에 착용하고 있는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다.
도 6은 본 발명의 일 실시예에 따라 사용자가 서서 제어 장치를 사용하는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다.
도 7은 본 발명의 일 실시예에 따라 사용자가 방 안에서 제어 장치를 사용하는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다.
도 8은 본 발명의 일 실시예에 따라 사용자가 자율 주행 차 안에서 제어 장치를 사용하는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.
이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 바람직한 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
[본 발명의 바람직한 실시예]
전체 시스템의 구성
도 1은 본 발명의 일 실시예에 따라 사용자의 자세의 변화에 기초하여 제어 장치에서 제어 인터페이스가 동적으로 제공되도록 하기 위한 전체 시스템의 개략적인 구성을 나타내는 도면이다.
도 1에 도시된 바와 같이, 본 발명의 일 실시예에 따른 전체 시스템은 통신망(100), 제어 지원 시스템(200), 제어 장치(300) 및 외부 장치(400) - 즉, 제어의 대상이 되는 전자 장치나 IoT 기기 - 를 포함하여 구성될 수 있다.
먼저, 본 발명의 일 실시예에 따른 통신망(100)은 유선 통신이나 무선 통신과 같은 통신 양태를 가리지 않고 구성될 수 있으며, 근거리 통신망(LAN; Local Area Network), 도시권 통신망(MAN; Metropolitan Area Network), 광역 통신망(WAN; Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 바람직하게는, 본 명세서에서 말하는 통신망(100)은 공지의 인터넷 또는 월드와이드웹(WWW; World Wide Web)일 수 있다. 그러나, 통신망(100)은, 굳이 이에 국한될 필요 없이, 공지의 유무선 데이터 통신망, 공지의 전화망 또는 공지의 유무선 텔레비전 통신망을 그 적어도 일부에 있어서 포함할 수도 있다. 예를 들어, 통신망(100)은 무선 데이터 통신망으로서, WiFi 통신, LTE 통신, 블루투스 통신, 적외선 통신, 초음파 통신 등과 같은 종래의 통신 방식을 그 적어도 일부분에 있어서 구현하는 것일 수 있다. 또한, 통신망(100)은 저명한 박람회인 CES(국제소비자가전박람회)에서 2017년 1월에 발표된 5세대 무선 통신의 통신 방식을 그 적어도 일부분에 있어서 구현하는 것일 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 제어 지원 시스템(200)은, 사용자가 제어 장치(300)를 착용하거나 신체 가까운 곳에 붙여 둔 채로 자세를 변화시키면, 제어 장치(300)에서 제어 인터페이스가 사용자에게 동적으로 제공되도록 지원할 수 있다. 이를 위하여, 제어 지원 시스템(200)은 제어 장치(300)가 제어 대상이 되는 외부 장치(400)의 각각과 통신망(100)을 통하여 통신할 수 있도록 지원할 수 있다. 많은 경우, 제어 대상이 될 수 있는 외부 장치(400)는 다수일 수 있다.
본 발명에 따른 제어 지원 시스템(200)의 구성과 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다.
한편, 위와 같은 제어 지원 시스템(200)은, 제어 장치(300)가 제어 지원 시스템(200)을 통하지 않고 외부 장치(400)에 대하여 소정의 제어 신호를 직접 전송할 수 있는 경우에는, 반드시 요구되지는 않을 수도 있다. 예를 들면, 제어 장치(300)가 소정의 미리 약속된 적외선 신호를 외부 장치(400)에 전송한 다음에, 외부 장치(400)가 상기 신호를 해독하여 그에 따른 동작이나 작용을 할 수 있는 경우에 그러할 수 있다. 또한, 제어 장치(300)와 외부 장치(400)는 전술한 바와 같은 다양한 무선 통신 방식 중 다른 것에 의하여 직접 통신할 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 제어 장치(300)는 필요에 따라 제어 지원 시스템(200)이나 외부 장치(400)와 통신할 수 있는 디지털 기기로서, 스마트 워치, 스마트 밴드, 스마트 링, 스마트 글래스, 스마트 폰, 기타 이동 전화기, PDA 등과 같이 사용자가 착용하거나 신체 가까운 곳에 붙여 두고 사용할 수 있고 메모리 수단을 구비하며 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기라면 얼마든지 본 발명에 따른 제어 장치(300)로서 채택될 수 있다. 특히, 제어 장치(300)는 외부 장치(400)의 제어를 위한 구성요소, 예를 들면, 사용자가 제어에 관한 입력을 할 수 있도록 하는, 아래에서 자세하게 설명되는 바와 같은 제어 인터페이스를 포함할 수 있다. 이러한 제어 장치(300)는 사용자의 자세의 변화에 관한 정보를 자체적으로 도출하거나, 이러한 정보를 제어 지원 시스템(200)으로부터 제공 받은 후에, 이에 기초하여 제어 인터페이스가 동적으로 제공되도록 할 수 있다.
본 발명에 따른 제어 장치(300)의 구성과 기능에 관하여는 아래에서 더 자세하게 알아보기로 한다.
마지막으로, 본 발명의 일 실시예에 따른 외부 장치(400)는 제어의 대상이 될 수 있는 임의의 전자 장치나 IoT 기기일 수 있다. 외부 장치(400)는 통신망(100)을 통하여 제어 지원 시스템(200)이나 제어 장치(300)로부터 제어 신호를 수신하여 그에 따라 제어될 수 있다. 외부 장치(400)의 다양한 예에 관하여는 아래에서 더 알아보기로 한다.
제어 지원 시스템의 구성
이하에서는, 본 발명에 따른 제어 지원 시스템(200)의 내부 구성과 각 구성요소의 기능에 대하여 살펴보기로 한다.
도 2는 본 발명의 일 실시예에 따른 제어 지원 시스템(200)의 내부 구성을 상세하게 도시하는 도면이다.
본 발명의 일 실시예에 따른 제어 지원 시스템(200)은 메모리 수단을 구비하고 마이크로 프로세서를 탑재하여 연산 능력을 갖춘 디지털 기기일 수 있다. 이러한 제어 지원 시스템(200)은 서버 시스템일 수 있다. 도 2에 도시된 바와 같이, 제어 지원 시스템(200)은 자세 정보 도출부(210), 위치 정보 결정부(220), 데이터베이스(230), 통신부(240) 및 제어부(250)를 포함하여 구성될 수 있다. 본 발명의 일 실시예에 따르면, 자세 정보 도출부(210), 위치 정보 결정부(220), 데이터베이스(230), 통신부(240) 및 제어부(250)는 그 중 적어도 일부가 제어 장치(300)나 외부 장치(400)와 통신하는 프로그램 모듈일 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태로 제어 지원 시스템(200)에 포함될 수 있고, 물리적으로는 여러 가지 공지의 기억 장치에 저장될 수 있다. 또한, 이러한 프로그램 모듈은 제어 지원 시스템(200)과 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
먼저, 본 발명의 일 실시예에 따른 자세 정보 도출부(210)는 제어 장치(300)로부터 그 움직임에 관한 데이터(이에 관하여는 후술하기로 함)를 수신하고, 이에 기초하여 제어 장치(300)를 사용하는 사용자의 자세의 변화에 관한 정보를 도출하는 기능을 수행할 수 있다. 상세하게 설명하면, 자세 정보 도출부(210)는, 제어 장치(300)의 움직임 데이터에 기초하여, 제어 장치(300)가 사용자에 의하여 착용되거나 신체 가까운 곳에 배치된 상황에서 나타내는 궤적에 관한 정보(제어 장치(300)의 시간의 흐름에 따른 절대적인 위치에 관한 정보, 소정의 가상의 기준점이나 제어 장치(300)와는 다른 장치에 대한 시간의 흐름에 따른 상대적인 위치에 관한 정보, 또는 제어 장치(300)의 속도, 가속도, 3축 회전 등에 관한 정보(즉, 시간의 흐름에 따른 정보)를 포함할 수 있음)를 결정하여 사용자의 자세의 변화에 관한 정보를 도출할 수 있다.
이를 위하여, 자세 정보 도출부(210)는 정보 수집과 수집된 정보의 누적을 다수의 사용자가 각각 사용하는 다수의 제어 장치(300)에 관하여 수행함으로써, 소정의 범위 내의 특성을 갖는 움직임 궤적을 기존에 알려진 자세 변화와 매칭시키거나, 소정의 범위 내의 특성을 갖는 움직임 궤적에 기초하여 새로운 자세 변화를 특정해낼 수 있다. 또한, 자세 정보 도출부(210)는, 다수의 제어 장치(300)가 공통적으로 나타내는 움직임의 궤적이 있다면, 그 특성을 분석하여 상기 움직임을 특정 종류의 움직임(즉, 특정 자세 변화)으로 결정할 수 있다. 또한, 이렇듯 결정된 종류의 움직임의 궤적 특성에 대응되는 궤적 특성의 움직임이 별개의 제어 장치(300)에 관하여 감지되면, 이러한 제어 장치(300)의 움직임으로부터 특정 자세 변화를 추고할 수도 있다. 또한, 제어 장치(300)가 사용자의 신체의 어느 부위에 착용되었는지도 추고될 수 있다. 예를 들면, 제어 장치(300)가 사용자의 손가락, 손목 및 상완 중 어느 부위(위치)에 착용되었는지가 추고될 수 있다.
한편, 위와 같이 도출된 자세 정보(필요에 따라 제어 장치(300)가 사용자의 신체에 착용된 위치에 관한 정보를 포함함)와 그에 관한 움직임 궤적의 특성은 서로 연관되어 후술하는 데이터베이스(230)에 저장될 수 있다.
다만, 전술한 바와 같은 자세 정보 도출부(210)는 필수적인 것은 아니고, 후술하는 바와 같이 제어 장치(300)에 포함될 수 있는 자세 정보 도출부(320)에 의하여 그 기능의 전부나 일부가 대체될 수 있다.
다음으로, 본 발명의 일 실시예에 따른 위치 정보 결정부(220)는, 제어 장치(300)의 위치나 가리키는 방향(orientation) 및/또는 외부 장치(400)의 위치나 가리키는 방향에 기초하여, 제어 장치(300)와 외부 장치(400) 사이의 위치 관계를 결정하고, 결정된 위치 관계에 관한 정보를 제어 장치(300)로 제공할 수 있다. 이러한 위치 관계는 제어 장치(300)와 외부 장치(400)가 각각 가리키고 있는 방향 사이의 공간 내 또는 평면 내에서의 각도나 두 장치 사이의 거리, 또는 이와 같은 각도 및 거리 정보의 조합일 수 있다. 다만, 본 구성요소는 필수적인 것은 아니고, 후술하는 바와 같이 제어 장치(300)에 포함될 수 있는 위치 정보 결정부(330)에 의하여 그 기능의 전부나 일부가 대체될 수 있다.
위치 관계의 결정에는, 제어 장치(300)가 사용되는 실내의 특정 공간에 분포하는 적어도 하나의 외부 장치(400)의 위치 및/또는 방향에 관한 사전에 등록된 정보(예를 들면, 스마트 홈 서비스의 장치 등록 정보)나 공지의 자기장 지도 판독 기술(예를 들면, 한국의 아이데카 주식회사의 한국등록특허 제10-1527212호에 의하여 개시된 기술)에 의한 실내 위치 정보가 사용될 수 있다.
다음으로, 본 발명의 일 실시예에 따른 데이터베이스(230)에는, 제어 장치(300)의 움직임 데이터, 이러한 데이터에 따라 도출된 자세 정보 그리고/또는 자세 정보의 해당 자세 변화에 따라 제어 인터페이스를 제공하는 것에 관한 규칙이 저장될 수 있다. 비록 도 2에서 데이터베이스(230)가 제어 지원 시스템(200)에 포함되어 구성되는 것으로 도시되어 있지만, 본 발명을 구현하는 당업자의 필요에 따라, 데이터베이스(230)는 제어 지원 시스템(200)과 별개로 구성될 수도 있다. 한편, 본 발명에서의 데이터베이스(230)는, 컴퓨터 판독 가능한 기록 매체를 포함하는 개념으로서, 협의의 데이터베이스뿐만 아니라 파일 시스템에 기반을 둔 데이터 기록 등을 포함하는 광의의 데이터베이스일 수도 있으며, 단순한 로그의 집합이라도 이를 검색하여 데이터를 추출할 수 있다면 본 발명에서의 데이터베이스(230)가 될 수 있다.
다음으로, 본 발명의 일 실시예에 따른 통신부(240)는 자세 정보 도출부(210), 위치 정보 결정부(220) 및 데이터베이스(230)로부터의/로의 데이터 송수신이 가능하도록 하는 기능을 수행할 수 있다.
마지막으로, 본 발명의 일 실시예에 따른 제어부(250)는 자세 정보 도출부(210), 위치 정보 결정부(220), 데이터베이스(230) 및 통신부(240) 간의 데이터의 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명에 따른 제어부(250)는 제어 지원 시스템(200)의 외부로부터의/로의 데이터 흐름 또는 제어 지원 시스템(200)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 자세 정보 도출부(210), 위치 정보 결정부(220), 데이터베이스(230) 및 통신부(240)에서 각각 고유 기능을 수행하도록 제어할 수 있다.
제어 장치의 구성
이하에서는, 본 발명에 따른 제어 장치(300)의 내부 구성과 각 구성요소의 기능에 대하여 살펴보기로 한다.
도 3은 본 발명의 일 실시예에 따른 제어 장치(300)의 내부 구성을 상세하게 도시하는 도면이다. 도 3에 도시된 바와 같이, 제어 장치(300)는 센서부(310), 자세 정보 도출부(320), 위치 정보 결정부(330), 제어 인터페이스 제공부(332), 저장부(335), 통신부(340) 및 제어부(350)를 포함하여 구성될 수 있다. 본 발명의 일 실시예에 따르면, 센서부(310), 자세 정보 도출부(320), 위치 정보 결정부(330), 제어 인터페이스 제공부(332), 저장부(335), 통신부(340) 및 제어부(350)는 그 중 적어도 일부가 제어 지원 시스템(200)이나 외부 장치(400)와 통신하는 프로그램 모듈일 수 있다. 이러한 프로그램 모듈은 운영 시스템, 응용 프로그램 모듈 또는 기타 프로그램 모듈의 형태로 제어 장치(300)에 포함될 수 있고, 물리적으로는 여러 가지 공지의 기억 장치에 저장될 수 있다. 또한, 이러한 프로그램 모듈은 제어 장치(300)와 통신 가능한 원격 기억 장치에 저장될 수도 있다. 한편, 이러한 프로그램 모듈은 본 발명에 따라 후술할 특정 업무를 수행하거나 특정 추상 데이터 유형을 실행하는 루틴, 서브루틴, 프로그램, 오브젝트, 컴포넌트, 데이터 구조 등을 포괄하지만, 이에 제한되지는 않는다.
먼저, 본 발명의 일 실시예에 따른 센서부(310)는 사용자나 사용자의 신체 부위의 움직임에 따라 작동하는, 움직임 센서, 가속도 센서, 자이로 센서, 3축 회전 센서 등의 센서를 포함할 수 있다. 즉, 센서부(310)는 이러한 공지의 센서들 중 적어도 하나로 구성될 수 있다. 센서부(310)는 제어 장치(300)의 움직임을 감지하고, 이에 관한 시간의 흐름에 따른 데이터를 출력(기록)할 수 있다. 이러한 움직임 데이터는 제어 장치(300)의 속도, 가속도, 3축 회전 등에 관한 물리 값일 수 있다. 움직임 데이터는 후술하는 바와 같은 저장부(335)에 저장될 수 있다. 또한, 센서부(310)는 지자기 검출 등을 위한 자기 센서를 포함할 수도 있다.
다음으로, 본 발명의 일 실시예에 따른 자세 정보 도출부(320)는, 센서부(310)의 시간의 흐름에 따른 출력 값(즉, 제어 장치(300)의 움직임 데이터)에 기초하여, 센서부(310)를 포함하는 제어 장치(300)의 움직임의 궤적, 나아가 이러한 궤적으로부터 추정되는, 사용자가 제어 장치(300)를 착용하고 취한 자세의 변화에 관한 정보를 도출할 수 있다. 필요에 따라, 위와 같은 자세 정보는 제어 장치(300)가 사용자의 신체에 착용된 위치에 관한 정보를 포함할 수도 있다. 다만, 본 구성요소는 필수적인 것은 아니고, 제어 지원 시스템(200)에 포함될 수 있는 자세 정보 도출부(210)에 의하여 그 기능의 전부나 일부가 대체될 수 있다.
다음으로, 본 발명의 일 실시예에 따른 위치 정보 결정부(330)는 사용자의 자세의 변화에 관한 도출된 정보에 따라 제어 장치(300)와 외부 장치(400) 사이의 위치 관계에 관한 정보를 결정할 수 있다. 다만, 본 구성요소는 필수적인 것은 아니고, 제어 지원 시스템(200)에 포함될 수 있는 위치 정보 결정부(220)에 의하여 그 기능의 전부나 일부가 대체될 수 있다.
자세 정보 도출부(320)나 위치 정보 결정부(330)의 구성 원리는 전술한 바와 같은 자세 정보 도출부(210)나 위치 정보 결정부(220)의 그것과 상당히 유사할 수 있고, 이들이 사용하는 정보나 데이터 역시 동일하거나 유사할 수 있다.
다음으로, 본 발명의 일 실시예에 따른 제어 인터페이스 제공부(332)는 제어 장치(300)와 외부 장치(400)의 사이에서 결정된 위치 관계에 기초하여 제어 장치(300)에서 동적으로 제어 인터페이스를 제공하는 기능을 수행할 수 있다. 이러한 제어 인터페이스는 제어 대상이 되는 외부 장치(400)를 사용자가 선택할 수 있도록 하는 인터페이스와 선택된 외부 장치(400)를 사용자가 구체적으로 제어할 수 있도록 하기 위한 인터페이스를 포함할 수 있다. 특히, 이러한 제어 인터페이스는 사용자가 외부 장치(400)의 제어 장치(300)에 대한 위치를 직관적으로 이해할 수 있도록 하는 후술하는 바와 같은 그래픽 인터페이스일 수 있다. 특히, 제어 인터페이스에서는, 외부 장치(400)의 위치가 그래픽으로 동적으로 표시될 수 있는데, 이러한 그래픽의 예에 관하여는 후술하기로 한다.
위와 같은 제어 인터페이스는 사용자가 제어 장치(300)를 착용한 채로 특정 자세 변화를 나타내면, 그에 따라 기동되어(즉, 사용자의 자세 변화가 기동의 요건일 수 있음) 사용자에게 표시되는 애플리케이션 프로그램이거나 이러한 애플리케이션 프로그램에 포함될 수 있다. 이와 같은 애플리케이션 프로그램은 전술한 바와 같은 위치 정보 결정부(330)나 제어 장치(300)의 다른 구성요소도 필요에 따라 적어도 부분적으로 포함할 수 있다. 애플리케이션 프로그램은 제어 지원 시스템(200)이나 다른 서버 장치에 의하여 제어 장치(300)로 다운로딩된 것일 수 있다.
다음으로, 본 발명의 일 실시예에 따른 저장부(335)에는, 제어 장치(300)의 움직임 데이터, 이러한 데이터에 따라 도출된 자세 정보 그리고/또는 자세 정보의 해당 자세 변화에 따라 제어 인터페이스를 제공하는 것에 관한 규칙이 저장될 수 있다. 이러한 저장부(335)는 플래시 메모리, 하드 디스크 등과 같은 공지의 기억 장치일 수 있다.
다음으로, 본 발명의 일 실시예에 따른 통신부(340)는 센서부(310), 자세 정보 도출부(320), 위치 정보 결정부(330), 제어 인터페이스 제공부(332), 및 저장부(335)로부터의/로의 데이터 송수신이 가능하도록 하는 기능을 수행할 수 있다.
마지막으로, 본 발명의 일 실시예에 따른 제어부(350)는 센서부(310), 자세 정보 도출부(320), 위치 정보 결정부(330), 제어 인터페이스 제공부(332), 저장부(335) 및 통신부(340) 간의 데이터의 흐름을 제어하는 기능을 수행할 수 있다. 즉, 본 발명에 따른 제어부(350)는 제어 장치(300)의 외부로부터의/로의 데이터 흐름 또는 제어 장치(300)의 각 구성요소 간의 데이터 흐름을 제어함으로써, 센서부(310), 자세 정보 도출부(320), 위치 정보 결정부(330), 제어 인터페이스 제공부(332), 저장부(335) 및 통신부(340)에서 각각 고유 기능을 수행하도록 제어할 수 있다.
자세 정보의 도출
아래에서는 본 발명에 따라 제어 지원 시스템(200)이나 제어 장치(300)가 사용자의 자세의 변화에 관한 정보를 도출하는 것에 관하여 알아보기로 한다.
도 4는 본 발명의 일 실시예에 따라 사용자가 제어 장치에 의한 제어를 위하여 취할 수 있는 자세와 그때의 제어 인터페이스에 관하여 나타내는 도면이다.
도 4의 좌도에 도시된 바와 같이, 사용자는 왼쪽 손목에 착용한 제어 장치(300)(전형적으로는, 스마트 워치)를 쳐다 보는 자세를 취할 수 있다. 이 경우, 사용자의 자세는 변화될 수밖에 없다. 이러한 행위는, 인간의 팔의 움직임의 궤적 등이 다소의 전형성을 띄고 있다는 점에서, 제어 장치(300)의 센서부(310)의 움직임 데이터 역시 일정한 범위 내에서 일정한 패턴(즉, 움직임의 궤적 특성)을 갖고 생성되도록 하는 요인이 될 수 있다. 예를 들면, 이러한 패턴은 사용자가 왼쪽 손목을 허리 근처로부터 시야에 들어 오는 위치로 들어 올릴 때에 그것이 전형적으로 그리는 궤적에 따라 나타나게 되는 것일 수 있다. 역으로, 이와 유사한 패턴의 움직임 데이터는 대단히 높은 확률로 사용자가 왼쪽 손목에 착용한 제어 장치(300)를 도 4의 좌도에서 도시된 바와 같이 움직였음을 드러내는 것일 수 있다.
위에서 설명한 경우에 있어서, 센서부(310)의 움직임 데이터는 자세 정보 도출부(320)에 의하여 소정의 정해진 시간 동안 분석되는 것일 수 있다. 이러한 시간의 길이는 당업자의 소정의 실험에 의하여 결정되는 것일 수 있다. 이와 같은 시간의 길이는 당업자의 판단에 따라 일률적으로 결정될 수도 있지만, 움직임 데이터의 종류나 그것이 나타내는 움직임의 궤적 특성에 따라 적응적으로 결정될 수도 있다. 자세 정보 도출부(320)는 기 저장된 움직임 데이터의 특징적인 패턴과 새로이 감지된 움직임의 데이터의 특징적인 패턴을 비교하여 소정의 자세 정보를 파악할 수 있다. 이것은 사용자나 제어 장치(300)를 착용한 부위가 나타내는 자세 변화에 관한 것일 수 있다.
이상에서 제어 장치(300)의 자세 정보 도출부(320)가 자세 정보를 도출하는 것에 관하여 설명하였지만, 제어 지원 시스템(200)의 자세 정보 도출부(210)가 이러한 기능의 적어도 일부를 담당할 수 있다. 이 경우, 센서부(310)의 움직임 데이터는 제어 지원 시스템(200)으로 전송될 수 있다.
따라서, 제어 인터페이스가, 자세 정보 도출부(210)나 자세 정보 도출부(320)에 의하여 파악된 자세 변화에 관한 정보에 기초하여, 제어 인터페이스 제공부(332)에 의하여 동적으로 제공될 수 있다.
도 4의 중도에서, 동적으로 제공된 제어 인터페이스의 예시적인 구성이 도시되어 있다. 이러한 제어 인터페이스의 구성 원리에 관하여는 후술하기로 한다.
도 4의 우도에서는, 중도의 제어 인터페이스에서 제어 대상이 되는 외부 장치(400)로서 텔레비전이 선택된 경우에 제공되는 제어 인터페이스가 도시되어 있다.
한편, 위에서 제어 인터페이스가 동적으로 제공되도록 하는 사용자의 자세 변화로서 주로 사용자가 손목을 들어 올리는 것을 예로 들었지만, 이러한 자세 변화는 사실 다양하게 포착될 수 있다. 예를 들면, 사용자가 고개를 왼쪽으로 약간 숙이면서 왼쪽 손목과 팔을 움직이는 경우에 전형적으로 나타나는 움직임의 데이터에 기초하여 위와 같은 자세 변화가 포착될 수도 있다. 심지어 사용자가 상체를 비틀거나 하여 약간 움직이는 것에 관한 데이터 역시 자세 변화 포착을 위한 기초가 충분히 될 수 있다.
동적인 제어 인터페이스
아래에서는 제어 인터페이스가 동적으로 제공되는 것에 관한 본 발명의 여러 실시예에 관하여 도면을 참조하여 살펴보기로 한다.
도 5는 본 발명의 일 실시예에 따라 사용자가 실내에서 제어 장치를 손목에 착용하고 있는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다. 도시된 바와 같이, 사용자는 제어 장치(300)(예를 들면, 스마트 워치)를 손목에 착용한 채로 쳐다 볼 수 있는데, 이 경우, 제어 장치(300)는, 그 움직임의 궤적에 기초하여, 제어 인터페이스를 동적으로 제공할 수 있다.
이러한 제어 인터페이스는 도시된 바와 같이 구성되어 있을 수 있다. 즉, 제어 장치(300)가 존재하는 실내의 공간에 배치되어 있는 여러 외부 장치(400)와 제어 장치(300) 사이의 위치 관계에 따라, 제어 인터페이스가 구성되어 제공될 수 있다. 여기서, 제어 장치(300)의 제어 대상이 되는 외부 장치(400)는, 그것이 제어 장치(300)에 대하여 갖는 방향이나 거리에 따라, 해당 그래픽이 배열되어 표시될 수 있다. 위와 같은 방향은 사용자가 제어 장치(300)를 착용하고 사용하는 경우에 갖게 되는 시선의 방향과 대략 일치할 수 있다. 또한, 위와 같은 거리의 차이에 따라, 유사한 방향에 놓여 있는 적어도 두 개의 외부 장치(400)의 그래픽이 사용자로부터 상대적으로 멀게 또는 가깝게 표시될 수 있다.
따라서, 사용자는 자신이 제어할 수 있는 외부 장치(400)를 굉장히 직관적으로 파악할 수 있고, 제어 인터페이스 상에서 알맞은 그래픽을 선택하여 터치하거나 할 수 있다. 이러한 터치는, 도 4의 우도에서 예시적으로 도시된 바와 같은, 해당 외부 장치(400)를 위한 전용 제어 인터페이스가 제공되게끔 할 수 있다. 만약 적어도 두 개의 외부 장치(400)가 함께 제어되는 것이 유리한 경우가 있다면, 제어 인터페이스는 해당하는 복수의 그래픽이 한꺼번에 선택된 후에, 해당 외부 장치들(400)이 함께 제어될 수 있도록 하는 소정의 메뉴(즉, 사용자가 선택할 수 있는 버튼 등)를 이어서 제공할 수 있다.
비록 도시되지는 않았지만, 제어 인터페이스에서, 최근에 사용자에 의하여 제어되었거나 기타 다른 이유로 사용자의 관심이 표명된 바 있거나 현재 작동 중인 외부 장치(400)의 그래픽이 특별히 강조되어 표시되거나 우선적으로 - 예를 들면, 제어 인터페이스의 첫 화면에서 - 표시될 수 있다. 이러한 특징은 제어 인터페이스에서 상당히 많은 수의 외부 장치(400)에 관한 그래픽이 표시될 필요가 있을 때에 특히 유용할 수 있다. 다만, 외부 장치(400) 중 제어되었거나 사용자 관심이 표명된 바 있는 것이라도, 이와 같은 최근의 제어나 사용자 관심이 소정 시간 이상 과거의 것이었다면, 강조 표시나 우선 표시가 행하여지지 않을 수 있다. 여기서, 관심은 사용자의 제어 장치(300)나 외부 장치(400)에 관한 사용의 맥락에 따라 포착될 수 있는 어떠한 관심이라도 가능하다. 예를 들면, 사용자가 제어 장치(300)에서 행하던 작업이나 제어 장치(300)가 알 수 있는, 다른 장치(미도시됨)에서 행하던 작업과 연관성이 있는 외부 장치(400)가 관심을 받는 것으로서 간주될 수 있다.
한편, 위에서 설명된 바와 같은 제어 인터페이스는 해당 제어 장치(300)의 화면 상에서 맥락상 사용자에게 우선적으로 표시될 필요가 있는 알림 메시지(예를 들면, 메신저의 톡 알림 메시지) 등보다 후순위로 제공되거나, 알림 메시지가 소정 시간 이하만큼 최근에 제공된 것인 경우에는 아예 제공되지 않을 수도 있다. 왜냐하면, 예를 들어, 사용자가 왼쪽 손목을 들어 올리는 동작이 단지 알림 메시지를 보려는 동작일 수 있기 때문이다. 물론, 당업자의 선택에 따라, 알림 메시지와 제어 인터페이스가 제어 장치(300)의 화면이 시각적으로 분할된 상태에서 나란히 제공될 수도 있다.
도 6은 본 발명의 일 실시예에 따라 사용자가 서서 제어 장치를 사용하는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다.
도 6의 상도에서 도시된 바와 같이, 사용자는 전방(그림에서 12시 방향)을 향하여 서 있을 수 있는데, 이때 제어 장치(300) 역시 전방을 향하고 있을 수 있다. 이 경우, 제어 인터페이스는 전방에 배치되어 있는 다수의 외부 장치(400)를 그 각각과 제어 장치(300) 사이의 위치 관계에 따라 표시할 수 있다.
이어서, 같은 사용자가 빙 돌아서 후방(그림에서 6시 방향)을 향할 수 있는데, 이때 제어 장치(300) 역시 후방을 향하게 될 수 있다. 이 경우, 제어 인터페이스는 후방에 배치되어 있는 전혀 다른 다수의 외부 장치(400)를 그 각각과 제어 장치(300) 사이의 위치 관계에 따라 표시할 수 있다.
도 7은 본 발명의 일 실시예에 따라 사용자가 방 안에서 제어 장치를 사용하는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다.
도 7의 상도에서 도시된 바와 같이, 방 안에 다수의 외부 장치(400)가 있을 수 있는데, 이때, 도 7의 하도에서 도시된 바와 같이, 사용자는 그 중 특별한 권한을 가진 사람만이 사용할 수 있도록 되어 있는 개인용 컴퓨터(PC)를 제어 인터페이스 상에서 해당 그래픽의 도시된 바와 같은 모양에 의하여 쉽게 구분할 수 있다. 이를 위하여, 제어 지원 시스템(200)은 제어 장치(300)의 제어 인터페이스를 포함하는 애플리케이션 프로그램에 상기 개인용 컴퓨터가 사용 권한을 요한다는 정보를 제공할 수 있다.
도 8은 본 발명의 일 실시예에 따라 사용자가 자율 주행 차 안에서 제어 장치를 사용하는 경우의 제어 인터페이스의 예에 관하여 나타내는 도면이다.
도 8의 상도에서 도시된 바와 같이, 자율 주행이 가능한 차 안에 다수의 외부 장치(400)가 있을 수 있는데, 이때, 도 8의 하도에서 도시된 바와 같이, 사용자는 그 중 특정 연령 이상의 사람만이 사용할 수 있도록 되어 있는 내비게이션(즉, 자율 주행 커맨드를 갖는 내이게이션)을 제어 인터페이스 상에서 쉽게 구분할 수 있다. 위와 같은 사용자는 저연령의 미성년자일 수 있는데, 제어 장치(300)의 제어 인터페이스를 포함하는 애플리케이션 프로그램은 사용자의 연령을 파악한 후에 제어 인터페이스 상에서 내비게이션을 제어하기 위한 그래픽을 아예 디스에이블링할 수 있다.
한편, 본 발명의 다른 실시예에 따르면, 제어 장치(300)를 착용하고 있는 사용자의 생체 정보에 기초하여서도 제어 인터페이스가 동적으로 제공될 수 있다. 예를 들면, 제어 장치(300)가 스마트 워치인 경우, 제어 장치(300)는 사용자의 자세 변화뿐만 아니라, 체온의 변화나 맥박의 변화 등과 같은 생체 정보 역시 다양하게 수집할 수 있다. 따라서, 제어 인터페이스는 제어 가능한 외부 장치(400)가 다수일 때에, 제어를 원하고 있는 사용자의 체온이 높다면 다른 것보다 에어 컨디셔너를 우선적으로 표시하여 줄 수 있다. 이것은 사용자가 빠르게 본인 주위의 온도를 낮추어 체온을 조절하는 것을 도울 수 있다. 또는, 제어 장치(300)가 사용자의 맥박 수치가 정상 수치보다 높다는 것을 알 수 있는 경우, 제어 인터페이스는 이에 따라 사용자가 보다 편안한 상태가 될 수 있도록 실내의 조명이 어둡게 되고, 전자 장치가 결부되어 있는 의자나 침대가 사용되기 쉽도록, 조명등, 의자, 침대 등을 우선적으로 표시하여 줄 수도 있다.
이상에서 제어 장치(300)에 대한 사용자의 입력(예를 들면, 특정 그래픽에 대한 선택)이 물리적인 터치에 의하여 이루어진 것으로 가정하여 설명되었지만, 당업자라면, 사용자 입력이 약속된 제스처의 이행, 포인팅, 호버링, 음성 입력, 시선 입력, 뇌파나 뇌파 유사 신호의 전송 등과 같이 다양한 것일 수도 있음에 유의하여야 한다. 당업자가 잘 유의를 한다면, 사용자 입력의 양태에 따라, 본 발명에 따른 제어 인터페이스의 구체적인 구성은 시각적이거나 비시각적인 측면에서 얼마든지 다양하게 달라질 수 있음은 자명하다.
이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항과 한정된 실시예 및 도면에 의하여 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위하여 제공된 것일 뿐, 본 발명이 상기 실시예에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정과 변경을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.
Claims (17)
- 사용자의 제어 장치에서 제어 인터페이스가 동적으로 제공되도록 하는 방법으로서,제어 장치의 움직임 데이터에 기초하여, 그 사용자의 자세 변화에 관한 정보를 도출하는 단계 - 상기 움직임 데이터는 상기 제어 장치에 포함되는 센서에 의하여 시간의 흐름에 따라 기록되는 것임 - , 및상기 도출된 정보에 기초하여, 상기 제어 장치에서 제어 인터페이스를 동적으로 구성하여 제공하는 단계를 포함하는 방법.
- 제1항에 있어서,상기 정보 도출 단계는 다수의 다른 제어 장치에 관하여 수집되어 누적된 움직임 궤적 정보에 기초하여 수행되는 방법.
- 제1항에 있어서,상기 정보 도출 단계는 상기 제어 장치가 상기 사용자에게 착용된 위치에 기초하여 수행되는 방법.
- 제1항에 있어서,상기 제어 인터페이스 제공 단계는 상기 제어 장치와 그 제어 대상이 되는 외부 장치 사이의 위치 관계에 기초하여 수행되는 방법.
- 제4항에 있어서,상기 외부 장치는 다수이고,상기 제어 인터페이스는 상기 제어 장치와 상기 다수의 외부 장치의 각각의 위치 관계에 따라 배열되는 그래픽을 다수 포함하여 제공되는방법.
- 제5항에 있어서,상기 다수의 그래픽의 각각은 상기 사용자에 의하여 선택될 수 있고,상기 사용자의 선택에 따라, 해당 외부 장치를 위한 제어 인터페이스가 상기 사용자에게 더 제공되는방법.
- 제1항에 있어서,상기 제어 인터페이스 제공 단계는 상기 사용자에 의하여 최근에 제어되었거나 상기 사용자에 의하여 관심이 표명된 바 있거나 현재 작동 중인 외부 장치에 관한 제어 수단을 상기 사용자에게 우선적으로 제공하는 단계를 포함하는 방법.
- 제1항에 있어서,상기 제어 인터페이스 제공 단계는 상기 사용자의 측정된 생체 정보에 기초하여 필요시되는 외부 장치에 관한 제어 수단을 상기 사용자에게 우선적으로 제공하는 단계를 포함하는 방법.
- 제1항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체.
- 사용자에게 제어 인터페이스를 동적으로 제공하는 제어 장치로서,상기 제어 장치의 움직임 데이터에 기초하여, 상기 사용자의 자세 변화에 관한 정보를 도출하는 자세 정보 도출부 - 상기 움직임 데이터는 상기 제어 장치에 포함되는 센서에 의하여 시간의 흐름에 따라 기록되는 것임 - , 및상기 도출된 정보에 기초하여, 상기 제어 장치에서 상기 제어 인터페이스를 동적으로 구성하여 제공하는 제어 인터페이스 제공부를 포함하는 장치.
- 제10항에 있어서,상기 자세 정보 도출부는 다수의 다른 제어 장치에 관하여 수집되어 누적된 움직임 궤적 정보에 기초하여 상기 자세 변화에 관한 상기 정보를 도출하는 장치.
- 제10항에 있어서,상기 자세 정보 도출부는 상기 제어 장치가 상기 사용자에게 착용된 위치에 기초하여 상기 자세 변화에 관한 상기 정보를 도출하는 장치.
- 제10항에 있어서,상기 제어 인터페이스 제공부는 상기 제어 장치와 그 제어 대상이 되는 외부 장치 사이의 위치 관계에 기초하여 상기 제어 인터페이스를 구성하는 장치.
- 제13항에 있어서,상기 외부 장치는 다수이고,상기 제어 인터페이스는 상기 제어 장치와 상기 다수의 외부 장치의 각각의 위치 관계에 따라 배열되는 그래픽을 다수 포함하여 제공되는장치.
- 제14항에 있어서,상기 다수의 그래픽의 각각은 상기 사용자에 의하여 선택될 수 있고,상기 사용자의 선택에 따라, 해당 외부 장치를 위한 제어 인터페이스가 상기 사용자에게 더 제공되는장치.
- 제10항에 있어서,상기 제어 인터페이스 제공부는 상기 사용자에 의하여 최근에 제어되었거나 상기 사용자에 의하여 관심이 표명된 바 있거나 현재 작동 중인 외부 장치에 관한 제어 수단을 상기 사용자에게 우선적으로 제공하는 장치.
- 제10항에 있어서,상기 제어 인터페이스 제공부는 상기 사용자의 측정된 생체 정보에 기초하여 필요시되는 외부 장치에 관한 제어 수단을 상기 사용자에게 우선적으로 제공하는 장치.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/083,585 US20190079657A1 (en) | 2016-03-08 | 2017-03-08 | Control Device For Dynamically Providing Control Interface On Basis Of Change In Position Of User, Method For Dynamically Providing Control Interface In Control Device, And Computer Readable Recording Medium With Computer Program For Executing Method Recorded Thereon |
KR1020177013548A KR20170115479A (ko) | 2016-03-08 | 2017-03-08 | 사용자의 자세의 변화에 기초하여 제어 인터페이스를 동적으로 제공하기 위한 제어 장치, 상기 제어 장치에서 제어 인터페이스를 동적으로 제공하기 위한 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 |
KR1020187033358A KR20180125638A (ko) | 2016-03-08 | 2017-03-08 | 사용자의 자세의 변화에 기초하여 제어 인터페이스를 동적으로 제공하기 위한 제어 장치, 상기 제어 장치에서 제어 인터페이스를 동적으로 제공하기 위한 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2016-0027873 | 2016-03-08 | ||
KR20160027873 | 2016-03-08 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2017155314A1 true WO2017155314A1 (ko) | 2017-09-14 |
Family
ID=59789773
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/KR2017/002533 WO2017155314A1 (ko) | 2016-03-08 | 2017-03-08 | 사용자의 자세의 변화에 기초하여 제어 인터페이스를 동적으로 제공하기 위한 제어 장치, 상기 제어 장치에서 제어 인터페이스를 동적으로 제공하기 위한 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190079657A1 (ko) |
KR (2) | KR20170115479A (ko) |
WO (1) | WO2017155314A1 (ko) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11803352B2 (en) * | 2018-02-23 | 2023-10-31 | Sony Corporation | Information processing apparatus and information processing method |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011096102A (ja) * | 2009-10-30 | 2011-05-12 | Sony Ericsson Mobile Communications Ab | 近距離無線通信装置、近距離無線通信システム、近距離無線通信装置の制御方法、近距離無線通信装置の制御プログラム、及び、携帯電話端末 |
KR20150029453A (ko) * | 2013-09-10 | 2015-03-18 | 엘지전자 주식회사 | 웨어러블 디바이스 및 이의 제어 방법 |
KR20150129591A (ko) * | 2014-05-12 | 2015-11-20 | 엘지전자 주식회사 | 이동 단말기, 이동 단말기의 제어방법, 그리고, 이동 단말기를 포함하는 제어시스템 |
KR101570430B1 (ko) * | 2014-08-11 | 2015-11-20 | 엘지전자 주식회사 | 웨어러블 디바이스 및 그것의 동작 방법 |
KR20150140212A (ko) * | 2014-06-05 | 2015-12-15 | 삼성전자주식회사 | 웨어러블 디바이스, 웨어러블 디바이스의 메인 유닛, 웨어러블 디바이스의 고정 유닛 및 그 제어 방법 |
-
2017
- 2017-03-08 US US16/083,585 patent/US20190079657A1/en not_active Abandoned
- 2017-03-08 KR KR1020177013548A patent/KR20170115479A/ko not_active Application Discontinuation
- 2017-03-08 WO PCT/KR2017/002533 patent/WO2017155314A1/ko active Application Filing
- 2017-03-08 KR KR1020187033358A patent/KR20180125638A/ko not_active Application Discontinuation
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011096102A (ja) * | 2009-10-30 | 2011-05-12 | Sony Ericsson Mobile Communications Ab | 近距離無線通信装置、近距離無線通信システム、近距離無線通信装置の制御方法、近距離無線通信装置の制御プログラム、及び、携帯電話端末 |
KR20150029453A (ko) * | 2013-09-10 | 2015-03-18 | 엘지전자 주식회사 | 웨어러블 디바이스 및 이의 제어 방법 |
KR20150129591A (ko) * | 2014-05-12 | 2015-11-20 | 엘지전자 주식회사 | 이동 단말기, 이동 단말기의 제어방법, 그리고, 이동 단말기를 포함하는 제어시스템 |
KR20150140212A (ko) * | 2014-06-05 | 2015-12-15 | 삼성전자주식회사 | 웨어러블 디바이스, 웨어러블 디바이스의 메인 유닛, 웨어러블 디바이스의 고정 유닛 및 그 제어 방법 |
KR101570430B1 (ko) * | 2014-08-11 | 2015-11-20 | 엘지전자 주식회사 | 웨어러블 디바이스 및 그것의 동작 방법 |
Also Published As
Publication number | Publication date |
---|---|
KR20170115479A (ko) | 2017-10-17 |
US20190079657A1 (en) | 2019-03-14 |
KR20180125638A (ko) | 2018-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2960630B1 (en) | Eyewear-type terminal and method for controlling the same | |
EP3037946A1 (en) | Remote controller, information processing method and system | |
KR20150012102A (ko) | 디지털 디바이스 및 제어 방법 | |
US20120068925A1 (en) | System and method for gesture based control | |
EP3549004A1 (en) | Augmented reality control of internet of things devices | |
CN109147679B (zh) | 电子设备的背光调节方法、装置、电子设备及存储介质 | |
EP3341818A1 (en) | Method and apparatus for displaying content | |
CN106708412A (zh) | 智能终端的控制方法和装置 | |
EP3392735A1 (en) | Information processing apparatus, information processing method, and program | |
JP6000929B2 (ja) | 情報処理装置 | |
WO2016088981A1 (ko) | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 | |
WO2014163246A1 (ko) | 모바일 디바이스 및 그 제어 방법 | |
WO2017095123A1 (ko) | 사용자 인터페이스를 제공하기 위한 방법, 디바이스, 시스템 및 비일시성의 컴퓨터 판독 가능한 기록 매체 | |
CN109859307A (zh) | 一种图像处理方法及终端设备 | |
CN110221761A (zh) | 显示方法及终端设备 | |
WO2018105955A2 (ko) | 객체를 디스플레이하기 위한 방법 및 그 전자 장치 | |
EP3039508B1 (en) | Display device and method of setting group alarm information | |
CN106873760A (zh) | 可携式虚拟现实*** | |
WO2017104970A1 (ko) | 사용자의 자세나 자세의 변화에 기초하여 배뇨를 모니터링하기 위한 장치 내지 시스템, 배뇨를 모니터링하는 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 | |
WO2017155314A1 (ko) | 사용자의 자세의 변화에 기초하여 제어 인터페이스를 동적으로 제공하기 위한 제어 장치, 상기 제어 장치에서 제어 인터페이스를 동적으로 제공하기 위한 방법, 그리고 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체 | |
WO2019102680A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
CN109814794A (zh) | 一种界面显示方法及终端设备 | |
JPWO2017134732A1 (ja) | 入力装置、入力支援方法および入力支援プログラム | |
WO2019021566A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
KR20210010361A (ko) | 원격 호버 터치를 위한 전자 디바이스 및 원격 인터랙션 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
ENP | Entry into the national phase |
Ref document number: 20177013548 Country of ref document: KR Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 17763575 Country of ref document: EP Kind code of ref document: A1 |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 17763575 Country of ref document: EP Kind code of ref document: A1 |