WO2021172836A1 - 외부 전자 장치를 제어하는 방법 및 그 전자 장치 - Google Patents

외부 전자 장치를 제어하는 방법 및 그 전자 장치 Download PDF

Info

Publication number
WO2021172836A1
WO2021172836A1 PCT/KR2021/002210 KR2021002210W WO2021172836A1 WO 2021172836 A1 WO2021172836 A1 WO 2021172836A1 KR 2021002210 W KR2021002210 W KR 2021002210W WO 2021172836 A1 WO2021172836 A1 WO 2021172836A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
electronic device
external
control operation
control
Prior art date
Application number
PCT/KR2021/002210
Other languages
English (en)
French (fr)
Inventor
박미지
권시온
서유비
성지연
이윤호
이은경
정도희
오영학
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2021172836A1 publication Critical patent/WO2021172836A1/ko
Priority to US17/896,404 priority Critical patent/US11914790B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • A—HUMAN NECESSITIES
    • A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01K—ANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
    • A01K29/00—Other apparatus for animal husbandry
    • A01K29/005—Monitoring or measuring activity, e.g. detecting heat or mating
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/16—Real estate
    • G06Q50/163—Real estate management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition

Definitions

  • Various embodiments disclosed in this document relate to a method for controlling an external electronic device and the electronic device.
  • 'smartphones' are the main types of mobile terminals.
  • these mobile terminals are equipped with a large-screen touch-type display module and can play multimedia contents such as music and videos in addition to the basic function of communication with the other party.
  • multimedia contents such as music and videos in addition to the basic function of communication with the other party.
  • Various functions can be performed in combination.
  • the monitoring system technology monitors information such as movement and location of companion animals, babies, and the disabled in real time in order to identify information on objects that are relatively difficult to communicate with and take appropriate measures at the right time and notify the user immediately.
  • the electronic device is equipped with such a monitoring function to periodically monitor external electronic devices including home appliances such as TVs, air conditioners, refrigerators, computers, printers, etc. that can operate without a user, and office equipment as well as industrial electronic equipment, etc. You can control them by judging them.
  • home appliances such as TVs, air conditioners, refrigerators, computers, printers, etc.
  • office equipment such as TVs, air conditioners, refrigerators, computers, printers, etc.
  • the electronic device can automatically detect the movement or gesture of the object and take appropriate action by controlling the external electronic device, as well as allowing the user to directly determine the details of the gesture. It is possible to provide an electronic device capable of compensating for the incompleteness of automatic gesture recognition by enabling content to be set.
  • An electronic device includes a display; a memory in which instructions are stored; at least one processor electrically connected to the display and the memory, wherein the at least one processor includes: control operation information for instructing an operation of controlling the at least one external electronic device from an external server when the stored instructions are executed and first routine data including control condition information indicating a condition for executing the control operation information, controlling the display to display the control condition information, and a first user input for the displayed control condition information modify the control condition information in response to, control the display to display the control operation information, and modify the control operation information in response to a second user input for the displayed control operation information; and transmit second routine data including the information and the modified control operation information to the external server.
  • control operation information instructing an operation of controlling at least one external electronic device from an external server and control indicating a condition for executing the control operation information receiving first routine data including condition information; controlling the display to display the control condition information and modifying the control condition information in response to a first user input for the displayed control condition information; controlling the display to display the control operation information and modifying the control operation information in response to a second user input for the displayed control operation information; and transmitting second routine data including the modified control condition information and the modified control operation information to the external server.
  • the server for storing and analyzing data collects first data acquired by the at least one external recognition device from at least one external recognition device, and analyzes the collected first data to obtain at least one generating and storing first routine data including control operation information instructing an operation of controlling an external electronic device of transmit to the electronic device, receive second routine data from the electronic device, and update the first routine data in response to the received second routine data.
  • control routine data including control operation information instructing an operation of the electronic device to control an external electronic device from an external server and control condition information indicating a condition for executing the control operation information
  • FIG. 1 is a block diagram of an electronic device in a network environment according to various embodiments of the present disclosure
  • FIG. 2 is a block diagram illustrating a program according to various embodiments.
  • FIG. 3 is a block diagram illustrating a relationship between an electronic device, an external server, and an external device according to an embodiment.
  • FIG. 4 is a flowchart illustrating a method of controlling an external electronic device of an electronic device according to an exemplary embodiment.
  • FIG. 5 is a block diagram illustrating first routine data according to an embodiment.
  • FIG. 6 is an exemplary diagram illustrating first routine data according to an embodiment.
  • FIG. 7 is an exemplary diagram illustrating a method of modifying control condition information of first routine data according to an exemplary embodiment.
  • FIG. 8 is an exemplary diagram illustrating a method of modifying control operation information of first routine data according to an embodiment.
  • FIG. 9 is an exemplary diagram illustrating a method of modifying first routine data in an electronic device according to an exemplary embodiment.
  • FIG. 10 is an exemplary diagram illustrating a method of setting gesture information in an electronic device according to an embodiment.
  • 11 is an exemplary diagram illustrating a method of setting second routine data according to gesture information in an electronic device according to an embodiment.
  • FIG. 12 is an exemplary diagram illustrating a method of checking gesture information set in an electronic device according to an embodiment.
  • FIG. 13 is a schematic diagram illustrating a method of generating routine data in a server according to an embodiment.
  • FIG. 14 is an exemplary diagram illustrating a method of controlling an external electronic device based on information obtained from an external recognition device in a server according to an embodiment.
  • 15 is an exemplary diagram illustrating a method of updating routine data in a server according to an embodiment.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments of the present disclosure.
  • the electronic device 101 communicates with the electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input device 150 , a sound output device 155 , a display device 160 , an audio module 170 , and a sensor module ( 176 , interface 177 , haptic module 179 , camera module 180 , power management module 188 , battery 189 , communication module 190 , subscriber identification module 196 , or antenna module 197 . ) may be included. In some embodiments, at least one of these components (eg, the display device 160 or the camera module 180 ) may be omitted or one or more other components may be added to the electronic device 101 . In some embodiments, some of these components may be implemented as a single integrated circuit. For example, the sensor module 176 (eg, a fingerprint sensor, an iris sensor, or an illuminance sensor) may be implemented while being embedded in the display device 160 (eg, a display).
  • the sensor module 176 eg, a fingerprint sensor, an iris sensor, or an illumina
  • the processor 120 for example, executes software (eg, the program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120 . It can control and perform various data processing or operations. According to an embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190) to the volatile memory 132 . may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • software eg, the program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190) to the volatile memory 132 .
  • the volatile memory 132 may be loaded into the volatile memory 132 , process commands or data stored in the volatile memory 132 , and store the resulting data in the non-volatile memory 134 .
  • the processor 120 includes a main processor 121 (eg, a central processing unit or an application processor), and an auxiliary processor 123 (eg, a graphic processing unit or an image signal processor) that can be operated independently or together with the main processor 121 . , a sensor hub processor, or a communication processor). Additionally or alternatively, the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function. The auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • a main processor 121 eg, a central processing unit or an application processor
  • an auxiliary processor 123 eg, a graphic processing unit or an image signal processor
  • the auxiliary processor 123 may be configured to use less power than the main processor 121 or to be specialized for a designated function.
  • the auxiliary processor 123 may be implemented separately from or as a part of the main processor 121 .
  • the auxiliary processor 123 may be, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display device 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the auxiliary processor 123 eg, an image signal processor or a communication processor
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input device 150 may receive a command or data to be used in a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input device 150 may include, for example, a microphone, a mouse, a keyboard, or a digital pen (eg, a stylus pen).
  • the sound output device 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output device 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes, such as multimedia playback or recording playback, and the receiver can be used to receive incoming calls.
  • the receiver may be implemented separately from or as a part of the speaker.
  • the display device 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display device 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the corresponding device.
  • the display device 160 may include a touch circuitry configured to sense a touch or a sensor circuit (eg, a pressure sensor) configured to measure the intensity of a force generated by the touch. have.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input device 150 , or an external electronic device (eg, a sound output device 155 ) connected directly or wirelessly with the electronic device 101 .
  • the electronic device 102) eg, a speaker or headphones
  • the electronic device 102 may output a sound.
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication through the established communication channel.
  • the communication module 190 operates independently of the processor 120 (eg, an application processor) and may include one or more communication processors supporting direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module may be a first network 198 (eg, a short-range communication network such as Bluetooth, WiFi direct, or infrared data association (IrDA)) or a second network 199 (eg, a cellular network, the Internet, or It may communicate with an external electronic device via a computer network (eg, a telecommunication network such as a LAN or WAN).
  • a computer network eg, a telecommunication network such as a LAN or WAN.
  • These various types of communication modules may be integrated into one component (eg, a single chip) or may be implemented as a plurality of components (eg, multiple chips) separate from each other.
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include one antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas. In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, RFIC
  • other than the radiator may be additionally formed as a part of the antenna module 197 .
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the electronic devices 102 and 104 may be the same or a different type of device as the electronic device 101 .
  • all or part of the operations performed by the electronic device 101 may be performed by one or more of the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service by itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • the one or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • FIG. 2 is a block diagram 200 illustrating a program 140 according to various embodiments.
  • the program 140 executes an operating system 142 for controlling one or more resources of the electronic device 101 , middleware 144 , or an application 146 executable in the operating system 142 .
  • Operating system 142 may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • At least some of the programs 140 are, for example, preloaded into the electronic device 101 at the time of manufacture, or an external electronic device (eg, the electronic device 102 or 104 ), or a server (eg, the electronic device 102 or 104 ) when used by a user ( 108)) or may be updated.
  • the operating system 142 may control management (eg, allocation or retrieval) of one or more system resources (eg, a process, memory, or power) of the electronic device 101 .
  • the operating system 142 may additionally or alternatively include other hardware devices of the electronic device 101 , for example, the input device 150 , the sound output device 155 , the display device 160 , and the audio module 170 . , sensor module 176 , interface 177 , haptic module 179 , camera module 180 , power management module 188 , battery 189 , communication module 190 , subscriber identification module 196 , or It may include one or more driver programs for driving the antenna module 197 .
  • the middleware 144 may provide various functions to the application 146 so that functions or information provided from one or more resources of the electronic device 101 may be used by the application 146 .
  • the middleware 144 includes, for example, an application manager 201 , a window manager 203 , a multimedia manager 205 , a resource manager 207 , a power manager 209 , a database manager 211 , and a package manager 213 . ), a connectivity manager 215 , a notification manager 217 , a location manager 219 , a graphics manager 221 , a security manager 223 , a call manager 225 , or a voice recognition manager 227 .
  • an application manager 201 includes, for example, an application manager 201 , a window manager 203 , a multimedia manager 205 , a resource manager 207 , a power manager 209 , a database manager 211 , and a package manager 213 .
  • a connectivity manager 215 a notification manager 217 , a
  • the application manager 201 may manage the life cycle of the application 146 , for example.
  • the window manager 203 may manage one or more GUI resources used in a screen, for example.
  • the multimedia manager 205 for example, identifies one or more formats required for playback of media files, and encodes or decodes a corresponding media file among the media files using a codec suitable for the selected format. can be done
  • the resource manager 207 may manage the space of the source code of the application 146 or the memory of the memory 130 , for example.
  • the power manager 209 may, for example, manage the capacity, temperature, or power of the battery 189 , and determine or provide related information necessary for the operation of the electronic device 101 by using the corresponding information. . According to an embodiment, the power manager 209 may interwork with a basic input/output system (BIOS) (not shown) of the electronic device 101 .
  • BIOS basic input/output system
  • the database manager 211 may create, retrieve, or change a database to be used by the application 146 , for example.
  • the package manager 213 may manage installation or update of an application distributed in the form of a package file, for example.
  • the connectivity manager 215 may manage, for example, a wireless connection or a direct connection between the electronic device 101 and an external electronic device.
  • the notification manager 217 may provide, for example, a function for notifying the user of the occurrence of a specified event (eg, an incoming call, a message, or an alarm).
  • the location manager 219 may manage location information of the electronic device 101 , for example.
  • the graphic manager 221 may manage, for example, one or more graphic effects to be provided to a user or a user interface related thereto.
  • Security manager 223 may provide, for example, system security or user authentication.
  • the telephony manager 225 may manage, for example, a voice call function or a video call function provided by the electronic device 101 .
  • the voice recognition manager 227 for example, transmits the user's voice data to the server 108, and based at least in part on the voice data, a command corresponding to a function to be performed in the electronic device 101; Alternatively, the converted text data may be received from the server 108 based at least in part on the voice data.
  • the middleware 244 may dynamically delete some existing components or add new components.
  • at least a portion of the middleware 144 may be included as a part of the operating system 142 or implemented as software separate from the operating system 142 .
  • Application 146 includes, for example, home 251 , dialer 253 , SMS/MMS 255 , instant message (IM) 257 , browser 259 , camera 261 , alarm 263 . , contact 265, voice recognition 267, email 269, calendar 271, media player 273, album 275, watch 277, health 279 (such as exercise or blood sugar) measuring biometric information), or environmental information 281 (eg, measuring atmospheric pressure, humidity, or temperature information).
  • the application 146 may further include an information exchange application (not shown) capable of supporting information exchange between the electronic device 101 and an external electronic device.
  • the information exchange application may include, for example, a notification relay application configured to transmit specified information (eg, call, message, or alarm) to an external electronic device, or a device management application configured to manage the external electronic device.
  • the notification relay application for example, transmits notification information corresponding to a specified event (eg, mail reception) generated in another application (eg, the email application 269 ) of the electronic device 101 to the external electronic device.
  • the notification relay application may receive notification information from the external electronic device and provide it to the user of the electronic device 101 .
  • the device management application is, for example, a power source (eg, turn-on or turn on) of an external electronic device that communicates with the electronic device 101 or some components thereof (eg, the display device 160 or the camera module 180 ). -off) or a function (eg, brightness, resolution, or focus of the display device 160 or the camera module 180 ) may be controlled.
  • the device management application may additionally or alternatively support installation, deletion, or update of an application operating in an external electronic device.
  • FIG. 3 is a block diagram illustrating a relationship between an electronic device, an external server, and an external device according to an embodiment.
  • the electronic device 330 eg, the electronic device 101 of FIG. 1
  • external devices the external recognition device 310 or the external electronic device 340 of FIG. 3
  • an external server eg, the external electronic device 340
  • the external recognition device 310 may acquire information including motion information of objects, and transmit the information acquired from the external recognition device 310 to the external server 320 .
  • the external server 320 may collect, process, and store information received from the external recognition device 310 , and may transmit information processed by the external server 320 to the electronic device 330 .
  • the electronic device 330 may modify information received from the external server 320 according to user settings, and may transmit the information modified by the electronic device 330 back to the external server 320 .
  • the external server 320 may collect information received from the electronic device 330 to update pre-stored information, and may control the operation of the external electronic device 340 in response to the received information. have.
  • Information transmission and reception between the external recognition device 310 , the external server 320 , the electronic device 330 , and the external electronic device 340 is not limited to the above-described method, and information is transmitted without passing through the external server 320 . can be sent or received.
  • the external recognition device 310 may directly transmit the acquired information to the electronic device 330
  • the electronic device 330 may directly process the received information and transfer the received information to the external server 320 . and can directly control the operation of the external electronic device 340 in response to information received from the external recognition device 310 .
  • the external recognition device 310 may be a device capable of acquiring object motion information, voice information, location information, and the like, and may include, for example, a camera, an EMG, and a location sensor.
  • the object recognized by the external recognition device 310 may be a difficult object to communicate with, and may include, for example, a companion animal, a baby, a disabled person, an elderly person, and the like.
  • the external recognition device 310 may be attached to an object, and may be installed at a predetermined location in an indoor space or may be installed in furniture or electronic products positioned in the indoor space.
  • the external recognition device 310 may not only acquire information such as motion information, voice information, and location information for each object, but also obtain related information such as motion information according to a location and voice information according to a location. can be obtained
  • the camera of the external recognition device 310 may recognize that the baby is stationary and moving, and the position sensor of the external recognition device 310 may recognize that the baby is on a rocking bed in the baby's room, and these
  • the external server 320 may analyze the linked information and identify it as a gesture indicating that the baby has woken up, thereby increasing the accuracy of the gesture identification process.
  • the external server 320 may transmit or receive information using a wired or wireless communication circuit with the external recognition device 310 , the electronic device 330 , and the external electronic device 340 .
  • the external server 320 may collect, analyze and store the received information, update the stored information, build a DB of the received information, or learn the analysis process by itself using a machine learning model.
  • the external server 320 analyzes the received information to instruct control operation information instructing an operation to control the at least one external electronic device 340 and a condition to execute the control operation information. It can be processed into first routine data including control condition information. Control condition information, control operation information, and first routine data will be described later in detail.
  • the electronic device 330 may include a display 331 , a memory 332 , and a processor 333 .
  • the configuration of the electronic device 330 is not limited thereto, and according to an embodiment, the electronic device 330 may omit at least one of the above-described components or further include at least one other component.
  • the electronic device 330 may further include a communication circuit.
  • the display 331 may display various contents (eg, text, images, videos, icons, or symbols).
  • the display 331 may include a touch screen, and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of the user's body.
  • the display 331 may output the control condition information or the control operation information received from the external server 320 on the screen, and in response to the user's input to the control condition information or the control operation information, the user input can be displayed on the screen.
  • the display 331 may provide a rectangular screen.
  • the shape of the screen provided by the display 331 is not limited to a rectangle, and may include a rectangle with rounded corners, a circle, a rectangle having a notch area, a rectangle having a circular hole in some areas, etc. depending on the type or design of the electronic device.
  • the display 331 has a rectangular shape and a user input is input based on the horizontal direction of the display, but various modifications are possible.
  • the embodiments disclosed in this document may also be applied to a situation in which a user input is input based on the vertical direction of the display.
  • the memory 332 may store various data used by at least one component of the electronic device 330 .
  • the memory 332 may store various data to receive and modify the first routine data to configure the second routine data, and control the external electronic device 340 according to the control condition information and the control condition information. At least one command related to control operation information may be stored.
  • the processor 333 may control at least one other component of the electronic device 330 and may perform various data processing or operations.
  • the processor 333 may be electrically connected to the display 331 and the memory 332 and execute instructions stored in the memory 332 .
  • the processor 333 may receive and modify the first routine data to execute at least one instruction set to configure the second routine data.
  • the electronic device 330 may perform a function corresponding to the command.
  • the processor 333 executes a command, so that control operation information instructing an operation of controlling at least one external electronic device from an external server and a control condition indicating a condition to execute the control operation information Receive first routine data including information, control the display to display control condition information, modify the control condition information in response to a first user input for the displayed control condition information, and configure the display to display control operation information. control and modify the control operation information in response to a second user input for the displayed control operation information, and control to transmit second routine data including the modified control condition information and the modified control operation information to an external server .
  • the electronic device 330 may further include a communication circuit supporting communication between the external recognition device 310 , the external server 320 , or the external electronic device 340 .
  • the communication circuit may receive or transmit data from the external recognition device 310 , the external server 320 , or the external electronic device 340 .
  • FIG. 4 is a flowchart illustrating a method of controlling the external electronic device 340 of the electronic device 330 according to an embodiment. The operation of FIG. 4 may be performed by the electronic device 330 of FIG. 3 .
  • the processor 333 of the electronic device 330 according to an embodiment includes control operation information and control operation for instructing an operation of controlling at least one external electronic device 340 from the external server 320 .
  • An operation 470 of transmitting the second routine data including the modified control condition information and the modified control operation information to the external server 320 may be performed.
  • the processor 333 instructs the control operation information instructing an operation of controlling the at least one external electronic device 340 from the external server 320 and a condition for executing the control operation information. It is possible to receive the first routine data including the control condition information.
  • control condition information, control operation information, and first routine data will be described in detail with reference to FIG. 5 .
  • the first routine data 500 may include control condition information (IF) 510 and control operation information (THAT) 530 , and the control condition information (IF) 510 is an object.
  • Information 511 , gesture information 513 , and information 515 obtained from an external recognition device may be included, and the control operation information (THAT) 530 includes the external electronic device information 531 and the control operation 533 .
  • the object information 511 constituting the control condition information (IF) 510 may include information for identifying one or more objects from among a group of objects, and external electronic device information constituting the control operation information (THAT) 530 .
  • Reference numeral 531 may include information on an external electronic device that is a target of a control operation.
  • the routine data is data composed of a pair of control condition information 510 generated by analyzing data acquired from at least one external recognition device 310 and control operation information 530 corresponding thereto.
  • the data acquired from the external recognition device 310 satisfies the information 515 acquired from the external recognition device included in the control condition information 510 of the routine data, based on the control operation information 530 of the routine data
  • it may be data configured to control the at least one external electronic device 340 .
  • the object indicated by the object information 511 may mean a target from which the external recognition device 310 acquires information (eg, motion information, location information).
  • the object may be a difficult object to communicate with, and the object may include a companion animal, a baby, a disabled person, or an elderly person.
  • the gesture information 513 may be information processed by analyzing the information 515 obtained from an external recognition device, and may include behavior-related information for each object.
  • the information 515 acquired from the external recognition device is information acquired from the external recognition device 310, such as a camera, an EMG, a position sensor, and the like, and of the object information 511, motion information for each object, and voice information , location information, motion information according to the location, and voice information according to the location may include at least one.
  • the information 515 acquired from the external recognition device is information obtained by analyzing data (eg, location information of an object, motion information of an object) received from the external recognition device 310 , and gesture information 515 . ) may be an action or state of an object corresponding to the information 515 obtained from the external recognition device.
  • the information 515 obtained from the recognition device may be movement information of the puppy sitting down on a stool pad, and the corresponding gesture information 513 may be a gesture of the puppy having a bowel movement.
  • the information 515 obtained from the external recognition device may be information in which the grandfather is stationary in the bathroom for a certain period of time or more, and the corresponding gesture information 513 may be a gesture in which the grandfather has fallen.
  • the external electronic device in the external electronic device information 531 , may be an electronic product or a home appliance as a target of a control operation, for example, a pet toy or a companion animal feeder. , an air purifier, a rocking bed, a smart home speaker, a smart home camera, or a smart phone.
  • the control operation 533 may be an operation of controlling an individual external electronic device 340 constituting the external electronic device information 531 , for example, turning on the power of the external electronic device 340 or It may include an operation of turning off or an operation of executing a preset function of the external electronic device 340 .
  • the control operation information (THAT) 530 includes the external electronic device information 531 and the control operation 533 for controlling at least one external electronic device 340 indicated by the external electronic device information 531 .
  • the control operation 533 constituting the control operation information (THAT) 530 includes an operation of turning on the power of a pet toy, an operation of turning on the power of an air purifier, or an alarm function of a smart phone. It may include an action to be executed.
  • the first routine data 500 may include a set of control condition information (IF) 510 and control operation information (THAT) 530 corresponding thereto.
  • IF control condition information
  • THAT control operation information
  • the first routine data 500 includes object information 511 composed of a target type and a target name, gesture information 513 composed of a main trigger type and a main trigger name, and a sub trigger type.
  • Control condition information (IF) 510 including information 515 obtained from an external recognition device consisting of and sub trigger name, external electronic device information 531 consisting of objects, and a control operation 533 consisting of object's action It may be composed of a set of control operation information (THAT) 530 including Referring to FIG.
  • IF control condition information
  • THAT set of control operation information
  • the object of the object information 511 constituting the control condition information (IF) 510 is a dog, a cat, a baby, and a grandfather ( 603 ), and the gesture information ( 513 ) is an operation in which the dog turns a circle. , a dog pooping motion, a cat sitting motion, a baby tossing and turning, or a grandfather falling down motion (605).
  • a set of control condition information (IF) 510 and control operation information (THAT) 530 corresponding thereto is control condition information 607 where a cat cries while sitting in the kitchen. and control operation information of an operation 609 of turning on the power of a companion animal feeder and feeding the corresponding companion animal and an operation 611 of quieting the air purifier.
  • the processor 333 controls the display 331 to display the control condition information 510 in operation 430 and responds to a first user input for the displayed control condition information 510 .
  • the control condition information 510 may be modified.
  • a process of modifying the control condition information 510 will be described with reference to FIG. 7 .
  • the external server 320 may generate first routine data ( 701 ).
  • the external server 320 may recognize the behavior of the recognition object by analyzing the image of the recognition object as information obtained from the external recognition device 310 .
  • the external server 320 may predict the behavioral pattern of the recognition object by learning the behavior of the recognition object using a machine learning algorithm (eg, a pattern of defecation after an animal-dog kicks its hind paws).
  • the external server 320 may compare the predicted behavior pattern with routine data pre-stored in the external server 320 .
  • the external server 320 determines a control operation (eg, output change) of an object to be controlled (eg, an air purifier) corresponding to the predicted behavior pattern.
  • the external server 320 may generate first routine data to be recommended to the user based on the predicted behavior pattern, the object to be controlled, and the control operation.
  • the above-described process of generating the first routine data by the external server 320 is for describing an embodiment, and may be modified according to an embodiment.
  • the first routine data may include a behavior pattern serving as control condition information but not include control operation information and may be designated by a user input.
  • the processor 333 receives the control condition information 510 from the external server 320 when the external server 320 wants to recommend the control condition information 510 of the first routine data. ) can be received.
  • the external server 320 may send a push message to the electronic device including the processor 333 (eg, the electronic device 101 of FIG. 1 ).
  • the electronic device displays the control condition information 510 (eg, in FIG. 3, the display 331) can be controlled.
  • the processor 333 requests the external server 320 to recommend the control condition information 510 in response to a user input input to the electronic device or a setting (eg, a recommendation period) specified in the electronic device to request the first routine data Control condition information 510 of may be received (701).
  • the processor 333 determines (703) the object included in the control condition information 510 according to whether the user owns the object (702), or selects the object according to whether the user owns an object substitute (704) You can replace 705, or remove 706 an object if you do not own the object or object substitute.
  • the processor 333 may determine ( 707 ) whether to use preset gesture information when the object is confirmed or replaced.
  • the processor 333 may modify (708) the gesture information of the object according to the determination and reflect (709) the second routine data.
  • the processor 333 may transmit and store the modified second routine data to an external server (710).
  • the above-described operations 701 to 710 may be input to the electronic device as a first user input, and the display 331 outputs a process in which the control condition information 510 is modified in response to the first user input. can do.
  • the processor 333 controls the display 331 to display the control operation information 530 in operation 450 and responds to a second user input for the control operation information 530 .
  • the control operation information 530 may be modified.
  • a process of modifying the control operation information 530 will be described with reference to FIG. 8 .
  • the processor 333 may receive and receive the control operation information 530 of the first routine data from the external server 320 as recommended or may be designated by the user ( 801 ).
  • the processor 333 may determine (703) the external electronic device according to whether the user owns the external electronic device (802), and according to whether the user owns an external electronic device substitute (804), the external electronic device may be replaced (805), and if the external electronic device or an external electronic device substitute is not owned, the external electronic device may be removed (806).
  • the processor 333 may determine (807) whether to use a preset control operation of the external electronic device when the external electronic device is confirmed or replaced.
  • the processor 333 may modify (808) the control operation of the external electronic device and reflect (809) the second routine data according to the determination, and transmit and store (810) the modified second routine data to the external server.
  • the operations 801 to 810 may be input to the electronic device as a second user input, and the display 331 may output a process of modifying the control operation information 530 in response to the second user input.
  • FIGS. 7 and 8 Examples related to FIGS. 7 and 8 will be described with reference to FIGS. 9 to 12 .
  • FIG. 9 is an exemplary diagram illustrating a method of modifying the first routine data 500 in the electronic device 330 according to an embodiment.
  • reference numeral 910 is an example in which the first routine data 500 received from the external server 320 is displayed on the display 331 .
  • the processor 333 receives the first routine data 500 from the external server 320 and displays it in a preview format in a recommended tab 911 (912 and 913). ) can do.
  • the processor 333 may briefly display the contents of the control condition information 510 and the control operation information 530 of the first routine data 500 together with an icon.
  • reference numeral 920 is an example in which a process of modifying the control condition information 510 of the first routine data 500 is displayed on the display 331 .
  • the processor 333 may briefly display the contents of the gesture information 513 constituting the control condition information 510 and/or the information 515 obtained from an external recognition device together with an icon. .
  • the processor 333 may add details of the control condition information 510 in response to an input of selecting the plus icon 921 , and select the minus icon 922 .
  • details of the control condition information 520 may be deleted.
  • the processor 333 may perform an operation (eg, operation 708 of FIG. 7 ) of correcting gesture information included in the control condition information 520 of the first routine data in response to a user input on the screen 920 of FIG. 9 . have.
  • reference numeral 930 is an example in which a process of modifying the control operation information 530 of the first routine data 500 is displayed on the display 331 .
  • the processor 333 may briefly display the content of the control operation 533 constituting the control operation information 530 together with an icon. Referring to screen 930 , the processor 333 according to an embodiment may add details of the control operation information 530 in response to an input of selecting the plus icon 931 , and select the minus icon 932 . In response to the input, details of the control operation information 530 may be deleted.
  • the processor 333 may perform an operation of correcting control operation information of the first routine data (eg, operation 808 of FIG. 8 ) in response to a user input on the screen 930 of FIG. 9 .
  • reference numeral 940 is an example in which first routine data (eg, second routine data) corrected through operations 910 to 930 is displayed on the display 331 .
  • the processor 333 may display 942 the modified first routine data together with an icon in a my routines tab 941 .
  • the processor 333 may control whether to activate the modified first routine data in response to an input for selecting the on/off icon 943 .
  • the processor 333 may modify the first routine data 500 according to a user setting and process it into second routine data through operations 910 to 940 of FIG. 9 .
  • a method in which the processor 333 outputs the process of modifying the first routine data 500 to the display 331 is not limited to the embodiment illustrated in FIG. 9 and may be displayed in various ways.
  • 10 is an exemplary diagram illustrating a method of setting gesture information 513 in the electronic device 330 according to an embodiment.
  • 1010 is an example of displaying information 515 obtained from an external recognition device on the display 331
  • 1020 is information 515 obtained from an external recognition device constituting the control condition information 510. 331) as an example.
  • the processor 333 may receive information 515 obtained from an external recognition device and display 1011 in a preview format in a recommendation tab. According to an embodiment, the processor 333 may briefly display the content of the information 515 obtained from the external recognition device together with an icon.
  • the processor 333 may display video information 1032 of an object acquired from a camera among the external recognition devices 310 , and at least one of the video information 1032 of the object. One video can be played, and unnecessary videos can be deleted. According to an embodiment, the processor 333 may set the video information 1032 of the object as one gesture in response to an input of selecting the gesture addition icon 1031 , and may display 1041 the set gesture. . For example, when information about the movement of a puppy in a circle is obtained from the camera, the processor 333 may set the obtained information as a gesture of circling.
  • reference numeral 1050 is an example in which gesture information set through operations 1010 to 1040 is displayed on the display 331 .
  • the processor 333 may briefly display 1051 a set gesture of a dog's circling action together with an icon.
  • the processor 333 may additionally set new gesture information even if there is no preset gesture information 513 corresponding to the information 515 obtained from the external electronic device through operations 1010 to 1050 of FIG. 10 . have.
  • a method in which the processor 333 outputs the process of setting the gesture information 513 to the display 331 is not limited to the embodiment illustrated in FIG. 10 and may be displayed in various ways.
  • FIG. 11 is an exemplary diagram illustrating a method of setting second routine data according to gesture information 513 in the electronic device 330 according to an embodiment.
  • the processor 333 may set the second routine data in response to an input for selecting the plus icon on the screen 1110 of FIG. 11 , and may set the second routine data in response to the input for selecting the plus icon on the screen 1120 of FIG. 11 .
  • Data control condition information can be set.
  • reference numeral 1130 illustrates an example in which objects constituting the object information 511 are displayed on the display 331
  • reference numeral 1140 illustrates an example in which gesture information 513 of an object selected on the screen 1130 is displayed on the display 331
  • Reference numeral 1150 is an example of displaying the control condition information 510 corresponding to the gesture information selected on the screen 1140 on the display 33
  • reference numeral 1160 is the display 331 of the control operation information 530 corresponding to the gesture information selected on the screen 1140.
  • the processor 333 may add a control operation 533 for controlling the external electronic device in response to an input for selecting the plus icon on the screen 1160 of FIG. 11 ( 1170 ).
  • the processor 333 may modify or set the second routine data according to a user setting through operations 1110 to 1170 of FIG. 11 .
  • a method in which the processor 333 outputs the process of correcting or setting the second routine data to the display 331 is not limited to the embodiment illustrated in FIG. 11 and may be displayed in various ways.
  • the processor 333 may set the second routine data in response to an input for selecting the plus icon on the screen 1210 of FIG. 12 .
  • the processor 333 may set control condition information of the second routine data in response to an input of selecting the plus icon on the screen 1220 .
  • the processor 333 may display gesture information of the selected object on the screen 1240 in response to an input for selecting an object from the object list on the screen 1230 .
  • the processor 333 may display details 1251 of the gesture on the screen 1250 in response to an input of selecting the arrow icon 1241 on the screen 1240 .
  • the processor 333 may display detailed information of a gesture set according to a user setting before setting the second routine data.
  • the method in which the processor 333 outputs detailed information of the set gesture to the display 331 is not limited to the embodiment described in 1250 and may be displayed in various ways.
  • the processor 333 may transmit the second routine data including the control condition information and the modified control operation information corrected in operation 470 to the external server 320 .
  • the second routine data including the modified control condition information and the modified control operation information may be stored in the memory 332 of the electronic device 330 .
  • the external server 320 collects first data acquired by at least one external recognition device from at least one external recognition device, and analyzes the collected first data to obtain at least one external electronic device. generating and storing first routine data including control operation information instructing an operation to control the The second routine data may be received from the electronic device, and the first routine data may be updated in response to the received second routine data.
  • the external server 320 collects second data acquired by at least one external recognition device, and the second data is obtained from the external recognition device included in the control condition information of the second routine data. If the information is satisfied, at least one external electronic device may be controlled based on the control operation information of the second routine data.
  • a case in which the above-described second data satisfies information obtained from an external recognition device included in the control condition information of the second routine data may be a case in which the second data matches gesture information for each object.
  • FIG. 13 is a schematic diagram illustrating a method of generating routine data in a server (eg, the external server 320 of FIG. 3 ) according to an embodiment.
  • the method of FIG. 13 may be performed by the external server 320 of FIG. 3 . Referring to FIG.
  • an indoor camera is installed among the external recognition devices 310 ( 1301 ), the camera may acquire information about an object ( 1302 ), and a sensor is installed among the external recognition devices 310 ( 1303 )
  • the sensor may obtain information about the object (1304), and the external server 320 may recognize the object from the obtained information, analyze the gesture information for each object (1305), and generate routine data (1306)
  • the electronic device 330 may receive routine data from the external server 320 ( 1307 ) and control the external electronic device 340 by performing the routine data ( 1308 ).
  • FIG. 14 is an exemplary diagram illustrating a method of controlling an external electronic device based on information obtained from an external recognition device in a server (eg, the external server 320 of FIG. 3 ) according to an embodiment.
  • the method of FIG. 14 may be performed by the external server 320 or the electronic device 330 of FIG. 3 .
  • reference numeral 1410 is an example in which a state in which the external electronic device 340 is controlled by executing routine data according to a gesture of an object is displayed on the display 331 .
  • 1420 is an example of data collected by the external recognition device 310 .
  • 1430 is an example in which a gesture of an object changed as 1420 is input and a control state of the external electronic device 340 are displayed on the display 331 .
  • the external server 320 may perform a control operation of the external electronic device corresponding to the resting gesture by identifying a gesture indicating that the user's dog, Choco, is resting in the living room ( 1410 ). ), when receiving information that the chocolate obtained from the external recognition device kicks the hind leg ( 1420 ), a gesture of choco passing stool may be identified and a control operation of the external electronic device corresponding to the identified gesture may be performed ( 1430).
  • the external server 320 controls the air purifier in the living room from the automatic mode to the strong mode, controls the robot toy from the power off mode to the praise mode, and the automatic toilet ( auto toilet) can be controlled from power off mode to power on mode.
  • the external server 320 may continuously receive information 515 obtained from the external recognition device after 1430, and whether the control operation 533 performed from the input information is satisfied. can be judged According to an embodiment, the external server 320 may determine whether the performed control operation is satisfied by determining whether the gesture of the object has changed or analyzing the expression of the object. The external server 320 may update the routine data by reflecting the satisfaction determination. For example, the external server 320 may modify at least one of external electronic device information and control operation of routine data registered in the external server 320 based on the determined satisfaction, or external electronic device information and A message suggesting to modify the control operation may be transmitted to the electronic device.
  • FIG. 15 is an exemplary diagram illustrating a method of updating routine data in a server (eg, the external server 320 of FIG. 3 ) according to an embodiment.
  • the method of FIG. 15 may be performed by the external server 320 of FIG. 3 .
  • the external server 320 may collect first data acquired by at least one external recognition device ( 1501 ), and analyze the collected data ( 1502 ) to first
  • the routine data may be generated and stored ( 1503 ), the stored first routine data may be transmitted to the electronic device, and second routine data that is the modified first routine data 1504 may be received from the electronic device ( 1505 ).
  • the received second routine data may be analyzed ( 1506 ) to update the pre-stored first routine data ( 1507 ), and the updated routine data may be transmitted back to the electronic device ( 1508 ).
  • the external server 320 may collect a large amount of data and may continuously update the first routine data to increase the accuracy of data analysis.
  • a method of controlling an external electronic device of an electronic device may include at least one Receiving first routine data including control operation information instructing an operation of controlling an external electronic device and control condition information indicating a condition for executing the control operation information (eg, operation 410 in FIG. 4 ); controlling the display to display the control condition information and modifying the control condition information in response to a first user input for the control condition information (eg, operation 430 of FIG. 4 ), to display the control operation information
  • control condition information (eg, the control condition information 510 of FIG. 5 ) includes object information (eg, the object information 511 of FIG. 5 ) and gesture information for each object (eg, FIG. 5 ). 5 ) and information obtained from an external recognition device (eg, information 515 obtained from an external recognition device of FIG. 5 ).
  • the information obtained from the external recognition device may include at least one of motion information, voice information, location information, motion information according to a location, and voice information according to a location of the object.
  • the first user input may include at least one of an input for adding or deleting the object and an input for modifying gesture information for each object.
  • the first user input may include an input for setting the gesture information for each object based on an image.
  • control operation information may include information consisting of a pair of information on the external electronic device and a control operation for controlling the corresponding external electronic device.
  • the second user input may include at least one of an input for adding or deleting the external electronic device and an input for correcting a control operation of the external electronic device.
  • the method may further include storing second routine data including the modified control condition information and the modified control operation information in the electronic device.
  • the server that stores and analyzes data is at least one external recognition device (eg, FIG. 3 ) control instructing an operation of collecting first data acquired by the at least one external recognition device from the external recognition device 310 of A first routine including operation information (eg, control operation information 530 of FIG. 5 ) and control condition information indicating a condition for executing the control operation information (eg, control condition information 510 of FIG. 5 ) generate and store data (eg, the first routine data 500 of FIG. 5 ), transmit the stored first routine data to an electronic device, receive second routine data from the electronic device, The first routine data may be updated in response to the second routine data.
  • operation information eg, control operation information 530 of FIG. 5
  • control condition information indicating a condition for executing the control operation information eg, control condition information 510 of FIG. 5
  • data eg, the first routine data 500 of FIG. 5
  • the first routine data may be updated in response to the second routine data.
  • control condition information includes object information (eg, object information 511 of FIG. 5 ), gesture information for each object (eg, gesture information 513 of FIG. 5 ), and external recognition. It may include at least one of information acquired from the device (eg, information 515 acquired from the external recognition device of FIG. 5 ).
  • the server collects second data acquired by the at least one external recognition device, and the second data is acquired from the external recognition device included in the control condition information of the second routine data.
  • the at least one external electronic device may be controlled based on the control operation information of the second routine data.
  • the second data when the second data satisfies information obtained from an external recognition device included in the control condition information of the second routine data, the second data matches the gesture information for each object.
  • Electronic devices may be devices of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart bracelet
  • first”, “second”, or “first”, “second” may simply be used to distinguish the component from other such components, and refer to the component in another aspect (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module may include a unit implemented in hardware, software, or firmware, and may be used interchangeably with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed component or a minimum unit or a part of the component that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • one or more stored in a storage medium eg, the internal memory 136 or the external memory 138 readable by a machine (eg, the electronic device 101 ) It may be implemented as software (eg, program 140) including instructions.
  • the processor eg, the processor 120
  • the device may call at least one of one or more instructions stored from a storage medium and execute it. This makes it possible for the device to be operated to perform at least one function according to the called at least one command.
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term refers to the case where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly, online between smartphones (eg: smartphones).
  • a part of the computer program product may be temporarily stored or temporarily generated in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component eg, a module or a program of the above-described components may include a singular or a plurality of entities.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, omitted, or , or one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Tourism & Hospitality (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Business, Economics & Management (AREA)
  • Environmental Sciences (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Biophysics (AREA)
  • Animal Husbandry (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Data Mining & Analysis (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

전자 장치에 있어서, 디스플레이; 명령어들이 저장되는 메모리; 및 상기 디스플레이 및 상기 메모리와 전기적으로 연결되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는 상기 저장된 명령어들의 실행 시, 외부 서버로부터 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하고, 상기 제어 조건 정보를 표시하도록 상기 디스플레이를 제어하고 상기 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 상기 제어 조건 정보를 수정하며, 상기 제어 동작 정보를 표시하도록 상기 디스플레이를 제어하고 상기 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 상기 제어 동작 정보를 수정하고, 상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 외부 서버로 전송하도록 구성된 전자 장치가 개시된다. 이 외에도 본 문서를 통해 파악되는 다양한 실시 예들이 가능하다.

Description

외부 전자 장치를 제어하는 방법 및 그 전자 장치
본 문서에 개시되는 다양한 실시 예들은 외부 전자 장치를 제어하는 방법 및 그 전자 장치에 관한 것이다.
최근 멀티미디어 기술이 발전하면서 다양한 기능을 갖는 전자 장치들이 등장하고 있으며 이러한 전자 장치들은 하나 또는 그 이상의 기능을 복합적으로 수행하는 컨버젼스 기능을 갖는 것이 일반적이다.
전자 장치들로는 소위 '스마트 폰'이라는 이동 단말기가 주류를 이루고 있는데, 특히 이러한 이동 단말기는 대화면 터치 방식의 디스플레이 모듈을 구비하고 있으며 상대방과의 통신이라는 기본적인 기능 이외에 음악, 동영상 등 멀티미디어 콘텐츠를 재생할 수 있고 다양한 기능을 복합적으로 수행할 할 수 있다.
모니터링 시스템 기술은, 반려 동물, 아기, 장애인 등의 상대적으로 의사소통이 어려운 객체의 정보를 파악하고 적시에 적절한 조치를 취하기 위하여, 이들의 움직임이나 위치 등의 정보를 실시간으로 모니터링하고 사용자에게 즉시 알려줄 수 있다.
전자 장치는 이러한 모니터링 기능을 구비함으로써 사용자 없이도 동작할 수 있는 TV, 에어컨, 냉장고, 컴퓨터, 프린터 등과 같은 가전기기와, 사무기기는 물론 산업용 전자장비 등을 포함하는 외부 전자 장치를 주기적으로 주시하고 상황을 판단하여 이들을 제어할 수 있다.
종래의 반려 동물 등의 객체를 모니터링하고 외부 전자 장치를 제어하는 전자 장치의 경우, 사용자가 객체의 움직임이나 제스처를 인식하여 상황을 파악하고 직접 외부 전자 장치를 제어해야 하기 때문에 객체의 움직임이나 제스처를 지속적으로 주시해야만 하는 문제점 및/또는 불편함이 존재하였다. 또한, 사용자의 판단 없이 전자 장치가 자동으로 움직임이나 제스처를 인식하고 외부 전자 장치를 제어할 수 있다고 하더라도, 기 설정된 외부 전자 장치 제어 알고리즘을 업데이트 할 수 있는 기능이 부재하였으므로 기 설정된 제어 알고리즘의 불완전함을 보완할 수 있는 방법이 없었다.
본 문서에 개시된 다양한 실시 예들은, 사용자가 객체를 주시하지 않더라도 전자 장치가 자동으로 객체의 움직임이나 제스처를 파악하고 외부 전자 장치를 제어하여 적절한 조치를 취할 수 있을 뿐만 아니라, 사용자가 직접 제스처의 세부 내용을 설정할 수 있게 함으로써 자동 제스처 인식의 불완전함을 보완할 수 있는 전자 장치를 제공할 수 있다.
일 실시 예에 따른 전자 장치는, 디스플레이; 명령어들이 저장되는 메모리; 상기 디스플레이 및 상기 메모리와 전기적으로 연결되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는 상기 저장된 명령어들의 실행 시: 외부 서버로부터 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하고, 상기 제어 조건 정보를 표시하도록 상기 디스플레이를 제어하고 상기 표시된 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 상기 제어 조건 정보를 수정하고, 상기 제어 동작 정보를 표시하도록 상기 디스플레이를 제어하고 상기 표시된 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 상기 제어 동작 정보를 수정하고, 상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 외부 서버로 전송하도록 구성될 수 있다.
일 실시 예에 따른 전자 장치의 외부 전자 장치를 제어하는 방법은, 외부 서버로부터 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하는 동작; 상기 제어 조건 정보를 표시하도록 상기 디스플레이를 제어하고, 상기 표시된 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 상기 제어 조건 정보를 수정하는 동작; 상기 제어 동작 정보를 표시하도록 상기 디스플레이를 제어하고, 상기 표시된 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 상기 제어 동작 정보를 수정하는 동작; 및 상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 외부 서버로 전송하는 동작을 포함할 수 있다.
일 실시 예에 따른 데이터를 저장하고 분석하는 서버는, 적어도 하나의 외부 인식 장치로부터 상기 적어도 하나의 외부 인식 장치에 의해서 획득된 제1 데이터를 수집하고, 상기 수집된 제1 데이터를 분석하여 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 생성 및 저장하며, 상기 저장된 제1 루틴 데이터를 전자 장치로 송신하고, 상기 전자 장치로부터 제2 루틴 데이터를 수신하며, 상기 수신된 제2 루틴 데이터에 응답하여 상기 제1 루틴 데이터를 업데이트할 수 있다.
본 문서에 개시된 다양한 실시 예들에 따르면, 전자 장치가 외부 서버로부터 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제어 루틴 데이터를 수신함으로써 사용자가 객체의 움직임을 주시하지 않더라도 전자 장치가 자동으로 외부 장치를 제어하여 적절한 조치를 취할 수 있다.
본 문서에 개시된 다양한 실시 예들에 따르면, 제어 동작 정보 및 제어 조건 정보를 사용자가 직접 수정하거나 설정할 수 있도록 함으로써 자동 제스처 인식의 불완전함을 보완하고 제스처 인식의 정확성을 높일 수 있다.
본 문서에 개시된 다양한 실시 예들에 따르면, 객체 별 인식된 제스처와 이로 인한 외부 전자 장치의 제어 과정을 사용자에게 직관적으로 디스플레이 하는 UX 화면을 제공할 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 다양한 실시 예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시 예에 따른 프로그램을 예시하는 블록도이다.
도 3은 일 실시 예에 따른 전자 장치, 외부 서버, 및 외부 디바이스들의 관계를 예시하는 블록도이다.
도 4는 일 실시 예에 따른 전자 장치의 외부 전자 장치를 제어하는 방법을 설명하는 흐름도이다.
도 5는 일 실시 예에 따른 제1 루틴 데이터를 예시하는 블럭도이다.
도 6은 일 실시 예에 따른 제1 루틴 데이터를 설명하는 예시도이다.
도 7은 일 실시 예에 따른 제1 루틴 데이터의 제어 조건 정보를 수정하는 방법을 설명하는 예시도이다.
도 8은 일 실시 예에 따른 제1 루틴 데이터의 제어 동작 정보를 수정하는 방법을 설명하는 예시도이다.
도 9는 일 실시 예에 따른 전자 장치에서 제1 루틴 데이터를 수정하는 방법을 설명하는 예시도이다.
도 10은 일 실시 예에 따른 전자 장치에서 제스처 정보를 설정하는 방법을 설명하는 예시도이다.
도 11은 일 실시 예에 따른 전자 장치에서 제스처 정보에 따라 제2 루틴 데이터를 설정하는 방법을 설명하는 예시도이다.
도 12는 일 실시 예에 따른 전자 장치에서 설정된 제스처 정보를 확인하는 방법을 설명하는 예시도이다.
도 13은 일 실시 예에 따른 서버에서 루틴 데이터를 생성하는 방법을 설명하는 모식도이다.
도 14는 일 실시 예에 따른 서버에서 외부 인식 장치에서 획득된 정보에 기초하여 외부 전자 장치를 제어하는 방법을 설명하는 예시도이다.
도 15는 일 실시 예에 따른 서버에서 루틴 데이터를 업데이트 하는 방법을 설명하는 예시도이다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 첨부된 도면을 참조하여 본 문서에 개시된 다양한 실시 예들이 설명된다. 설명의 편의를 위하여 도면에 도시된 구성요소들은 그 크기가 과장 또는 축소될 수 있으며, 본 발명이 반드시 도시된 바에 의해 한정되는 것은 아니다.
도 1은 다양한 실시 예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 프로그램(140)을 예시하는 블록도(200)이다. 일 실시 예에 따르면, 프로그램(140)은 전자 장치(101)의 하나 이상의 리소스들을 제어하기 위한 운영 체제(142), 미들웨어(144), 또는 상기 운영 체제(142)에서 실행 가능한 어플리케이션(146)을 포함할 수 있다. 운영 체제(142)는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 프로그램(140) 중 적어도 일부 프로그램은, 예를 들면, 제조 시에 전자 장치(101)에 프리로드되거나, 또는 사용자에 의해 사용 시 외부 전자 장치(예: 전자 장치(102 또는 104), 또는 서버(108))로부터 다운로드되거나 갱신될 수 있다.
운영 체제(142)는 전자 장치(101)의 하나 이상의 시스템 리소스들(예: 프로세스, 메모리, 또는 전원)의 관리(예: 할당 또는 회수)를 제어할 수 있다. 운영 체제(142)는, 추가적으로 또는 대체적으로, 전자 장치(101)의 다른 하드웨어 디바이스, 예를 들면, 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 구동하기 위한 하나 이상의 드라이버 프로그램들을 포함할 수 있다.
미들웨어(144)는 전자 장치(101)의 하나 이상의 리소스들로부터 제공되는 기능 또는 정보가 어플리케이션(146)에 의해 사용될 수 있도록 다양한 기능들을 어플리케이션(146)으로 제공할 수 있다. 미들웨어(144)는, 예를 들면, 어플리케이션 매니저(201), 윈도우 매니저(203), 멀티미디어 매니저(205), 리소스 매니저(207), 파워 매니저(209), 데이터베이스 매니저(211), 패키지 매니저(213), 커넥티비티 매니저(215), 노티피케이션 매니저(217), 로케이션 매니저(219), 그래픽 매니저(221), 시큐리티 매니저(223), 통화 매니저(225), 또는 음성 인식 매니저(227)를 포함할 수 있다.
어플리케이션 매니저(201)는, 예를 들면, 어플리케이션(146)의 생명 주기를 관리할 수 있다. 윈도우 매니저(203)는, 예를 들면, 화면에서 사용되는 하나 이상의 GUI 자원들을 관리할 수 있다. 멀티미디어 매니저(205)는, 예를 들면, 미디어 파일들의 재생에 필요한 하나 이상의 포맷들을 파악하고, 그 중 선택된 해당하는 포맷에 맞는 코덱을 이용하여 상기 미디어 파일들 중 해당하는 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(207)는, 예를 들면, 어플리케이션(146)의 소스 코드 또는 메모리(130)의 메모리의 공간을 관리할 수 있다. 파워 매니저(209)는, 예를 들면, 배터리(189)의 용량, 온도 또는 전원을 관리하고, 이 중 해당 정보를 이용하여 전자 장치(101)의 동작에 필요한 관련 정보를 결정 또는 제공할 수 있다. 일 실시 예에 따르면, 파워 매니저(209)는 전자 장치(101)의 바이오스(BIOS: basic input/output system)(미도시)와 연동할 수 있다.
데이터베이스 매니저(211)는, 예를 들면, 어플리케이션(146)에 의해 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(213)는, 예를 들면, 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다. 커넥티비티 매니저(215)는, 예를 들면, 전자 장치(101)와 외부 전자 장치 간의 무선 연결 또는 직접 연결을 관리할 수 있다. 노티피케이션 매니저(217)는, 예를 들면, 지정된 이벤트(예: 착신 통화, 메시지, 또는 알람)의 발생을 사용자에게 알리기 위한 기능을 제공할 수 있다. 로케이션 매니저(219)는, 예를 들면, 전자 장치(101)의 위치 정보를 관리할 수 있다. 그래픽 매니저(221)는, 예를 들면, 사용자에게 제공될 하나 이상의 그래픽 효과들 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다.
시큐리티 매니저(223)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 통화(telephony) 매니저(225)는, 예를 들면, 전자 장치(101)에 의해 제공되는 음성 통화 기능 또는 영상 통화 기능을 관리할 수 있다. 음성 인식 매니저(227)는, 예를 들면, 사용자의 음성 데이터를 서버(108)로 전송하고, 그 음성 데이터에 적어도 일부 기반하여 전자 장치(101)에서 수행될 기능에 대응하는 명령어(command), 또는 그 음성 데이터에 적어도 일부 기반하여 변환된 문자 데이터를 서버(108)로부터 수신할 수 있다. 일 실시 예에 따르면, 미들웨어(244)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. 일 실시 예에 따르면, 미들웨어(144)의 적어도 일부는 운영 체제(142)의 일부로 포함되거나, 또는 운영 체제(142)와는 다른 별도의 소프트웨어로 구현될 수 있다.
어플리케이션(146)은, 예를 들면, 홈(251), 다이얼러(253), SMS/MMS(255), IM(instant message)(257), 브라우저(259), 카메라(261), 알람(263), 컨택트(265), 음성 인식(267), 이메일(269), 달력(271), 미디어 플레이어(273), 앨범(275), 와치(277), 헬스(279)(예: 운동량 또는 혈당과 같은 생체 정보를 측정), 또는 환경 정보(281)(예: 기압, 습도, 또는 온도 정보 측정) 어플리케이션을 포함할 수 있다. 일 실시 예에 따르면, 어플리케이션(146)은 전자 장치(101)와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션(미도시)을 더 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치로 지정된 정보 (예: 통화, 메시지, 또는 알람)를 전달하도록 설정된 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하도록 설정된 장치 관리 어플리케이션을 포함할 수 있다. 노티피케이션 릴레이 어플리케이션은, 예를 들면, 전자 장치(101)의 다른 어플리케이션(예: 이메일 어플리케이션(269))에서 발생된 지정된 이벤트(예: 메일 수신)에 대응하는 알림 정보를 외부 전자 장치로 전달할 수 있다. 추가적으로 또는 대체적으로, 노티피케이션 릴레이 어플리케이션은 외부 전자 장치로부터 알림 정보를 수신하여 전자 장치(101)의 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치(101)와 통신하는 외부 전자 장치 또는 그 일부 구성 요소(예: 표시 장치(160) 또는 카메라 모듈(180))의 전원(예: 턴-온 또는 턴-오프) 또는 기능(예: 표시 장치(160) 또는 카메라 모듈(180)의 밝기, 해상도, 또는 포커스)을 제어할 수 있다. 장치 관리 어플리케이션은, 추가적으로 또는 대체적으로, 외부 전자 장치에서 동작하는 어플리케이션의 설치, 삭제, 또는 갱신을 지원할 수 있다.
도 3은 일 실시 예에 따른 전자 장치, 외부 서버, 및 외부 디바이스들의 관계를 예시하는 블록도이다. 도 3을 참조하면, 전자 장치(330)(예: 도 1의 전자 장치(101))와 외부 디바이스들(도 3의 외부 인식 장치(310) 또는 외부 전자 장치(340))은 외부 서버(예: 도 1의 서버(108))와 유선 또는 무선 통신을 이용하여 정보를 송신하거나 수신할 수 있으며 상호 간의 동작을 제어할 수 있다. 일 실시 예에 따르면, 외부 인식 장치(310)는 객체들의 움직임 정보를 포함하는 정보를 획득할 수 있으며 외부 인식 장치(310)로부터 획득된 정보를 외부 서버(320)로 전송할 수 있다. 외부 서버(320)는 외부 인식 장치(310)로부터 수신된 정보를 수집하고 가공하여 저장할 수 있으며 외부 서버(320)에서 가공된 정보를 전자 장치(330)로 전송할 수 있다. 일 실시 예에 따르면, 전자 장치(330)는 외부 서버(320)로부터 수신된 정보를 사용자 설정에 따라 수정할 수 있고 전자 장치(330)에서 수정된 정보를 다시 외부 서버(320)로 전송할 수 있다. 일 실시 예에 따르면, 외부 서버(320)는 전자 장치(330)로부터 수신된 정보를 수집하여 기 저장된 정보를 업데이트할 수 있고 수신된 정보에 응답하여 외부 전자 장치(340)의 동작을 제어할 수 있다.
외부 인식 장치(310), 외부 서버(320), 전자 장치(330), 및 외부 전자 장치(340) 사이의 정보 송수신은 상기 기재된 방식에 한정되는 것은 아니며, 외부 서버(320)를 통하지 않고서도 정보를 송신하거나 수신 받을 수 있다. 예를 들면, 외부 인식 장치(310)는 획득된 정보를 전자 장치(330)로 바로 전송할 수 있으며, 전자 장치(330)는 수신된 정보를 직접 가공할 수 있고 수신된 정보를 외부 서버(320)로 전송할 수 있으며 외부 인식 장치(310)로부터 수신된 정보에 응답하여 외부 전자 장치(340)의 동작을 직접 제어할 수 있다.
일 실시 예에 따르면, 외부 인식 장치(310)는 객체의 움직임 정보, 음성정보, 위치 정보 등을 획득할 수 있는 장치일 수 있으며 예를 들면 카메라, 근전도 측정기, 위치 센서 등을 포함할 수 있다. 외부 인식 장치(310)가 인식하는 대상인 객체는 의사 소통이 어려운 대상일 수 있으며 예를 들면 반려 동물, 아기, 장애인, 고령자 등을 포함할 수 있다. 일 실시 예에 따르면, 외부 인식 장치(310)는 객체에 부착될 수 있으며 실내 공간의 일정 위치에 설치되거나 실내 공간 내 위치하는 가구나 전자 제품 등에 설치될 수 있다. 일 실시 예에 따르면, 외부 인식 장치(310)는 객체 별 움직임 정보, 음성정보, 위치 정보 등의 정보를 획득할 수 있을 뿐만 아니라 위치에 따른 움직임 정보, 위치에 따른 음성 정보 등의 연계된 정보를 획득할 수 있다. 예를 들면, 외부 인식 장치(310) 중 카메라는 아기가 정지해 있다가 움직이는 것을 인식할 수 있으며 외부 인식 장치(310) 중 위치 센서는 아기가 아기 방의 흔들 침대에 있는 것을 인식할 수 있고, 이들의 정보를 연계하여 아기가 흔들 침대에서 정지해 있다가 움직인다는 정보를 획득할 수 있다. 외부 서버(320)는 상기의 연계된 정보를 분석하여 아기가 잠에서 깨어났다는 제스처로 식별할 수 있으며 이를 통하여 제스처 식별 과정의 정확성을 높일 수 있다.
일 실시 예에 따르면, 외부 서버(320)는 외부 인식 장치(310), 전자 장치(330), 및 외부 전자 장치(340)와 유선 또는 무선 통신 회로를 이용하여 정보를 송신하거나 수신할 수 있다. 일 실시 예에 따르면, 외부 서버(320)는 수신된 정보를 수집하고 분석하여 저장할 수 있고 저장된 정보를 업데이트할 수 있으며 수신된 정보의 DB를 구축하거나 기계 학습 모델을 이용하여 스스로 분석 과정을 학습할 수 있다. 일 실시 예에 따르면, 외부 서버(320)는 수신된 정보를 분석하여, 적어도 하나의 외부 전자 장치(340)를 제어하는 동작을 지시하는 제어 동작 정보 및 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터로 가공할 수 있다. 제어 조건 정보, 제어 동작 정보, 및 제1 루틴 데이터는 후술하여 자세히 설명한다.
일 실시 예에 따르면, 전자 장치(330)는 디스플레이(331), 메모리(332), 및 프로세서(333)를 포함하여 구성될 수 있다. 전자 장치(330)의 구성이 이에 한정되는 것은 아니며 일 실시 예에 따르면, 전자 장치(330)는 상술한 구성 요소들 중 적어도 하나를 생략하거나 적어도 하나의 다른 구성 요소를 더 포함할 수 있다. 예를 들면, 전자 장치(330)는 통신 회로를 더 포함하여 구성될 수 있다.
일 실시 예에 따르면, 디스플레이(331)(예: 도 1의 표시 장치(160))는 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)를 표시할 수 있다. 디스플레이(331)는 터치스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체 일부를 이용한 터치, 제스처, 근접 또는 호버링(hovering) 입력을 수신할 수 있다. 일 실시 예에 따르면, 디스플레이(331)는 외부 서버(320)로부터 수신된 제어 조건 정보 또는 제어 동작 정보를 화면에 출력할 수 있으며, 제어 조건 정보 또는 제어 동작 정보에 대한 사용자의 입력에 대응하여 사용자의 입력을 화면에 표시할 수 있다.
일 실시 예에 따르면, 디스플레이(331)는 직사각형 형태의 화면을 제공할 수 있다. 그러나 디스플레이(331)가 제공하는 화면의 형태는 직사각형으로 제한되지 않으며 전자 장치의 종류나 디자인에 따라 모서리가 둥근 사각형, 원형, 노치 영역을 가지는 사각형, 일부 영역에 원형 홀을 가지는 사각형 등을 포함할 수 있다. 본 문서에서는 설명의 편의상 디스플레이(331)가 사각형의 형태를 가지고 디스플레이의 가로 방향을 기준으로 사용자의 입력이 입력되는 상황을 가정하지만, 다양한 변형이 가능하다. 예를 들어, 디스플레이의 세로 방향을 기준으로 사용자의 입력이 입력되는 상황에도 본 문서에 개시된 실시 예들이 적용될 수 있다.
일 실시 예에 따르면, 메모리(332)(예: 도 1의 메모리(130))는 전자 장치(330)의 적어도 하나의 구성요소에 의해 사용되는 다양한 데이터를 저장할 수 있다. 일 실시 예에 따르면, 메모리(332)는 제1 루틴 데이터를 수신하고 수정하여 제2 루틴 데이터를 구성하도록 다양한 데이터를 저장할 수 있으며 제어 조건 정보 및 제어 조건 정보에 따라 외부 전자 장치(340)를 제어하는 제어 동작 정보와 관련된 적어도 하나의 명령어를 저장할 수 있다.
일 실시 예에 따르면, 프로세서(333)(예: 도 1의 프로세서(120))는 전자 장치(330)의 적어도 하나의 다른 구성요소를 제어할 수 있고 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 프로세서(333)는 디스플레이(331) 및 메모리(332)와 전기적으로 연결될 수 있고 메모리(332)에 저장된 명령어들을 실행할 수 있다. 일 실시 예에 따르면, 프로세서(333)는 제1 루틴 데이터를 수신하고 수정하여 제2 루틴 데이터를 구성하도록 설정된 적어도 하나의 명령어를 실행할 수 있다. 프로세서(333)에 의해 상기 명령어가 실행됨으로써 전자 장치(330)는 명령어에 해당하는 기능을 수행할 수 있다.
일 실시 예에 따르면, 프로세서(333)는 명령어를 실행시킴으로써, 외부 서버로부터 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하고, 제어 조건 정보를 표시하도록 디스플레이를 제어하고 표시된 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 제어 조건 정보를 수정하며, 제어 동작 정보를 표시하도록 디스플레이를 제어하고 표시된 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 제어 동작 정보를 수정하고, 수정된 제어 조건 정보 및 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 외부 서버로 전송하도록 제어할 수 있다.
일 실시 예에 따르면, 전자 장치(330)는 외부 인식 장치(310), 외부 서버(320), 또는 외부 전자 장치(340) 사이의 통신을 지원하는 통신 회로를 더 포함하여 구성될 수 있다. 일 실시 예에 따르면, 통신 회로는 외부 인식 장치(310), 외부 서버(320), 또는 외부 전자 장치(340)로부터 데이터를 수신하거나 송신할 수 있다.
도 4는 일 실시 예에 따른 전자 장치(330)의 외부 전자 장치(340)를 제어하는 방법을 설명하는 흐름도이다. 도 4의 동작은 도 3의 전자 장치(330)에 의해 수행될 수 있다. 도 4를 참조하면, 일 실시 예에 따른 전자 장치(330)의 프로세서(333)는 외부 서버(320)로부터 적어도 하나의 외부 전자 장치(340)를 제어하는 동작을 지시하는 제어 동작 정보 및 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하는 동작(410), 제어 조건 정보를 표시하도록 디스플레이(331)를 제어하고 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 제어 조건 정보를 수정하는 동작(430), 제어 동작 정보를 표시하도록 디스플레이(331)를 제어하고, 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 제어 동작 정보를 수정하는 동작(450) 및 수정된 제어 조건 정보와 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 외부 서버(320)로 전송하는 동작(470)을 수행할 수 있다.
일 실시 예에 따른 프로세서(333)는, 동작 410에서 외부 서버(320)로부터 적어도 하나의 외부 전자 장치(340)를 제어하는 동작을 지시하는 제어 동작 정보 및 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신할 수 있다. 이하 도 5를 참조하여 제어 조건 정보, 제어 동작 정보, 및 제1 루틴 데이터에 대하여 자세히 설명한다.
도 5는 일 실시 예에 따른 제1 루틴 데이터를 예시하는 블럭도이다. 도 5를 참조하면, 제1 루틴 데이터(500)는 제어 조건 정보(IF)(510)와 제어 동작 정보(THAT)(530)를 포함할 수 있고, 제어 조건 정보(IF)(510)는 객체 정보(511)와 제스처 정보(513)와 외부 인식 장치로부터 획득된 정보(515)를 포함할 수 있으며, 제어 동작 정보(THAT)(530)는 외부 전자 장치 정보(531)와 제어 동작(533)을 포함할 수 있다. 제어 조건 정보(IF)(510)를 구성하는 객체 정보(511)는 객체 집단 중에서 하나 이상의 객체를 식별하는 정보를 포함할 수 있고, 제어 동작 정보(THAT)(530)를 구성하는 외부 전자 장치 정보(531)는 제어 동작의 대상이 되는 외부 전자 장치에 대한 정보를 포함할 수 있다.
상술한 제1 루틴 데이터에서 루틴 데이터는, 적어도 하나의 외부 인식 장치(310)로부터 획득된 데이터를 분석하여 생성된 제어 조건 정보(510)와 이에 대응되는 제어 동작 정보(530)의 쌍으로 구성된 데이터로써, 외부 인식 장치(310)로부터 획득된 데이터가 루틴 데이터의 제어 조건 정보(510)에 포함된 외부 인식 장치로부터 획득된 정보(515)를 만족하는 경우 루틴 데이터의 제어 동작 정보(530)에 기초하여 적어도 하나의 외부 전자 장치(340)를 제어하도록 구성된 데이터일 수 있다.
일 실시 예에 따른 객체 정보(511)가 나타내는 객체는 외부 인식 장치(310)가 정보(예: 움직임 정보, 위치 정보)를 획득하는 대상을 의미할 수 있다. 예를 들어, 객체는 의사 소통이 어려운 대상일 수 있으며 객체에는 반려 동물, 아기, 장애인, 또는 고령자가 포함될 수 있다. 일 실시 예에 따른 제스처 정보(513)는 외부 인식 장치로부터 획득된 정보(515)를 분석하여 가공된 정보일 수 있으며 객체 별 행동 관련 정보를 포함할 수 있다. 일 실시 예에 따른 외부 인식 장치로부터 획득된 정보(515)는 외부 인식 장치(310)인 카메라, 근전도 측정기, 위치 센서 등으로부터 획득된 정보로써, 객체 정보(511)의 객체 별 움직임 정보, 음성 정보, 위치 정보, 위치에 따른 움직임 정보, 및 위치에 따른 음성 정보 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 외부 인식 장치로부터 획득된 정보(515)는 외부 인식 장치(310)로부터 입력 받은 데이터(예: 객체의 위치 정보, 객체의 움직임 정보)를 분석한 정보이고, 제스처 정보(515)는 외부 인식 장치로부터 획득된 정보(515)에 대응되는 객체의 행동 또는 상태일 수 있다. 예를 들면, 인식 장치로부터 획득된 정보(515)는 강아지가 대변 패드에서 주저 앉는 움직임 정보이고, 이에 대응되는 제스처 정보(513)는 강아지가 대변을 보는 제스처일 수 있다. 다른 예를 들면, 외부 인식 장치로부터 획득된 정보(515)는 할아버지가 화장실에서 일정 시간 이상 움직임 없이 정지해 있는 정보이고, 이에 대응되는 제스처 정보(513)는 할아버지가 쓰러진 제스처일 수 있다.
일 실시 예에 따르면, 외부 전자 장치 정보(531)에서 외부 전자 장치는 제어 동작의 대상으로써 전자 제품 또는 가전 제품일 수 있으며, 예를 들면 반려 동물 장난감(pet toy), 반려 동물 먹이 장치(feeder), 공기 청정기, 흔들 침대, 스마트 홈 스피커, 스마트 홈 카메라, 또는 스마트 폰을 포함할 수 있다. 일 실시 예에 따른 제어 동작(533)은 외부 전자 장치 정보(531)를 구성하는 개별 외부 전자 장치(340)를 제어하는 동작일 수 있으며, 예를 들면 외부 전자 장치(340)의 전원을 켜거나 끄는 동작 또는 외부 전자 장치(340)의 기 설정된 기능을 실행하는 동작을 포함할 수 있다.
일 실시 예에 따른 제어 동작 정보(THAT)(530)는 외부 전자 장치 정보(531)와 외부 전자 장치 정보(531)가 지시하는 적어도 하나의 외부 전자 장치(340)를 제어하는 제어 동작(533)으로 구성될 수 있다. 예를 들면, 제어 동작 정보(THAT)(530)를 구성하는 제어 동작(533)은 반려 동물 장난감(pet toy)의 전원을 켜는 동작, 공기 청정기의 전원을 켜는 동작, 또는 스마트 폰의 알람 기능을 실행하는 동작을 포함할 수 있다.
제1 루틴 데이터(500)는 제어 조건 정보(IF)(510)와 이에 대응되는 제어 동작 정보(THAT)(530)의 셋(set)으로 구성될 수 있다. 이하 도 6을 이용하여, 제1 루틴 데이터(500)의 구성에 대하여 자세히 설명한다.
도 6은 일 실시 예에 따른 제1 루틴 데이터(500)를 설명하는 예시도이다. 도 6을 참조하면, 일 실시 예에 따른 제1 루틴 데이터(500)는 target type과 target name으로 구성된 객체 정보(511), main trigger type과 main trigger name으로 구성된 제스처 정보(513), sub trigger type과 sub trigger name으로 구성된 외부 인식 장치로부터 획득된 정보(515)를 포함하는 제어 조건 정보(IF)(510)와 object로 구성된 외부 전자 장치 정보(531)와 object's action으로 구성된 제어 동작(533)을 포함하는 제어 동작 정보(THAT)(530)의 셋(set)으로 구성될 수 있다. 도 6을 참조하면, 제어 조건 정보(IF)(510)를 구성하는 객체 정보(511)의 객체는 강아지, 고양이, 아기, 할아버지이고(603), 제스처 정보(513)는 강아지가 원을 도는 동작, 강아지가 대변보는 동작, 고양이가 앉아 있는 동작, 아기가 뒤척이며 뒤집는 동작, 또는 할아버지가 쓰러진 동작일 수 있다(605). 도 6을 참조하여 예를 들면, 제어 조건 정보(IF)(510)와 이에 대응되는 제어 동작 정보(THAT)(530)의 셋(set)은, 고양이가 부엌에 앉아서 우는 제어 조건 정보(607)와 이에 대응되는 반려 동물 먹이 장치(feeder)의 전원이 켜지고 먹이를 주는 동작(609) 및 공기 청정기가 조용해지는 동작(611)의 제어 동작 정보일 수 있다.
다시 도 4를 참조하면, 일 실시 예에 따른 프로세서(333)는 동작 430에서 제어 조건 정보(510)를 표시하도록 디스플레이(331)를 제어하고 표시된 제어 조건 정보(510)에 대한 제1 사용자 입력에 응답하여 제어 조건 정보(510)를 수정할 수 있다. 이하 도 7을 참조하여 제어 조건 정보(510)의 수정 과정을 설명한다.
도 7은 일 실시 예에 따른 제1 루틴 데이터(500)의 제어 조건 정보(510)를 수정하는 방법을 설명하는 예시도이다. 일 실시 예에 따르면, 외부 서버(320)는 제1 루틴 데이터를 생성할 수 있다(701). 예를 들면, 외부 서버(320)는 외부 인식 장치(310)로부터 획득된 정보로서 인식 대상에 대한 영상을 분석하여 인식 대상의 행동을 인식할 수 있다. 외부 서버(320)는 인식 대상의 행동을 기계 학습 알고리즘을 이용하여 학습함으로써 인식 대상의 행동 패턴(예: 동물-개가 뒷발을 차는 행동을 하는 경우, 이후에 배변을 하는 패턴)을 예측할 수 있다. 외부 서버(320)는 예측된 행동 패턴과 외부 서버(320)에 기 저장된 루틴 데이터를 비교할 수 있다. 외부 서버(320)는 예측된 행동 패턴에 매칭되는 기 저장된 루틴 데이터가 없는 경우, 예측된 행동 패턴에 상응하는 제어 대상이 되는 객체(예: 공기 정화기)의 제어 동작(예: 출력 변경)을 결정할 수 있다. 외부 서버(320)는 예측된 행동 패턴, 제어 대상이 되는 객체 및 제어 동작에 기초하여 사용자에게 추천될 제1 루틴 데이터를 생성할 수 있다. 다만, 상술한 외부 서버(320)가 제1 루틴 데이터를 생성하는 과정은 일 실시 예를 설명하기 위한 것이며, 실시 예에 따라서 변형될 수 있다. 예를 들어, 제1 루틴 데이터는 제어 조건 정보가 되는 행동 패턴은 포함하나 제어 동작 정보는 포함하지 않고 사용자의 입력에 의해 지정되도록 할 수도 있다.
도 7을 참조하면, 일 실시 예에 따른 프로세서(333)는 외부 서버(320)가 제1 루틴 데이터의 제어 조건 정보(510)를 추천하고자 하는 경우에 외부 서버(320)로부터 제어 조건 정보(510)를 수신할 수 있다. 예를 들어, 외부 서버(320)는 제1 루틴 데이터가 생성된 경우에, 프로세서(333)를 포함하는 전자 장치(예: 도 1의 전자 장치(101))로 푸시 메시지를 발송할 수 있다. 푸시 메시지에 대한 사용자 입력에 응답하여 외부 서버(320)로부터 제1 루틴 데이터의 제어 조건 정보(510)가 전자 장치에 수신되면, 제어 조건 정보(510)를 디스플레이하도록 전자 장치의 디스플레이(예: 도 3의 디스플레이(331))를 제어할 수 있다. 또는, 프로세서(333)는 전자 장치에 입력된 사용자 입력 또는 전자 장치에 지정된 설정(예: 추천 주기)에 응답하여 외부 서버(320)로 제어 조건 정보(510)의 추천을 요청하여 제1 루틴 데이터의 제어 조건 정보(510)를 수신할 수 있다(701). 일 실시 예에 따른 프로세서(333)는 사용자의 객체 소유 여부(702)에 따라 제어 조건 정보(510)에 포함된 객체를 확정(703)하거나, 사용자의 객체 대체물 소유 여부(704)에 따라 객체를 대체(705)하거나, 객체나 객체 대체물을 소유하지 않는 경우 객체를 제거(706)할 수 있다. 일 실시 예에 따른 프로세서(333)는 객체가 확정되거나 대체된 경우 기 설정된 제스처 정보를 사용할지 판단(707)할 수 있다. 프로세서(333)는 판단에 따라 객체의 제스처 정보를 수정(708)하여 제2 루틴 데이터에 반영(709)할 수 있다. 프로세서(333)는 수정된 제2 루틴 데이터를 외부 서버로 전송하고 저장(710)할 수 있다. 일 실시 예에 따르면, 상술한 701 내지 710 동작들은 제1 사용자 입력으로 전자 장치에 입력될 수 있고, 디스플레이(331)는 제1 사용자 입력에 응답하여 제어 조건 정보(510)가 수정되는 과정을 출력할 수 있다.
다시 도 4를 참조하면, 일 실시 예에 따른 프로세서(333)는 동작 450에서 제어 동작 정보(530)를 표시하도록 디스플레이(331)를 제어하고 제어 동작 정보(530)에 대한 제2 사용자 입력에 응답하여 제어 동작 정보(530)를 수정할 수 있다. 이하 도 8을 참조하여 제어 동작 정보(530)의 수정 과정을 설명한다.
도 8은 일 실시 예에 따른 제1 루틴 데이터(500)의 제어 동작 정보(530)를 수정하는 방법을 설명하는 예시도이다. 도 8을 참조하면, 일 실시 예에 따른 프로세서(333)는 외부 서버(320)로부터 제1 루틴 데이터의 제어 동작 정보(530)를 추천 받아 수신하거나 사용자가 지정하여 수신할 수 있다(801). 일 실시 예에 따른 프로세서(333)는 사용자의 외부 전자 장치 소유 여부(802)에 따라 외부 전자 장치를 확정(703)할 수 있고, 사용자의 외부 전자 장치 대체물 소유 여부(804)에 따라 외부 전자 장치를 대체(805)할 수 있으며, 외부 전자 장치나 외부 전자 장치 대체물을 소유하지 않는 경우 외부 전자 장치를 제거(806)할 수 있다. 일 실시 예에 따른 프로세서(333)는 외부 전자 장치가 확정되거나 대체된 경우 기 설정된 외부 전자 장치의 제어 동작을 사용할지 판단(807)할 수 있다. 프로세서(333)는 판단에 따라 외부 전자 장치의 제어 동작을 수정(808)하여 제2 루틴 데이터에 반영(809)할 수 있으며, 수정된 제2 루틴 데이터를 외부 서버로 전송하고 저장(810)할 수 있다. 일 실시 예에 따르면, 상기 801 내지 810 동작들은 제2 사용자 입력으로 전자 장치에 입력될 수 있고, 디스플레이(331)는 제2 사용자 입력에 응답하여 제어 동작 정보(530)가 수정되는 과정을 출력할 수 있다.
도 7 및 도 8과 관련된 예시를 도 9 내지 도 12를 참조하여 설명한다.
도 9는 일 실시 예에 따른 전자 장치(330)에서 제1 루틴 데이터(500)를 수정하는 방법을 설명하는 예시도이다. 도 9에서 910은 외부 서버(320)로부터 수신된 제1 루틴 데이터(500)를 디스플레이(331)에 표시한 예시이다. 화면 910을 참조하면, 일 실시 예에 따른 프로세서(333)는 외부 서버(320)로부터 제1 루틴 데이터(500)를 수신 받아 추천 탭(recommended)(911)에서 미리 보기 형식으로 표시(912 및 913) 할 수 있다. 일 실시 예에 따른 프로세서(333)는 제1 루틴 데이터(500)의 제어 조건 정보(510)의 내용과 제어 동작 정보(530)의 내용을 아이콘과 함께 간략하게 표시할 수 있다.
도 9에서 920은 제1 루틴 데이터(500)의 제어 조건 정보(510) 수정 과정을 디스플레이(331)에 표시한 예시이다. 일 실시 예에 따르면, 프로세서(333)는 제어 조건 정보(510)를 구성하는 제스처 정보(513) 및/또는 외부 인식 장치로부터 획득된 정보(515)의 내용을 아이콘과 함께 간략하게 표시할 수 있다. 화면 920을 참조하면, 일 실시 예에 따른 프로세서(333)는 플러스 아이콘(921)을 선택하는 입력에 대응하여 제어 조건 정보(510)의 세부 내용을 추가할 수 있으며 마이너스 아이콘(922)을 선택하는 입력에 대응하여 제어 조건 정보(520)의 세부 내용을 삭제할 수 있다. 프로세서(333)는 도 9의 화면 920에 대한 사용자 입력에 응답하여 제1 루틴 데이터의 제어 조건 정보(520)에 포함된 제스처 정보를 수정하는 동작(예: 도 7의 동작 708)을 수행할 수 있다.
도 9에서 930은 제1 루틴 데이터(500)의 제어 동작 정보(530) 수정 과정을 디스플레이(331)에 표시한 예시이다. 일 실시 예에 따르면, 프로세서(333)는 제어 동작 정보(530)를 구성하는 제어 동작(533)의 내용을 아이콘과 함께 간략하게 표시할 수 있다. 화면 930을 참조하면, 일 실시 예에 따른 프로세서(333)는 플러스 아이콘(931)을 선택하는 입력에 대응하여 제어 동작 정보(530)의 세부 내용을 추가할 수 있으며 마이너스 아이콘(932)을 선택하는 입력에 대응하여 제어 동작 정보(530)의 세부 내용을 삭제할 수 있다. 프로세서(333)는 도 9의 화면 930에 대한 사용자 입력에 응답하여 제1 루틴 데이터의 제어 동작 정보를 수정하는 동작(예: 도 8의 동작 808)을 수행할 수 있다.
도 9에서 940은 910 내지 930 동작들을 통해 수정된 제1 루틴 데이터(예: 제2 루틴 데이터)를 디스플레이(331)에 표시한 예시이다. 화면 940을 참조하면, 일 실시 예에 따른 프로세서(333)는 수정된 제1 루틴 데이터를 나의 루틴 탭(my routines)(941)에서 아이콘과 함께 표시(942) 할 수 있다. 일 실시 예에 따르면, 프로세서(333)는 on/off 아이콘(943)을 선택하는 입력에 대응하여 수정된 제1 루틴 데이터의 활성화 여부를 제어할 수 있다.
일 실시 예에 따르면, 프로세서(333)는 도 9의 910 내지 940 동작들을 통하여 제1 루틴 데이터(500)를 사용자 설정에 따라 수정하고 제2 루틴 데이터로 가공할 수 있다. 프로세서(333)가 제1 루틴 데이터(500)를 수정하는 과정을 디스플레이(331)에 출력하는 방식은 도 9에 기재된 실시 예에 한정되지 않으며 다양한 방식으로 표시될 수 있다.
도 10은 일 실시 예에 따른 전자 장치(330)에서 제스처 정보(513)를 설정하는 방법을 설명하는 예시도이다. 도 10에서 1010은 외부 인식 장치로부터 획득된 정보(515)를 디스플레이(331)에 표시한 예시이고, 1020은 제어 조건 정보(510)를 구성하는 외부 인식 장치로부터 획득된 정보(515)를 디스플레이(331)에 표시한 예시이다. 화면 1010을 참조하면, 일 실시 예에 따른 프로세서(333)는 외부 인식 장치로부터 획득된 정보(515)를 수신 받아 추천 탭(recommended)에서 미리 보기 형식으로 표시(1011) 할 수 있다. 일 실시 예에 따르면, 프로세서(333)는 외부 인식 장치로부터 획득된 정보(515)의 내용을 아이콘과 함께 간략하게 표시할 수 있다.
도 10에서 1030 및 1040은 외부 인식 장치로부터 획득된 정보(515)를 분석하여 제스처 정보(513)를 설정하는 과정을 디스플레이(331)에 표시한 예시이다. 화면 1030을 참조하면, 일 실시 예에 따른 프로세서(333)는 외부 인식 장치(310) 중 특히 카메라로부터 획득된 객체의 동영상 정보(1032)를 표시할 수 있으며, 객체의 동영상 정보(1032) 중 적어도 하나의 동영상을 재생할 수 있고, 불필요한 동영상을 삭제할 수 있다. 일 실시 예에 따르면, 프로세서(333)는 제스처 추가 아이콘(1031)을 선택하는 입력에 대응하여 객체의 동영상 정보(1032)를 하나의 제스처로 설정할 수 있으며, 설정된 제스처를 표시(1041)할 수 있다. 예를 들면, 프로세서(333)는 객체 중 강아지가 원을 그리며 도는 움직임 정보를 카메라로부터 획득한 경우, 획득된 정보를 취합하여 도는 행동(circling)의 제스처로 설정할 수 있다.
도 10에서 1050은 1010 내지 1040 동작들을 통해 설정된 제스처 정보를 디스플레이(331)에 표시한 예시이다. 예를 들면, 프로세서(333)는 설정된 강아지의 도는 행동(circling)의 제스처를 아이콘과 함께 간략하게 표시(1051)할 수 있다. 일 실시 예에 따르면, 프로세서(333)는 도 10의 1010 내지 1050 동작들을 통하여, 외부 전자 장치로부터 획득된 정보(515)에 대응되는 기 설정된 제스처 정보(513)가 없더라도 새로운 제스처 정보를 추가 설정할 수 있다. 프로세서(333)가 제스처 정보(513)를 설정하는 과정을 디스플레이(331)에 출력하는 방식은, 도 10에 기재된 실시 예에 한정되지 않으며 다양한 방식으로 표시될 수 있다.
도 11은 일 실시 예에 따른 전자 장치(330)에서 제스처 정보(513)에 따라 제2 루틴 데이터를 설정하는 방법을 설명하는 예시도이다. 일 실시 예에 따른 프로세서(333)는, 도 11의 화면 1110에서 플러스 아이콘을 선택하는 입력에 대응하여 제2 루틴 데이터를 설정할 수 있으며, 화면 1120에서 플러스 아이콘을 선택하는 입력에 대응하여 제2 루틴 데이터의 제어 조건 정보를 설정할 수 있다.
도 11에서 1130은 객체 정보(511)를 구성하는 객체를 디스플레이(331)에 표시한 예시이고, 1140은 화면 1130에서 선택된 개체의 제스처 정보(513)를 디스플레이(331)에 표시한 예시이다. 1150은 화면 1140에서 선택된 제스처 정보에 해당하는 제어 조건 정보(510)를 디스플레이(331)에 표시한 예시이고, 1160은 화면 1140에서 선택된 제스처 정보에 해당하는 제어 동작 정보(530)를 디스플레이(331)에 표시한 예시이다. 일 실시 예에 따른 프로세서(333)는, 도 11의 화면 1160에서 플러스 아이콘을 선택하는 입력에 대응하여 외부 전자 장치를 제어하는 제어 동작(533)을 추가할 수 있다(1170).
일 실시 예에 따르면, 프로세서(333)는 도 11의 1110 내지 1170 동작들을 통하여 사용자 설정에 따라 제2 루틴 데이터를 수정하거나 설정할 수 있다. 프로세서(333)가 제2 루틴 데이터를 수정하거나 설정하는 과정을 디스플레이(331)에 출력하는 방식은 도 11에 기재된 실시 예에 한정되지 않으며 다양한 방식으로 표시될 수 있다.
도 12는 일 실시 예에 따른 전자 장치(330)에서 설정된 제스처 정보를 확인하는 방법을 설명하는 예시도이다. 일 실시 예에 따른 프로세서(333)는, 도 12의 화면 1210에서 플러스 아이콘을 선택하는 입력에 대응하여 제2 루틴 데이터를 설정할 수 있다. 프로세서(333)는 화면 1220에서 플러스 아이콘을 선택하는 입력에 대응하여 제2 루틴 데이터의 제어 조건 정보를 설정할 수 있다. 프로세서(333)는 화면 1230에서 객체 리스트의 객체를 선택하는 입력에 대응하여 선택된 개체의 제스처 정보를 화면 1240에서 표시할 수 있다. 프로세서(333)는 화면 1240에서 화살표 아이콘(1241)을 선택하는 입력에 대응하여 제스처의 세부 내용(1251)을 화면 1250에서 표시할 수 있다.
일 실시 예에 따르면, 프로세서(333)는 도 12의 화면 1250에서, 사용자 설정에 따라 설정된 제스처의 세부 정보를 제2 루틴 데이터를 설정하기에 앞서 미리 표시할 수 있다. 프로세서(333)가 설정된 제스처의 세부 정보를 디스플레이(331)에 출력하는 방식은 1250에 기재된 실시 예에 한정되지 않으며 다양한 방식으로 표시될 수 있다.
다시 도 4를 참조하면, 일 실시 예에 따른 프로세서(333)는 동작 470에서 수정된 제어 조건 정보 및 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 외부 서버(320)로 전송할 수 있다. 일 실시 예에 따르면, 수정된 제어 조건 정보 및 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 전자 장치(330)의 메모리(332)에 저장할 수 있다.
일 실시 예에 따르면, 외부 서버(320)는 적어도 하나의 외부 인식 장치로부터 적어도 하나의 외부 인식 장치에 의해서 획득된 제1 데이터를 수집하고, 수집된 제1 데이터를 분석하여 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 생성 및 저장하며, 저장된 제1 루틴 데이터를 전자 장치로 송신하고, 전자 장치로부터 제2 루틴 데이터를 수신하며, 수신된 제2 루틴 데이터에 응답하여 제1 루틴 데이터를 업데이트할 수 있다.
일 실시 예에 따르면, 외부 서버(320)는 적어도 하나의 외부 인식 장치에 의해서 획득된 제2 데이터를 수집하고, 제2 데이터가 제2 루틴 데이터의 제어 조건 정보에 포함된 외부 인식 장치로부터 획득된 정보를 만족하는 경우 제2 루틴 데이터의 제어 동작 정보에 기초하여 적어도 하나의 외부 전자 장치를 제어할 수 있다. 상기 기재된 제2 데이터가 제2 루틴 데이터의 제어 조건 정보에 포함된 외부 인식 장치로부터 획득된 정보를 만족하는 경우는, 제2 데이터가 객체 별 제스처 정보에 매칭되는 경우일 수 있다.
서버와 관련된 예시를 도 13 내지 도 15를 참조하여 설명한다.
도 13은 일 실시 예에 따른 서버(예: 도 3의 외부 서버(320))에서 루틴 데이터를 생성하는 방법을 설명하는 모식도이다. 도 13의 방법은 도 3의 외부 서버(320)에 의해 수행될 수 있다. 도 13을 참조하면, 외부 인식 장치(310) 중 실내 카메라가 설치되고(1301) 카메라는 객체에 대한 정보를 획득할 수 있으며(1302), 외부 인식 장치(310) 중 센서가 설치되고(1303) 센서는 객체에 대한 정보를 획득할 수 있고(1304), 외부 서버(320)는 획득된 정보로부터 객체를 인식하여 객체 별 제스처 정보를 분석하고(1305) 루틴 데이터를 생성할 수 있으며(1306), 전자 장치(330)는 외부 서버(320)로부터 루틴 데이터를 수신 받을 수 있고(1307) 루틴 데이터를 수행하여 외부 전자 장치(340)를 제어할 수 있다(1308).
도 14는 일 실시 예에 따른 서버(예: 도 3의 외부 서버(320))에서 외부 인식 장치에서 획득된 정보에 기초하여 외부 전자 장치를 제어하는 방법을 설명하는 예시도이다. 도 14의 방법은 도 3의 외부 서버(320) 또는 전자 장치(330)에 의해 수행될 수 있다. 도 14에서 1410은 객체의 제스처에 따른 루틴 데이터를 실행하여 외부 전자 장치(340)를 제어한 상태를 디스플레이(331)에 표시한 예시이다. 1420은 외부 인식 장치(310)에서 수집된 데이터의 예시이다. 1430은 1420이 입력됨에 따라 변화된 객체의 제스처와 외부 전자 장치(340)의 제어 상태를 디스플레이(331)에 표시한 예시이다.
도 14를 참조하면, 일 실시 예에 따른 외부 서버(320)는 거실에서 사용자의 강아지인 초코가 휴식 중이라는 제스처를 식별하여 휴식 제스처에 대응하는 외부 전자 장치의 제어 동작을 수행할 수 있으며(1410), 외부 인식 장치로부터 획득된 초코가 뒷발을 찬다는 정보를 입력을 받으면(1420), 초코가 대변을 보는 제스처를 식별하여 식별된 제스처에 대응하는 외부 전자 장치의 제어 동작을 수행할 수 있다(1430). 상술한 동작들을 통하여, 외부 서버(320)는 거실의 공기청정기(air purifier)를 자동 모드에서 강력 모드로 제어하고, 로봇 장난감(robot toy)을 전원 off 모드에서 칭찬 모드로 제어하고, 자동 변기(auto toilet)를 전원 off 모드에서 전원 on 모드로 제어할 수 있다.
도 14를 참조하면, 일 실시 예에 따른 외부 서버(320)는 1430 이후에도 지속해서 외부 인식 장치로부터 획득된 정보(515)를 입력 받을 수 있으며 입력된 정보로부터 수행된 제어 동작(533)의 만족 여부를 판단할 수 있다. 일 실시 예에 따르면, 외부 서버(320)는 객체의 제스처 변화 여부를 판단하거나 객체의 표정을 분석함으로써 수행된 제어 동작의 만족 여부를 판단할 수 있다. 외부 서버(320)는 만족 여부 판단을 반영하여 루틴 데이터를 업데이트 할 수 있다. 예를 들어, 외부 서버(320)는 판단된 만족 여부에 기초하여 외부 서버(320)에 등록된 루틴 데이터의 외부 전자 장치 정보 및 제어 동작 중 적어도 하나를 수정하거나, 루틴 데이터의 외부 전자 장치 정보 및 제어 동작을 수정할 것을 제안하는 메시지를 전자 장치로 전송할 수 있다.
도 15는 일 실시 예에 따른 서버(예: 도 3의 외부 서버(320))에서 루틴 데이터를 업데이트 하는 방법을 설명하는 예시도이다. 도 15의 방법은 도 3의 외부 서버(320)에 의해 수행될 수 있다. 도 15를 참조하면, 일 실시 예에 따른 외부 서버(320)는 적어도 하나의 외부 인식 장치에 의해서 획득된 제1 데이터를 수집 할 수 있고(1501), 수집된 데이터를 분석하여(1502) 제1 루틴 데이터를 생성 및 저장할 수 있으며(1503), 저장된 제1 루틴 데이터를 전자 장치로 전송할 수 있고, 수정된 제1 루틴 데이터(1504)인 제2 루틴 데이터를 전자 장치로부터 수신 받을 수 있으며(1505), 수신된 제2 루틴 데이터를 분석하여(1506) 기 저장된 제1 루틴 데이터를 업데이트할 수 있고(1507), 업데이트된 루틴 데이터를 다시 전자 장치로 전송할 수 있다(1508). 도 15의 1501 내지 1508의 동작들을 통하여, 일 실시 예에 따른 외부 서버(320)는 다량의 데이터를 수집할 수 있으며 제1 루틴 데이터를 계속해서 업데이트하여 데이터 분석의 정확성을 높일 수 있다.
상술한 바와 같이, 일 실시 예에 따르면, 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(330))의 외부 전자 장치를 제어하는 방법은, 외부 서버로부터 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하는 동작(예: 도 4의 동작 410), 상기 제어 조건 정보를 표시하도록 상기 디스플레이를 제어하고 상기 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 상기 제어 조건 정보를 수정하는 동작(예: 도 4의 동작 430), 상기 제어 동작 정보를 표시하도록 상기 디스플레이를 제어하고 상기 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 상기 제어 동작 정보를 수정하는 동작(예: 도 4의 동작 450), 및 상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 외부 서버로 전송하는 동작(예: 도 4의 동작 470)을 포함할 수 있다.
일 실시 예에 따르면, 상기 제어 조건 정보(예: 도 5의 제어 조건 정보(510))는 객체 정보(예: 도 5의 객체 정보(511)), 객체 별 제스처(gesture) 정보(예: 도 5의 제스처 정보(513)), 및 외부 인식 장치로부터 획득된 정보(예: 도 5의 외부 인식 장치로부터 획득된 정보(515)) 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 외부 인식 장치로부터 획득된 정보는 상기 객체의 움직임 정보, 음성 정보, 위치 정보, 위치에 따른 움직임 정보, 및 위치에 따른 음성 정보 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 제1 사용자 입력은 상기 객체를 추가하거나 삭제하는 입력 및 상기 객체 별 제스처 정보를 수정하는 입력 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 제1 사용자 입력은 상기 객체 별 제스처 정보를 영상 기반으로 설정하는 입력을 포함할 수 있다.
일 실시 예에 따르면, 상기 제어 동작 정보는 상기 외부 전자 장치의 정보와 이에 대응하는 외부 전자 장치를 제어하는 제어 동작의 쌍으로 구성된 정보를 포함할 수 있다.
일 실시 예에 따르면, 상기 제2 사용자 입력은 상기 외부 전자 장치를 추가하거나 삭제하는 입력 및 상기 외부 전자 장치의 제어 동작을 수정하는 입력 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 전자 장치에 저장하는 동작을 더 포함할 수 있다.
상술한 바와 같이, 일 실시 예에 따르면, 데이터를 저장하고 분석하는 서버(예: 도 1의 서버(108) 또는 도 3의 외부 서버(320))는 적어도 하나의 외부 인식 장치(예: 도 3의 외부 인식 장치(310))로부터 상기 적어도 하나의 외부 인식 장치에 의해서 획득된 제1 데이터를 수집하고, 상기 수집된 제1 데이터를 분석하여 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보(예: 도 5의 제어 동작 정보(530)) 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보(예: 도 5의 제어 조건 정보(510))를 포함하는 제1 루틴 데이터(예: 도 5의 제1 루틴 데이터(500))를 생성 및 저장하며, 상기 저장된 제1 루틴 데이터를 전자 장치로 송신하고, 상기 전자 장치로부터 제2 루틴 데이터를 수신하며, 상기 수신된 제2 루틴 데이터에 응답하여 상기 제1 루틴 데이터를 업데이트할 수 있다.
일 실시 예에 따르면, 상기 제어 조건 정보는, 객체 정보(예: 도 5의 객체 정보(511)), 객체 별 제스처(gesture) 정보(예: 도 5의 제스처 정보(513)), 및 외부 인식 장치로부터 획득된 정보(예: 도 5의 외부 인식 장치로부터 획득된 정보(515)) 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 서버는, 상기 적어도 하나의 외부 인식 장치에 의해서 획득된 제2 데이터를 수집하고, 상기 제2 데이터가 상기 제2 루틴 데이터의 제어 조건 정보에 포함된 외부 인식 장치로부터 획득된 정보를 만족하는 경우 상기 제2 루틴 데이터의 제어 동작 정보에 기초하여 상기 적어도 하나의 외부 전자 장치를 제어할 수 있다.
일 실시 예에 따르면, 상기 제2 데이터가 상기 제2 루틴 데이터의 제어 조건 정보에 포함된 외부 인식 장치로부터 획득된 정보를 만족하는 경우는, 상기 제2 데이터가 상기 객체 별 제스처 정보에 매칭되는 것일 수 있다.
본 문서에 개시된 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째", "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시 예들은 기기(machine)(예: 전자 장치(101))에 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시 예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시 예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    명령어들이 저장되는 메모리;
    상기 디스플레이 및 상기 메모리와 전기적으로 연결되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는 상기 저장된 명령어들의 실행 시:
    외부 서버로부터 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하고,
    상기 제어 조건 정보를 표시하도록 상기 디스플레이를 제어하고, 상기 표시된 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 상기 제어 조건 정보를 수정하고,
    상기 제어 동작 정보를 표시하도록 상기 디스플레이를 제어하고, 상기 표시된 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 상기 제어 동작 정보를 수정하고,
    상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 외부 서버로 전송하도록 구성된 전자 장치.
  2. 청구항 1에 있어서, 상기 제어 조건 정보는,
    객체 정보, 객체 별 제스처(gesture) 정보, 및 외부 인식 장치로부터 획득된 정보 중 적어도 하나를 포함하는 전자 장치.
  3. 청구항 2에 있어서, 상기 외부 인식 장치로부터 획득된 정보는,
    상기 객체의 움직임 정보, 음성 정보, 위치 정보, 위치에 따른 움직임 정보, 및 위치에 따른 음성 정보 중 적어도 하나를 포함하는 전자 장치.
  4. 청구항 2에 있어서, 상기 제1 사용자 입력은,
    상기 객체를 추가하거나 삭제하는 입력 및 상기 객체 별 제스처 정보를 수정하는 입력 중 적어도 하나를 포함하는 전자 장치.
  5. 청구항 2에 있어서, 상기 제1 사용자 입력은,
    상기 객체 별 제스처 정보를 영상 기반으로 설정하는 입력을 포함하는 전자 장치.
  6. 청구항 1에 있어서, 상기 제어 동작 정보는,
    상기 외부 전자 장치의 정보와 이에 대응하는 외부 전자 장치를 제어하는 제어 동작의 쌍으로 구성된 정보를 포함하는 전자 장치.
  7. 청구항 6에 있어서, 상기 제2 사용자 입력은,
    상기 외부 전자 장치를 추가하거나 삭제하는 입력 및 상기 제어 동작을 수정하는 입력 중 적어도 하나를 포함하는 전자 장치.
  8. 청구항 1에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 메모리에 저장하도록 구성된 전자 장치.
  9. 전자 장치의 외부 전자 장치를 제어하는 방법에 있어서,
    외부 서버로부터 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 수신하는 동작;
    상기 제어 조건 정보를 표시하도록 상기 디스플레이를 제어하고, 상기 표시된 제어 조건 정보에 대한 제1 사용자 입력에 응답하여 상기 제어 조건 정보를 수정하는 동작;
    상기 제어 동작 정보를 표시하도록 상기 디스플레이를 제어하고, 상기 표시된 제어 동작 정보에 대한 제2 사용자 입력에 응답하여 상기 제어 동작 정보를 수정하는 동작; 및
    상기 수정된 제어 조건 정보 및 상기 수정된 제어 동작 정보를 포함하는 제2 루틴 데이터를 상기 외부 서버로 전송하는 동작을 포함하는 방법.
  10. 청구항 9에 있어서,
    상기 제어 조건 정보는, 객체 정보, 객체 별 제스처(gesture) 정보, 및 외부 인식 장치로부터 획득된 정보 중 적어도 하나를 포함하고,
    상기 외부 인식 장치로부터 획득된 정보는, 상기 객체의 움직임 정보, 음성 정보, 위치 정보, 위치에 따른 움직임 정보, 및 위치에 따른 음성 정보 중 적어도 하나를 포함하는 방법.
  11. 청구항 10에 있어서, 상기 제1 사용자 입력은,
    상기 객체를 추가하거나 삭제하는 입력 및 상기 객체 별 제스처 정보를 수정하는 입력 중 적어도 하나를 포함하는 방법.
  12. 청구항 10에 있어서, 상기 제1 사용자 입력은,
    상기 객체 별 제스처 정보를 영상 기반으로 설정하는 입력을 포함하는 방법.
  13. 청구항 9에 있어서, 상기 제어 동작 정보는,
    상기 외부 전자 장치의 정보와 이에 대응하는 외부 전자 장치를 제어하는 제어 동작의 쌍으로 구성된 정보를 포함하는 방법.
  14. 청구항 9에 있어서, 상기 제2 사용자 입력은,
    상기 외부 전자 장치를 추가하거나 삭제하는 입력 및 상기 제어 동작을 수정하는 입력 중 적어도 하나를 포함하는 방법.
  15. 데이터를 저장하고 분석하는 서버에 있어서,
    적어도 하나의 외부 인식 장치로부터 상기 적어도 하나의 외부 인식 장치에 의해서 획득된 제1 데이터를 수집하고,
    상기 수집된 제1 데이터를 분석하여 적어도 하나의 외부 전자 장치를 제어하는 동작을 지시하는 제어 동작 정보 및 상기 제어 동작 정보를 실행하도록 하는 조건을 지시하는 제어 조건 정보를 포함하는 제1 루틴 데이터를 생성 및 저장하며,
    상기 저장된 제1 루틴 데이터를 전자 장치로 송신하고,
    상기 전자 장치로부터 제2 루틴 데이터를 수신하며,
    상기 수신된 제2 루틴 데이터에 응답하여 상기 제1 루틴 데이터를 업데이트하는 서버.
PCT/KR2021/002210 2020-02-26 2021-02-22 외부 전자 장치를 제어하는 방법 및 그 전자 장치 WO2021172836A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/896,404 US11914790B2 (en) 2020-02-26 2022-08-26 Method for controlling external electronic device, and electronic device therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0023678 2020-02-26
KR1020200023678A KR20210108723A (ko) 2020-02-26 2020-02-26 외부 전자 장치를 제어하는 방법 및 그 전자 장치

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/896,404 Continuation US11914790B2 (en) 2020-02-26 2022-08-26 Method for controlling external electronic device, and electronic device therefor

Publications (1)

Publication Number Publication Date
WO2021172836A1 true WO2021172836A1 (ko) 2021-09-02

Family

ID=77491362

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/002210 WO2021172836A1 (ko) 2020-02-26 2021-02-22 외부 전자 장치를 제어하는 방법 및 그 전자 장치

Country Status (3)

Country Link
US (1) US11914790B2 (ko)
KR (1) KR20210108723A (ko)
WO (1) WO2021172836A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003000085A (ja) * 2001-06-22 2003-01-07 Aruze Corp ペット監視システム
JP2007141219A (ja) * 2005-10-04 2007-06-07 Fisher Rosemount Syst Inc プロセスコントロールシステムにおけるプロセスモデル識別
JP2016042870A (ja) * 2014-08-22 2016-04-04 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 電子機器、電子機器システム、及び機器制御方法
WO2016053625A1 (en) * 2014-09-30 2016-04-07 Apple Inc. Modification of automated environment behavior based on user routine
WO2017078724A1 (en) * 2015-11-05 2017-05-11 Hewlett-Packard Development Company, L.P. System routines and raw data

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7424867B2 (en) 2004-07-15 2008-09-16 Lawrence Kates Camera system for canines, felines, or other animals
KR101256054B1 (ko) 2012-09-13 2013-04-18 엠케어시스(주) 양방향 통신을 이용한 애완 동물 보호 시스템 및 방법
KR102231105B1 (ko) * 2013-09-05 2021-03-24 삼성전자주식회사 제어 장치 및 그 제어 방법
KR102246559B1 (ko) 2014-11-17 2021-04-30 엘지전자 주식회사 조건수정모드를 실행할 수 있는 IoT 관리 디바이스 및 그 제어 방법
KR101728052B1 (ko) 2015-12-08 2017-05-02 (주)그린콤 사용자의 행동을 인지하여 사물을 제어하는 사물인터넷 시스템
KR20190061423A (ko) 2017-11-28 2019-06-05 지봉근 반려동물 관리 시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003000085A (ja) * 2001-06-22 2003-01-07 Aruze Corp ペット監視システム
JP2007141219A (ja) * 2005-10-04 2007-06-07 Fisher Rosemount Syst Inc プロセスコントロールシステムにおけるプロセスモデル識別
JP2016042870A (ja) * 2014-08-22 2016-04-04 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 電子機器、電子機器システム、及び機器制御方法
WO2016053625A1 (en) * 2014-09-30 2016-04-07 Apple Inc. Modification of automated environment behavior based on user routine
WO2017078724A1 (en) * 2015-11-05 2017-05-11 Hewlett-Packard Development Company, L.P. System routines and raw data

Also Published As

Publication number Publication date
US20220413622A1 (en) 2022-12-29
US11914790B2 (en) 2024-02-27
KR20210108723A (ko) 2021-09-03

Similar Documents

Publication Publication Date Title
WO2019088793A1 (ko) 전자 장치 및 이를 이용한 화면 공유 방법
WO2017191889A1 (ko) 전자 장치 및 그 제어 방법
WO2019059596A1 (ko) 전자 장치의 소프트웨어의 업데이트를 관리하기 위한 장치 및 방법
WO2020130689A1 (ko) 놀이 컨텐츠를 추천하는 전자 장치 및 그의 동작 방법
WO2019177373A1 (en) Electronic device for controlling predefined function based on response time of external electronic device on user input, and method thereof
WO2019209075A1 (ko) 외부 전자 장치를 제어하는 전자 장치 및 방법
WO2019212156A1 (ko) 발열 제어를 위한 전자 장치 및 그의 동작 방법
WO2020106104A1 (en) Electronic device for providing meditation contents and operating method thereof
WO2020171548A1 (ko) 사용자 입력 처리 방법 및 이를 지원하는 전자 장치
WO2019045255A1 (ko) 어플리케이션 시작 방법 및 이를 구현하는 전자 장치
WO2018131928A1 (ko) 적응적인 사용자 인터페이스를 제공하기 위한 장치 및 방법
WO2021162323A1 (ko) 전자 장치 및 상기 전자 장치를 이용한 콘텐츠 운용 방법
WO2019083137A1 (ko) 알림을 제어하기 위한 방법 및 그 전자 장치
WO2021172836A1 (ko) 외부 전자 장치를 제어하는 방법 및 그 전자 장치
WO2019083283A1 (en) ELECTRONIC IMAGE DISPLAY DEVICE AND ITS CONTROL METHOD
WO2022065845A1 (ko) 입력 데이터 처리 방법 및 이를 지원하는 전자 장치
WO2020159255A1 (en) System for processing user data and controlling method thereof
WO2021201593A1 (ko) 데이터의 제공 방법 및 이를 지원하는 전자 장치
WO2020159032A1 (ko) 복수의 어플리케이션에 카메라에서 획득한 이미지를 제공하는 전자 장치 및 그의 동작 방법
WO2021075706A1 (ko) 전력 관리 집적 회로를 포함하는 전자 장치 및 상기 전자 장치의 이상 상태를 회복하기 위한 방법
WO2020159213A1 (ko) 상황에 기반한 사용자 맞춤형 설정 방법 및 장치
WO2021101173A1 (ko) 전자 장치 및 이를 이용한 근거리 통신 장치의 사용자 식별 정보 획득 방법
WO2020130729A1 (ko) 이벤트에 관련된 정보를 제공하는 폴더블 전자 장치 및 그의 동작 방법
WO2020027458A1 (en) Electronic device and method for independently controlling a plurality of displays
WO2020071636A1 (ko) 클라우드 서비스를 제공하는 전자 장치 및 그 동작 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21761353

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21761353

Country of ref document: EP

Kind code of ref document: A1