WO2020171342A1 - 외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법 - Google Patents

외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법 Download PDF

Info

Publication number
WO2020171342A1
WO2020171342A1 PCT/KR2019/014326 KR2019014326W WO2020171342A1 WO 2020171342 A1 WO2020171342 A1 WO 2020171342A1 KR 2019014326 W KR2019014326 W KR 2019014326W WO 2020171342 A1 WO2020171342 A1 WO 2020171342A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
external object
screen
processor
vision sensor
Prior art date
Application number
PCT/KR2019/014326
Other languages
English (en)
French (fr)
Inventor
유윤선
김기환
김연정
김준영
박상희
이민영
이진학
최일광
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US17/428,518 priority Critical patent/US20220132081A1/en
Publication of WO2020171342A1 publication Critical patent/WO2020171342A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00—Details of transducers, loudspeakers or microphones
    • H04R1/02—Casings; Cabinets ; Supports therefor; Mountings therein
    • H04R1/04—Structural association of microphone with electric circuitry therefor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141—Constructional details thereof
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/78—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using electromagnetic waves other than radio waves
    • G01S3/782—Systems for determining direction or deviation from predetermined direction
    • G01S3/785—Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system
    • G01S3/786—Systems for determining direction or deviation from predetermined direction using adjustment of orientation of directivity characteristics of a detector or detector system to give a desired condition of signal derived from that detector or detector system the desired condition being maintained automatically
    • G01S3/7864—T.V. type tracking systems
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S3/00—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received
    • G01S3/80—Direction-finders for determining the direction from which infrasonic, sonic, ultrasonic, or electromagnetic waves, or particle emission, not having a directional significance, are being received using ultrasonic, sonic or infrasonic waves
    • G01S3/802—Systems for determining direction or deviation from predetermined direction
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00—Projectors or projection-type viewers; Accessories therefor
    • G03B21/14—Details
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00—Projectors or projection-type viewers; Accessories therefor
    • G03B21/14—Details
    • G03B21/145—Housing details, e.g. position adjustments thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/765—Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141—Constructional details thereof
    • H04N9/3173—Constructional details thereof wherein the projection device is specially adapted for enhanced portability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179—Video signal processing therefor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179—Video signal processing therefor
    • H04N9/3182—Colour adjustment, e.g. white balance, shading or gamut
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179—Video signal processing therefor
    • H04N9/3185—Geometric adjustment, e.g. keystone or convergence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/12—Picture reproducers
    • H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191—Testing thereof
    • H04N9/3194—Testing thereof including sensor feedback
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00—Details of transducers, loudspeakers or microphones
    • H04R1/02—Casings; Cabinets ; Supports therefor; Mountings therein
    • H04R1/028—Casings; Cabinets ; Supports therefor; Mountings therein associated with devices performing functions other than acoustics, e.g. electric candles
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00—Details of transducers, loudspeakers or microphones
    • H04R1/20—Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/326—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only for microphones
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00—Details of transducers, loudspeakers or microphones
    • H04R1/20—Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/406—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
    • G06F1/1639—Details related to the display arrangement, including those related to the mounting of the display in the housing the display being based on projection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00—Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10—General applications
    • H04R2499/15—Transducers incorporated in visual displaying devices, e.g. televisions, computer displays, laptops

Definitions

  • Various embodiments of the present invention relate to an electronic device and a method of operating the electronic device, and more particularly, to a technology for providing an artificial intelligence service visualized based on information of an external object.
  • Recent electronic devices provide various artificial intelligence services available to users of electronic devices.
  • the artificial intelligence service may detect a user's voice or motion gesture and execute various functions of an electronic device corresponding to the detected motion gesture. After executing a function, the electronic device may provide an artificial intelligence service that provides a processing result in a visualized form or a voice form.
  • the electronic device may include a vision sensor for detecting the user's gesture in order to detect the user's gesture motion.
  • the electronic device may perform photographing using a vision sensor in order to detect a user's gesture.
  • the electronic device may analyze an image captured by a vision sensor and obtain information related to an external object (eg, a part of a user's body) included in the image.
  • the electronic device may provide an artificial intelligence service based on information related to an external object.
  • elements requiring high speed and elements requiring high accuracy may be required, and if all of the above elements are processed through image analysis taken using a vision sensor, the processing speed may be lowered. have.
  • An electronic device includes a vision sensor capable of detecting an external object in a space in which the electronic device is disposed and rotatable; A projector that outputs a screen to the space in which the electronic device is disposed and is rotatable; A memory for storing space information on a space in which the electronic device is disposed; And a processor, wherein the processor controls the vision sensor to track an external object while the vision sensor rotates, and based on the spatial information and information on the external object generated based on the tracking of the external object, the The projector may be set to determine a position of a screen to be output and to control the projector to output the screen to the determined position.
  • a method of operating an electronic device may include detecting an external object in a space in which the electronic device is disposed, and tracking the external object while rotating a rotatable vision sensor; Based on the information of the external object generated based on the tracking result of the external object and the spatial information of the space in which the electronic device is placed, the processor outputs the screen to the space where the electronic device is placed. Determining the position of the screen; And controlling the projector to output the screen to the determined position.
  • An electronic device and a method of operating an electronic device include an element requiring high speed (movement information of an external object) and an element requiring high accuracy (classification of external objects) from an image captured by a vision sensor ) Is processed asynchronously and then synchronized in the final operation step, thereby improving both speed and accuracy.
  • An electronic device and a method of operating the electronic device according to various embodiments of the present disclosure can improve processing speed by transmitting data only when an event occurs by using an event-based vision sensor.
  • FIG. 1 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram illustrating a program according to various embodiments.
  • FIG. 3 is a diagram illustrating an electronic device according to various embodiments of the present disclosure.
  • FIG. 4 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 5 is a diagram illustrating components implemented in software of an electronic device according to various embodiments of the present disclosure.
  • 6A and 6B are diagrams illustrating an example in which an electronic device determines an area to output a screen according to various embodiments of the present disclosure.
  • FIGS. 7A and 7B are diagrams illustrating an example in which an electronic device outputs a screen to a determined area according to various embodiments of the present disclosure.
  • FIGS. 8A, 8B, and 8C are diagrams illustrating an example in which an electronic device according to various embodiments of the present disclosure changes an area to display a screen in response to movement of an external object.
  • FIG. 9 is a diagram illustrating an embodiment in which an electronic device performs pre-distortion on a screen based on information on a region to be outputted according to various embodiments of the present disclosure.
  • FIG. 10 is a diagram illustrating an example in which an electronic device is activated in an electronic device according to various embodiments of the present disclosure.
  • FIG. 11 is a diagram illustrating an embodiment of controlling an electronic device using a gesture in an electronic device according to various embodiments of the present disclosure.
  • FIGS. 12 and 13 are diagrams illustrating an embodiment in which an electronic device proposes content to be output on a screen in an electronic device according to various embodiments of the present disclosure.
  • FIGS. 14A, 14B, and 14C are diagrams illustrating an embodiment in which an external object is recognized using a vision sensor in an electronic device according to various embodiments of the present disclosure.
  • 15, 16, and 17 are diagrams illustrating screens output by the electronic device in an electronic device according to various embodiments of the present disclosure.
  • FIG. 18 is a flowchart illustrating a method of operating an electronic device according to various embodiments of the present disclosure.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments.
  • the electronic device 101 communicates with the electronic device 102 through a first network 198 (for example, a short-range wireless communication network), or a second network 199 It is possible to communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network).
  • the electronic device 101 may communicate with the electronic device 104 through the server 108.
  • the electronic device 101 includes a processor 120, a memory 130, an input device 150, an audio output device 155, a display device 160, an audio module 170, and a sensor module ( 176, interface 177, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196, or antenna module 197 ) Can be included.
  • a sensor module 176, interface 177, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196, or antenna module 197
  • at least one of these components may be omitted or one or more other components may be added to the electronic device 101.
  • some of these components may be implemented as one integrated circuit.
  • the sensor module 176 eg, a fingerprint sensor, an iris sensor, or an illuminance sensor
  • the display device 160 eg, a display.
  • the processor 120 for example, executes software (eg, a program 140) to implement at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120. It can be controlled and can perform various data processing or operations. According to an embodiment, as at least part of data processing or operation, the processor 120 may store commands or data received from other components (eg, the sensor module 176 or the communication module 190) to the volatile memory 132. The command or data stored in the volatile memory 132 may be processed, and result data may be stored in the nonvolatile memory 134.
  • software eg, a program 140
  • the processor 120 may store commands or data received from other components (eg, the sensor module 176 or the communication module 190) to the volatile memory 132.
  • the command or data stored in the volatile memory 132 may be processed, and result data may be stored in the nonvolatile memory 134.
  • the processor 120 includes a main processor 121 (eg, a central processing unit or an application processor), and a secondary processor 123 (eg, a graphic processing unit, an image signal processor) that can be operated independently or together with the main processor 121 (eg, a central processing unit or an application processor). , A sensor hub processor, or a communication processor). Additionally or alternatively, the coprocessor 123 may be set to use less power than the main processor 121 or to be specialized for a designated function. The secondary processor 123 may be implemented separately from the main processor 121 or as a part thereof.
  • main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, an image signal processor
  • the coprocessor 123 may be set to use less power than the main processor 121 or to be specialized for a designated function.
  • the secondary processor 123 may be implemented separately from the main processor 121 or as a part thereof.
  • the coprocessor 123 is, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, an application is executed). ) While in the state, together with the main processor 121, at least one of the components of the electronic device 101 (for example, the display device 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the functions or states related to. According to an embodiment, the coprocessor 123 (eg, an image signal processor or a communication processor) may be implemented as part of another functionally related component (eg, the camera module 180 or the communication module 190). have.
  • an image signal processor or a communication processor may be implemented as part of another functionally related component (eg, the camera module 180 or the communication module 190). have.
  • the memory 130 may store various data used by at least one component of the electronic device 101 (eg, the processor 120 or the sensor module 176).
  • the data may include, for example, software (eg, the program 140) and input data or output data for commands related thereto.
  • the memory 130 may include a volatile memory 132 or a nonvolatile memory 134.
  • the program 140 may be stored as software in the memory 130, and may include, for example, an operating system 142, middleware 144, or an application 146.
  • the input device 150 may receive a command or data to be used for a component of the electronic device 101 (eg, the processor 120) from an outside (eg, a user) of the electronic device 101.
  • the input device 150 may include, for example, a microphone, a mouse, a keyboard, or a digital pen (eg, a stylus pen).
  • the sound output device 155 may output an sound signal to the outside of the electronic device 101.
  • the sound output device 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback, and the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display device 160 may visually provide information to the outside of the electronic device 101 (eg, a user).
  • the display device 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device.
  • the display device 160 may include a touch circuitry set to sense a touch, or a sensor circuit (eg, a pressure sensor) set to measure the strength of a force generated by the touch. have.
  • the audio module 170 may convert sound into an electric signal or, conversely, convert an electric signal into sound. According to an embodiment, the audio module 170 acquires sound through the input device 150, the sound output device 155, or an external electronic device (for example, an external electronic device directly or wirelessly connected to the electronic device 101). Sound may be output through the electronic device 102) (for example, a speaker or headphones).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101, or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, an atmospheric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more designated protocols that may be used for the electronic device 101 to connect directly or wirelessly with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that a user can perceive through a tactile or motor sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture a still image and a video.
  • the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101.
  • the power management module 388 may be implemented as at least a part of, for example, a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101.
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, electronic device 102, electronic device 104, or server 108). It is possible to support establishment and communication through the established communication channel.
  • the communication module 190 operates independently of the processor 120 (eg, an application processor), and may include one or more communication processors that support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg : A LAN (local area network) communication module, or a power line communication module) may be included.
  • a corresponding communication module is a first network 198 (for example, a short-range communication network such as Bluetooth, WiFi direct or IrDA (infrared data association)) or a second network 199 (for example, a cellular network, the Internet, or It can communicate with external electronic devices through a computer network (for example, a telecommunication network such as a LAN or WAN).
  • the wireless communication module 192 uses subscriber information stored in the subscriber identification module 196 (eg, International Mobile Subscriber Identifier (IMSI)) within a communication network such as the first network 198 or the second network 199.
  • IMSI International Mobile Subscriber Identifier
  • the antenna module 197 may transmit a signal or power to the outside (eg, an external electronic device) or receive from the outside.
  • the antenna module may include one antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas. In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is, for example, provided by the communication module 190 from the plurality of antennas. Can be chosen.
  • the signal or power may be transmitted or received between the communication module 190 and an external electronic device through the at least one selected antenna.
  • other components eg, RFIC
  • other than the radiator may be additionally formed as part of the antenna module 197.
  • At least some of the components are connected to each other through a communication method (e.g., bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI))) between peripheral devices and signals ( E.g. commands or data) can be exchanged with each other.
  • a communication method e.g., bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • commands or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199.
  • Each of the electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101.
  • all or part of the operations executed by the electronic device 101 may be executed by one or more of the external electronic devices 102, 104, or 108.
  • the electronic device 101 needs to perform a function or service automatically or in response to a request from a user or another device, the electronic device 101 does not execute the function or service by itself.
  • One or more external electronic devices receiving the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit the execution result to the electronic device 101.
  • the electronic device 101 may process the result as it is or additionally and provide it as at least part of a response to the request.
  • cloud computing, distributed computing, or client-server computing technology Can be used.
  • the program 140 includes an operating system 142 for controlling one or more resources of the electronic device 101, a middleware 144, or an application 146 executable in the operating system 142.
  • the operating system 142 may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • At least some of the programs 140 are, for example, preloaded in the electronic device 101 at the time of manufacture, or when used by a user, an external electronic device (eg, electronic device 102 or 104), or a server ( 108)) can be downloaded or updated.
  • the operating system 142 may control management (eg, allocation or collection) of one or more system resources (eg, process, memory, or power) of the electronic device 101.
  • the operating system 142 is, additionally or alternatively, other hardware devices of the electronic device 101, for example, the input device 150, the sound output device 155, the display device 160, the audio module 170 , Sensor module 176, interface 177, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196, or One or more driver programs for driving the antenna module 197 may be included.
  • the middleware 144 may provide various functions to the application 146 so that a function or information provided from one or more resources of the electronic device 101 can be used by the application 146.
  • the middleware 144 is, for example, an application manager 201, a window manager 203, a multimedia manager 205, a resource manager 207, a power manager 209, a database manager 211, and a package manager 213 ), a connectivity manager 215, a notification manager 217, a location manager 219, a graphic manager 221, a security manager 223, a call manager 225, or a voice recognition manager 227.
  • I can.
  • the application manager 201 may manage the life cycle of the application 146, for example.
  • the window manager 203 may manage one or more GUI resources used on a screen, for example.
  • the multimedia manager 205 for example, identifies one or more formats required for playback of media files, and performs encoding or decoding of a corresponding media file among the media files by using a codec suitable for the selected corresponding format. Can be done.
  • the resource manager 207 may manage the source code of the application 146 or a memory space of the memory 130, for example.
  • the power manager 209 manages, for example, capacity, temperature, or power of the battery 189, and may determine or provide related information necessary for the operation of the electronic device 101 using the corresponding information. . According to an embodiment, the power manager 209 may interwork with a basic input/output system (BIOS) (not shown) of the electronic device 101.
  • BIOS basic input/output system
  • the database manager 211 may create, search, or change a database to be used by the application 146, for example.
  • the package manager 213 may manage installation or update of an application distributed in the form of, for example, a package file.
  • the connectivity manager 215 may manage, for example, a wireless connection or a direct connection between the electronic device 101 and an external electronic device.
  • the notification manager 217 may provide a function for notifying the user of the occurrence of a designated event (eg, incoming call, message, or alarm), for example.
  • the location manager 219 may manage location information of the electronic device 101, for example.
  • the graphic manager 221 may manage, for example, one or more graphic effects to be provided to a user or a user interface related thereto.
  • the security manager 223 may provide, for example, system security or user authentication.
  • the telephony manager 225 may manage, for example, an audio call function or a video call function provided by the electronic device 101.
  • the voice recognition manager 227 transmits, for example, a user's voice data to the server 108, and a command corresponding to a function to be performed in the electronic device 101 based at least in part on the voice data, Alternatively, text data converted based at least in part on the voice data may be received from the server 108.
  • the middleware 244 may dynamically delete some of the existing components or add new components.
  • at least a portion of the middleware 144 may be included as a part of the operating system 142 or implemented as separate software different from the operating system 142.
  • the application 146 is, for example, a home 251, a dialer 253, an SMS/MMS 255, an instant message (IM) 257, a browser 259, a camera 261, and an alarm 263. , Contacts (265), voice recognition (267), email (269), calendar (271), media player (273), album (275), watch (277), health (279) (e.g., exercise or blood sugar) Biometric information measurement), or environmental information 281 (eg, air pressure, humidity, or temperature information measurement) application may be included. According to an embodiment, the application 146 may further include an information exchange application (not shown) capable of supporting information exchange between the electronic device 101 and an external electronic device.
  • an information exchange application (not shown) capable of supporting information exchange between the electronic device 101 and an external electronic device.
  • the information exchange application may include, for example, a notification relay application configured to deliver specified information (eg, a call, a message, or an alarm) to an external electronic device, or a device management application configured to manage an external electronic device.
  • the notification relay application for example, transmits notification information corresponding to a specified event (eg, mail reception) generated by another application (eg, email application 269) of the electronic device 101 to an external electronic device. I can. Additionally or alternatively, the notification relay application may receive notification information from an external electronic device and provide it to the user of the electronic device 101.
  • the device management application is, for example, an external electronic device that communicates with the electronic device 101 or some components thereof (for example, the display device 160 or the camera module 180). -Off) or a function (eg, brightness, resolution, or focus of the display device 160 or the camera module 180) may be controlled.
  • the device management application may additionally or alternatively support installation, deletion, or update of an application operating in an external electronic device.
  • FIG. 3 is a diagram illustrating an electronic device according to various embodiments of the present disclosure.
  • an electronic device 300 (eg, the electronic device 101 of FIG. 1) 300 according to various embodiments of the present disclosure includes a first housing 310, a projector module 320, and a vision sensor module 330. ) And a second housing 340.
  • the first housing 310 may include a first actuator (not shown) to rotate the projector module 320.
  • the first actuator may rotate the projector module 320 in a vertical direction (A direction) or a horizontal direction (B).
  • a direction vertical direction
  • B horizontal direction
  • the projector module 320 rotates in the A direction
  • only the projector module 320 may rotate in the A direction while the first housing 310 is fixed.
  • the projector module 320 rotates in the B direction
  • the first housing 310 and the projector module 320 may rotate at the same time.
  • the projector module 320 may output a screen based on control of a processor.
  • the projector module 320 may output a screen by projecting light onto a partial area of a space in which the electronic device 300 is disposed.
  • the projector module 320 may include a light source for outputting light for outputting a screen and at least one lens for projecting light in a specific direction.
  • the vision sensor module 330 may analyze a space in which the electronic device 300 is disposed.
  • the vision sensor module 330 may analyze the space in which the electronic device 300 is disposed by capturing a space in which the electronic device 300 is disposed and analyzing the captured image.
  • the vision sensor module 330 may use various methods currently implemented or various methods to be implemented in the future as a method of analyzing a space in which the electronic device 300 is disposed.
  • the vision sensor module 330 is an image that includes a plurality of photographed raw images or depth images, information on the distance of an object, and an image that can be photographed using a plurality of image sensors. It is possible to analyze the space in a manner that simulates an indoor space based on the analysis result), and spatial information may be obtained based on the analysis result.
  • the vision sensor module 330 is a space in which the electronic device 300 is disposed, an external object existing around the electronic device 300 (eg, a part of the user's body, disposed in the space). You can obtain information on various products).
  • the vision sensor module 330 may include a second actuator (not shown).
  • the second actuator may rotate the vision sensor module 330 in the horizontal direction (B).
  • the vision sensor module 330 rotates in the horizontal direction (B) based on the operation of the second actuator, and provides information about the space in which the electronic device 300 is disposed or an external object existing around the electronic device 300. Information can be obtained.
  • the second housing 340 may include various components of the electronic device 300 (eg, a processor, a speaker, a microphone, a network interface, or an input/output interface).
  • the speaker included in the second housing 340 may output various sounds based on the control of the processor.
  • the microphone included in the second housing 340 may detect various sounds based on the control of the processor.
  • the microphone may mean an array microphone having directivity.
  • the second housing 340 may include a plurality of microphones (eg, four microphones), and the plurality of microphones may detect a direction and sound from which a sound is output.
  • FIG. 4 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • an electronic device eg, the electronic device 300 of FIG. 3 according to various embodiments of the present disclosure includes a vision sensor module (eg, a vision sensor module 330) 410 of FIG. 3, and a projector.
  • a module for example, the projector module 320 of FIG. 3) 420, a processor 430, and a memory 440 may be included.
  • the vision sensor module 410 may analyze a space in which the electronic device 300 is disposed.
  • the vision sensor module 410 may photograph a space in which the electronic device 300 is disposed and transmit the photographed image to the processor 430.
  • the processor 430 may analyze a space in which the electronic device 300 is disposed in a manner of analyzing the captured image.
  • the processor 430 may pre-scan the space where the electronic device 300 is disposed using the vision sensor module 410.
  • the timing of scanning the space in which the electronic device 300 is disposed may be implemented in various ways according to settings.
  • the processor 430 scans the space in which the electronic device 300 is placed using the vision sensor module 410 and analyzes the space. can do.
  • the processor 430 may acquire spatial information of a space using the vision sensor module 410.
  • the acquired spatial information may be stored in the memory 440.
  • the spatial information includes various variables that can indicate the size of the space in which the electronic device 300 is placed, the location of the space, the location of the wall included in the space, and the degree of flatness of the wall (eg, the slope of the wall), and the electronic device 300 ) May mean various information including types and sizes of various external objects included in the space.
  • the processor 430 may determine at least one area on which a screen to be output by the projector module 420 is displayed based on spatial information of a space in which the electronic device 300 is disposed.
  • the processor 430 may check the flatness of a specific area based on spatial information, and determine an area in which the flatness is greater than or equal to a preset value as an area in which the screen to be output by the projector module 420 is to be displayed.
  • the vision sensor module 410 may track an external object existing in a space in which the electronic device 300 is disposed.
  • the vision sensor module 410 may generate information related to movement of the external object by tracking the external object.
  • Information related to the movement of the external object may measure whether the external object has moved, the direction in which the external object has moved, or the distance that the external object has moved.
  • the vision sensor module 410 may be implemented as an event-based vision sensor to improve the tracking speed of an external object.
  • the event-based vision sensor may mean a sensor that senses an event related to movement of an external object.
  • the event-based vision sensor does not transmit data to the processor 430 when the external object is in a stopped state, and may transmit information related to the movement to the processor 430 when the external object moves.
  • the event-based vision sensor may track an external object based on a change in light of pixels corresponding to the external object caused by the movement of the external object. Accordingly, when the vision sensor module 410 is an event-based vision sensor, movement-related information can be transmitted to the processor 430 only when the external object moves, thereby improving the tracking speed of the external object.
  • the projector module 420 may output a screen based on the control of the processor 430.
  • the projector module 420 may output a screen by projecting light onto a partial area of a space in which the electronic device 300 is disposed.
  • the projector module 420 may include a light source for outputting light for outputting a screen and at least one lens for projecting light in a specific direction.
  • the processor 430 may control a first actuator (not shown) included in the projector module 420 to output a screen in a specific direction.
  • the first actuator may rotate the lens included in the projector module 420 in a vertical direction or a horizontal direction to output a screen in a specific direction based on the control of the processor 430.
  • the processor 430 may detect an external object using the vision sensor module 410.
  • the detection of an external object may detect the presence of an external object in a space in which the electronic device 300 is disposed, or a movement of an external object that has already appeared.
  • the processor 430 may control the vision sensor module 410 to track the external object in response to detecting the external object.
  • the processor 430 is a second actuator included in the vision sensor module 410 such that the vision sensor module 410 rotates in the same direction as the movement direction of the external object in order to check the movement direction of the external object and track the external object. Can be controlled.
  • the processor 430 may determine whether to output a screen based on information on an external object.
  • the processor 430 may determine to output a screen in response to confirming that the external object is an object having the same or similar shape as a preset object by using information on the external object.
  • the processor 430 may process information requiring a fast processing speed and information requiring a high accuracy, respectively, and generate information on an external object in a manner of synchronizing the processed information.
  • Information requiring a high processing speed may mean information related to tracking of an external object (eg, a moving direction of an external object).
  • Information requiring high accuracy may mean information related to classification of an external object (eg, whether an external object is a user, whether an external object is a user's face, or a user's hand).
  • the processor 430 may generate movement information including a movement direction of an external object requiring a high processing speed by using an image collected by the vision sensor module 410.
  • the vision sensor module 410 is implemented as a dynamic vision sensor (DVS), which is an embodiment of an event-based sensor
  • the processor 430 is based on the amount of light change of pixels corresponding to an external object. By doing so, you can check the moving direction of the external object.
  • DVS dynamic vision sensor
  • the processor 430 may classify an external object using an image collected by the vision sensor module 410. Classification of an external object may be performed by the processor 430, but may be performed by an external server (not shown) connected to the electronic device 300 in response to a request of the processor 430.
  • the processor 430 may generate information of an external object by synchronizing movement information of the external object and classification of the external object.
  • the processor 430 first determines a position of a screen to be output based on movement information of the external object by independently generating movement information of the external object and classifying the external object, It is possible to determine whether to display the screen based on the classification result of the external object.
  • a method of independently generating movement information of an external object and classifying an external object can improve processing speed compared to a method of simultaneously performing movement information and classification.
  • the classification operation for an external object to be performed on an external server or to be performed on an electronic device may be slower than the operation of generating movement information by checking the amount of light change, and simultaneously generating movement information and classifying external objects. In this case, this is because the processing speed may decrease due to the classification operation on the external object.
  • the processor 430 may determine a location of a screen to be output by the projector module 420 based on information of an external object and spatial information generated based on a tracking result of the external object.
  • the processor 430 selects one location in consideration of the location of an external object among at least one screen location stored in the memory 440, and the projector module 420 outputs it. You can decide the location of the screen to be played. For example, the processor 430 may determine a location of a screen to be output by the projector module 420 by selecting a location corresponding to a direction other than the direction in which the external object exists.
  • the processor 430 may control the projector module 420 to output a screen to a determined position.
  • the processor 430 may control the first actuator included in the projector module 420 to output the screen to the determined position.
  • the projector module 420 may rotate in a horizontal direction or a vertical direction in order to move to a position determined by the first actuator. After rotating, the projector module 420 may output a screen to a determined position.
  • the processor 430 may provide various screens based on a result of classification of external objects.
  • the processor 430 may provide different screens according to the classification result of the external object.
  • the processor 430 may determine that the user is one of the plurality of users based on the classification result of the external object and output a screen corresponding to the identified user.
  • the processor 430 may determine that the external object is a young user based on the classification result of the external object and output a screen suitable for the age.
  • the processor 430 may confirm that the user is one of a plurality of users based on the classification result of the external object and output a screen corresponding to the identified user.
  • the processor 430 may perform pre-distortion on an output screen based on information on an area in which the screen is to be displayed.
  • the user who sees the screen may have a problem of viewing a distorted screen.
  • the processor 430 may control the projector module 420 to generate a pre-distorted screen based on information on a region to be outputted and to output a pre-distorted screen.
  • the processor 430 may measure the illuminance of a space in which the electronic device 300 is disposed using an illuminance sensor (eg, an illuminance sensor included in the sensor module 176 of FIG. 1 ). I can.
  • the processor 430 may change characteristics of a screen to be output based on the measured illuminance. For example, when the measured illuminance is less than a preset value, the processor 430 may increase the contrast to increase the sharpness of the screen.
  • the processor 430 may measure a distance between an external object and the electronic device 300 using the vision sensor module 410.
  • the processor 430 may change the characteristics of the screen to be output based on the measured distance.
  • the processor 430 may change the layout of an output screen according to the measured distance. The above embodiment will be described later in FIGS. 15 to 17.
  • the processor 430 may confirm that the vision sensor module 410 detects movement of an external object.
  • the processor 430 may control the vision sensor module 410 to track the external object in response to detecting the movement of the external object, and change the output position of the screen based on the changed position of the external object.
  • the processor 430 may detect that sound is received through a microphone, and determine a direction in which the sound is output based on information transmitted from the microphone.
  • the processor 430 may check the direction in which the sound is output.
  • the processor 430 may determine whether to process an operation corresponding to the sound based on the position of the external object and the direction of the sound measured by the vision sensor module 410.
  • an operation corresponding to the sound may mean an operation of processing a specific operation (eg, a call to a specific user).
  • the processor 430 may process an operation corresponding to the sound in response to confirming that the location of the external object and the direction of the sound match.
  • the processor 430 may ignore the sound in response to confirming that the position of the external object and the direction of the sound do not match.
  • processing the motion corresponding to the sound as described above by considering both the location of the external object and the direction of the sound, it is possible to prevent malfunction caused by processing the sound by an object other than the external object (e.g., another user). I can.
  • FIG. 5 is a diagram illustrating components implemented in software of an electronic device according to various embodiments of the present disclosure.
  • FIG. 5 components implemented in software in an electronic device 300 according to various embodiments of the present disclosure are illustrated.
  • the job processing agent module 510 includes a speech to text (STT) manager 501 that converts sound received through the microphone 540 into text, and the STT manager 501 as an external server.
  • the server manager 502 that transmits the text corresponding to the sound transmitted by the sound to an external server or receives the classification result of the external object from the external server that classifies the external object, data transmitted from the STT manager 501, the server Data from the socket manager 503 including an interface that transmits data transmitted from the manager 502 and the data transmitted from the vision recognition manager 504 to the content output module 503, and a tracker 522 that tracks external objects
  • It may include a vision recognition manager 504 that receives and a motor control manager 505 that controls a projector motor (eg, a first actuator) 570 and a vision sensor motor (eg, a second actuator) 56. .
  • the vision sensor processing module 520 is configured to externally based on an image streamer 521 receiving an image stream from the vision sensor 550 and an image stream transmitted from the image streamer 521. It may include a tracker 522 to track the object.
  • the content output module 530 receives data from the socket manager 503 and transmits the received data to the image processing manager 532 or the audio processing manager 533. ), an image processing manager 532 that controls the projector 580 to output a screen based on data received from the processing interface 531, and a speaker to output sound based on the data received from the processing interface 531 ( An audio processing manager 533 that controls 590 may be included.
  • the vision sensor 550 may detect movement of an external object, capture an image including the external object, and transmit the captured image stream to the image streamer 521.
  • the image streamer 521 may pre-process the image stream captured by the vision sensor 550 and transmit the pre-processed image stream to the tracker 522.
  • the tracker 522 may track the movement direction of the external object using the preprocessed image stream and transmit the movement direction of the external object to the vision recognition manager 504.
  • the vision recognition manager 504 may check the moving direction of the external object transmitted by the tracker 522 and transmit it to the motor control manager 505.
  • the motor control manager 505 controls the vision sensor motor 560 or the projector motor 570 based on the moving direction of an external object, and the direction in which the vision sensor 560 shoots or the projector 580 outputs You can change the orientation of the screen.
  • the image processing manager 532 may process a screen to be output by the projector 580 based on a result of classification of external objects.
  • the socket manager 503 may transmit the classification result of the external object to the image processing manager 532 through the processing interface 531.
  • Classification of external objects may be performed by the electronic device 300 or an external server (not shown).
  • the vision recognition manager 504 may transmit the classification result of the external object to the socket manager 503.
  • the server manager 502 may receive the classification result of the external object from the external server and transmit the classification result of the external object to the socket manager 503.
  • 6A and 6B are diagrams illustrating an example in which an electronic device determines an area to output a screen according to various embodiments of the present disclosure.
  • FIG. 6A illustrates an electronic device (eg, the electronic device 300 of FIG. 3) and a space 601 in which the electronic device 300 is disposed.
  • the electronic device 300 may analyze a space in which the electronic device 300 is disposed using a vision sensor module (eg, the vision sensor module 410 of FIG. 4 ).
  • the vision sensor module 410 may photograph a space in which the electronic device 300 is disposed and transmit the photographed image to the processor 430.
  • the processor 430 may analyze a space in which the electronic device 300 is disposed in a manner of analyzing the captured image.
  • the electronic device 300 may acquire spatial information of a space using the vision sensor module 410.
  • the spatial information includes various variables that can indicate the size of the space in which the electronic device 300 is placed, the location of the space, the location of the wall included in the space, and the degree of flatness of the wall (eg, the slope of the wall), ) May mean various information including types and sizes of various external objects included in the space.
  • 6B is an electronic device (eg, the electronic device 300 of FIG. 3) determines at least one area on which a screen to be output by the projector module (eg, the projector module 420 of FIG. 4) is displayed based on spatial information It is a diagram showing an embodiment.
  • the electronic device 300 includes at least one area 610 and 620 in which a screen to be output by the projector module 420 is displayed based on spatial information of a space in which the electronic device 300 is disposed. , 630) can be determined.
  • the processor 430 checks the degree of flatness of a specific area based on spatial information, and displays a screen to which the projector module 420 outputs the areas 610, 620, and 630 whose flatness is equal to or greater than a preset value. Can be decided by the area to be.
  • the electronic device 300 may track an external object using the vision sensor module 410, and the vision sensor module 410 tracks the external object, thereby You can create relevant information.
  • Information related to the movement of the external object may measure whether the external object has moved, the direction in which the external object has moved, or the distance that the external object has moved.
  • the electronic device 300 selects one of the areas 610, 620, and 630 determined based on information related to movement of an external object, and determines the selected area as a position of the screen to be output by the projector module 420. I can. In FIGS. 7A and 7B, specific contents for determining the position of a screen to be output by the projector module 420 based on information related to movement of an external object will be described.
  • FIGS. 7A and 7B are diagrams illustrating an example in which an electronic device outputs a screen to a determined area according to various embodiments of the present disclosure.
  • an electronic device tracks an external object 710 using a vision sensor module (eg, the vision sensor module 410 of FIG. 4 ).
  • the vision sensor module 410 may generate information on the external object 710 by tracking the external object 710.
  • the information of the external object 710 may mean various information including a location of the external object 710, a movement direction of the external object 710, a movement speed of the external object 710, and a movement distance of the external object 710. I can.
  • the electronic device 300 may detect the appearance of an external object 710 based on an image captured by the vision sensor module 410.
  • the vision sensor module 410 may capture images every preset period and detect the appearance of the external object 710 based on the captured images.
  • the vision sensor module 410 may be implemented as an event-based vision sensor in order to improve the tracking speed of the external object 710.
  • the event-based vision sensor may mean a sensor that senses an event related to movement of the external object 710.
  • the event-based vision sensor does not transmit data to the processor 430 when the external object 710 is in a stopped state, and may transmit information related to the movement to the processor 430 when the external object is moved. have.
  • the event-based vision sensor may track an external object based on a change in light of pixels corresponding to the external object caused by the movement of the external object. Accordingly, when the vision sensor module 410 is an event-based vision sensor, movement-related information can be transmitted to the processor 430 only when the external object moves, thereby improving the tracking speed of the external object.
  • the electronic device 300 selects one of the areas 610, 620, and 630 determined based on information related to movement of an external object, and selects the selected area as the projector module 420. ) Can be determined by the location of the screen to be displayed. For example, the electronic device 300 selects an area 610, 620, 630 corresponding to a direction other than the direction 710 in which the external object exists. You can determine the location. For convenience of explanation, it is assumed that the specific area 610 is determined as a position output by the projector module 420.
  • the electronic device 300 may rotate the projector module 420 to the determined area 610.
  • the electronic device 300 may rotate the projector module 420 so that the projector module 420 outputs the screen 720 to the determined area 610 by controlling the first actuator included in the projector module 420. .
  • FIGS. 8A to 8C illustrates an embodiment of outputting the screen 720 to the determined area 610
  • the output area of the screen 720 may be changed according to the movement of the external object 710. The above embodiment will be described later in FIGS. 8A to 8C.
  • FIGS. 8A, 8B, and 8C are diagrams illustrating an example in which an electronic device according to various embodiments of the present disclosure changes an area to display a screen in response to movement of an external object.
  • an electronic device detects movement of an external object using a vision sensor module (eg, the vision sensor module 410 of FIG. 4 ). It can be confirmed that.
  • the electronic device 300 may control the vision sensor module 410 to track the external object in response to detecting movement of the external object.
  • the electronic device 300 may rotate the vision sensor module 410 to track an external object by controlling a second actuator included in the vision sensor module 410.
  • the electronic device 300 may analyze a tracking result of an external object and confirm that the external object (eg, the external object 710 of FIG. 7A) has moved.
  • the electronic device 300 may check the changed location of the external object 710 and determine whether to change the output location of the screen (eg, the screen 720 of FIG. 7B) based on the changed location.
  • the electronic device 300 may determine to change the output location of the screen 720 based on the changed location of the external object 710.
  • the electronic device 300 determines to change the output position of the screen 720 to another area 620 based on the changed position of the external object 710, and is included in the projector module 420.
  • the projector module 420 may be rotated to output the screen 720 to the changed area 620.
  • the electronic device 300 determines to change the output position of the screen 720 to another area 630 based on the changed position of the external object 710, and is included in the projector module 420.
  • the projector module 420 can be rotated to output the screen 720 to the changed area 630.
  • FIG. 9 is a diagram illustrating an embodiment in which an electronic device performs pre-distortion on a screen based on information on a region to be outputted according to various embodiments of the present disclosure.
  • the electronic device 300 may perform pre-distortion on an output screen based on information on an area 910 in which a screen is to be displayed.
  • the user 930 viewing the screen may have a problem in that the distorted screen may be viewed.
  • the relative distance between the area 910 to be displayed and the user 930 is different (in FIG. 9, the closer to the center of the area 910 to be displayed, the more the user 930 and the screen are displayed.
  • the electronic device 300 generates a pre-distorted screen 920 based on information on the area 910 in which the screen is to be output, and a projector module to output the pre-distorted screen 920 You can control 420.
  • FIG. 10 is a diagram illustrating an example in which an electronic device is activated in an electronic device according to various embodiments of the present disclosure.
  • an electronic device eg, the electronic device 300 of FIG. 3
  • uses a vision sensor module eg, the vision sensor module 410 of FIG. 1010
  • the vision sensor module 410 may capture images including the user 1010 while tracking the user 1010.
  • the processor eg, the processor 430 of FIG. 4
  • the processor 430 may analyze images captured by the vision sensor module 410 and check the behavior of the user 1010.
  • the processor 430 confirms that the action of the user 1010 is an action for activating the electronic device 300 (eg, an action to look at the electronic device 300), and activates various components of the electronic device 300.
  • the processor 430 may control a projector module (eg, the projector module 420 of FIG. 4) to output a specific screen 1020.
  • FIG. 11 is a diagram illustrating an embodiment of controlling an electronic device using a gesture in an electronic device according to various embodiments of the present disclosure.
  • an electronic device eg, the electronic device 300 of FIG. 3
  • uses a vision sensor module eg, the vision sensor module 410 of FIG. 1010
  • the vision sensor module 410 may capture images including the user 1010 while tracking the user 1010.
  • the processor eg, the processor 430 of FIG. 4
  • the processor 430 may analyze images captured by the vision sensor module 410 and check a gesture of the user 1010.
  • the processor 430 confirms that the gesture of the user 1010 is an action for controlling the electronic device 300 (eg, a user gesture for controlling the displayed screen 1030), and controls the electronic device 300. have.
  • the processor 430 may perform an operation on the screen 1030 based on a user's gesture.
  • FIGS. 12 and 13 are diagrams illustrating an embodiment in which an electronic device proposes content to be output on a screen in an electronic device according to various embodiments of the present disclosure.
  • an electronic device eg, the electronic device 300 of FIG. 3
  • uses a vision sensor module eg, the vision sensor module 410 of FIG. 4 .
  • the vision sensor module 410 may capture images including the user 1010 while tracking the user 1010.
  • the processor e.g., the processor 430 of FIG. 4
  • the processor 430 may control the projector module 420 to generate a screen 1220 to be output based on context information on the user's 1010 behavior and output the generated screen 1220.
  • the electronic device 300 may analyze an image photographed using the vision sensor module 410 and check context information on the user's 1010 behavior (the user 1010 goes to work). .
  • the electronic device 300 may generate a screen 1220 to be output based on context information on a user's behavior.
  • the generated screen may include information related to the user's behavior. For example, various pieces of information including traffic information, weather, and schedule, which are information related to an action to go to work, may be included in the screen 1220.
  • the electronic device 300 may analyze an image captured using the vision sensor module 410 and check context information on the user's 1010 action (the user 1010 exercises). have.
  • the electronic device 300 may generate a screen 1320 to be output based on context information on a user's behavior.
  • the generated screen may include information related to the user's behavior. For example, various information including information related to an exercise start time, exercise progress time, and exercise, which are information related to an exercise action, may be included in the screen 1320.
  • FIGS. 14A, 14B, and 14C are diagrams illustrating an embodiment in which an external object is recognized using a vision sensor in an electronic device according to various embodiments of the present disclosure.
  • An electronic device (eg, the electronic device 300 of FIG. 3) according to various embodiments of the present disclosure uses a vision sensor module (eg, the vision sensor module 410 of FIG. 4) to provide the electronic device 300.
  • External objects existing in space can be tracked.
  • the vision sensor module 410 may generate information related to movement of the external object by tracking the external object. Information related to the movement of the external object may measure whether the external object has moved, the direction in which the external object has moved, or the distance that the external object has moved.
  • the vision sensor module 410 may be implemented as an event-based vision sensor to improve the tracking speed of an external object.
  • the event-based vision sensor may mean a sensor that senses an event related to movement of an external object.
  • the event-based vision sensor does not transmit data to the processor 430 when the external object is in a stopped state, and may transmit information related to the movement to the processor 430 when the external object moves.
  • the event-based vision sensor may track an external object based on a change in light of pixels corresponding to the external object caused by the movement of the external object.
  • FIG. 14A to 14C illustrate images captured by the vision sensor module 410 implemented as an event-based vision sensor.
  • the area 1410 corresponding to the external object in the image captured by the vision sensor module 410 is brighter than other areas.
  • the area 1420 corresponding to the external object in the image captured by the vision sensor module 410 is brighter than other areas. have.
  • the electronic device 300 may track a movement of an external object based on a change amount of light of pixels included in a captured image.
  • the electronic device 300 may classify the external object included in the captured image while tracking the movement of the external object based on the amount of light change. Classification of external objects may be performed by the electronic device 300 or an external server connected to the electronic device 300.
  • the electronic device 300 may generate information on an external object by processing information requiring a high processing speed and information requiring high accuracy, respectively, and synchronizing the processed information.
  • Information requiring a high processing speed may mean information related to tracking of an external object (eg, a moving direction of an external object).
  • Information requiring high accuracy may mean information related to classification of an external object (eg, whether an external object is a user, whether an external object is a user's face, or a user's hand).
  • the electronic device 300 first determines a location of a screen to be output based on movement information of the external object by independently generating movement information of the external object and classifying the external object. , It is possible to determine whether to display the screen based on the classification result of the external object.
  • a method of independently generating movement information of an external object and classifying an external object can improve processing speed compared to a method of simultaneously performing movement information and classification.
  • the classification operation for an external object to be performed on an external server or to be performed on an electronic device may be slower than the operation of generating movement information by checking the amount of light change, and simultaneously generating movement information and classifying external objects. In this case, this is because the processing speed may decrease due to the classification operation on the external object.
  • 15, 16, and 17 are diagrams illustrating screens output by the electronic device in an electronic device according to various embodiments of the present disclosure.
  • a screen output by an electronic device eg, the electronic device 300 of FIG. 3 according to various embodiments of the present disclosure using a projector module (eg, the projector module 420 of FIG. 4) ( 1500).
  • a projector module eg, the projector module 420 of FIG. 4
  • the output screen 1500 may include various types of content 1510, 1520, and 1530.
  • Each of the contents 1510, 1520, and 1530 may include different types of information.
  • the locations of the contents 1510, 1520, and 1530 may be changed by a user's gesture.
  • the weather content 1520 is disposed in the center, but the alarm content 1510 or the news content 1530 may be disposed in the center by a user's gesture.
  • an area outside the contents 1510, 1520, and 1530 may be implemented in black so that the boundaries of each of the contents 1510, 1520, and 1530 included in the output screen 1500 are not visible. I can.
  • the electronic device 300 may measure a distance between an external object and the electronic device 300 using the vision sensor module 410.
  • the electronic device 300 may change the characteristics of the screen 1500 to be output based on the measured distance.
  • the processor 430 may change the layout of the displayed screen 1500 according to the measured distance.
  • the electronic device 300 displays one of the contents 1510, 1520, and 1530 from the output screen 1500 to the enlarged screen 1600. It can be converted and printed.
  • the screen 1600 illustrates a screen 1600 output by the electronic device 300 using the projector module 420.
  • the screen 1600 may include content 1610 in which the weather content 1520 included in the screen 1500 of FIG. 15 is enlarged.
  • the electronic device 300 displays one of the contents 1510, 1520, and 1530 included in the output screen 1500.
  • the screen 1520 including the enlarged content 1610 may be switched.
  • the electronic device 300 measures the illuminance of a space in which the electronic device 300 is disposed using an illuminance sensor (eg, an illuminance sensor included in the sensor module 176 of FIG. 1 ). can do.
  • the electronic device 300 may change characteristics of the output screen 1500 based on the measured illuminance. For example, when the measured illuminance is less than a preset value, the electronic device 300 may increase the contrast to increase the sharpness of the screen.
  • the screen 1700 illustrates a screen 1700 that the electronic device 300 outputs using the projector module 420.
  • the screen 1700 may be a screen in which the contrast of the contents 1510, 1520, and 1530 included in the screen 1500 of FIG. 15 is increased. The user can view a clear screen even in a dark space through the screen with increased contrast.
  • An electronic device includes a vision sensor capable of detecting an external object in a space in which the electronic device is disposed and rotatable; A projector that outputs a screen to the space in which the electronic device is disposed and is rotatable; A memory for storing space information on a space in which the electronic device is disposed; And a processor, wherein the processor controls the vision sensor to track an external object while the vision sensor rotates, and based on the spatial information and information on the external object generated based on the tracking of the external object, the The projector may be set to determine a position of a screen to be output and to control the projector to output the screen to the determined position.
  • the processor in response to the vision sensor detecting the movement of the external object, changes the project to change the output position of the screen based on the changed position of the external object. Can be set to control.
  • the processor pre-scans a space in which the electronic device is placed, and based on the scanning result, the projector determines at least one or more areas in which the screen can be output, and the It may be set to store information on the determined area in the memory.
  • the processor selects one of the at least one area based on the location of the external object and controls the projector to output the screen to the selected area. I can.
  • the electronic device further includes a microphone, wherein the processor detects that sound is received through the microphone, checks the direction of the sound based on information transmitted from the microphone, and It is possible to determine whether to process an operation corresponding to the sound based on the position of the object and the direction of the sound.
  • the processor may be configured to determine to process an operation corresponding to the sound in response to confirming that the position of the external object and the direction of the sound match.
  • the processor may be configured to ignore the received sound in response to determining that the location of the external object and the direction of the sound do not match.
  • the processor may be configured to perform pre-distortion on the screen based on information on an area in which the screen is to be displayed.
  • the processor measures the illuminance of a space in which the electronic device is disposed using an illuminance sensor, and the measured illuminance and the electronic device and the external device measured by the vision sensor It may be set to change the characteristics of an output screen based on the distance between objects.
  • the characteristics of the screen may include the brightness of the screen or the layout of the screen.
  • the vision sensor is an event-based vision sensor that does not transmit data when the external object is in a stationary state and transmits data when the external object is in a moving state
  • the The processor may be configured to control the vision sensor to track the external object based on a change amount of light generated according to the movement of the external object.
  • FIG. 18 is a flowchart illustrating a method 1800 of operating an electronic device according to various embodiments of the present disclosure.
  • the electronic device uses a vision sensor module (eg, the vision sensor module 410 of FIG. 4) to detect an external object. I can trace it.
  • a vision sensor module eg, the vision sensor module 410 of FIG. 4
  • the vision sensor module 410 may track an external object existing in a space in which the electronic device 300 is disposed.
  • the vision sensor module 410 may generate information related to movement of the external object by tracking the external object.
  • Information related to the movement of the external object may measure whether the external object has moved, the direction in which the external object has moved, or the distance that the external object has moved.
  • the vision sensor module 410 may be implemented as an event-based vision sensor to improve the tracking speed of an external object.
  • the event-based vision sensor may mean a sensor that senses an event related to movement of an external object.
  • the event-based vision sensor does not transmit data to the processor 430 when the external object is in a stopped state, and may transmit information related to the movement to the processor 430 when the external object moves.
  • the event-based vision sensor may track an external object based on a change in light of pixels corresponding to the external object caused by the movement of the external object. Accordingly, when the vision sensor module 410 is an event-based vision sensor, movement-related information can be transmitted to the processor 430 only when the external object moves, thereby improving the tracking speed of the external object.
  • the electronic device 300 may determine a position of a screen to be output by a projector module (eg, the projector module 420 of FIG. 4) based on a tracking result of an external object. have.
  • a projector module eg, the projector module 420 of FIG. 4
  • the electronic device 300 may determine a location of a screen to be output by the projector module 420 based on information of an external object and spatial information generated based on a tracking result of the external object. .
  • the electronic device 300 selects one position in consideration of the position of an external object among at least one screen position stored in the memory 440, and the projector module 420 You can decide the location of the screen to be displayed. For example, the electronic device 300 may determine a location of a screen to be output by the projector module 420 by selecting a location corresponding to a direction other than the direction in which the external object exists.
  • the electronic device 300 may control the projector module 420 to output a screen to a determined position.
  • the projector module 420 may output a screen based on the control of the processor 430.
  • the projector module 420 may output a screen by projecting light onto a partial area of a space in which the electronic device 300 is disposed.
  • the projector module 420 may include a light source for outputting light for outputting a screen and at least one lens for projecting light in a specific direction.
  • the processor 430 may control a first actuator (not shown) included in the projector module 420 to output a screen in a specific direction.
  • the first actuator may rotate the lens included in the projector module 420 in a vertical direction or a horizontal direction to output a screen in a specific direction based on the control of the processor 430.
  • a method of operating an electronic device may include detecting an external object in a space in which the electronic device is disposed, and tracking the external object while rotating a rotatable vision sensor; Based on the information of the external object generated based on the tracking result of the external object and the spatial information of the space in which the electronic device is placed, the processor outputs the screen to the space where the electronic device is placed. Determining the position of the screen; And controlling the projector to output the screen to the determined position.
  • the method of operating an electronic device allows the processor to change the output position of the screen based on the changed position of the external object in response to the vision sensor detecting the movement of the external object. It may further include an operation of controlling the project.
  • a method of operating an electronic device may include pre-scanning a space in which the electronic device is disposed; Determining, by the projector, at least one area in which the screen can be outputted based on the scanning result; The operation of storing information on the determined region in a memory may further be included.
  • a method of operating an electronic device may include selecting one of the at least one or more regions based on a location of the external object; And controlling the projector to output the screen to the selected area.
  • a method of operating an electronic device may include: sensing that sound is received through the microphone; Checking the direction of the sound based on the information transmitted from the microphone; And determining whether to process an operation corresponding to the sound based on the location of the external object and the direction of the sound.
  • the operation of determining whether to process an operation corresponding to the sound is performed in response to confirming that the position of the external object and the direction of the sound match. Determining to process an operation corresponding to a; And disregarding the received sound in response to confirming that the location of the external object and the direction of the sound do not match.
  • the method of operating an electronic device may further include performing pre-distortion on the screen based on information on an area in which the screen is to be displayed.
  • a method of operating an electronic device may include measuring an illuminance of a space in which the electronic device is disposed using an illuminance sensor; And changing a characteristic of an output screen based on the measured illuminance and a distance between the electronic device and the external object measured by the vision sensor.
  • the vision sensor does not transmit data when the external object is in a stopped state, and transmits data when the external object is in a moving state.
  • the operation of tracking the external object by the vision sensor may include an operation of tracking the external object based on a change amount of light generated according to the movement of the external object.
  • Electronic devices may be devices of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • phrases such as “at least one of, B, or C” may include any one of the items listed together in the corresponding one of the phrases, or all possible combinations thereof.
  • Terms such as “first”, “second”, or “first” or “second” may be used simply to distinguish the component from other corresponding components, and the components may be referred to in other aspects (eg, importance or Order) is not limited.
  • Some (eg, a first) component is referred to as “coupled” or “connected” with or without the terms “functionally” or “communicatively” to another (eg, second) component. When mentioned, it means that any of the above components can be connected to the other components directly (eg by wire), wirelessly, or via a third component.
  • module used in this document may include a unit implemented in hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic blocks, parts, or circuits.
  • the module may be an integrally configured component or a minimum unit of the component or a part thereof that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document include one or more instructions stored in a storage medium (eg, internal memory 136 or external memory 138) readable by a machine (eg, electronic device 101). It may be implemented as software (for example, the program 140) including them.
  • the processor eg, the processor 120 of the device (eg, the electronic device 101) may call and execute at least one command among one or more commands stored from a storage medium. This makes it possible for the device to be operated to perform at least one function according to the at least one command invoked.
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • a storage medium that can be read by a device may be provided in the form of a non-transitory storage medium.
  • non-transient only means that the storage medium is a tangible device and does not contain a signal (e.g., electromagnetic wave), and this term refers to the case where data is semi-permanently stored in the storage medium. It does not distinguish between temporary storage cases.
  • a signal e.g., electromagnetic wave
  • a method according to various embodiments disclosed in the present document may be provided by being included in a computer program product.
  • Computer program products can be traded between sellers and buyers as commodities.
  • Computer program products are distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play StoreTM) or two user devices ( It can be distributed (e.g., downloaded or uploaded) directly between, e.g. smartphones).
  • a device e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play StoreTM
  • two user devices It can be distributed (e.g., downloaded or uploaded) directly between, e.g. smartphones).
  • at least a part of the computer program product may be temporarily stored or temporarily generated in a storage medium that can be read by a device such as a server of a manufacturer, a server of an application store, or a memory of a relay server.
  • each component (eg, module or program) of the above-described components may include a singular number or a plurality of entities.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components in the same or similar to that performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are sequentially, parallel, repeatedly, or heuristically executed, or one or more of the above operations are executed in a different order or omitted. Or one or more other actions may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • General Engineering & Computer Science (AREA)
  • Otolaryngology (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Geometry (AREA)
  • Electromagnetism (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

다양한 실시예에 따른 전자 장치 및 전자 장치의 동작 방법에서, 전자 장치는 상기 전자 장치가 배치된 공간의 외부 객체를 감지하고, 회전 가능한 비전 센서; 상기 전자 장치가 배치된 공간으로 화면을 출력하고, 회전 가능한 프로젝터; 상기 전자 장치가 배치된 공간의 공간 정보를 저장하는 메모리; 및 프로세서를 포함하고, 상기 프로세서는 상기 비전 센서가 회전하면서 외부 객체를 추적하도록 상기 비전 센서를 제어하고, 상기 공간 정보 및 상기 외부 객체의 추적에 기반하여 생성된 상기 외부 객체의 정보에 기반하여 상기 프로젝터가 출력할 화면의 위치를 결정하고, 상기 결정된 위치로 상기 화면을 출력하도록 상기 프로젝터를 제어하도록 설정될 수 있다. 이 밖에 다양한 실시예들이 가능하다.

Description

외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법
본 발명의 다양한 실시예는, 전자 장치 및 전자 장치의 동작 방법에 관한 것으로, 특히 외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 기술에 대한 것이다.
스마트 폰(smart phone), 태블릿 PC(tablet PC), PMP(portable multimedia player), PDA(personal digital assistant), 랩탑 PC(laptop personal computer) 및 웨어러블 기기(wearable device) 등의 다양한 전자 장치들이 보급되고 있다.
최근의 전자 장치는 전자 장치의 사용자가 이용 가능한 다양한 인공 지능 서비스를 제공하고 있다. 인공 지능 서비스는 사용자의 음성 또는 동작 제스처를 감지하고, 감지된 동작 제스처에 대응하는 전자 장치의 다양한 기능을 실행할 수 있다. 전자 장치는 기능을 실행한 후, 처리 결과를 시각화된 형태 또는 음성 형태로 제공하는 인공지능 서비스를 제공할 수 있다.
전자 장치는 사용자의 제스처 동작을 감지하기 위해서 사용자의 제스처를 감지하기 위한 비전 센서를 구비할 수 있다.
전자 장치는 사용자의 제스처를 감지하기 위해서 비전 센서를 이용하여 촬영을 수행할 수 있다. 전자 장치는 비전 센서가 촬영한 이미지를 분석하고, 이미지에 포함된 외부 객체(예: 사용자의 신체의 일부)와 관련된 정보를 획득할 수 있다. 전자 장치는 외부 객체와 관련된 정보에 기반하여 인공 지능 서비스를 제공할 수 있다.
인공 지능 서비스를 제공하기 위해서는 높은 속도가 요구되는 요소와 높은 정확도가 요구되는 요소가 요구될 수 있으며, 비전 센서를 이용하여 촬영한 이미지 분석을 통해 상기 요소들을 모두 처리하는 경우, 처리 속도가 낮아질 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는 상기 전자 장치가 배치된 공간의 외부 객체를 감지하고, 회전 가능한 비전 센서; 상기 전자 장치가 배치된 공간으로 화면을 출력하고, 회전 가능한 프로젝터; 상기 전자 장치가 배치된 공간의 공간 정보를 저장하는 메모리; 및 프로세서를 포함하고, 상기 프로세서는 상기 비전 센서가 회전하면서 외부 객체를 추적하도록 상기 비전 센서를 제어하고, 상기 공간 정보 및 상기 외부 객체의 추적에 기반하여 생성된 상기 외부 객체의 정보에 기반하여 상기 프로젝터가 출력할 화면의 위치를 결정하고, 상기 결정된 위치로 상기 화면을 출력하도록 상기 프로젝터를 제어하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 상기 전자 장치가 배치된 공간의 외부 객체를 감지하고, 회전 가능한 비전 센서가 회전하면서 외부 객체를 추적하는 동작; 상기 외부 객체의 추적 결과에 기반하여 생성된 상기 외부 객체의 정보 및 상기 전자 장치가 배치된 공간의 공간 정보에 기반하여, 프로세서가, 상기 전자 장치가 배치된 공간으로 화면을 출력하는 프로젝터가 출력할 화면의 위치를 결정하는 동작; 및 상기 결정된 위치로 상기 화면을 출력하도록 상기 프로젝터를 제어하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치 및 전자 장치의 동작 방법은, 비전 센서가 촬영한 이미지로부터 빠른 속도가 요구되는 요소(외부 객체의 이동 정보)와 높은 정확도가 요구되는 요소(외부 객체의 분류)를 비동기적으로 처리한 후, 최종 동작 단계에서 동기화함으로써, 속도 및 정확도를 모두 향상시킬 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치 및 전자 장치의 동작 방법은, 이벤트 기반 비전 센서를 이용함으로써, 이벤트가 발생한 경우에만 데이터를 전송함으로써, 처리 속도를 향상 시킬 수 있다.
도 1은 본 발명의 다양한 실시예에 따른, 전자 장치의 블록도이다.
도 2은 다양한 실시예에 따른 프로그램을 예시하는 블록도이다.
도 3은 본 발명의 다양한 실시예에 따른 전자 장치를 도시한 도면이다.
도 4는 본 발명의 다양한 실시예에 따른 전자 장치의 블록도이다.
도 5는 본 발명의 다양한 실시예에 따른 전자 장치의 소프트웨어 적으로 구현된 구성 요소들을 도시한 도면이다.
도 6a, 6b는 본 발명의 다양한 실시예에 따른 전자 장치가, 화면을 출력할 영역을 결정하는 실시예를 도시한 도면이다.
도 7a, 7b는 본 발명의 다양한 실시예에 따른 전자 장치가, 결정된 영역으로 화면을 출력하는 실시예를 도시한 도면이다.
도 8a, 8b 및 8c는 본 발명의 다양한 실시예에 따른 전자 장치가, 외부 객체의 이동에 대응하여 화면을 출력할 영역을 변경하는 실시예를 도시한 도면이다.
도 9는 본 발명의 다양한 실시예에 따른 전자 장치가, 화면을 출력할 영역에 대한 정보에 기반하여 화면에 대한 사전 왜곡을 수행하는 실시예를 도시한 도면이다.
도 10은 본 발명의 다양한 실시예에 따른 전자 장치에서, 전자 장치를 활성화 시키는 실시예를 도시한 도면이다.
도 11은 본 발명의 다양한 실시예에 따른 전자 장치에서, 제스처를 이용하여 전자 장치를 제어하는 실시예를 도시한 도면이다.
도 12 및 도 13은 본 발명의 다양한 실시예에 따른 전자 장치에서, 전자 장치가 화면에 출력될 컨텐츠를 제안하는 실시예를 도시한 도면이다.
도 14a, 도 14b 및 도 14c는 본 발명의 다양한 실시예에 따른 전자 장치에서, 비전 센서를 이용하여 외부 객체를 인식하는 실시예를 도시한 도면이다.
도 15, 도 16 및 도 17은 본 발명의 다양한 실시예에 따른 전자 장치에서, 전자 장치가 출력하는 화면을 도시한 도면이다.
도 18은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법을 도시한 동작 흐름도이다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블럭도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)은 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)은, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예:스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150) 를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)이 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)은, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(388)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, or 108) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다.. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2은 다양한 실시예에 따른 프로그램(140)을 예시하는 블록도(200)이다. 일실시예에 따르면, 프로그램(140)은 전자 장치(101)의 하나 이상의 리소스들을 제어하기 위한 운영 체제(142), 미들웨어(144), 또는 상기 운영 체제(142)에서 실행 가능한 어플리케이션(146)을 포함할 수 있다. 운영 체제(142)는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 프로그램(140) 중 적어도 일부 프로그램은, 예를 들면, 제조 시에 전자 장치(101)에 프리로드되거나, 또는 사용자에 의해 사용 시 외부 전자 장치(예: 전자 장치(102 또는 104), 또는 서버(108))로부터 다운로드되거나 갱신 될 수 있다.
운영 체제(142)는 전자 장치(101)의 하나 이상의 시스템 리소스들(예: 프로세스, 메모리, 또는 전원)의 관리(예: 할당 또는 회수)를 제어할 수 있다. 운영 체제(142)는, 추가적으로 또는 대체적으로, 전자 장치(101)의 다른 하드웨어 디바이스, 예를 들면, 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 구동하기 위한 하나 이상의 드라이버 프로그램들을 포함할 수 있다.
미들웨어(144)는 전자 장치(101)의 하나 이상의 리소스들로부터 제공되는 기능 또는 정보가 어플리케이션(146)에 의해 사용될 수 있도록 다양한 기능들을 어플리케이션(146)으로 제공할 수 있다. 미들웨어(144)는, 예를 들면, 어플리케이션 매니저(201), 윈도우 매니저(203), 멀티미디어 매니저(205), 리소스 매니저(207), 파워 매니저(209), 데이터베이스 매니저(211), 패키지 매니저(213), 커넥티비티 매니저(215), 노티피케이션 매니저(217), 로케이션 매니저(219), 그래픽 매니저(221), 시큐리티 매니저(223), 통화 매니저(225), 또는 음성 인식 매니저(227)를 포함할 수 있다.
어플리케이션 매니저(201)는, 예를 들면, 어플리케이션(146)의 생명 주기를 관리할 수 있다. 윈도우 매니저(203)는, 예를 들면, 화면에서 사용되는 하나 이상의 GUI 자원들을 관리할 수 있다. 멀티미디어 매니저(205)는, 예를 들면, 미디어 파일들의 재생에 필요한 하나 이상의 포맷들을 파악하고, 그 중 선택된 해당하는 포맷에 맞는 코덱을 이용하여 상기 미디어 파일들 중 해당하는 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(207)는, 예를 들면, 어플리케이션(146)의 소스 코드 또는 메모리(130)의 메모리의 공간을 관리할 수 있다. 파워 매니저(209)는, 예를 들면, 배터리(189)의 용량, 온도 또는 전원을 관리하고, 이 중 해당 정보를 이용하여 전자 장치(101)의 동작에 필요한 관련 정보를 결정 또는 제공할 수 있다. 일실시예에 따르면, 파워 매니저(209)는 전자 장치(101)의 바이오스(BIOS: basic input/output system)(미도시)와 연동할 수 있다.
데이터베이스 매니저(211)는, 예를 들면, 어플리케이션(146)에 의해 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(213)는, 예를 들면, 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다. 커넥티비티 매니저(215)는, 예를 들면, 전자 장치(101)와 외부 전자 장치 간의 무선 연결 또는 직접 연결을 관리할 수 있다. 노티피케이션 매니저(217)는, 예를 들면, 지정된 이벤트(예: 착신 통화, 메시지, 또는 알람)의 발생을 사용자에게 알리기 위한 기능을 제공할 수 있다. 로케이션 매니저(219)는, 예를 들면, 전자 장치(101)의 위치 정보를 관리할 수 있다. 그래픽 매니저(221)는, 예를 들면, 사용자에게 제공될 하나 이상의 그래픽 효과들 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다.
시큐리티 매니저(223)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 통화(telephony) 매니저(225)는, 예를 들면, 전자 장치(101)에 의해 제공되는 음성 통화 기능 또는 영상 통화 기능을 관리할 수 있다. 음성 인식 매니저(227)는, 예를 들면, 사용자의 음성 데이터를 서버(108)로 전송하고, 그 음성 데이터에 적어도 일부 기반하여 전자 장치(101)에서 수행될 기능에 대응하는 명령어(command), 또는 그 음성 데이터에 적어도 일부 기반하여 변환된 문자 데이터를 서버(108)로부터 수신할 수 있다. 일 실시예에 따르면, 미들웨어(244)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. 일 실시예에 따르면, 미들웨어(144)의 적어도 일부는 운영 체제(142)의 일부로 포함되거나, 또는 운영 체제(142)와는 다른 별도의 소프트웨어로 구현될 수 있다.
어플리케이션(146)은, 예를 들면, 홈(251), 다이얼러(253), SMS/MMS(255), IM(instant message)(257), 브라우저(259), 카메라(261), 알람(263), 컨택트(265), 음성 인식(267), 이메일(269), 달력(271), 미디어 플레이어(273), 앨범(275), 와치(277), 헬스(279)(예: 운동량 또는 혈당과 같은 생체 정보를 측정), 또는 환경 정보(281)(예: 기압, 습도, 또는 온도 정보 측정) 어플리케이션을 포함할 수 있다. 일실시예에 따르면, 어플리케이션(146)은 전자 장치(101)와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션(미도시)을 더 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치로 지정된 정보 (예: 통화, 메시지, 또는 알람)를 전달하도록 설정된 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하도록 설정된 장치 관리 어플리케이션을 포함할 수 있다. 노티피케이션 릴레이 어플리케이션은, 예를 들면, 전자 장치(101)의 다른 어플리케이션(예: 이메일 어플리케이션(269))에서 발생된 지정된 이벤트(예: 메일 수신)에 대응하는 알림 정보를 외부 전자 장치로 전달할 수 있다. 추가적으로 또는 대체적으로, 노티피케이션 릴레이 어플리케이션은 외부 전자 장치로부터 알림 정보를 수신하여 전자 장치(101)의 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치(101)와 통신하는 외부 전자 장치 또는 그 일부 구성 요소(예: 표시 장치(160) 또는 카메라 모듈(180))의 전원(예: 턴-온 또는 턴-오프) 또는 기능(예: 표시 장치(160) 또는 카메라 모듈(180)의 밝기, 해상도, 또는 포커스)을 제어할 수 있다. 장치 관리 어플리케이션은, 추가적으로 또는 대체적으로, 외부 전자 장치에서 동작하는 어플리케이션의 설치, 삭제, 또는 갱신을 지원할 수 있다.
도 3은 본 발명의 다양한 실시예에 따른 전자 장치를 도시한 도면이다.
도 3을 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))(300)는 제 1 하우징(310), 프로젝터 모듈(320), 비전 센서 모듈(330) 및 제 2 하우징(340)을 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 제 1 하우징(310)은 프로젝터 모듈(320)을 회전시키기 위해서 제 1 액츄에이터(미도시)를 포함할 수 있다. 제 1 액츄에이터는 프로젝터 모듈(320)을 수직 방향(A 방향)으로 회전시키거나, 수평 방향(B)으로 회전시킬 수 있다. 프로젝터 모듈(320)은 A 방향으로 회전하는 경우, 제 1 하우징(310)은 고정된 상태에서 프로젝터 모듈(320)만 A 방향으로 회전할 수 있다. 프로젝터 모듈(320)는 B 방향으로 회전하는 경우, 제 1 하우징(310) 및 프로젝터 모듈(320)이 동시에 회전할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로젝터 모듈(320)은 프로세서의 제어에 기반하여 화면을 출력할 수 있다. 프로젝터 모듈(320)은 빛을 전자 장치(300)가 배치된 공간의 일부 영역에 빛을 투사하는 방식으로 화면을 출력할 수 있다. 이를 위해, 프로젝터 모듈(320)은 화면을 출력하기 위한 빛을 출력하는 광원 및 빛을 특정 방향으로 투사하기 위한 적어도 하나 이상의 렌즈를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 모듈(330)은 전자 장치(300)가 배치된 공간을 분석할 수 있다. 비전 센서 모듈(330)은 전자 장치(300)가 배치된 공간을 촬영하고, 촬영된 이미지를 분석하는 방식으로 전자 장치(300)가 배치된 공간을 분석할 수 있다. 비전 센서 모듈(330)이 전자 장치(300)가 배치된 공간을 분석하는 방식은 현재 구현된 다양한 방식 또는 앞으로 구현될 다양한 방식을 이용할 수 있다. 예를 들면, 비전 센서 모듈(330)은 촬영한 복수의 로우 이미지(raw image) 또는 뎁스 이미지(depth image, 객체의 거리에 대한 정보를 포함하는 이미지로 복수의 이미지 센서를 이용하여 촬영 가능한 이미지를 의미할 수 있다)를 분석한 결과에 기반하여 실내 공간을 시뮬레이션 하는 방식으로 공간을 분석하고, 분석 결과에 기반하여 공간 정보를 획득할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 모듈(330)은 전자 장치(300)가 배치된 공간, 전자 장치(300)의 주위에 존재하는 외부 객체(예: 사용자의 신체의 일부, 공간에 배치된 다양한 제품)에 대한 정보를 획득할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 모듈(330)은 제 2 액츄에이터(미도시)를 포함할 수 있다. 제 2 액츄에이터는 비전 센서 모듈(330)을 수평 방향(B)으로 회전시킬 수 있다. 비전 센서 모듈(330)은 제 2 액츄에이터의 동작에 기반하여 수평 방향(B)으로 회전하는 방식으로, 전자 장치(300)가 배치된 공간 또는 전자 장치(300)의 주위에 존재하는 외부 객체에 대한 정보를 획득할 수 있다.
본 발명의 다양한 실시예에 따르면, 제 2 하우징(340)은 전자 장치(300)의 다양한 구성 요소(예: 프로세서, 스피커, 마이크로폰, 네트워크 인터페이스 또는 입출력 인터페이스)를 포함할 수 있다. 제 2 하우징(340)에 포함된 스피커는 프로세서의 제어에 기반하여 다양한 사운드를 출력할 수 있다. 제 2 하우징(340)에 포함된 마이크로폰은 프로세서의 제어에 기반하여 다양한 사운드를 감지할 수 있다. 마이크로폰은 지향성을 갖는 어레이 마이크로폰을 의미할 수 있다. 예를 들면, 제 2 하우징(340)은 복수의 마이크로폰(예: 4 개의 마이크로폰)을 포함할 수 있고, 복수의 마이크로폰은 사운드가 출력된 방향 및 사운드를 감지할 수 있다.
도 4는 본 발명의 다양한 실시예에 따른 전자 장치의 블록도이다.
도 4를 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 3의 비전 센서 모듈(330))(410), 프로젝터 모듈(예: 도 3의 프로젝터 모듈(320))(420), 프로세서(430) 및 메모리(440)를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 모듈(410)은 전자 장치(300)가 배치된 공간을 분석할 수 있다. 비전 센서 모듈(410)은 전자 장치(300)가 배치된 공간을 촬영하고, 촬영된 이미지를 프로세서(430)로 전송할 수 있다. 프로세서(430)는 촬영된 이미지를 분석하는 방식으로 전자 장치(300)가 배치된 공간을 분석할 수 있다. 프로세서(430)는 비전 센서 모듈(410)을 이용하여 전자 장치(300)가 배치된 공간을 미리 스캐닝할 수 있다. 전자 장치(300)가 배치된 공간을 스캐닝하는 시기는 설정에 따라서 다양하게 구현될 수 있다. 전자 장치(300)가 공간에 처음 배치되는 경우(out-of-box), 프로세서(430)는 비전 센서 모듈(410)을 이용하여 전자 장치(300)가 배치된 공간을 스캐닝하고, 공간을 분석할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 비전 센서 모듈(410)을 이용하여 공간의 공간 정보를 획득할 수 있다. 획득된 공간 정보는 메모리(440)에 저장될 수 있다. 공간 정보는 전자 장치(300)가 배치된 공간의 크기, 공간의 위치, 공간에 포함된 벽의 위치, 벽의 평평한 정도를 지시할 수 있는 다양한 변수(예: 벽의 기울기), 전자 장치(300)가 배치된 공간에 포함된 다양한 외부 객체의 종류, 크기를 포함하는 다양한 정보를 의미할 수 있다. 프로세서(430)는 전자 장치(300)가 배치된 공간의 공간 정보에 기반하여 프로젝터 모듈(420)이 출력할 화면이 디스플레이될 적어도 하나 이상의 영역을 결정할 수 있다. 예를 들면, 프로세서(430)는 공간 정보에 기반하여 특정 영역의 평평한 정도를 확인하고, 평평한 정도가 미리 설정된 값 이상인 영역을 프로젝터 모듈(420)이 출력할 화면이 디스플레이될 영역으로 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 모듈(410)은 전자 장치(300)가 배치된 공간에 존재하는 외부 객체를 추적할 수 있다. 비전 센서 모듈(410)은 외부 객체를 추적함으로써, 외부 객체의 이동과 관련된 정보를 생성할 수 있다. 외부 객체의 이동과 관련된 정보는 외부 객체의 이동 여부, 외부 객체의 이동 방향 또는 외부 객체의 이동한 거리를 측정할 수 있다. 비전 센서 모듈(410)은 외부 객체의 추적 속도의 향상을 위해서 이벤트 기반 비전 센서로 구현될 수 있다. 이벤트 기반 비전 센서는 외부 객체의 이동과 관련된 이벤트를 센싱하는 센서를 의미할 수 있다. 예를 들면, 이벤트 기반 비전 센서는 외부 객체가 정지된 상태인 경우 데이터를 프로세서(430)로 전송하지 않으며, 외부 객체가 이동하는 경우, 이동과 관련된 정보를 프로세서(430)로 전송할 수 있다. 이벤트 기반 비전 센서는 외부 객체가 이동함으로써 발생하는 외부 객체에 대응하는 픽셀들의 빛의 변화량에 기반하여 외부 객체를 추적할 수 있다. 따라서, 비전 센서 모듈(410)이 이벤트 기반 비전 센서인 경우, 외부 객체가 이동할 때에만 이동과 관련된 정보를 프로세서(430)로 전송할 수 있어, 외부 객체의 추적 속도를 향상시킬 수 있다.
본 발명의 다양한 실시예에 따르면, 프로젝터 모듈(420)은 프로세서(430)의 제어에 기반하여 화면을 출력할 수 있다. 프로젝터 모듈(420)은 빛을 전자 장치(300)가 배치된 공간의 일부 영역에 빛을 투사하는 방식으로 화면을 출력할 수 있다. 이를 위해, 프로젝터 모듈(420)은 화면을 출력하기 위한 빛을 출력하는 광원 및 빛을 특정 방향으로 투사하기 위한 적어도 하나 이상의 렌즈를 포함할 수 있다. 프로세서(430)는 특정 방향으로 화면을 출력하기 위해서 프로젝터 모듈(420)에 포함된 제 1 액츄에이터(미도시)를 제어할 수 있다. 제 1 액츄에이터는 프로세서(430)의 제어에 기반하여 특정 방향으로 화면을 출력하도록 수직 방향 또는 수평 방향으로 프로젝터 모듈(420)에 포함된 렌즈를 회전시킬 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 비전 센서 모듈(410)를 이용하여 외부 객체를 감지할 수 있다. 외부 객체의 감지는 전자 장치(300)가 배치된 공간에 외부 객체의 존재를 감지하거나, 이미 등장한 외부 객체의 이동을 감지할 수 있다. 프로세서(430)는 외부 객체를 감지함에 대응하여, 외부 객체를 추적하도록 비전 센서 모듈(410)을 제어할 수 있다. 프로세서(430)는 외부 객체의 이동 방향을 확인하고, 외부 객체를 추적하기 위해서 외부 객체의 이동 방향과 동일한 방향으로 비전 센서 모듈(410)이 회전하도록 비전 센서 모듈(410)에 포함된 제 2 액츄에이터를 제어할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 외부 객체의 정보에 기반하여 화면의 출력을 수행할지 여부를 결정할 수 있다. 프로세서(430)는 외부 객체의 정보를 이용하여 외부 객체가 미리 설정된 객체와 동일하거나, 유사한 모양을 가지는 객체임을 확인함에 대응하여, 화면을 출력할 것을 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 빠른 처리 속도가 요구되는 정보와 높은 정확도가 요구되는 정보를 각각 처리하고, 처리된 정보를 동기화하는 방식으로 외부 객체에 대한 정보를 생성할 수 있다. 빠른 처리 속도가 요구되는 정보는 외부 객체의 추적에 관련된 정보(예: 외부 객체의 이동 방향)를 의미할 수 있다. 높은 정확도가 요구되는 정보는 외부 객체의 분류와 관련된 정보(예: 외부 객체가 사용자인지 여부, 외부 객체가 사용자의 얼굴인지, 사용자의 손인지 여부)를 의미할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 비전 센서 모듈(410)에서 수집한 이미지를 이용하여 빠른 처리 속도가 요구되는 외부 객체의 이동 방향을 포함하는 이동 정보를 생성할 수 있다. 예를 들면, 비전 센서 모듈(410)이 이벤트 기반 센서의 일 실시예인 동적 비전 센서(dynamic vision sensor, DVS)로 구현된 경우, 프로세서(430)는 외부 객체에 대응하는 픽셀들의 빛의 변화량에 기반하여 외부 객체의 이동 방향을 확인할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 객체의 이동 정보를 생성하는 동안, 비전 센서 모듈(410)에서 수집한 이미지를 이용하여 외부 객체에 대한 분류를 수행할 수 있다. 외부 객체에 대한 분류는 프로세서(430)에서 수행될 수 있으나, 프로세서(430)의 요청에 대응하여 전자 장치(300)와 연결된 외부 서버(미도시)에서 수행될 수도 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 외부 객체의 이동 정보 및 외부 객체에 대한 분류를 동기화함으로써, 외부 객체의 정보를 생성할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 외부 객체의 이동 정보 생성 및 외부 객체에 대한 분류를 독립적으로 진행함으로써, 외부 객체의 이동 정보에 기반하여 출력할 화면의 위치를 먼저 결정한 후, 외부 객체에 대한 분류 결과에 기반하여 화면을 출력할지 여부를 결정할 수 있다. 외부 객체의 이동 정보 생성 및 외부 객체에 대한 분류를 독립적으로 진행하는 방식은 이동 정보 및 분류를 동시에 수행하는 방식에 비해 처리 속도를 향상시킬 수 있다. 외부 서버에서 수행되거나, 전자 장치에서 수행될 외부 객체에 대한 분류 동작은 빛의 변화량을 확인함으로써 이동 정보를 생성하는 동작에 비해서 속도가 늦을 수 있으며, 이동 정보 생성 및 외부 객체에 대한 분류를 동시에 하는 경우, 외부 객체에 대한 분류 동작에 의해서 처리 속도가 감소할 수 있기 때문이다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 외부 객체의 추적 결과에 기반하여 생성된 외부 객체의 정보 및 공간 정보에 기반하여 프로젝터 모듈(420)이 출력할 화면의 위치를 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 메모리(440)에 저장된 적어도 하나 이상의 화면의 위치 중 외부 객체의 위치를 고려하여 하나의 위치를 선택하는 방식으로, 프로젝터 모듈(420)이 출력할 화면의 위치를 결정할 수 있다. 예를 들면, 프로세서(430)는 외부 객체가 존재하는 방향이 아닌 다른 방향에 대응하는 위치를 선택하는 방식으로, 프로젝터 모듈(420)이 출력할 화면의 위치를 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 결정된 위치로 화면을 출력하도록 프로젝터 모듈(420)을 제어할 수 있다. 프로세서(430)는 결정된 위치로 화면을 출력하도록 프로젝터 모듈(420)에 포함된 제 1 액츄에이터를 제어할 수 있다. 프로젝터 모듈(420)은 제 1 액츄에이터에 의해 결정된 위치로 이동하기 위해서 수평 방향 또는 수직 방향으로 회전할 수 있다. 프로젝터 모듈(420)은 회전 후, 결정된 위치로 화면을 출력할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 외부 객체의 분류 결과에 기반하여 다양한 화면을 제공할 수 있다. 프로세서(430)는 외부 객체의 분류 결과에 따라서 서로 다른 화면을 제공할 수 있다. 프로세서(430)는 외부 객체의 분류 결과에 기반하여 복수의 사용자들 중 하나의 사용자임을 확인하고, 확인된 사용자에 대응하는 화면을 출력할 수 있다. 예를 들면, 프로세서(430)는 외부 객체의 분류 결과에 기반하여 외부 객체가 나이가 어린 사용자임을 확인하고, 나이에 맞는 화면을 출력할 수 있다. 예를 들면, 프로세서(430)는 외부 객체의 분류 결과에 기반하여 복수의 사용자들 중 하나의 사용자임을 확인하고, 확인된 사용자에 대응하는 화면을 출력할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 화면이 출력될 영역에 대한 정보에 기반하여 출력된 화면에 대한 사전 왜곡을 수행할 수 있다. 화면이 출력될 영역의 특성에 따라서 화면을 보는 사용자는 왜곡된 화면을 볼 수 있는 문제가 발생할 수 있다. 예를 들면, 화면이 출력될 영역과 사용자 사이의 상대적인 위치에 따라서, 사용자는 왜곡된 모양을 갖는 화면을 보는 문제가 발생할 수 있다. 상기 문제를 해결하기 위해서, 프로세서(430)는 화면이 출력될 영역에 대한 정보에 기반하여 사전 왜곡된 화면을 생성하고, 사전 왜곡된 화면을 출력하도록 프로젝터 모듈(420)을 제어할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 조도 센서(예: 도 1 의 센서 모듈(176)에 포함된 조도 센서)를 이용하여 전자 장치(300)가 배치된 공간의 조도를 측정할 수 있다. 프로세서(430)는 측정된 조도에 기반하여 출력될 화면의 특성을 변경할 수 있다. 예를 들면, 프로세서(430)는 측정된 조도가 미리 설정된 값 미만인 경우, 화면의 선명도를 증가시키기 위해서 콘트라스트(contrast)를 증가시킬 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 비전 센서 모듈(410)을 이용하여 외부 객체와 전자 장치(300) 사이의 거리를 측정할 수 있다. 프로세서(430)는 측정된 거리에 기반하여 출력될 화면의 특성을 변경할 수 있다. 예를 들면, 프로세서(430)는 측정된 거리에 따라서 출력되는 화면의 레이아웃을 변경할 수 있다. 상기 실시예에 대해서는 도 15 내지 도 17에서 후술한다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 비전 센서 모듈(410)가 외부 객체의 이동을 감지함을 확인할 수 있다. 프로세서(430)는 외부 객체의 이동을 감지함에 대응하여, 외부 객체를 추적하도록 비전 센서 모듈(410)을 제어하고, 외부 객체의 변경된 위치에 기반하여 화면의 출력 위치를 변경할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서(430)는 마이크로폰을 통하여 사운드를 수신함을 감지하고, 마이크로폰에서 전송한 정보에 기반하여 사운드가 출력된 방향을 확인할 수 있다. 프로세서(430)는 마이크로폰이 지향성 어레이 마이크인 경우, 사운드가 출력된 방향을 확인할 수 있다. 프로세서(430)는 비전 센서 모듈(410)에서 측정한 외부 객체의 위치와 사운드의 방향에 기반하여 사운드에 대응하는 동작을 처리할지 여부를 결정할 수 있다. 사운드가 특정 동작(예: 특정 사용자에게 전화 요청)의 처리를 요청하는 데이터를 포함하는 경우, 사운드에 대응하는 동작은 특정 동작(예: 특정 사용자에게 전화)을 처리하는 동작을 의미할 수 있다. 프로세서(430)는 외부 객체의 위치와 사운드의 방향이 일치함을 확인함에 대응하여, 사운드에 대응하는 동작을 처리할 수 있다. 프로세서(430)는 외부 객체의 위치와 사운드의 방향이 불일치함을 확인함에 대응하여, 사운드를 무시할 수 있다. 상기와 같이 사운드에 대응하는 동작을 처리함에 있어서, 외부 객체의 위치 및 사운드의 방향을 모두 고려함으로써, 외부 객체가 아닌 다른 객체(예: 다른 사용자)에 의한 사운드를 처리함으로써 발생하는 오동작을 방지할 수 있다.
도 5는 본 발명의 다양한 실시예에 따른 전자 장치의 소프트웨어 적으로 구현된 구성 요소들을 도시한 도면이다.
도 5를 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(300)에 소프트웨어적으로 구현된 구성 요소들을 도시하고 있다.
본 발명의 다양한 실시예에 따르면, 작업 처리 에이전트 모듈(510)은 마이크로폰(540)을 통해 수신한 사운드를 텍스트로 변환하는 STT(speech to text) 매니저(501), 외부 서버로 STT 매니저(501)에서 전송한 사운드에 대응하는 텍스트를 외부 서버로 전송하거나, 외부 객체의 분류를 수행하는 외부 서버로부터 외부 객체의 분류 결과를 수신하는 서버 매니저(502), STT 매니저(501)에서 전송한 데이터, 서버 매니저(502)에서 전송한 데이터 및 비전 인식 매니저(504)에서 전송한 데이터를 컨텐츠 출력 모듈(503)로 전송하는 인터페이스를 포함하는 소켓 매니저(503), 외부 객체를 추적하는 트래커(522)로부터 데이터를 수신하는 비전 인식 매니저(504) 및 프로젝터 모터(예: 제 1 액츄에이터)(570) 및 비전 센서 모터(예: 제 2 액츄에이터)(56)를 제어하는 모터 제어 매니저(505)를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 처리 모듈(520)은 비전 센서(550)로부터 이미지 스트림을 수신하는 영상 스트리머(521) 및 영상 스트리머(521)에서 전송한 이미지 스트림에 기반하여 외부 객체를 추적하는 트래커(522)를 포함할 수 있다.
본 발명의 다양한 실시예예 따르면, 컨텐츠 출력 모듈(530)은 소켓 매니저(503)으로부터 데이터를 수신하고, 수신한 데이터를 이미지 처리 매니저(532) 또는 오디오 처리 매니저(533)으로 전송하는 처리 인터페이스(531), 처리 인터페이스(531)에서 수신한 데이터에 기반하여 화면을 출력하도록 프로젝터(580)를 제어하는 이미지 처리 매니저(532) 및 처리 인터페이스(531)에서 수신한 데이터에 기반하여 사운드를 출력하도록 스피커(590)를 제어하는 오디오 처리 매니저(533)를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서(550)는 외부 객체의 이동을 감지하고, 외부 객체가 포함된 이미지를 촬영한 후, 촬영된 이미지 스트림을 영상 스트리머(521)로 전송할 수 있다. 영상 스트리머(521)는 비전 센서(550)가 촬영한 이미지 스트림을 전처리하고, 전처리된 이미지 스트림을 트래커(522)로 전송할 수 있다. 트래커(522)는 전처리된 이미지 스트림을 이용하여 외부 객체의 이동 방향을 추적하고, 외부 객체의 이동 방향을 비전 인식 매니저(504)로 전송할 수 있다. 비전 인식 매니저(504)는 트래커(522)가 전송한 외부 객체의 이동 방향을 확인하고, 모터 제어 매니저(505)로 전송할 수 있다. 모터 제어 매니저(505)는 외부 객체의 이동 방향에 기반하여 비전 센서 모터(560) 또는 프로젝터 모터(570)를 제어하는 방식으로, 비전 센서(560)가 촬영하는 방향 또는 프로젝터(580)가 출력하는 화면의 방향을 변경할 수 있다.
본 발명의 다양한 실시예에 따르면, 이미지 처리 매니저(532)는 프로젝터(580)가 출력할 화면을 외부 객체의 분류 결과에 기반하여 처리할 수 있다. 소켓 매니저(503)는 처리 인터페이스(531)를 통해서 외부 객체의 분류 결과를 이미지 처리 매니저(532)로 전송할 수 있다. 외부 객체의 분류는 전자 장치(300) 또는 외부 서버(미도시)에서 수행될 수 있다. 전자 장치(300)가 외부 객체의 분류를 수행하는 경우, 비전 인식 매니저(504)가 소켓 매니저(503)으로 외부 객체의 분류 결과를 전송할 수 있다. 외부 서버가 외부 객체의 분류를 수행하는 경우, 서버 매니저(502)는 외부 객체의 분류 결과를 외부 서버로부터 수신하고, 소켓 매니저(503)로 외부 객체의 분류 결과를 전송할 수 있다.
도 6a, 6b는 본 발명의 다양한 실시예에 따른 전자 장치가, 화면을 출력할 영역을 결정하는 실시예를 도시한 도면이다.
도 6a는 전자 장치(예: 도 3의 전자 장치(300)) 및 전자 장치(300)가 배치된 공간(601)을 도시하고 있다. 전자 장치(300)는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여 전자 장치(300)가 배치된 공간을 분석할 수 있다. 비전 센서 모듈(410)은 전자 장치(300)가 배치된 공간을 촬영하고, 촬영된 이미지를 프로세서(430)로 전송할 수 있다. 프로세서(430)는 촬영된 이미지를 분석하는 방식으로 전자 장치(300)가 배치된 공간을 분석할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 비전 센서 모듈(410)을 이용하여 공간의 공간 정보를 획득할 수 있다. 공간 정보는 전자 장치(300)가 배치된 공간의 크기, 공간의 위치, 공간에 포함된 벽의 위치, 벽의 평평한 정도를 지시할 수 있는 다양한 변수(예: 벽의 기울기), 전자 장치(300)가 배치된 공간에 포함된 다양한 외부 객체의 종류, 크기를 포함하는 다양한 정보를 의미할 수 있다.
도 6b는 전자 장치(예: 도 3의 전자 장치(300))가 공간 정보에 기반하여 프로젝터 모듈(예: 도 4의 프로젝터 모듈(420))이 출력할 화면이 디스플레이될 적어도 하나 이상의 영역을 결정하는 실시예를 도시한 도면이다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 전자 장치(300)가 배치된 공간의 공간 정보에 기반하여 프로젝터 모듈(420)이 출력할 화면이 디스플레이될 적어도 하나 이상의 영역(610, 620, 630)을 결정할 수 있다. 예를 들면, 프로세서(430)는 공간 정보에 기반하여 특정 영역의 평평한 정도를 확인하고, 평평한 정도가 미리 설정된 값 이상인 영역(610, 620, 630)을 프로젝터 모듈(420)이 출력할 화면이 디스플레이될 영역으로 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 비전 센서 모듈(410)을 이용하여 외부 객체를 추적할 수 있으며, 비전 센서 모듈(410)은 외부 객체를 추적함으로써, 외부 객체의 이동과 관련된 정보를 생성할 수 있다. 외부 객체의 이동과 관련된 정보는 외부 객체의 이동 여부, 외부 객체의 이동 방향 또는 외부 객체의 이동한 거리를 측정할 수 있다. 전자 장치(300)는 외부 객체의 이동과 관련된 정보에 기반하여 결정된 영역들(610, 620, 630) 중 하나의 영역을 선택하고, 선택된 영역을 프로젝터 모듈(420)이 출력할 화면의 위치로 결정할 수 있다. 도 7a, 7b에서는 외부 객체의 이동과 관련된 정보에 기반하여 프로젝터 모듈(420)이 출력할 화면의 위치를 결정하는 구체적인 내용에 대해서 서술한다.
도 7a, 7b는 본 발명의 다양한 실시예에 따른 전자 장치가, 결정된 영역으로 화면을 출력하는 실시예를 도시한 도면이다.
본 발명의 다양한 실시예에 따르면, 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여 외부 객체(710)를 추적할 수 있으며, 비전 센서 모듈(410)은 외부 객체(710)를 추적함으로써, 외부 객체(710)의 정보를 생성할 수 있다. 외부 객체(710)의 정보는 외부 객체(710)의 위치, 외부 객체(710)의 이동 방향, 외부 객체(710)의 이동 속도, 외부 객체(710)의 이동 거리를 포함하는 다양한 정보를 의미할 수 있다.
도 7a를 참조하면, 전자 장치(300)는 비전 센서 모듈(410)에서 촬영한 영상에 기반하여 외부 객체(710)의 등장을 감지할 수 있다. 예를 들면, 비전 센서 모듈(410)은 미리 설정된 주기마다 영상들을 촬영하고, 촬영된 영상들에 기반하여 외부 객체(710)의 등장을 감지할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 모듈(410)은 외부 객체(710)의 추적 속도의 향상을 위해서 이벤트 기반 비전 센서로 구현될 수 있다. 이벤트 기반 비전 센서는 외부 객체(710)의 이동과 관련된 이벤트를 센싱하는 센서를 의미할 수 있다. 예를 들면, 이벤트 기반 비전 센서는 외부 객체(710)가 정지된 상태인 경우 데이터를 프로세서(430)로 전송하지 않으며, 외부 객체가 이동하는 경우, 이동과 관련된 정보를 프로세서(430)로 전송할 수 있다. 이벤트 기반 비전 센서는 외부 객체가 이동함으로써 발생하는 외부 객체에 대응하는 픽셀들의 빛의 변화량에 기반하여 외부 객체를 추적할 수 있다. 따라서, 비전 센서 모듈(410)이 이벤트 기반 비전 센서인 경우, 외부 객체가 이동할 때에만 이동과 관련된 정보를 프로세서(430)로 전송할 수 있어, 외부 객체의 추적 속도를 향상시킬 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 외부 객체의 이동과 관련된 정보에 기반하여 결정된 영역들(610, 620, 630) 중 하나의 영역을 선택하고, 선택된 영역을 프로젝터 모듈(420)이 출력할 화면의 위치로 결정할 수 있다. 예를 들면, 전자 장치(300)는 외부 객체가 존재하는 방향(710)이 아닌 다른 방향에 대응하는 영역(610, 620, 630)을 선택하는 방식으로, 프로젝터 모듈(420)이 출력할 화면의 위치를 결정할 수 있다. 설명의 편의를 위해 특정 영역(610)을 프로젝터 모듈(420)이 출력한 위치로 결정됨을 가정하고 서술한다.
도 7b를 참조하면, 전자 장치(300)는 결정된 영역(610)으로 프로젝터 모듈(420)을 회전시킬 수 있다. 전자 장치(300)는 프로젝터 모듈(420)에 포함된 제 1 액츄에이터를 제어함으로써, 프로젝터 모듈(420)이 결정된 영역(610)에 화면(720)을 출력하도록 프로젝터 모듈(420)을 회전시킬 수 있다.
도 7b는 결정된 영역(610)에 화면(720)을 출력하는 실시예를 도시하고 있으나, 외부 객체(710)의 이동에 따라서 화면(720)의 출력 영역을 변경할 수 있다. 상기의 실시예는 도 8a 내지 도 8c에서 후술한다.
도 8a, 8b 및 8c는 본 발명의 다양한 실시예에 따른 전자 장치가, 외부 객체의 이동에 대응하여 화면을 출력할 영역을 변경하는 실시예를 도시한 도면이다.
본 발명의 다양한 실시예에 따르면, 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여, 외부 객체의 이동을 감지함을 확인할 수 있다. 전자 장치(300)는 외부 객체의 이동을 감지함에 대응하여, 외부 객체를 추적하도록 비전 센서 모듈(410)을 제어할 수 있다. 전자 장치(300)는 비전 센서 모듈(410)에 포함된 제 2 액츄에이터를 제어함으로써, 외부 객체를 추적하도록 비전 센서 모듈(410)을 회전시킬 수 있다.
도 8a를 참조하면, 전자 장치(300)는 외부 객체의 추적 결과를 분석하고, 외부 객체(예: 도 7a의 외부 객체(710))가 이동했음을 확인할 수 있다. 전자 장치(300)는 외부 객체(710)의 변경된 위치를 확인하고, 변경된 위치에 기반하여 화면(예: 도 7b의 화면(720))의 출력 위치의 변경 여부를 결정할 수 있다.
도 8b를 참조하면, 외부 객체(710)의 변경된 위치는 기존 화면(710)이 출력되는 영역(610)의 근처에 위치하고 있으며, 프로젝터 모듈(420)이 결정된 영역(610)에 화면을 출력하는 경우, 외부 객체(710)에 의해 화면에 대응하는 빛이 반사되는 상황이 발생할 수 있다. 전자 장치(300)는 외부 객체(710)의 변경된 위치에 기반하여 화면(720)의 출력 위치를 변경할 것을 결정할 수 있다.
도 8b를 참조하면, 전자 장치(300)는 외부 객체(710)의 변경된 위치에 기반하여 화면(720)의 출력 위치를 다른 영역(620)으로 변경할 것을 결정하고, 프로젝터 모듈(420)에 포함된 제 1 액츄에이터를 제어함으로써, 변경된 영역(620)으로 화면(720)을 출력하도록 프로젝터 모듈(420)을 회전시킬 수 있다.
도 8c를 참조하면, 전자 장치(300)는 외부 객체(710)의 변경된 위치에 기반하여 화면(720)의 출력 위치를 다른 영역(630)으로 변경할 것을 결정하고, 프로젝터 모듈(420)에 포함된 제 1 액츄에이터를 제어함으로써, 변경된 영역(630)으로 화면(720)을 출력하도록 프로젝터 모듈(420)을 회전시킬 수 있다.
도 9는 본 발명의 다양한 실시예에 따른 전자 장치가, 화면을 출력할 영역에 대한 정보에 기반하여 화면에 대한 사전 왜곡을 수행하는 실시예를 도시한 도면이다.
도 9를 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(300)는 화면이 출력될 영역(910)에 대한 정보에 기반하여 출력된 화면에 대한 사전 왜곡을 수행할 수 있다. 화면이 출력될 영역(910)의 특성에 따라서 화면을 보는 사용자(930)는 왜곡된 화면을 볼 수 있는 문제가 발생할 수 있다. 예를 들면, 화면이 출력될 영역(910)과 사용자(930) 사이의 상대적인 거리가 상이함(도 9에서는 화면이 출력될 영역(910)의 중심 부분에 가까울수록 사용자(930)와 화면이 출력될 영역(910) 사이의 거리가 증가할 수 있다)에 따라서, 사용자는 왜곡된 모양을 갖는 화면을 보는 문제가 발생할 수 있다. 상기 문제를 해결하기 위해서, 전자 장치(300)는 화면이 출력될 영역(910)에 대한 정보에 기반하여 사전 왜곡된 화면(920)을 생성하고, 사전 왜곡된 화면(920)을 출력하도록 프로젝터 모듈(420)을 제어할 수 있다.
도 10은 본 발명의 다양한 실시예에 따른 전자 장치에서, 전자 장치를 활성화 시키는 실시예를 도시한 도면이다.
도 10을 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여 사용자(1010)를 미리 설정된 주기마다 추적할 수 있다. 비전 센서 모듈(410)은 사용자(1010)를 추적하면서 사용자(1010)가 포함된 이미지들을 촬영할 수 있다. 프로세서(예: 도 4의 프로세서(430))는 비전 센서 모듈(410)이 촬영한 이미지들을 분석하고, 사용자(1010)의 행동을 확인할 수 있다. 프로세서(430)는 사용자(1010)의 행동이 전자 장치(300)를 활성화하기 위한 행동(예: 전자 장치(300)를 바라보는 행동)임을 확인하고, 전자 장치(300)의 다양한 부품을 활성화시킬 수 있다. 예를 들면, 프로세서(430)는 특정 화면(1020)을 출력하도록 프로젝터 모듈(예: 도 4의 프로젝터 모듈(420))을 제어할 수 있다.
도 11은 본 발명의 다양한 실시예에 따른 전자 장치에서, 제스처를 이용하여 전자 장치를 제어하는 실시예를 도시한 도면이다.
도 11을 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여 사용자(1010)를 미리 설정된 주기마다 추적할 수 있다. 비전 센서 모듈(410)은 사용자(1010)를 추적하면서 사용자(1010)가 포함된 이미지들을 촬영할 수 있다. 프로세서(예: 도 4의 프로세서(430))는 비전 센서 모듈(410)이 촬영한 이미지들을 분석하고, 사용자(1010)의 제스처를 확인할 수 있다. 프로세서(430)는 사용자(1010)의 제스처를 전자 장치(300)를 제어하기 위한 행동(예: 디스플레이되는 화면(1030)을 제어하는 사용자 제스처)임을 확인하고, 전자 장치(300)를 제어할 수 있다. 예를 들면, 프로세서(430)는 사용자의 제스처에 기반하여 화면(1030) 상에서 조작을 수행할 수 있다.
도 12 및 도 13은 본 발명의 다양한 실시예에 따른 전자 장치에서, 전자 장치가 화면에 출력될 컨텐츠를 제안하는 실시예를 도시한 도면이다.
도 12 및 도 13을 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여 사용자(1010)를 미리 설정된 주기마다 추적할 수 있다. 비전 센서 모듈(410)은 사용자(1010)를 추적하면서 사용자(1010)가 포함된 이미지들을 촬영할 수 있다. 프로세서(예: 도 4의 프로세서(430))는 비전 센서 모듈(410)이 촬영한 이미지들을 분석하고, 사용자(1010)의 행동에 대한 컨텍스트 정보(예: 사용자(1010)과 외부 객체(예: 문) 사이의 인터랙션, 사용자(1010)의 행동을 감지한 시간, 사용자(1010)의 행동의 타입을 포함하는 다양한 정보)를 확인할 수 있다. 프로세서(430)는 사용자(1010)의 행동에 대한 컨텍스트 정보에 기반하여 출력될 화면(1220)을 생성하고, 생성된 화면(1220)을 출력하도록 프로젝터 모듈(420)을 제어할 수 있다.
도 12를 참조하면, 전자 장치(300)는 비전 센서 모듈(410)을 이용해 촬영한 이미지를 분석하고, 사용자(1010)의 행동에 대한 컨텍스트 정보(사용자(1010)가 출근함)를 확인할 수 있다. 전자 장치(300)는 사용자의 행동에 대한 컨텍스트 정보에 기반하여 출력될 화면(1220)을 생성할 수 있다. 생성된 화면에는 사용자의 행동과 관련된 정보가 포함될 수 있다. 예를 들면, 출근하는 행동과 관련된 정보인 교통 정보, 날씨, 스케쥴을 포함하는 다양한 정보가 화면(1220)에 포함될 수 있다.
도 13을 참조하면, 전자 장치(300)는 비전 센서 모듈(410)을 이용해 촬영한 이미지를 분석하고, 사용자(1010)의 행동에 대한 컨텍스트 정보(사용자(1010)가 운동을 함)를 확인할 수 있다. 전자 장치(300)는 사용자의 행동에 대한 컨텍스트 정보에 기반하여 출력될 화면(1320)을 생성할 수 있다. 생성된 화면에는 사용자의 행동과 관련된 정보가 포함될 수 있다. 예를 들면, 운동하는 행동과 관련된 정보인 운동 시작 시간, 운동 진행 시간, 운동과 관련된 정보를 포함하는 다양한 정보가 화면(1320)에 포함될 수 있다.
도 14a, 도 14b 및 도 14c는 본 발명의 다양한 실시예에 따른 전자 장치에서, 비전 센서를 이용하여 외부 객체를 인식하는 실시예를 도시한 도면이다.
본 발명의 다양한 실시예에 따른 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여 전자 장치(300)가 배치된 공간에 존재하는 외부 객체를 추적할 수 있다. 비전 센서 모듈(410)은 외부 객체를 추적함으로써, 외부 객체의 이동과 관련된 정보를 생성할 수 있다. 외부 객체의 이동과 관련된 정보는 외부 객체의 이동 여부, 외부 객체의 이동 방향 또는 외부 객체의 이동한 거리를 측정할 수 있다. 비전 센서 모듈(410)은 외부 객체의 추적 속도의 향상을 위해서 이벤트 기반 비전 센서로 구현될 수 있다. 이벤트 기반 비전 센서는 외부 객체의 이동과 관련된 이벤트를 센싱하는 센서를 의미할 수 있다. 예를 들면, 이벤트 기반 비전 센서는 외부 객체가 정지된 상태인 경우 데이터를 프로세서(430)로 전송하지 않으며, 외부 객체가 이동하는 경우, 이동과 관련된 정보를 프로세서(430)로 전송할 수 있다. 이벤트 기반 비전 센서는 외부 객체가 이동함으로써 발생하는 외부 객체에 대응하는 픽셀들의 빛의 변화량에 기반하여 외부 객체를 추적할 수 있다.
도 14a 내지 도 14c는 이벤트 기반 비전 센서로 구현된 비전 센서 모듈(410)이 촬영한 이미지를 도시하고 있다.
도 14a를 참조하면, 외부 객체(1410)의 움직임이 발생한 경우, 비전 센서 모듈(410)이 촬영한 이미지 내의 외부 객체에 대응하는 영역(1410)이 다른 영역에 비해 밝음을 확인할 수 있다.
도 14b를 참조하면, 외부 객체의 움직임(예: 사용자의 손)이 발생한 경우, 비전 센서 모듈(410)이 촬영한 이미지 내의 외부 객체에 대응하는 영역(1420)이 다른 영역에 비해 밝음을 확인할 수 있다.
도 14c를 참조하면, 외부 객체(예: 사용자의 머리)의 움직임이 발생한 경우, 비전 센서 모듈(410)이 촬영한 이미지 내의 외부 객체에 대응하는 영역(1430)이 다른 영역에 비해 밝음을 확인할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 촬영한 이미지에 포함된 픽셀들의 빛의 변화량에 기반하여 외부 객체의 움직임을 추적할 수 있다. 전자 장치(300)는 빛의 변화량에 기반하여 외부 객체의 움직임을 추적하면서, 촬영한 이미지에 포함된 외부 객체를 분류할 수 있다. 외부 객체의 분류는 전자 장치(300) 또는 전자 장치(300)와 연결된 외부 서버가 수행할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 빠른 처리 속도가 요구되는 정보와 높은 정확도가 요구되는 정보를 각각 처리하고, 처리된 정보를 동기화하는 방식으로 외부 객체에 대한 정보를 생성할 수 있다. 빠른 처리 속도가 요구되는 정보는 외부 객체의 추적에 관련된 정보(예: 외부 객체의 이동 방향)를 의미할 수 있다. 높은 정확도가 요구되는 정보는 외부 객체의 분류와 관련된 정보(예: 외부 객체가 사용자인지 여부, 외부 객체가 사용자의 얼굴인지, 사용자의 손인지 여부)를 의미할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 외부 객체의 이동 정보 생성 및 외부 객체에 대한 분류를 독립적으로 진행함으로써, 외부 객체의 이동 정보에 기반하여 출력할 화면의 위치를 먼저 결정한 후, 외부 객체에 대한 분류 결과에 기반하여 화면을 출력할지 여부를 결정할 수 있다. 외부 객체의 이동 정보 생성 및 외부 객체에 대한 분류를 독립적으로 진행하는 방식은 이동 정보 및 분류를 동시에 수행하는 방식에 비해 처리 속도를 향상시킬 수 있다. 외부 서버에서 수행되거나, 전자 장치에서 수행될 외부 객체에 대한 분류 동작은 빛의 변화량을 확인함으로써 이동 정보를 생성하는 동작에 비해서 속도가 늦을 수 있으며, 이동 정보 생성 및 외부 객체에 대한 분류를 동시에 하는 경우, 외부 객체에 대한 분류 동작에 의해서 처리 속도가 감소할 수 있기 때문이다.
도 15, 도 16 및 도 17은 본 발명의 다양한 실시예에 따른 전자 장치에서, 전자 장치가 출력하는 화면을 도시한 도면이다.
도 15를 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(예: 도 3의 전자 장치(300))가 프로젝터 모듈(예: 도 4의 프로젝터 모듈(420))을 이용하여 출력하는 화면(1500)을 도시하고 있다.
본 발명의 다양한 실시예에 따르면, 출력되는 화면(1500)은 다양한 타입들의 컨텐츠(1510, 1520, 1530)를 포함할 수 있다. 컨텐츠들(1510, 1520, 1530) 각각은 서로 다른 종류들의 정보를 포함할 수 있다. 컨텐츠들(1510, 1520, 1530)은 사용자의 제스처에 의해 위치가 변경될 수 있다. 도 15는 날씨 컨텐츠(1520)가 중앙에 배치되어 있으나, 사용자의 제스처에 의해 알람 컨텐츠(1510) 또는 뉴스 컨텐츠(1530)가 중앙에 배치될 수 있다.
본 발명의 다양한 실시예에 따르면, 출력되는 화면(1500)에 포함된 컨텐츠들(1510, 1520, 1530) 각각의 경계가 보이지 않도록 컨텐츠들(1510, 1520, 1530) 외부의 영역은 검정색으로 구현될 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 비전 센서 모듈(410)을 이용하여 외부 객체와 전자 장치(300) 사이의 거리를 측정할 수 있다. 전자 장치(300)는 측정된 거리에 기반하여 출력되는 화면(1500)의 특성을 변경할 수 있다. 예를 들면, 프로세서(430)는 측정된 거리에 따라서 출력되는 화면(1500)의 레이아웃을 변경할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 측정된 거리에 따라서, 출력된 화면(1500)에서, 컨텐츠들(1510, 1520, 1530) 중 하나의 컨텐츠가 확대된 화면(1600)으로 전환하여 출력할 수 있다.
도 16은 전자 장치(300)가 프로젝터 모듈(420)을 이용하여 출력하는 화면(1600)을 도시하고 있다. 화면(1600)은 도 15의 화면(1500)에 포함된 날씨 컨텐츠(1520)가 확대된 컨텐츠(1610)을 포함할 수 있다. 전자 장치(300)는 전자 장치(300)와 사용자 사이의 거리가 미리 설정된 거리 이상 가까워짐을 확인함에 대응하여, 출력된 화면(1500)에 포함된 컨텐츠들(1510, 1520, 1530) 중 하나의 컨텐츠(1520)가 확대된 컨텐츠(1610)를 포함하는 화면으로 전환할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 조도 센서(예: 도 1 의 센서 모듈(176)에 포함된 조도 센서)를 이용하여 전자 장치(300)가 배치된 공간의 조도를 측정할 수 있다. 전자 장치(300)는 측정된 조도에 기반하여 출력된 화면(1500)의 특성을 변경할 수 있다. 예를 들면, 전자 장치(300)는 측정된 조도가 미리 설정된 값 미만인 경우, 화면의 선명도를 증가시키기 위해서 콘트라스트(contrast)를 증가시킬 수 있다.
도 17은 전자 장치(300)가 프로젝터 모듈(420)을 이용하여 출력하는 화면(1700)을 도시하고 있다. 화면(1700)은 도 15의 화면(1500)에 포함된 컨텐츠들(1510, 1520, 1530)의 콘트라스트가 증가된 화면일 수 있다. 사용자는 콘트라스트가 증가된 화면을 통해 어두운 공간에서도 선명한 화면을 시청할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는 상기 전자 장치가 배치된 공간의 외부 객체를 감지하고, 회전 가능한 비전 센서; 상기 전자 장치가 배치된 공간으로 화면을 출력하고, 회전 가능한 프로젝터; 상기 전자 장치가 배치된 공간의 공간 정보를 저장하는 메모리; 및 프로세서를 포함하고, 상기 프로세서는 상기 비전 센서가 회전하면서 외부 객체를 추적하도록 상기 비전 센서를 제어하고, 상기 공간 정보 및 상기 외부 객체의 추적에 기반하여 생성된 상기 외부 객체의 정보에 기반하여 상기 프로젝터가 출력할 화면의 위치를 결정하고, 상기 결정된 위치로 상기 화면을 출력하도록 상기 프로젝터를 제어하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 프로세서는 상기 비전 센서가 상기 외부 객체의 이동을 감지함에 대응하여, 상기 화면의 출력 위치를 상기 외부 객체의 변경된 위치에 기반하여 변경하도록 상기 프로젝트를 제어하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 프로세서는 상기 전자 장치가 배치된 공간을 미리 스캐닝하고, 상기 스캐닝 결과에 기반하여 상기 프로젝터가 상기 화면을 출력 가능한 적어도 하나 이상의 영역을 결정하고, 상기 결정된 영역에 대한 정보를 상기 메모리에 저장하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 프로세서는 상기 외부 객체의 위치에 기반하여 상기 적어도 하나 이상의 영역 중 하나의 영역을 선택하고, 상기 선택된 영역에 상기 화면을 출력하도록 상기 프로젝터를 제어할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는 마이크로폰을 더 포함하고, 상기 프로세서는 상기 마이크로폰을 통하여 사운드를 수신함을 감지하고, 상기 마이크로폰에서 전송한 정보에 기반하여 상기 사운드의 방향을 확인하고, 상기 외부 객체의 위치 및 상기 사운드의 방향에 기반하여 상기 사운드에 대응하는 동작을 처리할지 여부를 결정할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 프로세서는 상기 외부 객체의 위치와 상기 사운드의 방향이 일치함을 확인함에 대응하여 상기 사운드에 대응하는 동작을 처리하도록 결정하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 프로세서는 상기 외부 객체의 위치와 상기 사운드의 방향이 일치하지 않음을 확인함에 대응하여 상기 수신한 사운드를 무시하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 프로세서는 상기 화면이 출력될 영역에 대한 정보에 기반하여 상기 화면에 대한 사전 왜곡을 수행하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 프로세서는 조도 센서를 이용하여 상기 전자 장치가 배치된 공간의 조도를 측정하고, 상기 측정된 조도 및 상기 비전 센서가 측정한 상기 전자 장치와 상기 외부 객체 사이의 거리에 기반하여 출력되는 화면의 특성을 변경하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 화면의 특성은 상기 화면의 밝기 또는 상기 화면의 레이아웃을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치에서, 상기 비전 센서는 상기 외부 객체가 정지된 상태인 경우 데이터를 전송하지 않고, 상기 외부 객체가 움직이는 상태인 경우 데이터를 전송하는 이벤트 기반 비전 센서이고, 상기 프로세서는 상기 외부 객체의 이동에 따라 발생하는 빛의 변화량에 기반하여 상기 외부 객체를 추적하도록 상기 비전 센서를 제어하도록 설정될 수 있다.
도 18은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법(1800)을 도시한 동작 흐름도이다.
본 발명의 다양한 실시예에 따르면, 동작 1810에서, 전자 장치(예: 도 3의 전자 장치(300))는 비전 센서 모듈(예: 도 4의 비전 센서 모듈(410))을 이용하여 외부 객체를 추적할 수 있다.
본 발명의 다양한 실시예에 따르면, 비전 센서 모듈(410)은 전자 장치(300)가 배치된 공간에 존재하는 외부 객체를 추적할 수 있다. 비전 센서 모듈(410)은 외부 객체를 추적함으로써, 외부 객체의 이동과 관련된 정보를 생성할 수 있다. 외부 객체의 이동과 관련된 정보는 외부 객체의 이동 여부, 외부 객체의 이동 방향 또는 외부 객체의 이동한 거리를 측정할 수 있다. 비전 센서 모듈(410)은 외부 객체의 추적 속도의 향상을 위해서 이벤트 기반 비전 센서로 구현될 수 있다. 이벤트 기반 비전 센서는 외부 객체의 이동과 관련된 이벤트를 센싱하는 센서를 의미할 수 있다. 예를 들면, 이벤트 기반 비전 센서는 외부 객체가 정지된 상태인 경우 데이터를 프로세서(430)로 전송하지 않으며, 외부 객체가 이동하는 경우, 이동과 관련된 정보를 프로세서(430)로 전송할 수 있다. 이벤트 기반 비전 센서는 외부 객체가 이동함으로써 발생하는 외부 객체에 대응하는 픽셀들의 빛의 변화량에 기반하여 외부 객체를 추적할 수 있다. 따라서, 비전 센서 모듈(410)이 이벤트 기반 비전 센서인 경우, 외부 객체가 이동할 때에만 이동과 관련된 정보를 프로세서(430)로 전송할 수 있어, 외부 객체의 추적 속도를 향상시킬 수 있다.
본 발명의 다양한 실시예에 따르면, 동작 1820에서, 전자 장치(300)는 외부 객체의 추적 결과에 기반하여 프로젝터 모듈(예: 도 4의 프로젝터 모듈(420))이 출력할 화면의 위치를 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 외부 객체의 추적 결과에 기반하여 생성된 외부 객체의 정보 및 공간 정보에 기반하여 프로젝터 모듈(420)이 출력할 화면의 위치를 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(300)는 메모리(440)에 저장된 적어도 하나 이상의 화면의 위치 중 외부 객체의 위치를 고려하여 하나의 위치를 선택하는 방식으로, 프로젝터 모듈(420)이 출력할 화면의 위치를 결정할 수 있다. 예를 들면, 전자 장치(300)는 외부 객체가 존재하는 방향이 아닌 다른 방향에 대응하는 위치를 선택하는 방식으로, 프로젝터 모듈(420)이 출력할 화면의 위치를 결정할 수 있다.
본 발명의 다양한 실시예에 따르면, 동작 1830에서, 전자 장치(300)는 결정된 위치로 화면을 출력하도록 프로젝터 모듈(420)을 제어할 수 있다.
본 발명의 다양한 실시예에 따르면, 프로젝터 모듈(420)은 프로세서(430)의 제어에 기반하여 화면을 출력할 수 있다. 프로젝터 모듈(420)은 빛을 전자 장치(300)가 배치된 공간의 일부 영역에 빛을 투사하는 방식으로 화면을 출력할 수 있다. 이를 위해, 프로젝터 모듈(420)은 화면을 출력하기 위한 빛을 출력하는 광원 및 빛을 특정 방향으로 투사하기 위한 적어도 하나 이상의 렌즈를 포함할 수 있다. 프로세서(430)는 특정 방향으로 화면을 출력하기 위해서 프로젝터 모듈(420)에 포함된 제 1 액츄에이터(미도시)를 제어할 수 있다. 제 1 액츄에이터는 프로세서(430)의 제어에 기반하여 특정 방향으로 화면을 출력하도록 수직 방향 또는 수평 방향으로 프로젝터 모듈(420)에 포함된 렌즈를 회전시킬 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 상기 전자 장치가 배치된 공간의 외부 객체를 감지하고, 회전 가능한 비전 센서가 회전하면서 외부 객체를 추적하는 동작; 상기 외부 객체의 추적 결과에 기반하여 생성된 상기 외부 객체의 정보 및 상기 전자 장치가 배치된 공간의 공간 정보에 기반하여, 프로세서가, 상기 전자 장치가 배치된 공간으로 화면을 출력하는 프로젝터가 출력할 화면의 위치를 결정하는 동작; 및 상기 결정된 위치로 상기 화면을 출력하도록 상기 프로젝터를 제어하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 상기 비전 센서가 상기 외부 객체의 이동을 감지함에 대응하여, 상기 프로세서가, 상기 화면의 출력 위치를 상기 외부 객체의 변경된 위치에 기반하여 변경하도록 상기 프로젝트를 제어하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 상기 전자 장치가 배치된 공간을 미리 스캐닝하는 동작; 상기 스캐닝 결과에 기반하여 상기 프로젝터가 상기 화면을 출력 가능한 적어도 하나 이상의 영역을 결정하는 동작; 상기 결정된 영역에 대한 정보를 메모리에 저장하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 상기 외부 객체의 위치에 기반하여 상기 적어도 하나 이상의 영역 중 하나의 영역을 선택하는 동작; 및 상기 선택된 영역에 상기 화면을 출력하도록 상기 프로젝터를 제어하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 상기 마이크로폰을 통하여 사운드를 수신함을 감지하는 동작; 상기 마이크로폰에서 전송한 정보에 기반하여 상기 사운드의 방향을 확인하는 동작; 및 상기 외부 객체의 위치 및 상기 사운드의 방향에 기반하여 상기 사운드에 대응하는 동작을 처리할지 여부를 결정하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 사운드에 대응하는 동작을 처리할지 여부를 결정하는 동작은 상기 외부 객체의 위치와 상기 사운드의 방향이 일치함을 확인함에 대응하여 상기 사운드에 대응하는 동작을 처리하도록 결정하는 동작; 및 상기 외부 객체의 위치와 상기 사운드의 방향이 일치하지 않음을 확인함에 대응하여 상기 수신한 사운드를 무시하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 상기 화면이 출력될 영역에 대한 정보에 기반하여 상기 화면에 대한 사전 왜곡을 수행하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법은 조도 센서를 이용하여 상기 전자 장치가 배치된 공간의 조도를 측정하는 동작; 및 상기 측정된 조도 및 상기 비전 센서가 측정한 상기 전자 장치와 상기 외부 객체 사이의 거리에 기반하여 출력되는 화면의 특성을 변경하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 동작 방법에서, 상기 비전 센서는 상기 외부 객체가 정지된 상태인 경우 데이터를 전송하지 않고, 상기 외부 객체가 움직이는 상태인 경우 데이터를 전송하는 이벤트 기반 비전 센서이고, 상기 비전 센서가 상기 외부 객체를 추적하는 동작은 상기 외부 객체의 이동에 따라 발생하는 빛의 변화량에 기반하여 상기 외부 객체를 추적하는 동작을 포함할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나","A 또는 B 중 적어도 하나,""A, B 또는 C," "A, B 및 C 중 적어도 하나,"및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    상기 전자 장치가 배치된 공간의 외부 객체를 감지하고, 회전 가능한 비전 센서;
    상기 전자 장치가 배치된 공간으로 화면을 출력하고, 회전 가능한 프로젝터;
    상기 전자 장치가 배치된 공간의 공간 정보를 저장하는 메모리; 및
    프로세서를 포함하고,
    상기 프로세서는
    상기 비전 센서가 회전하면서 외부 객체를 추적하도록 상기 비전 센서를 제어하고,
    상기 공간 정보 및 상기 외부 객체의 추적에 기반하여 생성된 상기 외부 객체의 정보에 기반하여 상기 프로젝터가 출력할 화면의 위치를 결정하고,
    상기 결정된 위치로 상기 화면을 출력하도록 상기 프로젝터를 제어하도록 설정된 전자 장치.
  2. 제 1항에 있어서,
    상기 프로세서는
    상기 비전 센서가 상기 외부 객체의 이동을 감지함에 대응하여, 상기 화면의 출력 위치를 상기 외부 객체의 변경된 위치에 기반하여 변경하도록 상기 프로젝트를 제어하도록 설정된 전자 장치.
  3. 제1항에 있어서,
    상기 프로세서는
    상기 전자 장치가 배치된 공간을 미리 스캐닝하고,
    상기 스캐닝 결과에 기반하여 상기 프로젝터가 상기 화면을 출력 가능한 적어도 하나 이상의 영역을 결정하고,
    상기 결정된 영역에 대한 정보를 상기 메모리에 저장하도록 설정된 전자 장치.
  4. 제 3항에 있어서,
    상기 프로세서는
    상기 외부 객체의 위치에 기반하여 상기 적어도 하나 이상의 영역 중 하나의 영역을 선택하고,
    상기 선택된 영역에 상기 화면을 출력하도록 상기 프로젝터를 제어하는 전자 장치.
  5. 제 1항에 있어서,
    상기 전자 장치는
    마이크로폰을 더 포함하고,
    상기 프로세서는
    상기 마이크로폰을 통하여 사운드를 수신함을 감지하고,
    상기 마이크로폰에서 전송한 정보에 기반하여 상기 사운드의 방향을 확인하고,
    상기 외부 객체의 위치 및 상기 사운드의 방향에 기반하여 상기 사운드에 대응하는 동작을 처리할지 여부를 결정하는 전자 장치.
  6. 제 5항에 있어서,
    상기 프로세서는
    상기 외부 객체의 위치와 상기 사운드의 방향이 일치함을 확인함에 대응하여 상기 사운드에 대응하는 동작을 처리하도록 결정하도록 설정된 전자 장치.
  7. 제 5항에 있어서,
    상기 프로세서는
    상기 외부 객체의 위치와 상기 사운드의 방향이 일치하지 않음을 확인함에 대응하여 상기 수신한 사운드를 무시하도록 설정된 전자 장치.
  8. 제 1항에 있어서,
    상기 프로세서는
    상기 화면이 출력될 영역에 대한 정보에 기반하여 상기 화면에 대한 사전 왜곡을 수행하도록 설정된 전자 장치.
  9. 제 1항에 있어서,
    상기 프로세서는
    조도 센서를 이용하여 상기 전자 장치가 배치된 공간의 조도를 측정하고,
    상기 측정된 조도 및 상기 비전 센서가 측정한 상기 전자 장치와 상기 외부 객체 사이의 거리에 기반하여 출력되는 화면의 특성을 변경하도록 설정된 전자 장치.
  10. 제 9항에 있어서,
    상기 화면의 특성은
    상기 화면의 밝기 또는 상기 화면의 레이아웃을 포함하는 전자 장치.
  11. 제 1항에 있어서,
    상기 비전 센서는 상기 외부 객체가 정지된 상태인 경우 데이터를 전송하지 않고, 상기 외부 객체가 움직이는 상태인 경우 데이터를 전송하는 이벤트 기반 비전 센서이고,
    상기 프로세서는
    상기 외부 객체의 이동에 따라 발생하는 빛의 변화량에 기반하여 상기 외부 객체를 추적하도록 상기 비전 센서를 제어하도록 설정된 전자 장치.
  12. 전자 장치의 동작 방법에 있어서,
    상기 전자 장치가 배치된 공간의 외부 객체를 감지하고, 회전 가능한 비전 센서가 회전하면서 외부 객체를 추적하는 동작;
    상기 외부 객체의 추적 결과에 기반하여 생성된 상기 외부 객체의 정보 및 상기 전자 장치가 배치된 공간의 공간 정보에 기반하여, 프로세서가, 상기 전자 장치가 배치된 공간으로 화면을 출력하는 프로젝터가 출력할 화면의 위치를 결정하는 동작; 및
    상기 결정된 위치로 상기 화면을 출력하도록 상기 프로젝터를 제어하는 동작을 포함하는 전자 장치의 동작 방법.
  13. 제 12항에 있어서,
    상기 전자 장치의 동작 방법은
    상기 비전 센서가 상기 외부 객체의 이동을 감지함에 대응하여, 상기 프로세서가, 상기 화면의 출력 위치를 상기 외부 객체의 변경된 위치에 기반하여 변경하도록 상기 프로젝트를 제어하는 동작을 더 포함하는 전자 장치의 동작 방법.
  14. 제 12항에 있어서,
    상기 전자 장치의 동작 방법은
    상기 전자 장치가 배치된 공간을 미리 스캐닝하는 동작;
    상기 스캐닝 결과에 기반하여 상기 프로젝터가 상기 화면을 출력 가능한 적어도 하나 이상의 영역을 결정하는 동작;
    상기 결정된 영역에 대한 정보를 메모리에 저장하는 동작을 더 포함하는 전자 장치의 동작 방법.
  15. 제 14항에 있어서,
    상기 전자 장치의 동작 방법은
    상기 외부 객체의 위치에 기반하여 상기 적어도 하나 이상의 영역 중 하나의 영역을 선택하는 동작; 및
    상기 선택된 영역에 상기 화면을 출력하도록 상기 프로젝터를 제어하는 동작을 더 포함하는 전자 장치의 동작 방법.
PCT/KR2019/014326 2019-02-21 2019-10-29 외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법 WO2020171342A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/428,518 US20220132081A1 (en) 2019-02-21 2019-10-29 Electronic device for providing visualized artificial intelligence service on basis of information about external object, and operating method for electronic device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2019-0020233 2019-02-21
KR1020190020233A KR102653252B1 (ko) 2019-02-21 2019-02-21 외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법

Publications (1)

Publication Number Publication Date
WO2020171342A1 true WO2020171342A1 (ko) 2020-08-27

Family

ID=72144280

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/014326 WO2020171342A1 (ko) 2019-02-21 2019-10-29 외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법

Country Status (3)

Country Link
US (1) US20220132081A1 (ko)
KR (1) KR102653252B1 (ko)
WO (1) WO2020171342A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4210336A4 (en) * 2021-02-23 2024-05-01 Samsung Electronics Co Ltd DISPLAY DEVICE AND ITS OPERATING METHOD

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL2022535B1 (en) * 2019-02-08 2020-08-19 Schreder Sa Managing a network comprising multiple communication devices
US11991484B2 (en) 2021-07-12 2024-05-21 Samsung Electronics Co., Ltd. Electronic apparatus and controlling method thereof

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012149501A2 (en) * 2011-04-29 2012-11-01 Microsoft Corporation Inferring spatial object descriptions from spatial gestures
WO2015098188A1 (ja) * 2013-12-27 2015-07-02 ソニー株式会社 表示制御装置、表示制御方法及びプログラム
WO2015117905A1 (de) * 2014-02-04 2015-08-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. 3d-bildanalysator zur blickrichtungsbestimmung
KR20170062533A (ko) * 2014-10-07 2017-06-07 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 공유된 공간 증강 현실 경험을 생성하기 위한 프로젝터 구동 기술
WO2018031621A1 (en) * 2016-08-11 2018-02-15 Magic Leap, Inc. Automatic placement of a virtual object in a three-dimensional space

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9374554B1 (en) * 2014-03-25 2016-06-21 Amazon Technologies, Inc. Display selection for video conferencing
WO2016047043A1 (ja) * 2014-09-25 2016-03-31 パナソニックＩｐマネジメント株式会社 投影装置
KR102347249B1 (ko) * 2014-10-21 2022-01-04 삼성전자주식회사 외부 물체의 움직임과 연관된 이벤트에 응답하여 화면을 디스플레이하는 장치 및 방법
EP3338446B1 (en) * 2015-09-23 2022-03-30 Hewlett-Packard Development Company, L.P. Image projections
KR20170097519A (ko) * 2016-02-18 2017-08-28 삼성전자주식회사 음성 처리 방법 및 장치
US10484742B2 (en) * 2016-07-26 2019-11-19 Umbo, Inc. Method and system for providing information to a user via a projection device
US10628699B2 (en) * 2017-06-13 2020-04-21 Samsung Electronics Co., Ltd. Event-based image feature extraction
US10349060B2 (en) * 2017-06-30 2019-07-09 Intel Corporation Encoding video frames using generated region of interest maps
US10155166B1 (en) * 2017-09-08 2018-12-18 Sony Interactive Entertainment Inc. Spatially and user aware second screen projection from a companion robot or device
JP7208356B2 (ja) * 2018-09-26 2023-01-18 コーヒレント・ロジックス・インコーポレーテッド 任意の世界ビューの生成
KR20200066962A (ko) * 2018-12-03 2020-06-11 삼성전자주식회사 사용자의 움직임에 기반하여 콘텐트를 제공하기 위한 전자 장치 및 방법
KR102605035B1 (ko) * 2019-02-22 2023-11-24 삼성전자주식회사 프로젝터를 포함하는 전자 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012149501A2 (en) * 2011-04-29 2012-11-01 Microsoft Corporation Inferring spatial object descriptions from spatial gestures
WO2015098188A1 (ja) * 2013-12-27 2015-07-02 ソニー株式会社 表示制御装置、表示制御方法及びプログラム
WO2015117905A1 (de) * 2014-02-04 2015-08-13 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. 3d-bildanalysator zur blickrichtungsbestimmung
KR20170062533A (ko) * 2014-10-07 2017-06-07 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 공유된 공간 증강 현실 경험을 생성하기 위한 프로젝터 구동 기술
WO2018031621A1 (en) * 2016-08-11 2018-02-15 Magic Leap, Inc. Automatic placement of a virtual object in a three-dimensional space

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4210336A4 (en) * 2021-02-23 2024-05-01 Samsung Electronics Co Ltd DISPLAY DEVICE AND ITS OPERATING METHOD

Also Published As

Publication number Publication date
US20220132081A1 (en) 2022-04-28
KR102653252B1 (ko) 2024-04-01
KR20200102080A (ko) 2020-08-31

Similar Documents

Publication Publication Date Title
WO2020085789A1 (en) Foldable electronic device for controlling user interface and operating method thereof
WO2019160345A1 (ko) 어플리케이션과 관련된 기능 또는 콘텐트를 제공하는 방법 및 이를 수행하는 전자 장치
WO2020162709A1 (en) Electronic device for providing graphic data based on voice and operating method thereof
WO2020096413A1 (en) Pop-up and rotational camera and electronic device including the same
WO2019117566A1 (ko) 전자 장치 및 그의 입력 제어 방법
WO2020022780A1 (en) Method and apparatus for establishing device connection
WO2020166911A1 (en) Screen providing method and electronic device supporting same
WO2019156480A1 (ko) 시선에 기반한 관심 영역 검출 방법 및 이를 위한 전자 장치
WO2020171342A1 (ko) 외부 객체의 정보에 기반하여 시각화된 인공 지능 서비스를 제공하는 전자 장치 및 전자 장치의 동작 방법
EP3808097A1 (en) Method and apparatus for establishing device connection
WO2020050636A1 (ko) 사용자 의도 기반 제스처 인식 방법 및 장치
WO2020149689A1 (ko) 영상 처리 방법 및 이를 지원하는 전자 장치
WO2020256463A1 (en) Electronic device including sub display and method of operating same
WO2021085902A1 (ko) 복수의 어플리케이션들의 오디오 데이터를 출력하는 전자 장치 및 그 동작 방법
WO2020080845A1 (en) Electronic device and method for obtaining images
WO2020171333A1 (ko) 이미지 내의 오브젝트 선택에 대응하는 서비스를 제공하기 위한 전자 장치 및 방법
WO2019039729A1 (en) METHOD FOR CHANGING THE CONTENT SIZE DISPLAYED ON A DISPLAY DEVICE, AND RELATED ELECTRONIC DEVICE
WO2022131739A1 (ko) 영상 처리 방법 및 이를 지원하는 전자 장치
WO2019172723A1 (ko) 이미지 센서와 연결된 인터페이스 및 복수의 프로세서들간에 연결된 인터페이스를 포함하는 전자 장치
WO2019190024A1 (en) Mobile electronic device and method for forwarding user input to application according to input means
WO2021112500A1 (en) Electronic device and method for correcting image in camera switching
WO2020171558A1 (en) Method of providing augmented reality contents and electronic device therefor
WO2019172610A1 (ko) 오디오 모듈을 이용하여 결제를 수행하는 전자 장치 및 방법
WO2021054662A1 (ko) 전자 장치 및 전자 장치의 정보 제공 방법
WO2022055178A1 (ko) 다양한 형태의 콘텐트를 표시하기 위한 폴더블 전자 장치 및 그의 동작 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19915990

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19915990

Country of ref document: EP

Kind code of ref document: A1