WO2015186857A1 - 영상 표시 기기 및 그의 동작 방법 - Google Patents

영상 표시 기기 및 그의 동작 방법 Download PDF

Info

Publication number
WO2015186857A1
WO2015186857A1 PCT/KR2014/006080 KR2014006080W WO2015186857A1 WO 2015186857 A1 WO2015186857 A1 WO 2015186857A1 KR 2014006080 W KR2014006080 W KR 2014006080W WO 2015186857 A1 WO2015186857 A1 WO 2015186857A1
Authority
WO
WIPO (PCT)
Prior art keywords
gesture
display device
video display
user
image
Prior art date
Application number
PCT/KR2014/006080
Other languages
English (en)
French (fr)
Inventor
안우석
강상규
오형철
박세원
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to US15/316,452 priority Critical patent/US10162423B2/en
Publication of WO2015186857A1 publication Critical patent/WO2015186857A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42222—Additional components integrated in the remote control device, e.g. timer, speaker, sensors for detecting position, direction or movement of the remote control, microphone or battery charging device
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223—Cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4227—Providing Remote input by a user located remotely from the client device, e.g. at work
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438—Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
    • H04N21/4383—Accessing a communication channel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/485—End-user interface for client configuration
    • H04N21/4852—End-user interface for client configuration for modifying audio parameters, e.g. switching between mono and stereo
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/485—End-user interface for client configuration
    • H04N21/4854—End-user interface for client configuration for modifying image parameters, e.g. image brightness, contrast
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A63F13/428—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/55—Rule-based translation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/254—Analysis of motion involving subtraction of images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00—Teaching, or communicating with, the blind, deaf or mute
    • G09B21/009—Teaching or communicating with deaf persons

Definitions

  • the present invention relates to an image display device and a method of operating the same, and more particularly, to an image display device and a method of operating the same, which recognizes a user's gesture and provides a control operation corresponding to the recognized gesture.
  • Digital TV service can provide a variety of services that could not be provided in the conventional analog broadcasting service.
  • the IPTV (Internet Protocol Television) service which is a type of digital TV service, provides an interactive feature that allows a user to actively select a type of viewing program and a viewing time.
  • the IPTV service may provide various additional services such as internet search, home shopping, online game, etc. based on this bidirectionality.
  • the recent smart TV may recognize a gesture of a user and perform a control operation corresponding to the recognized gesture.
  • a gesture of a user that the smart TV can recognize is limited and it is difficult to input a control amount such as a volume of volume only by the gesture.
  • the smart TV recognizes a plurality of gesture combinations of the user and provides various control operations.
  • the method of recognizing a plurality of gesture combinations of the user has a disadvantage in that the user must remember each of the plurality of gestures, and there is a limitation that the plurality of gesture combinations are not intuitive to the user.
  • An object of the present invention is to recognize a gesture of a user and to provide a control operation and a control amount corresponding to the recognized gesture.
  • An object of the present invention is to provide a control operation and a control amount for a control operation desired by a user with only one gesture.
  • a method of operating an image display device includes: acquiring an image of a user of the image display device; Recognizing a gesture of the user in the acquired image; Calculating a control amount for the gesture based on the recognized gesture; And performing a control operation corresponding to the recognized gesture and the calculated control amount.
  • An image display device includes an image acquisition unit for obtaining an image for a user of the image display device; And a controller configured to recognize the gesture of the user in the acquired image of the user, calculate a control amount for the gesture based on the recognized gesture, and perform a control operation corresponding to the recognized gesture and the calculated control amount. do.
  • the present disclosure may recognize a control operation requiring a control amount as one gesture operation, and thus, the user may perform a desired control operation with only one gesture.
  • the present invention provides an intuitive input method for the control amount, thereby providing an intuitive gesture to the user.
  • FIG. 1 is a block diagram illustrating a configuration of a video display device according to an embodiment of the present invention.
  • FIG. 2 is a block diagram of a remote control apparatus according to an embodiment of the present invention.
  • Figure 3 shows an example of the actual configuration of the remote control device according to an embodiment of the present invention.
  • FIG. 4 is a flowchart illustrating a method of operating an image display device according to an exemplary embodiment.
  • FIG. 5 is an exemplary diagram for describing image acquisition of an image acquisition unit according to an exemplary embodiment.
  • 6A to 6D illustrate a left and right gesture of a user according to an embodiment of the present invention.
  • FIG. 7A to 7C illustrate left and right gestures of a user according to another exemplary embodiment of the present invention.
  • 8A to 8C illustrate a finger gesture of a user according to an embodiment of the present invention.
  • FIGS. 9A to 9C illustrate a vertical gesture of a user according to an embodiment of the present invention.
  • FIGS. 10A and 10B illustrate an example of gesture recognition in a front and rear direction of a user according to another embodiment of the present invention.
  • 11 is an exemplary diagram for comparing ratios of objects according to an embodiment of the present invention.
  • FIG. 12 is an exemplary diagram for comparing lengths of objects according to an embodiment of the present invention.
  • FIG. 13 is an exemplary diagram for comparing an area of an object according to an embodiment of the present invention.
  • 14A to 14D illustrate a left and right gesture of a user according to another embodiment of the present invention.
  • the video display device is, for example, an intelligent video display device in which a computer support function is added to a broadcast reception function. It can be equipped with a more convenient interface such as a touch screen or a spatial remote controller. In addition, it is connected to the Internet and a computer with the support of a wired or wireless Internet function, and can perform functions such as e-mail, web browsing, banking, or gaming. Standardized general-purpose operating systems can be used for these various functions.
  • the video display device described in the present invention can be freely added or deleted, for example, on a general-purpose OS kernel, so that various user-friendly functions can be performed. More specifically, the video display device may be, for example, a network TV, an HBBTV, a smart TV, an LED TV, an OLED TV, or the like, and may be applicable to a smartphone in some cases.
  • FIG. 1 is a block diagram illustrating a configuration of a video display device according to an embodiment of the present invention.
  • the video display device 100 may include a broadcast receiver 130, an external device interface 135, a storage 140, a user input interface 150, an image acquirer 160, and a controller ( 170, a display unit 180, an audio output unit 185, and a power supply unit 190.
  • the broadcast receiver 130 may include a tuner 131, a demodulator 132, and a network interface unit 133.
  • the external device interface unit 135 may receive an application or a list of applications in a neighboring external device and transmit the received application to the controller 170 or the storage 140.
  • the external device interface unit 135 may include a terminal for connecting to an external device, and thus may be connected to a connector of the external device.
  • the external device interface unit 135 may supply power supplied from the power supply unit 190 to the connected external device as driving power.
  • the external device interface unit 135 may transmit an operation signal transmitted from the external device to the controller 170.
  • the external device interface unit 135 may transmit the voice signal transmitted from the controller 170 to the connected external device.
  • the external device interface unit 135 may include a sensor that can detect the connection of the external device, it can recognize the connection of the external device.
  • the network interface unit 133 may provide an interface for connecting the video display device 100 to a wired / wireless network including an internet network.
  • the network interface unit 133 may transmit or receive data with another user or another electronic device through the connected network or another network linked to the connected network.
  • some content data stored in the image display device 100 may be transmitted to another user who is registered in advance in the image display device 100 or a user selected from among other electronic devices or the selected electronic device.
  • the network interface unit 133 may access a predetermined web page through a connected network or another network linked to the connected network. That is, by accessing a predetermined web page through the network, it is possible to send or receive data with the server.
  • the network interface unit 133 may receive content or data provided by a content provider or a network operator. That is, the network interface unit 133 may receive content such as a movie, an advertisement, a game, a VOD, a broadcast signal, and related information provided from a content provider or a network provider through a network.
  • content such as a movie, an advertisement, a game, a VOD, a broadcast signal, and related information provided from a content provider or a network provider through a network.
  • the network interface unit 133 may receive the update information and the update file of the firmware provided by the network operator, and may transmit data to the Internet or the content provider or the network operator.
  • the network interface unit 133 may select and receive a desired application from among applications that are open to the public through the network.
  • the storage 140 may store a program for processing and controlling each signal in the controller 170, and may store a signal, an image, an audio, or a data signal.
  • the storage unit 140 may perform a function for temporarily storing an image, audio, or data signal input from the external device interface unit 135 or the network interface unit 133. You can also store information about the image.
  • the storage 140 may store an application or a list of applications input from the external device interface 135 or the network interface 133.
  • the video display device 100 may provide a user with a content file (video file, still image file, music file, document file, application file, etc.) stored in the storage 140.
  • a content file video file, still image file, music file, document file, application file, etc.
  • the user input interface unit 150 may transmit a signal input by the user to the controller 170, or may transmit a signal from the controller 170 to the user.
  • the user input interface unit 150 may be configured according to various communication methods such as Bluetooth, Ultra Wideband (WB), ZigBee, RF (Radio Frequency) communication, or Infrared (IR) communication.
  • the remote controller 200 may receive and process a control signal such as power on / off, channel selection, screen setting, or the like, or transmit a control signal from the controller 170 to the remote controller 200.
  • the user input interface unit 150 may transmit a control signal input from a local key (not shown) such as a power key, a channel key, a volume key, and a set value to the controller 170.
  • a local key such as a power key, a channel key, a volume key, and a set value
  • the image acquirer 160 may acquire an image.
  • the image acquirer 160 may include at least one camera, and may acquire an image through the included camera.
  • the image acquisition unit 160 may transmit the acquired image to the controller 170.
  • the image signal processed by the controller 170 may be input to the display unit 180 and displayed as an image corresponding to the image signal.
  • the image signal processed by the controller 170 may be input to the external output device through the external device interface unit 135.
  • the audio signal processed by the controller 170 may be audio output to the audio output unit 185.
  • the voice signal processed by the controller 170 may be input to the external device through the external device interface unit 135.
  • controller 170 may control overall operations of the video display device 100.
  • the controller 170 receives the detection signal for the connection of the external device from the external device interface unit 135, and controls the power supply unit 190 so that driving power is transmitted to the external device connected through the external device interface unit 135. can do.
  • the controller 170 may recognize a gesture of a user included in the acquired image, based on the image acquired through the image acquirer 160. In addition, the controller 170 may perform a control operation corresponding to the recognized gesture.
  • the controller 170 may control the video display device 100 by a user command or an internal program input through the user input interface unit 150, and access the network to display an application or a list of applications desired by the user.
  • the display device 100 may be downloaded into the display device 100.
  • the controller 170 may output the channel information selected by the user together with the processed video or audio signal through the display unit 180 or the audio output unit 185.
  • the controller 170 may receive an external device image playback command received through the user input interface unit 150 from an external device, for example, a camera or a camcorder, input through the external device interface unit 135.
  • the video signal or the audio signal may be output through the display unit 180 or the audio output unit 185.
  • the controller 170 may control the display unit 180 to display an image, for example, a broadcast image input through the tuner 131, or an external input input through the external device interface unit 135.
  • An image, an image input through a network interface unit, or an image stored in the storage 140 may be controlled to be displayed on the display unit 180.
  • the image displayed on the display unit 180 may be a still image or a video, and may be a 2D image or a 3D image.
  • the controller 170 may control the content stored in the video display device 100, the received broadcast content, or the external input content input from the outside to be reproduced, and the content may be a broadcast image, an external input image, or audio. It may be in various forms such as a file, a still image, a connected web screen, and a document file.
  • the display unit 180 converts an image signal, a data signal, an OSD signal processed by the controller 170, or an image signal, data signal, etc. received from the external device interface unit 135 into R, G, and B signals, respectively. You can generate a signal.
  • the image display device 100 shown in FIG. 1 is only an embodiment of the present invention. Some of the illustrated components may be integrated, added, or omitted according to the specifications of the image display device 100 that is actually implemented.
  • two or more components may be combined into one component as needed, or one component may be divided into two or more components.
  • the function performed in each block is for explaining an embodiment of the present invention, the specific operation or device does not limit the scope of the present invention.
  • the image display device 100 does not include the tuner 131 and the demodulator 132, as shown in FIG. 1, but the network interface unit 133 or the external device interface unit. An image may be received and reproduced through the 135.
  • the video display device 100 may be divided into an image processing apparatus such as a set-top box, etc., for receiving broadcast signals or contents according to various network services, and a content reproduction apparatus for playing contents input from the image processing apparatus. Can be implemented.
  • an image processing apparatus such as a set-top box, etc.
  • a content reproduction apparatus for playing contents input from the image processing apparatus. Can be implemented.
  • the image display method according to an embodiment of the present invention to be described below is not only an image display device 100 as described with reference to FIG. 1, but also an image processing apparatus or a display unit 180 such as the separated set-top box. ) And the content reproducing apparatus including the audio output unit 185.
  • FIG. 2 is a block diagram of a remote control apparatus according to an embodiment of the present invention
  • Figure 3 shows an example of the actual configuration of the remote control apparatus 200 according to an embodiment of the present invention.
  • the remote control apparatus 200 includes a wireless communication unit 225, a user input unit 235, a sensor unit 240, an output unit 250, a power supply unit 260, and a storage unit 270. It may include a control unit 280.
  • the wireless communication unit 225 transmits and receives a signal with any one of the image display device according to the embodiments of the present invention described above.
  • the remote control apparatus 200 includes an RF module 221 capable of transmitting and receiving a signal to and from the image display device 100 according to the RF communication standard, and transmitting and receiving a signal to and from the image display device 100 according to the IR communication standard.
  • RF module 223 may be provided.
  • the remote control apparatus 200 transmits a signal containing information on the movement of the remote control apparatus 200 to the image display apparatus 100 through the RF module 221.
  • the remote control device 200 may receive a signal transmitted from the image display device 100 through the RF module 221, and if necessary, power to the image display device 100 through the IR module 223. Commands for on / off, channel change, volume change, etc. can be sent.
  • the user input unit 235 may be configured as a keypad, a button, a touch pad, or a touch screen.
  • the user may input a command related to the image display apparatus 100 to the remote control apparatus 200 by manipulating the user input unit 235.
  • the user input unit 235 includes a hard key button, the user may input a command related to the image display device 100 to the remote control apparatus 200 through a push operation of the hard key button. This will be described with reference to FIG. 3.
  • the remote control apparatus 200 may include a plurality of buttons.
  • the plurality of buttons may include a power button 291, a channel button 293, a favorite channel button 295, and a LIVE button 297.
  • the power button 291 may be a button for turning on / off the power of the video display device 100.
  • the channel button 293 may be a button for receiving a broadcast signal of a specific broadcast channel.
  • the favorite channel button 295 may be a button for displaying a favorite channel.
  • the LIVE button 297 may be a button for displaying a live broadcast program.
  • the user input unit 235 When the user input unit 235 includes a touch screen, a user may input a command related to the image display apparatus 100 to the remote controller 200 by touching a soft key of the touch screen.
  • the user input unit 235 may include various kinds of input means that the user can operate, such as a scroll key or a jog key, and the present embodiment does not limit the scope of the present invention.
  • the sensor unit 240 may include a gyro sensor 241 or an acceleration sensor 243, and the gyro sensor 241 may sense information about the movement of the remote controller 200.
  • the gyro sensor 241 may sense information about the operation of the remote control device 200 based on the x, y, and z axes, and the acceleration sensor 243 may move the speed of the remote control device 200. Information about the data can be sensed.
  • the remote control device 200 may further include a distance measuring sensor, it can sense the distance to the display unit 180 of the video display device 100.
  • the output unit 250 may output a video or audio signal corresponding to a manipulation of the user input unit 235 or a signal transmitted from the image display apparatus 100.
  • the user may recognize whether the user input unit 235 is manipulated or whether the image display device 100 is controlled through the output unit 250.
  • the output unit 250 is an LED module 251 that is turned on when the user input unit 235 is operated or a signal is transmitted and received with the image display device 100 through the wireless communication unit 225, the vibration module for generating a vibration 253, a sound output module 255 for outputting sound, or a display module 257 for outputting an image.
  • the power supply unit 260 supplies power to the remote control device 200, and can reduce power waste by stopping the power supply when the remote control device 200 does not move for a predetermined time.
  • the power supply unit 260 may resume power supply when a predetermined key provided in the remote control apparatus 200 is operated.
  • the storage unit 270 may store various types of programs, application data, and the like necessary for controlling or operating the remote control apparatus 200. If the remote control device 200 transmits and receives a signal wirelessly through the image display device 100 and the RF module 221, the remote control device 200 and the image display device 100 transmit signals through a predetermined frequency band. Send and receive
  • the control unit 280 of the remote control device 200 stores in the storage unit 270 information on a frequency band for transmitting and receiving a signal wirelessly with the image display device 100 paired with the remote control device 200. Reference may be made.
  • the controller 280 controls various matters related to the control of the remote controller 200.
  • the controller 280 transmits a signal corresponding to a predetermined key manipulation of the user input unit 235 or a signal corresponding to the movement of the remote controller 200 sensed by the sensor unit 240 through the wireless communication unit 225. 100 can be sent.
  • FIG. 4 is a flowchart illustrating a method of operating the video display device 100 according to an exemplary embodiment.
  • the image acquisition unit 160 of the image display device 100 obtains an image of a gesture of a user (S101).
  • the image acquirer 160 may obtain an image of a user through a camera included in the image acquirer 160.
  • FIG 5 is an exemplary diagram for describing image acquisition by the image acquisition unit 160 according to an exemplary embodiment.
  • the image acquisition unit 160 may be provided on the front of the image display device 100 to acquire an image. Accordingly, the image acquisition unit 160 may acquire an image of a user who uses the image display device 100.
  • the image acquisition unit 160 may obtain an image of a user through a camera provided in the front of the image display device 100.
  • the image acquirer 160 transmits the acquired image of the user to the controller 170.
  • the obtained image of the user may include an image of the gesture operation of the user.
  • the camera is not included in the image display device 100 but may be provided separately.
  • the image display device 100 recognizes the user's gesture based on the acquired image of the user's gesture (S103).
  • the controller 170 of the image display device 100 may recognize the gesture of the user based on the image of the gesture of the user acquired by the image acquirer 160.
  • the controller 170 may distinguish the gesture object region from the acquired image of the user.
  • the controller 170 may recognize at least one of a shape and a movement of the gesture object in the divided gesture object area. If the controller 170 determines that at least one of the shape and the movement of the recognized gesture object matches at least one of the shape and the movement of the previously stored gesture object, the controller 170 may determine one or more of the shape and the movement of the recognized gesture object. Can be recognized.
  • the gesture object may include a part of the user's body such as a hand, a finger, a foot, a head, and a face.
  • the gesture object area may be an area where a gesture object including a part of the user's body is located in the acquired image of the user's gesture.
  • the video display device 100 recognizes the position of the gesture object (S105).
  • the controller 170 of the image display device 100 may recognize the position of the gesture object in the acquired image.
  • the controller 170 may recognize a position of a hand that is a gesture object in the acquired image.
  • the controller 170 may recognize a position of a finger which is a gesture object in the acquired image.
  • the controller 170 may recognize the position of the head that is the gesture object in the acquired image.
  • the gesture object may include a part of the user's body such as a hand, a finger, a foot, a head, and a face.
  • One or more gesture objects may be set, and a plurality of objects may be set as gesture objects.
  • the gesture object may be variously selected according to a user's or designer's selection.
  • step S105 may be included in step S109 to be described later.
  • the video display device 100 recognizes the position of the reference object in operation S107.
  • the controller 170 of the image display device 100 may recognize the position of the reference object in the acquired image.
  • the controller 170 may recognize the position of the head that is the reference object in the acquired image.
  • the controller 170 may recognize a position of a hand that is a reference object in the acquired image.
  • the reference object may be the same hand as the gesture object, or may be another hand.
  • the controller 170 may recognize a position of a finger that is a reference object in the acquired image.
  • the finger as the reference object may be the same finger as the finger as the gesture object or may be another finger.
  • the reference object may include a part of the user's body such as a hand, a finger, a foot, a head, and a face.
  • the reference object may be set to one or more, so that a plurality of objects may be set as the reference object.
  • the reference object may be variously selected according to a user's or designer's selection.
  • step S107 may be included in step S109 to be described later.
  • the video display device 100 calculates a distance between the recognized gesture object and the reference object (S109).
  • the controller 170 of the image display device 100 may calculate a distance between the gesture object and the reference object based on the recognized position of the gesture object and the position of the reference object.
  • FIG. 6A illustrates a left and right gesture of a user according to an embodiment of the present invention.
  • the image display device 100 may recognize positions of a user's head, which is a reference object, and a hand, which is a gesture object, in the acquired image.
  • the image display device 100 may calculate a distance between the center of the reference object and the center of the gesture object.
  • the image display device 100 may calculate d1, which is a distance between the reference line L1 corresponding to the center of the head as the reference object and the reference line L2 corresponding to the center of the hand as the gesture object.
  • FIG. 7A illustrates a left and right gesture of a user according to another embodiment of the present invention.
  • the image display device 100 may recognize positions of a user's left hand as a reference object and a right hand as a gesture object in the acquired image.
  • the image display device 100 may calculate a distance between the center of the reference object and the center of the gesture object.
  • the image display device 100 may calculate d1, which is a distance between the reference line L1 corresponding to the center of the left hand as the reference object and the reference line L2 corresponding to the center of the right hand as the gesture object.
  • the image display device 100 may recognize the reference object with the right hand and recognize the gesture object with the left hand in the acquired image.
  • FIG. 8A is an exemplary diagram of a finger gesture of a user according to another embodiment of the present invention.
  • the image display device 100 may recognize positions of a thumb of a user, which is a reference object, and an index finger, which is a gesture object, in the acquired image.
  • the image display device 100 may calculate a distance between the center of the reference object and the center of the gesture object.
  • the image display device 100 may calculate d1, which is a distance between the reference line L1 corresponding to the center of the thumb as the reference object and the reference line L2 corresponding to the center of the index finger as the gesture object.
  • the image display device 100 may recognize the reference object as the index finger in the obtained image and recognize the gesture object with the thumb.
  • 9A is an exemplary view of a user's up and down gestures according to another embodiment of the present invention.
  • the image display device 100 may recognize a position of a user's head, which is a reference object, and a hand, which is a gesture object, in the acquired image.
  • the image display device 100 may calculate a distance between the center of the reference object and the center of the gesture object.
  • the image display device 100 may calculate d1, which is a distance between the reference line L1 corresponding to the center of the head as the reference object and the reference line L2 corresponding to the center of the hand as the gesture object.
  • the image display device 100 may calculate the distance between the reference object and the gesture object based on one or more of an area, a size, a length of each of the reference object and the gesture object, and a ratio between the reference object and the gesture object.
  • FIGS. 10A and 10B illustrate an example of gesture recognition in a front and rear direction of a user according to another embodiment of the present invention.
  • the image display device 100 may recognize positions of a user's head, which is a reference object, and a hand, which is a gesture object, in the acquired image.
  • the image display device 100 may calculate a distance between the center of the reference object and the center of the gesture object. According to an embodiment, the image display device 100 may calculate d, which is a distance between the reference line L1 corresponding to the center of the head as the reference object and the reference line L2 corresponding to the center of the hand as the gesture object.
  • the image display device 100 may calculate a distance between the reference object and the gesture object based on the ratio between the reference object and the gesture object. This will be described with reference to FIG. 11.
  • 11 is an exemplary diagram for comparing ratios of objects according to an embodiment of the present invention.
  • FIG. 11A illustrates a case in which a head, which is a reference object of a user, and a hand, which is a gesture object, are located at L1, which is the same reference line, as illustrated in FIG. 10A, and FIG.
  • the hand is on a baseline L2 that is different from the baseline L1.
  • the image display device 100 calculates at least one of a size and an area of a user's head, which is a reference object, in the acquired image, and calculates at least one of a size and an area of a hand, which is a gesture object. can do.
  • the image display device 100 may calculate a ratio between the reference object and the gesture object based on at least one of the calculated size and area of the reference object and at least one of the size and area of the gesture object.
  • the image display device 100 calculates at least one of a size and an area of a user's head, which is a reference object, in the acquired image, and calculates at least one of a size and an area of a hand, which is a gesture object. can do.
  • the image display device 100 may calculate a ratio between the reference object and the gesture object based on at least one of the calculated size and area of the reference object and at least one of the size and area of the gesture object.
  • the image display device 100 may calculate a distance between the reference object and the gesture object by comparing the ratio calculated in FIG. 11A with the ratio calculated in FIG. 11B. Specifically, even if the position of the hand as the gesture object is changed, the position of the head as the reference object is the same. Therefore, at least one of the size and the area of the head as the reference object is the same even if the position of the hand as the gesture object is changed. Thus, the image display device 100 may calculate the distance between the reference object and the gesture object according to the forward and backward movement of the gesture object based on the ratio between the reference object and the gesture object. Accordingly, the image display device 100 may calculate the distance between the reference object and the gesture object based on the change in the ratio between the reference object and the gesture object according to the movement of the gesture object.
  • the image display device 100 may calculate a distance between the reference object and the gesture object based on one or more of the area, size, and length of the gesture object. This will be described with reference to FIGS. 12 to 13.
  • the video display device 100 calculates the distance between the reference object and the gesture object based on the length of the gesture object.
  • FIG. 12 is an exemplary diagram for comparing lengths of objects according to an embodiment of the present invention.
  • FIG. 12A illustrates a case in which a head, which is a reference object of a user, and a hand, which is a gesture object, are located at L1, which is the same reference line, as shown in FIG. 10A, and FIG.
  • the hand is on a baseline L2 that is different from the baseline L1.
  • the image display device 100 may calculate the length of a gesture object from the acquired image.
  • the video display device 100 may calculate one or more of the height and width of the gesture object.
  • the video display device 100 may calculate w1, which is a length of a width of a hand, which is a gesture object.
  • the image display device 100 may calculate a length of a gesture object from the acquired image.
  • the video display device 100 may calculate one or more of the height and width of the gesture object.
  • the image display device 100 may calculate w2, which is a length of the width of the hand, which is a gesture object.
  • the video display device 100 may calculate the distance between the reference object and the gesture object by comparing the length calculated in FIG. 12A with the length calculated in FIG. 12B. Specifically, even if the position of the hand as a gesture object is changed, the actual size of the hand as the gesture object is the same. However, the size of the gesture object is different in the image obtained by the image display device 100. Thus, the image display device 100 may calculate the distance between the reference object and the gesture object according to the forward and backward movement of the gesture object based on the change in the size of the gesture object.
  • the image display device 100 may calculate a distance between the reference object and the gesture object based on the area of the gesture object.
  • FIG. 13 is an exemplary diagram for comparing an area of an object according to an embodiment of the present invention.
  • FIG. 13A illustrates a case in which a head, which is a reference object of a user, and a hand, which is a gesture object, are located at L1, which is the same reference line, as shown in FIG. 10A, and FIG.
  • the hand is on a baseline L2 that is different from the baseline L1.
  • the image display device 100 may calculate an area of a gesture object in an acquired image. For example, the image display device 100 may calculate the area a1 of the gesture object displayed in black, as shown in FIG. 13A.
  • the image display device 100 may calculate an area of a gesture object in the acquired image. For example, as illustrated in FIG. 13B, the image display device 100 may calculate an area a2 of the gesture object displayed in black.
  • the video display device 100 may calculate the distance between the reference object and the gesture object by comparing the area calculated in FIG. 13A with the area calculated in FIG. 13B. Specifically, even if the position of the hand as the gesture object is changed, the actual area of the hand as the gesture object is the same. However, the area of the gesture object is different in the image obtained by the image display device 100. Thus, the image display device 100 may calculate the distance between the reference object and the gesture object according to the forward and backward movement of the gesture object based on the area change of the gesture object.
  • the image acquisition unit 160 of the image display device 100 may include a camera capable of measuring a distance, so that the center of the reference object and the center of the gesture object are included through the included camera. It can calculate the distance between.
  • the image acquirer 160 may measure a distance between the reference object and the gesture object through a TOF camera (not shown).
  • the TOF camera refers to a camera that calculates a distance by measuring a time reflected by shooting light, and thus a detailed description thereof will be omitted.
  • the video display device 100 performs a control operation corresponding to the recognized gesture and the calculated distance (S111).
  • the image display device 100 may perform a control operation corresponding to one or more of the shape and movement of the recognized gesture and the calculated distance between the reference object and the gesture object.
  • the image display device 100 may recognize the recognized gesture as a control operation, recognize the calculated distance as a control amount or an execution amount, and perform a control operation corresponding to the recognized gesture and the calculated distance. In addition, the image display device 100 may recognize the control amount or the execution amount as a positive number or a negative number according to the calculated distance.
  • the control operation that may be performed by the video display device 100 may include various control operations that may be performed by the video display device 100.
  • the image display device 100 may perform at least one control operation of channel switching, volume control, screen enlargement, screen reduction, screen movement, pointer movement, screen setting, and sound setting.
  • 6A to 6D illustrate a left and right gesture of a user according to an embodiment of the present invention.
  • the controller 170 may recognize a gesture in which the user opens a hand, which is a gesture object, as a control operation of adjusting the volume of the image display device 100.
  • the controller 170 may recognize the volume control amount as +3 when the distance between the user's head as the reference object and the hand as the gesture object is d1. Accordingly, the controller 170 may increase the volume of the video display device 100 by the volume value 3.
  • the controller 170 may recognize a gesture in which the user opens a hand, which is a gesture object, as a control operation of adjusting the volume of the image display device 100.
  • the controller 170 may recognize the volume control amount as +5 when the distance between the user's head, which is the reference object, and the hand, which is the gesture object, is d2. Accordingly, the controller 170 may increase the volume of the video display device 100 by the volume value 5.
  • the controller 170 may recognize a gesture in which the user opens a hand, which is a gesture object, as a control operation of adjusting the volume of the image display device 100.
  • the controller 170 may recognize the volume control amount as +1 when the distance between the user's head as the reference object and the hand as the gesture object is d3. Accordingly, the controller 170 may increase the volume of the video display device 100 by the volume value 1.
  • the controller 170 may recognize a gesture in which the user opens a hand, which is a gesture object, as a control operation of adjusting the volume of the image display device 100.
  • the controller 170 may recognize the volume control amount as ⁇ 3 when the distance between the user's head, which is the reference object, and the hand, which is the gesture object, is d4. Accordingly, the controller 170 may lower the volume of the video display device 100 by the volume value 3.
  • 14A to 14D illustrate a left and right gesture of a user according to another embodiment of the present invention.
  • the controller 170 may recognize a gesture of a user grasping a hand that is a gesture object as a control operation of switching a displayed channel of the image display device 100.
  • the controller 170 may recognize the channel movement amount as +3 when the distance between the user's head, which is the reference object, and the hand, which is the gesture object, is d1. Accordingly, the controller 170 may switch the channel displayed by the image display device 100 to three channels or more. For example, if the channel being displayed is channel 10, the video display device 100 may switch to channel 13.
  • the controller 170 may recognize a gesture of a user grasping a hand, which is a gesture object, as a control operation of switching a displayed channel of the image display device 100.
  • the controller 170 may recognize the channel movement amount as +5 when the distance between the user's head as the reference object and the hand as the gesture object is d2. Accordingly, the controller 170 may switch the channel displayed by the image display device 100 to five channels or more. For example, if the channel being displayed was channel 10, the video display device 100 may switch to channel 15.
  • the controller 170 may recognize a gesture of a user holding a hand, which is a gesture object, as a control operation of switching a displayed channel of the image display device 100.
  • the controller 170 may recognize the channel movement amount as +1 when the distance between the user's head as the reference object and the hand as the gesture object is d3. Accordingly, the controller 170 may switch the channel displayed by the image display device 100 to one channel or more. For example, if the channel being displayed is channel 10, the video display device 100 may switch to channel 11.
  • the controller 170 may recognize a gesture of a user holding a hand, which is a gesture object, as a control operation of switching a displayed channel of the image display device 100.
  • the controller 170 may recognize the channel movement amount as ⁇ 3 when the distance between the user's head, which is the reference object, and the hand, which is the gesture object, is d4. Accordingly, the controller 170 may switch the channel displayed by the image display device 100 to three channels before. For example, if the channel being displayed was channel 10, the video display device 100 may switch to channel 7.
  • FIG. 7A to 7C illustrate left and right gestures of a user according to another exemplary embodiment of the present invention.
  • the controller 170 may recognize a gesture in which the user opens each of two hands, which are gesture objects, as a control operation of adjusting the size of the screen of the image display device 100.
  • the controller 170 may recognize one of two hands, which is a gesture object, as a reference object, and recognize the other hand as a gesture object.
  • the controller 170 may enlarge the displayed screen twice when the distance between one hand as the reference object and the other hand as the gesture object is d1.
  • the controller 170 may recognize a gesture in which the user opens each of two hands, which are gesture objects, as a control operation of adjusting the size of the screen of the image display device 100.
  • the controller 170 may recognize one of two hands, which is a gesture object, as a reference object, and recognize the other hand as a gesture object.
  • the controller 170 may enlarge the displayed screen three times when the distance between one hand as the reference object and the other hand as the gesture object is d2.
  • the controller 170 may recognize a gesture in which the user opens each of two hands, which are gesture objects, as a control operation of adjusting the size of the screen of the image display device 100.
  • the controller 170 may recognize one of two hands, which is a gesture object, as a reference object, and recognize the other hand as a gesture object.
  • the controller 170 may reduce the displayed screen to 0.8 times when the distance between one hand as the reference object and the other hand as the gesture object is d3.
  • the image display device 100 recognizes and operates each of a plurality of fingers of a user as a reference object and a gesture object.
  • 8A to 8C illustrate a finger gesture of a user according to another embodiment of the present invention.
  • the controller 170 may recognize a gesture in which the user opens a thumb, which is a gesture object and a thumb, which is a reference object, as a control operation of adjusting the volume of the image display device 100. .
  • the controller 170 may recognize the volume control amount as +1 when the distance between the thumb as the reference object and the index finger as the gesture object is d1. Accordingly, the controller 170 may increase the volume of the video display device 100 by the volume value 1.
  • the controller 170 may recognize a gesture in which a user opens a thumb, which is a gesture object and a thumb, which is a reference object, as a control operation of adjusting the volume of the image display device 100. .
  • the controller 170 may recognize the volume control amount as +3 when the distance between the thumb as the reference object and the index finger as the gesture object is d2. Accordingly, the controller 170 may increase the volume of the video display device 100 by the volume value 3.
  • the controller 170 may recognize a gesture in which a user opens a thumb, which is a gesture object, and a thumb, which is a reference object, as a control operation of adjusting the volume of the image display device 100. have.
  • the controller 170 may recognize the volume control amount as ⁇ 1 when the distance between the thumb as the reference object and the index finger as the gesture object is d3. Accordingly, the controller 170 may lower the volume of the video display device 100 by the volume value 1.
  • FIGS. 9A to 9C illustrate a vertical gesture of a user according to an embodiment of the present invention.
  • the controller 170 may recognize a gesture of extending a hand, which is a gesture object, as a control operation of moving one or more of a screen and a pointer displayed on the screen of the image display device 100. have.
  • the controller 170 may recognize the movement amount as ⁇ 2 when the distance between the user's head as the reference object and the hand as the gesture object is d1. Accordingly, the controller 170 may move one or more of the screen of the image display device 100 and the pointers displayed on the screen by the movement amount 2 in the lower direction. For example, if the pointer is being displayed for the third channel in the displayed list of all channels, the video display device 100 may display the pointer for the fifth channel.
  • the controller 170 may recognize a gesture of extending a hand, which is a gesture object, as a control operation of moving one or more of a screen and a pointer displayed on the screen of the image display device 100. have.
  • the controller 170 may recognize the movement amount as +1 when the distance between the user's head as the reference object and the hand as the gesture object is d2. Accordingly, the controller 170 may move one or more of the screen and the pointer displayed on the screen of the image display device 100 in the upper direction by the movement amount 1. For example, if the pointer is being displayed for the third channel in the displayed list of all channels, the video display device 100 may display the pointer for the second channel.
  • the controller 170 may recognize a gesture of extending a hand, which is a gesture object, as a control operation of moving one or more of a screen and a pointer displayed on the screen of the image display device 100.
  • the controller 170 may recognize the movement amount as ⁇ 4 when the distance between the user's head as the reference object and the hand as the gesture object is d3. Accordingly, the controller 170 may move one or more of the screen of the image display device 100 and the pointers displayed on the screen by the movement amount 4 in the lower direction. For example, if the pointer is being displayed for the third channel in the displayed list of all channels, the video display device 100 may display the pointer for the seventh channel.
  • the control operation according to the gesture of the user of the image display device 100 described above is an example for description and may be variously set according to a user's or designer's selection. Accordingly, the image display device 100 may perform various control operations according to the shape or movement of the gesture and the calculated distance. For example, the image display device 100 may perform at least one control operation of channel switching, volume control, screen enlargement, screen reduction, screen movement, pointer movement, screen setting, and sound setting.
  • the image display device 100 may set a control operation corresponding to the gesture of the user according to a user's or designer's selection. Accordingly, the control operation of the video display device 100 corresponding to the same gesture may be set differently for each of the plurality of users.
  • the above-described method may be implemented as code that can be read by a processor in a medium in which a program is recorded.
  • processor-readable media include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage, and the like, and may be implemented in the form of a carrier wave (for example, transmission over the Internet). Include.
  • the video display device described above is not limited to the configuration and method of the above-described embodiments, but the embodiments may be configured by selectively combining all or some of the embodiments so that various modifications may be made. May be

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Social Psychology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 실시 예에 따른 영상 표시 기기의 동작 방법은 영상 표시 기기의 사용자에 대한 영상을 획득하는 단계; 획득된 영상에서 상기 사용자의 제스처를 인식하는 단계; 인식된 제스처를 기초로 상기 제스처에 대한 제어량을 산출하는 단계; 및 상기 인식된 제스처 및 산출된 제어량에 대응하는 제어 동작을 수행하는 단계를 포함한다.

Description

영상 표시 기기 및 그의 동작 방법
본 발명은 영상 표시 기기 및 그의 동작 방법에 관한 것으로, 보다 상세하게는 사용자의 제스처를 인식하고, 인식된 제스처에 대응하는 제어 동작을 제공하는 영상 표시 기기 및 그의 동작 방법에 관한 것이다.
최근 들어, 유선 또는 무선 통신망을 이용한 디지털 TV 서비스가 보편화되고 있다. 디지털 TV 서비스는 기존의 아날로그 방송 서비스에서는 제공할 수 없었던 다양한 서비스를 제공할 수 있다.
예를 들어 디지털 TV 서비스의 한 종류인 IPTV(Internet Protocol Television) 서비스의 경우 사용자로 하여금 시청 프로그램의 종류, 시청 시간 등을 능동적으로 선택할 수 있도록 하는 양방향성을 제공한다. IPTV 서비스는 이러한 양방향성을 기반으로 하여 다양한 부가 서비스, 예컨대 인터넷 검색, 홈쇼핑, 온라인 게임 등을 제공할 수도 있다.
한편, 최근의 스마트 TV는 사용자의 제스처를 인식해서, 인식된 제스처에 대응하는 제어 동작을 수행할 수도 있다. 하지만, 스마트 TV가 인식할 수 있는 사용자의 제스처가 한정적이고, 제스처만으로 음량의 크기와 같은 제어량을 입력하기 어려운 문제가 있다. 이에 따라, 스마트 TV가 사용자의 복수의 제스처 조합을 인식하여 다양한 제어 동작을 제공하고 있다. 하지만 사용자의 복수의 제스처 조합을 인식하는 방법은 복수의 제스처 각각을 사용자가 기억해야 하는 불편함이 있고, 복수의 제스처 조합이 사용자에게 직관적이지 못하다는 한계가 있다.
본 발명은 사용자의 제스처를 인식하고, 인식된 제스처에 대응하는 제어 동작 및 제어량을 제공하는데 목적이 있다.
본 발명은 한번의 제스처만으로 사용자가 원하는 제어 동작 및 제어 동작에 대한 제어량을 제공하는데 목적이 있다.
본 발명의 실시 예에 따른 영상 표시 기기의 동작 방법은 영상 표시 기기의 사용자에 대한 영상을 획득하는 단계; 획득된 영상에서 상기 사용자의 제스처를 인식하는 단계; 인식된 제스처를 기초로 상기 제스처에 대한 제어량을 산출하는 단계; 및 상기 인식된 제스처 및 산출된 제어량에 대응하는 제어 동작을 수행하는 단계를 포함한다.
본 발명의 실시 예에 따른 영상 표시 기기는 영상 표시 기기의 사용자에 대한 영상을 획득하는 영상 획득부; 및 획득된 사용자에 대한 영상에서 상기 사용자의 제스처를 인식하고, 인식된 제스처를 기초로 상기 제스처에 대한 제어량을 산출하고, 상기 인식된 제스처 및 산출된 제어량에 대응하는 제어 동작을 수행하는 제어부를 포함한다.
본 발명의 다양한 실시 예에 따르면, 본 발명은 제어량이 필요한 제어 동작을 한번의 제스처 동작으로 인식할 수 있어서, 사용자가 한번의 제스처만으로 원하는 제어 동작을 수행할 수 있다.
또한, 본 발명은 제어량에 대한 직관적인 입력 방법을 제공하므로, 사용자에 직관적인 제스처를 제공할 수 있다.
도 1은 본 발명의 일 실시 예에 따른 영상 표시 기기의 구성을 블록도로 도시한 것이다.
도 2은 본 발명의 일 실시 예에 따른 원격제어장치의 블록도이다.
도 3은 본 발명의 일 실시 예에 따른 원격제어장치의 실제 구성 예를 보여준다.
도 4는 본 발명의 일 실시 예에 따른 영상 표시 기기의 동작 방법을 나타내는 흐름도이다.
도 5는 본 발명의 일 실시 예에 따른 영상 획득부의 영상 획득을 설명하기 위한 예시도이다.
도 6a 내지 도 6d는 본 발명의 일 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
도 7a 내지 도 7c는 본 발명의 다른 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
도 8a 내지 도 8c는 본 발명의 일 실시예에 따른 사용자의 손가락 제스처를 나타낸다.
도 9a 내지 도 9c는 본 발명의 일 실시예에 따른 사용자의 상하 방향 제스처를 나타낸다.
도 10a 및 도 10b는 본 발명의 또 다른 실시예에 따른 사용자의 전후 방향의 제스처 인식에 대한 예시도를 나타낸다.
도 11은 본 발명의 일 실시예에 따른 오브젝트의 비율 비교에 대한 예시도이다.
도 12는 본 발명의 일 실시예에 따른 오브젝트의 길이 비교에 대한 예시도이다.
도 13은 본 발명의 일 실시예에 따른 오브젝트의 면적 비교에 대한 예시도이다.
도 14a 내지 도 14d는 본 발명의 또 다른 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
이하, 본 발명과 관련된 실시 예에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
이하, 첨부된 도면을 참조하여 본 발명의 실시 예에 따른 화면 표시 제어 방법 및 그를 이용한 영상 표시 기기에 관하여 상세히 설명한다.
본 발명의 실시 예에 따른 영상 표시 기기는, 예를 들어 방송 수신 기능에 컴퓨터 지원 기능을 추가한 지능형 영상 표시 기기로서, 방송 수신 기능에 충실하면서도 인터넷 기능 등이 추가되어, 수기 방식의 입력 장치, 터치 스크린 또는 공간 리모콘 등 보다 사용에 편리한 인터페이스를 갖출 수 있다. 그리고, 유선 또는 무선 인터넷 기능의 지원으로 인터넷 및 컴퓨터에 접속되어, 이메일, 웹브라우징, 뱅킹 또는 게임 등의 기능도 수행 가능하다. 이러한 다양한 기능을 위해 표준화된 범용 OS가 사용될 수 있다.
따라서, 본 발명에서 기술되는 영상 표시 기기는, 예를 들어 범용의 OS 커널 상에, 다양한 애플리케이션이 자유롭게 추가되거나 삭제 가능하므로, 사용자 친화적인 다양한 기능이 수행될 수 있다. 상기 영상 표시 기기는, 보다 구체적으로 예를 들면, 네트워크 TV, HBBTV, 스마트 TV, LED TV, OLED TV 등이 될 수 있으며, 경우에 따라 스마트폰에도 적용 가능하다.
도 1은 본 발명의 일 실시예에 따른 영상 표시 기기의 구성을 블록도로 도시한 것이다.
도 1을 참조하면, 영상 표시 기기(100)는 방송 수신부(130), 외부 장치 인터페이스부(135), 저장부(140), 사용자입력 인터페이스부(150), 영상 획득부(160), 제어부(170), 디스플레이부(180), 오디오 출력부(185), 전원공급부(190)를 포함할 수 있다. 한편, 방송 수신부(130)는 튜너(131), 복조부(132) 및 네트워크 인터페이스부(133)를 포함할 수 있다.
외부 장치 인터페이스부(135)는 인접하는 외부 장치 내의 애플리케이션 또는 애플리케이션 목록을 수신하여, 제어부(170) 또는 저장부(140)로 전달할 수 있다.
외부 장치 인터페이스부(135)는 외부 장치와 연결하기 위한 단자(terminal)를 포함할 수 있어서, 외부 장치의 커넥터(connecter)와 연결될 수 있다.
외부 장치 인터페이스부(135)는 전원 공급부(190)로부터 공급받은 전원을 연결된 외부 장치에 구동 전원으로 공급할 수 있다.
또한, 외부 장치 인터페이스부(135)는 외부 장치가 송신한 동작 신호를 제어부(170)에 전달할 수 있다.
이와 반대로, 외부 장치 인터페이스부(135)는 제어부(170)가 송신한 음성 신호를 연결된 외부 장치에 전달할 수 있다.
한편, 외부 장치 인터페이스부(135)는 외부 장치의 연결을 감지할 수 있는 센서가 포함될 수 있어서, 외부 장치의 연결을 인식할 수 있다.
네트워크 인터페이스부(133)는 영상 표시 기기(100)를 인터넷망을 포함하는 유/무선 네트워크와 연결하기 위한 인터페이스를 제공할 수 있다. 네트워크 인터페이스부(133)는 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 다른 사용자 또는 다른 전자 기기와 데이터를 송신 또는 수신할 수 있다.
또한, 영상 표시 기기(100)에 미리 등록된 다른 사용자 또는 다른 전자 기기 중 선택된 사용자 또는 선택된 전자기기에, 영상 표시 기기(100)에 저장된 일부의 컨텐츠 데이터를 송신할 수 있다.
네트워크 인터페이스부(133)는 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 소정 웹 페이지에 접속할 수 있다. 즉, 네트워크를 통해 소정 웹 페이지에 접속하여, 해당 서버와 데이터를 송신 또는 수신할 수 있다.
그리고, 네트워크 인터페이스부(133)는 컨텐츠 제공자 또는 네트워크 운영자가 제공하는 컨텐츠 또는 데이터들을 수신할 수 있다. 즉, 네트워크 인터페이스부(133)는 네트워크를 통하여 컨텐츠 제공자 또는 네트워크 제공자로부터 제공되는 영화, 광고, 게임, VOD, 방송 신호 등의 컨텐츠 및 그와 관련된 정보를 수신할 수 있다.
또한, 네트워크 인터페이스부(133)는 네트워크 운영자가 제공하는 펌웨어의 업데이트 정보 및 업데이트 파일을 수신할 수 있으며, 인터넷 또는 컨텐츠 제공자 또는 네트워크 운영자에게 데이터들을 송신할 수 있다.
네트워크 인터페이스부(133)는 네트워크를 통해, 공중에 공개(open)된 애플리케이션들 중 원하는 애플리케이션을 선택하여 수신할 수 있다.
저장부(140)는 제어부(170) 내의 각 신호 처리 및 제어를 위한 프로그램이 저장하고, 신호 처리된 영상, 음성 또는 데이터신호를 저장할 수 있다.
또한, 저장부(140)는 외부 장치 인터페이스부(135) 또는 네트워크 인터페이스부(133)로부터 입력되는 영상, 음성, 또는 데이터 신호의 임시 저장을 위한 기능을 수행할 수도 있으며, 채널 기억 기능을 통하여 소정 이미지에 관한 정보를 저장할 수도 있다.
저장부(140)는 외부 장치 인터페이스부(135) 또는 네트워크 인터페이스부(133)로부터 입력되는 애플리케이션 또는 애플리케이션 목록을 저장할 수 있다.
영상 표시 기기(100)는 저장부(140) 내에 저장되어 있는 컨텐츠 파일(동영상 파일, 정지영상 파일, 음악 파일, 문서 파일, 애플리케이션 파일 등)을 재생하여 사용자에게 제공할 수 있다.
사용자입력 인터페이스부(150)는 사용자가 입력한 신호를 제어부(170)로 전달하거나, 제어부(170)로부터의 신호를 사용자에게 전달할 수 있다. 예를 들어, 사용자입력 인터페이스부(150)는 블루투스(Bluetooth), WB(Ultra Wideband), 지그비(ZigBee) 방식, RF(Radio Frequency) 통신 방식 또는 적외선(IR) 통신 방식 등 다양한 통신 방식에 따라, 원격제어장치(200)로부터 전원 온/오프, 채널 선택, 화면 설정 등의 제어 신호를 수신하여 처리하거나, 제어부(170)로부터의 제어 신호를 원격제어장치(200)로 송신하도록 처리할 수 있다.
또한, 사용자입력 인터페이스부(150)는, 전원키, 채널키, 볼륨키, 설정치 등의 로컬키(미도시)에서 입력되는 제어 신호를 제어부(170)에 전달할 수 있다.
영상 획득부(160)는 영상을 획득할 수 있다.
영상 획득부(160)는 적어도 하나 이상의 카메라를 포함할 수 있어서, 포함된 카메라를 통해 영상을 획득할 수 있다.
그리고 영상 획득부(160)는 획득한 영상을 제어부(170)에 전달할 수 있다.
제어부(170)에서 영상 처리된 영상 신호는 디스플레이부(180)로 입력되어 해당 영상 신호에 대응하는 영상으로 표시될 수 있다. 또한, 제어부(170)에서 영상 처리된 영상 신호는 외부 장치 인터페이스부(135)를 통하여 외부 출력장치로 입력될 수 있다.
제어부(170)에서 처리된 음성 신호는 오디오 출력부(185)로 오디오 출력될 수 있다. 또한, 제어부(170)에서 처리된 음성 신호는 외부 장치 인터페이스부(135)를 통하여 외부 장치로 입력될 수 있다.
그 외, 제어부(170)는, 영상 표시 기기(100) 내의 전반적인 동작을 제어할 수 있다.
제어부(170)는 외부 장치 인터페이스부(135)로부터 외부 장치의 연결에 대한 감지 신호를 입력받아, 외부 장치 인터페이스부(135)를 통해 연결된 외부 장치에 구동 전원이 전달되도록 전원 공급부(190)를 제어할 수 있다.
또한, 제어부(170)는 영상 획득부(160)를 통해 획득한 영상을 기초로, 획득한 영상에 포함된 사용자의 제스처를 인식할 수 있다. 그리고 제어부(170)는 인식된 제스처에 대응하는 제어 동작을 수행할 수 있다.
한편, 제어부(170)는 사용자입력 인터페이스부(150)를 통하여 입력된 사용자 명령 또는 내부 프로그램에 의하여 영상 표시 기기(100)를 제어할 수 있으며, 네트워크에 접속하여 사용자가 원하는 애플리케이션 또는 애플리케이션 목록을 영상 표시 기기(100) 내로 다운받을 수 있도록 할 수 있다.
제어부(170)는 사용자가 선택한 채널 정보 등이 처리한 영상 또는 음성신호와 함께 디스플레이부(180) 또는 오디오 출력부(185)를 통하여 출력될 수 있도록 한다.
또한, 제어부(170)는 사용자입력 인터페이스부(150)를 통하여 수신한 외부 장치 영상 재생 명령에 따라, 외부 장치 인터페이스부(135)를 통하여 입력되는 외부 장치, 예를 들어, 카메라 또는 캠코더로부터의, 영상 신호 또는 음성 신호가 디스플레이부(180) 또는 오디오 출력부(185)를 통해 출력될 수 있도록 한다.
한편, 제어부(170)는 영상을 표시하도록 디스플레이부(180)를 제어할 수 있으며, 예를 들어 튜너(131)를 통해 입력되는 방송 영상, 또는 외부 장치 인터페이스부(135)를 통해 입력되는 외부 입력 영상, 또는 네트워크 인터페이스부를 통해 입력되는 영상, 또는 저장부(140)에 저장된 영상이 디스플레이부(180)에서 표시되도록 제어할 수 있다. 이 경우, 디스플레이부(180)에 표시되는 영상은 정지 영상 또는 동영상일 수 있으며, 2D 영상 또는 3D 영상일 수 있다.
또한, 제어부(170)는 영상 표시 기기(100) 내에 저장된 컨텐츠, 또는 수신된 방송 컨텐츠, 외부로 부터 입력되는 외부 입력 컨텐츠가 재생되도록 제어할 수 있으며, 상기 컨텐츠는 방송 영상, 외부 입력 영상, 오디오 파일, 정지 영상, 접속된 웹 화면, 및 문서 파일 등 다양한 형태일 수 있다.
디스플레이부(180)는 제어부(170)에서 처리된 영상 신호, 데이터 신호, OSD 신호 또는 외부 장치 인터페이스부(135)에서 수신되는 영상 신호, 데이터 신호 등을 각각 R,G,B 신호로 변환하여 구동 신호를 생성할 수 있다.
한편, 도 1에 도시된 영상 표시 기기(100)는 본 발명의 일실시예에 불과하므로. 도시된 구성요소들 중 일부는 실제 구현되는 영상 표시 기기(100)의 사양에 따라 통합, 추가, 또는 생략될 수 있다.
즉, 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다. 또한, 각 블록에서 수행하는 기능은 본 발명의 실시예를 설명하기 위한 것이며, 그 구체적인 동작이나 장치는 본 발명의 권리범위를 제한하지 아니한다.
본 발명의 또 다른 실시예에 따르면, 영상 표시 기기(100)는 도 1에 도시된 바와 달리, 튜너(131)와 복조부(132)를 구비하지 않고 네트워크 인터페이스부(133) 또는 외부 장치 인터페이스부(135)를 통해서 영상을 수신하여 재생할 수도 있다.
예를 들어, 영상 표시 기기(100)는 방송 신호 또는 다양한 네트워크 서비스에 따른 컨텐츠들을 수신하기 위한 등과 같은 셋탑 박스 등과 같은 영상 처리 장치와 상기 영상 처리 장치로부터 입력되는 컨텐츠를 재생하는 컨텐츠 재생 장치로 분리되어 구현될 수 있다.
이 경우, 이하에서 설명할 본 발명의 실시예에 따른 이미지 표시 방법은 도 1을 참조하여 설명한 바와 같은 영상 표시 기기(100)뿐 아니라, 상기 분리된 셋탑 박스 등과 같은 영상 처리 장치 또는 디스플레이부(180) 및 오디오출력부(185)를 구비하는 컨텐츠 재생 장치 중 어느 하나에 의해 수행될 수도 있다.
다음으로, 도 2 내지 도 3을 참조하여, 본 발명의 일 실시 예에 따른 원격제어장치에 대해 설명한다.
도 2는 본 발명의 일 실시 예에 따른 원격제어장치의 블록도이고, 도 3은 본발명의 일 실시 예에 따른 원격제어장치(200)의 실제 구성 예를 보여준다.
먼저, 도 2를 참조하면, 원격제어장치(200)는 무선통신부(225), 사용자 입력부(235), 센서부(240), 출력부(250), 전원공급부(260), 저장부(270), 제어부(280)를 포함할 수 있다.
도 2를 참조하면, 무선통신부(225)는 전술하여 설명한 본 발명의 실시 예들에 따른 영상표시기기 중 임의의 어느 하나와 신호를 송수신한다.
원격제어장치(200)는 RF 통신규격에 따라 영상표시기기(100)와 신호를 송수신할 수 있는 RF 모듈(221)을 구비하며, IR 통신규격에 따라 영상표시기기(100)와 신호를 송수신할 수 있는 IR 모듈(223)을 구비할 수 있다.
또한, 원격제어장치(200)는 영상표시기기(100)로 원격제어장치(200)의 움직임 등에 관한 정보가 담긴 신호를 RF 모듈(221)을 통하여 전송한다.
한편, 원격제어장치(200)는 영상표시기기(100)가 전송한 신호를 RF 모듈(221)을 통하여 수신할 수 있으며, 필요에 따라 IR 모듈(223)을 통하여 영상표시기기(100)로 전원 온/오프, 채널 변경, 볼륨 변경 등에 관한 명령을 전송할 수 있다.
사용자 입력부(235)는 키패드, 버튼, 터치 패드, 또는 터치 스크린 등으로 구성될 수 있다. 사용자는 사용자 입력부(235)를 조작하여 원격제어장치(200)으로 영상표시기기(100)와 관련된 명령을 입력할 수 있다. 사용자 입력부(235)가 하드키 버튼을 구비할 경우 사용자는 하드키 버튼의 푸쉬 동작을 통하여 원격제어장치(200)으로 영상표시기기(100)와 관련된 명령을 입력할 수 있다. 이에 대해서는 도 3을 참조하여 설명한다.
도 3을 참조하면, 원격제어장치(200)는 복수의 버튼을 포함할 수 있다. 복수의 버튼은 전원 버튼(291), 채널 버튼(293), 선호 채널 버튼(295) 및 LIVE 버튼(297)을 포함할 수 있다.
전원 버튼(291)은 영상 표시 기기(100)의 전원을 온/오프 하기 위한 버튼일 수 있다.
채널 버튼(293)은 특정 방송 채널의 방송 신호를 수신하기 위한 버튼일 수 있다.
선호 채널 버튼(295)은 선호 채널을 디스플레이 하기 위한 버튼일 수 있다.
LIVE 버튼(297)은 실시간 방송 프로그램을 디스플레이 하기 위한 버튼일 수 있다.
다시 도 2를 설명한다.
사용자 입력부(235)가 터치스크린을 구비할 경우 사용자는 터치스크린의 소프트키를 터치하여 원격제어장치(200)로 영상표시기기(100)와 관련된 명령을 입력할 수 있다. 또한, 사용자 입력부(235)는 스크롤 키나, 조그 키 등 사용자가 조작할 수 있는 다양한 종류의 입력수단을 구비할 수 있으며 본 실시예는 본 발명의 권리범위를 제한하지 아니한다.
센서부(240)는 자이로 센서(241) 또는 가속도 센서(243)를 구비할 수 있으며, 자이로 센서(241)는 원격제어장치(200)의 움직임에 관한 정보를 센싱할 수 있다.
예를 들어, 자이로 센서(241)는 원격제어장치(200)의 동작에 관한 정보를 x,y,z 축을 기준으로 센싱할 수 있으며, 가속도 센서(243)는 원격제어장치(200)의 이동속도 등에 관한 정보를 센싱할 수 있다. 한편, 원격제어장치(200)는 거리측정센서를 더 구비할 수 있어, 영상 표시 기기(100)의 디스플레이부(180)와의 거리를 센싱할 수 있다.
출력부(250)는 사용자 입력부(235)의 조작에 대응하거나 영상표시기기(100)에서 전송한 신호에 대응하는 영상 또는 음성 신호를 출력할 수 있다. 출력부(250)를 통하여 사용자는 사용자 입력부(235)의 조작 여부 또는 영상표시기기(100)의 제어 여부를 인지할 수 있다.
예를 들어, 출력부(250)는 사용자 입력부(235)가 조작되거나 무선 통신부(225)를 통하여 영상표시기기(100)와 신호가 송수신되면 점등되는 LED 모듈(251), 진동을 발생하는 진동 모듈(253), 음향을 출력하는 음향 출력 모듈(255), 또는 영상을 출력하는 디스플레이 모듈(257)을 구비할 수 있다.
또한, 전원공급부(260)는 원격제어장치(200)으로 전원을 공급하며, 원격제어장치(200)이 소정 시간 동안 움직이지 않은 경우 전원 공급을 중단함으로서 전원 낭비를 줄일 수 있다. 전원공급부(260)는 원격제어장치(200)에 구비된 소정 키가 조작된 경우에 전원 공급을 재개할 수 있다.
저장부(270)는 원격제어장치(200)의 제어 또는 동작에 필요한 여러 종류의 프로그램, 애플리케이션 데이터 등이 저장될 수 있다. 만일 원격제어장치(200)가 영상표시기기(100)와 RF 모듈(221)을 통하여 무선으로 신호를 송수신할 경우 원격제어장치(200)과 영상표시기기(100)는 소정 주파수 대역을 통하여 신호를 송수신한다.
원격제어장치(200)의 제어부(280)는 원격제어장치(200)과 페어링된 영상표시기기(100)와 신호를 무선으로 송수신할 수 있는 주파수 대역 등에 관한 정보를 저장부(270)에 저장하고 참조할 수 있다.
제어부(280)는 원격제어장치(200)의 제어에 관련된 제반사항을 제어한다. 제어부(280)는 사용자 입력부(235)의 소정 키 조작에 대응하는 신호 또는 센서부(240)에서 센싱한 원격제어장치(200)의 움직임에 대응하는 신호를 무선 통신부(225)를 통하여 영상표시기기(100)로 전송할 수 있다.
이하, 도 4를 참조하여, 영상 표시 기기(100)의 동작 방법을 설명한다.
도 4는 본 발명의 일 실시 예에 따른 영상 표시 기기(100)의 동작 방법을 나타내는 흐름도이다.
도 4를 참조하면, 영상 표시 기기(100)의 영상 획득부(160)는 사용자의 제스처에 대한 영상을 획득한다(S101).
영상 획득부(160)는 영상 획득부(160)에 포함된 카메라를 통해 사용자에 대한 영상을 획득할 수 있다.
도 5를 참고하여, 본 발명의 일 실시예에 따른 영상 획득부(160)의 사용자의 제스처 동작에 대한 이미지 획득을 설명한다.
도 5는 본 발명의 일 실시 예에 따른 영상 획득부(160)의 영상 획득을 설명하기 위한 예시도이다.
도 5를 참고하면, 영상 획득부(160)는 영상 표시 기기(100)의 전면에 구비되어, 영상을 획득할 수 있다. 이에 따라, 영상 획득부(160)는 영상 표시 기기(100)를 사용하는 사용자에 대한 영상을 획득할 수 있다.
일 실시예에 따르면, 영상 획득부(160)는 영상 표시 기기(100)의 전면에 구비된 카메라를 통해 사용자에 대한 영상을 획득할 수 있다. 영상 획득부(160)는 획득한 사용자에 대한 영상을 제어부(170)에 전달한다. 여기서 획득된 사용자에 대한 영상에는 사용자의 제스처 동작에 대한 영상이 포함될 수 있다.
한편, 카메라는 영상 표시 기기(100)에 포함되지 않고, 별도로 구비될 수도 있다.
영상 표시 기기(100)는 획득된 사용자의 제스처에 대한 영상을 기초로 사용자의 제스처를 인식한다(S103).
영상 표시 기기(100)의 제어부(170)는 영상 획득부(160)가 획득한 사용자의 제스처에 대한 영상을 기초로, 사용자의 제스처를 인식할 수 있다.
일 실시예로, 제어부(170)는 획득된 사용자에 대한 영상에서 제스처 오브젝트 영역을 구분할 수 있다. 제어부(170)는 구분된 제스처 오브젝트 영역에서 제스처 오브젝트의 형상, 움직임 중 하나 이상을 인식할 수 있다. 그리고 제어부(170)는 인식된 제스처 오브젝트의 형상, 움직임 중 하나 이상이 기 저장된 제스처 오브젝트의 형상, 움직임 중 하나 이상에 매칭된다고 판단하면, 인식된 제스처 오브젝트의 형상, 움직임 중 하나 이상을 사용자의 제스처로 인식할 수 있다.
여기서 제스처 오브젝트는 손, 손가락, 발, 머리, 얼굴 등과 같이 사용자의 신체 중 일부분이 포함될 수 있다. 또한, 제스처 오브젝트 영역은 획득된 사용자의 제스처에 대한 영상에서 상술한 사용자의 신체 중 일부분이 포함되는 제스처 오브젝트가 위치하는 영역일 수 있다.
영상 표시 기기(100)는 제스처 오브젝트의 위치를 인식한다(S105).
영상 표시 기기(100)의 제어부(170)는 획득된 영상에서 제스처 오브젝트의 위치를 인식할 수 있다.
일 실시예로, 제어부(170)는 획득된 영상에서 제스처 오브젝트인 손의 위치를 인식할 수 있다.
다른 실시예로, 제어부(170)는 획득된 영상에서 제스처 오브젝트인 손가락의 위치를 인식할 수 있다.
또 다른 실시예로, 제어부(170)는 획득된 영상에서 제스처 오브젝트인 머리의 위치를 인식할 수 있다.
여기서 제스처 오브젝트는 손, 손가락, 발, 머리, 얼굴 등과 같이 사용자의 신체 중 일부분이 포함될 수 있다. 제스처 오브젝트는 하나 이상으로 설정될 수 있어서, 복수의 오브젝트가 제스처 오브젝트로 설정될 수도 있다. 그리고 제스처 오브젝트는 사용자 또는 설계자의 선택에 따라 다양하게 선택될 수 있다.
한편, 단계 S105는 후술할 단계 S109에 포함될 수 있다.
영상 표시 기기(100)는 기준 오브젝트의 위치를 인식한다(S107).
영상 표시 기기(100)의 제어부(170)는 획득된 영상에서 기준 오브젝트의 위치를 인식할 수 있다.
일 실시예로, 제어부(170)는 획득된 영상에서 기준 오브젝트인 머리의 위치를 인식할 수 있다.
다른 실시예로, 제어부(170)는 획득된 영상에서 기준 오브젝트인 손의 위치를 인식할 수 있다. 여기서 기준 오브젝트인 손은 제스처 오브젝트인 손과 동일한 손일 수도 있고, 다른 손일 수도 있다.
또 다른 실시예로, 제어부(170)는 획득된 영상에서 기준 오브젝트인 손가락의 위치를 인식할 수 있다. 여기서 기준 오브젝트인 손가락은 제스처 오브젝트인 손가락과 동일한 손가락일 수도 있고, 다른 손가락일 수도 있다.
여기서 기준 오브젝트는 손, 손가락, 발, 머리, 얼굴 등과 같이 사용자의 신체 중 일부분이 포함될 수 있다. 기준 오브젝트는 하나 이상으로 설정될 수 있어서, 복수의 오브젝트가 기준 오브젝트로 설정될 수도 있다. 그리고 기준 오브젝트는 사용자 또는 설계자의 선택에 따라 다양하게 선택될 수 있다.
한편, 단계 S107은 후술할 단계 S109에 포함될 수 있다.
영상 표시 기기(100)는 인식된 제스처 오브젝트와 기준 오브젝트 간의 거리를 산출한다(S109).
영상 표시 기기(100)의 제어부(170)는 인식된 제스처 오브젝트의 위치와 기준 오브젝트의 위치를 기초로, 제스처 오브젝트와 기준 오브젝트 간의 거리를 산출할 수 있다.
이를 도 6a, 7a, 8a 및 9a를 참고하여 설명한다.
도 6a는 본 발명의 일 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
도 6a를 참고하면, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 위치를 인식할 수 있다. 그리고 영상 표시 기기(100)는 기준 오브젝트의 중심과 제스처 오브젝트의 중심 간의 거리를 산출할 수 있다. 일 실시예로, 영상 표시 기기는(100)는 기준 오브젝트인 머리의 중심에 대응하는 기준선 L1과 제스처 오브젝트인 손의 중심에 대응하는 기준선 L2 간의 거리인 d1을 산출할 수 있다.
도 7a는 본 발명의 다른 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
도 7a를 참고하면, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트인 사용자의 왼손과 제스처 오브젝트인 오른손의 위치를 인식할 수 있다. 그리고 영상 표시 기기(100)는 기준 오브젝트의 중심과 제스처 오브젝트의 중심 간의 거리를 산출할 수 있다. 일 실시예로, 영상 표시 기기는(100)는 기준 오브젝트인 왼손의 중심에 대응하는 기준선 L1과 제스처 오브젝트인 오른손의 중심에 대응하는 기준선 L2 간의 거리인 d1을 산출할 수 있다. 한편 도 7a에서, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트를 오른손으로 인식하고, 제스처 오브젝트를 왼손으로 인식할 수도 있다.
도 8a는 본 발명의 또 다른 실시예에 따른 사용자의 손가락 제스처에 대한 예시도이다.
도 8a를 참고하면, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트인 사용자의 엄지 손가락과 제스처 오브젝트인 검지 손가락의 위치를 인식할 수 있다. 그리고 영상 표시 기기(100)는 기준 오브젝트의 중심과 제스처 오브젝트의 중심 간의 거리를 산출할 수 있다. 일 실시예로, 영상 표시 기기는(100)는 기준 오브젝트인 엄지 손가락의 중심에 대응하는 기준선 L1과 제스처 오브젝트인 검지 손가락의 중심에 대응하는 기준선 L2 간의 거리인 d1을 산출할 수 있다. 한편 도 8a에서, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트를 검지 손가락으로 인식하고, 제스처 오브젝트를 엄지 손가락으로 인식할 수도 있다.
도 9a는 본 발명의 또 다른 실시예에 따른 사용자의 상하 방향 제스처에 대한 예시도이다.
도 9a를 참고하면, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 위치를 인식할 수 있다. 그리고 영상 표시 기기(100)는 기준 오브젝트의 중심과 제스처 오브젝트의 중심 간의 거리를 산출할 수 있다. 일 실시예로, 영상 표시 기기는(100)는 기준 오브젝트인 머리의 중심에 대응하는 기준선 L1과 제스처 오브젝트인 손의 중심에 대응하는 기준선 L2 간의 거리인 d1을 산출할 수 있다.
한편, 영상 표시 기기(100)는 기준 오브젝트와 제스처 오브젝트 간의 거리를 기준 오브젝트 및 제스처 오브젝트 각각의 면적, 크기, 길이 및 기준 오브젝트와 제스처 오브젝트 간의 비율 중 하나 이상을 기초로 산출할 수도 있다.
이를 도 10a 내지 도 13을 참고하여 설명한다.
도 10a 및 도 10b는 본 발명의 또 다른 실시예에 따른 사용자의 전후 방향의 제스처 인식에 대한 예시도를 나타낸다.
도 10a를 참고하면, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 위치를 인식할 수 있다.
그리고 도 10b를 참고하면, 영상 표시 기기(100)는 기준 오브젝트의 중심과 제스처 오브젝트의 중심 간의 거리를 산출할 수 있다. 일 실시예로, 영상 표시 기기는(100)는 기준 오브젝트인 머리의 중심에 대응하는 기준선 L1과 제스처 오브젝트인 손의 중심에 대응하는 기준선 L2 간의 거리인 d를 산출할 수 있다.
일 실시예에 따르면, 영상 표시 기기(100)는 기준 오브젝트와 제스처 오브젝트 간의 비율을 기초로, 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출할 수 있다. 이를 도 11을 참조하여 설명한다.
도 11은 본 발명의 일 실시예에 따른 오브젝트의 비율 비교에 대한 예시도이다.
도 11 (a)는 도 10a에 도시된 것과 같이 사용자의 기준 오브젝트인 머리와 제스처 오브젝트인 손이 동일한 기준선인 L1에 위치하는 경우이고, 도 11 (b)는 도 10b에 도시된 것과 같이 사용자의 손이 기준선 L1과 다른 기준선 L2에 위치하는 경우이다.
도 11 (a)를 참조하면, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트인 사용자의 머리의 크기, 면적 중 하나 이상을 산출하고, 제스처 오브젝트인 손의 크기, 면적 중 하나 이상을 산출할 수 있다. 그리고 영상 표시 기기(100)는 산출된 기준 오브젝트의 크기, 면적 중 하나 이상과 제스처 오브젝트의 크기, 면적 중 하나 이상을 기초로 기준 오브젝트와 제스처 오브젝트 간의 비율을 산출할 수 있다.
도 11 (b)를 참조하면, 영상 표시 기기(100)는 획득된 영상에서 기준 오브젝트인 사용자의 머리의 크기, 면적 중 하나 이상을 산출하고, 제스처 오브젝트인 손의 크기, 면적 중 하나 이상을 산출할 수 있다. 그리고 영상 표시 기기(100)는 산출된 기준 오브젝트의 크기, 면적 중 하나 이상과 제스처 오브젝트의 크기, 면적 중 하나 이상을 기초로 기준 오브젝트와 제스처 오브젝트 간의 비율을 산출할 수 있다.
그리고 영상 표시 기기(100)는 도 11 (a)에서 산출한 비율과 도 11 (b)에서 산출한 비율을 비교하여, 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출할 수 있다. 구체적으로, 제스처 오브젝트인 손의 위치가 달라지더라도, 기준 오브젝트인 머리의 위치는 동일하다. 따라서, 기준 오브젝트인 머리의 크기, 면적 중 하나 이상은 제스처 오브젝트인 손의 위치가 달라지더라도 동일하다. 그래서, 영상 표시 기기(100)는 제스처 오브젝트의 전후 이동에 따른 기준 오브젝트와 제스처 오브젝트 간의 거리를 기준 오브젝트와 제스처 오브젝트 간의 비율을 기초로 계산할 수 있다. 이에 따라, 영상 표시 기기(100)는 제스처 오브젝트의 이동에 따른 기준 오브젝트와 제스처 오브젝트 간의 비율의 변화를 기초로 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출할 수 있다.
다른 실시예에 따르면, 영상 표시 기기(100)는 제스처 오브젝트의 면적, 크기, 길이 중 하나 이상을 기초로, 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출할 수 있다. 이를 도 12 내지 도 13을 참조하여 설명한다.
먼저, 영상 표시 기기(100)가 제스처 오브젝트의 길이를 기초로, 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출하는 것을 설명한다.
도 12는 본 발명의 일 실시예에 따른 오브젝트의 길이 비교에 대한 예시도이다.
도 12 (a)는 도 10a에 도시된 것과 같이 사용자의 기준 오브젝트인 머리와 제스처 오브젝트인 손이 동일한 기준선인 L1에 위치하는 경우이고, 도 12 (b)는 도 10b에 도시된 것과 같이 사용자의 손이 기준선 L1과 다른 기준선 L2에 위치하는 경우이다.
도 12 (a)를 참조하면, 영상 표시 기기(100)는 획득된 영상에서 제스처 오브젝트의 길이를 산출할 수 있다. 예를 들어 영상 표시 기기(100)는 제스처 오브젝트의 높이, 폭 중 하나 이상을 산출할 수 있다. 이에 따라 영상 표시 기기(100)는 제스처 오브젝트인 손의 폭에 대한 길이인 w1을 산출할 수 있다.
도 12 (b)를 참조하면, 영상 표시 기기(100)는 획득된 영상에서 영상 표시 기기(100)는 획득된 영상에서 제스처 오브젝트의 길이를 산출할 수 있다. 예를 들어 영상 표시 기기(100)는 제스처 오브젝트의 높이, 폭 중 하나 이상을 산출할 수 있다. 이에 따라 영상 표시 기기(100)는 제스처 오브젝트인 손의 폭에 대한 길이인 w2를 산출할 수 있다.
그리고 영상 표시 기기(100)는 도 12 (a)에서 산출한 길이와 도 12 (b)에서 산출한 길이를 비교하여, 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출할 수 있다. 구체적으로, 제스처 오브젝트인 손의 위치가 달라지더라도, 제스처 오브젝트인 손의 실제 크기는 동일하다. 그러나 영상 표시 기기(100)가 획득한 영상에서 제스처 오브젝트의 크기는 달라진다. 그래서, 영상 표시 기기(100)는 제스처 오브젝트의 전후 이동에 따른 기준 오브젝트와 제스처 오브젝트 간의 거리를 제스처 오브젝트의 크기 변화를 기초로 계산할 수 있다.
또한, 영상 표시 기기(100)는 제스처 오브젝트의 면적을 기초로, 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출할 수 있다.
도 13은 본 발명의 일 실시예에 따른 오브젝트의 면적 비교에 대한 예시도이다.
도 13 (a)는 도 10a에 도시된 것과 같이 사용자의 기준 오브젝트인 머리와 제스처 오브젝트인 손이 동일한 기준선인 L1에 위치하는 경우이고, 도 13 (b)는 도 10b에 도시된 것과 같이 사용자의 손이 기준선 L1과 다른 기준선 L2에 위치하는 경우이다.
도 13 (a)를 참조하면, 영상 표시 기기(100)는 획득된 영상에서 제스처 오브젝트의 면적을 산출할 수 있다. 예를 들어 영상 표시 기기(100)는 도 13 (a)에 도시된 바와 같이, 검게 표시된 제스처 오브젝트의 면적인 a1을 산출할 수 있다.
도 13 (b)를 참조하면, 영상 표시 기기(100)는 획득된 영상에서 영상 표시 기기(100)는 획득된 영상에서 제스처 오브젝트의 면적을 산출할 수 있다. 예를 들어 영상 표시 기기(100)는 도 13 (b)에 도시된 바와 같이, 검게 표시된 제스처 오브젝트의 면적인 a2를 산출할 수 있다.
그리고 영상 표시 기기(100)는 도 13 (a)에서 산출한 면적과 도 13 (b)에서 산출한 면적을 비교하여, 기준 오브젝트와 제스처 오브젝트 간의 거리를 산출할 수 있다. 구체적으로, 제스처 오브젝트인 손의 위치가 달라지더라도, 제스처 오브젝트인 손의 실제 면적은 동일하다. 그러나 영상 표시 기기(100)가 획득한 영상에서 제스처 오브젝트의 면적은 달라진다. 그래서, 영상 표시 기기(100)는 제스처 오브젝트의 전후 이동에 따른 기준 오브젝트와 제스처 오브젝트 간의 거리를 제스처 오브젝트의 면적 변화를 기초로 계산할 수 있다.
한편, 또 다른 실시예에 따르면, 영상 표시 기기(100)의 영상 획득부(160)는 거리를 측정할 수 있는 카메라를 포함할 수 있어서, 포함된 카메라를 통해 기준 오브젝트의 중심과 제스처 오브젝트의 중심 간의 거리를 산출할 수 있다. 예를 들면, 영상 획득부(160)는 TOF 카메라(Time Of Flight Camera, 미도시)를 통해 기준 오브젝트와 제스처 오브젝트 간의 거리를 측정할 수 있다. 여기서 TOF 카메라는 빛을 쏘아서 반사되어 오는 시간을 측정하여 거리를 계산하는 카메라를 의미하며, 공지된 기술이므로 자세한 설명은 생략한다.
영상 표시 기기(100)는 인식된 제스처 및 산출된 거리에 대응하는 제어 동작을 수행한다(S111).
영상 표시 기기(100)는 인식된 제스처의 형상, 움직임 중 하나 이상과 산출된 기준 오브젝트와 제스처 오브젝트 간의 거리에 대응하는 제어 동작을 수행할 수 있다.
구체적으로 영상 표시 기기(100)는 인식된 제스처를 제어 동작으로, 산출된 거리를 제어량 또는 실행량으로 인식하여, 인식된 제스처와 산출된 거리에 대응되는 제어 동작을 수행할 수 있다. 또한, 영상 표시 기기(100)는 산출된 거리에 따라 제어량 또는 실행량을 양수(positive number) 또는 음수(negative number)로 인식할 수 있다.
그리고 영상 표시 기기(100)가 수행할 수 있는 제어 동작은 영상 표시 기기(100)가 수행할 수 있는 다양한 제어 동작이 포함될 수 있다. 예를 들면, 영상 표시 기기(100)는 채널 전환, 음량 조절, 화면 확대, 화면 축소, 화면 이동, 포인터 이동, 화면 설정 및 음향 설정 중 하나 이상의 제어 동작을 수행할 수 있다.
이를 도 6a 내지 도 6d를 참조하여 설명한다.
도 6a 내지 도 6d는 본 발명의 일 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
일 실시예로 도 6a를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 펼치는 제스처를 영상 표시 기기(100)의 음량을 조절하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d1인 경우 음량 조절량을 +3으로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 음량을 볼륨값 3만큼 높일 수 있다.
다른 실시예로 도 6b를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 펼치는 제스처를 영상 표시 기기(100)의 음량을 조절하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d2인 경우 음량 조절량을 +5로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 음량을 볼륨값 5만큼 높일 수 있다.
또 다른 실시예로 도 6c를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 펼치는 제스처를 영상 표시 기기(100)의 음량을 조절하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d3인 경우 음량 조절량을 +1로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 음량을 볼륨값 1만큼 높일 수 있다.
또 다른 실시예로 도 6d를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 펼치는 제스처를 영상 표시 기기(100)의 음량을 조절하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d4인 경우 음량 조절량을 -3으로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 음량을 볼륨값 3만큼 낮출 수 있다.
도 14a 내지 도 14d를 참조하여, 본 발명의 다른 실시예에 따른 제어 동작의 수행을 설명한다.
도 14a 내지 도 14d는 본 발명의 또 다른 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
일 실시예로 도 14a를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 쥐는 제스처를 영상 표시 기기(100)의 표시되는 채널을 전환하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d1인 경우 채널 이동량을 +3으로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)가 표시하는 채널을 3개 채널 이후로 전환할 수 있다. 예를 들어, 영상 표시 기기(100)는 표시 중인 채널이 채널 10이었다면, 채널 13으로 전환할 수 있다.
다른 실시예로 도 14b를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 쥐는 제스처를 영상 표시 기기(100)의 표시되는 채널을 전환하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d2인 경우 채널 이동량을 +5로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)가 표시하는 채널을 5개 채널 이후로 전환할 수 있다. 예를 들어, 영상 표시 기기(100)는 표시 중인 채널이 채널 10이었다면, 채널 15로 전환할 수 있다.
또 다른 실시예로 도 14c를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 쥐는 제스처를 영상 표시 기기(100)의 표시되는 채널을 전환하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d3인 경우 채널 이동량을 +1로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)가 표시하는 채널을 1개 채널 이후로 전환할 수 있다. 예를 들어, 영상 표시 기기(100)는 표시 중인 채널이 채널 10이었다면, 채널 11로 전환할 수 있다.
또 다른 실시예로 도 14d를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 쥐는 제스처를 영상 표시 기기(100)의 표시되는 채널을 전환하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d4인 경우 채널 이동량을 -3으로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)가 표시하는 채널을 3개 채널 이전으로 전환할 수 있다. 예를 들어, 영상 표시 기기(100)는 표시 중인 채널이 채널 10이었다면, 채널 7로 전환할 수 있다.
도 7a 내지 도 7c를 참조하여, 본 발명의 다른 실시예에 따른 제어 동작의 수행을 설명한다.
도 7a 내지 도 7c는 본 발명의 다른 실시예에 따른 사용자의 좌우 방향 제스처를 나타낸다.
일 실시예로 도 7a를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 두 손을 각각 펼치는 제스처를 영상 표시 기기(100)의 화면의 크기를 조절하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 제스처 오브젝트인 두 손 중 하나의 손을 기준 오브젝트로 인식하고, 다른 손을 제스처 오브젝트로 인식할 수 있다. 제어부(170)는 기준 오브젝트인 한 손과 제스처 오브젝트인 다른 손의 거리가 d1인 경우 디스플레이되는 화면을 2배로 확대할 수 있다.
다른 실시예로 도 7b를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 두 손을 각각 펼치는 제스처를 영상 표시 기기(100)의 화면의 크기를 조절하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 제스처 오브젝트인 두 손 중 하나의 손을 기준 오브젝트로 인식하고, 다른 손을 제스처 오브젝트로 인식할 수 있다. 제어부(170)는 기준 오브젝트인 한 손과 제스처 오브젝트인 다른 손의 거리가 d2인 경우 디스플레이되는 화면을 3배로 확대할 수 있다.
또 다른 실시예로 도 7c를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 두 손을 각각 펼치는 제스처를 영상 표시 기기(100)의 화면의 크기를 조절하는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 제스처 오브젝트인 두 손 중 하나의 손을 기준 오브젝트로 인식하고, 다른 손을 제스처 오브젝트로 인식할 수 있다. 제어부(170)는 기준 오브젝트인 한 손과 제스처 오브젝트인 다른 손의 거리가 d3인 경우 디스플레이되는 화면을 0.8배로 축소할 수 있다.
또 다른 실시예로 도 8a 내지 도 8c를 참조하여, 영상 표시 기기(100)가 사용자의 복수의 손가락 각각을 기준 오브젝트와 제스처 오브젝트로 인식하여 동작하는 것을 설명한다.
도 8a 내지 도 8c는 본 발명의 또 다른 실시예에 따른 사용자의 손가락 제스처를 나타낸다.
일 실시예로 도 8a를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 검지 손가락과 기준 오브젝트인 엄지 손가락을 벌리는 제스처를 영상 표시 기기(100)의 음량을 조절하는 제어 동작으로 인식할 수 있다. 제어부(170)는 기준 오브젝트인 엄지 손가락과 제스처 오브젝트인 검지 손가락의 거리가 d1인 경우 음량 조절량을 +1로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 음량을 볼륨값 1만큼 높일 수 있다.
다른 실시예로 도 8b를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 검지 손가락과 기준 오브젝트인 엄지 손가락을 벌리는 제스처를 영상 표시 기기(100)의 음량을 조절하는 제어 동작으로 인식할 수 있다. 제어부(170)는 기준 오브젝트인 엄지 손가락과 제스처 오브젝트인 검지 손가락의 거리가 d2인 경우 음량 조절량을 +3로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 음량을 볼륨값 3만큼 높일 수 있다.
또 다른 실시예로 도 8c를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 검지 손가락과 기준 오브젝트인 엄지 손가락을 벌리는 제스처를 영상 표시 기기(100)의 음량을 조절하는 제어 동작으로 인식할 수 있다. 제어부(170)는 기준 오브젝트인 엄지 손가락과 제스처 오브젝트인 검지 손가락의 거리가 d3인 경우 음량 조절량을 -1로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 음량을 볼륨값 1만큼 낮출 수 있다.
도 9a 내지 도 9c를 참조하여, 본 발명의 또 다른 실시예에 따른 제어 동작의 수행을 설명한다.
도 9a 내지 도 9c는 본 발명의 일 실시예에 따른 사용자의 상하 방향 제스처를 나타낸다.
일 실시예로 도 9a를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 펴는 제스처를 영상 표시 기기(100)의 화면, 화면에 표시된 포인터 중 하나 이상을 이동시키는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d1인 경우 이동량을 -2로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 화면, 화면에 표시된 포인터 중 하나 이상을 이동량 2만큼 하단 방향으로 이동할 수 있다. 예를 들어, 영상 표시 기기(100)는 표시된 전체 채널의 목록에서 3번째 채널에 대해 포인터가 표시 중이었다면, 5번째 채널에 대해 포인터가 표시될 수 있다.
다른 실시예로 도 9b를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 펴는 제스처를 영상 표시 기기(100)의 화면, 화면에 표시된 포인터 중 하나 이상을 이동시키는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d2인 경우 이동량을 +1로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 화면, 화면에 표시된 포인터 중 하나 이상을 이동량 1만큼 상단 방향으로 이동할 수 있다. 예를 들어, 영상 표시 기기(100)는 표시된 전체 채널의 목록에서 3번째 채널에 대해 포인터가 표시 중이었다면, 2번째 채널에 대해 포인터가 표시될 수 있다.
또 다른 실시예로 도 9c를 참조하면, 제어부(170)는 사용자가 제스처 오브젝트인 손을 펴는 제스처를 영상 표시 기기(100)의 화면, 화면에 표시된 포인터 중 하나 이상을 이동시키는 제어 동작으로 인식할 수 있다. 그리고 제어부(170)는 기준 오브젝트인 사용자의 머리와 제스처 오브젝트인 손의 거리가 d3인 경우 이동량을 -4로 인식할 수 있다. 이에 따라 제어부(170)는 영상 표시 기기(100)의 화면, 화면에 표시된 포인터 중 하나 이상을 이동량 4만큼 하단 방향으로 이동할 수 있다. 예를 들어, 영상 표시 기기(100)는 표시된 전체 채널의 목록에서 3번째 채널에 대해 포인터가 표시 중이었다면, 7번째 채널에 대해 포인터가 표시될 수 있다.
상술한 영상 표시 기기(100)의 사용자의 제스처에 따른 제어 동작 수행은 설명의 위한 예시로써, 사용자 또는 설계자의 선택에 따라 다양하게 설정될 수 있다. 따라서, 영상 표시 기기(100)는 제스처의 형상 또는 움직임 및 산출된 거리에 따라 다양한 제어 동작을 수행할 수 있다. 예를 들면, 영상 표시 기기(100)는 채널 전환, 음량 조절, 화면 확대, 화면 축소, 화면 이동, 포인터 이동, 화면 설정 및 음향 설정 중 하나 이상의 제어 동작을 수행할 수 있다.
또한 영상 표시 기기(100)는 사용자 또는 설계자의 선택에 따라 사용자의 제스처에 대응하는 제어 동작을 설정할 수 있다. 이에 따라, 동일한 제스처에 대응하는 영상 표시 기기(100)의 제어 동작이 복수의 사용자 각각에 대해 다르게 설정될 수도 있다.
본 발명의 일실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.
상기와 같이 설명된 영상 표시 기기는 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

Claims (20)

  1. 영상 표시 기기의 동작 방법에 있어서,
    상기 영상 표시 기기의 사용자에 대한 영상을 획득하는 단계;
    획득된 영상에서 상기 사용자의 제스처를 인식하는 단계;
    인식된 제스처를 기초로 상기 제스처에 대한 제어량을 산출하는 단계; 및
    상기 인식된 제스처 및 산출된 제어량에 대응하는 제어 동작을 수행하는 단계를 포함하는
    영상 표시 기기의 동작 방법.
  2. 제1항에 있어서,
    상기 제어량을 산출하는 단계는
    상기 인식된 제스처를 기초로 상기 사용자의 제스처 오브젝트 및 기준 오브젝트를 인식하는 단계와,
    인식된 제스처 오브젝트와 인식된 기준 오브젝트 간의 거리를 산출하는 단계와,
    산출된 거리를 기초로 상기 제어량을 산출하는 단계를 포함하는
    영상 표시 기기의 동작 방법.
  3. 제2항에 있어서,
    상기 제스처 오브젝트 및 기준 오브젝트를 인식하는 단계는
    상기 획득된 영상에서 상기 제스처 오브젝트의 위치 및 상기 기준 오브젝트의 위치를 인식하는 단계를 포함하는
    영상 표시 기기의 동작 방법.
  4. 제2항에 있어서,
    상기 거리를 산출하는 단계는
    상기 제스처 오브젝트 및 상기 기준 오브젝트 각각의 면적, 크기, 길이 중 하나 이상을 기초로 상기 제스처 오브젝트와 상기 기준 오브젝트 간의 거리를 산출하는 단계를 포함하는
    영상 표시 기기의 동작 방법.
  5. 제2항에 있어서,
    상기 거리를 산출하는 단계는
    상기 제스처 오브젝트와 상기 기준 오브젝트 간의 비율을 기초로 상기 제스처 오브젝트와 상기 기준 오브젝트 간의 거리를 산출하는 단계를 포함하는
    영상 표시 기기의 동작 방법.
  6. 제2항에 있어서,
    상기 제스처 오브젝트는
    상기 사용자의 제스처에 대응하는 오브젝트인
    영상 표시 기기의 동작 방법.
  7. 제2항에 있어서,
    상기 기준 오브젝트는
    상기 제어량을 산출하기 위한 기준인 오브젝트인
    영상 표시 기기의 동작 방법.
  8. 제2항에 있어서,
    상기 제스처 오브젝트 및 상기 기준 오브젝트는 서로 다른 오브젝트인
    영상 표시 기기의 동작 방법.
  9. 제1항에 있어서,
    상기 사용자의 제스처를 인식하는 단계는
    상기 인식된 제스처의 형상, 움직임 중 하나 이상을 기 저장된 제스처의 형상, 움직임 중 하나 이상과 비교하는 단계를 포함하는
    영상 표시 기기의 동작 방법.
  10. 제1항에 있어서,
    상기 제어 동작을 수행하는 단계는
    상기 영상 표시 기기의 채널 전환, 음량 조절, 화면 확대, 화면 축소, 화면 이동, 포인터 이동, 화면 설정 및 음향 설정 중 하나 이상의 제어 동작을 수행하는 단계를 포함하는
    영상 표시 기기의 동작 방법.
  11. 제1항에 있어서,
    상기 제어량은
    양수 또는 음수인
    영상 표시 기기의 동작 방법.
  12. 영상 표시 기기에 있어서,
    상기 영상 표시 기기의 사용자에 대한 영상을 획득하는 영상 획득부; 및
    획득된 사용자에 대한 영상에서 상기 사용자의 제스처를 인식하고, 인식된 제스처를 기초로 상기 제스처에 대한 제어량을 산출하고, 상기 인식된 제스처 및 산출된 제어량에 대응하는 제어 동작을 수행하는 제어부를 포함하는
    영상 표시 기기.
  13. 제12항에 있어서,
    상기 제어부는
    상기 인식된 제스처를 기초로 상기 사용자의 제스처 오브젝트 및 기준 오브젝트를 인식하고, 인식된 제스처 오브젝트와 인식된 기준 오브젝트 간의 거리를 산출하고, 산출된 거리를 기초로 상기 제어량을 산출하는
    영상 표시 기기.
  14. 제13항에 있어서,
    상기 제어부는
    상기 제스처 오브젝트 및 상기 기준 오브젝트 각각의 면적, 크기, 길이 중 하나 이상을 기초로 상기 제스처 오브젝트와 상기 기준 오브젝트 간의 거리를 산출하는
    영상 표시 기기.
  15. 제13항에 있어서,
    상기 제어부는
    상기 제스처 오브젝트와 상기 기준 오브젝트 간의 비율을 기초로 상기 제스처 오브젝트와 상기 기준 오브젝트 간의 거리를 산출하는
    영상 표시 기기.
  16. 제13항에 있어서,
    상기 제스처 오브젝트는
    상기 사용자의 제스처에 대응하는 오브젝트인
    영상 표시 기기.
  17. 제13항에 있어서,
    상기 기준 오브젝트는
    상기 제어량을 산출하기 위한 기준인 오브젝트인
    영상 표시 기기.
  18. 제12항에 있어서,
    제스처의 형상, 움직임 중 하나 이상을 제어량에 매칭하여 저장하는 저장부를 더 포함하는
    영상 표시 기기.
  19. 제18항에 있어서,
    상기 제어부는
    상기 인식된 제스처의 형상, 움직임 중 하나 이상을 기 저장된 제스처의 형상, 움직임 중 하나 이상과 비교하여, 상기 사용자의 제스처를 인식하는
    영상 표시 기기.
  20. 제12항에 있어서,
    상기 제어부는
    상기 인식된 제스처 및 산출된 제어량을 기초로 상기 영상 표시 기기의 채널 전환, 음량 조절, 화면 확대, 화면 축소, 화면 이동, 포인터 이동, 화면 설정 및 음향 설정 중 하나 이상의 제어 동작을 수행하는
    영상 표시 기기.
PCT/KR2014/006080 2014-06-03 2014-07-08 영상 표시 기기 및 그의 동작 방법 WO2015186857A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US15/316,452 US10162423B2 (en) 2014-06-03 2014-07-08 Image display apparatus and operation method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2014-0067920 2014-06-03
KR1020140067920A KR102167289B1 (ko) 2014-06-03 2014-06-03 영상 표시 기기 및 그의 동작 방법

Publications (1)

Publication Number Publication Date
WO2015186857A1 true WO2015186857A1 (ko) 2015-12-10

Family

ID=54766917

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2014/006080 WO2015186857A1 (ko) 2014-06-03 2014-07-08 영상 표시 기기 및 그의 동작 방법

Country Status (3)

Country Link
US (1) US10162423B2 (ko)
KR (1) KR102167289B1 (ko)
WO (1) WO2015186857A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112825013A (zh) * 2019-11-20 2021-05-21 百度在线网络技术（北京）有限公司 终端设备的控制方法和装置

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9720504B2 (en) * 2013-02-05 2017-08-01 Qualcomm Incorporated Methods for system engagement via 3D object detection
KR102209354B1 (ko) * 2014-06-20 2021-01-29 엘지전자 주식회사 영상 표시 기기 및 그의 동작 방법
JP6870264B2 (ja) * 2016-09-30 2021-05-12 セイコーエプソン株式会社 運動訓練装置およびプログラム
CN114840086A (zh) * 2022-05-10 2022-08-02 Oppo广东移动通信有限公司 一种控制方法、电子设备及计算机存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110262006A1 (en) * 2010-04-26 2011-10-27 Renesas Electronics Corporation Interface apparatus, gesture recognition method, and gesture recognition program
KR20130105321A (ko) * 2012-03-15 2013-09-25 오므론 가부시키가이샤 제스처 인식 장치, 전자기기, 제스처 인식 방법, 및 제어 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체
KR20140035244A (ko) * 2012-09-10 2014-03-21 한국전자통신연구원 사용자 인터페이싱 장치 및 방법, 그리고 이를 이용하는 단말 장치
KR20140046197A (ko) * 2012-10-10 2014-04-18 주식회사 씨씨 동작인식 장치 및 방법, 그리고 프로그램을 저장한 컴퓨터로 판독 가능한 기록매체
KR101396488B1 (ko) * 2011-11-09 2014-05-20 포항공과대학교 산학협력단 신호 입력 장치 및 신호 입력 방법

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9244533B2 (en) * 2009-12-17 2016-01-26 Microsoft Technology Licensing, Llc Camera navigation for presentations
US8396252B2 (en) * 2010-05-20 2013-03-12 Edge 3 Technologies Systems and related methods for three dimensional gesture recognition in vehicles
US9697418B2 (en) * 2012-07-09 2017-07-04 Qualcomm Incorporated Unsupervised movement detection and gesture recognition
US20140071044A1 (en) * 2012-09-10 2014-03-13 Electronics And Telecommunications Research Institute Device and method for user interfacing, and terminal using the same
US9459697B2 (en) * 2013-01-15 2016-10-04 Leap Motion, Inc. Dynamic, free-space user interactions for machine control
US9857876B2 (en) * 2013-07-22 2018-01-02 Leap Motion, Inc. Non-linear motion capture using Frenet-Serret frames
US20150029092A1 (en) * 2013-07-23 2015-01-29 Leap Motion, Inc. Systems and methods of interpreting complex gestures
US10152136B2 (en) * 2013-10-16 2018-12-11 Leap Motion, Inc. Velocity field interaction for free space gesture interface and control

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110262006A1 (en) * 2010-04-26 2011-10-27 Renesas Electronics Corporation Interface apparatus, gesture recognition method, and gesture recognition program
KR101396488B1 (ko) * 2011-11-09 2014-05-20 포항공과대학교 산학협력단 신호 입력 장치 및 신호 입력 방법
KR20130105321A (ko) * 2012-03-15 2013-09-25 오므론 가부시키가이샤 제스처 인식 장치, 전자기기, 제스처 인식 방법, 및 제어 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체
KR20140035244A (ko) * 2012-09-10 2014-03-21 한국전자통신연구원 사용자 인터페이싱 장치 및 방법, 그리고 이를 이용하는 단말 장치
KR20140046197A (ko) * 2012-10-10 2014-04-18 주식회사 씨씨 동작인식 장치 및 방법, 그리고 프로그램을 저장한 컴퓨터로 판독 가능한 기록매체

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112825013A (zh) * 2019-11-20 2021-05-21 百度在线网络技术（北京）有限公司 终端设备的控制方法和装置

Also Published As

Publication number Publication date
KR102167289B1 (ko) 2020-10-19
US20170139482A1 (en) 2017-05-18
US10162423B2 (en) 2018-12-25
KR20150139376A (ko) 2015-12-11

Similar Documents

Publication Publication Date Title
WO2012070812A2 (en) Control method using voice and gesture in multimedia device and multimedia device thereof
WO2015186857A1 (ko) 영상 표시 기기 및 그의 동작 방법
WO2015194697A1 (en) Video display device and operating method thereof
WO2021060575A1 (ko) 인공 지능 서버 및 그의 동작 방법
WO2019172472A1 (ko) 디스플레이 장치
WO2021251519A1 (ko) 디스플레이 장치 및 그의 동작 방법
WO2018066788A1 (ko) 디스플레이 장치
WO2019009453A1 (ko) 디스플레이 장치
WO2022149650A1 (en) Display device and display system
WO2021015319A1 (ko) 디스플레이 장치 및 그의 동작 방법
WO2020230923A1 (ko) 음성 인식 서비스를 제공하기 위한 디스플레이 장치 및 그의 동작 방법
WO2020122274A1 (ko) 디스플레이 장치
WO2020222322A1 (ko) 음성 인식 서비스를 제공하기 위한 디스플레이 장치
WO2021029453A1 (ko) 디스플레이 장치 및 그의 동작 방법
WO2023195556A1 (ko) 디스플레이 장치
WO2023149590A1 (ko) 디스플레이 장치 및 그의 동작 방법
WO2023182624A1 (ko) 디스플레이 장치
WO2023163253A1 (ko) 디스플레이 장치, 원격제어장치 및 이들로 구성되는 디스플레이 시스템
WO2024010110A1 (ko) 디스플레이 장치 및 그의 동작 방법
WO2023191122A1 (ko) 디스플레이 장치
WO2024019186A1 (ko) 디스플레이 장치 및 그의 동작 방법
WO2023195552A1 (ko) 디스플레이 장치
WO2023200022A1 (ko) 디스플레이 장치
WO2023210843A1 (ko) 디스플레이 장치
WO2022118990A1 (ko) 원격 제어 장치, 원격 제어 방법 및 시스템

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14893799

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 15316452

Country of ref document: US

122 Ep: pct application non-entry in european phase

Ref document number: 14893799

Country of ref document: EP

Kind code of ref document: A1