KR20110030223A - Mobile terminal and control method thereof - Google Patents

Abstract

PURPOSE: A mobile terminal and a control method thereof are provided to recognize the gesture of the other side in a video call and to recognize the expression of a user. CONSTITUTION: A controller connects a video call(S101). The controller recognizes a facial expression in an image of a user(S103). The controller detects specific effect corresponding to the recognized facial expression(S104). The controller outputs the detected specific effect according to a predetermined option(S105). The controller transmits the specific effect to the other side.

Description

이동 단말기 및 그 제어방법{MOBILE TERMINAL AND CONTROL METHOD THEREOF} Mobile terminal and its control method {MOBILE TERMINAL AND CONTROL METHOD THEREOF}

본 발명은 영상 통화 중 또는 영상 채팅 중 표정을 인식하여 특정 효과를 전송하거나 출력할 수 있는 이동 단말기와 그 제어방법에 관한 것이다. The present invention relates to a mobile terminal capable of transmitting or outputting a specific effect by recognizing an expression during a video call or a video chat, and a control method thereof.

단말기는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다. The terminal can move And can be divided into a mobile / portable terminal and a stationary terminal depending on whether the mobile terminal is a mobile terminal or a mobile terminal. The mobile terminal may be further classified into a handheld terminal and a vehicle mount terminal according to whether a user can directly carry it.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다. 이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.Such a terminal has various functions, for example, in the form of a multimedia device having multiple functions such as photographing and photographing of a moving picture, reproduction of a music or video file, reception of a game and broadcasting, etc. . In order to support and increase the function of such a terminal, it may be considered to improve the structural part and / or the software part of the terminal.

상기 이동 단말기는 영상 통화 및 영상 채팅을 수행할 수 있다. 사용자들은 상대방의 얼굴과 그 표정을 보며 영상 통화를 하므로 통화의 재미를 느끼게 된다. 그러나 영상 통화 화면에 디스플레이되는 상대방의 포즈가 비슷할 경우 사용자는 음성 통화와 큰 차이를 느끼지 못할뿐만 아니라 지루함을 느낄 수도 있다. 따라서 상기와 같이 상대방이 지루함을 느끼지 않도록 하기 위해서 사용자는 일부러 다양한 표정을 연기해야 하는 문제점이 발생할 수도 있었다. 즉, 종래의 이동 단말기는 영상 통화나 영상 채팅 중 상대방에게 재미를 주거나 감성을 자극할 수 있는 효과를 전송하거나 출력할 수는 없었다.The mobile terminal can perform a video call and a video chat. Users make a video call while looking at the other's face and facial expressions, so that the user can feel the fun of the call. However, if the pose of the other party displayed on the video call screen is similar, the user may not only feel a big difference from the voice call but may also feel bored. Therefore, in order to prevent the other party from feeling bored as described above, a problem may arise in that the user intentionally postpones various expressions. That is, the conventional mobile terminal could not transmit or output an effect that can give fun to the other party or stimulate emotion during a video call or video chat.

본 발명은 영상 통화 중이나 영상 채팅 중 사용자의 표정을 인식할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.The present invention provides a mobile terminal capable of recognizing a user's expression during a video call or a video chat, and a control method thereof.

또한, 본 발명은 영상 통화 중이나 영상 채팅 중 상대방의 표정을 인식할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.Another object of the present invention is to provide a mobile terminal capable of recognizing a facial expression of a counterpart during a video call or a video chat and a control method thereof.

또한, 본 발명은 영상 통화 중이나 영상 채팅 중 인식된 사용자의 표정에 관련된 특정 효과를 사용자측 영상에 합성하여 출력할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.Another object of the present invention is to provide a mobile terminal capable of synthesizing and outputting a specific effect related to a facial expression of a user recognized during a video call or a video chat and outputting the user side image.

또한, 본 발명은 영상 통화 중이나 영상 채팅 중 인식한 사용자의 표정에 관련된 특정 효과를 상대방에게 전송할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.Another object of the present invention is to provide a mobile terminal capable of transmitting a specific effect related to a facial expression of a user recognized during a video call or a video chat, and a control method thereof.

또한, 본 발명은 영상 통화 중이나 영상 채팅 중 인식한 상대방의 표정에 관련된 특정 효과를 상대방측 영상에 합성하여 출력할 수 있는 이동 단말기 및 그 제어방법을 제공하기 위한 것이다.Another object of the present invention is to provide a mobile terminal capable of synthesizing and outputting a specific effect related to a facial expression of a counterpart recognized during a video call or a video chat, to a counterpart's image and a control method thereof.

상기한 과제를 실현하기 위한 본 발명의 일예와 관련된 이동 단말기는 디스플레이부와, 영상 통화용 카메라와, 얼굴 표정에 관련된 알고리즘과 효과들이 저장되는 메모리와, 영상 통화가 연결되면 상대방이나 사용자의 영상에서 얼굴 표정을 인식하고, 그 얼굴 표정에 대응하는 특정 효과를 상기 어느 하나의 영상에 합성하 여 출력하는 제어부를 포함한다.Mobile terminal according to an embodiment of the present invention for realizing the above object is a display unit, a video call camera, a memory for storing algorithms and effects related to facial expressions, and when the video call is connected to the video of the other party or the user And a controller for recognizing a facial expression and synthesizing the specific effect corresponding to the facial expression into one of the images and outputting the synthesized effect.

또한 상기한 과제를 실현하기 위한 본 발명은 영상 통화나 영상 채팅을 연결할 경우, 상기 영상 통화나 영상 채팅이 연결된 상대방이나 사용자의 영상에서 얼굴 표정을 인식하고, 기설정된 옵션에 따라 상기 검출된 특정 효과를 상기 어느 하나의 영상과 함께 출력하여 합성하거나 상대방에게 전송하도록 이루어진다.In addition, the present invention for realizing the above object, when connecting a video call or video chat, recognizes the facial expression in the video of the other party or the user connected to the video call or video chat, and according to the predetermined option detected the specific effect It is output to combine with any one of the image is made or transmitted to the other party.

상기와 같이 구성되는 본 발명의 적어도 하나의 실시예에 관련된 이동 단말기는 영상 통화 중이나 영상 채팅 중 사용자의 표정을 인식하여 그 사용자의 표정에 관련된 특정 효과를 사용자측 영상에 합성하여 출력하고, 상기 출력되는 영상을 사용 상대방에게 전송할 수 있도록 하는 효과가 있다.The mobile terminal according to at least one embodiment of the present invention configured as described above recognizes a user's expression during a video call or a video chat, synthesizes and outputs a specific effect related to the user's expression to the user's image, and outputs the There is an effect of transmitting the image to the other party to use.

또한 상기와 같이 구성되는 본 발명은 영상 통화 중이나 영상 채팅 중 상대방의 표정을 인식하여 그 상대방의 표정에 관련된 특정 효과를 사용자측 영상에 합성하여 출력할 수 있도록 하는 효과가 있다.In addition, the present invention configured as described above has the effect of recognizing the expression of the other party during the video call or video chat, and outputs a specific effect related to the expression of the other party to the user side image.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. Hereinafter, a mobile terminal according to the present invention will be described in more detail with reference to the accompanying drawings. The suffixes "module" and "unit" for components used in the following description are given or used in consideration of ease of specification, and do not have distinct meanings or roles from each other.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.The mobile terminal described herein may include a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a personal digital assistant (PDA), a portable multimedia player (PMP), navigation, and the like. However, it will be readily apparent to those skilled in the art that the configuration according to the embodiments described herein may also be applied to fixed terminals such as digital TVs, desktop computers, etc., except when applicable only to mobile terminals.

도1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도이다.1 is a block diagram of a mobile terminal according to an embodiment of the present invention.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.The mobile terminal 100 includes a wireless communication unit 110, an A / V input unit 120, a user input unit 130, a sensing unit 140, an output unit 150, a memory 160, and an interface. The unit 170, the controller 180, and the power supply unit 190 may be included. The components shown in FIG. 1 are not essential, so that a mobile terminal having more or fewer components may be implemented.

이하, 상기 구성요소들에 대해 차례로 살펴본다.Hereinafter, the components will be described in order.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.The wireless communication unit 110 may include one or more modules that enable wireless communication between the mobile terminal 100 and the wireless communication system or between the mobile terminal 100 and a network in which the mobile terminal 100 is located. For example, the wireless communication unit 110 may include a broadcast receiving module 111, a mobile communication module 112, a wireless Internet module 113, a short range communication module 114, and a location information module 115 .

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. The broadcast receiving module 111 receives a broadcast signal and / or broadcast related information from an external broadcast management server through a broadcast channel.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. The broadcast channel may include a satellite channel and a terrestrial channel. The broadcast management server may mean a server that generates and transmits a broadcast signal and / or broadcast related information or a server that receives a previously generated broadcast signal and / or broadcast related information and transmits the same to a terminal. The broadcast signal may include not only a TV broadcast signal, a radio broadcast signal, and a data broadcast signal, but also a broadcast signal having a data broadcast signal combined with a TV broadcast signal or a radio broadcast signal.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.The broadcast related information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider. The broadcast related information may also be provided through a mobile communication network. In this case, it may be received by the mobile communication module 112.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.The broadcast related information may exist in various forms. For example, it may exist in the form of Electronic Program Guide (EPG) of Digital Multimedia Broadcasting (DMB) or Electronic Service Guide (ESG) of Digital Video Broadcast-Handheld (DVB-H).

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.The broadcast receiving module 111 may include, for example, Digital Multimedia Broadcasting-Terrestrial (DMB-T), Digital Multimedia Broadcasting-Satellite (DMB-S), Media Forward Link Only (MediaFLO), and Digital Video Broadcast (DVB-H). Digital broadcast signals can be received using digital broadcasting systems such as Handheld and Integrated Services Digital Broadcast-Terrestrial (ISDB-T). Of course, the broadcast receiving module 111 may be configured to be suitable for not only the above-described digital broadcasting system but also other broadcasting systems.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메 모리(160)에 저장될 수 있다.The broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The mobile communication module 112 transmits and receives a wireless signal with at least one of a base station, an external terminal, and a server on a mobile communication network. The wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The wireless internet module 113 refers to a module for wireless internet access and may be embedded or external to the mobile terminal 100. Wireless Internet technologies may include Wireless LAN (Wi-Fi), Wireless Broadband (Wibro), World Interoperability for Microwave Access (Wimax), High Speed Downlink Packet Access (HSDPA), and the like.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.The short range communication module 114 refers to a module for short range communication. As a short range communication technology, Bluetooth, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, and the like may be used.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.The location information module 115 is a module for obtaining a location of a mobile terminal, and a representative example thereof is a GPS (Global Position System) module.

도1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디 스플레이부(151)에 표시될 수 있다.Referring to FIG. 1, the A / V input unit 120 is for inputting an audio signal or a video signal, and may include a camera 121 and a microphone 122. The camera 121 processes image frames such as still images or moving images obtained by the image sensor in the video call mode or the photographing mode. The processed image frame may be displayed on the display unit 151.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.The image frame processed by the camera 121 may be stored in the memory 160 or transmitted to the outside through the wireless communication unit 110. Two or more cameras 121 may be provided according to the use environment.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.The microphone 122 receives an external sound signal by a microphone in a call mode, a recording mode, a voice recognition mode, etc., and processes the external sound signal into electrical voice data. The processed voice data can be converted into a form that can be transmitted to the mobile communication base station through the mobile communication module 112 when the voice data is in the call mode, and output. The microphone 122 may implement various noise removing algorithms for removing noise generated in the process of receiving an external sound signal.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다. The user input unit 130 generates input data for the user to control the operation of the terminal. The user input unit 130 may include a key pad dome switch, a touch pad (static pressure / capacitance), a jog wheel, a jog switch, and the like.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다. The sensing unit 140 detects a current state of the mobile terminal 100 such as an open / closed state of the mobile terminal 100, a location of the mobile terminal 100, presence or absence of a user contact, orientation of the mobile terminal, acceleration / deceleration of the mobile terminal, and the like. To generate a sensing signal for controlling the operation of the mobile terminal 100. For example, when the mobile terminal 100 is in the form of a slide phone, it may sense whether the slide phone is opened or closed. In addition, whether the power supply unit 190 is supplied with power, whether the interface unit 170 is coupled to the external device may be sensed. The sensing unit 140 may include a proximity sensor 141.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.The output unit 150 is used to generate an output related to sight, hearing, or tactile sense, and includes a display unit 151, an audio output module 152, an alarm unit 153, and a haptic module 154. Can be.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다. The display unit 151 displays (outputs) information processed by the mobile terminal 100. For example, when the mobile terminal is in a call mode, the mobile terminal displays a user interface (UI) or a graphic user interface (GUI) related to the call. When the mobile terminal 100 is in a video call mode or a photographing mode, the mobile terminal 100 displays photographed and / or received images, a UI, and a GUI.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. The display unit 151 includes a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), and a flexible display (flexible). and at least one of a 3D display.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.Some of these displays can be configured to be transparent or light transmissive so that they can be seen from the outside. This may be referred to as a transparent display. A representative example of the transparent display is TOLED (Transparant OLED). The rear structure of the display unit 151 may also be configured as a light transmissive structure. With this structure, the user can see the object located behind the terminal body through the area occupied by the display unit 151 of the terminal body.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다. There may be two or more display units 151 according to the implementation form of the mobile terminal 100. For example, in the mobile terminal 100, a plurality of display portions may be spaced apart from one another, or may be disposed integrally with one another, and may be disposed on different surfaces, respectively.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.When the display unit 151 and a sensor for detecting a touch operation (hereinafter, referred to as a touch sensor) form a mutual layer structure (hereinafter referred to as a touch screen), the display unit 151 may be configured in addition to an output device. Can also be used as an input device. The touch sensor may have, for example, a form of a touch film, a touch sheet, a touch pad, or the like.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. The touch sensor may be configured to convert a change in pressure applied to a specific portion of the display unit 151 or capacitance generated in a specific portion of the display unit 151 into an electrical input signal. The touch sensor may be configured to detect not only the position and area of the touch but also the pressure at the touch.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.If there is a touch input to the touch sensor, the corresponding signal (s) is sent to the touch controller. The touch controller processes the signal (s) and then transmits the corresponding data to the controller 180. As a result, the controller 180 can know which area of the display unit 151 is touched.

도1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다. Referring to FIG. 1, a proximity sensor 141 may be disposed in an inner region of a mobile terminal surrounded by the touch screen or near the touch screen. The proximity sensor refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object present in the vicinity without using a mechanical contact by using an electromagnetic force or infrared rays. Proximity sensors have a longer life and higher utilization than touch sensors.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.Examples of the proximity sensor include a transmission photoelectric sensor, a direct reflection photoelectric sensor, a mirror reflection photoelectric sensor, a high frequency oscillation proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor. When the touch screen is capacitive, the touch screen is configured to detect the proximity of the pointer by the change of the electric field according to the proximity of the pointer. In this case, the touch screen (touch sensor) may be classified as a proximity sensor.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.Hereinafter, for convenience of explanation, the act of allowing the pointer to be recognized without being in contact with the touch screen so that the pointer is located on the touch screen is referred to as a "proximity touch", and the touch The act of actually touching the pointer on the screen is called "contact touch." The position where the proximity touch is performed by the pointer on the touch screen refers to a position where the pointer is perpendicular to the touch screen when the pointer is in proximity proximity.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다. The proximity sensor detects a proximity touch and a proximity touch pattern (for example, a proximity touch distance, a proximity touch direction, a proximity touch speed, a proximity touch time, a proximity touch position, and a proximity touch movement state). Information corresponding to the sensed proximity touch operation and proximity touch pattern may be output on the touch screen.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.The sound output module 152 may output audio data received from the wireless communication unit 110 or stored in the memory 160 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like. The sound output module 152 may also output a sound signal related to a function (eg, a call signal reception sound, a message reception sound, etc.) performed in the mobile terminal 100. The sound output module 152 may include a receiver, a speaker, a buzzer, and the like.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.The alarm unit 153 outputs a signal for notifying occurrence of an event of the mobile terminal 100. Examples of events occurring in the mobile terminal include call signal reception, message reception, key signal input, and touch input. The alarm unit 153 may output a signal for notifying occurrence of an event in a form other than a video signal or an audio signal, for example, vibration. The video signal or the audio signal may be output through the display unit 151 or the audio output module 152, so that they 151 and 152 may be classified as part of the alarm unit 153.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. The haptic module 154 generates various tactile effects that the user can feel. Vibration is a representative example of the haptic effect generated by the haptic module 154. The intensity and pattern of vibration generated by the haptic module 154 can be controlled. For example, different vibrations may be synthesized and output or may be sequentially output.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. In addition to vibration, the haptic module 154 may be configured to provide a pin array that vertically moves with respect to the contact skin surface, a jetting force or suction force of air through the jetting or suction port, grazing to the skin surface, contact of the electrode, electrostatic force, and the like. Various tactile effects can be generated, such as effects by the endothermic and the reproduction of a sense of cold using the elements capable of endotherm or heat generation.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.The haptic module 154 may not only deliver the haptic effect through direct contact, but also may implement the user to feel the haptic effect through a muscle sense such as a finger or an arm. Two or more haptic modules 154 may be provided according to a configuration aspect of the mobile terminal 100.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/ 출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.The memory 160 may store a program for the operation of the controller 180 and may temporarily store input / output data (for example, a phone book, a message, a still image, a video, etc.). The memory 160 may store data regarding vibration and sound of various patterns output when a touch input on the touch screen is performed.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.The memory 160 may be a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), RAM (Random Access Memory, RAM), Static Random Access Memory (SRAM), Read-Only Memory (ROM), Electrically Erasable Programmable Read-Only Memory (EEPROM), Programmable Read-Only Memory (PROM), Magnetic Memory, Magnetic It may include a storage medium of at least one type of disk, optical disk. The mobile terminal 100 may operate in connection with a web storage that performs a storage function of the memory 160 on the Internet.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다. The interface unit 170 serves as a path with all external devices connected to the mobile terminal 100. The interface unit 170 receives data from an external device, receives power, transfers the power to each component inside the mobile terminal 100, or transmits data inside the mobile terminal 100 to an external device. For example, a wired / wireless headset port, an external charger port, a wired / wireless data port, a memory card port, a port for connecting a device having an identification module, an audio I / O port, A video input / output (I / O) port, an earphone port, and the like may be included in the interface unit 170.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저 장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. The identification module is a chip that stores various types of information for authenticating the use authority of the mobile terminal 100, and includes a user identification module (UIM), a subscriber identification module (SIM), and a universal user authentication module (UI). Universal Subscriber Identity Module (USIM), and the like. Devices with identification modules (hereinafter referred to as "identification devices") can be manufactured in a smart card format. Accordingly, the identification device can be connected to the terminal 100 through the port.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.The interface unit may be a passage through which power from the cradle is supplied to the mobile terminal 100 when the mobile terminal 100 is connected to an external cradle, or various command signals input from the cradle by a user may be transferred. It may be a passage that is delivered to the terminal. Various command signals or power input from the cradle may be operated as signals for recognizing that the mobile terminal is correctly mounted on the cradle.

제어부(controller, 180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.The controller 180 typically controls the overall operation of the mobile terminal. For example, perform related control and processing for voice calls, data communications, video calls, and the like. The controller 180 may include a multimedia module 181 for playing multimedia. The multimedia module 181 may be implemented in the controller 180 or may be implemented separately from the controller 180.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. The controller 180 may perform a pattern recognition process for recognizing a writing input or a drawing input performed on the touch screen as text and an image, respectively.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The power supply unit 190 receives an external power source and an internal power source under the control of the controller 180 to supply power for operation of each component.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.Various embodiments described herein may be implemented in a recording medium readable by a computer or similar device using, for example, software, hardware or a combination thereof.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.According to a hardware implementation, embodiments described herein include application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs), and the like. It may be implemented using at least one of processors, controllers, micro-controllers, microprocessors, and electrical units for performing other functions. The described embodiments may be implemented by the controller 180 itself.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.According to the software implementation, embodiments such as the procedures and functions described herein may be implemented as separate software modules. Each of the software modules may perform one or more functions and operations described herein. Software code may be implemented in software applications written in a suitable programming language. The software code may be stored in the memory 160 and executed by the controller 180.

도2a는 본 발명과 관련된 이동 단말기 또는 휴대 단말기의 일 예를 전면에서 바라본 사시도이다.Figure 2a is a front perspective view of an example of a mobile terminal or a portable terminal related to the present invention.

개시된 휴대 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고, 2 이상의 바디들이 상대 이동 가능하게 결합되는 슬라이드 타입, 폴더 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용이 가능하다. The disclosed portable terminal 100 has a terminal body in the form of a bar. However, the present invention is not limited thereto and may be applied to various structures such as a slide type, a folder type, a swing type, a swivel type, and two or more bodies are coupled to be relatively movable.

바디는 외관을 이루는 케이스(케이싱, 하우징, 커버 등)를 포함한다. 본 실시예에서, 케이스는 프론트 케이스(101)와 리어 케이스(102)로 구분될 수 있다. 프론트 케이스(101)와 리어 케이스(102)의 사이에 형성된 공간에는 각종 전자부품들이 내장된다. 프론트 케이스(101)와 리어 케이스(102) 사이에는 적어도 하나의 중간 케이스가 추가로 배치될 수도 있다.The body includes a casing (casing, housing, cover, etc.) that forms an exterior. In this embodiment, the case may be divided into a front case 101 and a rear case 102. Various electronic components are built in the space formed between the front case 101 and the rear case 102. At least one intermediate case may be further disposed between the front case 101 and the rear case 102.

케이스들은 합성수지를 사출하여 형성되거나 금속 재질, 예를 들어 스테인레스 스틸(STS) 또는 티타늄(Ti) 등과 같은 금속 재질을 갖도록 형성될 수도 있다.The cases may be formed by injecting synthetic resin or may be formed of a metal material, for example, a metal material such as stainless steel (STS) or titanium (Ti).

단말기 바디, 주로 프론트 케이스(101)에는 디스플레이부(151), 음향출력부(152), 카메라(121), 사용자 입력부(130/131,132), 마이크(122), 인터페이스(170) 등이 배치될 수 있다.The display unit 151, the audio output unit 152, the camera 121, the user input units 130/131 and 132, the microphone 122, and the interface 170 may be disposed in the terminal body, mainly the front case 101. have.

디스플레이부(151)는 프론트 케이스(101)의 주면의 대부분을 차지한다. 디스플레이부(151)의 양단부 중 일 단부에 인접한 영역에는 음향출력부(151)와 카메라(121)가 배치되고, 다른 단부에 인접한 영역에는 사용자 입력부(131)와 마이크(122)가 배치된다. 사용자 입력부(132)와 인터페이스(170) 등은 프론트 케이스(101) 및 리어 케이스(102)의 측면들에 배치될 수 있다.The display unit 151 occupies most of the main surface of the front case 101. A sound output unit 151 and a camera 121 are disposed in an area adjacent to one end of both ends of the display unit 151 and a user input unit 131 and a microphone 122 are disposed in an area adjacent to the other end. The user input unit 132 and the interface 170 may be disposed on side surfaces of the front case 101 and the rear case 102.

사용자 입력부(130)는 휴대 단말기(100)의 동작을 제어하기 위한 명령을 입 력받기 위해 조작되는 것으로서, 복수의 조작 유닛들(131,132)을 포함할 수 있다. 조작 유닛들(131,132)은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각 적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.The user input unit 130 is manipulated to receive a command for controlling the operation of the portable terminal 100 and may include a plurality of operation units 131 and 132. The manipulation units 131 and 132 may also be collectively referred to as manipulating portions, and may be employed in any manner as long as the user operates the tactile manner with a tactile feeling.

제1 또는 제2조작 유닛들(131, 132)에 의하여 입력되는 내용은 다양하게 설정될 수 있다. 예를 들어, 제1 조작 유닛(131)은 시작, 종료, 스크롤 등과 같은 명령을 입력받고, 제2 조작 유닛(132)은 음향출력부(152)에서 출력되는 음향의 크기 조절 또는 디스플레이부(151)의 터치 인식 모드로의 전환 등과 같은 명령을 입력받을 수 있다.Content input by the first or second manipulation units 131 and 132 may be variously set. For example, the first operation unit 131 receives commands such as start, end, scroll, and the like, and the second operation unit 132 controls the size of the sound output from the sound output unit 152 or the size of the sound output from the display unit 151 To the touch recognition mode of the touch screen.

도2b는 도2a에 도시된 휴대 단말기의 후면 사시도이다. FIG. 2B is a rear perspective view of the portable terminal shown in FIG. 2A.

도2b를 참조하면, 단말기 바디의 후면, 다시 말해서 리어 케이스(102)에는 카메라(121')가 추가로 장착될 수 있다. 카메라(121')는 카메라(121, 도 2a 참조)와 실질적으로 반대되는 촬영 방향을 가지며, 카메라(121)와 서로 다른 화소를 가지는 카메라일 수 있다. Referring to FIG. 2B, a camera 121 ′ may be additionally mounted on the rear of the terminal body, that is, the rear case 102. The camera 121 'may have a photographing direction substantially opposite to the camera 121 (see FIG. 2A), and may be a camera having different pixels from the camera 121.

예를 들어, 카메라(121)는 화상 통화 등의 경우에 사용자의 얼굴을 촬영하여 상대방에 전송함에 무리가 없도록 저 화소를 가지며, 카메라(121')는 일반적인 피사체를 촬영하고 바로 전송하지는 않는 경우가 많기에 고 화소를 가지는 것이 바람직하다. 카메라(121,121')는 회전 또는 팝업(pop-up) 가능하게 단말기 바디에 설치될 수도 있다.For example, the camera 121 has a low pixel so that the user's face is photographed and transmitted to the counterpart in case of a video call, and the camera 121 'photographs a general subject and does not transmit it immediately. It is desirable to have a high pixel because there are many. The cameras 121 and 121 'may be installed in the terminal body so as to be rotatable or pop-upable.

카메라(121')에 인접하게는 플래쉬(123)와 거울(124)이 추가로 배치된다. 플 래쉬(123)는 카메라(121')로 피사체를 촬영하는 경우에 피사체를 향해 빛을 비추게 된다. 거울(124)은 사용자가 카메라(121')를 이용하여 자신을 촬영(셀프 촬영)하고자 하는 경우에, 사용자 자신의 얼굴 등을 비춰볼 수 있게 한다.A flash 123 and a mirror 124 are further disposed adjacent to the camera 121 '. The flash 123 shines light toward the subject when the subject is photographed by the camera 121 '. The mirror 124 allows the user to see his / her own face or the like when photographing (self-photographing) the user using the camera 121 '.

단말기 바디의 후면에는 음향 출력부(152')가 추가로 배치될 수도 있다. 음향 출력부(152')는 음향 출력부(152, 도 2a 참조)와 함께 스테레오 기능을 구현할 수 있으며, 통화시 스피커폰 모드의 구현을 위하여 사용될 수도 있다.The sound output unit 152 'may be further disposed on the rear surface of the terminal body. The sound output unit 152 ′ may implement a stereo function together with the sound output unit 152 (see FIG. 2A), and may be used to implement a speakerphone mode during a call.

단말기 바디의 측면에는 통화 등을 위한 안테나 외에 방송신호 수신용 안테나(116)가 추가적으로 배치될 수 있다. 방송수신모듈(111, 도 1 참조)의 일부를 이루는 안테나(116)는 단말기 바디에서 인출 가능하게 설치될 수 있다.In addition to the antenna for talking and the like, a broadcast signal reception antenna 116 may be additionally disposed on the side of the terminal body. The antenna 116, which forms part of the broadcast receiving module 111 (see FIG. 1), can be installed to be able to be drawn out from the terminal body.

단말기 바디에는 휴대 단말기(100)에 전원을 공급하기 위한 전원공급부(190)가 장착된다. 전원공급부(190)는 단말기 바디에 내장되거나, 단말기 바디의 외부에서 직접 탈착될 수 있게 구성될 수 있다.A power supply unit 190 for supplying power to the portable terminal 100 is mounted on the terminal body. The power supply unit 190 may be embedded in the terminal body or may be directly detachable from the outside of the terminal body.

리어 케이스(102)에는 터치를 감지하기 위한 터치 패드(135)가 추가로 장착될 수 있다. 터치 패드(135) 또한 디스플레이부(151)와 마찬가지로 광 투과형으로 구성될 수 있다. 이 경우에, 디스플레이부(151)가 양면에서 시각 정보를 출력하도록 구성된다면, 터치 패드(135)를 통해서도 상기 시각 정보를 인지할 수 있게 된다. 상기 양면에 출력되는 정보는 상기 터치 패드(135)에 의해 모두 제어될 수도 있다. 이와 달리, 터치 패드(135)에는 디스플레이가 추가로 장착되어, 리어 케이스(102)에도 터치 스크린이 배치될 수도 있다.The rear case 102 may be further equipped with a touch pad 135 for sensing a touch. Like the display unit 151, the touch pad 135 may also be configured to have a light transmission type. In this case, if the display unit 151 is configured to output visual information from both sides, the visual information may be recognized through the touch pad 135. The information output on both surfaces may be controlled by the touch pad 135. Alternatively, a display may be additionally mounted on the touch pad 135, and a touch screen may be disposed on the rear case 102 as well.

터치 패드(135)는 프론트 케이스(101)의 디스플레이부(151)와 상호 관련되어 작동한다. 터치 패드(135)는 디스플레이부(151)의 후방에 평행하게 배치될 수 있다. 이러한 터치 패드(135)는 디스플레이부(151)와 동일하거나 작은 크기를 가질 수 있다.The touch pad 135 operates in association with the display unit 151 of the front case 101. The touch pad 135 may be disposed in parallel to the rear of the display unit 151. The touch pad 135 may have the same or smaller size as the display unit 151.

디스플레이부(151)에는 다양한 종류의 시각 정보들이 표시될 수 있다. 이들 정보들은 문자, 숫자, 기호, 그래픽, 또는 아이콘 등의 형태로 표시될 수 있다. 이러한 정보의 입력을 위하여 상기 문자, 숫자, 기호, 그래픽 또는 아이콘 들 중 적어도 하나는 일정한 배열을 이루어 표시됨으로써 키패드의 형태로 구현될 수 있다. 이러한 키패드는 소위 '소프트키'라 불릴 수 있다. Various types of time information can be displayed on the display unit 151. [ These pieces of information can be displayed in the form of letters, numbers, symbols, graphics, or icons. At least one of the letters, numbers, symbols, graphics, or icons may be displayed in a predetermined arrangement for inputting such information, thereby being implemented as a keypad. Such a keypad may be called a so-called " soft key ".

이하에서는 상기와 같이 구성된 단말기에서 구현될 수 있는 제어 방법에 관련된 실시 예들에 대하여 첨부된 도면을 참조하여 설명한다. 후술하는 실시 예들은 단독으로 또는 서로 조합되어 사용될 수 있다. 또한, 후술하는 실시 예들이 상술한 사용자 인터페이스(UI)와 조합되어 사용될 수도 있다.Hereinafter, embodiments related to a control method that can be implemented in a terminal configured as described above will be described with reference to the accompanying drawings. Embodiments described later may be used alone or in combination with each other. In addition, embodiments described below may be used in combination with the above-described user interface (UI).

본 발명은 영상 통화 중이나 영상 채팅 중에 사용자의 표정이나 상대방의 표정을 인식하고, 그 인식된 표정에 관련된 특정 효과를 해당하는 영상에 자동으로 합성하여 출력하거나, 상기 합성된 영상을 상대방에게 전송하는 것에 관련된 발명이다. The present invention is to recognize the expression of the user's facial expression or the other party during a video call or video chat, and to automatically output a specific effect related to the recognized facial expression to the corresponding video, or to transmit the synthesized video to the other party Related invention.

여기서 상기 특정 효과는 이모티콘이나 플래시콘과 같은 이미지 형태로 출력될 수 있고, 텍스트 형태로 출력될 수도 있다. 또한 상기 특정 효과는 애니메이션 형태로 출력될 수도 있다. 또한 상기 특정 효과는 음향이나 진동으로 출력될 수도 있다. 상기 특정 효과들은 서로 복합해서 출력될 수도 있다. Here, the specific effect may be output in the form of an image such as an emoticon or a flashcon, or may be output in the form of a text. In addition, the specific effect may be output in the form of animation. In addition, the specific effect may be output by sound or vibration. The specific effects may be output in combination with each other.

또한 상기 특정 효과는 표정이 변경될 때만 출력될 수도 있고 기설정된 특정 표정이 인식될 경우에만 출력될 수도 있다. 또한 상기 특정 효과는 처음 인식된 표정일 경우에만 출력될 수도 있고 동일한 표정이 인식될 때마다 계속해서 출력될 수도 있다. 여기서 상기 특정 효과는 일단 출력되면 기설정된 시간만큼 출력하는 것이 바람직하지만, 상기 기설정된 시간이 경과되지 않더라도 표정이 바뀔 경우 상기 특정 효과는 출력이 중지될 수 있다. 또한 상기 특정 효과는 영상내의 임의의 위치에 랜덤하게 출력될 수도 있고 사용자가 지정한 위치에만 고정적으로 출력될 수도 있다. In addition, the specific effect may be output only when the facial expression is changed or may be output only when a predetermined specific facial expression is recognized. In addition, the specific effect may be output only when the first facial expression is recognized or continuously output whenever the same facial expression is recognized. Here, the output of the specific effect is preferably output for a predetermined time, but the output of the specific effect may be stopped when the facial expression is changed even if the predetermined time has not elapsed. In addition, the specific effect may be randomly output at an arbitrary position in the image or may be fixedly output only at a location designated by a user.

도3은 본 발명에 따라 영상 통화 중 표정에 관련된 효과를 출력하는 방법을 보인 흐름도이고, 도4는 상기 표정에 관련된 효과가 출력된 화면을 보인 예시도이다. 이하 상기 도3 과 도4를 참조하여 그 구체적인 방법을 설명한다.3 is a flowchart illustrating a method of outputting an effect related to a facial expression during a video call according to the present invention, and FIG. 4 is an exemplary view showing a screen on which an effect related to the facial expression is output. Hereinafter, the specific method will be described with reference to FIGS. 3 and 4.

도3에 도시된 바와 같이 사용자는 이동 단말기를 이용하여 영상 통화 중이라고 가정한다(S101). 그리고 상기 이동 단말기에는 표정에 관련된 효과를 출력할 수 있는 기능이 설정되어 있다고 가정한다. 여기서 상기 표정에 관련된 효과를 출력하는 기능에 대해서는 다른 도면을 참조하여 구체적으로 설명한다.As shown in FIG. 3, it is assumed that the user is in a video call using the mobile terminal (S101). In addition, it is assumed that a function for outputting an effect related to a facial expression is set in the mobile terminal. Here, the function of outputting the effect related to the expression will be described in detail with reference to other drawings.

상기와 같이 영상 통화 중일 경우, 도4에 도시된 바와 같이, 디스플레이부(142)에는 영상 통화 화면이 출력된다. 상기 영상 통화 화면에는 상대방의 영상(210), 사용자의 영상(220), 통화중 사용 가능한 기능 버튼(230), 그리고 대체 영상이나 통화에 관련된 정보(240)가 디스플레이될 수 있다(S102). 여기서 상기 사용자의 영상은 상대방으로 전송되는 영상이고 상대방의 영상은 상대방으로부터 전 송받은 영상이다.In the case of a video call as described above, as shown in FIG. 4, the video call screen is output to the display unit 142. The video call screen may display the video 210 of the counterpart, the video 220 of the user, a function button 230 usable during a call, and information 240 related to a substitute video or a call (S102). The video of the user is an image transmitted to the counterpart and the video of the counterpart is an image transmitted from the counterpart.

본 실시 예에서 제어부(180)는 사용자의 선택에 따라 사용자의 얼굴 영상 또는 상대방의 얼굴 영상에서 표정을 인식할 수 있다(S103). 예를 들어, 사용자가 자신의 얼굴 영상을 선택하여 얼굴 표정을 인식한다고 가정한다. 여기서 상기 얼굴 표정은 웃는 표정, 화난 표정, 놀란 표정, 무표정, 귀여운 표정, 우스꽝스런 표정이 있을 수 있으며, 활짝 웃는 표정 또는 미소짓는 표정과 같이 상기 각 표정들은 좀 더 세분화 할 수 있다. 이때 상기 표정들을 나타내는 각 명칭은 사람에 따라 다르게 판단될 수 있으므로, 제어부(180)는 상기 각 표정에 해당하는 이미지를 명칭과 함께 표시하여, 사용자가 각 표정의 의미를 좀 더 정확하게 인지할 수 있도록 할 수 있다. 또한 상기 기재된 표정들 이외에도 좀 더 다양한 표정들을 검출할 수도 있다. 상기 얼굴 표정을 인식하기 위하여 이동 단말기에는 공지된 임의의 얼굴 표정을 검출하는 알고리즘이 탑재될 수 있다. According to the present embodiment, the controller 180 may recognize an expression in the face image of the user or the face image of the counterpart according to the user's selection (S103). For example, it is assumed that a user selects his face image to recognize a facial expression. Here, the facial expression may have a smiling expression, an angry expression, a surprised expression, a facial expression, a cute expression, a ridiculous expression, and each of the expressions may be further subdivided, such as a wide smiling face or a smiling face. In this case, since each name representing the expressions may be determined differently according to a person, the controller 180 displays an image corresponding to each expression with a name so that the user can recognize the meaning of each expression more accurately. can do. In addition to the expressions described above, more various expressions may be detected. In order to recognize the facial expression, the mobile terminal may be equipped with an algorithm for detecting any known facial expression.

상기와 같이 얼굴 표정을 인식한 제어부(180)는 그 얼굴 표정에 대응하는 특정 효과(250)를 검출한다(S104). 그리고 상기 검출된 특정 효과(예 : 이모티콘, 플래시콘, 텍스트, 음성, 진동)를 해당하는 영상에 합성하여 함께 출력하거나, 그 합성된 영상을 상대방에게 전송할 수 있다(S105).The controller 180 recognizing the facial expression as described above detects a specific effect 250 corresponding to the facial expression (S104). In addition, the detected specific effects (eg, emoticons, flash cones, text, voice, vibration) may be synthesized and output together with the corresponding images, or the synthesized images may be transmitted to the counterpart (S105).

여기서, 상기 여러가지 얼굴 표정에 대응하는 특정 효과는 데이터베이스 형태로 메모리(160)에 저장될 수 있다. 예를 들어, 상기 메모리(160)에는 '표정 1'에 대응하는 '효과 1', '표정 2'에 대응하는 '효과 2', '표정 3'에 대응하는 '효과 3'이 저장될 수 있다. The specific effects corresponding to the various facial expressions may be stored in the memory 160 in the form of a database. For example, the memory 160 may store 'effect 1' corresponding to 'expression 1', 'effect 2' corresponding to 'expression 2', and 'effect 3' corresponding to 'expression 3'. .

또한 상기 각 표정에는 반드시 한 개의 효과가 대응되어야 하는 것은 아니며, 하나의 표정에 두 개 이상의 효과가 대응될 수도 있다. 예를 들어, 상기 메모리(160)에는 '표정 1'에 대응하는 세가지 효과(예 : 효과 1-1, 효과 1-2, 효과 1-3)가 저장될 수 있다. 상기와 같이 하나의 표정에 두 개 이상의 효과가 대응될 경우 상기 효과들 중 어느 한 가지 효과를 랜덤하게 출력할 수 있다. 또는 상기 효과들을 순차로 출력할 수 있다. In addition, one expression does not necessarily correspond to each of the expressions, and two or more effects may correspond to one expression. For example, the memory 160 may store three effects (eg, effects 1-1, effects 1-2, and effects 1-3) corresponding to 'expression 1'. As described above, when two or more effects correspond to one facial expression, one of the effects may be randomly output. Alternatively, the effects may be sequentially output.

상기 효과의 출력 방식은 기설정된 방식에 따라 달라질 수 있다. 예를 들어, 제어부(180)가 검출한 사용자의 얼굴 표정이 웃는 표정(예 : 표정 1)이라면, 제어부(180)는 상기 표정 1에 대응하는 효과(예 : 효과 1)를 메모리(160)에서 검출할 수 있다. 그리고 상기 검출된 효과(예 : 효과 1)를 사용자의 영상에 합성할 수 있다. 상기와 같이 사용자의 영상이 임의의 효과와 합성될 경우 제어부(180)는 그 합성된 영상을 통화중인 상대방으로 전송할 수 있다. 이에 따라 상대방의 이동 단말기에는 임의의 효과가 합성된 사용자의 영상이 디스플레이 될 수 있다. The output method of the effect may vary according to a preset method. For example, if the facial expression of the user detected by the controller 180 is a smiling facial expression (for example, facial expression 1), the controller 180 may generate an effect corresponding to the facial expression 1 (for example, effect 1) in the memory 160. Can be detected. The detected effect (eg, effect 1) may be synthesized with the user's image. As described above, when the user's image is synthesized with an arbitrary effect, the controller 180 may transmit the synthesized image to the other party in a call. Accordingly, an image of a user synthesized with an arbitrary effect may be displayed on the counterpart's mobile terminal.

또한 본 실시 예에서 제어부(180)는 통화중인 상대방의 이동 단말기에 얼굴 표정을 인식하는 기능이 없더라도 상대방의 얼굴 표정을 인식하여 임의의 효과를 합성하여 출력할 수 있다. 예를 들어, 제어부(180)는 상대방 영상에 표시된 상대방의 얼굴 표정을 인식하고, 상기 상대방의 얼굴 표정이 표정 2라면, 상기 표정 2에 대응하는 효과(예 : 효과 2)를 메모리(160)에서 검출할 수 있다. 그리고 상기 검출된 효과(예 : 효과 2)를 상대방의 영상에 합성할 수 있다. In addition, in the present exemplary embodiment, the controller 180 may recognize a facial expression of the other party and synthesize a random effect even though the mobile terminal of the other party does not have a function of recognizing the facial expression. For example, the controller 180 recognizes the facial expression of the other party displayed on the other party's image, and if the facial expression of the other party is the facial expression 2, the memory 160 outputs an effect corresponding to the facial expression 2 (eg, effect 2) in the memory 160. Can be detected. The detected effect (for example, effect 2) may be synthesized with the other party's image.

상기와 같이 상대방의 이동 단말기에 표정에 관련된 임의의 효과를 합성하는 기능이 없더라도 사용자는 상대방의 표정에 관련된 효과가 합성된 상대방의 영상을 볼 수 있게 된다.As described above, even if the counterpart's mobile terminal does not have a function of synthesizing an arbitrary effect related to the facial expression, the user can view the image of the counterpart synthesized with the effect related to the facial expression of the counterpart.

도5는 본 발명에 따라 영상 통화 중 표정에 관련된 효과를 출력하는 방법을 설정하는 화면을 보인 예시도이다. 5 is an exemplary view showing a screen for setting a method for outputting an effect related to a facial expression during a video call according to the present invention.

이에 도시된 바와 같이 표정에 관련된 효과를 출력하기 위하여 설정할 옵션에는 얼굴 표정을 인식할 대상(310), 인식할 얼굴 표정(320), 상기 인식된 얼굴 표정에 따라 출력할 효과(330), 상기 효과의 종류에 관련된 카테고리(340), 그리고 효과를 출력하는 횟수나 방법(미도시)을 포함할 수 있다.As shown here, the option to be set to output an effect related to the facial expression includes an object 310 to recognize a facial expression, a facial expression 320 to be recognized, an effect 330 to be output according to the recognized facial expression, and the effect. Category 340 related to the type of, and the number or method (not shown) of outputting the effect.

여기서 상기 인식할 얼굴 표정을 선택하는 옵션은 기분을 나타낼 수 있으므로, 표정 대신 기분(예 : 기쁜표정, 슬픈표정, 즐거운표정, 괴로운표정 등)으로 설정할 수도 있다. Here, the option for selecting a facial expression to be recognized may indicate a mood, and thus, may be set as a mood (for example, a happy expression, a sad expression, a happy expression, a painful expression, etc.) instead of the expression.

또한 상기 출력할 효과를 선택하는 옵션는 하나 또는 두 개 이상 설정할 수도 있다. 예를 들어, 상기 효과의 종류는 이모티콘, 플래시콘, 텍스트, 음향, 진동, 또는 배경이미지(예 : 번개, 번쩍이는 조명) 중 어느 하나일 수 있다. In addition, one or more options for selecting an effect to be output may be set. For example, the type of effect may be one of an emoticon, a flash cone, text, sound, vibration, or a background image (eg, lightning, flashing lights).

또한 상기 효과의 종류에 관련된 카테고리 옵션은, 예를 들어, 시간(예 : 아침, 점심, 저녁, 날씨, 계절), 장소(예 : 병원, 학교, 가정), 또는 대화 상대(예 : 친구, 아기, 어른)가 될 수 있다. 상기 기재된 카테고리 이외에도 더 많은 카테고리를 설정할 수 있다. Also, category options related to the type of effect may be, for example, time (e.g. morning, lunch, dinner, weather, season), place (e.g. hospital, school, home), or contact (e.g. friend, baby) , Adults). In addition to the categories described above, more categories can be set.

그리고, 상기 효과의 출력 횟수나 방법 옵션은, 예를 들어, 표정을 처음 인식할 때 한번만 효과를 출력하도록 설정될 수 있다. 또는 표정이 인식될 때마다 효 과를 출력하도록 설정될 수 있다. 또는 인식되는 모든 표정마다 해당하는 효과를 출력하도록 설정될 수 있다. 또는 기설정된 특정 표정(예 : 웃는 표정)이 인식될 경우에만 효과를 출력하도록 설정될 수 있다. 또는 특정 표정에 관련된 효과 메뉴를 썸네일 형식으로 출력한 후 그 중 사용자가 선택한 효과를 출력할 수 있다. In addition, the number of output or the method option of the effect may be set to output the effect only once, for example, when the facial expression is first recognized. Alternatively, the expression may be set to output an effect whenever the facial expression is recognized. Or it may be set to output a corresponding effect for every recognized facial expression. Alternatively, the display may be set to output an effect only when a predetermined facial expression (eg, a smiling facial expression) is recognized. Alternatively, an effect menu related to a specific facial expression may be output in a thumbnail format, and then an effect selected by the user may be output.

또한 상기 옵션에는 상기 출력된 효과를 유지하는 시간을 설정할 수 있는 옵션을 포함할 수 있다. 예를 들어 상기 출력된 효과가 1초간 유지되도록 설정할 수도 있다. 그러나, 상기 설정된 시간(예 : 1초)이 경과되지 않은 상태에서 표정이 바뀔 경우에는 그 바뀐 표정에 해당하는 효과가 오버레이 방식으로 출력될 수 있다. 또는 상기 설정된 시간이 경과되지 않은 상태에서 표정이 바뀌는 경우 상기 효과의 출력을 중지하고 바뀐 표정에 해당하는 효과를 출력할 수 있다.In addition, the option may include an option for setting the time to maintain the output effect. For example, the output effect may be set to be maintained for 1 second. However, when the facial expression is changed while the set time (for example, 1 second) has not elapsed, an effect corresponding to the changed facial expression may be output in an overlay manner. Alternatively, when the facial expression changes in a state where the set time has not elapsed, the output of the effect may be stopped and an effect corresponding to the changed facial expression may be output.

또한 상기 옵션에는 상기 영상 내에서 효과를 출력하기 위한 위치를 설정할 수 있는 옵션을 포함할 수 있다. 예를 들어 사용자는 상기 효과의 출력 위치를 영상의 일 측으로 고정할 수 있다. 또는 상기 효과를 출력할 위치를 고정하지 않고 영상 내의 임의의 위치에 랜덤하게 출력할 수도 있다.The option may also include an option for setting a position for outputting an effect in the image. For example, the user may fix the output position of the effect to one side of the image. Alternatively, the image may be randomly output at an arbitrary position in the image without fixing a position to output the effect.

이상, 본 발명의 바람직한 실시 예를 첨부된 도면들을 참조로 설명하였다.In the above, preferred embodiments of the present invention have been described with reference to the accompanying drawings.

여기서, 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니되며, 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. Here, the terms and words used in the present specification and claims should not be construed as limited to ordinary or dictionary meanings, but should be construed as meaning and concept consistent with the technical idea of the present invention.

따라서, 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것 은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.Therefore, the embodiments described in the specification and the drawings shown in the drawings are only the most preferred embodiment of the present invention, and do not represent all of the technical idea of the present invention, they can be replaced at the time of the present application It should be understood that there may be various equivalents and variations in the range.

도 1은 본 발명의 일 실시 예와 관련된 이동 단말기의 블록 구성도.1 is a block diagram of a mobile terminal associated with one embodiment of the present invention;

도 2a은 본 발명의 일 실시 예에 관련된 휴대 단말기의 전면 사시도.2A is a front perspective view of a mobile terminal related to one embodiment of the present invention;

도 2b는 본 발명의 일 실시 예에 관련된 휴대 단말기의 후면 사시도.2B is a rear perspective view of a mobile terminal related to one embodiment of the present invention;

도 3은 본 발명에 따라 영상 통화 중 표정에 관련된 효과를 출력하는 방법을 보인 흐름도.3 is a flowchart illustrating a method of outputting an effect related to a facial expression during a video call according to the present invention;

도 4는 상기 표정에 관련된 효과가 출력된 화면을 보인 예시도.4 is an exemplary view showing a screen on which an effect related to the expression is output.

도 5는 본 발명에 따라 영상 통화 중 표정에 관련된 효과를 출력하는 방법을 설정하는 화면을 보인 예시도.5 is an exemplary view showing a screen for setting a method for outputting an effect related to a facial expression during a video call according to the present invention.

Claims (5)

영상 통화를 연결하는 단계와;Connecting a video call; 상기 영상 통화가 연결된 상대방의 영상이나 사용자 자신의 영상에서 얼굴 표정을 인식하는 단계와;Recognizing a facial expression in an image of the counterpart or the user's own video connected to the video call; 상기 인식된 얼굴 표정에 대응하는 특정 효과를 검출하는 단계와;Detecting a particular effect corresponding to the recognized facial expression; 기설정된 옵션에 따라 상기 검출된 특정 효과를 영상과 함께 출력하거나 상대방에게 전송하는 단계;를 포함하여 이루어진 것을 특징으로 하는 이동 단말기의 제어방법.And outputting the detected specific effect together with an image or transmitting the detected specific effect to a counterpart according to a preset option. 제1항에 있어서, 상기 얼굴 표정에 대응하는 특정 효과는,According to claim 1, The specific effect corresponding to the facial expression, 이모티콘이나 플래시콘과 같은 이미지 형태, 애니메이션 형태, 음향이나 진동, 또는 텍스트 형태 중 하나 또는 두 개 이상이 복합되어 출력할 수 있도록 이루어진 것을 특징으로 하는 이동 단말기의 제어방법.A control method of a mobile terminal, characterized in that one or two or more of an image form such as an emoticon or a flashcon, an animation form, a sound or vibration, or a text form are combined and output. 제1항에 있어서, 상기 특정 효과를 출력하는 단계는,The method of claim 1, wherein the outputting of the specific effect comprises: 상기 상대방의 영상 또는 사용자의 영상에 합성하여 출력할 수 있도록 이루어진 것을 특징으로 하는 이동 단말기의 제어방법.The control method of the mobile terminal, characterized in that configured to be output to the video of the counterpart or the video of the user. 제1항에 있어서, 상기 특정 효과는,The method of claim 1, wherein the specific effect is, 하나의 표정에 두 개 이상의 특정 효과가 복합적으로 대응될 수 있는 것을 특징으로 하는 이동 단말기의 제어방법.A control method of a mobile terminal, characterized in that two or more specific effects can correspond to one facial expression. 디스플레이부와;A display unit; 영상 통화용 카메라와;A video call camera; 얼굴 표정에 관련된 알고리즘과 효과들이 저장되는 메모리와;A memory for storing algorithms and effects related to facial expressions; 영상 통화가 연결되면 상대방이나 사용자의 영상에서 얼굴 표정을 인식하고, 그 얼굴 표정에 대응하는 특정 효과를 상기 어느 하나의 영상에 합성하여 출력하는 제어부;를 포함하여 구성된 것을 특징으로 하는 이동 단말기.And a controller for recognizing facial expressions from an image of a counterpart or user when a video call is connected, and synthesizing and outputting a specific effect corresponding to the facial expressions to any one of the images.

Images