KR102273751B1 - Digital device and method of processing data the same - Google Patents
Digital device and method of processing data the same Download PDFInfo
- Publication number
- KR102273751B1 KR102273751B1 KR1020150104984A KR20150104984A KR102273751B1 KR 102273751 B1 KR102273751 B1 KR 102273751B1 KR 1020150104984 A KR1020150104984 A KR 1020150104984A KR 20150104984 A KR20150104984 A KR 20150104984A KR 102273751 B1 KR102273751 B1 KR 102273751B1
- Authority
- KR
- South Korea
- Prior art keywords
- data
- mobile terminal
- digital
- call application
- call
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 75
- 238000000034 method Methods 0.000 title claims description 105
- 238000004891 communication Methods 0.000 claims abstract description 96
- 238000001514 detection method Methods 0.000 claims abstract description 8
- 230000004913 activation Effects 0.000 claims abstract description 4
- 238000011038 discontinuous diafiltration by volume reduction Methods 0.000 claims description 4
- 230000009467 reduction Effects 0.000 claims description 4
- 230000001360 synchronised effect Effects 0.000 claims description 2
- 238000003672 processing method Methods 0.000 abstract description 9
- 230000003213 activating effect Effects 0.000 abstract description 5
- 230000008569 process Effects 0.000 description 43
- 238000010586 diagram Methods 0.000 description 26
- 230000006870 function Effects 0.000 description 25
- 230000005236 sound signal Effects 0.000 description 16
- 230000000694 effects Effects 0.000 description 13
- 238000005516 engineering process Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 238000010295 mobile communication Methods 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000033001 locomotion Effects 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 210000000707 wrist Anatomy 0.000 description 3
- 239000002131 composite material Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 239000004984 smart glass Substances 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 101000591286 Homo sapiens Myocardin-related transcription factor A Proteins 0.000 description 1
- 102100034099 Myocardin-related transcription factor A Human genes 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 229920001971 elastomer Polymers 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 230000005672 electromagnetic field Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000010408 film Substances 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 239000010985 leather Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000009304 pastoral farming Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000015541 sensory perception of touch Effects 0.000 description 1
- 229920003002 synthetic resin Polymers 0.000 description 1
- 239000000057 synthetic resin Substances 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/40—Support for services or applications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H04L67/36—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/28—Timers or timing mechanisms used in protocols
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
Abstract
본 명세서에서는 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법을 개시한다. 여기서, 본 발명의 일 실시 예에 따른 이동 단말기의 데이터를 수신하여 처리하는 디지털 디바이스는, 상기 이동 단말기로부터 제1 통신 프로토콜로 미러링 데이터, 상기 이동 단말기로부터 착신 감지에 따른 가이드 데이터, 상기 이동 단말기로부터 상기 제1 통신 프로토콜에 따라 발신자에 관한 제1 통화 애플리케이션 데이터를 수신하고, 상기 활성화된 제2 통신 프로토콜에 따라 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 수신하는 수신부; 상기 가이드 데이터 수신에 따라 통화 서비스를 위한 상기 이동 단말기와 제2 통신 프로토콜을 활성화하고, 상기 활성화 이후에 상기 발신자에 관한 제1 통화 애플리케이션 데이터와 제2 통화 애플리케이션 데이터가 각각 출력되도록 제어하고, 상기 제2 통신 프로토콜에 따라 상기 디지털 디바이스와 연결된 입력 수단을 통해 수신되는 착신자에 관한 제3 통화 애플리케이션 데이터를 상기 이동 단말기로 전송하도록 제어하는 제어부; 상기 미러링 데이터, 상기 가이드 데이터, 상기 발신자에 관한 제1 통화 애플리케이션 데이터를 출력하는 스크린; 및 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 출력하는 스피커를 포함한다.Disclosed herein are a digital device and a data processing method in the digital device. Here, the digital device for receiving and processing data of a mobile terminal according to an embodiment of the present invention includes mirroring data from the mobile terminal to a first communication protocol, guide data according to incoming detection from the mobile terminal, and from the mobile terminal. a receiver configured to receive first call application data about a caller according to the first communication protocol, and receive second call application data about the caller according to the activated second communication protocol; Activating the mobile terminal and a second communication protocol for a call service according to the reception of the guide data, and controlling so that the first call application data and the second call application data about the caller are respectively output after the activation, 2 a control unit for controlling to transmit third call application data regarding a called party received through an input means connected to the digital device according to a communication protocol to the mobile terminal; a screen for outputting the mirroring data, the guide data, and first call application data related to the caller; and a speaker for outputting second call application data about the caller.
Description
본 발명은 디지털 디바이스에 관한 것으로, 더욱 상세하게는 디지털 디바이스에서 외부 디바이스(external devices)로부터 수신되는 데이터를 처리, 출력 등에 관한 것이다.The present invention relates to a digital device, and more particularly, to a digital device processing, outputting, and the like data received from an external device.
PC(Personal Computer), TV(Television)와 같은 고정 디바이스(standing device)에 이어 스마트 폰(smart phone), 태블릿 PC(Tablet PC), 웨어러블 디바이스(wearable device) 등과 같은 모바일 디바이스(mobile device)의 발전이 눈부시다. 고정 디바이스와 모바일 디바이스는 종래 고유의 영역을 구축하며 개별적으로 발전해 왔으나, 최근 디지털 컨버전스(digital convergence)의 붐에 따라 상기 영역이 모호해지고 있으며, 상호 간에 데이터 커뮤니케이션을 통하여 더욱 다양한 서비스가 이루어지고 있다.Development of mobile devices such as smart phones, tablet PCs, wearable devices, etc. following standing devices such as PCs (Personal Computers) and TVs (Televisions) this is dazzling The fixed device and the mobile device have been developed individually by constructing their own domains, but these domains are being blurred with the recent boom of digital convergence, and more diverse services are provided through mutual data communication.
예컨대, 상대적으로 작은 사이즈의 디스플레이가 채용된 모바일 디바이스는, 상대적으로 큰 사이즈의 디스플레이가 채용된 고정 디바이스로 미라캐스트(Miracast) 방식을 이용하여 자신이 보유한 컨텐트를 즐기고 있다.For example, a mobile device employing a display having a relatively small size is a fixed device employing a display having a relatively large size, and enjoying the content it owns using a Miracast method.
다만, 종래에는, 상기 미라캐스트 방식을 이용하여 데이터 커뮤니케이션을 하는 도중에는, 모바일 디바이스의 특정 애플리케이션이나 기능 이용에 제한이 있거나 불편함이 존재하여, 상기 미라캐스트는 단지 컨텐트를 상대적으로 큰 디스플레이를 통해 시청하는 정도로 밖에 이용할 수 없어 사용자의 입장에서 그 이용 과정에서 불편한 문제점이 있었다.However, in the prior art, during data communication using the Miracast method, there is a limitation or inconvenience in using a specific application or function of a mobile device, so that the Miracast only views content through a relatively large display. There was an inconvenience in the process of using it from the user's point of view because it can only be used to the extent that
상기와 같은 불편함을 해소하고자 본 명세서에서는 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법을 개시한다. In order to solve the above inconvenience, the present specification discloses a digital device and a data processing method in the digital device.
본 발명은, 디지털 디바이스에서 외부 디바이스(external device)의 애플리케이션(application)을 데이터 커뮤니케이션(data communication)을 통해 처리하고 출력하는 것을 일 과제로 한다.An object of the present invention is to process and output an application of an external device in a digital device through data communication.
본 발명은, 디지털 디바이스에서 데이터 공유(data share)) 방식 등을 통해 외부 디바이스의 컨텐트(content)를 이용하는 과정에서 통화 애플리케이션(calling application)이 실행된 경우에 그 처리 방법을 제공하는 것을 다른 과제로 한다.Another object of the present invention is to provide a processing method when a calling application is executed in the process of using the content of an external device through a data sharing method in a digital device, etc. do.
본 발명은, 디지털 디바이스에서 외부 디바이스의 통화 애플리케이션에 관한 가이드 데이터(guide data), 실행 데이터(execution data)를 제공하고, 외부 디바이스에서 통화하는 것과 같거나 유사한 퀄리티(quality)의 실행 데이터를 제공하는 것을 또 다른 과제로 한다.The present invention provides guide data and execution data related to a call application of an external device in a digital device, and provides execution data of the same or similar quality as that of a call from an external device. make it another task.
본 발명에서 이루고자 하는 기술적 과제는 상기 언급한 기술적 과제로 제한되지 않으며, 언급하지 않은 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problems to be achieved in the present invention are not limited to the above-mentioned technical problems, and other technical problems not mentioned will be clearly understood by those of ordinary skill in the art to which the present invention belongs from the description below. .
본 명세서에서는 디지털 디바이스 및 상기 디지털 디바이스에서 처리 방법에 대한 다양한 실시 예(들)을 개시한다.Various embodiment(s) of a digital device and a processing method in the digital device are disclosed herein.
본 발명의 일 실시 예에 따른 디지털 디바이스에서 이동 단말기의 데이터를 처리하는 방법은, 상기 이동 단말기와 페어링하는 단계; 상기 이동 단말기로부터 제1 통신 프로토콜로 미러링 데이터를 수신하는 단계; 수신된 미러링 데이터를 스크린상에 출력하는 단계; 상기 이동 단말기로부터 착신 감지에 따른 가이드 데이터를 수신하는 단계; 통화 서비스를 위한 제2 통신 프로토콜을 활성화하는 단계; 및 상기 이동 단말기로부터 상기 제1 통신 프로토콜에 따라 발신자에 관한 제1 통화 애플리케이션 데이터를 수신하고, 상기 활성화된 제2 통신 프로토콜에 따라 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 수신하여 출력하고, 상기 제2 통신 프로토콜에 따라 상기 디지털 디바이스와 연결된 입력 수단을 통해 수신되는 착신자에 관한 제3 통화 애플리케이션 데이터를 상기 이동 단말기로 전송하는 단계를 포함하여 이루어진다.A method of processing data of a mobile terminal in a digital device according to an embodiment of the present invention comprises: pairing with the mobile terminal; receiving mirroring data from the mobile terminal in a first communication protocol; outputting the received mirroring data on a screen; receiving guide data according to the incoming detection from the mobile terminal; activating a second communication protocol for a call service; and receiving first call application data about the caller according to the first communication protocol from the mobile terminal, receiving and outputting second call application data about the caller according to the activated second communication protocol, and outputting the second call application data about the caller according to the activated second communication protocol. and transmitting, to the mobile terminal, third call application data regarding the called party received through an input means connected to the digital device according to a second communication protocol.
본 발명의 일 실시 예에 따른 이동 단말기의 데이터를 수신하여 처리하는 디지털 디바이스는, 상기 이동 단말기로부터 제1 통신 프로토콜로 미러링 데이터, 상기 이동 단말기로부터 착신 감지에 따른 가이드 데이터, 상기 이동 단말기로부터 상기 제1 통신 프로토콜에 따라 발신자에 관한 제1 통화 애플리케이션 데이터를 수신하고, 상기 활성화된 제2 통신 프로토콜에 따라 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 수신하는 수신부; 상기 가이드 데이터 수신에 따라 통화 서비스를 위한 상기 이동 단말기와 제2 통신 프로토콜을 활성화하고, 상기 활성화 이후에 상기 발신자에 관한 제1 통화 애플리케이션 데이터와 제2 통화 애플리케이션 데이터가 각각 출력되도록 제어하고, 상기 제2 통신 프로토콜에 따라 상기 디지털 디바이스와 연결된 입력 수단을 통해 수신되는 착신자에 관한 제3 통화 애플리케이션 데이터를 상기 이동 단말기로 전송하도록 제어하는 제어부; 상기 미러링 데이터, 상기 가이드 데이터, 상기 발신자에 관한 제1 통화 애플리케이션 데이터를 출력하는 스크린; 및 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 출력하는 스피커를 포함한다.A digital device for receiving and processing data of a mobile terminal according to an embodiment of the present invention includes mirroring data from the mobile terminal to a first communication protocol, guide data according to incoming detection from the mobile terminal, and the first communication protocol from the mobile terminal. a receiver configured to receive first call application data about a caller according to a first communication protocol, and receive second call application data about the caller according to the activated second communication protocol; Activating the mobile terminal and a second communication protocol for a call service according to the reception of the guide data, and controlling so that the first call application data and the second call application data about the caller are respectively output after the activation, 2 a control unit for controlling to transmit third call application data regarding a called party received through an input means connected to the digital device according to a communication protocol to the mobile terminal; a screen for outputting the mirroring data, the guide data, and first call application data related to the caller; and a speaker for outputting second call application data about the caller.
본 발명에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical solutions obtainable in the present invention are not limited to the above-mentioned solutions, and other solutions that are not mentioned are clearly to those of ordinary skill in the art to which the present invention belongs from the description below. can be understood
본 발명의 효과는 다음과 같다.The effects of the present invention are as follows.
본 발명의 다양한 실시 예들 중 일 실시 예에 따르면, 디지털 디바이스에서 외부 디바이스(external device)의 애플리케이션(application)을 데이터 커뮤니케이션(data communication)을 통해 처리하고 출력할 수 있는 효과가 있다.According to one of the various embodiments of the present invention, there is an effect that a digital device can process and output an application of an external device through data communication.
본 발명의 다양한 실시 예들 중 다른 실시 예에 따르면, 디지털 디바이스에서 데이터 공유(data share) 방식 등을 통해 외부 디바이스의 컨텐트(content)를 이용하는 과정에서 통화 애플리케이션(calling application)이 실행된 경우에 그 처리 방법을 제공할 수 있는 효과가 있다.According to another embodiment of various embodiments of the present invention, when a calling application is executed in the process of using the content of an external device through a data share method in a digital device, the processing There is an effect that can provide a method.
본 발명의 다양한 실시 예들 중 또 다른 실시 예에 따르면, 디지털 디바이스에서 외부 디바이스의 통화 애플리케이션에 관한 가이드 데이터(guide data), 실행 데이터(execution data)를 제공하고, 외부 디바이스에서 통화하는 것과 같거나 유사한 퀄리티(quality)의 실행 데이터를 제공할 수 있는 효과가 있다.According to another embodiment of various embodiments of the present invention, the digital device provides guide data and execution data related to a call application of an external device, and is the same as or similar to a call in the external device. There is an effect that can provide execution data of quality.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtainable in the present invention are not limited to the above-mentioned effects, and other effects not mentioned may be clearly understood by those of ordinary skill in the art to which the present invention belongs from the following description. will be.
도 1은 본 발명의 일 실시 예에 따른 서비스 시스템을 개략적으로 도시한 도면;
도 2는 본 발명의 일 실시 예에 따른 디지털 디바이스를 도시한 블록도;
도 3은 상기 도 2의 다른 구성 또는 상세 구성에 관한 블록도;
도 4는 본 발명의 일 실시 예에 따른 외부 디바이스를 도시한 블록도;
도 5는 본 발명의 다른 실시 예에 따른 디지털 디바이스 또는 외부 디바이스를 도시한 블록도;
도 6은 본 발명의 일 실시 예에 따른 디지털 디바이스 제어를 위한 제어 수단을 도시한 도면;
도 7은 디지털 TV와 미라캐스트 방식에 따라 미러링 데이터를 상기 디지털 TV로 전송하는 이동 단말기를 도시한 도면;
도 8 내지 10은, 본 발명의 일 실시 예에 따라 디지털 TV에서 이동 단말기의 미러링 데이터 처리 중 상기 이동 단말기에 착신된 경우에 데이터 처리 과정에 관한 도면;
도 11은 본 발명의 일 실시 예에 따른 이동 단말기와 연결된 디지털 TV에서 통화 애플리케이션 데이터 처리 방식에 대한 도면;
도 12는 본 발명의 일 실시 예에 따른 미러링 데이터와 통화 애플리케이션 데이터 처리 방식을 설명하기 위한 도면;
도 13은 본 발명의 일 실시 예에 따른 디지털 TV와 리모컨을 이용하여 이동 단말기의 통화 애플리케이션 데이터를 처리하는 방법을 설명하기 위한 플로우 챠트;
도 14는 본 발명의 일 실시 예에 따라 디지털 TV를 통해 통화 애플리케이션 데이터 처리 과정에서 발생되는 립 싱크(lip sync) 문제 해소 방안을 설명하기 위해 도시한 도면;
도 15는 본 발명의 일 실시 예에 따른 디지털 TV에서 립 싱크 처리 방법에 대한 플로우 챠트;
도 16은 본 발명의 일 실시 예에 따라 디지털 TV를 통해 통화 서비스 제공 시에 통화 서비스 품질 제고를 위한 오디오 엔진(audio engine) 이용을 설명하기 위해 도시한 도면;
도 17은 본 발명에 따라 디지털 TV를 통해 통화 애플리케이션 데이터 처리 시에 노이즈 사운드 감경 방법에 대한 가이드 데이터의 일 실시 예를 도시한 도면; 및
도 18은 본 발명에 따라 착신자의 이미지/비디오 데이터 획득 과정을 설명하기 위해 도시한 도면이다.1 is a diagram schematically illustrating a service system according to an embodiment of the present invention;
2 is a block diagram illustrating a digital device according to an embodiment of the present invention;
3 is a block diagram of another configuration or detailed configuration of FIG. 2 ;
4 is a block diagram illustrating an external device according to an embodiment of the present invention;
5 is a block diagram illustrating a digital device or an external device according to another embodiment of the present invention;
6 is a diagram illustrating a control means for controlling a digital device according to an embodiment of the present invention;
7 is a diagram illustrating a digital TV and a mobile terminal transmitting mirroring data to the digital TV according to the Miracast method;
8 to 10 are diagrams illustrating a data processing process when an incoming call is received from the mobile terminal during mirroring data processing of the mobile terminal in the digital TV according to an embodiment of the present invention;
11 is a diagram for a method of processing call application data in a digital TV connected to a mobile terminal according to an embodiment of the present invention;
12 is a view for explaining a method of processing mirroring data and call application data according to an embodiment of the present invention;
13 is a flowchart for explaining a method of processing call application data of a mobile terminal using a digital TV and a remote control according to an embodiment of the present invention;
14 is a view for explaining a method of solving a lip sync problem occurring in a call application data processing process through a digital TV according to an embodiment of the present invention;
15 is a flowchart of a lip sync processing method in a digital TV according to an embodiment of the present invention;
16 is a view for explaining the use of an audio engine for improving call service quality when a call service is provided through a digital TV according to an embodiment of the present invention;
17 is a diagram illustrating an embodiment of guide data for a method for reducing noise when processing call application data through a digital TV according to the present invention; and
18 is a diagram illustrating a process of acquiring image/video data of a called party according to the present invention.
이하에서는 도면을 참조하여 본 발명에 따른 디지털 디바이스(digital device) 및 상기 디지털 디바이스에서 데이터 처리 방법의 다양한 실시 예(들)을 설명한다.Hereinafter, various embodiment(s) of a digital device and a data processing method in the digital device according to the present invention will be described with reference to the drawings.
본 명세서에서 사용되는 구성요소에 대한 접미사 "모듈", "부" 등은 단지 명세서 작성의 용이함을 고려하여 부여되는 것으로서, 필요에 따라 양자는 혼용될 수도 있다. 또한, "제1-", "제2-" 등과 같이 서수로 기술한 경우에도 그것이 순서를 의미하기보다는 해당 용어의 설명 편의를 위한 것일 뿐, 그러한 용어나 서수에 한정되는 것은 아니다. 또한, 본 명세서에서 사용되는 용어도, 본 발명의 기술 사상에 따른 기능을 고려하여 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 다만, 특정한 경우는 출원인이 임의로 선정한 용어도 있으나, 이에 대해서는 관련 설명 부분에서 그 의미를 기술할 것이다. 따라서, 해당 용어를 단지 그 명칭이 아니라 그가 가진 실질적인 의미와 본 명세서 전반에 걸쳐 기술된 내용을 토대로 해석되어야 함을 밝혀 둔다. 한편, 본 명세서 또는/및 도면에 기술된 내용은, 본 발명에 따른 바람직한 일 실시 예로서 그에 한정되지 않으며, 그 권리범위는 특허청구범위를 통해 결정되어야 한다.The suffixes "module", "part", etc. for the components used in this specification are given only in consideration of the ease of writing the specification, and both may be used interchangeably as necessary. In addition, even when described as an ordinal number such as "first-", "second-", etc., it is only for convenience of explanation of the term rather than an order, and is not limited to such terms or ordinal numbers. In addition, the terms used in this specification are also selected as a general term currently widely used as possible in consideration of the function according to the technical idea of the present invention, but according to the intention or custom of a person skilled in the art or the emergence of new technology, etc. may vary. However, in certain cases, there are terms arbitrarily selected by the applicant, but the meaning will be described in the related description. Therefore, it is clear that the term should be interpreted based on the actual meaning it has and the content described throughout this specification, not just the name. On the other hand, the content described in this specification and / and drawings, as a preferred embodiment according to the present invention is not limited thereto, and the scope of the rights should be determined through the claims.
본 명세서에서는, 본 발명에 따라, 디지털 디바이스에서 외부 디바이스(external device)의 애플리케이션(application)을 데이터 커뮤니케이션(data communication)을 통해 처리하고 출력하는 것에 관해 설명한다. 특히, 본 명세서에서는, 본 발명에 따라 상기 디지털 디바이스에서 데이터 공유(data share) 방식 등을 통해 외부 디바이스의 컨텐트(content)를 이용하는 과정에서 통화 애플리케이션(calling application)이 실행된 경우에 그 처리에 관해 더욱 상세하게 설명한다. 이때, 상기 통화 애플리케이션은 예를 들어, 음성 통화를 위한 애플리케이션뿐만 아니라 영상 통화를 위한 애플리케이션도 포함한다. 더불어, 본 명세서에서는, 본 발명에 따라 상기 디지털 디바이스에서 상기 외부 디바이스의 통화 애플리케이션에 관한 가이드 데이터(guide data), 실행 데이터(execution data)를 제공하고, 외부 디바이스에서 통화하는 것과 같거나 유사한 퀄리티(quality)의 실행 데이터를 제공하는 것에 관해서도 상세하게 설명한다.In this specification, according to the present invention, a description will be given of processing and outputting an application of an external device in a digital device through data communication. In particular, in the present specification, when a calling application is executed in the process of using the content of an external device through a data share method in the digital device, etc. according to the present invention, the processing is described. It will be described in more detail. In this case, the call application includes, for example, an application for a video call as well as an application for a voice call. In addition, in the present specification, according to the present invention, the digital device provides guide data and execution data related to the call application of the external device, and provides the same or similar quality ( The provision of performance data of quality) will also be described in detail.
본 명세서에서 기술되는 “디지털 디바이스”는 예를 들어, 외부 디바이스와 데이터(data)를 송/수신, 처리 및 출력 중 적어도 하나 이상을 수행하는 모든 디바이스를 포함한다. 여기서, 상기 데이터는 예컨대, 컨텐트, 서비스, 애플리케이션 등을 포함한다. 상기 디지털 디바이스는, 유/무선 네트워크(wire/wireless network)를 통하여 외부 디바이스(external device) 등과 연결되어 상기 데이터를 송/수신할 수 있다. 상기 데이터 송/수신 과정에서 필요한 경우에는, 상기 데이터에 대해 적절히 변환(converting) 작업을 할 수도 있다. 상기 디지털 디바이스로는, 네트워크 TV(Network TV), HBBTV(Hybrid Broadcast Broadband TV), 스마트 TV(Smart TV), IPTV(Internet Protocol TV), PC(Personal Computer) 등과 같은 고정형 디바이스(standing device)와, PDA(Personal Digital Assistant), 스마트 폰(Smart Phone), 태블릿 PC(Tablet PC), 노트북(Notebook), 디지털 방송용 단말기, PMP(Portable Multimedia Player), 네비게이션(navigation), 슬레이트 PC(Slate PC), 울트라북(Ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smart watch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등과 같은 모바일 디바이스(mobile device or handheld device)를 들 수 있다. 다만, 이하에서는 본 발명의 이해를 돕고 설명의 편의를 위하여 디지털 디바이스는 도 2 내지 3과 같은 디지털 TV(Digital TV)를 예로 하여 설명한다. 한편, 상기 디지털 디바이스는 예를 들어, 도 5와 같은 웨어러블 디바이스(ex., 스마트 워치)일 수도 있다. 한편, 디지털 디바이스는, 디스플레이 패널(display panel)만을 구비한 사이니지(Signage) 형태일 수도 있고, 셋톱박스(Set-Top Box, STB)를 포함한 세트(SET) 형태로 구현될 수도 있다.The “digital device” described in this specification includes, for example, any device that transmits/receives data to/from an external device, and performs at least one of processing and outputting. Here, the data includes, for example, content, service, application, and the like. The digital device may be connected to an external device or the like through a wire/wireless network to transmit/receive the data. If necessary in the data transmission/reception process, an appropriate conversion operation may be performed on the data. The digital device includes a network TV (Network TV), a Hybrid Broadcast Broadband TV (HBBTV), a smart TV (Smart TV), an Internet Protocol TV (IPTV), a standing device such as a Personal Computer (PC), and the like; PDA (Personal Digital Assistant), Smart Phone, Tablet PC, Notebook, Digital Broadcasting Terminal, PMP (Portable Multimedia Player), Navigation, Slate PC, Ultra A mobile device or handheld device such as a book (Ultrabook), a wearable device (e.g., a watch-type terminal (smart watch), a glass-type terminal (smart glass), a head mounted display (HMD)), etc. can be heard However, in the following, a digital TV as shown in FIGS. 2 to 3 will be exemplified as a digital device for better understanding of the present invention and for convenience of description. Meanwhile, the digital device may be, for example, a wearable device (eg, a smart watch) as shown in FIG. 5 . Meanwhile, the digital device may be in the form of a signage having only a display panel, or may be implemented in the form of a set including a set-top box (STB).
본 명세서에서 기술되는 “외부 디바이스”는, 전술한 모바일 디바이스 중 어느 하나일 수 있다. 다만, 이하에서는 본 발명의 이해를 돕고 설명의 편의를 위하여, 상기 외부 디바이스는 모바일 디바이스 중 도 4와 같은 스마트 폰을 예로 하여 설명하되, 이를 이동 단말기(mobile terminal)로 명명하여 설명한다. 한편, 도 5의 웨어러블 디바이스(ex, 스마트 워치)도 상기 스마트 폰을 대신하여 외부 디바이스의 기능 내지 역할을 수행하는 이동 단말기일 수 있다.The “external device” described herein may be any one of the aforementioned mobile devices. However, in the following, for the purpose of helping the understanding of the present invention and for convenience of description, the external device will be described using a smart phone as shown in FIG. 4 among mobile devices as an example, and will be described as a mobile terminal. Meanwhile, the wearable device (eg, smart watch) of FIG. 5 may also be a mobile terminal that performs a function or role of an external device instead of the smart phone.
한편, 본 명세서에서 기술되는 유/무선 네트워크는, 서버(server)와 클라이언트(client) 간 즉, 디지털 디바이스와 외부 디바이스 사이의 연결, 데이터 커뮤니케이션 등을 위한 모든 통신 네트워크를 포함하며, 표준(Standard)에 의해 현재 지원되거나 향후 지원될 통신 네트워크까지 모두 포함하는 개념으로 이용되며, 그를 위한 하나 또는 그 이상의 통신 프로토콜들을 모두 지원할 수 있다. 이러한 유/무선 네트워크는 예컨대, USB(Universal Serial Bus), CVBS(Composite Video Banking Sync), 컴포넌트(Component), S-비디오(아날로그), DVI(Digital Visual Interface), HDMI(High Definition Multimedia Interface), RGB, D-SUB와 같은 유선 연결(wire connection)을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜과, 블루투스(Bluetooth), WLAN(Wireless LAN)(Wi-Fi), Wi-Fi 다이렉트(direct), RFID(Radio Frequency Identification), 적외선 통신(IrDA: infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), LTE/LTE-A(Long Term Evolution/LTE-Advanced) 등과 같은 무선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜에 의하여 형성될 수 있다. On the other hand, the wired/wireless network described in this specification includes all communication networks for connection between a server and a client, that is, between a digital device and an external device, data communication, etc. It is used as a concept including all communication networks currently supported by or to be supported in the future, and one or more communication protocols for it can all be supported. Such wired/wireless networks include, for example, Universal Serial Bus (USB), Composite Video Banking Sync (CVBS), Component, S-Video (analog), Digital Visual Interface (DVI), High Definition Multimedia Interface (HDMI), A network for wire connection such as RGB, D-SUB, and a communication standard or protocol for the same, Bluetooth, WLAN (Wireless LAN) (Wi-Fi), Wi-Fi direct, RFID (Radio Frequency Identification), Infrared Data Association (IrDA), UWB (Ultra Wideband), ZigBee (ZigBee), DLNA (Digital Living Network Alliance), Wibro (Wireless broadband), Wimax (World Interoperability for Microwave Access), It may be formed by a network for wireless connection, such as High Speed Downlink Packet Access (HSDPA), Long Term Evolution/LTE-Advanced (LTE/LTE-A), and the like, and a communication standard or protocol therefor.
한편, 디지털 디바이스는, 방송 수신 기능, 컴퓨터 기능 내지 지원, 적어도 하나의 외부 입력 등을 지원하는 지능형 디바이스로서, 상술한 유/무선 네트워크를 통해 이메일(e-mail), 웹 브라우징(web browsing), 뱅킹(banking), 게임(game), 애플리케이션(application) 등을 지원할 수 있다. 더불어, 상기 디지털 디바이스는, 수기 방식의 입력 디바이스, 터치-스크린(touch-screen), 공간 리모콘, 모바일 디바이스 등 적어도 하나의 입력 또는 제어 수단(이하 ‘제어 수단’)을 지원하기 위한 인터페이스(interface)를 구비할 수 있다. On the other hand, the digital device is an intelligent device that supports a broadcast reception function, a computer function or support, and at least one external input, etc., through the above-described wired/wireless network, e-mail, web browsing, It may support banking, a game, an application, and the like. In addition, the digital device includes an interface for supporting at least one input or control means (hereinafter, 'control means'), such as a handwritten input device, a touch-screen, a spatial remote control, and a mobile device. can be provided.
그 밖에, 디지털 디바이스는, 표준화된 범용 OS(Operating System)나 웹OS(Web OS)를 이용할 수 있으며, 범용의 OS 커널(OS kernel) 또는 리눅스 커널(Linux kernel) 상에 다양한 서비스나 애플리케이션을 추가(adding), 삭제(deleting), 수정(amending), 업데이트(updating) 등을 처리가 가능하며, 그를 통해 더욱 사용자 친화적인(user-friendly) 환경을 제공할 수 있다.In addition, the digital device can use a standardized general-purpose OS (Operating System) or Web OS (Web OS), and various services or applications are added to the general-purpose OS kernel or Linux kernel. It is possible to process adding, deleting, amending, updating, and the like, thereby providing a more user-friendly environment.
또한, 본 명세서에서 데이터 공유라 함은, 복수의 디바이스들 사이 예를 들어, 디지털 디바이스와 외부 디바이스 사이에 화면 내지 데이터 공유와 관련된 모든 기술을 포함하는 의미로 사용한다. 상기 데이터 공유 기술로, 미라캐스트(Miracast), 미러링(Mirroring), DLNA(), 스크린 쉐어(Screen share) 등을 포함할 수 있다. 다만, 이하에서는 본 발명의 이해를 돕고 설명의 편의를 위하여, 상기 데이터 공유 기술 중 미라캐스트를 일 예로 하여 설명한다. 여기에서, 상기 미라캐스트라 함은, 와이-파이 얼라이언스(Wi-Fi Alliance)에서 표준화한 무선 영상 전송 규격으로 '와이-파이 다이렉트(Wi-Fi Direct)'를 기반으로 디바이스들 간에 직접 연결하여 화면을 공유하는 미러링(Mirroring) 기술을 말한다.Also, in this specification, data sharing is used to include all technologies related to screen or data sharing between a plurality of devices, for example, between a digital device and an external device. The data sharing technology may include Miracast, mirroring, DLNA( ), screen share, and the like. However, hereinafter, Miracast among the data sharing technologies will be described as an example for better understanding of the present invention and for convenience of explanation. Here, the Miracast is a wireless image transmission standard standardized by the Wi-Fi Alliance, which connects directly between devices based on 'Wi-Fi Direct' to provide a screen It refers to a mirroring technology that shares
또한, 본 명세서에서 편의상 애플리케이션으로 기술한 경우에도 그 문맥 등에 기초하여 그 의미는 방송 프로그램과 같은 컨텐트, 서비스 등을 포함하는 의미일 수 있다. 한편, 애플리케이션은 웹OS 플랫폼에 따른 웹 애플리케이션(web application)도 포함한다.In addition, even when described as an application for convenience in this specification, the meaning may include content such as a broadcast program, a service, etc. based on the context. On the other hand, the application also includes a web application (web application) according to the webOS platform.
도 1은 본 발명의 일 실시 예에 따른 서비스 시스템을 개략적으로 도시한 도면이다.1 is a diagram schematically illustrating a service system according to an embodiment of the present invention.
도 1을 참조하면, 서비스 시스템은, 기본적으로 디지털 TV(110)와 이동 단말기(120)를 포함하여 구현될 수 있다. 상기에서, 디지털 TV(110) 또는 이동 단말기(120)는, 도시된 스마트 워치(130)로 대체될 수도 있다. 또한, 복수의 디바이스들 사이에 데이터 커뮤니케이션을 위하여 상기 서비스 시스템은, 서버(105)를 더 포함할 수도 있다. 그리고 디지털 TV(110)는, 전용 리모컨(115)과 같은 제어 수단에 의해 그 동작이 제어될 수 있다.Referring to FIG. 1 , a service system may be basically implemented including a
간략하게, 이동 단말기(120)는 데이터 공유 기술 즉, 미라캐스트 방식을 통해 이동 단말기(120)상에서 출력 중인 화면(데이터)을 전송하고, 디지털 TV(110)는 이를 수신하여 스크린(screen)상에 상기 이동 단말기(120)의 화면과 동일한 화면을 제공할 수 있다.Briefly, the
본 발명의 일 실시 예에 따른 이동 단말기의 데이터를 수신하여 처리하는 디지털 디바이스는, 상기 이동 단말기로부터 제1 통신 프로토콜로 미러링 데이터, 상기 이동 단말기로부터 착신 감지에 따른 가이드 데이터, 상기 이동 단말기로부터 상기 제1 통신 프로토콜에 따라 발신자에 관한 제1 통화 애플리케이션 데이터를 수신하고, 상기 활성화된 제2 통신 프로토콜에 따라 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 수신하는 수신부, 상기 가이드 데이터 수신에 따라 통화 서비스를 위한 상기 이동 단말기와 제2 통신 프로토콜을 활성화하고, 상기 활성화 이후에 상기 발신자에 관한 제1 통화 애플리케이션 데이터와 제2 통화 애플리케이션 데이터가 각각 출력되도록 제어하고, 상기 제2 통신 프로토콜에 따라 상기 디지털 디바이스와 연결된 입력 수단을 통해 수신되는 착신자에 관한 제3 통화 애플리케이션 데이터를 상기 이동 단말기로 전송하도록 제어하는 제어부, 상기 미러링 데이터, 상기 가이드 데이터, 상기 발신자에 관한 제1 통화 애플리케이션 데이터를 출력하는 스크린 및 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 출력하는 스피커를 포함한다.A digital device for receiving and processing data of a mobile terminal according to an embodiment of the present invention includes mirroring data from the mobile terminal to a first communication protocol, guide data according to incoming detection from the mobile terminal, and the first communication protocol from the mobile terminal. 1 Receiver for receiving the first call application data about the caller according to the communication protocol, and receiving the second call application data about the caller according to the activated second communication protocol, for a call service according to the reception of the guide data Activating a second communication protocol with the mobile terminal, controlling to output first call application data and second call application data related to the caller after the activation, respectively, connected to the digital device according to the second communication protocol A control unit that controls to transmit the third call application data about the called party received through the input means to the mobile terminal, the mirroring data, the guide data, a screen for outputting the first call application data about the caller, and the caller and a speaker for outputting second call application data related to it.
도 2는 본 발명의 일 실시 예에 따른 디지털 디바이스를 도시한 블록도이다. 도 2의 디지털 디바이스는 전술한 도 1의 클라이언트(100)에 해당한다.2 is a block diagram illustrating a digital device according to an embodiment of the present invention. The digital device of FIG. 2 corresponds to the client 100 of FIG. 1 described above.
디지털 디바이스(200)는, 네트워크 인터페이스부(network interface)(201), TCP/IP 매니저(TCP/IP manager)(202), 서비스 전달 매니저(service delivery manager)(203), SI 디코더(204), 역다중화부(demux or demultiplexer)(205), 오디오 디코더(audio decoder)(206), 비디오 디코더(video decoder)(207), 디스플레이부(display A/V and OSD module)(208), 서비스 제어 매니저(service control manager)(209), 서비스 디스커버리 매니저(service discovery manager)(210), SI&메타데이터 데이터베이스(SI&metadata DB)(211), 메타데이터 매니저(metadata manager)(212), 서비스 매니저(213), UI 매니저(214) 등을 포함하여 구성될 수도 있다.The
네트워크 인터페이스부(201)는, 액세스하는 네트워크 망을 통하여 IP 패킷(들)(Internet Protocol(IP) packet(s)) 또는 IP 데이터그램(들)(IP datagram(s))(이하 IP 패킷(들)이라 한다)을 송/수신한다. 일 예로, 네트워크 인터페이스부(201)는 네트워크 망을 통해 도 1의 서비스 프로바이더(20)로부터 서비스, 애플리케이션, 컨텐트 등을 수신할 수 있다.The
TCP/IP 매니저(202)는, 디지털 디바이스(200)로 수신되는 IP 패킷들과 디지털 디바이스(200)가 전송하는 IP 패킷들에 대하여 즉, 소스(source)와 목적지(destination) 사이의 패킷 전달(packet delivery)에 관여한다. 상기 TCP/IP 매니저(202)는 수신된 패킷(들)을 적절한 프로토콜에 대응하도록 분류하고, 서비스 전달 매니저(205), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등으로 상기 분류된 패킷(들)을 출력한다.The TCP/
서비스 전달 매니저(203)는, 수신되는 서비스 데이터의 제어를 담당한다. 예를 들어, 서비스 전달 매니저(203)는 실시간 스트리밍(real-time streaming) 데이터를 제어하는 경우에는 RTP/RTCP를 사용할 수 있다. 상기 실시간 스트리밍 데이터를 RTP를 사용하여 전송하는 경우, 서비스 전달 매니저(203)는 상기 수신된 데이터 패킷을 RTP에 따라 파싱(parsing)하여 역다중화부(205)로 전송하거나 서비스 매니저(213)의 제어에 따라 SI&메타데이터 데이터베이스(211)에 저장한다. 그리고 서비스 전달 매니저(203)는 RTCP를 이용하여 상기 네트워크 수신 정보를 서비스를 제공하는 서버 측에 피드백(feedback)한다.The
역다중화부(205)는, 수신된 패킷을 오디오, 비디오, SI(System Information) 데이터 등으로 역다중화하여 각각 오디오/비디오 디코더(206/207), SI 디코더(204)에 전송한다.The
SI 디코더(204)는, 역다중화된 SI 데이터 즉, PSI(Program Specific Information), PSIP(Program and System Information Protocol), DVB-SI(Digital Video Broadcasting-Service Information), DTMB/CMMB(Digital Television Terrestrial Multimedia Broadcasting/Coding Mobile Multimedia Broadcasting) 등의 서비스 정보를 디코딩한다. 또한, SI 디코더(204)는, 디코딩된 서비스 정보들을 SI&메타데이터 데이터베이스(211)에 저장할 수 있다. 저장된 서비스 정보는 예를 들어, 사용자의 요청 등에 의해 해당 구성에 의해 독출되어 이용될 수 있다. The
오디오/비디오 디코더(206/207)는, 역다중화된 각 오디오 데이터와 비디오 데이터를 디코딩한다. 이렇게 디코딩된 오디오 데이터 및 비디오 데이터는 디스플레이부(208)를 통하여 사용자에게 제공된다.The audio/
애플리케이션 매니저는 예를 들어, UI 매니저(214)와 서비스 매니저(213)를 포함하며 디지털 디바이스(200)의 제어부 기능을 수행할 수 있다. 다시 말해, 애플리케이션 매니저는, 디지털 디바이스(200)의 전반적인 상태를 관리하고 사용자 인터페이스(UI: User Interface)를 제공하며, 다른 매니저를 관리할 수 있다.The application manager includes, for example, a
UI 매니저(214)는, 사용자를 위한 GUI(Graphic User Interface)/UI를 OSD(On Screen Display) 등을 이용하여 제공하며, 사용자로부터 키 입력을 받아 상기 입력에 따른 디바이스 동작을 수행한다. 예를 들어, UI 매니저(214)는 사용자로부터 채널 선택에 관한 키 입력을 받으면 상기 키 입력 신호를 서비스 매니저(213)에 전송한다.The
서비스 매니저(213)는, 서비스 전달 매니저(203), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등 서비스와 연관된 매니저를 제어한다.The
또한, 서비스 매니저(213)는, 채널 맵(channel map)을 생성하고 UI 매니저(214)로부터 수신한 키 입력에 따라 상기 생성된 채널 맵을 이용하여 채널을 선택 등을 제어한다. 상기 서비스 매니저(213)는 SI 디코더(204)로부터 서비스 정보를 전송받아 선택된 채널의 오디오/비디오 PID(Packet Identifier)를 역다중화부(205)에 설정한다. 이렇게 설정되는 PID는 상술한 역다중화 과정에 이용될 수 있다. 따라서, 역다중화부(205)는 상기 PID를 이용하여 오디오 데이터, 비디오 데이터 및 SI 데이터를 필터링(PID or section filtering) 한다.In addition, the
서비스 디스커버리 매니저(210)는, 서비스를 제공하는 서비스 프로바이더를 선택하는데 필요한 정보를 제공한다. 상기 서비스 매니저(213)로부터 채널 선택에 관한 신호를 수신하면, 서비스 디스커버리 매니저(210)는 상기 정보를 이용하여 서비스를 찾는다.The
서비스 제어 매니저(209)는, 서비스의 선택과 제어를 담당한다. 예를 들어, 서비스 제어 매니저(209)는 사용자가 기존의 방송 방식과 같은 생방송(live broadcasting) 서비스를 선택하는 경우 IGMP 또는 RTSP 등을 사용하고, VOD(Video on Demand)와 같은 서비스를 선택하는 경우에는 RTSP를 사용하여 서비스의 선택, 제어를 수행한다. 상기 RTSP 프로토콜은 실시간 스트리밍에 대해 트릭 모드(trick mode)를 제공할 수 있다. 또한, 서비스 제어 매니저(209)는 IMS(IP Multimedia Subsystem), SIP(Session Initiation Protocol)를 이용하여 IMS 게이트웨이(250)를 통하는 세션을 초기화하고 관리할 수 있다. 상기 프로토콜들은 일 실시 예이며, 구현 예에 따라 다른 프로토콜을 사용할 수도 있다.The
메타데이터 매니저(212)는, 서비스와 연관된 메타데이터를 관리하고 상기 메타데이터를 SI&메타데이터 데이터베이스(211)에 저장한다.The
SI&메타데이터 데이터베이스(211)는, SI 디코더(204)가 디코딩한 서비스 정보, 메타데이터 매니저(212)가 관리하는 메타데이터 및 서비스 디스커버리 매니저(210)가 제공하는 서비스 프로바이더를 선택하는데 필요한 정보를 저장한다. 또한, SI&메타데이터 데이터베이스(211)는 시스템에 대한 세트-업 데이터 등을 저장할 수 있다.The
SI&메타데이터 데이터베이스(211)는, 비휘발성 메모리(Non-Volatile RAM: NVRAM) 또는 플래시 메모리(flash memory) 등을 사용하여 구현될 수도 있다.The
한편, IMS 게이트웨이(250)는, IMS 기반의 IPTV 서비스에 접근하기 위해 필요한 기능들을 모아 놓은 게이트웨이이다.Meanwhile, the
도 3은 상기 도 2의 다른 구성 또는 상세 구성에 관한 블록도이다. FIG. 3 is a block diagram of another configuration or detailed configuration of FIG. 2 .
도 3a를 참조하면, 디지털 디바이스는, 방송 수신부(305), 외부 디바이스 인터페이스부(316), 저장부(318), 사용자입력 인터페이스부(320), 제어부(325), 디스플레이부(330), 오디오 출력부(335), 전원 공급부(340) 및 촬영부(미도시)를 포함할 수 있다. 여기서, 상기 방송 수신부(305)는, 적어도 하나의 튜너(310), 복조부(312) 및 네트워크 인터페이스부(314)를 포함할 수 있다. 다만, 경우에 따라, 상기 방송 수신부(305)는 튜너(310)와 복조부(312)는 구비하나 네트워크 인터페이스부(314)는 포함하지 않을 수 있으며 그 반대의 경우일 수도 있다. 또한, 상기 방송 수신부(305)는 도시되진 않았으나, 다중화부(multiplexer)를 구비하여 상기 튜너(310)를 거쳐 복조부(312)에서 복조된 신호와 상기 네트워크 인터페이스부(314)를 거쳐 수신된 신호를 다중화할 수도 있다. 그 밖에 상기 방송 수신부(305)는 역시 도시되진 않았으나, 역다중화부(demultiplexer)를 구비하여 상기 다중화된 신호를 역다중화하거나 상기 복조된 신호 또는 상기 네트워크 인터페이스부(314)를 거친 신호를 역다중화할 수 있다.Referring to FIG. 3A , the digital device includes a
튜너(310)는, 안테나를 통해 수신되는 RF(Radio Frequency) 방송 신호 중 사용자에 의해 선택된 채널 또는 기 저장된 모든 채널을 튜닝하여 RF 방송 신호를 수신한다. 또한, 튜너(310)는, 수신된 RF 방송 신호를 중간 주파수(Intermediate Frequency; IF) 신호 혹은 베이스밴드(baseband) 신호로 변환한다. 예를 들어, 수신된 RF 방송 신호가 디지털 방송 신호이면 디지털 IF 신호(DIF)로 변환하고, 아날로그 방송 신호이면 아날로그 베이스밴드 영상 또는 음성 신호(CVBS/SIF)로 변환한다. 즉, 튜너(310)는 디지털 방송 신호 또는 아날로그 방송 신호를 모두 처리할 수 있다. 튜너(310)에서 출력되는 아날로그 베이스 밴드 영상 또는 음성 신호(CVBS/SIF)는 제어부(325)로 직접 입력될 수 있다. 또한, 튜너(310)는, 싱글 캐리어(single carrier) 또는 멀티플 캐리어(multiple carrier)의 RF 방송 신호를 수신할 수 있다. 한편, 튜너(310)는, 안테나를 통해 수신되는 RF 방송 신호 중 채널 기억 기능을 통하여 저장된 모든 방송 채널의 RF 방송 신호를 순차로 튜닝 및 수신하여 이를 중간 주파수 신호 혹은 베이스 밴드 신호(DIF: Digital Intermediate Frequency or baseband signal)로 변환할 수 있다.The
복조부(312)는, 튜너(310)에서 변환된 디지털 IF 신호(DIF)를 수신하여 복조하고, 채널 복호화 등을 수행할 수도 있다. 이를 위해 복조부(312)는 트렐리스 디코더(Trellis Decoder), 디인터리버(De-interleaver), 리드 솔로먼 디코더(Reed-Solomon Decoder) 등을 구비하거나 컨벌루션 디코더(convolution decoder), 디인터리버 및 리드-솔로먼 디코더 등을 구비할 수 있다. 복조부(312)는, 복조 및 채널 복호화를 수행한 후 스트림 신호(TS)를 출력할 수 있다. 이때, 스트림 신호는 영상 신호, 음성 신호 또는 데이터 신호가 다중화된 신호일 수 있다. 일 예로, 스트림 신호는 MPEG-2 규격의 영상 신호, 돌비(Dolby) AC-3 규격의 음성 신호 등이 다중화된 MPEG-2 TS(Transport Stream)일 수 있다. 복조부(312)에서 출력한 스트림 신호는 제어부(325)로 입력될 수 있다. 제어부(325)는 역다중화, 영상/음성 신호 처리 등을 제어하고, 디스플레이부(330)를 통해 영상을, 오디오 출력부(335)를 통해 음성의 출력을 제어할 수 있다.The
외부 디바이스 인터페이스부(316)는 디지털 디바이스와 다양한 외부 디바이스 사이의 인터페이싱 환경을 제공한다. 이를 위해, 외부 디바이스 인터페이스부(316)는, A/V 입/출력부(미도시) 또는 무선 통신부(미도시)를 포함할 수 있다. 외부 디바이스 인터페이스부(316)는, DVD(Digital Versatile Disk), 블루-레이(Blu-ray), 게임 디바이스, 카메라, 캠코더(Camcorder), 컴퓨터(노트북), 태블릿 PC, 스마트 폰, 블루투스 디바이스(Bluetooth device), 클라우드(Cloud) 등과 같은 외부 디바이스 등과 유/무선으로 접속될 수 있다. 외부 디바이스 인터페이스부(316)는 연결된 외부 디바이스를 통하여 입력되는 이미지, 영상, 음성 등 데이터를 포함한 신호를 디지털 디바이스의 제어부(325)로 전달한다. 제어부(325)는 처리된 이미지, 영상, 음성 등을 데이터 신호를 연결된 외부 디바이스로 출력되도록 제어할 수 있다. 이를 위해, 외부 디바이스 인터페이스부(316)는, A/V 입/출력부(미도시) 또는 무선 통신부(미도시)를 더 포함할 수 있다.The external
A/V 입/출력부는, 외부 디바이스의 영상 및 음성 신호를 디지털 디바이스로 입력할 수 있도록, USB 단자, CVBS(Composite Video Banking Sync) 단자, 컴포넌트 단자, S-비디오 단자(아날로그), DVI(Digital Visual Interface) 단자, HDMI(High Definition Multimedia Interface) 단자, RGB 단자, D-SUB 단자 등을 포함할 수 있다.The A/V input/output unit includes a USB terminal, a CVBS (Composite Video Banking Sync) terminal, a component terminal, an S-video terminal (analog), and a DVI (Digital A Visual Interface) terminal, a High Definition Multimedia Interface (HDMI) terminal, an RGB terminal, a D-SUB terminal, and the like may be included.
무선 통신부는, 다른 디지털 디바이스와 근거리 무선 통신을 수행할 수 있다. 디지털 디바이스는 예를 들어, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance) 등의 통신 프로토콜에 따라 다른 디지털 디바이스와 네트워크 연결될 수 있다.The wireless communication unit may perform short-range wireless communication with another digital device. The digital device includes, for example, communication such as Bluetooth, Radio Frequency Identification (RFID), infrared data association (IrDA), Ultra Wideband (UWB), ZigBee, and Digital Living Network Alliance (DLNA). It can be network-connected with other digital devices according to the protocol.
또한, 외부 디바이스 인터페이스부(316)는, 셋톱-박스(STB)와 상술한 각종 단자 중 적어도 하나를 통해 접속되어, 셋톱-박스(STB)와 입력/출력 동작을 수행할 수도 있다. 한편, 외부 디바이스 인터페이스부(316)는, 인접하는 외부 디바이스 내의 애플리케이션 또는 애플리케이션 목록(application list)을 수신하여, 제어부(325) 또는 저장부(318)로 전달할 수 있다.Also, the external
네트워크 인터페이스부(314)는, 디지털 디바이스를 인터넷 망을 포함하는 유/무선 네트워크와 연결하기 위한 인터페이스를 제공한다. 네트워크 인터페이스부(314)는, 유선 네트워크와의 접속을 위해 예를 들어, 이더넷(Ethernet) 단자 등을 구비할 수 있으며, 무선 네트워크와의 접속을 위해 예를 들어, WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 통신 규격 등을 이용할 수 있다. 네트워크 인터페이스부(314)는, 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 다른 사용자 또는 다른 디지털 디바이스와 데이터를 송신 또는 수신할 수 있다. 특히, 디지털 디바이스에 미리 등록된 다른 사용자 또는 다른 디지털 디바이스 중 선택된 사용자 또는 선택된 디지털 디바이스에, 상기 디지털 디바이스에 저장된 일부의 컨텐트 데이터를 송신할 수 있다. 한편, 네트워크 인터페이스부(314)는, 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 소정 웹 페이지에 접속할 수 있다. 즉, 네트워크를 통해 소정 웹 페이지에 접속하여, 해당 서버와 데이터를 송신 또는 수신할 수 있다. 그 외, 컨텐트 프로바이더 또는 네트워크 운영자가 제공하는 컨텐트 또는 데이터들을 수신할 수 있다. 즉, 네트워크를 통하여 컨텐트 프로바이더 또는 네트워크 프로바이더로부터 제공되는 영화, 광고, 게임, VOD, 방송 신호 등의 컨텐트 및 그와 관련된 정보를 수신할 수 있다. 또한, 네트워크 운영자가 제공하는 펌웨어(firmware)의 업데이트 정보 및 업데이트 파일을 수신할 수 있다. 또한, 인터넷 또는 컨텐트 프로바이더 또는 네트워크 운영자에게 데이터들을 송신할 수 있다.The
또한, 네트워크 인터페이스부(314)는, 네트워크를 통해 공개(open)된 애플리케이션들 중 원하는 애플리케이션을 선택하여 수신할 수 있다.Also, the
저장부(318)는, 제어부(325) 내의 각 신호 처리 및 제어를 위한 프로그램을 저장할 수도 있고, 신호 처리된 영상, 음성 또는 데이터 신호를 저장할 수도 있다. 또한, 저장부(318)는 외부 디바이스 인터페이스부(316) 또는 네트워크 인터페이스부(314)로부터 입력되는 영상, 음성, 또는 데이터 신호의 임시 저장을 위한 기능을 수행할 수도 있다. 저장부(318)는, 채널 기억 기능을 통하여 소정 방송 채널에 관한 정보를 저장할 수 있다. 저장부(318)는, 외부 디바이스 인터페이스부(316) 또는 네트워크 인터페이스부(314)로부터 입력되는 애플리케이션 또는 애플리케이션 목록을 저장할 수 있다. 또한, 저장부(318)는, 후술하여 설명하는 다양한 플랫폼(platform)을 저장할 수도 있다. 저장부(318)는, 예를 들어 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM), 롬(EEPROM 등) 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 디지털 디바이스는, 저장부(318) 내에 저장되어 있는 컨텐트 파일(동영상 파일, 정지영상 파일, 음악 파일, 문서 파일, 애플리케이션 파일 등)을 재생하여 사용자에게 제공할 수 있다. 도 3a는 저장부(318)가 제어부(325)와 별도로 구비된 실시 예를 도시하고 있으나, 본 발명은 이에 한정되지 않는다. 다시 말해, 저장부(318)는 제어부(325) 내에 포함될 수도 있다.The
사용자 입력 인터페이스부(320)는, 사용자가 입력한 신호를 제어부(325)로 전달하거나 제어부(325)의 신호를 사용자에게 전달한다. 예를 들어, 사용자 입력 인터페이스부(320)는, RF 통신 방식, 적외선(IR) 통신 방식 등 다양한 통신 방식에 따라, 원격제어 디바이스(345)로부터 전원 온/오프, 채널 선택, 화면 설정 등의 제어 신호를 수신하여 처리하거나, 제어부(325)의 제어 신호를 원격제어 디바이스(345)로 송신하도록 처리할 수 있다. 또한, 사용자 입력 인터페이스부(320)는, 전원 키, 채널 키, 볼륨 키, 설정치 등의 로컬 키(미도시)에서 입력되는 제어 신호를 제어부(325)에 전달할 수 있다. 사용자 입력 인터페이스부(320)는, 사용자의 제스처(gesture)를 센싱(sensing)하는 센싱부(미도시)로부터 입력되는 제어 신호를 제어부(325)에 전달하거나, 제어부(325)의 신호를 센싱부(미도시)로 송신할 수 있다. 여기서, 센싱부(미도시)는, 터치 센서, 음성 센서, 위치 센서, 동작 센서 등을 포함할 수 있다.The user
제어부(325)는, 튜너(310), 복조부(312) 또는 외부 디바이스 인터페이스부(316)를 통하여 입력되는 스트림을 역다중화하거나 역다중화된 신호들을 처리하여, 영상 또는 음성 출력을 위한 신호를 생성 및 출력할 수 있다. 제어부(325)에서 처리된 영상 신호는, 디스플레이부(330)로 입력되어 해당 영상 신호에 대응하는 영상으로 표시될 수 있다. 또한, 제어부(325)에서 영상 처리된 영상 신호는 외부 디바이스 인터페이스부(316)를 통하여 외부 출력 디바이스로 입력될 수 있다. 제어부(325)에서 처리된 음성 신호는 오디오 출력부(335)로 오디오 출력될 수 있다. 또한, 제어부(325)에서 처리된 음성 신호는 외부 디바이스 인터페이스부(316)를 통하여 외부 출력 디바이스로 입력될 수 있다. 도 3a에서는 도시되진 않았으나, 제어부(325)는 역다중화부, 영상 처리부 등을 포함할 수 있다. 제어부(325)는, 디지털 디바이스의 전반적인 동작을 제어할 수 있다. 예를 들어, 제어부(325)는, 튜너(310)를 제어하여, 사용자가 선택한 채널 또는 기 저장된 채널에 해당하는 RF 방송을 튜닝(tuning)하도록 제어할 수 있다. 제어부(325)는, 사용자 입력 인터페이스부(320)를 통하여 입력된 사용자 명령 또는 내부 프로그램에 의하여 디지털 디바이스를 제어할 수 있다. 특히, 네트워크에 접속하여 사용자가 원하는 애플리케이션 또는 애플리케이션 목록을 디지털 디바이스 내로 다운로드 받을 수 있도록 할 수 있다. 예를 들어, 제어부(325)는, 사용자 입력 인터페이스부(320)를 통하여 수신한 소정 채널 선택 명령에 따라 선택한 채널의 신호가 입력되도록 튜너(310)를 제어한다. 그리고 선택한 채널의 영상, 음성 또는 데이터 신호를 처리한다. 제어부(325)는, 사용자가 선택한 채널 정보 등이 처리한 영상 또는 음성신호와 함께 디스플레이부(330) 또는 오디오 출력부(335)를 통하여 출력될 수 있도록 한다. 다른 예로, 제어부(325)는, 사용자 입력 인터페이스부(320)를 통하여 수신한 외부 디바이스 영상 재생 명령에 따라, 외부 디바이스 인터페이스부(316)를 통하여 입력되는 외부 디바이스, 예를 들어, 카메라 또는 캠코더로부터의, 영상 신호 또는 음성 신호가 디스플레이부(330) 또는 오디오 출력부(335)를 통해 출력될 수 있도록 한다. 한편, 제어부(325)는, 영상을 표시하도록 디스플레이부(330)를 제어할 수 있다. 예를 들어, 튜너(310)를 통해 입력되는 방송 영상, 또는 외부 디바이스 인터페이스부(316)를 통해 입력되는 외부 입력 영상, 또는 네트워크 인터페이스부(314)를 통해 입력되는 영상, 또는 저장부(318)에 저장된 영상을, 디스플레이부(330)에 표시하도록 제어할 수 있다. 이때, 디스플레이부(330)에 표시되는 영상은, 정지영상 또는 동영상일 수 있으며, 2D 영상 또는 3D 영상일 수 있다. 또한, 제어부(325)는, 컨텐트를 재생하도록 제어할 수 있다. 이때의 컨텐트는, 디지털 디바이스 내에 저장된 컨텐트, 또는 수신된 방송 컨텐트, 외부로부터 입력되는 외부 입력 컨텐트일 수 있다. 컨텐트는, 방송 영상, 외부 입력 영상, 오디오 파일, 정지 영상, 접속된 웹 화면, 및 문서 파일 중 적어도 하나일 수 있다. 한편, 제어부(325)는, 애플리케이션 보기 항목에 진입하는 경우, 디지털 디바이스 내 또는 외부 네트워크로부터 다운로드 가능한 애플리케이션 또는 애플리케이션 목록을 표시하도록 제어할 수 있다. 제어부(325)는, 다양한 사용자 인터페이스와 더불어, 외부 네트워크로부터 다운로드 되는 애플리케이션을 설치 및 구동하도록 제어할 수 있다. 또한, 사용자의 선택에 의해, 실행되는 애플리케이션에 관련된 영상이 디스플레이부(330)에 표시되도록 제어할 수 있다.The
한편, 도면에 도시하지 않았지만, 디지털 디바이스는, 채널 신호 또는 외부 입력 신호에 대응하는 썸네일 이미지를 생성하는 채널 브라우징 처리부가 더 구비되는 것도 가능하다. 채널 브라우징 처리부는, 복조부(312)에서 출력한 스트림 신호(TS) 또는 외부 디바이스 인터페이스부(316)에서 출력한 스트림 신호 등을 입력받아, 입력되는 스트림 신호로부터 영상을 추출하여 썸네일 영상을 생성할 수 있다. 생성된 썸네일 영상은 그대로 또는 부호화되어 제어부(325)로 입력될 수 있다. 또한, 생성된 썸네일 영상은 스트림 형태로 부호화되어 제어부(325)로 입력되는 것도 가능하다. 제어부(325)는 입력된 썸네일 영상을 이용하여 복수의 썸네일 영상을 구비하는 썸네일 리스트를 디스플레이부(330)에 표시할 수 있다. 한편, 이러한 썸네일 리스트 내의 썸네일 영상들은 차례로 또는 동시에 업데이트 될 수 있다. 이에 따라 사용자는 복수의 방송 채널의 내용을 간편하게 파악할 수 있게 된다. Meanwhile, although not shown in the drawings, the digital device may further include a channel browsing processing unit that generates a thumbnail image corresponding to a channel signal or an external input signal. The channel browsing processing unit receives the stream signal TS output from the
디스플레이부(330)는, 제어부(325)에서 처리된 영상 신호, 데이터 신호, OSD 신호 또는 외부 디바이스 인터페이스부(316)에서 수신되는 영상 신호, 데이터 신호 등을 각각 R, G, B 신호로 변환하여 구동 신호를 생성한다. 디스플레이부(330)는 PDP, LCD, OLED, 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등이 가능할 수 있다. 한편, 디스플레이부(330)는, 터치 스크린으로 구성되어 출력 디바이스 이외에 입력 디바이스로 사용되는 것도 가능하다. 오디오 출력부(335)는, 제어부(325)에서 음성 처리된 신호, 예를 들어, 스테레오 신호, 3.1 채널 신호 또는 5.1 채널 신호를 입력받아 음성으로 출력한다. 음성 출력부(335)는 다양한 형태의 스피커로 구현될 수 있다.The
한편, 사용자의 제스처를 감지하기 위해, 상술한 바와 같이, 터치 센서, 음성 센서, 위치 센서, 동작 센서 중 적어도 하나를 구비하는 센싱부(미도시)가 디지털 디바이스에 더 구비될 수 있다. 센싱부(미도시)에서 감지된 신호는 사용자입력 인터페이스부(320)를 통해 제어부(325)로 전달될 수 있다. 한편, 사용자를 촬영하는 촬영부(미도시)가 더 구비될 수 있다. 촬영부(미도시)에서 촬영된 영상 정보는 제어부(325)에 입력될 수 있다. 제어부(325)는, 촬영부(미도시)로부터 촬영된 영상, 또는 센싱부(미도시)로부터의 감지된 신호를 각각 또는 조합하여 사용자의 제스처를 감지할 수도 있다. Meanwhile, in order to detect a user's gesture, as described above, a sensing unit (not shown) including at least one of a touch sensor, a voice sensor, a position sensor, and a motion sensor may be further provided in the digital device. The signal sensed by the sensing unit (not shown) may be transmitted to the
전원 공급부(340)는, 디지털 디바이스 전반에 걸쳐 해당 전원을 공급한다. 특히, 시스템 온 칩(System on Chip; SoC)의 형태로 구현될 수 있는 제어부(325)와, 영상 표시를 위한 디스플레이부(330), 및 오디오 출력을 위한 오디오 출력부(335)에 전원을 공급할 수 있다. 이를 위해, 전원 공급부(340)는, 교류 전원을 직류 전원으로 변환하는 컨버터(미도시)를 구비할 수 있다. 한편, 예를 들어, 디스플레이부(330)가 다수의 백라이트 램프(backlight lamp)를 구비하는 액정 패널로서 구현되는 경우, 휘도 가변 또는 디밍(dimming) 구동을 위해, PWM(Pulse Width Modulation) 동작 가능한 인버터(inverter)(미도시)를 더 구비할 수도 있다.The
원격제어 디바이스(345)는, 사용자 입력을 사용자입력 인터페이스부(320)로 송신한다. 이를 위해, 원격제어 디바이스(345)는, 블루투스(Bluetooth), RF(Radio Frequency) 통신, 적외선(IR) 통신, UWB(Ultra Wideband), 지그비(ZigBee) 방식 등을 사용할 수 있다. 또한, 원격제어 디바이스(345)는, 사용자입력 인터페이스부(320)에서 출력한 영상, 음성 또는 데이터 신호 등을 수신하여, 이를 원격제어 디바이스(345)에서 표시하거나 음성 또는 진동을 출력할 수 있다.The
상술한 디지털 디바이스는, 고정형 또는 이동형의 ATSC 방식 또는 DVB 방식의 디지털 방송 신호의 처리가 가능한 디지털 방송 수신기일 수 있다. 그 밖에 본 발명에 따른 디지털 디바이스는 도시된 구성 중 필요에 따라 일부 구성을 생략하거나 반대로 도시되진 않은 구성을 더 포함할 수도 있다. 한편, 디지털 디바이스는 상술한 바와 달리, 튜너와 복조부를 구비하지 않고, 네트워크 인터페이스부 또는 외부 디바이스 인터페이스부를 통해서 컨텐트를 수신하여 재생할 수도 있다.The above-mentioned digital device may be a digital broadcast receiver capable of processing a digital broadcast signal of a fixed or mobile ATSC method or a DVB method. In addition, the digital device according to the present invention may omit some of the illustrated components as needed, or may further include non-illustrated components. On the other hand, unlike the above, the digital device does not include a tuner and a demodulator, and may receive and reproduce content through a network interface unit or an external device interface unit.
도 3b를 참조하면, 제어부의 일 예는, 역다중화부(350), 영상 처리부, OSD 생성부(366), 믹서(mixer)(370), 프레임 레이트 변환부(FRC: Frame Rate Converter)(380), 및 포맷터(formatter)(390)를 포함할 수 있다. 그 외 상기 제어부는 도시되진 않았으나 음성 처리부와 데이터 처리부를 더 포함할 수 있다.Referring to FIG. 3B , an example of the controller includes a
역다중화부(350)는, 입력되는 스트림을 역다중화한다. 예를 들어, 역다중화부(350)는 입력되는 MPEG-2 TS 영상, 음성 및 데이터 신호로 역다중화할 수 있다. 여기서, 역다중화부(350)에 입력되는 스트림 신호는, 튜너 또는 복조부 또는 외부디바이스 인터페이스부에서 출력되는 스트림 신호일 수 있다.The
영상 처리부는, 역다중화된 영상 신호의 영상 처리를 수행한다. 이를 위해, 영상 처리부는, 영상 디코더(362) 및 스케일러(364)를 구비할 수 있다. 영상 디코더(362)는 역다중화된 영상 신호를 복호하며, 스케일러(364)는 복호된 영상 신호의 해상도를 디스플레이부에서 출력 가능하도록 스케일링(scaling)한다. 영상 디코더(362)는 다양한 규격을 지원할 수 있다. 예를 들어, 영상 디코더(362)는 영상 신호가 MPEG-2 규격으로 부호화된 경우에는 MPEG-2 디코더의 기능을 수행하고, 영상 신호가 DMB(Digital Multimedia Broadcasting) 방식 또는 H.264 규격으로 부호화된 경우에는 H.264 디코더의 기능을 수행할 수 있다. 한편, 영상 처리부에서 복호된 영상 신호는, 믹서(370)로 입력된다.The image processing unit performs image processing on the demultiplexed image signal. To this end, the image processing unit may include an
OSD 생성부(366)는, 사용자 입력에 따라 또는 자체적으로 OSD 데이터를 생성한다. 예를 들어, OSD 생성부(366)는 사용자입력 인터페이스부의 제어 신호에 기초하여 디스플레이부의 화면에 각종 데이터를 그래픽(Graphic)이나 텍스트(Text) 형태로 표시하기 위한 데이터를 생성한다. 생성되는 OSD 데이터는, 디지털 디바이스의 사용자 인터페이스 화면, 다양한 메뉴 화면, 위젯(widget), 아이콘(icon), 시청률 정보(viewing rate information) 등의 다양한 데이터를 포함한다. OSD 생성부(366)는, 방송 영상의 자막 또는 EPG에 기반한 방송 정보를 표시하기 위한 데이터를 생성할 수도 있다.The
믹서(370)는, OSD 생성부(366)에서 생성된 OSD 데이터와 영상 처리부에서 영상 처리된 영상 신호를 믹싱(mixing)하여 포맷터(390)로 제공한다. 복호된 영상 신호와 OSD 데이터가 믹싱됨으로 인하여, 방송 영상 또는 외부 입력 영상 상에 OSD가 오버레이(overlay) 되어 표시된다.The
프레임 레이트 변환부(FRC)(380)는, 입력되는 영상의 프레임 레이트(frame rate)를 변환한다. 예를 들어, 프레임 레이트 변환부(380)는 입력되는 60Hz 영상의 프레임 레이트를 디스플레이부의 출력 주파수에 따라 예를 들어, 120Hz 또는 240Hz의 프레임 레이트를 가지도록 변환할 수 있다. 상기와 같이, 프레임 레이트를 변환하는 방법에는 다양한 방법이 존재할 수 있다. 일 예로, 프레임 레이트 변환부(380)는 프레임 레이트를 60Hz에서 120Hz로 변환하는 경우, 제1 프레임과 제2 프레임 사이에 동일한 제1 프레임을 삽입하거나, 제1 프레임과 제2 프레임으로부터 예측된 제3 프레임을 삽입함으로써 변환할 수 있다. 다른 예로, 프레임 레이트 변환부(380)는 프레임 레이트를 60Hz에서 240Hz로 변환하는 경우, 기존 프레임 사이에 동일한 프레임 또는 예측된 프레임을 3개 더 삽입하여 변환할 수 있다. 한편, 별도의 프레임 변환을 수행하지 않는 경우에는 프레임 레이트 변환부(380)를 바이패스(bypass) 할 수도 있다.The frame rate converter (FRC) 380 converts a frame rate of an input image. For example, the
포맷터(390)는, 입력되는 프레임 레이트 변환부(380)의 출력을 디스플레이부의 출력 포맷에 맞게 변경한다. 예를 들어, 포맷터(390)는 R, G, B 데이터 신호를 출력할 수 있으며, 이러한 R, G, B 데이터 신호는, 낮은 전압 차분 신호(LVDS: Low voltage differential signal) 또는 mini-LVDS로 출력될 수 있다. 또한, 포맷터(390)는 입력되는 프레임 레이트 변환부(380)의 출력이 3D 영상 신호인 경우에는 디스플레이부의 출력 포맷에 맞게 3D 형태로 구성하여 출력함으로써, 상기 디스플레이부를 통해 3D 서비스를 지원할 수도 있다.The
한편, 제어부 내 음성 처리부(미도시)는, 역다중화된 음성 신호의 음성 처리를 수행할 수 있다. 이러한 음성 처리부(미도시)는 다양한 오디오 포맷을 처리하도록 지원할 수 있다. 일 예로, 음성 신호가 MPEG-2, MPEG-4, AAC, HE-AAC, AC-3, BSAC 등의 포맷으로 부호화된 경우에도 이에 대응되는 디코더를 구비하여 처리할 수 있다. 또한, 제어부 내 음성 처리부(미도시)는, 베이스(Base), 트레블(Treble), 음량 조절 등을 처리할 수 있다. 제어부 내 데이터 처리부(미도시)는, 역다중화된 데이터 신호의 데이터 처리를 수행할 수 있다. 예를 들어, 데이터 처리부는 역다중화된 데이터 신호가 부호화된 경우에도 이를 복호할 수 있다. 여기서, 부호화된 데이터 신호로는, 각 채널에서 방영되는 방송 프로그램의 시작시각, 종료시각 등의 방송 정보가 포함된 EPG 정보일 수 있다. Meanwhile, the voice processing unit (not shown) in the control unit may perform voice processing of the demultiplexed voice signal. Such a voice processing unit (not shown) may support processing of various audio formats. As an example, even when the audio signal is encoded in a format such as MPEG-2, MPEG-4, AAC, HE-AAC, AC-3, BSAC, it can be processed with a corresponding decoder. In addition, the voice processing unit (not shown) in the control unit may process a base (Base), a treble (Treble), volume control, and the like. A data processing unit (not shown) in the control unit may perform data processing of the demultiplexed data signal. For example, the data processing unit may decode the demultiplexed data signal even when it is encoded. Here, the encoded data signal may be EPG information including broadcast information such as a start time and an end time of a broadcast program aired on each channel.
한편, 상술한 디지털 디바이스는 본 발명에 따른 예시로서, 각 구성요소는 실제 구현되는 디지털 디바이스의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라, 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나 하나의 구성요소가 2 이상의 구성요소로 세분화될 수 있다. 또한, 각 블록에서 수행하는 기능은 본 발명의 실시 예를 설명하기 위한 것이며, 그 구체적인 동작이나 디바이스는 본 발명의 권리범위를 제한하지 아니한다. 한편, 디지털 디바이스는, 디바이스 내에 저장된 영상 또는 입력되는 영상의 신호 처리를 수행하는 영상신호 처리 디바이스일 수 있다. 영상신호 처리 디바이스의 다른 예로는, 도 3a에서 도시된 디스플레이부(330)와 오디오 출력부(335)가 제외된 셋톱-박스(STB), 상술한 DVD 플레이어, 블루-레이 플레이어, 게임 디바이스, 컴퓨터 등이 더 예시될 수 있다.On the other hand, the above-described digital device is an example according to the present invention, and each component may be integrated, added, or omitted according to the specifications of the actually implemented digital device. That is, if necessary, two or more components may be combined into one component or one component may be subdivided into two or more components. In addition, the function performed by each block is for explaining the embodiment of the present invention, and the specific operation or device does not limit the scope of the present invention. Meanwhile, the digital device may be an image signal processing device that performs signal processing of an image stored in the device or an input image. As another example of the image signal processing device, the set-top box (STB) in which the
전술한 도 2와 3은 디지털 디바이스의 일 실시 예이고, 후술할 도 4는 외부 디바이스에 관한 것으로 이동 단말기(mobile terminal)를 일 실시 예로 한다.2 and 3 described above are an embodiment of a digital device, and FIG. 4 to be described later relates to an external device, and a mobile terminal is taken as an embodiment.
도 4는 본 발명 일 실시 예에 따른 외부 디바이스를 도시한 블록도이다.4 is a block diagram illustrating an external device according to an embodiment of the present invention.
도 4를 참조하면, 이동 단말기(400)는, 무선 통신부(410), A/V(Audio/Video) 입력부(420), 사용자 입력부(430), 센싱부(440), 출력부(450), 메모리(460), 인터페이스부(470), 제어부(480), 전원 공급부(490) 등을 포함할 수 있다. Referring to FIG. 4 , the
무선 통신부(410)는, 이동 단말기(400)와 무선 통신 시스템 사이 또는 이동 단말기와, 이동 단말기가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 또는 그 이상의 모듈들을 포함할 수 있다. 예를 들어, 무선 통신부(410)는 방송 수신 모듈(411), 이동통신 모듈(412), 무선 인터넷 모듈(413), 근거리 통신 모듈(414), 위치정보 모듈(415) 등을 포함할 수 있다.The
방송 수신 모듈(411)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련 정보를 수신한다. 여기서, 방송 채널은 위성 채널과 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함하며, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 프로바이더에 관련된 정보를 포함할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이 경우에는 상기 이동통신 모듈(412)에 의해 수신될 수 있다. 방송 관련 정보는 예를 들어, 이동 단말기(400)에서 EPG(Electronic Program Guide)나 ESG(Electronic Service Guide) 등을 생성하고 출력하기 위한 데이터를 포함할 수 있다. 방송 수신 모듈(411)은 예를 들어, ATSC, DVB-T(Digital Video Broadcasting-Terrestrial), DVB-S(Satellite), MediaFLO(Media Forward Link Only), DVB-H(Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 방송수신 모듈(411)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 디지털 방송 시스템에 적합하도록 구성될 수도 있다. 방송수신 모듈(411)을 통해 수신되는 방송 신호와 방송 관련 정보는, 메모리(460)에 저장될 수 있다.The
이동통신 모듈(412)은, 이동 통신망 상에서 기지국, 외부 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 무선 신호는, 음성 신호, 화상 통화 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The
무선인터넷 모듈(413)은, 무선 인터넷 접속을 위한 모듈을 포함하여, 이동 단말기(400)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The
근거리통신 모듈(414)은, 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee, RS-232, RS-385 등이 이용될 수 있다.The short-
위치정보 모듈(415)은, 이동 단말기(400)의 위치 정보 획득을 위한 모듈로서, GPS(Global Position System) 모듈을 예로 할 수 있다.The
A/V 입력부(420)는, 오디오 또는/및 비디오 신호 입력을 위한 것으로, 이에는 카메라(421)와 마이크(422) 등이 포함될 수 있다. 카메라(421)는, 화상통화 모드 또는 촬영 모드에서 이미지 센서에 의해 획득되는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(451)에 표시될 수 있다.The A/
카메라(421)에서 처리된 화상 프레임은, 메모리(460)에 저장되거나 무선 통신부(410)를 통하여 외부로 전송될 수 있다. 카메라(421)는, 사용 환경에 따라 2개 이상이 구비될 수도 있다.The image frame processed by the
마이크(422)는, 통화 모드 또는 녹음 모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는, 통화 모드인 경우 이동통신 모듈(412)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(422)에는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.The
사용자 입력부(430)는, 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(430)는, 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠(jog wheel), 조그 스위치(jog switch) 등으로 구성될 수 있다. The user input unit 430 generates input data for the user to control the operation of the terminal. The user input unit 430 may include a key pad, a dome switch, a touch pad (static pressure/capacitance), a jog wheel, a jog switch, and the like.
센싱부(440)는, 이동 단말기(400)의 개폐 상태, 이동 단말기(400)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(400)의 현재 상태를 감지하여 이동 단말기(400)의 동작 제어를 위한 센싱 신호를 발생시킨다. 예를 들어, 이동 단말기(400)가 이동되거나 기울어진 경우 이동 단말기의 위치 내지 기울기 등을 센싱할 수 있다. 또한, 전원 공급부(490)의 전원 공급 여부, 인터페이스부(470)의 외부 디바이스 결합 여부 등도 센싱할 수도 있다. 한편, 센싱부(440)는, NFC(Near Field Communication) 등을 포함한 근접 센서(341)를 포함할 수 있다.The
출력부(450)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(451), 음향 출력 모듈(452), 알람부(453), 및 햅틱 모듈(454) 등이 포함될 수 있다.The
디스플레이부(451)는, 이동 단말기(400)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI 또는 GUI를 표시한다. 이동 단말기(400)가 화상 통화 모드 또는 촬영 모드인 경우에는, 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다. The
디스플레이부(451)는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이 중에서 적어도 하나를 포함할 수 있다. The
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(451)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(451)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.Some of these displays may be of a transparent type or a light-transmitting type so that the outside can be viewed through them. This may be referred to as a transparent display, and a typical example of the transparent display is a TOLED (Transparant OLED). The rear structure of the
이동 단말기(400)의 구현 형태에 따라 디스플레이부(451)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(400)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다. Two or
디스플레이부(451)와 터치 동작을 감지하는 센서(이하 '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(451)는 출력 디바이스 이외에 입력 디바이스로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.When the
터치 센서는 디스플레이부(451)의 특정 부위에 가해진 압력 또는 디스플레이부(451)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. The touch sensor may be configured to convert a change in pressure applied to a specific part of the
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(480)로 전송한다. 이로써, 제어부(480)는 디스플레이부(451)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.When there is a touch input to the touch sensor, a signal(s) corresponding thereto is sent to the touch controller. The touch controller processes the signal(s) and then transmits the corresponding data to the
터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(441)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다. The
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.Examples of the proximity sensor include a transmission type photoelectric sensor, a direct reflection type photoelectric sensor, a mirror reflection type photoelectric sensor, a high frequency oscillation type proximity sensor, a capacitive type proximity sensor, a magnetic type proximity sensor, and an infrared proximity sensor. When the touch screen is of a capacitive type, it is configured to detect the proximity of the pointer by a change in an electric field according to the proximity of the pointer. In this case, the touch screen (touch sensor) may be classified as a proximity sensor.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.Hereinafter, for convenience of description, the act of bringing the pointer closer to the touch screen without making contact so that the pointer is recognized as being positioned on the touch screen is referred to as “proximity touch”, and the touch The act of actually touching the pointer on the screen is called "contact touch". The position at which a proximity touch is performed by the pointer on the touch screen means a position at which the pointer vertically corresponds to the touch screen when the pointer is touched in proximity.
상기 근접 센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다. The proximity sensor detects a proximity touch and a proximity touch pattern (eg, proximity touch distance, proximity touch direction, proximity touch speed, proximity touch time, proximity touch position, proximity touch movement state, etc.). Information corresponding to the sensed proximity touch operation and the proximity touch pattern may be output on the touch screen.
음향출력모듈(452)은, 호신호 수신, 통화 모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(410)로부터 수신되거나 메모리(460)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(452)은 이동 단말기(400)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(452)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.The
알람부(453)는, 이동 단말기(400)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(453)는, 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(451)나 음성 출력 모듈(452)을 통해서도 출력될 수 있어서, 그들(451,452)은 알람부(453)의 일부로 분류될 수도 있다.The
햅틱 모듈(haptic module)(454)은, 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(454)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(454)이 발생하는 진동의 세기와 패턴 등은 제어 가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. 햅틱 모듈(454)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉/온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. 햅틱 모듈(454)은, 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(454)은, 이동 단말기(400)의 구성 태양에 따라 2개 이상이 구비될 수 있다.The
메모리(460)는, 제어부(480)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰 북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(460)는 상기 터치스크린 상의 터치 입력 시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.The
메모리(460)는, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(400)는 인터넷(internet) 상에서 상기 메모리(460)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.The
인터페이스부(470)는, 이동 단말기(400)에 연결되는 모든 외부 디바이스와의 통로 역할을 한다. 인터페이스부(470)는 외부 디바이스로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(400) 내부의 각 구성 요소에 전달하거나, 이동 단말기(400) 내부의 데이터가 외부 디바이스로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 디바이스를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O 포트, 이어폰 포트 등이 인터페이스부(470)에 포함될 수 있다. The
식별 모듈은 이동 단말기(400)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 디바이스(이하 '식별 디바이스')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서, 식별 디바이스는 포트를 통하여 이동 단말기(400)와 연결될 수 있다. The identification module is a chip storing various information for authenticating the usage right of the
인터페이스부(470)는, 이동 단말기(400)가 외부 크래들(cradle)과 연결될 때, 상기 크래들로부터의 전원이 상기 이동 단말기(400)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기로 전달되는 통로가 될 수 있다. 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은, 이동 단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.When the
제어부(480)는, 통상적으로 이동 단말기(400)의 전반적인 동작을 제어한다. 제어부(480)는 예를 들어, 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(480)는, 멀티미디어 재생을 위한 멀티미디어 모듈(481)을 구비할 수도 있다. 멀티미디어 모듈(481)은, 제어부(480) 내에 구현될 수도 있고, 제어부(480)와 별도로 구현될 수도 있다. 제어부(480)는, 터치-스크린상에서 이루어지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식(pattern recognition) 처리를 행할 수 있다. The
전원 공급부(490)는, 제어부(480)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The
여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 디바이스로 읽을 수 있는 기록매체 내에서 구현될 수 있다.Various embodiments described herein may be implemented in a computer-readable recording medium using, for example, software, hardware, or a combination thereof.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays, 프로세서, 제어기, 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다. 일부 경우에 본 명세서에서 설명되는 실시 예들이 제어부(480) 자체로 구현될 수 있다.According to the hardware implementation, the embodiments described herein include application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs), It may be implemented using at least one of a processor, a controller, micro-controllers, microprocessors, and other electrical units for performing functions. These may be implemented by the
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여 진 소프트웨어 애플리케이션으로 소프트웨어 코드(software code)가 구현될 수 있다. 여기서, 소프트웨어 코드는, 메모리(460)에 저장되고, 제어부(480)에 의해 실행될 수 있다.According to the software implementation, embodiments such as the procedures and functions described in this specification may be implemented as separate software modules. Each of the software modules may perform one or more functions and operations described herein. Software code may be implemented as a software application written in a suitable programming language. Here, the software code may be stored in the
한편, 사용자가 주로 손에 쥐고 사용하는 차원을 넘어서, 신체에 착용할 수 있는 웨어러블 디바이스는, 본 명세서에서 디지털 디바이스 또는 외부 디바이스로 동작 또는 기능할 수 있다. 이러한 웨어러블 디바이스에는 스마트 워치(smart watch), 스마트 글래스(smart glass), HMD(head mounted display) 등이 있다. On the other hand, a wearable device that can be worn on the body beyond the dimension that the user mainly holds in the hand and uses may operate or function as a digital device or an external device in the present specification. Such wearable devices include a smart watch, smart glass, and head mounted display (HMD).
도 1에 도시된 바와 같이, 웨어러블 디바이스는 다른 디바이스와 데이터를 상호 교환(또는 연동)할 수 있다. 근거리 통신 모듈(414)은, 이동 단말기(400) 주변에 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(480)는 감지된 웨어러블 디바이스가 이동 단말기(400)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(400)에서 처리되는 데이터의 적어도 일부를, 근거리 통신 모듈(414)을 통하여 웨어러블 디바이스로 전송할 수 있다. 따라서, 사용자는 이동 단말기(400)에서 처리되는 데이터를 웨어러블 디바이스를 통하여 이용할 수 있다. 예를 들어, 이동 단말기(400)에 전화가 수신된 경우 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(400)에 메시지가 수신된 경우 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인할 수 있다.As shown in FIG. 1 , the wearable device may exchange (or interwork) data with another device. The short-
도 5는 본 발명의 다른 실시 예에 따른 디지털 디바이스 또는 외부 디바이스를 도시한 블록도이다. 5 is a block diagram illustrating a digital device or an external device according to another embodiment of the present invention.
도 5를 참조하면, 워치 타입의 이동 단말기 즉, 스마트 워치(500)는 디스플레이부(551)를 구비하는 본체(501) 및 본체(501)에 연결되어 손목에 착용 가능하도록 구성되는 밴드(502)를 포함한다. 일반적으로 스마트 워치(500)는 도 4의 이동 단말기(400)의 특징 또는 그와 유사한 특징을 포함할 수 있다.Referring to FIG. 5 , a watch-type mobile terminal, that is, a
본체(501)는 외관을 형성하는 케이스를 포함한다. 도시된 바와 같이, 케이스는 각종 전자부품들을 수용하는 내부 공간을 마련하는 제1 케이스(501a) 및 제2 케이스(501b)를 포함할 수 있다. 다만, 본 발명은 이에 한정되는 것은 아니고, 하나의 케이스가 상기 내부 공간을 마련하도록 구성되어 유니 바디의 이동 단말기(500)가 구현될 수도 있다.The
스마트 워치(500)는 무선 통신이 가능하도록 구성되며, 본체(501)에는 상기 무선 통신을 위한 안테나가 설치될 수 있다. 한편, 안테나는 케이스를 이용하여 그 성능을 확장시킬 수 있다. 예를 들어, 도전성 재질을 포함하는 케이스가 안테나와 전기적으로 연결되어 그라운드 영역 또는 방사 영역을 확장시키도록 구성될 수 있다.The
본체(501)의 전면에는 디스플레이부(551)가 배치되어 정보를 출력할 수 있으며, 디스플레이부(551)에는 터치센서가 구비되어 터치 스크린으로 구현될 수 있다. 도시된 바와 같이, 디스플레이부(551)의 윈도우(551a)는 제1 케이스(501a)에 장착되어 제1 케이스(501a)와 함께 단말기 바디의 전면을 형성할 수 있다.A
본체(501)에는 음향 출력부(552), 카메라(521), 마이크로폰(522), 사용자 입력부(523) 등이 구비될 수 있다. 디스플레이부(551)가 터치 스크린으로 구현되는 경우, 사용자 입력부(523)로 기능할 수 있으며, 이에 따라 본체(501)에 별도의 키가 구비되지 않을 수 있다.The
밴드(502)는 손목에 착용되어 손목을 감싸도록 이루어지며, 착용이 용이하도록 플렉시블 재질로 형성될 수 있다. 그러한 예로서, 밴드(502)는 가죽, 고무, 실리콘, 합성수지 재질 등으로 형성될 수 있다. 또한, 밴드(502)는 본체(501)에 착탈 가능하게 구성되어, 사용자가 취향에 따라 다양한 형태의 밴드로 교체 가능하게 구성될 수 있다.The
한편, 밴드(502)는 안테나의 성능을 확장시키는 데에 이용될 수 있다. 예를 들어, 밴드에는 안테나와 전기적으로 연결되어 그라운드 영역을 확장시키는 그라운드 확장부(미도시)가 내장될 수 있다.On the other hand, the
밴드(502)에는 파스너(fastener; 502a)가 구비될 수 있다. 파스너(502a)는 버클(buckle), 스냅핏(snap-fit)이 가능한 후크(hook) 구조, 또는 벨크로(velcro; 상표명) 등에 의하여 구현될 수 있으며, 신축성이 있는 구간 또는 재질을 포함할 수 있다. 본 도면에서는, 파스너(502a)가 버클 형태로 구현된 예를 제시하고 있다.The
도 6은 본 발명의 일 실시 예에 따른 디지털 디바이스 제어를 위한 제어 수단을 도시한 도면이다.6 is a diagram illustrating a control means for controlling a digital device according to an embodiment of the present invention.
디지털 디바이스(600)를 제어하기 위해 상기 디지털 디바이스(600) 상에 구비된 프론트 패널(front panel)(미도시)이나 제어 수단(입력 수단)이 이용된다.A front panel (not shown) or a control means (input means) provided on the
한편, 제어 수단은 유, 무선 통신 가능한 사용자 인터페이스 디바이스(UID; User Interface Device)로써, 주로 디지털 디바이스(600)의 제어 목적으로 구현된 리모컨(610), 키보드(630), 포인팅 디바이스(620), 터치패드(touch-pad) 등이 포함되나, 상기 디지털 디바이스(600)에 연결된 외부 입력 전용의 제어 수단 역시 포함될 수 있다. 그 밖에, 디지털 디바이스(600) 제어 목적이 아니나 모드 전환 등을 통해 상기 디지털 디바이스(600)를 제어하는 스마트 폰, 태블릿 PC 등 이동 단말기 등도 제어 수단에 포함된다. 다만, 본 명세서에서는 편의상 포인팅 디바이스(pointing device)를 일 실시 예로 하여 설명하나, 이에 한정되는 것은 아니다.On the other hand, the control means is a user interface device (UID; User Interface Device) capable of wired and wireless communication, mainly implemented for the purpose of controlling the
입력 수단은, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), RS 등의 통신 프로토콜을 필요에 따라 적어도 하나 이상 채용하여 디지털 디바이스와 통신 가능하다.The input means are communication protocols such as Bluetooth, RFID (Radio Frequency Identification), infrared communication (IrDA), UWB (Ultra Wideband), ZigBee, DLNA (Digital Living Network Alliance), RS, etc. can communicate with a digital device by employing at least one or more as necessary.
리모컨(610)은, 디지털 디바이스(600) 제어를 위해 필요한 다양한 키 버튼들이 구비된 통상의 입력 수단을 말한다.The
포인팅 디바이스(620)는, 자이로 센서(Gyro Sensor) 등을 탑재하여 사용자의 움직임, 압력, 회전 등에 기초하여 디지털 디바이스(600)의 화면상에 대응되는 포인터(pointer)를 구현하여 상기 디지털 디바이스(600)에 소정 제어 명령을 전달한다. 이러한 포인팅 디바이스(620)는, 매직 리모컨, 매직 컨트롤러 등 다양한 이름으로 명명될 수 있다.The
키보드(630)는, 디지털 디바이스(600)가 종래 방송만을 제공하던 것을 넘어 지능형 통합 디지털 디바이스로서 웹 브라우저, 애플리케이션, SNS(Social Network Service) 등 다양한 서비스를 제공함에 따라 종래 리모컨(610)만으로는 제어가 쉽지 않아 이를 보완하여 PC의 키보드와 유사하게 구현하여 텍스트 등의 입력 편의를 도모하기 위해 구현되었다.The
한편, 리모컨(610), 포인팅 디바이스(620), 키보드(630) 등 제어수단은, 필요에 따라 터치패드를 구비함으로써 텍스트 입력, 포인터 이동, 사진 내지 동영상의 확대/축소 등 더욱 편리하고 다양한 제어 목적에 이용할 수 있다. On the other hand, the control means such as the
이하에서는 본 발명에 따라 외부 디바이스로부터 수신되는 데이터를 처리하는 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법의 다양한 실시 예들을 첨부된 도면을 참조하여 더욱 상세하게 설명한다. Hereinafter, various embodiments of a digital device for processing data received from an external device and a data processing method in the digital device according to the present invention will be described in more detail with reference to the accompanying drawings.
전술한 바와 같이, 이하에서 디지털 디바이스는 디지털 TV로, 외부 디바이스는 이동 단말기를 일 실시 예로 하여 설명한다.As described above, hereinafter, a digital device will be described as a digital TV, and an external device will be described with a mobile terminal as an embodiment.
특히, 본 발명은 사용자가 디지털 TV를 이용 중에 이동 단말기에 통화 연결 요청(착신)이 수신되는 경우에 그 처리에 관한 것이다. 본 발명은, 비단 상기 착신 경우뿐만 아니라 발신 경우에도 적용 가능하다. In particular, the present invention relates to a case where a call connection request (incoming) is received from a mobile terminal while a user is using a digital TV. The present invention is applicable not only to the above-mentioned case of incoming but also to the case of outgoing.
사용자가 디지털 TV를 이용한다고 함은, 방송 서비스를 포함한 TV 서비스를 이용(ex. 시청 등)하는 경우뿐만 아니라 미라캐스트로 상기 디지털 TV에서 이동 단말기의 화면을 공유하는 경우를 포함한다. When a user uses a digital TV, it includes not only a case of using a TV service including a broadcast service (eg, watching, etc.) but also a case of sharing the screen of the mobile terminal in the digital TV through Miracast.
이동 단말기를 착신과 발신은, 통화 애플리케이션을 통해 이루어질 수 있다. 이러한 통화 애플리케이션에는, 음성 통화 전용 애플리케이션과 영상 통화 애플리케이션이 모두 포함될 수 있다.Incoming and outgoing calls to and from the mobile terminal can be made through a call application. The call application may include both a voice call-only application and a video call application.
본 명세서에서는 본 발명에 따라, 사용자가 디지털 TV를 통해 TV 서비스나 이동 단말기의 화면 공유 서비스를 이용하는 도중에 상기 이동 단말기로 착신되거나 상기 이동 단말기를 통해 발신하는 경우에, 그 처리에 관해 상세하게 설명한다. 한편, 본 발명은, 착신/발신 경우에, 이동 단말기를 통해 통화를 하는 것이 아니라, 디지털 TV를 통해 통화를 하는 경우에 대한 것이다. 또한, 이하에서는 본 발명의 이해를 돕고 설명의 편의를 위하여, 착신의 경우를 일 실시 예로 하여 설명한다. 다만, 전술한 바와 같이, 본 발명은 착신에 한정되지 않고 발신에도 적용 가능하다.In this specification, according to the present invention, when a user receives an incoming call to the mobile terminal or makes a call through the mobile terminal while using the TV service or the screen sharing service of the mobile terminal through the digital TV, the processing will be described in detail. . Meanwhile, the present invention relates to a case in which a call is made through a digital TV rather than through a mobile terminal in the case of an incoming/outgoing call. In addition, for the purpose of helping the understanding of the present invention and for convenience of description, the case of an incoming call will be described as an example. However, as described above, the present invention is not limited to incoming calls and can be applied to outgoing calls as well.
도 7은 디지털 TV와 미라캐스트 방식에 따라 미러링 데이터를 상기 디지털 TV로 전송하는 이동 단말기를 도시한 도면이다.7 is a diagram illustrating a digital TV and a mobile terminal transmitting mirroring data to the digital TV according to the Miracast method.
동일 네트워크에 속한 디지털 TV(710)와 이동 단말기(720)는, 페어링될 수 있으며, 상기 페어링 이후에 다양한 통신 프로토콜에 따라 데이터 커뮤니케이션을 할 수 있다. The
디지털 TV(710)는 스크린과 스피커를 통해 TV 서비스를 출력할 수 있다. 한편, 상기 디지털 TV(710)는, 화면 공유를 위한 이동 단말기(720)의 미러링 데이터(Mirroring data)를 수신하여 출력할 수도 있다. 여기서, 상기 미러링 데이터는 예컨대, 와이-파이 다이렉트에 의해 송수신되는 것을 일 실시 예로 하며, 미라캐스트 데이터(Miracast data), 화면 공유 데이터(Screen share data) 등 다양하게 호칭될 수 있다. 다만, 본 명세서에서는 편의상 미러링 데이터로 명명하여 설명한다.The
이하에서는, 먼저 디지털 TV에서 이동 단말기의 미러링 데이터를 처리하는 도중에 상기 이동 단말기에 착신(통화)된 경우, 그 처리에 대해 설명한다.Hereinafter, when an incoming (call) is received from the mobile terminal while the digital TV is processing the mirroring data of the mobile terminal, the processing will be described.
도 8 내지 10은, 본 발명의 일 실시 예에 따라 디지털 TV에서 이동 단말기의 미러링 데이터 처리 중 상기 이동 단말기에 착신된 경우에 데이터 처리 과정에 관한 도면이다.8 to 10 are diagrams illustrating a data processing process when an incoming call is received from the mobile terminal during mirroring data processing of the mobile terminal in the digital TV according to an embodiment of the present invention.
도 8은 상기 데이터 처리 과정에 관한 플로우 챠트, 도 9는 이동 단말기의 미러링 데이터를 처리하는 디지털 TV의 구성 블록도, 그리고 도 10은 상기 미러링 데이터 처리 중 상기 이동 단말기에 착신된 경우에 상기 디지털 TV(710)를 통해 착신 사실을 알리는 가이드 데이터 제공에 관한 UI/UX를 도시한 도면이다.8 is a flowchart of the data processing process, FIG. 9 is a block diagram of a digital TV that processes mirroring data of a mobile terminal, and FIG. 10 is a digital TV when an incoming call is made to the mobile terminal during the mirroring data processing It is a diagram illustrating a UI/UX for providing guide data for notifying the fact of an incoming call through 710 .
본 발명의 일 실시 예에 따른 디지털 디바이스에서 이동 단말기의 데이터를 처리하는 방법은, 상기 이동 단말기와 페어링하는 단계, 상기 이동 단말기로부터 제1 통신 프로토콜로 미러링 데이터를 수신하는 단계, 수신된 미러링 데이터를 스크린상에 출력하는 단계, 상기 이동 단말기로부터 착신 감지에 따른 가이드 데이터를 수신하는 단계, 통화 서비스를 위한 제2 통신 프로토콜을 활성화하는 단계, 및 상기 이동 단말기로부터 상기 제1 통신 프로토콜에 따라 발신자에 관한 제1 통화 애플리케이션 데이터를 수신하고, 상기 활성화된 제2 통신 프로토콜에 따라 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 수신하여 각각 출력하고, 상기 제2 통신 프로토콜에 따라 상기 디지털 디바이스와 연결된 입력 수단을 통해 수신되는 착신자에 관한 제3 통화 애플리케이션 데이터를 상기 이동 단말기로 전송하는 단계를 포함하여 이루어진다.A method for processing data of a mobile terminal in a digital device according to an embodiment of the present invention includes the steps of pairing with the mobile terminal, receiving mirroring data from the mobile terminal through a first communication protocol, and Outputting on a screen, receiving guide data according to incoming detection from the mobile terminal, activating a second communication protocol for a call service, and a caller from the mobile terminal according to the first communication protocol Receive first call application data, receive and output second call application data about the caller according to the activated second communication protocol, respectively, through an input means connected to the digital device according to the second communication protocol and transmitting third call application data regarding the received called party to the mobile terminal.
상기에서, 수신되는 제1 통화 애플리케이션 데이터를 역다중화하는 단계와, 상기 역다중화된 제1 통화 애플리케이션 데이터 중 상기 발신자에 관한 비디오 데이터는 비디오 디코딩을 수행하고, 음성 데이터는 오디오 디코딩을 수행하지 않는 단계를 더 포함할 수 있다.In the above, the steps of demultiplexing the received first call application data, and performing video decoding on the video data about the caller among the demultiplexed first call application data, and not performing audio decoding on the voice data. may further include.
상기에서, 카메라 센서를 통해 상기 착신자의 비디오 데이터를 획득하는 단계와, 상기 획득되는 착신자의 비디오 데이터를 상기 수신된 제1 통화 애플리케이션 데이터와 함께 출력하고, 상기 제1 통신 프로토콜에 따라 상기 이동 단말기로 전송하는 단계를 더 포함할 수 있다. 상기에서, 카메라 센서를 통해 획득되는 착신자의 비디오 데이터가 있는지 판단하는 단계와, 상기 판단 결과 상기 착신자의 비디오 데이터가 없으면, 미리 설정된 대체 이미지 데이터를 상기 제1 통화 애플리케이션 데이터와 함께 출력하고, 상기 제1 통신 프로토콜에 따라 상기 이동 단말기로 전송하는 단계를 더 포함할 수 있다.In the above, acquiring the video data of the called party through a camera sensor, outputting the acquired video data of the called party together with the received first call application data, and to the mobile terminal according to the first communication protocol It may further include the step of transmitting. In the above, determining whether there is video data of the called party obtained through a camera sensor, and if there is no video data of the called party as a result of the determination, outputting preset replacement image data together with the first call application data, 1 It may further include the step of transmitting to the mobile terminal according to the communication protocol.
상기에서, 발신자에 관한 제1 통화 애플리케이션 데이터와 제2 통화 애플리케이션 데이터로부터 타임스탬프가 존재하는지 판단하는 단계와, 상기 판단 결과 타임스탬프가 존재하면, 상기 타임스탬프에 따라 상기 제1 통화 애플리케이션과 제2 통화 애플리케이션의 싱크를 맞추어 출력하는 단계를 더 포함할 수 있다. 상기 판단 결과 타임스탬프가 존재하지 않으면, 디코딩되는 제1 통화 애플리케이션과 제2 애플리케이션을 딜레이 없이 즉시 출력할 수 있다.In the above, determining whether a timestamp exists from the first call application data and the second call application data about the caller, and if the timestamp exists as a result of the determination, the first call application and the second according to the timestamp The method may further include outputting the synchronization of the call application. If the timestamp does not exist as a result of the determination, the decoded first call application and the second application may be output immediately without delay.
한편, 상기 제2 통신 프로토콜에 따라 수신되는 제2 통화 애플리케이션 데이터와 제3 통화 애플리케이션 데이터 중 적어도 하나 이상은, 노이즈 리덕션(noise reduction), 오토 게인 컨트롤(auto gain control) 및 어쿠스틱 에코 캔슬레이션(acoustic echo cancellation) 처리 및 볼륨 리덕션(volume reduction) 중 적어도 하나를 수행할 수 있다.Meanwhile, at least one of the second call application data and the third call application data received according to the second communication protocol may include noise reduction, auto gain control, and acoustic echo cancellation. At least one of echo cancellation processing and volume reduction may be performed.
그 밖에, 상기 디지털 디바이스는 디지털 TV와 웨어러블 디바이스 중 어느 하나이고, 상기 입력 수단은 상기 디지털 TV와 연결된 리모컨과 웨어러블 디바이스 중 어느 하나일 수 있다.In addition, the digital device may be any one of a digital TV and a wearable device, and the input unit may be any one of a remote controller and a wearable device connected to the digital TV.
또한, 상기에서, 이동 단말기로부터 수신되는 가이드 데이터를 상기 스크린상의 소정 영역에 출력하는 단계와, 상기 출력되는 가이드 데이터로부터 사용자의 선택을 입력받는 단계를 더 포함할 수 있다.The method may further include outputting guide data received from the mobile terminal to a predetermined area on the screen, and receiving a user's selection from the output guide data.
그리고 상기 수신된 제1 통화 애플리케이션 데이터는, 상기 스크린 전면, PIP(Picture in Picture) 윈도우 및 화면 분할 윈도우 중 어느 하나를 통해 출력될 수 있다.In addition, the received first call application data may be output through any one of the front side of the screen, a picture in picture (PIP) window, and a split screen window.
디지털 TV(710)는 이동 단말기(720)와 페어링한다(S802). 여기서, 상기 페어링은, 공지 기술에 따라 이루어질 수 있으며, 이와 관련된 상세한 설명은 본 명세서에서는 생략한다.The
상기 S802 단계를 통해 페어링된 후, 이동 단말기(720)는 미러링 데이터를 디지털 TV(710)로 전송한다(S804). 여기서, 상기 S804 단계는, 상기 미러링 데이터 전송 전에 상기 이동 단말기(720)의 화면을 공유를 위한 양 디바이스 사이에 미라캐스트 요청 및 응답 과정이 준비 과정으로 수행될 수 있다.After pairing through the step S802, the
디지털 TV(710)는, 이동 단말기(720)로부터 수신되는 미러링 데이터를 처리하여 출력한다(S806). 따라서, 사용자는 이동 단말기(720)의 화면과 동일한 화면을 디지털 TV의 대화면으로 시청할 수 있게 된다.The
여기서, S804 단계와 S806 단계의 미러링 데이터는 예를 들어, 도 9와 와이-파이 다이렉트 통신 프로토콜을 통해 송수신될 수 있다. 도 9를 참조하면, 상기 미러링 데이터는 예컨대, 오디오 데이터와 비디오 데이터가 먹싱된 TS(Transport Stream)(이하, 미러링 TS) 형태로 상기 와이-파이 다이렉트 통신 프로로콜에 따라 이동 단말기(720)에서 디지털 TV(710)로 전송된다. 디지털 TV(710)는 상기 미러링 TS를 수신하는 수신부(receiver or reception interface)(910), 상기 수신부(910)를 통해 수신된 미러링 TS는 역다중화부(Demultiplexer, Demuxer)(920)에서 오디오 데이터와 비디오 데이터로 역다중화된다. 상기 역다중화된 비디오 데이터는 비디오 디코더(video decoder)(930)로 전송되어 디코딩되고, 역다중화된 오디오 데이터는 오디오 디코더(audio decoder)(940)로 전송되어 디코딩된다. 상기 각 디코더에서 디코딩 비디오 데이터와 오디오 데이터는 싱크를 맞추어 스크린과 스피커를 통해 각각 출력된다. 도 9에서 디지털 TV는 편의상 미러링 TS의 처리에 필수적인 구성만을 도시하고 설명하였으나, 도 2나 3을 참조하여 다른 구성이 더 포함되거나 이용되어 상기 미러링 TS를 처리할 수도 있다. 한편, 상기 비디오 디코더(930)와 오디오 디코더(940)는, 미러링 TS 내 비디오 데이터와 오디오 데이터가 TV 서비스 데이터와 상이한 포맷으로 인코딩된 경우에는 그에 대응되는 디코딩 방식으로 디코딩할 수 있다.Here, the mirroring data of steps S804 and S806 may be transmitted/received through, for example, FIG. 9 and the Wi-Fi Direct communication protocol. Referring to FIG. 9, the mirroring data is, for example, in the form of a TS (Transport Stream) in which audio data and video data are muxed (hereinafter, mirroring TS) in the
상술한 바와 같이, S806 단계를 통해, 디지털 TV(710)에서 미러링 서비스를 제공하는 도중에 이동 단말기(720)에 착신(통화 연결 요청)이 감지되면(S808), 상기 이동 단말기는 상기 감지된 착신 사실을 알리기 위해 가이드 데이터 즉, 착신 가이드 데이터를 포함한 제1 통화 애플리케이션 데이터를 상기 디지털 TV(710)로 전송한다(S810). 여기서, 상기 제1 통화 애플리케이션 데이터는 상술한 와이-파이 다이렉트 통신 프로토콜에 따라 전송될 수 있으나, 이에 한정되는 것은 아니다. 디지털 TV(710)는 이동 단말기(720)로부터 상기 제1 통화 애플리케이션 데이터가 수신되면, 도 10b와 같이, 상기 수신된 제1 통화 애플리케이션 데이터로부터 착신 가이드 데이터(1010)를 독출하고 이를 처리하여 “전화가 왔습니다. 연결하시겠습니까? (Y/N)”과 같은 가이드 데이터를 스크린상에 출력한다(S812). As described above, through step S806, when an incoming call (call connection request) is detected in the
상기 가이드 데이터를 통해 사용자가 디지털 TV(710) 상에서 착신을 허락하면, 상기 디지털 TV(710)는 통화 애플리케이션 데이터를 요청하고, 이동 단말기(720)의 응답에 따라 디지털 TV를 통한 착신 서비스를 제공한다. 이때, 상기 이동 단말기(720)상의 영상/음성 통화 애플리케이션을 디지털 TV(710) 상에서 이용하는 경우, 오디오 내지 음성 데이터의 처리에 문제가 발생할 수 있다. 예컨대, 상기 이동 단말기(720)상에서 통화 애플리케이션이 실행되면, 미러링 서비스를 위해 오프되었던 상기 이동 단말기(720)의 스피커와 마이크가 자동으로 온 되고, 상기 스피커를 통해 발신자의 음성 데이터가 출력되고, 상기 마이크를 통해 착신자의 음성 데이터가 입력된다. 다만, 사용자가 이동 단말기(720)를 소지하고 있지 않다면, 이동 단말기(720)의 스피커를 통한 발신자의 음성 데이터를 확인하기 어렵고, 상기 이동 단말기(720)의 마이크를 통한 착신자의 음성 데이터를 입력 및 전달이 어려운 문제점이 있다. 즉, 상기와 같은 경우, 통화가 연결되어 통화 서비스를 제대로 이용하기 어려운 문제점이 있다. 또한, 이는 종래 이동 단말기(720)는, 미러링 서비스 중에 착신(통화 연결)에 따라 통화 애플리케이션이 실행되면, 전술한 바와 같이, 디지털 TV(710)의 스피커가 아니라 상기 이동 단말기(720) 자체의 스피커와 마이크를 활용하는 것이 일반적일 뿐만 아니라 이동 단말기(720)에서 디지털 TV(710)가 마이크 장치의 구비 유무를 판단할 수 없고, 디지털 TV(710) 역시 블루투스의 기능을 지원하지 않았기 때문이다.When a user permits an incoming call on the
이러한 문제점을 해소하기 위해, 본 발명에서는 이동 단말기(720)에 착신이 감지되면, 블루투스 통신 프로토콜을 활성화하여 디지털 TV(710)와 이동 단말기(720)를 자동 연결한다. 이와 같이, 상기 블루투스로 상기 디지털 TV(710)와 상기 이동 단말기(720)가 자동 연결되면, 상기 이동 단말기(720)는 디지털 TV(710)를 블루투스 헤드-셋으로 인식하여 스피커를 오프하고, 상기 디지털 TV(710)는 상기 이동 단말기(720)를 오디오 입/출력 장치로 인식하게 된다. 이때, 발신자의 음성 데이터는 상기 디지털 TV(710)의 스피커를 통해 출력하고, 착신자의 음성 데이터는 예를 들어, TV 마이크(microphone), 리모컨 마이크 또는 웨어러블 디바이스의 마이크 등을 통해 상기 이동 단말기로 전송하여 통화 서비스를 이용할 수 있게 된다. 한편, 상기와 같이 블루투스 연결을 통한 통화 서비스는, 상기 디지털 TV(710)와 이동 단말기(720) 사이에 미러링 서비스와 무관하게 이용할 수 있다. In order to solve this problem, in the present invention, when an incoming call is detected by the
한편, 본 발명에서는, 상기 블루투스 기능과 관련하여, 디지털 TV(710)에서 블루투스 표준의 HSP(Head Set Profile), HFP(Hands Free Profile) 기능 등에 관한 다양한 프로파일들을 지원하는 것을 가정한다. 그리고 상기 블루투스 표준 및 상기 프로파일들에 대한 상세한 설명은 해당 표준에서 정의하고 개시한 내용을 참조하고, 여기서는 생략한다.Meanwhile, in the present invention, in relation to the Bluetooth function, it is assumed that the
S812 단계에서, 디지털 TV(710)에서 이동 단말기의 착신 가이드 데이터를 도 10b와 같이 출력 후, 사용자가 리모컨 등을 통해 상기 디지털 TV(710)를 통한 착신을 허락하면, 상기 디지털 TV(710)는 제2 통화 애플리케이션 데이터를 요청한다(S814). 여기서, 상기 제2 통화 애플리케이션 데이터라 함은 예컨대, 음성 통화인 경우에는 발신자의 음성 데이터를, 그리고 영상 통화 경우에는 발신자의 이미지/비디오 및 음성 데이터를 포함한다.In step S812, when the
이동 단말기(720)는 S814 단계의 제2 통화 애플리케이션 데이터 요청이 수신되면, 상기 요청된 제2 통화 애플리케이션 데이터 전송을 위해, 디지털 TV(710)와 블루투스 연결을 활성화한다(S816).When the second call application data request in step S814 is received, the
상기 S816 단계를 통해 디지털 TV(710)와 이동 단말기(720)가 상호 간에 블루투스 연결이 활성화되면, 상기 이동 단말기(720)는 요청된 제2 통화 애플리케이션 데이터를 상기 디지털 TV(710)로 전송한다(S818).When the Bluetooth connection between the
디지털 TV(710)는 상기 S818 단계를 통해, 이동 단말기(720)로부터 제2 통화 애플리케이션 데이터가 수신하고, 이를 처리하여 스크린 및/또는 스피커를 통해 출력한다(S820). 따라서, 착신자(사용자)는 디지털 TV(710)를 통해 미러링 서비스 중에도 이동 단말기(720)의 음성/영상 통화 서비스를 이용할 수 있다(S820).The
이후, 디지털 TV(710)는 착신자의 입력에 따라 제어 커맨드(control command)를 이동 단말기(720)로 전송(S822)하고, 이동 단말기(720)는 상기 제어 커맨드에 대응되는 응답한다(S824).Thereafter, the
상기 제어 커맨드는, 디지털 TV(710)에서 착신자가 이동 단말기(720)의 통화 서비스 이용 과정에서 이루어질 수 있는 모든 제어에 관한 내용을 포함할 수 있다. 한편, 디지털 TV(710)는, 상기 제어 커맨드를 입력받기 위하여, 스크린상에 상기 제어 커맨드와 관련된 UI/UX를 생성하여 제공할 수 있다. 따라서, 착신자(사용자)는 디지털 TV를 통해 이동 단말기의 통화 서비스를 이용하면서, 마치 이동 단말기상에서 통화 서비스를 이용하는 경우와 동일한 경험을 할 수 있다. 예를 들어, 영상 통화 서비스 경우에, 발신자와 착신자의 이미지 해상도, 이미지 크기, 이미지 출력 위치 등에 대한 제어도 가능하며, 발신자와 착신자의 오디오 볼륨 조절 등도 리모컨을 통한 디지털 TV의 스크린상에 제공된 UI/UX를 액세스함으로써 제어 가능하다. 또한, 통화 시에 음성 통화와 영상 통화 간에 전환도 가능하며, 통화 종료 UI를 통해 통화 서비스 종료도 가능하다. 이 경우, 이동 단말기 역시 통화 종료되고, 이때 상기 통화 서비스를 위해 연결된 블루투스 연결을 해제하거나 계속하여 유지할 수도 있다. 후자와 같이 블루투스 연결을 계속하는 경우에도, 소정 시간동안 계속하여 통화 서비스가 이용되지 않거나 이동 단말기의 배터리 레벨이 미리 정한 범위보다 낮은 경우에는 그 연결을 해제할 수도 있다.The control command may include information on all controls that the called party can perform in the process of using the call service of the
도 11은 본 발명의 일 실시 예에 따른 이동 단말기와 연결된 디지털 TV에서 통화 애플리케이션 데이터 처리 방식에 대한 도면이다.11 is a diagram illustrating a method of processing call application data in a digital TV connected to a mobile terminal according to an embodiment of the present invention.
도 11b에서 디지털 TV는 도 11a의 이동 단말기의 통화 애플리케이션 화면과 동일한 화면을 제공할 수 있다. 이 경우, 도 11b와 같이, 디지털 TV의 스크린(1110) 전체를 통해 이동 단말기 상의 통화 애플리케이션 데이터가 제공될 수 있다. In FIG. 11B , the digital TV may provide the same screen as the call application screen of the mobile terminal of FIG. 11A . In this case, as shown in FIG. 11B , call application data on the mobile terminal may be provided through the
도 11c를 참조하면, 스크린(1120)상에는 미러링 데이터 또는 TV 서비스 데이터가 출력되고, 통화 애플리케이션 데이터는 A 영역에 제공되는 윈도우(1130) 및/또는 B 영역에 제공되는 윈도우(1135)상에 PIP(Picture in Picture) 등의 형태로 출력될 수 있다. 만약 상기에서 디지털 TV의 A 영역 윈도우(1130)나 B 영역 윈도우(1135) 중 어느 한 윈도우 상에서만 출력될 경우에는, 착신자의 이미지는 제공되지 않고 발신자의 이미지만 출력이 될 수 있다. 그러나 A 영역 윈도우(1130)와 B 영역 윈도우(1135) 모두 통화 애플리케이션을 위해 제공된다면, 둘 중 일 윈도우 상에는 발신자의 이미지가 그리고 다른 윈도우 상에는 착신자의 이미지가 제공될 수 있다. 한편, 해당 영역에서는 통화 애플리케이션 이용, 제어 등을 위한 다양한 키 버튼 UI가 제공될 수 있다. 한편, 상기 A 영역(1130)과 B 영역(1135)의 위치, 사이즈 등은 임의로 조절 가능하다. 예컨대, 발신자의 이미지가 출력되는 윈도우는 착신자의 이미지가 출력되는 윈도우와 사이즈가 동일할 수도 있고 더 클 수도 있다.11c, mirroring data or TV service data is output on the
한편, 도 11d를 참조하면, 디지털 TV는 화면을 2분할하여 제1 분할 윈도우 상에서는 미러링 데이터 또는 TV 서비스 데이터를 종전과 같이 계속하여 제공하고, 제2 분할 윈도우 상에서는 이동 단말기로부터 수신되는 통화 애플리케이션 데이터를 제공할 수 있다. 상기 제1 분할 윈도우 상에서 제공되는 미러링 데이터 또는 TV 서비스 데이터는 예컨대, 화면 재구성에 따라 해당 윈도우 사이즈에 맞게 재구성될 수 있다.On the other hand, referring to FIG. 11D , the digital TV divides the screen into two and continues to provide mirroring data or TV service data on the first split window as before, and the call application data received from the mobile terminal on the second split window. can provide Mirroring data or TV service data provided on the first split window may be reconfigured to fit a corresponding window size according to, for example, screen reconfiguration.
한편, 도 11b와 같이, 통화 애플리케이션 데이터가 디지털 TV의 스크린 전면을 통해 제공되는 경우에는, 미러링 데이터나 TV 서비스 데이터는 백그라운드로 전환되며, 재생정지, 북마크(bookmark), 타임-머신(Time-machine) 기능이 자동으로 이루어질 수 있다.On the other hand, as shown in Figure 11b, when the call application data is provided through the front screen of the digital TV, the mirroring data or TV service data is switched to the background, playback stop, bookmark (bookmark), time-machine (Time-machine) ) function can be done automatically.
또한, 도 11c나 11d와 같이, 통화 애플리케이션 데이터가 디지털 TV의 스크린 전면이 아닌 일부 영역 상에서 윈도우를 통해 제공되는 경우에는, 기 제공 중인 미러링 데이터나 TV 서비스 데이터는 재생 정지될 수도 있으나 그렇지 않은 경우에는 비디오는 계속하여 제공하되, 오디오를 뮤트(Mute)하여 제공할 수 있다. 이 경우, 뮤트 처리된 오디오 데이터는 그에 대응되는 캡션 처리나 서브타이틀 처리를 할 수도 있다. 그러나 만약 재생 정지된 경우에는, 북마크, 타임머신 기능이 자동으로 수행될 수도 있다.In addition, as shown in FIG. 11c or 11d, when the call application data is provided through a window on a partial area other than the front of the screen of the digital TV, the mirroring data or TV service data that is being provided may be stopped from being reproduced. The video may be provided continuously, but the audio may be muted. In this case, the muted audio data may be subjected to corresponding caption processing or subtitle processing. However, if playback is stopped, bookmark and time machine functions may be performed automatically.
도 11b 내지 11d의 이동 단말기상의 통화 애플리케이션 화면을 디지털 TV에서 제공함은, 전술한 바와 같이, 최초 통화 연결 시뿐만 아니라 상기 이동 단말기를 통해 통화 애플리케이션을 이용하는 중간에도 이루어질 수 있다.As described above, providing the screen of the call application on the mobile terminal of FIGS. 11B to 11D through the digital TV may be performed not only during the initial call connection but also during the use of the call application through the mobile terminal.
도 12는 본 발명의 일 실시 예에 따른 미러링 데이터와 통화 애플리케이션 데이터 처리 방식을 설명하기 위한 도면이다.12 is a view for explaining a method of processing mirroring data and call application data according to an embodiment of the present invention.
미러링 데이터는 전술한 도 9와 같이, 와이-파이 다이렉트 통신 프로토콜에 따라 동일한 방식으로 이동 단말기(720)에서 디지털 TV(710)로 전달된다. 이때, 상기 미러링 데이터를 처리 중에 통화 연결을 위한 이동 단말기(720)와 디지털 TV(710) 사이에 블루투스 연결이 활성화되면, 발신자의 음성 데이터는 블루투스 통신 프로토콜을 통해 전송된다. 또한, 착신에 따른 통화 연결시 상기 이동 단말기에서 영상 통화 애플리케이션이 실행되면, 기 전송 중인 미러링 TS는 중단되고, 영상 통화를 위한 이미지/비디오 데이터가 와이-파이 다이렉트 통신 프로토콜에 따라 TS 형태로 전송된다. 상기 영상 통화 TS는 디지털 TV의 수신부(1210)를 거쳐, 역다중화부(1220)에서 역다중화되는데, 역다중화된 이미지/비디오 데이터는 비디오 디코더(1230)로 전송되나, 역다중화된 오디오 데이터는 오디오 디코더(1240)로 전달하지 않고 버린다. 다시 말해, 영상 통화 TS 내 오디오 데이터는 오디오 디코더(1240)에서 디코딩 처리하지 않는다. 한편, 이동 단말기(720)로부터 블루투스 통신 프로토콜에 따라 수신되는 발신자의 음성 데이터는, 디지털 TV(710)의 수신부(1210) 또는 수신부(1210) 및 역다중화부(1220)를 거쳐 오디오 디코더(1240)로 전달되어 디코딩 처리된다. 그리고 상기 비디오 디코더(1230)와 오디오 디코더(1240)에서 디코딩된 비디오 데이터와 오디오 데이터는, 디지털 TV(710)의 스크린과 스피커를 통해 각각 출력된다.The mirroring data is transmitted from the
상기에서, 발신자의 이미지/비디오 데이터와 음성 데이터는, 이동 단말기(720)로부터 디지털 TV(710)로 전달되는 경로(path) 내지 통신 프로토콜이 서로 상이하며 그에 따른 데이터 포맷 역시 상이할 수 있다. 또한, 전달된 각 데이터는 디지털 TV(710) 내에서 처리 과정 내지 경로 역시 상이할 수 있다. 또한, 디지털 TV(710) 상에서 상기 통화 애플리케이션 데이터를 처리 과정에서 노이즈(Noise), 립 싱크(lip sync) 등의 문제가 발생할 수 있다. 이에 대해서는 후술하는 도면을 참조하여, 더욱 상세하게 설명한다.In the above, the sender's image/video data and voice data may have different paths or communication protocols transmitted from the
도 13은 본 발명의 일 실시 예에 따른 디지털 TV와 리모컨을 이용하여 이동 단말기의 통화 애플리케이션 데이터를 처리하는 방법을 설명하기 위한 플로우 챠트이다.13 is a flowchart illustrating a method of processing call application data of a mobile terminal using a digital TV and a remote control according to an embodiment of the present invention.
여기서, 도 13은 도 7의 상세 순서도로 볼 수도 있다. 한편, 상기 디지털 TV(1320) 또는 리모컨(1310)은 웨어러블 디바이스(ex, 스마트 워치)로 대체될 수도 있다. 또한, 이동 단말기(1330)도 웨어러블 디바이스로 대체될 수도 있다.Here, FIG. 13 may be viewed as a detailed flowchart of FIG. 7 . Meanwhile, the
도 13을 참조하면, 본 발명에 따라 디지털 TV(1320)에서 통화 서비스를 제공하기 위해서는 리모컨(1310) 및 이동 단말기(1330)와 각각 페어링한다(S1302/S1304). 이의 순서는 문제되지 않는다. 한편, 상기 리모컨(1310)은 주로 디지털 TV(1320)와 세트로 전용 제어 수단으로서 별도의 페어링 과정이 수행되지 않을 수도 있다.Referring to FIG. 13 , in order to provide a call service in the
도 13에서는 편의상 전술한 미러링 데이터 송수신 및 처리 과정은 생략한다.In FIG. 13, for convenience, the above-described mirroring data transmission/reception and processing processes are omitted.
이동 단말기(1330)는 상기 페어링 이후에 착신이 감지되면(S1306), 상기 착신 감지에 따른 착신 가이드 데이터를 디지털 TV(1320)로 전송하고(S1308), 디지털 TV는 착신 가이드 데이터를 스크린상에 출력한다(S1310).When an incoming call is detected after pairing (S1306), the mobile terminal 1330 transmits incoming guide data according to the incoming detection to the digital TV 1320 (S1308), and the digital TV outputs the incoming guide data on the screen do (S1310).
디지털 TV(1320)는 리모컨(1310)을 통해 상기 출력된 착신 가이드 데이터에 관한 제1 제어 커맨드를 수신하면(S1312), 이를 이동 단말기(1330)로 전달하여 제1 통화 애플리케이션 데이터를 요청한다(S1314).When the
이때, 통화 서비스를 위해 디지털 TV(1320)와 이동 단말기(1330)는 상호 간에 블루투스로 연결된다(S1316). 상기 블루투스 연결이 활성화되면, 이동 단말기(1330)는 요청된 제1 통화 애플리케이션 데이터를 디지털 TV(1320)로 전송한다(S1318). 전술한 바와 같이, 제1 통화 애플리케이션 데이터 내 발신자의 이미지/비디오 데이터는 와이-파이 다이렉트 방식으로 전달되고, 발신자의 음성 데이터는 블루투스 방식으로 전달된다.In this case, the
디지털 TV(1320)는 수신한 제1 애플리케이션 데이터를 처리하여 스크린과 스피커를 통해 출력한다(S1320).The
그리고 리모컨(1310)은 착신자의 비디오/음성 데이터에 관한 제2 통화 애플리케이션 데이터를 디지털 TV(1320)로 전송하고, 상기 디지털 TV(1320)는 리모컨(1310)으로부터 수신한 제2 통화 애플리케이션 데이터를 이동 단말기(1330)로 전달한다. 상기 착신자의 비디오/음성 데이터는 전술한 발신자의 비디오/음성 데이터와 동일한 방식으로 이동 단말기를 통해 발신자에게 전달된다(S1324).And the
리모컨(1310)은 통화 서비스 종료에 관한 제2 제어 커맨드를 디지털 TV(1320)로 전송하고(S1326), 상기 디지털 TV(1320)는 상기 제2 제어 커맨드를 이동 단말기(1330)로 전송한다(S1328). 이동 단말기(1330)는, 상기 제2 제어 커맨드 수신에 따른 응답을 상기 디지털 TV(1320)로 전송한다. 즉, 통화 서비스를 종료한다.The
한편, 상기 S1318 단계 내지 S1324 단계는, 통화 서비스 종료시 즉, 이동 단말기(1330)에서 제2 제어 커맨드 수신 시까지 계속하여 반복되어 수행될 수 있다.Meanwhile, steps S1318 to S1324 may be continuously and repeatedly performed when the call service is terminated, that is, until the
도 14는 본 발명의 일 실시 예에 따라 디지털 TV를 통해 통화 애플리케이션 데이터 처리 과정에서 발생되는 립 싱크(lip sync) 문제 해소 방안을 설명하기 위해 도시한 도면이고, 도 15는 본 발명의 일 실시 예에 따른 디지털 TV에서 립 싱크 처리 방법에 대한 플로우 챠트이다.14 is a diagram for explaining a method for solving a lip sync problem occurring in the process of processing call application data through a digital TV according to an embodiment of the present invention, and FIG. 15 is an embodiment of the present invention. It is a flowchart for a lip sync processing method in a digital TV according to
전술한 바와 같이, 이동 단말기의 통화 애플리케이션 데이터 즉, 발신자의 이미지/비디오 데이터와 발신자의 음성 데이터는 서로 다른 통신 프로토콜 및 경로에 따라 디지털 TV로 제공된다. 이때, 디지털 TV는 통화 서비스를 제공하기 위해 상기 발신자의 이미지/비디오 데이터와 발신자의 음성 데이터의 립 싱크를 어떻게 맞추느냐가 관건이다. 만약 상기 립 싱크를 맞추지 못하면, 착신자는 통화 서비스에 대한 불편함을 느낄 수가 있다. 따라서, 상기 디지털 TV는 립 싱크 문제를 해소하여야 한다.As described above, the call application data of the mobile terminal, ie, the image/video data of the caller and the voice data of the caller, are provided to the digital TV according to different communication protocols and routes. In this case, the key to the digital TV is how to lip sync the caller's image/video data and the caller's voice data to provide a call service. If the lip sync is not matched, the called party may feel uncomfortable with the call service. Accordingly, the digital TV needs to solve the lip sync problem.
본 명세서에서는, 디지털 TV에서 통화 서비스에 따른 립 싱크 문제 해소 방안으로, 다음과 같은 실시 예들을 개시한다.In this specification, as a solution to the lip sync problem according to a call service in a digital TV, the following embodiments are disclosed.
본 발명에 따른 일 실시 예는, 타임스탬프(time-stamp)를 이용하여 립 싱크를 보정하는 것이다. 이때, 상기 타임 스탬프의 발행 주체는 이동 단말기이다. 다시 말해, 이동 단말기는, 디지털 TV로 통화 애플리케이션 데이터 전송 시에, 타임스탬프를 생성하여 함께 전송하는 것이다. 여기서, 상기 타임스탬프는 발신자의 이미지/비디오 데이터 및 발신자의 음성 데이터에 모두 포함되거나 발신자의 음성 데이터에만 포함될 수 있다. 한편, 상기 타임스탬프는, 해당 데이터의 헤더(header) 구조에 포함되어 전송될 수 있다. According to an embodiment of the present invention, lip sync is corrected using a time-stamp. In this case, the issuing subject of the time stamp is a mobile terminal. In other words, when the mobile terminal transmits the call application data to the digital TV, a timestamp is generated and transmitted together. Here, the timestamp may be included in both the caller's image/video data and the caller's voice data, or may be included only in the caller's voice data. Meanwhile, the timestamp may be transmitted while being included in a header structure of the corresponding data.
예를 들어, 통화 서비스를 이용하는 중에 발신자는 항상 말을 하는 것이 아닐 수도 있다. 따라서, 발신자의 음성 데이터를 전송함에 있어서, 상기 발신자의 실제 음성이 존재하지 않는 구간의 음성 데이터의 처리가 문제될 수 있다. 이 경우에는, 이동 단말기는 발신자의 실제 음성이 존재하지 않는 구간의 음성 데이터는 전송하지 않거나 널 데이터(null data)를 삽입하여 전송할 수 있다. 한편, 상기 타임스탬프는 매 전송되는 데이터 프레임(data frame) 전부 또는 일부에만 포함될 수 있다. 후자의 경우 특히, 발신자의 실제 음성이 존재하는 음성 데이터에만 타임 스탬프를 포함할 수 있다.For example, the caller may not always speak while using a call service. Accordingly, in transmitting the caller's voice data, processing of voice data in a section in which the caller's actual voice does not exist may be problematic. In this case, the mobile terminal may not transmit voice data of a section in which the caller's actual voice does not exist or may transmit null data by inserting null data. Meanwhile, the timestamp may be included in all or a part of every data frame transmitted. In the latter case, in particular, the time stamp may be included only in voice data in which the caller's actual voice exists.
본 발명에 따른 다른 실시 예로는, 디지털 TV에서 이동 단말기로부터 수신되는 통화 애플리케이션 데이터 즉, 이미지/비디오 데이터와 오디오 데이터를 딜레이 없이(No delay) 즉시 재생함으로써 립 싱크를 보정하는 것이다. 디지털 디바이스는 일반적으로 디코딩된 비디오 데이터와 오디오 데이터를 버퍼에서 일시 저장 후에 출력한다. 이는 싱크를 맞추기 위한 방법의 하나이나 전술한 타임스탬프가 없다면, 오히려 싱크를 맞추기가 더 어려울 수 있다. 따라서, 이를 보정하기 위해 본 발명에서는 디코딩된 비디오 데이터와 오디오 데이터를 디코딩 즉시 딜레이 없이 출력하는 것이다. 이와 같이, 노 딜레이 방식으로 출력하면, 립 싱크 문제를 해소할 수도 있다.According to another embodiment of the present invention, lip sync is corrected by immediately reproducing call application data, that is, image/video data and audio data received from a mobile terminal in a digital TV without delay. Digital devices generally output decoded video data and audio data after temporarily storing them in a buffer. This is one of the methods for synchronizing, but without the aforementioned timestamp, it may be more difficult to synchronize. Therefore, in order to correct this, in the present invention, decoded video data and audio data are output immediately without delay after decoding. In this way, if the output is performed in the no-delay method, the lip sync problem may be solved.
또한, 본 발명에 따라 상기 타임스탬프와 노 딜레이 방식을 조합하여 립 싱크 보정에 이용할 수도 있다. 예를 들어, 발신자의 최초 이미지/비디오 프레임과 음성 프레임에 대해서는 타임스탬프를 이용하여 립 싱크를 보정하고, 이후 프레임들에 대해서는 노 딜레이 방식을 적용하는 것이다. Also, according to the present invention, the timestamp and the no-delay method may be combined and used for lip sync correction. For example, lip sync is corrected using timestamps for the sender's first image/video frame and voice frame, and a no-delay method is applied to subsequent frames.
디지털 TV는 립 싱크 보정을 위해 도 15와 같이 처리할 수도 있다. 도 15를 참조하면, 디지털 TV는 통화 애플리케이션 데이터가 수신되면(S1502), 이를 디코딩한다(S1504). 여기서, 상기 통화 애플리케이션 데이터는 오디오, 비디오 데이터를 구분하지 않고 통칭하였는바, 그 구체적인 처리 과정은 전술한 내용을 참고한다.The digital TV may process as shown in FIG. 15 for lip sync correction. Referring to FIG. 15 , when the call application data is received (S1502), the digital TV decodes it (S1504). Here, the call application data is collectively referred to as audio and video data without distinction, and the detailed processing procedure is referred to above.
디지털 TV는 디코딩된 통화 애플리케이션 데이터로부터 상기 통화 애플리케이션 데이터에 타임스탬프 포함 여부를 판단한다(S1506).The digital TV determines whether a timestamp is included in the call application data from the decoded call application data (S1506).
상기 S1506 단계 판단 결과, 만약 통화 애플리케이션 데이터에 타임스탬프가 포함되었으면, 상기 타임스탬프에 따라 데이터를 처리하여 발신자의 이미지/비디오 데이터와 발신자의 음성 데이터의 싱크를 맞추어 스크린과 스피커를 통해 각각 출력한다(S1512). 이때, 전술한 바와 같이, 타임스탬프 방식은 노 딜레이 방식과 함께 이용될 수 있다(S1510).As a result of the determination in step S1506, if a timestamp is included in the call application data, the data is processed according to the timestamp and the image/video data of the caller and the voice data of the caller are synchronized and output through the screen and the speaker, respectively ( S1512). In this case, as described above, the timestamp method may be used together with the no-delay method (S1510).
상기 S1506 단계 판단 결과, 만약 통화 애플리케이션 데이터에 타임스탬프가 포함되지 않았으면, 디지털 TV는 발신자의 이미지/비디오 데이터와 발신자의 음성 데이터를 딜레이없이 바로 출력되도록 처리하여(S1510), 스크린과 스피커를 통해 각각 출력한다(S1512).As a result of the determination in step S1506, if the time stamp is not included in the call application data, the digital TV processes the caller's image/video data and the caller's voice data to be output directly without delay (S1510), through the screen and speaker Each is output (S1512).
도 16은 본 발명의 일 실시 예에 따라 디지털 TV를 통해 통화 서비스 제공 시에 통화 서비스 품질 제고를 위한 오디오 엔진(audio engine) 이용을 설명하기 위해 도시한 도면이다.16 is a diagram illustrating use of an audio engine for improving call service quality when a call service is provided through a digital TV according to an embodiment of the present invention.
도 16을 참조하면, 착신자는 리모컨의 마이크를 이용하여 음성 데이터를 이동 단말기로 전송 가능하다. 이때, 상기 음성 데이터에는 착신자의 음성 데이터뿐만 아니라, 디지털 TV의 스피커를 통해 출력 중인 컨텐트나 발신자의 음성 데이터가 포함될 수 있다. Referring to FIG. 16 , the called party can transmit voice data to the mobile terminal using the microphone of the remote control. In this case, the voice data may include not only the receiver's voice data, but also content being output through the speaker of the digital TV or the caller's voice data.
다시 말해, 본 발명에 따라 이동 단말기 자체 즉, 이동 단말기를 통해 통화를 하는 것이 아니라, 디지털 TV를 통해서 영상/음성 통화를 하는 경우에는, 상기 이동 단말기와 디지털 TV의 속성 내지 특성에 따라 그 통화 품질이 다를 수 있다. 예컨대, 이동 단말기의 스피커와 디지털 TV의 스피커의 출력에 차이에 따른 에코 리크(echo leak) 현상 등이 있을 수 있다. 그리고 이동 단말기는 스피커와 착신자 사이의 거리의 짧거나 거의 접촉되어 있음에 비해, 디지털 TV는 스피커와 착신자 사이의 거리가 상대적으로 이동 단말기에 비해 길 수 있다. 이에 따른 출력 레벨의 제어가 필요할 수도 있다. 한편, 이동 단말기의 스피커와 마이크를 통하는 경우에, 착신자와 발신자의 통화 사이에 노이즈가 포함될 확률이 현저히 낮거나 적음에 비하여, 상대적으로 디지털 TV와 연결된 리모컨의 마이크를 이용하는 경우에는 디지털 TV의 스피커를 통해 출력되는 발신자의 음성 데이터, 기타 방송 등 서비스에 대한 오디오 데이터 등이 노이즈로 포함될 수 있다. 그 밖에, 오디오 딜레이 증가에 따른 오디오 품질 저하의 문제도 있을 수 있다. 따라서, 디지털 TV를 통한 이동 단말기의 통화 애플리케이션 데이터 처리 과정에서 통화 품질 개선을 위해서는, 특히 오디오 데이터의 개별 처리가 요구될 수 있다.In other words, in the case of making a video/audio call through a digital TV rather than the mobile terminal itself, that is, through the mobile terminal according to the present invention, the call quality depends on the properties or characteristics of the mobile terminal and the digital TV. This can be different. For example, there may be an echo leak phenomenon due to a difference between the output of the speaker of the mobile terminal and the speaker of the digital TV. In addition, the distance between the speaker and the called party in the mobile terminal is short or in close contact, whereas in the digital TV, the distance between the speaker and the called party may be relatively long compared to that of the mobile terminal. Accordingly, it may be necessary to control the output level. On the other hand, when the microphone of the remote control connected to the digital TV is used, the speaker of the digital TV is relatively low compared to the probability that noise is included between the call between the called party and the calling party when the speaker and the microphone of the mobile terminal are used. The caller's voice data output through the channel, audio data for other services such as broadcasting, etc. may be included as noise. In addition, there may be a problem of audio quality degradation due to an increase in audio delay. Accordingly, in order to improve call quality in the process of processing call application data of the mobile terminal through the digital TV, in particular, individual processing of audio data may be required.
본 발명에서는, 도 16에 도시된 바와 같이, 디지털 TV 내지 리모컨 내에 오디오 엔진을 구성하여 통화 품질을 개선하고자 한다. 상기 오디오 엔진에서는, 팬소리 제거 등을 위한 노이즈 리덕션(Noise Reduction; NR), 스피커와 착신자의 거리나 이동 단말기와 디지털 TV 스피커의 출력 차이에 따른 출력 레벨 조정을 위한 오토 게인 컨트롤(Auto Gain Control; AGC), 착신자의 자신의 목소리가 포함됨에 따라 발생되는 노이즈 제거를 위한 어코스틱 에코 캔슬레이션(Acoustic Echo Cancellation; AEC) 중 적어도 하나 이상을 처리한다. 그 밖에, 디지털 TV는 리모컨의 마이크를 통해 입력되는 착신자의 음성 데이터 중에 스피커를 통해 출력 중인 방송 등 서비스 데이터나 발신자의 목소리는 이미 알고 있는 데이터이므로 이를 보정한다. 한편, 본 발명에서는 이러한 오디오 엔진을 하드웨어 또는 소프트웨어적으로 처리할 수 있다.In the present invention, as shown in FIG. 16 , an audio engine is configured in a digital TV or a remote control to improve call quality. In the audio engine, noise reduction (NR) for removing fan noise, etc., auto gain control for adjusting the output level according to the distance between the speaker and the called party or the output difference between the mobile terminal and the digital TV speaker; AGC) and Acoustic Echo Cancellation (AEC) for removing noise generated when the callee's own voice is included. In addition, in the digital TV, service data such as broadcast being output through a speaker or the caller's voice among the voice data of the called party input through the microphone of the remote control are already known data, so it corrects them. Meanwhile, in the present invention, such an audio engine may be processed by hardware or software.
한편, 디지털 TV는 리모컨을 이용하여 이동 단말기로 전송될 착신자의 음성 데이터뿐만 아니라, 이동 단말기로부터 수신되는 발신자의 음성 데이터도 오디오 엔진 처리를 하여 출력 레벨 조정 등 통화 품질 개선을 위한 처리를 할 수 있다.On the other hand, the digital TV uses the remote control to process not only the receiver's voice data to be transmitted to the mobile terminal, but also the caller's voice data received from the mobile terminal by processing the audio engine to improve the call quality, such as adjusting the output level. .
도 17은 본 발명에 따라 디지털 TV를 통해 통화 애플리케이션 데이터 처리 시에 노이즈 사운드 감경 방법에 대한 가이드 데이터의 일 실시 예를 도시한 도면이다.17 is a diagram illustrating an embodiment of guide data for a method for reducing noise when processing call application data through a digital TV according to the present invention.
도 17은 설정 메뉴나 통화 애플리케이션을 디지털 TV에서 이용하는 과정에서, 도 16과 같이 오디오 엔진을 이용한 통화 품질 개선 처리 제어를 위한 가이드 데이터를 제공하는 화면이다.17 is a screen for providing guide data for controlling call quality improvement processing using an audio engine as shown in FIG. 16 in the process of using a setting menu or a call application on the digital TV.
도 17을 참조하면, 디지털 TV는 사용자에게 노이즈 사운드 경감 내지 제거를 위하여, 오디오 엔진을 이용하거나 볼륨 리덕션(Volume reduction) 방식 중 어떤 방식을 이용할 것인지 가이드 데이터를 제공하고, 사용자의 선택에 따라 동작한다.Referring to FIG. 17 , the digital TV provides guide data on whether to use an audio engine or a volume reduction method to reduce or remove noise sound to the user, and operates according to the user's selection. .
이는 예컨대, 오디오 엔진을 이용하는 경우에는 CPU와 같은 칩-셋의 파워를 소모하게 되는 등의 문제가 있을 수 있으므로 단순하게 볼륨을 줄여 노이즈를 최소화하는 방식을 이용할 것인지 등을 가이드하는 것이다. 예컨대, 이러한 가이드 데이터는 소모 전력이나 배터리 잔량 등에 민감한 디바이스의 경우에는 유용 또는 효율적일 수 있다.This is to guide whether to use a method of minimizing noise by simply reducing the volume, since, for example, when an audio engine is used, there may be a problem such as consuming the power of a chip-set such as a CPU. For example, such guide data may be useful or efficient in the case of a device sensitive to power consumption or remaining battery power.
한편, 본 발명에서는 도 17과 같이 가이드 하지 않고, 필요나 디바이스 상태 등을 고려하여, 자동으로 디지털 디바이스가 상기 둘 중 어느 방식을 적용하여 오디오 처리를 할 수도 있다.On the other hand, in the present invention, the audio processing may be performed by automatically applying any of the two methods to the digital device in consideration of necessity or device state, without guiding as shown in FIG. 17 .
상술한 내용은 주로, 이동 단말기와 디지털 TV가 미라캐스트 등 데이터 공유(미러링 서비스) 시에, 영상 통화 시에 대한 설명이었다. 만약 상기에서 영상 통화를 대신하여 음성통화만을 원하는 경우에는, 상술한 내용 중 이미지/비디오 처리에 관한 내용을 제외하고는 그대로 적용 가능하다. 한편, 음성 통화만을 하는 경우에는, 디지털 TV는 미러링 데이터 또는 TV 데이터를 중단없이 계속하여 시청 가능하며, 다만 상기 미러링 데이터 또는 TV 데이터 중 오디오 데이터만을 뮤트하면 된다. 이 경우, 캡션이나 서브-타이틀 데이터가 있다면 그를 통해 자동으로 뮤트된 음성 데이터에 대응되는 자막 데이터를 제공하면 된다.The above description was mainly about the time when the mobile terminal and the digital TV share data (mirroring service) such as Miracast, and the video call. If only a voice call is desired instead of a video call, it can be applied as it is, except for the image/video processing among the above. On the other hand, when only voice calls are made, digital TV can continuously watch mirroring data or TV data without interruption, but only audio data among the mirroring data or TV data needs to be muted. In this case, if there is caption or sub-title data, caption data corresponding to the automatically muted audio data may be provided through it.
한편, 디지털 TV와 이동 단말기가 페어링 및/또는 미라캐스트가 활성화되지 않은 상태에서, 상기 디지털 TV를 시청 중인 동안에 상기 이동 단말기에 전화 연결 요청 즉, 착신된 경우에도, 상기 디지털 TV를 통해서 통화 서비스를 즐길 수 있다.On the other hand, while the digital TV and the mobile terminal are not paired and/or Miracast is not activated, a call service is provided through the digital TV even when a call connection request is made to the mobile terminal while watching the digital TV. You can enjoy it.
상기에서, 이동 단말기는 영상 통화가 착신되면, 상기 이동 단말기의 스크린상에 영상 통화 서비스를 이용할 디바이스 선택을 위한 메뉴가 제공될 수 있다. 간략하게, 이동 단말기, 디지털 TV, 웨어러블 디바이스, 태블릿 PC, 노트북 등을 선택 가능하도록 메뉴 아이템을 제공할 수 있다. 이러한 메뉴 및 메뉴 아이템의 제공은 예컨대, 설정이나 특정 모드에서 동작될 수 있으며, 페어링 가능하거나 페어링된 이동 단말기의 외부 디바이스가 존재하는 경우에 제공될 수 있다. 예컨대, 주변에 통화 서비스를 제공 가능한 외부 디바이스가 탐지되지 않는다면, 굳이 상기 메뉴를 제공하여 사용자의 선택 유도는 불필요하다. 상기 메뉴를 통해, 이동 단말기의 사용자가 통화 서비스를 디지털 TV를 통해 이용하고자 선택한 경우에는, 미러링 서비스를 위한 와이-파이 다이렉트와 블루투스 연결을 자동으로 실행한다. 그리고 전술한 바와 같이, 통화 서비스를 제공할 수 있다. 한편, 상기에서, 별도로 영상 통화 착신 수락 등의 선택을 하지 않더라도, 통화 서비스 이용 디바이스 선택만으로 바로 착신 수락으로 간주하여 이동 단말기와 디지털 TV가 동작될 수 있다.In the above, when a video call is received in the mobile terminal, a menu for selecting a device to use the video call service may be provided on the screen of the mobile terminal. Briefly, a menu item may be provided to select a mobile terminal, a digital TV, a wearable device, a tablet PC, a notebook computer, and the like. The provision of such menus and menu items may be operated, for example, in a setting or a specific mode, and may be provided when an external device of a pairable or paired mobile terminal exists. For example, if an external device capable of providing a call service is not detected in the vicinity, it is unnecessary to induce a user's selection by providing the menu. When the user of the mobile terminal selects to use the call service through the digital TV through the menu, Wi-Fi Direct and Bluetooth connection for the mirroring service are automatically executed. And, as described above, a call service may be provided. Meanwhile, in the above, even if the video call incoming acceptance is not separately selected, the mobile terminal and the digital TV can be operated by directly considering the incoming call acceptance only by selecting the call service using device.
이 경우, 만약 상기 영상 통화가 아닌 음성 통화라면, 상기 디지털 TV와 이동 단말기는 블루투스 연결만을 활성화하여 발신자의 음성 데이터를 TV 스피커를 통해 출력하고, 착신자의 음성 데이터는 리모컨, 웨어러블 디바이스 등을 통해 이동 단말기로 전송한다. 한편, 이 경우에도 디지털 TV는 상기 디지털 TV를 통해 통화 서비스를 이용 중이라는 표시를 스크린상의 일 영역에 제공하고 사용자 또는 함께 시청 중인 다른 사용자가 인식 가능하도록 제공하고, 통화 연결, 통화 종료, 볼륨 조절, 음성/영상 통화 전환 등 통화 서비스 제어를 위한 각종 메뉴 아이템을 제공할 수 있다. 또한, 디지털 TV에서 통화 서비스를 제공하는 경우에는, 자동으로 기 이용 중인 컨텐트의 오디오는 뮤트하고, 캡션이나 서브타이틀이 존재하는 경우를 그를 처리하여 제공할 수 있다.In this case, if it is a voice call rather than the video call, the digital TV and the mobile terminal activate only the Bluetooth connection to output the caller's voice data through the TV speaker, and the called party's voice data is moved through a remote control, wearable device, etc. sent to the terminal. On the other hand, even in this case, the digital TV provides an indication that the call service is being used through the digital TV in one area on the screen, so that the user or other users watching together can recognize it, and connects the call, ends the call, and adjusts the volume. , various menu items for call service control, such as voice/video call conversion, may be provided. In addition, when the digital TV provides a call service, the audio of the content that is already in use is automatically muted, and a case in which a caption or a subtitle exists may be processed and provided.
상기에서는 주로, 미러링 서비스가 비활성화된 경우에, 착신된 경우에 디지털 TV에서 통화 서비스를 이용할 수 있도록 이동 단말기에 메뉴를 제공하는 것으로 설명하였으나, 상기 메뉴는 반드시 이동 단말기에 제공되지 않고, 디지털 TV나 웨어러블 디바이스 등에 제공되고 상술한 방식으로 연결 등 처리되어 통화 서비스가 이루어질 수도 있다.In the above description, the menu is mainly provided to the mobile terminal so that the digital TV can use the call service when the mirroring service is deactivated, and when an incoming call is received, the menu is not necessarily provided to the mobile terminal, and the digital TV or digital TV A call service may be provided by being provided to a wearable device or the like and processing such as connection in the above-described manner.
도 18은 본 발명에 따라 착신자의 이미지/비디오 데이터 획득 과정을 설명하기 위해 도시한 도면이다.18 is a diagram illustrating a process of acquiring image/video data of a called party according to the present invention.
도 18은 특히, 영상 통화가 착신되거나 영상 통화를 발신하는 하는 경우에 대한 것이다. 다시 말해, 도 18은 착신 또는 발신되는 영상 통화를 위한 사용자의 이미지/비디오 데이터 획득 방법을 설명한다. 설명의 편의를 위하여, 이하에서는 영상 통화가 착신되는 경우를 예로 하여 설명한다.18 is particularly for a case in which a video call is received or a video call is made. In other words, FIG. 18 describes a method of acquiring image/video data of a user for an incoming or outgoing video call. For convenience of explanation, a case in which a video call is received will be described below as an example.
이와 같이, 영상 통화를 위한 사용자의 이미지/비디오 데이터를 획득하는 방법은 크게 세 가지가 이용될 수 있다. 하나는 이동 단말기의 카메라 센서를 이용하는 방법이고, 다른 하나는 디지털 TV에 구비된 카메라 센서를 이용하는 방법이고, 또 다른 하나는 주변 카메라 센서 등을 이용하는 방법이다.As described above, three methods may be used to obtain user's image/video data for a video call. One is a method of using a camera sensor of a mobile terminal, the other is a method of using a camera sensor provided in a digital TV, and the other is a method of using a peripheral camera sensor.
도 18을 참조하면, 만약 이동 단말기(1820)가 디지털 TV(1810)의 주변에 위치한 경우에는, 상기 이동 단말기(1820)의 카메라 센서를 통해 착신자의 이미지/비디오 데이터를 획득하고, 획득한 착신자의 이미지/비디오 데이터는 와이-파이 다이렉트로 디지털 TV(1810)로 전송되어 상기 디지털 TV(1810)의 스크린상에 발신자의 이미지/비디오 데이터와 함께 제공될 수 있다. 한편, 상기 이동 단말기(18200는 도시된 바와 같이, 디지털 TV(1810)의 지지부(18300에 거치되거나 베젤(1840) 상에 거치 또는 부착되어 착신자의 이미지/비디오 데이터 획득에 이용될 수 있다. 또는, 상기에서 이동 단말기(1820)의 카메라 센서를 이용하기 위하여, 상기 이동 단말기(1820)를 위한 크래들과 동일 또는 유사한 형태의 구조물이 디지털 TV(1810) 상에 구비될 수도 있다.Referring to FIG. 18 , if the
이때, 이동 단말기(1820)의 카메라는, 착신에 바로 온 될 수도 있고, 착신자의 선택에 따라 온 되어 착신자의 이미지/비디오 데이터를 획득할 수 있다. 영상 통화 애플리케이션이 이동 단말기(1820)에서 실행되면, 전술한 바와 같이, 디지털 TV(1810)의 스크린상에는, 발신자의 이미지/비디오 데이터 출력을 위한 제1 윈도우와 착신자의 이미지/비디오 데이터 출력을 위한 제2 윈도우가 제공이 된다. 이때, 먼저, 착신에 따라 자동으로 온 된 이동 단말기(1820)의 카메라 센서로부터 획득된 이미지/비디오 데이터가 출력이 되는데, 만약 도 18과 달리, 이동 단말기가 사용자의 주변에 있지 않거나 카메라 센서의 지시 방향이 맞지 않아 제대로 된 착신자의 이미지/비디오 획득이 어려운 경우도 있을 수 있다. 이 경우, 사용자 디지털 TV(1810)상의 상기 제2 윈도우를 액세스하면, 이동 단말기(1820)의 카메라 센서 활성화/비활성화 여부, 디지털 TV(1810)의 카메라 센서 이용 여부, 주변 카메라 센서 이용 여부에 대한 가이드 데이터를 제공하고 그 선택에 따를 수 있다. 한편, 주변 카메라 센서가 탐지되면, 그에 관한 리스트도 제공할 수 있다. 주변 카메라 센서를 이용하는 경우에는 착신자의 이미지/비디오 데이터는 디지털 TV(1810)를 거쳐 또는 직접 이동 단말기(1820)로 전송되어, 상기 이동 단말기(1820)를 통해 와이-파이 다이렉트로 다시 디지털 TV(1810)로 전달되고, 상기 디지털 TV(1810)의 스크린상에 제공될 수 있다. 또한, 이렇게 제공된 착신자의 이미지/비디오 데이터를 변경하고 싶은 경우, 전술한 제2 윈도우를 액세스하여 변경 가능하다.In this case, the camera of the mobile terminal 1820 may be turned on immediately for an incoming call, or may be turned on according to the callee's selection to acquire the callee's image/video data. When the video call application is executed in the
한편, 전술한 바와 같이, 영상 통화 착신뿐만 아니라 영상 통화 발신 경우에도 적용 가능하다.Meanwhile, as described above, it is applicable not only to the incoming video call but also to the video call outgoing case.
따라서, 본 발명에 따르면, 미라캐스트 등 이동 단말기와 디지털 TV 사이에 데이터 공유시에, 디지털 TV의 스피커를 통해 통화음이 나오게 되어, 사용자는 상기 이동 단말기를 직접 소지하지 않고도 상기 디지털 TV 상에서 영상 또는 음성 통화를 나눌 수 있다. 이 경우, 이동 단말기의 스피커와 마이크는 오프될 수 있으며, 만약 이동 단말기의 블루투스 디바이스를 오프시키면 다시 상기 이동 단말기의 스피커와 마이크가 온 되어 이용할 수 있다. 이와 같이, 본 발명에 따르면, 데이터 공유 과정에서, 이동 단말기의 어떤 통화 애플리케이션을 이용하여, 영상/음성 통화를 이용할 수 있다.Therefore, according to the present invention, when data is shared between a mobile terminal, such as Miracast, and a digital TV, a call sound comes out through the speaker of the digital TV, so that the user does not have to directly hold the mobile terminal to display video or audio on the digital TV. can share a call. In this case, the speaker and microphone of the mobile terminal may be turned off, and if the Bluetooth device of the mobile terminal is turned off, the speaker and microphone of the mobile terminal may be turned on and used again. As described above, according to the present invention, in the data sharing process, a video/voice call can be used by using any call application of the mobile terminal.
본 명세서에서 개시하는 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법은 상기 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.In the digital device and data processing method in the digital device disclosed in this specification, the configuration and method of the above-described embodiments are not limitedly applicable, but the embodiments are all or all of the embodiments so that various modifications can be made. Some may be selectively combined and configured.
한편, 본 명세서에서 개시된 디지털 디바이스의 동작방법은 디지털 디바이스에 구비된 프로세서가 읽을 수 있는 기록매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 기록매체는 프로세서에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 디바이스를 포함한다. 프로세서가 읽을 수 있는 기록 매체의 예로는 ROM(Read Only Memory), RAM(Random Access Memory), CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장 디바이스 등이 있으며, 인터넷을 통한 전송 등과 같은 캐리어-웨이브(carrier-wave)의 형태로 구현되는 것도 포함한다. 또한, 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.Meanwhile, the method of operating a digital device disclosed in the present specification can be implemented as processor-readable codes on a processor-readable recording medium provided in the digital device. The processor-readable recording medium includes all types of recording devices in which data readable by the processor is stored. Examples of the processor-readable recording medium include ROM (Read Only Memory), RAM (Random Access Memory), CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like. It includes those implemented in the form of a wave (carrier-wave). In addition, the processor-readable recording medium is distributed in a computer system connected through a network, so that the processor-readable code can be stored and executed in a distributed manner.
한편, 본 명세서에서는 첨부된 도면을 참조하여 설명하였으나, 이는 실시 예일 뿐 특정 실시 예에 한정되지 아니하며, 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 변형실시가 가능한 다양한 내용도 청구범위에 따른 권리범위에 속한다. 또한, 그러한 변형실시들이 본 발명의 기술 사상으로부터 개별적으로 이해되어서는 안 된다.On the other hand, although the present specification has been described with reference to the accompanying drawings, this is only an embodiment and is not limited to a specific embodiment, and various contents that can be modified by those of ordinary skill in the art to which the present invention belongs are also claimed. It is within the scope of rights according to In addition, such modifications should not be understood separately from the spirit of the present invention.
201: 네트워크 인터페이스부 202: TCP/IP 매니저
203: 서비스 전달 매니저 204: SI 디코더
205: 역다중화부 206: 오디오 디코더
207: 비디오 디코더 208: 디스플레이부
209: 서비스 제어 매니저 210: 서비스 디스커버리 매니저
211: SI & 메타데이터 데이터베이스 212: 메타데이터 매니저
213: 서비스 매니저 214: UI 매니저201: network interface unit 202: TCP/IP manager
203: service delivery manager 204: SI decoder
205: demultiplexer 206: audio decoder
207: video decoder 208: display unit
209: service control manager 210: service discovery manager
211: SI & Metadata Database 212: Metadata Manager
213: service manager 214: UI manager
Claims (20)
상기 이동 단말기로부터 제1 통신 프로토콜로 미러링 데이터, 상기 이동 단말기로부터 착신 감지에 따른 가이드 데이터, 상기 이동 단말기로부터 상기 제1 통신 프로토콜에 따라 발신자에 관한 제1 통화 애플리케이션 데이터를 수신하고, 활성화된 제2 통신 프로토콜에 따라 상기 발신자에 관한 제2 통화 애플리케이션 데이터를 수신하는 수신부;
상기 가이드 데이터 수신에 따라 통화 서비스를 위해 상기 이동 단말기와 제2 통신 프로토콜을 활성화하고, 상기 활성화 이후에 상기 발신자에 관한 제1 통화 애플리케이션 데이터와 제2 통화 애플리케이션 데이터가 각각 출력되도록 제어하고, 상기 제2 통신 프로토콜에 따라 상기 디지털 디바이스와 연결된 입력 수단을 통해 수신되는 착신자에 관한 제3 통화 애플리케이션 데이터를 상기 이동 단말기로 전송하도록 제어하는 제어부;
상기 미러링 데이터, 상기 가이드 데이터, 상기 발신자에 관한 제1 통화 애플리케이션 데이터를 출력하는 스크린; 및
상기 발신자에 관한 제2 통화 애플리케이션 데이터를 출력하는 스피커를 포함하는 디지털 디바이스.A digital device for receiving and processing data from a mobile terminal, the digital device comprising:
Receive mirroring data from the mobile terminal to a first communication protocol, guide data according to incoming detection from the mobile terminal, and first call application data about a caller from the mobile terminal according to the first communication protocol, and activated second a receiver configured to receive second call application data regarding the caller according to a communication protocol;
Activates the mobile terminal and a second communication protocol for a call service according to the reception of the guide data, and controls so that the first call application data and the second call application data about the caller are respectively output after the activation, 2 a control unit for controlling to transmit third call application data regarding a called party received through an input means connected to the digital device according to a communication protocol to the mobile terminal;
a screen for outputting the mirroring data, the guide data, and first call application data related to the caller; and
and a speaker for outputting second call application data about the caller.
상기 수신되는 제1 통화 애플리케이션 데이터를 역다중화하는 역다중화부;
상기 이동 단말기로부터 제1 통신 프로토콜로 화면 공유 데이터 중 비디오 데이터와 상기 역다중화된 제1 통화 애플리케이션 데이터 중 상기 발신자에 관한 비디오 데이터를 디코딩하는 비디오 디코더; 및
상기 이동 단말기로부터 제1 통신 프로토콜로 화면 공유 데이터 중 오디오 데이터를 디코딩하는 오디오 디코더를 더 포함하되,
상기 오디오 디코더는, 상기 역다중화된 제1 통화 애플리케이션 데이터 중 음성 데이터는 디코딩하지 않는 것을 특징으로 하는 디지털 디바이스.12. The method of claim 11,
a demultiplexer for demultiplexing the received first call application data;
a video decoder for decoding video data of the screen sharing data and video data of the caller among the demultiplexed first call application data from the mobile terminal to a first communication protocol; and
Further comprising an audio decoder for decoding audio data among screen sharing data from the mobile terminal to a first communication protocol,
wherein the audio decoder does not decode voice data among the demultiplexed first call application data.
상기 착신자의 비디오 데이터를 획득하는 카메라 센서를 더 포함하되,
상기 제어부는,
상기 카메라 센서를 통해 획득되는 착신자의 비디오 데이터를 상기 수신된 제1 통화 애플리케이션 데이터와 함께 상기 스크린상에 출력하도록 제어하고, 상기 제1 통신 프로토콜에 따라 상기 이동 단말기로 전송되도록 제어하는 것을 특징으로 하는 디지털 디바이스.12. The method of claim 11,
Further comprising a camera sensor for acquiring the video data of the called party,
The control unit is
Controlling the video data of the called party obtained through the camera sensor to be output on the screen together with the received first call application data, and controlling to be transmitted to the mobile terminal according to the first communication protocol digital device.
상기 제어부는,
상기 카메라 센서를 통해 획득되는 착신자의 비디오 데이터가 있는지 판단하여, 상기 착신자의 비디오 데이터가 없으면, 미리 설정된 대체 이미지 데이터를 상기 제1 통화 애플리케이션 데이터와 함께 상기 스크린상에 출력되도록 제어하고, 상기 대체 이미지 데이터를 상기 제1 통신 프로토콜에 따라 상기 이동 단말기로 전송되도록 제어하는 것을 특징으로 하는 디지털 디바이스.14. The method of claim 13,
The control unit is
It is determined whether there is video data of the called party obtained through the camera sensor, and if there is no video data of the called party, preset replacement image data is controlled to be output on the screen together with the first call application data, and the replacement image and controlling data to be transmitted to the mobile terminal according to the first communication protocol.
상기 제어부는,
상기 발신자에 관한 제1 통화 애플리케이션 데이터와 제2 통화 애플리케이션 데이터로부터 타임스탬프가 존재하는지 판단하여, 상기 타임스탬프가 존재하면, 상기 타임스탬프에 따라 상기 제1 통화 애플리케이션과 제2 통화 애플리케이션의 싱크를 맞추어 출력되도록 제어하는 것을 특징으로 하는 디지털 디바이스.12. The method of claim 11,
The control unit is
It is determined whether a timestamp exists from the first call application data and the second call application data about the caller, and if the timestamp exists, the first call application and the second call application are synchronized according to the timestamp Digital device, characterized in that the control to be output.
상기 제어부는,
상기 판단 결과 타임스탬프가 존재하지 않으면, 디코딩되는 제1 통화 애플리케이션과 제2 애플리케이션을 딜레이 없이 즉시 출력되도록 제어하는 것을 특징으로 하는 디지털 디바이스.16. The method of claim 15,
The control unit is
When the timestamp does not exist as a result of the determination, the digital device according to claim 1, wherein the decoded first call application and the second application are controlled to be output immediately without delay.
상기 제어부는,
상기 제2 통신 프로토콜에 따라 수신되는 제2 통화 애플리케이션 데이터와 제3 통화 애플리케이션 데이터 중 적어도 하나 이상을, 노이즈 리덕션(noise reduction), 오토 케인 컨트롤(auto gain control) 및 어쿠스틱 에코 캔슬레이션(acoustic echo cancellation) 처리 및 볼륨 리덕션(volume reduction) 중 적어도 하나가 수행되도록 제어하는 것을 특징으로 하는 디지털 디바이스.12. The method of claim 11,
The control unit is
At least one of the second call application data and the third call application data received according to the second communication protocol is subjected to noise reduction, auto gain control, and acoustic echo cancellation. ) processing and volume reduction (volume reduction), characterized in that the control to be performed at least one digital device.
상기 디지털 디바이스는 디지털 TV와 웨어러블 디바이스 중 어느 하나이고,
상기 입력 수단은 상기 디지털 TV와 연결된 리모컨과 웨어러블 디바이스 중 어느 하나인 것을 특징으로 하는 디지털 디바이스.12. The method of claim 11,
The digital device is any one of a digital TV and a wearable device,
The input means is a digital device, characterized in that any one of a remote control and a wearable device connected to the digital TV.
상기 제어부는,
상기 이동 단말기로부터 수신되는 가이드 데이터를 상기 스크린상의 소정 영역에 출력하도록 제어하고, 상기 출력되는 가이드 데이터로부터 사용자의 선택을 수신하여 그에 따라 상기 제1 통화 애플리케이션 데이터와 제2 통화 애플리케이션 데이터를 상기 이동 단말기로 요청하는 것을 특징으로 하는 디지털 디바이스.12. The method of claim 11,
The control unit is
control to output guide data received from the mobile terminal to a predetermined area on the screen, receive a user's selection from the output guide data, and transmit the first call application data and the second call application data to the mobile terminal Digital device, characterized in that the request.
상기 제어부는,
상기 스크린 전면, PIP 윈도우 및 화면 분할 윈도우 중 어느 하나를 통해 상기 수신된 제1 통화 애플리케이션 데이터가 출력되도록 제어하는 것을 특징으로 하는 디지털 디바이스.12. The method of claim 11,
The control unit is
Digital device, characterized in that the control so that the received first call application data is output through any one of the front screen, the PIP window, and the split screen window.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020150104984A KR102273751B1 (en) | 2015-07-24 | 2015-07-24 | Digital device and method of processing data the same |
| PCT/KR2016/008033 WO2017018737A1 (en) | 2015-07-24 | 2016-07-22 | Digital device and method for processing data in digital device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020150104984A KR102273751B1 (en) | 2015-07-24 | 2015-07-24 | Digital device and method of processing data the same |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20170011763A KR20170011763A (en) | 2017-02-02 |
| KR102273751B1 true KR102273751B1 (en) | 2021-07-06 |
Family
ID=57885167
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020150104984A KR102273751B1 (en) | 2015-07-24 | 2015-07-24 | Digital device and method of processing data the same |
Country Status (2)
| Country | Link |
|---|---|
| KR (1) | KR102273751B1 (en) |
| WO (1) | WO2017018737A1 (en) |
Families Citing this family (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6873762B2 (en) * | 2017-03-15 | 2021-05-19 | キヤノン株式会社 | Communication devices, communication systems, communication methods, and programs |
| EP3651472A4 (en) * | 2017-07-06 | 2020-11-18 | LG Electronics Inc. -1- | Display device |
| KR102044523B1 (en) * | 2017-08-22 | 2019-11-13 | 에스케이텔레콤 주식회사 | Apparatus and method for providing short-range wireless communication |
| US10560654B2 (en) | 2017-09-20 | 2020-02-11 | Lg Electronics Inc. | Display device |
| WO2020149426A1 (en) * | 2019-01-15 | 2020-07-23 | 엘지전자 주식회사 | Image display device and control method therefor |
| CN109862404B (en) * | 2019-02-21 | 2021-02-02 | 深圳创维－Rgb电子有限公司 | Interaction method of smart television, storage medium and smart television |
| KR102090800B1 (en) * | 2019-10-30 | 2020-03-18 | 에스케이텔레콤 주식회사 | Apparatus and method for providing short-range wireless communication |
| KR20210086103A (en) * | 2019-12-31 | 2021-07-08 | 삼성전자주식회사 | Display device, mobile device, video calling method performed by a display device thereof, video calling method performed by a mobile device thereof |
| KR20220102451A (en) * | 2021-01-13 | 2022-07-20 | 삼성전자주식회사 | Method for cancelling echo sinal based on an external device and an electronic device |
| KR20230018833A (en) * | 2021-07-30 | 2023-02-07 | 삼성전자주식회사 | Electronic devcie and method for providing connection switching for an wireless audio device |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140365611A1 (en) | 2013-06-07 | 2014-12-11 | Qualcomm Incorporated | Method and system for using wi-fi display transport mechanisms to accomplish voice and data communications |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101479087B1 (en) * | 2007-11-05 | 2015-01-13 | 삼성전자주식회사 | A method for providing video telephony using a video apparatus |
| US9008177B2 (en) * | 2011-12-12 | 2015-04-14 | Qualcomm Incorporated | Selective mirroring of media output |
| KR20130089067A (en) * | 2012-02-01 | 2013-08-09 | 목포대학교산학협력단 | Smart television capable of providing videophone service |
| JP5988900B2 (en) * | 2013-03-08 | 2016-09-07 | アルパイン株式会社 | In-vehicle electronic device, in-vehicle system, hands-free calling program, and hands-free calling method |
| KR20150051776A (en) * | 2013-11-05 | 2015-05-13 | 삼성전자주식회사 | Display apparatus and method for controlling of display apparatus |
-
2015
- 2015-07-24 KR KR1020150104984A patent/KR102273751B1/en active IP Right Grant
-
2016
- 2016-07-22 WO PCT/KR2016/008033 patent/WO2017018737A1/en active Application Filing
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140365611A1 (en) | 2013-06-07 | 2014-12-11 | Qualcomm Incorporated | Method and system for using wi-fi display transport mechanisms to accomplish voice and data communications |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20170011763A (en) | 2017-02-02 |
| WO2017018737A1 (en) | 2017-02-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102273751B1 (en) | Digital device and method of processing data the same | |
| US11949955B2 (en) | Digital device and method of processing data in said digital device | |
| KR101788060B1 (en) | Image display device and method of managing contents using the same | |
| US10338878B2 (en) | Digital device and method of processing data the same | |
| US10324595B2 (en) | Digital device configured to connect with plurality of operation devices and method of displaying second user interface associated with second operation device in response to dragging of first user interface associated with first operation device in the same | |
| KR102423493B1 (en) | Digital device and method of processing data the same | |
| KR102348957B1 (en) | Digital device and method for controlling the same | |
| KR102381142B1 (en) | Mobile terminal and method for controlling the same | |
| KR20180041961A (en) | Display device and method of processing data the same | |
| US10706083B2 (en) | Digital device and method of processing data therein | |
| KR102508148B1 (en) | digital device, system and method for controlling color using the same | |
| US11470375B2 (en) | Digital device and method of processing data therein | |
| KR20170047547A (en) | Display device and method for controlling the same | |
| KR20170017606A (en) | Digital device and method of processing data the same | |
| KR20170031898A (en) | Display device and method for controlling the same | |
| KR102423492B1 (en) | Digital device and method of processing data the same | |
| KR102369588B1 (en) | Digital device and method of processing data the same | |
| KR20160004562A (en) | Display device and method for controlling the same | |
| KR102568664B1 (en) | Digital device and method of processing data the same | |
| KR20170018562A (en) | Digital device and method of processing data the same | |
| KR20170023519A (en) | Digital device and method of processing data the same | |
| KR20160084060A (en) | Display device for providing connection problem solution, and method thereof |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |