JP6440346B2 - ディスプレイ装置、電子装置、対話型システム及びそれらの制御方法 - Google Patents

ディスプレイ装置、電子装置、対話型システム及びそれらの制御方法 Download PDF

Info

Publication number
JP6440346B2
JP6440346B2 JP2013133954A JP2013133954A JP6440346B2 JP 6440346 B2 JP6440346 B2 JP 6440346B2 JP 2013133954 A JP2013133954 A JP 2013133954A JP 2013133954 A JP2013133954 A JP 2013133954A JP 6440346 B2 JP6440346 B2 JP 6440346B2
Authority
JP
Japan
Prior art keywords
voice
user
control signal
display device
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013133954A
Other languages
English (en)
Other versions
JP2014011803A (ja
Inventor
▲うぃ▼ 潤 李
▲うぃ▼ 潤 李
成 吉 趙
成 吉 趙
基 錫 金
基 錫 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2014011803A publication Critical patent/JP2014011803A/ja
Application granted granted Critical
Publication of JP6440346B2 publication Critical patent/JP6440346B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C19/00Electric signal transmission systems
    • G08C19/16Electric signal transmission systems in which transmission is by pulses
    • G08C19/28Electric signal transmission systems in which transmission is by pulses using pulse code
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42203Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] sound input device, e.g. microphone
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42221Transmission circuitry, e.g. infrared [IR] or radio frequency [RF]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42222Additional components integrated in the remote control device, e.g. timer, speaker, sensors for detecting position, direction or movement of the remote control, microphone or battery charging device

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Selective Calling Equipment (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)
  • Details Of Television Systems (AREA)

Description

本発明は、ディスプレイ装置、電子装置、対話型システム及びそれらの制御方法に関し、さらに詳細には、ユーザの音声に応じて制御されるディスプレイ装置、電子装置、対話型システム及びそれらの制御方法に関する。
電子技術の発達に伴って、多様な種類のディスプレイ装置が開発されて普及しつつある。特に、最近では、TVをはじめとする多様な類型のディスプレイ装置が一般家庭で使用されている。これらのディスプレイ装置は、ユーザの要求によって次第に多様な機能を具備するようになった。特に、TVの場合、最近では、インターネットと接続されてインターネットサービスまで支援している。また、ユーザは、TVを通じて多くの数のデジタル放送チャネルまで視聴できるようになった。
これにより、ディスプレイ装置の多様な機能を效率的に使用するための多様な入力方法が求められている。例えば、リモコンを利用した入力方法、マウスを利用した入力方法、及びタッチパッドを利用した入力方法などがディスプレイ装置に採用されている。
しかしながら、このような単純な入力方法だけでは、ディスプレイ装置の多様な機能を効果的に使用することが困難であった。たとえば、ディスプレイ装置のすべての機能をリモコンだけで制御するように具現化する場合、リモコンのボタン数を増やさざるを得なかった。この場合、一般ユーザがリモコンの使用法を身につけることは、決して容易ではなかった。また、多様なメニューを画面上に表示してユーザが該当メニューを探索し選択するようにする方法の場合、ユーザが複雑なメニューツリーをいちいち確認して、自身の望むメニューを選択しなければならないという面倒さがあった。
また、最近では、セットトップボックス、DVDプレーヤー、ホームシアターなどのような多様な周辺機器がディスプレイ装置と接続されて使用されるケースが多くなった。このような周辺機器を制御するためには、各機器と連動するリモコンで個別的に制御しなければならなかった。これにより、多様な周辺機器を一つのリモコンで制御できる統合リモコンなどが開発されたが、統合リモコンを使用するためには、ユーザが周辺機器の製造社とモデル名を直接検索しリモコンに登録しなければならないという面倒さがあった。
これにより、ディスプレイ装置及び多様な周辺機器を制御するための効率的な入力方法の摸索が要請される。
韓国特開第2011−0120132号公報
本発明は、上述した必要によりなされたものであって、本発明の目的は、外部のサーバと連動してユーザの音声に対応する動作を行うディスプレイ装置、ユーザの音声で周辺機器を制御できる電子装置、対話型システム及びそれらの制御方法を提供することにある。
上記の目的を達成すべく、本発明の一実施形態によるディスプレイ装置と通信を行う電子装置は、前記ディスプレイ装置の周辺機器を制御するためのリモコン信号とユーザの音声に対応する制御信号とがマッチングした周辺機器制御情報を格納する格納部と、ユーザの音声を収集する音声収集部と、前記収集されたユーザの音声を前記ディスプレイ装置に送信し、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号を受信する通信部と、前記周辺機器を制御するためのリモコン信号を送信するIR発信部と、前記ディスプレイ装置から前記制御信号を受信すると、前記格納部に格納されたリモコン信号のうち、前記受信された制御信号に対応するリモコン信号を前記周辺機器に送信するように前記IR発信部を制御する制御部とを備える。
ここで、前記ディスプレイ装置の周辺機器を制御するためのリモコンからリモコン信号を受信するIR受信部をさらに備え、前記制御部は、前記リモコン信号に対応して収集されたユーザの音声を前記ディスプレイ装置に送信し、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号を受信して、前記周辺機器制御情報を生成することができる。
そして、前記周辺機器制御情報は、前記受信された外部入力モードに対する情報をさらに含むことができ、前記通信部は、前記制御信号及びディスプレイ装置の外部入力モードに対する情報を受信し、前記制御部は、前記ディスプレイ装置から制御信号及び前記ディスプレイ装置の外部入力モードに対する情報を受信すると、前記受信された制御信号及び外部入力モードに対応するリモコン信号を前記周辺機器に送信するように前記IR発信部を制御することができる。
また、前記ディスプレイ装置の周辺機器を制御するためのリモコンからリモコン信号を受信するIR受信部をさらに備え、前記制御部は、前記リモコン信号に対応して収集されたユーザの音声を前記ディスプレイ装置に送信し、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号及び前記ディスプレイ装置の外部入力モードに対する情報を受信して、前記周辺機器制御情報を生成することができる。
ここで、前記電子装置は、IR(Infrared Ray)ブラスターまたはMBR(Multi Brand Remote controller)でありうる。
一方、本発明の一実施形態による周辺機器を制御するための電子装置と通信を行うディスプレイ装置は、電子装置と通信を行う第1通信部と、音声認識機能を行うサーバと通信を行う第2通信部と、前記電子装置からユーザの音声が受信されると前記受信されたユーザの音声を前記サーバに送信し、前記サーバから前記ユーザの音声に対応する制御信号を受信して前記電子装置に送信するように制御する制御部とを備える。前記制御信号は、前記電子装置で前記周辺機器を制御するためのリモコン信号に対応する信号でありうる。
ここで、前記制御部は、前記ユーザの音声が受信されると外部入力モードを判断し、該判断された外部入力モードに対する情報を前記ユーザの音声と共に前記サーバに送信し、前記サーバから前記外部入力モードに対する情報及び前記ユーザの音声に対応する制御信号を受信して前記電子装置に送信するように制御することができる。
または、前記制御部は、前記ユーザの音声が受信されると外部入力モードを判断し、該判断された外部入力モードに対する情報を前記サーバから受信された制御信号と共に前記電子装置に送信するように制御することができる。
一方、本発明の一実施形態による電子装置の制御方法は、ディスプレイ装置の周辺機器を制御するためのリモコン信号とユーザの音声に対応する制御信号とがマッチングした周辺機器制御情報を格納するステップと、ユーザの音声を収集するステップと、前記収集されたユーザの音声を前記ディスプレイ装置に送信するステップと、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号を受信するステップと、予め格納されたリモコン信号のうち、前記受信された制御信号に対応するリモコン信号を前記周辺機器に送信するステップとを含む。
ここで、前記格納するステップは、前記ディスプレイ装置の周辺機器を制御するためのリモコンからリモコン信号を受信するステップと、前記リモコン信号に対応してユーザの音声を収集するステップと、前記収集されたユーザの音声を前記ディスプレイ装置に送信するステップと、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号及び前記ディスプレイ装置の外部入力モードに対する情報を受信するステップと、前記受信されたリモコン信号、制御信号及び外部入力モードに対する情報がマッチングした周辺機器制御情報を生成し格納するステップとを含むことができる。
そして、前記周辺機器制御情報は、前記受信された外部入力モードに対する情報をさらに含むことができ、前記制御信号を受信するステップは、前記制御信号及びディスプレイ装置の外部入力モードに対する情報を受信し、リモコン信号を前記周辺機器に送信するステップは、前記受信された制御信号及び外部入力モードに対する情報に対応するリモコン信号を前記周辺機器に送信できる。
また、前記格納するステップは、前記ディスプレイ装置の周辺機器を制御するためのリモコンからリモコン信号を受信するステップと、前記リモコン信号に対応してユーザの音声を収集するステップと、前記収集されたユーザの音声を前記ディスプレイ装置に送信するステップと、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号及び前記ディスプレイ装置の外部入力モードに対する情報を受信するステップと、前記受信されたリモコン信号、制御信号及び外部入力モードに対する情報がマッチングした周辺機器制御情報を生成して格納するステップとを含むことができる。
ここで、前記電子装置は、IR(Infrared Ray)ブラスターまたはMBR(Multi Brand Remote controller)でありうる。
一方、周辺機器を制御するための電子装置と通信を行うディスプレイ装置の制御方法は、前記電子装置からユーザの音声を受信するステップと、前記受信されたユーザの音声を音声認識機能を行うサーバに送信するステップと、前記サーバから前記ユーザの音声に対応する制御信号を受信するステップと、前記受信された制御信号を電子装置に送信するステップとを含む。前記制御信号は、前記電子装置で前記周辺機器を制御するためのリモコン信号に対応する信号でありうる。
ここで、前記ユーザの音声が受信されると外部入力モードを判断するステップと、前記判断された外部入力モードに対する情報を前記サーバに送信するステップとをさらに含むことができ、前記制御信号を受信するステップは、前記サーバから前記外部入力モードに対する情報及び前記ユーザの音声に対応する制御信号を受信することができる。
または、前記ユーザの音声が受信されると外部入力モードを判断するステップと、前記判断された外部入力モードに対する情報を前記電子装置に送信するステップとをさらに含むことができる。
一方、本発明の一実施形態に係るディスプレイ装置及び前記ディスプレイ装置の周辺機器を制御するための電子装置を含むシステムは、収集されたユーザの音声を前記ディスプレイ装置に送信し、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号を受信して予め格納されたリモコン信号のうち、前記受信された制御信号に対応するリモコン信号を前記周辺機器に送信する電子装置と、前記電子装置からユーザの音声が受信されると前記受信されたユーザの音声を前記音声認識機能を行うサーバに送信し、前記サーバから前記ユーザの音声に対応する制御信号を受信して前記電子装置に送信するディスプレイ装置とを備える。
以上、本発明の多様な実施形態によれば、ユーザの音声がディスプレイ装置及びディスプレイ装置の周辺機器を制御するための手段として使用されることができるから、ユーザの便宜性が向上することができる。
また、ユーザは、電子装置を利用して周辺機器を制御するために周辺機器の製造社とモデル名を直接検索しリモコンに登録する必要無しで、ユーザの音声で対応するリモコン信号を登録できるから、ユーザの便宜が向上することができる。
本発明の一実施形態に係る対話型システムを説明するための図である。 図1に示す対話型システムの動作を説明するためのタイミング図である。 図1に示す対話型システムの動作を説明するためのタイミング図である。 図1に示すディスプレイ装置の構成を説明するためのブロック図である。 図4に示すディスプレイ装置の細部構成を説明するためのブロック図である。 図1に示す電子装置の構成を説明するためのブロック図である。 図6に示す電子装置の細部構成を説明するためのブロック図である。 図1に示す第1サーバの構成を説明するためのブロック図である。 図1に示す第2サーバの構成を説明するためのブロック図である。 本発明の一実施形態に係る電子装置の制御方法を説明するためのフローチャートである。 本発明の一実施形態に係るディスプレイ装置100の制御方法を説明するためのフローチャートである。
以下、添付された図面を参照して、本発明をさらに詳細に説明する。
図1は、本発明の一実施形態に係る対話型システムを説明するための図である。図1に示すように、対話型システムは、ディスプレイ装置100、電子装置200、第1サーバ300及び第2サーバ400を備える。ディスプレイ装置100は、図1に示すように、スマートTVでありうるが、これは、一例に過ぎず、スマートフォンのような携帯電話、デスクトップPC、ノート型パソコン、ナビゲーションなどのような多様な装置により具現化されることができ、電子装置200は、IR(Infrared Ray)ブラスター、MBR(Multi Brand Remote controller)などのような装置により具現化されることができる。
本発明に係る対話型システムは、音声認識モードにある場合に動作でき、音声認識モードは、設定モードと動作モードとを含むことができる。対話型システムは、各モードに応じて互いに異なるように動作できるので、モード別に分けて説明する。一方、設定モードと動作モードは、対話型システムの動作のうち、ディスプレイ装置100を介してユーザにより変更できる。
<設定モード>
設定モードとは、ディスプレイ装置の周辺機器を制御するための周辺機器制御情報を設定するためのモードのことを意味する。設定モードの動作を実施形態別に分けて説明する。対話型システムは、ディスプレイ装置100の外部入力モードに対する情報を第2サーバ400に送信するか、または電子装置200に送信するかに応じて異なるように動作する。
<第1の実施形態>
第1の実施形態によれば、設定モードにおいて、電子装置200は、周辺機器を制御するためのリモコン(図示せず)から制御信号を受信する。そして、電子装置200は、リモコン信号に対応するユーザの音声を収集して、ディスプレイ装置100に送信する。ディスプレイ装置100は、ユーザの音声が受信されると、ディスプレイ装置100の現在の外部入力モードを判断し、受信されたユーザの音声を第1サーバ300に送信する。ディスプレイ装置100からユーザの音声が受信されると、第1サーバ300は、受信されたユーザの音声をテキスト情報に変換し、テキスト情報をディスプレイ装置100に送信する。
そして、ディスプレイ装置100は、第1サーバ300から受信されたテキスト情報及び判断された外部入力モードに対する情報を第2サーバ400に送信する。ディスプレイ装置100からテキスト情報が受信されると、第2サーバ400は、受信したテキスト情報及び外部入力モードに対する情報に対応する制御信号を生成して、ディスプレイ装置100に送信する。
ディスプレイ装置100は、受信した制御信号を電子装置200に送信し、電子装置200は、リモコン(図示せず)から受信したリモコン信号と、ディスプレイ装置100から受信した制御信号とをマッチングさせて、周辺機器制御情報を生成し格納する。
<第2の実施形態>
第2の実施形態によれば、設定モードにおいて、電子装置200は、周辺機器を制御するためのリモコン(図示せず)から制御信号を受信する。そして、電子装置200は、リモコン信号に対応するユーザの音声を収集して、ディスプレイ装置100に送信する。ディスプレイ装置100は、ユーザの音声が受信されると、ディスプレイ装置100の現在の外部入力モードを判断し、受信されたユーザの音声を第1サーバ300に送信する。ディスプレイ装置100からユーザの音声が受信されると、第1サーバ300は、受信されたユーザの音声をテキスト情報に変換し、テキスト情報をディスプレイ装置100に送信する。
そして、ディスプレイ装置100は、第1サーバ300から受信されたテキスト情報を第2サーバ400に送信する。ディスプレイ装置100からテキスト情報が受信されると、第2サーバ400は、受信したテキスト情報に対応する制御信号を生成して、ディスプレイ装置100に送信する。
ディスプレイ装置100は、受信した制御信号及び判断された外部入力モードに対する情報を電子装置200に送信し、電子装置200は、リモコン(図示せず)から受信したリモコン信号と、ディスプレイ装置100から受信した制御信号及び外部入力モードに対する情報をマッチングさせて、周辺機器制御情報を生成し格納する。
<動作モード>
動作モードとは、ディスプレイ装置の周辺機器を制御するために、ユーザの音声に対応するリモコン信号を周辺機器に送信するためのモードのことを意味する。動作モードの動作を実施形態別に分けて説明する。
<第1の実施形態>
第1の実施形態によれば、動作モードにおいて、電子装置200は、周辺機器を制御するためのユーザの音声を収集して、ディスプレイ装置100に送信する。ディスプレイ装置100は、ユーザの音声が受信されると、ディスプレイ装置100の現在の外部入力モードを判断し、受信されたユーザの音声を第1サーバ300に送信する。ディスプレイ装置100からユーザの音声が受信されると、第1サーバ300は、受信されたユーザの音声をテキスト情報に変換し、テキスト情報をディスプレイ装置100に送信する。
そして、ディスプレイ装置100は、第1サーバ300から受信されたテキスト情報及び判断された外部入力モードに対する情報を第2サーバ400に送信する。ディスプレイ装置100からテキスト情報が受信されると、第2サーバ400は、受信したテキスト情報及び外部入力モードに対する情報に対応する制御信号を生成して、ディスプレイ装置100に送信する。
ディスプレイ装置100は、受信した制御信号を電子装置200に送信し、電子装置200は、予め格納されたディスプレイ装置100から受信した制御信号を予め格納された周辺機器制御情報の制御信号と比較して、対応するリモコン信号を周辺機器に送信する。
<第2の実施形態>
第2の実施形態によれば、動作モードにおいて、電子装置200は、周辺機器を制御するためのユーザの音声を収集して、ディスプレイ装置100に送信する。ディスプレイ装置100は、ユーザの音声が受信されると、ディスプレイ装置100の現在の外部入力モードを判断し、受信されたユーザの音声を第1サーバ300に送信する。ディスプレイ装置100からユーザの音声が受信されると、第1サーバ300は、受信されたユーザの音声をテキスト情報に変換し、テキスト情報をディスプレイ装置100に送信する。
そして、ディスプレイ装置100は、第1サーバ300から受信されたテキスト情報を第2サーバ400に送信する。ディスプレイ装置100からテキスト情報が受信されると、第2サーバ400は、受信したテキスト情報に対応する制御信号を生成して、ディスプレイ装置100に送信する。
ディスプレイ装置100は、受信した制御信号及び判断された外部入力モードに対する情報を電子装置200に送信し、電子装置200は、ディスプレイ装置100から受信した制御信号及び外部入力モードに対する情報を予め格納された周辺機器制御情報の制御信号及び外部入力モードに対する情報と比較して、対応するリモコン信号を周辺機器に送信する。
一方、上述した実施形態では、第1サーバ300及び第2サーバ400がそれぞれ異なる機能を行う別個のサーバであると説明したが、実施形態によって第1サーバ300及び第2サーバ400は、一つのサーバにより具現化されることができる。
図2及び図3は、図1に示す対話型システムの各動作を説明するためのタイミング図である。具体的に、図2は、第1の実施形態による対話型システムの動作を説明するためのタイミング図であり、図3は、第2の実施形態による対話型システムの動作を説明するためのタイミング図である。
<第1の実施形態>
図2によれば、設定モードが開始されると、電子装置200は、ディスプレイ装置100の周辺機器を制御するためのリモコン(図示せず)からリモコン信号を受信することができる(S1)。すなわち、設定モードにおいてユーザが周辺機器を制御するためのリモコンの特定ボタンを入力すると、リモコンは、入力されたボタンに対応するリモコン信号を電子装置200に送信する。
そして、ユーザがリモコンの特定ボタンに対応する音声を発話すると、電子装置200は、ユーザの音声を収集して(S2)、ディスプレイ装置100に送信する(S3)。具体的に、電子装置200は、予め設定された距離以内でユーザが発話した音声を収集して、ディスプレイ装置100に送信できる。
このために、電子装置200は、ユーザの発話した音声を受け取るためのマイクなどを具備できる。この場合、マイクは、電子装置200に内蔵されて一体型をなすか、または電子装置200と分離された形態により具現化されることができる。分離された形態により具現化される場合、マイクは、ユーザが手で握る形態、または食卓やテーブルに置かれうる形態により具現化されることができ、電子装置200と有線または無線ネットワークにより接続されることができる。
ディスプレイ装置100は、電子装置200からユーザの音声が受信されると、ディスプレイ装置100の外部入力モードを判断する(S4)。外部入力モードとは、ディスプレイ装置100と外部機器との間の信号入出力モードを意味し、外部機器で支援する信号送信規格に従って変わることができる。以後、ディスプレイ装置100は、電子装置200から受信したユーザの音声を第1サーバ300に送信する(S5)。
第1サーバ300は、ディスプレイ装置100から受信したユーザの音声をテキスト情報に変換して(S6)、ディスプレイ装置100にテキスト情報を送信する(S7)。具体的に、第1サーバ300は、STT(Speech to Text)のためのアルゴリズムを利用して、ディスプレイ装置100から受信した音声信号をテキスト情報に変換できる。
ディスプレイ装置100は、第1サーバ300から受信したテキスト情報及びステップS4にて判断した外部入力モードに対する情報を第2サーバ400に送信する(S8)。
第2サーバ400は、ディスプレイ装置100からテキスト情報及び外部入力モードに対する情報が受信されると、それに対応する制御信号を生成して(S9)、ディスプレイ装置100に送信する(S10)。
ディスプレイ装置100は、第2サーバから受信した制御信号を電子装置200に送信し(S11)、電子装置200は、ディスプレイ装置100から受信した制御信号及びリモコン(図示せず)から受信したモコン信号をマッチングさせて、周辺機器制御情報を生成し格納する(S12)。
一方、周辺機器を制御するためのリモコンの複数のボタンに対して上述した過程を繰り返すことによって、電子装置200は、リモコンの各ボタンに対する周辺機器制御情報を格納することができる。周辺機器を制御するためのリモコンが複数の場合、複数のリモコンに対して周辺機器制御情報を格納することができる。リモコンに対する周辺機器制御情報設定が完了すると、動作モードにおいてユーザの音声でディスプレイ装置の周辺機器を制御できる。すなわち、ユーザが動作モードでディスプレイ装置の周辺機器を制御するために音声を発話すると、電子装置200は、ユーザの音声を収集して(S13)、ディスプレイ装置100に送信する(S14)
ディスプレイ装置100は、電子装置200からユーザの音声が受信されると、ディスプレイ装置100の外部入力モードを判断する(S15)。そして、ディスプレイ装置100は、電子装置200から受信したユーザの音声を第1サーバ300に送信する(S16)。
第1サーバ300は、ディスプレイ装置100から受信したユーザの音声をテキスト情報に変換して(S17)、ディスプレイ装置100にテキスト情報を送信する(S18)。そして、第1サーバ300から受信されたテキスト情報及びステップS15にて判断した外部入力モードに対する情報を第2サーバ400に送信する(S19)。
第2サーバ400は、ディスプレイ装置100からテキスト情報及び外部入力モードに対する情報が受信されると、それに対応する制御信号を生成して(S20)、ディスプレイ装置100に送信する(S21)。
ディスプレイ装置100は、第2サーバから受信された制御信号を電子装置200に送信し(S22)、電子装置200は、予め格納された周辺機器制御情報のリモコン信号のうち、ディスプレイ装置100から受信された制御信号に対応するリモコン信号を周辺機器に送信する(S23)。一方、複数の周辺機器がある場合、電子装置200は、リモコン信号をマルチキャスト方式で周辺機器に送信でき、送信されたリモコン信号を認識できる周辺機器だけがリモコン信号に応じて制御される。
<第2の実施形態>
図3によれば、設定モードが開始されると、電子装置200は、ディスプレイ装置100の周辺機器を制御するためのリモコン(図示せず)からリモコン信号を受信することができる(S51)。すなわち、設定モードにおいてユーザが周辺機器を制御するためのリモコンの特定ボタンを入力すると、リモコンは、入力されたボタンに対応するリモコン信号を電子装置200に送信する。そして、ユーザがリモコンの特定ボタンに対応する音声を発話すると、電子装置200は、ユーザの音声を収集して(S52)、ディスプレイ装置100に送信する(S53)。
ディスプレイ装置100は、電子装置200からユーザの音声が受信されると、ディスプレイ装置100の外部入力モードを判断する(S54)。そして、ディスプレイ装置100は、電子装置200から受信したユーザの音声を第1サーバ300に送信する(S55)。
第1サーバ300は、ディスプレイ装置100から受信されたユーザの音声をテキスト情報に変換して(S56)、ディスプレイ装置100にテキスト情報を送信する(S57)。
ディスプレイ装置100は、第1サーバ300から受信されたテキスト情報を第2サーバ400に送信する(S58)。
第2サーバ400は、ディスプレイ装置100からテキスト情報が受信されると、それに対応する制御信号を生成して(S59)、ディスプレイ装置100に送信する(S60)。
ディスプレイ装置100は、第2サーバから受信された制御信号及びステップS54にて判断した外部入力モードに対する情報を電子装置200に送信し(S61)、電子装置200は、ディスプレイ装置100から受信された制御信号及び外部入力モードに対する情報をリモコン(図示せず)から受信されたリモコン信号とマッチングさせて、周辺機器制御情報を生成し格納する(S62)。
一方、周辺機器を制御するためのリモコンの複数のボタンに対して上述した過程を繰り返すことによって、電子装置200は、リモコンの各ボタンに対する周辺機器制御情報を格納することができる。周辺機器を制御するためのリモコンが複数の場合、複数のリモコンに対して周辺機器制御情報を格納することができる。リモコンに対する周辺機器制御情報設定が完了すると、動作モードにおいてユーザの音声でディスプレイ装置の周辺機器を制御できる。すなわち、ユーザが動作モードにおいてディスプレイ装置の周辺機器を制御するために音声を発話すると、電子装置200は、ユーザの音声を収集して(S63)、ディスプレイ装置100に送信する(S64)。
ディスプレイ装置100は、電子装置200からユーザの音声が受信されると、ディスプレイ装置100の外部入力モードを判断する(S65)。そして、ディスプレイ装置100は、電子装置200から受信したユーザの音声を第1サーバ300に送信する(S66)。
第1サーバ300は、ディスプレイ装置100から受信されたユーザの音声をテキスト情報に変換して(S67)、ディスプレイ装置100にテキスト情報を送信する(S68)。そして、第1サーバ300から受信されたテキスト情報を第2サーバ400に送信する(S69)。
第2サーバ400は、ディスプレイ装置100からテキスト情報が受信されると、それに対応する制御信号を生成して(S70)、ディスプレイ装置100に送信する(S71)。
ディスプレイ装置100は、第2サーバから受信された制御信号及びステップS65にて判断した外部入力モードに対する情報を電子装置200に送信し(S72)、電子装置200は、予め格納された周辺機器制御情報のリモコン信号のうち、ディスプレイ装置100から受信された制御信号及び外部入力モードに対する情報に対応するリモコン信号を周辺機器に送信する(S73)。複数の周辺機器がある場合、電子装置200は、リモコン信号をマルチキャスト方式で周辺機器に送信でき、送信されたリモコン信号を認識できる周辺機器だけがリモコン信号に応じて制御される。
一方、図2及び図3では、ディスプレイ装置100がユーザの音声を受信すると、ディスプレイ装置の外部入力モードを判断すると説明したが、ディスプレイ装置の外部入力モードを判断する過程は、必要によって省略しても良い。すなわち、収集されたユーザの音声が周辺機器を制御するための命令でないか、または外部入力モードを判断しなくてもリモコン信号の識別に混同がないと判断される場合には、ディスプレイ装置の外部入力モードを判断する過程は省略できる。
図4は、図1に示すディスプレイ装置の構成を説明するためのブロック図である。図4によれば、ディスプレイ装置100は、第1通信部110、第2通信部120及び制御部130を備える。
第1通信部110は、電子装置200と通信を行う。具体的に第1通信部110は、電子装置200からユーザの音声を受信し、ユーザの音声に対応する制御信号を電子装置200に送信できる。また、実施形態によって第1通信部110は、ディスプレイ装置100の外部入力モードに対する情報を電子装置200に送信できる。
一方、第1通信部100は、電子装置200とWifi、ブルートゥース(bluetooth)、IRDA(Infrared Data Association)、RF(Radio Frequency)、IEEE 802.11、WLAN、HR WPAN、UWB、LR WPAN、IEEE 1394などのような無線通信技術で通信できる。
第2通信部120は、サーバと通信を行う。具体的に、第2通信部は、第1通信部を介して受信されたユーザの音声を第1サーバ300に送信でき、第1サーバ300からユーザの音声に対応するテキスト情報を受信することができる。また、第1サーバ300から受信したテキスト情報を第2サーバに送信し、第2サーバ400からテキスト情報に対応する制御信号を受信することができる。第2通信部は、第1サーバ及び第2サーバとインターネットなどのネットワークにより接続されることができる。
一方、第2通信部は、第1サーバ300から受信したテキスト情報と共にディスプレイ装置100の外部入力モードに対する情報を第2サーバ400に送信でき、第2サーバ400からテキスト情報及び外部入力モードに対する情報に対応する制御信号を受信することができる。
一方、第2通信部300は、一つの構成で第1サーバ及び第2サーバの両方と通信を行うと説明したが、ディスプレイ装置100は、第1サーバ300及び第2サーバ400とそれぞれ通信を行うことができるように、二つの第2通信部を備えることもできる。
第2通信部が第2サーバ400から受信する制御信号は、電子装置200でディスプレイ装置の周辺機器を制御するためのリモコン信号とマッチングできる。
制御部130は、ディスプレイ装置100の全般的な動作を制御する。すなわち、制御部130は、ディスプレイ装置100の構成の各々を制御して、対応する動作を行うように制御できる。特に、制御部130は、第1通信部を介してユーザの音声が受信されると、受信されたユーザの音声を第2通信部を介してサーバ300、400に送信し、対応する制御信号を受信することができる。そして、受信された制御信号を電子装置200に送信できる。
また、制御部130は、電子装置200からユーザの音声が受信されると、ディスプレイ装置100の外部入力モードを判断でき、実施形態によって判断された外部入力モードに対する情報を電子装置200または第2サーバ400に送信するように制御できる。
一方、動作モードにおいて、第2サーバ400から受信された制御信号がディスプレイ装置100を制御するための制御信号の場合、すなわち、外部入力モードが使用されない場合、制御部130は、第2サーバ400から受信された制御信号に応じてディスプレイ装置100の動作を制御できる。
図5は、図4に示すディスプレイ装置の細部構成を説明するためのブロック図である。図4によれば、ディスプレイ装置100は、第1通信部110、第2通信部120及び制御部130の他に音声収集部140、入力部150、出力部160、格納部170、受信部180及び信号処理部190をさらに備えることができる。一方、図4に示す構成要素と重複する構成に対して重複する説明は省略する。
第2通信部120は、サーバと通信を行う。図4では、第2通信部が第2サーバから制御信号だけを受信すると説明したが、第2通信部120は、第2サーバからユーザの音声に対応する応答メッセージ情報を受信することができる。すなわち、第2サーバは、受信されたテキスト情報に対応する制御信号だけでなく、制御信号に応じて実行される特定機能と関連した応答メッセージ情報を含むことができる。
例えば、ユーザがセットトップボックスを利用してケーブル放送を視聴する途中に「チャネルを25番に変更してくれ」というユーザの音声を発話した場合、電子装置200は、ユーザの音声を収集してディスプレイ装置100に送信し、ユーザの音声は、第1サーバに送信されてテキスト情報に変換された後、第2サーバに送信されることができる。このとき、第2サーバは、チャネル変更命令に対応する制御信号だけでなく、これに対応する応答メッセージ情報をディスプレイ装置100に送信でき、ディスプレイ装置100は、受信された応答メッセージ情報を利用して、出力部160を介して「チャネルが25番に変更されました」または「チャネル変更が完了しました」のような応答メッセージをテキストまたは音声として出力できる。
音声収集部140は、ユーザの音声を収集する。例えば、音声収集部140は、ユーザの音声を収集するためのマイクにより具現化されて、ディスプレイ装置100に内蔵されて一体型をなすか、またはディスプレイ装置100と分離された形態により具現化されることができる。
音声収集部140は、収集されたユーザの音声を処理して、音声信号を生成する。すなわち、音声収集部140は、収集されたユーザの音声からノイズ(例えば、エアコン音、掃除機音、音楽音等)を除去して、音声信号を生成できる。具体的に、音声収集部120は、アナログ形態のユーザの音声が入力されると、これをサンプリングしてデジタル信号に変換する。そして、音声収集部120は、変換されたデジタル信号のエネルギーを計算して、デジタル信号のエネルギーが予め設定された値以上であるかどうかを判断する。
デジタル信号のエネルギーが予め設定された値以上の場合、音声収集部120は、デジタル信号からノイズ成分を除去して、第1通信部130に伝達する。このとき、ノイズ成分は、家庭環境で発生できる突発性雑音であって、エアコン音、掃除機音、音楽音などが含まれることができる。一方、デジタル信号のエネルギーが予め設定された値未満の場合、音声収集部120は、デジタル信号に特別な処理過程を行わずに、他の入力を待つ。これにより、ユーザ発話音声でない他の音により全体オーディオ処理過程がアクティブにならないから、不必要な電力消費を防止できる。
一方、ディスプレイ装置100の音声収集部140は、電子装置200の音声収集部(図6の220)と同じ機能を行うことができ、ディスプレイ装置100の音声収集部及び電子装置200の音声収集部に同時にユーザの音声が入力された場合には、各収集したユーザの音声のうち、より音量が大きくてノイズが少ない音声を選択するように具現化されることもできる。また、具現例によっては、ディスプレイ装置100の音声収集部140は省略しても良い。
入力部150は、多様なユーザ操作を受け取って制御部130に伝達するための入力手段であって、入力パネルにより具現化されることができる。ここで、入力パネルは、タッチパッド(Touch Pad)あるいは各種のファンクションキー、数字キー、特殊キー、文字キーなどが付いたキーパッド(Key Pad)またはタッチスクリーン(Touch Screen)方式でなされることができる。それだけでなく、入力部150は、ディスプレイ装置100を制御するためのリモコンから送信されるリモコン信号を受信するためのIR受信部(図示せず)により具現化されることもできる。
一方、入力部150は、ディスプレイ装置100の機能を制御するための各種のユーザ操作を受け取ることができる。例えば、ディスプレイ装置100がスマートTVにより具現化される場合、電源オン/オフ、チャネル変更、ボリウム変更など、スマートTVの機能を制御するためのユーザ操作を受け取ることができる。この場合、制御部130は、入力部150を介して入力されたユーザ操作に対応する各種の機能を実行するように他の構成要素を制御できる。例えば、制御部130は、電源オフ命令が入力されると、ディスプレイ装置100の各構成要素に供給される電源を遮断でき、チャネル変更が入力されると、ユーザ操作によって選択されたチャネルを選局するように受信部180を制御できる。
特に、入力部150は、ユーザの音声を収集するための音声認識モードを開始するためのユーザ操作を受け取ることができる。音声認識モードを開始するためのユーザ操作が入力部150を介して入力されると、制御部150は、音声収集部140を活性化してユーザの音声を収集できる。また、音声認識モードが開始されると、制御部150は、音声認識モード開始信号を電子装置200に送信して、電子装置200の音声収集部220が活性化されるようにすることができる。
出力部160は、映像及び音声のうち、少なくとも一つを出力する。具体的に、出力部100は、ユーザの音声に対応する応答メッセージを音声またはテキストの形態で出力できる。
このために、出力部160は、ディスプレイ部及びオーディオ出力部を備えることができる。具体的に、ディスプレイ部は、液晶表示装置(Liquid Crystal Display;LCD)、有機電気発光ダイオード(Organic Light Emitting Display;OLED)またはプラズマ表示パネル(Plasma Display Panel;PDP)などにより具現化されて、ディスプレイ装置100を介して提供可能な多様なディスプレイ画面を提供できる。特に、ディスプレイ部は、ユーザの音声に対応する応答メッセージをテキストまたはイメージの形態でディスプレーできる。
一方、オーディオ出力部は、スピーカーまたは出力ポートにより具現化されて、ユーザの音声に対応する応答メッセージを音声の形態で出力できる。
格納部170は、ディスプレイ装置100を動作させるために必要な各種のプログラムなどが格納される格納媒体であって、メモリ、HDD(Hard Disk Drive)などにより具現可能である。例えば、格納部170は、制御部130の動作遂行のためのプログラムを格納するためのROM、制御部130の動作遂行によるデータを一時的に格納するためのRAMなどを具備できる。また、各種の参照データを格納するためのEEROM(Electrically Erasable and Programmable ROM)などをさらに具備できる。
特に、格納部170は、ユーザの音声に対応する各種の応答メッセージを音声またはテキストデータとして予め格納していることができる。これにより、制御部130は、第2サーバ400から受信される音声メッセージ情報(特に、制御信号)に対応する音声またはテキストデータを格納部170から読み出して、オーディオ出力部またはディスプレイ部に出力できる。この場合、制御部130は、音声データに対してデコードなどの信号処理を行い、デコードされた音声データを増幅してオーディオ出力部を介して出力でき、テキストデータを構成するテキストが含まれるようにUI画面を構成して、ディスプレイ部を介して出力できる。たとえ、上述した実施形態では、制御部130が格納部170から読み出された音声及びテキストデータに対する信号処理を行うと説明したが、制御部130は、音声及びテキストデータに対する信号処理を行うように信号処理部190を制御することもできる。
受信部180は、多様なコンテンツを受信する。具体的に、受信部180は、放送ネットワークを利用して放送プログラムコンテンツを送信する放送局またはインターネットを利用してコンテンツファイルを送信するウェブサーバからコンテンツを受信する。また、ディスプレイ装置100内に設けられるか、またはディスプレイ装置100に接続した各種の記録媒体再生装置からコンテンツを受信することもできる。記録媒体再生装置とは、CD、DVD、ハードディスク、ブルーレイディスク、メモリカード、USBメモリなどのような多様な類型の記録媒体に格納されたコンテンツを再生する装置を意味する。
放送局からコンテンツを受信する実施形態の場合には、受信部180は、チューナー(図示せず)、復調器(図示せず)、等化器(図示せず)などのような構成を備える形態により具現化されることができる。反面、ウェブサーバのようなソースからコンテンツを受信する実施形態の場合には、受信部180は、ネットワークインタフェースカード(図示せず)により具現化されることができる。または、上述した各種の記録媒体再生装置からコンテンツを受信する実施形態の場合には、受信部180は、記録媒体再生装置と接続したインタフェース部(図示せず)により具現化されることができる。このように、受信部180は、実施形態によって多様な形態により具現化されることができる。
信号処理部190は、受信部180を介して受信されたコンテンツが出力部160を介して出力されうるようにコンテンツに対する信号処理を行う。
具体的に、信号処理部190は、コンテンツに含まれたビデオ信号に対してデコード、スケーリング及びフレームレート変換などの動作を行って、ディスプレイ部から出力可能な形態にビデオ信号を変換できる。また、信号処理部190は、コンテンツに含まれたオーディオ信号に対してデコードなどの信号処理を行って、オーディオ出力部から出力可能な形態にオーディオ信号を変換できる。
図6は、図1に示す電子装置の構成を説明するためのブロック図である。図6によれば、電子装置200は、格納部210、音声収集部220、通信部230、IR発信部240及び制御部250を備える。
格納部210は、周辺機器制御情報を格納する。周辺機器制御情報とは、ディスプレイ装置の周辺機器を制御するためのリモコン信号とユーザの音声に対応する制御信号とがマッチングした情報である。一方、他の実施形態によれば、周辺機器制御情報は、ディスプレイ装置100の外部入力モードに対する情報をさらに含むことができる。
格納部210は、RAM(Random Access Memory)のようにリード/ライト(read/write)が可能な多様な記憶装置により具現化されることができ、設定モードではライト動作を、動作モードではリード動作を行うことができる。
音声収集部220は、ユーザの音声を収集する。上述したように、電子装置200の音声収集部220は、ディスプレイ装置100の音声収集部140とその機能が同一なので詳細な説明は省略する。
通信部230は、ディスプレイ装置100と通信を行う。具体的に、通信部230は、ディスプレイ装置100の第1通信部110と接続されて通信を行うことができる。
特に、通信部230は、音声収集部220を介して収集されたユーザの音声をディスプレイ装置100に送信し、ディスプレイ装置100からユーザの音声に対応する制御信号を受信することができる。一方、他の実施形態によれば、通信部230は、制御信号と共にディスプレイ装置の外部入力モードに対する情報をさらに受信することができる。
IR発信部240は、周辺機器を制御するためのリモコン信号を送信する。具体的に、IR発信部240は、制御部250の制御に応じて通信部230で受信した制御信号に対応するリモコン信号を周辺機器に送信できる。
制御部250は、電子装置200の全般的な動作を制御する。具体的に、制御部250は、電子装置250の構成要素の各々を制御して対応する動作を行うようにすることができる。特に、制御部250は、動作モードにおいて、通信部230を介してユーザの音声に対応する制御信号が受信されると、受信した制御信号を格納部210の周辺機器制御情報に含まれた制御信号と比較して、一致する制御信号に対応するリモコン信号を周辺機器に送信するようにIR発信部240を制御できる。
他の実施形態によれば、動作モードにおいて、通信部230が制御信号と共にディスプレイ装置の外部入力モードに対する情報を受信すると、制御部250は、受信された制御信号及び外部入力モードに対応する情報を格納部210の周辺機器制御情報に含まれた制御信号及び外部入力モードに対する情報と比較して、対応するリモコン信号を周辺機器に送信するようにIR発信部240を制御できる。
一方、IR発信部240は、ブロードキャスト形式でディスプレイ装置の周辺機器にリモコン信号を送信でき、送信されたリモコン信号を認識する周辺機器だけがリモコン信号に対応する動作を行うようになる。
図7は、図6に示す電子装置の細部構成を説明するためのブロック図である。図7によれば、電子装置200は、図6に示す構成の他にIR受信部260をさらに備えることができる。IR受信部260以外の構成は、図6に示す構成とその機能が同一なので、詳細な説明は省略する。
IR受信部260は、リモコンからリモコン信号を受信する。具体的に、IR受信部260は、設定モードにおいてディスプレイ装置の周辺機器を制御するためのリモコンからリモコン信号を受信することができる。
制御部250は、通信部230を制御して受信されたリモコン信号に対応して収集されたユーザの音声をディスプレイ装置100に送信し、ディスプレイ装置100からユーザの音声に対応する制御信号を受信することができる。そして、受信されたリモコン信号及び制御信号をマッチングさせて、周辺機器制御情報を生成でき、生成された周辺機器制御信号は、格納部210に格納されることができる。
一方、他の実施形態によって、通信部230がディスプレイ装置100から制御信号だけでなくディスプレイ装置の外部入力モードに対する情報を共に受信した場合、制御部250は、リモコン信号、制御信号及び外部入力モードに対する情報をマッチングさせて、周辺機器制御情報を生成できる。
図8は、図1に示す第1サーバの構成を説明するためのブロック図である。図8に示すように、第1サーバ300は、通信部310及び制御部320を備える。
通信部310は、ディスプレイ装置100と通信を行う。具体的に、通信部310は、ディスプレイ装置100からユーザの音声を受信し、ユーザの音声に対応するテキスト情報をディスプレイ装置100に送信できる。このために、通信部310は、近距離無線通信モジュール(図示せず)、無線通信モジュール(図示せず)、ネットワークインタフェース(図示せず)などのような多様な通信モジュールを備えることができる。
制御部320は、第1サーバ300の全般的な動作を制御する。特に、制御部320は、ディスプレイ装置100からユーザの音声が受信されると、ユーザの音声をテキスト情報として生成し、これをディスプレイ装置100に送信するように通信部310を制御する。
具体的に、制御部320は、STT(Speech to Text)エンジンを利用して、ユーザの音声をテキスト情報として生成できる。ここで、STTエンジンは、音声信号をテキストに変換するためのモジュールであって、従来に開示されている多様なSTTアルゴリズムを利用して、音声信号をテキストに変換できる。
例えば、制御部320は、受信された音声信号内でユーザが発話した音声の始めと終わりを検出して、音声区間を判断する。具体的に、制御部320は、受信された音声信号のエネルギーを計算し、該計算されたエネルギーに応じて音声信号のエネルギーレベルを分類して、動的プログラミングを介して音声区間を検出できる。そして、制御部220は、検出された音声区間内で音響モデル(Acoustic Model)に基づいて音声の最小単位である音素を検出して音素データを生成し、生成された音素データにHMM(Hidden Markov Model)確率モデルを適用して、テキスト情報を生成できる。
図9は、図1に示す第2サーバの構成を説明するためのブロック図である。図9に示すように、第2サーバ400は、通信部410、格納部420及び制御部430を備える。
通信部410は、ディスプレイ装置100と通信を行う。具体的に、通信部410は、ディスプレイ装置100からテキスト情報を受信し、テキスト情報に対応する応答情報をディスプレイ装置100に送信できる。このために、通信部410は、近距離無線通信モジュール(図示せず)、無線通信モジュール(図示せず)などのような多様な通信モジュールを備えることができる。
格納部420は、ディスプレイ装置100から受信されたテキスト情報に対応する制御信号及び応答メッセージ情報を生成するための多様な情報を格納する。
具体的に、格納部420は、特定サービスドメインごとに予め定義された話行、主行及び核心要素を格納していることができる。例えば、放送ドメインの場合、話行(Dialog Act)は、叙述文(Statement)、要請文(Request)、Why疑問文(WH−Question)、Yes−No疑問文(YN−Question)などを含み、 主行(Main Goal)は、TVオン/オフ、プログラム検索、プログラム時間検索、プログラム予約などを含み、核心要素は、ジャンル、プログラム名、開始時間、チャネル名、俳優名前などを含むことができる。
また、格納部420は、各ドメイン別にユーザの発話意図に対応する答弁を格納するコーパス(corpus)データベースを含むことができる。例えば、放送サービスドメインで特定プログラムのジャンルを問い合わせるユーザの発話意図に対応する答弁として「....プログラムのジャンルは....です」を格納することができ、プログラム開始時間を問い合わせるユーザの発話意図に対応する答弁として「....プログラムの開始時間は....です」を格納することができる。
そして、格納部420は、ユーザの発話意図別にマッチングされる制御信号を格納していることができる。例えば、ユーザの発話意図がチャネル変更である場合、チャネルを変更するための制御信号をマッチングさせて格納し、ユーザの発話意図が予約録画である場合、特定プログラムに対する予約録画機能を実行させるための制御命令をマッチングさせて格納していることができる。
制御部430は、第2サーバ400の全般的な動作を制御する。特に、通信部410を介してディスプレイ装置100からユーザの音声に対応するテキスト情報が受信されると、制御部430は、受信されたテキスト情報に対応する制御信号及び応答メッセージ情報のうち、少なくとも一つを生成し、該生成された制御信号及び応答メッセージ情報を通信部410を介してディスプレイ装置100に送信するように制御できる。
具体的に、制御部430は、格納部420に話行、主行及び核心要素を利用してディスプレイ装置100から受信されたテキスト情報に対応するユーザの発話意図を把握し、ユーザの発話意図に対応する制御命令及び答弁を応答情報として生成できる。
例えば、「○○○(放送プログラム名)を予約してくれ」というテキストがディスプレイ装置100から受信された場合を仮定する。この場合、制御部430は、話行を介して受信されたテキストが「要請」と関連した文章形態であると判断し、主行及び核心要素を介して「○○○」に対する「プログラム予約」を希望すると判断する。結果的に、制御部430は、受信されたテキスト情報に対応するユーザの発話意図は、「○○○」に対して「プログラム予約」を「要請」することと判断できる。
これにより、制御部430は、「○○○」に対して「プログラム予約」を「要請」するユーザの発話意図に対してディスプレイ装置100から「○○○」の予約録画機能を行うための制御信号を生成できる。この場合、制御部430は、コーパスDBを利用して「○○○の録画が予約されました」という応答メッセージ情報をテキスト形態で追加的に生成して、制御信号と共にディスプレイ装置100に送信できる。
一方、通信部410がディスプレイ装置100からテキスト情報だけでなくディスプレイ装置の外部入力モードに対する情報を共に受信した場合、制御部430は、テキスト情報だけでなく外部入力モードに対する情報を考慮して制御信号を生成できる。具体的に、制御部430は、同じテキスト情報に対してもディスプレイ装置の外部入力モードが相異なった場合、相異なる制御信号をディスプレイ装置100に送信するように制御できる。
これにより、複数の周辺機器が存在する場合にも、電子装置200は、ディスプレイ装置の現在の外部入力モードに応じてユーザが制御しようとする特定周辺機器に対するリモコン信号を送信できる。
図10は、本発明の一実施形態に係る電子装置の制御方法を説明するためのフローチャートである。
電子装置は、周辺機器制御情報を格納する(S1010)。具体的に、ディスプレイ装置の周辺機器を制御するためのリモコン信号とユーザの音声に対応する制御信号とがマッチングした周辺機器制御情報を格納することができる。
ここで、格納するステップ(S1010)は、ディスプレイ装置の周辺機器を制御するためのリモコンからリモコン信号を受信するステップと、受信されたリモコン信号に対応してユーザの音声を収集するステップと、収集されたユーザの音声をディスプレイ装置に送信するステップと、ディスプレイ装置からユーザの音声に対応する制御信号を受信するステップと、受信されたリモコン信号及び制御信号がマッチングした周辺機器制御情報を生成し格納するステップとを含むことができる。
他の実施形態によれば、格納するステップ(S1010)は、ディスプレイ装置の周辺機器を制御するためのリモコンからリモコン信号を受信するステップと、受信されたリモコン信号に対応してユーザの音声を収集するステップと、収集されたユーザの音声をディスプレイ装置に送信するステップと、ディスプレイ装置からユーザの音声に対応する制御信号及びディスプレイ装置の外部入力モードに対する情報を受信するステップと、受信されたリモコン信号、制御信号及び外部入力モードに対する情報がマッチングした周辺機器制御情報を生成して格納するステップとを含むことができる。
そして、電子装置は、ユーザの音声を収集し(S1020)、該収集されたユーザの音声をディスプレイ装置に送信する(S1030)。
以後、ディスプレイ装置からユーザの音声に対応する制御信号を受信し(S1040)、受信された制御信号に対応するリモコン信号を周辺機器に送信する(S1050)。具体的に、格納するステップ(S1010)にて格納された周辺機器制御情報の制御信号と受信された制御信号とを比較して、対応するリモコン信号を周辺機器に送信できる。
他の実施形態によれば、制御信号を受信するステップ(S1040)は、ディスプレイ装置から制御信号だけでなくディスプレイ装置の外部入力モードに対する情報を共に受信し、リモコン信号を周辺機器に送信するステップ(S1050)は、受信された制御信号及び外部入力モードに対する情報に対応するリモコン信号を周辺機器に送信できる。
図11は、本発明の一実施形態に係るディスプレイ装置100の制御方法を説明するためのフローチャートである。
まず、電子装置からユーザの音声を受信する(S1110)。そして、受信されたユーザの音声を音声認識機能を行うサーバに送信する(S1120)。サーバからユーザの音声に対応する制御信号を受信すると(S1130)、受信した制御信号を電子装置に送信する(S1140)。
一方、ユーザの音声が受信されると外部入力モードを判断するステップ及び判断された外部入力モードに対する情報をサーバに送信するステップをさらに含むことができ、これにより、制御信号を受信するステップ(S1130)は、ユーザの音声に対応する制御信号及び外部入力モードに対する情報に対応する制御信号を受信することができる。
または、ユーザの音声が受信されると外部入力モードを判断するステップ及び判断された外部入力モードに対する情報を電子装置に送信するステップをさらに含むことができる。
一方、上述した本発明の多様な実施形態による電子装置の制御方法及びディスプレイ装置の制御方法は、電子装置及びディスプレイ装置で実行可能なプログラムにより具現化されることができる。そして、このようなプログラムは、多様な類型の記録媒体に格納されて使用されることができる。
具体的には、上述した方法を行うためのコードは、フラッシュメモリ、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electronically Erasable and Programmable ROM)、ハードディスク、リムーバブルディスク、メモリカード、USBメモリ、CD−ROMなどのように、多様な類型の不揮発性記録媒体に格納されていることができる。
また、ディスプレイ装置、電子装置及びサーバに対して示した上述のブロック図ではバス(bus)を示していないが、ディスプレイ装置、電子装置及びサーバにおいて各構成要素間の通信は、バスを介してなされることもできる。また、各デバイスには、上述した多様なステップを行うCPU、マイクロ・プロセッサなどのようなプロセッサがさらに備えられることができる。
以上では、本発明の実施の形態について図示し説明したが、本発明は、上述した特定の実施の形態に限定されるものではなく、請求の範囲で請求する本発明の要旨から逸脱せずに当該発明が属する技術分野における通常の知識を有した者によって多様な変形実施が可能なことはもちろんで、このような変形実施は、本発明の技術的思想や展望から個別的に理解されてはならない。
100 ディスプレイ装置
110 第1通信部
120 第2通信部
130、250、320、430 制御部
140、220 音声収集部
150 入力部
160 出力部
170、210、420 格納部
180 受信部
190 信号処理部
200 電子装置
230、310、410 通信部
240 IR発信部
260 IR受信部
300 第1サーバ
400 第2サーバ

Claims (11)

  1. 周辺機器を制御するための電子装置と通信を行うディスプレイ装置であって、
    前記電子装置と通信を行う第1通信部と、
    音声認識機能を行うサーバと通信を行う第2通信部と、
    前記電子装置からユーザの音声が受信されると前記受信されたユーザの音声を前記サーバに送信し、前記サーバから前記ユーザの音声に対応する制御信号を受信して前記電子装置に送信するように制御する制御部とを備え、
    前記制御部は、
    前記ユーザの音声が受信されると外部入力モードを判断し、
    前記制御信号は、
    前記電子装置で前記周辺機器を制御するための信号である、
    ことを特徴とするディスプレイ装置。
  2. 前記制御部は、
    前記判断された外部入力モードに対する情報を前記ユーザの音声と共に前記サーバに送信し、前記サーバから前記外部入力モードに対する情報及び前記ユーザの音声に対応する制御信号を受信して前記電子装置に送信するように制御する、
    ことを特徴とする請求項1に記載のディスプレイ装置。
  3. 前記制御部は、
    前記判断された外部入力モードに対する情報を前記サーバから受信された制御信号と共に前記電子装置に送信するように制御する、
    ことを特徴とする請求項1に記載のディスプレイ装置。
  4. 周辺機器を制御するための電子装置と通信を行うディスプレイ装置の制御方法であって、
    第1通信方法によって前記電子装置からユーザの音声を受信するステップと、
    前記ユーザの音声が受信されると外部入力モードを判断するステップと、
    前記ユーザの音声及び前記外部入力モードに対する情報をサーバに伝送し、前記サーバから前記ユーザの音声及び前記外部入力モード対応する制御信号を受信するステップと、
    前記第1通信方法によって前記制御信号を前記電子装置に伝送するステップと、
    を含み、
    前記制御信号は、
    前記電子装置から第2通信方法によって前記周辺機器に伝送され、前記周辺機器を制御するための信号である、
    ことを特徴とするディスプレイ装置の制御方法。
  5. 前記第1通信方法は、
    ワイファイ(Wi−Fi)、ブルートゥース(bluetooth)、IRDA(Infrared Data Association)、RF(Radio Frequency)、IEEE 802.11、WLAN、HR
    WPAN、UWB、LR WPAN、IEEE 1394のうち、少なくとも1つによる通信方法である、
    ことを特徴とする請求項4に記載のディスプレイ装置の制御方法。
  6. 前記第2通信方法は、
    IR(Infrared Ray)による通信方法である、
    ことを特徴とする請求項4に記載のディスプレイ装置の制御方法。
  7. 前記制御信号を受信するステップは、
    前記ユーザの音声を第1サーバに伝送するステップと、
    前記第1サーバから前記ユーザの音声の変換されたテキスト情報を受信するステップと、
    前記テキスト情報を第2サーバに伝送するステップと、
    前記第2サーバから前記テキスト情報に対応する前記制御信号を受信するステップと、
    を含む、
    ことを特徴とする請求項5に記載のディスプレイ装置の制御方法。
  8. 前記制御信号は、
    前記電子装置で前記周辺機器を制御するためのリモコン信号にマッチングする制御信号である、
    ことを特徴とする請求項4に記載のディスプレイ装置の制御方法。
  9. 前記電子装置は、
    MBR(Multi Brand Remote controller)である、
    ことを特徴とする請求項4に記載のディスプレイ装置の制御方法。
  10. 前記ユーザの音声が受信されると、前記ディスプレイ装置の外部入力モードに対する情報を前記電子装置に伝送するステップ、を更に含む、
    ことを特徴とする請求項4に記載のディスプレイ装置の制御方法。
  11. ディスプレイ装置及び前記ディスプレイ装置の周辺機器を制御するための電子装置を含む対話型システムにおいて、
    第1通信方法によって、収集されたユーザの音声を前記ディスプレイ装置に伝送し、前記ディスプレイ装置から前記ユーザの音声に対応する制御信号を受信し、第2通信方法によって、前記周辺機器を制御するための前記制御信号を前記周辺機器に伝送する電子装置と、
    前記電子装置からユーザの音声が受信されると、外部入力モードを判断し、音声認識機能を行うサーバを介して前記ユーザの音声及び前記外部入力モードに対応する前記制御信号を受信し、前記第1通信方法によって制御信号を前記電子装置に伝送するディスプレイ装置と、
    を含む、対話型システム。
JP2013133954A 2012-06-29 2013-06-26 ディスプレイ装置、電子装置、対話型システム及びそれらの制御方法 Expired - Fee Related JP6440346B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020120071361A KR101605862B1 (ko) 2012-06-29 2012-06-29 디스플레이 장치, 전자 장치, 대화형 시스템 및 이들의 제어 방법
KR10-2012-0071361 2012-06-29

Publications (2)

Publication Number Publication Date
JP2014011803A JP2014011803A (ja) 2014-01-20
JP6440346B2 true JP6440346B2 (ja) 2018-12-19

Family

ID=48747917

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013133954A Expired - Fee Related JP6440346B2 (ja) 2012-06-29 2013-06-26 ディスプレイ装置、電子装置、対話型システム及びそれらの制御方法

Country Status (6)

Country Link
US (4) US8983299B2 (ja)
EP (4) EP3214842B1 (ja)
JP (1) JP6440346B2 (ja)
KR (1) KR101605862B1 (ja)
CN (2) CN107197348B (ja)
DE (1) DE202013012886U1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101605862B1 (ko) 2012-06-29 2016-03-24 삼성전자주식회사 디스플레이 장치, 전자 장치, 대화형 시스템 및 이들의 제어 방법
SG11201504638RA (en) * 2012-12-12 2015-07-30 Hitachi Chemical Co Ltd Cancer cell isolation device and cancer cell isolation method
US10585568B1 (en) 2013-02-22 2020-03-10 The Directv Group, Inc. Method and system of bookmarking content in a mobile device
JP2015177273A (ja) * 2014-03-14 2015-10-05 ソニー株式会社 電子機器、通信システム、電子機器の制御方法およびプログラム
SG11201609973SA (en) 2014-04-30 2016-12-29 Michael Flynn Mobile computing system with user preferred interactive components
KR102147346B1 (ko) * 2014-06-23 2020-08-24 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법
US20160174272A1 (en) * 2014-12-16 2016-06-16 Qualcomm Incorporated Method and system for automating and assisting wi-fi direct connections using mobile-device ir-blaster
CN105842964A (zh) * 2015-01-14 2016-08-10 中强光电股份有限公司 投影***、投影装置及投影装置的操作方法
CN104936020B (zh) * 2015-06-25 2019-04-02 四川迪佳通电子有限公司 基于机顶盒的远场拾音遥控方法及***
KR102549407B1 (ko) * 2015-10-14 2023-06-30 삼성전자주식회사 전자장치 및 그 제어방법
EP3475942B1 (en) * 2016-06-27 2023-01-11 Amazon Technologies, Inc. Systems and methods for routing content to an associated output device
KR102628856B1 (ko) 2017-01-04 2024-01-25 삼성전자주식회사 전자 장치 간 콘텐츠 공유 시스템 및 전자 장치의 콘텐츠 공유 방법
CA3076919A1 (en) 2017-10-03 2019-04-11 Crititech, Inc. Local delivery of antineoplastic particles in combination with systemic delivery of immunotherapeutic agents for the treatment of cancer
JP7123134B2 (ja) * 2017-10-27 2022-08-22 フラウンホファー ゲセルシャフト ツール フェールデルンク ダー アンゲヴァンテン フォルシュンク エー.ファオ. デコーダにおけるノイズ減衰
US10560737B2 (en) * 2018-03-12 2020-02-11 Amazon Technologies, Inc. Voice-controlled multimedia device
US10847176B2 (en) 2018-03-12 2020-11-24 Amazon Technologies, Inc. Detection of TV state using sub-audible signal
CN108600060A (zh) * 2018-04-28 2018-09-28 杭州任你说智能科技有限公司 一种智能语音红外控制家用电器的***和方法
JP7314102B2 (ja) * 2020-07-09 2023-07-25 Tvs Regza株式会社 制御信号生成回路、受信装置、システム、生成方法、およびプログラム
WO2022110046A1 (en) * 2020-11-27 2022-06-02 Abb Schweiz Ag Human machine interface, controller, robot and corresponding system and method

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR930006419B1 (ko) * 1990-10-26 1993-07-14 삼성전자 주식회사 재편성원격제어송신기의 모드전환 및 표시방법
JP3045796B2 (ja) 1991-03-14 2000-05-29 富士通株式会社 画像伝送装置
IL119948A (en) 1996-12-31 2004-09-27 News Datacom Ltd Voice activated communication system and program guide
JP2001145180A (ja) * 1999-11-10 2001-05-25 Nec Corp 電化製品集中制御システム及び遠隔制御装置
JP2002101476A (ja) 2000-09-25 2002-04-05 Toshiba Corp 情報処理装置
JP3309389B2 (ja) 2000-09-26 2002-07-29 船井電機株式会社 マルチリモートコントロール送信装置、映像装置及び同装置のフォーマットプリセット支援方法
JP2003337866A (ja) 2002-05-20 2003-11-28 Shimizu Corp 室内環境・情報管理統合化システム
US6757039B2 (en) 2002-06-17 2004-06-29 Yao-Dong Ma Paper white cholesteric displays employing reflective elliptical polarizer
US20040203387A1 (en) * 2003-03-31 2004-10-14 Sbc Knowledge Ventures, L.P. System and method for controlling appliances with a wireless data enabled remote control
JP2005065156A (ja) * 2003-08-20 2005-03-10 Victor Co Of Japan Ltd 音声認識処理システム及びそれに用いる映像信号記録再生装置
JP2005072764A (ja) 2003-08-21 2005-03-17 Hitachi Ltd 機器制御システムとそのための装置及び機器制御方法
KR20050066464A (ko) 2003-12-26 2005-06-30 엘지전자 주식회사 다기능 리모콘
CN1949756A (zh) * 2006-09-06 2007-04-18 华为技术有限公司 基于语音的人机通讯***和方法
US9311394B2 (en) 2006-10-31 2016-04-12 Sony Corporation Speech recognition for internet video search and navigation
US20080208589A1 (en) 2007-02-27 2008-08-28 Cross Charles W Presenting Supplemental Content For Digital Media Using A Multimodal Application
US8032383B1 (en) 2007-05-04 2011-10-04 Foneweb, Inc. Speech controlled services and devices using internet
US8175885B2 (en) * 2007-07-23 2012-05-08 Verizon Patent And Licensing Inc. Controlling a set-top box via remote speech recognition
JP2010109446A (ja) * 2008-10-28 2010-05-13 Sony Corp 制御装置、電子機器の制御システム、および電子機器の制御方法
US11012732B2 (en) * 2009-06-25 2021-05-18 DISH Technologies L.L.C. Voice enabled media presentation systems and methods
ES2382747B1 (es) 2009-06-30 2013-05-08 Telefónica, S.A. Interaccion multimodal sobre aplicaciones de television digital
US20110067059A1 (en) 2009-09-15 2011-03-17 At&T Intellectual Property I, L.P. Media control
CN101719998B (zh) * 2009-12-03 2012-01-25 四川长虹电器股份有限公司 家电设备集中控制***及方法
EP2339576B1 (en) 2009-12-23 2019-08-07 Google LLC Multi-modal input on an electronic device
CN101938391A (zh) * 2010-08-31 2011-01-05 中山大学 一种处理语音的方法、***、遥控器、机顶盒、云服务器
US20130229584A1 (en) * 2010-11-09 2013-09-05 Thomson Licensing Systems and methods for multi-band set top box control of a display device
CN202190331U (zh) * 2011-05-12 2012-04-11 深圳市子栋科技有限公司 语音控制电视机的***和装置
CN102196207B (zh) * 2011-05-12 2014-06-18 深圳市车音网科技有限公司 语音控制电视机的方法、装置和***
KR101605862B1 (ko) * 2012-06-29 2016-03-24 삼성전자주식회사 디스플레이 장치, 전자 장치, 대화형 시스템 및 이들의 제어 방법

Also Published As

Publication number Publication date
CN107197348B (zh) 2019-06-18
USRE48423E1 (en) 2021-02-02
USRE49493E1 (en) 2023-04-11
EP3402210A1 (en) 2018-11-14
USRE47168E1 (en) 2018-12-18
EP3214842B1 (en) 2018-08-08
JP2014011803A (ja) 2014-01-20
CN107197348A (zh) 2017-09-22
EP2680597B1 (en) 2017-06-14
KR101605862B1 (ko) 2016-03-24
EP2680597A2 (en) 2014-01-01
CN103517120B (zh) 2018-06-08
CN103517120A (zh) 2014-01-15
EP3214842A1 (en) 2017-09-06
KR20140002417A (ko) 2014-01-08
EP3402210B1 (en) 2021-05-19
DE202013012886U1 (de) 2021-02-24
US8983299B2 (en) 2015-03-17
EP2680597A3 (en) 2014-09-03
EP3833036A1 (en) 2021-06-09
US20140003820A1 (en) 2014-01-02

Similar Documents

Publication Publication Date Title
JP6440346B2 (ja) ディスプレイ装置、電子装置、対話型システム及びそれらの制御方法
KR102056461B1 (ko) 디스플레이 장치 및 디스플레이 장치의 제어 방법
EP2674941B1 (en) Terminal apparatus and control method thereof
US9219949B2 (en) Display apparatus, interactive server, and method for providing response information
US20140006022A1 (en) Display apparatus, method for controlling display apparatus, and interactive system
US20140195230A1 (en) Display apparatus and method for controlling the same
KR101914708B1 (ko) 서버 및 서버의 제어 방법
CN103546763A (zh) 用于提供内容信息的方法和广播接收设备
KR101859614B1 (ko) 디스플레이 장치, 전자 장치, 대화형 시스템 및 이들의 제어 방법
KR102160756B1 (ko) 디스플레이 장치 및 디스플레이 장치의 제어 방법
KR20140026220A (ko) 단말 장치 및 단말 장치의 제어 방법
KR102091006B1 (ko) 디스플레이 장치 및 그의 제어 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160426

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171003

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180904

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20180911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181120

R150 Certificate of patent or registration of utility model

Ref document number: 6440346

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees