JP6053097B2 - 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム - Google Patents

機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム Download PDF

Info

Publication number
JP6053097B2
JP6053097B2 JP2012041825A JP2012041825A JP6053097B2 JP 6053097 B2 JP6053097 B2 JP 6053097B2 JP 2012041825 A JP2012041825 A JP 2012041825A JP 2012041825 A JP2012041825 A JP 2012041825A JP 6053097 B2 JP6053097 B2 JP 6053097B2
Authority
JP
Japan
Prior art keywords
command
voice
biological information
information data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012041825A
Other languages
English (en)
Other versions
JP2013179446A (ja
Inventor
曽根 基樹
基樹 曽根
長谷川 稔
稔 長谷川
由起 中原
由起 中原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2012041825A priority Critical patent/JP6053097B2/ja
Priority to PCT/JP2013/051728 priority patent/WO2013128999A1/ja
Publication of JP2013179446A publication Critical patent/JP2013179446A/ja
Application granted granted Critical
Publication of JP6053097B2 publication Critical patent/JP6053097B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/30User interface
    • G08C2201/31Voice input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M11/00Telephonic communication systems specially adapted for combination with other electrical systems
    • H04M11/007Telephonic communication systems specially adapted for combination with other electrical systems with remote control systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、機器操作装置、サーバ、機器操作システム、機器操作方法およびプログラムに関する。
家電製品の多くにはリモートコントローラが付属している。ユーザは、このリモートコントローラを操作することにより、家電機器に対して直接操作することなく、遠隔操作により所望の動作を行わせることができる。
その一方で、例えば洗濯や料理の作業を中断することなく他の家電機器を操作したいという要望がある。しかし、リモートコントローラによる遠隔操作では、リモートコントローラを操作するために作業を中断する必要がある。
近年において、音声認識の精度が向上してきている。そこで、この音声認識を用いて機器をコントロールできるようにすれば、作業を中断することなく機器を遠隔操作できる。
そこで、機器を遠隔操作する音声認識システムとして以下のものが知られている。つまり、この音声認識システムにおいては、発話音声データから抽出された音声特徴量を携帯電話器から通信ネットワークを介して音声認識機能を備えた認証・認識サーバに送信する。認証・認識サーバは、受信した音声特徴量に基づいて発話音声データの音声内容を認識する。そして、認証・認識サーバは、認識した音声内容が被制御機器に対する指示音声であった場合、その指示音声内容を認識し、対応する制御信号を通信ネットワークを介して被制御機器に送信するというものである(例えば、特許文献1参照)。
特開2006−203900号公報
しかし、上記特許文献1に記載の構成では、ユーザが操作のための音声を入力する装置に携帯電話器を利用している。このため、ユーザは、機器の遠隔操作に際して発話音声データを送信させるための操作を携帯電話器に行い、かつ、携帯電話器に向かって発話する必要がある。したがって、特許文献1では、これまでに行っていた作業が中断されてしまうという問題は解決されていない。
そこでこの発明は、ユーザがこれまでに行っていた作業を中断することなく、音声によって的確に機器の遠隔制御が行えるようにすることを目的とする。
本発明は、上述の課題を解決すべくなされたもので、本発明の一態様としての機器操作システムは、機器操作装置と生体情報解析サーバとを備え、前記機器操作装置は、自己または他の機器操作装置が制御対象とする機器のいずれかを操作するための生体情報を入力する生体情報入力部と、入力された生体情報の内容を含む生体情報データを生成する生体情報処理部と、前記生体情報データを前記生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する第1の通信部と、受信したコマンドに応答した動作が実行されるように自己が制御対象とする機器を制御する機器制御部とを備え、前記生体情報解析サーバは、前記生体情報データを受信するとともに、前記コマンドを送信する第2の通信部と、受信した生体情報データを解析する解析部と、前記生体情報データを解析することにより認識された生体情報の内容に基づいて、コマンド内容と操作対象機器を判定するコマンド判定部と、判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、前記操作対象機器を制御対象とする前記機器操作装置に対して前記第2の通信部により送信させるコマンド生成部とを備える。
また、本発明の一態様としての機器操作装置は、自己または他の機器操作装置が制御対象とする機器のいずれかを操作するための生体情報を入力する生体情報入力部と、入力された生体情報の内容を含む生体情報データを生成する生体情報処理部と、前記生体情報データを生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する通信部と、受信したコマンドに応答した動作が実行されるように自己が制御対象とする機器を制御する機器制御部とを備える。
また、本発明の一態様としてのサーバは、機器操作装置が入力した生体情報に基づいて生成した生体情報データを前記機器操作装置から受信するとともに、コマンドを送信する通信部と、受信した生体情報データを解析する解析部と、前記生体情報データを解析することにより認識された生体情報の内容に基づいて、コマンド内容と操作対象機器を判定するコマンド判定部と、判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、前記操作対象機器を制御対象とする前記機器操作装置に対して前記通信部により送信させるコマンド生成部とを備える。
また、本発明の一態様としての機器操作方法は、機器操作装置と生体情報解析サーバとを備える機器操作システムにおける機器操作方法であって、前記機器操作装置は、自己または他の機器操作装置が制御対象とする機器のいずれかを操作するための生体情報を入力する生体情報入力ステップと、入力された生体情報の内容を含む生体情報データを生成する生体情報処理ステップと、前記生体情報データを前記生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する第1の通信ステップと、受信したコマンドに応答した動作が実行されるように自己が制御対象とする機器を制御する機器制御ステップとを備え、前記生体情報解析サーバは、前記生体情報データを受信するとともに、前記コマンドを送信する第2の通信ステップと、受信した生体情報データを解析する解析ステップと、前記生体情報データを解析することにより認識された生体情報の内容に基づいて、コマンド内容と操作対象機器を判定するコマンド判定ステップと、判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、前記操作対象機器を制御対象とする前記機器操作装置に対して前記第2の通信ステップにより送信させるコマンド生成ステップとを備える。
また、本発明の一態様としてのプログラムは、コンピュータに、自己または他の機器操作装置が制御対象とする機器のいずれかを操作するための生体情報を入力する生体情報入力ステップと、入力された生体情報の内容を含む生体情報データを生成する生体情報処理ステップと、前記生体情報データを生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する通信ステップと、受信したコマンドに応答した動作が実行されるように自己が制御対象とする機器を制御する機器制御ステップとを実行させるためのものである。
また、本発明の一態様としてのプログラムは、コンピュータに、機器操作装置が入力した生体情報に基づいて生成した生体情報データを前記機器操作装置から受信するとともに、コマンドを送信する通信ステップと、受信した生体情報データを解析する解析ステップと、前記生体情報データを解析することにより認識された生体情報の内容に基づいて、コマンド内容と操作対象機器を判定するコマンド判定ステップと、判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、前記操作対象機器を制御対象とする前記機器操作装置に対して前記通信ステップにより送信させるコマンド生成ステップとを実行させるためのものである。
本発明によれば、ユーザがこれまでに行っていた作業を中断することなく、音声によって的確に機器の遠隔制御が行えるという効果が得られる。
本発明の第1の実施形態における機器操作システムの構成例を示す図である。 第1の実施形態における機器操作装置の構成例を示す図である。 本実施形態における音声解析サーバ、ジェスチャ解析サーバの構成例を示す図である。 第1の実施形態における機器管理情報の内容例を示す図である。 第1の実施形態におけるコマンド管理情報の内容例を示す図である。 第1の実施形態の機器操作装置における音声情報処理部が実行する処理手順例を示す図である。 第1の実施形態の機器操作装置における音声情報処理部が実行する処理手順の変形例を示す図である。 第1の実施形態における音声解析サーバが実行する処理手順例を示す図である。 第2の実施形態における機器操作システムの構成例を示す図である。 第2の実施形態における機器のグループ管理を説明するための図である。 第3の実施形態における機器操作システムの構成例を示す図である。 第4の実施形態における機器操作装置の構成例を示す図である。 第4の実施形態における機器操作装置の変形例を示す図である。
[第1の実施形態]
図1は、本発明における第1の実施形態としての機器操作システムの構成例を示している。この図に示す機器操作システムは、家屋1におけるエアコンディショナ100−1、テレビジョン受像機100−2、機器操作装置200−1、200−2およびルータ300を備える。また、機器操作システムは、音声解析サーバ(生体情報解析サーバ)400を備える。
エアコンディショナ100−1は、家屋1において備えられる家電機器であり、本実施形態の機器操作システムにおいて操作対象機器の1となるものである。テレビジョン受像機100−2も、家屋1において備えられる家電機器であり、本実施形態の機器操作システムにおいて操作対象機器となるものの1つである。
なお、以降において、エアコンディショナ100−1とテレビジョン受像機100−2とについて特に区別しない場合には、機器100と記載する。
機器操作装置200−1は、エアコンディショナ100−1を操作するための装置であり、エアコンディショナ100−1と所定方式のインターフェースを介して接続されている。また、機器操作装置200−1は、ルータ300からインターネットなどのネットワークを経由して音声解析サーバ400と通信可能に接続される。
また、機器操作装置200−2は、テレビジョン受像機100−2を操作するための装置であり、テレビジョン受像機100−2と所定方式のインターフェースを介して接続されている。また、機器操作装置200−1は、ルータ300からネットワークを経由して音声解析サーバ400と通信可能に接続される。
なお、以降において、機器操作装置200−1と200−2とで特に区別しない場合には、機器操作装置200と記載する。
ルータ300は、家屋1内の機器操作装置200と音声解析サーバ400をネットワーク経由で通信可能とするための中継器である。
音声解析サーバ400は、操作対象の機器100を遠隔操作するために、機器操作装置200からルータ300経由で受信した音声情報データをコマンドコードに変換して、操作対象の機器100に接続された機器操作装置200に対して送信する。
同じ図1を参照して、第1の実施形態の情報処理システムにおける機器100に対する遠隔操作のための動作例について説明する。
ここで、家屋1のユーザ2は、エアコンディショナ100−1の温度を28度に変更したいと思っているものとする。そこで、ユーザ2は、例えば「28度。」と声を発する。
機器操作装置200−1と200−2は、周囲音を収音するマイクロフォンを備えている。上記のようにユーザ2から発せられた発話音声(生体情報)は、機器操作装置200−1と200−2のうち、ユーザ2の近くに位置している側が備えるマイクロフォンにより収音される。あるいは、機器操作装置200−1と200−2とユーザ2の距離に大きな差が無いような場合には、機器操作装置200−1と200−2の両方のマイクロフォンにより発話音声が収音される。
発話音声を収音した機器操作装置200は、収音した音声信号について例えば所定形式の圧縮音声信号に変換するとともにメタデータを付加することで、音声情報データ(生体情報データ)を生成する。なお、メタデータとしては、例えば、その機器操作装置200が備えられる家屋、部屋に対応する識別子などとなる。これらの情報は、例えば、ユーザの操作などによって機器操作装置200に記憶されている。
音声解析サーバ400は、受信した音声情報データを解析することで、この音声情報データが含む音声信号における発話音声の成分について音声認識を行う。これにより、発話音声の内容が認識される。そして、この発話内容の認識結果を利用して、音声解析サーバ400は、発話内容が示す操作対象機器とコマンド内容とを判定する。この場合、発話内容は「28度。」であるので、音声解析サーバ400は、操作対象機器がエアコンディショナ100−1であると判定し、コマンド内容が設定温度を28度にすることであると判定する。このように、コマンド内容とは、発話により指示された操作の内容のことである。
音声解析サーバ400は、判定したコマンド内容に応じたコマンドコードを生成し、このコマンドコードを、同じく判定した操作対象機器に接続される機器操作装置200を送信先として指定して送信する。具体的に、この場合の音声解析サーバ400は、設定温度を28度とすることを指示するコマンドコードを、エアコンディショナ100−1に接続された機器操作装置200−1を送信先として指定して送信する。
機器操作装置200−1は、受信したコマンドコードをエアコンディショナ100−1に送信する。エアコンディショナ100−1は、このコマンドコードの受信に応答して設定温度を28度に変更する。
本実施形態では、このように、ユーザが音声を発して指示を行うことにより機器100を遠隔操作することができる。本実施形態において、機器操作装置200は、家屋1において対応の機器100とともに固定的に配置された状態でユーザの発話音声を収音する。つまり、ユーザ2は、家屋1において操作のための音声を単に発話すればよく、携帯電話を改めて持つようなことをしなくともよい。これにより、ユーザ2は、エアコンディショナ100−1を操作するにあたり、それまでに行っていた作業を中断する必要が無い。
図2は、第1の実施形態における機器操作装置200の構成例を示している。この図に示す機器操作装置200は、マイクロフォン(生体情報入力部)210、音声情報処理部(生体情報処理部)220、通信部230および機器制御部240を備える。
マイクロフォン210は、周囲の音声を収音する。つまり、マイクロフォン210は、自己または他の機器操作装置200が制御対象とする操作対象機器のいずれかを操作するための生体情報として音声を入力する。
音声情報処理部220は、マイクロフォン210により収音(入力)された音声(生体情報)の内容を含む音声情報データ(生体情報データ)を生成する。また、音声情報処理部220は、予め定められた所定の操作開始予告信号を入力した後における一定時間内に入力した生体情報に基づいて前記生体情報データを生成する。
音声情報処理部220は、発話音声成分抽出部221、形式変換部222、メタデータ記憶部223および音声情報データ生成部224を備える。
マイクロフォン210が収音した音声には、発話音声以外の周囲音も含まれている。発話音声成分抽出部221は、マイクロフォン210により収音された音声信号から発話音声を抽出する。この抽出にあたって、発話音声成分抽出部221は、例えば発話音声に特有の周波数特性の情報などを利用して音声信号をフィルタリングする。
形式変換部222は、抽出された発話音声成分の音声信号について、例えば圧縮符号化などを施して所定形式の音声データに変換する。
メタデータ記憶部223は、例えば機器操作装置200を識別するための機器操作操装置IDや、機器操作装置200が配置されている家屋や部屋に対応するグループIDなどをはじめとする所定のメタデータを記憶する。
音声情報データ生成部224は、形式変換部222による変換後の音声データに対してメタデータ記憶部223から読み出したメタデータを付加することにより、音声情報データを生成する。
機器操作装置200において、通信部(第1の通信部)230は、音声情報データ生成部224により生成された音声情報データを、この図では示していないルータ300からネットワークを経由して音声解析サーバ400に対して送信する。また、通信部230は、音声解析サーバ400から送信されたコマンドコードを受信する。
機器制御部240は、通信部230により受信されたコマンドコードにしたがって、自己と接続された制御対象の機器100を制御する。例えば機器制御部240は、通信部230にて受信されたコマンドコードを、必要に応じて機器100に適合する形式に変換して機器100に送信する。機器100は、機器制御部240から受信したコマンドコードに応答した動作を実行する。
図3は、音声解析サーバ400の構成例を示している。この図に示す音声解析サーバ400は、重複受信対応処理部410、解析部420、コマンド判定部430、コマンド生成部440、機器管理情報450、コマンド管理情報460および通信部470(第2の通信部)を備える。
本実施形態では、同じ部屋に設置される複数の機器操作装置200にて同じ発話音声を収音して同じ内容の音声情報データを送信する可能性がある。この場合において、音声解析サーバ400側で同じ音声情報データを複数回処理することは処理負荷を増加させる。また、同じ操作指示内容の音声情報データに基づいて同じコマンドが送信されてしまうと、機器100の動作もユーザの意図に沿わなくなるなど、安定した遠隔操作の阻害要因となる可能性がある。
上記のような不具合回避のために、重複受信対応処理部410は、複数の機器操作装置200から同じ発話音声の音声情報データを受信した場合に、1つの音声情報データのみを遠隔操作に利用すべきものとして選別する。
このために、重複受信対応処理部410は、今回受信された音声情報データ(生体情報データ)と、過去の一定時間内に通信部470により受信された音声情報データを比較した結果が一致している場合、今回受信された音声情報データを破棄する。
解析部420は、通信部470にて受信された音声情報データについて解析を行う。解析部420は、解析結果として、音声情報データに含まれる発話音声の内容とメタデータの内容を認識する。
コマンド判定部430は、解析部420により認識された発話音声の内容に基づき、ユーザ2が意図する操作に応じたコマンド内容と操作対象機器を判定する。この際、コマンド判定部430は、機器管理情報450とコマンド管理情報460とを利用する。
コマンド生成部440は、コマンド判定部430により判定されたコマンド内容のコマンドコード(コマンド)を生成する。そして、コマンド生成部440は、生成したコマンドコードを、判定された操作対象機器に接続される機器操作装置200を送信先として指定して通信部470に送信させる。
通信部470は、機器操作装置200から送信された音声情報データを受信する。また、コマンド生成部440により生成されたコマンドコードを機器操作装置200に対して送信する。
図4は、音声解析サーバ400が記憶する機器管理情報450の構造例を示している。機器管理情報450は、機器100を一意に識別する機器IDに対して、機種ID、機器操作装置ID、機器操作装置アドレス、メイングループIDおよびサブグループIDを対応付けた構造を有する。
機器IDは、機器100を一意に識別する識別子である。
機種IDは、対応付けされた機器IDの機器100についての機種を一意に特定する識別子である。
機器操作装置IDは、対応付けされた機器IDの機器100に接続される機器操作装置200を一意に識別する識別子である。
機器操作装置アドレスは、ネットワーク上で機器操作装置200に割り当てられたアドレス(IPアドレス)を示す。
メイングループIDは、対応付けされた機器IDの機器100が属するメイングループを一意に識別する識別子である。なお、メイングループは、例えば、家屋あるいは家族ごとに対応する。つまり、同じメイングループIDに対応付けられる機器IDの機器100は、同じ家屋に設置されていることを示す。
サブグループIDは、対応付けされた機器IDの機器100が属するサブグループを一意に識別する識別子である。なお、サブグループは、例えば、家屋(あるいは家族)における部屋ごとに対応する。つまり、同じサブグループIDに対応付けられる機器IDの機器100は、同じ部屋に設置されていることを示す。
図5は、コマンド管理情報460の構造例を示している。コマンド管理情報460は、同図に示すように、機種IDとコマンドセットとを対応付けた情報である。コマンドコードは、機器100の機種ごとに異なるセットを有する。1つのコマンドセットは、コマンドコードとコマンド内容と発話音声内容とを対応付けた構造を有する。
コマンド判定部430は、例えば、認識された発話音声内容に対応付けられたコマンド内容をコマンド管理情報460から検索することにより、コマンド内容を判定する。また、コマンド判定部430は、判定したコマンドコードに対応付けられている機種IDをコマンド管理情報460から認識し、さらに認識した機種IDに対応付けられている機器IDを機器管理情報450から認識する。コマンド判定部430は、このように認識した機器IDを、制御対象機器として判定する。
具体的に、発話音声内容が「28度」というものであると認識された場合、コマンド判定部430は、コマンド管理情報460から、この「28度」の発話音声内容を含むコマンドセットを検索する。コマンド判定部430は、この検索したコマンドセットに含まれるコマンド内容を認識する。また、コマンド判定部430は、コマンド管理情報460において検索したコマンドセットに対応付けられている機種IDを認識する。この場合には、エアコンディショナ100−1の機種の機種IDが認識される。
次に、コマンド判定部430は、認識した機種IDと、受信した音声情報データのメタデータに含まれていた機器操作装置IDを含むレコードを機器管理情報450から検索し、このレコードにおける機器IDを操作対象機器として認識する。具体的に、この場合のコマンド判定部430は、エアコンディショナ100−1の機器IDを認識する。
コマンド判定部430は、このように認識したコマンド内容と機器IDを判定結果とする。
コマンド生成部440は、コマンド判定部430により判定されたコマンド内容に対応するコマンドコードをコマンド管理情報460から認識し、この認識したコマンドコードを生成する。
図6フローチャートは、機器操作装置200における音声情報処理部220が実行する処理手順例を示している。
発話音声成分抽出部221は、マイクロフォン210から入力される音声信号から発話音声成分を抽出するための処理を実行しながら、発話音声成分が抽出されるのを待機している(ステップS101−NO)。そして、発話音声成分が抽出されると(ステップS101−YES)、形式変換部222は、抽出された発話音声成分の音声信号を所定形式の音声データに変換する(ステップS102)。
次に、音声情報データ生成部224は、ステップS102による変換後の音声データにメタデータを付加するなどして音声情報データを生成し(ステップS103)、この生成した音声情報データを通信部230により音声解析サーバ400へ送信させる(ステップS104)。
図7のフローチャートは、音声情報処理部220が実行する処理手順の変形例を示している。
この変形例では、ユーザ2は、遠隔操作のための音声を発する前のタイミングで、操作開始を予告する操作開始予告情報を機器操作装置200に入力する。具体例として、ユーザ2は、操作開始情報の入力として、手を叩いて音を出すようにする。機器操作装置200のマイクロフォン210はこの手を叩いた音を入力する。発話音声成分抽出部221は、発話音声に加えて、この手を叩いた音の成分についても抽出する。
発話音声成分抽出部221は、マイクロフォン210から入力される音声信号から手を叩いた音の成分を抽出する処理を実行しながら、この手を叩いた音の成分が抽出されるのを待機している。つまり、発話音声成分抽出部221は、操作開始予告情報が入力されるのを待機している(ステップS201−NO)。
そして、発話音声成分抽出部221は、操作開始予告情報が入力されるのに応じて(ステップS201−YES)、この操作開始予告情報が入力されたタイミングから一定時間が経過するまでの間に(ステップS202−NO)、発話音声成分が抽出されるのを待機している(ステップS203−NO)。
発話音声成分が抽出されないまま一定時間が経過した場合(ステップS202−YES)、発話音声成分抽出部221は、ステップS101に戻る。
これに対して、一定時間が経過するまでの間に発話音声が抽出された場合は(ステップS203−YES)、ステップS204からS206の処理が実行される。ステップS204からS206の処理は、図6のステップS102からS104と同様である。
例えば、家屋1においてテレビジョン受像機100−2から番組の音声が出力されていたり、ユーザ2以外の人が存在しているような状況を考えた場合、マイクロフォン210が収音する発話音声成分は、遠隔操作のためのものであるとは限らない。
そこで、変形例におけるユーザ2は、遠隔操作のための行為として、まず操作開始予告のために手を叩き、それから一定時間後に操作のための発話音声を発するようにする。図7の処理によれば、音声情報処理部220は、操作開始予告として手を叩いてから一定時間後に発せられた発話音声のみを、音声情報データとして生成して音声解析サーバ400に送信することができる。これにより、操作目的以外で発せられた発話音声を音声情報データであると誤認して遠隔操作のための処理を実行してしまう可能性が低くなる。なお、操作開始予告として、手を叩く以外に、例えば、チャイムやベルなどを鳴らすようにしてもよい。また、特定の機器にある特定のボタンを押すもしくは、特定の言葉、例えば「操作開始」等の発言を操作開始予告としてもよい。
図8は、音声解析サーバ400が実行する処理手順例を示している。まず、通信部470は、機器操作装置200から音声情報データが送信されるのに応じて、この音声情報データを受信する(ステップS301)。
重複受信対応処理部410は、ステップS301により今回受信された音声情報データと、この今回の音声情報データの受信タイミングから過去の一定時間以内に受信された音声情報データの内容を比較する(ステップS302)。このとき、重複受信対応処理部410は、例えば音声情報データ情報のビット配列パターンを比較すればよい。また、一定時間については、機器操作装置200が音声を入力して音声情報データを生成するまでの処理時間の誤差などを考慮して、例えば3秒程度に設定される。
そして、重複受信対応処理部410は、ステップS302による比較結果に基づき、今回の音声情報データと過去の一定時間以内に受信された音声情報データとで一致したものがあるか否かについて判定する(ステップS303)。
一致したものがあると判定した場合(ステップS303―YES)、重複受信対応処理部410は、今回受信された音声情報データを破棄する(ステップS315)。
する(ステップS303)。
これに対して、一致したものがないと判定した場合(ステップS303−NO)、解析部420は、今回受信した音声情報データを解析する(ステップS304)。この解析の結果に基づき、解析部420は、音声情報データに含まれる音声データについて、発話音声であるか否かを判定する(ステップS305)。発話音声ではないと判定した場合(ステップS305−NO)、解析部420は、今回受信された音声情報データを破棄する(ステップS315)。
なお、コマンド判定部430は、発話音声であると判定した場合に(ステップS305−YES)、その発話音声の内容を認識する。また、解析部420は、解析の結果として、音声情報データに含まれるメタデータの内容を認識する。
発話音声であると判定した場合(ステップS305−YES)、解析部420によっては、音声情報データに含まれていた発話音声とメタデータの内容が認識されている。そこで、この場合のコマンド判定部430は、解析部420の認識結果を利用して、前述のように、コマンド内容と操作対象機器を判定する(ステップS306)。
ただし、ユーザが操作とは関係の無い内容を発話して、この発話音声の音声情報データが送信されたような場合には、機器管理情報450から音声情報データの発話音声に該当するコマンドセットを検索することができない。このような場合のあることに応じて、コマンド判定部430は、判定結果として、認識された発話音声内容に対応するコマンドセットがコマンド管理情報460から検索されたか否かについて判定する(ステップS307)。
コマンドセットが検索されなかった場合(ステップS307−NO)、コマンド判定部430は、今回判定対象とした音声情報データを廃棄する(ステップS315)。
一方、コマンドセットが検索された場合(ステップS307−YES)、コマンド判定部430は、操作対象機器として判定した機器100が、音声情報データ送信元の機器操作装置200が設置された家屋1に存在するか否かについて判定する(ステップS308)。
このために、コマンド判定部430は、ステップS306により判定した操作対象機器の機器IDを含む機器管理情報450のレコードにおけるメイングループIDが、受信した音声情報データのメタデータに含まれていたメイングループIDと一致しているか否かを判定する。メイングループIDは、家屋に対応するので、メイングループIDが一致していれば、音声情報データ送信元の家屋に存在していることになる。
操作対象機器が存在していないと判定した場合(ステップS308−NO)、コマンド判定部430は、今回受信した音声情報データを廃棄する(ステップS315)。
一方、認識した操作対象機器が存在している場合(ステップS308−YES)、コマンド判定部430は、ステップS306により判定された操作対象機器が1つのみであるか否かについて判定する(ステップS309)。例えば、発話音声が不明瞭であったりする場合、コマンド判定部430は、ステップS306において、複数機種の操作対象機種を判定する場合がある。
判定された操作対象機器が複数であった場合(ステップS309−NO)、コマンド判定部430は、操作対象機器を1つに絞り込むための候補提示情報を生成し、この候補提示情報を、音声情報データ送信元の機器操作装置200に対して送信する(ステップS313)。候補提示情報は、コマンド判定部430がステップS306により判定した複数の操作対象機器を選択候補として提示する情報である。
候補提示情報を受信した機器操作装置200は、例えば選択候補の操作対象機器の名称を提示するとともに機器の選択を促す音声を出力する。例えば、機器操作装置200は、「エアコンディショナとテレビジョン受像機が候補です。正しい装置の名前を言ってください」などのように音声出力を行う。
これを聴いたユーザは、例えば選択した操作対象機器の名称を音声で発する。機器操作装置200は、この発話音声を含む選択通知を生成し、音声解析サーバ400に対して送信する。音声解析サーバ400において、この選択通知は、重複受信対応処理部410、解析部420を介してコマンド判定部430に受け渡される。コマンド判定部430は、この選択通知が示す操作対象機器を最終的な判定結果とする(ステップS314)。
また、コマンド判定部430は、やはり発話音声が不明瞭であったような場合に、ステップS306において複数のコマンド内容を判定してしまう場合がある。そこで、コマンド判定部430は、ステップS306により判定されたコマンド内容が1つのみであるか否かについて判定する(ステップS310)。
判定されたコマンド内容が複数であった場合(ステップS310−NO)、コマンド判定部430は、コマンド内容を1つに絞り込むための候補提示情報を生成し、この候補提示情報を、音声情報データ送信元の機器操作装置200に対して送信する(ステップS313)。この後、コマンド判定部430は、候補提示情報の送信に応じて機器操作装置200から返送された選択通知が示す操作対象機器を最終的な判定結果とする(ステップS314)。なお、ステップS306により判定されたコマンド内容が1つのみであると判定された場合には、コマンド判定部430により、最終的に各1つのコマンド内容と操作対象機器が判定されている。
このような処理によりコマンド判定部430は、最終的に各1つのコマンド内容と操作対象機器とを判定する。これに応じて、コマンド生成部440は、判定されたコマンド内容に対応付けられているコマンドコードをコマンド管理情報460におけるコマンドセットから読み出すことにより、コマンドコードを生成する(ステップS311)。そして、コマンド生成部440は、生成したコマンドコードを、判定した操作対象機器に接続された機器操作装置200に対して送信する(ステップS312)。この際、コマンド生成部440は、機器管理情報450において操作対象機器の機器IDに対応付けられている機器操作装置アドレス(IPアドレス)を読み込み、このIPアドレスを宛先として指定する。
[第2の実施形態]
図9を参照して第2の実施形態の遠隔操作例について説明する。
図9に示す家屋1においては、2つの部屋R1とR2が示される。部屋R1には、ユーザ2が存在し、また、エアコンディショナ100−1と、このエアコンディショナ100−1と接続された機器操作装置200−1が設置される。また、部屋R2には、エアコンディショナ100−3と、このエアコンディショナ100−3と接続された機器操作装置200−3が設置される。部屋R2においてユーザは不在である。なお、第2の実施形態において、機器操作装置200と音声解析サーバ400の構成は、それぞれ、図2、図3と同様でよい。
部屋R1においてユーザ2は、遠隔操作のために、「この部屋は暑い」、「部屋R2は電源オフ」と音声を発したとする。機器操作装置200は、この発話音声の音声データの音声情報データを音声解析サーバ400に送信する。
この音声情報データを受信した音声解析サーバ400におけるコマンド判定部430は、「この部屋は暑い」の発話音声内容とコマンド管理情報460の発話音声内容とを照合することで、コマンド内容はエアコンディショナの設定温度を現在より下げる指示であると判定する。また、コマンド判定部430は、操作対象機器が、部屋R1において備えられるエアコンディショナ100−1であると判定する。
そして、上記のようにコマンド内容と操作対象機器を判定したのに応じて、音声解析サーバ400におけるコマンド生成部440は、エアコンディショナ100−1の設定温度を現在の設定値から所定値低下させるためのコマンドコードを生成する。そして、この生成したコマンドコードを機器操作装置200−1に送信する。
また、コマンド生成部440は、エアコンディショナ100−3の電源をオフとするためのコマンドコードを生成し、機器操作装置200−2に送信する。
これにより、部屋R1におけるエアコンディショナ100−1の設定温度が所定値低くなるように変更され、部屋R2におけるエアコンディショナ100−3は、電源をオンからオフに切り替えて動作を停止する。
このように、第2実施形態において、ユーザ2は、自身が存在している部屋の機器100だけではなく、自身が存在していない部屋の機器100についても遠隔操作を行える。
このような遠隔操作を実現するために、音声解析サーバ400は、機器管理情報450におけるサブグループIDの情報を利用する。図10を参照してサブグループの概念について説明する。
図10において、家屋601には、6つの機器A、B、C、D、E、Fが設置されている。この家屋601において、部屋611−1には2つの機器A、Bが設置され、部屋611−2には2つの機器C、Dが設置される。また、機器E、Fは、例えば設置場所が特定できない携帯機器である。
また、家屋602には、6つの機器G、H、I、J、K、Lが設置されている。この家屋602において、部屋621−1には2つの機器G、Hが設置され、部屋621−2には2つの機器I、Jが設置される。また、機器K、Lは、例えば設置場所が特定できない携帯機器である。
家屋601にはメイングループ1が割り当てられ、家屋602にはメイングループ2が割り当てられる。このようにメイングループは、例えば家屋ごとに対応して区分されるグループである。
メイングループ1において、部屋611−1にはサブグループ1が割り当てられ、部屋611−2にはサブグループ2が割り当てられる。したがって、サブグループ1には、機器A、Bが対応付けられ、サブグループ2には機器C、Dが対応付けられる。
また、メイングループ2において、部屋621−1にはサブグループ4が割り当てられ、部屋621−2にはサブグループ5が割り当てられる。したがって、サブグループ4には、機器C、Dが対応付けられ、サブグループ5には機器I、Jが対応付けられる。
なお、サブグループは上記のように部屋ごとに対応して区分されるグループであるが、例えば、部屋611におけるサブグループ3のように、携帯用の機器Eの所有者であるユーザと、例えばこのユーザが主に使用する部屋611−1の機器Bとを含めてサブグループを設定してもよい。部屋621におけるサブグループ6も、携帯用の機器Kの所有者であるユーザと、このユーザが主に使用する部屋621−1の機器Hとを含めてサブグループを設定している。また、部屋611の機器Fと、部屋621の機器Lのように、どのサブグループにも属さない機器があってもよい。
そして、上記のように設定されたメイングループとサブグループには、それぞれ、個々を一意に識別するメイングループIDとサブグループIDが付与される。
図10の例では、メイングループ1とメイングループ2に付与されたメイングループIDについて、それぞれ、「MG1」、「MG2」と表している。また、メイングループ1におけるサブグループ1、2、3に付与されたサブグループIDについては、それぞれ、「SG11」、「SG12」、「SG13」と表している。また、メイングループ2におけるサブグループ3、4、5に付与されたサブグループIDについては、それぞれ「SG14」、「SG15」、「SG16」と表している。
また、機器A、B、C、D、E、F、G、H、I、J、K、Lの機器IDについては、それぞれ、「A」、「B」、「C」、「D」、「E」、「F」、「G」、「H」、「I」、「J」、「K」、「L」と表している。
図4の機器管理情報450に例示した内容には、この図10に示すグループ設定が反映されている。
なお、図示は省略するが、本実施形態の音声解析サーバ400は、設定されたメイングループIDごとに例えばユーザが登録した家屋(または家族)の名称を対応付けたメイングループ管理情報を記憶する。また、設定されたサブグループIDごとに部屋の名称を対応付けたサブグループ管理情報を記憶する。これらの情報を利用することで、本実施形態では、ユーザが部屋名を指示して行う発話音声に応答して遠隔操作を行うことが可能になる。
前述のように、コマンド判定部430は、「この部屋は暑い」の発話音声内容とコマンド管理情報460の発話音声内容とを照合することで、コマンド内容はエアコンディショナの設定温度を現在より下げる指示であると判定する。
また、図9により説明したようにユーザ2が音声を発したのに応じて、コマンド判定部430は、音声情報データのメタデータに含まれる機器操作装置IDを含むレコードを機器管理情報450から抽出する。この抽出されたレコードにおける機器IDとサブグループIDにより、操作対象機器がエアコンディショナ100−1であり、その設置された部屋が部屋R1であることが認識される。
さらに、コマンド判定部430は、「部屋R2は電源オフ」の発話内容とコマンド管理情報460の発話音声内容とを照合することで、コマンド内容は電源のオフであると認識する。また、操作対象機器については、部屋R2におけるエアコンディショナ100−3であると認識する。この操作対象機器の認識にあたり、コマンド判定部430は、電源オフ対象の機器100が部屋R2に設置されていることを認識する必要がある。この場合には、前述のように、サブグループと部屋の名称を対応付けて管理するテーブルを参照すればよい。コマンド判定部430は、部屋R2のサブグループIDに対応付けられた機器IDを抽出することで、部屋R2に設置された操作対象がエアコンディショナ100−3であることを認識できる。
上記のようにコマンド内容と操作対象機器を判定したのに応じて、コマンド生成部440は、エアコンディショナ100−1の温度を現在から所定値低下させるためのコマンドコードを生成し、機器操作装置200−1に送信する。
また、コマンド生成部440は、エアコンディショナ100−3の電源をオフとするためのコマンドコードを生成し、機器操作装置200−2に送信する。
これにより、部屋R1におけるエアコンディショナ100−1は設定温度を低く設定するように動作し、部屋R2におけるエアコンディショナ100−3は、電源をオンからオフに切り替えて動作を停止する。
[第3の実施形態]
図11を参照して第3の実施形態の遠隔操作例について説明する。なお、第3の実施形態における機器操作装置200と音声解析サーバ400の構成は、それぞれ、図2、図3と同様でよい。
図11に示す家屋1においては、エアコンディショナ100−1と、このエアコンディショナ100−1に接続された機器操作装置200−1が設置される。また、エアコンディショナ100−1が設置されるのと同じ部屋において、ヒーター100−4と、このヒーター100−4に接続された機器操作装置200−4が設置される。つまり、家屋1には、同じ部屋において2種類の暖房機器が設置されている。
ここで、ヒーター100−4は急速に部屋を温めることはできるが消費電力が高いという特徴がある。一方、エアコンディショナ100−1は、ヒーター100−4ほど急速に部屋を暖めることはできないが、消費電力は低いという特徴がある。
ユーザ2は、遠隔操作のために、「この部屋は寒い」と音声を発したとする。機器操作装置200は、この発話音声の音声データの音声情報データを音声解析サーバ400に送信する。
この音声情報データを受信した音声解析サーバ400におけるコマンド判定部430は、「この部屋は寒い」の発話音声内容とコマンド管理情報460の発話音声内容とを照合することで、暖房器具であるエアコンディショナ100−1とヒーター100−4が操作対象機器の候補であることを判定する。このとき、エアコンディショナ100−1とヒーター100−4はいずれも電源がオフの状態であったとする。なお、コマンド判定部430は、例えば、音声解析サーバ400にて記憶しているこれまでの機器100に対する操作履歴に基づいて、エアコンディショナ100−1とヒーター100−4の電源がオフであることを認識できる。
この場合、部屋を急速に暖めることが必要である。そこで、コマンド判定部430は、操作対象機器の候補として判定されたエアコンディショナ100−1とヒーター100−4のうち、ヒーター100−4を操作対象機器として判定し、また、コマンド内容については、ヒーター100−4の電源をオンとして所定の設定温度を指定するものであると判定する。
この判定結果に応じて生成したコマンドコードが音声解析サーバ400からヒーター100−4に接続された機器操作装置200に送信されることで、家屋1においてヒーター100−4の電源がオンとなって動作を開始する。
そのうえで、第3の実施形態においては、例えば室温が設定温度に到達した、または、ヒーター100−4の電源をオンとして一定時間が経過するのに応じて、コマンド判定部430は、以下のコマンド内容および操作対象機器についての判定結果を出力する。つまり、コマンド判定部430は、ヒーター100−4の電源をオフとし、エアコンディショナ100−1の電源をオンとして所定の設定温度を指定すべきであることを判定する。このように、第3の実施形態のコマンド判定部430は、2以上の操作対象機器と、これらの操作対象機器が連係して所定の動作を行うためのコマンド内容を判定する。
上記の判定結果にしたがって、コマンド生成部440は、ヒーター100−4の電源をオフとするコマンドコードを生成し機器操作装置200−4に送信する。また、エアコンディショナ100−1の電源をオンとするコマンドコードと、エアコンディショナ100−1に所定の設定温度の設定を指示するコマンドコードとを生成し、機器操作装置200−1に送信する。
これにより、家屋1においては、室内が十分に暖まった状態のもとで、ヒーター100−4がオフとなり、代わりにエアコンディショナ100−1がオンとなって低消費電力の状態での暖房が継続される。
このように、第3の実施形態においては、例えば「この部屋は寒い」という発話音声に基づいて、複数の機器100を異なる時系列で遠隔操作することができる。
[第4の実施形態]
続いて、第4の実施形態について説明する。
図12は、第4の実施形態としての機器操作システムの構成例を示している。なお、この図において図2と同一部分には同一符号を付して説明を省略する。
図12に示す機器操作システムは、図2の機器操作装置200と音声解析サーバ400に代えて、機器操作装置200Aとジェスチャ解析サーバ(生体情報解析サーバ)400Aを備える。
機器操作装置200Aは、マイクロフォン210に代えて撮像部250を備える。また、音声情報処理部220に代えて、ジェスチャ情報処理部260を備える。
ジェスチャ情報処理部260は、被写体抽出部261、ジェスチャ情報データ生成部262およびメタデータ記憶部263を備える。
また、ジェスチャ解析サーバ400Aの構成は、例えば図3と同様である。ただし、以下に説明するように、解析対象がジェスチャ情報データであるのに応じて、ジェスチャ解析サーバ400Aにおける各部の動作は適宜異なる。
第4の実施形態においてユーザが行う遠隔操作の例とともに、図12および図3に示される機器操作装置200Aとジェスチャ解析サーバ400Aの動作について説明する。なお、以下の説明において、家屋1内の機器100と機器操作装置200の設置の態様は図1と同様であるものとする。
第4の実施形態において、ユーザ2は、遠隔操作を行うにあたり、音声に代えて所定の動作(ジェスチャ)を行う。つまり、第4の実施形態における生体情報は、身体の動きとなる。
具体例として、手を右に振るジェスチャは、テレビジョン受像機100−2のチャンネル番号を1つ増加させるようにチャンネル切り替えを行うことを指示する操作であると定められている。一方、手を左に振るジェスチャは、テレビジョン受像機100−2のチャンネル番号を1つ減少させるようにチャンネル切り替えを行うことを指示する操作であると定められている。
ここで、ユーザ2は、チャンネル番号を1つ増加させるようにチャンネル切り替えを行いたいと思ったとする。これに応じて、ユーザは、室内において設置されている機器操作装置200のいずれかに向かって手を右に振るジェスチャを行う。
機器操作装置200Aにおいて、撮像部250は、このジェスチャを行っているユーザ2を撮像する。
次に、ジェスチャ情報処理部260において、被写体抽出部261は、撮像部250により撮像された画像データからジェスチャを行っているユーザとしての被写体の画像部分を検出し、この画像部分を抽出する。次に、ジェスチャ情報データ生成部262は、抽出した画像部分のデータに対して、メタデータ記憶部263が記憶する所定のメタデータを付加してジェスチャ情報データを生成し、この生成したジェスチャ情報データをジェスチャ解析サーバ400Aに送信する。
上記のように送信されたジェスチャ情報データは、ジェスチャ解析サーバ400Aの通信部470にて受信される。このときに異なる機器操作装置200から送信された同じジェスチャ情報データを受信した場合、重複受信対応処理部410は、図7に準じた処理によって2回目以降に受信されたジェスチャ情報データを廃棄する。
解析部420は、ジェスチャ情報データを解析する。解析部420は、解析によって、被写体部分の画像データからジェスチャ内容とメタデータの内容を認識する。この場合の解析部420は、ジェスチャ内容が手を右に振るというものであると認識する。
第4の実施形態におけるコマンド管理情報460は、コマンドセットにおいて発話音声内容に代えてジェスチャ内容のデータを格納する。
コマンド判定部430は、解析部420により認識されたジェスチャ内容とコマンド管理情報460におけるジェスチャ内容とを照合する。これにより、解析部420により認識されたジェスチャ内容に対応するコマンド内容と操作対象機器を認識する。この場合のコマンド判定部430は、操作対象機器がテレビジョン受像機100−2で、コマンド内容はチャンネル番号を1つ増加させるようにチャンネル切り替えを行うというものであると判定する。
コマンド生成部440は、上記の判定結果に応じたコマンドコードを生成し、テレビジョン受像機100−2に接続された機器操作装置200−2に対して送信する。
機器操作装置200−2は、受信したコマンドコードをテレビジョン受像機100−2に送信する。テレビジョン受像機100−2は、このコマンドコードの受信に応答して、チャンネル番号を1つ増加させるようにチャンネル切り替えを行う。
このように、第4の実施形態においては、ユーザ2が行ったジェスチャにより機器100を遠隔操作することができる。
図13は、第4の実施形態の変形例に対応する機器操作装置200Bの構成例を示している。この図において、図12と同一部分には同一符号を付している。
第4の実施形態の変形例では、ユーザは、ジェスチャ検出装置500を所持してジェスチャを行う。ジェスチャ検出装置500は、ユーザが行うジェスチャに応じた動きを検出し、その検出情報を機器操作装置200Bに送信する。
図13に示すように、ジェスチャ検出装置500は、加速度センサ510と送信部520を備える。加速度センサ510は、ジェスチャに応じた動きを検出し、加速度検出信号を出力する。送信部520は、加速度検出信号を無線により機器操作装置200Bに送信する。
なお、ジェスチャ検出装置500は、例えば腕時計のような形状である。ユーザは、このジェスチャ検出装置500を腕に装着した状態で例えば手を動かすジェスチャを行う。または、ジェスチャ検出装置500は、例えばヘッドセットのような形状とされて、ユーザの頭部に装着されるようなタイプのものであってもよい。このようにジェスチャ検出装置500についてユーザが身に付けられるタイプのものとすることで、ユーザは、それまで行っていた作業をほとんど中断することなく遠隔操作を行える。
機器操作装置200Bは、撮像部250に代えて受信部270を備える。受信部270は、ジェスチャ検出装置500の送信部520から送信される加速度検出信号を入力する。
機器操作装置200Bにおいて、ジェスチャ情報処理部260は、ジェスチャ情報データ生成部262とメタデータ記憶部263を備える。この場合のジェスチャ情報データ生成部262は、受信部270にて受信された加速度検出信号のデータにメタデータ記憶部263から読み出したメタデータを付加することによりジェスチャ情報データを生成する。このジェスチャ情報データは、通信部230からジェスチャ解析サーバ400Aに送信される。
ジェスチャ解析サーバ400Aにおいて、解析部420は、解析処理によって、例えばジェスチャ情報データにおける加速度検出信号が示す時間経過に応じた変化のパタンなどに基づいてジェスチャを認識する。
コマンド判定部430は認識されたジェスチャに基づいてコマンド内容と操作対象機器を判定する。コマンド生成部440は、コマンド判定部430の判定結果にしたがってコマンドコードを生成し、このコマンドコードを操作対象機器に接続された機器操作装置200Bに対して送信させる。
このように第4の実施形態の変形例では、加速度センサを備えるジェスチャ検出装置を利用してユーザがジェスチャを行うことにより、機器100を遠隔操作できる。
なお、例えば、機器100と機器操作装置200はそれぞれ個別の装置として説明したが、機器100の中に機器操作装置200があらかじめ搭載されていてもよい。また、本実施例では、制御対象となる機器100の例として、エアコンディショナとテレビジョン受像機を例に挙げているが、他にも冷蔵庫や調理器具、ビデオ等、操作を必要とするあらゆる機器を対象としてよい。また、上記実施形態における説明では、機器操作装置200は、例えば1つの機器100に対応して接続されるものであったが、例えば、携帯電話やスマートフォンに機器操作装置200としての機能を搭載して、多様な機器を制御対象として操作できるように構成しても良い。
また、図2、図3、図12および図13に示した各部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより遠隔操作のための処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1 家屋
100 機器
200、200A、200B 機器操作装置
210 マイクロフォン
220 音声情報処理部
221 発話音声成分抽出部
222 形式変換部
223 メタデータ記憶部
224 音声情報データ生成部
230 通信部
240 機器制御部
400 音声解析サーバ
400A ジェスチャ解析サーバ
410 重複受信対応処理部
420 解析部
430 コマンド判定部
440 コマンド生成部
450 機器管理情報
460 コマンド管理情報
470 通信部

Claims (14)

  1. 機器操作装置と生体情報解析サーバとを備え、
    前記機器操作装置は、
    家庭に設置される家庭用電気機械器具である操作対象機器に搭載又は接続され、
    自己または他の機器操作装置が制御対象とする前記操作対象機器のいずれかを操作するための発話音声を入力する生体情報入力部と、
    入力された発話音声を表す音声信号を含む生体情報データを生成する生体情報処理部と、
    前記生体情報データを前記生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する第1の通信部と、
    受信したコマンドに応答した動作が実行されるように、前記操作対象機器を制御する機器制御部とを備え、
    前記生体情報解析サーバは、
    前記生体情報データを受信するとともに、前記コマンドを送信する第2の通信部と、
    受信した生体情報データに含まれる音声信号音声解析し、前記発話音声の内容を認識する解析部と、
    前記生体情報データを音声解析することにより認識された発話音声の内容に基づいて、コマンド内容と前記操作対象機器を判定するコマンド判定部と、
    判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、判定された前記操作対象機器を制御対象とする前記機器操作装置に対して前記第2の通信部により送信させるコマンド生成部とを備える、
    ことを特徴とする機器操作システム。
  2. 前記解析部は、発話音声の内容として、温度を示す内容を認識し、
    前記コマンド判定部は、前記温度を示す内容が認識された場合に、温度調整機能を有する前記操作対象機器を判定する、
    ことを特徴とする請求項1に記載の機器操作システム。
  3. 前記機器操作装置は、第1の前記操作対象機器に搭載又は接続され、
    生体情報処理部は、前記家庭用電気機械器具が設置されている場所を特定する情報を含む生体情報データを生成し、
    前記コマンド判定部は、前記場所を特定する情報に基づいて、前記第1の操作対象機器とは異なる第2の前記操作対象機器を判定し、
    前記コマンド生成部は、生成した前記コマンドを、前記第2の操作対象機器を制御対象とする前記機器操作装置に対して前記第2の通信部により送信させる、 ことを特徴とする請求項1又は2に記載の機器操作システム。
  4. 前記生体情報解析サーバは、
    今回受信された生体情報データと、過去の一定時間内に前記第2の通信部により受信された生体情報データを比較した結果が一致している場合、前記今回受信された生体情報データを破棄する重複受信対応処理部をさらに備える、
    ことを特徴とする請求項1から3のいずれか一項に記載の機器操作システム。
  5. 前記生体情報解析サーバは、
    前記操作対象機器と当該操作対象機器を制御対象とする機器操作装置について、前記操作対象機器と前記機器操作装置が設置される部屋に対応させたグループごとに区分して管理するグループ管理情報をさらに備え、
    前記コマンド判定部は、部屋を指定して前記操作対象機器を操作する内容の生体情報データであることが解析された場合に、前記グループ管理情報を参照して、指定された部屋における前記操作対象機器を操作するためのコマンド内容を判定する、
    ことを特徴とする請求項1から4のいずれか一項に記載の機器操作システム。
  6. 前記生体情報処理部は、
    予め定められた所定の操作開始予告信号を入力した後における一定時間内に入力した発話音声に基づいて前記生体情報データを生成する、
    ことを特徴とする請求項1から5のいずれか一項に記載の機器操作システム。
  7. 前記コマンド判定部は、
    前記発話音声の内容に基づいて、2種類以上の前記操作対象機器と、これらの前記操作対象機器が連係して所定の動作を行うためのコマンド内容を判定する、
    ことを特徴とする請求項1から6のいずれか一項に記載の機器操作システム。
  8. 前記生体情報入力部は、ユーザを撮像した画像を入力する撮像部を備え
    前記生体情報処理部は、撮像した画像を含む前記生体情報データを生成することを特徴とする請求項1から7のいずれか一項に記載の機器操作システム。
  9. 前記生体情報入力部は、ユーザの動きに応じた加速度を検出するための加速度センサの検出信号を受信する受信部を備え
    前記生体情報処理部は、検出信号を含む前記生体情報データを生成する
    ことを特徴とする請求項1から7のいずれか一項に記載の機器操作システム。
  10. 自己または他の機器操作装置が制御対象とする操作対象機器のいずれかを操作するための生体情報を入力する生体情報入力部と、
    入力された発話音声を表す音声信号を含む生体情報データを生成する生体情報処理部と、
    前記生体情報データを生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する通信部と、
    受信したコマンドに応答した動作が実行されるように、前記操作対象機器を制御する機器制御部と、
    を備え
    家庭に設置される家庭用電気機械器具である前記操作対象機器に搭載又は接続されることを特徴とする機器操作装置。
  11. 機器操作装置が入力した発話音声に基づいて生成した生体情報データを前記機器操作装置から受信するとともに、コマンドを送信する通信部と、
    受信した生体情報データに含まれる音声信号音声解析し、前記発話音声の内容を認識する解析部と、
    前記生体情報データを音声解析することにより認識された発話音声の内容に基づいて、コマンド内容と操作対象機器を判定するコマンド判定部と、
    判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、判定された前記操作対象機器を制御対象とする前記機器操作装置に対して前記通信部により送信させるコマンド生成部と、
    を備えることを特徴とするサーバ。
  12. 家庭に設置される家庭用電気機械器具である操作対象機器に搭載又は接続される機器操作装置と生体情報解析サーバとを備える機器操作システムにおける機器操作方法であって、
    前記機器操作装置は、
    自己または他の機器操作装置が制御対象とする前記操作対象機器のいずれかを操作するための発話音声を入力する生体情報入力ステップと、
    入力された発話音声を表す音声信号を含む生体情報データを生成する生体情報処理ステップと、
    前記生体情報データを前記生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する第1の通信ステップと、
    受信したコマンドに応答した動作が実行されるように、前記操作対象機器を制御する機器制御ステップとを備え、
    前記生体情報解析サーバは、
    前記生体情報データを受信するとともに、前記コマンドを送信する第2の通信ステップと、
    受信した生体情報データに含まれる音声信号音声解析し、前記発話音声の内容を認識する解析ステップと、
    前記生体情報データを音声解析することにより認識された発話音声の内容に基づいて、コマンド内容と前記操作対象機器を判定するコマンド判定ステップと、
    判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、判定された前記操作対象機器を制御対象とする前記機器操作装置に対して前記第2の通信ステップにより送信させるコマンド生成ステップとを備える、
    ことを特徴とする機器操作方法。
  13. 家庭に設置される家庭用電気機械器具である操作対象機器に搭載又は接続されるコンピュータに、
    自己または他の機器操作装置が制御対象とする前記操作対象機器のいずれかを操作するための発話音声を入力する生体情報入力ステップと、
    入力された発話音声を表す音声信号を含む生体情報データを生成する生体情報処理ステップと、
    前記生体情報データを生体情報解析サーバに送信するとともに、前記生体情報解析サーバから送信されたコマンドを受信する通信ステップと、
    受信したコマンドに応答した動作が実行されるように、前記操作対象機器を制御する機器制御ステップと、
    を実行させるためのプログラム。
  14. コンピュータに、
    機器操作装置が入力した発話音声に基づいて生成した生体情報データを前記機器操作装置から受信するとともに、コマンドを送信する通信ステップと、
    受信した生体情報データに含まれる音声信号音声解析し、前記発話音声の内容を認識する解析ステップと、
    前記生体情報データを音声解析することにより認識された発話音声の内容に基づいて、コマンド内容と操作対象機器を判定するコマンド判定ステップと、
    判定されたコマンド内容に応じた前記コマンドを生成し、生成した前記コマンドを、判定された前記操作対象機器を制御対象とする前記機器操作装置に対して前記通信ステップにより送信させるコマンド生成ステップと、
    を実行させるためのプログラム。
JP2012041825A 2012-02-28 2012-02-28 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム Expired - Fee Related JP6053097B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012041825A JP6053097B2 (ja) 2012-02-28 2012-02-28 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム
PCT/JP2013/051728 WO2013128999A1 (ja) 2012-02-28 2013-01-28 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012041825A JP6053097B2 (ja) 2012-02-28 2012-02-28 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2013179446A JP2013179446A (ja) 2013-09-09
JP6053097B2 true JP6053097B2 (ja) 2016-12-27

Family

ID=49082203

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012041825A Expired - Fee Related JP6053097B2 (ja) 2012-02-28 2012-02-28 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム

Country Status (2)

Country Link
JP (1) JP6053097B2 (ja)
WO (1) WO2013128999A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10861449B2 (en) 2015-05-19 2020-12-08 Sony Corporation Information processing device and information processing method

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
KR20150104615A (ko) 2013-02-07 2015-09-15 애플 인크. 디지털 어시스턴트를 위한 음성 트리거
US9329695B2 (en) 2013-10-04 2016-05-03 Panasonic Intellectual Property Corporation Of America Wearable terminal and method for controlling the same
JP6329833B2 (ja) 2013-10-04 2018-05-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America ウェアラブル端末及びウェアラブル端末の制御方法
JP2015179493A (ja) * 2014-02-27 2015-10-08 株式会社ログバー ジェスチャ入力システム
JP6031465B2 (ja) * 2014-03-07 2016-11-24 三井ホーム株式会社 住宅設備制御装置
JP6362677B2 (ja) * 2014-04-16 2018-07-25 三菱電機株式会社 コントローラ、ホームシステム、環境制御方法、及び、プログラム
US10170123B2 (en) * 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
JP6449039B2 (ja) * 2015-02-10 2019-01-09 ホーチキ株式会社 機器管理装置、機器管理方法、及びプログラム
CN107430445B (zh) * 2015-02-13 2020-09-01 斯旺解决方案公司 用于控制终端装置的***和方法
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
US10331312B2 (en) 2015-09-08 2019-06-25 Apple Inc. Intelligent automated assistant in a media environment
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10740384B2 (en) 2015-09-08 2020-08-11 Apple Inc. Intelligent automated assistant for media search and playback
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
WO2018123445A1 (ja) * 2016-12-27 2018-07-05 シャープ株式会社 電気機器、リモコン制御システム、リモコン、および、プログラム
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
DK201770429A1 (en) 2017-05-12 2018-12-14 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK201770411A1 (en) 2017-05-15 2018-12-20 Apple Inc. MULTI-MODAL INTERFACES
US20180336275A1 (en) 2017-05-16 2018-11-22 Apple Inc. Intelligent automated assistant for media exploration
CN108594777B (zh) 2018-04-20 2020-03-13 百度在线网络技术(北京)有限公司 智能家居控制方法、装置、设备、***及存储介质
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
KR20210019424A (ko) * 2018-06-12 2021-02-22 소니 주식회사 정보 처리 장치, 정보 처리 방법
JP7162169B2 (ja) * 2018-07-25 2022-10-28 パナソニックIpマネジメント株式会社 処理装置、遠隔操作システム、プログラム
JP2020046163A (ja) * 2018-09-21 2020-03-26 リンナイ株式会社 加熱調理システム
JP2020053895A (ja) * 2018-09-27 2020-04-02 東京瓦斯株式会社 負荷設備制御システム、負荷設備制御プログラム
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
JP7165908B2 (ja) * 2018-12-28 2022-11-07 パナソニックIpマネジメント株式会社 照明システム、照明システムの制御方法及びプログラム
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
JP7452528B2 (ja) * 2019-03-26 2024-03-19 ソニーグループ株式会社 情報処理装置及び情報処理方法
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
DK180129B1 (en) 2019-05-31 2020-06-02 Apple Inc. USER ACTIVITY SHORTCUT SUGGESTIONS
US11227599B2 (en) 2019-06-01 2022-01-18 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11043220B1 (en) 2020-05-11 2021-06-22 Apple Inc. Digital assistant hardware abstraction
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2973311B1 (ja) * 1998-06-03 1999-11-08 日本電気株式会社 リモコン装置
JP2001319045A (ja) * 2000-05-11 2001-11-16 Matsushita Electric Works Ltd 音声マンマシンインタフェースを用いたホームエージェントシステム、及びプログラム記録媒体
JP2003153031A (ja) * 2001-11-12 2003-05-23 Matsushita Electric Ind Co Ltd リモートコントロール信号中継装置
JP5327838B2 (ja) * 2008-04-23 2013-10-30 Necインフロンティア株式会社 音声入力分散処理方法及び音声入力分散処理システム
JP2011250027A (ja) * 2010-05-25 2011-12-08 Panasonic Electric Works Co Ltd リモートコントロール機器及び情報通信システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10861449B2 (en) 2015-05-19 2020-12-08 Sony Corporation Information processing device and information processing method

Also Published As

Publication number Publication date
WO2013128999A1 (ja) 2013-09-06
JP2013179446A (ja) 2013-09-09

Similar Documents

Publication Publication Date Title
JP6053097B2 (ja) 機器操作システム、機器操作装置、サーバ、機器操作方法およびプログラム
JP6475386B2 (ja) 機器の制御方法、機器、及びプログラム
US20210050013A1 (en) Information processing device, information processing method, and program
JP6428954B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP6440513B2 (ja) 音声認識機能を用いた情報提供方法および機器の制御方法
US20160005404A1 (en) Device control method and electric device
CN105206275A (zh) 一种设备控制方法、装置及终端
JP2017138476A (ja) 情報処理装置、情報処理方法、及びプログラム
WO2017141530A1 (ja) 情報処理装置、情報処理方法、及びプログラム
KR20190096308A (ko) 전자기기
KR20190026521A (ko) 인공지능 홈 어플라이언스 및 음성 인식 서버 시스템의 동작 방법
KR101936639B1 (ko) 홈 어플라이언스 및 홈 어플라이언스 시스템
WO2001082646A1 (en) Cellular phone and remote control system
JP2007178666A (ja) コンテンツ再生装置およびコンテンツ再生方法
US20220122600A1 (en) Information processing device and information processing method
US20210004747A1 (en) Information processing device, information processing method, and program
US20210224066A1 (en) Information processing device and information processing method
JP6491830B2 (ja) ネットワークシステム、サーバ、通信端末、音声出力方法、および音声出力プログラム
JP6720983B2 (ja) 情報処理装置、情報処理方法およびプログラム
US20160133243A1 (en) Musical performance system, musical performance method and musical performance program
JP2019028388A (ja) 家電装置システム
WO2018023521A1 (zh) 一种语音控制音乐网络播放方法
JP2010072704A (ja) インターフェース装置および入力方法
CN114093357A (zh) 控制方法、智能终端及可读存储介质
WO2018023522A1 (zh) 一种语音控制音乐网络播放装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141001

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20150513

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161128

R150 Certificate of patent or registration of utility model

Ref document number: 6053097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees