JP2015171065A - システムおよび方法 - Google Patents

システムおよび方法 Download PDF

Info

Publication number
JP2015171065A
JP2015171065A JP2014046058A JP2014046058A JP2015171065A JP 2015171065 A JP2015171065 A JP 2015171065A JP 2014046058 A JP2014046058 A JP 2014046058A JP 2014046058 A JP2014046058 A JP 2014046058A JP 2015171065 A JP2015171065 A JP 2015171065A
Authority
JP
Japan
Prior art keywords
time
control unit
delay time
seconds
reproduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014046058A
Other languages
English (en)
Inventor
順一 森本
Junichi Morimoto
順一 森本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014046058A priority Critical patent/JP2015171065A/ja
Publication of JP2015171065A publication Critical patent/JP2015171065A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】2つの機器における処理データの出力タイミングを制御できるようにする。【解決手段】システムにおいて、第1の機器が、受信音声データ処理の開始から処理音声データ出力までの第1の処理時間(b)と、第1の機器での音声データの時刻に基づく第1の時刻(a)とを第2の機器に送信し、第2の機器が、受信映像データ処理の開始から処理映像データ出力までの第2の処理時間(b)と、第2の機器での映像データの時刻に基づく第2の時刻(a)とを第1の機器に送信する。第1の機器は、第2の時刻に対する音声データ時刻に基づく第3の時刻(Y)、第2の時刻(a)、第2と第1の機器間の伝送遅延時間(D)及び第2の処理時間(b)に基づいて、処理音声データの出力タイミングを制御する。第2の機器は、第1の時刻に対する映像データ時刻に基づく第4の時刻(Y)、第1の時刻(a)、伝送遅延時間(D)及び第1の処理時間(b)に基づいて、処理映像データの出力タイミングを制御する。【選択図】図2

Description

本発明は、受信して処理された音声データおよび映像データのタイミング制御に関する。
例えばインターネット電話および動画情報などの配信において、ネットワークを介して音声および/または映像をリアルタイムで転送するために、RTP(Real-time Transport Protocol」)(RFC3550)というプロトコルが利用される。例えば、テレビ電話またはテレビ電話会議では、音声データストリームと映像データストリームが別々に転送され、受信側では受信データに付加された時間情報に基づいて音声と映像が同期的に再生出力される。その際、受信側では、音声および映像データは、一部が欠落または遅延しても再生が可能であり、欠落データおよび遅延データは無視されて再生されない。
既知の無線通信システムでは、映像再生装置が映像データの時刻データに処理時間を加算した再生推定時刻情報をサーバ装置に無線送信し、オーディオ再生装置がオーディオデータの時刻データに処理時間を加算した再生推定時刻情報をサーバ装置に無線送信する。サーバ装置は、再生推定時刻情報を無線受信しこれらの再生推定時刻差情報を計算して無線送信する。映像再生装置は、再生推定時刻差情報に基づいて映像とオーディオが実質的に同期して再生されるように、映像データを再生する時刻を制御する。また、映像再生装置は、オーディオ再生装置が再生推定時刻差情報に基づいて映像とオーディオが実質的に同期して再生されるように、オーディオデータを再生する時刻を制御する。
既知の複数のデバイスにわたるメディア・ストリームの同期方法は、着信音声ストリームを受信する第1のコンピュータ・デバイスと、着信映像ストリームを受信する第2のコンピュータ・デバイスと間の通信チャネルを確立する。この方法では、通信チャネルが確立されると、着信音声ストリームの属性を説明する現在のネットワーク状態が、第1のコンピュータ・デバイスで取得され、着信音声ストリームの遅延が計算される。この方法は、遅延が分かると、着信する映像ストリームを遅延させて、着信音声ストリームの遅延と一致させる。それによって、音声ストリームと映像ストリームが同期される。
既知のデジタルAVシステムは、デジタル・インタフェースを介して、AV(オーディオ/ビデオ)機器間で映像または音声データの復号処理の際の時間情報を相互のAV機器に送受信することによって、復号信号を遅延処理するなどして、リップシンクずれを回避する。それによって、映像と音声の再生において、映像と音声の同期ずれ(リップシンクずれ)をなくすことができる。
国際公開第2006/064689号公報 特開2010−512688号公報 特開2001−128167号公報
既知の無線通信システムでは、データ送信側のサーバ装置が、データ受信側の映像再生装置およびオーディオ再生装置から再生推定時刻情報を受信して、再生推定時刻差情報を計算して映像再生装置およびオーディオ再生装置に送信する。しかし、その無線通信システムでは、2つの再生装置がそれぞれの再生に関する時間情報を互いに送受信することはない。
また、既知の複数のデバイスにわたるメディア・ストリームの同期方法は、RTP/RTCP(Real-time Transport Protocol)で求められた遅延時間をデバイス間で共有するものである。しかし、RTCPに従って計算される遅延時間は、ネットワーク状況による誤差が大きく、ネットワーク状況の変化に迅速に追随することができない。
また、既知のデジタルAVシステムは、音声データそのものに時間情報を付加して送信して、音声データの時間情報が映像データの時間情報より進んでいる場合に、音声データを遅延させる。しかし、そのデジタルAVシステムでは、2つの機器がそれぞれの再生処理遅延に関する時間情報を送受信することはない。
発明者は、異なるメディアを処理して出力する2つの機器が、それぞれのメディアの処理のための時間およびメディアの時刻に関する情報を互いに送受信して取得すれば、両機器におけるそれぞれの処理データの出力タイミングを制御することができる、と認識した。
1つの観点では、本発明の目的は、2つの機器におけるそれぞれの処理データの出力のタイミングを制御できるようにすることである。
本発明の一観点によれば、外部から受信した音声データを出力する第1の機器と、音声データに対応する、外部から受信した映像データを出力する第2の機器とを含むシステムが提供され、第1の機器が、第1の送信部と、第1の制御部とを備え、第2の機器が、第2の送信部と、第2の制御部とを備え、第1の送信部は、受信した音声データの処理の開始から、処理された音声データを出力するまでの第1の処理時間と、第1の機器における音声データの時刻に基づく第1の時刻とを、第2の機器に送信し、第2の送信部は、受信した映像データの処理の開始から、処理された映像データを出力するまでの第2の処理時間と、第2の機器における映像データの時刻に基づく第2の時刻とを、第1の機器に送信し、第1の制御部は、第2の時刻に対する音声データの時刻に基づく第3の時刻と、第2の時刻と、第2の機器と第1の機器の間の伝送遅延時間と、第2の処理時間とに基づいて、処理された音声データを出力するタイミングを制御し、第2の制御部は、第1の時刻に対する映像データの時刻に基づく第4の時刻と、第1の時刻と、伝送遅延時間と、第1の処理時間とに基づいて、処理された映像データを出力するタイミングを制御する。
本発明の一観点によれば、2つの機器におけるそれぞれの処理データの出力のタイミングを制御することができる。
図1は、実施形態による、ネットワークに接続される、音声および映像メディア・データストリームをそれぞれ受信し再生処理して出力する再生出力機器と、情報処理装置とを含むシステムの概略的な構成(configuration)の例を示している。 図2は、機器Iおよび機器IIを含むデータ再生処理および出力システムの概略的な構成(configuration)の例を示している。 図3Aは、機器Iおよび機器IIにおいて同期制御が行われない場合の、或る時点における、情報処理装置から送信されて機器Iおよび機器IIにおいて受信されて処理されるメディア・ストリームの各データの時刻情報の例を示している。 図3Bは、機器Iおよび機器IIにおいて同期制御が行われる場合の、或る時点における、情報処理装置から送信されて機器Iおよび機器IIにおいて受信されて処理されるメディア・ストリームの各データの時刻情報の例を示している。 図4は、機器Iの同期通信部および機器IIの同期通信部の各々によって送受信される通知パケットの概略的なフォーマットの例を示している。 図5は、主機器と従機器の間の通知パケットの送受信の手順、および主機器と従機器における再生信号の出力タイミングの同期のための実際の再生遅延時間の決定のしかたの例を説明するための図である。 図6は、主機器と従機器の間の通知パケットの送受信の手順、および主機器と従機器における再生信号の出力タイミングの同期のための実際の再生遅延時間の決定のしかたの別の例を説明するための図である。 図7Aおよび7Bは、主機器と従機器の間の通知パケットの送受信の手順、および主機器と従機器における再生信号の出力タイミングの同期のための実際の再生遅延時間の決定のしかたのさらに別の例を説明するための図である。 (図7Aで説明)
発明の目的および利点は、請求の範囲に具体的に記載された構成要素および組み合わせによって実現され達成される。
前述の一般的な説明および以下の詳細な説明は、典型例および説明のためのものであって、本発明を限定するためのものではない、と理解される。
本発明の非限定的な実施形態を、図面を参照して説明する。図面において、同様のコンポーネントおよび要素には同じ参照番号が付されている。
音声および映像を再生出力する再生機器において、通常の音声と映像の再生出力の同期は、音声と映像の各メディア・ストリームに付加されたRTP制御信号(RTCP)を用いて、RTP制御信号中のNTP(Network Time Protocol)時刻情報に基づいて行われる。再生機器は、同期をとるための基準となる現在時刻と、RTPストリーム内の相対時刻とに基づいて、内部で音声と映像の両方の再生出力のタイミングを同期させる。各メディア・ストリームのデータは、バッファ・メモリに一時的に保存されまたはバッファリング(緩衝)されて、再生出力可能な時刻が遅い方のメディアにタイミングを合わせて再生出力されて放音および表示される。
一方、将来的に、音声データと映像データとが別々の機器で再生処理されることが想定される。この場合、音声データは、例えば携帯電話機またはコードレスフォンのような或る再生出力機器で再生出力され、映像データは、例えばテレビジョン装置またはパーソナル・コンピュータのような別の再生出力機器で再生出力されてもよい。
しかし、音声データの再生出力機器と映像データの再生出力機器とが、別々のもので、互いに離れている場合、音声と映像の再生出力のタイミングがずれて同期が外れることがある。この場合、音声データの再生出力機器と映像データの再生出力機器とは、それぞれのメディアの時刻に関する情報を互いに送受信して取得することができず、従って両データの再生出力を同期させることができない。また、例えば、音声データの再生出力機器と映像データの再生出力機器は、それぞれのメディアの時刻を互いに送受信しても、相互間で伝送遅延が生じるので、一方の再生出力機器が受信した他方の再生出力機器のメディアの時刻は伝送遅延による誤差を含んでいる。
発明者は、音声データと映像データを処理して出力する2つの機器が、処理前のデータの時刻に基づくそれぞれの時刻情報を互いに送受信して取得すれば、両時刻の差に基づいて再生信号の出力タイミングを制御して同期させることができる、と認識した。また、発明者は、音声データと映像データを処理して出力する2つの機器が、処理時間に関するそれぞれの情報を互いに送受信して取得すれば、両機器の処理時間を制御して再生信号の出力タイミングを制御して同期させることができる、と認識した。また、発明者は、2つの機器の間でのそれぞれの送受信の時刻を両機器間の伝送遅延時間で補償することによって、同じ時点での両機器の時刻およびその時刻差をより正確に求めることができる、と認識した。
実施形態の目的は、受信した音声メディア・データを処理して出力するタイミングと、受信した映像メディア・データを処理して出力するタイミングとを同期させることができるようにすることである。
図1は、実施形態による、音声および映像のメディア・データストリームをそれぞれ受信し再生処理して出力する再生出力機器7および8と、情報処理装置20または30とを含むシステムの概略的な構成(configuration)の例を示している。再生出力機器7および8、および情報処理装置20または30は、ネットワーク5に接続される。ここで、情報処理装置20は、例えばテレビ電話装置であってもよい。また、情報処理30は、例えばパーソナル・コンピュータであってもよい。情報処理装置20または30は、再生出力機器7および8の通信相手である。代替形態として、再生出力機器7および8の通信相手は、例えば、インターネットテレビ番組を放送し、または映画または動画のコンテンツを配信する装置であってもよい。
図1のシステムにおいて、再生出力機器7および8は、ルータ60を介しネットワーク5を介して、情報処理装置20または30と通信する。また、情報処理装置20または30は、ルータ10を介しネットワーク5を介して、再生出力機器7および8と通信する。再生出力機器7は、例えば、携帯電話機、スマートフォン、コードレスフォンまたはPHS(Personal Handy-phone System)端末のような、少なくとも音声データを受信して再生処理して出力することができる携帯端末170であってもよい。携帯端末170のような再生出力機器7は、さらに、マイクロホンで音声を捕捉して音声データを生成し送信する機能を含んでいてもよい。再生出力機器8は、例えばインターネット接続機能を含むテレビジョン装置またはパーソナル・コンピュータのような、少なくとも映像データを受信して再生処理して出力することができる映像機器180であってもよい。映像機器180のような再生出力機器8は、さらに、カメラで映像を捕捉して映像データを生成し送信する機能を含んでいてもよい。
ユーザは、例えば、通信相手の情報処理装置20または30からの音声データを、再生出力機器7に再生させ、情報処理装置20または30からの映像データを、再生出力機器8に再生させてもよい。この場合、ユーザの映像は、情報処理装置20または30に送信されなくてもよい。一方、ユーザは、再生出力機器7に、自己の音声の音声データを生成させて通信相手の情報処理装置20または30へと送信させ、再生出力機器8に、自己の映像の映像データを生成させて情報処理装置20または30へと送信させてもよい。
ネットワーク5は、例えば、インターネットまたはLTE(Long Term Evolution)ネットワークであってもよい。ルータ10および60は、例えば、インターネットまたはLTE用の有線および/または無線ルータであってもよい。
携帯端末170は、例えばスピーカおよびマイクロホン(図示せず)を含んでおり、さらに表示部172を含んでいてもよい。表示部172は、例えば、液晶表示装置、有機EL(electroluminescence)表示装置またはタッチパネル型液晶表示装置であってもよい。映像機器180は、表示部182を含んでおり、さらにカメラ188を含んでいてもよい。情報処理装置20は、例えば、表示部222、スピーカ224、ハンドセット(受話器)226、カメラ228および複数のボタン230を含んでいてもよい。また、情報処理装置30は、例えば、キーボード312、表示部320、スピーカ324およびカメラ328を含んでいてもよい。情報処理装置30には、例えば、マイクロホンおよびスピーカを含むヘッドセット326が接続されまたは設けられてもよい。ユーザは、自己の携帯端末170に、情報処理装置20または30からの音声データを受信させて再生出力させ、自己の映像機器180に、情報処理装置20または30からの映像データを受信させて再生出力させることができる。カメラ188が設けられていない場合、ユーザは、自己の映像データを情報処理装置20または30に送信しなくてよい。
再生出力機器7が音声データを再生処理し、再生出力機器8が映像データを再生処理する場合、音声と映像の同期的な再生出力のために、再生出力機器7が主機器として固定的に設定され、再生出力機器8が従機器として固定的に設定されてもよい。この場合、音声データの再生処理は、映像データの再生処理よりも優先されてもよい。
次は、再生出力機器7および8に対応する2つの機器IおよびIIの構成(configuration)について説明する。この場合、説明のために、機器Iが音声データを再生処理して出力する再生出力機器7に対応し、機器IIが映像データを再生処理して出力する再生出力機器8に対応するものと仮定するが、機器Iが再生出力機器8に対応し、機器IIが再生出力機器7に対応してもよい。
図2は、機器I70および機器II80を含むデータ再生処理および出力システムの概略的な構成(configuration)の例を示している。ここで、機器I70は主(マスタ)機器であり、機器II80は従(スレーブ)機器であるものとする。機器I70は、ネットワーク5を介して少なくとも音声データを受信し再生処理して出力することができ、機器II80は、ネットワーク5を介して少なくとも映像データを受信し再生処理して出力することができる。代替形態として、機器I70が少なくとも映像データを受信し再生処理して出力し、機器II80が少なくとも音声データを受信し再生処理して出力してもよい。
機器I70は、例えば、インタフェース部702、RTP処理部704および再生処理部706を含み、さらにスピーカ730を含んでいてもよい。再生処理部706は、音声データ受信部708、バッファ部710、復号部712、音声再生部714、同期制御部720、同期通信部722および時間測定部726を含んでいてもよい。また、スピーカ730は、外部にある別個の装置として、機器I70の再生処理部706に接続されてもよい。一方、機器II80は、例えば、インタフェース部802、RTP処理部804および再生処理部806を含み、さらに表示部830を含んでいてもよい。再生処理部806は、映像データ受信部808、バッファ部810、復号部812、映像再生部814、同期制御部820、同期通信部822および時間測定部826を含んでいてもよい。また、表示部830は、外部にある別個の装置として、機器II80の再生処理部806に接続されてもよい。
インタフェース部702および802の各々は、例えば有線および/または無線のLANカードを含んでいてもよい。バッファ部710および810の各々は、例えばRAMのような記憶装置の中の記憶領域または別個のバッファ・メモリ装置であってもよい。インタフェース部702および802は、ルータ60を介してネットワーク5に接続される。また、インタフェース部702および802は、直接互いに、またはルータ60またはハブを介して互いに通信することができる。RTP処理部704および804は、プロセッサまたはその他のハードウェア上で動作するソフトウェアの形態で実装されてもよい。再生処理部706および806は、例えばCPUのようなプロセッサ上で動作するプログラムの形態または例えば専用の集積回路のようなハードウェアの形態で実装されてもよい。
機器I70において、インタフェース部702は、例えば情報処理装置20または30から、ルータ60を介して例えば音声のメディア・ストリームを受信する。RTP処理部704は、メディア・ストリームの一連の音声データ・パケットを再生処理部706の音声データ受信部708に転送する。再生処理部706において、音声データ受信部708は、RTP処理部704からメディア・ストリームを受信してバッファ部710に一連の音声データを格納する。バッファ部710は、音声データを同期制御部720の制御に従って後段の復号部712に供給する。復号部712は、バッファ部710から供給された音声データを復号して音声再生部714に供給する。音声再生部714は、復号された音声データをアナログの音声信号に変換して再生し、その再生された音声信号をスピーカ730に供給する。
同期制御部720は、音声データ受信部708で受信されたまたはバッファ部710に格納された音声データに付加された時刻情報と、時間測定部726で測定されたその時刻からの経過時間とに基づいて、現在の音声データのメディア時刻を決定する。音声または映像のメディア・データに付加されている時刻は、例えばNTP(Network Time Protocol)時刻であってもよい。機器I70における音声データのメディア時刻と、機器I70の自己の時刻とは、互いに独立である。同期制御部720は、音声データのメディア時刻に基づいて、他方の機器II80の再生処理部806の同期制御部820と交信して、復号部712における音声データの復号のタイミングおよび音声再生部714における音声信号の再生のタイミングを制御する。同期通信部722は、同期制御部720から受け取った通知情報をパケットの形態で機器II80の同期通信部822に送信し、機器II80の再生処理部806の同期通信部822から受け取ったパケットから通知情報を取り出して同期制御部720に供給する。スピーカ730は、再生された音声信号を音声に変換して再生された音声を発生する。
一方、機器II80において、インタフェース部802は、例えば情報処理装置20または30から、ルータ60を介して例えば映像のメディア・ストリームを受信する。RTP処理部804は、メディア・ストリームの一連の映像データ・パケットを再生処理部806の映像データ受信部808に転送する。再生処理部806において、映像データ受信部808は、RTP処理部804からメディア・ストリームを受信してバッファ部810に一連のフレームの映像データを格納する。バッファ部810は、映像データを同期制御部820の制御に従って後段の復号部812に供給する。復号部812は、バッファ部810から供給された映像データを復号して映像再生部814に供給する。映像再生部814は、復号された映像データをアナログの映像信号に変換して再生し、その再生された映像信号を表示部830に供給する。
同期制御部820は、映像データ受信部808で受信されたまたはバッファ部810に格納された映像データに付加された時刻情報と、時間測定部826で測定されたその時刻からの経過時間とに基づいて、現在の映像データのメディア時刻を決定する。機器II80における映像データのメディア時刻は、機器II80の自己の時刻とは独立である。同期制御部820は、映像データのメディア時刻に基づいて、他方の機器I70の再生処理部706の同期制御部720と交信して、復号部812における映像データの復号のタイミングおよび映像再生部814における映像信号の再生のタイミングを制御する。同期通信部822は、同期制御部820から受け取った通知情報をパケットの形態で機器I70の同期通信部722に送信し、機器I70の再生処理部706の同期通信部722から受け取ったパケットから通知情報を取り出して同期制御部820に供給する。表示部830は、再生された映像信号を3原色RGB(赤緑青)の光または光透過率に変換して再生されたフレーム映像を表示する。
次は、図2における機器I70および機器II80においてそれぞれ受信されて再生処理される音声および映像のメディア・ストリームの各データの時刻情報について説明する。
図3Aは、機器I70および機器II80で同期制御が行われない場合の、或る時点における、情報処理装置20または30から送信されて機器I70および機器II80において受信されて処理されるメディア・ストリームの各データの時刻情報の例を示している。図3Bは、機器I70および機器II80において同期制御が行われる場合の、或る時点における、情報処理装置20または30から送信されて機器I70および機器II80において受信されて処理されるメディア・ストリームの各データの時刻情報の例を示している。ここで、各メディア・データの時刻情報は、メディア・ストリームの各データに付加されているNTP時刻であってもよい。図3Aおよび3Bにおいて、各メディア・データは、映像フレームの単位で示されている。
図3Aおよび3Bにおいて、或る時点の時刻は、例えば12:00:12(12時0分12秒)であってもよい。図3Aにおいて、スピーカ730で発生している音声は、時刻12:00:02の音声データまたはフレームに対応する。音声データの時刻12:00:02は、情報処理装置20または30で生成されたときに音声データに付加された時刻である。時刻12:00:02の音声データは、ネットワーク5上の伝送路を介して機器I70において音声データ受信部708で受信され、バッファ部710に格納されてバッファリングされ、復号部712で復号されて音声再生部714で音声信号に再生されたものである。
復号部712で復号されている音声データは、その後の時刻12:00:04に情報処理装置20または30で生成されたものである。また、バッファ部710に新しく格納された音声データは、時刻12:00:06に情報処理装置20または30で生成されたものである。この場合、音声データは、バッファ部710に格納された後、最も短い時間で後段の復号部712に供給される。音声データ受信部708で受信された音声データは、その後の時刻12:00:06に情報処理装置20または30で生成されたものである。また、ネットワーク5の伝送路上にある音声データは、時刻12:00:08および12:00:10に情報処理装置20または30で生成されたものである。さらに、情報処理装置20または30で生成された音声データは、時刻12:00:12に生成されたものである。
図3Aにおいて、表示部830に表示されている映像は、時刻12:00:00(12時0分0秒)の映像データまたはフレームに対応する。この時刻は、機器I70のスピーカ730で発生している音声の音声データの時刻12:00:02より前であり、発生している音声と表示されている映像とは、双方の出力タイミングの間に2秒のずれがあり、同期していない。映像データまたはフレームの時刻12:00:00は、情報処理装置20または30で生成されたときに映像データに付加された時刻である。時刻12:00:00の映像データは、ネットワーク5上の伝送路を介して機器II80において映像データ受信部808で受信され、バッファ部810に格納されてバッファリングされ、復号部812で復号されて映像再生部814で映像信号に再生されたものである。
復号部812で復号されている映像データは、その後の時刻12:00:02に情報処理装置20または30で生成されたものである。また、バッファ部810に新しく格納された映像データは、時刻12:00:04に情報処理装置20または30で生成されたものである。この場合、映像データは、バッファ部810に格納された後、最も短い時間で後段の復号部812に供給される。映像データ受信部808で受信された映像データは、その後の時刻12:00:04に情報処理装置20または30で生成されたものである。また、ネットワーク5の伝送路上にある映像データは、時刻12:00:06、12:00:08および12:00:10に情報処理装置20または30で生成されたものである。さらに、情報処理装置20または30で生成された映像データは、時刻12:00:12に生成されたものである。この時刻は、情報処理装置20または30で生成された音声データの時刻12:00:00と同じである。
図3Bにおいて、情報処理装置20または30から機器I70のバッファ部710および機器II80のバッファ部810までの間の音声データおよび映像データの時刻は、図3Aのものと同様である。図3Bでは、機器I70において、音声データは、音声データの再生信号の出力タイミングが映像データの再生信号の出力タイミングと一致して同期するように、バッファ部710でより長い時間遅延を受け、その後で復号部712に供給される。そのために、同期制御部720は、バッファ部710におけるバッファリング時間を、より長くなるように制御する。
図3Bにおいて、スピーカ730で発生している音声は、時刻12:00:00に情報処理装置20または30で生成されたものである。一方、表示部830で表示されている映像は、図3Aにおけるものと同様であり、時刻12:00:00の映像データまたはフレームに対応する。従って、機器I70のスピーカ730で発生している音声の音声データの時刻と、機器II80の表示部830で表示されている映像データの時刻とは、共に同じ12:00:00である。即ち、音声再生部714からスピーカ730に出力された音声信号と、映像再生部814から表示部830に出力された映像信号とは同期している。復号部712で復号されている音声データの時刻と、復号部812で復号されている映像データの時刻も、共に同じ12:00:02である。また、バッファ部710に先に格納されて復号を待つ音声データの時刻は、バッファ部810に新しく格納されて復号を待つ映像データの時刻と同じ時刻12:00:04である。
機器I70の同期制御部720と機器II80の同期制御部820は、バッファ部710の音声データとバッファ部810の映像データの再生出力時の両時刻の差を補償するように、音声データと映像データをバッファリングして後段の復号部712と812へ供給する。そのために、同期制御部720および820は、再生信号の出力タイミングを同期させるための通知パケットを互いに送受信する。同期制御部720は、再生処理部706において、音声データが開始位置に到来した開始時点から音声データが復号されて再生出力される時点までの遅延時間または処理時間Bを求める。同様に、同期制御部820は、再生処理部806において、映像データが開始位置に到来した開始時点から映像データが復号されて再生出力される時点までの遅延時間または処理時間Bを求める。それぞれの開始位置は、復号および再生の前の任意の特定の位置、例えば、音声データ受信部708、映像データ受信部808、またはバッファ部710、810における新しいデータが格納される記憶領域であってもよい。この場合、それぞれの開始時点は、復号および再生より前の遅延時間の開始時点であり、再生開始時点と見ることができる。
一方、同期制御部720は、時間測定部726を用いて、開始位置に到来した音声データに付加されている時刻を基準するその後の経過時間後の時刻を音声の現在のメディア時刻として求め、そのメディア時刻Aを含む通知パケットを同期制御部820に送信する。同様に、同期制御部820は、時間測定部826を用いて、開始位置に到来した映像データに付加されている時刻を基準とするその後の経過時間後の時刻を映像の現在のメディア時刻として求め、そのメディア時刻aを含む通知パケットを同期制御部720に送信する。それによって、同期制御部720は、同期制御部820から、メディア時刻aを含む通知パケットを受信した時の自己のメディア時刻Yを求めることができる。同様に、同期制御部820は、同期制御部720から、メディア時刻aを含む通知パケットを受信した時の自己のメディア時刻Yを求めることができる。それによって、機器I70の同期制御部720と機器II80の同期制御部820の各々は、他方のメディア時刻aと自己のメディア時刻Yの両方を取得して比較することができるようになる。
しかし、機器I70の同期制御部720と機器II80の同期制御部820の間の情報伝送は伝送遅延を伴うので、同期制御部720と同期制御部820の各々は、自己のまたは他方のメディア時刻Yまたはaを伝送遅延時間Dだけ補償または修正することが望ましい。機器I70の同期制御部720と機器II80の同期制御部820の間の一方向の伝送遅延時間Dは、両者間で通知パケットと応答の通知パケットとが往復で送受信された場合の往復の遅延時間から求めることができる。それによって、同期制御部720と同期制御部820の各々は、自己と他方のメディア時刻Yまたはaの一方を伝送遅延時間Dで補償または修正して、修正された一方の時刻(Y−D)または(a+D)と他方の時刻aまたはYとを比較することができる。従って、同期制御部720と同期制御部820の各々は、同じ時点(aまたはY)における両メディア時刻の差((Y−D)−a)または((a+D)−Y)をより正確に求めることができるようになる。
図4は、機器I70の同期通信部722および機器II80の同期通信部822の各々によって送受信される通知パケットの概略的なフォーマットの例を示している。通知パケットは、同期制御部720および820の各々によって生成された通知情報を含んでいる。
図4において、通知パケットは、例えば、ヘッダ部およびデータ部を含んでいる。データ部は、例えば、データa、b、c、xおよびyの各フィールドを含んでいる。データa〜c、x、yは、それぞれ以下の時間データを含んでいる。
− データaは、通知パケットを送信する側の機器I70または機器II80において、送信時における自己の音声または映像データの時刻に基づく現在すなわち送信時のメディア時刻または送信時刻Aを含んでいる。
− データbは、通知パケットを送信する側の機器I70または機器II80において、現在の、開始時点から再生処理して出力する時点までの実際の再生遅延時間Bを含んでいる。ここで、実際の再生遅延時間b、Bは、再生出力された音声または映像データに関して計算または測定された再生遅延時間であっても、または同期のために設定される再生遅延時間であってもよい。
− データcは、通知パケットを送信する側の機器I70または機器II80において、現在の、開始時点から再生処理して出力する時点までの可能な最短(最小)の再生遅延時間Cを含んでいる。ここで、可能な最短の再生遅延時間c、Cは、バッファリング時間を最短に設定した場合における再生遅延時間であってもよい。
− データxは、通知パケットを送信する側の機器I70または機器II80において、送信の直前に相手側の機器II80または機器I70から受信した通知パケットに含まれていた相手側の機器II80または機器I70の送信時刻(a)を含んでいる。
− データyは、通知情報を送信する側の機器I70または機器II80において、送信の直前に相手側の機器II80または機器I70から通知パケットを受信した時の自己のメディア時刻または受信時刻Yを含んでいる。
次は、主機器と従機器の間での通知パケットの送受信、および主機器と従機器における音声データと映像データの再生信号の出力タイミングを同期させるためのそれぞれの実際の再生理遅延時間Bの決定のしかたの例を説明する。ここで、説明のために、主機器は機器I70であり、従機器は機器II80であると仮定する。しかし、主機器が機器II80であり、従機器が機器I70であってもよい。
図5は、主機器と従機器の間の通知パケットの送受信の手順、および主機器と従機器における再生信号の出力タイミングの同期のための実際の再生遅延時間Bの決定のしかたの例を説明するための図である。
図5を参照すると、主機器(機器I70)においてメディア時刻が0時0分2秒00(00:00:2.00)であるときに、従機器(機器II80)においてメディア時刻が0時0分0秒00(00:00:0.00)である、と仮定する。(ここで、単位“秒”の後の2桁の数字は、百分の1秒の単位であるセンチ秒(cs)を表す。)即ち、主機器のメディア時刻は従機器のメディア時刻よりも2秒進んでおり、従機器のメディア時刻は主機器のメディア時刻よりも2秒遅れている。ここで、主機器のメディア時刻と従機器のメディア時刻は、互いに独立であり、ネットワーク5等の状況に応じて変動し得る。
主機器と従機器は、同じ時点での両機器のメディア時刻(Y−D)、aと、両機器のメディア・データの再生遅延時間または処理時間Bとを求め、再生遅延時間Bを制御して、再生出力されるデータのメディア時刻を一致させて両再生出力を同期させることができる。そのために、主機器と従機器は、それぞれのメディア時刻および再生遅延時間を含む通知パケットを送受信する。送受信されるメディア時刻には、それぞれの通知パケットの送信時のメディア時刻(a、x)、および通知パケットの受信時のメディア時刻(y)が含まれてもよい。また、送受信される再生遅延時間には、測定されたまたは同期のための実際の再生遅延時間b、および可能な最短(最小)の再生遅延時間cが含まれてもよい。
まず、主機器(機器I70)において、同期制御部720は、主機器における可能な最短の再生遅延時間C(秒)および現在の実際の再生遅延時間B(秒)を計算しまたは測定する。この場合、主機器(機器I70)において、可能な最短の再生遅延時間はC=1.0(秒)であり、実際の再生遅延時間はB=1.0(秒)である。可能な最短の再生遅延時間Cは、バッファリング時間を最小にした場合の実際の再生遅延時間Bに対応する。一方、従機器(機器II80)において、同期制御部820は、従機器における可能な最短の再生遅延時間C(秒)および現在の実際の再生遅延時間B(秒)を計算しまたは測定する。この場合、従機器(機器II80)において、可能な最短の再生遅延時間はC=2.0(秒)であり、実際の再生遅延時間はB=2.0(秒)である。従って、主機器の可能な最短の再生遅延時間Cは、従機器の可能な最短の再生遅延時間Cより短い。初期状態では、主機器と従機器の双方は、それぞれ、実際の再生遅延時間Bを可能な最短の再生遅延時間Cに設定する(B=C)ことが好ましい。
次いで、主機器(機器I70)において、自己のメディア時刻0時0分2秒00(A)で、同期制御部720は、例えば図4のフォーマットの通知パケットを生成して従機器に送信する。ここで、送信側における送信時のメディア時刻はAで表されるものとする。その際、同期制御部720は、通知パケットにおいて、実際の再生遅延時間bに値Bを入れ、可能な最短の再生遅延時間cに値Cを入れ、送信時刻aに値Aを入れる。従って、通知パケットは、主機器における、当該通知パケットの送信時刻a=A=2.00(2秒00)、実際の再生遅延時間b=1.0(秒)、および可能な最短の再生遅延時間c=1.0(秒)を含んでいる。この場合、通知パケットは最初の通知パケットなので、相手側の従機器から送信されて受信された通知パケット中の送信時刻xおよび通知パケットの受信時刻yの値は存在しない。ここで、各メディア時刻(a、x、y)の値について、表示を簡単にするために、時分(0時0分)は省略されている。
次いで、従機器(機器II80)において、自己のメディア時刻0時0分0秒50(Y)で、同期制御部820は、主機器(機器I70)の同期制御部720からの通知パケットを受信する。ここで、受信側における受信時のメディア時刻はYで表されるものとする。
次いで、同期制御部820は、従機器(機器II80)においてバッファリング時間を最短にした場合の可能な最短の再生遅延時間C=2.0(秒)を計算して求める。また、同期制御部720は、従機器(機器II80)における相手側との同期のための実際の再生遅延時間Bを求める。同期のための実際の再生遅延時間は、B=(Y−De)−a+bで表される。ここで、伝送遅延時間Deは、推定の伝送遅延時間De=0.0である。代替形態として、推定の伝送遅延時間Deは、例えば0.5秒または1.0秒のような他の値であってもよい。この場合、同期のための実際の再生遅延時間はB=(0.50−0.0)−2.00+1.0=−0.50となるが、実際の再生遅延時間にはB≧C=2.0の制限があるので、同期制御部720は、実際の再生遅延時間をB=C=2.0(前回と同じ)に維持する。代替形態として、伝送遅延時間Dが算出できない場合は、同期のための実際の再生遅延時間Bは、可能な最短の再生遅延時間Cに設定されてもよい(B=C=2.0)。この場合も、同期制御部820は、実際の再生遅延時間B=2.0を維持する。
次いで、通知パケットの受信に応答して、従機器(機器II80)において、メディア時刻0時0分0秒60(A)で、同期制御部820は、通知パケットを生成して主機器に送信する。その際、同期制御部820は、通知パケットにおいて、実際の再生遅延時間bに値Bを入れ、可能な最短の再生遅延時間cに値Cを入れ、送信時刻aに値Aを入れる。さらに、同期制御部820は、通知パケットにおいて、通知パケット中の送信時刻xに先の受信通知パケット中の値aを入れ、先の受信通知パケット受信時刻yに値Yを入れる。従って、通知パケットは、従機器における、当該通知パケットの送信時刻a=A=0.60(0秒60)、実際の再生遅延時間b=2.0(秒)、および可能な最短の再生遅延時間c=2.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=2.00(2秒00)、および受信通知パケットの受信時刻y=0.50(0秒50)を含んでいる。
送信時刻xの送信によって、相手側(主機器)は、対応する前回の通知パケットの送信時刻Aを保存しなくてもよくなり、または対応する前回送信した通知パケットを特定することができる。但し、自機器によって送信される通知パケット中の送信時刻xは、相手側の前回の通知パケットの送信時刻a=Aなので、相手側(主機器)が、対応する前回の通知パケットの送信時刻Aを特定できる場合には、自機器による送信時刻xの送信が省略されてもよい。
次いで、主機器(機器I70)において、メディア時刻0時0分3秒10(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。この段階で、主機器(機器I70)は、主機器および従機器の双方の実際の再生遅延時間bおよび可能な最短の再生遅延時間c、および主機器と従機器の間での通知パケットの送信から応答の通知パケットの受信までの往復の経過時間(Y−x)を得ることができる。
この時点までは、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとは、同期していない。
次いで、同期制御部720は、受信した通知パケットの時刻データa、x、yおよび受信時刻Yに基づいて、主機器(機器I70)と従機器(機器II80)の間での一方向の伝送遅延時間D=((Y−x)−(a−y))/2を求める。ここで、時刻の差(Y−x)は、自機器(この場合、主機器)における、自機器の通知パケットの送信時刻x(=A)から応答通知パケットの受信時刻(Y)までの経過時間を表す。時刻の差(a−y)は、通信相手側(この場合、従機器)における、前回の自機器からの通知パケットの受信時刻(y)から通信相手側の応答通知パケットの送信時刻(a)までの間の応答通知パケットの生成にかかった時間を表す。従って、差(Y−x)−(a−y)は、伝送路上での往復のパケット伝送時間を表す。差の値(Y−x)−(a−y)を2で除算する(/2)ことによって、主機器と従機器の間での一方向の伝送遅延時間Dが求められる。この場合、一方向の伝送遅延時間はD=0.5秒である。
また、同期制御部720は、主機器(機器I70)における可能な最短の再生遅延時間C=1.0(秒)を再び計算して求める。次いで、同期制御部720は、主機器(機器I70)における同期のための実際の再生遅延時間Bを求める。同期のための実際の再生遅延時間Bは、例えば、B=(Y−D)−a+b=Y−D−a+b=Y−a−D+bで表される。ここで、時刻Yと伝送遅延時間Dの差(Y−D)は、自機器(主機器)において、相手側(従機器)から通知パケットを受信した時刻Yから一方向の伝送遅延時間Dを減算した時刻である。即ち、差(Y−D)は、相手側(従機器)での通知パケット送信時のメディア時刻aと同じ時点における自機器(主機器)でのメディア時刻を表す。従って、時刻の差(Y−D)−aは、同じ時点における自機器のメディア時刻(Y−D)と相手側のメディア時刻aの間の時間差を表し、相手側のメディア時刻aに対する自機器のメディア時刻(Y−D)の進み時間を表す。換言すれば、時刻の差(Y−D)−aは、自機器のメディア時刻(Y−D)に対する相手側のメディア時刻aの遅れ時間を表す。加算+bは、相手側の実際の再生遅延時間bを加算する演算である。即ち、式(Y−D)−a+bは、相手側のメディア時刻aに対する自機器のメディア時刻(Y−D)の進み時間に、相手側の実際の再生遅延時間bを加えて、両機器の出力時のメディア時刻を一致させて出力を同期させるための自機器の実際の再生遅延時間Bを表す。この場合、実際の再生遅延時間はB=4.0(秒)(≧C)である。
次いで、同期制御部720は、同期のための実際の再生遅延時間B=4.0(秒)と、前回求めた実際の再生遅延時間B=1.0との間の差または変化分(3.0)を求める。さらに、同期制御部720は、バッファ部710での現在のバッファリング時間を差3秒だけ長くすることによって、実際の再生遅延時間Bを前回より3秒だけ長く設定する。この時点で、主機器では、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期する。しかし、従機器では、同期制御部820は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期しているかどうかは確認していない。
次いで、主機器(機器I70)において、メディア時刻0時0分3秒20(A)で、同期制御部720は、通知パケットを生成して従機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=3.20(3秒20)、主機器での実際の再生遅延時間b=4.0(秒)、および主機器での可能な最短の再生遅延時間c=1.0(秒)を含んでいる。通知パケットは、さらに、相手側からの受信通知パケット中の送信時刻x=0.60(0秒60)、および通知パケットの受信時刻y=3.10(3秒10)を含んでいる。通知パケットは、さらに、伝送遅延時間Dを含んでいてもよい。
次いで、従機器(機器II80)において、メディア時刻0時0分1秒70(Y)で、同期制御部820は、同期制御部720からの通知パケットを受信する。この段階で、従機器(機器II80)は、従機器と主機器の双方の実際の再生遅延時間bおよび可能な最短の再生遅延時間c、および従機器と主機器の間での通知パケットの送信から応答通知パケットの受信までの往復の経過時間(Y−x)を得ることができる。
次いで、同期制御部820は、受信した通知パケットの時刻データa、x、yおよび受信時刻Yに基づいて、同期制御部720について前述したのと同様に、従機器(機器II80)と主機器(機器I70)の間での一方向の伝送遅延時間Dを求める。この場合、一方向の伝送遅延時間は、D=0.5秒である。また、同期制御部820は、可能な最短の再生遅延時間C=2.0(秒)を再び計算して求め、同期のための実際の再生遅延時間B=(Y−D)−a+b=Y−D−a+b=Y−a−D+bを計算して求める。この場合、実際の再生遅延時間はB=2.0(秒)である。この場合、同期のための実際の再生遅延時間Bと前回の実際の再生遅延時間Bとの間の差が0なので、同期制御部820は、バッファ部710での現在のバッファリング時間を維持する。従って、従機器では、同期制御部820は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期していることを確認できたこととなる。
次いで、従機器(機器II80)において、メディア時刻0時0分1秒80(A)で、同期制御部720は、通知パケットを生成して主機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=1.80(1秒80)、従機器での実際の再生遅延時間b=2.0(秒)、および主機器での可能な最短の再生遅延時間c=2.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=3.20(3秒20)、および通知パケットの受信時刻y=1.70(1秒70)を含んでいる。通知パケットは、さらに、伝送遅延時間Dを含んでいてもよい。
次いで、主機器(機器I70)において、メディア時刻0時0分4秒30(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。
次いで、同期制御部720は、受信した通知パケットの時刻データa、x、yおよび受信時刻Yに基づいて、主機器(機器I70)と従機器(機器II80)の間での一方向の伝送遅延時間D=0.5(秒)を再び求める。また、同期制御部720は、主機器(機器I70)における可能な最短の再生遅延時間C=1.0(秒)を再び計算して求め、同期のための実際の再生遅延時間B=4.0(秒)を計算して求める。この場合、同期のための実際の再生遅延時間Bと前回求めた実際の再生遅延時間Bとの間の差が0なので、同期制御部720は、バッファ部710でのバッファリング時間を維持する。従って、主機器では、同期制御部720は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期していることを確認できたこととなる。
このようにして、主機器が実際の再生遅延時間Bを増大させることによって、主機器の再生信号の出力タイミングのデータの時刻と、従機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期することができる。従って、例えば、従機器においてメディア時刻0時0分3秒80において2秒前の時刻0時0分1秒80のデータの信号が出力されるとき、主機器においてメディア時刻0時0分5秒80において4秒前の同じ時刻0時0分1秒80のデータの信号が出力される。
図6は、主機器と従機器の間の通知パケットの送受信の手順、および主機器と従機器における再生信号の出力タイミングの同期のための実際の再生遅延時間Bの決定のしかたの別の例を説明するための図である。
図6を参照すると、主機器(機器I70)においてメディア時刻が0時0分0秒00であるときに、従機器(機器II80)においてメディア時刻が0時0分2秒00である、と仮定する。即ち、主機器のメディア時刻は従機器のメディア時刻よりも2秒遅れており、従機器のメディア時刻は主機器のメディア時刻よりも2秒進んでいる。
まず、主機器(機器I70)において、同期制御部720は、主機器における可能な最短の再生遅延時間C(秒)および現在の実際の再生遅延時間B(秒)を計算しまたは測定する。この場合、主機器(機器I70)において、可能な最短の再生遅延時間はC=1.0(秒)であり、実際の再生遅延時間はB=1.0である。一方、従機器(機器II80)において、同期制御部820は、従機器における可能な最短の再生遅延時間C(秒)および現在の実際の再生遅延時間B(秒)を計算しまたは測定する。この場合、従機器(機器II80)において、可能な最短の再生遅延時間はC=2.0(秒)であり、現在の実際の再生遅延時間はB=2.0(秒)である。従って、この場合も、主機器の可能な最短の再生遅延時間Cは、従機器の可能な最短の再生遅延時間Cより短い。
次いで、主機器(機器I70)において、自己のメディア時刻0時0分0秒00(A)で、同期制御部720は、通知パケットを生成して従機器に送信する。この場合、通知パケットは、当該通知パケットの送信時刻a=A=0.00(0秒00)、主機器での実際の再生遅延時間b=1.0(秒)、および主機器での可能な最短の再生遅延時間c=1.0(秒)を含んでいる。
次いで、従機器(機器II80)において、自己のメディア時刻0時0分2秒50(Y)で、同期制御部820は、主機器(機器I70)の同期制御部720からの通知パケットを受信する。
次いで、同期制御部820は、従機器(機器II80)においてバッファリング時間を最短にした場合での可能な最短の再生遅延時間C=2.0(秒)を計算して求める。また、同期制御部720は、従機器(機器II80)における相手側との同期のための実際の再生遅延時間Bを求める。同期のための実際の再生遅延時間は、B=(Y−De)−a+bで表される。ここで伝送遅延時間Deは、推定の伝送遅延時間De=0.0である。この場合、同期のための実際の再生遅延時間はB=(2.50−0.0)−0.00+1.0=3.5となる。次いで、同期制御部820は、同期のための実際の再生遅延時間B=3.5(秒)と、前回求めた実際の再生遅延時間B=2.0との間の差(1.5)を求める。さらに、同期制御部820は、バッファ部810での現在のバッファリング時間を差1.5秒だけ長くすることによって、実際の再生遅延時間Bを前回より1.5秒だけより長く設定する。代替形態として、代替形態として、伝送遅延時間Dが算出できない場合は、同期のための実際の再生遅延時間Bは、可能な最短の再生遅延時間Cに設定されてもよい(B=C=2.0)。この場合、同期制御部820は、実際の再生遅延時間B=2.0を維持する。
次いで、通知パケットの受信に応答して、主機器(機器II80)において、メディア時刻0時0分2秒60(A)で、同期制御部820は、通知パケットを生成して主機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=2.60(2秒60)、従機器での実際の再生遅延時間b=3.5(秒)、および主機器での可能な最短の再生遅延時間c=2.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=0.00(0秒00)、および通知パケットの受信時刻y=2.50(2秒50)を含んでいる。
次いで、主機器(機器I70)において、メディア時刻0時0分1秒10(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。この段階で、主機器(機器II80)は、主機器および従機器の双方の実際の再生遅延時間bおよび可能な最短の再生遅延時間c、および主機器と従機器の間での通知パケットの送信から応答の通知パケットの受信までの往復の経過時間(Y−x)を得ることができる。
次いで、同期制御部720は、受信した通知パケットの時間データa、x、yおよび受信時刻Yに基づいて、主機器(機器I70)と従機器(機器II80)の間での一方向の伝送遅延時間Dを求める。この場合、一方向の伝送遅延時間D=0.5秒である。
また、同期制御部720は、主機器(機器I70)における可能な最短の再生遅延時間C=1.0(秒)を再び計算して求める。次いで、同期制御部720は、同期のための実際の再生遅延時間B=(Y−D)−a+b=Y−D−a+b=Y−a−D+bを求める。この場合、実際の再生遅延時間はB=1.5(秒)である。この場合、自機器における実際の再生遅延時間Bが可能な最短の再生遅延時間Cより大きく(B(=1.5)>C(=1.0))、かつ相手側の機器における実際の再生遅延時間bが可能な最短の再生遅延時間cより大きい(b(=3.5)>c(=2.0))。従って、主機器と従機器の双方は、共に、実際の再生遅延時間B、bを短縮することが可能である。従って、同期制御部720は、自機器での差(B−C)と相手側での差(b−c)のうちの最小値(B−C=0.5)だけ、同期のための実際の再生遅延時間Bを短くする(B=B−min((B−C),(b−c))=1.5−(1.5−1.0)=1.0)。従って、同期制御部720は、同期のための実際の再生遅延時間をB=C=1.0と設定する。この場合、同期のための実際の再生遅延時間Bと前回求めた実際の再生遅延時間Bとの間の差が0なので、同期制御部720は、バッファ部710でのバッファリング時間を維持する。
次いで、主機器(機器I70)において、メディア時刻0時0分1秒20(A)で、同期制御部720は、通知パケットを生成して従機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=1.20(1秒20)、主機器での実際の再生遅延時間b=1.0(秒)、および主機器での可能な最短の再生遅延時間c=1.0(秒)を含んでいる。通知パケットは、さらに、相手側からの受信通知パケット中の送信時刻x=2.60(2秒60)、および通知パケットの受信時刻y=1.10(1秒10)を含んでいる。
次いで、従機器(機器II80)において、メディア時刻0時0分3秒70(Y)で、同期制御部820は、同期制御部720からの通知パケットを受信する。この段階で、従機器(機器II80)は、従機器と主機器の双方の実際の再生遅延時間bおよび可能な最短の再生遅延時間c、および従機器と主機器の間での通知パケットの送信から応答通知パケットの受信までの往復の経過時間(Y−x)を得ることができる。
この時点までは、従機器(機器II80)での再生信号の出力タイミングと、主機器(機器I70)での再生信号の出力タイミングとは、同期していない。
次いで、同期制御部820は、従機器と主機器の間での一方向の伝送遅延時間D=0.5秒を求める。また、同期制御部820は、可能な最短の再生遅延時間Cを再び計算して求め、同期のための実際の再生遅延時間B=(Y−D)−a+b=(Y−D)−a+b=Y−D−a+b=Y−a−D+bを算出して求める。この場合、可能な最短の再生遅延時間はC=2.0(秒)であり、同期のための実際の再生遅延時間はB=3.0(秒)である。次いで、同期制御部820は、同期のための実際の再生遅延時間B=3.0(秒)と、前回求めた実際の再生遅延時間B=2.5との間の差(0.5)を求める。さらに、同期制御部820は、バッファ部810での現在のバッファリング時間を0.5秒長くすることによって、実際の再生遅延時間Bを0.5秒だけより長く設定する。この場合、この時点で、従機器では、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期する。しかし、主機器では、同期制御部720は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期しているかどうかを確認していない。
次いで、従機器(機器II80)において、メディア時刻0時0分3秒80(A)で、同期制御部820は、通知パケットを生成して主機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=3.80(3秒80)、従機器での実際の再生遅延時間b=3.0(秒)、および主機器での可能な最短の再生遅延時間c=2.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=1.20(1秒20)、および通知パケットの受信時刻y=3.70(3秒70)を含んでいる。
次いで、主機器(機器I70)において、メディア時刻0時0分2秒30(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。
次いで、同期制御部720は、主機器と従機器の間での一方向の伝送遅延時間D=0.5秒を再び求める。また、同期制御部720は、可能な最短の再生遅延時間C=1.0(秒)を再び計算して求め、同期のための実際の再生遅延時間B=1.0(秒)を計算して求める。この場合、同期のための実際の再生遅延時間Bと前回求めた実際の再生遅延時間Bとの間の差が0なので、同期制御部720は、バッファ部710でのバッファリング時間を維持する。従って、主機器では、同期制御部720は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期していることを確認できたこととなる。
このようにして、従機器が実際の再生遅延時間Bを増大させることによって、主機器の再生信号の出力タイミングのデータの時刻と、従機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期することができる。従って、例えば、主機器においてメディア時刻0時0分4秒80において1秒前の時刻0時0分3秒80のデータの信号が出力されるとき、従機器においてメディア時刻0時0分6秒80において3秒前の同じ時刻0時0分3秒80のデータの信号が出力される。
次は、主機器および従機器において、時間の経過とともにそれぞれの可能な最短の再生遅延時間Cが変化する場合での、主機器と従機器の間での通知パケットの送受信、およびバッファリング時間の決定のしかたの例を説明する。
図7Aおよび7Bは、主機器と従機器の間の通知パケットの送受信の手順、および主機器と従機器における再生同期のための実際の再生遅延時間Bの決定のしかたのさらに別の例を説明するための図である。
図7Aおよび7Bは、図6の後の主機器(機器I70)と従機器(機器II80)のメディア時刻における送受信の手順を含んでいるものとする。図7Aおよび7Bを参照すると、主機器(機器I70)においてメディア時刻が0時0分8秒00であるとき、従機器(機器II80)においてメディア時刻が0時0分10秒00である、と仮定する。即ち、主機器のメディア時刻は、従機器のメディア時刻よりも2秒遅れている。
図6の送受信の手順の後、主機器(機器I70)において、例えば、バッファ部710における最短のバッファリング時間または復号部712における復号時間が増大して、可能な最短の再生遅延時間がC=1.0(秒)からC=2.0(秒)に増大したとする。それに伴って、同期制御部720は、実際の再生遅延時間Bを初期状態のB=C=2.0(秒)に増大させる。一方、従機器(機器II80)は、可能な最短の再生遅延時間C=2.0(秒)および実際の再生遅延時間B=3.0(秒)を維持しているものとする。
このように、可能な最短の再生遅延時間Cが変化した場合に、実際の再生遅延時間Bは可能な最短の再生遅延時間Cに設定される。それによって、主機器および従機器において、それぞれの再生信号の出力タイミングが同期状態になったときのそれぞれの実際の再生遅延時間Bはできるだけ短くすることができ、それぞれのバッファリング時間はより長い余裕時間を持つことができる。
まず、主機器(機器I70)において、同期制御部720は、主機器における可能な最短の再生遅延時間C(秒)および現在の実際の再生遅延時間B(秒)を計算して求める。この場合、可能な最短の再生遅延時間はC=2.0(秒)であり、実際の再生遅延時間はB=2.0である。一方、従機器(機器II80)において、同期制御部820は、従機器における可能な最短の再生遅延時間C(秒)および現在の実際の再生遅延時間B(秒)を計算して求める。この場合、可能な最短の再生遅延時間はC=2.0(秒)であり、現在の実際の再生遅延時間はB=3.0(秒)である。従って、主機器の可能な最短の再生遅延時間Cは、従機器の可能な最短の再生遅延時間Cと等しい。
次いで、主機器(機器I70)において、メディア時刻0時0分8秒40(A)で、同期制御部720は、可能な最短の再生遅延時間Cの変動に応答して、通知パケットを生成して従機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=8.40(8秒40)、主機器での実際の再生遅延時間b=2.0(秒)、および主機器での可能な最短の再生遅延時間c=2.0(秒)を含んでいる。
次いで、従機器(機器II80)において、メディア時刻0時0分10秒90(Y)で、同期制御部820は、主機器(機器I70)の同期制御部720からの通知パケットを受信する。
次いで、従機器(機器II80)において、同期制御部820は、従機器と主機器の間での一方向の伝送遅延時間D=0.5秒を再び求める。また、同期制御部820は、可能な最短の再生遅延時間Cを再び計算して求め、同期のための実際の再生遅延時間B=(Y−D)−a+bを計算して求める。この場合、可能な最短の再生遅延時間はC=2.0(秒)であり、同期のための実際の再生遅延時間はB=(10.90−0.5)−8.40+2.0=4.0(秒)である。次いで、同期制御部820は、同期のための実際の再生遅延時間Bと、前回求めた実際の再生遅延時間B=3.0との間の差(1.0)を求める。さらに、同期制御部820は、バッファ部810での現在のバッファリング時間を1.0秒だけ長くすることによって、実際の再生遅延時間Bを1.0秒だけより長く設定する。
この時点で、従機器が実際の再生遅延時間Bを増大させることによって、主機器の再生信号の出力タイミングのデータの時刻と、従機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期することができる。
次いで、通知パケットの受信に応答して、従機器(機器II80)において、メディア時刻0時0分11秒00(A)で、同期制御部820は、通知パケットを生成して主機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=11.00(11秒00)、従機器での実際の再生遅延時間b=4.0(秒)、および従機器での可能な最短の再生遅延時間c=2.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=8.40(8秒40)、および通知パケットの受信時刻y=10.90(10秒90)を含んでいる。
次いで、主機器(機器I70)において、メディア時刻0時0分9秒50(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。
次いで、同期制御部720は、可能な最短の再生遅延時間C=0.5(秒)を計算して求め、同期のための実際の再生遅延時間B=2.0(秒)を計算して求める。この場合、同期のための実際の再生遅延時間Bと前回求めた実際の再生遅延時間Bとの間の差が0なので、同期制御部720は、バッファ部710でのバッファリング時間を維持する。従って、主機器では、同期制御部720は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期していることを確認できたこととなる。
その後、主機器(機器I70)において、例えば、バッファ部710における最短のバッファリング時間または復号部712における復号時間が減少して、可能な最短の再生遅延時間がC=2.0(秒)からC=0.5(秒)に減少したとする。それに伴って、同期制御部720は、実際の再生遅延時間Bを初期状態のB=C=0.5(秒)に減少させる。今回の実際の再生遅延時間Bは、自機器の制限条件B≧C=0.5、かつ相手機器による制限条件B≧B[前回]−(b−c)[相手側]=2.0−(4.0−2.0)=0.0を満たす最小値である。ここで、時間差(b−c)は、相手側(従機器)における実際の再生遅延時間bと可能な最短の再生遅延時間cの差であり、実際の再生遅延時間bにおける短縮可能な余裕の遅延時間長または最大の短縮可能な遅延時間長である。即ち、主機器(機器I70)において、同期のための実際の再生遅延時間Bは、相手側(従機器)において短縮時間可能な時間(b−c)を超えて短縮されることはない。一方、従機器(機器II80)は、可能な最短の再生遅延時間C=2.0(秒)および実際の再生遅延時間B=4.0(秒)を維持しているものとする。
主機器(機器I70)において、メディア時刻0時0分10秒20(A)で、同期制御部720は、可能な最短の再生遅延時間Cの変動に応答して、通知パケットを生成して従機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=10.20(10秒20)、主機器での実際の再生遅延時間b=0.5(秒)、および主機器での可能な最短の再生遅延時間c=0.5(秒)を含んでいる。通知パケットは、さらに、相手側から受信した通知パケット中の送信時刻x=11.00(11秒00)、および通知パケットの受信時刻y=10.90(10秒90)を含んでいる。
次いで、従機器(機器II80)において、メディア時刻0時0分12秒70(Y)で、同期制御部820は、同期制御部720からの通知パケットを受信する。
次いで、従機器(機器II80)において、同期制御部820は、従機器と主機器の間での一方向の伝送遅延時間D=0.5秒を再び求める。また、同期制御部820は、可能な最短の再生遅延時間C=2.0(秒)を再び計算して求め、同期のための実際の再生遅延時間B=(Y−D)−a+b=2.5(秒)を計算して求める。次いで、同期制御部820は、同期のための実際の再生遅延時間Bと、前回求めた実際の再生遅延時間B=4.0との間の差(−1.5)を求める。さらに、同期制御部820は、バッファ部810での現在のバッファリング時間を差1.5秒だけ短くすることによって、実際の再生遅延時間Bを差1.5秒だけより短く設定する。
この時点で、従機器が実際の再生遅延時間Bを減少させることによって、主機器の再生信号の出力タイミングのデータの時刻と、従機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期させることができる。
次いで、従機器(機器II80)において、メディア時刻0時0分12秒80(A)で、同期制御部820は、通知パケットを生成して従機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=12.80(12秒80)、従機器での実際の再生遅延時間b=2.5(秒)、および従機器での可能な最短の再生遅延時間c=2.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=10.20(10秒20)、および通知パケットの受信時刻y=12.70(12秒70)を含んでいる。
次いで、主機器(機器I70)において、メディア時刻0時0分11秒30(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。
次いで、主機器(機器I70)において、同期制御部720は、主機器と従機器の間での一方向の伝送遅延時間D=0.5秒を再び求める。また、同期制御部720は、主機器(機器I70)における可能な最短の再生遅延時間C=0.5(秒)を計算して求め、同期のための実際の再生遅延時間B=0.5(秒)を計算して求める。この場合、同期のための実際の再生遅延時間Bと前回求めた実際の再生遅延時間Bとの間の差が0なので、同期制御部720は、バッファ部710でのバッファリング時間を維持する。従って、主機器では、同期制御部720は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期していることを確認できたこととなる。
このようにして、主機器において、可能な最短の再生遅延時間Cが増減し変化した場合でも、主機器と従機器においてバッファリング時間を最小化する形態で同期のための実際の再生遅延時間Bが制御される。従って、主機器の再生信号の出力タイミングのデータの時刻と、従機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期させることができる。
図7Bを参照すると、その後、従機器(機器II80)において、バッファ部810におけるバッファリング時間または復号部712における復号時間が増大して、可能な最短の再生遅延時間がC=2.0(秒)からC=3.0(秒)に増大したとする。それに伴って、同期制御部820は、実際の再生遅延時間を初期状態のB=C=3.5(秒)に増大させる。一方、主機器(機器I70)は、可能な最短の再生遅延時間C=0.5(秒)および実際の再生遅延時間B=0.5(秒)を維持しているものとする。
従機器(機器II80)において、メディア時刻0時0分13秒90(A)で、同期制御部820は、可能な最短の再生遅延時間Cの変動に応答して、通知パケットを生成して主機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=13.90(13秒90)、従機器での実際の再生遅延時間b=3.0(秒)、および従機器での可能な最短の再生遅延時間c=3.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=10.20(10秒20)、および通知パケットの受信時刻y=12.70(12秒70)を含んでいる。
次いで、主機器(機器I70)において、メディア時刻0時0分12秒40(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。
次いで、主機器(機器I70)において、同期制御部720は、主機器と従機器の間での一方向の伝送遅延時間D=0.5秒を再び求める。また、同期制御部720は、主機器(機器I70)における可能な最短の再生遅延時間C=0.5(秒)を計算して求め、主機器(機器I70)における同期のための実際の再生遅延時間B=1.0(秒)を計算して求める。次いで、同期制御部720は、同期のための実際の再生遅延時間Bと、前回求めた実際の再生遅延時間B=0.5との間の差(0.5)を求める。さらに、同期制御部720は、バッファ部710でのバッファリング時間を0.5秒だけ長くすることによって、実際の再生遅延時間Bを0.5秒だけより長く設定する。
この時点で、主機器が実際の再生遅延時間Bを増大させることによって、主機器の再生信号の出力タイミングのデータの時刻と、従機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期させることができる。
次いで、主機器(機器I70)において、メディア時刻0時0分12秒50(A)で、同期制御部720は、通知パケットを生成して従機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=12.50(12秒50)、主機器での実際の再生遅延時間b=1.0(秒)、および主機器での可能な最短の再生遅延時間c=0.5(秒)を含んでいる。通知パケットは、さらに、相手側から受信した通知パケット中の送信時刻x=13.90(13秒90)、および通知パケットの受信時刻y=12.40(12秒40)を含んでいる。
次いで、従機器(機器II80)において、メディア時刻0時0分15秒00(Y)で、同期制御部820は、同期制御部720からの通知パケットを受信する。
次いで、従機器(機器II80)において、同期制御部820は、従機器と主機器の間での一方向の伝送遅延時間D=0.5秒を求める。また、同期制御部820は、可能な最短の再生遅延時間C=3.0(秒)を再び計算して求め、同期のための実際の再生遅延時間B=a−Y+D+b=3.0(秒)を計算して求める。この場合、同期のための実際の再生遅延時間Bと前回の実際の再生遅延時間Bとの間の差が0なので、同期制御部820は、バッファ部710でのバッファリング時間を維持する。従って、従機器では、同期制御部820は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期していることを確認できたこととなる。
その後、従機器(機器II80)において、バッファ部810におけるバッファリング時間または復号部712における復号時間が減少して、可能な最短の再生遅延時間がC=3.0(秒)からC=1.0(秒)に減少したとする。それに伴って、同期制御部820は、実際の再生遅延時間をB=B[前回]−(b−c)[相手側]=3.0−(1.0−0.5)=2.5(秒)に減少させる。今回の実際の再生遅延時間Bは、自機器の制限条件B≧C=1.0、かつ相手機器による制限条件B≧B[前回]−(b−c)[相手側]=2.5を満たす最小値である。ここで、時間差(b−c)は、相手側(主機器)における実際の再生遅延時間bと可能な最短の再生遅延時間cの間の差であり、実際の再生遅延時間bにおける短縮可能な余裕の遅延時間長または最大の短縮可能な遅延時間長である。即ち、従機器(機器II80)において、同期のための実際の再生遅延時間Bは、相手側(主機器)において短縮時間可能な時間(b−c)を超えて短縮されることはない。一方、主機器(機器I70)は、可能な最短の再生遅延時間C=0.5(秒)および実際の再生遅延時間B=0.5(秒)を維持しているものとする。
従機器(機器II80)において、メディア時刻0時0分15秒40(A)で、同期制御部820は、可能な最短の再生遅延時間Cの変動に応答して、通知パケットを生成して主機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=15.40(15秒40)、従機器での実際の再生遅延時間b=2.50(秒)、および従機器での可能な最短の再生遅延時間c=1.0(秒)を含んでいる。通知パケットは、さらに、受信通知パケット中の送信時刻x=12.50(12秒50)、および通知パケットの受信時刻y=15.00(15秒00)を含んでいる。
次いで、主機器(機器I70)において、メディア時刻0時0分13秒90(Y)で、同期制御部720は、同期制御部820からの通知パケットを受信する。
次いで、同期制御部720は、主機器(機器I70)と従機器(機器II80)の間での一方向の伝送遅延時間D=0.5秒を再び求める。また、同期制御部720は、主機器(機器I70)における可能な最短の再生遅延時間C=0.5(秒)を計算して求め、同期のための実際の再生遅延時間B=0.5(秒)を計算して求める。次いで、同期制御部720は、同期のための実際の再生遅延時間Bと、前回求めた実際の再生遅延時間B=1.0との間の差(−0.5)を求める。さらに、同期制御部720は、バッファ部710での現在のバッファリング時間を0.5秒だけ短くすることによって、実際の再生遅延時間Bを0.5秒だけより短く設定する。
この時点で、主機器が実際の再生遅延時間Bを減少させることによって、主機器の再生信号の出力タイミングのデータの時刻と、従機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期させることができる。
次いで、主機器(機器I70)において、メディア時刻0時0分14秒00(A)で、同期制御部720は、通知パケットを生成して従機器に送信する。この場合、通知パケットは、通知パケットの送信時刻a=A=14.00(14秒00)、主機器での実際の再生遅延時間b=0.5(秒)、および主機器での可能な最短の再生遅延時間c=0.5(秒)を含んでいる。通知パケットは、さらに、相手側から受信した通知パケット中の送信時刻x=15.40(15秒40)、および通知パケットの受信時刻y=13.90(13秒90)を含んでいる。
次いで、従機器(機器II80)において、メディア時刻0時0分16秒50(Y)で、同期制御部820は、同期制御部720からの通知パケットを受信する。
次いで、従機器(機器II80)において、同期制御部820は、従機器と主機器の間での一方向の伝送遅延時間D=0.5秒を求める。また、同期制御部820は、可能な最短の再生遅延時間C=1.0(秒)を再び計算して求め、同期のための実際の再生遅延時間B=a−Y+D+b=2.5(秒)を計算して求める。この場合、同期のための実際の再生遅延時間Bと前回の実際の再生遅延時間Bとの間の差が0なので、同期制御部820は、バッファ部710での現在のバッファリング時間を維持する。従って、従機器では、同期制御部820は、主機器(機器I70)での再生信号の出力タイミングと、従機器(機器II80)での再生信号の出力タイミングとが同期していることを確認できたこととなる。
このようにして、従機器において、可能な最短の再生遅延時間Bが増減し変化した場合でも、従機器と主機器においてバッファリング時間を最小化する形態で同期のための実際の再生遅延時間が制御される。従って、従機器の再生信号の出力タイミングのデータの時刻と、主機器の再生信号の出力タイミングのデータの時刻とが一致して、主機器と従機器の再生信号の出力は同期させることができる。
ここで挙げた全ての例および条件的表現は、発明者が技術促進に貢献した発明および概念を読者が理解するのを助けるためのものであり、ここで具体的に挙げたそのような例および条件に限定することなく解釈され、また、明細書におけるそのような例の編成は本発明の優劣を示すこととは関係ない、と理解される。本発明の実施形態を詳細に説明したが、本発明の精神および範囲から逸脱することなく、それに対して種々の変更、置換および変形を施すことができる、と理解される。
以上の実施例を含む実施形態に関して、さらに以下の付記を開示する。
(付記1)外部から受信した音声データを出力する第1の機器と、前記音声データに対応する前記外部から受信した映像データを出力する第2の機器とを含むシステムであって、
前記第1の機器が、第1の送信部と、第1の制御部とを備え、
前記第2の機器が、第2の送信部と、第2の制御部とを備え、
前記第1の送信部は、受信した前記音声データの処理の開始から、処理された前記音声データを出力するまでの第1の処理時間と、前記第1の機器における前記音声データの時刻に基づく第1の時刻とを、前記第2の機器に送信し、
前記第2の送信部は、受信した前記映像データの処理の開始から、処理された前記映像データを出力するまでの第2の処理時間と、前記第2の機器における前記映像データの時刻に基づく第2の時刻とを、前記第1の機器に送信し、
前記第1の制御部は、前記第2の時刻に対する前記音声データの時刻に基づく第3の時刻と、前記第2の時刻と、前記第2の機器と前記第1の機器の間の伝送遅延時間と、前記第2の処理時間とに基づいて、処理された前記音声データを出力するタイミングを制御し、
前記第2の制御部は、前記第1の時刻に対する前記映像データの時刻に基づく第4の時刻と、前記第1の時刻と、前記伝送遅延時間と、前記第1の処理時間とに基づいて、処理された前記映像データを出力するタイミングを制御する
ことを特徴とするシステム。
(付記2)前記第1の処理時間は、受信した前記音声データの処理の開始以前の時点から、受信した前記音声データをバッファリングして、処理された前記音声データを出力する時点までの遅延時間であり、
前記第2の処理時間は、受信した前記映像データの処理の開始以前の時点から、受信した前記映像データをバッファリングして、処理された前記映像データを出力する時点までの遅延時間であることを特徴とする、付記1に記載のシステム。
(付記3)前記第1の制御部は、前記第3の時刻、負の前記第2の時刻、負の前記伝送遅延時間および前記第2の処理時間の総和を、第1の時間として求め、前記第1の処理時間が前記第1の時間になるように、受信した前記音声データの遅延時間を制御することによって、処理された前記音声データを出力するタイミングを制御し、
前記第2の制御部は、前記第4の時刻、負の前記第1の時刻、負の前記伝送遅延時間および前記第1の処理時間の総和を、第2の時間として求め、前記第2の処理時間が前記第2の時間になるように、受信した前記映像データの遅延時間を制御することによって、処理された前記映像データを出力するタイミングを制御するものであることを特徴とする、付記1または2に記載のシステム。
(付記4)前記第1の制御部は、前記第1の処理時間を、前記第1の処理時間の可能な最小値以上となるように設定し、
前記第2の制御部は、前記第2の処理時間を、前記第2の処理時間の可能な最小値以上となるように設定するものであることを特徴とする、付記1乃至3のいずれかに記載のシステム。
(付記5)前記第1の制御部は、初期状態において、または前記第1の処理時間の可能な最小値が変化した場合に、前記第1の処理時間を前記第1の処理時間の変化後の可能な最小値となるように設定し、
前記第2の制御部は、初期状態において、または前記第2の処理時間の可能な最小値が変化した場合に、前記第2の処理時間を、前記第2の処理時間の変化後の可能な最小値となるように設定するものであることを特徴とする、付記1乃至4のいずれかに記載のシステム。
(付記6)前記第1の制御部は、前記第1の処理時間の可能な最小値が変化した場合、前記第1の処理時間を、前記第1の処理時間の前記変化した可能な最小値以上となり、かつ減少幅が前記第2の処理時間と前記第2の処理時間の可能な最小値との間の差以下となるように設定し、
前記第2の制御部は、前記第2の処理時間の可能な最小値が変化した場合、前記第2の処理時間を、前記第2の処理時間の前記変化した可能な最小値以上、かつ減少幅が前記第1の処理時間と前記第1の処理時間の可能な最小値との間の差以下となるように設定するものであることを特徴とする、付記1乃至5のいずれかに記載のシステム。
(付記7)前記第1の制御部は、前記第1の機器における前記音声データの時刻に基づく、第1の情報の送信時刻と、前記第1の情報に応答する前記第2の機器からの第2の情報の受信時刻との間の差と、前記第2の機器における前記映像データの時刻に基づく、前記第1の情報の受信時刻と前記第2の情報の送信時刻との間の差とに基づいて、前記伝送遅延時間を求めるものであることを特徴とする、付記1乃至6のいずれかに記載のシステム。
(付記8)第1の機器が、外部ら受信した音声データの処理の開始から、処理された前記音声データを出力するまでの第1の処理時間と、前記第1の機器における前記音声データの時刻に基づく第1の時刻とを、前記第2の機器に送信し、
第2の機器が、前記音声データに対応する前記外部から受信した映像データの処理の開始から、処理された前記映像データを出力するまでの第2の処理時間と、前記第2の機器における前記映像データの時刻に基づく第2の時刻とを、前記第1の機器に送信し、
前記第1の機器が、前記第2の時刻に対する前記音声データの時刻に基づく第3の時刻と、前記第2の時刻と、前記第2の機器と前記第1の機器の間の伝送遅延時間と、前記第2の処理時間とに基づいて、処理された前記音声データを出力するタイミングを制御し、
前記第2の機器が、前記第1の時刻に対する前記映像データの時刻に基づく第4の時刻と、前記第1の時刻と、前記伝送遅延時間と、前記第1の処理時間とに基づいて、処理された前記映像データを出力するタイミングを制御する
処理を実行することを特徴とする方法。
70 機器I
80 機器II
702、802 インタフェース
704、804 RTP処理部
706、806 再生処理部
708 音声データ受信部
808 映像データ受信部
710、810 バッファ部
712、812 復号部
714 音声再生部
814 映像再生部
720、820 同期制御部
722、822 同期通信部
730 スピーカ
830 表示部

Claims (5)

  1. 外部から受信した音声データを出力する第1の機器と、前記音声データに対応する前記外部から受信した映像データを出力する第2の機器とを含むシステムであって、
    前記第1の機器が、第1の送信部と、第1の制御部とを備え、
    前記第2の機器が、第2の送信部と、第2の制御部とを備え、
    前記第1の送信部は、受信した前記音声データの処理の開始から、処理された前記音声データを出力するまでの第1の処理時間と、前記第1の機器における前記音声データの時刻に基づく第1の時刻とを、前記第2の機器に送信し、
    前記第2の送信部は、受信した前記映像データの処理の開始から、処理された前記映像データを出力するまでの第2の処理時間と、前記第2の機器における前記映像データの時刻に基づく第2の時刻とを、前記第1の機器に送信し、
    前記第1の制御部は、前記第2の時刻に対する前記音声データの時刻に基づく第3の時刻と、前記第2の時刻と、前記第2の機器と前記第1の機器の間の伝送遅延時間と、前記第2の処理時間とに基づいて、処理された前記音声データを出力するタイミングを制御し、
    前記第2の制御部は、前記第1の時刻に対する前記映像データの時刻に基づく第4の時刻と、前記第1の時刻と、前記伝送遅延時間と、前記第1の処理時間とに基づいて、処理された前記映像データを出力するタイミングを制御する
    ことを特徴とするシステム。
  2. 前記第1の制御部は、前記第3の時刻、負の前記第2の時刻、負の前記伝送遅延時間および前記第2の処理時間の総和を、第1の時間として求め、前記第1の処理時間が前記第1の時間になるように、受信した前記音声データの遅延時間を制御することによって、処理された前記音声データを出力するタイミングを制御し、
    前記第2の制御部は、前記第4の時刻、負の前記第1の時刻、負の前記伝送遅延時間および前記第1の処理時間の総和を、第2の時間として求め、前記第2の処理時間が前記第2の時間になるように、受信した前記映像データの遅延時間を制御することによって、処理された前記映像データを出力するタイミングを制御するものであることを特徴とする、請求項1に記載のシステム。
  3. 前記第1の制御部は、前記第1の処理時間を、前記第1の処理時間の可能な最小値以上となるように設定し、
    前記第2の制御部は、前記第2の処理時間を、前記第2の処理時間の可能な最小値以上となるように設定するものであることを特徴とする、請求項1または2に記載のシステム。
  4. 前記第1の制御部は、前記第1の機器における前記音声データの時刻に基づく、第1の情報の送信時刻と、前記第1の情報に応答する前記第2の機器からの第2の情報の受信時刻との間の差と、前記第2の機器における前記映像データの時刻に基づく、前記第1の情報の受信時刻と前記第2の情報の送信時刻との間の差とに基づいて、前記伝送遅延時間を求めるものであることを特徴とする、請求項1乃至3のいずれかに記載のシステム。
  5. 第1の機器が、外部から受信した音声データの処理の開始から、処理された前記音声データを出力するまでの第1の処理時間と、前記第1の機器における前記音声データの時刻に基づく第1の時刻とを、前記第2の機器に送信し、
    第2の機器が、前記音声データに対応する前記外部から受信した映像データの処理の開始から、処理された前記映像データを出力するまでの第2の処理時間と、前記第2の機器における前記映像データの時刻に基づく第2の時刻とを、前記第1の機器に送信し、
    前記第1の機器が、前記第2の時刻に対する前記音声データの時刻に基づく第3の時刻と、前記第2の時刻と、前記第2の機器と前記第1の機器の間の伝送遅延時間と、前記第2の処理時間とに基づいて、処理された前記音声データを出力するタイミングを制御し、
    前記第2の機器が、前記第1の時刻に対する前記映像データの時刻に基づく第4の時刻と、前記第1の時刻と、前記伝送遅延時間と、前記第1の処理時間とに基づいて、処理された前記映像データを出力するタイミングを制御する
    処理を実行することを特徴とする方法。
JP2014046058A 2014-03-10 2014-03-10 システムおよび方法 Pending JP2015171065A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014046058A JP2015171065A (ja) 2014-03-10 2014-03-10 システムおよび方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014046058A JP2015171065A (ja) 2014-03-10 2014-03-10 システムおよび方法

Publications (1)

Publication Number Publication Date
JP2015171065A true JP2015171065A (ja) 2015-09-28

Family

ID=54203408

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014046058A Pending JP2015171065A (ja) 2014-03-10 2014-03-10 システムおよび方法

Country Status (1)

Country Link
JP (1) JP2015171065A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018006959A (ja) * 2016-06-30 2018-01-11 キヤノン株式会社 通信システム、通信機器および通信方法
CN110536147A (zh) * 2019-08-21 2019-12-03 北京达佳互联信息技术有限公司 直播处理的方法、装置及***

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11177954A (ja) * 1998-10-05 1999-07-02 Sharp Corp 通信会議システム
JP2004104796A (ja) * 2002-09-06 2004-04-02 Sony Internatl Europ Gmbh メディアデータパケットの同期再生
JP2005210491A (ja) * 2004-01-23 2005-08-04 Victor Co Of Japan Ltd コンテンツ送信装置及びコンテンツ再生装置
JP2008141631A (ja) * 2006-12-05 2008-06-19 Seiko Epson Corp コンテンツ再生システムおよびこれに用いられる再生装置、並びにコンテンツ再生方法
JP2009010581A (ja) * 2007-06-27 2009-01-15 Kddi Corp 同期した異なる種類のストリーミングデータを受信し且つ同時に再生する受信システム、受信装置及びプログラム
JP2010004520A (ja) * 2008-05-23 2010-01-07 Yamaha Corp Avシステム
JP2013090187A (ja) * 2011-10-19 2013-05-13 Toyota Motor Corp 通信端末装置及び通信方法
JP2013121014A (ja) * 2011-12-06 2013-06-17 Nippon Telegr & Teleph Corp <Ntt> 時刻同期装置及び方法
JP2013160521A (ja) * 2012-02-01 2013-08-19 Nec Engineering Ltd 時刻設定方法、通信装置、および時刻設定プログラム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11177954A (ja) * 1998-10-05 1999-07-02 Sharp Corp 通信会議システム
JP2004104796A (ja) * 2002-09-06 2004-04-02 Sony Internatl Europ Gmbh メディアデータパケットの同期再生
JP2005210491A (ja) * 2004-01-23 2005-08-04 Victor Co Of Japan Ltd コンテンツ送信装置及びコンテンツ再生装置
JP2008141631A (ja) * 2006-12-05 2008-06-19 Seiko Epson Corp コンテンツ再生システムおよびこれに用いられる再生装置、並びにコンテンツ再生方法
JP2009010581A (ja) * 2007-06-27 2009-01-15 Kddi Corp 同期した異なる種類のストリーミングデータを受信し且つ同時に再生する受信システム、受信装置及びプログラム
JP2010004520A (ja) * 2008-05-23 2010-01-07 Yamaha Corp Avシステム
JP2013090187A (ja) * 2011-10-19 2013-05-13 Toyota Motor Corp 通信端末装置及び通信方法
JP2013121014A (ja) * 2011-12-06 2013-06-17 Nippon Telegr & Teleph Corp <Ntt> 時刻同期装置及び方法
JP2013160521A (ja) * 2012-02-01 2013-08-19 Nec Engineering Ltd 時刻設定方法、通信装置、および時刻設定プログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018006959A (ja) * 2016-06-30 2018-01-11 キヤノン株式会社 通信システム、通信機器および通信方法
CN110536147A (zh) * 2019-08-21 2019-12-03 北京达佳互联信息技术有限公司 直播处理的方法、装置及***

Similar Documents

Publication Publication Date Title
US10453474B2 (en) Wireless audio synchronization
US10454604B2 (en) Encoded audio synchronization
US8477950B2 (en) Home theater component for a virtualized home theater system
US9055332B2 (en) Lip synchronization in a video conference
US7843974B2 (en) Audio and video synchronization
US11678005B2 (en) Latency negotiation in a heterogeneous network of synchronized speakers
JP6313466B2 (ja) 共通タイミングフレームワークを使う複数のマルチメディアデバイスのワイヤレス同期のための装置および方法
KR20090095643A (ko) 입력 오디오 스트림 및 입력 비디오 스트림을 동기화하는 방법, 복수의 컴퓨팅 장치에 걸쳐서 전송되고 있는 미디어 스트림들을 동기화하기 위한 시스템, 및 컴퓨터 판독가능 매체
US10855763B2 (en) Method and apparatus for synchronizing applications&#39; consumption of remote data
JP5074834B2 (ja) 音声・映像同期方法、音声・映像同期システム及び音声・映像受信端末
JP2015171065A (ja) システムおよび方法
US10805664B2 (en) Wireless audio synchronization
JP2010219783A (ja) 通信端末、通信方法およびコンピュータプログラム
JP2007067826A (ja) 音声動画通信システム及びデータ通信端末装置
JP2010206555A (ja) 通信システム、通信端末、バッファ制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171017

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180410