JP2012195704A - 同期制御装置、同期制御方法、同期制御プログラム - Google Patents

同期制御装置、同期制御方法、同期制御プログラム Download PDF

Info

Publication number
JP2012195704A
JP2012195704A JP2011057275A JP2011057275A JP2012195704A JP 2012195704 A JP2012195704 A JP 2012195704A JP 2011057275 A JP2011057275 A JP 2011057275A JP 2011057275 A JP2011057275 A JP 2011057275A JP 2012195704 A JP2012195704 A JP 2012195704A
Authority
JP
Japan
Prior art keywords
time
data
reproduction
sound data
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011057275A
Other languages
English (en)
Inventor
Hiroshi Sasage
泰士 捧
Noriaki Murata
憲明 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2011057275A priority Critical patent/JP2012195704A/ja
Publication of JP2012195704A publication Critical patent/JP2012195704A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】異なる装置各々で再生する同じデータを同期させて、装置各々で同じ再生箇所を表示させる同期制御装置、同期制御方法、同期制御プログラムを提供する。
【解決手段】第2の回線を介して受信した第1の端末で再生された配信データの第1の音データと、サーバから配信される配信データの第2の端末で再生された第2の音データとを比較し、第1の音データと第2の音データに一致する期間があるか否かを検出し、一致する期間がある場合、第2の音データの一致する期間の始まりと、第1の音データの一致する期間の始まりのずれている時間を求め、その時間に応じて第1の端末と第2の端末で出力するデータの同期させる、同期制御装置、同期制御方法、同期制御プログラムである。
【選択図】図8

Description

本発明は、異なる装置で再生する同じデータを同期させる同期制御装置、同期制御方法、同期制御プログラムに関する。
従来、コールセンタのオペレータが顧客からの製品の説明、操作、故障などの問合わせなどがあったとき、サーバから配信された問合せに関する動画などを見ながらオペレータが顧客に説明をすることがある。そのような場合、顧客とオペレータはそれぞれ異なる端末を用いて同じ動画を見ながら通話をする。しかし、顧客端末とオペレータ端末に動画などが表示されている場合に、顧客端末とオペレータ端末とに表示される画面がずれることがある。顧客端末とオペレータ端末とで異なる画面が表示されると、オペレータは顧客の問合わせに対して的確な説明や回答を行えなくなる。よって、顧客端末とオペレータ端末で再生の同期を取ることが望まれている。
例えば、サーバがオペレータ端末から顧客端末に送信をしている動画と同じ動画の送信要求を受けた際に、顧客端末で再生している時間帯の動画をオペレータ端末に送信して、オペレータ端末と顧客端末それぞれの画面の同期を取る方法が開示されている。しかし、上記方法では通信回線の混雑などで一方の端末への通信速度が遅くなり、一方の端末で再生待ちが発生すると、双方の端末の同期が取れなくなる。
また、関連する技術として、例えば、2つのメディア間の同期を、メディア対時刻の同期付けではなく、メディア対メディアの同期付けをする方法が知られている。そのメディア対メディアの同期付け方法によれば、一方のメディアの特定ポイントを基準にして、他方のメディアの特定ポイントを所定量だけずらすことにより、設定された同期ポイントでのみ同期を取ることが示されている。
特開平05−236297号公報
本発明は、異なる装置各々で再生する同じデータを同期させて、装置各々で同じ再生箇所を出力させる同期制御装置、同期制御方法、同期制御プログラムを提供することを目的とする。
実施の態様のひとつである同期制御装置は、音記憶部、再生部、動画記録部、算出部、調整部を備えている。
音記憶部は、サーバから第1の回線を介して配信される配信データを受信して再生する第1の端末が、上記配信データを再生すると発生する音を入力装置から入力し、入力した前記音を第2の回線を介して所定の間隔で受信して第1の音データにする。そして、上記第1の音データと受信日時または受信を開始してから経過した受信時間に関連付けて、記憶部に記憶する。
再生部は、上記サーバまたは異なるサーバから配信される上記配信データに含まれる複数の動画データを順次再生する。
動画記録部は、上記再生部で再生した上記動画データと、上記動画データに関連する第2の音データと、上記動画データを再生した再生日時または配信データの再生開始から経過した再生時間と、を関連付けて上記記憶部に記憶する。
算出部は、上記第1の音データと、第2の音データとを比較し、上記第1の音データと上記第2の音データに一致するデータがあれば、上記記憶部を参照して、一致をする第1の音データに関連付けられている受信日時または受信時間と、一致する第2の音データに関連付けられている再生日時または再生時間とを取得する。続いて、算出部は、一致する期間がある場合、上記第2の音データの一致する期間の始まりの上記再生日時または上記再生時間より、上記第1の音データの一致する期間の始まりの上記受信日時または上記受信時間が後である場合に、上記第2の音データの一致する期間と上記第1の音データの一致する期間のずれている時間を求め第1の時間差とする。
算出部は、上記第2の音データの一致する期間の始まりの上記再生日時または上記再生時間より、上記第1の音データの一致する期間の始まりの上記受信日時または上記受信時間が前である場合に、上記第2の音データの一致する期間と上記第1の音データの一致する期間のずれている時間を求め第2の時間差とする。
調整部は、上記第1の時間差があるとき、上記第1の時間差に応じて上記再生日時または上記再生時間に対応する上記動画記録部の動画データから順に上記再生部で再生する通知を上記再生部に出力する。調整部は、上記第2の時間差があるとき、上記第2の時間差分後の上記再生日時または上記再生時間に対応する動画データから順に再生する通知を上記サーバまたは上記異なるサーバに対して通知をする。
実施の態様によれば、異なる装置で再生する同じデータを同期させて、装置各々で同じ再生箇所を出力させることができるという効果を奏する。
通話支援をするシステムの一実施例を示す図である。 サーバのハードウェアの一実施例を示す図である。 サーバの機能の一実施例を示す図である。 動画情報のデータ構造の一実施例を示す図である。 配信状況情報のデータ構造の一実施例を示す図である。 オペレータ情報と顧客情報のデータ構造の一実施例を示す図である。 オペレータ端末のハードウェアの一実施例を示す図である。 オペレータ端末の機能の一実施例を示す図である。 オペレータ動画情報と顧客音情報のデータ構造の一実施例を示す図である。 顧客端末のハードウェアの一実施例を示す図である。 顧客端末の一実施例を示すブロック図である。 同期制御動作の一実施例を示すフロー図である。 同期制御動作の一実施例を示すフロー図である。 オペレータ端末より顧客端末の動画が遅れている場合に、動画を同期させる一実施例を示すタイムチャートである。 顧客端末よりオペレータ端末の動画が遅れている場合に、動画を同期させる一実施例を示すタイムチャートである。
以下図面に基づいて、実施形態について詳細を説明する。
実施形態1について説明する。図1は、通話支援をするシステムの一実施例を示す図である。図1のシステムは、サーバ1、顧客端末2(第1の端末)、同期制御機能を有するオペレータ端末3、顧客端末4(入力装置)を有し、ネットワーク5によって接続されている。サーバ1と顧客端末2はインターネットなどの公衆回線や専用回線などのネットワーク5と接続されている。サーバ1とオペレータ端末3は、例えば、コールセンタ内でネットワークを介して接続されている。また、コールセンタとは別の場所に設けられたサーバ1とコールセンタ内のオペレータ端末3がネットワーク5と接続されていてもよい。
サーバ1は、例えば、コールセンタなどに配置されている。また、サーバ1は顧客の用いる顧客端末2から動画データ配信要求を受信すると、要求された動画に対応するストリーミング再生可能な配信データを顧客端末2に配信する。ストリーミング再生可能な配信データは、複数の動画データ(パケット)を有し、動画データは画像データ、音データ、再生時間情報、その他の各種情報を有している。ストリーミング再生可能なデータは、例えば、Moving Picture Experts Group(MPEG)などの技術で用いられるデータである。また、動画配信にはストリーミングサーバを用いることが考えられる。再生時間情報は、動画データが再生され出力される時間を示す情報である。例えば、画像データが圧縮されている場合に、画像データをデコードして復号器から出力する時間である。
また、配信データが配信されている回線6(第1の回線)と別の回線7(第2の回線)を介して、オペレータ端末3と通話をするための接続要求を、顧客端末4からサーバ1が受信すると、サーバ1は顧客端末4とオペレータ端末3とを通話可能な状態にする。続いて、顧客端末2が現在再生している動画とともに再生され、顧客端末2の出力部(スピーカなど)から出力される音楽、音声案内などを含む音を、顧客端末4の入力部(マイクなど)から取得して回線7を介してサーバ1が受信する。そして、サーバ1は受信した音を音データにして記憶部に記憶する。
ここで、音は顧客の声や環境音などをなるべく含まない動画を再生した際に発生する音楽や音声案内などだけであることが望ましい。そこで、顧客が既に動画を視聴している場合、または、通話を開始してから動画を視聴する場合において、顧客端末4とオペレータ端末3は通話が可能であっても、通話開始直後の一定期間は顧客とオペレータが会話できない状態にすることが考えられる。すなわち、顧客にオペレータの声が聞こえないようにして、顧客がオペレータと会話しにくい状態にし、一定期間に動画を再生した際に発生する音楽や音声案内などの音をなるべく受信する。なお、音は人間の耳には聞こえない非可聴音でもよく、その場合には顧客端末4が非可聴音も拾える入力部を有していればよい。
また、顧客端末4とオペレータ端末3が通話可能な状態になると、サーバ1はオペレータ端末3に該動画データを配信する。
オペレータ端末3は、サーバ1から動画データを受信すると、動画データを順に再生して動画を表示させるとともに、該動画データを再生して出力した日時または再生開始から経過した該動画データと再生して出力した時間とを関連付け、記憶部に記憶する。また、オペレータ端末3は、該動画データの音データが圧縮されている場合にはデコードし、該動画データと再生して出力した日時または再生開始から経過した該動画データを再生して出力した時間とを関連付け、記憶部に記憶する。
また、オペレータ端末3は、回線7を用い顧客端末4からサーバ1を介して受信した音楽や音声案内などを含む音データを、該音データを受信した日時または受信開始から経過した該音データを受信した時間と、を関連付けて記憶部に記憶する。
続いて、オペレータ端末3に配信された動画データに関連付けられている音データと、顧客端末4から回線7を介して受信した音データとを比較し、各音データの一致する期間を、オペレータ端末3が検出する。オペレータ端末3は、この期間各々に対応付けられている、動画データを再生して出力した日時または再生開始から経過した該動画データを再生して出力した時間と、音データを受信した日時または受信開始から経過した音データを受信した時間と、の差を求める。この差は、顧客端末2で表示されている動画と、オペレータ端末3で表示されている動画とが、ずれている時間を示している。
動画がずれる原因は、例えば、動画データを配信するサーバ1が顧客端末2とオペレータ端末3へ動画データを配信中に、回線6の混雑などで通信速度が変化して再生にずれが発生することが考えられる。また、顧客端末2とオペレータ端末3のデコード時間の違いによりずれが発生することが考えられる。
また、ずれを検出する方法は、例えば、音データ各々をパターンマッチング処理して、音データ各々の一致した期間を検出する。
続いて、オペレータ端末3はサーバ1から既に配信された動画データに関連付けられている音データに、顧客端末4から受信した音データと一致するデータがあれば、ずれている時間分、オペレータ端末3の動画再生を待機させる。あるいは、オペレータ端末3の動画を巻き戻しする。その結果、顧客端末2の再生がオペレータ端末3の再生より遅延をしている場合でも、顧客端末2とオペレータ端末3に表示する画面を同期させることができる。
また、オペレータ端末3はサーバ1から既に配信された動画データに関連付けられている音データに、顧客端末4から受信した音データと一致するデータがなければ、サーバ1から一致するデータが送信されてくるまでの時間差を求める。そして、サーバ1に対して求めた時間差分飛ばした位置から動画を送信するように要求する。その結果、オペレータ端末3の再生が顧客端末2の再生より遅延をしている場合でも、顧客端末2とオペレータ端末3に表示する画面各々を同期させることができる。
なお、サーバ1は、画面各々の同期が取れるとオペレータ端末3の出力部(ハンドセットのスピーカなど)に顧客端末4から送られてくる音が出力される状態にする。
上記に示すように動画の再生箇所を同期させることで、オペレータが顧客に説明をする際、顧客とオペレータが同じ動画の再生箇所を参照できるので、オペレータは顧客の問合わせに対して的確な説明や回答を行える。
顧客端末2は、サーバ1に動画データの要求をし、サーバ1から配信された動画を再生する。オペレータ端末3は、サーバ1から配信される顧客端末2で再生中の動画データを再生し、顧客端末4と通話が可能である。顧客端末4は、例えば、顧客が利用している電話機、Internet Protocol(IP)電話機、ソフトフォンなどである。
サーバ1について説明する。
図2は、サーバのハードウェアの一実施例を示す図である。サーバ1は、制御部201、記憶部202、記録媒体読取装置203、入出力インタフェース204(入出力I/F)、通信インタフェース205(通信I/F)などを備えている。また、上記各構成部はバス206によってそれぞれ接続されている。
制御部201は、後述する通信接続部301、動画配信部302、呼接続部303、特定部304などを有している。また、制御部201はCentral Processing Unit(CPU)、マルチコアCPU、プログラマブルなデバイス(Field Programmable Gate Array(FPGA)、Programmable Logic Device(PLD)など)を用いることが考えられる。
記憶部202は、後述する動画情報305、配信状況情報306、オペレータ情報307、顧客情報308などを記憶している。記憶部202は、例えばRead Only Memory(ROM)、Random Access Memory(RAM)などのメモリやハードディスクなどが考えられる。なお、記憶部202にはパラメータ値、変数値などのデータを記録してもよいし、実行時のワークエリアとして用いてもよい。上記動画情報305、配信状況情報306、オペレータ情報307、顧客情報308などは、テーブル以外の記憶方法であってもよく、ハードウェアとしてデータベースに記録されていてもよい。
記録媒体読取装置203は、制御部201の制御に従って記録媒体207に対するデータのリード/ライトを制御する。そして、記録媒体207に記録媒体読取装置203の制御で書き込まれたデータを記録させたり、記録媒体207に記録されたデータを読み取らせたりする。また、着脱可能な記録媒体207は、コンピュータで読み取り可能なnon-transitory(非一時的)な記録媒体として、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録装置には、ハードディスク装置(HDD)などがある。光ディスクには、Digital Versatile Disc(DVD)、DVD−RAM、Compact Disc Read Only Memory(CD−ROM)、CD−R(Recordable)/RW(ReWritable)などがある。光磁気記録媒体には、Magneto-Optical disk(MO)などがある。なお、記憶部202もnon-transitory(非一時的)な記録媒体に含まれる。
入出力インタフェース204には、入出力部208が接続され、利用者が入力した情報を受信し、バス206を介して制御部201に送信する。また、制御部201からの命令に従ってディスプレイの画面上に操作情報などを表示する。入出力部208の入力装置は、例えば、キーボード、ポインティングデバイス(マウスなど)、タッチパネルなどが考えられる。なお、入出力部208の出力部であるディスプレイは、例えば、液晶ディスプレイなどが考えられる。また、出力部はCathode Ray Tube(CRT)ディスプレイ、プリンタなどの出力装置であってもよい。
通信インタフェース205は、顧客端末2およびオペレータ端末3との間のLocal Area Network(LAN)接続やインターネット接続や無線接続を行うためのインタフェースである。また、通信インタフェース205は必要に応じ、他のコンピュータとの間のLAN接続やインターネット接続や無線接続を行うためのインタフェースである。また、他の装置に接続され、外部装置からのデータの入出力を制御する。
なお、サーバ1の動画配信機能を分けて動画配信サーバ(ストリーミングサーバ)などを用いた場合、動画配信サーバはコールセンタ内に設置するだけでなく、複数の異なる場所に分けて配置されていてもよい。また、顧客端末2とオペレータ端末に配信される動画が、異なる動画配信サーバから配信されてもよい。
制御部201と記憶部202について説明する。
図3は、サーバの機能の一実施例を示す図である。図3の制御部201は、通信接続部301、動画配信部302、呼接続部303、特定部304などを有している。
通信接続部301は、顧客端末2から動画データ配信要求を受信すると、動画データ配信要求を動画配信部302に転送する。また、動画配信部302が後述する動画情報305から取得した動画データ配信要求に含まれる顧客が要求している動画に対応する動画データを、通信接続部301が受信する。その後、通信接続部301は受信した動画データを、回線6を介して顧客端末2に配信する。
動画配信部302は、配信データをリアルタイムストリーム再生方式で顧客端末2とオペレータ端末3に配信する。また、配信データのファイル形式は、リアルタイムストリーム再生方式で再生可能なファイル形式であればよい。
動画配信部302は、動画情報305を参照して、動画データ配信要求で要求された動画データを取得して、通信接続部301を介して顧客端末2に動画データを配信する。動画情報305は、例えば、動画データを含むファイルとファイルを識別する情報が関連付けられて記録されている。図4は、動画情報のデータ構造の一実施例を示す図である。図4の動画情報401は、「配信データID」「動画データ記憶場所情報」などの情報を有している。「配信データID」には、動画データを識別する情報が記憶されている。本例では、配信データとして「001」「002」「003」・・・・が記憶されている。また、動画データを含むファイルの名称などが記憶されていてもよい。「動画データ記憶場所情報」には、記憶部202に記憶されている動画データの記憶位置が記憶されている。例えば、配信データに対応する動画データを含むファイルの記憶されている記憶位置が記憶されている。本例では、「U:¥製品1¥操作¥001_move.mpg」「U:¥製品2¥操作¥002_move.mpg」「U:¥製品3¥操作¥003_move.mpg」・・・・が記憶されている。「U:」は、記憶部202のドライブがUドライブであることを示し、「¥フォルダ製品1」「¥フォルダ製品2」「¥フォルダ製品3」「¥操作」は、フォルダ名を示している。「001_move.mpg」「002_move.mpg」「003_move.mpg」は動画データを含むファイルを示している。「001_move.mpg」は、「製品1」フォルダの下の階層にある「操作」フォルダの中の記憶されている。「002_move.mpg」は、「製品2」フォルダの下の階層にある「操作」フォルダの中の記憶されている。「003_move.mpg」は、「製品3」フォルダの下の階層にある「操作」フォルダの中の記憶されている。
また、動画配信部302は、現在配信中の顧客端末2を識別する配信先顧客IDと、現在配信している配信データを識別する配信データIDと、現在配信している配信データの動画データの再生時間情報とを関連付けて、配信状況情報306に記憶する。
また、動画配信部302は、配信状況情報306を参照して現在顧客端末2に配信中の動画データを、通信接続部301を介してオペレータ端末3に配信する。動画配信部302は、後述する特定部304から顧客端末2とオペレータ端末3が通話可能な状態であることを通知されると、オペレータ端末3への配信データの配信を開始する。また、動画配信部302は、後述する特定部304から顧客端末2を利用している顧客を識別する情報と、オペレータ端末3を利用しているオペレータを識別する情報を取得する。その際、動画配信部302は、配信するオペレータ端末3の配信先オペレータIDと、該オペレータ端末3に対応する顧客端末2に配信中の配信データの配信データIDと該配信データの動画データの再生時間情報とを関連付けて、配信状況情報306に記憶する。ただし、顧客端末2に配信している配信データを調整して同期をとる場合には、オペレータ端末3に関する配信先オペレータID、配信データID、再生時間情報は必要ない。
オペレータ端末3に配信している配信データを調整して同期をとる場合には、動画配信部302はオペレータ端末3から配信する動画データを調整する情報(同期情報)を取得し、オペレータ端末3へ配信する動画データの配信箇所を変更する。そして、変更した箇所から動画データをオペレータ端末3へ配信する。その際、動画配信部302は、配信状況情報306のオペレータ端末3に対応する再生時間情報も変更する。
図5は、配信状況情報のデータ構造の一実施例を示す図である。図5の配信状況情報501は、「配信先顧客ID」「配信データID」「再生時間情報」を有している。「配信先顧客ID」には、配信データが配信されている顧客を識別する情報が記憶されている。本例では、顧客IDとして「CS001」「CS002」「CS003」・・・・が記録されている。「配信データID」には、配信データを識別する情報が配信先顧客IDに関連付けられて記憶されている。本例では、配信データIDとして「001」「002」「003」・・・・が記憶されている。また、動画データを含むファイルの名称などが記憶されていてもよい。「再生時間情報」には、動画データが再生され出力される時間を示す再生時間情報が、配信データIDに関連付けられて記憶されている。本例では、再生時間情報として、「001_cs_now」「002_cs_now」「003_cs_now」・・・・が記憶されている。
図5の配信状況情報502は、「配信先オペレータID」「配信データID」「再生時間情報」を有している。「配信先オペレータID」には、配信データが配信されている顧客に対応するオペレータを識別する情報が記憶されている。本例では、配信先オペレータIDとして「OP001」「OP102」「OP033」・・・・が記憶されている。「配信データID」には、配信データを識別する情報が配信先オペレータIDに関連付けられて記憶されている。本例では、配信データIDとして「001」「002」「003」・・・・が記憶されている。また、動画データを含むファイルの名称などが記憶されていてもよい。「再生時間情報」には、オペレータ端末3に配信される配信データの再生時間情報が、配信データIDに関連付けられて記憶されている。本例では、再生時間情報として、「001_op_now」「002_op_now」「003_op_now」・・・・が記憶されている。
同期情報は、オペレータ端末3にサーバ1から既に配信された動画データに関連付けられている音データに、顧客端末4から受信した音データと一致するデータがない場合に、サーバ1から一致するデータが送信されてくるまでの時間差を求めた情報を有している。また、同期情報は、サーバ1に対して求めた時間差分飛ばした位置から動画を送信させる要求である。その結果、オペレータ端末3の再生が顧客端末2の再生より遅延をしている場合でも、顧客端末2とオペレータ端末3に表示する画面を同期させることができる。
呼接続部303は、例えば、顧客端末4から呼を受信すると記憶部202に記憶されているオペレータ情報307の通話状況を参照して、通話中でないオペレータを抽出する。例えば、オペレータが通話中であるか通話中でないかを示す情報を参照して、通話中でないオペレータを抽出する。通話中でないオペレータが抽出された場合は、呼接続部303は抽出したオペレータ端末3と呼を受信した顧客端末4とを接続して、通話可能な状態にする。その後、呼接続部303は現在動画配信中の顧客を特定するために、例えば、呼接続部303が顧客の電話番号を取得し、取得した電話番号を特定部304に送信する。
また、抽出したオペレータ端末3と顧客端末4との通話が終了したことを検出すると、呼接続部303は通話を終えたことを動画配信部302、特定部304に通知する。また、オペレータが通話中でないことをオペレータ情報307に記憶する。
図6は、オペレータ情報と顧客情報のデータ構造の一実施例を示す図である。図6のオペレータ情報601は、「オペレータID」「通話状態」を有している。「オペレータID」には、オペレータを識別する情報が記憶されている。本例では、オペレータIDとして「OP001」「OP002」「OP003」・・・・が記憶されている。「通話状態」には、オペレータが通話しているか否かを示す情報が記憶されている。本例では、オペレータ端末と顧客端末が接続され、通話状態である場合、オペレータIDに関連付けられて「通話中」が記憶される。また、オペレータ端末と顧客端末が接続されていない状態である場合、オペレータIDに関連付けられて「空き」が記憶される。
特定部304は、呼接続部303から送信された顧客の電話番号を受信する。続いて、特定部304は、後述する顧客情報308を参照し、受信した電話番号を用いて一致する顧客IDを特定する。ただし、取得した電話番号に顧客IDが関連付けられていない場合があるので、そのときは、オペレータが顧客に現在見ている動画について問合せをして、オペレータ端末3から直接動画を選択してもよい。また、オペレータが顧客に登録時の電話番号について問合せをして、オペレータ端末3から直接電話番号を入力してもよい。特定部304は、顧客端末2とオペレータ端末3が通話可能な状態であること、顧客IDと、オペレータIDとを動画配信部302に通知し、オペレータ端末3への配信データの配信を開始する指示を通知する。
顧客情報308は顧客を識別する情報と顧客が予め登録した電話番号などが記録されている。図6の顧客情報602は、「顧客ID」「電話番号」などの情報を有している。「顧客ID」には、顧客を識別する情報が記憶されている。本例では、顧客IDとして「CS001」「CS002」「CS003」・・・・が記憶されている。「電話番号」には、顧客の電話番号が記憶されている。本例では、電話番号として「080−3456−06XX」「090−1234−56XX」「070−4567−89XX」・・・・が記憶されている。
オペレータ端末3について説明する。
図7は、オペレータ端末のハードウェアの一実施例を示す図である。オペレータ端末3は、Personal Computer(PC)などを用いることが考えられる。オペレータ端末3は、制御部701、記憶部702、記録媒体読取装置703、入出力インタフェース704(入出力I/F)、通信インタフェース705(通信I/F)などを備えている。また、上記各構成部はバス706によってそれぞれ接続されている。制御部701は、Central Processing Unit(CPU)、マルチコアCPU、プログラマブルなデバイス(Field Programmable Gate Array(FPGA)、Programmable Logic Device(PLD)など)を用いることが考えられる。制御部701は、後述する再生部801、動画記録部802、音記憶部803、算出部804、調整部805などを有している。また、制御部701はオペレータ端末3の各部を制御する。また、制御部701は、サーバ1から送信された動画データを再生して表示する制御をする。また、制御部701は顧客端末4との通話を制御する機能を有する。なお、動画データのずれを迅速に検出して、動画を同期させることが求められるため、制御部201には各処理部が並列に動作でき、各処理部の演算結果を連携して用いる構成であることが望ましい。
図8は、オペレータ端末の機能の一実施例を示す図である。
再生部801は、通信インタフェース705を介してサーバ1から配信される配信データを受信し、動画データを順次再生して、表示部808に動画を表示させる。また、再生部801はオペレータ動画情報806に動画データ各々を再生した日時または再生開始から経過した時間と、動画データの音データを再生したデータを関連付けて記憶する。オペレータ動画情報806は、再生部801で再生した動画データの日時または再生開始から経過した時間と、動画記録部802により記録される該動画データとを関連付けて記憶する。図9は、オペレータ動画情報と顧客音情報のデータ構造の一実施例を示す図である。図9のオペレータ動画情報901は、「日時」「オペレータ音データ」「オペレータ動画データ」を有している。「日時」には、再生した動画データの日時または再生開始から経過した時間が記憶されている。本例では、「time1」「time2」「time3」・・・・が記憶されている。「オペレータ音データ」には、再生部801により再生された動画データの音データが記録される。本例では、音データとして「op_sound1」「op_sound2」「op_sound3」・・・・が記憶されている。「オペレータ動画データ」には、再生した動画データの日時または再生開始から経過した時間に関連付けられて、動画データが動画記録部802により記憶される。
また、再生部801は調整部805から再生日時が通知されると、オペレータ動画情報806を参照して、該再生日時に対応する動画データから再生を始める。
動画記録部802は、再生部801により再生され出力される動画データに対応する動画データを、再生日時または再生開始から経過した時間に関連付けて記憶される。
音記憶部803は、サーバ1から顧客端末2に配信されている配信データを再生した際に出力される音楽、音声案内などの音を、顧客端末4(例えば、電話など)からサーバ1を介して所定の間隔で取得し、音データとして受信する。そして、音記憶部803は受信した音データを受信した日時または受信開始から経過した時間に関連付けて、顧客音情報807に記憶する。
顧客音情報807は、音記憶部803が受信した音声データを受信した日時または受信開始から経過した時間に関連付けて記憶されている。図9の顧客音情報902は、「日時」「顧客音データ」を有している。「日時」には、受信した音データの日時または再生開始から経過した時間が記憶されている。本例では、「time_a」「time_b」「time_c」・・・・が記憶されている。「顧客音データ」には、音記憶部803で受信した音データが記憶される。本例では、音データとして「cs_data1」「cs_data2」「cs_data3」・・・・が記憶されている。
算出部804は、オペレータ動画情報806に記憶されている音データと、顧客音情報807に記憶されている音データとを比較し、後述する音パターンマッチング処理をして、一致する期間を検出する。続いて、算出部804は検出した音データ各々の一致する箇所に関連付けられている日時を、オペレータ動画情報806と顧客音情報807からそれぞれ取得する。そして、取得した日時それぞれを用いて時間差を求め、求めた時間差を算出部804が調整部805に送信する。
算出部804は、オペレータ動画情報806の音データの一致する期間の始まりの再生日時または再生時間より、顧客音情報807の音データの一致する期間の始まりの受信日時または受信時間が後であるか判定する。後ろである場合に、算出部804は、オペレータ動画情報806の音データの一致する期間と顧客音情報807の音データの一致する期間のずれている時間(第1の時間差)を求める。
また、算出部804は、オペレータ動画情報806の音データの一致する期間の始まりの再生日時または再生時間より、顧客音情報807の音データの一致する期間の始まりの受信日時または受信時間が前であるかを判定する。前である場合に、オペレータ動画情報806の音データの一致する期間と顧客音情報807の音データの一致する期間のずれている時間(第2の時間差)を求める。
調整部805は、上記時間差を算出部804から取得し、時間差に応じて、オペレータ端末3で再生する動画データを決める。すなわち、調整部805は、サーバ1から既に配信された動画データに関連付けられている音データに、顧客端末4から受信した音データと一致するデータがある場合に、ずれている時間差分、オペレータ端末3において時間差分待機する。その後、再生部801が再生を再開する通知を再生部801に出力してもよい。あるいは、オペレータ端末3において再生している動画を巻き戻す通知を再生部801に出力してもよい。例えば、調整部805は、オペレータ動画情報901の「日時」を参照して、現在再生している動画データに対応する再生日時を選択し、選択した再生日時から時間差分前の再生日時を求める。そして、調整部805は該再生日時を再生部801に送信する。
また、調整部805は、サーバ1から既に配信された音データと、顧客端末4から受信した音データの一致を算出部が確認できなかったら、一旦サーバからの音データをさらに蓄積し、一致を確認できるまで繰り返します。その結果(オペ端末側が遅延していたら)調整部805は、時間差分を飛ばして動画を配信させる通知(同期情報)をします。
すなわち、調整部805は、時間差分後の再生日時に対応する動画データから順に配信させるための通知を、サーバ1に送信する。
同期情報は、例えば、オペレータID、配信データID、時間差を含む情報である。
記憶部702は、例えばRead Only Memory(ROM)、Random Access Memory(RAM)などのメモリやハードディスクなどが考えられる。記憶部702は、オペレータ動画情報806、顧客音情報807を有している。なお、記憶部702にはパラメータ値、変数値などのデータを記憶してもよいし、実行時のワークエリアとして用いてもよい。また、記憶部702は動画データと、該動画データを再生した日時または通話開始からの経過時間とを関連付けて記憶してもよい。
記録媒体読取装置703は、制御部701の制御に従って記録媒体707に対するデータのリード/ライトを制御する。そして、記録媒体707に記録媒体読取装置703の制御で書き込まれたデータを記憶させたり、記録媒体707に記憶されたデータを読み取らせたりする。また、着脱可能な記録媒体707は、コンピュータで読み取り可能なnon-transitory(非一時的)な記録媒体として、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録装置には、ハードディスク装置(HDD)などがある。光ディスクには、Digital Versatile Disc(DVD)、DVD−RAM、Compact Disc Read Only Memory(CD−ROM)、CD−R(Recordable)/RW(ReWritable)などがある。光磁気記録媒体には、Magneto-Optical disk(MO)などがある。なお、記憶部702もnon-transitory(非一時的)な記録媒体に含まれる。
入出力インタフェース704には、入出力部708が接続され、利用者が入力した情報を受信し、バス706を介して制御部701に送信する。また、制御部701からの命令に従ってディスプレイの画面上に操作情報などを表示する。入出力部708の入力装置は、例えば、キーボード、ポインティングデバイス(マウスなど)、タッチパネルなどが考えられる。なお、入出力部708の出力部であるディスプレイは、例えば、液晶ディスプレイなどが考えられる。また、出力部はCathode Ray Tube(CRT)ディスプレイ、プリンタなどの出力装置であってもよい。
なお、入出力部708には、オペレータの音声を入力する入力装置(マイクなど)、顧客の音声などを出力する出力装置(ヘッドホン、イヤホン)などが設けられている。また、入力装置と出力装置は、ハンドセットなどであってもよい。なお、入力装置により入力されるオペレータの音声は回線7を介して顧客端末4の音声出力部に送られ、顧客の音声は、入出力部708の出力装置に出力される。
通信インタフェース705は、サーバ1および顧客端末2との間のLocal Area Network(LAN)接続やインターネット接続や無線接続を行うためのインタフェースである。また、通信インタフェース705は必要に応じ、他のコンピュータとの間のLAN接続やインターネット接続や無線接続を行うためのインタフェースである。また、他の装置に接続され、外部装置からのデータの入出力を制御する。
このようなハードウェア構成を有するコンピュータを用いることによって、後述する各種処理機能が実現される。その場合システムが有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体707に記録しておくことができる。
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD、CD−ROMなどの記録媒体707が販売される。また、プログラムをサーバコンピュータの記憶装置に記録しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
プログラムを実行するコンピュータは、例えば、記録媒体707に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶部702に記録する。そして、コンピュータは、自己の記憶部702からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、記録媒体707から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
顧客端末2について説明する。
図10は、顧客端末のハードウェアの一実施例を示す図である。顧客端末2は、Personal Computer(PC)などを用いることが考えられる。顧客端末2は、制御部1001、記憶部1002、記録媒体読取装置1003、入出力インタフェース1004(入出力I/F)、通信インタフェース1005(通信I/F)などを備えている。また、上記各構成部はバス1006によってそれぞれ接続されている。制御部1001は、Central Processing Unit(CPU)やプログラマブルなデバイス(Field Programmable Gate Array(FPGA)、Programmable Logic Device(PLD)など)を用いることが考えられる。制御部1001は、顧客端末2の各部を制御する。また、制御部1001は動画データをリアルタイムストリーム再生方式で再生することができる。
記憶部1002は、例えばRead Only Memory(ROM)、Random Access Memory(RAM)などのメモリやハードディスクなどが考えられる。なお、記憶部1002にはパラメータ値、変数値などのデータを記録してもよいし、実行時のワークエリアとして用いてもよい。また、記憶部1002はストリーム再生するために動画データを一時記憶し、再生されると動画データは消去される。
記録媒体読取装置1003は、制御部1001の制御に従って記録媒体1007に対するデータのリード/ライトを制御する。そして、記録媒体1007に記録媒体読取装置1003の制御で書き込まれたデータを記録させたり、記録媒体1007に記録されたデータを読み取らせたりする。また、着脱可能な記録媒体1007は、コンピュータで読み取り可能なnon-transitory(非一時的)な記録媒体として、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録装置には、ハードディスク装置(HDD)などがある。光ディスクには、Digital Versatile Disc(DVD)、DVD−RAM、Compact Disc Read Only Memory(CD−ROM)、CD−R(Recordable)/RW(ReWritable)などがある。光磁気記録媒体には、Magneto-Optical disk(MO)などがある。なお、記憶部1002もnon-transitory(非一時的)な記録媒体に含まれる。
入出力インタフェース1004には、入出力部1008が接続され、利用者が入力した情報を受信し、バス1006を介して制御部1001に送信する。また、制御部1001からの命令に従ってディスプレイの画面上に操作情報などを表示する。入出力部1008の入力装置は、例えば、キーボード、ポインティングデバイス(マウスなど)、タッチパネルなどが考えられる。なお、入出力部1008の出力部であるディスプレイは、例えば、液晶ディスプレイなどが考えられる。また、出力部はCathode Ray Tube(CRT)ディスプレイ、プリンタなどの出力装置であってもよい。
通信インタフェース1005は、サーバ1およびオペレータ端末3との間のLocal Area Network(LAN)接続やインターネット接続や無線接続を行うためのインタフェースである。また、通信インタフェース1005は必要に応じ、他のコンピュータとの間のLAN接続やインターネット接続や無線接続を行うためのインタフェースである。また、他の装置に接続され、外部装置からのデータの入出力を制御する。
図11は、顧客端末の一実施例を示すブロック図である。図11に示す顧客端末2の制御部1001は、動画依頼部1101、動画受信部1102、動画再生部1103などを有している。また、図11に示す顧客端末2に接続される入出力部1008は、図11に示す入力部1104、表示部1105を有している。顧客は、表示部1105に表示される動画選択画面を見て、マウスなどの入力部1104を用いて、動画を選択する。動画が選択されると、動画依頼部1101は、サーバ1に動画を要求するために動画データ配信要求を生成する。続いて、動画データ配信要求は、動画依頼部1101から通信インタフェース1005を介して、サーバ1に送信される。次に、顧客端末2の動画受信部1102はサーバ1から動画データを取得すると、取得した動画データを例えば記憶部1002に一時記憶する。動画再生部1103は、一時記憶した動画データを取得して、動画データを再生する。表示部1105は、動画再生部1103が再生した出力を受信して動画を表示する。
顧客端末4は、例えば、電話、IP電話、ソフトフォンなどが考えられる。また、顧客端末4は、図10に示した装置に電話、IP電話、ソフトフォンなどのいずれかの機能を持たせた装置でもよい。
オペレータ端末の動作について説明する。
図12、図13は、同期制御動作の一実施例を示すフロー図である。図12の例では、顧客が既に顧客端末2を用いてサーバ1から配信された動画を見ている状況で、顧客からオペレータへ動画を配信している回線とは別の回線を用いて問合せがあった場合を想定している。すなわち、動画配信部302が通信接続部301を介して動画データを、サーバ1から顧客端末2に配信している。なお、顧客が動画を見るよりも先に、顧客からオペレータへの問合せがある場合には、オペレータ端末3と顧客端末4とが接続された後、別の回線を用いてサーバ1から顧客に動画が配信されることも想定される。また、呼接続部303が顧客端末4から送信される呼(顧客端末4の電話番号などを含む情報)を受信し、オペレータ端末3と顧客端末4を接続する。次に、呼接続部303は受信した情報から顧客の電話番号を特定する。次に、呼接続部303は特定した電話番号を特定部304に送信する。特定部304が特定した電話番号を用いて顧客情報308を検索して顧客IDを特定する。ただし、顧客IDと電話番号が一致しない場合には、オペレータは顧客から顧客IDなどを直接聞いて、オペレータ端末3の入出力部708を用いて直接顧客IDを入力し、特定部304が特定する顧客IDとしてもよい。次に、顧客端末2とオペレータ端末3が通話可能な状態であること、顧客IDと、オペレータIDとを、特定部304は動画配信部302に通知し、オペレータ端末3への配信データの配信を開始する指示を通知する。続いて、動画配信部302が配信データの配信を開始する指示を受信すると、オペレータ端末3へ顧客端末2と同じ動画データが送信される。
ステップS1201では、再生部801が通信インタフェース705を介して動画データを受信する。
ステップS1202では、再生部801が受信した動画データ各々を順次再生して、表示部808に動画を表示させる。また、再生部801はオペレータ動画情報806に動画データ各々を再生した日時または再生開始から経過した時間と、動画データの音データを再生したデータを関連付けて記憶する。また、動画記録部802は、再生部801により再生され出力される動画データに対応する動画データを、再生日時または再生開始から経過した時間に関連付けて、オペレータ動画情報806に記憶する。
ステップS1203では、音記憶部803がサーバ1から顧客端末2に配信されている配信データを再生した際に出力される音楽、音声案内などの音を、顧客端末4からサーバ1を介して受信し、音声データとして取得する。音記憶部803は、取得した音声データを受信した日時または受信開始から経過した時間に関連付けて、顧客音情報807に記憶する。
ステップS1204では、算出部804が顧客電話からの音データと、オペレータ端末に送信された動画データの音データと、を音パターンマッチング処理する。
ステップS1205では、算出部804が音データ各々の一致する期間を検出できたか否かを判定し、一致した期間が検出された場合にはステップS1206(Yes)に移行し、一致した期間が検出されない場合には図13のステップS1211(No)に移行する。すなわち、算出部804は、サーバ1から既に配信された動画データに関連付けられている音データに、顧客端末4から受信した音データと一致するデータがある場合にステップS1206に移行する。また、算出部804は、サーバ1から既に配信された音データに、顧客端末4から受信した音データと一致するデータがなければ、図13のステップS1211に移行する。
ステップS1206では、算出部804が検出した音データ各々の一致する箇所に関連付けられている再生日時と受信日時各々を、オペレータ動画情報806と顧客音情報807からそれぞれ取得する。ただし、再生日時と受信日時は一致することが少ないため、例えば、受信日時を基準に、該基準とした受信日時に最も近い再生日時を選択することが考えられる。ただし、再生日時と受信日時の取得の仕方は上記に限定されるものではなく、再生日時を基準とし、該基準とした再生日時に最も近い受信日時を選択してもよい。
ステップS1207では、算出部804が取得した再生日時と受信日時各々を用いて時間差を求め、求めた時間差を調整部805に送信する。
ステップS1208では、調整部805がずれている時間差分、オペレータ端末3の動画再生を待機させる。あるいは、オペレータ端末3において再生している動画を巻き戻しする。例えば、調整部805は、オペレータ動画情報901の「日時」を参照して、現在再生している動画データに対応する再生日時を選択し、選択した再生日時から時間差分前の再生日時を求める。そして、調整部805は該再生日時を再生部801に送信する。
ステップS1209では、再生部801が調整部805から再生日時が通知されると、オペレータ動画情報806を参照して、該再生日時に対応する動画データから再生を始める。その後、ステップS1210に移行する。
図13のステップS1211では、顧客音情報807に記憶されている音データのレベルが所定の値より小さいとき、音記憶部803が受信音量を変更してもよい。また、音データを取得し直してもよい。
ステップS1212では、オペレータ音情報806と顧客音情報807にさらに音データが記憶されるまで一定期間待つ。
ステップS1213では、算出部804が顧客からの音データと、前の音パターンマッチング処理以降に記録した動画データの音データと、を音パターンマッチング処理する。
ステップS1214では、算出部804が音データ各々の一致する期間を検出できたか否かを判定し、一致した期間が検出された場合にはステップS1215(Yes)に移行し、一致した期間が検出されない場合には図13のステップS1204(No)に移行する。すなわち、算出部804は、サーバ1から既に配信された音データに、顧客端末4から受信した音データと一致するデータがあればステップS1215に移行し、一致するデータがなければ図12のステップS1204に移行する。
ステップS1215では、算出部804が検出した音データ各々の一致する箇所に関連付けられている再生日時と受信日時各々を、オペレータ動画情報806と顧客音情報807からそれぞれ取得する。ただし、再生日時と受信日時は一致することが少ないため、例えば、受信日時を基準に、該基準とした受信日時に最も近い再生日時を選択することが考えられる。ただし、再生日時と受信日時の取得の仕方は上記に限定されるものではなく、再生日時を基準とし、該基準とした再生日時に最も近い受信日時を選択してもよい。
ステップS1216では、ステップS1215で取得した動画データの音データの再生日時と、ステップS1215で取得した顧客からの音データの受信日時との時間の差を算出部804が求め、求めた時間差を調整部805に送信する。
ステップS1217では、調整部805がサーバ1から一致する音データが送信されるまでの時間差分飛ばして動画を配信させるためにオペレータID、配信データID、時間差を含む同期情報を、サーバ1に送信する。その後、ステップS1210に移行する。
サーバ1は、同期情報のオペレータID、配信データIDと配信状況情報306を用いて、オペレータと通話中の顧客に配信中の配信データと動画データを特定する。次に、特定した動画データの再生時間情報と同期情報の時間差を用いて、特定した動画データを基準に、基準から時間差分飛ばした位置にある再生時間情報を有する動画データを検出する。ただし、特定した動画データの再生時間情報の示す時間から時間差を引いた時間と、動画データの再生時間情報に示す時間が一致する動画データは少ないので、最も近い再生時間情報を有する動画データを特定する。そして、特定した動画データの位置〜順次オペレータ端末3へ動画データを配信する。
ステップS1210では、オペレータ端末3が顧客とオペレータとの通話を可能にする。
ステップS1201〜ステップS1217の処理について、図14、15を用いて説明する。図14は、オペレータ端末より顧客端末の動画が遅れている場合に、動画を同期させる一実施例を示すタイムチャートである。図14の縦軸には、上から(A)オペレータ端末3が同期された音データ、(B)オペレータ端末3が非同期の音データ、(C)顧客端末4の音データが表されている。図14の横軸には時間が示されている。
図14のタイミングt0は、サーバ1から配信された最初の動画データが再生された再生日時または再生開始から経過した時間を示している。図14のタイミングt1〜t4は再生日時または再生開始から経過した時間を示している。(A)(B)に示される波形は、オペレータ動画情報806に記憶されている再生日時または再生開始から経過した時間に関連付けられている音データの波形である。(C)に示される波形は、顧客音情報807に記憶されている受信日時または受信開始から経過した時間に関連付けられている音データの波形である。なお、図14のタイムチャートには動画データを示さないが、音声データと画像データは同期しているものとする。
算出部804は、図14のタイミングt1でオペレータ動画情報806の期間t0〜t1(tmuch)の音データと、顧客音情報807に記憶されている音データとを用いて算出部804が音パターンマッチング処理を行う。しかし、(C)の期間t0〜t1にはデータがないので、顧客音情報807に音データが記憶されるまで一定期間待つ。
また、タイミングt2で、音記憶部803はサーバ1を介して顧客端末4から送信されてくる音データと受信日時または受信開始から経過した時間と、を音記憶部803が顧客音情報807に記録し始める。
また、算出部804は、図14のタイミングt2でオペレータ動画情報806の期間t1〜t2(tmuch)の音データと、顧客音情報807に記憶されている音データとを用いて算出部804が音パターンマッチング処理を行う。しかし、期間t1〜t2にはデータがないので、顧客音情報807に音データが記憶されるまで一定期間待つ。
本例では、タイミングt2において、再生日時または再生開始から経過した時間と、受信日時または受信開始から経過した時間とを便宜上同じにしているが、同じでなくてもよい。
次に、図14のタイミングt3のタイミングで、算出部804が音パターンマッチング処理を行うと、(B)の期間t0〜t1の音データと(C)の期間t2〜t3の音データのパターンが一致している。つまり、(B)の期間t0〜t1の音データと(C)の期間t2〜t3の音データのパターンが一致しているので、t0とt2またはt1とt3を記憶部702に記憶する。
次に、算出部804がt2とt0の時間差tsubを求め、求めた時間差tsubを調整部805に送信する(ステップS1207)。
次に、調整部805は、オペレータ動画情報806を参照して、現在再生している動画データに対応する再生日時t4を選択し、選択した再生日時から時間差tsub分前の再生日時t2を求める。そして、調整部805は再生日時t2を再生部801に送信する。再生部801は、再生日時t2に関連付けられている動画データを、タイミングt4から再生する。すなわち、オペレータ端末3の画面には(A)のタイミングt4以降に示す音データ(波形)に対応する画像が表示されるので、タイミングt4以降でオペレータ端末3と顧客端末2で表示される動画が同期する。
図15は、顧客端末よりオペレータ端末の動画が遅れている場合に、動画を同期させる一実施例を示すタイムチャートである。図15の縦軸には、上から(A)オペレータ端末3が同期された音データ、(B)オペレータ端末3が非同期の音データ、(C)顧客端末4の音データが表されている。図15の横軸には時間が示されている。なお、図15のタイムチャートには動画データを示さないが、音声データと画像データは同期しているものとする。
図15のタイミングt0は、サーバ1から配信された最初の動画データが再生された再生日時または再生開始から経過した時間を示している。図15のタイミングt1〜t3は再生日時または再生開始から経過した時間を示している。
また、タイミングt0で、音記憶部803はサーバ1を介して顧客端末4から送信されてくる音データと受信日時または受信開始から経過した時間と、を音記憶部803が顧客音情報807に記録し始める。
(A)(B)に示される波形は、オペレータ動画情報806に記憶されている再生日時または再生開始から経過した時間に関連付けられている音データの波形である。(C)に示される波形は、顧客音情報807に記憶されている受信日時または受信開始から経過した時間に関連付けられている音データの波形である。
算出部804は、図15のタイミングt1でオペレータ動画情報806の期間t0〜t1の音データと、顧客音情報807に記憶されている音データとを用いて算出部804が音パターンマッチング処理を行う。しかし、(C)の期間t0〜t1には一致するデータがないので、顧客音情報807に音データが記憶されるまで一定期間待つ。
また、算出部804は、図15のタイミングt2で前のパターンマッチング処理をしたタイミング以降(期間t1以降)に記録した動画データの音データと、顧客音情報807に記憶されている音データとを用い、音パターンマッチング処理を行う。(C)の期間t0〜t2のmuch期間のデータと一致しているので、taとt1またはtbとt2を記憶部702に記憶する。
次に、算出部804がt2とtbの時間差tcを求め、求めた時間差tcを調整部805に送信する(ステップS1216)。
次に、調整部805がサーバ1から一致する音データが送信されるまでの時間差分飛ばして動画を配信させるために、オペレータID、配信データID、時間差tcを含む同期情報を、サーバ1に送信する。サーバ1は、同期情報を受信すると、顧客端末2へ配信中の動画データより時間差tc分前(分飛ばした位置)の動画データを特定し、動画データをオペレータ端末3に配信する。すなわち、期間td、teを飛ばして動画データをオペレータ端末3に配信する。オペレータ端末3の画面には(A)のタイミングt3以降に示す音データ(波形)に対応する画像が表示されるので、タイミングt3以降でオペレータ端末3と顧客端末2で表示される動画が同期する。
実施形態によれば、オペレータ端末3はサーバ1から既に配信された動画データに関連付けられている音データに、顧客端末4から受信した音データと一致するデータがあれば、ずれている時間分、オペレータ端末3の動画再生を待機させる。あるいは、オペレータ端末3の動画を巻き戻しする。その結果、顧客端末2の再生がオペレータ端末3の再生より遅延をしている場合でも、顧客端末2とオペレータ端末3に表示する画面を同期させることができる。
また、オペレータ端末3はサーバ1から既に配信された動画データに関連付けられている音データに、顧客端末4から受信した音データと一致するデータがなければ、サーバ1から一致するデータが送信されてくるまでの時間差を求める。そして、サーバ1に対して求めた時間差分飛ばした位置から動画を送信するように要求する。その結果、オペレータ端末3の再生が顧客端末2の再生より遅延をしている場合でも、顧客端末2とオペレータ端末3に表示する画面各々を同期させることができる。
また、上記に示すように動画の再生箇所を同期させることで、オペレータが顧客に説明をする際、顧客とオペレータが同じ動画の再生箇所を参照できるので、オペレータは顧客の問合わせに対して的確な説明や回答を行える。
また、本発明は、上記実施の形態に限定されるものでなく、本発明の要旨を逸脱しない範囲内で種々の改良、変更が可能である。
以上実施形態1に関し、更に以下の付記を開示する。
(付記1)
サーバから第1の回線を介して配信される配信データを受信して再生する第1の端末が、前記配信データを再生すると発生する音を入力装置から入力し、入力した前記音を第2の回線を介して所定の間隔で受信して第1の音データにして、受信日時または受信を開始してから経過した受信時間に関連付けて、記憶部に記憶する音記憶部と、
前記サーバまたは異なるサーバから配信される前記配信データに含まれる複数の動画データを順次再生する再生部と、
前記再生部で再生した前記動画データと、前記動画データに関連する第2の音データと、前記動画データを再生した再生日時または配信データの再生開始から経過した再生時間と、を関連付けて前記記憶部に記憶する動画記録部と、
前記第1の音データと、第2の音データとを比較し、前記第1の音データと前記第2の音データに一致するデータがあれば、前記記憶部を参照して、一致をする第1の音データに関連付けられている受信日時または受信時間と、一致する第2の音データに関連付けられている再生日時または再生時間とを取得し、
前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が後である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第1の時間差とし、
前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が前である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第2の時間差とする、算出部と、
前記第1の時間差があるとき、前記第1の時間差に応じて前記再生日時または前記再生時間に対応する前記動画記録部の動画データから順に前記再生部で再生する通知を前記再生部に出力し、前記第2の時間差があるとき、前記第2の時間差分後の前記再生日時または前記再生時間に対応する動画データから順に配信する通知を前記サーバまたは前記異なるサーバに対して通知をする、調整部と、
を備えることを特徴とする同期制御装置。
(付記2)
前記調整部は、
前記第1の時間差があるとき、前記第1の時間差分前の前記再生日時または前記再生時間に対応する前記動画記録部の動画データから順に前記再生部で再生する通知を前記再生部に出力することを特徴とする付記1に記載の同期制御装置。
(付記3)
前記調整部は、
前記第1の時間差があるとき、前記第1の時間差分待機した後、前記再生部が再生を再開する通知を前記再生部に出力することを特徴とする付記1に記載の同期制御装置。
(付記4)
コンピュータによって実行される同期制御方法であって、
サーバから第1の回線を介して配信される配信データを受信して再生する第1の端末が、前記配信データを再生すると発生する音を入力装置から入力し、入力した前記音を第2の回線を介して所定の間隔で受信して第1の音データにし、受信日時または受信を開始してから経過した受信時間に関連付け記憶部に記憶し、
前記サーバまたは異なるサーバから配信される前記配信データに含まれる複数の動画データを順次再生する再生部で再生した前記動画データと、前記動画データに関連する第2の音データと、前記動画データを再生した再生日時または配信データの再生開始から経過した再生時間と、を関連付け記憶部に記憶し、
前記第1の音データと、第2の音データとを比較し、前記第1の音データと前記第2の音データに一致するデータがあれば、前記記憶部を参照して、一致をする第1の音データに関連付けられている受信日時または受信時間と、一致する第2の音データに関連付けられている再生日時または再生時間とを取得し、
前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が後である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第1の時間差とし、
前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が前である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第2の時間差とし、
前記第1の時間差があるとき、前記第1の時間差に応じて前記再生日時または前記再生時間に対応する動画データから順に再生し、
前記第2の時間差があるとき、前記第2の時間差分後の前記再生日時または前記再生時間に対応する動画データから順に配信する通知を前記サーバまたは前記異なるサーバに対して通知をする、
ことを特徴とする同期制御方法。
(付記5)
前記第1の時間差があるとき、前記第1の時間差分前の前記再生日時または前記再生時間に対応する前記動画記録部の動画データから順に前記再生部で再生する通知を前記再生部に出力することを特徴とする付記4に記載の同期制御方法。
(付記6)
前記第1の時間差があるとき、前記第1の時間差分待機した後、前記再生部が再生を再開する通知を前記再生部に出力することを特徴とする付記4に記載の同期制御方法。
(付記7)
サーバから第1の回線を介して配信される配信データを受信して再生する第1の端末が、前記配信データを再生すると発生する音を入力装置から入力し、入力した前記音を第2の回線を介して所定の間隔で受信して第1の音データにし、受信日時または受信を開始してから経過した受信時間に関連付けて記憶部に記憶し、
前記サーバまたは異なるサーバから配信される前記配信データに含まれる複数の動画データを順次再生する再生部で再生した前記動画データと、前記動画データに関連する第2の音データと、前記動画データを再生した再生日時または配信データの再生開始から経過した再生時間と、を関連付け記憶部に記憶し、
前記第1の音データと、第2の音データとを比較し、前記第1の音データと前記第2の音データに一致するデータがあれば、前記記憶部を参照して、一致をする第1の音データに関連付けられている受信日時または受信時間と、一致する第2の音データに関連付けられている再生日時または再生時間とを取得し、
前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が後である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第1の時間差とし、
前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が前である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第2の時間差とし、
前記第1の時間差があるとき、前記第1の時間差に応じて前記再生日時または前記再生時間に対応する動画データから順に再生し、
前記第2の時間差があるとき、前記第2の時間差分後の前記再生日時または前記再生時間に対応する動画データから順に配信する通知を前記サーバまたは前記異なるサーバに対して通知をする、
処理をコンピュータに実行させることを特徴とする同期制御プログラム。
(付記8)
前記第1の時間差があるとき、前記第1の時間差分前の前記再生日時または前記再生時間に対応する前記動画記録部の動画データから順に前記再生部で再生する通知を前記再生部に出力する処理を前記コンピュータに実行させることを特徴とする付記7に記載の同期制御プログラム。
(付記9)
前記第1の時間差があるとき、前記第1の時間差分待機した後、前記再生部が再生を再開する通知を前記再生部に出力する処理を前記コンピュータに実行させることを特徴とする付記7に記載の同期制御プログラム。
1 サーバ
2 顧客端末
3 オペレータ端末
4 顧客端末(入力装置)
5 ネットワーク
6、7 回線
201 制御部
202 記憶部
203 記録媒体読取装置
204 入出力インタフェース
205 通信インタフェース
206 バス
207 記録媒体
208 入出力部
301 通信接続部
302 動画配信部
303 呼接続部
304 特定部
305 動画情報
306 配信状況情報
307 オペレータ情報
308 顧客情報
701 制御部
702 記憶部
703 記録媒体読取装置
704 入出力インタフェース
705 通信インタフェース
706 バス
707 記録媒体
708 入出力部
801 再生部
802 動画記録部
803 音記憶部
804 算出部
805 調整部
806 オペレータ動画情報
807 顧客音情報
808 表示部
1001 制御部
1002 記憶部
1003 記録媒体読取装置
1004 入出力インタフェース
1005 通信インタフェース
1006 バス
1007 記録媒体
1008 入出力部
1101 動画依頼部
1102 動画受信部
1103 動画再生部
1104 入力部
1105 表示部

Claims (5)

  1. サーバから第1の回線を介して配信される配信データを受信して再生する第1の端末が、前記配信データを再生すると発生する音を入力装置から入力し、入力した前記音を第2の回線を介して所定の間隔で受信して第1の音データにして、受信日時または受信を開始してから経過した受信時間に関連付けて、記憶部に記憶する音記憶部と、
    前記サーバまたは異なるサーバから配信される前記配信データに含まれる複数の動画データを順次再生する再生部と、
    前記再生部で再生した前記動画データと、前記動画データに関連する第2の音データと、前記動画データを再生した再生日時または配信データの再生開始から経過した再生時間と、を関連付けて前記記憶部に記憶する動画記録部と、
    前記第1の音データと、第2の音データとを比較し、前記第1の音データと前記第2の音データに一致するデータがあれば、前記記憶部を参照して、一致をする第1の音データに関連付けられている受信日時または受信時間と、一致する第2の音データに関連付けられている再生日時または再生時間とを取得し、
    前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が後である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第1の時間差とし、
    前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が前である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第2の時間差とする、算出部と、
    前記第1の時間差があるとき、前記第1の時間差に応じて前記再生日時または前記再生時間に対応する前記動画記録部の動画データから順に前記再生部で再生する通知を前記再生部に出力し、前記第2の時間差があるとき、前記第2の時間差分後の前記再生日時または前記再生時間に対応する動画データから順に配信する通知を前記サーバまたは前記異なるサーバに対して通知をする、調整部と、
    を備えることを特徴とする同期制御装置。
  2. 前記調整部は、
    前記第1の時間差があるとき、前記第1の時間差分前の前記再生日時または前記再生時間に対応する前記動画記録部の動画データから順に前記再生部で再生する通知を前記再生部に出力することを特徴とする請求項1に記載の同期制御装置。
  3. 前記調整部は、
    前記第1の時間差があるとき、前記第1の時間差分待機した後、前記再生部が再生を再開する通知を前記再生部に出力することを特徴とする請求項1に記載の同期制御装置。
  4. コンピュータによって実行される同期制御方法であって、
    サーバから第1の回線を介して配信される配信データを受信して再生する第1の端末が、前記配信データを再生すると発生する音を入力装置から入力し、入力した前記音を第2の回線を介して所定の間隔で受信して第1の音データにし、受信日時または受信を開始してから経過した受信時間に関連付け記憶部に記憶し、
    前記サーバまたは異なるサーバから配信される前記配信データに含まれる複数の動画データを順次再生する再生部で再生した前記動画データと、前記動画データに関連する第2の音データと、前記動画データを再生した再生日時または配信データの再生開始から経過した再生時間と、を関連付け記憶部に記憶し、
    前記第1の音データと、第2の音データとを比較し、前記第1の音データと前記第2の音データに一致するデータがあれば、前記記憶部を参照して、一致をする第1の音データに関連付けられている受信日時または受信時間と、一致する第2の音データに関連付けられている再生日時または再生時間とを取得し、
    前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が後である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第1の時間差とし、
    前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が前である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第2の時間差とし、
    前記第1の時間差があるとき、前記第1の時間差に応じて前記再生日時または前記再生時間に対応する動画データから順に再生し、
    前記第2の時間差があるとき、前記第2の時間差分後の前記再生日時または前記再生時間に対応する動画データから順に配信する通知を前記サーバまたは前記異なるサーバに対して通知をする、
    ことを特徴とする同期制御方法。
  5. サーバから第1の回線を介して配信される配信データを受信して再生する第1の端末が、前記配信データを再生すると発生する音を入力装置から入力し、入力した前記音を第2の回線を介して所定の間隔で受信して第1の音データにし、受信日時または受信を開始してから経過した受信時間に関連付けて記憶部に記憶し、
    前記サーバまたは異なるサーバから配信される前記配信データに含まれる複数の動画データを順次再生する再生部で再生した前記動画データと、前記動画データに関連する第2の音データと、前記動画データを再生した再生日時または配信データの再生開始から経過した再生時間と、を関連付け記憶部に記憶し、
    前記第1の音データと、第2の音データとを比較し、前記第1の音データと前記第2の音データに一致するデータがあれば、前記記憶部を参照して、一致をする第1の音データに関連付けられている受信日時または受信時間と、一致する第2の音データに関連付けられている再生日時または再生時間とを取得し、
    前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が後である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第1の時間差とし、
    前記第2の音データの一致する期間の始まりの前記再生日時または前記再生時間より、前記第1の音データの一致する期間の始まりの前記受信日時または前記受信時間が前である場合に、前記第2の音データの一致する期間と前記第1の音データの一致する期間のずれている時間を求め第2の時間差とし、
    前記第1の時間差があるとき、前記第1の時間差に応じて前記再生日時または前記再生時間に対応する動画データから順に再生し、
    前記第2の時間差があるとき、前記第2の時間差分後の前記再生日時または前記再生時間に対応する動画データから順に配信する通知を前記サーバまたは前記異なるサーバに対して通知をする、
    処理をコンピュータに実行させることを特徴とする同期制御プログラム。
JP2011057275A 2011-03-15 2011-03-15 同期制御装置、同期制御方法、同期制御プログラム Pending JP2012195704A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011057275A JP2012195704A (ja) 2011-03-15 2011-03-15 同期制御装置、同期制御方法、同期制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011057275A JP2012195704A (ja) 2011-03-15 2011-03-15 同期制御装置、同期制御方法、同期制御プログラム

Publications (1)

Publication Number Publication Date
JP2012195704A true JP2012195704A (ja) 2012-10-11

Family

ID=47087230

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011057275A Pending JP2012195704A (ja) 2011-03-15 2011-03-15 同期制御装置、同期制御方法、同期制御プログラム

Country Status (1)

Country Link
JP (1) JP2012195704A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014105201A1 (en) * 2012-12-24 2014-07-03 Intel Corporation Improved techniques for audio synchronization

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005191786A (ja) * 2003-12-25 2005-07-14 Mega Chips Corp 端末間における同期制御方法
JP2008085573A (ja) * 2006-09-27 2008-04-10 Iwatsu Electric Co Ltd テレビ電話システム
WO2010067026A1 (fr) * 2008-12-10 2010-06-17 Alcatel Lucent Procede et dispositif de communication par visioconference

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005191786A (ja) * 2003-12-25 2005-07-14 Mega Chips Corp 端末間における同期制御方法
JP2008085573A (ja) * 2006-09-27 2008-04-10 Iwatsu Electric Co Ltd テレビ電話システム
WO2010067026A1 (fr) * 2008-12-10 2010-06-17 Alcatel Lucent Procede et dispositif de communication par visioconference
JP2012511855A (ja) * 2008-12-10 2012-05-24 アルカテル−ルーセント テレビ会議による通信のための方法および装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014105201A1 (en) * 2012-12-24 2014-07-03 Intel Corporation Improved techniques for audio synchronization
US9521449B2 (en) 2012-12-24 2016-12-13 Intel Corporation Techniques for audio synchronization

Similar Documents

Publication Publication Date Title
JP5979483B2 (ja) コンテンツ再生装置、コンテンツ再生システム、及びコンテンツ再生方法
US11606596B2 (en) Methods, systems, and media for synchronizing audio and video content on multiple media devices
CN1981524B (zh) 信息处理设备和方法
EP2061241A1 (en) Method and device for playing video data of high bit rate format by player suitable to play video data of low bit rate format
JP5911613B2 (ja) 複数のスマート・デバイスによる同期再生のための方法、および装置
KR20090039408A (ko) 컨텐츠의 줄거리 정보 제공 방법 및 장치
JP5557939B2 (ja) 携帯端末、情報再生システムおよび情報再生方法
JP5060649B1 (ja) 情報再生装置及び情報再生方法
US10181312B2 (en) Acoustic system, communication device, and program
JP2012195704A (ja) 同期制御装置、同期制御方法、同期制御プログラム
KR20080087592A (ko) 부가 데이터 업데이트 방법 및 재생 장치
WO2018173312A1 (ja) 仮想現実視聴システム、再生同期方法および仮想現実視聴用プログラム
JP2014011597A (ja) 再生装置及び再生方法
JP2014153515A (ja) 演奏録音システム
JP7100468B2 (ja) 端末装置及びプログラム
JP2008135985A (ja) コンテンツ再生機器、コンテンツ再生制御装置、コンテンツ再生方法
JP6677343B2 (ja) 操作装置、コマンド処理装置、及びコンテンツ再生システム
KR101947186B1 (ko) 콘텐츠 재생 방법 및 그 시스템
JP5899718B2 (ja) 情報処理システム、情報処理装置及び情報処理プログラム
JP2002204441A (ja) 情報処理装置および情報処理システム
KR20130096538A (ko) 이동통신 단말기 및 그의 컨텐츠 생성 방법
KR100697854B1 (ko) 멀티미디어 정보 제공 및 재생 시스템 및 이의 멀티미디어정보 제공 및 재생 방법
WO2022079853A1 (ja) 音楽データ処理方法
JP5678532B2 (ja) 信号処理装置および信号処理方法
JP2016226053A (ja) クライアント端末及びそれを備えたインターネット動画再生システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140701

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150106