JP3860957B2 - マルチメディアデータの送出装置 - Google Patents

マルチメディアデータの送出装置 Download PDF

Info

Publication number
JP3860957B2
JP3860957B2 JP2000263586A JP2000263586A JP3860957B2 JP 3860957 B2 JP3860957 B2 JP 3860957B2 JP 2000263586 A JP2000263586 A JP 2000263586A JP 2000263586 A JP2000263586 A JP 2000263586A JP 3860957 B2 JP3860957 B2 JP 3860957B2
Authority
JP
Japan
Prior art keywords
data
multimedia
still image
multimedia data
bit rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000263586A
Other languages
English (en)
Other versions
JP2002077857A (ja
Inventor
勝 井川
巧一 柴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2000263586A priority Critical patent/JP3860957B2/ja
Publication of JP2002077857A publication Critical patent/JP2002077857A/ja
Application granted granted Critical
Publication of JP3860957B2 publication Critical patent/JP3860957B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、マルチメディアデータの送出装置に係り、特に、映像、音声等のマルチメディアデータをサーバ計算機側からネットワークを介して視聴者端末側に送信する際の処理の高効率化を図ることがではるマルチメディアデータの送出装置に関する。
【0002】
【従来の技術】
一般に、静止画、動画像、音声等のマルチメディアデータは、これらをコンピュータ上で扱うために、それらのデータを一旦符号化する必要がある。データを符号化する技術には、様々なものが存在し、用途に応じて適当なものが用いられる。この技術には大きく分けて、データを圧縮をするものと非圧縮のものとがある。圧縮を伴った符号化を行うと、データのサイズが大幅に少なくなる。圧縮を伴う符号化技術の例を挙げると、静止画を符号化する技術として、JPEG(Joint Photographic Experts Group)が知られており、また、動画の映像や音声を符号化する技術としてMPEG(Moving Picture Experts Group)が知られている。
【0003】
また、コンピュータ同志が情報を交換するために、コンピュータネットワーク技術が用いられる。屋内など限られた大きさの環境では、LAN(Local Area Network)と呼ばれるネットワーク技術が用いられることが多い。また、小さなネットワークをお互いに接続することによって、全世界レベルの大きさのネットワークが作られた。このネットワークは、「インターネット」と呼ばれ、多くのユーザによって利用されており、これらのネットワークの上でデータを交換することを可能にする様々なアプリケーションが動作している。マルチメディアデータをネットワーク上で送信する技術を用いたアプリケーションとして、例えば、VOD(Video On Demand)と呼ばれる技術が知られている。VODは、符号化した映像データを蓄積したサーバに対して視聴者端末が映像データの送信要求を出すと、サーバが視聴者端末に向けて映像配信のサービスを行うアプリケーションである。VODは、LAN環境でも動作可能であるし、インターネット環境でも動作可能である。
【0004】
インターネット、LANは、共にネットワークの帯域幅、すなわち、単位時間当たりにどの程度の量のデータを通すことができるかが、それぞれの環境では決まっており、ネットワークによって映像配信のためのサービスの質が決まってしまう。
【0005】
【発明が解決しようとする課題】
ところで、あるVODサーバが異なるネットワークに向けてサービスを行う場合、そのVODサーバは、ネットワーク毎に異なるビットレートで映像等のマルチメディアデータを符号化して送信しなければならないが、複数のビットレートで映像等のマルチメディアデータを符号化して保存しておくのは不便である。しかし、1種類の符号化データを用いてVODサービスを行うと、ネットワーク環境の帯域幅以上のビットレートの映像データを流したときに、視聴者端末上で再生される映像や音声が非常に乱れたものとなる可能性がある。なぜなら、映像や音声のデータは、あるビットレートで符号化してあるにもかかわらず、それより低いビットレートで再生がなされると、意図していたものよりより遅い映像や音声になってしまうからである。また、このようなことが続くと、いつかサーバ側のバッファがオーバーフローしてしまい、その結果映像や音声の連続性が損なわれてしまうことになる。
【0006】
前述したような問題を解決することができる従来技術の1つとして、符号化の階層化という技術が知られている。階層符号化に関する従来技術として、例えば、「MPEG−4のすべて」(工業調査会、三木編著、P.119、9行目〜P.120、2行目)に詳しく説明されている技術が知られている。符号化を階層化をしておくことにより、符号化されたデータは、その一部分だけの再生が可能となる。VODサーバに蓄積されるマルチメディアデータが階層化した形で符号化されていると、VODサーバは、ネットワークの帯域幅に応じて一部分だけを送信すればよいことになる。そうすると、視聴者端末は、ネットワーク環境に応じて、ビットレートの高低にかかわらず受信したデータを再生することが可能となり、ネットワークの帯域幅に応じて最大限の品質で再生することが可能となる。
【0007】
しかし、前述した従来技術は、VODサーバに蓄積するマルチメディアデータを予め階層化した形で符号化する必要があるが、階層化を行うことができる符号化装置が一般的なものに比較して高価であり、また、符号化したマルチメディアデータのファイルが複数できるため、管理も難しくなるという問題点を有している。
【0008】
本発明の目的は、前述した従来技術の問題点を解決し、符号化を階層化することなく、ネットワーク環境の帯域幅に応じて、送信するマルチメディアデータの送信ビットレートを動的に調整することができるマルチメディアデータの送出装置を提供することにある。
【0009】
【課題を解決するための手段】
本発明によれば前記目的は、マルチメディアデータを蓄積する手段と、表示アプリケーションから受信した前記マルチメディアデータの呼び出し要求に応じて、前記マルチメディアデータを前記表示アプリケーションヘ送信する手段とを有するマルチメディアデータ送出装置において、前記マルチメディアデータを構成する映像、音声、静止画の各データを前記表示アプリケーション上で再生するために当該マルチメディアデータの再生の開始時点を基準とした、各データを再生する時刻を記述したシナリオ情報を蓄積する手段と、前記表示アプリケーションとの間に位置する伝送経路の帯域幅の値を保持する手段と、前記マルチメディアデータを構成する映像データのビットレート、音声データのビットレート及び静止画データのバイト数を予め抽出して保持する手投と、前記静止画データのバイト数と、前記シナリオ情報において記述される、当該静止画データの送信に要する時間から当該静止画データを送信する場合のビットレートを算出する手段とを備え、前記シナリオ情報に記述された時刻に、当該各時刻に対応するデータを送信する場合に、マルチメディアデータを構成する映像データ、音声データ及び静止画データのうち、同時に送信される映像データのビットレート、音声データのビットレート、及び、前記算出した静止画データを送信する場合のビットレートの合計が、前記伝送経路の帯域幅の値を超える場合、前記シナリオ情報に基づき再生されるマルチメディアデータを構成するデータのうち、前記シナリオ情報で定義されている前記伝送経路の帯域幅に収まるビットレートで送信可能な第1のデータ以外の他のデータである第2のデータを送信し、該第2のデータの送信が完了するまで、前記第1のデータを保持しておき、前記第2のデータの送信が終了した後、保持していた前記第1のデータをリアルタイムに送信することにより達成される。
【0010】
また、前記目的は、マルチメディアデータを蓄積する手段と、表示アプリケーションから受信した前記マルチメディアデータの呼び出し要求に応じて、前記マルチメディアデータを前記表示アプリケーションヘ送信する手段とを有するマルチメディアデータ送出装置において、前記マルチメディアデータを構成する映像、音声、静止画の各データを前記表示アプリケーション上で再生するために当該マルチメディアデータの再生の開始時点を基準とした、各データを再生する時刻を記述したシナリオ情報を蓄積する手段と、前記表示アプリケーションとの間に位置する伝送経路の帯域幅の値を保持する手段と、前記マルチメディアデータを構成する映像データのビットレート、音声データのビットレート及び静止画データのバイト数を予め抽出して保持する手投と、前記静止画データのバイト数と、前記シナリオ情報において記述される、当該静止画データの送信に要する時間から当該静止画データを送信する場合のビットレートを算出する手段とを備え、前記シナリオ情報に記述された時刻に、当該各時刻に対応するデータを送信する場合に、マルチメディアデータを構成する映像データ、音声データ及び静止画データのうち、同時に送信される映像データのビットレート、音声データのビットレート、及び、前記算出した静止画データを送信する場合のビットレートの合計が、前記伝送経路の帯域幅の値を超える場合、前記映像データのフレームを落とし、前記シナリオ情報で定義されている前記伝送経路の帯域幅に収まるようにして前記各データを送信することにより達成される。
【0011】
【発明の実施の形態】
以下、本発明によるマルチメディアデータの送出装置の一実施形態を図面により詳細に説明する。
【0012】
図1は本発明の一実施形態によるマルチメディアデータ送出装置のハードウェア構成を示すブロック図、図2は本発明によるマルチメディアデータ送出装置が適用されるネットワーク構成を示すブロック図、図3は本発明の一実施形態によるマルチメディアデータ送出装置の機能構成を示すブロック図、図4はマルチメディア属性情報の構造を説明する図、図5はマルチメディア属性情報を格納したテーブルの内容を示す図、図6はネットワーク情報を格納したテーブルの内容を示す図、図7は要求バッファに格納される情報内容を説明する図、図8は第1のバッファにテーブルとして格納されるシナリオ情報の内容を説明する図、図9は第2のバッファにテーブルとして格納される情報内容を説明する図である。図1〜図9において、10はマルチメディアデータ送出装置、11はCPU、12はキーボード、13はディスプレイ、14はネットワークインタフェース、15はバス、16は主メモリ、161は送出エンジン、162は要求バッファ、163は第1のバッファ、164は第2のバッファ、17はハードディスク、171はマルチメディア属性情報、172はネットワーク情報、173はマルチメディアデータ、20はインターネット、30、40、60き利用者端末、50はLANである。
【0013】
本発明によるマルチメディアデータ送出装置が適用されるネットワーク環境は、図2にその例を示すように、マルチメディア送出装置10が、インターネット20を介して複数の利用者端末30、40、...に接続可能であり、また、LAN50を介して複数の利用者端末60、...に接続可能であるようなネットワーク環境である。このようなネットワーク環境において、マルチメディア送出装置10は、要求されたマルチメディアデータを利用者端末30、40、60等に対して送出する。具体的な手順としては、まず、利用者端末30が、マルチメディアデータ送出装置10に対してマルチメディアデータの送信を要求し、これに対してマルチメディア送出装置10が、ハードディスク内に保持しているマルチメディアデータを検索し、それを利用者端末30に送出するという手順で行われる。
【0014】
マルチメディアデータは、単なるテキストデータや静止画データだけではなく、音声、映像といったリアルタイム性を要するデータをも含んでいる。以下の説明において、マルチメディアデータは、静止画、音声、映像の3種類のデータを含むものとする。すでに説明したように、音声、映像といったリアルタイム性を要するデータは、ネットワークの帯域幅が小さい場合、利用者端末30上で再生する際に問題が起こる可能性がある。音声データや映像データは、一定のビットレートで再生されないと、正しい聞こえ方、見え方をしないからである。
【0015】
本発明のマルチメディアデータ送出装置10は、この問題を解決するために、マルチメディアデータの送出の際に利用者端末30までのインターネット20上の帯域幅をある程度検知し、それに基づいてマルチメディアデータ内の静止画、音声、映像のデータをデータのある区間内で順序を変えて送信したり、一部だけを送信したりする。順序を変える理由は、マルチメディアデータ内の一部のデータを他のデータに先立って利用者端末30にダウンロードさせるためである。このようにすることにより、残りのデータは、少ない帯域幅でリアルタイムに送信することが可能となる。この結果、利用者端末30は、ダウンロードによる待ち時間も少なく、かつ、マルチメディアデータを乱れることなく視聴させることが可能となる。また、マルチメディアデータの一部だけ送信する理由は、マルチメディアデータのビットレートを下げるためである。具体的には、映像データのコマを落とすことである。映像データは、多少コマが落とされても情報として足りる場合が多く、これにより、少ない帯域幅でも利用者端末30は、待ち時間を最大限に低減させてマルチメディアデータを正しい速さで再生することが可能となる。
【0016】
図1に示すように、マルチメディアデータ送出装置10は、CPU11、キーボード12、ディスプレイ13、ネットワークインタフェース14、バス15、主メモリ16、及び、ハードディスク17を備えて構成されている。管理者は、キーボード12、ディスプレイ13を使用してマルチメディアデータ送出装置10を操作する。ネットワークインタフェース14は、インターネット20、LAN50からのデータを受信し、あるいは、インターネット20、LAN50に対してデータを送信する。CPU11は、バス15を介して主メモリ16内のプログラムを起動し、主メモリ16内の各プログラムは、バス15を介してハードディスク17内の情報にアクセスする。主メモリ16内には、送出エンジン161、要求バッファ162、第1のバッファ163、第2のバッファ164が構成されている。また、ハードディスク17内には、マルチメディア属性情報171、ネットワーク情報172、マルチメディアデータ173が格納されている。なお、これらの働きについては後述する。
【0017】
マルチメディアデータ送出装置10の機能は、図3に示すようなものである。そして、この機能は、図1により説明した主メモリ16内に設けられる要求バッファ162からの要求に従って、ハードディスク17内のマルチメディア属性情報171とネットワーク情報172とから必要な情報を読み出して第1のバッファ163に格納し、また、モード種別等に従って、送信するデータの内容と順序とを第2のバッファ164に格納し、この第2のバッファ164の内容に従って、マルチメディアデータ173を読み出して、送信エンジン161からネットワークインタフェース14、インターネット20またはLAN50を介して利用者端末にマルチメディアデータを送信するものである。
【0018】
以下、図3を参照して、マルチメディア送出装置10が、少ない帯域幅のネットワークを介して効率よくマルチメディアデータを送出する方法について説明する。
【0019】
ここで、利用者端末30でマルチメディアデータを再生する方法として、「リアルタイム」モードと「画質優先」モードとの2種類のモードを与えることとする。「リアルタイム」モードは、マルチメディアデータができるだけ時間通りに再生されることを送出装置に対して要求するモードであり、例えば、マルチメディアデータが全部で30秒の内容だとすると、ネットワークの帯域幅にかかわらず再生が30秒で終了するように送出することを要求するモードである。一方、「画質優先」モードは、ネットワークの帯域幅が小さい場合、リアルタイム性を犠牲にし、画質を落とさないことを優先するモードである。なお、このモードは、リアルタイム性を犠牲にするが、ある区間単位では映像、音声が正しく連続的に再生されることを要求するものである。
【0020】
図3において、ネットワークインタフェース14は、インターネットからマルチメディアデータの送信要求を受信すると、受信した要求を要求バッファ162に渡す。このとき、図7に示すように、区間指定16201、モード種別16202、利用者端末のIPアドレスである端末アドレス16203の3つが指定される。区間指定16201は、利用者端末が要求しているデータ区間であり、具体的には、マルチメディアデータの先頭を0秒として何秒後までのデータが欲しいかが指定され、例えば、25秒目から30秒までのデータが欲しい場合、その指定がなされる。モード種別16202は、すでに説明した再生モードの種別である。端末アドレス16203は、要求を行った利用者端末のIPアドレスである。
【0021】
要求バッファ162内にこれらの内容が指定されて格納されると、次に、マルチメディア属性情報171がアクセスされる。ここで、図4を用いてマルチメディア属性情報171の構造を説明する。マルチメディアデータは、予め意味のある単位で区間分けされている。例えば、1つの静止画データが表示される時間を1つの区間として区分けされている。これを示したのが図4の17104であり、それぞれの区間の中には、静止画、音声、映像データの属性データが格納されている。具体的には、静止画のバイト数17101、音声データのビットレート17102、映像データのビットレート及びコマ情報17103等である。マルチメディアデータ送出装置10は、これらの属性情報を用いることにより、送出順序を変えたり送出データを選択したりすることが可能となる。マルチメディア属性情報171は、前述したような構造を持つことにより、マルチメディアデータの区間情報と各データの属性情報とを格納することができる。なお、区間の分け方は、前述のように1つの静止画データが表示される時間ではなく、動画である映像データの性質等の状況が大きく変わるポイントによってもよい。
【0022】
ここで、再度、図3を参照すると、前述した手順により、要求バッファ162内の再生区間に該当する部分である1つの区間17104がマルチメディア属性情報171から取り出しして、第1のバッファ163に格納されたことになる。
【0023】
一方、ネットワーク情報172には、マルチメディアデータを送信する端末のIPアドレスとその端末へ接続されるネットワークの帯域幅とが対応付けて格納されている。要求バッファ162内に保持されたIPアドレスとネットワーク情報172とにより、送出先までのネットワークの帯域幅を得ることができ、これが第1のバッファ163に格納される。また、要求バッファ162に格納されていたモード種別も、第1のバッファ163に格納される。前述の結果、第1のバッファ163には、指定された区間のマルチメディア属性情報と、利用者端末までのネットワークの帯域幅の情報と、モード種別の情報とが格納されたことになる。次に、これらの情報を用いて、実際に送信されるべきデータの内容とその順序が決められ、その結果が第2のバッファ164に格納される。この送信内容に従って、マルチメディアデータ173が取り出され、送信エンジン161によりネットワークインタフェース14を介してインターネット20等のネットワークに送信される。
【0024】
第2のバッファ164に格納される送信内容をどのようにして決定するかは、モード種別によって大きく異なる。モード種別が「リアルタイム」モードの場合、できるだけ実時間で送信することが要求されているので、ネットワークの帯域幅が映像データの全てを実時間で送信することができない大きさの場合、映像データのコマ落としが行われる。そして、コマ落としを行った結果、映像データの送信ビットレートがネットワークの帯域幅を下回る程度までとなるようにする。但し、映像データがMPEGのようなフレーム(コマと同義)間補償を行う方式の圧縮技術を用いて作られている場合、コマ落としの方法によっては、利用者端末内のデコーダがうまく再生できない場合がある。その場合、第1のバッファ163内にあるアクセスポイントの情報を用いて、アクセスポイントのデータを優先的に送信するようにする。
【0025】
一方、モード種別が「画質優先」モードの場合、映像のコマ落としを行わない。その代わりに、ネットワークの帯域幅を超えないようにマルチメディアデータ内の各データを順番に送出する。例えば、リアルタイム性の必要ない静止画データを先に送出する。そして、残りの映像データと音声データとを同時に送信したときにネットワークの帯域幅を下回るか否かをチェックし、下回る場合、残りを同時に送信し、そうでない場合、映像データあるいは音声データを先に送信し、最後に残りを送信する。
【0026】
利用者端末は、静止画データについてそのデータが到着次第それを画面に表示する。これにより、利用者端末は、ネットワークの帯域幅不足による遅れを生じさせることなく、時間通りにマルチメディアデータを再生することができる。一方、利用者端末は、映像データや音声データのどちらか片方のデータが到着した場合、そのデータをバッファに一時的に蓄積しておき、残りのデータが到着した時点で同期させながら再生する。これにより、利用者端末は、映像と音声とを同時に再生することができ、ネットワークの帯域幅不足による品質の低下を防止してこられのデータを再生することができる。このアルゴリズムの詳細については、後述する。
【0027】
前述した説明から判るように、本発明の実施形態によるマルチメディアデータ送出装置10は、少ない帯域幅のネットワークの場合でも、利用者端末に最大限効率よくマルチメディアデータを送出することが可能である。
【0028】
次に、図5に示すテーブル例を参照して、マルチメディア属性情報171の内容について説明する。マルチメディア属性情報171は、マルチメディアデータ内の映像データ、音声データ、静止画データの属性情報が格納されているテーブルである。図5において、17152の列は、マルチメディアデータ内の映像データの各フレームの時刻を示している。図には、幾つかのコマを纏めた間隔を意味区間と定め、これらの意味区間を横線で区切って示している。17151の列が前記した各意味区間の範囲を示している。この意味区間は、この例では、マルチメディアデータの再生によって映像データと同時に表示される静止画データの変わり目を区間の変わり目としている。17156の列には、意味区間内で表示される静止画データのバイト数が格納されている。17153の列には、各意味区間における映像データの平均ビットレートが格納されている。17154の列には、映像データのフレームのうちアクセスポイントとなるフレームが示されている。アクセスポイントとは、1つのフレームのデータだけを利用者端末に送出した場合にも、利用者端末上で正しく表示できるフレームを意味する。MPEG等の動き補償技術を用いて符号化を行った映像データは、任意のフレームを利用者端末に送出しても、そのフレームを再生できるとは限らず、前述のようなアクセスポイントが存在し、前述したように、MPEG等により符号化された映像データの場合、アクセスポイントからのデータを送信する。17155の列には、意味区間内で再生される音声データの平均ビットレートが格納されている。
【0029】
マルチメディア属性情報171は、全てマルチメディアデータ173そのものから得ることができる。しかし、マルチメディアデータを送信する前に、マルチメディアデータの属性情報に基づいてデータの選択の処理をリアルタイムに行う必要がある。マルチメディア属性情報を前もって作成しておくとにより、送信しながらマルチメディアデータの選択の処理を行うことが容易となる。
【0030】
次に、図6に示すテーブルの例を参照して、ネットワーク情報172の内容について説明する。ネットワーク情報172は、マルチメディア送出装置10がデータを送出する相手先である利用者端末30へのネットワークの帯域幅の情報を格納している。図6において、17201の列には、送出先の利用者端末のIPアドレスが格納されている。この例では、1つ1つの数字が複数のIPアドレスをまとめて表現している。例えば、図示の「123.456.789.000」は、「123.456.789」で始まるアドレスを全て表している。17202の列は、それぞれのIPアドレス群に対応したネットワークの帯域幅を示している。このテーブルを用いることにより、送出先の利用者端末を接続するネットワークの帯域幅を得ることが可能となる。
【0031】
次に、図8に示すテーブルの例を参照して、第1のバッファ163の内容について説明する。図8において、16301〜16306の各列は、マルチメディア属性情報171内のある1つの意味区間のデータを取り出した内容である。また、16307の列には、要求バッファ162に格納されていた再生モード種別が格納される。第1のバッファ163には、利用者端末が要求した意味区間単位のマルチメディアデータに関わる情報がシナリオ情報として一時的に格納される。そして、要求されるマルチメディアデータを構成する複数の意味区間のデータが意味区間毎に図8に示すようなテーブルとして第1のバッファに格納される。
【0032】
次に、図9(a)を参照して、利用者端末が「リアルタイム」モードを指定した場合における第2バッファ164の内容の例について説明する。図9(a)において、16401〜16406の各列の2行目以下の各行16406〜16410には、映像データの各フレーム毎の情報が格納されている。列16401には、映像データのフレームが再生される時刻が格納され、列16404には、映像データの各フレームについて、送信するものについて「1」、送信しないものについて「0」が格納されている。これは、ネットワークの帯域幅の条件に照らし合わせた結果、一部のフレームのみが送信され、残りは送信しないと判断した結果である。この映像データの場合、図8に示しているように、アクセスポイントが一部のフレームに限られているため、送信するべきフレームはアクセスポイントのフレームとなっている。列16403は、各時刻における音声データのうち、送信されるものについて「1」が指定されている。図示例の場合、全てのデータを送ることとなる。列16402は、静止画を送信する時刻に関する情報である。静止画データは、図示している意味区間に1つのデータがあり、図示例の場合、この区間が始まってすぐに送信を行ってしまうことを意味している。
【0033】
次に、図9(b)を参照して、利用者端末が「画質優先」モードを指定した場合における第2のバッファ164の内容の例について説明する。「リアルタイム」モードの場合と異なっているのは、ネットワーク帯域幅が小さい場合に各データの送信順序を変えることである。図9(b)において、最も上の第1行16455に「1」が格納されているのは、予めデータを利用者端末に送信をすませておくことを意味する。図示例の場合、列16452の静止画と16454の映像データとについて、この区間に送信するべき内容を、予め送信を非リアルタイムに済ませておくことを意味する。その後、列16453に示すように、音声データのみが時間通りに送信される。
【0034】
送信エンジン161は、前述したような第2のバッファ164の内容に従って送信を行うことにより、限られたネットワークの帯域幅の中で有効なマルチメディアデータの送信を行うことが可能となる。
【0035】
図10は第1のバッファ163の内容により第2のバッファ164の内容を決定するアルゴリズムを説明するフローチャート(その1)であり、以下、これについて説明する。ここで説明するフローは、第1のバッファ163内に「リアルタイム」モードが指定されている場合の例である。
【0036】
(1)最初に、ネットワークの帯域幅(図8、16301)の値と、映像、音声、静止画の各データの合計の平均のビットレートとを比較して、通常通りこれらのデータを送信してもネットワークの帯域幅が充分か否かをチェックし、通常通りに送信することが可能な場合、各データを通常通りに送信する(ステップ51、56)。
【0037】
(2)ステップ51のチェックで、通常通りに送信することができない場合、映像データのコマを落とした場合にネットワークの帯域幅が充分となるか否かを調べ、フレームを落として充分となる場合、映像データから必要なだけのフレームを落として送信を行う。この場合、送信する映像データは、アクセスポイント(図8、16304)の映像データとする(ステップ52、57)。
【0038】
(3)ステップ52のチェックで、映像データのフレームを落としてもなお、マルチメディアデータのスループットがネットワークの帯域幅を超える場合、映像データとして最初のコマのデータのみを送信してネットワークの帯域幅を超えないか否かを調べ、超えない場合、映像データの最初のフレームのみの送信を行う(ステップ53、58)。
【0039】
(4)ステップ53のチェックで、映像データの最初のフレームのみを送信してもネットワークの帯域幅を超える場合、リアルタイムに送信することが不可能であるので、この処理を失敗とする(ステップ55)。
【0040】
図11は第1のバッファ163の内容により第2のバッファ164の内容を決定するアルゴリズムを説明するフローチャート(その2)であり、以下、これについて説明する。ここで説明するフローは、第1のバッファ163内に「画質優先」モードが指定されている場合の例である。
【0041】
(1)最初に、ネットワークの帯域幅(図8、16301)の値と、映像、音声、静止画の各データの合計の平均のビットレートとを比較して、通常通りこれらのデータを送信してもネットワークの帯域幅が充分か否かをチェックし、通常通りに送信することが可能な場合、各データを通常通りに送信する(ステップ61、66)。
【0042】
(2)ステップ61のチェックで、通常通りに送信することができない場合、静止画データを除いた他のデータを送るとした場合にネットワークの帯域幅が充分となるか否かを調べ、充分となる場合、静止画データを先に送信して、その後に他のデータを通常通りに送信する(ステップ62、67)。
【0043】
(3)ステップ62のチェックで、静止画データを除いてもネットワークの帯域幅が充分でなかった場合は、静止画データと映像データをと除いた他のデータを送るとした場合にネットワークの帯域幅が充分となるか否かを調べ、充分となる場合、静止画データと映像データとを先に送信してしまい、音声データのみを通常通りに送信する(ステップ63、68)。
【0044】
(4)ステップ63のチェックで、静止画データと映像データとを先に送信してもネットワークの帯域幅が充分ならない場合、全てのデータを非リアルタイム送信として送信する。この結果、全てのデータは、利用者端末上で一時的にキャッシュされて再生される(ステップ65)。
【0045】
前述した図10に説明したフローにおいて、第1のバッファ163の内容が図8に示す通りである場合、このフローによるアルゴリズムを適用して第2のバッファ164がどのようになるかについて説明する。
【0046】
最初に、ステップ51のチェックで、各データを通常通りに送信すると仮定した平均ビットレートを調べる。図8に示す例の場合、映像データの5フレーム時間に渡る図8に示す区間での20KBの大きさを持つ静止画の平均ビットレートは、20×8÷5=32kbpsとなり、各データを合算した図示区間の平均ビットレートは、256+64+32=352kbpsとなる。この値は、ネットワークの帯域幅16301に示される200kbpsを超えている。よって、次に、ステップ52のチェックで、映像データのフレームを落としてみる。映像データは、各フレーム当たりのバイト数が同じであると仮定すると、フレームを2枚送ると帯域幅を超えないことが判る。すなわち、この場合、映像データの平均ビットレートは、256÷5×2=102.4kbpsとなり、各データを合算した平均ビットレートは、102.4+64+32=198.4kbpsとなる。この値は、ネットワークの帯域幅16301に示される200kbps以内に収まるものであり、映像アクセスポイントを16304から得て、映像データに関してはアクセスポイントとして指定されたフレームのみを送信する。このようにして第2のバッファの内容が決定する。
【0047】
次に、前述した図11に説明したフローにおいて、第1のバッファ163の内容が、図8におけるモード種別が「画質優先」モードとなっている場合について、このフローによるアルゴリズムを適用して第2のバッファ164がどのようになるかについて説明する。
【0048】
最初に、ステップ61のチェックで、各データを通常通りに送信すると仮定した平均ビットレートを調べる。この場合、前述した場合と同一であり、図示区間の平均ビットレートは352kbpsとなり、ネットワークの帯域幅16301の200kbpsを超えているので、ステップ62で静止画データを除いたと仮定して、平均ビットレートを求める。この場合、256+64=320kbpsとなり、これでもネットワークの帯域幅を超えている。次に、ステップ63のチェックで、静止画データと映像データとを除いたと仮定して平均ビットレートを求めると、音声データのみの64kbpsとなる。この値は、ネットワークの帯域幅を超えていない。従って、静止画データ及び映像データを先に送信して、音声データを時間通りに送信するという結果を得ることができる。
【0049】
前述で説明したように、図10、図11に示したフローによるアルゴリズムを用いることにより、第1のバッファ163に格納された意味区間単位の送信要求に対して、ネットワークの帯域幅内で効率よくマルチメディアデータを送信する方法を第2のバッファ164に格納することが可能となる。
【0050】
前述した本発明の実施形態は、本発明を、あるネットワーク環境におけるマルチメディア送出装置に適用したものとして説明したが、本発明は、ネットワーク環境に適用される場合に限られるものではなく、例えば、同一のコンピュータ内で動作するマルチメディアデータ表示アプリケーションに対して、マルチメディアデータをハードディスクなどから読み出し提供する装置にも適用することができる。この場合、前述で説明した本発明の実施形態における利用者端末をマルチメディアデータ表示アプリケーションとし、それとの間に位置するネットワークをコンピュータ内の伝送経路、例えば、バス装置等とすればよい。
【0051】
また、前述した本発明実施形態におけるマルチメディア送出装置内の処理は、プログラムにより実行させることができ、そのプログラムは、FD、CDROM、DVDROM、MO等の記録媒体に格納して提供することができる。
【0052】
前述したように本発明の実施形態によれば、マルチメディアデータを構成する映像データの一部のみ送信したり、マルチメディアデータ内の各データの送信順序を変えることが可能となり、マルチメディア送出装置及び視聴者端末の間のネットワークの帯域幅が少ない場合でも、視聴者端末上で再生表示が乱れることなく、また待ち時間も少なく、高品質のマルチメディアデータの表示を行わせることができる。
【0053】
【発明の効果】
以上説明したように本発明によれば、ネットワーク環境の帯域幅に応じて、送信するマルチメディアデータの送信ビットレートを動的に調整することができ、視聴者端末上で高品質のマルチメディアデータの表示を行わせることができる。
【図面の簡単な説明】
【図1】本発明の一実施形態によるマルチメディアデータ送出装置のハードウェア構成を示すブロック図である。
【図2】本発明によるマルチメディアデータ送出装置が適用されるネットワーク構成を示すブロック図である。
【図3】本発明の一実施形態によるマルチメディアデータ送出装置の機能構成を示すブロック図である。
【図4】マルチメディア属性情報の構造を説明する図である。
【図5】マルチメディア属性情報を格納したテーブルの内容を示す図である。
【図6】ネットワーク情報を格納したテーブルの内容を示す図である。
【図7】要求バッファに格納される情報内容を説明する図である。
【図8】第1のバッファにテーブルとして格納される情報内容を説明する図である。
【図9】第2のバッファにテーブルとして格納される情報内容を説明する図である。
【図10】第1のバッファの内容により第2のバッファの内容を決定するアルゴリズムを説明するフローチャート(その1)である。
【図11】第1のバッファの内容により第2のバッファの内容を決定するアルゴリズムを説明するフローチャート(その2)である。
【符号の説明】
10 マルチメディアデータ送出装置
11 CPU
12 キーボード
13 ディスプレイ
14 ネットワークインタフェース
15 バス
16 主メモリ
161 送出エンジン
162 要求バッファ
163 第1のバッファ
164 第2のバッファ
17 ハードディスク
171 マルチメディア属性情報
172 ネットワーク情報
173 マルチメディアデータ
20 インターネット
30、40、60 利用者端末
50 LAN

Claims (3)

  1. マルチメディアデータを蓄積する手段と、表示アプリケーションから受信した前記マルチメディアデータの呼び出し要求に応じて、前記マルチメディアデータを前記表示アプリケーションヘ送信する手段とを有するマルチメディアデータ送出装置において、
    前記マルチメディアデータを構成する映像、音声、静止画の各データを前記表示アプリケーション上で再生するために当該マルチメディアデータの再生の開始時点を基準とした、各データを再生する時刻を記述したシナリオ情報を蓄積する手段と、
    前記表示アプリケーションとの間に位置する伝送経路の帯域幅の値を保持する手段と、
    前記マルチメディアデータを構成する映像データのビットレート、音声データのビットレート及び静止画データのバイト数を予め抽出して保持する手投と、
    前記静止画データのバイト数と、前記シナリオ情報において記述される、当該静止画データの送信に要する時間から当該静止画データを送信する場合のビットレートを算出する手段とを備え、
    前記シナリオ情報に記述された時刻に、当該各時刻に対応するデータを送信する場合に、マルチメディアデータを構成する映像データ、音声データ及び静止画データのうち、同時に送信される映像データのビットレート、音声データのビットレート、及び、前記算出した静止画データを送信する場合のビットレートの合計が、前記伝送経路の帯域幅の値を超える場合、前記シナリオ情報に基づき再生されるマルチメディアデータを構成するデータのうち、前記シナリオ情報で定義されている前記伝送経路の帯域幅に収まるビットレートで送信可能な第1のデータ以外の他のデータである第2のデータを送信し、該第2のデータの送信が完了するまで、前記第1のデータを保持しておき、前記第2のデータの送信が終了した後、保持していた前記第1のデータをリアルタイムに送信することを特徴とするマルチメディアデータ送出装置。
  2. マルチメディアデータを蓄積する手段と、表示アプリケーションから受信した前記マルチメディアデータの呼び出し要求に応じて、前記マルチメディアデータを前記表示アプリケーションヘ送信する手段とを有するマルチメディアデータ送出装置において、
    前記マルチメディアデータを構成する映像、音声、静止画の各データを前記表示アプリケーション上で再生するために当該マルチメディアデータの再生の開始時点を基準とした、各データを再生する時刻を記述したシナリオ情報を蓄積する手段と、
    前記表示アプリケーションとの間に位置する伝送経路の帯域幅の値を保持する手段と、
    前記マルチメディアデータを構成する映像データのビットレート、音声データのビットレート及び静止画データのバイト数を予め抽出して保持する手投と、
    前記静止画データのバイト数と、前記シナリオ情報において記述される、当該静止画データの送信に要する時間から当該静止画データを送信する場合のビットレートを算出する手段とを備え、
    前記シナリオ情報に記述された時刻に、当該各時刻に対応するデータを送信する場合に、マルチメディアデータを構成する映像データ、音声データ及び静止画データのうち、同時に送信される映像データのビットレート、音声データのビットレート、及び、前記算出した静止画データを送信する場合のビットレートの合計が、前記伝送経路の帯域幅の値を超える場合、前記映像データのフレームを落とし、前記シナリオ情報で定義されている前記伝送経路の帯域幅に収まるようにして前記各データを送信することを特徴とするマルチメディアデータ送出装置。
  3. 前記表示アプリケーションが利用者端末に備えられる表示アプリケーションであり、前記伝送経路がネットワークであることを特徴とする請求項1または2記載のマルチメディアデータ送出装置。
JP2000263586A 2000-08-31 2000-08-31 マルチメディアデータの送出装置 Expired - Fee Related JP3860957B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000263586A JP3860957B2 (ja) 2000-08-31 2000-08-31 マルチメディアデータの送出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000263586A JP3860957B2 (ja) 2000-08-31 2000-08-31 マルチメディアデータの送出装置

Publications (2)

Publication Number Publication Date
JP2002077857A JP2002077857A (ja) 2002-03-15
JP3860957B2 true JP3860957B2 (ja) 2006-12-20

Family

ID=18751113

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000263586A Expired - Fee Related JP3860957B2 (ja) 2000-08-31 2000-08-31 マルチメディアデータの送出装置

Country Status (1)

Country Link
JP (1) JP3860957B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4596766B2 (ja) * 2003-11-13 2010-12-15 日本電信電話株式会社 メディア通信制御方法、メディア通信制御装置、および、メディア提供システム、ならびに、メディア通信制御プログラム、および、その記憶媒体
KR100488595B1 (ko) 2004-07-29 2005-05-11 엔에이치엔(주) 동영상 공동 관람 서비스 제공 방법 및 시스템
JP2006333254A (ja) * 2005-05-27 2006-12-07 Fujifilm Holdings Corp 動画像リアルタイム通信端末、動画像リアルタイム通信端末の制御方法及び動画像リアルタイム通信端末の制御プログラム
JP4914127B2 (ja) * 2005-07-11 2012-04-11 キヤノン株式会社 ネットワークカメラ装置およびネットワークカメラ装置の映像フレームの送信方法
JP4527627B2 (ja) * 2005-08-04 2010-08-18 日本電信電話株式会社 コンテンツの配信装置,コンテンツ配信ネットワークおよびコンテンツ配信方法
US7877777B2 (en) 2006-06-23 2011-01-25 Canon Kabushiki Kaisha Network camera apparatus and distributing method of video frames
US10142410B2 (en) 2016-04-29 2018-11-27 Raytheon Company Multi-mode remote collaboration

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3086075B2 (ja) * 1992-07-10 2000-09-11 富士通株式会社 Atm交換機における帯域予約方式
JPH06243058A (ja) * 1993-02-15 1994-09-02 N T T Data Tsushin Kk メディア同期再生装置
JPH06348580A (ja) * 1993-06-08 1994-12-22 Hitachi Micom Syst:Kk マルチメディア転送装置
JPH0766919A (ja) * 1993-08-27 1995-03-10 Canon Inc 通信装置
JPH0779435A (ja) * 1993-09-06 1995-03-20 Nippon Telegr & Teleph Corp <Ntt> 映像符号化装置
JPH09128367A (ja) * 1995-11-02 1997-05-16 Matsushita Electric Ind Co Ltd 情報提供装置
JP3486303B2 (ja) * 1996-07-24 2004-01-13 日本電信電話株式会社 マルチメディア情報転送方法及びその装置
JP3478690B2 (ja) * 1996-12-02 2003-12-15 株式会社日立製作所 情報伝送方法及び情報記録方法と該方法を実施する装置
JPH10276407A (ja) * 1997-03-31 1998-10-13 Nippon Telegr & Teleph Corp <Ntt> ビデオ情報提供管理方法およびシステム
JPH10313363A (ja) * 1997-05-13 1998-11-24 Casio Comput Co Ltd 情報送信装置及び情報送信方法
JP3606729B2 (ja) * 1997-12-10 2005-01-05 松下電器産業株式会社 リッチテキスト素材の表示方法及び映像情報提供システム
JPH11215193A (ja) * 1998-01-28 1999-08-06 Matsushita Electric Ind Co Ltd マルチメディア再生システムにおけるデータ転送装置
JP4244394B2 (ja) * 1998-02-17 2009-03-25 富士ゼロックス株式会社 多地点会議システム
JPH11261988A (ja) * 1998-03-11 1999-09-24 Nippon Telegr & Teleph Corp <Ntt> 情報配信方法及びシステム及びサーバ装置及びクライアント装置
JPH11261978A (ja) * 1998-03-11 1999-09-24 Sony Corp 情報処理装置および方法、並びに提供媒体
JPH11313048A (ja) * 1998-04-24 1999-11-09 Kokusai Electric Co Ltd マルチメディア通信方法及び通信装置
JP3563278B2 (ja) * 1998-06-19 2004-09-08 日本電信電話株式会社 優先経路制御方法及びルータ装置
JP2000013777A (ja) * 1998-06-26 2000-01-14 Matsushita Electric Ind Co Ltd 映像再生装置及び映像蓄積装置
JP2995177B1 (ja) * 1998-07-10 1999-12-27 株式会社ディジタル・ビジョン・ラボラトリーズ ストリーム配信システム
JP2000101647A (ja) * 1998-09-25 2000-04-07 Matsushita Electric Ind Co Ltd データ送信方法、データ送信装置、及びデータ送信プログラムを記録した記録媒体
JP2000207234A (ja) * 1999-01-08 2000-07-28 Mitsubishi Electric Corp 通信システム
JP3709730B2 (ja) * 1999-02-03 2005-10-26 三菱電機株式会社 データ中継装置及びデータ中継方法

Also Published As

Publication number Publication date
JP2002077857A (ja) 2002-03-15

Similar Documents

Publication Publication Date Title
US11470138B2 (en) Apparatus, system, and method for multi-bitrate content streaming
JP4818562B2 (ja) 漸進的により高品質のバージョンのオーディオおよび/またはビデオプログラムを得るための方法およびコンピュータネットワーク
JP5288710B2 (ja) マルチメディアデータを記録した情報保存媒体、その再生方法及び再生装置
EP2649792B1 (en) Pre-buffering audio/video stream pairs
JP3874714B2 (ja) キャッシング技法を用いたmpeg−4システム端末の制御方法
US7594025B2 (en) Startup methods and apparatuses for use in streaming content
JP2007529121A (ja) ストリーミングメディアの疎(sparse)キャッシング
KR19990087916A (ko) 인터넷콘볼루션오디오/비디오서버
EP1743249A2 (en) Apparatus, system, and method for adaptive-rate shifting of streaming content
JP2001204001A (ja) 動画像配信システム,再生端末装置,及び配信装置
CN113141522B (zh) 资源传输方法、装置、计算机设备及存储介质
US20020157102A1 (en) Moving picture streaming method in VOD system
US9665646B1 (en) Method and system for providing bit rate adaptaion to video files having metadata
JP3860957B2 (ja) マルチメディアデータの送出装置
KR20070024747A (ko) 네트워크 스위칭을 이용한 스트리밍 서비스 장치 및 방법
KR100931344B1 (ko) Vod 스트리밍 서비스를 제공하는 방법과 그를 위한시스템, 서버 및 사용자 단말기
Kinoshita et al. Low Latency Live Streaming System with Congestion Control
JP3920716B2 (ja) ストリーミングサービスの配信レート変更方法及びストリーム配信サーバ並びにストリーム配信プログラム及びその情報記録媒体
JP3670581B2 (ja) 映像音声配信装置及び映像音声ファイル解析方法
JP2002158657A (ja) ストリーム配信方法及びストリーム配信システム
KR20090000281A (ko) Ce 기기의 데이터 수신 장치 및 방법, 데이터 재생 방법및 ce 기기

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060925

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090929

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100929

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100929

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110929

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120929

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130929

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees