本発明は、ストリーミングデータ提供方法に関し、より詳細には、第1画面及び第2画面を含むマルチビューストリーミングサービス提供方法において、第1画面及び第2画面のストリーミングデータを同期化させて再生できるマルチビューストリーミングサービス支援方法及びこれを支援する装置に関する。
この部分に記述された内容は、単純に、本実施形態に対する背景情報を提供するだけで、従来技術を構成するものではない。
最近のインターネット環境において多様な動画サービスが登場するに伴い、高画質ライブ放送に対する需要が次第に増加している。また、最近、ライブストリーミング(live streaming)サービス方式に従って多様な動画サービスを提供しようとする試みが行われている。
ストリーミングサービスは、インターネットのようなネットワークを介してサーバーから端末にビデオ又はオーディオのようなコンテンツを伝送することを意味する。伝送されるデータがまるで水が流れることのように処理されると言って、ストリーミングと言う。サーバーは、ビデオをネットワークに伝送できるようにパケットに分離し、端末は、該パケットをさらに集めて元々の形態で復元した後、再生する。この際、再生とパケット受信は、同時に起こり、関連されたた一連のパケットをストリーム(stream)と言い、一連のパケットの集合をストリーミングデータと言う。
最近のストリーミングサービスは、マルチビュー機能を支援でき、ここで、マルチビューサービスは、PIP(Picture In Picture)サービスの一つであって、主画面が表示されている状態で、副画面が表示されるように処理されることを意味する。しかし、リアルタイムでストリーミングデータを伝達されて再生するストリーミングサービスは、主画面及び副画面の各々に独立的にストリーミングデータを提供することによって、主画面と副画面間の再生時間の差異が発生するという問題点がある。
本発明は、前述した従来の問題点を解決するために提案されたものであって、特に、MPEGメディアトランスポート(MMT;MPEG Media Transport)技術を利用してマルチビューストリーミングサービスを提供できるマルチビューストリーミングサービス支援方法及びこれを支援する装置を提供することに目的がある。
特に、本発明は、マルチビューストリーミングサービスの再生時に、第1画面と第2画面のストリーミングデータを同期化させて再生することによって、第1画面と第2画面との間に発生する時間差を低減できるマルチビューストリーミングサービス支援方法及びこれを支援する装置を提供することに目的がある。
また、本発明は、マルチビューストリーミングサービスの提供時に、第1画面と第2画面間のスイッチングイベント又は特定画面のサイズ調節イベント等、発生する多様なイベント情報によって適合なストリーミングデータをリアルタイムで構成し、端末に伝送できるマルチビューストリーミングサービス支援方法及びこれを支援する装置を提供することに目的がある。
しかし、このような本発明の目的は、前記の目的に制限されず、言及されない他の目的は、下記の記載から明確に理解され得る。
前述したような目的を達成するための本発明の実施形態によるマルチビューストリーミングサービスを支援する装置は、第1画面に対するMPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータの再生処理を支援する第1画面制御モジュールと、第2画面に対するMPEGメディアトランスポートストリーミングデータの再生処理を支援する第2画面制御モジュールと、マルチビューストリーミング再生要請時に、前記第1画面に対するストリーミングデータと前記第2画面に対するストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)に挿入された再生タイム情報を確認した後、前記再生タイム情報によって前記第1画面に対するストリーミングデータと前記第2画面に対するストリーミングデータの各メディアプロセッシングユニットを同期化させて再生されるように、前記第1画面制御モジュール及び前記第2画面制御モジュールを制御する再生制御モジュールと、を含んで構成され得る。
この際、前記再生制御モジュールは、現在装置内のタイム情報を確認し、確認されたタイム情報と各ストリーミングデータのメディアプロセッシングユニットごとに挿入された再生タイム情報との間に差異が発生する場合、各ストリーミングデータの各メディアプロセッシングユニットを同期化させて再生されるように、差異が発生したいずれか一つのストリーミングデータのメディアプロセッシングユニットの再生時点を制御できる。
また、前記再生制御モジュールは、第2画面に対するサイズ調節イベントが発生すると、前記マルチビューサービスサーバーから前記サイズ調節イベントによって変更された第2画面に対するストリーミングデータを受信できる。
また、前記再生制御モジュールは、前記第1画面制御モジュール及び前記第2画面制御モジュール間のスイッチングイベントが発生すると、前記マルチビューサービスサーバーから前記スイッチングイベントによって解像度が変更された第1画面に対するストリーミングデータと第2画面に対するストリーミングデータを受信できる。
前述したような目的を達成するための本発明の実施形態によるマルチビューストリーミングサービス支援方法は、端末がマルチビューサービスサーバーに第1画面に対するMPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータと第2画面に対するMPEGメディアトランスポートストリーミングデータを要請する段階と、前記端末が前記マルチビューサービスサーバーから前記第1画面に対するストリーミングデータと第2画面に対するストリーミングデータが受信されることによって、前記各ストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)に挿入された再生タイム情報を確認する段階と、前記端末が前記確認された再生タイム情報によって前記第1画面に対するストリーミングデータと前記第2画面に対するストリーミングデータの各メディアプロセッシングユニットを同期化させて再生されるように制御する段階と、を含んでなることができる。
この際、前記再生されるように制御する段階は、前記端末が前記第1画面に対するストリーミングデータの各メディアプロセッシングユニットごとに挿入された再生タイム情報を確認する段階と、前記端末が前記第2画面に対するストリーミングデータの各メディアプロセッシングユニットごとに挿入された再生タイム情報を確認する段階と、前記端末が現在タイム情報を確認し、確認されたタイム情報と各ストリーミングデータのメディアプロセッシングユニットごとに挿入された再生タイム情報との間に差異が発生する場合、各ストリーミングデータの各メディアプロセッシングユニットを同期化させて再生されるように、差異が発生したいずれか一つのストリーミングデータのメディアプロセッシングユニットの再生時点を制御する段階と、を含んでなることができる。
前述したような目的を達成するための本発明の実施形態によるマルチビューストリーミングサービス支援方法は、マルチビューサービスサーバーが、端末から第1画面に対するMPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータと第2画面に対するMPEGメディアトランスポートストリーミングデータの要請を受信する段階と、前記マルチビューサービスサーバーが、前記第1画面に対するストリーミングデータと前記第2画面に対するストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)ごとに再生タイム情報を挿入して前記端末に伝送する段階と、を含んでなることができる。
この際、前記端末に伝送する段階は、前記マルチビューサービスサーバーが前記端末の状況情報によって前記メディアプロセッシングユニットのブロックサイズを可変的に調節し、可変的に調節された各メディアプロセッシングユニットごとに再生タイム情報を挿入し、前記端末に伝送できる。
さらに、本発明は、前述したようなマルチビューストリーミングサービス支援方法を実行するプログラムを記録したコンピュータ読み取り可能な記録媒体を提供できる。
本発明のマルチビューストリーミングサービス支援方法及びこれを支援する装置によれば、MPEGメディアトランスポート(MMT;MPEG Media Transport)技術を利用してマルチビューストリーミングサービスをより効率的に端末に提供できる。
また、本発明によれば、マルチビューストリーミングサービスの再生時に、第1画面と第2画面のストリーミングデータを同期化させて再生することによって、第1画面と第2画面との間に発生する時間差を顕著に低減でき、ユーザの便宜性が向上することができる。
また、本発明によれば、第1画面と第2画面間のスイッチングイベント又は第2画面のサイズ調節イベント等発生する多様なイベント情報によって適合なストリーミングデータをリアルタイムで受信して再生し得、また、多様なイベント情報が発生しても、主画面と第2画面間の時間差なしにマルチビューストリーミングサービスを利用でき、ユーザの便宜性が極大化され得る。
また、前述した効果以外の多様な効果が、後述する本発明の実施形態による詳細な説明において直接的又は暗示的に開示され得る。
図1は、本発明で記述するMMTを説明するための例示図である。
図2は、本発明で記述するMMTを説明するための例示図である。
図3は、本発明の実施形態によるマルチビューストリーミングサービス支援方法が適用されたシステムの構成を概略的に示す構成図である。
図4は、本発明の実施形態による端末の主要構成を示すブロック図である。
図5は、本発明の実施形態によるマルチビューストリーミングサービス支援方法を説明するための端末画面例示図である。
図6は、本発明の実施形態によるマルチビューサービスサーバーの主要構成を示すブロック図である。
図7は、本発明の実施形態によるMMTストリーミングデータを説明するための例示図である。
図8は、本発明の実施形態によるマルチビューストリーミングサービス支援方法を説明するためのデータ流れ図である。
図9は、本発明の一実施形態によるマルチビューストリーミングサービス支援方法を説明するためのデータ流れ図である。
図10は、本発明の他の実施形態によるマルチビューストリーミングサービス支援方法を説明するためのデータ流れ図である。
本発明の課題解決手段の特徴及び利点を一層明確にするために、添付の図面に示された本発明の特定の実施形態を参照して本発明を詳細に説明する。
但し、下記の説明及び添付の図面において本発明の要旨を不明にすることができる公知機能または構成に対する詳細な説明を省略する。また、図面全体にわたって同じ構成要素は、できるだけ、同じ参照符号で示していることに留意しなければならない。
以下の説明及び図面で使用された用語や単語は、通常的や辞書的な意味に限定すべきものではなく、発明者は、自分の発明を最善の方法で説明するための用語の概念で適切に定義できるという原則に即して本発明の技術的思想に符合する意味と概念に解釈すべきである。したがって、本明細書に記載した実施形態と図面に示された構成は、本発明の最も好ましい一実施形態に過ぎず、本発明の技術的思想をすべて代弁するものではないので、本出願時点においてこれらを代替できる多様な均等物と変形例があり得ることを理解しなければならない。
なお、第1、第2等のように序数を含む用語は、多様な構成要素を説明するために使用するものであって、1つの構成要素を他の構成要素から区別する目的だけで使用され、前記構成要素を限定するために使用するものではない。例えば、本発明の権利範囲を逸脱することなく、第2構成要素は、第1構成要素と命名され得、同様に、第1構成要素は、第2構成要素と命名され得る。
また、任意の構成要素が他の構成要素に「連結されて」いるか、「接続されて」いると言及する場合、これは、論理的または物理的に連結されるか、接続され得ることを意味する。言い換えれば、構成要素が他の構成要素に直接的に連結されるか、接続され得るが、中間に他の構成要素が存在してもよく、間接的に連結されるか、接続されてもよいと理解しなければならない。
また、本明細書で使用した用語は、ただ特定の実施形態を説明するために使用されたものであって、本発明を限定しようとする意図ではない。単数の表現は、文脈上、明白に異なって意味しない限り、複数の表現を含む。また、本明細書で記述される「含む」又は「有する」等の用語は、明細書上に記載された特徴、数字、段階、動作、構成要素、部品又はこれらを組み合わせたものが存在することを指定しようとするものであって、一つ又はそれ以上の他の特徴や数字、段階、動作、構成要素、部品又はこれらを組み合わせたもの等の存在又は付加可能性をあらかじめ排除しないものと理解されなければならない。
なお、本発明の範囲内の実施形態は、コンピュータ実行可能なコマンド又はコンピュータ読み取り可能媒体に格納されたデータ構造を有するか、伝達するコンピュータ読み取り可能な媒体を含む。このようなコンピュータ読み取り可能な媒体は、汎用又は特殊目的のコンピュータシステムによりアクセス可能な任意の利用可能な媒体であることができる。例として、このようなコンピュータ読み取り可能な媒体は、RAM、ROM、EPROM、CD−ROM又はその他光ディスク格納装置、磁気ディスク格納装置又はその他磁気格納装置、又はコンピュータ実行可能なコマンド、コンピュータ読み取り可能なコマンド又はデータ構造の形態よりなる所定のプログラムコード手段を格納するか又は伝達するのに利用され得、汎用又は特殊目的コンピュータシステムによりアクセスされ得る任意のその他媒体のような物理的格納媒体を含むことができるが、これに限定されない。
以下の説明及び特許請求範囲で、「ネットワーク」又は「通信網」は、コンピュータシステム及び/又はモジュール間の電子データを伝送できるようにする一つ以上のデータリンクとして定義される。情報がネットワーク又は他の(有線、無線、又は有線又は無線の組合である)通信接続を介してコンピュータシステムに伝送されるか、又は提供されるとき、この接続は、コンピュータ読み取り可能な媒体として理解され得る。コンピュータ読み取り可能なコマンドは、例えば、汎用コンピュータシステム又は特殊目的コンピュータシステムが特定の機能又は機能のグループを行うようにするコマンド及びデータを含む。コンピュータ実行可能なコマンドは、例えば、アセンブリー語、又は、甚だしくは、ソースコードのような二進、中間フォーマットコマンドであることができる。
また、本発明は、パーソナルコンピュータ、ラップトップコンピュータ、ハンドヘルド装置、マルチプロセッサーシステム、マイクロプロセッサー基盤又はプログラム可能な家電製品(programmable consumer electronics)、ネットワークPC、ミニコンピュータ、メインフレームコンピュータ、モバイル電話、PDA、ページャー(pager)等を含む多様な類型のコンピュータシステム構成を有するネットワークコンピュータ環境で実施され得る。
本発明は、また、ネットワークを介して有線データリンク、無線データリンク、又は有線及び無線データリンクの組合でリンクされたローカル及び遠隔コンピュータシステムのすべてがタスクを行う分散型システム環境で実行され得る。分散型システム環境で、プログラムモジュールは、ローカル及び遠隔メモリ格納装置に位置し得る。
本発明の実施形態を説明するに先立って、本発明の技術的背景は、MPEGMMT(MPEG Media Transport)技術であることを仮定して説明する。しかし、これは、説明の便宜のための例示に過ぎず、本発明が必ずMMT技術にのみ適用されるものではない。
以下、本明細書で記述する用語の意味は、次のように定義できる。
コンテンツコンポネント(content component)又はメディアコンポネント(media component)は、単一種類のメディア(media of a single type)又は単一種類のメディアの部分集合(subset of the media of a single type)として定義され、例えば、ビデオトラック(video track)、映画字幕(movie subtitles)、又はビデオ向上階層(enhancement layer of video)になり得る。
コンテンツ(content)は、コンテンツコンポネントの集合と定義し、例えば映画(movie)、歌(song)等になり得る。
ハイブリッド伝送(hybrid delievery)は、一つ又はそれ以上のコンテンツコンポネントが一つ以上の物理的に互いに異なる形態の網(network)を介して同時に伝送されるものと定義する。
表現(presentation)は、ユーザが一つのコンテンツコンポネント又は一つのサービスを経験(例えば映画感想)できるように、一つ又は一つ以上の装置により行われる動作(operation)と定義する。
サービス(service)は、表現(presentation)又は格納(storage)のために伝送される一つ又は一つ以上のコンテンツコンポネントと定義する。
サービス情報(service information)は、一つのサービス、前記サービスの特性(characteristics)及びコンポネントを記述するメタデータと定義する。
ナンタイムドデータ(Non−timed data)は、時間を明示せず消費されるすべてのデータ要素を定義する。ナンタイムドデータは、そのメディアユニットのデコーディング及び/又は表現のための固有な同期化情報を有しないデータである。
タイムドデータ(timed data)は、そのメディアユニットのデコーディング及び/又は表現のための固有な同期化情報を有するデータであって、デコーディング及びプレゼンテーションされる特定の時間と関連されたデータ要素を定義する。
メディアフラグメントユニット(Media Fragment Unit;MFU)は、どんな特定のコーデックにも独立された一般的なコンテナであって、メディアデコーダーにより独立的に消費され得る符号化されたメディアデータを収容する。アクセスユニット(AU)は、タイムドメディアデータのためのアクセスユニット(AU)の全部又は一部のように、メディアデコーダーにより独立的にデコード可能なメディアデータ又はノンタイムドメディアデータのための一つのファイルを含む。これは、アクセスユニット(AU)より小さいか又は同じサイズを持ってトランスポート階層(Transport layer)で使用され得る情報を収容する。
MMT個体(MMT entity)は、MMTプロファイルに従うソフトウェア又はハードウェアの具現である。
MMTパケット(MMT packet)は、MMTプロトコルによって生成又は消費されるデータの形式化されたユニット(formatted unit)である。
MMTペイロード(MMT payload)は、パッケージを輸送するか、MMTプロトコルやインターネット応用階層伝送プロトコル(例えばRTP(Real−Time Transport Protocol)がある)を使用してメッセージをシグナリングするデータの形式化されたユニットである。
MMTプロトコルは、MMTペイロードをIPネットワークを介して伝達するための応用階層伝送プロトコルである。
MMTペイロードフォーマット(MMT payload format)は、MMTプロトコル又はインターネット応用階層プロトコル(例えば、RTP)により伝達されるMMTパッケージ又はMMTシグナリングメッセージのペイロードのためのフォーマットである。
また、本発明の実施形態を説明するに先立って、本明細書で記述するMMTパッケージ構成について図1及び図2を参照してより具体的に説明する。
図1及び図2は、本発明で記述するMMTを説明するための例示図である。
図1を参照すれば、MMTパッケージ500は、MMT機能領域で定義するデータモデルのうち論理的に構造化された最も大きいMMT個体(entity)であって、映画一編のような一つの独立的なコンテンツを意味する。ストリーミングデータサービスを提供するライブストリーミング提供サーバーは、このようなMMTパッケージを生成し、端末に提供でき、MMTパッケージ500は、図1に示されたように、多数の個体の集めで構成される論理的に構造化されたコレクションになり得る。このようなMMTパッケージ500は、一つ以上のアセット505、構成情報502、伝送特性503及び説明的な(descriptive)情報、すなわちパッケージ情報501を含むことができる。
このうち、構成情報(Composition Information)502は、MMTアセット505間の関係(relationship)、すなわち空間的及び時間的関係に対する情報を含み、一つのコンテンツ(content)が複数個のMMTパッケージよりなる場合、複数のMMTパッケージ間の関係(relationship)を示すための情報をさらに含むことができる。
伝送特性(ADC;Asset Delivery Characteristics)503は、アセット505の伝達のためのQoS(Quality of Service)要求及び統計を示す。複数のアセット505は、一つの伝送特性503に関連できる。この際の伝送特性503は、アセット505の効果的な伝達のためにパッケージをカプセル化する個体によりMMTペイロード及びMMTプロトコルのパラメータを設定するのに使用され得る。また、伝送特性503は、MMTアセット505又はMMTパケットの伝達条件(delivery condition)を決定するために必要な伝達特性情報を含むことができ、例えばトラフィック記述パラメータ(traffic description parameter)及びQoS記述子(QoS descriptor)を含むことができる。このような伝達特性情報は、通信網の環境に関係ないパラメータ形態で表現され得る。
アセット505は、タイムド又はナンタイムド性質を有するオーディオ、ビデオ又はウェブページデータのような符号化されたメディアデータをカプセル化するパッケージの要素を意味するものであって、最も大きい論理的データ単位を意味する。このようなアセット505は、同一の伝達特性でデータを含むデータ個体を意味する。例えば、MMTパッケージ500は、MMT機能領域で定義するデータモデルのうち最も大きい個体(entity)であって、一編の映画のような一つの独立的なコンテンツを意味するとしたら、アセット505は、オーディオデータ、ビデオデータ、スクリプトデータのようなMMTパッケージ500を構成するデータ単位を意味する。
このような本発明のアセット505について図2を参照してさらに具体的に説明すると、本発明のアセット505は、少なくとも一つ以上のMPU506で構成され得る。ここで、MPU506は、メディアプロセッシングユニット(MPU;Media Processing Unit、以下、MPUという)を意味し、論理的なデータ客体であって、一つのアセット505を構成する複数のMPU506は、同一のアセットIDを含む。
また、MPU506は、どんな特定のメディアコーデックにも独立された、タイムド又はナンタイムドデータに対する包括的なコンテナであることができる。このようなMPU506は、完全で且つ独立的に処理され得る符号化されたメディアデータであって、MPUのプロセッシングは、パッケージへのエンカプセレーション又は伝達のためのパケット化を意味できる。このような、MPU506は、タイムドデータのための一つ以上のアクセスユニットを含むことができる。ここで、アクセスユニット(AU;Access Unit)は、時間情報を有することができる最も小さいデータ個体である。また、MPU506は、ナンタイムドデータのためのアクセスユニット境界がないデータの部分を含んで構成され得る。このようなMPU506は、完全で且つ独立的に処理され得るコードされたメディアデータユニットであって、ヘッダー507とコードされたデータ508で構成され得る。なお、本発明のMPU506は、メディアフラグメントユニット(MFU;Media Fragment Unit)でさらに構成され得る。
このような本発明のMMTパッケージ500は、MPU基盤で適用され、動作され得、以下の説明では、MMTストリーミングデータのメディアプロセッシングユニット単位で処理が行われることを中心に説明するが、これに限定されるものではなく、システム具現方式に従ってメディアフラグメントユニット単位で本発明の処理が行われることもできる。
以下では、まず、本発明の実施形態によるマルチビューストリーミングサービス支援方法が適用された全体システムの構造について説明する。
図3は、本発明の実施形態によるマルチビューストリーミングサービス支援方法が適用されたシステムの構成を概略的に示す構成図である。
図3を参照すれば、本発明の実施形態によるシステム100は、多数の端末10と通信網50を経て多数の端末10にストリーミングデータサービスを提供するマルチビューサービスサーバー20を含んで構成され得る。
各構成要素についてより具体的に説明すれば、まず、端末10は、ユーザの操作によって通信網50を経てマルチビューサービスサーバー20と情報を送受信できるユーザの装置を意味する。このような端末10は、通信網50を介して音声又はデータ通信を行うことができる。このための本発明の端末10は、情報の送受信のためのブラウザー、プログラム及びプロトコルを格納するメモリ、各種プログラムを実行し、演算及び制御するためのマイクロプロセッサー等を具備できる。特に、本発明の実施形態による端末10は、マルチビューサービスサーバー20から伝達されるMPEGメディアトランスポートストリーミングデータ(以下、「MMTストリーミングデータ」という)を再生し処理し得、特に、第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータをPIP形式で表示される過程を支援できる。
このような本発明の実施形態による端末10は、多様な形態で具現され得る。例えば、本明細書で記述される端末10は、スマートフォン(smart phone)、タブレットPC(Tablet PC)、PDA(Personal Digital Assistants)、PMP(Portable Multimedia Player)、MP3Player等の移動端末機はもちろん、スマートテレビ(Smart TV)、デスクトップコンピュータ等のような固定端末機が使用されることもできる。
このような本発明の端末10は、デジタル機器のコンバージェンス(convergence)傾向によって携帯機器の変形が非常に多様で、すべて列挙することはできないが、前記言及されたユニットと同等な水準のユニットが本発明による端末10に適用され得、特に、通信網50を経てマルチビューサービスサーバー20からMMTストリーミングデータを受信し、これを処理できる装置であれば、いずれの装置も本発明の実施形態による端末10に利用され得る。
マルチビューサービスサーバー20は、本発明の実施形態によるMMTストリーミングデータを端末10の要請に従って端末10に伝達する役目を行う。ここで、MMTストリーミングデータは、前述したように、MMTパケット形態で端末10に伝達され得るストリーミングデータを意味する。このようなマルチビューサービスサーバー20は、端末10にMMTストリーミングデータ形式によって例えば放送サービスを提供できる。特に、本発明の実施形態によるマルチビューサービスサーバー20は、端末10にMMTストリーミングデータ伝送するとき、端末10のマルチビューストリーミング再生要請に従って、第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータを順次に伝送できる。
また、マルチビューサービスサーバー20は、コンテンツ提供サーバー30と連動して、コンテンツ提供サーバー30から伝達されるデータをMMTストリーミングデータに変換処理し、端末10に伝達することもできる。
前述したような端末10及びマルチビューサービスサーバー20は、通信網50を介して多様な情報を送受信する。本発明の実施形態による通信網50は、 WLAN(Wireless LAN)、ワイファイ(Wi−Fi)、ワイブロ(Wibro)、ワイマックス(Wimax)、HSDPA(High Speed Downlink Packet Access)等の無線通信方式を利用することが好ましいが、これに限定されるものではなく、システム具現方式に従ってイダーネット(Ethernet)、xDSL(ADSL、VDSL)、HFC(Hybrid Fiber Coaxial Cable)、FTTC(Fiber to The Curb)、FTTH(Fiber To The Home)等の有線通信方式を利用することもできる。
このような本発明の実施形態による通信網50は、例えば、接続網(図示せず)、コア網(図示せず)及びインターネット網(図示せず)を含んで構成され得る。
ここで、接続網(図示せず)は、端末10のコア網(図示せず)への接近を支援するものであって、有無線通信方式に従って端末10のコア網(図示せず)接近を支援できる。このような接続網(図示せず)は、複数の基地局を含む。ここで、基地局は、例えばBS(Base Station)、BTS(Base Transceiver Station)、NodeB、eNodeB等のような多数の基地局を含む概念になり得、基地局とBSC(BaseStation Controller)、RNC(Radio Network Controller)のような基地局制御機のすべてを含む概念になり得る。また、基地局は、基地局に一体に具現されていたデジタル信号処理部と無線信号処理部をそれぞれデジタルユニット(Digital Unit、以下、DUという)と無線ユニット(Radio Unit、以下、RUという)に区分し、多数の領域にそれぞれ多数のRU(図示せず)を設置し、多数のRU(図示せず)を集中化されたDU(図示せず)と連結して構成することもできる。
接続網(図示せず)と一緒に通信網(図示せず)を構成するコア網(図示せず)は、接続網(図示せず)と外部網、例えば、インターネット網(図示せず)を連結する役目を行う。
このようなコア網(図示せず)は、前述したように、接続網(図示せず)間の移動性制御及びスイッチング等の移動通信サービスのための主要機能を行うネットワークシステムであって、サーキット交換(circuit switching)又はパケット交換(packet switching)を行い、ネットワーク内でのパケット流れを管理及び制御する。また、コア網(図示せず)は、周波数間の移動性を管理し、接続網(図示せず)及びコア網(図示せず)内のトラフィック及び他のネットワーク、例えばインターネット網(図示せず)との連動のための役目を行うこともできる。このようなコア網(図示せず)は、SGW(Serving GateWay)、PGW(PDN GateWay)、MSC(Mobile Switching Center)、HLR(Home Location Register)、MME(Mobile Mobility Entity)とHSS(Home Subscriber Server)等をさらに含んで構成されることもできる。
また、インターネット網(図示せず)は、TCP/IPプロトコルによって情報が交換される通常の公開された通信網、すなわち共用網を意味するものであって、マルチビューサービスサーバー20と連結され、マルチビューサービスサーバー20から端末10に伝達されるMMTストリーミングデータをコア網(図示せず)及び接続網(図示せず)を経て端末10に提供されるように支援する役目を行うことができる。
一方、端末10は、接続網(図示せず)、コア網(図示せず)、及びインターネット網(図示せず)を経てマルチビューサービスサーバー20にMMTストリーミングデータ受信のための各種命令を伝送できる。しかし、これに限定されるものではなく、マルチビューサービスサーバー20は、コア網(図示せず)内に位置でき、コア網(図示せず)を運用する事業者と同一の事業者又は互いに異なる事業者により運用されることもできる。
また、前述した通信方式以外にも、その他広く公知されたか、以後開発されるすべての形態の通信方式を含むことができる。
前述したような本発明を構成する端末10及びマルチビューサービスサーバー20の主要構成及びより具体的な動作方法については、後述して説明するようにし、本発明の実施形態による各装置に搭載されるプロセッサは、本発明による方法を実行するためのプログラム命令を処理できる。一具現例で、このプロセッサは、シングルスレッド(Single−threaded)プロセッサであることができ、他の具現例で、このプロセッサは、マルチスレッド(Multithreaded)プロセッサであることができる。ひいては、このプロセッサは、メモリ或いは格納装置上に格納された命令を処理することが可能である。
以下、本発明の実施形態による端末10の主要構成及び動作方法について説明する。
図4は、本発明の実施形態による端末の主要構成を示すブロック図である。
図3及び図4を参照すると、本発明の実施形態による端末10は、通信部11、入力部12、制御部13、格納部14及び表示部15を含んで構成され得る。
各構成要素についてより具体的に説明すると、まず、通信部11は、コア網(図示せず)接続のために、隣近の接続網(図示せず)に接続される過程を支援できる。例えば通信部11は、一定半径内に位置する基地局(図示せず)を探索し、探索された基地局(図示せず)への接続要請を行い、基地局(図示せず)と接続される過程を支援することによって、接続網(図示せず)に接続され得る。ここで、端末10の通信部11が接続網(図示せず)の基地局(図示せず)に接続される過程は、公知された多様な構成を採用できるので、具体的な説明は、省略する。なお、通信部11が基地局(図示せず)と通信手続を行うとき、ユーザ情報を伝送できる。基本的に、IMSI(International Mobile Subscriber Identity)等のような端末識別番号等を基地局(図示せず)に伝送でき、基地局(図示せず)がコア網(図示せず)との接続手続を行う間に、端末識別番号等を利用して加入者情報を確認できる。
なお、本発明の実施形態による通信部11は、通信網50を介してマルチビューサービスサーバー20にMMTストリーミングデータ伝送を要請し、伝達されるMMTストリーミングデータを制御部13に伝達する役目を行う。
入力部12は、ユーザから入力される数字及び文字情報等の多様な情報、各種機能設定及び端末10の機能制御と関連して入力される信号を制御部13に伝達する。特に、本発明の入力部12は、MMTストリーミングデータ伝送要請のためのユーザ入力を支援できる。例えば、ユーザからMMTストリーミングデータを再生できるアプリケーションの実行入力を支援し、アプリケーションを介して特定チャネルに対する選択命令情報の入力を支援できる。また、本発明の入力部12は、マルチビューストリーミング再生要請に対するユーザ入力を支援できる。ここで、マルチビューストリーミング再生要請は、例えば、MMTストリーミングデータを再生できる特定のアプリケーションでMMTストリーミングデータ再生中に特定メニューの選択入力、特定ボタンの選択入力によって発生され得、これにより、当該アプリケーションは、複数の画面が同時に再生され得るマルチビューストリーミング機能に転換され得る。
このような入力部12は、前述したように、キーボードやキーパッドのようなキー入力手段、タッチセンサーやタッチパッドのようなタッチ入力手段、音声入力手段、ジャイロセンサー、地磁気センサー、加速度センサー、近接センサー、及びカメラのうち少なくとも一つ以上を含んでなるジェスチャー入力手段を含むこともできる。
そのほか、現在開発中又は以後開発され得るすべての形態の入力手段が含まれることができる。
制御部13は、端末10の全般的な制御を行うものであって、ハードウェア的にCPU(Central Processing Unit)/MPU(Micro Processing Unit)を含む少なくとも一つ以上のプロセッサと少なくとも一つ以上のメモリローディングデータがローディングされる実行メモリ(例えば、レジスタ及び/又はRAM(Random Access Memory))及び前記プロセッサとメモリに少なくとも一つ以上のデータを入出力するバス(BUS)を含んでなることができる。また、ソフトウェア的に端末10に定義された機能を行うために、所定の記録媒体から前記実行メモリにローディングされ、前記プロセッサにより演算処理される所定のプログラムルーチン(Routine)又はプログラムデータを含んでなることができる。言い換えれば、本発明の実施形態によるマルチビューサービスサーバー20にMMTストリーミングデータを要請し受信し、マルチビュー機能を用いてMMTストリーミングデータを処理するために、端末10に具備される機能のうちソフトウェア的に処理が可能な構成要素を制御部13の機能として判断できる。
このような、本発明の制御部13は、本発明の実施形態によるストリーミングデータ処理のために具備される少なくとも一つ以上の構成要素と機能的に連結される。すなわち、制御部13は、通信部11、入力部12、格納部14及び表示部15と機能的に連結され、前記各構成要素に電源供給及び機能実行のための信号の流れを制御する。
特に、本発明の実施形態による制御部13は、MPEGメディアトランスポートストリーミングデータを処理できるMPEG−2TS処理機能を支援できる。例えば、マルチビューサービスサーバー20から伝達される複数のMPUで構成されるMMTストリーミングデータを受信でき、ストリーミングデータが複数のアセットで構成される場合、複数のアセットをタイム情報によって同期化して再生して出力する機能を行うことができる。また、本発明の制御部13は、MMTプロトコルで定義する多様な動作実行のための機能を処理できる。このような本発明の制御部13は、マルチビューストリーミングサービス機能を支援するために、第1画面制御モジュール13a、第2画面制御モジュール13b、再生制御モジュール13c及びタイム生成モジュール13dを含んで構成され得る。ここで、本発明の制御部13が前記第1画面制御モジュール13a及び第2画面制御モジュール13bのみを含むことを例示して説明するが、これに限定されるものではなく、本発明の制御部13は、複数の画面制御モジュールで構成され、複数の画面で構成されるマルチビューストリーミングサービス機能を支援できる。すなわち、主画面である第1画面が表示されている状態で、副画面である第2画面及び第3画面を同時に表示することもでき、このためのそれぞれの画面制御モジュールを含んで構成され得る。なお、前述した機能は、一つのモジュールを介して動作されることもできる。
以下では、説明の便宜のために、主画面である第1画面制御モジュール13a及び副画面である第2画面制御モジュール13bを中心に説明する。
第1画面制御モジュール13aは、第1画面に対するMMTストリーミングデータの再生処理を支援する。ここで、第1画面は、全体画面を介して表示される主画面になり得る。また、第2画面制御モジュール13bは、第2画面に対するMMTストリーミングデータの再生処理を支援する。ここで、第2画面は、第1画面上に表示され、第1画面の表示サイズより小さく表示され得る副画面を意味できる。
第1画面制御モジュール13a及び第2画面制御モジュール13b間のMMTストリーミングデータ再生の制御は、再生制御モジュール13cを介して行われることができる。すなわち、再生制御モジュール13cは、前記第1画面制御モジュール13aを介して第1画面に対するMMTストリーミングデータが再生されている状態で、入力部12を介してマルチビューストリーミング再生要請が入力されると、前記第2画面制御モジュール13bを駆動させて、副画面である第2画面が活性化されるように制御し、MMTストリーミングデータが第2画面を介して表示されるように、第2画面制御モジュール13bを制御できる。この際、第2画面制御モジュール13bを介して表示される第2画面に対するMMTストリーミングデータは、第1画面制御モジュール13aを介して表示される第1画面に対するMMTストリーミングデータと同一であってもよく、異なる場面、異なるチャネル等のように、互いに異なるMMTストリーミングデータであってもよく。
すなわち、図5に示されたように、MMTストリーミングデータを再生できるアプリケーション600が実行されている状態で、主画面である第1画面610を介してMMTストリーミングデータが再生され得る。この際、特定メニュー又は命令ボタンを介してマルチビューサービス機能が活性化されると、副画面である第2画面620が活性化されて表示され得、第1画面610と第2画面620は、同一のMMTストリーミングデータを再生することもでき、互いに異なるチャネル、又は互いに異なるMMTストリーミングデータを再生することもできる。同一のMMTストリーミングデータの場合、第1画面610を介して表示されるMMTストリーミングデータの一領域を拡大したMMTストリーミングデータを含むことができる。
従来のストリーミングサービスにおいてのマルチビュー機能の場合、第1画面610と第2画面620との間に表示されるストリーミングデータの再生時点に差が発生するという問題点がある。すなわち、同一のストリーミングデータを再生していても、第1画面610と第2画面620間の同期がなされず、第1画面610より第1画面620を介して出力されるストリーミングデータが遅延されて出力されるか、第1画面610を介して出力されるストリーミングデータが遅延されて出力され得るという問題点がある。
本発明は、このような問題点を改善するためのものであって、図4に示された本発明の再生制御モジュール13cは、第1画面に対するストリーミングデータと第2画面に対するストリーミングデータを再生する前に、各MPUごとに挿入された再生タイム情報を確認した後、確認された再生タイム情報によって第1画面に対するストリーミングデータと第2画面に対するストリーミングデータの各MPUを同期化させて再生されるように制御できる。例えば、マルチビューサービスサーバー20から受信された第1画面制御モジュール13aが要請した第1画面に対するMMTストリーミングデータのMPUに挿入された再生タイム情報が「10:10:10.3」であり、第2画面制御モジュール13bが要請した第2画面に対するMMTストリーミングデータのMPUに挿入された再生タイム情報が「10:10:10.3」であると仮定する。そして、第1画面に対するMMTストリーミングデータのMPUが第1画面制御モジュール13aに伝達された時点が「10:10:10.0」であり、第2画面に対するMMTストリーミングデータのMPUが第2画面制御モジュール13bに伝達された時点が「10:10:10.3」であると仮定する。この際、前記第1画面制御モジュール13a及び第2画面制御モジュール13bが各ストリーミングデータが受信され次第に、受信されたストリーミングデータを再生する場合、第1画面と第2画面間の再生時点が互いに異なるという問題点が発生し、本発明の再生制御モジュール13cは、第1画面に対するMMTストリーミングデータのMPUと第2画面に対するMMTストリーミングデータのMPUは、互いに同一の時間の再生タイム情報を含んでいるので、受信された直ちに、各制御モジュールを介して出力されるように制御するものではなく、再生タイム情報によっていずれか一つ、前述した例で第1画面に対するMMTストリーミングデータの以前MPUを所定時間増やすか、受信された現在MPUを所定時間遅延させて、10:10:10.3秒に受信された各現在MPUが同一の時点に再生されるように制御できる。
他の例として、第1画面に対するMMTストリーミングデータのMPUが第1画面制御モジュール13aに伝達された時点が「10:10:10.5」であり、第2画面に対するMMTストリーミングデータのMPUが第2画面制御モジュール13bに伝達された時点が「10:10:10.3」である場合、すなわち、第1画面に対するMMTストリーミングデータのMPUが挿入された再生タイム情報より遅く受信された場合、再生制御モジュール13cは、直ちにストリーミングデータが再生されるように制御するものではなく、第2画面制御モジュール13bを制御し、第2画面に対するMMTストリーミングデータが10:10:10.5秒に第1画面に対するMMTストリーミングデータのMPUと同時に再生されるように制御できる。言い換えれば、第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータで再生タイム情報の同一のMPUは、同時に再生されるように制御するもので、この際、第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータのMPUのうちいずれか一つは、挿入された再生タイム情報より遅く再生されるか、速く再生され得る。
なお、本発明の実施形態による第1画面制御モジュール13a及び第2画面制御モジュール13bは、それぞれ第1画面及び第2画面に対する各種イベント命令を処理できる。例えば、第2画面に対するサイズ調節イベントが発生すると、第2画面制御モジュール13bは、マルチビューサービスサーバー20にこれについて案内する。ここで、サイズ調節イベントは、例えば、第2画面領域に対するマルチタッチ入力によって発生し得る。第2画面制御モジュール13bは、このようなサイズ調節イベントが発生すると、第2画面に対する以前サイズ情報、変更された現在サイズ情報、第2画面の位置情報等をマルチビューサービスサーバー20に案内できる。なお、スイッチングイベントが発生すると、言い換えれば、第2画面と第1画面間のスイッチングイベントが発生すると、第1画面制御モジュール13a又は第2画面制御モジュール13bの両方のうちいずれか一つがマルチビューサービスサーバー20にこれについて案内できる。この時も、同様に、必要な情報を含んでマルチビューサービスサーバー20に案内できる。
タイム生成モジュール13dは、端末10に具備された各種資源を利用して現在端末の時間情報を確認する。例えば、端末10に具備されたGPSを介して現在端末の時間情報を確認できる。
格納部14は、本発明の実施形態による機能動作に必要な応用プログラムを含めて、当該応用プログラム実行中に発生する多様なデータを一時的に格納できる。特に、本発明の実施形態による格納部14は、本発明の実施形態によるMMTストリーミングデータ処理のための多様な命令を格納できる。
このような格納部14は、大きく、プログラム領域とデータ領域を含むことができる。プログラム領域は、端末10を起動させる運営体制(OS)のような端末10の駆動のための関連した情報を格納する。データ領域は、端末10の使用によって発生するデータが格納される領域であって、前述したように、ストリーミングデータ処理のための多様な命令が格納され得る。このような、格納部14は、フラッシュメモリ(flash memory)、ハードディスク(hard disk)、マルチメディアカードマイクロ(multimedia card micro)タイプのメモリ(例えば、SD又はXDメモリ等)、ラム(RAM)、ロム(ROM)等の格納媒体を含んで構成され得る。
表示部15は、端末10の機能実行中に発生する一連の動作状態及び動作結果等に対する情報を表示する。特に、本発明の表示部15は、マルチビューサービスサーバー20からストリーミングデータを再生することによって発生する情報を表示できる。特に、第1画面と第2画面に対応する領域に第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータが出力されて表示される過程を支援できる。なお、本発明の表示部15は、第1画面及び第2画面以外の複数個の画面領域をさらに構成して出力することもできる。
このような、表示部15は、前述したように、入力部12とともに一つのタッチパネル(又はタッチスクリーン)の形態で具現されることもでき、前記入力部12とともに具現される場合、ユーザのタッチ動作によって発生する多様な情報を表示できる。
また、前述したような本発明の表示部15は、LCD(Liquid Crystal Display)、TFT−LCD(Thin Film Transistor LCD)、OLED(Organic Light Emitting Diodes)、発光ダイオード(LED)、AMOLED(Active Matrix Organic LED)、フレキシブルディスプレイ(Flexible display)及び3次元ディスプレイ(3Dimension)等で構成され得る。また、これらのうち一部のディスプレイは、それを介して外部が見られるように、透明型又は光透過型で構成され得る。これは、TOLED(Transparant OLED)を含む透明ディスプレイ形態で構成され得る。
このように、図4を参照して端末10の主要構成要素について説明した。しかし、図4に図示された構成要素がすべて必須構成要素であるものではなく、図示された構成要素より多い構成要素により端末10が具現されることもでき、それより少ない構成要素により端末10が具現されることもできる。例えば、端末10は、電気的な信号である音源をアナログ信号に変換して出力する音源出力部(図示せず)をさらに含んで構成され得、このような音源出力部(図示せず)は、マルチビューサービスサーバー20から伝達されたMMTストリーミングデータの再生時に発生する多様な情報を出力できる。
また、図4に図示された端末10の主要構成要素の位置は、便宜上又は他の理由により変わってもよいことはもちろんである。また、制御部13を構成するモジュールは、第1画面制御モジュール13a、第2画面制御モジュール13b、再生制御モジュール13c及びタイム生成モジュール13dのみを図示したが、これに限定されるものではなく、多様な機能を行う多様なモジュールで制御部13が構成されることもできる。また、説明の便宜のために、第1画面制御モジュール13a及び第2画面制御モジュール13bを用いて第1画面MMTストリーミングデータと第2画面MMTストリーミングデータが処理されることを例示して説明したが、一つのモジュールを用いて第1画面MMTストリーミングデータと第2画面MMTストリーミングデータが処理されることもできる。
また、本発明では、説明の便宜のために、主画面である第1画面及び副画面である第2画面のみを例示して説明したが、副画面は、複数個生成され得、それぞれの副画面は、MMTストリーミングデータを受信して出力し得る。
以下、本発明の実施形態によるマルチビューサービスサーバー20の主要構成及び動作方法について説明する。
図6は、本発明の実施形態によるマルチビューサービスサーバーの主要構成を示すブロック図である。
図3及び図6を参照すれば、本発明の実施形態によるマルチビューサービスサーバー20は、サーバー通信部21、サーバー制御部22及びサーバー格納部23を含んで構成され得る。
サーバー通信部21は、端末10と情報の送受信を支援する役目を行う。例えば、サーバー通信部21は、端末10からMMTストリーミングデータの伝送要請を受信でき、端末10にMMTストリーミングデータを伝送できる。ここで、MMTストリーミングデータは、一つ以上のアセットで構成され得、一つのアセットは、複数個のMPUで構成され得る。サーバー通信部21は、複数個のMPUで構成される複数のアセットをストリーミング方式に従って順次に一つのチャネルを介して端末10に伝達できる。また、本発明のサーバー通信部21は、端末10の要請に従って第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータを順次に端末10に伝達でき、この際のMMTストリーミングデータは、同一のアセットIDを含むか、互いに異なるアセットIDを含むことができる。また、同一のチャネルを介して端末10に伝達されるか、互いに異なるチャネルを介して端末10に伝達されることもできる。
なお、サーバー通信部21がコンテンツ提供サーバー30と情報を送受信する場合、サーバー通信部21は、特定のコンテンツの提供要請をコンテンツ提供サーバー30に伝送し、コンテンツ提供サーバー30から伝達されるコンテンツを受信することもできる。この際、本発明のサーバー通信部21は、サーバー制御部22の制御によってコンテンツ提供サーバー30から第1画面及び第2画面ストリーミングデータ生成のために必要なコンテンツをあらかじめ要請し、端末10のマルチビューストリーミングサービス要請以前に当該コンテンツを受信できる。
サーバー制御部22は、本発明の実施形態によるマルチビューサービスサーバー20の全般的な制御を行う構成であって、ストリーミングデータ生成モジュール22a及びストリーミングデータ伝送モジュール22bを含んで構成され得る。
ここで、ストリーミングデータ生成モジュール22aは、MMTストリーミングデータを生成する役目を行うことができる。例えば、コンテンツ提供サーバー30から伝達されるコンテンツを、MMTプロトコルを支援するストリーミングデータ形態に変換処理する過程を支援できる。この際、ストリーミングデータ生成モジュール22aは、MMTストリーミングデータの変換時に、MPUのブロックサイズを決定し、決定されたMPUのブロックサイズによって各MPUを構成し、MMTストリーミングデータを生成できる。ここで、MPUのブロックサイズは、端末10の状況情報によって、端末10に連結された通信網50の状況によって可変的に調節され得る。また、本発明のストリーミングデータ生成モジュール22aは、各MPU別に再生タイム情報を挿入し、端末10がこれを同期化して再生されるように、必要な過程を行うことができる。例えば、図7に示されたように、MMTストリーミングデータは、複数個のMPUで構成され得、複数個のMPUが順次に端末10に伝達され得る。この際、各MPUは、図2を参照して説明したように、ヘッダー情報507を含むことができ、各ヘッダー情報507は、MPU ID、UTC(Universal Time Clock)等のデータ処理に必要な情報を含むことができる。ここで、UTCは、再生タイム情報を意味する。
特に、本発明の実施形態によるストリーミングデータ生成モジュール22aは、端末10の要請に従って第1画面に対するMMTストリーミングデータを生成でき、第2画面に対するMMTストリーミングデータを生成できる。この際、ストリーミングデータ生成モジュール22aは、端末10の第1画面の支援解像度に合わせて第1画面に対するMMTストリーミングデータの解像度及びフレーム数を調節して生成し得、第2画面の支援解像度に合わせて第2画面に対するMMTストリーミングデータの解像度及びフレーム数を調節して生成し得る。すなわち、本発明の実施形態によるストリーミングデータ生成モジュール22aは、MMT方式に従ってストリーミングデータを生成することによって、複雑なエンコーディング手続なしに、第1画面に対するMMTストリーミングデータ及び第2画面に対するMMTストリーミングデータを生成でき、これにより、端末10の要請に従ってより迅速に解像度及びフレーム数を調節し、MMTストリーミングデータの提供が可能になる。
また、本発明のストリーミングデータ生成モジュール22aは、端末10のマルチビューストリーミングサービス要請前に、第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータ生成のために必要な情報をコンテンツ提供サーバー30に要請し、あらかじめ受信できる。例えば、端末10に第1画面に対するMMTストリーミングデータを提供する場合、ストリーミングデータ生成モジュール22aは、当該端末10のマルチビューストリーミングサービス要請に待機して、あらかじめ第2画面に対するMMTストリーミングデータ生成のための情報をコンテンツ提供サーバー30に要請して受信し得る。これにより、端末10からマルチビューストリーミングサービス提供の要請時に、ストリーミングデータ生成モジュール22aは、直ちに第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータを端末10に迅速に提供できる。
なお、本発明の実施形態によるストリーミングデータ生成モジュール22aは、端末10からのマルチビューストリーミングサービスと関連した多様なイベント情報を処理できる。例えば、端末10から第2画面に対するサイズ調節イベントと関連した情報が受信されれば、ストリーミングデータ生成モジュール22aは、前記端末10のサイズ調節イベントによって第2画面に対するMMTストリーミングデータの解像度及びフレーム数を変更し、変更された第2画面に対するMMTストリーミングデータを提供できる。また、端末10からスイッチングイベントに対する情報が受信されれば、ストリーミングデータ生成モジュール22aは、前記端末10のスイッチングイベントによって第1画面及び第2画面に対するMMTストリーミングデータの解像度及びフレーム数を変更し、変更された第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータを提供できる。すなわち、前述したように、MMT方式に従って各ストリーミングデータを提供することによって、端末10で発生する多様なイベント情報によって、迅速に第1画面及び第2画面に対するMMTストリーミングデータの解像度及びフレーム数を変更して提供し得る。
また、ストリーミングデータ伝送モジュール22bは、MMTストリーミングデータを要請した端末10に当該MMTストリーミングデータを伝送する役目を行うことができる。この際、端末10が要請したMMTストリーミングデータが複数のMPUで構成される複数のアセットを含む場合、これを順次に端末10が受信するように制御する役目を行うことができる。なお、本発明のストリーミングデータ伝送モジュール22bは、端末10から伝達すされるベント情報によって、ストリーミングデータ生成モジュール22aに要請し、該当するMMTストリーミングデータが生成されるように支援することもできる。
さらに、本発明のサーバー制御部22は、MMTストリーミングデータを要請した端末10に対する情報を格納し、管理し得る。この際、いずれか一つの端末10がMMTストリーミングデータを要請した場合、当該端末10が、自分が提供するマルチビューストリーミングサービスに加入されたユーザであるか否かを確認でき、自分が提供するマルチビューストリーミングサービスに加入されたユーザである場合にのみ、MMTストリーミングデータが提供されるように制御することもできる。
サーバー格納部73は、本発明の実施形態によるマルチビューサービスサーバー20の動作実行に必要な各種情報を格納し、管理する役目を行うことができる。
以上、本発明の実施形態によるマルチビューサービスサーバー20の主要構成及び動作方法について説明した。
本発明の実施形態によるマルチビューサービスサーバー20は、ハードウェア的には、通常的なウェブサーバー(Web Server)又はネットワークサーバーと同一の構成を有する。しかし、ソフトウェア的には、C、C++、Java(登録商標)、Visual Basic、Visual C等のような言語を用いて具現されるプログラムモジュール(Module)を含む。
なお、本発明の各装置に搭載されるメモリは、当該装置内で情報を格納する。一具現例の場合、メモリは、コンピュータで読み取り可能な媒体である。一具現例で、メモリは、揮発性メモリユニットであってもよく、他の具現例の場合、メモリは、非揮発性メモリユニットであってもよい。一具現例の場合、格納装置は、コンピュータで読み取り可能な媒体である。多様な互いに異なる具現例で、格納装置は、例えばハードディスク装置、光学ディスク装置、或いは、任意の他の大容量格納装置を含むこともできる。
なお、本発明の実施形態で使用される「〜モジュール」という用語は、ソフトウェア構成要素を意味し、「〜モジュール」は、所定の役目を行う。一例として「〜モジュール」は、ソフトウェア構成要素、客体指向ソフトウェア構成要素、クラス構成要素及びタスク構成要素のような構成要素と、プロセス、関数、属性、プロシージャ、サブルーチン、プログラムコードのセグメント、ドライバー、データ、データベース、データ構造、テーブル、アレイ、及び変数を含む。また、構成要素と「〜モジュール」内で提供される機能は、さらに小さい数の構成要素及び「〜モジュール」に結合されるか、追加的な構成要素と「〜モジュール」とにさらに分離され得る。
たとえ本明細書と図面では、例示的な装置構成を記述しているが、本明細書で説明する機能的な動作と主題の具現物は、他の類型のデジタル電子回路で具現されるか、本明細書で開示する構造及びその構造的な等価物を含むコンピュータソフトウェア、ファームウエア或いはハードウェアで具現されるか、これらのうち一つ以上の結合で具現可能である。本明細書で説明する主題の具現物は、一つ以上のコンピュータプログラム製品、言い換えれば、本発明による装置の動作を制御するために、或いはこれによる実行のために、有形のプログラム格納媒体上にエンコーディングされたコンピュータプログラム命令に関する一つ以上のモジュールとして具現され得る。コンピュータで読み取り可能な媒体は、機械で読み取り可能な格納装置、機械で読み取り可能な格納基板、メモリ装置、機械で読み取り可能な電波型信号に影響を及ぼす物質の組成物或いはこれらのうち一つ以上の組合であることができる。
以下、本発明の実施形態によるマルチビューストリーミングサービス支援方法について説明する。
図8は、本発明の実施形態によるマルチビューストリーミングサービス支援方法を説明するためのデータ流れ図である。
図8を参照すれば、端末10は、マルチビューストリーミング再生要請に従って、マルチビューサービスサーバー20に第1画面に対するMMTストリーミングデータ及び第2画面に対するMMTストリーミングデータを要請できる(S101〜S103)。前記過程は、同時に行われることができる。また、第1画面に対するMMTストリーミングデータが再生されている状態で、マルチビューストリーミング再生要請が発生すると、第2画面に対するMMTストリーミングデータを要請することもできる。
これにより、マルチビューサービスサーバー20は、各MMTストリーミングデータを生成する(S105)。この際、各ストリーミングデータのMPUユニットに再生タイム情報を挿入し、端末10に第1画面に対するストリーミングデータ及び第2画面に対するストリーミングデータを伝送する(S107〜S109)。
これを受信した端末10は、各MPUの再生タイム情報を確認し、端末10自分の現在タイム情報を確認する(S111)。また、端末10は、確認された再生タイム情報によって各ストリーミングデータのMPUを同期化して再生し得る(S113)。
例えば、マルチビューサービスサーバー20から受信された第1画面に対するMMTストリーミングデータのMPUに挿入された再生タイム情報と第2画面に対するMMTストリーミングデータのMPUに挿入された再生タイム情報が「10:10:10.3」であると仮定する。また、第1画面に対するMMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.0」であり、第2画面に対するMMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.3」であると仮定する。この場合、端末10は、再生タイム情報によって第1画面に対するMMTストリーミングデータの以前MPUの再生を所定時間増やすか、受信された現在MPUを所定時間遅延させて、10:10:10.3秒に受信された各現在MPUが同一の時点に再生されるように制御できる。
他の例として、第1画面に対するMMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.5」であり、第2画面に対するMMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.3」である場合、端末10は、第2画面に対するMMTストリーミングデータの以前MPUを一定時間遅延させて再生されるようにした後、10:10:10.5秒に第1画面に対するMMTストリーミングデータのMPUと同時に再生されるように制御できる。
言い換えれば、本発明は、第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータで再生タイム情報の同一のMPUは、同時に再生されるように制御するもので、この際、第1画面に対するMMTストリーミングデータと第2画面に対するMMTストリーミングデータのMPUのうちいずれか一つは、挿入された再生タイム情報より遅く再生されるか、速く再生され得る。
なお、本発明の実施形態によるマルチビューストリーミングサービスは、端末10で発生する多様なイベント情報によって対応するマルチビューストリーミングサービスを提供できる。
これについて図9及び図10を参照して説明する。
図9は、本発明の一実施形態によるマルチビューストリーミングサービス支援方法を説明するためのデータ流れ図である。
図9を参照すれば、端末10は、マルチビューストリーミング再生要請に従って、マルチビューサービスサーバー20に第1画面に対するMMTストリーミングデータ及び第2画面に対するMMTストリーミングデータを要請し、これを受信できる(S201〜S203)。この際、マルチビューサービスサーバー20は、第1画面に対するMMTストリーミングデータは、例えば、秒当たり30フレーム(30frame/sec)で具現し、端末10に伝送でき、第2画面に対するMMTストリーミングデータは、例えば、秒当たり20フレーム(20frame/sec)で具現し、端末10に伝送できる。ここで、前記受信される過程は、同時に行われることができる。
端末10は、受信された各ストリーミングデータを再生タイム情報によって同期化して再生している状態で、第2画面に対するサイズ調節イベントが発生するかを判断する(S205)。前記判断結果、第2画面に対するサイズ調節イベントが発生すると、端末10は、マルチビューサービスサーバー20にこれを案内する。この際、端末10は、第2画面に対する以前サイズ情報、変更された現在サイズ情報、第2画面の位置情報等を含んでマルチビューサービスサーバー20に案内できる。
これを受信したマルチビューサービスサーバー20は、サイズ調節イベントによって第2画面に対するストリーミングデータ解像度を変更する(S209)。例えば、端末10の第2画面解像度が320x128である状態で、サイズ調節イベントによって第2画面領域が640x480に拡大された場合、これに対する情報を確認したマルチビューサービスサーバー20は、前記変更された解像度によって以後に発生する第2画面に対するMMTストリーミングデータの各MPUを変更できる。この際、マルチビューサービスサーバー20は、変更された解像度によってフレーム数を調節でき、調節されたフレーム数に合わせて各MPUを調節できる。
また、マルチビューサービスサーバー20は、再構成された第2画面に対するMMTストリーミングデータの各MPUに再生タイム情報を挿入し(S211)、第1画面に対するMMTストリーミングデータの各MPUにも再生タイム情報を挿入した後、各MMTストリーミングデータを端末10に伝送できる(S213〜S215)。
これを受信した端末10は、各MPUの再生タイム情報を確認し、端末10自分の現在タイム情報を確認する(S217)。また、端末10は、確認された再生タイム情報によって各ストリーミングデータのMPUを同期化して再生し得る(S219)。
図10は、本発明の他の実施形態によるマルチビューストリーミングサービス支援方法を説明するためのデータ流れ図である。
図10を参照すれば、端末10は、マルチビューストリーミング再生要請に従って、マルチビューサービスサーバー20に第1画面に対するMMTストリーミングデータ及び第2画面に対するMMTストリーミングデータを要請し、これを受信できる(S301〜S303)。前記受信される過程は、同時に行われることができる。
端末10は、受信された各ストリーミングデータを再生タイム情報によって同期化して再生している状態で、スイッチングイベントが発生するかを判断する(S305)。前記判断結果、第2画面と第1画面間のスイッチングイベントが発生すると、端末10は、マルチビューサービスサーバー20にこれを案内する。ここで、スイッチングイベントは、第2画面で表示されている映像と第1画面で表示される映像を互いに転換して表示するためのユーザ要請イベントを意味する。
なお、端末10は、マルチビューサービスサーバー20においてスイッチングイベント処理のために必要な情報を含んでマルチビューサービスサーバー20に案内できる。
これを受信したマルチビューサービスサーバー20は、スイッチングイベントによって第1画面及び第2画面をスイッチングするために、各MMTストリーミングデータの解像度及びフレームを調節する(S309)。また、マルチビューサービスサーバー20は、解像度及びフレーム数が調節された各MMTストリーミングデータのMPUごとに再生タイム情報を挿入し(S311)、各MMTストリーミングデータを端末10に伝送できる(S313〜S315)。
これを受信した端末10は、各MPUの再生タイム情報を確認し、端末10自分の現在タイム情報を確認する(S317)。また、端末10は、確認された再生タイム情報によって各ストリーミングデータのMPUを同期化して再生し得る(S319)。
以上、本発明の実施形態によるマルチビューストリーミングサービス支援方法について説明した。
前述したような本発明の実施形態によるマルチビューストリーミングサービス支援方法は、コンピュータプログラムコマンドとデータを格納するのに適合なコンピュータで読み取り可能な媒体の形態で提供されることもできる。本発明の一実施形態によるマルチビューストリーミングサービス支援方法を具現するための記録媒体に記録されるプログラムは、端末がマルチビューサービスサーバーに第1画面に対するMPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータと第2画面に対するMPEGメディアトランスポートストリーミングデータを要請する段階と、前記端末が前記マルチビューサービスサーバーから前記第1画面に対するストリーミングデータと第2画面に対するストリーミングデータが受信されることによって、前記各ストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)に挿入された再生タイム情報を確認する段階と、前記端末が前記確認された再生タイム情報によって前記第1画面に対するストリーミングデータと前記第2画面に対するストリーミングデータの各メディアプロセッシングユニットを同期化させて再生されるように制御する段階等を行うことができる。
この際、記録媒体に記録されたプログラムは、コンピュータで読み出されて設置され、実行されることによって、前述した機能を実行できる。
ここで、コンピュータが記録媒体に記録されたプログラムを読み出して、プログラムで具現された機能を実行させるために、前述したプログラムは、コンピュータのプロセッサ(CPU)がコンピュータの装置インターフェース(Interface)を介して読み出されることができるC、C++、JAVA(登録商標)、機械語等のコンピュータ言語でコード化されたコード(Code)を含むことができる。
このようなコードは、前述した機能を定義した関数等と関連した機能的なコード(Function Code)を含むことができ、前述した機能をコンピュータのプロセッサが所定の手続に基づいて実行させるのに必要な実行手続関連制御コードを含むこともできる。また、このようなコードは、前述した機能をコンピュータのプロセッサが実行させるのに必要な追加情報やメディアがコンピュータの内部又は外部メモリのどの位置(アドレス番地)で参照されなければならないかに対するメモリ参照関連コードをさらに含むことができる。また、コンピュータのプロセッサが前述した機能を実行させるために、遠隔(Remote)にある任意の他のコンピュータやサーバー等と通信が必要な場合、コードは、コンピュータのプロセッサがコンピュータの通信モジュールを利用して遠隔(Remote)にある任意の他のコンピュータやサーバー等とどのように通信しなければならないか、通信時にどんな情報やメディアを送受信しなければならないか等に対する通信関連コードをさらに含むこともできる。
このような、コンピュータプログラムコマンドとデータを格納するのに適したコンピュータで読み取り可能な媒体は、例えば、記録媒体は、ハードディスク、フロッピィーディスク及び磁気テープのような磁気媒体(Magnetic Media)、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Video Disk)のような光記録媒体(Optical Media)、フロプチカルディスク(Floptical Disk)のような磁気−光媒体(Magneto−OpticalMedia)、及びロム(ROM、Read Only Memory)、ラム(RAM、Random Access Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)のような半導体メモリを含む。プロセッサとメモリは、特殊目的の論理回路により補充されるか、それに統合され得る。
また、コンピュータが読み取り可能な記録媒体は、ネットワークで連結されたコンピュータシステムに分散され、分散方式でコンピュータが読み取り可能なコードが格納され、実行され得る。また、本発明を具現するための機能的な(Functional)プログラムとこれと関連したコード及びコードセグメント等は、記録媒体を読み出してプログラムを実行させるコンピュータのシステム環境等を考慮して、本発明の属する技術分野におけるプログラマーによって容易に推論されるか、または変更されることもできる。
本明細書は、多数の特定の具現物の詳細事項を含むが、これらは、如何なる発明や請求可能なものの範囲に対しても制限的なものとして理解されてはならず、むしろ特定の発明の特定の実施形態に特有な特徴に対する説明として理解しなければならない。個別的な実施形態の文脈で本明細書に記述された特定の特徴は、単一実施形態で組み合わせて具現されることもできる。反対に、単一実施形態の文脈で記述した多様な特徴も個別的に或いは如何なる適切な下位組合でも複数の実施形態で具現可能である。さらに、特徴が特定の組合で動作し、初期にそのように請求されたように描写され得るが、請求された組合からの一つ以上の特徴は、一部の場合にその組合から排除され得、その請求された組合は、下位組合や下位組合の変形物に変更され得る。
同様に、特定の手順で図面で動作を描いているが、これは、好適な結果を得るために図示されたその特定の手順や順次な順にそのような動作を実行しなければならないか、すべての図示された動作が実行されなければならないものと理解されてはならない。特定の場合、マルチタスキングと並列プロセッシングが有利であることができる。また、前述した実施形態の多様なシステムコンポネントの分離は、そのような分離をすべての実施形態で要求するものと理解されてはならず、説明したプログラムコンポネントとシステムは、一般的に単一のソフトウェア製品に一緒に統合されるか、多重ソフトウェア製品にパッケージングされ得るという点を理解しなければならない。
本発明は、ストリーミングデータ提供方法に関し、より詳細には、第1画面及び第2画面を含むマルチビューストリーミングサービス提供方法において、第1画面及び第2画面のストリーミングデータを同期化させて再生できるマルチビューストリーミングサービス支援方法及びこれを支援する装置に関する。
本発明によれば、マルチビューストリーミングサービスの再生時に、第1画面と第2画面のストリーミングデータを同期化させて再生することによって、第1画面と第2画面との間に発生する時間差を顕著に低減でき、ユーザの便宜性が向上することができ、これにより、ストリーミングサービス産業の発展に貢献できる。
なお、本発明は、市販または営業の可能性が十分であると共に、現実的に明白に実施できる程度であるため、産業上の利用可能性がある。
本発明は、ストリーミングデータ提供技術に関し、より詳細には、少なくとも二つ以上の画面を含むマルチビューストリーミングサービス提供方法及び装置に関する。
この部分に記述された内容は、単純に、本発明に対する背景情報を提供するだけで、従来技術を構成するものではない。
最近のインターネット環境において多様な動画サービスが登場するに伴い、高画質ライブ放送に対する需要が次第に増加している。また、最近、ライブストリーミング(live streaming)方式に従って多様な動画サービスを提供しようとする試みが行われている。
ストリーミングサービスは、インターネットのようなネットワークを介してサーバーから端末にビデオ又はオーディオのようなコンテンツを伝送することを意味する。伝送されるデータがまるで水が流れることのように処理されると言って、ストリーミングと言う。サーバーは、ビデオをネットワークに伝送できるようにパケットに分離し、端末は、該パケットをさらに集めて元々の形態で復元した後、再生する。この際、再生とパケット受信は、同時に起こり、関連されたた一連のパケットをストリーム(stream)と言い、一連のパケットの集合をストリーミングデータと言う。
最近のストリーミングサービスは、マルチビュー機能を支援できる。マルチビューサービスは、PIP(Picture In Picture)サービスの一つであって、主画面が表示されている状態で、副画面が表示されるように処理されることを意味する。しかし、リアルタイムでストリーミングデータを伝達されて再生するストリーミングサービスは、主画面及び副画面の各々に独立的にストリーミングデータを提供することによって、主画面と副画面間の再生時間の差異が発生するという問題点がある。
本発明は、前述した従来の問題点を解決するために提案されたものであって、特に、MPEGメディアトランスポート(MMT;MPEG Media Transport)技術を利用してマルチビューストリーミングサービスを提供できるマルチビューストリーミングサービス支援方法及びこれを支援する装置を提供することに目的がある。
特に、本発明は、マルチビューストリーミングサービスの再生時に、第1画面と第2画面のストリーミングデータを同期化させて再生することによって、第1画面と第2画面との間に発生する時間差を低減できるマルチビューストリーミングサービス支援方法及びこれを支援する装置を提供することに目的がある。
また、本発明は、マルチビューストリーミングサービスの提供時に、第1画面と第2画面間のスイッチングイベント又は特定画面のサイズ調節イベント等、発生する多様なイベント情報によって適合なストリーミングデータをリアルタイムで構成し、端末に伝送できるマルチビューストリーミングサービス支援方法及びこれを支援する装置を提供することに目的がある。
しかし、このような本発明の目的は、前記の目的に制限されず、言及されない他の目的は、下記の記載から明確に理解され得る。
前述したような目的を達成するための本発明の実施形態によるマルチビューストリーミングサービス提供装置は、第1画面に対する第1MPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータの再生処理を支援する第1画面制御モジュールと、第2画面に対する第2MPEGメディアトランスポートストリーミングデータの再生処理を支援する第2画面制御モジュールと、マルチビューストリーミング再生要請時に、前記第1ストリーミングデータと前記第2ストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)に挿入された再生タイム情報を確認した後、前記再生タイム情報によって前記第1ストリーミングデータと前記第2ストリーミングデータの各メディアプロセッシングユニットを同期化させて再生するように、前記第1画面制御モジュール及び前記第2画面制御モジュールを制御する再生制御モジュールと、を含んで構成され得る。
この際、前記再生制御モジュールは、現在タイム情報を確認し、前記確認された現在タイム情報と前記第1、第2ストリーミングデータの各メディアプロセッシングユニットごとに挿入された再生タイム情報との間の差異が発生する場合、前記第1、第2ストリーミングデータの各メディアプロセッシングユニットを同期化させて再生するように、前記差異が発生したいずれか一つのストリーミングデータのメディアプロセッシングユニットの再生時点を制御できる。
また、前記再生制御モジュールは、前記第2画面に対するサイズ調節イベントが発生すると、前記マルチビューサービスサーバーから前記サイズ調節イベントによって変更された前記第2ストリーミングデータを受信できる。
また、前記再生制御モジュールは、前記第1画面制御モジュール及び前記第2画面制御モジュール間のスイッチングイベントが発生すると、前記マルチビューサービスサーバーから前記スイッチングイベントによって解像度が変更された前記第1ストリーミングデータと前記第2ストリーミングデータを受信できる。
前述したような目的を達成するための本発明の実施形態によるマルチビューストリーミングサービス提供方法は、端末がマルチビューサービスサーバーに第1画面に対する第1MPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータと第2画面に対する第2MPEGメディアトランスポートストリーミングデータを要請する段階と、前記端末が前記マルチビューサービスサーバーから前記第1ストリーミングデータと第2ストリーミングデータが受信されることによって、前記各ストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)に挿入された再生タイム情報を確認する段階と、前記端末が前記確認された再生タイム情報によって前記第1ストリーミングデータと前記第2ストリーミングデータの各メディアプロセッシングユニットを同期化させて再生するように制御する段階と、を含んでなることができる。
この際、前記再生されるように制御する段階は、前記端末が前記第1ストリーミングデータの各メディアプロセッシングユニットごとに挿入された再生タイム情報を確認する段階と、前記端末が前記第2ストリーミングデータの各メディアプロセッシングユニットごとに挿入された再生タイム情報を確認する段階と、前記端末が現在タイム情報を確認し、前記確認された現在タイム情報と前記第1、第2ストリーミングデータの各メディアプロセッシングユニットごとに挿入された再生タイム情報との間の差異が発生する場合、前記第1、第2ストリーミングデータの各メディアプロセッシングユニットを同期化させて再生するように、前記差異が発生したいずれか一つのストリーミングデータのメディアプロセッシングユニットの再生時点を制御する段階と、を含んでなることができる。
前述したような目的を達成するための本発明の実施形態によるマルチビューストリーミングサービス提供方法は、マルチビューサービスサーバーが、端末から第1画面に対する第1MPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータと第2画面に対する第2MPEGメディアトランスポートストリーミングデータの要請を受信する段階と、前記マルチビューサービスサーバーが、前記第1ストリーミングデータと前記第2ストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)ごとに再生タイム情報を挿入して前記端末に伝送する段階と、を含んでなることができる。
この際、前記端末に伝送する段階は、前記マルチビューサービスサーバーが前記端末の状況情報によって前記メディアプロセッシングユニットのブロックサイズを可変的に調節し、前記可変的に調節された各メディアプロセッシングユニットごとに再生タイム情報を挿入し、前記端末に伝送できる。
さらに、本発明は、前述したようなマルチビューストリーミングサービス提供方法を実行するプログラムを記録したコンピュータ読み取り可能な記録媒体を提供できる。
本発明のマルチビューストリーミングサービス支援方法及びこれを支援する装置によれば、MPEGメディアトランスポート(MMT;MPEG Media Transport)技術を利用してマルチビューストリーミングサービスをより効率的に端末に提供できる。
また、本発明によれば、マルチビューストリーミングサービスの再生時に、第1画面と第2画面のストリーミングデータを同期化させて再生することによって、第1画面と第2画面との間に発生する時間差を顕著に低減でき、ユーザの便宜性が向上することができる。
また、本発明によれば、第1画面と第2画面間のスイッチングイベント又は第2画面のサイズ調節イベント等発生する多様なイベント情報によって適合なストリーミングデータをリアルタイムで受信して再生し得、また、多様なイベント情報が発生しても、主画面と第2画面間の時間差なしにマルチビューストリーミングサービスを利用でき、ユーザの便宜性が極大化され得る。
また、前述した効果以外の多様な効果が、後述する本発明の実施形態による詳細な説明において直接的又は暗示的に開示され得る。
図1は、本発明に適用されるMMT技術を説明するための例示図である。
ず2は、本発明に適用されるMMT技術を説明するための例示図である。
図3は、本発明の実施形態によるマルチビューストリーミングサービス提供のためのシステムの構成を概略的に示す構成図である。
図4は、本発明の実施形態による端末の主要構成を示すブロック図である。
図5は、本発明の実施形態によるマルチビューストリーミングサービス提供方法を説明するための端末画面例示図である。
図6は、本発明の実施形態によるマルチビューサービスサーバーの主要構成を示すブロック図である。
図7は、本発明の実施形態によるMMTストリーミングデータを説明するための例示図である。
図8は、本発明の実施形態によるマルチビューストリーミングサービス提供方法を説明するためのデータ流れ図である。
図9は、本発明の他の実施形態によるマルチビューストリーミングサービス提供方法を説明するためのデータ流れ図である。
図10は、本発明の他の実施形態によるマルチビューストリーミングサービス提供方法を説明するためのデータ流れ図である。
本発明の課題解決手段の特徴及び利点を一層明確にするために、添付の図面に示された本発明の特定の実施形態を参照して本発明を詳細に説明する。
但し、下記の説明及び添付の図面において本発明の要旨を不明にすることができる公知機能または構成に対する詳細な説明を省略する。また、図面全体にわたって同じ構成要素は、できるだけ、同じ参照符号で示していることに留意しなければならない。
以下の説明及び図面で使用された用語や単語は、通常的や辞書的な意味に限定すべきものではなく、発明者は、自分の発明を最善の方法で説明するための用語の概念で適切に定義できるという原則に即して本発明の技術的思想に符合する意味と概念に解釈すべきである。したがって、本明細書に記載した実施形態と図面に示された構成は、本発明の最も好ましい一実施形態に過ぎず、本発明の技術的思想をすべて代弁するものではないので、本出願時点においてこれらを代替できる多様な均等物と変形例があり得ることを理解しなければならない。
なお、第1、第2等のように序数を含む用語は、多様な構成要素を説明するために使用するものであって、1つの構成要素を他の構成要素から区別する目的だけで使用され、前記構成要素を限定するために使用するものではない。例えば、本発明の権利範囲を逸脱することなく、第2構成要素は、第1構成要素と命名され得、同様に、第1構成要素は、第2構成要素と命名され得る。
また、任意の構成要素が他の構成要素に「連結されて」いるか、「接続されて」いると言及する場合、これは、論理的または物理的に連結されるか、接続され得ることを意味する。言い換えれば、構成要素が他の構成要素に直接的に連結されるか、接続され得るが、中間に他の構成要素が存在してもよく、間接的に連結されるか、接続されてもよいと理解しなければならない。
また、本明細書で使用した用語は、ただ特定の実施形態を説明するために使用されたものであって、本発明を限定しようとする意図ではない。単数の表現は、文脈上、明白に異なって意味しない限り、複数の表現を含む。また、本明細書で記述される「含む」又は「有する」等の用語は、明細書上に記載された特徴、数字、段階、動作、構成要素、部品又はこれらを組み合わせたものが存在することを指定しようとするものであって、一つ又はそれ以上の他の特徴や数字、段階、動作、構成要素、部品又はこれらを組み合わせたもの等の存在又は付加可能性をあらかじめ排除しないものと理解されなければならない。
なお、本発明の範囲内の実施形態は、コンピュータ実行可能なコマンド又はコンピュータ読み取り可能媒体に格納されたデータ構造を有するか、伝達するコンピュータ読み取り可能な媒体を含む。このようなコンピュータ読み取り可能な媒体は、汎用又は特殊目的のコンピュータシステムによりアクセス可能な任意の利用可能な媒体であることができる。例として、このようなコンピュータ読み取り可能な媒体は、RAM、ROM、EPROM、CD−ROM又はその他光ディスク格納装置、磁気ディスク格納装置又はその他磁気格納装置、又はコンピュータ実行可能なコマンド、コンピュータ読み取り可能なコマンド又はデータ構造の形態よりなる所定のプログラムコード手段を格納するか又は伝達するのに利用され得、汎用又は特殊目的コンピュータシステムによりアクセスされ得る任意のその他媒体のような物理的格納媒体を含むことができるが、これに限定されない。
以下の説明及び特許請求範囲で、「ネットワーク」又は「通信網」は、コンピュータシステム及び/又はモジュール間の電子データを伝送できるようにする一つ以上のデータリンクとして定義される。情報がネットワーク又は他の(有線、無線、又は有線又は無線の組合である)通信接続を介してコンピュータシステムに伝送されるか、又は提供されるとき、この接続は、コンピュータ読み取り可能な媒体として理解され得る。コンピュータ読み取り可能なコマンドは、例えば、汎用コンピュータシステム又は特殊目的コンピュータシステムが特定の機能又は機能のグループを行うようにするコマンド及びデータを含む。コンピュータ実行可能なコマンドは、例えば、アセンブリー語、又は、甚だしくは、ソースコードのような二進、中間フォーマットコマンドであることができる。
また、本発明は、パーソナルコンピュータ、ラップトップコンピュータ、ハンドヘルド装置、マルチプロセッサーシステム、マイクロプロセッサー基盤又はプログラム可能な家電製品(programmable consumer electronics)、ネットワークPC、ミニコンピュータ、メインフレームコンピュータ、モバイル電話、PDA、ページャー(pager)等を含む多様な類型のコンピュータシステム構成を有するネットワークコンピュータ環境で実施され得る。
本発明は、また、ネットワークを介して有線データリンク、無線データリンク、又は有線及び無線データリンクの組合でリンクされたローカル及び遠隔コンピュータシステムのすべてがタスクを行う分散型システム環境で実行され得る。分散型システム環境で、プログラムモジュールは、ローカル及び遠隔メモリ格納装置に位置し得る。
以下、本発明は、MMT(MPEG Media Transport)技術が適用されることを仮定して説明する。しかし、これは、説明の便宜のための例示に過ぎず、本発明が必ずMMT技術にのみ適用されるものではない。
本明細書で使用された用語の意味は、次のように定義できる。
コンテンツコンポネント(content component)又はメディアコンポネント(media component)は、単一種類のメディア(media of a single type)又は単一種類のメディアの部分集合(subset of the media of a single type)として定義され、例えば、ビデオトラック(video track)、映画字幕(movie subtitles)、又はビデオ向上階層(enhancement layer of video)になり得る。
コンテンツ(content)は、コンテンツコンポネントの集合と定義し、例えば映画(movie)、歌(song)等になり得る。
ハイブリッド伝送(hybrid delivery)は、二つ以上のコンテンツコンポネントが二つ以上の物理的に互いに異なる形態の網(network)を介して同時に伝送されるものと定義する。
表現(presentation)は、ユーザが一つのコンテンツコンポネント又は一つのサービスを経験(例えば映画感想)できるように、一つ又は一つ以上の装置により行われる動作(operation)と定義する。
サービス(service)は、表現(presentation)又は格納(storage)のために伝送される一つ又は一つ以上のコンテンツコンポネントと定義する。
サービス情報(service information)は、一つのサービス、前記サービスの特性(characteristics)及びコンポネントを記述するメタデータと定義する。
ナンタイムドデータ(Non−timed data)は、時間を明示せず消費されるすべてのデータ要素を定義する。ナンタイムドデータは、そのメディアユニットのデコーディング及び/又は表現のための固有な同期化情報を有しないデータである。
タイムドデータ(timed data)は、そのメディアユニットのデコーディング及び/又は表現のための固有な同期化情報を有するデータであって、デコーディング及びプレゼンテーションされる特定の時間と関連されたデータ要素を定義する。
メディアフラグメントユニット(Media Fragment Unit;MFU)は、どんな特定のコーデックにも独立された一般的なコンテナであって、メディアデコーダーにより独立的に消費され得る符号化されたメディアデータを収容する。アクセスユニット(AU)は、タイムドメディアデータのためのアクセスユニット(AU)の全部又は一部のように、メディアデコーダーにより独立的にデコード可能なメディアデータ又はノンタイムドメディアデータのための一つのファイルを含む。これは、アクセスユニット(AU)より小さいか又は同じサイズを持ってトランスポート階層(Transport layer)で使用され得る情報を収容する。
MMT個体(MMT entity)は、MMTプロファイルに従うソフトウェア又はハードウェアの具現である。
MMTパケット(MMT packet)は、MMTプロトコルによって生成又は消費されるデータの形式化されたユニット(formatted unit)である。
MMTペイロード(MMT payload)は、パッケージを輸送するか、MMTプロトコルやインターネット応用階層伝送プロトコル(例えばRTP(Real−Time Transport Protocol)がある)を使用してメッセージをシグナリングするデータの形式化されたユニットである。
MMTプロトコルは、MMTペイロードをIPネットワークを介して伝達するための応用階層伝送プロトコルである。
MMTペイロードフォーマット(MMT payload format)は、MMTプロトコル又はインターネット応用階層プロトコル(例えば、RTP)により伝達されるMMTパッケージ又はMMTシグナリングメッセージのペイロードのためのフォーマットである。
以下、本発明の実施形態を説明するに先立って、本発明に適用されるMMT技術について図1及び図2を参照してより具体的に説明する。
図1及び図2は、本発明に適用されるMMT技術を説明するための例示図である。
図1を参照すれば、MMTパッケージ500は、MMT機能領域で定義するデータモデルのうち論理的に構造化された最も大きいMMT個体(entity)であって、映画一編のような一つの独立的なコンテンツを意味する。ストリーミングデータサービスを提供するライブストリーミング提供サーバーは、このようなMMTパッケージを生成し、端末に提供でき、MMTパッケージ500は、図1に示されたように、多数の個体の集めで構成される論理的に構造化されたコレクションになり得る。このようなMMTパッケージ500は、一つ以上のアセット505、構成情報502、伝送特性503及び説明的な(descriptive)情報、すなわちパッケージ情報501を含むことができる。
このうち、構成情報(Composition Information)502は、MMTアセット505間の関係(relationship)、すなわち空間的及び時間的関係に対する情報を含む。一つのコンテンツ(content)が複数個のMMTパッケージよりなる場合、構成情報502は複数のMMTパッケージ間の関係(relationship)を示すための情報をさらに含むことができる。
伝送特性(ADC;Asset Delivery Characteristics)503は、アセット505の伝達のためのQoS(Quality of Service)要求及び統計を示す。複数のアセット505は、一つの伝送特性503に関連できる。この際の伝送特性503は、アセット505の効果的な伝達のためにパッケージをカプセル化する個体によりMMTペイロード及びMMTプロトコルのパラメータを設定するのに使用され得る。また、伝送特性503は、MMTアセット505又はMMTパケットの伝達条件(delivery condition)を決定するために必要な伝達特性情報を含むことができ、例えばトラフィック記述パラメータ(traffic description parameter)及びQoS記述子(QoS descriptor)を含むことができる。このような伝達特性情報は、通信網の環境に関係ないパラメータ形態で表現され得る。
アセット505は、タイムド又はナンタイムド性質を有するオーディオ、ビデオ又はウェブページデータのような符号化されたメディアデータをカプセル化するパッケージの要素を意味するものであって、最も大きい論理的データ単位を意味する。このようなアセット505は、同一の伝達特性でデータを含むデータ個体を意味する。例えば、MMTパッケージ500は、MMT機能領域で定義するデータモデルのうち最も大きい個体(entity)であって、一編の映画のような一つの独立的なコンテンツを意味するとしたら、アセット505は、オーディオデータ、ビデオデータ、スクリプトデータのようなMMTパッケージ500を構成するデータ単位を意味する。
このようなアセット505について図2を参照してさらに具体的に説明する。図2を参照すると、アセット505は少なくとも一つ以上のMPU506で構成され得る。ここで、MPU506は、メディアプロセッシングユニット(MPU;Media Processing Unit、以下、MPUという)を意味し、論理的なデータ客体である。一つのアセット505を構成する複数のMPU506は、同一のアセットIDを含む。
また、MPU506は、どんな特定のメディアコーデックにも独立された、タイムド又はナンタイムドデータに対する包括的なコンテナであることができる。このようなMPU506は、完全で且つ独立的に処理され得る符号化されたメディアデータであって、MPUのプロセッシングは、パッケージへのエンカプセレーション(Encapsulation)又は伝達のためのパケット化を意味できる。このような、MPU506は、タイムドデータのための一つ以上のアクセスユニットを含むことができる。ここで、アクセスユニット(AU;Access Unit)は、時間情報を有することができる最も小さいデータ個体である。また、MPU506は、ナンタイムドデータのためのアクセスユニット境界がないデータの部分を含んで構成され得る。このようなMPU506は、完全で且つ独立的に処理され得るコードされたメディアデータユニットであって、ヘッダー507とコードされたデータ508で構成され得る。なお、本発明のMPU506は、メディアフラグメントユニット(MFU;Media Fragment Unit)でさらに構成され得る。
このような本発明のMMTパッケージ500は、MPU基盤で適用され、動作され得る。以下の説明では、MMTストリーミングデータのメディアプロセッシングユニット単位で処理が行われることを中心に説明するが、これに限定されるものではない。システム具現方式に従ってメディアフラグメントユニット単位で本発明の処理が行われることもできる。
以下では、まず、本発明の実施形態によるマルチビューストリーミングサービス提供のための全体システムの構造について説明する。
図3は、本発明の実施形態によるマルチビューストリーミングサービス提供のためのシステムの構成を概略的に示す構成図である。
図3を参照すれば、本発明の実施形態によるシステム100は、多数の端末10とマルチビューサービスサーバー20とコンテンツ提供サーバー30と通信網50を含むことができる。
各構成要素についてより具体的に説明すれば、まず、端末10は、ユーザの操作によって通信網50を経てマルチビューサービスサーバー20と情報を送受信できるユーザの装置を意味する。このような端末10は、通信網50を介して音声又はデータ通信を行うことができる。このために、端末10は、情報の送受信のためのブラウザー、プログラム及びプロトコルを格納するメモリ、各種プログラムを実行して制御するためのマイクロプロセッサー等を具備できる。特に、本発明の実施形態による端末10は、マルチビューサービスサーバー20から伝達されるMPEGメディアトランスポートストリーミングデータ(以下、「MMTストリーミングデータ」という)を再生し処理し得、特に、第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータをPIP形式で表示される過程を支援できる。
このような本発明の実施形態による端末10は、多様な形態で具現され得る。例えば、端末10は、スマートフォン(smart phone)、タブレットPC(Tablet PC)、PDA(Personal Digital Assistants)、PMP(Portable Multimedia Player)、MP3Player等の移動端末機はもちろん、スマートテレビ(Smart TV)、デスクトップコンピュータ等のような固定端末機が使用されることもできる。
このような本発明の端末10は、デジタル機器のコンバージェンス(convergence)傾向によって携帯機器の変形が非常に多様で、すべて列挙することはできないが、前記言及されたユニットと同等な水準のユニットが本発明による端末10に適用され得、特に、通信網50を経てマルチビューサービスサーバー20からMMTストリーミングデータを受信し、これを処理できる装置であれば、いずれの装置も本発明の実施形態による端末10に利用され得る。
マルチビューサービスサーバー20は、本発明の実施形態によるMMTストリーミングデータを端末10の要請に従って端末10に伝達する役目を行う。ここで、MMTストリーミングデータは、前述したように、MMTパケット形態で端末10に伝達され得るストリーミングデータを意味する。このようなマルチビューサービスサーバー20は、端末10にMMTストリーミングデータ形式によって例えば放送サービスを提供できる。特に、本発明の実施形態によるマルチビューサービスサーバー20は、端末10にMMTストリーミングデータ伝送するとき、端末10のマルチビューストリーミング再生要請に従って、第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータを順次に伝送できる。
また、マルチビューサービスサーバー20は、コンテンツ提供サーバー30と連動して、コンテンツ提供サーバー30から伝達されるデータをMMTストリーミングデータに変換処理し、端末10に伝達することもできる。
前述したような端末10及びマルチビューサービスサーバー20は、通信網50を介して多様な情報を送受信する。本発明の実施形態による通信網50は、 WLAN(Wireless LAN)、ワイファイ(Wi−Fi)、ワイブロ(Wibro)、ワイマックス(Wimax)、HSDPA(High Speed Downlink Packet Access)等の無線通信方式を利用することが好ましいが、これに限定されるものではなく、システム具現方式に従ってイダーネット(Ethernet)、xDSL(ADSL、VDSL)、HFC(Hybrid Fiber Coaxial Cable)、FTTC(Fiber to The Curb)、FTTH(Fiber To The Home)等の有線通信方式を利用することもできる。
このような本発明の実施形態による通信網50は、例えば、接続網(図示せず)、コア網(図示せず)及びインターネット網(図示せず)を含んで構成され得る。
ここで、接続網(図示せず)は、端末10のコア網(図示せず)への接近を支援するものであって、有無線通信方式に従って端末10のコア網(図示せず)接近を支援できる。このような接続網(図示せず)は、複数の基地局を含む。ここで、基地局は、例えばBS(Base Station)、BTS(Base Transceiver Station)、NodeB、eNodeB等のような多数の基地局を含む概念になり得、基地局とBSC(BaseStation Controller)、RNC(Radio Network Controller)のような基地局制御機のすべてを含む概念になり得る。また、基地局は、基地局に一体に具現されていたデジタル信号処理部と無線信号処理部をそれぞれデジタルユニット(Digital Unit、以下、DUという)と無線ユニット(Radio Unit、以下、RUという)に区分し、多数の領域にそれぞれ多数のRU(図示せず)を設置し、多数のRU(図示せず)を集中化されたDU(図示せず)と連結して構成することもできる。
接続網(図示せず)と一緒に通信網(図示せず)を構成するコア網(図示せず)は、接続網(図示せず)と外部網、例えば、インターネット網(図示せず)を連結する役目を行う。
このようなコア網(図示せず)は、前述したように、接続網(図示せず)間の移動性制御及びスイッチング等の移動通信サービスのための主要機能を行うネットワークシステムであって、サーキット交換(circuit switching)又はパケット交換(packet switching)を行い、ネットワーク内でのパケット流れを管理及び制御する。また、コア網(図示せず)は、周波数間の移動性を管理し、接続網(図示せず)及びコア網(図示せず)内のトラフィック及び他のネットワーク、例えばインターネット網(図示せず)との連動のための役目を行うこともできる。このようなコア網(図示せず)は、SGW(Serving GateWay)、PGW(PDN GateWay)、MSC(Mobile Switching Center)、HLR(Home Location Register)、MME(Mobile Mobility Entity)とHSS(Home Subscriber Server)等をさらに含んで構成されることもできる。
また、インターネット網(図示せず)は、TCP/IPプロトコルによって情報が交換される通常の公開された通信網、すなわち共用網を意味するものであって、マルチビューサービスサーバー20と連結され、マルチビューサービスサーバー20から端末10に伝達されるMMTストリーミングデータをコア網(図示せず)及び接続網(図示せず)を経て端末10に提供されるように支援する役目を行うことができる。
一方、端末10は、接続網(図示せず)、コア網(図示せず)、及びインターネット網(図示せず)を経てマルチビューサービスサーバー20にMMTストリーミングデータ受信のための各種命令を伝送できる。しかし、これに限定されるものではなく、マルチビューサービスサーバー20は、コア網(図示せず)内に位置でき、コア網(図示せず)を運用する事業者と同一の事業者又は互いに異なる事業者により運用されることもできる。
また、前述した通信方式以外にも、その他広く公知されたか、以後開発されるすべての形態の通信方式を含むことができる。
前述したような本発明を構成する端末10及びマルチビューサービスサーバー20の主要構成及びより具体的な動作方法については、後述して説明するようにし、本発明の実施形態による各装置に搭載されるプロセッサは、本発明による方法を実行するためのプログラム命令を処理できる。一具現例で、このプロセッサは、シングルスレッド(Single−threaded)プロセッサであることができ、他の具現例で、このプロセッサは、マルチスレッド(Multithreaded)プロセッサであることができる。ひいては、このプロセッサは、メモリ或いは格納装置上に格納された命令を処理することが可能である。
以下、本発明の実施形態による端末10の主要構成及び動作方法について説明する。
図4は、本発明の実施形態による端末の主要構成を示すブロック図である。
図3及び図4を参照すると、本発明の実施形態による端末10は、通信部11、入力部12、制御部13、格納部14及び表示部15を含んで構成され得る。
各構成要素についてより具体的に説明すると、まず、通信部11は、コア網(図示せず)接続のために、隣近の接続網(図示せず)に接続される過程を支援できる。例えば通信部11は、一定半径内に位置する基地局(図示せず)を探索し、探索された基地局(図示せず)への接続要請を行い、基地局(図示せず)と接続される過程を支援することによって、接続網(図示せず)に接続され得る。ここで、端末10の通信部11が接続網(図示せず)の基地局(図示せず)に接続される過程は、公知された多様な構成を採用できるので、具体的な説明は、省略する。なお、通信部11が基地局(図示せず)と通信手続を行うとき、ユーザ情報を伝送できる。基本的に、IMSI(International Mobile Subscriber Identity)等のような端末識別番号等を基地局(図示せず)に伝送でき、基地局(図示せず)がコア網(図示せず)との接続手続を行う間に、端末識別番号等を利用して加入者情報を確認できる。
なお、本発明の実施形態による通信部11は、通信網50を介してマルチビューサービスサーバー20にMMTストリーミングデータ伝送を要請し、伝達されるMMTストリーミングデータを制御部13に伝達する役目を行う。
入力部12は、ユーザから入力される数字及び文字情報等の多様な情報、各種機能設定及び端末10の機能制御と関連して入力される信号を制御部13に伝達する。特に、本発明の入力部12は、MMTストリーミングデータ伝送要請のためのユーザ入力を支援できる。例えば、ユーザからMMTストリーミングデータを再生できるアプリケーションの実行入力を支援し、アプリケーションを介して特定チャネルに対する選択命令情報の入力を支援できる。また、本発明の入力部12は、マルチビューストリーミング再生要請に対するユーザ入力を支援できる。ここで、マルチビューストリーミング再生要請は、例えば、MMTストリーミングデータを再生できる特定のアプリケーションでMMTストリーミングデータ再生中に特定メニューの選択入力、特定ボタンの選択入力によって発生され得、これにより、当該アプリケーションは、複数の画面が同時に再生され得るマルチビューストリーミング機能に転換され得る。
このような入力部12は、前述したように、キーボードやキーパッドのようなキー入力手段、タッチセンサーやタッチパッドのようなタッチ入力手段、音声入力手段、ジャイロセンサー、地磁気センサー、加速度センサー、近接センサー、及びカメラのうち少なくとも一つ以上を含んでなるジェスチャー入力手段を含むこともできる。
そのほか、現在開発中又は以後開発され得るすべての形態の入力手段が含まれることができる。
制御部13は、端末10の全般的な制御を行うものであって、ハードウェア的にCPU(Central Processing Unit)/MPU(Micro Processing Unit)を含む少なくとも一つ以上のプロセッサと少なくとも一つ以上のメモリローディングデータがローディングされる実行メモリ(例えば、レジスタ及び/又はRAM(Random Access Memory))及び前記プロセッサとメモリに少なくとも一つ以上のデータを入出力するバス(BUS)を含んでなることができる。また、ソフトウェア的に端末10に定義された機能を行うために、所定の記録媒体から前記実行メモリにローディングされ、前記プロセッサにより演算処理される所定のプログラムルーチン(Routine)又はプログラムデータを含んでなることができる。言い換えれば、本発明の実施形態によるマルチビューサービスサーバー20にMMTストリーミングデータを要請し受信し、マルチビュー機能を用いてMMTストリーミングデータを処理するために、端末10に具備される機能のうちソフトウェア的に処理が可能な構成要素を制御部13の機能として判断できる。
このような、本発明の制御部13は、本発明の実施形態によるストリーミングデータ処理のために具備される少なくとも一つ以上の構成要素と機能的に連結される。すなわち、制御部13は、通信部11、入力部12、格納部14及び表示部15と機能的に連結され、前記各構成要素に電源供給及び機能実行のための信号の流れを制御する。
特に、本発明の実施形態による制御部13は、MPEGメディアトランスポートストリーミングデータを処理できるMPEG−2TS処理機能を支援できる。例えば、マルチビューサービスサーバー20から伝達される複数のMPUで構成されるMMTストリーミングデータを受信でき、ストリーミングデータが複数のアセットで構成される場合、複数のアセットをタイム情報によって同期化して再生して出力する機能を行うことができる。また、本発明の制御部13は、MMTプロトコルで定義する多様な動作実行のための機能を処理できる。このような本発明の制御部13は、マルチビューストリーミングサービス機能を支援するために、第1画面制御モジュール13a、第2画面制御モジュール13b、再生制御モジュール13c及びタイム生成モジュール13dを含んで構成され得る。ここで、本発明の制御部13が前記第1画面制御モジュール13a及び第2画面制御モジュール13bのみを含むことを例示して説明するが、これに限定されるものではなく、本発明の制御部13は、複数の画面制御モジュールで構成され、複数の画面で構成されるマルチビューストリーミングサービス機能を支援できる。すなわち、主画面である第1画面が表示されている状態で、副画面である第2画面及び第3画面を同時に表示することもでき、このためのそれぞれの画面制御モジュールを含んで構成され得る。なお、前述した機能は、一つのモジュールを介して動作されることもできる。
以下では、説明の便宜のために、主画面である第1画面制御モジュール13a及び副画面である第2画面制御モジュール13bを中心に説明する。
第1画面制御モジュール13aは、第1画面に対する第1MMTストリーミングデータの再生処理を支援する。ここで、第1画面は、全体画面を介して表示される主画面になり得る。また、第2画面制御モジュール13bは、第2画面に対する第2MMTストリーミングデータの再生処理を支援する。ここで、第2画面は、第1画面上に表示され、第1画面の表示サイズより小さく表示され得る副画面を意味できる。
第1画面制御モジュール13a及び第2画面制御モジュール13b間のMMTストリーミングデータ再生の制御は、再生制御モジュール13cを介して行われることができる。すなわち、再生制御モジュール13cは、前記第1画面制御モジュール13aを介して第1画面に対する第1MMTストリーミングデータが再生されている状態で、入力部12を介してマルチビューストリーミング再生要請が入力されると、前記第2画面制御モジュール13bを駆動させて、副画面である第2画面が活性化されるように制御し、第2MMTストリーミングデータが第2画面を介して表示されるように、第2画面制御モジュール13bを制御できる。この際、第2画面制御モジュール13bを介して表示される第2画面に対する第2MMTストリーミングデータは、第1画面制御モジュール13aを介して表示される第1画面に対する第1MMTストリーミングデータと同一であってもよく、異なる場面、異なるチャネル等のように、互いに異なるMMTストリーミングデータであってもよく。
すなわち、図5に示されたように、MMTストリーミングデータを再生できるアプリケーション600が実行されている状態で、主画面である第1画面610を介して第1MMTストリーミングデータが再生され得る。この際、特定メニュー又は命令ボタンを介してマルチビューサービス機能が活性化されると、副画面である第2画面620が活性化されて表示され得、第1画面610と第2画面620は、同一のMMTストリーミングデータを再生することもでき、互いに異なるチャネル、又は互いに異なるMMTストリーミングデータを再生することもできる。同一のMMTストリーミングデータの場合、第1画面610を介して表示される第1MMTストリーミングデータの一領域を拡大した第2MMTストリーミングデータを含むことができる。
従来のストリーミングサービスにおいてのマルチビュー機能の場合、第1画面610と第2画面620との間に表示されるストリーミングデータの再生時点に差が発生するという問題点がある。すなわち、同一のストリーミングデータを再生していても、第1画面610と第2画面620間の同期がなされず、第1画面610より第1画面620を介して出力されるストリーミングデータが遅延されて出力されるか、第1画面610を介して出力されるストリーミングデータが遅延されて出力され得るという問題点がある。
本発明は、このような問題点を改善するためのものであって、図4に示された本発明の再生制御モジュール13cは、第1画面に対する第1ストリーミングデータと第2画面に対する第2ストリーミングデータを再生する前に、各MPUごとに挿入された再生タイム情報を確認した後、確認された再生タイム情報によって第1画面に対する第1ストリーミングデータと第2画面に対する第2ストリーミングデータの各MPUを同期化させて再生されるように制御できる。例えば、マルチビューサービスサーバー20から受信された第1画面制御モジュール13aが要請した第1画面に対する第1MMTストリーミングデータのMPUに挿入された再生タイム情報が「10:10:10.3」であり、第2画面制御モジュール13bが要請した第2画面に対する第2MMTストリーミングデータのMPUに挿入された再生タイム情報が「10:10:10.3」であると仮定する。そして、第1画面に対する第1MMTストリーミングデータのMPUが第1画面制御モジュール13aに伝達された時点が「10:10:10.0」であり、第2画面に対する第2MMTストリーミングデータのMPUが第2画面制御モジュール13bに伝達された時点が「10:10:10.3」であると仮定する。この際、前記第1画面制御モジュール13a及び第2画面制御モジュール13bが各ストリーミングデータが受信され次第に、受信されたストリーミングデータを再生する場合、第1画面と第2画面間の再生時点が互いに異なるという問題点が発生される。しかし、第1画面に対する第1MMTストリーミングデータのMPUと第2画面に対する第2MMTストリーミングデータのMPUは、互いに同一の時間の再生タイム情報を含んでいるので、再生制御モジュール13cは各々のストリーミングデータが受信された直ちに、各制御モジュールを介して出力されるように制御するものではなく、再生タイム情報によっていずれか一つのストリーミングデータ(前述した例で第1画面に対する第1MMTストリーミングデータ)の以前MPUを所定時間増やすか、受信された現在MPUを所定時間遅延させて、10:10:10.3秒に受信された各現在MPUが同一の時点に再生されるように制御できる。
他の例として、第1画面に対する第1MMTストリーミングデータのMPUが第1画面制御モジュール13aに伝達された時点が「10:10:10.5」であり、第2画面に対する第2MMTストリーミングデータのMPUが第2画面制御モジュール13bに伝達された時点が「10:10:10.3」である場合、すなわち、第1画面に対する第1MMTストリーミングデータのMPUが挿入された再生タイム情報より遅く受信された場合を仮定する。この場合、再生制御モジュール13cは、直ちにストリーミングデータが再生されるように制御するものではなく、第2画面制御モジュール13bを制御し、第2画面に対する第2MMTストリーミングデータが10:10:10.5秒に第1画面に対する第1MMTストリーミングデータのMPUと同時に再生されるように制御できる。言い換えれば、第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータで再生タイム情報の同一のMPUは、同時に再生されるように制御される。この際、第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータのMPUのうちいずれか一つは、挿入された再生タイム情報より遅く再生されるか、速く再生され得る。
なお、本発明の実施形態による第1画面制御モジュール13a及び第2画面制御モジュール13bは、それぞれ第1画面及び第2画面に対する各種イベント命令を処理できる。例えば、第2画面に対するサイズ調節イベントが発生すると、第2画面制御モジュール13bは、マルチビューサービスサーバー20でサイズ調節イベントを通知する。ここで、サイズ調節イベントは、例えば、第2画面領域に対するマルチタッチ入力によって発生し得る。第2画面制御モジュール13bは、このようなサイズ調節イベントが発生すると、第2画面に対する以前サイズ情報、変更された現在サイズ情報、第2画面の位置情報等をマルチビューサービスサーバー20で通知できる。なお、スイッチングイベントが発生すると、言い換えれば、第2画面と第1画面間のスイッチングイベントが発生すると、第1画面制御モジュール13a又は第2画面制御モジュール13bの両方のうちいずれか一つがマルチビューサービスサーバー20でスイッチングイベントを通知できる。この時も、同様に、必要な情報を含んでマルチビューサービスサーバー20に案内できる。
タイム生成モジュール13dは、端末10に具備された各種資源を利用して現在端末の時間情報を確認する。例えば、端末10に具備されたGPSを介して現在端末の時間情報を確認できる。
格納部14は、本発明の実施形態による機能動作に必要な応用プログラムを含めて、当該応用プログラム実行中に発生する多様なデータを一時的に格納できる。特に、本発明の実施形態による格納部14は、本発明の実施形態によるMMTストリーミングデータ処理のための多様な命令を格納できる。
このような格納部14は、大きく、プログラム領域とデータ領域を含むことができる。プログラム領域は、端末10を起動させる運営体制(OS)のような端末10の駆動のための関連した情報を格納する。データ領域は、端末10の使用によって発生するデータが格納される領域であって、前述したように、ストリーミングデータ処理のための多様な命令が格納され得る。このような、格納部14は、フラッシュメモリ(flash memory)、ハードディスク(hard disk)、マルチメディアカードマイクロ(multimedia card micro)タイプのメモリ(例えば、SD又はXDメモリ等)、ラム(RAM)、ロム(ROM)等の格納媒体を含んで構成され得る。
表示部15は、端末10の機能実行中に発生する一連の動作状態及び動作結果等に対する情報を表示する。特に、本発明の表示部15は、マルチビューサービスサーバー20からストリーミングデータを再生することによって発生する情報を表示できる。特に、第1画面と第2画面に対応する領域に第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータが出力されて表示される過程を支援できる。なお、本発明の表示部15は、第1画面及び第2画面以外の複数個の画面領域をさらに構成して出力することもできる。
このような、表示部15は、前述したように、入力部12とともに一つのタッチパネル(又はタッチスクリーン)の形態で具現されることもでき、前記入力部12とともに具現される場合、ユーザのタッチ動作によって発生する多様な情報を表示できる。
また、前述したような本発明の表示部15は、LCD(Liquid Crystal Display)、TFT−LCD(Thin Film Transistor LCD)、OLED(Organic Light Emitting Diodes)、発光ダイオード(LED)、AMOLED(Active Matrix Organic LED)、フレキシブルディスプレイ(Flexible display)及び3次元ディスプレイ(3Dimension)等で構成され得る。また、これらのうち一部のディスプレイは、それを介して外部が見られるように、透明型又は光透過型で構成され得る。これは、TOLED(Transparant OLED)を含む透明ディスプレイ形態で構成され得る。
このように、図4を参照して端末10の主要構成要素について説明した。しかし、図4に図示された構成要素がすべて必須構成要素であるものではなく、図示された構成要素より多い構成要素により端末10が具現されることもでき、それより少ない構成要素により端末10が具現されることもできる。例えば、端末10は、電気的な信号である音源をアナログ信号に変換して出力する音源出力部(図示せず)をさらに含んで構成され得、このような音源出力部(図示せず)は、マルチビューサービスサーバー20から伝達されたMMTストリーミングデータの再生時に発生する多様な情報を出力できる。
また、図4に図示された端末10の主要構成要素の位置は、便宜上又は他の理由により変わってもよいことはもちろんである。また、制御部13を構成するモジュールは、第1画面制御モジュール13a、第2画面制御モジュール13b、再生制御モジュール13c及びタイム生成モジュール13dのみを図示したが、これに限定されるものではなく、多様な機能を行う多様なモジュールで制御部13が構成されることもできる。また、説明の便宜のために、第1画面制御モジュール13a及び第2画面制御モジュール13bを用いて第1画面MMTストリーミングデータと第2画面MMTストリーミングデータが処理されることを例示して説明したが、一つのモジュールを用いて第1画面MMTストリーミングデータと第2画面MMTストリーミングデータが処理されることもできる。
また、本発明では、説明の便宜のために、主画面である第1画面及び副画面である第2画面のみを例示して説明したが、副画面は、複数個生成され得、それぞれの副画面は、MMTストリーミングデータを受信して出力し得る。
以下、本発明の実施形態によるマルチビューサービスサーバー20の主要構成及び動作方法について説明する。
図6は、本発明の実施形態によるマルチビューサービスサーバーの主要構成を示すブロック図である。
図3及び図6を参照すれば、本発明の実施形態によるマルチビューサービスサーバー20は、サーバー通信部21、サーバー制御部22及びサーバー格納部23を含んで構成され得る。
サーバー通信部21は、端末10と情報の送受信を支援する役目を行う。例えば、サーバー通信部21は、端末10からMMTストリーミングデータの伝送要請を受信でき、端末10にMMTストリーミングデータを伝送できる。ここで、MMTストリーミングデータは、一つ以上のアセットで構成され得、一つのアセットは、複数個のMPUで構成され得る。サーバー通信部21は、複数個のMPUで構成される複数のアセットをストリーミング方式に従って順次に一つのチャネルを介して端末10に伝達できる。また、本発明のサーバー通信部21は、端末10の要請に従って第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータを順次に端末10に伝達でき、この際の第1、第2MMTストリーミングデータは、同一のアセットIDを含むか、互いに異なるアセットIDを含むことができる。また、第1、第2MMTストリーミングデータは同一のチャネルを介して端末10に伝達されるか、互いに異なるチャネルを介して端末10に伝達されることもできる。
なお、サーバー通信部21がコンテンツ提供サーバー30と情報を送受信する場合、サーバー通信部21は、特定のコンテンツの提供要請をコンテンツ提供サーバー30に伝送し、コンテンツ提供サーバー30から伝達されるコンテンツを受信することもできる。この際、本発明のサーバー通信部21は、サーバー制御部22の制御によってコンテンツ提供サーバー30から第1画面及び第2画面ストリーミングデータ生成のために必要なコンテンツをあらかじめ要請し、端末10のマルチビューストリーミングサービス要請以前に当該コンテンツを受信できる。
サーバー制御部22は、本発明の実施形態によるマルチビューサービスサーバー20の全般的な制御を行う構成であって、ストリーミングデータ生成モジュール22a及びストリーミングデータ伝送モジュール22bを含んで構成され得る。
ここで、ストリーミングデータ生成モジュール22aは、MMTストリーミングデータを生成する役目を行うことができる。例えば、ストリーミングデータ生成モジュール22aはコンテンツ提供サーバー30から伝達されるコンテンツを、MMTプロトコルを支援するストリーミングデータ形態に変換処理する過程を支援できる。この際、ストリーミングデータ生成モジュール22aは、MMTストリーミングデータの変換時に、MPUのブロックサイズを決定し、決定されたMPUのブロックサイズによって各MPUを構成し、MMTストリーミングデータを生成できる。ここで、MPUのブロックサイズは、端末10の状況情報によって、及び、又は端末10に連結された通信網50の状況によって可変的に調節され得る。また、本発明のストリーミングデータ生成モジュール22aは、各MPU別に再生タイム情報を挿入し、端末10がこれを同期化して再生されるように、必要な過程を行うことができる。例えば、図7に示されたように、MMTストリーミングデータは、複数個のMPUで構成され得、複数個のMPUが順次に端末10に伝達され得る。この際、各MPUは、図2を参照して説明したように、ヘッダー情報507を含むことができ、各ヘッダー情報507は、MPU ID、UTC(Universal Time Clock)等のデータ処理に必要な情報を含むことができる。ここで、UTCは、再生タイム情報を意味する。
特に、本発明の実施形態によるストリーミングデータ生成モジュール22aは、端末10の要請に従って第1画面に対する第1MMTストリーミングデータを生成でき、第2画面に対する第2MMTストリーミングデータを生成できる。この際、ストリーミングデータ生成モジュール22aは、端末10の第1画面の支援解像度に合わせて第1画面に対する第1MMTストリーミングデータの解像度及びフレーム数を調節して生成し得、第2画面の支援解像度に合わせて第2画面に対する第2MMTストリーミングデータの解像度及びフレーム数を調節して生成し得る。すなわち、本発明の実施形態によるストリーミングデータ生成モジュール22aは、MMT方式に従ってストリーミングデータを生成することによって、複雑なエンコーディング手続なしに、第1画面に対する第1MMTストリーミングデータ及び第2画面に対する第2MMTストリーミングデータを生成でき、これにより、端末10の要請に従ってより迅速に解像度及びフレーム数を調節し、MMTストリーミングデータの提供が可能になる。
また、本発明のストリーミングデータ生成モジュール22aは、端末10のマルチビューストリーミングサービス要請前に、第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータ生成のために必要な情報をコンテンツ提供サーバー30に要請し、あらかじめ受信できる。例えば、端末10に第1画面に対する第1MMTストリーミングデータを提供する場合、ストリーミングデータ生成モジュール22aは、当該端末10のマルチビューストリーミングサービス要請に待機して、あらかじめ第2画面に対する第2MMTストリーミングデータ生成のための情報をコンテンツ提供サーバー30に要請して受信し得る。これにより、端末10からマルチビューストリーミングサービス提供の要請時に、ストリーミングデータ生成モジュール22aは、直ちに第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータを端末10に迅速に提供できる。
なお、本発明の実施形態によるストリーミングデータ生成モジュール22aは、端末10からのマルチビューストリーミングサービスと関連した多様なイベント情報を処理できる。例えば、端末10から第2画面に対するサイズ調節イベントと関連した情報が受信されれば、ストリーミングデータ生成モジュール22aは、前記端末10のサイズ調節イベントによって第2画面に対する第2MMTストリーミングデータの解像度及びフレーム数を変更し、変更された第2画面に対する第2MMTストリーミングデータを提供できる。また、端末10からスイッチングイベントに対する情報が受信されれば、ストリーミングデータ生成モジュール22aは、前記端末10のスイッチングイベントによって第1画面及び第2画面に対する第1、第2MMTストリーミングデータの解像度及びフレーム数を各々変更し、変更された第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータを提供できる。すなわち、前述したように、MMT方式に従って各ストリーミングデータを提供することによって、端末10で発生する多様なイベント情報によって、迅速に第1画面及び第2画面に対するMMTストリーミングデータの解像度及びフレーム数を変更して提供し得る。
また、ストリーミングデータ伝送モジュール22bは、MMTストリーミングデータを要請した端末10に当該MMTストリーミングデータを伝送する役目を行うことができる。この際、端末10が要請したMMTストリーミングデータが複数のMPUで構成される複数のアセットを含む場合、これを順次に端末10が受信するように制御する役目を行うことができる。なお、本発明のストリーミングデータ伝送モジュール22bは、端末10から伝達すされるベント情報によって、ストリーミングデータ生成モジュール22aに要請し、該当するMMTストリーミングデータが生成されるように支援することもできる。
さらに、本発明のサーバー制御部22は、MMTストリーミングデータを要請した端末10に対する情報を格納し、管理し得る。この際、いずれか一つの端末10がMMTストリーミングデータを要請した場合、当該端末10が、自分が提供するマルチビューストリーミングサービスに加入されたユーザであるか否かを確認でき、自分が提供するマルチビューストリーミングサービスに加入されたユーザである場合にのみ、MMTストリーミングデータが提供されるように制御することもできる。
サーバー格納部73は、本発明の実施形態によるマルチビューサービスサーバー20の動作実行に必要な各種情報を格納し、管理する役目を行うことができる。
以上、本発明の実施形態によるマルチビューサービスサーバー20の主要構成及び動作方法について説明した。
本発明の実施形態によるマルチビューサービスサーバー20は、ハードウェア的には、通常的なウェブサーバー(Web Server)又はネットワークサーバーと同一の構成を有する。しかし、ソフトウェア的には、C、C++、Java(登録商標)、Visual Basic、Visual C等のような言語を用いて具現されるプログラムモジュール(Module)を含む。
なお、本発明の各装置に搭載されるメモリは、当該装置内で情報を格納する。一具現例の場合、メモリは、コンピュータで読み取り可能な媒体である。一具現例で、メモリは、揮発性メモリユニットであってもよく、他の具現例の場合、メモリは、非揮発性メモリユニットであってもよい。一具現例の場合、格納装置は、コンピュータで読み取り可能な媒体である。多様な互いに異なる具現例で、格納装置は、例えばハードディスク装置、光学ディスク装置、或いは、任意の他の大容量格納装置を含むこともできる。
なお、本発明の実施形態で使用される「〜モジュール」という用語は、ソフトウェア構成要素を意味し、「〜モジュール」は、所定の役目を行う。一例として「〜モジュール」は、ソフトウェア構成要素、客体指向ソフトウェア構成要素、クラス構成要素及びタスク構成要素のような構成要素と、プロセス、関数、属性、プロシージャ、サブルーチン、プログラムコードのセグメント、ドライバー、データ、データベース、データ構造、テーブル、アレイ、及び変数を含む。また、構成要素と「〜モジュール」内で提供される機能は、さらに小さい数の構成要素及び「〜モジュール」に結合されるか、追加的な構成要素と「〜モジュール」とにさらに分離され得る。
たとえ本明細書と図面では、例示的な装置構成を記述しているが、本明細書で説明する機能的な動作と主題の具現物は、他の類型のデジタル電子回路で具現されるか、本明細書で開示する構造及びその構造的な等価物を含むコンピュータソフトウェア、ファームウエア或いはハードウェアで具現されるか、これらのうち一つ以上の結合で具現可能である。本明細書で説明する主題の具現物は、一つ以上のコンピュータプログラム製品、言い換えれば、本発明による装置の動作を制御するために、或いはこれによる実行のために、有形のプログラム格納媒体上にエンコーディングされたコンピュータプログラム命令に関する一つ以上のモジュールとして具現され得る。コンピュータで読み取り可能な媒体は、機械で読み取り可能な格納装置、機械で読み取り可能な格納基板、メモリ装置、機械で読み取り可能な電波型信号に影響を及ぼす物質の組成物或いはこれらのうち一つ以上の組合であることができる。
以下、本発明の実施形態によるマルチビューストリーミングサービス提供方法について説明する。
図8は、本発明の実施形態によるマルチビューストリーミングサービス提供方法を説明するためのデータ流れ図である。
図8を参照すれば、端末10は、マルチビューストリーミング再生要請に従って、マルチビューサービスサーバー20に第1画面に対する第1MMTストリーミングデータ及び第2画面に対する第2MMTストリーミングデータを要請できる(S101、S103)。前記過程は、同時に行われることができる。また、第1画面に対する第1MMTストリーミングデータが再生されている状態で、マルチビューストリーミング再生要請が発生すると、第2画面に対する第2MMTストリーミングデータを要請することもできる。
これにより、マルチビューサービスサーバー20は、各MMTストリーミングデータを生成する(S105)。この際、マルチビューサービスサーバー20は各ストリーミングデータのMPUユニットに再生タイム情報を挿入し、端末10に第1画面に対する第1ストリーミングデータ及び第2画面に対する第2ストリーミングデータを伝送する(S107、S109)。
これを受信した端末10は、各MPUの再生タイム情報を確認し、端末10自分の現在タイム情報を確認する(S111)。また、端末10は、確認された再生タイム情報によって各ストリーミングデータのMPUを同期化して再生し得る(S113)。
例えば、マルチビューサービスサーバー20から受信された第1画面に対する第1MMTストリーミングデータのMPUに挿入された再生タイム情報と第2画面に対する第2MMTストリーミングデータのMPUに挿入された再生タイム情報が全て「10:10:10.3」であると仮定する。また、第1画面に対する第1MMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.0」であり、第2画面に対する第2MMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.3」であると仮定する。この場合、端末10は、再生タイム情報によって第1画面に対する第1MMTストリーミングデータの以前MPUの再生を所定時間増やすか、受信された現在MPUを所定時間遅延させて、10:10:10.3秒に受信された各現在MPUが同一の時点に再生されるように制御できる。
他の例として、第1画面に対する第1MMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.5」であり、第2画面に対する第2MMTストリーミングデータのMPUが端末10に受信された時点が「10:10:10.3」である場合、端末10は、第2画面に対する第2MMTストリーミングデータの以前MPUを一定時間遅延させて再生されるようにした後、10:10:10.5秒に第1画面に対する第1MMTストリーミングデータのMPUと同時に再生されるように制御できる。
言い換えれば、本発明は、第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータで再生タイム情報の同一のMPUは、同時に再生されるように制御するもので、この際、第1画面に対する第1MMTストリーミングデータと第2画面に対する第2MMTストリーミングデータのMPUのうちいずれか一つは、挿入された再生タイム情報より遅く再生されるか、速く再生され得る。
なお、本発明の実施形態によるマルチビューストリーミングサービスは、端末10で発生する多様なイベント情報によって対応するマルチビューストリーミングサービスを提供できる。
これについて図9及び図10を参照して説明する。
図9は、本発明の他の実施形態によるマルチビューストリーミングサービス提供方法を説明するためのデータ流れ図である。
図9を参照すれば、端末10は、マルチビューストリーミング再生要請に従って、マルチビューサービスサーバー20に第1画面に対する第1MMTストリーミングデータ及び第2画面に対する第2MMTストリーミングデータを要請し、これを受信できる(S201、S203)。この際、マルチビューサービスサーバー20は、第1画面に対する第1MMTストリーミングデータは、例えば、秒当たり30フレーム(30frame/sec)で具現し、端末10に伝送でき、第2画面に対する第2MMTストリーミングデータは、例えば、秒当たり20フレーム(20frame/sec)で具現し、端末10に伝送できる。ここで、前記受信される過程は、同時に行われることができる。
端末10は、受信された各ストリーミングデータを再生タイム情報によって同期化して再生している状態で、第2画面に対するサイズ調節イベントが発生するかを判断する(S205)。前記判断結果、第2画面に対するサイズ調節イベントが発生すると、端末10は、マルチビューサービスサーバー20でサイズ調節イベントを通知するようになる。この際、端末10は、第2画面に対する以前サイズ情報、変更された現在サイズ情報、第2画面の位置情報等を含んでマルチビューサービスサーバー20で通知できる。
これを受信したマルチビューサービスサーバー20は、サイズ調節イベントによって第2画面に対する第2ストリーミングデータの解像度を変更する(S209)。例えば、端末10の第2画面解像度が320x128である状態で、サイズ調節イベントによって第2画面領域が640x480に拡大された場合、これに対する情報を確認したマルチビューサービスサーバー20は、前記変更された解像度によって以後に発生する第2画面に対する第2MMTストリーミングデータの各MPUを変更できる。この際、マルチビューサービスサーバー20は、変更された解像度によってフレーム数を調節でき、調節されたフレーム数に合わせて各MPUを調節できる。
また、マルチビューサービスサーバー20は、再構成された第2画面に対する第2MMTストリーミングデータの各MPUに再生タイム情報を挿入し(S211)、第1画面に対する第1MMTストリーミングデータの各MPUにも再生タイム情報を挿入した後、各MMTストリーミングデータを端末10に伝送できる(S213、S215)。
これを受信した端末10は、各MPUの再生タイム情報を確認し、端末10自分の現在タイム情報を確認する(S217)。また、端末10は、確認された再生タイム情報によって各ストリーミングデータのMPUを同期化して再生し得る(S219)。
図10は、本発明の他の実施形態によるマルチビューストリーミングサービス提供方法を説明するためのデータ流れ図である。
図10を参照すれば、端末10は、マルチビューストリーミング再生要請に従って、マルチビューサービスサーバー20に第1画面に対する第1MMTストリーミングデータ及び第2画面に対する第2MMTストリーミングデータを要請し、これを受信できる(S301、S303)。前記受信される過程は、同時に行われることができる。
端末10は、受信された各ストリーミングデータを再生タイム情報によって同期化して再生している状態で、スイッチングイベントが発生するかを判断する(S305)。前記判断結果、第2画面と第1画面間のスイッチングイベントが発生すると、端末10は、マルチビューサービスサーバー20でスイッチングイベントを通知するようになる。ここで、スイッチングイベントは、第2画面で表示されている映像と第1画面で表示される映像を互いに転換して表示するためのユーザ要請イベントを意味する。
なお、端末10は、マルチビューサービスサーバー20においてスイッチングイベント処理のために必要な情報を含んでマルチビューサービスサーバー20で通知できる。
これを受信したマルチビューサービスサーバー20は、スイッチングイベントによって第1画面及び第2画面をスイッチングするために、各MMTストリーミングデータの解像度及びフレームを調節する(S309)。また、マルチビューサービスサーバー20は、解像度及びフレーム数が調節された各MMTストリーミングデータのMPUごとに再生タイム情報を挿入し(S311)、各MMTストリーミングデータを端末10に伝送できる(S313、S315)。
これを受信した端末10は、各MPUの再生タイム情報を確認し、端末10自分の現在タイム情報を確認する(S317)。また、端末10は、確認された再生タイム情報によって各ストリーミングデータのMPUを同期化して再生し得る(S319)。
以上、本発明の実施形態によるマルチビューストリーミングサービス提供方法について説明した。
前述したような本発明の実施形態によるマルチビューストリーミングサービス提供方法は、コンピュータプログラムコマンドとデータを格納するのに適合なコンピュータで読み取り可能な媒体の形態で提供されることもできる。本発明の一実施形態によるマルチビューストリーミングサービス提供方法を具現するための記録媒体に記録されるプログラムは、端末がマルチビューサービスサーバーに第1画面に対するMPEGメディアトランスポート(MMT;MPEG Media Transport)ストリーミングデータと第2画面に対するMPEGメディアトランスポートストリーミングデータを要請する段階と、前記端末が前記マルチビューサービスサーバーから前記第1画面に対するストリーミングデータと第2画面に対するストリーミングデータが受信されることによって、前記各ストリーミングデータの各メディアプロセッシングユニット(MPU;Media Processing Unit)に挿入された再生タイム情報を確認する段階と、前記端末が前記確認された再生タイム情報によって前記第1画面に対するストリーミングデータと前記第2画面に対するストリーミングデータの各メディアプロセッシングユニットを同期化させて再生されるように制御する段階等を行うことができる。
この際、記録媒体に記録されたプログラムは、コンピュータで読み出されて設置され、実行されることによって、前述した機能を実行できる。
ここで、コンピュータが記録媒体に記録されたプログラムを読み出して、プログラムで具現された機能を実行させるために、前述したプログラムは、コンピュータのプロセッサ(CPU)がコンピュータの装置インターフェース(Interface)を介して読み出されることができるC、C++、JAVA(登録商標)、機械語等のコンピュータ言語でコード化されたコード(Code)を含むことができる。
このようなコードは、前述した機能を定義した関数等と関連した機能的なコード(Function Code)を含むことができ、前述した機能をコンピュータのプロセッサが所定の手続に基づいて実行させるのに必要な実行手続関連制御コードを含むこともできる。また、このようなコードは、前述した機能をコンピュータのプロセッサが実行させるのに必要な追加情報やメディアがコンピュータの内部又は外部メモリのどの位置(アドレス番地)で参照されなければならないかに対するメモリ参照関連コードをさらに含むことができる。また、コンピュータのプロセッサが前述した機能を実行させるために、遠隔(Remote)にある任意の他のコンピュータやサーバー等と通信が必要な場合、コードは、コンピュータのプロセッサがコンピュータの通信モジュールを利用して遠隔(Remote)にある任意の他のコンピュータやサーバー等とどのように通信しなければならないか、通信時にどんな情報やメディアを送受信しなければならないか等に対する通信関連コードをさらに含むこともできる。
このような、コンピュータプログラムコマンドとデータを格納するのに適したコンピュータで読み取り可能な媒体は、例えば、記録媒体は、ハードディスク、フロッピィーディスク及び磁気テープのような磁気媒体(Magnetic Media)、CD−ROM(Compact Disk Read Only Memory)、DVD(Digital Video Disk)のような光記録媒体(Optical Media)、フロプチカルディスク(Floptical Disk)のような磁気−光媒体(Magneto−OpticalMedia)、及びロム(ROM、Read Only Memory)、ラム(RAM、Random Access Memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)のような半導体メモリを含む。プロセッサとメモリは、特殊目的の論理回路により補充されるか、それに統合され得る。
また、コンピュータが読み取り可能な記録媒体は、ネットワークで連結されたコンピュータシステムに分散され、分散方式でコンピュータが読み取り可能なコードが格納され、実行され得る。また、本発明を具現するための機能的な(Functional)プログラムとこれと関連したコード及びコードセグメント等は、記録媒体を読み出してプログラムを実行させるコンピュータのシステム環境等を考慮して、本発明の属する技術分野におけるプログラマーによって容易に推論されるか、または変更されることもできる。
本明細書は、多数の特定の具現物の詳細事項を含むが、これらは、如何なる発明や請求可能なものの範囲に対しても制限的なものとして理解されてはならず、むしろ特定の発明の特定の実施形態に特有な特徴に対する説明として理解しなければならない。個別的な実施形態の文脈で本明細書に記述された特定の特徴は、単一実施形態で組み合わせて具現されることもできる。反対に、単一実施形態の文脈で記述した多様な特徴も個別的に或いは如何なる適切な下位組合でも複数の実施形態で具現可能である。さらに、特徴が特定の組合で動作し、初期にそのように請求されたように描写され得るが、請求された組合からの一つ以上の特徴は、一部の場合にその組合から排除され得、その請求された組合は、下位組合や下位組合の変形物に変更され得る。
同様に、特定の手順で図面で動作を描いているが、これは、好適な結果を得るために図示されたその特定の手順や順次な順にそのような動作を実行しなければならないか、すべての図示された動作が実行されなければならないものと理解されてはならない。特定の場合、マルチタスキングと並列プロセッシングが有利であることができる。また、前述した実施形態の多様なシステムコンポネントの分離は、そのような分離をすべての実施形態で要求するものと理解されてはならず、説明したプログラムコンポネントとシステムは、一般的に単一のソフトウェア製品に一緒に統合されるか、多重ソフトウェア製品にパッケージングされ得るという点を理解しなければならない。