JP6462566B2 - 送信装置、送信方法、受信装置および受信方法 - Google Patents

送信装置、送信方法、受信装置および受信方法 Download PDF

Info

Publication number
JP6462566B2
JP6462566B2 JP2015525124A JP2015525124A JP6462566B2 JP 6462566 B2 JP6462566 B2 JP 6462566B2 JP 2015525124 A JP2015525124 A JP 2015525124A JP 2015525124 A JP2015525124 A JP 2015525124A JP 6462566 B2 JP6462566 B2 JP 6462566B2
Authority
JP
Japan
Prior art keywords
image
predetermined number
video streams
images
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015525124A
Other languages
English (en)
Other versions
JPWO2015001947A1 (ja
Inventor
塚越 郁夫
郁夫 塚越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Saturn Licensing LLC
Original Assignee
Saturn Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Saturn Licensing LLC filed Critical Saturn Licensing LLC
Publication of JPWO2015001947A1 publication Critical patent/JPWO2015001947A1/ja
Application granted granted Critical
Publication of JP6462566B2 publication Critical patent/JP6462566B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • H04N21/2353Processing of additional data, e.g. scrambling of additional data or processing content descriptors specifically adapted to content descriptors, e.g. coding, compressing or processing of metadata
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4314Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for fitting data in a restricted space on the screen, e.g. EPG data in a rectangular grid
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Library & Information Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Systems (AREA)

Description

本技術は、送信装置、送信方法、受信装置および受信方法に関し、特に、多画像配置の配信サービスを行うための送信装置等に関する。
放送やネットワークからの複数のストリームをマルチデコードし、マルチデコードによって得られた複数の画像を1つのディスプレイに表示させるマルチ画面表示に関する技術が実現、または提案されている。
例えば、いわゆるPinP(Picture in Picture)の形で複数の画像が表示されることにより、ユーザは、サブ画面に小さく表示される他のチャンネルの番組の画像を見ながら、メイン画面に大きく表示されるあるチャネルの番組の画像を見ることができる。また、例えば、ディスプレイの右半分と左半分に異なるチャンネルの番組の画像が並べて表示されることにより、ユーザは、2つのチャネルの番組の画像を同時に見ることができる。
例えば、特許文献1には、通常表示の状態においてマルチ画面の表示が指示された場合、マルチ画面への表示の切り替えを迅速に行うことができるようにした技術が開示されている。
特開2000−13712号公報
例えば、送信側から多画像配置に係る複数の画像の画像データを送り、受信側ではこの複数の画像データを処理して多画像配置画像を得て、表示を行うことが考えられる。この場合、受信側では複数の画像の配置を適切に行うことが必要となる。
本技術の目的は、多画像配置の配信サービスを良好に行い得るようにすることにある。
本技術の概念は、
多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナを送信する送信部と、
上記ビデオストリームのレイヤに、上記複数の画像の配置位置を示す位置情報を挿入する情報挿入部とを備える
送信装置にある。
本技術において、送信部により、多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナが送信される。例えば、コンテナは、デジタル放送規格で採用されているトランスポートストリーム(MPEG−2 TS)であってもよい。また、例えば、コンテナは、インターネットの配信などで用いられるMP4、あるいはMMTなどそれ以外のフォーマットのコンテナであってもよい。情報挿入部により、ビデオストリームのレイヤに、複数の画像の配置位置を示す位置情報が挿入される。
このように本技術においては、ビデオストリームのレイヤに複数の画像の配置位置を示す位置情報が挿入されるものであり、受信側では複数の画像の配置を適切に行うことが容易に可能となる。
なお、本技術において、例えば、情報挿入部は、複数の画像の表示タイミングを調整するためのオフセット情報を、ビデオストリームのレイヤにさらに挿入する、ようにされてもよい。これにより、受信側では、多画像配置画像を構成する複数の画像の表示タイミングを調整して、これらの複数の画像の表示開始タイミングを一致させることが可能となる。
また、本技術において、例えば、情報挿入部は、多画像配置のタイプを示すタイプ情報を、ビデオストリームのレイヤにさらに挿入する、ようにされてもよい。これにより、受信側では、多画像配置のタイプを的確に認識でき、複数の画像の配置を適切に行うことが容易に可能となる。また、本技術において、例えば、情報挿入部は、複数の画像の表示可能な時間が制御されるか否かを示すライフタイム情報を、ビデオストリームのレイヤにさらに挿入する、ようにされてもよい。この情報により、受信側では、例えば、仮想ディスプレイバッファ内に蓄積されている画像データの削除制御を自動的に行うことが可能となる。
また、本技術において、例えば、情報挿入部は、複数の画像の表示時のローテーションタイプを示すタイプ情報を、上記ビデオストリームのレイヤにさらに挿入する、ようにされてもよい。これにより、複数の画像を、サービス側が意図した回転状態で表示させることが可能となる。
また、本技術において、例えば、情報挿入部は、コンテナのレイヤに、多画像配置の配信サービスであることを識別する識別情報をさらに挿入する、ようにされてもよい。これにより、受信側では、多画像配置の配信サービスであることを容易に認識でき、その処理のための準備を行うことが可能となる。この場合、例えば、情報挿入部は、コンテナのレイヤに、多画像配置の配信サービスが、動画静止画の混在サービスであるか否かを識別する識別情報をさらに挿入する、ようにされてもよい。
また、本技術において、例えば、情報挿入部は、コンテナのレイヤに、多画像配置の配信サービスに関与するビデオストリームの総数の情報をさらに挿入する、ようにされてもよい。これにより、受信側では、処理すべきビデオストリームの総数を容易に把握でき、適切な処理が可能となる。
また、本技術において、例えば、情報挿入部は、コンテナのレイヤに、各ビデオストリームが動画ストリームであるか、静止画ストリームであるか、あるいは静止画動画混在の混在ストリームであるかを示すタイプ情報をさらに挿入する、ようにされていてもよい。これにより、受信側では、ビデオストリームのストリームのタイプを容易に把握でき、適切な処理を行うことが可能となる。
また、本技術の概念は、
多画像配置の配信サービスに係る複数の画像の符号化画像データを含み、上記複数の画像の配置位置を示す位置情報が挿入されている所定数のビデオストリームを受信する受信部と、
上記所定数のビデオストリームをデコードして上記複数の画像の画像データを得るデコード部と、
上記デコード後の複数の画像の画像データを上記位置情報に基づいて配置して多画像配置画像の画像データを得る処理部とを備える
受信装置にある。
本技術において、受信部により、多画像配置の配信サービスに係る複数の画像の符号化画像データを含み、この複数の画像の配置位置を示す位置情報が挿入されている所定数のビデオストリームが受信される。デコード部により、所定数のビデオストリームがデコードされて、複数の画像の画像データが得られる。
そして、処理部により、デコード後の複数の画像の画像データが位置情報に基づいて配置されて多画像配置画像の画像データが得られる。例えば、デコード部で得られた複数の画像の画像データを一時的に蓄積するデコーデッドバッファと、多画像配置の画像データを一時的に蓄積する仮想ディスプレイバッファとをさらに備え、処理部は、デコーデッドバッファから上記複数の画像の画像データを順次読み出し、仮想ディスプレイバッファの上記位置情報が示す配置位置に応じた領域に書き込む、ようにされてもよい。
このように本技術においては、デコード後の複数の画像の画像データが位置情報に基づいて配置されて、多画像配置画像の画像データが得られるものである。したがって、多画像配置画像の画像データを効率よく、かつ適切に得ることが可能となる。
なお、本技術において、例えば、仮想ディスプレイバッファから多画像配置画像の一部または全部の表示領域に対応した画像データを読み出し、この表示領域の画像を表示する表示制御部をさらに備える、ようにされてもよい。この場合、例えば、表示制御部に表示領域を指示するユーザ操作部をさらに備える、ようにされてもよい。これにより、例えば、ディスプレイに表示される画像を変化させることができ、サイズ(解像度)の小さなディスプレイに例えばユーザ操作に基づいてサイズの大きな多画像配置画像をスクロールして表示することも可能となる。また、この場合、例えば、表示制御部に表示領域の画像を表示するディスプレイの数を指定するユーザ操作部をさらに備える、ようにされてもよい。
また、本技術において、例えば、所定数のビデオストリームの送信の停止および再開の要求を送信側に送る要求送信部をさらに備える、ようにされてもよい。これにより、例えば、画像データを一時的に蓄積しておくバッファをオーバフローさせることなく、静止画像である多画像配置画像を、ユーザのタイミングで閲覧することが可能となる。
また、本技術の他の概念は、
配信サーバがネットワークを通じて配信可能な多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームをクライアント端末が取得するための情報を持つメタファイルを生成するメタファイル生成部と、
上記クライアント端末から送信要求があるとき、上記ネットワークを通じて、該クライアント端末に、上記生成されたメタファイルを送信するメタファイル送信部とを備え、
上記ビデオストリームのレイヤに、上記複数の画像の配置位置を示す位置情報が挿入されており、
上記メタファイル生成部は、上記メタファイルに、上記所定数のビデオストリームを常に読むことを示す情報を含める
送信装置にある。
本技術において、メタファイル生成部により、所定数のビデオストリームをクライアント端末が取得するための情報を持つメタファイルが生成される。この所定数のビデオストリームには、配信サーバがネットワークを通じて配信可能な多画像配置の配信サービスに係る複数の画像の符号化画像データが含まれる。この場合、ビデオストリームのレイヤには、複数の画像の配置位置を示す位置情報が挿入されている。
メタファイル送信部により、クライアント端末から送信要求があるとき、ネットワークを通じて、このクライアント端末に、メタファイルが送信される。このメタファイルには、メタファイル生成部により、所定数のビデオストリームを常に読むことを示す情報が含められる。
このように本技術においては、メタファイルには、所定数のビデオストリームを常に読むことを示す情報が含まれる。そのため、受信側では、このメタファイルの情報に基づいて所定数のビデオストリームを常に読むようにされるため、多画像配置画像の画像データを良好に得ることが可能となる。
なお、本技術において、例えば、メタファイル生成部は、メタファイルに、所定数のビデオストリームが静止画ストリームであるか動画ストリームであるかを識別する識別情報をさらに含める、ようにされてもよい。これにより、クライアント端末は、所定数のビデオストリームが静止画ストリームであるか動画ストリームであるかを容易に判別可能となる。
本技術によれば、多画像配置の配信サービスを良好に行うことができる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
実施の形態としての配信システムの構成例を示すブロック図である。 水平・垂直方向2次元多画像配置の一例を示す図である。 水平方向1次元多画像配置の一例を示す図である。 静止画によるグループピクチャの例を示す図である。 動画によるグループピクチャの例を示す図である。 動画によるグループピクチャの例を示す図である。 静止画・動画によるグループピクチャの例を示す図である。 静止画(Still picture)サービスの単一ストリームによる配信例を示す図である。 静止画(Still picture)サービスの複数ストリームによる配信例を示す図である。 静止画(Still picture)、動画(Moving picture)の混在サービスの単一ストリームによる配信例を示す図である。 トランスポートストリームを生成する送信データ生成部の構成例を示すブロック図である。 単一ストリームによる配信を行う場合のトランスポートストリームの構成例を示す図である。 複数ストリームによる配信を行う場合のトランスポートストリームの構成例を示す図である。 グループ・ピクチャ・タグSEI(Group_picture_tag SEI)の構造例(Syntax)を示す図である。 グループ・ピクチャ・タグSEIの構造例における主要な情報の内容(Semantics)を示す図である。 「display_coordinate」による表示時のローテーションの一例を示す図である。 グループピクチャを構成する各画像の表示タイミングCTPの算出例を示す図である。 グループ・ピクチャ・タグSEIの各種情報の時間的変遷の一例を示す図である。 マルチ・ストリーム・サービス・デスクリプタ(multi_stream_service_descriptor)の構造例(Syntax)を示す図である。 マルチ・ストリーム・サービス・デスクリプタの構造例における主要な情報の内容(Semantics)を示す図である。 ミックスト・ストリーム・デスクリプタ(mixed_stream_descriptor)の構造例(Syntax)とその主要な情報の内容(Semantics)を示す図である。 ピクチャ・ライフタイム・デスクリプタ(Picture_lifetime_descriptor)の構造例(Syntax)とその主要な情報の内容(Semantics)を示す図である。 仮想ディスプレイ(Virtual Display)上の画像と表示領域との関係の一例を示す図である。 仮想ディスプレイ上における表示領域の位置および大きさの一例を示す図である。 仮想ディスプレイ(Virtual Display)上の画像と表示領域との関係の一例を示す図である。 仮想ディスプレイ上における表示領域の位置および大きさの一例を示す図である。 パノラマ画像を表示するためのディスプレイの構成例を示す図である。 グループピクチャが水平方向に連続した7個の画像から構成されている場合における表示領域の指定例を示す図である。 DASHベースのストリーム配信システムの構成例を示すブロック図である。 MPDファイルの階層構造を示す図である。 MPDファイルに階層的に配置されている各構造体の関係の一例を示す図である。 コンテンツからDASHセグメントやDASH MPDファイルを生成するまでのフローの一例を示す図である。 ストリーム配信システムを構成するIPTVクライアントの構成例を示す図である。 一般的な、DASHベースのストリーム配信システムの系を示す図である。 ビデオストリームを含むFragmentedMP4ストリームの構成例を示す図である。 多画像配置の配信サービスにおけるMPDファイルの記述例を示す図である。 多画像配置の配信サービスにおけるMPDファイルの記述例を示す図である。
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明を以下の順序で行う。
1.実施の形態
2.変形例
<1.実施の形態>
[配信システムの構成例]
図1は、配信システム10の構成例を示している。この配信システム10において、送信側には放送局110、ネット配信サーバ120およびNTP(Network Time Protocol)配信サーバ130が配置され、受信側には受信機200が配置されている。
放送局110は、RF伝送路を通じて、静止画、動画のリニアサービス、あるいは静止画、動画のダウンロードサービスを行う。放送局110は、放送配信多重化データとして、例えばMPEG2−TS(以下、単に、「トランスポートストリーム」と呼ぶ)のコンテナを送信する。この実施の形態において、トランスポートストリームは、多画像配置の配信サービスに係る複数の画像(ピクチャ)の符号化画像データを含む、所定数のビデオストリームを有するものとされる。
多画像配置には、例えば、複数の画像が水平・垂直方向に2次元配置された水平・垂直方向2次元多画像配置、複数の画像が水平方向に1次元配置された水平方向1次元多画像配置、複数の画像が垂直方向に1次元配置された垂直方向1次元多画像配置などがある。
ビデオストリームのレイヤには、複数の画像の配置位置を示す位置情報の他、複数の画像の表示タイミングを調整するためのオフセット情報、多画像配置のタイプを示すタイプ情報、複数の画像の表示時のローテーションタイプを示すタイプ情報などが挿入される。例えば、画像データがAVC(Advanced Video Coding)、HEVC(High Efficiency Video Coding)などで符号化されている場合、これらの情報は新たに定義されるSEIメッセージに挿入される。
図2は、水平・垂直方向2次元多画像配置の一例を示している。この例においては、水平・垂直の双方向に4つの画像が配置されている。この4×4の画像で構成される多画像配置画像(以下、適宜、「グループピクチャ」と呼ぶ)は仮想ディスプレイ(Virtual Display)に対応した解像度を持っている。例えば、1つの画像がHD解像度である場合、グループピクチャは8K解像度を持つものとなる。
「0000」〜「1111」は、各画像の位置情報である4ビットデータを示している。この場合、前半の2ビットは、仮想ディスプレイの4分割のうちのどの位置かを示す。また、後半の2ビットは、その4分割をさらに4分割に細分化した各々の位置を示す。また、「Picture rendering type」は、多画像配置のタイプを示すタイプ情報である。「Picture rendering type = 011」は、水平・垂直方向2次元多画像配置であることを示す。
図3は、水平方向1次元多画像配置の一例を示している。この例においては、水平方向に5つの画像が配置されている。この5画像で構成されるグループピクチャは仮想ディスプレイ(Virtual Display)に対応した解像度を持っている。例えば、1つの画像がHD解像度である場合、水平方向には、その5倍の解像度を持つものとなる。
「1110」、「1111」、「0000」、「0001」、「0010」は、各画像の位置情報である4ビットデータを示している。例えば、水平方向1次元多画像配置の場合、正面の画像の位置情報は「0000」、正面の右隣りN個目の画像の位置情報は「0000+N」、さらに、正面左隣りN個目の画像の位置情報は「0000−N」とされる。
なお、垂直方向1次元多画像配置の例の説明は省略するが、上述した水平方向1次元多画像配置の例と同様となる。
また、トランスポートストリームのレイヤに、多画像配置の配信サービスであることを示す識別情報、その配信サービスが動画静止画の混在サービスであるか否かを識別する識別情報、多画像配置の配信サービスに関与するビデオストリームの総数などが挿入される。これらの情報は、例えば、プログラム・マップ・テーブル(PMT:Program Map Table)の配下に挿入される、新たに定義されるデスクリプタに記述される。
1つのビデオストリームには、1つまたは複数の画像の符号化画像データが含まれる。また、ビデオストリームは、動画ストリーム、静止画ストリーム、あるいは動画静止画混在ストリームとされる。
図4は、静止画によるグループピクチャの例を示している。この例では、グループピクチャは2×2の画像(静止画)で構成される。そして、この例では、1つのビデオストリームで各画像の符号化画像データが時分割的に送られる。この場合、受信側では各画像の符号化データが順次復号化され、各画像の画像データは、それぞれ、位置情報に基づいて、仮想ディスプレイバッファ(Virtual Display Buffer)の対応する領域に書き込まれる。
図5は、動画によるグループピクチャの例を示している。この例では、グループピクチャは2×2の画像(動画)で構成される。そして、この例では、1つのビデオストリームで各画像の符号化画像データが時分割的に送られる。この場合、受信側では各画像の符号化データが順次復号化され、各画像の画像データは、それぞれ、位置情報に基づいて、仮想ディスプレイバッファの対応する領域に書き込まれる。
図6は、動画によるグループピクチャの例を示している。この例では、グループピクチャは2×2の画像(動画)で構成される。そして、この例では、4つのビデオストリームで各画像の符号化画像データが送られる。この場合、受信側では各画像の符号化データが復号化され、各画像の画像データは、それぞれ、位置情報に基づいて、仮想ディスプレイバッファの対応する領域に書き込まれる。
図7は、静止画・動画によるグループピクチャの例を示している。この例では、グループピクチャは2×2の画像(静止画、動画)で構成される。そして、この例では、1つのビデオストリームで各画像の符号化画像データが送られる。この場合、画像3(Picture 3)としては、静止画と動画が存在する。この場合、受信側では各画像の符号化データが復号化され、各画像の画像データは、それぞれ、位置情報に基づいて、仮想ディスプレイバッファの対応する領域に書き込まれる。
図8は、静止画(Still picture)サービスの単一ストリームによる配信例を示している。この例では、グループピクチャは2×2の画像で構成される。図において、丸数字が付された矩形部分がアクセスユニットを示している。この例は、HEVCによる符号化が行われている例を示している。なお、「1」〜「4」の丸数字は、それぞれ、画像1(Picture 1)〜画像4(Picture 4)の符号化画像データが含まれていることを示している。
最初、画像1(Picture 1)〜画像4(Picture 4)の静止画の符号化画像データが順に送信される。次に、画像3(Picture 3)の更新された符号化画像データが送信される。次に、さらに、画像3(Picture 3)の更新された符号化画像データが送信される。次に、画像1(Picture 1)〜画像4(Picture 4)の更新された符号化画像データが順に送信される。
なお、「group_picture_start」は、ある時点で表示更新すべきグループピクチャの開始を示す。一方、「group_picture_end」は、ある時点で表示更新すべきグループピクチャの終了を示す。これらの情報は、後述するように、ビデオストリームのレイヤに挿入されている。以下の各例においても同様である。
図9は、静止画(Still picture)サービスの複数ストリームによる配信例を示している。この例では、グループピクチャは2×2の画像で構成される。図において、丸数字が付された矩形部分がアクセスユニットを示している。なお、「1」〜「4」の丸数字は、それぞれ、画像1(Picture 1)〜画像4(Picture 4)の符号化画像データが含まれていることを示している。
最初、ビデオストリーム1〜4によりそれぞれ画像1(Picture 1)〜画像4(Picture 4)の符号化画像データが順に送信される。次に、ビデオストリーム3により画像3(Picture 3)の更新された符号化画像データが送信される。次に、さらに、ビデオストリーム3により画像3(Picture 3)の更新された符号化画像データが送信される。次に、ビデオストリーム1〜4によりそれぞれ画像1(Picture 1)〜画像4(Picture 4)の更新された符号化画像データが順に送信される。
図10は、静止画(Still picture)、動画(Moving picture)の混在サービスの単一ストリームによる配信例を示している。この例では、グループピクチャは2×2の画像で構成される。図において、丸数字が付された矩形部分がアクセスユニットを示している。なお、「1」〜「4」の丸数字は、それぞれ、画像1(Picture 1)〜画像4(Picture 4)の符号化画像データが含まれていることを示している。
最初、画像1(Picture 1)〜画像4(Picture 4)の静止画の符号化画像データが順に送信される。次に、画像3(Picture 3)の動画の符号化画像データが送信される。次に、画像1(Picture 1)〜画像4(Picture 4)の更新された静止画の符号化画像データが順に送信される。
図11は、放送局110において、上述したトランスポートストリームを生成する送信データ生成部110の構成例を示している。この送信データ生成部110は、動画・静止画出力部112と、ビデオエンコーダ113と、マルチプレクサ114を有している。
動画・静止画出力部112は、多画像配置の配信サービスに係る複数の画像の画像データを出力する。この動画・静止画出力部112は、例えば、被写体を撮像して画像データを出力するカメラ、あるいは記憶媒体から画像データを読み出して出力する画像データ読み出し部などにより構成される。静止画サービスの場合には(例えば、図4参照)、複数の静止画の画像データを出力する。動画サービスの場合には(例えば、図5、図6参照)、複数の動画の画像データを出力する。さらに、動画、静止画の混在サービスの場合には(例えば、図7参照)、動画、静止画の複数の画像データを出力する。
ビデオエンコーダ113は、動画・静止画出力部112から出力される複数の画像の画像データに対して、例えば、AVCあるいはHEVCなどの符号化を施し、符号化画像データを得る。また、ビデオエンコーダ113は、後段に備えるストリームフォーマッタにより、符号化画像データを含む所定数のビデオストリーム(ビデオエレメンタリストリーム)を生成する。この場合、一つのビデオストリームには、多画像配置に係る一つ画像の符号化画像データを含む場合の他、多画像配置に係る複数の画像の符号化画像データを含む場合がある。
ここで、ビデオエンコーダ113は、ビデオストリームのレイヤに、複数の画像の配置位置を示す位置情報の他、複数の画像の表示タイミングを調整するためのオフセット情報、多画像配置のタイプを示すタイプ情報、複数の画像の表示時のローテーションタイプを示すタイプ情報などを挿入する。これらの情報は、画像データがAVC(Advanced Video Coding)、HEVC(High Efficiency Video Coding)などで符号化されている場合、新たに定義されるSEIメッセージに挿入される。これらの情報の詳細については後述する。
マルチプレクサ114は、ビデオエンコーダ113で生成された各ビデオストリームをパケット化して多重化し、トランスポートストリームを生成する。ここで、マルチプレクサ114は、コンテナのレイヤ(システムレイヤ)に、多画像配置の配信サービスであることを示す識別情報、その配信サービスが動画静止画の混在サービスであるか否かを識別する識別情報、多画像配置の配信サービスに関与するビデオストリームの総数などを挿入する。これらの情報は、例えば、プログラム・マップ・テーブル(PMT:Program Map Table)の配下に挿入される、新たに定義されるデスクリプタに記述される。これらの情報の詳細については後述する。
図11に示す送信データ生成部110の動作を簡単に説明する。動画・静止画出力部112から多画像配置の配信サービスに係る複数の画像の画像データが出力される。これらの画像データは、ビデオエンコーダ113に供給される。ビデオエンコーダ113では、これらの画像データに対して、例えば、AVCあるいはHEVCなどの符号化が施され、符号化画像データが得られる。そして、このビデオエンコーダ113では、その符号化画像データを含む所定数のビデオストリームが生成される。
この際、ビデオエンコーダ113では、ビデオストリームのレイヤに、例えば、新たに定義されるSEIメッセージにより、複数の画像の配置位置を示す位置情報の他、複数の画像の表示タイミングを調整するためのオフセット情報、多画像配置のタイプを示すタイプ情報、複数の画像の表示時のローテーションタイプを示すタイプ情報などが挿入される。
また、ビデオエンコーダ113から出力される所定数のビデオストリームは、マルチプレクサ114に供給される。マルチプレクサ114では、各ビデオストリームがパケット化されて多重化され、トランスポートストリームが生成される。この際、マルチプレクサ114では、トランスポートストリームのレイヤに、新たに定義されるデスクリプタにより、多画像配置の配信サービスであることを示す識別情報、その配信サービスが動画静止画の混在サービスであるか否かを識別する識別情報、多画像配置の配信サービスに関与するビデオストリームの総数などが挿入される。
[TS構成、SEIメッセージの構造、デスクリプタの構造]
図12は、単一ストリームによる配信を行う場合のトランスポートストリームの構成例を示している。トランスポートストリームには、1つのビデオストリームが含まれている。すなわち、この構成例では、画像データが符号化されているビデオストリームのPESパケット「video PES1」が存在する。このビデオストリームには、多画像配置の配信サービスに係る複数の画像の符号化画像データが含まれている。
このビデオストリームには、各画像の符号化画像データのアクセスユニット毎に、グループ・ピクチャ・タグSEI(Group_picture_tag SEI)メッセージが挿入される。このSEIメッセージにより、上述したように、ビデオストリームのレイヤに、各画像の配置位置を示す位置情報の他、各画像の表示タイミングを調整するためのオフセット情報、多画像配置のタイプを示すタイプ情報、各画像の表示時のローテーションタイプを示すタイプ情報などが挿入される。
また、トランスポートストリームTSには、PSI(Program Specific Information)として、PMT(Program Map Table)が含まれている。このPSIは、トランスポートストリームに含まれる各エレメンタリストリームがどのプログラムに属しているかを記した情報である。
PMTには、プログラム全体に関連する情報を記述するプログラム・ループ(Program loop)が存在する。このプログラム・ループの配下に、マルチ・ストリーム・サービス・デスクリプタ(multi_stream_service_descriptor)が挿入される。また、PMTには、各エレメンタリストリームに関連した情報を持つエレメンタリ・ループが存在する。この構成例では、ビデオエレメンタリ・ループ(video ES1 loop)が存在する。
このビデオエレメンタリ・ループには、ビデオストリーム(video PES1)に対応して、ストリームタイプ、パケット識別子(PID)等の情報が配置されると共に、そのビデオストリームに関連する情報を記述するデスクリプタも配置される。このデスクリプタの一つとして、ミックスト・ストリーム・デスクリプタ(mixed_stream_descriptor)と、ピクチャ・ライフタイム・デスクリプタ(Picture_lifetime_descriptor)が挿入される。
このようにPMTの配下に挿入されるデスクリプタにより、上述したように、多画像配置の配信サービスであることを示す識別情報、その配信サービスが動画静止画の混在サービスであるか否かを識別する識別情報、多画像配置の配信サービスに関与するビデオストリームの総数などが挿入される。
図13は、複数ストリーム、ここでは4ストリームによる配信を行う場合のトランスポートストリームの構成例を示している。トランスポートストリームには、4つのビデオストリームが含まれている。すなわち、この構成例では、画像データが符号化されているビデオストリームのPESパケット「video PES1, video PES2, video PES3, video PES4」が存在する。これらのビデオストリームには、多画像配置の配信サービスに係る複数の画像の符号化画像データが含まれている。
これらのビデオストリームには、各画像の符号化画像データのアクセスユニット毎に、グループ・ピクチャ・タグSEI(Group_picture_tag SEI)メッセージが挿入される。このSEIメッセージにより、上述したように、ビデオストリームのレイヤに、各画像の配置位置を示す位置情報の他、各画像の表示タイミングを調整するためのオフセット情報、多画像配置のタイプを示すタイプ情報、各画像の表示時のローテーションタイプを示すタイプ情報などが挿入される。
また、トランスポートストリームTSには、PSI(Program Specific Information)として、PMT(Program Map Table)が含まれている。このPSIは、トランスポートストリームに含まれる各エレメンタリストリームがどのプログラムに属しているかを記した情報である。
PMTには、プログラム全体に関連する情報を記述するプログラム・ループ(Program loop)が存在する。このプログラム・ループの配下に、マルチ・ストリーム・サービス・デスクリプタ(multi_stream_service_descriptor)が挿入される。また、PMTには、各エレメンタリストリームに関連した情報を持つエレメンタリ・ループが存在する。この構成例では、4つのビデオエレメンタリ・ループ(video ES1 loop, video ES2 loop, video ES3 loop, video ES4 loop)が存在する。
これらのビデオエレメンタリ・ループには、各ビデオストリームに対応して、ストリームタイプ、パケット識別子(PID)等の情報が配置されると共に、そのビデオストリームに関連する情報を記述するデスクリプタも配置される。このデスクリプタの一つとして、ミックスト・ストリーム・デスクリプタ(mixed_stream_descriptor)と、ピクチャ・ライフタイム・デスクリプタ(Picture_lifetime_descriptor)が挿入される。
このようにPMTの配下に挿入されるデスクリプタにより、上述したように、多画像配置の配信サービスであることを示す識別情報、その配信サービスが動画静止画の混在サービスであるか否かを識別する識別情報、多画像配置の配信サービスに関与するビデオストリームの総数などが挿入される。
図14は、グループ・ピクチャ・タグSEI(Group_picture_tag SEI)の構造例(Syntax)を示している。また、図15は、その構造例における主要な情報の内容(Semantics)を示している。「group_picture_id」の8ビットフィールドは、静止画を含む、複数のピクチャの集合表示のための関連付け情報である。つまり、グループピクチャ(多画像配置画像)を構成する各画像の「group_picture_id」は同一とされる。
「picture_rendering_type」の3ビットフィールドは、多画像配置のタイプ、つまりグループピクチャに含まれる画像の配置タイプを示す。“001”は水平方向1次元多画像配置であることを示し、“010”は垂直方向1次元多画像配置であることを示し、“011”は水平・垂直方向2次元多画像配置であることを示す。この情報により、受信側では、多画像配置のタイプを的確に認識でき、複数の画像の配置を適切に行うことが容易に可能となる。
「lifetime_controlled」の1ビットフィールドは、表示可能な時間が制限されるか否かを示す。“1”は、 表示可能な時間が制限されていることを示す。この場合、システムレイヤ(コンテナのレイヤ)で指定されるNTP時刻まで表示可能となる。“0”は、表示可能な時間が制限されていないこと、つまり無期限に表示可能であることを示す。この情報により、受信側では、例えば、仮想ディスプレイバッファ内に蓄積されている画像データの削除制御を自動的に行うことが可能となる。
「location_ID」の4ビットフィールドは、グループピクチャを構成する各画像の配置位置を示す(図2、図3参照)。「version_number」の8ビットフィールドは、画像の更新(update)を示す昇順値である。この情報に基づいて、例えば、グループピクチャを構成する静止画の更新を順次行うことが可能となる。「number_of_pictures」の4ビットフィールドは、グループピクチャを構成する画像の総数、つまり、同一の「group_picture_id」を持ち、同時表示される画像の最大数である。
「display_coordinate」の3ビットフィールドは、表示時のローテーションのタイプを示す。“010”は、画像毎に時計回りに90度回転して表示することを示す。“011”は、画像毎に反時計回りに90度回転して表示することを示す。“110”は、グループピクチャ全体で時計回りに90度回転して表示することを示す。“111”は、グループピクチャ全体で反時計回りに90度回転して表示することを示す。この情報により、グループピクチャを構成する複数の画像を、サービス側が意図した回転状態で表示させることが可能となる。
図16は、「display_coordinate」による表示時のローテーションの一例を示している。この例は、水平・垂直方向2次元多画像配置の例であって、グループピクチャが2×2の画像で構成される例である。図16(a)は、「display_coordinate」が“110”である場合の例を示している。デコード画像に対して、表示画像はグループピクチャ全体が時計回りに90度回転したものとなる。また、図16(b)は、「display_coordinate」が“010”である場合の例を示している。デコード画像に対して、表示画像は画像(ピクチャ)毎に時計回りに90度回転したものとなる。
図14に戻って、「group_picture_start」の1ビットフィールドは、ある時点で表示更新すべきグループピクチャの開始を示す。「group_picture_end」の1ビットフィールドは、ある時点で表示更新すべきグループピクチャの終了を示す。「PTD(Presentation Time Distance)」の8ビットフィールドは、グループピクチャに含まれる各画像を同時表示させるためのオフセット値である。つまり、この「PTD」は、グループピクチャを構成する複数の画像の表示タイミングを調整するためのオフセット情報である。
グループピクチャを構成する画像(i)の表示タイミングCTP(i)は、PTD(i)を用いて、以下の数式(1)に示すように、求めることができる。ここで、PTD(max)は、「group_picture_start」と「group_picture_end」で挟まれた同一「group_picture_id」を有する画像の中で、最遅の表示タイミング(PTS)を持つ画像に付せられるPTDである。
CTP(i)
=PTS(i)+(PTD(max)−PTD(i))*システムクロック精度(90KHz)
・・・(1)
図17は、グループピクチャを構成する各画像の表示タイミングCTPの算出例を示している。この例は、図17(a)に示すように、水平・垂直方向2次元多画像配置の例であって、グループピクチャが2×2の画像(Picture 1, Picture 2, Picture 3, Picture 4)で構成される例である。この場合、図17(b)に示すように、例えば、各画像のPTSがP1,P2,P3,p4であるのに対して、各画像のPTDは1,2,3,4に設定される。PTD(max)=4である。
この場合、画像1(Picture 1)の表示タイミングCTP1は、“P1+(4−1)*1/90000”と求められる。また、画像2(Picture 2)の表示タイミングCTP2は、“P2+(4−2)*1/90000”と求められる。また、画像3(Picture 3)の表示タイミングCTP3は、“P3+(4−3)*1/90000”と求められる。そして、画像4(Picture 4)の表示タイミングCTP4は、“P4+(4−4)*1/90000=P4”と求められる。なお、グループピクチャ内の各画像の表示タイミングをずらす場合には、各CTPの値を異なるように設定すればよい。
図18は、グループ・ピクチャ・タグSEIの各種情報の時間的変遷の一例を示している。図において、丸数字が付された矩形部分がアクセスユニットを示している。なお、「1」〜「4」の丸数字は、それぞれ、画像1(Picture 1)〜画像4(Picture 4)の符号化画像データが含まれていることを示している(図17(a)参照)。
最初、「group_picture_id」が「1」である静止画の画像1(Picture 1)〜画像4(Picture 4)の符号化画像データが順に送信される。この場合、画像1(Picture 1)〜画像4(Picture 4)の符号化画像データには、「location_id」として「1」〜「4」が付されると共に、「version_number」として「1」が付され、さらに、「display_coordinate」として「0」が付されている。そして、この場合、画像1(Picture 1)の符号化画像データには「group_picture_start」によりグループピクチャのサービスが開始されることが示され、画像4(Picture 4)の符号化画像データには「group_picture_end」によりグループピクチャのサービスが終了したことが示される。
次に、画像2(Picture 2)の更新された符号化画像データが送信される。この場合、画像2(Picture 2)の符号化画像データには、「location_id」として「2」が付されると共に、「version_number」として「2」が付され、さらに、「display_coordinate」として「0」が付されている。そして、この場合、画像2(Picture 2)の符号化画像データには「group_picture_start」によりグループピクチャのサービスが開始されることが示されると共に、「group_picture_end」によりグループピクチャのサービスが終了したことが示される。
次に、画像2(Picture 2)のさらに更新された符号化画像データが送信される。この場合、画像2(Picture 2)の符号化画像データには、「location_id」として「2」が付されると共に、「version_number」として「3」が付され、さらに、「display_coordinate」として「0」が付されている。そして、この場合、画像2(Picture 2)の符号化画像データには「group_picture_start」によりグループピクチャのサービスが開始されることが示されると共に、「group_picture_end」によりグループピクチャのサービスが終了したことが示される。
次に、画像1(Picture 1)〜画像4(Picture 4)の更新された符号化画像データが順に送信される。この場合、画像1(Picture 1)〜画像4(Picture 4)の符号化画像データには、「location_id」として「1」〜「4」が付されると共に、「version_number」として「4」が付され、さらに、「display_coordinate」として「1」が付されている。そして、この場合、画像1(Picture 1)の符号化画像データには「group_picture_start」によりグループピクチャのサービスが開始されることが示され、画像4(Picture 4)の符号化画像データには「group_picture_end」によりグループピクチャのサービスが終了したことが示される。
図19は、マルチ・ストリーム・サービス・デスクリプタ(multi_stream_service_descriptor)の構造例(Syntax)を示している。また、図20は、その構造例における主要な情報の内容(Semantics)を示している。
「multi_stream_service_descriptor_tag」の8ビットフィールドは、デスクリプタタイプを示し、ここでは、マルチ・ストリーム・サービス・デスクリプタであることを示す。「multi_stream_service_descriptor_length」の8ビットフィールドは、デスクリプタの長さ(サイズ)を示し、デスクリプタの長さとして、以降のバイト数を示す。「multiple_stream_service_flag」の1ビットフィールドは、多重配信サービス、つまり、多画像配置の配信サービスであることを示すフラグである。“1”は多重配信サービスであることを示し、“0”は非多重配信サービスであることを示す。この情報により、受信側では、多画像配置の配信サービスであることを容易に認識でき、その処理のための準備を行うことが可能となる。
「moving_picture_still_picture_mixed_service」の1ビットフィールドは、静止画・動画混在サービスであることを示すフラグである。“1”は静止画・動画混在サービスであることを示し、“0”は非混在サービスであることを示す。「number_of_streams」の4ビットフィールドは、多重配信サービスに関与するストリームの総数を示す。“0001”〜“1111”は、それぞれ、1ストリーム〜15ストリームを示す。この情報により、受信側では、処理すべきビデオストリームの総数を容易に把握でき、適切な処理が可能となる。
図21(a)は、ミックスト・ストリーム・デスクリプタ(mixed_stream_descriptor)の構造例(Syntax)を示している。また、図21(b)は、その構造例における主要な情報の内容(Semantics)を示している。
「mixed_stream_descriptor tag」の8ビットフィールドは、デスクリプタタイプを示し、ここでは、ミックスト・ストリーム・デスクリプタであることを示す。「mixed_stream_descriptor length」の8ビットフィールドは、デスクリプタの長さ(サイズ)を示し、デスクリプタの長さとして、以降のバイト数を示す。「service_stream_type」の2ビットフィールドは、ストリームのタイプを示す。“01”は動画ストリームを示し、“10”は静止画ストリームを示し、“11”は静止画・動画混在ストリームを示す。この情報により、受信側では、ビデオストリームのストリームタイプを容易に把握でき、適切な処理を行うことが可能となる。
図22(a)は、ピクチャ・ライフタイム・デスクリプタ(Picture_lifetime_descriptor)の構造例(Syntax)を示している。また、図22(b)は、その構造例における主要な情報の内容(Semantics)を示している。
「Picture_lifetime_descriptor tag」の8ビットフィールドは、デスクリプタタイプを示し、ここでは、ピクチャ・ライフタイム・デスクリプタであることを示す。「Picture_lifetime_descriptor length」の8ビットフィールドは、デスクリプタの長さ(サイズ)を示し、デスクリプタの長さとして、以降のバイト数を示す。「number_of_group_pictures」の16ビットフィールドは、「group_picture_id」で識別されるグループピクチャの数を示す。「NTP」の64ビットフィールドは、NTP(Network Time Protocol)で規定されるクロック値を示すもので、グループピクチャごとに設定することができる。
図1に戻って、ネット配信サーバ120は、通信ネットワークを通じて、静止画、動画のリニアサービス、あるいは静止画、動画のダウンロードサービスを行う。ネット配信サーバ120は、IP配信データとして、例えばMP4のコンテナを配信する。このMP4は、上述の放送局110で取り扱ったトランスポートストリームと同様に、多画像配置の配信サービスに係る複数の画像(ピクチャ)の符号化画像データを含む、所定数のビデオストリームを有するものとされる。ネット配信サーバ120は、受信側からの再生コマンドに基づいて、MP4のIPパケットが連続的に配置された伝送ストリームを、通信ネットワークを通じて、受信側に送信する。
この場合、ビデオストリームのレイヤには、複数の画像の配置位置を示す位置情報の他、複数の画像の表示タイミングを調整するためのオフセット情報、多画像配置のタイプを示すタイプ情報、複数の画像の表示時のローテーションタイプを示すタイプ情報などが挿入されている。また、コンテナのレイヤ(システムレイヤ)に、多画像配置の配信サービスであることを示す識別情報、その配信サービスが動画静止画の混在サービスであるか否かを識別する識別情報、多画像配置の配信サービスに関与するビデオストリームの総数などが挿入されている。
図1に戻って、受信機200は、チューナ201と、デマルチプレクサ202と、圧縮データバッファ(デコードバッファ)203と、デコーダ204と、非圧縮データバッファ(デコーデッドバッファ)205を有している。また、受信機200は、仮想ディスプレイバッファ(VPバッファ)206と、スケーラ207と、ディスプレイ(スクリーンデバイス)208と、ゲートウェイ/ネットワークルータ209と、CPU(Central Processing Unit)210と、ユーザ操作部211を有している。
CPU210は、受信機200の各部の動作を制御する。ユーザは、ユーザ操作部211により種々の指示入力を行うことができる。このユーザ操作部211は、リモートコントロール部、近接/タッチにより指示入力を行うタッチパネル部、マウス、キーボード、カメラで指示入力を検出するジェスチャ入力部、音声で指示する音声入力部などである。
チューナ201は、送信側からRF伝送路を通じて送られてくる放送波を受信し、RF復調を行って、放送配信多重化データとして、トランスポートストリームを得る。この実施の形態において、トランスポートストリームは、上述したように、多画像配置の配信サービスに係る複数の画像(ピクチャ)の符号化画像データを含む、所定数のビデオストリームを有するものである。
ゲートウェイ/ネットワークルータ部209は、配信サーバ120から通信ネットワークを通じて送られてくるIPパケット列を受信し、デパケット化を行って、IP配信データとしてのMP4を得る。この実施の形態において、MP4は、上述のトランスポートストリームと同様に、多画像配置の配信サービスに係る複数の画像(ピクチャ)の符号化画像データを含む、所定数のビデオストリームを有するものである。
デマルチプレクサ202は、チューナ201で得られたトランスポートストリーム(放送配信多重化データ)、あるいはゲートウェイ/ネットワークルータ部209で得られたMP4(IP配信データ)から、所定数のビデオストリームを抽出し、圧縮データバッファ203に一時的に蓄積する。この際、デマルチプレクサ202は、コンテナのレイヤに挿入されている種々の情報を抽出し、CPU210に送る。この情報には、上述したように、多画像配置の配信サービスであることを示す識別情報、その配信サービスが動画静止画の混在サービスであるか否かを識別する識別情報、多画像配置の配信サービスに関与するビデオストリームの総数などが挿入されている。
なお、デマルチプレクサ202には、外部にある蓄積媒体212、例えばHDDが接続されており、チューナ201で得られたトランスポートストリーム(放送配信多重化データ)、あるいはゲートウェイ/ネットワークルータ部209で得られたMP4(IP配信データ)の記録再生が可能とされている。デマルチプレクサ202は、蓄積媒体212から再生データに対しても同様の処理が可能とされている。
デコーダ204は、圧縮データバッファ203に蓄積されている所定数のビデオストリームを所定のデコードタイミングで取り出し、復号化処理を施して、グループピクチャ(多画像配置画像)を構成する各画像の画像データを得、非圧縮データバッファ205に一時的に蓄積する。この際、デコーダ204は、ビデオストリームのレイヤに挿入されている種々の情報を抽出し、CPU210に送る。この情報には、上述したように、各画像の配置位置を示す位置情報の他、各画像の表示タイミングを調整するためのオフセット情報、多画像配置のタイプを示すタイプ情報、各画像の表示時のローテーションタイプを示すタイプ情報などが挿入されている。
仮想ディスプレイバッファ206は、非圧縮データバッファ205に蓄積されているグループピクチャを構成する各画像の画像データを取得し、各画像に対応した領域に一時的に蓄積する。非圧縮データバッファ205から仮想ディスプレイバッファ206への読み出しは、例えば、PTS(Presentation Time Stamp)に依存したタイミングで行われる(図17のCTP参照)。
スケーラ207は、仮想ディスプレイバッファ206からグループピクチャの一部または全部の領域(表示領域)の画像データを読み出し、必要に応じて、スケーリング処理を施して、ディスプレイ208に送る。このスケーリングは、例えば、仮想ディスプレイバッファ206から読み出される表示領域の画像データの解像度を、ディスプレイ208の解像度に合わせるために行われる。
仮想ディスプレイバッファ206からの読み出しタイミング(表示タイミング)、さらには、表示領域の位置や大きさは、ユーザ操作部211から指定可能とされる。この場合、ユーザ操作部211から、画像表示を行うディスプレイ208の個数の指定も可能とされている。なお、図示ではディスプレイ208が一つだけ示されているが、複数のディスプレイ208を備えることが前提となる。
図23は、仮想ディスプレイ(Virtual Display)上の画像と表示領域との関係の一例を示している。図示の例は、水平・垂直方向2次元多画像配置で、2×2個の画像P1〜P4でグループピクチャが構成されている。仮想ディスプレイに対して、ユーザ操作で設定された大きさの表示領域が、さらに、図示のように、ユーザ操作により、任意にその位置が変更可能とされる。この場合、ディスプレイ208には、仮想ディスプレイ上の画像P1〜P4のうち、表示領域に対応した画像のみが表示される。
なお、この場合、CPU210の制御の下、ディスプレイ208に、あるいは図示しない別な表示素子に、仮想ディスプレイ上における現在の表示領域の位置および大きさが表示されてもよい。この表示により、ユーザは、仮想ディスプレイ上における表示領域の位置および大きさを容易に把握でき、表示領域の位置および大きさの指定を適切かつ効率よく行うことができる。
図24(a)は、仮想ディスプレイ上における表示領域の位置および大きさの一例を示している。図24(b)は、それに対応した、ディスプレイ208に表示される位置インジケータ250の一例を示している。この位置インジケータ250は、仮想ディスプレイの全体を示す図形250aと、その図形上に、表示領域の位置および大きさに対応して配置された現在の表示領域を示す矩形状図形250bとからなっている。
また、図25も、仮想ディスプレイ(Virtual Display)上の画像と表示領域との関係の一例を示している。図示の例は、水平方向1次元多画像配置で、5個の画像P1〜P5でグループピクチャが構成されている。仮想ディスプレイに対して、ユーザ操作で設定された大きさの表示領域が、さらに、図示のように、ユーザ操作により、任意にその位置が変更可能とされる。この場合、ディスプレイ208には、仮想ディスプレイ上の画像P1〜P5のうち、表示領域に対応した画像のみが表示される。
図26(a)は、仮想ディスプレイ上における表示領域の位置および大きさの一例を示している。図26(b)は、それに対応した、ディスプレイ208に表示される位置インジケータ260の一例を示している。この位置インジケータ260は、仮想ディスプレイの全体を示す図形260aと、その図形上に、表示領域の中心位置に対応して配置された現在の表示領域の中心位置を示す棒状図形260bとからなっている。この場合も、表示領域の位置および大きさを矩形状図形で示すようにされてもよい。
図27は、パノラマ画像を表示するためのディスプレイの構成例を示している。このディスプレイは、複数個、この例では3個の平面状(一点鎖線で示す)あるいは曲面状(実線で示す)のディスプレイ208が水平方向に連接されて構成されている。この場合、3個のディスプレイ208に、例えば、水平方向に連続した3つの画像が選択的に表示されることで、パノラマ画像の表示が可能となる。
図28は、グループピクチャが水平方向に連続した7個の画像から構成されている場合における表示領域の指定例を示している。図28(a)は、3つのディスプレイ208(例えば、図27参照)にパノラマ画像の一部を表示するために、例えば3画像分の大きさで位置指定を行っていく例である。図28(b)は、1つのディスプレイ208にパノラマ画像の一部を表示するために、例えば1画像分の大きさで位置指定を行っていく例である。
図1に戻って、グループピクチャを構成する画像が静止画である場合、ユーザ操作に応じて、静止画の更新(update)が行われる。この場合、「location_id」と、「version_number」に従って、仮想ディスプレイバッファ206から、更新対象の画像の画像データが読み出されて、表示画像の更新がなされる。
例えば、上述の図18に示すような配信例の場合を考える。この場合、最初、「version_number」が「1」である「location_id」が「1」〜「4」の4画像の画像データが仮想ディスプレイバッファ206から読み出されて静止画のグループピクチャが表示されているものとする。この状態で、ユーザの更新操作あると、仮想ディスプレイバッファ206からは「version_number」が「2」である「location_id」が「2」の画像の画像データが読み出され、当該画像の表示が更新される。
また、この状態で、ユーザの更新操作あると、仮想ディスプレイバッファ206からは「version_number」が「3」である「location_id」が「2」の画像の画像データが読み出され、当該画像の表示が再更新される。また、この状態で、ユーザの更新操作あると、「version_number」が「4」である「location_id」が「1」〜「4」の4画像の画像データが仮想ディスプレイバッファ206から読み出され、当該4画像の表示が更新される。
グループピクチャを構成する画像が静止画である場合、仮想ディスプレイバッファ206から画像データが読み出されてディスプレイ208に表示された後も、「lifetime_controlled」が“0”に設定されている場合には、ユーザによる解放指示が出されるまで、画像データは仮想ディスプレイバッファ206に残留する。一方、「lifetime_controlled」が“1”に設定されている場合には、システムレイヤ(コンテナのレイヤ)で指定されるNTP時刻が経過した後は、仮想ディスプレイバッファ206から該当するグループピクチャに属する画像データは自動的に削除される。
グループピクチャを構成する複数の画像の一部または全部が動画である場合、その動画の画像データは、PTSに依存したタイミングで非圧縮データバッファ205から仮想ディスプレイバッファ206に読み出された後、一定の時間内に読み出され、スケーラ207を介して、ディスプレイ208に送られる。この場合も、ユーザによって大きさおよび位置が指定された表示領域の画像データのみが読み出され、必要に応じて、スケーラ207によりサイズ変換(解像度変換)が行われる。
また、ユーザは、ユーザ操作部211からの画像回転操作により、ディスプレイ208の表示画像を、グループピクチャ全体で、あるいはグループピクチャを構成する画像毎に、回転可能とされる。なお、画像の回転は、基本的には、「display_coordinate」の情報により制御される。これにより、サービス側が意図した回転状態で表示させることが可能となる。しかし、ユーザの操作により、さらに、画像の回転が可能となっている。
また、ユーザは、ユーザ操作部211の操作により、ネット配信サーバ120に、再生コマンド、さらには、ポーズコマンド、レジューム(再開)コマンド、スキップコマンド、再生終了コマンドなどを送ることができる。また、例えば、仮想ディスプレイバッファ206がオーバフローする前に、例えば、CPU210が、自動的に、ネット配信サーバ120にポーズコマンドを送り、その後、仮想ディスプレイバッファ206の容量に余裕ができた場合に、レジューム(再開)コマンドを送るということも行われる。
受信機200の動作を簡単に説明する。最初に、受信機200が放送波を受ける場合について説明する。チューナ201により、静止画リニアサービス、動画リニアサービスが受信され、トランスポートストリーム(放送配信多重化データ)が得られる。このトランスポートストリームは、デマルチプレクサ202に送られる。
デマルチプレクサ202では、トランスポートストリーム(放送配信多重化データ)から、所定数のビデオストリームが抽出され、圧縮データバッファ203に一時的に蓄積される。この際、デマルチプレクサ202では、コンテナのレイヤに挿入されている種々の情報が抽出され、CPU210に送られる。なお、デマルチプレクサ202では、蓄積媒体212での記録再生を経たトランスポートストリーム(放送配信多重化データ)に対しても同様の処理がなされる。
デコーダ204では、圧縮データバッファ203に蓄積されている所定数のビデオストリームが所定のデコードタイミングで取り出され、復号化処理が施されて、グループピクチャ(多画像配置画像)を構成する各画像の画像データが得られ、非圧縮データバッファ205に一時的に蓄積される。この際、デコーダ204では、ビデオストリームのレイヤに挿入されている種々の情報が抽出され、CPU210に送られる。
仮想ディスプレイバッファ206では、非圧縮データバッファ205に蓄積されているグループピクチャを構成する各画像の画像データが取得され、各画像に対応した領域に一時的に蓄積される。非圧縮データバッファ205から仮想ディスプレイバッファ206への読み出しは、例えば、PTS(Presentation Time Stamp)に依存したタイミングで行われる。
このように仮想ディスプレイバッファ206に蓄積されたグループピクチャを構成する各画像の画像データのうち、ユーザが指定した位置および大きさの領域が、適宜なタイミングで読み出され、スケーラ207でサイズ(解像度)変換された後に、ディスプレイ208に送られる。これにより、ディスプレイ208には、グループピクチャのうちユーザが指定した表示領域の表示が行われる。
この場合、リニアサービスの動画データは、サービス受信から固定時間の遅延の後、表示へ至る。一方、静止画サービスにおいては、ユーザの嗜好による視聴時間の自由度があるため、ユーザからの表示内容の更新指示は不定期である。そのため、表示期間を含めて受信機200内の遅延量は一定ではない。
仮想ディスプレイバッファ206は、その遅延時間と受信ストリームにおいて予め符号化配信されたタイミングとの違いを吸収する。仮想ディスプレイバッファ206がオーバフローする前に、リニアサービスの場合には、受信機200は、受信ストリームを蓄積媒体212へ記録するか、あるいはサービス受信を一時中止するなどの判断を行う。
また、受信機200が、放送波から動画あるいは静止画のダウンロードサービスを受ける際には、チューナ201経由のファイルは、一旦蓄積媒体212で蓄積され、あるいはデマルチプレクサ202から蓄積媒体212へ蓄積を行いながら、同時にデコーダ204においてデコードが行われ、仮想ディスプレイバッファ206でグループピクチャが構成され、表示へ至る。
次に、受信機200がネット配信を受ける場合について説明する。ゲートウェイ/ネットワークルータ部209により、静止画リニアサービス、動画リニアサービスが受信され、MP4(IP配信データ)が得られる。このMP4は、デマルチプレクサ202に送られる。
デマルチプレクサ202では、MP4(IP配信データ)から、所定数のビデオストリームが抽出され、圧縮データバッファ203に一時的に蓄積される。この際、デマルチプレクサ202では、コンテナのレイヤに挿入されている種々の情報が抽出され、CPU210に送られる。なお、デマルチプレクサ202では、蓄積媒体212での記録再生を経たMP4(IP配信データ)に対しても同様の処理がなされる。
デコーダ204では、圧縮データバッファ203に蓄積されている所定数のビデオストリームが所定のデコードタイミングで取り出され、復号化処理が施されて、グループピクチャ(多画像配置画像)を構成する各画像の画像データが得られ、非圧縮データバッファ205に一時的に蓄積される。この際、デコーダ204では、ビデオストリームのレイヤに挿入されている種々の情報が抽出され、CPU210に送られる。
仮想ディスプレイバッファ206では、非圧縮データバッファ205に蓄積されているグループピクチャを構成する各画像の画像データが取得され、各画像に対応した領域に一時的に蓄積される。非圧縮データバッファ205から仮想ディスプレイバッファ206への読み出しは、例えば、PTS(Presentation Time Stamp)に依存したタイミングで行われる。
このように仮想ディスプレイバッファ206に蓄積されたグループピクチャを構成する各画像の画像データのうち、ユーザが指定した位置および大きさの領域が、適宜なタイミングで読み出され、スケーラ207でサイズ(解像度)変換された後に、ディスプレイ208に送られる。これにより、ディスプレイ208には、グループピクチャのうちユーザが指定した表示領域の表示が行われる。
この場合、リニアサービスの動画データは、サービス受信から固定時間の遅延の後、表示へ至る。一方、静止画サービスにおいては、ユーザの嗜好による視聴時間の自由度があるため、ユーザからの表示内容の更新指示は不定期である。そのため、表示期間を含めて受信機200内の遅延量は一定ではない。
仮想ディスプレイバッファ206は、その遅延時間と受信ストリームにおいて予め符号化配信されたタイミングとの違いを吸収する。仮想ディスプレイバッファ206がオーバフローする前に、リニアサービス(マルチキャスト)の場合には、受信機200は、受信ストリームを蓄積媒体212へ記録するか、あるいはサービス受信を一時中止するなどの判断を行う。あるいは、瞬時にVOD(ユニキャストサービス)へ移行し、VOD配信サーバに対して再生制御コマンド(再生開始、ポーズ、レジューム、ストップなど)を送信する。
受信機200がネット配信から動画あるいは静止画のダウンロードサービスを受ける際には、ゲートウェイ/ネットワークルータ部209経由のファイルは、一旦蓄積媒体212で蓄積され、あるいはデマルチプレクサ202から蓄積媒体212へ蓄積を行いながら、同時にデコーダ204においてデコードが行われ、仮想ディスプレイバッファ206でグループピクチャが構成され、表示へ至る。
その際、受信機200は、仮想ディスプレイバッファ206がオーバフローする前に、ダウンロード受信を一時的に中止し、後のタイミングで再開するように受信機設定を行う。ネット配信サービスでのダウンロード受信は、リニアサービスの受信と同様に、仮想ディスプレイバッファ206で吸収できない場合には、蓄積媒体212を利用し、あるいはVOD(ユニキャストサービス)へ移行し、VOD配信サーバに対して再生制御コマンド(再生開始、ポーズ、レジューム、ストップなど)を送信する。
上述したように、図1に示す配信システム10においては、多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナをRF伝送路あるいは通信ネットワークを通じて受信側に送信する際に、ビデオストリームのレイヤに複数の画像の配置位置を示す位置情報(location_id)が挿入されるものである。そのため、例えば、受信側ではグループピクチャ(多画像配置画像)を構成する複数の画像の配置を効率よく、かつ適切に行うことが可能となる。
また、図1に示す配信システム10においては、受信機200では、デコード後のグループピクチャを構成する複数の画像の画像データが位置情報に基づいて配置されて、グループピクチャの画像データが得られるものである。そのため、例えば、グループピクチャの画像データを効率よく、かつ適切に得ることが可能となる。
<2.変形例>
なお、本技術は、MPEG−DASHベースの配信システムにも適用できる。図29は、MPEG−DASHベースの配信システム10Aの構成例を示している。この配信システム10Aは、DASHセグメントストリーマ11およびDASH MPDサーバ12に、N個のIPTVクライアント13-1,13-2,・・・,13-Nが、CDN(Content Delivery Network)14を介して、接続された構成となっている。
DASHセグメントストリーマ11は、所定のコンテンツのメディアデータ(ビデオデータ、オーディオデータ、字幕データなど)に基づいて、DASH仕様のストリームセグメント(以下、「DASHセグメント」という)を生成し、IPTVクライアントからのHTTP要求に応じてセグメントを送出する。このDASHセグメントストリーマ11は、ウェブ(Web)サーバである。
また、DASHセグメントストリーマ11は、IPTVクライアント13(13-1,13-2,・・・,13-N)からCDN14を介して送られてくる所定ストリームのセグメントの要求に対応して、そのストリームのセグメントを、CDN14を介して、要求元のIPTVクライアント13に送信する。
DASH MPDサーバ12は、DASHセグメントストリーマ11において生成されるDASHセグメントを取得するためのMPDファイルを生成するサーバである。コンテンツマネジメントサーバ(図29には図示せず)からのコンテンツメタデータと、DASHセグメントストリーマ11において生成されたセグメントのアドレス(url)をもとに、MPDファイルを生成する。
MPDのフォーマットでは、ビデオやオーディオなどのそれぞれのストリーム毎にリプレゼンテーション(Representation)という要素を利用して、それぞれの属性が記述される。例えば、MPDファイルには、多画像配置の配信サービスに係る複数の画像の符号化データを含む、所定数のビデオストリーム毎に、リプレゼンテーションを分けて、記述される。また、MPDファイルには、その所定数のビデオストリームを常に読み込むことを示す情報が記述される。IPTVクライアント13は、多画像配置の配信サービスを受ける場合、このMPDファイルの記述を参考にして、所定数のビデオストリームを取得する。
MPDファイルは、図30に示すように、階層構造をとる。このMPDファイルには、DASHセグメントストリーマ11に格納した動画の圧縮方式や符号化速度、画像サイズ、言語などの情報がXML形式で階層的に記述される。このMPDファイルは、ピリオド(Period)、アダプテーションセット(Adaptation Set)、リプレゼンテーション(Representation)、セグメントインフォ(Segment Info)、イニシャライゼーション・セグメント(Initialization Segment)、メディア・セグメント(Media Segment)などの構造体が、階層的に含まれている。
ピリオドの構造体は、プログラム(同期を取った1組の動画や音声等のデータ)の情報を持つ。また、ピリオドの構造体に含まれるアダプテーションセットの構造体は、ストリームの選択範囲(リプレゼンテーション群)をグルーピングする。また、アダプテーションセットの構造体に含まれるリプレゼンテーションの構造体は、動画や音声の符号化速度、動画の音声サイズなどの情報を持つ。
また、リプレゼンテーションの構造体に含まれるセグメントインフォの構造体は、動画や音声のセグメント関連の情報を持つ。また、セグメントインフォの構造体に含まれるイニシャライゼーション・セグメントの構造体は、データ圧縮方式などの初期化情報を持つ。また、セグメントインフォの構造体に含まれるメディア・セグメントの構造体は、動画や音声のセグメントを取得するアドレスなどの情報を持つ。
図31は、上述のMPDファイルに階層的に配置されている各構造体の関係の一例を示している。図31(a)に示すように、MPDファイル全体としてのメディア・プレゼンテーション(Media Presentation)には、時間間隔で区切られた複数のピリオド(Period)が存在する。例えば、最初のピリオドはスタートが0秒から、次のピリオドはスタートが100秒から、などとなっている。
図31(b)に示すように、ピリオドには、複数のリプレゼンテーション(Representation)が存在する。この複数のリプレゼンテーションには、上述したアダプテーションセット(Adaptation Set)でグルーピングされる、例えば、多画像配置の配信サービスに係る複数の画像の符号化データを含む、所定数のビデオストリームに係るリプレゼンテーション群が存在する。
図31(c)に示すように、リプレゼンテーションには、セグメントインフォ(SegmentInfo)が含まれている。このセグメントインフォには、図31(d)に示すように、イニシャライゼーション・セグメント(Initialization Segment)と、ピリオドをさらに細かく区切ったセグメント(Segment)毎の情報が記述される複数のメディア・セグメント(Media Segment)が存在する。メディア・セグメントには、ビデオやオーディオなどのセグメントデータを実際に取得するためのアドレス(url)の情報等が存在する。
図32は、コンテンツからDASHセグメントやDASH MPDファイルを生成するまでのフローの一例を示している。コンテンツマネジメントサーバ15からDASHセグメントストリーマ11にコンテンツが送付される。DASHセグメントストリーマ11は、そのコンテンツを構成するビデオデータ、オーディオデータ等に基づいて、各データストリームのDASHセグメントを生成する。
また、DASHセグメントストリーマ11は、生成した各データストリームのDASHセグメントのアドレス(url)の情報を、DASH MPDサーバ12に送付する。コンテンツマネジメントサーバ15は、コンテンツのメタデータを、DASH MPDサーバ12に送付する。DASH MPDサーバ12は、各データストリームのDASHセグメントのアドレス情報と、コンテンツのメタデータとに基づいて、DASH MPDファイルを生成する。
図33は、IPTVクライアント13(13-1〜13-N)の構成例を示している。IPTVクライアント13は、ストリーミングデータ制御部131と、HTTPアクセス部132と、動画再生部133を有している。ストリーミングデータ制御部131は、DASH MPDサーバ12からMPDファイルを取得し、その内容を解析する。
HTTPアクセス部132は、動画再生に用いる動画や音声のセグメントをDASHセグメントストリーマ11に要求する。ここで、HTTPアクセス部132は、多画像配置の配信サービスを受ける場合、MPDファイルの記述を参考にして、多画像配置の配信サービスに係る複数の画像の符号化データを含む、所定数のビデオストリームのセグメントを要求する。
HTTPアクセス部132は、受け取った動画や音声のセグメントを動画再生部133に送る。動画再生部133は、HTTPアクセス部132から送られてくる各セグメントに復号処理を施して、グループピクチャ(多画像配置画像)を構成する各画像の画像データおよびそれに付随する音声データなどを得て、画像や音声を再生する。なお、IPTVクライアント13の各部の処理は例えばソフトウェアにより行われる。
図34は、一般的な、DASHベースのストリーム配信システムの系を示している。DASH MPDファイルも、DASHセグメントも、全てCDN(Content Delivery Network)14を介して配信される。CDN14は、複数のキャッシュサーバ(DASHキャッシュサーバ)がネットワーク配列された構成となっている。
キャッシュサーバは、IPTVクライアント13からのMPDファイルの取得のためのHTTPリクエストを受ける。キャッシュサーバは、ローカルMPDキャッシュにあれば、IPTVクライアント13にHTTPレスポンスとして返す。また、キャッシュサーバは、ローカルMPDキャッシュになければ、そのリクエストをDASH MPDサーバ12あるいは上位のキャッシュサーバに転送する。そして、キャッシュサーバは、MPDファイルの格納されたHTTPレスポンスを受け、IPTVクライアント13に転送すると共に、キャッシュ処理を行う。
また、キャッシュサーバは、IPTVクライアント13からのDASHセグメント取得のHTTPリクエストを受ける。キャッシュサーバは、ローカルセグメントキャッシュにあれば、IPTVクライアント13にHTTPレスポンスとして返す。また、キャッシュサーバは、ローカルセグメントキャッシュになければ、そのリクエストをDASHセグメントストリーマ11あるいは上位のキャッシュサーバに転送する。そして、キャッシュサーバは、DASHセグメントの格納されたHTTPレスポンスを受け、IPTVクライアント13に転送すると共に、キャッシュ処理を行う。
CDN14では、最初にHTTPリクエストを発したIPTVクライアント13-1へ配信されるDASHセグメントが、経路のキャッシュサーバで一時的にキャッシュされ、後続の他のIPTVクライアント13-2からのHTTPリクエストに対しては、そのキャッシュされたDASHセグメントが配信される。そのため、大多数のIPTVクライアントに対するHTTPストリーミングの配信効率を向上させることができる。
CDN14は、複数のキャッシュサーバの他に、所定個数のキャッシュ管理サーバを有している。このキャッシュ管理サーバは、MPDファイルに含まれる各ビデオデータストリームのDASHセグメントのキャッシュに関する指標に基づいて、キャッシュ制御ポリシーを作成し、各キャッシュサーバに配布する。各キャッシュサーバは、このキャッシュ制御ポリシーに基づいて、各ビデオデータストリームのDASHセグメントのキャッシング処理を行う。
図35は、FragmentedMP4ストリームの構成例を示している。ビデオのFragmentedMP4ストリームには、ビデオストリームをパケット化して得られたFragmentedMP4が含まれている。FragmentedMP4の「mdat」の部分にビデオストリームの所定ピクチャ分が挿入される。このビデオストリームには、上述実施の形態と同様に、アクセスユニット毎に、グループ・ピクチャ・タグSEI(Group_picture_tag SEI)メッセージが挿入される。そして、上述実施の形態と同様に、IPTVクライアント13では、例えば、グループピクチャを構成する各画像の位置情報(「location_id」)に基づいて、各画像の配置が効率よく、かつ適切に行われる。
なお、トランスポートストリームをそのままDASHで送る場合もある。その場合には、マルチ・ストリーム・サービス・デスクリプタ(multi_stream_service_descriptor)、ミックスト・ストリーム・デスクリプタ(mixed_stream_descriptor)、ピクチャ・ライフタイム・デスクリプタ(Picture_lifetime_descriptor)が挿入されたトランスポートストリームがそのまま送られる。
図36、図37は、多画像配置の配信サービスにおけるMPDファイルの記述例を示している。図36の「Adaptation Set」の階層で、「parallelStream = “4”」の記述は、4つのストリームを常に読むことを示している。また、「frameRate = “0”」の記述はフレームレートが0であること、つまり静止画ストリームであることを示している。そして、図37に示すように、4つのストリームにそれぞれ対応して、4つのリプレゼンテーション(Representation)が存在する。
このように、多画像配置の配信サービスの場合、MPDファイルに、多画像配置の配信サービスに係る複数の画像の符号化データを含む、所定数のビデオストリームを常に読むことが記述される。そのため、IPTVクラインアント13では、グループピクチャを構成する各画像の画像データ、したがってグループピクチャの画像を良好に得ることが可能となる。
また、本技術は、以下のような構成を取ることもできる。
(1)多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナを送信する送信部と、
上記ビデオストリームのレイヤに、上記複数の画像の配置位置を示す位置情報を挿入する情報挿入部とを備える
送信装置。
(2)上記情報挿入部は、上記複数の画像の表示タイミングを調整するためのオフセット情報を、上記ビデオストリームのレイヤにさらに挿入する
前記(1)に記載の送信装置。
(3)上記情報挿入部は、上記多画像配置のタイプを示すタイプ情報を、上記ビデオストリームのレイヤにさらに挿入する
前記(1)または(2)に記載の送信装置。
(4)上記情報挿入部は、上記複数の画像の表示時のローテーションタイプを示すタイプ情報を、上記ビデオストリームのレイヤにさらに挿入する
前記(1)から(3)のいずれかに記載の送信装置。
(5)上記情報挿入部は、上記複数の画像の表示可能な時間が制御されるか否かを示すライフタイム情報を、上記ビデオストリームのレイヤにさらに挿入する
前記(1)から(4)のいずれかに記載の送信装置。
(6)上記情報挿入部は、上記コンテナのレイヤに、上記多画像配置の配信サービスであることを識別する識別情報をさらに挿入する
前記(1)から(5)のいずれかに記載の送信装置。
(7)上記情報挿入部は、上記コンテナのレイヤに、上記多画像配置の配信サービスが、動画静止画の混在サービスであるか否かを識別する識別情報をさらに挿入する
前記(6)に記載の送信装置。
(8)上記情報挿入部は、上記コンテナのレイヤに、上記多画像配置の配信サービスに関与する上記ビデオストリームの総数の情報をさらに挿入する
前記(1)から(7)のいずれかに記載の送信装置。
(9)上記情報挿入部は、上記コンテナのレイヤに、上記各ビデオストリームが動画ストリームであるか、静止画ストリームであるか、あるいは静止画動画混在の混在ストリームであるかを示すタイプ情報をさらに挿入する
前記(1)から(8)のいずれかに記載の送信装置。
(10)多画像配置の配信サービスに係る複数の画像の符号化データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナを送信する送信ステップと、
上記ビデオストリームのレイヤに、上記複数の画像の配置位置を示す位置情報を挿入する情報挿入ステップとを有する
送信方法。
(11)多画像配置の配信サービスに係る複数の画像の符号化画像データを含み、上記複数の画像の配置位置を示す位置情報が挿入されている所定数のビデオストリームを受信する受信部と、
上記所定数のビデオストリームをデコードして上記複数の画像の画像データを得るデコード部と、
上記デコード後の複数の画像の画像データを上記位置情報に基づいて配置して多画像配置画像の画像データを得る処理部とを備える
受信装置。
(12)上記デコード部で得られた上記複数の画像の画像データを一時的に蓄積するデコーデッドバッファと、
上記多画像配置の画像データを一時的に蓄積する仮想ディスプレイバッファとをさらに備え、
上記処理部は、上記デコーデッドバッファから上記複数の画像の画像データを順次読み出し、上記仮想ディスプレイバッファの上記位置情報が示す配置位置に応じた領域に書き込む
前記(11)に記載の受信装置。
(13)上記仮想ディスプレイバッファから上記多画像配置画像の一部または全部の表示領域に対応した画像データを読み出し、該表示領域の画像を表示する表示制御部をさらに備える
前記(12)に記載の受信装置。
(14)上記表示制御部に上記表示領域を指示するユーザ操作部をさらに備える
前記(13)に記載の受信装置。
(15)上記表示制御部に上記表示領域の画像を表示するディスプレイの数を指示するユーザ操作部をさらに備える
前記(14)に記載の受信装置。
(16)上記所定数のビデオストリームの送信の停止および再開の要求を送信側に送る要求送信部をさらに備える
前記(11)から(15)のいずれかに記載の受信装置。
(17)多画像配置の配信サービスに係る複数の画像の符号化データを含み、上記複数の画像の配置位置を示す位置情報が挿入されている所定数のビデオストリームを有する所定フォーマットのコンテナを受信する受信ステップと、
上記所定数のビデオストリームをデコードして上記複数の画像の画像データを得るデコードステップと、
上記デコード後の複数の画像の画像データを上記位置情報に基づいて配置して多画像配置画像の画像データを得る処理ステップとを有する
受信方法。
(18)配信サーバがネットワークを通じて配信可能な多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームをクライアント端末が取得するための情報を持つメタファイルを生成するメタファイル生成部と、
上記クライアント端末から送信要求があるとき、上記ネットワークを通じて、該クライアント端末に、上記生成されたメタファイルを送信するメタファイル送信部とを備え、
上記ビデオストリームのレイヤに、上記複数の画像の配置位置を示す位置情報が挿入されており、
上記メタファイル生成部は、上記メタファイルに、上記所定数のビデオストリームを常に読むことを示す情報を含める
送信装置。
(19)上記メタファイル生成部は、上記メタファイルに、上記所定数のビデオストリームが静止画ストリームであるか動画ストリームであるかを識別する識別情報をさらに含める
前記(18)に記載の送信装置。
本技術の主な特徴は、多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナをRF伝送路あるいは通信ネットワークを通じて送信する際に、ビデオストリームのレイヤに複数の画像の配置位置を示す位置情報(location_id)を挿入することで、受信側ではグループピクチャ(多画像配置画像)を構成する複数の画像の配置を効率よく、かつ適切に行うことを可能にしたことである(図18参照)。
10,10A・・・配信システム
11・・・DASH セグメントストリーマ
12・・・DASH MPDサーバ
13,13-1〜13-N・・・IPTVクライアント
14・・・CDN
15・・・コンテンツマネジメントサーバ
110・・・放送局
112・・・動画・静止画出力部
113・・・ビデオエンコーダ
114・・・マルチプレクサ
200・・・受信機
201・・・チューナ
202・・・デマルチプレクサ
203・・・圧縮データバッファ
204・・・デコーダ
205・・・非圧縮データバッファ
206・・・仮想ディスプレイバッファ
207・・・スケーラ
208・・・ディスプレイ
209・・・ゲートウェイ/ネットワークルータ
210・・・CPU
211・・・ユーザ操作部
212・・・蓄積媒体

Claims (19)

  1. 多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナを送信する送信部と、
    上記所定数のビデオストリームのそれぞれに、上記所定数のビデオストリームからの画像によって形成された多画像配置画像における配置位置を示す位置情報を挿入する情報挿入部とを備える
    送信装置。
  2. 上記情報挿入部は、上記複数の画像の表示タイミングを調整するためのオフセット情報を、上記ビデオストリームのレイヤにさらに挿入する
    請求項1に記載の送信装置。
  3. 上記情報挿入部は、上記多画像配置のタイプを示すタイプ情報を、上記ビデオストリームのレイヤにさらに挿入する
    請求項1に記載の送信装置。
  4. 上記情報挿入部は、上記複数の画像の表示時のローテーションタイプを示すタイプ情報を、上記ビデオストリームのレイヤにさらに挿入する
    請求項1に記載の送信装置。
  5. 上記情報挿入部は、上記複数の画像の表示可能な時間が制御されるか否かを示すライフタイム情報を、上記ビデオストリームのレイヤにさらに挿入する
    請求項1に記載の送信装置。
  6. 上記情報挿入部は、上記コンテナのレイヤに、上記多画像配置の配信サービスであることを識別する識別情報をさらに挿入する
    請求項1に記載の送信装置。
  7. 上記情報挿入部は、上記コンテナのレイヤに、上記多画像配置の配信サービスが、動画静止画の混在サービスであるか否かを識別する識別情報をさらに挿入する
    請求項6に記載の送信装置。
  8. 上記情報挿入部は、上記コンテナのレイヤに、上記多画像配置の配信サービスに関与する上記ビデオストリームの総数の情報をさらに挿入する
    請求項1に記載の送信装置。
  9. 上記情報挿入部は、上記コンテナのレイヤに、上記各ビデオストリームが動画ストリームであるか、静止画ストリームであるか、あるいは静止画動画混在の混在ストリームであるかを示すタイプ情報をさらに挿入する
    請求項1に記載の送信装置。
  10. 多画像配置の配信サービスに係る複数の画像の符号化データを含む、所定数のビデオストリームを有する所定フォーマットのコンテナを送信する送信ステップと、
    上記所定数のビデオストリームのそれぞれに、上記所定数のビデオストリームからの画像によって形成された多画像配置画像における配置位置を示す位置情報を挿入する情報挿入ステップとを有する
    送信方法。
  11. 多画像配置の配信サービスに係る複数の画像の符号化画像データをそれぞれむと共に、位置情報がそれぞれ挿入されている所定数のビデオストリームを受信し、上記位置情報は上記所定数のビデオストリームからの画像によって形成された多画像配置画像における配置位置を示す受信部と、
    上記所定数のビデオストリームをデコードして上記所定数のビデオストリームの画像データを得るデコード部と、
    上記所定数のビデオストリームのデコードされた画像データを上記位置情報に基づいて配置して上記所定数のビデオストリームのデコードされた画像データを含む上記多画像配置画像の画像データを得る処理部とを備える
    受信装置。
  12. 上記デコード部で得られた上記所定数のビデオストリームのデコードされた画像データを一時的に蓄積するデコーデッドバッファと、
    上記多画像配置の画像データを一時的に蓄積する仮想ディスプレイバッファとをさらに備え、
    上記処理部は、上記デコーデッドバッファから上記所定数のビデオストリームのデコードされた画像データを順次読み出し、上記仮想ディスプレイバッファの上記位置情報が示す配置位置に応じた領域に書き込む
    請求項11に記載の受信装置。
  13. 上記仮想ディスプレイバッファから上記多画像配置画像の一部または全部の表示領域に対応した画像データを読み出し、該一部または全部の画像の領域の画像を表示する表示制御部をさらに備える
    請求項12に記載の受信装置。
  14. 上記表示制御部に上記表示領域を指示するユーザ操作部をさらに備える
    請求項13に記載の受信装置。
  15. 上記表示制御部に上記表示領域の画像を表示するディスプレイの数を指示するユーザ操作部をさらに備える
    請求項14に記載の受信装置。
  16. 上記所定数のビデオストリームの送信の停止および再開の要求を送信側に送る要求送信部をさらに備える
    請求項11に記載の受信装置。
  17. 多画像配置の配信サービスに係る複数の画像の符号化データをそれぞれむと共に、位置情報がそれぞれ挿入されている所定数のビデオストリームを有する所定フォーマットのコンテナを受信し、上記位置情報は上記所定数のビデオストリームからの画像によって形成された多画像配置画像における配置位置を示す受信ステップと、
    上記所定数のビデオストリームをデコードして上記所定数のビデオストリーム画像データを得るデコードステップと、
    上記所定数のビデオストリームのデコードされた画像データを上記位置情報に基づいて配置して上記所定数のビデオストリームのデコードされた画像データを含む上記多画像配置画像の画像データを得る処理ステップとを有する
    受信方法。
  18. 配信サーバがネットワークを通じて配信可能な多画像配置の配信サービスに係る複数の画像の符号化画像データを含む、所定数のビデオストリームをクライアント端末が取得するための情報を持つメタファイルを生成するメタファイル生成部と、
    上記クライアント端末から送信要求があるとき、上記ネットワークを通じて、該クライアント端末に、上記生成されたメタファイルを送信するメタファイル送信部とを備え、
    上記所定数のビデオストリームのそれぞれに、上記所定数のビデオストリームからの画像によって形成された多画像配置画像における配置位置を示す位置情報が挿入されており、
    上記メタファイル生成部は、上記メタファイルに、上記所定数のビデオストリームを常に読むことを示す情報を含める
    送信装置。
  19. 上記メタファイル生成部は、上記メタファイルに、上記所定数のビデオストリームが静止画ストリームであるか動画ストリームであるかを識別する識別情報をさらに含める
    請求項18に記載の送信装置。
JP2015525124A 2013-07-05 2014-06-16 送信装置、送信方法、受信装置および受信方法 Active JP6462566B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013142179 2013-07-05
JP2013142179 2013-07-05
PCT/JP2014/065952 WO2015001947A1 (ja) 2013-07-05 2014-06-16 送信装置、送信方法、受信装置および受信方法

Publications (2)

Publication Number Publication Date
JPWO2015001947A1 JPWO2015001947A1 (ja) 2017-02-23
JP6462566B2 true JP6462566B2 (ja) 2019-01-30

Family

ID=52143526

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015525124A Active JP6462566B2 (ja) 2013-07-05 2014-06-16 送信装置、送信方法、受信装置および受信方法

Country Status (8)

Country Link
US (2) US20160373789A1 (ja)
EP (1) EP3018910B1 (ja)
JP (1) JP6462566B2 (ja)
KR (1) KR102269311B1 (ja)
CN (1) CN105340281B (ja)
BR (1) BR112015032851B1 (ja)
RU (1) RU2652099C2 (ja)
WO (1) WO2015001947A1 (ja)

Families Citing this family (45)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7991910B2 (en) 2008-11-17 2011-08-02 Amazon Technologies, Inc. Updating routing information based on client location
US8028090B2 (en) 2008-11-17 2011-09-27 Amazon Technologies, Inc. Request routing utilizing client location information
US8606996B2 (en) 2008-03-31 2013-12-10 Amazon Technologies, Inc. Cache optimization
US8321568B2 (en) 2008-03-31 2012-11-27 Amazon Technologies, Inc. Content management
US7962597B2 (en) 2008-03-31 2011-06-14 Amazon Technologies, Inc. Request routing based on class
US7970820B1 (en) 2008-03-31 2011-06-28 Amazon Technologies, Inc. Locality based content distribution
US9407681B1 (en) 2010-09-28 2016-08-02 Amazon Technologies, Inc. Latency measurement in resource requests
US8782236B1 (en) 2009-06-16 2014-07-15 Amazon Technologies, Inc. Managing resources using resource expiration data
US8397073B1 (en) 2009-09-04 2013-03-12 Amazon Technologies, Inc. Managing secure content in a content delivery network
US9495338B1 (en) 2010-01-28 2016-11-15 Amazon Technologies, Inc. Content distribution network
US10958501B1 (en) 2010-09-28 2021-03-23 Amazon Technologies, Inc. Request routing information based on client IP groupings
US8468247B1 (en) 2010-09-28 2013-06-18 Amazon Technologies, Inc. Point of presence management in request routing
US9003035B1 (en) 2010-09-28 2015-04-07 Amazon Technologies, Inc. Point of presence management in request routing
US9712484B1 (en) 2010-09-28 2017-07-18 Amazon Technologies, Inc. Managing request routing information utilizing client identifiers
US8452874B2 (en) 2010-11-22 2013-05-28 Amazon Technologies, Inc. Request routing processing
US10467042B1 (en) 2011-04-27 2019-11-05 Amazon Technologies, Inc. Optimized deployment based upon customer locality
US9154551B1 (en) 2012-06-11 2015-10-06 Amazon Technologies, Inc. Processing DNS queries to identify pre-processing information
US20160261927A1 (en) * 2013-10-09 2016-09-08 Disney Enterprises, Inc. Method and System for Providing and Displaying Optional Overlays
US11936936B2 (en) * 2013-10-09 2024-03-19 Disney Enterprises, Inc. Method and system for providing and displaying optional overlays
US10530828B2 (en) * 2014-03-31 2020-01-07 Samsung Electronics Co., Ltd. Method and apparatus for signaling and operation of low delay consumption of media data in MMT
US10097448B1 (en) 2014-12-18 2018-10-09 Amazon Technologies, Inc. Routing mode and point-of-presence selection service
US10225326B1 (en) 2015-03-23 2019-03-05 Amazon Technologies, Inc. Point of presence based data uploading
MX2017011816A (es) * 2015-03-24 2017-12-07 Sony Corp Dispositivo de transmision, metodo de transmision, dispositivo de recepcion y metodo de recepcion.
US9832141B1 (en) 2015-05-13 2017-11-28 Amazon Technologies, Inc. Routing based request correlation
TWI736542B (zh) * 2015-08-06 2021-08-21 日商新力股份有限公司 資訊處理裝置、資料配訊伺服器及資訊處理方法、以及非暫時性電腦可讀取之記錄媒體
US10158682B2 (en) * 2015-09-23 2018-12-18 Adobe Systems Incorporated Power efficient multimedia content streaming based on a server push
US10152080B2 (en) 2015-09-23 2018-12-11 Adobe Systems Incorporated Power efficient multimedia content streaming based on media segment duration
US10270878B1 (en) 2015-11-10 2019-04-23 Amazon Technologies, Inc. Routing for origin-facing points of presence
KR101743228B1 (ko) * 2016-01-22 2017-06-05 네이버 주식회사 스트리밍 장치 및 그 방법, 이를 이용한 스트리밍 서비스 시스템 및 컴퓨터로 판독 가능한 기록매체
US10075551B1 (en) 2016-06-06 2018-09-11 Amazon Technologies, Inc. Request management for hierarchical cache
US10110694B1 (en) * 2016-06-29 2018-10-23 Amazon Technologies, Inc. Adaptive transfer rate for retrieving content from a server
CN106131581A (zh) * 2016-07-12 2016-11-16 上海摩象网络科技有限公司 混合图像的全景视频制作技术
CN112601121B (zh) * 2016-08-16 2022-06-10 上海交通大学 一种面向多媒体内容组件个性化呈现的方法及***
US10469513B2 (en) 2016-10-05 2019-11-05 Amazon Technologies, Inc. Encrypted network addresses
US10831549B1 (en) 2016-12-27 2020-11-10 Amazon Technologies, Inc. Multi-region request-driven code execution system
US10938884B1 (en) 2017-01-30 2021-03-02 Amazon Technologies, Inc. Origin server cloaking using virtual private cloud network environments
JP6823540B2 (ja) * 2017-05-29 2021-02-03 日本電信電話株式会社 映像処理方法、映像処理システム及び映像送信装置
US11075987B1 (en) 2017-06-12 2021-07-27 Amazon Technologies, Inc. Load estimating content delivery network
EP3652642B1 (en) * 2017-07-11 2022-06-22 Telefonaktiebolaget LM Ericsson (Publ) Methods and arrangements for robot device control in a cloud
JPWO2019031469A1 (ja) * 2017-08-10 2020-07-09 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
US10742593B1 (en) 2017-09-25 2020-08-11 Amazon Technologies, Inc. Hybrid content request routing system
WO2019139099A1 (ja) * 2018-01-12 2019-07-18 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
US10862852B1 (en) 2018-11-16 2020-12-08 Amazon Technologies, Inc. Resolution of domain name requests in heterogeneous network environments
US11025747B1 (en) 2018-12-12 2021-06-01 Amazon Technologies, Inc. Content request pattern-based routing system
KR102397441B1 (ko) 2019-01-18 2022-05-13 삼성전자주식회사 전자 장치 및 그 제어 방법

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000013712A (ja) 1998-06-25 2000-01-14 Toshiba Corp マルチ画面表示装置
US6314569B1 (en) * 1998-11-25 2001-11-06 International Business Machines Corporation System for video, audio, and graphic presentation in tandem with video/audio play
US7174512B2 (en) * 2000-12-01 2007-02-06 Thomson Licensing S.A. Portal for a communications system
JP2003199009A (ja) * 2001-12-26 2003-07-11 Toshiba Corp 蓄積型放送受信装置および方法
US7561620B2 (en) * 2004-08-03 2009-07-14 Microsoft Corporation System and process for compressing and decompressing multiple, layered, video streams employing spatial and temporal encoding
US7489833B2 (en) * 2004-10-06 2009-02-10 Panasonic Corporation Transmitting device, reconstruction device, transmitting method and reconstruction method for broadcasts with hidden subtitles
ES2674897T3 (es) * 2005-07-18 2018-07-04 Thomson Licensing Método y dispositivo para manejar múltiples flujos de vídeo usando metadatos
EP2463820A3 (en) * 2005-07-22 2012-09-12 Kangaroo Media, Inc. System and methods for enhancing the experience of spectators attending a live sporting event
US8225164B2 (en) * 2006-01-05 2012-07-17 Telefonaktiebolaget Lm Ericsson (Publ) Media container file management
SI3920538T1 (sl) * 2007-04-12 2023-08-31 Dolby International Ab Razpostavljanje pri kodiranju in dekodiranju videa
US20090158337A1 (en) * 2007-12-13 2009-06-18 Mobitv, Inc. Mosaic video content selection mechanism
DE112012000421B4 (de) * 2011-01-07 2018-02-15 Sharp Kabushiki Kaisha Wiedergabevorrichtung, Verfahren zum Steuern der Wiedergabevorrichtung, Erzeugungsvorrichtung, Verfahren zum Steuern der Erzeugungsvorrichtung, Aufzeichnungsmedium, Datenstruktur, Steuerprogramm und Aufzeichnungsmedium, auf welchem das Programm gespeichert ist
EP2712191A4 (en) * 2011-05-19 2015-06-24 Lg Electronics Inc VIDEO POWER TRANSMISSION DEVICE, VIDEO POWER RECEIVING DEVICE, VIDEO POWER TRANSMISSION METHOD AND VIDEO POWER RECEIVING METHOD
JP2012244411A (ja) * 2011-05-19 2012-12-10 Sony Corp 画像データ送信装置、画像データ送信方法および画像データ受信装置
JP5695972B2 (ja) * 2011-05-20 2015-04-08 日立マクセル株式会社 コンテンツ受信機およびコンテンツ情報出力方法
US9860572B2 (en) * 2011-06-08 2018-01-02 Koninklijke Kpn N.V. Spatially segmented content delivery
US9154813B2 (en) * 2011-06-09 2015-10-06 Comcast Cable Communications, Llc Multiple video content in a composite video stream
US20130170561A1 (en) * 2011-07-05 2013-07-04 Nokia Corporation Method and apparatus for video coding and decoding
JP5979499B2 (ja) * 2011-08-11 2016-08-24 パナソニックIpマネジメント株式会社 再生装置、再生方法、集積回路、放送システム、及び放送方法
EP2868103B1 (en) * 2012-06-29 2016-12-07 GE Video Compression, LLC Video data stream concept
AU2014234095A1 (en) 2013-03-15 2015-10-08 Galleon Pharmaceuticals, Inc. Novel breathing control modulating compounds, and methods of using same

Also Published As

Publication number Publication date
RU2015156234A (ru) 2017-06-30
RU2652099C2 (ru) 2018-04-25
EP3018910A4 (en) 2017-02-08
BR112015032851B1 (pt) 2023-03-07
EP3018910A1 (en) 2016-05-11
US20200288182A1 (en) 2020-09-10
EP3018910B1 (en) 2019-11-13
US11330311B2 (en) 2022-05-10
US20160373789A1 (en) 2016-12-22
CN105340281B (zh) 2019-06-28
BR112015032851A2 (pt) 2017-07-25
WO2015001947A1 (ja) 2015-01-08
CN105340281A (zh) 2016-02-17
KR102269311B1 (ko) 2021-06-28
KR20160030104A (ko) 2016-03-16
JPWO2015001947A1 (ja) 2017-02-23

Similar Documents

Publication Publication Date Title
JP6462566B2 (ja) 送信装置、送信方法、受信装置および受信方法
JP6807852B2 (ja) Lctに基づくdashフォーマットを有するファイルフォーマットベースのストリーミング
US20190141373A1 (en) Spatially-Segmented Content Delivery
JP5964972B2 (ja) 複数のソースからのマルチメディアデータのストリーミング
US11070872B2 (en) Receiving device, transmitting device, and data processing method
CA2965667C (en) Methods of implementing multi mode trickplay
US11381867B2 (en) Multiple decoder interface for streamed media data
EP2690876A2 (en) Heterogeneous network-based linked broadcast content transmitting/receiving device and method
JP2018532146A (ja) コーディングされたオーディオデータのトランスポート
CA2978805A1 (en) System and method for operating a transmission network
Veenhuizen et al. Frame accurate media synchronization of heterogeneous media sources in an HBB context
KR20170130883A (ko) 하이브리드 망 기반의 가상 현실 방송 서비스 방법 및 장치
TWI846795B (zh) 用於經串流媒體資料之多個解碼器介面
KR20130115975A (ko) 하이브리드 서비스를 제공하기 위한 송신 시스템과 수신 장치 및 그 서비스 제공 방법들

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170616

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20180216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181227

R150 Certificate of patent or registration of utility model

Ref document number: 6462566

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250