JP2019516297A - ビューを意識した360度ビデオストリーミング - Google Patents
ビューを意識した360度ビデオストリーミング Download PDFInfo
- Publication number
- JP2019516297A JP2019516297A JP2018552799A JP2018552799A JP2019516297A JP 2019516297 A JP2019516297 A JP 2019516297A JP 2018552799 A JP2018552799 A JP 2018552799A JP 2018552799 A JP2018552799 A JP 2018552799A JP 2019516297 A JP2019516297 A JP 2019516297A
- Authority
- JP
- Japan
- Prior art keywords
- video
- view
- updated
- active areas
- stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 claims abstract description 35
- 238000004891 communication Methods 0.000 claims description 25
- 238000009877 rendering Methods 0.000 claims description 9
- 230000008859 change Effects 0.000 claims description 7
- 238000012935 Averaging Methods 0.000 claims description 3
- 230000001360 synchronised effect Effects 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 2
- 238000005070 sampling Methods 0.000 claims 1
- 230000003190 augmentative effect Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000003466 anti-cipated effect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- JTJMJGYZQZDUJJ-UHFFFAOYSA-N phencyclidine Chemical compound C1CCCCN1C1(C=2C=CC=CC=2)CCCCC1 JTJMJGYZQZDUJJ-UHFFFAOYSA-N 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/139—Format conversion, e.g. of frame-rate or size
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/275—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
- H04N13/279—Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
- H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Databases & Information Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Computer Graphics (AREA)
- Information Transfer Between Computers (AREA)
- Software Systems (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- Closed-Circuit Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
本願は、参照によりその内容を本明細書に援用する、2016年4月8日に出願された米国仮特許出願第62/320,451号の本出願である。
360°ビデオ(又は球体ビデオ)は仮想現実(VR)及び拡張現実(AR)向けの没入環境を提供する用途を含め、多くの用途のための重要なメディア形式である。360°ビデオを見る人は任意の角度で、及びことによると小さい視野(FOV)内でビデオを見ることができる。従って、くっきりと見えるために360°ビデオは通常のビデオよりもはるかに高い解像度を必要とし得る。かかるシナリオでは、360°ビデオストリームが従来のビデオストリームよりもはるかに高いビットレートを必要とし得る。例えば典型的な1080pビデオは約1MBpsのビットレート(又は1分のビデオに対して60MBのファイルサイズ)を有し得るが、同じビュー解像度の360°ビデオは約10MBps以上のビットレート(又は1分のビデオに対して600MBのファイルサイズ)を含み得る。ビュー解像度は見る人が所与の時点に観察し得るビデオフレームの解像度を含み得る。
一態様ではシステムを提供する。このシステムは、ディスプレイ、センサ、通信インタフェース、及びコントローラを含む。コントローラはメモリ及び少なくとも1個のプロセッサを含む。少なくとも1個のプロセッサは、動作を実行するためにメモリ内に記憶される命令を実行するように構成される。動作は、ビューボリューム内のビュー方向を示す情報をセンサから受信することを含む。ビュー方向は視野に対応する。動作は、ビュー方向に基づいてビューボリューム内の複数のビュー可能領域から複数のアクティブ領域を決定することも含む。動作は、通信インタフェースを介して、複数のアクティブ領域に対応する複数のビデオストリームに接続することをまた更に含む。動作は、複数のアクティブ領域に対応する第1のビデオ情報を複数のビデオストリームを介して受信することを追加で含む。動作は、360°の視野に対応する第2のビデオ情報を受信することを含む。第1のビデオ情報は第2のビデオ情報よりも高い解像度を有する。動作は、複数のアクティブ領域内で第1のビデオ情報に基づいて且つ複数のアクティブ領域の外側のビューボリュームの領域内で第2のビデオ情報に基づいて360°ビデオをレンダリングすることも含む。また更に、動作は視野に対応する360°ビデオの少なくとも一部をディスプレイによって表示することを含む。
本明細書では方法、装置、及びシステムの例について説明する。本明細書では「例」及び「例示的」という用語は「例、実例、又は例証である」ことを意味するように使用されることを理解すべきである。「例」又は「例示的」として本明細書に記載する如何なる実施形態又は特徴も、必ずしも他の実施形態又は特徴よりも好ましい又は有利であると解釈すべきではない。本明細書で提示する主題の範囲から逸脱することなしに他の実施形態も利用することができ、他の変更も加えることができる。
本開示は、利用者が見ている可能性があるビューボリューム又はビュー球体の一部をストリーミングするためのシステム及び方法に関する。実施形態の一例では、ビューを意識したストリーミングのシステム及び方法がストリーミングサーバ内の著しい追加の記憶コスト又は計算コストなしに、360°ビデオをストリーミングするための帯域幅要件を減らし得る。
A.ストリーミングクライアント装置の動作
図1Aは、実施形態の一例によるビュー球体100を示す。図1Aに示すように、かかるシナリオではビュー球体100がn個の領域に分割されている。実施形態の一例では、隣接する領域間で重複が殆ど又は全くない場合がある。領域は矩形であり得るが、他の形状又は様々な形状の組み合わせが可能である。代替的実施形態では、ビューボリュームが球体以外の形状を含み得る。例えばビューボリュームは、円筒、正方形、角錐、又は別の種類のビューボリュームを含み得る。
一部のシナリオでは、高解像度のビデオがまだ利用可能ではない状態でビュー方向が新たなビュー領域に変わる場合がある。つまり、高解像度のビデオがビデオストリームを介してダウンロードされる前にヘッドセットが新たなビュー方向に動く場合がある。かかるシナリオでは、ヘッドセットのディスプレイが持続ストリームLからの低解像度のビデオを一時的に表示することができ、そのデータは予めバッファに入れることができる。ストリームLはクライアントに常に優先的に接続され得る。レイテンシは、利用者が最初のビュー角度から離れるときとヘッドセットにおいて適切な高解像度のビデオストリームが表示されているときとの間の期間として考えることができる。レイテンシが閾値を上回るようになる場合、高解像度のビデオストリームが同期するのを待つ間、低解像度のビデオストリームを見る人に提示することができる。このレイテンシ期間の間、見る人はストリームLからの低解像度のフレームしか見ることができない。
図3は、実施形態の一例によるタイル状ビデオストリーム300を示す。例えば図3に示すように、ストリーミングクライアントは複数のストリーミングソースと柔軟な数の接続を維持することができる。この設計では、元のビデオストリーム302が多くのリージョナルビデオストリーム304に分割されており、それらのリージョナルビデオストリーム304は様々なビットレート及びダウンサンプリングされた球体ストリーム306、Lを含み得る。そのため、クライアント装置はどのビデオストリームに接続するのか及びいつ接続するのかを決定することができる。図3に示すように、最初に元のビデオストリーミングをn個のリージョナルストリーム304又はタイルに分割する。その後、任意の特定の時間においてクライアントは1つ又は複数のリージョナルストリーム304に接続することに決めることができる。1つ又は複数のリージョナルストリーム304からの受信情報に基づき、クライアント装置はストリームされたタイルをレンダリングし、リージョナルストリーム304の少なくとも一部を利用者に表示することができる。更に、ダウンサンプリングされた球体ストリーム306を利用者に対してレンダリングし、リージョナルストリーム304と並行して、及び/又は例えば高レイテンシのネットワーク条件や不十分な帯域幅を理由に必要に応じて提供することができる。
T=(ν×Tν)+(χ×Tχ)+(c×Tc)+(f×Tf)
但しvはビューインデックスであり、xは1つのリージョナルストリーミング内のチャンクインデックスであり、cはタイルインデックスであり、fはTSセグメント内のフレームインデックスであり、Tv=ビデオ長であり(パディングはTxの乗数(multiplier)である)、Tx=xチャンクの持続時間(図7では3秒)であり、Tc=チャンクの持続時間(例えば1秒)であり、Tf=フレームの持続時間である。
Tv=Tx*合計チャンク#
Tx=Tc*アクティブビュー#
Tc=Tf*TS内の合計フレーム#
Tf=各フレーム内に符号化され、概してフレームごとに一定である。
Claims (20)
- システムであって、
ディスプレイと、
センサと、
通信インタフェースと、
メモリ及び少なくとも1個のプロセッサを含むコントローラと、
ビューボリューム内のビュー方向を示す情報を前記センサから受信することであって、前記ビュー方向は視野に対応する、受信すること、
前記ビュー方向に基づいて前記ビューボリューム内の複数のビュー可能領域から複数のアクティブ領域を決定すること、
前記通信インタフェースを介して、前記複数のアクティブ領域に対応する複数のビデオストリームに接続すること、
前記複数のアクティブ領域に対応する第1のビデオ情報を前記複数のビデオストリームを介して受信すること、
360°の視野に対応する第2のビデオ情報を受信することであって、前記第1のビデオ情報は前記第2のビデオ情報よりも高い解像度を有する、受信すること、
前記複数のアクティブ領域内で前記第1のビデオ情報に基づいて且つ前記複数のアクティブ領域の外側の前記ビューボリュームの領域内で前記第2のビデオ情報に基づいて360°ビデオをレンダリングすること、及び
前記視野に対応する前記360°ビデオの少なくとも一部を前記ディスプレイによって表示すること
を含む動作を行うために前記メモリ内に記憶され、前記少なくとも1個のプロセッサによって実行可能なプログラム命令と
を含む、システム。 - 前記動作が、
更新されたビュー方向を示す情報を前記センサから受信することであって、前記更新されたビュー方向は更新された視野に対応する、受信すること、
前記更新されたビュー方向に基づいて前記ビューボリューム内の複数のビュー可能領域から複数の更新されたアクティブ領域を決定すること、
前記複数の更新されたアクティブ領域に対応しない少なくとも1つのビデオストリームを切断すること、
前記通信インタフェースを介して、前記複数の更新されたアクティブ領域に対応する複数の更新されたビデオストリームに接続すること、
前記複数の更新されたアクティブ領域に対応する更新されたビデオ情報を前記複数の更新されたビデオストリームを介して受信すること、
前記複数の更新されたアクティブ領域内で前記更新されたビデオ情報に基づいて且つ前記複数の更新されたアクティブ領域の外側の前記ビューボリュームの領域内で前記第2のビデオ情報に基づいて、更新された360°ビデオをレンダリングすること、及び
前記更新された視野に対応する前記更新された360°ビデオの少なくとも一部を前記ディスプレイによって表示すること
を更に含む、請求項1に記載のシステム。 - 請求項1に記載のシステムであって、
前記動作が、
前記システムの動きを示す情報を前記センサから受信すること、及び
前記システムの前記動きに基づいて予測される変化率又は予測される動きを決定することであって、前記複数のアクティブ領域を決定することが前記予測される変化率又は予測される動きに更に基づく、決定すること
を更に含む、システム。 - 前記複数のアクティブ領域が前記視野よりも前記ビューボリュームの大きい部分を含む、請求項1に記載のシステム。
- 前記第1のビデオ情報及び前記第2のビデオ情報を表示することが時間の点で同期される、請求項1に記載のシステム。
- 前記動作が、
前記通信インタフェースを介して、少なくとも1つの音声ストリームに接続すること、
前記少なくとも1つの音声ストリームを介してサウンドトラックを受信すること、及び
前記第1のビデオ情報及び前記第2のビデオ情報と同期して前記サウンドトラックを再生すること
を更に含む、請求項1に記載のシステム。 - 少なくとも前記ディスプレイ及びセンサが仮想現実ヘッドセットに組み込まれる、請求項1に記載のシステム。
- 前記複数のビデオストリームに接続することが少なくとも1つのUDP、TCP/IP、又はHTTP接続によって少なくとも1つのストリーミングサーバに接続することを含む、請求項1に記載のシステム。
- 前記複数のビデオストリームに接続することが1つのトンネルUDP、TCP/IP、又はHTTP接続によってストリーミングサーバに接続することを含む、請求項1に記載のシステム。
- 前記複数のビデオストリームに接続することが多重化ネットワーク接続によってストリーミングサーバに接続することを含み、前記多重化ネットワーク接続は前記第1のビデオ情報からの固定長のトランスポーテーションセグメントを通信するように構成されるネットワーク接続を含む、請求項1に記載のシステム。
- システムであって、
通信インタフェースと、
メモリ及び少なくとも1個のプロセッサを含むコントローラと、
360°ビデオストリームを複数のリージョナルストリームに分割すること、
前記360°ビデオストリームをダウンサンプリングして低解像度の360°ビデオストリームを提供すること、
前記通信インタフェースを介して要求を受信することであって、前記要求は少なくとも1つのアクティブ領域を含む、受信すること、
前記通信インタフェースを介して、前記少なくとも1つのアクティブ領域に対応する少なくとも1つのリージョナルストリームを提供すること、及び
前記通信インタフェースを介して、前記低解像度の360°ビデオストリームを提供すること
を含む動作を行うために前記メモリ内に記憶され、前記少なくとも1個のプロセッサによって実行可能なプログラム命令と
を含む、システム。 - 前記動作が、前記通信インタフェースを介して、少なくとも1つの音声ストリームを提供することであって、前記通信インタフェースは少なくとも1つのクライアント装置との少なくとも1つのネットワーク接続又は少なくとも1つのクライアント装置との少なくとも1つのトンネルTCP接続のうちの少なくとも1つを含む、提供することを更に含む、請求項11に記載のシステム。
- 前記360°ビデオストリームを前記複数のリージョナルストリームに分割することが、
前記360°ビデオストリームの少なくとも一部のフレームごとにエントロピマップを計算すること、
平均エントロピマップを提供するために前記360°ビデオストリームの一部分に対応する前記エントロピマップを画素ごとに平均することであって、前記平均エントロピマップは平均画素情報を示す、平均すること、及び
前記平均エントロピマップを複数の領域に分割することであって、各領域は同様の画素情報量を有し、前記複数のリージョナルストリームは前記複数の領域に対応する、分割すること
を含む、請求項11に記載のシステム。 - 前記平均エントロピマップを複数の領域に分割することが、リニアプログラミング、ダイナミックプログラミング、又は少なくとも1つの数値最適化アルゴリズムのうちの少なくとも1つを使用して行われる、請求項13に記載のシステム。
- 前記通信インタフェースが少なくとも1つのクライアント装置との多重化ネットワーク接続を含み、前記少なくとも1つのリージョナルストリームを提供することが、前記低解像度の360°ビデオストリームからの固定長のトランスポーテーションセグメント及び前記少なくとも1つのアクティブ領域に対応する前記少なくとも1つのリージョナルストリームを提供することを含む、請求項11に記載のシステム。
- 方法であって、
ビューボリューム内のビュー方向を示す情報をセンサから受信することであって、前記ビュー方向は視野に対応する、受信すること、
前記ビュー方向に基づいて前記ビューボリューム内の複数のビュー可能領域から複数のアクティブ領域を決定すること、
通信インタフェースを介して、前記複数のアクティブ領域に対応する複数のビデオストリームに接続すること、
前記複数のアクティブ領域に対応する第1のビデオ情報を前記複数のビデオストリームを介して受信すること、
360°の視野に対応する第2のビデオ情報を受信することであって、前記第1のビデオ情報は前記第2のビデオ情報よりも高い解像度を有する、受信すること、
前記複数のアクティブ領域内で前記第1のビデオ情報に基づいて且つ前記複数のアクティブ領域の外側の前記ビューボリュームの領域内で前記第2のビデオ情報に基づいて360°ビデオをレンダリングすること、及び
前記視野に対応する前記360°ビデオの少なくとも一部をディスプレイによって表示すること
を含む、方法。 - 更新されたビュー方向を示す情報を前記センサから受信することであって、前記更新されたビュー方向は更新された視野に対応する、受信すること、
前記更新されたビュー方向に基づいて前記ビューボリューム内の複数のビュー可能領域から複数の更新されたアクティブ領域を決定すること、
前記複数の更新されたアクティブ領域に対応しない少なくとも1つのビデオストリームを切断すること、
前記通信インタフェースを介して、前記複数の更新されたアクティブ領域に対応する複数の更新されたビデオストリームに接続すること、
前記複数の更新されたアクティブ領域に対応する更新されたビデオ情報を前記複数の更新されたビデオストリームを介して受信すること、
前記複数の更新されたアクティブ領域内で前記更新されたビデオ情報に基づいて且つ前記複数の更新されたアクティブ領域の外側の前記ビューボリュームの領域内で前記第2のビデオ情報に基づいて、更新された360°ビデオをレンダリングすること、及び
前記更新された視野に対応する前記更新された360°ビデオの少なくとも一部を前記ディスプレイによって表示すること
を更に含む、請求項16に記載の方法。 - 前記通信インタフェースを介して、少なくとも1つの音声ストリームに接続すること、
前記少なくとも1つの音声ストリームを介してサウンドトラックを受信すること、及び
前記第1のビデオ情報及び前記第2のビデオ情報と同期して前記サウンドトラックを再生すること
を更に含む、請求項16に記載の方法。 - 前記複数のビデオストリームに接続することが、1つのトンネルTCP又はHTTP接続によってストリーミングサーバに接続することを含む、請求項16に記載の方法。
- 前記複数のビデオストリームに接続することが多重化ネットワーク接続によってストリーミングサーバに接続することを含み、前記多重化ネットワーク接続は前記第1のビデオ情報からの固定長のトランスポーテーションセグメントを通信するように構成される、請求項16に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662320451P | 2016-04-08 | 2016-04-08 | |
US62/320,451 | 2016-04-08 | ||
PCT/US2017/026514 WO2017177090A1 (en) | 2016-04-08 | 2017-04-07 | View-aware 360 degree video streaming |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019516297A true JP2019516297A (ja) | 2019-06-13 |
JP6741784B2 JP6741784B2 (ja) | 2020-08-19 |
Family
ID=59998838
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018552799A Expired - Fee Related JP6741784B2 (ja) | 2016-04-08 | 2017-04-07 | ビューを意識した360度ビデオストリーミング |
Country Status (5)
Country | Link |
---|---|
US (1) | US9986221B2 (ja) |
EP (1) | EP3440843A4 (ja) |
JP (1) | JP6741784B2 (ja) |
CN (1) | CN109891906B (ja) |
WO (1) | WO2017177090A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020519094A (ja) * | 2017-04-28 | 2020-06-25 | 華為技術有限公司Huawei Technologies Co.,Ltd. | ビデオ再生方法、デバイス、およびシステム |
Families Citing this family (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018064502A1 (en) * | 2016-09-30 | 2018-04-05 | Visbit Inc. | View-optimized light field image and video streaming |
US10425643B2 (en) | 2017-02-04 | 2019-09-24 | OrbViu Inc. | Method and system for view optimization of a 360 degrees video |
US10687050B2 (en) * | 2017-03-10 | 2020-06-16 | Qualcomm Incorporated | Methods and systems of reducing latency in communication of image data between devices |
CN107396081B (zh) * | 2017-06-19 | 2019-04-12 | 深圳市铂岩科技有限公司 | 针对全景视频的优化编码方法及装置 |
WO2019194571A1 (en) * | 2018-04-05 | 2019-10-10 | Lg Electronics Inc. | Method for transmitting 360-degree video, method for receiving 360-degree video, apparatus for transmitting 360-degree video, and apparatus for receiving 360-degree video |
US11140373B2 (en) | 2018-04-05 | 2021-10-05 | Lg Electronics Inc. | Method for transmitting 360-degree video, method for receiving 360-degree video, apparatus for transmitting 360-degree video, and apparatus for receiving 360-degree video |
US10812828B2 (en) | 2018-04-10 | 2020-10-20 | At&T Intellectual Property I, L.P. | System and method for segmenting immersive video |
WO2019199024A1 (ko) * | 2018-04-10 | 2019-10-17 | 엘지전자 주식회사 | 360 영상 데이터의 서브픽처 기반 처리 방법 및 그 장치 |
US10735765B2 (en) * | 2018-06-07 | 2020-08-04 | Hong Kong Applied Science and Technology Research Institute Company, Limited | Modified pseudo-cylindrical mapping of spherical video using linear interpolation of empty areas for compression of streamed images |
JP2020005038A (ja) * | 2018-06-25 | 2020-01-09 | キヤノン株式会社 | 送信装置、送信方法、受信装置、受信方法、及び、プログラム |
US10699154B2 (en) | 2018-08-08 | 2020-06-30 | At&T Intellectual Property I, L.P. | Optimizing 360-degree video streaming with video content analysis |
US10735778B2 (en) | 2018-08-23 | 2020-08-04 | At&T Intellectual Property I, L.P. | Proxy assisted panoramic video streaming at mobile edge |
US11032590B2 (en) | 2018-08-31 | 2021-06-08 | At&T Intellectual Property I, L.P. | Methods, devices, and systems for providing panoramic video content to a mobile device from an edge server |
US10826964B2 (en) | 2018-09-05 | 2020-11-03 | At&T Intellectual Property I, L.P. | Priority-based tile transmission system and method for panoramic video streaming |
KR102192433B1 (ko) * | 2018-12-28 | 2020-12-17 | 포항공과대학교 산학협력단 | 360도 영상의 수평 수직 보정을 위한 장치 및 방법 |
US10970519B2 (en) | 2019-04-16 | 2021-04-06 | At&T Intellectual Property I, L.P. | Validating objects in volumetric video presentations |
US11074697B2 (en) | 2019-04-16 | 2021-07-27 | At&T Intellectual Property I, L.P. | Selecting viewpoints for rendering in volumetric video presentations |
US11012675B2 (en) | 2019-04-16 | 2021-05-18 | At&T Intellectual Property I, L.P. | Automatic selection of viewpoint characteristics and trajectories in volumetric video presentations |
US11153492B2 (en) | 2019-04-16 | 2021-10-19 | At&T Intellectual Property I, L.P. | Selecting spectator viewpoints in volumetric video presentations of live events |
CN111131805A (zh) * | 2019-12-31 | 2020-05-08 | 歌尔股份有限公司 | 图像处理方法、装置和可读存储介质 |
CN113473126B (zh) | 2020-03-31 | 2023-03-17 | 阿里巴巴集团控股有限公司 | 视频流的处理方法、装置、电子设备及计算机可读介质 |
CN115604523A (zh) * | 2021-06-28 | 2023-01-13 | 中兴通讯股份有限公司(Cn) | 自由视角视频场景的处理方法、客户端及服务器 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013543332A (ja) * | 2010-02-02 | 2013-11-28 | ファーウェイ テクノロジーズ カンパニー リミテッド | オンライン・メディア・プレビュー用システム及び方法 |
JP2014502072A (ja) * | 2010-10-22 | 2014-01-23 | アルカテル−ルーセント | 監視ビデオルータ |
WO2014080879A1 (ja) * | 2012-11-26 | 2014-05-30 | ソニー株式会社 | 送信装置、送信方法、受信装置、受信方法および受信表示方法 |
JP2014116922A (ja) * | 2012-11-19 | 2014-06-26 | Nippon Telegr & Teleph Corp <Ntt> | 映像再生装置及び映像配信装置 |
JP2014176017A (ja) * | 2013-03-12 | 2014-09-22 | Nippon Telegr & Teleph Corp <Ntt> | 映像再生装置、映像配信装置、映像再生方法及び映像配信方法 |
JP2014222894A (ja) * | 2010-10-19 | 2014-11-27 | オトイ、インコーポレイテッド | ステートレス圧縮を利用したコンポジットビデオ画像をストリーミングする方法、プログラムおよび装置 |
JP2015097343A (ja) * | 2013-11-15 | 2015-05-21 | 日本電信電話株式会社 | 映像配信システム、映像配信装置及び映像配信プログラム |
WO2015184416A1 (en) * | 2014-05-29 | 2015-12-03 | Nextvr Inc. | Methods and apparatus for delivering content and/or playing back content |
WO2016010668A1 (en) * | 2014-07-14 | 2016-01-21 | Sony Computer Entertainment Inc. | System and method for use in playing back panorama video content |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6567086B1 (en) * | 2000-07-25 | 2003-05-20 | Enroute, Inc. | Immersive video system using multiple video streams |
JP2004072694A (ja) * | 2002-08-09 | 2004-03-04 | Sony Corp | 情報提供システムおよび方法、情報提供装置および方法、記録媒体、並びにプログラム |
US7778326B1 (en) * | 2003-12-23 | 2010-08-17 | At&T Intellectual Property Ii, L.P. | System and method for dynamically determining multimedia transmission based on communication bandwidth |
CN103167284B (zh) * | 2011-12-19 | 2017-08-11 | 中国电信股份有限公司 | 一种基于画面超分辨率的视频流传输方法及*** |
US8990843B2 (en) * | 2012-10-26 | 2015-03-24 | Mobitv, Inc. | Eye tracking based defocusing |
US9699437B2 (en) * | 2014-03-03 | 2017-07-04 | Nextvr Inc. | Methods and apparatus for streaming content |
US9635077B2 (en) * | 2014-03-14 | 2017-04-25 | Adobe Systems Incorporated | Low latency live video streaming |
US20150286719A1 (en) * | 2014-04-03 | 2015-10-08 | Sony Corporation | Recognizing and registering faces in video |
WO2016050283A1 (en) * | 2014-09-30 | 2016-04-07 | Telefonaktiebolaget L M Ericsson (Publ) | Reduced bit rate immersive video |
US20160150212A1 (en) | 2014-11-26 | 2016-05-26 | Sony Corporation | Live selective adaptive bandwidth |
US9979885B2 (en) * | 2015-02-09 | 2018-05-22 | Steven Christopher Sparks | Apparatus and method for capture of 360° panoramic video image and simultaneous assembly of 360° panoramic zoetropic video image |
GB2536025B (en) * | 2015-03-05 | 2021-03-03 | Nokia Technologies Oy | Video streaming method |
JP6501904B2 (ja) | 2015-05-27 | 2019-04-17 | グーグル エルエルシー | 球面ビデオのストリーミング |
US20160353146A1 (en) | 2015-05-27 | 2016-12-01 | Google Inc. | Method and apparatus to reduce spherical video bandwidth to user headset |
WO2017044795A1 (en) | 2015-09-10 | 2017-03-16 | Google Inc. | Playing spherical video on a limited bandwidth connection |
US9858706B2 (en) | 2015-09-22 | 2018-01-02 | Facebook, Inc. | Systems and methods for content streaming |
US10152080B2 (en) * | 2015-09-23 | 2018-12-11 | Adobe Systems Incorporated | Power efficient multimedia content streaming based on media segment duration |
-
2017
- 2017-04-07 JP JP2018552799A patent/JP6741784B2/ja not_active Expired - Fee Related
- 2017-04-07 CN CN201780029818.8A patent/CN109891906B/zh not_active Expired - Fee Related
- 2017-04-07 EP EP17779883.2A patent/EP3440843A4/en not_active Withdrawn
- 2017-04-07 WO PCT/US2017/026514 patent/WO2017177090A1/en active Application Filing
- 2017-04-07 US US15/481,752 patent/US9986221B2/en active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013543332A (ja) * | 2010-02-02 | 2013-11-28 | ファーウェイ テクノロジーズ カンパニー リミテッド | オンライン・メディア・プレビュー用システム及び方法 |
JP2014222894A (ja) * | 2010-10-19 | 2014-11-27 | オトイ、インコーポレイテッド | ステートレス圧縮を利用したコンポジットビデオ画像をストリーミングする方法、プログラムおよび装置 |
JP2014502072A (ja) * | 2010-10-22 | 2014-01-23 | アルカテル−ルーセント | 監視ビデオルータ |
JP2014116922A (ja) * | 2012-11-19 | 2014-06-26 | Nippon Telegr & Teleph Corp <Ntt> | 映像再生装置及び映像配信装置 |
WO2014080879A1 (ja) * | 2012-11-26 | 2014-05-30 | ソニー株式会社 | 送信装置、送信方法、受信装置、受信方法および受信表示方法 |
JP2014176017A (ja) * | 2013-03-12 | 2014-09-22 | Nippon Telegr & Teleph Corp <Ntt> | 映像再生装置、映像配信装置、映像再生方法及び映像配信方法 |
JP2015097343A (ja) * | 2013-11-15 | 2015-05-21 | 日本電信電話株式会社 | 映像配信システム、映像配信装置及び映像配信プログラム |
WO2015184416A1 (en) * | 2014-05-29 | 2015-12-03 | Nextvr Inc. | Methods and apparatus for delivering content and/or playing back content |
WO2016010668A1 (en) * | 2014-07-14 | 2016-01-21 | Sony Computer Entertainment Inc. | System and method for use in playing back panorama video content |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020519094A (ja) * | 2017-04-28 | 2020-06-25 | 華為技術有限公司Huawei Technologies Co.,Ltd. | ビデオ再生方法、デバイス、およびシステム |
US11159848B2 (en) | 2017-04-28 | 2021-10-26 | Huawei Technologies Co., Ltd. | Video playing method, device, and system |
JP7110234B2 (ja) | 2017-04-28 | 2022-08-01 | 華為技術有限公司 | ビデオ再生方法、デバイス、およびシステム |
Also Published As
Publication number | Publication date |
---|---|
CN109891906A (zh) | 2019-06-14 |
US9986221B2 (en) | 2018-05-29 |
JP6741784B2 (ja) | 2020-08-19 |
WO2017177090A1 (en) | 2017-10-12 |
CN109891906B (zh) | 2021-10-15 |
EP3440843A4 (en) | 2019-08-28 |
EP3440843A1 (en) | 2019-02-13 |
US20170294049A1 (en) | 2017-10-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6741784B2 (ja) | ビューを意識した360度ビデオストリーミング | |
KR102013403B1 (ko) | 구면 영상 스트리밍 | |
JP7029562B2 (ja) | コンテンツを提供及び表示するための装置及び方法 | |
EP3459252B1 (en) | Method and apparatus for spatial enhanced adaptive bitrate live streaming for 360 degree video playback | |
CN111355954B (zh) | 为视频播放器装置处理视频数据 | |
US20180310010A1 (en) | Method and apparatus for delivery of streamed panoramic images | |
WO2018050606A1 (en) | Streaming virtual reality video | |
GB2572996A (en) | Processing video patches for three-dimensional content | |
JP7218826B2 (ja) | 再生装置および画像生成方法 | |
WO2018126702A1 (zh) | 一种应用于虚拟现实技术的流媒体的传输方法和客户端 | |
JP7177034B2 (ja) | レガシー及び没入型レンダリングデバイスのために没入型ビデオをフォーマットする方法、装置、及びストリーム | |
WO2022057187A1 (en) | Method and system for seamless switching of multiple video streams at playback end | |
Podborski et al. | Virtual reality and DASH | |
KR20210019017A (ko) | 컨텐츠의 처리 방법 및 장치 | |
KR20190129865A (ko) | 정보 처리 장치 및 정보 처리 방법, 그리고 프로그램 | |
US10841490B2 (en) | Processing method and processing system for video data | |
JP7144452B2 (ja) | 画像処理装置およびシステム | |
EP3635958B1 (en) | Image processing device and system | |
KR20220054283A (ko) | 3d 장면을 송신 및 렌더링하기 위한 방법들, 패치들을 생성하기 위한 방법, 및 대응하는 디바이스들 및 컴퓨터 프로그램들 | |
KR102499900B1 (ko) | 고해상도 영상의 스트리밍을 위한 영상 전송 장치와 영상 재생 장치 및 그 동작 방법 | |
WO2023184467A1 (en) | Method and system of video processing with low latency bitstream distribution | |
WO2023194648A1 (en) | A method, an apparatus and a computer program product for media streaming of immersive media | |
JP2024083340A (ja) | 遠隔端末用の没入型テレビ会議及びテレプレゼンスのためのビットストリーム構造 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181204 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191024 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191125 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200219 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200622 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20200722 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200727 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6741784 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |