以下、本発明を実施するための形態について図面を用いて詳細に説明する。
〔映像配信システム〕
まず、本発明の実施形態による映像符号化装置及び再生装置を含む映像配信システムについて説明する。図1は、その映像配信システムの全体構成例を示す概略図である。この映像配信システム1は、映像符号化装置2、配信サーバ3及び再生装置4を備えて構成される。配信サーバ3及び再生装置4は、インターネット5を介して接続される。
映像符号化装置2により、映像素材から解像度及び切り出し位置の異なる複数の映像ストリームが生成され、配信サーバ3に格納される。配信サーバ3により、再生装置4からの要求に従い、単一または複数の映像ストリームがインターネット5を介して再生装置4へ配信される。再生装置4により、受信した複数の映像ストリームが重ね合わせて再生される。
映像符号化装置2は、映像素材を入力し、映像素材に対して解像度変換処理及び切り出し処理を行い、解像度及び切り出し位置の異なる複数の映像データを生成する。そして、映像符号化装置2は、映像データを符号化し、映像ストリームとして、時系列に複数のセグメント化したファイルに変換し、当該ファイルを配信サーバ3に格納する。
配信サーバ3には、複数の映像ストリームのファイルが格納される。配信サーバ3は、複数の映像ストリームのうち再生装置4からの要求に対応した映像ストリームのファイルを読み出し、当該要求に応じた映像ストリームを、インターネット5を介して再生装置4へ配信する。配信プロトコルとしては、MPEG-DASH、HTTP Live Streaming等が用いられる。つまり、配信サーバ3から、解像度が異なる複数の映像ストリーム(例えば、第一解像度の映像ストリーム、第二解像度の映像ストリーム及び第三解像度の映像ストリーム)が配信される。
再生装置4は、PC(パーソナルコンピュータ)、タブレット、スマートフォン等の電子機器であり、ユーザの操作に従い、所望の映像を、所望のズーム倍率x及び視聴領域rにて視聴可能な装置である。視聴領域rは、再生装置4が再生している映像ストリームの領域のうち、画面表示されている映像の領域をいう。
再生装置4は、ユーザの操作に従い、ズーム倍率x及び/または視聴領域rに応じた映像ストリームを決定し、当該映像ストリームを受信するための要求を配信サーバ3へ送信する。再生装置4は、配信サーバ3から要求に対応する映像ストリームを受信し、受信した映像ストリームが複数の場合、複数の映像ストリームを重ね合わせて再生する。
再生装置4は、ユーザの操作に従い、ズーム倍率x及び/または視聴領域rが変更された場合、新たな要求を配信サーバ3へ送信し、当該要求に対応する映像ストリームを受信して再生する。映像ストリームの再生は、WEBブラウザでも実行可能であり、前述のPC、タブレット、スマートフォン等の電子機器で共通に動作する。
図2は、図1に示した映像配信システム1において、解像度の異なる映像ストリーム及び画面表示の概要を説明する図である。
配信サーバ3には、低解像度映像ストリームとして、2K解像度の2K画素数の1種類(1領域)の映像ストリーム(2K[1])、中解像度映像ストリームとして、4K解像度の映像データから切り出した2K画素数の25種類(25領域)の映像ストリーム(4K[i]:i∈{1,・・・,25})、及び、高解像度映像ストリームとして、8K解像度の映像データから切り出した2K画素数の49種類(49領域)の映像ストリーム(8K[j]:j∈{1,・・・,49})が格納されているものとする。i,jは自然数であり、映像内の領域の位置を示すインデックスである。
映像ストリーム(2K[1])は、2K解像度であって、かつ切り出し処理が行われていないストリームである。映像ストリーム(4K[i]:i∈{1,・・・,25})は、4K解像度の映像データから切り出され、かつ、領域が他の領域の一部と重複するように異なる位置で切り出されたストリームである。映像ストリーム(8K[j]:j∈{1,・・・,49})は、8K解像度の映像データから切り出され、かつ、領域が他の領域の一部と重複するように異なる位置で切り出されたストリームである。これらの映像ストリームの詳細については後述する。
以下、映像ストリーム(4K[i])は、25領域のストリームのうちのi番目のインデックスの1つのストリームとし、映像ストリーム(8K[j])は、49領域のストリームのうちのj番目のインデックスの1つのストリームとする。
再生装置4は、映像ストリーム(2K[1])が再生される第一層、映像ストリーム(4K[i])が再生される第二層、及び映像ストリーム(8K[j])が再生される第三層の再生領域を備えているものとする。
図2の例において、再生装置4は、ユーザの操作に従い、ズーム倍率x及び視聴領域rに応じた受信ストリームとして、インデックスi=7の映像ストリーム(4K[i=7])及びインデックスj=10の映像ストリーム(8K[j=10])を決定する。そして、再生装置4は、映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10])を受信するための要求を配信サーバ3へ送信する。
尚、映像ストリーム(2K[1])を受信するための要求は既に送信されており、再生装置4は、常に映像ストリーム(2K[1])を受信し再生しているものとする。
ここで、視聴領域rは、ユーザの操作、例えばスワイプ操作に従い設定される、再生装置4に画面表示される領域をいう。視聴領域rは、映像ストリーム(2K[1])が再生される領域内で設定される。
配信サーバ3は、再生装置4から要求を受信し、当該要求に対応して、25領域のうちインデックスi=7の映像ストリーム(4K[i=7])、及び、49領域のうちインデックスj=10の映像ストリーム(8K[j=10])を再生装置4へ送信する。尚、配信サーバ3は、既に受信した要求に従い、常に映像ストリーム(2K[1])を再生装置4へ送信しているものとする。
再生装置4は、配信サーバ3から映像ストリーム(2K[1])、映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10])を受信する。
再生装置4は、第一層に映像ストリーム(2K[1])を再生し、第二層に映像ストリーム(4K[i=7])を再生し、第三層に映像ストリーム(8K[j=10])を再生する。そして、再生装置4は、視聴領域rにおいて、第三層の映像ストリーム(8K[j=10])を第二層及び第一層よりも優先して画面表示すると共に、第三層の映像ストリーム(8K[j=10])以外の箇所に、第二層の映像ストリーム(4K[i=7])を第一層よりも優先して画面表示する。
優先して画面表示するとは、複数の映像ストリームを重ねて画面表示する場合に、優先順位の高い層の映像ストリームを、優先順位の低い層の映像ストリームに対して上書きして画面表示することを意味する。また、再生と画面表示とは異なる意味合いであり、再生された映像ストリームのうち、視聴領域rの映像ストリームが画面表示される。
〔映像符号化装置2〕
次に、図1に示した映像符号化装置2について説明する。図3は、本発明の実施形態による映像符号化装置の構成例を示すブロック図である。この映像符号化装置2は、解像度変換処理部10、切り出し処理部11及びストリーム生成部12を備えている。前述のとおり、映像符号化装置2は、映像素材から解像度及び切り出し位置の異なる複数の映像ストリームを生成し、複数の映像ストリームを配信サーバ3に格納する。
解像度変換処理部10は、映像素材を入力し、映像素材をダウンスケーリング(低解像度化、例えば間引き)することで、異なる解像度の映像データに変換し、変換後の映像データを切り出し処理部11に出力する。また、解像度変換処理部10は、入力した映像素材を映像データとしてストリーム生成部12に出力する。
切り出し処理部11は、解像度変換処理部10から映像データを入力し、映像データから所定画素数の異なる領域を切り出すことで、複数の映像データに分割し、切り出し後の映像データをストリーム生成部12に出力する。
尚、切り出し処理部11にて切り出す領域は、各領域が等面積である必要はなく、領域間で重複する部分があってもよい。切り出し処理部11が領域を重複させて切り出すことにより、再生装置4にて画面表示される視聴領域rに応じた、より柔軟な映像ストリームの選択が可能となる。詳細については後述する。
ストリーム生成部12は、解像度変換処理部10から映像素材である映像データを入力すると共に、切り出し処理部11から切り出し後の映像データを入力する。そして、ストリーム生成部12は、これらの映像データのそれぞれを符号化し、映像ストリームとして、時系列に複数のセグメント化したファイルに変換し、当該ファイルを配信サーバ3に格納する。
これにより、配信サーバ3には、解像度及び切り出し位置が異なる複数の映像ストリームが格納される。図2の例では、1領域の映像ストリーム(2K[1])、25領域の映像ストリーム(4K[i]:i∈{1,・・・,25})、及び、49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})が格納される。
(解像度変換処理部10)
次に、図3に示した解像度変換処理部10について説明する。図4は、解像度変換処理部10の構成例を示すブロック図である。この解像度変換処理部10は、8K/2K変換部20及び8K/4K変換部21を備えている。
解像度変換処理部10は、8K解像度の映像素材を入力するものとする。8K/2K変換部20は、8K解像度の映像素材を入力し、8K解像度の映像素材をダウンスケーリングして2K解像度の映像データ(2K[1])(低解像度映像データ)に変換する。そして、8K/2K変換部20は、2K解像度の映像データ(2K[1])をストリーム生成部12に出力する。2K解像度の映像データ(2K[1])は、2K解像度の2K画素数の映像データである。
8K/4K変換部21は、8K解像度の映像素材を入力し、8K解像度の映像素材をダウンスケーリングして4K解像度の映像データ(中解像度映像データ)に変換する。そして、8K/4K変換部21は、4K解像度の映像データを切り出し処理部11に出力する。
解像度変換処理部10は、入力した8K解像度の映像素材を8K解像度の映像データ(高解像度映像データ)として切り出し処理部11に出力する。
尚、解像度変換処理部10は、例えば4K解像度の映像素材を入力し、4K解像度の映像素材をアップスケーリング(高解像度化)して8K解像度の映像データを生成し、8K解像度の映像データを切り出し処理部11に出力するようにしてもよい。
また、解像度変換処理部10に入力される映像素材は、元となる映像素材であってもよいし、切り出し処理部11により切り出された映像データ(映像素材における一部の領域の映像データ)であってもよい。
(切り出し処理部11)
次に、図3に示した切り出し処理部11について説明する。図5は、切り出し処理部11の構成例を示すブロック図である。切り出し処理部11は、解像度変換処理部10から出力された2K解像度の映像データである映像データ(2K[1])及び4K解像度の映像データ、並びに映像素材である8K解像度の映像データのうち、解像度が最も低い2K解像度の映像データを除き、解像度が最も高い8K解像度の映像データ、及び解像度が中程度の4K解像度の映像データに対して処理を行う。
この切り出し処理部11は、4K切り出し部22及び8K切り出し部23を備えている。
4K切り出し部22は、解像度変換処理部10の8K/4K変換部21から4K解像度の映像データを入力し、4K解像度の映像データから2K画素数の異なる複数の領域を切り出し、例えば当該映像データを構成する25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})(領域毎の中解像度切り出し映像データ)を生成する。そして、4K切り出し部22は、25領域の映像データ(4K[i]:i∈{1,・・・,25})をストリーム生成部12に出力する。映像データ(4K[i]:i∈{1,・・・,25})は、4K解像度の映像データから切り出された25領域の2K画像数の映像データである。
8K切り出し部23は、解像度変換処理部10から8K解像度の映像データを入力し、8K解像度の映像データから2K画素数の異なる複数の領域を切り出し、例えば当該映像データを構成する49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})(領域毎の高解像度切り出し映像データ)を生成する。そして、8K切り出し部23は、49領域の映像データ(8K[j]:j∈{1,・・・,49})をストリーム生成部12に出力する。映像データ(8K[j]:j∈{1,・・・,49})は、8K解像度の映像データから切り出された49領域の2K画像数の映像データである。
このように、切り出し処理部11により、解像度及び切り出し位置の異なる2K画素数の映像データが生成される。尚、切り出し処理部11に入力される映像データは、元となる映像素材であってもよいし、解像度変換処理部10により生成された映像データとは異なる解像度の映像データであってもよい。
(ストリーム生成部12)
次に、図3に示したストリーム生成部12について説明する。図6は、ストリーム生成部12の構成例を示すブロック図である。ストリーム生成部12は、解像度変換処理部10から出力された2K解像度の映像データである映像データ(2K[1])及び4K解像度の映像データ、並びに映像素材である8K解像度の映像データのうち、解像度が最も低い2K解像度の映像データに対して処理を行う。また、ストリーム生成部12は、切り出し処理部11から出力された中程度の解像度の映像データ(4K[i]:i∈{1,・・・,25})及び解像度が最も高い映像データ(8K[j]:j∈{1,・・・,49})に対して処理を行う。
このストリーム生成部12は、2Kストリーム生成部24、4Kストリーム生成部25及び8Kストリーム生成部26を備えている。
2Kストリーム生成部24は、解像度変換処理部10から映像データ(2K[1])を入力し、映像データ(2K[1])を符号化し、時系列にセグメント化した映像ストリームを生成することで、映像ストリームのファイルに変換する。2Kストリーム生成部24は、1つの映像ストリーム(2K[1])のファイルを配信サーバ3に格納する。
4Kストリーム生成部25は、切り出し処理部11から25領域の映像データ(4K[i]:i∈{1,・・・,25})を入力する。そして、4Kストリーム生成部25は、25領域の映像データ(4K[i]:i∈{1,・・・,25})のそれぞれを符号化し、時系列にセグメント化した映像ストリームを生成することで、映像ストリームのファイルに変換する。4Kストリーム生成部25は、25領域の映像ストリーム(4K[i]:i∈{1,・・・,25})のファイルを配信サーバ3に格納する。
8Kストリーム生成部26は、切り出し処理部11から49領域の映像データ(8K[j]:j∈{1,・・・,49})を入力する。そして、8Kストリーム生成部26は、49領域の映像データ(8K[j]:j∈{1,・・・,49})のそれぞれを符号化し、時系列にセグメント化した映像ストリームを生成することで、映像ストリームのファイルに変換する。8Kストリーム生成部26は、49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})のファイルを配信サーバ3に格納する。
(解像度変換処理部10及び切り出し処理部11の処理)
図7は、解像度変換処理部10及び切り出し処理部11の処理例を説明する図である。以下、映像素材の解像度は、アスペクト比16:9の8K解像度であるとし、再生装置4の画面解像度は、アスペクト比16:9の2K解像度であるとする。映像符号化装置2により生成され配信サーバ3に格納される映像ストリームは、1つの映像ストリーム(2K[1])、25領域の映像ストリーム(4K[i]:i∈{1,・・・,25})、及び49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})であるとする。
尚、これらは一例に過ぎず、映像素材のアスペクト比及び解像度、再生装置4の画面解像度、配信サーバ3に格納される映像ストリームの数は限定されず、適宜変更して構わない。
解像度変換処理部10は、横幅7680px(ピクセル)及び縦幅4320pxの8K解像度の映像素材を入力する(ステップS401)。そして、解像度変換処理部10の8K/2K変換部20は、8K解像度の映像素材を2K画素数(2K解像度)にダウンスケーリングし(ステップS402)、2K解像度の2K画素数の映像データ(2K[1])を生成する。映像データ(2K[1])は、横幅1920px及び縦幅1080pxからなる。
また、8K/4K変換部21は、8K解像度の映像素材を4K画素数(4K解像度)にダウンスケーリングし(ステップS403)、4K解像度の映像データを生成する。4K解像度の映像データは、横幅3840px及び縦幅2160pxからなる。
このように、解像度変換処理部10により、8K解像度の映像素材がダウンスケーリングされ、2K解像度の映像データ(2K[1])及び4K解像度の映像データが生成され、元の映像素材も含めて3つの解像度の映像データが得られる。
ここで、最小解像度を第一解像度とし、解像度の小さい順に、第一解像度、第二解像度、第三解像度、・・・と定義すると、第一解像度が2K解像度、第二解像度が4K解像度、第三解像度が8K解像度となる(図1を参照)。尚、解像度変換処理部10のダウンスケーリングの処理により生成される映像データの解像度の比は整数倍である必要はなく、生成される映像データの数も限定されない。
切り出し処理部11の4K切り出し部22は、4K解像度の映像データから2K画素数の異なる領域を切り出し、25領域の映像データ(4K[i]:i∈{1,・・・,25})を生成する(ステップS501)。
8K切り出し部23は、8K解像度の映像データから2K画素数の異なる領域を切り出し、49領域の映像データ(8K[j]:j∈{1,・・・,49})を生成する(ステップS502)。
このように、切り出し処理部11により、4K解像度の映像データから映像データ(4K[i]:i∈{1,・・・,25})が生成され、8K解像度の映像データから映像データ(8K[j]:j∈{1,・・・,49})が生成され、映像データ(2K[1])も含め、解像度及び切り出し位置の異なる複数の2K画素数の映像データが生成される。
尚、再生装置4の画面解像度が2K解像度であるからといって、必ずしも2K画素数の映像データを切り出す必要はなく、適宜変更しても構わない。
図7の例では、第一解像度の映像データとして、2K解像度の2K画素数の映像データ(2K[1])が生成される。また、第二解像度の映像データとして、4K解像度の映像データから切り出した2K画素数の映像データ(4K[i]:i∈{1,・・・,25})が生成される。また、第三解像度の映像データとして、8K解像度の映像データから切り出した2K画素数の映像データ(8K[j]:j∈{1,・・・,49})が生成される。
図8(1)は、4K解像度の映像データから切り出された2K画素数の映像データ(4K[i]:i∈{1,・・・,25})を説明する図である。前述のとおり、iは自然数であり、4K解像度の映像データ内における領域の位置を示すインデックスである。
映像データ(4K[i])は、25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})のうちi番目の映像データを示す。
例えば、映像データ(4K[1])、すなわち映像データ(4K[i=1])は、4K解像度の映像データにおいて、左上端に位置する2K画素数の映像データである。映像データ(4K[5])は、4K解像度の映像データにおいて、右上端に位置する2K画素数の映像データであり、映像データ(4K[25])は、4K解像度の映像データにおいて、右下端に位置する2K画素数の映像データである。
図8(2)は、8K解像度の映像データから切り出された2K画素数の映像データ(8K[j]:j∈{1,・・・,49})を説明する図である。前述のとおり、jは自然数であり、8K解像度の映像データ内における領域の位置を示すインデックスである。
映像データ(8K[j])は、49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})のうちj番目の映像データを示す。
例えば、映像データ(8K[1])、すなわち映像データ(8K[j=1])は、8K解像度の映像データにおいて、左上端に位置する2K画素数の映像データである。映像データ(8K[7])は、8K解像度の映像データにおいて、右上端に位置する2K画素数の映像データであり、映像データ(8K[49])は、8K解像度の映像データにおいて、右下端に位置する2K画素数の映像データである。
尚、インデックスi,jの順番は任意で構わないが、図8(1)(2)の例では、左上が最小のインデックス、右下が最大のインデックスとなるように番号が割り振られている。
<映像データ(8K[j]:j∈{1,・・・,49})>
図7に戻って、映像データ(8K[j]:j∈{1,・・・,49})は、8K解像度の映像素材から2K画素数の異なる領域が切り出されることで生成される。この場合、切り出し処理部11の8K切り出し部23は、2K画素数の異なる領域を切り出す際に、切り出す位置の横のオフセット幅を2K画素数の横幅である1920pxの倍数ではなく、例えば960pxの倍数として領域を重複させて切り出すようにしてもよい。
また、8K切り出し部23は、切り出す位置の縦のオフセット幅を2K画素数の縦幅である1080pxの倍数ではなく、例えば540pxの倍数として領域を重複させて切り出すようにしてもよい。
オフセット幅は任意であるが、切り出す画素数の横幅及び/または縦幅よりも小さくする。切り出し処理部11は、このような横幅及び/または縦幅にて領域を重複させて切り出す。これにより、再生装置4において、視聴領域rに応じた映像データの選択がより柔軟となるため、視聴領域rのより多くの面積を高解像度の映像で表示することができる。
図7に示したとおり、8K切り出し部23は、横のオフセット幅を960pxの倍数、縦のオフセット幅を540pxの倍数として切り出しを行った場合、合計で49領域の映像データを生成することとなる。
<映像データ(4K[i]:i∈{1,・・・,25})>
映像データ(4K[i]:i∈{1,・・・,25})は、8K解像度の映像素材が4K画素数にダウンスケーリングされ、ダウンスケーリングされた4K解像度の映像データから2K画素数の異なる領域が切り出されることで生成される。この場合、切り出し処理部11の4K切り出し部22は、2K画素数の異なる領域を切り出す際に、切り出す位置の横のオフセット幅を2K画素数の横幅である1920pxの倍数ではなく、例えば480px(映像データ(8K[j]:j∈{1,・・・,49})の場合の960pxの半分)の倍数として領域を重複させて切り出すようにしてもよい。
また、4K切り出し部22は、切り出す位置の縦のオフセット幅を2K画素数の縦幅である1080pxの倍数ではなく、例えば270pxの倍数として領域を重複させて切り出すようにしてもよい。
図7に示したとおり、4K切り出し部22は、横のオフセット幅を480pxの倍数、縦のオフセット幅を270pxの倍数として切り出しを行った場合、合計で25領域の映像データを生成することとなる。
切り出し処理部11により、映像データ(8K[j]:j∈{1,・・・,49})及び映像データ(4K[i]:i∈{1,・・・,25})を切り出す際のオフセット幅は、再生装置4が映像ストリーム(2K[1])、映像ストリーム(4K[i])及び映像ストリーム(8K[j])を重ね合わせて表示する際に、映像ストリーム(8K[j])の裏側に、当該映像ストリーム(8K[j])の2倍の表示倍率にて再生される映像ストリーム(4K[i])が映像ストリーム(8K[j])を内包して表示されるように、かつ、映像ストリーム(8K[j])及び当該映像ストリーム(8K[j])の4倍の表示倍率にて再生される映像ストリーム(2K[1])が隣接して表示されないように、予め設定されることが望ましい。
これにより、再生装置4において、隣接する領域の解像度の差異をできる限り小さくすることができ、ユーザが領域の境目において解像度の差異を認知することによる体感品質の低下を抑制することができる。
<映像ストリーム(2K[1])>
映像ストリーム(2K[1])は、8K解像度の映像素材が2K画素数にダウンスケーリングされることにより生成される。映像ストリーム(2K[1])は、再生装置4においてユーザの操作に従い設定されるズーム倍率x及び視聴領域rに関わることなく、配信サーバ3から再生装置4へ配信される。
以上のように、本発明の実施形態による映像符号化装置2によれば、解像度変換処理部10は、8K解像度の映像素材をダウンスケーリングし、2K解像度の映像データ(2K[1])及び4K解像度の映像データを生成する。
切り出し処理部11は、4K解像度の映像データから2K画素数の異なる領域を切り出し、25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})を生成する。また、切り出し処理部11は、8K解像度の映像素材である8K解像度の映像データから2K画素数の異なる領域を切り出し、49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})を生成する。
ストリーム生成部12は、1領域の映像データ(2K[1])を符号化し、時系列にセグメント化した映像ストリームを生成し、映像ストリーム(2K[1])のファイルを配信サーバ3に格納する。
また、ストリーム生成部12は、25領域の映像データ(4K[i]:i∈{1,・・・,25})のそれぞれを符号化し、時系列にセグメント化した映像ストリームを生成し、25領域の映像ストリーム(4K[i]:i∈{1,・・・,25})のファイルを配信サーバ3に格納する。
また、ストリーム生成部12は、49領域の映像データ(8K[j]:j∈{1,・・・,49})のそれぞれを符号化し、時系列にセグメント化した映像ストリームを生成し、49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})のファイルを配信サーバ3に格納する。
そして、再生装置4からの要求に応じて、配信サーバ3から再生装置4へ、例えば映像データを構成する25領域のうちの1領域の映像ストリーム(4K[i])及び、映像データを構成する49領域のうちの1領域の映像ストリーム(8K[j])が送信される。尚、映像ストリーム(2K[1])は常に送信されているものとする。
再生装置4は、ユーザの操作に従った要求を配信サーバ3へ送信し、配信サーバ3から、例えば映像ストリーム(2K[1])、映像ストリーム(4K[i])及び映像ストリーム(8K[j])を受信する。そして、再生装置4は、ユーザの操作に従って、例えばこれらの映像ストリームを表示倍率4倍、2倍及び1倍にてそれぞれ再生する。再生装置4は、映像ストリーム(8K[j])、映像ストリーム(4K[i])及び映像ストリーム(2K[1])の順に優先して、これらの映像ストリームを重ね合わせて表示する。
これにより、映像符号化装置2において、映像を分割した領域毎に、複数の品質の映像データを生成する必要がなく、1領域の映像ストリームが送信されるため、符号化の処理負荷及び映像データの伝送量を削減することができる。また、再生装置4を操作するユーザは、解像度を維持した状態で、映像の一部の領域を拡大して視聴することができ、体感品質を維持することができる。
〔再生装置4〕
次に、図1に示した再生装置4について説明する。図9は、本発明の実施形態による再生装置4の構成例を示すブロック図である。この再生装置4は、視聴操作受付部30、画面表示制御部31、受信ストリーム決定部32、受信ストリーム要求部33、ストリーム受信部34、再生バッファ管理部35、映像復号処理部36、映像再生処理部37、同期再生管理部38、画面表示部39、通信インターフェース部40及びメモリ41を備えている。
前述のとおり、再生装置4は、ユーザの操作に従い、ズーム倍率x及び/または視聴領域rに応じた映像ストリームを決定し、当該映像ストリームを受信するための要求を配信サーバ3へ送信する。再生装置4は、配信サーバ3から要求に対応する映像ストリームを受信し、複数の映像ストリームを重ね合わせて再生する。
視聴操作受付部30は、ユーザによるズーム、スワイプ等の操作に従い、ズーム倍率xの変更及び/または視聴領域rの変更を指示する視聴操作を受け付け、視聴操作に伴う操作データを生成する。そして、視聴操作受付部30は、操作データを画面表示制御部31に出力する。視聴操作は、画面タッチ操作、マウス操作、リモコンを用いたボタン操作、声による操作、再生装置4の加速度センサを用いた操作等により行われる。
画面表示制御部31は、視聴操作受付部30から操作データを入力し、操作データに基づいて、ズーム倍率x及び視聴領域rを設定し、画面制御を行う。画面表示制御部31は、ズーム倍率x及び視聴領域rを受信ストリーム決定部32及び映像再生処理部37に出力し、視聴領域rを画面表示部39に出力する。
画面表示制御部31は、ズーム倍率xに基づいて、画面表示部39により画面表示が行われる各層の表示モード(「表示」または「非表示」)を設定し、層毎の表示/非表示情報を画面表示部39に出力する。この場合、画面表示制御部31は、層毎の表示/非表示情報をメモリ41に格納し、画面表示部39は、メモリ41から層毎の表示/非表示情報を読み出すようにしてもよい。
例えば、図2、図7及び図8の例において、画面表示制御部31は、ズーム倍率x=1の場合、映像ストリーム(2K[1])が再生される第一層を「表示」の表示モードに設定する。また、画面表示制御部31は、映像ストリーム(4K[i])が再生される第二層を「非表示」の表示モードに設定し、映像ストリーム(8K[j])が再生される第三層を「非表示」の表示モードに設定する。
受信ストリーム決定部32は、画面表示制御部31からズーム倍率x及び視聴領域rを入力し、ズーム倍率xに基づいて、受信する映像ストリーム(受信ストリーム)の種類を決定する。また、受信ストリーム決定部32は、視聴領域rに基づいて、受信ストリームのインデックスを決定する。そして、受信ストリーム決定部32は、受信ストリームの種類及びインデックスを含む受信ストリーム情報を生成し、受信ストリーム情報を受信ストリーム要求部33に出力する。
例えば、図2、図7及び図8の例において、ズーム倍率x=4及び視聴領域r(図2に示した再生装置4の位置の視聴領域r)の場合を想定する。受信ストリーム決定部32は、ズーム倍率x=4に基づいて、受信ストリームの種類として、映像ストリーム(4K[i])及び映像ストリーム(8K[j])を決定する。
また、受信ストリーム決定部32は、視聴領域rの中心位置と、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置との間の距離が最小となる領域を特定し、当該領域のインデックスi=7を決定する。具体的には、受信ストリーム決定部32は、第一層の映像ストリーム(2K[1])が表示される第一層の左上端の座標を基準座標(0,0)として、視聴領域rの中心位置の座標を求めると共に、各領域の中心位置の座標を求め、これらの中心位置間の距離を求める。
同様に、受信ストリーム決定部32は、視聴領域rの中心位置と、49領域のインデックスj=1,・・・,49の映像ストリーム(8K[j])における領域の中心位置との間の距離が最小となる領域を特定し、当該領域のインデックスj=10を選択する。
例えば、メモリ41には、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置のデータ、及び、49領域のインデックスj=1,・・・,49の映像ストリーム(8K[j])における領域の中心位置が格納されている。受信ストリーム決定部32は、メモリ41から、これらの領域の中心位置を読み出す。
そして、受信ストリーム決定部32は、決定した受信ストリームの種類及びインデックス(映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10]))を含む受信ストリーム情報を生成する。そして、受信ストリーム決定部32は、受信ストリーム情報を受信ストリーム要求部33に出力する。
受信ストリーム要求部33は、受信ストリーム決定部32から、受信ストリームの種類及びインデックスを含む受信ストリーム情報を入力する。そして、受信ストリーム要求部33は、受信ストリームの種類及びインデックスが示す映像ストリームを受信するための要求を生成し、当該要求を、通信インターフェース部40を介して配信サーバ3へ送信する。
前述の例では、受信ストリーム要求部33は、映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10])を受信するための要求を生成し、当該要求を、通信インターフェース部40を介して配信サーバ3へ送信する。
ストリーム受信部34は、配信サーバ3から通信インターフェース部40を介して、受信ストリーム要求部33から送信された要求に対応する映像ストリームを受信する。また、ストリーム受信部34は、配信サーバ3から常に送信されている映像ストリームを受信する。そして、ストリーム受信部34は、受信した1または複数の映像ストリームを再生バッファ管理部35に出力する。
前述の例では、ストリーム受信部34は、映像ストリーム(2K[1])に加え、要求に応じた映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10])を受信し、これらの映像ストリームを再生バッファ管理部35に出力する。
再生バッファ管理部35は、ストリーム受信部34から1または複数の映像ストリームを入力し、1または複数の映像ストリームをバッファリングする。また、再生バッファ管理部35は、映像再生処理部37により再生されている映像ストリームのインデックスを、映像再生処理部37から入力し(図示せず)、これを管理する。再生バッファ管理部35は、所定量の映像ストリームをバッファリングした際に、映像ストリームを映像復号処理部36に出力する。
前述の例では、再生バッファ管理部35は、映像ストリーム(2K[1])、映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10])をバッファリングし、これらを映像復号処理部36に出力する。
映像復号処理部36は、再生バッファ管理部35から1または複数の映像ストリームを入力し、映像ストリームのセグメント番号に従って、映像ストリームのセグメントを順次復号し、1または複数の映像ストリームに対応した復号データを生成する。そして、映像復号処理部36は、1または複数の復号データを映像再生処理部37に出力する。
前述の例では、映像復号処理部36は、再生バッファ管理部35から映像ストリーム(2K[1])、映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10])を入力する。そして、映像復号処理部36は、映像ストリーム(2K[1])、映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=10])のセグメントをそれぞれ復号し、映像ストリーム(2K[1])の復号データ、映像ストリーム(4K[i=7])の復号データ及び映像ストリーム(8K[j=10])の復号データを生成し、これらの復号データを映像再生処理部37に出力する。
映像再生処理部37は、画面表示制御部31からズーム倍率x及び視聴領域rを入力すると共に、映像復号処理部36から1または複数の復号データを入力する。そして、映像再生処理部37は、ズーム倍率xに基づいて、1または複数の復号データのそれぞれについての表示倍率を設定する。また、映像再生処理部37は、視聴領域rに基づいて(または復号データに含まれるインデックス)に基づいて、1または複数の復号データのそれぞれについての再生位置を設定する。
映像再生処理部37は、1または複数の復号データのそれぞれに対応する画面表示部39の層に、1または複数の復号データを、設定した表示倍率及び再生位置にて重ね合わせて再生する。
前述の例では、映像再生処理部37は、第一層に映像ストリーム(2K[1])の復号データを表示倍率4倍にて、第二層に映像ストリーム(4K[i=7])の復号データを表示倍率2倍及びインデックスi=7の位置にて、第三層に映像ストリーム(8K[j=10])の復号データを表示倍率1倍及びインデックスj=10の位置にて重ね合わせて再生する。
同期再生管理部38は、映像再生処理部37により1または複数の復号データが再生される際の再生タイミングがずれた場合、再生タイミングの補正を行う。
前述の例において、映像ストリーム(2K[1])の復号データ、映像ストリーム(4K[i=7])の復号データ及び映像ストリーム(8K[j=10])の復号データが再生されているときに、映像ストリーム(4K[i=7])の復号データ及び映像ストリーム(8K[j=10])の復号データのいずれかの映像フレームが、映像ストリーム(2K[1])の復号データに対して1フレームずれた場合を想定する。この場合、同期再生管理部38は、映像再生処理部37における全ての映像データの再生速度について、それぞれを一時的に増減させ、再生タイミングを補正する。そして、同期再生管理部38は、再生タイミングの補正が終了したときに、再生速度を元の1倍に戻す。このような同期再生により、複数の映像ストリームの境目が視認されてしまうことによる体感品質の低下を抑制することができる。
画面表示部39は、例えばWEBブラウザが動作することにより機能する。画面表示部39は、画面表示制御部31から視聴領域r及び層毎の表示/非表示情報を入力すると共に、映像再生処理部37から所定の表示倍率及び再生位置にて再生された1または複数の復号データを入力する。
画面表示部39は、視聴領域r及び層毎の表示/非表示情報に基づき、表示が設定された層については、映像再生処理部37から入力した、対応する層の視聴領域rにおける復号データを画面表示する。また、画面表示部39は、非表示が設定された層については、映像再生処理部37から入力した、対応する層の復号データを画面表示しない。つまり、画面表示部39は、表示が設定された層について、当該層の復号データのうち、視聴領域rの復号データを画面表示する。
画面表示部39は、表示が設定された層の1または複数の復号データについて、これらの復号データを所定の優先順位にて、当該優先順位の高い層の復号データが表示されるように、重ね合わせて画面表示する。複数の復号データが表示されるそれぞれの層の優先順位は、予め設定されているものとする。
具体的には、前述の例において、画面表示部39は、第三層、第二層及び第一層についての予め設定された優先順位(第三層の優先順位が最も高く、第二層の優先順位はその次に高く、第一層の優先順位は最も低い)に従い、優先順位の高い層の映像ストリームが表示されるように、映像ストリーム(8[j])、映像ストリーム(4K[i])及び映像ストリーム(2K[1])を重ね合わせて表示する。解像度の高い映像データの層であればあるほどは、高い優先順位が設定され、解像度の低い映像データの層であればあるほど、低い優先順位が設定される。
前述の例では、図2に示したとおり、再生装置4の視聴領域rには、高解像度の映像ストリーム(8K[j=10])が表示倍率1倍にて画面表示され、当該映像ストリーム(8K[j=10])が画面表示された領域以外の箇所(視聴領域rの上側及び右側)に、中解像度の映像ストリーム(4K[i=7])が表示倍率2倍にて画面表示される。この場合、表示倍率4倍の低解像度の映像ストリーム(2K[1])は、画面移行時に短時間だけ画面表示されることはあり得るが、その後は画面表示されない。
通信インターフェース部40は、受信ストリーム要求部33から要求を入力し、当該要求を配信サーバ3へ送信する。また、通信インターフェース部40は、配信サーバ3から映像ストリームを受信し、映像ストリームをストリーム受信部34に出力する。
メモリ41には、再生装置4に備えた視聴操作受付部30~通信インターフェース部40の各構成部がそれぞれの処理を行うために必要なデータが格納されている。例えば、メモリ41には、再生される複数の復号データのそれぞれに対応する層に関するデータ、及び、映像ストリーム毎のインデックスの番号、インデックスの領域の中心位置等が格納されている。
(ズーム倍率xを変更したときの動作)
次に、ズーム倍率xを変更したときの再生装置4の動作について説明する。図10は、ズーム倍率x=1をx=2に変更したときの動作を説明する図であり、図11は、図10のステップS1002,S1006,S1009において、再生装置4に画面表示される映像データの解像度及び表示倍率を説明する図である。
再生装置4は、配信サーバ3から映像ストリーム(2K[1])を受信し(ステップS1001)、映像ストリーム(2K[1])を引き伸ばすことなく画面表示しているものとする。つまり、再生装置4は、高解像度の映像ストリーム(2K[1])を画面表示している(ステップS1002)。
図11に示すように、図10のステップS1002において、映像再生処理部37により、映像ストリーム(2K[1])の復号データが表示倍率1倍にて再生される。そして、画面表示部39により、映像ストリーム(2K[1])の復号データが高解像度の映像として画面表示される。
図10に戻って、再生装置4は、ユーザによるズーム操作に従い(ステップS1003)、ズーム倍率x=1がx=2に変更されると、映像ストリーム(4K[i=1])を受信するための要求を配信サーバ3へ送信する(ステップS1004)。これにより、映像ストリーム(4K[i=1])が配信サーバ3から再生装置4へ送信される。
再生装置4は、映像ストリーム(4K[i=1])を受信するまでの間、映像ストリーム(2K[1])をズーム倍率xに応じた表示倍率に引き伸ばして画面表示する(ステップS1005)。具体的には、再生装置4は、映像ストリーム(2K[1])を表示倍率2倍に引き伸ばし、低解像度の映像ストリーム(2K[1])を画面表示する(ステップS1006)。
図11に示すように、図10のステップS1006において、映像再生処理部37により、映像ストリーム(2K[1])の復号データが表示倍率2倍にて再生される。そして、画面表示部39により、映像ストリーム(2K[1])の復号データが低解像度の映像として画面表示される。
図10に戻って、再生装置4は、要求に対応する映像ストリーム(4K[i=1])を受信する(ステップS1007)。そうすると、再生装置4は、映像ストリーム(2K[1])を映像ストリーム(4K[i=1])に切り替え、表示倍率1倍にて画面表示する(ステップS1008)。具体的には、再生装置4は、映像ストリーム(4K[i=1])を引き伸ばすことなく、高解像度の映像ストリーム(4K[i=1])を画面表示する(ステップS1009)。
図11に示すように、図10のステップS1009において、映像再生処理部37により、映像ストリーム(4K[i=1])の復号データが表示倍率1倍にて再生される。そして、画面表示部39により、映像ストリーム(4K[i=1])の復号データが高解像度の映像として画面表示される。
このように、ユーザの操作に従い、ズーム倍率x=1をx=2に変更した場合、高解像度の映像ストリーム(4K[i=1])を受信して表示するまでの間、映像ストリーム(2K[1])を引き伸ばして低解像度にて画面表示する。これにより、体感上のレスポンスを向上させることができると共に、効率的な配信を実現することができる。また、映像ストリーム(2K[1])から映像ストリーム(4K[i=1])に切り替えているときは、一時的に解像度が低下するが、ユーザの操作に合わせた画面表示が可能となる。
図12は、ズーム倍率x変更時の受信ストリーム及び再生映像を説明する図であり、図13は、図12の(2)及び(3)において、再生装置4に画面表示される映像データの解像度及び表示倍率を説明する図である。
まず、ズーム倍率x変更時の映像ストリーム(2K[1])、映像ストリーム(4K[i])及び映像ストリーム(8K[j])について説明する前に、ズーム倍率x、解像度等について説明する。
ズーム倍率がx倍であるとは、最低解像度(第一解像度)の映像ストリームを受信する場合は、当該映像ストリームを表示倍率x倍で再生装置4に再生したときの状態であると定義する。また、ズーム倍率がx倍であるとは、最低解像度(第一解像度)のy2倍の解像度(第N解像度)の映像ストリームを受信する場合は、当該映像ストリームを表示倍率x/y倍で再生装置4に再生したときの状態であると定義する。
ただし、解像度がy2倍であるとは、映像データの横幅または縦幅のピクセル数がy倍であること、すなわち表示される映像の画素数がy2倍であることをいう。また、表示倍率がx倍であるとは、受信した各映像ストリームを、画面上における横幅または縦幅の長さがx倍となるように変換して再生したときの状態、すなわち表示される映像の面積がx2倍になるように変換して再生したときの状態をいう。
単一の解像度の映像ストリームを受信して再生する場合もあれば、複数の解像度の映像ストリームを受信して重ね合わせて再生する場合もある。複数の解像度の映像ストリームを受信して重ね合わせて再生する場合には、重なりの下の階層から、第一層、第二層、第三層、・・・と定義し、それぞれの層で異なる表示倍率で映像ストリームを再生する。
ここで、基準とする1倍ズームとは、取得できる最低解像度(第一解像度)の映像ストリームを表示倍率1倍で再生装置4に再生したときの状態と定義するが、再生装置4の画面解像度のアスペクト比、映像素材のアスペクト比等に応じて適宜変更しても構わない。
ズーム倍率xであるとき、最低解像度(第一解像度)に対してy2倍の第N解像度の映像ストリームを受信するか否かは、例えば次の条件(a)(b)及び(c)にて決定される。
(a)x/y<1の場合、第一解像度に対してy2倍の第N解像度の映像ストリームを受信しない。
(b)x/y≧1の場合、第一解像度に対してy2倍の第N解像度の映像ストリームを受信する。
(c)第一解像度の映像ストリームは常に受信する。
再生装置4は、第N解像度の映像ストリームを受信する場合、第一層には第一解像度の映像ストリームを表示倍率x倍にて再生し、第N層には第N解像度の映像ストリームを表示倍率x/y倍にて再生する。
前述のとおり、視聴領域rは、再生装置4が再生している映像ストリームのうち、画面表示されている映像の領域である。再生している映像ストリームの領域のうち視聴領域r以外の領域は、再生装置4に表示されず、視聴者には見えない。視聴操作によって視聴領域rを変更した場合は、再生している映像ストリームのうち視聴領域rと視聴領域r以外の領域が移動する。
以下、映像素材の解像度は、アスペクト比16:9の8K解像度であるとし、再生装置4の画面解像度は、アスペクト比16:9の2K解像度であるとする。映像符号化装置2により生成され配信サーバ3に格納される映像ストリームは、1つの映像ストリーム(2K[1])、25領域の映像ストリーム(4K[i]:i∈{1,・・・,25})、及び49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})であるとする。
これらの映像ストリームを前述の条件(1)(2)及び(3)に適用すると、第一解像度の映像ストリームは映像ストリーム(2K[1])である。また、第二解像度の映像ストリームは、第一解像度に対して22倍の解像度である映像ストリーム(4K[i])である。さらに、第三解像度の映像ストリームは、第一解像度に対して42倍の解像度である映像ストリーム(8K[j])である。
したがって、受信ストリーム決定部32は、次の条件(d)(e)及び(f)のとおり、ズーム倍率xに基づいて、受信ストリームの種類を決定する。
(d)0<x<2の場合、映像ストリーム(2K[1])を受信する。
(e)2≦x<4の場合、映像ストリーム(2K[1])及び映像ストリーム(4K[i])を受信する。
(f)4≦xの場合、映像ストリーム(2K[1])、映像ストリーム(4K[i])及び映像ストリーム(8K[j])を受信する。
(ズーム倍率x=1の場合)
図12(1)を参照して、ズーム倍率x=1の場合、再生装置4のストリーム受信部34は、映像ストリーム(2K[1])を受信し、映像再生処理部37は、第一層に映像ストリーム(2K[1])を表示倍率1倍にて再生する。
この場合、受信ストリーム要求部33は、映像ストリーム(4K[i])及び映像ストリーム(8K[j])を受信するための要求を送信しない。このため、ストリーム受信部34は、映像ストリーム(4K[i])及び映像ストリーム(8K[j])を受信しない。また、画面表示制御部31は、第一層の表示モードを「表示」に設定し、第二層及び第三層の表示モードを「非表示」に設定する。
このように、ズーム倍率x=1の場合、図12(1)のとおり、再生装置4の視聴領域rには、映像ストリーム(2K[1])が表示倍率1倍にて画面表示される。
(ズーム倍率x=2の場合)
図12(2)を参照して、ズーム倍率x=2の場合、再生装置4のストリーム受信部34は、映像ストリーム(2K[1])、及び視聴領域rに応じた映像ストリーム(4K[i=7])を受信する。映像再生処理部37は、第一層に映像ストリーム(2K[1])を表示倍率2倍にて再生し、第二層に映像ストリーム(4K[i=7])を表示倍率1倍にて再生する。画面表示部39は、第一層の映像ストリーム(2K[1])及び第二層の映像ストリーム(4K[i=7])を重ね合わせて表示する。
図13に示すように、(2)ズーム倍率x=2の場合、映像ストリーム(4K[i=7])の復号データは、表示倍率1倍にて再生され、画面表示される。また、映像ストリーム(2K[1])の復号データは、表示倍率2倍にて再生され、映像ストリーム(4K[i=7])以外の領域(再生装置4の視聴領域rにおいて上端及び右端の領域)に、画面表示される。
この場合、受信ストリーム要求部33は、映像ストリーム(8K[j])を受信するための要求を送信しない。このため、ストリーム受信部34は、映像ストリーム(8K[j])を受信しない。また、画面表示制御部31は、第一層及び第二層の表示モードを「表示」に設定し、第三層の表示モードを「非表示」に設定する。
ここで、受信ストリーム決定部32は、ストリーム受信部34が視聴領域rに応じた映像ストリーム(4K[i=7])を受信する際に、視聴領域rの中心位置と、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置との間の距離が最小となる領域を特定し、当該領域のインデックスi=7を決定し、映像ストリーム(4K[i=7])を決定する。
画面表示部39は、第二層の映像ストリーム(4K[i=7])の領域と視聴領域rとが一致しない場合、第二層の映像ストリーム(4K[i=7])で占有されない領域、すなわち視聴領域rのうち第二層の映像ストリーム(4K[i=7])以外の領域(図12(2)に示す再生装置4の視聴領域rにおいて、上端及び右端の領域)に、映像ストリーム(2K[1])を画面表示する。
このように、ズーム倍率x=2の場合、図12(2)のとおり、再生装置4の視聴領域rには、映像ストリーム(4K[i=7])が表示倍率1倍にて画面表示され、映像ストリーム(2K[1])が表示倍率2倍にて画面表示される。
尚、画面表示部39は、第二層の映像ストリーム(4K[i=7])の領域と視聴領域rとが一致する場合、第二層の映像ストリーム(4K[i=7])のみを画面表示する。第一層の映像ストリーム(2K[1])は、第二層の映像ストリーム(4K[i=7])に重なるため、画面表示されない。
ただし、第二層の映像ストリーム(4K[i=7])と視聴領域rとが一致する場合であっても、映像再生処理部37は、第一層の映像ストリーム(2K[1])を再生する。これにより、視聴領域rが変更され、第二層の映像ストリーム(4K[i=7])の領域と視聴領域rとが一致しない場合に、新たな映像ストリーム(4K[i])の受信を待つことなく、瞬時に第一層の映像ストリーム(2K[1])を表示することができる。
図13に示すように、図12(2)において、映像再生処理部37により、映像ストリーム(2K[1])の復号データが表示倍率2倍にて再生される。そして画面表示部39により、映像ストリーム(2K[1])の復号データが低解像度の映像として画面表示される。
(ズーム倍率x=4の場合)
図12(3)を参照して、ズーム倍率x=4の場合、再生装置4のストリーム受信部34は、映像ストリーム(2K[1])、並びに視聴領域rに応じた映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=17])を受信する。映像再生処理部37は、第一層に映像ストリーム(2K[1])を表示倍率4倍にて再生し、第二層に映像ストリーム(4K[i=7])を表示倍率2倍にて再生し、第三層に映像ストリーム(8K[j=17])を表示倍率1倍にて再生する。画面表示部39は、第一層の映像ストリーム(2K[1])、第二層の映像ストリーム(4K[i=7])及び第三層の映像ストリーム(8K[j=17])を重ね合わせて表示する。
この場合、画面表示制御部31は、第一層、第二層及び第三層の表示モードを「表示」に設定する。
図13に示すように、(3)ズーム倍率x=4の場合、映像ストリーム(8K[j=17])の復号データは、表示倍率1倍にて再生され、画面表示される。また、映像ストリーム(4K[i=7])の復号データは、表示倍率2倍にて再生され、映像ストリーム(8K[j=17])以外の領域(再生装置4の視聴領域rにおいて上端及び右端の領域)に、画面表示される。
ここで、受信ストリーム決定部32は、ストリーム受信部34が視聴領域rに応じた映像ストリーム(4K[i=7])を受信する際に、視聴領域rの中心位置と、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置との間の距離が最小となる領域を特定し、当該領域のインデックスi=7を決定し、映像ストリーム(4K[i=7])を決定する。
また、受信ストリーム決定部32は、ストリーム受信部34が視聴領域rに応じた映像ストリーム(8K[j=17])を受信する際に、視聴領域rの中心位置と、49領域のインデックスj=1,・・・,49の映像ストリーム(8K[j])における領域の中心位置との間の距離が最小となる領域を特定し、当該領域のインデックスj=17を決定し、映像ストリーム(8K[j=17])を決定する。
画面表示部39は、第三層の映像ストリーム(8K[j=17])の領域と視聴領域rとが一致しない場合、第三層の映像ストリーム(8K[j=17])で占有されない領域、すなわち視聴領域rのうち第三層の映像ストリーム(8K[j=17])以外の領域(図12(3)に示す再生装置4の視聴領域rにおいて上端及び右端の領域)に、映像ストリーム(4K[i=7])を画面表示する。
このように、ズーム倍率x=4の場合、図12(3)のとおり、再生装置4の視聴領域rには、映像ストリーム(8K[j=17])が表示倍率1倍にて画面表示され、映像ストリーム(4K[i=7])が表示倍率2倍にて画面表示される。
尚、画面表示部39は、第三層の映像ストリーム(8K[j=17])の領域と視聴領域rとが一致する場合、第三層の映像ストリーム(8K[j=17])のみを画面表示する。第二層の映像ストリーム(4K[i=7])は、第三層の映像ストリーム(8K[j=17])に重なるため、画面表示されない。
ただし、画面表示部39が第二層の映像ストリーム(4K[i=7])を画面表示しない場合であっても、映像再生処理部37は、第二層の映像ストリーム(4K[i=7])を再生する。
これにより、視聴領域rが変更され、第三層の映像ストリーム(8K[j])の領域と視聴領域rとが一致しない場合に、新たな映像ストリーム(8K[j])の受信を待つことなく、瞬時に第二層の映像ストリーム(4K[i=7])を表示することができる。また、第二層の映像ストリーム(4K[i=7])の領域を超える視聴領域rの変更がされた場合には、新たな映像ストリーム(8K[j])及び映像ストリーム(4K[i])の受信を待つことなく、瞬時に第一層の映像ストリーム(2K[1])を表示することができる。
(ズーム倍率x=23/2の場合)
図12(1)~(3)では、ズーム倍率x=1,2,4の場合について説明したが、本発明は、整数倍のズーム倍率xに限定されることなく、整数倍以外のズーム倍率xにも適用がある。一例として、ズーム倍率x=23/2の場合について説明する。
図12(4)を参照して、ズーム倍率x=23/2の場合、再生装置4のストリーム受信部34は、映像ストリーム(2K[1])、及び視聴領域rに応じた映像ストリーム(4K[i=7])を受信する。映像再生処理部37は、第一層に映像ストリーム(2K[1])を表示倍率23/2倍にて再生し、第二層に映像ストリーム(4K[i=7])を表示倍率21/2倍にて再生する。
この場合、受信ストリーム要求部33は、映像ストリーム(8K[j])を受信するための要求を送信しない。このため、ストリーム受信部34は、映像ストリーム(8K[j])を受信しない。また、画面表示制御部31は、第一層及び第二層の表示モードを「表示」に設定し、第三層の表示モードを「非表示」に設定する。
ここで、受信ストリーム決定部32は、ストリーム受信部34が視聴領域rに応じた映像ストリーム(4K[i=7])を受信する際に、視聴領域rの中心位置と、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置との間の距離が最小となる領域を特定し、当該領域のインデックスi=7を決定し、映像ストリーム(4K[i=7])を決定する。
画面表示部39は、図12(4)のように、第二層の映像ストリーム(4K[i=7])の領域が視聴領域rに含まれる場合、すなわち視聴領域rが第二層の映像ストリーム(4K[i=7])の領域に占有された場合、第二層の映像ストリーム(4K[i=7])を画面表示する。第一層の映像ストリーム(2K[1])は、第二層の映像ストリーム(4K[i=7])に重なるため、画面表示されない。
ただし、この場合であっても、映像再生処理部37は、第一層の映像ストリーム(2K[1])を再生する。これにより、視聴領域rが変更され、視聴領域rが第二層の映像ストリーム(4K[i])の領域に占有されなくなった場合に、新たな映像ストリーム(4K[i])の受信を待つことなく、瞬時に第一層の映像ストリーム(2K[1])を画面表示することができる。
このように、ズーム倍率x=23/2の場合、図12(4)のとおり、再生装置4の視聴領域rには、映像ストリーム(4K[i=7])が表示倍率21/2倍にて画面表示され、映像ストリーム(2K[1])が表示倍率23/2倍にて画面表示される。
(視聴領域rを変更したときの動作)
次に、視聴領域rを変更したときの再生装置4の動作について説明する。図14は、視聴領域rを変更したときの動作を説明する図であり、図15は、図14のステップS1402,S1406,S1409において、再生装置4に画面表示される映像データの解像度及び表示倍率を説明する図である。
再生装置4は、配信サーバ3から映像ストリーム(2K[1])、映像ストリーム(4K[i=1])及び映像ストリーム(8K[j=1])を受信し(ステップS1401)、映像ストリーム(8K[j=1])を引き伸ばすことなく表示倍率1倍で画面表示しているものとする。つまり、再生装置4は、高解像度の映像ストリーム(8K[j=1])を画面表示している(ステップS1402)。
図15に示すように、図14のステップS1402において、映像ストリーム(8K[j=1])の復号データが表示倍率1倍にて再生されるから、高解像度の映像が画面表示される。
具体的には、映像再生処理部37により、映像ストリーム(2K[1])の復号データが表示倍率4倍にて再生され、映像ストリーム(4K[i=1])の復号データが表示倍率2倍にて再生され、映像ストリーム(8K[j=1])の復号データが表示倍率1倍にて再生される。そして、画面表示部39により、映像ストリーム(8K[j=1])の復号データが高解像度の映像として画面表示される。
図14に戻って、再生装置4は、ユーザによるスワイプ操作に従い(ステップS1403)、視聴領域rが変更されると、変更後の視聴領域rに対応する映像ストリーム(8K[j=25])を受信するための要求を配信サーバ3へ送信する(ステップS1404)。これにより、映像ストリーム(8K[j=25])が配信サーバ3から再生装置4へ送信される。
再生装置4は、映像ストリーム(8K[j=25])を受信するまでの間、映像ストリーム(2K[1])及び映像ストリーム(4K[i=1])を引き伸ばして画面表示する(ステップS1405)。具体的には、再生装置4は、映像ストリーム(2K[1])を表示倍率4倍に引き伸ばし、低解像度の映像ストリーム(2K[1])を画面表示すると共に、映像ストリーム(4K[i=1])を表示倍率2倍に引き伸ばし、低解像度の映像ストリーム(4K[i=1])を画面表示する(ステップS1406)。
図15に示すように、図14のステップS1406において、映像再生処理部37により、映像ストリーム(2K[1])の復号データが表示倍率4倍にて第一層に再生される。そして、画面表示部39により、視聴領域r内の所定領域に、映像ストリーム(2K[1])の復号データが低解像度の2K映像として画面表示される。
また、映像再生処理部37により、映像ストリーム(4K[i=1])の復号データが表示倍率2倍にて第二層に再生される。そして、画面表示部39により、視聴領域r内の左上の一部の領域に、映像ストリーム(4K[i=1])の復号データが低解像度の4K映像として画面表示される。この場合、視聴領域r内の左上の一部の領域には、第二層の映像ストリーム(4K[i=1])が第一層の映像ストリーム(2K[1])よりも優先して画面表示される。
尚、図15の例は、高解像度の2K映像に代えて、低解像度の4K映像及び2K映像が画面表示されるが、スワイプ操作に伴う視聴領域rによっては、高解像度の2K映像に代えて、低解像度の2K映像が画面表示される。
図14に戻って、再生装置4は、要求に対応する映像ストリーム(8K[j=25])を受信する(ステップS1407)。そうすると、再生装置4は、映像ストリーム(2K[1])及び映像ストリーム(4K[i=1])を映像ストリーム(8K[j=25])に切り替え、表示倍率1倍にて画面表示する(ステップS1408)。具体的には、再生装置4は、映像ストリーム(8K[j=25])を引き伸ばすことなく、高解像度の映像ストリーム(8K[j=25])を画面表示する(ステップS1409)。
図15に示すように、図14のステップS1409において、映像再生処理部37により、映像ストリーム(8K[j=25])の復号データが表示倍率1倍にて再生される。そして、画面表示部39により、映像ストリーム(8K[j=25])の復号データが高解像度の映像として画面表示される。
図14に戻って、再生装置4は、変更後の視聴領域rに対応する映像ストリーム(4K[i=12])を受信するための要求を配信サーバ3へ送信する(ステップS1410)。そして、再生装置4は、要求に対応する映像ストリーム(4K[i=12])を受信する(ステップS1411)。
そうすると、再生装置4は、第二層につき、映像ストリーム(4K[i=1])を映像ストリーム(4K[i=12])に切り替える(ステップS1412)。この場合、視聴領域rの全領域には、第三層の映像ストリーム(8K[j=25])が画面表示されているため、第二層の映像ストリーム(4K[i=12])は画面表示されない。
このように、ユーザの操作に従い、視聴領域rが、画面表示中の第三層の映像ストリーム(8K[j=1])の分割位置の領域から他の分割位置の領域へ変更された場合、第一層の映像ストリーム(2K[1])及び第二層の映像ストリーム(4K[i=1])を引き伸ばして画面表示する。これにより、映像ストリームの分割位置に関係なく、任意の位置で視聴が可能となる。
また、体感上のレスポンスを向上させることができると共に、効率的な配信を実現することができる。さらに、視聴領域rの変更に伴い、映像ストリーム(8K[j=1])から映像ストリーム(8K[j=25])に切り替えているときは、一時的に解像度が低下するが、ユーザの操作に合わせた画面表示が可能となる。
図16は、視聴領域r変更時の受信ストリーム及び再生映像(ズーム倍率x=4)を説明する図である。これは、図12(3)に示したズーム倍率x=4において、第一層の映像ストリーム(2K[1])が表示倍率4倍にて、第二層の映像ストリーム(4K[i])が表示倍率2倍にて、及び第三層の映像ストリーム(8K[j])が表示倍率1倍にて重ね合わせて表示される場合に対応している。図16(1)は視聴領域r1の場合を示し、図16(2)は視聴領域r2の場合を示し、図16(3)は視聴領域r3の場合を示している。
(視聴領域r1の場合)
図16(1)を参照して、視聴領域r1の場合、視聴領域r1の中心位置(バツ印)と映像ストリーム(4K[i])の中心位置(四角印)との間の距離が最小となるインデックスiは7である。また、視聴領域r1の中心位置(バツ印)と映像ストリーム(8K[j])の中心位置(丸印)との間の距離が最小となるインデックスjは17である。
再生装置4の受信ストリーム要求部33は、視聴領域r1に応じた映像ストリーム(4K[i=7])及び映像ストリーム(8K[j=17])を受信するための要求を配信サーバ3へ送信する。ストリーム受信部34は、これらの映像ストリームを受信する。映像再生処理部37は、第一層に映像ストリーム(2K[1])を表示倍率4倍にて再生し、第二層に映像ストリーム(4K[i=7])を表示倍率2倍にて再生し、第三層に映像ストリーム(8K[j=17])を表示倍率1倍にて再生する。
これにより、視聴領域r1には、第三層の映像ストリーム(8K[j=17])及び第二層の映像ストリーム(4K[i=7])が画面表示される。
(視聴領域r2の場合)
図16(2)を参照して、ユーザの操作により、図16(1)の視聴領域r1から右へ移動して視聴領域r2に変更されたものとする。この場合、視聴領域r2の中心位置(バツ印)と映像ストリーム(4K[i])の中心位置(四角印)との間の距離が最小となるインデックスiは、7から8へと変更される。また、視聴領域r2の中心位置(バツ印)と映像ストリーム(8K[j])の中心位置(丸印)との間の距離が最小となるインデックスjは、17から18へと変更される。
受信ストリーム要求部33は、視聴領域r2に応じた映像ストリーム(4K[i=8])及び映像ストリーム(8K[j=18])を受信するための要求を配信サーバ3へ送信する。ストリーム受信部34は、これらの映像ストリームを受信する。映像再生処理部37は、第一層に映像ストリーム(2K[1])を表示倍率4倍にて再生し、第二層に映像ストリーム(4K[i=8])を表示倍率2倍にて再生し、第三層に映像ストリーム(8K[j=18])を表示倍率1倍にて再生する。
これにより、視聴領域r2には、第三層の映像ストリーム(8K[j=18])及び第二層の映像ストリーム(4K[i=8])が画面表示される。
つまり、視聴領域r2の中心位置と映像ストリーム(8K[j])の中心位置との間の距離が最小となるインデックスj=18を選択することで、視聴領域r2のうちの多くの領域に映像ストリーム(8K[j=18])を占有して配置し、当該領域に映像ストリーム(8K[j=18])を表示することができる。
また、視聴領域r2の中心位置と映像ストリーム(4K[i])の中心位置との間の距離が最小となるインデックスi=8を選択することで、映像ストリーム(8K[j=18])を内包するように、視聴領域r2の残りの領域に映像ストリーム(4K[i=8])を配置し、当該残りの領域に映像ストリーム(4K[i=8])を表示することができる。
この場合の視聴領域r2において、隣接する領域の解像度の差異は、8Kと4Kの差である。視聴領域r2には、第三層の映像ストリーム(8K[j=18])及び第一層の映像ストリーム(2K[1])が隣接して画面表示されることはない。したがって、視聴領域r2において、隣接する領域の解像度の差異を小さくすることができ、領域の境目において解像度の差異を認知してしまうことによる体感品質の低下を抑制することができる。
(視聴領域r3の場合)
図16(3)を参照して、ユーザの操作により、図16(1)の視聴領域r1から左上の端へ移動して視聴領域r3に変更されたものとする。この場合、視聴領域r3の中心位置(バツ印)と映像ストリーム(4K[i])の中心位置(四角印)との間の距離が最小となるインデックスiは、7から1へと変更される。また、視聴領域r3の中心位置(バツ印)と映像ストリーム(8K[j])の中心位置(丸印)との間の距離が最小となるインデックスjは、17から1へと変更される。
受信ストリーム要求部33は、視聴領域r3に応じた映像ストリーム(4K[i=1])及び映像ストリーム(8K[j=1])を受信するための要求を配信サーバ3へ送信する。ストリーム受信部34は、これらの映像ストリームを受信する。映像再生処理部37は、第一層に映像ストリーム(2K[1])を表示倍率4倍にて再生し、第二層に映像ストリーム(4K[i=1])を表示倍率2倍にて再生し、第三層に映像ストリーム(8K[j=1])を表示倍率1倍にて再生する。
これにより、視聴領域r3には、第三層の映像ストリーム(8K[j=1])が画面表示される。
ここで、図16(3)の視聴領域r3から視聴領域r3’(図示せず)に変更された場合を想定する。この場合、映像ストリーム(8K[j=1])のインデックスj=1が変更されても、映像ストリーム(4K[i=1])のインデックスi=1が変更されないことがあり得る。
図8(1)及び(2)を参照して、例えば映像ストリーム(4K[i=1])の領域は、映像ストリーム(8K[j=1,2,8,9])の領域のそれぞれを内包するため、映像ストリーム(4K[i=1])は映像ストリーム(8K[j=1,2,8,9])に対応する。このため、視聴領域r3’には、第三層の映像ストリーム(8K[j=1,2,8,9])のいずれかと共に、映像ストリーム(4K[i=1])が画面表示される。
この場合も図16(2)と同様に、視聴領域r3’のうちの多くの領域に映像ストリーム(8K[j=1,2,8,9])のいずれかを占有して配置し、当該領域に映像ストリーム(8K[j=1,2,8,9])のいずれかを表示することができる。
また、映像ストリーム(8K[j=1,2,8,9])のいずれかを内包するように、視聴領域r3’の残りの領域に映像ストリーム(4K[i=1])を配置し、当該残りの領域に映像ストリーム(4K[i=1])を表示することができる。
この場合の視聴領域r3’において、隣接する領域の解像度の差異は8Kと4Kの差である。視聴領域r3’には、第三層の映像ストリーム(8K[j=1,2,8,9])のいずれかと第一層の映像ストリーム(2K[1])とが隣り合って画面表示されることはない。したがって、視聴領域r3’において、隣接する領域の解像度の差異を小さくすることができ、領域の境目において解像度の差異を認知してしまうことによる体感品質の低下を抑制することができる。
(再生装置4の処理)
次に、図9に示した再生装置4の処理について説明する。図17は、再生装置4の処理例を示すフローチャートであり、ズーム倍率xの変更時及び視聴領域rの変更時における映像ストリームの切り替え処理を示す図である。
前述と同様に、映像素材の解像度は、アスペクト比16:9の8K解像度であるとし、再生装置4の画面解像度は、アスペクト比16:9の2K解像度であるとする。映像符号化装置2により生成され配信サーバ3に格納される映像ストリームは、1つの映像ストリーム(2K[1])、25領域の映像ストリーム(4K[i]:i∈{1,・・・,25})、及び49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})であるとする。
図17に示す処理は、映像の再生が終了するまで、視聴操作がある度に繰り返し実行される。配信サーバ3へ要求する映像ストリームが変更されない場合は、映像の再生が終了するまで当該映像ストリームの要求及び再生を継続する。
再生装置4の視聴操作受付部30は、ユーザの操作に従い、ズーム倍率xの変更及び/または視聴領域rの変更を指示する視聴操作を受け付ける(ステップS1701)。
画面表示制御部31は、視聴操作受付部30により受け付けた視聴操作に従い、ズーム倍率xに応じて、ステップS1703,S1706,S1710のいずれかへ移行する(ステップS1702)。
画面表示制御部31は、ステップS1702において、ズーム倍率xが0よりも大きく、かつ2よりも小さいと判定した場合(ステップS1702:0<x<2)、ステップS1703へ移行する。これにより、映像ストリーム(2K[1])の再生処理が行われる。
また、画面表示制御部31は、ステップS1702において、ズーム倍率xが2以上であり、かつ4よりも小さいと判定した場合(ステップS1702:2≦x<4)、ステップS1706へ移行する。これにより、映像ストリーム(2K[1])及び映像ストリーム(4K[i])の再生処理が行われる。
また、画面表示制御部31は、ステップS1702において、ズーム倍率xが4以上であると判定した場合(ステップS1702:4≦x)、ステップS1710へ移行する。これにより、映像ストリーム(2K[1])、映像ストリーム(4K[i])及び映像ストリーム(8K[j])の再生処理が行われる。
このように、ズーム倍率xに応じて、映像ストリーム(4K[i])が再生されるか否か、及び映像ストリーム(8K[j])が再生されるか否かが決定される。
画面表示制御部31は、ステップS1702(0<x<2)から移行して、第一層の表示モードを「表示」に設定し、第二層及び第三層の表示モードを「非表示」に設定する(ステップS1703)。
これにより、画面表示部39において、第一層に再生される映像ストリーム(2K[1])が画面表示され、第二層の映像ストリーム(4K[i])及び第三層の映像ストリーム(8K[j])は画面表示されない。
ストリーム受信部34は、受信している映像ストリーム(2K[1])を、再生バッファ管理部35に出力してバッファリングさせる。ここで、ストリーム受信部34は、ステップS1701におけるユーザによる視聴操作に関わることなく、配信サーバ3から映像ストリーム(2K[1])を受信している。
映像復号処理部36は、再生バッファ管理部35から映像ストリーム(2K[1])を入力し、そのセグメント番号に従って、映像ストリーム(2K[1])の映像セグメントを復号し、復号データを生成する。
映像再生処理部37は、映像ストリーム(2K[1])の復号データを表示倍率x倍にて、画面表示部39の第一層に再生する(ステップS1704)。
視聴操作受付部30は、ステップS1701の視聴操作が終了しているか否か、すなわち連続した視聴操作があるかないかを判定する(ステップS1705)。
視聴操作受付部30は、ステップS1705において、視聴操作が終了していない、すなわち連続した視聴操作があると判定した場合(ステップS1705:N)、ステップS1701へ移行し、視聴操作を受け付ける。
一方、視聴操作受付部30は、ステップS1705において、視聴操作が終了している、すなわち連続した視聴操作がないと判定した場合(ステップS1705:Y)、処理を終了してステップS1701から処理を開始する。
これにより、画面表示部39の視聴領域rには、映像ストリーム(2K[1])が表示倍率x倍にて画面表示される。ユーザは、2K解像度の映像ストリーム(2K[1])を視聴することができる。
画面表示制御部31は、ステップS1702(2≦x<4)から移行して、第一層及び第二層の表示モードを「表示」に設定し、第三層の表示モードを「非表示」に設定する(ステップS1706)。
これにより、画面表示部39において、第二層に再生される映像ストリーム(4K[i])が画面表示されるか、または第二層に再生される映像ストリーム(4K[i])及び第一層に再生される映像ストリーム(2K[1])が画面表示される。場合によっては、映像ストリーム(2K[1])が画面表示される。また、第三層の映像ストリーム(8K[j])は画面表示されない。
ストリーム受信部34は、受信している映像ストリーム(2K[1])を、再生バッファ管理部35に出力してバッファリングさせる。映像復号処理部36は、再生バッファ管理部35から映像ストリーム(2K[1])を入力し、そのセグメント番号に従って、映像ストリーム(2K[1])の映像セグメントを復号し、復号データを生成する。
映像再生処理部37は、映像ストリーム(2K[1])の復号データを表示倍率x倍にて、画面表示部39の第一層に再生する(ステップS1707)。
視聴操作受付部30は、ステップS1701の視聴操作が終了しているか否か、すなわち連続した視聴操作があるかないかを判定する(ステップS1708)。
視聴操作受付部30は、ステップS1708において、視聴操作が終了していない、すなわち連続した視聴操作があると判定した場合(ステップS1708:N)、ステップS1701へ移行し、視聴操作を受け付ける。
一方、視聴操作受付部30は、ステップS1708において、視聴操作が終了している、すなわち連続した視聴操作がないと判定した場合(ステップS1708:Y)、再生装置4は、映像ストリーム(4K[i])の再生処理を行う(ステップS1709)。そして、再生装置4は、処理を終了してステップS1701から処理を開始する。ステップS1709の映像ストリーム(4K[i])再生処理の詳細については後述する。
これにより、画面表示部39の視聴領域rには、映像ストリーム(4K[i])が表示倍率x/2倍にて画面表示されるか、または映像ストリーム(4K[i])が表示倍率x/2倍にて画面表示されると共に、映像ストリーム(2K[1])が表示倍率x倍にて画面表示される。ユーザは、映像ストリーム(4K[i])を視聴するか、または映像ストリーム(4K[i])及び2K解像度の映像ストリーム(2K[1])を視聴することができる。
画面表示制御部31は、ステップS1702(4≦x)から移行して、第一層、第二層及び第三層の表示モードを「表示」に設定する。
これにより、画面表示部39において、第三層に再生される映像ストリーム(8K[j])が画面表示されるか、または第三層に再生される映像ストリーム(8K[j])及び第二層に再生される映像ストリーム(4K[i])が画面表示される。また、場合によっては、映像ストリーム(4K[i])及び映像ストリーム(2K[1])の両方またはいずれか一方が画面表示される。
ストリーム受信部34は、受信している映像ストリーム(2K[1])を、再生バッファ管理部35に出力してバッファリングさせる。映像復号処理部36は、再生バッファ管理部35から映像ストリーム(2K[1])を入力し、そのセグメント番号に従って、映像ストリーム(2K[1])の映像セグメントを復号し、復号データを生成する。
映像再生処理部37は、映像ストリーム(2K[1])の復号データを表示倍率x倍にて、画面表示部39の第一層に再生する(ステップS1710)。
視聴操作受付部30は、ステップS1701の視聴操作が終了しているか否か、すなわち連続した視聴操作があるかないかを判定する(ステップS1711)。
視聴操作受付部30は、ステップS1711において、視聴操作が終了していない、すなわち連続した視聴操作があると判定した場合(ステップS1711:N)、ステップS1701へ移行し、視聴操作を受け付ける。
一方、視聴操作受付部30は、ステップS1711において、視聴操作が終了している、すなわち連続した視聴操作がないと判定した場合(ステップS1711:Y)、再生装置4は、映像ストリーム(4K[i])及び映像ストリーム(8K[j])の再生処理を行う(ステップS1712)。そして、再生装置4は、処理を終了してステップS1701から処理を開始する。ステップS1712の映像ストリーム(4K[i])及び映像ストリーム(8K[j])再生処理の詳細については後述する。
これにより、画面表示部39の視聴領域rには、映像ストリーム(8K[j])が表示倍率x/4にて画面表示されるか、または映像ストリーム(8K[j])が表示倍率x/4にて画面表示されると共に、映像ストリーム(4K[i])が表示倍率x/2倍にて画面表示される。また、場合によっては、映像ストリーム(4K[i])及び映像ストリーム(2K[1])の両方または一方が画面表示される。
例えば、図17に示した処理例において、ユーザによる視聴操作を連続して受け付けた場合、すなわちステップS1705,S1708,S1711にて、視聴操作が終了していないと判定された場合、再生装置4には、視聴領域r及びズーム倍率xに応じて、映像ストリーム(2K[1])が画面表示される場合がある。
(映像ストリーム(4K[i])再生処理/ステップS1709)
図18は、図17に示したステップS1709の映像ストリーム(4K[i])再生処理を示すフローチャートである。
前述のとおり、再生装置4は、ズーム倍率xが2≦x<4の場合に、ステップS1708(Y)から移行して(視聴操作が終了していると判定した場合)、ステップS1709において、映像ストリーム(4K[i])の再生処理を行う。
具体的には、受信ストリーム決定部32は、メモリ41から、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置のデータを読み出す。そして、受信ストリーム決定部32は、視聴領域rの中心位置と、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置との間の距離が最小となるインデックスi_newを決定し、映像ストリーム(4K[i_new])を決定する(ステップS1801)。
受信ストリーム決定部32は、決定したインデックスi_newが、現在再生中の映像ストリーム(4K[i])のインデックスiに等しいか否かを判定する(ステップS1802)。
受信ストリーム決定部32は、ステップS1802において、インデックスi_newがインデックスiに等しいと判定した場合(ステップS1802:Y(i_new=i))、ステップS1805へ移行する。これにより、再生装置4は、ユーザが視聴を希望する領域のインデックスに変化がないことを認識することができる。
一方、受信ストリーム決定部32は、ステップS1802において、インデックスi_newがインデックスiに等しくないと判定した場合(ステップS1802:N(i_new≠i))、要求する映像ストリームを変更するために、映像ストリーム(4K[i_new])を含む受信ストリーム情報を生成する。これにより、再生装置4は、ユーザが視聴を希望する領域のインデックスに変化があったことを認識し、配信サーバ3に対し、配信を要求する映像ストリーム(4K[i])を変更することができる。
受信ストリーム要求部33は、受信ストリーム決定部32により生成された受信ストリーム情報に従い、配信サーバ3へ要求する映像ストリームを、映像ストリーム(4K[i])から映像ストリーム(4K[i_new])に切り替える(ステップS1803)。そして、受信ストリーム要求部33は、映像ストリーム(4K[i_new])を受信するための要求を、通信インターフェース部40を介して配信サーバ3へ送信する。
これにより、映像ストリーム(4K[i_new])が配信サーバ3から再生装置4へ送信され、再生装置4のストリーム受信部34は、映像ストリーム(4K[i_new])を受信することができる。
再生バッファ管理部35は、現在再生している映像ストリーム(4K[i])のインデックスであるiをi_newに更新する(ステップS1804)。
ストリーム受信部34は、受信している映像ストリーム(4K[i_new])を、再生バッファ管理部35に出力してバッファリングさせる。映像復号処理部36は、再生バッファ管理部35から映像ストリーム(4K[i_new])を入力し、そのセグメント番号に従って、映像ストリーム(4K[i_new])の映像セグメントを復号し、復号データを生成する。
映像再生処理部37は、映像ストリーム(4K[i_new])の復号データを表示倍率x/2倍にて、画面表示部39の第二層に再生する(ステップS1805)。
これにより、画面表示部39の視聴領域rには、映像ストリーム(4K[i_new])が表示倍率x/2倍にて画面表示され、ユーザは、映像ストリーム(4K[i_new])を視聴することができる。
(映像ストリーム(4K[i])及び映像ストリーム(8K[j])再生処理/ステップS1712)
図19は、図17に示したステップS1712の映像ストリーム(4K[i])及び映像ストリーム(8K[j])再生処理を示すフローチャートである。
前述のとおり、再生装置4は、ズーム倍率xが4≦xの場合に、ステップS1711(Y)から移行して(視聴操作が終了していると判定した場合)、ステップS1712において、映像ストリーム(4K[i])及び映像ストリーム(8K[j])の再生処理を行う。
具体的には、受信ストリーム決定部32は、メモリ41から、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置のデータを読み出す。そして、受信ストリーム決定部32は、視聴領域rの中心位置と、25領域のインデックスi=1,・・・,25の映像ストリーム(4K[i])における領域の中心位置との間の距離が最小となるインデックスi_newを決定する。
また、受信ストリーム決定部32は、メモリ41から、49領域のインデックスj=1,・・・,49の映像ストリーム(8K[j])における領域の中心位置のデータを読み出す。そして、受信ストリーム決定部32は、視聴領域rの中心位置と、49領域のインデックスj=1,・・・,49の映像ストリーム(8K[j])における領域の中心位置との間の距離が最小となるインデックスj_newを決定する。
受信ストリーム決定部32は、インデックスi_new,j_newの決定に伴い、映像ストリーム(4K[i_new])及び映像ストリーム(8K[j_new])を決定する(ステップS1901)。
受信ストリーム決定部32は、決定したインデックスj_newが、現在再生中の映像ストリーム(8K[j])のインデックスjに等しいか否かを判定する(ステップS1902)。
受信ストリーム決定部32は、ステップS1902において、インデックスj_newがインデックスjに等しいと判定した場合(ステップS1902:Y(j_new=j))、ステップS1905へ移行する。これにより、再生装置4は、映像ストリーム(8K[j])について、ユーザが視聴を希望する領域のインデックスに変化がないことを認識することができる。
一方、受信ストリーム決定部32は、ステップS1902において、インデックスj_newがインデックスjに等しくないと判定した場合(ステップS1902:N(j_new≠j))、要求する映像ストリームを変更するために、映像ストリーム(8K[j_new])を含む受信ストリーム情報を生成する。これにより、再生装置4は、映像ストリーム(8K[j])について、ユーザが視聴を希望する領域のインデックスに変化があったことを認識し、配信サーバ3に対し、配信を要求する映像ストリーム(8K[j])を変更することができる。
受信ストリーム要求部33は、受信ストリーム決定部32により生成された受信ストリーム情報に従い、配信サーバ3へ要求する映像ストリームを、映像ストリーム(8K[j])から映像ストリーム(8K[j_new])に切り替える(ステップS1903)。そして、受信ストリーム要求部33は、映像ストリーム(8K[j_new])を受信するための要求を、通信インターフェース部40を介して配信サーバ3へ送信する。
これにより、映像ストリーム(8K[j_new])が配信サーバ3から再生装置4へ送信され、再生装置4のストリーム受信部34は、映像ストリーム(8K[j_new])を受信することができる。
再生バッファ管理部35は、現在再生している映像ストリーム(8K[j])のインデックスであるjをj_newに更新する(ステップS1904)。
ストリーム受信部34は、受信している映像ストリーム(8K[j_new])を、再生バッファ管理部35に出力してバッファリングさせる。映像復号処理部36は、再生バッファ管理部35から映像ストリーム(8K[j_new])を入力し、そのセグメント番号に従って、映像ストリーム(8K[j_new])の映像セグメントを復号し、復号データを生成する。
映像再生処理部37は、映像ストリーム(8K[j_new])の復号データを表示倍率x/4倍にて、画面表示部39の第三層に再生する(ステップS1905)。
これにより、画面表示部39の視聴領域rには、映像ストリーム(8K[j_new])が表示倍率x/4倍にて画面表示され、ユーザは、映像ストリーム(8K[j_new])を視聴することができる。
ここで、再生装置4は、ステップS1905において、映像ストリーム(8K[j_new])の映像セグメントを再生開始可能な状態になったときに、ステップS1906へ移行する。
前述のステップS1901~S1905における映像ストリーム(8K[j_new])の切り替え処理と、後述するステップS1906~S1909における映像ストリーム(4K[i_new])の切り替え処理とを同時に行うことが可能である。
しかしながら、本発明の実施形態では、第三層の映像ストリーム(8K[j_new])の切り替え処理を、第二層の映像ストリーム(4K[i_new])の切り替え処理よりも優先して行うようにした。
これにより、視聴領域rのうちの最大面積を占有する第三層を高速に切り替えることができ、視聴領域rの変更に伴い、解像度の高い第三層の映像ストリーム(8K[j])を迅速に画面表示することができる。
受信ストリーム決定部32は、ステップS1905から移行して、図18のステップS1802と同様の処理を行う(ステップS1906)。また、受信ストリーム要求部33は、図18のステップS1803と同様の処理を行い(ステップS1907)、再生バッファ管理部35は、図18のステップS1804と同様の処理を行う(ステップS1908)。
ストリーム受信部34は、映像ストリーム(4K[i_new])を受信し、再生バッファ管理部35に出力してバッファリングさせる。映像復号処理部36は、再生バッファ管理部35から映像ストリーム(4K[i_new])を入力し、そのセグメント番号に従って、映像ストリーム(4K[i_new])の映像セグメントを復号し、復号データを生成する。
映像再生処理部37は、図18のステップS1805と同様に、映像ストリーム(4K[i_new])の復号データを表示倍率x/2倍にて、画面表示部39の第二層に再生する(ステップS1909)。
これにより、画面表示部39の視聴領域rには、場合によっては、映像ストリーム(8K[j_new])が表示倍率x/4にて画面表示されると共に、映像ストリーム(4K[i_new])が表示倍率x/2倍にて画面表示される。ユーザは、映像ストリーム(8K[j_new])と共に、映像ストリーム(4K[i_new])を視聴することができる。
以上のように、本発明の実施形態の再生装置4によれば、受信ストリーム決定部32は、ユーザの操作に従い設定されたズーム倍率xに基づいて、受信ストリームの種類及びインデックスi,jを決定する。受信ストリーム要求部33は、受信ストリームの種類及びインデックスi,jが示す映像ストリームを受信するための要求を、配信サーバ3へ送信する。
ストリーム受信部34は、配信サーバ3から、要求に対応する映像ストリームを受信し、再生バッファ管理部35は、1または複数の映像ストリームをバッファリングする。
映像復号処理部36は、再生バッファ管理部35から1または複数の映像ストリームを入力し、映像ストリームのセグメント番号に従って、映像ストリームのセグメントを順次復号し、1または複数の映像ストリームに対応した復号データを生成する。
映像再生処理部37は、ズーム倍率xに基づいて、1または複数の復号データのそれぞれについての表示倍率を設定し、視聴領域rに基づいて、1または複数の復号データのそれぞれについての再生位置を設定する。映像再生処理部37は、1または複数の復号データのそれぞれに対応する画面表示部39の層に、1または複数の復号データを、設定した表示倍率及び再生位置にて再生する。
画面表示部39は、映像再生処理部37により再生された1または複数の復号データを画面表示する。この場合、画面表示部39は、複数の復号データを画面表示する場合、予め設定された優先順位に従い、重ね合わせて表示する。
例えば、映像再生処理部37は、映像ストリーム(8K[j])を表示倍率1倍にて再生し、映像ストリーム(4K[i])を表示倍率2倍にて再生し、映像ストリーム(2K[1])を表示倍率4倍にて再生する。画面表示部39は、映像ストリーム(8K[j])、映像ストリーム(4K[i])及び映像ストリーム(2K[1])の順に優先して、これらの映像ストリームを重ね合わせて表示する
ここで、配信サーバ3から送信される1または複数の映像ストリームは、映像符号化装置2により生成される。映像符号化装置2では、映像を分割した領域毎に、複数の品質の映像データを生成する必要がないため、符号化の処理負荷及び映像データの伝送量を削減することができる。
また、再生装置4を操作するユーザは、解像度を維持した状態で、映像の一部の領域を拡大して視聴することができ、体感品質を維持することができる。つまり、ユーザは、配信された映像を、ズーム、スワイプ等の操作により自由に注視点を切り替えながら、高品質及び高レスポンスで視聴することができる。
以上、実施形態を挙げて本発明を説明したが、本発明は前記実施形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。
(解像度変換処理部10及び切り出し処理部11の入れ替え)
例えば前記実施形態において、映像符号化装置2は、解像度変換処理部10による解像度変換処理の後に、切り出し処理部11による切り出し処理を行うようにした。これに対し、映像符号化装置2は、切り出し処理部11による切り出し処理の後に、解像度変換処理部10による解像度変換処理を行うようにしてもよい。
具体的には、前記実施形態では、解像度変換処理部10は、8K解像度の映像素材をダウンスケーリングし、2K解像度の映像データ(2K[1])及び4K解像度の映像データを生成する。そして、切り出し処理部11は、4K解像度の映像データに対して切り出し処理を行い、25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})を生成し、8K解像度の映像素材である8K解像度の映像データに対して切り出し処理を行い、49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})を生成する。
これにより、映像データ(2K[1])、25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})及び49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})が生成される。
これに対し、切り出し処理部11は、8K解像度の映像素材である8K解像度の映像データから、横のオフセット幅を480pxの倍数及び縦のオフセット幅を270pxの倍数として、4K画素数の重複領域を有する異なる25領域の映像データを切り出す(8K解像度の映像データから切り出した25領域の映像データを生成する)。そして、解像度変換処理部10は、25領域の映像データを(4K画素数から2K画素数に)ダウンスケーリングし、25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})を生成する。
また、切り出し処理部11は、前記実施形態と同様に、8K解像度の映像素材である8K解像度の映像データに対して切り出し処理を行い、49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})を生成する。解像度変換処理部10は、前記実施形態と同様に、8K解像度の映像素材である8K解像度の映像データを(8K画素数から2K画素数に)ダウンスケーリングし、映像データ(2K[1])を生成する。
これにより、前記実施形態と同様に、映像データ(2K[1])、25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})及び49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})が生成される。
(異なる画素数の映像データの生成)
また、前記実施形態では、解像度変換処理部10及び切り出し処理部11は、1領域の2K画素数の映像データ(2K[1])、25領域の2K画素数の映像データ(4K[i]:i∈{1,・・・,25})及び49領域の2K画素数の映像データ(8K[j]:j∈{1,・・・,49})を生成するようにした。つまり、解像度変換処理部10及び切り出し処理部11は、これらの映像データについて、同じ2K画素数の映像データを生成するようにした。
これに対し、解像度変換処理部10及び切り出し処理部11は、これらの映像データについて、異なる画素数の映像データを生成するようにしてもよい。例えば、映像データ(2K[1])の画素数を映像データ(4K[i]:i∈{1,・・・,25})よりも大きくし、映像データ(4K[i]:i∈{1,・・・,25})の画素数を映像データ(8K[j]:j∈{1,・・・,49})よりも大きくする。
これにより、再生装置4の視聴領域r内に、異なる映像ストリームが隣接して表示される場合、隣接する領域の解像度の差異を一層小さくすることができ、ユーザが領域の境目において解像度の差異を認知することによる体感品質の低下を一層抑制することができる。
(2つまたは4つ以上の解像度の異なる映像ストリーム)
また、前記実施形態では、低解像度の映像ストリーム(2K[1])、中解像度の25領域の映像ストリーム(4K[i]:i∈{1,・・・,25})、及び高解像度の49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})を例に挙げて説明した。本発明は、これらの解像度の映像ストリームに適用があるだけでなく、2つの異なる解像度の映像ストリーム、及び4つ以上の異なる解像度の映像ストリームにも適用がある。
例えば、本発明は、低解像度の映像ストリーム(2K[1])及び高解像度の49領域の映像ストリーム(8K[j]:j∈{1,・・・,49})のみが配信サーバ3に格納される場合にも適用がある。
この場合、図4を参照して、映像符号化装置2の解像度変換処理部10は、8K/2K変換部20を備え、図5を参照して、切り出し処理部11は、8K切り出し部23を備える。また、図6を参照して、ストリーム生成部12は、2Kストリーム生成部24及び8Kストリーム生成部26を備える。
また、再生装置4は、映像ストリーム(2K[1])が再生される第一層、及び、49領域のうち1領域の映像ストリーム(8K[j])が再生される第二層の再生領域を備える。
再生装置4の受信ストリーム決定部32は、視聴操作受付部30におけるユーザの操作に従い、ズーム倍率x及び視聴領域rに応じた受信ストリームとして、所定領域の映像ストリーム(8K[j])を決定する。受信ストリーム要求部33は、所定領域の映像ストリーム(8K[j])を受信するための要求を配信サーバ3へ送信する。
ストリーム受信部34は、配信サーバ3から映像ストリーム(2K[1])及び映像ストリーム(8K[j])を受信する。再生バッファ管理部35及び映像復号処理部36は、映像ストリーム(2K[1])及び映像ストリーム(8K[j])について前述の処理を行う。
映像再生処理部37は、第一層において映像ストリーム(2K[1])を再生し、第二層において映像ストリーム(8K[j])を再生する。そして、画面表示部39は、視聴領域rにおいて、第二層の映像ストリーム(8K[j])を第一層よりも優先して画面表示する。
尚、本発明の実施形態による映像符号化装置2及び再生装置4のハードウェア構成としては、通常のコンピュータを使用することができる。映像符号化装置2及び再生装置4は、CPU、RAM等の揮発性の記憶媒体、ROM等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成される。
映像符号化装置2に備えた解像度変換処理部10(8K/2K変換部20及び8K/4K変換部21)、切り出し処理部11(4K切り出し部22及び8K切り出し部23)及びストリーム生成部12(2Kストリーム生成部24、4Kストリーム生成部25及び8Kストリーム生成部26)の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。
また、再生装置4に備えた視聴操作受付部30、画面表示制御部31、受信ストリーム決定部32、受信ストリーム要求部33、ストリーム受信部34、再生バッファ管理部35、映像復号処理部36、映像再生処理部37、同期再生管理部38、画面表示部39、通信インターフェース部40及びメモリ41の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。
これらのプログラムは、前記記憶媒体に格納されており、CPUに読み出されて実行される。また、これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスク等)、光ディスク(CD-ROM、DVD等)、半導体メモリ等の記憶媒体に格納して頒布することもでき、ネットワークを介して送受信することもできる。