JP2022059098A - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP2022059098A
JP2022059098A JP2019028240A JP2019028240A JP2022059098A JP 2022059098 A JP2022059098 A JP 2022059098A JP 2019028240 A JP2019028240 A JP 2019028240A JP 2019028240 A JP2019028240 A JP 2019028240A JP 2022059098 A JP2022059098 A JP 2022059098A
Authority
JP
Japan
Prior art keywords
user
information processing
wide
video
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019028240A
Other languages
English (en)
Inventor
毅 石川
Takeshi Ishikawa
亮平 安田
Ryohei Yasuda
慧 高橋
Kei Takahashi
惇一 清水
Junichi Shimizu
孝悌 清水
Kotei Shimizu
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2019028240A priority Critical patent/JP2022059098A/ja
Priority to PCT/JP2020/004464 priority patent/WO2020170831A1/ja
Publication of JP2022059098A publication Critical patent/JP2022059098A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】見どころを見失わず、かつ、身体の負荷を軽減する。【解決手段】映像処理部は、ユーザの視界を超える大きさの広角映像のシーン切り替わり後のフレームにおける誘目領域を、シーン切り替わり前のユーザの視線方向に対してユーザの身体の捻り量がより小さくなる提示位置に配置する。本開示は、例えば、全天球映像や全周囲映像に所定の処理を施す情報処理装置に適用することができる。【選択図】図6

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関し、特に、映像視聴時の身体の負荷を軽減することができるようにする情報処理装置、情報処理方法、およびプログラムに関する。
従来、水平方向や垂直方向といった全方位を撮影した全天球映像や、水平方向360度を撮影した全周囲映像などを提示するVR(Virtual Reality)コンテンツでは、視聴者の周囲を取り囲むように映像を提示することで、没入感の高い視聴体験を実現している。
特許文献1には、全天球映像において、視聴者の視界の外側の領域に表示される映像を視聴しようと頭を動かしたときに、映像の再生速度を下げることで、視聴者に所望する映像を適切に視聴させる技術が開示されている。
特開2017-126899号公報
ところで、全天球映像や全周囲映像においてシーンが切り替わった時に、見どころの提示位置が変わることで、視聴者がその見どころを見失ったり、首を捻ったままの姿勢で視聴を続けなければならないことがあった。
本開示は、このような状況に鑑みてなされたものであり、広角映像の視聴時に見どころを見失わず、かつ、身体の負荷を軽減することができるようにするものである。
本開示の情報処理装置は、ユーザの視界を超える大きさの広角映像に所定の処理を施す映像処理部を備え、前記映像処理部は、前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの身体の捻り量がより小さくなる提示位置に配置する情報処理装置である。
本開示の情報処理方法は、情報処理装置が、ユーザの視界を超える大きさの広角映像に所定の処理を施し、前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの首または腰の捻り量がより小さくなる提示位置に配置する情報処理方法である。
本開示のプログラムは、コンピュータに、ユーザの視界を超える大きさの広角映像に所定の処理を施し、前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの首または腰の捻り量がより小さくなる提示位置に配置する処理を実行させるプログラムである。
本開示においては、ユーザの視界を超える大きさの広角映像に所定の処理が施され、前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの首または腰の捻り量がより小さくなる提示位置に配置される。
広角映像の提示について説明する図である。 シーン切り替わり時の映像提示について説明する図である。 シーン切り替わり時の映像提示について説明する図である。 映像提示システムの構成例を示すブロック図である。 情報処理装置のハードウェア構成例を示すブロック図である。 映像処理部の構成例を示すブロック図である。 映像再生処理の流れについて説明するフローチャートである。 映像回転処理の流れについて説明するフローチャートである。 シーン切り替わりの検出の例を示す図である。 首の捻り量の検出の例を示す図である。 首の捻り量の検出の他の例を示す図である。 広角映像の回転について説明する図である。 映像処理部の他の構成例を示すブロック図である。 映像表示処理の流れについて説明するフローチャートである。 映像提示システムの他の構成例を示すブロック図である。 映像編集システムの構成例を示すブロック図である。 映像編集処理の流れについて説明するフローチャートである。
以下、本開示を実施するための形態(以下、実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.広角映像の提示とシーン切り替わり
2.映像提示システムの構成と動作(HMDへの映像提示の例)
3.映像提示システムの他の構成(スクリーンへの映像提示の例)
4.映像編集システムへの適用
5.その他
<1.広角映像の提示とシーン切り替わり>
本開示に係る技術(本技術)を適用した映像提示システムは、全天球映像や全周囲映像などの広角映像において、視聴者であるユーザの姿勢に応じて見どころを配置するように、映像を回転させて提示する。
図1は、広角映像の提示について説明する図である。
図1においては、ユーザ10が、水平方向360度を囲む円筒型の全周囲スクリーン20に提示される広角映像を視聴している様子が示されている。
広角映像は、ユーザの視界を超える大きさの映像であり、例えば水平方向180度以上の視野角で撮影された映像とされる。図1には、広角映像として、水平方向360度を撮影した全周囲映像が全周囲スクリーン20に提示される例が示されているが、水平方向や垂直方向といった全方位を撮影した全天球映像が、ドーム型の全天球スクリーンに提示されてもよい。さらに、広角映像は、VRコンテンツを提示可能なHMD(Head-Mounted Display)に提示されてもよい。
図1左側に示されるように、映像視聴開始時には、全周囲スクリーン20におけるユーザ10の正面に、映像の見どころである人物21が提示される。見どころである人物21は、映像中、シーン毎にその配置を変えて提示されるため、シーンによっては、図1右側に示されるように、ユーザ10が首を右に大きく捻って映像を視聴することになる。
図2は、ユーザ10が首を右に大きく捻って映像を視聴している状態で、シーンが切り替わった場合の映像提示の例を示している。図2の例では、シーン切り替わり後の見どころが、人物21からボール22に変わっている。
シーン切り替わり後の見どころであるボール22が、図2右側上段に示されるように、映像視聴開始時と同様、ユーザ10の正面に提示されるようにした場合、ボール22はユーザ10の視界から外れてしまい、ユーザ10が見どころを見失うおそれがある。
一方、シーン切り替わり後の見どころであるボール22が、図2右側下段に示されるように、シーン切り替わり前の人物21と同じ位置に提示されるようにした場合、首を捻ったままの姿勢で視聴を続けなければならず、ユーザ10の首に負荷がかかってしまう。
そこで、本技術を適用した映像提示システムにおいては、図3に示されるように、シーン切り替わり後の見どころであるボール22が、ユーザ10の正面と、シーン切り替わり前の人物21の位置との中間付近に提示されるようにする。
これにより、ユーザ10は、広角映像の視聴時に見どころを見失わず、かつ、身体の負荷を軽減できるようになる。
以下では、上述した映像提示を実現する構成について説明する。
<2.映像提示システムの構成と動作>
(映像提示システムの構成例)
図4は、上述した映像提示を実現する映像提示システムの構成例を示すブロック図である。
図4の映像提示システムは、情報処理装置100とHMD200から構成される。
情報処理装置100は、例えばPC(Personal Computer)などとして構成される。情報処理装置100は、撮影により得られた広角映像のデータ(映像データ)に所定の処理を施し、HMD200に供給する。
HMD200は、ユーザ10の頭部に装着されるVR用の表示装置として構成され、非透過型の表示部を備える。その表示部には、仮想空間を実現する広角映像が提示される。
情報処理装置100は、映像処理部110と表示制御部120を備えている。
映像処理部110は、広角映像(映像データ)に所定の処理を施し、表示制御部120に供給する。表示制御部120は、映像処理部110により処理が施された広角映像のHMD200での表示を制御する。なお、表示制御部120は、HMD200側に設けられてもよい。
(情報処理装置の構成例)
図5は、情報処理装置100のハードウェア構成例を示すブロック図である。
図5に示されるように、CPU(Central Processor Unit)151、ROM(Read Only Memory)152、およびRAM(Random Access Memory)153は、バス154を介して相互に接続されている。
CPU151は、ROM152に記憶されているプログラム、またはRAM153にロードされたプログラムに従って、情報処理装置100が備える各種の機能(具体的には、映像処理部110と表示制御部120の機能)を実現するための処理を実行する。RAM153にはまた、CPU151が各種の処理を実行する上において必要なデータなども適宜記憶される。
バス154にはまた、入出力インタフェース155が接続されている。
入出力インタフェース155には、入力部156、出力部157、記憶部158、および通信部159が接続される。
入力部156は、キー、ボタン、タッチパネル、およびマイクロフォンなどで構成され、出力部157は、ディスプレイやスピーカなどで構成される。
記憶部158は、不揮発性のメモリなどにより構成される。記憶部158は、CPU151が実行するプログラムの他に、HMD200において提示される映像などの各種のデータを記憶する。
通信部159は、ネットワークインタフェースなどにより構成される。通信部159は、無線や有線による通信を、HMD200や外部の装置との間で行う。
入出力インタフェース155にはまた、必要に応じてドライブ160が接続され、半導体メモリなどで構成されるリムーバブルメディア161が適宜装着される。リムーバブルメディア161から読み出されたプログラムは、必要に応じて記憶部158にインストールされる。
(映像処理部の構成例)
次に、図6を参照して、図4の映像処理部110の構成例について説明する。
映像処理部110は、切り替わり検出部171、誘目領域検出部172、捻り量検出部173、および回転処理部174から構成される。
切り替わり検出部171は、広角映像の映像データに基づいて、広角映像におけるシーンの切り替わりを検出する。検出されたシーン切り替わりを示す情報は、回転処理部174に供給される。
誘目領域検出部172は、広角映像の映像データに基づいて、広角映像において相対的に誘目性の高い領域である誘目領域を検出する。誘目領域は、視聴者に最も注目して欲しい、いわゆる見どころであり、広角映像において検出された人物領域や、広角映像の撮影者や映像制作者によってあらかじめ指定された領域などとされる。広角映像における誘目領域の位置を示す情報は、回転処理部174に供給される。
捻り量検出部173は、HMD200の回転量に基づいて、ユーザ10の身体の捻り量、具体的には首の捻り量を検出する。検出された首の捻り量は、回転処理部174に供給される。
回転処理部174は、シーン切り替わりを示す情報、誘目領域の位置を示す情報、および首の捻り量に基づいて、シーン切り替わり後の誘目領域を、シーン切り替わり前のユーザ10の視線方向に対してユーザ10の首の捻り量がより小さくなる提示位置に配置する。具体的には、回転処理部174は、シーン切り替わり後の誘目領域(見どころ)が、ユーザの首の捻り量がより小さくなる提示位置に配置されるように、広角映像をヨー方向に回転させる。回転後の映像データは、表示制御部120(図4)に供給される。表示制御部120は、回転後の広角映像をHMD200に表示させる。
(映像再生処理の流れ)
図7は、上述した映像提示システムにおける映像再生処理の流れについて説明するフローチャートである。
情報処理装置100は、HMD200を装着しているユーザにより、例えば映像再生用のアプリケーションなどに対して映像の再生が指示されると、ステップS11において、映像の再生を開始する。
ステップS12において、映像処理部110は、再生対象となる広角映像に対して、映像回転処理を施す。
ステップS13において、表示制御部120は、映像回転処理が施された広角映像をHMD200に表示させる。
図7の処理においては、映像再生の際、リアルタイムに映像回転処理が実行される。
(映像回転処理の流れ)
次に、図8のフローチャートを参照して、映像処理部110による映像回転処理の流れの詳細について説明する。
ステップS31において、映像処理部110は、広角映像の映像データを1フレームずつ読み込む。
ステップS32において、切り替わり検出部171は、読み込んだ現フレームの次フレームでシーン切り替わりが検出されるか否かを判定する。
シーン切り替わりとしては、広角映像をヨー方向へ回転させても違和感のないタイミングが検出される。
例えば、図9に示されるように、映像の撮影中に撮影を停止し、その後、映像の撮影を再開したとする。撮影停止の前後で映像が大きく変化している場合、撮影停止したタイミングで、提示される映像をヨー方向へ回転させたとしても、多くの視聴者はそのことに気づかない。そこで、撮影停止したタイミングを表す情報を映像データとともに保存しておくことで、映像再生時のシーン切り替わりの検出に用いられるようにする。
また、撮影停止だけでなく、撮影されている映像において、例えば色など、画面の内容が大きく変化し、かつ、その変化の前後での被写体の位置関係が特段重要でないシーンがある場合、その変化のタイミングがシーン切り替わりとして検出されてもよい。
次フレームでシーン切り替わりが検出される場合、ステップS33において、誘目領域検出部172は、次フレームにおける見どころ(誘目領域)を検出する。
誘目領域は、上述したように、映像において視聴者に最も注目して欲しい領域であり、具体的には、映像中で大きく映っている人物や、口を動かしている人物などとされる。
誘目領域の検出においては、例えば、画像処理による顔認識が行われ、口元が動いている人物が映っている領域が特定される。
また、映像制作者が、映像を事前にチェックしながら、見どころに指定したい領域を表す情報を、メタデータとして映像に付加するようにしてもよい。
さらに、複数の視聴者に事前に映像を視聴させ、より多くの視聴者が注目している領域を誘目領域としてもよい。
ステップS34において、捻り量検出部173は、そのときに検出されたユーザ10の首の捻り量が一定量以上あるか否かを判定する。
首の捻り量は、広角映像の視聴開始時を基準とした、ユーザ10の視線方向(顔の向き)の回転量である。例えば、図10に示されるように、広角映像の視聴開始時のユーザ10の視線方向を正面方向(初期位置)#11とし、その正面方向#11から、現在のユーザ10の視線方向#12への首の回転量Ta1が、首の捻り量として検出される。
具体的には、ユーザ10の頭部に装着されているHMD200によって取得される初期位置からの回転量が、首の捻り量として検出される。
また、捻り量は、ユーザ10の身体の向きに対する相対的なユーザ10の視線方向の回転量であってもよい。例えば、図11に示されるように、ユーザ10の身体が回転している場合、現在のユーザ10の身体の向きを正面方向#21とし、その正面方向#21から、現在のユーザ10の視線方向#22への相対的な首の回転量Ta2が、首の捻り量として検出されてもよい。
この場合、ユーザ10の正面方向#21(身体の向き)の検出は、例えばユーザ10が座る椅子にその回転量を検出するセンサを設けるなどすることで実現することができる。
なお、首の捻り量は、常に検出されてもよいが、少なくとも次フレームでシーン切り替わりが検出されるときに検出されればよい。
さて、ユーザ10の首の捻り量が一定量以上あると判定された場合、ステップS35に進み、回転処理部174は、首の捻り量と次フレームの見どころの提示位置に基づいて、広角映像を回転させる。
まず、回転処理部174は、シーン切り替わり時の首の捻り量に基づいて、次フレーム(シーン切り替わり後)の見どころの提示位置を決定する。
例えば、図12に示されるように、シーン切り替わり時に、ユーザ10が正面方向#31から首を右に大きく捻って視線方向#32を向いているとする。この場合、シーン切り替わり後の見どころであるボール22が、視線方向#32に対してユーザ10の首の捻り量が小さくなる提示位置(正面方向#31と視線方向#32の間)に配置されるようにする。
次フレームの見どころの提示位置が決定されると、回転処理部174は、その提示位置に見どころが提示されるように、次フレーム以降の広角映像をヨー方向に回転させる。図12の例では、広角映像は、ヨー方向に回転量Raだけ回転している。
なお、回転量Ra(すなわち、ボール22の提示位置をどの程度、正面方向#31に近づけるか)は、本技術を適用するアプリケーションによって任意に指定されるようにしてもよい。
ただし、首の捻り量が大きいほど、その首の捻りをいち早く解消したいことから、首の捻り量が大きいほど、見どころの提示位置を正面方向#31に大きく近づけることが好ましい。
そして、ステップS36において、回転処理部174は、回転後の映像データを表示制御部120に出力する。
なお、ステップS32において次フレームでシーン切り替わりが検出されないと判定された場合、ステップS33乃至S35はスキップされ、ステップS36において、回転していないそのままの映像データが出力される。
また、ステップS34において首の捻り量が一定量以上ないと判定された場合には、ステップS35はスキップされ、ステップS36において、回転していないそのままの映像データが出力される。
以上の処理によれば、ユーザは、広角映像の視聴時に見どころを見失わず、かつ、身体の負荷を軽減することが可能となる。
(首の捻り量を推定する構成と動作)
以上においては、ユーザの首の捻り量が実際に検出されるものとしたが、シーン切り替わり前後の見どころ(誘目領域)の提示位置に基づいて、ユーザの首の捻り量が推定されるようにしてもよい。
以下においては、ユーザの首の捻り量を推定する構成とその動作について説明する。
(映像処理部の構成例)
図13は、ユーザの首の捻り量を推定する映像処理部110の構成例を示すブロック図である。
図13の映像処理部110は、切り替わり検出部191、誘目領域検出部192、捻り量推定部193、および回転処理部194から構成される。
なお、切り替わり検出部191および誘目領域検出部192は、図6の切り替わり検出部171および誘目領域検出部172と同様の機能を有する。
捻り量推定部193は、シーン切り替わりを示す情報と、誘目領域の位置を示す情報に基づいて、ユーザの身体の捻り量、具体的には首の捻り量を推定する。推定された首の捻り量は、回転処理部194に供給される。
回転処理部194は、シーン切り替わりを示す情報、誘目領域の位置を示す情報、および推定された首の捻り量に基づいて、シーン切り替わり後の誘目領域を、推定された首の捻り量がより小さくなる提示位置に配置する。
(映像回転処理の流れ)
次に、図14のフローチャートを参照して、図13の映像処理部110による映像回転処理の流れについて説明する。
ステップS51において、映像処理部110は、広角映像の映像データを1フレームずつ読み込む。
ステップS52において、切り替わり検出部191は、読み込んだ現フレームの次フレームでシーン切り替わりが検出されるか否かを判定する。
次フレームでシーン切り替わりが検出される場合、ステップS53において、誘目領域検出部192は、現フレームにおける見どころを検出する。
次いで、ステップS54において、誘目領域検出部192は、次フレームにおける見どころを検出する。
ステップS34において、捻り量推定部193は、シーン切り替わり前の現フレームの見どころ(誘目領域)の位置に基づいて、ユーザの首の捻り量が一定量以上あると推定されるか否かを判定する。
ここでは、ユーザは常に見どころを見ていると仮定して、映像視聴開始時の正面方向に対する、シーン切り替わり前の見どころの位置をユーザの視線方向(顔の向き)として、首の捻り量が推定される。
ユーザの首の捻り量が一定量以上あると推定された場合、ステップS56に進み、回転処理部194は、推定された首の捻り量と次フレームの見どころの提示位置に基づいて、広角映像を回転させる。
そして、ステップS57において、回転処理部194は、回転後の映像データを表示制御部120に出力する。
なお、ステップS52において次フレームでシーン切り替わりが検出されないと判定された場合、ステップS53乃至S56はスキップされ、ステップS57において、回転していないそのままの映像データが出力される。
また、ステップS55において首の捻り量が一定量以上あると推定されなかった場合には、ステップS56はスキップされ、ステップS57において、回転していないそのままの映像データが出力される。
以上の処理によっても、ユーザは、広角映像の視聴時に見どころを見失わず、かつ、身体の負荷を軽減することが可能となる。
<3.映像提示システムの他の構成>
上述した映像提示システムにおいては、広角映像が提示される表示装置として、HMD200が用いられるものとしたが、図15に示されるように、スクリーン300が用いられてもよい。
スクリーン300は、広角映像として全周囲映像が提示される全周囲スクリーンとして構成されてもよいし、広角映像として全天球映像が提示される全天球スクリーンとして構成されてもよい。
図15の構成においても、ユーザは、広角映像の視聴時に見どころを見失わず、かつ、身体の負荷を軽減することが可能となる。
<4.映像編集システムへの適用>
以上においては、本技術を映像提示システムに適用した例について説明してきたが、本技術を映像編集システムに適用することもできる。
図16は、本技術を適用した映像編集システムを実現する情報処理装置の機能構成例を示すブロック図である。
情報処理装置400は、例えば、動画編集機能を備えるPCや、動画公開サイトのサーバなどとして構成され、広角映像を、ユーザの身体(例えば首)に対する負担の少ない映像に編集する。
情報処理装置400は、映像処理部410、記録制御部420、および記録部430を備えている。
映像処理部410は、上述した映像処理部110と同様の機能を有し、広角映像(映像データ)に所定の処理を施し、記録制御部420に供給する。記録制御部420は、映像処理部410により処理が施された広角映像を、記録部430に記録したり、外部の装置やインターネット上などに供給する。
図17は、上述した映像編集システムにおける映像編集処理の流れについて説明するフローチャートである。
情報処理装置400は、映像編集者により、例えば映像編集用のアプリケーションなどに対して映像の編集が指示されると、ステップS111において、映像の編集を開始する。
ステップS112において、映像処理部410は、編集対象となる広角映像に対して、映像回転処理を施す。ここでは、図14のフローチャートを参照して説明した処理が実行される。
ステップS113において、記録制御部420は、映像回転処理が施された広角映像を記録部430のファイルに記録する。
以上のようにして、広角映像が、ユーザの身体に対する負担の少ない映像に編集される。
<5.その他>
以上においては、ユーザの身体の捻り量として、首(胴体に対する頭部)の捻り量が小さくなる提示位置に見どころが配置されるものとしたが、用いられるユーザの身体の捻り量はこれに限られない。例えば、ユーザの身体の捻り量として、腰(下半身に対する上半身)の捻り量が小さくなる提示位置に見どころが配置されるようにもできる。
また、例えばユーザがHMDを装着して広角映像を視聴している中で、身体全体の回転を含めて、ユーザの視線方向が、視聴開始時を基準とした方向から180度より大きく回転することが考えられる。この場合、上述した映像回転処理によって、ユーザの視線方向がさらに大きく(360度に近い向きに)回転してしまい、HMDに接続されているケーブルがユーザの身体に巻き付いてしまうおそれがある。そこで、このような場合には、ユーザの視線方向の回転を戻す提示位置に見どころが配置されるようにすることで、ケーブルがユーザの身体に巻き付くことを避けることができる。
映像提示システムがHMDから構成され、HMDとは独立したユーザの身体の状態を検出するセンサを外部環境に設けない場合、基本的には、HMDに設けられたセンサで捻り量を検出する必要がある。このようなセンサとしては、一般的には慣性計測装置(IMU)が知られている。このようなセンサは1種類に限られず、複数種類のセンサを組み合わせたいわゆるセンサフュージョン技術が適用されたセンサ系が用いられてもよい。
HMDに単一のセンサまたは単一のセンサ系が設けられる場合、その出力値に応じたユーザの身体動作は、身体全体の回転と、首の捻り(または腰の捻り)とで区別される必要がある。一般的に、身体全体の慣性質量、関節の可動域、ユーザ個人の動作特性などに起因して、ユーザが無意識に行った動作で生じる身体全体の回転加速度と首の捻りの回転加速度とでは、センサの出力値が異なり得る。具体的には、身体全体の回転加速度は、首の捻りの回転加速度より小さくなり得る。そこで、あらかじめ設定された閾値とセンサの出力値を比較することで、ユーザの身体動作が、身体全体の回転であるか、または、首の捻りであるかが判定されるようにしてもよい。この閾値は、あらかじめユーザの動作に応じたセンサの出力値を取得し、機械学習を用いることで設定されるようにしてもよい。また、首の捻り、腰の捻り、身体全体の回転をそれぞれ区別するために、少なくとも2つの閾値が設定されてもよい。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。上述した一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
この記録媒体は、例えば、図5に示されるように、装置本体とは別に、情報処理装置100のユーザにプログラムを配信するために配布されるリムーバブルメディア161により構成される。リムーバブルメディア161は、そのプログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROMおよびDVDを含む)、光磁気ディスク、もしくは半導体メモリなどより構成される。また、これらだけでなく、記録媒体は、装置本体にあらかじめ組み込まれた状態で管理者に配信されるプログラムが記録されているROM152や、記憶部158に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示
の要旨を逸脱しない範囲において種々の変更が可能である。
また、本明細書に記載された効果はあくまで例示であって限定されるものではなく、他
の効果があってもよい。
さらに、本開示は以下のような構成をとることができる。
(1)
ユーザの視界を超える大きさの広角映像に所定の処理を施す映像処理部
を備え、
前記映像処理部は、前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの身体の捻り量がより小さくなる提示位置に配置する
情報処理装置。
(2)
前記映像処理部は、前記シーン切り替わり後の前記誘目領域が前記提示位置に配置されるように、前記広角映像をヨー方向に回転させる
(1)に記載の情報処理装置。
(3)
前記捻り量は、前記ユーザの首の捻り量を含む
(1)または(2)に記載の情報処理装置。
(4)
前記捻り量は、前記ユーザの腰の捻り量を含む
(1)または(2)に記載の情報処理装置。
(5)
前記捻り量を検出する検出部をさらに備え、
前記映像処理部は、前記シーン切り替わり後の前記誘目領域を、前記シーン切り替わり前に検出された前記捻り量がより小さくなる前記提示位置に配置する
(1)乃至(4)のいずれかに記載の情報処理装置。
(6)
前記映像処理部は、前記シーン切り替わり前に検出された前記捻り量が一定量以上ある場合に、前記シーン切り替わり後の前記誘目領域を前記提示位置に配置する
(7)に記載の情報処理装置。
(7)
前記捻り量は、前記広角映像の視聴開始時を基準とした前記ユーザの視線方向の回転量である
(5)または(6)に記載の情報処理装置。
(8)
前記捻り量は、前記ユーザの身体の向きに対する相対的な前記ユーザの視線方向の回転量である
(5)または(6)に記載の情報処理装置。
(9)
前記シーン切り替わり前のフレームにおける前記誘目領域の位置に基づいて、前記捻り量を推定する推定部をさらに備え、
前記映像処理部は、前記シーン切り替わり後の前記誘目領域を、推定された前記捻り量がより小さくなる前記提示位置に配置する
(1)乃至(4)のいずれかに記載の情報処理装置。
(10)
前記誘目領域は、前記広角映像において検出された人物領域である
(1)乃至(9)のいずれかに記載の情報処理装置。
(11)
前記誘目領域は、前記広角映像においてあらかじめ指定された領域である
(1)乃至(9)のいずれかに記載の情報処理装置。
(12)
前記広角映像は、水平方向180度以上の視野角で撮影された映像である
(1)乃至(11)のいずれかに記載の情報処理装置。
(13)
前記広角映像は、全周囲映像である
(12)に記載の情報処理装置。
(14)
前記広角映像は、全天球映像である
(12)に記載の情報処理装置。
(15)
前記映像処理部により処理が施された前記広角映像の表示装置での表示を制御する表示制御部をさらに備える
(1)乃至(14)のいずれかに記載の情報処理装置。
(16)
前記表示装置は、HMDである
(15)に記載の情報処理装置。
(17)
前記表示装置は、全周囲スクリーンである
(15)に記載の情報処理装置。
(18)
前記表示装置は、全天球スクリーンである
(15)に記載の情報処理装置。
(19)
情報処理装置が、
ユーザの視界を超える大きさの広角映像に所定の処理を施し、
前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの首または腰の捻り量がより小さくなる提示位置に配置する
情報処理方法。
(20)
コンピュータに、
ユーザの視界を超える大きさの広角映像に所定の処理を施し、
前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの首または腰の捻り量がより小さくなる提示位置に配置する
処理を実行させるプログラム。
100 情報処理装置, 110 映像処理部, 120 表示制御部, 171 切り替わり検出部, 172 誘目領域検出部, 173 捻り量検出部, 174 回転処理部, 191 切り替わり検出部, 192 誘目領域検出部, 193 捻り量推定部, 194 回転処理部, 200 HMD, 300 スクリーン

Claims (20)

  1. ユーザの視界を超える大きさの広角映像に所定の処理を施す映像処理部
    を備え、
    前記映像処理部は、前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの身体の捻り量がより小さくなる提示位置に配置する
    情報処理装置。
  2. 前記映像処理部は、前記シーン切り替わり後の前記誘目領域が前記提示位置に配置されるように、前記広角映像をヨー方向に回転させる
    請求項1に記載の情報処理装置。
  3. 前記捻り量は、前記ユーザの首の捻り量を含む
    請求項1に記載の情報処理装置。
  4. 前記捻り量は、前記ユーザの腰の捻り量を含む
    請求項1に記載の情報処理装置。
  5. 前記捻り量を検出する検出部をさらに備え、
    前記映像処理部は、前記シーン切り替わり後の前記誘目領域を、前記シーン切り替わり前に検出された前記捻り量がより小さくなる前記提示位置に配置する
    請求項1に記載の情報処理装置。
  6. 前記映像処理部は、前記シーン切り替わり前に検出された前記捻り量が一定量以上ある場合に、前記シーン切り替わり後の前記誘目領域を前記提示位置に配置する
    請求項5に記載の情報処理装置。
  7. 前記捻り量は、前記広角映像の視聴開始時を基準とした前記ユーザの視線方向の回転量である
    請求項6に記載の情報処理装置。
  8. 前記捻り量は、前記ユーザの身体の向きに対する相対的な前記ユーザの視線方向の回転量である
    請求項6に記載の情報処理装置。
  9. 前記シーン切り替わり前のフレームにおける前記誘目領域の位置に基づいて、前記捻り量を推定する推定部をさらに備え、
    前記映像処理部は、前記シーン切り替わり後の前記誘目領域を、推定された前記捻り量がより小さくなる前記提示位置に配置する
    請求項1に記載の情報処理装置。
  10. 前記誘目領域は、前記広角映像において検出された人物領域である
    請求項1に記載の情報処理装置。
  11. 前記誘目領域は、前記広角映像においてあらかじめ指定された領域である
    請求項1に記載の情報処理装置。
  12. 前記広角映像は、水平方向180度以上の視野角で撮影された映像である
    請求項1に記載の情報処理装置。
  13. 前記広角映像は、全周囲映像である
    請求項12に記載の情報処理装置。
  14. 前記広角映像は、全天球映像である
    請求項12に記載の情報処理装置。
  15. 前記映像処理部により処理が施された前記広角映像の表示装置での表示を制御する表示制御部をさらに備える
    請求項1に記載の情報処理装置。
  16. 前記表示装置は、HMDである
    請求項15に記載の情報処理装置。
  17. 前記表示装置は、全周囲スクリーンである
    請求項15に記載の情報処理装置。
  18. 前記表示装置は、全天球スクリーンである
    請求項15に記載の情報処理装置。
  19. 情報処理装置が、
    ユーザの視界を超える大きさの広角映像に所定の処理を施し、
    前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの首または腰の捻り量がより小さくなる提示位置に配置する
    情報処理方法。
  20. コンピュータに、
    ユーザの視界を超える大きさの広角映像に所定の処理を施し、
    前記広角映像のシーン切り替わり後のフレームにおける誘目領域を、前記シーン切り替わり前の前記ユーザの視線方向に対して前記ユーザの首または腰の捻り量がより小さくなる提示位置に配置する
    処理を実行させるプログラム。
JP2019028240A 2019-02-20 2019-02-20 情報処理装置、情報処理方法、およびプログラム Pending JP2022059098A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019028240A JP2022059098A (ja) 2019-02-20 2019-02-20 情報処理装置、情報処理方法、およびプログラム
PCT/JP2020/004464 WO2020170831A1 (ja) 2019-02-20 2020-02-06 情報処理装置、情報処理方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019028240A JP2022059098A (ja) 2019-02-20 2019-02-20 情報処理装置、情報処理方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2022059098A true JP2022059098A (ja) 2022-04-13

Family

ID=72144276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019028240A Pending JP2022059098A (ja) 2019-02-20 2019-02-20 情報処理装置、情報処理方法、およびプログラム

Country Status (2)

Country Link
JP (1) JP2022059098A (ja)
WO (1) WO2020170831A1 (ja)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5986039B2 (ja) * 2013-05-30 2016-09-06 日本電信電話株式会社 映像表示方法及び映像表示プログラム
CN106415447B (zh) * 2014-06-30 2019-08-06 索尼公司 信息处理装置、信息处理方法和图像处理***
JP6198157B2 (ja) * 2016-03-10 2017-09-20 大学共同利用機関法人自然科学研究機構 プログラム、記録媒体、画像処理装置及び画像処理方法
US20170316806A1 (en) * 2016-05-02 2017-11-02 Facebook, Inc. Systems and methods for presenting content
JP7069970B2 (ja) * 2017-07-18 2022-05-18 株式会社リコー 閲覧システム、画像配信装置、画像配信方法、プログラム
JP2018116684A (ja) * 2017-10-23 2018-07-26 株式会社コロプラ 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Also Published As

Publication number Publication date
WO2020170831A1 (ja) 2020-08-27

Similar Documents

Publication Publication Date Title
JP6944564B2 (ja) 注視追跡のための装置及び方法
US11861059B2 (en) System and method for generating a virtual reality scene based on individual asynchronous motion capture recordings
US20180356893A1 (en) Systems and methods for virtual training with haptic feedback
JP2020171721A (ja) Vr観戦のための拡大された視野再レンダリング
JP2023088956A (ja) 仮想、拡張、または複合現実環境内で3dビデオを生成および表示するための方法およびシステム
JP6130478B1 (ja) プログラム及びコンピュータ
US20100153847A1 (en) User deformation of movie character images
US20120320169A1 (en) Volumetric video presentation
JP2021002288A (ja) 画像処理装置、コンテンツ処理システム、および画像処理方法
WO2018186031A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2018113616A (ja) 情報処理装置、情報処理方法、およびプログラム
CN109154862B (zh) 用于处理虚拟现实内容的装置、方法和计算机可读介质
US12001645B2 (en) Methods, systems, and media for presenting media content previews
EP3616402A1 (en) Methods, systems, and media for generating and rendering immersive video content
JP2017121082A (ja) プログラム及びコンピュータ
JP2016513991A (ja) ハプティックアクチュエータ制御パラメータを有するオーディオビジュアルコンテンツのアイテムを再生するための方法、および方法を実施するデバイス
WO2020170831A1 (ja) 情報処理装置、情報処理方法、およびプログラム
EP3486753B1 (en) Method for realtime 360 degree video perspective view path determination
KR101976336B1 (ko) 360° 동영상 기반 가상현실 콘텐츠의 재생 방법 및 이를 수행하는 단말 장치
US11816785B2 (en) Image processing device and image processing method
US11778155B2 (en) Image processing apparatus, image processing method, and storage medium
US11205307B2 (en) Rendering a message within a volumetric space
JP2024077145A (ja) 処理装置、処理方法
TW202134947A (zh) 根據臉部特徵設定裝置顯示方式的方法與其電子裝置