JP2021105763A

JP2021105763A - プログラム、方法および情報処理装置

Info

Publication number: JP2021105763A
Application number: JP2019235610A
Authority: JP
Inventors: 一晃澤木; Kazuaki Sawaki; 英太菊地; Eita Kikuchi
Original assignee: Colopl Inc
Current assignee: Colopl Inc
Priority date: 2019-12-26
Filing date: 2019-12-26
Publication date: 2021-07-26
Anticipated expiration: 2039-12-26
Also published as: JP2024061890A; JP7458779B2; WO2021131938A1

Abstract

【課題】ユーザの仮想体験を改善することである。【解決手段】プログラムにおいて、プロセッサに、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。【選択図】図１５

Description

本開示は、プログラム、方法および情報処理装置に関する。

従来、３６０度動画をヘッドマウントディスプレイに表示するプログラムが知られている。特許文献１には、ヘッドマウントディスプレイに表示される３６０度動画の時間軸を、ヘッドマウントディスプレイの傾きに応じて制御する発明が開示されている。

特許第６１３０４７８号公報

しかしながら、特許文献１に記載の発明では、ユーザによる３６０度動画の視聴時の利便性向上において改善の余地がある。

本開示は、ユーザによる３６０度動画の視聴時の利便性を向上することが可能な、プログラム、方法および情報処理装置を提供することを目的とする。

本開示が示す一態様によれば、プログラムは、プロセッサに、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。

本開示によれば、ユーザによる３６０度動画の視聴時の利便性を向上することが可能な、プログラム、方法および情報処理装置を提供することができる。

ある実施の形態に従うＨＭＤシステムの構成の概略を表す図である。ある実施の形態に従うコンピュータのハードウェア構成の一例を表すブロック図である。ある実施の形態に従うＨＭＤに設定されるｕｖｗ視野座標系を概念的に表す図である。ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。ある実施の形態に従うＨＭＤを装着するユーザの頭部を上から表した図である。仮想空間において視界領域をＸ方向から見たＹＺ断面を表す図である。仮想空間において視界領域をＹ方向から見たＸＺ断面を表す図である。ある実施の形態に従うコントローラの概略構成を表す図である。ある実施の形態に従うユーザの右手に対して規定されるヨー、ロール、ピッチの各方向の一例を示す図である。ある実施の形態に従うサーバのハードウェア構成の一例を表すブロック図である。ある実施の形態に従うコンピュータをモジュール構成として表すブロック図である。ある実施の形態に従うＨＭＤセットにおいて実行される処理の一部を表すシーケンスチャートである。ネットワークにおいて、各ＨＭＤがユーザに仮想空間を提供する状況を表す模式図である。図１２（Ａ）におけるユーザ５Ａの視界画像を示す図である。ある実施の形態に従うＨＭＤシステムにおいて実行する処理を示すシーケンス図である。ある実施の形態に従うコンピュータのモジュールの詳細構成を表すブロック図である。ある実施の形態に従う３６０度カメラに係る構成の概略を表す図である。図１５に示した３６０度カメラを配置する部屋の間取りを示す平面図である。ある実施の形態に従うＨＭＤセットにおいて実行される処理の一部であって、３６０度カメラの制御に係る処理を示すフローチャートである。図１７に示した自動切替処理の一例を示すフローチャートである。

以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。本開示において示される１以上の実施形態において、各実施形態が含む要素を互いに組み合わせることができ、かつ、当該組み合わせられた結果物も本開示が示す実施形態の一部をなすものとする。

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head-Mounted Device）システム１００の構成について説明する。図１は、本実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。

ＨＭＤシステム１００は、サーバ６００と、ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄと、外部機器７００と、ネットワーク２とを含む。ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄの各々は、ネットワーク２を介してサーバ６００や外部機器７００と通信可能に構成される。以下、ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄを総称して、ＨＭＤセット１１０とも言う。ＨＭＤシステム１００を構成するＨＭＤセット１１０の数は、４つに限られず、３つ以下でも、５つ以上でもよい。ＨＭＤセット１１０は、ＨＭＤ１２０と、コンピュータ２００と、ＨＭＤセンサ４１０と、ディスプレイ４３０と、コントローラ３００とを備える。ＨＭＤ１２０は、モニタ１３０と、注視センサ１４０と、第１カメラ１５０と、第２カメラ１６０と、マイク１７０と、スピーカ１８０とを含む。コントローラ３００は、モーションセンサ４２０を含み得る。

ある局面において、コンピュータ２００は、インターネットその他のネットワーク２に接続可能であり、ネットワーク２に接続されているサーバ６００その他のコンピュータと通信可能である。その他のコンピュータとしては、例えば、他のＨＭＤセット１１０のコンピュータや外部機器７００が挙げられる。別の局面において、ＨＭＤ１２０は、ＨＭＤセンサ４１０の代わりに、センサ１９０を含み得る。

ＨＭＤ１２０は、ユーザ５の頭部に装着され、動作中に仮想空間をユーザ５に提供し得る。より具体的には、ＨＭＤ１２０は、右目用の画像および左目用の画像をモニタ１３０にそれぞれ表示する。ユーザ５の各目がそれぞれの画像を視認すると、ユーザ５は、両目の視差に基づき当該画像を３次元画像として認識し得る。ＨＭＤ１２０は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。

モニタ１３０は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１３０は、ユーザ５の両目の前方に位置するようにＨＭＤ１２０の本体に配置されている。したがって、ユーザ５は、モニタ１３０に表示される３次元画像を視認すると、仮想空間に没入することができる。ある局面において、仮想空間は、例えば、背景、ユーザ５が操作可能なオブジェクト、ユーザ５が選択可能なメニューの画像を含む。ある局面において、モニタ１３０は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。

別の局面において、モニタ１３０は、透過型の表示装置として実現され得る。この場合、ＨＭＤ１２０は、図１に示されるようにユーザ５の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ１３０は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。モニタ１３０は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ１３０は、ＨＭＤ１２０に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。

ある局面において、モニタ１３０は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１３０は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１３０は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。

ある局面において、ＨＭＤ１２０は、図示せぬ複数の光源を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ４１０は、ＨＭＤ１２０の動きを検出するためのポジショントラッキング機能を有する。より具体的には、ＨＭＤセンサ４１０は、ＨＭＤ１２０が発する複数の赤外線を読み取り、現実空間内におけるＨＭＤ１２０の位置および傾きを検出する。

別の局面において、ＨＭＤセンサ４１０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ４１０は、カメラから出力されるＨＭＤ１２０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１２０の位置および傾きを検出することができる。

別の局面において、ＨＭＤ１２０は、位置検出器として、ＨＭＤセンサ４１０の代わりに、あるいはＨＭＤセンサ４１０に加えてセンサ１９０を備えてもよい。ＨＭＤ１２０は、センサ１９０を用いて、ＨＭＤ１２０自身の位置および傾きを検出し得る。例えば、センサ１９０が角速度センサ、地磁気センサ、あるいは加速度センサである場合、ＨＭＤ１２０は、ＨＭＤセンサ４１０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１９０が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１２０の３軸周りの角速度を経時的に検出する。ＨＭＤ１２０は、各角速度に基づいて、ＨＭＤ１２０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１２０の傾きを算出する。

注視センサ１４０は、ユーザ５の右目および左目の視線が向けられる方向を検出する。つまり、注視センサ１４０は、ユーザ５の視線を検出する。視線の方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ５の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ５の視線を検知することができる。

第１カメラ１５０は、ユーザ５の顔の下部を撮影する。より具体的には、第１カメラ１５０は、ユーザ５の鼻および口などを撮影する。第２カメラ１６０は、ユーザ５の目および眉などを撮影する。ＨＭＤ１２０のユーザ５側の筐体をＨＭＤ１２０の内側、ＨＭＤ１２０のユーザ５とは逆側の筐体をＨＭＤ１２０の外側と定義する。ある局面において、第１カメラ１５０は、ＨＭＤ１２０の外側に配置され、第２カメラ１６０は、ＨＭＤ１２０の内側に配置され得る。第１カメラ１５０および第２カメラ１６０が生成した画像は、コンピュータ２００に入力される。別の局面において、第１カメラ１５０と第２カメラ１６０とを１台のカメラとして実現し、この１台のカメラでユーザ５の顔を撮影するようにしてもよい。

マイク１７０は、ユーザ５の発話を音声信号（電気信号）に変換してコンピュータ２００に出力する。スピーカ１８０は、音声信号を音声に変換してユーザ５に出力する。別の局面において、ＨＭＤ１２０は、スピーカ１８０に替えてイヤホンを含み得る。

コントローラ３００は、有線または無線によりコンピュータ２００に接続されている。コントローラ３００は、ユーザ５からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ３００は、ユーザ５によって把持可能に構成される。別の局面において、コントローラ３００は、ユーザ５の身体あるいは衣類の一部に装着可能に構成される。さらに別の局面において、コントローラ３００は、コンピュータ２００から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。さらに別の局面において、コントローラ３００は、ユーザ５から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。

ある局面において、コントローラ３００は、複数の光源を含む。各光源は例えば、赤外線を発するＬＥＤにより実現される。ＨＭＤセンサ４１０は、ポジショントラッキング機能を有する。この場合、ＨＭＤセンサ４１０は、コントローラ３００が発する複数の赤外線を読み取り、現実空間内におけるコントローラ３００の位置および傾きを検出する。別の局面において、ＨＭＤセンサ４１０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ４１０は、カメラから出力されるコントローラ３００の画像情報を用いて、画像解析処理を実行することにより、コントローラ３００の位置および傾きを検出することができる。

モーションセンサ４２０は、ある局面において、ユーザ５の手に取り付けられて、ユーザ５の手の動きを検出する。例えば、モーションセンサ４２０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ４２０は、例えば、コントローラ３００に設けられている。ある局面において、モーションセンサ４２０は、例えば、ユーザ５に把持可能に構成されたコントローラ３００に設けられている。別の局面において、現実空間における安全のため、コントローラ３００は、手袋型のようにユーザ５の手に装着されることにより容易に飛んで行かないものに装着される。さらに別の局面において、ユーザ５に装着されないセンサがユーザ５の手の動きを検出してもよい。例えば、ユーザ５を撮影するカメラの信号が、ユーザ５の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ４２０とコンピュータ２００とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。

ディスプレイ４３０は、モニタ１３０に表示されている画像と同様の画像を表示する。これにより、ＨＭＤ１２０を装着しているユーザ５以外のユーザにも当該ユーザ５と同様の画像を視聴させることができる。ディスプレイ４３０に表示される画像は、３次元画像である必要はなく、右目用の画像や左目用の画像であってもよい。ディスプレイ４３０としては、例えば、液晶ディスプレイや有機ＥＬモニタなどが挙げられる。

サーバ６００は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ６００は、他のユーザによって使用されるＨＭＤ１２０に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ２００は、各ユーザの動作に基づく信号をサーバ６００を介して他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。各コンピュータ２００は、各ユーザの動作に基づく信号をサーバ６００を介さずに他のコンピュータ２００と通信するようにしてもよい。

外部機器７００は、コンピュータ２００と通信可能な機器であればどのような機器であってもよい。外部機器７００は、例えば、ネットワーク２を介してコンピュータ２００と通信可能な機器であってもよいし、近距離無線通信や有線接続によりコンピュータ２００と直接通信可能な機器であってもよい。外部機器７００としては、例えば、スマートデバイス、ＰＣ（Personal Computer）、およびコンピュータ２００の周辺機器などが挙げられるが、これらに限定されるものではない。

［コンピュータのハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、本実施の形態に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ２１０と、メモリ２２０と、ストレージ２３０と、入出力インターフェイス２４０と、通信インターフェイス２５０とを備える。各構成要素は、それぞれ、バス２６０に接続されている。

プロセッサ２１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ２２０またはストレージ２３０に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ２１０は、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。

メモリ２２０は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ２３０からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ２１０によって生成されたデータとを含む。ある局面において、メモリ２２０は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。

ストレージ２３０は、プログラムおよびデータを永続的に保持する。ストレージ２３０は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ２３０に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ２３０に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。

別の局面において、ストレージ２３０は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ２３０の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行うことが可能になる。

入出力インターフェイス２４０は、ＨＭＤ１２０、ＨＭＤセンサ４１０、モーションセンサ４２０およびディスプレイ４３０との間で信号を通信する。ＨＭＤ１２０に含まれるモニタ１３０，注視センサ１４０，第１カメラ１５０，第２カメラ１６０，マイク１７０およびスピーカ１８０は、ＨＭＤ１２０の入出力インターフェイス２４０を介してコンピュータ２００との通信を行ない得る。ある局面において、入出力インターフェイス２４０は、ＵＳＢ（Universal Serial Bus）、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。入出力インターフェイス２４０は上述のものに限られない。

ある局面において、入出力インターフェイス２４０は、さらに、コントローラ３００と通信し得る。例えば、入出力インターフェイス２４０は、コントローラ３００およびモーションセンサ４２０から出力された信号の入力を受ける。別の局面において、入出力インターフェイス２４０は、プロセッサ２１０から出力された命令を、コントローラ３００に送る。当該命令は、振動、音声出力、発光等をコントローラ３００に指示する。コントローラ３００は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。

通信インターフェイス２５０は、ネットワーク２に接続されて、ネットワーク２に接続されている他のコンピュータ（例えば、サーバ６００）と通信する。ある局面において、通信インターフェイス２５０は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェイス、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェイスとして実現される。通信インターフェイス２５０は上述のものに限られない。

ある局面において、プロセッサ２１０は、ストレージ２３０にアクセスし、ストレージ２３０に格納されている１つ以上のプログラムをメモリ２２０にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ２１０は、入出力インターフェイス２４０を介して、仮想空間を提供するための信号をＨＭＤ１２０に送る。ＨＭＤ１２０は、その信号に基づいてモニタ１３０に映像を表示する。

図２に示される例では、コンピュータ２００は、ＨＭＤ１２０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ１２０に内蔵されてもよい。一例として、モニタ１３０を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。

コンピュータ２００は、複数のＨＭＤ１２０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。

ある実施の形態において、ＨＭＤシステム１００では、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、並びに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。実座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、実座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。

ある局面において、ＨＭＤセンサ４１０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１２０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１２０の存在を検出する。ＨＭＤセンサ４１０は、さらに、各点の値（実座標系における各座標値）に基づいて、ＨＭＤ１２０を装着したユーザ５の動きに応じた、現実空間内におけるＨＭＤ１２０の位置および傾き（向き）を検出する。より詳しくは、ＨＭＤセンサ４１０は、経時的に検出された各値を用いて、ＨＭＤ１２０の位置および傾きの時間的変化を検出できる。

ＨＭＤセンサ４１０によって検出されたＨＭＤ１２０の各傾きは、実座標系におけるＨＭＤ１２０の３軸周りの各傾きに相当する。ＨＭＤセンサ４１０は、実座標系におけるＨＭＤ１２０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１２０に設定する。ＨＭＤ１２０に設定されるｕｖｗ視野座標系は、ＨＭＤ１２０を装着したユーザ５が仮想空間において物体を見る際の視点座標系に対応する。

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１２０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ４１０は、ＨＭＤ１２０の起動時に、実座標系におけるＨＭＤ１２０の位置および傾きを検出する。プロセッサ２１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１２０に設定する。

図３に示されるように、ＨＭＤ１２０は、ＨＭＤ１２０を装着したユーザ５の頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１２０は、実座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、実座標系内においてＨＭＤ１２０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１２０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）として設定する。

ある局面において、ＨＭＤ１２０を装着したユーザ５が直立し、かつ、正面を視認している場合、プロセッサ２１０は、実座標系に平行なｕｖｗ視野座標系をＨＭＤ１２０に設定する。この場合、実座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１２０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）に一致する。

ｕｖｗ視野座標系がＨＭＤ１２０に設定された後、ＨＭＤセンサ４１０は、ＨＭＤ１２０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１２０の傾きを検出できる。この場合、ＨＭＤセンサ４１０は、ＨＭＤ１２０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１２０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ軸周りのＨＭＤ１２０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー軸周りのＨＭＤ１２０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール軸周りのＨＭＤ１２０の傾き角度を表す。

ＨＭＤセンサ４１０は、検出されたＨＭＤ１２０の傾きに基づいて、ＨＭＤ１２０が動いた後のＨＭＤ１２０におけるｕｖｗ視野座標系を、ＨＭＤ１２０に設定する。ＨＭＤ１２０と、ＨＭＤ１２０のｕｖｗ視野座標系との関係は、ＨＭＤ１２０の位置および傾きに関わらず、常に一定である。ＨＭＤ１２０の位置および傾きが変わると、当該位置および傾きの変化に連動して、実座標系におけるＨＭＤ１２０のｕｖｗ視野座標系の位置および傾きが変化する。

ある局面において、ＨＭＤセンサ４１０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ１２０の現実空間内における位置を、ＨＭＤセンサ４１０に対する相対位置として特定してもよい。プロセッサ２１０は、特定された相対位置に基づいて、現実空間内（実座標系）におけるＨＭＤ１２０のｕｖｗ視野座標系の原点を決定してもよい。

［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間１１を表現する一態様を概念的に表す図である。仮想空間１１は、中心１２の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間１１のうちの上半分の天球が例示されている。仮想空間１１では各メッシュが規定される。各メッシュの位置は、仮想空間１１に規定されるグローバル座標系であるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間１１に展開可能なパノラマ画像１３（静止画、動画等）を構成する各部分画像を、仮想空間１１において対応する各メッシュにそれぞれ対応付ける。

ある局面において、仮想空間１１では、中心１２を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、実座標系に平行である。ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）が実座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）が実座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）が実座標系のｚ軸と平行である。

ＨＭＤ１２０の起動時、すなわちＨＭＤ１２０の初期状態において、仮想カメラ１４が、仮想空間１１の中心１２に配置される。ある局面において、プロセッサ２１０は、仮想カメラ１４が撮影する画像をＨＭＤ１２０のモニタ１３０に表示する。仮想カメラ１４は、現実空間におけるＨＭＤ１２０の動きに連動して、仮想空間１１を同様に移動する。これにより、現実空間におけるＨＭＤ１２０の位置および傾きの変化が、仮想空間１１において同様に再現され得る。

仮想カメラ１４には、ＨＭＤ１２０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間１１における仮想カメラ１４のｕｖｗ視野座標系は、現実空間（実座標系）におけるＨＭＤ１２０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１２０の傾きが変化すると、それに応じて、仮想カメラ１４の傾きも変化する。仮想カメラ１４は、ＨＭＤ１２０を装着したユーザ５の現実空間における移動に連動して、仮想空間１１において移動することもできる。

コンピュータ２００のプロセッサ２１０は、仮想カメラ１４の位置と傾き（基準視線１６）とに基づいて、仮想空間１１における視界領域１５を規定する。視界領域１５は、仮想空間１１のうち、ＨＭＤ１２０を装着したユーザ５が視認する領域に対応する。つまり、仮想カメラ１４の位置は、仮想空間１１におけるユーザ５の視点と言える。

注視センサ１４０によって検出されるユーザ５の視線は、ユーザ５が物体を視認する際の視点座標系における方向である。ＨＭＤ１２０のｕｖｗ視野座標系は、ユーザ５がモニタ１３０を視認する際の視点座標系に等しい。仮想カメラ１４のｕｖｗ視野座標系は、ＨＭＤ１２０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ５の視線を、仮想カメラ１４のｕｖｗ視野座標系におけるユーザ５の視線とみなすことができる。

［ユーザの視線］
図５を参照して、ユーザ５の視線の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１２０を装着するユーザ５の頭部を上から表した図である。

ある局面において、注視センサ１４０は、ユーザ５の右目および左目の各視線を検出する。ある局面において、ユーザ５が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ５が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール軸ｗに対して視線Ｒ２およびＬ２が成す角度は、ロール軸ｗに対して視線Ｒ１およびＬ１が成す角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ５の視線Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ５の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線Ｎ０として検出する。視線Ｎ０は、ユーザ５が両目により実際に視線を向けている方向である。視線Ｎ０は、視界領域１５に対してユーザ５が実際に視線を向けている方向に相当する。

別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間１１においてテレビ番組を表示することができる。

さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。

［視界領域］
図６および図７を参照して、視界領域１５について説明する。図６は、仮想空間１１において視界領域１５をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間１１において視界領域１５をＹ方向から見たＸＺ断面を表す図である。

図６に示されるように、ＹＺ断面における視界領域１５は、領域１８を含む。領域１８は、仮想カメラ１４の位置と基準視線１６と仮想空間１１のＹＺ断面とによって定義される。プロセッサ２１０は、仮想空間における基準視線１６を中心として極角αを含む範囲を、領域１８として規定する。

図７に示されるように、ＸＺ断面における視界領域１５は、領域１９を含む。領域１９は、仮想カメラ１４の位置と基準視線１６と仮想空間１１のＸＺ断面とによって定義される。プロセッサ２１０は、仮想空間１１における基準視線１６を中心とした方位角βを含む範囲を、領域１９として規定する。極角αおよびβは、仮想カメラ１４の位置と仮想カメラ１４の傾き（向き）とに応じて定まる。

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像１７をモニタ１３０に表示させることにより、ユーザ５に仮想空間１１における視界を提供する。視界画像１７は、パノラマ画像１３のうち視界領域１５に対応する部分に相当する画像である。ユーザ５が、頭に装着したＨＭＤ１２０を動かすと、その動きに連動して仮想カメラ１４も動く。その結果、仮想空間１１における視界領域１５の位置が変化する。これにより、モニタ１３０に表示される視界画像１７は、パノラマ画像１３のうち、仮想空間１１においてユーザ５が向いた方向の視界領域１５に重畳する画像に更新される。ユーザ５は、仮想空間１１における所望の方向を視認することができる。

このように、仮想カメラ１４の傾きは仮想空間１１におけるユーザ５の視線（基準視線１６）に相当し、仮想カメラ１４が配置される位置は、仮想空間１１におけるユーザ５の視点に相当する。したがって、仮想カメラ１４の位置または傾きを変更することにより、モニタ１３０に表示される画像が更新され、ユーザ５の視界が移動される。

ユーザ５は、ＨＭＤ１２０を装着している間、現実世界を視認することなく、仮想空間１１に展開されるパノラマ画像１３のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間１１への高い没入感覚をユーザ５に与えることができる。

ある局面において、プロセッサ２１０は、ＨＭＤ１２０を装着したユーザ５の現実空間における移動に連動して、仮想空間１１において仮想カメラ１４を移動し得る。この場合、プロセッサ２１０は、仮想空間１１における仮想カメラ１４の位置および傾きに基づいて、ＨＭＤ１２０のモニタ１３０に投影される画像領域（視界領域１５）を特定する。

ある局面において、仮想カメラ１４は、２つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。ユーザ５が３次元の仮想空間１１を認識できるように、適切な視差が、２つの仮想カメラに設定される。別の局面において、仮想カメラ１４を１つの仮想カメラにより実現してもよい。この場合、１つの仮想カメラにより得られた画像から、右目用の画像と左目用の画像とを生成するようにしてもよい。本実施の形態においては、仮想カメラ１４が２つの仮想カメラを含み、２つの仮想カメラのロール軸が合成されることによって生成されるロール軸（ｗ）がＨＭＤ１２０のロール軸（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。

［コントローラ］
図８を参照して、コントローラ３００の一例について説明する。図８は、ある実施の形態に従うコントローラ３００の概略構成を表す図である。

図８に示されるように、ある局面において、コントローラ３００は、右コントローラ３００Ｒと図示せぬ左コントローラとを含み得る。右コントローラ３００Ｒは、ユーザ５の右手で操作される。左コントローラは、ユーザ５の左手で操作される。ある局面において、右コントローラ３００Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ５は、右コントローラ３００Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ３００は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ３００Ｒについて説明する。

右コントローラ３００Ｒは、グリップ３１０と、フレーム３２０と、天面３３０とを備える。グリップ３１０は、ユーザ５の右手によって把持されるように構成されている。たとえば、グリップ３１０は、ユーザ５の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。

グリップ３１０は、ボタン３４０，３５０と、モーションセンサ４２０とを含む。ボタン３４０は、グリップ３１０の側面に配置され、右手の中指による操作を受け付ける。ボタン３５０は、グリップ３１０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３４０，３５０は、トリガー式のボタンとして構成される。モーションセンサ４２０は、グリップ３１０の筐体に内蔵されている。ユーザ５の動作がカメラその他の装置によってユーザ５の周りから検出可能である場合には、グリップ３１０は、モーションセンサ４２０を備えなくてもよい。

フレーム３２０は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３６０を含む。赤外線ＬＥＤ３６０は、コントローラ３００を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３６０から発せられた赤外線は、右コントローラ３００Ｒと左コントローラとの各位置や姿勢（傾き、向き）を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３６０が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。

天面３３０は、ボタン３７０，３８０と、アナログスティック３９０とを備える。ボタン３７０，３８０は、プッシュ式ボタンとして構成される。ボタン３７０，３８０は、ユーザ５の右手の親指による操作を受け付ける。アナログスティック３９０は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間１１に配置されるオブジェクトを移動するための操作を含む。

ある局面において、右コントローラ３００Ｒおよび左コントローラは、赤外線ＬＥＤ３６０その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。別の局面において、右コントローラ３００Ｒと左コントローラは、たとえば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ３００Ｒおよび左コントローラは、電池を必要としない。

図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ５の右手に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ５が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。

［サーバのハードウェア構成］
図９を参照して、本実施の形態に係るサーバ６００について説明する。図９は、ある実施の形態に従うサーバ６００のハードウェア構成の一例を表すブロック図である。サーバ６００は、主たる構成要素として、プロセッサ６１０と、メモリ６２０と、ストレージ６３０と、入出力インターフェイス６４０と、通信インターフェイス６５０とを備える。各構成要素は、それぞれ、バス６６０に接続されている。

プロセッサ６１０は、サーバ６００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ６２０またはストレージ６３０に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ６１０は、ＣＰＵ、ＧＰＵ、ＭＰＵ、ＦＰＧＡその他のデバイスとして実現される。

メモリ６２０は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ６３０からロードされる。データは、サーバ６００に入力されたデータと、プロセッサ６１０によって生成されたデータとを含む。ある局面において、メモリ６２０は、ＲＡＭその他の揮発メモリとして実現される。

ストレージ６３０は、プログラムおよびデータを永続的に保持する。ストレージ６３０は、例えば、ＲＯＭ、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ６３０に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、コンピュータ２００との通信を実現するためのプログラムを含んでもよい。ストレージ６３０に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含んでもよい。

別の局面において、ストレージ６３０は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、サーバ６００に内蔵されたストレージ６３０の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行うことが可能になる。

入出力インターフェイス６４０は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス６４０は、ＵＳＢ、ＤＶＩ、ＨＤＭＩその他の端子を用いて実現される。入出力インターフェイス６４０は上述のものに限られない。

通信インターフェイス６５０は、ネットワーク２に接続されて、ネットワーク２に接続されているコンピュータ２００と通信する。ある局面において、通信インターフェイス６５０は、例えば、ＬＡＮその他の有線通信インターフェイス、あるいは、ＷｉＦｉ、Ｂｌｕｅｔｏｏｔｈ、ＮＦＣその他の無線通信インターフェイスとして実現される。通信インターフェイス６５０は上述のものに限られない。

ある局面において、プロセッサ６１０は、ストレージ６３０にアクセスし、ストレージ６３０に格納されている１つ以上のプログラムをメモリ６２０にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、サーバ６００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ６１０は、入出力インターフェイス６４０を介して、仮想空間を提供するための信号をコンピュータ２００に送ってもよい。

［ＨＭＤの制御装置］
図１０を参照して、ＨＭＤ１２０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図１０は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。

図１０に示されるように、コンピュータ２００は、コントロールモジュール５１０と、レンダリングモジュール５２０と、メモリモジュール５３０と、通信制御モジュール５４０とを備える。ある局面において、コントロールモジュール５１０とレンダリングモジュール５２０とは、プロセッサ２１０によって実現される。別の局面において、複数のプロセッサ２１０がコントロールモジュール５１０とレンダリングモジュール５２０として作動してもよい。メモリモジュール５３０は、メモリ２２０またはストレージ２３０によって実現される。通信制御モジュール５４０は、通信インターフェイス２５０によって実現される。

コントロールモジュール５１０は、ユーザ５に提供される仮想空間１１を制御する。コントロールモジュール５１０は、仮想空間１１を表す仮想空間データを用いて、ＨＭＤシステム１００における仮想空間１１を規定する。仮想空間データは、例えば、メモリモジュール５３０に記憶されている。コントロールモジュール５１０が、仮想空間データを生成したり、サーバ６００などから仮想空間データを取得するようにしたりしてもよい。

コントロールモジュール５１０は、オブジェクトを表すオブジェクトデータを用いて、仮想空間１１にオブジェクトを配置する。オブジェクトデータは、例えば、メモリモジュール５３０に記憶されている。コントロールモジュール５１０が、オブジェクトデータを生成したり、サーバ６００などからオブジェクトデータを取得するようにしたりしてもよい。オブジェクトは、例えば、ユーザ５の分身であるアバターオブジェクト、キャラクタオブジェクト、コントローラ３００によって操作される仮想手などの操作オブジェクト、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、街並み、動物等を含み得る。

コントロールモジュール５１０は、ネットワーク２を介して接続される他のコンピュータ２００のユーザ５のアバターオブジェクトを仮想空間１１に配置する。ある局面において、コントロールモジュール５１０は、ユーザ５のアバターオブジェクトを仮想空間１１に配置する。ある局面において、コントロールモジュール５１０は、ユーザ５を含む画像に基づいて、ユーザ５を模したアバターオブジェクトを仮想空間１１に配置する。別の局面において、コントロールモジュール５１０は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ５による選択を受け付けたアバターオブジェクトを仮想空間１１に配置する。

コントロールモジュール５１０は、ＨＭＤセンサ４１０の出力に基づいてＨＭＤ１２０の傾きを特定する。別の局面において、コントロールモジュール５１０は、モーションセンサとして機能するセンサ１９０の出力に基づいてＨＭＤ１２０の傾きを特定する。コントロールモジュール５１０は、第１カメラ１５０および第２カメラ１６０が生成するユーザ５の顔の画像から、ユーザ５の顔を構成する器官（例えば、口，目，眉）を検出する。コントロールモジュール５１０は、検出した各器官の動き（形状）を検出する。

コントロールモジュール５１０は、注視センサ１４０からの信号に基づいて、ユーザ５の仮想空間１１における視線を検出する。コントロールモジュール５１０は、検出したユーザ５の視線と仮想空間１１の天球とが交わる視点位置（ＸＹＺ座標系における座標値）を検出する。より具体的には、コントロールモジュール５１０は、ｕｖｗ座標系で規定されるユーザ５の視線と、仮想カメラ１４の位置および傾きとに基づいて、視点位置を検出する。コントロールモジュール５１０は、検出した視点位置をサーバ６００に送信する。別の局面において、コントロールモジュール５１０は、ユーザ５の視線を表す視線情報をサーバ６００に送信するように構成されてもよい。係る場合、サーバ６００が受信した視線情報に基づいて視点位置を算出し得る。

コントロールモジュール５１０は、ＨＭＤセンサ４１０が検出するＨＭＤ１２０の動きをアバターオブジェクトに反映する。例えば、コントロールモジュール５１０は、ＨＭＤ１２０が傾いたことを検知して、アバターオブジェクトを傾けて配置する。コントロールモジュール５１０は、検出した顔器官の動作を、仮想空間１１に配置されるアバターオブジェクトの顔に反映させる。コントロールモジュール５１０は、サーバ６００から他のユーザ５の視線情報を受信し、当該他のユーザ５のアバターオブジェクトの視線に反映させる。ある局面において、コントロールモジュール５１０は、コントローラ３００の動きをアバターオブジェクトや操作オブジェクトに反映する。この場合、コントローラ３００は、コントローラ３００の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子（例えば、赤外線ＬＥＤ）などを備える。

コントロールモジュール５１０は、仮想空間１１においてユーザ５の操作を受け付けるための操作オブジェクトを仮想空間１１に配置する。ユーザ５は、操作オブジェクトを操作することにより、例えば、仮想空間１１に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ユーザ５の手に相当する仮想手である手オブジェクト等を含み得る。ある局面において、コントロールモジュール５１０は、モーションセンサ４２０の出力に基づいて現実空間におけるユーザ５の手の動きに連動するように仮想空間１１において手オブジェクトを動かす。ある局面において、操作オブジェクトは、アバターオブジェクトの手の部分に相当し得る。

コントロールモジュール５１０は、仮想空間１１に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール５１０は、例えば、あるオブジェクトのコリジョンエリアと、別のオブジェクトのコリジョンエリアとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、コントロールモジュール５１０は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。

ある局面において、コントロールモジュール５１０は、ＨＭＤ１２０のモニタ１３０における画像表示を制御する。例えば、コントロールモジュール５１０は、仮想空間１１に仮想カメラ１４を配置する。コントロールモジュール５１０は、仮想空間１１における仮想カメラ１４の位置と、仮想カメラ１４の傾き（向き）を制御する。コントロールモジュール５１０は、ＨＭＤ１２０を装着したユーザ５の頭の傾きと、仮想カメラ１４の位置に応じて、視界領域１５を規定する。レンダリングモジュール５２０は、決定された視界領域１５に基づいて、モニタ１３０に表示される視界画像１７を生成する。レンダリングモジュール５２０により生成された視界画像１７は、通信制御モジュール５４０によってＨＭＤ１２０に出力される。

コントロールモジュール５１０は、ＨＭＤ１２０から、ユーザ５のマイク１７０を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ２００を特定する。音声データは、コントロールモジュール５１０によって特定されたコンピュータ２００に送信される。コントロールモジュール５１０は、ネットワーク２を介して他のユーザのコンピュータ２００から音声データを受信すると、当該音声データに対応する音声（発話）をスピーカ１８０から出力する。

メモリモジュール５３０は、コンピュータ２００が仮想空間１１をユーザ５に提供するために使用されるデータを保持している。ある局面において、メモリモジュール５３０は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。

空間情報は、仮想空間１１を提供するために規定された１つ以上のテンプレートを保持している。

オブジェクト情報は、仮想空間１１を構成する複数のパノラマ画像１３、仮想空間１１にオブジェクトを配置するためのオブジェクトデータを含む。パノラマ画像１３は、静止画像および動画像を含み得る。パノラマ画像１３は、非現実空間の画像と現実空間の画像とを含み得る。非現実空間の画像としては、例えば、コンピュータグラフィックスで生成された画像が挙げられる。

ユーザ情報は、ユーザ５を識別するユーザＩＤを保持する。ユーザＩＤは、例えば、ユーザが使用するコンピュータ２００に設定されるＩＰ（Internet Protocol）アドレスまたはＭＡＣ（Media Access Control）アドレスであり得る。別の局面において、ユーザＩＤはユーザによって設定され得る。ユーザ情報は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム等を含む。

メモリモジュール５３０に格納されているデータおよびプログラムは、ＨＭＤ１２０のユーザ５によって入力される。あるいは、プロセッサ２１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ６００）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール５３０に格納する。

通信制御モジュール５４０は、ネットワーク２を介して、サーバ６００その他の情報通信装置と通信し得る。

ある局面において、コントロールモジュール５１０およびレンダリングモジュール５２０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、コントロールモジュール５１０およびレンダリングモジュール５２０は、各処理を実現する回路素子の組み合わせとしても実現され得る。

コンピュータ２００における処理は、ハードウェアと、プロセッサ２１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール５３０に予め格納されている場合がある。ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール５４０を介してサーバ６００その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ２１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ２１０は、そのプログラムを実行する。

［ＨＭＤシステムの制御構造］
図１１を参照して、ＨＭＤセット１１０の制御構造について説明する。図１１は、ある実施の形態に従うＨＭＤセット１１０において実行される処理の一部を表すシーケンスチャートである。

図１１に示されるように、ステップＳ１１１０にて、コンピュータ２００のプロセッサ２１０は、コントロールモジュール５１０として、仮想空間データを特定し、仮想空間１１を定義する。

ステップＳ１１２０にて、プロセッサ２１０は、仮想カメラ１４を初期化する。たとえば、プロセッサ２１０は、メモリのワーク領域において、仮想カメラ１４を仮想空間１１において予め規定された中心１２に配置し、仮想カメラ１４の視線をユーザ５が向いている方向に向ける。

ステップＳ１１３０にて、プロセッサ２１０は、レンダリングモジュール５２０として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール５４０によってＨＭＤ１２０に出力される。

ステップＳ１１３２にて、ＨＭＤ１２０のモニタ１３０は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１２０を装着したユーザ５は、視界画像を視認すると仮想空間１１を認識し得る。

ステップＳ１１３４にて、ＨＭＤセンサ４１０は、ＨＭＤ１２０から発信される複数の赤外線光に基づいて、ＨＭＤ１２０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に出力される。

ステップＳ１１４０にて、プロセッサ２１０は、ＨＭＤ１２０の動き検知データに含まれる位置と傾きとに基づいて、ＨＭＤ１２０を装着したユーザ５の視界方向を特定する。

ステップＳ１１５０にて、プロセッサ２１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間１１にオブジェクトを配置する。

ステップＳ１１６０にて、コントローラ３００は、モーションセンサ４２０から出力される信号に基づいて、ユーザ５の操作を検出し、その検出された操作を表す検出データをコンピュータ２００に出力する。別の局面において、ユーザ５によるコントローラ３００の操作は、ユーザ５の周囲に配置されたカメラからの画像に基づいて検出されてもよい。

ステップＳ１１７０にて、プロセッサ２１０は、コントローラ３００から取得した検出データに基づいて、ユーザ５によるコントローラ３００の操作を検出する。

ステップＳ１１８０にて、プロセッサ２１０は、ユーザ５によるコントローラ３００の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール５４０によってＨＭＤ１２０に出力される。

ステップＳ１１９０にて、ＨＭＤ１２０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１３０に表示する。

［アバターオブジェクト］
図１２（Ａ）、（Ｂ）を参照して、本実施の形態に従うアバターオブジェクトについて説明する。以下、ＨＭＤセット１１０Ａ，１１０Ｂの各ユーザ５のアバターオブジェクトを説明する図である。以下、ＨＭＤセット１１０Ａのユーザをユーザ５Ａ、ＨＭＤセット１１０Ｂのユーザをユーザ５Ｂ、ＨＭＤセット１１０Ｃのユーザをユーザ５Ｃ、ＨＭＤセット１１０Ｄのユーザをユーザ５Ｄと表す。ＨＭＤセット１１０Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤセット１１０Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１１０Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１１０Ｄに関する各構成要素の参照符号にＤが付される。例えば、ＨＭＤ１２０Ａは、ＨＭＤセット１１０Ａに含まれる。

図１２（Ａ）は、ネットワーク２において、各ＨＭＤ１２０がユーザ５に仮想空間１１を提供する状況を表す模式図である。コンピュータ２００Ａ〜２００Ｄは、ＨＭＤ１２０Ａ〜１２０Ｄを介して、ユーザ５Ａ〜５Ｄに、仮想空間１１Ａ〜１１Ｄをそれぞれ提供する。図１２（Ａ）に示される例において、仮想空間１１Ａおよび仮想空間１１Ｂは同じデータによって構成されている。換言すれば、コンピュータ２００Ａとコンピュータ２００Ｂとは同じ仮想空間を共有していることになる。仮想空間１１Ａおよび仮想空間１１Ｂには、ユーザ５Ａのアバターオブジェクト６Ａと、ユーザ５Ｂのアバターオブジェクト６Ｂとが存在する。仮想空間１１Ａにおけるアバターオブジェクト６Ａおよび仮想空間１１Ｂにおけるアバターオブジェクト６ＢがそれぞれＨＭＤ１２０を装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはＨＭＤ１２０を装着していない。

ある局面において、プロセッサ２１０Ａは、ユーザ５Ａの視界画像１７Ａを撮影する仮想カメラ１４Ａを、アバターオブジェクト６Ａの目の位置に配置し得る。

図１２（Ｂ）は、図１２（Ａ）におけるユーザ５Ａの視界画像１７Ａを示す図である。視界画像１７Ａは、ＨＭＤ１２０Ａのモニタ１３０Ａに表示される画像である。この視界画像１７Ａは、仮想カメラ１４Ａにより生成された画像である。視界画像１７Ａには、ユーザ５Ｂのアバターオブジェクト６Ｂが表示されている。特に図示はしていないが、ユーザ５Ｂの視界画像にも同様に、ユーザ５Ａのアバターオブジェクト６Ａが表示されている。

図１２（Ｂ）の状態において、ユーザ５Ａは仮想空間１１Ａを介してユーザ５Ｂと対話による通信（コミュニケーション）を図ることができる。より具体的には、マイク１７０Ａにより取得されたユーザ５Ａの音声は、サーバ６００を介してユーザ５ＢのＨＭＤ１２０Ｂに送信され、ＨＭＤ１２０Ｂに設けられたスピーカ１８０Ｂから出力される。ユーザ５Ｂの音声は、サーバ６００を介してユーザ５ＡのＨＭＤ１２０Ａに送信され、ＨＭＤ１２０Ａに設けられたスピーカ１８０Ａから出力される。

ユーザ５Ｂの動作（ＨＭＤ１２０Ｂの動作およびコントローラ３００Ｂの動作）は、プロセッサ２１０Ａにより仮想空間１１Ａに配置されるアバターオブジェクト６Ｂに反映される。これにより、ユーザ５Ａは、ユーザ５Ｂの動作を、アバターオブジェクト６Ｂを通じて認識できる。

図１３は、本実施の形態に従うＨＭＤシステム１００において実行される処理の一部を表すシーケンスチャートである。図１３においては、ＨＭＤセット１１０Ｄを図示していないが、ＨＭＤセット１１０Ｄについても、ＨＭＤセット１１０Ａ、１１０Ｂ、１１０Ｃと同様に動作する。以下の説明でも、ＨＭＤセット１１０Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤセット１１０Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１１０Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１１０Ｄに関する各構成要素の参照符号にＤが付されるものとする。

ステップＳ１３１０Ａにおいて、ＨＭＤセット１１０Ａにおけるプロセッサ２１０Ａは、仮想空間１１Ａにおけるアバターオブジェクト６Ａの動作を決定するためのアバター情報を取得する。このアバター情報は、例えば、動き情報、フェイストラッキングデータ、および音声データ等のアバターに関する情報を含む。動き情報は、ＨＭＤ１２０Ａの位置および傾きの時間的変化を示す情報や、モーションセンサ４２０Ａ等により検出されたユーザ５Ａの手の動きを示す情報などを含む。フェイストラッキングデータは、ユーザ５Ａの顔の各パーツの位置および大きさを特定するデータが挙げられる。フェイストラッキングデータは、ユーザ５Ａの顔を構成する各器官の動きを示すデータや視線データが挙げられる。音声データは、ＨＭＤ１２０Ａのマイク１７０Ａによって取得されたユーザ５Ａの音声を示すデータが挙げられる。アバター情報には、アバターオブジェクト６Ａ、あるいはアバターオブジェクト６Ａに関連付けられるユーザ５Ａを特定する情報や、アバターオブジェクト６Ａが存在する仮想空間１１Ａを特定する情報等が含まれてもよい。アバターオブジェクト６Ａやユーザ５Ａを特定する情報としては、ユーザＩＤが挙げられる。アバターオブジェクト６Ａが存在する仮想空間１１Ａを特定する情報としては、ルームＩＤが挙げられる。プロセッサ２１０Ａは、上述のように取得されたアバター情報を、ネットワーク２を介してサーバ６００に送信する。

ステップＳ１３１０Ｂにおいて、ＨＭＤセット１１０Ｂにおけるプロセッサ２１０Ｂは、ステップＳ１３１０Ａにおける処理と同様に、仮想空間１１Ｂにおけるアバターオブジェクト６Ｂの動作を決定するためのアバター情報を取得し、サーバ６００に送信する。同様に、ステップＳ１３１０Ｃにおいて、ＨＭＤセット１１０Ｃにおけるプロセッサ２１０Ｃは、仮想空間１１Ｃにおけるアバターオブジェクト６Ｃの動作を決定するためのアバター情報を取得し、サーバ６００に送信する。

ステップＳ１３２０において、サーバ６００は、ＨＭＤセット１１０Ａ、ＨＭＤセット１１０Ｂ、およびＨＭＤセット１１０Ｃのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ６００は、各アバター情報に含まれるユーザＩＤおよびルームＩＤ等に基づいて、共通の仮想空間１１に関連付けられた全ユーザ（この例では、ユーザ５Ａ〜５Ｃ）のアバター情報を統合する。そして、サーバ６００は、予め定められたタイミングで、統合したアバター情報を当該仮想空間１１に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、ＨＭＤセット１１０Ａ、ＨＭＤセット１１０Ｂ、およびＨＭＤ１１０Ｃは、互いのアバター情報をほぼ同じタイミングで共有することができる。

続いて、サーバ６００から各ＨＭＤセット１１０Ａ〜１１０Ｃに送信されたアバター情報に基づいて、各ＨＭＤセット１１０Ａ〜１１０Ｃは、ステップＳ１３３０Ａ〜Ｓ１３３０Ｃの処理を実行する。ステップＳ１３３０Ａの処理は、図１１におけるステップＳ１１８０の処理に相当する。

ステップＳ１３３０Ａにおいて、ＨＭＤセット１１０Ａにおけるプロセッサ２１０Ａは、仮想空間１１Ａにおける他のユーザ５Ｂ，５Ｃのアバターオブジェクト６Ｂ、アバターオブジェクト６Ｃの情報を更新する。具体的には、プロセッサ２１０Ａは、ＨＭＤセット１１０Ｂから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間１１におけるアバターオブジェクト６Ｂの位置および向き等を更新する。例えば、プロセッサ２１０Ａは、メモリモジュール５３０に格納されたオブジェクト情報に含まれるアバターオブジェクト６Ｂの情報（位置および向き等）を更新する。同様に、プロセッサ２１０Ａは、ＨＭＤセット１１０Ｃから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間１１におけるアバターオブジェクト６Ｃの情報（位置および向き等）を更新する。

ステップＳ１３３０Ｂにおいて、ＨＭＤセット１１０Ｂにおけるプロセッサ２１０Ｂは、ステップＳ１３３０Ａにおける処理と同様に、仮想空間１１Ｂにおけるユーザ５Ａ，５Ｃのアバターオブジェクト６Ａ，６Ｃの情報を更新する。同様に、ステップＳ１３３０Ｃにおいて、ＨＭＤセット１１０Ｃにおけるプロセッサ２１０Ｃは、仮想空間１１Ｃにおけるユーザ５Ａ，５Ｂのアバターオブジェクト６Ａ，６Ｂの情報を更新する。

［モジュールの詳細構成］
図１４を参照して、コンピュータ２００のモジュール構成の詳細について説明する。図１４は、ある実施の形態に従うコンピュータ２００のモジュールの詳細構成を表すブロック図である。

図１４に示されるように、コントロールモジュール５１０は、仮想カメラ制御モジュール１４２１と、視界領域決定モジュール１４２２と、基準視線特定モジュール１４２３と、顔器官検出モジュール１４２４と、動き検出モジュール１４２５と、仮想空間定義モジュール１４２６と、仮想オブジェクト生成モジュール１４２７と、操作オブジェクト制御モジュール１４２８と、アバター制御モジュール１４２９と、を備える。レンダリングモジュール５２０は、視界画像生成モジュール１４３８を備える。メモリモジュール５３０は、空間情報１４３１と、オブジェクト情報１４３２と、ユーザ情報１４３３と、顔情報１４３４と、を保持している。

仮想カメラ制御モジュール１４２１は、仮想空間１１に仮想カメラ１４を配置する。仮想カメラ制御モジュール１４２１は、仮想空間１１における仮想カメラ１４の配置位置と、仮想カメラ１４の向き（傾き）を制御する。視界領域決定モジュール１４２２は、ＨＭＤ１２０を装着したユーザの頭の向きと、仮想カメラ１４の配置位置に応じて、視界領域１５を規定する。視界画像生成モジュール１４３８は、決定された視界領域１５に基づいて、モニタ１３０に表示される視界画像１７を生成する。

基準視線特定モジュール１４２３は、注視センサ１４０からの信号に基づいて、ユーザ５の視線を特定する。顔器官検出モジュール１４２４は、第１カメラ１５０および第２カメラ１６０が生成するユーザ５の顔の画像から、ユーザ５の顔を構成する器官（例えば、口，目，眉）を検出する。動き検出モジュール１４２５は、顔器官検出モジュール１４２４が検出した各器官の動き（形状）を検出する。

仮想空間定義モジュール１４２６は、仮想空間１１を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間１１を規定する。

仮想オブジェクト生成モジュール１４２７は、仮想空間１１に配置されるオブジェクトを生成する。オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。

操作オブジェクト制御モジュール１４２８は、仮想空間１１においてユーザの操作を受け付けるための操作オブジェクトを仮想空間１１に配置する。ユーザは、操作オブジェクトを操作することにより、例えば、仮想空間１１に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ１２０を装着したユーザの手に相当する手オブジェクト等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。

アバター制御モジュール１４２９は、ネットワーク２を介して接続される他のコンピュータ２００のユーザのアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。ある局面において、アバター制御モジュール１４２９は、ユーザ５のアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。ある局面において、アバター制御モジュール１４２９は、ユーザ５を含む画像に基づいて、ユーザ５を模したアバターオブジェクトを生成する。別の局面において、アバター制御モジュール１４２９は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ５による選択を受け付けたアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。

アバター制御モジュール１４２９は、ＨＭＤセンサ４１０が検出するＨＭＤ１２０の動きをアバターオブジェクトに反映する。例えば、アバター制御モジュール１４２９は、ＨＭＤ１２０が傾いたことを検知して、アバターオブジェクトを傾けて配置するためのデータを生成する。ある局面において、アバター制御モジュール１４２９は、コントローラ３００の動きをアバターオブジェクトに反映する。この場合、コントローラ３００は、コントローラ３００の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子（例えば、赤外線ＬＥＤ）などを備える。アバター制御モジュール１４２９は、動き検出モジュール１４２５が検出した顔器官の動作を、仮想空間１１に配置されるアバターオブジェクトの顔に反映させる。つまり、アバター制御モジュール１４２９は、ユーザ５Ａの顔の動作をアバターオブジェクトに反映する。

コントロールモジュール５１０は、仮想空間１１に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール５１０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール１４２８は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。

メモリモジュール５３０は、コンピュータ２００が仮想空間１１をユーザ５に提供するために使用されるデータを保持している。ある局面において、メモリモジュール５３０は、空間情報１４３１と、オブジェクト情報１４３２と、ユーザ情報１４３３と、顔情報１４３４とを保持している。

空間情報１４３１は、仮想空間１１を提供するために規定された１つ以上のテンプレートを保持している。

オブジェクト情報１４３２は、仮想空間１１において再生されるコンテンツ、当該コンテンツで使用されるオブジェクト、およびオブジェクトを仮想空間１１に配置するための情報（たとえば、位置情報）を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。

ユーザ情報１４３３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報１４３２に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。

顔情報１４３４は、顔器官検出モジュール１４２４が、ユーザ５の顔器官を検出するために予め記憶されたテンプレートを保持している。ある局面において、顔情報１４３４は、口テンプレート１４３５と、目テンプレート１４３６と、眉テンプレート１４３７とを保持する。各テンプレートは、顔を構成する器官に対応する画像であり得る。例えば、口テンプレート１４３５は、口の画像であり得る。各テンプレートは複数の画像を含んでもよい。

［３６０度動画の撮影］
次に、ある実施の形態に従う３６０度動画の撮影について説明する。図１５は、ある実施の形態に従う３６０度カメラに係る構成の概略を表す図である。ある実施の形態において、図１に示した外部機器７００は、３６０度カメラ１５３９Ａ、３６０度カメラ１５３９Ｂ及び３６０度カメラ１５３９Ｃを含む。３６０度カメラ１５３９Ａ、１５３９Ｂ及び１５３９Ｃの各々はネットワーク２を介してサーバ６００やＨＭＤセット１１０のコンピュータ２００と通信可能に構成される。以下、３６０度カメラ１５３９Ａ、１５３９Ｂ及び１５３９Ｃを総称して、３６０度カメラ１５３９とも言う。３６０度カメラ１５３９の数は、３つに限られず、２つであってもよいし、４つ以上であってもよい。３６０度カメラ１５３９は、現実空間の設置位置における全方位の映像である全方位動画（３６０度動画）を撮影する。

本実施の形態では、３６０度カメラ１５３９を現実空間の部屋に設置し、部屋の様子を撮影する。図１６は、図１５に示した３６０度カメラを設置する部屋の間取りの一例を示す平面図である。図１６に示すシェアハウス１６４１は、現実空間において複数の人物が共同生活する家である。共同生活する人物は、男性だけでもよいし、女性だけでもよいし、男性と女性の混合であってもよい。シェアハウス１６４１での共同生活は、脚本のあるドラマであってもよいし、脚本のない自由な生活でもよい。ユーザ５は、頭部にＨＭＤ１２０を装着して、詳しくは後述するように、３６０度カメラ１５３９で撮影したシェアハウス１６４１の様子を視聴する。

シェアハウス１６４１は、部屋１６４２、部屋１６４３、部屋１６４４、部屋１６４５及び廊下１６４６を有する。部屋１６４２と部屋１６４３との間には扉１６４７が設けられており、共同生活する人物は扉１６４７を開けて部屋１６４２と部屋１６４３を行き来することができる。部屋１６４２と廊下１６４６との間には扉１６４８が設けられており、共同生活する人物は扉１６４８を開けて部屋１６４２と廊下１６４６を行き来することができる。部屋１６４３と廊下１６４６との間には扉１６４９が設けられており、共同生活する人物は扉１６４９を開けて部屋１６４３と廊下１６４６を行き来することができる。部屋１６４４と廊下１６４６との間には扉１６５１が設けられており、共同生活する人物は扉１６５１を開けて部屋１６４４と廊下１６４６を行き来することができる。部屋１６４５と廊下１６４６との間には扉１６５２が設けられており、共同生活する人物は扉１６５２を開けて部屋１６４５と廊下１６４６を行き来することができる。

３６０度カメラ１５３９は、２つの超広角レンズを用いて全天球が撮影可能なカメラであってもよいし、１つの超広角レンズを用いて半球が撮影可能なカメラであってもよい。３６０度カメラ１５３９は、設置された位置において全方向の３６０度動画を撮影する。なお、３６０度カメラ１５３９は、例えば、正六面体の各面に１個ずつカメラを設けて全方向を撮影し、各面に設けた合計６個のカメラによる撮影動画を合成して３６０度動画を得るようにしてもよい。また、３６０度カメラ１５３９は、視差により立体視が可能な３次元の３６０度動画を撮影するカメラであってもよい。

部屋１６４２には３６０度カメラ１５３９Ａを設置し、３６０度カメラ１５３９Ａによって部屋１６４２内を撮影する。部屋１６４３には３６０度カメラ１５３９Ｂを設置し、３６０度カメラ１５３９Ｂによって部屋１６４３内を撮影する。部屋１６４４には３６０度カメラ１５３９Ｃを設置し、３６０度カメラ１５３９Ｃによって部屋１６４４内を撮影する。３６０度カメラ１５３９によって撮影した３６０度動画は、ネットワーク２を介してコンピュータ２００に送信される。ＨＭＤ１２０には、３６０度カメラ１５３９Ａ、１５３９Ｂ及び１５３９Ｃのうちのいずれかによる撮影動画が選択されて表示される。

本実施の形態においては、仮想空間１１に表示オブジェクトを配置し、３６０度カメラ１５３９によって撮影した３６０度動画をこの表示オブジェクトに表示することで、上述のようにレンダリングモジュール５２０が視界画像データを生成し、ＨＭＤ１２０のモニタ１３０に３６０度動画を表示する。ある実施の形態において、３６０度カメラ１５３９によって撮影した３６０度動画は、図１１のステップＳ１１８０において、視野座標系の視界画像データに重ね合わせることでモニタ１３０に表示するようにしてもよい。また、ある実施の形態において、３６０度カメラ１５３９によって撮影した３６０度動画は、図１１のステップＳ１１８０で出力する視界画像データとして用いることでモニタ１３０に表示するようにしてもよい。

仮想カメラ１４は、現実空間におけるＨＭＤ１２０の動きに連動して、仮想空間１１において移動する。これにより、現実空間におけるＨＭＤ１２０の位置および傾きの変化が、仮想カメラ１４の動きの変化として仮想空間１１において再現される。仮想空間１１の表示オブジェクトに表示した３６０度動画は、パノラマ画像１３を構成する画像として用いられ、現実空間におけるＨＭＤ１２０の動きに連動して、３６０度動画のうち仮想カメラ１４が撮影する領域が移動する。

［３６０度動画の表示］
続いて、ＨＭＤ１２０のモニタ１３０における３６０度動画の表示について説明する。ユーザ５が、ＨＭＤセット１１０を用いて、シェアハウス１６４１を撮影した３６０度動画を視聴するとき、シェアハウス１６４１内の移動物（例えば人物）の中から、目当ての移動物（例えばお気に入りの女の子）の行動に注目し、目当ての移動物を常に見ていたい場合がある。この場合、３６０度カメラ１５３９は部屋ごとに３６０度動画を撮影することから、目当ての移動物が部屋を移動した場合、３６０度カメラ１５３９の切替えを行わなければならない。ユーザ５は、３６０度カメラ１５３９のうちどのカメラに切替えればよいのか迷うこともあれば、切替操作が面倒と感じる場合もある。そこで、ある実施の形態では、目当ての移動物を追跡対象物とし、ユーザ５が視聴する３６０度カメラ１５３９を自動で切替え、ユーザ５による３６０度動画の視聴時の利便性を向上する。図１７は、ある実施の形態に従うＨＭＤセットにおいて実行される処理の一部であって、３６０度カメラによって撮影した３６０度動画の表示制御に係る処理を示すフローチャートである。ステップＳ１７５３では初期設定を行う。

ＨＭＤセット１１０のコンピュータ２００では、処理開始時に、３６０度カメラ１５３９のうちのいずれかを選択し、その選択した３６０度カメラ１５３９により撮影した３６０度動画を、仮想空間１１の表示オブジェクトに表示する。ステップＳ１７５３の初期設定では、処理開始後、最初に表示する３６０度動画をどの３６０度カメラ１５３９により撮影したものにするかの設定を行う。この設定では、当初表示するカメラとして登録してある３６０度カメラ１５３９による３６０度動画を表示するように動作する。当初表示するカメラの登録は、コンピュータ２００に予め登録しておくものであってもよいし、ユーザ５が登録するものであってもよい。ユーザ５による登録は、モニタ１３０の表示を参照しながらコントローラ３００を操作して登録することができる。この当初表示するカメラの登録は、いつでも行うことができるようにしてもよい。

また、ステップＳ１７５３の初期設定では、自動切替モードの設定を行うことができる。自動切替モードは、追跡対象物の部屋移動に応じて、３６０度カメラ１５３９のうち３６０度動画を表示するカメラを自動で切替えるモードである。自動切替モードに設定するか否かは、ユーザ５がモニタ１３０の表示を参照しながらコントローラ３００を操作して登録することができる。

また、ステップＳ１７５３の初期設定では、追跡対象物の設定を行うことができる。人物を撮影している３６０度動画を表示している場合には、人物を追跡対象物としてもよいし、犬や猫といった愛玩動物などの動物を撮影している３６０度動画を表示している場合には、動物を追跡対象物としてもよい。追跡対象物の設定としては、人物が追跡対象物である場合には、例えば、特定の人物を追跡するように設定してもよいし、男性を追跡するように設定してもよいし、女性を追跡するように設定してもよい。また追跡対象物の設定としては、動物が追跡対象物である場合には、例えば、特定の動物を追跡するように設定してもよいし、ある種類の動物を追跡するように設定してもよい。ある実施の形態では、ステップＳ１７５３の初期設定において追跡対象物の設定を行わなくてもよい。

ステップＳ１７５３に続くステップＳ１７５４では、自動切替モードが設定されているか否かを判定する。自動切替モードが設定されていない場合（ステップＳ１７５４：Ｎｏ）には、ステップＳ１７５５に進む。ステップＳ１７５５では、３６０度カメラ１５３９のうち３６０度動画を表示するカメラの自動切替えを行わず、ユーザ５がモニタ１３０の表示を参照しながらコントローラ３００を操作して、３６０度カメラ１５３９のうち３６０度動画を表示するカメラの切替えを行う。例えば、ユーザ５は、コントローラ３００を操作して、図１６に示した部屋１６４２、部屋１６４３及び部屋１６４４のうち見たい部屋を入力する。コンピュータ２００では、このユーザ５の入力を受け付けて、３６０度カメラ１５３９のうち、入力された部屋に設置してあるカメラを選択し、この選択した３６０度カメラ１５３９により撮影した３６０度動画を、仮想空間１１の表示オブジェクトに表示する。

ステップＳ１７５４において自動切替モードが設定されている場合（ステップＳ１７５４：Ｙｅｓ）には、ステップＳ１７５６に進み、自動切替処理を実行する。なお、ステップＳ１７５４において自動切替モードが設定されている場合であっても、ステップＳ１７５５と同様に、ユーザ５がコントローラ３００を操作して、３６０度カメラ１５３９のうち３６０度動画を表示するカメラを切替えることができるようにしてもよい。ステップＳ１７５６の自動切替処理については、以下に、図１８を参照しながら説明する。

図１８は、図１７のステップＳ１７５６に示した自動切替処理の一例を示すフローチャートである。まず、ステップＳ１８５７では、追跡対象物特定処理を行う。図１７のステップＳ１７５３の初期設定で追跡対象物の設定をしていた場合には、ステップＳ１８５７の追跡対象物特定処理では、ステップＳ１７５３で設定した追跡対象物を、追跡対象物として特定する。追跡対象物の特定とは、その追跡対象物を他の移動物と識別可能な識別情報を取得することである。この識別情報としては、例えば、３６０度カメラ１５３９で撮影した画像から追跡対象物である人物の顔認識を行い、この顔認識の結果を識別情報とすることができる。この場合、ステップＳ１７５３において設定する追跡対象物も顔認識によって他の移動物と識別し、追跡対象物として設定すればよい。

また、ある実施の形態では、追跡対象物を他の移動物と識別可能な識別情報として、追跡対象物の服の色を用いることができる。例えば、３６０度カメラ１５３９で撮影した画像において、追跡対象物の顔から３０ピクセル下がった位置の画素の色を、追跡対象物の服の色として検出することができる。また、ある実施の形態では、追跡対象物を他の移動物と識別可能な識別情報として、追跡対象物の顔認識の結果及び服の色を用いることができる。この実施の形態によれば、追跡対象物が双子の場合など顔だけでは識別困難なときに双子に予め異なる色の服を着てもらうことで双子の識別も可能となる。

また、ある実施の形態では、追跡対象物を他の移動物と識別可能な識別情報として、追跡対象物が携帯するＩＣカードに記憶された情報を用いることができる。この場合、各部屋の出入り口（扉付近）にＩＣカードに記憶された情報を読み取り可能なカードリーダを設置し、追跡対象物が部屋を出入りするときにはＩＣカードをカードリーダにかざすことで、追跡対象物の所在を特定することができる。この場合、後述するステップＳ１８６１のカメラ切替処理では、カードリーダによる読取結果によって判別した追跡対象物の所在に応じ、３６０度カメラ１５３９のうち追跡対象物が所在する部屋に設置したカメラによって撮影した３６０度動画を、仮想空間１１の表示オブジェクトに表示する。

ある実施の形態において、シェアハウス１６４１で共同生活する移動物である人物は、共同生活を公開することで金銭的収入を得ることができるものとしてもよい。この場合、自身が追跡対象物とされた数に応じて収入の額を増減してもよい。このようにすることで、シェアハウス１６４１で共同生活する人物は、自身が他の人と識別可能となるように積極的に服の色を変えたり、部屋を出入りするときのＩＣカードのかざし忘れをなくしたりすることになり、これにより、追跡対象物の識別精度を向上し、後述する自動切替モードでの切替精度を向上することができる。

なお、ステップＳ１７５３で追跡対象物を設定しなかった場合、ステップＳ１８５７において、どの移動物を追跡対象物として特定するかは、以下のようにすることができる。上述のようにＨＭＤセット１１０は注視センサ１４０によってユーザ５の視線を検出することができる。そこで、ある実施の形態において、ユーザ５の視線が同一の移動物に所定時間（例えば１分）以上向けられていた場合、その移動物を追跡対象物として特定する。また、ある実施の形態において、ある移動物が部屋から出たときに、ユーザ５の視線がその移動物に向けられていた場合、その移動物を追跡対象物として特定する。移動物が部屋から出たことの検出は、例えば、現在表示している３６０度動画において、部屋ごとの扉（部屋１６４２であれば扉１６４７又は１６４８、部屋１６４３であれば扉１６４９、部屋１６４４であれば扉１６５１）の近傍でその移動物が消えたことによって検出することができる。

また、ある実施の形態において、移動物が部屋から出たことの検出は、視界画像１７の端部以外に移動物が所在しているときに、その移動物が視界画像１７から消えたことによって検出することができる。

ステップＳ１８５７に続くステップＳ１８５８では、追跡対象物追跡処理を行う。ステップＳ１８５８の追跡対象物追跡処理では、ステップＳ１８５７で特定した追跡対象物を追跡する。すなわち、ステップＳ１８５７で取得した識別情報の移動物である追跡対象物が、現在表示している３６０度動画内のどこに位置しているのかを追跡する。

ステップＳ１８５８に続くステップＳ１８５９では、ステップＳ１８５８で追跡している追跡対象物が、３６０度カメラ１５３９のうち現在表示している３６０度動画を撮影しているカメラが設置されている部屋を出たか否かを判定する。追跡対象物が部屋から出たことの検出は、上述と同様である。なお、追跡対象物が、部屋ごとの扉の近傍以外で、現在表示している３６０度動画から消えた場合も、追跡対象物が部屋から出たとしてもよいし、この場合は追跡対象物がタンスの裏に隠れているなど追跡対象物が部屋から出ていないとしてもよい。追跡対象物が部屋を出ていない場合（ステップＳ１８５９：Ｎｏ）には、ステップＳ１８５８に戻って処理を継続する。

ステップＳ１８５９において追跡対象物が部屋を出た場合（ステップＳ１８５９：Ｙｅｓ）には、ステップＳ１８６１に進み、カメラ切替処理を行う。ステップＳ１８６１のカメラ切替処理が済んだならば、ステップＳ１８５８に戻って処理を継続する。ステップＳ１８６１のカメラ切替処理について以下に説明する。

ある実施の形態では、ステップＳ１８６１のカメラ切替処理は、追跡対象物が現在の部屋から出たことを契機に、仮想空間１１の表示オブジェクトへの表示を、現在まで表示していた３６０度動画から黒一面の暗転画像に切り替える。その後、すべての３６０度カメラ１５３９が撮影した３６０度動画のいずれかに、追跡対象物が現れたことを契機に、仮想空間１１の表示オブジェクトへの表示を、暗転画像から追跡対象物が現れた３６０度動画に切り替える。図１６に示したように、例えば部屋１６４２と部屋１６４４とは、扉一つでつながっておらずに廊下１６４６を介している。このような場合、追跡対象物が廊下１６４６にいるときに、暗転画像を表示することで、表示している部屋の切替わりを、ユーザ５にはっきりと認識させることができ、ユーザ５が追跡対象物の行動をより認識しやすくなる。

ある実施の形態では、ステップＳ１８６１のカメラ切替処理は、追跡対象物が現在の部屋から出た後、すべての３６０度カメラ１５３９が撮影した３６０度動画のいずれかに、追跡対象物が現れたことを契機に、仮想空間１１の表示オブジェクトへの表示を、現在まで表示していた３６０度動画から追跡対象物が現れた３６０度動画に切り替える。図１６に示したように、例えば部屋１６４２と部屋１６４３とは、一つの扉１６４７でつながっている。このような場合、暗転画像を挟まないことで、追跡対象物の行動を少しでも見逃したくないというユーザ５の要望に応えることができる。また、例えば部屋１６４２と部屋１６４４とは、扉一つでつながっておらずに廊下１６４６を介している。このような場合、追跡対象物が廊下１６４６にいるときに、現在まで表示していた３６０度動画をそのまま表示し続けることで、ユーザ５は、追跡対象物が部屋から出た後の、他の移動物の態度などの余韻を楽しむことができる。

なお、ある実施の形態では、図１８のステップＳ１８５８の追跡対象物追跡処理を実施しない。この場合、部屋内で追跡対象物を継続して追跡せずに、追跡対象物の部屋への出入りだけを監視する。例えば、上述のように追跡対象物がＩＣカードを携帯し、各部屋の出入り口（扉付近）に設置されたカードリーダにＩＣカードをかざすことで、追跡対象物の部屋への出入りを監視することができる。

また、ある実施の形態では、追跡対象物の部屋への出入りを監視する場合、各部屋の出入り口（扉付近）に３６０度カメラ１５３９よりも解像度が高い固定カメラを設置し、この解像度が高い固定カメラで撮影した画像によって追跡対象物である人物の顔認識を行うことにより、顔認識の精度をより高めることができる。

また、ある実施の形態では、追跡対象物の顔認識において、再帰型などの機械学習を行うことで、データの蓄積とともに顔認識の精度を向上させることができる。

なお、追跡対象物は、仮想空間１１に配置したアバターオブジェクトなどのＣＧであってもよい。

上記実施形態においては、ＨＭＤによってユーザが没入する仮想空間（ＶＲ空間）を例示して説明したが、ＨＭＤとして、透過型のＨＭＤを採用してもよい。この場合、透過型のＨＭＤを介してユーザが視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実（ＡＲ：Augmented Reality）空間または複合現実（ＭＲ：Mixed Reality）空間における仮想体験をユーザに提供してもよい。この場合、操作オブジェクトに代えて、ユーザの手の動きに基づいて、仮想空間内における対象オブジェクトへの作用を生じさせてもよい。具体的には、プロセッサは、現実空間におけるユーザの手の位置の座標情報を特定するとともに、仮想空間内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサは、現実空間におけるユーザの手と仮想空間における対象オブジェクトとの位置関係を把握し、ユーザの手と対象オブジェクトとの間で上述したコリジョン制御等に対応する処理を実行可能となる。その結果、ユーザの手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。

本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。

（構成）
以上に開示された技術的特徴は、以下のように要約され得る。

（構成１）
ある実施形態によれば、プログラムにおいて、プロセッサに、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。
（構成２）
ある実施形態によれば、構成１に記載のプログラムにおいて、前記検知するステップは、前記対象物が前記第１の空間を出たことを検知し、前記対象物が前記第２の空間に入ったことを検知し、前記切替えるステップは、前記検知するステップによって前記対象物が前記第１の空間を出たことを検出した後、前記対象物が前記第２の空間に入ったことを検出したタイミングで、前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から前記第２の３６０度カメラで撮影した画像に切替える。
（構成３）
ある実施形態によれば、構成１に記載のプログラムにおいて、前記検知するステップは、前記対象物が前記第１の空間を出たことを検知し、前記対象物が前記第２の空間に入ったことを検知し、前記切替えるステップは、前記検知するステップによって前記対象物が前記第１の空間を出たことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から暗転画像に切替え、前記検知するステップによって前記対象物が前記第２の空間に入ったことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を暗転画像から前記第２の３６０度カメラで撮影した画像に切替える。
（構成４）
ある実施形態によれば、構成１から３のいずれか一項に記載のプログラムにおいて、前記追跡対象物は、人物であり、前記検知するステップは、前記第１の空間を撮影した画像及び前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する。
（構成５）
ある実施形態によれば、構成４に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の顔を認識し、前記認識した顔によって前記追跡対象物を特定する。
（構成６）
ある実施形態によれば、構成５に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の顔の認識において機械学習を行う。
（構成７）
ある実施形態によれば、構成５又は６に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の服の色をさらに認識し、前記認識した顔及び服の色によって前記追跡対象物を特定する。
（構成８）
ある実施形態によれば、構成４に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の服の色を認識し、前記認識した服の色によって前記追跡対象物を特定する。
（構成９）
ある実施形態によれば、構成４から８のいずれか一項に記載のプログラムにおいて、前記検知するステップは、前記第１の３６０度カメラで前記第１の空間を撮影した画像及び前記第２の３６０度カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する。
（構成１０）
ある実施形態によれば、構成４から８のいずれか一項に記載のプログラムにおいて、前記検知するステップは、第１の固定カメラで前記第１の空間を撮影した画像及び第２の固定カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する。
（構成１１）
ある実施形態によれば、構成１から３のいずれか一項に記載のプログラムにおいて、前記追跡対象物は、人物であり、前記検知するステップは、第１のセンサによって前記対象物が前記第１の空間を出たことを検知し、第２のセンサによって前記対象物が前記第２の空間に入ったことを検知する。
（構成１２）
ある実施形態によれば、構成４から１１のいずれか一項に記載のプログラムにおいて、プロセッサに、前記表示するステップよりも前に、前記複数の移動物のうちのいずれが前記追跡対象物であるかを事前登録するステップ、をさらに実行させる。
（構成１３）
ある実施形態によれば、構成４から１１のいずれか一項に記載のプログラムにおいて、プロセッサに、ユーザの注目に基づいて、前記複数の移動物のうちのいずれが前記追跡対象物であるかを登録するステップ、をさらに実行させる。
（構成１４）
ある実施形態によれば、構成１３に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のそれぞれが前記第１の空間から出るタイミングにおけるユーザの注目に基づいて、前記複数の移動物のうちのいずれが前記追跡対象物であるかを登録する。
（構成１５）
ある実施形態によれば、構成１４に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界に含まれていた移動物を、前記追跡対象物であるとして登録する。
（構成１６）
ある実施形態によれば、構成１５に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界の端部以外に存在した状態から消えた移動物を、前記追跡対象物であるとして登録する。
（構成１７）
ある実施形態によれば、構成１５に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界の中央に存在する移動物を、前記追跡対象物であるとして登録する。
（構成１８）
ある実施形態によれば、構成１７に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングでユーザの視界の中央に存在する移動物である人物を顔認識で特定する。
（構成１９）
ある実施形態によれば、構成１７に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングでユーザの視界の中央に存在する移動物である人物を顔認識で特定し、特定した人物の特徴点を追跡する。
（構成２０）
ある実施形態によれば、ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、仮想視点と表示オブジェクトとを含む、３次元の仮想空間を定義するステップと、第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、前記入力された画像を前記表示オブジェクトに表示するステップと、前記ヘッドマウントデバイスが関連付けられたユーザの頭部の動きを検出するステップと、前記頭部の動きに応じて、前記仮想視点からの視界を制御するステップと、前記視界に対応する視界画像を前記ヘッドマウントデバイスに表示するステップと、を実行させ、前記表示オブジェクトに表示するステップは、追跡対象物が前記第１の３６０度カメラで撮影した画像にいる場合、前記入力された画像のうち前記第１の３６０度カメラで撮影した画像を前記表示オブジェクトに表示し、前記追跡対象物が前記第１の３６０度カメラで撮影した画像から消えて前記第２の３６０度カメラで撮影した画像に現れた場合、前記表示オブジェクトに表示する画像を、前記入力された画像のうち前記第２の３６０度カメラで撮影した画像に切替える。
（構成２１）
ある実施形態によれば、プロセッサで実行される方法であって、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を備える。
（構成２２）
ある実施形態によれば、情報処理装置において、プロセッサと、プログラムを格納したメモリと、を備え、前記プログラムは、前記プロセッサに、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。
（構成２３）
ある実施形態によれば、プログラムにおいて、プロセッサに、第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、追跡対象物が前記第１の３６０度カメラで撮影した画像にいる場合、前記入力された画像のうち前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第１の３６０度カメラで撮影した画像から消えて前記第２の３６０度カメラで撮影した画像に現れた場合、前記ヘッドマウントデバイスに表示する画像を、前記入力された画像のうち前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。
（構成２４）
ある実施形態によれば、プログラムにおいて、前記第１の３６０度カメラは、第１の空間を撮影するカメラであり、前記第２の３６０度カメラは、第２の空間を撮影するカメラであり、前記第１の空間と前記第２の空間とは異なる空間である。
（構成２５）
ある実施形態によれば、プログラムにおいて、プロセッサに、第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、前記入力された画像に写っている追跡対象物を特定するステップと、前記入力された画像のうち前記追跡対象物が写っている画像を選択するステップと、前記選択するステップで選択した画像をヘッドマウントデバイスに表示するステップと、を実行させる。

今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。

２…ネットワーク、５…ユーザ、６…アバターオブジェクト、１１…仮想空間、１２…中心、１４…仮想カメラ、１５…視界領域、１００…ＨＭＤシステム、１１０…ＨＭＤセット、１３０…モニタ、１７０…マイク、１８０…スピーカ、１９０…センサ、２００…コンピュータ、２１０…プロセッサ、２２０…メモリ、２３０…ストレージ、２４０…入出力インターフェイス、２５０…通信インターフェイス、３００…コントローラ、３１０…グリップ、３２０…フレーム、３４０、３５０、３７０、３８０…ボタン、３９０…アナログスティック、４１０…ＨＭＤセンサ、４２０…モーションセンサ、４３０…ディスプレイ、５１０…コントロールモジュール、５２０…レンダリングモジュール、５３０…メモリモジュール、５４０…通信制御モジュール、６００…サーバ、６１０…プロセッサ、６２０…メモリ、６３０…ストレージ、６４０…入出力インターフェイス、６５０…通信インターフェイス、１４２１…仮想カメラ制御モジュール、１４２２…視界領域決定モジュール、１４２３…基準視線特定モジュール、１４２４…動き検出モジュール、１４２４…顔器官検出モジュール、１４２５…動き検出モジュール、１４２６…仮想空間定義モジュール、１４２７…仮想オブジェクト生成モジュール、１４２８…操作オブジェクト制御モジュール、１４２９…アバター制御モジュール、１４３１…空間情報、１４３２…オブジェクト情報、１４３３…ユーザ情報、１４３４…顔情報、１４３５…口テンプレート、１４３８…視界画像生成モジュール。

Claims

プロセッサに、
第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、
前記追跡対象物が前記第２の空間に移動したことを検知するステップと、
前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、
を実行させる、
プログラム。
前記検知するステップは、
前記対象物が前記第１の空間を出たことを検知し、
前記対象物が前記第２の空間に入ったことを検知し、
前記切替えるステップは、
前記検知するステップによって前記対象物が前記第１の空間を出たことを検出した後、前記対象物が前記第２の空間に入ったことを検出したタイミングで、前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から前記第２の３６０度カメラで撮影した画像に切替える、
請求項１に記載のプログラム。
前記検知するステップは、
前記対象物が前記第１の空間を出たことを検知し、
前記対象物が前記第２の空間に入ったことを検知し、
前記切替えるステップは、
前記検知するステップによって前記対象物が前記第１の空間を出たことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から暗転画像に切替え、
前記検知するステップによって前記対象物が前記第２の空間に入ったことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を暗転画像から前記第２の３６０度カメラで撮影した画像に切替える、
請求項１に記載のプログラム。
前記追跡対象物は、人物であり、
前記検知するステップは、
前記第１の空間を撮影した画像及び前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する、
請求項１から３のいずれか一項に記載のプログラム。
前記検知するステップは、
前記追跡対象物である人物の顔を認識し、
前記認識した顔によって前記追跡対象物を特定する、
請求項４に記載のプログラム。
前記検知するステップは、
前記追跡対象物である人物の顔の認識において機械学習を行う、
請求項５に記載のプログラム。
前記検知するステップは、
前記追跡対象物である人物の服の色をさらに認識し、
前記認識した顔及び服の色によって前記追跡対象物を特定する、
請求項５又は６に記載のプログラム。
前記検知するステップは、
前記追跡対象物である人物の服の色を認識し、
前記認識した服の色によって前記追跡対象物を特定する、
請求項４に記載のプログラム。
前記検知するステップは、
前記第１の３６０度カメラで前記第１の空間を撮影した画像及び前記第２の３６０度カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する、
請求項４から８のいずれか一項に記載のプログラム。
前記検知するステップは、
第１の固定カメラで前記第１の空間を撮影した画像及び第２の固定カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する、
請求項４から８のいずれか一項に記載のプログラム。
前記追跡対象物は、人物であり、
前記検知するステップは、
第１のセンサによって前記対象物が前記第１の空間を出たことを検知し、
第２のセンサによって前記対象物が前記第２の空間に入ったことを検知する、
請求項１から３のいずれか一項に記載のプログラム。
プロセッサに、
前記表示するステップよりも前に、前記複数の移動物のうちのいずれが前記追跡対象物であるかを事前登録するステップ、
をさらに実行させる、
請求項４から１１のいずれか一項に記載のプログラム。
プロセッサに、
ユーザの注目に基づいて、前記複数の移動物のうちのいずれが前記追跡対象物であるかを登録するステップ、
をさらに実行させる、
請求項４から１１のいずれか一項に記載のプログラム。
前記登録するステップは、前記複数の移動物のそれぞれが前記第１の空間から出るタイミングにおけるユーザの注目に基づいて、前記複数の移動物のうちのいずれが前記追跡対象物であるかを登録する、
請求項１３に記載のプログラム。
前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界に含まれていた移動物を、前記追跡対象物であるとして登録する、
請求項１４に記載のプログラム。
前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界の端部以外に存在した状態から消えた移動物を、前記追跡対象物であるとして登録する、
請求項１５に記載のプログラム。
前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界の中央に存在する移動物を、前記追跡対象物であるとして登録する、
請求項１５に記載のプログラム。
前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングでユーザの視界の中央に存在する移動物である人物を顔認識で特定する、
請求項１７に記載のプログラム。
前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングでユーザの視界の中央に存在する移動物である人物を顔認識で特定し、特定した人物の特徴点を追跡する、
請求項１７に記載のプログラム。
ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
仮想視点と表示オブジェクトとを含む、３次元の仮想空間を定義するステップと、
第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
前記入力された画像を前記表示オブジェクトに表示するステップと、
前記ヘッドマウントデバイスが関連付けられたユーザの頭部の動きを検出するステップと、
前記頭部の動きに応じて、前記仮想視点からの視界を制御するステップと、
前記視界に対応する視界画像を前記ヘッドマウントデバイスに表示するステップと、
を実行させ、
前記表示オブジェクトに表示するステップは、追跡対象物が前記第１の３６０度カメラで撮影した画像にいる場合、前記入力された画像のうち前記第１の３６０度カメラで撮影した画像を前記表示オブジェクトに表示し、前記追跡対象物が前記第１の３６０度カメラで撮影した画像から消えて前記第２の３６０度カメラで撮影した画像に現れた場合、前記表示オブジェクトに表示する画像を、前記入力された画像のうち前記第２の３６０度カメラで撮影した画像に切替える、
プログラム。
プロセッサで実行される方法であって、
第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、
前記追跡対象物が前記第２の空間に移動したことを検知するステップと、
前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、
を備える、方法。
プロセッサと、
プログラムを格納したメモリと、
を備え、
前記プログラムは、前記プロセッサに、
第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、
前記追跡対象物が前記第２の空間に移動したことを検知するステップと、
前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、
を実行させる、
情報処理装置。