JP2021105763A - Program, method, and information processing device - Google Patents
Program, method, and information processing device Download PDFInfo
- Publication number
- JP2021105763A JP2021105763A JP2019235610A JP2019235610A JP2021105763A JP 2021105763 A JP2021105763 A JP 2021105763A JP 2019235610 A JP2019235610 A JP 2019235610A JP 2019235610 A JP2019235610 A JP 2019235610A JP 2021105763 A JP2021105763 A JP 2021105763A
- Authority
- JP
- Japan
- Prior art keywords
- space
- image
- user
- hmd
- degree camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 51
- 230000010365 information processing Effects 0.000 title claims description 6
- 238000001514 detection method Methods 0.000 claims description 37
- 238000010801 machine learning Methods 0.000 claims description 3
- 239000003086 colorant Substances 0.000 claims description 2
- 230000008569 process Effects 0.000 description 43
- 210000001508 eye Anatomy 0.000 description 37
- 238000004891 communication Methods 0.000 description 33
- 210000003128 head Anatomy 0.000 description 27
- 230000000007 visual effect Effects 0.000 description 27
- 238000010586 diagram Methods 0.000 description 19
- 210000000056 organ Anatomy 0.000 description 14
- 238000009877 rendering Methods 0.000 description 11
- 241001465754 Metazoa Species 0.000 description 10
- 238000012545 processing Methods 0.000 description 9
- 230000008859 change Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 210000003811 finger Anatomy 0.000 description 7
- 210000000214 mouth Anatomy 0.000 description 7
- 230000001815 facial effect Effects 0.000 description 5
- 210000004709 eyebrow Anatomy 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 3
- 210000003813 thumb Anatomy 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000002834 transmittance Methods 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 210000004087 cornea Anatomy 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 210000004932 little finger Anatomy 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/292—Multi-camera tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
- Closed-Circuit Television Systems (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
本開示は、プログラム、方法および情報処理装置に関する。 The present disclosure relates to programs, methods and information processing devices.
従来、３６０度動画をヘッドマウントディスプレイに表示するプログラムが知られている。特許文献１には、ヘッドマウントディスプレイに表示される３６０度動画の時間軸を、ヘッドマウントディスプレイの傾きに応じて制御する発明が開示されている。
Conventionally, a program for displaying a 360-degree moving image on a head-mounted display is known.
しかしながら、特許文献１に記載の発明では、ユーザによる３６０度動画の視聴時の利便性向上において改善の余地がある。
However, in the invention described in
本開示は、ユーザによる３６０度動画の視聴時の利便性を向上することが可能な、プログラム、方法および情報処理装置を提供することを目的とする。 An object of the present disclosure is to provide a program, a method, and an information processing device capable of improving convenience when a user views a 360-degree moving image.
本開示が示す一態様によれば、プログラムは、プロセッサに、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。 According to one aspect of the present disclosure, the program accepts the input of an image taken by the first 360 degree camera that takes a picture of the first space into the processor, and a second step of taking a picture of the second space. A step of accepting input of an image taken by a 360-degree camera, and when a tracking object among a plurality of moving objects is in the first space, the image taken by the first 360-degree camera is used as a head mount device. When the step of displaying, the step of detecting that the tracking object has moved to the second space, and the step of detecting that the tracking object has moved to the second space are detected. The step of switching the image displayed on the head mount device to the image taken by the second 360-degree camera is executed.
本開示によれば、ユーザによる３６０度動画の視聴時の利便性を向上することが可能な、プログラム、方法および情報処理装置を提供することができる。 According to the present disclosure, it is possible to provide a program, a method, and an information processing device capable of improving convenience when a user views a 360-degree moving image.
以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。本開示において示される１以上の実施形態において、各実施形態が含む要素を互いに組み合わせることができ、かつ、当該組み合わせられた結果物も本開示が示す実施形態の一部をなすものとする。 Hereinafter, embodiments of this technical idea will be described in detail with reference to the drawings. In the following description, the same parts are designated by the same reference numerals. Their names and functions are the same. Therefore, the detailed description of them will not be repeated. In one or more embodiments set forth in the present disclosure, the elements included in each embodiment may be combined with each other, and the combined deliverables shall also form part of the embodiments set forth in the present disclosure.
［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤ（Head-Mounted Device）システム１００の構成について説明する。図１は、本実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
[HMD system configuration]
The configuration of the HMD (Head-Mounted Device)
ＨＭＤシステム１００は、サーバ６００と、ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄと、外部機器７００と、ネットワーク２とを含む。ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄの各々は、ネットワーク２を介してサーバ６００や外部機器７００と通信可能に構成される。以下、ＨＭＤセット１１０Ａ，１１０Ｂ，１１０Ｃ，１１０Ｄを総称して、ＨＭＤセット１１０とも言う。ＨＭＤシステム１００を構成するＨＭＤセット１１０の数は、４つに限られず、３つ以下でも、５つ以上でもよい。ＨＭＤセット１１０は、ＨＭＤ１２０と、コンピュータ２００と、ＨＭＤセンサ４１０と、ディスプレイ４３０と、コントローラ３００とを備える。ＨＭＤ１２０は、モニタ１３０と、注視センサ１４０と、第１カメラ１５０と、第２カメラ１６０と、マイク１７０と、スピーカ１８０とを含む。コントローラ３００は、モーションセンサ４２０を含み得る。
The
ある局面において、コンピュータ２００は、インターネットその他のネットワーク２に接続可能であり、ネットワーク２に接続されているサーバ６００その他のコンピュータと通信可能である。その他のコンピュータとしては、例えば、他のＨＭＤセット１１０のコンピュータや外部機器７００が挙げられる。別の局面において、ＨＭＤ１２０は、ＨＭＤセンサ４１０の代わりに、センサ１９０を含み得る。
In some aspects, the
ＨＭＤ１２０は、ユーザ５の頭部に装着され、動作中に仮想空間をユーザ５に提供し得る。より具体的には、ＨＭＤ１２０は、右目用の画像および左目用の画像をモニタ１３０にそれぞれ表示する。ユーザ５の各目がそれぞれの画像を視認すると、ユーザ５は、両目の視差に基づき当該画像を３次元画像として認識し得る。ＨＭＤ１２０は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
The HMD 120 may be worn on the head of the
モニタ１３０は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ１３０は、ユーザ５の両目の前方に位置するようにＨＭＤ１２０の本体に配置されている。したがって、ユーザ５は、モニタ１３０に表示される３次元画像を視認すると、仮想空間に没入することができる。ある局面において、仮想空間は、例えば、背景、ユーザ５が操作可能なオブジェクト、ユーザ５が選択可能なメニューの画像を含む。ある局面において、モニタ１３０は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。
The
別の局面において、モニタ１３０は、透過型の表示装置として実現され得る。この場合、ＨＭＤ１２０は、図１に示されるようにユーザ５の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ１３０は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。モニタ１３０は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ１３０は、ＨＭＤ１２０に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
In another aspect, the
ある局面において、モニタ１３０は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ１３０は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１３０は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
In some aspects, the
ある局面において、ＨＭＤ１２０は、図示せぬ複数の光源を含む。各光源は例えば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ４１０は、ＨＭＤ１２０の動きを検出するためのポジショントラッキング機能を有する。より具体的には、ＨＭＤセンサ４１０は、ＨＭＤ１２０が発する複数の赤外線を読み取り、現実空間内におけるＨＭＤ１２０の位置および傾きを検出する。
In one aspect, the
別の局面において、ＨＭＤセンサ４１０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ４１０は、カメラから出力されるＨＭＤ１２０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１２０の位置および傾きを検出することができる。
In another aspect, the
別の局面において、ＨＭＤ１２０は、位置検出器として、ＨＭＤセンサ４１０の代わりに、あるいはＨＭＤセンサ４１０に加えてセンサ１９０を備えてもよい。ＨＭＤ１２０は、センサ１９０を用いて、ＨＭＤ１２０自身の位置および傾きを検出し得る。例えば、センサ１９０が角速度センサ、地磁気センサ、あるいは加速度センサである場合、ＨＭＤ１２０は、ＨＭＤセンサ４１０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１９０が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１２０の３軸周りの角速度を経時的に検出する。ＨＭＤ１２０は、各角速度に基づいて、ＨＭＤ１２０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１２０の傾きを算出する。
In another aspect, the
注視センサ１４０は、ユーザ５の右目および左目の視線が向けられる方向を検出する。つまり、注視センサ１４０は、ユーザ５の視線を検出する。視線の方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、例えば、ユーザ５の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ５の視線を検知することができる。
The
第１カメラ１５０は、ユーザ５の顔の下部を撮影する。より具体的には、第１カメラ１５０は、ユーザ５の鼻および口などを撮影する。第２カメラ１６０は、ユーザ５の目および眉などを撮影する。ＨＭＤ１２０のユーザ５側の筐体をＨＭＤ１２０の内側、ＨＭＤ１２０のユーザ５とは逆側の筐体をＨＭＤ１２０の外側と定義する。ある局面において、第１カメラ１５０は、ＨＭＤ１２０の外側に配置され、第２カメラ１６０は、ＨＭＤ１２０の内側に配置され得る。第１カメラ１５０および第２カメラ１６０が生成した画像は、コンピュータ２００に入力される。別の局面において、第１カメラ１５０と第２カメラ１６０とを１台のカメラとして実現し、この１台のカメラでユーザ５の顔を撮影するようにしてもよい。
The
マイク１７０は、ユーザ５の発話を音声信号（電気信号）に変換してコンピュータ２００に出力する。スピーカ１８０は、音声信号を音声に変換してユーザ５に出力する。別の局面において、ＨＭＤ１２０は、スピーカ１８０に替えてイヤホンを含み得る。
The
コントローラ３００は、有線または無線によりコンピュータ２００に接続されている。コントローラ３００は、ユーザ５からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ３００は、ユーザ５によって把持可能に構成される。別の局面において、コントローラ３００は、ユーザ５の身体あるいは衣類の一部に装着可能に構成される。さらに別の局面において、コントローラ３００は、コンピュータ２００から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。さらに別の局面において、コントローラ３００は、ユーザ５から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。
The
ある局面において、コントローラ３００は、複数の光源を含む。各光源は例えば、赤外線を発するＬＥＤにより実現される。ＨＭＤセンサ４１０は、ポジショントラッキング機能を有する。この場合、ＨＭＤセンサ４１０は、コントローラ３００が発する複数の赤外線を読み取り、現実空間内におけるコントローラ３００の位置および傾きを検出する。別の局面において、ＨＭＤセンサ４１０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ４１０は、カメラから出力されるコントローラ３００の画像情報を用いて、画像解析処理を実行することにより、コントローラ３００の位置および傾きを検出することができる。
In one aspect, the
モーションセンサ４２０は、ある局面において、ユーザ５の手に取り付けられて、ユーザ５の手の動きを検出する。例えば、モーションセンサ４２０は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ２００に送られる。モーションセンサ４２０は、例えば、コントローラ３００に設けられている。ある局面において、モーションセンサ４２０は、例えば、ユーザ５に把持可能に構成されたコントローラ３００に設けられている。別の局面において、現実空間における安全のため、コントローラ３００は、手袋型のようにユーザ５の手に装着されることにより容易に飛んで行かないものに装着される。さらに別の局面において、ユーザ５に装着されないセンサがユーザ５の手の動きを検出してもよい。例えば、ユーザ５を撮影するカメラの信号が、ユーザ５の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ４２０とコンピュータ２００とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。
The
ディスプレイ４３０は、モニタ１３０に表示されている画像と同様の画像を表示する。これにより、ＨＭＤ１２０を装着しているユーザ５以外のユーザにも当該ユーザ５と同様の画像を視聴させることができる。ディスプレイ４３０に表示される画像は、３次元画像である必要はなく、右目用の画像や左目用の画像であってもよい。ディスプレイ４３０としては、例えば、液晶ディスプレイや有機ＥＬモニタなどが挙げられる。
The
サーバ６００は、コンピュータ２００にプログラムを送信し得る。別の局面において、サーバ６００は、他のユーザによって使用されるＨＭＤ１２０に仮想現実を提供するための他のコンピュータ２００と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行う場合、各コンピュータ２００は、各ユーザの動作に基づく信号をサーバ６００を介して他のコンピュータ２００と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。各コンピュータ２００は、各ユーザの動作に基づく信号をサーバ６００を介さずに他のコンピュータ２００と通信するようにしてもよい。
The
外部機器７００は、コンピュータ２００と通信可能な機器であればどのような機器であってもよい。外部機器７００は、例えば、ネットワーク２を介してコンピュータ２００と通信可能な機器であってもよいし、近距離無線通信や有線接続によりコンピュータ２００と直接通信可能な機器であってもよい。外部機器７００としては、例えば、スマートデバイス、ＰＣ（Personal Computer）、およびコンピュータ２００の周辺機器などが挙げられるが、これらに限定されるものではない。
The
［コンピュータのハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、本実施の形態に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ２１０と、メモリ２２０と、ストレージ２３０と、入出力インターフェイス２４０と、通信インターフェイス２５０とを備える。各構成要素は、それぞれ、バス２６０に接続されている。
[Computer hardware configuration]
The
プロセッサ２１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ２２０またはストレージ２３０に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ２１０は、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。
The
メモリ２２０は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ２３０からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ２１０によって生成されたデータとを含む。ある局面において、メモリ２２０は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。
The
ストレージ２３０は、プログラムおよびデータを永続的に保持する。ストレージ２３０は、例えば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ２３０に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ２３０に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
別の局面において、ストレージ２３０は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ２００に内蔵されたストレージ２３０の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行うことが可能になる。
In another aspect, the
入出力インターフェイス２４０は、ＨＭＤ１２０、ＨＭＤセンサ４１０、モーションセンサ４２０およびディスプレイ４３０との間で信号を通信する。ＨＭＤ１２０に含まれるモニタ１３０，注視センサ１４０，第１カメラ１５０，第２カメラ１６０，マイク１７０およびスピーカ１８０は、ＨＭＤ１２０の入出力インターフェイス２４０を介してコンピュータ２００との通信を行ない得る。ある局面において、入出力インターフェイス２４０は、ＵＳＢ（Universal Serial Bus）、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。入出力インターフェイス２４０は上述のものに限られない。
The input /
ある局面において、入出力インターフェイス２４０は、さらに、コントローラ３００と通信し得る。例えば、入出力インターフェイス２４０は、コントローラ３００およびモーションセンサ４２０から出力された信号の入力を受ける。別の局面において、入出力インターフェイス２４０は、プロセッサ２１０から出力された命令を、コントローラ３００に送る。当該命令は、振動、音声出力、発光等をコントローラ３００に指示する。コントローラ３００は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
In some aspects, the input /
通信インターフェイス２５０は、ネットワーク２に接続されて、ネットワーク２に接続されている他のコンピュータ（例えば、サーバ６００）と通信する。ある局面において、通信インターフェイス２５０は、例えば、ＬＡＮ（Local Area Network）その他の有線通信インターフェイス、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェイスとして実現される。通信インターフェイス２５０は上述のものに限られない。
The
ある局面において、プロセッサ２１０は、ストレージ２３０にアクセスし、ストレージ２３０に格納されている１つ以上のプログラムをメモリ２２０にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ２１０は、入出力インターフェイス２４０を介して、仮想空間を提供するための信号をＨＭＤ１２０に送る。ＨＭＤ１２０は、その信号に基づいてモニタ１３０に映像を表示する。
In one aspect, the
図２に示される例では、コンピュータ２００は、ＨＭＤ１２０の外部に設けられる構成が示されているが、別の局面において、コンピュータ２００は、ＨＭＤ１２０に内蔵されてもよい。一例として、モニタ１３０を含む携帯型の情報通信端末（例えば、スマートフォン）がコンピュータ２００として機能してもよい。
In the example shown in FIG. 2, the
コンピュータ２００は、複数のＨＭＤ１２０に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
The
ある実施の形態において、ＨＭＤシステム１００では、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、並びに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。実座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、実座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。
In a certain embodiment, in the
ある局面において、ＨＭＤセンサ４１０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１２０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１２０の存在を検出する。ＨＭＤセンサ４１０は、さらに、各点の値（実座標系における各座標値）に基づいて、ＨＭＤ１２０を装着したユーザ５の動きに応じた、現実空間内におけるＨＭＤ１２０の位置および傾き（向き）を検出する。より詳しくは、ＨＭＤセンサ４１０は、経時的に検出された各値を用いて、ＨＭＤ１２０の位置および傾きの時間的変化を検出できる。
In some aspects, the
ＨＭＤセンサ４１０によって検出されたＨＭＤ１２０の各傾きは、実座標系におけるＨＭＤ１２０の３軸周りの各傾きに相当する。ＨＭＤセンサ４１０は、実座標系におけるＨＭＤ１２０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１２０に設定する。ＨＭＤ１２０に設定されるｕｖｗ視野座標系は、ＨＭＤ１２０を装着したユーザ５が仮想空間において物体を見る際の視点座標系に対応する。
Each inclination of the
［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１２０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ４１０は、ＨＭＤ１２０の起動時に、実座標系におけるＨＭＤ１２０の位置および傾きを検出する。プロセッサ２１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１２０に設定する。
[Uvw field coordinate system]
The uvw field coordinate system will be described with reference to FIG. FIG. 3 is a diagram conceptually representing the uvw field coordinate system set in the
図３に示されるように、ＨＭＤ１２０は、ＨＭＤ１２０を装着したユーザ５の頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１２０は、実座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、実座標系内においてＨＭＤ１２０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１２０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）として設定する。
As shown in FIG. 3, the
ある局面において、ＨＭＤ１２０を装着したユーザ５が直立し、かつ、正面を視認している場合、プロセッサ２１０は、実座標系に平行なｕｖｗ視野座標系をＨＭＤ１２０に設定する。この場合、実座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１２０におけるｕｖｗ視野座標系のピッチ軸（ｕ軸）、ヨー軸（ｖ軸）、およびロール軸（ｗ軸）に一致する。
In a certain aspect, when the
ｕｖｗ視野座標系がＨＭＤ１２０に設定された後、ＨＭＤセンサ４１０は、ＨＭＤ１２０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１２０の傾きを検出できる。この場合、ＨＭＤセンサ４１０は、ＨＭＤ１２０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１２０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ軸周りのＨＭＤ１２０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー軸周りのＨＭＤ１２０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール軸周りのＨＭＤ１２０の傾き角度を表す。
After the uvw field coordinate system is set to the
ＨＭＤセンサ４１０は、検出されたＨＭＤ１２０の傾きに基づいて、ＨＭＤ１２０が動いた後のＨＭＤ１２０におけるｕｖｗ視野座標系を、ＨＭＤ１２０に設定する。ＨＭＤ１２０と、ＨＭＤ１２０のｕｖｗ視野座標系との関係は、ＨＭＤ１２０の位置および傾きに関わらず、常に一定である。ＨＭＤ１２０の位置および傾きが変わると、当該位置および傾きの変化に連動して、実座標系におけるＨＭＤ１２０のｕｖｗ視野座標系の位置および傾きが変化する。
The
ある局面において、ＨＭＤセンサ４１０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（例えば、各点間の距離など）に基づいて、ＨＭＤ１２０の現実空間内における位置を、ＨＭＤセンサ４１０に対する相対位置として特定してもよい。プロセッサ２１０は、特定された相対位置に基づいて、現実空間内（実座標系）におけるＨＭＤ１２０のｕｖｗ視野座標系の原点を決定してもよい。
In one aspect, the
［仮想空間］
図４を参照して、仮想空間についてさらに説明する。図４は、ある実施の形態に従う仮想空間１１を表現する一態様を概念的に表す図である。仮想空間１１は、中心１２の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間１１のうちの上半分の天球が例示されている。仮想空間１１では各メッシュが規定される。各メッシュの位置は、仮想空間１１に規定されるグローバル座標系であるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間１１に展開可能なパノラマ画像１３（静止画、動画等）を構成する各部分画像を、仮想空間１１において対応する各メッシュにそれぞれ対応付ける。
[Virtual space]
The virtual space will be further described with reference to FIG. FIG. 4 is a diagram conceptually representing one aspect of expressing the
ある局面において、仮想空間１１では、中心１２を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、例えば、実座標系に平行である。ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）が実座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）が実座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）が実座標系のｚ軸と平行である。
In a certain aspect, the
ＨＭＤ１２０の起動時、すなわちＨＭＤ１２０の初期状態において、仮想カメラ１４が、仮想空間１１の中心１２に配置される。ある局面において、プロセッサ２１０は、仮想カメラ１４が撮影する画像をＨＭＤ１２０のモニタ１３０に表示する。仮想カメラ１４は、現実空間におけるＨＭＤ１２０の動きに連動して、仮想空間１１を同様に移動する。これにより、現実空間におけるＨＭＤ１２０の位置および傾きの変化が、仮想空間１１において同様に再現され得る。
At the time of starting the
仮想カメラ１４には、ＨＭＤ１２０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間１１における仮想カメラ１４のｕｖｗ視野座標系は、現実空間（実座標系）におけるＨＭＤ１２０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１２０の傾きが変化すると、それに応じて、仮想カメラ１４の傾きも変化する。仮想カメラ１４は、ＨＭＤ１２０を装着したユーザ５の現実空間における移動に連動して、仮想空間１１において移動することもできる。
As in the case of the
コンピュータ２００のプロセッサ２１０は、仮想カメラ１４の位置と傾き（基準視線１６）とに基づいて、仮想空間１１における視界領域１５を規定する。視界領域１５は、仮想空間１１のうち、ＨＭＤ１２０を装着したユーザ５が視認する領域に対応する。つまり、仮想カメラ１４の位置は、仮想空間１１におけるユーザ５の視点と言える。
The
注視センサ１４０によって検出されるユーザ５の視線は、ユーザ５が物体を視認する際の視点座標系における方向である。ＨＭＤ１２０のｕｖｗ視野座標系は、ユーザ５がモニタ１３０を視認する際の視点座標系に等しい。仮想カメラ１４のｕｖｗ視野座標系は、ＨＭＤ１２０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ５の視線を、仮想カメラ１４のｕｖｗ視野座標系におけるユーザ５の視線とみなすことができる。
The line of sight of the
［ユーザの視線］
図５を参照して、ユーザ５の視線の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１２０を装着するユーザ５の頭部を上から表した図である。
[User's line of sight]
The determination of the line of sight of the
ある局面において、注視センサ１４０は、ユーザ５の右目および左目の各視線を検出する。ある局面において、ユーザ５が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。別の局面において、ユーザ５が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール軸ｗに対して視線Ｒ２およびＬ２が成す角度は、ロール軸ｗに対して視線Ｒ１およびＬ１が成す角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。
In one aspect, the
コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ５の視線Ｎ０を特定する。コンピュータ２００は、例えば、ユーザ５の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線Ｎ０として検出する。視線Ｎ０は、ユーザ５が両目により実際に視線を向けている方向である。視線Ｎ０は、視界領域１５に対してユーザ５が実際に視線を向けている方向に相当する。
When the
別の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間１１においてテレビ番組を表示することができる。
In another aspect, the
さらに別の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
In yet another aspect, the
［視界領域］
図６および図７を参照して、視界領域１５について説明する。図６は、仮想空間１１において視界領域１５をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間１１において視界領域１５をＹ方向から見たＸＺ断面を表す図である。
[Visibility area]
The field of
図６に示されるように、ＹＺ断面における視界領域１５は、領域１８を含む。領域１８は、仮想カメラ１４の位置と基準視線１６と仮想空間１１のＹＺ断面とによって定義される。プロセッサ２１０は、仮想空間における基準視線１６を中心として極角αを含む範囲を、領域１８として規定する。
As shown in FIG. 6, the field of
図７に示されるように、ＸＺ断面における視界領域１５は、領域１９を含む。領域１９は、仮想カメラ１４の位置と基準視線１６と仮想空間１１のＸＺ断面とによって定義される。プロセッサ２１０は、仮想空間１１における基準視線１６を中心とした方位角βを含む範囲を、領域１９として規定する。極角αおよびβは、仮想カメラ１４の位置と仮想カメラ１４の傾き（向き）とに応じて定まる。
As shown in FIG. 7, the field of
ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像１７をモニタ１３０に表示させることにより、ユーザ５に仮想空間１１における視界を提供する。視界画像１７は、パノラマ画像１３のうち視界領域１５に対応する部分に相当する画像である。ユーザ５が、頭に装着したＨＭＤ１２０を動かすと、その動きに連動して仮想カメラ１４も動く。その結果、仮想空間１１における視界領域１５の位置が変化する。これにより、モニタ１３０に表示される視界画像１７は、パノラマ画像１３のうち、仮想空間１１においてユーザ５が向いた方向の視界領域１５に重畳する画像に更新される。ユーザ５は、仮想空間１１における所望の方向を視認することができる。
In a certain aspect, the
このように、仮想カメラ１４の傾きは仮想空間１１におけるユーザ５の視線（基準視線１６）に相当し、仮想カメラ１４が配置される位置は、仮想空間１１におけるユーザ５の視点に相当する。したがって、仮想カメラ１４の位置または傾きを変更することにより、モニタ１３０に表示される画像が更新され、ユーザ５の視界が移動される。
As described above, the inclination of the
ユーザ５は、ＨＭＤ１２０を装着している間、現実世界を視認することなく、仮想空間１１に展開されるパノラマ画像１３のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間１１への高い没入感覚をユーザ５に与えることができる。
While wearing the
ある局面において、プロセッサ２１０は、ＨＭＤ１２０を装着したユーザ５の現実空間における移動に連動して、仮想空間１１において仮想カメラ１４を移動し得る。この場合、プロセッサ２１０は、仮想空間１１における仮想カメラ１４の位置および傾きに基づいて、ＨＭＤ１２０のモニタ１３０に投影される画像領域（視界領域１５）を特定する。
In a certain aspect, the
ある局面において、仮想カメラ１４は、２つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。ユーザ５が３次元の仮想空間１１を認識できるように、適切な視差が、２つの仮想カメラに設定される。別の局面において、仮想カメラ１４を１つの仮想カメラにより実現してもよい。この場合、１つの仮想カメラにより得られた画像から、右目用の画像と左目用の画像とを生成するようにしてもよい。本実施の形態においては、仮想カメラ１４が２つの仮想カメラを含み、２つの仮想カメラのロール軸が合成されることによって生成されるロール軸（ｗ）がＨＭＤ１２０のロール軸（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
In some aspects, the
［コントローラ］
図８を参照して、コントローラ３００の一例について説明する。図８は、ある実施の形態に従うコントローラ３００の概略構成を表す図である。
[controller]
An example of the
図８に示されるように、ある局面において、コントローラ３００は、右コントローラ３００Ｒと図示せぬ左コントローラとを含み得る。右コントローラ３００Ｒは、ユーザ５の右手で操作される。左コントローラは、ユーザ５の左手で操作される。ある局面において、右コントローラ３００Ｒと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ５は、右コントローラ３００Ｒを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ３００は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ３００Ｒについて説明する。
As shown in FIG. 8, in some aspects, the
右コントローラ３００Ｒは、グリップ３１０と、フレーム３２０と、天面３３０とを備える。グリップ３１０は、ユーザ５の右手によって把持されるように構成されている。たとえば、グリップ３１０は、ユーザ５の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。
The
グリップ３１０は、ボタン３４０，３５０と、モーションセンサ４２０とを含む。ボタン３４０は、グリップ３１０の側面に配置され、右手の中指による操作を受け付ける。ボタン３５０は、グリップ３１０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３４０，３５０は、トリガー式のボタンとして構成される。モーションセンサ４２０は、グリップ３１０の筐体に内蔵されている。ユーザ５の動作がカメラその他の装置によってユーザ５の周りから検出可能である場合には、グリップ３１０は、モーションセンサ４２０を備えなくてもよい。
The
フレーム３２０は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３６０を含む。赤外線ＬＥＤ３６０は、コントローラ３００を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３６０から発せられた赤外線は、右コントローラ３００Ｒと左コントローラとの各位置や姿勢（傾き、向き）を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３６０が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。
The
天面３３０は、ボタン３７０，３８０と、アナログスティック３９０とを備える。ボタン３７０，３８０は、プッシュ式ボタンとして構成される。ボタン３７０，３８０は、ユーザ５の右手の親指による操作を受け付ける。アナログスティック３９０は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間１１に配置されるオブジェクトを移動するための操作を含む。
The
ある局面において、右コントローラ３００Ｒおよび左コントローラは、赤外線ＬＥＤ３６０その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。別の局面において、右コントローラ３００Ｒと左コントローラは、たとえば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ３００Ｒおよび左コントローラは、電池を必要としない。
In one aspect, the
図８の状態（Ａ）および状態（Ｂ）に示されるように、例えば、ユーザ５の右手に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ５が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
As shown in the states (A) and (B) of FIG. 8, for example, the yaw, roll, and pitch directions are defined with respect to the right hand of the
［サーバのハードウェア構成］
図９を参照して、本実施の形態に係るサーバ６００について説明する。図９は、ある実施の形態に従うサーバ６００のハードウェア構成の一例を表すブロック図である。サーバ６００は、主たる構成要素として、プロセッサ６１０と、メモリ６２０と、ストレージ６３０と、入出力インターフェイス６４０と、通信インターフェイス６５０とを備える。各構成要素は、それぞれ、バス６６０に接続されている。
[Server hardware configuration]
The
プロセッサ６１０は、サーバ６００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ６２０またはストレージ６３０に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ６１０は、ＣＰＵ、ＧＰＵ、ＭＰＵ、ＦＰＧＡその他のデバイスとして実現される。
The
メモリ６２０は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ６３０からロードされる。データは、サーバ６００に入力されたデータと、プロセッサ６１０によって生成されたデータとを含む。ある局面において、メモリ６２０は、ＲＡＭその他の揮発メモリとして実現される。
ストレージ６３０は、プログラムおよびデータを永続的に保持する。ストレージ６３０は、例えば、ＲＯＭ、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ６３０に格納されるプログラムは、ＨＭＤシステム１００において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、コンピュータ２００との通信を実現するためのプログラムを含んでもよい。ストレージ６３０に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含んでもよい。
別の局面において、ストレージ６３０は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、サーバ６００に内蔵されたストレージ６３０の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行うことが可能になる。
In another aspect, the
入出力インターフェイス６４０は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス６４０は、ＵＳＢ、ＤＶＩ、ＨＤＭＩその他の端子を用いて実現される。入出力インターフェイス６４０は上述のものに限られない。
The input /
通信インターフェイス６５０は、ネットワーク２に接続されて、ネットワーク２に接続されているコンピュータ２００と通信する。ある局面において、通信インターフェイス６５０は、例えば、ＬＡＮその他の有線通信インターフェイス、あるいは、ＷｉＦｉ、Ｂｌｕｅｔｏｏｔｈ、ＮＦＣその他の無線通信インターフェイスとして実現される。通信インターフェイス６５０は上述のものに限られない。
The
ある局面において、プロセッサ６１０は、ストレージ６３０にアクセスし、ストレージ６３０に格納されている１つ以上のプログラムをメモリ６２０にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、サーバ６００のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ６１０は、入出力インターフェイス６４０を介して、仮想空間を提供するための信号をコンピュータ２００に送ってもよい。
In one aspect, the
［ＨＭＤの制御装置］
図１０を参照して、ＨＭＤ１２０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図１０は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。
[HMD control device]
The control device of the
図１０に示されるように、コンピュータ２００は、コントロールモジュール５１０と、レンダリングモジュール５２０と、メモリモジュール５３０と、通信制御モジュール５４０とを備える。ある局面において、コントロールモジュール５１０とレンダリングモジュール５２０とは、プロセッサ２１０によって実現される。別の局面において、複数のプロセッサ２１０がコントロールモジュール５１０とレンダリングモジュール５２０として作動してもよい。メモリモジュール５３０は、メモリ２２０またはストレージ２３０によって実現される。通信制御モジュール５４０は、通信インターフェイス２５０によって実現される。
As shown in FIG. 10, the
コントロールモジュール５１０は、ユーザ５に提供される仮想空間１１を制御する。コントロールモジュール５１０は、仮想空間１１を表す仮想空間データを用いて、ＨＭＤシステム１００における仮想空間１１を規定する。仮想空間データは、例えば、メモリモジュール５３０に記憶されている。コントロールモジュール５１０が、仮想空間データを生成したり、サーバ６００などから仮想空間データを取得するようにしたりしてもよい。
The
コントロールモジュール５１０は、オブジェクトを表すオブジェクトデータを用いて、仮想空間１１にオブジェクトを配置する。オブジェクトデータは、例えば、メモリモジュール５３０に記憶されている。コントロールモジュール５１０が、オブジェクトデータを生成したり、サーバ６００などからオブジェクトデータを取得するようにしたりしてもよい。オブジェクトは、例えば、ユーザ５の分身であるアバターオブジェクト、キャラクタオブジェクト、コントローラ３００によって操作される仮想手などの操作オブジェクト、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、街並み、動物等を含み得る。
The
コントロールモジュール５１０は、ネットワーク２を介して接続される他のコンピュータ２００のユーザ５のアバターオブジェクトを仮想空間１１に配置する。ある局面において、コントロールモジュール５１０は、ユーザ５のアバターオブジェクトを仮想空間１１に配置する。ある局面において、コントロールモジュール５１０は、ユーザ５を含む画像に基づいて、ユーザ５を模したアバターオブジェクトを仮想空間１１に配置する。別の局面において、コントロールモジュール５１０は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ５による選択を受け付けたアバターオブジェクトを仮想空間１１に配置する。
The
コントロールモジュール５１０は、ＨＭＤセンサ４１０の出力に基づいてＨＭＤ１２０の傾きを特定する。別の局面において、コントロールモジュール５１０は、モーションセンサとして機能するセンサ１９０の出力に基づいてＨＭＤ１２０の傾きを特定する。コントロールモジュール５１０は、第１カメラ１５０および第２カメラ１６０が生成するユーザ５の顔の画像から、ユーザ５の顔を構成する器官（例えば、口，目，眉）を検出する。コントロールモジュール５１０は、検出した各器官の動き（形状）を検出する。
The
コントロールモジュール５１０は、注視センサ１４０からの信号に基づいて、ユーザ５の仮想空間１１における視線を検出する。コントロールモジュール５１０は、検出したユーザ５の視線と仮想空間１１の天球とが交わる視点位置（ＸＹＺ座標系における座標値）を検出する。より具体的には、コントロールモジュール５１０は、ｕｖｗ座標系で規定されるユーザ５の視線と、仮想カメラ１４の位置および傾きとに基づいて、視点位置を検出する。コントロールモジュール５１０は、検出した視点位置をサーバ６００に送信する。別の局面において、コントロールモジュール５１０は、ユーザ５の視線を表す視線情報をサーバ６００に送信するように構成されてもよい。係る場合、サーバ６００が受信した視線情報に基づいて視点位置を算出し得る。
The
コントロールモジュール５１０は、ＨＭＤセンサ４１０が検出するＨＭＤ１２０の動きをアバターオブジェクトに反映する。例えば、コントロールモジュール５１０は、ＨＭＤ１２０が傾いたことを検知して、アバターオブジェクトを傾けて配置する。コントロールモジュール５１０は、検出した顔器官の動作を、仮想空間１１に配置されるアバターオブジェクトの顔に反映させる。コントロールモジュール５１０は、サーバ６００から他のユーザ５の視線情報を受信し、当該他のユーザ５のアバターオブジェクトの視線に反映させる。ある局面において、コントロールモジュール５１０は、コントローラ３００の動きをアバターオブジェクトや操作オブジェクトに反映する。この場合、コントローラ３００は、コントローラ３００の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子（例えば、赤外線ＬＥＤ）などを備える。
The
コントロールモジュール５１０は、仮想空間１１においてユーザ５の操作を受け付けるための操作オブジェクトを仮想空間１１に配置する。ユーザ５は、操作オブジェクトを操作することにより、例えば、仮想空間１１に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ユーザ５の手に相当する仮想手である手オブジェクト等を含み得る。ある局面において、コントロールモジュール５１０は、モーションセンサ４２０の出力に基づいて現実空間におけるユーザ５の手の動きに連動するように仮想空間１１において手オブジェクトを動かす。ある局面において、操作オブジェクトは、アバターオブジェクトの手の部分に相当し得る。
The
コントロールモジュール５１０は、仮想空間１１に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール５１０は、例えば、あるオブジェクトのコリジョンエリアと、別のオブジェクトのコリジョンエリアとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、コントロールモジュール５１０は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。
When each of the objects arranged in the
ある局面において、コントロールモジュール５１０は、ＨＭＤ１２０のモニタ１３０における画像表示を制御する。例えば、コントロールモジュール５１０は、仮想空間１１に仮想カメラ１４を配置する。コントロールモジュール５１０は、仮想空間１１における仮想カメラ１４の位置と、仮想カメラ１４の傾き（向き）を制御する。コントロールモジュール５１０は、ＨＭＤ１２０を装着したユーザ５の頭の傾きと、仮想カメラ１４の位置に応じて、視界領域１５を規定する。レンダリングモジュール５２０は、決定された視界領域１５に基づいて、モニタ１３０に表示される視界画像１７を生成する。レンダリングモジュール５２０により生成された視界画像１７は、通信制御モジュール５４０によってＨＭＤ１２０に出力される。
In one aspect, the
コントロールモジュール５１０は、ＨＭＤ１２０から、ユーザ５のマイク１７０を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ２００を特定する。音声データは、コントロールモジュール５１０によって特定されたコンピュータ２００に送信される。コントロールモジュール５１０は、ネットワーク２を介して他のユーザのコンピュータ２００から音声データを受信すると、当該音声データに対応する音声（発話）をスピーカ１８０から出力する。
When the
メモリモジュール５３０は、コンピュータ２００が仮想空間１１をユーザ５に提供するために使用されるデータを保持している。ある局面において、メモリモジュール５３０は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。
The
空間情報は、仮想空間１１を提供するために規定された１つ以上のテンプレートを保持している。
Spatial information holds one or more templates defined to provide the
オブジェクト情報は、仮想空間１１を構成する複数のパノラマ画像１３、仮想空間１１にオブジェクトを配置するためのオブジェクトデータを含む。パノラマ画像１３は、静止画像および動画像を含み得る。パノラマ画像１３は、非現実空間の画像と現実空間の画像とを含み得る。非現実空間の画像としては、例えば、コンピュータグラフィックスで生成された画像が挙げられる。
The object information includes a plurality of
ユーザ情報は、ユーザ５を識別するユーザＩＤを保持する。ユーザＩＤは、例えば、ユーザが使用するコンピュータ２００に設定されるＩＰ（Internet Protocol）アドレスまたはＭＡＣ（Media Access Control）アドレスであり得る。別の局面において、ユーザＩＤはユーザによって設定され得る。ユーザ情報は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム等を含む。
The user information holds a user ID that identifies the
メモリモジュール５３０に格納されているデータおよびプログラムは、ＨＭＤ１２０のユーザ５によって入力される。あるいは、プロセッサ２１０が、当該コンテンツを提供する事業者が運営するコンピュータ（例えば、サーバ６００）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール５３０に格納する。
The data and programs stored in the
通信制御モジュール５４０は、ネットワーク２を介して、サーバ６００その他の情報通信装置と通信し得る。
The
ある局面において、コントロールモジュール５１０およびレンダリングモジュール５２０は、例えば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。別の局面において、コントロールモジュール５１０およびレンダリングモジュール５２０は、各処理を実現する回路素子の組み合わせとしても実現され得る。
In some aspects, the
コンピュータ２００における処理は、ハードウェアと、プロセッサ２１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール５３０に予め格納されている場合がある。ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール５４０を介してサーバ６００その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ２１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ２１０は、そのプログラムを実行する。
The processing in the
［ＨＭＤシステムの制御構造］
図１１を参照して、ＨＭＤセット１１０の制御構造について説明する。図１１は、ある実施の形態に従うＨＭＤセット１１０において実行される処理の一部を表すシーケンスチャートである。
[Control structure of HMD system]
The control structure of the HMD set 110 will be described with reference to FIG. FIG. 11 is a sequence chart showing a part of the processing performed in the HMD set 110 according to an embodiment.
図１１に示されるように、ステップＳ１１１０にて、コンピュータ２００のプロセッサ２１０は、コントロールモジュール５１０として、仮想空間データを特定し、仮想空間１１を定義する。
As shown in FIG. 11, in step S1110, the
ステップＳ１１２０にて、プロセッサ２１０は、仮想カメラ１４を初期化する。たとえば、プロセッサ２１０は、メモリのワーク領域において、仮想カメラ１４を仮想空間１１において予め規定された中心１２に配置し、仮想カメラ１４の視線をユーザ５が向いている方向に向ける。
In step S1120, the
ステップＳ１１３０にて、プロセッサ２１０は、レンダリングモジュール５２０として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール５４０によってＨＭＤ１２０に出力される。
In step S1130, the
ステップＳ１１３２にて、ＨＭＤ１２０のモニタ１３０は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１２０を装着したユーザ５は、視界画像を視認すると仮想空間１１を認識し得る。
In step S1132, the
ステップＳ１１３４にて、ＨＭＤセンサ４１０は、ＨＭＤ１２０から発信される複数の赤外線光に基づいて、ＨＭＤ１２０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に出力される。
In step S1134, the
ステップＳ１１４０にて、プロセッサ２１０は、ＨＭＤ１２０の動き検知データに含まれる位置と傾きとに基づいて、ＨＭＤ１２０を装着したユーザ５の視界方向を特定する。
In step S1140, the
ステップＳ１１５０にて、プロセッサ２１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間１１にオブジェクトを配置する。
In step S1150, the
ステップＳ１１６０にて、コントローラ３００は、モーションセンサ４２０から出力される信号に基づいて、ユーザ５の操作を検出し、その検出された操作を表す検出データをコンピュータ２００に出力する。別の局面において、ユーザ５によるコントローラ３００の操作は、ユーザ５の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
In step S1160, the
ステップＳ１１７０にて、プロセッサ２１０は、コントローラ３００から取得した検出データに基づいて、ユーザ５によるコントローラ３００の操作を検出する。
In step S1170, the
ステップＳ１１８０にて、プロセッサ２１０は、ユーザ５によるコントローラ３００の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール５４０によってＨＭＤ１２０に出力される。
In step S1180, the
ステップＳ１１９０にて、ＨＭＤ１２０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１３０に表示する。
In step S1190, the
［アバターオブジェクト］
図１２（Ａ）、（Ｂ）を参照して、本実施の形態に従うアバターオブジェクトについて説明する。以下、ＨＭＤセット１１０Ａ，１１０Ｂの各ユーザ５のアバターオブジェクトを説明する図である。以下、ＨＭＤセット１１０Ａのユーザをユーザ５Ａ、ＨＭＤセット１１０Ｂのユーザをユーザ５Ｂ、ＨＭＤセット１１０Ｃのユーザをユーザ５Ｃ、ＨＭＤセット１１０Ｄのユーザをユーザ５Ｄと表す。ＨＭＤセット１１０Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤセット１１０Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１１０Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１１０Ｄに関する各構成要素の参照符号にＤが付される。例えば、ＨＭＤ１２０Ａは、ＨＭＤセット１１０Ａに含まれる。
[Avatar Object]
An avatar object according to the present embodiment will be described with reference to FIGS. 12A and 12B. Hereinafter, it is a figure explaining the avatar object of each
図１２（Ａ）は、ネットワーク２において、各ＨＭＤ１２０がユーザ５に仮想空間１１を提供する状況を表す模式図である。コンピュータ２００Ａ〜２００Ｄは、ＨＭＤ１２０Ａ〜１２０Ｄを介して、ユーザ５Ａ〜５Ｄに、仮想空間１１Ａ〜１１Ｄをそれぞれ提供する。図１２（Ａ）に示される例において、仮想空間１１Ａおよび仮想空間１１Ｂは同じデータによって構成されている。換言すれば、コンピュータ２００Ａとコンピュータ２００Ｂとは同じ仮想空間を共有していることになる。仮想空間１１Ａおよび仮想空間１１Ｂには、ユーザ５Ａのアバターオブジェクト６Ａと、ユーザ５Ｂのアバターオブジェクト６Ｂとが存在する。仮想空間１１Ａにおけるアバターオブジェクト６Ａおよび仮想空間１１Ｂにおけるアバターオブジェクト６ＢがそれぞれＨＭＤ１２０を装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはＨＭＤ１２０を装着していない。
FIG. 12A is a schematic diagram showing a situation in which each
ある局面において、プロセッサ２１０Ａは、ユーザ５Ａの視界画像１７Ａを撮影する仮想カメラ１４Ａを、アバターオブジェクト６Ａの目の位置に配置し得る。
In one aspect, the processor 210A may place a virtual camera 14A that captures the field of
図１２（Ｂ）は、図１２（Ａ）におけるユーザ５Ａの視界画像１７Ａを示す図である。視界画像１７Ａは、ＨＭＤ１２０Ａのモニタ１３０Ａに表示される画像である。この視界画像１７Ａは、仮想カメラ１４Ａにより生成された画像である。視界画像１７Ａには、ユーザ５Ｂのアバターオブジェクト６Ｂが表示されている。特に図示はしていないが、ユーザ５Ｂの視界画像にも同様に、ユーザ５Ａのアバターオブジェクト６Ａが表示されている。
12 (B) is a diagram showing the field of
図１２（Ｂ）の状態において、ユーザ５Ａは仮想空間１１Ａを介してユーザ５Ｂと対話による通信（コミュニケーション）を図ることができる。より具体的には、マイク１７０Ａにより取得されたユーザ５Ａの音声は、サーバ６００を介してユーザ５ＢのＨＭＤ１２０Ｂに送信され、ＨＭＤ１２０Ｂに設けられたスピーカ１８０Ｂから出力される。ユーザ５Ｂの音声は、サーバ６００を介してユーザ５ＡのＨＭＤ１２０Ａに送信され、ＨＭＤ１２０Ａに設けられたスピーカ１８０Ａから出力される。
In the state of FIG. 12B, the user 5A can communicate with the user 5B through the
ユーザ５Ｂの動作（ＨＭＤ１２０Ｂの動作およびコントローラ３００Ｂの動作）は、プロセッサ２１０Ａにより仮想空間１１Ａに配置されるアバターオブジェクト６Ｂに反映される。これにより、ユーザ５Ａは、ユーザ５Ｂの動作を、アバターオブジェクト６Ｂを通じて認識できる。
The operation of the user 5B (the operation of the
図１３は、本実施の形態に従うＨＭＤシステム１００において実行される処理の一部を表すシーケンスチャートである。図１３においては、ＨＭＤセット１１０Ｄを図示していないが、ＨＭＤセット１１０Ｄについても、ＨＭＤセット１１０Ａ、１１０Ｂ、１１０Ｃと同様に動作する。以下の説明でも、ＨＭＤセット１１０Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤセット１１０Ｂに関する各構成要素の参照符号にＢが付され、ＨＭＤセット１１０Ｃに関する各構成要素の参照符号にＣが付され、ＨＭＤセット１１０Ｄに関する各構成要素の参照符号にＤが付されるものとする。
FIG. 13 is a sequence chart showing a part of the processing executed in the
ステップＳ１３１０Ａにおいて、ＨＭＤセット１１０Ａにおけるプロセッサ２１０Ａは、仮想空間１１Ａにおけるアバターオブジェクト６Ａの動作を決定するためのアバター情報を取得する。このアバター情報は、例えば、動き情報、フェイストラッキングデータ、および音声データ等のアバターに関する情報を含む。動き情報は、ＨＭＤ１２０Ａの位置および傾きの時間的変化を示す情報や、モーションセンサ４２０Ａ等により検出されたユーザ５Ａの手の動きを示す情報などを含む。フェイストラッキングデータは、ユーザ５Ａの顔の各パーツの位置および大きさを特定するデータが挙げられる。フェイストラッキングデータは、ユーザ５Ａの顔を構成する各器官の動きを示すデータや視線データが挙げられる。音声データは、ＨＭＤ１２０Ａのマイク１７０Ａによって取得されたユーザ５Ａの音声を示すデータが挙げられる。アバター情報には、アバターオブジェクト６Ａ、あるいはアバターオブジェクト６Ａに関連付けられるユーザ５Ａを特定する情報や、アバターオブジェクト６Ａが存在する仮想空間１１Ａを特定する情報等が含まれてもよい。アバターオブジェクト６Ａやユーザ５Ａを特定する情報としては、ユーザＩＤが挙げられる。アバターオブジェクト６Ａが存在する仮想空間１１Ａを特定する情報としては、ルームＩＤが挙げられる。プロセッサ２１０Ａは、上述のように取得されたアバター情報を、ネットワーク２を介してサーバ６００に送信する。
In step S1310A, the processor 210A in the HMD set 110A acquires the avatar information for determining the operation of the
ステップＳ１３１０Ｂにおいて、ＨＭＤセット１１０Ｂにおけるプロセッサ２１０Ｂは、ステップＳ１３１０Ａにおける処理と同様に、仮想空間１１Ｂにおけるアバターオブジェクト６Ｂの動作を決定するためのアバター情報を取得し、サーバ６００に送信する。同様に、ステップＳ１３１０Ｃにおいて、ＨＭＤセット１１０Ｃにおけるプロセッサ２１０Ｃは、仮想空間１１Ｃにおけるアバターオブジェクト６Ｃの動作を決定するためのアバター情報を取得し、サーバ６００に送信する。
In step S1310B, the processor 210B in the HMD set 110B acquires the avatar information for determining the operation of the
ステップＳ１３２０において、サーバ６００は、ＨＭＤセット１１０Ａ、ＨＭＤセット１１０Ｂ、およびＨＭＤセット１１０Ｃのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ６００は、各アバター情報に含まれるユーザＩＤおよびルームＩＤ等に基づいて、共通の仮想空間１１に関連付けられた全ユーザ（この例では、ユーザ５Ａ〜５Ｃ）のアバター情報を統合する。そして、サーバ６００は、予め定められたタイミングで、統合したアバター情報を当該仮想空間１１に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、ＨＭＤセット１１０Ａ、ＨＭＤセット１１０Ｂ、およびＨＭＤ１１０Ｃは、互いのアバター情報をほぼ同じタイミングで共有することができる。
In step S1320, the
続いて、サーバ６００から各ＨＭＤセット１１０Ａ〜１１０Ｃに送信されたアバター情報に基づいて、各ＨＭＤセット１１０Ａ〜１１０Ｃは、ステップＳ１３３０Ａ〜Ｓ１３３０Ｃの処理を実行する。ステップＳ１３３０Ａの処理は、図１１におけるステップＳ１１８０の処理に相当する。
Subsequently, each HMD set 110A to 110C executes the process of steps S1330A to S1330C based on the avatar information transmitted from the
ステップＳ１３３０Ａにおいて、ＨＭＤセット１１０Ａにおけるプロセッサ２１０Ａは、仮想空間１１Ａにおける他のユーザ５Ｂ，５Ｃのアバターオブジェクト６Ｂ、アバターオブジェクト６Ｃの情報を更新する。具体的には、プロセッサ２１０Ａは、ＨＭＤセット１１０Ｂから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間１１におけるアバターオブジェクト６Ｂの位置および向き等を更新する。例えば、プロセッサ２１０Ａは、メモリモジュール５３０に格納されたオブジェクト情報に含まれるアバターオブジェクト６Ｂの情報（位置および向き等）を更新する。同様に、プロセッサ２１０Ａは、ＨＭＤセット１１０Ｃから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間１１におけるアバターオブジェクト６Ｃの情報（位置および向き等）を更新する。
In step S1330A, the processor 210A in the HMD set 110A updates the information of the
ステップＳ１３３０Ｂにおいて、ＨＭＤセット１１０Ｂにおけるプロセッサ２１０Ｂは、ステップＳ１３３０Ａにおける処理と同様に、仮想空間１１Ｂにおけるユーザ５Ａ，５Ｃのアバターオブジェクト６Ａ，６Ｃの情報を更新する。同様に、ステップＳ１３３０Ｃにおいて、ＨＭＤセット１１０Ｃにおけるプロセッサ２１０Ｃは、仮想空間１１Ｃにおけるユーザ５Ａ，５Ｂのアバターオブジェクト６Ａ，６Ｂの情報を更新する。
In step S1330B, the processor 210B in the HMD set 110B updates the information of the avatar objects 6A, 6C of the users 5A, 5C in the
［モジュールの詳細構成］
図１４を参照して、コンピュータ２００のモジュール構成の詳細について説明する。図１４は、ある実施の形態に従うコンピュータ２００のモジュールの詳細構成を表すブロック図である。
[Detailed configuration of module]
The details of the module configuration of the
図１４に示されるように、コントロールモジュール５１０は、仮想カメラ制御モジュール１４２１と、視界領域決定モジュール１４２２と、基準視線特定モジュール１４２３と、顔器官検出モジュール１４２４と、動き検出モジュール１４２５と、仮想空間定義モジュール１４２６と、仮想オブジェクト生成モジュール１４２７と、操作オブジェクト制御モジュール１４２８と、アバター制御モジュール１４２９と、を備える。レンダリングモジュール５２０は、視界画像生成モジュール１４３８を備える。メモリモジュール５３０は、空間情報１４３１と、オブジェクト情報１４３２と、ユーザ情報１４３３と、顔情報１４３４と、を保持している。
As shown in FIG. 14, the
仮想カメラ制御モジュール１４２１は、仮想空間１１に仮想カメラ１４を配置する。仮想カメラ制御モジュール１４２１は、仮想空間１１における仮想カメラ１４の配置位置と、仮想カメラ１４の向き（傾き）を制御する。視界領域決定モジュール１４２２は、ＨＭＤ１２０を装着したユーザの頭の向きと、仮想カメラ１４の配置位置に応じて、視界領域１５を規定する。視界画像生成モジュール１４３８は、決定された視界領域１５に基づいて、モニタ１３０に表示される視界画像１７を生成する。
The virtual
基準視線特定モジュール１４２３は、注視センサ１４０からの信号に基づいて、ユーザ５の視線を特定する。顔器官検出モジュール１４２４は、第１カメラ１５０および第２カメラ１６０が生成するユーザ５の顔の画像から、ユーザ５の顔を構成する器官（例えば、口，目，眉）を検出する。動き検出モジュール１４２５は、顔器官検出モジュール１４２４が検出した各器官の動き（形状）を検出する。
The reference line-of-
仮想空間定義モジュール１４２６は、仮想空間１１を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間１１を規定する。
The virtual
仮想オブジェクト生成モジュール１４２７は、仮想空間１１に配置されるオブジェクトを生成する。オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。
The virtual
操作オブジェクト制御モジュール１４２８は、仮想空間１１においてユーザの操作を受け付けるための操作オブジェクトを仮想空間１１に配置する。ユーザは、操作オブジェクトを操作することにより、例えば、仮想空間１１に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ＨＭＤ１２０を装着したユーザの手に相当する手オブジェクト等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。
The operation
アバター制御モジュール１４２９は、ネットワーク２を介して接続される他のコンピュータ２００のユーザのアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。ある局面において、アバター制御モジュール１４２９は、ユーザ５のアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。ある局面において、アバター制御モジュール１４２９は、ユーザ５を含む画像に基づいて、ユーザ５を模したアバターオブジェクトを生成する。別の局面において、アバター制御モジュール１４２９は、複数種類のアバターオブジェクト（例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト）の中からユーザ５による選択を受け付けたアバターオブジェクトを仮想空間１１に配置するためのデータを生成する。
The
アバター制御モジュール１４２９は、ＨＭＤセンサ４１０が検出するＨＭＤ１２０の動きをアバターオブジェクトに反映する。例えば、アバター制御モジュール１４２９は、ＨＭＤ１２０が傾いたことを検知して、アバターオブジェクトを傾けて配置するためのデータを生成する。ある局面において、アバター制御モジュール１４２９は、コントローラ３００の動きをアバターオブジェクトに反映する。この場合、コントローラ３００は、コントローラ３００の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子（例えば、赤外線ＬＥＤ）などを備える。アバター制御モジュール１４２９は、動き検出モジュール１４２５が検出した顔器官の動作を、仮想空間１１に配置されるアバターオブジェクトの顔に反映させる。つまり、アバター制御モジュール１４２９は、ユーザ５Ａの顔の動作をアバターオブジェクトに反映する。
The
コントロールモジュール５１０は、仮想空間１１に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール５１０は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行う。コントロールモジュール５１０は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール１４２８は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行う。
When each of the objects arranged in the
メモリモジュール５３０は、コンピュータ２００が仮想空間１１をユーザ５に提供するために使用されるデータを保持している。ある局面において、メモリモジュール５３０は、空間情報１４３１と、オブジェクト情報１４３２と、ユーザ情報１４３３と、顔情報１４３４とを保持している。
The
空間情報１４３１は、仮想空間１１を提供するために規定された１つ以上のテンプレートを保持している。
オブジェクト情報１４３２は、仮想空間１１において再生されるコンテンツ、当該コンテンツで使用されるオブジェクト、およびオブジェクトを仮想空間１１に配置するための情報（たとえば、位置情報）を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。
The
ユーザ情報１４３３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報１４３２に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。
The
顔情報１４３４は、顔器官検出モジュール１４２４が、ユーザ５の顔器官を検出するために予め記憶されたテンプレートを保持している。ある局面において、顔情報１４３４は、口テンプレート１４３５と、目テンプレート１４３６と、眉テンプレート１４３７とを保持する。各テンプレートは、顔を構成する器官に対応する画像であり得る。例えば、口テンプレート１４３５は、口の画像であり得る。各テンプレートは複数の画像を含んでもよい。
In the
［３６０度動画の撮影］
次に、ある実施の形態に従う３６０度動画の撮影について説明する。図１５は、ある実施の形態に従う３６０度カメラに係る構成の概略を表す図である。ある実施の形態において、図１に示した外部機器７００は、３６０度カメラ１５３９Ａ、３６０度カメラ１５３９Ｂ及び３６０度カメラ１５３９Ｃを含む。３６０度カメラ１５３９Ａ、１５３９Ｂ及び１５３９Ｃの各々はネットワーク２を介してサーバ６００やＨＭＤセット１１０のコンピュータ２００と通信可能に構成される。以下、３６０度カメラ１５３９Ａ、１５３９Ｂ及び１５３９Ｃを総称して、３６０度カメラ１５３９とも言う。３６０度カメラ１５３９の数は、３つに限られず、２つであってもよいし、４つ以上であってもよい。３６０度カメラ１５３９は、現実空間の設置位置における全方位の映像である全方位動画（３６０度動画）を撮影する。
[Shooting 360-degree video]
Next, shooting of a 360-degree moving image according to a certain embodiment will be described. FIG. 15 is a diagram illustrating an outline of a configuration according to a 360-degree camera according to an embodiment. In certain embodiments, the
本実施の形態では、３６０度カメラ１５３９を現実空間の部屋に設置し、部屋の様子を撮影する。図１６は、図１５に示した３６０度カメラを設置する部屋の間取りの一例を示す平面図である。図１６に示すシェアハウス１６４１は、現実空間において複数の人物が共同生活する家である。共同生活する人物は、男性だけでもよいし、女性だけでもよいし、男性と女性の混合であってもよい。シェアハウス１６４１での共同生活は、脚本のあるドラマであってもよいし、脚本のない自由な生活でもよい。ユーザ５は、頭部にＨＭＤ１２０を装着して、詳しくは後述するように、３６０度カメラ１５３９で撮影したシェアハウス１６４１の様子を視聴する。
In the present embodiment, a 360-
シェアハウス１６４１は、部屋１６４２、部屋１６４３、部屋１６４４、部屋１６４５及び廊下１６４６を有する。部屋１６４２と部屋１６４３との間には扉１６４７が設けられており、共同生活する人物は扉１６４７を開けて部屋１６４２と部屋１６４３を行き来することができる。部屋１６４２と廊下１６４６との間には扉１６４８が設けられており、共同生活する人物は扉１６４８を開けて部屋１６４２と廊下１６４６を行き来することができる。部屋１６４３と廊下１６４６との間には扉１６４９が設けられており、共同生活する人物は扉１６４９を開けて部屋１６４３と廊下１６４６を行き来することができる。部屋１６４４と廊下１６４６との間には扉１６５１が設けられており、共同生活する人物は扉１６５１を開けて部屋１６４４と廊下１６４６を行き来することができる。部屋１６４５と廊下１６４６との間には扉１６５２が設けられており、共同生活する人物は扉１６５２を開けて部屋１６４５と廊下１６４６を行き来することができる。
The
３６０度カメラ１５３９は、２つの超広角レンズを用いて全天球が撮影可能なカメラであってもよいし、１つの超広角レンズを用いて半球が撮影可能なカメラであってもよい。３６０度カメラ１５３９は、設置された位置において全方向の３６０度動画を撮影する。なお、３６０度カメラ１５３９は、例えば、正六面体の各面に１個ずつカメラを設けて全方向を撮影し、各面に設けた合計６個のカメラによる撮影動画を合成して３６０度動画を得るようにしてもよい。また、３６０度カメラ１５３９は、視差により立体視が可能な３次元の３６０度動画を撮影するカメラであってもよい。
The 360-
部屋１６４２には３６０度カメラ１５３９Ａを設置し、３６０度カメラ１５３９Ａによって部屋１６４２内を撮影する。部屋１６４３には３６０度カメラ１５３９Ｂを設置し、３６０度カメラ１５３９Ｂによって部屋１６４３内を撮影する。部屋１６４４には３６０度カメラ１５３９Ｃを設置し、３６０度カメラ１５３９Ｃによって部屋１６４４内を撮影する。３６０度カメラ１５３９によって撮影した３６０度動画は、ネットワーク２を介してコンピュータ２００に送信される。ＨＭＤ１２０には、３６０度カメラ１５３９Ａ、１５３９Ｂ及び１５３９Ｃのうちのいずれかによる撮影動画が選択されて表示される。
A 360-
本実施の形態においては、仮想空間１１に表示オブジェクトを配置し、３６０度カメラ１５３９によって撮影した３６０度動画をこの表示オブジェクトに表示することで、上述のようにレンダリングモジュール５２０が視界画像データを生成し、ＨＭＤ１２０のモニタ１３０に３６０度動画を表示する。ある実施の形態において、３６０度カメラ１５３９によって撮影した３６０度動画は、図１１のステップＳ１１８０において、視野座標系の視界画像データに重ね合わせることでモニタ１３０に表示するようにしてもよい。また、ある実施の形態において、３６０度カメラ１５３９によって撮影した３６０度動画は、図１１のステップＳ１１８０で出力する視界画像データとして用いることでモニタ１３０に表示するようにしてもよい。
In the present embodiment, the display object is arranged in the
仮想カメラ１４は、現実空間におけるＨＭＤ１２０の動きに連動して、仮想空間１１において移動する。これにより、現実空間におけるＨＭＤ１２０の位置および傾きの変化が、仮想カメラ１４の動きの変化として仮想空間１１において再現される。仮想空間１１の表示オブジェクトに表示した３６０度動画は、パノラマ画像１３を構成する画像として用いられ、現実空間におけるＨＭＤ１２０の動きに連動して、３６０度動画のうち仮想カメラ１４が撮影する領域が移動する。
The
［３６０度動画の表示］
続いて、ＨＭＤ１２０のモニタ１３０における３６０度動画の表示について説明する。ユーザ５が、ＨＭＤセット１１０を用いて、シェアハウス１６４１を撮影した３６０度動画を視聴するとき、シェアハウス１６４１内の移動物（例えば人物）の中から、目当ての移動物（例えばお気に入りの女の子）の行動に注目し、目当ての移動物を常に見ていたい場合がある。この場合、３６０度カメラ１５３９は部屋ごとに３６０度動画を撮影することから、目当ての移動物が部屋を移動した場合、３６０度カメラ１５３９の切替えを行わなければならない。ユーザ５は、３６０度カメラ１５３９のうちどのカメラに切替えればよいのか迷うこともあれば、切替操作が面倒と感じる場合もある。そこで、ある実施の形態では、目当ての移動物を追跡対象物とし、ユーザ５が視聴する３６０度カメラ１５３９を自動で切替え、ユーザ５による３６０度動画の視聴時の利便性を向上する。図１７は、ある実施の形態に従うＨＭＤセットにおいて実行される処理の一部であって、３６０度カメラによって撮影した３６０度動画の表示制御に係る処理を示すフローチャートである。ステップＳ１７５３では初期設定を行う。
[Display 360-degree video]
Subsequently, the display of the 360-degree moving image on the
ＨＭＤセット１１０のコンピュータ２００では、処理開始時に、３６０度カメラ１５３９のうちのいずれかを選択し、その選択した３６０度カメラ１５３９により撮影した３６０度動画を、仮想空間１１の表示オブジェクトに表示する。ステップＳ１７５３の初期設定では、処理開始後、最初に表示する３６０度動画をどの３６０度カメラ１５３９により撮影したものにするかの設定を行う。この設定では、当初表示するカメラとして登録してある３６０度カメラ１５３９による３６０度動画を表示するように動作する。当初表示するカメラの登録は、コンピュータ２００に予め登録しておくものであってもよいし、ユーザ５が登録するものであってもよい。ユーザ５による登録は、モニタ１３０の表示を参照しながらコントローラ３００を操作して登録することができる。この当初表示するカメラの登録は、いつでも行うことができるようにしてもよい。
At the start of processing, the
また、ステップＳ１７５３の初期設定では、自動切替モードの設定を行うことができる。自動切替モードは、追跡対象物の部屋移動に応じて、３６０度カメラ１５３９のうち３６０度動画を表示するカメラを自動で切替えるモードである。自動切替モードに設定するか否かは、ユーザ５がモニタ１３０の表示を参照しながらコントローラ３００を操作して登録することができる。
Further, in the initial setting of step S1753, the automatic switching mode can be set. The automatic switching mode is a mode in which the camera that displays the 360-degree moving image among the 360-
また、ステップＳ１７５３の初期設定では、追跡対象物の設定を行うことができる。人物を撮影している３６０度動画を表示している場合には、人物を追跡対象物としてもよいし、犬や猫といった愛玩動物などの動物を撮影している３６０度動画を表示している場合には、動物を追跡対象物としてもよい。追跡対象物の設定としては、人物が追跡対象物である場合には、例えば、特定の人物を追跡するように設定してもよいし、男性を追跡するように設定してもよいし、女性を追跡するように設定してもよい。また追跡対象物の設定としては、動物が追跡対象物である場合には、例えば、特定の動物を追跡するように設定してもよいし、ある種類の動物を追跡するように設定してもよい。ある実施の形態では、ステップＳ１７５３の初期設定において追跡対象物の設定を行わなくてもよい。 Further, in the initial setting of step S1753, the tracking target can be set. When displaying a 360-degree video of a person, the person may be tracked, or a 360-degree video of an animal such as a pet animal such as a dog or cat is displayed. In some cases, animals may be tracked. As the setting of the tracking object, when the person is the tracking object, for example, it may be set to track a specific person, it may be set to track a man, or it may be set to track a woman. May be set to track. Further, as the setting of the tracking object, when the animal is the tracking object, for example, it may be set to track a specific animal, or it may be set to track a certain kind of animal. good. In some embodiments, it is not necessary to set the tracking object in the initial setting of step S1753.
ステップＳ１７５３に続くステップＳ１７５４では、自動切替モードが設定されているか否かを判定する。自動切替モードが設定されていない場合（ステップＳ１７５４：Ｎｏ）には、ステップＳ１７５５に進む。ステップＳ１７５５では、３６０度カメラ１５３９のうち３６０度動画を表示するカメラの自動切替えを行わず、ユーザ５がモニタ１３０の表示を参照しながらコントローラ３００を操作して、３６０度カメラ１５３９のうち３６０度動画を表示するカメラの切替えを行う。例えば、ユーザ５は、コントローラ３００を操作して、図１６に示した部屋１６４２、部屋１６４３及び部屋１６４４のうち見たい部屋を入力する。コンピュータ２００では、このユーザ５の入力を受け付けて、３６０度カメラ１５３９のうち、入力された部屋に設置してあるカメラを選択し、この選択した３６０度カメラ１５３９により撮影した３６０度動画を、仮想空間１１の表示オブジェクトに表示する。
In step S1754 following step S1753, it is determined whether or not the automatic switching mode is set. If the automatic switching mode is not set (step S1754: No), the process proceeds to step S1755. In step S1755, the
ステップＳ１７５４において自動切替モードが設定されている場合（ステップＳ１７５４：Ｙｅｓ）には、ステップＳ１７５６に進み、自動切替処理を実行する。なお、ステップＳ１７５４において自動切替モードが設定されている場合であっても、ステップＳ１７５５と同様に、ユーザ５がコントローラ３００を操作して、３６０度カメラ１５３９のうち３６０度動画を表示するカメラを切替えることができるようにしてもよい。ステップＳ１７５６の自動切替処理については、以下に、図１８を参照しながら説明する。
If the automatic switching mode is set in step S1754 (step S1754: Yes), the process proceeds to step S1756 to execute the automatic switching process. Even when the automatic switching mode is set in step S1754, the
図１８は、図１７のステップＳ１７５６に示した自動切替処理の一例を示すフローチャートである。まず、ステップＳ１８５７では、追跡対象物特定処理を行う。図１７のステップＳ１７５３の初期設定で追跡対象物の設定をしていた場合には、ステップＳ１８５７の追跡対象物特定処理では、ステップＳ１７５３で設定した追跡対象物を、追跡対象物として特定する。追跡対象物の特定とは、その追跡対象物を他の移動物と識別可能な識別情報を取得することである。この識別情報としては、例えば、３６０度カメラ１５３９で撮影した画像から追跡対象物である人物の顔認識を行い、この顔認識の結果を識別情報とすることができる。この場合、ステップＳ１７５３において設定する追跡対象物も顔認識によって他の移動物と識別し、追跡対象物として設定すればよい。
FIG. 18 is a flowchart showing an example of the automatic switching process shown in step S1756 of FIG. First, in step S1857, a tracking object identification process is performed. When the tracking object is set in the initial setting of step S1753 of FIG. 17, the tracking object identification process of step S1857 specifies the tracking object set in step S1753 as the tracking object. Identification of a tracked object is to acquire identification information that can distinguish the tracked object from other moving objects. As the identification information, for example, face recognition of a person who is a tracking object can be performed from an image taken by a 360-
また、ある実施の形態では、追跡対象物を他の移動物と識別可能な識別情報として、追跡対象物の服の色を用いることができる。例えば、３６０度カメラ１５３９で撮影した画像において、追跡対象物の顔から３０ピクセル下がった位置の画素の色を、追跡対象物の服の色として検出することができる。また、ある実施の形態では、追跡対象物を他の移動物と識別可能な識別情報として、追跡対象物の顔認識の結果及び服の色を用いることができる。この実施の形態によれば、追跡対象物が双子の場合など顔だけでは識別困難なときに双子に予め異なる色の服を着てもらうことで双子の識別も可能となる。
Also, in certain embodiments, the color of the clothing of the tracked object can be used as identification information that can distinguish the tracked object from other moving objects. For example, in the image taken by the 360-
また、ある実施の形態では、追跡対象物を他の移動物と識別可能な識別情報として、追跡対象物が携帯するＩＣカードに記憶された情報を用いることができる。この場合、各部屋の出入り口（扉付近）にＩＣカードに記憶された情報を読み取り可能なカードリーダを設置し、追跡対象物が部屋を出入りするときにはＩＣカードをカードリーダにかざすことで、追跡対象物の所在を特定することができる。この場合、後述するステップＳ１８６１のカメラ切替処理では、カードリーダによる読取結果によって判別した追跡対象物の所在に応じ、３６０度カメラ１５３９のうち追跡対象物が所在する部屋に設置したカメラによって撮影した３６０度動画を、仮想空間１１の表示オブジェクトに表示する。
Further, in a certain embodiment, the information stored in the IC card carried by the tracking object can be used as the identification information that can distinguish the tracking object from other moving objects. In this case, a card reader that can read the information stored in the IC card is installed at the entrance (near the door) of each room, and when the tracking object enters or exits the room, the IC card is held over the card reader to track the object. The location of an object can be identified. In this case, in the camera switching process of step S1861 described later, 360 shot by a camera installed in the room where the tracking object is located among the 360-
ある実施の形態において、シェアハウス１６４１で共同生活する移動物である人物は、共同生活を公開することで金銭的収入を得ることができるものとしてもよい。この場合、自身が追跡対象物とされた数に応じて収入の額を増減してもよい。このようにすることで、シェアハウス１６４１で共同生活する人物は、自身が他の人と識別可能となるように積極的に服の色を変えたり、部屋を出入りするときのＩＣカードのかざし忘れをなくしたりすることになり、これにより、追跡対象物の識別精度を向上し、後述する自動切替モードでの切替精度を向上することができる。
In certain embodiments, a person who is a moving object living together in a
なお、ステップＳ１７５３で追跡対象物を設定しなかった場合、ステップＳ１８５７において、どの移動物を追跡対象物として特定するかは、以下のようにすることができる。上述のようにＨＭＤセット１１０は注視センサ１４０によってユーザ５の視線を検出することができる。そこで、ある実施の形態において、ユーザ５の視線が同一の移動物に所定時間（例えば１分）以上向けられていた場合、その移動物を追跡対象物として特定する。また、ある実施の形態において、ある移動物が部屋から出たときに、ユーザ５の視線がその移動物に向けられていた場合、その移動物を追跡対象物として特定する。移動物が部屋から出たことの検出は、例えば、現在表示している３６０度動画において、部屋ごとの扉（部屋１６４２であれば扉１６４７又は１６４８、部屋１６４３であれば扉１６４９、部屋１６４４であれば扉１６５１）の近傍でその移動物が消えたことによって検出することができる。
If the tracking target is not set in step S1753, which moving object is specified as the tracking target in step S1857 can be specified as follows. As described above, the HMD set 110 can detect the line of sight of the
また、ある実施の形態において、移動物が部屋から出たことの検出は、視界画像１７の端部以外に移動物が所在しているときに、その移動物が視界画像１７から消えたことによって検出することができる。
Further, in a certain embodiment, the detection that the moving object has come out of the room is due to the fact that the moving object disappears from the
ステップＳ１８５７に続くステップＳ１８５８では、追跡対象物追跡処理を行う。ステップＳ１８５８の追跡対象物追跡処理では、ステップＳ１８５７で特定した追跡対象物を追跡する。すなわち、ステップＳ１８５７で取得した識別情報の移動物である追跡対象物が、現在表示している３６０度動画内のどこに位置しているのかを追跡する。 In step S1858 following step S1857, tracking object tracking processing is performed. In the tracking object tracking process of step S1858, the tracking object identified in step S1857 is tracked. That is, it tracks where in the 360-degree moving object currently displayed, which is the moving object of the identification information acquired in step S1857, is located.
ステップＳ１８５８に続くステップＳ１８５９では、ステップＳ１８５８で追跡している追跡対象物が、３６０度カメラ１５３９のうち現在表示している３６０度動画を撮影しているカメラが設置されている部屋を出たか否かを判定する。追跡対象物が部屋から出たことの検出は、上述と同様である。なお、追跡対象物が、部屋ごとの扉の近傍以外で、現在表示している３６０度動画から消えた場合も、追跡対象物が部屋から出たとしてもよいし、この場合は追跡対象物がタンスの裏に隠れているなど追跡対象物が部屋から出ていないとしてもよい。追跡対象物が部屋を出ていない場合（ステップＳ１８５９：Ｎｏ）には、ステップＳ１８５８に戻って処理を継続する。
In step S1859 following step S1858, whether or not the tracking object being tracked in step S1858 has left the room in which the camera currently displaying the 360-degree video of the 360-
ステップＳ１８５９において追跡対象物が部屋を出た場合（ステップＳ１８５９：Ｙｅｓ）には、ステップＳ１８６１に進み、カメラ切替処理を行う。ステップＳ１８６１のカメラ切替処理が済んだならば、ステップＳ１８５８に戻って処理を継続する。ステップＳ１８６１のカメラ切替処理について以下に説明する。 When the tracking object leaves the room in step S1859 (step S1859: Yes), the process proceeds to step S1861 to perform the camera switching process. When the camera switching process in step S1861 is completed, the process returns to step S1858 to continue the process. The camera switching process in step S1861 will be described below.
ある実施の形態では、ステップＳ１８６１のカメラ切替処理は、追跡対象物が現在の部屋から出たことを契機に、仮想空間１１の表示オブジェクトへの表示を、現在まで表示していた３６０度動画から黒一面の暗転画像に切り替える。その後、すべての３６０度カメラ１５３９が撮影した３６０度動画のいずれかに、追跡対象物が現れたことを契機に、仮想空間１１の表示オブジェクトへの表示を、暗転画像から追跡対象物が現れた３６０度動画に切り替える。図１６に示したように、例えば部屋１６４２と部屋１６４４とは、扉一つでつながっておらずに廊下１６４６を介している。このような場合、追跡対象物が廊下１６４６にいるときに、暗転画像を表示することで、表示している部屋の切替わりを、ユーザ５にはっきりと認識させることができ、ユーザ５が追跡対象物の行動をより認識しやすくなる。
In a certain embodiment, the camera switching process in step S1861 causes the display on the display object of the
ある実施の形態では、ステップＳ１８６１のカメラ切替処理は、追跡対象物が現在の部屋から出た後、すべての３６０度カメラ１５３９が撮影した３６０度動画のいずれかに、追跡対象物が現れたことを契機に、仮想空間１１の表示オブジェクトへの表示を、現在まで表示していた３６０度動画から追跡対象物が現れた３６０度動画に切り替える。図１６に示したように、例えば部屋１６４２と部屋１６４３とは、一つの扉１６４７でつながっている。このような場合、暗転画像を挟まないことで、追跡対象物の行動を少しでも見逃したくないというユーザ５の要望に応えることができる。また、例えば部屋１６４２と部屋１６４４とは、扉一つでつながっておらずに廊下１６４６を介している。このような場合、追跡対象物が廊下１６４６にいるときに、現在まで表示していた３６０度動画をそのまま表示し続けることで、ユーザ５は、追跡対象物が部屋から出た後の、他の移動物の態度などの余韻を楽しむことができる。
In one embodiment, the camera switching process in step S1861 shows that the tracked object appears in any of the 360 degree videos taken by all 360
なお、ある実施の形態では、図１８のステップＳ１８５８の追跡対象物追跡処理を実施しない。この場合、部屋内で追跡対象物を継続して追跡せずに、追跡対象物の部屋への出入りだけを監視する。例えば、上述のように追跡対象物がＩＣカードを携帯し、各部屋の出入り口（扉付近）に設置されたカードリーダにＩＣカードをかざすことで、追跡対象物の部屋への出入りを監視することができる。 In one embodiment, the tracking object tracking process in step S1858 of FIG. 18 is not performed. In this case, the tracked object is not continuously tracked in the room, but only the entry and exit of the tracked object into the room is monitored. For example, as described above, the tracking object carries the IC card, and the IC card is held over the card reader installed at the entrance (near the door) of each room to monitor the entry and exit of the tracking object into the room. Can be done.
また、ある実施の形態では、追跡対象物の部屋への出入りを監視する場合、各部屋の出入り口（扉付近）に３６０度カメラ１５３９よりも解像度が高い固定カメラを設置し、この解像度が高い固定カメラで撮影した画像によって追跡対象物である人物の顔認識を行うことにより、顔認識の精度をより高めることができる。
Further, in one embodiment, when monitoring the entry and exit of the tracked object into the room, a fixed camera having a resolution higher than that of the 360-
また、ある実施の形態では、追跡対象物の顔認識において、再帰型などの機械学習を行うことで、データの蓄積とともに顔認識の精度を向上させることができる。 Further, in a certain embodiment, in face recognition of a tracking object, machine learning such as recursive type can be performed to accumulate data and improve the accuracy of face recognition.
なお、追跡対象物は、仮想空間１１に配置したアバターオブジェクトなどのＣＧであってもよい。
The tracking object may be a CG such as an avatar object arranged in the
上記実施形態においては、ＨＭＤによってユーザが没入する仮想空間（ＶＲ空間）を例示して説明したが、ＨＭＤとして、透過型のＨＭＤを採用してもよい。この場合、透過型のＨＭＤを介してユーザが視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実（ＡＲ：Augmented Reality）空間または複合現実（ＭＲ：Mixed Reality）空間における仮想体験をユーザに提供してもよい。この場合、操作オブジェクトに代えて、ユーザの手の動きに基づいて、仮想空間内における対象オブジェクトへの作用を生じさせてもよい。具体的には、プロセッサは、現実空間におけるユーザの手の位置の座標情報を特定するとともに、仮想空間内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサは、現実空間におけるユーザの手と仮想空間における対象オブジェクトとの位置関係を把握し、ユーザの手と対象オブジェクトとの間で上述したコリジョン制御等に対応する処理を実行可能となる。その結果、ユーザの手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。 In the above embodiment, the virtual space (VR space) in which the user is immersed by the HMD has been described as an example, but a transparent HMD may be adopted as the HMD. In this case, augmented reality (AR) space or mixed reality (AR) space or mixed reality (AR) space or mixed reality (AR) space or mixed reality (AR) space or mixed reality (AR) MR: Mixed Reality) A virtual experience in space may be provided to the user. In this case, instead of the operation object, the action on the target object in the virtual space may be generated based on the movement of the user's hand. Specifically, the processor may specify the coordinate information of the position of the user's hand in the real space, and may define the position of the target object in the virtual space in relation to the coordinate information in the real space. As a result, the processor can grasp the positional relationship between the user's hand in the real space and the target object in the virtual space, and can execute the process corresponding to the collision control and the like described above between the user's hand and the target object. .. As a result, it becomes possible to give an action to the target object based on the movement of the user's hand.
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。 The present invention is not limited to the above-described embodiments, and various modifications can be made within the scope of the claims, and the embodiments obtained by appropriately combining the technical means disclosed in the different embodiments. Is also included in the technical scope of the present invention.
（構成）
以上に開示された技術的特徴は、以下のように要約され得る。
(Constitution)
The technical features disclosed above can be summarized as follows.
（構成１）
ある実施形態によれば、プログラムにおいて、プロセッサに、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。
（構成２）
ある実施形態によれば、構成１に記載のプログラムにおいて、前記検知するステップは、前記対象物が前記第１の空間を出たことを検知し、前記対象物が前記第２の空間に入ったことを検知し、前記切替えるステップは、前記検知するステップによって前記対象物が前記第１の空間を出たことを検出した後、前記対象物が前記第２の空間に入ったことを検出したタイミングで、前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から前記第２の３６０度カメラで撮影した画像に切替える。
（構成３）
ある実施形態によれば、構成１に記載のプログラムにおいて、前記検知するステップは、前記対象物が前記第１の空間を出たことを検知し、前記対象物が前記第２の空間に入ったことを検知し、前記切替えるステップは、前記検知するステップによって前記対象物が前記第１の空間を出たことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から暗転画像に切替え、前記検知するステップによって前記対象物が前記第２の空間に入ったことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を暗転画像から前記第２の３６０度カメラで撮影した画像に切替える。
（構成４）
ある実施形態によれば、構成１から３のいずれか一項に記載のプログラムにおいて、前記追跡対象物は、人物であり、前記検知するステップは、前記第１の空間を撮影した画像及び前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する。
（構成５）
ある実施形態によれば、構成４に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の顔を認識し、前記認識した顔によって前記追跡対象物を特定する。
（構成６）
ある実施形態によれば、構成５に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の顔の認識において機械学習を行う。
（構成７）
ある実施形態によれば、構成５又は６に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の服の色をさらに認識し、前記認識した顔及び服の色によって前記追跡対象物を特定する。
（構成８）
ある実施形態によれば、構成４に記載のプログラムにおいて、前記検知するステップは、前記追跡対象物である人物の服の色を認識し、前記認識した服の色によって前記追跡対象物を特定する。
（構成９）
ある実施形態によれば、構成４から８のいずれか一項に記載のプログラムにおいて、前記検知するステップは、前記第１の３６０度カメラで前記第１の空間を撮影した画像及び前記第２の３６０度カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する。
（構成１０）
ある実施形態によれば、構成４から８のいずれか一項に記載のプログラムにおいて、前記検知するステップは、第１の固定カメラで前記第１の空間を撮影した画像及び第２の固定カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する。
（構成１１）
ある実施形態によれば、構成１から３のいずれか一項に記載のプログラムにおいて、前記追跡対象物は、人物であり、前記検知するステップは、第１のセンサによって前記対象物が前記第１の空間を出たことを検知し、第２のセンサによって前記対象物が前記第２の空間に入ったことを検知する。
（構成１２）
ある実施形態によれば、構成４から１１のいずれか一項に記載のプログラムにおいて、プロセッサに、前記表示するステップよりも前に、前記複数の移動物のうちのいずれが前記追跡対象物であるかを事前登録するステップ、をさらに実行させる。
（構成１３）
ある実施形態によれば、構成４から１１のいずれか一項に記載のプログラムにおいて、プロセッサに、ユーザの注目に基づいて、前記複数の移動物のうちのいずれが前記追跡対象物であるかを登録するステップ、をさらに実行させる。
（構成１４）
ある実施形態によれば、構成１３に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のそれぞれが前記第１の空間から出るタイミングにおけるユーザの注目に基づいて、前記複数の移動物のうちのいずれが前記追跡対象物であるかを登録する。
（構成１５）
ある実施形態によれば、構成１４に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界に含まれていた移動物を、前記追跡対象物であるとして登録する。
（構成１６）
ある実施形態によれば、構成１５に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界の端部以外に存在した状態から消えた移動物を、前記追跡対象物であるとして登録する。
（構成１７）
ある実施形態によれば、構成１５に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングにユーザの視界の中央に存在する移動物を、前記追跡対象物であるとして登録する。
（構成１８）
ある実施形態によれば、構成１７に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングでユーザの視界の中央に存在する移動物である人物を顔認識で特定する。
（構成１９）
ある実施形態によれば、構成１７に記載のプログラムにおいて、前記登録するステップは、前記複数の移動物のうち前記第１の空間から出るタイミングでユーザの視界の中央に存在する移動物である人物を顔認識で特定し、特定した人物の特徴点を追跡する。
（構成２０）
ある実施形態によれば、ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、仮想視点と表示オブジェクトとを含む、３次元の仮想空間を定義するステップと、第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、前記入力された画像を前記表示オブジェクトに表示するステップと、前記ヘッドマウントデバイスが関連付けられたユーザの頭部の動きを検出するステップと、前記頭部の動きに応じて、前記仮想視点からの視界を制御するステップと、前記視界に対応する視界画像を前記ヘッドマウントデバイスに表示するステップと、を実行させ、前記表示オブジェクトに表示するステップは、追跡対象物が前記第１の３６０度カメラで撮影した画像にいる場合、前記入力された画像のうち前記第１の３６０度カメラで撮影した画像を前記表示オブジェクトに表示し、前記追跡対象物が前記第１の３６０度カメラで撮影した画像から消えて前記第２の３６０度カメラで撮影した画像に現れた場合、前記表示オブジェクトに表示する画像を、前記入力された画像のうち前記第２の３６０度カメラで撮影した画像に切替える。
（構成２１）
ある実施形態によれば、プロセッサで実行される方法であって、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を備える。
（構成２２）
ある実施形態によれば、情報処理装置において、プロセッサと、プログラムを格納したメモリと、を備え、前記プログラムは、前記プロセッサに、第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第２の空間に移動したことを検知するステップと、前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。
（構成２３）
ある実施形態によれば、プログラムにおいて、プロセッサに、第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、追跡対象物が前記第１の３６０度カメラで撮影した画像にいる場合、前記入力された画像のうち前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、前記追跡対象物が前記第１の３６０度カメラで撮影した画像から消えて前記第２の３６０度カメラで撮影した画像に現れた場合、前記ヘッドマウントデバイスに表示する画像を、前記入力された画像のうち前記第２の３６０度カメラで撮影した画像に切替えるステップと、を実行させる。
（構成２４）
ある実施形態によれば、プログラムにおいて、前記第１の３６０度カメラは、第１の空間を撮影するカメラであり、前記第２の３６０度カメラは、第２の空間を撮影するカメラであり、前記第１の空間と前記第２の空間とは異なる空間である。
（構成２５）
ある実施形態によれば、プログラムにおいて、プロセッサに、第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、前記入力された画像に写っている追跡対象物を特定するステップと、前記入力された画像のうち前記追跡対象物が写っている画像を選択するステップと、前記選択するステップで選択した画像をヘッドマウントデバイスに表示するステップと、を実行させる。
(Structure 1)
According to one embodiment, in a program, the processor receives an input of an image taken by a first 360 degree camera that captures a first space, and a second 360 degree camera that captures a second space. A step of accepting the input of the image taken by the first 360-degree camera and a step of displaying the image taken by the first 360-degree camera on the head mount device when the tracking object among the plurality of moving objects is in the first space. When the step of detecting that the tracking object has moved to the second space and the step of detecting that the tracking object has moved to the second space are detected, the head mount device. The step of switching the image to be displayed on the image to the image taken by the second 360-degree camera is executed.
(Structure 2)
According to an embodiment, in the program described in
(Structure 3)
According to an embodiment, in the program described in
(Structure 4)
According to an embodiment, in the program according to any one of
(Structure 5)
According to an embodiment, in the program described in configuration 4, the detecting step recognizes the face of the person who is the tracking object and identifies the tracking object by the recognized face.
(Structure 6)
According to one embodiment, in the program described in
(Structure 7)
According to an embodiment, in the program according to
(Structure 8)
According to an embodiment, in the program described in configuration 4, the detecting step recognizes the color of the clothing of the person who is the tracking object and identifies the tracking object by the recognized clothing color. ..
(Structure 9)
According to an embodiment, in the program according to any one of configurations 4 to 8, the detection step is an image of the first space taken by the first 360 degree camera and the second. The tracking object is identified by using an image of the second space taken by a 360-degree camera.
(Structure 10)
According to an embodiment, in the program according to any one of configurations 4 to 8, the detection step is an image of the first space captured by the first fixed camera and a second fixed camera. The tracking object is identified by using the image obtained by taking the second space.
(Structure 11)
According to an embodiment, in the program according to any one of
(Structure 12)
According to an embodiment, in the program according to any one of configurations 4 to 11, any of the plurality of moving objects is the tracked object prior to the step of displaying to the processor. Further execute the step of pre-registering the CPU.
(Structure 13)
According to an embodiment, in the program according to any one of configurations 4 to 11, the processor is informed of which of the plurality of moving objects is the tracked object based on the user's attention. Perform the registration step further.
(Structure 14)
According to an embodiment, in the program of
(Structure 15)
According to an embodiment, in the program described in
(Structure 16)
According to an embodiment, in the program according to
(Structure 17)
According to an embodiment, in the program according to
(Structure 18)
According to an embodiment, in the program described in
(Structure 19)
According to an embodiment, in the program described in
(Structure 20)
According to an embodiment, a program executed on a computer to provide a virtual space by a head mount device, the program provides the computer with a three-dimensional virtual space including a virtual viewpoint and a display object. The step of defining, the step of accepting the input of the image taken by the first 360-degree camera, the step of accepting the input of the image taken by the second 360-degree camera, and the step of accepting the input of the input image are displayed on the display object. The step corresponding to the step of detecting the movement of the user's head associated with the head mount device, the step of controlling the view from the virtual viewpoint according to the movement of the head, and the step corresponding to the view. When the tracking object is in the image taken by the first 360-degree camera, the step of displaying the view image on the head mount device and the step of displaying the display object on the display object are the input images. Of these, the image taken by the first 360-degree camera was displayed on the display object, and the tracking object disappeared from the image taken by the first 360-degree camera and was taken by the second 360-degree camera. When it appears in the image, the image displayed on the display object is switched to the image taken by the second 360-degree camera among the input images.
(Structure 21)
According to one embodiment, a method executed by a processor, in which a step of accepting input of an image taken by a first 360 degree camera for taking a picture of a first space and a second step of taking a picture of a second space. The step of accepting the input of the image taken by the 360-degree camera, and when the tracking object among the plurality of moving objects is in the first space, the image taken by the first 360-degree camera is taken by the head mount device. When it is detected that the tracking object has moved to the second space in the step displayed in, the step of detecting that the tracking object has moved to the second space, and the step of detecting that the tracking object has moved to the second space. It includes a step of switching an image displayed on the head mount device to an image taken by the second 360-degree camera.
(Structure 22)
According to an embodiment, the information processing apparatus includes a processor and a memory for storing a program, and the program is an image taken by the processor with a first 360-degree camera that captures a first space. The step of accepting the input of, the step of accepting the input of the image taken by the second 360-degree camera for photographing the second space, and the case where the tracking object among the plurality of moving objects is in the first space. The step of displaying the image taken by the first 360-degree camera on the head mount device, the step of detecting that the tracking object has moved to the second space, and the step of detecting the tracking target. When it is detected that the object has moved to the second space, the step of switching the image displayed on the head mount device to the image taken by the second 360-degree camera is executed.
(Structure 23)
According to one embodiment, in a program, a step of accepting an input of an image taken by a first 360 degree camera, a step of accepting an input of an image taken by a second 360 degree camera, and a tracking object in a program. Is in the image taken by the first 360 degree camera, the step of displaying the image taken by the first 360 degree camera among the input images on the head mount device and the tracking object are said to be said. When the image disappears from the image taken by the first 360-degree camera and appears in the image taken by the second 360-degree camera, the image to be displayed on the head mount device is the second of the input images. The step of switching to the image taken by the 360-degree camera and the step of switching to the image are executed.
(Structure 24)
According to one embodiment, in the program, the first 360 degree camera is a camera that captures a first space, and the second 360 degree camera is a camera that captures a second space. The first space and the second space are different spaces.
(Structure 25)
According to one embodiment, in the program, the step of accepting the input of the image taken by the first 360 degree camera and the step of accepting the input of the image taken by the second 360 degree camera are input to the processor. The step of identifying the tracking object shown in the image, the step of selecting the image showing the tracking object from the input images, and the step of selecting the image selected in the selection step to the head mount device. Perform the steps to be displayed and.
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。 It should be considered that the embodiments disclosed this time are exemplary in all respects and not restrictive. The scope of the present invention is shown by the scope of claims rather than the above description, and it is intended to include all modifications within the meaning and scope equivalent to the scope of claims.
２…ネットワーク、５…ユーザ、６…アバターオブジェクト、１１…仮想空間、１２…中心、１４…仮想カメラ、１５…視界領域、１００…ＨＭＤシステム、１１０…ＨＭＤセット、１３０…モニタ、１７０…マイク、１８０…スピーカ、１９０…センサ、２００…コンピュータ、２１０…プロセッサ、２２０…メモリ、２３０…ストレージ、２４０…入出力インターフェイス、２５０…通信インターフェイス、３００…コントローラ、３１０…グリップ、３２０…フレーム、３４０、３５０、３７０、３８０…ボタン、３９０…アナログスティック、４１０…ＨＭＤセンサ、４２０…モーションセンサ、４３０…ディスプレイ、５１０…コントロールモジュール、５２０…レンダリングモジュール、５３０…メモリモジュール、５４０…通信制御モジュール、６００…サーバ、６１０…プロセッサ、６２０…メモリ、６３０…ストレージ、６４０…入出力インターフェイス、６５０…通信インターフェイス、１４２１…仮想カメラ制御モジュール、１４２２…視界領域決定モジュール、１４２３…基準視線特定モジュール、１４２４…動き検出モジュール、１４２４…顔器官検出モジュール、１４２５…動き検出モジュール、１４２６…仮想空間定義モジュール、１４２７…仮想オブジェクト生成モジュール、１４２８…操作オブジェクト制御モジュール、１４２９…アバター制御モジュール、１４３１…空間情報、１４３２…オブジェクト情報、１４３３…ユーザ情報、１４３４…顔情報、１４３５…口テンプレート、１４３８…視界画像生成モジュール。
2 ... network, 5 ... user, 6 ... avatar object, 11 ... virtual space, 12 ... center, 14 ... virtual camera, 15 ... view area, 100 ... HMD system, 110 ... HMD set, 130 ... monitor, 170 ... microphone, 180 ... Speaker, 190 ... Sensor, 200 ... Computer, 210 ... Processor, 220 ... Memory, 230 ... Storage, 240 ... Input / Output Interface, 250 ... Communication Interface, 300 ... Controller, 310 ... Grip, 320 ... Frame, 340, 350 370, 380 ... Button, 390 ... Analog Stick, 410 ... HMD Sensor, 420 ... Motion Sensor, 430 ... Display, 510 ... Control Module, 520 ... Rendering Module, 530 ... Memory Module, 540 ... Communication Control Module, 600 ... Server , 610 ... Processor, 620 ... Memory, 630 ... Storage, 640 ... Input / output interface, 650 ... Communication interface, 1421 ... Virtual camera control module, 1422 ... View area determination module, 1423 ... Reference line-of-sight identification module, 1424 ... Motion detection module , 1424 ... Face organ detection module, 1425 ... Motion detection module, 1426 ... Virtual space definition module, 1427 ... Virtual object generation module, 1428 ... Operation object control module, 1429 ... Avatar control module, 1431 ... Spatial information, 1432 ... Object information , 1433 ... User information, 1434 ... Face information, 1435 ... Mouth template, 1438 ... Visibility image generation module.
Claims (22)
第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、
前記追跡対象物が前記第２の空間に移動したことを検知するステップと、
前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、
を実行させる、
プログラム。 To the processor
The step of accepting the input of the image taken by the first 360 degree camera for taking a picture of the first space,
The step of accepting the input of the image taken by the second 360 degree camera that shoots the second space,
When the tracking object among the plurality of moving objects is in the first space, the step of displaying the image taken by the first 360-degree camera on the head mount device and the step of displaying the image taken by the first 360 degree camera.
A step of detecting that the tracking object has moved to the second space, and
When it is detected that the tracking object has moved to the second space in the detection step, the step of switching the image displayed on the head mount device to the image taken by the second 360-degree camera, and
To execute,
program.
前記対象物が前記第１の空間を出たことを検知し、
前記対象物が前記第２の空間に入ったことを検知し、
前記切替えるステップは、
前記検知するステップによって前記対象物が前記第１の空間を出たことを検出した後、前記対象物が前記第２の空間に入ったことを検出したタイミングで、前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から前記第２の３６０度カメラで撮影した画像に切替える、
請求項１に記載のプログラム。 The step to detect is
Detecting that the object has left the first space,
Detecting that the object has entered the second space,
The switching step is
An image to be displayed on the head mount device at the timing when it is detected that the object has entered the second space after detecting that the object has left the first space by the detection step. Is switched from the image taken by the first 360 degree camera to the image taken by the second 360 degree camera.
The program according to claim 1.
前記対象物が前記第１の空間を出たことを検知し、
前記対象物が前記第２の空間に入ったことを検知し、
前記切替えるステップは、
前記検知するステップによって前記対象物が前記第１の空間を出たことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を前記第１の３６０度カメラで撮影した画像から暗転画像に切替え、
前記検知するステップによって前記対象物が前記第２の空間に入ったことを検出したタイミングで前記ヘッドマウントデバイスに表示する画像を暗転画像から前記第２の３６０度カメラで撮影した画像に切替える、
請求項１に記載のプログラム。 The step to detect is
Detecting that the object has left the first space,
Detecting that the object has entered the second space,
The switching step is
The image to be displayed on the head mount device is switched from the image taken by the first 360-degree camera to the darkened image at the timing when it is detected that the object has left the first space by the detection step.
At the timing when it is detected that the object has entered the second space by the detection step, the image to be displayed on the head mount device is switched from the darkened image to the image taken by the second 360 degree camera.
The program according to claim 1.
前記検知するステップは、
前記第１の空間を撮影した画像及び前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する、
請求項１から３のいずれか一項に記載のプログラム。 The tracked object is a person
The step to detect is
The tracking object is identified by using the image obtained by photographing the first space and the image obtained by photographing the second space.
The program according to any one of claims 1 to 3.
前記追跡対象物である人物の顔を認識し、
前記認識した顔によって前記追跡対象物を特定する、
請求項４に記載のプログラム。 The step to detect is
Recognize the face of the person to be tracked,
The tracked object is identified by the recognized face.
The program according to claim 4.
前記追跡対象物である人物の顔の認識において機械学習を行う、
請求項５に記載のプログラム。 The step to detect is
Machine learning is performed in recognizing the face of a person who is the tracking object.
The program according to claim 5.
前記追跡対象物である人物の服の色をさらに認識し、
前記認識した顔及び服の色によって前記追跡対象物を特定する、
請求項５又は６に記載のプログラム。 The step to detect is
Further recognizing the color of the clothes of the person who is the tracking object,
The tracked object is identified by the recognized face and clothing colors.
The program according to claim 5 or 6.
前記追跡対象物である人物の服の色を認識し、
前記認識した服の色によって前記追跡対象物を特定する、
請求項４に記載のプログラム。 The step to detect is
Recognize the color of the clothes of the person who is the tracking object,
The tracked object is identified by the recognized clothing color.
The program according to claim 4.
前記第１の３６０度カメラで前記第１の空間を撮影した画像及び前記第２の３６０度カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する、
請求項４から８のいずれか一項に記載のプログラム。 The step to detect is
The tracking object is identified by using an image of the first space taken by the first 360-degree camera and an image of the second space taken by the second 360-degree camera.
The program according to any one of claims 4 to 8.
第１の固定カメラで前記第１の空間を撮影した画像及び第２の固定カメラで前記第２の空間を撮影した画像を用いて、前記追跡対象物を特定する、
請求項４から８のいずれか一項に記載のプログラム。 The step to detect is
The tracking object is identified by using the image of the first space taken by the first fixed camera and the image of the second space taken by the second fixed camera.
The program according to any one of claims 4 to 8.
前記検知するステップは、
第１のセンサによって前記対象物が前記第１の空間を出たことを検知し、
第２のセンサによって前記対象物が前記第２の空間に入ったことを検知する、
請求項１から３のいずれか一項に記載のプログラム。 The tracked object is a person
The step to detect is
The first sensor detects that the object has left the first space,
The second sensor detects that the object has entered the second space.
The program according to any one of claims 1 to 3.
前記表示するステップよりも前に、前記複数の移動物のうちのいずれが前記追跡対象物であるかを事前登録するステップ、
をさらに実行させる、
請求項４から１１のいずれか一項に記載のプログラム。 To the processor
A step of pre-registering which of the plurality of moving objects is the tracking object prior to the displayed step.
To execute further,
The program according to any one of claims 4 to 11.
ユーザの注目に基づいて、前記複数の移動物のうちのいずれが前記追跡対象物であるかを登録するステップ、
をさらに実行させる、
請求項４から１１のいずれか一項に記載のプログラム。 To the processor
A step of registering which of the plurality of moving objects is the tracking object based on the user's attention.
To execute further,
The program according to any one of claims 4 to 11.
請求項１３に記載のプログラム。 The registration step registers which of the plurality of moving objects is the tracking object based on the user's attention at the timing when each of the plurality of moving objects exits the first space. ,
The program according to claim 13.
請求項１４に記載のプログラム。 In the step of registering, a moving object included in the user's field of view at the timing of exiting the first space among the plurality of moving objects is registered as the tracking object.
The program according to claim 14.
請求項１５に記載のプログラム。 In the step of registering, a moving object that disappears from a state other than the end of the user's field of view at the timing of exiting the first space among the plurality of moving objects is registered as the tracking object.
The program according to claim 15.
請求項１５に記載のプログラム。 In the step of registering, a moving object existing in the center of the user's field of view at the timing of exiting the first space among the plurality of moving objects is registered as the tracking object.
The program according to claim 15.
請求項１７に記載のプログラム。 In the step of registering, a person who is a moving object existing in the center of the user's field of view at the timing of exiting the first space among the plurality of moving objects is identified by face recognition.
The program according to claim 17.
請求項１７に記載のプログラム。 In the step of registering, a person who is a moving object existing in the center of the user's field of view at the timing of exiting the first space among the plurality of moving objects is identified by face recognition, and feature points of the identified person are tracked. do,
The program according to claim 17.
仮想視点と表示オブジェクトとを含む、３次元の仮想空間を定義するステップと、
第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
前記入力された画像を前記表示オブジェクトに表示するステップと、
前記ヘッドマウントデバイスが関連付けられたユーザの頭部の動きを検出するステップと、
前記頭部の動きに応じて、前記仮想視点からの視界を制御するステップと、
前記視界に対応する視界画像を前記ヘッドマウントデバイスに表示するステップと、
を実行させ、
前記表示オブジェクトに表示するステップは、追跡対象物が前記第１の３６０度カメラで撮影した画像にいる場合、前記入力された画像のうち前記第１の３６０度カメラで撮影した画像を前記表示オブジェクトに表示し、前記追跡対象物が前記第１の３６０度カメラで撮影した画像から消えて前記第２の３６０度カメラで撮影した画像に現れた場合、前記表示オブジェクトに表示する画像を、前記入力された画像のうち前記第２の３６０度カメラで撮影した画像に切替える、
プログラム。 A program that is run on a computer to provide virtual space by a headmount device, said program to the computer.
Steps to define a 3D virtual space, including virtual viewpoints and display objects,
The step of accepting the input of the image taken by the first 360 degree camera,
The step of accepting the input of the image taken by the second 360 degree camera,
A step of displaying the input image on the display object, and
The step of detecting the movement of the user's head with which the head mount device is associated, and
A step of controlling the field of view from the virtual viewpoint according to the movement of the head,
A step of displaying a field of view image corresponding to the field of view on the head mount device,
To run,
In the step of displaying on the display object, when the tracking object is in the image taken by the first 360 degree camera, the image taken by the first 360 degree camera among the input images is displayed on the display object. When the tracking object disappears from the image taken by the first 360-degree camera and appears in the image taken by the second 360-degree camera, the image to be displayed on the display object is input. Of the images, the image is switched to the image taken by the second 360-degree camera.
program.
第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、
前記追跡対象物が前記第２の空間に移動したことを検知するステップと、
前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、
を備える、方法。 It ’s a method that runs on a processor.
The step of accepting the input of the image taken by the first 360 degree camera for taking a picture of the first space,
The step of accepting the input of the image taken by the second 360 degree camera that shoots the second space,
When the tracking object among the plurality of moving objects is in the first space, the step of displaying the image taken by the first 360-degree camera on the head mount device and the step of displaying the image taken by the first 360 degree camera.
A step of detecting that the tracking object has moved to the second space, and
When it is detected that the tracking object has moved to the second space in the detection step, the step of switching the image displayed on the head mount device to the image taken by the second 360-degree camera, and
A method.
プログラムを格納したメモリと、
を備え、
前記プログラムは、前記プロセッサに、
第１の空間を撮影する第１の３６０度カメラで撮影した画像の入力を受け付けるステップと、
第２の空間を撮影する第２の３６０度カメラで撮影した画像の入力を受け付けるステップと、
複数の移動物のうちの追跡対象物が前記第１の空間にいる場合、前記第１の３６０度カメラで撮影した画像をヘッドマウントデバイスに表示するステップと、
前記追跡対象物が前記第２の空間に移動したことを検知するステップと、
前記検知するステップで前記追跡対象物が前記第２の空間に移動したことを検知した場合、前記ヘッドマウントデバイスに表示する画像を前記第２の３６０度カメラで撮影した画像に切替えるステップと、
を実行させる、
情報処理装置。
With the processor
The memory that stores the program and
With
The program is delivered to the processor.
The step of accepting the input of the image taken by the first 360 degree camera for taking a picture of the first space,
The step of accepting the input of the image taken by the second 360 degree camera that shoots the second space,
When the tracking object among the plurality of moving objects is in the first space, the step of displaying the image taken by the first 360-degree camera on the head mount device and the step of displaying the image taken by the first 360 degree camera.
A step of detecting that the tracking object has moved to the second space, and
When it is detected that the tracking object has moved to the second space in the detection step, the step of switching the image displayed on the head mount device to the image taken by the second 360-degree camera, and
To execute,
Information processing device.
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019235610A JP7458779B2 (en) | 2019-12-26 | 2019-12-26 | Program, method and information processing device |
| PCT/JP2020/046876 WO2021131938A1 (en) | 2019-12-26 | 2020-12-16 | Program, method, and information processing device |
| JP2024042980A JP2024061890A (en) | 2019-12-26 | 2024-03-19 | Program, method and information processing device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019235610A JP7458779B2 (en) | 2019-12-26 | 2019-12-26 | Program, method and information processing device |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2024042980A Division JP2024061890A (en) | 2019-12-26 | 2024-03-19 | Program, method and information processing device |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2021105763A true JP2021105763A (en) | 2021-07-26 |
| JP2021105763A5 JP2021105763A5 (en) | 2023-11-07 |
| JP7458779B2 JP7458779B2 (en) | 2024-04-01 |
Family
ID=76575899
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019235610A Active JP7458779B2 (en) | 2019-12-26 | 2019-12-26 | Program, method and information processing device |
| JP2024042980A Pending JP2024061890A (en) | 2019-12-26 | 2024-03-19 | Program, method and information processing device |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2024042980A Pending JP2024061890A (en) | 2019-12-26 | 2024-03-19 | Program, method and information processing device |
Country Status (2)
| Country | Link |
|---|---|
| JP (2) | JP7458779B2 (en) |
| WO (1) | WO2021131938A1 (en) |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016110319A (en) | 2014-12-04 | 2016-06-20 | ソニー株式会社 | Display control device, display control method, and program |
| JP2017187952A (en) | 2016-04-06 | 2017-10-12 | 株式会社コロプラ | Display control method and program for causing computer to execute the method |
| JP6495398B2 (en) * | 2017-09-04 | 2019-04-03 | 株式会社コロプラ | Method and program for providing virtual space, and information processing apparatus for executing the program |
| JP6470374B1 (en) * | 2017-10-03 | 2019-02-13 | 株式会社コロプラ | Program and information processing apparatus executed by computer to provide virtual reality |
| JP2019128721A (en) | 2018-01-23 | 2019-08-01 | 株式会社コロプラ | Program for reflecting user motion on avatar, information processing device for executing the same and method for distributing image containing avatar |
| JP7005406B2 (en) | 2018-03-23 | 2022-01-21 | 株式会社コロプラ | Programs, information processing devices, and information processing methods |
| JP2019211864A (en) | 2018-05-31 | 2019-12-12 | 株式会社コロプラ | Computer program, information processing device, and information processing method |
-
2019
- 2019-12-26 JP JP2019235610A patent/JP7458779B2/en active Active
-
2020
- 2020-12-16 WO PCT/JP2020/046876 patent/WO2021131938A1/en active Application Filing
-
2024
- 2024-03-19 JP JP2024042980A patent/JP2024061890A/en active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| WO2021131938A1 (en) | 2021-07-01 |
| JP2024061890A (en) | 2024-05-08 |
| JP7458779B2 (en) | 2024-04-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20180357817A1 (en) | Information processing method, program, and computer | |
| US20180300926A1 (en) | Information processing method and apparatus, and program for executing the information processing method on computer | |
| JP6290467B1 (en) | Information processing method, apparatus, and program causing computer to execute information processing method | |
| JP7138138B2 (en) | Program, information processing method and information processing apparatus | |
| JP2018192107A (en) | Information processing method, apparatus, and program for implementing that information processing method in computer | |
| JP2023099570A (en) | program and system | |
| JP2018125003A (en) | Information processing method, apparatus, and program for implementing that information processing method in computer | |
| US20190114841A1 (en) | Method, program and apparatus for providing virtual experience | |
| JP2019133309A (en) | Program, information processor and information processing method | |
| JP7192151B2 (en) | Program, information processing device, and information processing method | |
| JP2019168962A (en) | Program, information processing device, and information processing method | |
| JP2018192238A (en) | Information processing method, apparatus, and program for implementing that information processing method in computer | |
| JP6826082B2 (en) | Programs, information processing equipment, and methods | |
| JP7356827B2 (en) | Program, information processing method, and information processing device | |
| JP6718928B2 (en) | Video output system | |
| JP6791920B2 (en) | Programs, information processing equipment, and methods | |
| WO2021131938A1 (en) | Program, method, and information processing device | |
| JP6856572B2 (en) | An information processing method, a device, and a program for causing a computer to execute the information processing method. | |
| JP6441517B1 (en) | Program, information processing apparatus, and method | |
| WO2021131935A1 (en) | Program, method, and information processing device | |
| JP2019155115A (en) | Program, information processor and information processing method | |
| JP6722244B2 (en) | Program, information processing method, and information processing apparatus | |
| JP7386948B2 (en) | Program, method and information processing device | |
| JP7313523B1 (en) | Program and information processing system | |
| JP7295045B2 (en) | Programs, computer implemented methods and computers |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221222 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231027 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240220 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240319 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7458779 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |