JP6522825B1 - プログラム、情報処理装置、および方法 - Google Patents

プログラム、情報処理装置、および方法 Download PDF

Info

Publication number
JP6522825B1
JP6522825B1 JP2018068496A JP2018068496A JP6522825B1 JP 6522825 B1 JP6522825 B1 JP 6522825B1 JP 2018068496 A JP2018068496 A JP 2018068496A JP 2018068496 A JP2018068496 A JP 2018068496A JP 6522825 B1 JP6522825 B1 JP 6522825B1
Authority
JP
Japan
Prior art keywords
user
virtual
cause
occurrence
virtual space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018068496A
Other languages
English (en)
Other versions
JP2019179423A (ja
Inventor
圭佑 中原
圭佑 中原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2018068496A priority Critical patent/JP6522825B1/ja
Application granted granted Critical
Publication of JP6522825B1 publication Critical patent/JP6522825B1/ja
Publication of JP2019179423A publication Critical patent/JP2019179423A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】ユーザの身体の一部の動きが操作オブジェクトに反映されない原因をユーザに正確に理解させる。【解決手段】プロセッサは、ユーザの右手の動きに応じて仮想右手を動かせない事象の発生を検出するS1608。プロセッサは、事象の発生原因を特定するS1609。プロセッサは、発生原因、および発生原因に応じた対応策の少なくとも一方を、ユーザに通知するS1610。【選択図】図16

Description

本発明は、プログラム、情報処理装置、および方法に関する。
特許文献1に、ユーザに仮想空間を提供するための技術の一例が開示されている。
特許第6157703号公報
従来の技術には、ユーザの身体の一部の動きが操作オブジェクトに反映されない原因をユーザに理解させることができる余地がある。
本開示の一態様は、ユーザの身体の一部の動きが操作オブジェクトに反映されない原因をユーザに理解させることを目的とする。
本発明の一態様によれば、ユーザに仮想体験を提供するために、プロセッサを備えたコンピュータによって実行されるプログラムが提供される。プログラムは、プロセッサに仮想体験をユーザに提供するための仮想空間を定義するステップと、仮想空間に操作オブジェクトを配置するステップと、ユーザの身体の一部を構成する第1部位の動きを検出するステップと、第1部位の動きに応じて、操作オブジェクトを動かすステップと、第1部位の動きに応じて操作オブジェクトを動かせない事象の発生を検出するステップと、事象の発生原因を特定するステップと、発生原因、および発生原因に応じた対応策の少なくとも一方を、ユーザに通知するステップとを実行させる。
本開示の一態様によれば、ユーザの身体の一部の動きが操作オブジェクトに反映されない原因をユーザに理解させることができる。
ある実施の形態に従うHMDシステムの構成の概略を表す図である。 ある実施の形態に従うコンピュータのハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うHMDに設定されるuvw視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。 ある実施の形態に従うHMDを装着するユーザの頭部を上から表した図である。 仮想空間において視界領域をX方向から見たYZ断面を表す図である。 仮想空間において視界領域をY方向から見たXZ断面を表す図である。 ある実施の形態に従うコントローラの概略構成を表す図である。 ある実施の形態に従うユーザの右手に対して規定されるヨー、ロール、ピッチの各方向の一例を示す図である。 ある実施の形態に従うサーバのハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うコンピュータをモジュール構成として表わすブロック図である。 ある実施の形態に従うHMDセットにおいて実行される処理の一部を表すシーケンスチャートである。 ネットワークにおいて、各HMDがユーザに仮想空間を提供する状況を表す模式図である。 図12(A)におけるユーザ5Aの視界画像を示す図である。 ある実施の形態に従うHMDシステムにおいて実行する処理を示すシーケンス図である。 ある実施の形態に従うコンピュータのモジュールの詳細構成を表わすブロック図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従うHMDセットにおいて実行される処理の一部を表すシーケンスチャートである。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。 ある実施の形態に従う仮想空間および視界画像を示す図である。
以下、この技術的思想の実施の形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。本開示において示される1以上の実施形態において、各実施形態が含む要素を互いに組み合わせることができ、かつ、当該組み合わせられた結果物も本開示が示す実施形態の一部をなすものとする。
[HMDシステムの構成]
図1を参照して、HMD(Head-Mounted Device)システム100の構成について説明する。図1は、本実施の形態に従うHMDシステム100の構成の概略を表す図である。HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、サーバ600と、HMDセット110A,110B,110C,110Dと、外部機器700と、ネットワーク2とを含む。HMDセット110A,110B,110C,110Dの各々は、ネットワーク2を介してサーバ600や外部機器700と通信可能に構成される。以下、HMDセット110A,110B,110C,110Dを総称して、HMDセット110とも言う。HMDシステム100を構成するHMDセット110の数は、4つに限られず、3つ以下でも、5つ以上でもよい。HMDセット110は、HMD120と、コンピュータ200と、HMDセンサ410と、ディスプレイ430と、コントローラ300とを備える。HMD120は、モニタ130と、注視センサ140と、第1カメラ150と、第2カメラ160と、マイク170と、スピーカ180とを含む。コントローラ300は、モーションセンサ420を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク2に接続可能であり、ネットワーク2に接続されているサーバ600その他のコンピュータと通信可能である。その他のコンピュータとしては、例えば、他のHMDセット110のコンピュータや外部機器700が挙げられる。別の局面において、HMD120は、HMDセンサ410の代わりに、センサ190を含み得る。
HMD120は、ユーザ5の頭部に装着され、動作中に仮想空間をユーザ5に提供し得る。より具体的には、HMD120は、右目用の画像および左目用の画像をモニタ130にそれぞれ表示する。ユーザ5の各目がそれぞれの画像を視認すると、ユーザ5は、両目の視差に基づき当該画像を3次元画像として認識し得る。HMD120は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
モニタ130は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ130は、ユーザ5の両目の前方に位置するようにHMD120の本体に配置されている。したがって、ユーザ5は、モニタ130に表示される3次元画像を視認すると、仮想空間に没入することができる。ある局面において、仮想空間は、例えば、背景、ユーザ5が操作可能なオブジェクト、ユーザ5が選択可能なメニューの画像を含む。ある局面において、モニタ130は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
別の局面において、モニタ130は、透過型の表示装置として実現され得る。この場合、HMD120は、図1に示されるようにユーザ5の目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ130は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。モニタ130は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ130は、HMD120に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
ある局面において、モニタ130は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ130は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ130は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
ある局面において、HMD120は、図示せぬ複数の光源を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ410は、HMD120の動きを検出するためのポジショントラッキング機能を有する。より具体的には、HMDセンサ410は、HMD120が発する複数の赤外線を読み取り、現実空間内におけるHMD120の位置および傾きを検出する。
別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるHMD120の画像情報を用いて、画像解析処理を実行することにより、HMD120の位置および傾きを検出することができる。
別の局面において、HMD120は、位置検出器として、HMDセンサ410の代わりに、あるいはHMDセンサ410に加えてセンサ190を備えてもよい。HMD120は、センサ190を用いて、HMD120自身の位置および傾きを検出し得る。例えば、センサ190が角速度センサ、地磁気センサ、あるいは加速度センサである場合、HMD120は、HMDセンサ410の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ190が角速度センサである場合、角速度センサは、現実空間におけるHMD120の3軸周りの角速度を経時的に検出する。HMD120は、各角速度に基づいて、HMD120の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD120の傾きを算出する。
注視センサ140は、ユーザ5の右目および左目の視線が向けられる方向を検出する。つまり、注視センサ140は、ユーザ5の視線を検出する。視線の方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ5の右目および左目に赤外線を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ5の視線を検知することができる。
第1カメラ150は、ユーザ5の顔の下部を撮影する。より具体的には、第1カメラ150は、ユーザ5の鼻および口などを撮影する。第2カメラ160は、ユーザ5の目および眉などを撮影する。HMD120のユーザ5側の筐体をHMD120の内側、HMD120のユーザ5とは逆側の筐体をHMD120の外側と定義する。ある局面において、第1カメラ150は、HMD120の外側に配置され、第2カメラ160は、HMD120の内側に配置され得る。第1カメラ150および第2カメラ160が生成した画像は、コンピュータ200に入力される。別の局面において、第1カメラ150と第2カメラ160とを1台のカメラとして実現し、この1台のカメラでユーザ5の顔を撮影するようにしてもよい。
マイク170は、ユーザ5の発話を音声信号(電気信号)に変換してコンピュータ200に出力する。スピーカ180は、音声信号を音声に変換してユーザ5に出力する。別の局面において、HMD120は、スピーカ180に替えてイヤホンを含み得る。
コントローラ300は、有線または無線によりコンピュータ200に接続されている。コントローラ300は、ユーザ5からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ300は、ユーザ5によって把持可能に構成される。別の局面において、コントローラ300は、ユーザ5の身体あるいは衣類の一部に装着可能に構成される。さらに別の局面において、コントローラ300は、コンピュータ200から送信される信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。さらに別の局面において、コントローラ300は、ユーザ5から、仮想空間に配置されるオブジェクトの位置や動きを制御するための操作を受け付ける。
ある局面において、コントローラ300は、複数の光源を含む。各光源は例えば、赤外線を発するLEDにより実現される。HMDセンサ410は、ポジショントラッキング機能を有する。この場合、HMDセンサ410は、コントローラ300が発する複数の赤外線を読み取り、現実空間内におけるコントローラ300の位置および傾きを検出する。別の局面において、HMDセンサ410は、カメラにより実現されてもよい。この場合、HMDセンサ410は、カメラから出力されるコントローラ300の画像情報を用いて、画像解析処理を実行することにより、コントローラ300の位置および傾きを検出することができる。
モーションセンサ420は、ある局面において、ユーザ5の手に取り付けられて、ユーザ5の手の動きを検出する。例えば、モーションセンサ420は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ420は、例えば、コントローラ300に設けられている。ある局面において、モーションセンサ420は、例えば、ユーザ5に把持可能に構成されたコントローラ300に設けられている。別の局面において、現実空間における安全のため、コントローラ300は、手袋型のようにユーザ5の手に装着されることにより容易に飛んで行かないものに装着される。さらに別の局面において、ユーザ5に装着されないセンサがユーザ5の手の動きを検出してもよい。例えば、ユーザ5を撮影するカメラの信号が、ユーザ5の動作を表わす信号として、コンピュータ200に入力されてもよい。モーションセンサ420とコンピュータ200とは、一例として、無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
ディスプレイ430は、モニタ130に表示されている画像と同様の画像を表示する。これにより、HMD120を装着しているユーザ5以外のユーザにも当該ユーザ5と同様の画像を視聴させることができる。ディスプレイ430に表示される画像は、3次元画像である必要はなく、右目用の画像や左目用の画像であってもよい。ディスプレイ430としては、例えば、液晶ディスプレイや有機ELモニタなどが挙げられる。
サーバ600は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ600は、他のユーザによって使用されるHMD120に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介して他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。各コンピュータ200は、各ユーザの動作に基づく信号をサーバ600を介さずに他のコンピュータ200と通信するようにしてもよい。
外部機器700は、コンピュータ200と通信可能な機器であればどのような機器であってもよい。外部機器700は、例えば、ネットワーク2を介してコンピュータ200と通信可能な機器であってもよいし、近距離無線通信や有線接続によりコンピュータ200と直接通信可能な機器であってもよい。外部機器700としては、例えば、スマートデバイス、PC(Personal Computer)、及びコンピュータ200の周辺機器などが挙げられるが、これらに限定されるものではない。
[コンピュータのハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、本実施の形態に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ210と、メモリ220と、ストレージ230と、入出力インターフェイス240と、通信インターフェイス250とを備える。各構成要素は、それぞれ、バス260に接続されている。
プロセッサ210は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ220またはストレージ230に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ210は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ220は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ230からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ210によって生成されたデータとを含む。ある局面において、メモリ220は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ230は、プログラムおよびデータを永続的に保持する。ストレージ230は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ230に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ230に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
別の局面において、ストレージ230は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ230の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
入出力インターフェイス240は、HMD120、HMDセンサ410、モーションセンサ420およびディスプレイ430との間で信号を通信する。HMD120に含まれるモニタ130,注視センサ140,第1カメラ150,第2カメラ160,マイク170およびスピーカ180は、HMD120の入出力インターフェイス240を介してコンピュータ200との通信を行ない得る。ある局面において、入出力インターフェイス240は、USB(Universal Serial Bus)、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。入出力インターフェイス240は上述のものに限られない。
ある局面において、入出力インターフェイス240は、さらに、コントローラ300と通信し得る。例えば、入出力インターフェイス240は、コントローラ300およびモーションセンサ420から出力された信号の入力を受ける。別の局面において、入出力インターフェイス240は、プロセッサ210から出力された命令を、コントローラ300に送る。当該命令は、振動、音声出力、発光等をコントローラ300に指示する。コントローラ300は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェイス250は、ネットワーク2に接続されて、ネットワーク2に接続されている他のコンピュータ(例えば、サーバ600)と通信する。ある局面において、通信インターフェイス250は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。通信インターフェイス250は上述のものに限られない。
ある局面において、プロセッサ210は、ストレージ230にアクセスし、ストレージ230に格納されている1つ以上のプログラムをメモリ220にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ210は、入出力インターフェイス240を介して、仮想空間を提供するための信号をHMD120に送る。HMD120は、その信号に基づいてモニタ130に映像を表示する。
図2に示される例では、コンピュータ200は、HMD120の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD120に内蔵されてもよい。一例として、モニタ130を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
コンピュータ200は、複数のHMD120に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施の形態において、HMDシステム100では、現実空間における座標系である実座標系が予め設定されている。実座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、並びに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。実座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、実座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ410は、赤外線センサを含む。赤外線センサが、HMD120の各光源から発せられた赤外線をそれぞれ検出すると、HMD120の存在を検出する。HMDセンサ410は、さらに、各点の値(実座標系における各座標値)に基づいて、HMD120を装着したユーザ5の動きに応じた、現実空間内におけるHMD120の位置および傾き(向き)を検出する。より詳しくは、HMDセンサ410は、経時的に検出された各値を用いて、HMD120の位置および傾きの時間的変化を検出できる。
HMDセンサ410によって検出されたHMD120の各傾きは、実座標系におけるHMD120の3軸周りの各傾きに相当する。HMDセンサ410は、実座標系におけるHMD120の傾きに基づき、uvw視野座標系をHMD120に設定する。HMD120に設定されるuvw視野座標系は、HMD120を装着したユーザ5が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD120に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ410は、HMD120の起動時に、実座標系におけるHMD120の位置および傾きを検出する。プロセッサ210は、検出された値に基づいて、uvw視野座標系をHMD120に設定する。
図3に示されるように、HMD120は、HMD120を装着したユーザ5の頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD120は、実座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、実座標系内においてHMD120の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)として設定する。
ある局面において、HMD120を装着したユーザ5が直立し、かつ、正面を視認している場合、プロセッサ210は、実座標系に平行なuvw視野座標系をHMD120に設定する。この場合、実座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD120におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)に一致する。
uvw視野座標系がHMD120に設定された後、HMDセンサ410は、HMD120の動きに基づいて、設定されたuvw視野座標系におけるHMD120の傾きを検出できる。この場合、HMDセンサ410は、HMD120の傾きとして、uvw視野座標系におけるHMD120のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ軸周りのHMD120の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー軸周りのHMD120の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール軸周りのHMD120の傾き角度を表す。
HMDセンサ410は、検出されたHMD120の傾きに基づいて、HMD120が動いた後のHMD120におけるuvw視野座標系を、HMD120に設定する。HMD120と、HMD120のuvw視野座標系との関係は、HMD120の位置および傾きに関わらず、常に一定である。HMD120の位置および傾きが変わると、当該位置および傾きの変化に連動して、実座標系におけるHMD120のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ410は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD120の現実空間内における位置を、HMDセンサ410に対する相対位置として特定してもよい。プロセッサ210は、特定された相対位置に基づいて、現実空間内(実座標系)におけるHMD120のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間11を表現する一態様を概念的に表す図である。仮想空間11は、中心12の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間11のうちの上半分の天球が例示されている。仮想空間11では各メッシュが規定される。各メッシュの位置は、仮想空間11に規定されるグローバル座標系であるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間11に展開可能なパノラマ画像13(静止画、動画等)を構成する各部分画像を、仮想空間11において対応する各メッシュにそれぞれ対応付ける。
ある局面において、仮想空間11では、中心12を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、実座標系に平行である。XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)が実座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)が実座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)が実座標系のz軸と平行である。
HMD120の起動時、すなわちHMD120の初期状態において、仮想カメラ14が、仮想空間11の中心12に配置される。ある局面において、プロセッサ210は、仮想カメラ14が撮影する画像をHMD120のモニタ130に表示する。仮想カメラ14は、現実空間におけるHMD120の動きに連動して、仮想空間11を同様に移動する。これにより、現実空間におけるHMD120の位置および傾きの変化が、仮想空間11において同様に再現され得る。
仮想カメラ14には、HMD120の場合と同様に、uvw視野座標系が規定される。仮想空間11における仮想カメラ14のuvw視野座標系は、現実空間(実座標系)におけるHMD120のuvw視野座標系に連動するように規定されている。したがって、HMD120の傾きが変化すると、それに応じて、仮想カメラ14の傾きも変化する。仮想カメラ14は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において移動することもできる。
コンピュータ200のプロセッサ210は、仮想カメラ14の位置と傾き(基準視線16)とに基づいて、仮想空間11における視界領域15を規定する。視界領域15は、仮想空間11のうち、HMD120を装着したユーザ5が視認する領域に対応する。つまり、仮想カメラ14の位置は、仮想空間11におけるユーザ5の視点と言える。
注視センサ140によって検出されるユーザ5の視線は、ユーザ5が物体を視認する際の視点座標系における方向である。HMD120のuvw視野座標系は、ユーザ5がモニタ130を視認する際の視点座標系に等しい。仮想カメラ14のuvw視野座標系は、HMD120のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ5の視線を、仮想カメラ14のuvw視野座標系におけるユーザ5の視線とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザ5の視線の決定について説明する。図5は、ある実施の形態に従うHMD120を装着するユーザ5の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ5の右目および左目の各視線を検出する。ある局面において、ユーザ5が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ5が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール軸wに対して視線R2およびL2が成す角度は、ロール軸wに対して視線R1およびL1が成す角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ5の視線N0を特定する。コンピュータ200は、例えば、ユーザ5の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線N0として検出する。視線N0は、ユーザ5が両目により実際に視線を向けている方向である。視線N0は、視界領域15に対してユーザ5が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間11においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域15について説明する。図6は、仮想空間11において視界領域15をX方向から見たYZ断面を表す図である。図7は、仮想空間11において視界領域15をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域15は、領域18を含む。領域18は、仮想カメラ14の位置と基準視線16と仮想空間11のYZ断面とによって定義される。プロセッサ210は、仮想空間における基準視線16を中心として極角αを含む範囲を、領域18として規定する。
図7に示されるように、XZ断面における視界領域15は、領域19を含む。領域19は、仮想カメラ14の位置と基準視線16と仮想空間11のXZ断面とによって定義される。プロセッサ210は、仮想空間11における基準視線16を中心とした方位角βを含む範囲を、領域19として規定する。極角αおよびβは、仮想カメラ14の位置と仮想カメラ14の傾き(向き)とに応じて定まる。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像17をモニタ130に表示させることにより、ユーザ5に仮想空間11における視界を提供する。視界画像17は、パノラマ画像13のうち視界領域15に対応する部分に相当する画像である。ユーザ5が、頭部に装着したHMD120を動かすと、その動きに連動して仮想カメラ14も動く。その結果、仮想空間11における視界領域15の位置が変化する。これにより、モニタ130に表示される視界画像17は、パノラマ画像13のうち、仮想空間11においてユーザ5が向いた方向の視界領域15に重畳する画像に更新される。ユーザ5は、仮想空間11における所望の方向を視認することができる。
このように、仮想カメラ14の傾きは仮想空間11におけるユーザ5の視線(基準視線16)に相当し、仮想カメラ14が配置される位置は、仮想空間11におけるユーザ5の視点に相当する。したがって、仮想カメラ14の位置または傾きを変更することにより、モニタ130に表示される画像が更新され、ユーザ5の視界が移動される。
ユーザ5は、HMD120を装着している間、現実世界を視認することなく、仮想空間11に展開されるパノラマ画像13のみを視認できる。そのため、HMDシステム100は、仮想空間11への高い没入感覚をユーザ5に与えることができる。
ある局面において、プロセッサ210は、HMD120を装着したユーザ5の現実空間における移動に連動して、仮想空間11において仮想カメラ14を移動し得る。この場合、プロセッサ210は、仮想空間11における仮想カメラ14の位置および傾きに基づいて、HMD120のモニタ130に投影される画像領域(視界領域15)を特定する。
ある局面において、仮想カメラ14は、2つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。ユーザ5が3次元の仮想空間11を認識できるように、適切な視差が、2つの仮想カメラに設定される。別の局面において、仮想カメラ14を1つの仮想カメラにより実現してもよい。この場合、1つの仮想カメラにより得られた画像から、右目用の画像と左目用の画像とを生成するようにしてもよい。本実施の形態においては、仮想カメラ14が2つの仮想カメラを含み、2つの仮想カメラのロール軸が合成されることによって生成されるロール軸(w)がHMD120のロール軸(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ300の一例について説明する。図8は、ある実施の形態に従うコントローラ300の概略構成を表す図である。
図8に示されるように、ある局面において、コントローラ300は、右コントローラ300Rと図示せぬ左コントローラとを含み得る。右コントローラ300Rは、ユーザ5の右手で操作される。左コントローラは、ユーザ5の左手で操作される。ある局面において、右コントローラ300Rと左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ5は、右コントローラ300Rを把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ300は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ300Rについて説明する。
右コントローラ300Rは、グリップ310と、フレーム320と、天面330とを備える。グリップ310は、ユーザ5の右手によって把持されるように構成されている。たとえば、グリップ310は、ユーザ5の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ310は、ボタン340,350と、モーションセンサ420とを含む。ボタン340は、グリップ310の側面に配置され、右手の中指による操作を受け付ける。ボタン350は、グリップ310の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン340,350は、トリガー式のボタンとして構成される。モーションセンサ420は、グリップ310の筐体に内蔵されている。ユーザ5の動作がカメラその他の装置によってユーザ5の周りから検出可能である場合には、グリップ310は、モーションセンサ420を備えなくてもよい。
フレーム320は、その円周方向に沿って配置された複数の赤外線LED360を含む。赤外線LED360は、コントローラ300を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED360から発せられた赤外線は、右コントローラ300Rと左コントローラとの各位置や姿勢(傾き、向き)を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED360が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面330は、ボタン370,380と、アナログスティック390とを備える。ボタン370,380は、プッシュ式ボタンとして構成される。ボタン370,380は、ユーザ5の右手の親指による操作を受け付ける。アナログスティック390は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間11に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ300Rおよび左コントローラは、赤外線LED360その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。別の局面において、右コントローラ300Rと左コントローラは、たとえば、コンピュータ200のUSBインターフェースに接続され得る。この場合、右コントローラ300Rおよび左コントローラは、電池を必要としない。
図8の状態(A)および状態(B)に示されるように、例えば、ユーザ5の右手に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ5が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
[サーバのハードウェア構成]
図9を参照して、本実施の形態に係るサーバ600について説明する。図9は、ある実施の形態に従うサーバ600のハードウェア構成の一例を表すブロック図である。サーバ600は、主たる構成要素として、プロセッサ610と、メモリ620と、ストレージ630と、入出力インターフェイス640と、通信インターフェイス650とを備える。各構成要素は、それぞれ、バス660に接続されている。
プロセッサ610は、サーバ600に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ620またはストレージ630に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ610は、CPU、GPU、MPU、FPGAその他のデバイスとして実現される。
メモリ620は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ630からロードされる。データは、サーバ600に入力されたデータと、プロセッサ610によって生成されたデータとを含む。ある局面において、メモリ620は、RAMその他の揮発メモリとして実現される。
ストレージ630は、プログラムおよびデータを永続的に保持する。ストレージ630は、例えば、ROM、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ630に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、コンピュータ200との通信を実現するためのプログラムを含んでもよい。ストレージ630に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含んでもよい。
別の局面において、ストレージ630は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、サーバ600に内蔵されたストレージ630の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
入出力インターフェイス640は、入出力機器との間で信号を通信する。ある局面において、入出力インターフェイス640は、USB、DVI、HDMIその他の端子を用いて実現される。入出力インターフェイス640は上述のものに限られない。
通信インターフェイス650は、ネットワーク2に接続されて、ネットワーク2に接続されているコンピュータ200と通信する。ある局面において、通信インターフェイス650は、例えば、LANその他の有線通信インターフェイス、あるいは、WiFi、Bluetooth、NFCその他の無線通信インターフェイスとして実現される。通信インターフェイス650は上述のものに限られない。
ある局面において、プロセッサ610は、ストレージ630にアクセスし、ストレージ630に格納されている1つ以上のプログラムをメモリ620にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、サーバ600のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ610は、入出力インターフェイス640を介して、仮想空間を提供するための信号をコンピュータ200に送ってもよい。
[HMDの制御装置]
図10を参照して、HMD120の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図10は、ある実施の形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図10に示されるように、コンピュータ200は、コントロールモジュール510と、レンダリングモジュール520と、メモリモジュール530と、通信制御モジュール540とを備える。ある局面において、コントロールモジュール510とレンダリングモジュール520とは、プロセッサ210によって実現される。別の局面において、複数のプロセッサ210がコントロールモジュール510とレンダリングモジュール520として作動してもよい。メモリモジュール530は、メモリ220またはストレージ230によって実現される。通信制御モジュール540は、通信インターフェイス250によって実現される。
コントロールモジュール510は、ユーザ5に提供される仮想空間11を制御する。コントロールモジュール510は、仮想空間11を表す仮想空間データを用いて、HMDシステム100における仮想空間11を規定する。仮想空間データは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、仮想空間データを生成したり、サーバ600などから仮想空間データを取得するようにしたりしてもよい。
コントロールモジュール510は、オブジェクトを表すオブジェクトデータを用いて、仮想空間11にオブジェクトを配置する。オブジェクトデータは、例えば、メモリモジュール530に記憶されている。コントロールモジュール510が、オブジェクトデータを生成したり、サーバ600などからオブジェクトデータを取得するようにしたりしてもよい。オブジェクトは、例えば、ユーザ5の分身であるアバターオブジェクト、キャラクタオブジェクト、コントローラ300によって操作される仮想手などの操作オブジェクト、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、街並み、動物等を含み得る。
コントロールモジュール510は、ネットワーク2を介して接続される他のコンピュータ200のユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5のアバターオブジェクトを仮想空間11に配置する。ある局面において、コントロールモジュール510は、ユーザ5を含む画像に基づいて、ユーザ5を模したアバターオブジェクトを仮想空間11に配置する。別の局面において、コントロールモジュール510は、複数種類のアバターオブジェクト(例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト)の中からユーザ5による選択を受け付けたアバターオブジェクトを仮想空間11に配置する。
コントロールモジュール510は、HMDセンサ410の出力に基づいてHMD120の傾きを特定する。別の局面において、コントロールモジュール510は、モーションセンサとして機能するセンサ190の出力に基づいてHMD120の傾きを特定する。コントロールモジュール510は、第1カメラ150および第2カメラ160が生成するユーザ5の顔の画像から、ユーザ5の顔を構成する器官(例えば、口,目,眉)を検出する。コントロールモジュール510は、検出した各器官の動き(形状)を検出する。
コントロールモジュール510は、注視センサ140からの信号に基づいて、ユーザ5の仮想空間11における視線を検出する。コントロールモジュール510は、検出したユーザ5の視線と仮想空間11の天球とが交わる視点位置(XYZ座標系における座標値)を検出する。より具体的には、コントロールモジュール510は、uvw座標系で規定されるユーザ5の視線と、仮想カメラ14の位置および傾きとに基づいて、視点位置を検出する。コントロールモジュール510は、検出した視点位置をサーバ600に送信する。別の局面において、コントロールモジュール510は、ユーザ5の視線を表す視線情報をサーバ600に送信するように構成されてもよい。係る場合、サーバ600が受信した視線情報に基づいて視点位置を算出し得る。
コントロールモジュール510は、HMDセンサ410が検出するHMD120の動きをアバターオブジェクトに反映する。例えば、コントロールモジュール510は、HMD120が傾いたことを検知して、アバターオブジェクトを傾けて配置する。コントロールモジュール510は、検出した顔器官の動作を、仮想空間11に配置されるアバターオブジェクトの顔に反映させる。コントロールモジュール510は、サーバ600から他のユーザ5の視線情報を受信し、当該他のユーザ5のアバターオブジェクトの視線に反映させる。ある局面において、コントロールモジュール510は、コントローラ300の動きをアバターオブジェクトや操作オブジェクトに反映する。この場合、コントローラ300は、コントローラ300の動きを検知するためのモーションセンサ、加速度センサ、または複数の発光素子(例えば、赤外線LED)などを備える。
コントロールモジュール510は、仮想空間11においてユーザ5の操作を受け付けるための操作オブジェクトを仮想空間11に配置する。ユーザ5は、操作オブジェクトを操作することにより、例えば、仮想空間11に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、ユーザ5の手に相当する仮想手である手オブジェクト等を含み得る。ある局面において、コントロールモジュール510は、モーションセンサ420の出力に基づいて現実空間におけるユーザ5の手の動きに連動するように仮想空間11において手オブジェクトを動かす。ある局面において、操作オブジェクトは、アバターオブジェクトの手の部分に相当し得る。
コントロールモジュール510は、仮想空間11に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。コントロールモジュール510は、例えば、あるオブジェクトのコリジョンエリアと、別のオブジェクトのコリジョンエリアとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。コントロールモジュール510は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。例えば、コントロールモジュール510は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。
ある局面において、コントロールモジュール510は、HMD120のモニタ130における画像表示を制御する。例えば、コントロールモジュール510は、仮想空間11に仮想カメラ14を配置する。コントロールモジュール510は、仮想空間11における仮想カメラ14の位置と、仮想カメラ14の傾き(向き)を制御する。コントロールモジュール510は、HMD120を装着したユーザ5の頭部の傾きと、仮想カメラ14の位置に応じて、視界領域15を規定する。レンダリングモジュール520は、決定された視界領域15に基づいて、モニタ130に表示される視界画像17を生成する。レンダリングモジュール520により生成された視界画像17は、通信制御モジュール540によってHMD120に出力される。
コントロールモジュール510は、HMD120から、ユーザ5のマイク170を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ200を特定する。音声データは、コントロールモジュール510によって特定されたコンピュータ200に送信される。コントロールモジュール510は、ネットワーク2を介して他のユーザのコンピュータ200から音声データを受信すると、当該音声データに対応する音声(発話)をスピーカ180から出力する。
メモリモジュール530は、コンピュータ200が仮想空間11をユーザ5に提供するために使用されるデータを保持している。ある局面において、メモリモジュール530は、空間情報と、オブジェクト情報と、ユーザ情報とを保持している。
空間情報は、仮想空間11を提供するために規定された1つ以上のテンプレートを保持している。
オブジェクト情報は、仮想空間11を構成する複数のパノラマ画像13、仮想空間11にオブジェクトを配置するためのオブジェクトデータを含む。パノラマ画像13は、静止画像および動画像を含み得る。パノラマ画像13は、非現実空間の画像と現実空間の画像とを含み得る。非現実空間の画像としては、例えば、コンピュータグラフィックスで生成された画像が挙げられる。
ユーザ情報は、ユーザ5を識別するユーザIDを保持する。ユーザIDは、例えば、ユーザが使用するコンピュータ200に設定されるIP(Internet Protocol)アドレスまたはMAC(Media Access Control)アドレスであり得る。別の局面において、ユーザIDはユーザによって設定され得る。ユーザ情報は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム等を含む。
メモリモジュール530に格納されているデータおよびプログラムは、HMD120のユーザ5によって入力される。あるいは、プロセッサ210が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ600)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール530に格納する。
通信制御モジュール540は、ネットワーク2を介して、サーバ600その他の情報通信装置と通信し得る。
ある局面において、コントロールモジュール510及びレンダリングモジュール520は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、コントロールモジュール510及びレンダリングモジュール520は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ210により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール530に予め格納されている場合がある。ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール540を介してサーバ600その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ210によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ210は、そのプログラムを実行する。
[HMDシステムの制御構造]
図11を参照して、HMDセット110の制御構造について説明する。図11は、ある実施の形態に従うHMDセット110において実行される処理の一部を表すシーケンスチャートである。
図11に示されるように、ステップS1110にて、コンピュータ200のプロセッサ210は、コントロールモジュール510として、仮想空間データを特定し、仮想空間11を定義する。
ステップS1120にて、プロセッサ210は、仮想カメラ14を初期化する。たとえば、プロセッサ210は、メモリのワーク領域において、仮想カメラ14を仮想空間11において予め規定された中心12に配置し、仮想カメラ14の視線をユーザ5が向いている方向に向ける。
ステップS1130にて、プロセッサ210は、レンダリングモジュール520として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。
ステップS1132にて、HMD120のモニタ130は、コンピュータ200から受信した視界画像データに基づいて、視界画像を表示する。HMD120を装着したユーザ5は、視界画像を視認すると仮想空間11を認識し得る。
ステップS1134にて、HMDセンサ410は、HMD120から発信される複数の赤外線光に基づいて、HMD120の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に出力される。
ステップS1140にて、プロセッサ210は、HMD120の動き検知データに含まれる位置と傾きとに基づいて、HMD120を装着したユーザ5の視界方向を特定する。
ステップS1150にて、プロセッサ210は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間11にオブジェクトを配置する。
ステップS1160にて、コントローラ300は、モーションセンサ420から出力される信号に基づいて、ユーザ5の操作を検出し、その検出された操作を表す検出データをコンピュータ200に出力する。別の局面において、ユーザ5によるコントローラ300の操作は、ユーザ5の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
ステップS1170にて、プロセッサ210は、コントローラ300から取得した検出データに基づいて、ユーザ5によるコントローラ300の操作を検出する。
ステップS1180にて、プロセッサ210は、ユーザ5によるコントローラ300の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール540によってHMD120に出力される。
ステップS1190にて、HMD120は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ130に表示する。
[アバターオブジェクト]
図12(A)、(B)を参照して、本実施の形態に従うアバターオブジェクトについて説明する。以下、HMDセット110A,110Bの各ユーザ5のアバターオブジェクトを説明する図である。以下、HMDセット110Aのユーザをユーザ5A、HMDセット110Bのユーザをユーザ5B、HMDセット110Cのユーザをユーザ5C、HMDセット110Dのユーザをユーザ5Dと表す。HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付される。例えば、HMD120Aは、HMDセット110Aに含まれる。
図12(A)は、ネットワーク2において、各HMD120がユーザ5に仮想空間11を提供する状況を表す模式図である。コンピュータ200A〜200Dは、HMD120A〜120Dを介して、ユーザ5A〜5Dに、仮想空間11A〜11Dをそれぞれ提供する。図12(A)に示される例において、仮想空間11Aおよび仮想空間11Bは同じデータによって構成されている。換言すれば、コンピュータ200Aとコンピュータ200Bとは同じ仮想空間を共有していることになる。仮想空間11Aおよび仮想空間11Bには、ユーザ5Aのアバターオブジェクト6Aと、ユーザ5Bのアバターオブジェクト6Bとが存在する。仮想空間11Aにおけるアバターオブジェクト6Aおよび仮想空間11Bにおけるアバターオブジェクト6BがそれぞれHMD120を装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはHMD120を装着していない。
ある局面において、プロセッサ210Aは、ユーザ5Aの視界画像17Aを撮影する仮想カメラ14Aを、アバターオブジェクト6Aの目の位置に配置し得る。
図12(B)は、図12(A)におけるユーザ5Aの視界画像17Aを示す図である。視界画像17Aは、HMD120Aのモニタ130Aに表示される画像である。この視界画像17Aは、仮想カメラ14Aにより生成された画像である。視界画像17Aには、ユーザ5Bのアバターオブジェクト6Bが表示されている。特に図示はしていないが、ユーザ5Bの視界画像にも同様に、ユーザ5Aのアバターオブジェクト6Aが表示されている。
図12(B)の状態において、ユーザ5Aは仮想空間11Aを介してユーザ5Bと対話による通信(コミュニケーション)を図ることができる。より具体的には、マイク170Aにより取得されたユーザ5Aの音声は、サーバ600を介してユーザ5BのHMD120Bに送信され、HMD120Bに設けられたスピーカ180Bから出力される。ユーザ5Bの音声は、サーバ600を介してユーザ5AのHMD120Aに送信され、HMD120Aに設けられたスピーカ180Aから出力される。
ユーザ5Bの動作(HMD120Bの動作およびコントローラ300Bの動作)は、プロセッサ210Aにより仮想空間11Aに配置されるアバターオブジェクト6Bに反映される。これにより、ユーザ5Aは、ユーザ5Bの動作を、アバターオブジェクト6Bを通じて認識できる。
図13は、本実施の形態に従うHMDシステム100において実行される処理の一部を表すシーケンスチャートである。図13においては、HMDセット110Dを図示していないが、HMDセット110Dについても、HMDセット110A、110B、110Cと同様に動作する。以下の説明でも、HMDセット110Aに関する各構成要素の参照符号にAが付され、HMDセット110Bに関する各構成要素の参照符号にBが付され、HMDセット110Cに関する各構成要素の参照符号にCが付され、HMDセット110Dに関する各構成要素の参照符号にDが付されるものとする。
ステップS1310Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおけるアバターオブジェクト6Aの動作を決定するためのアバター情報を取得する。このアバター情報は、例えば、動き情報、フェイストラッキングデータ、および音声データ等のアバターに関する情報を含む。動き情報は、HMD120Aの位置および傾きの時間的変化を示す情報や、モーションセンサ420A等により検出されたユーザ5Aの手の動きを示す情報などを含む。フェイストラッキングデータは、ユーザ5Aの顔の各パーツの位置および大きさを特定するデータが挙げられる。フェイストラッキングデータは、ユーザ5Aの顔を構成する各器官の動きを示すデータや視線データが挙げられる。音声データは、HMD120Aのマイク170Aによって取得されたユーザ5Aの音声を示すデータが挙げられる。アバター情報には、アバターオブジェクト6A、あるいはアバターオブジェクト6Aに関連付けられるユーザ5Aを特定する情報や、アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報等が含まれてもよい。アバターオブジェクト6Aやユーザ5Aを特定する情報としては、ユーザIDが挙げられる。アバターオブジェクト6Aが存在する仮想空間11Aを特定する情報としては、ルームIDが挙げられる。プロセッサ210Aは、上述のように取得されたアバター情報を、ネットワーク2を介してサーバ600に送信する。
ステップS1310Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1310Aにおける処理と同様に、仮想空間11Bにおけるアバターオブジェクト6Bの動作を決定するためのアバター情報を取得し、サーバ600に送信する。同様に、ステップS1310Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるアバターオブジェクト6Cの動作を決定するためのアバター情報を取得し、サーバ600に送信する。
ステップS1320において、サーバ600は、HMDセット110A、HMDセット110B、およびHMDセット110Cのそれぞれから受信したプレイヤ情報を一旦記憶する。サーバ600は、各アバター情報に含まれるユーザIDおよびルームID等に基づいて、共通の仮想空間11に関連付けられた全ユーザ(この例では、ユーザ5A〜5C)のアバター情報を統合する。そして、サーバ600は、予め定められたタイミングで、統合したアバター情報を当該仮想空間11に関連付けられた全ユーザに送信する。これにより、同期処理が実行される。このような同期処理により、HMDセット110A、HMDセット110B、およびHMDセット110Cは、互いのアバター情報をほぼ同じタイミングで共有することができる。
続いて、サーバ600から各HMDセット110A〜110Cに送信されたアバター情報に基づいて、各HMDセット110A〜110Cは、ステップS1330A〜S1330Cの処理を実行する。ステップS1330Aの処理は、図11におけるステップS1180の処理に相当する。
ステップS1330Aにおいて、HMDセット110Aにおけるプロセッサ210Aは、仮想空間11Aにおける他のユーザ5B,5Cのアバターオブジェクト6B、アバターオブジェクト6Cの情報を更新する。具体的には、プロセッサ210Aは、HMDセット110Bから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Bの位置および向き等を更新する。例えば、プロセッサ210Aは、メモリモジュール530に格納されたオブジェクト情報に含まれるアバターオブジェクト6Bの情報(位置および向き等)を更新する。同様に、プロセッサ210Aは、HMDセット110Cから送信されたアバター情報に含まれる動き情報に基づいて、仮想空間11におけるアバターオブジェクト6Cの情報(位置および向き等)を更新する。
ステップS1330Bにおいて、HMDセット110Bにおけるプロセッサ210Bは、ステップS1330Aにおける処理と同様に、仮想空間11Bにおけるユーザ5A,5Cのアバターオブジェクト6A,6Cの情報を更新する。同様に、ステップS1330Cにおいて、HMDセット110Cにおけるプロセッサ210Cは、仮想空間11Cにおけるユーザ5A,5Bのアバターオブジェクト6A,6Bの情報を更新する。
[モジュールの詳細構成]
図14を参照して、コンピュータ200のモジュール構成の詳細について説明する。図14は、ある実施の形態に従うコンピュータ200のモジュールの詳細構成を表わすブロック図である。図14に示されるように、コントロールモジュール510は、仮想オブジェクト生成モジュール1421、仮想カメラ制御モジュール1422、操作オブジェクト制御モジュール1423、事象検出モジュール1424、発生原因特定モジュール1425、および通知モジュール1426を備えている。
仮想オブジェクト生成モジュール1421は、各種の仮想オブジェクトを仮想空間11に生成する。ある局面において、仮想オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。ある局面において、仮想オブジェクトは、アバターオブジェクト、操作オブジェクト、UI(User Interface)オブジェクト、敵オブジェクト、および武器オブジェクトを含み得る。
仮想カメラ制御モジュール1422は、仮想空間11における仮想カメラ14の挙動を制御する。仮想カメラ制御モジュール1422は、例えば、仮想空間11における仮想カメラ14の配置位置と、仮想カメラ14の向き(傾き)とを制御する。
操作オブジェクト制御モジュール1423は、仮想空間11においてユーザ5の操作を受け付けるための操作オブジェクトを制御する。ユーザ5は、操作オブジェクトを操作することによって、例えば、仮想空間11に配置される仮想オブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、HMD120を装着したユーザ5の手に相当する手オブジェクト(仮想手)等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手の部分に相当し得る。
事象検出モジュール1424は、ユーザ5の身体を構成する第1部位の動きに応じて仮想空間11において操作オブジェクトを動かせない事象の発生を検出する。
発生原因特定モジュール1425は、操作オブジェクトを動かせない事象の発生原因を特定する。
通知モジュール1426は、発生原因、および発生原因に応じた対応策のうち少なくとも一方を、ユーザ5に通知する。
図15は、ある実施の形態に従う仮想空間11および視界画像1517を示す図である。図15(A)では、ユーザ5に仮想体験を提供するための仮想空間11に、アバターオブジェクト6および仮想カメラ14が配置される。ユーザ5は、頭部にHMD120を装着している。ユーザ5は、ユーザ5の身体の右側の一部を構成する右手(第1部位)で右コントローラ300Rを把持し、ユーザ5の身体の左側の一部を構成する左手(第2部位)で左コントローラ300Lを把持している。アバターオブジェクト6は、仮想右手1521Rおよび仮想左手1521Lを含む。仮想右手1521Rは操作オブジェクトの一種であり、ユーザ5の右手の動きに応じて仮想空間11において動くことができる。仮想左手1521Lは操作オブジェクトの一種であり、ユーザ5の左手の動きに応じて仮想空間11において動くことができる。
図15(A)に示す仮想空間11は、コンピュータ200においてゲームコンテンツが再生されることによって、構築される。このゲームコンテンツに対応するゲームは、例えば、アバターオブジェクト6と図示しない敵オブジェクトとが戦闘することによって、進行する。仮想空間1511は、ユーザにゲームをプレイさせるための空間であるとも言える。
図15(A)において、仮想カメラ14は、アバターオブジェクト6の頭部に配置される。仮想カメラ14は、仮想カメラ14の位置および向きに応じた視界領域15を規定する。仮想カメラ14は、視界領域15に対応する視界画像1517を生成して、図15(B)に示すようにHMD120に表示させる。ユーザ5は、視界画像1517を視認することによって、アバターオブジェクト6の視点で仮想空間の一部を視認する。これにより、ユーザ5は、あたかもユーザ5自身がアバターオブジェクト6であるかのような仮想体験を、得ることができる。
図16は、ある実施の形態に従うHMDセット110において実行される処理の一部を表すシーケンスチャートである。図17は、ある実施の形態に従う仮想空間1511および視界画像1717を示す図である。本実施形態では、仮想右手1521Rを動かせない事象の発生原因、および発生原因に応じた対応策のうち少なくとも一方をを通知するための一連の処理が、HMDセット110Aにより実行されるものとして説明する。ただし、当該処理は、他のHMDセット110B,100Cにより実行されてもよいし、当該処理の一部または全部がサーバ600によって実行されてもよい。
コンピュータ200のプロセッサ210(以下単に「プロセッサ210」)は、仮想空間1511を定義する前に、図17(A)に示すような、矩形のプレイエリア1740を、HMDシステム100に設定する。プレイエリア1740は、実座標系におけるxz平面(水平面)に平行な2次元の広がり(大きさ)を有する。ユーザ5は、プレイエリア1740を設定するために、コントローラ300の位置を動かし、HMDセンサ410が、コントローラ300の位置の動きをトラッキングする。プロセッサ210は、コントローラ300の位置の動きのトラッキング結果に応じて、プレイエリア1740を設定する。プレイエリア1740は、現実空間においてユーザ5が平面的に移動可能な領域である。ユーザ5は、プレイエリア1740の外側にも移動することができる。プレイエリア1740は、HMD120、右コントローラ300R、および左コントローラ300LのポジショントラッキングをHMDセンサ410が正確に行うことができる領域である。プロセッサ210は、プレイエリア1740を仮想空間1511に反映させることもできる。
以下では、プレイエリア1740が、トラッキング可能エリア(HMDセンサ410でHMD120およびコントローラ300を検知可能なエリア)と同範囲のエリアである、即ち、プレイエリア1740外では、HMDセンサ410でHMD120およびコントローラ300を検知できない場合を例にとり説明するが、これに限定されるものではない。例えば、プレイエリア1740をトラッキング可能エリア内に包含されるエリアとしてもよい。この場合、以下で述べる処理を、プレイエリア1740ではなくトラッキング可能エリアを対象として行えばよい。
ステップS1601において、プロセッサ210は、図17に示すような仮想空間1511を定義する。当該処理は、図11のステップS1110の処理に相当する。具体的には、プロセッサ210は、仮想空間データを特定することによって、仮想空間データによって表される仮想空間1511を定義する。
HMDセンサ410は、検出した右コントローラ300Rの位置および傾きを含む動き検出データを生成し、コンピュータ200に出力する。プロセッサ210は、HMDセンサ410から出力された動き検出データを取得し、動き検出データに含まれる位置に基づいて、現実空間内における右コントローラ300Rの位置を特定することができる。同様に、HMDセンサ410は、検出した左コントローラ300Lの位置および傾きを含む動き検出データを生成し、コンピュータ200に出力する。プロセッサ210は、HMDセンサ410から出力された動き検出データを取得し、動き検出データに含まれる位置に基づいて、現実空間内における左コントローラ300Lの位置を特定することができる。
ステップS1602において、プロセッサ210は、仮想オブジェクト生成モジュール1421として、仮想カメラ14を生成し、仮想空間1511に配置する。ステップS1603において、プロセッサ210は、仮想オブジェクト生成モジュール1421として、仮想右手1521Rおよび仮想左手1521Lを含むアバターオブジェクト6を生成し、仮想空間1511に配置する。仮想右手1521Rは、ユーザが右手に把持する右コントローラ300Rの動きおよび右コントローラ300Rに対するユーザの操作の少なくとも一方に応じて動作する操作オブジェクトである。仮想左手1521Lは、ユーザが左手に把持する左コントローラ300Lの動きおよび左コントローラ300Lに対するユーザの操作の少なくとも一方に応じて動作する操作オブジェクトである。
図16に示す一連の処理が実行される間、プロセッサ210は、右コントローラ300Rの電池残量の値を、定期的に右コントローラ300Rから取得する。
ステップS1604において、プロセッサ210は、仮想カメラ制御モジュール1422として、HMD120の動きに応じて仮想空間1511における仮想カメラ14の位置および傾きを決定する。より詳細には、プロセッサ210は、ユーザ5の頭部の姿勢と、仮想空間1511における仮想カメラ14の位置とに応じて、仮想空間1511における仮想カメラ14からの視界である視界領域15を制御する。当該処理は、図11のステップS1140の処理の一部に相当する。
ステップS1605において、プロセッサ210は、視界画像17をモニタ130に出力する。具体的には、プロセッサ210は、HMD120の動き(すなわち仮想カメラ14の位置および傾き)と、仮想空間1511を定義する仮想空間データと、に基づいて、視界領域15に対応する視界画像17を定義する。視界画像17を定義することは、視界画像17を生成することと同義である。プロセッサ210は、さらに、HMD120のモニタ130に視界画像17を出力することによって、視界画像17をHMD120に表示させる。当該処理は、図11のステップS1180およびS1190の処理に相当する。
プロセッサ210は、例えば、図17(A)に示す仮想空間1511に対応する視界画像1717を、図17(B)に示すようにモニタ130に表示する。ユーザ5は、視界画像1717を視認することによって、仮想空間1511を認識することができる。視界領域15に仮想右手1521Rが含まれるので、視界画像1517にも仮想右手1521Rが含まれる。ユーザ5は、視界画像1517を通じて仮想右手1521Rを視認することができる。
上述したステップS1604およびS1605の処理(すなわち、HMD120の動きに応じた視界画像17の更新)は、後述するステップS1607〜S1613が実行される間にも、継続して繰り返し実行される。
図18は、ある実施の形態に従う仮想空間1511および視界画像1817を示す図である。ユーザ5は、図17(A)に示す仮想空間1511が定義された後、図18(A)に示すように、右コントローラ300Rを把持する右手を、プレイエリア1740の内側における他の位置まで動かす。ステップS1606において、プロセッサ210は、操作オブジェクト制御モジュール1423として、右コントローラ300Rの出力に基づいて、ユーザ5の右手の動きを検出する。詳細には、プロセッサ210は、HMDセンサ410から出力された右コントローラ300Rの動き検出データに含まれる位置の時間的変化に基づいて、ユーザ5の右手の動きを検出する。上述したように、右コントローラ300Rの動き検出データは、右コントローラ300Rの出力(赤外線)に応じて生成される。したがって、動き検出データに基づいてユーザ5の右手の動きを検出することは、右コントローラ300Rの出力に基づいてユーザ5の右手の動きを検出することと同義である。
図18(A)の例では、ユーザ5の右手が動いた後、右コントローラ300Rはプレイエリア1740の内側に位置するので、プロセッサ210は、仮想右手1521Rを仮想空間1511において動かすことができる。ステップS1607において、プロセッサ210は、操作オブジェクト制御モジュール1423として、図18(A)に示すように、検出されたユーザ5の右手の動きに応じて、仮想空間1511において仮想右手1521Rを動かす。プロセッサ210は、例えば、ユーザ5の右手の動きに追随するように仮想右手1521Rを動かす。
プロセッサ210は、例えば、図18(A)に示す仮想空間1511に対応する視界画像1817を、図18(B)に示すようにモニタ130に表示する。ユーザ5は、視界画像1817を視認することによって、ユーザ5の右手の動きに追随して仮想右手1521Rが動いたことを認識する。この結果、ユーザ5は、あたかも仮想空間1511においてアバターオブジェクト6の仮想右手1521Rを自ら動かしたかのような仮想体験を得ることができる。
図19は、ある実施の形態に従う仮想空間1511および視界画像1917を示す図である。ユーザ5は、図18(A)に示すように右手を動かした後、再び、右手の位置を図17(A)に示す位置に戻す。その後、ユーザ5は、図19(A)に示すように、プレイエリア1740の右端近くまで移動する。ユーザ5の移動に追随して、HMD120もプレイエリア1740内を移動する。プロセッサ210は、HMD120の出力に基づいて、ユーザ5の動きを検出する。プロセッサ210は、検出したユーザ5の動きに応じて、アバターオブジェクト6を仮想空間1511において移動させる。ユーザ5の移動後、右コントローラ300Rは、プレイエリア1740の右端部の直近の位置に配置される。プロセッサ210は、図19(A)に示す右コントローラ300Rの位置に応じて、仮想右手1521Rを仮想空間1511における視界領域15内に配置する。プロセッサ210は、仮想空間1511において仮想右手1521Rが配置される位置1951(第1位置)を特定する。
プロセッサ210は、例えば、図19(A)に示す仮想空間1511に対応する視界画像1917を、図19(B)に示すようにモニタ130に表示する。ユーザ5は、視界画像1917を視認することによって、仮想空間1511における別の位置までアバターオブジェクト6が移動したことを認識する。この結果、ユーザ5は、あたかも自身が仮想空間1511において移動したかのような仮想体験を得ることができる。視界画像1917は、仮想空間1511における仮想右手1521Rが配置される位置1951に対応する視界画像1917における位置1961(第2位置)に仮想右手1521Rを含む。ユーザ5は、視界画像1517における仮想右手1521Rが配置される位置1961を視認している。
図20は、ある実施の形態に従う仮想空間1511および視界画像2017を示す図である。ユーザ5は、図19(A)に示すようにプレイエリア1740の右端付近まで移動した後、図20(A)に示すように、右コントローラ300Rを把持する右手を、プレイエリア1740の外側の位置まで動かす。右コントローラ300Rがプレイエリア1740の内側にないので、HMDセンサ410は、右コントローラ300Rの位置をトラッキングすることができない。したがって、プロセッサ210は、右コントローラ300Rの動き検出データをHMDセンサ410から取得できない。これにより、プロセッサ210は、仮想空間1511における仮想右手1521Rの位置を特定することができない。ステップS1608において、プロセッサ210は、仮想空間1511における仮想右手1521Rの位置が不定になったことに基づいて、ユーザ5の右手の動きに応じて仮想右手1521Rを動かせない事象の発生を検出する。この検出に応じて、プロセッサ210は、図20(A)に示すように、仮想空間1511から仮想右手1521Rを消失させる。
ステップS1609において、プロセッサ210は、ユーザ5の右手の動きに応じて仮想右手1521Rを動かせない事象の発生原因を特定する。ステップS1609の詳細は、例えば以下の通りである。プロセッサ210は、まず、発生原因が右コントローラ300Rのトラッキング外れであるか否かを判定する第1ステップを実行する。プロセッサ210は、右コントローラ300Rの動き検出データをHMDセンサ410から取得できず、右コントローラ300Rのポジショントラッキングを正常に実行できない場合、発生原因が右コントローラ300Rのトラッキング外れであると判定する。右コントローラ300Rのポジショントラッキングを正常に実行できない場合として、例えば、右コントローラ300Rの位置がプレイエリア1740の外側にある場合が挙げられる。他の例としては、右コントローラ300Rの位置がプレイエリア1740の内側にあるが、右コントローラ300RとHMDセンサ410との間に遮蔽物がある場合が挙げられる。他の例としては、右コントローラ300Rの電池残量がなく、HMDセンサ410が右コントローラ300Rを検知できない場合が挙げられる。
プロセッサ210は、さらに、発生原因が右コントローラ300Rの電池切れであるか否かを判定する第2ステップを実行する。プロセッサ210は、例えば、右コントローラ300Rから取得した電池残量の値がゼロである場合、発生原因は右コントローラ300Rの電池切れであると判定する。プロセッサ210は、例えば、右コントローラ300Rから電池残量の値を取得できない場合、発生原因は右コントローラ300Rの電池切れであると判定する。右コントローラ300Rの電池切れは、右コントローラ300Rの電源がオフされていることも含む。プロセッサ210は、例えば、右コントローラ300Rから取得した電池残量の値がゼロを超える場合、発生原因は右コントローラ300Rの電池切れではないと判定する。
プロセッサ210は、第1ステップの判定結果および第2ステップの判定結果に基づいて、発生原因を特定する第3ステップをさらに実行する。プロセッサ210は、例えば、第1ステップにおいて発生原因はトラッキング外れであると判定し、かつ第2ステップにおいて発生原因は電池切れではないと判定した場合、第3ステップにおいて発生原因はトラッキング外れであることを特定する。
プロセッサ210は、例えば、第1ステップにおいて発生原因はトラッキング外れであると判定し、かつ第2ステップにおいて発生原因は電池切れであると判定した場合、第3ステップにおいて発生原因を以下のように特定する。
プロセッサ210が、例えば、右コントローラ300Rがプレイエリア1740の境界の内側近辺に位置することを特定した直後に、第1ステップにおいて発生原因はトラッキング外れであると判定し、かつ第2ステップにおいて発生原因は電池切れであると判定したとする。この場合、プロセッサ210は、第3ステップにおいて発生原因はトラッキング外れおよび電池切れの双方であることを特定する。なぜなら、電池切れの直前に右コントローラ300Rがプレイエリア1740の境界の内側近辺に位置していた場合、電池切れと同時にトラッキング外れが発生している可能性がそれなりにあるためである。
プロセッサ210は、電池切れが発生する直前の右コントローラ300Rの速度ベクトルを加味して判定してもよい。例えば、上記の状態において、電池切れの直前に特定された右コントローラ300Rの速度ベクトルがプレイエリア1740の境界を超える移動であれば、プロセッサ210は、第3ステップにおいて発生原因はトラッキング外れおよび電池切れの双方であることを特定するようにしてもよい。一方、電池切れの直前に特定された右コントローラ300Rの速度ベクトルがプレイエリア1740の境界を超えない移動であれば、プロセッサ210は、第3ステップにおいて発生原因は電池切れであることを特定するようにしてもよい。
プロセッサ210が、例えば、右コントローラ300Rがプレイエリア1740の内側に位置することを特定した直後に、第1ステップにおいて発生原因はトラッキング外れであると判定し、かつ第2ステップにおいて発生原因は電池切れであると判定したとする。この場合、プロセッサ210は、第3ステップにおいて発生原因は電池切れであることを特定する。電池切れの直前に右コントローラ300Rがプレイエリア1740の内側に位置していた場合、HMDセンサ410と右コントローラ300Rとの間に遮蔽物が生じてトラッキング外れが発生した可能性はあるが、電池切れと同時にこのトラッキング外れが発生する可能性は低いと考えられるためである。
以上のように、プロセッサ210は、第1ステップおよび第2ステップの双方を実行し、これらの判定結果に基づいて発生原因を特定することによって、右コントローラ300Rを動かせない事象の発生原因を、高い確度で特定することができる。
図20の例では、右コントローラ300Rの電池残量は十分に高いものとする。プロセッサ210は、右コントローラ300Rの位置がプレイエリア1740の外側にあることに基づいて、仮想右手1521Rを動かせない事象の発生原因が、右コントローラ300Rのトラッキング外れであることを特定する。
ステップS1610において、プロセッサ210は、発生原因、および発生原因に応じた対応策のうち少なくとも一方をユーザ5に通知する。図20の例では、プロセッサ210は、発生原因をユーザ5に通知する。プロセッサ210は、例えば、図20(A)に示す仮想空間1511に対応する視界画像2017を、図20(B)に示すようにモニタ130に表示する。プロセッサ210は、通知モジュール1426として、視界画像2017における位置1961上で発生原因2071を通知する。発生原因2071は、仮想右手1521Rを動かせない原因が仮想右手1521Rのトラッキング外れであることを説明するテキストを含む。
ユーザ5は、視界画像2017を視認することによって、仮想空間1511から仮想右手1521Rが消失したことを認識する。ユーザ5は、さらに、ユーザ5の右手の動きに追随するように仮想右手1521Rが動かないことも認識する。視界画像2017における位置1961は、仮想右手1521Rを動かせない事象が検出される直前の仮想右手1521Rの位置1951に対応する。ユーザ5は、仮想右手1521Rが消失する直前まで、視界画像1917において仮想右手1521Rが含まれる位置1961を視認している。ユーザ5は、仮想右手1521Rの消失に対応する視界画像2017が表示されると、視界画像2017における位置1961を依然として注視し続けている。したがって、視界画像2017が表示されると、視界画像2017における位置1961上で通知される発生原因2071は、ユーザの5の視界内に確実に入る。このように、プロセッサ210は、発生原因2071を確実にユーザ5に通知することができる。
図21は、ある実施の形態に従う仮想空間1511および視界画像2117を示す図である。図21(A)では、ユーザ5は、図20(A)と同様に、右コントローラ300Rを把持する右手を、プレイエリア1740の外側の位置まで動かす。プロセッサ210は、図21(A)に示すように、仮想空間1511から仮想右手1521Rを消失させる。プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が、右コントローラ300Rのトラッキング外れであることを特定する。プロセッサ210は、プロセッサ210は、発生原因に応じた対応策をユーザ5に通知する。プロセッサ210は、例えば、図21(A)に示す仮想空間1511に対応する視界画像2117を、図21(B)に示すようにモニタ130に表示する。プロセッサ210は、通知モジュール1426として、視界画像2117における位置1961上で対応策2172を通知する。対応策2172は、ユーザ5がプレイエリア1740内を移動すれば右コントローラ300Rのトラッキング外れを解消できることを説明するテキストを含む。
視界画像2117が表示されると、視界画像2117における位置1961上で通知される対応策2172が、ユーザ5の視界内に確実に入る。このように、プロセッサ210は、対応策2172を確実にユーザ5に通知することができる。ユーザ5は、通知された対応策2172にしたがってプレイエリア1740内を移動することによって、右手を動かしても右コントローラ300Rがプレイエリア1740の外側に出ない位置まで移動する。このように、ユーザ5は、右コントローラ300Rのトラッキング外れを解消するための行動を、確実に取ることができる。
プロセッサ210は、発生原因2071および対応策2172の両方を、視界画像2017における位置1961上で通知することもできる。この場合、ユーザ5は、発生原因2071および対応策2172の両方を通知されるので、仮想右手1521Rを動かせない事象の発生原因を素早く理解すると共に、その事象を解消するための行動を確実に取ることができる。
プロセッサ210は、トラッキング外れに応じた対応策として、HMDシステム100を再度セットアップすることを、ユーザ5に通知することもできる。ユーザ5がHMDシステム100を再度セットアップすれば、プレイエリア1740が再度設定されるので、その後はトラッキング外れの発生を回避できることが期待できる。プロセッサ210は、対応策としてプレイエリア1740内の移動を繰り返しユーザ5に通知した後、仮想右手1521Rのトラッキング外れを再び特定した場合、対応策として、HMDシステム100を再度セットアップすることをユーザ5に通知することもできる。トラッキング外れが繰り返し特定される場合、プレイエリア1740の設定が適切でない可能性が高いので、ユーザ5にHMDシステム100を再セットアップさせれば、適切なプレイエリア1740が設定されることが期待できる。
図22は、ある実施の形態に従う仮想空間1511および視界画像2217を示す図である。図22(A)では、ユーザ5は、図18(A)と同様に、プレイエリア1740の右端近くまで移動する。右コントローラ300Rは、プレイエリア1740の右端部の直近の位置に配置される。プロセッサ210は、図22(A)に示す右コントローラ300Rの位置に応じて、仮想右手1521Rを仮想空間1511における視界領域15内に配置する。プロセッサ210は、注視センサ140の出力に基づいて、ユーザ5の注視点N1および視線N0を特定する。プロセッサ210は、ユーザ5の注視点N1に対応する仮想空間1511における位置2252(第1位置)を特定する。位置2252は、仮想空間1511においてユーザ5が注視している位置である。
プロセッサ210は、例えば、図22(A)に示す仮想空間1511に対応する視界画像2217を、図22(B)に示すようにモニタ130に表示する。ユーザ5は、視界画像2217を視認する際、仮想空間1511における位置2252に対応する視界画像2217における位置2262(第2位置)を、注視している。
図23は、ある実施の形態に従う仮想空間1511および視界画像2317を示す図である。ユーザ5は、図22に示す位置まで移動した後、図23(A)に示すように、右コントローラ300Rを把持する右手を、プレイエリア1740の外側の位置まで動かす。プロセッサ210は、図23(A)に示すように、仮想空間1511から仮想右手1521Rを消失させる。プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が、右コントローラ300Rのトラッキング外れであることを特定する。プロセッサ210は、例えば、図23(A)に示す仮想空間1511に対応する視界画像2317を、図23(B)に示すようにモニタ130に表示する。プロセッサ210は、発生原因2071を、視界画像2317における位置2262上で通知する。
ユーザ5は、視界画像2317を視認することによって、仮想空間1511から仮想右手1521Rが消失したことを認識する。ユーザ5は、さらに、ユーザ5の右手の動きに追随するように仮想右手1521Rが動かないことも認識する。視界画像2117における位置2262は、仮想右手1521Rを動かせない事象が検出される直前に仮想空間1511においてユーザ5が注視している位置2252に対応する。ユーザ5は、仮想右手1521Rが消失した直後も、仮想空間1511における位置2252を続いて注視している。したがって、視界画像2317が表示されると、視界画像2317における位置2262に表示される発生原因2071が、確実にユーザの視界内に入る。このように、プロセッサ210は、発生原因をユーザ5に確実に通知することができる。
プロセッサ210は、対応策2172を、視界画像2317における位置2262上で通知することもできる。プロセッサ210は、発生原因2071および対応策2172の双方を、視界画像2317における位置2262上で通知することもできる。
図24は、ある実施の形態に従う仮想空間1511および視界画像2417を示す図である。図24(A)では、ユーザ5は、図23(A)と同様に、右コントローラ300Rを把持する右手を、プレイエリア1740の外側の位置まで動かす。プロセッサ210は、図24(A)に示すように、仮想空間1511から仮想右手1521Rを消失させる。プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が、右コントローラ300Rのトラッキング外れであることを特定する。プロセッサ210は、右コントローラ300Rの位置を検出できなくなったことに応じて、仮想空間1511におけるゲームを中断させる。
プロセッサ210は、事象の発生原因をユーザ5に通知する。プロセッサ210は、例えば、図24(A)に示す仮想空間1511に対応する視界画像2417を、図24(B)に示すようにモニタ130に表示する。このとき仮想空間1511におけるゲームは中断されている。プロセッサ210は、仮想空間1511におけるゲームが中断された場合、視界画像2417の中央2463上で発生原因2071を通知する。プロセッサ210は、さらに、視界画像2417の左上隅近辺上でメッセージ2473をユーザ5に通知する。メッセージ2473は、ゲームが中断されたことを説明するテキストを含む。
視界画像2417の中央2463はユーザ5にとって視認しやすい位置であるため、ユーザ5は、視界画像2417の中央2463上で発生原因2071が通知されたことに、気が付きやすい。ゲームの中断直前にユーザ5が視界画像2417の別の位置を注視しており、発生原因2071の通知にユーザ5がすぐに気が付かなかったとしても、ゲームが中断されているので、ユーザ5は余裕をもって視界画像2417内の各位置を視認することができる。
プロセッサ210は、対応策2172を、視界画像2417における中央2463上で通知することもできる。プロセッサ210は、発生原因2071および対応策2172の両方を、視界画像2417における中央2463上で通知することもできる。
図25は、ある実施の形態に従う仮想空間1511および視界画像2517を示す図である。図25(A)では、ユーザ5は、図24(A)と同様に、右コントローラ300Rを把持する右手を、プレイエリア1740の外側の位置まで動かす。プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が、右コントローラ300Rのトラッキング外れであることを特定する。この特定に基づいて、プロセッサ210は、図25(A)に示すように、ユーザ5の右手の動きに応じて仮想空間1511において仮想右手1521Rを動かさない。図25(A)では、仮想右手1521Rは、ユーザ5が右手を動かす直前の仮想空間1511における位置に、配置されたままである。プロセッサ210は、仮想空間1511における仮想右手1521Rの外観を、図25(A)に示すように半透明に変化させる。プロセッサ210は、仮想右手1521Rが仮想オブジェクトを把持している場合、仮想右手1521Rと同様に仮想オブジェクトも半透明に変化させることができる。
プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が右コントローラ300Rのトラッキング外れである場合、仮想右手1521Rの外観変化を通じて、ユーザ5にトラッキング外れを想起させる態様(第1態様)で発生原因をユーザ5に通知する。プロセッサ210は、例えば、図25(A)に示す仮想空間1511に対応する視界画像2517を、図25(B)に示すようにモニタ130に表示する。視界画像2517には、半透明の仮想右手1521Rが含まれる。ユーザ5は、視界画像2517を視認することによって、ユーザ5が右手を動かしたにも関わらず仮想右手1521Rが動かなかったことを認識する。ユーザ5は、さらに、仮想右手1521Rが半透明に変化したことを視認することによって、仮想右手1521Rが動かない事象の発生原因が、右コントローラ300Rのトラッキング外れであることを直感的に把握することができる。
プロセッサ210は、仮想右手1521Rの透明度を短時間で急激に上昇させ、最後は仮想右手1521Rを完全に透明に変化させることによって、仮想空間1511から仮想右手1521Rを消失させることもできる。この場合、ユーザ5は、ユーザ5の右手を動かした結果、仮想右手1521Rがその場から動かずにふっと消えていく様子を視認する。ユーザ5は、このような演出を目にすることによって、仮想右手1521Rを動かせない事象の発生原因が右コントローラ300Rのトラッキング外れであることを、より明瞭に認識することができる。
図26は、ある実施の形態に従う仮想空間1511および視界画像2617を示す図である。図26(A)では、ユーザ5は、図17(A)と同様に、プレイエリア1740の中央付近に位置する。ユーザ5は、右コントローラ300Rを把持する右手を、プレイエリア1740の内側における他の位置まで動かす。プロセッサ210は、右コントローラ300Rの電池残量の値が第1閾値を下回ったことに基づいて、仮想右手1521Rを動かせない事象の発生原因が、右コントローラ300Rの電池残量不足であることを特定する。この特定に基づいて、プロセッサ210は、図26(A)に示すように、ユーザ5の右手の動きに応じて仮想空間1511において仮想右手1521Rを動かさない。図26(A)では、仮想右手1521Rは、ユーザ5が右手を動かす直前の仮想空間1511における位置に、配置されたままである。プロセッサ210は、仮想右手1521Rにテクスチャ2674を貼り付けることによって、仮想右手1521Rの外観を変化させる。テクスチャ2674は、仮想右手1521Rの電池残量が第1閾値を下回ることに対応するテクスチャである。
プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が右コントローラ300Rの電池残量不足である場合、仮想右手1521Rの外観変化を通じて、ユーザ5に電池残量不足を想起させる態様で発生原因をユーザ5に通知する。プロセッサ210は、例えば、図26(A)に示す仮想空間1511に対応する視界画像2617を、図26(B)に示すようにモニタ130に表示する。視界画像2617には、テクスチャ2674が貼り付けられた仮想右手1521Rが含まれる。ユーザ5は、視界画像2617を視認することによって、ユーザ5が右手を動かしたにも関わらず仮想右手1521Rが動かなかったことを認識する。テクスチャ2674が貼り付けられた仮想右手1521Rは、何らかの装置のエネルギーが低下したかのような外観を有する。ユーザ5は、テクスチャ2674が貼り付けられた仮想右手1521Rを視認することによって、仮想右手1521Rが動かない事象の発生原因が、仮想右手1521Rを操作するための装置である右コントローラ300Rの電池残量不足であることを、直感的に把握することができる。
図27は、ある実施の形態に従う仮想空間1511および視界画像2717を示す図である。図27(A)では、ユーザ5は、図26(A)と同様に、プレイエリア1740の中央付近に位置する。ユーザ5は、右コントローラ300Rを把持する右手を、プレイエリア1740の内側における他の位置まで動かす。プロセッサ210は、右コントローラ300Rの電池残量の値を右コントローラ300Rから取得することができない。プロセッサ210は、電池残量の値を取得できないことに基づいて、仮想右手1521Rを動かせない事象の発生原因が、右コントローラ300Rの電池切れであることを特定する。この特定に基づいて、プロセッサ210は、図27(A)に示すように、ユーザ5の右手の動きに応じて仮想空間1511において仮想右手1521Rを動かさない。図27(A)では、仮想右手1521Rは、ユーザ5が右手を動かす直前の仮想空間1511における位置に、配置されたままである。プロセッサ210は、仮想右手1521Rの外観を変化させない。
プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が右コントローラ300Rの電池切れである場合、仮想右手1521Rの外観変化を通じて、ユーザ5に電池切れを想起させる態様(第2態様)で発生原因をユーザ5に通知する。プロセッサ210は、例えば、図27(A)に示す仮想空間1511に対応する視界画像2717を、図27(B)に示すようにモニタ130に表示する。視界画像2717には、仮想右手1521Rが含まれる。プロセッサ210は、マーク2775を、視界画像2717において仮想右手1521R上で通知する。マーク2775は、仮想右手1521Rの電池切れを示す情報の一種であり、電池切れを象徴的に表す形状を有する。ユーザ5は、視界画像2717を視認することによって、ユーザ5が右手を動かしたにも関わらず仮想右手1521Rが動かなかったことを認識する。ユーザ5は、さらに、仮想右手1521R上で通知されるマーク2775を視認することによって、仮想右手1521Rが動かない事象の発生原因が、右コントローラ300Rの電池切れであることを直感的に把握することができる。
ユーザ5は、頭部にHMD120を装着しているため、仮想空間1511を通じた仮想体験を享受している最中に、右手に装着される右コントローラ300Rを視認することができない。右コントローラ300Rに電池残量を示すインジケータが設けられていたとしても、ユーザ5は、HMD120を外さない限りインジケータを視認できないので、右コントローラ300Rの電池切れには気づきにくい。図27の例では、ユーザ5は、視界画像2717に含まれるマーク2775を視認することによって右コントローラ300Rの電池切れを認識することができるので、HMD120を頭部から外さずに済む。言い換えれば、ユーザ5は、仮想空間1511を通じた仮想体験を中止することなく、右コントローラ300Rの電池切れを認識できる。
プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が右コントローラ300Rの電池切れである場合、スマートフォンの電池切れを示すような表示に対応するテクスチャを仮想右手1521Rに貼り付けることもできる。この場合も、プロセッサ210は、仮想右手1521Rの外観変化を通じて、ユーザ5に電池残量不足を想起させる態様で発生原因をユーザ5に通知することができる。
プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因が右コントローラ300Rの電池切れであることを特定した場合、発生原因に応じた対応策として、右コントローラ300Rを充電することをユーザ5に通知することができる。プロセッサ210は、あるいは、発生原因に応じた対応策として、右コントローラ300Rの電源をオンすることをユーザ5に通知することもできる。
以上のように、本実施形態によれば、プロセッサ210は、仮想右手1521Rを動かせない事象の発生原因として、右コントローラ300Rのトラッキング外れまたは電池切れを特定する。プロセッサ210は、さらに、発生原因および対応策の少なくとも一方をユーザ5に通知する。ユーザ5は、プロセッサ210からの通知に基づいて、ユーザ5の右手の動きが仮想右手1521Rに反映されない原因を正確に理解することができる。
ユーザ5が、仮想空間1511における仮想体験の初心者である場合、右手を動かしたにも関わらず仮想右手1521Rが仮想空間1511において動かない事象が発生した場合、ユーザ5がその発生原因を理解したり、対応策を自ら思い付いたりすることは、難しい。したがって、発生原因および対応策の少なくとも一方を通知することは、初心者であるユーザ5にとって非常に大きな助けとなる。
ユーザ5が、仮想空間1511における仮想体験の熟練者である場合、右手を動かしたにも関わらず仮想右手1521Rが仮想空間1511において動かない事象が発生した場合、ユーザ5は、その発生原因として、右コントローラ300Rのトラッキング外れを疑う可能性が高い。ここで、実際の発生原因が右コントローラ300Rの電池切れであり、右コントローラ300Rのインジケータを通じて電池切れを通知したとしても、ユーザ5はHMD120を頭部に装着しているためインジケータを視認することができず、電池切れの通知に気づくことができない。したがって、発生原因および対応策の少なくとも一方を通知することは、熟練者であるユーザ5にとっても十分な助けとなる。
プロセッサ210は、視界画像1517に含まれる通常のUIを通じて、事象の発生原因および対応策の少なくとも一方をユーザ5に通知することもできる。プロセッサ210は、事象の発生原因および対応策の少なくとも一方を、音声でユーザ5に通知することもできる。プロセッサ210は、例えば、発生原因を説明する第1音声と対応策を説明する第2音声との少なくとも一方を、スピーカ180から出力する。
以上、本開示の実施形態について説明したが、本発明の技術的範囲は、本実施形態の説明によって限定的に解釈されるべきではない。本実施形態は一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本発明の技術的範囲は、特許請求の範囲に記載された発明の範囲およびその均等の範囲に基づいて定められるべきである。
ユーザ5が右手または左手に装着するコントローラは、HMDセンサ410によるポジショントラッキング機能に対応しないコントローラであってもよい。このようなコントローラは、例えば、モーションセンサ420を備えているモーションデバイスである。プロセッサ210は、例えば、ユーザ5の右手に装着されるモーションデバイスに備えられるモーションセンサ420の出力(検出信号)に基づいて、ユーザ5の右手の動きを検出する。プロセッサ210は、モーションセンサ420から検出信号を受信できない場合、ユーザ5の右手の動きに応じて仮想空間1511において仮想右手1521Rを動かせない事象の発生を検出する。プロセッサ210は、モーションセンサ420から検出信号を受信できない場合、事象の発生原因はモーションデバイスの故障であることを特定する。プロセッサ210は、モーションデバイスから取得した電池残量の値がゼロである場合、事象の発生原因はモーションデバイスの電池切れであることを特定する。
HMDシステム100は、HMDセンサ410がポジショントラッキングのための赤外線を発し、コントローラ300がその赤外線を読み取る構成であってもよい。この場合、コントローラ300は、読み取った赤外線に基づいて、現実空間内におけるコントローラ300の位置および傾きを検出する。コントローラ300は、位置および傾きを含む検出データをコンピュータ200に出力する。HMDセンサ410が発した赤外線が遮蔽物によって遮られ、コントローラ300に届かない場合、コントローラ300のトラッキング外れが発生する。したがって、プロセッサ210は、HMDセンサ410とコントローラ300との間に、赤外線を遮蔽する遮蔽物が存在するか否かに基づいて、発生原因がコントローラ300のトラッキング外れであるか否かを判定することができる。
〔付記事項〕
本発明の一側面に係る内容を列記すると以下の通りである。
(項目1) プログラムを説明した。本開示のある局面によれば、プログラムは、ユーザ5に仮想体験を提供するために、プロセッサ(210)を備えたコンピュータ(200)によって実行される。プログラムは、プロセッサに、仮想体験をユーザに提供するための仮想空間(1511)を定義するステップ(S1601)と、仮想空間に操作オブジェクト(仮想右手1521R)を配置するステップ(S1603)と、ユーザの身体の一部を構成する第1部位(右手)の動きを検出するステップ(S1606)と、第1部位の動きに応じて、操作オブジェクトを動かすステップ(S1607)と、第1部位の動きに応じて操作オブジェクトを動かせない事象の発生を検出するステップ(S1608)と、事象の発生原因(2071)を特定するステップ(S1609)と、発生原因、および発生原因に応じた対応策(2172)の少なくとも一方を、ユーザに通知するステップ(S1610)とを実行させる。
(項目2) (項目1)において、プログラムは、プロセッサに、ユーザの頭部の姿勢と仮想空間における仮想視点の位置とに応じて、仮想空間における仮想視点(仮想カメラ14)からの視界(視界領域15)を制御するステップ(S1604)と、仮想視点からの視界に対応する視界画像17を定義するステップ(S1605)と、ユーザの頭部に関連付けられた画像表示装置(HMD120)に視界画像を出力するステップ(S1605)とをさらに実行させ、第1部位の動きを検出するステップにおいて、第1部位に関連付けられたコントローラ(右コントローラ300R)の出力に基づいて、操作オブジェクトを動かすステップにおいて、コントローラの動きに追随するように操作オブジェクトを動かし、第1部位の動きを検出し、発生原因を特定するステップは、発生原因が、コントローラのトラッキング外れであるか否かを判定する第1ステップと、発生原因が、コントローラの電池切れであるか否かを判定する第2ステップと、第1ステップの判定結果および第2ステップの判定結果に基づいて、発生原因を特定する第3ステップとを含む。
(項目6) (項目2)において、発生原因および対応策の少なくとも一方は、事象が検出される直前の仮想空間における操作オブジェクトの第1位置(位置1961)に対応する視界画像における第2位置(1961)上で通知される。
(項目4) (項目2)において、プログラムは、プロセッサに、仮想空間においてユーザによって注視される第1位置(位置2252)を検出するステップをさらに実行させ、発生原因および対応策の少なくとも一方は、仮想空間における事象が検出される直前の第1位置に対応する視界画像における第2位置(位置2262)上で通知される。
(項目5) (項目2)において、仮想空間は、ユーザにゲームをプレイさせるための仮想空間であり、発生原因および対応策の少なくとも一方は、ゲームが中断された場合、視界画像の中央(2463)上で通知される。
(項目6) (項目1)〜(項目5)のいずれかにおいて、通知するステップにおいて、発生原因が、第1部位に関連付けられたコントローラのトラッキング外れである場合、ユーザにトラッキング外れを想起させる第1態様で発生原因をユーザに通知し、発生原因が、コントローラの電池切れである場合、ユーザに電池切れを想起させる第2態様で発生原因をユーザに通知する。
(項目7) 情報処理装置を説明した。本開示のある局面によると、情報処理装置(コンピュータ200)は、ユーザ5に仮想体験を提供するために、情報処理装置によって実行されるプログラムを記憶する記憶部(ストレージ230)と、情報処理装置の動作を制御する制御部(プロセッサ210)と、を備えている。制御部は、仮想体験をユーザに提供するための仮想空間(1511)を定義し、仮想空間に操作オブジェクト(仮想右手1521R)を配置し、ユーザの身体の一部を構成する第1部位(右手)の動きを検出し、第1部位の動きに応じて、操作オブジェクトを動かし、第1部位の動きに応じて操作オブジェクトを動かせない事象の発生を検出し、事象の発生原因(2071)を特定し、発生原因、および発生原因に応じた対応策(2172)の少なくとも一方を、ユーザに通知する。
(項目8) プログラムを実行する方法を説明した。本開示のある局面によると、プログラムは、ユーザに仮想体験を提供するために、プロセッサ(210)を備えたコンピュータ(200)によって実行される。プログラムは、プロセッサが、仮想体験をユーザに提供するための仮想空間(1511)を定義するステップ(S1601)と、仮想空間に操作オブジェクト(仮想右手1521R)を配置するステップ(S1603)と、ユーザの身体の一部を構成する第1部位(右手)の動きを検出するステップ(S1606)と、第1部位の動きに応じて、操作オブジェクトを動かすステップ(S1607)と、第1部位の動きに応じて操作オブジェクトを動かせない事象の発生を検出するステップ(S1608)と、事象の発生原因(2071)を特定するステップ(S1609)と、発生原因、および発生原因に応じた対応策(2172)の少なくとも一方を、ユーザに通知するステップ(S1610)とを実行する。
上記実施形態においては、HMDによってユーザが没入する仮想空間(VR空間)を例示して説明したが、HMDとして、透過型のHMDを採用してもよい。この場合、透過型のHMDを介してユーザが視認する現実空間に仮想空間を構成する画像の一部を合成した視界画像を出力することにより、拡張現実(AR:Augmented Reality)空間または複合現実(MR:Mixed Reality)空間における仮想体験をユーザに提供してもよい。この場合、操作オブジェクトに代えて、ユーザの手の動きに基づいて、仮想空間内における対象オブジェクトへの作用を生じさせてもよい。具体的には、プロセッサは、現実空間におけるユーザの手の位置の座標情報を特定するとともに、仮想空間内における対象オブジェクトの位置を現実空間における座標情報との関係で定義してもよい。これにより、プロセッサは、現実空間におけるユーザの手と仮想空間における対象オブジェクトとの位置関係を把握し、ユーザの手と対象オブジェクトとの間で上述したコリジョン制御等に対応する処理を実行可能となる。その結果、ユーザの手の動きに基づいて対象オブジェクトに作用を与えることが可能となる。
2 ネットワーク、11,11A,11B,11C 仮想空間、5,5A,5B,5C、5D ユーザ、6A,6B,6C アバターオブジェクト、11 仮想空間、12 中心、13 パノラマ画像、14,14A 仮想カメラ、15 視界領域、16 基準視線、17,17A 視界画像、18,19 領域、100 HMDシステム、110,110A,110B,110C,110D HMDセット、120,120A,120B,HMD、130,130A モニタ、140,140 注視センサ、150 第1カメラ、160 第2カメラ、170,170A マイク、180,180A,180B スピーカ、190 センサ、200,200A,200B コンピュータ、210,210A、210B,210C,610 プロセッサ、220,620 メモリ、230,630 ストレージ、240,640 入出力インターフェイス、250,650 通信インターフェイス、260,660 バス、300,300B コントローラ、300R 右コントローラ、310 グリップ、320 フレーム、330 天面、340,340,350,370,380 ボタン、360 赤外線LED、390 アナログスティック、410 HMDセンサ、420,420A モーションセンサ、430 ディスプレイ、510 コントロールモジュール、520 レンダリングモジュール、530 メモリモジュール、540 通信制御モジュール、600 サーバ、700 外部機器、1421 仮想オブジェクト生成モジュール、1422 仮想カメラ制御モジュール、1423 操作オブジェクト制御モジュール、1424 事象検出モジュール、1425 発生原因特定モジュール、1426 通知モジュール、1511 仮想空間、1517、1717、1817、1917、2017、2117、2217、2317、2417、2517,
2617、2717 視界画像、1521L 仮想左手、1521R 仮想右手、1740 プレイエリア、1951,1961,2252,2262 位置、2071 発生原因、2172 対応策、2463 中央、2473 メッセージ、2674 テクスチャ、2775 マーク

Claims (7)

  1. ユーザに仮想体験を提供するために、プロセッサを備えたコンピュータによって実行されるプログラムであって、
    前記プログラムは、前記プロセッサに、
    前記仮想体験を前記ユーザに提供するための仮想空間を定義するステップと、
    前記仮想空間に操作オブジェクトを配置するステップと、
    前記ユーザの身体の一部を構成する第1部位の動きを検出するステップと、
    前記第1部位の動きに応じて、前記操作オブジェクトを動かすステップと、
    前記第1部位の動きに応じて前記操作オブジェクトを動かせない事象の発生を検出するステップと、
    前記事象の発生原因を特定するステップと、
    前記発生原因、および前記発生原因に応じた対応策の少なくとも一方を、前記ユーザに通知するステップと、
    前記ユーザの頭部の姿勢と前記仮想空間における仮想視点の位置とに応じて、前記仮想空間における前記仮想視点からの視界を制御するステップと、
    前記仮想視点からの前記視界に対応する視界画像を定義するステップと、
    前記ユーザの頭部に装着された画像表示装置に前記視界画像を出力するステップとを実行させ、
    前記第1部位の動きを検出するステップにおいて、前記第1部位に関連付けられたコントローラの出力に基づいて、前記第1部位の動きを検出し、
    前記操作オブジェクトを動かすステップにおいて、前記コントローラの動きに追随するように前記操作オブジェクトを動かし、
    前記発生原因を特定するステップは、
    前記発生原因が、前記コントローラのトラッキング外れであるか否かを、前記プロセッサが判定する第1ステップと、
    前記発生原因が、前記コントローラの電池切れであるか否かを、前記プロセッサが判定する第2ステップと、
    前記第1ステップの判定結果および前記第2ステップの判定結果に基づいて、前記発生原因を前記プロセッサが特定する第3ステップとを含み、
    前記第3ステップにおいて、前記コントローラがプレイエリアの内側に位置することが特定された直後に、前記第1ステップにおいて前記発生原因は前記トラッキング外れであると判定され、かつ前記第2ステップにおいて前記発生原因は前記電池切れであると判定された場合、前記発生原因は前記電池切れであることを特定する、プログラム。
  2. 前記発生原因および前記対応策の少なくとも一方は、前記事象が検出される直前の前記仮想空間における前記操作オブジェクトの第1位置を示す前記視界画像における第2位置上で通知される、請求項1に記載のプログラム。
  3. 前記画像表示装置は、注視センサを備えており、
    前記プログラムは、前記プロセッサに、
    前記仮想空間において前記ユーザによって注視される第1位置を、前記注視センサの出力に基づいて検出するステップをさらに実行させ、
    前記発生原因および前記対応策の少なくとも一方は、前記仮想空間における前記事象が検出される直前の前記第1位置を示す前記視界画像における第2位置上で通知される、請求項1に記載のプログラム。
  4. 前記仮想空間は、前記ユーザにゲームをプレイさせるための仮想空間であり、
    前記発生原因および前記対応策の少なくとも一方は、前記ゲームが中断された場合、前記視界画像の中央上で通知される、請求項1に記載のプログラム。
  5. 前記通知するステップにおいて、前記発生原因が、前記第1部位に関連付けられたコントローラのトラッキング外れである場合、前記ユーザに前記トラッキング外れを想起させる第1態様で前記発生原因を前記ユーザに通知し、前記発生原因が、前記コントローラの電池切れである場合、前記ユーザに前記電池切れを想起させる第2態様で前記発生原因を前記ユーザに通知する、請求項1〜4のいずれか1項に記載のプログラム。
  6. 情報処理装置であって、
    前記情報処理装置は、
    ユーザに仮想体験を提供するために、プロセッサを備えたコンピュータによって実行されるプログラムを記憶する記憶部と、
    前記情報処理装置の動作を制御する制御部と、を備え、
    前記制御部は、
    前記仮想体験を前記ユーザに提供するための仮想空間を定義し、
    前記仮想空間に操作オブジェクトを配置し、
    前記ユーザの身体の一部を構成する第1部位の動きを検出し、
    前記第1部位の動きに応じて、前記操作オブジェクトを動かし、
    前記第1部位の動きに応じて前記操作オブジェクトを動かせない事象の発生を検出し、
    前記事象の発生原因を特定し、
    前記発生原因、および前記発生原因に応じた対応策の少なくとも一方を、前記ユーザに通知し、
    前記ユーザの頭部の姿勢と前記仮想空間における仮想視点の位置とに応じて、前記仮想空間における前記仮想視点からの視界を制御し、
    前記仮想視点からの前記視界に対応する視界画像を定義し、
    前記ユーザの頭部に装着された画像表示装置に前記視界画像を出力し、
    前記制御部は、
    前記第1部位の動きを検出する際、前記第1部位に関連付けられたコントローラの出力に基づいて、前記第1部位の動きを検出し、
    前記操作オブジェクトを動かす際、前記コントローラの動きに追随するように前記操作オブジェクトを動かし、
    前記発生原因を特定する際、前記発生原因が、前記コントローラのトラッキング外れであるか否かを判定する第1処理と、前記発生原因が、前記コントローラの電池切れであるか否かを判定する第2処理と、前記第1処理の判定結果および前記第2処理の判定結果に基づいて、前記発生原因を特定する第3処理とを実行し、
    前記制御部は、前記第3処理を実行する際、前記コントローラがプレイエリアの内側に位置することが特定された直後に、前記第1処理において前記発生原因は前記トラッキング外れであると判定され、かつ前記第2処理において前記発生原因は前記電池切れであると判定された場合、前記発生原因は前記電池切れであることを特定する、情報処理装置。
  7. ユーザに仮想体験を提供するために、プロセッサを備えたコンピュータがプログラムを実行する方法であって、
    前記プログラムは、前記プロセッサが、
    前記仮想体験を前記ユーザに提供するための仮想空間を定義するステップと、
    前記仮想空間に操作オブジェクトを配置するステップと、
    前記ユーザの身体の一部を構成する第1部位の動きを検出するステップと、
    前記第1部位の動きに応じて、前記操作オブジェクトを動かすステップと、
    前記第1部位の動きに応じて前記操作オブジェクトを動かせない事象の発生を検出するステップと、
    前記事象の発生原因を特定するステップと、
    前記発生原因、および前記発生原因に応じた対応策の少なくとも一方を、前記ユーザに通知するステップと、
    前記ユーザの頭部の姿勢と前記仮想空間における仮想視点の位置とに応じて、前記仮想空間における前記仮想視点からの視界を制御するステップと、
    前記仮想視点からの前記視界に対応する視界画像を定義するステップと、
    前記ユーザの頭部に装着された画像表示装置に前記視界画像を出力するステップとを含み、
    前記第1部位の動きを検出するステップにおいて、前記第1部位に関連付けられたコントローラの出力に基づいて、前記第1部位の動きを検出し、
    前記操作オブジェクトを動かすステップにおいて、前記コントローラの動きに追随するように前記操作オブジェクトを動かし、
    前記発生原因を特定するステップは、
    前記発生原因が、前記コントローラのトラッキング外れであるか否かを、前記プロセッサが判定する第1ステップと、
    前記発生原因が、前記コントローラの電池切れであるか否かを、前記プロセッサが判定する第2ステップと、
    前記第1ステップの判定結果および前記第2ステップの判定結果に基づいて、前記発生原因を前記プロセッサが特定する第3ステップとを含み、
    前記第3ステップにおいて、前記コントローラがプレイエリアの内側に位置することが特定された直後に、前記第1ステップにおいて前記発生原因は前記トラッキング外れであると判定され、かつ前記第2ステップにおいて前記発生原因は前記電池切れであると判定された場合、前記発生原因は前記電池切れであることを特定する、方法。
JP2018068496A 2018-03-30 2018-03-30 プログラム、情報処理装置、および方法 Active JP6522825B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018068496A JP6522825B1 (ja) 2018-03-30 2018-03-30 プログラム、情報処理装置、および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018068496A JP6522825B1 (ja) 2018-03-30 2018-03-30 プログラム、情報処理装置、および方法

Publications (2)

Publication Number Publication Date
JP6522825B1 true JP6522825B1 (ja) 2019-05-29
JP2019179423A JP2019179423A (ja) 2019-10-17

Family

ID=66655797

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018068496A Active JP6522825B1 (ja) 2018-03-30 2018-03-30 プログラム、情報処理装置、および方法

Country Status (1)

Country Link
JP (1) JP6522825B1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002101478A (ja) * 2000-09-26 2002-04-05 Sharp Corp 通信開始通知機能を備えた赤外線制御装置
JP2007052224A (ja) * 2005-08-18 2007-03-01 Konica Minolta Photo Imaging Inc 映像表示装置
JP5424290B2 (ja) * 2006-11-17 2014-02-26 任天堂株式会社 ゲームプログラムおよびゲーム装置
JP6363587B2 (ja) * 2015-12-14 2018-07-25 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および警告提示方法

Also Published As

Publication number Publication date
JP2019179423A (ja) 2019-10-17

Similar Documents

Publication Publication Date Title
JP7138138B2 (ja) プログラム、情報処理方法及び情報処理装置
JP6425846B1 (ja) プログラム、情報処理装置、及び情報処理方法
JP6513241B1 (ja) プログラム、情報処理装置、及び情報処理方法
JP6479933B1 (ja) プログラム、情報処理装置、および方法
JP7192151B2 (ja) プログラム、情報処理装置、及び情報処理方法
JP2019087262A (ja) プログラム、情報処理装置、および方法
JP2020044132A (ja) プログラム、情報処理装置、及び情報処理方法
JP2020046976A (ja) プログラム、方法および情報処理装置
JP2019168962A (ja) プログラム、情報処理装置、及び情報処理方法
JP6703578B2 (ja) プログラム、方法及び情報処理装置
JP6710731B2 (ja) プログラム、情報処理装置、及び情報処理方法
JP6441517B1 (ja) プログラム、情報処理装置、および方法
JP6458179B1 (ja) プログラム、情報処理装置、および方法
JP6522825B1 (ja) プログラム、情報処理装置、および方法
JP6392953B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019155115A (ja) プログラム、情報処理装置、及び情報処理方法
JP6722244B2 (ja) プログラム、情報処理方法及び情報処理装置
JP2019048045A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2019211868A (ja) 画像表示装置を介して仮想体験をユーザに提供するためのプログラム、コンピュータ及び方法
JP2019179434A (ja) プログラム、情報処理装置、及び情報処理方法
JP7145177B2 (ja) プログラム、方法および情報処理装置
JP6659793B1 (ja) プログラム、方法および情報処理装置
JP7233202B2 (ja) プログラム、情報処理装置、および方法
JP2020181581A (ja) プログラム、方法及び情報処理装置
JP2020155139A (ja) プログラム、情報処理装置、及び情報処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180524

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180702

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190424

R150 Certificate of patent or registration of utility model

Ref document number: 6522825

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250