以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMD(Head Mount Display)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、HMD装置110と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD装置110は、モニタ112と、注視センサ140とを含む。コントローラ160は、モーションセンサ130を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。別の局面において、HMD装置110は、HMDセンサ120の代わりに、センサ114を含み得る。
HMD装置110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD装置110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。
モニタ112は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザの両目の前方に位置するようにHMD装置110の本体に配置されている。したがって、ユーザは、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、ユーザが選択可能なメニューの画像を含む。ある実施の形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD装置110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD装置110の位置および傾きを検出する。
なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD装置110の画像情報を用いて、画像解析処理を実行することにより、HMD装置110の位置および傾きを検出することができる。
別の局面において、HMD装置110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD装置110は、センサ114を用いて、HMD装置110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD装置110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD装置110の3軸周りの角速度を経時的に検出する。HMD装置110は、各角速度に基づいて、HMD装置110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD装置110の傾きを算出する。また、HMD装置110は、透過型表示装置を備えていても良い。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視野画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、HMD装置110に搭載されたカメラで撮影した画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMD装置に仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、仮想現実を提供する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ190によって与えられる操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表わす信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェイス13と、通信インターフェイス14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
ある実施の形態において、入出力インターフェイス13は、HMD装置110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェイス13は、USB(Universal Serial Bus)インターフェイス、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェイス13は上述のものに限られない。
ある実施の形態において、入出力インターフェイス13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェイス13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェイス13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェイス14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェイス14は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェイス13を介して、仮想空間を提供するための信号をHMD装置110に送る。HMD装置110は、その信号に基づいてモニタ112に映像を表示する。
なお、図2に示される例では、コンピュータ200は、HMD装置110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD装置110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD装置110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD装置110の各光源から発せられた赤外線をそれぞれ検出すると、HMD装置110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD装置110を装着したユーザ190の動きに応じた、現実空間内におけるHMD装置110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD装置110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD装置110の各傾きは、グローバル座標系におけるHMD装置110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD装置110の傾きに基づき、uvw視野座標系をHMD装置110に設定する。HMD装置110に設定されるuvw視野座標系は、HMD装置110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD装置110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD装置110の起動時に、グローバル座標系におけるHMD装置110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD装置110に設定する。
図3に示されるように、HMD装置110は、HMD装置110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD装置110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD装置110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD装置110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD装置110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD装置110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD装置110に設定された後、HMDセンサ120は、HMD装置110の動きに基づいて、設定されたuvw視野座標系におけるHMD装置110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD装置110の傾きとして、uvw視野座標系におけるHMD装置110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD装置110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD装置110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD装置110の傾き角度を表す。
HMDセンサ120は、検出されたHMD装置110の傾き角度に基づいて、HMD装置110が動いた後のHMD装置110におけるuvw視野座標系を、HMD装置110に設定する。HMD装置110と、HMD装置110のuvw視野座標系との関係は、HMD装置110の位置および傾きに関わらず、常に一定である。HMD装置110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD装置110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD装置110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD装置110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD装置110の起動時、すなわちHMD装置110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD装置110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD装置110の位置および向きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD装置110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラのuvw視野座標系は、現実空間(グローバル座標系)におけるHMD装置110のuvw視野座標系に連動するように規定されている。したがって、HMD装置110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD装置110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD装置110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD装置110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD装置110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD装置110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、HMDシステム100を構成するいずれかのパーツに、マイクおよびスピーカを備えてもよい。ユーザは、マイクに発話することにより、仮想空間2に対して、音声による指示を与えることができる。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間おける基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像26をモニタ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像26は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD装置110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、モニタ112に表示される視界画像26は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD装置110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD装置110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HMD装置110のモニタ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD装置110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8の分図(A)に示されるように、ある局面において、コントローラ160は、右コントローラ800と左コントローラとを含み得る。右コントローラ800は、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ800と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ800を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ800について説明する。
右コントローラ800は、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ800と左コントローラ(図示しない)との各位置や姿勢(傾き、向き)を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ800および左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ800と左コントローラは、例えば、コンピュータ200のUSBインターフェイスに接続され得る。この場合、右コントローラ800および左コントローラは、電池を必要としない。
図8の分図(A)および分図(B)に示されるように、例えば、ユーザ190の右手810に対して、ヨー、ロール、ピッチの各方向が規定される。ユーザ190が親指と人差し指とを伸ばした場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向として規定される。
図9および図10を参照して、視界領域23におけるオブジェクトの配置について説明する。図9は、ある実施の形態に従う視界領域23におけるオブジェクトの配置の一態様を表す図である。図10は、他の実施の形態に従う視界領域23におけるオブジェクトの配置の一態様を表す図である。
図9に示されるように、ある局面に従う視界領域23は、ハンドル形状のコントローラオブジェクト900と、左手オブジェクト910と、右手オブジェクト920とを含み得る。コントローラオブジェクト900は、例えば、回転軸を有し、その回転方向および回転速度に応じて、コントローラオブジェクト900に関連付けられた他のオブジェクトの位置や姿勢を変更する。例えば、コントローラオブジェクト900が仮想空間2における風景に関連付けられている場合、ユーザ190がハンドルを時計回りに回転させるような動作を両手で行なうと、左手オブジェクト910と右手オブジェクト920とは、コントローラオブジェクト900に関連付けられて、コントローラオブジェクト900を時計回りに回転させる。そうすると、仮想カメラ1が向く方向も時計回りに回転し、ユーザ190による回転動作に応じた角度だけ右方向に移動した風景が仮想空間2に表示される。
図10に示されるように、別の局面に従う視界領域23は、舵輪形状のオブジェクト1000と、左手オブジェクト910と、右手オブジェクトとを含み得る。例えば、コンピュータ200が仮想空間2を提供するために実行しているプログラムが海の風景を示すものである場合、コンピュータ200は、当該プログラムの実行に応じて進行するストーリーに応じて、オブジェクト1000を仮想空間2に配置し得る。この場合も、図9に示されるオブジェクト900の場合と同様に、左手オブジェクト910と右手オブジェクト920とがオブジェクト1000に関連付けられているとき、ユーザ190の動作に応じてオブジェクト1000を回転させることができ、その回転に応じて、視界領域23として表示される画像が変わり得る。
[HMD装置の制御装置]
図11を参照して、HMD装置110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図11は、ある実施の形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図11に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト生成モジュール232と、手オブジェクト管理モジュール233と、コントローラ管理モジュール234とを含む。
ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェイス14によって実現される。
ある局面において、表示制御モジュール220は、HMD装置110のモニタ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、HMD装置110を装着したユーザの頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、モニタ112に表示される視界画像26を生成する。
基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表わす仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト生成モジュール232は、仮想空間2に配置される対象物を生成する。対象物は、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。
手オブジェクト管理モジュール233は、手オブジェクトを仮想空間2に配置する。手オブジェクトは、例えば、コントローラ160を保持したユーザ190の右手あるいは左手に対応する。ある局面において、手オブジェクト管理モジュール233は、左手オブジェクト910または右手オブジェクト920を仮想空間2に配置するためのデータを生成する。別の局面において、手オブジェクト管理モジュール233は、ユーザ190によるコントローラ160の操作に応じて、左手オブジェクト910または右手オブジェクト920が他のオブジェクト(例えば、オブジェクト900またはオブジェクト1000)を回転させる動作を示すためのデータを生成する。当該動作は、例えば、オブジェクト900として示されるハンドルを握る手が、当該ハンドルを回転させることを含む。
コントローラ管理モジュール234は、仮想空間2においてユーザ190の動作を受け付けて、その動作に応じてコントローラオブジェクトを制御する。ある実施の形態に従うコントローラオブジェクトは、仮想空間2に配置される他のオブジェクトに対して命令を与えるコントローラとして機能する。ある局面において、コントローラ管理モジュール234は、仮想空間2において制御を受け付けるコントローラオブジェクト900またはコントローラオブジェクト1000を仮想空間2に配置するためのデータを生成する。HMD装置110がこのデータを受信すると、モニタ112は、コントローラオブジェクト900またはコントローラオブジェクト1000を表示する。
別の局面において、四肢オブジェクトとコントローラオブジェクト900またはコントローラオブジェクト1000とが関連付けられている場合に、コントローラ管理モジュール234は、ユーザ190の動作に連動する四肢オブジェクト(例えば、左手オブジェクト910、右手オブジェクト920、足オブジェクト等)の動作に基づいて、コントローラオブジェクト900またはコントローラオブジェクト1000が動いていることを示すデータを生成し、HMD装置に送信する。
さらに、コントローラ管理モジュール234は、コントローラオブジェクト900,1000の動きをコントローラオブジェクト900,1000に対する入力として受け付ける。例えば、ユーザ190の動作に基づいてコントローラオブジェクト900,1000が回転した場合、その回転角は、コントローラオブジェクト900,1000に関連付けられている他のオブジェクトの場所あるいは姿勢を変更するための命令としてプロセッサ10に解釈される。コントローラ管理モジュール234は、その命令に応じて仮想空間2に配置されるオブジェクトの場所あるいは姿勢を変更する。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを保持している。
オブジェクト情報242は、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。さらに、オブジェクト情報242は、コントローラ160を操作するユーザ190の手に相当する左手オブジェクトあるいは右手オブジェクトを仮想空間2に配置するための手オブジェクトデータと、コントローラオブジェクト900,1000を仮想空間2に配置するためのコントローラオブジェクトデータとを含む。手オブジェクトデータは、複数の向きあるいは形状を取り得る左手あるいは右手の各向きおよび形状を表す複数の画像データを含む。コントローラオブジェクトデータは、コントローラオブジェクト900またはコントローラオブジェクト1000その他の仮想空間におけるコントローラを表す画像データを含む。
ユーザ情報243は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。メモリモジュール240に格納されているデータおよびプログラムは、HMD装置110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ10によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
コンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Electronically Programmable Read-Only Memory)、EEPROM(Electronically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
[制御構造]
図12を参照して、ある実施の形態に係るコンピュータ200の制御構造について説明する。図12は、HMDシステム100が実行する処理を表わすフローチャートである。
ステップS1210にて、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間画像データを特定し、仮想空間を定義する。
ステップS1220にて、プロセッサ10は、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。
ステップS1230にて、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD装置110に送られる。
ステップS1232にて、HMD装置110のモニタ112は、コンピュータ200から受信した視界画像データに基づいて、視界画像を表示する。HMD装置110を装着したユーザ190は、視界画像を視認すると仮想空間2を認識し得る。
ステップS1234にて、HMDセンサ120は、HMD装置110から発信される複数の赤外線光に基づいて、HMD装置110の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。
ステップS1240にて、プロセッサ10は、HMD装置110の位置と傾きとに基づいて、HMD装置110を装着したユーザ190の視界方向を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にオブジェクトを配置する。
ステップS1242にて、コントローラ160は、モーションセンサ130から出力される信号に基づいて、ユーザ190の動作を検出する。なお、別の局面において、ユーザ190の動作は、ユーザ190の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
ステップS1250にて、プロセッサ10は、手オブジェクトを仮想空間2に配置するための視界画像データを生成し、生成した視界画像データをHMD装置110に送信する。HMD装置110は、視界画像データを受信すると、視界画像データに基づく手オブジェクトをモニタ112に表示する。
ステップS1260にて、プロセッサ10は、コントローラオブジェクト900,1000を配置するためのデータを生成し、生成した視界画像データをHMD装置110に送信する。HMD装置110は、視界画像データを受信すると、視界画像データに基づく手オブジェクトをモニタ112に表示する。
ステップS1270にて、プロセッサ10は、手オブジェクト(例えば、左手オブジェクト910および右手オブジェクト920)とコントローラオブジェクト900,1000とを関連付ける。
ステップS1272にて、コントローラ160は、モーションセンサ130から出力される信号に基づいて、ユーザ190の動作を検出する。なお、ステップS1242の場合と同様に、別の局面において、ユーザ190の動作は、ユーザ190の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
ステップS1280にて、プロセッサ10は、手オブジェクト(例えば、左手オブジェクト910および右手オブジェクト920)とコントローラオブジェクト900,1000とを回転させることを検知する。
ステップS1290にて、プロセッサ10は、手オブジェクト(例えば、左手オブジェクト910および右手オブジェクト920)とコントローラオブジェクト900,1000とが回転していることを示す視界画像データを生成し、生成した視界画像データをHMD装置110に送信する。
ステップS1292にて、HMD装置110は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ112に表示する。
図13を参照して、ある実施の形態に係るコンピュータ200の制御構造について説明する。図13は、ある実施の形態の一局面においてコンピュータ200のプロセッサ10が実行する詳細な処理を表わすフローチャートである。
ステップS1310にて、プロセッサ10は、ユーザ190によるコントローラ160の操作に基づいて、アプリケーションプログラムの実行を開始する。
ステップS1315にて、プロセッサ10は、仮想空間定義モジュール231として、仮想空間2を定義して、コントローラ160を把持しているユーザ190が装着しているHMD装置110に仮想空間2を提供する。
ステップS1320にて、プロセッサ10は、手オブジェクト管理モジュール233として、現実空間におけるユーザ190の動作に基づいて、仮想空間2に左手オブジェクト910および右手オブジェクト920を配置する。
ステップS1325にて、プロセッサ10は、コントローラ管理モジュール234として、現実空間におけるユーザ190の動作に基づいて、仮想空間2にコントローラオブジェクト(例えば、コントローラオブジェクト900またはコントローラオブジェクト1000)を配置する。
ステップS1330にて、プロセッサ10は、入力を待機する。
ステップS1340にて、プロセッサ10は、モーションセンサ130から出力された信号と、左手オブジェクト910および右手オブジェクト920ならびにコントローラオブジェクトを配置するためのデータの座標値とに基づいて、左手オブジェクト910および右手オブジェクト920と、コントローラオブジェクトとが接触したか否かを判断する。プロセッサ10は、これらのオブジェクトが接触したと判断すると(ステップS1340にてYES)、処理をステップS1350に切り換える。そうでない場合には(ステップS1340にてNO)、制御をステップS1330に戻す。
ステップS1350にて、プロセッサ10は、左手オブジェクト910および右手オブジェクト920と、コントローラオブジェクトとを関連付ける。この関連付けにより、少なくともいずれかの手オブジェクトの動作に応じて、コントローラオブジェクトも動作し得る。
ステップS1360にて、プロセッサ10は、現実空間のユーザ190による手の回転動作に基づいて、左手オブジェクト910および右手オブジェクト920を回転させる。より詳しくは、プロセッサ10は、左手オブジェクト910および右手オブジェクト920が回転していることを示す視界画像データを生成し、その生成したデータをHMD装置110に送信する。モニタ112がそのデータに基づいて画像を表示すると、HMD装置110を装着しているユーザ190は、仮想空間2において、左手オブジェクト910および右手オブジェクト920が回転していることを認識し得る。
ステップS1370にて、プロセッサ10は、現実空間におけるユーザ190の動作に連動した手オブジェクトの回転に合わせて、コントローラオブジェクトを回転させる。より詳しくは、プロセッサ10は、モーションセンサ130からの信号と、オブジェクト情報242として保存されているコントローラオブジェクトの配置情報(例、仮想空間2における座標値等)とに基づいて、コントローラオブジェクト900が回転していることを表す視界画像データを生成する。コンピュータ200が視界画像データをHMD装置110に送信すると、モニタ112は、視界画像データに基づいて、コントローラオブジェクト900が回転していることを示す画像を表示する。
ステップS1380にて、プロセッサ10は、コントローラオブジェクトの回転を、命令の入力として受け付ける。より詳しくは、コントローラオブジェクトの回転の程度(回転角度、回転速度)に応じて予め定められていた処理が、当該回転に応じて実行される。
ステップS1390にて、プロセッサ10は、入力された命令に応じた処理を実行し、視界画像を表示する。
なお、上記の処理の一態様として、コンピュータ200が各処理ステップを実行する態様が例示されているが、HMD装置110のプロセッサが各処理ステップを実行してもよい。
次に、図14〜図17を参照して、仮想空間2に配置されたコントロールオブジェクトによる他のオブジェクトの制御について説明する。ある実施の形態において、HMD装置110を装着したユーザ190は、仮想ユーザとして、仮想空間2における視界画像1400を視認している。
図14は、コントローラオブジェクトが配置されていない状態を表す図である。図14の分図(A)は、仮想ユーザによって認識されている視界画像1400をあらわす。視界画像1400は、左手オブジェクト910と、右手オブジェクト920と、木オブジェクト1410と、山オブジェクト1420とを含む。分図(A)に示されるように、HMD装置110のモニタ112が視界画像データに基づいて画像を表示している場合には、HMD装置を装着したユーザ190は、仮想ユーザとして、モニタ112によって表示される画像に基づいて視界画像1400を認識する。
分図(B)は、視界画像1400をもたらす仮想空間2の視界領域23を表す図である。仮想カメラ1による撮影範囲には、左手オブジェクト910と、右手オブジェクト920と、木オブジェクト1410と、山オブジェクト1420とが含まれている。仮想ユーザの視点に対応する仮想カメラ1は、仮想ユーザの視野に応じた視界領域23をとらえている。
図15は、コントローラオブジェクト900が配置された状態を表す図である。ユーザ190が、コントローラオブジェクト900を表示するために予め定められた操作を実行すると、コントローラオブジェクト900は仮想空間2に配置される。
例えば、図15の分図(A)に示されるように、コントローラオブジェクト900は、左手オブジェクト910および右手オブジェクト920から予め定められた距離だけ離れた位置に配置される。このとき、コントローラオブジェクト900と左手オブジェクト910および右手オブジェクト920とは、互いに関連付けられていない。
分図(B)に示されるように、コントローラオブジェクト900は、視界領域23において、左手オブジェクト910および右手オブジェクト920から離れて配置されている。
図16は、左手オブジェクト910および右手オブジェクト920とコントローラオブジェクト900とが互いに関連付けられた状態を表す図である。ユーザ190が、左手オブジェクト910および右手オブジェクト920とコントローラオブジェクト900とを関連付けるために予め定められた操作を実行すると、左手オブジェクト910および右手オブジェクト920は、コントローラオブジェクト900に接触する場所に移る。別の局面において、コントローラオブジェクト900が左手オブジェクト910と右手オブジェクト920の方に向かって移動してもよい。
例えば、図16の分図(A)に示されるように、コントローラオブジェクト900のリング形状部分に、左手オブジェクト910および右手オブジェクト920が接している。このとき、コントローラオブジェクト900と左手オブジェクト910および右手オブジェクト920とは、互いに関連付けられている。
分図(B)に示されるように、コントローラオブジェクト900は、視界領域23において、左手オブジェクト910および右手オブジェクト920に接するように配置されている。
図17は、左手オブジェクト910および右手オブジェクト920がコントローラオブジェクト900を操作して右方向に回転した状態を表す図である。ユーザ190が、左手と右手を現実空間で動かすと、その動きに応じて、左手オブジェクト910および右手オブジェクト920は、コントローラオブジェクト900を動かす。例えば、ユーザ190が自動車のハンドルを時計方向に回す操作を行なうと、左手オブジェクト910および右手オブジェクト920は、コントローラオブジェクト900を時計方向に回転させようとする。この時、コントローラオブジェクト900の回転は、仮想空間2に対する回転の命令としてプロセッサ10に解釈される。そこで、プロセッサ10は、仮想カメラ1を回転させて仮想ユーザの視線が移動した状態の視界画像を作成する。
例えば、図17の分図(A)に示されるように、コントローラオブジェクト900は時計方向に回転している。この回転によって、仮想空間2における仮想ユーザの視線を変える命令がコンピュータ200に与えられる。
このとき、分図(B)に示されるように、木オブジェクト1410を正面にとらえた状態が視界領域23として、プロセッサ10によって定義される。
要約すると、本明細書に開示された主題は、例えば以下のような構成として示される。
[構成1]
ある実施の形態に従うと、仮想空間2に表示されるオブジェクトを制御するためにコンピュータ200で実行される方法が提供される。この方法は、HMD装置110によって提供される仮想空間2を定義するステップと、仮想空間2において制御を受け付けるコントローラオブジェクト900,1000を仮想空間2に配置するステップと、HMD装置110を装着したユーザ190の四肢(手足)のいずれかの状態を検出するステップと、四肢のいずれかに対応する四肢オブジェクト(例えば、右手オブジェクト、右足オブジェクト)を仮想空間2に配置するステップと、四肢オブジェクトとコントローラオブジェクト900,1000とが関連付けられている場合に、ユーザ190の動作に連動する四肢オブジェクトの動作に基づいて、コントローラオブジェクト900,1000を動かすステップと、コントローラオブジェクト900,1000の動きをコントローラオブジェクト900,1000に対する入力として受け付けるステップとを含む。
[構成2] 好ましくは、上記の方法は、四肢オブジェクトとコントローラオブジェクト900,1000とが関連付けられていない場合に、ユーザ190の動作に基づいて、四肢オブジェクトを動かすステップをさらに含む。
[構成3] 好ましくは、上記の方法は、ユーザ190の動作に連動した四肢オブジェクトの動きに基づいて、四肢オブジェクトとコントローラオブジェクト900,1000とを関連付けるステップをさらに含む。例えば、プロセッサ10は、右手オブジェクトの座標値とコントローラオブジェクト900の座標値とを関連付けてメモリ11に格納する。
[構成4] 好ましくは、四肢オブジェクトとコントローラオブジェクト900,1000との関連付けは、仮想空間2において四肢オブジェクトとコントローラオブジェクト900,1000との接触に応答して行なわれる。例えば、右手オブジェクトの座標値とコントローラオブジェクト900の一部の座標値とが同じ値である場合に、右手オブジェクトとコントローラオブジェクト900とが関連付けられる。
[構成5] 好ましくは、コントローラオブジェクト900,1000は、回転操作を受け付ける回転オブジェクトを含む。コントローラオブジェクト900,1000を動かすステップは、回転オブジェクトを回転させることを含む。例えば、コントローラオブジェクト900,1000は、予め定められた回転軸を中心に回転する。
[構成6] 好ましくは、コントローラオブジェクト900,1000は、少なくとも一方向への操作を受け付けるスティックオブジェクトを含む。コントローラオブジェクト900,1000を動かすステップは、ユーザ190による少なくとも一方向の動作(例えば、上下左右のいずれかの方向)に連動して、少なくとも一方向にスティックオブジェクトを移動させることを含む。
例えば、上記の方法において、仮想空間2に1つのスティックオブジェクトを配置する場合、コントローラオブジェクトを動かすステップは、四肢オブジェクトとスティックオブジェクトとが関連付けられることで、スティックオブジェクトが傾くように、スティックオブジェクトを移動させることを含む。例えば、スティックオブジェクトを、飛行体などの移動物体を操縦するための操縦桿と見立てた場合、コンピュータ200は、スティックオブジェクトの傾きに応じて、移動物体を移動させるための入力として受け付けることができる。コンピュータ200は、スティックオブジェクトの傾きに応じて、仮想空間2における仮想カメラの配置(傾きなど)を制御して視界画像を生成する。例えば、スティックオブジェクトを前後方向に傾けるような操作を受け付けて、仮想カメラを、ピッチ方向の軸に基づいて回転させることとしてもよい。また、上記の方法において、仮想空間2に2つのスティックオブジェクトを配置する場合、コントローラオブジェクトを動かすステップは、四肢オブジェクトとスティックオブジェクトとが関連付けられることで、スティックオブジェクトが傾くように、スティックオブジェクトを移動させることを含む。例えば、2つのスティックオブジェクトを、戦車その他の移動物体を移動させるための2本のレバーと見立て、レバーを傾けるように倒す操作を、移動物体を操縦するための入力として受け付けることができる。この場合、例えば、2つのスティックオブジェクトのうち片方のスティックオブジェクトを右手オブジェクトと関連付け、もう片方のスティックオブジェクトを左手オブジェクトと関連づけることで、コンピュータ200は、スティックオブジェクトの傾きに応じて、移動物体を移動させるための入力として受け付けることができる。
[構成7] 好ましくは、コントローラオブジェクト900,1000を仮想空間2に配置するステップは、ユーザ190の動作に基づいて、コントローラオブジェクト900,1000を仮想空間2に配置することを含む。
[構成8] 好ましくは、コントローラオブジェクト900,1000を仮想空間2に配置するステップは、仮想空間2を提供するプログラムにおけるシナリオの進行に合わせて、コントローラオブジェクト900,1000を仮想空間2に配置することを含む。
[構成9] 他の実施の形態に従うと、上記のいずれかに記載の方法をコンピュータに実行させるプログラムが提供される。
[構成10] さらに他の実施の形態に従うと、仮想空間2に表示されるオブジェクトの制御装置が提供される。この制御装置は、上記のプログラムを格納したメモリ11と、メモリ11に結合され、プログラムを実行するためのプロセッサ10とを備える。
以上のようにして、ある実施の形態に従うHMDシステム100によれば、仮想空間2には手オブジェクトが配置される。さらに、手オブジェクトが配置されている状態でコントローラオブジェクトを仮想空間2に配置するために予め定められた条件が成立すると、コントローラオブジェクトも仮想空間2に配置される。手オブジェクトとコントローラオブジェクトとを関連付けるために予め定められた条件が成立すると、手オブジェクトとコントローラオブジェクトとが関連付けられる。ユーザ190が手を動かすと、その動きに応じて手オブジェクトが動き、手オブジェクトの動きに連動してコントローラオブジェクトも作動する。このようにすると、手オブジェクトに限らずコントローラオブジェクトを用いて、仮想空間2に配置されるオブジェクトを操作することができるので、多様な入力操作を実現できる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。