JP2018116684A - 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 - Google Patents

仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 Download PDF

Info

Publication number
JP2018116684A
JP2018116684A JP2017204823A JP2017204823A JP2018116684A JP 2018116684 A JP2018116684 A JP 2018116684A JP 2017204823 A JP2017204823 A JP 2017204823A JP 2017204823 A JP2017204823 A JP 2017204823A JP 2018116684 A JP2018116684 A JP 2018116684A
Authority
JP
Japan
Prior art keywords
user
head
hmd
virtual space
computer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017204823A
Other languages
English (en)
Inventor
孝司 中坊
Takashi Nakabo
孝司 中坊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2017204823A priority Critical patent/JP2018116684A/ja
Publication of JP2018116684A publication Critical patent/JP2018116684A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】現実空間におけるユーザの動きをより忠実にアバターに反映させる技術を提供する。【解決手段】アバターオブジェクトの動作を制御するためにコンピュータで実行される方法は、仮想空間を定義するステップ(S1710)と、仮想空間を介して通信するユーザのアバターオブジェクトを仮想空間に配置するステップ(S1720)と、ユーザの頭の角速度を示す情報を取得するステップ(S1730)と、角速度がしきい値以上の場合に(S1740においてYES)、角速度に応じて、アバターオブジェクトの頭部と胴部とを連動させずに頭部を回転させるステップ(S1750)とを備える。【選択図】図17

Description

この開示は、仮想空間に配置されるアバターを制御する技術に関し、より特定的には、アバターの動作を制御する技術に関する。
ヘッドマウントデバイス(HMD:Head-Mounted Device)装置を用いて仮想現実を提供する技術が知られている。また、仮想空間上に、複数のユーザの各々のアバターを配置し、これらアバターを通じてユーザ間でのコミュニケーションを図る技術が提案されている。
このような仮想空間上でアバターを通じたコミュニケーションを促進するために、現実空間のユーザの動きをアバターに反映する技術も提案されている。この現実空間のユーザの動きを取得する技術に関し、例えば、特開2015−015021号公報(特許文献1)は、「被写体のデプス画像を、各代表画像が被写体の個別のパラメトリックモデルに関連付けられる複数の代表画像と比較することと、複数の代表画像のうちの1つの代表画像を被写体のデプス画像に最も類似した代表画像として識別することと、デプス画像に最も類似した代表画像に関連付けられるパラメトリックモデルを選択することと、選択されたパラメトリックモデルを被写体のデプス画像にフィッティングさせることによって、被写体の三次元表現を生成する」方法を開示している(「要約」参照)。
特開2015−015021号公報
人が社会的生活を営む際には、他者とのコミュニケーションが重要である。特に対面対話においては、人は、音声言語を用いた情報伝達だけではなく、表情や視線、姿勢、身体動作といったさまざまな情報を合わせて用いることにより、より円滑なコミュニケーションを行っている。
そのため、仮想空間上でアバターを通じたコミュニケーションを提供する際には、現実空間のユーザの動きを正確にアバターに反映することが望ましい。しかしながら、実際には、コストや場所その他の観点から、ユーザの全身の動き(ジェスチャー)をトラッキングできない場合が多い。したがって、ユーザの身体の一部の動きしかトラッキングできない場合において、ユーザの他の部分の動きを推定してアバターに反映させる技術が必要とされている。
本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、現実空間におけるユーザの動きをより忠実にアバターに反映させる技術を提供することである。
ある実施形態に従うと、アバターオブジェクトの動作を制御するためにコンピュータで実行される方法が提供される。この方法は、仮想空間を定義するステップと、仮想空間を介して通信するユーザのアバターオブジェクトを仮想空間に配置するステップと、ユーザの頭の角速度を示す情報を取得するステップと、角速度がしきい値以上の場合に、角速度に応じて、アバターオブジェクトの頭部と胴部とを連動させずに頭部を回転させるステップとを備える。
開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
HMDシステムの構成の概略を表す図である。 ある局面に従うコンピュータのハードウェア構成の一例を表すブロック図で ある。 ある実施形態に従うHMDに設定されるuvw視野座標系を概念的に表す模 式図である。 ある実施形態に従う仮想空間を表現する一態様を概念的に表す模式図である 。 ある実施形態に従うHMDを装着するユーザの頭部を上から表した模式図で ある。 仮想空間において視認領域をX方向から見たYZ断面を表す図である。 仮想空間において視認領域をY方向から見たXZ断面を表す図である。 ある実施形態に従うコンピュータをモジュール構成として表わすブロック図 である。 動き検知データのデータ構造例を説明するための図である。 HMDシステムにおける処理を表すフローチャートである。 HMDセットの各ユーザのアバターオブジェクトを説明するための図であ る。 サーバのハードウェア構成およびモジュール構成を説明するための図であ る。 現実空間におけるユーザの動作をアバターオブジェクトに反映するための 、コンピュータとサーバとの信号のやりとりを表わすフローチャートである。 現実空間におけるユーザの動きを正確にトラッキングできない場合につい て説明するための図である。 ヨー軸まわりの角速度がしきい値以上である場合のアバターオブジェクト の動きの処理について説明するための図である。 ヨー軸まわりの角速度がしきい値未満である場合のアバターオブジェクト の動きの処理について説明するための図である。 ユーザに対応するアバターオブジェクトの動きをコンピュータが制御する 処理について説明するフローチャートである。 頭部が胴部と連動して動くときの手の動きについて説明するための図であ る。 頭部が胴部と連動せずに動くときの手の動きについて説明するための図で ある。 手のトラッキング情報を利用してアバターオブジェクトの動きをコンピュ ータが制御する処理について説明するフローチャートである。 他の実施形態に従うコンピュータのモジュール構成を表すブロック図であ る。 他の実施形態に従う、ユーザに対応するアバターオブジェクトの動きをコ ンピュータが制御する処理について説明するフローチャートである。
以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される各実施形態は、適宜選択的に組み合わされてもよい。
[HMDシステムの構成]
図1を参照して、HMD(Head-Mounted Device)システム100の構成について説明する。図1は、HMDシステム100の構成の概略を表す。HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。
HMDシステム100は、HMDセット105A,105B,105C,105Dと、ネットワーク19とサーバ150とを含む。HMDセット105A,105B,105C,105Dの各々は、ネットワーク19を介してサーバ150と通信可能に構成される。以下、HMDセット105A,105B,105C,105Dを総称して、HMDセット105とも言う。なお、HMDシステム100を構成するHMDセット105の数は、4つに限られず、3つ以下でも、5つ以上でもよい。
HMDセット105は、HMD110と、コンピュータ200とを備える。他の局面において、HMDセット105は、HMDセンサ120をさらに備える構成であってもよい。HMD110は、モニタ112と、ジャイロセンサ114と、スピーカ118と、マイク119とを含む。他の局面において、HMD110は、カメラ116または/および注視センサ140をさらに備える構成であってもよい。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータ(例えば、他のHMDセット105のコンピュータ)と通信可能である。
HMD110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。HMD110は、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
モニタ112は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザの両目の前方に位置するようにHMD110の本体に配置されている。したがって、ユーザは、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、ユーザが選択可能なメニューの画像を含む。ある実施形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
他の局面において、モニタ112は、透過型の表示装置として実現され得る。この場合、HMD110は、図1に示されるようにユーザの目を覆う密閉型ではなく、メガネ型のような開放型であり得る。透過型のモニタ112は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、モニタ112は、仮想空間を構成する画像の一部と、現実空間とを同時に表示する構成を含んでいてもよい。例えば、モニタ112は、HMD110に搭載されたカメラで撮影した現実空間の画像を表示してもよいし、一部の透過率を高く設定することにより現実空間を視認可能にしてもよい。
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
ジャイロセンサ114は、一例としてHMD110に設定される3軸(ヨー軸、ロール軸、ピッチ軸)まわりの角速度を経時的に検出する。コンピュータ200は、各角速度に基づいて、HMD110の3軸まわりの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD110の傾きを算出する。この意味で、ジャイロセンサ114は、HMD110の傾き検出器として機能し得る。他の例において、ジャイロセンサ114は、少なくともHMD110に設定されるヨー軸まわりの角速度を検出する。他の局面において、HMD110は、ジャイロセンサ114の他にも、加速度センサ、地磁気センサその他のセンサを含み得る。
他の局面において、コンピュータ200は、HMDセンサ120の出力に基づいて、HMD110の位置および傾きを検出するように構成されてもよい。この場合、HMD110は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD110の動きを検出するためのポジショントラッキング機能を有する。より具体的には、HMDセンサ120は、HMD110が発する複数の赤外線を読み取り、現実空間内におけるHMD110の位置および傾きを検出する。
なお、さらに他の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD110の画像情報を用いて、画像解析処理を実行することにより、HMD110の位置および傾きを検出することができる。
カメラ116は、対象物の深度情報を取得可能に構成される。一例として、カメラ116は、TOF(Time Of Flight)方式に従い、対象物の深度情報を取得する。他の例として、カメラ116は、パターン照射方式に従い、対象物の深度情報を取得する。ある実施形態において、カメラ116は、対象物を2つ以上の異なる方向から撮影できるステレオカメラであり得る。また、カメラ116は、人間が不可視な赤外線カメラであり得る。カメラ116は、HMD110に装着され、ユーザの手を撮影する。カメラ116は取得した手の深度情報をコンピュータ200に出力する。
スピーカ118は、音声信号を音声に変換してユーザ190に出力する。マイク119は、ユーザ190の発話を電気信号に変換してコンピュータ200に出力する。なお、他の局面において、HMD110は、スピーカ118に替えてイヤホンを備えるように構成されてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線を検知することができる。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMDに仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
[ハードウェア構成]
図2を参照して、本実施形態に係るコンピュータ200について説明する。図2は、ある局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェイス13と、通信インターフェイス14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
ある実施形態において、入出力インターフェイス13は、HMD110、およびHMDセンサ120との間で信号を通信する。ある局面において、HMD110に含まれるジャイロセンサ114,カメラ116,スピーカ118,およびマイク119は、HMD110のインターフェイスを介してコンピュータ200との通信を行ない得る。ある局面において、入出力インターフェイス13は、USB(Universal Serial Bus)、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェイス13は上述のものに限られない。
通信インターフェイス14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェイス14は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェイス13を介して、仮想空間を提供するための信号をHMD110に送る。HMD110は、その信号に基づいてモニタ112に映像を表示する。
なお、図2に示される例では、コンピュータ200は、HMD110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMD110は、ジャイロセンサ114と、3軸加速度センサとを有する。コンピュータ200は、これらのセンサの出力に基づいて、基準方向(例えば、重力(鉛直)方向)に対するHMD110の傾き角度を算出する。これにより、コンピュータ200は、グローバル座標系におけるHMD110の傾きを取得できる。
他の局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD110の各光源から発せられた赤外線をそれぞれ検出すると、HMD110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD110を装着したユーザ190の動きに応じた、現実空間内におけるHMD110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD110の各傾きは、グローバル座標系におけるHMD110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD110の傾きに基づき、uvw視野座標系をHMD110に設定する。HMD110に設定されるuvw視野座標系は、HMD110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施形態に従うHMD110に設定されるuvw視野座標系を概念的に表す模式図である。ジャイロセンサ114またはHMDセンサ120は、HMD110の起動時に、グローバル座標系におけるHMD110の傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD110に設定する。
図3に示されるように、HMD110は、HMD110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD110は、グローバル座標系を規定する水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)を、グローバル座標系内においてHMD110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD110におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)として設定する。図3に示されるように、ヨー軸は、ユーザ190の高さ方向に延在する。
ある局面において、HMD110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD110におけるuvw視野座標系のピッチ軸(u軸)、ヨー軸(v軸)、およびロール軸(w軸)に一致する。
uvw視野座標系がHMD110に設定された後、ジャイロセンサ114またはHMDセンサ120は、HMD110の動きに基づいて、設定されたuvw視野座標系におけるHMD110の傾き(傾きの変化量)を検出できる。この場合、ジャイロセンサ114またはHMDセンサ120は、HMD110の傾きとして、uvw視野座標系におけるHMD110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ軸まわりのHMD110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー軸まわりのHMD110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール軸まわりのHMD110の傾き角度を表す。ジャイロセンサ114は、これらピッチ角、ヨー角、ロール角についての角速度を取得可能に構成される。
コンピュータ200は、ジャイロセンサ114またはHMDセンサ120の出力に基づいて検出したHMD110の傾き角度に基づいて、HMD110が動いた後のHMD110におけるuvw視野座標系を、HMD110に設定する。HMD110と、HMD110のuvw視野座標系との関係は、HMD110の位置および傾きに関わらず、常に一定である。HMD110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施形態に従う仮想空間2を表現する一態様を概念的に表す模式図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD110の起動時、すなわちHMD110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。ある局面において、プロセッサ10は、仮想カメラ1が撮影する画像をHMD110のモニタ112に表示する。仮想カメラ1は、現実空間におけるHMD110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD110の位置および向きの変化が、仮想空間2において同様に再現され得る。
仮想カメラ1には、HMD110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラ1のuvw視野座標系は、現実空間(グローバル座標系)におけるHMD110のuvw視野座標系に連動するように規定されている。したがって、HMD110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
コンピュータ200のプロセッサ10は、仮想カメラ1の配置位置と、仮想カメラ1の傾き方向、換言すれば、仮想カメラ1の撮影方向を示す基準視線5とに基づいて、仮想空間2における視認領域23を規定する。視認領域23は、仮想空間2のうち、HMD110を装着したユーザが視認する領域に対応する。上記のように、仮想カメラ1のuvw視野座標系はHMD110のuvw視野座標系に連動している。そのため、基準視線5は、ジャイロセンサ114またはHMD120の出力に基づいて定まるHMD110の傾きによって定まる。
注視センサ140によって検出されるユーザ190の視線は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線を、仮想カメラ1のuvw視野座標系におけるユーザの視線とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線の決定について説明する。図5は、ある実施形態に従うHMD110を装着するユーザ190の頭部を上から表した模式図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール軸wに対して視線R2およびL2が成す角度は、ロール軸wに対して視線R1およびL1が成す角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線N0として検出する。視線N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線N0は、視認領域23に対してユーザ190が実際に視線を向けている方向に相当する。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視認領域23について説明する。図6は、仮想空間2において視認領域23をX方向から見たYZ断面を表す。図7は、仮想空間2において視認領域23をY方向から見たXZ断面を表す。
図6に示されるように、YZ断面における視認領域23は、領域24を含む。領域24は、仮想カメラ1の配置位置と基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間における基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視認領域23は、領域25を含む。領域25は、仮想カメラ1の配置位置と基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。極角αおよびβは、仮想カメラ1の配置位置と仮想カメラ1の向きとに応じて定まる。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像26をモニタ112に表示させることにより、ユーザ190に仮想空間における視界を提供する。視界画像26は、仮想空間画像22のうち視認領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視認領域23の位置が変化する。これにより、モニタ112に表示される視界画像26は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視認領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
このように、仮想カメラ1の傾きは仮想空間2におけるユーザの視線(基準視線5)に相当し、仮想カメラ1が配置される位置は、仮想空間2におけるユーザの視点に相当する。したがって、仮想カメラ1を移動(配置位置を変える動作、傾きを変える動作を含む)させることにより、モニタ112に表示される画像が更新され、ユーザ190の視界が移動される。
ユーザ190は、HMD110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動させ得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および傾きに基づいて、HMD110のモニタ112に投影される画像領域(すなわち、仮想空間2における視認領域23)を特定する。
ある実施形態に従うと、仮想カメラ1は、2つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含み得る。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、2つの仮想カメラに設定される。以下では、仮想カメラ1が2つの仮想カメラを含み、2つの仮想カメラのロール軸が合成されることによって生成されるロール軸(w)が、HMD110のロール軸(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[HMDの制御装置]
図8を参照して、HMD110の制御装置について説明する。ある実施形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図8は、ある実施形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図8に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、角速度検出モジュール224と、基準視線特定モジュール225と、動き検出モジュール226と、トラッキングモジュール227とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、仮想オブジェクト生成モジュール232と、操作オブジェクト制御モジュール233と、アバター制御モジュール234とを含む。アバター制御モジュール234は、回転制御モジュール235を含む。
ある実施形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェイス14によって実現される。
表示制御モジュール220は、HMD110のモニタ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置する。仮想カメラ制御モジュール221は、仮想空間2における仮想カメラ1の配置位置と、仮想カメラ1の傾き(向き)を制御する。視界領域決定モジュール222は、HMD110の傾き(すなわち、ジャイロセンサ114の出力)と、仮想カメラ1の配置位置に応じて、視認領域23を規定する。視界画像生成モジュール223は、決定された視認領域23に基づいて、モニタ112に表示される視界画像26を生成する。
角速度検出モジュール224は、ジャイロセンサ114の各軸の出力(例えば、電圧値)をそれぞれ角速度に変換する。角速度検出モジュール224は、各軸について時計回りに回転しているか、反時計回りに回転しているかを判別可能に構成される。角速度検出モジュール224は、変換した各軸まわりの角速度を、仮想カメラ制御モジュール221、視界領域決定モジュール222、および基準視線特定モジュール225に出力する。これらのモジュールは、角速度検出モジュール224から入力された角速度に基づいて、HMD110の傾きを特定し得る。なお、ジャイロセンサ114がアナログデータではなく、角速度を示すデジタルデータを出力可能に構成される場合、コンピュータ200は、角速度検出モジュール224を有さなくともよい。
基準視線特定モジュール225は、ジャイロセンサ114またはHMDセンサ120の出力に基づいて、ユーザ190の視線(すなわち、HMD110の傾き)を特定する。他の局面において、基準視線特定モジュール225は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定し得る。動き検出モジュール226は、HMDセンサ120の出力に基づいて、HMD110の基準状態(例えば、グローバル座標系における原点)に対する変位量を検出し得る。ある局面において、この変位量は、HMDセンサ120とHMD110との距離であり得る。
トラッキングモジュール227は、ユーザ190の手の位置を検出(トラッキング)する。本実施形態において、トラッキングモジュール227は、カメラ116から入力される深度情報に基づいて、HMD110に設定されるuvw視野座標系におけるユーザ190の手の位置を検出する。より具体的には、トラッキングモジュール227は、uvw視野座標系において、カメラ116を基準としたユーザ190の手の相対的な位置を検出する。このようなカメラ116およびトラッキングモジュール227は、例えば、LeapMotion社によって提供されるLeapMotion(登録商標)によって実現され得る。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表わす仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想オブジェクト生成モジュール232は、仮想空間2に配置されるオブジェクトを生成する。オブジェクトは、例えば、ゲームのストーリーの進行に従って配置される森、山その他を含む風景、動物等を含み得る。
操作オブジェクト制御モジュール233は、仮想空間2においてユーザの操作を受け付けるための操作オブジェクトを仮想空間2に配置する。ユーザは、操作オブジェクトを操作することにより、例えば、仮想空間2に配置されるオブジェクトを操作する。ある局面において、操作オブジェクトは、例えば、HMD110を装着したユーザの手に相当する手オブジェクト等を含み得る。ある局面において、操作オブジェクトは、後述するアバターオブジェクトの手に相当し得る。
アバター制御モジュール234は、ネットワークを介して接続される他のコンピュータ200のユーザのアバターオブジェクトを仮想空間2に配置するためのデータを生成する。ある局面において、アバター制御モジュール234は、ユーザ190のアバターオブジェクトを仮想空間2に配置するためのデータを生成する。ある局面において、アバター制御モジュール234は、ユーザ190を含む画像に基づいて、ユーザ190を模したアバターオブジェクトを生成する。他の局面において、アバター制御モジュール234は、複数種類のアバターオブジェクト(例えば、動物を模したオブジェクトや、デフォルメされた人のオブジェクト)の中からユーザ190による選択を受け付けたアバターオブジェクトを仮想空間2に配置するためのデータを生成する。
ある局面において、アバターオブジェクトの頭部には、HMD110の場合と同様に、uvw視野座標系が規定される。これにより、現実空間(グローバル座標系)におけるHMD110の傾きが変化すると、それに応じて、アバターオブジェクトの頭部の傾きも変化する。
アバター制御モジュール234は、角速度検出モジュール224が出力する角速度に基づいて、HMD110の動きをアバターオブジェクトに反映する。例えば、アバター制御モジュール234は、角速度検出モジュール224から入力されたヨー軸まわりの角速度に従い、アバターオブジェクトの頭部をヨー軸まわりに回転させるためのデータを生成する。また、アバター制御モジュール234は、トラッキングモジュール227の出力に基づいて、現実空間のユーザの手の動きを、アバターオブジェクトの手に反映する。また、アバター制御モジュール234は、他のコンピュータから入力される角速度の情報などに基づいて、他のコンピュータのユーザに対応するアバターオブジェクトの動きを制御する。
回転制御モジュール235は、アバターオブジェクトの頭部をヨー軸まわりに回転させる際、アバターオブジェクトの胴部と連動させて回転させるか否かを判断する。回転制御モジュール235の詳細は、後述される。
仮想空間制御モジュール230は、仮想空間2に配置されるオブジェクトのそれぞれが、他のオブジェクトと衝突した場合に、当該衝突を検出する。仮想空間制御モジュール230は、例えば、あるオブジェクトと、別のオブジェクトとが触れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態から離れたタイミングを検出することができ、当該検出がされたときに、予め定められた処理を行なう。仮想空間制御モジュール230は、オブジェクトとオブジェクトとが触れている状態であることを検出することができる。具体的には、操作オブジェクト制御モジュール233は、操作オブジェクトと、他のオブジェクトとが触れたときに、これら操作オブジェクトと他のオブジェクトとが触れたことを検出して、予め定められた処理を行なう。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、オブジェクト情報242と、ユーザ情報243とを保持している。
空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを保持している。
オブジェクト情報242は、仮想空間2において再生されるコンテンツ、当該コンテンツで使用されるオブジェクト、およびオブジェクトを仮想空間2に配置するための情報(たとえば、位置情報)を保持している。当該コンテンツは、例えば、ゲーム、現実社会と同様の風景を表したコンテンツ等を含み得る。
オブジェクト情報242は、さらに動き検知データ244を含む。動き検知データ244は、角速度検出モジュール224が検出したHMD110の各軸まわりの角速度、換言すれば、HMD110の傾きを示すデータである。
図9は、動き検知データ244のデータ構造例を説明するための図である。動き検知データ244は、時刻と、HMD110に設定される各軸(ピッチ軸(u軸)、ヨー軸(v軸)、ロール軸(w軸))まわりの角速度とを互いに関連付けて保持する。この時刻は、角速度に対応するデータ(例えば、電圧値)をジャイロセンサ114が検出したタイミングである。図9に示される例において、ヨー軸(v軸)まわりの角速度が大きい。これは、現実空間においてユーザ190が、ヨー軸(v軸)まわりに頭部を回転させていることを示す。
なお、他の局面において、動き検知データ244は、ジャイロセンサ114の出力の他に、加速度センサの出力または地磁気センサの出力を含み得る。さらに他の局面において、動き検知データ244は、HMDセンサ120の出力、換言すれば、HMD110の位置および傾きを示すデータであり得る。
図8を再び参照して、ユーザ情報243は、HMDシステム100の制御装置としてコンピュータ200を機能させるためのプログラム、オブジェクト情報242に保持される各コンテンツを使用するアプリケーションプログラム等を保持している。
メモリモジュール240に格納されているデータおよびプログラムは、HMD110のユーザによって入力される。あるいは、プロセッサ10が、当該コンテンツを提供する事業者が運営するコンピュータ(例えば、サーバ150)からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール240に格納する。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。また、通信制御モジュール250は、HMD110に搭載される種々のデバイスと通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230の一部は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ10によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
[コンピュータ200の制御構造]
図10を参照して、コンピュータ200における視界画像の更新方法について説明する。図10は、HMDシステム100における処理を表すフローチャートである。
ステップS1010において、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間2を定義する。
ステップS1020において、プロセッサ10は、仮想カメラ1を仮想空間2に配置する。このとき、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心21に配置し得る。
ステップS1030にて、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像26を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD110に送信される。
ステップS1032にて、HMD110のモニタ112は、コンピュータ200から受信した信号に基づいて、視界画像26を表示する。HMD110を装着したユーザ190は、視界画像26を視認すると仮想空間2を認識し得る。
ステップS1034にて、ジャイロセンサ114は、ユーザ190の頭の動き(HMD110の各軸まわりの角速度)を検知する。ジャイロセンサ114は、検知結果を、コンピュータ200に出力する。
ステップS1040にて、プロセッサ10は、角速度検出モジュール224として、ジャイロセンサ114から入力された検知結果に基づいてHMD110の各軸まわりの角速度を算出する。プロセッサ10は、算出された角速度に基づき、HMD110の傾きを検知する。プロセッサ10はさらに、仮想カメラ制御モジュール221として、検知した傾きに連動するように仮想カメラ1の傾き(すなわち、仮想カメラ1の基準視線5)を変更する。これにより、仮想カメラ1が撮影する視界画像26が更新される。
ステップS1050において、プロセッサ10は、視界画像生成モジュール223として、傾きを変更された仮想カメラ1が撮影する視界画像26を表示するための視界画像データを生成し、生成した視界画像データをHMD110に出力する。
ステップS1052において、HMD110のモニタ112は、受信した視界画像データに基づいて、更新後の視界画像を表示する。これにより、仮想空間2におけるユーザの視界が更新される。
[アバターオブジェクト]
図11を参照して、本実施形態に従うアバターオブジェクトについて説明する。図11は、HMDセット105A,105Bの各ユーザのアバターオブジェクトを説明するための図である。以下、HMDセット105Aのユーザをユーザ190A、HMDセット105Bのユーザをユーザ190B、HMDセット105Cのユーザをユーザ190C、HMDセット105Dのユーザをユーザ190Dと表す。また、HMDセット105Aに関する各構成要素の参照符号にAが付され、HMDセット105Bに関する各構成要素の参照符号にBが付され、HMDセット105Cに関する各構成要素の参照符号にCが付され、HMDセット105Dに関する各構成要素の参照符号にDが付される。例えば、HMD110Aは、HMDセット105Aに含まれる。
分図(A)は、ネットワーク19において、複数のHMD110のそれぞれが、複数のユーザ190のそれぞれに仮想空間を提供する状況を模式的に示す。分図(A)を参照して、コンピュータ200A〜200Dのそれぞれは、HMD110A〜110Dのそれぞれを介して、ユーザ190A〜190Dのそれぞれに、仮想空間2A〜2Dのそれぞれを提供する。図10に示される例において、仮想空間2Aと仮想空間2Bとは同じである。換言すれば、コンピュータ200Aとコンピュータ200Bとは同じ仮想空間を共有していることになる。仮想空間2Aおよび仮想空間2Bには、ユーザ190Aのアバターオブジェクト1100Aと、ユーザ190Bのアバターオブジェクト1100Bとが存在する。なお、仮想空間2Aにおけるアバターオブジェクト1100Aおよび仮想空間2Bにおけるアバターオブジェクト1100BがそれぞれHMDを装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはHMDを装着していない。
ある局面において、仮想カメラ制御モジュール221Aは、ユーザ190Aの視界画像26Aを撮影する仮想カメラ1Aを、アバターオブジェクト1100Aの目の位置に配置し得る。
分図(B)は、ユーザ190Aの視界画像1130を示す。視界画像1130は、HMD110Aのモニタ112Aに表示される画像である。この視界画像1130は、仮想カメラ1Aにより生成された画像である。また、視界画像1130には、ユーザ190Bに対応するアバターオブジェクト1100Bが表示されている。分図(B)に示される例において、アバターオブジェクト1100Bは、頭部1110Bと、胴部1120Bとを含む。なお、特に図示はしていないが、ユーザ190Bの視界画像にも同様に、ユーザ190Aのアバターオブジェクト1100Aが表示されている。
分図(B)の状態において、ユーザ190Aは仮想空間を介してユーザ190Bと対話による通信(コミュニケーション)を図ることができる。より具体的には、マイク119Aにより取得されたユーザ190Aの音声データは、サーバ150を介してユーザ190BのHMD110Bに送信され、HMD110Bに設けられたスピーカ118Bから出力される。また、ユーザ190Bの音声データは、サーバ150を介してユーザ190AのHMD110Aに送信され、HMD110Aに設けられたスピーカ118Aから出力される。
図13を用いて後述するように、ユーザ190Bの動き(HMD110Bの動きおよびユーザ190Bの手の動き)は、アバター制御モジュール234Aによりアバターオブジェクト1100Bに反映される。これにより、ユーザ190Aは、ユーザ190Bの動きを、アバターオブジェクト1100Bを通じて認識できる。
[サーバ150の制御構造]
図12は、サーバ150のハードウェア構成およびモジュール構成を説明するための図である。ある実施形態において、サーバ150は、主たる構成要素として通信インターフェイス1210と、プロセッサ1220と、ストレージ1230とを備える。
通信インターフェイス1210は、コンピュータ200など外部の通信機器と信号を送受信するための変復調処理などを行なう無線通信用の通信モジュールとして機能する。通信インターフェイス1210は、チューナ、高周波回路等により実現される。
プロセッサ1220は、サーバ150の動作を制御する。プロセッサ1220は、ストレージ1230に格納される各種の制御プログラムを実行することにより、送受信部1222、サーバ処理部1224、およびマッチング部1226として機能する。
送受信部1222は、各コンピュータ200と各種情報を送受信する。例えば、送受信部1222は、仮想空間2にオブジェクトを配置する要求、オブジェクトを仮想空間2から削除する要求、オブジェクトを移動させる要求、ユーザの音声、または仮想空間2を定義するための情報などを各コンピュータ200に送信する。
サーバ処理部1224は、複数のユーザが同じ仮想空間2を共有するために必要な処理を行なう。例えば、サーバ処理部1224は、コンピュータ200から受信した情報に基づいて、後述するアバターオブジェクト情報1236を更新する。
マッチング部1226は、複数のユーザを関連付けるための一連の処理を行なう。マッチング部1226は、例えば、複数のユーザが同じ仮想空間2を共有するための入力操作を行った場合に、仮想空間2に属するユーザ同士を関連付ける処理などを行なう。
ストレージ1230は、仮想空間指定情報1232と、オブジェクト指定情報1234と、アバターオブジェクト情報1236と、ユーザ情報1238とを保持する。
仮想空間指定情報1232は、コンピュータ200の仮想空間定義モジュール231が仮想空間2を定義するために用いられる情報である。例えば、仮想空間指定情報1232は、仮想空間2の大きさを指定する情報や、仮想空間2を構成する各メッシュに展開されるコンテンツを含む。
オブジェクト指定情報1234は、コンピュータ200の仮想オブジェクト生成モジュール232が仮想空間2に配置するオブジェクトを指定する。
アバターオブジェクト情報1236は、傾き情報1540とを含む。傾き情報1540は、仮想空間2における各アバターオブジェクトの傾きを示す。アバターオブジェクト情報1236は、コンピュータ200から入力される情報(例えば、動き検知データ)に基づいて随時更新され得る。
ユーザ情報1238は、コンピュータ200のユーザ190についての情報である。ユーザ情報1238は、例えば、複数のユーザ190を互いに識別する識別情報(例えば、ユーザアカウント)を含む。
[ユーザの動作をアバターオブジェクトに反映するための制御]
図13を参照して、仮想空間におけるアバターオブジェクトの動作の制御方法について説明する。図13は、現実空間におけるユーザの動作をアバターオブジェクトに反映するための、コンピュータ200とサーバ150との信号のやりとりを表わすフローチャートである。図13に示される処理は、コンピュータ200のプロセッサ10がメモリ11またはストレージ12に格納される制御プログラムを実行し、サーバ150のプロセッサ1220がストレージ1230に格納される制御プログラムを実行することにより実現され得る。
ステップS1302において、サーバ150のプロセッサ1220は、送受信部1222として、コンピュータ200Aおよび200Bから受信した仮想空間を生成するための要求に基づいて、仮想空間指定情報1232をコンピュータ200Aおよび200Bに送信する。このとき、各コンピュータ200は、仮想空間指定情報1232と併せてユーザ190の識別情報をサーバ150に送信し得る。プロセッサ1220はさらに、マッチング部1226として、ユーザ190Aおよび190Bが同じ仮想空間を共有するものとして、彼らの識別情報を互いに関連付け得る。
ステップS1304において、コンピュータ200Aのプロセッサ10Aは、仮想空間定義モジュール231Aとして、受信した仮想空間指定情報1232に基づいて、仮想空間2Aを定義する。ステップS1306において、コンピュータ200Bのプロセッサ10Bは、プロセッサ10Aと同様に仮想空間2Bを定義する。
ステップS1308において、プロセッサ1220は、仮想空間2Aおよび2Bに配置されるオブジェクトを指定するためのオブジェクト指定情報1234をコンピュータ200Aおよび200Bに送信する。
ステップS1310において、プロセッサ10Aは、仮想オブジェクト生成モジュール232Aとして、受信したオブジェクト指定情報1234に基づいて、仮想空間2Aにオブジェクトを配置する。ステップS1312において、プロセッサ10Bは、プロセッサ10Aと同様に仮想空間2Bにオブジェクトを配置する。
ステップS1314において、プロセッサ10Aは、アバター制御モジュール234Aとして、ユーザ190A自身のアバターオブジェクト1100A(図16では「自アバターオブジェクト」と表記)を仮想空間2Aに配置する。プロセッサ10Aはさらに、アバターオブジェクト1100Aの情報(例えば、モデリングのためのデータ、位置情報など)をサーバ150に送信する。
ステップS1316において、プロセッサ1220は、受信したアバターオブジェクト1100Aの情報をストレージ1230(アバターオブジェクト情報1236)に保存する。プロセッサ1220はさらに、アバターオブジェクト1100Aの情報を、コンピュータ200Aと仮想空間を共有するコンピュータ200Bに送信する。
ステップS1318において、プロセッサ10Bは、アバター制御モジュール234Bとして、受信したアバターオブジェクト1100Aの情報に基づいて、仮想空間2Bにアバターオブジェクト1100Aを配置する。
ステップS1320〜S1324において、ステップS1314〜S1318と同様に、仮想空間2Aおよび2Bにアバターオブジェクト1100B(図16では「他アバターオブジェクト」と表記)が生成され、ストレージ1230にアバターオブジェクト1100Bの情報が保存される。
ステップS1326において、プロセッサ10Aは、角速度検出モジュール224Aとして、ジャイロセンサ114Aの出力に基づいて、HMD110Aの各軸まわりの角速度を検知する。プロセッサ10Aはさらに、各軸まわりの角速度に基づいてHMD110Aの傾きを検出し、この傾きに連動するように仮想空間2Aに配置されるアバターオブジェクト1100Aの傾きを変更する。また、プロセッサ10Aは、検知したHMD110Aの各軸まわりの角速度を示す動き検知データを、サーバ150に送信する。
ステップS1328において、プロセッサ10Bは、プロセッサ10Aと同様に、ジャイロセンサ114Bの出力に基づいて、仮想空間2Bに配置されるアバターオブジェクト1100Bの傾きを変更する。プロセッサ10Bはさらに、ジャイロセンサ114Bの出力に対応する動き検知データをサーバ150に送信する。
ステップS1330において、プロセッサ1220は、サーバ処理部1224として、コンピュータ200Aから受信した動き検知データに基づいてアバターオブジェクト1100Aに対応する傾き情報1240を更新する。プロセッサ1220はさらに、コンピュータ200Bから受信した動き検知データに基づいてアバターオブジェクト1100Bに対応する傾き情報1240を更新する。
ステップS1330において、プロセッサ1220はさらに、送受信部1222として、コンピュータ200Aから受信した動き検知データをコンピュータ200Bに送信する。また、プロセッサ1220は、コンピュータ200Bから受信した動き検知データをコンピュータ200Aに送信する。
ステップS1332において、プロセッサ10Aは、受信した動き検知データに基づいて、仮想空間2Aに配置されるアバターオブジェクト1100Bの傾きを変更する。ステップS1334において、プロセッサ10Bは、受信した動き検知データに基づいて、仮想空間2Bに配置されるアバターオブジェクト1100Aの傾きを変更する。
ステップS1336において、プロセッサ10Aは、アバターオブジェクト1100Aの目の位置に配置される仮想カメラ1Aが撮影する画像を、モニタ112Aに表示する。これにより、ユーザ190Aが視認する視界画像が更新される。その後、プロセッサ10Aは、処理をステップS1326に戻す。
ステップS1338において、プロセッサ10Bは、プロセッサ10Aと同様に、仮想カメラ1Bが撮影する画像をモニタ112Bに表示する。これにより、ユーザ190Bが視認する視界画像が更新される。その後、プロセッサ10Bは、処理をステップS1328に戻す。
ある実施形態において、繰り返し実行されるステップS1326〜S1338の処理は、1/60秒または1/30秒の間隔で実行され得る。
上記の一連の処理により、ユーザ190は、仮想空間2において、相手のアバターオブジェクトを通じて、現実空間における他のユーザの動きを認識できる。
なお、他の局面において、上記の繰り返し実行される処理は、ユーザ190の音声を、相手のコンピュータ200に送信する処理、その他の仮想空間2におけるユーザ同士のコミュニケーションを促進する処理を含み得る。
また、上記の例において、ステップS1314およびステップS1320において、コンピュータ200は、当該コンピュータ200のユーザ自身のアバターオブジェクトを仮想空間2に配置する構成であった。他の局面において、これらの処理は省略され得る。仮想空間2において相手のアバターオブジェクトさえ配置されていれば、相手とのコミュニケーションを図ることができるためである。
[頭部を回転させるときの頭部と胴部との連動]
図14は、現実空間におけるユーザ190の動きを正確にトラッキングできない場合について説明するための図である。状態(A)において、ユーザ190の頭部191および胴部192は右方向を向いている。状態(B)において、ユーザ190の頭部191は正面を向いており、胴部192は右方向を向いている。状態(C)において、ユーザ190の頭部191および胴部192は正面を向いている。
ある局面において、ユーザ190は、状態(A)から状態(B)に遷移、すなわち、頭部191と胴部192とを連動させずに頭部191を回転させる(首をひねる)。この場合、HMD110に設けられたジャイロセンサ114は、ヨー軸(v軸)まわりの角速度(に相当する電圧値)を検知する。他の局面において、ユーザ190は状態(A)から状態(C)に遷移、すなわち、頭部191と胴部192とを連動させて頭部191を回転させる(体全体を回転させる)。この場合も、ジャイロセンサ114は、ヨー軸まわりの角速度を検知する。
上記のように、ジャイロセンサ114は、ユーザ190の頭部191の動きしか検知しておらず、胴部192の動きを検知していない。そのため、従来のコンピュータは、ジャイロセンサ114がヨー軸まわりの角速度を検知した場合に、ユーザ190が状態(A)から状態(B)に遷移したのか、状態(A)から状態(C)に遷移したのかを判断できなかった。従来のコンピュータにおいて、この判断を行なう場合、胴部192の動きをトラッキングするための新たなデバイスが必要であった。しかしながら、コストや場所の問題から、このような新たなデバイスを追加することが難しい場合もあり得る。
そこで、ある実施形態に従うコンピュータ200の回転制御モジュール235は、ジャイロセンサ114が検知するヨー軸まわりの角速度に基づいて、状態の遷移に関する上記の判断を行なう。以下、この制御について具体的に説明する。
通常、頭部と胴部とを連動させずに頭部を回転させる場合(状態(A)から状態(B)に遷移する場合)の頭部の回転速度は、頭部と胴部とを連動させて頭部を回転させる場合(状態(A)から状態(C)に遷移する場合)の頭部の回転速度に比して速い。回転制御モジュール235は、この性質を利用して、状態の遷移に関する上記の判断を行なう。
一例として、回転制御モジュール235は、ジャイロセンサ114が検知するヨー軸まわりの角速度がしきい値(例えば、360°/sec)以上である場合に、ユーザ190が頭部と胴部とを連動させずに頭部を回転させたと判断し得る。一方、回転制御モジュール235は、その角速度がそのしきい値未満である場合に、ユーザ190が頭部と胴部とを連動させて頭部を回転させたと判断し得る。
図15は、ヨー軸まわりの角速度がしきい値以上である場合のアバターオブジェクト1100Bの動きの処理について説明するための図である。図16は、ヨー軸まわりの角速度がしきい値未満である場合のアバターオブジェクト1100Bの動きの処理について説明するための図である。
ある局面において、コンピュータ200Aは、サーバ150を介してコンピュータ200Bからジャイロセンサ114Bが検知するヨー軸まわりの角速度を示す情報(動き検知データ)を受信する。コンピュータ200Aは、この角速度がしきい値以上であると判断した場合、図15に示されるように、角速度に従って、アバターオブジェクト1100Bの頭部1110Bと胴部1120Bとを連動させずに頭部1110Bを回転させる。一方、コンピュータ200Aは、この角速度がしきい値未満であると判断した場合、図16に示されるように、角速度に従って、アバターオブジェクト1100Bの頭部1110Bと胴部1120Bとを連動させて頭部1110Bを回転させる。これにより、ユーザ190Aは、仮想空間2Aに配置されるアバターオブジェクト1100Bの動きを視認して、現実空間におけるユーザ190Bの正確な動きを認識できる。
[制御の流れ]
図17を参照して、上記一連のアバターオブジェクトの頭部を回転させるときに、頭部と胴部とを連動させるか否かを判断する制御について説明する。図17は、ユーザ190Bに対応するアバターオブジェクト1100Bの動きをコンピュータ200Aが制御する処理について説明するフローチャートである。図17に示される処理は、コンピュータ200Aのプロセッサ10Aが、メモリ11Aまたはストレージ12Aに格納される制御プログラムを実行することにより実現され得る。
ステップS1710において、プロセッサ10Aは、サーバ150から受信した仮想空間指定情報1232に基づいて仮想空間2を定義する。
ステップS1720において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bから受信したアバターオブジェクト1100Bの情報に基づいて、仮想空間2Aにアバターオブジェクト1100Bを配置する。
ステップS1730において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bからジャイロセンサ114Bが検知するヨー軸まわりの角速度を示す情報(動き検知データ)を受信する。
ステップS1740において、プロセッサ10Aは、回転制御モジュール235Aとして、ヨー軸まわりの角速度が予め定められたしきい値(例えば、360°/sec)以上であるか否かを判断する。このしきい値は、ストレージ12に予め格納され得る。プロセッサ10Aは、角速度がしきい値以上であると判断した場合(ステップS1740においてYES)、処理をステップS1750に進める。一方、プロセッサ10Aは、角速度がしきい値未満であると判断した場合(ステップS1740においてNO)、処理をステップS1760に進める。
ステップS1750において、プロセッサ10Aは、角速度に応じて、アバターオブジェクト1100Bの頭部1110Bと胴部1120Bとを連動させずに、頭部1110Bをヨー軸まわりに回転させる。その後、プロセッサ10Aは、処理をステップS1730に戻す。
ステップS1760において、プロセッサ10Aは、角速度に応じて、アバターオブジェクト1100Bの頭部1110Bと胴部1120Bとを連動させて、頭部1110Bをヨー軸まわりに回転させる。その後、プロセッサ10Aは、処理をステップS1730に戻す。
上記によれば、ある実施形態に従うコンピュータ200は、ユーザの胴部の動きをトラッキングするためのデバイスを有さなくとも、ユーザの頭部が胴部と連動して回転しているか、胴部と連動せずに回転しているかを判断し得る。これにより、コンピュータ200は、ユーザの動きを忠実にアバターオブジェクトに反映し得る。その結果、ユーザは、仮想空間を共有する他のユーザの動きをより忠実に再現したアバターオブジェクトを通じて、当該他のユーザとより円滑なコミュニケーションを実現し得る。
なお、上記の例において、回転制御モジュール235は、角速度がしきい値以上であるか否かに基づいて、アバターオブジェクトの頭部と胴部とを連動させるか否かを判断するように構成されている。他の局面において、回転制御モジュール235は、ヨー軸まわりの角加速度がしきい値以上であるか否かに基づいてアバターオブジェクトの頭部と胴部とを連動させるか否かを判断するように構成されてもよい。
[手のトラッキング情報を利用した制御]
上記の例では、コンピュータ200は、ヨー軸まわりの角速度のみに基づいて、アバターオブジェクトの頭部と胴部とを連動させるか否かを判断するように構成されている。しかしながら、このコンピュータ200は、ユーザが頭部と胴部とを連動させた状態で頭部を非常に速く回転させた場合などにおいて、ユーザの動きを誤って検出する可能性がある。そこで、以下、図18〜図20を用いて、このような誤検出を抑制するための制御方法について説明する。
図18は、頭部191が胴部192と連動して動くときの手の動きについて説明するための図である。図18において、ユーザ190は、正面から右方向に頭部191と胴部192とを連動した状態で回転する。このとき、ユーザ190の手1810は通常、胴部192とともに正面から右方向に回転する。そのため、ユーザ190が回転している間、HMD110に設けられたカメラ116が深度情報を取得可能な空間1800には手1810が常に含まれる可能性が高い。換言すれば、頭部191が胴部192と連動して回転する間、コンピュータ200は、ユーザ190の手1810の位置をトラッキングできる可能性が高い。
図19は、頭部191が胴部192と連動せずに動くときの手の動きについて説明するための図である。図19において、ユーザ190は、頭部191を胴部192と連動させずに正面から右方向に回転する。このとき、ユーザ190の手1810は通常、胴部192に従い回転せずに正面に留まる。そのため、ユーザ190が回転すると、空間1800から手1810が外れる可能性が高い。換言すれば、頭部191が胴部192と連動せずに回転すると、コンピュータ200は、ユーザ190の手1810の位置をトラッキングできなくなる可能性が高い。
ある実施形態に従うコンピュータ200は、上記の性質を利用して、アバターオブジェクトの頭部と胴部とを連動させるか否かを判断する。具体的には、コンピュータ200は、ユーザ190の手1810の位置をトラッキングできている(カメラ116が手1810の深度情報を取得している)ときは、ジャイロセンサ114が検知するヨー軸周りの角速度に従いアバターオブジェクトの頭部を胴部と連動させた状態で回転させる。一方、コンピュータ200は、手1810の位置をトラッキングできないときは、ヨー軸まわりの角速度に従いアバターオブジェクトの頭部を胴部と連動させずに回転させる。
図20は、手のトラッキング情報を利用してアバターオブジェクト1100Bの動きをコンピュータ200Aが制御する処理について説明するフローチャートである。なお、図17と同一符号を付している処理は、図17の処理と同じである。そのため、それらの処理についての説明は繰り返さない。
ステップS1740において、プロセッサ10Aは、サーバ150を介してコンピュータ200Bから受信したHMD110Bのヨー軸まわりの角速度が予め定められたしきい値以上であると判断した場合(ステップS1740においてYES)、処理をステップS2010に進める。
ステップS2010において、プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできているのか否かを判断する。プロセッサ10Aは、サーバ150を介してコンピュータ200Bから、ユーザ190Bの手の位置を示す情報(トラッキングデータ)を受信できている場合に、ユーザ190Bの手の位置をトラッキングできていると判断し得る。
なお、他の局面において、コンピュータ200Bは、カメラ116Bが深度情報を取得可能な範囲からユーザ190Bの手が外れた場合に、その旨を知らせる信号をコンピュータ200Aに出力し得る。プロセッサ10Aは、当該信号を受信した場合に、ユーザ190Bの手の位置をトラッキングできなくなったと判断してもよい。
プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできていると判断した場合(ステップS2010においてYES)、処理をステップS1750に進める。一方、プロセッサ10Aは、ユーザ190Bの手の位置をトラッキングできていないと判断した場合(ステップS2010においてNO)、処理をステップS1760に進める。
上記のように、ある実施形態に従うコンピュータ200は、ヨー軸まわりの角速度に加え、さらに手のトラッキング情報を用いてアバターオブジェクトの頭部と胴部とを連動させるか否かを判断するように構成されている。そのため、このコンピュータ200は、ユーザの動きを誤って検出することを抑制し得る。
なお、他の局面において、コンピュータ200は、手のトラッキング情報にのみ基づいて、アバターオブジェクトの頭部と胴部とを連動させるか否かを判断するように構成されてもよい。この場合、コンピュータ200は、図20においてステップS1740の処理を省略し、ステップS1730からステップS2010に処理を進め得る。
[回転角度に基づく制御]
上記の実施形態において、コンピュータ200は、ユーザの頭部のヨー軸まわりの角速度に応じて、アバターオブジェクトの頭部と胴部とを連動させるか否かを判断するように構成されている。他の実施形態に従うコンピュータ200は、角速度ではなく、回転角度に応じてこの判断を行なう。
他の実施形態に従うコンピュータ200における上記の判断制御の概略について説明する。ユーザ190(人間)は、正面を向いている状態(首をひねっていない状態)からヨー角θv1の位置に配置される物体を見ようとする場合、ヨー角θv1に応じて、頭だけを回転させるか、体ごと回転させるかを判断し得る。具体的には、ユーザ190は、ヨー角θv1が大きい場合(例えば、60°以上)に体ごと回転(頭部と胴部とを連動させて回転)させて物体を視認し得る。また、ユーザ190は、ヨー角θv1が小さい場合(例えば、60°未満)に、頭だけ回転(頭部と胴部とを連動させずに回転)させて物体を視認し得る。
上記の性質を利用して、他の実施形態に従うコンピュータ200は、ユーザ190の基準状態(首をひねっていない状態)に対する頭部のヨー軸まわりの回転角度がしきい値(例えば、60°)未満の場合に、アバターオブジェクトの頭部を胴部と連動させずに回転させる。また、このコンピュータ200は、その回転角度がしきい値以上の場合に、アバターオブジェクトの頭部と胴部とを連動させて回転させる。以下、他の実施形態に従うコンピュータ200の具体的な構成および制御について説明する。
図21は、他の実施形態に従うコンピュータ200のモジュール構成を表すブロック図である。なお、図8と同一符号を付している部分は、図8のデバイスまたはモジュールと同じである。そのため、その部分についての説明は繰り返さない。また、他の実施形態に従うコンピュータ200のハードウェア構成は、図2に示されるハードウェア構成と同じである。
他の実施形態に従うコンピュータ200は、図8に示される構成に加えて、基準状態検出モジュール228と、回転角度検出モジュール229とをさらに備える。
基準状態検出モジュール228は、ユーザ190が首をひねっていないと推定される状態(以下、「基準状態」とも称する)を検出する。基準状態検出モジュール228は、基準状態におけるHMD110のヨー角(以下、「基準角度」とも称する)θvsをメモリ11に保存する。一例として、基準状態検出モジュール228は、予め定められた期間(例えば、5秒間)にわたりユーザ190の頭が略停止している状態を基準状態として検出する。基準状態検出モジュール228は、ジャイロセンサ114が検知するヨー軸まわりの角速度がしきい値(例えば、10degree/sec)未満である場合に、ユーザ190の頭が略停止していると判断し得る。ユーザ190(人間)は、通常、首をひねった状態を長時間維持し続けることはしないためである。
回転角度検出モジュール229は、基準角度θvsに対する回転角度を算出する。より具体的には、回転角度検出モジュール229は、ジャイロセンサ114が検知するヨー軸まわりの角速度に基づいてその時点におけるヨー角θvを算出し、ヨー角θvと基準角度θvsとの差分を基準角度θvsに対する回転角度として検出する。
図22は、他の実施形態に従う、ユーザ190Bに対応するアバターオブジェクト1100Bの動きをコンピュータ200Aが制御する処理を表わすフローチャートである。なお、図17と同一符号を付している処理は、図17の処理と同じである。そのため、それらの処理についての説明は繰り返さない。
ステップS2210において、プロセッサ10Aは、回転角度検出モジュール229Aとして、コンピュータ200Bから受信したヨー軸まわり角速度に基づいて、基準状態(メモリ11Aに格納される基準角度θvs)に対する回転角度を算出する。
ステップS2220において、プロセッサ10Aは、基準状態(基準角度θvs)に対する回転角度がしきい値(例えば、60°)以上であるか否かを判断する。プロセッサ10Aは、基準状態に対する回転角度がしきい値未満であると判断した場合(ステップS2220においてNO)、処理をステップS2230に進める。一方、プロセッサ10Aは、その回転角度がしきい値以上であると判断した場合(ステップS2220においてYES)、処理をステップS2240に進める。
ステップS2230において、プロセッサ10Aは、基準状態に対する回転角度に応じて、アバターオブジェクト1100Bの頭部と胴部とを連動させずに、頭部1110Bをヨー軸まわりに回転させる。その後、プロセッサ10Aは、処理をステップS2250に進める。
ステップS2240において、プロセッサ10Aは、基準状態に対する回転角度に応じて、アバターオブジェクト1100Bの頭部1110Bと胴部1120Bとを連動させて、頭部1110Bをヨー軸まわりに回転させる。
ステップS2250において、プロセッサ10Aは、基準状態検出モジュール228Aとして、コンピュータ200Bから受信したヨー軸まわり角速度に基づいて、予め定められた期間にわたりユーザ190Bの頭が略停止しているか否かを判断する。
プロセッサ10Aは、予め定められた期間にわたりユーザ190Bの頭が略停止していると判断した場合(ステップS2250においてYES)、処理をステップS2260に進める。一方、プロセッサ10Aは、予め定められた期間にわたりユーザ190Bの頭が略停止していないと判断した場合(ステップS2250においてNO)、処理をステップS1730に戻す。
ステップS2260において、プロセッサ10Aは、その時点におけるアバターオブジェクト1100Bのヨー角θvを、基準角度θvsとしてメモリ11に保存する。これにより、基準状態(基準角度θvs)が更新される。
上記によれば、他の実施形態に従うコンピュータ200は、他のコンピュータ200を使用する他のユーザの基準状態に対する、他のユーザの頭部のヨー軸まわりの回転角度に基づいて、他のユーザに対応するアバターオブジェクトの頭部と胴部とを連動させるか否かを判断できる。このような実施形態に従うコンピュータ200も、ユーザの動きを忠実にアバターオブジェクトに反映し得る。
なお、他の局面において、他の実施形態に従うコンピュータ200は、上述した手のトラッキング情報を利用したユーザの動きの誤検出を抑制する制御を、上記回転角度に基づくアバターオブジェクトの動きの制御に適用し得る。
[構成]
以上に開示された技術的特徴は、以下のように要約され得る。
(構成1) アバターオブジェクト1100Bの動作を制御するためにコンピュータ200Aで実行される方法が提供される。この方法は、仮想空間2Aを定義するステップ(S1710)と、仮想空間2Aを介して通信するユーザ190Bのアバターオブジェクト1100Bを仮想空間に配置するステップ(S1720)と、ユーザ190Bの頭の角速度を示す情報を取得するステップ(S1730)と、角速度がしきい値以上の場合(S1740においてYES)に、角速度に応じて、アバターオブジェクト1100Bの頭部と胴部とを連動させずに頭部を回転させるステップ(S1750)とを備える。
(構成2) (構成1)に従う方法は、角速度がしきい値未満の場合(S1740においてNO)に、角速度に応じて、アバターオブジェクト1100Bの頭部と胴部とを連動させて頭部を回転させるステップ(S1760)をさらに備える。
(構成3) (構成1)または(構成2)に従う方法は、ユーザ190Bの手の位置をトラッキングするためのデータを取得するステップをさらに備える。アバターオブジェクト1100Bの頭部と胴部とを連動させずに頭部を回転させるステップは、ユーザ190Bの手の位置をトラッキングできない場合(S2010においてNO)に角速度に応じて、アバターオブジェクト1100Bの頭部と胴部とを連動させずに頭部を回転させることを含む。
(構成4) (構成1)〜(構成3)のいずれかにおいて、ユーザ190Bの頭の角速度を示す情報を取得するステップは、ユーザ190Bが装着するHMD110Bに設けられたジャイロセンサ114Bの、ヨー軸まわりの検知結果を受信することを含む。
(構成5) 他の局面に従うと、アバターオブジェクト1100Bの動作を制御するためにコンピュータ200Aで実行される方法が提供される。この方法は、仮想空間2Aを定義するステップ(S1710)と、仮想空間2Aを介して通信するユーザ190Bのアバターオブジェクト1100Bを仮想空間2Aに配置するステップ(S1720)と、ユーザ190Bの基準状態に対する頭の回転角度を示す情報を取得するステップ(S2210)と、回転角度がしきい値未満の場合(S2220においてNO)に、回転角度に応じて、アバターオブジェクト1100Bの頭部と胴部とを連動させずに頭部を回転させるステップ(S2230)とを備える。
(構成6) (構成5)に従う方法は、回転角度がしきい値以上の場合(S2220においてYES)に、回転角度に応じて、アバターオブジェクト1100Bの頭部と胴部とを連動させて頭部を回転させるステップ(S2240)をさらに備える。
(構成7) (構成5)または(構成6)に従う方法は、ユーザ190Bの手の位置をトラッキングするためのデータを取得するステップをさらに備える。アバターオブジェクト1100Bの頭部と胴部とを連動させずに頭部を回転させるステップは、ユーザ190Bの手の位置をトラッキングできない場合に回転角度に応じて、アバターオブジェクト1100Bの頭部と胴部とを連動させずに頭部を回転させることを含む。
(構成8) (構成5)〜(構成7)のいずれかにおいて、基準状態は、予め定められた期間にわたりユーザ190Bの頭が略停止した状態を含む。
(構成9) (構成5)〜(構成8)のいずれかにおいて、回転角度を示す情報取得するステップは、ユーザ190Bが装着するHMD110Bに設けられたジャイロセンサ114Bの、ヨー軸まわりの検知結果を受信することを含む。
今回開示された実施形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 仮想カメラ、2 仮想空間、5 基準視線、10,1220 プロセッサ、11
メモリ、12,1230 ストレージ、13 入出力インターフェイス、14,1210
通信インターフェイス、19 ネットワーク、22 仮想空間画像、23 視認領域、
26,1130 視界画像、100 システム、105 HMDセット、112 モニタ
、114 ジャイロセンサ、116 カメラ、118 スピーカ、119 マイク、12
0 センサ、140 注視センサ、150 サーバ、190 ユーザ、191,1110
B 頭部、192,1120B 胴部、200 コンピュータ、220 表示制御モジュ
ール、221 仮想カメラ制御モジュール、222 視界領域決定モジュール、223
視界画像生成モジュール、224 角速度検出モジュール、225 基準視線特定モジュ
ール、226 動き検出モジュール、227 トラッキングモジュール、228 基準状
態検出モジュール、229 回転角度検出モジュール、230 仮想空間制御モジュール
、231 仮想空間定義モジュール、232 仮想オブジェクト生成モジュール、233
操作オブジェクト制御モジュール、234 アバター制御モジュール、235 回転制
御モジュール、240 メモリモジュール、241 空間情報、242 オブジェクト情
報、243,1238 ユーザ情報、244 動き検知データ、250 通信制御モジュ
ール、1100A,1100B アバターオブジェクト、1222 送受信部、1224
サーバ処理部、1226 マッチング部、1232 仮想空間指定情報、1234 オ
ブジェクト指定情報、1236 アバターオブジェクト情報。

Claims (11)

  1. アバターオブジェクトの動作を制御するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信するユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記ユーザの頭の角速度を示す情報を取得するステップと、
    前記角速度がしきい値以上の場合に、前記角速度に応じて、前記アバターオブジェクトの頭部と胴部とを連動させずに前記頭部を回転させるステップとを備える、方法。
  2. 前記角速度がしきい値未満の場合に、前記角速度に応じて、前記アバターオブジェクトの頭部と胴部とを連動させて前記頭部を回転させるステップをさらに備える、請求項1に記載の方法。
  3. 前記ユーザの手の位置をトラッキングするためのデータを取得するステップをさらに備え、
    前記アバターオブジェクトの頭部と胴部とを連動させずに前記頭部を回転させるステップは、前記ユーザの手の位置をトラッキングできない場合に前記角速度に応じて、前記アバターオブジェクトの頭部と胴部とを連動させずに前記頭部を回転させることを含む、請求項1または2に記載の方法。
  4. 前記ユーザの頭の角速度を示す情報を取得するステップは、前記ユーザが装着するヘッドマウントデバイスに設けられたジャイロセンサの、予め定められた軸まわりの検知結果を受信することを含む、請求項1〜3のいずれか1項に記載の方法。
  5. アバターオブジェクトの動作を制御するためにコンピュータで実行される方法であって、
    仮想空間を定義するステップと、
    前記仮想空間を介して通信するユーザのアバターオブジェクトを前記仮想空間に配置するステップと、
    前記ユーザの基準状態に対する頭の回転角度を示す情報を取得するステップと、
    前記回転角度がしきい値未満の場合に、前記回転角度に応じて、前記アバターオブジェクトの頭部と胴部とを連動させずに前記頭部を回転させるステップとを備える、方法。
  6. 前記回転角度がしきい値以上の場合に、前記回転角度に応じて、前記アバターオブジェクトの頭部と胴部とを連動させて前記頭部を回転させるステップをさらに備える、請求項5に記載の方法。
  7. 前記ユーザの手の位置をトラッキングするためのデータを取得するステップをさらに備え、
    前記アバターオブジェクトの頭部と胴部とを連動させずに前記頭部を回転させるステップは、前記ユーザの手の位置をトラッキングできない場合に前記回転角度に応じて、前記アバターオブジェクトの頭部と胴部とを連動させずに前記頭部を回転させることを含む、請求項5または6に記載の方法。
  8. 前記基準状態は、予め定められた期間にわたり前記ユーザの頭が略停止した状態を含む、請求項5〜7のいずれか1項に記載の方法。
  9. 前記回転角度を示す情報取得するステップは、前記ユーザが装着するヘッドマウントデバイスに設けられたジャイロセンサの、予め定められた軸まわりの検知結果を受信することを含む、請求項5〜8のいずれか1項に記載の方法。
  10. 請求項1〜9のいずれか1項に記載の方法をコンピュータに実現させるためのプログラム。
  11. 請求項10に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、情報処理装置。
JP2017204823A 2017-10-23 2017-10-23 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置 Pending JP2018116684A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017204823A JP2018116684A (ja) 2017-10-23 2017-10-23 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017204823A JP2018116684A (ja) 2017-10-23 2017-10-23 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017005154A Division JP6234622B1 (ja) 2017-01-16 2017-01-16 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Publications (1)

Publication Number Publication Date
JP2018116684A true JP2018116684A (ja) 2018-07-26

Family

ID=62985635

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017204823A Pending JP2018116684A (ja) 2017-10-23 2017-10-23 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置

Country Status (1)

Country Link
JP (1) JP2018116684A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020170831A1 (ja) * 2019-02-20 2020-08-27 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2022526512A (ja) * 2019-11-28 2022-05-25 北京市商▲湯▼科技▲開▼▲發▼有限公司 インタラクティブオブジェクト駆動方法、装置、機器、及び記憶媒体
WO2023135941A1 (ja) * 2022-01-17 2023-07-20 ソニーグループ株式会社 情報処理装置、および情報処理システム、並びに情報処理方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020170831A1 (ja) * 2019-02-20 2020-08-27 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2022526512A (ja) * 2019-11-28 2022-05-25 北京市商▲湯▼科技▲開▼▲發▼有限公司 インタラクティブオブジェクト駆動方法、装置、機器、及び記憶媒体
WO2023135941A1 (ja) * 2022-01-17 2023-07-20 ソニーグループ株式会社 情報処理装置、および情報処理システム、並びに情報処理方法

Similar Documents

Publication Publication Date Title
JP6234622B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6240301B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6266736B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6298558B1 (ja) 仮想空間を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6342038B1 (ja) 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法
JP6263252B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6470356B2 (ja) 仮想空間を提供するコンピュータで実行されるプログラム、方法、および当該プログラムを実行する情報処理装置
JP6342024B1 (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6290467B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP6275891B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6276434B1 (ja) 仮想空間における移動を支援するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018106258A (ja) 仮想空間を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6257825B1 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018089228A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018116684A (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018125003A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP6554139B2 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2020038468A (ja) プログラム、情報処理装置、および方法
JP2018190390A (ja) 仮想空間を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018092635A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018092592A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018109937A (ja) 情報処理方法、装置、情報処理システム、および当該情報処理方法をコンピュータに実行させるプログラム
JP6974253B2 (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2018124989A (ja) 仮想空間における移動を支援するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6983639B2 (ja) 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置