JP2018101293A - ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置 - Google Patents

ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置 Download PDF

Info

Publication number
JP2018101293A
JP2018101293A JP2016246970A JP2016246970A JP2018101293A JP 2018101293 A JP2018101293 A JP 2018101293A JP 2016246970 A JP2016246970 A JP 2016246970A JP 2016246970 A JP2016246970 A JP 2016246970A JP 2018101293 A JP2018101293 A JP 2018101293A
Authority
JP
Japan
Prior art keywords
event
virtual space
hmd
user
computer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016246970A
Other languages
English (en)
Inventor
篤 猪俣
Atsushi Inomata
篤 猪俣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Colopl Inc
Original Assignee
Colopl Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Colopl Inc filed Critical Colopl Inc
Priority to JP2016246970A priority Critical patent/JP2018101293A/ja
Priority to US15/846,700 priority patent/US20180239420A1/en
Publication of JP2018101293A publication Critical patent/JP2018101293A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】仮想空間を提供する場合に、ユーザへ心理的な負担を軽減しつつ、イベントを視認し易くできる技術を提供する。【解決手段】プロセッサ10は、視野領域23に入っていなかったイベント源1210〜1260のうち、HMD110を装着したユーザ190が首を旋回させることで仮想空間の視界領域23に入ったイベント源1210,1220についてだけ、そのイベント源1210,1220に基づいたイベント1210A,1220Aを発生させる。【選択図】図12

Description

本開示は、ヘッドマウントデバイスに仮想空間の視界画像を提供する技術に関する。
ヘッドマウントデバイスを用いて仮想空間を提供する場合、ヘッドマウントデバイスは、装着したユーザの動きに合わせて仮想空間の視界(ユーザの視界)を変化させた視界画像を提供している。また、ヘッドマウントデバイスでは、仮想空間においてユーザに視認させたいキャラクタやインフォメーションなどをイベントとして所定の位置にあらかじめ設定することができる。そのため、ヘッドマウントデバイスでは、イベントが設定してある位置をユーザが視るような動きをすることで、仮想空間の視界が変化して視界内に入ったイベントをユーザが視認できる視界画像を提供している。
しかし、イベントは仮想空間において全方位(360度)に設定可能であるのに対して、ヘッドマウントデバイスで提供する視界画像の視界の角度は例えば140度〜180度と狭い。そのため、ヘッドマウントデバイスでは、ユーザの視界の外にいるイベントを認識し難いという問題があった。
従来のヘッドマウントデバイスでは、ユーザの視界の外にいるイベントを認識させるために例えば以下のような処理が行われていた。例えば、特開2001−149643号公報(特許文献1)は、「プレイヤオブジェクトと敵オブジェクトとが予め定めた距離内にいる場合には、敵オブジェクトをプレイヤの視界内に表示する」ための技術を開示しているまた、特開2003−305275号公報(特許文献2)は、「プレイヤに与える不快感を軽減するカメラの制御を行う」ための技術を開示している。
特開2001−149643号公報 特開2003−305275号公報
しかし、ヘッドマウントデバイスでは、仮想空間に設定したイベントが視界画像の外にある位置で発生して実行される場合がある。そのため、視界画像の外にある位置で実行中のイベントがユーザの動きにより視界画像に入った場合、ユーザの視界に突然イベントが現れることになりユーザに心理的な負担を与える虞があった。具体的に、キャラクタを発生させて、その後ユーザ方向に近づく動作を実行させるイベントの場合、当該イベントがユーザの背後で実行されキャラクタがユーザの真後ろに近づいた時点で、ユーザが振り向くとユーザの視界に大きなキャラクタが突然現れることになる。したがって、ユーザへ心理的な負担を軽減しつつ、イベントを視認し易くできる技術が必要とされている。
本開示は、上述のような問題点を解決するためになされたものであって、そのある局面における目的は、仮想空間を提供する場合に、ユーザへ心理的な負担を軽減しつつ、イベントを視認し易くできる技術を提供することである。
本開示のある局面に従うと、ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法が提供される。この方法は、仮想空間を定義するステップと、仮想空間内にイベント発生源を定義するステップと、ヘッドマウントデバイスを装着したユーザの動きに基づいて、仮想空間内におけるユーザの視界を特定するステップと、イベント発生源が視界に入っているときに、当該イベント発生源に基づくイベントを発生させるステップとを含む。
この発明の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
ある実施の形態に従うHMDシステム100の構成の概略を表す図である。 一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。 ある実施の形態に従うHMD110に設定されるuvw視野座標系を概念的に表す図である。 ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。 ある実施の形態に従うHMD110を装着するユーザ190の頭部を上から表した図である。 仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。 仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。 ある実施の形態に従うコントローラ160の概略構成を表す図である。 ある実施の形態に従うコンピュータ200をモジュール構成として表わすブロック図である。 HMDシステム100が実行する処理を表わすフローチャートである。 ある実施の形態の一局面においてコンピュータ200のプロセッサ10が実行する詳細な処理を表わすフローチャートである。 仮想空間2におけるイベント源と仮想空間の視界領域との関係の一態様を例示する図である。 仮想空間2におけるイベント源と仮想空間の視界領域との関係の別の一態様を例示する図である。
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
[HMDシステムの構成]
図1を参照して、HMD(Head Mounted Device)システム100の構成について説明する。図1は、ある実施の形態に従うHMDシステム100の構成の概略を表す図である。ある局面において、HMDシステム100は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。なお、本実施の形態において、HMDとは、モニタを備える所謂ヘッドマウントディスプレイと、スマートフォンその他のモニタを有する端末を装着可能なヘッドマウント機器のいずれをも含み得る。
HMDシステム100は、HMD110と、HMDセンサ120と、コントローラ160と、コンピュータ200とを備える。HMD110は、モニタ112と、注視センサ140と、スピーカ118とを含む。コントローラ160は、モーションセンサ130を含み得る。
ある局面において、コンピュータ200は、インターネットその他のネットワーク19に接続可能であり、ネットワーク19に接続されているサーバ150その他のコンピュータと通信可能である。
別の局面において、HMDシステム100がHMDセンサ120を備える代わりに、HMD110がセンサ114を含んでもよい。
サーバ150は、プロセッサ151と、メモリ152と、通信インターフェイス153とを含む。サーバ150は、周知の構成を有するコンピュータによって実現される。
HMD110は、ユーザの頭部に装着され、動作中に仮想空間をユーザに提供し得る。より具体的には、HMD110は、右目用の画像および左目用の画像をモニタ112にそれぞれ表示する。ユーザの各目がそれぞれの画像を視認すると、ユーザは、両目の視差に基づき当該画像を3次元の画像として認識し得る。
モニタ112は、例えば、非透過型の表示装置として実現される。ある局面において、モニタ112は、ユーザの両目の前方に位置するようにHMD110の本体に配置されている。したがって、ユーザは、モニタ112に表示される3次元画像を視認すると、仮想空間に没入することができる。ある実施の形態において、仮想空間は、例えば、背景、ユーザが操作可能なオブジェクト、ユーザが選択可能なメニューの画像を含む。ある実施の形態において、モニタ112は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機EL(Electro Luminescence)モニタとして実現され得る。
ある局面において、モニタ112は、右目用の画像を表示するためのサブモニタと、左目用の画像を表示するためのサブモニタとを含み得る。別の局面において、モニタ112は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ112は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。
HMDセンサ120は、複数の光源(図示しない)を含む。各光源は例えば、赤外線を発するLED(Light Emitting Diode)により実現される。HMDセンサ120は、HMD110の動きを検出するためのポジショントラッキング機能を有する。HMDセンサ120は、この機能を用いて、現実空間内におけるHMD110の位置および傾きを検出する。
なお、別の局面において、HMDセンサ120は、カメラにより実現されてもよい。この場合、HMDセンサ120は、カメラから出力されるHMD110の画像情報を用いて、画像解析処理を実行することにより、HMD110の位置および傾きを検出することができる。
別の局面において、HMD110は、位置検出器として、HMDセンサ120の代わりに、センサ114を備えてもよい。HMD110は、センサ114を用いて、HMD110自身の位置および傾きを検出し得る。例えば、センサ114が角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサ等である場合、HMD110は、HMDセンサ120の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ114が角速度センサである場合、角速度センサは、現実空間におけるHMD110の3軸周りの角速度を経時的に検出する。HMD110は、各角速度に基づいて、HMD110の3軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、HMD110の傾きを算出する。また、HMD110は、透過型表示装置を備えていても良い。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視界画像は仮想空間を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。例えば、HMD110に搭載されたカメラで撮影した画像を視界画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視界画像の一部から現実空間を視認可能にしてもよい。
注視センサ140は、ユーザ190の右目および左目の視線が向けられる方向(視線方向)を検出する。当該方向の検出は、例えば、公知のアイトラッキング機能によって実現される。注視センサ140は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ140は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ140は、例えば、ユーザ190の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ140は、検出した各回転角に基づいて、ユーザ190の視線方向を検知することができる。
スピーカ118は、HMD110に設けられており、音声を出力するための装置である。ある局面において、スピーカ118は右耳用の右スピーカと左耳用の左スピーカとを含む。ある局面において、スピーカ118は、HMD110に設けられるのではなく、コントローラ160に設けられてもよい。また、ある局面において、所謂スマートフォンその他の情報表示端末が、内蔵されたスピーカを用いて音声を出力してもよい。
サーバ150は、コンピュータ200にプログラムを送信し得る。別の局面において、サーバ150は、他のユーザによって使用されるHMDに仮想現実を提供するための他のコンピュータ200と通信し得る。例えば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ200は、各ユーザの動作に基づく信号を他のコンピュータ200と通信して、同じ仮想空間において複数のユーザが共通のゲームを楽しむことを可能にする。
コントローラ160は、ユーザ190からコンピュータ200への命令の入力を受け付ける。ある局面において、コントローラ160は、ユーザ190によって把持可能に構成される。別の局面において、コントローラ160は、ユーザ190の身体あるいは衣類の一部に装着可能に構成される。別の局面において、コントローラ160は、コンピュータ200から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。別の局面において、コントローラ160は、仮想現実を提供する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ190によって与えられる操作を受け付ける。
モーションセンサ130は、ある局面において、ユーザの手に取り付けられて、ユーザの手の動きを検出する。例えば、モーションセンサ130は、手の回転速度、回転数等を検出する。検出された信号は、コンピュータ200に送られる。モーションセンサ130は、例えば、手袋型のコントローラ160に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ160は、手袋型のようにユーザ190の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。別の局面において、ユーザ190に装着されないセンサがユーザ190の手の動きを検出してもよい。例えば、ユーザ190を撮影するカメラの信号が、ユーザ190の動作を表わす信号として、コンピュータ200に入力されてもよい。モーションセンサ130とコンピュータ200とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、例えば、Bluetooth(登録商標)その他の公知の通信手法が用いられる。
[ハードウェア構成]
図2を参照して、本実施の形態に係るコンピュータ200について説明する。図2は、一局面に従うコンピュータ200のハードウェア構成の一例を表すブロック図である。コンピュータ200は、主たる構成要素として、プロセッサ10と、メモリ11と、ストレージ12と、入出力インターフェイス13と、通信インターフェイス14とを備える。各構成要素は、それぞれ、バス15に接続されている。
プロセッサ10は、コンピュータ200に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ11またはストレージ12に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ10は、CPU(Central Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)その他のデバイスとして実現される。
メモリ11は、プログラムおよびデータを一時的に保存する。プログラムは、例えば、ストレージ12からロードされる。データは、コンピュータ200に入力されたデータと、プロセッサ10によって生成されたデータとを含む。ある局面において、メモリ11は、RAM(Random Access Memory)その他の揮発メモリとして実現される。
ストレージ12は、プログラムおよびデータを永続的に保持する。ストレージ12は、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ12に格納されるプログラムは、HMDシステム100において仮想空間を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ200との通信を実現するためのプログラムを含む。ストレージ12に格納されるデータは、仮想空間を規定するためのデータおよびオブジェクト等を含む。
なお、別の局面において、ストレージ12は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに別の局面において、コンピュータ200に内蔵されたストレージ12の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、例えば、アミューズメント施設のように複数のHMDシステム100が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。
ある実施の形態において、入出力インターフェイス13は、HMD110、HMDセンサ120またはモーションセンサ130との間で信号を通信する。ある局面において、入出力インターフェイス13は、USB(Universal Serial Bus)インターフェイス、DVI(Digital Visual Interface)、HDMI(登録商標)(High-Definition Multimedia Interface)その他の端子を用いて実現される。なお、入出力インターフェイス13は上述のものに限られない。
ある実施の形態において、入出力インターフェイス13は、さらに、コントローラ160と通信し得る。例えば、入出力インターフェイス13は、モーションセンサ130から出力された信号の入力を受ける。別の局面において、入出力インターフェイス13は、プロセッサ10から出力された命令を、コントローラ160に送る。当該命令は、振動、音声出力、発光等をコントローラ160に指示する。コントローラ160は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。
通信インターフェイス14は、ネットワーク19に接続されて、ネットワーク19に接続されている他のコンピュータ(例えば、サーバ150)と通信する。ある局面において、通信インターフェイス14は、例えば、LAN(Local Area Network)その他の有線通信インターフェイス、あるいは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)その他の無線通信インターフェイスとして実現される。なお、通信インターフェイス14は上述のものに限られない。
ある局面において、プロセッサ10は、ストレージ12にアクセスし、ストレージ12に格納されている1つ以上のプログラムをメモリ11にロードし、当該プログラムに含まれる一連の命令を実行する。当該1つ以上のプログラムは、コンピュータ200のオペレーティングシステム、仮想空間を提供するためのアプリケーションプログラム、コントローラ160を用いて仮想空間で実行可能なゲームソフトウェア等を含み得る。プロセッサ10は、入出力インターフェイス13を介して、仮想空間を提供するための信号をHMD110に送る。HMD110は、その信号に基づいてモニタ112に映像を表示する。
なお、図2に示される例では、コンピュータ200は、HMD110の外部に設けられる構成が示されているが、別の局面において、コンピュータ200は、HMD110に内蔵されてもよい。一例として、モニタ112を含む携帯型の情報通信端末(例えば、スマートフォン)がコンピュータ200として機能してもよい。
また、コンピュータ200は、複数のHMD110に共通して用いられる構成であってもよい。このような構成によれば、例えば、複数のユーザに同一の仮想空間を提供することもできるので、各ユーザは同一の仮想空間で他のユーザと同一のアプリケーションを楽しむことができる。
ある実施の形態において、HMDシステム100では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、3つの基準方向(軸)を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれ、x軸、y軸、z軸と規定される。より具体的には、グローバル座標系において、x軸は現実空間の水平方向に平行である。y軸は、現実空間の鉛直方向に平行である。z軸は現実空間の前後方向に平行である。
ある局面において、HMDセンサ120は、赤外線センサを含む。赤外線センサが、HMD110の各光源から発せられた赤外線をそれぞれ検出すると、HMD110の存在を検出する。HMDセンサ120は、さらに、各点の値(グローバル座標系における各座標値)に基づいて、HMD110を装着したユーザ190の動きに応じた、現実空間内におけるHMD110の位置および傾きを検出する。より詳しくは、HMDセンサ120は、経時的に検出された各値を用いて、HMD110の位置および傾きの時間的変化を検出できる。
グローバル座標系は現実空間の座標系と平行である。したがって、HMDセンサ120によって検出されたHMD110の各傾きは、グローバル座標系におけるHMD110の3軸周りの各傾きに相当する。HMDセンサ120は、グローバル座標系におけるHMD110の傾きに基づき、uvw視野座標系をHMD110に設定する。HMD110に設定されるuvw視野座標系は、HMD110を装着したユーザ190が仮想空間において物体を見る際の視点座標系に対応する。
[uvw視野座標系]
図3を参照して、uvw視野座標系について説明する。図3は、ある実施の形態に従うHMD110に設定されるuvw視野座標系を概念的に表す図である。HMDセンサ120は、HMD110の起動時に、グローバル座標系におけるHMD110の位置および傾きを検出する。プロセッサ10は、検出された値に基づいて、uvw視野座標系をHMD110に設定する。
図3に示されるように、HMD110は、HMD110を装着したユーザの頭部を中心(原点)とした3次元のuvw視野座標系を設定する。より具体的には、HMD110は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向(x軸、y軸、z軸)を、グローバル座標系内においてHMD110の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる3つの方向を、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)として設定する。
ある局面において、HMD110を装着したユーザ190が直立し、かつ、正面を視認している場合、プロセッサ10は、グローバル座標系に平行なuvw視野座標系をHMD110に設定する。この場合、グローバル座標系における水平方向(x軸)、鉛直方向(y軸)、および前後方向(z軸)は、HMD110におけるuvw視野座標系のピッチ方向(u軸)、ヨー方向(v軸)、およびロール方向(w軸)に一致する。
uvw視野座標系がHMD110に設定された後、HMDセンサ120は、HMD110の動きに基づいて、設定されたuvw視野座標系におけるHMD110の傾き(傾きの変化量)を検出できる。この場合、HMDセンサ120は、HMD110の傾きとして、uvw視野座標系におけるHMD110のピッチ角(θu)、ヨー角(θv)、およびロール角(θw)をそれぞれ検出する。ピッチ角(θu)は、uvw視野座標系におけるピッチ方向周りのHMD110の傾き角度を表す。ヨー角(θv)は、uvw視野座標系におけるヨー方向周りのHMD110の傾き角度を表す。ロール角(θw)は、uvw視野座標系におけるロール方向周りのHMD110の傾き角度を表す。
HMDセンサ120は、検出されたHMD110の傾き角度に基づいて、HMD110が動いた後のHMD110におけるuvw視野座標系を、HMD110に設定する。HMD110と、HMD110のuvw視野座標系との関係は、HMD110の位置および傾きに関わらず、常に一定である。HMD110の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるHMD110のuvw視野座標系の位置および傾きが変化する。
ある局面において、HMDセンサ120は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係(例えば、各点間の距離など)に基づいて、HMD110の現実空間内における位置を、HMDセンサ120に対する相対位置として特定してもよい。また、プロセッサ10は、特定された相対位置に基づいて、現実空間内(グローバル座標系)におけるHMD110のuvw視野座標系の原点を決定してもよい。
[仮想空間]
図4を参照して、仮想空間についてさらに説明する。図4は、ある実施の形態に従う仮想空間2を表現する一態様を概念的に表す図である。仮想空間2は、中心21の360度方向の全体を覆う全天球状の構造を有する。図4では、説明を複雑にしないために、仮想空間2のうちの上半分の天球が例示されている。仮想空間2では各メッシュが規定される。各メッシュの位置は、仮想空間2に規定されるXYZ座標系における座標値として予め規定されている。コンピュータ200は、仮想空間2に展開可能なコンテンツ(静止画、動画等)を構成する各部分画像を、仮想空間2において対応する各メッシュにそれぞれ対応付けて、ユーザによって視認可能な仮想空間画像22が展開される仮想空間2をユーザに提供する。
ある局面において、仮想空間2では、中心21を原点とするXYZ座標系が規定される。XYZ座標系は、例えば、グローバル座標系に平行である。XYZ座標系は視点座標系の一種であるため、XYZ座標系における水平方向、鉛直方向(上下方向)、および前後方向は、それぞれX軸、Y軸、Z軸として規定される。したがって、XYZ座標系のX軸(水平方向)がグローバル座標系のx軸と平行であり、XYZ座標系のY軸(鉛直方向)がグローバル座標系のy軸と平行であり、XYZ座標系のZ軸(前後方向)がグローバル座標系のz軸と平行である。
HMD110の起動時、すなわちHMD110の初期状態において、仮想カメラ1が、仮想空間2の中心21に配置される。仮想カメラ1は、現実空間におけるHMD110の動きに連動して、仮想空間2を同様に移動する。これにより、現実空間におけるHMD110の位置および向きの変化が、仮想空間2において同様に再現される。
仮想カメラ1には、HMD110の場合と同様に、uvw視野座標系が規定される。仮想空間2における仮想カメラのuvw視野座標系は、現実空間(グローバル座標系)におけるHMD110のuvw視野座標系に連動するように規定されている。したがって、HMD110の傾きが変化すると、それに応じて、仮想カメラ1の傾きも変化する。また、仮想カメラ1は、HMD110を装着したユーザの現実空間における移動に連動して、仮想空間2において移動することもできる。
仮想カメラ1の向きは、仮想カメラ1の位置および傾きに応じて決まるので、ユーザが仮想空間画像22を視認する際に基準となる視線(基準視線5)は、仮想カメラ1の向きに応じて決まる。コンピュータ200のプロセッサ10は、基準視線5に基づいて、仮想空間2における視界領域23を規定する。視界領域23は、仮想空間2のうち、HMD110を装着したユーザの視界に対応する。
注視センサ140によって検出されるユーザ190の視線方向は、ユーザ190が物体を視認する際の視点座標系における方向である。HMD110のuvw視野座標系は、ユーザ190がモニタ112を視認する際の視点座標系に等しい。また、仮想カメラ1のuvw視野座標系は、HMD110のuvw視野座標系に連動している。したがって、ある局面に従うHMDシステム100は、注視センサ140によって検出されたユーザ190の視線方向を、仮想カメラ1のuvw視野座標系におけるユーザの視線方向とみなすことができる。
[ユーザの視線]
図5を参照して、ユーザの視線方向の決定について説明する。図5は、ある実施の形態に従うHMD110を装着するユーザ190の頭部を上から表した図である。
ある局面において、注視センサ140は、ユーザ190の右目および左目の各視線を検出する。ある局面において、ユーザ190が近くを見ている場合、注視センサ140は、視線R1およびL1を検出する。別の局面において、ユーザ190が遠くを見ている場合、注視センサ140は、視線R2およびL2を検出する。この場合、ロール方向wに対して視線R2およびL2がなす角度は、ロール方向wに対して視線R1およびL1がなす角度よりも小さい。注視センサ140は、検出結果をコンピュータ200に送信する。
コンピュータ200が、視線の検出結果として、視線R1およびL1の検出値を注視センサ140から受信した場合には、その検出値に基づいて、視線R1およびL1の交点である注視点N1を特定する。一方、コンピュータ200は、視線R2およびL2の検出値を注視センサ140から受信した場合には、視線R2およびL2の交点を注視点として特定する。コンピュータ200は、特定した注視点N1の位置に基づき、ユーザ190の視線方向N0を特定する。コンピュータ200は、例えば、ユーザ190の右目Rと左目Lとを結ぶ直線の中点と、注視点N1とを通る直線の延びる方向を、視線方向N0として検出する。視線方向N0は、ユーザ190が両目により実際に視線を向けている方向である。また、視線方向N0は、視界領域23に対してユーザ190が実際に視線を向けている方向に相当する。
別の局面において、HMDシステム100は、HMDシステム100を構成するいずれかのパーツに、マイクを備えてもよい。ユーザは、マイクに発話することにより、仮想空間2に対して、音声による指示を与えることができる。
また、別の局面において、HMDシステム100は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、HMDシステム100は、仮想空間2においてテレビ番組を表示することができる。
さらに別の局面において、HMDシステム100は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。
[視界領域]
図6および図7を参照して、視界領域23について説明する。図6は、仮想空間2において視界領域23をX方向から見たYZ断面を表す図である。図7は、仮想空間2において視界領域23をY方向から見たXZ断面を表す図である。
図6に示されるように、YZ断面における視界領域23は、領域24を含む。領域24は、仮想カメラ1の基準視線5と仮想空間2のYZ断面とによって定義される。プロセッサ10は、仮想空間おける基準視線5を中心として極角αを含む範囲を、領域24として規定する。
図7に示されるように、XZ断面における視界領域23は、領域25を含む。領域25は、基準視線5と仮想空間2のXZ断面とによって定義される。プロセッサ10は、仮想空間2における基準視線5を中心とした方位角βを含む範囲を、領域25として規定する。
ある局面において、HMDシステム100は、コンピュータ200からの信号に基づいて、視界画像をモニタ112に表示させることにより、ユーザ190に仮想空間を提供する。視界画像は、仮想空間画像22のうち視界領域23に重畳する部分に相当する。ユーザ190が、頭に装着したHMD110を動かすと、その動きに連動して仮想カメラ1も動く。その結果、仮想空間2における視界領域23の位置が変化する。これにより、モニタ112に表示される視界画像は、仮想空間画像22のうち、仮想空間2においてユーザが向いた方向の視界領域23に重畳する画像に更新される。ユーザは、仮想空間2における所望の方向を視認することができる。
ユーザ190は、HMD110を装着している間、現実世界を視認することなく、仮想空間2に展開される仮想空間画像22のみを視認できる。そのため、HMDシステム100は、仮想空間2への高い没入感覚をユーザに与えることができる。
ある局面において、プロセッサ10は、HMD110を装着したユーザ190の現実空間における移動に連動して、仮想空間2において仮想カメラ1を移動し得る。この場合、プロセッサ10は、仮想空間2における仮想カメラ1の位置および向きに基づいて、HMD110のモニタ112に投影される画像領域(すなわち、仮想空間2における視界領域23)を特定する。
ある実施の形態に従うと、仮想カメラ1は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ190が3次元の仮想空間2を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ1が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向(w)がHMD110のロール方向(w)に適合されるように構成されているものとして、本開示に係る技術思想を例示する。
[コントローラ]
図8を参照して、コントローラ160の一例について説明する。図8は、ある実施の形態に従うコントローラ160の概略構成を表す図である。
図8の分図(A)に示されるように、ある局面において、コントローラ160は、右コントローラ800と左コントローラとを含み得る。右コントローラ800は、ユーザ190の右手で操作される。左コントローラは、ユーザ190の左手で操作される。ある局面において、右コントローラ800と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ190は、右コントローラ800を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。別の局面において、コントローラ160は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ800について説明する。
右コントローラ800は、グリップ30と、フレーム31と、天面32とを備える。グリップ30は、ユーザ190の右手によって把持されるように構成されている。例えば、グリップ30は、ユーザ190の右手の掌と3本の指(中指、薬指、小指)とによって保持され得る。
グリップ30は、ボタン33,34と、モーションセンサ130とを含む。ボタン33は、グリップ30の側面に配置され、右手の中指による操作を受け付ける。ボタン34は、グリップ30の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン33,34は、トリガー式のボタンとして構成される。モーションセンサ130は、グリップ30の筐体に内蔵されている。なお、ユーザ190の動作がカメラその他の装置によってユーザ190の周りから検出可能である場合には、グリップ30は、モーションセンサ130を備えなくてもよい。
フレーム31は、その円周方向に沿って配置された複数の赤外線LED35を含む。赤外線LED35は、コントローラ160を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線LED35から発せられた赤外線は、右コントローラ800と左コントローラ(図示しない)との各位置や姿勢(傾き、向き)を検出するために使用され得る。図8に示される例では、二列に配置された赤外線LED35が示されているが、配列の数は図8に示されるものに限られない。一列あるいは3列以上の配列が使用されてもよい。
天面32は、ボタン36,37と、アナログスティック38とを備える。ボタン36,37は、プッシュ式ボタンとして構成される。ボタン36,37は、ユーザ190の右手の親指による操作を受け付ける。アナログスティック38は、ある局面において、初期位置(ニュートラルの位置)から360度任意の方向への操作を受け付ける。当該操作は、例えば、仮想空間2に配置されるオブジェクトを移動するための操作を含む。
ある局面において、右コントローラ800および左コントローラは、赤外線LED35その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型等を含むが、これらに限定されない。別の局面において、右コントローラ800と左コントローラは、例えば、コンピュータ200のUSBインターフェイスに接続され得る。この場合、右コントローラ800および左コントローラは、電池を必要としない。
図8の分図(B)は、右コントローラ800を把持するユーザ190の右手に対応して仮想空間に配置されるハンドオブジェクト810の一例を示す。例えば、ユーザ190の右手に対応するハンドオブジェクト810に対して、ヨー、ロール、ピッチの各方向が規定される。例えば、入力操作が、右コントローラ800のボタン34に対して行なわれると、ハンドオブジェクト810の人差し指を握りこんだ状態とし、入力操作がボタン34に対して行なわれていない場合には、分図(B)に示すように、ハンドオブジェクト810の人差し指を伸ばした状態とすることもできる。例えば、ハンドオブジェクト810において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト810に規定される。
[HMD110の制御装置]
図9を参照して、HMD110の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ200によって実現される。図9は、ある実施の形態に従うコンピュータ200をモジュール構成として表わすブロック図である。
図9に示されるように、コンピュータ200は、表示制御モジュール220と、仮想空間制御モジュール230と、メモリモジュール240と、通信制御モジュール250とを備える。表示制御モジュール220は、サブモジュールとして、仮想カメラ制御モジュール221と、視界領域決定モジュール222と、視界画像生成モジュール223と、基準視線特定モジュール224とを含む。仮想空間制御モジュール230は、サブモジュールとして、仮想空間定義モジュール231と、イベント源管理モジュール232と、イベント管理モジュール233とを含む。
ある実施の形態において、表示制御モジュール220と仮想空間制御モジュール230とは、プロセッサ10によって実現される。別の実施の形態において、複数のプロセッサ10が表示制御モジュール220と仮想空間制御モジュール230として作動してもよい。メモリモジュール240は、メモリ11またはストレージ12によって実現される。通信制御モジュール250は、通信インターフェイス14によって実現される。
ある局面において、表示制御モジュール220は、HMD110のモニタ112における画像表示を制御する。仮想カメラ制御モジュール221は、仮想空間2に仮想カメラ1を配置し、仮想カメラ1の挙動、向き等を制御する。視界領域決定モジュール222は、HMD110を装着したユーザの頭の向きに応じて、視界領域23を規定する。視界画像生成モジュール223は、決定された視界領域23に基づいて、モニタ112に表示される視界画像を生成する。
基準視線特定モジュール224は、注視センサ140からの信号に基づいて、ユーザ190の視線を特定する。
仮想空間制御モジュール230は、ユーザ190に提供される仮想空間2を制御する。仮想空間定義モジュール231は、仮想空間2を表わす仮想空間データを生成することにより、HMDシステム100における仮想空間2を規定する。
仮想空間制御モジュール230は、仮想空間2においてユーザに視認させたいキャラクタやインフォメーションなどをイベントとして所定の位置に予め設定することが可能である。イベント源管理モジュール232は、イベントを発生させる位置を管理する。イベント管理モジュール233は、発生したイベントの実行を管理する。本実施の形態において、イベントの実行の管理は、イベントを発生させること、イベントに応じて視界画像にオブジェクトを表示させること等を含む。
イベント源管理モジュール232は、仮想空間2においてイベントを発生させたい位置をイベント源(イベント発生源)として管理し、イベント源が視界領域23の内に一度入ってイベントが発生済みとなったか否かも管理する。また、イベント源管理モジュール232は、仮想空間2におけるイベント源を設定する情報の受付けも管理している。本実施の形態において、情報の受付けの管理は、ユーザ190の操作に基づいて入力される情報を受付けることと、受付けた情報に基づいてイベント源を設定するか否かを決定することとを含む。また、イベント源管理モジュール232は、イベント源が視界領域23内に入っている時間を計る。
イベント管理モジュール233は、仮想空間2においてユーザに視認させたいキャラクタやインフォメーションなどのイベントを発生させて実行することを管理する。例えば、イベント管理モジュール233は、実行するイベントに応じて視界画像に表示させるオブジェクト(例えばキャラクタや掲示板など)の情報を管理する。イベントは、例えば、イベント源の位置でオブジェクトを固定して表示する固定イベント、およびイベント源の位置からオブジェクトを移動させる移動イベント等を含む。具体的に、固定イベントでは、イベント管理モジュール233は、例えばイベント源の位置に掲示板のオブジェクトを発生させて、当該掲示板にインフォメーションを表示する。また、移動イベントでは、イベント管理モジュール233は、例えばイベント源の位置にゲームプログラムにおける対戦相手キャラクタのオブジェクトを登場させて、当該対戦相手キャラクタをユーザ方向に移動させる。また、イベント管理モジュール233は、イベント源で発生したキャラクタが移動した位置の情報も管理する。
メモリモジュール240は、コンピュータ200が仮想空間2をユーザ190に提供するために使用されるデータを保持している。ある局面において、メモリモジュール240は、空間情報241と、イベント情報242と、ユーザ情報243とを保持している。
空間情報241は、仮想空間2を提供するために規定された1つ以上のテンプレートを保持している。
イベント情報242は、仮想空間2にイベントを発生させて実行するために必要なデータを含む。当該データは、例えば、アプリケーションプログラムにおいて規定される仮想空間2に提示されるオブジェクトのデータ、当該オブジェクトが移動した位置の情報等を含む。
ユーザ情報243は、HMD110のユーザ190の識別情報、ユーザ190に関連付けられている権限等を含む。
通信制御モジュール250は、ネットワーク19を介して、サーバ150その他の情報通信装置と通信し得る。
ある局面において、表示制御モジュール220および仮想空間制御モジュール230は、例えば、ユニティテクノロジーズ社によって提供されるUnity(登録商標)を用いて実現され得る。別の局面において、表示制御モジュール220および仮想空間制御モジュール230は、各処理を実現する回路素子の組み合わせとしても実現され得る。
さらに、コンピュータ200は、音声を出力するためのモジュール(図示しない)を備える。音声を出力するためのモジュールは、表示制御モジュール220および仮想空間制御モジュール230と同様に、プロセッサ10によって実現される。音声を出力するためのモジュールは、HMD110のスピーカ118から音声を出力するための制御を行う。
コンピュータ200における処理は、ハードウェアと、プロセッサ10により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール240に予め格納されている場合がある。また、ソフトウェアは、CD−ROMその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール250を介してサーバ150その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ10によって記憶モジュールから読み出され、実行可能なプログラムの形式でRAMに格納される。プロセッサ10は、そのプログラムを実行する。
コンピュータ200を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ200に格納されたプログラムであるともいえる。なお、コンピュータ200のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、データ記録媒体としては、CD−ROM、FD(Flexible Disk)、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを含む)、光カード、マスクROM、EPROM(Electronically Programmable Read-Only Memory)、EEPROM(Electronically Erasable Programmable Read-Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。
ここでいうプログラムとは、プロセッサ10により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含み得る。
[制御構造]
図10を参照して、ある実施の形態に係るHMDシステム100の制御構造について説明する。図10は、HMDシステム100が実行する処理を表わすフローチャートである。
ステップS1010にて、コンピュータ200のプロセッサ10は、仮想空間定義モジュール231として、仮想空間画像データを特定し、仮想空間を定義する。
ステップS1020にて、プロセッサ10は、仮想カメラ1を初期化する。例えば、プロセッサ10は、メモリのワーク領域において、仮想カメラ1を仮想空間2において予め規定された中心点に配置し、仮想カメラ1の視線をユーザ190が向いている方向に向ける。
ステップS1030にて、プロセッサ10は、視界画像生成モジュール223として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、視界画像生成モジュール223を介して通信制御モジュール250によってHMD110に送られる。
ステップS1032にて、HMD110のモニタ112は、コンピュータ200から受信した視界画像データに基づいて、視界画像を表示する。HMD110を装着したユーザ190は、視界画像を視認すると仮想空間2を認識し得る。
ステップS1034にて、HMDセンサ120は、HMD110から発信される複数の赤外線光に基づいて、HMD110の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ200に送られる。
ステップS1040にて、プロセッサ10は、HMD110の位置と傾きとに基づいて、HMD110を装着したユーザ190の視界方向を特定する。プロセッサ10は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間2にイベント源を配置する。
ステップS1042にて、コントローラ160は、モーションセンサ130から出力される信号に基づいて、ユーザ190の動作を検出する。なお、別の局面において、ユーザ190の動作は、ユーザ190の周囲に配置されたカメラからの画像に基づいて検出されてもよい。
ステップS1050にて、プロセッサ10は、仮想空間2の視界内にあるイベント源を特定する。イベント源の位置はイベント源管理モジュール232によって管理されている。プロセッサ10は、イベント源管理モジュール232が管理するイベント源の位置に関する情報に基づいて、uvw座標系上のどの位置にイベント源が配置されているかを判断する。イベント源管理モジュール232は、仮想空間2の視界内に入ったイベント源の位置情報をプロセッサ10に返す。
ステップS1060にて、プロセッサ10は、仮想空間2の視界内に入ったイベント源の位置情報に基づいてイベントを発生する。イベント管理モジュール233は、イベント源で発生させるイベントを管理している。発生させるイベントが固定イベントであれば、プロセッサ10は、例えばイベント源の位置に掲示板のオブジェクトを発生させて当該掲示板にインフォメーションを表示する。また、発生させるイベントが移動イベントであれば、プロセッサ10は、イベント源の位置にキャラクタのオブジェクトを登場させてユーザの方向に当該キャラクタを移動させる。キャラクタの位置は、イベント管理モジュール233によって管理されている。プロセッサ10は、イベント管理モジュール233が管理するキャラクタの位置に関する情報に基づいて、uvw座標系上のどの位置にキャラクタが居るのかを特定することができる。なお、イベント源に基づいて発生したイベントは、その位置が仮想空間2の視界から外れた場合であっても、継続して実行される。
ステップS1070にて、プロセッサ10は、イベント源に基づいて発生させたイベントを含む視界画像データを生成し、生成した視界画像データを出力する。プロセッサ10は、イベントの情報をイベント管理モジュール233から受け取り、視界画像生成モジュール223によって、イベント発生後の視界画像を表示するための視界画像データを生成する。プロセッサ10は、生成したイベント発生後の視界画像データを視界画像生成モジュール223を介して通信制御モジュール250によってHMD110に送る。
ステップS1072にて、HMD110のモニタ112は、コンピュータ200から受信したイベント発生後の視界画像データに基づいて、視界画像を表示する。HMD110を装着したユーザ190は、視界画像を視認することにより、仮想空間2と、仮想空間2に表れたイベント(キャラクタやインフォメーションなど)とを認識し得る。
ステップS1080にて、プロセッサ10は、視界画像を更新することに伴ってイベントが発生することで音声を出力する場合は、音声データを生成して、生成した音声データをHMD110に出力する。
ステップS1082にて、HMD110は、コンピュータ200から受信した音声データに基づいてスピーカ118から音声を出力する。
図11を参照して、コンピュータ200の制御構造についてさらに説明する。図11は、ある実施の形態の一局面においてコンピュータ200のプロセッサ10が実行する詳細な処理を表わすフローチャートである。
ステップS1110にて、プロセッサ10は、ユーザ190の命令に基づいて、アプリケーションプログラムの実行を開始する。アプリケーションプログラムは、現実空間の出来事を仮想空間に表示可能なプログラムである。アプリケーションプログラムは、例えば、スポーツ、レースその他相手が存在し得るゲームプログラム等を含むが、ゲームプログラム以外のアプリケーションプログラムであってもよい。
ステップS1115にて、プロセッサ10は、仮想空間を定義して、モニタ112に初期視界画像を表示するためにHMD110に情報を出力する。本実施の形態において、情報とは、視界画像データと、音声データとを含む。
ステップS1120にて、プロセッサ10は、ステップS1115で定義した仮想空間に、イベント源を配置するためのデータを生成する。
ステップS1125にて、プロセッサ10は、ステップS1115で出力された初期視界画像の情報に基づきHMD110のモニタ112に初期視界画像を表示するためのデータを生成する。
ステップS1130にて、プロセッサ10は、コントローラ160からの信号に基づいて、現実空間におけるユーザ190の動作を検出する。
ステップS1135にて、プロセッサ10は、検出した現実空間におけるユーザ190の動作に基づいて、ユーザ190の仮想空間内の視界領域を特定する。
ステップS1140にて、プロセッサ10は、イベント源の位置と特定された視界領域とに基づいて、仮想空間の視界領域内のイベント源を特定する。イベント源の位置は、アプリケーションプログラムであるイベント源管理モジュール232によって予め定められている位置で管理されている。なお、イベント源の位置は、ユーザ190の動作によって移動させることができるものであってもよい。
ステップS1141にて、プロセッサ10は、イベント源が視界領域23内に入っている時間に基づいて、イベント源が一定時間(例えば5秒程度)以上仮想空間の視界領域内に入っているか否かを判定する。なお、ステップS1141での判定は、ユーザ190が例えば左右に首を振ったなど仮想空間の視界領域内にイベント源が一瞬入る程度でイベントが発生してしまうことを防止するためのステップである。
イベント源が一定時間以上、仮想空間の視界領域内に入っていない場合(ステップS1141にてNO)、プロセッサ10は、処理を後述するステップS1145に進める。イベント源が一定時間以上、仮想空間の視界領域内に入っている場合(ステップS1141にてYES)、ステップS1142にて、プロセッサ10は、仮想空間の視界領域内に入ったイベント源までの距離が予め定められた距離Lより短いか否かを判定する。仮想空間の視界領域内に入ったイベント源までの距離が所定距離L以上の場合(ステップS1142にてNO)、ステップS1143にて、プロセッサ10は、遅延時間なしでイベントを発生させる設定を行う。仮想空間の視界領域内に入ったイベント源までの距離が距離Lより短い場合(ステップS1142にてYES)、ステップS1144にて、プロセッサ10は、遅延時間tでイベントを発生させる設定を行う。なお、ステップS1142での判定は、イベント源までの距離に応じてイベントの発生を遅らせることでユーザ190の心理的な負担を軽減させている。たとえば、キャラクタを発生させた後にユーザ190の方向にそのキャラクタが近づいてくるイベントについて考える。キャラクタが発生した位置からユーザ190までの距離が近く、かつ、キャラクタがすぐに発生するような場合、ユーザ190はそのキャラクタに対応するための時間を確保することができない。そこで、キャラクタが発生するイベント源の位置からユーザ190までの距離が近い場合に、イベントの発生を遅延時間の分だけ遅らせることで、ユーザ190はキャラクタに対応するための時間として遅延時間の分だけ確保することができる。
ステップS1145にて、プロセッサ10は、仮想空間の視界領域内の全てのイベント源を特定したか否かを判定する。プロセッサ10は、全てのイベント源を特定していない場合(ステップS1145:NO)、処理をステップS1140に戻す。つまり、仮想空間の視界領域内の全てのイベント源について、ステップS1141〜ステップS1144の処理による判定がされるまで、ステップS1141〜ステップS1144の処理が繰り返される。なお、複数のイベント源が仮想空間の視界領域内に入っている場合に、プロセッサ10は、複数のイベント源に基づくイベントが同じタイミングで発生しないように、各イベント源でイベントを発生させるタイミングを互いに異なるように制御してもよい。
全てのイベント源を特定した場合(ステップS1145にてYES)、ステップS1150にて、プロセッサ10は、HMD110にデータを出力する。HMD110は、そのデータを受信すると、そのデータに基づいて、オブジェクトをモニタ112に表示する。つまり、HMDシステム100では、仮想空間の視界領域内に入ったイベント源のみがイベントを発生させ、仮想空間の視界領域外のイベント源についてはイベントを発生させないこととなる。
ステップS1155にて、プロセッサ10は、現実空間におけるユーザ190の動作を検出する。その動作がアプリケーションプログラムの終了を指示する動作である場合、プロセッサ10は、処理を終了する。その動作がその他の指示である場合、プロセッサ10は制御をステップS1135に切り換える。
なお、別の局面において、HMD110が情報処理機能と通信機能とを有し、例えば、プロセッサとメモリと通信装置とを備える場合には、プロセッサ10による処理は、例えば、HMD110のプロセッサによって実行されてもよい。この場合、HMD110は、コンピュータ200を介することなく、サーバ150と直接通信することができる。一例として、HMD110にスマートフォンが着脱可能である場合、スマートフォンのプロセッサが、その通信機能を用いてサーバ150と通信することもできる。
本実施の形態によると、プロセッサ10は、アプリケーションプログラムに登場するイベントのうち、仮想空間の視界領域内に入ったイベント源のみイベントを発生させ、仮想空間の視界領域外のイベント源についてはイベントを発生させていない。そのため、仮想空間の視界領域外のイベント源においてイベントが発生して、ユーザが当該イベント源の方向を向いたときに発生後のイベントを突然視認することで生じるユーザの心理的な負担を軽減することができる。
そこで、図12を参照して、ある実施の形態に従う具体的なイベントの発生および実行について説明する。図12は、仮想空間2におけるイベント源と仮想空間の視界領域との関係の一態様を例示する図である。
分図(A)は、仮想空間2において、イベント源1210〜1260、および仮想カメラ1の配置を表わす図である。イベント源1210〜1260は、いずれも仮想空間の視界領域23にまだ入っていないので、イベントが発生していない。イベント源1210〜1260は、移動イベントの発生源で、例えば、キャラクタや、ゲームプログラムにおける対戦相手キャラクタである。
分図(B)は、HMD110を装着したユーザ190がY軸方向(ヨー軸方向)に首を旋回させて、仮想空間の視界領域23にイベント源1210,1220が入った状態の仮想空間2を表わす図である。仮想空間の視界領域23に入ったイベント源1210,1220においてイベントが発生する。しかし、イベント源1220は仮想カメラ1(ユーザ190の位置に相当)からの距離が距離L以上であるため、遅延時間なしにイベントが発生する。一方、イベント源1210は仮想カメラ1からの距離が距離Lより短いため、遅延時間t後にイベントが発生する。そのため、分図(B)において、イベント源1210は、まだイベントが発生していない。なお、分図(B)では、×印で表示していたイベント源1220においてイベントが発生したので、○印のイベント1220Aとして表示を変更している。具体的に、イベント1220Aは、例えばゲームプログラムにおける対戦相手キャラクタAが出現するイベントである。HMD110は、イベントが発生した対戦相手キャラクタAが出現するタイミングで音声をスピーカ118から出力してもよい。
分図(C)は、遅延時間t後の仮想空間2を表わす図である。分図(B)で発生したイベント1220Aは、仮想カメラ1の方向に近づく処理が実行され仮想カメラ1からの距離が短くなっている。また、分図(B)でまだ発生していなかったイベント源1210は、遅延時間t経過したのでイベントが発生している。なお、分図(C)では、×印で表示していたイベント源1210においてイベントが発生したので、○印のイベント1210Aとして表示が変更されている。具体的に、イベント1210Aおよびイベント1220Aが、例えばゲームプログラムにおける対戦相手キャラクタである場合、プロセッサ10は、まずユーザ190から遠い対戦相手キャラクタA(イベント1220A)を出現させる。その後、プロセッサ10は、対戦相手キャラクタAをユーザ方向に近づかせつつ、ユーザ190に近い対戦相手キャラクタB(イベント1210A)を出現させる。
図13を参照して、実施の形態に従う別の具体的なイベントの発生および実行について説明する。図13は、仮想空間2におけるイベント源と仮想空間2の視界領域との関係の別の一態様を例示する図である。
分図(A)は、仮想空間2において、イベント1200A、イベント源1210〜1260、および仮想カメラ1の配置を表わす図である。イベント1200Aは、仮想空間2の視界領域23に入っていたイベント源において発生したイベントである。しかし、発生したイベント1200Aの位置は、仮想カメラ1の中心線50からX方向にずれている。そのため、ユーザ190が発生したイベント1200Aを注視しようとした場合、仮想カメラ1の中心線50上にイベント1200Aが位置するように首を動かすことになる。
分図(B)は、HMD110を装着したユーザ190が、仮想カメラ1の中心線50上にイベント1200Aが位置するようにY軸方向(ヨー軸方向)に首を旋回させた状態の仮想空間2を表わす図である。ユーザ190がイベント1200Aを注視するために首を旋回させることで、仮想空間2の視界領域23にイベント源1210が新たに入ることになり、イベント源1210においてイベント1210Aが発生している。なお、分図(B)では、×印で表示していたイベント源1210においてイベントが発生したので、○印のイベント1210Aとして表示を変更している。
<変形例>
(1)本実施の形態では、一旦発生したイベントは仮想空間の視界領域外になっても継続して演出(例えば、キャラクタがユーザに近づいてくる演出など)が実行されると説明した。しかし、これに限定されず、一旦発生したイベントであっても仮想空間の視界領域外になった場合、イベントの演出を中断または演出の実行速度を遅くするなどの処理を行ってもよい。
(2)また、本実施の形態では、ユーザ190からの距離が距離Lより短いイベント源に対しては一律に遅延時間t後にイベントを発生させると説明した。しかし、これに限定されず、ユーザ190からの距離に応じて遅延時間を変化させてもよい。
(3)さらに、本実施の形態では、イベント源が仮想空間の視界領域内に入ったか否かでイベントを発生させると説明した。しかし、これに限られず、イベント源が仮想空間の視界領域内に入ったか否かの条件以外の条件を、イベントを発生させる条件として追加してもよい。例えば、追加する条件として、ユーザからの距離やユーザの操作などの条件が考えられる。例えば、仮想空間において、視界領域を規定する仮想カメラから一定距離以内のイベント源については、仮想空間の視界領域内に入ったか否かでイベントを発生させ、仮想カメラから一定距離以上離れたイベント源については、イベントを発生させない。こうすることで、仮想空間においてユーザから遠くの位置にあるイベント源についてはイベントが発生しない。例えば、仮想空間において、イベント源が視界領域内に入ることでイベントが発生するようにすることで、ユーザの近くにいる敵オブジェクトはユーザに気づいて近づいてくる等の演出をすることができる。なお、このような処理を実現する方法として、例えば、イベント源が仮想空間の視界領域内に入ったか否かでイベントを発生させる際に、視界領域の範囲を、視界領域を規定する仮想カメラから一定距離以内のものとして定義することとしてもよい。
<まとめ>
以上開示された技術的特徴は、例えば、以下のように要約され得る。
(構成1) ある実施の形態に従うと、ヘッドマウントデバイス(HMD110)に仮想空間を提供するためにコンピュータ200によって実行される方法が提供される。この方法は、仮想空間2を定義するステップと、仮想空間内にイベント源1210,1220を定義するステップS1120と、HMD110を装着したユーザ190の動きに基づいて、仮想空間2内におけるユーザ190の視界(視界領域23)を特定するステップS1135と、イベント源1210,1220が視界領域23に入っているときに、イベント源1210,1220に基づくイベント1210A,1220Aを発生させるステップS1143,S1144とを含む。
(構成2) ある実施の形態に従うと、上記方法は、イベント源に基づいて発生したイベントの位置が視界領域23から外れた場合に当該イベントを継続させるステップをさらに含む。
(構成3) ある実施の形態に従うと、イベントを発生させるステップは、複数のイベント源1210,1220が視界に入っているときに、各イベント源に基づくイベントの各発生タイミングとして遅延時間tを設定することで互いに異ならせるステップS1142〜ステップS1144をさらに含む。
(構成4) ある実施の形態に従うと、イベントを発生させるステップは、イベント源が視界に予め定められた期間(一定時間)入っているときに、当該イベント源に基づいてイベントを発生させるステップS1141を含む。
(構成5) ある実施の形態に従うと、上記方法は、イベント源に基づいてイベントが発生したときに、音声を出力するステップS1082をさらに備える。
以上の次第で、ある実施の形態に従うと、上記方法は、イベント源が仮想空間の視界に入っているときに、当該イベント源に基づくイベントを発生させる。その結果、仮想空間の視界に入っていないところでイベントが発生し、突然イベントが仮想空間の視界に入ってくることを防ぐことができ、ユーザへ心理的な負担を軽減しつつ、イベントを視認し易くできる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 仮想カメラ、2 仮想空間、5 基準視線、10,151 プロセッサ、11,152 メモリ、12 ストレージ、13 入出力インターフェイス、14,153 通信インターフェイス、15 バス、19 ネットワーク、21 中心、22 仮想空間画像、23 視界領域、24,25 領域、30 グリップ、31 フレーム、32 天面、33,34,36,37 ボタン、38 アナログスティック、50 中心線、100 システム、112 モニタ、114,120 センサ、118 スピーカ、130 モーションセンサ、140 注視センサ、150 サーバ、160 コントローラ、190 ユーザ、200 コンピュータ、220 表示制御モジュール、221 仮想カメラ制御モジュール、222 視界領域決定モジュール、223 視界画像生成モジュール、224 基準視線特定モジュール、230 仮想空間制御モジュール、231 仮想空間定義モジュール、232 イベント源管理モジュール、233 イベント管理モジュール、240 メモリモジュール、241 空間情報、242 イベント情報、243 ユーザ情報、250 通信制御モジュール、800 右コントローラ、810 右手、1210,1220,1230,1240,1250,1260 イベント源、1200A,1210A,1220A イベント。

Claims (7)

  1. ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法であって、
    前記仮想空間を定義するステップと、
    前記仮想空間内にイベント発生源を定義するステップと、
    前記ヘッドマウントデバイスを装着したユーザの動きに基づいて、前記仮想空間内における前記ユーザの視界を特定するステップと、
    前記イベント発生源が前記視界に入っているときに、当該イベント発生源に基づくイベントを発生させるステップとを含む、方法。
  2. 前記イベント発生源に基づいて発生したイベントの位置が前記視界から外れた場合に当該イベントを継続させるステップをさらに含む、請求項1に記載の方法。
  3. 前記イベントを発生させるステップは、複数の前記イベント発生源が前記視界に入っているときに、各前記イベント発生源に基づくイベントの各発生タイミングを互いに異ならせるステップをさらに含む、請求項1または請求項2に記載の方法。
  4. 前記イベントを発生させるステップは、前記イベント発生源が前記視界に予め定められた期間入っているときに、当該イベント発生源に基づいてイベントを発生させるステップを含む、請求項1〜請求項3のいずれか1項に記載の方法。
  5. 前記イベント発生源に基づいてイベントが発生したときに、音声を出力するステップをさらに備える、請求項1〜請求項4のいずれか1項に記載の方法。
  6. 請求項1〜請求項5のいずれか1項に記載の方法をコンピュータに実行させる、プログラム。
  7. 請求項6に記載のプログラムを格納したメモリと、
    前記プログラムを実行するためのプロセッサとを備える、コンピュータ装置。
JP2016246970A 2016-12-20 2016-12-20 ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置 Pending JP2018101293A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016246970A JP2018101293A (ja) 2016-12-20 2016-12-20 ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置
US15/846,700 US20180239420A1 (en) 2016-12-20 2017-12-19 Method executed on computer for providing virtual space to head mount device, program for executing the method on the computer, and computer apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016246970A JP2018101293A (ja) 2016-12-20 2016-12-20 ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017250587A Division JP2018101422A (ja) 2017-12-27 2017-12-27 ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置

Publications (1)

Publication Number Publication Date
JP2018101293A true JP2018101293A (ja) 2018-06-28

Family

ID=62715454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016246970A Pending JP2018101293A (ja) 2016-12-20 2016-12-20 ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置

Country Status (2)

Country Link
US (1) US20180239420A1 (ja)
JP (1) JP2018101293A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6122537B1 (ja) * 2016-09-08 2017-04-26 株式会社コロプラ 情報処理方法及び当該情報処理方法をコンピュータに実行させるためのプログラム
JP2022025471A (ja) * 2020-07-29 2022-02-10 株式会社AniCast RM アニメーション制作システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09134446A (ja) * 1995-11-08 1997-05-20 Fujitsu Ltd 三次元画像表示方法及びそれに使用する三次元画像表示装置
JP2001236010A (ja) * 2000-02-25 2001-08-31 Kawasaki Heavy Ind Ltd 4輪車運転シミュレータ
JP2004267553A (ja) * 2003-03-10 2004-09-30 Square Enix Co Ltd ビデオゲームにおけるイベント制御方法、このための装置、ゲーム機、コンピュータプログラムおよび記憶媒体
JP2012019494A (ja) * 2010-07-09 2012-01-26 Ssd Co Ltd 自己位置利用システム
JP2016008894A (ja) * 2014-06-25 2016-01-18 株式会社Screenホールディングス 経路案内装置、経路案内方法、および経路案内プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9268406B2 (en) * 2011-09-30 2016-02-23 Microsoft Technology Licensing, Llc Virtual spectator experience with a personal audio/visual apparatus
US9696547B2 (en) * 2012-06-25 2017-07-04 Microsoft Technology Licensing, Llc Mixed reality system learned input and functions
US8922557B2 (en) * 2012-06-29 2014-12-30 Embarcadero Technologies, Inc. Creating a three dimensional user interface
JP6228640B1 (ja) * 2016-08-17 2017-11-08 株式会社コロプラ 表示制御方法および当該表示制御方法をコンピュータに実行させるためのプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09134446A (ja) * 1995-11-08 1997-05-20 Fujitsu Ltd 三次元画像表示方法及びそれに使用する三次元画像表示装置
JP2001236010A (ja) * 2000-02-25 2001-08-31 Kawasaki Heavy Ind Ltd 4輪車運転シミュレータ
JP2004267553A (ja) * 2003-03-10 2004-09-30 Square Enix Co Ltd ビデオゲームにおけるイベント制御方法、このための装置、ゲーム機、コンピュータプログラムおよび記憶媒体
JP2012019494A (ja) * 2010-07-09 2012-01-26 Ssd Co Ltd 自己位置利用システム
JP2016008894A (ja) * 2014-06-25 2016-01-18 株式会社Screenホールディングス 経路案内装置、経路案内方法、および経路案内プログラム

Also Published As

Publication number Publication date
US20180239420A1 (en) 2018-08-23

Similar Documents

Publication Publication Date Title
JP6298523B1 (ja) 仮想空間を介して通信するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるためのプログラム、およびコンピュータ装置
JP2019000174A (ja) 情報処理方法、プログラム及びコンピュータ
JP2018072992A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP2018072604A (ja) Vr酔いを抑制するための方法、当該方法をコンピュータに実行させるためのプログラムおよび、情報処理装置
JP6227732B1 (ja) 仮想空間において入力を支援するための方法および装置、ならびに当該方法をコンピュータに実行させるプログラム
JP6495398B2 (ja) 仮想空間を提供するための方法、プログラム、および当該プログラムを実行するための情報処理装置
JP6306678B1 (ja) 仮想空間にオブジェクトを提示するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置
JP6368404B1 (ja) 情報処理方法、プログラム及びコンピュータ
JP6457446B2 (ja) 仮想空間におけるコミュニケーションを支援するための方法および装置ならびに当該方法をコンピュータに実行させるためのプログラム
JP2018049629A (ja) 仮想空間において入力を支援するための方法および装置、ならびに当該方法をコンピュータに実行させるプログラム
JP2018101293A (ja) ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置
JP6278546B1 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6779840B2 (ja) 仮想空間における入力を支援するための方法および装置ならびに当該方法をコンピュータに実行させるプログラム
JP2018032384A (ja) 仮想空間におけるコミュニケーションを支援するための方法および装置ならびに当該方法をコンピュータに実行させるためのプログラム
JP6966336B2 (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
JP6776155B2 (ja) 仮想現実を提供するための方法、および当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP6444345B2 (ja) 仮想空間における入力を支援するための方法および装置ならびに当該方法をコンピュータに実行させるプログラム
JP2019145120A (ja) 仮想空間を提供するための方法、プログラム、および当該プログラムを実行するための情報処理装置
JP2019015972A (ja) Vr酔いを抑制するための方法、当該方法をコンピュータに実行させるためのプログラムおよび、情報処理装置
JP2019016358A (ja) 情報処理方法、プログラム及びコンピュータ
JP2019211868A (ja) 画像表示装置を介して仮想体験をユーザに提供するためのプログラム、コンピュータ及び方法
JP2018101422A (ja) ヘッドマウントデバイスに仮想空間を提供するためにコンピュータによって実行される方法、当該方法をコンピュータに実行させるプログラム、および、コンピュータ装置
JP6318224B1 (ja) ヘッドマウントデバイスを用いて仮想空間にコンテンツを表示するためにコンピュータで実行される方法、当該方法をコンピュータに実行させるプログラム、および、情報処理装置
JP6623199B2 (ja) ヘッドマウントデバイスを用いて仮想現実を提供するためにコンピュータで実行されるプログラムおよび情報処理装置
JP2019032715A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20171010