JP2019046250A - Program executed by computer to provide virtual space, method thereof, information processing apparatus for executing said program - Google Patents

Abstract

To provide a technique which presents, to a user, a candidate of a panoramic image desired by the user when a panoramic image spread in a virtual space is changed.SOLUTION: A program causes a computer to execute: a step (step S2415) for receiving, from a user of a head-mount device, an input of a trigger for changing a panoramic image extended in a virtual space to another panoramic image; a step (step S2420) for receiving an input of a retrieval key from the user after receiving the input of the trigger; a step (step S2460) for presenting, to the virtual space, information to be used for identifying one or more panoramic images retrieved by the retrieval key from a plurality of the panoramic images; and a step (step S2465) for receiving, from the user, an input for selecting one panoramic image from the one or more panoramic images.SELECTED DRAWING: Figure 24

Description

この開示は、仮想空間を提供する技術に関し、より特定的には、仮想空間に展開されるパノラマ画像を変更するための技術に関する。   The present disclosure relates to a technology for providing a virtual space, and more particularly to a technology for changing a panoramic image developed in the virtual space.

ヘッドマウントデバイス（ＨＭＤ：Head-Mounted Device）を用いて仮想空間を提供する技術が知られている。たとえば、特開２０１６−１４００７８号公報（特許文献１）は、ヘッドマウントディスプレイにパノラマ画像を表示する技術を開示している。   There is known a technology for providing a virtual space using a head-mounted device (HMD). For example, Japanese Patent Application Laid-Open No. 2016-140078 (Patent Document 1) discloses a technique for displaying a panoramic image on a head mounted display.

また、近年、仮想空間におけるユーザの体験を豊かにする様々な技術が提案されている。たとえば、非特許文献１は、仮想空間上に複数のユーザの各々のアバターを配置し、これらアバターを通じてユーザ間でのコミュニケーションを図る技術を開示している。   Also, in recent years, various techniques have been proposed to enrich the user's experience in virtual space. For example, Non-Patent Document 1 discloses a technology in which avatars of a plurality of users are arranged in a virtual space, and communication among users is achieved through these avatars.

特開２０１６−１４００７８号公報JP, 2016-140078, A

“Ｆａｃｅｂｏｏｋ、ＶＲの世界で友達と会えるアプリ「Ｓｐａｃｅｓ」を発表”、［online］、［平成２９年８月２５日検索］、インターネット〈URL：http://itpro.nikkeibp.co.jp/atcl/idg/14/481709/042000319/〉"Facebook announces application" Spaces "to meet friends in the world of VR", [online], [August 25, 2017 search], Internet <URL: http://itpro.nikkeibp.co.jp/atcl / idg / 14/481709/042000319 />

ある局面において、ユーザは、仮想空間に展開されているパノラマ画像を変更したいと考える。非特許文献１は、ユーザに対して切り替え候補のパノラマ画像を提示する技術を開示しているものの、これら切り替え候補のパノラマ画像の中にユーザが所望するパノラマ画像が含まれていない場合があった。したがって、ユーザが所望するパノラマ画像の候補を提示する技術が必要とされている。   In one aspect, the user wants to change the panoramic image developed in the virtual space. Although Non-Patent Document 1 discloses a technique for presenting a panoramic image of a switching candidate to the user, there is a case where the panoramic image desired by the user is not included in the panoramic images of these switching candidates. . Therefore, there is a need for a technique for presenting candidate panoramic images desired by the user.

本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、仮想空間に展開されるパノラマ画像を変更するにあたり、ユーザの所望するパノラマ画像をユーザに提示する技術を提供することである。   The present disclosure has been made to solve the problems as described above, and an object in one aspect is to present the user with a panoramic image desired by the user upon changing the panoramic image developed in the virtual space. Provide the technology to

ある実施形態に従うと、ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムが提供される。このプログラムはコンピュータに、予め定められた複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間に展開するステップと、ヘッドマウントデバイスのユーザから、仮想空間に展開されているパノラマ画像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップと、トリガの入力を受け付けた後に、ユーザから検索キーの入力を受け付けるステップと、複数のパノラマ画像の中から、検索キーにより検索された一以上のパノラマ画像を特定するための情報を仮想空間に提示するステップと、ユーザから、一以上のパノラマ画像の中から一のパノラマ画像を選択する入力を受け付けるステップと、選択された一のパノラマ画像を仮想空間に展開するステップとを実行させる。   According to an embodiment, a computer implemented program is provided for providing virtual space by a head mounted device. The program includes, on a computer, expanding one panoramic image included in a plurality of predetermined panoramic images into a virtual space, and a user of the head mount device, the panoramic image being expanded into the virtual space from the other panoramic images. The step of accepting an input of a trigger for changing to an image, the step of accepting an input of a search key from a user after accepting an input of a trigger, and one or more of the plurality of panoramic images searched by the search key The steps of presenting information for specifying a panoramic image in a virtual space, receiving an input from the user to select one panoramic image from among one or more panoramic images, and virtually selecting the selected panoramic image And the step of expanding in space.

ある実施形態に従うプログラムは、仮想空間に展開されるパノラマ画像を変更するにあたり、ユーザの所望するパノラマ画像をユーザに提示できる。   A program according to an embodiment can present the user with a panoramic image desired by the user in changing the panoramic image developed in the virtual space.

開示された技術的特徴の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。   The above and other objects, features, aspects and advantages of the disclosed technical features will be apparent from the following detailed description of the invention taken in conjunction with the accompanying drawings.

ある実施の形態に従うＨＭＤシステムの構成の概略を表す図である。BRIEF DESCRIPTION OF THE DRAWINGS Fig. 1 is a diagram schematically illustrating the configuration of an HMD system according to an embodiment. 一局面に従うコンピュータのハードウェア構成の一例を表すブロック図である。It is a block diagram showing an example of the hardware constitutions of the computer according to one mode. ある実施の形態に従うＨＭＤに設定されるｕｖｗ視野座標系を概念的に表す図である。It is a figure which represents notionally the uvw view coordinate system set to HMD according to one Embodiment. ある実施の形態に従う仮想空間を表現する一態様を概念的に表す図である。FIG. 1 conceptually illustrates an aspect of representing a virtual space in accordance with an embodiment. ある実施の形態に従うＨＭＤを装着するユーザの頭部を上から表した図である。FIG. 1 is a top view of a user's head wearing an HMD according to an embodiment; 仮想空間において視界領域をＸ方向から見たＹＺ断面を表す図である。It is a figure showing YZ section which looked at a field of view field from X direction in virtual space. 仮想空間において視界領域をＹ方向から見たＸＺ断面を表す図である。It is a figure showing the XZ section which looked at a field of view field from a Y direction in virtual space. ある実施の形態に従うコントローラの概略構成を表す図である。FIG. 2 is a diagram showing a schematic configuration of a controller according to an embodiment. ある実施の形態に従うコンピュータをモジュール構成として表すブロック図である。FIG. 1 is a block diagram representing a computer according to an embodiment as a modular configuration. ある実施の形態に従うＨＭＤシステムにおいて実行される処理の一部を表すシーケンスチャートである。7 is a sequence chart showing a part of processing executed in the HMD system according to an embodiment. 仮想空間に展開されているパノラマ画像を変更するための処理を説明する図（その１）である。FIG. 13 is a diagram (No. 1) for explaining the process for changing the panoramic image developed in the virtual space. パノラマ画像を変更するための処理を説明する図（その２）である。It is a figure (the 2) explaining the process for changing a panoramic image. パノラマ画像を変更するための処理を説明する図（その３）である。FIG. 13 is a diagram (part 3) for explaining the process for changing a panoramic image. ある実施形態に従うＨＭＤシステムの構成を説明するための図である。It is a figure for demonstrating the structure of the HMD system according to a certain embodiment. ユーザの顔画像から口を検出する制御について説明する図である。It is a figure explaining control which detects a mouth from a user's face picture. フェイストラッキングモジュールが口の形状を検出する処理を説明する図（その１）である。It is a figure (the 1) explaining processing which a face tracking module detects shape of a mouth. フェイストラッキングモジュールが口の形状を検出する処理を説明するための図（その２）である。It is a figure (2) for demonstrating the process in which a face tracking module detects the shape of a mouth. フェイストラッキングデータの構造の一例を表す。An example of the structure of face tracking data is shown. サーバのハードウェア構成と機能構成とを表すブロック図である。It is a block diagram showing the hardware constitutions and functional composition of a server. パノラマ画像ＤＢのデータ構造の一例を表す。An example of the data structure of panoramic image DB is shown. 学習用ＤＢのデータ構造の一例を表す。An example of a data structure of a learning DB is shown. ユーザが仮想空間において線図を描いている様子を表す視界画像である。It is a view image showing a user drawing a diagram in a virtual space. ユーザがパノラマ画像を選択する様子を表す視界画像である。It is a view image showing how a user selects a panoramic image. 線図に基づいてパノラマ画像を変更するための処理を表すフローチャートである。It is a flowchart showing the process for changing a panoramic image based on a diagram. 立体的な線図の入力を受け付ける様子を表す視界画像である。It is a field-of-view image showing a situation in which input of a three-dimensional diagram is received. 立体的な線図を２次元化する処理を説明する図である。It is a figure explaining the process which two-dimensionalizes a three-dimensional diagram. フェイストラッキングデータに基づいてパノラマ画像を変更するための処理を表すフローチャートである。It is a flowchart showing the process for changing a panoramic image based on face tracking data. ユーザが発話により検索キーを入力する様子を表す視界画像である。It is a visual field image which shows a mode that a user inputs a search key by speech. 音声信号から抽出される文字列に基づいてパノラマ画像を切り替えるための処理を表すフローチャートである。It is a flowchart showing the process for switching a panoramic image based on the character string extracted from an audio | voice signal. 複数のユーザが仮想空間を共有している場合のネットワークを説明する図である。It is a figure explaining the network in case a plurality of users share virtual space. ユーザが視認する視界画像を表す。It represents a field of view image viewed by the user.

以下、この技術的思想の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。なお、以下で説明される各実施の形態および各変形例は、適宜選択的に組み合わされてもよい。   Hereinafter, embodiments of this technical concept will be described in detail with reference to the drawings. In the following description, the same components are denoted by the same reference numerals. Their names and functions are also the same. Therefore, detailed description about them will not be repeated. In addition, each embodiment and each modification which are explained below may be combined suitably suitably.

［ＨＭＤシステムの構成］
図１を参照して、ＨＭＤシステム１００の構成について説明する。図１は、ある実施の形態に従うＨＭＤシステム１００の構成の概略を表す図である。ある局面において、ＨＭＤシステム１００は、家庭用のシステムとしてあるいは業務用のシステムとして提供される。 [Configuration of HMD system]
The configuration of the HMD system 100 will be described with reference to FIG. FIG. 1 is a diagram schematically illustrating the configuration of an HMD system 100 according to an embodiment. In one aspect, the HMD system 100 is provided as a home system or a business system.

ＨＭＤシステム１００は、ＨＭＤ１１０と、ＨＭＤセンサ１２０と、コントローラ１６０と、コンピュータ２００とを備える。ＨＭＤ１１０は、モニタ１１２と、注視センサ１４０と、スピーカ１１５と、マイク１１９とを含む。コントローラ１６０は、モーションセンサ１３０を含み得る。   The HMD system 100 includes an HMD 110, an HMD sensor 120, a controller 160, and a computer 200. The HMD 110 includes a monitor 112, a gaze sensor 140, a speaker 115, and a microphone 119. The controller 160 may include the motion sensor 130.

ある局面において、コンピュータ２００は、インターネットその他のネットワーク１９に接続可能であり、ネットワーク１９に接続されているサーバ１５０その他のコンピュータと通信可能である。他の局面において、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、センサ１１４を含み得る。   In one aspect, the computer 200 can connect to the Internet or other network 19 and can communicate with a server 150 or other computer connected to the network 19. In another aspect, the HMD 110 may include a sensor 114 instead of the HMD sensor 120.

ＨＭＤ１１０は、ユーザ１９０の頭部に装着され、動作中に仮想空間２をユーザ１９０に提供し得る。より具体的には、ＨＭＤ１１０は、右目用の画像および左目用の画像をモニタ１１２にそれぞれ表示する。ユーザ１９０の各目がそれぞれの画像を視認すると、ユーザ１９０は、両目の視差に基づき当該画像を３次元の画像として認識し得る。   The HMD 110 may be worn on the head of the user 190 and provide the virtual space 2 to the user 190 during operation. More specifically, the HMD 110 displays the image for the right eye and the image for the left eye on the monitor 112, respectively. When each eye of the user 190 visually recognizes each image, the user 190 can recognize the image as a three-dimensional image based on the parallax of both eyes.

モニタ１１２は、たとえば、非透過型の表示装置として実現される。ある局面において、モニタ１１２は、ユーザ１９０の両目の前方に位置するようにＨＭＤ１１０の本体に配置されている。したがって、ユーザ１９０は、モニタ１１２に表示される３次元画像を視認すると、仮想空間２に没入することができる。ある実施の形態において、仮想空間２は、たとえば、背景、ユーザ１９０が操作可能なオブジェクト、ユーザ１９０が選択可能なメニューの画像を含む。複数のコンピュータ２００が各ユーザの動作に基づく信号を受け渡しすることで、複数のユーザが一の仮想空間２で仮想体験できる構成であれば、各ユーザに対応するアバターオブジェクトが、仮想空間２に提示される。   The monitor 112 is implemented, for example, as a non-transmissive display device. In one aspect, the monitor 112 is disposed on the main body of the HMD 110 so as to be located in front of both eyes of the user 190. Therefore, when the user 190 visually recognizes the three-dimensional image displayed on the monitor 112, the user 190 can immerse in the virtual space 2. In one embodiment, the virtual space 2 includes, for example, a background, an object operable by the user 190, and an image of a menu selectable by the user 190. As long as a plurality of users can virtually experience in one virtual space 2 by passing a signal based on each user's operation, avatar objects corresponding to each user are presented in the virtual space 2 Be done.

なお、オブジェクトとは、仮想空間２に存在する仮想の物体である。ある局面において、オブジェクトは、ユーザに対応するアバターオブジェクト、アバターオブジェクトが身に着ける仮想アクセサリおよび仮想衣服、ユーザに関する情報が示されたパネルを模した仮想パネル、手紙を模した仮想手紙、およびポストを模した仮想ポストなどを含む。さらに、アバターオブジェクトは、仮想空間２においてユーザ１９０を象徴するキャラクタであり、たとえば人型、動物型、ロボット型などを含む。オブジェクトの形は様々である。ユーザ１９０は、予め決められたオブジェクトの中から好みのオブジェクトを仮想空間２に提示するようにしてもよいし、自分が作成したオブジェクトを仮想空間２に提示するようにしてもよい。   The object is a virtual object existing in the virtual space 2. In one aspect, the object includes an avatar object corresponding to the user, a virtual accessory and virtual clothes worn by the avatar object, a virtual panel imitating a panel showing information about the user, a virtual letter imitating a letter, and a post. Includes imitation virtual posts etc. Furthermore, the avatar object is a character that symbolizes the user 190 in the virtual space 2 and includes, for example, a human type, an animal type, and a robot type. The shapes of objects are various. The user 190 may present a favorite object to the virtual space 2 from among predetermined objects, or may present the object created by the user 190 to the virtual space 2.

ある実施の形態において、モニタ１１２は、所謂スマートフォンその他の情報表示端末が備える液晶モニタまたは有機ＥＬ（Electro Luminescence）モニタとして実現され得る。   In one embodiment, the monitor 112 can be realized as a liquid crystal monitor or an organic EL (Electro Luminescence) monitor provided in a so-called smart phone or other information display terminal.

ある局面において、モニタ１１２は、右目用の画像を表示するためのサブスクリーンと、左目用の画像を表示するためのサブスクリーンとを含み得る。他の局面において、モニタ１１２は、右目用の画像と左目用の画像とを一体として表示する構成であってもよい。この場合、モニタ１１２は、高速シャッタを含む。高速シャッタは、画像がいずれか一方の目にのみ認識されるように、右目用の画像と左目用の画像とを交互に表示可能に作動する。   In one aspect, the monitor 112 can include a sub-screen for displaying an image for the right eye and a sub-screen for displaying an image for the left eye. In another aspect, the monitor 112 may be configured to integrally display an image for the right eye and an image for the left eye. In this case, the monitor 112 includes a high speed shutter. The high speed shutter operates so as to alternately display the image for the right eye and the image for the left eye so that the image is recognized only for one of the eyes.

注視センサ１４０は、ユーザ１９０の右目および左目の視線が向けられる方向（視線方向）を検出する。当該方向の検出は、たとえば、公知のアイトラッキング機能によって実現される。注視センサ１４０は、当該アイトラッキング機能を有するセンサにより実現される。ある局面において、注視センサ１４０は、右目用のセンサおよび左目用のセンサを含むことが好ましい。注視センサ１４０は、たとえば、ユーザ１９０の右目および左目に赤外光を照射するとともに、照射光に対する角膜および虹彩からの反射光を受けることにより各眼球の回転角を検出するセンサであってもよい。注視センサ１４０は、検出した各回転角に基づいて、ユーザ１９０の視線方向を検知することができる。   The gaze sensor 140 detects the direction (gaze direction) in which the gaze of the right eye and the left eye of the user 190 is directed. The detection of the direction is realized by, for example, a known eye tracking function. The gaze sensor 140 is realized by a sensor having the eye tracking function. In one aspect, the gaze sensor 140 preferably includes a sensor for the right eye and a sensor for the left eye. The gaze sensor 140 may be, for example, a sensor that emits infrared light to the right and left eyes of the user 190, and detects the rotation angle of each eye by receiving reflected light from the cornea and iris to the irradiated light. . The gaze sensor 140 can detect the gaze direction of the user 190 based on each detected rotation angle.

スピーカ１１５は、コンピュータ２００から受信した音声データに対応する音声（発話）を外部に出力する。マイク１１９は、ユーザ１９０の発話に対応する音声データをコンピュータ２００に出力する。ユーザ１９０は、マイク１１９を用いて他のユーザに向けて発話する一方で、スピーカ１１５を用いて他のユーザの音声（発話）を聞くことができる。   The speaker 115 outputs voice (utterance) corresponding to voice data received from the computer 200 to the outside. The microphone 119 outputs voice data corresponding to the speech of the user 190 to the computer 200. The user 190 can speak to another user using the microphone 119 while listening to the voice (speech) of the other user using the speaker 115.

より具体的には、ユーザ１９０がマイク１１９に向かって発話すると、当該ユーザ１９０の発話に対応する音声データがコンピュータ２００に入力される。コンピュータ２００は、その音声データを、ネットワーク１９を介してサーバ１５０に出力する。サーバ１５０は、コンピュータ２００から受信した音声データを、ネットワーク１９を介して他のコンピュータ２００に出力する。他のコンピュータ２００は、サーバ１５０から受信した音声データを、他のユーザが装着するＨＭＤ１１０のスピーカ１１５に出力する。これにより、他のユーザは、ＨＭＤ１１０のスピーカ１１５を介してユーザ１９０の音声を聞くことができる。同様に、他のユーザからの発話は、ユーザ１９０が装着するＨＭＤ１１０のスピーカ１１５から出力される。   More specifically, when the user 190 speaks into the microphone 119, voice data corresponding to the speech of the user 190 is input to the computer 200. The computer 200 outputs the voice data to the server 150 via the network 19. The server 150 outputs the audio data received from the computer 200 to another computer 200 via the network 19. The other computer 200 outputs the audio data received from the server 150 to the speaker 115 of the HMD 110 worn by another user. This allows other users to hear the voice of the user 190 via the speaker 115 of the HMD 110. Similarly, utterances from other users are output from the speaker 115 of the HMD 110 worn by the user 190.

コンピュータ２００は、他のユーザのコンピュータ２００から受信した音声データに応じて、当該他のユーザに対応する他アバターオブジェクトを動かすような画像をモニタ１１２に表示する。たとえば、ある局面において、コンピュータ２００は、他アバターオブジェクトの口を動かすような画像をモニタ１１２に表示することで、あたかも仮想空間２内でアバターオブジェクト同士が会話しているかのように仮想空間２を表現する。このように、複数のコンピュータ２００間で音声データの送受信が行なわれることで、一の仮想空間２内で複数のユーザ間での会話（チャット）が実現される。   The computer 200 displays, on the monitor 112, an image for moving another avatar object corresponding to the other user according to the voice data received from the computer 200 of the other user. For example, in one aspect, the computer 200 displays an image for moving the mouth of another avatar object on the monitor 112, so that the virtual space 2 is displayed as if the avatar objects are in conversation in the virtual space 2. Express. Thus, by transmitting and receiving audio data between the plurality of computers 200, conversation (chat) among a plurality of users is realized in one virtual space 2.

ＨＭＤセンサ１２０は、複数の光源（図示しない）を含む。各光源は、たとえば、赤外線を発するＬＥＤ（Light Emitting Diode）により実現される。ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きを検出するためのポジショントラッキング機能を有する。ＨＭＤセンサ１２０は、この機能を用いて、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。   The HMD sensor 120 includes a plurality of light sources (not shown). Each light source is realized by, for example, an LED (Light Emitting Diode) that emits infrared light. The HMD sensor 120 has a position tracking function for detecting the movement of the HMD 110. The HMD sensor 120 uses this function to detect the position and tilt of the HMD 110 in the physical space.

なお、他の局面において、ＨＭＤセンサ１２０は、カメラにより実現されてもよい。この場合、ＨＭＤセンサ１２０は、カメラから出力されるＨＭＤ１１０の画像情報を用いて、画像解析処理を実行することにより、ＨＭＤ１１０の位置および傾きを検出することができる。   In another aspect, the HMD sensor 120 may be realized by a camera. In this case, the HMD sensor 120 can detect the position and the inclination of the HMD 110 by executing the image analysis process using the image information of the HMD 110 output from the camera.

他の局面において、ＨＭＤ１１０は、位置検出器として、ＨＭＤセンサ１２０の代わりに、センサ１１４を備えてもよい。ＨＭＤ１１０は、センサ１１４を用いて、ＨＭＤ１１０自身の位置および傾きを検出し得る。たとえば、センサ１１４が、角速度センサ、地磁気センサ、加速度センサ、あるいはジャイロセンサなどである場合、ＨＭＤ１１０は、ＨＭＤセンサ１２０の代わりに、これらの各センサのいずれかを用いて、自身の位置および傾きを検出し得る。一例として、センサ１１４が角速度センサである場合、角速度センサは、現実空間におけるＨＭＤ１１０の３軸周りの角速度を経時的に検出する。ＨＭＤ１１０は、各角速度に基づいて、ＨＭＤ１１０の３軸周りの角度の時間的変化を算出し、さらに、角度の時間的変化に基づいて、ＨＭＤ１１０の傾きを算出する。   In another aspect, the HMD 110 may include a sensor 114 instead of the HMD sensor 120 as a position detector. HMD 110 may use sensor 114 to detect the position and tilt of HMD 110 itself. For example, when the sensor 114 is an angular velocity sensor, a geomagnetic sensor, an acceleration sensor, or a gyro sensor, the HMD 110 uses one of these sensors instead of the HMD sensor 120 to determine its position and tilt. It can be detected. As an example, when the sensor 114 is an angular velocity sensor, the angular velocity sensor detects the angular velocity around three axes of the HMD 110 in real space over time. The HMD 110 calculates temporal changes in angles around the three axes of the HMD 110 based on each angular velocity, and further calculates inclination of the HMD 110 based on temporal changes in angles.

また、ＨＭＤ１１０は、透過型表示装置を備えていても良い。この場合、当該透過型表示装置は、その透過率を調整することにより、一時的に非透過型の表示装置として構成可能であってもよい。また、視野画像は仮想空間２を構成する画像の一部に、現実空間を提示する構成を含んでいてもよい。たとえば、ＨＭＤ１１０に搭載されたカメラで撮影した画像を視野画像の一部に重畳して表示させてもよいし、当該透過型表示装置の一部の透過率を高く設定することにより、視野画像の一部から現実空間を視認可能にしてもよい。   The HMD 110 may also include a transmissive display device. In this case, the transmissive display device may be temporarily configured as a non-transmissive display device by adjusting the transmittance thereof. Further, the view image may include a configuration for presenting the real space in a part of the image constituting the virtual space 2. For example, an image captured by a camera mounted on the HMD 110 may be superimposed and displayed on a part of the visual field image, or by setting the transmittance of a part of the transmissive display device to be high, The real space may be visible from part.

サーバ１５０は、コンピュータ２００にプログラムを送信し得る。他の局面において、サーバ１５０は、他のユーザによって使用されるＨＭＤ１１０に仮想現実を提供するための他のコンピュータ２００と通信し得る。たとえば、アミューズメント施設において、複数のユーザが参加型のゲームを行なう場合、各コンピュータ２００は、各ユーザの動作に基づく信号を他のコンピュータ２００と通信して、同じ仮想空間２において複数のユーザが共通のゲームを楽しむことを可能にする。また、上述したように、複数のコンピュータ２００が各ユーザの動作に基づく信号を送受信することで、一の仮想空間２内で複数のユーザが会話を楽しむことができる。   The server 150 may send the program to the computer 200. In another aspect, the server 150 may communicate with other computers 200 for providing virtual reality to the HMD 110 used by other users. For example, when a plurality of users play a participatory game in an amusement facility, each computer 200 communicates a signal based on each user's operation with another computer 200 so that a plurality of users share the same virtual space 2 Allows you to enjoy the game of. Further, as described above, the plurality of computers 200 can enjoy the conversation in the one virtual space 2 by transmitting and receiving signals based on the operations of the respective users.

コントローラ１６０は、ユーザ１９０からコンピュータ２００への命令の入力を受け付ける。ある局面において、コントローラ１６０は、ユーザ１９０によって把持可能に構成される。他の局面において、コントローラ１６０は、ユーザ１９０の身体あるいは衣類の一部に装着可能に構成される。他の局面において、コントローラ１６０は、コンピュータ２００から送られる信号に基づいて、振動、音、光のうちの少なくともいずれかを出力するように構成されてもよい。他の局面において、コントローラ１６０は、仮想現実を提供する空間に配置されるオブジェクトの位置や動きを制御するためにユーザ１９０によって与えられる操作を受け付ける。   The controller 160 receives an input of an instruction from the user 190 to the computer 200. In one aspect, controller 160 is configured to be graspable by user 190. In another aspect, the controller 160 is configured to be attachable to the body of the user 190 or a part of the clothes. In another aspect, the controller 160 may be configured to output vibration, sound, and / or light based on a signal sent from the computer 200. In another aspect, the controller 160 receives an operation provided by the user 190 to control the position and movement of an object placed in a space providing virtual reality.

モーションセンサ１３０は、ある局面において、ユーザ１９０の手に取り付けられて、ユーザ１９０の手の動きを検出する。たとえば、モーションセンサ１３０は、手の回転速度、回転数などを検出する。モーションセンサ１３０によって得られたユーザ１９０の手の動きの検出結果を表すデータ（以下、検出データともいう）は、コンピュータ２００に送られる。モーションセンサ１３０は、たとえば、手袋型のコントローラ１６０に設けられている。ある実施の形態において、現実空間における安全のため、コントローラ１６０は、手袋型のようにユーザ１９０の手に装着されることにより容易に飛んで行かないものに装着されるのが望ましい。他の局面において、ユーザ１９０に装着されないセンサがユーザ１９０の手の動きを検出してもよい。たとえば、ユーザ１９０を撮影するカメラの信号が、ユーザ１９０の動作を表す信号として、コンピュータ２００に入力されてもよい。モーションセンサ１３０とコンピュータ２００とは、有線により、または無線により互いに接続される。無線の場合、通信形態は特に限られず、たとえば、Ｂｌｕｅｔｏｏｔｈ（登録商標）その他の公知の通信手法が用いられる。   The motion sensor 130 is attached to the hand of the user 190 and detects the movement of the hand of the user 190 in one aspect. For example, the motion sensor 130 detects the rotation speed, rotation speed, and the like of the hand. Data (hereinafter also referred to as detection data) representing the detection result of the hand movement of the user 190 obtained by the motion sensor 130 is sent to the computer 200. The motion sensor 130 is provided, for example, in a glove-shaped controller 160. In one embodiment, for security in real space, the controller 160 is preferably worn like a glove type that does not easily fly by being worn on the hand of the user 190. In another aspect, a sensor not attached to the user 190 may detect the hand movement of the user 190. For example, a signal of a camera that captures the user 190 may be input to the computer 200 as a signal representing an operation of the user 190. The motion sensor 130 and the computer 200 are connected to each other by wire or wirelessly. In the case of wireless communication, the communication form is not particularly limited, and, for example, Bluetooth (registered trademark) or other known communication methods are used.

他の局面において、ＨＭＤシステム１００は、テレビジョン放送受信チューナを備えてもよい。このような構成によれば、ＨＭＤシステム１００は、仮想空間２においてテレビ番組を表示することができる。   In another aspect, the HMD system 100 may include a television broadcast receiver tuner. According to such a configuration, the HMD system 100 can display a television program in the virtual space 2.

さらに他の局面において、ＨＭＤシステム１００は、インターネットに接続するための通信回路、あるいは、電話回線に接続するための通話機能を備えていてもよい。   In yet another aspect, the HMD system 100 may be provided with a communication circuit for connecting to the Internet or a call function for connecting to a telephone line.

［コンピュータのハードウェア構成］
図２を参照して、本実施の形態に係るコンピュータ２００について説明する。図２は、一局面に従うコンピュータ２００のハードウェア構成の一例を表すブロック図である。コンピュータ２００は、主たる構成要素として、プロセッサ１０と、メモリ１１と、ストレージ１２と、入出力インターフェース１３と、通信インターフェース１４とを備える。各構成要素は、それぞれ、バス１５に接続されている。 [Computer hardware configuration]
A computer 200 according to the present embodiment will be described with reference to FIG. FIG. 2 is a block diagram illustrating an example of a hardware configuration of a computer 200 according to an aspect. The computer 200 includes a processor 10, a memory 11, a storage 12, an input / output interface 13, and a communication interface 14 as main components. Each component is connected to the bus 15 respectively.

プロセッサ１０は、コンピュータ２００に与えられる信号に基づいて、あるいは、予め定められた条件が成立したことに基づいて、メモリ１１またはストレージ１２に格納されているプログラムに含まれる一連の命令を実行する。ある局面において、プロセッサ１０は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processor Unit）、ＦＰＧＡ（Field-Programmable Gate Array）その他のデバイスとして実現される。   The processor 10 executes a series of instructions included in a program stored in the memory 11 or the storage 12 based on a signal supplied to the computer 200 or based on the establishment of a predetermined condition. In one aspect, the processor 10 is realized as a central processing unit (CPU), a micro processor unit (MPU), a field-programmable gate array (FPGA) or other devices.

メモリ１１は、プログラムおよびデータを一時的に保存する。プログラムは、たとえば、ストレージ１２からロードされる。データは、コンピュータ２００に入力されたデータと、プロセッサ１０によって生成されたデータとを含む。ある局面において、メモリ１１は、ＲＡＭ（Random Access Memory）その他の揮発メモリとして実現される。   The memory 11 temporarily stores programs and data. The program is, for example, loaded from the storage 12. The data includes data input to the computer 200 and data generated by the processor 10. In one aspect, the memory 11 is implemented as a random access memory (RAM) or another volatile memory.

ストレージ１２は、プログラムおよびデータを永続的に保持する。ストレージ１２は、たとえば、ＲＯＭ（Read-Only Memory）、ハードディスク装置、フラッシュメモリ、その他の不揮発記憶装置として実現される。ストレージ１２に格納されるプログラムは、ＨＭＤシステム１００において仮想空間２を提供するためのプログラム、シミュレーションプログラム、ゲームプログラム、ユーザ認証プログラム、他のコンピュータ２００との通信を実現するためのプログラムを含む。ストレージ１２に格納されるデータは、仮想空間２を規定するためのデータおよびオブジェクトなどを含む。   The storage 12 holds programs and data permanently. The storage 12 is implemented, for example, as a read-only memory (ROM), a hard disk drive, a flash memory, or another non-volatile storage device. The programs stored in the storage 12 include a program for providing the virtual space 2 in the HMD system 100, a simulation program, a game program, a user authentication program, and a program for realizing communication with another computer 200. The data stored in the storage 12 includes data, objects and the like for defining the virtual space 2.

なお、他の局面において、ストレージ１２は、メモリカードのように着脱可能な記憶装置として実現されてもよい。さらに他の局面において、コンピュータ２００に内蔵されたストレージ１２の代わりに、外部の記憶装置に保存されているプログラムおよびデータを使用する構成が使用されてもよい。このような構成によれば、たとえば、アミューズメント施設のように複数のＨＭＤシステム１００が使用される場面において、プログラムやデータの更新を一括して行なうことが可能になる。   In another aspect, the storage 12 may be realized as a removable storage device such as a memory card. In still another aspect, a configuration using programs and data stored in an external storage device may be used instead of the storage 12 built in the computer 200. According to such a configuration, for example, in a situation where a plurality of HMD systems 100 are used, such as an amusement facility, it is possible to perform updating of programs and data collectively.

ある実施の形態において、入出力インターフェース１３は、ＨＭＤ１１０、ＨＭＤセンサ１２０またはモーションセンサ１３０との間で信号を通信する。ある局面において、入出力インターフェース１３は、ＵＳＢ（Universal Serial Bus）インターフェース、ＤＶＩ（Digital Visual Interface）、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）その他の端子を用いて実現される。なお、入出力インターフェース１３は上述のものに限られない。   In one embodiment, input / output interface 13 communicates signals with HMD 110, HMD sensor 120 or motion sensor 130. In one aspect, the input / output interface 13 is realized using a Universal Serial Bus (USB) interface, a Digital Visual Interface (DVI), a High-Definition Multimedia Interface (HDMI (registered trademark)), and other terminals. The input / output interface 13 is not limited to the one described above.

ある実施の形態において、入出力インターフェース１３は、さらに、コントローラ１６０と通信し得る。たとえば、入出力インターフェース１３は、モーションセンサ１３０から出力された信号の入力を受ける。他の局面において、入出力インターフェース１３は、プロセッサ１０から出力された命令を、コントローラ１６０に送る。当該命令は、振動、音声出力、発光などをコントローラ１６０に指示する。コントローラ１６０は、当該命令を受信すると、その命令に応じて、振動、音声出力または発光のいずれかを実行する。   In one embodiment, input / output interface 13 may further communicate with controller 160. For example, the input / output interface 13 receives an input of a signal output from the motion sensor 130. In another aspect, the input / output interface 13 sends an instruction output from the processor 10 to the controller 160. The command instructs the controller 160 to vibrate, output sound, emit light, and the like. When the controller 160 receives the command, the controller 160 executes vibration, voice output or light emission according to the command.

通信インターフェース１４は、ネットワーク１９に接続されて、ネットワーク１９に接続されている他のコンピュータ（たとえば、サーバ１５０、他のユーザのコンピュータ２００など）と通信する。ある局面において、通信インターフェース１４は、たとえば、ＬＡＮ（Local Area Network）その他の有線通信インターフェース、あるいは、ＷｉＦｉ（Wireless Fidelity）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near Field Communication）その他の無線通信インターフェースとして実現される。なお、通信インターフェース１４は上述のものに限られない。   The communication interface 14 is connected to the network 19 to communicate with other computers (for example, the server 150, the computer 200 of another user, etc.) connected to the network 19. In one aspect, communication interface 14 is implemented as, for example, a LAN (Local Area Network) or other wired communication interface, or WiFi (Wireless Fidelity), Bluetooth (registered trademark), NFC (Near Field Communication) or other wireless communication interface. Be done. The communication interface 14 is not limited to the one described above.

ある局面において、プロセッサ１０は、ストレージ１２にアクセスし、ストレージ１２に格納されている１つ以上のプログラムをメモリ１１にロードし、当該プログラムに含まれる一連の命令を実行する。当該１つ以上のプログラムは、コンピュータ２００のオペレーティングシステム、仮想空間２を提供するためのアプリケーションプログラム、コントローラ１６０を用いて仮想空間２で実行可能なゲームソフトウェアなどを含み得る。プロセッサ１０は、入出力インターフェース１３を介して、仮想空間２を提供するための信号をＨＭＤ１１０に送る。ＨＭＤ１１０は、その信号に基づいてモニタ１１２に映像を表示する。   In one aspect, the processor 10 accesses the storage 12, loads one or more programs stored in the storage 12 into the memory 11, and executes a series of instructions included in the program. The one or more programs may include an operating system of the computer 200, an application program for providing the virtual space 2, game software executable in the virtual space 2 using the controller 160, and the like. The processor 10 sends a signal for providing the virtual space 2 to the HMD 110 via the input / output interface 13. The HMD 110 displays an image on the monitor 112 based on the signal.

なお、図２に示される例では、コンピュータ２００は、ＨＭＤ１１０の外部に設けられる構成が示されているが、他の局面において、コンピュータ２００は、ＨＭＤ１１０に内蔵されてもよい。一例として、モニタ１１２を含む携帯型の情報通信端末（たとえば、スマートフォン）がコンピュータ２００として機能してもよい。   In the example illustrated in FIG. 2, the computer 200 is configured to be provided outside the HMD 110. However, in another aspect, the computer 200 may be incorporated in the HMD 110. As one example, a portable information communication terminal (for example, a smartphone) including the monitor 112 may function as the computer 200.

また、コンピュータ２００は、複数のＨＭＤ１１０に共通して用いられる構成であってもよい。このような構成によれば、たとえば、複数のユーザに同一の仮想空間２を提供することもできるので、各ユーザは同一の仮想空間２で他のユーザと同一のアプリケーションを楽しむことができる。   In addition, the computer 200 may be configured to be commonly used for the plurality of HMDs 110. According to such a configuration, for example, since the same virtual space 2 can be provided to a plurality of users, each user can enjoy the same application as other users in the same virtual space 2.

ある実施の形態において、ＨＭＤシステム１００では、グローバル座標系が予め設定されている。グローバル座標系は、現実空間における鉛直方向、鉛直方向に直交する水平方向、ならびに、鉛直方向および水平方向の双方に直交する前後方向にそれぞれ平行な、３つの基準方向（軸）を有する。本実施の形態では、グローバル座標系は視点座標系の一つである。そこで、グローバル座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれ、ｘ軸、ｙ軸、ｚ軸と規定される。より具体的には、グローバル座標系において、ｘ軸は現実空間の水平方向に平行である。ｙ軸は、現実空間の鉛直方向に平行である。ｚ軸は現実空間の前後方向に平行である。   In one embodiment, in the HMD system 100, a global coordinate system is preset. The global coordinate system has three reference directions (axes) parallel to the vertical direction in real space, the horizontal direction perpendicular to the vertical direction, and the front-back direction orthogonal to both the vertical direction and the horizontal direction. In the present embodiment, the global coordinate system is one of viewpoint coordinate systems. Therefore, the horizontal direction, the vertical direction (vertical direction), and the front-rear direction in the global coordinate system are defined as an x-axis, a y-axis, and a z-axis, respectively. More specifically, in the global coordinate system, the x-axis is parallel to the horizontal direction of the real space. The y-axis is parallel to the vertical direction of the real space. The z axis is parallel to the front and back direction of the real space.

ある局面において、ＨＭＤセンサ１２０は、赤外線センサを含む。赤外線センサが、ＨＭＤ１１０の各光源から発せられた赤外線をそれぞれ検出すると、ＨＭＤ１１０の存在を検出する。ＨＭＤセンサ１２０は、さらに、各点の値（グローバル座標系における各座標値）に基づいて、ＨＭＤ１１０を装着したユーザ１９０の動きに応じた、現実空間内におけるＨＭＤ１１０の位置および傾きを検出する。より詳しくは、ＨＭＤセンサ１２０は、経時的に検出された各値を用いて、ＨＭＤ１１０の位置および傾きの時間的変化を検出できる。   In one aspect, the HMD sensor 120 includes an infrared sensor. When the infrared sensor detects the infrared rays emitted from the respective light sources of the HMD 110, the presence of the HMD 110 is detected. The HMD sensor 120 further detects the position and the inclination of the HMD 110 in the real space according to the movement of the user 190 wearing the HMD 110 based on the value of each point (each coordinate value in the global coordinate system). More specifically, the HMD sensor 120 can detect temporal changes in the position and inclination of the HMD 110 using each value detected over time.

グローバル座標系は現実空間の座標系と平行である。したがって、ＨＭＤセンサ１２０によって検出されたＨＭＤ１１０の各傾きは、グローバル座標系におけるＨＭＤ１１０の３軸周りの各傾きに相当する。ＨＭＤセンサ１２０は、グローバル座標系におけるＨＭＤ１１０の傾きに基づき、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。ＨＭＤ１１０に設定されるｕｖｗ視野座標系は、ＨＭＤ１１０を装着したユーザ１９０が仮想空間２において物体を見る際の視点座標系に対応する。   The global coordinate system is parallel to the real space coordinate system. Therefore, each inclination of the HMD 110 detected by the HMD sensor 120 corresponds to each inclination around three axes of the HMD 110 in the global coordinate system. The HMD sensor 120 sets the uvw visual field coordinate system to the HMD 110 based on the inclination of the HMD 110 in the global coordinate system. The uvw visual field coordinate system set in the HMD 110 corresponds to the visual point coordinate system when the user 190 wearing the HMD 110 views an object in the virtual space 2.

［ｕｖｗ視野座標系］
図３を参照して、ｕｖｗ視野座標系について説明する。図３は、ある実施の形態に従うＨＭＤ１１０に設定されるｕｖｗ視野座標系を概念的に表す図である。ＨＭＤセンサ１２０は、ＨＭＤ１１０の起動時に、グローバル座標系におけるＨＭＤ１１０の位置および傾きを検出する。プロセッサ１０は、検出された値に基づいて、ｕｖｗ視野座標系をＨＭＤ１１０に設定する。 [Uvw view coordinate system]
The uvw view coordinate system will be described with reference to FIG. FIG. 3 is a diagram conceptually illustrating the uvw visual field coordinate system set in the HMD 110 according to an embodiment. The HMD sensor 120 detects the position and tilt of the HMD 110 in the global coordinate system when the HMD 110 is activated. The processor 10 sets the uvw visual field coordinate system to the HMD 110 based on the detected value.

図３に示されるように、ＨＭＤ１１０は、ＨＭＤ１１０を装着したユーザ１９０の頭部を中心（原点）とした３次元のｕｖｗ視野座標系を設定する。より具体的には、ＨＭＤ１１０は、グローバル座標系を規定する水平方向、鉛直方向、および前後方向（ｘ軸、ｙ軸、ｚ軸）を、グローバル座標系内においてＨＭＤ１１０の各軸周りの傾きだけ各軸周りにそれぞれ傾けることによって新たに得られる３つの方向を、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）として設定する。   As shown in FIG. 3, the HMD 110 sets a three-dimensional uvw visual field coordinate system centered on the head of the user 190 wearing the HMD 110 (origin). More specifically, the HMD 110 defines the global coordinate system in the horizontal direction, the vertical direction, and the front-back direction (x-axis, y-axis, z-axis) by inclination around each axis of the HMD 110 in the global coordinate system. Three directions newly obtained by tilting around the axes respectively are set as the pitch direction (u axis), the yaw direction (v axis), and the roll direction (w axis) of the uvw view coordinate system in the HMD 110.

ある局面において、ＨＭＤ１１０を装着したユーザ１９０が直立し、かつ、正面を視認している場合、プロセッサ１０は、グローバル座標系に平行なｕｖｗ視野座標系をＨＭＤ１１０に設定する。この場合、グローバル座標系における水平方向（ｘ軸）、鉛直方向（ｙ軸）、および前後方向（ｚ軸）は、ＨＭＤ１１０におけるｕｖｗ視野座標系のピッチ方向（ｕ軸）、ヨー方向（ｖ軸）、およびロール方向（ｗ軸）に一致する。   In one aspect, when the user 190 wearing the HMD 110 stands upright and views the front, the processor 10 sets the uvw visual field coordinate system parallel to the global coordinate system to the HMD 110. In this case, the horizontal direction (x-axis), the vertical direction (y-axis), and the front-back direction (z-axis) in the global coordinate system are the pitch direction (u-axis) of the uvw view coordinate system in the HMD 110, the yaw direction (v-axis) , And in the roll direction (w axis).

ｕｖｗ視野座標系がＨＭＤ１１０に設定された後、ＨＭＤセンサ１２０は、ＨＭＤ１１０の動きに基づいて、設定されたｕｖｗ視野座標系におけるＨＭＤ１１０の傾き（傾きの変化量）を検出できる。この場合、ＨＭＤセンサ１２０は、ＨＭＤ１１０の傾きとして、ｕｖｗ視野座標系におけるＨＭＤ１１０のピッチ角（θｕ）、ヨー角（θｖ）、およびロール角（θｗ）をそれぞれ検出する。ピッチ角（θｕ）は、ｕｖｗ視野座標系におけるピッチ方向周りのＨＭＤ１１０の傾き角度を表す。ヨー角（θｖ）は、ｕｖｗ視野座標系におけるヨー方向周りのＨＭＤ１１０の傾き角度を表す。ロール角（θｗ）は、ｕｖｗ視野座標系におけるロール方向周りのＨＭＤ１１０の傾き角度を表す。   After the uvw visual field coordinate system is set to the HMD 110, the HMD sensor 120 can detect the inclination (the amount of change in the inclination) of the HMD 110 in the set uvw visual field coordinate system based on the movement of the HMD 110. In this case, the HMD sensor 120 detects the pitch angle (θu), the yaw angle (θv), and the roll angle (θw) of the HMD 110 in the uvw view coordinate system as the inclination of the HMD 110, respectively. The pitch angle (θu) represents the inclination angle of the HMD 110 around the pitch direction in the uvw view coordinate system. The yaw angle (θv) represents the inclination angle of the HMD 110 around the yaw direction in the uvw view coordinate system. The roll angle (θw) represents the inclination angle of the HMD 110 around the roll direction in the uvw view coordinate system.

ＨＭＤセンサ１２０は、検出されたＨＭＤ１１０の傾き角度に基づいて、ＨＭＤ１１０が動いた後のＨＭＤ１１０におけるｕｖｗ視野座標系を、ＨＭＤ１１０に設定する。ＨＭＤ１１０と、ＨＭＤ１１０のｕｖｗ視野座標系との関係は、ＨＭＤ１１０の位置および傾きに関わらず、常に一定である。ＨＭＤ１１０の位置および傾きが変わると、当該位置および傾きの変化に連動して、グローバル座標系におけるＨＭＤ１１０のｕｖｗ視野座標系の位置および傾きが変化する。   The HMD sensor 120 sets the uvw visual field coordinate system in the HMD 110 after the HMD 110 has moved to the HMD 110 based on the detected inclination angle of the HMD 110. The relationship between the HMD 110 and the uvw view coordinate system of the HMD 110 is always constant regardless of the position and tilt of the HMD 110. When the position and the inclination of the HMD 110 change, the position and the inclination of the uvw view coordinate system of the HMD 110 in the global coordinate system change in conjunction with the change of the position and the inclination.

ある局面において、ＨＭＤセンサ１２０は、赤外線センサからの出力に基づいて取得される赤外線の光強度および複数の点間の相対的な位置関係（たとえば、各点間の距離など）に基づいて、ＨＭＤ１１０の現実空間内における位置を、ＨＭＤセンサ１２０に対する相対位置として特定してもよい。また、プロセッサ１０は、特定された相対位置に基づいて、現実空間内（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系の原点を決定してもよい。   In one aspect, the HMD sensor 120 detects the HMD 110 based on the light intensity of the infrared light acquired based on the output from the infrared sensor and the relative positional relationship between the plurality of points (for example, the distance between each point). The position in the real space of may be specified as a relative position to the HMD sensor 120. Also, the processor 10 may determine the origin of the uvw visual field coordinate system of the HMD 110 in the real space (global coordinate system) based on the identified relative position.

［仮想空間］
図４を参照して、仮想空間２についてさらに説明する。図４は、ある実施の形態に従う仮想空間２を表現する一態様を概念的に表す図である。仮想空間２は、中心２１の３６０度方向の全体を覆う全天球状の構造を有する。図４では、説明を複雑にしないために、仮想空間２のうちの上半分の天球が例示されている。仮想空間２では各メッシュが規定される。各メッシュの位置は、仮想空間２に規定されるＸＹＺ座標系における座標値として予め規定されている。コンピュータ２００は、仮想空間２に展開可能なコンテンツ（静止画、動画など）を構成する各部分画像を、仮想空間２において対応する各メッシュにそれぞれ対応付けて、ユーザ１９０によって視認可能な仮想空間画像２２が展開される仮想空間２をユーザ１９０に提供する。 [Virtual space]
The virtual space 2 will be further described with reference to FIG. FIG. 4 is a diagram conceptually illustrating an aspect of representing virtual space 2 according to an embodiment. The virtual space 2 has an all-sky spherical structure that covers the entire 360-degree direction of the center 21. In FIG. 4, the celestial sphere in the upper half of the virtual space 2 is illustrated so as not to complicate the description. In the virtual space 2, each mesh is defined. The position of each mesh is previously defined as coordinate values in the XYZ coordinate system defined in the virtual space 2. The computer 200 associates virtual images that can be viewed by the user 190 with the partial images that constitute content (still images, moving images, etc.) that can be developed in the virtual space 2 associated with the corresponding meshes in the virtual space 2. 22 provides the user 190 with the virtual space 2 to be deployed.

ある局面において、仮想空間２では、中心２１を原点とするＸＹＺ座標系が規定される。ＸＹＺ座標系は、たとえば、グローバル座標系に平行である。ＸＹＺ座標系は視点座標系の一種であるため、ＸＹＺ座標系における水平方向、鉛直方向（上下方向）、および前後方向は、それぞれＸ軸、Ｙ軸、Ｚ軸として規定される。したがって、ＸＹＺ座標系のＸ軸（水平方向）がグローバル座標系のｘ軸と平行であり、ＸＹＺ座標系のＹ軸（鉛直方向）がグローバル座標系のｙ軸と平行であり、ＸＹＺ座標系のＺ軸（前後方向）がグローバル座標系のｚ軸と平行である。   In one aspect, in the virtual space 2, an XYZ coordinate system having a center 21 as an origin is defined. The XYZ coordinate system is, for example, parallel to the global coordinate system. Since the XYZ coordinate system is a kind of viewpoint coordinate system, the horizontal direction, the vertical direction (vertical direction), and the front-rear direction in the XYZ coordinate system are defined as an X axis, a Y axis, and a Z axis, respectively. Therefore, the X axis (horizontal direction) of the XYZ coordinate system is parallel to the x axis of the global coordinate system, the Y axis (vertical direction) of the XYZ coordinate system is parallel to the y axis of the global coordinate system, and The Z-axis (front-back direction) is parallel to the z-axis of the global coordinate system.

ＨＭＤ１１０の起動時、すなわちＨＭＤ１１０の初期状態において、仮想カメラ１が、仮想空間２の中心２１に配置される。仮想カメラ１は、現実空間におけるＨＭＤ１１０の動きに連動して、仮想空間２を同様に移動する。これにより、現実空間におけるＨＭＤ１１０の位置および向きの変化が、仮想空間２において同様に再現される。   When the HMD 110 is activated, that is, in the initial state of the HMD 110, the virtual camera 1 is disposed at the center 21 of the virtual space 2. The virtual camera 1 similarly moves in the virtual space 2 in conjunction with the movement of the HMD 110 in the real space. Thereby, changes in the position and orientation of the HMD 110 in the real space are similarly reproduced in the virtual space 2.

仮想カメラ１には、ＨＭＤ１１０の場合と同様に、ｕｖｗ視野座標系が規定される。仮想空間２における仮想カメラのｕｖｗ視野座標系は、現実空間（グローバル座標系）におけるＨＭＤ１１０のｕｖｗ視野座標系に連動するように規定されている。したがって、ＨＭＤ１１０の傾きが変化すると、それに応じて、仮想カメラ１の傾きも変化する。また、仮想カメラ１は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において移動することもできる。   As in the case of the HMD 110, a uvw visual field coordinate system is defined in the virtual camera 1. The uvw view coordinate system of the virtual camera in the virtual space 2 is defined to interlock with the uvw view coordinate system of the HMD 110 in the real space (global coordinate system). Therefore, when the inclination of the HMD 110 changes, the inclination of the virtual camera 1 also changes accordingly. The virtual camera 1 can also move in the virtual space 2 in conjunction with the movement of the user 190 wearing the HMD 110 in the real space.

仮想カメラ１の向きは、仮想カメラ１の位置および傾きに応じて決まるので、ユーザ１９０が仮想空間画像２２を視認する際に基準となる視線（基準視線５）は、仮想カメラ１の向きに応じて決まる。コンピュータ２００のプロセッサ１０は、基準視線５に基づいて、仮想空間２における視界領域２３を規定する。視界領域２３は、仮想空間２のうち、ＨＭＤ１１０を装着したユーザ１９０の視界に対応する。   Since the direction of the virtual camera 1 is determined according to the position and the inclination of the virtual camera 1, the line of sight (reference line of sight 5) serving as a reference when the user 190 views the virtual space image 22 depends on the direction of the virtual camera 1 It is decided. The processor 10 of the computer 200 defines a view area 23 in the virtual space 2 based on the reference line of sight 5. The view area 23 corresponds to the view of the user 190 wearing the HMD 110 in the virtual space 2.

注視センサ１４０によって検出されるユーザ１９０の視線方向は、ユーザ１９０が物体を視認する際の視点座標系における方向である。ＨＭＤ１１０のｕｖｗ視野座標系は、ユーザ１９０がモニタ１１２を視認する際の視点座標系に等しい。また、仮想カメラ１のｕｖｗ視野座標系は、ＨＭＤ１１０のｕｖｗ視野座標系に連動している。したがって、ある局面に従うＨＭＤシステム１００は、注視センサ１４０によって検出されたユーザ１９０の視線方向を、仮想カメラ１のｕｖｗ視野座標系におけるユーザ１９０の視線方向とみなすことができる。   The gaze direction of the user 190 detected by the gaze sensor 140 is a direction in the viewpoint coordinate system when the user 190 visually recognizes an object. The uvw view coordinate system of the HMD 110 is equal to the view coordinate system when the user 190 views the monitor 112. Further, the uvw view coordinate system of the virtual camera 1 is linked to the uvw view coordinate system of the HMD 110. Therefore, the HMD system 100 according to an aspect can regard the gaze direction of the user 190 detected by the gaze sensor 140 as the gaze direction of the user 190 in the uvw view coordinate system of the virtual camera 1.

［ユーザの視線］
図５を参照して、ユーザ１９０の視線方向の決定について説明する。図５は、ある実施の形態に従うＨＭＤ１１０を装着するユーザ１９０の頭部を上から表した図である。 [User's gaze]
The determination of the gaze direction of the user 190 will be described with reference to FIG. FIG. 5 is a top view of the head of a user 190 wearing the HMD 110 according to one embodiment.

ある局面において、注視センサ１４０は、ユーザ１９０の右目および左目の各視線を検出する。ある局面において、ユーザ１９０が近くを見ている場合、注視センサ１４０は、視線Ｒ１およびＬ１を検出する。他の局面において、ユーザ１９０が遠くを見ている場合、注視センサ１４０は、視線Ｒ２およびＬ２を検出する。この場合、ロール方向ｗに対して視線Ｒ２およびＬ２がなす角度は、ロール方向ｗに対して視線Ｒ１およびＬ１がなす角度よりも小さい。注視センサ１４０は、検出結果をコンピュータ２００に送信する。   In one aspect, the gaze sensor 140 detects the gaze of each of the right eye and the left eye of the user 190. In one aspect, when the user 190 is looking close, the gaze sensor 140 detects the sight lines R1 and L1. In another aspect, when the user 190 is looking far, the gaze sensor 140 detects the sight lines R2 and L2. In this case, the angle between the lines of sight R2 and L2 with respect to the roll direction w is smaller than the angle between the lines of sight R1 and L1 with respect to the direction of roll w. The gaze sensor 140 transmits the detection result to the computer 200.

コンピュータ２００が、視線の検出結果として、視線Ｒ１およびＬ１の検出値を注視センサ１４０から受信した場合には、その検出値に基づいて、視線Ｒ１およびＬ１の交点である注視点Ｎ１を特定する。一方、コンピュータ２００は、視線Ｒ２およびＬ２の検出値を注視センサ１４０から受信した場合には、視線Ｒ２およびＬ２の交点を注視点として特定する。コンピュータ２００は、特定した注視点Ｎ１の位置に基づき、ユーザ１９０の視線方向Ｎ０を特定する。コンピュータ２００は、たとえば、ユーザ１９０の右目Ｒと左目Ｌとを結ぶ直線の中点と、注視点Ｎ１とを通る直線の延びる方向を、視線方向Ｎ０として検出する。視線方向Ｎ０は、ユーザ１９０が両目により実際に視線を向けている方向である。また、視線方向Ｎ０は、視界領域２３に対してユーザ１９０が実際に視線を向けている方向に相当する。   When the computer 200 receives the detection values of the lines of sight R1 and L1 from the gaze sensor 140 as the detection result of the line of sight, the gaze point N1 which is the intersection of the lines of sight R1 and L1 is specified based on the detection values. On the other hand, when the computer 200 receives the detection values of the sight lines R2 and L2 from the gaze sensor 140, the computer 200 specifies the intersection of the sight lines R2 and L2 as the gaze point. The computer 200 identifies the gaze direction N0 of the user 190 based on the identified position of the fixation point N1. The computer 200 detects, for example, the direction in which the straight line passing through the midpoint of the straight line connecting the right eye R and the left eye L of the user 190 and the gaze point N1 is the line of sight direction N0. The gaze direction N0 is the direction in which the user 190 is actually pointing the gaze with both eyes. Further, the line-of-sight direction N0 corresponds to the direction in which the user 190 actually points the line of sight with respect to the view area 23.

［視界領域］
図６および図７を参照して、視界領域２３について説明する。図６は、仮想空間２において視界領域２３をＸ方向から見たＹＺ断面を表す図である。図７は、仮想空間２において視界領域２３をＹ方向から見たＸＺ断面を表す図である。 [View area]
The view area 23 will be described with reference to FIGS. 6 and 7. FIG. 6 is a diagram showing a YZ cross section of the virtual space 2 when the field of view 23 is viewed from the X direction. FIG. 7 is a diagram showing an XZ cross section in which the visibility region 23 is viewed from the Y direction in the virtual space 2.

図６に示されるように、ＹＺ断面における視界領域２３は、領域２４を含む。領域２４は、仮想カメラ１の基準視線５と仮想空間２のＹＺ断面とによって定義される。プロセッサ１０は、仮想空間２おける基準視線５を中心として極角αを含む範囲を、領域２４として規定する。   As shown in FIG. 6, the view area 23 in the YZ cross section includes the area 24. The area 24 is defined by the reference line of sight 5 of the virtual camera 1 and the YZ cross section of the virtual space 2. The processor 10 defines a range including the polar angle α centering on the reference line of sight 5 in the virtual space 2 as a region 24.

図７に示されるように、ＸＺ断面における視界領域２３は、領域２５を含む。領域２５は、基準視線５と仮想空間２のＸＺ断面とによって定義される。プロセッサ１０は、仮想空間２における基準視線５を中心とした方位角βを含む範囲を、領域２５として規定する。   As shown in FIG. 7, the view area 23 in the XZ cross section includes the area 25. The area 25 is defined by the reference line of sight 5 and the XZ cross section of the virtual space 2. The processor 10 defines a range including the azimuth angle β centered on the reference gaze 5 in the virtual space 2 as a region 25.

ある局面において、ＨＭＤシステム１００は、コンピュータ２００からの信号に基づいて、視界画像をモニタ１１２に表示させることにより、ユーザ１９０に仮想空間２を提供する。視界画像は、仮想空間画像２２のうちの視界領域２３に重畳する部分に相当する。ユーザ１９０が、頭に装着したＨＭＤ１１０を動かすと、その動きに連動して仮想カメラ１も動く。その結果、仮想空間２における視界領域２３の位置が変化する。これにより、モニタ１１２に表示される視界画像は、仮想空間画像２２のうち、仮想空間２においてユーザ１９０が向いた方向の視界領域２３に重畳する画像に更新される。ユーザ１９０は、仮想空間２における所望の方向を視認することができる。   In one aspect, the HMD system 100 provides the virtual space 2 to the user 190 by displaying a view image on the monitor 112 based on a signal from the computer 200. The view image corresponds to a portion of the virtual space image 22 superimposed on the view area 23. When the user 190 moves the HMD 110 worn on the head, the virtual camera 1 also moves in conjunction with the movement. As a result, the position of the view area 23 in the virtual space 2 changes. Thereby, the view field image displayed on the monitor 112 is updated to an image of the virtual space image 22 superimposed on the view field 23 in the direction in which the user 190 is directed in the virtual space 2. The user 190 can view a desired direction in the virtual space 2.

ユーザ１９０は、ＨＭＤ１１０を装着している間、現実世界を視認することなく、仮想空間２に展開される仮想空間画像２２のみを視認できる。そのため、ＨＭＤシステム１００は、仮想空間２への高い没入感覚をユーザ１９０に与えることができる。   While wearing the HMD 110, the user 190 can view only the virtual space image 22 developed in the virtual space 2 without viewing the real world. Therefore, the HMD system 100 can give the user 190 a high sense of immersion into the virtual space 2.

ある局面において、プロセッサ１０は、ＨＭＤ１１０を装着したユーザ１９０の現実空間における移動に連動して、仮想空間２において仮想カメラ１を移動し得る。この場合、プロセッサ１０は、仮想空間２における仮想カメラ１の位置および向きに基づいて、ＨＭＤ１１０のモニタ１１２に投影される画像領域（すなわち、仮想空間２における視界領域２３）を特定する。   In one aspect, the processor 10 may move the virtual camera 1 in the virtual space 2 in conjunction with the movement of the user 190 equipped with the HMD 110 in the real space. In this case, the processor 10 specifies an image area (that is, a view area 23 in the virtual space 2) to be projected on the monitor 112 of the HMD 110 based on the position and the orientation of the virtual camera 1 in the virtual space 2.

ある実施の形態に従うと、仮想カメラ１は、二つの仮想カメラ、すなわち、右目用の画像を提供するための仮想カメラと、左目用の画像を提供するための仮想カメラとを含むことが望ましい。また、ユーザ１９０が３次元の仮想空間２を認識できるように、適切な視差が、二つの仮想カメラに設定されていることが好ましい。本実施の形態においては、仮想カメラ１が二つの仮想カメラを含み、二つの仮想カメラのロール方向が合成されることによって生成されるロール方向（ｗ）がＨＭＤ１１０のロール方向（ｗ）に適合されるように構成されているものとして、本開示に係る技術思想を例示する。   According to an embodiment, the virtual camera 1 desirably includes two virtual cameras, ie, a virtual camera for providing an image for the right eye, and a virtual camera for providing an image for the left eye. Further, it is preferable that appropriate parallaxes be set to two virtual cameras so that the user 190 can recognize the three-dimensional virtual space 2. In the present embodiment, the virtual camera 1 includes two virtual cameras, and the roll direction (w) generated by combining the roll directions of the two virtual cameras is adapted to the roll direction (w) of the HMD 110. The technical idea according to the present disclosure is illustrated as being configured to

［コントローラ］
図８を参照して、コントローラ１６０の一例について説明する。図８は、ある実施の形態に従うコントローラ１６０の概略構成を表す図である。 [controller]
An example of the controller 160 will be described with reference to FIG. FIG. 8 is a diagram representing a schematic configuration of the controller 160 according to an embodiment.

図８の分図（Ａ）に示されるように、ある局面において、コントローラ１６０は、右コントローラ８００と左コントローラ（図示しない）とを含み得る。右コントローラ８００は、ユーザ１９０の右手で操作される。左コントローラは、ユーザ１９０の左手で操作される。ある局面において、右コントローラ８００と左コントローラとは、別個の装置として対称に構成される。したがって、ユーザ１９０は、右コントローラ８００を把持した右手と、左コントローラを把持した左手とをそれぞれ自由に動かすことができる。他の局面において、コントローラ１６０は両手の操作を受け付ける一体型のコントローラであってもよい。以下、右コントローラ８００について説明する。   As shown in FIG. 8A, in one aspect, the controller 160 may include a right controller 800 and a left controller (not shown). The right controller 800 is operated by the right hand of the user 190. The left controller is operated by the left hand of the user 190. In one aspect, the right controller 800 and the left controller are configured symmetrically as separate devices. Therefore, the user 190 can freely move the right hand holding the right controller 800 and the left hand holding the left controller. In another aspect, the controller 160 may be an integrated controller that receives the operation of both hands. The right controller 800 will be described below.

右コントローラ８００は、グリップ３０と、フレーム３１と、天面３２とを備える。グリップ３０は、ユーザ１９０の右手によって把持されるように構成されている。たとえば、グリップ３０は、ユーザ１９０の右手の掌と３本の指（中指、薬指、小指）とによって保持され得る。   The right controller 800 includes a grip 30, a frame 31, and a top surface 32. The grip 30 is configured to be gripped by the right hand of the user 190. For example, the grip 30 may be held by the palm of the right hand of the user 190 and three fingers (middle, ring and little fingers).

グリップ３０は、ボタン３３，３４と、モーションセンサ１３０とを含む。ボタン３３は、グリップ３０の側面に配置され、右手の中指による操作を受け付ける。ボタン３４は、グリップ３０の前面に配置され、右手の人差し指による操作を受け付ける。ある局面において、ボタン３３，３４は、トリガー式のボタンとして構成される。モーションセンサ１３０は、グリップ３０の筐体に内蔵されている。なお、ユーザ１９０の動作がカメラその他の装置によってユーザ１９０の周りから検出可能である場合には、グリップ３０は、モーションセンサ１３０を備えなくてもよい。   The grip 30 includes buttons 33 and 34 and a motion sensor 130. The button 33 is disposed on the side surface of the grip 30 and receives an operation by the middle finger of the right hand. The button 34 is disposed on the front of the grip 30 and accepts an operation by the index finger of the right hand. In one aspect, the buttons 33, 34 are configured as trigger buttons. The motion sensor 130 is incorporated in the housing of the grip 30. It should be noted that the grip 30 may not include the motion sensor 130 if the motion of the user 190 can be detected from around the user 190 by a camera or other device.

フレーム３１は、その円周方向に沿って配置された複数の赤外線ＬＥＤ３５を含む。赤外線ＬＥＤ３５は、コントローラ１６０を使用するプログラムの実行中に、当該プログラムの進行に合わせて赤外線を発光する。赤外線ＬＥＤ３５から発せられた赤外線は、右コントローラ８００と左コントローラとの各位置や姿勢（傾き、向き）を検出するために使用され得る。図８に示される例では、二列に配置された赤外線ＬＥＤ３５が示されているが、配列の数は図８に示されるものに限られない。一列あるいは３列以上の配列が使用されてもよい。   The frame 31 includes a plurality of infrared LEDs 35 disposed along the circumferential direction. The infrared LED 35 emits infrared light in accordance with the progress of the program while the program using the controller 160 is being executed. Infrared light emitted from the infrared LED 35 can be used to detect each position and orientation (tilt, orientation) of the right controller 800 and the left controller. In the example shown in FIG. 8, the infrared LEDs 35 arranged in two rows are shown, but the number of arrays is not limited to that shown in FIG. One or three or more arrays may be used.

天面３２は、ボタン３６，３７と、アナログスティック３８とを備える。ボタン３６，３７は、プッシュ式ボタンとして構成される。ボタン３６，３７は、ユーザ１９０の右手の親指による操作を受け付ける。アナログスティック３８は、ある局面において、初期位置（ニュートラルの位置）から３６０度任意の方向への操作を受け付ける。当該操作は、たとえば、仮想空間２に配置されるオブジェクトを移動するための操作を含む。   The top surface 32 includes buttons 36 and 37 and an analog stick 38. The buttons 36, 37 are configured as push-type buttons. Buttons 36 and 37 receive an operation by the thumb of the right hand of user 190. The analog stick 38 receives an operation in any direction 360 degrees from the initial position (the position of neutral) in a certain phase. The operation includes, for example, an operation for moving an object arranged in the virtual space 2.

ある局面において、右コントローラ８００および左コントローラは、赤外線ＬＥＤ３５その他の部材を駆動するための電池を含む。電池は、充電式、ボタン型、乾電池型などを含むが、これらに限定されない。他の局面において、右コントローラ８００と左コントローラは、たとえば、コンピュータ２００のＵＳＢインターフェースに接続され得る。この場合、右コントローラ８００および左コントローラは、電池を必要としない。   In one aspect, the right controller 800 and the left controller include batteries for driving the infrared LED 35 and other members. Batteries include rechargeable batteries, button batteries, dry battery batteries and the like, but are not limited thereto. In other aspects, right controller 800 and left controller may be connected to, for example, a USB interface of computer 200. In this case, the right controller 800 and the left controller do not require a battery.

図８の分図（Ｂ）は、右コントローラ８００を把持するユーザ１９０の右手に対応して仮想空間２に配置されるハンドオブジェクト８１０の一例を示す。たとえば、ユーザ１９０の右手に対応するハンドオブジェクト８１０に対して、ヨー、ロール、ピッチの各方向が規定される。たとえば、入力操作が、右コントローラ８００のボタン３４に対して行なわれると、ハンドオブジェクト８１０の人差し指を握りこんだ状態とし、入力操作がボタン３４に対して行なわれていない場合には、分図（Ｂ）に示すように、ハンドオブジェクト８１０の人差し指を伸ばした状態とすることもできる。たとえば、ハンドオブジェクト８１０において親指と人差し指とが伸びている場合に、親指の伸びる方向がヨー方向、人差し指の伸びる方向がロール方向、ヨー方向の軸およびロール方向の軸によって規定される平面に垂直な方向がピッチ方向としてハンドオブジェクト８１０に規定される。   Part (B) of FIG. 8 illustrates an example of the hand object 810 disposed in the virtual space 2 corresponding to the right hand of the user 190 gripping the right controller 800. For example, with respect to the hand object 810 corresponding to the right hand of the user 190, yaw, roll, and pitch directions are defined. For example, when the input operation is performed on the button 34 of the right controller 800, the index finger of the hand object 810 is held in a state where it is held in, and the division operation is performed if the input operation is not performed on the button 34. As shown in B), the forefinger of the hand object 810 can be extended. For example, when the thumb and forefinger extend in the hand object 810, the extending direction of the thumb is perpendicular to the yaw direction, and the extending direction of the forefinger is perpendicular to the plane defined by the roll direction, the yaw direction axis and the roll direction axis. The direction is defined in the hand object 810 as the pitch direction.

［ＨＭＤの制御装置］
図９を参照して、ＨＭＤ１１０の制御装置について説明する。ある実施の形態において、制御装置は周知の構成を有するコンピュータ２００によって実現される。図９は、ある実施の形態に従うコンピュータ２００をモジュール構成として表すブロック図である。 [Control unit of HMD]
The control device of the HMD 110 will be described with reference to FIG. In one embodiment, the controller is implemented by a computer 200 having a known configuration. FIG. 9 is a block diagram representing a computer 200 as a modular configuration according to one embodiment.

図９に示されるように、コンピュータ２００は、表示制御モジュール２２０と、仮想空間制御モジュール２３０と、音声制御モジュール２２５と、メモリモジュール２４０と、通信制御モジュール２５０とを備える。   As shown in FIG. 9, the computer 200 includes a display control module 220, a virtual space control module 230, an audio control module 225, a memory module 240, and a communication control module 250.

表示制御モジュール２２０は、サブモジュールとして、仮想カメラ制御モジュール２２１と、視界領域決定モジュール２２２と、視界画像生成モジュール２２３と、基準視線特定モジュール２２４と、視線検出モジュール２２６と、ハンドトラッキングモジュール２２７と、フェイストラッキングモジュール２２８とを含む。   The display control module 220 includes, as sub-modules, a virtual camera control module 221, a view area determination module 222, a view image generation module 223, a reference line of sight specification module 224, a line of sight detection module 226, and a hand tracking module 227. And a face tracking module 228.

仮想空間制御モジュール２３０は、サブモジュールとして、仮想空間定義モジュール２３１と、仮想オブジェクト生成モジュール２３２と、手オブジェクト制御モジュール２３３とを含む。   The virtual space control module 230 includes, as sub-modules, a virtual space definition module 231, a virtual object generation module 232, and a hand object control module 233.

ある実施の形態において、表示制御モジュール２２０、仮想空間制御モジュール２３０、および音声制御モジュール２２５は、プロセッサ１０によって実現される。他の実施の形態において、複数のプロセッサ１０が表示制御モジュール２２０、仮想空間制御モジュール２３０、および音声制御モジュール２２５として作動してもよい。メモリモジュール２４０は、メモリ１１またはストレージ１２によって実現される。通信制御モジュール２５０は、通信インターフェース１４によって実現される。   In one embodiment, display control module 220, virtual space control module 230, and voice control module 225 are implemented by processor 10. In other embodiments, multiple processors 10 may operate as display control module 220, virtual space control module 230, and voice control module 225. The memory module 240 is realized by the memory 11 or the storage 12. The communication control module 250 is realized by the communication interface 14.

ある局面において、表示制御モジュール２２０は、ＨＭＤ１１０のモニタ１１２における画像表示を制御する。仮想カメラ制御モジュール２２１は、仮想空間２に仮想カメラ１を配置し、仮想カメラ１の挙動、向きなどを制御する。視界領域決定モジュール２２２は、ＨＭＤ１１０を装着したユーザ１９０の頭の向きに応じて、視界領域２３を規定する。視界画像生成モジュール２２３は、決定された視界領域２３に基づいて、モニタ１１２に表示される視界画像のデータ（視界画像データともいう）を生成する。さらに、視界画像生成モジュール２２３は、仮想空間制御モジュール２３０から受信したデータに基づいて、視界画像データを生成する。視界画像生成モジュール２２３によって生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。基準視線特定モジュール２２４は、ＨＭＤセンサ１２０またはセンサ１１４からの信号に基づいて基準視線（ＨＭＤ１１０の傾き）を検出する。視線検出モジュール２２６は、注視センサ１４０からの信号に基づいて、ユーザ１９０の視線を特定する。ハンドトラッキングモジュール２２７は、ユーザ１９０が装着するコントローラ１６０の動き、つまり、ユーザ１９０の手の動きを検出する。より具体的には、ＨＭＤセンサ１２０は、コントローラ１６０に設けられた赤外線ＬＥＤ３５が発する赤外線を検出してコンピュータ２００に出力する。ハンドトラッキングモジュール２２７は、ＨＭＤセンサ１２０から入力される検出結果に基づいて、コントローラ１６０（右コントローラ８００および左コントローラの各々）の位置を検出する。フェイストラッキングモジュール２２８は、ユーザ１９０の表情を検出する。フェイストラッキングモジュール２２８の詳細は後述される。   In one aspect, the display control module 220 controls image display on the monitor 112 of the HMD 110. The virtual camera control module 221 arranges the virtual camera 1 in the virtual space 2 and controls the behavior, direction, and the like of the virtual camera 1. The view area determination module 222 defines the view area 23 according to the orientation of the head of the user 190 wearing the HMD 110. The view image generation module 223 generates data (also referred to as view image data) of a view image displayed on the monitor 112 based on the determined view area 23. Further, the view image generation module 223 generates view image data based on the data received from the virtual space control module 230. The view image data generated by the view image generation module 223 is output by the communication control module 250 to the HMD 110. The reference gaze identification module 224 detects a reference gaze (tilt of the HMD 110) based on a signal from the HMD sensor 120 or the sensor 114. The gaze detection module 226 identifies the gaze of the user 190 based on the signal from the gaze sensor 140. The hand tracking module 227 detects the movement of the controller 160 worn by the user 190, that is, the movement of the hand of the user 190. More specifically, the HMD sensor 120 detects infrared light emitted by the infrared LED 35 provided in the controller 160 and outputs the infrared light to the computer 200. The hand tracking module 227 detects the position of the controller 160 (each of the right controller 800 and the left controller) based on the detection result input from the HMD sensor 120. The face tracking module 228 detects the expression of the user 190. Details of the face tracking module 228 will be described later.

仮想空間制御モジュール２３０は、ユーザ１９０に提供される仮想空間２を制御する。仮想空間定義モジュール２３１は、仮想空間２を表す仮想空間データを生成することにより、ＨＭＤシステム１００における仮想空間２を規定する。   The virtual space control module 230 controls the virtual space 2 provided to the user 190. The virtual space definition module 231 defines virtual space 2 in the HMD system 100 by generating virtual space data representing the virtual space 2.

仮想オブジェクト生成モジュール２３２は、仮想空間２に配置されるオブジェクトのデータを生成する。オブジェクトは、たとえば、他アバターオブジェクト、仮想パネル、仮想手紙、および仮想ポストなどを含み得る。仮想オブジェクト生成モジュール２３２によって生成されたデータは、視界画像生成モジュール２２３に出力される。   The virtual object generation module 232 generates data of an object arranged in the virtual space 2. The objects may include, for example, other avatar objects, virtual panels, virtual letters, virtual posts, and the like. The data generated by the virtual object generation module 232 is output to the view image generation module 223.

手オブジェクト制御モジュール２３３は、手オブジェクトを仮想空間２に配置する。手オブジェクトは、たとえば、コントローラ１６０を保持したユーザ１９０の右手あるいは左手に対応する。ある局面において、手オブジェクト制御モジュール２３３は、右手あるいは左手に対応する手オブジェクトを仮想空間２に配置するためのデータを生成する。また、手オブジェクト制御モジュール２３３は、ユーザ１９０によるコントローラ１６０の操作に応じて、手オブジェクトを動かすためのデータを生成する。手オブジェクト制御モジュール２３３によって生成されたデータは、視界画像生成モジュール２２３に出力される。   The hand object control module 233 places the hand object in the virtual space 2. The hand object corresponds, for example, to the right hand or left hand of the user 190 holding the controller 160. In one aspect, the hand object control module 233 generates data for arranging the hand object corresponding to the right hand or the left hand in the virtual space 2. In addition, the hand object control module 233 generates data for moving the hand object in response to the operation of the controller 160 by the user 190. The data generated by the hand object control module 233 is output to the view image generation module 223.

他の局面において、ユーザ１９０の体の一部の動き（たとえば、左手、右手、左足、右足、頭などの動き）がコントローラ１６０に関連付けられている場合、仮想空間制御モジュール２３０は、ユーザ１９０の体の一部に対応する部分オブジェクトを仮想空間２に配置するためのデータを生成する。仮想空間制御モジュール２３０は、ユーザ１９０が体の一部を用いてコントローラ１６０を操作すると、部分オブジェクトを動かすためのデータを生成する。これらのデータは、視界画像生成モジュール２２３に出力される。   In another aspect, if movement of a portion of the body of the user 190 (eg, movement of a left hand, right hand, left foot, right foot, head, etc.) is associated with the controller 160, the virtual space control module 230 may It generates data for arranging a partial object corresponding to a part of the body in the virtual space 2. The virtual space control module 230 generates data for moving a partial object when the user 190 operates the controller 160 using a body part. These data are output to the view image generation module 223.

音声制御モジュール２２５は、ＨＭＤ１１０から、ユーザ１９０のマイク１１９を用いた発話を検出すると、当該発話に対応する音声データの送信対象のコンピュータ２００を特定する。音声データは、音声制御モジュール２２５によって特定されたコンピュータ２００に送信される。音声制御モジュール２２５は、ネットワーク１９を介して他のユーザのコンピュータ２００から音声データを受信すると、当該音声データに対応する音声（発話）をスピーカ１１５から出力する。   When the speech control module 225 detects an utterance of the user 190 using the microphone 119 from the HMD 110, the speech control module 225 identifies the computer 200 to which speech data corresponding to the utterance is to be transmitted. The voice data is sent to the computer 200 identified by the voice control module 225. When the voice control module 225 receives voice data from the computer 200 of another user via the network 19, the voice control module 225 outputs a voice (speech) corresponding to the voice data from the speaker 115.

メモリモジュール２４０は、コンピュータ２００が仮想空間２をユーザ１９０に提供するために使用されるデータを保持している。ある局面において、メモリモジュール２４０は、空間情報２４１と、オブジェクト情報２４２と、ユーザ情報２４３と、顔情報２４４とを保持している。   Memory module 240 holds data used by computer 200 to provide virtual space 2 to user 190. In one aspect, the memory module 240 holds space information 241, object information 242, user information 243, and face information 244.

空間情報２４１は、仮想空間２を提供するために規定された１つ以上のテンプレートを保持している。   Spatial information 241 holds one or more templates defined to provide virtual space 2.

オブジェクト情報２４２は、仮想空間２において再生されるコンテンツ、当該コンテンツで使用されるオブジェクトを配置するための情報を保持している。当該コンテンツは、たとえば、ゲーム、現実社会と同様の風景を表したコンテンツなどを含み得る。さらに、オブジェクト情報２４２は、コントローラ１６０を操作するユーザ１９０の手に相当する手オブジェクトを仮想空間２に配置するためのデータと、各ユーザのアバターオブジェクトを仮想空間２に配置するためのデータと、仮想パネルなどのその他のオブジェクトを仮想空間２に配置するためのデータとを含む。   The object information 242 holds content to be reproduced in the virtual space 2 and information for arranging an object used in the content. The content may include, for example, a game, content representing a scene similar to real society, and the like. Furthermore, the object information 242 includes data for placing a hand object corresponding to the hand of the user 190 operating the controller 160 in the virtual space 2, and data for placing an avatar object of each user in the virtual space 2. And data for arranging other objects such as a virtual panel in the virtual space 2.

ユーザ情報２４３は、ＨＭＤシステム１００の制御装置としてコンピュータ２００を機能させるためのプログラム、オブジェクト情報２４２に保持される各コンテンツを使用するアプリケーションプログラムなどを保持している。メモリモジュール２４０に格納されているデータおよびプログラムは、ＨＭＤ１１０のユーザ１９０によって入力される。あるいは、プロセッサ１０が、当該コンテンツを提供する事業者が運営するコンピュータ（たとえば、サーバ１５０）からプログラムあるいはデータをダウンロードして、ダウンロードされたプログラムあるいはデータをメモリモジュール２４０に格納する。顔情報２４４は、ユーザ１９０の顔器官を検出するために必要なテンプレートを含む。ある実施形態において、顔情報２４４は、口テンプレート２４５と、目テンプレート２４６と、眉テンプレート２４７とを含む。各テンプレートは、顔を構成する器官に対応する画像であり得る。たとえば、口テンプレート２４５は、口の画像であり得る。なお、各テンプレートは複数の画像を含んでもよい。   The user information 243 holds a program for causing the computer 200 to function as a control device of the HMD system 100, an application program using each content held in the object information 242, and the like. Data and programs stored in the memory module 240 are input by the user 190 of the HMD 110. Alternatively, the processor 10 downloads a program or data from a computer (for example, the server 150) operated by a provider providing the content, and stores the downloaded program or data in the memory module 240. The face information 244 includes a template necessary to detect the user's 190 face organ. In one embodiment, face information 244 includes mouth template 245, eye template 246, and eyelid template 247. Each template may be an image corresponding to an organ that constitutes a face. For example, the mouth template 245 may be an image of the mouth. Each template may include a plurality of images.

通信制御モジュール２５０は、ネットワーク１９を介して、サーバ１５０その他の情報通信装置と通信し得る。   Communication control module 250 may communicate with server 150 and other information communication devices via network 19.

ある局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、たとえば、ユニティテクノロジーズ社によって提供されるＵｎｉｔｙ（登録商標）を用いて実現され得る。他の局面において、表示制御モジュール２２０および仮想空間制御モジュール２３０は、各処理を実現する回路素子の組み合わせとしても実現され得る。   In one aspect, the display control module 220 and the virtual space control module 230 may be implemented using, for example, Unity (registered trademark) provided by Unity Technologies. In another aspect, the display control module 220 and the virtual space control module 230 can also be realized as a combination of circuit elements that implement each process.

コンピュータ２００における処理は、ハードウェアと、プロセッサ１０により実行されるソフトウェアとによって実現される。このようなソフトウェアは、ハードディスクその他のメモリモジュール２４０に予め格納されている場合がある。また、ソフトウェアは、ＣＤ−ＲＯＭその他のコンピュータ読み取り可能な不揮発性のデータ記録媒体に格納されて、プログラム製品として流通している場合もある。あるいは、当該ソフトウェアは、インターネットその他のネットワークに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、光ディスク駆動装置その他のデータ読取装置によってデータ記録媒体から読み取られて、あるいは、通信制御モジュール２５０を介してサーバ１５０その他のコンピュータからダウンロードされた後、記憶モジュールに一旦格納される。そのソフトウェアは、プロセッサ１０によって記憶モジュールから読み出され、実行可能なプログラムの形式でＲＡＭに格納される。プロセッサ１０は、そのプログラムを実行する。   Processing in the computer 200 is realized by hardware and software executed by the processor 10. Such software may be stored in advance in a hard disk or other memory module 240. The software may be stored in a CD-ROM or other computer readable non-volatile data storage medium and distributed as a program product. Alternatively, the software may be provided as a downloadable program product by an information provider connected to the Internet or other network. Such software is temporarily stored in the storage module after being read from the data recording medium by an optical disk drive or other data reader, or downloaded from the server 150 or other computer via the communication control module 250. . The software is read from the storage module by the processor 10 and stored in RAM in the form of an executable program. The processor 10 executes the program.

コンピュータ２００を構成するハードウェアは、一般的なものである。したがって、本実施の形態に係る最も本質的な部分は、コンピュータ２００に格納されたプログラムであるとも言える。なお、コンピュータ２００のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。   The hardware that makes up the computer 200 is general. Therefore, it can be said that the most essential part according to the present embodiment is a program stored in computer 200. The operation of the hardware of computer 200 is well known, and therefore detailed description will not be repeated.

なお、データ記録媒体としては、ＣＤ−ＲＯＭ、ＦＤ（Flexible Disk）、ハードディスクに限られず、磁気テープ、カセットテープ、光ディスク（ＭＯ（Magnetic Optical Disc）／ＭＤ（Mini Disc）／ＤＶＤ（Digital Versatile Disc））、ＩＣ（Integrated Circuit）カード（メモリカードを含む）、光カード、マスクＲＯＭ、ＥＰＲＯＭ（Electronically Programmable Read-Only Memory）、ＥＥＰＲＯＭ（Electronically Erasable Programmable Read-Only Memory）、フラッシュＲＯＭなどの半導体メモリなどの固定的にプログラムを担持する不揮発性のデータ記録媒体でもよい。   Incidentally, the data recording medium is not limited to CD-ROM, FD (Flexible Disk), hard disk, magnetic tape, cassette tape, optical disk (Magnetic Optical Disc) / MD (Mini Disc) / DVD (Digital Versatile Disc) ), IC (Integrated Circuit) card (including memory card), optical card, mask ROM, semiconductor memory such as EEPROM (Electronically Programmable Read-Only Memory), EEPROM (Electronically Erasable Programmable Read-Only Memory), flash ROM, etc. It may be a non-volatile data storage medium that carries a program fixedly.

ここで言うプログラムとは、プロセッサ１０により直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラムなどを含み得る。   The program referred to here may include not only a program directly executable by the processor 10 but also a program in source program format, a compressed program, an encrypted program and the like.

［ＨＭＤシステムの制御構造］
図１０を参照して、ＨＭＤシステム１００の制御構造について説明する。図１０は、ある実施の形態に従うＨＭＤシステム１００において実行される処理の一部を表すシーケンスチャートである。 [Control structure of HMD system]
The control structure of the HMD system 100 will be described with reference to FIG. FIG. 10 is a sequence chart showing a part of the process performed in the HMD system 100 according to an embodiment.

図１０に示されるように、ステップＳ１０１０にて、コンピュータ２００のプロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間画像データを特定し、仮想空間２を定義する。   As shown in FIG. 10, in step S1010, the processor 10 of the computer 200 specifies virtual space image data as the virtual space definition module 231, and defines the virtual space 2.

ステップＳ１０２０にて、プロセッサ１０は、仮想カメラ１を初期化する。たとえば、プロセッサ１０は、メモリのワーク領域において、仮想カメラ１を仮想空間２において予め規定された中心点に配置し、仮想カメラ１の視線をユーザ１９０が向いている方向に向ける。   In step S1020, the processor 10 initializes the virtual camera 1. For example, in the work area of the memory, the processor 10 arranges the virtual camera 1 at a predetermined center point in the virtual space 2 and directs the line of sight of the virtual camera 1 in the direction in which the user 190 is facing.

ステップＳ１０３０にて、プロセッサ１０は、視界画像生成モジュール２２３として、初期の視界画像を表示するための視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。   In step S1030, the processor 10 generates visibility image data for displaying an initial visibility image as the visibility image generation module 223. The generated view image data is output by the communication control module 250 to the HMD 110.

ステップＳ１０３２にて、ＨＭＤ１１０のモニタ１１２は、コンピュータ２００から受信した視界画像データに基づいて、視界画像を表示する。ＨＭＤ１１０を装着したユーザ１９０は、視界画像を視認すると仮想空間２を認識し得る。   In step S1032, the monitor 112 of the HMD 110 displays a view image based on the view image data received from the computer 200. The user 190 wearing the HMD 110 can recognize the virtual space 2 when viewing the view image.

ステップＳ１０３４にて、ＨＭＤセンサ１２０は、ＨＭＤ１１０から発信される複数の赤外線光に基づいて、ＨＭＤ１１０の位置と傾きを検知する。検知結果は、動き検知データとして、コンピュータ２００に出力される。   In step S1034, the HMD sensor 120 detects the position and inclination of the HMD 110 based on the plurality of infrared light beams emitted from the HMD 110. The detection result is output to the computer 200 as motion detection data.

ステップＳ１０４０にて、プロセッサ１０は、ＨＭＤ１１０の動き検知データに含まれる位置と傾きとに基づいて、ＨＭＤ１１０を装着したユーザ１９０の視界方向を特定する。   In step S1040, the processor 10 specifies the view direction of the user 190 wearing the HMD 110 based on the position and the inclination included in the motion detection data of the HMD 110.

ステップＳ１０５０にて、プロセッサ１０は、アプリケーションプログラムを実行し、アプリケーションプログラムに含まれる命令に基づいて、仮想空間２にオブジェクトを提示する。このとき提示されるオブジェクトは、他アバターオブジェクトを含む。   In step S1050, the processor 10 executes an application program, and presents an object in the virtual space 2 based on an instruction included in the application program. The objects presented at this time include other avatar objects.

ステップＳ１０６０にて、コントローラ１６０は、モーションセンサ１３０から出力される信号に基づいて、ユーザ１９０の操作を検出し、その検出された操作を表す検出データをコンピュータ２００に出力する。なお、他の局面において、ユーザ１９０によるコントローラ１６０の操作は、ユーザ１９０の周囲に配置されたカメラからの画像に基づいて検出されてもよい。   In step S1060, controller 160 detects an operation of user 190 based on the signal output from motion sensor 130, and outputs detection data representing the detected operation to computer 200. In another aspect, the operation of the controller 160 by the user 190 may be detected based on an image from a camera disposed around the user 190.

ステップＳ１０６５にて、プロセッサ１０は、コントローラ１６０から取得した検出データに基づいて、ユーザ１９０によるコントローラ１６０の操作を検出する。   In step S1065, the processor 10 detects the operation of the controller 160 by the user 190 based on the detection data acquired from the controller 160.

ステップＳ１０７０にて、プロセッサ１０は、手オブジェクトを仮想空間２に提示するための視界画像データを生成する。   In step S1070, the processor 10 generates view image data for presenting the hand object in the virtual space 2.

ステップＳ１０８０にて、プロセッサ１０は、ユーザ１９０によるコントローラ１６０の操作に基づく視界画像データを生成する。生成された視界画像データは、通信制御モジュール２５０によってＨＭＤ１１０に出力される。   In step S1080, processor 10 generates view image data based on the operation of controller 160 by user 190. The generated view image data is output by the communication control module 250 to the HMD 110.

ステップＳ１０９２にて、ＨＭＤ１１０は、受信した視界画像データに基づいて視界画像を更新し、更新後の視界画像をモニタ１１２に表示する。   In step S1092, the HMD 110 updates the view image based on the received view image data, and displays the updated view image on the monitor 112.

［技術思想］
次に、図１１〜図１３を用いて本開示に従う技術思想を説明する。図１１は、仮想空間２に展開されている仮想空間画像２２（以下、「パノラマ画像２２」とも言う）を変更するための処理を説明する図（その１）である。 [Technical thought]
Next, technical ideas according to the present disclosure will be described using FIGS. 11 to 13. FIG. 11 is a diagram (part 1) for explaining the process for changing the virtual space image 22 (hereinafter, also referred to as “panoramic image 22”) developed in the virtual space 2.

図１１を参照して、仮想空間２には花１１１０を含むパノラマ画像２２が展開されている。また、仮想空間２は、スピーカオブジェクト１１２０を含む。ある局面において、ユーザ１９０は、仮想空間２に展開されているパノラマ画像２２を変更したいと思う。係る場合、ユーザ１９０は、パノラマ画像２２を変更するためのトリガをコンピュータ２００に入力する（ステップＳ１）。一例として、トリガは、スピーカオブジェクト１１２０とハンドオブジェクト８１０とを接触させることを含む。   Referring to FIG. 11, a panoramic image 22 including a flower 1110 is developed in the virtual space 2. The virtual space 2 also includes a speaker object 1120. In one aspect, the user 190 wants to change the panoramic image 22 developed in the virtual space 2. In such a case, the user 190 inputs a trigger for changing the panoramic image 22 into the computer 200 (step S1). As an example, the trigger includes contacting the speaker object 1120 and the hand object 810.

その後、ユーザ１９０は、検索キーをコンピュータ２００に入力する（ステップＳ２）。図１１に示される例において、ユーザ１９０は、「動物」と発話する。コンピュータ２００は、マイク１１９から入力される音声信号から文字列「動物」を抽出する。コンピュータ２００は、抽出された文字列を表す検索キー１１３０をサーバ１５０に送信する（ステップＳ３）。サーバ１５０は、パノラマ画像ＤＢ（データベース）１９３４を保持するストレージ１９３０を有する。パノラマ画像ＤＢ１９３４は、パノラマ画像（動画像を含む）と、パノラマ画像を識別する情報（以下、「パノラマ画像ＩＤ」とも言う。）とを関連付けて複数保持する。   Thereafter, the user 190 inputs a search key into the computer 200 (step S2). In the example shown in FIG. 11, the user 190 utters "animal". The computer 200 extracts the character string "animal" from the audio signal input from the microphone 119. The computer 200 transmits the search key 1130 representing the extracted character string to the server 150 (step S3). The server 150 has a storage 1930 for holding a panoramic image DB (database) 1934. The panoramic image DB 1934 holds a plurality of panoramic images (including moving images) and information for identifying the panoramic images (hereinafter, also referred to as “panoramic image ID”) in association with one another.

サーバ１５０は、コンピュータ２００から検索キー１１３０が入力されると、当該検索キー１１３０に基づいて、パノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から、一以上のパノラマ画像を検索する（ステップＳ４）。サーバ１５０は、検索された一以上のパノラマ画像のサムネイル１１４０を生成する。サムネイル１１４０は、パノラマ画像を特定するための情報として機能する。サーバ１５０は、生成したサムネイル１１４０とパノラマ画像ＩＤ１１５０とをコンピュータ２００に送信する（ステップＳ５）。   When the search key 1130 is input from the computer 200, the server 150 searches for one or more panoramic images from among the plurality of panoramic images stored in the panoramic image DB 1934 based on the search key 1130 (step S4) ). The server 150 generates thumbnails 1140 of the retrieved one or more panoramic images. The thumbnail 1140 functions as information for specifying a panoramic image. The server 150 transmits the generated thumbnail 1140 and the panoramic image ID 1150 to the computer 200 (step S5).

図１２は、パノラマ画像２２を変更するための処理を説明する図（その２）である。図１２に示される視界画像１２００は、サムネイル１２１０〜１２６０を含む。これらのサムネイルは、受信した一以上のサムネイル１１４０に対応する。また、これらのサムネイルは、静止画像または動画像のいずれであってもよい。   FIG. 12 is a diagram (part 2) for explaining the process for changing the panoramic image 22. The view image 1200 shown in FIG. 12 includes thumbnails 1210-1260. These thumbnails correspond to one or more received thumbnails 1140. Also, these thumbnails may be either still images or moving images.

ユーザ１９０は、サムネイル１２１０〜１２６０のうち一のサムネイル（パノラマ画像）をハンドオブジェクト８１０で選択する（ステップＳ６）。たとえば、ユーザ１９０は、犬を含むサムネイル１２１０とハンドオブジェクト８１０とを接触させることにより、サムネイル１２１０を選択する。   The user 190 selects one thumbnail (panoramic image) of the thumbnails 1210 to 1260 using the hand object 810 (step S6). For example, the user 190 selects the thumbnail 1210 by contacting the thumbnail 1210 including a dog with the hand object 810.

図１３は、パノラマ画像２２を変更するための処理を説明する図（その３）である。コンピュータ２００は、ユーザ１９０から選択されたサムネイルに対応するパノラマ画像ＩＤ１３１０をサーバ１５０に送信する（ステップＳ７）。サーバ１５０は、受信したパノラマ画像ＩＤに対応するパノラマ画像１３２０をコンピュータ２００に送信する。コンピュータ２００は、受信したパノラマ画像１３２０を仮想空間２に展開する（ステップＳ９）。これにより、ユーザ１９０は、仮想空間２において犬１３３０を含むパノラマ画像１３２０を視認できる。   FIG. 13 is a diagram (part 3) for explaining the process for changing the panoramic image 22. The computer 200 transmits the panoramic image ID 1310 corresponding to the thumbnail selected from the user 190 to the server 150 (step S7). The server 150 transmits the panoramic image 1320 corresponding to the received panoramic image ID to the computer 200. The computer 200 develops the received panoramic image 1320 in the virtual space 2 (step S9). Thereby, the user 190 can visually recognize the panoramic image 1320 including the dog 1330 in the virtual space 2.

上記によれば、コンピュータ２００は、ユーザ１９０に入力された検索キーに関連する一以上のパノラマ画像、換言すれば、ユーザ１９０が所望するパノラマ画像（を特定する情報）をユーザ１９０に提示できる。以下、パノラマ画像を変更するためのより具体的な処理について説明する。   According to the above, the computer 200 can present the user 190 with one or more panoramic images related to the search key input to the user 190, in other words, a panoramic image (information specifying the user's 190). Hereinafter, more specific processing for changing a panoramic image will be described.

［ＨＭＤシステム１４００の構成］
図１４は、ある実施形態に従うＨＭＤシステム１４００の構成を説明するための図である。ＨＭＤシステム１４００は、ＨＭＤ１１０に替えてＨＭＤ１４１０を有する点において、図１で説明したＨＭＤシステム１００と相違する。 [Configuration of HMD system 1400]
FIG. 14 is a diagram for describing the configuration of the HMD system 1400 according to an embodiment. The HMD system 1400 is different from the HMD system 100 described in FIG. 1 in that the HMD system 1400 has an HMD 1410 instead of the HMD 110.

ＨＭＤ１４１０は、第１カメラ１１６と、第２カメラ１１７とを有する点において、ＨＭＤ１１０と相違する。第１カメラ１１６は、ユーザ１９０の顔の下部を撮影する。より具体的には、第１カメラ１１６は、ユーザ１９０の鼻、頬、および口などを撮影する。第２カメラ１１７は、ユーザ１９０の目および眉などを撮影する。ＨＭＤ１４１０のユーザ１９０側の筐体をＨＭＤ１４１０の内側、ＨＭＤ１４１０のユーザ１９０とは逆側の筐体をＨＭＤ１４１０の外側と定義する。ある局面において、第１カメラ１１６は、ＨＭＤ１４１０の外側に配置され、第２カメラ１１７は、ＨＭＤ１４１０の内側に配置され得る。第１カメラ１１６および第２カメラ１１７が生成した画像は、コンピュータ２００に入力される。   The HMD 1410 differs from the HMD 110 in that it has a first camera 116 and a second camera 117. The first camera 116 captures the lower part of the face of the user 190. More specifically, the first camera 116 captures the nose, cheeks, mouth, and the like of the user 190. The second camera 117 captures the eyes and eyelids of the user 190 and the like. The housing on the user 190 side of the HMD 1410 is defined as the inside of the HMD 1410, and the housing on the opposite side to the user 190 of the HMD 1410 is defined as the outside of the HMD 1410. In one aspect, the first camera 116 may be disposed outside the HMD 1410, and the second camera 117 may be disposed inside the HMD 1410. Images generated by the first camera 116 and the second camera 117 are input to the computer 200.

フェイストラッキングモジュール２２８は、ユーザ１９０の第１カメラ１１６および第２カメラ１１７が生成するユーザ１９０の顔の画像から、ユーザ１９０の顔を構成する器官（例えば、口，目，眉）を検出する。フェイストラッキングモジュール２２８は、検出した各器官ごとの特徴点の位置を間欠的に検出する。換言すれば、フェイストラッキングモジュール２２８は、ユーザ１９０の表情を検出する。以下、フェイストラッキングモジュール２２８のより具体的な処理を説明する。   The face tracking module 228 detects organs (e.g., mouth, eyes, eyebrows) constituting the face of the user 190 from images of the face of the user 190 generated by the first camera 116 and the second camera 117 of the user 190. The face tracking module 228 intermittently detects the position of the feature point for each detected organ. In other words, the face tracking module 228 detects the expression of the user 190. Hereinafter, more specific processing of the face tracking module 228 will be described.

［フェイストラッキング］
以下、図１５〜図１８を参照して、ユーザの表情（顔の動き）を検出するための具体例について説明する。図１５〜図１８では、一例として、ユーザ１９０の口の動きを検出する具体例について説明する。なお、図１５〜図１８で説明される検出方法は、ユーザ１９０の口の動きに限られず、ユーザ１９０の顔を構成する他の器官（例えば、目、眉、鼻、頬）の動きの検出にも適用され得る。 [Face tracking]
Hereinafter, with reference to FIGS. 15-18, the specific example for detecting a user's facial expression (movement of a face) is demonstrated. 15 to 18 illustrate a specific example of detecting the movement of the mouth of the user 190 as an example. Note that the detection method described with reference to FIGS. 15 to 18 is not limited to the movement of the mouth of the user 190, but detects the movement of other organs (for example, eyes, eyebrows, nose, cheeks) that constitute the face of the user 190. Can also be applied.

図１５は、ユーザの顔画像１５００から口を検出する制御について説明する図である。第１カメラ１１６により生成された顔画像１５００は、ユーザ１９０の鼻と口とを含む。   FIG. 15 is a diagram for describing control for detecting a mouth from a face image 1500 of the user. The face image 1500 generated by the first camera 116 includes the nose and the mouth of the user 190.

フェイストラッキングモジュール２２８は、顔情報２４４に格納される口テンプレート２４５を利用したパターンマッチングにより、顔画像１５００から口領域１５１０を特定する。ある局面において、フェイストラッキングモジュール２２８は、顔画像１５００において、矩形上の比較領域を設定し、この比較領域の大きさ、位置および角度をそれぞれ変えながら、比較領域の画像と、口テンプレート２４５の画像との類似度を算出する。フェイストラッキングモジュール２２８は、予め定められたしきい値よりも大きい類似度が算出された比較領域を、口領域１５１０として特定し得る。   The face tracking module 228 identifies the mouth area 1510 from the face image 1500 by pattern matching using the mouth template 245 stored in the face information 244. In one aspect, the face tracking module 228 sets a rectangular comparison area in the face image 1500 and changes the size, position, and angle of the comparison area, the image of the comparison area and the image of the mouth template 245. Calculate the degree of similarity with The face tracking module 228 may identify the comparison area for which the degree of similarity greater than the predetermined threshold is calculated as the mouth area 1510.

フェイストラッキングモジュール２２８はさらに、算出した類似度がしきい値よりも大きい比較領域の位置と、他の顔器官（例えば、目、鼻）の位置との相対関係に基づいて、当該比較領域が口領域に相当するか否かを判断し得る。   The face tracking module 228 further calculates the comparison area based on the relative relationship between the position of the comparison area whose calculated degree of similarity is larger than the threshold and the position of the other facial organs (eg, eyes, nose). It can be determined whether it corresponds to a region.

フェイストラッキングモジュール２２８は、特定した口領域１５１０に基づいて、より詳細な口の形状を検出する。   The face tracking module 228 detects a more detailed mouth shape based on the identified mouth area 1510.

図１６は、フェイストラッキングモジュール２２８が口の形状を検出する処理を説明する図（その１）である。図１６を参照して、フェイストラッキングモジュール２２８は、口領域１５１０に含まれる口の形状（唇の輪郭）を検出するための複数の輪郭検出線１６００を設定する。各輪郭検出線１６００は、顔の高さ方向に直交する方向に、予め定められた間隔で設定される。   FIG. 16 is a diagram (part 1) illustrating the process in which the face tracking module 228 detects the shape of the mouth. Referring to FIG. 16, face tracking module 228 sets a plurality of contour detection lines 1600 for detecting the shape of the mouth (a lip contour) included in mouth region 1510. Each contour detection line 1600 is set at a predetermined interval in a direction orthogonal to the height direction of the face.

フェイストラッキングモジュール２２８は、複数の輪郭検出線１６００の各々に沿った口領域１５１０の輝度値の変化を検出し、輝度値の変化が急激な位置を輪郭点として特定し得る。より具体的には、フェイストラッキングモジュール２２８は、隣接画素との輝度差（すなわち、輝度値変化）が予め定められたしきい値以上である画素を、輪郭点として特定し得る。画素の輝度値は、たとえば、画素のＲＢＧ値を所定の重み付けで積算することにより得られる。   The face tracking module 228 may detect a change in luminance value of the mouth region 1510 along each of the plurality of contour detection lines 1600, and identify a position where the change in luminance value is abrupt as a contour point. More specifically, the face tracking module 228 may identify a pixel having a luminance difference (i.e., a change in luminance value) with an adjacent pixel equal to or greater than a predetermined threshold as an outline point. The luminance value of the pixel is obtained, for example, by integrating the RBG value of the pixel with a predetermined weighting.

フェイストラッキングモジュール２２８は、口領域１５１０に対応する画像から２種類の輪郭点を特定する。フェイストラッキングモジュール２２８は、口（唇）の外側の輪郭に対応する輪郭点１６１０と、口（唇）の内側の輪郭に対応する輪郭点１６２０とを特定する。ある局面において、フェイストラッキングモジュール２２８は、１つの輪郭検出線１６００上に３つ以上の輪郭点が検出された場合には、両端の輪郭点を外側の輪郭点１６１０として特定し得る。この場合、フェイストラッキングモジュール２２８は、外側の輪郭点１６１０以外の輪郭点を、内側の輪郭点１６２０として特定し得る。また、フェイストラッキングモジュール２２８は、１つの輪郭検出線１６００上に二つ以下の輪郭点が検出された場合には、検出された輪郭点を外側の輪郭点１６１０として特定し得る。   The face tracking module 228 identifies two types of contour points from the image corresponding to the mouth area 1510. The face tracking module 228 identifies contour points 1610 corresponding to the outer contour of the mouth (lip) and contour points 1620 corresponding to the inner contour of the lip (lip). In an aspect, the face tracking module 228 may identify the contour points at both ends as the outer contour point 1610 when three or more contour points are detected on one contour detection line 1600. In this case, the face tracking module 228 may identify contour points other than the outer contour point 1610 as the inner contour point 1620. Also, the face tracking module 228 may identify the detected contour point as the outer contour point 1610 when two or less contour points are detected on one contour detection line 1600.

図１７は、フェイストラッキングモジュール２２８が口の形状を検出する処理を説明するための図（その２）である。図１７では、外側の輪郭点１６１０は白丸、内側の輪郭点１６２０はハッチングされた丸としてそれぞれ示されている。   FIG. 17 is a diagram (part 2) for explaining the process in which the face tracking module 228 detects the shape of the mouth. In FIG. 17, the outer contour points 1610 are shown as white circles, and the inner contour points 1620 are shown as hatched circles.

フェイストラッキングモジュール２２８は、内側の輪郭点１６２０間を補完することにより、口形状１７００を特定する。この場合、輪郭点１６２０は、口の特徴点と言える。ある局面において、フェイストラッキングモジュール２２８は、スプライン補完などの非線形の補完方法を用いて、口形状１７００を特定し得る。なお、他の局面において、フェイストラッキングモジュール２２８は、外側の輪郭点１６１０間を補完することにより口形状１７００を特定してもよい。さらに他の局面において、フェイストラッキングモジュール２２８は、想定される口形状（人の上唇と下唇とによって形成され得る所定の形状）から、大きく逸脱する輪郭点を除外し、残った輪郭点によって口形状１７００を特定してもよい。このようにして、フェイストラッキングモジュール２２８は、ユーザの口の動作（形状）を特定し得る。なお、口形状１７００の検出方法は上記に限られず、フェイストラッキングモジュール２２８は、他の手法により口形状１７００を検出してもよい。また、フェイストラッキングモジュール２２８は、同様にして、ユーザの目および眉の動作を検出し得る。なお、フェイストラッキングモジュール２２８は、頬、鼻などの器官の形状を検出可能に構成されてもよい。   The face tracking module 228 identifies the mouth shape 1700 by complementing between the inner contour points 1620. In this case, the contour point 1620 can be said to be a mouth feature point. In one aspect, face tracking module 228 may identify mouth shape 1700 using a non-linear interpolation method such as spline interpolation. Note that in another aspect, the face tracking module 228 may identify the mouth shape 1700 by complementing between the outer contour points 1610. In yet another aspect, the face tracking module 228 excludes the contour points that greatly deviate from the assumed mouth shape (a predetermined shape that can be formed by the upper lip and the lower lip of the person), and the remaining contour points The shape 1700 may be identified. In this manner, face tracking module 228 may identify the user's mouth movement (shape). The method of detecting the mouth shape 1700 is not limited to the above, and the face tracking module 228 may detect the mouth shape 1700 by another method. Also, the face tracking module 228 may similarly detect user eye and eyelid activity. The face tracking module 228 may be configured to be able to detect the shape of organs such as the cheeks and the nose.

図１８は、フェイストラッキングデータの構造の一例を表す。フェイストラッキングデータは、各器官の形状を構成する複数の特徴点のｕｖｗ視野座標系における位置座標を表す。たとえば、図１８に示されるポイントｍ１、ｍ２・・は、口形状１７００を構成する内側の輪郭点１６２０に対応する。ある局面において、フェイストラッキングデータは、第１カメラ１１６または第２カメラ１１７の位置を基準（原点）としたｕｖｗ視野座標系における座標値である。他の局面において、フェイストラッキングデータは、各器官ごとに予め定められた特徴点を基準（原点）とした座標系における座標値である。一例として、ポイントｍ１、ｍ２・・・は、内側の輪郭点１６２０のうち口角に対応するいずれか一方の特徴点を原点とした座標系における座標値である。   FIG. 18 shows an example of the structure of face tracking data. The face tracking data represents position coordinates in the uvw view coordinate system of a plurality of feature points constituting the shape of each organ. For example, points m 1, m 2,... Shown in FIG. 18 correspond to inner contour points 1620 constituting the mouth shape 1700. In one aspect, the face tracking data is a coordinate value in the uvw view coordinate system based on the position (origin) of the first camera 116 or the second camera 117. In another aspect, face tracking data is coordinate values in a coordinate system based on a feature point defined in advance for each organ (origin). As an example, points m 1, m 2,... Are coordinate values in a coordinate system with the origin being one of the feature points corresponding to the mouth angle among the inside contour points 1620.

［サーバ１５０の構成］
図１９は、サーバ１５０のハードウェア構成と機能構成とを表すブロック図である。ある実施形態において、サーバ１５０は、主たるハードウェアとして通信インターフェース１９１０と、プロセッサ１９２０と、ストレージ１９３０とを備える。 [Configuration of server 150]
FIG. 19 is a block diagram showing the hardware configuration and the functional configuration of the server 150. As shown in FIG. In one embodiment, the server 150 includes a communication interface 1910, a processor 1920, and a storage 1930 as main hardware.

通信インターフェース１９１０は、コンピュータ２００など外部の通信機器と信号を送受信するための変復調処理などを行なう無線通信用の通信モジュールとして機能する。通信インターフェース１９１０は、チューナ、高周波回路等により実現される。   The communication interface 1910 functions as a communication module for wireless communication that performs modulation / demodulation processing and the like for transmitting / receiving a signal to / from an external communication device such as the computer 200. The communication interface 1910 is realized by a tuner, a high frequency circuit, and the like.

プロセッサ１９２０は、サーバ１５０の動作を制御する。プロセッサ１９２０は、ストレージ１９３０に格納される各種の制御プログラムを実行することにより、送受信部１９２１、サーバ処理部１９２２、検索エンジン１９２３、物体特定部１９２４、感情判断部１９２５、学習部１９２６として機能する。   The processor 1920 controls the operation of the server 150. The processor 1920 functions as a transmitting / receiving unit 1921, a server processing unit 1922, a search engine 1923, an object specifying unit 1924, an emotion determining unit 1925, and a learning unit 1926 by executing various control programs stored in the storage 1930.

送受信部１９２１は、各コンピュータ２００との間で各種情報を送受信する。たとえば、送受信部１９２１は、仮想空間２にオブジェクトを配置する要求、オブジェクトを仮想空間２から削除する要求、オブジェクトを移動させる要求、ユーザの音声などを各コンピュータ２００に送信する。   The transmission / reception unit 1921 transmits / receives various types of information to / from each computer 200. For example, the transmission / reception unit 1921 transmits, to each computer 200, a request to arrange an object in the virtual space 2, a request to delete an object from the virtual space 2, a request to move an object, a voice of a user, and the like.

サーバ処理部１９２２は、コンピュータ２００から受信した情報に基づいて、後述されるユーザＤＢ１９３３および学習用ＤＢ１９３５を更新する。検索エンジン１９２３は、コンピュータ２００から受信した検索キーに基づいて、パノラマ画像ＤＢ１９３４に含まれる複数のパノラマ画像の中から一以上のパノラマ画像を検索する。   The server processing unit 1922 updates a user DB 1933 and a learning DB 1935, which will be described later, based on the information received from the computer 200. The search engine 1923 searches for one or more panoramic images out of the plurality of panoramic images included in the panoramic image DB 1934 based on the search key received from the computer 200.

物体特定部１９２４は、後述する学習モデル１９３６を利用して、コンピュータ２００から入力された線図データに対応する物体の候補を特定する。感情判断部１９２５は、後述する学習モデル１９３７を利用して、コンピュータ２００から受信したフェイストラッキングデータに対応するユーザ１９０の感情の候補を判断する。学習部１９２６は、後述する学習モデル１９３６、１９３７を更新する。   The object specifying unit 1924 specifies a candidate of an object corresponding to the line drawing data input from the computer 200 using a learning model 1936 described later. Emotion determining unit 1925 determines a candidate for the emotion of user 190 corresponding to the face tracking data received from computer 200 using a learning model 1937 described later. The learning unit 1926 updates learning models 1936 and 1937 described later.

ストレージ１９３０は、仮想空間指定情報１９３１と、オブジェクト指定情報１９３２と、ユーザＤＢ１９３３と、パノラマ画像ＤＢ１９３４と、学習用ＤＢ１９３５と、学習モデル１９３６、１９３７とを保持する。   The storage 1930 holds virtual space designation information 1931, object designation information 1932, a user DB 1933, a panoramic image DB 1934, a learning DB 1935, and learning models 1936 and 1937.

仮想空間指定情報１９３１は、コンピュータ２００の仮想空間定義モジュール２３１が仮想空間２を定義するために用いられる情報である。たとえば、仮想空間指定情報１９３１は、仮想空間２の大きさまたは形状を指定する情報を含む。オブジェクト指定情報１９３２は、コンピュータ２００の仮想オブジェクト生成モジュール２３２が仮想空間２に配置（生成）するオブジェクトを指定する。   Virtual space specification information 1931 is information used by the virtual space definition module 231 of the computer 200 to define the virtual space 2. For example, virtual space specification information 1931 includes information specifying the size or shape of virtual space 2. The object designation information 1932 designates an object to be arranged (generated) in the virtual space 2 by the virtual object generation module 232 of the computer 200.

ユーザＤＢ１９３３は、ネットワーク１９に接続される複数のコンピュータ２００の各々のユーザ１９０を識別するための情報（以下、「ユーザＩＤ」とも言う）と、ユーザの属性情報とを含む。属性情報は、たとえば、年齢、場所（住所など）、性別、趣味などを含む。パノラマ画像ＤＢ１９３４は、パノラマ画像ＩＤと、パノラマ画像（動画像を含む）とを関連付けて保持する。   The user DB 1933 includes information for identifying the user 190 of each of the plurality of computers 200 connected to the network 19 (hereinafter also referred to as “user ID”) and attribute information of the user. Attribute information includes, for example, age, place (address etc.), gender, hobbies and the like. The panoramic image DB 1934 associates and holds a panoramic image ID and a panoramic image (including a moving image).

学習用ＤＢ１９３５は、検索キーと、当該検索キーにより検索された一以上のパノラマ画像のうちユーザ１９０に選択されたパノラマ画像とを互いに関連付けて保持する。ある局面において、学習用ＤＢ１９３５は、これらの情報にさらにユーザＩＤを関連付けて保持してもよい。パノラマ画像ＤＢ１９３４および学習用ＤＢ１９３５のデータ構造は後述される。   The learning DB 1935 holds the search key and the panoramic image selected by the user 190 among the one or more panoramic images searched by the search key in association with each other. In one aspect, the learning DB 1935 may further associate user ID with such information and hold it. The data structures of the panoramic image DB 1934 and the learning DB 1935 will be described later.

学習モデル１９３６は、コンピュータ２００から入力された線図データに対応する物体を特定するためのプログラムを保持する。学習モデル１９３７は、コンピュータ２００から入力されたフェイストラッキングデータに対応するユーザ１９０の感情を判断するためのプログラムを保持する。一例として、学習モデル１９３６，１９３７は、入力層、複数の中間層、および出力層を含むニューラルネットワークである。学習部１９２６は、学習用ＤＢ１９３５に保持される学習用データに基づいて、学習モデル１９３６、１９３７の各ノード間の重み係数を更新する。学習部１９２６は、一例として、誤差逆伝播法に従い重み係数を更新する。   The learning model 1936 holds a program for identifying an object corresponding to the line drawing data input from the computer 200. The learning model 1937 holds a program for determining the emotion of the user 190 corresponding to the face tracking data input from the computer 200. As an example, the learning models 1936 and 1937 are neural networks including an input layer, a plurality of intermediate layers, and an output layer. The learning unit 1926 updates weight coefficients between nodes of the learning models 1936 and 1937 based on the learning data held in the learning DB 1935. The learning unit 1926 updates the weighting factor according to the error back propagation method, as an example.

（パノラマ画像ＤＢ１９３４）
図２０は、パノラマ画像ＤＢ１９３４のデータ構造の一例を表す。パノラマ画像ＤＢ１９３４は、パノラマ画像ＩＤと、画像データと、タイトルと、タグとを互いに関連付けて保持する。 (Panorama image DB 1934)
FIG. 20 shows an example of the data structure of the panoramic image DB 1934. The panoramic image DB 1934 holds the panoramic image ID, the image data, the title, and the tag in association with one another.

画像データは、動画像データを含み得る。画像データは、たとえば、コンピュータ２００のユーザ、またはサーバ１５０の管理者によりサーバ１５０に投稿（登録）される。タイトルは、画像データの投稿者によって設定される。タグは、画像データの投稿者、またはパノラマ画像の視聴者によって設定される。タグは、パノラマ画像のジャンル、パノラマ画像に含まれる物体などを特定する。タグはさらに、感情タグを含み得る。感情タグは、ユーザ１９０がパノラマ画像を視聴することにより得られると推定される感情を表す。一例として、コメディ動画像のパノラマ画像には、「楽しい」、「リラックス」、「満足」などの感情タグが設定される。   The image data may include moving image data. The image data is posted (registered) to the server 150 by, for example, a user of the computer 200 or an administrator of the server 150. The title is set by the poster of the image data. The tag is set by the poster of the image data or the viewer of the panoramic image. The tag specifies the genre of the panoramic image, an object included in the panoramic image, and the like. The tag may further include an emotional tag. The emotion tag represents an emotion estimated to be obtained by the user 190 viewing a panoramic image. As an example, the panoramic image of the comedy moving image is set with emotion tags such as “fun”, “relax”, “satisfaction” and the like.

（学習用ＤＢ１９３５）
図２１は、学習用ＤＢ１９３５のデータ構造の一例を表す。学習用ＤＢ１９３５は、テーブル２１１０，２１２０，２１３０を含む。テーブル２１１０は、線図データとしての検索キーと、線図により表される物体と、当該検索キーにより検索された一以上のパノラマ画像のうちユーザ１９０に選択されたパノラマ画像のパノラマ画像ＩＤとを互いに関連付けて保持する。テーブル２１２０は、フェイストラッキングデータとしての検索キーと、フェイストラッキングデータにより表される感情と、当該検索キーにより検索された一以上のパノラマ画像のうちユーザ１９０に選択されたパノラマ画像のパノラマ画像ＩＤとを互いに関連付けて保持する。テーブル２１３０は、音声信号から抽出された文字列としての検索キーと、当該検索キーにより検索された一以上のパノラマ画像のうちユーザ１９０に選択されたパノラマ画像のパノラマ画像ＩＤとを互いに関連付けて保持する。 (DB 1935 for learning)
FIG. 21 illustrates an example of the data structure of the learning DB 1935. The learning DB 1935 includes tables 2110, 2120 and 2130. The table 2110 includes a search key as line data, an object represented by the line, and a panoramic image ID of a panoramic image selected by the user 190 among one or more panoramic images searched by the search key. Relate and hold each other. The table 2120 includes a search key as face tracking data, an emotion represented by the face tracking data, and a panoramic image ID of a panoramic image selected by the user 190 among one or more panoramic images searched by the search key. In relation to each other. The table 2130 holds the search key as a character string extracted from the audio signal and the panoramic image ID of the panoramic image selected by the user 190 among the one or more panoramic images searched by the search key in association with each other. Do.

以下、検索キーとして、ユーザ１９０が仮想空間２で描いた線図を表す線図データ、ユーザ１９０の表情を表すフェイストラッキングデータ、ユーザ１９０の発話に基づく音声信号から抽出された文字列、を用いる実施形態について説明する。   Hereinafter, as a search key, diagram data representing a diagram drawn by the user 190 in the virtual space 2, face tracking data representing an expression of the user 190, and a character string extracted from an audio signal based on the user's 190 speech are used. Embodiments will be described.

［線図データを検索キーとして用いる］
図２２は、ユーザ１９０が仮想空間２において線図を描いている様子を表す視界画像２２００である。視界画像２２００は、机オブジェクト２２１０を含む。机オブジェクト２２１０の上には、コンピュータ２００がユーザ１９０から線図の入力を受け付けるための入力オブジェクト２２２０が配置されている。入力オブジェクト２２２０の形状は、平らな面を有する略直方体である。 [Use diagram data as search key]
FIG. 22 is a view image 2200 showing the user 190 drawing a diagram in the virtual space 2. The view image 2200 includes a desk object 2210. On the desk object 2210, an input object 2220 for the computer 200 to receive an input of a diagram from the user 190 is disposed. The shape of the input object 2220 is a substantially rectangular parallelepiped having a flat surface.

ある局面において、机オブジェクト２２１０の上にペンオブジェクト２２３０が配置されている。また、入力オブジェクト２２２０の近傍に、入力オブジェクト２２２０への線図の入力を促すメッセージオブジェクト２２４０が配置されている。   In one aspect, a pen object 2230 is disposed on a desk object 2210. Also, in the vicinity of the input object 2220, a message object 2240 prompting input of a diagram to the input object 2220 is disposed.

図２２に示される例において、ハンドオブジェクト８１０とペンオブジェクト２２３０とが関連付けられている。たとえば、コンピュータ２００のプロセッサ１０は、ハンドオブジェクト８１０とペンオブジェクト２２３０とが接触したことを検出して、これらのオブジェクトを互いに関連付ける。   In the example shown in FIG. 22, a hand object 810 and a pen object 2230 are associated. For example, the processor 10 of the computer 200 detects contact between the hand object 810 and the pen object 2230 and associates these objects with each other.

ユーザ１９０は、これらのオブジェクトが関連付けられた状態でコントローラ１６０を動かす。プロセッサ１０はハンドトラッキングモジュール２２７として、コントローラ１６０の動きをハンドオブジェクト８１０に反映する。これにより、ペンオブジェクト２２３０がハンドオブジェクト８１０に連動して動く。   The user 190 moves the controller 160 with these objects associated. The processor 10 reflects the motion of the controller 160 in the hand object 810 as the hand tracking module 227. Thereby, the pen object 2230 moves in conjunction with the hand object 810.

ユーザ１９０は、ペンオブジェクト２２３０を用いて入力オブジェクト２２２０に線図を入力する。より具体的には、プロセッサ１０は、ペンオブジェクト２２３０と入力オブジェクト２２２０との接点の軌跡を表す軌跡オブジェクト２２５０を入力オブジェクト２２２０上に配置する。これにより、ユーザ１９０は、自身が描いた線図（に対応する軌跡オブジェクト２２５０）を認識できる。ある実施形態において、プロセッサ１０は、コントローラ１６０の予め定められたボタンが押下されている間のみ、ペンオブジェクト２２３０と入力オブジェクト２２２０との接点の軌跡をトラッキングするように構成されてもよい。   The user 190 inputs a diagram into the input object 2220 using the pen object 2230. More specifically, the processor 10 places, on the input object 2220, a locus object 2250 representing the locus of the contact point between the pen object 2230 and the input object 2220. As a result, the user 190 can recognize the diagram (the corresponding trajectory object 2250) drawn by the user 190. In one embodiment, processor 10 may be configured to track the trajectory of the contact between pen object 2230 and input object 2220 only while a predetermined button of controller 160 is pressed.

コンピュータ２００は、軌跡オブジェクト２２５０のデータ（ユーザ１９０が描いた線図を表す線図データ）を検索キーとして、サーバ１５０に送信する。   The computer 200 transmits the data of the trajectory object 2250 (diagram data representing the diagram drawn by the user 190) to the server 150 as a search key.

サーバ１５０のプロセッサ１９２０は、物体特定部１９２４として、コンピュータ２００から入力された線図データが表す物体の候補を特定する。より具体的には、物体特定部１９２４は、学習モデル１９３６の各入力層に線図データを入力し、各出力層から出力された値に基づいて、線図データが表す物体の候補を特定する。一例として、物体特定部１９２４は、予め定められた閾値を超える値を出力した出力層に対応する物体を、線図データが表す物体の候補として特定する。物体特定部１９２４は、特定された物体の候補を表す情報（例えば文字列）を検索エンジン１９２３に出力する。   The processor 1920 of the server 150, as the object identification unit 1924, identifies a candidate of an object represented by the diagram data input from the computer 200. More specifically, the object specifying unit 1924 inputs the diagram data to each input layer of the learning model 1936, and specifies the candidate of the object represented by the diagram data based on the values output from each output layer. . As an example, the object identification unit 1924 identifies an object corresponding to the output layer that has output a value exceeding a predetermined threshold value as a candidate of an object represented by the diagram data. The object identification unit 1924 outputs information (for example, a character string) representing the identified object candidate to the search engine 1923.

検索エンジン１９２３は、物体特定部１９２４から入力された情報に基づいて、パノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から一以上のパノラマ画像を検索する。たとえば、検索エンジン１９２３は、物体特定部１９２４から「ねこ」、「いぬ」の文字列の入力を受け付ける。検索エンジン１９２３は、入力された文字列を用いて、パノラマ画像ＤＢ１９３４の中から、タイトルまたはタグに「ねこ」または「いぬ」の文字列を含むパノラマ画像を検索する。プロセッサ１９２０は、検索されたパノラマ画像の画像データからサムネイルを生成する。プロセッサ１９２０は、生成したサムネイルと、当該サムネイルに対応するパノラマ画像ＩＤとをコンピュータ２００に送信する。   The search engine 1923 searches for one or more panoramic images from among the plurality of panoramic images stored in the panoramic image DB 1934 based on the information input from the object identification unit 1924. For example, the search engine 1923 receives an input of a character string of “neko” or “Inu” from the object identification unit 1924. The search engine 1923 searches the panoramic image DB 1934 for a panoramic image including the character string of “neko” or “INU” in the title or tag using the input character string. The processor 1920 generates a thumbnail from the image data of the retrieved panoramic image. The processor 1920 transmits the generated thumbnail and the panoramic image ID corresponding to the thumbnail to the computer 200.

図２３は、ユーザ１９０がパノラマ画像を選択する様子を表す視界画像２３００である。視界画像２３００は、ユーザ１９０により入力された検索キーを表すスクリーン２３１０と、サーバ１５０から受信したサムネイル２３２０〜２３５０とを含む。   FIG. 23 is a view image 2300 representing the user 190 selecting a panoramic image. The view image 2300 includes a screen 2310 representing a search key input by the user 190 and thumbnails 2322-2350 received from the server 150.

ユーザ１９０は、サムネイル２３２０〜２３５０のうち一のサムネイル（パノラマ画像）をハンドオブジェクト８１０で選択する。コンピュータ２００は、選択されたサムネイルに対応するパノラマ画像ＩＤをサーバ１５０に送信する。サーバ１５０は、受信したパノラマ画像ＩＤに対応する画像データをコンピュータ２００に送信する。コンピュータ２００は、受信した画像データを仮想空間２に展開する。これにより、ユーザ１９０は、所望のパノラマ画像を視聴できる。なお、パノラマ画像が動画像である場合、コンピュータ２００は、当該パノラマ画像を予めダウンロードしてから仮想空間２に展開してもよいし、当該パノラマ画像をストリーミング再生してもよい。   The user 190 selects one thumbnail (panoramic image) of the thumbnails 232 to 2350 using the hand object 810. The computer 200 transmits the panoramic image ID corresponding to the selected thumbnail to the server 150. The server 150 transmits image data corresponding to the received panoramic image ID to the computer 200. The computer 200 expands the received image data into the virtual space 2. Thereby, the user 190 can view and listen to a desired panoramic image. When the panoramic image is a moving image, the computer 200 may download the panoramic image in advance and then expand the same in the virtual space 2 or may perform streaming reproduction of the panoramic image.

サーバ１５０のプロセッサ１９２０は、コンピュータ２００から受信したパノラマ画像ＩＤに関連付けられたタグに基づいて、検索キーにより表される物体を特定する。プロセッサ１９２０は、検索キー（線図データ）と、検索キーにより表される物体と、パノラマ画像ＩＤとを検索用ＤＢ１９３５のテーブル２１１０に格納する。ある局面において、プロセッサ１９２０は、学習部１９２６として、線図データと当該線図データにより表される物体とに基づいて、学習モデル１９３６の学習（教師あり学習）を実行する。   The processor 1920 of the server 150 identifies the object represented by the search key based on the tag associated with the panoramic image ID received from the computer 200. The processor 1920 stores the search key (diagram data), the object represented by the search key, and the panoramic image ID in the table 2110 of the search DB 1935. In one aspect, the processor 1920 performs learning (supervised learning) of the learning model 1936 as the learning unit 1926 based on the diagram data and the object represented by the diagram data.

上記によれば、サーバ１５０は、ユーザ１９０の描いた線図に基づいて、ユーザ１９０が所望するパノラマ画像の候補をユーザ１９０に提供できる可能性を高め得る。また、図２３の視界画像２３００に示されるように、ユーザ１９０は、自分で入力した検索キー（線図）と、検索キーにより検索されたパノラマ画像（のサムネイル）とを一緒に提示されるため、自身が思い浮かべていた検索キー（線図ではなく文字列）に対応するパノラマ動画を正確に選択し得る。その結果、サーバ１５０は、質の高い学習用データを取得でき、学習効率を高め得る。   According to the above, the server 150 may increase the possibility of providing the user 190 with a candidate for a panoramic image desired by the user 190 based on the drawing drawn by the user 190. Also, as shown in the view image 2300 of FIG. 23, the user 190 is presented with the search key (diagram) input by himself and the (thumbnail of) the panoramic image searched by the search key. , The panoramic video corresponding to the search key (character string not line drawing) which oneself had thought could be selected correctly. As a result, the server 150 can acquire high quality learning data, and can improve learning efficiency.

ある局面において、視界画像２３００は、検索キーに対応する物体が何であるかをユーザ１９０に問い合わせるための質問オブジェクト２３６０を含む。たとえば、質問オブジェクト２３６０は、検索キーに対応する物体が、最も大きな値を出力した出力層に対応する物体（つまり、ユーザが意図している物体である確率が最も高い物体）であるか否かを問い合わせる。質問オブジェクト２３６０は、当該問い合わせに対する回答の入力を受け付けるための回答オブジェクト２３７０，２３８０を含む。ユーザ１９０は、ハンドオブジェクト８１０で回答オブジェクト２３７０，２３８０のいずれか一方を選択する。コンピュータ２００は、当該問い合わせに対するユーザ１９０の回答結果をサーバ１５０に送信する。サーバ１５０のプロセッサ１９２０は、受信した回答結果と線図データとに基づいて学習モデル１９３６を学習してもよい。   In one aspect, the view image 2300 includes a query object 2360 for querying the user 190 what the object corresponding to the search key is. For example, whether the object corresponding to the search key is the object corresponding to the output layer that outputs the largest value (that is, the object with the highest probability of being the object intended by the user) Inquire The question object 2360 includes answer objects 2370 and 2380 for receiving an input of an answer to the query. The user 190 selects one of the response objects 2370 and 2380 with the hand object 810. The computer 200 transmits the response result of the user 190 to the query to the server 150. The processor 1920 of the server 150 may learn the learning model 1936 based on the received answer result and the diagram data.

（線図に基づくパノラマ画像の変更処理の制御構造）
図２４は、線図に基づいてパノラマ画像を変更するための処理を表すフローチャートである。図２４に示される処理は、コンピュータ２００のプロセッサ１０およびサーバ１５０のプロセッサ１９２０によって実現される。 (Control structure of panoramic image change processing based on line drawing)
FIG. 24 is a flowchart showing a process for changing a panoramic image based on a diagram. The processing illustrated in FIG. 24 is implemented by the processor 10 of the computer 200 and the processor 1920 of the server 150.

ステップＳ２４０５にて、プロセッサ１０は、仮想空間定義モジュール２３１として、仮想空間２にパノラマ画像を展開する。ステップＳ２４１０にて、プロセッサ１０は、仮想空間２に、入力オブジェクト、ペンオブジェクト、操作オブジェクトとして機能するハンドオブジェクト、仮想カメラなどの各種オブジェクトを配置する。   In step S2405, the processor 10 develops a panoramic image in the virtual space 2 as the virtual space definition module 231. In step S 2410, the processor 10 arranges various objects in the virtual space 2 such as an input object, a pen object, a hand object functioning as an operation object, and a virtual camera.

ステップＳ２４１５にて、プロセッサ１０は、操作オブジェクトとペンオブジェクトとが接触したか否かを判断する。プロセッサ１０は、これらのオブジェクトが接触したと判断した場合（ステップＳ２４１５でＹＥＳ）、これらのオブジェクトを関連付ける。また、プロセッサ１０は、これらのオブジェクトが接触したことを、パノラマ画像を変更するためのトリガとして受け付ける。そうでない場合（ステップＳ２４１５でＮＯ）、プロセッサ１０は、トリガを受け付けるまで待機する。   In step S2415, the processor 10 determines whether the operation object and the pen object have touched. If the processor 10 determines that the objects have touched (YES in step S 2415), the processor 10 associates the objects. Also, the processor 10 receives the contact of these objects as a trigger for changing the panoramic image. If not (NO in step S 2415), the processor 10 waits until a trigger is received.

ステップＳ２４２０にて、プロセッサ１０は、入力オブジェクトに対する線図（例えば、ペンオブジェクトと入力オブジェクトとの接点の軌跡）を検索キーとして受け付ける。ステップＳ２４２５にて、プロセッサ１０は、操作オブジェクトとペンオブジェクトとの関連付けが解除されたか否かを判断する。たとえば、ユーザ１９０は、コントローラ１６０に設けられた予め定められたボタンを押下することにより、上記関連付けを解除する。プロセッサ１０は、操作オブジェクトとペンオブジェクトとの関連付けが解除されたと判断した場合（ステップＳ２４２５でＹＥＳ）、ステップＳ２４２０で入力された線図データをサーバ１５０に送信する（ステップＳ２４３０）。そうでない場合（ステップＳ２４２５でＮＯ）、プロセッサ１０は、ステップＳ２４２０の処理を再び実行する。   In step S2420, processor 10 receives a diagram (for example, a locus of a contact point between a pen object and an input object) for the input object as a search key. In step S2425, the processor 10 determines whether the association between the operation object and the pen object has been released. For example, the user 190 releases the association by pressing a predetermined button provided on the controller 160. If the processor 10 determines that the association between the operation object and the pen object has been released (YES in step S2425), the processor 10 transmits the diagram data input in step S2420 to the server 150 (step S2430). If not (NO in step S2425), the processor 10 executes the process of step S2420 again.

ステップＳ２４３５にて、プロセッサ１９２０は、コンピュータ２００から線図データ（検索キー）を受信する。ステップＳ２４４０にて、プロセッサ１９２０は、線図データに基づいて物体（例えば、物体を表す文字列）を特定する。ステップＳ２４４５にて、プロセッサ１９２０は、特定した物体を表す文字列に基づいて、パノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から一以上のパノラマ画像を検索する。ステップＳ２４５０にて、プロセッサ１９２０は、検索した一以上のパノラマ画像の各々についてサムネイルを生成し、サムネイルとパノラマ画像ＩＤとをコンピュータ２００に送信する。   In step S2435, the processor 1920 receives diagram data (search key) from the computer 200. At step S2440, processor 1920 identifies an object (eg, a string representing the object) based on the diagram data. In step S2445, the processor 1920 searches for one or more panoramic images out of the plurality of panoramic images stored in the panoramic image DB 1934 based on the character string representing the specified object. In step S 2450, processor 1920 generates a thumbnail for each of the retrieved one or more panoramic images, and transmits the thumbnail and the panoramic image ID to computer 200.

ステップＳ２４５５にて、プロセッサ１０は、サーバ１５０からサムネイルとパノラマ画像ＩＤとを受信する。ステップＳ２４６０にて、プロセッサ１０は、検索されたパノラマ画像を特定するための情報として機能するサムネイルを仮想空間２に提示する。ステップＳ２４６５にて、プロセッサ１０は、ユーザ１９０から、一以上のパノラマ画像（サムネイル）の中から一のパノラマ画像（サムネイル）の選択を受け付ける。ステップＳ２４７０にて、プロセッサ１０は、選択されたサムネイルに対応するパノラマ画像ＩＤをサーバ１５０に送信する。   In step S2455, the processor 10 receives the thumbnail and the panoramic image ID from the server 150. In step S2460, processor 10 presents, in virtual space 2, a thumbnail that functions as information for specifying a retrieved panoramic image. In step S2465, the processor 10 receives, from the user 190, a selection of one panoramic image (thumbnail) from among the one or more panoramic images (thumbnails). In step S2470, processor 10 transmits to server 150 a panoramic image ID corresponding to the selected thumbnail.

ステップＳ２４７５にて、プロセッサ１９２０は、パノラマ画像ＩＤをコンピュータ２００から受信する。ステップＳ２４８０にて、プロセッサ１９２０は、パノラマ画像ＤＢ１９３４を参照して、受信したパノラマ画像ＩＤに対応する画像データをコンピュータ２００に送信する。   In step S 2475, processor 1920 receives a panoramic image ID from computer 200. In step S2480, the processor 1920 transmits image data corresponding to the received panoramic image ID to the computer 200 with reference to the panoramic image DB 1934.

ステップＳ２４８５にて、プロセッサ１０は、仮想空間定義モジュール２３１として、受信した画像データを仮想空間２を構成する天球に展開する。これにより、ユーザ１９０は、自身の所望するパノラマ画像を視認できる。   In step S2485, the processor 10, as the virtual space definition module 231, expands the received image data into the celestial sphere that constitutes the virtual space 2. Thereby, the user 190 can view his / her desired panoramic image.

ステップＳ２４９０にて、プロセッサ１９２０は、学習部１９２６として、検索キーとして入力された線図データと、当該線図データにより表される物体とに基づいて、学習モデル１９３６を学習（更新）する。   In step S2490, processor 1920, as learning unit 1926, learns (updates) learning model 1936 based on the diagram data input as a search key and the object represented by the diagram data.

（立体的な線図に基づく検索）
上記の例では、コンピュータ２００は、平坦な入力オブジェクトに対してユーザが描く平面的な線図の入力を受け付けるように構成されている。他の局面において、コンピュータ２００は、ユーザが描く立体的な線図を検索キーとして受け付けるように構成されてもよい。 (Search based on 3D diagram)
In the above example, the computer 200 is configured to receive the input of the planar diagram drawn by the user for the flat input object. In another aspect, computer 200 may be configured to receive a three-dimensional diagram drawn by the user as a search key.

図２５は、立体的な線図の入力を受け付ける様子を表す視界画像２５００である。視界画像２５００は、入力オブジェクト２５１０を含む。図２５に示される例において、入力オブジェクト２５１０は、立方体であって、立方体を構成する各辺が破線で表示されている。   FIG. 25 is a field of view image 2500 showing the state of receiving an input of a three-dimensional diagram. The view image 2500 includes an input object 2510. In the example shown in FIG. 25, the input object 2510 is a cube, and each side constituting the cube is displayed by a broken line.

ユーザ１９０は、ペンオブジェクト２２３０が関連付けられたハンドオブジェクト８１０を操作して、入力オブジェクト２５１０に囲まれる領域に立体的な線図を描くことができる。図２５に示される例において、飛行機２５２０が描かれている。   The user 190 can manipulate the hand object 810 associated with the pen object 2230 to draw a three-dimensional diagram in the area surrounded by the input object 2510. In the example shown in FIG. 25, an airplane 2520 is depicted.

コンピュータ２００は、飛行機２５２０（３次元の線図）を２次元化する。より具体的には、入力オブジェクト２５１０を構成する立方体の各平面に飛行機２５２０を転写する。入力オブジェクト２５１０は、仮想空間２に設定されている各軸に平行に配置されているとする。係る場合、コンピュータ２００は、図２６に示されるように、飛行機２５２０を、ＸＹ平面、ＹＺ平面、およびＺＸ平面にそれぞれ転写する。図２６（Ａ）は、飛行機２５２０をＸＹ平面に転写した線図である。図２６（Ｂ）は、飛行機２５２０をＹＺ平面に転写した線図である。図２６（Ｃ）は、飛行機２５２０をＺＸ平面に転写した線図である。   The computer 200 two-dimensionally transforms the plane 2520 (three-dimensional diagram). More specifically, the plane 2520 is transferred to each plane of the cube that constitutes the input object 2510. It is assumed that the input object 2510 is disposed in parallel with each axis set in the virtual space 2. In such a case, the computer 200 transfers the airplane 2520 to the XY plane, the YZ plane, and the ZX plane, as shown in FIG. FIG. 26A is a diagram in which the plane 2520 is transferred to the XY plane. FIG. 26B is a diagram in which the plane 2520 is transferred to the YZ plane. FIG. 26C is a diagram in which the plane 2520 is transferred to the ZX plane.

コンピュータ２００は、得られた２次元の線図データを検索キーとしてサーバ１５０に送信する。その後の処理は上述の通りであるので、当該処理の説明は、繰り返さない。   The computer 200 transmits the obtained two-dimensional diagram data to the server 150 as a search key. Since the subsequent processing is as described above, the description of the processing will not be repeated.

上記によれば、ユーザ１９０は、仮想空間２上に描いた立体的な線図を検索キーとしてコンピュータ２００およびサーバ１５０に入力できる。ある局面において、ユーザ１９０は、仮想空間２を介して他のユーザと通信する場合がある。係る場合、ユーザ１９０は、ユーザ１９０が意図する物体を、サーバ１５０が入力された線図に基づいて正しく認識できているのか否かを、他のユーザとともにゲーム感覚で楽しむことができる。   According to the above, the user 190 can input the three-dimensional diagram drawn on the virtual space 2 to the computer 200 and the server 150 as a search key. In one aspect, the user 190 may communicate with other users via the virtual space 2. In such a case, the user 190 can enjoy with the other users in a game-like sense whether the object intended by the user 190 can be correctly recognized based on the diagram input by the server 150.

［フェイストラッキングデータを検索キーとして用いる］
次に、フェイストラッキングデータ、つまり、ユーザ１９０の表情を検索キーとして用いる場合の実施形態について説明する。 [Use face tracking data as search key]
Next, an embodiment in which face tracking data, that is, the expression of the user 190 is used as a search key will be described.

図２７は、フェイストラッキングデータに基づいてパノラマ画像を変更するための処理を表すフローチャートである。なお、図２７に示される処理のうち図２４の処理と同じ処理については同じ符号を付している。そのため、その処理についての説明は繰り返さない。   FIG. 27 is a flowchart showing processing for changing a panoramic image based on face tracking data. Among the processes shown in FIG. 27, the same processes as those in FIG. 24 are denoted by the same reference numerals. Therefore, the description of the process will not be repeated.

ステップＳ２７１０にて、コンピュータ２００のプロセッサ１０は、仮想空間２に展開されているパノラマ画像を変更するためのトリガを受け付けたか否かを判断する。たとえば、プロセッサ１０は、コントローラ１６０に設けられた予め定められたボタンが押下されたことに応じて、上記トリガを受け付ける。   In step S 2710, processor 10 of computer 200 determines whether or not a trigger for changing a panoramic image developed in virtual space 2 has been received. For example, the processor 10 receives the trigger in response to pressing of a predetermined button provided on the controller 160.

ステップＳ２７２０にて、プロセッサ１０は、フェイストラッキングデータを取得する。このとき、プロセッサ１０は、ユーザ１９０に今の感情（気分）、またはパノラマ画像を視聴することにより得たい感情を問い合わせてもよい。ユーザ１９０は、当該問い合わせに応じて表情を作る。第１カメラ１１６および第２カメラ１１７は、そのときのユーザ１９０の顔の画像を生成する。プロセッサ１０はフェイストラッキングモジュール２２８として、入力された顔の画像に基づいてフェイストラッキングデータを生成する。ステップＳ２７３０にて、プロセッサ１０は、生成されたフェイストラッキングデータを検索キーとしてサーバ１５０に送信する。   In step S2720, the processor 10 acquires face tracking data. At this time, the processor 10 may inquire of the user 190 the present emotion (feeling) or the emotion that he / she wants to obtain by viewing a panoramic image. The user 190 creates an expression in response to the inquiry. The first camera 116 and the second camera 117 generate an image of the face of the user 190 at that time. The processor 10 generates face tracking data based on the input face image as the face tracking module 228. In step S2730, processor 10 transmits the generated face tracking data to server 150 as a search key.

ステップＳ２７４０にて、サーバ１５０のプロセッサ１９２０は、コンピュータ２００からフェイストラッキングデータの入力を受け付ける。ステップＳ２７５０にて、プロセッサ１９２０は、感情判断部１９２５として、入力されたフェイストラッキングデータが表すユーザ１９０の感情の候補を特定する。より具体的には、感情判断部１９２５は、学習モデル１９３７の各入力層にフェイストラッキングデータを入力し、各出力層から出力された値に基づいて、フェイストラッキングデータが表す感情の候補を特定する。一例として、感情判断部１９２５は、予め定められた閾値を超える値を出力した出力層に対応する感情を、フェイストラッキングデータが表す感情の候補として特定する。ステップＳ２７６０にて、プロセッサ１９２０は、パノラマ画像ＤＢ１９３４に格納されている複数のパノラマ画像の中から、特定された感情の感情タグを含む一以上のパノラマ画像を検索する。   In step S2740, processor 1920 of server 150 receives input of face tracking data from computer 200. In step S2750, processor 1920 causes emotion determination unit 1925 to identify a candidate for the emotion of user 190 represented by the input face tracking data. More specifically, the emotion determination unit 1925 inputs face tracking data into each input layer of the learning model 1937, and identifies emotion candidates represented by the face tracking data based on the values output from each output layer. . As an example, the emotion determination unit 1925 specifies the emotion corresponding to the output layer that has output a value exceeding a predetermined threshold value as a candidate of the emotion represented by the face tracking data. In step S2760, the processor 1920 searches one or more panoramic images including the emotion tag of the specified emotion from among the plurality of panoramic images stored in the panoramic image DB 1934.

ステップＳ２７９０にて、プロセッサ１９２０は、学習部１９２６として、検索キーとして入力されたフェイストラッキングデータと、当該フェイストラッキングデータにより表される感情とに基づいて、学習モデル１９３７を学習（更新）する。   In step S2790, processor 1920 causes learning unit 1926 to learn (update) learning model 1937 based on the face tracking data input as a search key and the emotion represented by the face tracking data.

上記によれば、ユーザ１９０は、表情を作る（たとえば、笑う）だけで、自身の気分（感情）に合わせたパノラマ画像の候補を受けることができる。また、サーバ１５０は、ユーザ１９０の表情（を表すフェイストラッキングデータ）に基づいて、ユーザ１９０が所望するパノラマ画像の候補をユーザ１９０に提供できる可能性を高め得る。   According to the above, the user 190 can receive panoramic image candidates tailored to his / her mood (feelings) only by creating an expression (eg, laughing). In addition, the server 150 may increase the possibility of providing the user 190 with a candidate for a panoramic image desired by the user 190 based on (a face tracking data representing) an expression of the user 190.

なお、上記の例では、サーバ１５０は、フェイストラッキングデータに基づいてユーザ１９０の感情を推定するように構成されているが、他の局面において他のデータに基づいてユーザ１９０の感情を推定するように構成されてもよい。たとえば、サーバ１５０は、ユーザ１９０の発話に基づく音声信号をコンピュータ２００から受け付け、当該音声信号に基づいてユーザ１９０の感情を推定してもよい。たとえば、サーバ１５０は、音声信号から文字列を抽出して、当該文字列から感情を推定する。このような処理は、たとえば、メタデータ社が提供する「感情解析ＡＰＩ」により実現され得る。他の局面において、サーバ１５０は、音声信号の波形から感情を推定する。このような処理は、たとえば、ＡＧＩ社が提供する「ＳＴ Ｅｍｏｔｉｏｎ ＳＤＫ」により実現され得る。なお、これらの処理は、サーバ１５０ではなくコンピュータ２００が実行するように構成されてもよい。係る場合、コンピュータ２００は、推定した感情を特定する情報をサーバ１５０に送信する。   In the above example, the server 150 is configured to estimate the emotion of the user 190 based on the face tracking data, but in another aspect, the server 150 estimates the emotion of the user 190 based on other data. May be configured. For example, the server 150 may receive an audio signal based on the speech of the user 190 from the computer 200, and estimate an emotion of the user 190 based on the audio signal. For example, the server 150 extracts a character string from the speech signal and estimates an emotion from the character string. Such processing can be realized, for example, by “Emotion analysis API” provided by Metadata Company. In another aspect, server 150 estimates emotion from the waveform of the audio signal. Such processing can be realized, for example, by "ST Emotion SDK" provided by AGI. Note that these processes may be configured to be executed by the computer 200 instead of the server 150. In such a case, the computer 200 transmits, to the server 150, information identifying the estimated emotion.

［音声信号から抽出される文字列を検索キーとして用いる］
次に、ユーザ１９０の発話に対応する音声信号から抽出される文字列を検索キーとして用いる場合の実施形態について説明する。 [Use character string extracted from speech signal as search key]
Next, an embodiment in which a character string extracted from a voice signal corresponding to the speech of the user 190 is used as a search key will be described.

図２８は、ユーザ１９０が発話により検索キーを入力する様子を表す視界画像２８００である。視界画像２８００は、机オブジェクト２２１０を含む。机オブジェクト２２１０の上には、スピーカオブジェクト２８１０が配置されている。また、スピーカオブジェクト２８１０に重畳するようにポインタオブジェクト２８２０が配置されている。   FIG. 28 is a view image 2800 representing the user 190 inputting a search key by speech. The view image 2800 includes a desk object 2210. The speaker object 2810 is disposed on the desk object 2210. In addition, a pointer object 2820 is disposed so as to be superimposed on the speaker object 2810.

ポインタオブジェクト２８２０は、ユーザ１９０の仮想空間２における視点を表す。プロセッサ１０は視線検出モジュール２２６として、注視センサ１４０の出力に基づいて現実空間におけるユーザ１９０の視線を検出する。視線検出モジュール２２６は、現実空間におけるユーザ１９０の視線を、仮想カメラ１の位置および傾き（基準視線）に基づいて、仮想空間２における視線に変換する。仮想オブジェクト生成モジュール２３２は、仮想空間２における視線と、オブジェクトとが衝突する位置にポインタオブジェクト２８２０を配置する。   The pointer object 2820 represents the viewpoint of the user 190 in the virtual space 2. The processor 10, as the gaze detection module 226, detects the gaze of the user 190 in the real space based on the output of the gaze sensor 140. The gaze detection module 226 converts the gaze of the user 190 in the real space into the gaze in the virtual space 2 based on the position and the inclination (reference gaze) of the virtual camera 1. The virtual object generation module 232 places the pointer object 2820 at a position where the sight line in the virtual space 2 collides with the object.

ある局面において、ユーザ１９０は、スピーカオブジェクト２８１０を選択することで、仮想空間２に展開されているパノラマ画像を変更するためのトリガをコンピュータ２００に入力する。一例として、ユーザ１９０は、ハンドオブジェクト８１０と、スピーカオブジェクト２８１０とを接触させることで、スピーカオブジェクト２８１０を選択する。他の例として、ユーザ１９０は、スピーカオブジェクト２８１０を予め定められた時間にわたり注視する、つまり、ポインタオブジェクト２８２０を予め定められた時間にわたりスピーカオブジェクト２８１０に重畳することにより、スピーカオブジェクト２８１０を選択する。   In one aspect, the user 190 inputs a trigger for changing the panoramic image developed in the virtual space 2 into the computer 200 by selecting the speaker object 2810. As an example, the user 190 selects the speaker object 2810 by bringing the hand object 810 and the speaker object 2810 into contact with each other. As another example, the user 190 selects the speaker object 2810 by watching the speaker object 2810 for a predetermined time, that is, superimposing the pointer object 2820 on the speaker object 2810 for a predetermined time.

コンピュータ２００のプロセッサ１０は、ユーザ１９０に対してトリガが入力されたことを通知する。たとえば、プロセッサ１０は、「検索したい内容を話してください」等の、ユーザ１９０の発話を促す音声またはメッセージを出力する。これに従い、ユーザ１９０は、検索したい内容を発話する。プロセッサ１０は、マイク１１９から音声信号を受け付け、当該音声信号から文字列を抽出する。一例として、プロセッサ１０は、音声信号の先頭から所定時間単位（たとえば、１０ｍｓｅｃ単位）で区切られる波形データと、ストレージ１２に格納される音響モデル（図示しない）とを照合して、文字列を抽出する。音響モデルは、母音や子音などの音素ごとの特徴量を表す。一例として、プロセッサ１０は、隠れマルコフモデルに基づき、音声信号と音響モデルとを照合する。プロセッサ１０は、抽出した文字列をサーバ１５０に送信する。   The processor 10 of the computer 200 notifies the user 190 that a trigger has been input. For example, the processor 10 outputs a voice or a message prompting the user 190 to utter, such as “Speak content you want to search”. Following this, the user 190 utters the content to be retrieved. The processor 10 receives an audio signal from the microphone 119, and extracts a character string from the audio signal. As an example, the processor 10 collates the waveform data divided in a predetermined time unit (for example, 10 msec unit) from the head of the voice signal with the acoustic model (not shown) stored in the storage 12 and extracts the character string Do. The acoustic model represents feature quantities for each phoneme such as vowels and consonants. As an example, the processor 10 collates the speech signal with the acoustic model based on the Hidden Markov Model. The processor 10 transmits the extracted character string to the server 150.

サーバ１５０のプロセッサ１９２０は、パノラマ画像ＤＢ１９３４に格納されている複数のパノラマ画像の中から、タイトルまたはタグに入力された文字列（または当該文字列に含まれる単語）を含むパノラマ画像を検索する。その後の処理は上述の処理と同じであるので繰り返さない。   The processor 1920 of the server 150 searches for a panoramic image including the character string (or the word included in the character string) input to the title or the tag from among the plurality of panoramic images stored in the panoramic image DB 1934. The subsequent processing is the same as the above-described processing and will not be repeated.

上記によれば、ユーザ１９０は、単に発話するだけで検索キーをコンピュータ２００に入力できる。また、現実世界においてスピーカ機能を有するデバイス（たとえば、アマゾンエコー（登録商標））とユーザとの間での音声コミュニケーションが一般的になっている。そのため、ユーザ１９０は、スピーカの形状を有するスピーカオブジェクトが音声入力および出力機能を有すると容易に想像し得る。なお、他の局面において、スピーカオブジェクトに替えて、マイクの形状を有するマイクオブジェクトが配置されていてもよい。   According to the above, the user 190 can input the search key to the computer 200 simply by speaking. Also, in the real world, voice communication between a device having a speaker function (for example, Amazon Echo (registered trademark)) and a user has become common. Therefore, the user 190 can easily imagine that a speaker object having the shape of a speaker has audio input and output functions. In another aspect, a microphone object having the shape of a microphone may be disposed instead of the speaker object.

（制御構造）
図２９は、音声信号から抽出される文字列に基づいてパノラマ画像を切り替えるための処理を表すフローチャートである。なお、図２９に示される処理のうち図２４の処理と同じ処理については同じ符号を付している。そのため、その処理についての説明は繰り返さない。 (Control structure)
FIG. 29 is a flowchart showing processing for switching a panoramic image based on a character string extracted from an audio signal. Note that among the processes shown in FIG. 29, the same processes as the processes in FIG. Therefore, the description of the process will not be repeated.

ステップＳ２９１０にて、コンピュータ２００のプロセッサ１０は、仮想空間２に展開されているパノラマ画像を変更するためのトリガを受け付けたか否かを判断する。たとえば、プロセッサ１０は、スピーカオブジェクトがユーザ１９０に選択された場合に、上記トリガを受け付けて、ステップＳ２９２０の処理を実行する。そうでない場合（ステップＳ２９１０でＮＯ）、プロセッサ１０は、トリガを受け付けるまで待機する。   In step S2910, processor 10 of computer 200 determines whether or not a trigger for changing the panoramic image developed in virtual space 2 has been received. For example, when the speaker object is selected by the user 190, the processor 10 receives the trigger and executes the process of step S2920. If not (NO in step S2910), the processor 10 waits until a trigger is received.

ステップＳ２９２０にて、プロセッサ１０は、マイク１１９からユーザ１９０の発話に対応する音声信号の入力を受け付ける。ステップＳ２９３０にて、プロセッサ１０は、音声信号から文字列を抽出し、抽出された文字列を検索キーとしてサーバ１５０に送信する。なお、他の局面において、プロセッサ１０は音声信号をサーバ１５０に送信し、サーバ１５０が音声信号から文字列を抽出するように構成されてもよい。   In step S2920, processor 10 receives an input of an audio signal corresponding to the speech of user 190 from microphone 119. In step S2930, processor 10 extracts a character string from the speech signal, and transmits the extracted character string to server 150 as a search key. Note that in another aspect, processor 10 may be configured to transmit the audio signal to server 150, and server 150 may extract the character string from the audio signal.

ステップＳ２９４０にて、サーバ１５０のプロセッサ１９２０は、検索キーとしての文字列をコンピュータ２００から受信する。   In step S2940, processor 1920 of server 150 receives a character string as a search key from computer 200.

上記によれば、ユーザ１９０は、発話するだけで、自身の所望するパノラマ画像の候補を受けることができる。   According to the above, the user 190 can receive his / her desired panoramic image candidate only by speaking.

（他のユーザと連携してパノラマ画像を検索）
上述のように、ユーザ１９０は、ネットワーク１９を介して仮想空間２上で他のユーザとコミュニケーションできる。このとき、ユーザ１９０と他のユーザは、同じパノラマ画像を視聴している。ある局面において、ユーザ１９０は、他のユーザと相談しながらパノラマ画像の変更を行ないたいと考え得る。その理由は、ユーザ１９０が勝手にパノラマ画像２２を変更することで、他のユーザが驚くことを抑制するためである。そこで、以下に、複数のユーザの入力に基づいてパノラマ画像を変更する処理について説明する。 (Search for panoramic images in cooperation with other users)
As described above, the user 190 can communicate with other users on the virtual space 2 via the network 19. At this time, the user 190 and another user are viewing the same panoramic image. In one aspect, the user 190 may want to make changes to the panoramic image while consulting with other users. The reason is that the user 190 arbitrarily changes the panoramic image 22 to suppress surprises of other users. Therefore, the process of changing the panoramic image based on the input of a plurality of users will be described below.

図３０は、複数のユーザが仮想空間を共有している場合のネットワーク１９を説明する図である。図３０に示される例において、ネットワーク１９にコンピュータ２００Ａ、２００Ｂが接続されている。コンピュータ２００ＡはＨＭＤシステム１４００Ａに含まれ、コンピュータ２００ＢはＨＭＤシステム１４００Ｂに含まれる。ＨＭＤシステム１４００ＡおよびＨＭＤシステム１４００Ｂの構成は、上述のＨＭＤシステム１４００と同じ構成である。以下、ＨＭＤシステム１４００Ａのユーザをユーザ１９０Ａ、ＨＭＤシステム１４００Ｂのユーザをユーザ１９０Ｂとする。また、ＨＭＤシステム１４００Ａに関する各構成要素の参照符号にＡが付され、ＨＭＤシステム１４００Ｂに関する各構成要素の参照符号にＢが付される。   FIG. 30 is a diagram for explaining the network 19 in the case where a plurality of users share a virtual space. In the example shown in FIG. 30, the computers 200A and 200B are connected to the network 19. The computer 200A is included in the HMD system 1400A, and the computer 200B is included in the HMD system 1400B. The configuration of the HMD system 1400A and the HMD system 1400B is the same as that of the HMD system 1400 described above. Hereinafter, the user of the HMD system 1400A is a user 190A, and the user of the HMD system 1400B is a user 190B. Further, A is attached to the reference numeral of each component related to the HMD system 1400A, and B is attached to the reference symbol of each component related to the HMD system 1400B.

図３０に示される例において、コンピュータ２００Ａによって提供される仮想空間２Ａと、コンピュータ２００Ｂによって提供される仮想空間２Ｂとは同じデータによって構成されている。換言すれば、コンピュータ２００Ａとコンピュータ２００Ｂとは同じ仮想空間を共有していることになる。仮想空間２Ａおよび仮想空間２Ｂには、ユーザ１９０Ａに対応するアバターオブジェクト３０００Ａと、ユーザ１９０Ｂに対応するアバターオブジェクト３０００Ｂとが存在する。なお、仮想空間２Ａにおけるアバターオブジェクト３０００Ａおよび仮想空間２Ｂにおけるアバターオブジェクト３０００ＢがそれぞれＨＭＤを装着しているが、これは説明を分かりやすくするためのものであって、実際にはこれらのオブジェクトはＨＭＤを装着していない。   In the example shown in FIG. 30, the virtual space 2A provided by the computer 200A and the virtual space 2B provided by the computer 200B are configured by the same data. In other words, the computer 200A and the computer 200B share the same virtual space. In the virtual space 2A and the virtual space 2B, an avatar object 3000A corresponding to the user 190A and an avatar object 3000B corresponding to the user 190B exist. Note that although the avatar object 3000A in the virtual space 2A and the avatar object 3000B in the virtual space 2B are each equipped with an HMD, this is for the purpose of making the description easy to understand, and these objects are actually HMD. Not attached.

コンピュータ２００Ａは、アバターオブジェクト３０００Ａの目の位置に仮想カメラ１Ａを配置する。これにより、ユーザ１９０Ａは、仮想空間２Ａにおけるアバターオブジェクト３０００Ａの視界を共有する。コンピュータ２００Ｂは、アバターオブジェクト３０００Ｂの目の位置に仮想カメラ１Ｂを配置する。これにより、ユーザ１９０Ｂは、仮想空間２Ｂにおけるアバターオブジェクト３０００Ｂの視界を共有する。仮想空間２Ａおよび仮想空間２Ｂにおいて、アバターオブジェクト３０００Ａとアバターオブジェクト３０００Ｂとは互いに向かい合っている。そのため、ユーザ１９０Ａはユーザ１９０Ｂに対応するアバターオブジェクト３０００Ｂを視認し、ユーザ１９０Ｂはユーザ１９０Ａに対応するアバターオブジェクト３０００Ａを視認する。この状態において、ユーザ１９０Ａとユーザ１９０Ｂとはコミュニケーションを行なう。   The computer 200A places the virtual camera 1A at the eye position of the avatar object 3000A. Thereby, the user 190A shares the view of the avatar object 3000A in the virtual space 2A. The computer 200B arranges the virtual camera 1B at the eye position of the avatar object 3000B. Thereby, the user 190B shares the view of the avatar object 3000B in the virtual space 2B. In virtual space 2A and virtual space 2B, avatar object 3000A and avatar object 3000B face each other. Therefore, the user 190A visually recognizes the avatar object 3000B corresponding to the user 190B, and the user 190B visually recognizes the avatar object 3000A corresponding to the user 190A. In this state, the user 190A and the user 190B communicate.

たとえば、コンピュータ２００Ｂは、コントローラ１６０Ｂが動いたことを検出すると、コントローラ１６０Ｂの動きを表すデータをサーバ１５０を介してコンピュータ２００Ａに送信する。コンピュータ２００Ａは、受信したデータをアバターオブジェクト３０００Ｂの手に反映する。これにより、ユーザ１９０Ａは、アバターオブジェクト３０００Ｂを介してユーザ１９０Ｂの動きを認識できる。   For example, when detecting that controller 160B has moved, computer 200B transmits data representing the movement of controller 160B to computer 200A via server 150. The computer 200A reflects the received data in the hand of the avatar object 3000B. Thus, the user 190A can recognize the movement of the user 190B via the avatar object 3000B.

図３１は、ユーザ１９０Ａが視認する視界画像３１００を表す。視界画像３１００は、コンピュータ２００Ａに接続されているモニタ１１２Ａに表示される。視界画像３１００は、机オブジェクト２２１０と、机オブジェクト２２１０の上に配置されるスピーカオブジェクト２８１０と、アバターオブジェクト３０００Ｂと、サムネイル群３１１０とを含む。   FIG. 31 shows a view image 3100 visually recognized by the user 190A. The view image 3100 is displayed on the monitor 112A connected to the computer 200A. The view image 3100 includes a desk object 2210, a speaker object 2810 disposed on the desk object 2210, an avatar object 3000B, and a thumbnail group 3110.

ある局面において、ユーザ１９０Ｂはスピーカオブジェクト２８１０を選択した後に「動物」と発話することで検索キーをコンピュータ２００Ｂに入力する。サーバ１５０は、コンピュータ２００Ｂから入力された検索キーに基づいて検索された複数のパノラマ画像に対応するサムネイル群３１１０を、検索キーの受信元のコンピュータ２００Ｂと、コンピュータ２００Ｂと仮想空間を共有するコンピュータ２００Ａとに対して送信する。   In one aspect, the user 190B inputs a search key to the computer 200B by uttering "animal" after selecting the speaker object 2810. The server 150 shares the virtual space with the computer 200B, which is the source of the search key, with the thumbnail group 3110 corresponding to the plurality of panoramic images searched based on the search key input from the computer 200B. Send to and.

コンピュータ２００Ａは、受信したサムネイル群３１１０を仮想空間２Ａに提示する。これにより、ユーザ１９０Ａは、ユーザ１９０Ｂがコンピュータ２００Ｂに入力した検索キーによって検索されたパノラマ画像を表すサムネイル群３１１０を視認する。   The computer 200A presents the received thumbnail group 3110 in the virtual space 2A. Thereby, the user 190A visually recognizes a thumbnail group 3110 representing a panoramic image searched by the search key input to the computer 200B by the user 190B.

ユーザ１９０Ａは、これらサムネイル群３１１０が表す複数のパノラマ画像をさらに限定するための検索キーをコンピュータ２００Ａに入力できる。たとえば、ユーザ１９０Ａは、自身の注視点を表すポインタオブジェクト３１２０を予め定められた時間にわたりスピーカオブジェクト２８１０に重畳し、スピーカオブジェクト２８１０を選択する。その後、ユーザ１９０Ａは、「ねこ」と発話することで検索キーをコンピュータ２００Ａに入力する。   The user 190A can input a search key for further limiting the plurality of panoramic images represented by the thumbnail group 3110 to the computer 200A. For example, the user 190A superimposes the pointer object 3120 representing his / her gaze point on the speaker object 2810 for a predetermined time, and selects the speaker object 2810. Thereafter, the user 190A inputs a search key into the computer 200A by uttering "neko".

サーバ１５０は、コンピュータ２００Ａから他の検索キーの入力を受け付けると、動物に関する複数のパノラマ画像のなかから、ねこに関する一以上のパノラマ画像を検索する。サーバ１５０は、検索された一以上のパノラマ画像の各々のサムネイルを生成し、コンピュータ２００Ａおよび２００Ｂに送信する。   When the server 150 receives an input of another search key from the computer 200A, the server 150 searches one or more panoramic images of a cat from among a plurality of panoramic images of an animal. The server 150 generates a thumbnail of each of the retrieved one or more panoramic images and transmits it to the computers 200A and 200B.

コンピュータ２００Ａは、サーバ１５０から新たに一以上のサムネイルを受信すると、現在提示しているサムネイル群３１１０に替えて、新たに受信した一以上のサムネイルを表示する。コンピュータ２００Ｂもコンピュータ２００Ａと同様の動作を行なう。   When the computer 200A newly receives one or more thumbnails from the server 150, the computer 200A displays the newly received one or more thumbnails instead of the currently presented thumbnail group 3110. The computer 200B performs the same operation as the computer 200A.

ユーザ１９０Ａまたは１９０Ｂのいずれか一方が、仮想空間に提示されている一以上のサムネイルの中から一のサムネイルを選択する。これにより、仮想空間２Ａおよび２Ｂに、選択されたサムネイルに対応するパノラマ画像が展開される。   One of the users 190A and 190B selects one thumbnail from among one or more thumbnails presented in the virtual space. Thereby, a panoramic image corresponding to the selected thumbnail is expanded in the virtual spaces 2A and 2B.

上記によれば、仮想空間を共有するユーザ１９０Ａおよび１９０Ｂは、コミュニケーションを図りながら変更するパノラマ画像を決定できる。   According to the above, the users 190A and 190B sharing the virtual space can determine a panoramic image to be changed while communicating.

［構成］
以上に開示された技術的特徴は、以下のように要約され得る。 [Constitution]
The technical features disclosed above can be summarized as follows.

（構成１） ＨＭＤ１１０によって仮想空間２を提供するためにコンピュータ２００で実行されるプログラムが提供される。このプログラムはコンピュータ２００に、複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間２に展開するステップ（ステップＳ２４０５）と、ＨＭＤ１１０のユーザ１９０から、仮想空間２に展開されているパノラマ画像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップ（ステップＳ２４１５）と、トリガの入力を受け付けた後に、ユーザ１９０から検索キーの入力を受け付けるステップ（ステップＳ２４２０）と、複数のパノラマ画像の中から、検索キーにより検索された一以上のパノラマ画像を特定するための情報を仮想空間２に提示するステップ（ステップＳ２４６０）と、ユーザ１９０から、一以上のパノラマ画像の中から一のパノラマ画像を選択する入力を受け付けるステップ（ステップＳ２４６５）と、選択された一のパノラマ画像を仮想空間２に展開するステップ（ステップＳ２４８５）とを実行させる。   (Configuration 1) A program that is executed by the computer 200 to provide the virtual space 2 by the HMD 110 is provided. This program causes the computer 200 to expand one panoramic image included in a plurality of panoramic images into the virtual space 2 (step S2405), and the panoramic image expanded from the user 190 of the HMD 110 to the virtual space 2 The step of accepting the input of the trigger for changing to the panoramic image of (step S2415), and the step of accepting the input of the search key from the user 190 after accepting the input of the trigger (step S2420) From the step of presenting information for identifying one or more panoramic images searched by the search key in the virtual space 2 (step S2460), and the user 190 selecting one panoramic image from among the one or more panoramic images Step of accepting an input to be selected (step S24 5) to perform the steps (step S2485) to deploy one of the panorama images selected in the virtual space 2.

上記の例において、サーバ１５０がパノラマ画像の検索を行なう処理について説明したが、他の実施形態において、コンピュータ２００が検索を行なってもよい。例えば、コンピュータ２００は、ストレージ１２に格納される複数のパノラマ画像の中から、検索キーに基づいて一以上のパノラマ画像を検索してもよい。   In the above-mentioned example, although processing which server 150 searches for a panorama picture was explained, computer 200 may search in other embodiments. For example, the computer 200 may search for one or more panoramic images based on the search key from among the plurality of panoramic images stored in the storage 12.

上記の例において、コンピュータ２００は、パノラマ画像を特定するための情報として、当該パノラマ画像から生成されるサムネイルを仮想空間２に提示する処理を説明したが、他の例として、パノラマ画像に関連付けられるタイトル、タグを仮想空間２に提示してもよい。   In the above example, the computer 200 has described the processing of presenting the thumbnail generated from the panoramic image in the virtual space 2 as the information for specifying the panoramic image, but as another example, it is associated with the panoramic image Titles and tags may be presented in the virtual space 2.

上記によれば、コンピュータ２００は、ユーザ１９０に入力された検索キーに関連する一以上のパノラマ画像、換言すれば、ユーザ１９０が所望するパノラマ画像（を特定する情報）をユーザ１９０に提示できる。   According to the above, the computer 200 can present the user 190 with one or more panoramic images related to the search key input to the user 190, in other words, a panoramic image (information specifying the user's 190).

（構成２） ある実施形態において、上記のプログラムはコンピュータ２００に、入力された検索キーと、選択された一のパノラマ画像のパノラマ画像ＩＤとを、コンピュータ２００と通信可能なサーバ１５０に送信するステップ（ステップＳ２４３０、ステップＳ２４７０）とを実行させる。   (Configuration 2) In an embodiment, the above program transmits to the computer 200 the server 150 capable of communicating with the computer 200 with the input search key and the panoramic image ID of the selected one panoramic image. (Steps S2430 and S2470) are executed.

（構成３） 上記の検索キーは、ユーザ１９０が仮想空間２で描いた線図を含む。
上記によれば、ユーザ１９０は、例えば、興味のある物体の名称を知らない、または忘れた場合であっても、当該物体の線図を仮想空間上で描くことによって、コンピュータ２００に当該興味のある物体に関する検索キーを入力できる。 (Configuration 3) The above search key includes a diagram drawn by the user 190 in the virtual space 2.
According to the above, for example, even if the user 190 does not know or forget the name of the object of interest, the user 190 draws the line drawing of the object in the virtual space, thereby making the computer 200 interested You can enter a search key for an object.

（構成４） ある実施形態において、プログラムはコンピュータ２００に、ユーザ１９０の手の動きを検出するステップをさらに実行させる。上記のユーザ１９０から検索キーの入力を受け付けるステップは、ユーザ１９０の手の動きに基づく線図を検索キーとして受け付けることを含む。   Configuration 4 In one embodiment, the program causes the computer 200 to further perform the step of detecting the hand movement of the user 190. The step of accepting the search key input from the user 190 includes accepting a diagram based on the hand movement of the user 190 as a search key.

ある局面において、コンピュータ２００は、コントローラ１６０の動きをユーザ１９０の手の動きとして検出する。他の局面において、コンピュータ２００は、図示しない赤外線カメラによりユーザ１９０の手を撮影し、撮影結果に基づいてユーザ１９０の手の動きを検出してもよい。このような技術は、例えば、Ｌｅａｐ Ｍｏｔｉｏｎ社が提供するＬｅａｐ Ｍｏｔｉｏｎ（登録商標）によって実現され得る。上記によれば、ユーザ１９０は、仮想空間２上で容易に線図を描くことができる。   In one aspect, computer 200 detects movement of controller 160 as movement of a hand of user 190. In another aspect, the computer 200 may capture the hand of the user 190 with an infrared camera (not shown) and detect the motion of the hand of the user 190 based on the imaging result. Such a technology can be realized, for example, by Leap Motion (registered trademark) provided by Leap Motion. According to the above, the user 190 can easily draw a diagram on the virtual space 2.

（構成５） 上記の検索キーの入力を受け付けるステップは、仮想空間２に配置された入力オブジェクトに対してユーザ１９０が描いた線図を検索キーとして受け付けることを含む。   (Configuration 5) The step of accepting the input of the search key includes accepting, as a search key, a diagram drawn by the user 190 with respect to the input object arranged in the virtual space 2.

（構成６） 上記の検索キーをの入力受け付けるステップは、仮想空間２における予め定められた空間内（例えば、入力オブジェクト２５１０により囲まれる空間）にユーザ１９０が形成した立体オブジェクト（例えば、飛行機２５２０）の入力を受け付けることと、立体オブジェクトを２次元化して得られる線図を検索キーとして受け付けることとを含む。   (Configuration 6) The step of accepting the above search key input is a three-dimensional object (for example, an airplane 2520) formed by the user 190 in a predetermined space (for example, a space surrounded by the input object 2510) in the virtual space 2. And a diagram obtained by two-dimensionalizing a three-dimensional object as a search key.

上記によれば、ユーザ１９０は、立体的な線図を検索キーとしてコンピュータ２００に入力できる。さらに、サーバ１５０またはコンピュータ２００は、平面的な線図よりも情報量の多い立体的な線図に基づいて検索を行なうことが出来るため、ユーザ１９０が所望するパノラマ画像をユーザ１９０に提示できる可能性を高め得る。   According to the above, the user 190 can input a three-dimensional diagram to the computer 200 as a search key. Furthermore, since the server 150 or the computer 200 can perform a search based on a three-dimensional diagram having a larger amount of information than the planar diagram, the panoramic image desired by the user 190 can be presented to the user 190 It can enhance sex.

（構成７） ある実施形態に従うプログラムはコンピュータ２００に、ユーザ１９０の表情を表すフェイストラッキングデータを検出するステップ（ステップＳ２７２０）をさらに実行させる。検索キーは、ユーザ１９０のフェイストラッキングデータを含む。   (Configuration 7) The program according to an embodiment causes the computer 200 to further execute the step of detecting face tracking data representing the expression of the user 190 (step S2720). The search key includes face tracking data of the user 190.

ある局面において、コンピュータ２００は、仮想空間２に仮想的なキーボードを配置し、当該仮想的なキーボードに基づいてユーザ１９０から検索キーの入力を受け付けることも考えられる。しかしながら、仮想的なキーボードは触感がないため現実空間におけるハードウェアキーボードと使用感が異なる。そのため、ユーザ１９０は、仮想的なキーボードに対してうまく検索キーを入力できない場合もある。これに対し、ユーザ１９０は、単に表情を作るだけでコンピュータ２００に検索キーを入力できる。   In one aspect, the computer 200 may arrange a virtual keyboard in the virtual space 2 and receive an input of a search key from the user 190 based on the virtual keyboard. However, since the virtual keyboard has no tactile sensation, the feeling of use differs from that of the hardware keyboard in real space. Therefore, the user 190 may not successfully input the search key on the virtual keyboard. On the other hand, the user 190 can input a search key to the computer 200 simply by creating an expression.

（構成８） 上記の検索キーの入力を受け付けるステップは、ユーザ１９０の音声の入力を受け付けることと、ユーザ１９０の音声から抽出された文字列を検索キーとして受け付けることとを含む。   (Configuration 8) The step of accepting the input of the search key includes accepting an input of the voice of the user 190 and accepting a character string extracted from the voice of the user 190 as a search key.

上記によれば、ユーザ１９０は、単に発話するだけでコンピュータ２００に検索キーを入力できる。   According to the above, the user 190 can input the search key to the computer 200 simply by speaking.

（構成９） ある実施形態に従うプログラムはコンピュータ２００に、スピーカオブジェクトまたはマイクオブジェクトを仮想空間２に配置するステップをさらに実行させる。トリガの入力を受け付けるステップは、スピーカオブジェクトまたはマイクオブジェクトに対するユーザ１９０の予め定められた動作をトリガとして受け付けることを含む。   (Configuration 9) The program according to an embodiment causes the computer 200 to further execute the step of arranging a speaker object or a microphone object in the virtual space 2. The step of receiving the input of the trigger includes receiving, as a trigger, a predetermined action of the user 190 on the speaker object or the microphone object.

ある局面において、コンピュータ２００は、ユーザ１９０の手の動きに連動するハンドオブジェクトと、スピーカオブジェクトまたはマイクオブジェクトとが接触した場合に、上記トリガの入力を受け付ける。他の局面において、コンピュータ２００は、ユーザ１９０がスピーカオブジェクトまたはマイクオブジェクトを予め定められた時間にわたり見つめたことを検出した場合に、上記トリガの入力を受け付ける。   In one aspect, the computer 200 receives the input of the trigger when the hand object interlocking with the movement of the hand of the user 190 contacts the speaker object or the microphone object. In another aspect, computer 200 receives input of the trigger when it detects that user 190 has stared at a speaker object or a microphone object for a predetermined time.

（構成１０） 上記の一以上のパノラマ画像を仮想空間２に提示するステップは、検索キーまたは当該検索キーに基づく情報と、一以上のパノラマ画像とを仮想空間２に提示することを含む。   (Configuration 10) The step of presenting the one or more panoramic images in the virtual space 2 includes presenting a search key or information based on the search key and the one or more panoramic images in the virtual space 2.

上記によれば、ユーザ１９０は、自分で入力した検索キーと、検索キーにより検索されたパノラマ画像（のサムネイル）とを一緒に提示されるため、一以上のパノラマ画像の中から自分が意図したパノラマ動画を正確に選択し得る。その結果、サーバ１５０またはコンピュータ２００は、質の高い学習用データを取得でき、学習効率を高め得る。   According to the above, since the user 190 is presented together with the search key entered by himself and the (thumbnails of) panoramic images searched by the search key, he / she intended from among one or more panoramic images. The panoramic video can be selected accurately. As a result, the server 150 or the computer 200 can acquire high quality learning data, and can improve learning efficiency.

検索キーに基づく情報は、検索キーに基づいて検索された複数の内容（物体、感情など）のうちユーザ１９０が意図する可能性が最も高い内容が、検索キーに対応するか否かをユーザ１９０に問い合わせる情報であり得る。当該問い合わせに対するユーザ１９０の回答を得ることで、サーバ１５０またはコンピュータ２００は、質の高い学習用データを取得でき、学習効率を高め得る。   In the information based on the search key, the user 190 determines whether the content most likely to be intended by the user 190 among the plurality of contents (objects, emotions, etc.) searched based on the search key corresponds to the search key. It may be information to inquire about. By obtaining the response of the user 190 to the query, the server 150 or the computer 200 can obtain high quality learning data, and can improve learning efficiency.

（構成１１） ある実施形態において、プログラムはコンピュータ２００Ａに、コンピュータ２００Ｂのユーザ１９０Ｂに対応するアバターオブジェクト３０００Ｂを仮想空間２に配置するステップと、複数のパノラマ画像の中から、コンピュータ２００Ｂのユーザ１９０がコンピュータ２００Ｂに入力した検索キーにより検索された一以上のパノラマ画像を仮想空間２に提示するステップとをさらに実行させる。   (Configuration 11) In an embodiment, the program places the avatar object 3000B corresponding to the user 190B of the computer 200B in the virtual space 2 on the computer 200A, and the user 190 of the computer 200B selects from a plurality of panoramic images. And presenting the one or more panoramic images searched by the search key input to the computer 200B in the virtual space 2.

上記によれば、コンピュータ２００Ａのユーザ１９０Ａは、仮想空間を共有するユーザ１９０Ｂが入力した検索キーに対する検索結果を確認できる。これにより、コンピュータ２００Ａは、ユーザ１９０Ａが意図せずにパノラマ画像が変更された場合に、ユーザ１９０Ａが驚くことを抑制し得る。   According to the above, the user 190A of the computer 200A can confirm the search result for the search key input by the user 190B sharing the virtual space. Thereby, the computer 200A can suppress the user 190A from being surprised when the panoramic image is changed unintentionally by the user 190A.

（構成１２） 上記の検索キーの入力を受け付けるステップは、コンピュータ２００Ｂのユーザ１９０Ｂによって入力された検索キーにより検索された一以上のパノラマ画像に対する検索キーの入力を受け付けることを含む。   (Configuration 12) The step of accepting the input of the search key includes accepting the input of the search key for one or more panoramic images searched by the search key input by the user 190B of the computer 200B.

上記によれば、仮想空間を共有するユーザ１９０Ａおよび１９０Ｂは、パノラマ画像を変更する処理において、互いの合意形成を行ないながら、パノラマ画像を変更し得る。   According to the above, the users 190A and 190B sharing the virtual space can change the panoramic image while forming mutual agreement in the process of changing the panoramic image.

（構成１３） ある実施形態に従うと、上記のいずれかに記載のプログラムを格納したストレージ１２と、当該プログラムを実行するためのプロセッサ１０とを備えるコンピュータ２００が提供される。   (Configuration 13) According to an embodiment, a computer 200 is provided that includes a storage 12 storing the program described in any of the above and a processor 10 for executing the program.

（構成１４） ある実施形態に従うと、ＨＭＤ１１０によって仮想空間２を提供するためにコンピュータ２００で実行される方法が提供される。この方法は、複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間２に展開するステップ（ステップＳ２４０５）と、ＨＭＤ１１０のユーザ１９０から、仮想空間２に展開されているパノラマ画像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップ（ステップＳ２４１５）と、トリガの入力を受け付けた後に、ユーザ１９０から検索キーの入力を受け付けるステップ（ステップＳ２４２０）と、複数のパノラマ画像の中から、検索キーにより検索された一以上のパノラマ画像を特定するための情報を仮想空間２に提示するステップ（ステップＳ２４６０）と、ユーザ１９０から、一以上のパノラマ画像の中から一のパノラマ画像を選択する入力を受け付けるステップ（ステップＳ２４６５）と、選択された一のパノラマ画像を仮想空間２に展開するステップ（ステップＳ２４８５）とを備える。   (Configuration 14) According to an embodiment, a method is provided that is executed by computer 200 to provide virtual space 2 by HMD 110. In this method, one panoramic image included in a plurality of panoramic images is developed in the virtual space 2 (step S2405), and a panoramic image developed in the virtual space 2 from the user 190 of the HMD 110 is another panoramic image Step of receiving a trigger input for changing to (step S2415), and a step of receiving an input of a search key from user 190 after receiving a trigger input (step S2420), and searching from among a plurality of panoramic images Presenting information for specifying one or more panoramic images searched by the key in the virtual space 2 (step S2460), and inputting from the user 190 selecting one panoramic image from the one or more panoramic images (Step S2465), and one selected pass And a step (Step S2485) to expand the llama image in the virtual space 2.

（構成１５） ある実施形態において、ＨＭＤ１１０に仮想空間２を提供するコンピュータ２００と通信可能なサーバ１５０によって実行されるプログラムが提供される。このプログラムはサーバ１５０に、ＨＭＤ１１０のモニタ１１２に展開されるパノラマ画像を変更するための検索キーの入力をコンピュータ２００から受け付けるステップ（ステップＳ２４３５）と、サーバ１５０のストレージ１９３０のパノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から、検索キーに基づいて一以上のパノラマ画像を検索するステップ（ステップＳ２４４５）と、検索した一以上のパノラマ画像を特定するための情報（例えば、サムネイル）をコンピュータ２００に送信するステップ（ステップＳ２４５０）と、一以上のパノラマ画像の中から選択された一のパノラマ画像のパノラマ画像ＩＤの入力をコンピュータ２００から受け付けるステップ（ステップＳ２４７５）と、パノラマ画像の識別情報と検索キーとに基づいて、検索のための学習を行なうステップ（ステップＳ２４９０）とを実行させる。   (Configuration 15) In an embodiment, a program executed by the server 150 capable of communicating with the computer 200 that provides the virtual space 2 to the HMD 110 is provided. This program is stored in the server 150 in the step of receiving from the computer 200 the input of the search key for changing the panoramic image developed on the monitor 112 of the HMD 110 (step S2435), and in the panoramic image DB 1934 of the storage 1930 of the server 150. Searching one or more panorama images from the plurality of panorama images based on the search key (step S2445), and information (for example, thumbnails) for specifying the searched one or more panorama images as the computer 200 (Step S2450), receiving from the computer 200 an input of a panoramic image ID of one panoramic image selected from among one or more panoramic images (step S2475), identification information of the panoramic image, and inspection Based on the key, to perform a step (Step S2490) of performing learning for search.

上記によれば、サーバ１５０は、検索キーに従い、コンピュータ２００のユーザ１９０が所望するパノラマ画像の候補をユーザ１９０に提供できる。また、サーバ１５０は、検索キーと、ユーザ１９０に選択されたパノラマ画像に関連づけられた情報（例えば、タグ、タイトル）とに基づいて学習を行なうことにより、入力された検索キーに対してユーザ１９０が所望するパノラマ画像をユーザ１９０に提供できる可能性を高め得る。   According to the above, the server 150 can provide the user 190 with a panoramic image candidate desired by the user 190 of the computer 200 according to the search key. In addition, the server 150 performs learning based on the search key and the information (for example, a tag, a title) associated with the panoramic image selected by the user 190, whereby the user 190 can be received for the input search key. Can increase the possibility that the user 190 can be provided with the panoramic image desired.

（構成１６） 上記の検索するステップは、検索キーから文字列を検出することと、パノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から、検出された文字列が関連付けられた一以上のパノラマ画像を検索することとを含む。   (Configuration 16) The searching step includes detecting a character string from the search key, and one or more panoramas associated with the detected character string among the plurality of panoramic images stored in the panoramic image DB 1934. And retrieving the image.

（構成１７） 上記の検索キーは、コンピュータ２００のユーザ１９０のフェイストラッキングデータを含む。上記の検索するステップは、ユーザ１９０のフェイストラッキングデータからユーザ１９０の感情を推測することと、推測された感情に基づいて一以上のパノラマ画像を検索することとを含む。   (Configuration 17) The above search key includes face tracking data of the user 190 of the computer 200. The searching step may include inferring the user's 190 emotion from the user's 190 face tracking data and searching for one or more panoramic images based on the inferred emotion.

（構成１８） ある実施形態に従うと、（構成１５）〜（構成１７）のいずれかに記載のプログラムを格納したストレージ１９３０と、当該プログラムを実行するためのプロセッサ１９２０とを備えるサーバ１５０が提供される。   (Configuration 18) According to an embodiment, there is provided a server 150 including a storage 1930 storing the program according to any one of (Configuration 15) to (Configuration 17), and a processor 1920 for executing the program. Ru.

（構成１９） ある実施形態に従うと、ＨＭＤ１１０に仮想空間２を提供するコンピュータ２００と通信可能なサーバ１５０によって実行される方法が提供される。この方法は、ＨＭＤ１１０のモニタ１１２に展開されるパノラマ画像を変更するための検索キーの入力をコンピュータ２００から受け付けるステップ（ステップＳ２４３５）と、サーバ１５０のストレージ１９３０のパノラマ画像ＤＢ１９３４に格納される複数のパノラマ画像の中から、検索キーに基づいて一以上のパノラマ画像を検索するステップ（ステップＳ２４４５）と、検索した一以上のパノラマ画像を特定するための情報（例えば、サムネイル）をコンピュータ２００に送信するステップ（ステップＳ２４５０）と、一以上のパノラマ画像の中から選択された一のパノラマ画像のパノラマ画像ＩＤの入力をコンピュータ２００から受け付けるステップ（ステップＳ２４７５）と、パノラマ画像の識別情報と検索キーとに基づいて、検索のための学習を行なうステップ（ステップＳ２４９０）とを備える。   (Configuration 19) According to an embodiment, a method executed by a server 150 capable of communicating with a computer 200 that provides the virtual space 2 to the HMD 110 is provided. This method includes the steps of receiving from the computer 200 an input of a search key for changing a panoramic image developed on the monitor 112 of the HMD 110 (step S2435), and storing a plurality of panoramic images DB 1934 stored in the storage 1930 of the server 150. Step of searching one or more panorama images from the panorama images based on the search key (step S2445), and transmitting information (for example, a thumbnail) for specifying one or more searched panorama images to the computer 200 Step (step S2450), step of accepting from the computer 200 an input of a panoramic image ID of one panoramic image selected from among one or more panoramic images (step S2475), identification information of a panoramic image, and a search key On the basis of, And a step (step S2490) of performing learning for search.

今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。   It should be understood that the embodiments disclosed herein are illustrative and non-restrictive in every respect. The scope of the present invention is indicated not by the above description but by the claims, and is intended to include all the modifications within the meaning and scope equivalent to the claims.

１ 仮想カメラ、２ 仮想空間、５ 基準視線、１０，１９２０ プロセッサ、１１ メモリ、１２，１９３０ ストレージ、１９ ネットワーク、２２ パノラマ画像、１００，１４００ ＨＭＤシステム、１１２ モニタ、１１４ センサ、１１５ スピーカ、１１６ 第１カメラ、１１７ 第２カメラ、１１９ マイク、１２０ ＨＭＤセンサ、１３０ モーションセンサ、１４０ 注視センサ、１５０ サーバ、１６０ コントローラ、１９０ ユーザ、２００ コンピュータ、２２０ 表示制御モジュール、２２１ 仮想カメラ制御モジュール、２２２ 視界領域決定モジュール、２２３ 視界画像生成モジュール、２２４ 基準視線特定モジュール、２２５ 音声制御モジュール、２２６ 視線検出モジュール、２２７ ハンドトラッキングモジュール、２２８ フェイストラッキングモジュール、２３０ 仮想空間制御モジュール、２３１ 仮想空間定義モジュール、２３２ 仮想オブジェクト生成モジュール、２３３ 手オブジェクト制御モジュール、２４０ メモリモジュール、２４１ 空間情報、２４２ オブジェクト情報、２４３ ユーザ情報、２４４ 顔情報、８１０ ハンドオブジェクト１１２０，２８１０ スピーカオブジェクト、１１３０ 検索キー、１１４０，１２１０，１２６０，２３２０，２３５０ サムネイル、１２００，２２００，２３００，２５００，２８００，３１００ 視界画像、１９２３ 検索エンジン、１９２４ 物体特定部、１９２５ 感情判断部、１９２６ 学習部、１９３４ パノラマ画像ＤＢ、１９３５ 学習用ＤＢ、１９３６，１９３７ 学習モデル、２２２０，２５１０ 入力オブジェクト、２２３０ ペンオブジェクト、２２４０ メッセージオブジェクト、２２５０ 軌跡オブジェクト、２３１０ スクリーン、２５２０ 飛行機、２８２０，３１２０ ポインタオブジェクト、３０００Ａ，３０００Ｂ アバターオブジェクト。   DESCRIPTION OF SYMBOLS 1 Virtual camera, 2 virtual space, 5 reference eyes, 10, 1920 processors, 11 memories, 12, 1930 storage, 19 networks, 22 panoramic images, 100, 1400 HMD systems, 112 monitors, 114 sensors, 115 speakers, 116 1st Camera, 117 second camera, 119 microphone, 120 HMD sensor, 130 motion sensor, 140 gaze sensor, 150 server, 160 controller, 190 user, 200 computer, 220 display control module, 221 virtual camera control module, 222 view area determination module , 223 view image generation module, 224 reference gaze identification module, 225 voice control module, 226 gaze detection module, 227 hand tracking module 228 face tracking module 230 virtual space control module 231 virtual space definition module 232 virtual object generation module 233 hand object control module 240 memory module 241 space information 242 object information 243 user information 244 face information 810 hand object 1120, 2810 speaker object, 1130 search key, 1140, 1210, 1260, 2320, 2350 thumbnail, 1200, 2200, 2300, 2500, 2800, 3100 view image, 1923 search engine, 1924 object identification unit, 1925 emotion judgment Part, 1926 learning part, 1934 panoramic image DB, 1935 DB for learning, 1936, 1937 learning model, 2 220, 2510 input objects, 2230 pen objects, 2240 message objects, 2250 trajectory objects, 2310 screens, 2520 planes, 2820, 3120 pointer objects, 3000A, 3000B avatar objects.

Claims (19)

ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行されるプログラムであって、前記プログラムは前記コンピュータに、
予め定められた複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間に展開するステップと、
前記ヘッドマウントデバイスのユーザから、前記仮想空間に展開されているパノラマ画像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップと、
前記トリガの入力を受け付けた後に、前記ユーザから検索キーの入力を受け付けるステップと、
前記複数のパノラマ画像の中から、前記検索キーにより検索された一以上のパノラマ画像を特定するための情報を前記仮想空間に提示するステップと、
前記ユーザから、前記一以上のパノラマ画像の中から一のパノラマ画像を選択する入力を受け付けるステップと、
前記選択された一のパノラマ画像を前記仮想空間に展開するステップとを実行させる、プログラム。 A program executed by a computer to provide a virtual space by a head mounted device, said program comprising
Developing one panoramic image included in a plurality of predetermined panoramic images in a virtual space;
Accepting from the user of the head mounted device an input of a trigger for changing the panoramic image developed in the virtual space to another panoramic image;
Accepting input of a search key from the user after accepting input of the trigger;
Presenting information for specifying one or more panoramic images searched by the search key from the plurality of panoramic images in the virtual space;
Accepting an input from the user to select one panoramic image from the one or more panoramic images;
And (d) expanding the selected one panoramic image into the virtual space. 前記プログラムは前記コンピュータに、前記入力された検索キーと、前記選択された一のパノラマ画像の識別情報とを、前記コンピュータと通信可能な情報処理端末に送信するステップとを実行させる、請求項１に記載のプログラム。   The program causes the computer to execute the step of transmitting the input search key and the identification information of the selected one panoramic image to an information processing terminal capable of communicating with the computer. The program described in. 前記検索キーは、前記ユーザが前記仮想空間で描いた線図を含む、請求項１または２に記載のプログラム。   The program according to claim 1, wherein the search key includes a diagram drawn by the user in the virtual space. 前記プログラムは前記コンピュータに、前記ユーザの手の動きを検出するステップをさらに実行させ、
前記ユーザから検索キーの入力を受け付けるステップは、前記ユーザの手の動きに基づく線図を前記検索キーとして受け付けることを含む、請求項３に記載のプログラム。 The program further causes the computer to perform a step of detecting movement of the user's hand,
The program according to claim 3, wherein the step of receiving an input of a search key from the user includes receiving, as the search key, a diagram based on the movement of the user's hand. 前記検索キーの入力を受け付けるステップは、前記仮想空間に配置された予め定められたオブジェクトに対して前記ユーザが描いた線図を前記検索キーとして受け付けることを含む、請求項３または４に記載のプログラム。   5. The method according to claim 3, wherein the step of accepting the search key input includes accepting, as the search key, a diagram drawn by the user with respect to a predetermined object arranged in the virtual space. program. 前記検索キーをの入力受け付けるステップは、
前記仮想空間における予め定められた空間内に前記ユーザが形成した立体オブジェクトの入力を受け付けることと、
前記立体オブジェクトを２次元化して得られる線図を前記検索キーとして受け付けることとを含む、請求項３または４に記載のプログラム。 The step of accepting the input of the search key is
Accepting an input of a solid object formed by the user in a predetermined space in the virtual space;
The program according to claim 3, further comprising: accepting a diagram obtained by two-dimensionalizing the three-dimensional object as the search key. 前記プログラムは前記コンピュータに、前記ユーザの表情を表すデータを検出するステップをさらに実行させ、
前記検索キーは、前記ユーザの表情を表すデータを含む、請求項１または２に記載のプログラム。 The program further causes the computer to detect data representing an expression of the user,
The program according to claim 1, wherein the search key includes data representing an expression of the user. 前記検索キーの入力を受け付けるステップは、
前記ユーザの音声の入力を受け付けることと、
前記ユーザの音声から抽出された文字列を前記検索キーとして受け付けることとを含む、請求項１または２に記載のプログラム。 The step of accepting the input of the search key is
Accepting input of the user's voice;
The program according to claim 1, further comprising: accepting a character string extracted from the voice of the user as the search key. 前記プログラムは前記コンピュータに、スピーカオブジェクトまたはマイクオブジェクトを前記仮想空間に配置するステップをさらに実行させ、
前記トリガの入力を受け付けるステップは、前記スピーカオブジェクトまたは前記マイクオブジェクトに対する前記ユーザの予め定められた動作を前記トリガとして受け付けることを含む、請求項８に記載のプログラム。 The program further causes the computer to place a speaker object or a microphone object in the virtual space;
The program according to claim 8, wherein the step of receiving an input of the trigger includes receiving, as the trigger, a predetermined action of the user on the speaker object or the microphone object. 前記一以上のパノラマ画像を前記仮想空間に提示するステップは、前記検索キーまたは当該検索キーに基づく情報と、前記一以上のパノラマ画像とを前記仮想空間に提示することを含む、請求項１〜９のいずれか１項に記載のプログラム。   The step of presenting the one or more panoramic images in the virtual space includes presenting the search key or information based on the search key, and the one or more panoramic images in the virtual space. The program according to any one of 9. 前記プログラムは前記コンピュータに、
他のコンピュータのユーザに対応するアバターオブジェクトを前記仮想空間に配置するステップと、
前記複数のパノラマ画像の中から、前記他のコンピュータのユーザが前記他のコンピュータに入力した検索キーにより検索された一以上のパノラマ画像を前記仮想空間に提示するステップとをさらに実行させる、請求項１〜１０のいずれか１項に記載のプログラム。 The program is stored in the computer
Placing avatar objects corresponding to users of other computers in the virtual space;
And displaying, in the virtual space, at least one panoramic image retrieved by the user of the other computer from the plurality of panoramic images using a search key input to the other computer. The program according to any one of 1 to 10. 前記検索キーの入力を受け付けるステップは、前記他のコンピュータのユーザによって入力された検索キーにより検索された一以上のパノラマ画像に対する検索キーの入力を受け付けることを含む、請求項１１に記載のプログラム。   The program according to claim 11, wherein the step of receiving an input of the search key includes receiving an input of a search key for one or more panoramic images searched by a search key input by a user of the other computer. 請求項１〜１１のいずれか１項に記載のプログラムを格納したメモリと、
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。 A memory storing the program according to any one of claims 1 to 11.
And a processor for executing the program. ヘッドマウントデバイスによって仮想空間を提供するためにコンピュータで実行される方法であって、
予め定められた複数のパノラマ画像に含まれる一のパノラマ画像を仮想空間に展開するステップと、
前記ヘッドマウントデバイスのユーザから、前記仮想空間に展開されているパノラマ画像を他のパノラマ画像に変更するためのトリガの入力を受け付けるステップと、
前記トリガの入力を受け付けた後に、前記ユーザから検索キーの入力を受け付けるステップと、
前記複数のパノラマ画像の中から、前記検索キーにより検索された一以上のパノラマ画像を特定するための情報を前記仮想空間に提示するステップと、
前記ユーザから、前記一以上のパノラマ画像の中から一のパノラマ画像を選択する入力を受け付けるステップと、
前記選択された一のパノラマ画像を前記仮想空間に展開するステップと、
前記入力された検索キーと、前記選択された一のパノラマ画像の識別情報とを、前記コンピュータと通信可能な情報処理端末に送信するステップとを備える、方法。 A computer implemented method for providing virtual space by a head mounted device, the method comprising:
Developing one panoramic image included in a plurality of predetermined panoramic images in a virtual space;
Accepting from the user of the head mounted device an input of a trigger for changing the panoramic image developed in the virtual space to another panoramic image;
Accepting input of a search key from the user after accepting input of the trigger;
Presenting information for specifying one or more panoramic images searched by the search key from the plurality of panoramic images in the virtual space;
Accepting an input from the user to select one panoramic image from the one or more panoramic images;
Developing the selected one panoramic image in the virtual space;
Transmitting the input search key and identification information of the selected one panoramic image to an information processing terminal capable of communicating with the computer. ヘッドマウントデバイスに仮想空間を提供する情報処理端末と通信可能なコンピュータによって実行されるプログラムであって、
前記プログラムは前記コンピュータに、
前記ヘッドマウントデバイスのディスプレイに展開されるパノラマ画像を変更するための検索キーの入力を前記情報処理端末から受け付けるステップと、
前記コンピュータのメモリに格納される複数のパノラマ画像の中から、前記検索キーに基づいて一以上のパノラマ画像を検索するステップと、
前記検索した一以上のパノラマ画像を特定するための情報を前記情報処理端末に送信するステップと、
前記一以上のパノラマ画像の中から選択された一のパノラマ画像の識別情報の入力を前記情報処理端末から受け付けるステップと、
前記パノラマ画像の識別情報と前記検索キーとに基づいて、前記検索のための学習を行なうステップとを実行させる、プログラム。 A program executed by a computer capable of communicating with an information processing terminal that provides a virtual space for a head mounted device,
The program is stored in the computer
Accepting from the information processing terminal an input of a search key for changing a panoramic image developed on a display of the head mounted device;
Searching one or more panoramic images based on the search key among the plurality of panoramic images stored in the memory of the computer;
Transmitting, to the information processing terminal, information for specifying the one or more retrieved panoramic images;
Accepting from the information processing terminal an input of identification information of one panoramic image selected from the one or more panoramic images;
A program for executing learning for the search based on identification information of the panoramic image and the search key. 前記検索するステップは、
前記検索キーから文字列を検出することと、
前記メモリに格納される複数のパノラマ画像の中から、前記検出された文字列が関連付けられた一以上のパノラマ画像を検索することとを含む、請求項１５に記載のプログラム。 The step of searching is
Detecting a character string from the search key;
And retrieving one or more panoramic images associated with the detected character string among the plurality of panoramic images stored in the memory. 前記検索キーは、前記情報処理端末のユーザの表情を表すデータを含み、
前記検索するステップは、
前記ユーザの表情を表すデータから前記ユーザの感情を推測することと、
前記推測された感情に基づいて前記一以上のパノラマ画像を検索することとを含む、請求項１５に記載のプログラム。 The search key includes data representing an expression of a user of the information processing terminal,
The step of searching is
Estimating the user's emotion from data representing the user's expression;
Retrieving the one or more panoramic images based on the inferred emotion. 請求項１５〜１７のいずれか１項に記載のプログラムを格納したメモリと、
前記プログラムを実行するためのプロセッサとを備える、情報処理装置。 A memory storing the program according to any one of claims 15 to 17.
And a processor for executing the program. ヘッドマウントデバイスに仮想空間を提供する情報処理端末と通信可能なコンピュータによって実行される方法であって、
前記ヘッドマウントデバイスのディスプレイに展開されるパノラマ画像を変更するための検索キーの入力を前記情報処理端末から受け付けるステップと、
前記コンピュータのメモリに格納される複数のパノラマ画像の中から、前記検索キーに基づいて一以上のパノラマ画像を検索するステップと、
前記検索した一以上のパノラマ画像を特定するための情報を前記情報処理端末に送信するステップと、
前記一以上のパノラマ画像の中から選択された一のパノラマ画像の識別情報の入力を前記情報処理端末から受け付けるステップと、
前記パノラマ画像の識別情報と前記検索キーとに基づいて、前記検索のための学習を行なうステップとを備える、方法。 A method implemented by a computer capable of communicating with an information processing terminal for providing a virtual space to a head mounted device, comprising:
Accepting from the information processing terminal an input of a search key for changing a panoramic image developed on a display of the head mounted device;
Searching one or more panoramic images based on the search key among the plurality of panoramic images stored in the memory of the computer;
Transmitting, to the information processing terminal, information for specifying the one or more retrieved panoramic images;
Accepting from the information processing terminal an input of identification information of one panoramic image selected from the one or more panoramic images;
Performing learning for the search based on identification information of the panoramic image and the search key.