JP2019128875A - Information processing device, program therefor, head-mounted display, and display system - Google Patents
Information processing device, program therefor, head-mounted display, and display system Download PDFInfo
- Publication number
- JP2019128875A JP2019128875A JP2018011423A JP2018011423A JP2019128875A JP 2019128875 A JP2019128875 A JP 2019128875A JP 2018011423 A JP2018011423 A JP 2018011423A JP 2018011423 A JP2018011423 A JP 2018011423A JP 2019128875 A JP2019128875 A JP 2019128875A
- Authority
- JP
- Japan
- Prior art keywords
- virtual
- virtual space
- virtual camera
- display
- change
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims description 63
- 230000008859 change Effects 0.000 claims description 168
- 238000003384 imaging method Methods 0.000 claims description 105
- 230000033001 locomotion Effects 0.000 claims description 92
- 210000003128 head Anatomy 0.000 description 25
- 230000004048 modification Effects 0.000 description 23
- 238000012986 modification Methods 0.000 description 23
- 101100347655 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) NAB3 gene Proteins 0.000 description 18
- 238000000034 method Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 10
- 206010034719 Personality change Diseases 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 239000008186 active pharmaceutical agent Substances 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 238000010977 unit operation Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000007613 environmental effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 241001465754 Metazoa Species 0.000 description 2
- 101100365883 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) SLG1 gene Proteins 0.000 description 1
- 101100156779 Schizosaccharomyces pombe (strain 972 / ATCC 24843) wsc1 gene Proteins 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
本発明は、情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、表示システムに関する。 The present invention relates to an information processing apparatus, a program for the information processing apparatus, a head mounted display, and a display system.
近年、ヘッドマウントディスプレイ(HMD:Head Mounted Display)が広く普及しつつある。HMDは、ユーザの頭部に装着され、ユーザの眼前に設けられた表示部に対して、例えば、仮想カメラで仮想空間を撮像した画像であって、両眼視差を利用した立体視画像等を表示する(例えば、特許文献1参照)。このようなHMDにおいては、一般的に、HMDの姿勢の変化に基づいて、仮想空間における仮想カメラの姿勢を変化することで、ユーザが仮想空間の様々な方向を視認することを可能としている。 In recent years, a head mounted display (HMD) has been widely spread. The HMD is, for example, an image obtained by imaging a virtual space with a virtual camera with respect to a display unit mounted on the head of the user and provided in front of the user's eyes, and a stereoscopic image using binocular parallax etc. Display (for example, refer to Patent Document 1) In such an HMD, generally, the user can visually recognize various directions of the virtual space by changing the attitude of the virtual camera in the virtual space based on the change of the attitude of the HMD.
ところで、HMDの表示部において、仮想空間内で位置及び形状の一方または双方を変化させるオブジェクトを継続的に表示させたい場合がある。この場合、HMDを装着したユーザは、表示部にオブジェクトを継続的に表示させるために、オブジェクトの位置または形状の変化に応じて、仮想空間内の仮想カメラの位置及び姿勢を変化させることが必要となることがある。
しかし、ユーザからの指示をHMDの姿勢の変化により受け付ける場合、ユーザは、仮想空間における仮想カメラの姿勢の変化以外の操作を行うことが難しく、例えば、仮想空間における仮想カメラの位置の変化等の操作が困難となることがあった。そして、HMDを到着したユーザが、仮想空間内の仮想カメラの位置及び姿勢の両方を変化させることが難しい場合、表示部において、位置及び形状の一方または双方を変化させるオブジェクトを継続的に表示させることが、困難となる場合があった。
By the way, in the display part of HMD, there is a case where it is desired to continuously display an object whose position and / or shape is changed in the virtual space. In this case, the user wearing the HMD needs to change the position and orientation of the virtual camera in the virtual space in accordance with the change in the position or shape of the object in order to continuously display the object on the display unit. It can be
However, when receiving an instruction from the user by a change in the attitude of the HMD, it is difficult for the user to perform an operation other than a change in the attitude of the virtual camera in the virtual space, for example, a change in the position of the virtual camera in the virtual space, etc. Operation was sometimes difficult. When it is difficult for the user who has arrived at the HMD to change both the position and the posture of the virtual camera in the virtual space, the display unit continuously displays an object that changes one or both of the position and the shape. It could have been difficult.
本発明は、上述した事情を鑑みてなされたものであり、HMDの表示部において、仮想空間内で位置及び形状の一方または双方を変化させるオブジェクトを継続的に表示させることを、可能とする技術の提供を、解決課題の一つとする。 The present invention has been made in view of the above-described circumstances, and is a technology that enables an object having one or both of position and shape to be continuously displayed in a virtual space in the display unit of the HMD. Is one of the issues to be solved.
以上の課題を解決するために、本発明の一態様に係る情報処理装置のプログラムは、プロセッサを具備する情報処理装置のプログラムであって、前記プロセッサを、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、して機能させ、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。 In order to solve the above problems, a program for an information processing device according to one embodiment of the present invention is a program for an information processing device including a processor, and the processor is an image obtained by imaging a virtual space with a virtual camera. A display control unit that causes a display unit provided on a head mount display to display a stereoscopic image using binocular parallax; and an acquisition unit that acquires attitude information on the attitude of the head mount display. And the display control unit can change the position of the virtual camera in the virtual space based on position information on the position of the virtual point in the virtual space, and based on the posture information, the virtual It is possible to change the attitude of the virtual camera in space, and the virtual point is an object existing in the virtual space. Is set at a position based on the bets, based on the position and at least one of the change of shape of the object in the virtual space, the position of the virtual point is changed, characterized in that.
以下、本発明を実施するための形態について図面を参照して説明する。なお、各図において、各部の寸法及び縮尺は、実際のものと適宜に異ならせてある。また、以下に述べる実施の形態は、本発明の好適な具体例であるから、技術的に好ましい種々の限定が付されているが、本発明の範囲は、以下の説明において特に本発明を限定する旨の記載がない限り、これらの形態に限られるものではない。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. In each figure, the size and scale of each part are appropriately changed from the actual ones. Further, since the embodiments described below are preferable specific examples of the present invention, various technically preferable limitations are attached thereto. However, the scope of the present invention is particularly limited in the following description. As long as there is no statement of purport, it is not limited to these forms.
[A.実施形態]
以下、本発明の実施形態を説明する。
[A. Embodiment]
Hereinafter, embodiments of the present invention will be described.
[1.ヘッドマウントディスプレイの概要]
以下、図1乃至図7を参照しながら、本実施形態に係るヘッドマウントディスプレイ1(以下、「HMD1」と称する)の概要の一例について説明する。
[1. Outline of Head Mounted Display]
Hereinafter, an example of the outline of the head mounted display 1 (hereinafter referred to as “HMD1”) according to the present embodiment will be described with reference to FIGS. 1 to 7.
図1は、本実施形態に係るHMD1の概要の一例を説明するための分解斜視図である。図2は、本実施形態に係るHMD1の利用イメージの一例を説明するための説明図である。
FIG. 1 is an exploded perspective view for explaining an example of the outline of the
図1に示すように、本実施形態に係るHMD1は、端末装置10と、装着具90と、を有する。
端末装置10は、画像を表示するための表示部12を備える。本実施形態では、端末装置10としてスマートフォンを採用する場合を、一例として想定する。但し、端末装置10は、HMD1に設けられるための専用の表示デバイスであってもよい。
As shown in FIG. 1, the HMD 1 according to the present embodiment includes a
The
装着具90は、図2に示すように、HMD1をユーザUの頭部に装着するための構成要素である。
図1に示すように、装着具90は、HMD1をユーザUの頭部に装着するための一対のテンプル91L及び91Rと、端末装置10をHMD1に取り付けるための取付孔92と、ユーザUがHMD1を頭部に装着した場合に、ユーザUの両眼が存在する位置に対応するように設けられた一対の貫通孔92L及び92Rと、を備える。なお、貫通孔92L及び92Rの各々には、レンズが設けられていてもよい。そして、ユーザUが、HMD1を頭部に装着した場合、ユーザUの左眼は、貫通孔92Lを介して、または、取付孔92に設けられたレンズを介して、取付孔92に挿入された端末装置10が具備する表示部12を視認することができ、ユーザUの右眼は、貫通孔92Rを介して、または、貫通孔92Rに設けられたレンズを介して、取付孔92に挿入された端末装置10が具備する表示部12を視認することができる。
The
As shown in FIG. 1, the
図2に示すように、HMD1を頭部に装着したユーザUは、頭部の姿勢を変化させることにより、HMD1の姿勢を変化させることができる。以下では、説明の便宜上、HMD1に固定された座標系である装置座標系ΣSを導入する。
装置座標系ΣSとは、例えば、HMD1の所定箇所に原点を有し、互いに直交するXS軸、YS軸、及び、ZS軸を有する3軸の直交座標系である。本実施形態では、図2に示すように、ユーザUがHMD1を装着した場合に、+XS方向がユーザUから見た前方方向となり、+YS方向がユーザUから見た左手方向となり、+ZS方向がユーザUから見た上方向となるように、装置座標系ΣSが設定されている場合を、一例として想定する。
As illustrated in FIG. 2, the user U wearing the
The device coordinate system sigma S, for example, has an origin at a predetermined position of the
図2に示すように、HMD1を頭部に装着したユーザUは、頭部の姿勢を変化させることで、XS軸周りの回転方向、すなわち、ロール方向QXにHMD1が回転するように、HMD1の姿勢を変化させることが可能であり、YS軸周りの回転方向、すなわち、ピッチ方向QYにHMD1が回転するように、HMD1の姿勢を変化させることが可能であり、また、ZS軸周りの回転方向、すなわち、ヨー方向QZにHMD1が回転するように、HMD1の姿勢を変化させることが可能である。すなわち、HMD1を頭部に装着したユーザUは、頭部の姿勢を変化させることで、ロール方向QX、ピッチ方向QY、及び、ヨー方向QZの一部または全部を合成した任意の回転方向、すなわち、任意の回転軸WS周りの回転方向QWにHMD1が回転するように、HMD1の姿勢を変化させることが可能である。
As shown in FIG. 2, the user U wearing the HMD1 the head, by changing the posture of the head, the direction of rotation about X S axis, i.e., as HMD1 in the roll direction Q X rotates, it is possible to change the attitude of HMD1, the direction of rotation about Y S axis, i.e., as HMD1 the pitch direction Q Y is rotated, it is possible to change the attitude of HMD1, also, Z S direction of rotation about the axis, i.e., as HMD1 in the yaw direction Q Z is rotated, it is possible to change the attitude of HMD1. That is, the user U who wears the
端末装置10は、3次元の仮想的な空間である仮想空間SP-Vにおいて、仮想的なカメラである仮想カメラCMにより仮想空間SP-Vを撮像し、撮像結果を示す画像である表示画像GHを、表示部12に表示させる。
In the virtual space SP-V, which is a three-dimensional virtual space, the
図3は、仮想空間SP-V及び仮想カメラCMを説明するための説明図である。 FIG. 3 is an explanatory diagram for explaining the virtual space SP-V and the virtual camera CM.
本実施形態では、図3に示すように、仮想空間SP-Vにおいて、仮想空間SP-Vの環境を構成する地面、床面、及び、壁面等の環境構成物EVと、仮想的なキャラクタV(「オブジェクト」の一例)と、が存在する場合を、一例として想定する。ここで、キャラクタVとは、例えば、仮想空間SP-Vに存在する仮想的な人物、動物、ロボット、または、モンスター等である。
また、本実施形態では、キャラクタVが、仮想空間SP-Vにおいて複数種類のモーションを実行可能である場合を想定する。ここで、「モーション」とは、例えば、座る、立つ、走る、戦う、及び、ダンスをする等、キャラクタVが仮想空間SP-Vにおいて、位置及び体勢の少なくとも一方を変化させることである。なお、キャラクタVが体勢を変化させる場合、キャラクタVの形状も変化する。すなわち、「キャラクタVの体勢」とは、「オブジェクトの形状」の一例である。
In the present embodiment, as shown in FIG. 3, in the virtual space SP-V, the environment component EV such as the ground, the floor, and the wall surface that constitutes the environment of the virtual space SP-V, and the virtual character V The case where (an example of "object") and exist is assumed as an example. Here, the character V is, for example, a virtual person, an animal, a robot, a monster, or the like existing in the virtual space SP-V.
Further, in the present embodiment, it is assumed that the character V can execute a plurality of types of motion in the virtual space SP-V. Here, the “motion” means that the character V changes at least one of the position and the posture in the virtual space SP-V, such as sitting, standing, running, fighting, and dancing. When the character V changes its posture, the shape of the character V also changes. That is, the "posture of the character V" is an example of the "shape of the object".
また、本実施形態では、図3に示すように、仮想カメラCMが、左眼用の仮想カメラCM-Lと、右眼用の仮想カメラCM-Rとを含む場合を、一例として想定する。
また、以下では、図3に示すように、仮想空間SP-Vに固定された座標系である仮想空間座標系ΣVを導入する。仮想空間座標系ΣVとは、例えば、仮想空間SP-Vの所定箇所に原点を有し、互いに直交するXV軸、YV軸、及び、ZV軸を有する3軸の直交座標系である。
Further, in the present embodiment, as illustrated in FIG. 3, it is assumed that the virtual camera CM includes a left-eye virtual camera CM-L and a right-eye virtual camera CM-R as an example.
In the following, as shown in FIG. 3, to introduce a virtual space coordinate system sigma V is a coordinate system fixed in the virtual space SP-V. A virtual space coordinate system sigma V, for example, has an origin at a predetermined position in the virtual space SP-V, X V axes perpendicular to one another, Y V axis, and, in the orthogonal coordinate system of the three axes having a Z V axis is there.
図4は、仮想空間SP-Vを、+ZV方向から平面視した場合の、仮想カメラCM及びキャラクタVの位置関係を説明するための説明図である。なお、図4では、仮想カメラCMが、キャラクタVを、キャラクタVの正面方向から撮像している場合を例示している。 4, the virtual space SP-V, when viewed in plan from the + Z V direction is an explanatory view for explaining the positional relationship between the virtual camera CM and the character V. FIG. 4 illustrates a case where the virtual camera CM images the character V from the front direction of the character V.
以下では、図4に示すように、仮想空間SP-Vにおける仮想カメラCM-Lの位置を、位置PC-Lと称し、仮想空間SP-Vにおける仮想カメラCM-Rの位置を、位置PC-Rと称し、位置PC-L及び位置PC-Rの中点を、位置PCと称する。
また、以下では、図4に示すように、仮想カメラCM-Lの光軸方向を、撮像方向LC-Lと称し、仮想カメラCM-Rの光軸方向を、撮像方向LC-Rと称し、撮像方向LC-Lを示すベクトルと、撮像方向LC-Rを示すベクトルとの和により示される方向を、撮像方向LCと称する。なお、本実施形態では、撮像方向LC-Lと撮像方向LC-Rとが、同一の方向である場合を想定する。このため、本実施形態では、撮像方向LCは、撮像方向LC-L及び撮像方向LC-Rと同一の方向となる。
Hereinafter, as shown in FIG. 4, the position of the virtual camera CM-L in the virtual space SP-V is referred to as a position PC-L, and the position of the virtual camera CM-R in the virtual space SP-V is The midpoint between the position PC-L and the position PC-R is referred to as R, and is referred to as position PC.
In the following, as shown in FIG. 4, the optical axis direction of the virtual camera CM-L is referred to as an imaging direction LC-L, and the optical axis direction of the virtual camera CM-R is referred to as an imaging direction LC-R A direction indicated by the sum of a vector indicating the imaging direction LC-L and a vector indicating the imaging direction LC-R is referred to as an imaging direction LC. In the present embodiment, it is assumed that the imaging direction LC-L and the imaging direction LC-R are in the same direction. Therefore, in the present embodiment, the imaging direction LC is the same as the imaging direction LC-L and the imaging direction LC-R.
図5は、仮想カメラCMが仮想空間SP-Vを撮像した結果である表示画像GHの一例を示す図である。なお、図5では、図4に示すように、仮想カメラCMが、キャラクタVを、キャラクタVの正面方向から撮像した場合を想定する。 FIG. 5 is a diagram illustrating an example of a display image GH that is a result of the virtual camera CM capturing the virtual space SP-V. 5, it is assumed that the virtual camera CM images the character V from the front direction of the character V as shown in FIG.
図5に示すように、表示部12のうち、貫通孔92Lを介して視認可能な左眼用視認領域12-Lには、仮想カメラCM-Lによる撮像結果、例えば、仮想カメラCM-LによりキャラクタVを撮像した結果であるキャラクタ画像GV-Lと、仮想カメラCM-Lにより環境構成物EVを撮像した結果である環境画像GEV-Lとが、表示される。また、表示部12のうち、貫通孔92Rを介して視認可能な右眼用視認領域12-Rには、仮想カメラCM-Rによる撮像結果、例えば、仮想カメラCM-RによりキャラクタVを撮像した結果であるキャラクタ画像GV-Rと、仮想カメラCM-Rにより環境構成物EVを撮像した結果である環境画像GEV-Rとが、表示される。
すなわち、ユーザUは、左眼によりキャラクタ画像GV-L及び環境画像GEV-Lを視認し、右眼によりキャラクタ画像GV-R及び環境画像GEV-Rを視認することができる。このため、ユーザUは、図6に例示するように、表示部12において、キャラクタV及び環境構成物EV等の仮想空間SP-V内に存在する仮想的な物体を、キャラクタ画像GV及び環境画像GEV等の立体的な3次元の物体として表した、視認画像GSを視認することが可能となる。
As shown in FIG. 5, the left eye viewing area 12 -L visible through the through-
That is, the user U can visually recognize the character image GV-L and the environment image GEV-L with the left eye, and can visually recognize the character image GV-R and the environment image GEV-R with the right eye. Therefore, as illustrated in FIG. 6, the user U uses the
なお、以下では、説明の便宜上、図7に例示するように、仮想空間SP-Vにおける、仮想カメラCMとキャラクタVとの相対的な位置関係を説明する場合に、2台の仮想カメラCM-L及びCM-Rを、1台の仮想カメラCMとして表現することとする。そして、以下では、仮想空間SP-Vにおける仮想カメラCMの位置が位置PCであり、仮想カメラCMの光軸方向が撮像方向LCであることと看做す。
また、以下では、説明の便宜上、図7に示すように、仮想空間SP-Vにおける仮想カメラCMに固定された座標系であるカメラ座標系ΣCを導入する。カメラ座標系ΣCとは、例えば、仮想空間SP-Vのうち仮想カメラCMの位置PCに原点を有し、互いに直交するXC軸、YC軸、及び、ZC軸を有する3軸の直交座標系である。本実施形態では、HMD1を装着したユーザUから見て、XC軸がXS軸と平行であり、YC軸がYS軸と平行であり、ZC軸がZS軸と平行である場合を、一例として想定する。すなわち、本実施形態では、XC軸が、仮想カメラCMの撮像方向LCに延在する場合を、一例として想定する。なお、図7では、カメラ座標系ΣCの原点と位置PCとを異なる位置として示しているが、これは図示の都合上であって、カメラ座標系ΣCの原点と位置PCとは同一の位置である(後述する図12乃至図19でも同様)。
In the following, for convenience of description, as illustrated in FIG. 7, when describing the relative positional relationship between the virtual camera CM and the character V in the virtual space SP-V, two virtual cameras CM- L and CM-R are expressed as one virtual camera CM. In the following description, the position of the virtual camera CM in the virtual space SP-V is the position PC, and the optical axis direction of the virtual camera CM is the imaging direction LC.
In the following, for convenience of explanation, as shown in FIG. 7, a camera coordinate system C C which is a coordinate system fixed to the virtual camera CM in the virtual space SP-V is introduced. The camera coordinate system sigma C, for example, has an origin at the position PC of the virtual camera CM of the virtual space SP-V, X C axes perpendicular to one another, Y C-axis, and, the three axes having a Z C axis It is an orthogonal coordinate system. In the present embodiment, as viewed from the user U wearing the
[2.端末装置の構成]
以下、図8及び図9を参照しながら、端末装置10の構成の一例について説明する。
[2. Terminal Configuration]
Hereinafter, an example of the configuration of the
図8は、端末装置10の構成の一例を示す機能ブロック図である。
FIG. 8 is a functional block diagram illustrating an example of the configuration of the
図8に示すように、端末装置10は、端末装置10の各部を制御する制御部11と、画像を表示するための表示部12と、端末装置10のユーザUによる操作を受け付けるための操作部13と、端末装置10の姿勢変化を検出して検出結果を示す姿勢情報Bを出力する姿勢情報生成部14と、各種情報を記憶する記憶部15と、を備える。
As illustrated in FIG. 8, the
本実施形態では、姿勢情報生成部14として、例えば、3軸の角速度センサ1002(図9参照)を採用する。具体的には、姿勢情報生成部14は、単位時間におけるロール方向QXの姿勢変化を検出するX軸角速度センサと、単位時間におけるピッチ方向QYの姿勢変化を検出するY軸角速度センサと、単位時間におけるヨー方向QZの姿勢変化を検出するZ軸角速度センサと、を備える。そして、姿勢情報生成部14は、X軸角速度センサ、Y軸角速度センサ、及び、Z軸角速度センサによる検出結果を示す姿勢情報Bを、周期的に出力する。
In the present embodiment, for example, a triaxial angular velocity sensor 1002 (see FIG. 9) is adopted as the posture
記憶部15は、端末装置10の制御プログラムPRGと、キャラクタVが実行可能な複数種類のモーションに関するモーション情報DMとを含む、各種情報を記憶する。
ここで、モーション情報DMとは、キャラクタVが各モーションを実行する場合に、仮想空間SP-VにおけるキャラクタVの位置及び形状の経時的な変化を表す情報である。具体的には、例えば、キャラクタVが、頭部、胴体部、及び、脚部等の複数の部位から構成される場合、モーション情報DMとは、キャラクタVを構成する複数の部位の各々についての位置の経時的な変化を表す情報であってもよい。または、モーション情報DMとは、キャラクタVを構成する複数の部位間の相対的な位置関係の経時的な変化を表す情報であってもよい。または、モーション情報DMとは、キャラクタVを構成する複数の部位間を接続する関節の角度、すなわち、関節に接続される2つの部位のなす角度の経時的な変化を表す情報であってもよい。
The
Here, the motion information DM is information indicating temporal changes in the position and the shape of the character V in the virtual space SP-V when the character V executes each motion. Specifically, for example, when the character V is composed of a plurality of parts such as a head, a body, and a leg, the motion information DM refers to each of a plurality of parts constituting the character V. It may be information representing a temporal change in position. Alternatively, the motion information DM may be information representing a temporal change in relative positional relationship among a plurality of parts constituting the character V. Alternatively, the motion information DM may be information representing a temporal change of an angle of a joint connecting between a plurality of parts constituting the character V, that is, an angle formed by two parts connected to the joint. .
制御部11は、姿勢情報Bを取得する姿勢情報取得部115(「取得部」の一例)と、姿勢情報Bに基づいて表示画像GHを生成する表示制御部110と、を備える。
表示制御部110は、モード指定部111と、仮想カメラ制御部112と、キャラクタ制御部113と、表示情報生成部114と、を備える。
The
The
仮想カメラ制御部112は、姿勢情報Bに基づいて、仮想空間SP-Vにおける仮想カメラCMを制御する。なお、本実施形態において、仮想カメラ制御部112は、複数の制御モードによる仮想カメラCMの制御が可能である。具体的には、仮想カメラ制御部112は、位置追従制御モードによる仮想カメラCMの制御と、姿勢追従制御モードによる仮想カメラCMの制御と、が可能である。
位置追従制御モードとは、仮想空間SP-Vにおける仮想カメラCMの位置PCが、仮想空間SP-Vにおける仮想点Kの位置PKに基づく位置となるように、仮想空間SP-Vにおける仮想カメラCMを制御する制御モードである。また、仮想カメラ制御部112は、位置追従制御モードにおいて、仮想空間SP-Vにおける仮想カメラCMの姿勢を、姿勢情報Bに基づいて変化させる。なお、仮想点Kについては後述する。
姿勢追従制御モードとは、仮想空間SP-Vにおける仮想カメラCMの姿勢を、例えば、仮想カメラCMから見て撮像方向LCに仮想点Kが位置するような姿勢となるように、仮想空間SP-Vにおける仮想カメラCMを制御する制御モードである。また、仮想カメラ制御部112は、姿勢追従制御モードにおいて、仮想空間SP-Vにおける仮想カメラCMの位置PCを、姿勢情報Bに基づいて変化させる。
Based on the attitude information B, the virtual
The position tracking control mode is a virtual camera CM in the virtual space SP-V such that the position PC of the virtual camera CM in the virtual space SP-V is a position based on the position PK of the virtual point K in the virtual space SP-V. Control mode to control the Further, the virtual
In the attitude tracking control mode, the virtual space SP- is set such that the virtual point K is positioned in the imaging direction LC as viewed from the virtual camera CM, for example, the attitude of the virtual camera CM in the virtual space SP-V. It is a control mode which controls virtual camera CM in V. Further, the virtual
モード指定部111は、仮想カメラ制御部112の制御モードを指定する。
表示情報生成部114は、仮想カメラCMによる仮想空間SP-Vの撮像結果を表す表示情報DSを生成し、当該表示情報DSを表示部12に供給することで、表示部12に対して表示画像GHを表示させる。
キャラクタ制御部113は、モーション情報DMに基づいて、キャラクタVにモーションを実行させる。
The
The display
The
図9は、端末装置10のハードウェア構成の一例を示すハードウェア構成図である。
FIG. 9 is a hardware configuration diagram illustrating an example of a hardware configuration of the
図9に示すように、端末装置10は、端末装置10の各部を制御するプロセッサ1000(「情報処理装置」の一例)と、各種情報を記憶するメモリ1001と、端末装置10の姿勢変化を検出して検出結果を示す姿勢情報Bを出力する角速度センサ1002と、各種画像を表示可能な表示装置1003と、端末装置10のユーザUによる操作を受け付けるための入力装置1004と、を備える。
As shown in FIG. 9, the
メモリ1001は、例えば、プロセッサ1000の作業領域として機能するRAM(Random Access Memory)等の揮発性メモリと、端末装置10の制御プログラムPRG等の各種情報を記憶するEEPROM(Electrically Erasable Programmable Read-Only Memory)等の不揮発性メモリとを含み、記憶部15として機能する。
プロセッサ1000は、例えば、CPU(Central Processing Unit)であり、メモリ1001に記憶された制御プログラムPRGを実行し、当該制御プログラムPRGに従って動作することで、制御部11として機能する。
角速度センサ1002は、上述の通り、X軸角速度センサ、Y軸角速度センサ、及び、Z軸角速度センサを備え、姿勢情報生成部14として機能する。
表示装置1003及び入力装置1004は、例えば、タッチパネルであり、表示部12及び操作部13として機能する。なお、表示装置1003及び入力装置1004は、別体として構成されていてもよい。また、入力装置1004は、タッチパネル、操作ボタン、キーボード、ジョイスティック、及び、マウス等のポインティングデバイスの一部または全部を含む、1または複数の機器から構成されるものであってもよい。
The
The processor 1000 is a CPU (Central Processing Unit), for example, and functions as the
As described above, the
The
なお、プロセッサ1000は、CPUに加え、または、CPUに替えて、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)、または、FPGA(Field Programmable Gate Array)、等の、ハードウェアを含んで構成されるものであってもよい。この場合、プロセッサ1000により実現される制御部11の一部または全部は、DSP等のハードウェアにより実現されてもよい。
The processor 1000 is configured to include hardware such as a graphics processing unit (GPU), a digital signal processor (DSP), or a field programmable gate array (FPGA) in addition to the CPU or in place of the CPU. It may be done. In this case, part or all of the
[3.端末装置の動作]
以下、図10乃至図19を参照しながら、端末装置10の動作の一例について説明する。
[3. Terminal operation]
Hereinafter, an example of the operation of the
図10及び図11は、端末装置10が表示部12に表示画像GHを表示させる表示処理を実行する場合における、端末装置10の動作の一例を示すフローチャートである。なお、本実施形態では、例えば、ユーザUが、表示処理を開始させる旨の所定の開始操作を操作部13から入力した場合に、端末装置10が、表示処理を開始させることとする。
10 and 11 are flowcharts illustrating an example of the operation of the
[3.1.位置追従制御モード]
図10に示すように、表示処理が開始されると、モード指定部111は、制御モードを位置追従制御モードに設定する(S100)。
[3.1. Position following control mode]
As shown in FIG. 10, when the display process is started, the
次に、仮想カメラ制御部112は、モード指定部111が制御モードを位置追従制御モードに設定した際のHMD1の姿勢を、「初期姿勢」として定める(S102)。
なお、以下では、HMD1が初期姿勢である場合の装置座標系ΣSを、「初期座標系ΣS1」と称する。また、以下では、後述する図12に示すように、モード指定部111が制御モードを位置追従制御モードに設定した際の仮想カメラCMの撮像方向LCを、「初期撮像方向LC1」と称する。
Next, the virtual
In the following, the device coordinate system 場合S in the case where the
次に、キャラクタ制御部113は、モーション情報DMに基づいて、仮想空間SP-VにおけるキャラクタVの位置及び形状(体勢)を決定し、当該決定の結果を示すキャラクタ情報DCを生成する(S104)。
具体的には、キャラクタ制御部113は、ステップS104において、例えば、キャラクタVが実行しているモーションの種類を特定する。そして、キャラクタ制御部113は、ステップS104において、例えば、モーション情報DMのうち、特定した種類のモーションに係る情報と、キャラクタVが当該モーションを開始してからの経過時間と、に基づいて、現在時刻におけるキャラクタVの位置及び形状を決定することで、キャラクタ情報DCを生成する。
なお、本実施形態では、一例として、キャラクタVが予め定められた種類のモーションを実行している場合を想定する。但し、キャラクタ制御部113は、ステップS104において、キャラクタVが実行するモーションの種類を決定してもよい。
Next, the
Specifically, in step S104, the
In the present embodiment, as an example, it is assumed that the character V is executing a predetermined type of motion. However, in step S104, the
次に、キャラクタ制御部113は、ステップS104で生成されたキャラクタ情報DCに基づいて、仮想空間SP-Vにおける仮想点Kの位置PKを決定し、当該決定の結果を示す仮想点位置情報DK(「位置情報」の一例)を生成する(S106)。
具体的には、キャラクタ制御部113は、ステップS106において、例えば、キャラクタVを構成する、頭部、胴体部、及び、脚部等の複数の部位のうち、キャラクタVが実行しているモーションの種類に対応する部位に基づく位置(「オブジェクトに基づく位置」の一例)を、仮想点Kの位置として決定することで、仮想点位置情報DKを生成してもよい。より具体的には、キャラクタ制御部113は、ステップS106において、例えば、キャラクタVが実行しているモーションの種類に対応するキャラクタVの部位のうち、キャラクタVの表面上における特定の位置を、仮想点Kの位置として決定し、当該決定された仮想点Kの位置を示す仮想点位置情報DKを生成してもよい。なお、モーション情報DMは、各モーションに対応するキャラクタVの部位を示す情報を含んでいてもよい。
以下では、後述する図12に示すように、モード指定部111が制御モードを位置追従制御モードに設定した際の仮想点Kの位置PKを、「初期位置PK1」と称する。また、以下では、初期位置PK1を起点とし、位置PKを終点とするベクトルを、「仮想点位置ベクトルVK」と称する。
Next, the
Specifically, in step S106, the
Hereinafter, as shown in FIG. 12 described later, the position PK of the virtual point K when the
次に、仮想カメラ制御部112は、仮想点位置情報DKに基づいて、仮想空間SP-Vにおける仮想カメラCMの位置PCを決定する(S108)。
具体的には、仮想カメラ制御部112は、ステップS108において、仮想カメラCMから見て仮想点Kが初期撮像方向LC1に位置するように、仮想カメラCMの位置PCを決定する。
また、仮想カメラ制御部112は、例えば、仮想カメラCM及び仮想点Kの間の距離が、所定の距離Disとなるように、仮想カメラCMの位置PCを決定する。この場合、仮想カメラ制御部112は、例えば、仮想カメラCM及び仮想点Kの間の距離が、キャラクタVが実行しているモーションの種類に応じた距離となるように、仮想カメラCMの位置PCを決定してもよい。
なお、以下では、後述する図12に示すように、モード指定部111が制御モードを位置追従制御モードに設定した際の仮想カメラCMの位置PCを、「初期位置PC1」と称する。すなわち、本実施形態において、仮想カメラ制御部112は、ステップS108において、仮想点位置ベクトルVKの起点を初期位置PC1に配置した場合に、当該仮想点位置ベクトルVKの終点の位置を、仮想カメラCMの位置PCとして決定することになる。
また、以下では、モード指定部111が制御モードを位置追従制御モードに設定した際のカメラ座標系ΣCを、「初期カメラ座標系ΣC1」と称する。ここで、初期カメラ座標系ΣC1とは、原点の位置が初期位置PC1であり、XC軸が初期撮像方向LC1となるような座標系である。すなわち、本実施形態において、仮想カメラ制御部112は、ステップS108において、仮想点位置ベクトルVKの起点を初期カメラ座標系ΣC1の原点に配置した場合に、当該仮想点位置ベクトルVKの終点の位置を、カメラ座標系ΣCの原点として決定することになる。
Next, the virtual
Specifically, in step S108, the virtual
In addition, the virtual
In the following, as shown in FIG. 12 described later, the position PC of the virtual camera CM when the
In the following, the camera coordinate system sigma C when the
次に、姿勢情報取得部115は、姿勢情報生成部14から姿勢情報Bを取得する(S110)。
そして、仮想カメラ制御部112は、ステップS110において、姿勢情報取得部115が取得した姿勢情報Bに基づいて、HMD1の初期姿勢からの姿勢変化dB1を算出する(S112)。
なお、本実施形態において、仮想カメラ制御部112は、一例として、姿勢変化dB1を、初期座標系ΣS1における回転軸WSと、回転軸WS周りの回転角度θWと、により表現する。すなわち、本実施形態において、姿勢変化dB1は、HMD1が初期座標系ΣS1から見て回転軸WS周りに回転角度θWだけ回転した場合、初期座標系ΣS1における回転軸WSを示す方向ベクトルと、回転角度θWを示す値と、を含む。
但し、姿勢変化dB1は、他の任意の表現方法により表現されるものであってもよい。例えば、姿勢変化dB1は、初期座標系ΣS1から装置座標系ΣSへの姿勢変化を示す姿勢変換行列により表現されるものであってもよいし、初期座標系ΣS1から装置座標系ΣSへの姿勢変化を示すクォータニオンにより表現されるものであってもよい。
また、以下では、HMD1が、回転軸WS周りに回転角度θWだけ回転した場合に、当該回転角度θWを、「姿勢変化量」と称する場合がある。
Next, the posture
Then, in step S110, the virtual
In the present embodiment, as an example, virtual
However, the posture change dB1 may be expressed by any other expression method. For example, the posture change dB1 may be expressed by a posture conversion matrix indicating a posture change from the initial coordinate system S S1 to the device coordinate system S S , or from the initial coordinate system S S1 to the device coordinate system Σ S It may be expressed by a quaternion indicating a change in posture.
Further, in the following, when the
次に、仮想カメラ制御部112は、ステップS112において算出した姿勢変化dB1に基づいて、仮想空間SP-Vにおける仮想カメラCMの姿勢を決定する(S114)。
具体的には、ステップS114において、仮想カメラ制御部112は、撮像方向LCが、初期撮像方向LC1を、姿勢変化dB1に対応した姿勢変化量だけ変化させた方向となるように、仮想空間SP-Vにおける仮想カメラCMの姿勢を決定する。すなわち、ステップS114において、仮想カメラ制御部112は、カメラ座標系ΣCが、初期カメラ座標系ΣC1を、姿勢変化dB1に対応した姿勢変化量だけ変化した姿勢を有する座標系となるように、仮想空間SP-Vにおける仮想カメラCMの姿勢を決定する。
より具体的には、仮想カメラ制御部112は、ステップS114において、例えば、仮想空間SP-Vに仮想回転軸WSC1を設定する。ここで、仮想回転軸WSC1とは、仮想カメラCMの初期位置PC1と交差する仮想空間SP-V内の直線であって、初期カメラ座標系ΣC1から見た仮想回転軸WSC1の方向を表すベクトルの成分と、初期座標系ΣS1から見た回転軸WSの方向を表すベクトルの成分とが、同一となるような直線である。次に、仮想カメラ制御部112は、ステップS114において、例えば、カメラ座標系ΣCの各座標軸の方向が、初期カメラ座標系ΣC1を仮想回転軸WSC1周りに回転角度θWだけ回転させた方向となるように、カメラ座標系ΣCを設定することで、仮想空間SP-Vにおける仮想カメラCMの姿勢を決定する。なお、上述の通り、仮想カメラ制御部112は、ステップS108において、カメラ座標系ΣCの原点の位置が、初期カメラ座標系ΣC1の原点の位置である初期位置PC1を、仮想点位置ベクトルVKだけ移動させた位置となるように、カメラ座標系ΣCの原点を設定する。
例えば、仮想カメラ制御部112は、HMD1が、初期姿勢から、ZS軸周りのヨー方向QZに対して回転角度θWだけ回転した場合、初期カメラ座標系ΣC1のZC軸を仮想回転軸WSC1として設定したうえで、カメラ座標系ΣCを、初期カメラ座標系ΣC1を仮想回転軸WSC1周りに回転角度θWだけ回転させた姿勢の座標系とすることで、仮想カメラCMの姿勢を決定する。
例えば、仮想カメラ制御部112は、HMD1が、初期姿勢から、YS軸周りのピッチ方向QYに対して回転角度θWだけ回転した場合、初期カメラ座標系ΣC1のYC軸を仮想回転軸WSC1として設定したうえで、カメラ座標系ΣCを、初期カメラ座標系ΣC1を仮想回転軸WSC1周りに回転角度θWだけ回転させた姿勢の座標系とすることで、仮想カメラCMの姿勢を決定する。
例えば、仮想カメラ制御部112は、HMD1が、初期姿勢から、XS軸周りのロール方向QXに対して回転角度θWだけ回転した場合、初期カメラ座標系ΣC1のXC軸を仮想回転軸WSC1として設定したうえで、カメラ座標系ΣCを、初期カメラ座標系ΣC1を仮想回転軸WSC1周りに回転角度θWだけ回転させた姿勢の座標系とすることで、仮想カメラCMの姿勢を決定する。
Next, the virtual
Specifically, in step S114, the virtual
More specifically, the virtual
For example, when the virtual
For example, when the
For example, when the
次に、表示情報生成部114は、仮想カメラCMにより仮想空間SP-Vを撮像した結果を示す表示情報DSを生成し、当該表示情報DSを表示部12に供給することで、表示部12に対して表示画像GHを表示させる(S116)。
Next, the display
その後、モード指定部111は、ステップS110で取得された姿勢情報B、または、ステップS112で算出された姿勢変化dB1に基づいて、制御モードを、姿勢追従制御モードに移行させるか否かを判定する(S118)。
本実施形態では、一例として、現在時刻よりも所定時間だけ前の時刻から現在時刻までの判定期間におけるHMD1の姿勢変化量が、所定の閾値以下の場合に、モード指定部111が、制御モードを、位置追従制御モードから姿勢追従制御モードに移行させる場合を想定する。このため、モード指定部111は、ステップS118において、例えば、判定期間におけるHMD1の姿勢変化量が、所定の閾値以下であるか否かを判定することで、制御モードを、姿勢追従制御モードに移行させるか否かを判定する。なお、モード指定部111は、ステップS118において、例えば、判定期間の開始時刻におけるHMD1の姿勢と、判定期間内の任意の時刻におけるHMD1の姿勢との差分が、所定の閾値よりも小さいか否かを判定することで、制御モードを、姿勢追従制御モードに移行させるか否かを判定してもよい。
そして、モード指定部111は、ステップS118における判定の結果が肯定の場合には、処理をステップS200に進め、ステップS118における判定の結果が否定の場合には、処理をステップS120に進める。
その後、制御部11は、ユーザUが、表示処理を終了させる旨の所定の終了操作を操作部13から入力したか否かを判定する(S120)。そして、制御部11は、ステップS120における判定の結果が否定の場合には、処理をステップS104に進め、ステップS120における判定の結果が肯定の場合には、表示処理を終了させる。
Thereafter, the
In this embodiment, as an example, when the amount of change in posture of the
Then,
Thereafter, the
以下、図12〜図15を参照しつつ、制御モードが位置追従制御モードに設定されている場合における、仮想カメラCMの位置及び姿勢の変化の一例を説明する。 Hereinafter, an example of a change in the position and orientation of the virtual camera CM when the control mode is set to the position tracking control mode will be described with reference to FIGS.
図12〜図15は、−YV方向から仮想空間SP-Vを見た場合の、時刻t1から時刻t4にかけての仮想カメラCM及びキャラクタVの動きの一例を説明するための説明図である。
なお、図12〜図15に示す例では、キャラクタVが、図12に示す時刻t1から図13に示す時刻t2にかけて「座る」というモーションを実行し、その後、図14に示す時刻t3から図15に示す時刻t4にかけて「立つ」というモーションを実行する場合を想定する。すなわち、図12〜図15に示す例では、キャラクタVが、時刻t1において立っている状態となり、その後、時刻t2において座っている状態に変化し、その後、時刻t3まで座っている状態を継続し、その後、時刻t4において立っている状態に変化する場合を例示している。
また、図12〜図15に示す例では、仮想点Kが、キャラクタVの「鼻」に設定される場合を、一例として想定する。すなわち、図12〜図15に示す例では、「座る」というモーションの種類に対応する仮想点Kの位置、及び、「立つ」というモーションの種類に対応する仮想点Kの位置が、共に、キャラクタVの「鼻」である場合を、一例として想定する。
また、図12〜図15に示す例では、モード指定部111が、時刻t1において、制御モードを位置追従制御モードに設定する場合を想定する。すなわち、図12〜図15に示す例では、時刻t1におけるHMD1の姿勢が、初期姿勢となる。そして、図12〜図15に示す例では、HMD1が、時刻t1において初期姿勢となり、その後、時刻t2まで初期姿勢を維持し、その後、時刻t3においてYS軸周りに回転角度θWだけ回転をし、その後、時刻t4まで時刻t3における姿勢を維持する場合を、一例として想定する。
12 to 15 are explanatory views for explaining an example of movement of the virtual camera CM and the character V from -Y V direction when viewed virtual space SP-V, to time t4 from the time t1.
In the example shown in FIGS. 12-15, the character V executes a motion of "sit" from time t1 shown in FIG. 12 to time t2 shown in FIG. 13, and then from time t3 shown in FIG. Assume that a motion of “standing” is executed from time t4 shown in FIG. That is, in the example shown in FIGS. 12 to 15, the character V is in a standing state at time t1, then changes to a sitting state at time t2, and thereafter continues to be in a sitting state until time t3. Then, the case where the state changes to the standing state at time t4 is illustrated.
Moreover, in the example shown in FIGS. 12-15, the case where the virtual point K is set to the "nose" of the character V is assumed as an example. That is, in the example shown in FIGS. 12 to 15, both the position of the virtual point K corresponding to the type of motion "sit" and the position of the virtual point K corresponding to the type of motion "stand" are characters The case of V's “nose” is assumed as an example.
Further, in the examples shown in FIGS. 12 to 15, it is assumed that the
図12に示すように、キャラクタ制御部113は、時刻t1において、立っている状態のキャラクタVの鼻が存在する位置PK(t1)に、仮想点Kを設定し、当該位置PK(t1)を初期位置PK1として定める。
また、仮想カメラ制御部112は、時刻t1において、初期姿勢に基づいて定められる撮像方向LC(t1)を初期撮像方向LC1として定める。なお、図12では、撮像方向LC(t1)が+XV方向である場合を、一例として想定する。
そして、仮想カメラ制御部112は、時刻t1において、位置PK(t1)と初期撮像方向LC1とに基づいて、仮想カメラCMの位置PC(t1)を決定し、当該位置PC(t1)を初期位置PC1として定める。より具体的には、仮想カメラ制御部112は、時刻t1において、仮想カメラCMから見て初期撮像方向LC1に位置PK(t1)が位置するように、仮想カメラCMの位置PC(t1)を決定する。また、仮想カメラ制御部112は、時刻t1において、初期姿勢に対応するカメラ座標系ΣCを、初期カメラ座標系ΣC1として定める。
As shown in FIG. 12, the
Further, at time t1, the virtual
Then, at time t1, the virtual
図13に示すように、キャラクタ制御部113は、時刻t2において、座っている状態のキャラクタVの鼻が存在する位置PK(t2)に、仮想点Kを設定する。また、キャラクタ制御部113は、初期位置PK1を起点とし位置PK(t2)を終点とするベクトルを、仮想点位置ベクトルVK(t2)として定める。
上述の通り、図12〜図15に示す例では、HMD1が、時刻t1から時刻t2まで初期姿勢を維持する場合を想定する。このため、仮想カメラ制御部112は、時刻t2において、初期撮像方向LC1を、撮像方向LC(t2)として定める。
そして、仮想カメラ制御部112は、時刻t2において、仮想カメラCMから見て初期撮像方向LC1に位置PK(t2)が位置するように、仮想カメラCMの位置PC(t2)を決定する。すなわち、仮想カメラ制御部112は、時刻t2において、初期位置PC1を仮想点位置ベクトルVK(t2)だけ移動した位置を、位置PC(t2)として決定する。また、仮想カメラ制御部112は、時刻t2において、カメラ座標系ΣCを、位置PC(t2)を原点とし、初期カメラ座標系ΣC1と同一の姿勢の有する座標系として設定する。
As shown in FIG. 13, at time t2, the
As described above, in the examples illustrated in FIGS. 12 to 15, it is assumed that the
Then, at time t2, the virtual
図14に示すように、キャラクタ制御部113は、時刻t3において、座っている状態のキャラクタVの鼻が存在する位置PK(t3)に、仮想点Kを設定する。上述の通り、図12〜図15に示す例では、キャラクタVが、時刻t2から時刻t3まで座っている状態を継続する。このため、位置PK(t3)は、位置PK(t2)と同一の位置となる。
また、上述の通り、図12〜図15に示す例では、HMD1が、時刻t2において初期姿勢であり、その後、時刻t2から時刻t3までの間に、YS軸周りに回転角度θWだけ回転する。このため、仮想カメラ制御部112は、時刻t3において、初期カメラ座標系ΣC1のYC軸と平行な仮想回転軸WSC1を設定する。そして、仮想カメラ制御部112は、時刻t3において、初期撮像方向LC1を仮想回転軸WSC1回りに回転角度θWだけ回転させた方向を撮像方向LC(t3)として定める。
また、仮想カメラ制御部112は、時刻t3において、仮想カメラCMから見て初期撮像方向LC1に位置PK(t3)が位置するように、仮想カメラCMの位置PC(t3)を決定する。すなわち、仮想カメラ制御部112は、時刻t3において、位置PC(t2)と同一の位置を、仮想カメラCMの位置PC(t3)として決定する。また、仮想カメラ制御部112は、時刻t3において、カメラ座標系ΣCを、位置PC(t3)を原点とし、初期カメラ座標系ΣC1の各座標軸を仮想回転軸WSC1回りに回転角度θWだけ回転させた座標軸を有する座標系として設定する。
As shown in FIG. 14, at time t3, the
Further, as described above, in the example shown in FIGS. 12 to 15, the
Also, at time t3, the virtual
図15に示すように、キャラクタ制御部113は、時刻t4において、立っている状態のキャラクタVの鼻が存在する位置PK(t4)に、仮想点Kを設定する。なお、図12〜図15に示す例では、位置PK(t4)が初期位置PK1と同一の位置である場合を、一例として想定する。
上述の通り、図12〜図15に示す例では、HMD1が、時刻t3における姿勢を時刻t4まで維持する。このため、仮想カメラ制御部112は、時刻t4において、初期撮像方向LC1を仮想回転軸WSC1回りに回転角度θWだけ回転させた方向を、撮像方向LC(t4)として定める。
また、仮想カメラ制御部112は、時刻t4において、仮想カメラCMから見て初期撮像方向LC1に位置PK(t4)が位置するように、仮想カメラCMの位置PC(t4)を決定する。また、仮想カメラ制御部112は、時刻t4において、カメラ座標系ΣCを、位置PC(t4)を原点とし、初期カメラ座標系ΣC1の各座標軸を仮想回転軸WSC1回りに回転角度θWだけ回転させた座標軸を有する座標系として設定する。
As shown in FIG. 15, the
As described above, in the example illustrated in FIGS. 12 to 15, the
Further, the virtual
[3.2.姿勢追従制御モード]
図11に示すように、モード指定部111は、制御モードを姿勢追従制御モードに設定する(S200)。
[3.2. Posture tracking control mode]
As shown in FIG. 11, the
次に、仮想カメラ制御部112は、モード指定部111が制御モードを姿勢追従制御モードに設定した際のHMD1の姿勢を、「基準姿勢」として定める(S202)。
なお、以下では、HMD1が基準姿勢である場合の装置座標系ΣSを、「基準座標系ΣS2」と称する。また、以下では、後述する図16に示すように、モード指定部111が制御モードを姿勢追従制御モードに設定した際の仮想カメラCMの撮像方向LCを、「基準撮像方向LC2」と称する。また、以下では、モード指定部111が制御モードを姿勢追従制御モードに設定した際の仮想カメラCMの位置PCを、「基準位置PC2」と称する。
Next, the virtual
Hereinafter, the apparatus coordinate system Σ S when the
次に、キャラクタ制御部113は、モーション情報DMに基づいて、仮想空間SP-VにおけるキャラクタVの位置及び形状を決定し、当該決定の結果を示すキャラクタ情報DCを生成する(S204)。
Next, the
次に、キャラクタ制御部113は、ステップS204で生成されたキャラクタ情報DCに基づいて、仮想空間SP-Vにおける仮想点Kの位置PKを決定し、当該決定の結果を示す仮想点位置情報DKを生成する(S206)。
以下では、後述する図16に示すように、モード指定部111が制御モードを姿勢追従制御モードに設定した際の仮想点Kの位置PKを、「基準位置PK2」と称する。
Next, the
Hereinafter, as shown in FIG. 16 described later, the position PK of the virtual point K when the
次に、仮想カメラ制御部112は、仮想点位置情報DKに基づいて、仮想空間SP-Vにおける仮想カメラCMの姿勢を決定する(S208)。
具体的には、仮想カメラ制御部112は、ステップS208において、基準位置PC2から仮想点Kを示す方向が撮像方向LCとなるように、仮想カメラCMの姿勢を決定する。換言すれば、仮想カメラ制御部112は、ステップS208において、カメラ座標系ΣCの各座標軸が、カメラ座標系ΣCのXC軸上に仮想点Kが位置するような方向を向くように、カメラ座標系ΣCを設定する。
なお、以下では、モード指定部111が制御モードを姿勢追従制御モードに設定した際のカメラ座標系ΣCを、「基準カメラ座標系ΣC2」と称する。ここで、基準カメラ座標系ΣC2とは、原点の位置が基準位置PC2であり、XC軸が基準撮像方向LC2となるような座標系である。
また、以下では、基準撮像方向LC2と撮像方向LCとのなす角を、「撮像角度θK」と称する。
Next, the virtual
Specifically, in step S208, the virtual
In the following, the camera coordinate system 際C when the
Hereinafter, an angle formed by the reference imaging direction LC2 and the imaging direction LC is referred to as “imaging angle θ K ”.
次に、姿勢情報取得部115は、姿勢情報生成部14から姿勢情報Bを取得する(S210)。
そして、仮想カメラ制御部112は、ステップS210において、姿勢情報取得部115が取得した姿勢情報Bに基づいて、HMD1の基準姿勢からの姿勢変化dB2を算出する(S212)。
なお、本実施形態において、仮想カメラ制御部112は、一例として、姿勢変化dB2を、基準座標系ΣS2における回転軸WSと、回転軸WS周りの回転角度θWと、により表現する。
Next, the posture
In step S210, the virtual
In the present embodiment, the virtual
次に、仮想カメラ制御部112は、ステップS212において算出した姿勢変化dB2に基づいて、仮想空間SP-Vにおける仮想カメラCMの位置PCを決定する(S214)。
具体的には、ステップS214において、仮想カメラ制御部112は、まず、仮想空間SP-Vに仮想回転軸WSC2を設定する。ここで、仮想回転軸WSC2とは、仮想カメラCMの基準位置PC2と交差する仮想空間SP-V内の直線であって、基準カメラ座標系ΣC2から見た仮想回転軸WSC2の方向を表すベクトルの成分と、基準座標系ΣS2から見た回転軸WSの方向を表すベクトルの成分とが、同一となるような直線である。次に、仮想カメラ制御部112は、仮想回転軸WSC2と撮像方向LCとに交差(典型的には、直交)する方向を有し、回転角度θWに応じた長さを有する、カメラ位置変化ベクトルVCを生成する。そして、仮想カメラ制御部112は、カメラ位置変化ベクトルVCの起点を基準位置PC2としたときの、カメラ位置変化ベクトルVCの終点の位置を、仮想カメラCMの位置PCとして決定する。換言すれば、仮想カメラ制御部112は、ステップS214において、カメラ座標系ΣCの原点の位置が、基準カメラ座標系ΣC2の原点の位置である基準位置PC2を、カメラ位置変化ベクトルVCだけ移動させた位置となるように、カメラ座標系ΣCの原点を設定する。なお、上述の通り、仮想カメラ制御部112は、ステップS208において、カメラ座標系ΣCの各座標軸の方向が、基準カメラ座標系ΣC2を仮想回転軸WSC2周りに回転角度θWだけ回転させた方向となるように、カメラ座標系ΣCを設定することで、仮想空間SP-Vにおける仮想カメラCMの姿勢を決定する。
Next, the virtual
Specifically, in step S214, virtual
次に、表示情報生成部114は、仮想カメラCMにより仮想空間SP-Vを撮像した結果を示す表示情報DSを生成し、当該表示情報DSを表示部12に供給することで、表示部12に対して表示画像GHを表示させる(S216)。
Next, the display
その後、モード指定部111は、ステップS210で取得された姿勢情報B、または、ステップS212で算出された姿勢変化dB2に基づいて、制御モードを、位置追従制御モードに移行させるか否かを判定する(S218)。
本実施形態では、一例として、現在時刻よりも所定時間だけ前の時刻から現在時刻までの判定期間におけるHMD1の姿勢変化量が、所定の閾値以下の場合に、モード指定部111が、制御モードを、姿勢追従制御モードから位置追従制御モードに移行させる場合を想定する。このため、モード指定部111は、ステップS218において、例えば、判定期間におけるHMD1の姿勢変化量が、所定の閾値以下であるか否かを判定することで、制御モードを、位置追従制御モードに移行させるか否かを判定する。
そして、モード指定部111は、ステップS218における判定の結果が肯定の場合には、処理をステップS100に進め、ステップS218における判定の結果が否定の場合には、処理をステップS220に進める。
その後、制御部11は、ユーザUが、表示処理を終了させる旨の所定の終了操作を操作部13から入力したか否かを判定する(S220)。そして、制御部11は、ステップS220における判定の結果が否定の場合には、処理をステップS204に進め、ステップS220における判定の結果が肯定の場合には、表示処理を終了させる。
Thereafter, the
In the present embodiment, as an example, when the posture change amount of the
Then, if the result of determination in step S218 is affirmative,
Thereafter, the
以下、図16〜図19を参照しつつ、制御モードが姿勢追従制御モードに設定されている場合における、仮想カメラCMの位置及び姿勢の変化の一例を説明する。 Hereinafter, an example of changes in the position and posture of the virtual camera CM when the control mode is set to the posture follow-up control mode will be described with reference to FIGS.
図16〜図19は、−YV方向から仮想空間SP-Vを見た場合の、時刻t5から時刻t8にかけての仮想カメラCM及びキャラクタVの動きの一例を説明するための説明図である。
なお、図16〜図19に示す例では、キャラクタVが、図16に示す時刻t5から図17に示す時刻t6にかけて「座る」というモーションを実行し、その後、図18に示す時刻t7から図19に示す時刻t8にかけて「立つ」というモーションを実行する場合を想定する。すなわち、図16〜図18に示す例では、キャラクタVが、時刻t5において立っている状態となり、その後、時刻t6において座っている状態に変化し、その後、時刻t7まで座っている状態を継続し、その後、時刻t8において立っている状態に変化する場合を例示している。
また、図16〜図19に示す例では、仮想点Kが、キャラクタVの「鼻」に設定される場合を、一例として想定する。
また、図16〜図19に示す例では、モード指定部111が、時刻t5において、制御モードを姿勢追従制御モードに設定する場合を想定する。すなわち、図16〜図19に示す例では、時刻t5におけるHMD1の姿勢が、基準姿勢となる。そして、図16〜図19に示す例では、HMD1が、時刻t5において基準姿勢となり、その後、時刻t6まで基準姿勢を維持し、その後、時刻t7においてYS軸周りに回転角度θWだけ回転をし、その後、時刻t8まで時刻t7における姿勢を維持する場合を、一例として想定する。
16 to 19 are explanatory views for explaining an example of movement of the virtual camera CM and the character V from -Y V direction when viewed virtual space SP-V, to time t8 from time t5.
In the example shown in FIGS. 16 to 19, the character V performs a motion of “sitting” from time t5 shown in FIG. 16 to time t6 shown in FIG. 17, and then from time t7 shown in FIG. Assume that a motion of “standing” is executed from time t8 shown in FIG. That is, in the examples shown in FIGS. 16 to 18, the character V changes to a standing state at time t5, then changes to a sitting state at time t6, and then continues to sit until time t7. Then, a case where it changes to a standing state at time t8 is illustrated.
Moreover, in the example shown in FIGS. 16-19, the case where the virtual point K is set to the "nose" of the character V is assumed as an example.
In the examples shown in FIGS. 16 to 19, it is assumed that the
図16に示すように、キャラクタ制御部113は、時刻t5において、立っている状態のキャラクタVの鼻が存在する位置PK(t5)に、仮想点Kを設定し、当該位置PK(t5)を基準位置PK2として定める。
また、仮想カメラ制御部112は、時刻t5における仮想カメラCMの位置PC(t5)を基準位置PC2として定める。そして、仮想カメラ制御部112は、時刻t5において、位置PC(t5)から位置PK(t5)に向かう方向を撮像方向LC(t5)とし、当該撮像方向LC(t5)を、基準撮像方向LC2として定める。なお、図16では、撮像方向LC(t5)が+XV方向である場合を、一例として想定する。
なお、仮想カメラ制御部112は、時刻t5において、基準姿勢に対応するカメラ座標系ΣCを、基準カメラ座標系ΣC2として定める。
As shown in FIG. 16, the
Further, the virtual
The virtual
図17に示すように、キャラクタ制御部113は、時刻t6において、座っている状態のキャラクタVの鼻が存在する位置PK(t6)に、仮想点Kを設定する。この場合、キャラクタ制御部113は、例えば、基準位置PK2を起点とし位置PK(t6)を終点とするベクトルを、仮想点位置ベクトルVK(t6)として定めてもよい。
上述の通り、図16〜図19に示す例では、HMD1が、時刻t5から時刻t6まで基準姿勢を維持する場合を想定する。このため、仮想カメラ制御部112は、時刻t6において、仮想カメラCMの位置PC(t6)を、基準位置PC2に設定する。そして、仮想カメラ制御部112は、時刻t6において、基準位置PC2から位置PK(t6)に向かう方向を撮像方向LC(t6)として定める。この場合、基準撮像方向LC2と撮像方向LC(t6)とのなす角度が、撮像角度θKとなる。
なお、仮想カメラ制御部112は、例えば、基準位置PC2と交差し、基準撮像方向LC2及び仮想点位置ベクトルVKの双方に直交するカメラ回転軸LKを設定し、基準撮像方向LC2をカメラ回転軸LK周りに撮像角度θKだけ回転させることで、撮像方向LCを定めてもよい。図17に示す例では、カメラ回転軸LKは、基準カメラ座標系ΣC2のYC軸となる。
すなわち、仮想カメラ制御部112は、時刻t6において、カメラ座標系ΣCを、位置PC(t6)を原点とし、基準カメラ座標系ΣC2をカメラ回転軸LK周りに撮像角度θKだけ回転させた座標系として定める。
As shown in FIG. 17, the
As described above, in the example illustrated in FIGS. 16 to 19, it is assumed that the
The virtual
That is, at time t6, virtual
図18に示すように、キャラクタ制御部113は、時刻t7において、座っている状態のキャラクタVの鼻が存在する位置PK(t7)に、仮想点Kを設定する。上述の通り、図16〜図19に示す例では、キャラクタVが、時刻t6から時刻t7まで座っている状態を継続する。このため、位置PK(t7)は、位置PK(t6)と同一の位置となる。
また、仮想カメラ制御部112は、時刻t7において、基準位置PC2から位置PK(t7)に向かう方向を撮像方向LC(t7)として定める。この場合、基準撮像方向LC2と撮像方向LC(t7)とのなす角度が、撮像角度θKとなる。すなわち、撮像方向LC(t7)は、撮像方向LC(t6)と同一の方向となる。
また、上述の通り、図16〜図19に示す例では、HMD1が、時刻t6において基準姿勢であり、その後、時刻t6から時刻t7までの間に、YS軸周りに回転角度θWだけ回転する。このため、仮想カメラ制御部112は、時刻t7において、基準カメラ座標系ΣC2のYC軸と平行な仮想回転軸WSC2を設定する。そして、仮想カメラ制御部112は、時刻t7において、仮想回転軸WSC2と撮像方向LC(t7)とに直交する方向を有し、回転角度θWに応じた長さを有する、カメラ位置変化ベクトルVCを設定する。また、仮想カメラ制御部112は、時刻t7において、基準位置PC2を、カメラ位置変化ベクトルVCだけ移動させた位置を、位置PC(t7)として定める。
すなわち、仮想カメラ制御部112は、時刻t7において、カメラ座標系ΣCを、位置PC(t7)を原点とし、基準カメラ座標系ΣC2をカメラ回転軸LK周りに撮像角度θKだけ回転させた座標系として定める。
As shown in FIG. 18, the
In addition, the virtual
Further, as described above, in the example shown in FIGS. 16 to 19, the
That is, the virtual
図19に示すように、キャラクタ制御部113は、時刻t8において、立っている状態のキャラクタVの鼻が存在する位置PK(t8)に、仮想点Kを設定する。なお、図16〜図19に示す例では、位置PK(t8)が基準位置PK2と同一の位置である場合を、一例として想定する。
また、仮想カメラ制御部112は、時刻t8において、基準位置PC2から位置PK(t8)に向かう方向を撮像方向LC(t8)として定める。この場合、撮像方向LC(t8)は、基準撮像方向LC2と同一の方向となる。
上述の通り、図16〜図19に示す例では、HMD1が、時刻t7における姿勢を時刻t8まで維持する。このため、仮想カメラ制御部112は、時刻t8において、仮想回転軸WSC2と撮像方向LC(t8)とに直交する方向を有し、回転角度θWに応じた長さを有する、カメラ位置変化ベクトルVCを設定する。そして、仮想カメラ制御部112は、時刻t8において、基準位置PC2を、カメラ位置変化ベクトルVCだけ移動させた位置を、位置PC(t8)として定める。
すなわち、仮想カメラ制御部112は、時刻t8において、カメラ座標系ΣCを、位置PC(t8)を原点とし、基準カメラ座標系ΣC2と同一の姿勢を有する座標系として定める。
As shown in FIG. 19, at time t8, the
Further, the virtual
As described above, in the example illustrated in FIGS. 16 to 19, the
That is, at time t8, virtual
[4.実施形態の結論]
以上において説明したように、本実施形態において、表示制御部110は、制御モードが位置追従制御モードである場合に、仮想点Kの位置PKに基づいて、仮想カメラCMの位置PCを制御し、HMD1の姿勢変化を示す姿勢情報Bに基づいて、仮想カメラCMの撮像方向LCを制御することができる。すなわち、表示制御部110は、制御モードが位置追従制御モードである場合に、仮想カメラCMの位置及び姿勢の双方を変化させることができる。このため、本実施形態によれば、HMD1を装着したユーザUが、例えば、仮想カメラCMの撮像方向LCがキャラクタVを向くように、HMD1の姿勢を制御することで、表示部12にキャラクタVを継続的に表示することが可能となる。
[4. Conclusion of embodiment]
As described above, in the present embodiment, the
また、本実施形態において、表示制御部110は、制御モードが姿勢追従制御モードである場合に、仮想点Kの位置PKに基づいて、仮想カメラCMの撮像方向LCを制御し、姿勢情報Bに基づいて、仮想カメラCMの位置PCを制御する。すなわち、表示制御部110は、制御モードが姿勢追従制御モードである場合に、仮想カメラCMの位置及び姿勢の双方を変化させることができる。このため、本実施形態によれば、HMD1を装着したユーザUが、例えば、仮想カメラCMの位置PCが、仮想カメラCMから見て撮像方向LCにキャラクタVが存在するような位置となるように、HMD1の姿勢を制御することで、表示部12にキャラクタVを継続的に表示することが可能となる。
Further, in the present embodiment, the
[B.変形例]
以上の各形態は多様に変形され得る。具体的な変形の態様を以下に例示する。以下の例示から任意に選択された2以上の態様は、相互に矛盾しない範囲内で適宜に併合され得る。なお、以下に例示する変形例において作用や機能が実施形態と同等である要素については、以上の説明で参照した符号を流用して各々の詳細な説明を適宜に省略する。
[B. Modified example]
Each of the above embodiments can be variously modified. The aspect of a specific deformation | transformation is illustrated below. Two or more aspects arbitrarily selected from the following exemplifications may be combined as appropriate within the range not mutually contradictory. In addition, about the element in which an effect | action and a function are equivalent to embodiment in the modification illustrated below, the detailed description of each is abbreviate | omitted suitably using the code | symbol referred by the above description.
[変形例1]
上述した実施形態において、仮想カメラ制御部112は、制御モードが位置追従制御モードの場合、HMD1が初期姿勢からXS軸周りのロール方向QXに対して回転角度θWだけ回転したときに、仮想カメラCMの姿勢をカメラ座標系ΣCのXC軸を周りに回転角度θWだけ回転させ、また、制御モードが姿勢追従制御モードの場合、HMD1が基準姿勢からXS軸周りのロール方向QXに対して回転角度θWだけ回転したときに、仮想カメラCMの位置PCをXC軸に直交するカメラ位置変化ベクトルVC方向に対して、回転角度θWに応じた距離だけ移動させるが、本発明はこのような態様に限定されるものではない。
[Modification 1]
In the embodiment described above, the virtual
例えば、図20に示すように、仮想カメラ制御部112は、HMD1がロール方向QXに対して回転した場合には、仮想カメラCMをXC軸に平行な方向に移動させてもよい。
具体的には、仮想カメラ制御部112は、HMD1が+QX方向に回転角度θWだけ回転した場合には、仮想カメラCMを+XC方向に対して回転角度θWに応じた距離だけ移動させることで、仮想カメラCMとキャラクタVとの距離を近づけ、また、HMD1が−QX方向に回転角度θWだけ回転した場合には、仮想カメラCMを−XC方向に対して回転角度θWに応じた距離だけ移動させることで、仮想カメラCMとキャラクタVとの距離を遠ざけてもよい。
For example, as shown in FIG. 20, the virtual
Specifically, when the
また、例えば、仮想カメラ制御部112は、HMD1がロール方向QXに対して回転(「所定の姿勢変化」の一例)した場合には、仮想カメラCMによる撮像範囲を変更してもよい。
具体的には、仮想カメラ制御部112は、HMD1が+QX方向に回転角度θWだけ回転した場合には、回転角度θWに応じた倍率で、仮想カメラCMによる撮像範囲を縮小し、キャラクタVが拡大して撮像されるようにし、また、HMD1が−QX方向に回転角度θWだけ回転した場合には、回転角度θWに応じた倍率で、仮想カメラCMによる撮像範囲を拡大し、キャラクタVが縮小して撮像されるようにしてもよい。
Further, for example, the virtual
Specifically, when the
[変形例2]
上述した実施形態及び変形例において、キャラクタ制御部113は、キャラクタVの有する複数の部位のうち、キャラクタVが実行しているモーションの種類に対応する部位に対して、仮想点Kを設定するが、本発明はこのような態様に限定されるものではない。
例えば、キャラクタ制御部113は、キャラクタVが実行しているモーションの種類とは無関係に、キャラクタVの有する複数の部位のうち、所定の部位に対して、仮想点Kを設定してもよい。すなわち、キャラクタ制御部113は、キャラクタVの特定の部分に対して、仮想点Kを設定してもよい。
また、例えば、キャラクタ制御部113は、キャラクタVが実行しているモーションを、複数の単位動作に区分し、キャラクタVの有する複数の部位のうち、キャラクタVが実行している単位動作に対応する部位に対して、仮想点Kを設定してもよい。すなわち、キャラクタVが実行しているモーションが、一の単位動作と他の単位動作とを含む場合、キャラクタVが一の単位動作を実行している場合に、仮想点Kが設定される部位と、キャラクタVが他の単位動作を実行している場合に、仮想点Kが設定される部位とは、異なる部位であってもよい。
[Modification 2]
In the embodiment and the modification described above, the
For example, the
Also, for example, the
[変形例3]
上述した実施形態及び変形例において、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合、HMD1の姿勢変化dB2に応じて定められるカメラ位置変化ベクトルVCに基づいて、仮想カメラCMの位置PCを変化させるが、本発明はこのような態様に限定されるものではない。
例えば、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合に、仮想カメラCMが、環境構成物EVと接触しないように、仮想カメラCMの位置PCを変化させてもよい。具体的には、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合に、仮想カメラCMを、環境構成物EVからの距離が、距離α(αは、α≧0を満たす実数)以上離間した領域である、領域Ar1において変化させてもよい。
また、例えば、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合に、仮想カメラCMが、仮想点Kから遠ざかり過ぎないように、仮想カメラCMの位置PCを変化させてもよい。具体的には、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合に、仮想カメラCMを、仮想点Kからの距離が、距離β(βは、β>0を満たす実数)以内となる領域である、領域Ar2において変化させてもよい。
また、例えば、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合に、仮想カメラCMが、キャラクタVと接触しないように、仮想カメラCMの位置PCを変化させてもよい。具体的には、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合に、仮想カメラCMを、キャラクタVからの距離が、距離γ(γは、γ≧0を満たす実数)以上離間した領域である、領域Ar3において変化させてもよい。
また、例えば、仮想カメラ制御部112は、制御モードが姿勢追従制御モードの場合に、仮想カメラCMが領域Ar1に位置するという条件と、仮想カメラCMが領域Ar2に位置するという条件と、仮想カメラCMが領域Ar3に位置するという条件と、のうち、一部または全部の条件を満たすように、仮想カメラCMの位置PCを変化させてもよい。
[Modification 3]
In the embodiment and the modification described above, when the control mode is the attitude following control mode, the virtual
For example, when the control mode is the posture following control mode, the virtual
Also, for example, when the control mode is the attitude following control mode, the virtual
Also, for example, when the control mode is the attitude following control mode, the virtual
Also, for example, when the control mode is the attitude following control mode, the virtual
[変形例4]
上述した実施形態及び変形例において、制御部11は、位置追従制御モード及び姿勢追従制御モードの、2つの制御モードによる表示処理の実行が可能であるが、本発明はこのような態様に限定されるものではない。制御部11は、位置追従制御モード及び姿勢追従制御モードのうち、一方の制御モードによる表示処理の実行が可能であってもよい。
例えば、制御部11は、図21に示すように、位置追従制御モードにより表示処理を実行するものであってもよい。なお、図21に示すフローチャートは、制御部11が、ステップS118及びステップS200〜S220の処理を実行しない点を除き、図10及び図11に示すフローチャートと同様である。
また、例えば、制御部11は、図22に示すように、姿勢追従制御モードにより表示処理を実行するものであってもよい。なお、図22に示すフローチャートは、制御部11が、ステップS218及びステップS100〜S120の処理を実行しない点を除き、図10及び図11に示すフローチャートと同様である。
[Modification 4]
In the embodiment and the modification described above, the
For example, as shown in FIG. 21, the
Further, for example, as shown in FIG. 22, the
[変形例5]
上述した実施形態及び変形例において、仮想空間SP-VにおけるキャラクタVの位置及び形状は、モーション情報DMにより規定されているが、本発明はこのような態様に限定されるものではない。
例えば、キャラクタ制御部113は、モーション情報DMを用いずに、仮想空間SP-VにおけるキャラクタVの位置及び形状を決定してもよい。
具体的には、キャラクタ制御部113は、例えば、ユーザUによる操作部13の操作結果、または、ユーザUに装着されたHMD1の姿勢の変化に基づいて、仮想空間SP-VにおけるキャラクタVの位置及び形状を決定してもよい。
また、端末装置10は、外部装置(図示省略)と通信可能な通信装置(図示省略)を具備していてもよい。この場合、キャラクタ制御部113は、通信装置が外部装置から受信した情報に基づいて、仮想空間SP-VにおけるキャラクタVの位置及び形状を決定してもよい。例えば、端末装置10が他の端末装置10と通信可能である場合、キャラクタ制御部113は、端末装置10に設けられた通信装置が受信した、他のユーザUによる他の端末装置10の操作結果に基づいて、仮想空間SP-VにおけるキャラクタVの位置及び形状を決定してもよい。
[Modification 5]
In the embodiment and the modification described above, the position and shape of the character V in the virtual space SP-V are defined by the motion information DM, but the present invention is not limited to such a mode.
For example, the
Specifically, the
The
[変形例6]
上述した実施形態及び変形例において、HMD1は、HMD1を装着したユーザUの視線方向を検出するアイトラッキング機能を有していてもよい。
この場合、仮想カメラ制御部112は、位置追従制御モードにおいて、HMD1の姿勢変化dB1の代わりに、HMD1を装着したユーザUの視線方向に基づいて、仮想空間SP-Vにおける仮想カメラCMの姿勢を決定してもよい。
また、この場合、仮想カメラ制御部112は、姿勢追従制御モードにおいて、HMD1の姿勢変化dB2の代わりに、HMD1を装着したユーザUの視線方向に基づいて、仮想空間SP-Vにおける仮想カメラCMの位置PCを決定してもよい。
[Modification 6]
In the above-described embodiment and modification, the
In this case, in the position following control mode, the virtual
Also, in this case, in the attitude following control mode, virtual
[変形例7]
上述した実施形態及び変形例において、仮想カメラ制御部112は、現在時刻の仮想点Kの位置PKに基づいて、仮想カメラCMの位置または姿勢を決定するが、本発明はこのような態様に限定されるものではない。仮想カメラ制御部112は、現在時刻の仮想点Kの位置PKと、過去の仮想カメラCMの位置PC、若しくは、過去の仮想カメラCMの位置PCの変化量、または、過去の仮想カメラCMの姿勢、若しくは、過去の仮想カメラCMの姿勢の変化量と、に基づいて、現在時刻の仮想カメラCMの位置または姿勢を決定してもよい。
[Modification 7]
In the embodiment and the modification described above, the virtual
例えば、仮想カメラ制御部112は、位置追従制御モードにおいて、現在時刻の仮想点Kの位置PKと、過去の仮想カメラCMの位置PC、または、過去の仮想カメラCMの位置PCの変化量と、に基づいて、仮想カメラCMの位置PCを決定してもよい。具体的には、仮想カメラ制御部112は、位置追従制御モードにおいて、現在時刻よりも過去の単位期間TU1(「第1の単位期間」の一例)における、仮想カメラCMの位置PCの変化量と、単位期間TU1に後続し、単位期間TU1と同一の時間長を有し、現在時刻を含む単位期間TU2(「第2の単位期間」の一例)における、仮想カメラCMの位置PCの変化量とが、所定の閾値(「第1閾値」の一例)以下となるように、現在時刻の仮想点Kの位置PKに基づいて決定された仮想カメラCMの位置PCを補正してもよい。この場合、キャラクタVが単位期間TU1において実行するモーションと、キャラクタVが単位期間TU2において実行するモーションとは、異なる種類のモーションであってもよい。
この例によれば、仮想空間SP-Vにおいて、仮想カメラCMの位置PCが急激に変化することを防止することができるため、仮想カメラCMの撮像結果である表示画像GHを視認するユーザUが、不快感を感じることを防止することが可能となる。
For example, in the position follow-up control mode, the virtual
According to this example, since the position PC of the virtual camera CM can be prevented from changing suddenly in the virtual space SP-V, the user U who visually recognizes the display image GH that is the imaging result of the virtual camera CM can be prevented. It is possible to prevent feeling uncomfortable.
また、例えば、仮想カメラ制御部112は、姿勢追従制御モードにおいて、現在時刻の仮想点Kの位置PKと、過去の仮想カメラCMの姿勢、または、過去の仮想カメラCMの姿勢の変化量と、に基づいて、仮想カメラCMの姿勢を決定してもよい。具体的には、仮想カメラ制御部112は、姿勢追従制御モードにおいて、現在時刻よりも過去の単位期間TU3(「第1の単位期間」の他の例)における、仮想カメラCMの姿勢の変化量と、単位期間TU3に後続し、単位期間TU3と同一の時間長を有し、現在時刻を含む単位期間TU4(「第2の単位期間」の他の例)における、仮想カメラCMの姿勢の変化量とが、所定の閾値(「第2閾値」の一例)以下となるように、現在時刻の仮想点Kの位置PKに基づいて決定された仮想カメラCMの姿勢を補正してもよい。この場合、キャラクタVが単位期間TU3において実行するモーションと、キャラクタVが単位期間TU4において実行するモーションとは、異なる種類のモーションであってもよい。
この例によれば、仮想空間SP-Vにおいて、仮想カメラCMの姿勢が急激に変化することを防止することができるため、仮想カメラCMの撮像結果である表示画像GHを視認するユーザUが、不快感を感じることを防止することが可能となる。
Also, for example, in the posture following control mode, the virtual
According to this example, it is possible to prevent the attitude of the virtual camera CM from changing rapidly in the virtual space SP-V. Therefore, the user U who visually recognizes the display image GH that is the imaging result of the virtual camera CM It is possible to prevent feeling uncomfortable.
[変形例8]
上述した実施形態及び変形例において、姿勢情報Bは、端末装置10の姿勢変化の検出結果を示すが、本発明はこのような態様に限定されるものではない。姿勢情報Bは、例えば、地上に固定された座標系から見た端末装置10の姿勢を示す情報であってもよい。
この場合、姿勢情報生成部14は、例えば、角速度センサ、及び、地磁気センサの一方または双方を含んで構成されていてもよい。また、この場合、姿勢情報Bは、例えば、HMD1の外部に設けられ、HMD1を撮像する撮像装置から出力される画像情報であってもよい。
[Modification 8]
In the embodiment and the modification described above, the posture information B indicates the detection result of the posture change of the
In this case, the posture
[変形例9]
上述した実施形態及び変形例において、情報処理装置は、HMD1に設けられるが、情報処理装置は、HMD1とは別個に設けられてもよい。
[Modification 9]
In the embodiment and the modification described above, the information processing apparatus is provided in the
図23は、本変形例に係る表示システムSYSの構成の一例を示すブロック図である。
図23に示すように、表示システムSYSは、情報処理装置20と、情報処理装置20と通信可能なヘッドマウントディスプレイ1Aと、を備える。このうち、情報処理装置20は、例えば、制御部11と、操作部13と、記憶部15とを備えてもよい。また、ヘッドマウントディスプレイ1Aは、表示部12と、姿勢情報生成部14とに加え、ヘッドマウントディスプレイ1Aを装着したユーザUによる操作を受け付ける操作部31と、各種情報を記憶する記憶部32と、を備えてもよい。
FIG. 23 is a block diagram showing an example of the configuration of the display system SYS according to this modification.
As shown in FIG. 23, the display system SYS includes an
[C.付記]
以上の記載から、本発明は例えば以下のように把握される。なお、各態様の理解を容易にするために、以下では、図面の参照符号を便宜的に括弧書きで付記するが、本発明を図示の態様に限定する趣旨ではない。
[C. Appendix]
From the above description, the present invention is grasped as follows, for example. In addition, in order to facilitate understanding of each aspect, the reference numerals of the drawings are appended in parentheses in the following for convenience, but the present invention is not intended to be limited to the illustrated aspect.
[付記1]
本発明の一態様に係る情報処理装置のプログラムは、プロセッサを具備する情報処理装置のプログラムであって、前記プロセッサを、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、して機能させ、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Supplementary Note 1]
A program of an information processing apparatus according to an aspect of the present invention is a program of an information processing apparatus including a processor, wherein the processor is an image obtained by imaging a virtual space with a virtual camera, and using binocular parallax A display control unit for displaying a stereoscopic image on a display unit provided on a head mount display, and an acquisition unit for acquiring attitude information on an attitude of the head mount display, the display control unit The position of the virtual camera in the virtual space can be changed based on position information on the position of the virtual point in the virtual space, and the attitude of the virtual camera in the virtual space is changed based on the attitude information The virtual point is set at a position based on an object existing in the virtual space; Serial based on at least one of the change of the position and shape of the object in the virtual space, the position of the virtual point is changed, characterized in that.
この態様によれば、ヘッドマウントディスプレイを装着したユーザが、ヘッドマウントディスプレイの姿勢を変化させることにより、仮想空間における仮想カメラの姿勢を変化させることができ、また、表示制御部が、オブジェクトに基づく位置に設定された仮想点の位置に基づいて、仮想空間における仮想カメラの位置を変化させることができる。すなわち、この態様において、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイを装着したユーザが、例えば、仮想カメラの光軸方向がオブジェクトと交差するように、ヘッドマウントディスプレイの姿勢を制御することで、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。
また、この態様によれば、実空間においてヘッドマウントディスプレイの位置を変化させることなく、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、例えば、実空間においてヘッドマウントディスプレイの位置を変化させることで、仮想空間における仮想カメラの位置または姿勢を変化させる場合と比較して、ヘッドマウントディスプレイを装着したユーザが、容易に、仮想空間における仮想カメラを操作することが可能となる。
また、この態様によれば、表示制御部が、オブジェクトの位置に基づいて仮想カメラの位置を変化させつつ、ヘッドマウントディスプレイの姿勢に基づいて仮想カメラの姿勢を変化させる。このため、この態様によれば、ヘッドマウントディスプレイの表示部にオブジェクトを継続的に表示させることと、ヘッドマウントディスプレイを装着したユーザに対して、仮想カメラの姿勢の操作に係る自由度を提供することとの、両立が可能となる。
According to this aspect, the user wearing the head mounted display can change the posture of the virtual camera in the virtual space by changing the posture of the head mounted display, and the display control unit is based on the object. The position of the virtual camera in the virtual space can be changed based on the position of the virtual point set in the position. In other words, in this aspect, the display control unit can change both the position and the posture of the virtual camera in the virtual space based on the change in the posture of the head mounted display and the change in the position or shape of the object. . For this reason, according to this aspect, the user who wears the head mounted display controls the posture of the head mounted display, for example, by controlling the posture of the head mounted display so that the optical axis direction of the virtual camera intersects the object. It is possible to continuously display the object on the part.
Further, according to this aspect, it is possible to change both the position and the posture of the virtual camera in the virtual space without changing the position of the head mounted display in the real space. Therefore, according to this aspect, for example, by changing the position or orientation of the virtual camera in the virtual space by changing the position of the head mounted display in the real space, the user wearing the head mounted display However, it becomes possible to easily operate the virtual camera in the virtual space.
Further, according to this aspect, the display control unit changes the position of the virtual camera based on the position of the head mounted display while changing the position of the virtual camera based on the position of the object. Therefore, according to this aspect, it is possible to continuously display an object on the display unit of the head mounted display, and to provide a degree of freedom related to the operation of the posture of the virtual camera to the user wearing the head mounted display. It is possible to achieve coexistence with
なお、上記態様において、「仮想カメラ」とは、例えば、仮想空間を撮像する第1の仮想カメラと、仮想空間内のうち第1の仮想カメラとは異なる位置から仮想空間を撮像する第2の仮想カメラと、を備えるものであってもよい。また、この場合、「立体視画像」とは、例えば、仮想空間を第1の仮想カメラで撮像した、ユーザが左眼で視認するための左眼用画像と、仮想空間を第2の仮想カメラで撮像した、ユーザが右眼で視認するための右眼用画像と、を含む画像であってもよい。 In the above aspect, the “virtual camera” refers to, for example, a first virtual camera that images the virtual space and a second virtual image that captures the virtual space from a position different from the first virtual camera in the virtual space. And a virtual camera. In this case, the “stereoscopic image” refers to, for example, a left-eye image obtained by capturing the virtual space with the first virtual camera and viewed by the user with the left eye, and the virtual space to the second virtual camera. And an image for the right eye for the user to visually recognize with the right eye.
また、上記態様において、「ヘッドマウントディスプレイ」とは、例えば、頭部に装着可能な表示装置であってもよい。具体的には、「ヘッドマウントディスプレイ」とは、頭部に装着可能なゴーグル型または眼鏡型の表示装置であってもよい。また、「ヘッドマウントディスプレイ」とは、例えば、頭部に装着可能な装着具と、当該装着具に対して取り付けられた、スマートフォンのような携帯型の表示装置と、を有するものであってもよい。 Furthermore, in the above aspect, the “head mounted display” may be, for example, a display device that can be worn on the head. Specifically, the “head mounted display” may be a goggle-type or glasses-type display device that can be worn on the head. In addition, the “head mounted display” may include, for example, a wearing device that can be worn on the head and a portable display device such as a smartphone that is attached to the wearing device. Good.
また、上記態様において、「ヘッドマウントディスプレイの姿勢」とは、例えば、ヘッドマウントディスプレイの向きであってもよいし、ヘッドマウントディスプレイの傾きであってもよいし、ヘッドマウントディスプレイの向き及び傾きの双方を含む概念であってもよい。ここで、「ヘッドマウントディスプレイの向き」とは、例えば、現実空間における水平面内においてヘッドマウントディスプレイが向いている方向であってもよいし、ヘッドマウントディスプレイの基準方向と磁北方向とのなす角度であってもよい。また、「ヘッドマウントディスプレイの傾き」とは、例えば、ヘッドマウントディスプレイの基準方向と鉛直方向とのなす角度であってもよい。 Further, in the above aspect, “the attitude of the head mounted display” may be, for example, the direction of the head mounted display, or the inclination of the head mounted display, or the direction and inclination of the head mounted display It may be a concept including both. Here, the “head-mounted display orientation” may be, for example, the direction in which the head-mounted display faces in a horizontal plane in real space, or the angle between the reference direction of the head-mounted display and the magnetic north direction. There may be. Further, the “tilt of the head mounted display” may be an angle formed by the reference direction of the head mounted display and the vertical direction, for example.
また、上記態様において、「姿勢情報」とは、例えば、ヘッドマウントディスプレイの姿勢を示す情報であってもよいし、ヘッドマウントディスプレイの姿勢変化を示す情報であってもよい。 Further, in the above aspect, the “posture information” may be, for example, information indicating the attitude of the head mounted display, or information indicating the attitude change of the head mounted display.
また、上記態様において、「取得部」は、例えば、ヘッドマウントディスプレイから姿勢情報を取得してもよいし、ヘッドマウントディスプレイを撮像する撮像装置から姿勢情報を取得してもよい。取得部が、ヘッドマウントディスプレイから姿勢情報を取得する場合、ヘッドマウントディスプレイは、ヘッドマウントディスプレイの姿勢変化を示す情報を検出するためのセンサを備えていてもよいし、ヘッドマウントディスプレイの姿勢を示す情報を検出するためのセンサを備えていてもよい。ここで、「ヘッドマウントディスプレイの姿勢変化を示す情報を検出するためのセンサ」とは、例えば、角速度センサであってもよい。また、「ヘッドマウントディスプレイの姿勢を示す情報を検出するためのセンサ」とは、例えば、地磁気センサ、及び、角速度センサの一方または双方であってもよい。また、取得部が、ヘッドマウントディスプレイを撮像する撮像装置から姿勢情報を取得する場合、姿勢情報は、例えば、撮像装置によりヘッドマウントディスプレイを撮像した結果を示す画像であってもよい。 In the above aspect, for example, the “acquisition unit” may acquire posture information from a head mounted display, or may acquire posture information from an imaging device that images the head mounted display. When the acquisition unit acquires the posture information from the head mounted display, the head mounted display may include a sensor for detecting information indicating the posture change of the head mounted display, and indicates the posture of the head mounted display. A sensor for detecting information may be provided. Here, the “sensor for detecting information indicating a change in the attitude of the head mounted display” may be, for example, an angular velocity sensor. The “sensor for detecting information indicating the posture of the head mounted display” may be, for example, one or both of a geomagnetic sensor and an angular velocity sensor. In addition, when the acquisition unit acquires posture information from an imaging device that images a head-mounted display, the posture information may be an image indicating a result of imaging the head-mounted display by the imaging device, for example.
また、上記態様において、「位置情報」とは、例えば、仮想空間における仮想点の現在位置を示す情報であってもよいし、仮想空間における仮想点の過去または未来の位置を示す情報であってもよいし、仮想空間における仮想点の経時的な位置の変化の軌跡を示す情報であってもよい。 In the above aspect, the “position information” may be, for example, information indicating the current position of the virtual point in the virtual space, or information indicating the past or future position of the virtual point in the virtual space. Alternatively, it may be information indicating a trajectory of a change in position of a virtual point with time in the virtual space.
また、上記態様において、「オブジェクト」とは、仮想空間内に存在する仮想的な物体であって、形状と仮想空間における存在位置との一方または双方が変化可能な物体であってもよい。具体的には、「オブジェクト」は、例えば、仮想空間に存在する、人物、動物、及び、モンスター等の、キャラクタであってもよいし、仮想空間に存在する乗り物等の人工物であってもよい。 In the above aspect, the “object” may be a virtual object that exists in the virtual space, and may be an object in which one or both of the shape and the existing position in the virtual space can be changed. Specifically, the “object” may be, for example, a character such as a person, an animal, and a monster that exists in the virtual space, or an artificial object such as a vehicle that exists in the virtual space. Good.
[付記2]
本発明の他の態様に係る情報処理装置のプログラムは、プロセッサを具備する情報処理装置のプログラムであって、前記プロセッサを、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、して機能させ、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Supplementary Note 2]
A program for an information processing device according to another aspect of the present invention is a program for an information processing device including a processor, wherein the processor is an image obtained by capturing a virtual space with a virtual camera and uses binocular parallax. The stereoscopic image is displayed on a display unit provided in a head mounted display, and the display control unit functions as an acquisition unit that acquires posture information regarding the posture of the head mounted display. It is possible to change the attitude of the virtual camera in the virtual space based on the position information regarding the position of the virtual point in the virtual space, and to determine the position of the virtual camera in the virtual space based on the attitude information. It is possible to change, and the virtual point is set to a position based on an object existing in the virtual space. Based on the position and the at least one change of shape of the object in the virtual space, the position of the virtual point is changed, characterized in that.
この態様によれば、ヘッドマウントディスプレイを装着したユーザが、ヘッドマウントディスプレイの姿勢を変化させることにより、仮想空間における仮想カメラの位置を変化させることができ、また、表示制御部が、オブジェクトに基づく位置に設定された仮想点の位置に基づいて、仮想空間における仮想カメラの姿勢を変化させることができる。すなわち、この態様において、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイを装着したユーザが、例えば、ヘッドマウントディスプレイの姿勢を変化させることにより、仮想カメラの光軸方向がオブジェクトと交差するように、ヘッドマウントディスプレイの位置を制御することで、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。
また、この態様によれば、実空間においてヘッドマウントディスプレイの位置を変化させることなく、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、例えば、実空間においてヘッドマウントディスプレイの位置を変化させることで、仮想空間における仮想カメラの位置または姿勢を変化させる場合と比較して、ヘッドマウントディスプレイを装着したユーザが、容易に、仮想空間における仮想カメラを操作することが可能となる。
また、この態様によれば、表示制御部が、オブジェクトの位置に基づいて仮想カメラの姿勢を変化させつつ、ヘッドマウントディスプレイの姿勢に基づいて仮想カメラの位置を変化させる。このため、この態様によれば、ヘッドマウントディスプレイの表示部にオブジェクトを継続的に表示させることと、ヘッドマウントディスプレイを装着したユーザに対して、仮想カメラの位置の操作に係る自由度を提供することとの、両立が可能となる。
According to this aspect, the user wearing the head mounted display can change the position of the virtual camera in the virtual space by changing the attitude of the head mounted display, and the display control unit is based on an object. Based on the position of the virtual point set as the position, the posture of the virtual camera in the virtual space can be changed. In other words, in this aspect, the display control unit can change both the position and the posture of the virtual camera in the virtual space based on the change in the posture of the head mounted display and the change in the position or shape of the object. . Therefore, according to this aspect, the position of the head mounted display is such that the optical axis direction of the virtual camera intersects the object by changing the attitude of the head mounted display, for example, by the user wearing the head mounted display. By controlling the above, it becomes possible to continuously display the object on the display unit of the head mounted display.
Further, according to this aspect, it is possible to change both the position and the posture of the virtual camera in the virtual space without changing the position of the head mounted display in the real space. Therefore, according to this aspect, for example, by changing the position or orientation of the virtual camera in the virtual space by changing the position of the head mounted display in the real space, the user wearing the head mounted display However, it becomes possible to easily operate the virtual camera in the virtual space.
Further, according to this aspect, the display control unit changes the position of the virtual camera based on the attitude of the head mounted display while changing the attitude of the virtual camera based on the position of the object. Therefore, according to this aspect, the object is continuously displayed on the display unit of the head mounted display, and the user wearing the head mounted display is provided with a degree of freedom regarding the operation of the position of the virtual camera. It becomes possible to achieve both.
[付記3]
本発明の他の態様に係る情報処理装置のプログラムは、付記1または2に記載の情報処理装置のプログラムであって、前記仮想点は、前記オブジェクトの特定の部分に設定される、ことを特徴とする。
[Supplementary Note 3]
An information processing apparatus program according to another aspect of the present invention is the information processing apparatus program according to
この態様によれば、表示制御部が、オブジェクトの特定の部分に設定された仮想点の位置に基づいて、仮想空間における仮想カメラの位置または姿勢を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。 According to this aspect, the display control unit can change the position or orientation of the virtual camera in the virtual space based on the position of the virtual point set in the specific part of the object. For this reason, according to this aspect, an object can be continuously displayed on the display unit of the head mounted display.
[付記4]
本発明の他の態様に係る情報処理装置のプログラムは、付記1または2に記載の情報処理装置のプログラムであって、前記仮想点は、前記オブジェクトが位置及び形状の少なくとも一方を変化させるモーションを実行する場合に、前記オブジェクトのうち、前記モーションに応じた部分に設定される、ことを特徴とする。
[Appendix 4]
An information processing apparatus program according to another aspect of the present invention is the information processing apparatus program according to
この態様によれば、表示制御部が、オブジェクトのうちモーションに応じた部分に設定された仮想点の位置に基づいて、仮想空間における仮想カメラの位置または姿勢を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトのうちモーションに応じた部分を含む領域を継続的に表示させることが可能となる。 According to this aspect, the display control unit can change the position or orientation of the virtual camera in the virtual space based on the position of the virtual point set in the part corresponding to the motion of the object. For this reason, according to this aspect, it is possible to continuously display a region including a portion corresponding to motion among objects in the display unit of the head mounted display.
なお、上記態様において、「モーションに応じた部分」とは、モーションに応じて変化する部分であってもよい。具体的には、オブジェクトが第1の部分と第2の部分とを有する場合、モーションが第1の進行段階にあるときには、仮想点がオブジェクトの第1の部分に設定され、モーションが第2の進行段階にあるときには、仮想点がオブジェクトの第2の部分に設定される等、モーションの進行段階に応じて、仮想点が設定されるオブジェクトの部分が変化してもよい。 In the above aspect, the “part corresponding to the motion” may be a part that changes according to the motion. Specifically, if the object has a first part and a second part, when the motion is in a first step of progression, the virtual point is set to the first part of the object and the motion is second When in the progress stage, the part of the object where the virtual point is set may change according to the progress stage of the motion, for example, the virtual point is set in the second part of the object.
[付記5]
本発明の他の態様に係る情報処理装置のプログラムは、付記1または2に記載の情報処理装置のプログラムであって、前記オブジェクトは、前記仮想空間における位置及び形状の少なくとも一方を変化させる複数種類のモーションを実行可能であり、前記仮想点は、前記オブジェクトのうち、前記オブジェクトの実行しているモーションの種類に応じた部分に設定される、ことを特徴とする。
[Appendix 5]
A program of an information processing device according to another aspect of the present invention is the program of the information processing device according to the
この態様によれば、表示制御部が、オブジェクトのうちモーションの種類に応じた部分に設定された仮想点の位置に基づいて、仮想空間における仮想カメラの位置または姿勢を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトのうちモーションの種類に応じた部分を含む領域を継続的に表示させることが可能となる。 According to this aspect, the display control unit can change the position or the attitude of the virtual camera in the virtual space based on the position of the virtual point set in the part corresponding to the type of motion in the object. For this reason, according to this aspect, it is possible to continuously display a region including a portion corresponding to the type of motion in the object on the display unit of the head mounted display.
なお、上記態様において、「モーションの種類」とは、例えば、座る、立つ、歩く、及び、走る等の、個別のモーションを区別するための情報であってもよい。また、上記態様において、「モーションの種類」とは、オブジェクトが実行可能な複数のモーションを、所定の基準により分類した結果を示す情報であってもよい。
ここで、モーションを分類するための「所定の基準」とは、モーションの内容に基づく基準であってもよい。具体的には、「所定の基準」とは、例えば、オブジェクトが直立した状態で行われるモーションであるか否か、オブジェクトがモーションを実行する場合にオブジェクトの位置の変化量が所定の変化量以上となる位置変化の大きいモーションであるか否か、及び、オブジェクトがモーションを実行する場合にオブジェクトの形状の変化量が所定の変化量以上となる姿勢変化の大きいモーションであるか否か、等の一部または全部を含むものであってもよい。
また、モーションを分類するための「所定の基準」とは、モーションを実行可能なオブジェクトの種類に基づく基準であってもよい。具体的には、「所定の基準」とは、例えば、人間により実行可能なモーションであるか否か、人間以外のモンスター等により実行可能なモーションであるか否か、及び、仮想的な生物以外の人工物により実行可能なモーションであるか否か、等の一部または全部を含むものであってもよい。
In the above aspect, the “type of motion” may be information for distinguishing individual motions such as sitting, standing, walking, and running. In the above aspect, the “type of motion” may be information indicating a result of classifying a plurality of motions that can be executed by the object according to a predetermined criterion.
Here, the "predetermined reference" for classifying the motion may be a reference based on the content of the motion. Specifically, “predetermined reference” means, for example, whether the motion is performed with the object standing upright or not, and when the object executes the motion, the change amount of the position of the object is a predetermined change amount or more Whether the motion is large in position change, and whether the motion is large in posture change in which the amount of change in shape of the object is equal to or greater than a predetermined amount of change when the object executes the motion, etc. It may include part or all.
Also, the "predetermined reference" for classifying motion may be a reference based on the type of object that can execute motion. Specifically, the “predetermined standard” is, for example, whether or not the motion is executable by a human, whether the motion is executable by a monster or the like other than a human, and the like, and other than a virtual creature. It may include part or all of whether or not the motion can be performed by an artifact of
[付記6]
本発明の他の態様に係る情報処理装置のプログラムは、付記1に記載の情報処理装置のプログラムであって、前記表示制御部は、第1の単位期間における、前記仮想カメラの前記仮想空間における位置の変化量と、前記第1の単位期間に後続する第2の単位期間における、前記仮想カメラの前記仮想空間における位置の変化量と、の差分値が、第1閾値以下となるように、前記仮想空間における前記仮想カメラの位置を変化させる、ことを特徴とする。
[Appendix 6]
The program of the information processing device according to another aspect of the present invention is the program of the information processing device according to
この態様によれば、表示制御部は、例えば、第1の単位期間と第2の単位期間との間で、仮想カメラの移動速度を滑らかに変化させることができる。これにより、この態様によれば、例えば、第1の単位期間と第2の単位期間との間で、仮想カメラの移動速度が急激に変化する場合と比較して、ヘッドマウントディスプレイを装着したユーザが違和感を感じる可能性を低減することが可能となる。 According to this aspect, for example, the display control unit can smoothly change the moving speed of the virtual camera between the first unit period and the second unit period. Thereby, according to this aspect, for example, the user wearing the head mounted display is compared with the case where the moving speed of the virtual camera changes abruptly between the first unit period and the second unit period. It is possible to reduce the possibility of feeling uncomfortable.
なお、上記態様において、「第1の単位期間」及び「第2の単位期間」とは、同一の時間長を有する期間であってもよい。例えば、「第1の単位期間」及び「第2の単位期間」は、表示部に1枚の画像を表示するために必要な、1つのフレーム期間であってもよいし、表示部に複数の画像を表示するために必要な、複数のフレーム期間であってもよい。 In the above aspect, the “first unit period” and the “second unit period” may be periods having the same time length. For example, the “first unit period” and the “second unit period” may be one frame period necessary for displaying one image on the display unit, or a plurality of display units may be displayed on the display unit. There may be a plurality of frame periods necessary for displaying an image.
[付記7]
本発明の他の態様に係る情報処理装置のプログラムは、付記2に記載の情報処理装置のプログラムであって、前記表示制御部は、第1の単位期間における、前記仮想カメラの前記仮想空間における姿勢の変化量と、前記第1の単位期間に後続する第2の単位期間における、前記仮想カメラの前記仮想空間における姿勢の変化量と、の差分値が、第2閾値以下となるように、前記仮想空間における前記仮想カメラの姿勢を変化させる、ことを特徴とする。
[Appendix 7]
A program for an information processing device according to another aspect of the present invention is the program for the information processing device according to
この態様によれば、表示制御部は、例えば、第1の単位期間と第2の単位期間との間で、仮想カメラの姿勢の変化速度を滑らかに変化させることができる。これにより、この態様によれば、例えば、第1の単位期間と第2の単位期間との間で、仮想カメラの姿勢の変化速度が急激に変化する場合と比較して、ヘッドマウントディスプレイを装着したユーザが違和感を感じる可能性を低減することが可能となる。 According to this aspect, for example, the display control unit can smoothly change the change speed of the posture of the virtual camera between the first unit period and the second unit period. Thereby, according to this aspect, for example, the head mounted display is mounted as compared with the case where the change speed of the posture of the virtual camera changes rapidly between the first unit period and the second unit period. It is possible to reduce the possibility that the user who feels discomfort will feel uncomfortable.
[付記8]
本発明の他の態様に係る情報処理装置のプログラムは、付記6または7に記載の情報処理装置のプログラムであって、前記第1の単位期間は、前記オブジェクトが位置及び形状の少なくとも一方を変化させる、第1のモーションを実行する期間であり、前記第2の単位期間は、前記オブジェクトが位置及び形状の少なくとも一方を、前記第1のモーションとは異なる態様で変化させる、第2のモーションを実行する期間である、ことを特徴とする。
[Appendix 8]
A program of an information processing device according to another aspect of the present invention is the program of the information processing device according to Appendix 6 or 7, wherein in the first unit period, the object changes at least one of the position and the shape. A period during which a first motion is performed, and the second unit period changes a second motion in which at least one of the position and the shape of the object is changed in a manner different from the first motion. It is a period to execute.
この態様によれば、表示制御部は、例えば、オブジェクトのモーションを切り替える際に、仮想カメラの移動速度または姿勢の変化速度を滑らかに変化させることができる。これにより、この態様によれば、例えば、オブジェクトがモーションを切り替える際に、仮想カメラの移動速度または姿勢の変化速度が急激に変化する場合と比較して、ヘッドマウントディスプレイを装着したユーザが違和感を感じる可能性を低減することが可能となる。 According to this aspect, for example, when switching the motion of the object, the display control unit can smoothly change the moving speed of the virtual camera or the changing speed of the posture. Thereby, according to this aspect, for example, when the moving speed of the virtual camera or the change speed of the posture of the virtual camera changes rapidly when the object switches the motion, the user wearing the head mount display feels discomfort The possibility of feeling can be reduced.
[付記9]
本発明の他の態様に係る情報処理装置のプログラムは、付記2に記載の情報処理装置のプログラムであって、前記表示制御部は、前記仮想空間における前記仮想カメラの位置が、前記仮想空間及び前記仮想点の少なくとも一方に基づいて定められる特定領域内に位置するように、前記仮想空間における前記仮想カメラの位置を変化させる、ことを特徴とする。
[Supplementary Note 9]
An information processing apparatus program according to another aspect of the present invention is the information processing apparatus program according to
この態様によれば、表示制御部は、仮想カメラが特定領域内に位置するように、仮想空間における仮想カメラの位置を設定する。このため、この態様によれば、例えば、仮想カメラによるオブジェクトの撮像が仮想空間の構成要素により妨げられたり、または、仮想カメラがオブジェクトから所定の距離より離間してオブジェクトの撮像が困難になったりすることを、防止することが可能となる。 According to this aspect, the display control unit sets the position of the virtual camera in the virtual space so that the virtual camera is located within the specific area. Therefore, according to this aspect, for example, the imaging of the object by the virtual camera is hindered by the components of the virtual space, or the virtual camera is separated from the object by a predetermined distance and the imaging of the object becomes difficult. It is possible to prevent this.
なお、上記態様において、「特定領域」とは、仮想空間のうち、オブジェクトが存在する領域以外の領域であってもよいし、仮想空間のうち、仮想空間を構成する建物、地面、及び、森林、山岳等の環境構成物が存在する領域以外の領域であってもよい。この態様において、「特定領域」とは、仮想点からの距離が所定の距離以下となる領域であってもよい。 In the above aspect, the “specific area” may be an area other than the area where the object exists in the virtual space, or a building, the ground, and a forest that constitute the virtual space in the virtual space. An area other than an area where an environmental component such as a mountain exists may be used. In this aspect, the “specific area” may be an area where the distance from the virtual point is equal to or less than a predetermined distance.
[付記10]
本発明の他の態様に係る情報処理装置のプログラムは、付記1乃至9に記載の情報処理装置のプログラムであって、前記表示制御部は、前記ヘッドマウントディスプレイが所定の姿勢変化をした場合に、前記仮想カメラによる前記仮想空間の撮像範囲を変化させる、ことを特徴とする。
[Supplementary Note 10]
A program of an information processing apparatus according to another aspect of the present invention is the program of the information processing apparatus according to any one of
この態様によれば、表示制御部は、ヘッドマウントディスプレイの表示部に対して、オブジェクトを、ユーザの所望の大きさで表示させることが可能となる。 According to this aspect, the display control unit can display the object in a size desired by the user on the display unit of the head mounted display.
[付記11]
本発明の一態様に係る情報処理装置は、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、を備え、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Supplementary Note 11]
An information processing apparatus according to one embodiment of the present invention provides a display control for displaying a stereoscopic image using binocular parallax on a display unit provided in a head-mounted display, which is an image obtained by capturing a virtual space with a virtual camera. And an acquisition unit that acquires posture information related to the posture of the head mounted display, and the display control unit is configured to control the virtual camera in the virtual space based on position information related to the position of a virtual point in the virtual space. The position of the virtual camera can be changed, and based on the posture information, the posture of the virtual camera in the virtual space can be changed, and the virtual point is based on an object existing in the virtual space Based on a change in at least one of the position and shape of the object in the virtual space. The position of the virtual point is changed, characterized in that.
この態様によれば、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。 According to this aspect, the display control unit can change both the position and the attitude of the virtual camera in the virtual space, based on the change in the attitude of the head mounted display and the change in the position or the shape of the object. . For this reason, according to this aspect, an object can be continuously displayed on the display unit of the head mounted display.
[付記12]
本発明の他の態様に係る情報処理装置は、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、を備え、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Supplementary Note 12]
An information processing apparatus according to another aspect of the present invention is an image obtained by imaging a virtual space with a virtual camera and displaying a stereoscopic image using binocular parallax on a display unit provided in a head-mounted display. A control unit, and an acquisition unit that acquires posture information related to a posture of the head mounted display, and the display control unit is configured to control the virtual space in the virtual space based on position information regarding the position of a virtual point in the virtual space. It is possible to change the posture of the camera, and based on the posture information, it is possible to change the position of the virtual camera in the virtual space, and the virtual point is an object existing in the virtual space. Based on the change in at least one of the position and the shape of the object in the virtual space, Serial position of the virtual point is changed, characterized in that.
この態様によれば、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。 According to this aspect, the display control unit can change both the position and the attitude of the virtual camera in the virtual space, based on the change in the attitude of the head mounted display and the change in the position or the shape of the object. . For this reason, according to this aspect, an object can be continuously displayed on the display unit of the head mounted display.
[付記13]
本発明の一態様に係るヘッドマウントディスプレイは、表示部と、情報処理装置と、を具備するヘッドマウントディスプレイであって、前記情報処理装置は、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、前記表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、を備え、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Supplementary Note 13]
The head mounted display according to an aspect of the present invention is a head mounted display including a display unit and an information processing apparatus, and the information processing apparatus is an image obtained by imaging a virtual space with a virtual camera, The display control unit causes the display unit to display a stereoscopic image using binocular parallax, and the acquisition unit acquires posture information on the posture of the head mount display, and the display control unit includes the virtual space. It is possible to change the position of the virtual camera in the virtual space based on the position information on the position of the virtual point in, and change the attitude of the virtual camera in the virtual space based on the attitude information. The virtual point is set at a position based on an object existing in the virtual space, and the virtual point is set in the virtual space. Based on at least one of the change of the position and shape of the object, the position of the virtual point is changed, characterized in that.
この態様によれば、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。 According to this aspect, the display control unit can change both the position and the attitude of the virtual camera in the virtual space, based on the change in the attitude of the head mounted display and the change in the position or the shape of the object. . For this reason, according to this aspect, an object can be continuously displayed on the display unit of the head mounted display.
[付記14]
本発明の他の態様に係るヘッドマウントディスプレイは、表示部と、情報処理装置と、を具備するヘッドマウントディスプレイであって、前記情報処理装置は、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、前記表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、を備え、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Appendix 14]
A head mounted display according to another aspect of the present invention is a head mounted display including a display unit and an information processing apparatus, and the information processing apparatus is an image obtained by imaging a virtual space with a virtual camera. A display control unit that causes the display unit to display a stereoscopic image using binocular parallax; and an acquisition unit that acquires posture information related to a posture of the head mounted display, the display control unit including the virtual It is possible to change the attitude of the virtual camera in the virtual space based on position information on the position of the virtual point in space, and change the position of the virtual camera in the virtual space based on the attitude information The virtual point is set to a position based on an object present in the virtual space, and the virtual point is set in the virtual space. Wherein based on the position and at least one of the change of the shape of the object that, the position of the virtual point is changed, characterized in that.
この態様によれば、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。 According to this aspect, the display control unit can change both the position and the attitude of the virtual camera in the virtual space, based on the change in the attitude of the head mounted display and the change in the position or the shape of the object. . For this reason, according to this aspect, an object can be continuously displayed on the display unit of the head mounted display.
[付記15]
本発明の一態様に係る表示システムは、表示部を有するヘッドマウントディスプレイと、情報処理装置と、を具備する表示システムであって、前記情報処理装置は、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、前記表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、を備え、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Supplementary Note 15]
A display system according to one embodiment of the present invention is a display system including a head-mounted display having a display unit and an information processing device, and the information processing device is an image obtained by imaging a virtual space with a virtual camera. A display control unit that displays a stereoscopic image using binocular parallax on the display unit, and an acquisition unit that acquires posture information regarding the posture of the head mounted display, and the display control unit includes: It is possible to change the position of the virtual camera in the virtual space based on the position information regarding the position of the virtual point in the virtual space, and to change the attitude of the virtual camera in the virtual space based on the attitude information. The virtual point is set at a position based on an object existing in the virtual space, and the virtual space Based on the position and at least one of the change of the shape of the definitive the object, the location of the virtual point is changed, characterized in that.
この態様によれば、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。 According to this aspect, the display control unit can change both the position and the attitude of the virtual camera in the virtual space, based on the change in the attitude of the head mounted display and the change in the position or the shape of the object. . For this reason, according to this aspect, an object can be continuously displayed on the display unit of the head mounted display.
[付記16]
本発明の他の態様に係る表示システムは、表示部を有するヘッドマウントディスプレイと、情報処理装置と、を具備する表示システムであって、前記情報処理装置は、仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、前記表示部に表示させる表示制御部と、前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、を備え、前記表示制御部は、前記仮想空間における仮想点の位置に関する位置情報に基づいて、前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、前記姿勢情報に基づいて、前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、前記仮想点は、前記仮想空間に存在するオブジェクトに基づく位置に設定され、前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、前記仮想点の位置が変化する、ことを特徴とする。
[Appendix 16]
A display system according to another aspect of the present invention is a display system including a head mounted display having a display unit, and an information processing apparatus, wherein the information processing apparatus is an image obtained by imaging a virtual space with a virtual camera The display control unit includes a display control unit that displays a stereoscopic image using binocular parallax on the display unit, and an acquisition unit that acquires posture information regarding the posture of the head mounted display. It is possible to change the attitude of the virtual camera in the virtual space based on position information on the position of the virtual point in the virtual space, and based on the attitude information, the position of the virtual camera in the virtual space And the virtual point is set at a position based on an object existing in the virtual space, and the virtual sky is Based on at least one of the change of the position and shape of the object in the position of the virtual point is changed, characterized in that.
この態様によれば、表示制御部は、ヘッドマウントディスプレイの姿勢の変化と、オブジェクトの位置または形状の変化と、に基づいて、仮想空間における仮想カメラの位置及び姿勢の双方を変化させることができる。このため、この態様によれば、ヘッドマウントディスプレイの表示部に、オブジェクトを継続的に表示させることが可能となる。 According to this aspect, the display control unit can change both the position and the attitude of the virtual camera in the virtual space, based on the change in the attitude of the head mounted display and the change in the position or the shape of the object. . For this reason, according to this aspect, an object can be continuously displayed on the display unit of the head mounted display.
1…ヘッドマウントディスプレイ、10…端末装置、11…制御部、12…表示部、13…操作部、14…姿勢情報生成部、15…記憶部、110…表示制御部、111…モード指定部、112…仮想カメラ制御部、113…キャラクタ制御部、114…表示情報生成部、115…姿勢情報取得部、1000…プロセッサ、1002…角速度センサ。
DESCRIPTION OF
Claims (16)
前記プロセッサを、
仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、
ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
して機能させ、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、情報処理装置のプログラム。 A program of an information processing apparatus having a processor,
The processor,
It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit for displaying on a display unit provided in the head mounted display;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
Make it work,
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the position of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the attitude of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
A program of an information processing apparatus characterized in that.
前記プロセッサを、
仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、
ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
して機能させ、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、情報処理装置のプログラム。 A program of an information processing apparatus having a processor,
The processor,
It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit for displaying on a display unit provided in the head mounted display;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
Make it work,
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the attitude of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the position of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
A program of an information processing apparatus characterized in that.
前記オブジェクトの特定の部分に設定される、
ことを特徴とする、請求項1または2に記載の情報処理装置のプログラム。 The virtual point is
Set to a specific part of the object,
The program of the information processing apparatus according to claim 1 or 2, characterized in that:
前記オブジェクトが位置及び形状の少なくとも一方を変化させるモーションを実行する場合に、
前記オブジェクトのうち、前記モーションに応じた部分に設定される、
ことを特徴とする、請求項1または2に記載の情報処理装置のプログラム。 The virtual point is
When the object executes a motion that changes at least one of position and shape:
It is set to the part according to the motion in the object,
The program of the information processing apparatus according to claim 1 or 2, characterized in that:
前記仮想空間における位置及び形状の少なくとも一方を変化させる複数種類のモーションを実行可能であり、
前記仮想点は、
前記オブジェクトのうち、
前記オブジェクトの実行しているモーションの種類に応じた部分に設定される、
ことを特徴とする、請求項1または2に記載の情報処理装置のプログラム。 The object is
It is possible to execute multiple types of motion that changes at least one of the position and the shape in the virtual space,
The virtual point is
Of the objects,
Set to the part corresponding to the type of motion that the object is executing,
The program of the information processing apparatus according to claim 1 or 2, characterized in that:
第1の単位期間における、
前記仮想カメラの前記仮想空間における位置の変化量と、
前記第1の単位期間に後続する第2の単位期間における、
前記仮想カメラの前記仮想空間における位置の変化量と、の差分値が、
第1閾値以下となるように、
前記仮想空間における前記仮想カメラの位置を変化させる、
ことを特徴とする、請求項1に記載の情報処理装置のプログラム。 The display control unit
In the first unit period,
Amount of change in position of the virtual camera in the virtual space;
In a second unit period subsequent to the first unit period,
The difference value between the change amount of the position of the virtual camera in the virtual space,
To be less than or equal to the first threshold
Changing the position of the virtual camera in the virtual space,
The program of the information processing apparatus according to claim 1, characterized in that:
第1の単位期間における、
前記仮想カメラの前記仮想空間における姿勢の変化量と、
前記第1の単位期間に後続する第2の単位期間における、
前記仮想カメラの前記仮想空間における姿勢の変化量と、の差分値が、
第2閾値以下となるように、
前記仮想空間における前記仮想カメラの姿勢を変化させる、
ことを特徴とする、請求項2に記載の情報処理装置のプログラム。 The display control unit
In the first unit period,
Amount of change in posture of the virtual camera in the virtual space;
In a second unit period subsequent to the first unit period,
The difference value between the amount of change in posture of the virtual camera in the virtual space, and
To be below the second threshold,
Changing the attitude of the virtual camera in the virtual space,
The program of the information processing apparatus according to claim 2, characterized in that.
前記オブジェクトが位置及び形状の少なくとも一方を変化させる、
第1のモーションを実行する期間であり、
前記第2の単位期間は、
前記オブジェクトが位置及び形状の少なくとも一方を、前記第1のモーションとは異なる態様で変化させる、
第2のモーションを実行する期間である、
ことを特徴とする、請求項6または7に記載の情報処理装置のプログラム。 The first unit period is
The object changes position and / or shape;
Period of time to execute the first motion,
The second unit period is
The object changes at least one of position and shape in a manner different from the first motion,
It is a period to execute the second motion,
The program of the information processing apparatus according to claim 6 or 7,
前記仮想空間における前記仮想カメラの位置が、
前記仮想空間及び前記仮想点の少なくとも一方に基づいて定められる特定領域内に位置するように、
前記仮想空間における前記仮想カメラの位置を変化させる、
ことを特徴とする、請求項2に記載の情報処理装置のプログラム。 The display control unit
The position of the virtual camera in the virtual space is
To be located within a specific region defined based on at least one of the virtual space and the virtual point,
Changing the position of the virtual camera in the virtual space,
The program of the information processing apparatus according to claim 2, characterized in that.
前記ヘッドマウントディスプレイが所定の姿勢変化をした場合に、
前記仮想カメラによる前記仮想空間の撮像範囲を変化させる、
ことを特徴とする、請求項1乃至9のうち何れか1項に記載の情報処理装置のプログラム。 The display control unit
When the head mounted display changes in a predetermined posture,
Changing an imaging range of the virtual space by the virtual camera,
The program of the information processing apparatus according to any one of claims 1 to 9, characterized in that:
ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
を備え、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、情報処理装置。 It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit for displaying on a display unit provided in the head mounted display;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
With
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the position of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the attitude of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
An information processing apparatus characterized in that.
ヘッドマウントディスプレイに設けられた表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
を備え、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、情報処理装置。 It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit for displaying on a display unit provided in the head mounted display;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
With
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the attitude of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the position of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
An information processing apparatus characterized in that.
前記情報処理装置は、
仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、
前記表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
を備え、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、ヘッドマウントディスプレイ。 A head mounted display comprising a display unit and an information processing apparatus,
The information processing apparatus is
It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit to be displayed on the display unit;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
With
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the position of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the attitude of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
A head mounted display.
前記情報処理装置は、
仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、
前記表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
を備え、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、ヘッドマウントディスプレイ。 A head mounted display comprising a display unit and an information processing apparatus,
The information processing apparatus is
It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit to be displayed on the display unit;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
With
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the attitude of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the position of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
A head mounted display.
前記情報処理装置は、
仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、
前記表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
を備え、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、表示システム。 A display system comprising a head mounted display having a display unit, and an information processing apparatus,
The information processing apparatus is
It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit to be displayed on the display unit;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
With
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the position of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the attitude of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
A display system characterized by that.
前記情報処理装置は、
仮想空間を仮想カメラで撮像した画像であって、両眼視差を利用した立体視画像を、
前記表示部に表示させる表示制御部と、
前記ヘッドマウントディスプレイの姿勢に関する姿勢情報を取得する取得部と、
を備え、
前記表示制御部は、
前記仮想空間における仮想点の位置に関する位置情報に基づいて、
前記仮想空間における前記仮想カメラの姿勢を変化させることが可能であり、
前記姿勢情報に基づいて、
前記仮想空間における前記仮想カメラの位置を変化させることが可能であり、
前記仮想点は、
前記仮想空間に存在するオブジェクトに基づく位置に設定され、
前記仮想空間における前記オブジェクトの位置及び形状のうち少なくとも一方の変化に基づいて、
前記仮想点の位置が変化する、
ことを特徴とする、表示システム。
A display system comprising a head mounted display having a display unit, and an information processing apparatus,
The information processing apparatus is
It is an image obtained by imaging a virtual space with a virtual camera, and a stereoscopic image using binocular parallax,
A display control unit to be displayed on the display unit;
An acquisition unit for acquiring posture information relating to the posture of the head mounted display;
With
The display control unit
Based on the position information regarding the position of the virtual point in the virtual space,
It is possible to change the attitude of the virtual camera in the virtual space;
Based on the attitude information,
It is possible to change the position of the virtual camera in the virtual space;
The virtual point is
Set to a position based on an object present in the virtual space;
Based on a change in at least one of the position and shape of the object in the virtual space,
The position of the virtual point changes,
A display system characterized by that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018011423A JP6675615B2 (en) | 2018-01-26 | 2018-01-26 | Information processing apparatus, information processing apparatus program, head mounted display, and display system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018011423A JP6675615B2 (en) | 2018-01-26 | 2018-01-26 | Information processing apparatus, information processing apparatus program, head mounted display, and display system |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020030567A Division JP7043711B2 (en) | 2020-02-26 | 2020-02-26 | Information processing equipment, information processing equipment programs, head-mounted displays, and display systems |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019128875A true JP2019128875A (en) | 2019-08-01 |
JP6675615B2 JP6675615B2 (en) | 2020-04-01 |
Family
ID=67473148
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018011423A Active JP6675615B2 (en) | 2018-01-26 | 2018-01-26 | Information processing apparatus, information processing apparatus program, head mounted display, and display system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6675615B2 (en) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009237680A (en) * | 2008-03-26 | 2009-10-15 | Namco Bandai Games Inc | Program, information storage medium, and image generation system |
JP2017076319A (en) * | 2015-10-16 | 2017-04-20 | 株式会社カプコン | Picture image generation method, picture image generation program and picture image generation device |
JP2017097854A (en) * | 2016-09-29 | 2017-06-01 | 株式会社スクウェア・エニックス | Program, recording medium, content providing device, and control method |
JP2017142783A (en) * | 2017-01-04 | 2017-08-17 | 株式会社コロプラ | Visual field area adjustment method and program in virtual space |
-
2018
- 2018-01-26 JP JP2018011423A patent/JP6675615B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009237680A (en) * | 2008-03-26 | 2009-10-15 | Namco Bandai Games Inc | Program, information storage medium, and image generation system |
JP2017076319A (en) * | 2015-10-16 | 2017-04-20 | 株式会社カプコン | Picture image generation method, picture image generation program and picture image generation device |
JP2017097854A (en) * | 2016-09-29 | 2017-06-01 | 株式会社スクウェア・エニックス | Program, recording medium, content providing device, and control method |
JP2017142783A (en) * | 2017-01-04 | 2017-08-17 | 株式会社コロプラ | Visual field area adjustment method and program in virtual space |
Also Published As
Publication number | Publication date |
---|---|
JP6675615B2 (en) | 2020-04-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20170263058A1 (en) | Method and system for controlling a head-mounted display system | |
US9071808B2 (en) | Storage medium having stored information processing program therein, information processing apparatus, information processing method, and information processing system | |
US9607439B2 (en) | Information processing apparatus and information processing method | |
US10223064B2 (en) | Method for providing virtual space, program and apparatus therefor | |
US20160041391A1 (en) | Virtual reality system allowing immersion in virtual space to consist with actual movement in actual space | |
JP2022529245A (en) | Sensor fusion for electromagnetic tracking | |
JP6518578B2 (en) | Display control apparatus and display control method | |
US11373379B2 (en) | Image generation apparatus and image generation method for generating augmented reality images based on user interaction | |
KR102461232B1 (en) | Image processing method and apparatus, electronic device, and storage medium | |
EP3196734B1 (en) | Control device, control method, and program | |
CN114296235A (en) | Display control device and display control method | |
JP7043711B2 (en) | Information processing equipment, information processing equipment programs, head-mounted displays, and display systems | |
JP6518645B2 (en) | INFORMATION PROCESSING APPARATUS AND IMAGE GENERATION METHOD | |
JP6223614B1 (en) | Information processing method, information processing program, information processing system, and information processing apparatus | |
JP6203346B1 (en) | Method, program, and recording medium for providing virtual space | |
JP6707224B2 (en) | Information processing apparatus, information processing apparatus program, head mounted display, and display system | |
JP6675615B2 (en) | Information processing apparatus, information processing apparatus program, head mounted display, and display system | |
JP6388270B1 (en) | Information processing apparatus, information processing apparatus program, head mounted display, and display system | |
JP6582205B2 (en) | Information processing apparatus, information processing apparatus program, head mounted display, and information processing system | |
US20220405996A1 (en) | Program, information processing apparatus, and information processing method | |
CN111448536A (en) | Data replacement device, terminal, and data replacement program | |
JP6382928B2 (en) | Method executed by computer to control display of image in virtual space, program for causing computer to realize the method, and computer apparatus | |
JP2012178061A (en) | Program, information storage medium and stereoscopic image generation device | |
JP2018170013A (en) | Method executed by computer to control display of image in virtual space, program for causing computer to achieve the method, and computer device | |
JP6623431B2 (en) | Information processing apparatus, information processing apparatus program, head mounted display, and display system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190626 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190702 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20191030 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191030 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191112 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200110 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200128 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6675615 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |