JP2019192039A - バーチャル空間表示システム及びバーチャル空間表示方法 - Google Patents

バーチャル空間表示システム及びバーチャル空間表示方法 Download PDF

Info

Publication number
JP2019192039A
JP2019192039A JP2018085815A JP2018085815A JP2019192039A JP 2019192039 A JP2019192039 A JP 2019192039A JP 2018085815 A JP2018085815 A JP 2018085815A JP 2018085815 A JP2018085815 A JP 2018085815A JP 2019192039 A JP2019192039 A JP 2019192039A
Authority
JP
Japan
Prior art keywords
virtual space
unit
display
character structure
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018085815A
Other languages
English (en)
Inventor
隆明 青木
Takaaki Aoki
隆明 青木
浅利 晋一郎
Shinichiro Asari
晋一郎 浅利
仁男 新保
Yoshio Shimbo
仁男 新保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2018085815A priority Critical patent/JP2019192039A/ja
Publication of JP2019192039A publication Critical patent/JP2019192039A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

【課題】ユーザによる直観的な操作を可能とするバーチャル空間表示システムを提供する。【解決手段】建屋の間取りを示す、二次元又は三次元の間取り構造体120と、間取り構造体120の任意の位置に、移動可能に配置されるキャラクタ構造体110と、間取り構造体120に配置されたキャラクタ構造体110の位置を検出する位置検出部130と、建屋内の空間に対応するバーチャル空間を表示部150に表示させる制御部140と、を備える。制御部140は、位置検出部130が検出したキャラクタ構造体110の位置に対応するバーチャル空間における位置から見た場合の当該バーチャル空間を表示部150に表示させる。【選択図】図2

Description

本発明は、バーチャル空間表示システム及びバーチャル空間表示方法に関する。
近年、三次元コンピュータグラフィックスの技術が普及している。この技術は、ディスプレイにバーチャル空間を表示し、ユーザは、操作部を操作することで、当該バーチャル空間を疑似的に移動することができる。
特許文献1には、実空間におけるユーザの挙動をセンシングし、センシングした結果をバーチャル空間へ反映させる技術が開示されている。
特開2002−82751号公報
ユーザが操作する操作部には、ユーザが簡便に、つまり、直観的に操作できることが望まれている。
本発明は、ユーザによる直観的な操作を可能とするバーチャル空間表示システム等を提供することを目的とする。
本発明の一態様に係るバーチャル空間表示システムは、建屋の間取りを示す、二次元又は三次元の間取り構造体と、前記間取り構造体の任意の位置に、移動可能に配置されるキャラクタ構造体と、前記間取り構造体に配置された前記キャラクタ構造体の位置を検出する位置検出部と、前記建屋内の空間に対応するバーチャル空間を表示部に表示させる制御部と、を備え、前記制御部は、前記位置検出部が検出した前記キャラクタ構造体の位置に対応する前記バーチャル空間における位置から見た場合の前記バーチャル空間を前記表示部に表示させる。
また、本発明の一態様に係るバーチャル空間表示方法は、建屋の間取りを示す、二次元又は三次元の間取り構造体に配置されたキャラクタ構造体の位置を検出する位置検出ステップと、前記建屋内の空間に対応するバーチャル空間を表示部に表示させる制御ステップと、を含み、前記制御ステップでは、前記位置検出ステップで検出した前記キャラクタ構造体の位置に対応する前記バーチャル空間における位置から見た場合の前記バーチャル空間を前記表示部に表示させる。
また、本発明の一態様に係るプログラムは、上記バーチャル空間表示方法をコンピュータに実行させるためのプログラムである。
なお、これらの包括的又は具体的な態様は、システム、方法、集積回路、コンピュータプログラム又はコンピュータ読み取り可能なCD−ROM等の記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
本発明の一態様に係るバーチャル空間表示システム等によれば、ユーザによる直観的な操作を可能とするバーチャル空間表示システムを提供することができる。
図1は、実施の形態1に係るバーチャル空間表示システムの構成を説明するための図である。 図2は、実施の形態1に係るバーチャル空間表示システムの機能構成を示すブロック図である。 図3は、実施の形態1に係るバーチャル空間表示システムが実行する処理手順を示すフローチャートである。 図4Aは、実施の形態1に係るバーチャル空間表示システムが備える間取り構造体へのキャラクタ構造体の配置の第1例を示す図である。 図4Bは、図4Aにおけるキャラクタ構造体の位置及び向きに対応する画像の一例を示す図である。 図5Aは、実施の形態1に係るバーチャル空間表示システムが備える間取り構造体へのキャラクタ構造体の配置の第2例を示す図である。 図5Bは、図5Aにおけるキャラクタ構造体の位置及び向きに対応する画像の一例を示す図である。 図6Aは、実施の形態1に係るバーチャル空間表示システムが備える間取り構造体へのキャラクタ構造体の配置の第3例を示す図である。 図6Bは、図6Aにおけるキャラクタ構造体の位置及び向きに対応する画像の一例を示す図である。 図7は、間取り構造体の変形例を示す図である。 図8は、実施の形態2に係るバーチャル空間表示システムの機能構成を示すブロック図である。 図9Aは、実施の形態2に係るバーチャル空間表示システムが備える操作部とキャラクタ構造体とを嵌合させる動作を説明するための図である。 図9Bは、実施の形態2に係るバーチャル空間表示システムが備えるキャラクタ構造体のユーザによる操作を説明するための図である。 図9Cは、図9BのIXC−IXC線における、実施の形態2に係るバーチャル空間表示システムが備える操作部とキャラクタ構造体との断面を示す断面図である。 図10は、表示部に表示されたバーチャル空間における構造体の模様を変更する際の処理手順を説明するための図である。 図11は、実施の形態2に係るバーチャル空間表示システムが実行する処理手順を示すフローチャートである。
以下、本発明の実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本発明包括的又は具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序等は、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付しており、重複する説明は省略又は簡略化される場合がある。
(実施の形態)
[構成]
まず、本発明の実施の形態1に係るバーチャル空間表示システムの構成について説明する。
図1は、実施の形態1に係るバーチャル空間表示システム100の構成を説明するための図である。図2は、実施の形態1に係るバーチャル空間表示システム100の機能構成を示すブロック図である。
バーチャル空間表示システム100は、表示部150に表示される画像であるバーチャル空間内をユーザが仮想的に移動するバーチャルウォークスルーを実現するシステムである。バーチャル空間表示システム100は、例えば、モデルハウス等の建屋のバーチャル見学を実現する。例えば、ユーザは、バーチャル空間表示システム100が備える、建屋の間取りを示す間取り構造体120上に配置される、バーチャル空間表示システム100が備えるキャラクタ構造体110を動かすことで、表示部150に表示されるバーチャル空間を仮想的に移動する。
図2に示すように、バーチャル空間表示システム100は、間取り構造体120と、キャラクタ構造体110と、位置検出部130と、制御部140と、表示部150と、記憶部160とを備える。
間取り構造体120は、家屋、ビルディング等の建屋の間取りを示す構造体である。図1には、一例として、シート状である2次元の間取り構造体120を示している。なお、間取り構造体120は、シート状ではなく、例えば、壁等を模した壁部を有する三次元形状でもよい。
キャラクタ構造体110は、間取り構造体120の任意の位置に、移動可能に配置される構造体である。キャラクタ構造体110は、例えば、生物を模した構造体でもよいし、カメラ等の無生物の模型でもよい。また、例えば、キャラクタ構造体110は、人を模した構造体(つまり、人形)である。
位置検出部130は、間取り構造体120に配置されたキャラクタ構造体110の位置を検出する。位置検出部130は、例えば、ホールセンサ等の磁気センサを含み、この場合、キャラクタ構造体110は、図1に示すように、永久磁石等の磁石200を備える。図1には、位置検出部130に含まれる、2つの磁気センサ131、132を例示している。複数の磁気センサは、間取り構造体120の複数の地点に配置され、例えば、図示しない通信線により制御部140と接続されている。磁気センサの数は、特に限定されるものではなく、3以上でもよい。
なお、位置検出部130は、間取り構造体120におけるキャラクタ構造体110の位置を検出できればよく、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等の画像検出デバイス等を含んでもよい。位置検出部130は、このような画像検出デバイスによって撮像されることで得られるキャラクタ構造体110を含む間取り構造体120の画像から、間取り構造体120におけるキャラクタ構造体110の位置を検出してもよい。
制御部140は、建屋内の空間に対応するバーチャル空間を表示部150に表示させる制御装置である。具体的には、制御部140は、位置検出部130が検出したキャラクタ構造体110の位置に対応するバーチャル空間における位置から見た場合のバーチャル空間を表示部150に表示させる。より具体的には、制御部140は、位置検出部130が検出したキャラクタ構造体110の位置に対応するバーチャル空間における位置から当該バーチャル空間を仮想的に見た場合の画像を表示部150に表示させる。制御部140は、例えば、CPU(Central Processing Unit)と、例えば、後述する記憶部160に記憶された、CPUが実行する制御プログラムとから実現される。
また、例えば、制御部140は、位置検出部130が複数の磁気センサを含み、且つ、キャラクタ構造体110が磁石を備える場合、複数の磁気センサのうちで最も強い磁力を検出した磁気センサの位置に対応するバーチャル空間の位置から見た場合の当該バーチャル空間を表示部150に表示させる。
また、キャラクタ構造体110は、間取り構造体120上における位置をユーザが任意に移動できるようになっているために、ユーザとぶつかる等して意図せずキャラクタ構造体110が移動してしまう場合が想定される。このようなキャラクタ構造体110の意図しない移動に対して、制御部140は、表示部150に表示されているバーチャル空間を変更しなくてもよい。具体的には、制御部140は、バーチャル空間を表示部150に表示させている場合に、複数の磁気センサのいずれからも所定の閾値を超える磁力が検出されなくなったとき、表示部150に表示させているバーチャル空間の表示を表示部150に維持させてもよい。
表示部150は、バーチャル空間を表示する表示装置である。表示部150は、例えば、ディスプレイである。
記憶部160は、制御部140が実行する制御プログラムが記憶されたROM(Read Only Memory)、RAM(Random Access Memory)等のメモリである。
また、記憶部160には、バーチャル空間の3次元画像情報、つまり、制御部140が表示部150に表示させるバーチャル空間の3次元画像情報であるバーチャル空間情報161が記憶されている。制御部140は、バーチャル空間情報161を用いて、建屋内の空間に対応するバーチャル空間における、位置検出部130が検出したキャラクタ構造体110の位置に対応するバーチャル空間の位置から見たバーチャル空間を表示部150に表示させる。つまり、制御部140は、位置検出部130が検出したキャラクタ構造体110の位置に基づく画像を、バーチャル空間情報161に含まれる画像群から選択して表示部150に表示させる。なお、制御部140は、建屋の構造に関する情報を含むバーチャル空間情報161を用いて、位置検出部130が検出したキャラクタ構造体110の位置に対応するバーチャル空間における位置を算出し、算出した位置から見た場合のバーチャル空間の画像を生成し、生成した画像を表示部150に表示させてもよい。また、制御部140は、算出したバーチャル空間における位置から任意の方向を見た場合の画像を生成してもよいし、キャラクタ構造体110の向きに対応するバーチャル空間における方向を算出し、算出した方向を見た場合の画像を生成してもよい。
また、バーチャル空間表示システム100は、方位検出部180をさらに備えてもよい。
方位検出部180は、キャラクタ構造体110の向きを検出する。例えば、方位検出部180は、キャラクタ構造体110が人形である場合、キャラクタ構造体110の顔が向いている方向(以下、前方向と呼称する)を、キャラクタ構造体の向きとして検出する。ここで、前方向とは、例えば、キャラクタ構造体110に形成される顔面の法線方向である。また、前方向とは、キャラクタ構造体110に目が形成されている場合には視線方向でもよい。
方位検出部180は、例えば、ジャイロセンサを含む。ジャイロセンサは、例えば、キャラクタ構造体110の内部又は外表面に接触するように配置される。方位検出部180は、さらに、3軸加速度センサ等の加速度センサを備えてもよい。
制御部140は、位置検出部130が検出したキャラクタ構造体110の位置及び方位検出部180が検出したキャラクタ構造体110の向きに基づくバーチャル空間を、表示部150に表示させてもよい。
なお、方位検出部180は、間取り構造体120におけるキャラクタ構造体110の向きを検出できればよく、CCD、CMOS等の画像検出デバイス等を含んでもよい。方位検出部180は、このような画像検出デバイスによって撮像されることで得られるキャラクタ構造体110の画像から、キャラクタ構造体110の向きを検出してもよい。
なお、以下の説明においては、方位検出部180は、ジャイロセンサであり、キャラクタ構造体110の内部に配置されているものとして説明する。また、位置検出部130は、磁気センサであり、キャラクタ構造体110は、磁石200を備えているものとして説明する。
[処理手順]
続いて、実施の形態1に係るバーチャル空間表示システム100の処理手順について説明する。
図3は、実施の形態1に係るバーチャル空間表示システム100が実行する処理手順を示すフローチャートである。
まず、位置検出部130は、間取り構造体120におけるキャラクタ構造体110の位置を検出する(ステップS101)。具体的には、位置検出部130は、ステップS101において、間取り構造体120が備える磁石200から磁力を検出する。
次に、方位検出部180は、キャラクタ構造体110の向きを検出する(ステップS102)。
次に、制御部140は、ステップS101で位置検出部130が検出した磁力と、ステップS102で方位検出部180が検出したキャラクタ構造体110の向きとから、表示部150に表示させるバーチャル空間の位置及び向きを算出する(ステップS103)。具体的には、制御部140は、ステップS103において、位置検出部130が備える複数の磁気センサのうちで最も強い磁力を検出した位置に対応するバーチャル空間における位置と、方位検出部180が検出したキャラクタ構造体110の向きに対応するバーチャル空間における方向とを算出する。
次に、制御部140は、ステップS103で算出したバーチャル空間における位置及び方向に対応するバーチャル空間を表示部150に表示させる(ステップS104)。具体的には、制御部140は、ステップS104において、位置検出部130が備える複数の磁気センサのうちで最も強い磁力を検出した位置に対応するバーチャル空間の位置から、方位検出部180が検出したキャラクタ構造体110の向きに対応する方向を見た場合のバーチャル空間を、表示部150に表示させる。
[具体的]
続いて、実施の形態1に係るバーチャル空間表示システム100が備える間取り構造体120へのキャラクタ構造体110の配置と、当該配置に対応する画像の具体例を説明する。なお、図4A、図5A、及び、図6Aには、図1に示すシート状の間取り構造体120を法線方向から見た場合を示す図である。
<第1例>
図4Aは、実施の形態1に係るバーチャル空間表示システム100が備える間取り構造体120へのキャラクタ構造体110の配置の第1例を示す図である。図4Bは、図4Aにおけるキャラクタ構造体110の位置及び向きに対応する画像151の一例を示す図である。
ユーザは、例えば、図4Aに示すように、キャラクタ構造体110を、磁気センサ131の近傍に前方向L1の向きで、間取り構造体120上に配置したとする。この場合、制御部140は、磁気センサ131において最も強い磁力を検出したとして、キャラクタ構造体110がユーザによって磁気センサ131に配置されたと判定する。さらに、制御部140は、キャラクタ構造体110が備える方位検出部180(図2参照)から、キャラクタ構造体の前方向L1を取得する。制御部140は、このように取得した間取り構造体120におけるキャラクタ構造体110の位置及び前方向L1と、記憶部160に記憶されているバーチャル空間情報161とから、表示部150に表示するバーチャル空間の範囲を決定し、決定したバーチャル空間の範囲を示す画像151を表示部150に表示させる。なお、画像151は、バーチャル空間の一部が示された画像である。
<第2例>
図5Aは、実施の形態1に係るバーチャル空間表示システム100が備える間取り構造体120へのキャラクタ構造体110の配置の第2例を示す図である。図5Bは、図5Aにおけるキャラクタ構造体110の位置及び向きに対応する画像の一例を示す図である。
ユーザは、例えば、図5Aに示すように、キャラクタ構造体110を、磁気センサ132の近傍に前方向L2の向きで、間取り構造体120上に配置したとする。この場合、制御部140は、磁気センサ132において最も強い磁力を検出したとして、キャラクタ構造体110がユーザによって磁気センサ132に配置されたと判定する。さらに、制御部140は、キャラクタ構造体110が備える方位検出部180(図2参照)から、キャラクタ構造体の前方向L2を取得する。制御部140は、このように取得した間取り構造体120におけるキャラクタ構造体110の位置及び前方向L2と、記憶部160に記憶されているバーチャル空間情報161とから、表示部150に表示するバーチャル空間の範囲を決定し、決定したバーチャル空間の範囲を示す画像であり、図4Bに示す画像151とは異なる画像152を表示部150に表示させる。このように、ユーザは、間取り構造体120に対するキャラクタ構造体110の位置を変えるだけで、表示部150に表示される画像、つまりバーチャル空間を変更することができる。なお、画像152は、バーチャル空間の一部が示された画像である。
<第3例>
図6Aは、実施の形態1に係るバーチャル空間表示システム100が備える間取り構造体120へのキャラクタ構造体110の配置の第3例を示す図である。図6Bは、図6Aにおけるキャラクタ構造体110の位置及び向きに対応する画像の一例を示す図である。
ユーザは、例えば、図6Aに示すように、キャラクタ構造体110を、磁気センサ132の近傍に前方向L3の向きで、間取り構造体120上に配置したとする。つまり、図6Aには、図5Aに示すキャラクタ構造体110と、配置は同様であるが、前方向が異なるように、ユーザがキャラクタ構造体を回転させた例を示している。
この場合、制御部140は、磁気センサ132において最も強い磁力を検出したとして、キャラクタ構造体110がユーザによって磁気センサ132に配置されたと判定する。さらに、制御部140は、キャラクタ構造体110が備える方位検出部180(図2参照)から、キャラクタ構造体の前方向L3を取得する。制御部140は、このように取得した間取り構造体120におけるキャラクタ構造体110の位置及び前方向L3と、記憶部160に記憶されているバーチャル空間情報161とから、表示部150に表示するバーチャル空間の範囲を決定し、決定したバーチャル空間の範囲を示す画像であり、図5Bに示す画像152とは異なる画像153を表示部150に表示させる。ここで、画像153には、画像152と同様の窓等が、位置を変えて含まれている。このように、ユーザは、キャラクタ構造体110の向きを変えるだけで、表示部150に表示される画像、つまりバーチャル空間を変更することができる。なお、画像153は、バーチャル空間の一部が示された画像である。
[変形例]
続いて、間取り構造体の変形例について説明する。
間取り構造体120は、例えば、図1に示すように、シート状又は板状等の二次元状でもよいが、立体又はシート状又は板状等の二次元状の構造体が層状に配置された三次元状でもよい。
図7は、間取り構造体の変形例を示す図である。
間取り構造体121は、シート状に形成され、それぞれが建屋の間取りの一部を示す構造体を複数備え、それぞれの構造体は、層状に配置されている。また、これら構造体には、位置検出部130に含まれる磁気センサ131〜134が配置されている。このような構成とすることで、建屋の間取りにおける一階、二階等の階数を、ユーザに直観的に分かりやすくすることができる。
なお、図7においては、間取り構造体121は、2つのシート状の構造体を備えているが、3つ以上のシート状の構造体を備えてもよい。また、間取り構造体121は、それぞれが建屋の間取りの一部を示す複数のシート状の構造体を備える場合、層状に配置されていなくてもよい。例えば、複数のシート状の構造体は、それぞれ又は一部が横並びに配置されてもよい。
[まとめ]
以上説明したように、実施の形態1に係るバーチャル空間表示システム100は、建屋の間取りを示す、二次元又は三次元の間取り構造体120と、間取り構造体120の任意の位置に、移動可能に配置されるキャラクタ構造体110と、間取り構造体120に配置されたキャラクタ構造体110の位置を検出する位置検出部130と、建屋内の空間に対応するバーチャル空間を表示部150に表示させる制御部140と、を備える。制御部140は、位置検出部130が検出したキャラクタ構造体110の位置に対応する位置から見た場合の当該バーチャル空間を表示部150に表示させる。
このような構成によれば、ユーザは、間取り構造体120上でキャラクタ構造体110を移動させるだけで、表示部150に表示されるバーチャル空間を変更することができる。そのため、バーチャル空間表示システム100によれば、ユーザによる直観的な操作を可能とすることができる。
例えば、バーチャル空間表示システム100は、さらに、キャラクタ構造体110の向きを検出可能な方位検出部180を備える。この場合、例えば、制御部140は、位置検出部130が検出したキャラクタ構造体110の位置に対応するバーチャル空間における位置から、方位検出部180が検出したキャラクタ構造体110の向きに対応する方向を見た場合の当該バーチャル空間を、表示部150に表示させる。
このような構成によれば、ユーザは、間取り構造体120上でキャラクタ構造体110を、例えば、回転させるだけで、表示部150に表示されるバーチャル空間を変更することができる。そのため、このような構成によれば、ユーザによるより直観的な操作を可能とすることができる。
また、例えば、方位検出部180は、ジャイロセンサを含む。
このような構成によれば、簡便な構成で、キャラクタ構造体110の向きは、検出され得る。
また、例えば、キャラクタ構造体110は、人形である。この場合、例えば、方位検出部180は、キャラクタ構造体110の顔が向いている方向を、キャラクタ構造体110の向きとして検出する。
このような構成によれば、ユーザは、キャラクタ構造体110の形状を視認するだけで、表示部150に表示させているバーチャル空間の画像を、所望のバーチャル空間の画像に変更するために、どのようにキャラクタ構造体110を動かせばよいかが分かりやすくなる。そのため、バーチャル空間表示システム100によれば、ユーザによる直観的な操作を可能とすることができる。
また、例えば、位置検出部130は、複数の磁気センサを含む。また、例えば、複数の磁気センサは、間取り構造体120の複数の地点に配置される。また、例えば、キャラクタ構造体110は、磁石を備える。これらの場合、制御部140は、複数の磁気センサのうちで最も強い磁力を検出した磁気センサの位置に対応するバーチャル空間における位置から見た場合の当該バーチャル空間を表示部150に表示させる。
このような構成によれば、簡便な構成で、間取り構造体120におけるキャラクタ構造体110の位置は、検出され得る。
また、例えば、制御部140は、バーチャル空間を表示部150に表示させている場合に、複数の磁気センサのいずれからも所定の閾値を超える磁力が検出されなくなったとき、表示部150に表示させている当該バーチャル空間の表示を表示部150に維持させる。
キャラクタ構造体110は、間取り構造体120上における位置をユーザが任意に移動できるようになっているために、ユーザとぶつかる等して意図せずキャラクタ構造体110が移動してしまう場合が想定される。このような場合においても、制御部140が表示部150に表示させているバーチャル空間の表示を維持させる構成とすることで、ユーザが意図しないバーチャル空間の表示の変更を抑制することができる。
なお、バーチャル空間表示システム100は、表示部150を備えず、表示部150にバーチャル空間を表示させるためにユーザが操作する操作システムとして実現されてもよいし、表示部150を備えてもよい。
また、実施の形態1に係るバーチャル空間表示方法は、建屋の間取りを示す、二次元又は三次元の間取り構造体120に配置されたキャラクタ構造体110の位置を検出する位置検出ステップと、建屋内の空間に対応するバーチャル空間を表示部150に表示させる制御ステップと、を含む。制御ステップでは、位置検出ステップで検出したキャラクタ構造体110の位置に対応するバーチャル空間における位置から見た場合のバーチャル空間を表示部150に表示させる。
このような方法によれば、ユーザは、間取り構造体120上でキャラクタ構造体110を移動させるだけで、表示部150に表示されるバーチャル空間を変更することができる。そのため、このような方法によれば、ユーザによる直観的な操作を可能とすることができる。
(実施の形態2)
以下、実施の形態2に係るバーチャル空間表示システムについて説明する。なお、実施の形態2に係るバーチャル空間表示システムの説明において、実施の形態1に係るバーチャル空間表示システムと実質的に同様の構成においては、同様の符号を付し、説明を一部省略又は簡略化する場合がある。
[構成]
まず、本発明の実施の形態2に係るバーチャル空間表示システムの構成について説明する。
図8は、実施の形態2に係るバーチャル空間表示システム101の機能構成を示すブロック図である。
実施の形態2に係るバーチャル空間表示システム101は、実施の形態1に係るバーチャル空間表示システム100と同様に、表示部150に表示される画像であるバーチャル空間内をユーザが仮想的に移動するバーチャルウォークスルーを実現するシステムである。バーチャル空間表示システム100は、例えば、モデルハウス等の建屋のバーチャル見学を実現する。
図8に示すように、実施の形態2に係るバーチャル空間表示システム101は、実施の形態1に係るバーチャル空間表示システム100と同様に、間取り構造体120と、キャラクタ構造体111と、位置検出部130と、制御部141と、表示部150と、記憶部160とを備える。また、バーチャル空間表示システム101は、さらに、操作部170と、撮像部190と、を備える。
図9Aは、実施の形態2に係るバーチャル空間表示システム101が備える操作部とキャラクタ構造体111と嵌合させるユーザの動作を説明するための図である。図9Bは、実施の形態2に係るバーチャル空間表示システム101が備えるキャラクタ構造体111のユーザによる操作を説明するための図である。図9Cは、図9BのIXC−IXC線における、実施の形態2に係るバーチャル空間表示システム101が備える操作部170が有する嵌合部171とキャラクタ構造体111との断面を示す断面図である。
キャラクタ構造体111は、キャラクタ構造体110と同様に、間取り構造体120の任意の位置に、移動可能に配置される構造体である。キャラクタ構造体110は、例えば、人形である。
また、キャラクタ構造体111は、例えば、図9Cに示すように、操作部170が有する嵌合部171に嵌合する被嵌合部201を有する。被嵌合部201は、凹状の凹部又は凸状の凸部の少なくとも一方が形成されている。例えば、図9Cには、被嵌合部201全体が凹状のとなっている例を示している。
操作部170は、例えば、図9Aに示すように、ユーザからの操作を受け付けるための嵌合部171を有する操作部を備える。嵌合部171は、被嵌合部201と嵌合し、凹状の凹部又は凸状の凸部の少なくとも一方が形成されている。例えば、図9Cには、嵌合部171全体が凸状の凸部となっている例を示している。このように、操作部170は、凸部及び凹部の一方が形成されている嵌合部171を有し、キャラクタ構造体111は、嵌合部171に嵌合する凸部及び凹部の他方が形成されている被嵌合部201を有する。
ユーザは、例えば、キャラクタ構造体111を動かすことによる、表示部150に表示されているバーチャル空間の表示の変更だけでなく、操作部170の嵌合部171を動かすことにより、表示部150に表示されているバーチャル空間の表示の変更をする。具体的には、制御部141は、方位検出部180が検出したキャラクタ構造体の向きを示す情報だけでなく、さらに、操作部170の嵌合部171がユーザから受け付けた情報に基づいて表示部150に表示されているバーチャル空間の表示の変更をする。
制御部141は、制御部140と同様に、建屋内の空間に対応するバーチャル空間のうち、位置検出部130が検出したキャラクタ構造体110の位置に対応するバーチャル空間の位置から見た場合のバーチャル空間を表示部150に表示させる制御装置である。制御部141は、例えば、CPUと、例えば、記憶部160に記憶された、CPUが実行する制御プログラムとから実現される。
例えば、制御部141は、被嵌合部201が嵌合部171に嵌合された場合に、操作部170がユーザからの操作を受け付けたとき、操作部170が受け付けた操作に基づいて表示部150に表示させるバーチャル空間を変更させる。
例えば、ユーザは、まず、キャラクタ構造体111を間取り構造体120の任意の位置に、任意の向きで配置する。制御部141は、キャラクタ構造体111の位置及び向きに基づくバーチャル空間を、表示部150に表示させる。
次に、図9Aに示すように、ユーザは、キャラクタ構造体111を間取り構造体120から離して、操作部170に配置する。具体的には、図9Cに示すように、キャラクタ構造体111が有する被嵌合部201と、操作部170が有する嵌合部171とを嵌合させる。
なお、この場合には、制御部141は、バーチャル空間を表示部150に表示させている場合に、位置検出部130に含まれる複数の磁気センサのいずれからも所定の閾値を超える磁力が検出されなくなったとき、表示部150に表示させているバーチャル空間の表示を表示部150に維持させてもよい。こうすることで、キャラクタ構造体111を間取り構造体120から離した場合においても、表示部150に表示されているバーチャル空間の表示は維持される。また、この場合、制御部141は、表示部150に表示させるバーチャル空間において、表示部150に、キャラクタ構造体111の位置のみを維持させた場合のバーチャル空間を表示させてもよいし、キャラクタ構造体111の位置及び向きを維持させた場合のバーチャル空間を表示させてもよい。
次に、ユーザは、図9Bに示すように、例えば、操作部170に配置されたキャラクタ構造体111を回転させたり、キャラクタ構造体111を斜めに倒すことで、表示部150に表示されているバーチャル空間を変更する。具体的には、制御部141は、キャラクタ構造体111が有する被嵌合部201が操作部170が有する嵌合部171に嵌合されたと判定した場合に、方位検出部180が検出したキャラクタ構造体111の向き、及び、操作部170が受け付けた操作に基づいて、表示部150に表示させるバーチャル空間を変更する。なお、制御部141によってキャラクタ構造体111が有する被嵌合部201が、操作部170が有する嵌合部171に嵌合されたか否かを判定するために、操作部170は、位置検出部130を備えてもよい。例えば、位置検出部130に含まれる複数の磁気センサのうちの1つが、操作部170に配置されていてもよい。より具体的には、操作部170の嵌合部171又は嵌合部171の近傍に、当該磁気センサが配置されていてもよい。こうすることで、制御部141は、操作部170が有する嵌合部171にキャラクタ構造体111が有する被嵌合部201が嵌合されたか否かを判定してもよい。
また、制御部141は、方位検出部180が検出したキャラクタ構造体111の向きに基づいて、嵌合部171がユーザから受け付けた操作に対するバーチャル空間の変更内容を決定してもよい。制御部141は、例えば、操作部170の嵌合部171がキャラクタ構造体111と同じ向きに動かされた場合、バーチャル空間の表示を、ユーザが仮想的に前方に進んだように変更してもよい。また、制御部141は、例えば、操作部170の嵌合部171がキャラクタ構造体111と向きに対して横方向に動かされた場合、バーチャル空間の表示を、ユーザが仮想的に横方向に進んだように変更してもよい。
撮像部190は、CCD、CMOS等の画像検出デバイス等を備えるカメラである。例えば、制御部141は、撮像部190が撮像した構造体(第1構造体)の模様に、バーチャル空間内の構造体である第2構造体の模様を変更して表示部150に表示させる。言い換えると、制御部141は、撮像部190が撮像した構造体の模様を、バーチャル空間における構造体の模様に反映させる。
図10は、表示部150に表示されたバーチャル空間における構造体の模様を変更する際の処理手順を説明するための図である。
図10に示すように、例えば、ユーザは、撮像部190を用いて、実空間における構造体210(つまり、第1構造体の一例)を撮像する。こうすることで、制御部141は、撮像部190が構造体210を撮像することで得られた画像から、構造体210の模様を取得する。
次に、ユーザは、例えば、操作部170を操作することで、表示部150に表示されているバーチャル空間を示す画像154の一部又は全部を、選択範囲155として選択する。制御部141は、選択範囲155内の模様を、撮像部190が撮像した構造体210の模様に変更する。つまり、図10に示す選択範囲155が選択されたバーチャル空間内の構造物が、第2構造物の一例である。
[処理手順]
続いて、実施の形態2に係るバーチャル空間表示システムの処理手順について説明する。
図11は、実施の形態2に係るバーチャル空間表示システム101が実行する処理手順を示すフローチャートである。
まず、位置検出部130は、間取り構造体120におけるキャラクタ構造体111の位置を検出する(ステップS201)。具体的には、位置検出部130は、ステップS201において、間取り構造体120が備える磁石200から磁力を検出する。
次に、方位検出部180は、キャラクタ構造体111の向きを検出する(ステップS202)。
次に、制御部141は、ステップS201で位置検出部130が検出した磁力と、ステップS202で方位検出部180が検出したキャラクタ構造体111の向きとから、表示部150に表示させるバーチャル空間の位置及び向きを算出する(ステップS203)。具体的には、制御部141は、ステップS203において、位置検出部130が備える複数の磁気センサのうちで最も強い磁力を検出した位置に対応するバーチャル空間における位置と、方位検出部180が検出したキャラクタ構造体111の向きに対応するバーチャル空間における方向とを算出する。
次に、制御部141は、ステップS203で算出したバーチャル空間におけるキャラクタ構造体111位置及び向きに対応するバーチャル空間を表示部150に表示させる(ステップS204)。具体的には、制御部141は、ステップS204において、位置検出部130が備える複数の磁気センサのうちで最も強い磁力を検出した位置に対応するバーチャル空間の位置から、方位検出部180が検出したキャラクタ構造体111の向きに対応する方向を見た場合のバーチャル空間を、表示部150に表示させる。
次に、制御部141は、キャラクタ構造体111が有する被嵌合部201が、操作部170が有する嵌合部171に嵌合したか否かを判定する(ステップS205)。
制御部141は、キャラクタ構造体111が有する被嵌合部201が、操作部170が有する嵌合部171に嵌合したと判定した場合(ステップS205でYes)、例えば、操作部170は、ユーザから操作を受け付ける(ステップS206)。
次に、制御部141は、操作部170がユーザから操作を受け付けたとき、操作部170が受け付けた操作に基づいたバーチャル空間を表示部150に表示させる(ステップS207)具体的には、ステップS207において、制御部141は、操作部170がユーザから操作を受け付けたとき、操作部170が受け付けた操作に基づいて表示部150に表示させるバーチャル空間を変更させる。
[まとめ]
以上説明したように、実施の形態2に係るバーチャル空間表示システム101は、実施の形態1に係るバーチャル空間表示システム100の構成に、さらに、ユーザからの操作を受け付けるための凸部及び凹部の一方が形成されている嵌合部171を有する操作部170を備える。また、キャラクタ構造体111は、嵌合部171に嵌合する凸部及び凹部の他方が形成されている被嵌合部201を有する。制御部141は、被嵌合部201が嵌合部171に嵌合された場合に、操作部170がユーザからの操作を受け付けたとき、操作部170が受け付けた操作に基づいて表示部150に表示させるバーチャル空間を変更させる。
このような構成によれば、実施の形態1に係るバーチャル空間表示システム100と同様の効果を奏し、さらに、ユーザは、操作部170によって、表示部150に表示されているバーチャル空間内を仮想的に進むような操作をすることができる。
例えば、バーチャル空間表示システム101は、さらに、撮像部190を備える。この場合、制御部141は、撮像部190が撮像した構造体210の模様を、バーチャル空間における構造体の模様に反映させる。
このような構成によれば、ユーザは、構造体210の模様から、当該模様が建材等に適用された場合を、バーチャル空間によって確認することができる。
(その他の実施の形態)
以上、実施の形態1、及び、実施の形態2に係るバーチャル空間表示システム等について説明したが、本発明は、上記実施の形態に限定されるものではない。
例えば、バーチャル空間表示システムが備える制御部等の処理部の構成要素は、1つ又は複数の電子回路で構成されてもよい。1つ又は複数の電子回路は、それぞれ、汎用的な回路でもよいし、専用の回路でもよい。1つ又は複数の電子回路には、例えば、半導体装置、IC(Integrated Circuit)、又は、LSI(Large Scale Integration)等が含まれてもよい。IC又はLSIは、1つのチップに集積されてもよく、複数のチップに集積されてもよい。ここでは、IC又はLSIと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(Very Large Scale Integration)、又は、ULSI(Ultra Large Scale Integration)と呼ばれるかもしれない。また、LSIの製造後にプログラムされるFPGA(Field Programmable Gate Array)も同じ目的で使うことができる。
また、本発明の全般的又は具体的な態様は、システム、装置、方法、集積回路又はコンピュータプログラムで実現されてもよい。或いは、当該コンピュータプログラムが記憶された光学ディスク、HDD若しくは半導体メモリ等のコンピュータ読み取り可能な非一時的記録媒体で実現されてもよい。また、システム、装置、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。ここで、上記実施の形態のバーチャル空間表示方法を実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、本発明に係るバーチャル空間表示方法をコンピュータに実行させるためのプログラムであり、具体的には、建屋の間取りを示す、二次元又は三次元の間取り構造体120に配置されたキャラクタ構造体110の位置を検出する検出ステップと、建屋内の空間に対応するバーチャル空間のうち、検出ステップで検出したキャラクタ構造体110の位置に対応するバーチャル空間の位置から見た場合のバーチャル空間を表示部150に表示させる制御ステップと、を含む処理を実行させる。
また、上記実施の形態では、位置検出部及び方位検出部は、無線通信よって制御部へキャラクタ構造体の向きに関する情報を送信したが、情報の送信方法、つまり、位置検出部及び方位検出部と制御部との通信方法は限定されない。位置検出部及び方位検出部は、例えば、制御部へ情報を送信するための無線通信モジュール等を備えてもよい。位置検出部及び方位検出部と制御部との無線通信は、例えば、Bluetooth(登録商標)、Wi−Fi(登録商標)又はZigBee(登録商標)等の所定の無線通信規格に基づいて行われてもよい。また、位置検出部及び方位検出部は、制御部と有線通信してもよい。この場合、位置検出部及び方位検出部は、制御部と有線通信するためのケーブルを接続するための通信アダプタ等を備えてもよい。操作部及び撮像部と、制御部との通信方法もまた、位置検出部及び方位検出部と同様に、有線通信でもよいし、無線通信でもよい。
その他、各実施の形態に対して当業者が思いつく各種変形を施して得られる形態や、本発明の趣旨を逸脱しない範囲で各実施の形態における構成要素及び機能を任意に組み合わせることで実現される形態も本発明に含まれる。
100、101 バーチャル空間表示システム
110、111 キャラクタ構造体
120、121 間取り構造体
130 位置検出部
131〜134 磁気センサ
140、141 制御部
150 表示部
160 記憶部
170 操作部
171 嵌合部
180 方位検出部
190 撮像部
200 磁石
201 被嵌合部
210 構造体
L1、L2、L3 前方向

Claims (11)

  1. 建屋の間取りを示す、二次元又は三次元の間取り構造体と、
    前記間取り構造体の任意の位置に、移動可能に配置されるキャラクタ構造体と、
    前記間取り構造体に配置された前記キャラクタ構造体の位置を検出する位置検出部と、
    前記建屋内の空間に対応するバーチャル空間を表示部に表示させる制御部と、を備え、
    前記制御部は、前記位置検出部が検出した前記キャラクタ構造体の位置に対応する前記バーチャル空間における位置から見た場合の前記バーチャル空間を前記表示部に表示させる
    バーチャル空間表示システム。
  2. さらに、前記キャラクタ構造体の向きを検出可能な方位検出部を備え、
    前記制御部は、前記位置検出部が検出した前記キャラクタ構造体の位置に対応する前記バーチャル空間における位置から、前記方位検出部が検出した前記キャラクタ構造体の向きに対応する方向を見た場合の前記バーチャル空間を、前記表示部に表示させる
    請求項1に記載のバーチャル空間表示システム。
  3. 前記方位検出部は、ジャイロセンサを含む
    請求項2に記載のバーチャル空間表示システム。
  4. 前記キャラクタ構造体は、人形であり、
    前記方位検出部は、前記キャラクタ構造体の顔の向いている方向を、前記キャラクタ構造体の向きとして検出する
    請求項2又は3に記載のバーチャル空間表示システム。
  5. 前記位置検出部は、複数の磁気センサを含み、
    前記複数の磁気センサは、前記間取り構造体の複数の地点に配置され、
    前記キャラクタ構造体は、磁石を備え、
    前記制御部は、前記複数の磁気センサのうちで最も強い磁力を検出した磁気センサの位置に対応する前記バーチャル空間における位置から見た場合の前記バーチャル空間を前記表示部に表示させる
    請求項1〜4のいずれか1項に記載のバーチャル空間表示システム。
  6. 前記制御部は、前記バーチャル空間を前記表示部に表示させている場合に、前記複数の磁気センサのいずれからも所定の閾値を超える磁力が検出されなくなったとき、前記表示部に表示させている前記バーチャル空間の表示を前記表示部に維持させる
    請求項5に記載のバーチャル空間表示システム。
  7. さらに、ユーザからの操作を受け付けるための凸部及び凹部の一方が形成されている嵌合部を有する操作部を備え、
    前記キャラクタ構造体は、前記嵌合部に嵌合する凸部及び凹部の他方が形成されている被嵌合部を有し、
    前記制御部は、前記被嵌合部が前記嵌合部に嵌合された場合に、前記操作部がユーザからの操作を受け付けたとき、前記操作部が受け付けた操作に基づいて前記表示部に表示させる前記バーチャル空間を変更させる
    請求項1〜6のいずれか1項に記載のバーチャル空間表示システム。
  8. さらに、前記表示部を備える
    請求項1〜7のいずれか1項に記載のバーチャル空間表示システム。
  9. さらに、撮像部を備え、
    前記制御部は、前記撮像部が撮像した第1構造体の模様に、前記バーチャル空間内の構造体である第2構造体の模様を変更して前記表示部に表示させる
    請求項1〜8のいずれか1項に記載のバーチャル空間表示システム。
  10. 建屋の間取りを示す、二次元又は三次元の間取り構造体に配置されたキャラクタ構造体の位置を検出する位置検出ステップと、
    前記建屋内の空間に対応するバーチャル空間を表示部に表示させる制御ステップと、を含み、
    前記制御ステップでは、前記位置検出ステップで検出した前記キャラクタ構造体の位置に対応する前記バーチャル空間における位置から見た場合の前記バーチャル空間を前記表示部に表示させる
    バーチャル空間表示方法。
  11. 請求項10に記載のバーチャル空間表示方法をコンピュータに実行させるための
    プログラム。
JP2018085815A 2018-04-26 2018-04-26 バーチャル空間表示システム及びバーチャル空間表示方法 Pending JP2019192039A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018085815A JP2019192039A (ja) 2018-04-26 2018-04-26 バーチャル空間表示システム及びバーチャル空間表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018085815A JP2019192039A (ja) 2018-04-26 2018-04-26 バーチャル空間表示システム及びバーチャル空間表示方法

Publications (1)

Publication Number Publication Date
JP2019192039A true JP2019192039A (ja) 2019-10-31

Family

ID=68390214

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018085815A Pending JP2019192039A (ja) 2018-04-26 2018-04-26 バーチャル空間表示システム及びバーチャル空間表示方法

Country Status (1)

Country Link
JP (1) JP2019192039A (ja)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63241303A (ja) * 1987-03-28 1988-10-06 Nippon Denso Co Ltd 位置検出センサ−
JPH11184620A (ja) * 1997-12-18 1999-07-09 Fujitsu Ltd 情報処理装置
JP2002334119A (ja) * 2001-05-09 2002-11-22 Matsushita Electric Works Ltd インターネットを用いた照明シミュレーションの方法
JP2007034415A (ja) * 2005-07-22 2007-02-08 Gifu Prefecture 設計支援システム
JP2008253362A (ja) * 2007-04-02 2008-10-23 Taito Corp 遠隔無線操縦型オンライン対戦ゲームシステムにおけるゲーム画像生成方法
JP2011123732A (ja) * 2009-12-11 2011-06-23 Nec Corp 表示装置
JP2013149106A (ja) * 2012-01-19 2013-08-01 Kaiyodo:Kk i−フィギュア及びi−フィギュアを利用した画像処理システム
JP2015212694A (ja) * 2014-04-30 2015-11-26 マグナチップセミコンダクター有限会社Magnachip Semiconductor Ltd ホールセンサーグループを利用したセンシング装置及びこれを用いた磁場を感知する装置
US20180005435A1 (en) * 2016-06-30 2018-01-04 Glen J. Anderson Technologies for virtual camera scene generation using physical object sensing

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63241303A (ja) * 1987-03-28 1988-10-06 Nippon Denso Co Ltd 位置検出センサ−
JPH11184620A (ja) * 1997-12-18 1999-07-09 Fujitsu Ltd 情報処理装置
JP2002334119A (ja) * 2001-05-09 2002-11-22 Matsushita Electric Works Ltd インターネットを用いた照明シミュレーションの方法
JP2007034415A (ja) * 2005-07-22 2007-02-08 Gifu Prefecture 設計支援システム
JP2008253362A (ja) * 2007-04-02 2008-10-23 Taito Corp 遠隔無線操縦型オンライン対戦ゲームシステムにおけるゲーム画像生成方法
JP2011123732A (ja) * 2009-12-11 2011-06-23 Nec Corp 表示装置
JP2013149106A (ja) * 2012-01-19 2013-08-01 Kaiyodo:Kk i−フィギュア及びi−フィギュアを利用した画像処理システム
JP2015212694A (ja) * 2014-04-30 2015-11-26 マグナチップセミコンダクター有限会社Magnachip Semiconductor Ltd ホールセンサーグループを利用したセンシング装置及びこれを用いた磁場を感知する装置
US20180005435A1 (en) * 2016-06-30 2018-01-04 Glen J. Anderson Technologies for virtual camera scene generation using physical object sensing

Similar Documents

Publication Publication Date Title
US11188187B2 (en) Information processing apparatus, information processing method, and recording medium
EP2945136B1 (en) Mobile terminal and method for controlling the mobile terminal
US9501204B2 (en) Display device
CN109313502B (zh) 利用选择装置的敲击事件定位
US20160292922A1 (en) Display control device, display control method, and recording medium
ES2607714T3 (es) Modificación de la funcionalidad basada en las distancias entre dispositivos
US20160291687A1 (en) Display control device, display control method, and recording medium
JP2016534461A (ja) 物理的光景を表すための方法および装置
KR101002785B1 (ko) 증강 현실 환경에서의 공간 상호 작용 방법 및 시스템
KR20130086574A (ko) 프로젝터를 포함하는 전자 장치 및 그 제어 방법
KR101680667B1 (ko) 이동 단말기 및 이동 단말기의 제어방법
KR101888491B1 (ko) 가상 공간 이동 장치 및 방법
TWI582676B (zh) 物件指示符顯示技術
KR102561274B1 (ko) 디스플레이 장치 및 디스플레이 장치의 제어 방법
US20200167944A1 (en) Information processing device, information processing method, and individual imaging device
US20150253932A1 (en) Information processing apparatus, information processing system and information processing method
US20150061993A1 (en) Terminal apparatus, display method, recording medium, and display system
JP5670255B2 (ja) 表示機器
JP2019192039A (ja) バーチャル空間表示システム及びバーチャル空間表示方法
JP6882147B2 (ja) 操作案内システム
KR102125563B1 (ko) 실내의 구조를 나타내는 데이터를 생성하는 디바이스 및 방법
US9354791B2 (en) Apparatus, methods and computer programs for displaying images
JP6312953B2 (ja) 情報処理装置および情報処理方法
JP2015109092A (ja) 表示機器
EP3847621A1 (en) Object tracking

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220111

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220705