JP7480335B2 - 登録されたエクステンデッドリアリティ機器ユーザの集中度を管理及び制御する方法、装置並びにシステム - Google Patents

登録されたエクステンデッドリアリティ機器ユーザの集中度を管理及び制御する方法、装置並びにシステム Download PDF

Info

Publication number
JP7480335B2
JP7480335B2 JP2022558183A JP2022558183A JP7480335B2 JP 7480335 B2 JP7480335 B2 JP 7480335B2 JP 2022558183 A JP2022558183 A JP 2022558183A JP 2022558183 A JP2022558183 A JP 2022558183A JP 7480335 B2 JP7480335 B2 JP 7480335B2
Authority
JP
Japan
Prior art keywords
extended reality
playback
content
section
reality devices
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022558183A
Other languages
English (en)
Other versions
JP2024506427A (ja
Inventor
イ,ヒョンジュン
ユ,ジュヨン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sevenpointone Inc
Original Assignee
Sevenpointone Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020210174792A external-priority patent/KR102383793B1/ko
Application filed by Sevenpointone Inc filed Critical Sevenpointone Inc
Publication of JP2024506427A publication Critical patent/JP2024506427A/ja
Application granted granted Critical
Publication of JP7480335B2 publication Critical patent/JP7480335B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Description

本発明は、エクステンデッドリアリティ機器の制御に関し、より詳細には、管理者端末でケアコンテンツが再生される、登録された少なくとも1つ以上のエクステンデッドリアリティ機器のユーザの集中度を管理及び制御する方法、装置並びにシステムに関する。
デジタル技術の発展に伴い、近年、仮想空間又は仮想現実への関心が非常に高まり、関連技術に対する研究が行われている。
仮想現実技術は従来、既存のコンテンツを単に仮想空間上で出力することにとどまり、フォーマットだけが変更される形式であったが、近年は仮想現実技術の発展に伴い、様々な分野に適用しようとする試みが行われている。
一例として、医療分野において患者の治療目的のためのコンテンツとして開発しようとする試みがある。
但し、従来の仮想現実技術の場合、エクステンデッドリアリティ機器をユーザが直接着用することによって、現在エクステンデッドリアリティ機器を着用したユーザがコンテンツを正常に視聴しているか確認が難しく、管理が非常に難しいため、依然としてその利用に不便が存在するという問題があった。
そこで、本発明は上記事情に鑑みてなされたものであって、その目的は、ケアコンテンツが再生中のエクステンデッドリアリティ機器のユーザの集中度を管理者端末で確認して、確認結果に基づいて前記エクステンデッドリアリティ機器を管理及び制御する方法、装置並びにシステムを提供することにある。
本発明が解決しようとする課題は、以上で言及した課題に限らず、言及していない更に他の課題は、下記の記載から通常の技術者が明確に理解できるはずである。
上述した技術的課題を達成するための本発明に係る管理者端末でユーザの集中度に応じて登録された複数の各エクステンデッドリアリティ機器を管理及び制御する方法は、前記各エクステンデッドリアリティ機器にケアコンテンツ再生命令を伝送する段階と、前記各エクステンデッドリアリティ機器から再生中のケアコンテンツを視聴するユーザの視線座標データを受信する段階と、前記各エクステンデッドリアリティ機器で再生中のケアコンテンツ及び前記受信したユーザの視線座標データ基盤のトラッキングマークを画面上に出力する段階と、前記各エクステンデッドリアリティ機器ユーザの集中度に応じて該当エクステンデッドリアリティ機器に制御信号を伝送する段階と、を含み、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の現在のトラッキングマークの座標値を獲得し、獲得された現在のトラッキングマークの座標値及び前記ケアコンテンツの再生時間にシンクされて予め定義されたプリセットの座標値の差値を基準に判断され、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記ケアコンテンツが特定の周期で繰り返し再生されるコンテンツ又はシリーズ物である場合には、各回次別のトラッキングマークの動きデータを基準に判断されるコンテンツ適応度及び前記動きデータの平均値を用いて判断され、前記平均値は、再生区間全体又は前記再生区間全体のうち予め設定された再生区間におけるトラッキングマークの動きデータの平均値を示し、前記予め設定された再生区間は、再生開始時点から初期の一定区間、再生終了時点以前の一定区間、重要なオブジェクトが出現する時点の以前及び以降までの区間、前記管理者端末で設定した区間や突発区間のうちの少なくとも1つを含み、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の遅延時間情報を更に参照して判断され、前記ケアコンテンツは、重要度に応じて各診断区間のサイズが均等でない重要診断区間及び非重要診断区間を含む複数の診断区間が含まれるように設定され、前記管理者端末は、前記各エクステンデッドリアリティ機器の現在の再生位置情報が受信されると、全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致して前記ユーザの集中度が一括して管理できるように前記各エクステンデッドリアリティ機器のコンテンツ再生速度を制御し、前記全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致すると、前記ユーザの集中度判断を開始するように制御し、受信した現在の再生位置が最も遅いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、受信した現在の再生位置が最も速いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、及び前記全てのエクステンデッドリアリティ機器に対して受信した現在の再生位置の平均再生位置が属する診断区間の次の診断区間のうちの何れか1つの診断区間の開始点に該当する再生位置に前記全てのエクステンデッドリアリティ機器の再生位置が予め設定された時間内に到達するように前記各エクステンデッドリアリティ機器の再生速度を個別に制御することを特徴とする。
また、上述した技術的課題を達成するための本発明に係るユーザの集中度に応じて登録された複数の各エクステンデッドリアリティ機器を管理及び制御する管理者端末は、メモリと、プロセッサとを含み、前記プロセッサは、前記各エクステンデッドリアリティ機器にケアコンテンツ再生命令を伝送し、前記各エクステンデッドリアリティ機器から再生中のケアコンテンツを視聴するユーザの視線座標データを受信し、前記各エクステンデッドリアリティ機器で再生中のケアコンテンツ及び受信したユーザの視線座標データ基盤のトラッキングマークを画面上に出力し、前記各エクステンデッドリアリティ機器ユーザの集中度に応じて該当エクステンデッドリアリティ機器に制御信号を伝送し、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の現在のトラッキングマークの座標値を獲得し、獲得された現在のトラッキングマークの座標値及び前記ケアコンテンツの再生時間にシンクされて予め定義されたプリセットの座標値の差値を基準に判断され、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記ケアコンテンツが特定の周期で繰り返し再生されるコンテンツ又はシリーズ物である場合には、各回次別のトラッキングマークの動きデータを基準に判断されるコンテンツ適応度及び前記動きデータの平均値を用いて判断され、前記平均値は、再生区間全体又は前記再生区間全体のうち予め設定された再生区間におけるトラッキングマークの動きデータの平均値を示し、前記予め設定された再生区間は、再生開始時点から初期の一定区間、再生終了時点以前の一定区間、重要なオブジェクトが出現する時点の以前及び以降までの区間、前記管理者端末で設定した区間や突発区間のうちの少なくとも1つを含み、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の遅延時間情報を更に参照して判断され、前記ケアコンテンツは、重要度に応じて各診断区間のサイズが均等でない重要診断区間及び非重要診断区間を含む複数の診断区間が含まれるように設定され、前記プロセッサは、前記各エクステンデッドリアリティ機器の現在の再生位置情報が受信されると、全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致して前記ユーザの集中度が一括して管理できるように前記各エクステンデッドリアリティ機器のコンテンツ再生速度を制御し、前記全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致すると、前記ユーザの集中度判断を開始するように制御し、受信した現在の再生位置が最も遅いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、受信した現在の再生位置が最も速いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、及び前記全てのエクステンデッドリアリティ機器に対して受信した現在の再生位置の平均再生位置が属する診断区間の次の診断区間のうちの何れか1つの診断区間の開始点に該当する再生位置に前記全てのエクステンデッドリアリティ機器の再生位置が予め設定された時間内に到達するように前記各エクステンデッドリアリティ機器の再生速度を個別に制御することを特徴とする。
更に、上述した技術的課題を達成するための本発明に係るシステムは、ケアコンテンツを再生する複数の各エクステンデッドリアリティ機器と、前記各エクステンデッドリアリティ機器が登録され、ユーザの集中度に応じて前記各エクステンデッドリアリティ機器を管理及び制御する管理者端末とを含み、前記管理者端末は、前記各エクステンデッドリアリティ機器にケアコンテンツ再生命令を伝送し、前記各エクステンデッドリアリティ機器から再生中のケアコンテンツを視聴するユーザの視線座標データを受信し、前記各エクステンデッドリアリティ機器で再生中のケアコンテンツ及び受信したユーザの視線座標データ基盤のトラッキングマークを画面上に出力し、前記各エクステンデッドリアリティ機器ユーザの集中度に応じて該当エクステンデッドリアリティ機器に制御信号を伝送し、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の現在のトラッキングマークの座標値を獲得し、獲得した現在のトラッキングマークの座標値及び前記ケアコンテンツの再生時間にシンクされて予め定義されたプリセットの座標値の差値を基準に判断され、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記ケアコンテンツが特定の周期で繰り返し再生されるコンテンツ又はシリーズ物である場合には、各回次別のトラッキングマークの動きデータを基準に判断されるコンテンツ適応度及び前記動きデータの平均値を用いて判断され、前記平均値は、再生区間全体又は前記再生区間全体のうち予め設定された再生区間におけるトラッキングマークの動きデータの平均値を示し、前記予め設定された再生区間は、再生開始時点から初期の一定区間、再生終了時点以前の一定区間、重要なオブジェクトが出現する時点の以前及び以降までの区間、前記管理者端末で設定した区間や突発区間のうちの少なくとも1つを含み、前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の遅延時間情報を更に参照して判断され、前記ケアコンテンツは、重要度に応じて各診断区間のサイズが均等でない重要診断区間及び非重要診断区間を含む複数の診断区間が含まれるように設定され、前記管理者端末は、前記各エクステンデッドリアリティ機器の現在の再生位置情報が受信されると、全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致して前記ユーザの集中度が一括して管理できるように前記各エクステンデッドリアリティ機器のコンテンツ再生速度を制御し、前記全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致すると、前記ユーザの集中度判断を開始するように制御し、受信した現在の再生位置が最も遅いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、受信した現在の再生位置が最も速いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、及び前記全てのエクステンデッドリアリティ機器に対して受信した現在の再生位置の平均再生位置が属する診断区間の次の診断区間のうちの何れか1つの診断区間の開始点に該当する再生位置に前記全てのエクステンデッドリアリティ機器の再生位置が予め設定された時間内に到達するように前記各エクステンデッドリアリティ機器の再生速度を個別に制御することを特徴とする。
本発明によると、次のような効果を有する。
本発明によると、ケアコンテンツを再生中の登録されたエクステンデッドリアリティ機器ユーザの集中度を管理及び制御することによって、エクステンデッドリアリティ機器のケアコンテンツを通じて意図した効果を最大化できるという効果を奏する。
本発明の効果は、上記で言及した効果に限らず、言及していない更に他の効果は、下記の記載から通常の技術者が明確に理解できるはずである。
本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御システムを示すブロック図である。 本発明の一実施例に係る管理者端末の構成ブロック図である。 本発明の一実施例に係る管理者端末とエクステンデッドリアリティ機器との間のインタラクション動作を説明するために示したフローチャートである。 本発明の一実施例に係る管理者端末で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。 本発明の一実施例に係る管理者端末で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。 本発明の一実施例に係る管理者端末で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。 本発明の一実施例に係る管理者端末で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。 本発明の一実施例に係る管理者端末で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。 本発明の一実施例に係る管理者端末で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。 本発明の一実施例に係る管理者端末で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。 本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御のための管理者端末の動作を説明するためのユーザインターフェースの画面を示す図である。 本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御のための管理者端末の動作を説明するためのユーザインターフェースの画面を示す図である。 本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御のための管理者端末の動作を説明するためのユーザインターフェースの画面を示す図である。 本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御のための管理者端末の動作を説明するためのユーザインターフェースの画面を示す図である。 本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御のための管理者端末の動作を説明するためのユーザインターフェースの画面を示す図である。
本発明の利点及び特徴、そしてそれらを達成する方法は、添付の図面と共に詳細に後述されている実施例を参照すれば明確になる。しかし、本発明は、以下で開示される実施例に制限されるものではなく、互いに異なる多様な形態にて実現できる。但し、本実施例は、本発明の開示を完全なものにし、本発明が属する技術分野における通常の技術者に本発明の範囲を完全に理解させるために提供されるものであり、本発明は請求項の範囲により定義されるに過ぎない。
本明細書で用いられる用語は、実施例を説明するためのものであり、本発明を制限しようとするものではない。本明細書において、単数型は特に言及しない限り複数型も含む。明細書で用いられる「含む(comprises)」及び/又は「含んでいる(comprising)」は、言及された構成要素以外に1つ以上の他の構成要素の存在又は追加を排除しない。明細書全体に亘って同一の図面符号は同一の構成要素を示し、「及び/又は」は言及された構成要素のそれぞれ及び1つ以上の全ての組み合わせを含む。たとえ、「第1」、「第2」などが多様な構成要素を叙述するために用いられていても、これらの構成要素は、これらの用語により制限されないのは当然である。これらの用語は、単に1つの構成要素を他の構成要素と区別するために用いる。従って、以下で言及される第1構成要素は、本発明の技術的思想内で第2構成要素でもあり得るのは言うまでもない。
他の定義がなければ、本明細書で用いられる全ての用語(技術及び科学的用語を含む)は、本発明が属する技術分野における通常の技術者が共通して理解できる意味として用いられる。また、一般に用いられる辞典に定義されている用語は、明白に特に定義されていない限り、理想的に又は過度に解釈されない。
空間的に相対的な用語である「下(below)」、「真下(beneath)」、「下部(lower)」、「上(above)」、「上部(upper)」などは図示されているように、1つの構成要素と他の構成要素との相関関係を容易に記述するために使用され得る。空間的に相対的な用語は、図示されている方向に加えて使用時又は動作時に構成要素の互いに異なる方向を含む用語として理解されるべきである。例えば、図示されている構成要素をひっくり返す場合、他の構成要素の「下(below)」又は「真下(beneath)」と記述されている構成要素は、他の構成要素の「上(above)」に置かれることができる。従って、例示的な用語である「下」は下と上の方向を何れも含むことができる。構成要素は他の方向にも配向されることができ、これにより空間的に相対的な用語は配向によって解釈されることができる。
以下、添付の図面を参照して本発明の実施例を詳細に説明する。
本明細書で記述される「エクステンデッドリアリティ(XR:eXtended Reality)」は、仮想現実(VR:Virtual Reality)、 拡張現実(AR:Augumented Reality)及び混合現実(MR:Mixed Reality)の技術を通称する用語を意味する。以下で「エクステンデッドリアリティ(XR)」という用語で本発明の多様な実施例を説明するが、これに限定されず、仮想現実(VR)、拡張現実(AR)、又は混合現実(MR)という用語を代わりに用いることもできる。
図1は、本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御システムを示すブロック図である。図2は、本発明の一実施例に係る管理者端末150の構成ブロック図である。図3は、本発明の一実施例に係る管理者端末150とエクステンデッドリアリティ機器100との間のインタラクション動作を説明するために示したフローチャートである。図4ないし10は、本発明の一実施例に係る管理者端末150で登録された各エクステンデッドリアリティ機器の集中度を管理及び制御する動作を説明するために示したフローチャートである。図11aないし13は、本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御のための管理者端末150の動作を説明するためのユーザインターフェースの画面を示す図である。
図1を参照すると、本発明の一実施例に係るエクステンデッドリアリティ機器の集中度管理及び制御システムは、エクステンデッドリアリティ機器100と管理者端末150を含んで構成できる。このとき、実施例によって、エクステンデッドリアリティ機器の集中度管理及び制御システムは、図1に示されたエクステンデッドリアリティ機器100及び管理者端末150の他に、例えば図3ないし10に示された実施例に係る動作の実行と関連して、1つ又はそれ以上の構成要素を更に含んだ状態でも実現できる。
エクステンデッドリアリティ機器100は、エクステンデッドリアリティコンテンツ、即ちケアコンテンツ(Care contents)をユーザに提供する装置である。このとき、エクステンデッドリアリティ機器100は、ユーザが着用する形態(例えば、HMD(Head-mounted Display))を含んで多様な形態にて実現できる。一方、このようなエクステンデッドリアリティ機器100の構成などについての詳細な説明は、公知となっている構成を参照できるため、本明細書でそれについての別の詳細な説明は省略する。
本明細書において、ユーザとは、エクステンデッドリアリティ機器100を着用し、ケアコンテンツを視聴する視聴者を意味する。
一方、ケアコンテンツとは、エクステンデッドリアリティ機器を介して該当コンテンツを消費するユーザ又はコンテンツを製作した目的や意図によって多様なテーマに定義されることができる。例えば、ユーザが認知症患者であれば、ケアコンテンツは、前記ユーザの認知症症状の緩和のための回想用コンテンツであり得る。また、ユーザが学業不振や障害を体験している青少年であれば、前記学業不振や障害の原因の1つとして心理相談用コンテンツであり得る。このようなケアコンテンツは、360°エクステンデッドリアリティ映像で構成され、エクステンデッドリアリティ機器を介してユーザに提供できる。実施例によって、前記ケアコンテンツは、特定の周期で繰り返し再生されるコンテンツ、シリーズ物(Series)などでもあり得る。一方、本発明は、前述したケアコンテンツについて記述した内容にのみ限定されるものではない。
実施例によって、ケアコンテンツは、同一のコンテンツに対して難易度が調節されたコンテンツも含むことができる。一方、シリーズ物やリピート再生コンテンツの場合にも、同一タイトルのコンテンツであっても視聴の難易度が異なるコンテンツを含んだ状態で構成できる。
本明細書において、単に「エクステンデッドリアリティ機器」と命名して説明する場合、それは単に1つのエクステンデッドリアリティ機器を表すこともできるが、図1に示すように、n個(ここで、nは自然数)のエクステンデッドリアリティ機器を表すこともでき、文脈上の意味により解釈できる。後者の場合、前記nが2以上の自然数の場合、各エクステンデッドリアリティ機器が全て同一の性能、同一のタイプ、同一のバージョンなどである必要はなく、本発明に係るケアコンテンツをユーザに提供し、後述する管理者端末150による制御信号に応じた動作の実行が可能であれば十分である。
一方、ケアコンテンツは、エクステンデッドリアリティ機器100に脱着可能なSDカード、前記エクステンデッドリアリティ機器100に内在しているメモリのような格納空間に予め格納されたものであるか、管理者端末150やユーザの個人端末からダウンロードして前記格納空間に格納されたものであってもよい。
エクステンデッドリアリティ機器100は、管理者端末150の制御信号によってユーザにエクステンデッドリアリティ空間上でケアコンテンツを視聴できるように提供できる。一方、前記エクステンデッドリアリティ機器100は、前記管理者端末150の制御がなくてもユーザの制御によってケアコンテンツを任意に再生することもできる。但し、任意再生の場合にも、エクステンデッドリアリティ機器100は、該当機器でユーザの制御によりケアコンテンツが任意に再生中であることを管理者端末150に報告し、前記管理者端末150の制御により任意に再生されたケアコンテンツの再生を制御することもできる。
エクステンデッドリアリティ機器100は、通常、ユーザが頭に着用する形態の装置であって、内在している加速度センサなどセンサを介して獲得されるセンシングデータに基づいて、ケアコンテンツの再生中にユーザの頭の動きを感知又は追跡できる。エクステンデッドリアリティ機器100は、追跡したユーザの頭の動きに基づいてエクステンデッドリアリティ機器を介してエクステンデッドリアリティ空間上でケアコンテンツを消費中のユーザの視線の動きを追跡でき、前記ユーザの視線の動きの追跡について視線座標データを生成でき、生成された視線座標データを管理者端末150に伝送できる。前記管理者端末150は、前記伝送されたエクステンデッドリアリティ機器100の視線座標データに基づいてトラッキングマーク(tracking mark)を生成できる。
その他、エクステンデッドリアリティ機器100は、エクステンデッドリアリティ空間上でケアコンテンツを提供する過程で、前記ケアコンテンツと関連するユーザのフィードバックデータ(feedback data)を獲得し、管理者端末150に伝達できる。このとき、前記ユーザのフィードバックデータは、例えば、エクステンデッドリアリティ空間上で再生中のケアコンテンツ内に含まれるか、又は再生区間などによって連動する質問などに対する回答データを含むことができる。前記回答データは、音声(voice)、ジェスチャー(gesture)などの形態であり得るが、それに限定されるものではない。一方、管理者端末150は、エクステンデッドリアリティ機器100から受信したユーザのフィードバックデータが音声であれば、STT(Speech to Text)モジュールを介してテキスト(text)に変換し、ユーザのフィードバックデータを分析及び処理できる。
図1及び図2を参照すると、管理者端末150は、メモリ210とプロセッサ220を含む。このとき、本明細書では本発明の理解を促進し、説明の便宜上、管理者端末150は、エクステンデッドリアリティ機器ではない端末を例として説明するが、これに限定されるものではない。一方、管理者端末150は、後述する図12aないし図13に示されるように、各エクステンデッドリアリティ機器によって現在再生中のケアコンテンツの再生画面を出力するが、このとき、前記出力されるケアコンテンツ再生画面は、前記端末の形状によって2D又は3D映像の形態にて提供され得る。例えば、管理者端末150はTV、モニタ、サイネージ(Signage)、PC、ノートパソコン、タブレットPC、スマートフォン、ウェアラブルデバイス(wearable device)などのうちの何れか1つであり得る。他の実施例によれば、管理者端末150は、登録された少なくとも1つ以上のエクステンデッドリアリティ機器の制御目的の専用機器(dedicated apparatus)であることもできる。
管理者端末150は、必ずしも登録されたエクステンデッドリアリティ機器100と隣接する位置にある必要はなく、遠隔に存在しても構わない。このような点で、一実施例によれば、管理者端末150は、遠隔制御目的のサーバ(Server)、クラウド(Cloud)のような形態であり得るが、それに限定されない。一方、管理者端末150は実施例によって、コントローラ、制御部、コンピューティングデバイスなど様々な名称で呼ぶことができる。
管理者端末150は、ケアコンテンツを直接製作できる。この場合、登録されたエクステンデッドリアリティ機器100で再生できるようにアップロード又は直接該当エクステンデッドリアリティ機器に伝送できる。
一方、管理者端末150の画面は例えば、図12a及び図12bのように構成されることができるが、これに限定されるものではない。
図12aを例として参照すると、管理者端末150の画面は、大きく映像表示領域1210と機能領域1220とに区分できる。
このとき、映像表示領域1210には、登録された少なくとも1つ以上のエクステンデッドリアリティ機器で現在再生中のケアコンテンツの画面を提供できる。管理者端末150は、前記映像表示領域1210を通じてケアコンテンツの再生を直接制御できる。その他、映像表示領域1210には、図13に示されるように、各エクステンデッドリアリティ機器から受信したユーザの視聴座標データ基盤のトラッキングマーク1321、1322を提供できる。このとき、便宜上、図13では2つのトラッキングマーク1321、1322が提供されたが、実施例によってトラッキングマークを1つも提供しないこともでき、3つ以上のトラッキングマークを提供することもできる。従って、管理者端末150は、前記トラッキングマーク1321、1322を通じて各エクステンデッドリアリティ機器ユーザのケアコンテンツに対する反応、感想などを含んで多様な状況を考慮したユーザの集中度を評価して制御などの補助も行える。
一方、機能領域1220には、映像説明領域、質問リスト及びフィードバック領域、連携活動領域などが存在し得る。その他、管理者端末150の画面には、映像表示領域に提供中のコンテンツのタイトル、ダウンロード状態、特定のエクステンデッドリアリティ機器でのケアコンテンツ再生制御機能ボタンなど多様なインターフェースを含めることができる。
前記機能領域1220のうち映像説明領域は、映像に関する全般的な情報が提供される領域である。例えば、前記映像説明領域は、ケアコンテンツの再生時間、容量、トレーニングの目的(例えば、脳のどの領域をトレーニングすることが目的なのか、どのような疾患を治療するための目的なのかなど)、企画の意図、テーマ、連携活動として何を行うかなどに関する情報が提供され得る。
前記機能領域1220のうち質問リスト及びフィードバック領域は、図12bに示されるように、ケアコンテンツの特定の時間帯で、例えば、ナレーション(narration)を通じて提供される質問リスト、それに対するユーザの回答などフィードバックなどが提供される領域である。上記において、ユーザのフィードバックは、例えば、管理者端末150で前述したように、STTモジュールを介して自動的に抽出して記録できる。
図12bを参照すると、管理者端末150は、エクステンデッドリアリティ機器100で再生中のケアコンテンツと関連して、質問リストと前記質問リストに対するタグ回答(tag answer)を提供できる。従って、エクステンデッドリアリティ機器100を介してケアコンテンツを視聴するユーザは、前記質問リストに対する回答をより簡単、かつ便利に行うことができ、管理者端末150もやはり、前記ユーザのフィードバックデータを簡単、かつ迅速に獲得して記録できる。
一方、前記タグ回答として、各質問によって異なる構成が可能であるが、例えば、単純肯定や否定を表す「はい/いいえ」、回答反応速度を表す「1秒/2秒/3秒/4秒/5秒後の回答」、回想など特定の意図や目的を表す「~に会ったんだ/~へ行ったんだ/~を食べたんだ/私は~が好き」などのように一種のサンプル回答を提供し、ユーザの反応やケアコンテンツ利用の利便性を改善させることができる。
実施例によって、このようなタグ回答は、それ自体がケアコンテンツの目的に合うように、ユーザに対する多様な診断や性向の把握などのためのデータとして構成できる。
実施例によって、管理者端末150は、フィードバックデータに基づいて、オーダーメード型のコンテンツを推薦するか、後で提供するのに参考にすることができる。例えば、管理者端末150は、初期には一般的な統合コンテンツがエクステンデッドリアリティ機器100を通じたエクステンデッドリアリティ空間上でユーザに提供するように再生を制御するが、そのようなコンテンツの再生を通じた様々な回答データが獲得されると、それに基づいて、エクステンデッドリアリティ機器100のユーザの性向に応じた、特化したオーダーメード型のコンテンツが提供されるように前記エクステンデッドリアリティ機器100を制御できる。
例えば、管理者端末150は、エクステンデッドリアリティ機器の利用ユーザの傾向に特化したオーダーメード型のコンテンツであって、例示1:「どんな運動が好きですか」という質問に自転車と答えると、その後に田舎の道など自転車と関連するケアコンテンツを提供し、連携活動としてきびがらで自転車を作る活動を推薦、例示2:船舶に反応が大きなエクステンデッドリアリティ機器のユーザに対して、その後に海と関連するケアコンテンツをキュレーション(curation)し、連携活動として「きびがらで船舶を作る活動」を推薦、そして例示3:フィードバックデータを総合してその視聴者の記憶を組み合わせた最適の映像をオーダーメード型で提供(これは例えば、個人識別情報がなくてもフィードバックデータだけでも具現可能)できる。
前記機能領域620のうち連携活動領域は、エクステンデッドリアリティ機器100を着用したユーザが現在視聴中のケアコンテンツを視聴後にケアコンテンツの目的に合う推薦連携活動に関する情報を提供する領域であり得る。このとき、管理者端末150は、前記連携活動が既に提供中のケアコンテンツ以降、適切な時点に円滑に又はシームレス(seamless)に提供できるように予め推薦連携活動リスト及び案内映像などをリストアップして提供し、その選択に従うことができる。このような連携活動として、例えば、マッチ棒の積み上げ(バランス感覚、小さな筋肉の使用などを評価可能)、花びらのチヂミ作り、かけらの貼り付け(数、埋めた面積などで評価可能)、例示図面を切り取ることによる形状の制作、折り紙など多様な活動を含んでいてもよく、特に制限はない。一方、連携活動もオフライン(offline)ではなく、エクステンデッドリアリティ機器100を通じたエクステンデッドリアリティ空間上で提供されるエクステンデッドリアリティコンテンツの形態にて提供され、管理者端末150とエクステンデッドリアリティ機器100との間の通信を通じたインタラクション反応によって実現することもできる。
前記連携活動のコンテンツとして、花びらのチヂミを作る方法に関するコンテンツが提供され得る。例えば、連携活動リストから「花びらのチヂミ作り-初級」項目を選択すると、花びらのチヂミ作りの動画、テキストデータなどが提供され得る。
その他、本明細書で記述されるオーダーメード型又は特化コンテンツの推薦、又は提供だけでなく、様々な形態のデータ、検出又は抽出されるデータの処理は、そのためのデータを訓練データとして生成された人工知能(AI:Artificial Intelligence)学習モデルの機械学習(machine learning)した結果に起因し得る。
管理者端末150は、本発明に係る管理者端末150に登録された少なくとも1つ以上のエクステンデッドリアリティ機器100のケアコンテンツ再生制御などに関するサービスをアプリケーション(application)又はウェブサービス(web service)の形態にて提供することができる。
図3を参照して、システムレベルでエクステンデッドリアリティ機器と管理者端末150との間のインタラクション動作を説明すると、次の通りである。
動作11で、管理者端末150は、少なくとも1つ以上のエクステンデッドリアリティ機器から登録要請があれば、登録する。
動作12で、管理者端末150は、登録された各エクステンデッドリアリティ機器にケアコンテンツ再生命令を伝送する。このとき、管理者端末150は、特定の1つ又はそれ以上のエクステンデッドリアリティ機器にのみコンテンツ再生命令を伝送することもでき、ブロードキャスティング方式で登録された全てのエクステンデッドリアリティ機器にコンテンツ再生命令を伝送することもできる。前者の場合、例えば、管理者端末150は、認知症患者のための第1エクステンデッドリアリティ機器と癌患者のための第2エクステンデッドリアリティ機器が既に登録されている状態で、認知症患者のためのケアコンテンツを再生するために、前記第1エクステンデッドリアリティ機器でのみ該当ケアコンテンツが再生できるように制御信号を伝送できる。この場合、前記エクステンデッドリアリティ機器を管理者端末150に登録時に予め各エクステンデッドリアリティ機器の識別子情報を登録して区別し、前記制御信号の伝送時に信号のフレームヘッダ(Header)に前記第1エクステンデッドリアリティ機器を識別できる識別子情報を表示し、ブロードキャスティングすることによって、簡単に前記第1エクステンデッドリアリティ機器でのみケアコンテンツを再生するようにすることができる。
動作13で、エクステンデッドリアリティ機器100は、前記管理者端末150の制御信号を受信すると、これをパーシングしてケアコンテンツ再生命令と判断されると、前記判断結果によってケアコンテンツがエクステンデッドリアリティ空間上でユーザに提供されるようにする。
動作14で、エクステンデッドリアリティ機器100は、前記ケアコンテンツが提供されると、視線座標データを抽出及び生成して管理者端末150に伝送できる。このとき、エクステンデッドリアリティ機器100は、ユーザフィードバックデータも共に管理者端末150に伝送できる。
動作15で、管理者端末150は、前記動作14を通じてエクステンデッドリアリティ機器100から所定のデータを受信すると、それに基づいて再生制御信号を生成して該当エクステンデッドリアリティ機器で再生中のケアコンテンツの再生を制御できる。
次に、図4ないし図10は、管理者端末150(又はプロセッサ220)の動作を基準に説明する。一方、図4ないし図10は、図3以降の動作又は図3の動作14の具体的な実施例に該当し得る。
以下、管理者端末150で予め登録された少なくとも1つ以上のエクステンデッドリアリティ機器を制御する動作を説明する。説明の便宜上、単に「エクステンデッドリアリティ機器」とのみ説明しても、それは文脈上の意味により特定のエクステンデッドリアリティ機器1つ又は複数のエクステンデッドリアリティ機器を意味する。
まず、図4を参照すると、動作21で、管理者端末150は、各エクステンデッドリアリティ機器の集中度評価点数を算出できる。
動作22で、管理者端末150は、算出した各エクステンデッドリアリティ機器の集中度評価点数に基づいて、集中度の低いエクステンデッドリアリティ機器を識別できる。
動作23で、管理者端末150は、集中度の低いエクステンデッドリアリティ機器と識別されたエクステンデッドリアリティ機器に対して集中度向上機能を提供できる。
動作24で、管理者端末150は、エクステンデッドリアリティ機器のケアコンテンツ再生を制御又は終了できる。
前記において、動作23は、動作24の再生制御動作の1つであり得る。
図5では、ケアコンテンツが前述したように、特定の周期で繰り返し再生されるコンテンツ、シリーズ物(Series)の場合を例として集中度を判断する実施例である。
図5を参照すると、管理者端末150は、動作31で、回次別のトラッキングマークの動きデータ値を測定及び記録できる。
動作32で、管理者端末150は、測定されたトラッキングマークの動きデータ値を基準にエクステンデッドリアリティ機器のユーザのコンテンツ適応度又は視聴適応度が向上しているかを判断できる。
動作33で、管理者端末150は前記動作32の判断結果、エクステンデッドリアリティ機器ユーザのコンテンツ適応度又は視聴適応度が向上していると判断されると、後続コンテンツの難易度を向上し、前回よりも難易度が向上したケアコンテンツを提供するように制御できる。
動作34で、管理者端末150は、前記動作32の判断結果、エクステンデッドリアリティ機器ユーザのコンテンツ適応度が向上していると判断されない場合には、該当回次の終了後に連携活動の内容を提供する。
動作35で、管理者端末150は、前記動作34で連携活動の内容提供によりエクステンデッドリアリティ機器ユーザのコンテンツ適応度が向上したか否かを再判断できる。このとき、前記適応度向上可否の再判断は、前記連携活動内容提供のフィードバックデータ又は前記連携活動内容の提供後、後続するケアコンテンツのトレッキングマークの動き値の測定結果に基づいて行うことができる。
管理者端末150は、前記動作35の再判断結果、もしエクステンデッドリアリティ機器ユーザのコンテンツ適応度が向上したと判断されると、動作33のように処理するが、それにも拘らず、依然としてエクステンデッドリアリティ機器のユーザのコンテンツ適応度が向上しなければ、動作36でオートフォーカシングアルゴリズム(Auto-focusing algorithm)を実行できる。動作36で、オートフォーカシングアルゴリズムの実行前に、前述した動作31ないし35を1回以上繰り返して行うこともできる。または、管理者端末150は、繰り返し実行又はオートフォーカシングアルゴリズムの適用後にも図5を再実行し、依然として適応度が向上しないと判断されると、現在までのケアコンテンツの再生回次と関係なく、該当ケアコンテンツの1回目から再スタートするか、全般的なコンテンツの難易度が相対的に低いケアコンテンツを再生するように制御することもできる。
図6は、ラッキングマークの移動基盤反応時間を利用して集中度を判断する実施例である。
図6を参照すると、動作41で、管理者端末150は、トラッキングマークの動き、即ち、移動基盤反応時間を測定できる。このとき、前記反応時間測定は、例えば、管理者端末150で提供した誘導音声、誘導マーク、誘導ボックス(又は後述するターゲットボックス)などの提供による反応時間であり得る。前記誘導音声とは、例えば、現在再生中のコンテンツの画面内の特定のオブジェクトを選択、特定の領域に移動、上下左右方向に一定程度移動せよといった音声命令などであり得る。前記における誘導マークとは、点(dot)やキャラクター(character)(知人や家族写真、可愛いキャラクターなど)のような別個のイメージを提供し、移動して選択できるように提供することを表すことができる。
動作42で、管理者端末150は、測定した反応時間を第1閾値(閾時間)と比較判断できる。
動作43で、管理者端末150は、前記動作32で判断した結果、測定された反応時間が第1閾値(例えば、3秒など)を超過すると、該当エクステンデッドリアリティ機器ユーザの集中度は低いと識別できる。このような識別は、図6の反応時間に対して予め設定された加重値などを参考にして、集中度評価点数の算定に反映されることもできる。
図7は、エクステンデッドリアリティ機器別の遅延(latency)を用いて集中度を判断する実施例である。
図7を参照すると、動作51で、管理者端末150は、各エクステンデッドリアリティ機器の遅延時間を測定できる。
動作52で、管理者端末150は、測定した各エクステンデッドリアリティ機器の遅延時間を参考にして該当するエクステンデッドリアリティ機器の判断基準値を調整して制御できる。このとき、管理者端末150は、各エクステンデッドリアリティ機器の遅延時間情報を反映して計算できるが、例えば相対的にケアコンテンツが遅く再生されているエクステンデッドリアリティ機器に対して判断基準値に+/-時間を設定できる。
動作53で、管理者端末150は、前記各エクステンデッドリアリティ機器の遅延時間を再測定できる。
動作54で、管理者端末150は、各エクステンデッドリアリティ機器に対して再測定した遅延時間を第2閾値と比較し判断できる。
動作55で、管理者端末150は、前記動作54で判断した結果、もし特定のエクステンデッドリアリティ機器の再測定遅延時間が前記第2閾値を超過すると、該当エクステンデッドリアリティ機器ユーザの集中度が低いと識別できる。同様に、このような識別は、図7の遅延時間に対して予め設定された加重値などを参考にして、集中度評価点数の算定に反映させることもできる。
図8は、ターゲットボックスを用いて集中度を判断する実施例である。
図8を参照すると、動作61で、管理者端末150は、ターゲットボックスを設定して提供できる。このとき、ターゲットボックスは、各エクステンデッドリアリティ機器で再生中のケアコンテンツの任意の領域に設定できる。前記任意の領域は、例えば、該当再生画面内の特定のオブジェクトであるか、それを含む領域であり得る。実施例によって、前記任意の領域は、例えば、現在再生画面内のトラッキングマークの位置情報を算出し、算出されたトラッキングマークと予め設定された距離だけ離れた位置に設定できる。他の実施例では、ターゲットボックスは、四角形、円形、三角形などの多角形形状であるか、点、線などの形態とすることもできる。更に他の実施例では、ターゲットボックスには、アーチェリーの標的のようにボックス内に区分されたサブボックスが存在し、各サブボックスは、外郭からターゲットボックスの中央に移動するほど高い点数を設定し、最終的にトラッキングマークの位置がターゲットボックス内のどの領域に位置するかによって点数に差を付けて算定することもできる。
動作62で、管理者端末150は、トラッキングマークがターゲットボックス内に安着しているか否かを判断できる。
動作63で、管理者端末150は、前記動作62で判断した結果、もしトラッキングマークがターゲットボックス内に安着したら、前記ターゲットボックスの提供時点から最終的にターゲットボックス内への安着までにかかる時間を測定できる。このとき、前記安着とは、例えば、前記トラッキングマークが該当ターゲットボックスに位置して所定時間(少なくとも0.5秒以上)留まる場合にのみ安着と判断できる。これは、例えば、ケアコンテンツの種類によって定着を異なるように定義できる。例えば、ケアコンテンツが認知症患者などの場合には、特定地点にトラッキングマークを所定時間固定することが相対的に困難であるため、その場合には異なるように判断できる。例えば、前記トラッキングマークが単にターゲットボックスを通りさえすれば、安着と判断することもできる。
動作64で、管理者端末150は、前記動作63で測定した安着時間を第3閾値と比較し判断できる。
動作65で、管理者端末150は、前記動作64で判断した結果、もし該当エクステンデッドリアリティ機器のトラッキングマークのターゲットボックスへの安着時間が第3閾値を超過すると、該当エクステンデッドリアリティ機器ユーザの集中度は低いと識別できる。同様に、このような識別は、図8のターゲットボックスと関連して予め設定された加重値などを参考にして、集中度評価点数の算定に反映させることもできる。実施例によって、前記安着時間と関係なく、前記安着可否だけで集中度を評価判断することもできる。
図9は、トラッキングマークの動きの平均値を用いて集中度を判断する実施例である。
図9を参照すると、動作71で、管理者端末150は、各エクステンデッドリアリティ機器のトラッキングマークの動きの平均値を測定できる。ここで、各エクステンデッドリアリティ機器のトラッキングマークの動きの平均値とは、該当コンテンツの再生時間全体の動きの平均値を表すことができる。このとき、もし該当エクステンデッドリアリティ機器で該当コンテンツの再生が途中で中断された場合には、それまでのトラッキングマークの動きの平均値を表すこともできる。反面、もし該当エクステンデッドリアリティ機器で該当コンテンツの再生が途中で一時停止後に再び再生された場合には、前記一時停止後から再度の再生までの時間を除いてトラッキングマークの動きの平均値を表すこともできる。実施例によって、前記各エクステンデッドリアリティ機器のトラッキングマークの動きの平均値は、該当コンテンツの再生区間全体のうち、予め設定された再生区間でのトラッキングマークの動きの平均値を表すことができる。前記予め設定された再生区間とは、再生開始時点から初期の一定区間、再生終了時点以前の一定区間、重要なオブジェクトが出現する時点の前後の一定区間、管理者端末150によって設定された区間や突発区間などのうちの少なくとも1つ以上であり得る。
動作72で、管理者端末150は、前記動作71で測定したエクステンデッドリアリティ機器のトラッキングマークの動きの平均値と第4閾値を比較し判断できる。
動作73で、管理者端末150は、前記動作72で判断した結果、もしトラッキングマークの動きの平均値が第4閾値を超過した場合、エクステンデッドリアリティ機器は、相対的に集中度が低い機器と判断できる。同様に、このような識別は、図9のトラッキングマークの動きの平均値と関連して予め設定された加重値などを参考にして、集中度評価点数の算定に反映させることもできる。
図10は、プリセット座標値を用いて集中度を判断する実施例である。
図10を参照すると、動作81で、管理者端末150は、各エクステンデッドリアリティ機器の現在のトラッキングマークの位置情報を測定し、提供されるプリセットとの差値を測定できる。ここで、前記プリセットは、管理者端末150によって映像再生時間にシンクされたものであり得る。従って、管理者端末150は、前記提供するプリセットの座標値と各エクステンデッドリアリティ機器の測定されたトラッキングマークの位置情報(即ち、座標値)の距離(座標)の差値を測定できる。一方、前記プリセットは、該当時点で再生中のコンテンツでユーザのトラッキングマークが位置しなければならないものと予め定義された位置に提供され得る。そうしなければ適切に集中度を判断できないためである。そのような点で、前記プリセットは、重要区間に重要なオブジェクトが属する位置として設定できる。
動作82で、管理者端末150は、前記測定した差値と第5閾値を比較し判断できる。
動作83で、管理者端末150は、前記動作82で判断した結果、もし特定のエクステンデッドリアリティ機器に対して測定した差値が第5閾値を超過すると、該当エクステンデッドリアリティ機器の集中度は低いと識別できる。同様に、このような識別は、図10のプリセットの提供によるトラッキングマークとの位置情報の差と関連して、予め設定された加重値などを参考にして、集中度評価点数の算定に反映させることもできる。
図11aないし図13は、本発明に係る管理者端末150の登録されたエクステンデッドリアリティ機器に対する集中度の管理及び制御のためのユーザインターフェースを示す図である。
図11aでは、エクステンデッドリアリティ機器の登録及び登録されたエクステンデッドリアリティ機器の目録が提供されることが分かる。
図11bでは、登録前又は登録後に特定のエクステンデッドリアリティ機器に関する詳細情報が提供されることを確認でき、バージョンのアップデート、ペアリングの接続及び解除、映像リストなど制御と関連するユーザインターフェースが示される。
図12aでは、前述したように、登録されたエクステンデッドリアリティ機器の映像再生領域1210から出力され、機能領域1220に、映像の説明、質問リスト、連携活動リストと関連する機能項目を提供できる。
図12bでは、図12aで質問リストを選択した場合に、現在再生中のコンテンツと関連する質問又は現在再生区間にシンクされた質問リストが提供される画面が示される。
図13では、映像再生領域に、例えば、2つのトラッキングマーク1321、1322が提供されており、図12a及び図12bとは異なり、集中度評価によって特定のエクステンデッドリアリティ機器を制御するための機能を提供できる。例えば、集中度評価機能領域1310には、再生バーと共に、再生位置制御項目(+10秒、-10秒など)、全体の終了、一時停止、元の位置の項目、該当制御対象エクステンデッドリアリティ機器の識別情報提供項目、該当制御対象エクステンデッドリアリティ機器のボリュームアップ/ダウン項目などを提供できる。
一方、前記集中度評価機能領域1310は、スクロールバーの形態にて提供されて、特定の制御対象エクステンデッドリアリティ機器を選択するか、エクステンデッドリアリティ機器全体を制御対象エクステンデッドリアリティ機器として選択できるように提供することもできる。または図示してはいないが、制御対象エクステンデッドリアリティ機器が複数の場合には、画面分割を通じて、コンテンツ再生画面と集中度評価機能領域1310が分割され、同時に制御及び確認できるように提供することもできる。
管理者端末150は、各エクステンデッドリアリティ機器の現在の再生位置を識別し、前記識別された各エクステンデッドリアリティ機器の現在の再生位置に基づいて全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致するように前記各エクステンデッドリアリティ機器のコンテンツ再生速度を制御できる。このように全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致すると、その際に本発明に係る集中度評価を行える。但し、必ずしもこれに限定されるものではない。
一方、管理者端末150は、例えば、前記各エクステンデッドリアリティ機器の再生速度の制御において、i)前記識別された現在の再生位置が一番遅いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、ii)前記識別された現在の再生位置が最も速いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、及びiii)全てのエクステンデッドリアリティ機器に対して識別された現在の再生位置の平均再生位置が属する診断区間の次の診断区間のうちの何れか1つの診断区間の開始点に該当する再生位置に、全てのエクステンデッドリアリティ機器の再生位置が予め設定された時間内に到達するように前記各エクステンデッドリアリティ機器の再生速度を個別に制御できる。
一方、本発明に係るケアコンテンツは、複数の診断区間が予め設定されて区別可能なことを例として説明する。
一実施例として、前記ケアコンテンツ内の複数の診断区間は、該当診断区間で提供している内容の重要度に応じて重要診断区間と非重要診断区間に区分できる。また、前記重要診断区間と非重要診断区間のサイズは、該当ケアコンテンツ内でそのサイズが均等でないこともできる。
管理者端末150は、もし複数のエクステンデッドリアリティ機器のうち判断された集中度評価によって集中度が相対的に低いエクステンデッドリアリティ機器が複数の場合には、該当エクステンデッドリアリティ機器をグルーピング(Groupping)し、同時に管理及び制御できる。前記管理者端末150は、グルーピングされたエクステンデッドリアリティ機器のトラッキングマークもグルーピングによって識別できるように処理できる。このとき、グルーピングされていない(各)エクステンデッドリアリティ機器のトラッキングマークとグルーピングされた各エクステンデッドリアリティ機器のトラッキングマークは、互いに区分できるように差別化されて出力することができる。前記差別化の方式は、トラッキングマークのサイズ、カラー、フリッカリング(flickering)、グルーピング表示など多様な方式により行うことができる。
管理者端末150は、トラッキングマークの動き(例えば、3秒以上)がなければ、無条件に集中度を低く評価するのではなく、前記トラッキングマークの位置を確認し、該当トラッキングマークの位置が特定のオブジェクト(人、場所、物、指定位置など)の位置に対応すると、集中度を低く評価しないことができる。逆に、該当トラッキングマークの位置がオブジェクトのない空き空間を注視するか、特別な意味が付与されない所に継続して位置すると、前記集中度が低いと判断できる。
管理者端末150は、登録された全てのエクステンデッドリアリティ機器の現在のトラッキングマークの位置を識別し、識別された各エクステンデッドリアリティ機器のトラッキングマークと顕著に離れた位置に存在するトラッキングマークの該当エクステンデッドリアリティ機器は、集中度が低いと判断できる。または、前記判断過程で各エクステンデッドリアリティ機器の識別されたトラッキングマークの平均値を算定し、平均値から閾値以上の差があるエクステンデッドリアリティ機器を集中度が低いエクステンデッドリアリティ機器と判断できる。
実施例によって、図3ないし図10に示された順序と異なって動作するか、一部の動作は、同時に行うこともできる。
その他、図3ないし図10の各実施例は、相反しない動作範囲内で組み合わされて新たな実施例を生成できる。
本発明の実施例と関連して説明された方法又はアルゴリズムの段階は、ハードウェアにより直接実現するか、ハードウェアによって実行されるソフトウェアモジュールにより実現するか、それらの結合によって実現することができる。ソフトウェアモジュールは、RAM(Random Access Memory)、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically Erasable Programmable ROM)、フラッシュメモリ(Flash Memory)、ハードディスク、着脱型ディスク、CD‐ROM、又は本発明の属する技術分野において周知となっている任意の形態のコンピュータ読み取り可能な記録媒体に常に存在することもできる。
以上、添付の図面を参照して本発明の実施例を説明したが、本発明が属する技術分野における通常の技術者は、本発明がその技術的思想や必須な特徴を変更することなく、他の具体的な形態に実施され得るということが理解できるはずである。従って、以上で述べた実施例はあらゆる面で例示的なものであり、制限的ではないものとして理解すべきである。

Claims (13)

  1. 管理者端末でユーザの集中度に応じて登録された複数の各エクステンデッドリアリティ機器を管理及び制御する方法において、
    前記各エクステンデッドリアリティ機器にケアコンテンツ再生命令を伝送する段階と、
    前記各エクステンデッドリアリティ機器から再生中のケアコンテンツを視聴するユーザの視線座標データを受信する段階と、
    前記各エクステンデッドリアリティ機器で再生中のケアコンテンツ及び受信したユーザの視線座標データ基盤のトラッキングマークを画面上に出力する段階と、
    前記各エクステンデッドリアリティ機器ユーザの集中度に応じて該当エクステンデッドリアリティ機器に制御信号を伝送する段階と、を含み、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の現在のトラッキングマークの座標値を獲得し、獲得された現在のトラッキングマークの座標値及び前記ケアコンテンツの再生時間にシンクされて予め定義されたプリセットの座標値の差値を基準に判断され、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記ケアコンテンツが特定の周期で繰り返し再生されるコンテンツ又はシリーズ物である場合には、各回次別のトラッキングマークの動きデータを基準に判断されるコンテンツ適応度及び前記動きデータの平均値を用いて判断され、
    前記平均値は、再生区間全体又は前記再生区間全体のうち予め設定された再生区間におけるトラッキングマークの動きデータの平均値を示し、
    前記予め設定された再生区間は、再生開始時点から初期の一定区間、再生終了時点以前の一定区間、重要なオブジェクトが出現する時点の以前及び以降までの区間、前記管理者端末で設定した区間や突発区間のうちの少なくとも1つを含み、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の遅延時間情報を更に参照して判断され、
    前記ケアコンテンツは、重要度に応じて各診断区間のサイズが均等でない重要診断区間及び非重要診断区間を含む複数の診断区間が含まれるように設定され、
    前記管理者端末は、
    前記各エクステンデッドリアリティ機器の現在の再生位置情報が受信されると、全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致して前記ユーザの集中度が一括して管理できるように前記各エクステンデッドリアリティ機器のコンテンツ再生速度を制御し、
    前記全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致すると、前記ユーザの集中度判断を開始するように制御し、
    受信した現在の再生位置が最も遅いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、受信した現在の再生位置が最も速いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、及び前記全てのエクステンデッドリアリティ機器に対して受信した現在の再生位置の平均再生位置が属する診断区間の次の診断区間のうちの何れか1つの診断区間の開始点に該当する再生位置に前記全てのエクステンデッドリアリティ機器の再生位置が予め設定された時間内に到達するように前記各エクステンデッドリアリティ機器の再生速度を個別に制御する、
    方法。
  2. 前記ケアコンテンツの各回次別のトラッキングマークの動きデータは、誘導音声の提供によるトラッキングマークの移動による反応時間データ及び各エクステンデッドリアリティ機器別の遅延時間の判断のための基準値の調整を参照して算出されることを特徴とする請求項1に記載の方法。
  3. 前記ケアコンテンツの再生画面内の任意の領域にターゲットボックスが提供される段階と、
    現在のトラッキングマークの位置から提供されたターゲットボックスまでの移動可否及び移動時間を測定する段階と、
    を更に含むことを特徴とする請求項2に記載の方法。
  4. 前記任意の領域は、識別された現在のトラッキングマークの位置を基準に予め設定された距離に設定されることを特徴とする請求項3に記載の方法。
  5. 前記任意の領域は、前記ケアコンテンツの再生画面内に予め設定されたオブジェクトを含むように設定されることを特徴とる請求項3に記載の方法。
  6. 前記管理者端末は、
    前記各回次別のトラッキングマークの動きデータに基づく集中度評価に基づいて適応度の向上可否を判断し、
    前記適応度が向上したものと判断されなければ、該当回次の再生終了後に連携活動コンテンツを提供し、
    前記連携活動コンテンツを提供した後に適応度が向上したか否かを再判断し、
    前記再判断の結果、前記適応度が向上していなければ、オートフォーカスアルゴリズムを実行することを特徴とする請求項1に記載の方法。
  7. ユーザの集中度に応じて登録された複数の各エクステンデッドリアリティ機器を管理及び制御する管理者端末において、
    メモリと、
    プロセッサと、を含み、
    前記プロセッサは、前記各エクステンデッドリアリティ機器にケアコンテンツ再生命令を伝送し、前記各エクステンデッドリアリティ機器から再生中のケアコンテンツを視聴するユーザの視線座標データを受信し、前記各エクステンデッドリアリティ機器で再生中のケアコンテンツ及び受信したユーザの視線座標データ基盤のトラッキングマークを画面上に出力し、前記各エクステンデッドリアリティ機器ユーザの集中度に応じて該当エクステンデッドリアリティ機器に制御信号を伝送し、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の現在のトラッキングマークの座標値を獲得し、獲得された現在のトラッキングマークの座標値及び前記ケアコンテンツの再生時間にシンクされて予め定義されたプリセットの座標値の差値を基準に判断され、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記ケアコンテンツが特定の周期で繰り返し再生されるコンテンツ又はシリーズ物である場合には、各回次別のトラッキングマークの動きデータを基準に判断されるコンテンツ適応度及び前記動きデータの平均値を用いて判断され、
    前記平均値は、再生区間全体又は前記再生区間全体のうち予め設定された再生区間におけるトラッキングマークの動きデータの平均値を示し、
    前記予め設定された再生区間は、再生開始時点から初期の一定区間、再生終了時点以前の一定区間、重要なオブジェクトが出現する時点の以前及び以降までの区間、前記管理者端末で設定した区間や突発区間のうちの少なくとも1つを含み、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の遅延時間情報を更に参照して判断され、
    前記ケアコンテンツは、重要度に応じて各診断区間のサイズが均等でない重要診断区間及び非重要診断区間を含む複数の診断区間が含まれるように設定され、
    前記プロセッサは、
    前記各エクステンデッドリアリティ機器の現在の再生位置情報が受信されると、全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致して前記ユーザの集中度が一括して管理できるように前記各エクステンデッドリアリティ機器のコンテンツ再生速度を制御し、
    前記全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致すると、前記ユーザの集中度判断を開始するように制御し、
    受信した現在の再生位置が最も遅いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、受信した現在の再生位置が最も速いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、及び前記全てのエクステンデッドリアリティ機器に対して受信した現在の再生位置の平均再生位置が属する診断区間の次の診断区間のうちの何れか1つの診断区間の開始点に該当する再生位置に前記全てのエクステンデッドリアリティ機器の再生位置が予め設定された時間内に到達するように前記各エクステンデッドリアリティ機器の再生速度を個別に制御する、
    管理者端末。
  8. 前記ケアコンテンツの各回次別のトラッキングマークの動きデータは、誘導音声の提供によるトラッキングマークの移動による反応時間データ及び各エクステンデッドリアリティ機器別の遅延時間の判断のための基準値の調整を参照して算出されることを特徴とする請求項7に記載の管理者端末。
  9. 前記プロセッサは、
    前記ケアコンテンツの再生画面内の任意の領域にターゲットボックスを提供し、
    現在のトラッキングマークの位置から前記提供されたターゲットボックスまでの移動可否及び移動時間を測定することを特徴とする請求項8に記載の管理者端末。
  10. 前記任意の領域は、識別された現在のトラッキングマークの位置を基準に予め設定された距離に設定されることを特徴とする請求項9に記載の管理者端末。
  11. 前記任意の領域は、前記ケアコンテンツの再生画面内に予め設定されたオブジェクトを含むように設定されることを特徴とする請求項9に記載の管理者端末。
  12. 前記プロセッサは、
    前記各回次別のトラッキングマークの動きデータに基づく集中度評価に基づいて適応度の向上可否を判断し、
    前記適応度が向上したものと判断されなければ、該当回次の再生終了後に連携活動コンテンツを提供し、
    前記連携活動コンテンツを提供した後に前記適応度が向上したか否かを再判断し、
    前記再判断の結果、前記適応度が向上していなければ、オートフォーカシングアルゴリズムを実行することを特徴とする請求項7に記載の管理者端末。
  13. ケアコンテンツを再生する複数の各エクステンデッドリアリティ機器と、
    前記各エクステンデッドリアリティ機器が登録され、ユーザの集中度に応じて前記各エクステンデッドリアリティ機器を管理及び制御する管理者端末と、を含み、
    前記管理者端末は、前記各エクステンデッドリアリティ機器にケアコンテンツ再生命令を伝送し、前記各エクステンデッドリアリティ機器から再生中のケアコンテンツを視聴するユーザの視線座標データを受信し、前記各エクステンデッドリアリティ機器で再生中のケアコンテンツ及び受信したユーザの視線座標データ基盤のトラッキングマークを画面上に出力し、前記各エクステンデッドリアリティ機器ユーザの集中度に応じて該当エクステンデッドリアリティ機器に制御信号を伝送し、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の現在のトラッキングマークの座標値を獲得し、獲得した現在のトラッキングマークの座標値及び前記ケアコンテンツの再生時間にシンクされて予め定義されたプリセットの座標値の差値を基準に判断され、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記ケアコンテンツが特定の周期で繰り返し再生されるコンテンツ又はシリーズ物である場合には、各回次別のトラッキングマークの動きデータを基準に判断されるコンテンツ適応度及び前記動きデータの平均値を用いて判断され、
    前記平均値は、再生区間全体又は前記再生区間全体のうち予め設定された再生区間におけるトラッキングマークの動きデータの平均値を示し、
    前記予め設定された再生区間は、再生開始時点から初期の一定区間、再生終了時点以前の一定区間、重要なオブジェクトが出現する時点の以前及び以降までの区間、前記管理者端末で設定した区間や突発区間のうちの少なくとも1つを含み、
    前記各エクステンデッドリアリティ機器ユーザの集中度は、前記各エクステンデッドリアリティ機器の遅延時間情報を更に参照して判断され、
    前記ケアコンテンツは、重要度に応じて各診断区間のサイズが均等でない重要診断区間及び非重要診断区間を含む複数の診断区間が含まれるように設定され、
    前記管理者端末は、
    前記各エクステンデッドリアリティ機器の現在の再生位置情報が受信されると、全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致して前記ユーザの集中度が一括して管理できるように前記各エクステンデッドリアリティ機器のコンテンツ再生速度を制御し、
    前記全てのエクステンデッドリアリティ機器のコンテンツ再生位置が一致すると、前記ユーザの集中度判断を開始するように制御し、
    受信した現在の再生位置が最も遅いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、受信した現在の再生位置が最も速いエクステンデッドリアリティ機器の前記再生位置が属する診断区間の次の診断区間、及び前記全てのエクステンデッドリアリティ機器に対して受信した現在の再生位置の平均再生位置が属する診断区間の次の診断区間のうちの何れか1つの診断区間の開始点に該当する再生位置に前記全てのエクステンデッドリアリティ機器の再生位置が予め設定された時間内に到達するように前記各エクステンデッドリアリティ機器の再生速度を個別に制御する、
    システム。
JP2022558183A 2021-12-08 2022-08-22 登録されたエクステンデッドリアリティ機器ユーザの集中度を管理及び制御する方法、装置並びにシステム Active JP7480335B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR10-2021-0174792 2021-12-08
KR1020210174792A KR102383793B1 (ko) 2021-12-08 2021-12-08 등록된 확장현실 기기 사용자의 집중도를 관리 및 제어하는 방법, 장치 및 시스템
PCT/KR2022/012502 WO2023106555A1 (ko) 2021-12-08 2022-08-22 등록된 확장현실 기기 사용자의 집중도를 관리 및 제어하는 방법, 장치 및 시스템

Publications (2)

Publication Number Publication Date
JP2024506427A JP2024506427A (ja) 2024-02-14
JP7480335B2 true JP7480335B2 (ja) 2024-05-09

Family

ID=86607825

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022558183A Active JP7480335B2 (ja) 2021-12-08 2022-08-22 登録されたエクステンデッドリアリティ機器ユーザの集中度を管理及び制御する方法、装置並びにシステム

Country Status (2)

Country Link
US (1) US11995779B2 (ja)
JP (1) JP7480335B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017037110A (ja) 2015-08-07 2017-02-16 デジタルセンセーション株式会社 情報処理装置
JP2019531769A (ja) 2016-07-25 2019-11-07 マジック リープ, インコーポレイテッドMagic Leap,Inc. ライトフィールドプロセッサシステム
US20200020171A1 (en) 2017-04-07 2020-01-16 Unveil, LLC Systems and methods for mixed reality medical training
JP2021176521A (ja) 2020-05-08 2021-11-11 グローバス メディカル インコーポレイティッド 外科手術におけるコンピュータ支援ナビゲーションのためのエクステンデッドリアリティヘッドセットカメラシステム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9338622B2 (en) * 2012-10-04 2016-05-10 Bernt Erik Bjontegard Contextually intelligent communication systems and processes
KR101660157B1 (ko) 2015-01-21 2016-09-26 동국대학교 산학협력단 시선 추적 기반 재활 시스템
KR101756792B1 (ko) 2015-07-28 2017-07-11 재단법인대구경북과학기술원 Hmd형 가상현실 콘텐츠 모니터링 및 제어 시스템
CN107533360B (zh) * 2015-12-07 2021-06-15 华为技术有限公司 一种显示、处理的方法及相关装置
KR101816415B1 (ko) 2016-06-21 2018-02-21 현대자동차주식회사 시선 추적을 이용한 운전자 집중도 감시 장치 및 방법
KR20200063173A (ko) 2017-09-27 2020-06-04 유니버시티 오브 마이애미 디지털 치료적 보정 안경
US20190114564A1 (en) * 2017-10-18 2019-04-18 United Parcel Service Of America, Inc. Enriched Logistics System for Unmanned Vehicle Delivery of Parcels
KR20190125597A (ko) 2018-04-30 2019-11-07 서울대학교산학협력단 홍채인식형 hmd를 이용한 강의 시스템
KR102085693B1 (ko) 2018-06-12 2020-03-06 주식회사 아이디어빈스 사용자의 집중력 레벨 결정 방법 및 장치
US10943407B1 (en) * 2019-01-25 2021-03-09 Wellovate, LLC XR health platform, system and method
KR102073376B1 (ko) 2019-01-31 2020-02-04 주식회사 네오펙트 훈련 컨텐츠의 난이도를 설정하는 방법 및 이를 운용하는 전자 장치
KR20190104945A (ko) * 2019-08-23 2019-09-11 엘지전자 주식회사 Xr 디바이스 및 그 제어 방법
KR102262890B1 (ko) 2019-11-29 2021-06-09 주식회사 비엔알아이 시선 추적에 기반하는 읽기 능력 진단 장치와 연동하여 읽기 능력 개선을 위한 훈련 서비스를 제공하는 읽기 능력 개선 훈련 장치 및 이를 포함하는 서비스 제공 장치
KR102328089B1 (ko) 2020-01-07 2021-11-17 학교법인 건국대학교 가상현실 내 시선추적을 기반으로 하는 의식장애평가장치 및 방법
KR102155309B1 (ko) 2020-05-08 2020-09-11 주식회사 창 헬스케어 인지 장애 예측 방법 및 이를 구현한 서버, 사용자 단말 및 어플리케이션

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017037110A (ja) 2015-08-07 2017-02-16 デジタルセンセーション株式会社 情報処理装置
JP2019531769A (ja) 2016-07-25 2019-11-07 マジック リープ, インコーポレイテッドMagic Leap,Inc. ライトフィールドプロセッサシステム
US20200020171A1 (en) 2017-04-07 2020-01-16 Unveil, LLC Systems and methods for mixed reality medical training
JP2021176521A (ja) 2020-05-08 2021-11-11 グローバス メディカル インコーポレイティッド 外科手術におけるコンピュータ支援ナビゲーションのためのエクステンデッドリアリティヘッドセットカメラシステム

Also Published As

Publication number Publication date
JP2024506427A (ja) 2024-02-14
US20230177782A1 (en) 2023-06-08
US11995779B2 (en) 2024-05-28

Similar Documents

Publication Publication Date Title
US20240045470A1 (en) System and method for enhanced training using a virtual reality environment and bio-signal data
US11303976B2 (en) Production and control of cinematic content responsive to user emotional state
Tian et al. A review of cybersickness in head-mounted displays: raising attention to individual susceptibility
US20220365351A1 (en) Systems and methods for augmented reality
EP3177376B1 (en) Sensory stimulus management in head mounted display
US9892655B2 (en) Method to provide feedback to a physical therapy patient or athlete
JP2021089757A (ja) ユーザの感情状態を用いて仮想画像生成システムを制御するための技術
EP3216195B1 (en) Method and system for event pattern guided mobile content services
US20160314620A1 (en) Virtual reality sports training systems and methods
CN110300909A (zh) 用于显示交互式增强现实展示的***、方法和介质
US20190378621A1 (en) Multi-Purpose Interactive Cognitive Platform
CN112352390A (zh) 利用用于检测神经状态的传感器数据进行内容生成和控制
CN110461425B (zh) 智能自行车运动装置及其控制方法
US11682157B2 (en) Motion-based online interactive platform
US20220174367A1 (en) Stream producer filter video compositing
KR102383793B1 (ko) 등록된 확장현실 기기 사용자의 집중도를 관리 및 제어하는 방법, 장치 및 시스템
JP7480335B2 (ja) 登録されたエクステンデッドリアリティ機器ユーザの集中度を管理及び制御する方法、装置並びにシステム
KR102114946B1 (ko) 가상현실(vr) 콘텐츠 시청에 따른 생체 정보 변화에 기초하여 콘텐츠 퀄리티를 평가하는 시스템 및 방법
KR102433084B1 (ko) 가상 현실 게임용 플레이어 감정 분석 방법, 플레이어 감정 기반 가상 현실 서비스 운용 방법 및 가상 현실 시스템
KR102406562B1 (ko) 등록된 확장현실 기기를 제어하는 방법, 장치 및 시스템
Bisogni et al. Gaze analysis: A survey on its applications
US11995233B2 (en) Biometric feedback captured during viewing of displayed content
US20230410979A1 (en) Location-based multi-user augmented reality for wellness
US20240135617A1 (en) Online interactive platform with motion detection
Tian Towards a Framework for Estimation of User Susceptibility to Cybersickness

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240424

R150 Certificate of patent or registration of utility model

Ref document number: 7480335

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150