JP7279646B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP7279646B2
JP7279646B2 JP2019570313A JP2019570313A JP7279646B2 JP 7279646 B2 JP7279646 B2 JP 7279646B2 JP 2019570313 A JP2019570313 A JP 2019570313A JP 2019570313 A JP2019570313 A JP 2019570313A JP 7279646 B2 JP7279646 B2 JP 7279646B2
Authority
JP
Japan
Prior art keywords
user
information
control unit
communication
users
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019570313A
Other languages
English (en)
Other versions
JPWO2019155735A1 (ja
Inventor
慧 高橋
孝悌 清水
亮平 安田
亜由美 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2019155735A1 publication Critical patent/JPWO2019155735A1/ja
Application granted granted Critical
Publication of JP7279646B2 publication Critical patent/JP7279646B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • H04N7/157Conference systems defining a virtual conference space and using avatars or agents
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/10Architectures or entities
    • H04L65/1059End-user terminal functionalities specially adapted for real-time communication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1083In-session procedures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/52Network services specially adapted for the location of the user terminal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/024Multi-user, collaborative environment

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Transfer Between Computers (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本開示は、情報処理装置、情報処理方法及びプログラムに関する。
インターネットのようなコンピュータ・ネットワーク上で構築された所定の空間的広がりを持つ仮想世界において、複数のユーザが同時に参加してリアルタイム・コミュニケーションを行うことができる技術の開発が進められている。
例えば、以下の特許文献1には、仮想空間にログインしたユーザのアバタが利用可能な仮想携帯電話を用いて呼出動作を行うことにより、他のユーザとコミュニケーションを行うことができる会話支援システムが開示されている。
特開2001-154966号公報
しかし、特許文献1に開示されているような会話支援システムでは、コミュニケーション中のユーザのアバタが仮想空間からログアウトした場合、連続して実空間に存在するそのユーザとコミュニケーションを行うことはできないため、ユーザ間のコミュニケーション空間の切り替えにはなお改善の余地がある。
そこで、本開示では、上記事情に鑑みて、ユーザ間のコミュニケーションの場を仮想空間と実空間の間でスムーズに切り替えることが可能な、情報処理装置、情報処理方法及びプログラムを提案する。
本開示によれば、実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間上において、ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、実空間におけるユーザの位置に関する位置情報及びユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、位置情報及び属性情報の少なくともいずれか一方に応じて、実空間で実施されるコミュニケーションと、仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、を備える情報処理装置が提供される。
また、本開示によれば、実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間上において、ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御することと、実空間におけるユーザの位置に関する位置関連情報及びユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得することと、位置情報及び属性情報の少なくともいずれか一方に応じて、実空間で実施されるコミュニケーションと、仮想空間で実施されるコミュニケーションとの切り替えを制御すること、を含む情報処理方法が提供される。
また、本開示によれば、コンピュータに、実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間上において、ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部、実空間におけるユーザの位置に関する位置関連情報及びユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得する情報取得部、位置情報及び属性情報の少なくともいずれか一方に応じて、実空間で実施されるコミュニケーションと、仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部、として機能させるためのプログラムが提供される。
本開示によれば、実空間におけるユーザの位置に関する位置情報及びユーザ間の親密度に関する情報を少なくとも含む属性情報に応じて、仮想空間に出力させる内容が制御される。
以上説明したように本開示によれば、コミュニケーション空間を仮想空間と実空間の間でスムーズに切り替えることが可能となる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、又は、上記の効果に代えて、本明細書に示されたいずれかの効果、又は、本明細書から把握され得る他の効果が奏されてもよい。
本開示の実施形態に係る情報処理装置の構成の一例を示すブロック図である。 同実施形態に係る情報処理システムの構成の一例を示すブロック図である。 同実施形態に係る情報処理装置の動作を説明するための説明図である。 同実施形態に係る情報処理装置の動作を説明するための説明図である。 同実施形態に係る情報処理装置の動作を説明するための説明図である。 同実施形態に係る情報処理装置の動作を説明するための説明図である。 同実施形態に係る情報処理装置の動作を説明するための説明図である。 同実施形態に係る情報処理装置の動作を説明するための説明図である。 同実施形態に係る情報処理装置の動作を説明するための説明図である。 同実施形態に係る情報処理装置の動作の流れの一例を説明するための流れ図である。 同実施形態に係る情報処理装置の動作の流れの一例を説明するための流れ図である。 同実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
<<構成>>
<<動作>>
<動作例1>
<動作例2>
<<ハードウェア構成>>
<<結び>>
<<構成>>
まず、図1及び図2を参照して本開示の一実施形態に係る情報処理装置10の構成を説明する。図1は、本開示の一実施形態に係る情報処理装置10の構成例を示すブロック図である。図2は、本開示の一実施形態に係る情報処理システム5の構成例を示すブロック図である。
本実施形態に係る情報処理装置10は、複数のユーザが相互に通信を行い、互いに相手の姿の映像やアバタを表示画面に表示しながらコミュニケーションを行う装置である。本実施形態に係る情報処理システム5では、図2に示すように、ネットワーク20を介して、複数の情報処理装置10が相互に接続され、仮想空間での相互コミュニケーションが実施される。本実施形態に係る情報処理装置10は、実空間に存在するユーザの実像に対応する仮想像を仮想空間上に生成し、仮想像を介してユーザ間のコミュニケーションを実現する装置である。本実施形態に係る情報処理装置10は、ユーザが移動しながら使用可能な構成の装置であり、例えばメガネ型ディスプレイやヘッドマウントディスプレイ(Head Mount Display:HMD)等のように、ユーザが装着して使用する装置であってもよく、スマートフォン等のような表示装置を備える携帯可能な通信機器であってもよい。
ネットワーク20は、例えばインターネット等のような公知の情報通信技術を用いて実現され、複数の情報処理装置10を相互に接続することが可能であり、同時に複数のユーザがコミュニケーションを実施することを可能とする。
本実施形態に係る情報処理装置10は、図1に示すように、ユーザに関するユーザ情報や、ユーザの動作に関する動作情報、ユーザが発する音声に関する音声情報等の情報を取得する情報取得部110と、情報取得部110により取得された情報に応じて、コミュニケーションが実施される空間を切り替える切替制御部120と、ユーザ間で相互に実施されるコミュニケーションの接続状態等のコミュニケーションにおける各種機能を制御するコミュニケーション制御部130と、を少なくとも備える。更に、本実施形態に係る情報処理装置10は、認識判断部140と、通信制御部150と、記憶部160とを備えることが好ましい。
[情報取得部110]
本実施形態に係る情報処理装置10は、情報取得部110を備える。情報取得部110は、ユーザが実施しているコミュニケーションの空間を円滑に切り替えるための情報を取得する。この情報取得部110は、ユーザ情報取得部112を少なくとも備え、動作情報取得部114と、音声情報取得部116とを更に有していてもよい。取得する情報内容に応じて、ユーザ情報取得部112と、動作情報取得部114と、音声情報取得部116の少なくともいずれかが機能することで、ユーザが実施しているコミュニケーションの空間を円滑に切り替えるための各種の情報が取得される。
(ユーザ情報取得部112)
ユーザ情報取得部112は、実空間におけるユーザの位置に関する位置情報及びユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得する。詳細には、ユーザ情報取得部112は、そのユーザ情報取得部112が備えられる情報処理装置10の位置情報を取得してもよい。また、ユーザ情報取得部112は、後述する通信制御部150を介して、他のユーザの位置情報及び属性情報を取得する機能を有してもよい。
ユーザ情報取得部112は、公知の位置情報取得システムを利用して、ユーザの位置情報を取得してもよい。公知の位置情報取得システムとして、例えば、GNSS(Global Navigation Satellite Sysytem:全球測位衛星システム)や、屋内測位システム、モバイルネットワークやWi-Fi(登録商標)の基地局測位システム等の位置取得システムが利用されてもよい。また、情報処理装置10には、例えば、ビーコンのような位置検知に用いられるタグが付与されていてもよく、ユーザ情報取得部112は、このタグに関する情報を位置情報として受信してもよい。さらに、情報処理装置10は、ユーザの方向の同定が可能な通信機能を有していてもよく、ユーザ情報取得部112は、このユーザの方向に関する情報を位置情報として取得してもよい。
また、先だって説明したように、他のユーザの位置情報は、通信制御部150を介して他のユーザから取得されてもよいが、他のユーザの位置情報の取得には、他の公知の位置情報取得技術が利用されてもよい。例えば、本実施形態に係る情報処理装置10は、実空間の環境画像を撮像する撮像装置を備えていてもよく、この撮像装置により生成された撮像画像を利用して、他のユーザの位置情報を取得してもよい。他のユーザの位置情報の取得には、例えば、特開2010-16743号公報、特許第5869883号公報、特開2017-182739号公報等に開示されている、各種の位置推定技術を適宜利用することができる。情報処理装置10に備えられる撮像装置は、例えば、デジタルスチルカメラやデジタルビデオカメラ等のような、撮像機能を有する公知の撮像装置であってもよい。また、ユーザ情報取得部112は、実空間上に設けられた外部カメラ等で撮像された他のユーザの画像に基づいて取得される他のユーザの位置情報を、公知のネットワーク等を介することで取得してもよい。
ユーザ情報取得部112は、コミュニケーションを実施しているユーザ間の離隔距離が大きいときは、GNSSや屋内測位システムでユーザ相互の大まかな位置情報を取得し、離隔距離が小さくなり、撮像装置によりユーザが撮像されたときは、画像処理にて他のユーザの位置情報を取得してもよい。
また、位置情報には、ユーザ間の離隔距離等、複数のユーザの位置に基づいて取得される二次的な情報も含まれる。
また、ユーザ情報取得部112が取得する属性情報の一つである、ユーザ間の親密度に関する情報には、例えば、本実施形態に係る情報処理装置10を利用して実施されたコミュニケーションの頻度、時間や会話内容等の情報や、記憶部160などに格納されたコンタクトリストにおけるユーザ情報の有無などが含まれる。このコミュニケーションの頻度、時間や会話内容等の情報は、情報処理装置10に備えられる記憶部160に履歴情報として保存されてもよい。
また、属性情報には、本実施形態に係る情報処理装置10を利用している間に取得される、ユーザの表情、ジェスチャーや声質等の非言語的なコミュニケーション情報(以降、単に「非言語コミュニケーション情報」と略記する。)が含まれてもよい。ユーザ情報取得部112の機能の一部は、例えば、既に説明したような撮像装置によって実現されてもよい。使用される撮像装置は、本実施形態に係る情報処理装置10のユーザが発する音声を収音する機能を有するものであることが好ましく、このような撮像装置により、非言語コミュニケーション情報は取得されてもよい。更に、非言語コミュニケーション情報に応じたユーザの精神状態が予め設定されることで、ユーザ情報取得部112は、ユーザの精神状態に関する精神状態情報を取得することができる。この精神状態情報も属性情報に含まれる。なお、精神状態情報は、情報処理装置10が機械学習することで、非言語コミュニケーション情報から自動的に生成されてもよい。また、本実施形態に係る情報処理装置10には、例えば、ユーザの属性に関するタグが付与されていてもよく、ユーザ情報取得部112は、このタグに関する情報を属性情報として取得してもよい。
先だって説明したように、ユーザ情報取得部112は、他のユーザの属性情報を、通信制御部150を介して取得してもよい。さらに、ユーザ情報取得部112は、上記のように、情報処理装置10に別途備えられる撮像装置によって取得されてもよいし、実空間上に設けられた撮像装置により取得された画像や音声によって取得されてもよい。
ユーザ情報取得部112は、ユーザの位置情報及び属性情報並びに他のユーザの位置情報及び属性情報を、所定のタイミングで取得する。ユーザ情報取得部112は、例えば、位置情報及び属性情報を随時取得してもよいし、ユーザが予め設定したタイミングで取得してもよい。また、ユーザ情報取得部112は、位置情報及び属性情報を後述する切替制御部120及びコミュニケーション制御部130の少なくともいずれかに随時送信してもよいし、予め設定したタイミングで送信してもよい。
(動作情報取得部114)
動作情報取得部114は、ユーザの身振りや手振り等の動作に関する動作情報を取得する。動作情報取得部114で取得される動作情報は、後述する切替制御部120に送信され、ユーザ間で実施されるコミュニケーションの空間を切り替えるトリガーの一種として用いられてもよい。また、この動作情報は、複数のユーザの中から通信を接続するユーザを選択してコミュニケーションを開始する際のトリガーとして用いられてもよい。
動作情報取得部114の機能は、例えば上記のような撮像機能を有する公知の撮像装置によって実現されてもよい。より詳細には、動作情報の取得には、例えば、公知のジェスチャー認識技術を利用することができ、例えば、特開2013-205983号公報等に開示されている技術を適宜利用することができる。
(音声情報取得部116)
音声情報取得部116は、ユーザが発する音声に関する音声情報を取得する。音声情報取得部116で取得された音声情報は、後述するコミュニケーション制御部130を介して、他のユーザに提供されてもよい。また、音声情報取得部116は、公知の音声認識技術を利用して音声情報を解析し、その音声情報の内容を認識する音声認識をすることで音声認識情報を取得してもよい。音声情報取得部116で取得された音声情報は、後述する切替制御部120に送信され、ユーザ間で実施されるコミュニケーションの空間を切り替えるトリガーの一種として用いられてもよい。音声情報取得部116の機能は、収音マイク等の音声収音装置により実現されてもよいし、情報処理装置10に別途設けられた撮像装置に備えられた収音装置によって実現されてもよい。また、音声情報取得部116は、情報処理装置10の周辺で発生する音声を取得してもよい。
[切替制御部120]
本実施形態に係る情報処理装置10は、切替制御部120を備える。切替制御部120は、情報取得部110から送信された位置情報及び属性情報の少なくともいずれか一方に応じて、実空間上で実施されるコミュニケーションと仮想空間で実施されるコミュニケーションとの切り替えを制御する。切替制御部120は、例えば、実空間上でコミュニケーションを実施している複数のユーザ間の離隔距離が所定の閾値以上となったときに、そのユーザ間の通信を接続し、仮想空間上でのコミュニケーションを実施可能としてもよい。切替制御部120は、ユーザ間の離隔距離と時間情報とに応じてコミュニケーション空間を切り替えることができる。例えば、ユーザ間の離隔距離が所定の閾値以上となった場合でも、その離隔距離が所定の閾値以上である状態が維持される時間が、所定の時間より短い場合は、実空間でのコミュニケーションが維持されてもよい。また、例えば、切替制御部120は、仮想空間上でコミュニケーションを実施している複数のユーザ間の離隔距離が所定の閾値以下となったときに、ユーザ間の通信の接続を解除し、実空間上でのコミュニケーションを実施可能としてもよい。
また、切替制御部120は、属性情報の一つであるユーザ間の親密度に応じて、コミュニケーション空間を切り替えることができる。例えば、情報処理装置10を利用して実施された特定のユーザ間のコミュニケーションの頻度や時間が所定の頻度もしくは時間以上である場合に、コミュニケーション空間を実空間から仮想空間に切り替えてもよい。
切替制御部120は、更に、動作情報取得部124で取得された動作情報に応じて、ユーザ間のネットワーク接続を確立させ、ユーザ間で実施されるコミュニケーション空間を実空間から仮想空間へ切り替えてもよい。詳細には、動作情報に応じた切り替えに関する制御内容が切替制御部120に予め設定され、切替制御部120は、取得された動作情報に応じてコミュニケーション空間を切り替えることができる。例えば、実空間でコミュニケーションを実施しているユーザのいずれかが、その場における別れを意図する動作(例えば、手を振るなどの動作)を行った場合、切替制御部120は、動作情報取得部114から取得した動作情報に基づき、コミュニケーション空間を実空間から仮想空間に切り替えてもよい。このように、コミュニケーション空間が実空間から仮想空間に切り替えられることで、ユーザは、途切れることなく自然に会話を継続することが可能となる。なお、情報処理装置10が、機械学習することで、ユーザの動作意図と動作情報とが関連付けられてもよく、切替制御部120は、その動作情報に基づいて、コミュニケーション空間を実空間から仮想空間に切り替えてもよい。
切替制御部120は、更に、音声情報取得部116により取得された音声情報に応じてユーザ間のネットワーク接続を確立させ、コミュニケーション空間を実空間から仮想空間へ切り替えてもよい。詳細には、音声情報取得部116から取得した音声認識情報に応じた切替に関する制御内容が予め設定され、切替制御部120は、音声認識情報に応じてコミュニケーション空間を切り替えることができる。具体的には、実空間でコミュニケーションを実施している複数のユーザのいずれかの音声情報取得部116が、その場における別れの挨拶等の所定の音声情報を取得し、その音声情報の内容を解析してその音声情報に対応する音声認識情報を取得する。切替制御部120は、音声情報取得部116から取得したその音声認識情報に基づいて、コミュニケーション空間を実空間から仮想空間に切り替えてもよい。同様に、音声情報取得部116が所定の音声情報を取得した場合に、切替制御部120は、コミュニケーション空間を仮想空間から実空間に切り替えてもよい。
切替制御部120は、更に、動作情報取得部114により取得された動作情報に応じて、複数のユーザの中から、他のユーザの少なくとも1人を選択してコミュニケーション空間を実空間から仮想空間に切り替えてもよい。具体的には、実空間でコミュニケーションを実施している複数のユーザの仮想像が、仮想空間上に表示されており、仮想像を選択する動作に相当する動作情報を切替制御部120は受信した場合、切替制御部120は、その動作情報の対象となる他のユーザと実施されるコミュニケーションを実空間から仮想空間に切り替えてもよい。
[コミュニケーション制御部130]
本実施形態に係る情報処理装置10は、コミュニケーション制御部130を備える。コミュニケーション制御部130は、実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間上において、ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションの接続状態をはじめ、コミュニケーションにおける各種の機能を統括的に制御する。コミュニケーション制御部130は、例えば、情報処理装置10に備えられるディスプレイにコミュニケーション相手の映像やアバタを表示させながら、ユーザ同士の会話を可能にする機能を有する。また、コミュニケーション制御部130は、情報取得部110で取得される、ユーザ情報、動作情報や音声情報によっては、コミュニケーション空間を仮想空間に切り替えることなく、通信を終了してもよい。
コミュニケーション制御部130は、情報取得部110により取得される各種の情報や、認識判断部140により取得される、実空間におけるコミュニケーション相手の実像の認識確認情報を含むユーザ認識情報等に応じて、出力内容を制御する出力制御部132を備える。
図3を参照しながら、出力制御部132の機能を説明する。出力制御部132は、実空間における他のユーザの実像に相当する仮想像を仮想空間上に表示させる。例えば、図3に示すように、ユーザU1が利用する情報処理装置10に備えられた出力制御部132は、仮想空間U1Vとコミュニケーション相手であるユーザU2の仮想像をユーザU1に提供することができる。同様に、ユーザU2が利用する情報処理装置10に備えられた出力制御部132は、仮想空間U2Vとコミュニケーション相手であるユーザU1の仮想像をユーザU1に提供することができる。
出力制御部132は、情報取得部110で取得された、他のユーザのユーザ情報を随時取得して仮想像に反映することで、最新の他のユーザの実像に相当する仮想像を表示させることが可能である。他のユーザの仮想像がリアルタイムに更新されるため、例えば図4に示すように、ユーザU2の表情が笑顔から怒った表情に変化したタイミングに合わせて、ユーザU2の仮想像VI2も怒った表情に変化し、ユーザU1はその様子を認識することができる。
仮想空間上に表示させる仮想像は、例えば、ユーザが利用する情報処理装置10に別途備えられ、実空間の外部環境を撮像する機能を有する撮像装置で撮像された他のユーザの画像でもよいし、撮像された他のユーザの画像に対して所定の変換処理を実施した画像であってもよい。また、他のユーザの画像には、情報処理装置10に別途設けられ、その情報処理装置10のユーザの少なくとも顔の一部を撮像する撮像装置によって取得される画像が利用されてもよい。具体的には、撮像装置によって撮像されたユーザの顔の一部の画像情報を、予め準備された3次元モデルにレンダリングする際のパラメータとして適用して仮想像は生成されてもよい。
出力制御部132は、さらに、ユーザ情報取得部112により取得されるユーザの位置情報及び属性情報の少なくともいずれか一方に応じて、仮想空間に出力させる内容を制御してもよい。出力制御部132は、例えば、実空間上でコミュニケーションを実施しているユーザ間の離隔距離が所定の閾値以上となったときに、仮想空間上に他のユーザの仮想像を表示させてもよい。また、出力制御部132は、実空間上の同一の場所でコミュニケーションを実施していた複数のユーザがそれぞれ異なる場所に移動を開始する直前に取得されたユーザの表情や声質等の属性情報に応じて、仮想像が表示されるように出力してもよい。
また、出力制御部132は、実空間でコミュニケーションが実施されている間に、上記撮像装置によって撮像された他のユーザの画像情報を利用して、他のユーザの仮想像を制御してもよい。具体的には、出力制御部132は、撮像された他のユーザの外観に対応するように他のユーザの仮想像を変更させてもよい。出力制御部132は、仮想空間でコミュニケーションが実施され、表示されている他のユーザの仮想像と他のユーザの実像とが異なっている場合において、他のユーザのユーザ情報がユーザ情報取得部112により取得されたときは、例えばモーフィング等の実像と仮想像との差分が徐々に小さくなるような処理を行ってもよい。
また、出力制御部132は、インターネット等既存のネットワーク上にアップロードされている他のユーザの写真や動画などの画像情報を利用して、他のユーザの仮想像を制御してもよい。具体的には、出力制御部132は、ネットワーク上にアップロードされている他のユーザの写真等の画像情報を、予め準備された3次元モデルにレンダリングする際のパラメータとして適用して、仮想像を生成してもよい。
出力制御部132は、更に、相互に接続された他のユーザの仮想像を、所定の表示方法で出力させてもよい。出力制御部132は、例えば、図5に示すように、ユーザU2の実像RI2が帽子を着用している場合は、仮想像VI2が帽子を被るような動作を行って、実像RI2と同様に帽子を着用した仮想像VI2に変更させてもよい。また、例えば、出力制御部132は、仮想像が実像の位置に移動するように仮想像を出力させてもよい。仮想像の移動の様子の表示方法は、例えば、歩み寄るような表示方法でもよい。しかしながら、仮想像が実像の位置に移動するような表示方法は、実像に重なりさえすれば特段限られず、例えば、図6下図に示すような、仮想像が実像に向かって移動したかのような軌跡が表示されてもよい。
ここで、実際の実像の動きと仮想空間に出力させた仮想像の動きとの間にはずれが生じることがあり、仮想像が、実像に歩み寄るような表示方法で出力されると、ユーザにとって違和感を覚える場合がある。しかしながら、出力制御部132が、上記のように仮想像を制御することで、ユーザは、仮想像を実像の動きと仮想像の動きとの間に生じる可能性がある動きのずれを気にすることが少なくなる。従って、出力制御部132は、更に、後述する、実空間上においてユーザが他のユーザの実像を認識したか否かを判断する機能を有する認識判断部140により取得されたユーザ認識情報を受信し、受信したユーザ認識情報に基づいた表示方法で仮想像が表示されるようにしてもよい。例えば、図6に示すように、認識判断部140により、ユーザU1がユーザU2の実像RI2を認識したと判断した後、出力制御部132は、仮想像VI2が実像RI2に向かって移動したかのような軌跡が表示されるように制御してもよい。出力制御部132は、上記のような表示方法のみに限られず、仮想像の動作の様子が表現される表示方法であれば、あらゆる表示方法で仮想像を出力させることができてもよい。
出力制御部132は、更に、相互に通信が接続された他のユーザの仮想像を実像の位置に移動するように表示させた後、仮想像を消去させるように制御してもよい。切替制御部120は、他のユーザの仮想像が消去された後、仮想空間において確立しているユーザ間の接続を解除してもよい。仮想像が実像の位置に移動するような表示方法は、先だって説明したように、例えば、図6下図に示すような、仮想像VI2が実像RI2に向かって移動したかのような軌跡が表示されてもよい。出力制御部132が、他のユーザの仮想像を実像の位置に移動するように表示させた後に仮想像を消去させるように制御することで、ユーザは、他のユーザの実像の位置を容易に把握することができる。
出力制御部132は、更に、相互に通信が接続された他のユーザの仮想像が他のユーザの実像方向を示すように出力させてもよい。出力制御部132は、例えば、仮想空間でコミュニケーションが実施されている場合において、実空間上におけるユーザ間の離隔距離が所定の閾値以下になったとき、図7に示すように、例えば、ユーザU2の仮想像VI2が、ユーザ情報取得部112により取得されたユーザ情報に基づいた実像RI2の位置を向くように表示されてもよい。他のユーザの仮想像が実像方向を向くように表示されることで、ユーザは、実空間における他のユーザの位置(すなわち実像)を容易に把握することが可能となる。
出力制御部132は、更に、相互に接続された他のユーザにより予め設定された仮想像を出力させてもよい。具体的には、ユーザ情報取得部112は、他のユーザが設定した所定のユーザ情報のみを出力制御部132に送信し、他の方法で取得されるユーザ情報を出力制御部132に送信しなくてもよい。このときのユーザ情報は、他のユーザが設定した情報であってもよく、出力制御部132は、例えば、そのユーザ情報を反映した結果、実像の外観と異なる仮想像が表示されるように制御してもよい。
出力制御部132は、更に、相互に接続された他のユーザの仮想像であり、実空間の態様と異なる態様で出力された仮想像を、他のユーザの実像に重畳して表示させるように制御してもよい。詳細には、出力制御部132は、例えば、図8に示すように、ユーザU2の実像RI2と外観が異なるように、ユーザU1が設定した態様でユーザU2の仮想像VI2が表示されるように出力させてもよい。出力制御部132は、実像と異なる態様の他のユーザの仮想像が、他のユーザの実像に重畳して表示されるように制御することで、実空間に存在すると違和感が生じるような態様の他のユーザを仮想空間上にのみ表示させることが可能である。その結果、他のユーザが実空間の他のユーザの周囲に存在する人間から不要な注目を受けることなく、ユーザは、周囲の人間が関与することのない限られたコミュニケーションを実施することができる。その結果、本実施形態に係る情報処理装置10を利用してコミュニケーションを実施するユーザは、例えば、ユーザ間のみで、あたかも仮装してパーティ等を開催しているかのような感覚を得ることができる。
出力制御部132は、更に、相互に通信が接続された他のユーザと実空間でコミュニケーションを行っている間、他のユーザの仮想像を、実像の態様とは異なる態様で表示させてもよい。出力制御部132は、例えば、図9に示すように、ユーザ間が実空間でコミュニケーションを実施する際にも、仮想像VI2を出力させたまま、機能が停止していることを示すような態様で仮想像VI2を表示させていてもよい。その後、出力制御部132は、ユーザ間のコミュニケーションが実空間から仮想空間に切り替えられると、実像と別の態様で表示されていた仮想像が実像に対応するような態様で表示されるように制御してもよい。そして、ユーザ間の引き続きコミュニケーションが実施されてもよい。
本実施形態に係る情報処理装置10は、音声出力機能を有する音声出力部を備えていてもよく、ユーザに対して出力される音声情報は、音声出力部により出力されてもよい。そして、出力制御部132は、更に、音声情報取得部116により取得された音声情報が所定の位置から疑似的に出力されるように制御してもよい。すなわち、音像の位置を実像の位置に徐々に近づけ、実像の位置と音像の位置が一致したときに、音声情報の出力が停止され、ユーザは、実空間上の他のユーザすなわち実像の音声を認識できるようにしてもよい。また、実空間から仮想空間にコミュニケーション空間が切り替えられるときは、出力制御部132は、実像の位置と音像の位置を一致させて音声情報を出力させてもよい。更に、出力制御部132は、ユーザ間の離隔距離に応じて、音量を変化させてもよい。詳細には、出力制御部132は、例えば、公知の音声出力技術等を利用して、音像の位置を制御してもよい。これにより、ユーザは、仮想空間上であたかも他のユーザ本人と実際に会って会話をしているかのような感覚を得ることができる。
実際には、出力される音声情報の出力タイミングと、実像から発せられる音声の発生タイミングには、ずれが生じることがある。そのため、出力制御部132は、例えば、公知技術の一つである音声分離技術を利用して、実像が発する音声をキャンセルし、仮想像からその音声情報を出力するように制御してもよい。また、実像が発する音声だけでなく、実空間に存在する音声全てを遮断し、必要に応じて音声情報を再構成して仮想空間から出力させてもよい。また、出力制御部132は、仮想空間を出力する出力装置映像出力条件や音声出力条件を制御してもよい。
出力制御部132は、コミュニケーションを実施する他のユーザの仮想像が表示されるように制御するだけでなく、例えば、ユーザが飼っているペット等の、ユーザが指定する何かしらのオブジェクトが仮想空間上に仮想像として表示されるように制御してもよい。ユーザが指定することで生成された仮想像は、コミュニケーションを実施している複数のユーザに対して提供されてもよいし、オブジェクトを指定したユーザのみに提供されてもよい。
また、出力制御部132は、仮想空間を出力する出力装置映像出力条件や音声出力条件を制御してもよい。
[認識判断部140]
本実施形態に係る情報処理装置10は、認識判断部140を備えていてもよく、認識判断部140は、実空間上で、ユーザが相互に通信が接続された他のユーザの実像を認識したか否かを判断する機能を有していてもよい。認識判断部140による、他のユーザの実像の認識判断は、公知の視点認識技術を利用して行われてもよい。認識判断部140は、例えば、視点認識技術を利用してユーザの視点位置が検出され、その視点位置に関する視点位置情報と、ユーザ情報取得部112により取得された他のユーザの位置情報途に基づき、ユーザが他のユーザの実像を認識したか否かを判断してもよい。
また、認識判断部140は、公知の音声認識技術を利用して、ユーザが他のユーザの実像を認識したか否かを判断してもよい。認識判断部140は、例えば、音声認識技術を利用して、ユーザが他のユーザに対して呼びかける際に使用する言葉等のユーザ判断用の音声情報を検出したときに、他のユーザの実像を認識したと判断してもよい。このとき、認識判断部140は、音声情報に加えて、ユーザ情報取得部112により取得された位置情報を利用することで、位置情報を利用しない場合と比較して、より高精度で他のユーザの実像の認識判断を行うことができる。
[通信制御部150]
通信制御部150は、ネットワーク20を介したユーザ間の通信を制御し、コミュニケーション制御部130の制御指示に応じて、所定の他のユーザとの通信を接続し、又は接続を解除する処理を実行する。また、通信制御部150は、情報取得部110により取得された、ユーザの位置情報や属性情報、動作情報、音声情報等を通信が接続された他のユーザに提供する処理を実行する。
[記憶部160]
記憶部160は、本実施形態に係る情報処理装置10が備える記憶装置の一例である。記憶部160には、情報処理装置10が、上記のような各種の処理を実施する際に利用する各種のプログラムやデータベース等が適宜記録されている。記憶部160には、上記のような情報取得部が取得した各種の情報が履歴情報として記録されていてもよい。更に、記憶部160には、例えば、情報取得部110や認識判断部140等がそれぞれの処理を行う際に、保存する必要が生じた様々な処理の途中経過等が適宜記録されてもよい。情報取得部110や認識判断部140が実行する処理に限られず、本実施形態に係る情報処理装置10が何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等が適宜記録されてもよい。この記憶部160は、情報取得部110、切替制御部120、コミュニケーション制御部130、認識判断部140等が、自由にリード/ライト処理を実施することが可能である。
ここまで、情報処理装置10の構成の一例について詳細に説明した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。続いて、情報処理装置10の動作の一例について詳細に説明する。
<<動作>>
<動作例1>
本実施形態に係る情報処理装置10の動作について、図10を参照しながら説明する。図10は、本実施形態に係る情報処理装置10の動作の流れの一例を示す流れ図である。まず、仮想空間で実施されているコミュニケーションが実空間で実施されるコミュニケーションに切り替えられる動作について説明する。本動作例では、ユーザU1とユーザU2とが離れた場所に存在し、ユーザU1及びユーザU2が本実施形態に係る情報処理装置10を利用しながら、実空間において待ち合わせ場所で合流する場合を例に挙げて説明する。
最初に、ユーザU1とユーザU2との通信が接続された状態で本実施形態に係る動作が開始され、ユーザU1及びユーザU2のユーザ情報が取得、交換される(S101)。詳細には、ユーザU1及びユーザU2が利用する情報処理装置10のユーザ情報取得部112により、ユーザU1及びユーザU2それぞれの位置情報や属性情報等のユーザ情報が取得される。取得されたそれぞれのユーザ情報は、通信制御部150を通じて互いに送受信される。次いで、取得されたユーザ情報に基づいて、ユーザU1及びユーザU2それぞれの仮想像が表示される(S103)。詳細には、図2に示すように、ユーザU1の情報処理装置10には、仮想空間U1Vが生成され、仮想空間U1V上にユーザU2の仮想像VI2が生成される。同様に、ユーザU2の情報処理装置10には、仮想空間U2Vが生成され、仮想空間U2V上にユーザU1の仮想像VI1が生成される。生成される仮想空間は、実空間上に他のユーザが表示されたものであるが、例えば、ユーザが飼っているペット等のユーザが指定する何かしらのオブジェクトを仮想空間上に仮想像として表示させてもよい。そして、ユーザU1は、仮想空間U1V上で仮想像VI2と会話することができ、ユーザU2は、仮想空間仮想像VI2上で仮想像VI1と会話可能になる。
S101及びS103が随時繰り返され、ユーザ情報取得部112により、ユーザU1及びユーザU2の最新のユーザ情報が取得されるとともに、仮想像U1V及び仮想像U2Vは、最新のユーザ情報に応じた仮想像U1V及び仮想像U2Vに随時更新される。次いで、認識判断部140により、ユーザが他のユーザを認識したか否かが判断される(S105)。詳細には、ユーザU1とユーザU2との間の離隔距離が所定の閾値以下になり、ユーザU1及びユーザU2が同一環境に存在すると、例えば、図5上図に示すように、ユーザU2の仮想像VI2は、ユーザU2の実像RI2の方向を向いてもよい。そして、ユーザU1が実空間上のユーザU2(すなわちユーザU2の実像RI2)を発見すると、認識判断部140は、ユーザU1の発見に伴う認識情報により、ユーザU2の実像RI2を認識したと判断してもよい。このとき、S101及びS103でユーザ情報が最新に更新されているものの、ユーザU2の実像RI2と仮想像VI2との外観が異なる場合、出力制御部132により、仮想像VI2の外観を実像RI2に対応するように変化させてもよい。例えば、図5下図に示すように、実像RI2が帽子を着用している場合は、出力制御部132は、仮想像VI2が帽子を被るような動作を行って着用するように仮想像VI2を制御してもよい。
S101及びS103において、ユーザ情報取得部112により、ユーザ情報が最新に更新されているものの、ユーザU2が予め設定したユーザ情報のみを仮想像VI2に反映させた場合、実像RI2の外観と異なる仮想像VI2が表示される。その結果、ユーザU1は、ユーザU2の実像RI2を確認したときに、初めて実際のユーザU2の姿を確認することができる。
続いて、出力制御部132は、ユーザU2の仮想像VI2をユーザU2の実像RI2の位置に移動させてもよい(S107)。出力制御部132は、仮想像VI2を実像RI2の位置に歩み寄るように移動させてもよい。実像RI2の外観と仮想像VI2の外観が大きく異なるときは、ユーザU1が違和感を覚える可能性があるため、出力制御部132は、何かしらのアニメーションを出力させて、仮想像VI2が実像RI2に向かって移動したことを示す内容を出力させてもよい。出力制御部132は、例えば、図6下に示すように、実像RI2の位置に向かって移動したかのような軌跡等の表示を出力させてもよい。そして、ユーザU2の仮想像VI2がユーザU2の実像RI2の位置に移動後、出力制御部132は、仮想像VI2を消去させ(S109)、通信制御部150は、接続された通信を解除してもよい(S111)。本実施形態に係る情報処理装置10が、上記のように動作することで、ユーザU1とユーザU2との間のコミュニケーションが実施される空間が、仮想空間から実空間に連続的に、かつ自然に切り替えられる。
S109において、出力制御部132は、例えば図8に示すように、ユーザU2の実像RI2と異なる態様の仮想像VI2が、実像RI2に重畳するように表示を制御してもよい。また、出力制御部132は、仮想像VI2を消去させなくてもよく、例えば図9に示すように、機能が停止していることを示すような態様で仮想像VI2を表示させていてもよい。
<動作例2>
続いて、本実施形態に係る情報処理装置10の別の動作について、図11を参照しながら説明する。図11は、本実施形態に係る情報処理装置10の動作の流れの一例を示す流れ図である。実空間上で実施されているコミュニケーションが仮想空間上で実施されるコミュニケーションに切り替えられる動作について説明する。本動作例では、実空間上の同一の場所に存在するユーザU1とユーザU2とが、それぞれ異なる場所に移動する場合を例に挙げて説明する。
最初に、ユーザU1とユーザU2との通信が接続された状態で本実施形態に係る動作が開始される。ユーザU1が利用する情報処理装置10に備えられる情報取得部110は、ユーザU1のユーザ情報を取得する(S201)。このとき、情報取得部110は、ユーザU1のユーザ情報だけでなく、ユーザU1の動作情報や音声情報を取得してもよい。次いで、ユーザU1が利用する情報処理装置10に備えられるコミュニケーション制御部130は、ユーザU1の指示に応じて、ユーザU1に提供される仮想空間U1Vを生成する(S203)。コミュニケーション制御部130は、ユーザU1の指示だけでなく、情報取得部110により取得されたユーザU1のユーザ情報等に応じて、自動的に仮想空間U1Vを生成してもよい。例えば、ユーザU1とユーザU2との間の離隔距離が所定値以上となったときに、自動的に仮想空間U1Vが生成されてもよい。また、ユーザU1とユーザU2とが、それぞれ異なる場所に移動を開始する直前のユーザU2の表情や声質等の属性情報により、自動的に仮想空間U1Vが生成されてもよい。ユーザU1が複数のユーザとコミュニケーションを図りたい場合は、ユーザU1の所定の操作により、そのユーザを選択して複数の他のユーザの仮想像を仮想空間U1V上に生成してもよい。次いで、ユーザU1及びユーザU2のユーザ情報が交換され(S205)、ユーザU2の仮想像VI2が生成される(S207)。S205及びS207は、動作例1で既に説明したS101及びS103と同様であるため、詳細な説明は省略する。
最後に、コミュニケーション制御部130により、コミュニケーションの終了処理が実行される(S209)。コミュニケーションの終了処理は、例えば、別れの挨拶等の所定の音声情報が音声情報取得部116により取得された場合に、音声情報取得部116が音声認識を行って音声認識情報を生成し、コミュニケーション制御部130は、その音声認識情報を基にコミュニケーションを終了してもよい。また、情報処理装置10が、例えば、AR(Augmented Reality)グラス等のウェアラブル装置で実現されている場合、ユーザが装着しているウェアラブル装置を身体から取り外すことでコミュニケーションは終了してもよい。
ここまで、本実施形態に係る情報処理装置10の動作例について詳細に説明した。続いて、他の動作例について詳細に説明する。
<<ハードウェア構成>>
以上、本開示に係る実施形態について説明した。上述した情報処理は、ソフトウェアと、以下に説明する情報処理装置のハードウェアとの協働により実現される。
図12は、本実施形態に係る情報処理装置のハードウェア構成を示したブロック図である。情報処理装置は、CPU(Central Processing Unit)180と、ROM(Read Only Memory)181と、RAM(Random Access Memory)182と、ホストバス183と、ブリッジ184と、外部バス185と、インタフェース186と、表示装置188と、音声出力装置189と、ストレージ装置(HDD)190と、ネットワークインタフェース913とを備える。本実施形態に係る情報処理装置は、入力装置187と、ドライブ191とを有してもよい。
CPU180は、演算処理装置及び制御装置として機能し、各種プログラムに従って情報処理装置内の動作全般を制御する。また、CPU180は、マイクロプロセッサであってもよい。ROM181は、CPU180が使用するプログラムや演算パラメータ等を記憶する。RAM182は、CPU180の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス183により相互に接続されている。CPU180、ROM181及びRAM182とソフトウェアとの協働により、情報取得部110、切替制御部120、コミュニケーション制御部130、認識判断部140等の機能が実現され得る。
ホストバス183は、ブリッジ184を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス185に接続されている。なお、必ずしもホストバス183、ブリッジ184及び外部バス185を分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置187は、タッチパネル、ボタン、マイクロフォン、センサ、スイッチ及びレバーなどメンバーが情報を入力するための入力手段と、メンバーによる入力に基づいて入力信号を生成し、CPU180に出力する入力制御回路などから構成され得る。
表示装置188は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置などの表示装置を含む。
ストレージ装置190は、本実施形態にかかる情報処理装置の記憶部の一例として構成されたデータ記憶用の装置である。ストレージ装置190は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置及び記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置190は、例えば、HDD(Hard Disk Drive)やSSD(Solid Strage Drive)、あるいは同等の機能を有するメモリ等で構成される。このストレージ装置190は、ストレージを駆動し、CPU180が実行するプログラムや各種データを記憶する。
ドライブ191は、記憶媒体用リーダライタであり、情報処理装置に内蔵、あるいは外付けされる。ドライブ191は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体193に記録されている情報を読み出して、RAM182またはストレージ装置190に出力する。また、ドライブ191は、リムーバブル記憶媒体193に情報を書き込むこともできる。
ネットワークインタフェース192は、例えば、ネットワーク20に接続するための通信デバイス等で構成された通信インタフェースである。また、ネットワークインタフェース192は、無線LAN(Local Area Network)対応端末であっても、有線による通信を行うワイヤー端末であってもよい。
<<結び>>
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、又は、上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間上において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、
実空間における前記ユーザの位置に関する位置情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、
前記位置情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、を備える情報処理装置。
(2)
前記ユーザの動作に関する動作情報を取得する動作情報取得部をさらに備え、
前記切替制御部は、前記ユーザの前記動作情報又は相互に接続された他のユーザの前記動作情報の少なくともいずれか一方に応じて、前記ユーザ間のネットワーク接続を確立させて、前記コミュニケーション空間を前記実空間から前記仮想空間へ切り替える、(1)に記載の情報処理装置。
(3)
前記ユーザが発する音声に関する音声情報を取得する音声情報取得部をさらに備え、
前記切替制御部は、前記ユーザの前記音声情報又は相互に接続された他のユーザの前記音声情報の少なくともいずれか一方に応じて、前記ユーザ間のネットワーク接続を確立させて、前記コミュニケーション空間を前記実空間から前記仮想空間へ切り替える、(1)又は(2)に記載の情報処理装置。
(4)
前記ユーザの動作に関する動作情報を取得する動作情報取得部を更に備え、
前記切替制御部は、動作情報取得部により取得された前記動作情報に応じて、複数の前記ユーザの中から他のユーザの少なくとも1人を選択して、前記実空間で実施されるコミュニケーションから前記仮想空間で実施されるコミュニケーションに切り替える、(1)~(3)のいずれか1つに記載の情報処理装置。
(5)
前記コミュニケーション制御部は、前記位置情報及び前記属性情報の少なくともいずれかに応じて、前記仮想空間に出力させる内容を制御する出力制御部を更に備える、(1)~(4)のいずれか1つに記載の情報処理装置。
(6)
前記出力制御部は、前記ユーザが相互に接続された他のユーザの前記仮想像を、所定の表示方法で出力させる、(1)~(5)のいずれか1つに記載の情報処理装置。
(7)
相互に接続された他のユーザを認識し、ユーザ認識に関するユーザ認識情報を取得する認識判断部をさらに備え、
前記出力制御部は、前記認識判断部から送信された前記ユーザ認識情報を受信した後、前記他のユーザの前記仮想像を所定の表現方法で出力させて、前記他のユーザの前記実像と、前記他のユーザの前記仮想像を同期させる、(1)~(6)のいずれか1つに記載の情報処理装置。
(8)
前記出力制御部は、相互に接続された他のユーザの前記仮想像が、前記他のユーザの実像方向を示すように出力させる、(1)~(7)のいずれか1つに記載の情報処理装置。
(9)
前記出力制御部は、相互に接続された他のユーザの前記仮想像を前記実像の位置で消去させ、
前記切替制御部は、仮想空間において確立している前記ユーザ間の接続を解除する、(1)~(8)のいずれか1つに記載の情報処理装置。
(10)
前記出力制御部は、相互に接続された他のユーザにより予め設定された仮想像を出力させる、(1)~(9)のいずれか1つに記載の情報処理装置。
(11)
前記出力制御部は、相互に接続された他のユーザの前記仮想像であり、前記実空間の態様と異なる態様で出力された前記仮想像を、前記他のユーザの実像に重畳して表示させる、(1)~(10)のいずれか1つに記載の情報処理装置。
(12)
前記出力制御部は、前記ユーザが相互に接続された他のユーザと実空間でコミュニケーションを行っている間、前記他のユーザの前記仮想像を、実空間の態様とは異なる態様で表示させる、(1)~(11)のいずれか1つに記載の情報処理装置。
(13)
前記ユーザが発する音声に関する音声情報を取得する音声情報取得部を更に備え、
前記コミュニケーション制御部は、前記位置情報と前記属性情報とに応じて、前記仮想空間に出力させる内容を制御する出力制御部を更に備え、
前記出力制御部は、前記音声情報取得部により取得された前記音声情報の出力位置を制御する、(1)~(12)のいずれか1つに記載の情報処理装置。
(14)
実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間上において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御することと、
実空間における前記ユーザの位置に関する位置関連情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得することと、
前記位置関連情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御すること、を含む情報処理方法。
(15)
コンピュータに、
実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間上において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部、
実空間における前記ユーザの位置に関する位置関連情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得する情報取得部、
前記位置関連情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部、として機能させるためのプログラム。
5 情報処理システム
10 情報処理装置
20 ネットワーク
110 情報取得部
112 ユーザ情報取得部
114 動作情報取得部
116 音声情報取得部
120 切替制御部
130 コミュニケーション制御部
140 認識判断部
150 通信制御部
160 記憶部
550 表示制御装置

Claims (12)

  1. 実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、
    実空間における前記ユーザの位置に関する位置情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、
    前記位置情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、
    前記ユーザの動作に関する動作情報を取得する動作情報取得部と、
    を備え、
    前記切替制御部は、前記動作情報取得部により取得された前記動作情報に応じて、複数の前記ユーザの中から他のユーザの少なくとも1人を選択して、前記実空間で実施されるコミュニケーションから前記仮想空間で実施されるコミュニケーションに切り替える、
    情報処理装置。
  2. 前記ユーザが発する音声に関する音声情報を取得する音声情報取得部をさらに備え、
    前記切替制御部は、前記ユーザの前記音声情報又は相互に接続された他のユーザの前記音声情報の少なくともいずれか一方に応じて、前記ユーザ間のネットワーク接続を確立させて、コミュニケーションが実施される空間を前記実空間から前記仮想空間へ切り替える、請求項1に記載の情報処理装置。
  3. 実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、
    実空間における前記ユーザの位置に関する位置情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、
    前記位置情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、
    相互に接続された他のユーザを認識し、ユーザ認識に関するユーザ認識情報を取得する認識判断部と、
    備え、
    前記コミュニケーション制御部は、前記位置情報及び前記属性情報の少なくともいずれかに応じて、前記仮想空間に出力させる内容を制御する出力制御部を更に備え、
    前記出力制御部は、前記認識判断部から送信された前記ユーザ認識情報を受信した後、前記他のユーザの前記仮想像を所定の表現方法で出力させて、前記他のユーザの前記実像と、前記他のユーザの前記仮想像を同期させる、
    報処理装置。
  4. 前記出力制御部は、前記ユーザが相互に接続された他のユーザの前記仮想像を、所定の表示方法で出力させる、請求項に記載の情報処理装置。
  5. 実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、
    実空間における前記ユーザの位置に関する位置情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、
    前記位置情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、
    を備え、
    前記コミュニケーション制御部は、前記位置情報及び前記属性情報の少なくともいずれかに応じて、前記仮想空間に出力させる内容を制御する出力制御部を更に備え、
    前記出力制御部は、相互に接続された他のユーザの前記仮想像が、前記他のユーザの実像方向を示すように出力させる、
    報処理装置。
  6. 実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、
    実空間における前記ユーザの位置に関する位置情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、
    前記位置情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、
    を備え、
    前記コミュニケーション制御部は、前記位置情報及び前記属性情報の少なくともいずれかに応じて、前記仮想空間に出力させる内容を制御する出力制御部を更に備え、
    前記出力制御部は、相互に接続された他のユーザの前記仮想像を前記実像の位置で消去させ、
    前記切替制御部は、前記仮想空間において確立している前記ユーザ間の接続を解除する、
    報処理装置。
  7. 前記出力制御部は、前記相互に接続された他のユーザにより予め設定された仮想像を出力させる、請求項4又は5に記載の情報処理装置。
  8. 実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、
    実空間における前記ユーザの位置に関する位置情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、
    前記位置情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、
    を備え、
    前記コミュニケーション制御部は、前記位置情報及び前記属性情報の少なくともいずれかに応じて、前記仮想空間に出力させる内容を制御する出力制御部を更に備え、
    前記出力制御部は、相互に接続された他のユーザの前記仮想像であり、前記実空間の態様と異なる態様で出力された前記仮想像を、前記他のユーザの実像に重畳して表示させる、
    報処理装置。
  9. 実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部と、
    実空間における前記ユーザの位置に関する位置情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得するユーザ情報取得部と、
    前記位置情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部と、
    を備え、
    前記コミュニケーション制御部は、前記位置情報及び前記属性情報の少なくともいずれかに応じて、前記仮想空間に出力させる内容を制御する出力制御部を更に備え、
    前記出力制御部は、前記実空間において前記ユーザが相互に接続された他のユーザとコミュニケーションを行っている間、前記他のユーザの前記仮想像を、前記実空間の態様とは異なる態様で表示させる、
    報処理装置。
  10. 前記ユーザが発する音声に関する音声情報を取得する音声情報取得部を更に備え、
    前記出力制御部は、
    前記位置情報と前記属性情報とに応じて、前記仮想空間に出力させる内容を制御し、
    前記音声情報取得部により取得された前記音声情報の出力位置を制御する、
    請求項5に記載の情報処理装置。
  11. 情報処理装置が、
    実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御することと、
    実空間における前記ユーザの位置に関する位置関連情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得することと、
    前記位置関連情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御することと、
    前記ユーザの動作に関する動作情報を取得することと、
    を含み、
    取得された前記動作情報に応じて、複数の前記ユーザの中から他のユーザの少なくとも1人を選択して、前記実空間で実施されるコミュニケーションから前記仮想空間で実施されるコミュニケーションに切り替えることを含む、
    情報処理方法。
  12. コンピュータに、
    実空間に存在するユーザの実像に対応する仮想像が生成される仮想空間において、前記ユーザの仮想像を介してユーザ間で相互に実施されるコミュニケーションを制御するコミュニケーション制御部、
    実空間における前記ユーザの位置に関する位置関連情報及び前記ユーザ間の親密度に関する情報を少なくとも含む属性情報を、所定のタイミングで取得する情報取得部、
    前記位置関連情報及び前記属性情報の少なくともいずれか一方に応じて、前記実空間で実施されるコミュニケーションと、前記仮想空間で実施されるコミュニケーションとの切り替えを制御する切替制御部、及び、
    前記ユーザの動作に関する動作情報を取得する動作情報取得部、
    として機能させるためのプログラムであって、
    前記切替制御部は、前記動作情報取得部により取得された前記動作情報に応じて、複数の前記ユーザの中から他のユーザの少なくとも1人を選択して、前記実空間で実施されるコミュニケーションから前記仮想空間で実施されるコミュニケーションに切り替える、
    プログラム。
JP2019570313A 2018-02-07 2018-11-28 情報処理装置、情報処理方法及びプログラム Active JP7279646B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018020439 2018-02-07
JP2018020439 2018-02-07
PCT/JP2018/043825 WO2019155735A1 (ja) 2018-02-07 2018-11-28 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2019155735A1 JPWO2019155735A1 (ja) 2021-02-18
JP7279646B2 true JP7279646B2 (ja) 2023-05-23

Family

ID=67548875

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019570313A Active JP7279646B2 (ja) 2018-02-07 2018-11-28 情報処理装置、情報処理方法及びプログラム

Country Status (5)

Country Link
US (1) US11553009B2 (ja)
EP (1) EP3751422A4 (ja)
JP (1) JP7279646B2 (ja)
CN (1) CN111670431B (ja)
WO (1) WO2019155735A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10846898B2 (en) * 2019-03-28 2020-11-24 Nanning Fugui Precision Industrial Co., Ltd. Method and device for setting a multi-user virtual reality chat environment
US20200410764A1 (en) * 2019-06-28 2020-12-31 Snap Inc. Real-time augmented-reality costuming
US11759711B2 (en) * 2021-09-28 2023-09-19 Sony Group Corporation Method for quasi-random placement of virtual items in an extended reality (XR) space
JP7133257B1 (ja) 2022-01-14 2022-09-08 株式会社キッズプレート プログラム、情報処理方法、情報処理装置、および情報処理システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008270913A (ja) 2007-04-16 2008-11-06 Ntt Docomo Inc 制御装置、移動通信システム及び通信端末
JP2010268305A (ja) 2009-05-15 2010-11-25 Nippon Telegr & Teleph Corp <Ntt> ビデオメール通信方法、装置およびプログラム
JP2015080120A (ja) 2013-10-17 2015-04-23 コニカミノルタ株式会社 画像処理システム、画像処理装置及び携帯端末装置
JP2017102897A (ja) 2016-09-20 2017-06-08 株式会社コロプラ アバター表示システム、ユーザ端末、及びプログラム

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001154966A (ja) 1999-11-29 2001-06-08 Sony Corp コンピュータ・ネットワーク上で構築・提供される共有仮想空間上で複数ユーザが参加可能な仮想会話を支援する会話支援システム及び会話支援方法、並びに、プログラム記憶媒体
JP2002259318A (ja) 2001-02-27 2002-09-13 Victor Co Of Japan Ltd 仮想現実空間での人物画像表示方法
SE519929C2 (sv) * 2001-07-26 2003-04-29 Ericsson Telefon Ab L M Förfarande, system och terminal för att under pågående samtal ändra eller uppdatera tex. avatarer på andra användares terminaler i ett mobiltelekommunikationssystem
US7003040B2 (en) * 2002-09-24 2006-02-21 Lg Electronics Inc. System and method for multiplexing media information over a network using reduced communications resources and prior knowledge/experience of a called or calling party
US20080215994A1 (en) * 2007-03-01 2008-09-04 Phil Harrison Virtual world avatar control, interactivity and communication interactive messaging
JP4990234B2 (ja) 2008-07-07 2012-08-01 オリンパス株式会社 測距装置、測距方法、測距プログラム又は撮像装置
US9480919B2 (en) * 2008-10-24 2016-11-01 Excalibur Ip, Llc Reconfiguring reality using a reality overlay device
JP5423379B2 (ja) * 2009-08-31 2014-02-19 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム
US8773570B2 (en) 2010-06-17 2014-07-08 Panasonic Corporation Image processing apparatus and image processing method
JP5765019B2 (ja) * 2011-03-31 2015-08-19 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
US20150312561A1 (en) * 2011-12-06 2015-10-29 Microsoft Technology Licensing, Llc Virtual 3d monitor
JP2013205983A (ja) 2012-03-27 2013-10-07 Sony Corp 情報入力装置及び情報入力方法、並びにコンピューター・プログラム
JP2014071499A (ja) * 2012-09-27 2014-04-21 Kyocera Corp 表示装置および制御方法
US9448404B2 (en) * 2012-11-13 2016-09-20 Qualcomm Incorporated Modifying virtual object display properties to increase power performance of augmented reality devices
US9256072B2 (en) * 2013-10-02 2016-02-09 Philip Scott Lyren Wearable electronic glasses that detect movement of a real object copies movement of a virtual object
US9898844B2 (en) * 2013-12-31 2018-02-20 Daqri, Llc Augmented reality content adapted to changes in real world space geometry
US9990774B2 (en) * 2014-08-08 2018-06-05 Sony Interactive Entertainment Inc. Sensory stimulus management in head mounted display
US20170061700A1 (en) * 2015-02-13 2017-03-02 Julian Michael Urbach Intercommunication between a head mounted display and a real world object
JP6596883B2 (ja) * 2015-03-31 2019-10-30 ソニー株式会社 ヘッドマウントディスプレイ及びヘッドマウントディスプレイの制御方法、並びにコンピューター・プログラム
US10775878B2 (en) * 2015-04-10 2020-09-15 Sony Interactive Entertainment Inc. Control of personal space content presented via head mounted display
KR101830657B1 (ko) * 2015-04-27 2018-02-21 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
WO2016203792A1 (ja) * 2015-06-15 2016-12-22 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
WO2017047178A1 (ja) * 2015-09-16 2017-03-23 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP6569452B2 (ja) 2015-10-08 2019-09-04 富士通株式会社 画像生成システム、画像生成プログラム及び画像生成方法
JP6017008B1 (ja) * 2015-12-01 2016-10-26 株式会社コロプラ アバター表示システム、ユーザ端末、及びプログラム
US10176636B1 (en) * 2015-12-11 2019-01-08 A9.Com, Inc. Augmented reality fashion
JP2017182739A (ja) 2016-03-31 2017-10-05 富士通株式会社 視線検出装置、視線検出方法及び視線検出用コンピュータプログラム
US9883144B2 (en) 2016-05-12 2018-01-30 Fuji Xerox Co., Ltd. System and method for replacing user media streams with animated avatars in live videoconferences
US10521947B2 (en) * 2017-09-29 2019-12-31 Sony Interactive Entertainment Inc. Rendering of virtual hand pose based on detected hand input
US10500496B2 (en) * 2018-01-12 2019-12-10 International Business Machines Corporation Physical obstacle avoidance in a virtual reality environment

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008270913A (ja) 2007-04-16 2008-11-06 Ntt Docomo Inc 制御装置、移動通信システム及び通信端末
JP2010268305A (ja) 2009-05-15 2010-11-25 Nippon Telegr & Teleph Corp <Ntt> ビデオメール通信方法、装置およびプログラム
JP2015080120A (ja) 2013-10-17 2015-04-23 コニカミノルタ株式会社 画像処理システム、画像処理装置及び携帯端末装置
JP2017102897A (ja) 2016-09-20 2017-06-08 株式会社コロプラ アバター表示システム、ユーザ端末、及びプログラム

Also Published As

Publication number Publication date
CN111670431A (zh) 2020-09-15
EP3751422A4 (en) 2021-04-21
JPWO2019155735A1 (ja) 2021-02-18
EP3751422A1 (en) 2020-12-16
US11553009B2 (en) 2023-01-10
CN111670431B (zh) 2024-04-26
US20210037063A1 (en) 2021-02-04
WO2019155735A1 (ja) 2019-08-15

Similar Documents

Publication Publication Date Title
JP7279646B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP7127645B2 (ja) 情報処理装置、情報処理方法、及びプログラム
JP5898378B2 (ja) 情報処理装置およびアプリケーション実行方法
US11170580B2 (en) Information processing device, information processing method, and recording medium
US10466777B2 (en) Private real-time communication between meeting attendees during a meeting using one or more augmented reality headsets
CN111158469A (zh) 视角切换方法、装置、终端设备及存储介质
TW201733345A (zh) 使用互動化身的通訊技術(二)
CN111045511B (zh) 基于手势的操控方法及终端设备
KR102463806B1 (ko) 이동이 가능한 전자 장치 및 그 동작 방법
WO2019206186A1 (zh) 唇语识别方法及其装置、增强现实设备以及存储介质
WO2018139203A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2017076202A (ja) 反応出力システム、反応出力プログラム、反応出力方法
WO2019054037A1 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2019138682A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP7094759B2 (ja) システム、情報処理方法及びプログラム
US20210385101A1 (en) Information processing apparatus and information processing method
US11740773B2 (en) Information processing device and method
WO2022003912A1 (ja) 情報処理システムおよび情報処理端末
US20240012599A1 (en) Information processing apparatus, information processing method, and program
WO2023079847A1 (ja) 情報処理装置、情報処理方法および記憶媒体
WO2023090163A1 (ja) 情報処理装置、情報処理方法、およびプログラム
KR20220013235A (ko) 영상 통화 수행 방법, 그 방법을 수행하는 디스플레이 기기, 및 그 방법을 수행하는 프로그램이 저장된 컴퓨터 판독 가능 저장 매체
JP2022148263A (ja) ロボット、コミュニケーションシステム、コミュニケーション方法及びプログラム
TW201924321A (zh) 使用互動化身的通訊技術(五)
TW201440529A (zh) 使用互動化身的通訊技術

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230424

R151 Written notification of patent or utility model registration

Ref document number: 7279646

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151