JP6744271B2 - 表示装置、表示プログラム、表示方法及び表示システム - Google Patents

表示装置、表示プログラム、表示方法及び表示システム Download PDF

Info

Publication number
JP6744271B2
JP6744271B2 JP2017183057A JP2017183057A JP6744271B2 JP 6744271 B2 JP6744271 B2 JP 6744271B2 JP 2017183057 A JP2017183057 A JP 2017183057A JP 2017183057 A JP2017183057 A JP 2017183057A JP 6744271 B2 JP6744271 B2 JP 6744271B2
Authority
JP
Japan
Prior art keywords
display
display device
range
image
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017183057A
Other languages
English (en)
Other versions
JP2019060910A (ja
Inventor
智明 今野
智明 今野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2017183057A priority Critical patent/JP6744271B2/ja
Publication of JP2019060910A publication Critical patent/JP2019060910A/ja
Priority to JP2020129488A priority patent/JP6941715B2/ja
Application granted granted Critical
Publication of JP6744271B2 publication Critical patent/JP6744271B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、複数のユーザで共有された画像を表示する表示装置、表示プログラム、表示方法及び表示システムに関する。
近年、ユーザごとのアバタを表示してユーザ間でコミュニケーションを行うことができる仮想現実(VR; Virtual Reality)空間の技術が開発されている。仮想現実空間では、静止画又は動画の画像を複数ユーザで共有して鑑賞することができる。
仮想現実空間において全球画像等の広範囲の画像を複数ユーザで共有して鑑賞する際には、画像の全範囲を一度に表示すると被写体が小さくなって見づらいことから、ユーザは画像の一部を表示範囲として表示する。したがってユーザごとに表示範囲が異なるため、各ユーザが画像のどの部分を見ているかを共有できると便利である。
特許文献1には、仮想現実空間において複数のユーザのアバタ画像を表示する際に、アバタの顔や目の動きを実際のユーザの顔や目の動きに追従させる技術が記載されている。このような技術によれば、ユーザは他ユーザのアバタの顔を見ることによって、他ユーザがどこを見ているかを知ることができる。
特開2017−102639号公報
しかしながら、特許文献1に記載の技術では、ユーザは、他ユーザがどこを見ているかを知るために他ユーザのアバタの顔を見ることが必要である。ユーザが他ユーザのアバタの顔を見ている間は画像の所望の部分を見ることができないため、画像の鑑賞が妨げられてしまう。
本発明はこれらの点に鑑みてなされたものであり、画像を共有して鑑賞する際に他ユーザがどこを見ているかを適切に表示可能な表示装置、表示プログラム、表示方法及び表示システムを提供することを目的とする。
本発明の第1の態様の表示装置は、他の表示装置が画像の一部を表示するための表示範囲の位置を受信する受信部と、自身の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信部が受信した前記他の表示装置の前記表示範囲の位置を示す第1の記号を表示する表示制御部と、を有する。
前記表示制御部は、前記自身の表示装置の前記表示範囲の位置を基準とした前記他の表示装置の前記表示範囲の位置への向きを示す第2の記号を表示してもよい。
前記表示制御部は、前記自身の表示装置の前記表示範囲の位置と前記他の表示装置の前記表示範囲の位置との間の距離に従って設定された大きさを有する前記第2の記号を表示してもよい。
前記表示制御部は、前記他の表示装置の前記表示範囲の位置が前記自身の表示装置の前記表示範囲の外にある場合に、前記第2の記号を表示してもよい。
前記受信部は、前記他の表示装置から所定の指示を受信し、前記表示制御部は、前記受信部が前記所定の指示を受信した場合に、前記自身の表示装置の前記表示範囲を前記他の表示装置の前記表示範囲の位置に移動してもよい。
前記表示制御部は、前記自身の表示装置の前記表示範囲において、前記他の表示装置の前記表示範囲の位置を含む第1の領域の表示態様を、前記他の表示装置の前記表示範囲の位置を含まない第2の領域の表示態様とは異なるように表示してもよい。
前記表示制御部は、前記他の表示装置の前記表示範囲の位置が滞留している時間に基づいて、前記第1の領域の大きさを変化させてもよい。
前記受信部は、前記他の表示装置を使用するユーザによって指定された位置を受信し、前記表示制御部は、前記他の表示装置の前記表示範囲の位置を示す前記第1の記号に加えて、前記受信部が受信した前記指定された位置を示す前記第1の記号を表示してもよい。
前記受信部は、前記他の表示装置を使用するユーザの視線の向きを、前記他の表示装置の前記表示範囲の位置として受信してもよい。
本発明の第2の態様の表示プログラムは、第1の表示装置が有するプロセッサを、前記第1の表示装置とは異なる第2の表示装置が画像の一部を表示するための表示範囲の位置を受信する受信部、及び前記第1の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信部が受信した前記第2の表示装置の前記表示範囲の位置を示す第1の記号を表示する表示制御部、として機能させる。
本発明の第3の態様の表示方法は、第1の表示装置によって、前記第1の表示装置とは異なる第2の表示装置が画像の一部を表示するための表示範囲の位置を受信するステップと、第1の表示装置によって、前記第1の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信するステップで受信された前記第2の表示装置の前記表示範囲の位置を示す第1の記号を表示するステップと、を有する。
本発明の第4の態様の表示システムは、第1の表示装置及び第2の表示装置を備え、前記第2の表示装置は、前記第2の表示装置が画像の一部を表示するための表示範囲の位置を送信する送信部を有し、前記第1の表示装置は、前記第2の表示装置の前記表示範囲の位置を受信する受信部と、前記第1の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信部が受信した前記第2の表示装置の前記表示範囲の位置を示す第1の記号を表示する表示制御部と、を有する。
本発明によれば、画像を共有して鑑賞する際に他ユーザがどこを見ているかを適切に表示できるという効果を奏する。
第1の実施形態に係る表示システムの模式図である。 第1の実施形態で用いられる全体画像の模式図である。 第1の実施形態に係る表示装置のブロック図である。 第1の実施形態に係る表示部の前面図である。 第1の実施形態に係る表示部の前面図である。 第1の実施形態に係る表示方法のフローチャートを示す図である。 第2の実施形態に係る表示方法のフローチャートを示す図である。 第3の実施形態に係る表示部の前面図である。 第4の実施形態に係る表示部の前面図である。
(第1の実施形態)
図1は、本実施形態に係る表示システムSの模式図である。表示システムSは、複数の表示装置1と、表示装置1間の情報授受を仲介する制御サーバ2と、各表示装置1に画像を配信する画像配信サーバ3と、を含む。
表示装置1、制御サーバ2及び画像配信サーバ3は、ローカルエリアネットワーク、インターネット等の任意のネットワークNを介して接続される。表示システムSは、その他のサーバ、端末等の機器を含んでもよい。
制御サーバ2は、各表示装置1から表示中の画像における表示範囲の位置(表示位置)を受信し、各表示装置1に該表示位置を送信する。これにより、表示装置1同士で表示位置が共有される。
画像配信サーバ3は、各表示装置1に表示対象の画像を送信する。画像配信サーバ3が配信する画像は静止画及び動画のどちらでもよく、あるいはコンピュータゲーム等のプログラムによって動的に生成される画像でもよい。動画又は動的に生成される画像のように時系列で連続的に表示される画像を用いる場合には、画像配信サーバ3は、画像の全体を表示装置1に一度に送信してもよく、画像の時系列の一部を表示装置1に複数回に渡って送信してもよい。画像配信サーバ3は、画像又は画像を生成するためのプログラムを予め記憶する。各表示装置1の表示対象の画像として各表示装置1に予め記憶された画像を用いてもよく、その場合には画像配信サーバ3は省略されてもよい。
制御サーバ2及び画像配信サーバ3は、それぞれ有線通信又は無線通信によってネットワークNに接続されており、単一のコンピュータ、又はコンピュータ資源の集合であるクラウドによって構成される。制御サーバ2及び画像配信サーバ3は1つのサーバとして構成されてもよい。
表示装置1は、画像配信サーバ3から受信した画像を表示するとともに、該画像における表示位置を制御サーバ2に送信する端末である。表示装置1は、ユーザによって使用される。表示装置1を使用するユーザは、表示装置1にログインしているユーザの識別情報(ID等)により判別される。表示装置1は、有線通信又は無線通信によってネットワークNを介して制御サーバ2及び画像配信サーバ3と通信可能に構成される。表示装置1として、ユーザの頭部に装着するゴーグル型端末や、スマートフォンのような携帯端末等、ユーザに対して画像を表示可能な任意の表示装置を用いることができる。
[全体画像W及び表示画像Vの説明]
図2は、本実施形態で用いられる全体画像Wの模式図である。図2は、全体画像Wと各ユーザUから見える表示画像Vとの関係を平面的に表している。図2においては、全体画像Wの中で表示画像Vの範囲に多数の点が表されている。
全体画像Wは、例えば全球画像(360°画像ともいう)、パノラマ画像等の広範囲の画像である。表示装置1は、全体画像Wの一部である所定の表示範囲を表示画像Vとして表示する。換言すると、表示装置1ごとに全体画像Wのうち表示される領域(表示画像V)と表示されない領域とが存在する。表示画像Vの表示範囲の大きさは、表示装置1の機器構成(ディスプレイの解像度等)及び表示設定(縮尺、視野角等)に従って決定される。全体画像Wには、座標情報が埋め込まれていることが望ましい。表示装置1は、全体画像W中の座標情報に基づいて、ユーザUの表示位置を容易に決定できる。
表示画像Vの表示範囲の位置は、ユーザUの視線方向E上に設定される。視線方向Eとして、ユーザが表示装置1上で操作を行うことによって設定された向き、又は表示装置1自身の向きを用いることができる。また、視線方向Eとして、ユーザUの視線の向きを用いてもよい。ユーザUの視線の向きは、既知の技術(例えばアイトラッキング技術)によって検出される。
本実施形態では、画像配信サーバ3は全体画像Wの全体を表示装置1に送信し、表示装置1は受信した全体画像Wから表示装置1の表示範囲に対応する表示画像Vを生成して表示する。これに限られず、画像配信サーバ3は全体画像Wから表示装置1の表示範囲に対応する表示画像Vを生成して表示装置1に送信し、表示装置1は受信した表示画像Vを表示してもよい。
[表示装置1の構成]
図3は、本実施形態に係る表示装置1のブロック図である。図3において、矢印は主なデータの流れを示しており、図3に示したもの以外のデータの流れがあってよい。図3において、各ブロックはハードウェア(装置)単位の構成ではなく、機能単位の構成を示している。そのため、図3に示すブロックは単一の装置内に実装されてよく、あるいは複数の装置内に別れて実装されてよい。ブロック間のデータの授受は、データバス、ネットワーク、可搬記憶媒体等、任意の手段を介して行われてよい。
表示装置1は、制御部11と、通信部12と、表示部13と、操作部14と、記憶部15と、向き検出部16とを有する。制御部11は、画像取得部111と、表示位置受信部112と、表示位置送信部113と、表示制御部114とを有する。表示システムSは、同様の構成の複数の表示装置1を含む。
通信部12は、ネットワークNを介して制御サーバ2及び画像配信サーバ3との間で通信をするための通信インターフェースである。通信部12は、制御サーバ2及び画像配信サーバ3から受信した通信信号に所定の処理を行ってデータを取得し、取得したデータを制御部11に入力する。また、通信部12は、制御部11から入力されたデータに所定の処理を行って通信信号を生成し、生成した通信信号を制御サーバ2及び画像配信サーバ3に送信する。
表示部13は、液晶ディスプレイ、有機エレクトロルミネッセンス(OLED; Organic Light Emitting Diode)ディスプレイ等、制御部11の制御に基づいて各種の情報を表示可能な任意の表示装置を有する。操作部14は、キーボード、マウス等、ユーザからの操作を受け付けて任意の操作装置を有する。操作部14は、ユーザの操作を示す情報を制御部11に入力する。また、表示部13としてタッチスクリーンを用いることにより、表示部13及び操作部14を一体に構成してもよい。
記憶部15は、ROM(Read Only Memory)、RAM(Random Access Memory)、ハードディスクドライブ等を含む記憶媒体である。記憶部15は、制御部11が実行するプログラムを予め記憶している。
向き検出部16は、例えばジャイロセンサを有しており、ジャイロセンサが測定した角加速度に基づいて、表示装置1の空間的な向きを示す向き情報を生成する。これに限られず、向き検出部16として、表示装置1の向きを検出可能な任意の構成を用いることができる。向き検出部16は、生成した向き情報を制御部11に入力する。
制御部11は、例えばCPU(Central Processing Unit)等のプロセッサであり、記憶部15に記憶されたプログラムを実行することにより、画像取得部111、表示位置受信部112、表示位置送信部113及び表示制御部114として機能する。制御部11の機能の少なくとも一部は、電気回路によって実行されてもよい。また、制御部11の機能の少なくとも一部は、ネットワーク経由で実行されるプログラムによって実行されてもよい。
本実施形態に係る表示装置1は、図3に示す具体的な構成に限定されない。表示装置1は、1つの装置に限られず、2つ以上の物理的に分離した装置が有線又は無線で接続されることにより構成されてもよい。
画像取得部111は、通信部12を介して全体画像Wを示す画像情報を取得する。画像取得部111は、画像配信サーバ3から全体画像Wを示す画像情報を受信してもよく、あるいは記憶部15に記憶された全体画像Wを示す画像情報を読み出してもよい。また、画像取得部111は、全体画像Wの代わりに表示画像Vを示す画像情報を取得してもよい。この場合には、後述の表示位置送信部113は画像情報の取得よりも前に画像配信サーバ3に表示位置を送信し、画像配信サーバ3は該表示位置に従って全体画像Wから表示画像Vを生成して表示装置1に送信する。
表示位置受信部112は、他の表示装置1における全体画像Wの表示範囲の位置(表示位置)を示す表示位置情報を制御サーバ2から通信部12を介して受信する。すなわち、表示位置情報は、他の表示装置1が全体画像W中で表示画像Vとして表示している範囲の位置を示す。表示位置は、例えば表示画像Vの中心点の座標である。
表示位置送信部113は、操作部14が受け付けたユーザによる操作及び向き検出部16が検出した表示装置1の向きの少なくとも一方に基づいて、自身の表示装置1の表示位置を算出する。表示位置の定義は、表示位置受信部112が受信するものと同様である。ユーザが操作部14を用いて手動で表示位置を設定する場合には、表示位置送信部113は、表示位置送信部113はユーザによる操作部14の操作に従って表示位置を算出する。表示装置1の向きによって表示位置を設定する場合には、表示位置送信部113は、向き検出部16が検出した表示装置1の空間的な向きに従って表示位置を算出する。そして表示位置送信部113は、算出した表示位置を示す表示位置情報を制御サーバ2へ通信部12を介して送信する。
表示位置受信部112及び表示位置送信部113による表示位置の送受信は、所定の時間間隔(例えば1ミリ秒〜100ミリ秒)で行われる。これにより、表示装置1間で最新の表示位置が共有され、複数の表示装置1は互いの表示位置を知ることができる。
表示制御部114は、表示位置送信部113が算出した自身の表示装置1の表示位置に従って、画像取得部111が取得した全体画像Wを示す画像情報から表示画像Vを生成し、生成した表示画像Vを表示部13に表示させる。画像取得部111が表示画像Vを示す画像情報を取得する場合には、表示制御部114は、該表示画像Vを表示部13に表示させる。さらに表示制御部114は、表示位置受信部112が受信した表示位置情報が示す他の表示装置1の表示位置に係る各種の記号を生成し、生成した記号を表示画像V上に重畳して表示させる。
[表示装置1が表示する画面の説明]
図4は、表示画像Vを含む画面を表示している表示部13の前面図である。図4の画面は、他の表示装置1の表示範囲の位置が、自身の表示装置1の表示範囲内にある場合に表示される。まず表示制御部114は、自身の表示装置1の表示範囲に対応する全体画像Wの一部である表示画像Vを表示部13に表示させる。
また、表示制御部114は、自身の表示装置1の表示範囲の位置を示す位置記号P1と、他の表示装置1の表示範囲の位置を示す位置記号P2とを、表示画像Vに重畳して表示部13に表示させる。図4の例では、2つの他の表示装置1についての2つの位置記号P2が表示されている。
位置記号P1は、表示位置送信部113によって算出された、自身の表示装置1の表示範囲の位置(例えば中心点)上に表示される。位置記号P2は、表示位置受信部112によって受信された、他の表示装置1の表示範囲の位置(例えば中心点)上に表示される。ここで他の表示装置1の表示範囲の位置が自身の表示装置1の表示範囲外(すなわち表示画像Vよりも外側)である場合には、表示制御部114は、位置記号P2を表示せず、代わりに後述の図5のように向き記号Mを表示する。
位置記号P1及び位置記号P2として、円形、矩形等の任意の形状の記号を用いることができる。表示制御部114は、自身の表示装置1に係る位置記号P1を省略し、他の表示装置1に係る位置記号P2のみを表示してもよい。なお、位置記号P1は、表示装置1上が生成した位置記号P1を表示するための情報に基づいてそのまま表示されてもよいし、表示装置1から制御サーバ2に位置情報を送信後、表示装置1が制御サーバ2から受信した位置記号P1を表示するための情報に基づいて表示されてもよい。
表示制御部114は、位置記号P1及び位置記号P2を、表示装置1(ユーザ)ごとに異なる態様で表示する。位置記号P1及び位置記号P2の表示態様は、例えば色、模様、形状等である。図4では、斜線の方向によって異なる色が表されている。これにより、ユーザは、ユーザごとの表示範囲の位置(すなわち視線の向き)を区別して認識することができる。
また、表示制御部114は、他の表示装置1のユーザのアバタ画像Aを表示画像Vに重畳して表示部13に表示させる。アバタ画像Aは人や動物を模した形状をしており、その顔が該他の表示装置1の表示範囲の位置に向くように配置される。図4の例では、2つの他の表示装置1についての2つのアバタ画像Aが表示されている。表示制御部114は、制御サーバ2からアバタ画像Aを表示するための情報を受信してもよく、あるいは記憶部15に記憶されたアバタ画像Aを表示するための情報を読み出してもよい。アバタ画像Aの表示は省略されてもよい。表示制御部114は、同じ表示装置1(ユーザ)に係る位置記号P2及びアバタ画像Aを同じ色で表示し、異なる表示装置1(ユーザ)に係る位置記号P2及びアバタ画像Aを異なる色で表示することが望ましい。これにより、位置記号P2がいずれのユーザに係るものかをわかりやすく表示できる。
図5は、表示画像Vを含む画面を表示している表示部13の前面図である。図5の画面は、他の表示装置1の表示範囲の位置が、自身の表示装置1の表示範囲外にある場合に表示される。
表示制御部114は、図4の画面と同様に、自身の表示装置1の表示範囲に対応する全体画像Wの一部である表示画像Vとともに、自身の表示装置1の表示範囲の位置を示す位置記号P1を、表示画像Vに重畳して表示部13に表示させる。
また、表示制御部114は、自身の表示装置1の表示範囲の位置を基準とした他の表示装置1の表示範囲の位置への向きを示す向き記号Mを、表示画像Vに重畳して表示部13に表示させる。向き記号Mとして、矢印、棒、三角形等、特定の向きを表すことが可能な任意の形状の記号を用いることができる。向き記号Mを表示する位置は、図5のように表示画像Vの端部の近傍でもよく、あるいは位置記号P1の近傍でもよい。これにより、ユーザは、他ユーザの表示位置が表示範囲外であってもいずれの向きにあるかを知ることができるため、共有されている画像中で他ユーザが見ている部分に追従することが容易である。
向き記号Mは、自身の表示装置1の表示位置を基準とした他の表示装置1の表示位置の方位を表すように表示される。あるいは、向き記号Mは、自身の表示装置1の表示位置を基準とした他の表示装置1の表示位置の方位が最も近い上下左右のいずれかの向きを表すように表示されてもよい。
表示制御部114は、向き記号Mを、表示装置1(ユーザ)ごとに異なる態様で表示する。向き記号Mの表示態様は、例えば色、模様、形状等である。図5では、斜線の方向によって異なる色が表されている。これにより、ユーザは、ユーザごとの表示位置への向きを区別して認識することができる。
さらに表示制御部114は、向き記号Mの長さ、面積等の大きさを、自身の表示装置1の表示位置と他の表示装置1の表示位置との間の距離に従って設定する。表示制御部114は、距離として表示位置間のユークリッド距離を算出し、算出した距離に従って所定の規則で向き記号Mの大きさを決定する。より具体的には、表示制御部114は、表示位置間の距離が大きいほど向き記号Mが大きい(すなわち長い又は広い)ように、向き記号Mを表示する。図5では、右側の向き記号Mに係る他の表示装置1の表示位置の方が、左側の向き記号Mに係る他の表示装置1の表示位置よりも、自身の表示装置1から遠いことが表されている。これにより、ユーザは、他ユーザの表示位置への距離を容易に認識することができる。
複数の他の表示装置1の表示位置が表示範囲内と表示範囲外とで混在している場合には、表示制御部114は、表示範囲内の表示位置については図4に示す位置記号P2を表示し、表示範囲外の表示位置については図5に示す向き記号Mを表示する。
本実施形態では、表示制御部114は他ユーザの表示位置が表示範囲外の場合にのみ向き記号Mを表示しているが、他ユーザの表示位置が表示範囲内の場合に向き記号Mを表示してもよい。その場合には、1人の他ユーザに係る位置記号P2及び向き記号Mの両方が、表示画像V上に表示される。
位置記号P2又は向き記号Mの数が多い場合に、位置記号P2又は向き記号Mがいずれのユーザに係るものかわかりづらくなる。そこで表示制御部114は、ユーザが所定の操作を行った場合に、位置記号P2又は向き記号Mに係るユーザのユーザ情報を、表示画像Vに重畳して表示部13に表示させてもよい。具体的には、ユーザは、表示装置1に接続されたマウスやポインタ等のデバイスを用いて、表示画像V上の位置記号P2又は向き記号Mの指定を行う。表示制御部114は、指定された位置記号P2又は向き記号Mに係る他ユーザのユーザ情報を制御サーバ2から取得する。ユーザ情報は、例えば他ユーザの識別情報、他ユーザの名前等であり、制御サーバ2に予め記憶される。そして表示制御部114は、指定された位置記号P2又は向き記号Mの近傍(例えば位置記号P2又は向き記号Mから引き出された吹き出し内)に、取得されたユーザ情報を表示させる。このような構成によって、位置記号P2又は向き記号Mの数が多い場合であっても、位置記号P2又は向き記号Mがいずれのユーザに係るものかわかりやすくなる。
[表示方法のフローチャート]
図6は、本実施形態に係る表示装置1が実行する表示方法のフローチャートを示す図である。まずユーザが表示装置1の操作部14において所定の操作を行うことによって、表示装置1は画像の共有を開始する(S11)。このとき、自ユーザが他ユーザを招待する操作を行い、他ユーザが該招待を受諾する操作を行うことによって画像の共有が開始されてもよい。あるいは、他ユーザが自ユーザを招待する操作を行い、自ユーザが該招待を受諾する操作を行うことによって画像の共有が開始されてもよい。
具体的には、自身の表示装置1は、まず制御サーバ2にアクセスし、仮想的な共有ルームを生成する。そして制御サーバ2は、生成した共有ルームを識別する共有ルーム識別情報(ID等)を他の表示装置1に送信することによって、他ユーザを招待する。他の表示装置1において他ユーザによって招待を承諾する操作が行われると、他の表示装置1から自身の表示装置1へ制御サーバ2を介して承諾を示す信号が送信される。このように自ユーザ及び他ユーザの間で招待及び承諾を行ってから画像の共有を行うことによって、視線の向きという個人的な情報を共有するにあたって安全性を向上できる。
次に自ユーザは自身の表示装置1において共有対象の画像を選択する操作を行う。自身の表示装置1は、制御サーバ2を介して共有ルームに属する他の表示装置1に、選択された画像を識別する画像識別情報(ID等)を送信する。
次に自ユーザは自身の表示装置1において、共有対象の画像の表示を開始する操作を行う。自身の表示装置1は、画像配信サーバ3から共有対象の画像識別情報を有する画像を受信し、表示を開始する。それと同時に、自身の表示装置1は、制御サーバ2を介して共有ルームに属する他の表示装置1に、共有対象の画像識別情報を示す開始信号を送信する。他の表示装置1は、開始信号を受信すると、画像配信サーバ3から共有対象の画像識別情報を有する画像を受信し、表示を開始する。以上の処理により、ステップS11における画像の共有が開始される。このように制御サーバ2を介さずに、画像配信サーバ3から画像を直接受信することによって、制御サーバ2の負荷を下げることができる。
画像取得部111は、通信部12を介して、画像配信サーバ3から全体画像Wを示す画像情報を取得する(S12)。共有されている画像が動画又は動的に生成される画像である場合には、画像取得部111は、後のステップS13〜S20と並行して、ステップS12を繰り返し行って画像を時系列の一部ごとに取得してもよい。
表示位置受信部112は、他の表示装置1の表示範囲の位置(表示位置)を示す表示位置情報を制御サーバ2から通信部12を介して受信する(S13)。表示位置送信部113は、操作部14が受け付けたユーザによる操作及び向き検出部16が検出した表示装置1の向きの少なくとも一方に基づいて、自身の表示装置1の表示位置を算出する(S14)。そして表示位置送信部113は、ステップS14で算出した表示位置を示す表示位置情報を制御サーバ2へ通信部12を介して送信する(S15)。ステップS13とステップS14〜S15とは並行して行われてもよく、逆の順序で行われてもよい。
表示制御部114は、ステップS14で算出した自身の表示装置1の表示位置に従ってステップS12で取得した画像情報が示す全体画像Wから表示画像Vを生成し、生成した表示画像Vを表示部13に表示させる(S16)。
ステップS13で受信した表示位置情報が示す他の表示装置1の表示位置が、自身の表示装置1の表示範囲内にある場合に(ステップS17のYES)、表示制御部114は、該他の表示装置1の表示位置を示す位置記号P2を、ステップS16の表示画像V上に重畳して表示させる(S18)。
ステップS13で受信した表示位置情報が示す他の表示装置1の表示位置が、自身の表示装置1の表示範囲外にある場合に(ステップS17のNO)、表示制御部114は、自身の表示装置1の表示範囲の位置を基準とした該他の表示装置1の表示位置への向きを示す向き記号Mを、ステップS16の表示画像V上に重畳して表示させる(S19)。
複数の他の表示装置1が画像を共有して表示している場合には、表示制御部114はそれぞれの他の表示装置1についてステップS17〜S19を行う。
所定の終了条件(例えば表示装置1においてユーザが操作部14を用いて所定の終了操作を行うこと)が満たされない場合に(S20のNO)、表示装置1はステップS13に戻って処理を繰り返す。所定の終了条件が満たされる場合に(S20のYES)、表示装置1は処理を終了する。
[第1の実施形態の効果]
以上説明したように、本実施形態に係る表示装置1は、他ユーザの表示位置が表示範囲内にある場合に、他ユーザの表示位置を示す位置記号P2を表示する。このような構成により、ユーザは、共有されている画像中で他ユーザが見ている部分を容易に認識できる。
他ユーザの表示位置が表示範囲外にある場合には位置記号P2を表示できないため、ユーザは他ユーザがどこを見ているかを知るために共有されている画像中の色々な範囲を探す必要があって不便である場合がある。そこで表示装置1は、他ユーザの表示位置が表示範囲外にある場合に、他ユーザの表示位置への向きを示す向き記号Mを表示する。このような構成により、ユーザは、他ユーザの表示位置が表示範囲外であってもいずれの向きにあるかを知ることができるため、共有されている画像中で他ユーザが見ている部分に追従しやすい。
(第2の実施形態)
本実施形態は、他の表示装置1において所定の指示がなされる場合に、自身の表示装置1の表示位置を該他の表示装置1の表示位置に合わせるように制御を行う。それ以外の構成及び処理は、第1の実施形態と同様である。
本実施形態では、ユーザが不図示のマイクを介して所定の音声(例えば「こっちへ来て」という声)を入力した場合、あるいはユーザが操作部14を用いて所定の操作を行った場合に、表示位置送信部113は、通信部12を介して、表示位置情報とともに移動の指示を制御サーバ2に送信する。そして表示位置受信部112は、通信部12を介して、他の表示装置1の表示位置情報とともに移動の指示を制御サーバ2から受信する。これにより、各表示装置1は、他の表示装置1に移動の指示を送信し、また他の表示装置1から移動の指示を受信する。
他の表示装置から移動の指示を受信した場合に、表示位置送信部113は、自身の表示装置1の表示位置を算出せず、代わりに自身の表示装置1の表示位置を他の表示装置の表示位置に合わせるように設定(移動)する。これにより、ユーザは表示画像V中で他ユーザの表示位置に追従することができる。
他ユーザの表示位置に追従する際に、表示位置送信部113は、自身の表示装置1の表示位置の位置記号P1を所定の時間点滅又はゆっくりと移動させることが望ましい。この間に向き検出部16によってユーザが頭を動かすこと、頭を振ること等の所定の動作が検出された場合に、表示位置送信部113は、他ユーザの表示位置への追従を中止し、自身の表示装置1の表示位置をその場に停止させるか、あるいは追従前の位置に戻す。このとき、他ユーザの表示装置1は、移動の指示が拒否された旨を示す文字列を表示してもよい。このような構成により、ユーザは他ユーザの表示位置への追従を拒否することができる。
移動の指示として、ユーザの表示範囲に他ユーザの表示範囲の一部が重なることを用いてもよい。すなわちユーザの表示範囲に他ユーザの表示範囲の一部が重なる場合に、表示位置送信部113は、自身の表示装置1の表示位置を他の表示装置の表示位置に合わせるように設定(移動)する。これにより、音声や操作による明示的な指示を行わなくても、表示位置を近くに移動させることによって容易にユーザ間で互いに表示位置を合わせることができる。
[表示方法のフローチャート]
図7は、本実施形態に係る表示装置1が実行する表示方法のフローチャートを示す図である。図7のフローチャートでは、図6のフローチャートにおいてステップS13とステップS15との間にステップS21、S22が追加されている。それ以外のステップは図6のフローチャートと同様であるため、以下では説明を省略する。
他の表示装置1から移動の指示が送信された場合に、表示位置受信部112は、ステップS13において表示位置情報とともに移動の指示を制御サーバ2から通信部12を介して受信する。
表示位置受信部112が他の表示装置1から移動の指示を受信した場合に(ステップS21のYES)、表示位置送信部113は、自身の表示装置1の表示位置を、ステップS13で受信した表示位置情報が示す他の表示装置1の表示位置に合うように移動する(S22)。表示位置受信部112が他の表示装置1から移動の指示を受信しない場合に(ステップS21のNO)、表示位置送信部113はステップS14を行う。
自身の表示装置1で移動の指示が行われた場合に、ステップS15において、表示位置送信部113は、表示位置情報とともに移動の指示を制御サーバ2へ通信部12を介して送信する。
[第2の実施形態の効果]
本実施形態は、第1の実施形態と同様の効果を奏するのに加えて、複数のユーザの表示位置を容易に合わせることができる。表示位置を合わせるために1人のユーザが音声等で移動の指示を行うだけでよいため、各ユーザが表示装置1において操作や向きの変更を行う必要がない。
(第3の実施形態)
本実施形態は、ユーザの視線方向に対応する表示位置を示す記号に加えて、ユーザがマウスやポインタ等のデバイスを用いて指定した位置を示す記号を表示画像中に表示する。それ以外の構成及び処理は、第1の実施形態と同様である。
本実施形態では、表示装置1にマウスやポインタ等のデバイスが有線又は無線で接続される。デバイスは、ユーザによる表示画像V上の位置の指定を受け付ける。ユーザがデバイスを用いて位置の指定を行った場合に、表示位置送信部113は、通信部12を介して、表示位置情報とともにユーザによる指定位置を制御サーバ2に送信する。そして表示位置受信部112は、通信部12を介して、他の表示装置1の表示位置情報とともにユーザによる指定位置を制御サーバ2から受信する。これにより、各表示装置1は、他の表示装置1に指定位置を送信し、また他の表示装置1から指定位置を受信する。
[表示装置1が表示する画面の説明]
図8は、表示画像Vを含む画面を表示している表示部13の前面図である。図4と同様に、表示制御部114は、自身の表示装置1の表示範囲の位置を示す位置記号P1と、他の表示装置1の表示範囲の位置を示す位置記号P2とを、表示画像Vに重畳して表示部13に表示させる。図8では省略されているが、表示制御部114は、図4のように他の表示装置1のユーザのアバタ画像Aを表示画像V上に表示してもよい。
さらに表示制御部114は、他の表示装置1の指定位置を示す位置記号P3を、表示画像Vに重畳して表示部13に表示させる。位置記号P3は、表示位置受信部112によって受信された、他の表示装置1からの指定位置上に表示される。図8では省略されているが、表示制御部114は、自身の表示装置1の指定位置を示す位置記号P3を表示してもよい。
位置記号P3として、円形、矩形、指を模した形等の任意の形状の記号を用いることができる。表示制御部114は、表示位置を示す位置記号P2の形状(図8では円形)と、指定位置を示す位置記号P3の形状(図8では矩形)とを、異なる形状で表示する。これにより、ユーザは位置記号P3がユーザによって指定された位置を表すことを容易に認識することができる。
また、表示制御部114は、位置記号P3を、表示装置1(ユーザ)ごとに異なる色で表示する。それと同時に、表示制御部114は、同一の表示装置1(ユーザ)に係る位置記号P2及び位置記号P3を、同一の色で表示する。これにより、ユーザは位置記号P3が係るユーザを容易に認識することができる。
他の表示装置1の指定位置が自身の表示装置1の表示範囲外にある場合には、表示制御部114は、図5と同様に、自身の表示装置1の表示範囲の位置を基準とした他の表示装置1の指定位置への向きを示す記号Mを表示する。
[第3の実施形態の効果]
本実施形態は、第1の実施形態と同様の効果を奏するのに加えて、ユーザの表示位置だけでなくユーザが所持するデバイスによって指定された位置を表示することができる。そのため、画像を複数のユーザで共有して鑑賞している際に、より多くの情報をユーザ間で共有することができる。
(第4の実施形態)
第1の実施形態では他の表示装置1の表示位置を示す記号を表示するのに対して、本実施形態は他の表示装置1の表示位置を含む領域を表示する。それ以外の構成及び処理は、第1の実施形態と同様である。
[表示装置1が表示する画面の説明]
図9は、表示画像Vを含む画面を表示している表示部13の前面図である。図4と同様に、表示制御部114は、自身の表示装置1の表示範囲の位置を示す位置記号P1と、他の表示装置1の表示範囲の位置を示す位置記号P2とを、表示画像Vに重畳して表示部13に表示させる。位置記号P1及び位置記号P2の少なくとも一方が省略されてもよい。図9では省略されているが、表示制御部114は、図4のように他の表示装置1のユーザのアバタ画像Aを表示画像V上に表示してもよい。
表示制御部114は、自身の表示装置1の表示範囲のうち、他の表示装置1のユーザが注目している領域を注目領域R1として、それ以外の領域である非注目領域R2とは区別可能に表示する。具体的には、表示制御部114は、表示画像Vの中で他の表示装置1の表示位置を含む注目領域R1を、注目領域R1以外の非注目領域R2とは異なる態様で表示する。表示制御部114は、例えば注目領域R1及び非注目領域R2の色、明るさ等が互いに異なるように表示する。図9では、注目領域R1は通常の態様で表示され、非注目領域R2は暗く表示されている。表示制御部114は、非注目領域R2を表示しなくても(すなわち非注目領域R2を特定の色で塗りつぶして表示しても)よい。
注目領域R1は、例えば他の表示装置1の表示位置を中心とした所定の半径の円形である。注目領域R1の形状としては、これに限られず、円形、矩形等の任意の形状を用いることができる。また、注目領域R1を、他の表示装置1における表示範囲と同じ位置及び大きさに設定してもよい。
表示制御部114は、他の表示装置1の表示位置の滞留時間に応じて、注目領域R1の大きさを変化させてもよい。滞留時間とは、他の表示装置1の表示位置が同じ位置から動かない又は同じ位置の近傍の所定の範囲内に留まっている時間である。例えば表示制御部114は、滞留時間が長いほど注目領域R1が大きい(あるいは小さい)ように表示する。これにより、ユーザは他ユーザが画像中の同じ場所を見ている時間の長さを知ることができる。
[第4の実施形態の効果]
本実施形態は、第1の実施形態と同様の効果を奏するのに加えて、ユーザが表示している位置を含む所定の範囲を注目領域R1として表示することができる。そのため、ユーザは共有されている画像中で他ユーザが表示している範囲を認識することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の分散・統合の具体的な実施の形態は、以上の実施の形態に限られず、その全部又は一部について、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を合わせ持つ。
上述の各実施形態における記号及び領域の生成及び共有画像上への重畳の処理は、全て表示装置1で行われてもよく、一部又は全部が制御サーバ2で行われてもよい。
表示装置1の制御部11(プロセッサ)は、図6、7に示す表示方法に含まれる各ステップ(工程)の主体となる。すなわち、制御部11は、図6、7に示す表示方法を実行するための表示プログラムを記憶部15から読み出し、該表示プログラムを実行して表示装置1の各部を制御することによって、図6、7に示す表示方法を実行する。図6、7に示す表示方法に含まれるステップは一部省略されてもよく、ステップ間の順番が変更されてもよく、複数のステップが並行して行われてもよい。本発明の各実施形態に係る表示プログラムは、例えばスマートフォンのような携帯端末やユーザの頭部に装着するゴーグル型端末が実行するアプリケーションとして実装される。
S 表示システム
1 表示装置
11 制御部
112 表示位置受信部
113 表示位置送信部
114 表示制御部

Claims (12)

  1. 他の表示装置が画像の一部を表示するための表示範囲の位置を受信する受信部と、
    自身の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信部が受信した前記他の表示装置の前記表示範囲の位置を示す第1の記号を表示する表示制御部と、
    を有し、
    前記受信部は、前記他の表示装置から所定の指示を受信し、
    前記表示制御部は、前記受信部が前記所定の指示を受信した場合に、前記自身の表示装置の前記表示範囲を前記他の表示装置の前記表示範囲の位置に移動する、表示装置。
  2. 前記自身の表示装置の向きを検出する向き検出部をさらに有し、
    前記表示制御部は、前記向き検出部が検出した前記向きが所定の動作を示す場合に、前記自身の表示装置の前記表示範囲を前記他の表示装置の前記表示範囲の位置に移動することを中止する、
    請求項1に記載の表示装置。
  3. 前記表示制御部は、前記自身の表示装置の前記表示範囲の位置を基準とした前記他の表示装置の前記表示範囲の位置への向きを示す第2の記号を表示する、
    請求項1又は2に記載の表示装置。
  4. 前記表示制御部は、前記自身の表示装置の前記表示範囲の位置と前記他の表示装置の前記表示範囲の位置との間の距離に従って設定された大きさを有する前記第2の記号を表示する、
    請求項に記載の表示装置。
  5. 前記表示制御部は、前記他の表示装置の前記表示範囲の位置が前記自身の表示装置の前記表示範囲の外にある場合に、前記第2の記号を表示する、
    請求項又はに記載の表示装置。
  6. 前記表示制御部は、前記自身の表示装置の前記表示範囲において、前記他の表示装置の前記表示範囲の位置を含む第1の領域の表示態様を、前記他の表示装置の前記表示範囲の位置を含まない第2の領域の表示態様とは異なるように表示する、
    請求項1から5のいずれか一項に記載の表示装置。
  7. 前記表示制御部は、前記他の表示装置の前記表示範囲の位置が滞留している時間に基づいて、前記第1の領域の大きさを変化させる、
    請求項6に記載の表示装置。
  8. 前記受信部は、前記他の表示装置を使用するユーザによって指定された位置を受信し、
    前記表示制御部は、前記他の表示装置の前記表示範囲の位置を示す前記第1の記号に加えて、前記受信部が受信した前記指定された位置を示す前記第1の記号を表示する、
    請求項1から7のいずれか一項に記載の表示装置。
  9. 第1の表示装置が有するプロセッサを、
    前記第1の表示装置とは異なる第2の表示装置が画像の一部を表示するための表示範囲の位置を受信する受信部、及び
    前記第1の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信部が受信した前記第2の表示装置の前記表示範囲の位置を示す第1の記号を表示する表示制御部、
    として機能させ
    前記受信部は、前記第2の表示装置から所定の指示を受信し、
    前記表示制御部は、前記受信部が前記所定の指示を受信した場合に、前記第1の表示装置の前記表示範囲を前記第2の表示装置の前記表示範囲の位置に移動する、表示プログラム。
  10. 第1の表示装置によって、前記第1の表示装置とは異なる第2の表示装置が画像の一部を表示するための表示範囲の位置を受信するステップと、
    前記第1の表示装置によって、前記第1の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信するステップで受信された前記第2の表示装置の前記表示範囲の位置を示す第1の記号を表示するステップと、
    を有し、
    前記受信するステップでは、前記第1の表示装置は、前記第2の表示装置から所定の指示を受信し、
    前記表示するステップでは、前記第1の表示装置が前記所定の指示を受信した場合に、前記第1の表示装置の前記表示範囲を前記第2の表示装置の前記表示範囲の位置に移動する、表示方法。
  11. 第1の表示装置及び第2の表示装置を備え、
    前記第2の表示装置は、前記第2の表示装置が画像の一部を表示するための表示範囲の位置を送信する送信部を有し、
    前記第1の表示装置は、
    前記第2の表示装置の前記表示範囲の位置を受信する受信部と、
    前記第1の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信部が受信した前記第2の表示装置の前記表示範囲の位置を示す第1の記号を表示する表示制御部と、
    を有し、
    前記受信部は、前記第2の表示装置から所定の指示を受信し、
    前記表示制御部は、前記受信部が前記所定の指示を受信した場合に、前記第1の表示装置の前記表示範囲を前記第2の表示装置の前記表示範囲の位置に移動する、表示システム。
  12. 他の表示装置が画像の一部を表示するための表示範囲の位置を受信する受信部と、
    自身の表示装置が前記画像の一部を表示するための表示範囲内に、前記受信部が受信した前記他の表示装置の前記表示範囲の位置を示す第1の記号を表示する表示制御部と、
    を有し、
    前記表示制御部は、前記自身の表示装置の前記表示範囲において、前記他の表示装置の前記表示範囲の位置を含む第1の領域の表示態様を、前記他の表示装置の前記表示範囲の位置を含まない第2の領域の表示態様とは異なるように表示し、
    前記表示制御部は、前記他の表示装置の前記表示範囲の位置が滞留している時間に基づいて、前記第1の領域の大きさを変化させる、表示装置。
JP2017183057A 2017-09-22 2017-09-22 表示装置、表示プログラム、表示方法及び表示システム Active JP6744271B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017183057A JP6744271B2 (ja) 2017-09-22 2017-09-22 表示装置、表示プログラム、表示方法及び表示システム
JP2020129488A JP6941715B2 (ja) 2017-09-22 2020-07-30 表示装置、表示プログラム、表示方法及び表示システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017183057A JP6744271B2 (ja) 2017-09-22 2017-09-22 表示装置、表示プログラム、表示方法及び表示システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020129488A Division JP6941715B2 (ja) 2017-09-22 2020-07-30 表示装置、表示プログラム、表示方法及び表示システム

Publications (2)

Publication Number Publication Date
JP2019060910A JP2019060910A (ja) 2019-04-18
JP6744271B2 true JP6744271B2 (ja) 2020-08-19

Family

ID=66178457

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017183057A Active JP6744271B2 (ja) 2017-09-22 2017-09-22 表示装置、表示プログラム、表示方法及び表示システム

Country Status (1)

Country Link
JP (1) JP6744271B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006039919A (ja) * 2004-07-27 2006-02-09 Pioneer Electronic Corp 画像共有表示システム、画像共有機能付端末、及びコンピュータプログラム
JP5064313B2 (ja) * 2008-06-20 2012-10-31 オリンパス株式会社 携帯情報端末
JP2015095802A (ja) * 2013-11-13 2015-05-18 ソニー株式会社 表示制御装置、表示制御方法、およびプログラム
CN110869900B (zh) * 2017-07-13 2024-01-19 索尼公司 信息处理装置、信息处理方法及程序

Also Published As

Publication number Publication date
JP2019060910A (ja) 2019-04-18

Similar Documents

Publication Publication Date Title
JP7268692B2 (ja) 情報処理装置、制御方法及びプログラム
JP6058184B1 (ja) ヘッドマウントディスプレイシステムを制御するための方法、および、プログラム
US20140062874A1 (en) Client device orientation
JP6615732B2 (ja) 情報処理装置および画像生成方法
JP2015095802A (ja) 表示制御装置、表示制御方法、およびプログラム
JP2012168646A (ja) 情報処理装置、情報共有方法、プログラム及び端末装置
JP6342024B1 (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
US20230360343A1 (en) Method for observing virtual environment, device, and storage medium
EP3128413A1 (en) Sharing mediated reality content
JP2018200557A (ja) 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法
US11188144B2 (en) Method and apparatus to navigate a virtual content displayed by a virtual reality (VR) device
US10488949B2 (en) Visual-field information collection method and system for executing the visual-field information collection method
JP6220937B1 (ja) 情報処理方法、当該情報処理方法をコンピュータに実行させるためのプログラム及びコンピュータ
JP2017161645A (ja) 表示制御方法、通信装置、表示制御プログラムおよび表示制御装置
JP2016122277A (ja) コンテンツ提供サーバ、コンテンツ表示端末、コンテンツ提供システム、コンテンツ提供方法、および、コンテンツ表示プログラム
JP6433862B2 (ja) ヘッドマウントディスプレイシステム制御プログラム、コンピュータ及び方法
CN112788443B (zh) 基于光通信装置的交互方法和***
US20230252691A1 (en) Passthrough window object locator in an artificial reality system
JP2018094086A (ja) 情報処理装置および画像生成方法
JP6744271B2 (ja) 表示装置、表示プログラム、表示方法及び表示システム
JP6398630B2 (ja) 可視像表示方法、第1デバイス、プログラム、及び、視界変更方法、第1デバイス、プログラム
JP6941715B2 (ja) 表示装置、表示プログラム、表示方法及び表示システム
JP2017086542A (ja) 画像変更システム、方法、及びプログラム
JP7424121B2 (ja) 情報処理装置及びプログラム
JP6382772B2 (ja) 視線誘導装置、視線誘導方法、および視線誘導プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200730

R150 Certificate of patent or registration of utility model

Ref document number: 6744271

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150