JP2017161645A - 表示制御方法、通信装置、表示制御プログラムおよび表示制御装置 - Google Patents

表示制御方法、通信装置、表示制御プログラムおよび表示制御装置 Download PDF

Info

Publication number
JP2017161645A
JP2017161645A JP2016044658A JP2016044658A JP2017161645A JP 2017161645 A JP2017161645 A JP 2017161645A JP 2016044658 A JP2016044658 A JP 2016044658A JP 2016044658 A JP2016044658 A JP 2016044658A JP 2017161645 A JP2017161645 A JP 2017161645A
Authority
JP
Japan
Prior art keywords
display
sensor
mounted display
object data
head mounted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016044658A
Other languages
English (en)
Other versions
JP6711033B2 (ja
Inventor
奨 古賀
Sho Koga
奨 古賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016044658A priority Critical patent/JP6711033B2/ja
Priority to US15/447,617 priority patent/US10222876B2/en
Publication of JP2017161645A publication Critical patent/JP2017161645A/ja
Application granted granted Critical
Publication of JP6711033B2 publication Critical patent/JP6711033B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】ヘッドマウントディスプレイの消費電力を削減できる表示制御方法、通信装置、表示制御プログラムおよび表示制御装置を提供する。【解決手段】表示制御方法は、センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出する処理をコンピュータが実行する。また、表示制御方法は、当該オブジェクトデータを検出すると、オブジェクトデータをヘッドマウントディスプレイに表示する処理をコンピュータが実行する。また、表示制御方法は、複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出する処理をコンピュータが実行する。また、表示制御方法は、算出した距離の分布に基づき、ヘッドマウントディスプレイの向きの検出を抑制する制御を行う処理をコンピュータが実行する。【選択図】図1

Description

本発明は、表示制御方法、通信装置、表示制御プログラムおよび表示制御装置に関する。
近年、ヘッドマウントディスプレイ等の表示装置を用いて、撮像された画像上にオブジェクトを重畳表示させるAR(Augmented Reality)技術が提案されている。ARにおいてオブジェクトを重畳表示させる場合、ヘッドマウントディスプレイの位置や向きを検出し、検出した位置や向きに応じてオブジェクトを変化させる。これにより、ヘッドマウントディスプレイには、ユーザの位置、および、ユーザが向いている方向に応じたオブジェクトが撮像画像上に重畳表示される。
特開2009−294372号公報 特開2014−235717号公報 国際公開第2013/145147号
しかしながら、ヘッドマウントディスプレイの位置や向きを検出すると消費電力が増大し、ヘッドマウントディスプレイの連続稼働時間が短くなる。このため、ヘッドマウントディスプレイの位置や向きを検出しつつ、ヘッドマウントディスプレイの消費電力を削減することは困難である。
一つの側面では、本発明は、ヘッドマウントディスプレイの消費電力を削減できる表示制御方法、通信装置、表示制御プログラムおよび表示制御装置を提供することにある。
一つの態様では、表示制御方法は、センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出する処理をコンピュータが実行する。また、表示制御方法は、当該オブジェクトデータを検出すると、前記オブジェクトデータを前記ヘッドマウントディスプレイに表示する処理をコンピュータが実行する。また、表示制御方法は、複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出する処理をコンピュータが実行する。また、表示制御方法は、算出した前記距離の分布に基づき、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う処理をコンピュータが実行する。
ヘッドマウントディスプレイの消費電力を削減できる。
図1は、実施例の表示制御システムの構成の一例を示すブロック図である。 図2は、オブジェクトデータの表示の一例を示す図である。 図3は、レーダーチャートの一例を示す図である。 図4は、オブジェクトデータの表示の他の一例を示す図である。 図5は、表示領域内にオブジェクトデータがない場合の表示の一例を示す図である。 図6は、表示領域内にオブジェクトデータがない場合の表示の他の一例を示す図である。 図7は、表示領域内にオブジェクトデータがない場合におけるセンサ情報に関する動作の一例を示す図である。 図8は、表示領域内にオブジェクトデータがある場合におけるセンサ情報に関する動作の一例を示す図である。 図9は、オブジェクトデータ記憶部の一例を示す図である。 図10は、実施例の表示制御処理の一例を示すシーケンス図である。 図11は、実施例の表示制御処理の一例を示すシーケンス図である。 図12は、表示制御プログラムを実行するコンピュータの一例を示す図である。
以下、図面に基づいて、本願の開示する表示制御方法、通信装置、表示制御プログラムおよび表示制御装置の実施例を詳細に説明する。なお、本実施例により、開示技術が限定されるものではない。また、以下の実施例は、矛盾しない範囲で適宜組みあわせてもよい。
図1は、実施例の表示制御システムの構成の一例を示すブロック図である。図1に示す表示制御システム1は、ヘッドマウントディスプレイ(以下、HMD(Head Mounted Display)ともいう。)10と、表示制御装置100と、サーバ200とを有する。HMD10と表示制御装置100とは、1対1で無線または有線により接続される。すなわち、HMD10は、表示制御装置100の表示部の一例として機能する。なお、HMD10と表示制御装置100とは、1対1での接続に限定されず、1対多、多対1または多対多での接続であってもよい。また、図1では、HMD10と表示制御装置100との組について、1組を一例として示したが、HMD10と表示制御装置100との組の数は限定されず、任意の数のHMD10と表示制御装置100との組を有してもよい。また、表示制御装置100は、通信装置の一例である。
HMD10と表示制御装置100との間は、例えば、Wi−Fi Direct(登録商標)等の無線LAN(Local Area Network)により相互に通信可能に接続される。また、表示制御装置100とサーバ200との間は、ネットワークNを介して相互に通信可能に接続される。かかるネットワークNには、有線または無線を問わず、インターネットを始め、LANやVPN(Virtual Private Network)などの任意の種類の通信網を採用できる。
HMD10は、ユーザが表示制御装置100とともに装着し、表示制御装置100から送信される表示画面を表示する。HMD10は、例えば、単眼の透過型のHMDを用いることができる。なお、HMD10は、例えば、両眼用や没入型等の各種のHMDを用いるようにしてもよい。また、HMD10は、ユーザの位置や顔の向きを検出するために、位置検出センサおよび方向検出センサを有する。
表示制御装置100は、ユーザが装着して操作する情報処理装置であり、例えば、タブレット端末やスマートフォン等の移動体通信端末等を用いることができる。表示制御装置100は、例えば、HMD10の位置検出センサおよび方向検出センサによって検出された位置および向きの情報をHMD10から受信する。表示制御装置100は、センサにより検出されたHMD10の位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出すると、オブジェクトデータをHMD10に表示する。なお、位置検出センサは、HMD10のセンサを用いずに、表示制御装置100が有する位置検出センサを用いてもよい。表示制御装置100は、複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出する。表示制御装置100は、算出した距離の分布に基づき、HMD10の向きの検出を抑制する制御を行う。これにより、表示制御装置100は、ヘッドマウントディスプレイ10の消費電力を削減できる。
サーバ200は、例えば、ある工場における設備点検用のARコンテンツをオブジェクトデータとして管理するデータベースを有する。サーバ200は、表示制御装置100の求めに応じて、ネットワークNを介して、オブジェクトデータを表示制御装置100に送信する。
ここで、HMD10に表示される表示画面の一例について説明する。図2は、オブジェクトデータの表示の一例を示す図である。図2に示すように、表示画面20には、レーダーチャート21と、オブジェクトデータであるARコンテンツ25、26とが表示される。なお、以下の説明では、オブジェクトデータの一例として、ARコンテンツを用いる場合について説明する。レーダーチャート21には、ユーザを中心として周囲のオブジェクトデータの位置が表示される。また、レーダーチャート21は、オブジェクトデータが表示画面20内に表示される表示領域22と、表示領域22の周囲に設定されたプレ表示領域23とを有する。レーダーチャート21では、オブジェクトデータは点で表される。
プレ表示領域23内のオブジェクトデータは、ユーザがオブジェクトデータの方向を向いても表示画面20内には表示されないが、ユーザがさらに近づいた場合に、表示画面20内に表示される。また、レーダーチャート21は、ユーザの視界を示す視界24を有する。つまり、表示画面20には、レーダーチャート21において、表示領域22内であり、かつ、視界24内にあるオブジェクトデータが表示される。図2に示す表示画面20では、視界24内にARコンテンツ25、26に対応する点があるため、表示画面20にARコンテンツ25、26が表示される。
図3は、レーダーチャートの一例を示す図である。図3は、レーダーチャート21を拡大したものである。レーダーチャート21は、ユーザ位置21aを中心とした円で構成され、ユーザ位置21aから所定の距離を半径とした円の表示領域22と、表示領域22の円および表示領域22より大きい円で囲まれた領域であるプレ表示領域23とを有する。また、レーダーチャート21には、北の方角を示す方位マーク21bが表示される。なお、方位マーク21bは、例えば、ユーザの移動や向きに応じて移動可能としてもよい。
表示領域22およびプレ表示領域23には、例えば、オブジェクトデータを示す点が複数表示され、例えば、表示領域22内、かつ、視界24内のオブジェクトデータ27が表示画面に表示される。これに対し、プレ表示領域23内、かつ、視界24内のオブジェクトデータ28は、表示画面に表示されない。また、他の点よりも大きな点で示されるオブジェクトデータ29は、表示制御装置100においてオブジェクトデータの編集中であることを示す。なお、オブジェクトデータの編集は、例えば、オブジェクトデータの位置、大きさの変更、情報の付加等が挙げられる。
図4は、オブジェクトデータの表示の他の一例を示す図である。図4に示すように、表示画面30は、図2に示す表示画面20と比較して、ユーザの向きが異なっている。すなわち、表示画面30は、ユーザが南方向から北西方向に向きを変えた場合における表示画面である。表示画面30のレーダーチャート21では、表示領域22内、かつ、視界24内に、ARコンテンツ31、32に対応する点が存在する。このため、表示画面30には、ARコンテンツ31、32が表示される。なお、プレ表示領域23内のオブジェクトデータは表示されない。
図5は、表示領域内にオブジェクトデータがない場合の表示の一例を示す図である。図5に示すように、表示画面35は、ユーザの周囲、つまり表示領域22およびプレ表示領域23内にオブジェクトデータがない場合の表示画面である。表示画面35では、ユーザの周囲にオブジェクトデータがないため、レーダーチャート21にもオブジェクトデータを示す点が表示されない。図6は、表示領域内にオブジェクトデータがない場合の表示の他の一例を示す図である。図6に示すように、表示画面36は、表示画面35の状態からユーザの向きが変化した状態であるが、向きが変化したとしても、やはり周囲にオブジェクトデータがないため、レーダーチャート21内の表示を含めて、表示画面36にはオブジェクトデータが表示されない。このように、ユーザの周囲にオブジェクトデータがない場合には、ユーザの向きを検出しても無駄となるため、方向検出センサを停止しても構わないこととなる。本実施例では、この点に着目してHMD10の消費電力の低減を行う。
表示制御装置100は、HMD10の消費電力を低減するために、HMD10に対するセンサ情報取得要求を制御する。図7は、表示領域内にオブジェクトデータがない場合におけるセンサ情報に関する動作の一例を示す図である。図7に示すように、表示制御装置100は、レーダーチャート21内にオブジェクトデータがない場合には、HMD10の向きを検出しなくてもよいので、HMD10に対するセンサ情報取得要求を停止する。
図8は、表示領域内にオブジェクトデータがある場合におけるセンサ情報に関する動作の一例を示す図である。図8は、例えば、ユーザが、図7の状態からオブジェクトデータが設定されている位置に移動した場合である。図8に示すように、表示制御装置100は、レーダーチャート21内にオブジェクトデータがある場合、HMD10の向きを検出するために、HMD10に対するセンサ情報取得要求を行う。このように、表示制御装置100は、レーダーチャート21内におけるオブジェクトデータの有無によってHMD10にセンサ情報取得要求を制御するので、HMD10の消費電力を削減できる。
次に、HMD10の構成について説明する。図1に示すように、HMD10は、通信部11と、位置検出センサ12と、方向検出センサ13と、表示部14と、記憶部15と、制御部16とを有する。なお、HMD10は、図1に示す機能部以外にも、例えば各種の入力デバイスや音声出力デバイス等の機能部を有することとしてもかまわない。
通信部11は、例えば、無線LAN等の通信モジュール等によって実現される。通信部11は、例えば、Wi−Fi Direct(登録商標)により表示制御装置100と無線で接続され、表示制御装置100との間で情報の通信を司る通信インタフェースである。通信部11は、表示制御装置100から、センサ制御情報および表示画面を受信する。通信部11は、受信したセンサ制御情報および表示画面を制御部16に出力する。また、通信部11は、制御部16から入力されたセンサ情報を表示制御装置100に送信する。
位置検出センサ12は、HMD10の位置、つまりユーザの位置を検出するセンサである。位置検出センサ12は、例えば、GPS(Global Positioning System)受信機であり、受信したGPS信号に基づいて、経度緯度および高度を含む位置情報を生成する。位置検出センサ12は、生成した位置情報を制御部16に出力する。また、位置検出センサ12は、制御部16から動作の開始または終了や測定周期の変更等を行うための制御情報が入力される。位置検出センサ12は、入力された制御情報に基づいて、動作の開始または終了や測定周期の変更等を実行する。なお、位置検出センサ12は、その他の測位システムに対応するセンサであってもよい。また、ユーザの位置を表示制御装置100で計測する場合には、位置検出センサ12は動作を停止していてもよいし、設けなくてもよい。
方向検出センサ13は、HMD10の方向、つまりユーザの向きを検出するセンサである。方向検出センサ13は、例えば、加速度センサ、ジャイロセンサおよび方位センサを用いてユーザの向き、つまり、ユーザの向いている方向を検出する。加速度センサとしては、例えば、ピエゾ抵抗型や静電容量型等の3軸加速度センサを用いることができる。ジャイロセンサとしては、例えば振動型のジャイロセンサを用いることができる。方位センサとしては、例えば、磁気センサを用いることができる。方向検出センサ13は、検出した方向を含む方向情報を制御部16に出力する。また、方向検出センサ13は、制御部16から動作の開始または終了や測定周期の変更等を行うための制御情報が入力される。方向検出センサ13は、入力された制御情報に基づいて、動作の開始または終了や測定周期の変更等を実行する。
表示部14は、各種情報を表示するための表示デバイスである。表示部14は、例えば、ハーフミラーに映像が投影され、ユーザが映像とともに外部の風景を透過して見ることができる透過型のHMDの表示素子に相当する。なお、表示部14は、没入型、ビデオ透過型、網膜投影型等のHMDに対応する表示素子でもよい。
記憶部15は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子等の記憶装置によって実現される。記憶部15は、制御部16での処理に用いる情報を記憶する。
制御部16は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、内部の記憶装置に記憶されているプログラムがRAMを作業領域として実行されることにより実現される。また、制御部16は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されるようにしてもよい。制御部16は、センサ制御部17と、表示制御部18とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部16の内部構成は、図1に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
センサ制御部17は、通信部11を介して表示制御装置100から受信したセンサ制御情報に基づいて、位置検出センサ12および方向検出センサ13を制御する。センサ制御部17は、例えば、HMD10の電源が投入されると、センサ情報の送受信サービスを起動する。送受信サービスは、予め定義されたAPI(Application Programming Interface)に基づいて、表示制御装置100から受信したセンサ制御情報に含まれるAPIに対応する動作を実行する。送受信サービスが実行する動作は、例えば、センサの動作の制御や測定周期の変更が挙げられる。
APIは、例えば、センサの動作について、開始および終了を制御する「getSensorInfo(Boolean isGetSensorInfo)」が挙げられる。当該APIは、「getSensorInfo」がAPI名であり、「(Boolean isGetSensorInfo)」がAPI引数である。また、API引数の「Boolean」は、引数の型を示し、2値の値(「true」または「false」)を取る。API引数の「isGetSensorInfo」は、APIの引数の実態である。このAPIでは、例えば、表示制御装置100から利用する際に、API引数の「isGetSensorInfo」が「true」に設定されると、HMD10でセンサ情報の取得が開始され、センサ情報の表示制御装置100への送信が開始される。また、API引数の「isGetSensorInfo」が「false」に設定されると、HMD10でセンサ情報の取得が終了され、センサ情報の表示制御装置100への送信が終了される。言い換えると、API引数の「isGetSensorInfo」が「true」に設定されたAPIを含むセンサ制御情報は、センサ情報の取得依頼である。また、API引数の「isGetSensorInfo」が「false」に設定されたAPIを含むセンサ制御情報は、センサ情報の取得解除依頼である。
センサ制御部17は、センサ情報の取得依頼に対応するセンサ制御情報に基づいて、対応する位置検出センサ12および方向検出センサ13のうち1つ以上のセンサに対して、位置情報および方向情報のうち1つ以上の情報の出力開始を指示する制御情報を出力する。センサ制御部17は、位置検出センサ12および方向検出センサ13のうち1つ以上のセンサから、位置情報および方向情報のうち1つ以上の情報の入力が開始される。センサ制御部17は、入力が開始された位置情報および方向情報のうち1つ以上の情報をセンサ情報とし、当該センサ情報の送信を、通信部11を介して表示制御装置100に対して開始する。なお、センサ制御部17は、位置情報および方向情報のうち1つ以上の情報を含むセンサ情報を、例えば1秒間隔で送信する。
センサ制御部17は、センサ情報の取得解除依頼に対応するセンサ制御情報に基づいて、対応する位置検出センサ12および方向検出センサ13のうち1つ以上のセンサに対して、情報の出力終了を指示する制御情報を出力する。なお、センサ制御部17は、例えば、センサ情報の取得周期を長くする等に対応するセンサ制御情報に対しても同様に、対応する位置検出センサ12および方向検出センサ13のうち1つ以上のセンサを制御する。
ここで、方向情報について説明する。方向情報は、HMD10のx軸、y軸およびz軸のそれぞれの回転角度を示す情報である。x軸、y軸およびz軸は、それぞれ世界座標系の経度、高度および緯度に対応する。x軸の回転角度は、ピッチ(Pitch)で表され、x軸を中心とする回転角度である。ピッチのデータ取得範囲は、「−π/2<=Pitch<=π/2」[rad]である。y軸の回転角度は、アジマス(Azimuth)で表され、y軸を中心とする回転角度である。アジマスのデータ取得範囲は、「−2π<=Azimuth<=2π」[rad]である。z軸の回転角度は、ロール(Roll)で表され、z軸を中心とする回転角度である。ロールのデータ取得範囲は、「−2π<=Roll<=2π」[rad]である。
表示制御部18は、通信部11を介して表示制御装置100から受信した表示画面を表示部14に表示させる。また、表示制御部18は、表示画面の更新に応じて、表示部14の表示を更新する。
続いて、表示制御装置100の構成について説明する。図1に示すように、表示制御装置100は、第1通信部110と、第2通信部111と、表示操作部112と、位置検出センサ113と、記憶部120と、制御部130とを有する。なお、表示制御装置100は、図1に示す機能部以外にも既知のコンピュータが有する各種の機能部、例えば各種の入力デバイスや音声出力デバイス等の機能部を有することとしてもかまわない。
第1通信部110は、例えば、無線LAN等の通信モジュール等によって実現される。第1通信部110は、例えば、Wi−Fi Direct(登録商標)によりHMD10と無線で接続され、HMD10との間で情報の通信を司る通信インタフェースである。第1通信部110は、HMD10からセンサ情報を受信する。第1通信部110は、受信したセンサ情報を制御部130に出力する。また、第1通信部110は、制御部130から入力されたセンサ制御情報および表示画面をHMD10に送信する。
第2通信部111は、例えば、第3世代移動通信システム、LTE(Long Term Evolution)等の携帯電話回線および無線LAN等の通信モジュール等によって実現される。第2通信部111は、ネットワークNを介してサーバ200と無線で接続され、サーバ200との間で情報の通信を司る通信インタフェースである。第2通信部111は、制御部130から入力されたデータ取得指示を、ネットワークNを介して、サーバ200に送信する。また、第2通信部111は、データ取得指示に応じたオブジェクトデータを、ネットワークNを介して、サーバ200から受信する。第2通信部111は、受信したオブジェクトデータを制御部130に出力する。
表示操作部112は、各種情報を表示するための表示デバイス、および、ユーザから各種操作を受け付ける入力デバイスである。例えば、表示操作部112は、表示デバイスとして液晶ディスプレイ等によって実現される。また、例えば、表示操作部112は、入力デバイスとして、タッチパネル等によって実現される。つまり、表示操作部112は、表示デバイスと入力デバイスとが一体化される。表示操作部112は、ユーザによって入力された操作を操作情報として制御部130に出力する。なお、表示操作部112は、HMD10と同様の画面を表示してもよいし、HMD10と異なる画面を表示してもよい。
位置検出センサ113は、表示制御装置100の位置、つまりユーザの位置を検出するセンサである。位置検出センサ113は、例えば、GPS受信機であり、受信したGPS信号に基づいて、経度緯度および高度を含む位置情報を生成する。位置検出センサ113は、生成した位置情報を制御部130に出力する。なお、位置検出センサ113は、その他の測位システムに対応するセンサであってもよい。また、ユーザの位置をHMD10で計測する場合には、位置検出センサ113は動作を停止していてもよい。
記憶部120は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、ハードディスクや光ディスク等の記憶装置によって実現される。記憶部120は、オブジェクトデータ記憶部121を有する。また、記憶部120は、制御部130での処理に用いる情報を記憶する。
オブジェクトデータ記憶部121は、サーバ200から取得したオブジェクトデータを記憶する。図9は、オブジェクトデータ記憶部の一例を示す図である。図9に示すように、オブジェクトデータ記憶部121は、「オブジェクトID(Identifier)」、「オブジェクトデータ」、「位置情報」といった項目を有する。オブジェクトデータ記憶部121は、例えばオブジェクトデータごとに1レコードとして記憶する。
「オブジェクトID」は、オブジェクトデータ、つまりARコンテンツを識別する識別子である。「オブジェクトデータ」は、サーバ200から取得したオブジェクトデータを示す情報である。「オブジェクトデータ」は、例えば、オブジェクトデータ、つまりARコンテンツを構成するデータファイルである。「位置情報」は、オブジェクトデータに対応付けられている位置情報である。「位置情報」は、対応付けられたオブジェクトデータの世界座標系における位置情報を示す情報である。
制御部130は、例えば、CPUやMPU等によって、内部の記憶装置に記憶されているプログラムがRAMを作業領域として実行されることにより実現される。また、制御部130は、例えば、ASICやFPGA等の集積回路により実現されるようにしてもよい。制御部130は、表示制御部131と、算出部132と、検出制御部133と、位置測定部134とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部130の内部構成は、図1に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
表示制御部131は、ARミドルウェアを用いたアプリケーションを起動する。表示制御部131は、アプリケーションが起動されると、第1通信部110を介して、HMD10に対するアプリケーションの表示画面の送信を開始する。
表示制御部131は、アプリケーションが起動されると、第2通信部111およびネットワークNを介して、データ取得指示をサーバ200に送信する。表示制御部131は、第2通信部111およびネットワークNを介して、サーバ200からデータ取得指示に対応するオブジェクトデータを受信すると、受信したオブジェクトデータをオブジェクトデータ記憶部121に記憶する。
表示制御部131は、アプリケーションが起動されると、センサ情報の送受信サービスを生成して起動する。送受信サービスは、HMD10の送受信サービスと同様に、予め定義されたAPIに基づいて動作する。APIは、他の機能部から呼び出されることで、センサ情報の送受信サービスを提供する。
表示制御部131は、アプリケーションが起動されると、位置測定部134に対して測位開始指示を出力する。なお、表示制御部131は、HMD10の位置検出センサ12を用いる場合には、第1通信部110を介して、測位開始指示を含むセンサ情報の取得依頼に対応するセンサ制御情報をHMD10に送信する。
表示制御部131は、算出部132から表示領域22およびプレ表示領域23が入力されると、表示画面にレーダーチャート21を表示させる。また、表示制御部131は、検出制御部133から表示領域22およびプレ表示領域23内のオブジェクトデータの位置が入力されると、入力されたオブジェクトデータの位置を表示領域22およびプレ表示領域23に表示させる。
表示制御部131は、算出部132から視界24が入力されると、入力された視界24を表示領域22およびプレ表示領域23に重畳表示させる。また、表示制御部131は、オブジェクトデータ記憶部121を参照し、表示領域22内、かつ、視界24内のオブジェクトデータを表示画面に表示させる。言い換えると、表示制御部131は、HMD10から受信した位置と方向とに基づくオブジェクトの検索に応じて、特定のオブジェクトを含む画像をHMD10に送信する。
算出部132には、位置測定部134での測位開始に応じた位置情報、または、HMD10での測位開始に応じて、第1通信部110を介して受信したセンサ情報に含まれる位置情報が入力される。算出部132は、位置情報が入力されると、ユーザの位置情報と、予め設定された表示領域22およびプレ表示領域23に対応する距離とに基づいて、表示領域22およびプレ表示領域23を設定する。すなわち、算出部132は、入力された位置情報に基づいて、ユーザとオブジェクトデータとの距離を算出する。言い換えると、算出部132は、ユーザから複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出する。算出部132は、設定した表示領域22およびプレ表示領域23を表示制御部131および検出制御部133に出力する。
また、算出部132には、第1通信部110を介して受信したセンサ情報に含まれる方向情報が入力される。算出部132は、表示領域22、プレ表示領域23および方向情報に基づいて、ユーザの視界24を設定する。算出部132は、設定した視界24を表示制御部131に出力する。
検出制御部133は、算出部132から、設定された表示領域22およびプレ表示領域23が入力されると、オブジェクトデータ記憶部121を参照し、表示領域22およびプレ表示領域23内に位置するオブジェクトデータを検出する。すなわち、検出制御部133は、表示領域22およびプレ表示領域23内におけるオブジェクトデータの有無を判定する。つまり、検出制御部133は、算出されたユーザとオブジェクトデータとの距離の全てが表示領域22およびプレ表示領域23内であるか否かを判定する。
検出制御部133は、算出されたユーザとオブジェクトデータとの距離のうち1つ以上の距離が表示領域22およびプレ表示領域23内である場合には、第1通信部110を介して、HMD10に方向情報に対応するセンサ情報の取得依頼を送信する。また、検出制御部133は、表示領域22およびプレ表示領域23内のオブジェクトデータの位置を表示制御部131に出力する。なお、検出制御部133は、HMD10で位置情報を取得する場合には、位置情報に対応するセンサ情報の取得依頼を送信する。すなわち、検出制御部133は、HMD10に対して通常時の測定間隔で位置を測定するように、位置情報に対応するセンサ情報の取得依頼を送信する。
検出制御部133は、算出されたユーザとオブジェクトデータとの距離の全てが表示領域22およびプレ表示領域23内でない場合には、第1通信部110を介して、HMD10に方向情報に対応するセンサ情報の取得解除依頼を送信する。なお、検出制御部133は、表示領域22およびプレ表示領域23内のオブジェクトデータの位置を継続的に表示制御部131に出力する。この場合、検出制御部133は、表示領域22およびプレ表示領域23内にオブジェクトデータの位置がなくなった場合、つまり、HMD10に方向情報に対応するセンサ情報の取得解除依頼を送信する場合には、オブジェクトデータの位置の出力を停止する。なお、検出制御部133は、HMD10で位置情報を取得する場合には、位置情報に対応するセンサ情報の取得解除依頼を送信する。すなわち、検出制御部133は、HMD10に対して通常時よりも測定間隔を長くして、つまり測定周期を長くして位置を測定するように、位置情報に対応するセンサ情報の取得解除依頼を送信する。
言い換えると、検出制御部133は、センサにより検出されたHMD10の位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出する。また、検出制御部133は、算出した距離の分布に基づき、HMD10の向きの検出を抑制する制御を行う。また、検出制御部133は、複数のオブジェクトデータに対応付けられた位置のうち何れの位置もHMD10にオブジェクトデータを表示する対象の範囲に含まれない場合、HMD10の向きの検出を抑制する制御を行う。また、検出制御部133は、複数のオブジェクトデータに対応付けられた位置のうち何れの位置も距離が指定された距離よりも大きい場合、HMD10の向きの検出を抑制する制御を行う。
また、検出制御部133は、位置測定部134で測定した位置と所定の位置関係にある位置に対応付けられたオブジェクトの有無判定結果に応じて、HMD10が備えるセンサの動作、または、センサ情報の送信を制御する信号をHMD10に送信する。また、検出制御部133は、オブジェクトが無い旨の判定結果である場合に、オブジェクトが有る旨の判定結果である場合と比較して、周期を長くするセンサ制御情報をHMD10に送信する。周期を長くするセンサ制御情報は、センサの検出動作の周期を長くする制御、および、センサ情報の送信の周期を長くする制御のうち、1つ以上の制御を行う信号である。
また、検出制御部133は、HMD10から受信した位置に基づく、位置と所定の位置関係にある位置に対応づけられたオブジェクトの有無を判定する。検出制御部133は、有無判定結果に応じて、位置検出センサ12及び/又は方向検出センサ13の動作、または、位置検出センサ12及び/又は方向検出センサ13で取得したセンサ情報の送信を制御する信号をHMD10に送信する。
また、検出制御部133は、受信した位置に基づく、位置と所定の位置関係にある位置に対応づけられたオブジェクトの検索に応じて、方向検出センサ13による検出方向をHMD10から送信するようにHMD10に指示する信号を送信する。
位置測定部134は、表示制御部131から測位開始指示が入力されると、位置検出センサ113に測位の開始を指示する。位置測定部134は、位置検出センサ113から位置情報が入力されると、入力された位置情報を算出部132に出力する。また、位置測定部134は、アプリケーションが終了されると、位置検出センサ113に測位の終了を指示する。
次に、実施例の表示制御システム1の動作について説明する。図10および図11は、実施例の表示制御処理の一例を示すシーケンス図である。
表示制御装置100の表示制御部131は、ARミドルウェアを用いたアプリケーションを起動する(ステップS1)。表示制御部131は、アプリケーションが起動されると、HMD10に対するアプリケーションの表示画面の送信を開始する。
HMD10のセンサ制御部17は、HMD10の電源が投入されると、センサ情報の送受信サービスを起動する(ステップS2)。表示制御部18は、表示制御装置100から受信したアプリケーションの表示画面の表示を開始する(ステップS3)。
表示制御部131は、アプリケーションが起動されると、データ取得指示をサーバ200に送信する。表示制御部131は、サーバ200からデータ取得指示に対応するオブジェクトデータを受信すると、受信して取得したオブジェクトデータをオブジェクトデータ記憶部121に記憶する(ステップS4)。
また、表示制御部131は、アプリケーションが起動されると、センサ情報の送受信サービスを生成して起動する(ステップS5)。さらに、表示制御部131は、位置測定部134に対して測位開始指示を出力する。位置測定部134は、表示制御部131から測位開始指示が入力されると、位置検出センサ113に測位の開始を指示する。位置測定部134は、位置検出センサ113から位置情報が入力されると、入力された位置情報を算出部132に出力する(ステップS6)。
算出部132には、位置測定部134での測位開始に応じた位置情報が入力される。算出部132は、位置情報が入力されると、入力された位置情報に基づいて、ユーザとオブジェクトデータとの距離を算出する(ステップS7)。すなわち、算出部132は、表示領域22およびプレ表示領域23を設定する。算出部132は、設定した表示領域22およびプレ表示領域23を表示制御部131および検出制御部133に出力する。表示制御部131は、算出部132から表示領域22およびプレ表示領域23が入力されると、表示画面にレーダーチャート21を表示させる。
検出制御部133は、算出部132から、設定された表示領域22およびプレ表示領域23が入力されると、ユーザとオブジェクトデータとの距離の全てが表示領域22およびプレ表示領域23内であるか否かを判定する(ステップS8)。検出制御部133は、ユーザとオブジェクトデータとの距離のうち1つ以上の距離が表示領域22およびプレ表示領域23内である場合には(ステップS8:肯定)、HMD10に方向情報に対応するセンサ情報の取得依頼を送信する(ステップS9)。また、検出制御部133は、表示領域22およびプレ表示領域23内のオブジェクトデータの位置を表示制御部131に出力する。また、表示制御部131は、検出制御部133から表示領域22およびプレ表示領域23内のオブジェクトデータの位置が入力されると、入力されたオブジェクトデータの位置を表示領域22およびプレ表示領域23に表示させる。
検出制御部133は、ユーザとオブジェクトデータとの距離の全てが表示領域22およびプレ表示領域23内でない場合には(ステップS8:否定)、HMD10に方向情報に対応するセンサ情報の取得解除依頼を送信する(ステップS10)。
HMD10のセンサ制御部17は、方向情報に対応するセンサ情報の取得依頼または取得解除依頼を受信すると、取得依頼があるか否かを判定する(ステップS11)。センサ制御部17は、取得依頼がある場合には(ステップS11:肯定)、方向検出センサ13に対して、方向情報の出力開始を指示する制御情報を出力する。つまり、センサ制御部17は、センサ情報の取得を開始する(ステップS12)。センサ制御部17は、取得依頼がない場合には(ステップS11:否定)、ステップS13に進む。
センサ制御部17は、取得解除依頼があるか否かを判定する(ステップS13)。センサ制御部17は、取得解除依頼がある場合には(ステップS13:肯定)、方向検出センサ13に対して、方向情報の出力終了を指示する制御情報を出力する。つまり、センサ制御部17は、センサ情報の取得を終了する(ステップS14)。センサ制御部17は、取得解除依頼がない場合には(ステップS13:否定)、ステップS15に進む。
センサ制御部17は、センサ情報を取得中であるか否かを判定する(ステップS15)。センサ制御部17は、センサ情報を取得中である場合には(ステップS15:肯定)、方向検出センサ13から取得中の方向情報をセンサ情報とし、当該センサ情報を表示制御装置100に送信する(ステップS16)。センサ制御部17は、センサ情報を取得中でない場合には(ステップS15:否定)、ステップS20に進む。
表示制御装置100の算出部132は、方向情報を含むセンサ情報を受信すると(ステップS17)、表示領域22、プレ表示領域23および方向情報に基づいて、ユーザの視界24を設定する。算出部132は、設定した視界24を表示制御部131に出力する。
表示制御部131は、算出部132から視界24が入力されると、入力された視界24を表示領域22およびプレ表示領域23に重畳表示させる。また、表示制御部131は、オブジェクトデータ記憶部121を参照し、表示領域22内、かつ、視界24内のオブジェクトデータを表示画面に表示させる(ステップS18)。つまり、表示制御部131は、表示画面を更新させる。
HMD10の表示制御部18は、表示画面の更新に応じて、表示部14の表示を更新する(ステップS19)。センサ制御部17は、送受信サービスが終了したか否かを判定する(ステップS20)。センサ制御部17は、送受信サービスが終了していない場合には(ステップS20:否定)、ステップS11に戻る。センサ制御部17は、送受信サービスが終了した場合には(ステップS20:肯定)、処理を終了する。
表示制御装置100の表示制御部131は、アプリケーションが終了したか否かを判定する(ステップS21)。表示制御部131は、アプリケーションが終了していない場合には(ステップS21:否定)、ステップS7に戻る。表示制御部131は、アプリケーションが終了した場合には(ステップS21:肯定)、送受信サービスを終了し(ステップS22)、表示制御処理を終了する。これにより、表示制御装置100は、HMD10の消費電力を削減できる。
なお、上記実施例では、ユーザの位置の測定を表示制御装置100で行ったが、これに限定されない。例えば、HMD10でユーザの位置を測定してもよい。
このように、表示制御装置100は、センサにより検出されたヘッドマウントディスプレイ10の位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出する。また、表示制御装置100は、検出したオブジェクトデータをヘッドマウントディスプレイ10に表示する。また、表示制御装置100は、複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出する。また、表示制御装置100は、算出した距離の分布に基づき、ヘッドマウントディスプレイ10の向きの検出を抑制する制御を行う。その結果、ヘッドマウントディスプレイ10の消費電力を削減できる。
また、表示制御装置100は、複数のオブジェクトデータに対応付けられた位置のうち何れの位置もヘッドマウントディスプレイ10にオブジェクトデータを表示する対象の範囲に含まれない場合、ヘッドマウントディスプレイ10の向きの検出を抑制する制御を行う。その結果、表示するオブジェクトデータがない場合に、ヘッドマウントディスプレイ10の消費電力を削減できる。
また、表示制御装置100は、複数のオブジェクトデータに対応付けられた位置のうち何れの位置も距離が指定された距離よりも大きい場合、ヘッドマウントディスプレイ10の向きの検出を抑制する制御を行う。その結果、オブジェクトデータがユーザから指定の距離より遠い場合に、ヘッドマウントディスプレイ10の消費電力を削減できる。
また、表示制御装置100は、ヘッドマウントディスプレイ10からセンサ情報を受信する。また、表示制御装置100は、位置を測定する。また、表示制御装置100は、測定した位置と所定の位置関係にある位置に対応付けられたオブジェクトの有無判定結果に応じて、ヘッドマウントディスプレイ10が備えるセンサの動作、または、センサ情報の送信を制御する信号をヘッドマウントディスプレイ10に送信する。その結果、オブジェクトの有無に応じて、ヘッドマウントディスプレイ10のセンサの動作またはセンサ情報の送信を制御できる。
また、ヘッドマウントディスプレイ10が備えるセンサは、ヘッドマウントディスプレイ10の方向を検出するセンサである。その結果、ヘッドマウントディスプレイ10の方向の検出をオブジェクトの有無に応じて制御できる。
また、表示制御装置100は、オブジェクトが無い旨の判定結果である場合に、オブジェクトが有る旨の判定結果である場合と比較して、センサの検出動作の周期を長くする制御、および、センサ情報の送信の周期を長くする制御のうち、1つ以上の制御を行う信号をヘッドマウントディスプレイ10に送信する。その結果、ヘッドマウントディスプレイ10の消費電力を削減できる。
また、表示制御装置100は、位置検出センサ12と、方向検出センサ13とを備えたヘッドマウントディスプレイ10から位置検出センサ12で検出された位置を受信する。また、表示制御装置100は、受信した位置に基づく、位置と所定の位置関係にある位置に対応づけられたオブジェクトの有無判定結果に応じて、位置検出センサ12及び/又は方向検出センサ13を制御する信号をヘッドマウントディスプレイ10に送信する。制御する信号は、位置検出センサ12及び/又は方向検出センサ13の動作、または、位置検出センサ12及び/又は方向検出センサ13で取得したセンサ情報の送信を制御する信号である。
また、表示制御装置100は、位置検出センサ12と、方向検出センサ13とを備えたヘッドマウントディスプレイ10から位置検出センサ12で検出された位置を受信する。また、表示制御装置100は、ヘッドマウントディスプレイ10に信号を送信する。また、表示制御装置100は、受信した位置に基づく、位置と所定の位置関係にある位置に対応づけられたオブジェクトの検索に応じて、方向検出センサ13による検出方向をヘッドマウントディスプレイ10から送信するようにヘッドマウントディスプレイ10に指示する信号を送信するように制御する。また、表示制御装置100は、ヘッドマウントディスプレイ10から受信した位置と方向とに基づくオブジェクトの検索に応じて、特定のオブジェクトを含む画像をヘッドマウントディスプレイ10に送信するように制御する。その結果、ヘッドマウントディスプレイ10の位置と方向に応じたオブジェクトを表示できる。
なお、上記実施例では、表示領域22またはプレ表示領域23内にオブジェクトデータが位置しない場合に、方向検出センサ13での向きの検出を抑制したが、これに限定されない。例えば、表示領域22内にオブジェクトデータが位置しない場合のみに、方向検出センサ13での向きの検出を抑制するようにしてもよい。
また、上記実施例では、工場の設備点検を一例として挙げたが、これに限定されない。例えば、観光地における名所案内等にも適用してもよい。
また、上記実施例では、表示制御装置100とHMD10とをユーザが装着する形態として説明したが、これに限定されない。例えば、HMD10を用いずに、例えばスマートフォンである表示制御装置100の表示操作部112に表示画面を表示するようにしてもよい。
また、図示した各部の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各部の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、算出部132と検出制御部133とを統合してもよい。また、図示した各処理は、上記の順番に限定されるものではなく、処理内容を矛盾させない範囲において、同時に実施してもよく、順序を入れ替えて実施してもよい。
さらに、各装置で行われる各種処理機能は、CPU(又はMPU、MCU(Micro Controller Unit)等のマイクロ・コンピュータ)上で、その全部または任意の一部を実行するようにしてもよい。また、各種処理機能は、CPU(またはMPU、MCU等のマイクロ・コンピュータ)で解析実行されるプログラム上、またはワイヤードロジックによるハードウェア上で、その全部又は任意の一部を実行するようにしてもよいことは言うまでもない。
ところで、上記の実施例で説明した各種の処理は、予め用意されたプログラムをコンピュータで実行することで実現できる。そこで、以下では、上記の実施例と同様の機能を有するプログラムを実行するコンピュータの一例を説明する。図12は、表示制御プログラムを実行するコンピュータの一例を示す図である。
図12に示すように、コンピュータ300は、各種演算処理を実行するCPU301と、データ入力を受け付ける入力装置302と、モニタ303とを有する。また、コンピュータ300は、記憶媒体からプログラム等を読み取る媒体読取装置304と、各種装置と接続するためのインタフェース装置305と、他の情報処理装置等と有線または無線により接続するための通信装置306とを有する。また、コンピュータ300は、各種情報を一時記憶するRAM307と、フラッシュメモリ308とを有する。また、各装置301〜308は、バス309に接続される。
フラッシュメモリ308には、図1に示した表示制御部131、算出部132、検出制御部133および位置測定部134の各処理部と同様の機能を有する表示制御プログラムが記憶される。また、フラッシュメモリ308には、オブジェクトデータ記憶部121、および、表示制御プログラムを実現するための各種データが記憶される。入力装置302は、例えば、コンピュータ300のユーザから操作情報等の各種情報の入力を受け付ける。モニタ303は、例えば、コンピュータ300のユーザに対して表示画面等の各種画面を表示する。インタフェース装置305は、例えばヘッドホン等が接続される。通信装置306は、例えば、図1に示した第1通信部110および第2通信部111と同様の機能を有しHMD10およびネットワークNと接続され、HMD10およびサーバ200と各種情報をやりとりする。
CPU301は、フラッシュメモリ308に記憶された各プログラムを読み出して、RAM307に展開して実行することで、各種の処理を行う。また、これらのプログラムは、コンピュータ300を図1に示した表示制御部131、算出部132、検出制御部133および位置測定部134として機能させることができる。
なお、上記の表示制御プログラムは、必ずしもフラッシュメモリ308に記憶されている必要はない。例えば、コンピュータ300が読み取り可能な記憶媒体に記憶されたプログラムを、コンピュータ300が読み出して実行するようにしてもよい。コンピュータ300が読み取り可能な記憶媒体は、例えば、CD−ROMやDVDディスク、USB(Universal Serial Bus)メモリ等の可搬型記録媒体、フラッシュメモリ等の半導体メモリ、ハードディスクドライブ等が対応する。また、公衆回線、インターネット、LAN等に接続された装置にこの表示制御プログラムを記憶させておき、コンピュータ300がこれらから表示制御プログラムを読み出して実行するようにしてもよい。
以上、本実施例を含む実施の形態に関し、さらに以下の付記を開示する。
(付記1)センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出すると、前記オブジェクトデータを前記ヘッドマウントディスプレイに表示する表示制御方法において、
複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出し、
算出した前記距離の分布に基づき、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
処理をコンピュータが実行することを特徴とする表示制御方法。
(付記2)前記抑制する制御を行う処理は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記ヘッドマウントディスプレイにオブジェクトデータを表示する対象の範囲に含まれない場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
ことを特徴とする付記1に記載の表示制御方法。
(付記3)前記抑制する制御を行う処理は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記距離が指定された距離よりも大きい場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
ことを特徴とする付記1に記載の表示制御方法。
(付記4)ヘッドマウントディスプレイからセンサ情報を受信する受信部と、
位置を測定する位置測定部と、
前記位置測定部で測定した位置と所定の位置関係にある位置に対応付けられたオブジェクトの有無判定結果に応じて、該ヘッドマウントディスプレイが備えるセンサの動作、または、センサ情報の送信を制御する信号を前記ヘッドマウントディスプレイに送信する送信部と、
を備えたことを特徴とする通信装置。
(付記5)前記ヘッドマウントディスプレイが備える前記センサは、前記ヘッドマウントディスプレイの方向を検出するセンサであることを特徴とする付記4に記載の通信装置。
(付記6)前記送信部は、前記オブジェクトが無い旨の判定結果である場合に、前記オブジェクトが有る旨の判定結果である場合と比較して、前記センサの検出動作の周期を長くする制御、および、前記センサ情報の送信の周期を長くする制御のうち、1つ以上の制御を行う信号を前記ヘッドマウントディスプレイに送信する、
ことを特徴とする付記4または5に記載の通信装置。
(付記7)位置検出センサと、方向検出センサとを備えたヘッドマウントディスプレイから前記位置検出センサで検出された位置を受信する受信部と、
受信した前記位置に基づく、前記位置と所定の位置関係にある位置に対応づけられたオブジェクトの有無判定結果に応じて、前記位置検出センサ及び/又は前記方向検出センサの動作、または、前記位置検出センサ及び/又は前記方向検出センサで取得したセンサ情報の送信を制御する信号を前記ヘッドマウントディスプレイに送信する送信部と、
を備えたことを特徴とする通信装置。
(付記8)位置検出センサと、方向検出センサとを備えたヘッドマウントディスプレイから前記位置検出センサで検出された位置を受信する受信部と、
前記ヘッドマウントディスプレイに信号を送信する送信部と、
受信した前記位置に基づく、前記位置と所定の位置関係にある位置に対応づけられたオブジェクトの検索に応じて、前記方向検出センサによる検出方向を前記ヘッドマウントディスプレイから送信するように前記ヘッドマウントディスプレイに指示する信号を送信するように前記送信部を制御する制御部と、
を備え、
前記制御部は、前記ヘッドマウントディスプレイから受信した位置と方向とに基づくオブジェクトの検索に応じて、特定のオブジェクトを含む画像を前記ヘッドマウントディスプレイに送信するように前記送信部を制御する、
ことを特徴とする通信装置。
(付記9)センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出すると、前記オブジェクトデータを前記ヘッドマウントディスプレイに表示する処理をコンピュータに実行させる表示制御プログラムにおいて、
複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出し、
算出した前記距離の分布に基づき、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
処理をコンピュータに実行させることを特徴とする表示制御プログラム。
(付記10)前記抑制する制御を行う処理は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記ヘッドマウントディスプレイにオブジェクトデータを表示する対象の範囲に含まれない場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
ことを特徴とする付記9に記載の表示制御プログラム。
(付記11)前記抑制する制御を行う処理は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記距離が指定された距離よりも大きい場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
ことを特徴とする付記9に記載の表示制御プログラム。
(付記12)センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出すると、前記オブジェクトデータを前記ヘッドマウントディスプレイに表示する表示制御装置において、
複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出する算出部と、
算出した前記距離の分布に基づき、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う検出制御部と、
を備えることを特徴とする表示制御装置。
(付記13)前記検出制御部は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記ヘッドマウントディスプレイにオブジェクトデータを表示する対象の範囲に含まれない場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
ことを特徴とする付記12に記載の表示制御装置。
(付記14)前記検出制御部は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記距離が指定された距離よりも大きい場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
ことを特徴とする付記12に記載の表示制御装置。
10 HMD
11 通信部
12 位置検出センサ
13 方向検出センサ
14 表示部
15 記憶部
16 制御部
17 センサ制御部
18 表示制御部
100 表示制御装置
110 第1通信部
111 第2通信部
120 記憶部
121 オブジェクトデータ記憶部
130 制御部
131 表示制御部
132 算出部
133 検出制御部
134 位置測定部
200 サーバ
N ネットワーク

Claims (10)

  1. センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出すると、前記オブジェクトデータを前記ヘッドマウントディスプレイに表示する表示制御方法において、
    複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出し、
    算出した前記距離の分布に基づき、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
    処理をコンピュータが実行することを特徴とする表示制御方法。
  2. 前記抑制する制御を行う処理は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記ヘッドマウントディスプレイにオブジェクトデータを表示する対象の範囲に含まれない場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
    ことを特徴とする請求項1に記載の表示制御方法。
  3. 前記抑制する制御を行う処理は、前記複数のオブジェクトデータに対応付けられた位置のうち何れの位置も前記距離が指定された距離よりも大きい場合、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
    ことを特徴とする請求項1に記載の表示制御方法。
  4. ヘッドマウントディスプレイからセンサ情報を受信する受信部と、
    位置を測定する位置測定部と、
    前記位置測定部で測定した位置と所定の位置関係にある位置に対応付けられたオブジェクトの有無判定結果に応じて、該ヘッドマウントディスプレイが備えるセンサの動作、または、センサ情報の送信を制御する信号を前記ヘッドマウントディスプレイに送信する送信部と、
    を備えたことを特徴とする通信装置。
  5. 前記ヘッドマウントディスプレイが備える前記センサは、前記ヘッドマウントディスプレイの方向を検出するセンサであることを特徴とする請求項4に記載の通信装置。
  6. 前記送信部は、前記オブジェクトが無い旨の判定結果である場合に、前記オブジェクトが有る旨の判定結果である場合と比較して、前記センサの検出動作の周期を長くする制御、および、前記センサ情報の送信の周期を長くする制御のうち、1つ以上の制御を行う信号を前記ヘッドマウントディスプレイに送信する、
    ことを特徴とする請求項4または5に記載の通信装置。
  7. 位置検出センサと、方向検出センサとを備えたヘッドマウントディスプレイから前記位置検出センサで検出された位置を受信する受信部と、
    受信した前記位置に基づく、前記位置と所定の位置関係にある位置に対応づけられたオブジェクトの有無判定結果に応じて、前記位置検出センサ及び/又は前記方向検出センサの動作、または、前記位置検出センサ及び/又は前記方向検出センサで取得したセンサ情報の送信を制御する信号を前記ヘッドマウントディスプレイに送信する送信部と、
    を備えたことを特徴とする通信装置。
  8. 位置検出センサと、方向検出センサとを備えたヘッドマウントディスプレイから前記位置検出センサで検出された位置を受信する受信部と、
    前記ヘッドマウントディスプレイに信号を送信する送信部と、
    受信した前記位置に基づく、前記位置と所定の位置関係にある位置に対応づけられたオブジェクトの検索に応じて、前記方向検出センサによる検出方向を前記ヘッドマウントディスプレイから送信するように前記ヘッドマウントディスプレイに指示する信号を送信するように前記送信部を制御する制御部と、
    を備え、
    前記制御部は、前記ヘッドマウントディスプレイから受信した位置と方向とに基づくオブジェクトの検索に応じて、特定のオブジェクトを含む画像を前記ヘッドマウントディスプレイに送信するように前記送信部を制御する、
    ことを特徴とする通信装置。
  9. センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出すると、前記オブジェクトデータを前記ヘッドマウントディスプレイに表示する処理をコンピュータに実行させる表示制御プログラムにおいて、
    複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出し、
    算出した前記距離の分布に基づき、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う、
    処理をコンピュータに実行させることを特徴とする表示制御プログラム。
  10. センサにより検出されたヘッドマウントディスプレイの位置および向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータを検出すると、前記オブジェクトデータを前記ヘッドマウントディスプレイに表示する表示制御装置において、
    複数のオブジェクトデータそれぞれに対応付けられた位置までの距離を算出する算出部と、
    算出した前記距離の分布に基づき、前記ヘッドマウントディスプレイの向きの検出を抑制する制御を行う検出制御部と、
    を備えることを特徴とする表示制御装置。
JP2016044658A 2016-03-08 2016-03-08 表示制御方法、通信装置、表示制御プログラムおよび表示制御装置 Active JP6711033B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016044658A JP6711033B2 (ja) 2016-03-08 2016-03-08 表示制御方法、通信装置、表示制御プログラムおよび表示制御装置
US15/447,617 US10222876B2 (en) 2016-03-08 2017-03-02 Display control system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016044658A JP6711033B2 (ja) 2016-03-08 2016-03-08 表示制御方法、通信装置、表示制御プログラムおよび表示制御装置

Publications (2)

Publication Number Publication Date
JP2017161645A true JP2017161645A (ja) 2017-09-14
JP6711033B2 JP6711033B2 (ja) 2020-06-17

Family

ID=59787867

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016044658A Active JP6711033B2 (ja) 2016-03-08 2016-03-08 表示制御方法、通信装置、表示制御プログラムおよび表示制御装置

Country Status (2)

Country Link
US (1) US10222876B2 (ja)
JP (1) JP6711033B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020145092A1 (ja) * 2019-01-07 2020-07-16 株式会社mediVR リハビリテーション支援装置、リハビリテーション支援システム、リハビリテーション支援方法およびリハビリテーション支援プログラム
JP2020110209A (ja) * 2019-01-07 2020-07-27 株式会社mediVR リハビリテーション支援装置、リハビリテーション支援システム、リハビリテーション支援方法およびリハビリテーション支援プログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018005091A (ja) * 2016-07-06 2018-01-11 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
DE112016007015T5 (de) * 2016-07-29 2019-03-21 Mitsubishi Electric Corporation Anzeigevorrichtung, anzeigesteuervorrichtung und anzeigesteuerverfahren
JP6816492B2 (ja) * 2016-12-14 2021-01-20 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
CN108827320B (zh) * 2018-06-08 2021-08-17 西安电子科技大学 一种便于在轨更换的星敏感器***及在轨更换方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013093706A (ja) * 2011-10-25 2013-05-16 Olympus Corp 頭部装着型表示装置、情報端末、プログラム、情報記憶媒体及び画像処理システム
JP2014186434A (ja) * 2013-03-22 2014-10-02 Seiko Epson Corp 頭部装着型表示装置を利用した情報表示システム、頭部装着型表示装置を利用した情報表示方法、および、頭部装着型表示装置
JP2015155802A (ja) * 2014-02-19 2015-08-27 富士通株式会社 携帯電子機器、および位置算出プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5125779B2 (ja) 2008-06-04 2013-01-23 株式会社ニコン ヘッドマウントディスプレイ装置
KR101350033B1 (ko) * 2010-12-13 2014-01-14 주식회사 팬택 증강 현실 제공 단말기 및 방법
JP5960799B2 (ja) 2012-03-28 2016-08-02 パイオニア株式会社 ヘッドマウントディスプレイ及び表示方法
JP2014235717A (ja) 2013-06-05 2014-12-15 キヤノン株式会社 情報処理装置及び拡張現実表示システム及び閲覧ユーザの登録方法及びプログラム
EP2842529A1 (en) * 2013-08-30 2015-03-04 GN Store Nord A/S Audio rendering system categorising geospatial objects

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013093706A (ja) * 2011-10-25 2013-05-16 Olympus Corp 頭部装着型表示装置、情報端末、プログラム、情報記憶媒体及び画像処理システム
JP2014186434A (ja) * 2013-03-22 2014-10-02 Seiko Epson Corp 頭部装着型表示装置を利用した情報表示システム、頭部装着型表示装置を利用した情報表示方法、および、頭部装着型表示装置
JP2015155802A (ja) * 2014-02-19 2015-08-27 富士通株式会社 携帯電子機器、および位置算出プログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020145092A1 (ja) * 2019-01-07 2020-07-16 株式会社mediVR リハビリテーション支援装置、リハビリテーション支援システム、リハビリテーション支援方法およびリハビリテーション支援プログラム
JP2020110209A (ja) * 2019-01-07 2020-07-27 株式会社mediVR リハビリテーション支援装置、リハビリテーション支援システム、リハビリテーション支援方法およびリハビリテーション支援プログラム
JP2020110561A (ja) * 2019-01-07 2020-07-27 株式会社mediVR リハビリテーション支援装置、リハビリテーション支援システム、リハビリテーション支援方法およびリハビリテーション支援プログラム
JP7385238B2 (ja) 2019-01-07 2023-11-22 株式会社mediVR リハビリテーション支援装置、リハビリテーション支援方法及びリハビリテーション支援プログラム

Also Published As

Publication number Publication date
US10222876B2 (en) 2019-03-05
JP6711033B2 (ja) 2020-06-17
US20170262074A1 (en) 2017-09-14

Similar Documents

Publication Publication Date Title
JP6711033B2 (ja) 表示制御方法、通信装置、表示制御プログラムおよび表示制御装置
JP7268692B2 (ja) 情報処理装置、制御方法及びプログラム
JP6816492B2 (ja) 表示制御プログラム、表示制御方法および表示制御装置
US9401050B2 (en) Recalibration of a flexible mixed reality device
CA2913650C (en) Virtual object orientation and visualization
JP6669067B2 (ja) 表示制御装置、表示制御方法およびプログラム
US10043314B2 (en) Display control method and information processing apparatus
US20150170422A1 (en) Information Display System With See-Through HMD, Display Control Program and Display Control Method
WO2017169081A1 (ja) 情報処理装置、情報処理方法およびプログラム
US11727648B2 (en) Method and device for synchronizing augmented reality coordinate systems
EP3460633A1 (en) Head-mounted display apparatus and processing method thereof
JP6409644B2 (ja) 表示制御方法、表示制御プログラム、及び情報処理装置
TW202004424A (zh) 用於追蹤和渲染對應於實體對象的虛擬對象的追蹤系統以及用於其的操作方法
JP6938904B2 (ja) 送信制御プログラム、送信制御方法および情報処理装置
JP6398630B2 (ja) 可視像表示方法、第1デバイス、プログラム、及び、視界変更方法、第1デバイス、プログラム
WO2019102676A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US9402162B1 (en) Mobile device, positioning method and non-transitor computer-readable recording medium
CN114647305B (zh) Ar导览中的障碍物提示方法、头戴式显示设备和可读介质
JP7400810B2 (ja) 情報処理装置、情報処理方法、及び記録媒体
JP6941715B2 (ja) 表示装置、表示プログラム、表示方法及び表示システム
JP2017026762A (ja) 表示制御装置、表示制御方法、及びプログラム
US20210262802A1 (en) Information processing device, information processing method, information processing program, and terminal apparatus
JP2021086233A (ja) 情報処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200511

R150 Certificate of patent or registration of utility model

Ref document number: 6711033

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150