JP2015166816A - 表示装置,表示制御プログラム及び表示制御方法 - Google Patents
表示装置,表示制御プログラム及び表示制御方法 Download PDFInfo
- Publication number
- JP2015166816A JP2015166816A JP2014041510A JP2014041510A JP2015166816A JP 2015166816 A JP2015166816 A JP 2015166816A JP 2014041510 A JP2014041510 A JP 2014041510A JP 2014041510 A JP2014041510 A JP 2014041510A JP 2015166816 A JP2015166816 A JP 2015166816A
- Authority
- JP
- Japan
- Prior art keywords
- display
- acceleration
- operator
- display device
- display control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】表示装置,表示制御プログラム及び表示制御方法に関し、周囲の景色に重ねて表示される重畳表示の臨場感を向上させる。
【解決手段】移動動作に関する重畳画像を動作者の周囲の景色に重ねて表示する表示部11を備える。また、移動動作に伴って表示装置10に加わる加速度を取得する加速度取得部13を備える。さらに、加速度取得部13で取得される加速度の変動周期に基づき、表示部11に表示される重畳画像の表示位置を制御する表示制御部を備える。
【選択図】図1
【解決手段】移動動作に関する重畳画像を動作者の周囲の景色に重ねて表示する表示部11を備える。また、移動動作に伴って表示装置10に加わる加速度を取得する加速度取得部13を備える。さらに、加速度取得部13で取得される加速度の変動周期に基づき、表示部11に表示される重畳画像の表示位置を制御する表示制御部を備える。
【選択図】図1
Description
本発明は、移動動作を行う動作者に装着される表示装置,移動動作に関する重畳画像を表示装置に表示する表示制御プログラム及び表示制御方法に関する。
従来、ウェアラブルコンピュータの一つとして、人体の頭部に装着されるヘッドマウントディスプレイが知られている。すなわち、視覚情報を提供するモニタ装置が装着者の視界内に配された可搬型コンピュータである。近年では、表示デバイス及びコンピュータの小型化,軽量化により、屋外での使用に適したさまざまな形状のヘッドマウントディスプレイが提案されている(例えば、特許文献1参照)。
ところで、ヘッドマウントディスプレイはその表示方式によって、透過式ディスプレイと非透過式ディスプレイとに分類することができる。透過式ディスプレイは、装着者の周囲の景色を透過させつつ情報を重畳表示するものである。具体例としては、透明ガラスやハーフミラー上に光を反射させることによって情報を表示するものが開発されている。また、透明有機ELディスプレイを用いて透過表示を実現することも提案されている。
一方、非透過式ディスプレイは、装着者の周囲の景色を透過させずに情報を表示するものである。具体例としては、バックライト付きの液晶ディスプレイ上に情報を表示するものが知られている。なお、装着者の視点近傍にビデオカメラを配置し、そのビデオカメラで撮影された周囲の景色を情報の背景として非透過式ディスプレイ上に表示することで、透過式ディスプレイと同様の臨場感を擬似的に提供することも可能である。
ここで、周囲の景色を背景として、その上に情報を重ねて表示する機能を持ったヘッドマウントディスプレイにおいて、ディスプレイ上に固定された画面上の座標系を基準とした情報の表示位置について説明する。例えば、ヘッドマウントディスプレイの装着者が歩行動作を行い、装着者の視点位置が変化すると、その視点位置から見た周囲の景色も変化するため、画面上での背景の位置も変化する。一方、その背景の上に重ねて表示される重畳画像の表示位置が画面上で変化しなければ、画面上での背景と重畳画像との間に位置ずれが生じることになる。
このような位置ずれは、装着者から見て重畳画像が背景に対して移動したように感じられるため、装着者が体感する臨場感(背景と重畳画像との一体感)は損なわれる。特に、スキップ動作やジョギング動作等による急激な視点変化が生じた場合には、背景に対する重畳画像の相対位置(あるいは、重畳画像に対する背景の相対位置)が急変し、臨場感が大きく損なわれるほか、重畳画像の視認性が阻害される場合がある。
上記の課題に対して、ヘッドマウントディスプレイに加速度センサやジャイロセンサ等を設けて、重畳画像の表示位置を補正することも考えられる。例えば、これらのセンサで検出されたセンサ情報に基づいて視点位置の変化量を算出し、その変化量に応じて重畳画像の表示位置を補正することが考えられる。しかし、センサ情報を重畳画像の表示位置に反映させるまでには、ある程度の演算処理時間を要する。そのため、重畳画像の表示位置を実際の視点位置の変化に追従させることは困難であり、重畳表示の臨場感を高めることが難しい。
本件の目的の一つは、周囲の景色に重ねて表示される重畳表示の臨場感を向上させる表示装置,表示制御プログラム及び表示制御方法を提供することである。
また、この目的に限らず、後述する「発明を実施するための形態」に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本件の他の目的として位置づけることができる。
また、この目的に限らず、後述する「発明を実施するための形態」に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本件の他の目的として位置づけることができる。
一つの態様では、表示装置は、移動動作を行う動作者に装着される表示装置であって、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示部と、前記移動動作に伴って前記表示装置に加わる加速度を取得する加速度取得部とを備える。また、前記加速度取得部で取得される前記加速度の変動周期に基づき、前記表示部に表示される前記重畳画像の表示位置を制御する表示制御部を備える。
重畳表示の臨場感を向上させることができる。
図面を参照して、実施形態としての表示装置,表示制御プログラム及び表示制御方法について説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形や技術の適用を排除する意図はない。すなわち、本実施形態をその趣旨を逸脱しない範囲で種々変形(実施形態及び各変形例を組み合わせる等)して実施することができる。
[1.表示装置]
本実施形態に係る表示装置10は、人体に装着されるウェアラブルコンピュータである。ここでは、表示装置10が装着される人物(表示装置10の装着者)のことを「動作者」とも呼ぶ。図1に例示する表示装置10は、動作者の頭部に装着されるゴーグル型のヘッドマウントディスプレイである。表示装置10は、その使用状況下で動作者が移動動作を行うことが想定されており、動作者の身体に対して着脱自在に設けられるとともに、堅固に固定可能とされる。例えば図1中に示すように、表示装置10はヘッドバンド9やクランプ等の固定具を用いて、頭部やヘルメット,帽子等の頭部装備品にしっかりと固定される。動作者が行う移動動作の具体例としては、歩行動作,早歩き動作,ジョギング・マラソン等の走行動作,スキップ動作,水泳動作,匍匐動作,跳躍動作等が挙げられる。
本実施形態に係る表示装置10は、人体に装着されるウェアラブルコンピュータである。ここでは、表示装置10が装着される人物(表示装置10の装着者)のことを「動作者」とも呼ぶ。図1に例示する表示装置10は、動作者の頭部に装着されるゴーグル型のヘッドマウントディスプレイである。表示装置10は、その使用状況下で動作者が移動動作を行うことが想定されており、動作者の身体に対して着脱自在に設けられるとともに、堅固に固定可能とされる。例えば図1中に示すように、表示装置10はヘッドバンド9やクランプ等の固定具を用いて、頭部やヘルメット,帽子等の頭部装備品にしっかりと固定される。動作者が行う移動動作の具体例としては、歩行動作,早歩き動作,ジョギング・マラソン等の走行動作,スキップ動作,水泳動作,匍匐動作,跳躍動作等が挙げられる。
表示装置10の全体をゴーグルに準えれば、そのゴーグルのレンズに相当する部位には、透過型ディスプレイ11(表示部)が内蔵される。表示装置10は、透過型ディスプレイ11を介して動作者の視界内に視覚情報を提供する。透過型ディスプレイ11の表示方式は透過式である。透過型ディスプレイ11は、動作者の眼球の前面に配される。図1では、両眼のそれぞれの前面に透過型ディスプレイ11を配置したものを例示するが、片眼のみの前面に透過型ディスプレイ11を配置してもよい。透過型ディスプレイ11は、表示装置10に内蔵されるコンピュータ12の出力装置の一つとして機能し、その表示内容はコンピュータ12で制御される。
ここでいう透過型ディスプレイ11とは、表示画面の表側から裏側を透かして見渡せる構造を持ったディスプレイ装置(モニタ装置)を意味する。透過型ディスプレイ11の具体例としては、透明有機EL(Electro-Luminescence)ディスプレイやバックライトのない液晶ディスプレイ等を用いることができ、あるいは、透明ガラス,ハーフミラー上に虚像を投影するプロジェクタを用いることができる。透過型ディスプレイ11は、少なくとも周囲の景色に重ねて画像,映像を表示する機能を持つものであればよい。以下、透過型ディスプレイ11上に表示される映像,画像(重畳画像)のことを「重畳物」とも呼び、この「重畳物」と重なった状態で視認される周囲の景色のことを「背景」とも呼ぶ。
動作者の視界では、透過型ディスプレイ11を透過して見える背景と、透過型ディスプレイ11上に表示される重畳物とが重畳される。重畳物は背景と無関係に表示することも可能であるが、本実施形態のコンピュータ12は背景の位置に合わせて重畳物を制御する機能を持ち、すなわち、動作者による移動動作に応じて表示内容を制御する機能を持つ。例えば、動作者の歩行動作に伴って背景が変化すると、その背景の変化に応じて表示内容も変化するように、重畳物の種類や形状,表示位置等が制御される。このように、現実の景色とコンピュータグラフィックスとを重畳表示することで、仮想の物体が現実に存在しているかのような臨場感を動作者に与えることが可能となる。
図1に示すように、表示装置10には上記の透過型ディスプレイ11,コンピュータ12のほか、加速度センサ13(加速度取得部),ビデオカメラ14,操作スイッチ15,マイクロフォン16,ストレージリーダライタ17が内蔵される。これらの各種装置は、図示しない電力源(例えばボタン電池や電力供給ケーブル等)からの電力供給を受けて作動する。加速度センサ13,ビデオカメラ14,操作スイッチ15,マイクロフォン16は、コンピュータ12の入力装置として機能する。また、ストレージリーダライタ17は、コンピュータ12の入出力装置(入力装置,出力装置の機能を兼ね備えた装置)として機能する。
コンピュータ12は、CPU(Central Processing Unit),MPU(Micro Processing Unit)といったプロセッサやROM(Read Only Memory),RAM(Random Access Memory),インタフェース装置等を有する電子計算機である。このコンピュータ12は、加速度センサ13から入力される加速度データに基づいて、表示装置10が装着された頭部の動きを把握し、その動作に合わせて重畳物の表示位置を補正する機能を持つ。コンピュータ12の具体的な機能については後述する。
加速度センサ13は、動作者の移動動作に伴って表示装置10に加えられる加速度の情報を、時系列の加速度データとして取得するセンシングデバイスである。加速度センサ13は、少なくとも鉛直方向の加速度の情報を検出する一軸加速度センサであり、好ましくは鉛直方向,前後方向及び左右方向の三方向についての加速度情報を検出する三軸加速度センサである。加速度センサ13の配設位置は、例えば動作者の視界の妨げにならない範囲で透過型ディスプレイ11の近傍とされる。
ここでいう「加速度の情報」には、加速度センサ13で直接的に検出される情報のほか、加速度センサ13で検出された情報を加工(演算処理)することで得られるパラメータ(加速度に相当するパラメータ)の情報も含まれる。ここで取得された加速度データは、図示しない通信線又は無線通信網を介してコンピュータ12に伝達される。加速度データは、透過型ディスプレイ11上に表示される重畳物と背景とのずれの大きさ及びずれが生じるタイミングを把握するのに用いられる。
ここでいう「加速度の情報」には、加速度センサ13で直接的に検出される情報のほか、加速度センサ13で検出された情報を加工(演算処理)することで得られるパラメータ(加速度に相当するパラメータ)の情報も含まれる。ここで取得された加速度データは、図示しない通信線又は無線通信網を介してコンピュータ12に伝達される。加速度データは、透過型ディスプレイ11上に表示される重畳物と背景とのずれの大きさ及びずれが生じるタイミングを把握するのに用いられる。
ビデオカメラ14は、動作者の周囲の画像,映像を撮影するための撮像装置であり、動作者の視界の妨げとならない範囲で透過型ディスプレイ11の近傍に配置される。ここでは、例えば動作者から見て前方の景色の画像が撮影される。ビデオカメラ14の撮像範囲を動作者の視界に対応させることで、動作者が実際に見ている背景を精度よく把握することができる。ここで撮影された周囲の画像データはコンピュータ12に伝達され、動作者の視界の範囲や視界の方向を把握するために用いられる。
操作スイッチ15は、手動操作による入力操作信号をコンピュータ12に伝達するための入力装置の一つである。操作スイッチ15は、例えば任意のプログラム(アプリケーション)を起動,停止させるためのショートカットキーとして使用することができる。あるいは、コンピュータ12の電源をオン又はオフにするための電源スイッチとして使用してもよい。
マイクロフォン16は、動作者の音声を電気信号(音声操作信号)に変換する装置であり、発話による音声操作信号をコンピュータ12に伝達する入力装置の一つである。コンピュータ12は、マイクロフォン16から伝達された音声信号の内容を認識する機能を持つ。例えば、所定の音声を発することで、任意のプログラムを起動,停止させることができる。また、マイクロフォン16は、キーボードの代替入力装置としての機能を併せ持ち、任意の文字,数字,記号等をコンピュータ12に入力する際にも使用可能である。
ストレージリーダライタ17は、リムーバブルメディアの読み書き用のデバイスであり、後述するインタフェース装置34を介してコンピュータ12に接続される。コンピュータ12は、内蔵メモリ上に記憶されたプログラムだけでなく、リムーバブルメディア上に記録されたプログラムも実行可能である。例えば、本実施形態に係る表示制御方法が適用されたプログラムがリムーバブルメディア上に記録され、ストレージリーダライタ17からコンピュータ12に読み込まれて実行されうる。
[2.コンピュータ]
[2−1.機能]
コンピュータ12は、動作者の移動動作に関する情報を、透過型ディスプレイ11上に重畳物として表示させる機能を持つ。ここで、動作者のジョギング動作に関する情報を表示する表示制御プログラム1を取り上げ、その制御の概要を説明する。図2(A),(B)は、表示制御プログラム1の実行中に表示される内容を例示するものである。ここで、図2(A)は、背景と重畳物とが重畳表示された状態を示しており、図2(B)は、図2(A)中の背景を便宜的に取り除き、重畳物のみを示したものである。
[2−1.機能]
コンピュータ12は、動作者の移動動作に関する情報を、透過型ディスプレイ11上に重畳物として表示させる機能を持つ。ここで、動作者のジョギング動作に関する情報を表示する表示制御プログラム1を取り上げ、その制御の概要を説明する。図2(A),(B)は、表示制御プログラム1の実行中に表示される内容を例示するものである。ここで、図2(A)は、背景と重畳物とが重畳表示された状態を示しており、図2(B)は、図2(A)中の背景を便宜的に取り除き、重畳物のみを示したものである。
表示制御プログラム1は、動作者の視界に映り込む背景の座標系を把握し、その背景の座標系に適合するように重畳物を表示する機能を持つ。例えば、図2(A)中に示すペースメーカー21,区間距離表示22,区間残距離表示23,追行距離表示24等に対応する情報は、背景の座標系内で不自然な場所に表示されないように、各々の表示位置が制御される。
また、表示制御プログラム1は、背景の座標系によることなく重畳物を表示する機能も併せ持つ。例えば、図2(A)中に示す時刻表示25,走行距離表示26,走行時間表示27,走行速度表示28に対応する情報は、透過型ディスプレイ11上に固定された座標系内で予め設定された場所に表示されるように、各々の表示位置が制御される。ただし、これらの情報を背景の座標系に適合させる制御を実施してもよい。
また、表示制御プログラム1は、背景の座標系によることなく重畳物を表示する機能も併せ持つ。例えば、図2(A)中に示す時刻表示25,走行距離表示26,走行時間表示27,走行速度表示28に対応する情報は、透過型ディスプレイ11上に固定された座標系内で予め設定された場所に表示されるように、各々の表示位置が制御される。ただし、これらの情報を背景の座標系に適合させる制御を実施してもよい。
以下、透過型ディスプレイ11上に固定された座標系のことを「画面座標系」とも呼び、背景の座標系(実際の座標系)のことを「背景座標系」とも呼ぶ。また、仮想的な重畳物が存在する座標系のことを「仮想座標系」と呼ぶ。背景座標系及び仮想座標系は、例えば三次元の座標系として設定される。表示制御プログラム1の内部では、仮想座標系での重畳物の位置が三次元座標で表現される。一方、画面座標系は、例えば二次元の座標系として設定される。表示制御プログラム1の内部では、仮想座標系から画面座標系への座標変換の演算が実施される。仮想座標系での三次元座標が決定されれば、画面座標系での二次元座標が決定される。
[2−2.表示画面例]
続いて、表示制御プログラム1によって制御される各々の表示内容について説明する。
ペースメーカー21とは、動作者の視界内を走行する仮想的な走者を映像化したものであり、例えばジョギングを行う動作者が自身の走行ペースを把握するのに用いられる。ペースメーカー21の走行速度を設定すると、背景座標系内でペースメーカー21があたかもその走行速度で走行しているかのように、ペースメーカー21の表示位置が制御される。
続いて、表示制御プログラム1によって制御される各々の表示内容について説明する。
ペースメーカー21とは、動作者の視界内を走行する仮想的な走者を映像化したものであり、例えばジョギングを行う動作者が自身の走行ペースを把握するのに用いられる。ペースメーカー21の走行速度を設定すると、背景座標系内でペースメーカー21があたかもその走行速度で走行しているかのように、ペースメーカー21の表示位置が制御される。
例えば、動作者がペースメーカー21と同一速度でペースメーカー21の後ろを走行している場合、ペースメーカー21の表示位置は、背景座標系内で動作者から一定距離となる位置に制御される。また、動作者の走行速度が低下すれば、ペースメーカー21は背景座標系内でより遠くに位置するように表示される。反対に、動作者の走行速度が上昇すればペースメーカー21はより近くに表示され、背景座標系内でのペースメーカー21の位置を追い越せば、ペースメーカー21は動作者から見えなくなる。
なお、ペースメーカー21の走行速度は、走行時間や走行距離の関数として設定することができ、一定速度でなくてもよい。また、動作者による過去の走行状態(例えば、走行ピッチが最も速かったときの走行状態)を模擬するように、ペースメーカー21の走行速度を設定してもよい。あるいは、知人,友人,著名なランナー等の走行状態をペースメーカー21に模擬させてもよい。
区間距離表示22とは、動作者によって任意に設定される走行区間の区切りを背景座標系内で明示するための仮想の標識である。この区間距離表示22は、背景座標系における路面上に位置するように、その表示位置が制御される。例えば、動作者が区間距離表示22の位置に近づくに連れて、区間距離表示22は動作者に接近するように表示される。また、動作者が区間距離表示22の位置を通過すると、区間距離表示22は動作者から見えなくなる。これにより、区間距離表示22があたかも実際の路面上に描画されているかのような臨場感が動作者に提供される。
区間残距離表示23とは、動作者が区間距離表示22の位置に至るまでの距離を表す仮想の標識である。区間残距離表示23の内容は、背景座標系における区間距離表示22の位置と動作者との間の距離に応じて随時更新される。例えば、動作者が区間距離表示22の位置に近づくに連れて、より短い距離が表示される。区間残距離表示23の表示位置は、例えば区間距離表示22と同様に、背景座標系における路面上に設定される。区間残距離表示23は、実際の路面上に描画されているかのように見えるにも関わらず、その表示内容がリアルタイムに更新されるという仮想現実感を動作者に提供する。
追行距離表示24とは、動作者とペースメーカー21との間の距離を表す仮想の標識である。追行距離表示24の内容も、区間残距離表示23と同様に、背景座標系における動作者とペースメーカー21と間の距離に応じて随時更新される。例えば、動作者がペースメーカー21の位置に近づくに連れて、より短い距離が表示される。動作者がペースメーカー21を追い越した場合には、負の距離を表示してもよい。追行距離表示24の表示位置は、例えば背景座標系における路面上に設定してもよいし、ペースメーカー21の近傍に設定してもよく、あるいは画面座標系内で予め設定された位置に設定してもよい。
なお、時刻表示25とは現在時刻の表示である。また、走行距離表示26,走行時間表示27,走行速度表示28のそれぞれは、例えば動作者によって設定された走行開始地点や走行開始時刻からの走行距離,走行時間(経過時間),走行速度(瞬間速度又は平均速度)の表示である。
図2(B)は、図2(A)から背景を取り除いて示す図である。仮想座標系を背景座標系に適合させる(一致させる)手法の一つとして、透過型ディスプレイ11を投射面とした投影図中における、背景の消失点29及び水平線30を把握するという手法が存在する。透過型ディスプレイ11の画面上に見える背景の消失点29及び水平線30の位置を特定し、これらを基準として仮想座標系を設定(重畳物の表示位置を決定)するものである。つまり、背景座標系から画面座標系への変換によって生じる消失点29及び水平線30と、仮想座標系から画面座標系への変換によって生じる仮想の消失点及び水平線とを一致させる。これにより、背景上に違和感なく存在するかのように重畳物が表示される。
背景上の消失点29及び水平線30は、ビデオカメラ14で撮影された周囲の画像を解析することで把握される。例えば、画像中に含まれる複数のエッジラインを検出し、それらのエッジラインが収束する点を消失点29とする。水平線30は消失点29を通る直線であることから、ビデオカメラ14がロール方向に傾いていなければ、一つの消失点29に対応する水平線30の位置が一意的に特定される。ビデオカメラ14の傾きは、例えば図示しないジャイロセンサの出力から把握することもできる。あるいは、重力加速度のみが作用している状態での加速度センサ13の出力から把握してもよい。
ところで、ジョギング動作を行う動作者の頭部は、上下方向に振動する。そのため、図2(A)中に示す背景も、動作者のジョギング動作で生じる振動によって上下方向に変動する。つまり、背景の消失点29及び水平線30の位置が、画面座標系で上下方向に変動する。一方、このようなずれを考慮せずに重畳物を画面上に表示すると、背景座標系と仮想座標系との間にずれが生じ、背景上に表示される重畳物が動作者に違和感を与えうる。例えば、図10(B)に示すように、区間距離表示22が背景の路面上から鉛直上方にはみ出した表示となってしまう。このような表示は、動作者にとって、単に背景と重畳物との合成に失敗したように感じられ、臨場感が大きく損なわれる。
また、ペースメーカー21は仮想的な三次元のサイズを有するものであることから、ペースメーカー21の表示位置のずれは、重畳表示によって育まれる遠近感を著しく損なう要因となりうる。例えば、ペースメーカー21の目線の高さ(身長)が動作者の目線の高さ(身長)と同一であるとき、ペースメーカー21の頭部の位置は、背景座標系における水平線30上に位置するはずである。しかし、ペースメーカー21の表示位置が背景座標系における適切な位置から逸脱すると、ペースメーカー21の頭部が水平線30から上下方向にずれた位置に表示されることになる。
このとき、頭部が水平線30よりも下方に位置する場合には、動作者にとってペースメーカー21の身長が縮んだように感じられる。反対に、図10(B)に示すように、頭部が水平線30よりも上方に位置する場合には、動作者にとってペースメーカー21の身長が伸びたように感じられる。つまり、ペースメーカー21の表示位置の変動によって、ペースメーカー21自体のサイズ感が不安定となり、遠近感が著しく損なわれる。さらに、ペースメーカー21の表示位置のずれによって、動作者とペースメーカー21との間の距離感が不正確になることも、遠近感を損なう要因となる。
上記のような技術課題に対し、本実施形態の表示装置10は、背景座標系と仮想座標系との間のずれを補正して重畳物を表示するための機能を具備している。本実施形態の表示装置10では、その機能を実現するための表示制御プログラム1が上記のコンピュータ12で実行される。以下、コンピュータ12及び表示制御プログラム1の構成について詳述する。
[2−3.ハードウェア構成]
図3に示すように、コンピュータ12には中央処理装置(CPU)31,主記憶装置32,補助記憶装置33,インタフェース装置34が設けられ、これらが内部バス38を介して互いに通信可能に接続される。中央処理装置31は、制御ユニット(制御回路)や演算ユニット(演算回路),キャッシュメモリ(レジスタ群)等を内蔵する処理装置(プロセッサ)である。また、主記憶装置32は、プログラムや作業中のデータが格納されるメモリ装置であり、例えば前述のRAM,ROMがこれに含まれる。一方、補助記憶装置33は、主記憶装置32よりも長期的に保持されるデータやプログラムが格納されるメモリ装置であり、例えばフラッシュメモリ等のROMがこれに含まれる。
図3に示すように、コンピュータ12には中央処理装置(CPU)31,主記憶装置32,補助記憶装置33,インタフェース装置34が設けられ、これらが内部バス38を介して互いに通信可能に接続される。中央処理装置31は、制御ユニット(制御回路)や演算ユニット(演算回路),キャッシュメモリ(レジスタ群)等を内蔵する処理装置(プロセッサ)である。また、主記憶装置32は、プログラムや作業中のデータが格納されるメモリ装置であり、例えば前述のRAM,ROMがこれに含まれる。一方、補助記憶装置33は、主記憶装置32よりも長期的に保持されるデータやプログラムが格納されるメモリ装置であり、例えばフラッシュメモリ等のROMがこれに含まれる。
インタフェース装置34は、コンピュータ12と外部装置との間の入出力(Input/ Output;I/O)を司るものである。ここには、センサ入力部35,ストレージ入出力部36,外部出力部37が設けられる。
センサ入力部35は、加速度センサ13,ビデオカメラ14,操作スイッチ15及びマイクロフォン16とコンピュータ12とのインタフェースとして機能するものである。加速度センサ13から伝達される加速度データは、センサ入力部35を介してコンピュータ12内に入力される。同様に、ビデオカメラ14で撮影された画像データや操作スイッチ15の入力操作信号,マイクロフォン16の音声操作信号も、センサ入力部35を介してコンピュータ12内に入力される。
センサ入力部35は、加速度センサ13,ビデオカメラ14,操作スイッチ15及びマイクロフォン16とコンピュータ12とのインタフェースとして機能するものである。加速度センサ13から伝達される加速度データは、センサ入力部35を介してコンピュータ12内に入力される。同様に、ビデオカメラ14で撮影された画像データや操作スイッチ15の入力操作信号,マイクロフォン16の音声操作信号も、センサ入力部35を介してコンピュータ12内に入力される。
ストレージ入出力部36は、ストレージリーダライタ17とコンピュータ12とのインタフェースとして機能するものである。ストレージ入出力部36は、リムーバブルメディアが装着されているストレージリーダライタ17に対してリード/ライト等のアクセスコマンドを送信することで、データの書き込みや読み出しを行う。
外部出力部37は、透過型ディスプレイ11とコンピュータ12とのインタフェースとして機能するものである。コンピュータ12内で認識された動作の種類やその他の演算結果は、外部出力部37を介して透過型ディスプレイ11へと伝達される。透過型ディスプレイ11との通信の種類は、例えば有線通信デバイスによる有線通信であってもよいし、あるいは無線通信デバイスによる無線通信であってもよい。
外部出力部37は、透過型ディスプレイ11とコンピュータ12とのインタフェースとして機能するものである。コンピュータ12内で認識された動作の種類やその他の演算結果は、外部出力部37を介して透過型ディスプレイ11へと伝達される。透過型ディスプレイ11との通信の種類は、例えば有線通信デバイスによる有線通信であってもよいし、あるいは無線通信デバイスによる無線通信であってもよい。
[3.プログラム]
図4は、コンピュータ12で実行される処理内容を説明するためのブロック構成図である。これらの処理内容は、例えばアプリケーションプログラムとして補助記憶装置33やリムーバブルメディアに記録され、主記憶装置32内のメモリ空間内に展開されて実行される。処理内容を機能的に分類すると、この表示制御プログラム1には、変動周期算出部2,平均パターン算出部4,補正部6,補正条件判定部7及び表示制御部8が設けられる。また、この表示制御プログラム1の制御内容に係るデータをデータベース型のフォーマットで記憶する手段として、加速度データベース部3と加速度予測データベース部5とが設けられる。加速度データベース部3及び加速度予測データベース部5は、例えば補助記憶装置33やリムーバブルメディア内に設けられる。
図4は、コンピュータ12で実行される処理内容を説明するためのブロック構成図である。これらの処理内容は、例えばアプリケーションプログラムとして補助記憶装置33やリムーバブルメディアに記録され、主記憶装置32内のメモリ空間内に展開されて実行される。処理内容を機能的に分類すると、この表示制御プログラム1には、変動周期算出部2,平均パターン算出部4,補正部6,補正条件判定部7及び表示制御部8が設けられる。また、この表示制御プログラム1の制御内容に係るデータをデータベース型のフォーマットで記憶する手段として、加速度データベース部3と加速度予測データベース部5とが設けられる。加速度データベース部3及び加速度予測データベース部5は、例えば補助記憶装置33やリムーバブルメディア内に設けられる。
[3−1.変動周期算出部]
変動周期算出部2は、加速度データの変動周期を算出するものである。ここでは、動作者の二歩分の移動動作に対応する加速度の変動周期が算出される。変動周期は、加速度データの周期的な変動の一サイクルの時間に対応するパラメータであり、その変動を特徴付ける特徴点の間隔に基づいて把握される。特徴点としては、動作者のかかとの着地(ヒールストライク)によって生じる加速度ピークや、つま先の離地(トーオフ)によって生じる加速度ピーク,移動動作によって生じる加速度がゼロとなるゼロ点(すなわち、重力加速度のみが加速度センサ13に作用している状態に対応する点)等を挙げることができる。
変動周期算出部2は、加速度データの変動周期を算出するものである。ここでは、動作者の二歩分の移動動作に対応する加速度の変動周期が算出される。変動周期は、加速度データの周期的な変動の一サイクルの時間に対応するパラメータであり、その変動を特徴付ける特徴点の間隔に基づいて把握される。特徴点としては、動作者のかかとの着地(ヒールストライク)によって生じる加速度ピークや、つま先の離地(トーオフ)によって生じる加速度ピーク,移動動作によって生じる加速度がゼロとなるゼロ点(すなわち、重力加速度のみが加速度センサ13に作用している状態に対応する点)等を挙げることができる。
ここで、走行時における動作者の足運びと加速度変動との関係を、図5(A),(B)に示す。まず、動作者の走行時における左足のかかとが着地した時刻をt1とし、左足のかかとが地面から離れた時刻をt2とする。同様に、右足のヒールストライク時刻をt3とし、トーオフ時刻をt4とする。その後もそれぞれの足の接地,離地が繰り返されるものとし、左足ヒールストライク,左足トーオフ,右足ヒールストライク,右足トーオフの時刻をそれぞれ、時刻t5,t6,t7,t8とする。図5(A)中に記載された時刻の順序は、過去から未来に向かってt1,t2,t3,t4,t5,t6,t7,t8である。
期間t1〜t2,t5〜t6は左足が接地している状態に対応する時間であり、左足による立脚期(stance phase)と呼ばれる。一方、期間t2〜t5は左足が地面から離れた状態に対応する時間であり、左足の遊脚期(swing phase)と呼ばれる。右足についても同様であり、期間t3〜t4,t7〜t8が右足の立脚期,期間t4〜t7が右足の遊脚期である。
走行動作においては、右足,左足のそれぞれの立脚期が重複しないように、立脚期及び遊脚期が反復される。左右の遊脚期が重複する期間(期間t2〜t3,t4〜t5等)は、両足がともに地面から離れている状態に対応する期間である。
走行動作においては、右足,左足のそれぞれの立脚期が重複しないように、立脚期及び遊脚期が反復される。左右の遊脚期が重複する期間(期間t2〜t3,t4〜t5等)は、両足がともに地面から離れている状態に対応する期間である。
走行時における立脚期と遊脚期との境界の時刻は、加速度データの変動ピーク時刻に対応する。例えば、重力加速度を基準として、鉛直下方向を正とした加速度の大きさを測定した場合、ヒールストライク時に生じる加速度の大きさは、図5(B)に示すように、加速度変動の最小ピーク値(例えば、負の値)となる。また、トーオフに生じる加速度の大きさは、加速度変動の最大ピーク値(例えば、正の値)となる。したがって、隣接する二つの最小ピーク又は最大ピークで挟まれる時間(例えば、期間t1〜t3,t2〜t4等)は、動作者の一歩分の走行時間に相当する。
次に、歩行時における動作者の足運びと加速度変動との関係を、図6(A),(B)に示す。ここでは、歩行時における左足ヒールストライクの時刻を時刻t11,t15とし、左足トーオフの時刻を時刻t12,t16とする。同様に、右足ヒールストライクの時刻を時刻t13,t17とし、右足トーオフの時刻を時刻t14,t18とする。
歩行動作においては、右足,左足のそれぞれの立脚期が重複するように、立脚期及び遊脚期が反復される。例えば図6(A)に示すように、時刻t13が時刻t12よりも早い時刻となり、時刻t15が時刻t14よりも早い時刻となる。左右の立脚期が重複する期間(期間t13〜t12,t15〜t14等)は、両足がともに接地している状態に対応する期間である。図6(A)中に記載された時刻の順序は、過去から未来に向かってt11,t13,t12,t15,t14,t17,t16,t18となる。
歩行動作においては、右足,左足のそれぞれの立脚期が重複するように、立脚期及び遊脚期が反復される。例えば図6(A)に示すように、時刻t13が時刻t12よりも早い時刻となり、時刻t15が時刻t14よりも早い時刻となる。左右の立脚期が重複する期間(期間t13〜t12,t15〜t14等)は、両足がともに接地している状態に対応する期間である。図6(A)中に記載された時刻の順序は、過去から未来に向かってt11,t13,t12,t15,t14,t17,t16,t18となる。
このように、走行時と比較して歩行時には、右足ヒールストライク及び左足トーオフの順序が逆になり、左足ヒールストライク及び右足トーオフの順序が逆になる。しかしながら、立脚期と遊脚期との境界時刻は、走行時と同様に、加速度データの変動ピーク時刻に対応する。したがって、隣接する二つの最小ピーク又は最大ピークで挟まれる時間(期間t11〜t13,t12〜t14等)は、動作者の一歩分の走行時間に相当する。
上記のような加速度ピークと立脚期,遊脚期との関係を踏まえて、変動周期算出部2は、二歩分の動作に対応する加速度の変動周期を算出する。二歩分の変動周期は、例えば三回の最小ピーク値が取得される期間(期間t1〜t5,t11〜t15等)として算出することができ、あるいは、三回の最大ピーク値が取得される期間(期間t2〜t6,t12〜t16等)として算出することができる。なお、具体的な変動周期の算出手法は任意であり、例えば最小ピーク値が検出された直後のゼロ点を基準として変動周期を算出してもよい。
また、変動周期算出部2は、二歩分の変動周期を単位時間として、単位時間毎の加速度変動パターンを生成し、これを加速度データベース部3に記録して記憶させる。変動パターンとは、周期的に振動する加速度の振幅又はその振動形状に対応するものである。加速度データベース部3に記録される変動パターンは、動作者の実際の移動動作に伴って生じる加速度の変動をその変動周期毎に分割した周期データ(波形データ)となる。加速度データベース部3に記録される周期データの数は、例えば数周期〜数十周期分とされ、FIFO(First-In, First-Out)方式で古いデータが新しいデータで上書きされて更新される。なお、加速度データベース部3の記憶容量が十分に大きい場合には、古いデータを抹消することなく全ての加速度変動パターンを記録してもよい。
[3−2.平均パターン算出部]
平均パターン算出部4は、加速度データベース部3に記録された加速度の変動パターンを平均化した平均パターンを算出するものである。ここでは、直近のN単位分の変動パターンを均したものが、平均パターンとして算出される。例えば、図7(A)に示すように、五個の変動パターン(#1〜#5)がそれらの平均周期で標準化されるとともに、波形の加算平均が平均パターンAとして算出される。なお、上記のNは任意の自然数である。また、N個の変動パターンから平均パターンを算出するための平均化手法は任意であり、加算平均処理,指数平均処理,ピークホールド平均処理といった各種の平均化処理を施してもよい。以下、N個の変動パターンのことを、平均パターンを算出するための「母集団」とも呼ぶ。
平均パターン算出部4は、加速度データベース部3に記録された加速度の変動パターンを平均化した平均パターンを算出するものである。ここでは、直近のN単位分の変動パターンを均したものが、平均パターンとして算出される。例えば、図7(A)に示すように、五個の変動パターン(#1〜#5)がそれらの平均周期で標準化されるとともに、波形の加算平均が平均パターンAとして算出される。なお、上記のNは任意の自然数である。また、N個の変動パターンから平均パターンを算出するための平均化手法は任意であり、加算平均処理,指数平均処理,ピークホールド平均処理といった各種の平均化処理を施してもよい。以下、N個の変動パターンのことを、平均パターンを算出するための「母集団」とも呼ぶ。
平均パターン算出部4は、加速度データベース部3に新たな変動パターンが記録されるに連れて、より新しい変動パターンを含む母集団に基づいて平均パターンを算出する。例えば、図7(A)中に示すように、五個の変動パターン(#1〜#5)から平均パターンAが算出された後には、平均化される母集団が変更され、新たに五個の変動パターン(#2〜#6)から平均パターンBが算出される。このように、直近の変動パターンを平均化して加速度変化を予測することで、緩徐な移動ペースの変化(例えば、疲労による移動ペースダウンや路面勾配に由来する移動ペースアップ等)が精度よく把握される。
また、平均パターン算出部4は、平均パターンを加速度予測データベース部5に記録して記憶させる。加速度予測データベース部5に記録される平均パターンのデータ数は、例えば数個〜数十個分とされ、FIFO方式で古いデータが新しいデータで上書きされて更新される。加速度予測データベース部5の記憶容量が十分に大きい場合には、古いデータを抹消することなく全ての平均パターンを記録してもよい。
平均パターン算出部4で算出される平均パターンは、動作者の移動動作によって生じた、実際の周期的な加速度変化を代表する理想的な変動パターンとみなすことができる。つまり、動作者の移動動作が安定して継続されれば、平均パターンの変動周期は、将来の加速度の変動周期に対応するものとなり、平均パターン上の加速度の値も、将来の加速度の値に対応するものとなる。本制御ではこの平均パターンが、表示装置10にこの先(将来)作用するであろう加速度の変動予測として用いられる。
なお、動作者の動作が突発的に変化した場合(例えば、表示装置10が脱落した場合や動作者が転倒した場合等)には、実測された加速度の変動パターンが急変する。このような変動パターンを含む母集団に基づいて算出された平均パターンは、実際の周期的な加速度変化を代表する理想的な変動パターンであるとはいえない。そこで、突発的な動作による加速度の変動パターンを除外して、平均パターンを算出することにしてもよい。例えば、平均化される母集団に含まれる各変動パターンのうち、波形の類似度が高いもののみを対象として平均化処理を施してもよい。あるいは、標準的な変動パターンを予めいくつか用意しておき、それらの標準的な変動パターンに比べて極端に形状が異なる変動パターンがある場合には、その変動パターンを無視して平均化パターンを算出してもよい。
[3−3.補正部]
補正部6は、加速度予測データベース部5に記録された平均パターンに基づき、重畳物の表示位置を補正するものである。ここでは、ペースメーカー21の表示位置の補正例を取り上げて説明する。
補正部6は、加速度予測データベース部5に記録された平均パターンに基づき、重畳物の表示位置を補正するものである。ここでは、ペースメーカー21の表示位置の補正例を取り上げて説明する。
図8(A)に示すように、ペースメーカー21が仮想座標系で直立した状態での目線の高さをh0とする。仮想座標系でのペースメーカー21の位置が特定されれば、画面座標系でのペースメーカー21の表示位置が特定され、その位置での目線の高さh0も特定される。一方、動作者の移動動作によって背景座標系が画面座標系に対して上下方向に移動すると、画面座標系でのペースメーカー21の表示位置が背景座標系でずれた状態となる。このずれを補正するための画面座標系での補正量をh(t)とおく。
補正部6は、平均パターンの経時変動を二回積分して補正量h(t)として算出する。平均パターンの加速度の値aを時間tの関数a(t)とすれば、補正量h(t)は以下の式1,式2を用いて算出することができる。なお、式1,式2中のv(t)は、加速度の値aを積分して得られる速度の変動を表す。ここで算出された補正量h(t)は、表示制御部8に伝達される。
補正量h(t)は、透過型ディスプレイ11に表示されるペースメーカー21の背景座標系とのずれを減少させるための補正量であって、仮想座標系でのペースメーカー21の位置に対して加減される補正量である。つまり、仮想座標系でのペースメーカー21の目線の高さhが、h=h(t)+h0であるものとする。このような補正により、仮想座標系から画面座標系へと変換された後のペースメーカー21の位置も補正されることとなり、画面座標系上で適切な位置にペースメーカー21が表示される。
[3−4.補正条件判定部]
補正条件判定部7は、重畳物の表示位置の補正を実施するための補正条件が成立するか否かを判定するものである。例えば、背景座標系が画面座標系に対して極端に大きく変位した場合(例えば、動作者が空を見上げた場合や後ろを振り返った場合,表示装置10が脱落した場合,動作者が転倒した場合等)には、たとえ重畳物の表示位置を補正したとしても、動作者から見て適切な位置には表示されない。そこで、補正条件判定部7は、補正量h(t)を重畳物の表示位置に反映させるための条件を判定する。補正条件の判定結果は、表示制御部8に伝達される。
補正条件判定部7は、重畳物の表示位置の補正を実施するための補正条件が成立するか否かを判定するものである。例えば、背景座標系が画面座標系に対して極端に大きく変位した場合(例えば、動作者が空を見上げた場合や後ろを振り返った場合,表示装置10が脱落した場合,動作者が転倒した場合等)には、たとえ重畳物の表示位置を補正したとしても、動作者から見て適切な位置には表示されない。そこで、補正条件判定部7は、補正量h(t)を重畳物の表示位置に反映させるための条件を判定する。補正条件の判定結果は、表示制御部8に伝達される。
本実施形態の補正条件判定部7は、動作者の移動動作が周期的である場合に、重畳物の表示位置の補正を実施する。動作者の移動動作が周期的であるか否かは、図7(B)中に破線で示す予測された平均パターンと、実線で示す実際の変動パターン(実測された加速度の変動パターン)との類似度に基づいて判断される。平均パターンと変動パターンとの類似度が高いほど、移動動作が周期的である(移動動作の周期性が高い)と判定することができる。あるいは、平均パターンの変動周期と実際の変動パターンの変動周期との差が所定時間以下である場合に、移動動作が周期的であると判定してもよい。
なお、動作者の移動動作が周期的であるか否かは、加速度データベース部3に記録される加速度の変動パターンに基づいて判定することも可能である。例えば、加速度の変動パターンが予め設定された標準的なパターンから大きく外れた場合に、移動動作が周期的でないと判定することができる。あるいは、ビデオカメラ14で撮影された画像を解析することで撮影方向(視線の方向)を推定し、撮影方向が大きく変化した場合に移動動作の周期性が損なわれたものとみなしてもよい。この場合、図示しないジャイロセンサの出力からビデオカメラ14の傾きを検知してもよい。
[3−5.表示制御部]
表示制御部8は、透過型ディスプレイ11に表示される重畳物の表示位置を制御するものである。ここでは、重畳物の標準的な表示位置が算出されるとともに、その表示位置を補正する制御が実施される。標準的な表示位置は、公知のAR(拡張現実,Augmented Reality)技術におけるエッジ検出手法を用いて決定される。例えば、ビデオカメラ14で撮影された画像中に含まれる複数のエッジラインの位置及び角度に基づいて背景座標系と画面座標系との関係が特定される。また、仮想座標系を画面座標系に変換したときに背景座標系と適合するように、重畳物の標準的な表示位置が決定される。
表示制御部8は、透過型ディスプレイ11に表示される重畳物の表示位置を制御するものである。ここでは、重畳物の標準的な表示位置が算出されるとともに、その表示位置を補正する制御が実施される。標準的な表示位置は、公知のAR(拡張現実,Augmented Reality)技術におけるエッジ検出手法を用いて決定される。例えば、ビデオカメラ14で撮影された画像中に含まれる複数のエッジラインの位置及び角度に基づいて背景座標系と画面座標系との関係が特定される。また、仮想座標系を画面座標系に変換したときに背景座標系と適合するように、重畳物の標準的な表示位置が決定される。
一方、補正条件判定部7で判定される補正条件が成立している場合には、上記の標準的な表示位置と補正部6で算出された補正量h(t)とに基づいて重畳物の表示位置が制御される。ここでは、補正条件が成立した場合に、補正部6で算出された補正量h(t)を用いて重畳物の表示位置が補正される。上述の通り、重畳物の表示位置は、画面座標系における重畳物の上下方向の座標を変更することによって補正される。例えば、標準的な表示位置における上下方向の座標が補正量h(t)に対応する分だけ加算又は減算されて、画面上での実際の表示位置が決定される。このような表示位置の補正により、背景と重畳物との間のずれが小さくなり、背景上の適切な位置に重畳物が配置される。
[4.フローチャート]
図9は、表示装置10のコンピュータ12内で実行される表示制御方法の手順を説明するためのフローチャートである。このフローは、例えば補助記憶装置33やリムーバブルメディアに記録されたアプリケーションプログラム(表示制御プログラム1)による制御手順に対応するものであり、コンピュータ12に読み込まれて所定の周期で繰り返し実行される。
図9は、表示装置10のコンピュータ12内で実行される表示制御方法の手順を説明するためのフローチャートである。このフローは、例えば補助記憶装置33やリムーバブルメディアに記録されたアプリケーションプログラム(表示制御プログラム1)による制御手順に対応するものであり、コンピュータ12に読み込まれて所定の周期で繰り返し実行される。
図9のステップA10では、加速度センサ13で検出された時系列の加速度データがコンピュータ12に入力される。ここで入力された加速度データは、変動周期算出部2に伝達される。続くステップA20では、変動周期算出部2において、加速度データの特徴点が抽出される。ここでは、例えば図5(B),図6(B)に黒点で示される加速度ピークが特徴点として抽出される。
ステップA30では、変動周期算出部2において、二歩分の移動動作に対応する加速度の変動周期が算出される。ここで算出される二歩分の変動周期は、後に平均パターン算出部4で算出される平均パターンの変動周期に反映され、すなわち、重畳物の表示位置を補正する補正量の時間幅に反映される。また、二歩分の変動周期を単位時間とした加速度の変動パターンが取得され、加速度データベース部3に記録される。この変動パターンは、移動動作の一サイクルに相当する時間内での加速度変化を表す。
ステップA40では、平均パターン算出部4において、直近のN単位分の変動パターンに基づき、平均パターンが算出される。平均パターンの変動周期は、動作者による過去の移動動作に伴って生じた加速度の変動周期を反映したものとなる。また、平均パターンの値の変化は、動作者による過去の移動動作に伴って生じた加速度の変化を反映したものとなる。
ステップA50では、前ステップで算出された平均パターンが、加速度予測データベース部5に記録される。この平均パターンは、移動動作の一サイクルに相当する時間(歩行動作や走行動作でいえば二歩分の時間幅)内での加速度変化の予測値となる。また、加速度予測データベース部5に記録される平均パターンは、動作者の移動動作に伴って更新される。
ステップA60では、表示制御部8において、重畳物の表示位置が算出される。この表示位置は、公知のAR技術におけるエッジ検出手法を用いて算出される。例えば、ビデオカメラ14で撮影された画像が解析され、背景座標系と画面座標系との関係が特定される。その後、仮想座標系を画面座標系に変換したときに背景座標系と適合するように、重畳物の表示位置が制御される。
ステップA70〜A80は、補正条件判定部7での補正条件の判定に係るステップである。ステップA70では、動作者の移動動作が周期的であるか否かが判定される。例えば、図7(B)に示すように、前回の演算周期で算出された平均パターンと直近の加速度の変動パターンとが照合され、変動周期及び波形の類似度が所定の度合いよりも高い場合に、動作者の移動動作が周期的であると判定される。この補正条件が成立した場合にはステップA80に進み、不成立の場合にはステップA110に進む。
ステップA80は、ビデオカメラ14で撮影された画像に基づいて、補正条件が成立するか否かを判定するステップである。ここでは、画像解析から推定される視線の方向が大きく変化していない場合に、動作者の移動動作が周期的であると判定される。例えば、動作者が前方を見ている状態ではこの条件が成立し、空を見上げるような動作をした場合にはこの条件が不成立となる。この補正条件が成立した場合にはステップA90に進み、不成立の場合にはステップA110に進む。なお、ステップA80は省略してもよいし、ビデオカメラ14の撮影画像に代えて、あるいは加えて、ジャイロセンサの出力に基づいて視線の方向(頭部の傾き)を判定してもよい。また、前述の通り、直近の加速度の変動パターンに基づく判定を行ってもよい。
ステップA90では、補正部6において、直近の平均パターンに基づいて重畳物の表示位置の補正量h(t)が算出される。補正量h(t)は、例えば上述の式1,式2と、平均パターンの加速度a(t)とから算出される。そしてステップA100では、表示制御部8において、補正量h(t)に基づいて重畳物の表示位置が補正される。例えば、ペースメーカー21の場合には、仮想座標系でのペースメーカー21の目線の高さhがh=h(t)+h0に設定される。これにより、重畳物の表示位置が背景座標系上で適正化される。その後、ステップA110では、重畳物が透過型ディスプレイ11に表示される。
[5.作用]
図10(A)〜(C)は、動作者のジョギング時における重畳物の表示位置の補正について説明するための図である。図10(A)は、動作者がジョギング動作を停止している状態において、ビデオカメラ14で撮影された画像からエッジ検出技術を用いて重畳物の表示位置を制御した場合の表示画面例である。ここで、図10(A)に示す仮想座標系において、背景の水平線30の縦方向位置をX0とし、ペースメーカー21の足下の縦方向位置(点A)をX1とする。
図10(A)〜(C)は、動作者のジョギング時における重畳物の表示位置の補正について説明するための図である。図10(A)は、動作者がジョギング動作を停止している状態において、ビデオカメラ14で撮影された画像からエッジ検出技術を用いて重畳物の表示位置を制御した場合の表示画面例である。ここで、図10(A)に示す仮想座標系において、背景の水平線30の縦方向位置をX0とし、ペースメーカー21の足下の縦方向位置(点A)をX1とする。
動作者が移動動作を行っていない状態では、背景座標系が画面座標系に対して上下にほとんど変動せず、背景座標系と仮想座標系とのずれが生じにくい。したがって、重畳物はおおむね適切な位置に表示される。図10(A)に示す例では、ペースメーカー21が背景中の電信柱40の真横に位置する瞬間が示されている。
一方、動作者が移動動作を行っている状態では、動作者の視点の変化により、背景座標系と画面座標系との間にずれが生じ、透過型ディスプレイ11の画面上における背景の位置が上下に変動する。例えば図10(B)に示すように、水平線30の縦方向位置が、画面座標系における位置X0から位置X2へと移動する。このような背景のずれを考慮することなくペースメーカー21を画面上に表示した場合、ペースメーカー21の足下の縦方向位置も、画面座標系における点Aの位置X1から点Bの位置X3へと移動してしまう。これにより、ペースメーカー21が本来表示されるべき位置よりも、画面上で上方にペースメーカー21が配置されることになり、遠近感や臨場感が大きく損なわれてしまう。
これに対して、上記の表示装置10では、移動動作に伴う背景のずれを把握すべく、加速度の変動パターンが実測される。この変動パターンは、左右の手足の動作や体動に応じた周期性を持ち、例えば移動動作の速度が安定していれば、背景のずれの大きさも加速度の変動パターンと同様の周期,波形で変化する傾向がある。このような傾向を踏まえて、表示装置10では、過去の加速度の変動パターンに応じた周期で、将来の背景のずれの大きさが変動するものと予測される。また、将来の背景ずれの変動パターンは、過去の加速度の変動パターンを平均化したものであると予測される。
すなわち、変動周期算出部2で加速度データの変動周期が算出され、その変動周期毎の加速度の変動パターンが加速度データベース部3に記録される。また、平均パターン算出部4では、N単位分の変動パターンを平均化した平均パターンが算出され、加速度予測データベース部5に記録される。例えば、図7(A)に示すように、五個の変動パターン(#1〜#5)から平均パターンAが算出され、この平均パターンAが変動パターン#6に続いて作用するであろう加速度の変動予測として用いられる。ここで、加速度aを時間tの関数a(t)とし、時間tについて二回積分することによってペースメーカー21の画面座標系での補正量h(t)が算出される。
このような予測演算により、ペースメーカー21の画面座標系におけるずれに相当するX3-X1が補正量h(t)によって補正され、ペースメーカー21の表示位置が適正化される。図10(C)に示すように、ペースメーカー21の足下の縦方向位置は、図10(A)に示すものと同様に、背景中の電信柱40の真横に位置するように配置され、ペースメーカー21の頭部も水平線30上に位置することになる。他の重畳物22,23,24の表示位置についても同様に背景座標系とのずれが補正され、背景上の適切な位置に配置される。したがって、図10(A)と同様の遠近感,臨場感が動作者に提供される。
[6.効果]
(1)本実施形態の表示装置10,表示制御プログラム1及び表示制御方法では、表示装置10に加わる加速度の変動周期に基づいて重畳物の表示位置が制御される。これにより、周囲の景色と重畳物とのずれの周期(画面上における背景位置と重畳物位置との差の大きさが変動する周期)を把握することができ、そのずれが生じるタイミングを予測することができるとともに、そのずれが小さくなるように重畳物の表示位置を補正することができる。したがって、重畳表示の臨場感を向上させることができる。
(1)本実施形態の表示装置10,表示制御プログラム1及び表示制御方法では、表示装置10に加わる加速度の変動周期に基づいて重畳物の表示位置が制御される。これにより、周囲の景色と重畳物とのずれの周期(画面上における背景位置と重畳物位置との差の大きさが変動する周期)を把握することができ、そのずれが生じるタイミングを予測することができるとともに、そのずれが小さくなるように重畳物の表示位置を補正することができる。したがって、重畳表示の臨場感を向上させることができる。
(2)本実施形態では、加速度の変動パターンに基づいて、重畳物の表示位置が制御される。例えば図7(A)に示すように、実測された加速度の変動をその変動周期毎に分割した周期データに基づいて、重畳物の表示位置が制御される。このように、加速度の変動周期だけでなく、その変動パターン(波形データ)を用いることで、背景と重畳物とのずれの大きさを把握することができ、そのずれを是正するための補正量h(t)を精度よく算出することができる。したがって、重畳表示の臨場感を向上させることができる。
(3)本実施形態では、例えば図7(A)に示すように、加速度の変動パターンを平均化した平均パターンに基づいて、重畳物の表示位置が制御される。このように、過去の加速度の変動をそのまま予測に用いるのではなく平均化処理を施すことにより、加速度センサ13で検出された加速度の上方に含まれるノイズの影響を低減させることができる。つまり、予測精度を向上させることができ、画面座標系に対する背景の変位量を精度よく予測することができる。これにより、背景に対する重畳物の表示位置を適正化することができるとともに、表示位置を安定化させることができ、重畳表示の臨場感を向上させることができる。
(4)本実施形態では、加速度の変動周期が経過する毎に新たな平均パターンが算出される。例えば図7(A)に示すように、新たに算出された平均パターンは、それ以前に算出された平均パターンよりもさらに未来の予測値として使用される。このように、加速度の変動周期毎に平均パターンを更新することで、移動速度の変化に対して適切な補正量を与えることができる。例えば、動作者の走行ピッチ(走行速度)が徐々に低下し、平均パターンの変動周期が徐々に延長されたような場合であっても、その走行ピッチの低下に応じた予測を行うことができる。したがって、動作者の移動速度の変動に対する予測精度の低下を抑制することができ、重畳表示の臨場感を向上させることができる。
(5)本実施形態では、重畳物の表示位置の補正を実施するための補正条件として、加速度の変動周期が安定していることが判定される。例えば、動作者が空を見上げた場合や後ろを振り返った場合,表示装置10が脱落した場合,動作者が転倒した場合等には、補正が不実施とされる。このように、加速度の変動周期が安定している状態で表示位置が補正されるため、動作者に対する重畳物の相対位置を安定させることができ、重畳表示の臨場感を向上させることができる。一方、加速度の変動周期が不安定な状態では表示位置が補正されないため、無用な補正表示を抑制することができるとともに、補正に係る演算負荷を軽減することができる。
(6)本実施形態では、例えば図5〜図6に示すように、動作者の二歩分の動作に対応する加速度の周期変動に基づいて、表示位置が制御される。このように、二歩分の移動動作を一サイクルとして表示位置を制御することで、移動動作による加速度変動を特徴付ける特徴点(例えば、左右両足のヒールストライク,トーオフ等)を精度よく把握することができ、補正量の予測精度を向上させることができる。また、移動動作の周期性に合致した補正量を与えることが容易となり、重畳表示の位置を背景に対してずれることなく安定させることができる。
[7.変形例]
上述した実施形態に関わらず、それらの趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
上記の実施形態では、加速度センサ13で検出された加速度データの変動周期と、変動パターン(波形データ)と、の双方を用いて重畳物の表示位置を制御するものを例示した。一方、変動周期,変動パターンの少なくとも何れか一方のみについての実測データを使用するとともに、他方については予め設定されたデータを使用することで、重畳物の表示位置を制御することも可能である。
上述した実施形態に関わらず、それらの趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
上記の実施形態では、加速度センサ13で検出された加速度データの変動周期と、変動パターン(波形データ)と、の双方を用いて重畳物の表示位置を制御するものを例示した。一方、変動周期,変動パターンの少なくとも何れか一方のみについての実測データを使用するとともに、他方については予め設定されたデータを使用することで、重畳物の表示位置を制御することも可能である。
[7−1.変動周期のみを用いる場合]
加速度センサ13で検出された加速度データの変動周期のみを用いる場合、標準的な変動パターン(標準変動パターン)を予め設定しておき、加速度センサ13で検出された加速度データの変動パターンの代わりに、標準的な変動パターンを用いればよい。この場合の表示制御プログラム41のブロック構成図を、図11(A)に例示する。表示制御プログラム41には、上記の標準変動パターンを記憶する標準変動パターンデータベース部42が設けられる。標準変動パターンの数は例えば数十種類用意され、加速度データの変動周期に基づいて何れか一つの標準変動パターンが選択されるものとする。
加速度センサ13で検出された加速度データの変動周期のみを用いる場合、標準的な変動パターン(標準変動パターン)を予め設定しておき、加速度センサ13で検出された加速度データの変動パターンの代わりに、標準的な変動パターンを用いればよい。この場合の表示制御プログラム41のブロック構成図を、図11(A)に例示する。表示制御プログラム41には、上記の標準変動パターンを記憶する標準変動パターンデータベース部42が設けられる。標準変動パターンの数は例えば数十種類用意され、加速度データの変動周期に基づいて何れか一つの標準変動パターンが選択されるものとする。
この場合、変動周期算出部2では、二歩分の移動動作に対応する加速度の変動周期が算出され、その変動周期のみに関するデータが加速度データベース部3に記録される。また、平均パターン算出部4では、加速度データベース部3に記録された複数の変動周期の平均値が、平均周期として算出される。そして補正部6は、標準変動パターンデータベース部42に記録されている標準変動パターンと平均周期とに基づいて、重畳物の表示位置を制御する。ここでは、標準的な変動パターンを平均周期で標準化したものが時間tの関数a(t)として設定され、これを二回積分したものが補正量h(t)として算出される。補正条件判定部7は、上述の実施形態と同様に、補正条件を判定し、上記の補正量h(t)を実際の表示位置の制御に反映させるか否かを決定する。
このように、少なくとも加速度センサ13で検出された加速度データの変動周期を用いて重畳物の表示位置を制御することで、背景と重畳物とのずれの大きさが変動する周期を精度よく把握することができる。つまり、上記のずれが小さくなる時刻や大きくなる時刻を高精度に予測することができる。したがって、上述の実施形態と同様に、ずれが小さくなるように重畳画像の表示位置を補正することができ、重畳表示の臨場感を向上させることができる。なお、この手法は、例えば移動動作に伴って生じる加速度の変動パターンが大きく変化しないような場合に用いることができる。
[7−2.変動パターンのみを用いる場合]
反対に、加速度センサ13で検出された加速度データの変動パターン(波形)のみを用いる場合には、標準的な変動周期を予め設定しておき、加速度センサ13で検出された加速度データの変動周期の代わりに、標準的な変動周期(標準変動周期)を用いればよい。この場合の表示制御プログラム43のブロック構成図を、図11(B)に例示する。表示制御プログラム43には、上記の標準変動周期を記憶する標準変動周期データベース部44が設けられる。標準変動周期の数は例えば数十種類用意され、加速度データの変動パターンに基づいて何れか一つの標準変動周期が選択されるものとする。
反対に、加速度センサ13で検出された加速度データの変動パターン(波形)のみを用いる場合には、標準的な変動周期を予め設定しておき、加速度センサ13で検出された加速度データの変動周期の代わりに、標準的な変動周期(標準変動周期)を用いればよい。この場合の表示制御プログラム43のブロック構成図を、図11(B)に例示する。表示制御プログラム43には、上記の標準変動周期を記憶する標準変動周期データベース部44が設けられる。標準変動周期の数は例えば数十種類用意され、加速度データの変動パターンに基づいて何れか一つの標準変動周期が選択されるものとする。
この場合、変動パターン算出部2′では、二歩分の移動動作に対応する加速度の変動パターンが算出され、その変動パターンのみに関するデータが加速度データベース部3に記録される。つまり、加速度の波形のみが抽出される。また、平均パターン算出部4では、加速度データベース部3に記録された複数の変動パターンを平均化したものが平均パターンとして算出される。そして補正部6は、標準変動周期データベース部44に記録されている標準変動周期と平均パターンとに基づいて、重畳物の表示位置を制御する。ここでは、平均パターン算出部4で算出された平均パターンを標準的な変動周期で標準化したものが時間tの関数a(t)として設定され、これを二回積分したものが補正量h(t)として算出される。補正条件判定部7は、上述の実施形態と同様に、補正条件を判定し、上記の補正量h(t)を実際の表示位置の制御に反映させるか否かを決定する。
このように、少なくとも加速度センサ13で検出された加速度データの変動パターンを用いて重畳物の表示位置を制御することで、背景と重畳物とのずれの大きさを精度よく把握することができる。したがって、上述の実施形態と同様に、ずれが小さくなるように重畳画像の表示位置を補正することができ、重畳表示の臨場感を向上させることができる。なお、この手法は、例えば移動動作に伴って生じる加速度の変動周期が大きく変化しないような場合に用いることができる。
[7−3.その他]
上述の実施形態では、加速度センサ13を用いて表示装置10に加えられる加速度の大きさを把握するものを例示したが、さらにセンサを追加することも考えられる。例えば、ジャイロセンサや地磁気センサ等を用いて表示装置10の傾き,方角等を検知し、これらの情報を重畳物の表示位置の制御に反映させてもよい。表示装置10の傾き,方角を把握することで、背景座標系と画面座標系とのずれの大きさを高精度に把握することができ、背景と重畳物とのずれをより小さくすることができ、重畳表示の臨場感を向上させることができる。
上述の実施形態では、加速度センサ13を用いて表示装置10に加えられる加速度の大きさを把握するものを例示したが、さらにセンサを追加することも考えられる。例えば、ジャイロセンサや地磁気センサ等を用いて表示装置10の傾き,方角等を検知し、これらの情報を重畳物の表示位置の制御に反映させてもよい。表示装置10の傾き,方角を把握することで、背景座標系と画面座標系とのずれの大きさを高精度に把握することができ、背景と重畳物とのずれをより小さくすることができ、重畳表示の臨場感を向上させることができる。
また、上述の実施形態では、二歩分の移動動作に対応する加速度の変動周期,変動パターンを基準として、重畳物の表示位置を制御しているが、基準となる移動動作の長さ(時間幅)はこれに限定されない。例えば、一歩分の移動動作を基準としてもよいし、四歩分の移動動作を基準としてもよい。周期的に変動する移動動作に対応する時間幅に基づく制御により、加速度の変動周期を精度よく把握することができる。
[8.付記]
以上の変形例を含む実施形態に関し、さらに以下の付記を開示する。
[8−1.表示装置]
(付記1)
移動動作を行う動作者に装着される表示装置であって、
前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示部と、
前記移動動作に伴って前記表示装置に加わる加速度を取得する加速度取得部と、
前記加速度取得部で取得される前記加速度の変動周期に基づき、前記表示部に表示される前記重畳画像の表示位置を制御する表示制御部と、
を備えたことを特徴とする、表示装置。
(付記2)
前記表示制御部が、前記加速度の変動パターンに基づき、前記表示位置を補正する
ことを特徴とする、付記1記載の表示装置。
(付記3)
前記表示制御部が、前記加速度の変動周期毎の変動パターンを平均化した平均パターンに基づき、前記表示位置を補正する
ことを特徴とする、付記1又は2記載の表示装置。
(付記4)
前記表示制御部が、前記変動周期が経過する毎に前記平均パターンを更新する
ことを特徴とする、付記3記載の表示装置。
(付記5)
前記表示制御部が、前記加速度の変動周期に基づく前記表示位置の補正条件として、前記加速度の変動周期が安定していることを判定する
ことを特徴とする、付記1〜4の何れか1項に記載の表示装置。
(付記6)
前記表示制御部が、前記動作者の二歩分の動作に対応する前記加速度の変動周期に基づき、前記表示位置を制御する
ことを特徴とする、付記1〜5の何れか1項に記載の表示装置。
(付記7)
移動動作を行う動作者に装着される表示装置であって、
前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示部と、
前記移動動作に伴って前記表示装置に加わる加速度を取得する加速度取得部と、
前記加速度取得部で取得される前記加速度の周期変動パターンに基づき、前記表示部に表示される前記重畳画像の表示位置を制御する表示制御部と、
を備えたことを特徴とする、表示装置。
以上の変形例を含む実施形態に関し、さらに以下の付記を開示する。
[8−1.表示装置]
(付記1)
移動動作を行う動作者に装着される表示装置であって、
前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示部と、
前記移動動作に伴って前記表示装置に加わる加速度を取得する加速度取得部と、
前記加速度取得部で取得される前記加速度の変動周期に基づき、前記表示部に表示される前記重畳画像の表示位置を制御する表示制御部と、
を備えたことを特徴とする、表示装置。
(付記2)
前記表示制御部が、前記加速度の変動パターンに基づき、前記表示位置を補正する
ことを特徴とする、付記1記載の表示装置。
(付記3)
前記表示制御部が、前記加速度の変動周期毎の変動パターンを平均化した平均パターンに基づき、前記表示位置を補正する
ことを特徴とする、付記1又は2記載の表示装置。
(付記4)
前記表示制御部が、前記変動周期が経過する毎に前記平均パターンを更新する
ことを特徴とする、付記3記載の表示装置。
(付記5)
前記表示制御部が、前記加速度の変動周期に基づく前記表示位置の補正条件として、前記加速度の変動周期が安定していることを判定する
ことを特徴とする、付記1〜4の何れか1項に記載の表示装置。
(付記6)
前記表示制御部が、前記動作者の二歩分の動作に対応する前記加速度の変動周期に基づき、前記表示位置を制御する
ことを特徴とする、付記1〜5の何れか1項に記載の表示装置。
(付記7)
移動動作を行う動作者に装着される表示装置であって、
前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示部と、
前記移動動作に伴って前記表示装置に加わる加速度を取得する加速度取得部と、
前記加速度取得部で取得される前記加速度の周期変動パターンに基づき、前記表示部に表示される前記重畳画像の表示位置を制御する表示制御部と、
を備えたことを特徴とする、表示装置。
[8−2.表示制御プログラム]
(付記8)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御プログラムであって、
前記移動動作に伴って前記表示装置に加わる加速度を取得し、
前記加速度の変動周期に基づき、前記重畳画像の表示位置を制御する
処理をコンピュータに実行させる表示制御プログラム。
(付記9)
前記加速度の変動パターンに基づき、前記表示位置を補正する
処理をコンピュータに実行させる、付記8記載の表示制御プログラム。
(付記10)
前記加速度の変動周期毎の変動パターンを平均化した平均パターンに基づき、前記表示位置を補正する
処理をコンピュータに実行させる、付記8又は9記載の表示制御プログラム。
(付記11)
前記変動周期が経過する毎に前記平均パターンを更新する
処理をコンピュータに実行させる、付記10記載の表示制御プログラム。
(付記12)
前記加速度の変動周期に基づく前記表示位置の補正条件として、前記加速度の変動周期が安定していることを判定する
処理をコンピュータに実行させる、付記8〜11の何れか1項に記載の表示制御プログラム。
(付記13)
前記動作者の二歩分の動作に対応する前記加速度の変動周期に基づき、前記表示位置を制御する
処理をコンピュータに実行させる、付記8〜12の何れか1項に記載の表示制御プログラム。
(付記14)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御プログラムであって、
前記移動動作に伴って前記表示装置に加わる加速度を取得し、
前記加速度の周期変動パターンに基づき、前記重畳画像の表示位置を制御する
処理をコンピュータに実行させる表示制御プログラム。
(付記8)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御プログラムであって、
前記移動動作に伴って前記表示装置に加わる加速度を取得し、
前記加速度の変動周期に基づき、前記重畳画像の表示位置を制御する
処理をコンピュータに実行させる表示制御プログラム。
(付記9)
前記加速度の変動パターンに基づき、前記表示位置を補正する
処理をコンピュータに実行させる、付記8記載の表示制御プログラム。
(付記10)
前記加速度の変動周期毎の変動パターンを平均化した平均パターンに基づき、前記表示位置を補正する
処理をコンピュータに実行させる、付記8又は9記載の表示制御プログラム。
(付記11)
前記変動周期が経過する毎に前記平均パターンを更新する
処理をコンピュータに実行させる、付記10記載の表示制御プログラム。
(付記12)
前記加速度の変動周期に基づく前記表示位置の補正条件として、前記加速度の変動周期が安定していることを判定する
処理をコンピュータに実行させる、付記8〜11の何れか1項に記載の表示制御プログラム。
(付記13)
前記動作者の二歩分の動作に対応する前記加速度の変動周期に基づき、前記表示位置を制御する
処理をコンピュータに実行させる、付記8〜12の何れか1項に記載の表示制御プログラム。
(付記14)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御プログラムであって、
前記移動動作に伴って前記表示装置に加わる加速度を取得し、
前記加速度の周期変動パターンに基づき、前記重畳画像の表示位置を制御する
処理をコンピュータに実行させる表示制御プログラム。
[8−3.表示制御方法]
(付記15)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御方法であって、
前記移動動作に伴って前記表示装置に加わる加速度を取得する工程と、
前記加速度の変動周期に基づき、前記重畳画像の表示位置を制御する工程と
を備えたことを特徴とする、表示制御方法。
(付記16)
前記加速度の変動パターンに基づき、前記表示位置を補正する工程
を備えたことを特徴とする、付記15記載の表示制御方法。
(付記17)
前記加速度の変動周期毎の変動パターンを平均化した平均パターンに基づき、前記表示位置を補正する工程
を備えたことを特徴とする、付記15又は16記載の表示制御方法。
(付記18)
前記変動周期が経過する毎に前記平均パターンを更新する工程
を備えたことを特徴とする、付記17記載の表示制御方法。
(付記19)
前記加速度の変動周期に基づく前記表示位置の補正条件として、前記加速度の変動周期が安定していることを判定する工程
を備えたことを特徴とする、付記15〜18の何れか1項に記載の表示制御方法。
(付記20)
前記重畳画像の表示位置を制御する工程において、前記動作者の二歩分の動作に対応する前記加速度の変動周期に基づき、前記表示位置を制御する
ことを特徴とする、付記15〜19の何れか1項に記載の表示制御方法。
(付記21)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御方法であって、
前記移動動作に伴って前記表示装置に加わる加速度を取得する工程と、
前記加速度の周期変動パターンに基づき、前記重畳画像の表示位置を制御する工程と
を備えたことを特徴とする、表示制御方法。
(付記15)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御方法であって、
前記移動動作に伴って前記表示装置に加わる加速度を取得する工程と、
前記加速度の変動周期に基づき、前記重畳画像の表示位置を制御する工程と
を備えたことを特徴とする、表示制御方法。
(付記16)
前記加速度の変動パターンに基づき、前記表示位置を補正する工程
を備えたことを特徴とする、付記15記載の表示制御方法。
(付記17)
前記加速度の変動周期毎の変動パターンを平均化した平均パターンに基づき、前記表示位置を補正する工程
を備えたことを特徴とする、付記15又は16記載の表示制御方法。
(付記18)
前記変動周期が経過する毎に前記平均パターンを更新する工程
を備えたことを特徴とする、付記17記載の表示制御方法。
(付記19)
前記加速度の変動周期に基づく前記表示位置の補正条件として、前記加速度の変動周期が安定していることを判定する工程
を備えたことを特徴とする、付記15〜18の何れか1項に記載の表示制御方法。
(付記20)
前記重畳画像の表示位置を制御する工程において、前記動作者の二歩分の動作に対応する前記加速度の変動周期に基づき、前記表示位置を制御する
ことを特徴とする、付記15〜19の何れか1項に記載の表示制御方法。
(付記21)
移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御方法であって、
前記移動動作に伴って前記表示装置に加わる加速度を取得する工程と、
前記加速度の周期変動パターンに基づき、前記重畳画像の表示位置を制御する工程と
を備えたことを特徴とする、表示制御方法。
[8−4.付記の補足]
上記の付記1,付記8,付記15において、前記移動動作に伴って前記表示装置に加わる加速度のうち、少なくとも上下加速度を取得すればよく、これに加えて前後加速度及び左右加速度を取得してもよい。
上記の付記2,付記9,付記16において、前記表示位置の補正量が、前記加速度の変動パターンに基づいて算出されることが好ましい。
上記の付記3,付記10,付記17において、前記表示位置の補正量が、前記平均パターンに基づいて算出されることが好ましい。
上記の付記4,付記11,付記18において、前記平均パターンを更新する際に参照される前記変動パターンが、直近の所定時間内における前記変動パターンであることが好ましい。
上記の付記5,付記12,付記19において、前記加速度の変動周期が安定していることは、例えば前記加速度の変動周期に基づいて判定してもよく、あるいは、前記変動周期と前記平均パターンとの類似度に基づいて判定してもよい。
上記の付記6,付記13,付記20において、前記二歩分の動作に対応する前記加速度の変動周期は、加速度ピーク又はゼロ点に基づいて算出されることが好ましい。
上記の付記1,付記8,付記15において、前記移動動作に伴って前記表示装置に加わる加速度のうち、少なくとも上下加速度を取得すればよく、これに加えて前後加速度及び左右加速度を取得してもよい。
上記の付記2,付記9,付記16において、前記表示位置の補正量が、前記加速度の変動パターンに基づいて算出されることが好ましい。
上記の付記3,付記10,付記17において、前記表示位置の補正量が、前記平均パターンに基づいて算出されることが好ましい。
上記の付記4,付記11,付記18において、前記平均パターンを更新する際に参照される前記変動パターンが、直近の所定時間内における前記変動パターンであることが好ましい。
上記の付記5,付記12,付記19において、前記加速度の変動周期が安定していることは、例えば前記加速度の変動周期に基づいて判定してもよく、あるいは、前記変動周期と前記平均パターンとの類似度に基づいて判定してもよい。
上記の付記6,付記13,付記20において、前記二歩分の動作に対応する前記加速度の変動周期は、加速度ピーク又はゼロ点に基づいて算出されることが好ましい。
1 表示制御プログラム
2 変動周期算出部
3 加速度データベース部
4 平均パターン算出部
5 加速度予測データベース部
6 補正部
7 補正条件判定部
8 表示制御部
10 表示装置
11 透過型ディスプレイ(表示部)
12 コンピュータ
13 加速度センサ(加速度取得部)
21 ペースメーカー
2 変動周期算出部
3 加速度データベース部
4 平均パターン算出部
5 加速度予測データベース部
6 補正部
7 補正条件判定部
8 表示制御部
10 表示装置
11 透過型ディスプレイ(表示部)
12 コンピュータ
13 加速度センサ(加速度取得部)
21 ペースメーカー
Claims (8)
- 移動動作を行う動作者に装着される表示装置であって、
前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示部と、
前記移動動作に伴って前記表示装置に加わる加速度を取得する加速度取得部と、
前記加速度取得部で取得される前記加速度の変動周期に基づき、前記表示部に表示される前記重畳画像の表示位置を制御する表示制御部と、
を備えたことを特徴とする、表示装置。 - 前記表示制御部が、前記加速度の変動パターンに基づき、前記表示位置を補正する
ことを特徴とする、請求項1記載の表示装置。 - 前記表示制御部が、前記加速度の変動周期毎の変動パターンを平均化した平均パターンに基づき、前記表示位置を補正する
ことを特徴とする、請求項1又は2記載の表示装置。 - 前記表示制御部が、前記変動周期が経過する毎に前記平均パターンを更新する
ことを特徴とする、請求項3記載の表示装置。 - 前記表示制御部が、前記加速度の変動周期に基づく前記表示位置の補正条件として、前記加速度の変動周期が安定していることを判定する
ことを特徴とする、請求項1〜4の何れか1項に記載の表示装置。 - 前記表示制御部が、前記動作者の二歩分の動作に対応する前記加速度の変動周期に基づき、前記表示位置を制御する
ことを特徴とする、請求項1〜5の何れか1項に記載の表示装置。 - 移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御プログラムであって、
前記移動動作に伴って前記表示装置に加わる加速度を取得し、
前記加速度の変動周期に基づき、前記重畳画像の表示位置を制御する
処理をコンピュータに実行させる表示制御プログラム。 - 移動動作を行う動作者に装着される表示装置に対し、前記移動動作に関する重畳画像を前記動作者の周囲の景色に重ねて表示する表示制御方法であって、
前記移動動作に伴って前記表示装置に加わる加速度を取得する工程と、
前記加速度の変動周期に基づき、前記重畳画像の表示位置を制御する工程と
を備えたことを特徴とする、表示制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014041510A JP2015166816A (ja) | 2014-03-04 | 2014-03-04 | 表示装置,表示制御プログラム及び表示制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014041510A JP2015166816A (ja) | 2014-03-04 | 2014-03-04 | 表示装置,表示制御プログラム及び表示制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015166816A true JP2015166816A (ja) | 2015-09-24 |
Family
ID=54257718
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014041510A Pending JP2015166816A (ja) | 2014-03-04 | 2014-03-04 | 表示装置,表示制御プログラム及び表示制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015166816A (ja) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017094313A1 (ja) * | 2015-12-02 | 2017-06-08 | シャープ株式会社 | 映像生成装置及び映像生成方法及び映像生成プログラム |
JP2017151917A (ja) * | 2016-02-26 | 2017-08-31 | 株式会社セガゲームス | プログラム及びアイウエア |
WO2017212999A1 (ja) * | 2016-06-06 | 2017-12-14 | シャープ株式会社 | 映像生成装置及び映像生成方法、及び映像生成プログラム |
JP2018051138A (ja) * | 2016-09-30 | 2018-04-05 | オムロン株式会社 | 運動インストラクション装置、システム、方法およびプログラム |
JP2018097437A (ja) * | 2016-12-08 | 2018-06-21 | 株式会社テレパシージャパン | ウェアラブル情報表示端末及びこれを備えるシステム |
JP2018136400A (ja) * | 2017-02-21 | 2018-08-30 | 京セラ株式会社 | 表示装置、表示方法、制御装置および車両 |
WO2019087658A1 (ja) * | 2017-11-01 | 2019-05-09 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2019166238A (ja) * | 2018-03-26 | 2019-10-03 | 株式会社エヌ・ティ・ティ・データ | 動作模倣支援システム及び動作模倣支援装置 |
JP2019534062A (ja) * | 2016-08-31 | 2019-11-28 | グリーンコム カンパニー リミテッドGreencomm Co.,Ltd. | フィットネスモニタリングシステム |
WO2020234939A1 (ja) * | 2019-05-17 | 2020-11-26 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
WO2022091507A1 (ja) * | 2020-10-28 | 2022-05-05 | 株式会社Jvcケンウッド | 判定装置、及び判定方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0683296A (ja) * | 1992-08-31 | 1994-03-25 | Alpine Electron Inc | 車載用映像表示装置 |
JPH10113343A (ja) * | 1996-07-03 | 1998-05-06 | Hitachi Ltd | 動作及び行動の認識方法及び装置及びシステム |
JP2007134785A (ja) * | 2005-11-08 | 2007-05-31 | Konica Minolta Photo Imaging Inc | 頭部装着型の映像表示装置 |
JP2007274333A (ja) * | 2006-03-31 | 2007-10-18 | Nec Corp | 画像表示位置補正方法および画像表示位置補正機能付携帯端末 |
JP2012503796A (ja) * | 2008-09-26 | 2012-02-09 | マイクロソフト コーポレーション | 装置の予測される動きの補償 |
WO2013049248A2 (en) * | 2011-09-26 | 2013-04-04 | Osterhout Group, Inc. | Video display modification based on sensor input for a see-through near-to-eye display |
JP2013113761A (ja) * | 2011-11-30 | 2013-06-10 | Seiko Epson Corp | 状態検出装置、電子機器及びプログラム |
JP2013188293A (ja) * | 2012-03-13 | 2013-09-26 | Casio Computer Co Ltd | 運動情報表示システム、運動情報表示プログラムおよび運動情報表示方法 |
JP2013255102A (ja) * | 2012-06-07 | 2013-12-19 | Olympus Corp | 頭部装着型表示装置、画像表示システム及びプログラム |
JP2015056824A (ja) * | 2013-09-13 | 2015-03-23 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
-
2014
- 2014-03-04 JP JP2014041510A patent/JP2015166816A/ja active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0683296A (ja) * | 1992-08-31 | 1994-03-25 | Alpine Electron Inc | 車載用映像表示装置 |
JPH10113343A (ja) * | 1996-07-03 | 1998-05-06 | Hitachi Ltd | 動作及び行動の認識方法及び装置及びシステム |
JP2007134785A (ja) * | 2005-11-08 | 2007-05-31 | Konica Minolta Photo Imaging Inc | 頭部装着型の映像表示装置 |
JP2007274333A (ja) * | 2006-03-31 | 2007-10-18 | Nec Corp | 画像表示位置補正方法および画像表示位置補正機能付携帯端末 |
JP2012503796A (ja) * | 2008-09-26 | 2012-02-09 | マイクロソフト コーポレーション | 装置の予測される動きの補償 |
WO2013049248A2 (en) * | 2011-09-26 | 2013-04-04 | Osterhout Group, Inc. | Video display modification based on sensor input for a see-through near-to-eye display |
JP2013113761A (ja) * | 2011-11-30 | 2013-06-10 | Seiko Epson Corp | 状態検出装置、電子機器及びプログラム |
JP2013188293A (ja) * | 2012-03-13 | 2013-09-26 | Casio Computer Co Ltd | 運動情報表示システム、運動情報表示プログラムおよび運動情報表示方法 |
JP2013255102A (ja) * | 2012-06-07 | 2013-12-19 | Olympus Corp | 頭部装着型表示装置、画像表示システム及びプログラム |
JP2015056824A (ja) * | 2013-09-13 | 2015-03-23 | セイコーエプソン株式会社 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017094313A1 (ja) * | 2015-12-02 | 2017-06-08 | シャープ株式会社 | 映像生成装置及び映像生成方法及び映像生成プログラム |
JP2017151917A (ja) * | 2016-02-26 | 2017-08-31 | 株式会社セガゲームス | プログラム及びアイウエア |
WO2017145552A1 (ja) * | 2016-02-26 | 2017-08-31 | 株式会社セガゲームス | プログラム及びアイウエア |
WO2017212999A1 (ja) * | 2016-06-06 | 2017-12-14 | シャープ株式会社 | 映像生成装置及び映像生成方法、及び映像生成プログラム |
JP2019534062A (ja) * | 2016-08-31 | 2019-11-28 | グリーンコム カンパニー リミテッドGreencomm Co.,Ltd. | フィットネスモニタリングシステム |
JP2018051138A (ja) * | 2016-09-30 | 2018-04-05 | オムロン株式会社 | 運動インストラクション装置、システム、方法およびプログラム |
JP2018097437A (ja) * | 2016-12-08 | 2018-06-21 | 株式会社テレパシージャパン | ウェアラブル情報表示端末及びこれを備えるシステム |
JP2018136400A (ja) * | 2017-02-21 | 2018-08-30 | 京セラ株式会社 | 表示装置、表示方法、制御装置および車両 |
JP7147775B2 (ja) | 2017-11-01 | 2022-10-05 | ソニーグループ株式会社 | 情報処理装置、情報処理方法及びプログラム |
WO2019087658A1 (ja) * | 2017-11-01 | 2019-05-09 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
US11508084B2 (en) | 2017-11-01 | 2022-11-22 | Sony Corporation | Information processing apparatus and information processing method for accurately estimating a self location |
JPWO2019087658A1 (ja) * | 2017-11-01 | 2020-11-26 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP2019166238A (ja) * | 2018-03-26 | 2019-10-03 | 株式会社エヌ・ティ・ティ・データ | 動作模倣支援システム及び動作模倣支援装置 |
WO2020234939A1 (ja) * | 2019-05-17 | 2020-11-26 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
US11846783B2 (en) | 2019-05-17 | 2023-12-19 | Sony Group Corporation | Information processing apparatus, information processing method, and program |
WO2022091507A1 (ja) * | 2020-10-28 | 2022-05-05 | 株式会社Jvcケンウッド | 判定装置、及び判定方法 |
JP7439727B2 (ja) | 2020-10-28 | 2024-02-28 | 株式会社Jvcケンウッド | 判定装置、及び判定方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015166816A (ja) | 表示装置,表示制御プログラム及び表示制御方法 | |
JP7283506B2 (ja) | 情報処理装置、情報処理方法、及び情報処理プログラム | |
US9972136B2 (en) | Method, system and device for navigating in a virtual reality environment | |
JP6074494B2 (ja) | 形状認識装置、形状認識プログラム、および形状認識方法 | |
US10783712B2 (en) | Visual flairs for emphasizing gestures in artificial-reality environments | |
US10438410B2 (en) | Text enhancements for head-mounted displays | |
US8854356B2 (en) | Storage medium having stored therein image processing program, image processing apparatus, image processing system, and image processing method | |
US20170364146A1 (en) | Method of providing a virtual space image subjected to blurring processing based on detected displacement, and system therefor | |
US20200363867A1 (en) | Blink-based calibration of an optical see-through head-mounted display | |
JP6333801B2 (ja) | 表示制御装置、表示制御プログラム、および表示制御方法 | |
KR20160046495A (ko) | 외부 물체의 움직임과 연관된 이벤트에 응답하여 화면을 디스플레이하는 장치 및 방법 | |
CN105393192A (zh) | 用于近眼显示器的网状分层菜单显示配置 | |
US20200341284A1 (en) | Information processing apparatus, information processing method, and recording medium | |
JP6911834B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2010257081A (ja) | 画像処理方法及び画像処理装置 | |
WO2020110659A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2021060627A (ja) | 情報処理装置、情報処理方法、およびプログラム | |
KR101728408B1 (ko) | 방향 예측을 이용한 저 레이턴시 시뮬레이션 장치 및 방법과, 이를 위한 컴퓨터 프로그램 | |
US20230222738A1 (en) | Information processing apparatus, information processing method, and program | |
GB2582106A (en) | Display device and display device control method | |
KR102207838B1 (ko) | 하이브리드 센서를 이용한 착용형 디스플레이 장치의 자세 예측 장치 | |
US20200008713A1 (en) | Walking support system, walking support method, and program | |
US20230376109A1 (en) | Image processing apparatus, image processing method, and storage device | |
JP2024032409A (ja) | 情報処理装置およびhmd | |
CN115803786A (zh) | 信息处理装置、信息处理方法和程序 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161102 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170823 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170905 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180306 |