JP2013140223A - 情報表示装置、情報表示装置の制御方法、制御プログラム、制御プログラムを記録したコンピュータ読み取り可能な記録媒体 - Google Patents

情報表示装置、情報表示装置の制御方法、制御プログラム、制御プログラムを記録したコンピュータ読み取り可能な記録媒体 Download PDF

Info

Publication number
JP2013140223A
JP2013140223A JP2011289928A JP2011289928A JP2013140223A JP 2013140223 A JP2013140223 A JP 2013140223A JP 2011289928 A JP2011289928 A JP 2011289928A JP 2011289928 A JP2011289928 A JP 2011289928A JP 2013140223 A JP2013140223 A JP 2013140223A
Authority
JP
Japan
Prior art keywords
display
speed
information
predicted
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011289928A
Other languages
English (en)
Inventor
Masayuki Nakazawa
正幸 中沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2011289928A priority Critical patent/JP2013140223A/ja
Publication of JP2013140223A publication Critical patent/JP2013140223A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Telephone Function (AREA)

Abstract

【課題】処理負荷を抑えながら視認可能な画面を表示する。
【解決手段】情報表示装置1は、自装置が所定の周期的反復パターンで運動しており、かつ、自装置の速度が、所定の上限速度と所定の下限速度との間である所定の範囲から外れていると判定したときには、次に自装置の速度が上記所定の範囲となると予測される予測時刻における予測表示情報を予測表示生成手段782によって生成し、該予測表示情報を表示部2に表示する。
【選択図】図1

Description

本発明は、位置の変化に応じて表示部に表示する内容を変化させる情報表示装置等に関するものである。
携帯電話やタブレット端末、またはデジタルカメラなどの、装置本体が移動しながら動画像の撮像や再生表示を行う記録および表示装置において、手の震えなどの意図しない運動によって記録・再生される動画像のぶれを補正する技術はこれまでに多く開示されてきた。
装置本体の振動により閲覧者が感じる見えづらさを軽減する技術として、特許文献1には、装置の利用者や装置に振動が発生する状況下においても視認性の良好な画像表示装置、電子機器、画像表示方法が開示されている。この画像表示装置は、装置の振動を検出したときに、その振動を構成する該画像表示装置の動きの方向と反対方向に、表示部における画像の表示位置を移動させる。これにより、使用者の視線の移動量を少なくすることができる。
装置本体が高速移動した際に記録されるぶれによる不快感を防止する技術として、特許文献2には、撮像装置の高速な運動を検出すると、その運動中は一時的に記録を中断する撮像装置が開示されている。この撮像装置は、該撮像装置内の加速度センサが該撮像装置の高速なパン、チルト運動を検出すると、その運動中の動画像の記録を一時中断し、撮影動画像信号をあらかじめ用意された画像(高速運動を検出した瞬間のフリーズ(静止)画像、またはぶれる前の画像でもよい)に切り替えるものである。これによって、撮影画像表示部には高速移動しているぶれ画像が表示されず、ユーザの不快感を防止することができる。
また、近年は、携帯電話などの移動通信端末を用いて、現実空間の映像に対してコンピュータ処理によって情報を付加するAR(拡張現実感)技術が広く普及している。特許文献3には、拡張現実感をもたらす情報を事前に記録装置に格納しておく必要がなく、既存する情報サービスプロバイダの情報を利用して多様性に富んだ拡張現実感を提供することが可能であり、さらに、移動する物体の情報による拡張現実感を実現した情報提示システムが開示されている。この情報提示システムでは、第1の通信端末(携帯電話など)において、情報提示サーバにより送信された第2の通信端末の位置情報により示される位置が、第1の通信端末に備えられたカメラ部により取得された実空間の映像に含まれる位置である場合には、前記カメラ部により取得された映像に前記第2の通信端末のユーザを示すユーザデータを重畳して表示することができる。これにより、ユーザは様々な情報を得ることができ、利便性の高いサービスが実現可能となる。
特開2006−145616号公報(2006年6月8日公開) 特開2005−303492号公報(2005年10月27日公開) 特開2010−239568号公報(2010年10月21日公開)
携帯電話やタブレット端末などの移動通信端末における情報閲覧で常に問題となるのが、移動しながらの情報表示に伴う処理負荷である。移動中に表示情報をリアルタイムで更新して表示(追従表示)する場合、情報表示装置にかかる処理負荷が高くなり、表示の更新に遅延が出る、電池の消耗が激しくなるといった問題が生じる。
上記のような問題の影響を最も受けやすいものの一つとして、AR技術が挙げられる。特許文献3の技術では、端末は本体の移動に合わせて常にユーザ情報の更新処理を行う必要があり、このために処理負荷が高くなる問題に対応できない。一方、特許文献1の技術はぶれの補正を行うものであって、この技術の適用は処理負荷の低減には繋がらない。
考えられる解決策の一つとして、端末本体の激しいぶれや高速な移動など、ユーザが視認不可能とみなせる動きを端末がしている最中の表示更新を中断するという構成が考えられる。特許文献2の技術は激しいぶれに応じて録画を中断するものであるが、この構成は歩行のような周期的なぶれを想定したものではないため、録画の中断・再開のタイミングを事前に予測することができず、激しいぶれが起きたり収まったりするごとに録画の中断・再開を行う必要がある。したがって、AR技術のような、通常の視認が困難な状況においても、表示を継続することが望まれる装置に適用することはできない。
なお、上記の問題は、ユーザの歩行時やAR技術への適用に限って生じる問題ではなく、移動を伴う情報表示装置に関するあらゆる状況において生じうる問題である。
本発明は上記事情に鑑みてなされたもので、移動を伴う情報表示装置において、自装置の位置の変化に応じて表示部に表示する内容を変化させる際に、処理負荷を抑えながら視認可能な画面を表示することが可能な情報表示装置等を提供することを目的とする。
上記課題を解決するために、本発明に係る情報表示装置は、位置の変化に応じて表示部に表示する内容を変化させる情報表示装置であって、自装置の運動が、所定の周期的反復パターンに合致するか否かを判定する運動パターン照合手段と、自装置の速度が、所定の上限速度と所定の下限速度との間である所定の範囲から外れているか否かを判定する速度判定手段と、上記周期的反復パターンに基づいて、自装置の速度が上記所定の範囲内となると予測される直近の予測時刻に表示されると予測される予測表示情報を生成する予測表示情報生成手段と、上記運動パターン照合手段の判定の結果、自装置の運動が上記周期的反復パターンに合致しており、かつ、上記速度判定手段の判定の結果、自装置の速度が上記所定の範囲から外れているとき、上記予測表示情報生成手段が生成した上記予測表示情報を上記表示部に表示する表示制御手段と、を備えることを特徴としている。
また、本発明に係る情報表示装置の制御方法は、位置の変化に応じて表示部に表示する内容を変化させる情報表示装置の制御方法であって、自装置の運動が、所定の周期的反復パターンに合致するか否かを判定する運動パターン照合ステップと、自装置の速度が、所定の上限速度と所定の下限速度との間である所定の範囲から外れているか否かを判定する速度判定ステップと、上記運動パターン照合ステップの判定の結果、自装置の運動が上記周期的反復パターンに合致しており、かつ、上記速度判定ステップの判定の結果、自装置の速度が上記所定の範囲から外れているとき、上記周期的反復パターンに基づいて、自装置の速度が上記所定の範囲内となると予測される直近の予測時刻に表示されると予測される予測表示情報を生成する予測表示情報生成ステップと、上記予測表示情報生成ステップにて生成した上記予測表示情報を上記表示部に表示する表示制御ステップと、を含むことを特徴としている。
上記の構成によれば、情報表示装置は、自装置が周期的な運動パターンに従って運動しており、かつ自装置の速度が所定の範囲から外れているときには、追従表示を行わず、次に自装置の速度が所定の範囲内となる直近の予測時刻に表示されると予測される表示内容を表示する。ここで、上記「所定の範囲」は、情報表示装置のユーザが画面の内容を視認可能な速度の上限値から下限値までの範囲、あるいは、当該範囲内に設定される。
したがって、情報表示装置は、自装置が周期的な運動パターンに従って運動している際、追従表示を行ってもその表示内容をユーザが視認不可能である期間には、無用な追従表示を行わず、次に自装置の速度が表示内容をユーザが視認可能となる直近の予測時刻に表示される表示内容を表示することができる。よって、情報表示装置が激しいぶれや高速移動などをしていても、次に表示される情報を事前に表示できるとともに、追従表示にかかる処理負荷を抑えることができるという効果を奏する。
さらに、本発明に係る情報表示装置は、自装置の現在位置に応じた追従表示情報を生成する追従表示情報生成手段をさらに備え、上記表示制御手段は、上記運動パターン照合手段の判定の結果、自装置の運動が上記周期的反復パターンに合致していないとき、上記追従表示情報生成手段が生成した上記追従表示情報を上記表示部に表示することを特徴としている。
上記の構成によれば、さらに、情報表示装置は、現在の運動が運動パターンと一致しなくなったとき、追従表示に切替えることで、状況に応じた適切な情報を表示することができるという効果を奏する。
さらに、本発明に係る情報表示装置は、自装置の運動を検出し、自装置の運動の周期的反復パターンを生成する運動パターン生成手段を備えることを特徴としている。
上記の構成によれば、さらに、情報表示装置は、自装置の現在の運動データから新たに運動パターンを検出し正規化することにより、事前に設定されている運動パターンのみでなく、情報表示装置の使用状況に応じてさまざまな運動パターンを学習することで、さまざまな状況に対応した予測表示を行うことができるという効果を奏する。
なお、上記情報表示装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記各手段として動作させることにより上記情報表示装置をコンピュータにて実現させる情報表示装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
以上のように、本発明に係る情報表示装置は、自装置の運動が、所定の周期的反復パターンに合致するか否かを判定する運動パターン照合手段と、自装置の速度が、所定の上限速度と所定の下限速度との間である所定の範囲から外れているか否かを判定する速度判定手段と、上記周期的反復パターンに基づいて、自装置の速度が上記所定の範囲内となると予測される直近の予測時刻に表示されると予測される予測表示情報を生成する予測表示情報生成手段と、上記運動パターン照合手段の判定の結果、自装置の運動が上記周期的反復パターンに合致しており、かつ、上記速度判定手段の判定の結果、自装置の速度が上記所定の範囲から外れているとき、上記予測表示情報生成手段が生成した上記予測表示情報を上記表示部に表示する表示制御手段と、を備える構成である。
また、本発明に係る情報表示装置の制御方法は、自装置の運動が、所定の周期的反復パターンに合致するか否かを判定する運動パターン照合ステップと、自装置の速度が、所定の上限速度と所定の下限速度との間である所定の範囲から外れているか否かを判定する速度判定ステップと、上記運動パターン照合ステップの判定の結果、自装置の運動が上記周期的反復パターンに合致しており、かつ、上記速度判定ステップの判定の結果、自装置の速度が上記所定の範囲から外れているとき、上記周期的反復パターンに基づいて、自装置の速度が上記所定の範囲内となると予測される直近の予測時刻に表示されると予測される予測表示情報を生成する予測表示情報生成ステップと、上記予測表示情報生成ステップにて生成した上記予測表示情報を上記表示部に表示する表示制御ステップと、を含む方法である。
上記の構成によれば、情報表示装置が激しいぶれや高速移動などをしていても、次に表示される情報を事前に表示できるとともに、追従表示にかかる処理負荷を抑えることができるという効果を奏する。
本発明の実施形態に係る移動通信端末の構成を示す機能ブロック図である。 上記移動通信端末による、運動パターン依存表示モードにおける処理の流れを示すフローチャートである。 上記移動通信端末の運動パターン依存表示モードにおける、予測表示と追従表示の切り替えを行うタイミングを示す概略図である。 上記移動通信端末におけるAR情報(付加情報)の表示例を示す図である。 上記移動通信端末の3次元加速度データを示す図である。 上記移動通信端末が周期的な運動パターンに従って運動する際の軌道、および、予測表示と追従表示との切り替えタイミングを示す概略図である。
〔移動通信端末1の概要〕
本実施形態は、携帯電話やスマートフォンなどの移動通信端末において、カメラ等で取得したリアルタイム映像に、サーバから受信した付加情報を重畳して表示するAR技術に関するものである。移動通信端末は周期的運動パターンに従って運動しており、かつその運動の速度が所定の範囲から外れるとき、所定の時刻の表示内容を予測して表示(予測表示)するものである。
なお、上記「所定の範囲」とは、ユーザが画面の表示内容を視認可能な速度の範囲である。上記「所定の範囲」の上限を上限速度、下限を下限速度と称する。よって、速度が上限速度を上回ったとき、および、速度が下限速度を下回ったとき、所定の範囲から外れたことになる。なお、本実施形態における「速度」とは、移動通信端末とユーザの視点との相対速度を指す。
また、上記「所定の時刻」とは、移動通信端末の運動速度が所定の範囲外であるときに、速度が再び所定の範囲内となる直近の時刻(予測時刻)、すなわちユーザが画面の表示内容を視認可能となる直近の時刻を指す。
図4は、本実施形態に係る移動通信端末(情報表示装置)1の外観であり、ARアプリケーションが動作している状態を示している。移動通信端末1は、表示部2と、通信部5と、操作部3とを備える。また、図示しないが表示部2と反対側の面に撮像部4(図1)であるカメラを備える。
表示部2は、撮像部4で撮像した動画像や、ARサーバ9(図1)から受信した付加情報IARや、操作部3から入力したユーザ入力の出力結果を表示する場所である。
表示部2には、撮像部4から取得した映像IBがリアルタイムで表示されており、上記映像IBに、通信部5を介してARサーバ9から取得した付加情報IARが重畳されて表示されている。
ここで、付加情報IARは、例えば周辺の建物に入っている店の情報などである。上記移動通信端末1のユーザ以外のユーザが近くにいる場合、そのユーザの情報を表示することもできる。付加情報IARの表示位置は、GPS受信機61(図1)によって取得した位置情報と、方位センサ62(図1)によって取得した本体の向きを示す姿勢情報とから算出されて表示内容に反映される。例えば、ユーザが前進すると、付加情報IARが現実にその場に存在するかのように、次第に大きく表示される。また、付加情報IARが立体図形である場合も同様に、ユーザの移動に応じて、現実に立体がその場に存在するかのように、大きさや形状が変化する。
移動通信端末1は、通常表示モードと運動パターン依存表示モードとの2つの表示モードを有する。
通常表示モードでは、移動通信端末1の制御部7(図1)は、GPS受信機61および方位センサ62から位置情報および姿勢情報を取得して、付加情報IARの表示位置の計算を常に行い、付加情報IARをリアルタイムに表示される映像IBに重畳させて表示する(追従表示)。すなわち、通常表示モードでは、付加情報IARが移動通信端末1の位置にリアルタイムに追随して表示される。
一方、運動パターン依存表示モードでは、加速度センサ63によって自装置の運動を検出し、自装置の運動が所定の周期的反復パターンに合致しており、かつ、自装置の速度が、ユーザが画面の表示内容を視認可能な速度の範囲、すなわち上限速度から下限速度までの範囲から外れているとき、上記周期的反復パターンに基づいて、自装置の速度が上記の範囲となると予測される直近の予測時刻TSに表示されると予測される付加情報IARを生成し、付加情報IARをリアルタイムに表示される映像IBに重畳させて表示する(予測表示)。また、それ以外のときは、上記追従表示を行う。すなわち、運動パターン依存表示モードでは、自装置の周期的反復パターンに従って、速度がユーザが画面の表示内容を視認可能な速度の範囲を超えているときには、移動通信端末1の位置や姿勢にリアルタイムには追随しない付加情報IARを表示し、速度が所定の範囲内にあるときには、移動通信端末1の位置にリアルタイムに追随した付加情報IARを表示する。
以下、移動通信端末1について、詳細に説明する。
〔移動通信端末1の構成〕
図1は、移動通信端末1の構成を示す機能ブロック図である。移動通信端末1にはスマートフォンを含む携帯電話、タブレット端末などが含まれる。
移動通信端末1は、表示部2と、操作部3と、撮像部4と、通信部5と、センサ部6と、制御部7と、記憶部8とを備える。
表示部2は、撮像部4で撮像した映像IBや、操作部3から入力したユーザ入力の出力結果や、通信部5からAR情報生成部78を介して受信した付加情報IARを表示する。なお、タッチスクリーン付の移動通信端末においては、表示部2と操作部3は同じタッチスクリーン上に備えられていてもよい。
操作部3は、ユーザ入力を受け付けるインターフェースであり、例えば、タッチスクリーン上のGUI、あるいは画面外のボタンやキーなどの機械的な部材にて実現されるものである。
撮像部4は、携帯電話に備えられているカメラなどによって実現されるものである。撮像部4で撮像された動画像は、映像IBとして表示部2に表示される。
通信部5は、例えば、基地局、あるいはサーバとのデータの通信を行うものであり、他の携帯電話との通話、電子メールの送受信などを行うことを可能とするものである。具体的には、本実施形態では、撮像部4で取得した映像IBに重畳して表示する付加情報IARのデータを、通信部5を介して、ARサーバ9から受信する。
センサ部6は、移動通信端末1の位置、姿勢および動きを検知する。センサ部6は、移動通信端末1の位置を示す位置情報を取得するGPS受信機61と、移動通信端末1の姿勢を示す姿勢情報を取得する方位センサ62と、移動通信端末1の加速度を示す加速度情報を取得する加速度センサ63とを含む。
制御部7は、上記の各部材の機能を統括して移動通信端末1の駆動を制御する。
記憶部8は、制御部7が行う各処理において参照されるデータやプログラムを保持する。記憶部8は、特に、運動パターンを保持する運動パターン記憶部81を有する。運動パターンは、運動パターン正規化部74が正規化した後に運動パターン記憶部81に格納され、運動パターン照合部751が照合の基準とするために運動パターン記憶部81から読み出す。なお、運動パターン記憶部81には、移動通信端末1の製造工程において、歩行などの所定の運動パターンがあらかじめ格納されていてもよい。
次に、制御部7の詳細な構成について説明する。制御部7は、表示制御部(表示制御手段)71と、操作受付部72と、運動パターンモデル生成部(運動パターン生成手段)70と、表示方法決定部75と、AR情報生成部78とを備える。
表示制御部71は、撮像部4から取得した映像IBに、AR情報生成部78から取得した付加情報IARを重畳して、表示部2に表示する。
操作受付部72は、操作部3に対するユーザ入力を取得する。本実施形態では、操作受付部72は、操作部3からのユーザ入力に基づいて、運動パターン依存表示モードと通常表示モードとの切り替えを行う。上述のように、通常表示モードとは、常に追従表示を行う表示モードである。また、運動パターン依存表示モードとは、周期的運動パターンの中で、移動通信端末1の現在の運動の速度に応じて予測表示と追従表示を切り替える表示モードである。なお、ユーザ入力によって表示モードを切り替える代わりに、常に運動パターン依存表示モードとし、移動通信端末1の運動の状態(運動パターンおよび速度)に応じて、予測表示と追従表示を切り替えるようにしてもよい。
運動パターンモデル生成部70は、移動通信端末1の周期的運動パターンを検出し、正規化することで、予測表示を行う際に参照される一定の周期的運動パターンのモデルを生成する。そのため、運動パターンモデル生成部70は、運動パターン検出部73と、運動パターン正規化部74とを備える。
運動パターン検出部73は、移動通信端末1の周期的運動パターンを検出する。具体的には、加速度センサ63から取得した加速度情報に基づいて、移動通信端末1の軌跡に周期的運動パターンがあるか否かを判定する。例えば、ユーザが移動通信端末1を手に持って、表示部2を見ながら歩いているときに、移動通信端末1が上下に揺れる動きは周期的運動パターンに従った動きである。
運動パターン正規化部74は、運動パターン検出部73で検出された運動パターンを、参照モデルとして登録するために正規化する。この正規化は、微小な動きぶれを無視して同じ動きを同一と判断するための処理である。運動パターン正規化部74が正規化した運動パターンは、運動パターン記憶部81に保存される。
表示方法決定部75は、AR情報生成部78に対し、予測表示と追従表示のいずれを行うかの指令を送信する。表示方法決定部75は、自装置の運動が所定の周期的反復パターンに合致しており、かつ、自装置の速度が、ユーザが画面の表示内容を視認可能な範囲を外れているときは、表示方法を予測表示に決定し、それ以外のときには、表示方法を追従表示に決定する。そのために、表示方法決定部75は、運動パターン照合部(運動パターン照合手段)751と、速度判定部(速度判定手段)752と、予測時刻決定部753とを備える。
運動パターン照合部751は、運動パターン正規化部74で正規化され、運動パターン記憶部81に保存された運動パターンと、移動通信端末1の現在の運動とが一致するか否かを判定する。移動通信端末1の現在の運動は、加速度センサ63から取得した加速度データに基づいて計算される。なお、運動パターン照合部751は、運動パターン正規化部74によって直前に生成された運動パターンの代わりに、あらかじめ運動パターン記憶部81に格納されている運動パターン、例えば、移動通信端末1の製造工程において格納された運動パターンを、運動パターン記憶部81から読み出して、判定に用いてもよい。
速度判定部752は、移動通信端末1の現在の運動の速度が所定の範囲から外れているか否かを判定する。具体的には、加速度センサ63から取得した加速度を積分して速度とし、該速度が所定の範囲から外れているか否かを判定する。
予測時刻決定部753は、移動通信端末1の速度が次に所定の範囲内となる時刻が、現在の時刻からどのくらい先であるのかを決定する。換言すれば、予測時刻決定部753は、次に追従表示に切り替える時刻(予測時刻)を決定する。
AR情報生成部78は、通信部5を介してARサーバ9から取得した付加情報データに基づき、表示部2に表示させる付加情報IARを生成する。そのために、AR情報生成部78は、追従表示情報生成部(追従表示情報生成手段)781と、予測表示情報生成部(予測表示情報生成手段)782とを備える。
追従表示情報生成部781は、映像IBに重畳させる付加情報IARを、移動通信端末1の位置および姿勢にリアルタイムに追随させて生成し、表示制御部71に送信する。具体的には、追従表示情報生成部781は、GPS受信機61および方位センサ62からの位置情報および姿勢情報に基づいて、表示する情報の位置や形状を決定して付加情報IARを生成する。
予測表示情報生成部782は、映像IBに重畳させる付加情報IARを、予測時刻決定部753によって決定された予測時刻で表示されると予測される表示位置および形状を予測して生成し、表示制御部71に送信する。なお、上述したように、上記予測時刻とは、移動通信端末1の速度が次に所定の範囲内となる時刻である。
また、予測表示情報生成部782は、予測表示情報の生成を、表示情報決定部75から予測表示を行うよう指令を受けた直後の一回のみ行う。すなわち、予測表示を行っている間は、予測表示情報の更新は行わない。これにより、激しいぶれや高速な移動など、視認不可能とみなせる動きを移動通信端末1がしている最中の表示更新を中断して、付加情報の提示に係る処理負荷の低減を図ることができる。
上述した、制御部1のうち予測表示に係る機能ブロック、すなわち、運動パターン検出部73と、運動パターン正規化部74と、表示方法決定部75と、予測表示情報生成部782とをまとめて、運動パターン依存表示モード制御部76と称する。
〔移動通信端末1における処理〕
図2は、移動通信端末1の運動パターン依存表示モードにおける処理のフローチャートである。運動パターン依存表示モードが開始すると、ステップS200において、追従表示情報生成部781は、GPS受信機61と方位センサ62とから取得する位置情報および姿勢情報と、通信部5がARサーバ9から受信する付加情報データとに基づいて、通常表示モードと同様に追従表示を行う。なお、通信部5がARサーバ9から受信する付加情報データの取得範囲は、移動通信端末1から一定の空間的拡がりを持っている。すなわち、移動通信端末1が移動したときに付加情報IARを遅延なく表示するために、現在位置から少し離れた地点(例えば200m)で表示すべき付加情報IARを生成するための付加情報データも、現在位置においてあらかじめ取得されているものとする。
ステップS201において、運動パターン検出部73は、加速度センサ63から取得した加速度情報に基づいて周期的運動パターンの検出を行う。具体的には、ある期間の計測データ内で、短時間の閉区間の軌跡が存在するか否かを判定する。
図5に、運動パターン検出部73が取得する加速度情報を示す。ここで、ユーザは移動通信端末1を手に持って歩いているものとする。z軸がユーザの進行方向(前後方向)の軸であり、x軸は左右方向の軸であり、y軸は上下方向の軸である。そして、進行方向であるz軸に関して、ユーザの視点も移動通信端末1と同じ速度で移動しているものとする。そこで、本実施形態では、運動パターンの検出、および速度の計算に、z軸を考慮しない。ただし、z軸の加速度を含めて運動パターンの検出および速度の計算を行うようにしてもよい。その場合、後述する閾値にz軸の速度を加味することになる。
図5に例示するように、ユーザが移動通信端末1を手に持ってz軸方向に歩いている場合、x軸、y軸、およびz軸方向の加速度は、ユーザの歩行に合わせて、周期的に変動している。そして、z軸方向の加速度の変動は、x軸方向およびy軸方向の加速度の変動に比べて小さい。また、y軸方向の加速度は平均約−9.8m/s^2であり、重力加速度付近で周期的に変化していることが分かる。
つづいて、運動パターン検出部73が周期的運動パターンを検出すると(S201においてYES)、ステップS202において、運動パターン正規化部74が、運動パターンの正規化を行うとともに、正規化した運動パターンを記憶部8の運動パターン記憶部81に保存し、表示方法決定部75に対し次の処理ステップに進む指示を出す。この正規化によって、微小な動きぶれを無視して、同じ動きを同一と判断することが可能となる。なお、本実施形態では、正規化した運動パターンを、速度によって表現した情報(図3)として生成するものとする。
一方、周期的運動パターンが検出されなかった場合は(S201においてNO)、周期的運動パターンが検出されるまで追従表示(S200)を続ける。
ステップS203において、表示方法決定部75は、正規化された運動パターン情報を運動パターン記憶部81から受信するとともに、加速度センサ63から、移動通信端末1の現在の加速度情報を取得し、速度情報を生成する。
ステップS204(運動パターン照合ステップ)において、運動パターン照合部751は、上記現在の速度情報と、ステップS202で正規化された上記運動パターンとの比較照合を行う。なお、ステップS204における、現在の運動が運動パターンと一致するか否かの判定は、複数の時刻に取得された速度情報が運動パターンと所定の許容範囲を超えて乖離した場合に、移動通信端末1の運動が運動パターンと一致しなくなったと確定するようにしてもよい。
上記現在の速度情報と、正規化された運動パターンが一致すると判定されると(S204においてYES)、ステップS205(速度判定ステップ)において、速度判定部752は、移動通信端末1の現在の速度が上限速度Vcから下限速度−Vcまでの範囲を外れているか否かを、ステップS203で生成した現在の速度情報に基づいて判定する。なお、上限速度Vcおよび下限速度−Vcは移動通信端末1においてあらかじめ設定されていてもよいし、ユーザによる設定が可能であってもよい。
移動通信端末1が上記の範囲外の速度で運動していると判定されると(S205においてYES)、ステップS206(予測表示情報生成ステップ)において、まず、予測時刻決定部753が、速度判定部752から受信した速度情報と、運動パターン情報とから、速度が次に上記の範囲となる予測時刻を計算する。
次に、予測表示情報生成部782は、予測時刻決定部753が算出した予測時刻における移動通信端末1の位置に対応した表示位置および形状の付加情報IARを生成し、該付加情報IARを表示制御部71に送信する。ここで、通信部5がARサーバ9から受信する付加情報データには、現在位置で表示すべき付加情報IARを生成するための情報とともに、現在位置から少し離れた地点で表示すべき付加情報IARを生成するための情報も含まれている。したがって、予測時刻に移動通信端末1が到達すると予想される位置において表示すべき付加情報IARを生成するための情報は、現在位置において取得可能である。よって、現在位置で予測表示情報として表示する付加情報IARを、予測された地点に実際に到達した時点で追従表示情報として表示する付加情報IARと一致させることができる。
そして、予測表示情報生成部782が生成した付加情報IARを、表示制御部71が、映像IBに重畳させて表示部2に表示させる。
なお、予測表示(S206)を行った後はステップS203に戻るが、現在の速度が上記の範囲内となるまでは、付加情報IARの表示内容の更新を行わない。
一方、ステップS205で上記現在の速度が上記の範囲内であると判定された場合は(S205においてNO)、表示方法決定部75は、AR情報生成部78に対し、追従表示を行うように指示する信号を送信する(ステップS207;表示制御ステップ)。
また、ステップS204において、端末の現在の速度と運動パターンが一致しないと判定された場合(S204においてNO)、表示方法決定部75が、AR情報生成部78に対し、追従表示(S200)を行うように指示する信号を送信する。これとともに、運動パターン照合部751が、運動パターン検出部73に新たな周期的運動パターンの検出を指示する信号を送信する。なお、端末の現在の速度と運動パターンが一致しないと判定されたとき、記憶部81から上記運動パターンのデータを破棄してもよい。
〔予測表示と追従表示の切り替え〕
図3は、移動通信端末1の運動パターン依存表示モードにおける、予測表示と追従表示の切り替えのタイミングを示す概略図である。例としてx軸とy軸の合成速度(Vk)のグラフを参照する。この速度情報は加速度センサ63から得た加速度情報を、表示方法決定部75において積分することによって得られる。
なお、図3および図6の説明においては、簡便のために上限速度をVc、下限速度を−Vcとしているが、上限速度と下限速度の絶対値は同じでなくともよい。
まず、画面の表示内容を視認可能な速度の上限値Vc(上限速度)および下限値−Vc(下限速度)を設定し、移動通信端末1の現在の速度をVkとしたとき、|Vk|≦Vcのとき追従表示を行い、Vc<|Vk|のとき予測表示を行う。このとき、予測表示情報として表示する内容は、次に|Vk|≦Vcとなると予測される予測時刻の表示情報である。
より具体的には、所定の周期的運動パターンに従って運動している状況において、|Vk|≦Vcとなる区間の開始時刻をTSnとし、次にVc<|Vk|となる区間の開始時刻をTEnとすると、TSnからTEnまでの区間は、移動通信端末1は追従表示を行う。そして、次に|Vk|≦Vcとなる区間の開始点となる予測時刻をTSn+1、その直後にVc<|Vk|となる区間の開始時刻をTEn+1とすると、TEnからTSn+1までの区間では、移動通信端末1は予測表示を行い、TSn+1からTEn+1の区間は追従表示を行う。よって、TEnからTSn+1までの区間で表示される内容は、TSn+1における表示情報を予測したものである。
つぎに、図6を用いて、移動通信端末1の運動パターン依存表示モードにおける、予測表示期間と追従表示期間についてさらに説明する。図6は、移動通信端末1を周期的な運動パターンに従って運動させている状況を示す。移動通信端末1は、楕円の軌道上を矢印の方向に従って移動しており、反転する軌道上の左上と右下の位置で速度が低下しているものとする。
図6に示す、矢印の破線部分は|Vk|≦Vcの区間であり、ユーザが画面の表示内容を視認可能な区間である。それゆえ、この区間では、移動通信端末1は追従表示を行う。一方、矢印の実線部分はVc<|Vk|の区間であり、ユーザが画面の表示内容を視認不可能な区間である。それゆえ、移動通信端末1は予測表示を行う。
また、図6には、追従表示から予測表示に切り替わる時刻をTE、予測表示から追従表示に切り替わる時刻を予測時刻TSとして図示している。TEからTSまでの区間に移動通信端末1の表示部2に表示される内容は、上記区間のTSの位置で表示されると予測される内容(予測表示情報)である。
〔変形例〕
ここで、本実施形態の変形例として、webブラウザ上で予測表示を行う場合について説明する。
具体的には、空間上に固定された仮想的な情報画面、例えば新聞記事のような大きなウェブページを、移動通信端末1を図6のような軌道で周期的に移動させながら閲覧する場合を考える。例えば、移動通信端末1を右下に移動させると、ウェブページの右下側が画面に表示されるものとする。このとき、移動通信端末1は、TEからTSまでの区間は、TSの位置で表示される記事内容を予測表示し、TSからTEまでの区間は、移動通信端末1の動きに合わせて追従表示を行う。
〔構成および作用効果〕
以上のように、本実施形態の移動通信端末1は、移動通信端末1が周期的な運動パターンに従って運動しており、かつ、ユーザが画面の表示内容を視認不可能な速度で運動しているときには、無用な追従表示を行わず、次にユーザが画面の表示内容を視認可能な速度となる予測時刻の表示内容を予測表示する。これにより、移動通信端末1が激しいぶれや高速移動などをしていても、次に表示される情報を事前に得られるとともに、追従表示にかかる処理負荷を抑えることができる。また、移動通信端末1の現在の運動が周期的運動パターンから大きく外れたときには、追従表示に切り替えることで、状況に応じた適切な情報を表示することができる。さらに、移動通信端末1の現在の運動から新たに運動パターンを検出し正規化することにより、事前に設定されている運動パターンのみでなく、移動通信端末1の使用状況に応じてさまざまな運動パターンを学習することで、さまざまな状況に対応した予測表示を行うことができる。
また、本発明に係る移動通信端末(情報表示装置)1は、以下のように記載することができる。
(1)移動通信端末(情報表示装置)1は、位置の変化に応じて表示部2に表示する内容を変化させる移動通信端末(情報表示装置)1であって、自装置の運動が、所定の周期的反復パターンに合致するか否かを判定する運動パターン照合部(運動パターン照合手段)751と、自装置の速度Vkが、ユーザが画面の表示内容を視認可能な速度の範囲である、所定の上限速度と所定の下限速度との間である所定の範囲(−Vc≦Vk≦Vc)から外れているか否かを判定する速度判定部(速度判定手段)752と、上記周期的反復パターンに基づいて、自装置の速度Vkが上記所定の範囲内となると予測される直近の予測時刻TSに表示されると予測される予測表示情報を生成する予測表示情報生成部(予測表示情報生成手段)782と、上記運動パターン照合部(運動パターン照合手段)751の判定の結果、自装置の運動が上記周期的反復パターンに合致しており、かつ、上記速度判定部(速度判定手段)752の判定の結果、自装置の速度Vkが上記所定の範囲から外れているとき、上記予測表示情報生成部(予測表示情報生成手段)782が生成した上記予測表示情報を上記表示部2に表示する表示制御部(表示制御手段)71と、を備えて構成されていてもよい。
これにより、移動通信端末1は、自装置が周期的な運動パターンに従って運動しており、かつ追従表示を行ってもその表示内容をユーザが視認不可能であるような状況のときには、無用な追従表示を行わず、次に自装置の速度が表示内容をユーザが視認可能となる直近の予測時刻TSに表示されると予測される表示内容を表示する。よって、移動通信端末1が激しいぶれや高速移動などをしていても、次に表示される情報を事前に得られるとともに、追従表示にかかる処理負荷を抑えることができる。
(2)さらに、本発明に係る移動通信端末(情報表示装置)1は、自装置の現在位置に応じた追従表示情報を生成する追従表示情報生成部(追従表示情報生成手段)781をさらに備え、上記表示制御部(表示制御手段)71は、上記運動パターン照合部(運動パターン照合手段)751の判定の結果、自装置の運動が上記周期的反復パターンに合致していないとき、上記追従表示情報生成部(追従表示情報生成手段)781が生成した上記追従表示情報を上記表示部2に表示するように構成されていてもよい。
これにより、移動通信端末1は、現在の運動が運動パターンと一致しなくなったとき、追従表示に切替えることで、状況に応じた適切な情報を表示することができる。
(3)さらに、本発明に係る移動通信端末(情報表示装置)1は、自装置の運動を検出し、自装置の運動の周期的反復パターンを生成する運動パターンモデル生成部(運動パターン生成手段)70を備えて構成されていてもよい。
これにより、移動通信端末1は、自装置の現在の運動データから新たに運動パターンを検出し正規化することにより、事前に設定されている運動パターンのみでなく、移動通信端末1の使用状況に応じてさまざまな運動パターンを学習することで、さまざまな状況に対応した予測表示を行うことができる。
〔ソフトウェアによる実現例〕
最後に、移動通信端末1の制御部7の各ブロックは、集積回路(ICチップ)上に形成された論理回路によってハードウェア的に実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェア的に実現してもよい。
後者の場合、移動通信端末1は、各機能を実現するプログラムの命令を実行するCPU、上記プログラムを格納したROM(Read Only Memory)、上記プログラムを展開するRAM(Random Access Memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである移動通信端末1の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、移動通信端末1に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク類、ICカード(メモリカードを含む)/光カード等のカード類、マスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ類、あるいはPLD(Programmable logic device)やFPGA(Field Programmable Gate Array)等の論理回路類などを用いることができる。
また、移動通信端末1を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークは、プログラムコードを伝送可能であればよく、特に限定されない。例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成または種類のものに限定されない。例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL(Asymmetric Digital Subscriber Line)回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、IEEE802.11無線、HDR(High Data Rate)、NFC(Near Field Communication)、DLNA(Digital Living Network Alliance)、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
このように、本明細書においては、手段とは必ずしも物理的手段を意味せず、各手段の機能がソフトウェアによって実現される場合も含む。また、1つの手段の機能が2つ以上の物理的手段により実現されてもよいし、2つ以上の手段の機能が1つの物理的手段により実現されてもよい。
本発明は、自装置の位置の変化に応じて、表示部に表示する文字や画像を変化させる装置、特に、タブレット端末、携帯電話、スマートフォン等の携帯情報端末に好適に利用できる。
1 移動通信端末(情報表示装置)
2 表示部
61 GPS受信機(位置情報取得手段)
62 方位センサ(姿勢情報取得手段)
63 加速度センサ(運動情報取得手段)
70 運動パターンモデル生成部(運動パターン生成手段)
751 運動パターン照合部(運動パターン照合手段)
752 速度判定部(速度判定手段)
782 予測表示情報生成部(予測表示情報生成手段)
TSn 予測時刻
Vc 上限速度
−Vc 下限速度
Vk 端末の現在の移動速度
S204 運動パターン照合ステップ
S205 速度判定ステップ
S206 予測表示情報生成ステップ
S206,S207 表示制御ステップ

Claims (6)

  1. 位置の変化に応じて表示部に表示する内容を変化させる情報表示装置であって、
    自装置の運動が、所定の周期的反復パターンに合致するか否かを判定する運動パターン照合手段と、
    自装置の速度が、所定の上限速度と所定の下限速度との間である所定の範囲から外れているか否かを判定する速度判定手段と、
    上記周期的反復パターンに基づいて、自装置の速度が上記所定の範囲内となると予測される直近の予測時刻に表示されると予測される予測表示情報を生成する予測表示情報生成手段と、
    上記運動パターン照合手段の判定の結果、自装置の運動が上記周期的反復パターンに合致しており、かつ、上記速度判定手段の判定の結果、自装置の速度が上記所定の範囲から外れているとき、上記予測表示情報生成手段が生成した上記予測表示情報を上記表示部に表示する表示制御手段と、を備えることを特徴とする情報表示装置。
  2. 自装置の現在位置に応じた追従表示情報を生成する追従表示情報生成手段をさらに備え、
    上記表示制御手段は、上記運動パターン照合手段の判定の結果、自装置の運動が上記周期的反復パターンに合致していないとき、上記追従表示情報生成手段が生成した上記追従表示情報を上記表示部に表示することを特徴とする請求項1に記載の情報表示装置。
  3. 自装置の運動を検出し、自装置の運動の周期的反復パターンを生成する運動パターン生成手段を備えることを特徴とする請求項1または2に記載の情報表示装置。
  4. 位置の変化に応じて表示部に表示する内容を変化させる情報表示装置の制御方法であって、
    自装置の運動が、所定の周期的反復パターンに合致するか否かを判定する運動パターン照合ステップと、
    自装置の速度が、所定の上限速度と所定の下限速度との間である所定の範囲から外れているか否かを判定する速度判定ステップと、
    上記運動パターン照合ステップの判定の結果、自装置の運動が上記周期的反復パターンに合致しており、かつ、上記速度判定ステップの判定の結果、自装置の速度が上記所定の範囲から外れているとき、上記周期的反復パターンに基づいて、自装置の速度が上記所定の範囲内となると予測される直近の予測時刻に表示されると予測される予測表示情報を生成する予測表示情報生成ステップと、
    上記予測表示情報生成ステップにて生成した上記予測表示情報を上記表示部に表示する表示制御ステップと、を含むことを特徴とする情報表示装置の制御方法。
  5. 請求項1から3のいずれか1項に記載の情報表示装置の上記各手段としてコンピュータを機能させるための制御プログラム。
  6. 請求項5に記載の制御プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2011289928A 2011-12-28 2011-12-28 情報表示装置、情報表示装置の制御方法、制御プログラム、制御プログラムを記録したコンピュータ読み取り可能な記録媒体 Pending JP2013140223A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011289928A JP2013140223A (ja) 2011-12-28 2011-12-28 情報表示装置、情報表示装置の制御方法、制御プログラム、制御プログラムを記録したコンピュータ読み取り可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011289928A JP2013140223A (ja) 2011-12-28 2011-12-28 情報表示装置、情報表示装置の制御方法、制御プログラム、制御プログラムを記録したコンピュータ読み取り可能な記録媒体

Publications (1)

Publication Number Publication Date
JP2013140223A true JP2013140223A (ja) 2013-07-18

Family

ID=49037714

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011289928A Pending JP2013140223A (ja) 2011-12-28 2011-12-28 情報表示装置、情報表示装置の制御方法、制御プログラム、制御プログラムを記録したコンピュータ読み取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP2013140223A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016143326A (ja) * 2015-02-04 2016-08-08 株式会社デンソー 画像表示制御装置、電子ミラーシステム及び画像表示制御プログラム
JP2017079400A (ja) * 2015-10-20 2017-04-27 キヤノン株式会社 表示システム、情報処理方法及びプログラム
JP2018136400A (ja) * 2017-02-21 2018-08-30 京セラ株式会社 表示装置、表示方法、制御装置および車両

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016143326A (ja) * 2015-02-04 2016-08-08 株式会社デンソー 画像表示制御装置、電子ミラーシステム及び画像表示制御プログラム
JP2017079400A (ja) * 2015-10-20 2017-04-27 キヤノン株式会社 表示システム、情報処理方法及びプログラム
JP2018136400A (ja) * 2017-02-21 2018-08-30 京セラ株式会社 表示装置、表示方法、制御装置および車両

Similar Documents

Publication Publication Date Title
CN110058694B (zh) 视线追踪模型训练的方法、视线追踪的方法及装置
KR101477442B1 (ko) 모바일 디바이스에서 제스처-기반의 사용자 입력 검출을 위한 방법들 및 장치들
CN109712224B (zh) 虚拟场景的渲染方法、装置及智能设备
US9983687B1 (en) Gesture-controlled augmented reality experience using a mobile communications device
CN107707817B (zh) 一种视频拍摄方法及移动终端
US20160321843A1 (en) Display control device, display control method, and program
CN107982918B (zh) 游戏对局结果的展示方法、装置及终端
KR102565711B1 (ko) 관점 회전 방법 및 장치, 디바이스 및 저장 매체
US20140118398A1 (en) Apparatus and method for augmented reality
CN109040524B (zh) 伪影消除方法、装置、存储介质及终端
CN107087137B (zh) 呈现视频的方法和装置及终端设备
CN107438812B (zh) 信息处理设备、信息处理方法和程序
US10635892B2 (en) Display control method and apparatus
CN111147743B (zh) 摄像头控制方法及电子设备
CN108881721B (zh) 一种显示方法及终端
US11029753B2 (en) Human computer interaction system and human computer interaction method
JP2022188192A (ja) 頭部装着型ディスプレイ装置、頭部装着型ディスプレイ装置の制御方法
CN113703519A (zh) 折叠屏姿态确定方法、装置及存储介质
JP2013140223A (ja) 情報表示装置、情報表示装置の制御方法、制御プログラム、制御プログラムを記録したコンピュータ読み取り可能な記録媒体
CN111031246A (zh) 拍摄方法及电子设备
CN108196701B (zh) 确定姿态的方法、装置及vr设备
US20180059811A1 (en) Display control device, display control method, and recording medium
CN112822398B (zh) 拍摄方法、装置和电子设备
CN114201028B (zh) 扩增实境***与其锚定显示虚拟对象的方法
US20210295049A1 (en) Information processing apparatus, information processing method, and program