JP2010224665A - 光触覚変換システム、及び触覚フィードバックの提供方法 - Google Patents

光触覚変換システム、及び触覚フィードバックの提供方法 Download PDF

Info

Publication number
JP2010224665A
JP2010224665A JP2009068632A JP2009068632A JP2010224665A JP 2010224665 A JP2010224665 A JP 2010224665A JP 2009068632 A JP2009068632 A JP 2009068632A JP 2009068632 A JP2009068632 A JP 2009068632A JP 2010224665 A JP2010224665 A JP 2010224665A
Authority
JP
Japan
Prior art keywords
light emission
light
vibration
emission pattern
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009068632A
Other languages
English (en)
Inventor
Junichi Rekimoto
純一 暦本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009068632A priority Critical patent/JP2010224665A/ja
Priority to EP09252845A priority patent/EP2230581A2/en
Priority to US12/721,235 priority patent/US8456448B2/en
Priority to CN201010134057.2A priority patent/CN101840288B/zh
Publication of JP2010224665A publication Critical patent/JP2010224665A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】高速かつ正確に触覚フィードバックを与えることが可能な光触覚変換システムを提供すること。
【解決手段】複数の照射領域に異なる発光パターンで同時に光を照射することが可能な発光部と、前記発光部を制御して画像を投影させると共に、投影画像の画素単位で前記発光パターンを制御して所定の照射領域に所定の発光パターンで光を照射させる発光制御部と、を有する、光照射装置と、前記光照射装置から受光した光の発光パターンを検知する発光パターン検知部と、前記発光パターン検知部により検知された発光パターンに対応する振動パターンを生成し、当該振動パターンで振動子を振動させる振動制御部と、を有する、振動装置と、を含む、光触覚変換システムが提供される。
【選択図】図6

Description

本発明は、光触覚変換システム、及び触覚フィードバックの提供方法に関する。
近年、パーソナルコンピュータ(以下、PC)や種々の電子機器等(以下、PC等)の操作インターフェースをより直感的で操作性の高いものへと進化させるため、鋭意研究が進められている。PC等の操作インターフェースには、多くの場合、マウスやキーボードのような物理的な入力デバイスと、画面上に表示されるグラフィカルユーザインターフェース(以下、GUI)とが併用して用いられる。また、小型の電子機器においては、操作インターフェースとしてタッチパネルが多く採用されている。タッチパネルを用いると、画面上に表示されたGUIを指等で直接操作しているかのような操作感が得られるため、非常に直感的で操作性の高い操作インターフェースが実現される。
但し、GUIのボタンを押下しても画面の形状が変形しないため、現実世界でボタンを押下した際にユーザが体感するような触覚的なフィードバックを得ることはできない。しかし、擬似的にユーザに対して触覚的なフィードバック(以下、触覚フィードバック)を与えることは可能である。例えば、下記の非特許文献1、2には、ユーザ操作に応じてタッチパネルに振動を与え、擬似的な触覚フィードバックを発生させる技術が開示されている。同文献1に記載の技術は、タッチパネルに対してヴォイスコイルにより振動を与える技術に関する。一方、同文献2に記載の技術は、積層セラミックで形成された振動子によりタッチパネルに振動を発生させる技術に関する。
さらに、最近では3次元的なユーザの動きに対してフォースフィードバックを与える技術が開発されている。例えば、下記の非特許文献3、4には、ストリングやメカニカルな機構を用いてユーザの身体やペン等の操作体(以下、操作体等)を拘束し、ユーザ操作に応じて操作体等の拘束力を制御することで力覚を発生させる技術が開示されている。より具体的に述べると、同文献4に記載の技術は、メカニカルな機構を利用して操作体等の位置を測定し、その測定結果に応じてフォースフィードバックを発生させるというものである。例えば、仮想的な立方体を設定しておき、その立方体の内部に操作体等が入ろうとした際に斥力フィードバックを発生させるといった制御が行われる。
M.Fukumoto,T.Sugimura,AcCve click: tacCle feedback for touch panels, proc. of ACM SIGCHI 2001, Pages:121−122,ISBN:1‐58113‐340‐5,2001 I.Poupyrev, S.Maruyama, J.Rekimoto, Ambient touch: designing tacCle interfaces for handheld devices,Proceedings of the 15th annual ACM symposium on User interface soUware and technology table of contents,pp.51‐60, 2002 http://sklab−www.pi.titech.ac.jp/frame_index−j.html http://www.vrealiCes.com/phantomomni.html
しかしながら、上記の文献1、2に記載の方法では、ユーザがタッチパネル等に対して物理的に接触している必要がある。そのため、触覚フィードバックを受けることが可能な領域がタッチパネル等の2次元平面上に制限されてしまう。また、上記の文献3、4に記載の方法では、フォースフィードバックを受けることが可能な領域がストリングやメカニカルな機構の可動範囲に制限されてしまう。さらに、上記各文献に記載の方法を用いる場合、フィードバックを発生させるか否か、どのようなフィードバックを発生させるかを判断するために操作体等の位置を測定する必要がある。そのため、操作体等の位置を測定するための測定時間が発生し、操作体等の移動とフィードバックの発生とにタイムラグが生じてしまう。その結果、フィードバックの効果が損なわれたり、設定された仮想的な形状とは異なる誤った形状がユーザに伝達されてしまう。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、フィードバックを受けることが可能な範囲の制限を緩和すると共に、より正確かつ高速にフィードバックを与えることが可能な、新規かつ改良された光触覚変換システム、及び触覚フィードバックの提供方法を提供することにある。
上記課題を解決するために、本発明のある観点によれば、複数の照射領域に異なる発光パターンで同時に光を照射することが可能な発光部と、前記発光部を制御して画像を投影させると共に、投影画像の画素単位で前記発光パターンを制御して所定の照射領域に所定の発光パターンで光を照射させる発光制御部と、を有する、光照射装置と、前記光照射装置から受光した光の発光パターンを検知する発光パターン検知部と、前記発光パターン検知部により検知された発光パターンに対応する振動パターンを生成し、当該振動パターンで振動子を振動させる振動制御部と、を有する、振動装置と、を含む、光触覚変換システムが提供される。
また、前記振動制御部は、所定の振動量で前記振動子を振動させるための駆動信号を前記発光パターン検知部で検知された発光パターンに同期して発信するように構成されていてもよい。
また、前記発光制御部は、所定の符号を表す所定の発光パターンを用いて前記所定の照射領域に前記所定の発光パターンで光を照射させるように前記発光部を制御するように構成されていてもよい。さらに、前記振動制御部は、前記発光パターン検知部で検知された発光パターンに対応する前記所定の符号を再生し、当該所定の符号に対応する所定の振動パターンで前記振動子を振動させるように構成されていてもよい。
また、前記発光制御部は、前記投影画像の各画素が持つ色彩に応じて当該色彩毎に異なる所定の発光パターンで光を照射させるように構成されていてもよい。
また、前記光照射装置は、光の照射方向が異なる第1及び第2の前記発光部を有していてもよい。この場合、前記発光制御部は、前記第1及び第2の発光部を制御して所定の対象領域に所定の発光パターンで光を照射させる。また、前記発光パターン検知部は、前記光照射装置が有する前記第1及び第2の発光部から発せられた光の発光パターンをそれぞれ検知する。そして、前記振動制御部は、前記第1の発光部が発した光の発光パターンと前記第2の発光部が発した光の発光パターンとの組み合わせに対して予め対応付けられた振動パターンで前記振動子を振動させる。
また、前記発光制御部は、前記第1及び第2の発光部を制御し、所定の符号を表す所定の発光パターンを用いて前記所定の照射領域に前記所定の発光パターンで光を照射させるように構成されていてもよい。この場合、前記振動制御部は、前記発光パターン検知部で検知された前記第1及び第2の発光部が発した各発光パターンに対応する前記所定の符号を各々再生し、当該所定の符号の組み合わせに対応する所定の振動パターンで前記振動子を振動させる。
また、前記発光部は、光を射出する光源と、前記投影画像の画素毎に設けられ、前記光源から射出された光をレンズに導光することが可能な複数のミラーと、前記各ミラーの向きを制御するミラー制御部と、を含んでいてもよい。この場合、前記ミラー制御部は、前記発光制御部による制御に応じて前記各ミラーの向きを変化させることにより、前記投影画像の画素単位で前記発光パターンを制御する。
また、上記課題を解決するために、本発明の別の観点によれば、複数の照射領域に異なる発光パターンで同時に光を照射することが可能な発光部を制御して画像を投影させると共に、投影画像の画素単位で前記発光パターンを制御して所定の照射領域に所定の発光パターンで光を照射させる発光制御ステップと、前記発光制御ステップによる制御を受けて発光された光を受光する受光ステップと、前記受光ステップで受光した光の発光パターンを検知する発光パターン検知ステップと、前記発光パターン検知ステップで検知された発光パターンに対応する振動パターンを生成し、当該振動パターンで振動子を振動させる振動制御ステップと、を含む、触覚フィードバックの提供方法が提供される。
以上説明したように本発明によれば、フィードバックを受けることが可能な範囲の制限を緩和すると共に、より正確かつ高速にフィードバックを与えることが可能になる。
本発明の第1実施形態に係る光触覚変換システムの一構成例を示す説明図である。 同実施形態に係るプロジェクタによる発光制御方法の一例を示す説明図である。 同実施形態に係るプロジェクタによる発光制御方法の一例を示す説明図である。 同実施形態に係る振動装置の装置構成例を示す説明図である。 同実施形態に係る振動パターンの生成方法を示す説明図である。 同実施形態に係るプロジェクタ及び振動装置の機能構成例を示す説明図である。 同実施形態に係るフィードバック生成方法の一例を示す説明図である。 同実施形態に係る振動装置の一変形例を示す説明図である。 同実施形態に係る光触覚変換システムの一応用例を示す説明図である。 同実施形態に係る光触覚変換システムの一応用例を示す説明図である。 本発明の第2実施形態に係る振動パターンの生成方法を示す説明図である。 同実施形態に係るプロジェクタ及び振動装置の機能構成例を示す説明図である。 同実施形態に係るフィードバック生成方法の一例を示す説明図である。 本発明の第3実施形態に係る振動パターンの生成方法を示す説明図である。 同実施形態に係るプロジェクタ及び振動装置の機能構成例を示す説明図である。 同実施形態に係るフィードバック生成方法の一例を示す説明図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
[説明の流れについて]
ここで、以下に記載する本発明の実施形態に関する説明の流れについて簡単に述べる。まず、図1を参照しながら、本発明の第1実施形態に係る光触覚変換システム10の構成について説明する。この中で、図2、図3を参照しながら、同実施形態に係るプロジェクタ100による発光制御方法について説明する。さらに、図4を参照しながら、同実施形態に係る振動装置200の装置構成について説明する。
次いで、図5を参照しながら、同実施形態に係る振動パターンの生成方法について説明する。次いで、図6を参照しながら、同実施形態に係るプロジェクタ100、及び振動装置200の機能構成について説明する。次いで、図7を参照しながら、同実施形態に係る触覚フィードバックの生成方法について説明する。次いで、図8を参照しながら、同実施形態に係る振動装置200の一変形例について簡単に説明する。次いで、図9、図10を参照しながら、同実施形態に係る光触覚変換システム10の一応用例について説明する。
次いで、図11を参照しながら、本発明の第2実施形態に係る振動パターンの生成方法について説明する。次いで、図12を参照しながら、同実施形態に係るプロジェクタ100、及び振動装置200の機能構成について説明する。次いで、図13を参照しながら、同実施形態に係る触覚フィードバックの生成方法について説明する。次いで、図14を参照しながら、本発明の第3実施形態に係る振動パターンの生成方法について説明する。次いで、図15を参照しながら、同実施形態に係るプロジェクタ100、及び振動装置200の機能構成について説明する。次いで、図16を参照しながら、同実施形態に係る触覚フィードバックの生成方法について説明する。
(説明項目)
1:第1実施形態(発光パターンから直接的に振動パターンを生成する構成)
1−1:光触覚変換システム10の構成
1−2:振動パターンの生成方法
1−3:プロジェクタ100及び振動装置200の機能構成
1−4:フィードバック生成処理の全体的な流れ
1−5:応用例
1−5−1:振動装置200の変形例
1−5−2:光触覚変換システム10の利用形態
1−5−3:プロジェクタ100の変形例(3次元への拡張)
2:第2実施形態(コードブックを用いて振動パターンを生成する構成)
2−1:振動パターンの生成方法
2−2:プロジェクタ100及び振動装置200の機能構成
2−3:フィードバック生成処理の全体的な流れ
3:第3実施形態(発光パターンを位置情報として利用する構成)
3−1:振動パターンの生成方法
3−2:プロジェクタ100及び振動装置200の機能構成
3−3:フィードバック生成処理の全体的な流れ
4:まとめ
<1:第1実施形態>
まず、本発明の第1実施形態について説明する。本実施形態は、照射領域毎に異なる発光パターンで光を照射し、その照射光を光センサで受けて振動パターンに変換することにより照射領域毎に異なる触覚フィードバックを提供する方法に関する。特に、本実施形態は、発光パターンの波形をそのまま振動パターンに変換する方法に関する。
[1−1:光触覚変換システム10の構成]
まず、図1を参照しながら、本実施形態に係る光触覚変換システム10の構成について説明する。図1は、本実施形態に係る光触覚変換システム10の一構成例を示す説明図である。図1に示すように、光触覚変換システム10は、光を照射するプロジェクタ100、及びユーザの指5等に装着される振動装置200により構成される。但し、振動装置200の装着形態は図1に示す例に限定されない。
(プロジェクタ100について)
まず、プロジェクタ100について説明する。プロジェクタ100は、複数の照射領域に対して異なる発光パターンの光を照射する機能を有する。例えば、プロジェクタ100は、図1に示すように、照射領域A1に対して第1パターンの光L1を照射し、照射領域A2に対して第2パターンの光L2を照射することができる。なお、ここで言う発光パターンとは、光が明滅するタイミング及び発光時間を示す波形パターンのことである。このような機能は、例えば、DLP(Digital Light Processing)プロジェクタ(登録商標)により実現される。
DLPプロジェクタは、デジタルミラーデバイス(DMD)と呼ばれる画素毎に設けられたマイクロミラーの向きを制御し、光源から発せられた光がマイクロミラーを介してレンズに入射される時間を調節する機構を有する。このような機構により、DLPプロジェクタは、光源からレンズに入射する光の量を画素毎に制御して輝度や色彩を表現している。この機構を応用すると、画素毎に異なるタイミングで点滅する光をスクリーンに投影させることができる。つまり、上記のようなプロジェクタ100の機能を画素単位で実現することが可能になる。
例えば、図2に示すように、光の照射領域に複数の画素が存在する場合、プロジェクタ100は、画素単位で発光パターンを制御することにより、各画素に対して異なる発光パターンの光を照射することができる。図2の例では、第k番目の画素(#k;k=1,…,25)に対し、第k番目の発光パターン(第k発光パターン)で光が照射されている。このようにして画素毎に異なる発光パターンで光を照射することにより、受光した光の発光パターンから受光位置を特定することが可能になる。従って、光触覚変換システム10においては、メカニカルな機構を用いずに位置測定を行うことが可能である。
図2の例では画素毎に異なる発光パターンで光を照射する方法が示されていたが、光触覚変換システム10においては、照射領域に画像を投影することが可能である。そのため、プロジェクタ100は、画像を形成する各画素の色彩に応じた発光パターンで光を照射しつつ、照射領域に画像を投影することが可能である。各画素の輝度や色彩は、光の波長や単位時間当たりの発光強度に依存して決定される。つまり、単位時間に照射される光の量が同じであれば、単位時間内に明滅する回数やパターンが異なっていても実質的に同じ輝度が得られる。もちろん、光の波長と発光パターンとは無関係である。
従って、図3に示すように、複数の色彩を含む画像を照射領域に表示しつつ、色彩毎に割り当てられた発光パターンで照射領域に光を照射することができる。図2の例では画素の位置に対して個々に異なる発光パターンが割り当てられていたのに対し、図3の例では個々の色彩に対して異なる発光パターンが割り当てられている。このような構成にすると、画像の各部分を発光パターンの違いとして振動装置200に伝達することが可能になる。そのため、振動装置200において発光パターンの違いを振動パターンの違いとしてユーザに伝達することで画像の色彩に対応した触覚フォードバックを与えることができる。
図2、図3に例示したように、光触覚変換システム10においては、光により画素単位の受光位置や画像の色彩等を振動装置200に対して瞬時に伝達することができる。つまり、受光位置等を測定するためのタイムラグが生じない。そのため、非常に高い精度で伝達したい形状を早く正確にユーザに伝達することが可能になる。
(振動装置200について)
上記の通り、光触覚変換システム10では、プロジェクタ100により画素単位で位置情報等を伝達することが可能である。このような機能を活用するため、光触覚変換システム10では、発光パターンを振動パターンに変換する振動装置200が用いられる。振動装置200は、図4に示すように、光センサ202、振動子204、及びコントローラ206により構成される。光センサ202は、受光した光の強度を検出する手段である。光センサ202の機能は、例えば、フォトダイオード等により実現される。光センサ202で検出された光の強度を示すデータは、コントローラ206に入力される。
また、振動子204は、振動を発生させる手段である。振動子204は、コントローラ206に接続されており、コントローラ206から入力された駆動信号に応じて振動を発生させる。コントローラ206は、振動子204に駆動信号を入力して振動させる手段である。但し、コントローラ206は、光センサ202から入力された光の強度を示すデータに基づき、受光した光の発光パターンに同期して駆動信号を振動子204に入力する。そのため、振動子204は、光センサ202で受光した光の発光パターンと実質的に同じ振動パターンで振動することになる。
このような構成にすることで、振動装置200が照射領域に挿入された際、照射領域内で光を受光した位置を発光パターンにより特定することが可能になる。但し、上記のように、振動装置200は、発光パターンを直接的に振動パターンに変換してユーザの指5に伝達する動作を行うものである。従って、受光位置の違いは、ユーザが指5で感じる振動パターンの違いとして表される。例えば、図1に示すように、ユーザは、非照射領域A0から照射領域A1に指5を挿入すると光L1に対応する第1振動パターンを感じる。そのため、ユーザは、照射領域A1に指5が位置することを知覚することができる。同様に、ユーザは、照射領域A1から照射領域A2に指5を挿入すると、光L2に対応する第2振動パターンを感じて照射領域A2に指5が位置することを知覚することができる。
このように、本実施形態に係る光触覚変換システム10を用いると、高い精度(画素単位)で高速に受光位置等に応じた触覚フィードバックを提供することが可能になる。また、画像の色彩や形状に応じた発光パターンで当該画像を投影することにより、振動装置200を装着したユーザは、恰も実際に画像を指5で触っているかのような自然な触感を得ることが可能になる。以下、本実施形態に係る技術について、より詳細に説明する。
[1−2:振動パターンの生成方法]
まず、図5を参照しながら、本実施形態に係る振動パターンの生成方法について、より詳細に説明する。図5は、本実施形態に係る振動パターンの生成方法を示す説明図である。上記の通り、振動装置200は、発光パターンを振動パターンに変換して振動を発生させる。このとき、本実施形態に係る振動装置200は、図5に示すように、光センサ202で受光した光の発光パターンに同期した振動パターンを生成する。例えば、コントローラ206は、受光した光の強度が所定値以上の場合に振動子204に対して駆動振動を発信し、所定値以下の場合に駆動信号の発信を停止する。このようなコントローラ206による振動子204の駆動制御により発光パターンに同期した振動パターンが得られる。
[1−3:プロジェクタ100及び振動装置200の機能構成]
次に、図6を参照しながら、本実施形態に係るプロジェクタ100及び振動装置200の機能構成について、より詳細に説明する。図6は、本実施形態に係るプロジェクタ100、及び振動装置200の機能構成例を示す説明図である。なお、ここでは説明の都合上、図3に例示したように色彩毎に発光パターンが割り当てられるものとする。
(プロジェクタ100)
まず、プロジェクタ100の機能構成について説明する。図6に示すように、プロジェクタ100は、記憶部102、画像再生部104、発光パターン生成部106、駆動制御部108、及び光照射部110を有する。但し、記憶部102には、画像データ、及び、色彩の種類と所定の発光パターンとを対応付ける対応付け情報が格納されている。
まず、画像再生部104は、記憶部102から画像データを読み出す。そして、画像再生部104は、画像データに含まれる各画素の色彩を示す情報(以下、色彩情報)を発光パターン生成部106、及び駆動制御部108に入力する。発光パターン生成部106は、記憶部102から対応付け情報を読み出し、画像再生部104から入力された色彩情報に基づいて各画素の発光パターンを決定する。発光パターン生成部106で決定された画素毎の発光パターンは、駆動制御部108に入力される。
駆動制御部108は、光照射部110を駆動制御する手段である。例えば、プロジェクタ100がDLPプロジェクタである場合、駆動制御部108は、光照射部110に設けられたデジタルミラーデバイス等を制御し、画素毎に決定された発光パターンで照射領域に光を照射させる。なお、色彩を制御するためにカラーホイールが設けられている場合、駆動制御部108は、各画素の色彩を表現するためにカラーホイールの動作を制御する。また、駆動制御部108は、光照射部110に設けられた光源の発光強度を制御する。
これらの制御は、駆動制御部108から光照射部110に入力される制御信号に応じて実現される。光照射部110は、駆動制御部108から入力された制御信号に応じて画素毎に決定された発光パターンにより照射領域に画像を投影する。その結果、図3に例示したように、照射領域に画像が投影されると共に、照射領域に対して色彩毎に割り当てられた発光パターンで光が照射される。例えば、色彩#1の画素群に対しては第1発光パターンの光が照射され、色彩#2の画素群に対しては第2発光パターンの光が照射される。
(振動装置200)
次に、振動装置200の機能構成について説明する。図6に示すように、振動装置200は、光センサ202、振動子204、及びコントローラ206を有する。また、コントローラ206は、発光パターン検出部212、及び振動制御部214を含む。
振動装置200は、プロジェクタ100から発せられた光を光センサ202により受光する。光センサ202は、入射した光の強度を検出する手段である。光センサ202で検出された光の強度を示す情報は、発光パターン検出部212に入力される。発光パターン検出部212は、光センサ202から入力される受光強度の情報に基づいて受光した光の発光パターンを検出する。上記の通り、プロジェクタ100から発せられた光には色彩毎に発光パターンが割り当てられている。そのため、発光パターン検出部212は、受光時点で振動装置200が位置する照射領域に表示された画像の色彩に対応する発光パターンを検出することになる。
発光パターン検出部212で検出された発光パターンは、振動制御部214に入力される。振動制御部214は、発光パターン検出部212から入力された発光パターンに同期して振動子204を振動させる駆動信号を発信する。例えば、振動制御部214は、発光パターンの振幅が所定値以上の場合に振動子204に駆動信号を発信する。また、振動制御部214は、発光パターンの振幅が所定値未満の場合に駆動信号の発信を停止する。振動制御部214から駆動信号が入力されると、振動子204は、振動を発生させる。そのため、発光パターンに同期して振動が発生する。
このように、振動装置200は、発光パターンと実質的に同じ振動パターンで振動を発生させることができる。そのため、光センサ202で受けた光の発光パターンが異なると、その発光パターンに応じた異なる振動パターンの振動が発生する。上記の通り、プロジェクタ100から色彩毎に異なる発光パターンで光が照射されているため、異なる色彩の照射領域に振動装置200が進入すると、異なる振動パターンの振動が発生する。その結果、ユーザは、振動パターンの変化から照射領域に表示された画像の形状や色彩を触覚的に認識することができるようになる。また、メカニカルな機構を用いて位置測定する必要が無いため、正確かつ高速に触覚フィードバックを発生することが可能になる。
[1−4:フィードバック生成処理の全体的な流れ]
次に、図7を参照しながら、本実施形態に係る触覚フィードバックの生成処理に関し、その全体的な流れについて説明する。図7は、本実施形態に係る触覚フィードバックの生成処理の全体的な流れを示す説明図である。
図7に示すように、まず、プロジェクタ100において、画像再生部104により記憶部102から画像データが読み込まれる(S102)。そして、画像再生部104から発光パターン生成部106及び駆動制御部108に画像データに対応する各画素の色彩を示す情報が入力される。次いで、発光パターン生成部106により各画素の色彩に対応する発光パターンが画素毎に生成される(S104)。そして、発光パターン生成部106から駆動制御部108に対し、各画素に対応する発光パターンの情報が入力される。次いで、駆動制御部108による発光制御を受けて光照射部110により画像データが投影される(S106)。但し、画像データの各画素に対応する照射領域には、画素毎に生成された発光パターンを持つ光が照射される。
次に、振動装置200において、光センサ202によりプロジェクタ100から発せられた光が受光される(S108)。このとき受光される光は、各画素の色彩に対応して画素毎に割り当てられた発光パターンで発光されたものである。そこで、光センサ202で受光された光から発光パターン検出部212により発光パターンが検出される(S110)。そして、発光パターン検出部212で検出された発光パターンの情報は、振動制御部214に入力される。次いで、発光パターンの情報に基づいて振動制御部214により発光パターンに同期したタイミングで駆動信号が発信され、振動子204に入力される(S112)。そして、入力された駆動信号に応じて振動子204が振動を発生させる(S114)。
このようにして発光パターンに応じた振動がユーザに伝達されることで、画像データを構成する各画素の色彩に応じた触覚フィードバックがユーザに対して提供される。その結果、ユーザは、触覚フィードバックに基づいて照射領域に表示された画像の形状や色彩を認識することができるようになる。また、メカニカルな機構を用いて位置測定を行っていないため、正確かつ高速に触覚フィードバックを発生することが可能になる。
[1−5:応用例]
ここで、図8〜図10を参照しながら、本実施形態に係る光触覚変換システム10の応用例や変形例等について説明する。まず、図8を参照しながら、振動装置200の変形例について説明する。次いで、図9を参照しながら、光触覚変換システム10の応用例について説明する。次いで、図10を参照しながら、複数のプロジェクタ100を用いて3次元的な触覚フォードバックを提供する応用例について説明する。
(1−5−1:振動装置200の変形例)
まず、図8を参照する。これまでは振動装置200をユーザの指5に装着して用いる形態について説明してきた。しかし、振動装置200の外形的な構成はこれに限定されない。例えば、図8に示すように、箱形の筐体に光センサ202及び振動子204を設けてもよい。この場合、筐体内部にコントローラ206(非図示)が設けられる。なお、図8に例示した形態を採用する場合、各構成要素に関する設置の自由度が高まるため、複数の光センサ202を設けたり、演算能力やメモリ容量の面で優れたコントローラ206を設けたりすることができる。なお、図8の形態は一例であるが、この例のように振動装置200の外形的な構成を自由に変形することができる。例えば、カード型やスティック型に振動装置200を形成することも可能である。
(1−5−2:光触覚変換システム10の利用形態)
次に、図9を参照する。上記の通り、振動装置200の外形的な形態は様々に変形することが可能である。そのため、図9に示すように、振動装置200を医療器具に装着して利用する形態も考えられる。振動装置200を装着する医療器具としては、例えば、メスやカテーテルのような手術器具がある。手術の場面で用いる場合、例えば、超音波センサ等で体内の3次元形状を取得しておき、取得した3次元形状に基づいてメスが従うべき経路を触覚フィードバックで感知させるといった利用方法がある。この方法を用いることで、術者が触感で経路を感じながら手術を行うことができるようになる。また、この利用方法は、遠隔手術等にも応用することができる。
また、本実施形態に係る光触覚変換システム10の場合、投影画像の画素単位で異なる発光パターンを照射することができる。そのため、プロジェクタ100の光学系を制御することにより、照射領域のサイズを顕微鏡レベルまで絞り込むことができる。従って、顕微鏡サイズの精密な作業を行う際に、その作業を触覚フィードバックで支援するような利用形態にも本実施形態に係る光触覚変換システム10を適用することができる。逆に、照射領域のサイズを拡大することで、建造物のような大きな作業対象に対する作業支援にも適用することが可能である。また、スポーツ選手等に対する身体動作の支援を触覚フィードバックで実現することも考えられる。この場合、スポーツ選手等の身体全体を覆うように光が投影される。
なお、これまでは1台のプロジェクタ100を想定していたが、複数台のプロジェクタ100を並列に用いることで照射領域のサイズを更に拡大することもできる。また、複数台のプロジェクタ100を用いる場合、3次元への拡張を行うことが可能になる。以下、複数のプロジェクタ100を用いて3次元への拡張を行う方法について説明する。
(1−5−3:プロジェクタ100の変形例(3次元への拡張))
これまでは1台のプロジェクタ100を用いて2次元平面上に画像を投影しつつ、投影画像の画素単位で異なる発光パターンの光を照射する構成について説明してきた。この構成の場合、2次元平面上の位置を発光パターンにより表現することができる。また、2次元的な投影画像の各画素が持つ色彩の違いを発光パターンで表現することができる。しかし、3次元的な仮想物体を想定し、その仮想物体に接触しているかのような触覚フィードバックを与えるためには工夫をする必要がある。つまり、3次元の空間座標を発光パターンの違いで如何に表現するかという点が課題となる。
このような課題に対し、例えば、図10に示すように2台のプロジェクタ100A、100Bを用いる方法が考えられる。なお、プロジェクタ100A、100Bは、上記のプロジェクタ100と実質的に同じ機能構成を有するものである。また、プロジェクタ100A、100Bによる光の照射方向は相異なるものとする。このような構成にすると、プロジェクタ100Aから照射された光と、プロジェクタ100Bから照射された光とを用いて3次元的な位置を特定することが可能になる。例えば、プロジェクタ100Aから発せられた第1パターンの光L1Aと、プロジェクタ100Bから発せられた第1パターンの光L1Bとが交差する点CPは、光L1Aの発光パターンと光L1Bの発光パターンとの組み合わせにより特定される。
但し、このような3次元への拡張を行う場合、振動装置200には、プロジェクタ100A、100Bから発せられた光をそれぞれ受光する機構が必要になる。また、振動装置200においてプロジェクタ100A、100Bが発した光の発光パターンをそれぞれ検出し、その組み合わせに応じた振動パターンを生成する機構が必要になる。これらの点に関し、例えば、図6の機能構成において光センサ202や発光パターン検出部212を複数設けたり、振動制御部214の機能に工夫を凝らしたりすることが求められる。例えば、一方の発光パターンに同期したタイミングで、他方の発光パターンの振幅に応じた振動強度で振動子204を振動させるように振動制御部214の機能が変更される。また、後述する第2実施形態のようにコードブックを用いた振動制御方法に変更される。
上記の通り、本実施形態に係る光触覚変換システム10は、触覚フィードバックを生じさせる位置を光により伝達している。そのため、異なる振動を与えることが可能な解像度を上記のような様々なサイズに自由に変化させることができる。また、非常に高速にプロジェクタ100の側から振動装置200まで位置等の情報が伝達される。その結果、メカニカルな機構等で操作体等の位置検出を行う手法のような遅延が発生しない。このように、本実施形態に係る技術を適用することで、高速かつ高精度な位置センシングに基づく触覚フィードバックが提供され、広範な分野で様々な利用形態が実現される。
以上、本発明の第1実施形態について説明した。本実施形態は、発光パターンを振動子204の駆動信号として利用し、発光パターンに同期した振動パターンで振動を発生させる方法に関するものであった。この方法の場合、プロジェクタ100が持つ光の点滅制御機構に関する制約により振動パターンが制限されてしまう。そこで、後述する第2実施形態においては、より複雑な振動パターンを発生させることが可能な構成について述べる。なお、比較的単純な振動パターンの組み合わせで触覚フィードバックを実現する場合には上記の第1実施形態に係る方法で十分である。また、この方法の場合、振動装置200の構造が簡単なもので済むため、振動装置200の小型化や低コスト化に寄与する。
<2:第2実施形態>
次に、本発明の第2実施形態について説明する。本実施形態は、照射領域毎に異なる発光パターンで光を照射し、その照射光を光センサで受けて振動パターンに変換することにより照射領域毎に異なる触覚フィードバックを提供する方法に関する。特に、本実施形態は、発光パターンの波形を所定のコードとして解釈し、そのコードに対応した振動パターンの振動を提供する方法に関する。
[2−1:振動パターンの生成方法]
まず、図11を参照しながら、本実施形態に係る振動パターンの生成方法について、その概略を説明する。図11は、本実施形態に係る振動パターンの生成方法を示す説明図である。上記の通り、振動装置200は、発光パターンを振動パターンに変換して振動を発生させる。このとき、本実施形態に係る振動装置200は、図11に示すように、光センサ202で受光した光の発光パターンを所定のコード(1101001)として解釈する。また、振動装置200は、所定のコードと振動パターンとを対応付けるコードブックを参照し、発光パターンから得られた所定のコードに対応する振動パターンを生成する。例えば、コード1101001に対応する発光パターンの光を受光している間、周波数100Hzの振動が発生するように構成される。このような構成にすることで、光の点滅頻度と振動周波数とを無関係に制御することが可能になる。
[2−2:プロジェクタ100及び振動装置200の機能構成]
次に、図12を参照しながら、本実施形態に係るプロジェクタ100及び振動装置200の機能構成について、より詳細に説明する。図12は、本実施形態に係るプロジェクタ100、及び振動装置200の機能構成例を示す説明図である。なお、ここでは説明の都合上、図3に例示したように色彩毎に発光パターンが割り当てられるものとする。
(プロジェクタ100)
まず、プロジェクタ100の機能構成について説明する。図12に示すように、プロジェクタ100は、記憶部102、画像再生部104、発光パターン生成部106、駆動制御部108、及び光照射部110を有する。但し、記憶部102には、画像データ、及び、色彩の種類と所定の発光パターンとを対応付ける対応付け情報が格納されている。
まず、画像再生部104は、記憶部102から画像データを読み出す。そして、画像再生部104は、画像データに含まれる各画素の色彩を示す情報(色彩情報)を発光パターン生成部106、及び駆動制御部108に入力する。発光パターン生成部106は、記憶部102から対応付け情報を読み出し、画像再生部104から入力された色彩情報に基づいて各画素の発光パターンを決定する。発光パターン生成部106で決定された画素毎の発光パターンは、駆動制御部108に入力される。なお、上記の第1実施形態とは異なり、発光パターンの波形が振動パターンの波形に直接変換されるわけではない。そのため、発光パターン生成部106は、入力された色彩情報に対応する所定のコードを決定し、その所定のコードに対応する所定の発光パターンを駆動制御部108に入力する。
駆動制御部108は、光照射部110を駆動制御する手段である。例えば、プロジェクタ100がDLPプロジェクタである場合、駆動制御部108は、光照射部110に設けられたデジタルミラーデバイス等を制御し、画素毎に決定された発光パターンで照射領域に光を照射させる。なお、色彩を制御するためにカラーホイールが設けられている場合、駆動制御部108は、各画素の色彩を表現するためにカラーホイールの動作を制御する。また、駆動制御部108は、光照射部110に設けられた光源の発光強度を制御する。上記の通り、本実施形態においては、振動パターンの波形と同じ波形の発光パターンで発光する必要が無いため、高周波数の振動パターンを提供したい場合等においても、駆動制御部108、及び光照射部110の負担が小さくて済む。
(振動装置200)
次に、振動装置200の機能構成について説明する。図12に示すように、振動装置200は、光センサ202、振動子204、及びコントローラ206を有する。また、コントローラ206は、発光パターン検出部212、振動パターン生成部222、記憶部224、振動制御部226を含む。記憶部224には、発光パターンとコードとを対応付ける発光パターンコードブックと、コードと振動パターンとを対応付ける振動パターンコードブックとが格納されている。
振動装置200は、プロジェクタ100から発せられた光を光センサ202により受光する。光センサ202は、入射した光の強度を検出する手段である。光センサ202で検出された光の強度を示す情報は、発光パターン検出部212に入力される。発光パターン検出部212は、光センサ202から入力される受光強度の情報に基づいて受光した光の発光パターンを検出する。上記の通り、プロジェクタ100から発せられた光には色彩毎に所定のコードに対応する発光パターンが割り当てられている。そのため、発光パターン検出部212は、受光時点で振動装置200が位置する照射領域に表示された画像の色彩に対応する所定のコードを示す発光パターンを検出することになる。
発光パターン検出部212で検出された発光パターンは、振動パターン生成部222に入力される。振動パターン生成部222は、記憶部224に格納されている発光パターンコードブックを参照し、入力された発光パターンに対応する所定のコードを決定する。さらに、振動パターン生成部222は、振動パターンコードブックを参照し、決定した所定のコードに対応する振動パターンを生成する。振動パターン生成部222で生成された振動パターンの情報は、振動制御部226に入力される。振動制御部226は、振動パターン生成部222で生成された振動パターンに基づいて振動子204を振動させるための駆動信号を発信する。振動制御部214から駆動信号が入力されると、振動子204は、振動を発生させる。その結果、所定のコードに対応する振動パターンが発生する。
このように、振動装置200は、色彩毎に割り当てられた所定のコードに対応する振動パターンで振動を発生させることができる。また、所定のコードを介して発光パターンを振動パターンに変換しているため、複雑な振動パターンや高周波で振動する振動パターンを発生させる際にもプロジェクタ100に過度の負担を与えずに済む。また、図10のように3次元への拡張を行う場合、発光パターンを通じて2つのプロジェクタ100A、100Bから受信したコードの組み合わせから振動パターンを生成することが可能になり、より複雑な触覚フィードバックを提供することが可能になる。
[2−3:フィードバック生成処理の全体的な流れ]
次に、図13を参照しながら、本実施形態に係る触覚フィードバックの生成処理に関し、その全体的な流れについて説明する。図13は、本実施形態に係る触覚フィードバックの生成処理の全体的な流れを示す説明図である。
図13に示すように、まず、プロジェクタ100において、画像再生部104により記憶部102から画像データが読み込まれる(S202)。そして、画像再生部104から発光パターン生成部106及び駆動制御部108に画像データに対応する各画素の色彩を示す情報が入力される。次いで、発光パターン生成部106により、各画素の色彩に対応する所定のコードを示す発光パターンが画素毎に生成される(S204)。そして、発光パターン生成部106から駆動制御部108に対し、各画素に対応する発光パターンの情報が入力される。次いで、駆動制御部108による発光制御を受けて光照射部110により画像データが投影される(S206)。但し、画像データの各画素に対応する照射領域には、画素毎に生成された発光パターンを持つ光が照射される。
次に、振動装置200において、光センサ202によりプロジェクタ100から発せられた光が受光される(S208)。このとき受光される光は、各画素の色彩に対応して画素毎に割り当てられた所定のコードを示す発光パターンで発光されたものである。そこで、光センサ202で受光された光から発光パターン検出部212により発光パターンが検出される(S210)。そして、発光パターン検出部212で検出された発光パターンの情報は、振動パターン生成部222に入力される。
振動パターン生成部222では、記憶部224に格納された発光パターンコードブックに基づいて発光パターンから所定のコードが再生される。また、記憶部224に格納された振動パターンコードブックに基づいて所定のコードから発光パターンが生成される。振動パターン生成部222で生成された発光パターンの情報は、振動制御部226に入力される。次いで、振動制御部226により、振動パターン生成部222で生成された振動パターンで駆動信号が発信され、その駆動信号に応じて振動子204が振動し、ユーザに触覚フィードバックが提供される(S216)。
このように、色彩毎に割り当てられたコードが発光パターンを介して伝達され、そのコードに応じた振動がユーザに伝達されることで、画像データを構成する各画素の色彩に応じた触覚フィードバックがユーザに提供される。その結果、ユーザは、触覚フィードバックに基づいて照射領域に表示された画像の形状や色彩を認識することができるようになる。また、メカニカルな機構を用いて位置測定を行っていないため、正確かつ高速に触覚フィードバックを発生することが可能になる。
<3:第3実施形態>
次に、本発明の第3実施形態について説明する。本実施形態は、照射領域毎に異なる発光パターンで光を照射し、その照射光を光センサで受けて位置に応じた振動パターンに変換することにより照射領域毎に異なる触覚フィードバックを提供する方法に関する。特に、本実施形態は、照射領域の位置情報を発光パターンで伝達し、受光した光の発光パターンから検知される位置情報と投影画像データとに基づいて振動パターンを生成する方法に関する。つまり、上記の第1及び第2実施形態においては、プロジェクタ100の側で直接又は間接的に振動パターンを制御していたが、本実施形態に係るプロジェクタ100は振動パターンの制御を行わない構成としている。
[3−1:振動パターンの生成方法]
まず、図14を参照しながら、本実施形態に係る振動パターンの生成方法について、その概略を説明する。図14は、本実施形態に係る振動パターンの生成方法を示す説明図である。本実施形態に係る振動装置200は、図14に示すように、光センサ202で受光した光の発光パターンから位置情報を検出する。そのため、投影画像を形成する各画素に発光パターン(又は所定のコード)を割り当てておき、発光パターンから各画素の位置を特定できるようにしておく。このような所定の発光パターンで発光された光が振動装置200で受光されると、振動装置200は、受光した光の発光パターンから投影画像内の位置を検出する。さらに、振動装置200は、投影画像の画像データに基づき、検出した位置の画素が有する色彩を認識し、その色彩に対応する振動パターンを生成する。このような構成にすることで、各画素の色彩に対応した触感をユーザに提供することができる。
[3−2:プロジェクタ100及び振動装置200の機能構成]
次に、図15を参照しながら、本実施形態に係るプロジェクタ100及び振動装置200の機能構成について、より詳細に説明する。図15は、本実施形態に係るプロジェクタ100、及び振動装置200の機能構成例を示す説明図である。なお、ここでは説明の都合上、図3に例示したように色彩毎に発光パターンが割り当てられるものとする。
(プロジェクタ100)
まず、プロジェクタ100の機能構成について説明する。図15に示すように、プロジェクタ100は、駆動制御部108、及び光照射部110を有する。なお、駆動制御部108には、投影画像を形成する各画素の位置に対応した所定の発光パターンの情報が入力されているものとする。
上記の第1及び第2実施形態と同様に、駆動制御部108は、光照射部110を駆動制御する手段である。例えば、プロジェクタ100がDLPプロジェクタである場合、駆動制御部108は、光照射部110に設けられたデジタルミラーデバイス等を制御し、画素毎に決定された発光パターンで照射領域に光を照射させる。なお、色彩を制御するためにカラーホイールが設けられている場合、駆動制御部108は、各画素の色彩を表現するためにカラーホイールの動作を制御する。また、駆動制御部108は、光照射部110に設けられた光源の発光強度を制御する。但し、本実施形態の駆動制御部108は、予め設定された画素毎の発光パターンで光を発光するように光照射部110を制御する。従って、駆動制御部108は、画像データに応じて発光パターンを制御することはない。
(振動装置200)
次に、振動装置200の機能構成について説明する。図15に示すように、振動装置200は、光センサ202、振動子204、及びコントローラ206を有する。また、コントローラ206は、発光パターン検出部212、位置検知部232、振動パターン生成部234、通信部236、記憶部238、及び振動制御部240を含む。なお、通信部236には、所定の通信経路を経て、プロジェクタ100により投影される画像の画像データが入力される。また、記憶部224には、色彩と振動パターンとの対応関係を示す色彩・振動パターン対応付け情報が格納されている。
振動装置200は、プロジェクタ100から発せられた光を光センサ202により受光する。光センサ202は、入射した光の強度を検出する手段である。光センサ202で検出された光の強度を示す情報は、発光パターン検出部212に入力される。発光パターン検出部212は、光センサ202から入力される受光強度の情報に基づいて受光した光の発光パターンを検出する。発光パターン検出部212で検出された発光パターンは、位置検知部232に入力される。上記の通り、各発光パターンは、投影画像を形成する各画素の位置に対応付けられている。そのため、位置検知部232は、発光パターンの形状に基づいて投影画像内の位置を検知する。位置検知部232により検知された位置の情報は、振動パターン生成部234に入力される。
振動パターン生成部234には、通信部236が受信した画像データと、位置検知部232により検知された位置の情報とが入力される。まず、振動パターン生成部234は、位置情報に対応する画像データ内の画素を特定し、その画素の色彩を検出する。そして、振動パターン生成部234は、記憶部238に格納された色彩・振動パターン対応付け情報を参照し、検出した色彩に対応する振動パターンを生成する。振動パターン生成部234で生成された振動パターンは、振動制御部240に入力される。振動制御部240は、振動パターン生成部234で生成された振動パターンに基づいて駆動振動を発信し、振動子204を振動させる。その結果、投影画像の模様や色彩に対応した触覚フィードバックがユーザに提供される。
このように、振動装置200は、プロジェクタ100が発する光の発光パターンに基づいて位置検出を行い、色彩毎に割り当てられた振動パターンで振動を発生させることができる。また、図10のように3次元への拡張を行う場合、振動装置200は、2つのプロジェクタ100A、100Bから発せられた光の発光パターンに基づいて3次元的な位置を検出することができる。そのため、仮想的な3次元立体画像の各位置に対応する振動パターンでユーザに触感を提供することが可能になる。
[3−3:フィードバック生成処理の全体的な流れ]
次に、図16を参照しながら、本実施形態に係る触覚フィードバックの生成処理に関し、その全体的な流れについて説明する。図16は、本実施形態に係る触覚フィードバックの生成処理の全体的な流れを示す説明図である。
図16に示すように、まず、プロジェクタ100において、駆動制御部108による発光制御を受けて光照射部110により画像データが投影される(S302)。但し、画像データの各画素に対応する照射領域には、画素毎に予め割り当てられた所定の発光パターンを持つ光が照射される。次いで、振動装置200により、光センサ202によりプロジェクタ100から発せられた光が受光される(S304)。次いで、光センサ202で受光された光から発光パターン検出部212により発光パターンが検出される(S306)。そして、発光パターン検出部212で検出された発光パターンの情報は、位置検知部232に入力される。
次いで、位置検知部232により、入力された発光パターンから投影画像内の位置が検出される(S308)。そして、位置検知部232で検出された位置の情報は、振動パターン生成部234に入力される。次いで、通信部236を介して取得された画像データ、及び位置検知部232で検出された位置情報に基づき、振動パターン生成部234により振動パターンが生成される(S310)。このとき、振動パターン生成部234は、位置情報が示す画像データ内の画素を特定し、その画素の色彩を認識する。その後、振動パターン生成部234は、記憶部238に格納された色彩・振動パターン対応付け情報を参照し、認識した色彩に対応する振動パターンを生成する。
振動パターン生成部234で生成された発光パターンの情報は、振動制御部240に入力される。そして、振動制御部240により、振動パターン生成部234から入力された振動パターンで駆動信号が発信され、その駆動信号に応じて振動子204が振動し、ユーザに触覚フィードバックが提供される(S312)。
このように、投影画像内の位置を示す位置情報が発光パターンを介して伝達され、その位置情報が示す画素の色彩が認識され、その色彩に応じた振動パターンがユーザに伝達される。その結果、画像データを構成する各画素の色彩に応じた触覚フィードバックがユーザに提供される。このような構成にすることで、ユーザは、触覚フィードバックに基づいて照射領域に表示された画像の形状や色彩を認識することができるようになる。また、メカニカルな機構を用いて位置測定を行っていないため、正確かつ高速に触覚フィードバックを発生することが可能になる。
<4:まとめ>
最後に、上記の各実施形態に係る光触覚変換システムが有する機能構成と、当該機能構成により得られる作用効果について簡単に纏める。
まず、本実施形態に係る光触覚変換システムの機能構成は次のように表現することができる。当該光触覚変換システムは、光照射装置、及び振動装置により構成される。なお、当該光照射装置の機能は、上記のプロジェクタ100により実現可能である。また、当該振動装置の機能は、上記の振動装置200により実現可能である。
また、上記の光照射装置は、次のような発光部と、発光制御部とを有する。当該発光部は、複数の照射領域に異なる発光パターンで同時に光を照射することができる。例えば、当該発光部は、上記のプロジェクタ100のように投影画像の画素毎に異なる発光パターンで光を照射することができる。また、上記の発光制御部は、前記発光部を制御して画像を投影させると共に、投影画像の画素単位で前記発光パターンを制御して所定の照射領域に所定の発光パターンで光を照射させるものである。このような構成を有することで、所定の照射領域には所定の発光パターンの光が照射されることになる。
さらに、上記の振動装置は、次のような発光パターン検知部と、振動制御部とを有する。当該発光パターン検知部は、前記光照射装置から受光した光の発光パターンを検知するものである。また、当該振動制御部は、前記発光パターン検知部により検知された発光パターンに対応する振動パターンを生成し、当該振動パターンで振動子を振動させるものである。上記のように、所定の照射領域には所定の発光パターンの光が照射されている。そのため、振動装置が所定の照射領域に入ると、所定の発光パターンの光を受光することになる。そこで、上記の振動装置は、発光パターン検知部により、受光した光の発光パターンを検知し、その発光パターンに対応する振動パターンで振動子を振動させる。このような構成にすることで、振動子の振動パターンを感知したユーザは、その振動パターンの種類から所定の照射領域に振動装置が位置していることを認識することが可能になる。
また、前記振動制御部は、所定の振動量で前記振動子を振動させるための駆動信号を前記発光パターン検知部で検知された発光パターンに同期して発信するように構成されていてもよい。このような構成にすると、発光パターンの波形と実質的に同じ波形の振動パターンで振動子を振動させることが可能になる。つまり、光照射装置の側で振動パターンを制御することが可能になる。そのため、振動装置の側では振動パターンを制御する回路等が不要になり、振動装置を小型化することができるようになる。また、振動装置の装置構成が簡単化されることで振動装置の低コスト化や軽量化に寄与する。
また、前記発光制御部は、所定の符号を表す所定の発光パターンを用いて前記所定の照射領域に前記所定の発光パターンで光を照射させるように前記発光部を制御するように構成されていてもよい。この場合、前記振動制御部は、前記発光パターン検知部で検知された発光パターンに対応する前記所定の符号を再生し、当該所定の符号に対応する所定の振動パターンで前記振動子を振動させるように構成される。
このように、発光パターンを用いて所定の符号を伝達し、その符号に基づいて振動パターンを生成させることで、光照射装置の発光機構に振動パターンの形状や特性が制約されずに済むようになる。例えば、非常に高周波又は低周波の振動パターンを生成したい場合や複雑な振動パターンを生成したい場合、光照射装置が持つ発光機構の性能によっては実現できない場合がある。しかし、上記の構成を適用し、所定の符号を用いることで発光パターンの波形と振動パターンの波形との間に直接的な関係が無くなり、光照射装置の性能とは無関係に振動パターンを設定できるようになる。
また、前記発光制御部は、前記投影画像の各画素が持つ色彩に応じて当該色彩毎に異なる所定の発光パターンで光を照射させるように構成されていてもよい。このような構成にすることで、ユーザが投影画像に触れた感触を振動によりフィードバックすることができるようになる。例えば、ピアノの鍵盤を投影画像として表示しておき、ユーザが鍵盤に触れると音程毎に異なる触感が与えられるように構成することができる。なお、触感と共に音声や視覚的な効果が付与されるように構成されていてもよい。
また、前記光照射装置は、光の照射方向が異なる第1及び第2の前記発光部を有していてもよい。この場合、前記発光制御部は、前記第1及び第2の発光部を制御して所定の対象領域に所定の発光パターンで光を照射させる。また、前記発光パターン検知部は、前記光照射装置が有する前記第1及び第2の発光部から発せられた光の発光パターンをそれぞれ検知する。そして、前記振動制御部は、前記第1の発光部が発した光の発光パターンと前記第2の発光部が発した光の発光パターンとの組み合わせに対して予め対応付けられた振動パターンで前記振動子を振動させる。このような構成にすることで、仮想的な3次元画像を対象として触覚フィードバックを発生させることが可能になる。
また、前記発光制御部は、前記第1及び第2の発光部を制御し、所定の符号を表す所定の発光パターンを用いて前記所定の照射領域に前記所定の発光パターンで光を照射させるように構成されていてもよい。この場合、前記振動制御部は、前記発光パターン検知部で検知された前記第1及び第2の発光部が発した各発光パターンに対応する前記所定の符号を各々再生し、当該所定の符号の組み合わせに対応する所定の振動パターンで前記振動子を振動させる。このような構成にすることで、仮想的な3次元画像を対象として触覚フィードバックを発生させる際に、より複雑な振動パターンを発生させることが可能になる。
また、前記発光部は、光を射出する光源と、前記投影画像の画素毎に設けられ、前記光源から射出された光をレンズに導光することが可能な複数のミラーと、前記各ミラーの向きを制御するミラー制御部と、を含んでいてもよい。この場合、前記ミラー制御部は、前記発光制御部による制御に応じて前記各ミラーの向きを変化させることにより、前記投影画像の画素単位で前記発光パターンを制御する。このような装置構成を有する光照射装置を用いることで、投影画像の画素単位で発光パターンを制御することが可能になる。
(備考)
上記のプロジェクタ100は、光照射装置の一例である。また、上記の光照射部110は、発光部の一例である。さらに、上記の駆動制御部108は、発光制御部の一例である。また、上記の発光パターン検出部212は、発光パターン検知部の一例である。さらに、上記の振動パターン生成部222、234、振動制御部214、226、240は、振動制御部の一例である。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、プロジェクタ100に代えて複数のLED(Light Emitting Diode)で構成されるLEDアレイを用いることができる。なお、上記の実施形態においては、主に2次元又は3次元画像の形状や色彩を触感できるように触覚フィードバックを提供する技術が提案された。しかし、これらの技術を館内案内システムに応用することもできる。例えば、LED光源の点滅パターンを利用し、ユーザが正しい経路が移動している場合に振動装置200に所定の振動パターンを与えるような構成にすることもできる。逆に、誤った経路で移動した場合に所定の振動パターンを与えるような構成にすることも可能である。
5 指
10 光触覚変換システム
100、100A、100B プロジェクタ
102 記憶部
104 画像再生部
106 発光パターン生成部
108 駆動制御部
110 光照射部
200 振動装置
202 光センサ
204 振動子
206 コントローラ
212 発光パターン検出部
214 振動制御部
222 振動パターン生成部
224 記憶部
226 振動制御部
232 位置検知部
234 振動パターン生成部
236 通信部
238 記憶部
240 振動制御部

Claims (8)

  1. 複数の照射領域に異なる発光パターンで同時に光を照射することが可能な発光部と、
    前記発光部を制御して画像を投影させると共に、投影画像の画素単位で前記発光パターンを制御して所定の照射領域に所定の発光パターンで光を照射させる発光制御部と、
    を有する、光照射装置と;
    前記光照射装置から受光した光の発光パターンを検知する発光パターン検知部と、
    前記発光パターン検知部により検知された発光パターンに対応する振動パターンを生成し、当該振動パターンで振動子を振動させる振動制御部と、
    を有する、振動装置と;
    を含む、光触覚変換システム。
  2. 前記振動制御部は、所定の振動量で前記振動子を振動させるための駆動信号を前記発光パターン検知部で検知された発光パターンに同期して発信する、請求項1に記載の光触覚変換システム。
  3. 前記発光制御部は、所定の符号を表す所定の発光パターンを用いて前記所定の照射領域に前記所定の発光パターンで光を照射させるように前記発光部を制御し、
    前記振動制御部は、前記発光パターン検知部で検知された発光パターンに対応する前記所定の符号を再生し、当該所定の符号に対応する所定の振動パターンで前記振動子を振動させる、請求項1に記載の光触覚変換システム。
  4. 前記発光制御部は、前記投影画像の各画素が持つ色彩に応じて当該色彩毎に異なる所定の発光パターンで光を照射させる、請求項2又は3に記載の光触覚変換システム。
  5. 前記光照射装置は、光の照射方向が異なる第1及び第2の前記発光部を有し、
    前記発光制御部は、前記第1及び第2の発光部を制御して所定の対象領域に所定の発光パターンで光を照射させ、
    前記発光パターン検知部は、前記光照射装置が有する前記第1及び第2の発光部から発せられた光の発光パターンをそれぞれ検知し、
    前記振動制御部は、前記第1の発光部が発した光の発光パターンと前記第2の発光部が発した光の発光パターンとの組み合わせに対して予め対応付けられた振動パターンで前記振動子を振動させる、請求項1に記載の光触覚変換システム。
  6. 前記発光制御部は、前記第1及び第2の発光部を制御し、所定の符号を表す所定の発光パターンを用いて前記所定の照射領域に前記所定の発光パターンで光を照射させ、
    前記振動制御部は、前記発光パターン検知部で検知された前記第1及び第2の発光部が発した各発光パターンに対応する前記所定の符号を各々再生し、当該所定の符号の組み合わせに対応する所定の振動パターンで前記振動子を振動させる、請求項5に記載の光触覚変換システム。
  7. 前記発光部は、
    光を射出する光源と、
    前記投影画像の画素毎に設けられ、前記光源から射出された光をレンズに導光することが可能な複数のミラーと、
    前記各ミラーの向きを制御するミラー制御部と、
    を含み、
    前記ミラー制御部は、前記発光制御部による制御に応じて前記各ミラーの向きを変化させることにより、前記投影画像の画素単位で前記発光パターンを制御する、請求項1に記載の光触覚変換システム。
  8. 複数の照射領域に異なる発光パターンで同時に光を照射することが可能な発光手段を制御して画像を投影させると共に、投影画像の画素単位で前記発光パターンを制御して所定の照射領域に所定の発光パターンで光を照射させる発光制御ステップと、
    前記発光制御ステップによる制御を受けて発光された光を受光する受光ステップと、
    前記受光ステップで受光した光の発光パターンを検知する発光パターン検知ステップと、
    前記発光パターン検知ステップで検知された発光パターンに対応する振動パターンを生成し、当該振動パターンで振動子を振動させる振動制御ステップと、
    を含む、触覚フィードバックの提供方法。
JP2009068632A 2009-03-19 2009-03-19 光触覚変換システム、及び触覚フィードバックの提供方法 Withdrawn JP2010224665A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009068632A JP2010224665A (ja) 2009-03-19 2009-03-19 光触覚変換システム、及び触覚フィードバックの提供方法
EP09252845A EP2230581A2 (en) 2009-03-19 2009-12-21 Tactility conversion system, and method for providing tactile feedback
US12/721,235 US8456448B2 (en) 2009-03-19 2010-03-10 Light-tactility conversion system, and method for providing tactile feedback
CN201010134057.2A CN101840288B (zh) 2009-03-19 2010-03-12 光-触觉转换***和用于提供触觉反馈的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009068632A JP2010224665A (ja) 2009-03-19 2009-03-19 光触覚変換システム、及び触覚フィードバックの提供方法

Publications (1)

Publication Number Publication Date
JP2010224665A true JP2010224665A (ja) 2010-10-07

Family

ID=42199894

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009068632A Withdrawn JP2010224665A (ja) 2009-03-19 2009-03-19 光触覚変換システム、及び触覚フィードバックの提供方法

Country Status (4)

Country Link
US (1) US8456448B2 (ja)
EP (1) EP2230581A2 (ja)
JP (1) JP2010224665A (ja)
CN (1) CN101840288B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015115076A (ja) * 2013-12-13 2015-06-22 イマージョン コーポレーションImmersion Corporation 触覚ディスプレイパラメータの光学的伝送のためのシステム及び方法
JP2017033335A (ja) * 2015-08-03 2017-02-09 日本電信電話株式会社 牽引力発生装置
JP2017211974A (ja) * 2016-05-25 2017-11-30 富士ゼロックス株式会社 ユーザの指を追跡するシステム、方法及びプログラム

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105049566A (zh) 2010-12-27 2015-11-11 罗姆股份有限公司 呼入通话单元
JP5783352B2 (ja) 2011-02-25 2015-09-24 株式会社ファインウェル 会話システム、会話システム用指輪、携帯電話用指輪、指輪型携帯電話、及び、音声聴取方法
US9696804B2 (en) 2011-12-23 2017-07-04 Pine Development Corporation Systems and methods for eliciting cutaneous sensations by electromagnetic radiation
US8574280B2 (en) * 2011-12-23 2013-11-05 Pine Development Corporation Systems and methods for eliciting cutaneous sensations by electromagnetic radiation
CN103314347A (zh) * 2012-01-17 2013-09-18 松下电器产业株式会社 电子设备
TWI666910B (zh) 2012-01-20 2019-07-21 日商精良股份有限公司 mobile phone
KR20180061399A (ko) 2012-06-29 2018-06-07 로무 가부시키가이샤 스테레오 이어폰
US9257021B2 (en) 2013-04-12 2016-02-09 Pine Development Corporation Systems and methods for optically induced cutaneous sensation
WO2015003103A1 (en) 2013-07-02 2015-01-08 Pine Development Corporation Systems and methods for eliciting cutaneous sensations using electromagnetic radiation
EP3038330B1 (en) 2013-08-23 2020-05-06 FINEWELL Co., Ltd. Portable telephone
EP3062491B1 (en) * 2013-10-24 2019-02-20 FINEWELL Co., Ltd. Bracelet-type transmission/reception device and bracelet-type notification device
US9875019B2 (en) * 2013-12-26 2018-01-23 Visteon Global Technologies, Inc. Indicating a transition from gesture based inputs to touch surfaces
US9449477B2 (en) 2014-04-02 2016-09-20 Pine Development Corporation Applications of systems and methods for eliciting cutaneous sensations by electromagnetic radiation
JP6551919B2 (ja) 2014-08-20 2019-07-31 株式会社ファインウェル 見守りシステム、見守り検知装置および見守り通報装置
CN107113481B (zh) 2014-12-18 2019-06-28 株式会社精好 利用电磁型振动单元的软骨传导接听装置及电磁型振动单元
WO2017010547A1 (ja) 2015-07-15 2017-01-19 ローム株式会社 ロボットおよびロボットシステム
JP6551929B2 (ja) 2015-09-16 2019-07-31 株式会社ファインウェル 受話機能を有する腕時計
US10778824B2 (en) 2016-01-19 2020-09-15 Finewell Co., Ltd. Pen-type handset
JP6796806B2 (ja) * 2017-06-30 2020-12-09 パナソニックIpマネジメント株式会社 表示システム、情報提示システム、表示システムの制御方法、プログラム、及び移動体
JP2020053948A (ja) 2018-09-28 2020-04-02 株式会社ファインウェル 聴取装置
CN110147161B (zh) * 2019-03-29 2022-04-15 东南大学 基于超声波相控阵的多指绳索力触觉反馈装置及其反馈方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9105799D0 (en) * 1991-03-19 1991-06-12 Lucas Ind Plc Vibrating sensor
JPH07261920A (ja) * 1994-03-17 1995-10-13 Wacom Co Ltd 光学式位置検出装置および光学式座標入力装置
JP3543695B2 (ja) * 1999-03-17 2004-07-14 富士ゼロックス株式会社 駆動力発生装置
US6535201B1 (en) * 1999-12-17 2003-03-18 International Business Machines Corporation Method and system for three-dimensional topographical modeling
DE60135861D1 (de) * 2000-08-31 2008-10-30 Toudai Tlo Ltd Optischer tastsensor
US6943774B2 (en) * 2001-04-02 2005-09-13 Matsushita Electric Industrial Co., Ltd. Portable communication terminal, information display device, control input device and control input method
US6636202B2 (en) * 2001-04-27 2003-10-21 International Business Machines Corporation Interactive tactile display for computer screen
JP3953752B2 (ja) * 2001-06-19 2007-08-08 株式会社ケンウッド 光音響変換装置の振動板構造
US6795191B2 (en) * 2002-01-04 2004-09-21 Freescale Semiconductor, Inc. Ultrasonically assisted optical media sensor system
US7508382B2 (en) * 2004-04-28 2009-03-24 Fuji Xerox Co., Ltd. Force-feedback stylus and applications to freeform ink
JP2006011646A (ja) * 2004-06-23 2006-01-12 Pioneer Electronic Corp 触覚表示装置及び触覚表示機能付タッチパネル装置
JP2007086990A (ja) * 2005-09-21 2007-04-05 Smk Corp タッチパネル
EP1930800A1 (en) * 2006-12-05 2008-06-11 Electronics and Telecommunications Research Institute Tactile and visual display device
US20090002328A1 (en) * 2007-06-26 2009-01-01 Immersion Corporation, A Delaware Corporation Method and apparatus for multi-touch tactile touch panel actuator mechanisms
JP4453732B2 (ja) 2007-09-14 2010-04-21 株式会社デンソー 電磁弁

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015115076A (ja) * 2013-12-13 2015-06-22 イマージョン コーポレーションImmersion Corporation 触覚ディスプレイパラメータの光学的伝送のためのシステム及び方法
JP2017033335A (ja) * 2015-08-03 2017-02-09 日本電信電話株式会社 牽引力発生装置
JP2017211974A (ja) * 2016-05-25 2017-11-30 富士ゼロックス株式会社 ユーザの指を追跡するシステム、方法及びプログラム

Also Published As

Publication number Publication date
US8456448B2 (en) 2013-06-04
US20100238108A1 (en) 2010-09-23
CN101840288B (zh) 2013-01-02
EP2230581A2 (en) 2010-09-22
CN101840288A (zh) 2010-09-22

Similar Documents

Publication Publication Date Title
JP2010224665A (ja) 光触覚変換システム、及び触覚フィードバックの提供方法
US20180181203A1 (en) Method and Apparatus for Providing Tactile Sensations
US11402903B1 (en) Fiducial rings in virtual reality
CN110832441B (zh) 用于虚拟、增强和混合现实显示***的键盘
KR100946680B1 (ko) 개선된 무선제어장치
EP2524289B1 (en) Controlling and/or operating a medical device by means of a light pointer
US8614669B2 (en) Touchless tablet method and system thereof
US20190018567A1 (en) Input device for vr/ar applications
JP3968477B2 (ja) 情報入力装置及び情報入力方法
JP5598490B2 (ja) 演奏装置、方法及びプログラム
JP2006163886A (ja) 情報入力方法及び情報入力装置
US10490174B2 (en) Electronic musical instrument and control method
JP2011216088A (ja) タッチ検出投影像を有する投影システム
AU2014217524A1 (en) Flexible room controls
JP2002091692A (ja) ポインティングシステム
WO2017222858A1 (en) Integrated free space and surface input device
JP2019075096A (ja) 複数の周辺機器によるハプティック効果
JP2013084096A (ja) 情報処理装置
JP2008047047A (ja) 入力装置及び方法、並びにプログラム及び記憶媒体
KR101437424B1 (ko) 사용자 인터랙션 시스템 및 방법
Rekimoto SenseableRays: opto-haptic substitution for touch-enhanced interactive spaces
De Pra et al. Infrared vs. ultrasonic finger detection on a virtual piano keyboard
JP4687820B2 (ja) 情報入力装置及び情報入力方法
JP2007200353A (ja) 情報処理装置及び情報処理方法
TW201243333A (en) Operation controlling system

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20120605