JP4769342B2 - 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体 - Google Patents

触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体 Download PDF

Info

Publication number
JP4769342B2
JP4769342B2 JP2011510195A JP2011510195A JP4769342B2 JP 4769342 B2 JP4769342 B2 JP 4769342B2 JP 2011510195 A JP2011510195 A JP 2011510195A JP 2011510195 A JP2011510195 A JP 2011510195A JP 4769342 B2 JP4769342 B2 JP 4769342B2
Authority
JP
Japan
Prior art keywords
waveform
contact
vibration
finger pad
derived
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011510195A
Other languages
English (en)
Other versions
JPWO2011027535A1 (ja
Inventor
純幸 沖本
秀人 本村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2011510195A priority Critical patent/JP4769342B2/ja
Application granted granted Critical
Publication of JP4769342B2 publication Critical patent/JP4769342B2/ja
Publication of JPWO2011027535A1 publication Critical patent/JPWO2011027535A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、ヒトが対象物に触れて感じる感覚のうち、特に対象物表面の素材や形状の影響を受けて感じる触感を擬似的に再現する技術に関する。
近年の視聴覚技術の発展と、ネットワーク技術の発展およびそのインフラの広まりにより、映像(視覚情報)および音響(聴覚情報)は、かなり高い現実感を持って遠隔地に伝達することが可能になってきた。今後は、さらに現実感・臨場感を高めたコミュニケーションの実現が求められるようになると考えられる。そのため、視聴覚技術のさらなる向上だけではなく、視覚、聴覚以外の情報、すなわち触覚、嗅覚などの伝達、再現技術への要求が高まってくるものと予想される。中でも触覚は、ヒトが対象物に触れた時に感じる感覚であるため、極めて日常的な感覚であり、高い臨場感を出すためには非常に重要な感覚であると言える。
ヒトが対象物に触れた時に感じる感覚には、熱い、冷たいなどの温冷覚、圧力や応力として対象物の固さや形状を知覚する力覚、「ふんわり」、「ざらざら」など対象物表面の素材や形状の影響を受けて素材感を感じる触覚など、幾つかの感覚に分類することができる。その中で力覚と触覚は、皮膚下に存在するマイスナー小体、メルケル細胞、パチニ小体、ルフィニ終末と呼ばれる4つの機械的受容器が関与していることが知られている(非特許文献1)。さらに近年の研究により、これらの機械受容器は、皮膚と対象物の接触によって生じる圧力や振動を歪エネルギー密度分布の変化として知覚していることが判っている(非特許文献2、3)。これらのことから、アクチュエータ等を触感再現器として用いて圧力や振動などの機械的刺激を皮膚表面に与えて、上記機械受容器を刺激することで触感再現器の素材の触感とは異なる触感を知覚させ得ることが、幾多の先行研究で示されてきた。
例えば特許文献1では、凹凸を持った対象物に触れた場合当該対象物の凹凸の法線方向の反力が指腹表面に加わることに着目し、呈示する反力の方向を制御することで対象物表面の凹凸を擬似的に知覚させる方法が開示されている。すなわち、再現したい対象物表面の凹凸情報に合わせてあらかじめ微少区間ごとの法線ベクトルを求めておき、この法線ベクトルに応じた反力を力トランスデューサで発生することで、凹凸面の接触感を再現している。このように反力の呈示など力の再現に基づくものは、主として固さや形状などを知覚する力覚の再現を行っていると言える。
一方、ヒトが対象物の素材感を触れることによって感じようとする場合、指で「こする」という動作をする。これは「こする」ことに伴って発生する指表面の摩擦振動を、指皮膚下の機械受容器で捉えて触感として知覚するためであると考えられる。したがって振動刺激を皮膚面に呈示することは、特に触覚の再現に有効である。
このような考えに立った先行研究例として、例えば特許文献2では、電磁コイルを有した微少なアクチュエータを多数用いて触感を呈示する触感呈示方法が開示されている。微少アクチュエータは2mm程度の微少な間隔で並べて手掌に押し当てられる。個々のアクチュエータに適切に制御された異なった位相の駆動電流を流すことで、押し当て部位に複数種類の触感が知覚されることが実験的に確かめられている。
同様に非特許文献4では、「ICPFアクチュエータ」と呼ばれるイオン導電性高分子ゲルを繊毛状にして2次元に配置し、これに振動電圧を印加することで振動刺激を指腹面に呈示する方法が示されている。本先行例では印加する振動電圧として2種類の周波数の信号の合成波を用いており、それぞれの周波数の組み合わせを変えることで複数の布地に近い触感が知覚されることが心理実験により確かめられている。
これらの例では、触感再現器を駆動する信号と触感の関係は実験的に求められているに過ぎないが、特定の触感を再現するための触感再現信号をいかに合成するかについても様々な発明がなされている。たとえば特許文献3では、対象物との接触によって得たセンサ信号からテーブルを参照して触感再現信号を合成し、対象物の触感を呈示する方法が開示されている。テーブルには、触覚再現信号を決定するパラメータである波形周期、振幅、立ち上がり・立ち下り時間など、再現する触感に固有なパラメータが格納されており、これをもとに触感再現信号が合成される。
また特許文献4では、基本形となる触感再現信号を複数種類事前に求めておく方法が開示されている。これは、表面形状が類似する対象物どうしでは、接触によって発生する反力の振動波形が類似したものになることに着目したものである。対象物の触感再現信号を生成する際には、いずれの基本再現信号を用いるか決定し、対象物の表面形状などの差異に応じて基準信号を変形させて触感再現信号とする。
さらに特許文献5では、センサによって取得した力の振動波形から代表的な周波数、振幅の波を抽出して分解し、これをヒトの触感知覚特性に合わせて変形して再合成することで、触感再現信号とする方法が開示されている。
特開2000−47567号公報(第8−9頁、図8、9) 特開平11−150794号公報(第3−5頁、図1) 特開平9−155785号公報(第3−4頁、図1) 特開2001−306200号公報(第6頁、図10) 特開2006−58973号公報(第9−11頁、図11)
岩村、「タッチ」 、 医学書院、 pp26−28、 pp208−211、 (2001) Srinivasan M.A., Dandekar K., "An Investigation of the Mechanics of Tactile Sense Using Two−Dimensional Models of the Primate Fingertip", Trans. ASME, J. Biomech. Eng., 118, (1996), pp48−55. 小林、前野、「ヒトの指腹部構造と触覚受容器位置の力学的関係(第2報, 動的接触解析手法および移動する平面と指の接触解析結果)」、機械学会論文集64−628、C編、 (1998) 、pp4798−4805. 昆陽、田所、高森、小黒、徳田、「高分子ゲルアクチュエータを用いた布の手触り感覚を呈示する触感ディスプレイ」、TVRSJ, Vol.6, No.4, (2001), pp323−328.
しかしながら、従来の技術では、触覚再現可能な対象物が限定的であり、また、再現される触感の種類が限定的で不自然であった。
触覚再現信号の合成は一般に大きく2つのステップからなる。すなわち、再現対象である対象物をセンシングして素材情報を取得するステップ1、および、センシング結果を元に再現信号を合成するステップ2である。図1は、触覚再現信号を合成するための2つのステップ1および2を具体的に示している。ステップ2では、事前に求めておいた情報とステップ1で取得した再現対象物に関わる情報のみから再現信号の合成をする。従ってこれ以外の情報を必要とする対象物の触感再現はできないことになる。
例えば特許文献3では、触感再現信号を合成するために、触感再現信号を決定するパラメータが格納されたテーブルを参照している。このような方法を採る場合、ステップ1の対象物のセンシングで得た結果に該当する項目がテーブルに存在しないと、触感再現信号は合成できないことになる。
同様に特許文献4でも、基準となる触感再現信号を事前に用意しており、この基準信号の範囲に収まらない対象物については触感再現信号を合成することができない。この結果、事前に準備された対象物の触感しか再現できないことになり、触感再現可能な対象物が限定されることになる。
また触覚再現信号の合成に関しては、大きく2つのアプローチに分けられる。1つは、物理的知見、あるいはヒトの触感知覚特性に関する知見に基づいてあらかじめ信号合成のためのモデルを構築しておき、ステップ1で取得した対象物の情報からパラメータを設定して、信号合成するものである。もう1つは、センサから得た時間波形信号を整形して触感再現信号とする方法である。
前者の例として、例えば特許文献3では、ボイスコイルモータの振動で触感を再現するために、その振動周期、振幅、立ち上がり、立ち下がり時間といったパラメータを、対象物のセンシング結果から決定する。しかし2つの素材がこすり合わされてどのような摩擦振動が発生するか、あらゆる素材の組み合わせについて完全に記述できるモデルは未だ発見されていない。またヒトが、例えば「ふんわり感」や「ざらざら感」を知覚するのは、各触覚受容器のどのような発火パタンが組み合わさることによるものか、あるいは皮膚表面のどのような振動によるものかといったことについても、未だ十分な知見は得られていない。
このような中にあっては、モデルに基づいて合成した触覚再現信号によって、ヒトが様々な素材から感ずる多種多様な触感が再現できるとは考えにくい。とりわけ特許文献3ではアクチュエータの振動の周波数は単一周波数であるため、再現される触感は限定的であると考えられる。
一方、センサから得た信号波形を整形する後者のアプローチでは、触感再現器によって皮膚表面に呈示する振動刺激を、対象物と皮膚が実際にこすり合わされた時に生起する摩擦振動といかに類似させるかという点が重要である。2つの素材をこすり合わせる時、一方の素材が共通であっても、もう一方が異なる素材であると異なる摩擦振動が発生することから、センサと対象物のこすり合わせで発生する振動と、皮膚と対象物のこすり合わせで発生する振動は異なったものになる。したがって後者のアプローチを採る場合、このような振動波形の変化を考慮した信号変形が必要であると言える。その意味で特許文献5では、グローブの指先に取り付けられた力検出センサや加速度センサで時間波形信号を取得し、これをヒトの触覚感度特性に合わせて加工しているが、グローブの振動特性と指弾性体の振動特性が異なることに着目した処理は行っておらず、先に述べた理由により現実感のある触感を伝えることはできないと考えられる。
本発明は上記課題を解決するためになされたなされたものであり、その目的は、様々な対象物に触れた時にヒトが感じる多種多様な触感を再現することである。
本発明による触感再現システムは、対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去する除去部と、ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳する重畳部と、前記指腹部起因の振動波形が重畳された第1の接触子起因波形に基づいて振動刺激を呈示する再現部とを備えている。
前記接触子起因の振動波形は、前記対象物の物理計測量、および、接触子と前記対象物との接触動きに基づいて決定され、前記指腹部起因の振動波形は、前記物理計測量および前記接触動きに基づいて決定されてもよい。
前記接触動きは、前記接触子と前記対象物の相対速度に基づいて定まってもよい。
前記接触動きは、前記接触子の前記対象物への押し付け荷重に基づいて定まってもよい。
前記接触子起因の振動波形は、前記接触子と前記対象物による摩擦振動波形に含まれてもよい。
前記指腹部起因の振動波形は、指腹と前記対象物による摩擦振動波形に含まれる、パワーピークに基づいて決定されてもよい。
前記接触子起因の振動波形は、接触子で複数の対象物をなぞって得られる複数の摩擦振動波形の中で、パワーピークが所定範囲内に属する摩擦振動波形の数に基づき決定されてもよい。
前記指腹部起因の振動波形は、指腹で複数の対象物をなぞって得られる複数の摩擦振動波形の中で、パワーピークが所定範囲内に属する摩擦振動波形の数に基づき決定されてもよい。
前記第1の接触子起因波形、および、前記第2の接触子起因波形は周波数とパワーとの関係を示すパワースペクトルで表され、前記接触子起因の振動波形は、前記第1の接触子起因波形のパワースペクトルおよび前記第2の接触子起因波形のパワースペクトルに共通する波形成分であってもよい。
前記第1の指腹部起因波形および前記第2の指腹部起因波形は、周波数とパワーとの関係を示すパワースペクトルで表され、前記指腹部起因の振動波形は、前記第1の指腹部起因波形のパワースペクトルおよび前記第2の指腹部起因波形のパワースペクトルに共通する波形成分であってもよい。
本発明による触感再現方法は、対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去するステップと、ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳するステップと、前記指腹部起因の振動波形が重畳された第1の接触子起因波形に基づいて振動刺激を呈示するステップとを包含する。
本発明によるコンピュータプログラムは、コンピュータによって実行されることにより、前記コンピュータに対し、対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去するステップと、ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳するステップと、記指腹部起因の振動波形が重畳された第1の接触子起因波形に基づいて振動刺激を呈示するステップとを実行させる。
本発明による記録媒体は、上述のコンピュータプログラムを記録した記録媒体であってもよい。
本発明による他の触感再現システムは、対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去する除去部と、ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳する重畳部とを備えている。
本発明の触感再現装置によれば、接触子で対象物をなぞって得た情報と、事前に求めておいた接触子と指腹に関する情報から、指腹で対象物をなぞった時に指腹部に生起する摩擦振動を模擬する触感再現信号を合成することが可能になるため、再現可能な対象物が限定されることなく、自然な触感を再現することができる。
触覚再現信号を合成するための2つのステップ1および2を具体的に示す図である。 実施形態1による触感再現装置1のブロック図である。 摩擦振動取得部203の具体例を示す図である。 図3の弾性体で発生した摩擦力による振動波形の例を示す図である。 摩擦振動のパワースペクトルの一例を示す図である。 摩擦振動取得部203および接触動き取得部204に対応する機能を備えたXYZ3次元プロッタ501の構成例を示す図である。 パワーピーク抽出の処理手順を示すフローチャートである。 同一の接触子および同一の接触動きに対して複数の対象物から取得した摩擦振動の周波数解析結果の例を示す図である。 接触子起因ピーク格納部207への格納例を示す図である。 (a)および(b)は、指腹部の表面振動を推定する方法の一例を示す図である。 なぞり器101構成例を示す図である。 接触子起因振動除去部210によるパワーピークの除去処理の手順を示すフローチャートである。 除去されたパワーピーク123を示すパワースペクトルを示す図である。 パワースペクトル131と、重畳されたパワーピーク132およびパワーピーク133を示す図である。 実施形態2による触感再現装置2のブロック図を示す図である。 接触子起因ピーク格納部1406の格納テーブルの例を示す図である。 実施形態3による触感再現装置3のブロック図である。 実施形態4による触感再現システム4のブロック図である。
本発明は、指腹部で対象物をなぞった時に指腹部表面に発生する摩擦振動と同じ振動を再現することで、任意の素材に触った時の触感を再現することを目的としている。
各実施形態の説明に先立って、触感を再現することが可能であるとする本発明の動作原理を述べる。
2つの素材がこすり合わされて発生する摩擦振動は、こすり合わされる2つの素材M1、M2と、そのこすり合わせ方、すなわち接触動きmvで決まると考えられるため、F(M1,M2,mv)という形で表現することが可能である。この時、対象物Tの触感を再現するために接触子Mpでこすり合わせて得た摩擦振動をFp(T,Mp,mv1)、指腹面に呈示すべき摩擦振動をFf(T,Mf,mv2)と表現する(ただし、Mfは指腹の素材項を表すとする)。
本発明の目的は、FpからFfを求めることであるが、素材M1、M2と接触動きmvは摩擦振動に関して非線形に絡んでおり容易に解くことはできない。しかしながらFpにおける接触動きmv1とFfにおける接触動きmv2が同一であるとすると、Fp、Ffに関して異なるのは素材項の一つであるMpとMfの違いのみとなるので、この条件の下で解くことを考える。このmv1=mv2という条件の持つ意味は、接触子で対象物をなぞった時の接触動きと指腹に呈示する摩擦振動の接触動きが同じということを意味する。つまり触感再現器に触れた指腹に伝わる触感は、接触子で対象物をなぞった時と全く同じ接触動きを指腹で行った時に知覚される触感と同じになる。この条件を満たすため、触感再現器に触れた指腹は触感再現器上で停止していることが望ましい。一般に体の一部を対象物に当て能動的に動かして触感を知覚することを能動触と呼ぶのに対して、逆に対象物が動くことで触感を知覚することを受動触と呼ぶ。本願は主として受動触による触感再現を目指している。
素材項のMp、Mfの違いによる摩擦振動Fp、Ffの違いを補正する問題を考える。ある系に対して時刻0に時間幅0、エネルギー無限大の信号(インパルス)を入力した際の系の出力をh(t)とした場合、任意の時間波形信号x(t)を系に入力した際の出力y(t)は、次式の畳み込みと呼ばれる演算で求まる。
Figure 0004769342
この両辺x(t)、y(t)、h(t)のそれぞれのフーリエ変換をX(f)、Y(f)、H(f)とすると、数1の両辺をフーリエ変換したものは、下記数2に示されるように単純な積の形になる。
Figure 0004769342
つまり時間波形信号の系への入出力関係が、周波数空間では積という形で表現できることを意味する。系の特性を示す項H(f)は伝達特性と呼ばれる。このような関係を利用して、たとえば音声の収録環境の特性を補償して目的とする特性の音声を出力するシステムなどが考案・実用化されている。この方法の基本的な考え方は、収録環境の伝達特性をH(f)、目的とする音声の伝達特性をG(f)とすれば、下記数3で求まる伝達特性Hr(f)を収録音声に掛け合わせるというものである。
Figure 0004769342
本願は、このような考え方を摩擦振動に適用する。すなわち、対象物と接触子による摩擦振動の周波数空間表現をVp(f)として、これが仮想的な信号源S(f)が対象物と接触子で決まる伝達特性H(f)を持つ系を経た出力であるとみなす。ここでS(f)が仮想的というのは、等価的に信号源と伝達系H(f)の積で表現するという意味である。摩擦振動はこすり合わされる2つの素材によって生じるものであるが、摩擦振動を起こす独立な信号源というものは存在しないためである。この場合、以下のように記述することができる。
Figure 0004769342
ただしここでは、仮想的な伝達特性であるH(f)が接触子と対象物それぞれに独立な仮想的な伝達特性の積とみなすことができると仮定して、それぞれをHp(f)、Hm(f)とする。さらに信号源S(f)を白色雑音と考えると定数項となるので、これを対象物の伝達特性側に掛け合わせると、数4は以下のように記述できる。
Figure 0004769342
上記の関係は、指腹部と対象物のこすり合わせによって生じる摩擦振動Vf(f)についても同様に成り立ち、下記数6のようになる。
Figure 0004769342
よって指腹部と対象物のこすり合わせによる振動は、次のように求めることができる。
Figure 0004769342
すなわち、あらかじめ接触子の仮想的な伝達特性Hf(f)と指腹の仮想的な伝達特性Hp(f)が求まっていれば、接触子でなぞった摩擦振動Vp(f)から、指腹でなぞった摩擦振動Vf(f)が求まる。
次に、数5および数6で表された摩擦振動に関する接触子および指腹部の仮想的な伝達特性Hp(f)、Hf(f)の算出について検討する。
音響工学などで伝達特性を求める際には、一般には単位インパルス応答など、基準信号に対する系の応答を求めて算出する。しかし摩擦振動においては、基準信号あるいは基準素材と呼べるものは存在しないため、上記のような一般的な方法は使えず一般解を求めることはできない。
ところで摩擦振動発生のメカニズムについては未だ完全には解明されていないが、大きく2つの要因が挙げられている(「クーロン摩擦モデルに基づくStick−Slip運動の発生条件式(第1報)」、中野、菊池、トライポロジスト、Vol. 51、(2006)、 pp131−139。以下、「非特許文献5」と記述する)。1つは、摩擦係数の相対速度特性が負勾配を示すとき、摩擦特性が負減衰として作用することにより発生すると考えられており、物質の固有振動数に近い振動となる。もう1つは、相対面の固着とすべりが反復することにより発生するStick−Slip運動と呼ばれているもので、静止摩擦係数と動摩擦係数の差により生ずると考えられている。
従ってこれらの振動は、特定の周波数にパワーピークを持ち、かつそのパワーピークは固有振動数など物質により決まる周波数に現れるものであると考えることができる。これらのパワーピークは機械力学的モデルと、素材に関する詳細な物理計測とにより、ある程度予測することができるが、破壊検査を含むような厳密な測定環境を必要とする。そのため、触感を再現するための対象物の測定手段としてはもう少し簡便な手段が求められる。また数4において、摩擦振動の伝達特性は2つの物質に固有な伝達特性の積に分解可能であると仮定したが、これは前述したように接触動きを規定した下で成り立つと考える。例えば非特許文献5で示されているStick−Slip運動の運動周期についても、これを決定する重要なパラメータの中に2物体の相対速度と垂直荷重を意味する項が含まれている。これらは接触動きを規定するパラメータであるので、接触動きはHp(f)、Hf(f)の導出に必須のパラメータであるといえる。一方非特許文献4での実験でも示されている通り、単純な2つの周波数の振動の合成波だけでも複数種類の触感を感じることができる。このことから、伝達特性Hp(f)、Hf(f)すなわち周波数ごとのパワースペクトルを求めて振動波形を変形させるほどの高精細な方法でなくとも、パワーの強い周波数の分布を再現するだけでも一定レベルの触感再現は可能であると考える。以上のことを踏まえ、上述の伝達特性の考え方による触感再現の近似的解法として次の方針(1)〜(4)を立てる。(1)Hp(f)、Hf(f)を求めるために、接触動きを考慮する。(2)様々な対象物とのこすり合わせによって得られた複数の摩擦振動Vp(f)、Vf(f)をそれぞれ用いて、統計的にHp(f)、Hf(f)を求める。(3)触感再現においては、全ての周波数におけるパワースペクトルが判明していなくても特徴的なパワーピークが再現されればよい。(4)パワーピーク条件をより明確にするため、測定可能な物理的計測量も活用する。
本実施形態では上記方針に則って、パワーピークの集合によって伝達関数Hp(f)、Hf(f)を代用するものとして触感再現を行う。
以下、添付の図面を参照しながら、本発明による触感再現装置の実施形態を説明する。
(実施形態1)
本発明による基本的な機能を実現するものとして、本実施形態では、接触子による摩擦振動の発生パタンを事前に学習しておくことで、どんな素材に触ったときの触感もヒトの指腹に呈示可能な、信号変換、摩擦振動発生方法を説明する。
図2は、本実施形態による触感再現装置1のブロック図を示す。触感再現装置1は大きく2つの構成要素を有している。具体的には、パワーピーク学習部201および触感再現実行部202である。
パワーピーク学習部201は、こすり合わせによる摩擦振動を等価的に信号源と伝達系の積と考える数5、数6に従い、Hp(f)およびHf(f)に対応するパラメータを、学習によって求める。ここでHp(f)とは、接触子と対象物がこすり合わされた時に発生する摩擦振動のうち、対象物に非依存で接触子に起因して表れる振動成分である。本実施形態1では接触子起因で表れるパワーピーク、すなわち接触子起因ピークで、Hp(f)を近似する。同様にHf(f)は、指腹部と対象物がこすり合わされて発生する摩擦振動のうち、対象物に非依存で指腹部に起因して表れる振動成分で、これを指腹部起因で表れるパワーピークすなわち指腹部起因ピークで近似する。なお、ここでパワーピークとは、摩擦振動のパワースペクトルにおいて、素材の固有振動に伴う共振と考えられるような特定の条件を満たしたパワーの極大点を意味する。(図8の破線で囲った楕円部分参照)。学習部201を用いてこれらパラメータを求めるステップを、以下では「学習ステップ」と呼ぶ。
触感再現実行部202は、触感再現したい対象物を接触子でなぞって得た摩擦振動と、パワーピーク学習部201で求めた接触子および指腹部のパワーピーク情報を元に、数7の考え方に基づいて指腹部の摩擦振動を合成し呈示する。以下ではこれを用いた処理ステップを「実行ステップ」と呼ぶことにする。
パワーピーク学習部201は、摩擦振動取得部203と、接触動き取得部204と、周波数解析部205と、パワーピーク判別部206と、接触子起因ピーク格納部207と、指腹部起因ピーク格納部208とを備えている。
なお、図2では、パワーピーク学習部201および触感再現実行部202が一部重複している。これは、重複部分の接触子起因ピーク格納部207および指腹部起因ピーク格納部208が、物理的にはパワーピーク学習部201および触感再現実行部202のいずれか一方に含まれていればよいことを意味している。ここでは、接触子起因ピーク格納部207および指腹部起因ピーク格納部208は、物理的にはパワーピーク学習部201に含まれているとしている。なお、接触子起因ピーク格納部207および指腹部起因ピーク格納部208は、触感再現実行時には、ピークの除去・重畳のために触感再現実行部202に必要になる。
以下、パワーピーク学習部201の各構成要素の機能を説明しながら、パワーピーク学習部201による学習ステップの大まかな処理の流れを説明する。
摩擦振動取得部203は、対象物をなぞることで対象物と接触子あるいは対象物と指腹の摩擦を起こし、この摩擦振動を表す時間波形信号を出力する。また接触動き取得部204は、摩擦振動取得部203での接触子あるいは指腹と対象物のなぞり動作における相対速度や押し付け力に関する信号を出力する。なぞり動作や押しつけ動作は、たとえば図6に示すXYZ3次元プロッタ(後述)などを利用して行うことが可能である。周波数解析部205は、摩擦振動取得部203の出力を周波数解析してパワースペクトルなどの情報に変換する。
パワーピーク判別部206は、様々な種類の対象物について様々な接触動きを行って取得した周波数解析部205の各出力と、接触動き取得部204の出力を統計的に処理する。そして、摩擦振動のパワースペクトルに含まれる複数のパワーピークから対象物に非依存なものを接触動きごとに抽出する。
接触子起因ピーク格納部207は、接触子と対象物の摩擦振動からパワーピーク判別部206が抽出した接触動きと対象物計測量ごとのパワーピーク情報を、接触動き情報、対象物計測量と関連付けて格納する。指腹部起因ピーク格納部208は、指腹と複数の対象物との摩擦振動からパワーピーク判別部206が抽出した接触動きと対象物計測量ごとのパワーピーク情報を、接触動き情報と対象物計測量と関連付けさせて格納する。
一方の触感再現実行部202は、摩擦振動取得部209と、接触動き取得部210と、周波数解析部211と、接触子起因振動除去部212と、指腹部起因振動重畳部213と、摩擦振動合成部214と、触感再現器215とを備えている。
以下、触感再現実行部202の各構成要素の機能を説明しながら、触感再現実行部202による実行ステップの大まかな処理の流れを説明する。
摩擦振動取得部209は、再現対象である対象物を接触子でなぞって発生した摩擦振動を表す時間波形信号を出力する。接触動き取得部210は、対象物と接触子のなぞり動作における相対速度や押し付け力に関する信号を出力する。周波数解析部211は、摩擦振動取得部209の出力を周波数解析してパワースペクトルなどの情報に変換する。接触子起因振動除去部212は、周波数解析部211のパワースペクトル情報から接触子起因のパワーピークを除去する。ここで除去するパワーピークは、接触動き取得部210の出力に基づいて接触子起因ピーク格納部207を検索して利用する。さらに指腹部起因振動重畳部213では、接触子起因振動除去部212の出力に指腹部起因ピークを重畳する。ここで重畳するパワーピークは、接触動き取得部210の出力に基づいて指腹部起因ピーク格納部208を検索して利用する。摩擦振動合成部214は、指腹部起因振動重畳部213の出力を時間波形信号に復元する。触感再現器215では、摩擦振動合成部214の合成信号を振動刺激として呈示して触感を再現する。
次に各部の詳細を説明する。学習ステップでは、まず特定の接触子であらかじめ定めた複数の対象物をなぞって、摩擦振動取得部203で時間波形信号(たとえば電圧波形)を取り出す。接触子と対象物の摩擦振動から時間波形信号を取り出すには、例えばPVDF(高分子圧電素子)フィルムなどの圧電素子を直接接触子として用いたり、あるいは弾性体を接触子とすることが考えられる。そして、その接触面近くに圧電素子を貼り付けたり、内部に埋め込むなどして取り出すことが可能である。
図3は、摩擦振動取得部203の具体例を示す。弾性体A01は、対象物とこすり合わされて摩擦振動を発生する。この振動を、多数配列されたセンサA02,A03で電気信号として取り出す。センサA02、A03は、たとえば歪ゲージである。なお、図3には、後述する加速度センサA04も示されている。
図4は、図3の弾性体で発生した摩擦力による振動波形の例を示す。この図にあるように、接触子で対象物をなぞった場合、初期段階では静止摩擦力により両者は固着した状態にある。せん断方向への引っ張り力が最大静止摩擦力を超えると、動摩擦による接触運動状態に移行する。本願で述べている摩擦振動とは動摩擦状態での振動を意味している。摩擦振動取得部203では、図4のような時間波形信号から動摩擦状態へ移行した後、さらに一定時間経過した後の安定した波形を自動的に切り出す。
摩擦振動取得部203で振動波形を取得すると同時に、接触動き取得部204は接触子と対象物との接触によって生じる相対的な動き(接触動き)の情報を取得する。ここで「接触動きの情報」とは、接触子と対象物の相対速度v、接触子の対象物への押し付け力Fなどの、接触動きを規定するパラメータである。
図3に示した摩擦振動取得部203の構成例における加速度センサA04は、接触子の動きの積分値から接触子の接触速度を計算する。これにより、接触子の動きを取得することが可能である。加速度センサA04は、接触動き取得部204の具体例である。またセンサA02は素材方向への押し付け力も計測できるようになっている。たとえば摩擦振動のうちの直流成分を押し付け力Fとして出力する。
前述したように摩擦振動は、同一の接触子と対象物でこすり合わせた時でも接触動きが変われば異なる。従って様々な接触動きについて摩擦振動を取得しておく必要がある。
特に本願では接触子によるなぞり動作と同じ動作をした時の触感を指腹に再現するため、ヒトが対象物の触感を知覚する時に一般的に採る様々ななぞり動作に対応する接触動きについては、摩擦振動を取得しておくことが望ましい。また接触子の伝達関数Hp(f)に対応するパワーピーク群は接触動きごとに求めることが望ましい。つまり複数の対象物ごとに共通の複数の接触動きで摩擦振動を取得することが望ましい。
このため接触子で対象物をなぞって複数の摩擦振動vを取得する過程では、XYZ3次元プロッタなどを用いて接触動きを制御した取得をすることが有効である。たとえば図6は、摩擦振動取得部203および接触動き取得部204に対応する機能を備えたXYZ3次元プロッタ501の構成例を示す。XYZ3次元プロッタ501を用いることにより、摩擦振動および接触動きの情報を取得することが可能である。以下、その取得方法を説明する。
XYZ3次元プロッタ501は、あらかじめ規定した接触動きで接触子を動かして対象物との摩擦振動を取得する。XYZ3次元プロッタ501は、支持ポール502および支持ポール503の2本で、接触子を含んだセンサ部504を保持する。支持ポール502はモータ505でレール506に沿ってX軸方向に移動でき、加えてモータ507でレール508に沿ってZ軸方向に移動できる。一方支持ポール503は、モータ509でレール510に沿ってY軸方向に移動できる。
モータ制御部511は、接触動き制御部からの制御信号に従ってモータ505、モータ507、モータ509の動きを制御し、センサ部504を移動させ対象物513との摩擦振動を発生させる。センサ部504には、接触子と摩擦振動を取得するためのせん断力センサのほか、対象物への押し込み力を測定するための法線力センサが取り付けられている。センサ部504は、これらの構成により接触動きの押し付け力Fを取得することができる。またモータ507によるZ方向への移動量と押し込み力Fの関係から、対象物の弾性率を求めることができる。
さらに接触動き制御部512からの制御信号情報のうち、単位時間あたりのXおよびY方向への移動量によって、接触子と対象物の相対速度vを取得することができる。なおここでは接触動きとして接触子と対象物の相対速度vと押し付け力Fを挙げたが、加速度aあるいは運動方向X,Yを区別した速度vx、vyや加速度ax、ayを用いることも有効である。
また、全ての対象物を同じ接触動きで調べる方法を例示した。しかしながら接触動きにある程度の変動がある場合でも、摩擦振動の変動を事前に構築したモデルで補正する方法を採ることも可能である。この場合のモデルとは、接触動きや対象物の物理計測量の変化に対してパワーピークがどのように変化するかということを、摩擦振動に関する物理モデルや、様々な対象物様々な接触動きに基づいて統計的に求めたモデルなどを指す。
こうして得られる時間波形信号は、なぞる対象物およびなぞり方を表す接触動きの組み合わせごとに複数取り出される。今、対象物j、接触動きの種類iによって発生する摩擦振動をv(j,i)とすると、v(1,1)、…、v(m,n)が得られる。ただし、m(m≧1)は対象物の数であり、n(n≧1)は接触動きの種類の数である。これらのm×n個の時間波形信号それぞれを、周波数解析部205で周波数空間表現に変換する。これは例えば信号のパワースペクトルを求めることを意味する。そのため一般的には、時間波形信号を一定時間間隔でサンプリングし、これをFFTなどの方法で離散フーリエ変換する。
図5は、摩擦振動のパワースペクトルの一例を示す。パワースペクトルは実線で示されている。この図にあるように、一般に摩擦振動のパワースペクトルは周波数ごとにパワーが大きく変動する。しかし摩擦振動は素材の固有振動数などにパワーピークを持つ周期的な振動であり、また触覚再現において特徴的なパワーピークを再現することが重要であると考えると、微少な周波数の変動ごとのパワーの変動には大きな関心はない。
そこで音声の周波数解析などにおいて用いられるLPC(線形予測分析)などの手法を用いて(例えば、「音声・音情報のディジタル信号処理」、鹿野、中村、伊勢、昭晃堂、pp10−16.、1997。)、スペクトル包絡を求めてこれを周波数解析結果とすることも可能である。図5には、このような手法によって求めたスペクトル包絡を破線で示している。以上のように時間波形信号を周波数解析した結果を、V(1,1)、…、V(m,n)とする。
ワイルドカード「*」を使って、変数の全ての要素の集合を表すと、m種類の対象物とn種類の接触動き全ての組み合わせについて求めた周波数解析結果の集合は、V(*,*)と表現できる(ここでは「*」は任意の1文字を示している)。パワーピーク判別部206では、接触子起因のパワーピークの抽出を行う。
図7は、パワーピーク抽出の処理手順を示すフローチャートである。接触動きごとのデータ抽出ステップ61では、まずn種類の接触動きごとに周波数解析結果V(*,*)を取り出す。仮に今、i番目の接触動きについてのデータ抽出を行っているなら、全てのV(*,i)が抽出される。次に対象物ごとのデータ抽出ステップ62では、上記V(*,i)からさらに対象物jに関する出力V(j,i)を抽出する。前述した通りV(j,i)は、たとえば図5に示すデータである。パワーピーク抽出ステップ63では、V(j,i)からローカルピーク(極大点)の周波数とパワーを抽出する。図5では抽出したローカルピークが小さな点線の円で示されている。一般にこれは複数抽出される。この時、ローカルピーク抽出に条件を加えてもよい。例えばローカルピークのパワーのレベルやローカルピークにおける共振のQ値などが、所定の条件を満たしたもののみを抽出するなどである。このような抽出条件の追加によりより顕著なピークのみが抽出され、触感再現にとって重要ではないまたは雑音とみなし得るローカルピークを無視することができる。こうして複数抽出されたローカルピークをパワーピークとする。その情報を、数8のように記述するとする。
Figure 0004769342
ここでインデックスkは、対象物j、i番目の接触動きに対する摩擦振動の低い周波数からk番目のパワーピークという意味である。またθfはパワーピークの周波数、θpはパワーピークのパワーを表わすものとする。このようなθの抽出を、同一の接触動きiでの摩擦振動V(*,i)に関するm種類の対象物全てについて求める。得られた{θf}の集合についてパワーピーク周波数の生起確率算出ステップ64では、{θf}に含まれる周波数fxごとに、下記数9を満たすkが存在する対象物jの数をカウントする。
Figure 0004769342
例えば、m種類の対象物のうちm’個の対象物において数9を満たすkが存在したならば、パワーピーク周波数fxの生起確率は数10のようになる。
Figure 0004769342
さらに数9の条件を満たした対象物jとインデックスkの全ての組み合わせについて、θpを平均することで、下記数11で求まるパワーピークの平均パワーも同時に求めておく。
Figure 0004769342
また平均パワーだけでなく、共振のQ値の平均を同様の計算で求めておくことも有効である。なお生起確率算出のための条件式数9では、θfが厳密にfxと同一であることを条件としたが、周波数に関して一定の幅を持たせることも有効である。たとえば窓幅を示す係数αに対して、
Figure 0004769342
なる条件式などを用いることも有効である。この場合パワーピーク周波数は一意に決まらないので、条件数12を満たす対象物jとインデックスkの全ての組み合わせについてθfを平均することで、数13などを用いてもよい。
Figure 0004769342
さらに摩擦振動は、複数の共振系を持つ系から個々の共振が発現したものと捉え、これら共振は周波数やピークのパワーにおいて確率的な変動をして現れるものと考える。この時周波数解析された摩擦振動はこの系の観測値となるので、最ゆう法、ベイズ学習などの統計学習の枠組みでパラメータを推定して確率P(fx|i)を求めることもできる。また摩擦振動をこのような枠組みで捕らえるなら、パワーピークを決定する要因となり得る対象物の弾性率Eや、摩擦係数μもモデルの中に取り込むことができ、P(fx|i,E)、P(fx|i,μ)、P(fx|i,E,μ)などの形でより詳細な確率分布の推定が可能になる。ピーク抽出判断ステップ65では、P(fx|i)ごとに所定の閾値以上の確率を有しているか否かを判断する。もし閾値以上の確率があれば、ピーク情報出力ステップ66でパワーピーク周波数fxとその平均パワー数11、平均Q値、および接触動きiに対応する相対速度v、押し込み力Fなどを出力する。そうでなければ棄却する。なお前述したようなパワーピーク発生確率を確率分布として求めた場合には、分布を表す平均値、分散などのパラメータを出力することも有効である。
図8は、同一の接触子および同一の接触動きに対して複数の対象物から取得した摩擦振動の周波数解析結果の例である。この図に示したように出現するパワーピークは、対象物の変化に対して変わらずに出現するパワーピーク(7Aの円で示したピーク)と、対象物ごとに変化するパワーピーク(7Rの円で示したピーク)に分かれる。上述したパワーピークの生起確率数10を求め、適切な閾値で判断することにより、円7Aで示したようなパワーピークがパワーピーク判別部206から出力され、円7Rで示したようなパワーピークは棄却されることになる。以上のような処理をn種類の接触動きごとに繰り返して、接触動きごとのパワーピーク情報とする。このような処理を集合{θf}内の全てのfxについて行い、さらにn種類の接触動き全てについてステップ62〜66の処理を繰り返す。
出力された接触動きごとの複数のパワーピークは、接触子と対象物とのこすり合わせによる摩擦振動において、対象物に依存せずに現れるパワーピークであるため、接触子起因のパワーピークである。この接触子起因のパワーピークは、数5の接触子の伝達特性Hp(f)に対応するものである。よってパワーピーク判別部206からの出力を、接触子起因ピーク格納部207に格納する。
ここで、図9は、接触子起因ピーク格納部207への格納例を示す。図9では、パワーピーク判別部206からの出力であるパワーピークの周波数と平均パワーが、接触動きを表す相対速度v、押し付け力Fと関連付けされて格納されている。パワーピーク判別部206での処理フローの説明でも述べた通り、同一の接触動きに対してパワーピーク周波数は複数抽出される可能性がある。このような場合の具体的な数値の例が図9の1行目、2行目等で示されている。なお、前述した通り接触動きとして格納される情報は、図9に挙げたもの以外にも相対加速度や、さらに速度および加速度のX,Y方向成分を個別に記録したものであってもよい。またパワーピーク情報として、ピーク周波数とその平均パワーだけでなく、パワーピークの共振のQ値の平均値が格納されていることも、有効である。さらにパワーピーク判別部206で発生確率の分布を求めたのであれば、単に周波数や平均パワーのみを格納するのではなく、それらの分散など確率分布を規定するパラメータを格納する。
以上、接触子で対象物をなぞることによって得られる接触子起因ピークの抽出と格納方法を説明した。
なお、指腹部で対象物をなぞることによって得られる指腹部起因ピークの抽出と格納方法も本質的な処理の流れは同じである。すなわち、被験者の指腹部を使って所定のn種類の接触動きでm種類の対象物をなぞり、その時に発生する摩擦振動を摩擦振動取得部203で取得する。同時にこの時の接触動き情報を接触動き取得部204で取得する。摩擦振動信号は周波数解析部205で周波数空間の信号に変換する。m種類の対象物とn種類の接触動きの組み合わせについて取得した周波数解析済み摩擦振動信号を使って、パワーピーク判別部206で対象物によらず高い頻度で出現するパワーピークを抽出し、これを指腹部起因ピーク格納部208に格納する。ここに格納されるパワーピーク情報は、指腹部で対象物をなぞった際に対象物によらず出現するパワーピークであることから、指腹部起因ピークと見ることができ、数6の指腹の伝達特性Hf(f)に対応するものである。この格納方法も、図9に例示した接触子起因ピークの格納方法と同様である。ただし接触子起因ピークと指腹部起因ピークは明確に区別する必要があるので、個別の表に格納する、あるいはいずれのピークであるかが判るようなフラグ項目を追加するなどして両者が区別できるようにしておく。
このように指腹部起因ピークの抽出と格納方法の処理は、接触子起因ピークの抽出と格納方法同様であるが、解決すべき問題が1つある。それは、学習ステップにおいて指腹部の摩擦振動を取得する際に、指腹部表面に生起する摩擦振動を直接取得するのが困難であるという点である。すなわち、指腹部表面に生起する摩擦振動を取得するため、圧電フィルムなどのセンサを指腹部表面に貼り付けるなどすると、指腹ではなくフィルムセンサと対象物が摩擦することにより摩擦振動そのものが変化してしまうため意味をなさない。また指腹部と対象物の接触位置のごく近く、対象物とは接触しない位置にセンサを貼り付けたとしても、指腹部表面で発生している摩擦振動とは同じものが得られる訳ではない。さらに摩擦振動に対する特性として指腹と等価であるとみなすことのできる人口指を作り、この接触子内部の接触面近くにセンサを埋め込んで摩擦振動を取得しようとしても、弾性、摩擦特性、形状・構造などの条件がヒトの指のそれと全く同じ接触子を製造することは現実的には不可能である。
そこで以下では、指腹部起因ピーク学習時において上記の問題を解決し、指腹部表面の摩擦振動を取得する方法を述べる。上記の問題は、「生体指の振動計測に基づく触覚センシング」(岩本, 星, 篠田, 第23回センシングフォーラム論文集,(2006), pp285−288)にあるように、指腹部表面から指腹部振動取得位置までの伝達特性を求めておき、この逆特性を用いて指腹部表面振動を推定する方法が有効である。
図10(a)および(b)は、指腹部の表面振動を推定する方法の一例を示す。まず図10(a)に示すように、指腹部表面から指腹振動取得位置までの伝達特性を求める際には、指に接した基準振動発生部91から単位インパルスなどの基準振動を発生させ、指腹を加振する。この振動は指を伝わり、基準信号発生部91とは異なる位置で指に接している指腹振動取得部92で振動信号として取得される。指腹振動取得部92は、できるだけそれ自身による影響が小さいことが望ましいので、針状の接触子などで指腹振動を取得することが望ましい。また指腹振動取得部92の指との接触位置も、振動の減衰や雑音の影響を考慮すればできるだけ指腹の接触面に近いことが望ましい。基準信号発生部91で加振した振動と、指腹振動取得部92で取得した振動信号を演算することにより、指腹部接触面から指腹振動取得部92の取り付け位置までの伝達関数G(f)が求まる。例えば基準信号発生部91において単位インパルスで加振したのであれば、指腹振動取得部92で取得した信号波形g(t)をフーリエ変換したG(f)が欲しい伝達関数となる。
指腹部で対象物をなぞった時の摩擦振動を取得する際には、図10(b)に示すように、基準振動発生部91を取り除いて代わりに対象物93を配置する。これにより、指腹部で対象物をなぞった時に指腹部表面で発生する摩擦振動をフーリエ変換したV(f)は、次式で得ることができる。
Figure 0004769342
ただし、V’(f)は指腹部で対象物をなぞった時に指腹振動取得部92で得られた時間波形信号をフーリエ変換したものである。周波数空間で表現された摩擦振動V(f)が得られた後は、接触子と対象物の摩擦振動の周波数解析部205以降と全く同じ手順によってパワーピークが求まる。このパワーピークが指腹部起因のパワーピークとなる。
以上、パワーピーク学習部201における学習ステップについて説明した。次に、対象物Tを接触子でなぞることによって得られる摩擦振動を用いて対象物Tの触感を触感再現器に再現する実行ステップを、図2の触感再現実行部202を用いて説明する。
摩擦振動取得部209は、触感再現するための対象物Tを接触子によってなぞり摩擦振動に対応する時間波形信号vp(t)を出力する。接触子でなぞる際には、図6に示したものと同様なXYZ3次元プロッタを用いたなぞり装置によってなぞることも可能である。また、接触子を内蔵したなぞり器を構成してこれを手に把持してなぞることも可能である。
図11は、なぞり器101構成例を示している。なぞり器101は、接触子102と、押し付け力センサ103と、位置センサ104と、信号ケーブル105とを有している。
接触子102は、対象物Tと接触し摩擦振動の時間波形信号vp(t)を出力する。押し付け力センサ103は、接触子の対象物への押し付け力を計測する。位置センサ104は、接触子と対象物のXYZ方向への相対移動量を計測する。信号ケーブル105は、これらの各構成要素から信号を出力する。
本明細書の原理の項で述べた通り、触感再現器215で再現される触感は、接触子で対象物Tをなぞった接触動作と同一の接触動作で、指腹により対象物Tをなぞった時の触感がそのまま出力される。このため摩擦振動取得部209で摩擦振動を取得するための接触動きは、再現する触感を考慮した接触動きであるべきである。よって触感再現の用途に応じて、図6に示したようななぞり装置を用いてコントロールされた接触動きをするか、図11に例示したなぞり器を手に把持してより自然な接触動きをするか、使い分けることが望ましい。
摩擦振動取得部209からの時間波形信号vp(t)は、学習ステップと同様に静止摩擦領域と動摩擦領域が判断され、静止摩擦領域から動摩擦領域へ移行後一定時間経過した動摩擦領域の安定領域の切り出しが行われる(図4参照)。この時間波形信号はサンプリングされ、周波数解析部211で離散フーリエ変換などの手法によりパワースペクトルVp(f)に変換される。また後での時間波形信号への復元のために位相情報も保持しておく。
摩擦振動取得部209での接触子の接触動きは、学習ステップにおける接触動き取得部204と同様に、接触動き取得部210で接触子と対象物の相対速度vおよび押し付け力Fなどとして出力される。図11ではこの接触動き取得部204の構成例が示されている。接触動き取得部204は、押し付け力センサ103および位置センサ104によって構成される。この例では、押し付け力センサ103の出力から押し付け力Fが得られ、位置センサ104の出力から単位時間あたりのX方向への移動量とY方向への移動量を求め相対速度vを計算する。
周波数解析部211の出力として得られた摩擦振動のパワースペクトルVp(f)は、接触子起因振動除去部210において、数5における接触子の伝達特性Hp(f)に対応する接触子起因パワーピークをVp(f)中から除去する。除去するためのパワーピーク情報は、接触子起因ピーク格納部207に格納された情報から接触動き情報(v,F)を用いて検索される。
図12は、接触子起因振動除去部210によるパワーピークの除去処理の手順を示すフローチャートであり、図13は、除去されたパワーピーク123を示すパワースペクトルを示す。
図12の平滑化パワースペクトル算出ステップ111では、図13に示すように接触子起因振動除去部210が、パワースペクトル121に対して平滑化パワースペクトル122を算出する。接触子起因振動除去部210は、周波数解析部211の出力Vp(f)からローカルピークを除去したなだらかな平滑化パワースペクトル122を計算により求める。
次にローカルピーク抽出ステップ112では、接触子起因振動除去部210は、周波数解析部211の出力Vp(f)に現れる各ローカルピークを抽出する。ローカルピークの抽出時は、パワーが単に極大値を取っていることだけでなく、そのパワーレベルや共振のQ値を条件としてもよい。接触子起因ピーク検索ステップ113では、接触動き取得部210の出力(v,F)を元に図9に例示したようなテーブルを参照し、最も近い接触動きの中からローカルピークの周波数に最も近いパワーピーク情報を検索する。ローカルピークに対応するパワーピーク情報検索時には、最も類似した接触動きに対応するパワーピーク情報のみを検索するのではなく、所定の閾値以内の類似度を有する接触動きに対応するパワーピークの中からローカルピークの周波数に近いパワーピークを検索しても構わない。
判断ステップ114では、接触子起因振動除去部210は、ローカルピークが接触子起因ピークであるか否かを判定する。この処理は、ローカルピークの周波数と検索されたパワーピークの周波数が所定の差以内であるか否かを判断することによって行われる。所定の差以内であれば当該ローカルピークは接触子起因のパワーピークであると判断して、処理はステップ115に進む。一方、所定の差以内でなければ、ローカルピークが接触子起因ピークではないと判定し、特段の処理は行わず、処理はステップ112に戻る。
ローカルピークパワー削減ステップ115では、接触子起因振動除去部210は、当該周波数を中心として平滑化パワースペクトルのレベルより高いパワーレベルを持っている領域のパワースペクトル全体を、平滑化パワースペクトルのレベルにまで下げる。
ここで、ローカルピークが接触子起因ピークである場合、および、ない場合の処理を、図13を参照しながら説明する。
図13において、周波数f1およびf2はローカルピーク抽出ステップ113で取り出されたローカルピークの周波数であるとする。接触子起因ピーク格納部207の格納テーブルを検索した結果、判断ステップ114において周波数f1に対応するパワーピーク情報は存在しないと判断されたとすると、これについては何もしない。
一方周波数f2は該当するパワーピーク情報が見つかったとするなら、平滑化パワースペクトルより高いパワーレベルを有している除去パワーピーク123部分のパワーを、平滑化パワースペクトルのレベルに落とす。
以上のような処理をピーク周波数抽出ステップ113で抽出される全ての周波数について繰り返す。ここではパワーレベルの下げ方として、パワースペクトルVp(f)から算出した平滑化パワースペクトルのレベルまで下げる例を示した。しかし、接触子起因ピーク格納部207に格納されたパワーピーク情報のうち平均パワーの情報を用いて、この平均パワーのレベルに応じた量だけパワーピークの山をなだらかに下げる方法も有効である。
接触子起因ピーク格納部207の格納形式が、単に周波数と平均パワーではなく周波数の確率分布を示すパラメータであった場合も、同様のステップで除去すべきパワーピークを決定することができる。すなわちローカルピーク抽出ステップ112で求めたローカルピークの周波数fに対して、接触子起因ピーク検索ステップ113では同一の接触動き条件iに対して最も高い確率P(f|i)を有するパワーピーク情報を確率分布パラメータから決定する。判断ステップ114ではこの確率P(f|i)があらかじめ定めた閾値以上であるか否かを判断して、ローカルピークが接触子起因ピークであるかどうかを決定する。接触子起因ピークである場合にはローカルピークパワー削減ステップ115を実行する。
以上に述べた接触子起因振動除去部212の処理は、前述した数7の伝達関数Hp(f),Hf(f)を用いる考え方において1/Hp(f)の演算を行うことに対応している。
次に図2の指腹部起因振動重畳部213は、数6の指腹部の伝達特性Hf(f)に対応する指腹部パワーピークを、接触子起因ピーク除去部212の出力に重畳する。重畳するパワーピーク情報は、接触動き取得部210からの出力(v、F)に基づいて指腹部起因ピーク格納部208を検索して抽出される。抽出されるパワーピーク情報は、接触動き(v,F)に最も類似する接触動きに対応するパワーピーク情報である。指腹部起因ピーク格納部208に格納されたパワーピーク情報は、図9に示すように同一の接触動きに対して複数格納されていることもあり、これら全てを抽出する。
指腹部起因振動重畳部213は、抽出した各パワーピーク情報のピーク周波数とピーク平均パワーを用いて、ピーク周波数位置のパワーが平均パワーのレベルとなるよう所定のQ値を有したパワーピークを形成する。または、もしパワーピーク情報として平均Q値が格納されている場合には、この値を使ってパワーピークを形成することも可能である。
図14は、パワースペクトル131と、重畳されたパワーピーク132およびパワーピーク133を示す。
いま、接触動き(v,F)に対して指腹部起因ピーク格納部208から検索されたパワーピーク情報のピーク周波数が、f3、f4であったとする。この場合、指腹部起因振動重畳部213は、パワーピーク情報に格納された平均パワー情報を用いて、パワーピーク132およびパワーピーク133を形成してパワースペクトル131に重畳する。
なお指腹部起因ピーク格納部208のパワーピーク情報の格納形式が周波数とパワーではなく確率分布である場合には、次のようにして重畳すべきパワーピークを決定することができる。すなわち、指腹部起因振動重畳部213は、接触動き条件iに対応するパワーピーク情報(それぞれが確率分布を示すパラメータ)について、周波数を振って最大の確率となる周波数とその確率値の組をそれぞれ求める。これらのうち確率値が所定の値を超える周波数を抽出し、これを重畳するパワーピークの周波数として重畳処理を行う。
以上に述べた指腹部起因振動重畳部213の処理は、前述の数7の考え方において指腹部の伝達特性Hf(f)を乗算することに対応している。
なお上述の説明では、接触動きを条件として接触子起因ピークおよび指腹部起因ピークの検索を行う方法を示した。しかしこの限りではなく、接触子起因ピーク格納部207に格納されたパワーピーク情報の集合から、自動的に最適な接触動きを予測して決定することも可能である。図13を用いてこの方法を説明する。
まず前述の方法と同様に、指腹部起因振動重畳部213は、周波数解析された摩擦振動からパワーピークと認定しうるローカルピークを抽出する。図13では、ローカルピークに対応する周波数f1および周波数f2が示されている。
一方接触子起因ピーク格納部207は、接触動きごとにパワーピークの周波数集合を規定できる。例えば接触動きiに対するパワーピークの集合を{fi1,fi2,...}などと規定できる。摩擦振動から得た周波数集合{f1,f2}と接触動きごとの周波数集合{fi1,fi2,...}の合致スコアを、例えば双方に共通に存在する周波数の数などとすると、最もスコアの高い接触動きごとの周波数集合を1つ選択することができる。選ばれた周波数集合に対応する接触動きが予測された接触動きとなる。
接触動きを予測した以降の処理手順は上述の方法と全く同じである。この方法は、パワーピーク情報を確率分布として格納している場合にも同様に適用可能である。すなわち、摩擦振動の周波数集合{f1,f2}が接触動きごとの確率分布集合からの観測値であると考えて確率スコア計算をすれば、最適な接触動きを予測することが可能である。
以上の処理によれば、接触子起因ピーク格納部207、指腹部起因ピーク格納部208から接触子起因ピーク、指腹部起因ピークを検索する際に接触動き情報が不要になるので、接触動き取得部210なる構成要素が不要になる。
以上により指腹部起因振動重畳部213からの出力は、指腹部で対象物Tをなぞった時に得られる摩擦振動のパワースペクトルVf(f)を推定したものとなっている。よってこれを再度時間波形信号に戻すことで、指腹部表面で発生する摩擦振動を推定することができる。摩擦振動合成部214は、この処理を行う。
周波数空間で表現された信号を時間波形信号に戻すためには、パワースペクトルのみならず位相情報も必要である。接触子起因振動除去部212および指腹部起因振動重畳部213は、パワースペクトルのみを変換し、位相情報については何も変換していない。しかし触感知覚において、接触子と指腹の位相特性の違いはそれ程重要でないと考えられるので、周波数解析部211で得られた位相情報をそのまま使っても、再現される触感には大きな影響はないと考えられる。よって摩擦振動合成部214は、この両者を用いて逆フーリエ変換等の手法で、周期的な時間波形信号に変換する。
触感再現器215では、摩擦振動合成部214の出力である周期時間波形を振動として呈示し、触感再現器215に押し当てた指腹表面を振動させる。これにより、触感再現器215に触れた指腹には、対象物Tをなぞっているかのような触感が与えられる。
以上の構成により、接触子で対象物をなぞって得た摩擦振動情報と、あらかじめ求めておいた接触子起因のパワーピークと指腹部起因のパワーピークを用いることで、対象物を指腹でなぞったような触感を対象物に限定されず自然に再現することが可能になる。
図2に示される各構成要素は、以下のようなハードウェアによって実現される。すなわち、摩擦振動取得部203、209および接触動き取得部204,210は、上述の図3,図11に示したようなセンサを用いて実現できる。また、周波数解析部205、211、パワーピーク判別部206、接触子起因振動除去部212、指腹部起因振動重畳部213、摩擦振動合成部214は、たとえばコンピュータを用いて実現することが可能である。そして、接触子起因ピーク格納部207、指腹部起因ピーク格納部208は、ハードディスクドライブ(HDD)、メモリカード、ソリッドステートドライブ(SSD)などの記録媒体によって実現可能である。また、触感再現器215は、ボイスコイルモーターなど振動機構を備えたアクチュエータによって実現可能である。
本実施形態による触感再現装置は、主としてコンピュータシステムによって実現される。たとえばコンピュータシステムに含まれるプロセッサがメモリ(RAM)に格納されているコンピュータプログラムを実行することによって、上述の動作を実現する。
たとえば、実施形態1による触感再現システム(触感再現装置)のプロセッサは、図7に示すフローチャートに基づくコンピュータプログラムを実行し、接触子起因振動除去部210によるパワーピークの除去処理を実現する。また、プロセッサは、図12に示すフローチャートに基づくコンピュータプログラムを実行し、接触子起因振動除去部210によるパワーピークの除去処理を実現する。すなわち、各々の処理において、プロセッサは、接触子起因振動除去部210として機能し、または、接触子起因振動除去部210として機能している。プロセッサがコンピュータプログラムを実行することにより、全体として触感再現システム(触感再現装置)の動作を実現することができる。
そのようなコンピュータプログラムは、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送される。なお、半導体回路にコンピュータプログラムを組み込んだDSP等のハードウェアとして実現されてもよい。
なお、後述する実施形態についても、本実施形態と同様のハードウェアを利用したコンピュータプログラムを実行するコンピュータシステムとして実現され得る。
(実施形態2)
本実施形態2は、実施形態1に述べた基本的な構成に加え、再現したい素材の触感を取得するための接触子とその接触子に関する接触子起因ピーク情報を複数組有する。これにより、再現したい素材の状況などに応じて、接触子または接触子起因ピーク情報を切り替えて、触感再現することを可能にする。
図15は、本実施形態による触感再現装置2のブロック図を示す。
図15において、図2と同じ構成要素については同じ符号を用い、説明を省略する。図15に基づく触感再現装置2も、実施形態1による図2の触感再現装置1と同様、大きく2つの構成要素を有している。具体的には、パワーピーク学習部1401および触感再現実行部1402である。
パワーピーク学習部1401には、図2のパワーピーク学習部201に対し接触子切替決定部1404が追加されている。接触子切替決定部1404を利用すると、複数の接触子に対する接触子起因ピーク情報を学習、格納することができる。
また触感再現実行部1402にも接触子切替決定部1408が追加されている。接触子切替決定部1408は、摩擦振動取得部1407で用いられる接触子に合わせて接触子同定信号を出力し、これに応じた接触子起因ピーク情報を利用して触感再現を行う。
パワーピーク学習部1401での処理を、実施形態1におけるパワーピーク学習部201(図2)との差異を中心に説明する。
実施形態1では、接触子起因ピーク学習時にはm(m≧1)種類の対象物に対してn(n≧1)種類の接触動きで摩擦振動を取得した。本実施形態ではさらにp(p≧2)種類の接触子を有した摩擦振動取得部1403を用いて、接触子それぞれについての摩擦振動を取得する。すなわち取得される摩擦振動はp×m×n個となる。
摩擦振動取得時には、p種類の接触子のうちいずれの接触子gを用いたかに関する信号を接触子切替決定部1404が出力する。パワーピーク判別部1405では、接触子ごとに実施形態1におけるパワーピーク判別部206の処理手順でパワーピークの抽出を行う。出力される周波数および平均パワーなどのパワーピーク情報は、パワーピーク判別部206の出力同様の接触動き情報(たとえば相対速度v、押し付け力F)と接触子の種類を示すインデックスgに関連付けられて接触子起因ピーク格納部1406に格納される。
図16は、接触子起因ピーク格納部1406の格納テーブルの例を示している。図9と比較すれば明らかなように、各パワーピーク情報がいずれの接触子起因のものであるかを識別するためのインデックスを格納するための列が追加されている。なお、指腹部起因ピークの抽出など、パワーピーク学習部1401でのその他の処理は実施形態1のパワーピーク学習部201と同様であるので説明を省略する。
続いて触感再現実行部1402における触感再現方法を説明する。
触感再現実行部1402における摩擦振動取得部1407は複数の接触子を有しており、これらを切り替えて触感再現対象物の摩擦振動を取得することができる。切り替える方法は、摩擦振動取得部1403の外部に設けられた切替スイッチ(図示せず)を利用者が手動で切り替えてもよいし、接触子切替を自動判断するためのセンサの出力に基づいて接触子を切り替えてもよい。いずれにしても選択された接触子を識別するための信号が、接触子切替決定部1408より出力される。
接触子起因振動除去部212が除去するパワーピークは、接触動き取得部210の信号と接触子切替決定部1408の信号を元に接触子起因ピーク格納部1406を検索することで、摩擦振動取得部1407で用いた接触子に適合したパワーピークが利用される。指腹部起因振動重畳部での処理など、触感再現実行部1402でのその他の処理は実施形態1と同様であるので省略する。
なお本実施形態では、摩擦振動取得部1403および摩擦振動取得部1407では物理的に複数の接触子がある例を示したが、これはこの限りではない。たとえば、接触子に加える力や電圧、電磁場さらには磨耗や経年変化などによって接触子の振動特性が変化することで、擬似的に複数の接触子があるようにみなす事ができる場合にも全く同様に適用することができる。
以上のような構成とすることで、本実施形態による触感再現装置2によれば、実施形態1に示した触感再現装置1による触感再現機能に加え次のような効果を期待できる。金属、衣類、粘性物質など触感再現対象の大まかな分類ごとに最適な接触子を切り替えて摩擦振動を取得することができるようになる。そのため、触感再現のための摩擦振動の質が向上し、再現される触感のリアリティが向上する。また、触感再現対象物が高温の場合には接触子が痛んでしまう恐れがある場合を考慮して、対象物とこすり合わせに耐えうる接触子を対象物の状態に合わせて切り替えて利用することができるようになる。そのため、接触子を含むセンサ部の可搬性が広がる。さらに接触子の磨耗や経年変化による振動特性の変化に対応することができるようになる。そのため、長時間の使用にも耐えうる触感再現装置を構築できる、といった効果を有する。
(実施形態3)
本実施形態は、実施形態1に述べた基本的な構成に加え、異なる物理的特性を有する指腹に関する指腹部起因ピーク情報を複数学習、格納しておく。そして、触感再現時には触感再現装置に触れている指腹の特性に応じて、触感再現に利用する指腹部起因ピーク情報を切り替えて利用する。これにより、指腹の特性の不一致によって呈示される触感の違和感を解消する。
図17は、本実施形態による触感再現装置3のブロック図を示す。
図17において、図2と同じ構成要素については同じ符号を用い、説明を省略する。また本実施形態の触感再現装置3は、実施形態2が接触子起因ピーク格納部に複数の接触子ごとのパワーピーク情報を格納したのに似て、指腹部起因ピーク格納部に複数の指特性に応じたパワーピーク情報を格納する。以下、適宜図15に基づく実施形態2を参照しながら説明する。
図17に基づく触感再現装置3も、実施形態1および2の触感再現装置と同様、大きく2つの構成要素を有している。具体的には、パワーピーク学習部1601および触感再現実行部1602である。
パワーピーク学習部1601には、図2のパワーピーク学習部201に対し指特性切替決定部1604が追加されている。指特性切替決定部1604を利用すると、複数種類の指特性に対応させて指腹部起因ピーク情報を学習、格納することができる。
また触感再現実行部1602にも指特性切替決定部1607が追加されている。触感再現実行部1602は、指特性切替決定部1607の出力に示される指特性に応じたパワーピークを指腹部起因ピーク格納部1606から検索する。そして、検索して得られたパワーピークを指腹部起因振動重畳部213で重畳して触感再現する。これにより、触感再現器215に触れている指の特性に応じた触感再現信号を合成することが可能になり、指腹部に生起する摩擦振動をより忠実に模擬することができる。
パワーピーク学習部1601での処理を、実施形態1におけるパワーピーク学習部201(図2)とパワーピーク学習部1401(図15)との差異を中心に説明する。
実施形態1では、指腹部起因ピーク学習時にはm(m≧1)種類の対象物に対してn(n≧1)種類の接触動きで、指腹部でなぞり摩擦振動を取得した。本実施形態ではさらにq(q≧2)名の被験者に指腹部で対象物をなぞってもらい、そのなぞり動作に基づく摩擦振動を取得する。すなわち取得される摩擦振動はq×m×n個となる。指腹部の摩擦振動取得時には、q名の被験者のうちいずれの被験者hであったかに関する信号を指特性切替決定部1604が出力する。
パワーピーク判別部1605は、指腹部ごとに実施形態2におけるパワーピーク判別部206の処理手順でパワーピークの抽出を行う。出力される周波数および平均パワーなどのパワーピーク情報は、パワーピーク判別部206の出力同様の接触動き情報(たとえば相対速度v、押し付け力F)と被験者を示すインデックスhに関連付けられて指腹部起因ピーク格納部1606に格納される。その格納テーブルの例は実施形態2における図16同様で、接触子インデックスを格納する代わりに被験者インデックスhを格納する。
なおこの例ではランダムに選ばれたq名の被験者の結果をそれぞれ指腹部起因ピーク格納部1606に格納する例を示した。しかし、この限りではなく、q名より多いq’名の被験者を集めてそれぞれ摩擦振動を取り、その結果をクラスタリングなどの方法でq種類にまとめて格納してもよい。あるいはq’名の被験者の指腹部の弾性率など物理特性をいくつか計測し、この特性が類似した被験者でqのグループに分け、各グループから指腹の物理特性値などに基づいて代表者を選択してこのq名による摩擦振動を利用してもよい。ただし、これらq’名の被験者の指腹を利用して指腹部起因ピークを抽出した場合には、指腹部起因ピーク格納部1606に格納される格納テーブル中の被験者インデックスの列は、被験者そのものではなく指の特性などに基づいて振り分けたものを意味する指特性インデックスとなる。その他接触子起因ピークの抽出など、パワーピーク学習部1601でのその他の処理は実施形態1同様であるので省略する。
続いて触感再現実行部1602における触感再現方法を説明する。触感再現実行部1602の処理手順は、接触子起因振動除去部212の処理までは実施形態1の触感再現実行部202の処理手順と全く同じである。実施形態1との相違点は、指腹部起因振動重畳部213で重畳する指腹部起因ピークを検索する手順である。すなわち、指腹部起因ピーク格納部1606には異なる被験者(触感再現器215の触者)ごと、あるいは異なる指腹特性ごとに指腹部起因ピークが格納されている。これを切り替えるための信号を、指特性切替決定部1607が出力する。
指特性切替決定部1607は、被験者(触者)を同定するための入力I/Fがついており、その入力に応じた被験者インデックスを出力してもよい。また、単に女性用、男性用、子供用などといった指特性を大まかに分類するラベルが付与されたスイッチがついており、このいずれかを選択することでそれに応じた指特性インデックスが出力されてもよい。さらには指腹の弾性特性などを計測するセンサがついており、触感再現器215の触者がこのセンサに触れることで最適な指特性インデックスを選択して出力するようになっていてもよい。指腹部起因ピークの検索時には、指特性切替決定部1607の出力と接触動き取得部210の出力に基づいて最適な指腹部起因ピークの集合が選ばれる。選ばれたパワーピーク情報を元に触感を再現する手順は、実施形態1の触感再現実行部202と同じなので省略する。
なお本実施形態では、複数の指腹特性に対応させて格納された指腹部起因ピークを、被験者インデックスまたは指腹特性を示すインデックスによっていずれか1つに絞り込んで検索するという例を示した。しかしこの限りではなく、複数の指腹特性それぞれの指腹部起因ピークを組み合わせて合成された指腹部起因ピークを生成し、これを用いるようにしてもよい。このような方法を採れば、指特性切替決定部1607で指腹特性を計測した場合、指腹部起因ピーク格納部1606にその特性に完全に合致するデータが存在しない場合でも、計測された指腹に合った指腹部起因ピークを生成できる。そのため、触感再現器215の触者に合った触感再現が可能になる。
以上のような構成とすることで、実施形態1に示した触感再現装置による触感再現機能に加え次のような効果が期待できる。一言に指腹と言っても、性別の違い、年齢の違いあるいは日常的に触れているものの違いなどで、柔らかく小さな指からごつごつした大きな指まで指腹の振動特性は様々に異なる。それにも関わらず、たとえば標準的な固さの指で求めた指腹部起因ピークを使って再現した指腹面振動を、ごつごつした皮の指腹に呈示してもリアリティのある触感が伝えられるとは考えにくい。このような問題を解消するため、あらかじめ異なる指腹の振動特性ごとに指腹部起因ピークを求めておき触感再現器215の触者に応じてこれを切り替えれば、触者ごとの指腹の振動特性の違いによる齟齬も小さくなる。そのため、誰に対してもリアリティのある触感を再現することができるようになる。さらには、事前に触感再現器215の触者が判っているのであれば、この触者の指腹で指腹部起因ピークを求めておくことでより確実に触者に合った触感再現を行うことが可能になる。
なお、複数の接触子に対応させる実施形態2と、複数の指腹特性に対応させる実施形態3はそれぞれ個別に説明したが、両者を組み合わせた構成とすることも有効である。この場合、両者の効果が同時に享受できる触感再現装置が構成できる。
(実施形態4)
本実施形態は、実施形態1に述べた基本的な構成に加え、素材と接触子の摩擦振動から得た情報を、ネットワークを介して遠隔地に送信することが可能な構成となっている。これにより、ネットショッピングなど、直接対象物に触ることができない状況で、触感を利用したコミュニケーションが可能になる。
図18は、本実施形態による触感再現システム4のブロック図を示す。
本触感再現装置においても実施形態1から3で述べた触感再現装置と同様、パワーピーク学習部(例えば図17のパワーピーク学習部1601)、および触感再現実行部(例えば図17の触感再現実行部1602)を構成要素として含む。ただし、パワーピーク学習部については実施形態3で述べたものと同一であるため、図では省略されている。
図18では、図2の触感再現装置1、および図17の触感再現装置3と同じ構成要素に対しては同じ符号を用い説明を省略する。
本実施形態の触感再現システム4は、実施形態3にかかる触感再現装置3の触感再現を実行するための機能が通信回線1703を介して実現される点が大きく異なっている。以下では、実施形態3に示した方法によって、パワーピーク学習部で複数の対象物と複数の接触動きによって決定された接触子起因ピークと指腹部起因ピークが、接触子起因ピーク格納部207および指腹部起因ピーク格納部1606に格納されたものとして触感再現手順を説明する。
触感再現システム4は、大きく2つの構成要素を有している。具体的には、触感送信部1701および触感受信部1702である。触感送信部1701は、対象物との摩擦振動に基づいて得た触感情報を、通信回線1703に送信する。触感受信部1702は、通信回線1703から触感情報を受信して触感再現を行う。
触感送信部1701は、摩擦振動取得部209、接触動き取得部210、周波数解析部211、接触子起因振動除去部212、接触子起因ピーク格納部207を有している。図2に示す実施形態1の触感再現装置1の構成要素と同じ機能を有する構成要素には同じ参照符号が付されている。
たとえば、摩擦振動取得部209は、対象物Tを接触子でなぞりその摩擦振動を取得する。これは周波数解析部211で解析されてパワースペクトルなどの周波数空間表現に変換され、接触子起因振動除去部212で接触子起因のパワーピークが除去される。除去されるパワーピークは、接触動きを条件として接触子起因ピーク格納部207を検索して決定する。接触子起因振動除去部212からの出力は、接触子と対象物の摩擦振動から接触子起因で現れるパワーピークを除去したものとなっており、接触子に依存しない一般化された摩擦振動と見ることができる。この情報を触感情報として、接触動き取得部210の接触動き情報と共に通信回線1703に送信する。
触感受信部1702は、指腹部起因ピーク格納部1606、指腹部起因振動重畳部213、摩擦振動合成部214、指特性切替決定部1607、触感再現器215を有している。
触感受信部1702は、まず触感情報と接触動き情報を、通信回線1703を介して受信する。受信された触感情報は、指腹部起因振動重畳部213によって指腹部起因ピークが重畳される。より具体的には、指腹部起因振動重畳部213は、受信した接触動き情報と触感再現器215の触者の指腹特性を示す指特性切替決定部1607からの出力を条件として、指腹部起因ピーク格納部1606を検索して重畳するパワーピークを決定する。摩擦振動合成部214は、指腹起因のパワーピークが重畳された触感情報を周期時間波形に変換する。触感再現器215は、これを振動として触者の指腹に呈示して触感を再現する。
このような構成とすることにより、対象物を直接触れることのできない触者に対して、遠隔で自然な触感を呈示することが可能になる。しかもこの時送受信される触感情報には、触感送信部1701で使われた接触子に依存する要素が除去されているため、触感受信部1702側で接触子の種類について考慮する必要がない。そのため、触感送信部1701と触感受信部1702で独立性の高い構成とすることが可能となる。また通信回線1703は、1対1のみならず、1対多、多対多であってもよい。たとえば通信回線1703は、インターネットなどの広域ネットワーク(WAN)であってもよいし、ローカルエリアネットワーク(LAN)であってもよい。また、通信回線1703は、有線であってもよいし、無線であってもよい。
このような通信回線1703を介して通信することにより、たとえば、遠隔医療で患者の患部の触感を遠隔の医師に伝達する用途や、ネットショッピングにおいて商品の肌触りを顧客に呈示する用途に利用可能である。また1対多で1つの触感を複数のユーザに同時配信できると、触感を使った新たなコミュニケーションツールとすることも可能になる。
なお、ここでは通信回線1703を介して送受信する情報は触感情報のほか接触動き情報のみであるが、実施形態1で例示したように対象物の弾性率や摩擦係数などを併用してパワーピークを推定する場合、このようなパラメータも加えて送受信する構成であってもよい。
本実施形態では、通信回線1703を利用して複数の装置が相互に接続されることを考慮して、触感再現装置ではなく、「触感再現システム」という名称を利用して説明した。しかしながら、1つの筐体で実現されることを想定した実施形態1〜3の場合に関しても、「触感再現システム」という名称を利用してもよい。1つの筐体で実現された触感再現装置の内部には配線が備えられており、信号を伝送する機能を有するという観点からすると、この配線は広義には実施形態4における通信回線1703と同じといえるためである。よって、本明細書における「システム」は、本発明の構成が複数の機器によって実現される場合のみならず、1つの筐体によって実現される装置をも含む広い概念である。
本願発明の触感再現装置では、接触子起因振動が除去された信号に、指腹部起因振動を重畳した信号を得る事ができる点が、従来の技術に対して有用な点である。そのため、時間波形信号に復元することなく、触覚を再現する事が出来れば、摩擦振動合成部は必要ない。
また、上記実施形態1から4まででは、触感受信部が触感再現器を有する構成としたが、必ずしも触感受信部が触感再現器を有する構成とする必要はない。
たとえば、触感再現器を有する端末などが、摩擦振動合成部からネットワーク等を介して送られてくる合成信号を受信して、前述の端末上で触感を再現して呈示しても良い。また、触感を再現することなく、摩擦振動合成部からの合成信号自体を分析するために用いる事も考えられる。また、摩擦振動合成部からの合成信号に対応するような文字情報を触感受信部に設けられた記憶部が有し、たとえば、この文字情報を出力することも考えられる。たとえば、どのような触感かを説明するような文字表示であったり、音声出力が考えられる。この場合も、時間波形信号に復元する必要がなければ、摩擦振動合成部は必要ない。
本発明にかかる触感再現方法は、接触子起因振動除去方法と指腹部起因振動除去方法を有し、対象物に指で触れて知覚される触感を対象物に触ることのできない環境で擬似的に再現することができ、通信販売などで商品の肌触りを伝えるといった用途や、遠隔医療において患部の触感を医師に伝えるといった用途に応用できる。
1、2、3 触感再現装置
4 触感再現システム
201 パワーピーク学習部
202 触感再現実行部
203 摩擦振動取得部
204 接触動き取得部
205 周波数解析部
206 パワーピーク判別部
207 接触子起因ピーク格納部
208 指腹部起因ピーク格納部
209 摩擦振動取得部
210 接触動き取得部
211 周波数解析部
212 接触子起因振動除去部
213 指腹部起因振動重畳部
214 摩擦振動合成部
215 触感再現器

Claims (14)

  1. 対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去する除去部と、
    ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳する重畳部と、
    前記指腹部起因の振動波形が重畳された第1の接触子起因波形に基づいて振動刺激を呈示する再現部と
    を備えた触感再現システム。
  2. 前記接触子起因の振動波形は、前記対象物の物理計測量、および、接触子と前記対象物との接触動きに基づいて決定され、
    前記指腹部起因の振動波形は、前記物理計測量および前記接触動きに基づいて決定される、請求項1に記載の触感再現システム。
  3. 前記接触動きは、前記接触子と前記対象物の相対速度に基づいて定まる、請求項1に記載の触感再現システム。
  4. 前記接触動きは、前記接触子の前記対象物への押し付け荷重に基づいて定まる、請求項1に記載の触感再現システム。
  5. 前記接触子起因の振動波形は、前記接触子と前記対象物による摩擦振動波形に含まれる、パワーピークに基づいて決定される、請求項1に記載の触感再現システム。
  6. 前記指腹部起因の振動波形は、指腹と前記対象物による摩擦振動波形に含まれる、パワーピークに基づいて決定される、請求項1に記載の触感再現システム。
  7. 前記接触子起因の振動波形は、接触子で複数の対象物をなぞって得られる複数の摩擦振動波形の中で、パワーピークが所定範囲内に属する摩擦振動波形の数に基づき決定される、請求項1に記載の触感再現システム。
  8. 前記指腹部起因の振動波形は、指腹で複数の対象物をなぞって得られる複数の摩擦振動波形の中で、パワーピークが所定範囲内に属する摩擦振動波形の数に基づき決定される、請求項1に記載の触感再現システム。
  9. 前記第1の接触子起因波形、および、前記第2の接触子起因波形は周波数とパワーとの関係を示すパワースペクトルで表され、
    前記接触子起因の振動波形は、前記第1の接触子起因波形のパワースペクトルおよび前記第2の接触子起因波形のパワースペクトルに共通する波形成分である、請求項1に記載の触感再現システム。
  10. 前記第1の指腹部起因波形および前記第2の指腹部起因波形は、周波数とパワーとの関係を示すパワースペクトルで表され、
    前記指腹部起因の振動波形は、前記第1の指腹部起因波形のパワースペクトルおよび前記第2の指腹部起因波形のパワースペクトルに共通する波形成分である、請求項1に記載の触感再現システム。
  11. 対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去するステップと、
    ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳するステップと、
    前記指腹部起因の振動波形が重畳された第1の接触子起因波形に基づいて振動刺激を呈示するステップと
    を包含する、触感再現方法。
  12. コンピュータによって実行されるコンピュータプログラムであって、
    前記コンピュータプログラムは、前記コンピュータに対し、
    対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去するステップと、
    ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳するステップと、
    前記指腹部起因の振動波形が重畳された第1の接触子起因波形に基づいて振動刺激を呈示するステップと
    を実行させる、コンピュータプログラム。
  13. 請求項12に記載のコンピュータプログラムが記録された記録媒体。
  14. 対象物と接触子との接触で発生する摩擦振動波形である第1の接触子起因波形と、前記対象物とは異なる他の対象物と前記接触子との接触で発生する摩擦振動波形である第2の接触子起因波形と、に共通する波形成分である接触子起因の振動波形を、前記第1の接触子起因波形から除去する除去部と、
    ヒトの指の指腹部と前記対象物との接触で発生する摩擦振動波形である第1の指腹部起因波形と、前記指腹部と前記他の対象物との接触で発生する摩擦振動波形である第2の指腹部起因波形と、に共通する波形成分である指腹部起因の振動波形を、前記接触子起因の振動波形が除去された第1の接触子起因波形に重畳する重畳部と
    を備えた触感再現システム。
JP2011510195A 2009-09-03 2010-08-30 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体 Active JP4769342B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011510195A JP4769342B2 (ja) 2009-09-03 2010-08-30 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2009203542 2009-09-03
JP2009203542 2009-09-03
JP2011510195A JP4769342B2 (ja) 2009-09-03 2010-08-30 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体
PCT/JP2010/005338 WO2011027535A1 (ja) 2009-09-03 2010-08-30 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP4769342B2 true JP4769342B2 (ja) 2011-09-07
JPWO2011027535A1 JPWO2011027535A1 (ja) 2013-01-31

Family

ID=43649091

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011510195A Active JP4769342B2 (ja) 2009-09-03 2010-08-30 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体

Country Status (4)

Country Link
US (1) US8665076B2 (ja)
JP (1) JP4769342B2 (ja)
CN (1) CN102341766B (ja)
WO (1) WO2011027535A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014119316A (ja) * 2012-12-14 2014-06-30 Nikon Corp 振動装置及び振動プログラム

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009037379A1 (en) 2007-09-18 2009-03-26 Senseg Oy Method and apparatus for sensory stimulation
FI20085475A0 (fi) * 2008-05-19 2008-05-19 Senseg Oy Kosketuslaiteliitäntä
BRPI0804355A2 (pt) * 2008-03-10 2009-11-03 Lg Electronics Inc terminal e método de controle do mesmo
US8738754B2 (en) 2011-04-07 2014-05-27 International Business Machines Corporation Systems and methods for managing computing systems utilizing augmented reality
US8913086B2 (en) * 2011-04-07 2014-12-16 International Business Machines Corporation Systems and methods for managing errors utilizing augmented reality
EP3321780A1 (en) * 2012-02-15 2018-05-16 Immersion Corporation High definition haptic effects generation using primitives
JP2013182514A (ja) * 2012-03-02 2013-09-12 Nikon Corp 触覚記録再生システム及び電子機器
US9483771B2 (en) 2012-03-15 2016-11-01 At&T Intellectual Property I, L.P. Methods, systems, and products for personalized haptic emulations
US8860563B2 (en) * 2012-06-14 2014-10-14 Immersion Corporation Haptic effect conversion system using granular synthesis
US9046926B2 (en) 2012-12-17 2015-06-02 International Business Machines Corporation System and method of dynamically generating a frequency pattern to realize the sense of touch in a computing device
JP6107281B2 (ja) * 2013-03-22 2017-04-05 セイコーエプソン株式会社 ロボット及びロボットの制御方法
JP6107282B2 (ja) * 2013-03-22 2017-04-05 セイコーエプソン株式会社 処理装置、ロボット、プログラム及びロボットの制御方法
CN105051631B (zh) * 2013-03-29 2018-04-27 株式会社牧野铣床制作所 工件的加工面评价方法、控制装置以及工作机械
US9811854B2 (en) * 2013-07-02 2017-11-07 John A. Lucido 3-D immersion technology in a virtual store
US9576445B2 (en) * 2013-09-06 2017-02-21 Immersion Corp. Systems and methods for generating haptic effects associated with an envelope in audio signals
US9652945B2 (en) 2013-09-06 2017-05-16 Immersion Corporation Method and system for providing haptic effects based on information complementary to multimedia content
US9711014B2 (en) 2013-09-06 2017-07-18 Immersion Corporation Systems and methods for generating haptic effects associated with transitions in audio signals
US9619980B2 (en) 2013-09-06 2017-04-11 Immersion Corporation Systems and methods for generating haptic effects associated with audio signals
KR20150071267A (ko) * 2013-12-18 2015-06-26 삼성전기주식회사 정현파 생성 장치 및 방법, 그를 이용한 피에조 액츄에이터 구동 시스템
WO2015121970A1 (ja) * 2014-02-14 2015-08-20 富士通株式会社 教育用触感提供装置、及び、システム
JP6300604B2 (ja) * 2014-04-01 2018-03-28 キヤノン株式会社 触感制御装置、触感制御方法及びプログラム
WO2016013068A1 (ja) * 2014-07-23 2016-01-28 富士通株式会社 触感データ処理装置、触感提供システム、及び触感データ処理方法
CN104199554B (zh) * 2014-09-21 2017-02-01 吉林大学 一种应用于移动终端的静电力触觉再现方法和装置
CN106716979B (zh) 2014-09-25 2020-09-01 瑞典爱立信有限公司 具有可变摩擦的移动通信设备
TWI550466B (zh) * 2014-12-15 2016-09-21 創為精密材料股份有限公司 背景訊號更新方法及其感測裝置
US9804702B2 (en) 2014-12-15 2017-10-31 Salt International Corp. Refreshing method of background signal and device for applying the method
TWI550489B (zh) * 2014-12-15 2016-09-21 創為精密材料股份有限公司 背景訊號更新方法及其感測裝置
WO2016148182A1 (ja) * 2015-03-18 2016-09-22 株式会社ニコン 電子機器、およびプログラム
US10743805B2 (en) 2017-06-02 2020-08-18 International Business Machines Corporation Haptic interface for generating preflex stimulation
WO2019229936A1 (ja) * 2018-05-31 2019-12-05 株式会社ソニー・インタラクティブエンタテインメント 情報処理システム
DE112020000958T5 (de) * 2019-02-26 2021-12-09 Sony Group Corporation Informationsverarbeitungseinrichtung, informationsverarbeitungsverfahren und programm
JP7239982B2 (ja) * 2019-06-04 2023-03-15 国立大学法人広島大学 触覚評価システム、触覚評価方法及びプログラム
JP7268519B2 (ja) * 2019-07-24 2023-05-08 トヨタ紡織株式会社 データ再生装置、データ生成装置、データ再生方法、およびデータ生成方法
JP7310677B2 (ja) * 2020-03-27 2023-07-19 豊田合成株式会社 触感提示装置
DE112021002539T5 (de) * 2020-04-29 2023-03-23 Sony Group Corporation Decodiervorrichtung, decodierverfahren, programm, codiervorrichtung und codierverfahren
EP4250060A1 (en) * 2022-03-25 2023-09-27 Nokia Technologies Oy Apparatus, systems, methods and computer programs for transferring sensations

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5583478A (en) * 1995-03-01 1996-12-10 Renzi; Ronald Virtual environment tactile system
JPH0990867A (ja) 1995-09-27 1997-04-04 Olympus Optical Co Ltd 触覚呈示装置
JPH09155785A (ja) 1995-12-04 1997-06-17 Olympus Optical Co Ltd 触覚呈示装置
JP3574554B2 (ja) 1997-11-18 2004-10-06 独立行政法人 科学技術振興機構 触感呈示方法及び装置
JP3722994B2 (ja) * 1998-07-24 2005-11-30 大日本印刷株式会社 物体の接触感シミュレーション装置
US6822635B2 (en) * 2000-01-19 2004-11-23 Immersion Corporation Haptic interface for laptop computers and other portable devices
JP3937684B2 (ja) * 2000-04-20 2007-06-27 富士ゼロックス株式会社 触感呈示装置
JP2006058973A (ja) * 2004-08-17 2006-03-02 Sony Corp 触覚情報作成装置及び触覚情報作成方法
KR100703701B1 (ko) 2005-06-14 2007-04-06 삼성전자주식회사 촉각 정보를 효율적으로 제공하기 위한 방법 및 장치
US20070038512A1 (en) * 2005-08-12 2007-02-15 Venkateshwara Reddy Product and service offering via website intermediary
US7878075B2 (en) * 2007-05-18 2011-02-01 University Of Southern California Biomimetic tactile sensor for control of grip
US20090167507A1 (en) * 2007-12-07 2009-07-02 Nokia Corporation User interface

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014119316A (ja) * 2012-12-14 2014-06-30 Nikon Corp 振動装置及び振動プログラム

Also Published As

Publication number Publication date
CN102341766A (zh) 2012-02-01
CN102341766B (zh) 2014-09-24
US20110254671A1 (en) 2011-10-20
WO2011027535A1 (ja) 2011-03-10
JPWO2011027535A1 (ja) 2013-01-31
US8665076B2 (en) 2014-03-04

Similar Documents

Publication Publication Date Title
JP4769342B2 (ja) 触感再現方法、装置、コンピュータプログラムおよびコンピュータプログラムを記録した記録媒体
JP4778591B2 (ja) 触感処理装置
Kuchenbecker et al. Haptography: Capturing and recreating the rich feel of real surfaces
Okamura et al. Vibration feedback models for virtual environments
Wiertlewski et al. On the 1/f noise and non-integer harmonic decay of the interaction of a finger sliding on flat and sinusoidal surfaces
Janko et al. On frictional forces between the finger and a textured surface during active touch
Culbertson et al. Should haptic texture vibrations respond to user force and speed?
Clarke et al. Diffimpact: Differentiable rendering and identification of impact sounds
Lu et al. Preference-driven texture modeling through interactive generation and search
KR20210150124A (ko) 사용자 상태를 예측하기 위한 방법 및 그 장치
JP6809712B2 (ja) 触覚呈示システム、触覚呈示方法、および、触覚呈示プログラム
Chadefaux et al. A model of harp plucking
Grigorii et al. High-bandwidth tribometry as a means of recording natural textures
JP5002818B2 (ja) 接触音のリアルタイム生成装置、方法、プログラムおよびプログラムを格納した記録媒体
Wiertlewski Reproduction of tactual textures: transducers, mechanics and signal encoding
JP5158562B2 (ja) 触覚の解析方法および触覚の解析装置
Mengoni et al. Design of a tactile display to support materials perception in virtual environments
Rongala et al. The import of skin tissue dynamics in tactile sensing
Papetti Design and perceptual investigations of audio-tactile interactions
Cho et al. Haptic Cushion: Automatic Generation of Vibro-tactile Feedback Based on Audio Signal for Immersive Interaction with Multimedia
JP6660637B2 (ja) 触質情報処理装置および触質情報処理方法
Rongala et al. The dynamics of touch sensing studied in a mass-spring-damper model of the skin
Culbertson Data-driven haptic modeling and rendering of realistic virtual textured surfaces
Schafer Touch amplification for human computer interaction
Papetti et al. Effects of audio-tactile feedback on force accuracy in a finger pressing task: a pilot study

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110617

R150 Certificate of patent or registration of utility model

Ref document number: 4769342

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140624

Year of fee payment: 3