JP6709261B2 - スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法 - Google Patents
スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法 Download PDFInfo
- Publication number
- JP6709261B2 JP6709261B2 JP2018165016A JP2018165016A JP6709261B2 JP 6709261 B2 JP6709261 B2 JP 6709261B2 JP 2018165016 A JP2018165016 A JP 2018165016A JP 2018165016 A JP2018165016 A JP 2018165016A JP 6709261 B2 JP6709261 B2 JP 6709261B2
- Authority
- JP
- Japan
- Prior art keywords
- spectrogram
- haptic
- signal
- haptic effect
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000000694 effects Effects 0.000 title claims description 190
- 238000000034 method Methods 0.000 title claims description 53
- 230000000007 visual effect Effects 0.000 title description 15
- 238000004891 communication Methods 0.000 claims description 70
- 230000005236 sound signal Effects 0.000 claims description 30
- 230000004044 response Effects 0.000 claims description 12
- 230000001133 acceleration Effects 0.000 claims description 5
- 238000003708 edge detection Methods 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims 10
- 230000003993 interaction Effects 0.000 description 24
- 230000007704 transition Effects 0.000 description 12
- 230000006870 function Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000001413 cellular effect Effects 0.000 description 3
- 229920001746 electroactive polymer Polymers 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000499 gel Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 239000004033 plastic Substances 0.000 description 2
- 229910001285 shape-memory alloy Inorganic materials 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- -1 but not limited to Substances 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000003155 kinesthetic effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000005060 rubber Substances 0.000 description 1
- 239000002520 smart material Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/06—Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- User Interface Of Digital Computer (AREA)
Description
本出願は、2013年9月6日に提出され、“Audio to Haptics”と題された米国仮特許出願第61/874,933号への優先権を主張し、その全体は参照により本明細書に組み込まれる。
図1は、実施形態によってスペクトログラムの視覚処理をして触覚効果を生成するための電子装置100を示す。一部の実施形態では、電子装置100は音声信号を受信する。
例えば、電子装置100は、歌曲を電子装置100で再生するための音声信号を受信してもよい。電子装置100は、メモリから又は別の装置から、例えばインターネットを介してサーバから歌曲を受信することができる。電子装置100が音声信号を受信すると、電子装置100は受信した音声信号に基づいて1つ以上のスペクトログラムを生成する。電子装置100は、音声信号全体に対して受信した音声信号の時間領域の10ms等の時間ウインドウのフーリエ変換を決定することによりスペクトログラムを生成してもよい。別の例示として、電子装置は、時間を表す水平軸、振幅が特定の周波数において色彩強度により表される第1の周波数帯域(例えば、0Hzから100Hz)を表す垂直軸を有する1つのスペクトログラムと、時間を表す水平軸、振幅が特定の周波数において色彩強度により表される第2の周波数帯域(例えば、100Hzから1KHz)を表す垂直軸を有する別のスペクトログラムとを生成してもよい。
例えば、ビートを模倣するように構成される限定された持続時間及び比較的高振幅の振動を有する触覚効果が決定されてもよい。別の例示として、スペクトログラム内の領域間の変化がある種類の音から別の種類への遷移を示してもよい。これにより、電子装置100は、遷移の前の触覚効果及び遷移の間及び/又は後の異なる触覚効果を決定してもよい。
(複数の)触覚効果が決定されると、電子装置100が(複数の)触覚出力信号を生成することができる。触覚出力信号は、電子装置100によって、決定された(複数の)触覚効果を出力する1つ以上の触覚出力装置に出力され得る。他の多くの例示が本明細書に開示され、他の様々な変形が本開示の範囲内にある。
図2は、一実施形態によってスペクトログラムの視覚処理をして触覚効果を生成するための電子装置200を示す。図2に示される実施形態では、電子装置200は、筐体205、プロセッサ210、メモリ220、タッチセンサ式ディスプレイ230、触覚出力装置240、通信インターフェース250及びセンサ270を備える。更に、電子装置200は、一部の実施形態に選択的に結合され又は組み込まれ得る触覚出力装置260と通信する。プロセッサ210はメモリ220と通信しており、この実施形態では、プロセッサ210及びメモリ220は共に筐体205の中に配置される。タッチセンサ式表面を備え又はこれと通信するタッチセンサ式ディスプレイ230は、タッチセンサ式ディスプレイ230の少なくとも一部が電子装置200のユーザに露出されるように筐体205の中に部分的に配置される。一部の実施形態では、タッチセンサ式ディスプレイ230は、筐体205の中に配置されなくてもよい。例えば、電子装置200は、別の筐体の中に配置されるタッチセンサ式ディスプレイ230と接続され又は通信してもよい。一部の実施形態では、筐体205は、互いにスライド可能に結合され、互いに枢動可能に結合され又は互いに解放可能に結合される2つの筐体を備えてもよい。他の実施形態では、筐体205は任意の数の筐体を含んでもよい。
例えば、一実施形態では、電子装置は可撓性タッチスクリーンディスプレイを有し、ユーザは情報を電子装置に入力するために可撓性タッチスクリーンディスプレイ上の場所を押すことによって可撓性タッチスクリーンディスプレイを変形することができる。他の実施形態では、1つ以上のタッチセンサ式表面は、剛性であってもよい。様々な実施形態では、電子装置200は、柔軟性及び剛性の双方のタッチセンサ式表面を備えてもよい。
コマンドは、触覚出力装置260に触覚効果を出力させる適切な駆動信号を生成するために使用されるパラメータを含む。他の実施形態では、異なる信号及び異なる信号タイプが1つ以上の触覚出力装置の各々に送信されてもよい。例えば、一部の実施形態では、プロセッサは、触覚出力装置を駆動して触覚効果を出力するために低レベル駆動信号を送信してもよい。このような駆動信号は、増幅器によって増幅されてもよく、又は駆動される特定の触覚出力装置に対応する適切なプロセッサ又は回路を使用してデジタルからアナログ信号に又はアナログからデジタル信号に変換されてもよい。
一部の実施形態では、1つ以上の触覚出力装置は、有線又は無線通信等の電子装置と直接又は間接的に通信する。一実施形態では、電子装置は車内に配置され又は車両に統合され得る。また、1つ以上の触覚出力装置が車両に組み込まれる。例えば、1つ以上の触覚出力装置が、車両の座席、ハンドル、ペダル等に組み込まれてもよい。一部の実施形態では、触覚出力装置240及び/又は触覚出力装置260を有する代わりに、又は触覚出力装置240及び/又は触覚出力装置260を有することに加えて、電子装置200は1つ以上の他の出力装置を有する。例えば、電子装置200は、スピーカ及び/又はディスプレイを有してもよい。一実施形態では、電子装置200は、1つ以上の触覚出力装置、1つ以上のスピーカ、及び1つ以上のディスプレイを有する。他の多くの例示が本明細書に開示され、他の様々な変形が本開示の範囲内にある。
Actuator)、又は圧電性物質、電気活性ポリマ若しくは形状記憶合金等の「スマート材料」を含む。
別の例示として、センサ270は、電子装置200との1つ以上の相互作用に対応する情報をプロセッサ210に提供することができる。一部の実施形態では、センサ270がプロセッサ210に提供する情報は、ユーザが電子装置200を振る等の電子装置200全体との相互作用に対応する。他の実施形態では、センサ270がプロセッサ210に提供する情報は、タッチセンサ式ディスプレイ230又は別の適切な入力装置等の電子装置200の一部との相互作用に対応する。
図3は、実施形態による例示的なコンピュータ環境においてスペクトログラムの視覚処理をして触覚効果を生成するための例示的なコンピュータ装置を描くシステム図を示す。
図3に示されるシステム300は、3つの電子装置320−340、及びウェブサーバ350を含む。各電子装置320−340とウェブサーバ350は、ネットワーク310に接続される。この実施形態では、各電子装置320−340は、ネットワーク310を介してウェブサーバ350と通信する。従って、各電子装置320−340は、ウェブサーバ350に要求を送信して、ネットワーク310を介してウェブサーバ350から応答を受信することができる。
図4は、一実施形態によって触覚効果を生成するためのスペクトログラムの視覚処理の方法400に関するフローチャートを示す。図4に示される方法400は、図2に示される電子装置200に関して記載される。一部の実施形態では、方法400は、図3においてシステム300で示された1つ以上の装置によって実行され得る。また、図4に示される方法400は、一実施形態によって触覚効果を生成するためのスペクトログラムの視覚処理のアスペクトを示す図5に関して、及び一実施形態によって触覚効果を生成するためのスペクトログラムの視覚処理のアスペクトを示す図6に関して記載される。
一部の実施形態では、プロセッサ210は、センサ270から信号を受信する。例えば、プロセッサ210は、電子装置200と接続されたマイクロホンから音声信号を受信してもよい。別の例示として、電子装置の筐体205内にマイクロホンが配置されてもよく、プロセッサ210はマイクロホンから音声信号を受信する。他の実施形態では、電子装置の筐体内に全体的に又は少なくとも部分的に1つ以上のセンサ信号が配置される。一実施形態では、プロセッサ210は、通信インターフェース250を介して別の装置のセンサから音声情報を受信する。例えば、別の電子装置がマイクロホンを有してもよく、プロセッサ210は図3に示されたネットワーク310等のネットワークと接続された通信インターフェース250を介してマイクロホンから音声情報を受信する。1つ以上の受信した信号は、限定されないが、音声信号、映像信号、加速度信号、速度信号、温度信号、別の適切な信号、又はこれらの組み合わせを含む任意の数の信号であり得る。様々な実施形態において、1つ以上の受信した信号は、1つ以上のスペクトログラムが生成され得る任意の数の信号であり得る。他の多くの例示が本明細書に開示され、他の様々な変形が本開示の範囲内にある。
他の多くの例示が本明細書に開示され、他の様々な変形が本開示の範囲内にある。
複数の2次元画像における1つ以上の画像は、各周波数帯域を含んでもよい。各周波数帯域は、スペクトログラムに関係付けられる周波数帯域内の周波数帯域であってもよい。複数の2次元画像における各画像は、複数の2次元画像における他の画像とは異なる周波数帯域に対応してもよい。一部の実施形態では、複数の2次元画像における特定の画像の周波数帯域は、複数の2次元画像における別の画像の周波数帯域と部分的に重複する。一部の実施形態では、スペクトログラムの生成は、複数のスペクトログラムを生成することを含む。1つ以上のスペクトログラムが、受信した信号に関係付けられる周波数帯域に対応してもよい。他の実施形態では、スペクトログラムは、信号に関係付けられる別個の周波数帯域に対応する。他の多くの例示が本明細書に開示され、他の様々な変形が本開示の範囲内にある。
別の例示として、図3を参照すると、1つ以上の触覚効果は、1つ以上の触覚効果に対応する特徴のデータベースに少なくとも部分的に基づいてプロセッサ330によって決定されてもよい。特徴のデータベースは、デスクトップコンピュータ330に、及び/又はサーバ350と通信し且つネットワーク310を介してデスクトップコンピュータ330と通信するデータベース360等の1つ以上のデータベースに記憶されてもよい。
別の例示として、受信した信号における1つの音から別の音への遷移等、1つの特徴から別の特徴への遷移を決定するために、1つ以上のスペクトログラムにおける1つの領域と別の領域との間の変化が使用され得る。一実施形態では、受信した信号に対するスペクトログラム内の特徴間の遷移に少なくとも部分的に基づいて、受信した信号内の1つの特徴から別の特徴への遷移の決定の前に、触覚効果が出力されるべきであるという決定がなされる。別の実施形態では、受信した信号に対するスペクトログラム内の特徴間の遷移に少なくとも部分的に基づいて、受信した信号内の1つの特徴から別の特徴への遷移の決定の後で、触覚効果が出力されるべきであるという決定がなされる。
他の多くの例示が本明細書に開示され、他の様々な変形が本開示の範囲内にある。
本明細書に記載の方法及びシステムは様々な機械で実行するソフトウェアに関して記載されているが、方法及びシステムは、例えば、様々な方法を実行するように専用に構成されるFPGA(field−programmable gate array)等の専用に構成されたハードウェアとして実装されてもよい。例えば、実施形態は、デジタル電子回路で、又はコンピュータハードウェア、ファームウェア、ソフトウェア若しくはこれらの組み合わせで実装され得る。一実施形態では、装置は、1つ又は複数のプロセッサを備えてもよい。プロセッサは、プロセッサに結合されるRAM(random access memory)等のコンピュータ可読媒体を備える。プロセッサは、メモリに記憶されたコンピュータ実行可能プログラム命令を実行する。例えば、画像を編集するために1つ以上のコンピュータプログラムを実行する。このようなプロセッサは、マイクロプロセッサ、DSP(digital signal processor)、ASIC(application−specific integrated circuit)、FPGA(field programmable gate array)、及び状態機械を含む。このようなプロセッサは、PLC、PIC(programmable interrupt controller)、PLD(programmable logic device)、PROM(programmable read−only memory)、EPROM又はEEPROM(electronically programmable read−only memory)、又は他の類似の装置等のプログラム可能電子装置を更に備えてもよい。
Claims (19)
- 信号に少なくとも部分的に基づいてスペクトログラムを生成するステップと、
前記スペクトログラムに少なくとも部分的に基づいて触覚効果を決定するステップであって、前記スペクトログラムの複数の周波数範囲の各々に対して、
前記スペクトログラムに少なくとも1つの技術を適用することにより前記複数の周波数範囲の各々の特徴を決定することであって、前記少なくとも1つの技術はエッジ検出、閾値検出、クラスタリング検出、又は色ヒストグラムクラスタ検出を含むこと、及び
既定の触覚効果に対応する特徴に対して、決定された複数の周波数範囲の各々の特徴を分析すること
を含むステップと、
触覚出力装置に前記既定の触覚効果を出力させるように構成される触覚出力信号を前記触覚出力装置に出力するステップと
を含む、方法。 - 触覚効果を決定するステップは、
前記スペクトログラムを複数の領域を含む複数のスペクトログラムに分割すること、
前記複数の領域の各々の1つ以上の特徴を決定すること、
前記既定の触覚効果に対応する特徴に対して、前記1つ以上の特徴を分析すること
を更に含む、請求項1に記載の方法。 - 前記信号は、音声信号、映像信号、加速度信号、速度信号、又は温度信号の1つを含む、請求項1に記載の方法。
- 前記スペクトログラムを生成するステップは、
音声信号の少なくとも1つのセグメントに対してフーリエ変換を計算するステップであって、各セグメントが各時間ウインドウにおける前記音声信号の値に対応するステップを含む、請求項1に記載の方法。 - 前記スペクトログラムを生成するステップは、
前記信号に関係付けられる周波数帯域に対応する2次元画像を生成するステップを含む、請求項1に記載の方法。 - 前記スペクトログラムを生成するステップは、
複数のスペクトログラムを生成するステップであって、各スペクトログラムが前記信号に関係付けられる各々の異なる周波数帯域に対応するステップを含む、請求項1に記載の方法。 - 前記触覚効果を決定するステップは、
複数の異なる周波数帯域の各々に対して、
特徴のためにその異なる周波数帯域上で前記スペクトログラムを分析するステップと、
前記特徴に対応する触覚効果を決定するステップと、
前記スペクトログラムに前記特徴を見つけることに応じて、前記触覚効果を選択するステップと
を含む、請求項6に記載の方法。 - 前記スペクトログラムは時間領域を含み、
前記スペクトログラムの特徴を決定するステップは、前記スペクトログラムの前記時間領域内のパターンを決定するステップを含む、請求項1に記載の方法。 - 前記スペクトログラムは周波数領域を含み、
前記スペクトログラムの特徴を決定するステップは、前記スペクトログラムの前記周波数領域内のパターンを決定するステップを含む、請求項1に記載の方法。 - 入力装置と、
触覚出力装置と、
前記入力装置及び前記触覚出力装置と通信するプロセッサとを備え、
前記プロセッサは、
信号に少なくとも部分的に基づいてスペクトログラムを生成すること、
前記スペクトログラムに少なくとも部分的に基づいて触覚効果を決定することであって、触覚効果を決定することは、前記スペクトログラムの複数の周波数範囲の各々に対して、
前記スペクトログラムに少なくとも1つの技術を適用することにより前記複数の周波数範囲の各々の1つ以上の特徴を決定することであって、前記少なくとも1つの技術はエッジ検出、閾値検出、クラスタリング検出、又は色ヒストグラムクラスタ検出を含むこと、及び
既定の触覚効果に対応する特徴に対して、決定された複数の周波数範囲の各々の特徴を分析すること
を含むこと、及び
触覚出力装置に前記既定の触覚効果を出力させるように構成される触覚出力信号を前記触覚出力装置に出力すること
を行うように構成される、システム。 - 触覚効果を決定することは、
前記スペクトログラムを複数の領域を含む複数のスペクトログラムに分割すること、
前記複数の領域の各々の1つ以上の特徴を決定すること、
前記既定の触覚効果に対応する特徴に対して、前記1つ以上の特徴を分析すること
を更に含む、請求項10に記載のシステム。 - 前記信号は、音声信号、映像信号、加速度信号、速度信号、又は温度信号の1つを含む、請求項10に記載のシステム。
- 前記スペクトログラムを生成することは、
音声信号の少なくとも1つのセグメントに対してフーリエ変換を計算することであって、各セグメントが各時間ウインドウにおける前記音声信号の値に対応することを含む、請求項10に記載のシステム。 - 前記スペクトログラムを生成するステップは、
前記信号に関係付けられる周波数帯域に対応する2次元画像を生成することを含む、請求項10に記載のシステム。 - 前記スペクトログラムを生成することは、複数のスペクトログラムを生成することを含み、各スペクトログラムが前記信号に関係付けられる各々の異なる周波数帯域に対応する、請求項10に記載のシステム。
- 前記触覚効果を決定することは、
複数の異なる周波数帯域の各々に対して、
特徴のためにその異なる周波数帯域上で前記スペクトログラムを分析すること、
前記特徴に対応する触覚効果を決定すること、及び
前記スペクトログラムに前記特徴を見つけることに応じて、前記触覚効果を選択すること
を含む、請求項15に記載のシステム。 - 前記スペクトログラムは時間領域を含み、前記スペクトログラムの特徴を決定することは、前記スペクトログラムの前記時間領域内のパターンを決定するステップを含む、請求項10に記載のシステム。
- 前記スペクトログラムは周波数領域を含み、前記スペクトログラムの特徴を決定することは、前記スペクトログラムの前記周波数領域内のパターンを決定することを含む、請求項10に記載のシステム。
- プログラムコードを含むコンピュータ可読媒体であって、前記プログラムコードは、プロセッサによって実行されると、前記プロセッサに、
信号に少なくとも部分的に基づいてスペクトログラムを生成すること、
前記スペクトログラムに少なくとも部分的に基づいて触覚効果を決定することであって、触覚効果を決定することは、前記スペクトログラムの複数の周波数範囲の各々に対して、
前記スペクトログラムに少なくとも1つの技術を適用することにより前記複数の周波数範囲の各々の特徴を決定することであって、前記少なくとも1つの技術はエッジ検出、閾値検出、クラスタリング検出、又は色ヒストグラムクラスタ検出を含むこと、及び
既定の触覚効果に対応する特徴に対して、決定された複数の周波数範囲の各々の特徴を分析すること
を含むこと、及び
触覚出力装置に前記既定の触覚効果を出力させるように構成される触覚出力信号を前記触覚出力装置に出力すること
を行わせるように構成される、コンピュータ可読媒体。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201361874933P | 2013-09-06 | 2013-09-06 | |
US61/874,933 | 2013-09-06 | ||
US14/051,933 US9898086B2 (en) | 2013-09-06 | 2013-10-11 | Systems and methods for visual processing of spectrograms to generate haptic effects |
US14/051,933 | 2013-10-11 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014178904A Division JP6399865B2 (ja) | 2013-09-06 | 2014-09-03 | スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018206427A JP2018206427A (ja) | 2018-12-27 |
JP6709261B2 true JP6709261B2 (ja) | 2020-06-10 |
Family
ID=51492229
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014178904A Expired - Fee Related JP6399865B2 (ja) | 2013-09-06 | 2014-09-03 | スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法 |
JP2018165016A Active JP6709261B2 (ja) | 2013-09-06 | 2018-09-04 | スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014178904A Expired - Fee Related JP6399865B2 (ja) | 2013-09-06 | 2014-09-03 | スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法 |
Country Status (5)
Country | Link |
---|---|
US (2) | US9898086B2 (ja) |
EP (2) | EP2846225B1 (ja) |
JP (2) | JP6399865B2 (ja) |
KR (1) | KR20150028734A (ja) |
CN (2) | CN104423591B (ja) |
Families Citing this family (40)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8876535B2 (en) | 2013-03-15 | 2014-11-04 | State Farm Mutual Automobile Insurance Company | Real-time driver observation and scoring for driver's education |
US9576445B2 (en) | 2013-09-06 | 2017-02-21 | Immersion Corp. | Systems and methods for generating haptic effects associated with an envelope in audio signals |
US9711014B2 (en) | 2013-09-06 | 2017-07-18 | Immersion Corporation | Systems and methods for generating haptic effects associated with transitions in audio signals |
US9619980B2 (en) | 2013-09-06 | 2017-04-11 | Immersion Corporation | Systems and methods for generating haptic effects associated with audio signals |
US9652945B2 (en) | 2013-09-06 | 2017-05-16 | Immersion Corporation | Method and system for providing haptic effects based on information complementary to multimedia content |
US9898086B2 (en) * | 2013-09-06 | 2018-02-20 | Immersion Corporation | Systems and methods for visual processing of spectrograms to generate haptic effects |
US9164587B2 (en) | 2013-11-14 | 2015-10-20 | Immersion Corporation | Haptic spatialization system |
US9619029B2 (en) | 2013-11-14 | 2017-04-11 | Immersion Corporation | Haptic trigger control system |
JP6351964B2 (ja) * | 2013-12-11 | 2018-07-04 | 株式会社東海理化電機製作所 | 入力装置 |
US9734685B2 (en) | 2014-03-07 | 2017-08-15 | State Farm Mutual Automobile Insurance Company | Vehicle operator emotion management system and method |
US9135803B1 (en) | 2014-04-17 | 2015-09-15 | State Farm Mutual Automobile Insurance Company | Advanced vehicle operator intelligence system |
US9283847B2 (en) | 2014-05-05 | 2016-03-15 | State Farm Mutual Automobile Insurance Company | System and method to monitor and alert vehicle operator of impairment |
US10373259B1 (en) | 2014-05-20 | 2019-08-06 | State Farm Mutual Automobile Insurance Company | Fully autonomous vehicle insurance pricing |
US10223479B1 (en) | 2014-05-20 | 2019-03-05 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle operation feature evaluation |
US11669090B2 (en) | 2014-05-20 | 2023-06-06 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle operation feature monitoring and evaluation of effectiveness |
US10599155B1 (en) | 2014-05-20 | 2020-03-24 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle operation feature monitoring and evaluation of effectiveness |
US10319039B1 (en) | 2014-05-20 | 2019-06-11 | State Farm Mutual Automobile Insurance Company | Accident fault determination for autonomous vehicles |
US9972054B1 (en) | 2014-05-20 | 2018-05-15 | State Farm Mutual Automobile Insurance Company | Accident fault determination for autonomous vehicles |
US10185999B1 (en) | 2014-05-20 | 2019-01-22 | State Farm Mutual Automobile Insurance Company | Autonomous feature use monitoring and telematics |
US10475127B1 (en) | 2014-07-21 | 2019-11-12 | State Farm Mutual Automobile Insurance Company | Methods of providing insurance savings based upon telematics and insurance incentives |
EP3198365A1 (en) | 2014-09-25 | 2017-08-02 | Telefonaktiebolaget LM Ericsson (publ) | Mobile communications device with adaptive friction of the housing |
US10185396B2 (en) | 2014-11-12 | 2019-01-22 | Immersion Corporation | Haptic trigger modification system |
US20200219197A1 (en) | 2014-11-13 | 2020-07-09 | State Farm Mutual Automobile Insurance Company | Personal insurance policies |
US9445210B1 (en) * | 2015-03-19 | 2016-09-13 | Adobe Systems Incorporated | Waveform display control of visual characteristics |
US20210258486A1 (en) | 2015-08-28 | 2021-08-19 | State Farm Mutual Automobile Insurance Company | Electric vehicle battery conservation |
WO2017081895A1 (ja) | 2015-11-13 | 2017-05-18 | ソニー株式会社 | 通信システム、および記憶媒体 |
US10395332B1 (en) | 2016-01-22 | 2019-08-27 | State Farm Mutual Automobile Insurance Company | Coordinated autonomous vehicle automatic area scanning |
US11242051B1 (en) | 2016-01-22 | 2022-02-08 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle action communications |
US10134278B1 (en) | 2016-01-22 | 2018-11-20 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle application |
US10324463B1 (en) | 2016-01-22 | 2019-06-18 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle operation adjustment based upon route |
US11441916B1 (en) | 2016-01-22 | 2022-09-13 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle trip routing |
US10185327B1 (en) | 2016-01-22 | 2019-01-22 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle path coordination |
US11719545B2 (en) | 2016-01-22 | 2023-08-08 | Hyundai Motor Company | Autonomous vehicle component damage and salvage assessment |
US9940834B1 (en) | 2016-01-22 | 2018-04-10 | State Farm Mutual Automobile Insurance Company | Autonomous vehicle application |
EP3239897A1 (en) * | 2016-04-29 | 2017-11-01 | Fujitsu Limited | Method and apparatus for determining the similarity between multivariate data sets |
US9953507B1 (en) * | 2016-12-28 | 2018-04-24 | Nortek Security & Control Llc | Monitoring a wearing of a wearable device |
US20200012347A1 (en) * | 2018-07-09 | 2020-01-09 | Immersion Corporation | Systems and Methods for Providing Automatic Haptic Generation for Video Content |
WO2020049705A1 (ja) * | 2018-09-07 | 2020-03-12 | 株式会社ファセテラピー | コンテンツ供給装置、コンテンツ提供システム、コンテンツ提供サーバ装置、コンテンツ取得装置、コンテンツ提供方法およびコンテンツ提供用プログラム |
KR102273805B1 (ko) * | 2019-02-19 | 2021-07-06 | 주식회사 동운아나텍 | 오디오 신호 패턴을 이용한 햅틱 신호 발생 방법 및 장치 |
CN114995638A (zh) * | 2022-05-12 | 2022-09-02 | 北京有竹居网络技术有限公司 | 触觉信号生成方法、装置、可读介质及电子设备 |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3475317B2 (ja) * | 1996-12-20 | 2003-12-08 | 日本電信電話株式会社 | 映像分類方法および装置 |
US7623114B2 (en) * | 2001-10-09 | 2009-11-24 | Immersion Corporation | Haptic feedback sensations based on audio output from computer devices |
AU2003230993A1 (en) * | 2002-04-25 | 2003-11-10 | Shazam Entertainment, Ltd. | Robust and invariant audio pattern matching |
JP4099576B2 (ja) * | 2002-09-30 | 2008-06-11 | ソニー株式会社 | 情報識別装置及び方法、並びにプログラム及び記録媒体 |
DE10259979A1 (de) * | 2002-12-19 | 2004-07-15 | Daimlerchrysler Ag | Verfahren zur Ermittlung eines Straßenzustands während des Fahrbetriebs eines Kraffahrzeugs |
US20040260540A1 (en) * | 2003-06-20 | 2004-12-23 | Tong Zhang | System and method for spectrogram analysis of an audio signal |
US20050049876A1 (en) * | 2003-08-28 | 2005-03-03 | Ian Agranat | Method and apparatus for automatically identifying animal species from their vocalizations |
JP4927453B2 (ja) * | 2005-08-01 | 2012-05-09 | フェニックス電機株式会社 | 高圧放電灯の点灯回路 |
US8000825B2 (en) | 2006-04-13 | 2011-08-16 | Immersion Corporation | System and method for automatically producing haptic events from a digital audio file |
US8378964B2 (en) * | 2006-04-13 | 2013-02-19 | Immersion Corporation | System and method for automatically producing haptic events from a digital audio signal |
US7979146B2 (en) * | 2006-04-13 | 2011-07-12 | Immersion Corporation | System and method for automatically producing haptic events from a digital audio signal |
JP4467601B2 (ja) * | 2007-05-08 | 2010-05-26 | ソニー株式会社 | ビート強調装置、音声出力装置、電子機器、およびビート出力方法 |
ES2322122B1 (es) * | 2009-02-10 | 2010-07-16 | Laboratorios Starga S.L. | Composicion cosmetica para el cuidado y reparacion de telangiectasias. |
FR2964761B1 (fr) * | 2010-09-14 | 2012-08-31 | Thales Sa | Dispositif d'interaction haptique et procede de generation d'effets haptiques et sonores |
KR101628396B1 (ko) | 2010-11-26 | 2016-06-08 | 현대자동차주식회사 | 차량용 햅틱 스크롤 휠 스위치 |
US9093120B2 (en) * | 2011-02-10 | 2015-07-28 | Yahoo! Inc. | Audio fingerprint extraction by scaling in time and resampling |
US8717152B2 (en) * | 2011-02-11 | 2014-05-06 | Immersion Corporation | Sound to haptic effect conversion system using waveform |
CN103477374B (zh) * | 2011-03-04 | 2016-08-17 | 索尼爱立信移动通讯有限公司 | 振动控制 |
US9083821B2 (en) * | 2011-06-03 | 2015-07-14 | Apple Inc. | Converting audio to haptic feedback in an electronic device |
US8493354B1 (en) | 2012-08-23 | 2013-07-23 | Immersion Corporation | Interactivity model for shared feedback on mobile devices |
US9268845B1 (en) * | 2012-03-08 | 2016-02-23 | Google Inc. | Audio matching using time alignment, frequency alignment, and interest point overlap to filter false positives |
US20140017641A1 (en) * | 2012-07-13 | 2014-01-16 | David J. Nowacki | Method and system for monitoring, verifying, measuring, reporting, rating and ranking company, industry and individual training, education, licensing, certification, or other trade, professional designations, or regulatory requirements. |
US9317044B2 (en) * | 2012-11-07 | 2016-04-19 | Crystal Instruments Corporation | Mechanical vibration system and control method with limited displacement |
US9128523B2 (en) * | 2012-12-20 | 2015-09-08 | Amazon Technologies, Inc. | Dynamically generating haptic effects from audio data |
US9898086B2 (en) * | 2013-09-06 | 2018-02-20 | Immersion Corporation | Systems and methods for visual processing of spectrograms to generate haptic effects |
-
2013
- 2013-10-11 US US14/051,933 patent/US9898086B2/en not_active Expired - Fee Related
-
2014
- 2014-09-03 JP JP2014178904A patent/JP6399865B2/ja not_active Expired - Fee Related
- 2014-09-03 KR KR20140116721A patent/KR20150028734A/ko active IP Right Grant
- 2014-09-05 CN CN201410452683.4A patent/CN104423591B/zh not_active Expired - Fee Related
- 2014-09-05 CN CN201811590413.4A patent/CN110096136A/zh active Pending
- 2014-09-08 EP EP14183976.1A patent/EP2846225B1/en not_active Not-in-force
- 2014-09-08 EP EP19187667.1A patent/EP3575932A1/en not_active Withdrawn
-
2018
- 2018-01-04 US US15/861,747 patent/US10338683B2/en not_active Expired - Fee Related
- 2018-09-04 JP JP2018165016A patent/JP6709261B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP6399865B2 (ja) | 2018-10-03 |
US10338683B2 (en) | 2019-07-02 |
KR20150028734A (ko) | 2015-03-16 |
CN104423591B (zh) | 2019-01-11 |
US20150070265A1 (en) | 2015-03-12 |
EP2846225B1 (en) | 2019-09-04 |
US9898086B2 (en) | 2018-02-20 |
JP2018206427A (ja) | 2018-12-27 |
EP3575932A1 (en) | 2019-12-04 |
EP2846225A3 (en) | 2015-04-22 |
CN110096136A (zh) | 2019-08-06 |
US20180136732A1 (en) | 2018-05-17 |
EP2846225A2 (en) | 2015-03-11 |
JP2015053049A (ja) | 2015-03-19 |
CN104423591A (zh) | 2015-03-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6709261B2 (ja) | スペクトログラムの視覚処理をして触覚効果を生成するためのシステム及び方法 | |
US10775895B2 (en) | Systems and methods for multi-pressure interaction on touch-sensitive surfaces | |
JP6516477B2 (ja) | ユーザ生成コンテンツをオーサリングするためのシステム及び方法 | |
US20220276713A1 (en) | Touch Display Device with Tactile Feedback | |
CN106125973B (zh) | 用于在触摸使能的显示器中提供特征的***和方法 | |
JP6392747B2 (ja) | ディスプレイ装置 | |
KR101885740B1 (ko) | 마찰 디스플레이에서 특징부를 제공하는 시스템 및 방법 | |
JP2015036977A (ja) | 触れていじるためのシステム及び方法 | |
KR20150028736A (ko) | 오디오 신호의 전이와 연관된 햅틱 효과를 생성하기 위한 시스템 및 방법 | |
US20180011538A1 (en) | Multimodal haptic effects | |
KR20170118864A (ko) | 곡면형 디스플레이와의 사용자 상호작용을 위한 시스템들 및 방법들 | |
JP6011605B2 (ja) | 情報処理装置 | |
JP2019032823A (ja) | 内部マイクロホンを使用してデバイスの加速度を決定するためのシステム及び方法 | |
CN104793736B (zh) | 电子装置及其控制方法 | |
JP2019220173A (ja) | 触覚アクチュエーションの差分光位置感知のシステムと方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180905 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180905 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190626 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190723 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20191021 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191125 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200512 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200522 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6709261 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |