JP6322780B1 - 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法 - Google Patents

触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法 Download PDF

Info

Publication number
JP6322780B1
JP6322780B1 JP2018507651A JP2018507651A JP6322780B1 JP 6322780 B1 JP6322780 B1 JP 6322780B1 JP 2018507651 A JP2018507651 A JP 2018507651A JP 2018507651 A JP2018507651 A JP 2018507651A JP 6322780 B1 JP6322780 B1 JP 6322780B1
Authority
JP
Japan
Prior art keywords
tactile
content
unit
information
audio signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018507651A
Other languages
English (en)
Other versions
JPWO2019111340A1 (ja
Inventor
理絵子 鈴木
理絵子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
FACETHERAPIE INC.
Original Assignee
FACETHERAPIE INC.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by FACETHERAPIE INC. filed Critical FACETHERAPIE INC.
Application granted granted Critical
Publication of JP6322780B1 publication Critical patent/JP6322780B1/ja
Publication of JPWO2019111340A1 publication Critical patent/JPWO2019111340A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される触質コンテンツを、各触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部10と、各触質パラメータの組み合わせを複数組順に指定することにより、複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する触質コンテンツ抽出部11と、当該抽出した複数の触質コンテンツの中から、繰り返しを構成している触質コンテンツ群を抽出して触覚コンテンツとする触覚コンテンツ生成部12とを備え、生成される触覚コンテンツを構成している複数の触質コンテンツの差異の連なりにより、意味を持った触覚効果を与え、触覚のメッセージ性(物語性)を受け手に明確に伝えることができるようにする。

Description

本発明は、所与の触覚効果を与える触覚コンテンツを生成する装置および方法、生成された触覚コンテンツを利用して音響コンテンツを生成する装置および方法、並びに、生成された音響コンテンツを再生する装置に関するものである。
従来、人間の五感を利用した様々な機器が提供されている。このうち、触覚を利用した機器の多くは、所定の振動を出力することによって、所与の効果を付与するようになされている。一例として、マッサージ器、美容器、振動アラーム、電動歯ブラシ、ゲーム機のコントローラ、振動フィードバック付きタッチパネルなどが知られている。
ここで、機器に与えられる振動は、その機器に求められる所与の効果を発揮しやすいものが設定される。例えば、マッサージ器であれば、人間の手による施術にできるだけ近い触感となるような振動が揉み玉に付与されるように設計されたものが多い。人の施術によるマッサージには、気持ちよいマッサージと気持ちよくないマッサージとがあるが、基本的にマッサージ器の開発は、気持ち良いマッサージを行うことを目的としてなされている。
この気持よいマッサージを行うことを目的としたマッサージ器の一例として、再生されている音楽の音の高低、大小、リズムおよびメロディの抑揚に合わせて、特定のマッサージを対応して実行するものが知られている(例えば、特許文献1参照)。この特許文献1に記載のマッサージ器によれば、使用者は、音楽と同調したマッサージを受けることができ、心身のリラクゼーションに効果を発揮する。
また、発明者は、マッサージの施術のし方を五線譜と音符とにより表した「触譜」というものを考案している(例えば、非特許文献1,2参照)。触譜では、五線譜の音の高低がマッサージの圧力に対応し、音符がマッサージのリズムに対応する。例えば、熟練の施術者が行っている施術方法を触譜に記述することにより、熟練の施術者がどのようなイメージをもって、どのような順序で施術をしているのかを可視化することが可能となる。
なお、マッサージに限らず、音声信号を触覚効果の情報に変換して利用するようにしたシステムが他にも知られている(例えば、特許文献2,3参照)。特許文献2に記載の触覚効果生成システムは、音声信号に関係付けられるエンベロープを決定し、エンベロープに基づいて触覚効果(例えば、タッチスクリーンまたはタッチパッドのタッチ面を動かす振動触覚効果)を決定し、当該触覚効果に関係付けられる触覚信号(例えば、アクチュエータの駆動信号)を出力するように構成されている。
また、特許文献3に記載のシステムでは、マイクロフォンから入力した音声信号の特徴(周波数、振幅、継続期間など)を判断し、当該特徴の少なくとも一部に基づいて、特徴に関連した触覚効果ライブラリから触覚効果を識別することによって、当該特徴に関連した触覚効果をアクチュエータに出力させるためのアクチュエータ信号を生成する。
特開2005−130883号公報 特開2015−53053号公報 特開2015−156229号公報 Tactile Score, Springer Verlag:Yasuhiro Suzuki and Rieko Suzuki,2013 「情報を生み出す触覚の知性:情報社会をいきるための感覚のリテラシー」p155-p167 渡邊淳司著 2014年12月22日発行
上述のように、音声を触覚効果(振動など)に変換する技術は種々提案されている。しかしながら、触覚効果を受ける人がそれを心地よい、気持ち良いなどと感じるためには、音声をただ触覚効果に変換すればよいというわけではない。すなわち、人間の感性に訴えるような、意味のある触覚効果に変換することが望まれる。「意味のある触覚効果」とは、それを受ける人に対して何らかのメッセージを伝えることができるような触覚効果のことである。
本発明は、このような問題を解決するために成されたものであり、受け手にとって意味のあるメッセージを触覚効果によって伝えることが可能な触覚コンテンツを生成できるようにすることを目的とする。また、本発明は、このようにして生成した触覚コンテンツを利用して、従来型の単なる音声信号では伝えることができない触覚効果を持たせた、受け手にとって意味のあるメッセージを含んだ新たな音響コンテンツを生成できるようにすることを目的とする。
上記した課題を解決するために、本発明では、それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部を備えている。そして、n個の触質パラメータの組み合わせを複数組順に指定することにより、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部から順に抽出し、当該抽出した複数の触質コンテンツの中から、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成するようにしている。
上記のように構成した本発明によれば、n個の触質パラメータの組み合わせを複数組指定することにより、複数の触質コンテンツが抽出される。ここで、それぞれの触質コンテンツは、それぞれに固有の触覚効果を付与することが可能なものであるから、順に抽出される複数の触質コンテンツの差異の連なりにより、その連なりに固有の意味を持った触覚効果を有するものといえる。さらに、本発明では、繰り返しを構成している触質コンテンツ群だけが更に抽出されて触覚コンテンツとされるため、生成される触覚コンテンツは、触質コンテンツの繰り返しによって触覚のメッセージ性(物語性)が受け手に明確に伝えられるものとなっている。このように、本発明によれば、受け手にとって意味のあるメッセージを触覚効果によって伝えることが可能な触覚コンテンツを生成することができる。
本実施形態による触覚コンテンツ生成装置の基本構成例を示す機能ブロック図である。 本実施形態の触質コンテンツ記憶部が記憶する触質コンテンツの記憶例を模式的に示す図である。 本実施形態の触覚コンテンツ生成部による繰り返しパターンの判定アルゴリズムを説明するための図である。 図1のように構成した触覚コンテンツ生成装置の動作例を示すフローチャートである。 外部入力信号の解析機能を加えた本実施形態による触覚コンテンツ生成装置の機能構成例を示すブロック図である。 本実施形態の触質パラメータ特定部による処理内容を説明するための図である。 図5のように構成した触覚コンテンツ生成装置の動作例を示すフローチャートである。 本実施形態による音響コンテンツ生成装置の機能構成例を示す機能ブロック図である。 本実施形態による振動波形加工部の機能構成例を示すブロック図である。 本実施形態の特徴抽出部および重み情報生成部の処理内容を説明するための図である。 本実施形態の音響コンテンツ生成部により生成される音響コンテンツを示す図である。 本実施形態による音響コンテンツ生成装置の動作例を示すフローチャートである。 本実施形態による音響コンテンツ生成装置の他の機能構成例を示す機能ブロック図である。 本実施形態による音響再生装置の機能構成例を示す機能ブロック図である。
(触覚コンテンツ生成装置および触覚コンテンツ生成方法)
以下、本発明の触覚コンテンツ生成装置および触覚コンテンツ生成方法に関する一実施形態を図面に基づいて説明する。
図1は、本実施形態による触覚コンテンツ生成装置100の基本構成例を示す機能ブロック図である。図1に示すように、本実施形態の触覚コンテンツ生成装置100は、記憶媒体として触質コンテンツ記憶部10を備えている。また、本実施形態の触覚コンテンツ生成装置100は、その機能構成として、触質コンテンツ抽出部11および触覚コンテンツ生成部12を備えている。
上記各機能ブロック11,12は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック11,12は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
触質コンテンツ記憶部10は、それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、n個の触質パラメータの組み合わせに対応付けて記憶する。本実施形態では、n=2の例を示す。また、2個の触質パラメータとして、情報の強度に関する第1の触質パラメータと、情報の分割区間の長さに関する第2の触質パラメータとを用いる例を示す。強度および分割区間の長さは、何れも触感の一要素を成すものである。
すなわち、本実施形態において、触質コンテンツ記憶部10は、情報の強度に関する第1の触質パラメータおよび情報の分割区間の長さに関する第2の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、第1の触質パラメータおよび第2の触質パラメータの組み合わせに対応付けて記憶する。触質パラメータとは、例えば<硬い−柔らかい>、<粗い−滑らか>のように対立する触質(以下、触質対という)の程度を表すパラメータである。
例えば、<硬い−柔らかい>という触質対に関する触質パラメータとして、情報の強度を用いることが可能である。すなわち、強度を表す値が大きいほど硬いことを表し、強度を表す値が小さいほど柔らかいことを表す。また、<粗い−滑らか>という触質対に関する触質パラメータとして、情報の分割区間の長さを用いることが可能である。すなわち、長さを表す値が大きいほど滑らかであることを表し、長さを表す値が小さいほど粗いことを表す。
図2は、触質コンテンツ記憶部10が記憶する触質コンテンツの記憶例を模式的に示す図である。図2は、縦軸に第1の触質パラメータとしての「強度」をとり、横軸に第2の触質パラメータとしての「分割区間の長さ」をとって表したマトリクス状の触質対空間を示している。図2の例では、第1の触質パラメータ(強度)で表される触質対として<硬い−柔らかい>を用い、第2の触質パラメータ(分割区間の長さ)で表される触質対として<粗い−滑らか>を用いたものを示している。
図2の例では、強度の最大値から最小値までを5段階に分けるとともに、分割区間の長さの最大値から最小値までを5段階に分けることにより、25個のマトリクス空間を形成している。25個のマトリクス空間には、それぞれ1番〜25番のインデックス番号が付与されている。触質コンテンツ記憶部10は、これら25個のマトリクス空間内にそれぞれ、強度および分割区間の長さの組み合わせに応じた触質コンテンツを記憶する。
ここで記憶する触質コンテンツは、人が触感を得ることが可能な情報である。触質コンテンツの典型例として、振動情報が挙げられる。触質コンテンツとして振動情報を記憶する場合、例えばインデックス番号“1”の位置には、強度が最大で分割区間の長さが最小の振動情報、つまり、最も硬くて最も粗いというイメージを伝達可能な振動情報が記憶される。また、例えばインデックス番号“25”の位置には、強度が最小で分割区間の長さが最大の振動情報、つまり、最も柔らかくても最も滑らかというイメージを伝達可能な振動情報が記憶される。
なお、触質コンテンツを特定するための2組の触質対として何を用いるかは、本実施形態の触覚コンテンツ生成装置100において生成する触覚コンテンツの用途に応じて任意に定めることが可能である。すなわち、ここでは2組の触質対として<硬い−柔らかい>および<粗い−滑らか>を用いているが、本発明はこれに限定されない。例えば、触質対の別の例として、<大きい−小さい>、<鋭い−鈍い>、<重い−軽い>、<ざらざら−つるつる>などを用いてもよい。
また、ここでは触質コンテンツ記憶部10に記憶する触質コンテンツとして振動情報を用いているが、本発明はこれに限定されるものではない。触質コンテンツの別の例として、機器を駆動するアクチュエータの駆動情報、様々な製品に用いる材料で人の肌触りに影響する材質情報などが考えられる。
なお、図1では、触覚コンテンツ生成装置100が触質コンテンツ記憶部10を備える構成を示したが、触質コンテンツ記憶部10は触覚コンテンツ生成装置100の外部に備え、触覚コンテンツ生成装置100が外部の触質コンテンツ記憶部10から触質コンテンツを取得して利用できる構成としてもよい(後述する触覚コンテンツ生成装置100’も同様)。
例えば、触覚コンテンツ生成装置100の外部にある触質コンテンツ記憶部10は、触覚コンテンツ生成装置100に着脱可能なリムーバル記憶媒体により構成される。または、触覚コンテンツ生成装置100の外部にある触質コンテンツ記憶部10は、触覚コンテンツ生成装置100に通信ネットワークを介して接続された外部機器(例えば、外部ストレージ、サーバなど)により構成される。
触質コンテンツ抽出部11は、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する。第1の触質パラメータおよび第2の触質パラメータの指定は、所望の触覚コンテンツを生成したいユーザが手動で指定することが可能である。
例えば、触質コンテンツ抽出部11は、図2に例示したマトリクスをコンピュータの画面上に表示させ、タッチパネルやマウス等の操作デバイスを用いてユーザに所望の位置を順に指定させることにより、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定する。この場合、触質コンテンツ抽出部11は、マトリクス上で順に指定された位置に対応する触質コンテンツを順次触質コンテンツ記憶部10から抽出する。
第1の触質パラメータおよび第2の触質パラメータの指定を、触質コンテンツ抽出部11が自動的に行うようにすることも可能である。例えば、触質コンテンツ抽出部11がランダムに、あるいは所定の規則に従って第1の触質パラメータおよび第2の触質パラメータの組み合わせを順次指定するようにすることが可能である。
あるいは、外部入力信号を解析することより、当該外部入力信号から特定された第1の触質パラメータおよび第2の触質パラメータを触質コンテンツ抽出部11が入力することによって、第1の触質パラメータおよび第2の触質パラメータの組み合わせを順次指定するようにすることも可能である。なお、これに関する具体例は後述する。
触覚コンテンツ生成部12は、触質コンテンツ抽出部11により順に抽出された複数の触質コンテンツが、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを有するか否かを判定し、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する。繰り返しを構成している触質コンテンツ群は、受け手に対して意味のあるメッセージを伝えることが可能な情報であり、本実施形態ではこれを触覚コンテンツとして生成するようにしている。その理由を以下に説明する。
触覚によって何らかのメッセージを人に伝える場合、第1に、触感に差異を作ることが大事である。例えば、人は、ずっと同じ圧力を受け続けると圧力を感じなくなるが、圧力に差異を作ると、より強く圧力を感じるようになる。そして、その差異の連なりから、ある種のメッセージを表現することが可能となる。例えば、図2に示したマトリクス空間において、インデックス番号が20番の触質コンテンツと25番の触質コンテンツとを順に抽出すると、比較的弱い強度で長い時間をかけてゆったりと強度が変化するという差異が生じ、この差異によって「柔らかくて滑らか」な感じというメッセージを表現することが可能となる。
第2に、上記のような触感の差異を2回以上繰り返すことにより、それが何か特別なもの(偶然ではないもの)という印象を人に与えることができる。すなわち、20番の触質コンテンツと25番の触質コンテンツとを順に1回ずつ抽出するだけなく、20番→25番→20番→25番のように2回以上繰り返すことにより、差異によって生じるメッセージをより強く伝えることが可能となる。なお、ここでは2つの触質コンテンツが繰り返される例を示したが、3つ以上の触質コンテンツが繰り返されるものも触覚コンテンツとなる。
なお、触覚コンテンツ生成部12により生成された触覚コンテンツは、例えば、触覚コンテンツ生成装置100が備える記憶媒体、あるいは触覚コンテンツ生成装置100に着脱可能なリムーバル記憶媒体に保存される。または、触覚コンテンツ生成装置100に通信ネットワークを介して接続された外部機器(例えば、外部ストレージ、サーバなど)に触覚コンテンツを送信して保存するようにしてもよい。このように保存された触覚コンテンツは、その後、様々な製品や様々な用途に利用することが可能である。
例えば、振動を媒体として所与の機能を発揮する各種製品(一例として、マッサージ器、美容器、ヘアブラシの柄、電動歯ブラシ、玩具、携帯電話のバイブレータ等)、アクチュエータによる部材の動きを媒体として所与の機能を発揮する各種製品(一例として、マッサージ器等)、触感を媒体として所与の機能を発揮する各種製品(一例として、衣類、ベッド、寝具、家具、建具、その他、人体が触れることのある各種機器)などに対し、本実施形態の触覚コンテンツ生成装置100により生成した触覚コンテンツを利用することが可能である。
例えば、触覚コンテンツをマッサージ器に利用する場合、マッサージ器の揉み玉を振動、回転あるいは移動させるために必要なアクチュエータの駆動情報を触質コンテンツとして触質コンテンツ記憶部10に記憶しておく。このようにすれば、触質コンテンツ記憶部10から抽出した触質コンテンツをもとに生成した触覚コンテンツは、繰り返しのパターンから成る駆動情報そのものであり、マッサージ器の揉み玉を制御するための情報として利用することが可能である。
また、触覚コンテンツを超音波美顔器に利用する場合、超音波を出力させるための振動情報を触質コンテンツとして触質コンテンツ記憶部10に記憶しておく。このようにすれば、触質コンテンツ記憶部10から抽出した触質コンテンツをもとに生成した触覚コンテンツは、繰り返しのパターンから成る超音波振動情報そのものであり、超音波美顔器における超音波出力を制御するための情報として利用することが可能である。
以下に、触覚コンテンツ生成部12による繰り返しパターンの判定アルゴリズムの一例を説明する。図3は、触覚コンテンツ生成部12による繰り返しパターンの判定アルゴリズムを説明するための図である。図3(a)は、触質コンテンツ抽出部11により順に抽出された10個の触質コンテンツのインデックス番号の順列を示している。
触覚コンテンツ生成部12は、まず、触質コンテンツ抽出部11により抽出された先頭のインデックス番号をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出する。ここで、パターンとは、2つ以上の異なるインデックス番号(それにより示される触質コンテンツ)の組み合わせをいうものとする。
例えば、keyと同じインデックス番号が連続する場合(例えば、“11”のようなケース)、「2つ以上の異なる」という制限を設けることなく、keyと同じインデックス番号が出現する直前までをパターンとして抽出すると、最初の1つ目のインデックス番号“1”だけがパターンとして抽出されることになる。本実施形態では、このような1つのインデックス番号のみから成るものをパターンとしては抽出しない。これをパターンとして抽出すると、“11”は“1”が2回繰り替えされている触覚コンテンツとなってしまうが、これだと触質コンテンツの連なりに差異がないので、触覚コンテンツとしては不適だからである。
触覚コンテンツ生成部12は、1つのパターンを抽出したら、次に、当該抽出したパターンの次のインデックス番号をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして新たに抽出する。触覚コンテンツ生成部12は、以上の処理を、触質コンテンツ抽出部11により順に抽出されたインデックス番号の最後まで行う。
なお、先頭のインデックス番号をkeyとして、最後のインデックス番号まで探索を行っても、そのkeyと同じインデックス番号が見つからない場合は、先頭から2番目のインデックス番号をkeyに設定し直して、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出する。この処理は、パターンが見つかるまで、keyを変えながら繰り返し行う。図3(b)は、このようなパターン抽出処理を行った結果を示している。
図3の例では、まず、先頭のインデックス番号“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出している。これにより、“123”が1つ目のパターンとして抽出されている。次に、抽出した1つ目のパターンの次のインデックス番号(4番目のインデックス番号)“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出している。これにより、“123”が2つ目のパターンとして抽出されている。
次に、抽出した2つ目のパターンの次のインデックス番号(7番目のインデックス番号)“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出している。これにより、“14”が3つ目のパターンとして抽出されている。さらに、抽出した3つ目のパターンの次のインデックス番号(9番目のインデックス番号)“1”をkeyとして、当該keyと同じインデックス番号が出現する直前までをパターンとして抽出しようとしたが、同じインデックス番号はみつからず、残りの “13”が4つ目のパターンとして抽出されている。
図3の例では、“123”のパターンが2回繰り返されている。よって、触覚コンテンツ生成部12は、この繰り返しを構成している触質コンテンツ群“123123”を抽出し、これを触覚コンテンツとして生成する。
なお、図3の例では、図3(c)に示すように、2番目のインデックス番号“2”をkeyとして設定すると、“231”というパターンの繰り返しを抽出することができる。そこで、触覚コンテンツ生成部12は、keyの設定位置を先頭から順に変えながらパターン抽出処理を行うことにより、繰り返しを構成している複数の触質コンテンツ群“123123”、“231231”を抽出し、これらを触覚コンテンツとして生成するようにしてもよい。また、インデックス番号の全てを順次keyに設定して、繰り返しパターンの判定処理を行うようにしてもよい。
なお、ここでは、触質コンテンツ抽出部11により抽出された触質コンテンツが10個の場合における繰り返しパターンの判定例を説明したが、触質コンテンツが多数の場合もある。そこで、触覚コンテンツ生成部12は、触質コンテンツ抽出部11により順に抽出された複数の触質コンテンツを先頭から所定数毎に区切ってグループ化し、グループ毎に繰り返しパターンの判定処理を行うようにしてもよい。
図4は、図1のように構成した触覚コンテンツ生成装置100の動作例を示すフローチャートである。まず、触質コンテンツ抽出部11は、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定する(ステップS1)。上述したように、この指定方法は任意であるが、例えば、ユーザによるタッチパネルやマウス等の操作に応じて、触質コンテンツ抽出部11が第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組順に指定する。
次に、触質コンテンツ抽出部11は、指定した複数組のパラメータの組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する(ステップS2)。次いで、触覚コンテンツ生成部12は、触質コンテンツ抽出部11により順に抽出された複数の触質コンテンツが繰り返しのパターンを有するか否かを判定する(ステップS3)。そして、触覚コンテンツ生成部12は、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する(ステップS4)。
以下に、外部入力信号を解析することより、第1の触質パラメータおよび第2の触質パラメータの組み合わせを指定する例について説明する。図5は、外部入力信号の解析機能を加えた触覚コンテンツ生成装置100’の機能構成例を示すブロック図である。なお、この図5において、図1に示した符号と同一の符号を付したものは同一の機能を有するものであるので、ここでは重複する説明を省略する。
図5に示す例において、触覚コンテンツ生成装置100’は、その機能構成として、対象情報入力部13および触質パラメータ特定部14を更に備えている。また、触質コンテンツ抽出部11に代えて触質コンテンツ抽出部11’を備えている。
対象情報入力部13は、強度に相当する値が連続的または断続的に連なって成る対象情報を入力する。当該対象情報の一例として、本実施形態では時系列の波形情報を入力する。ここで入力する波形情報は、アナログ信号でもよいし、デジタルデータでもよい。また、入力する波形情報は、時間の経過と共に振幅が変化する情報であればよく、その種類は任意である。例えば、音声信号、映像信号、地震計・風力計・光量計など各種計測機器の測定信号、オシロスコープによる波形測定データ、株価変動データなどが挙げられるが、これらは一例に過ぎない。
触質パラメータ特定部14は、対象情報入力部13により入力された波形情報を時間軸方向に複数に分割し、それぞれの分割区間から、第1の触質パラメータとして振幅を特定するとともに、第2の触質パラメータとして分割区間の時間の長さを特定する。このとき、前処理として、波形情報にローパスフィル処理を施すことにより、入力された波形情報のエンベロープを抽出し、当該エンベロープを対象として、複数の分割区間から第1の触質パラメータ(振幅)および第2の触質パラメータ(分割区間の時間の長さ)を特定するようにしてもよい。
図6は、触質パラメータ特定部14による処理内容の一例を説明するための図である。図6は、対象情報入力部13により入力された波形情報(または、触質パラメータ特定部14により前処理としてローパスフィルタ処理が施されたエンベロープ波形情報)を示している。
触質パラメータ特定部14は、まず、図6に示す波形情報を時間軸方向に複数に分割する。図6では一例として、波形の振幅が極小となる時間毎に分割している。すなわち、波形の開始点から1つ目の極小値までを第1の分割区間T1、1つ目の極小値から2つ目の極小値までを第2の分割区間T2、2つ目の極小値から3つ目の極小値までを第3の分割区間T3、・・・のように、波形情報を時間軸方向に複数に分割している。
なお、波形情報の分割のし方は、図6に示した例に限定されない。例えば、波形の振幅が極大となる時間毎に波形情報を複数の区間に分割するようにしてもよい。あるいは、正の値の振幅および負の値の振幅がある波形情報の場合は、振幅値がゼロとなる時間毎に波形情報を複数の区間に分割するようにしてもよい。
触質パラメータ特定部14は、それぞれの分割区間T1,T2,T3,・・・から、第1の触質パラメータとして代表振幅h1,h2,h3,・・・を特定するとともに、第2の触質パラメータとして分割区間の時間の長さt1,t2,t3,・・・を特定する。ここで、代表振幅h1,h2,h3,・・・は、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が大きい方と、分割区間T1,T2,T3,・・・における極大値との差分の値を示している。
すなわち、分割区間T1に関しては、極小値が1つしかないので、この極小値と極大値との差分が代表振幅h1となる。分割区間T2に関しては、当該区間の開始点の極小値の方が終了点の極小値よりも大きいので、開始点の極小値と極大値との差分が代表振幅h2となる。分割区間T3に関しては、当該区間の開始点の極小値よりも終了点の極小値の方が大きいので、終了点の極小値と極大値との差分が代表振幅h3となる。
なお、ここで示した代表振幅の特定方法は一例であり、これに限定されるものではない。例えば、それぞれの分割区間T1,T2,T3,・・・における開始点の極小値または終了点の極小値のうち値が小さい方と、分割区間T1,T2,T3,・・・における極大値との差分を代表振幅として特定するようにしてもよい。
また、正の値の振幅および負の値の振幅がある波形情報を、振幅値がゼロとなる時間毎に分割した場合は、各分割区間における正の極大値または負の極小値を第1の触質パラメータの代表振幅として特定するようにしてもよい。ここで、負の極小値に関しては、その絶対値を第1の触質パラメータの代表振幅として特定するようにしてもよい。
また、触質コンテンツ抽出部11’は、触質パラメータ特定部14によりそれぞれの分割区間から特定された第1の触質パラメータ(振幅)および第2の触質パラメータ(分割区間の時間の長さ)の組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する。
すなわち、触質コンテンツ抽出部11’は、各分割区間T1,T2,T3,・・・から特定された代表振幅および分割区間の長さの組み合わせ{h1,t1},{h2,t2},{h3,t3},・・・を指定する。そして、図2に示した触質コンテンツのマトリクス空間上において、上記指定したそれぞれの組み合わせに対応する触質コンテンツを順に抽出する。
図7は、上記のように構成した本実施形態による触覚コンテンツ生成装置100’の動作例を示すフローチャートである。まず、対象情報入力部13は、時系列の波形情報を入力する(ステップS11)。次に、触質パラメータ特定部14は、対象情報入力部13により入力された波形情報にローパスフィル処理を施すことにより、波形情報のエンベロープを抽出する(ステップS12)。
次いで、触質パラメータ特定部14は、エンベロープ波形情報を時間軸方向に複数に分割し(ステップS13)、それぞれの分割区間から、第1の触質パラメータとして振幅を特定するとともに、第2の触質パラメータとして分割区間の時間の長さを特定する(ステップS14)。
次に、触質コンテンツ抽出部11’は、触質パラメータ特定部14によりそれぞれの分割区間から特定された振幅および分割区間の時間の長さの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを触質コンテンツ記憶部10から順に抽出する(ステップS15)。
さらに、触覚コンテンツ生成部12は、触質コンテンツ抽出部11’により順に抽出された複数の触質コンテンツが繰り返しのパターンを有するか否かを判定する(ステップS16)。そして、触覚コンテンツ生成部12は、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する(ステップS17)。
以上詳しく説明したように、本実施形態によれば、第1の触質パラメータおよび第2の触質パラメータの組み合わせを複数組指定することにより、触質コンテンツ記憶部10から複数の触質コンテンツが抽出され、その中からさらに、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを構成している触質コンテンツ群が抽出されて触覚コンテンツとして生成される。このようにして生成した触覚コンテンツを様々な媒体を通じて人に伝達することにより、繰り返される複数の触質コンテンツの差異の連なりにより、意味を持った触覚効果を与え、触覚のメッセージ性(物語性)を受け手に明確に伝えることができる。
なお、上記実施形態では、触質コンテンツ記憶部10より抽出した複数の触質コンテンツの中から、1種類の繰り返しパターンから成る触質コンテンツ群を抽出し、抽出した触質コンテンツ群をそのまま触覚コンテンツとする例について説明したが、本発明はこれに限定されない。例えば、複数種類の繰り返しパターンから成る触質コンテンツ群を抽出し、これらを組み合わせることによって触覚コンテンツを生成するようにしてもよい。
また、上記実施形態では、1つのインデックス番号をKeyに設定して、そのKeyと同じインデックス番号が出現する直前までをパターンとして抽出する例について説明したが、本発明はこれに限定されない。例えば、複数のインデックス番号の組み合わせをKeyに設定して、そのKeyと同じインデックス番号の組み合わせが出現する直前までをパターンとして抽出するようにしてもよい。
また、上記実施形態では、例えば図3(b)のように“123|123”とパターンの繰り返しが検出された場合に、その繰り返しを構成している触質コンテンツ群“123123”を触覚コンテンツとして生成する例について説明したが、本発明はこれに限定されない。例えば、“123”を任意の数だけ組み合わせたものを触覚コンテンツとして生成するようにしてもよい。
また、“123”の順序をサイクリックに置き換えたもの(“231”または“312”)を生成し、これを組み合わせたものを触覚コンテンツとして生成するようにしてもよい。ここで、“231231”や “312312”のように、同一のパターンを組み合わせて触覚コンテンツを生成してもよいし、“123231312”のように、異なるパターンを任意に組み合わせて触覚コンテンツを生成するようにしてもよい。
また、上記実施形態では、対象情報入力部13により入力する対象情報として、強度に相当する値が連続的または断続的に連なっている形態の波形情報を扱う例について説明したが、元々がそのような形態になっていない情報を当該形態に変換した情報を入力するようにしてもよい。
例えば、音声信号の場合、ある程度の時間的な長さを持ったものであれば、強度に相当する値が連続的または断続的に連なっているものといえる。一方、一瞬で終わる音の場合、振幅は存在するが、時間軸に沿って複数に分割可能な長さを持たない。しかし、その瞬時音を周波数解析して周波数軸の信号に変換すると、周波数毎に異なる振幅を持った情報、つまり、強度に相当する振幅が周波数軸に沿って連なった情報となるため、対象情報入力部13において入力可能な情報となる。その他、周波数スペクトル情報、ヒストグラム情報、画像情報、動画情報、テキスト情報、物体の動きを表す動作情報なども、対象情報入力部13より対象情報として入力し得る。
また、上記実施形態では、図2に示すように、横軸に分割区分の長さをとる例について説明したが、当該長さの逆数を取るようにしてもよい。
また、上記実施形態では、n=2とし、2個の触質パラメータとして、情報の強度に関する第1の触質パラメータと、情報の分割区間の長さに関する第2の触質パラメータとを特定する例について説明したが、nは3以上であってもよい。なお、n≧3とする場合、図2のような2次元状のマトリクス空間ではなく、3階層以上のn次元階層空間として、n個の触質パラメータの組み合わせに対応する触質コンテンツをそれぞれ記憶することになる。
また、上記実施形態では、情報の強度に関する第1の触質パラメータと、情報の分割区間の長さに関する第2の触質パラメータとの両方を特定する例について説明したが、何れか一方のみとしてもよい。
すなわち、触質パラメータ特定部14は、対象情報入力部13により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する第1の触質パラメータおよび分割区間の長さに関する第2の触質パラメータの少なくとも一方を用いて、n個(n≧2)の触質パラメータを特定することが可能である。
例えば、n=3とする場合、第1の触質パラメータを1個または2個特定するとともに、第2の触質パラメータを2個または1個特定するといったことが可能である。あるいは、第1の触質パラメータとして異なるものを3個特定するようにしてもよいし、第2の触質パラメータとして異なるものを3個特定するようにしてもよい。
情報の強度に関する第1の触質パラメータだけでn個の触質パラメータを特定する場合、例えば、対象情報入力部13によりn種の対象情報を入力するようにする。そして、触質パラメータ特定部14は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第1の触質パラメータを1個ずつ特定することにより、n個の第1の触質パラメータの組み合わせを複数組特定する。
一例として、対象情報入力部13が、触質変換対象の情報として、心拍、加速度(身体の動き)、血流量の3種の情報に関して以下のようなデジタル値を入力したとする。
心拍 :79,60,79,75,74,79,75
加速度:40,10,30,40,35,40,20
血流量:80,60,40,60,80,60,80
この場合、触質パラメータ特定部14は、入力された3種の対象情報をそれぞれ入力値ごとに分割し、3種の対象情報のそれぞれの分割区間から、第1の触質パラメータを特定することにより、3個の第1の触質パラメータの組み合わせを以下のように特定する。
{79,40,80},{60,10,60},{79,30,40},・・・
また、情報の分割区間の長さに関する第2の触質パラメータだけでn個の触質パラメータを特定する場合も、例えば、対象情報入力部13によりn種の対象情報を入力するようにする。そして、触質パラメータ特定部14は、入力されたn種の対象情報をそれぞれ複数に分割し、n種の対象情報のそれぞれの分割区間から、第2の触質パラメータを1個ずつ特定することにより、n個の第2の触質パラメータの組み合わせを複数組生成する。
一例として、対象情報入力部13が、心拍、加速度、血流量の3種の情報に関して、上記と同様のデジタル値を入力したとする。この場合、触質パラメータ特定部14は、例えば、同じ値が入力されるまでを単位として3種の対象情報をそれぞれ分割し、3種の対象情報のそれぞれの分割区間から、第2の触質パラメータを特定することにより、3個の第2の触質パラメータの組み合わせを複数組特定する。
上記の例の場合、心拍に関して、最初の“79”と同じ値が次に現れるのは2つ後、その次に同じ値が現れるのは更に3つ後なので、分割区間の長さは2,3となる。加速度に関して、最初の“40” と同じ値が次に現れるのは3つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは3,2となる。血流量に関して、最初の“80”と同じ値が次に現れるのは4つ後、その次に同じ値が現れるのは更に2つ後なので、分割区間の長さは4,2となる。この場合、触質パラメータ特定部14は、第2の触質パラメータの組み合わせを{2,3,4},{3,2,2}のように特定する。
なお、ここでは、複数種類の触質変換対象の情報としてデジタル値を入力する例について説明したが、アナログ信号を入力するようにしてもよいことは言うまでもない。この場合、強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの特定法は、上記実施形態で説明した方法を適用することが可能である。
また、ここでは、強度に関する触質パラメータ、あるいは分割区間の長さに関する触質パラメータの何れか一方のみを、複数種類の触質変換対象の入力情報から特定する例について説明したが、1種類の対象情報から特定するようにしてもよい。例えば、上記実施形態と同様にして1種類の対象情報を複数の区間に分割し、それぞれの分割区間から、強度に関する触質パラメータを複数特定するようにしてもよい(例えば、強度の最大値と最小値をそれぞれ触質パラメータとするなど)。また、1種類の対象情報を複数の区間に分割する際に、異なる方法に従って複数の区間に分割し、それぞれの方法で分割した分割区間の長さを触質パラメータとするようにしてもよい。
また、ここでは、複数種類の触質変換対象の入力情報から、強度に関する触質パラメータだけ、あるいは分割区間の長さに関する触質パラメータだけを特定する例について説明したが、本発明はこれに限定されない。例えば、複数種類の触質変換対象の入力情報から、強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの両方を組み合わせて特定するようにしてもよい。
(音響コンテンツ生成装置および音響コンテンツ生成方法)
次に、本発明の音響コンテンツ生成装置および音響コンテンツ生成方法に関する一実施形態を図面に基づいて説明する。
図8は、本実施形態による音響コンテンツ生成装置200の機能構成例を示す機能ブロック図である。図8に示すように、本実施形態の音響コンテンツ生成装置200は、その機能構成として、触覚コンテンツ取得部21、音声信号取得部22、振動波形加工部23および音響コンテンツ生成部24を備えている。また、本実施形態の音響コンテンツ生成装置200には、触覚コンテンツ記憶部201および音声信号記憶部202が接続されている。
上記各機能ブロック21〜24は、ハードウェア、DSP、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック21〜24は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
触覚コンテンツ記憶部201は、図1または図5のように構成した触覚コンテンツ生成装置100,100’により生成された触覚コンテンツを記憶する。本実施形態では、触覚コンテンツ記憶部201は、図1または図5の触質コンテンツ記憶部10に記憶する触質コンテンツとして振動情報を用いた場合に、触覚コンテンツ生成装置100,100’により振動情報として生成される触覚コンテンツを記憶する。触覚コンテンツ記憶部201が記憶する触覚コンテンツは、2つ以上の異なる触質コンテンツ(振動情報)の組み合わせから成るパターンの繰り返しを有する触質コンテンツ群から成る時系列の波形情報である。
なお、触覚コンテンツ記憶部201は、図1または図5に示した触覚コンテンツ生成装置100,100’が内部に備える記憶媒体であってもよいし、触覚コンテンツ生成装置100,100’の外部にあるパーソナルコンピュータやスマートフォン、タブレット端末などの情報処理機器、あるいはリムーバル記憶媒体であってもよい。また、触覚コンテンツ記憶部201は、音響コンテンツ生成装置200に通信ネットワークを介して接続された外部機器(例えば、外部ストレージ、サーバなど)であってもよい。
音声信号記憶部202は、任意の音声信号の波形情報を記憶する。例えば、音声信号記憶部202は、任意の音楽の楽曲を表した音声信号の波形情報を記憶する。音声信号記憶部202が記憶する音声信号の波形情報は、アナログ信号でもよいし、デジタルデータでもよい。なお、音声信号記憶部202は、音響コンテンツ生成装置200の外部にあるパーソナルコンピュータやスマートフォン、タブレット端末などの情報処理機器、あるいはリムーバル記憶媒体として構成することが可能である。また、音声信号記憶部202は、音響コンテンツ生成装置200に通信ネットワークを介して接続された外部機器(例えば、外部ストレージ、サーバなど)であってもよい。
触覚コンテンツ取得部21は、触覚コンテンツ記憶部201に記憶された触覚コンテンツ、すなわち、上述したように、図1または図5の触覚コンテンツ生成装置100,100’により振動情報である触質コンテンツから生成された触覚コンテンツを取得する。音声信号取得部22は、音声信号記憶部202に記憶された音声信号を取得する。
振動波形加工部23は、音声信号取得部22により取得された音声信号の波形情報に基づいて、触覚コンテンツ取得部21により取得された触覚コンテンツの波形情報を加工する。なお、触覚コンテンツ取得部21により取得される触覚コンテンツの波形情報の全時間長と、音声信号取得部22により取得される音声信号の波形情報の全時間長とが同じでない場合がある。この場合、振動波形加工部23は、触覚コンテンツの波形情報を、その全時間長が音声信号の波形情報の全時間長と同じとなるように前加工をした上で、後述する本加工を行う。
なお、前加工は、例えば、触覚コンテンツ取得部21により取得された触覚コンテンツの波形情報を繰り返し繋げていき、音声信号の波形情報の全時間長と同じになったところでカットする処理とすることが可能である。あるいは、前加工は、触覚コンテンツ取得部21により取得された触覚コンテンツの波形情報のピッチを伸長する処理としてもよい。ただし、触覚コンテンツの波形情報のピッチを変えると、触覚コンテンツが有するメッセージ性が変わってしまう可能性があるので、前者の方法を用いるのが好ましい。
なお、触覚コンテンツ取得部21により取得される触覚コンテンツの波形情報の全時間長と、音声信号取得部22により取得される音声信号の波形情報の全時間長とを必ずしも合わせなくてもよい。例えば、音声信号の波形情報の全時間長のうち、特定の区間に対してのみ触覚コンテンツの波形情報を組み合わせて音響コンテンツを生成するようにしてもよい。この場合、振動波形加工部23は、触覚コンテンツの波形情報を、音声信号の波形情報の全時間長の中の特定の区間に同期させるように前加工をした上で、後述する本加工を行う。
音響コンテンツ生成部24は、音声信号取得部22により取得された音声信号と、振動波形加工部23により加工された触覚コンテンツとの組み合わせにより音響コンテンツを生成する。例えば、音響コンテンツ生成部24は、音声信号取得部22により取得された音声信号を第1チャネル情報とし、振動波形加工部23により加工された触覚コンテンツを第2チャネル情報とする音響コンテンツを生成する。
音響コンテンツの詳細については後述するとして、以下に、振動波形加工部23が行う本加工の詳細を説明する。図9は、振動波形加工部23の機能構成例を示すブロック図であり、振動波形加工部23が触覚コンテンツの波形情報に対して本加工を行うため機能構成例を示している。図9に示すように、振動波形加工部23は、その機能構成として、特徴抽出部23A、重み情報生成部23Bおよび重み加工部23Cを備えている。
特徴抽出部23Aは、音声信号取得部22により取得された音声信号の波形情報において、他の箇所の区別し得る複数の特徴箇所を抽出する。例えば、特徴抽出部23Aは、音声信号取得部22により取得された音声信号の波形情報において、所定時間の間に振幅値が所定値以上大きくなる箇所を特徴箇所として抽出する。
重み情報生成部23Bは、特徴抽出部23Aにより抽出された複数の特徴箇所に基づいて、隣接する特徴箇所の時間区間において経時的に値が変化する重み情報を生成する。例えば、重み情報生成部23Bは、特徴抽出部23Aにより抽出された複数の特徴箇所に基づいて、一の特徴箇所が抽出された時間から次の特徴箇所が抽出された時間まで値が経時的に徐々に小さくなる重み情報を生成する。
図10は、特徴抽出部23Aおよび重み情報生成部23Bの処理内容を説明するための図である。ここで、図10(a)は、音声信号取得部22により取得された音声信号の波形情報を示している。図10(b)は、触覚コンテンツ取得部21により取得された触覚コンテンツの波形情報に対し、重み情報生成部23Bにより生成される重み情報を模式的に重ねて示した状態を示している。ここでは、触覚コンテンツの波形情報を、その全時間長が音声信号の波形情報の全時間長と同じとなるように前加工した後の波形情報を示している。
特徴抽出部23Aは、図10(a)に示す音声信号の波形情報において、所定時間(例えば、0.1秒)の間に振幅値が所定値以上大きくなる箇所を複数の特徴箇所F,F,F,・・・として抽出する。すなわち、特徴抽出部23Aは、音声信号の波形情報の振幅値が急激に大きくなる箇所を特徴箇所F,F,F,・・・として抽出する。
重み情報生成部23Bは、特徴抽出部23Aにより抽出された複数の特徴箇所F,F,F,・・・に基づいて、一の特徴箇所F(i=1,2,・・・)が抽出された時間から、次の特徴箇所Fi+1が抽出された時間まで、値が経時的に徐々に小さくなる重み情報を生成する。この重み情報は、重み値(何れも正の値)が最小値から最大値までの間をとる情報であり、図10(b)においてノコギリ波として模式的に示されている。
図10(b)の例では、一の特徴箇所Fが抽出された時間において重み値が最大となり、そこから線形的あるいは段階的に値が経時的に徐々に小さくなり、次の特徴箇所Fi+1が抽出された時間において重み値が再び最大となるような重み情報を生成している。ここで、重み情報生成部23Bは、一の特徴箇所Fが抽出された時間において重み値が最大となり、次の特徴箇所Fi+1が抽出された時間に達する時点で重み値がちょうど最小値となるような重み情報を生成している。
なお、ここに示した重み情報の生成処理は一例であり、これに限定されるものではない。例えば、図10(b)では、重み値が一定の割合で直線的に徐々に小さくなる例を示したが、一の特徴箇所Fが抽出された時間から次の特徴箇所Fi+1が抽出された時間まで、所定の2次関数あるいは対数関数などに従って値が曲線的に徐々に小さくなるような重み情報を生成するようにしてもよい。
また、重み値が徐々に小さくなる割合(ノコギリ波で示される斜線部の傾斜角)を、どの区間も同じとするようにしてもよい。この場合、一の特徴箇所Fと次の特徴箇所Fi+1との間が長い区間があると、次の特徴箇所Fi+1に至る前に重み値が最小値に達する。この場合、重み情報生成部23Bは、例えば、重み値が最小値に達した後、次の特徴箇所Fi+1に至るまで、重み値が最小値に固定するような重み情報を生成する。
また、重み値の最大値と最小値とを固定せず、所定の条件に応じて変動する変動値とするようにしてもよい。例えば、特徴箇所における振幅値の大きさに応じて、重み値の最大値を可変とするようにしてもよい。この場合、重み情報生成部23Bは、一の特徴箇所Fにおける振幅値が大きいほど重み値が大きくなるようにし、そこから次の特徴箇所Fi+1まで値が徐々に小さくなるような重み情報を生成する。このようにすれば、所定時間の間に振幅値が所定値以上大きくなる複数の特徴箇所Fのうち、その特徴箇所Fの振幅値が大きいほど大きな重み値が設定されるようになる。
重み加工部23Cは、触覚コンテンツ取得部21により取得された触覚コンテンツ(振動波形加工部23により前加工の処理が行われた触覚コンテンツを含む。以下同様)の波形情報を、重み情報生成部23Bにより生成された重み情報によって加工する。例えば、重み加工部23Cは、触覚コンテンツの波形情報の振幅値に対して重み情報の重み値を乗算することにより、触覚コンテンツの波形情報を加工する。
すなわち、重み加工部23Cは、図10(b)に示している触覚コンテンツの波形情報の各時間における振幅値に対し、同じく図10(b)にノコギリ波として模式的に示している各時間における重み値を乗算する。図10(b)において、触覚コンテンツの波形情報と重み情報とを重ねて示しているのは、各時刻における波形情報の振幅値と、これに対して乗算する重み値との対応関係を明示するためである。
なお、音声信号の波形情報の全時間長のうち、特定区間における音声信号の波形情報に対してのみ触覚コンテンツの波形情報を組み合わせて音響コンテンツを生成する場合、特徴抽出部23A、重み情報生成部23Bおよび重み加工部23Cは、当該特定区間においてのみ各処理を実行すればよい。すなわち、特徴抽出部23Aは、特定区間においてのみ音声信号の特徴領域を抽出すればよい。また、重み情報生成部23Bは、特定区間においてのみ重み情報を生成すればよい。また、重み加工部23Cは、特定区間においてのみ、当該特定区間の音声信号の波形情報に同期する触覚コンテンツの波形情報の振幅値に対して重み値を乗算すればよい。
上述したように、音響コンテンツ生成部24は、以上のようにして振動波形加工部23により加工された触覚コンテンツを第2チャネル情報とし、音声信号取得部22により取得された音声信号を第1チャネル情報とする組み合わせにより音響コンテンツを生成する。図11は、音響コンテンツ生成部24により生成される音響コンテンツを示す図である。図11(a)は、音声信号取得部22により取得された音声信号の波形情報(第1チャネル情報)を示し、図11(b)は、動波形加工部23により加工された触覚コンテンツの波形情報(第2チャネル情報)を示している。図11(a)に示す音声信号の波形情報は、図10(a)に示す音声信号の波形情報と同じである。
なお、音声信号取得部22により取得される音声信号がモノラルの音声信号である場合は、上述したように、図10(a)に示す音声信号の波形情報(音響コンテンツの波形情報を加工する重み情報を生成するために特徴箇所の抽出対象とする音声信号の波形情報)と、図11(a)に示す音声信号の波形情報(音響コンテンツの第1チャネル情報を構成する音声信号の波形情報)とは同じになる。
一方、音声信号取得部22により取得される音声信号がステレオの音声信号である場合は、図10(a)に示す音声信号の波形情報と、図11(a)に示す音声信号の波形情報とを同じとしてもよいが、必ずしも同じとする必要はない。例えば、特徴箇所の抽出対象とする音声信号は左チャネルの音声信号とし、音響コンテンツの第1チャネル情報を構成する音声信号は右チャネルの音声信号としてもよい。もちろん、その逆でもよい。
前者の場合、特徴抽出部23Aが左チャネルの音声信号の波形情報から複数の特徴箇所を抽出し、重み情報生成部23Bがその特徴箇所に基づいて重み情報を生成し、重み加工部23Cがその重み情報によって触覚コンテンツの波形情報を加工することにより、触覚コンテンツの波形情報(第2チャネル情報)を生成する。そして、音響コンテンツ生成部24は、以上のようにして振動波形加工部23により加工された触覚コンテンツと、音声信号取得部22により取得された右チャネルの音声信号との組み合わせにより音響コンテンツを生成する。
以上のようにして生成される音響コンテンツは、2つ以上の異なる触質コンテンツ(振動情報)の組み合わせから成るパターンの繰り返しによって構成される触覚コンテンツと、任意の音声信号との組み合わせから構成されるものである。しかも、音声信号に組み合わされる触覚コンテンツは、当該音声信号の特徴箇所と同期する態様で重み値が変動する重み情報によって波形の振幅値が加工された触覚コンテンツである。このため、この音響コンテンツを所定の振動伝達媒体を通じて人に伝達することにより、音声信号に基づき再生される音声を提供するのと同時に、その音声の特徴と同期した触覚コンテンツの振動によって触覚のメッセージ性(物語性)を明確に伝えることができる。
なお、上記実施形態では、音声信号取得部22が取得する音声信号は任意であり、触覚コンテンツ取得部21が取得する触覚コンテンツと音声信号との関係性については特に言及していないが、例えば以下のようにすることが可能である。すなわち、触覚コンテンツは、図5に示す触覚コンテンツ生成装置100’により生成する。このとき、対象情報入力部13が入力する時系列の波形情報として、音声信号取得部22により取得される音声信号の波形情報と同じ波形情報を、触質変換対象の情報として入力する。換言すると、対象情報入力部13が、音声信号取得部22により取得される音声信号の波形情報と同じ波形情報を触質変換対象の情報として入力し、これによって走行経路設定装置100’により生成された触覚コンテンツを触覚コンテンツ取得部21が取得するようにする。
このようにすれば、音声信号に組み合わされる触覚コンテンツが、当該音声信号自身の特徴要素である触質パラメータ(分割区間の振幅および分割区間の時間の長さ)に基づき生成され、かつ、当該音声信号自身から抽出される特徴箇所に基づき生成される重み情報によって波形の振幅値が加工されたものとなる。このため、音声信号自体がもともと有している音声によるメッセージ性と、当該音声信号が持つ特徴に基づき生成される触覚コンテンツの振動によるメッセージ性とが相まって人に伝わるようになる。これにより、相乗効果によってメッセージ性が人に強く伝わるようにすることができる。
図12は、上記のように構成した本実施形態による音響コンテンツ生成装置200の動作例を示すフローチャートである。まず、触覚コンテンツ取得部21は、触覚コンテンツ記憶部201から触覚コンテンツを取得する(ステップS21)。ここで取得する触覚コンテンツは、図1または図5の触覚コンテンツ生成装置100,100’によって、振動情報である触質コンテンツから生成されたものである。
次に、音声信号取得部22は、音声信号記憶部202から音声信号を取得する(ステップS22)。ここで、振動波形加工部23は、必要に応じて、触覚コンテンツ取得部21により取得された触覚コンテンツの波形情報に対して所定の前加工を行う(ステップS23)。上述したように、前加工とは、触覚コンテンツの波形情報を、その全時間長が音声信号の波形情報の全時間長と同じとなるようにする処理、あるいは、触覚コンテンツの波形情報を、音声信号の波形情報の全時間長の中の特定の区間に同期させるようにする処理である。
触覚コンテンツの波形情報に対する前加工が終わると、振動波形加工部23の特徴抽出部23Aは、音声信号取得部22により取得された音声信号の波形情報において、所定時間の間に振幅値が所定値以上大きくなる複数の箇所を特徴箇所として抽出する(ステップS24)。また、重み情報生成部23Bは、特徴抽出部23Aにより抽出された複数の特徴箇所に基づいて、一の特徴箇所が抽出された時間から次の特徴箇所が抽出された時間まで値が経時的に徐々に小さくなる重み情報を生成する(ステップS25)。
次いで、重み加工部23Cは、ステップS21で触覚コンテンツ取得部21により取得された触覚コンテンツの波形情報(ステップS23で前加工が行われた場合は、当該前加工後の波形情報)を、重み情報生成部23Bにより生成された重み情報によって加工する(ステップS26)。すなわち、重み加工部23Cは、触覚コンテンツの波形情報の各時間における振幅値に対して、重み情報の各時間における重み値を乗算することにより、触覚コンテンツの波形情報を加工する。
以上のようにして触覚コンテンツの波形情報に対する加工が終了すると、音響コンテンツ生成部24は、ステップS22で音声信号取得部22により取得された音声信号と、ステップS26で重み加工部23Cにより加工された触覚コンテンツとの組み合わせにより音響コンテンツを生成する(ステップS27)。これにより、図12に示すフローチャートの処理が終了する。
なお、特徴抽出部23Aが音声信号の波形情報から抽出する複数の特徴箇所は、上記実施形態に示した例に限定されない。例えば、特徴抽出部23Aは、音声信号取得部22により取得された音声信号の波形情報において、振幅値が所定値以上となる箇所を特徴箇所として抽出するようにしてもよい。あるいは、音声信号の波形情報を時間ごとに周波数解析し、含まれる周波数成分が急激に変わる箇所を特徴箇所として抽出するようにしてもよい。あるいは、音声信号の波形情報に対して図6と同様の解析を行い、h/tの値が急激に変わる箇所を特徴箇所として抽出するようにしてもよい。
また、上記実施形態では、重み情報生成部23Bは、一の特徴箇所Fが抽出された時間から次の特徴箇所Fi+1が抽出された時間まで値が徐々に小さくなるような重み情報を生成したが、本発明はこれに限定されない。例えば、特徴抽出部23Aが、音声信号の波形情報において所定時間の間に振幅値が急激に小さくなる箇所を特徴箇所として抽出するようにし、重み情報生成部23Bが、一の特徴箇所Fが抽出された時間から次の特徴箇所Fi+1が抽出された時間まで値が徐々に大きくなるような重み情報を生成するようにしてもよい。
また、上記実施形態では、音声信号を第1チャネル情報とし、触覚コンテンツを第2チャネル情報とする音響コンテンツを生成する例について説明したが、本発明はこれに限定されない。例えば、上記2つのチャネル情報に加えて、3つ目あるいはそれ以上の数のチャネル情報を含めて音響コンテンツを生成するようにしてもよい。
その一例として、左チャネルの音声信号を第1チャネル情報、触覚コンテンツを第2チャネル情報、右チャネルの音声信号を第3チャネル情報とする音響コンテンツを生成するようにしてもよい。別の例として、音声付きの動画に含まれる音声信号を第1チャネル情報、触覚コンテンツを第2チャネル情報、映像信号を第3チャネル情報とする音響コンテンツを生成するようにしてもよい。
後者の例の場合、例えば図13のように音響コンテンツ生成装置200’を構成することが可能である。図13に示す音響コンテンツ生成装置200’は、図8に示した音声信号取得部22および音響コンテンツ生成部24に代えて、動画信号取得部25および音響コンテンツ生成部24’を備える。また、図13に示す音響コンテンツ生成装置200’には、図8に示した音声信号記憶部202に代えて、動画信号記憶部203が接続される。
動画信号取得部25は、動画信号記憶部203に記憶された動画信号を取得する。振動波形加工部23は、動画信号取得部25により取得された動画信号に含まれる音声信号の波形情報に基づいて、触覚コンテンツ取得部21により取得された触覚コンテンツの波形情報を加工する。音響コンテンツ生成部24’は、動画信号取得部25により取得された動画信号に含まれる音声信号および映像信号と、振動波形加工部23により加工された触覚コンテンツとの組み合わせにより、上述した3つのチャネル情報から成る音響コンテンツを生成する。
(音響再生装置)
次に、本発明の音響再生装置に関する一実施形態を図面に基づいて説明する。
図14は、本実施形態による音響再生装置300の機能構成例を示す機能ブロック図である。図14に示すように、本実施形態の音響再生装置300は、その機能構成として、音響コンテンツ取得部31、音声出力制御部32および振動出力制御部33を備えている。また、本実施形態の音響再生装置300には、音響コンテンツ記憶部301、スピーカ302および振動伝達媒体303が接続されている。
上記各機能ブロック31〜33は、ハードウェア、DSP、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック31〜33は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。
音響コンテンツ記憶部301は、図8のように構成した音響コンテンツ生成装置200により生成された音響コンテンツを記憶する。音声信号記憶部202が記憶する触覚コンテンツは、図8の音声信号取得部22により取得された音声信号を第1チャネル情報とし、振動波形加工部23により加工された触覚コンテンツを第2チャネル情報とする、2種類の波形情報の組み合わせである。
なお、音響コンテンツ記憶部301は、図8に示した音響コンテンツ生成装置200が内部に備える記憶媒体であってもよいし、音響コンテンツ生成装置200の外部にあるパーソナルコンピュータやスマートフォン、タブレット端末などの情報処理機器、あるいはリムーバル記憶媒体であってもよい。また、音響コンテンツ記憶部301は、音響再生装置300に通信ネットワークを介して接続された外部機器(例えば、外部ストレージ、サーバなど)であってもよい。
音響コンテンツ取得部31は、音響コンテンツ記憶部301から音響コンテンツを取得する。音声出力制御部32は、音響コンテンツ取得部31により取得された音響コンテンツに第1チャネル情報として含まれる音声信号に基づいて音声をスピーカ302から出力するように、音声信号の再生を制御する。振動出力制御部33は、音響コンテンツ取得部31により取得された音響コンテンツに第2チャネル情報として含まれる触覚コンテンツに基づいて所定の振動伝達媒体303に振動を与えるように、触覚コンテンツの再生を制御する。
ここで、振動伝達媒体303は、触覚コンテンツの波形情報を与えたときに振動するものであれば何でもよいが、使用時にユーザの体に触れるものであることが必要である。例えば、マッサージ器の揉み玉、美顔器、ヘアブラシの柄、電動歯ブラシ、玩具、ゲーム機のコントローラ、振動フィードバック付きタッチパネル、携帯電話のバイブレータ、振動アラーム、衣類、ベッド、寝具、家具、建具など、その他人体が触れることのある各種機器などを振動伝達媒体303として用いることが可能である。この中でも特に、音声の出力と同時に振動を付与することに意義のあるものを振動伝達媒体303として用いるのが好ましい。
例えば、心身のリラクゼーション効果が期待される音楽の音声信号に基づいてスピーカ302から音声を出力すると同時に、リラクゼーション効果が期待されるメッセージ性を持った触覚コンテンツの波形情報に基づいて振動をマッサージ器の揉み玉(振動伝達媒体303)に付与するといった実施形態が考えられる。また、心身のリラクゼーション効果が期待される音楽の音声信号に基づいてスピーカ302から音声を出力すると同時に、リラクゼーション効果が期待されるメッセージ性を持った触覚コンテンツの波形情報に基づいて振動を美顔器のフェイスマスク(振動伝達媒体303)に付与するといった実施形態も考えられる。
その他、ヘアブラシの柄、電動歯ブラシ、玩具、ゲーム機のコントローラ、振動フィードバック付きタッチパネル、携帯電話のバイブレータ、振動アラーム、衣類、ベッド、寝具、家具、建具などに関しても、使用時の状況やユーザの希望設定に応じた効果音をスピーカ302から出力すると同時に、その効果音が持つメッセージ性に同調するようなメッセージ性を持った触覚コンテンツの波形情報に基づいて振動を付与するといった実施形態も有用である。
以上のように構成した音響再生装置300によれば、スピーカ302から出力される音声自体がもともと有しているメッセージ性と、振動伝達媒体303に付与される触覚コンテンツの振動によるメッセージ性とが相まって人に伝わるようになる。これにより、スピーカ302から出力する音声によってユーザに所定の意味やメッセージを与えつつ、その意味やメッセージに同調するような振動を振動伝達媒体303に付与することによって、当該意味やメッセージがユーザに強く伝わるような感覚をユーザに与えることができる。
なお、上記実施形態では、スピーカ302と振動伝達媒体303とが完全に別体として構成される例について説明したが、本発明はこれに限定されない。例えば、美顔器のフェイスマスクを振動伝達媒体303として用いるとともに、当該フェイスマスクをスピーカ302のコーン(振動板)としても兼用するようにしてもよい。すなわち、振動出力制御部33によって振動させるマスク面(振動伝達媒体303)を、音声出力制御部32によって音声を出力するスピーカ302の振動板として機能させるようにしてもよい。
このようにすると、音声信号の波形情報に応じた振動をマスクに与え、マスク全体を振動させることにより、マスクをスピーカ302のコーン代わりとして放音することができる。これにより、マスクを装着しているユーザは、マスク全体から音声が聞こえてくるような体感を得ることができる。これと同時に、触覚コンテンツの波形情報に応じた振動もマスクに与えられるので、所定の感覚をユーザにイメージさせることができる。所定の感覚とは、音を聞いたときに感じる聴感(緩やか、激しい、リズミカルなど)であってもよいし、物に触れたときに感じる触感(柔らかい、硬いなど)であってもよい。このようにすれば、振動出力制御部33によりマスクに付与される触覚コンテンツの振動によってユーザに所定の感覚を与えつつ、音声出力制御部32により出力される音声信号の振動によってマスク全体から音声が聞こえてくるような体感をユーザに与えることができる。
また、上記実施形態では、音声信号を第1チャネル情報とし、触覚コンテンツを第2チャネル情報とする音響コンテンツを音響コンテンツ記憶部301から取得する例について説明したが、本発明はこれに限定されない。例えば、上述したように、動画における音声信号を第1チャネル情報、触覚コンテンツを第2チャネル情報、映像信号を第3チャネル情報とする音響コンテンツ(すなわち、図13の構成により生成される音響コンテンツ)を取得するようにしてもよい。
この場合、音声出力制御部32が、音響コンテンツに第1チャネル情報として含まれる音声信号に基づいて音声をスピーカ302から出力するように音声信号の再生を制御し、振動出力制御部33が、音響コンテンツに第2チャネル情報として含まれる触覚コンテンツに基づいて所定の振動伝達媒体303に振動を与えるように触覚コンテンツの再生を制御し、図示しない映像出力制御部が、音響コンテンツに第3チャネル情報として含まれる映像信号に基づいて映像を図示しないディスプレイに出力するように映像信号の再生を制御する。
その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。
10 触質コンテンツ記憶部
11,11’ 触質コンテンツ抽出部
12 触覚コンテンツ生成部
13 対象情報入力部
14 触質パラメータ特定部
21 触覚コンテンツ取得部
22 音声信号取得部
23 振動波形加工部
23A 特徴抽出部
23B 重み情報生成部
23C 重み加工部
24,24’ 音響コンテンツ生成部
25 動画信号取得部
31 音響コンテンツ取得部
32 音声出力制御部
33 振動出力制御部
100,100’ 触覚コンテンツ生成装置
200,200’ 音響コンテンツ生成装置
300 音響再生装置
302 スピーカ
303 振動伝達媒体

Claims (19)

  1. それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、上記n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部と、
    上記n個の触質パラメータの組み合わせを複数組順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出する触質コンテンツ抽出部と、
    上記触質コンテンツ抽出部により順に抽出された上記複数の触質コンテンツが、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを有するか否かを判定し、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する触覚コンテンツ生成部とを備えたことを特徴とする触覚コンテンツ生成装置。
  2. 触質変換対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの少なくとも一方について、上記n個の触質パラメータを特定する触質パラメータ特定部とを更に備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記n個の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  3. 触質変換対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された1種の対象情報を複数に分割し、それぞれの分割区間から、情報の強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータを特定することにより、2個の触質パラメータの組み合わせを複数組特定する触質パラメータ特定部とを更に備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記2個の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  4. 触質変換対象の情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された複数種の対象情報をそれぞれ複数に分割し、上記複数種の対象情報のそれぞれの分割区間から、情報の強度に関する触質パラメータおよび分割区間の長さに関する触質パラメータの少なくとも一方を特定することにより、上記n個の触質パラメータの組み合わせを複数組特定する触質パラメータ特定部とを更に備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記n個の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  5. 強度に相当する値が連続的または断続的に連なって成る対象情報を入力する対象情報入力部と、
    上記対象情報入力部により入力された上記対象情報を複数に分割し、それぞれの分割区間から、分割区間内の代表強度を上記第1の触質パラメータとして特定するとともに、上記分割区間の長さを上記第2の触質パラメータとして特定する触質パラメータ特定部とを備え、
    上記触質コンテンツ抽出部は、上記触質パラメータ特定部により上記それぞれの分割区間から特定された上記第1の触質パラメータおよび上記第2の触質パラメータの組み合わせを順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出することを特徴とする請求項1に記載の触覚コンテンツ生成装置。
  6. 上記触質コンテンツは、振動情報であることを特徴とする請求項1〜5の何れか1項に記載の触覚コンテンツ生成装置。
  7. 上記触質コンテンツは、アクチュエータの駆動情報であることを特徴とする請求項1〜5の何れか1項に記載の触覚コンテンツ生成装置。
  8. 上記触質コンテンツは、材質情報であることを特徴とする触請求項1〜5の何れか1項に記載の触覚コンテンツ生成装置。
  9. それぞれが触感の一要素を表したn個(n≧2)の触質パラメータにより特定される固有の触覚効果を持った触質コンテンツを、上記n個の触質パラメータの組み合わせに対応付けて記憶する触質コンテンツ記憶部を備えたコンピュータにおいて、触覚コンテンツを生成するための方法であって、
    上記コンピュータの触質コンテンツ抽出部が、上記n個の触質パラメータの組み合わせを複数組順に指定して、当該指定した複数組の組み合わせに対応する複数の触質コンテンツを上記触質コンテンツ記憶部から順に抽出する第1のステップと、
    上記コンピュータの触覚コンテンツ生成部が、上記触質コンテンツ抽出部により順に抽出された上記複数の触質コンテンツが、2つ以上の異なる触質コンテンツの組み合わせから成るパターンの繰り返しを有するか否かを判定し、繰り返しを構成している触質コンテンツ群を抽出し、これを触覚コンテンツとして生成する第2のステップとを有することを特徴とする触覚コンテンツ生成方法。
  10. 請求項6に記載の触覚コンテンツ生成装置により振動情報である触質コンテンツから生成された触覚コンテンツを取得する触覚コンテンツ取得部と、
    任意の音声信号を取得する音声信号取得部と、
    上記音声信号取得部により取得された上記音声信号の波形情報に基づいて、上記触覚コンテンツ取得部により取得された上記触覚コンテンツの波形情報を加工する振動波形加工部と、
    上記音声信号取得部により取得された上記音声信号および上記振動波形加工部により加工された上記触覚コンテンツの組み合わせにより音響コンテンツを生成する音響コンテンツ生成部とを備えたことを特徴とする音響コンテンツ生成装置。
  11. 上記振動波形加工部は、
    上記音声信号取得部により取得された上記音声信号の波形情報において、他の箇所の区別し得る複数の特徴箇所を抽出する特徴抽出部と、
    上記特徴抽出部により抽出された上記複数の特徴箇所に基づいて、隣接する特徴箇所の時間区間において経時的に値が変化する重み情報を生成する重み情報生成部と、
    上記触覚コンテンツ取得部により取得された上記触覚コンテンツの波形情報を、上記重み情報生成部により生成された上記重み情報によって加工する重み加工部とを備えたことを特徴とする請求項10に記載の音響コンテンツ生成装置。
  12. 上記特徴抽出部は、上記音声信号取得部により取得された上記音声信号の波形情報において、所定時間の間に振幅値が所定値以上大きくなる箇所を上記特徴箇所として抽出することを特徴とする請求項11に記載の音響コンテンツ生成装置。
  13. 上記重み情報生成部は、上記特徴抽出部により抽出された上記複数の特徴箇所に基づいて、一の特徴箇所が抽出された時間から次の特徴箇所が抽出された時間まで値が経時的に徐々に小さくなる重み情報を生成することを特徴とする請求項12に記載の音響コンテンツ生成装置。
  14. 上記触覚コンテンツ取得部は、請求項6が従属する請求項4に記載の触覚コンテンツ生成装置により、上記音声信号取得部により取得される上記音声信号の波形情報と同じ波形情報を触質変換対象の情報として入力することによって生成された上記触覚コンテンツの波形情報を取得することを特徴とする請求項10〜13の何れか1項に記載の音響コンテンツ生成装置。
  15. 上記音響コンテンツ生成部は、上記音声信号取得部により取得された上記音声信号を第1チャネル情報とし、上記振動波形加工部により加工された上記触覚コンテンツを第2チャネル情報として含む上記音響コンテンツを生成することを特徴とする請求項10〜14の何れか1項に記載の音響コンテンツ生成装置。
  16. 上記音声信号取得部に代えて、任意の動画信号を取得する動画信号取得を備え、
    上記振動波形加工部は、上記動画信号取得部により取得された上記動画信号に含まれる音声信号の波形情報に基づいて、上記触覚コンテンツ取得部により取得された上記触覚コンテンツの波形情報を加工し、
    上記音響コンテンツ生成部は、上記動画信号取得部により取得された上記動画信号に含まれる音声信号および映像信号と、上記振動波形加工部により加工された上記触覚コンテンツとの組み合わせにより上記音響コンテンツを生成することを特徴とする請求項10に記載の音響コンテンツ生成装置。
  17. コンピュータの触覚コンテンツ取得部が、請求項6に記載の触覚コンテンツ生成装置により振動情報である触質コンテンツから生成された触覚コンテンツを取得する第1のステップと、
    上記コンピュータの音声信号取得部が、任意の音声信号を取得する第2のステップと、
    上記コンピュータの振動波形加工部が、上記音声信号取得部により取得された上記音声信号の波形情報に基づいて、上記触覚コンテンツ取得部により取得された上記触覚コンテンツの波形情報を加工する第3のステップと、
    上記コンピュータの音響コンテンツ生成部が、上記音声信号取得部により取得された上記音声信号および上記振動波形加工部により加工された上記触覚コンテンツの組み合わせにより音響コンテンツを生成する第4のステップとを有することを特徴とする音響コンテンツ生成方法。
  18. 請求項15に記載の音響コンテンツ生成装置により生成された音響コンテンツを取得する音響コンテンツ取得部と、
    上記音響コンテンツ取得部により取得された上記音響コンテンツに第1チャネル情報として含まれる音声信号に基づいて音声をスピーカから出力するように、上記音声信号の再生を制御する音声出力制御部と、
    上記音響コンテンツ取得部により取得された上記音響コンテンツに第2チャネル情報として含まれる触覚コンテンツに基づいて所定の振動伝達媒体に振動を与えるように、上記触覚コンテンツの再生を制御する振動出力制御部とを備えたことを特徴とする音響再生装置。
  19. 請求項16に記載の音響コンテンツ生成装置により生成された音響コンテンツを取得する音響コンテンツ取得部と、
    上記音響コンテンツ取得部により取得された上記音響コンテンツに第1チャネル情報として含まれる音声信号に基づいて音声をスピーカから出力するように、上記音声信号の再生を制御する音声出力制御部と、
    上記音響コンテンツ取得部により取得された上記音響コンテンツに第2チャネル情報として含まれる触覚コンテンツに基づいて所定の振動伝達媒体に振動を与えるように、上記触覚コンテンツの再生を制御する振動出力制御部と、
    上記音響コンテンツ取得部により取得された上記音響コンテンツに第3チャネル情報として含まれる映像信号に基づいて映像をディスプレイに出力するように、上記映像信号の再生を制御する映像出力制御部とを備えたことを特徴とする音響再生装置。
JP2018507651A 2017-12-06 2017-12-06 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法 Active JP6322780B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/043744 WO2019111340A1 (ja) 2017-12-06 2017-12-06 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法

Publications (2)

Publication Number Publication Date
JP6322780B1 true JP6322780B1 (ja) 2018-05-09
JPWO2019111340A1 JPWO2019111340A1 (ja) 2019-12-12

Family

ID=62107356

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018507651A Active JP6322780B1 (ja) 2017-12-06 2017-12-06 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法

Country Status (2)

Country Link
JP (1) JP6322780B1 (ja)
WO (1) WO2019111340A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021026618A (ja) * 2019-08-07 2021-02-22 ソニー株式会社 生成装置、生成方法、プログラム及び触覚提示デバイス
CN111897524B (zh) * 2020-07-06 2022-04-29 瑞声新能源发展(常州)有限公司科教城分公司 实现Haptics触觉效果的方法及***

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003008687A (ja) * 2001-06-18 2003-01-10 Nec Viewtechnology Ltd 携帯電話装置およびその報知パターン作成方法ならびにその制御プログラム
JP2008220806A (ja) * 2007-03-15 2008-09-25 Kenwood Corp 振動発生装置及び振動発生方法
JP2011048023A (ja) * 2009-08-25 2011-03-10 Pioneer Electronic Corp 体感振動生成装置および体感振動生成方法
JP2016049438A (ja) * 2014-08-28 2016-04-11 岡崎 章 人の心理を定量的に測定する心理量測定装置と測定方法
JP2017532648A (ja) * 2014-09-02 2017-11-02 アップル インコーポレイテッド 触覚通知

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003008687A (ja) * 2001-06-18 2003-01-10 Nec Viewtechnology Ltd 携帯電話装置およびその報知パターン作成方法ならびにその制御プログラム
JP2008220806A (ja) * 2007-03-15 2008-09-25 Kenwood Corp 振動発生装置及び振動発生方法
JP2011048023A (ja) * 2009-08-25 2011-03-10 Pioneer Electronic Corp 体感振動生成装置および体感振動生成方法
JP2016049438A (ja) * 2014-08-28 2016-04-11 岡崎 章 人の心理を定量的に測定する心理量測定装置と測定方法
JP2017532648A (ja) * 2014-09-02 2017-11-02 アップル インコーポレイテッド 触覚通知

Also Published As

Publication number Publication date
WO2019111340A1 (ja) 2019-06-13
JPWO2019111340A1 (ja) 2019-12-12

Similar Documents

Publication Publication Date Title
Turchet et al. Touching the audience: musical haptic wearables for augmented and participatory live music performances
US20170182284A1 (en) Device and Method for Generating Sound Signal
JP6322780B1 (ja) 触覚コンテンツ生成装置、音響コンテンツ生成装置、音響再生装置、触覚コンテンツ生成方法および音響コンテンツ生成方法
US20170245070A1 (en) Vibration signal generation apparatus and vibration signal generation method
GB2557146A (en) Method for controlling a massage device and massage system incorporating such a device
WO2017002635A1 (ja) 音信号処理装置、音信号処理方法および記録媒体
Mullen et al. MindMusic: playful and social installations at the interface between music and the brain
Holland et al. Haptics for the development of fundamental rhythm skills, including multi-limb coordination
WO2018139150A1 (ja) マスク型振動マッサージ装置
Donnarumma Music for Flesh II: informing interactive music performance with the viscerality of the body system.
KR102212409B1 (ko) 오디오 신호 및 오디오 신호를 기반으로 한 진동 신호를 생성하는 방법 및 장치
WO2020158036A1 (ja) 情報処理装置
JP6383765B2 (ja) 触覚コンテンツ生成装置、触覚コンテンツ生成方法および触覚コンテンツ利用機器
JP5908025B2 (ja) 筋活動可聴化方法、筋活動可聴化装置およびプログラム
Barrett Creating tangible spatial-musical images from physical performance gestures.
McDowell et al. Haptic-Listening and the Classical Guitar.
WO2011155028A1 (ja) 体感振動装置
JP2020078446A (ja) バイブレーション装置
CN107708781B (zh) 音频信号生成装置、音频信号生成方法以及计算机可读存储介质
JP6644293B1 (ja) コンテンツ供給装置、コンテンツ提供システム、コンテンツ提供サーバ装置、コンテンツ提供方法およびコンテンツ提供用プログラム
JP6401758B2 (ja) 触質コンテンツ生成装置、触質コンテンツ生成方法および触質コンテンツ利用機器
JP2019126516A (ja) バイブレーション装置
KR101988423B1 (ko) 음향을 이용한 진동 시스템
Keenan et al. Evaluating a sonic interaction design based on a historic theatre sound effect
JP6306246B2 (ja) 筋活動可聴化方法、筋活動可聴化装置およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180213

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180213

TRDD Decision of grant or rejection written
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180307

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180409

R150 Certificate of patent or registration of utility model

Ref document number: 6322780

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250