JP5935399B2 - 楽音発生装置 - Google Patents
楽音発生装置 Download PDFInfo
- Publication number
- JP5935399B2 JP5935399B2 JP2012048489A JP2012048489A JP5935399B2 JP 5935399 B2 JP5935399 B2 JP 5935399B2 JP 2012048489 A JP2012048489 A JP 2012048489A JP 2012048489 A JP2012048489 A JP 2012048489A JP 5935399 B2 JP5935399 B2 JP 5935399B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- performance
- stick
- roll
- marker
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Electrophonic Musical Instruments (AREA)
Description
例えば打楽器等の現実の楽器は、重量も重く、設置に広いスペースを要することから、自宅等で手軽に演奏や練習を行うことが難しい。
この点、演奏者の演奏動作を検知して、これに応じた楽音を発生させる楽音発生装置によれば、現実の楽器を必要とせずに当該楽器の楽音を発音させることができるため、演奏場所や演奏スペースに制約を受けずに手軽に演奏を楽しむことができる。
このようなロール奏法は、雰囲気を盛り上げる際等に一般的に用いられる奏法であり、ドラム演奏の醍醐味の1つでもある。
演奏者が保持可能な打撃用の演奏操作子と、
前記演奏者の打撃演奏操作によって生じる前記演奏操作子本体の動きを検知する動き検知手段と、
前記動き検知手段により検知される前記演奏操作子の上下方向の動きにより発生する加速度の極大値及び極小値が予め定めた範囲内である場合であって、かつ、前記動き検知手段によって検知された前記演奏操作子の操作により発生する加速度の極大値及び極小値との間の時間が予め定めた範囲内である場合にロール奏法であると判断する奏法判断手段と、
前記奏法判断手段によりロール奏法と判断された場合、前記動き検出手段により検知された動きに基づいて決定されるタイミングにて、ロール奏法用楽音の発音を発音手段に指示する発音指示手段と、
を備えていることを特徴としている。
まず、図1(A)及び図1(B)を参照して、本発明に係る楽音発生装置の一実施形態の概要について説明する。
図1(A)は、本実施形態に係る楽音発生装置の装置構成の概要を示す図である。
図1(A)に示すように、本実施形態の楽音発生装置1は、スティック部10A、10Bと、カメラユニット部20と、センターユニット部30と、を含んで構成されている。なお、本実施形態の楽音発生装置1は、2本のスティックを用いた仮想的なドラム演奏を実現するため、2つのスティック部10A、10Bを備えることとしているが、スティック部の数はこれに限られず、1つとしてもよく、3つ以上としてもよい。なお、以下では、スティック部10A、10Bを区別しない場合には、両者を総称して「スティック部10」と称する。
このような演奏者の演奏動作を検知するため、この演奏操作子としてのスティック部10には、演奏者の演奏動作に基づくスティック部10(演奏操作子)の動きを検知する動き検知手段が配置されている。本実施形態では、スティック部10の他端(先端側)に、動き検知手段として加速度センサなどの各種センサ(後述のモーションセンサ部14、図2参照)が設けられており、各種センサによって検知された検知結果(例えば各種センサによって取得された生データ等)が、センターユニット部30に送信されるようになっている。
また、スティック部10の先端側には、マーカー部15が設けられており、撮像時にカメラユニット部20がスティック部10の先端を容易に判別可能であるように構成されている。
具体的には、センターユニット部30は、その記憶手段であるROM(後述する)等に、カメラユニット部20の撮像空間に対応付けて、図1(B)に示すような仮想のドラムセットDの位置座標データを記憶している。センターユニット部30は、当該仮想のドラムセットDの位置座標データとモーションセンサ部14による検知結果受信時におけるマーカー部15の位置座標データとに基づいて、スティック部10が打撃した楽器を特定し、当該楽器に対応する所定の楽音を発音させる。
以下、本実施形態に係る楽音発生装置1について具体的に説明する。
まず、図2から図5を参照して、本実施形態における楽音発生装置1を構成するスティック部10、カメラユニット部20及びセンターユニット部30の構成について詳細に説明する。
図2は、スティック部10のハードウェア構成を示すブロック図であり、図3は、スティック部10の斜視図であり、図4は、カメラユニット部20のハードウェア構成を示すブロック図であり、図5は、センターユニット部30のハードウェア構成を示すブロック図である。
図2に示すように、スティック部10は、CPU(Central Processing Unit)等で構成されるスティック制御部11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、モーションセンサ部14と、マーカー部15と、データ通信部16と、を含んで構成されている。また、スティック部10は、各部に電源を供給する図示しない電源部を備えている。
また、ROM12は、マーカー部15の発光制御に用いるマーカー特徴情報を格納している。
ここで、マーカー特徴情報とは、同じ撮像空間に複数のマーカー部15が存在している場合に、各マーカー部15(本実施形態では、スティック部10Aの第1マーカーとスティック部10Bの第2マーカー)を区別するための情報であり、例えば、発光時の形状、大きさ、色相、彩度、あるいは輝度に加え、発光時の点滅スピードなどを用いることができる。スティック部10が複数ある場合には、各スティック部10はそれぞれ異なるマーカー特徴情報を有しており、各マーカー特徴情報にしたがった発光制御が行われるようになっている。
例えば、動き検知手段であるモーションセンサ部14から検知結果としてのセンサ値(以下、これを「モーションセンサデータ」と称する。)が出力されると、このモーションセンサデータを、データ通信部16を介してセンターユニット部30に送信する等、センターユニット部30との間の通信制御を行う。
また、スティック制御部11は、マーカー特徴情報をROM12から読み出し、当該マーカー特徴情報にしたがって、マーカー部15の発光制御を行う。前述のように、複数のスティック部10A,10Bがある場合には、各スティック部10A,10Bはそれぞれ異なるマーカー特徴情報にしたがった発光制御が行われる。これは、カメラユニット部20の撮像部24によって撮像された画像から、スティック部10Aのマーカー部15(第1マーカー)と、スティック部10Bのマーカー部15(第2マーカー)とを区別して検出できるようにするためである。すなわち、スティック部10が複数ある場合に、マーカー部15が同じように発光すると、カメラユニット部20で撮影した際に、各マーカー部15がいずれのスティック部10のものであるか判別できないおそれがある。このため、スティック部10Aのスティック制御部11及びスティック部10Bのスティック制御部11がそれぞれ異なるマーカー特徴情報を読み出し、これにしたがってマーカー部15の発光制御を行うことで、各マーカー部15の発光を異ならせ、両者の区別を容易としている。
なお、スティック制御部11によって行われる制御はこれに限定されず、例えば、センターユニット部30からの指示又はモーションセンサ部14による検知結果であるセンサ値(モーションセンサデータ)等に基づいて、マーカー部15の点灯/消灯等の発光制御を行うようにしてもよい。
ここで、モーションセンサ部14を構成するセンサとしては、例えば、加速度センサ、角速度センサ及び磁気センサ等を用いることができる。
本実施形態において、楽音発生装置1を用いて演奏を行う場合、演奏者は、スティック部10の一端(根元側)を保持し、手首などを中心としてスティック部10の他端(先端側)を上下動させる振り上げ振り下ろし動作を行うことで、スティック部10に対して回転運動を生じさせる。ここで、スティック部10が静止している場合には、加速度センサは、センサ合成値として重力加速度1Gに相当する値を算出し、スティック部10が回転運動をしている場合には、加速度センサは、センサ合成値として重力加速度1Gよりも大きな値を算出する。なお、センサ合成値は、例えば、X軸、Y軸、Z軸の成分の加速度のそれぞれの2乗の総和の平方根を算出することで得られる。
ここで、Y軸方向の回転角501は、演奏者がスティック部10を持ったとき、演奏者から見た前後軸の回転角であるため、ロール角と称することができる。ロール角は、X−Y平面が、どの程度X軸に対して傾けられたかを示す角度502に対応し、演奏者がスティック部10を手に持って、手首を軸にして左右に回転させることにより生じる。
また、X軸方向の回転角511は、演奏者がスティック部10を持ったとき、演奏者から見た左右軸の回転角であるため、ピッチ角と称することができる。ピッチ角は、X−Y平面が、どの程度Y軸に対して傾けられたかを示す角度512に対応し、演奏者がスティック部10を手に持って、手首を上下方向に振ることにより生じる。
なお、図示は省略しているが、角速度センサは、Z軸方向の回転角も併せて出力することとしてもよい。このとき、Z軸方向の回転角は、基本的にはX軸方向の回転角511と同じ性質を有し、演奏者がスティック部10を手に持って、手首を左右方向に振ることにより生じるピッチ角である。
演奏者がスティック部10を用いて演奏を行う場合、一般には、現実の楽器(例えば、ドラム)を打つ動作と同様の動作を行う。このような(演奏)動作では、演奏者は、まずスティック部10を振り上げ、それから仮想的な楽器の打面に向かって振り下ろす。そして実際には打面が存在していないため、演奏者は、スティック部10を仮想的な楽器に打ちつける寸前に、スティック部10の動作を止めようとする力を働かせる。
図6は、このようなスティック部10を用いて演奏動作を行った場合のモーションセンサ部14の垂直方向の加速度の変化を表わした図であり、スティック部10からセンターユニット部30に送信されるモーションセンサデータの一例を示すものである。
なお、垂直方向の加速度とは、水平面に対する垂直方向の加速度を意味し、Y軸成分の加速度から分解し算出することとしてもよく、Z軸方向の加速度(ロール角によってはX軸方向の加速度)から分解し算出することとしてもよい。また、図6において、マイナスの加速度は、スティック部10に加わる下向き方向の加速度を示し、プラスの加速度は、スティック部10に加わる上向き方向の加速度を示す。
次に、図6中bで示す区間のように、スティック部10が静止している状態において、振り上げ動作に伴い演奏者がスティック部10を持ち上げると、重力加速度に対してより逆らう方向に動作することになるため、スティック部10に加わる加速度はマイナス方向に増加する。その後静止させようとして持ち上げる速度を減少させると、加速度は、マイナス方向からプラスの方向に転換し、振り上げ動作が最高速に到達した時点(図6中のp1参照)での加速度は重力加速度のみ(すなわち、重力加速度1G)になる。
この後、図6中dで示す区間のように、再びスティック部10に対して振り上げ動作を行うと、加わる加速度はマイナス方向に増加し、振り上げ動作を静止させようとすると、加わる加速度はマイナス方向からプラス方向に転じる。
演奏動作が続いている間、演奏者によるスティック部10の振り上げ振り下ろし動作にしたがって、図6に示したような加速度の変化が繰り返され、この加速度の変化がモーションセンサ部14によって検知される。
具体的には、マーカー部15は、スティック制御部11がROM12から読み出したマーカー特徴情報に基づいて発光する。前述のように、スティック部10Aのマーカー特徴情報と、スティック部10Bのマーカー特徴情報とは異なるように設定されている。このため、後述するように、カメラユニット部20は、スティック部10Aのマーカー部(第1マーカー)とスティック部10Bのマーカー部(第2マーカー)とを判別することができ、それぞれの位置座標を、いずれのスティック部10のものかを区別して取得することができる。
次に、図4を参照して、カメラユニット部20の構成について説明する。
カメラユニット部20は、CPU等で構成されるカメラ制御部21と、ROM22と、RAM23と、撮像部24と、データ通信部25と、を含んで構成される。また、カメラユニット部20は、各部に電源を供給する図示しない電源部を備えている。
RAM23は、撮像部24により得られたマーカー部15の位置を示すデータ(演奏動作を行う演奏者の画像等)、この位置を示すデータから算出されたスティック部10A、10Bのマーカー部15(第1マーカー及び第2マーカー)のそれぞれの位置座標のデータ等、処理において取得され又は生成された値を格納する。
また、RAM23は、センターユニット部30から送信されるマーカー検出条件情報を格納する。マーカー検出条件情報とは、スティック部10A,10Bのマーカー部15のそれぞれを区別して検出するための条件であり、センターユニット部30の本体制御部31によりマーカー特徴情報から生成されるものである。
本実施形態では、カメラ制御部21は、例えば、撮像部24により得られたマーカー部15の位置を示すデータ(すなわち、スティック部10を持って演奏動作を行う演奏者の画像等、少なくともマーカー部15を含むスティック部10周辺を撮像した画像のデータ)及びマーカー検出条件情報に基づいて、スティック部10A、10Bのマーカー部15(第1マーカー及び第2マーカー)のそれぞれの位置座標を算出するマーカー位置検出処理を行う。
すなわち、カメラ制御部21は、撮像部24によって得られた画像からスティック部10のマーカー部15を検出して、その空間上の位置座標(撮像空間内におけるスティック部10のマーカー部15の位置座標)を特定する。また、複数のスティック部10A,10Bのマーカー部15が検出された場合には、カメラ制御部21は、RAM23からマーカー検出条件情報を読み出して、各マーカー部15がスティック部10Aのマーカー部15(第1マーカー)であるか、スティック部10Bのマーカー部15(第1マーカー及び第2マーカー)であるかを判別する。
また、カメラ制御部21は、算出されたスティック部10A、10Bのマーカー部15(第1マーカー及び第2マーカー)のそれぞれの位置座標のデータ(すなわち、第1マーカー及び第2マーカーの判別結果を伴う各マーカー部15の位置座標のデータ。以下、これを「マーカー検出位置情報」という。)を、データ通信部25を介してセンターユニット部30に送信する通信制御を行う。
撮像部24により撮像されたフレームごとの撮像データはカメラ制御部21に出力される。なお、カメラユニット部20は、撮像空間内におけるスティック部10のマーカー部15の位置座標を特定することとしているが、マーカー部15の位置座標の特定(すなわち、マーカー位置検出処理、図15参照)については、撮像部24で行うこととしてもよいし、カメラ制御部21が行うこととしてもよい。同様に、撮像した画像内のマーカー部15がいずれのスティック部10A,10Bのマーカー部15(第1マーカー及び第2マーカー)であるかの判別についても、撮像部24において行ってもよいし、カメラ制御部21において行うこととしてもよい。
なお、データ通信部16は、スティック部10との間で無線通信を行うこととしてもよい。また、データ通信部25による通信方式は無線通信に限定されない。例えばカメラユニット部20とセンターユニット部30等とをケーブルにより接続し、データ通信部25により有線通信を行う構成としてもよい。
次に、図5を参照して、センターユニット部30の構成について説明する。
センターユニット部30は、CPU等で構成される本体制御部31と、ROM32と、RAM33と、スイッチ操作検出回路34と、表示回路35と、発音部36と、データ通信部37と、を含んで構成される。また、センターユニット部30は、各部に電源を供給する図示しない電源部を備えている。
また、ROM32は、種々の音色の波形データ(すなわち各楽器の音源データ)を記憶する図示しない音源記憶領域を備えている。この音源記憶領域は、後述する発音部36とともに発音手段を構成するものである。音源記憶領域は、例えば、バスドラム、ハイハット、スネア、シンバル、タムなど本実施形態において想定される仮想のドラムセットD(図1(B)参照)を構成する打楽器の波形データを、各楽器の空間上の位置座標等と対応付けて格納している。なお、ROM32の音源記憶領域に格納されている音色の波形データは、これら打楽器に限定されず、例えばフルート、サックス、トランペットなどの管楽器、ピアノなどの鍵盤楽器、ギターなどの弦楽器の音色の波形データがROM32に格納されていてもよい。
また、本実施形態では、ROM32の音源記憶領域は、ロール奏法(以下「ドラムロール奏法」ともいう。)による演奏を行う際の楽音を構成する単音のロール波形を記憶する記憶手段として機能する。本実施形態において、ROM32の音源記憶領域に記憶されている単音のロール波形は、通常演奏の際の打音とは異なるドラムロール奏法による演奏時の打音(ドラムロール音)をサンプリングしたものである。なお、単音のロール波形は、ドラムロール奏法による演奏時の打音をサンプリングしたものに限定されず、通常の奏法による演奏時の打音(例えば通常奏法による演奏時のスネアドラム等の打音)をサンプリングしたものであってもよいが、ドラムロール音をサンプリングして用いた方が、よりドラムロール奏法による演奏らしい発音を実現できるため好ましい。
また、RAM33は、スティック部10A,10Bから送信されたスティック部10Aのマーカー部15(第1マーカー)、スティック部10Bのマーカー部15(第1マーカー及び第2マーカー)のそれぞれのマーカー特徴情報を格納している。
本実施形態では、本体制御部31は、機能的に見た場合、奏法判断部311、発音制御部312等を備えている。これら奏法判断部311、発音制御部312等としての機能は、CPUとROM32等に記憶されたプログラムとの共働によって実現される。
具体的には、各スティック部10(演奏操作子)からモーションセンサ部14によって検知されたスティック部10(演奏操作子)の動きに関する検知結果(モーションセンサデータ)が送信されると、奏法判断部311は、これに基づいて、スティック部10(演奏操作子)を用いた演奏操作形態が、ドラムロール奏法であるか、通常演奏の奏法であるか、すなわち、演奏者による演奏操作形態がドラムロール奏法特有の演奏操作形態となっているか否かを判断する。
ここで、「ロール奏法」(ドラムロール奏法)とは、打楽器であるドラムの演奏手法の1つであり、ドラムの打面を連打することによって持続音を出す奏法である。通常、現実のドラムを用いて演奏する場合には、スティック部を振ってその先端でドラムの打面を叩くと、叩いた後に反動でスティック部が跳ね上がる。ドラムロール奏法は、このようなスティック部の反動を利用して細かく速い連打を行い、持続音を発音させる奏法である。
このため、ドラムロール奏法特有の演奏操作形態とは、スティック部の細かく速い上下動であり、本実施形態では、スティック部10(演奏操作子)が細かく一定のテンポで上下に振り上げられ振り下ろされている場合、すなわち、スティック部10(演奏操作子)の上下方向の動きによる移動量が予め定めた範囲内(第1の条件)であって、スティック部10(演奏操作子)による各打撃演奏操作タイミング間の時間が予め定めた範囲内(第2の条件)である場合に、奏法判断手段である奏法判断部311は、演奏者による奏法がロール奏法(ドラムロール奏法)であると判断する。
また、打撃演奏操作タイミング間の時間とは、スティック部10(演奏操作子)の振り上げ振り下ろし動作が行われるタイミング間の時間である。打撃演奏操作タイミングは、例えばモーションセンサ部14によって検知されたスティック部10(演奏操作子)の動きから求められ、スティック部10(演奏操作子)の振り上げ振り下ろし動作によって発生する加速度の極大値となる時点(以下、これを「極大点」という。)及び極小値となる時点(以下、これを「極小点」という。)として現れる(なお、以下「極大点」と「極小点」とを合わせて「極点」という。)。したがって、打撃演奏操作タイミング間の時間は、隣り合う極点同士の間の時間(極点同士の間隔s)として検出することができ、この極点同士の間隔sが予め定めた範囲内である場合には、奏法判断部311は、「第2の条件」を満たしていると判断する。なお、第2の条件における「予め定めた範囲」は、通常演奏よりも一定したテンポでリズムを刻んでいることを表す値であればよく、例えば極点同士の間隔sが通常奏法による演奏時に比べて20%以下である等、適宜設定される。なお、「予め定めた範囲」の数値範囲は演奏者等によって事後的に調整可能となっていてもよい。
これに対して、図8に示す例では、現在時点の直近の極点(図8では、極小点a)を含む直近の過去4つの極大値及び極小値(図8では、極小点a〜極大点dの値)をみた場合に、極小点a〜極大点dの値は、全てが予め定めた所定の範囲内にあり、「第1の条件」を満たす。また、極小点aと極大点bとの間隔s、極大点bと極小点cとの間隔s、極小点cと極大点との間隔sがいずれも短く揃っており、極点同士の間隔sが予め定めた範囲内(例えば通常奏法による演奏時に比べて20%以下等)にあるため、「第2の条件」をも満たす。この場合、奏法判断部311は、演奏者の奏法がドラムロール奏法による演奏であると判断する。
すなわち、例えば図9に示す例のように、現在時点において、加速度の振幅が予め定めた範囲の外に出た場合のように「第1の条件」を満たさなくなった場合や、図10に示す例のように、現在時点の直近の極点を含む直近の過去4つの極大値及び極小値(極小点、極大点の値)をみた場合に、隣り合う極点同士の間隔sが予め定めた範囲外となった場合のように「第2の条件」を満たさなくなった場合には、奏法判断部311は、ドラムロール奏法による演奏が終了したと判断する。
例えば極大値と極小値との値の差について予め定めた範囲を設け、図11に示す例のように、この極大値と極小値との値の差が、当該予め定めた範囲を超えた場合には、奏法判断部311がドラムロール奏法による演奏を終了すると判断してもよい。
スティック部10の動きをスティック部10に設けられている加速度センサを用いて監視する場合、重力の影響がオフセットの加速度として重畳してくる。このため、上述のように、予め定めた範囲内に極点の値が収まるか否かによって演奏者の奏法を判断する場合には、このオフセット加速度を考慮することが必要となる。この点、図11に示すように、極大値と極小値との値の差(レベル差)や、隣り合う極点同士の値の差(レベル差)の絶対値を検出して、この値が予め定めた値よりも低いか高いかを演奏者の奏法を判断する際の判断条件とする場合には、重力の影響によるオフセットの加速度を考慮する必要がなく、処理が容易となる。
さらに、例えば図12に示す例のように、予め定めた所定の時間内に次の極点を検出できなかった場合には、奏法判断部311がドラムロール奏法による演奏を終了すると判断してもよい。
前述のように、図6は、スティック部10を用いて演奏動作を行った場合のモーションセンサ部14の垂直方向の加速度の変化を表わした図である。
演奏者は、仮想的な楽器にスティック部10を打ちつけた瞬間に楽音が発生することを想定しているため、楽音発生装置1においても、演奏者が想定するタイミングで楽音を発生できるのが望ましい。そこで、本実施形態では、奏法判断部311によって演奏者の奏法が通常奏法による演奏であると判断された場合には、演奏者が仮想的な楽器の打面にスティック部を打ちつける瞬間又はそのわずかに手前で楽音を発音させることとしている。
そして、発音制御部312は、このショットタイミングが検出されたときに発音を行うようにノートオンイベント(発音指示信号)を生成する。
そして、奏法判断部311によって演奏者の奏法が通常演奏における奏法であると判断されたときは、発音制御部312は、通常演奏モード(すなわち、通常の奏法で演奏を行うモード)で演奏が行われるように通常演奏モードのノートオンイベントを生成する。すなわち、モーションセンサデータ及びマーカー検出位置情報に基づいて、どの楽器が、どの程度の速さ、強さで、どのタイミングで叩かれたか等を判断し、この判断結果に合致する楽器種類(音色)に対応する波形データをROM33から読み出すとともに、この所定の楽音を、叩かれた速さや強さに対応する音量で、所定のショットタイミングで発音させるように発音指示信号(ノートオンイベント)を発音部36に出力する。
図13(A)は、ドラムロール演奏モードの場合と通常演奏モードの場合のモーションセンサデータの一例を示したものであり、図13(B)は、図13(A)におけるB部分の波形を拡大してドラムロール演奏モードの場合のノートオンタイミングの一例を示した図である。
ドラムロール演奏モードの場合には、発音制御部312は、単音のロール波形のデータをROM33から読み出すとともに、例えば、図13(B)に示すように、モーションセンサデータに示されるスティック部10の上下方向の移動の極大点及び極小点(極点、すなわち、加速度センサの出力波形の山と谷、図13(B)におけるtp1及びtp2)を検出し、各極大点tp1及び極小点tp2に1音ずつロール音源に基づく音(ドラムロール音)が鳴るようにショットタイミングを設定する。そして、このドラムロール音の楽音を演奏者の演奏動作に応じた所定の音量で、設定した所定のタイミングで発音させるように発音指示信号(ノートオンイベント)を発音部36に出力する。
本実施形態では、本体制御部31は、データ通信部37を介して、スティック部10からモーションセンサデータを受信するとともに、カメラユニット部20から第1マーカー及び第1マーカーのマーカー検出位置情報を受信する。
また、本体制御部31は、マーカー特徴情報に基づいてマーカー検出条件情報を生成し、データ通信部37を介して、カメラユニット部20に対して、マーカー検出条件情報を送信する。
また、表示回路35は、表示装置351と接続され、表示装置351の表示制御を行う。
また、データ通信部37は、スティック部10及びカメラユニット部20との間で所定の無線通信(例えば、赤外線通信)を行う。
楽音データ生成部361は、発音制御部312からの発音指示にしたがって、ROM32の音源記憶領域から波形データを読み出し、楽音データを生成するとともに、生成した楽音データをアナログ信号に変換する機能部である。
音声出力部362は、例えばスピーカ等であり、楽音データ生成部361において生成された楽音データに基づく楽音を発音させるものである。なお、音声出力部362は、スピーカに限定されず、ヘッドホン等に音声を出力させる出力端子等であってもよい。
本実施形態において、発音手段は、奏法判断手段である奏法判断部311により演奏者の行っている演奏動作がロール奏法であると判断されたときは、記憶手段であるROM32の音源記憶領域からロール波形を複数回連続して読み出すことにより、ロール奏法用楽音の発音を行うようになっている。
すなわち、奏法判断部311により演奏者の行っている演奏動作がロール奏法であると判断され、発音制御部312がドラムロール奏法による演奏の楽音を発音部36から発音させるように発音部36に対して発音指示を行った場合には、楽音データ生成部361は、ROM32の音源記憶領域に記憶されている単音のロール波形のデータを複数回連続して読み出し、この単音のロール波形を、発音制御部312の発音指示に応じたタイミングで発音させるように時間軸上に複数個配置して楽音データを生成する。例えば、スティック部10の振り上げ振り下ろしの振り幅の極大点及び極小点(すなわち、図13(B)におけるtp1、tp2)にノートオンするように発音制御部312から発音指示信号(ノートオンイベント)が送られているときは、振り幅の極大点tp1及び極小点tp2にこのそれぞれドラムロール音が1つ発音されるように単音のロール波形を時間軸上に配置する。そして、この楽音データを音声出力部362から出力させることにより、単音のドラムロール音が複数連続的に発音されて、あたかも打楽器の打面を連打するロール奏法(ドラムロール奏法)による演奏を行っているような楽音を発音させることができる。
次に、図14から図15を参照して、楽音発生装置1の処理について説明する。
図14は、スティック部10の処理を示すフローチャートであり、図15は、カメラユニット部20の処理を示すフローチャートであり、図16は、センターユニット部30の処理を示すフローチャートである。
図14に示すように、スティック部10のスティック制御部11は、ROM12に格納されているマーカー特徴情報を読み出す(ステップS1)。この処理では、スティック部10A,10Bのスティック制御部11は、それぞれ異なるマーカー特徴情報を読み出す。異なるマーカー特徴情報の読み出しは、任意の方法で行うことができ、例えば、スティック部10A、10Bが直接又はセンターユニット部30を介して通信することで行うこととしてもよく、また、個々のスティック部10毎に予め1のマーカー特徴情報を対応付けておき、スティック部10A、10Bのスティック制御部11は、それぞれ対応付けられた独自のマーカー特徴情報を読み出すこととしてもよい。
また、スティック制御部11は、マーカー特徴情報にしたがってマーカー部15を点灯させる(ステップS3)。
スティック制御部11は、演奏動作が終了したか否かを判断し(ステップS6)、演奏動作が終了したと判断する場合(ステップS6;YES)には、マーカー部15を消灯させる(ステップS7)。なお、スティック制御部11が演奏動作終了と判断するのは、例えばモーションセンサ部14が出力するセンサ値に一定以上の変化があるか否かや、スティック部のスイッチ(図示せず)がOFFとされた場合、センターユニット部30から演奏終了の信号が送信された場合等である。他方、スティック制御部11が、演奏動作が終了していないと判断する場合(ステップS6;NO)には、ステップS4に戻って処理を繰り返す。
図15に示すように、カメラユニット部20のカメラ制御部21は、センターユニット部30から送信されるマーカー検出条件情報を取得して、RAM23に格納する。(ステップS11)。なお、マーカー検出条件情報とは、スティック部10A,10Bのマーカー部15のそれぞれを検出するための条件であり、マーカー特徴情報から生成される(図16のステップS21,ステップS22参照)。マーカー特徴情報としては、上述のように、例えば、マーカーの形状、大きさ、色相、彩度、あるいは輝度を用いることができる。
続いて、カメラ制御部21は、マーカー検出条件情報に基づいて、撮像部24の各種設定を行う(ステップS12)。
カメラ制御部21は、演奏動作が終了したか否かを判断し(ステップS16)、演奏動作が終了したと判断する場合(ステップS16;YES)には、処理を終了し、演奏動作が終了していないと判断する場合(ステップS16;NO)には、ステップS13に戻って処理を繰り返す。
図16に示すように、センターユニット部30の本体制御部31は、マーカー特徴情報をスティック部10から受信し、RAM33に格納する(ステップS21)。続いて、本体制御部31は、マーカー特徴情報及びスイッチ341を介して設定された検出条件から、マーカー検出条件情報を生成し、データ通信部37を介して、カメラユニット部20に送信する(ステップS22)。
他方、ショットありと判断した場合(ステップS25;YES)には、本体制御部31(奏法判断部311)は、さらに、当該ショットから過去に遡って4回以上の振り上げ又は振り下ろし動作があるか否か、すなわち、モーションセンサデータにおいて、図8に示すような加速度センサの出力波形の起伏(山と谷、極大点と極小点)が当該ショットを含めて4つ以上あるか否かを判断する(ステップS26)。
ショットはあったが、4つ以上の極大点及び極小点がないと判断した場合(ステップS26;NO)、直近の4つの加速度の極大値及び極小値が予め定めた範囲内にないと判断した場合(ステップS27;NO)、及び直近の4つの極点同士の間隔sが予め定められた範囲内にないと判断した場合(ステップS28;NO)には、本体制御部31(奏法判断部311)は通常奏法による演奏と判断する。この場合には、本体制御部31(発音制御部312)は、通常奏法による演奏の発音指示信号を発音部36に出力する(ステップS29)。通常演奏モードでは、本体制御部31(発音制御部312)は、モーションセンサデータ(例えば、加速度センサのセンサ合成値)等に基づいて、発音タイミング、発音させる楽音の音量、音色(楽器の種類)等を含むノートオンイベントを生成する。なお、楽音の音量は、例えば、センサ合成値の最大値から求めることができる。これにより通常演奏モードにおける所定の発音タイミングで、所定の楽器の波形に基づく楽音が所定の音量で発音部36から発音される。
また、この場合、本体制御部31は、常に演奏が終了したか否かを判断し(ステップS30)、演奏が終了したと判断した場合(ステップS30;YES)には、楽音発生処理を終了する。また、演奏が終了していないと判断した場合(ステップS30;NO)には、ステップS23に戻って処理を繰り返す。
この場合、本体制御部31(奏法判断部311)は、常に、加速度の極大値及び極小値が予め定めた範囲を超えたか又は隣り合う極点同士の間隔sが予め定めた範囲を超えたか否か(すなわち、「第1条件」「第2条件」のいずれかを欠く状態となったか否か)を判断する(ステップS32)。いずれの条件も欠いていないと判断する場合(ステップS32;NO)には、本体制御部31は、ドラムロール奏法による演奏を継続させたまま、ステップS23に戻って処理を繰り返す。
他方、いずれかの条件を欠いたと本体制御部31(奏法判断部311)が判断する場合(ステップS32;YES)には、本体制御部31(発音制御部312)は、ドラムロール演奏モードをノートオフし、通常演奏モードに遷移させる(ステップS33)。すなわち、次のショットが検出されたときに通常奏法による演奏における音源(波形データ)に基づく楽音を演奏動作に合わせて所定のタイミングで発音させるように発音部36に発音指示信号を出力する。この場合は、通常奏法による演奏の発音指示信号を発音部36に出力した場合(ステップS29)と同様に、本体制御部31は、常に演奏動作が終了したか否かを判断し(ステップS30)、演奏動作が終了したと判断した場合(ステップS30;YES)には、楽音発生処理を終了する。また、演奏動作が終了していないと判断した場合(ステップS30;NO)には、ステップS23に戻って処理を繰り返す。
また、ドラムロール奏法による演奏の場合にもモーションセンサ部14の検知結果に応じて発音制御を行うため、演奏者の演奏動作に応じて(すなわち、演奏者の刻むリズムの速さや、打面を叩く強さ等に対応したタイミングで)ドラムロール音が発音され、演奏者は、実際にドラムロール奏法による演奏を行っているかのように演奏を楽しむことができる。
また、奏法判断部311は、動き検知手段であるモーションセンサ部14によって検知されたスティック部10(演奏操作子)の上下方向の動きによる移動量が予め定めた範囲内である場合に、ドラムロール奏法による演奏であると判断する。このため、実際のドラムロール奏法による演奏の場合と同様に演奏操作子を小刻みに上下動させる演奏動作を行うことで、ドラムロール奏法の楽音を発生させることができる。
また、奏法判断部311は、動き検知手段であるモーションセンサ部14によって検知されたスティック部10(演奏操作子)の打撃演奏操作タイミング間の時間が予め定めた範囲内である場合に、ロール奏法であると判断する。このため、実際のドラムロール奏法の場合と同様に演奏操作子を一定のリズムで連続的に操作する演奏動作を行うことで、ドラムロール奏法による演奏の楽音を発生させることができる。
また、本実施形態では、通常演奏の際の打音とは異なるドラムロール奏法による演奏時の打音をサンプリングした単音のロール波形をROM32に記憶させておき、ドラムロール奏法の際は、この単音のロール波形を複数連続的に発音させるようになっている。ドラムロール奏法では、小刻みに素早く打面を連打し、打面に演奏操作子が当たって跳ね上がる反動を利用して連続音を発音させるため、通常の奏法による演奏によりドラムの打面を叩いたのとは多少異なる音が発音される。この点、本実施形態ではドラムロール奏法による演奏時の打音を用いてドラムロール奏法の楽音を生成するため、実際にドラムロール奏法による演奏を行っている場合と同様の打音で演奏を行うことができる。
すなわち、例えば、スティック部10(演奏操作子)のスティック制御部11が発音制御手段、奏法判断手段として機能し、スティック制御部11において各種センサの検知結果の分析等が行われてもよい。この場合には、動き検知手段としてのモーションセンサ部14の検知結果(各種センサの生データ等)ではなく、各種センサの検知結果に基づいたノートオンイベント(発音指示の信号)がセンターユニット部30に送信される。
また、例えばセンターユニット部30の本体制御部31において、カメラユニット部20の撮像部24により得られたマーカー部15の位置を示すデータ(すなわち、演奏者等を撮像した画像のデータ)及びマーカー特徴情報に基づいて、スティック部10A、10Bのマーカー部15(第1マーカー及び第2マーカー)のそれぞれの位置座標を算出する処理を行ってもよい。この場合には、カメラユニット部20は、単に画像を撮像してセンターユニット部30に送信すれば足りるため、カメラユニット部20のRAM23にスティック部10A、10Bのそれぞれのマーカー部15を識別するためのマーカー検出条件情報を格納しておく必要はない。
例えば、動き検知手段であるモーションセンサ部14によって検知されたスティック部10(演奏操作子)の上下方向の動きによる移動量が予め定めた範囲内であるとの「第1の条件」のみを満たせばロール奏法(ドラムロール奏法)であると判断してもよいし、モーションセンサ部14によって検知されたスティック部10(演奏操作子)の打撃演奏操作タイミング間の時間が予め定めた範囲内であるとの「第2の条件」のみを満たせばロール奏法(ドラムロール奏法)であると判断してもよい。「第1の条件」「第2の条件」のうちいずれかを満たせばロール奏法(ドラムロール奏法)であると判断してもよい。
例えば、モーションセンサ部14によって検知されたスティック部10(演奏操作子)の動きに基づいて演奏者の奏法を判断するものに限定されず、カメラユニット部20によって取得される演奏動作を撮像した画像に基づいて、実際のスティック部10(演奏操作子)の振り幅等を検出することにより、奏法判断部311が第1の条件、第2の条件を満たしているか否か等を判断し、演奏者の奏法を判断してもよい。
例えば、図17に示すように、2つの極大点tp1の間又は2つの極小点tp2の間を1周期とした場合に、各極大点tp1及び極小点tp2と、極大点tp1及び極小点tp2のほぼ中間時点とにおいてそれぞれ発音させるようにショットタイミングを設定してもよい。また、これよりもさらに細かく、例えば1周期に6回以上回発音させてもよい。また、極大点tp1及び極小点tp2の間の時間間隔に応じてドラムロール音を発音させる回数を動的に増減させるようにしてもよい。このように、極大点tp1及び極小点tp2の間の時間間隔に応じてドラムロール音を発音させる回数を増減させるようにした場合には、例えば、実際のドラムロール奏法による演奏を行うことができるほどには速い演奏動作を行うことができない演奏者であっても、1周期に発音させる回数を増加させることで細かい打音が連続したドラムロール奏法らしい演奏を自ら行っているような体験をすることができる。
例えば、持続音としてのドラムロール音(実際にドラムロール奏法による演奏を行っている場合に発音される持続音)の波形データをROM32の音源記憶領域に格納しておき、奏法判断部311がドラムロール奏法による演奏と判断し、ドラムロール演奏モードに遷移すると、この持続音としてのドラムロール音の波形データを読み出して、ドラムロール演奏モードに遷移したタイミングでノートオンさせ、ドラムロール奏法による演奏を終了させ、通常演奏モードに遷移させるときに、この持続音をノートオフするようにしてもよい。
本実施形態で例示したように、単音のロール波形を演奏者の演奏動作に合わせて所定のタイミングで発音させる場合には、ドラムロール演奏モードにおけるドラムロール音に演奏者の技量や表現力が反映されやすく、演奏者自らが実際にドラムロール奏法による演奏を行っている感覚がより味わえる一方で、演奏者が演奏技術に習熟していない場合等には、ドラムロール演奏モードにおける音がばらつきやすく、下手なドラムロール音に聞こえる可能性がある。
これに対して、ドラムロール演奏モードにおいて持続音としてのドラムロール音を発音させる場合には、所定の条件を満たす動きをしている限りは、実際のドラムロール奏法による演奏と同じ音が発音されるため、ドラムロール演奏モードにおける演奏に個人差が現れず、演奏の習熟度に関わらず誰でも安定したドラムロール音を発音させることができる。
このため、例えば、単音のロール波形と持続音としてのドラムロール音の波形データの両方をROM32に格納しておき、ドラムロール奏法による演奏の際にいずれの波形データ(音源)を用いて、いずれのタイミングでノートオンさせるか等を演奏者が自らの技量等に応じて自由に選択できるようにしてもよい。
また、本実施形態では、スティック部10に平行な軸の回りの回転はしないものとして説明したが、これらの回転等についても角加速度センサ等により計測して対応するようにしてもよい。
楽音発生装置1は、演奏操作子で空間を叩く演奏動作を行うことで所定の楽器の音を発音させるものであり、実際に演奏操作子を楽器の打面に打ち付けるものではないため、携帯端末装置等の精密な電子機器を演奏操作子として用いた場合でも、演奏操作子が破損するおそれがない。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
演奏者が保持可能な打撃用の演奏操作子と、
前記演奏者の打撃演奏操作によって生じる前記演奏操作子本体の動きを検知する動き検知手段と、
この動き検知手段により検知された動きに基づいて、前記演奏操作子を用いた演奏操作形態がロール奏法であるか否かを判断する奏法判断手段と、
前記奏法判断手段によりロール奏法と判断された場合、前記動き検出手段により検知された動きに基づいて決定されるタイミングにて、ロール奏法用楽音の発音を発音手段に指示する発音指示手段と、
を備えていることを特徴とする楽音発生装置。
<請求項2>
前記奏法判断手段は、前記動き検知手段により検知される前記演奏操作子の上下方向の動きによる移動量が予め定めた範囲内である場合に、ロール奏法であると判断することを特徴とする請求項1に記載の楽音発生装置。
<請求項3>
前記奏法判断手段は、前記動き検知手段によって検知された前記演奏操作子の動きから求められる各打撃演奏操作タイミング間の時間が予め定めた範囲内である場合に、ロール奏法であると判断することを特徴とする請求項1又は請求項2に記載の楽音発生装置。
<請求項4>
前記発音手段は、
単音のロール波形を記憶する記憶手段を備え、
前記奏法判断手段によりロール奏法であると判断されたときは、前記記憶手段からロール波形を複数回連続して読み出すことにより、ロール奏法用楽音の発音を行うことを特徴とする請求項1から請求項3のいずれか一項に記載の楽音発生装置。
10 スティック部
14 モーションセンサ部
15 マーカー部
20 カメラユニット部
24 撮像部
30 センターユニット部
31 制御部
36 発音部
311 奏法判断部
312 発音制御部
361 楽音データ生成部
362 音声出力部
D ドラムセット
Claims (2)
- 演奏者が保持可能な打撃用の演奏操作子と、
前記演奏者の打撃演奏操作によって生じる前記演奏操作子本体の動きを検知する動き検知手段と、
前記動き検知手段により検知される前記演奏操作子の上下方向の動きにより発生する加速度の極大値及び極小値が予め定めた範囲内である場合であって、かつ、前記動き検知手段によって検知された前記演奏操作子の操作により発生する加速度の極大値及び極小値との間の時間が予め定めた範囲内である場合にロール奏法であると判断する奏法判断手段と、
前記奏法判断手段によりロール奏法と判断された場合、前記動き検出手段により検知された動きに基づいて決定されるタイミングにて、ロール奏法用楽音の発音を発音手段に指示する発音指示手段と、
を備えていることを特徴とする楽音発生装置。 - 前記発音手段は、
単音のロール波形を記憶する記憶手段を備え、
前記奏法判断手段によりロール奏法であると判断されたときは、前記記憶手段からロール波形を複数回連続して読み出すことにより、ロール奏法用楽音の発音を行うことを特徴とする請求項1に記載の楽音発生装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012048489A JP5935399B2 (ja) | 2012-03-05 | 2012-03-05 | 楽音発生装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012048489A JP5935399B2 (ja) | 2012-03-05 | 2012-03-05 | 楽音発生装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013186136A JP2013186136A (ja) | 2013-09-19 |
JP5935399B2 true JP5935399B2 (ja) | 2016-06-15 |
Family
ID=49387650
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012048489A Active JP5935399B2 (ja) | 2012-03-05 | 2012-03-05 | 楽音発生装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5935399B2 (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4244874B2 (ja) * | 2004-07-14 | 2009-03-25 | ヤマハ株式会社 | 電子打楽器、打撃音生成プログラム |
JP5088398B2 (ja) * | 2010-06-01 | 2012-12-05 | カシオ計算機株式会社 | 演奏装置および電子楽器 |
-
2012
- 2012-03-05 JP JP2012048489A patent/JP5935399B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2013186136A (ja) | 2013-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5966465B2 (ja) | 演奏装置、プログラム及び演奏方法 | |
JP6024136B2 (ja) | 演奏装置、演奏方法及びプログラム | |
JP5533915B2 (ja) | 習熟度判定装置、習熟度判定方法及びプログラム | |
JP6127367B2 (ja) | 演奏装置及びプログラム | |
JP5573899B2 (ja) | 演奏装置 | |
US8586853B2 (en) | Performance apparatus and electronic musical instrument | |
US20090318227A1 (en) | Game controller case and sound output control method | |
US8710345B2 (en) | Performance apparatus, a method of controlling the performance apparatus and a program recording medium | |
JP2013182195A (ja) | 演奏装置及びプログラム | |
JP2013040991A (ja) | 操作子、操作方法及びプログラム | |
JP5549698B2 (ja) | 演奏装置、方法及びプログラム | |
JP6111526B2 (ja) | 楽音発生装置 | |
JP5935399B2 (ja) | 楽音発生装置 | |
JP6398291B2 (ja) | 演奏装置、演奏方法及びプログラム | |
JP2013044889A (ja) | 演奏装置 | |
JP5861517B2 (ja) | 演奏装置及びプログラム | |
JP5974567B2 (ja) | 楽音発生装置 | |
JP6098083B2 (ja) | 演奏装置、演奏方法及びプログラム | |
JP6094111B2 (ja) | 演奏装置、演奏方法及びプログラム | |
JP6098081B2 (ja) | 演奏装置、演奏方法及びプログラム | |
JP2013195626A (ja) | 楽音発生装置 | |
JP5942627B2 (ja) | 演奏装置、方法及びプログラム | |
JP2010191323A (ja) | 音楽作成装置、方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150219 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150910 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150915 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160412 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160425 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5935399 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |