JP3631650B2 - 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した計算機読み取り可能な記録媒体 - Google Patents
音楽検索装置,音楽検索方法および音楽検索プログラムを記録した計算機読み取り可能な記録媒体 Download PDFInfo
- Publication number
- JP3631650B2 JP3631650B2 JP2000008458A JP2000008458A JP3631650B2 JP 3631650 B2 JP3631650 B2 JP 3631650B2 JP 2000008458 A JP2000008458 A JP 2000008458A JP 2000008458 A JP2000008458 A JP 2000008458A JP 3631650 B2 JP3631650 B2 JP 3631650B2
- Authority
- JP
- Japan
- Prior art keywords
- music
- search
- tempo
- input
- piece
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Electrophonic Musical Instruments (AREA)
Description
【発明の属する技術分野】
本発明は,音楽検索に係わり,特に,楽曲入力手段によって入力もしくは指定された楽曲の一部もしくは全体を検索キーとして,データベースに蓄積された楽曲の中から,検索キーと類似する楽曲の一部もしくは全体を検索する装置およびその方法に関する。
【0002】
【従来の技術】
音楽の類似検索を行う場合,従来方法においては音符がマッチングの処理単位として用いられていた。この場合,音符とは,音の高さの変動もしくは変動率がある一定の閾値内に納まっている音の連続のことを言う。また,各音符は,音符情報として音の高さ(音高),音の長さ(音長),時間的に前後する音符との音高の差(相対音高),時間的に前後する音符との音長の比(相対音長)などを保有している。
【0003】
図9は,従来方法による音楽検索のうち,音符を単位としたDPマッチングを使用するものの原理を説明する図である。まず,データベース構築のフェーズでは,検索対象とする楽曲を入力し(ステップS101),音符情報に変換する(ステップS102)。それをデータベースへ格納する(ステップS103)。データベースへ格納した楽曲の検索は,検索キーとなる楽曲を入力し(ステップS111),それを音符情報に変換する(ステップS112)。次に,データベース中の全楽曲の音符情報と検索キーから得られた音符情報について,データベース中の曲数分,DP(Dynamic Programming )マッチングを実施し(ステップS113),もっとも類似した楽曲の候補を検索結果として出力する(ステップS114)。
【0004】
以上のように,音楽の類似検索を行う場合,従来方法においてはDPマッチングが使われていた(参考文献1,2)。
〔参考文献1〕園田智也,後藤真孝,村岡洋一:「WWW上での歌声による曲検索システム」,電子情報通信学会技術報告,SP97−103, 1998.
〔参考文献2〕蔭山哲也,高島羊典:「ハミング歌唱を手掛りとするメロディ検索」,電子情報通信学会論文誌,Vol.J77−D−II No.8 pp.1543−1551, 1994.
DPマッチングにおいては,検索キーと,データベース中の楽曲の一部または全体(候補部分曲)の対応関係が求められ,対応関係にある検索キーの音符と,候補部分曲の音符との間での,音符情報の差異の累計によって類似度が計算される。この検索キーとの間の類似度が最大になるような候補部分曲を,動的計画法によって探し出すのがDPマッチングである。
【0005】
【発明が解決しようとする課題】
従来方法の音符をマッチングの単位とした検索方法では,一般に,許容できる音符数誤りの量を制限している。
【0006】
また,従来方法のDPマッチングでは,計算量を抑制するために,検索キーの音符列と,類似度計算対象となるデータベース中の楽曲の音符列との間の音符数の差異に制限を設ける。
【0007】
したがって,音楽検索をする場合に,検索キー入力の際に,検索目標とするデータベース中の楽曲に対して一定量以上に音符の挿入・削除を行ってしまうと極端に検索精度が悪くなるという問題があった。
【0008】
たとえ検索キー入力の際に,音符の挿入・削除が行われなかったとしても,検索キーから音符情報を抽出する際に,音符の挿入・削除が生じる可能性も大きく,そのために検索精度が悪いという問題があった。
【0009】
また,DPマッチングにおいては,インデクスを利用することができず,データベース中の全曲に対して全検索を施す必要があるために,たとえ計算量を抑制するために許容できる音符数誤りの量を制限したとしても,やはり検索に時間がかかるという問題があった。
【0010】
一方,音楽片を使用した検索の場合,インデクスを利用できるために検索時間を大幅に短縮することが可能であった。
【0011】
図10は,音楽片を使用する音楽検索の原理を説明する図である。この手法は,特願平10−341754号(音楽検索装置,音楽検索方法および音楽検索プログラムを記録した記録媒体)で,本発明者等が提案しているものである。
【0012】
まず,データベースの構築では,検索対象とする楽曲を入力し(ステップS201),入力した楽曲を音符情報に変換し(ステップS202),その音符情報を複数の音楽片に分割し(ステップS203),高速検索が可能なように,インデクスを生成し(ステップS204),音楽片の情報をインデクスとともにデータベースに格納する(ステップS205)。
【0013】
次に,楽曲の検索では,検索キーとなる楽曲を入力し(ステップS211),入力した楽曲を音符情報に変換し(ステップS212),音符情報を複数の音楽片に分割する(ステップS213)。音楽片の一つ一つを検索キーとして,インデクスを用いてデータベースに蓄積された音楽片から類似するものを検索する(ステップS214)。検索結果として検出された音楽片同士の関係と,検索キーとなった音楽片同士の関係などを調べることで,検出された音楽片を含むデータベース中の楽曲の一部または全体との間の類似度を調べて(ステップS215),検索キーとなった楽曲の一部または全体と類似度の高いデータベース中の楽曲の一部または全部を検索結果として出力する(ステップS216)。
【0014】
音楽片検索を行う場合には,類似度を計算する音楽片同士の音符の数が一致しているために,DPマッチングを用いて音符同士の対応関係を求める必要がなく,インデクスを利用した高速な検索が可能であった。
【0015】
しかし,音楽片検索をする際は,音符数誤りが認められないために,音楽片の長さ分だけ,音符の挿入・削除のない区間が必要であるという制限があった。すなわち,音楽片の長さ分だけ,音符の挿入・削除のない区間がなければ,検索精度が悪いという問題点があった。
【0016】
また,音符情報を必ずしも必要としない方法としては,音楽情報への変換を行った後,類似検索を行うという手法がある。
【0017】
図11は,音符情報を使用しない音楽検索の原理を説明する図である。この手法は,特願平10−329131号(音楽情報検索装置,音楽情報蓄積装置,音楽情報検索方法,音楽情報蓄積方法およびそれらのプログラムを記録した記録媒体)で,本発明等が提案しているものである。
【0018】
まず,データベースの構築において,楽曲を入力し(ステップS301),入力した楽曲から音楽的な特徴(特徴量)を抽出することが可能な音楽情報に変換し(ステップS302),それをデータベースへ格納する(ステップS303)。
【0019】
楽曲の検索において,検索キーとなる楽曲を入力し(ステップS311),入力した楽曲を同等な音楽情報への変換を行い(ステップS312),変換した音楽情報をもとに,データベース中の楽曲について類似検索を実施する(ステップS313)。ここで,類似検索として,検索キーの楽曲の特徴量をデータベースに蓄積された楽曲の特徴量と比較し検索し,検索は距離関数を用いて距離の近いものを類似度の高いものとする類似度計算を行う。類似したものを含む楽曲の候補を検索結果として出力する(ステップS314)。
【0020】
しかし,このような音楽情報を利用する方法においては,検索キーと,データベース中の曲とのテンポが異なる場合に,検索精度が悪いという問題点があった。
【0021】
本発明は,上記の点に鑑みなされたもので,データベース中の楽曲および検索キーのテンポを規格化することにより,音符を単位とするのではなく,規格化された時間を単位とした検索を可能とすることによって音符数誤りによって影響を受けない楽曲の検索装置および方法を提供することを目的とする。本発明においては,DPマッチングを使う必要がないため,インデクスを用いた検索を行うことが可能であり,高速な検索が可能である。また,検索を行う前にテンポを規格化するために,検索キーとデータベース中の曲とのテンポが異なっていた場合にも,高い検索精度を得ることが可能である。
【0022】
【課題を解決するための手段】
図1および図2は,本発明による音楽の類似検索の概要を説明するための図,図3は,本発明の原理構成図である。
【0023】
本発明は,音楽検索において,データベースに入力された楽曲もしくは楽曲から変換された音楽情報のテンポを規格化した上でデータベースに蓄積し,また,検索キーとして入力された楽曲もしくは楽曲から変換された音楽情報のテンポを規格化した上で,音楽の類似検索を行うことを主な特徴とする。
【0024】
まず,音楽情報への変換を行わない検索におけるデータベースの構築では,楽曲入力手段1を用いて楽曲が入力される(ステップS10)。入力された楽曲は,テンポ規格化手段2によってテンポ規格化される(ステップS11)。
【0025】
また,音楽情報への変換を行う検索の場合のデータベースの構築では,楽曲入力手段1を用いて楽曲が入力された後(ステップS30),音楽情報変換手段31により音楽情報に変換され(ステップS31),その後,テンポ規格化手段2によってテンポ規格化される(ステップS32)。
【0026】
テンポ規格化された楽曲あるいはテンポ規格化された音楽情報は,楽曲蓄積手段4により,音楽情報蓄積部42にデータベースとして蓄積される(ステップS12,S33)。
【0027】
テンポ規格化された楽曲あるいはテンポ規格化された音楽情報は,楽曲蓄積手段4により蓄積される前に,音楽情報変換手段31’による音楽情報への変換,音楽片生成手段32による音楽片への分割の過程を経てから,蓄積されることもある。さらに,蓄積された楽曲,音楽情報,音楽片に対して,インデクス生成手段44により,検索を高速化するためのインデクスが作成されることもある。
【0028】
楽曲蓄積手段4には,テンポ規格化される前の楽曲を楽曲蓄積部41に蓄積することも可能であり,検索の結果として,テンポ規格化される前の楽曲を出力することも可能である。
【0029】
楽曲の検索においては,まず,楽曲入力手段1を用いて楽曲の一部または全体が入力もしくは指定される(ステップS20,S40)。入力された楽曲は,テンポ規格化手段2によりテンポ規格化されるか(ステップS21),音楽情報変換手段31により音楽情報へ変換された後(ステップS41),テンポ規格化される(ステップS42)。テンポ規格化された検索キーは,さらに,音楽情報変換手段31’により音楽情報へ変換され,音楽片生成手段32により音楽片へ分割されることもある。
【0030】
上記処理を経た検索キーは,楽曲検索手段5へ送られ,楽曲検索手段5では,検索キーに類似する楽曲の一部もしくは全体を,データベースに蓄積された楽曲から検索する(ステップS22,S43)。データベースでインデクスが生成されている場合は,インデクスを用いて検索を行う。
【0031】
音楽片を用いた検索では,音楽片検索手段51により,検索キーとして送られてきた音楽片の少なくとも一つを用いて,データベースに蓄積された音楽片から類似するものを検索し,楽曲出力手段6により,検索結果の楽曲を出力する(ステップS23,S44)。検索キーとして送られてきた音楽片の複数を用いて検索する場合には,検索キーのそれぞれの音楽片に類似するデータベース中の音楽片を検索した後,音楽片整合手段52により,音楽片同士の整合性を調べ,最終的な検索結果とすることもある。
【0032】
なお,音楽片の整合については,上記の関連する特許出願(特願平10−341754号)の明細書等に記載されている手法を採用する。具体的には,検索結果として検出された音楽片同士の関係と,検出された音楽片のそれぞれの検索キーとなった音楽片同士の関係を調べ,また,検出された音楽片の前後の音符と,検出された音楽片の検索キーとなった音楽片の前後の音符の関係を調べることで,検索キーとなった楽曲の一部または全部と,検出された音楽片を含むデータベース中の楽曲の一部または全部との間の類似度を調べる。
【0033】
楽曲入力手段1は,一定の時間間隔もしくは決められた規則に従った時間間隔で信号を発するリズム信号発信手段11を有することもある。特に,検索キーとして入力される楽曲に関しては,テンポ規格化が十分な精度で行われない可能性がある。そこで,リズム信号発信手段11によって一定の時間間隔もしくは決められた規則に従った時間間隔で信号を発信させ,その信号に合わせて楽曲入力者が楽曲の入力を行い,入力された楽曲と,リズム信号発信手段11により発信される信号とを同時にテンポ規格化手段2に入力させることによって,正確なテンポ規格化を行うことを可能とする。
【0034】
あるいは,楽曲入力手段1は,リズム信号受信手段12を有することもある。これは,楽曲入力者が楽曲の演奏(歌唱)に合わせて発するリズム信号を受信可能とする手段で,入力された楽曲と,リズム信号受信手段12により受信される信号を同時にテンポ規格化手段2に入力させることによって,正確なテンポ規格化を行うことを可能とする。
【0035】
テンポ規格化手段2は,楽曲入力手段1により入力された楽曲,音楽情報変換手段31により変換された音楽情報,もしくは,リズム信号発信手段11により発信された信号,リズム信号受信手段12により受信された信号から,テンポを抽出するテンポ抽出手段21を有することもある。この場合,テンポ規格化手段2は,テンポ抽出手段21によって抽出されたテンポを用いて,テンポ規格化を行う。
【0036】
以下に,本発明の作用を説明する。図4は,テンポ規格化について説明するための図である。楽曲においては,テンポによって,音楽的な「拍子」の時間的な長さが規定される。図4(A)の「元の楽曲」に示されているように,楽曲はそれぞれテンポを持っており,このテンポは,楽曲同士の間で一致することもあれば,異なることもある。また,同じ楽曲であっても,一つ一つの演奏によって異なることもある。また,同じ楽曲であっても,曲の部分によって異なることもある。
【0037】
テンポを規格化するということは,図4(B)に示すように,すべての楽曲のすべての演奏の,すべての部分において,拍子の長さが一定の時間的な長さになるように,楽曲に変換を施すことである。
【0038】
図5は,マッチングの単位を説明するための図である。テンポ規格化を行わない場合,主に音符がマッチングの単位とされてきた。しかし,図5(A)に示すように,音符の挿入・削除が生じると,比較する音符同士の対応関係がずれるという問題があった。DPマッチングは,音符の挿入・削除があった場合の比較する音符同士の対応関係のずれを修正するための方法である。
【0039】
実際にDPマッチングを用いて検索を行う場合,許容する音符の挿入・削除の量には制限を設ける必要があるため,音符の挿入・削除が検索精度に大きな影響を与える。また,DPマッチングを用いた検索では,検索を高速に行うためのインデクスの作成などもできないため,多くの検索時間を必要とする。
【0040】
一方,テンポ規格化を行った場合,図5(B)のように時間を単位としたマッチングが可能となる。この場合,音符の挿入・削除があったとしても,対応関係にずれが生じることがなく,そのことにより検索精度が影響されることはない。したがって,精度の高い検索が可能となる。また,テンポ規格化された楽曲を,音楽片に分割し,インデクスを作成することにより,検索を高速に行うようにすることも可能である。
【0041】
本発明に関連する技術として,特願平10−329131号,特願平10−341754号に開示する発明がある。本発明は,データベース構築の際に,データベースに入力する楽曲のテンポ規格化を行い,検索キーとなる楽曲の入力の際もテンポ規格化を行う点が,先の発明と主に異なる。特に,本発明は,特願平10−341754号に開示する発明とは,特に音符単位での検索を行わず,時間を単位とした検索を行う点が主に異なる。
【0042】
【発明の実施の形態】
〔第1の実施の形態〕
本発明の第1の実施の形態について説明する。データベースに入力するための楽曲として,MIDIデータを用いる。現在ではカラオケ用のデータを初め,多くの楽曲がMIDIデータとして世の中に出回っている。
【0043】
MIDIデータでは,音符情報が拍子を基準として記述されている。そして,1拍の実時間上の長さが,テンポ情報として,音符情報とは別に記述されている。したがって,規格化された時間として,1拍の長さを基準とした時間を採用すれば,データベース中の楽曲のテンポ規格化が実現される。
【0044】
データベースに格納するにあたり,元のMIDIデータは,まず,音楽片に分割される。分割の方法としては,音楽片の長さが,規格化された時間軸上ですべて同じになるようにし,図6(A)に示すように,すべての音符の始まりを先頭とする音楽片が生成されるようにする方法がある。あるいは,図6(B)に示すように,音楽片が一定の時間間隔で始まるように分割する方法もある。
【0045】
また,音楽片へ分割した後,音楽情報(特徴量)として,音高推移ベクトルを生成する。これは,図7に示すように,規格化された時間軸を等間隔の目盛で刻み,各目盛の位置で演奏されている音の高さを並べてできるベクトルである。計算機での処理上,音の高さは,例えばMIDIで使われている音高を表す数値や,周波数などに置き換える。
【0046】
音楽情報(特徴量)としては,上記のほかに,例えば,以下のものを生成することができる。
【0047】
▲1▼ 音高推移ベクトルAi =(ai1,ai2,…,ain)としたとき,ベクトルの要素の平均値mi =(ai1+ai2+…+ain)/nを計算し,各要素からこの平均値を引いた値を要素とするベクトルAi ’ =(ai1−mi ,ai2−mi ,…,ain−mi )を特徴量とする。検索キーの楽曲と,データベース中の楽曲の調が異なっていても,このベクトルは類似することが期待される。
【0048】
▲2▼ 音高推移ベクトルAi =(ai1,ai2,…,ain)に対し,最初の要素ai1を基準にし,各要素からこの基準値を引いた値を要素とするベクトルAi ’’=(0,ai2−ai1,…,ain−ai1)を特徴量とする。検索キーの楽曲と,データベース中の楽曲の調が異なっていても,このベクトルは類似することが期待される。
【0049】
▲3▼ 音高推移ベクトルAi =(ai1,ai2,…,ain)に対し,各要素から前の要素の値を引いた値を要素とするベクトルAi ’’’ =(ai1,ai2−ai1,…,ain−ain−1)を特徴量とする。検索キーの楽曲の調が少しずつ推移してしまう場合でも,データベース中の楽曲と,このベクトルは類似することが期待される。
【0050】
これらの音楽情報が,データベースに格納された後,検索を高速化するためのインデクスを生成する。インデクスの生成方法としては,R−tree などを用いる。なお,R−tree に関する参考文献としては以下のものがある。
〔参考文献3〕A.Guttman, ”R−trees: a dynamic index structures for spatial searching”, Proceedings of the ACM SIGMOD International Conference on the Management of Data, pp.47−57, Boston, 1984.
検索キーとなる楽曲の入力については,ハミングによる入力,楽器の演奏による入力,MIDIキーボードの演奏による入力などの方法がある。
【0051】
楽曲の入力の際には,リズム信号発信装置として,電子的なメトロノームを用いる。この電子的なメトロノームは,指定したテンポで音や光,コンピュータディスプレイ上の文字・図形などを発することができるようになっており,楽曲入力者が,その発する信号に合わせて楽曲の入力ができるようになっている。この電子的なメトロノームは,一定の時間間隔で信号を発するだけでなく,例えば,小節の先頭の拍は音色・音量や,光の色・光の強さ,ディスプレイ上の文字の種類・図形の種類を,他の拍とは異なるように発したり,また例えば「サンバのリズム」など,入力する曲の種類に合わせたリズム信号を発することができる。また,この信号を発するテンポであるが,楽曲入力者が楽曲の入力をしやすいように,遅くしたり速くしたりを自由に設定することが可能である。
【0052】
あるいは,楽曲入力の際には,リズム信号受信装置を使うこともある。これは,手拍子,足踏み,指の上下の動き,体の揺れ,マウスのクリック,キーボードの押下など,楽曲入力者が楽曲入力の際に意識的/無意識的に発する動き,信号などを検知できるようにした装置である。
【0053】
入力された楽曲と,上記リズム信号受発信装置から得られる信号を使って,検索キーとなる楽曲のテンポ規格化を行う。
【0054】
音楽片への分割,音楽情報への変換については,MIDIキーボードから入力される楽曲については,データベースへの楽曲の入力の場合と同じである。
【0055】
ハミングによる入力,楽器の演奏による入力では,楽曲入力手段1によりPCM形式のデータとして楽曲が入力される。そして,このデータから音高情報が抽出される。音高情報の抽出に関しては,PCM形式のデータから音符情報を抽出する従来方法に準じる。
〔参考文献4〕新原高水,今井正和,井口征士:「歌唱の自動採譜」,計測自動制御学会論文集,Vol.20 No.10 pp.940−945, 1984; 〔参考文献5〕水野正典,藤本正樹,高島羊典,鶴田七郎:「パーソナルコンピュータミュージックシステム −歌声の自動採譜−」,情報処理学会第35回全国大会,5Ff−5, 1987 .
すなわち,まず,FFTや,自己相関処理を用いて周波数分析を行い,ピーク抽出,各ピークのパワー測定などを行う。さらに,ノイズの除去,ピッチドリフトの補正,高調波成分の基本成分への吸収などを行い,時間軸上の目盛に対して,どの時点でどの音が演奏されているかを検出する。音高情報が抽出された後の,音楽片への分割,音楽情報の生成の仕方については,データベースへの楽曲の入力の場合と同じである。
【0056】
なお,音楽情報生成の過程を二段階に分け,途中でテンポ規格化を行う場合もある。例えば,まず音高情報を抽出した後,テンポを規格化し,その後,音高ベクトルなど特徴量の生成を行う場合もある。
【0057】
検索については,まず,検索キーとして入力された楽曲から生成された音楽片のそれぞれに類似する音楽片を,データベース中から検索する(音楽片検索)。その際には,検索キーの音楽片とデータベース中の音楽片との距離を,音高ベクトルなどそれぞれの特徴量に対して求める。なお,この距離は,ユークリッド距離やマンハッタン距離など適当な距離を特徴量ごとに設定して求める。また,検索を高速化するため,インデクスを用いて検索を行う。
【0058】
音楽片同士の距離(非類似度)は,各特徴量の距離に適当な重みを加味して何らかの方法で求めたものとして表す。詳しくは,以下のとおりである。用いている特徴量の集合をFSPACEとする。音楽片Kと音楽片Xとの特徴量iについての距離をdi(K,X),重みをWiとすると,音楽片Kと音楽片Xとの総合的な距離D(K,X)を何らかの方法で求めるのは,次のような関数Fを用いて行うことになる。
【0059】
D(X,K)=F({Wi},{di(K,X)})
(ただし,i∈FSPACE)
この関数Fの具体的な例として,線形和の関数を用いるとすると,
D(X,K)=sum(Wi×di(K,X))
となる(ただし,i∈FSPACEであり,sumはi∈FSPACEについての総和をとる)。
【0060】
関数Fとして線形和ではなく,例えば次のような最小値をとる関数を用いることもできる。
【0061】
D(X,K)=min(Wi×di(K,X))
(ただし,i∈FSPACE,minはi∈FSPACEについての最小値をとる)
また,上記線形和と最小値との混合を用いることもできる。すなわち,特徴量(FSPACE)を2種類(FSPACE1,FSPACE2)に分けて,
FSPACE=FSPACE1∪FSPACE2
であるとすると,
D(X,K)=sum(Wi×di(K,X),min(Wj×dj(K,X))
のような関数を用いて総合距離を求めることもできる。ここで,i∈FSPACE1,j∈FSPACE2である。
【0062】
ここでは,音楽片同士の距離(非類似度)の求め方として,線形和を用いる場合,最小値を用いる場合,線形和と最小値の混合を用いる場合の例を説明したが,もちろんこの他にも総合距離の求め方はいろいろあり得る。データベース中の音楽片のうち,検索キーの音楽片との距離が近いもの,すなわち類似度の高いものが音楽片検索の結果となる。
【0063】
検索キーから音楽片が複数生成される場合,検索キーの音楽片のそれぞれに対する音楽片検索の結果に対して音楽片同士の整合性を調べ,複数の音楽片を組み合わせた場合の類似度を計算し,最終的な検索結果とすることができる。
【0064】
今,検索キーKの音楽片Kp ,Kq (p<q)に対し,データベース中の音楽片X,Yがそれぞれ類似していたとする(Kp 〜X,Kq 〜Y)。音楽片X,Yが,検索キーの音楽片Kp ,Kq に対して整合性を持つということは,以下の条件を満たすことである。
【0065】
1)音楽片X,Yは同じ曲に属さなければならない。なお,以降ではこの候補曲をAとし,音楽片X,YをそれぞれAr ,As とおく。
【0066】
2)音楽片Ar ,As の時間的順序は,対応する検索キーの音楽片(Kp ,Kq )の時間的順序と同じ(すなわち,r<s)である。
【0067】
3)音楽片Ar ,As の規格化された時間における開始時間を,TAr,TAsとし,検索キーの音楽片Kp ,Kq の規格化された時間における開始時間を,TKp,TKqとしたとき,開始時間の間隔が一致,すなわち,TAs−TAr=TKq−TKpである。
【0068】
検索結果の出力では,検索キーと,検索結果の候補となったデータベース中の楽曲の一部もしくは全体との間の類似度を求めた後,類似度の高い順番に,楽曲の一部もしくは全体を提示する。データベース中の情報から楽曲の題名,音楽家名を表示することもできるし,検索キーと類似する楽曲の一部もしくは全体を演奏することもできる。
【0069】
本実施の形態においては,データベースに入力する楽曲としてMIDIデータを用いることができる。MIDIデータは標準化された形式で,非常に多くの楽曲がMIDIデータとして存在しており,データベースの構築のために楽曲の演奏を行ったりする必要がなく,データベース構築が容易である。また,MIDIデータは拍子を基準として音符情報が記述されているため,テンポ規格化,音高情報の抽出が正確に行えるため,音楽検索用のデータベースに利用することに適している。
【0070】
また,検索キーとなる楽曲の入力の際に,リズム信号受発信装置を補助的に使うことによって,検索キーとなる楽曲のテンポ規格化が正確に行えるようになる。
【0071】
本実施の形態の格別な効果として,データベースの構築が容易かつ正確に行えること,また,検索キーとする楽曲のテンポ規格化が正確に行えることが挙げられる。
【0072】
〔第2の実施の形態〕
本発明の第2の実施の形態においては,上記の第1の実施の形態でデータベースに入力する楽曲としてMIDIデータを用いるのではなく,例えば音楽用CD(コンパクト・ディスク)のデータや,WAVE,AIFF,AUなどの形式のようにPCM符号化された楽曲,もしくは,他の符号化形式のものであれば,それを一度PCM符号化形式に変換したものを用いる。
【0073】
一般に楽曲においては,拍子に合わせて音が演奏される。そして,音は,演奏が開始される瞬間に大きく音圧が変化するため,楽曲における音圧の変動を調べれば,テンポ情報を抽出することが可能である。
【0074】
より具体的なテンポ情報抽出方法として,以下のような方法がある。
【0075】
▲1▼ 100Hzや10Hzといった小さなサンプリング周波数で音量レベルのピークを探し,ピークの間隔からテンポを抽出する方法。元のPCMデータのサンプリング周波数が,例えば44100Hzであったとすると,1000サンプルずつ足しあわせたデータを作成し,音量レベルのピークを探す,といった方法が考えられる。
【0076】
▲2▼ 上記小さなサンプリング周波数で音量レベルの変化率の推移を調べ,変化率が急激に増加する部分を探し,その急激に増加する部分の間隔からテンポを抽出する方法。
【0077】
▲3▼ 上記小さなサンプリング周波数のデータに対し,例えば,10秒といった長い区間で周波数分析を行い,ピークを探す方法。例えば,2Hzのところにピークが出れば,この楽曲の一拍の長さは0.5秒であるということになる。
【0078】
▲4▼ リズムを刻むドラムズなどの楽器の音を選択的に抽出し,これらの音の音圧の変動を分析することにより,テンポ情報を抽出する方法。
【0079】
入力された楽曲から音高情報などの特徴量を生成する方法としては,上記の第1の実施の形態でハミングや楽器の演奏により入力された楽曲から音高情報などを抽出する方法に準じる。ただし,ハミングや単一の楽器の演奏の場合と違い,音楽用CDなどのデータでは,複数の音符が同時に発せられているため,検索対象となる音高(旋律に相当する音の音高)のみを抽出する必要がある。そのために,FFTや自己相関処理をしたのちに,音圧の最も強いピークを抽出する方法や,旋律やリズムを演奏する楽器,もしくは人の歌声の周波数帯のピークのみを抽出するような帯域フィルタを使用する方法がある。
【0080】
本実施の形態の効果は以下のとおりである。データベースに入力する楽曲として,MIDIよりさらに一般的な音楽符号化方式であるPCM方式により符号化された楽曲を利用することにより,データベース中に含まれる楽曲の量を,より充実したものにすることが可能である。また,市販の音楽用CDのみならず,個人的に楽器によって演奏した楽曲などもデータベース中に含むことができるようになる。
【0081】
〔第3の実施の形態〕
本発明の第3の実施の形態においては,上記の第1,第2の実施の形態でデータベース中の楽曲,検索キーの楽曲を音楽片に分割し,特徴量を生成する際に,音高推移ベクトルを生成するのではなく,対象となる音楽片における音高の分布を求め,この分布をもとに特徴量ベクトルを生成する。
【0082】
ある音楽片において,音高が,図8(A)に示すように推移した場合,規格化された時間の一単位を一度数に換算して,図8(B)のような音高分布図を作成し,各音高(もしくは音高の範囲)の度数を並べて音高分布ベクトルを作成することができる。これを,音楽情報(特徴量)として検索を行うことができる。
【0083】
音楽情報(特徴量)としては,上記のほかに,例えば,以下のものを生成することができる。
【0084】
▲1▼ 第1の実施の形態で利用した音高推移ベクトルAi の各要素から,要素の平均値を引いてできたベクトルAi ’ の要素の値の分布。
【0085】
▲2▼ 第1の実施の形態で利用した音高推移ベクトルAi の各要素から,最初の要素の値を引いてできたベクトルAi ’’の要素の値の分布。
【0086】
▲3▼ 第1の実施の形態で利用した音高推移ベクトルAi の各要素から,前の要素の値を引いてできたベクトルAi ’’’ の要素の値の分布。
【0087】
また,上記各分布において,図8(B)の音高分布図の横軸に相当する値が0に相当する部分の度数を0とする場合もある。また,上記各分布において,図8(B)の音高分布図の横軸に相当する値を,定められた範囲内に限定し,範囲を超えたデータを削除する場合,もしくは,その範囲の境界の値に加える場合もある。
【0088】
これらの特徴量ベクトルを利用し,第1の実施の形態の方法に従い,音楽片検索,音楽片整合を経た上で類似検索を行う。
【0089】
本実施の形態の効果について,第1の実施の形態の場合よりも,一般に特徴量ベクトルの次元数を減らすことができるために,検索速度を向上させることが可能である。また,音楽片の範囲内では,時間の情報が失われるために,データベース中の音楽片と,検索キーから生成された音楽片の開始地点に多少の誤差があっても,検索が可能となる。一方,時間の情報が失われるために,音高推移ベクトルで見れば類似しないものでも,音高分布ベクトルでは類似する可能性がある。したがって,まず本実施の形態による方法で検索を行い,その検索結果の中から,第1の実施の形態による検索を行う絞り込み検索などを行うことも可能である。
【0090】
【発明の効果】
上述のように,本発明によれば,検索者がハミングや楽器の演奏などにより,自由に楽曲の一部または全体を入力することにより,検索者が意図した楽曲をデータベースの中から精度よく高速に検索することが可能となる。
【0091】
本発明によって,例えば,カラオケや,ミュージック・オン・デマンドシステム(自動ジュークボックス)などのシステムにおいて,利用者が選択したい楽曲の名前や作曲者名,演奏家名などを思い出せない場合においても,その楽曲のメロディーさえ覚えていれば目的の楽曲を選択可能となり,このような分野において極めて有効である。
【図面の簡単な説明】
【図1】本発明による音楽の類似検索(音楽情報への変換を行わない場合)の概要を説明する図である。
【図2】本発明による音楽の類似検索(音楽情報への変換を行う場合)の概要を説明する図である。
【図3】本発明の原理構成図である。
【図4】テンポ規格化を説明する図である。
【図5】マッチングの単位を説明する図である。
【図6】音楽片への分割を説明する図である。
【図7】音楽情報への変換を説明する図である。
【図8】音楽情報への変換(音高分布)を説明する図である。
【図9】従来方法による音楽検索(DPマッチング使用)の原理説明図である。
【図10】本発明に関連する音楽片を使用する音楽検索の原理説明図である。
【図11】本発明に関連する音符情報を使用しない音楽検索の原理説明図である。
【符号の説明】
1 楽曲入力手段
11 リズム信号発信手段
12 リズム信号受信手段
2 テンポ規格化手段
21 テンポ抽出手段
31 音楽情報変換手段
31’ 音楽情報変換手段
32 音楽片生成手段
4 楽曲蓄積手段
41 楽曲蓄積部
42 音楽情報蓄積部
43 音楽片蓄積部
44 インデクス生成手段
5 楽曲検索手段
51 音楽片検索手段
52 音楽片整合手段
Claims (14)
- 楽曲を検索する検索装置において,
楽曲を入力する楽曲入力手段と,
上記楽曲入力手段により入力されたすべての楽曲のすべての部分において1拍の長さが一定の時間的な長さになるように,入力された楽曲部分を変換し,テンポを規格化するテンポ規格化手段と,
少なくとも上記テンポ規格化手段によりテンポ規格化された楽曲を蓄積する楽曲蓄積手段と,
検索キーとして入力された楽曲の一部または全体から上記テンポ規格化手段によりテンポ規格化された楽曲の一部または全体をもとに,上記楽曲蓄積手段に蓄積された楽曲の一部または全体の中から,互いにテンポ規格化された楽曲の時間的に対応する位置の特徴量の距離計算によって,類似した楽曲を検索する楽曲検索手段と,
上記楽曲検索手段により検索された楽曲を出力する楽曲出力手段とを有する
ことを特徴とする音楽検索装置。 - 請求項1記載の音楽検索装置において,
上記楽曲入力手段により入力された楽曲を音楽情報に変換する音楽情報変換手段を有し,
上記テンポ規格化手段は,楽曲を上記音楽情報変換手段により音楽情報に変換した後でテンポ規格化を行う
ことを特徴とする音楽検索装置。 - 請求項1または請求項2記載の音楽検索装置において,
上記楽曲入力手段は,一定の時間間隔もしくは決められた規則に従った時間間隔で信号を発信するリズム信号発信手段,または,楽曲入力者が入力中の楽曲のリズムを合わせて入力できるようなリズム信号受信手段を有する
ことを特徴とする音楽検索装置。 - 請求項1ないし請求項3のいずれかに記載の音楽検索装置において,
上記テンポ規格化手段は,上記楽曲入力手段により入力された楽曲,上記音楽情報変換手段により変換された音楽情報,上記リズム信号発信手段により発信された信号,上記リズム信号受信手段により受信された信号の少なくとも一つを用いてテンポを抽出するテンポ抽出手段を有し,
抽出されたテンポを用いてテンポ規格化を行う
ことを特徴とする音楽検索装置。 - 請求項1ないし請求項4のいずれかに記載の音楽検索装置において,
上記楽曲検索手段は,テンポ規格化された検索キーの一部または全体をもとに,上記楽曲蓄積手段に蓄積された,テンポ規格化された楽曲の一部または全体を検索する際に,テンポ規格化された検索キーの一部または全体と,テンポ規格化された検索キーの一部または全体と同じ長さの,検索対象となるテンポ規格化された楽曲の一部または全体との類似度を調べる
ことを特徴とする音楽検索装置。 - 請求項1ないし請求項4のいずれかに記載の音楽検索装置において,
上記テンポ規格化された楽曲もしくはテンポ規格化された音楽情報に対して,少なくとも複数の音符を含む長さであって,規格化された時間軸上ですべて同じになる長さの音楽片への分割を行う音楽片生成手段を有し,
上記楽曲蓄積手段に音楽片に分割された楽曲の情報を蓄積する
ことを特徴とする音楽検索装置。 - 請求項6記載の音楽検索装置において,
上記音楽片生成手段は,音楽片を生成する際に,同じ楽曲に対する音楽片は,一定の時間間隔で音楽片が開始するように生成する,または音楽片が音符の始まりから開始するように生成する
ことを特徴とする音楽検索装置。 - 請求項6または請求項7記載の音楽検索装置において,
上記楽曲検索手段は,検索を行う際に,検索キーとして入力された楽曲から生成された音楽片と,上記楽曲蓄積手段に蓄積された楽曲の音楽片との間の時間的に対応する位置の特徴量の距離計算によって,上記入力された楽曲から生成された音楽片のそれぞれと類似する音楽片を,上記楽曲蓄積手段の中から検索し,その結果の音楽片同士の関係から最終的な検索結果を導く音楽片検索手段を有する
ことを特徴とする音楽検索装置。 - 楽曲を検索する検索装置において,
楽曲を入力する楽曲入力手段と,
上記楽曲入力手段により入力されたすべての楽曲のすべての部分において1拍の長さが一定の時間的な長さになるように,入力された楽曲部分を変換し,テンポを規格化するテンポ規格化手段と,
上記テンポ規格化された楽曲に対して,少なくとも複数の音符を含む長さであって,規格化された時間軸上ですべて同じになる長さの音楽片への分割を行う音楽片生成手段と,
上記音楽片生成手段により音楽片に分割された楽曲を蓄積する楽曲蓄積手段と,
検索キーとして入力された楽曲から生成された音楽片と,上記楽曲蓄積手段に蓄積された楽曲の音楽片との間の時間的に対応する位置の特徴量の距離計算によって,上記入力された楽曲から生成された音楽片のそれぞれと類似する音楽片を,上記楽曲蓄積手段の中から検索し,その結果の音楽片同士の関係から最終的な検索結果を導くことにより,検索キーとして入力された楽曲に類似した楽曲を検索する楽曲検索手段と,
上記楽曲検索手段により検索された楽曲を出力する楽曲出力手段とを有する
ことを特徴とする音楽検索装置。 - 請求項8または請求項9に記載の音楽検索装置において,
上記楽曲検索手段は,検索キーの音楽片同士の関係と,検索結果の音楽片同士の関係の整合性を調べた後,最終的な検索結果を導く音楽片整合手段を有する
ことを特徴とする音楽検索装置。 - 請求項1ないし請求項10のいずれかに記載の音楽検索装置において,
上記楽曲蓄積手段に蓄積する前に音楽情報への変換を行う音楽情報変換手段を有する
ことを特徴とする音楽検索装置。 - 請求項1ないし請求項11のいずれかに記載の音楽検索装置において,
楽曲を蓄積する際に,検索を高速化するためのインデクスを生成するインデクス生成手段を有し,
上記楽曲検索手段は,検索を行う際にインデクスを用いる
ことを特徴とする音楽検索装置。 - 少なくとも楽曲入力手段と,テンポ規格化手段と,楽曲蓄積手段と,楽曲検索手段と,楽曲出力手段とを備える計算機によって楽曲を検索する検索方法であって,
上記楽曲入力手段が,楽曲を入力する過程と,
上記テンポ規格化手段が,上記楽曲入力手段により入力されたすべての楽曲のすべての部分において1拍の長さが一定の時間的な長さになるように,入力された楽曲部分を変換し,テンポを規格化する過程と,
上記楽曲蓄積手段が,少なくとも上記テンポ規格化手段によりテンポ規格化された楽曲を蓄積する過程と,
上記楽曲検索手段が,検索キーとして入力された楽曲の一部または全体から上記テンポ規格化手段によりテンポ規格化された楽曲の一部または全体をもとに,蓄積された楽曲の一部または全体の中から,互いにテンポ規格化された楽曲の時間的に対応する位置の特徴量の距離計算によって,類似した楽曲を検索する過程と,
上記楽曲出力手段が,上記楽曲検索手段により検索された楽曲を出力する過程とを有する
ことを特徴とする音楽検索方法。 - 計算機によって楽曲を検索するために用いるプログラムを記録したプログラム記録媒体であって,
前記計算機を,
楽曲を入力する楽曲入力手段と,
上記楽曲入力手段により入力されたすべての楽曲のすべての部分において1拍の長さが一定の時間的な長さになるように,入力された楽曲部分を変換し,テンポを規格化するテンポ規格化手段と,
少なくとも上記テンポ規格化手段によりテンポ規格化された楽曲を蓄積する楽曲蓄積手段と,
検索キーとして入力された楽曲の一部または全体から上記テンポ規格化手段によりテンポ規格化された楽曲の一部または全体をもとに,上記楽曲蓄積手段に蓄積された楽曲の一部または全体の中から,互いにテンポ規格化された楽曲の時間的に対応する位置の特徴量の距離計算によって,類似した楽曲を検索する楽曲検索手段と,
上記楽曲検索手段により検索された楽曲を出力する楽曲出力手段として,
機能させるための音楽検索プログラムを記録した計算機読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000008458A JP3631650B2 (ja) | 1999-03-26 | 2000-01-18 | 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した計算機読み取り可能な記録媒体 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP8272299 | 1999-03-26 | ||
JP11-82722 | 1999-03-26 | ||
JP2000008458A JP3631650B2 (ja) | 1999-03-26 | 2000-01-18 | 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した計算機読み取り可能な記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000347659A JP2000347659A (ja) | 2000-12-15 |
JP3631650B2 true JP3631650B2 (ja) | 2005-03-23 |
Family
ID=26423740
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000008458A Expired - Lifetime JP3631650B2 (ja) | 1999-03-26 | 2000-01-18 | 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した計算機読み取り可能な記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3631650B2 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3612272B2 (ja) * | 2000-10-13 | 2005-01-19 | 日本電信電話株式会社 | 音楽情報検索装置、音楽情報検索方法および音楽情報検索用プログラムを記録したコンピュータ読み取り可能な記録媒体 |
AU2001295989A1 (en) | 2000-10-23 | 2002-05-06 | Ntt Communications Corporation | Musical composition recognition method and system, storage medium where musical composition program is stored, commercial recognition method and system, and storage medium where commercial recognition program is stored |
JP2002215632A (ja) * | 2001-01-18 | 2002-08-02 | Nec Corp | 携帯端末を用いた音楽検索システム、音楽検索方法、および購入方法 |
JP2003186497A (ja) * | 2001-12-14 | 2003-07-04 | National Institute Of Advanced Industrial & Technology | パターン検索装置、方法および記録媒体 |
US6768046B2 (en) * | 2002-04-09 | 2004-07-27 | International Business Machines Corporation | Method of generating a link between a note of a digital score and a realization of the score |
KR20060132607A (ko) * | 2003-12-08 | 2006-12-21 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 멜로디 데이터베이스에서 검색하는 방법 |
JP4650662B2 (ja) | 2004-03-23 | 2011-03-16 | ソニー株式会社 | 信号処理装置および信号処理方法、プログラム、並びに記録媒体 |
US7801392B2 (en) | 2005-07-21 | 2010-09-21 | Fuji Xerox Co., Ltd. | Image search system, image search method, and storage medium |
JP2007172077A (ja) * | 2005-12-19 | 2007-07-05 | Fuji Xerox Co Ltd | 画像検索システム及び方法及びプログラム |
JP4548424B2 (ja) * | 2007-01-09 | 2010-09-22 | ヤマハ株式会社 | 楽音処理装置およびプログラム |
JP5147389B2 (ja) * | 2007-12-28 | 2013-02-20 | 任天堂株式会社 | 楽曲提示装置、楽曲提示プログラム、楽曲提示システム、楽曲提示方法 |
CN111986698B (zh) * | 2019-05-24 | 2023-06-30 | 腾讯科技(深圳)有限公司 | 音频片段的匹配方法、装置、计算机可读介质及电子设备 |
JP7394310B2 (ja) * | 2019-06-25 | 2023-12-08 | パナソニックIpマネジメント株式会社 | 照明装置及び照明器具 |
JP7394312B2 (ja) * | 2019-06-25 | 2023-12-08 | パナソニックIpマネジメント株式会社 | 照明装置及び照明器具 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06110945A (ja) * | 1992-09-29 | 1994-04-22 | Fujitsu Ltd | 音楽データベース作成装置及びその検索装置 |
JPH0736478A (ja) * | 1993-06-28 | 1995-02-07 | Nec Corp | 音符列間類似度計算装置 |
JP3055392B2 (ja) * | 1994-04-20 | 2000-06-26 | ヤマハ株式会社 | 音声信号変換装置 |
JPH09138691A (ja) * | 1995-11-15 | 1997-05-27 | Brother Ind Ltd | 楽曲検索装置 |
JPH09258729A (ja) * | 1996-03-26 | 1997-10-03 | Yamaha Corp | 選曲装置 |
JP3569104B2 (ja) * | 1997-05-06 | 2004-09-22 | 日本電信電話株式会社 | 音情報処理方法および装置 |
JPH11120198A (ja) * | 1997-10-20 | 1999-04-30 | Sony Corp | 楽曲検索装置 |
JP3434223B2 (ja) * | 1998-11-19 | 2003-08-04 | 日本電信電話株式会社 | 音楽情報検索装置,音楽情報蓄積装置,音楽情報検索方法,音楽情報蓄積方法およびそれらのプログラムを記録した記録媒体 |
JP3467415B2 (ja) * | 1998-12-01 | 2003-11-17 | 日本電信電話株式会社 | 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した記録媒体 |
-
2000
- 2000-01-18 JP JP2000008458A patent/JP3631650B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2000347659A (ja) | 2000-12-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Serra et al. | Chroma binary similarity and local alignment applied to cover song identification | |
EP1397756B1 (en) | Music database searching | |
Dannenberg et al. | A comparative evaluation of search techniques for query‐by‐humming using the MUSART testbed | |
US7488886B2 (en) | Music information retrieval using a 3D search algorithm | |
JP3467415B2 (ja) | 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した記録媒体 | |
JP3433818B2 (ja) | 楽曲検索装置 | |
US8326584B1 (en) | Music searching methods based on human perception | |
US7064262B2 (en) | Method for converting a music signal into a note-based description and for referencing a music signal in a data bank | |
JP3631650B2 (ja) | 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した計算機読み取り可能な記録媒体 | |
Chai | Semantic segmentation and summarization of music: methods based on tonality and recurrent structure | |
Chai et al. | Music thumbnailing via structural analysis | |
Marolt | A mid-level representation for melody-based retrieval in audio collections | |
Casey et al. | The importance of sequences in musical similarity | |
Hu et al. | A probabilistic model of melodic similarity | |
Guo et al. | Time-Warped Longest Common Subsequence Algorithm for Music Retrieval. | |
Ramires et al. | The freesound loop dataset and annotation tool | |
Cambouropoulos | The harmonic musical surface and two novel chord representation schemes | |
JP3597735B2 (ja) | 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した記録媒体 | |
Rho et al. | FMF: Query adaptive melody retrieval system | |
KR20060019096A (ko) | 허밍 기반의 음원 질의/검색 시스템 및 그 방법 | |
Song et al. | Query by humming: matching humming query to polyphonic audio | |
KR20090083972A (ko) | 음악 검색을 위한 음악 데이터베이스 구축 방법, 허밍 질의를 입력으로 하여 음악을 검색하는 방법 및 장치 | |
US20080017017A1 (en) | Method and Apparatus for Melody Representation and Matching for Music Retrieval | |
Rho et al. | FMF (fast melody finder): A web-based music retrieval system | |
JPH06202621A (ja) | 楽曲演奏情報を利用した楽曲検索装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040224 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040421 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040629 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040813 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20040813 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20041214 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20041217 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 3631650 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071224 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081224 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091224 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101224 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101224 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111224 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111224 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121224 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121224 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131224 Year of fee payment: 9 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |