JP3855490B2 - インパルス応答の収集方法および効果音付加装置ならびに記録媒体 - Google Patents
インパルス応答の収集方法および効果音付加装置ならびに記録媒体 Download PDFInfo
- Publication number
- JP3855490B2 JP3855490B2 JP27146298A JP27146298A JP3855490B2 JP 3855490 B2 JP3855490 B2 JP 3855490B2 JP 27146298 A JP27146298 A JP 27146298A JP 27146298 A JP27146298 A JP 27146298A JP 3855490 B2 JP3855490 B2 JP 3855490B2
- Authority
- JP
- Japan
- Prior art keywords
- impulse response
- sound
- data
- input
- supplied
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Reverberation, Karaoke And Other Acoustics (AREA)
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
Description
【発明の属する技術分野】
この発明は、この発明は、実在する機器または空間のインパルス応答に基づき残響音を付加する場合において、特にサラウンド効果に適したインパルス応答の収集方法および効果音付加装置ならびに記録媒体に関する。
【0002】
【従来の技術】
オーディオ信号に対して効果音を付加するための装置の一つに、残響音付加装置(リバーブレータ)がある。この残響音付加装置は、例えば録音スタジオでオーディオ信号に残響音を付加し、音に広がりや深みを出すために多く用いられている。スタジオなどで録音された音に残響音を付加することで、実際にホールで演奏されているような効果や、さらに特殊な効果を与えることができる。
【0003】
古くには、残響音の付加は、実際に、ホールなどの残響音を得られるような場所で録音を行うか、あるいは、鉄板などの振動を利用して残響音的な効果を得るようにした、鉄板エコーなどの装置を用いて行われていた。近年の残響音付加装置では、これらの効果が電気的に実現されている。さらに、近年では、ディジタル信号処理技術の発達に伴い、ディジタル的に残響音を合成するような装置が普及してきている。
【0004】
ディジタル処理によって残響音を付加する際には、例えば巡回型のディジタルフィルタが用いられる。入力されたディジタルオーディオ信号が減衰されながら巡回され、残響音が発生される。これを、元のディジタルオーディオ信号に混合する。実際には、元の音に対して所定期間遅延された位置に初期反射音が加えられ、さらに所定期間後に残響音が加えられる。元の音に対する残響音の遅延時間は、プリディレイと称される。残響時間や副残響音の付加、細かなレベル調整などを行うことが可能で、幅広い音作りができる。
【0005】
ところで、前方からの左右の音源による音場再生に対して、後方からの音場を加えた、サラウンド方式と称される再生方法が普及しつつある。サラウンド方式は、特に映画館の音場を再現するために用いられるもので、例えばリスナの前方に配置される左右のチャンネル(F−L,F−R)と、リスナの後方に配置される左右のチャンネル(R−L,R−R)の4チャンネルが設けられると共に、リスナの前方の中央に1チャンネル(C)が配置される。Cチャンネルは、例えば映画音声におけるセリフを再生するためのものである。さらに、超低域を再生するための1チャンネルが任意の位置に配置される。この、5チャンネル+超低域チャンネルの構成は、超低域は情報の伝送量が他の1/10で済むため、全体で5.1チャンネルと表現される。
【0006】
映画だけでなく、通常の音楽演奏なども、サラウンド方式で録音されたものを、対応する方式で再生することで、より臨場感のある演奏を楽しむことができる。音楽演奏の場合には、通常、F−L,F−R,R−LおよびR−Rの4チャンネルが用いられ、Cチャンネルは、用いられない。
【0007】
【発明が解決しようとする課題】
サラウンド方式で録音する際には、4チャンネルにより形成される音場に対応した残響音を付加する必要がある。従来では、モノラル入力/ステレオ出力の残響音付加装置を2台用いる場合が多かった。また、残響音付加装置は、より高品位の残響を得るために、ディジタル方式のものが用いられる。
【0008】
例えば、ステージ上にあると想定されたの一つの音源を録音する際に、一方の残響音付加装置によって、リスナに対してステージ側に想定されたF−L,F−Rチャンネルに対応する残響を付加し、他方の残響音付加装置によって、リスナに対して後方に想定されたR−L,R−Rチャンネルに対応する残響を付加する。
【0009】
位置によって残響が異なるため、これら2台の残響音付加装置は、それぞれ別の設定とされる。このように、従来では、サラウンド方式に対応した録音を行う際には、残響音付加装置を2台用いる必要があるため、操作が不便であるという問題点があった。
【0010】
また、実際のホールなどでの残響音は、ホールの形状や音源の位置などにより、音が様々に反射や干渉などを起こし、より複雑な波形となっている。しかしながら、上述のように、元のディジタルオーディオ信号をフィルタ処理する方法では、単純に減衰した波形が得られるだけなので、どうしても人工的な印象を免れないという問題点があった。
【0011】
一方、例えば所定の音場を有する音源は、ステレオで収録する必要がある。この場合には、ステレオ入力に対応した残響音付加装置が用いられる。しかしながら、従来の、ステレオ入力対応の残響音付加装置は、人工的にステレオ音像を作り出すため、音像が不自然であるという問題点があった。
【0012】
より自然な残響を得るために、実際のホールで録音を行うことも考えられる。しかしながら、ホールでの録音は、機材の搬入など、非常に手間がかかるという問題点があった。また、ホールは、借りたいときに借りれないという問題点があった。さらに、ホールでの録音は、マイクのセッティングなどにノウハウが必要であるという問題点があった。さらにまた、暗騒音を下げるために、空調施設などを停止させる必要があるという問題点があった。
【0013】
したがって、この発明の目的は、サラウンド方式に対応した高品位な残響音を、容易に得ることができるようなインパルス応答収集方法および効果音付加装置ならびに記録媒体を提供することにある。
【0015】
【課題を解決するための手段】
第1の発明は、インパルス応答のたたみ込みを行うことによって効果音を生成する際に用いられるインパルス応答の収集方法において、測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定する測定のステップと、測定された音響のそれぞれをインパルス応答に変換する変換のステップとを有することを特徴とするインパルス応答の収集方法である。
【0017】
第2の発明は、コンピュータによって読み取り可能で着脱可能な記録媒体であって、測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定し、ステレオ方式に対応する2箇所のうち一方および他方のそれぞれについて、発生された空間の音響が測定された音響のそれぞれをインパルス応答に変換して得られた4のインパルス応答データが記録されたことを特徴とするコンピュータによって読み取り可能な記録媒体である。
【0018】
第3の発明は、入力されたディジタルオーディオ信号に対してインパルス応答データをたたみ込むことによって効果音を付加する効果音付加装置において、測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定し、ステレオ方式に対応する2箇所のうち一方および他方のそれぞれについて、発生された空間の音響が測定された音響のそれぞれをインパルス応答に変換して得られた4のインパルス応答データが記録された記録媒体から、4のインパルス応答データを再生する再生手段と、ステレオ方式に対応する2チャンネルのディジタルオーディオ信号を入力する入力手段と、入力手段に入力された2チャンネルのディジタルオーディオ信号のそれぞれに対して、再生手段で再生された4のインパルス応答データのうち、ディジタルオーディオ信号のチャンネルに測定手段が対応する2のインパルス応答データに基づきそれぞれたたみ込みを行う4のたたみ込み手段と、空間の音響が発生されたステレオ方式に対応する2箇所にそれぞれ対応して4のたたみ込み手段の出力を2ずつ混合し、2チャンネルのディジタルオーディオ信号として出力する出力手段とを有することを特徴とする効果音付加装置である。
【0020】
上述したように、第1の発明は、測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定し、測定された音響のそれぞれをインパルス応答に変換しているため、ステレオ入力で且つステレオ出力に対応したインパルス応答を収集することができる。
【0022】
また、上述したように、第2の発明は、コンピュータによって読み取り可能で着脱可能な記録媒体であって、測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定し、ステレオ方式に対応する2箇所のうち一方および他方のそれぞれについて、発生された空間の音響が測定された音響のそれぞれをインパルス応答に変換して得られた4のインパルス応答データが記録媒体に記録されているため、実空間の、ステレオ入力およびステレオ出力に対応したインパルス応答の保存および再生を行うことができる。
【0023】
また、上述したように、第3のこの発明は、測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定し、ステレオ方式に対応する2箇所のうち一方および他方のそれぞれについて、発生された空間の音響が測定された音響のそれぞれをインパルス応答に変換して得られた4のインパルス応答データが記録された記録媒体から、4のインパルス応答データを再生し、入力されたステレオ方式に対応する2チャンネルのディジタルオーディオ信号のそれぞれに対して、再生された4のインパルス応答データのうち、ディジタルオーディオ信号のチャンネルに測定手段が対応する2のインパルス応答データに基づきそれぞれたたみ込みを4のたたみ込み手段によって行い、空間の音響が発生されたステレオ方式に対応する2箇所にそれぞれ対応して4のたたみ込み手段の出力を2ずつ混合し、2チャンネルのディジタルオーディオ信号として出力するようにしているため、実空間のインパルス応答を再現することができる。
【0024】
【発明の実施の形態】
以下、この発明の一実施形態について説明する。この一実施形態における効果音付加装置は、入力されたディジタルオーディオ信号からなる原音に対して残響音を付加する残響付加装置であって、実際のホールなどの残響を収集することで得られたインパルス応答データにより入力ディジタルオーディオ信号をたたみ込み、付加する残響音を得る。
【0025】
図1は、この一実施形態による残響音を従来の巡回型フィルタによる残響音と比較して示す。図1Aに示される従来技術による残響音は、原音に対して所定時間遅延されて初期反射音が発生され、さらに所定時間遅延されてフィルタにより生成された残響音が付加されている。付加される残響音は、単純な減衰曲線で残響音が減衰する。これに対して、この一実施形態では、実際に収録されたデータに基づくインパルス応答によって残響音を生成しているため、図1Bに示されるように、実際のホールなどでの音響特性を反映した、単純な減衰曲線ではない残響音が得られる。これにより、より自然で高品位な残響音を得ることができる。
【0026】
この発明は、このような自然な残響音を得るための、インパルス応答の収集方法を与えるものである。特に、この発明では、サラウンド方式に用いて好適なインパルス応答の収集方法を与えるものである。図2は、この発明によるインパルス応答収集装置97の構成の一例を示す。この例では、鉄板エコー装置92のインパルス応答を測定する。インパルス応答収集装置97は、例えばパーソナルコンピュータにより構成できる。この装置97では、インパルス応答測定用の信号を発生し、測定対象に対して出力すると共に、測定結果を収集し、測定結果をインパルス応答データに変換する。インパルス応答データは、例えばファイルとして保存される。
【0027】
測定用信号発生部90で、インパルス応答を測定するためのTSP(タイムストレッチパルス)信号が発生される。TSP信号は、スイープ信号の一種であり、逆特性の信号で割ることによって、インパルス信号が得られる。インパルス応答を測定するためには、直接的にインパルス信号を発生させるのがより好ましいが、測定が困難であるため、このような方法を用いる。測定用信号発生部90で発生されたTSP信号は、D/A変換器91を介してアナログ信号に変換され、鉄板エコー装置92に入力される。
【0028】
鉄板エコー装置92では、入力されたTSP信号により、残響音を発生する。この残響音は、L(左)およびR(右)チャンネルのアナログオーディオ信号として出力される。これらの出力は、A/D変換器93でLおよびRチャンネルそれぞれのディジタルオーディオ信号とされる。A/D変換器93では、例えばサンプリング周波数が48kHzあるいは96kHz、量子化ビット数が24ビットでサンプリングが行われる。A/D変換器93の出力は、LおよびRチャンネルのそれぞれがインパルス応答収集装置97に入力される。入力された信号は、例えば図示されないハードディスク装置やメモリなどに記憶される。
【0029】
なお、残響時間は、音が止まってから音圧レベルが60dB減衰するまでの時間と定められている。この例では、量子化ビット数の24ビットにおいて、1ビットに対して6dBが割り当てられる。
【0030】
測定用信号発生部90によるTSP信号の発生は、N回行われる。N回分の出力信号は、同期加算部94で同期加算される。同期加算は、例えばTS信号の発生タイミングに基づき出力信号を揃えるようにしてなされる。N回分の信号を同期加算することにより、再現性のある信号のみが加算され、ランダムに発生されるノイズ成分は加算されないため、S/N比を向上させることができる。S/N比は、(10logN)dB向上される。例えば、S/N比は、N=16で12dB向上される。
【0031】
同期加算された信号は、LおよびRチャンネルのそれぞれがインパルス応答変換部95に供給される。インパルス応答変換部95では、供給された信号を、TSP信号の逆特性を有する信号で割る。これにより、TSP信号がインパルス信号に変換され、測定結果が、インパルス信号により発生された残響音に基づくインパルス応答に変換される。インパルス応答データは、サンプリング周波数に対応した間隔で得られる波高値である。A/D変換器93により24ビットの量子化ビット数でサンプリングされた信号は、変換後は、量子化ビット数が32ビットとされる。
【0032】
インパルス応答変換部から出力された、Lチャンネルのインパルス応答データ96LおよびRチャンネルのインパルス応答データ96Rは、CD−ROMやMOといった、所定の記録媒体に記録される。インパルス応答収集装置97にイーサネットなどのインターフェイスを設け、ネットワークを介して外部へ供給するようにしてもよい。
【0033】
図3は、ホールでインパルス応答を収集する場合の例を示す。ホール101は、ステージ部101Aおよび客席部101Bを有する。ステージ部101Aの所定位置に、音源102が据えられる。音源102は、例えば球面上の互いに異なる12方向にスピーカが設けられた12面体スピーカである。客席部101Bには、LおよびRチャンネルにそれぞれ対応したマイクロフォン103Lおよび103Rが所定位置に据えられる。
【0034】
インパルス応答収集装置97から出力されたTSP信号がD/A変換器91でアナログ信号に変換され、アンプ100で増幅され、音源102で音声として再生される。この再生音を、マイクロフォン103Lおよび103Rで収録する。マイクロフォン103Lおよび103Rの出力は、それぞれA/D変換器93で所定のサンプリング周波数および量子化ビット数でサンプリングされ、LおよびRチャンネルのディジタルオーディオ信号とされ、インパルス応答収集装置97に供給される。インパルス応答収集装置97での処理は、上述の鉄板エコー装置92での処理と、全く同一である。
【0035】
この場合、音源102の位置を様々に変えて、インパルス応答の収集が行われる。また、音源102として用いられるスピーカも、その銘柄などを様々に変えて収集が行われる。同様に、マイクロフォン103Lおよび103Rも、その位置および銘柄を様々に変えて収録が行われる。こうして、1つのホール101において、複数のデータが収集される。これらは、例えば残響音付加の際に、残響音のバリエーションとして選択可能とすることができる。
【0036】
一方、インパルス応答変換部95で得られたインパルス応答データ96Lおよび96Rは、加工することができる。図4は、インパルス応答データの加工の際の処理の流れを、概略的に示す。インパルス応答データ110は、加工処理111を施される。図5は、加工処理111の例を示す。図5Aに一例が示されるように、データには、音の伝搬によるシステムディレイが存在する(図中の「A」の部分)。加工処理111で、このシステムディレイ部Aの値が〔0〕に固定され、この部分のノイズが除去される。
【0037】
また、データの後半は、データの終端を〔0〕に収束させるために、フェードアウト処理が施される。このフェードアウト処理により、後半の微小レベルの信号部分のノイズ除去もなされる。図5Bおよび図5Cは、このフェードアウト処理の例を示す。
【0038】
図5Bは、減衰の指数関数に基づきフェードアウト処理を行う例である。例えば、元のインパルス応答をh(n)として、フェードアウト関数をF0 (n)とする。nは、インパルス応答データのポイントを表す。なお、インパルス応答データのポイントと、ディジタルオーディオ信号のサンプリング点のポイントとは、互いに対応する。このとき、F0 (n)において、n≦0であれば、F0 (n)=1である。一方、n>0であれば、F0 (n)は、図5Bのような減衰の指数関数とされる。
【0039】
出力データx(n)は、次式(1)に示されるように、
x(n)=h(n)・F0 (n−a) ・・・(1)
となる。値aは、元のインパルス応答における直接音の位置を、サンプル数で表したものである。このように、フェードアウトは、直接音の位置よりも後ろで行われる。これは、直接音と同じ位置、すなわちn=0の時点でフェードアウトを開始すると、直接音自体のレベルも低下してしまうからである。
【0040】
なお、フェードアウト関数は、減衰の指数関数に限られない。例えば、図5Cに示されるように、直線的な減衰特性としてもよい。
【0041】
また、フェードアウトによって、このデータを用いて実際にオーディオ信号に残響音を付加する残響付加装置の処理能力に適合するように、インパルス応答データのポイント数を調整することができる。すなわち、インパルス応答データのポイント数を所定値、例えば256kポイント(262,144ポイント:端数を省略して、256kポイントと記述する。2n の値の表現については、以下同様とする)に制限するときには、例えば図4Aに示されるように、128kポイントの時点でフェードアウトを開始し、256kポイントの時点でデータが〔0〕になるようにする。
【0042】
加工処理111としては、上述の他に、レベル調整なども行われる。加工されたインパルス応答データは、FIRフィルタによるたたみ込みの際の、FIRフィルタ係数112として、例えばCD−ROM45に記録される。
【0043】
図6は、このようにして作成されたインパルス応答データを用いてたたみ込みを行う、残響付加装置の構成の一例を、概略的に示す。残響音を付加したいディジタルオーディオ信号が入力端120から入力される。入力データは、乗算器126に供給されると共に、プリディレイ121によって遅延され、プリディレイを与えられる。プリディレイ121の出力は、たたみ込み処理部122に供給される。
【0044】
たたみ込み処理部122は、LおよびRチャンネルそれぞれのFIRフィルタ(フィルタ122Lおよびフィルタ122R)からなる。上述のインパルス応答収集装置97で作成された、インパルス応答データ96Lおよび97Rが対応するチャンネルのFIRフィルタ係数として、端子123Lおよび123Rから供給される。これらインパルス応答データ96Lおよび96Rは、例えばCD−ROMから読み出されて得られる(図示しない)。
【0045】
フィルタ122Lおよび122Rでは、インパルス応答データ96Lおよび97Rによって、入力されたディジタルオーディオ信号のたたみ込みが行われる。このたたみ込みの結果、インパルス応答データ96Lおよび96Rに基づく残響音が生成される。フィルタ122Lおよび122Rの出力は、それぞれ乗算器124Lおよび124Rに供給される。
【0046】
乗算器124L,124Rおよび上述の乗算器126と、加算器128Lおよび128Rとで、原音(ドライ成分)と残響音(ウェット成分)との混合器が構成される。端子127および125にそれぞれ供給された原音および残響音の比率に応じて、乗算器126および乗算器124L,124Rで入力ディジタルオーディオ信号およびたたみ込み処理部122の出力が調整され、加算器128Lおよび128Rで、これらの信号が加算され、Lチャンネルの出力が出力端129Lに、Rチャンネルの出力が出力端129Rに、それぞれ導出される。
【0047】
さらに、この発明では、サラウンド方式に対応するようなインパルス応答の収集方法を与える。図7は、サラウンド方式に対応するように、インパルス応答を収集する場合の一例を示す。インパルス応答の収集は、上述と同様に、ステージ部101Aおよび客席部101Bとを有するホール101で行われる。ステージ部101Aの所定位置に、例えば12面体スピーカからなる音源102が据えられる。
【0048】
客席部101Bには、サラウンド方式に対応して、客席部101Bには、4本のマイクロフォン103FL,103FR,103RLおよび103RRが所定位置に据えられる。すなわち、マイクロフォン103FLおよび103FRは、客席部101Bのフロント側のLおよびRチャンネル(F−LおよびF−Rチャンネル)にそれぞれ対応する。また、マイクロフォン103RLおよび103RRは、客席部101Bのリア側のLおよびRチャンネル(R−LおよびR−Rチャンネル)にそれぞれ対応する。
【0049】
これらマイクロフォン103FL,103FR,103RLおよび103RRの位置は、一例として、客席部101Bの、ステージ部101Aに対する最適位置にリスナが着席していることを想定して、リスナに対してサラウンド効果が十分に得られるような位置とされる。
【0050】
マイクロフォン103FL,103FR,103RLおよび103RRのそれぞれの出力は、A/D変換器93’に供給される。A/D変換器93’は、上述のA/D変換器93を、4チャンネル分の信号処理を可能なように拡張したものである。A/D変換器93’において、所定のサンプリング周波数および量子化ビット数でサンプリングされ、F−L(フロント左チャンネル),F−R(フロント右チャンネル),R−L(リア左チャンネル)およびR−R(リア右チャンネル)のディジタルオーディオ信号とされ、インパルス応答収集装置97’に供給される。
【0051】
インパルス応答収集装置97’は、上述のインパルス応答収集装置97を、4チャンネル分の信号処理が可能なように拡張したものである。インパルス応答収集装置’97では、上述の鉄板エコー装置92での処理と同様な処理がF−L,F−R,R−LおよびR−Rの4チャンネルに対応してなされ、4チャンネル分のインパルス応答データ96F−L,96F−R,96R−Lおよび96R−Rが得られる(図示しない)。
【0052】
この場合でも、上述と同様に、音源102の位置を様々に変えて、インパルス応答の収集が行われる。また、音源102として用いられるスピーカも、その銘柄などを様々に変えて収集が行われる。同様に、4本のマイクロフォン103FL,103FR,103RLおよび103RRも、その位置および銘柄を様々に変えて収録が行われる。こうして、1つのホール101において、複数のデータが収集される。これらは、例えば残響音付加の際に、残響音のバリエーションとして選択可能とすることができる。
【0053】
また、この場合でも、上述と同様に、インパルス応答データの加工を行うことができる。加工などをされたインパルス応答データは、同様にしてCD−ROM45に記録される。
【0054】
図8は、図7に示した方法に基づき収集されたインパルス応答に基づき、入力データに対してサラウンド方式に対応した残響音を付加する残響付加装置の構成の一例を示す。残響音を付加したいディジタルオーディオ信号が入力端130から入力される。入力データは、F−L,F−R,R−LおよびR−Rチャンネルそれぞれのドライ成分を得るために乗算器乗算器136FL,136FR,136RLおよび136RRに供給されると共に、F−L,F−R,R−LおよびR−Rチャンネルそれぞれのウェット成分を得るために、プリディレイ131FL,131FR,131RLおよび131RRに供給される。
【0055】
この例では、F−L,F−R,R−LおよびR−Rチャンネルのそれぞれは、独立して同様の処理がなされる。以下、これら4チャンネル分の処理を、F−Lチャンネルで代表して説明する。F−Lチャンネルの入力データは、プリディレイ131FLによって遅延されプリディレイを与えられる。プリディレイ313FLの出力は、インパルス応答データのたたみ込み処理を行うFIRフィルタ132FLに供給される。
【0056】
FIRフィルタ132FLには、フィルタ係数として、上述のインパルス応答収集装置97’で作成された、F−Lチャンネルのインパルス応答データ96F−Lが端子133FLから供給される。これらインパルス応答データ96F−Lは、例えばCD−ROM45から読み出されて得られる(図示しない)。
【0057】
FIRフィルタ132F−Lでは、インパルス応答データ96F−Lによって、入力されたディジタルオーディオ信号のたたみ込みが行われる。このたたみ込みの結果、インパルス応答データ96F−Lに基づく残響音が生成される。FIRフィルタ132F−Lの出力は、乗算器134に供給される。
【0058】
乗算器134FLおよび上述の乗算器136FLと、加算器138FLとで、F−Lチャンネルの原音(ドライ成分)と残響音(ウェット成分)との混合器が構成される。端子137および135にそれぞれ供給された原音および残響音の比率に応じて、乗算器136FLおよび乗算器134FLで、入力端130から直接的に入力された入力ディジタルオーディオ信号およびFIRフィルタFL132の出力が調整され、加算器138FLで、これらの信号が加算される。加算出力は、F−Lチャンネルの出力として出力端139FLに導出される。
【0059】
他の3チャンネルでも、このF−Lチャンネルと同様な処理がなされる。例えば、F−Rチャンネルの入力データは、フィルタ132FRで対応するチャンネルのインパルス応答データ96FRによってたたみ込み処理をされ、乗算器137FR,136FRおよび加算器138FRからなる混合器でドライ成分とウェット成分の比率を調整され、F−Rチャンネルの出力として出力端139FRに導出される。
【0060】
このようにして、F−L,F−R,R−LおよびR−Rチャンネルのそれぞれに対して、対応するチャンネルのインパルス応答データに基づく残響音が付加される。リスナは、ホール101の音響をサラウンド方式で再現することができる。例えばリスナは、再生時に所定の位置で聴くことにより、恰もホール101の客席部101Bに居るかのような効果を楽しむことができる。
【0061】
図9は、ステレオ入力に対応するようにインパルス応答を収集する場合の一例を示す。この場合には、LおよびRチャンネルにそれぞれ対応した、例えば12面体スピーカである音源102Lおよび102Rがステージ部101Aにそれぞれ据えられる。音源102Lは、客席部101Bから向かって左側の所定位置に、音源102Rは、向かって右側の所定位置に、それぞれ据えられる。一方、客席部101Bには、上述の図2に示した例と同様に、LおよびRチャンネルにそれぞれ対応した2本のマイクロフォン103F−Lおよび103F−Rが所定位置に据えられる。
【0062】
アンプ100からのTSP信号は、音源102Lおよび102Rのうち、選択部104によって選択された音源に供給される。選択部104は、スイッチであってもよいし、ケーブルの脱着によって直接的に接続を切り替えるようにしてもよい。
【0063】
インパルス応答の収集は、LおよびRチャンネルのうち、片方ずつ行われる。選択部104の選択により、例えば音源102Lが選択される。音源102LでTSP信号が再生され、マイクロフォン103F−Lおよび103F−Rでこの再生音が収録される。マイクロフォン103F−Lおよび103F−Rの出力がA/D変換器93を介してインパルス応答収集装置97に供給され、インパルス応答変換処理をされ、音源がLチャンネルのときのLおよびRチャンネルのインパルス応答データ96L/F−Lおよび96L/F−Rが得られる。
【0064】
音源102Rについても、同様にしてインパルス応答の収集が行われ、選択部104の選択により音源102Rで再生されたTSP信号がマイクロフォン103F−Lおよび103F−Rで収録される。そして、インパルス応答収集装置97での処理により、音源がRチャンネルのときのLおよびRチャンネルのインパルス応答データ96R/F−Lおよび96R/F−Rが得られる。
【0065】
このようにして得られたインパルス応答データ96L/F−L,96L/F−R,96R/F−Lおよび96R/F−Rは、例えば所定の加工処理を施された後、CD−ROM45に記録される。
【0066】
図10は、図9に示した方法に基づき収集されたインパルス応答に基づき、ステレオで入力されたデータに対してステレオで残響音を付加する残響付加装置の構成の一例を示す。Lチャンネルの入力データが入力端140Lから供給される。また、Rチャンネルの入力データが入力端140Rから供給される。
【0067】
先ず、Lチャンネルの処理について説明する。入力端140Lから供給された入力データは、ドライ成分の比率を調整する乗算器146Lに供給されると共に、プリディレイ141LLおよび141LRに供給され、それぞれ独立してプリディレイを与えられる。プリディレイ141LLおよび141LRの出力は、それぞれインパルス応答のたたみ込みを行うフィルタ142LLおよび142LRに供給される。
【0068】
フィルタ142LLは、端子143LLから供給されたインパルス応答データ96L/F−Lによって、プリディレイ141LLから供給されたデータに対するたたみ込み処理を行う。フィルタ142LLの出力は、ウェット成分の比率を調整する乗算器144LLに供給される。
【0069】
同様に、プリディレイ141LRの出力に対して、フィルタ142LRで、端子143LRから供給されたインパルス応答データL/F−Rによるたたみ込み処理が行われる。フィルタ142LRの出力は、ウェット成分の比率を調整する乗算器144LRに供給される。
【0070】
次に、Rチャンネルの処理について説明する。入力端140Rから供給された入力データは、ドライ成分の比率を調整する乗算器146Rに供給されると共に、プリディレイ141RLおよび141RRに供給され、それぞれ独立してプリディレイを与えられる。プリディレイ141RLおよび141RRの出力は、それぞれインパルス応答のたたみ込みを行うフィルタ142RLおよび142RRに供給される。
【0071】
フィルタ142RLは、端子143RLから供給されたインパルス応答データ96R/F−Lによって、プリディレイ141RLから供給されたデータに対するたたみ込み処理を行う。フィルタ142RLの出力は、ウェット成分の比率を調整する乗算器144RLに供給される。
【0072】
同様に、プリディレイ141RRの出力に対して、フィルタ142RRで、端子143RRから供給されたインパルス応答データR/F−Rによるたたみ込み処理が行われる。フィルタ142RRの出力は、ウェット成分の比率を調整する乗算器144RRに供給される。
【0073】
乗算器144LL,144LRおよび146Lは、Lチャンネルの入力に対してドライ成分およびウェット成分の比率を調整する。端子147Lから乗算器146Lに対して、Lチャンネルのドライ成分の比率が与えられる。また、端子145LLおよび145LRから、乗算器144LLおよび144LRのそれぞれに対して、ウェット成分の比率が独立して与えられる。乗算器146Lおよび144LLの出力が加算器148Lに供給される。加算器148Lには、さらに、後述する乗算器144RLの出力が供給される。加算器148Lでこれら3つの出力が加算され、加算出力がLチャンネルの出力として出力端149Lに導出される。
【0074】
一方、乗算器144RR,144RLおよび146Rは、Rチャンネルの入力に対してドライ成分およびウェット成分の比率を調整する。端子147Rから乗算器146Rに対して、Rチャンネルのドライ成分の比率が与えられる。また、端子145RRおよび145RLから、乗算器144RRおよび144RLのそれぞれに対して、ウェット成分の比率が独立して与えられる。乗算器146Rおよび144RRの出力が加算器148Rに供給される。加算器148Rには、さらに、上述した乗算器144LRの出力が供給される。加算器148Rでこれら3つの出力が加算され、加算出力がRチャンネルの出力として出力端149Rに導出される。
【0075】
このように、ステレオ入力対応の場合には、LおよびRチャンネルの入力データのそれぞれに対して、音源102Lおよび102RのそれぞれによるLおよびRチャンネルの残響音が各々付加される。そして、出力において、残響音のチャンネル毎に混合される。入力されたLおよびRチャンネルのそれぞれに対して、実際にLおよびRチャンネル毎にステレオで収集されたインパルス応答をたたみ込んで残響音を付加しているので、自然なステレオ音像が得られる。
【0076】
なお、図9に点線で示されるように、さらにリア側に2本のマイクロフォン103R−Lおよび103R−Rを据えてもよい。こうすることで、ステレオ方式に加え、さらにサラウンド方式に対応した測定を行うことができる。この方法では、LおよびRチャンネルの音源のそれぞれに対して、4本のマイクロフォン103F−L,103F−R,103R−Lおよび103R−Rによるインパルス応答が収集され、全部で8通りのインパルス応答データが得られる。したがって、再生時には、図10に示される構成を、もう一組用意する必要がある。同様に、図示しないが、マイクロフォン103F−Lおよび103F−Rの中間に、センターマイクロフォンを追加してもよい。
【0077】
図11は、この残響付加装置の構成の一例を、より具体的に示す。この残響付加装置1は、2チャンネル(1ch/2ch)分のディジタルオーディオ信号が、AES/EBU(Audio Engineering Society/European Broadcasting Union) の規格に基づくディジタルオーディオ入力端子10から入力される。入力端子10から供給されたディジタルオーディオ信号は、ディジタル入力部11を介してインプットスイッチャ12に供給される。
【0078】
入力されるディジタルオーディオ信号は、例えばサンプリング周波数が48kHz、量子化ビット数が24ビットである。なお、後述するオプションボード50をこの装置1に装着することで、扱うことができるサンプリング周波数を2倍の96kHzとすることが可能とされる。また、これらの例に限らず、例えばサンプリング周波数44.1kHzのディジタルオーディオ信号にも対応可能とすることができる。この場合には、オプションボード50装着時には、サンプリング周波数が88.2kHzの信号を扱うことが可能とされる。
【0079】
残響付加装置1に対してアナログオーディオ信号を入力する場合には、アナログオーディオ入力端子13L,13Rが用いられる。L(左)およびR(右)チャンネルのオーディオ信号のそれぞれは、入力端子13Lおよび13Rの対応する側から入力され、A/D変換器14で例えば48kHzのサンプリング周波数で量子化ビット数が24ビットでサンプリングされ、ディジタルオーディオ信号に変換される。A/D変換器14の出力は、インプットスイッチャ12に供給される。
【0080】
インプットスイッチャ12は、後述するコントローラ40の制御あるいは手動の切り替えスイッチにより、入力オーディオ信号の系統を切り替える。インプットスイッチャ12の出力は、経路31を通って、DSP(Digital Signal Processor)30に供給される。
【0081】
DSP30は、DRAM(Dynamic Random Access Memory)を有し、後述するコントローラ40から供給されるプログラムに基づき、入出力されるディジタルオーディオ信号の様々な制御を行う。DSP30は、所定のプログラムに基づき、供給されたディジタルオーディオ信号を、インパルス応答のたたみ込み演算を行うためのDSP32A〜32Kに供給する。また、DSP30では、入力信号に基づき初期反射音を生成する。さらに、DSP30には、後述するDSP34から、インパルス応答のたたみ込み演算結果が供給される。
【0082】
DSP32A〜32Kは、DSP30から供給されたディジタルオーディオ信号を、それぞれ所定のサイズのブロックに切り出し、予め供給されたインパルス応答データによるたたみ込み演算を行う。DSP32A〜32Kは、それぞれ処理するサンプル数に応じた容量のDRAMを有する。この例では、DSP32A〜32Hはそれぞれ1個ずつ、DSP32Iは2個、DSP32J,32Kは4個ずつ、容量が16MビットのDRAMを有する。
【0083】
DSP32A〜32Kにより行われた、ブロック毎でのインパルス応答のたたみ込み演算結果は、加算器33で加算され、DSP34を介してDSP30に供給される。DSP34では、加算結果のオーバーフローが検出され、例えばオーバーフローを起こしたデータが所定値に固定される。
【0084】
DSP30では、入力ディジタルオーディオ信号と、上述の初期反射音と、DSP34を介して供給されたインパルス応答のたたみ込み演算結果とを混合することで、入力ディジタルオーディオ信号に対して残響音を付加して出力する。DSP30の出力35は、アウトプットスイッチャ18に供給される。
【0085】
なお、形成された残響音および処理されていない入力ディジタルオーディオ信号は、それぞれ「ウェット成分」および「ドライ成分」とも称される。DSP30では、これらウェット成分およびドライ成分の混合比を、LおよびRチャンネルのそれぞれについて、自在に変更することができる。それと共に、DSP30では、出力信号のレベル調整なども行われる。
【0086】
また、DSP30に対して、取り扱うディジタルオーディオ信号のサンプリング周波数に対応した周波数のクロックFSあるいは2FSが供給される。DSP30での信号処理は、このクロックに基づきなされる。
【0087】
アウトプットスイッチャ18は、後述するコントローラ40の制御あるいは手動の切り替えスイッチにより、出力信号の系統を切り替える。出力は、ディジタルおよびアナログのオーディオ信号として出力できる。アウトプットスイッチャ18からディジタル出力部19を介して、AES/EBU規格による出力端子20に対して、2チャンネル分のディジタルオーディオ信号が導出される。また、アウトプットスイッチャ18から出力されたディジタルオーディオ信号は、D/A変換器21でLおよびRチャンネルのアナログオーディオ信号に変換される。LおよびRチャンネルのアナログオーディオ信号は、それぞれアナログ出力端子22Lおよび22Rに導出される。
【0088】
なお、この例では、入力端子10、入力端子13Lおよび13R、出力端子20、出力端子22Lおよび22Rのそれぞれには、ホット、コールドおよび独立したアースラインの3本の信号線を有する、キャノン型が用いられている。
【0089】
また、アウトプットスイッチャ18により、入力されたオーディオ信号に対する装置1内部での残響音付加処理をバイパスするように選択することもできる。バイパスが選択されると、入力されたディジタルオーディオ信号は、インプットスイッチャ12からバイパス経路17を通ってアウトプットスイッチャ18に直接的に供給される。
【0090】
一方、この残響付加装置1の全体は、コントローラ40によって制御される。コントローラ40は、例えばCPU(Central Processing Unit) やRAM(Random Access Memory)、ROM(Read Only Memory)、所定の入出力インターフェイスなどからなる。ROMは、例えばシステムを起動するための初期プログラムや、シリアル番号が予め記憶される。RAMは、CPUが動作するためのワークメモリであると共に、例えば外部からプログラムがロードされる。
【0091】
コントローラ40は、例えば8ビットパラレルでバス41に接続される。バス41は、上述のDSP30、32A〜32H、34にそれぞれ接続される。バス41を介して、コントローラ40と各DSP30、32A〜32H、34との間で通信が行われる。この通信により、コントローラ40から各DSP30、32A〜32H、34のそれぞれに対してプログラムが供給されると共に、コントローラ40と各DSP30、32A〜32H、34との間で、データやコマンドのやり取りが行われる。
【0092】
また、上述したように、インプットスイッチャ12およびアウトプットスイッチャ18は、例えばバス41と接続され(図示しない)、コントローラ40によって制御される。
【0093】
コントローラ40に対して、例えばフルドットのLCD(Liquid Crystal Display)からなる表示装置42が接続される。コントローラ40で生成された表示データに基づいて、表示装置42に対して所定の表示が行われる。
【0094】
入力部43は、図示しないが、複数の入力手段、例えば回転角に対応してデータを入力するようにされたロータリエンコーダと、複数のプッシュスイッチを有する。これらの入力手段を操作することで、対応する制御信号が入力部43からコントローラ40に供給される。この制御信号に基づき、コントローラ40から各DSP30、32A〜32H、34に対して、所定のプログラムやパラメータなどが供給される。
【0095】
この残響付加装置1には、CD−ROM(Compact Disc-ROM)ドライブ44が設けられる。CD−ROMドライブ44に対してCD−ROM45が挿入され、CD−ROM45からデータやプログラムが読み出される。読み出されたデータやプログラムは、CD−ROMドライブ44からコントローラ40に供給される。
【0096】
例えば、CD−ROM45には、インパルス応答データが記録されている。CD−ROM45からこのインパルス応答データが読み出され、コントローラ40に供給される。そして、コントローラ40からDSP32A〜32Kのそれぞれに対して、このデータが供給される。DSP32A〜32Kでは、供給されたインパルス応答データに基づき、インパルス応答のたたみ込み演算を行う。
【0097】
なお、CD−ROM45に、様々な環境で収集されたインパルス応答データを多数、記録しておくことで、使用するインパルス応答に対応する環境と同様の残響効果を得ることができる。また、複数のインパルス応答データを組み合わせて用いることもできる。実際には存在しない空間をつくり出すことが可能である。さらに、インパルス応答データを、この残響付加装置1で加工することができる。例えば、読み出されたインパルス応答データを加工し、フェードアウト処理を行うことで、残響時間の調整を行う。
【0098】
また、他の例として、CD−ROM45に、インパルス応答データをフーリエ変換により周波数要素データに変換したデータを記録するようにしてもよい。残響付加装置1における処理を軽減することができる。
【0099】
さらに、CD−ROM45には、上述した表示部42に対する表示の際に用いられる表示データも格納される。
【0100】
この残響付加装置1は、外部インターフェイスとしてMIDI(Musical Instrument Digital Interface)を備える。MIDI入力端子46から供給されたMIDI信号は、コントローラ40に供給される。供給されたMIDI信号に基づき、この装置1の所定の機能を制御することができる。また、コントローラ40において、MIDI信号を生成して出力することができる。MIDI入力端子46から供給されたMIDI信号を加工して出力するようにもできる。コントローラ40から出力されたMIDI信号は、MIDI出力端子47から外部の機器へと供給される。また、MIDIスルー端子48は、MIDI入力端子46から供給されたMIDI信号を、そのまま出力する。
【0101】
この残響付加装置1は、オプションボード50を装着することで、機能を拡張することができる。機能拡張の一例として、サンプリング周波数が48kHzのディジタルオーディオ信号を、さらに2系統、すなわち合計で4チャンネル分の信号を扱うことができるようになる。これにより、例えば上述したサラウンド対応の残響音付加や、ステレオ入力/ステレオ出力の残響音付加を、1台の残響付加装置1で行うことができるようになる。
【0102】
機能拡張の他の例として、2チャンネル(1ch/2ch)分のディジタルオーディオ信号を扱う際に、サンプリング周波数が2倍の96kHzである信号を扱うことができるようになる。
【0103】
2チャンネル分(3ch/4ch)のディジタルオーディオ信号がオプションボード50を介して、端子15から入力される。このディジタルオーディオ信号は、ディジタル入力部16を介してインプットスイッチャ12に供給される。また、アウトプットスイッチャ18から出力された、オプションボード50での処理に対応した2チャンネル分のディジタルオーディオ信号がディジタル出力部23を介して端子24に導出される。このディジタルオーディオ信号は、端子24からオプションボード50を介して外部に出力される。
【0104】
オプションボード50とこの装置1とは、端子51〜56および端子15,24で互いに接続される。図12は、オプションボード50の構成の一例を示す。このオプションボード50は、上述のDSP32A〜32Kおよび加算器33による、インパルス応答のたたみ込み演算を拡張して実行できるようにしたものである。したがって、このオプションボード50には、上述のDSP32A〜32Kと同様のDSP32L、32M、およびDSP60A〜Lが設けられると共に、加算器61ならびに上述のDSP34に対応するDSP62とが設けられる。
【0105】
ボード50上のバス41’は、端子56を介して装置1のバス41と接続される。ボード50上の各DSP32L、32M、およびDSP60A〜Lは、バス41’を介して、コントローラ40との間で通信を行うことができる。
【0106】
DSP32Lおよび32Mは、16MビットのDRAMを8個有し、上述のDSP32A〜Kと共にたたみ込み演算を行う。入力ディジタルオーディオ信号がDSP30から出力され、端子53を介してDSP32Lおよび32Mに対してそれぞれ供給される。DSP32Lおよび32Mによるたたみ込み演算結果は、それぞれ端子54および55を介して加算器33に供給され、他のDSP32A〜32Kの演算結果と共に加算される。
【0107】
一方、DSP60A〜60Mは、例えば上述のDSP32A〜32Mと並列的に処理を行う。入力ディジタルオーディオ信号がDSP30から出力され、端子51を介してDSP60A〜60Mに配分される。
【0108】
例えば、オプションボード50の装着によって、1ch〜4chまでの4チャンネル分の処理を行う場合には、DSP32A〜32Mによって1chおよび2chのたたみ込み演算が行われ、DSP60A〜60Mによって3chおよび4chのたたみ込み演算が行われる。また、サンプリング周波数が96kHzのディジタルオーディオ信号を扱う場合には、例えば同一のサンプル数からなるブロックが供給されるDSP同士、すなわち、DSP32Aおよび60A、DSP32Bおよび60B、・・・、DSP32Mおよび60Mがそれぞれ並列的にたたみ込み演算を行うことで、2倍速での処理に対応することができる。
【0109】
DSP60A〜60Mでのたたみ込み演算結果は、それぞれ加算器61に供給され加算される。加算結果は、DSP62に供給され、上述のDSP34と同様にオーバーフロー処理をされ、端子52を介してDSP30に供給される。そして、DSP30において、必要に応じてドライ成分およびウェット成分の比率の調整や、他のチャンネルの信号との混合比の調整をされ、アウトプットスイッチャ18に供給される。
【0110】
なお、オプションボード50には、AES/EBUの規格に基づくディジタルオーディオ信号の入力端子63および出力端子64とが設けられる。入力端子63には、2チャンネル(3ch/4ch)分の信号が入力され、入力された信号は、端子15を介してインプットスイッチャ12に供給される。同様に、アウトプットスイッチャ18から出力された2チャンネル(3ch/4ch)分の出力信号は、端子24を介してこのボード50に供給され、出力端子64に導出される。なお、この例では、端子63および64は、キャノン型が用いられている。
【0111】
図13は、この残響付加装置1のフロントパネル200の一例を示す。フロントパネル200の四隅には、この装置1をラックにマウントすることが可能なように、取り付け穴が設けられている。パネル200の左側に、電源スイッチ201が設けられ、その下方にCD−ROMドライブ44に対してCD−ROM45を装着するための、CD−ROM挿入部202が設けられる。スイッチ205を操作することで、CD−ROM挿入部202へのCD−ROM45の挿入および挿入部202からのCD−ROM45の取り出しを行うことができる。
【0112】
パネル200の略中央部には、表示部203が設けられる。表示部203は、上述したLCD42に対応するものである。表示部203の右側に、ロータリエンコーダ204が設けられる。また、表示部203の下部に、ファンクションキー206,207,208および209が設けられる。これらロータリエンコーダ204およびファンクションキー206〜209によって、この装置1の機能の選択やデータの入力などを行うことができる。
【0113】
表示部203は、選択されている機能などにより様々な表示を行う。この例では、所定の残響音のタイプが選択された場合の、パラメータ表示が行われ、表示部203内の表示領域210には、選択された残響音に対して指定されたパラメータが感覚的に表示されると共に、表示領域211には、パラメータ名とパラメータ値が表示されている。
【0114】
表示領域211の表示は、表示部203の下部に配置されたファンクションスイッチ206〜209のそれぞれに対応している。例えば、ファンクションキー206〜209のうちの何れかを押すことで、押されたキーの直上に表示されているパラメータが選択される。そして、ロータリエンコーダ204を回転させると、そのパラメータが変更される。また例えば、所定の操作によって、表示部203に、別のページを表示させることも可能である。別のページでは、別のパラメータ値を変更することができる。
【0115】
一方、この一実施形態においては、表示領域210に対して、現在設定されているパラメータ値に対応した波紋が表示され、そのパラメータ値による残響音の効果(音の広がり)が感覚的に把握できるようにされている。図10および図11は、この表示領域210の表示の例を示す。残響時間を短い値から長い値へと変更していくのに伴い、図14A〜図14H、さらに、図15A〜図15Hというように、波紋の波数が増加される。
【0116】
この例では、波紋は、残響時間の最小値から最大値までの値に段階的に対応した、16段階の表示を有する。この16段階の表示は、残響時間に対して相対的である。波紋表示のための表示データは、CD−ROM45に格納されている。そして、例えばこの装置1の起動時に予めCD−ROM45から読み出され、コントローラ40が有するRAMに格納される。これに限らず、コントローラ40が有するROMに予め格納しておくようにしてもよい。残響時間のパラメータを決定すると、波紋の表示は、そのときの表示が保持される。
【0117】
このような表示を行うことにより、ユーザに対して、視覚的に印象を与えることができる。ユーザは、残響の効果を、感覚的に把握することができるようになる。すなわち、ユーザは、波紋により、残響音の広がりを視覚的に把握することができる。
【0118】
なお、波紋の表示は、この例では表示領域210の左下から右上に向かって広がっていくように表示されているが、これはこの例に限定されない。図12は、表示領域210に対する波紋の表示の、他の例を示す。波紋の中心点および波紋が広がる方向は、任意に設定することができ、例えば、左端を波紋の中心とすることができる(図16A)。また、表示領域210の中心を波紋の中心とすることもできる(図16B)。さらにまた、波紋の断面を表示するようにしてもよい(図16C)。また、選択された残響音のタイプに応じて波紋の形状を変化させることもできる。さらに、この例では、波紋の表示は固定的に行われているが、1段階のパラメータに対して複数枚の表示データを用意し、これらを連続的に切り替えて表示することで、アニメーション表示とすることもできる。
【0119】
次に、DSP32A〜32M、DSP60A〜60Mで行われる、インパルス応答のたたみ込み演算について説明する。なお、ここでは、繁雑さを避けるため、オプションボード50を用いずに、DSP32A〜32Kのみで行う演算について説明する。
【0120】
図17は、DSP32A〜32Kの各々における処理を概略的に示す。インパルス応答データは、コントローラ40の制御によって、例えばCD−ROM45から読み出され、予めDSP32A〜32Kに対して供給され、DSP32A〜32Kがそれぞれ備えるDRAMに格納される。そして、各DSP32A〜32Kにおいて、それぞれに対して定められている処理ブロックサイズに対応し、インパルス応答データが時間軸上の所定の間隔で区切られる。
【0121】
ここで、各DSP32A〜32KをDSP32として代表し、DSP32に処理されるインパルス応答の単位をNとする。例えば、この例では、DSP32Aは、128ポイントのインパルス応答データのたたみ込み演算を行うようにされているため、N=128である。また、以下の説明において、1ワードは、ディジタルオーディオ信号の1サンプリングデータに対応する。したがって、1ワードは、時間軸上では(1/サンプリング周波数)の時間間隔を有し、ディジタルデータとしては、量子化ビット数(24ビット)のものである。
【0122】
DSP32に供給された入力データは、Nワードからなるブロックデータに切り出される。したがって、最初のNワード分の時間は、データの入力に費やされる。入力されたNワード分のデータは、DSP32が有するDRAMに格納される。そして、次のNワード分の時間で、格納されたNワード分の入力データに対するインパルス応答のたたみ込み演算が行われる。演算が全て終了すると、Nワード分の演算結果が出力される。したがって、Nワードの演算において、データの入出力に対して2Nワード分の遅延が生じることになる。
【0123】
図18は、DSP32における処理を、さらに詳細に示す。DSP32では、周知の技術である、巡回たたみ込みにおけるオーバーラップセーブメソッドを用いて、インパルス応答のたたみ込み演算を行っている。
【0124】
すなわち、図18に示されるように、時間軸に従いNワード毎に供給される、第n番目のブロック80Bと、一つ前の第(n−1)番目のブロック80Aとに対してDFT(Discrete Fourier Transform)を行い、時間軸上のデータを、(N+1)ワードの実数部81Aと(N−1)ワードの虚数部81Bとからなる周波数要素データ81に変換する。
【0125】
一方、インパルス応答データ82は、それぞれNワードの、実データ82Aとゼロデータ82Bについて予めDFTされ、(N+1)ワードの実数部83Aと(N−1)ワードの虚数部83Bとからなる周波数要素データ83に変換されている。
【0126】
入力データによる周波数要素データ81と、インパルス応答による周波数要素データ83の、互いに対応する周波数要素同士が乗算され、乗算結果について、等しい周波数成分同士を足し合わせるフィルタ処理(たたみ込み)が行われる。この演算の結果、(N+1)ワードの実数部84Aと(N−1)ワードの虚数部84Bとからなる周波数要素データ84が得られる。この周波数要素データ84に対して、DFTの逆の処理であるIDFTして、2Nワードからなる時間軸上のデータ86が得られる。
【0127】
IDFTの結果は、図18のデータ85,86,87に示されるように、Nワード間隔で2Nワードずつ得られる。データ85,86,87のそれぞれにおいて、前半のNワードのデータ85A,86A,87Aが捨てられ、第(n−1)番目のブロック,第n番目のブロック,第(n+1)番目のブロックというように、出力データが得られる。第n番目の出力データは、対応する第n番目の入力データに対して2ブロック分、遅延している。
【0128】
ブロックサイズを大きくとり、1回の処理でより多くのインパルス応答データのたたみ込み演算を行うことで、長い残響時間を得ることができる。しかしながら、上述したように、入力されたブロックが出力されるまでには、2ブロック分の遅延があるため、1ブロックを大きくすると、残響処理の成分が出力されるまでの遅延時間が長くなり、実用的ではない。そこで、この一実施形態では、所望の残響時間を得るための処理を、それぞれ所定のポイント数(ワード数)に分割された複数のブロック毎に並列的に行う。
【0129】
図19および図20は、この一実施形態による、複数のブロックに分割してのたたみ込み演算処理について示す。例えば218ワード(256kワード)のたたみ込み演算を行う場合を考える。この場合、ディジタルオーディオ信号が256kワード(256kポイント)のインパルス応答データによってたたみ込まれる。サンプリング周波数が48kHzの場合で略5.3sec、サンプリング周波数が44.1kHzの場合で略5.9secの残響時間が得られる。
【0130】
図19に一例が示されるように、全体256kワードが2分割され、2分割されたうち時間軸上で前に位置する側がさらに2分割される。このように、時間軸上で前に位置する側が順次2分割される。そして、2分割されたうち、時間軸上で後ろに位置する側のそれぞれは、さらに2分割され同一サイズの2ブロックが形成される。
【0131】
図20は、図19における先頭の8kワードの部分Aを拡大して示す。この部分Aも、同様にして2分割されていくが、先頭の256ワードに関しては、128ワードのブロックが2ブロック形成され、この2ブロックについてインパルス応答のたたみ込みが行われる。したがって、残響成分は、先頭の256ワード分遅延されて出力される。しかしながら、例えばサンプリング周波数が48kHzの場合、これは僅か5msecの遅延であり、残響音付加の面から考えると、問題がない。
【0132】
このように、全体が218ワード(256kワード)のこの例では、27 ワード(128ワード),28 ワード(256ワード),29 ワード(512ワード),210ワード(1kワード),211ワード(2kワード),212ワード(4kワード),213ワード(8kワード),214ワード(16kワード),215ワード(32kワード)および216ワード(64kワード)の、2n ワードのサイズを有するブロックがそれぞれ2ブロックずつ形成される。
【0133】
DSP32A〜32Kでは、それぞれ同一ブロックサイズの組について処理が行われる。すなわち、図19および図20に示されるように、DSP32A〜32Kに対して供給された入力データは、DSP32A〜32Kのそれぞれにおいて、DSP32Aで128ワード、DSP32Bで256ワード、DSP32Cで512ワード、DSP32Dで1kワード、DSP32Eで2kワード、DSP32Fで4kワード、DSP32Gで8kワードDSP32Hで16kワード、DSP32Iで32kワード、DSP32J,32Kで64kワードに、それぞれ切り出される。
【0134】
128ワードから32kワードまでの処理のそれぞれは、同一のブロックサイズの2つのブロックについてのたたみ込みの処理を、一つのDSPによって時分割的に行うようにしている。
【0135】
すなわち、DSP32A〜32Kのそれぞれにおいて、切り出されたブロックデータに対して対応するインパルス応答データによるたたみ込み演算が行われる。同一ブロックサイズの組の、後半のブロックについては、処理後、1ブロック分遅延されて出力される。これにより、DSP32A〜32Kのそれぞれにおいて、同一サイズの2ブロックが連続して出力される。DSP32A〜32Kの出力を加算器33で加算することで、残響データ88が生成される。
【0136】
なお、DSP32A〜32Kのそれぞれに対して連続的に供給されるデータに対して、DSP32A〜32Kのそれぞれの周期で以て処理を行い、その結果を加算することで、連続的に供給されるデータに対して残響音を付加することができることは、周知である。
【0137】
図21は、各DSP32A〜32Kにおける、たたみ込み演算をするためのたたみ込みフィルタ70の構成の一例を示す。たたみ込みフィルタ70は、例えば、コントローラ40からDSP32A〜32Kに対して供給される所定のプログラムに基づいて実現される。端子71からディジタルオーディオ信号が入力され、DFT回路72に供給される。ディジタルオーディオ信号は、DFT回路72で時間軸上のデータから周波数要素データに変換される。DFT回路72の出力は、乗算器74に供給されると共に、遅延回路73に供給される。
【0138】
遅延回路73は、Nワード分の遅延を有する。すなわち、DSP32A〜32Kは、それぞれN=128,256,512,1k,2k,4k,8k,16k,32kおよび64kであって、対応する遅延量を有する。遅延回路73で遅延されたデータは、乗算器76に供給される。
【0139】
乗算器74では、端子75から、DFTされたインパルス応答データであるフィルタ係数Aが供給される。乗算器74で、DFT回路72の出力およびフィルタ係数Aの対応する周波数要素同士の乗算がなされる。一方、乗算器76でも同様な処理が行われる。すなわち、端子77から、DFTされたインパルス応答データであるフィルタ係数Bが供給され、遅延回路73からの出力およびフィルタ係数Bの対応する周波数要素同士の乗算がなされる。
【0140】
乗算器74および76それぞれの乗算結果は、加算器78で加算される。加算結果は、IDFT回路79に供給され、周波数要素データが時間軸上のデータに変換され、端子80から出力される。
【0141】
このように、たたみ込みフィルタ70では、入力データと、Nワード、すなわち1ブロック分遅延された入力データとの、2ブロック分のデータを用いてたたみ込み演算が行われ、2ワード分のデータが出力される。図14を用いて既に説明したように、出力された2ワード分のデータのうち、前半の1ワードは、捨てられる。
【0142】
図22は、上述の図21の構成に基づく、たたみ込みフィルタ70の処理を、時間軸に対応して示す。図22の左端側には入力データが示され、右端側には、出力データが示される。また、図22は、全体的に、上側から下側へ向けて、時間の経過が示される。すなわち、複数のフィルタ70が存在するように示されているが、これらは、一つのフィルタの異なるタイミングでの処理を示す。このように、1つ前のタイミングでDFTした結果が遅延回路73によって遅延されて、次のタイミングのフィルタ処理に用いられる。そのため、入力データに対して、2ブロック分遅延された出力データが連続的に出力される。
【0143】
図23は、DSP32A〜32Kの並列処理の概略を示す機能ブロック図である。入力データがDSP32A〜32Kのそれぞれに対して並列的に供給される。DSP32A〜32Kは、それぞれN=128,N=256,N=512,N=1k,N=2k,N=4k,N=8k,N=16k,N=32kおよびN=64kのポイントのたたみ込みを行う。そして、演算結果は、DSP32A〜32Kのそれぞれから、2Nワード分遅延されて、加算器22に供給される。
【0144】
例えば、DSP32Aに供給された入力データは、N=128ワードからなるブロックに切り出され、切り出されたブロックに対してたたみ込み処理を行い、入力タイミングに対して2Nワード遅延されて演算結果が出力される。そして、次のNワードのブロックが取り込まれ、同様な処理が繰り返される。DSP32B〜32Kのそれぞれにおいて、同様の処理が行われる。
【0145】
なお、上述では、インパルス応答収集装置97と、残響付加装置1とが別個の装置であるように記述したが、これはこの例に限定されない。すなわち、残響付加装置1に対して、TSP信号を発生する測定用信号発生部90や、同期加算部94ならびにインパルス応答変換部95を持たせる。これらは、CPUと若干の周辺部品によって構成することが可能であることは言うまでもない。残響付加装置1が元々有するDSP30やDSP34などを利用することも可能である。このように、残響付加装置1に対してインパルス応答を収集する機能を持たせることで、ユーザ独自の効果音を得ることができる。
【0146】
また、上述では、インパルス応答のたたみ込み処理を、DSP32A〜32Kといった、ハードウェアで行っているが、これはこの例に限定されず、ソフトウェア処理で行うことも可能である。同様に、DSP30および34の処理も、ソフトウェアで行うことが可能である。
【0147】
さらに、上述では、この発明が5.1チャンネルあるいは4チャンネルのサラウンド方式に対応しているように説明したが、これはこの例に限定されない。インパルス応答の収集の際に再生方式に対応した位置にマイクロフォンを据えることで、この発明は、例えばフロントのLおよびRチャンネルにそれぞれ2本ずつのスピーカを配置し、リアにLおよびRチャンネルの2本のスピーカを配置するような方式にも適用できるものである。
【0148】
【発明の効果】
以上説明したように、この発明の一実施形態によれば、実際に実空間での計測により得られたインパルス応答を、丸ごとたたみ込んで残響音を生成しているため、自然で高品位な処理結果が得られるという効果がある。すなわち、この一実施形態によれば、残響音のピッチが入力した音のピッチと等しくなるという効果がある。
【0149】
また、この発明の一実施形態によれば、インパルス応答を、TSP信号による測定を複数回行い、得られた複数回分の結果を同期加算することで得ているため、実際の例えば鉄板エコー装置や、実際の空間によって得られる残響音よりも、高いS/N比を実現することができる効果がある。
【0150】
さらに、この発明の一実施形態によれば、実空間から得られたインパルス応答データを加工することで、実際の空間などでは行えない、残響時間の調整を行うことができるという効果がある。
【0151】
さらにまた、この発明によれば、1台の装置で4台分の出力を制御することができるため、操作が容易であるという効果がある。
【0152】
また、この発明によれば、ステレオ入力時でも、自然な音像定位を得ることができるという効果がある。
【0153】
さらに、この発明によれば、実際のホールでの録音と同様のマイクセッティングの効果音が容易に得られるという効果がある。
【図面の簡単な説明】
【図1】一実施形態による残響音を従来の巡回型フィルタによる残響音と比較して示す略線図である。
【図2】この発明によるインパルス応答収集装置の構成の一例を示すブロック図である。
【図3】ホールでインパルス応答を収集する場合の例を示す略線図である。
【図4】インパルス応答の加工処理の一例を示す略線図である。
【図5】インパルス応答の加工処理の一例を示す略線図である。
【図6】インパルス応答データを用いてたたみ込みを行う残響付加装置の構成の一例を概略的に示すブロック図である。
【図7】サラウンド方式に対応するように、インパルス応答を収集する場合の一例を示す略線図である。
【図8】入力データに対してサラウンド方式に対応して残響音を付加する残響付加装置の構成の一例を示すブロック図である。
【図9】ステレオ入力に対応するようにインパルス応答を収集する場合の一例を示す略線図である。
【図10】ステレオで入力されたデータに対してステレオで残響音を付加する残響付加装置の構成の一例を示すブロック図である。
【図11】残響付加装置の構成の一例をより具体的に示すブロック図である。
【図12】残響付加装置のオプションボードの構成の一例を示すブロック図である。
【図13】残響付加装置のフロントパネルの一例を示す略線図である。
【図14】表示領域に表示される波紋の例を示す略線図である。
【図15】表示領域に表示される波紋の例を示す略線図である。
【図16】表示領域に表示される波紋の他の例を示す略線図である。
【図17】たたみ込み演算を行う各DSPにおける処理を概略的に示す略線図である。
【図18】各DSPにおける処理を、さらに詳細に示す略線図である。
【図19】複数のブロックに分割してのたたみ込み演算処理について示す略線図である。
【図20】複数のブロックに分割してのたたみ込み演算処理について示す略線図である。
【図21】各DSPにおけるたたみ込みフィルタの構成の一例を示すブロック図である。
【図22】たたみ込みフィルタの処理を時間軸に対応して示す略線図である。
【図23】異なるNワードの処理を並列的に行う例を示す略線図である。
【符号の説明】
1・・・残響付加装置、30・・・DSP、32A〜32M・・・DSP、33・・・加算器、34・・・DSP、40・・・コントローラ、42・・・LCDによる表示部、43・・・入力部、44・・・CD−ROMドライブ、45・・・CD−ROM、50・・・オプションボード、60A〜60M・・・DSP、61・・・加算器、62・・・DSP、90・・・測定用信号発生部、94・・・同期加算部、95・・・インパルス応答変換部95、96L,96R,96F−L,96F−R,96R−L,96R−R,96L/F−L,96L/F−R,96R/F−L,96R/F−R・・・インパルス応答データ、97・・・インパルス応答収集装置、101・・・ホール、102L,102R・・・音源、103FL,103FR,103LR,103RR・・・マイクロフォン、122・・・たたみ込みフィルタ
Claims (6)
- インパルス応答のたたみ込みを行うことによって効果音を生成する際に用いられるインパルス応答の収集方法において、
測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定する測定のステップと、
上記測定された上記音響のそれぞれをインパルス応答に変換する変換のステップと
を有する
ことを特徴とするインパルス応答の収集方法。 - 請求項1に記載のインパルス応答の収集方法において、
上記測定用信号は、複数回、発生され、上記複数回発生された上記測定用信号による測定結果を同期加算する同期加算のステップと
をさらに有し、
上記変換のステップでは、上記インパルス応答への変換を、上記同期加算のステップでの加算結果に基づいて行う
ことを特徴とするインパルス応答の収集方法。 - 請求項1に記載のインパルス応答の収集方法において、
上記変換のステップで変換されたインパルス応答を加工する加工のステップをさらに有する
ことを特徴とするインパルス応答の収集方法。 - コンピュータによって読み取り可能で着脱可能な記録媒体であって、
測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定し、上記ステレオ方式に対応する2箇所のうち一方および他方のそれぞれについて、発生された上記空間の音響が上記測定された上記音響のそれぞれをインパルス応答に変換して得られた4のインパルス応答データが記録された
ことを特徴とするコンピュータによって読み取り可能な記録媒体。 - 請求項4に記載の記録媒体において、
複数回発生された上記測定用信号により得られた測定結果を同期加算した加算結果を用いて、上記インパルス応答への変換が行われていることを特徴とするコンピュータによって読み取り可能な記録媒体。 - 入力されたディジタルオーディオ信号に対してインパルス応答データをたたみ込むことによって効果音を付加する効果音付加装置において、
測定用信号に基づき、ステレオ方式に対応する2箇所のうち一方および他方でそれぞれ選択的に発生された空間の音響を、ステレオ方式に対応して空間的に配置された2個の測定手段のそれぞれで、各々測定し、上記ステレオ方式に対応する2箇所のうち一方および他方のそれぞれについて、発生された上記空間の音響が上記測定された上記音響のそれぞれをインパルス応答に変換して得られた4のインパルス応答データが記録された記録媒体から、該4のインパルス応答データを再生する再生手段と、
ステレオ方式に対応する2チャンネルのディジタルオーディオ信号を入力する入力手段と、
上記入力手段に入力された上記2チャンネルのディジタルオーディオ信号のそれぞれに対して、上記再生手段で再生された上記4のインパルス応答データのうち、該ディジタルオーディオ信号のチャンネルに上記測定手段が対応する2の上記インパルス応答データに基づきそれぞれたたみ込みを行う4のたたみ込み手段と、
上記空間の音響が発生された上記ステレオ方式に対応する2箇所にそれぞれ対応して上記4のたたみ込み手段の出力を2ずつ混合し、2チャンネルのディジタルオーディオ信号として出力する出力手段と
を有することを特徴とする効果音付加装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP27146298A JP3855490B2 (ja) | 1998-09-25 | 1998-09-25 | インパルス応答の収集方法および効果音付加装置ならびに記録媒体 |
AU50093/99A AU5009399A (en) | 1998-09-24 | 1999-09-23 | Impulse response collecting method, sound effect adding apparatus, and recording medium |
EP99307562A EP0989540A1 (en) | 1998-09-24 | 1999-09-24 | Impulse response collecting method, sound effect adding apparatus, and recording medium |
US11/131,791 US7257230B2 (en) | 1998-09-24 | 2005-05-18 | Impulse response collecting method, sound effect adding apparatus, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP27146298A JP3855490B2 (ja) | 1998-09-25 | 1998-09-25 | インパルス応答の収集方法および効果音付加装置ならびに記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000097763A JP2000097763A (ja) | 2000-04-07 |
JP3855490B2 true JP3855490B2 (ja) | 2006-12-13 |
Family
ID=17500381
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP27146298A Expired - Fee Related JP3855490B2 (ja) | 1998-09-24 | 1998-09-25 | インパルス応答の収集方法および効果音付加装置ならびに記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3855490B2 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004193782A (ja) | 2002-12-09 | 2004-07-08 | Toa Corp | スピーカとマイクロホン間の音波伝搬時間測定方法およびその装置 |
JP4127094B2 (ja) | 2003-03-26 | 2008-07-30 | ヤマハ株式会社 | 残響音生成装置およびプログラム |
JP4099598B2 (ja) | 2005-10-18 | 2008-06-11 | ソニー株式会社 | 周波数特性取得装置、周波数特性取得方法、音声信号処理装置 |
JP4285469B2 (ja) | 2005-10-18 | 2009-06-24 | ソニー株式会社 | 計測装置、計測方法、音声信号処理装置 |
JP4915773B2 (ja) * | 2006-02-28 | 2012-04-11 | 株式会社河合楽器製作所 | 伝達特性測定方法および装置 |
JP5331553B2 (ja) * | 2009-04-20 | 2013-10-30 | 日本放送協会 | マルチチャンネル音響におけるインパルス応答測定システム、残響音生成装置、及び残響音生成システム |
JP2014045282A (ja) * | 2012-08-24 | 2014-03-13 | Nippon Hoso Kyokai <Nhk> | 残響付加装置、残響付加プログラム |
WO2024069687A1 (ja) * | 2022-09-26 | 2024-04-04 | 三菱電機株式会社 | 人検知装置、人検知システム、人検知方法、及び人検知プログラム |
-
1998
- 1998-09-25 JP JP27146298A patent/JP3855490B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000097763A (ja) | 2000-04-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7257230B2 (en) | Impulse response collecting method, sound effect adding apparatus, and recording medium | |
US6931134B1 (en) | Multi-dimensional processor and multi-dimensional audio processor system | |
US5572591A (en) | Sound field controller | |
US7613305B2 (en) | Method for treating an electric sound signal | |
JP3578783B2 (ja) | 電子楽器の音像定位装置 | |
US20090225993A1 (en) | Audio signal processing method and system | |
EP0989543B1 (en) | Sound effect adding apparatus | |
JP3594281B2 (ja) | ステレオ拡大装置及び音場拡大装置 | |
JP3855490B2 (ja) | インパルス応答の収集方法および効果音付加装置ならびに記録媒体 | |
JP4196509B2 (ja) | 音場創出装置 | |
JP3975577B2 (ja) | インパルス応答の収集方法および効果音付加装置ならびに記録媒体 | |
JP3752721B2 (ja) | 遮音シミュレータ | |
JPS6253100A (ja) | 音響特性制御装置 | |
JP2000099066A (ja) | 表示方法および効果音付加装置 | |
JPH09114479A (ja) | 音場再生装置 | |
JP2991452B2 (ja) | 音響信号再生装置 | |
AU2004203538B2 (en) | Sound effect adding apparatus | |
JP2000099062A (ja) | ディジタル信号処理装置および効果音付加装置 | |
JP2000099067A (ja) | 制御方法 | |
JP3197077B2 (ja) | 定位音像生成装置 | |
JP4357218B2 (ja) | ヘッドホン再生方法及び装置 | |
JPH04328796A (ja) | 電子楽器 | |
JP3671756B2 (ja) | 音場再生装置 | |
JP2023066418A (ja) | オブジェクトベースのオーディオ空間化器 | |
JP2023066419A (ja) | オブジェクトベースのオーディオ空間化器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050712 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060428 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060530 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060728 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060822 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060904 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090922 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100922 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100922 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110922 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110922 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120922 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120922 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130922 Year of fee payment: 7 |
|
LAPS | Cancellation because of no payment of annual fees |