JP4215448B2 - 音声復号装置及び音声復号方法 - Google Patents

音声復号装置及び音声復号方法 Download PDF

Info

Publication number
JP4215448B2
JP4215448B2 JP2002117187A JP2002117187A JP4215448B2 JP 4215448 B2 JP4215448 B2 JP 4215448B2 JP 2002117187 A JP2002117187 A JP 2002117187A JP 2002117187 A JP2002117187 A JP 2002117187A JP 4215448 B2 JP4215448 B2 JP 4215448B2
Authority
JP
Japan
Prior art keywords
circuit
decoding
speech
packet
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002117187A
Other languages
English (en)
Other versions
JP2003316391A (ja
Inventor
芹沢  昌宏
善明 野澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
NEC Engineering Ltd
Original Assignee
NEC Corp
NEC Engineering Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, NEC Engineering Ltd filed Critical NEC Corp
Priority to JP2002117187A priority Critical patent/JP4215448B2/ja
Priority to US10/418,202 priority patent/US7272554B2/en
Publication of JP2003316391A publication Critical patent/JP2003316391A/ja
Application granted granted Critical
Publication of JP4215448B2 publication Critical patent/JP4215448B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/005Correction of errors induced by the transmission channel, if related to the coding algorithm

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、Voice over Internet Protocol (VoIP)等を用いた音声パケット通信において、パケットロスによる劣化を低減した音声復号装置に関するものである。
【0002】
【従来の技術】
VoIPシステム等のパケット型音声通信において、送信器では、音声を10 [msec]等のブロック単位で符号化して得た音声フレームデータの1個または複数個を1個のパケットにまとめ、生成時刻等の情報を付加した後にインターネット等の伝送路に送信する。
【0003】
伝送路において、送信されたパケットは、複数の中継器(ルータやゲートウェイ等)を経由し、受信器に到達する。パケットは、中継器を通過する際に待ち行列に蓄積されるため、中継器が混雑していると、受信してから著しく遅れて再送されたり、中継器の処理が間に合わないために破棄される場合がある。受信器では、受信したパケットに付加されたタイムスタンプ(時刻印)が予め定めた規則に従った順序や時刻であるか否かを判定する。従っていない場合はパケットが消失(ロス)したと見なす。消失したパケットに対しては、隠蔽処理によって音声を復号する。
【0004】
隠蔽処理は、音声の符号化方法によって異なるが、消失したパケットより過去あるいは後に受信したパケットに含まれる情報から、消失したパケットに対応する音声を生成する。消失したパケットより後に送信されたパケットを用いる場合はそのパケットを受信するために復号遅延が生じる。
【0005】
多くの携帯電話で採用されているCELP(Code Excited Linear Prediction)方式の隠蔽処理に関しては、例えば「Performance of the proposed ITU-T 8kb/s speech coding standard for a rayleigh fading channel (IEEE Proc. Speech Coding Workshop, pp.11-12, 1995)」(文献1)を引用できる。PHSで採用されているADPCM (Adaptive Differential Pulse Code Modulation) 方式の隠蔽処理に関しては、例えば「Improved ADPCM Voice Signal Transmission Employing Click-Noise Detection Scheme for TDMA-TDD Personal Communication Systems (IEEE Trans. On Vehicular Technology, Vol.46, No.1, 1997)」(文献2)を引用できる。また、7kHzまでの広帯域音声を符号化する帯域分割ADPCMにもADPCMと同様の隠蔽処理が適用可能である。
【0006】
パケットロス隠蔽処理を行なう従来方式の音声復号装置の構成例を、図9、図10、図11及び図12を用いて説明する。図9は従来の復号装置の全体構成を表すブロック図であり、図10、図11と図12はその復号回路を表すブロック図である。図10と図11は各々、全周波数帯域をCELP方式とADPCM方式で復号する全帯域復号回路を表すブロック図である。図12は、帯域分割されて復号した信号を加算して全帯域信号を生成する帯域分割復号回路を表すブロック図である。
【0007】
図9を用いて従来の復号装置の動作を説明する。入力端子15は、パケットを受け取り、復号回路30に渡す。入力端子10は、パケット受信の有無を表すロス情報を受け取り、復号回路30に渡す。復号回路30は、入力端子10から渡されるロス情報に従って、入力端子15から渡されるパケットから音声を復号する。また、各パケットから音声を復号する際には、バッファ回路35から渡される前パケットの内部信号を用いる。更に、復号後に次のパケットの復号で使用する内部信号をバッファ回路35に渡す。内部信号は符号化方式によって異なる。復号回路30の具体的な例の説明は図10と図11を用いて後述する。最後に出力端子45に復号音声を渡す。バッファ回路35は復号回路30から渡される内部信号を蓄積し、次パケットからの復号時に蓄積していた内部信号を復号回路30に渡す。出力端子45は、復号回路30から渡された復号音声を出力する。
【0008】
図10はCELP方式の復号器による復号回路30の構成例を、復号回路203として示すブロック図である。CELP方式に関しては、「Code-Excited Linear Prediction : High Quality Speech at Very Low Bit Rates (IEEE Proc. ICASSP-85、 pp.937- 940、1985) 」(文献3)に記載されている。CELP方式による符号化装置では、入力音声を、線形予測分析で得たスペクトル包絡特性を表す線形予測(LP)係数とこのLP係数で構成されるLP合成フィルタを駆動する励振信号とに分けて符号化を行なう。LP分析とLP係数の符号化は、予め定めた長さのフレーム毎に行なう。励振信号の符号化は、フレームを更に予め定めた長さのサブフレームに分割してサブフレーム毎に行なう。ここで、励振信号は、入力信号のピッチ周期を表す周期成分とそれ以外の残差成分と各成分のゲインとにより構成される。入力信号のピッチ周期を表す周期成分は、適応コードブックと呼ばれる過去の励振信号を保持するコードブックに格納された適応コードベクトルで表す。前記残差成分は、音源コードベクトルと呼ばれる予め設計した信号で表す。この信号として、複数のパルスからなるマルチパルス信号や乱数信号等が用いられる。音源コードベクトルの情報は、音源コードブックに蓄積している。CELP方式による復号装置では、復号した前記ピッチ周期成分と前記残差信号から計算した励振信号を、復号した前記LP係数で構成する合成フィルタに入力して復号音声を計算する。
【0009】
次に、図10を用いてCELP方式による復号回路203の動作を説明する。本明細書では簡単のためにひとつのパケットにひとつのフレームが含まれる場合を説明するが、複数フレームが含まれる場合もその動作を繰り返すだけで同様に復号可能である。入力端子50は、パケットを入力し、音源分析回路65とピッチ予測回路68と合成フィルタ回路88に渡す。入力端子55は、ロス情報を入力し、合成フィルタ回路88と音源分析回路65とピッチ予測回路68に渡す。音源分析回路65は、入力端子50から渡されたパケットで示された情報を用いて音源コードベクトルとそのゲインを復号し、これらを積算して得た音源信号を加算回路75に渡す。但し、入力端子55から渡されたロス情報がパケットロス発生を示す場合は、例えば乱数などの擬似的な音源信号を生成し、加算回路75に渡す。ピッチ予測回路68は、入力端子50から渡されたパケットで示された情報を用いて適応コードベクトルとそのゲインを復号し、これらを積算して得たピッチ周期信号を加算回路75に渡す。適応コードベクトルは入出力端子80を介して接続された外部のバッファ回路35から、内部信号として蓄積された適応コードベクトルを切り出することにより得る。入力端子55から渡されたロス情報がパケットロス発生を示す場合は、例えばゼロから成る信号をピッチ周期信号として加算回路75に渡す。加算回路75は、音源分析回路65から渡された音源信号とピッチ予測回路68から渡されたピッチ周期信号とを加算して得た励振信号を合成フィルタ回路88に渡すと共に、入出力端子80を介して内部信号として外部のバッファ回路35に渡す。合成フィルタ回路88は、入力端子50から渡されたパケットの情報から線形予測(LP)係数を復号する。次に復号したLP係数を用いて合成フィルタを構成し、加算回路75から渡された励振信号でこのフィルタを駆動することにより音声を復号し、出力端子90に渡す。LP係数をa(i), i=1,…,pとすると、復号音声x(t)は励振信号e(t)から次式で計算できる。
【0010】
【数1】
Figure 0004215448
【0011】
式(1)を実行するために、過去の復号音声x(t-i), i=1,…,pは入出力端子80を介して内部信号として外部のバッファ回路35に蓄積され、必要に応じて入出力端子80を介して読み込まれる。ここでpはLP係数の次数である。入力端子55から渡されたロス情報がパケットロス発生を示す場合は、例えば前のパケットから復号したLP係数を再度用いる。入出力端子80は、加算回路75から渡された励振信号を内部信号として外部のバッファ回路35に対し出力する。また、ピッチ予測回路68から受けたピッチ周期に従って外部バッファ回路35から渡された適応コードベクトルを内部信号としてピッチ予測回路68に渡す。更に合成フィルタ回路88から渡された過去の復号音声を内部信号としてバッファ回路35に対し出力し、次のパケットの復号時にその復号音声を入力して合成フィルタ回路88に渡す。出力端子90は、合成フィルタ回路88から渡された復号音声を出力する。CELP方式では、出力端子90から出力された復号音声にポストフィルタと呼ばれるスペクトルピークを強調するフィルタを施することにより、復号音声の聴感的な音質を向上できる。
【0012】
図11はADPCM方式の復号器による復号回路30の構成例を、復号回路204として示すブロック図である。ADPCM方式に関しては、「Overview of the ADPCM Coding Algorithm (IEEE Proc. Of GLOBECOM’84、 pp.774-777、1984) 」(文献4)に記載されている。ADPCM方式の符号化装置では、入力した音声からサンプル毎にその予測信号を差し引き、その差分信号を非線形適応量子化器で符号化する。次に符号化で得られた出力符号を用いて量子化のスケールファクタの適応化と適応逆量子化を行なう。適応逆量子化で得た量子化差分信号に予測信号を加えて再生音声を得る。適応予測器は、これらの量子化差分信号と再生音声を用いて入力音声の予測信号を計算する。復号装置では、符号化装置と同一の動作で予測信号を計算することにより復号処理を行なう。具体的には、受信した量子化符号を用いて量子化のスケールファクタの適応化と適応逆量子化を行なう。次に適応予測器は、これらの量子化差分信号と再生音声を用いて入力音声の予測信号を計算する。最後に適応逆量子化で得た量子化差分信号に予測信号を加えて再生音声を得る。
【0013】
次に、図11を用いてADPCM方式による復号回路204の動作を説明する。入力した音声サンプル毎に出力符号が得られるADPCM方式をパケット通信に適用する場合、例えば10msec分で量子化符号をまとめ、ひとつのパケットとして伝送する。入力端子50は、パケットを受け取り、逆量子化回路95とスケール適応回路110に渡す。入力端子55は、ロス情報を受け取り、逆量子化回路95とスケール適応回路110と速度制御回路115と適応予測回路105に渡す。逆量子化回路95は、スケール適応回路110から渡されたスケール係数を用いて、入力端子50から渡されたパケットに含まれる符号を逆量子化することにより差分信号dq(k)を復号し、加算回路100と適応予測回路105に出力する。入力端子55から渡されたロス情報がパケットロス発生を示す場合は、ゼロからなる信号を出力する。スケール適応回路110は、入力端子50から渡されたパケットに含まれる情報I(k)と速度制御回路115から渡されたスピード制御係数al(k)を用いてスケール係数を計算し、逆量子化回路95と速度制御回路115に渡す。時刻kにおけるスケール制御係数y(k)は、スピード制御係数al(k)と過去の高速スケール係数yu(k-1)と低速スケール係数yl(k-1)を用いて次式で計算する。
【0014】
【数2】
y(k)=al(k) yu(k-1) + (1-al(k)) yl(k-1) …(2)
【0015】
ここで、時刻kにおける高速スケール係数yu(k)と低速スケール係数yl(k)は、前記求めた時刻kにおけるスケール制御係数y(k)に基づいて次式で更新する。
【数3】
yu(k)=(1-2-5) y(k) + 2-5 W[I(k)] …(3)
【0016】
【数4】
yl(k)= (1-2-6) yl(k-1) + 2-6 yu(k) …(4)
【0017】
W[X]はXを引数とする関数であり、予め定めたテーブルを参照する。また、スケール適応回路110は、式(3)と(4)で計算したyu(k)とyl(k)を内部信号として入出力端子80から出力して外部のバッファ回路35に蓄積し、次に式(3)と(4)を計算する際に前サンプルの係数yu(k-1)とyl(k-1)として再び入出力端子80から入力して使用する。入力端子55から渡されたロス情報がパケットロス発生を示す場合、そのパケットに対する隠蔽処理の間、式(3)と(4)の更新を行なわない。速度制御回路115は、次式を用いて、スケール適応回路110から渡されたスケール係数y(k)からスピード制御係数al(k)を計算する。
【0018】
【数5】
Figure 0004215448
ここで
【数6】
Figure 0004215448
【数7】
dms(k) =[1-2-5]dms(k-1)+2-5F[I(k)] …(7)
【数8】
dml(k) =[1-2-7]dml(k-1)+2-7F[I(k)] …(8)
【0019】
F[X]はXを引数とする関数であり、予め定めたテーブルを参照する。また、この回路115は、式(6)〜(8)で計算した係数ap(k)とdms(k)とdml(k)を内部信号として入出力端子80から出力して外部のバッファ回路35に蓄積し、次に式(6)〜(8)を計算する際に前サンプルの係数ap(k-1)とdms(k-1)とdml(k-1)として再び入出力端子80から入力して使用する。入力端子55から渡されたロス情報がパケットロス発生を示す場合、そのパケットに対する隠蔽処理の間、式(6)〜(8)の更新を行なわない。適応予測回路105は、逆量子化回路95から渡された差分信号dq(k)と入出力端子80を介して外部のバッファ回路35から渡された過去の予測信号se(k-i)、i=1,…,2及び過去の差分信号dq(k-i), i=1,…,6を用いて次式により時刻kの予測信号se(k)を計算し、加算回路100に渡す。
【0020】
【数9】
Figure 0004215448
ここで
【数10】
sr(k-i)=se(k-i)+dq(k-i) …(10)
【数11】
Figure 0004215448
【0021】
また、a(i,k-1)とb(i,k-1)は予測係数であり、dq(k)に基づき次式によりa(i,k)とb(i,k)に更新される。
【0022】
【数12】
b(i,k)= [1-2-8] b(i,k-1) + 2-8 sgn[dq(k)]sgn[dq(k-i)], i=1,…,6 …(12)
【数13】
a(1,k)= [1-2-8] a(1,k-1) + 3・2-8 sgn[p(k)]sgn[p(k-1)] …(13)
【数14】
a(2,k)= [1-2-7] a(2,k-1) + 2-7 sgn[p(k)]sgn[p(k-2)]
-f[a(1,k-1)]sgn[p(k)]sgn[p(k-1)] …(14)
ここで、
【数15】
p(k)=dq(k)+sez(k) …(15)
【数16】
Figure 0004215448
但し、
【数17】
Figure 0004215448
【数18】
Figure 0004215448
とし、sgn[x]はxの符号を表す。適応予測回路105はまた、逆量子化回路95から渡されたdq(k)、式(9)〜(11)で計算したse(k)、式(12)〜(14)で計算したa(i,k)とb(i,k)を、入出力端子80を介して外部のバッファ回路35に蓄積し、次に式(9)〜(14)を計算する際に前サンプルの値dq(k-1)とse(k-1)とa(i,k-1)とb(i,k-1)として使用する。入力端子55から渡されたロス情報がパケットロス発生を示す場合、そのパケットに対する隠蔽処理の間、式(12)〜(14)の更新を行なわない。加算回路100は、逆量子化回路95から渡された逆量子化信号及び適応予測回路105から渡された予測信号を加算して得た復号音声を、適応予測回路105と出力端子90に渡す。出力端子90は、加算回路100から渡された復号音声を出力する。尚、ADPCM方式の隠蔽処理として、パケットロスで失われた符号I(k)の代わりに、逆量子化した信号がゼロあるいは小さい値(例えば絶対値が7以下)となる符号を使用することができる。これにより復号音声も小さい値になる。
【0023】
図12は帯域分割方式の復号器による復号回路30の構成例を示すブロック図である。各帯域信号の符号化にはCELP方式やADPCM方式などが適用可能である。代表的な方式にITU-T G.722方式があり、例えば「7kHz Audio Coding within 64 kbit/s (ITU-T Recommendation G.722, 1988)」(文献5)を参照できる。
【0024】
次に、図12を用いて帯域分割方式による復号回路の動作を説明する。入力端子121は、パケットを受け取り、低帯域復号回路66と高帯域復号回路67に渡す。入力端子56は、ロス情報を受け取り、低帯域復号回路66と高帯域復号回路67に渡す。低帯域復号回路66や高帯域復号回路67には、図10や図11に各々示したCELP方式やADPCM方式が適用できる。低帯域復号回路66は、入力端子121から受け取ったパケットを用いて、入力端子56から渡されたロス情報に従って低周波数域(例えば4kHz以下)の帯域信号を有する音声の復号を行ない、復号音声を帯域加算回路43に渡す。また、入出力端子80を介して内部信号の授受を外部のバッファ回路35と行なう。高帯域復号回路67は、入力端子121からパケットを受け取り、入力端子56から渡されたロス情報に従って高周波数域(例えば4kHz以上)に対応する帯域信号を有する音声の復号を行ない、復号音声を帯域加算回路43に渡す。また、入出力端子80を介して内部信号の授受を外部のバッファ回路35と行なう。帯域加算回路43は、高帯域復号回路67から渡された高帯域音声を高域成分としてアップサンプリングし、これに低帯域復号回路66から渡された低帯域音声を低域成分としてアップサンプリングして得た信号を加えて広帯域の音声を復号し、出力端子51に渡す。出力端子51は帯域加算回路43から渡された広帯域の復号音声を出力する。
【0025】
【発明が解決しようとする課題】
上述したようにパケットロスが生じた場合に隠蔽処理を行なってロス期間中の音声を復号するようにしているが、予測符号化のように過去の内部信号を用いて符号化や復号を行なう場合、隠蔽処理した後のパケットの復号で異常に大きい振幅が発生し、音質が劣化する場合があるという課題がある。その理由は、更新されていない内部信号を用いたり、初期化した内部信号を用いることで、符号化処理と復号処理で一致すべき内部信号に大きな差ができるためである。
【0026】
本発明の目的は、パケットロスが生じた場合に行われる隠蔽処理による音質の劣化を防止することにある。
【0027】
【課題を解決するための手段】
本発明の第1の音声復号装置は、到着したパケットから音声の復号を行なう手段(図1の30)と、前記復号で生成され次パケットの復号で用いられる内部信号を蓄積する手段(図1の38)と、不到着のパケットに対応する隠蔽音声を過去に受信したパケットから生成する手段(図1の30)と、前記隠蔽音声を音声符号化装置と同様に符号化して得た内部信号で前記蓄積された内部信号を更新する手段(図1の40と38)とを有することを特徴とする。より具体的には、送信側の音声符号化装置において所定区間毎のブロック単位で符号化された音声フレームデータを少なくとも1個含むパケットを順次に受信し、受信したパケットに付加されたタイムスタンプで特定されるパケットの順番に音声フレームデータを復号すると共に前記復号で生成され次音声フレームデータの復号で用いられる内部信号をバッファ(図1の38)に蓄積し、且つ、不到着のパケットに対応する隠蔽音声を前記バッファに蓄積された内部信号に基づいて生成して出力する復号回路(図1の30)と、前記復号回路で生成された前記隠蔽音声を前記音声符号化装置と同様に符号化して得た内部信号で前記バッファの内部信号を更新する更新回路(図1の40)とを備えている。
【0030】
本発明はCELP方式やADPCM方式のように過去の処理で生成された信号を用いる同一の処理(予測処理など)を符号化と復号で行なう音声符号化・復号方式に適用される。CELP方式の場合、前記内部信号は適応コードブックとして蓄積された励振信号およびLP合成フィルタの処理で使用する過去の復号音声を含み、ADPCM方式の場合、前記内部信号が予測処理で用いる過去の出力信号及び振幅や変化スピードを制御する係数を含む。第1の音声復号装置では、これらの内部信号を隠蔽音声に基づいて更新する。
【0031】
【作用】
隠蔽処理で生成された復号音声が符号化された入力音声から大きくずれていないと近似し、復号器で隠蔽処理により生成された復号音声を符号化することにより復号器で必要とする内部信号を更新する。この更新した内部信号を次のパケットの復号で用いる。これにより、符号化器の内部信号と復号器の内部信号の間で隠蔽処理によって生じる不一致を低減でき、その結果、復号音声の品質を改善可能である。
【0033】
【発明の実施の形態】
図1から図8を用いて本発明に基づく実施例による復号装置を説明する。図1は本発明の第1の復号装置の全体構成を表すブロック図である。図2と図3は各々、CELP方式とADPCM方式で更新回路40を実現した場合のブロック図である。図4は、帯域分割されて復号した信号から全帯域信号を生成する帯域分割復号方式で更新回路40を実現した場合のブロック図である。図5は、本発明の第2の復号装置の全体構成を表すブロック図である。図6と図7は、各々復号回路33にCELP方式とADPCM方式を用いた場合のブロック図である。図8は、復号回路33に帯域分割されて復号した信号から全帯域信号を生成する帯域分割復号回路を表すブロック図である。
【0034】
図1を用いて本発明に基づく第1の復号装置の構成を説明する。この実施例が図9の従来の復号装置と異なるのは、バッファ回路35が更新バッファ回路38と更新回路40に置き換えられている点のみである。従って、これらと関係する動作のみを説明する。入力端子10は、ロス情報を復号回路30以外に更新回路40と更新バッファ回路38にも渡す。復号回路30は、更新バッファ回路38と内部信号の授受を行なう。また、更新回路40に対して復号音声を渡す。更新回路40は、入力端子10から渡されたロス情報がパケット消失を示す場合は、復号回路30から渡された復号音声を用いて、更新バッファ回路38から渡される内部信号を更新し、更新した内部信号を更新バッファ回路38に返す。更新バッファ回路38は、入力端子10から渡されたロス情報がパケット消失を示す場合は、更新された内部信号を更新回路40から受け取り、復号回路30での処理で使用するために蓄積している内部信号と置き換える。処理を簡略化するために、パケットが連続して消失した時、この置き換えは消失した各パケットに対してではなく、連続して消失した最後のパケットに対してのみ行なうこともできる。
【0035】
図2を用いてCELP方式を用いた場合の更新回路40(図2では更新回路91として示す)の動作を説明する。この更新回路91はCELP方式の符号化と同様の処理を行なうものであり、CELP方式の符号化自体の詳細は例えば文献3を参照できる。入力端子51は、復号音声を受け取り、影響信号減算回路72とLP回路71に渡す。入力端子56は、ロス情報を受け取り、ロス情報がパケット消失を示す場合のみ、更新回路91に含まれる処理を行なう。影響信号減算回路72は、入力端子51から渡された復号音声から、合成フィルタ回路85から渡される過去の影響信号を減算し、この減算を行なって得た減算済み復号音声を音源分析回路65とピッチ分析回路70に渡す。LP回路71は、入力端子51から渡された復号音声を線形予測(LP)分析し、分析して得たLP係数の符号化と復号を行なう。また、復号して得た量子化LP係数を音源分析回路65とピッチ分析回路70と合成フィルタ回路85に渡す。音源分析回路65は、影響信号減算回路72から渡された減算済み復号音声とLP回路71から渡された量子化LP係数を用いて、減算済み復号音声に含まれる音源信号を符号化する。また、この音源信号を加算回路75とピッチ分析回路70に渡す。ピッチ分析回路70は、影響信号減算回路72から得た減算済み復号音声とLP回路71から得た量子化LP係数と入出力端子121を介して外部の更新バッファ回路38から得た励振信号を用いて、減算済み復号音声からピッチ周期を抽出し、対応するピッチ信号を計算する。加算回路75は、音源分析回路65から渡された音源信号とピッチ分析回路70から渡されたピッチ周期信号とを加算することにより励振信号を生成する。また、励振信号を合成フィルタ回路85に渡すと共に入出力端子121を介して内部信号として外部の更新バッファ回路38に渡す。合成フィルタ回路85は、LP回路71から渡されたLP係数を用いて合成フィルタを構成し、加算回路75から渡される励振信号でこの合成フィルタを駆動することにより、影響信号を計算し、この影響信号を影響信号減算回路72に渡す。また、合成フィルタ回路85は、フィルタ処理で使用する過去の影響信号を入出力端子121を介して外部の更新バッファ回路38と授受する。入出力端子121は、加算回路75から励振信号を出力するため、及び合成フィルタ回路85とピッチ分析回路70で使用する内部信号を外部の更新バッファ回路38と授受するために使用する。
【0036】
図3を用いて、ADPCM方式を用いた場合の更新回路40(図3では更新回路92として示す)の動作を説明する。この更新回路92はADPCM方式の符号化と同様の処理を行なうものであり、ADPCM方式の符号化自体の詳細は例えば文献4を参照できる。入力端子51は、復号音声を受け取り、差分回路76に渡す。差分回路76は、適応予測回路105から渡された予測信号を、入力端子51から渡された復号音声から差し引き、得た差分信号を量子化回路25に渡す。量子化回路25は差分回路76から渡された信号をスカラー量子化し、得た量子化符号を逆量子化回路95とスケール適応回路110に渡す。逆量子化回路95は、スケール適応回路110から渡されたスケール係数を用いて、量子化回路25から渡された量子化符号から、逆量子化処理により量子化差分信号を復号し、加算回路100と適応予測回路105に出力する。スケール適応回路110は、量子化回路25から渡された量子化符号と速度制御回路115から渡されたスピード制御係数を用いてスケール係数を計算し、逆量子化回路95と速度制御回路115に渡す。スケール係数y(k)は、スピード制御係数al(k)と高速スケール係数yu(k)と低速スケール係数yl(k)を用いて前述した式(2)〜(4)で計算する。また、この回路110は、式(3)と(4)で計算したyu(k)とyl(k)を入出力端子121から出力し、外部の更新バッファ回路38に蓄積し、次に式(3)と(4)を計算する際に前サンプルの係数yu(k-1)とyl(k-1)として再び入出力端子121から入力して使用する。速度制御回路115は、前述した式(5)〜(8)を用いて、スケール適応回路110から渡されたスケール係数y(k)からスピード制御係数al(k)を計算する。また、この回路115は、式(6)〜(8)で計算した係数ap(k)とdms(k)とdml(k)を入出力端子121から出力し、外部の更新バッファ回路38に渡し、次に式(6)〜(8)を計算する際に前サンプルの係数ap(k-1)とdms(k-1)とdml(k-1)として再び入出力端子121から入力して使用する。適応予測回路105は、逆量子化回路95から渡された差分信号dq(k)と入出力端子121から渡された過去の予測信号se(k-i)、i=1,…,2と過去の差分信号dq(k-i), i=1,…,6を用いて前述した式(9)〜(11)により時刻kの予測信号se(k)を計算し、加算回路100に渡す。ここで、前述したようにa(i,k-1)とb(i,k-1)は予測係数であり、dq(k)に基づきa(i,k)とb(i,k)に更新する(式(12)〜(14))。また、この回路105は、逆量子化回路95から渡されたdq(k)、式(9)〜(11)で計算したse(k)、式(12)〜(14)で計算したa(i,k)とb(i,k)を、入出力端子121を介して外部の更新バッファ回路38に渡し、次に式(9)〜(14)を計算する際に前サンプルの値dq(k-1)とse(k-1)とa(i,k-1)とb(i,k-1)として使用する。加算回路100は、逆量子化回路95から渡された逆量子化信号と適応予測回路105から渡された予測信号を加算して得た復号音声を適応予測回路105と出力端子90に渡す。
【0037】
図4を用いて、帯域分割復号方式を用いた場合の更新回路40(図4では更新回路93として示す)の動作を説明する。この更新回路93はITU-T G.722等の帯域分割符号化と同様の処理で行なうものであり、ITU-T G.722等の帯域分割符号化の詳細に関しては、例えば文献5が参照できる。入力端子51は、復号音声を受け取り、帯域分割回路43に渡す。入力端子56は、ロス情報を受け取り、ロス情報がパケット消失を示す場合のみ、更新回路93に含まれる処理を行なう。帯域分割回路43は、高周波数帯域成分を有しダウンサンプリングされた高帯域信号と低周波数帯域成分を有する低帯域信号に分割する。また、高帯域信号と低帯域信号を各々高帯域バッファ更新回路42と低帯域バッファ更新回路41に渡す。高帯域バッファ更新回路42と低帯域バッファ更新回路41は、図2、図3に各々示した更新回路を用いることができる。低帯域バッファ更新回路41は、帯域分割回路43から渡された低帯域信号を符号化する。その際内部信号を、入出力端子121を介して外部の更新バッファ回路38と授受する。高帯域バッファ更新回路42は、帯域分割回路43から渡された高帯域信号を符号化する。その際内部信号を、入出力端子121を介して外部の更新バッファ回路38と授受する。また、帯域分割復号方式を用いた場合、即ち、図1の復号回路30として図12の復号回路を用い、更新回路40として図4の更新回路を用いた場合、図1の復号回路30から図1の更新回路40に復号信号を渡すのではなく、図12の低帯域復号回路66で計算された低域復号信号を直接図4の低帯域バッファ更新回路41に渡し、図12の高帯域復号回路67で計算された高域復号信号を直接図4の高帯域バッファ更新回路42に渡すこともできる。これにより、図4の帯域分割回路43を除去でき、演算量を低減できる。
【0038】
図5を用いて、本発明に基づく第2の復号装置の構成を説明する。この実施例が図9の従来の復号装置と異なるのは、従来方式の復号回路30が復号回路33に置き換えられた点とロス計数回路20が付加された点のみである。従って、これらと関係する動作のみを説明する。入力端子10は、ロス情報を復号回路33以外にロス計数回路20にも渡す。ロス計数回路20は、入力端子10から渡されたロス情報を用いてロスの連続回数あるいは時間長を計測し、計測結果を復号回路33に渡す。復号回路33は、従来方式と異なり、入力端子10から渡されるロス情報に加え、ロス計数回路20から渡される計測結果に従って、入力端子15から渡されるパケットから音声を復号する。具体的には、ロス計数回路20の計測結果が予め定めた時間より長かった場合、その後に到着したパケットから復号を行なう際に内部信号を変更する。
【0039】
次に復号回路33の実施例を図6と図7を用いて説明する。まず、図6を用いて、CELP方式を用いた場合の復号回路33(図6では復号回路200として示す)の動作を説明する。図10を用いて説明した従来のCELP方式による復号回路203と異なるのは、音源分析回路65とピッチ予測回路68と合成フィルタ回路88が各々音源回路64とピッチ予測回路69と合成フィルタ回路85に代わった点、及びロス回数の計測結果を受ける入力端子60が追加された点である。従って、これらと関係する動作のみを説明する。入力端子60は、計測結果を受け取り、音源回路64とピッチ予測回路69と合成フィルタ回路85に渡す。音源回路64が従来方式の音源分析回路65と異なるのは、入力端子60から渡された計測結果が予め定めた回数あるいは時間長を超えていた場合に、音源コードベクトルのゲインを減衰させて音源信号を生成する点である。減衰量としては、復号音声が不連続にならないように例えば3dB程度を用いる。また、ピッチ予測回路69が従来のピッチ予測回路68と異なるのは、入力端子60から渡された計測結果が予め定めた回数あるいは時間長を超えていた場合に、適応コードベクトルのゲインを低減させてピッチ信号を生成する点である。減衰量としては、復号音声が不連続にならないように例えば3dB程度を用いる。
【0040】
更に、合成フィルタ回路85が従来の合成フィルタ回路88と異なるのは、入力端子60から渡された計測結果が予め定めた回数あるいは時間長を超えていた場合に、合成フィルタのLP係数にスペクトル特性をより平らにする処理を行なってからフィルタリングを行なう点である。スペクトル特性の平坦化方法として、例えば、LP係数a(i)にβを乗算することによりスペクトルの山を低減する方法が使用できる。ここでβ<1である。この処理により、過去のLP係数が有するスペクトルの山のために生じる発振音などの不必要な音を低減できる。
【0041】
次に、図7を用いて、ADPCM方式を用いた場合の復号回路33(図7では復号回路201として示す)の動作を説明する。図11を用いて説明した従来のADPCM方式による復号回路204と異なるのは、スケール適応回路110と速度制御回路115と適応予測回路105が各々スケール適応回路111と速度制御回路116と適応予測回路106に代わった点、及びロス回数の計測結果を受ける入力端子60が追加された点である。従って、これらと関係する動作のみを説明する。入力端子60は、計測結果を受け取り、スケール適応回路111と速度制御回路116と適応予測回路106に渡す。スケール適応回路111が従来のスケール適応回路110と異なるのは、入力端子60から渡された計測結果が予め定めた回数あるいは時間長を超えていた場合に、予め定めた区間(例えば先頭の5msec)で前述した式(3)と(4)の右辺の係数2-5や2-6を少し大きくして計算する点である。これらの値を大きくすると、式(3)と(4)の更新でyu(k)とyl(k)が過去から受ける影響を少なくできるため、パケット消失から受ける影響を低減できる。過去の影響は特定の短い時間この処理を行なうことで十分に低減することができる。速度制御回路116が従来の速度制御回路115と異なるのは、入力端子60から渡された計測結果が予め定めた回数あるいは時間長を超えていた場合に、予め定めた区間(例えば先頭の5msec)で前述した式(7)と(8)の右辺の係数2-5や2-7を少し大きくして計算する点である。これらの値を大きくすると、式(7)と(8)の更新でdms(k)とdml(k)が過去から受ける影響を少なくできるため、パケット消失から受ける影響を低減できる。適応予測回路106が従来の適応予測回路105と異なるのは、入力端子60から渡された計測結果が予め定めた回路あるいは時間長を越えていた場合に、予め定めた区間(例えば先頭の5msec)で式(12)〜(14)の右辺各々の係数2-8と2-8と2-7を少し大きくして計算する点である。これらの値を大きくすると、式(12)と(14)の更新でb(i,k)とa(i,k)が過去から受ける影響を少なくできるため、パケット消失から受ける影響を低減できる。スケール適応回路111と速度制御回路116と適応予測回路106で行なっている、係数を大きくする処理は、処理の簡単化のために何れか一つにすることも可能であるが、効果は低減する。
【0042】
最後に、図8を用いて、帯域分割復号方式を用いた場合の復号回路33の動作を説明する。図12を用いて説明した従来の帯域分割方式による復号回路と異なるのは、低帯域復号回路66と高帯域復号回路67が各々低帯域復号回路81と高帯域復号回路82に代わった点、及びロス回数の計測結果を受け入れる入力端子60が追加された点である。従って、これらと関係する動作のみを説明する。入力端子60は、計測結果を受け取り、低帯域復号回路81と高帯域復号回路82に渡す。低帯域復号回路81が従来方式の低帯域復号回路66と異なるのは、入力端子60から渡される計測結果に応じて内部信号の制御を行なう点である。高帯域復号回路82が従来方式の高帯域復号回路67と異なるのも同じ点である。ここで、低帯域復号回路81と高帯域復号回路82として、図6や図7で説明した復号回路を用いることができる。
【0043】
尚、本発明の第2の復号装置において、連続したパケットロスの時間長を計測する際、二つのパケットロスが生じている区間の間の、パケットを受け取っている区間の時間長が予め定めた長さ(例えば10msecやパケット1個に対応する時間長)以下の場合は、二つのパケットロス区間は連続している区間と見なすことも可能である。パケットロスが短い周期(例えば1パケット毎)で生じる場合、連続している区間と見なさないと短い周期で内部信号を変更することでその部分が不連続な感じの復号音声になることがあるが、連続している区間と見なすことでこれを回避できる。
【0044】
【発明の効果】
以上説明したように本発明によれば、パケットロス発生で隠蔽処理した後のパケットの復号で従来生じた異常に大きい振幅の発生を低減でき、音質劣化を防止することができる効果がある。その理由は、符号化処理と近似した処理で隠蔽音声によって内部信号を更新し、またはパケットから復号を行なう最初の復号音声の振幅が大きな値を取らないように内部信号に制限を加えることにより、符号化処理と復号処理との間で生じる内部信号の違いが低減されるためである。
【図面の簡単な説明】
【図1】本発明に基づく第1の音声復号装置の構成例を示すブロック図である。
【図2】本発明に基づく第1の音声復号装置にCELP方式を適用した場合の更新回路40の構成例を示すブロック図である。
【図3】本発明に基づく第1の音声復号装置にADPCM方式を適用した場合の更新回路40の構成例を示すブロック図である。
【図4】本発明に基づく第1の音声復号装置に帯域分割復号方式を適用した場合の更新回路40の構成例を示すブロック図である。
【図5】本発明に基づく第2の音声復号装置の構成例を示すブロック図である。
【図6】本発明に基づく第2の音声復号装置にCELP方式を適用した場合の復号回路の構成例を示すブロック図である。
【図7】本発明に基づく第2の音声復号装置にCELP方式を適用した場合の復号回路の構成例を示すブロック図である。
【図8】本発明に基づく第2の音声復号装置に帯域分割方式を適用した場合の復号回路の構成例を示すブロック図である。
【図9】従来方式に基づく音声復号装置の構成例を示すブロック図である。
【図10】従来方式の音声復号装置にCELP方式を適用した場合の復号回路の構成例を示すブロック図である。
【図11】従来方式の音声復号装置にADPCM方式を適用した場合の復号回路の構成例を示すブロック図である。
【図12】従来方式の音声復号装置に帯域分割方式を適用した場合の復号回路の構成例を示すブロック図である。
【符号の説明】
10、55、56 ロス情報入力端子
15、50 パケット入力端子
20 ロス計数回路
25 量子化回路
30、33、200、201、203、204 復号回路
35 バッファ回路
38 更新バッファ回路
40、91、92、93 更新回路
41 低帯域バッファ更新回路
42 高帯域バッファ更新回路
43 帯域分割回路
45、90 音声出力端子
51 復号音声入力端子
60 計数結果入力端子
64 音源回路
65 音源分析回路
68、69 ピッチ予測回路
70 ピッチ分析回路
71 LP回路
72 影響信号減算回路
75、100 加算回路
80、84、120 内部信号入出力端子
81、66 低帯域復号回路
82、67 高帯域復号回路
83 帯域加算回路
85、88 合成フィルタ回路
95、96 逆量子化回路
76 差分回路
105、106 適応予測回路
110、111 スケール適応回路
115、116 速度制御回路
121 信号入出力端子

Claims (7)

  1. 到着したパケットから音声の復号を行なう手段と、前記復号で生成され次パケットの復号で用いられる内部信号を蓄積する手段と、不到着のパケットに対応する隠蔽音声を過去に受信したパケットから生成する手段とを有する音声復号装置において、前記隠蔽音声を音声符号化装置と同様に符号化して得た内部信号で前記蓄積された内部信号を更新する手段を有することを特徴とする音声復号装置。
  2. 送信側の音声符号化装置において所定区間毎のブロック単位で符号化された音声フレームデータを少なくとも1個含むパケットを順次に受信し、受信したパケットに付加されたタイムスタンプで特定されるパケットの順番に音声フレームデータを復号すると共に前記復号で生成され次音声フレームデータの復号で用いられる内部信号をバッファに蓄積し、且つ、不到着のパケットに対応する隠蔽音声を前記バッファに蓄積された内部信号に基づいて生成して出力する復号回路と、前記復号回路で生成された前記隠蔽音声を前記音声符号化装置と同様に符号化して得た内部信号で前記バッファの内部信号を更新する更新回路とを含む音声復号装置。
  3. CELP方式による音声復号装置であって、前記内部信号が適応コードブックとして蓄積された励振信号およびLP合成フィルタの処理で使用する過去の復号音声を含むことを特徴とする請求項1または2記載の音声復号装置。
  4. ADPCM方式による音声復号装置であって、前記内部信号が予測処理で用いる過去の出力信号及び振幅や変化スピードを制御する係数を含むことを特徴とする請求項1または2記載の音声復号装置。
  5. 到着したパケットから音声の復号を行なうステップと、前記復号で生成され次パケットの復号で用いられる内部信号を蓄積するステップと、不到着のパケットに対応する隠蔽音声を過去に受信したパケットから生成するステップと、前記隠蔽音声を音声符号化装置と同様に符号化して得た内部信号で前記蓄積された内部信号を更新するステップとを有することを特徴とする音声復号方法。
  6. CELP方式による音声復号方法であって、前記内部信号が適応コードブックとして蓄積された励振信号およびLP合成フィルタの処理で使用する過去の復号音声を含むことを特徴とする請求項記載の音声復号方法。
  7. ADPCM方式による音声復号方法であって、前記内部信号が予測処理で用いる過去の出力信号及び振幅や変化スピードを制御する係数を含むことを特徴とする請求項記載の音声復号方法。
JP2002117187A 2002-04-19 2002-04-19 音声復号装置及び音声復号方法 Expired - Fee Related JP4215448B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2002117187A JP4215448B2 (ja) 2002-04-19 2002-04-19 音声復号装置及び音声復号方法
US10/418,202 US7272554B2 (en) 2002-04-19 2003-04-18 Reduction of speech quality degradation caused by packet loss

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002117187A JP4215448B2 (ja) 2002-04-19 2002-04-19 音声復号装置及び音声復号方法

Publications (2)

Publication Number Publication Date
JP2003316391A JP2003316391A (ja) 2003-11-07
JP4215448B2 true JP4215448B2 (ja) 2009-01-28

Family

ID=29207814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002117187A Expired - Fee Related JP4215448B2 (ja) 2002-04-19 2002-04-19 音声復号装置及び音声復号方法

Country Status (2)

Country Link
US (1) US7272554B2 (ja)
JP (1) JP4215448B2 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4380174B2 (ja) * 2003-02-27 2009-12-09 沖電気工業株式会社 帯域補正装置
DE102004007185B3 (de) * 2004-02-13 2005-06-30 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Prädiktives Codierungsschema
CN1906663B (zh) * 2004-05-10 2010-06-02 日本电信电话株式会社 声学信号分组通信方法、传送方法、接收方法、及其设备和程序
JP4398323B2 (ja) * 2004-08-09 2010-01-13 ユニデン株式会社 デジタル無線通信装置
WO2008022207A2 (en) * 2006-08-15 2008-02-21 Broadcom Corporation Time-warping of decoded audio signal after packet loss
KR20080075050A (ko) * 2007-02-10 2008-08-14 삼성전자주식회사 오류 프레임의 파라미터 갱신 방법 및 장치
US20100324911A1 (en) * 2008-04-07 2010-12-23 Broadcom Corporation Cvsd decoder state update after packet loss
US8706479B2 (en) * 2008-11-14 2014-04-22 Broadcom Corporation Packet loss concealment for sub-band codecs
TWI393086B (zh) * 2009-03-04 2013-04-11 Himax Media Solutions Inc 紅外線信號解碼系統以及紅外線信號解碼方法
EP3125239B1 (en) * 2013-02-05 2019-07-17 Telefonaktiebolaget LM Ericsson (publ) Method and appartus for controlling audio frame loss concealment
CN107369455B (zh) 2014-03-21 2020-12-15 华为技术有限公司 语音频码流的解码方法及装置
WO2017129270A1 (en) * 2016-01-29 2017-08-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for improving a transition from a concealed audio signal portion to a succeeding audio signal portion of an audio signal
JP6374936B2 (ja) * 2016-02-25 2018-08-15 パナソニック株式会社 音声認識方法、音声認識装置及びプログラム
US10395644B2 (en) * 2016-02-25 2019-08-27 Panasonic Corporation Speech recognition method, speech recognition apparatus, and non-transitory computer-readable recording medium storing a program
ES2922155T3 (es) * 2017-06-19 2022-09-09 Rtx As Codificación y decodificación de señales de audio
CN112669858A (zh) 2019-10-14 2021-04-16 上海华为技术有限公司 一种数据处理方法及相关装置
CN112087416B (zh) * 2020-03-16 2021-08-06 唐山学院 一种双向隐蔽信道的通信方法及***

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2861889B2 (ja) * 1995-10-18 1999-02-24 日本電気株式会社 音声パケット伝送システム
US6973425B1 (en) * 1999-04-19 2005-12-06 At&T Corp. Method and apparatus for performing packet loss or Frame Erasure Concealment
US6952668B1 (en) * 1999-04-19 2005-10-04 At&T Corp. Method and apparatus for performing packet loss or frame erasure concealment

Also Published As

Publication number Publication date
US7272554B2 (en) 2007-09-18
US20030200083A1 (en) 2003-10-23
JP2003316391A (ja) 2003-11-07

Similar Documents

Publication Publication Date Title
JP4215448B2 (ja) 音声復号装置及び音声復号方法
US7016831B2 (en) Voice code conversion apparatus
US8688437B2 (en) Packet loss concealment for speech coding
US20090248404A1 (en) Lost frame compensating method, audio encoding apparatus and audio decoding apparatus
JPH07311596A (ja) 線形予測係数信号生成方法
JPH07311598A (ja) 線形予測係数信号生成方法
JPH07311597A (ja) 音声信号合成方法
EP1241664B1 (en) Voice encoding/decoding apparatus with packet error resistance and method thereof
US8055499B2 (en) Transmitter and receiver for speech coding and decoding by using additional bit allocation method
US6052659A (en) Nonlinear filter for noise suppression in linear prediction speech processing devices
RU2437170C2 (ru) Ослабление чрезмерной тональности, в частности, для генерирования возбуждения в декодере при отсутствии информации
JPH07325594A (ja) 復号器において使用されるパラメータ信号アダプタの動作方法
EP1301018A1 (en) Apparatus and method for modifying a digital signal in the coded domain
CA2293165A1 (en) Method for transmitting data in wireless speech channels
JP4414705B2 (ja) 音源信号符号化装置、及び音源信号符号化方法
JP2002229599A (ja) 音声符号列の変換装置および変換方法
US7630889B2 (en) Code conversion method and device
JP3496618B2 (ja) 複数レートで動作する無音声符号化を含む音声符号化・復号装置及び方法
KR100341398B1 (ko) 씨이엘피형 보코더의 코드북 검색 방법
JP3212123B2 (ja) 音声符号化装置
KR20050027272A (ko) 스피치 프레임들의 에러 경감을 위한 스피치 통신 유닛 및방법
JPH034300A (ja) 音声符号化復号化方式
JPH0343800A (ja) 音声信号符号化復合化方式
KR20020071138A (ko) Celp 보코더의 처리 지연시간을 감소하기 위한 인코딩및 디코딩 블럭 구조 및 그 구조를 이용한 인코딩 및디코딩 방법
JPH08171399A (ja) 音声の線形予測パラメータ符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081014

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081104

R150 Certificate of patent or registration of utility model

Ref document number: 4215448

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111114

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111114

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121114

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121114

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131114

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees