JPH0265310A - 適応フィルタの収束用ハイブリッド確率勾配 - Google Patents

適応フィルタの収束用ハイブリッド確率勾配

Info

Publication number
JPH0265310A
JPH0265310A JP14552389A JP14552389A JPH0265310A JP H0265310 A JPH0265310 A JP H0265310A JP 14552389 A JP14552389 A JP 14552389A JP 14552389 A JP14552389 A JP 14552389A JP H0265310 A JPH0265310 A JP H0265310A
Authority
JP
Japan
Prior art keywords
adaptive filter
algorithm
impulse response
prediction signal
convergence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP14552389A
Other languages
English (en)
Inventor
Roy G Batruni
ロイ ジイ.バトルーニ
Howard A Wilson
ハワード エイ.ウィルソン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Semiconductor Corp
Original Assignee
National Semiconductor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Semiconductor Corp filed Critical National Semiconductor Corp
Publication of JPH0265310A publication Critical patent/JPH0265310A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03HIMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
    • H03H21/00Adaptive networks
    • H03H21/0012Digital adaptive filters
    • H03H21/0043Adaptive algorithms

Landscapes

  • Filters That Use Time-Delay Elements (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 14分見 本発明はテレコミュニケーションシステムに関するもの
であって、更に詳細には、高速で且つ一貫して収束性で
あるハイブリッド確率勾配(stochastic g
radient)アルゴリズムに到達する為に最小平均
二乗アルゴリズムと符号アルゴリズムの特徴を結合した
適応フィルタ動作係数アップデート技術に関するもので
ある。
災米伎秀 一般的な2つの適応フィルタ動作係数アップデートアル
ゴリズムは、最小平均二乗(LMS)アルゴリズム及び
符号アルゴリズム(S A)である。
LMS方法は、フィルタを収束させるのに一貫して成功
するものではない。然し乍ら、それが成功裡に動作する
場合には、高速である。一方、SA六方法、遅いが、常
に収束に成功する。
第1図に示した如き典型的な適応フィルタ動作適用にお
いては、チャンネルを未知のインパルス応答Hで駆動し
、 H′= (hllb、 、、、 h、)       
(1)尚、ダッシュ記号は転置を示しており、既知の入
力信号S (n)で駆動する。
S’(n) =(s(n) 5(n−1,) 、、、5
(n−+m))  (2)時rJJnにおける該チャン
ネルの出力は、以下の畳み込み和によって与えられる。
チャンネル出力を適応的に追従する場合、適応フィルタ
は以下の出力x (n)を発生する。
x(n) =S’(n) A(n)        (
4)尚。
A’(n) =(aa(n) a0(n)a1(n) 
、、、 a0(n)a1(n))  (5)は時間nに
おける適応フィルタインパルス応答である。
時間変数であるので、適応フィルタ係数は以下の如くに
してアップデートされる。
A(n+1) =^(n) ” g(n) fz(e(
n)) f、(S(n))  (6)e(n) =y(
n) −x(n)            (7)であ
り、尚e (n)は予′fs誤差であり、 g (n)
は一定であるか又は時間変数のいずれかとすることの可
能な利得であり、且つfi(、)及びf2(、)は−膜
化した関数である。
適応フィルタ技術に執着すると、以下の条件が満足され
る場合に「収束」が達成されると言われる。
全てのnに対して、 A(n) = 11   (8)
全てのnに対して、e(n):0(9)実際には、上の
方程式(8)及び(9)は正確な等式ではない、むしろ
、 A (n)とHとの間に不整合があり、且つO<l
e (n)l<ρであり、尚、ρは小さく、即ち該アル
ゴリズムの実際的な限界である。
理論的文献において、最小平均二乗アルゴリズム及び符
号アルゴリズムの両方が広範な取扱を受けており且つ広
い実際的な適用を見出している。
第2図を参照すると、LMSアルゴリズムの可能な回路
実現態様を示しており、LMSアルゴリズム構成は以下
の如くに表すことが可能である。
A(n+1) = A(n)+にe(n) 5(n) 
   (10)尚、には一定の正の係数適応ステップ寸
法である。
保証された収束に対するKの選択は、3. Widro
%iet al、著のrLMS適応フィルタの静止的及
び非静止的学習特性(Stationary and 
NonstationaryLearning Cha
racteristics of the LMS A
daptiveFilter)J、  I E E E
プロシーディングズ、 Vol。
64、ρp、1151−1162.1976年8月の文
献に記載されている。
Kが上述したwidrov et al、の文献に記載
されている基準に従って選択される場合には、収束が保
証される。然し乍ら、実際のテレコミュニケーション適
用においては、エコー相殺又は等化が行われるチャンネ
ルHは未知である。従って、Kを先験的に決定すること
は不可能であり、且つ収束はいずれの任意のチャンネル
に関しても保証されていない、収束が起らない場合、そ
の結果は誤差の二乗u =E (a (n) ”)の予
定した値の最小であり、即ち、誤差偏差は最小とされる
。上の方程式(10)において使用される積e(n)S
(n)は。
誤差の二乗の予定した値の勾配のバイアスした推定値、
 w =d v/d A (n) 、である。
LMSアルゴリズムのデジタル実現態様において、収束
が開始すると、 e (n)は大であり且つKは典型的
にに=1/ (2”)に固定され、係数A (n)は2
4ビツト幅である(1符号ビット+23大きさビット)
、積p=Ke (n)はe (n)を右へ11個の位置
だけシフトさせることと等価であり、且つ、初期的には
、 e (n)が大であると、pは未だに平均で、I 
p l > 1/ (2z3)であり、従ってこのアッ
プデートはA (n)によって「見られるj。然し乍ら
、収束が進行し且つe(n)が所望により一層小さくな
ると、lpl<1/ (2”)であり、且つ係数A (
n)は最早アップデートされることはない。従って、収
束は最適ではない、何故ならば、 A (n)に対して
24ビツトを超えて使用することにより、収束は通り過
ぎてしまっており且つe (n)が更に減少されている
かも知れないからである6 LMSアルゴリズムは、又、5ethares at 
al。
著のrLMS適応フィルタにおけるパラメータドリフト
(Parameter Drift in LMS A
daptive Filters)J 、IEEE音響
、音声及び信号処理に関するトランズアクションズ、V
ol、ASSP−34No、4.1986年8月の文献
に記載されているパラメータドリフト特性を示しており
、且つ実施用のプロトタイプにおいて観察された。この
問題は、境界を有する定常入力の場合、出力x (n)
及び誤差e(n)は、夫々、境界を有し且つほぼゼロの
ままであり、一方パラメータA (n)は非常にゆっく
りとHから遠ざかってドリフトする。
第3図を参照すると、符号アルゴリズムの可能な回路実
施例を示しており、該符号アルゴリズム構成は以下の如
くに表すことが可能である。
A(n+1) = A(n) + L sign(e(
n)) 5(n)   (11)尚、Lは一定の正のス
テップ寸法であり、通常係数A (n)における最小桁
ビットと等しい、収束は、A、 Gersho著の「二
進補強を有する適応フィルタ動作(Adaptive 
Filtering with Binary Rei
nforcement)J 、  I E E E情報
理論に関するトランズアクションズ、Vol、 IT−
30,No、 2. 1984年3月の文献に記載され
ている如く、任意の正のLに対して達成される。
上述したLMS技術と同一の所望の残留誤差に対して、
符号アルゴリズムに対する収束時間は、Gershによ
って記載され且つT、A、C,M、 C1aasen及
びW、F、G、 Mecklenbrauker著の「
適応FIRデジタルフィルタ用の2つのアルゴリズムの
収束の比較(Comparison of the C
onvergence of Two A11H。
rithms  for  Adaptive  FI
RDigital  Filters)J  。
IEEE回路及びシステムに関するトランズアクション
ズ、Vol、 CAS−28、No、 6.1981年
6月。
の文献に記載される如くに、LMSアルゴリズムよりも
常に一層長い、符号アルゴリズムの実施化はLMSアル
ゴリズムの実施化よりもf[I5 jlLである。
何故ならば、LMSにおけるp=Ke (n)は符号ア
ルゴリズムにおいては+L又は−Lになるからである。
収束が達成されると、符号アルゴリズムは、誤差の絶対
値の予測値を最小とする、即ちE (l e (n) 
 l)。収束の過程において且つそれが達成された後に
、デジタル実施化において、係数ベクトルA (n)は
、常にアップデート用増分をr見」る、何故ならば、A
 (n)の全ての係数に対して、符号(e (n) )
及び対応する5(n−j)に依存して、最小桁ビットが
加算されるか又は減算されるからである。
符号アルゴリズムにおいてはパラメータドリフトは何等
期察されていない、理論的な理由は未知であるが、誤差
信号の厳しい制限が、定常収束の安定性の為に基本的で
あるバイアスされない推定値であるw=dv/dA(n
)を与えるものと考えられる。
目   的 本発明は1以上の点に鑑みなされたものであって、上述
した如き従来技術の欠点を解消し、適応フィルタインパ
ルス応答の係数をアップデー1−する方法及び装置を提
供することを目的とする。
盪−双 本発明は、適応フィルタインパルス応答A (n)の係
数a (n)をアップデートする技術を提供しており、 A’(n) =(aa(n) al(n) 、、、 a
0(n)a1(n))は時間nにおける適応フィルタイ
ンパルス応答である。インパルス応答は、通信チャンネ
ルの出力y(n)をトラッキング即ち追従する為に使用
され、尚、 答であり、 H’ ” (he hl−、h、) であり、ダッシュ記号は転置を示している。該チャンネ
ルは既知の入力信号S (n)で駆動され、S’(n)
 =(s(n) 5(n−1) 、、、 s(n−m)
)である。
本発明技術によれば、適応フィルタの出力X(n)は x(n) :S’(n)^(n) であり、最小平均二乗アルゴリズムに従ってチャンネル
出力y (n)と比較されてLMS誤差予測信号を展開
する。同時に、適応フィルタ出力X(n)は、符号アル
ゴリズムに従って、チャンネル出力y (n)と比較さ
れて、符号アルゴリズム誤差予測信号を展開させる。最
小平均二乗誤差信号が予め選択した値と等しいか又は大
きい場合には、適応フィルタインパルス応答の係数a 
(n)をアップデートする為に使用される。最小平均二
乗誤差信号が前記予め選択した値よりも小さいと、符号
アルゴリズム誤差信号が使用されて係数a(n)をアッ
プデートさせる。
大1−例一 以下、添付の図面を参考に、本発明の具体的実施の態様
について詳細に説明する。
上述した最小平均二乗(LMS)アルゴリズム及び符号
アルゴリズム(SA)の両方は、確率勾配(stoch
astic gradient)アルゴリズムの系列に
属している。これらのアルゴリズムは、誤差が平均して
負の勾配の態様で移動する様に適応フィルタ係数をアッ
プデートする。従って、確率的な態様において、誤差勾
配は上述した式(6)における−g (n) fl (
e (n) ) f2 (S (n) )によって評価
され且つ係数は反対の方向に変化される。
LMSとSAとを結合させることにより、別の確率勾配
アルゴリズムが形成され、それは本明細書においてはハ
イブリッド確率勾配(HSG)として識別される。何故
ならば、その勾配は各時間点において2つの可能な推定
方法の1つを持つからである。
記号〜は幕を表すものとし、且っMはA (n)におけ
る各係数における大きさビットの数に等しいものとする
。すると、時刻nにおいて、1)c=s i gn (
e (n) )2)d=Ke (n) 3) I d l≧2〜(−M)の場合、dは不変。
4) I d I <2〜(−M>の場合、d=c2−
(−M)、5)A (n+1)=A (n)+dS (
n)HSGの特性は以下の通りである。
最初に、e (n)が大きい場合には、HS Gは高速
の収束特性を有するLMSアルゴリズムとして動作する
。KがLMSに対して収束とはならないチャンネルが存
在する場合、H,SGはSAとして動作し、遅いが保証
された収束を持っている。
収束が進行し且つe (n)が小さくなると、上述した
ステップ(4)が支配的となる。即ち、HSGは自動的
にSAラフオーマットへイッチし且つアップデートした
ものは未だ係数によって見られる。定常状態においては
、HSGはSAに従って動作し、従ってそれはE (!
 e (n)  りを最小とさせる。
従って、HSGは、LMSの高速性及びSAの保証され
た収束性の両方を有している6定常状態においては、S
Aに従って動作するので、 w=dv/dA(n)のバ
イアスされない推定値は、LMSにおいて遭遇するパラ
メータドリフト問題を回避することを可能としている6 第4図はハイブリッドストカスティックグラディエント
(HS G)即ちハイブリッド確率勾配の回路実施例を
示している。
時間nにおける適応フィルタのインパルス応答A (n
)は、 A’(n) =(a0(n)a1(n) a0(n)a
1(n> 、、、 a0(n)a1(n))であって1
通信チャンネルの出力y (n)のトラッキングの為に
使用され、y(n)=Σh+ 5(n−j) =S’(
n) H7w= Q であり、Hは該チャンネルの未知のインパルス応答であ
り、 H’ = (h、 h工、、、 h、)である、記号ダ
ッシュは転置を示している。該チャンネルは既知の入力
信号S (n)で駆動され。
S’(n) =(s(n) 5(n−1) 、、、 s
(n−m))である。
本適応フィルタは出力x (n)を発生し、x(n)=
S″(n) A(n) である。
チャンネル出力y (n)は、LMSに従って適応フィ
ルタ出力x (n)と比較されて、第1誤差予測信号K
a (n)を展開させる。同時的に、チャンネル出力y
 (n)は、SAに従って適応フィルタ出力x (n)
と比較されて、第2誤差予測信号LSign (e (
n))を展開させる。LMS誤差信号が予め選択した値
と等しいか又は大きい場合、それは適応フィルタインパ
ルス応答の係数a  (n)をアップデートさせる為に
使用される8LMS誤差信号が予め選択した値よりも小
さい場合、SA誤差信号は係数a (n)をアップデー
トする為に使用される。
LMS及びSAの利点は互いに補完しあう。これらのア
ルゴリズムを1つに結合させることによって、本発明の
HSGが構成され、これらの利点は1つのアルゴリズム
において得ることが可能となる。従って、HSGは、高
速収束性、保証された収束性、定常状態安定性、及び絶
対値の意味における最適残留誤差等の全ての利点を提供
することが可能である。
以上1本発明の具体的実施の態様に付いて詳細に説明し
たが、本発明はこれら具体例にのみ限定されるべきもの
では無く、本発明の技術的範回を逸脱すること無しに種
々の変形が可能であることは勿論である。
【図面の簡単な説明】
第1図は適応フィルタの典型的な適用例を図示した簡単
な概略ブロック図、第2図は最小平均二乗アルゴリズム
を使用する適応フィルタの実施例を示した概略ブロック
図、第3図は符号アルゴリズムを使用する適応フィルタ
の実施例を示した概略ブロック図、第4図は本発明に基
づいて構成されたハイブリッド確率勾配アルゴリズムを
使用した適応フィルタの実施例を示した概略ブロック図
、である。

Claims (1)

  1. 【特許請求の範囲】 1、適応フィルタインパルス応答A(n)の係数a(n
    )をアップデートさせる方法において、A’(n)=(
    a_0(n)a_1(n)...a_m(n))を時間
    nにおける適応フィルタインパルス応答とし、該インパ
    ルス応答が通信チャンネルの出力y(n)を適応的に追
    従する為に使用可能であり、y(n)=▲数式、化学式
    、表等があります▼h_js(n−j)=S’(n)H
    尚、Hは該チャンネルの未知インパルス応答であり、 H’=(h_0h_1,,,h_m) であって、ダッシュの記号は転置を示しており、該チャ
    ンネルは既知入力信号S(n)で駆動され、S’(n)
    =(s(n)s(n−1)...s(n−m))であっ
    て、 (a)適応フィルタ出力x(n)を発生し、尚x(n)
    =S’(n)A(n)であり、 (b)第1収束アルゴリズムに従ってチャンネル出力y
    (n)と適応フィルタ出力x(n)とを比較して第1誤
    差予測信号を展開し、 (c)第2収束アルゴリズムに従ってチャンネル出力y
    (n)と適応フィルタ出力x(n)とを比較して第2誤
    差予測信号を展開し、 (d)予め確立した基準に基づいて前記第1誤差予測信
    号及び前記第2誤差予測信号の間で選択を行い、 (e)前記選択した誤差予測信号を使用して適応フィル
    タインパルス応答係数a(n)をアップデートする、 上記各ステップを有することを特徴とする方法。 2、特許請求の範囲第1項において、前記第1収束アル
    ゴリズムは最小平均二乗アルゴリズムであり且つ前記第
    2収束アルゴリズムは符号アルゴリズムであり、前記第
    1誤差予測信号は、もしもそれが予め選択した値と等し
    いか又は大きい場合に、選択されることを特徴とする方
    法。 3、適応フィルタインパルス応答A(n)の係数a(n
    )をアップデートする装置において、A’(n)=(a
    _0(n)a_1(n)...a_m(n))は時間n
    における適応フィルタインパルス応答であり、前記イン
    パルス応答は通信チャンネルの出力y(n)を適応的に
    追従する為に使用することが可能であり、 y(n)=▲数式、化学式、表等があります▼h_js
    (n−j)=S’(n)Hであり、Hは該チャンネルの
    未知インパルス応答であり、 H’=(h_0h_1...h_m) であり、ダッシュ記号は転置を示しており、前記チャン
    ネルは既知入力信号S(n)で駆動され、尚 S’(n)=(s(n)s(n−1)...s(n−m
    ))であって、 (a)出力x(n)=S’(n)A(n)を持った適応
    フィルタ、 (b)第1誤差予測信号を展開する為に第1収束アルゴ
    リズムに従って前記チャンネル出力y(n)と適応フィ
    ルタ出力x(n)とを比較する手段、(c)第2誤差予
    測信号を展開する為に第1収束アルゴリズムに従って前
    記チャンネル出力y(n)と適応フィルタ出力x(n)
    とを比較する第2手段、 (d)予め確立した基準に基づいて前記第1誤差予測信
    号と前記第2誤差予測信号をの間を選択する手段、 (e)適応フィルタインパルス応答係数a(n)をアッ
    プデートする為に前記選択し誤差予測信号を使用する手
    段、 を有することを特徴とする装置。 4、特許請求の範囲第3項において、前記第1収束アル
    ゴリズムは最小平均二乗アルゴリズムであり且つ前記第
    2収束アルゴリズムは符号アルゴリズムであり且つ前記
    第2誤差予測信号は、それが予め選択した値と等しいか
    又は大きい場合に、選択されることを特徴とする装置。
JP14552389A 1988-06-09 1989-06-09 適応フィルタの収束用ハイブリッド確率勾配 Pending JPH0265310A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US20461588A 1988-06-09 1988-06-09
US204,615 1988-06-09

Publications (1)

Publication Number Publication Date
JPH0265310A true JPH0265310A (ja) 1990-03-06

Family

ID=22758668

Family Applications (1)

Application Number Title Priority Date Filing Date
JP14552389A Pending JPH0265310A (ja) 1988-06-09 1989-06-09 適応フィルタの収束用ハイブリッド確率勾配

Country Status (4)

Country Link
EP (1) EP0345675B1 (ja)
JP (1) JPH0265310A (ja)
CA (1) CA1318366C (ja)
DE (1) DE68920362D1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5784304A (en) * 1995-02-01 1998-07-21 Nec Corporation Adaptively controlled filter
US6223194B1 (en) 1997-06-11 2001-04-24 Nec Corporation Adaptive filter, step size control method thereof, and record medium therefor

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SE464787B (sv) * 1989-10-04 1991-06-10 Ericsson Telefon Ab L M Foerfarande och anordning foer att utfoera en approximativ division
FR2670313A1 (fr) * 1990-12-11 1992-06-12 Thomson Csf Procede et dispositif pour l'evaluation de la periodicite et du voisement du signal de parole dans les vocodeurs a tres bas debit.
CA2076997C (en) * 1991-09-30 1996-12-10 James C. Baker Apparatus and method for adaptively filtering a time-varying signal using multiple filtering algorithms
GB2357938A (en) 1999-12-24 2001-07-04 Nokia Networks Oy Selecting one of a plurality of equalisation algorithms

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5784304A (en) * 1995-02-01 1998-07-21 Nec Corporation Adaptively controlled filter
US6223194B1 (en) 1997-06-11 2001-04-24 Nec Corporation Adaptive filter, step size control method thereof, and record medium therefor

Also Published As

Publication number Publication date
EP0345675A3 (en) 1990-11-14
EP0345675B1 (en) 1995-01-04
DE68920362D1 (de) 1995-02-16
EP0345675A2 (en) 1989-12-13
CA1318366C (en) 1993-05-25

Similar Documents

Publication Publication Date Title
Hadei A family of adaptive filter algorithms in noise cancellation for speech enhancement
Zhao et al. Adaptive reduced feedback FLNN filter for active control of nonlinear noise processes
US4989170A (en) Hybrid stochastic gradient for convergence of adaptive filter
JP2004514317A (ja) 適応フィルタ
Bhattacharjee et al. Nonlinear system identification using exact and approximate improved adaptive exponential functional link networks
Singh et al. A comparative study of adaptation algorithms for nonlinear system identification based on second order Volterra and bilinear polynomial filters
Zhao et al. Nonlinear adaptive filter-based simplified bilinear model for multichannel active control of nonlinear noise processes
JPH0265310A (ja) 適応フィルタの収束用ハイブリッド確率勾配
Zou et al. A robust M-estimate adaptive filter for impulse noise suppression
JPH08307211A (ja) パイプライン化適応無限インパルス応答(iir)フィルタ
Ng et al. Fast recursive least squares adaptive filtering by fast Fourier transform-based conjugate gradient iterations
Hassani et al. Set-membership fast-NLMS algorithm for acoustic echo cancellation
Stark et al. Recursive filters driven by chaotic signals
Contan et al. Error-dependent step-size control of adaptive normalized least-mean-square filters used for nonlinear acoustic echo cancellation
Rodríguez et al. Convex Combination of FXECAP–FXECLMS Algorithms for Active Noise Control
Rupp et al. Two variants of the FxLMS algorithm
Albu Efficient multichannel filtered-x affine projection algorithm for active noise control
Wang Incremental Second Order Volterra Filter Based on Maximum Correntropy Criteria over Distributed Network
van der Veen et al. Convergence aspects of step-parallel iteration of Runge-Kutta methods
Montazeri et al. A Novel Technique for Design and Stability Analysis of Adaptive IIR Filters in ANVC Aplications
Jimi et al. A new approach of performance analysis of adaptive filter algorithm in noise elimination
JP2002533970A (ja) 安定適応フィルタおよびその方法
Liu et al. Steady-state performance for the sign normalized algorithm based on hammerstein spline adaptive filtering
Rani et al. Design and implementation of adaptive filtering algorithm using NLMS having different targets
JPH0697771A (ja) 高速信号処理装置及び高速信号処理方法