JPH11145839A - ディジタルフィルタの量子化係数の決定方法及びその決定プログラムが記録されたコンピュータ上で読み出し可能な記録媒体 - Google Patents

ディジタルフィルタの量子化係数の決定方法及びその決定プログラムが記録されたコンピュータ上で読み出し可能な記録媒体

Info

Publication number
JPH11145839A
JPH11145839A JP30533597A JP30533597A JPH11145839A JP H11145839 A JPH11145839 A JP H11145839A JP 30533597 A JP30533597 A JP 30533597A JP 30533597 A JP30533597 A JP 30533597A JP H11145839 A JPH11145839 A JP H11145839A
Authority
JP
Japan
Prior art keywords
coefficient
digital filter
quantization coefficient
evaluation value
predetermined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP30533597A
Other languages
English (en)
Other versions
JP3235546B2 (ja
Inventor
Osamu Taniguchi
修 谷口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP30533597A priority Critical patent/JP3235546B2/ja
Publication of JPH11145839A publication Critical patent/JPH11145839A/ja
Application granted granted Critical
Publication of JP3235546B2 publication Critical patent/JP3235546B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 所定の係数語長でリップル幅の小さいディジ
タルフィルタの量子化係数の決定方法を提供する。 【解決手段】 ディジタルフィルタの量子化係数を所定
の係数語長にし、且つ、所定の周波数特性のディジタル
フィルタを得るための、ディジタルフィルタの量子化係
数の決定方法において、最適な量子化係数を得るため
に、得られたディジタルフィルタの周波数特性の、予め
定めたリップル幅を越えた量を評価すると共に、前記量
子化係数を変化させながら前記評価を繰り返し実行する
ことで、最適な量子化係数を決定することを特徴とする
ディジタルフィルタの量子化係数の決定方法。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ディジタルフィル
タの量子化係数の決定方法及びその決定プログラムが記
録されたコンピュータ上で読み出し可能な記録媒体に係
り、特に、目的仕様のリップル幅に対し、ペナルティ関
数と誤差関数とを組み合わせた評価関数を計算すること
により、量子化誤差によるディジタルフィルタ特性の劣
化を減少させ、所定の係数語長で且つ、所定のリップル
内に収めるようにしたディジタルフィルタの量子化係数
の決定方法に関する。
【0002】
【従来の技術】非巡回形ディジタルフィルタは、動作が
常に安定しており、完全な直線位相特性が可能であり、
A/Dコンバータ等に広く使用されている。一方で、急
峻なフィルタ特性を実現するためには、次数が高くなる
だけではなく、係数の量子化誤差を抑えるため係数語長
を大きくとる必要があり、ハードウェア規模が膨大にな
る欠点がある。このため、係数の量子化は、例えば、レ
メツ法で求めた係数を、希望のビット精度で四捨五入す
ることによって行われている。しかし、単に四捨五入し
たのみでは、理想特性からのずれが大きく目的のリップ
ル特性を得ることが困難となる。
【0003】例えば、83タップの非巡回形ディジタル
フィルタの係数をレメツ法で算出し、その周波数特性を
示したのが図2である。図に見られるように係数に量子
化の制限が無ければ例えば、仕様が±0.04dBのリ
ップル幅をとることも問題ではない。しかし、例えば1
0ビットの量子化を行うと、図4のように±0.04d
Bのリップル幅の仕様を満足しない。
【0004】このようにディジタルフィルタの係数の量
子化誤差による特性の劣化を防ぐため、例えば、特開昭
58−47322号公報に記載された技術が用いられ
る。この技術は、量子化された係数を用いたフィルタ
に、整数係数を用いたフィルタを従属接続し、前段のフ
ィルタの下位ビットを変化させて最小の誤差評価関数を
求めるものである。詳細に述べると、図6に見られるよ
うに第1のディジタルフィルタ11及び第2のディジタ
ルフィルタ12の従属接続によって構成されている。
【0005】第1のディジタルフィルタ11の伝達関数
をF(z)、第2のディジタルフィルタ12の伝達関数
をW(z)とする。第1のディジタルフィルタ11は従
来と同様に有限語長に量子化されている。しかし単に四
捨五入ではなく、後述する誤差評価関数を最小化するよ
うにして求められている。第2のフィルタ12は阻止帯
域に有限個の零点を持つ非巡回形ディジタルフィルタで
あり、その係数は整数である。例えば、図6のように構
成されていて、その伝達係数W(z)は W(z)=(1+2z-1+z-2)(1+z-1+z-2) で正確に与えられ誤差はない。この第1、第2のディジ
タルフィルタを縦列接続した図6に示すディジタルフィ
ルタの伝達係数H(z)は、 H(z)=F(z)・W(z) で与えられる。従って、第1のフィルタの係数を量子化
することによって生ずる伝達関数F(z)の誤差をΔF
(z)とすると、伝達関数H(z)の誤差ΔH(z)
は、 ΔH(z)=ΔF(z)・W(z) で与えられる。そこで、下記式によって与えられる誤差
評価関数
【0006】
【数1】
【0007】即ち、誤差関数εが最小となるように第1
のフィルタ11の各係数を設定し、第1、第2のディジ
タルフィルタ11、12を縦列接続することで所定の特
性のディジタルフィルタを実現している。しかし、上記
した従来のものは、誤差評価関数の結果を小さくするの
みであり、目的仕様のリップル幅に対しては何ら考慮し
ていないから、リップル幅の小さい特性のディジタルフ
ィルタが得られないという欠点があった。
【0008】
【発明が解決しようとする課題】本発明は、上記した従
来技術の欠点を改良し、別のフィルタ回路を追加するこ
となくリップル幅を小さく、しかも、係数語長が短い、
新規なディジタルフィルタの量子化係数の決定方法、及
びその決定プログラムが記録されたコンピュータ上で読
み出し可能な記録媒体を提供することを目的とする。
【0009】
【課題を解決するための手段】本発明は、上記した目的
を達成するため、基本的には、以下に記載されたような
技術構成を採用するものである。即ち、本発明に係わる
ディジタルフィルタの量子化係数の決定方法の第1の態
様としては、ディジタルフィルタの量子化係数を所定の
係数語長にし、且つ、所定の周波数特性のディジタルフ
ィルタを得るための、ディジタルフィルタの量子化係数
の決定方法において、最適な量子化係数を得るために、
得られたディジタルフィルタの周波数特性の、予め定め
たリップル幅を越えた量を評価すると共に、前記量子化
係数を変化させながら前記評価を繰り返し実行すること
で、最適な量子化係数を決定するものであり、第2の態
様としては、前記リップル幅を越えた量と、理想周波数
特性と前記得られたディジタルフィルタの周波数特性と
の差とを合計した評価値に基づき評価値を最小にするこ
とで、最適な量子化係数を決定するものであり、第3の
態様としては、前記評価値を得る際、前記リップル幅を
越えた量には重みづけを行い演算するものであり、第4
の態様としては、ディジタルフィルタの量子化係数の決
定方法において、(1)略理想的な量子化係数を求め、
所定の係数語長にするために四捨五入して量子化係数を
得る第1ステップと、(2)理想周波数特性と前記第1
ステップで得られた量子化係数によるフィルタの周波数
特性との第1の誤差を所定周波数にわたって求める第2
ステップと、(3)前記第1ステップで得られた量子化
係数によるフィルタの周波数特性のうち予め定めたリッ
プル幅を越えた部分である第2の誤差を所定の周波数に
わたって求める第3ステップと、(4)前記第1の誤差
と第2の誤差とを合計して量子化係数の最適値を評価す
るための評価値を求める第4ステップと、(5)前記第
4ステップで求められた評価値を、既に求められている
評価値とを比較し、その結果、前記第4ステップで求め
られた評価値が、既に求められている評価値よりよい場
合、その量子化係数を保存する第5ステップとからな
り、量子化係数の所定のビットを変化させながら前記第
1ステップから第5ステップまでを繰り返し実行し、最
適な量子化係数を決定するものであり、第5の態様とし
ては、前記第4ステップにおいて、評価値を求める際、
第2の誤差に重みづけをした後第1の誤差と合計して評
価値を求めるものである。
【0010】又、本発明に係わるディジタルフィルタの
量子化係数の決定プログラムがコンピュータ上で読み出
し可能な記録媒体は、第1の態様としては、シーケンサ
にコントロールされてRJMに格納された量子化係数と
RAMに格納された畳み込みの演算結果とを取り出して
所定の乗算を行い、この結果をアキュムレータに格納す
ると共に、畳み込みの結果を前記RAMに格納するハー
ドウェアを含み、ディジタルフィルタの量子化係数を所
定の係数語長にし、且つ、所定の周波数特性のディジタ
ルフィルタを得るための、ディジタルフィルタの量子化
係数の決定方法において、最適な量子化係数を得るため
に、得られたディジタルフィルタの周波数特性の、予め
定めたリップル幅を越えた量を評価すると共に前記量子
化係数を変化させながら前記評価を繰り返し実行するこ
とで、最適な量子化係数を決定するものであり、第2の
態様としては、前記リップル幅を越えた量と、理想周波
数特性と前記得られたディジタルフィルタの周波数特性
との差とを合計した評価値に基づき評価値を最小にする
ことで、最適な量子化係数を決定するものであり、第3
の態様としては、前記評価値を得る際、前記リップル幅
を越えた量には重みづけを行い演算するものであり、第
4の態様としては、シーケンサにコントロールされてR
OMに格納された量子化係数とRAMに格納された畳み
込みの演算結果とを取り出して所定の乗算を乗算器で行
い、この結果をアキュムレータに格納すると共に、畳み
込みの演算結果を前記RAMに格納するディジタルフィ
ルタの前記量子化係数の決定方法において、(1)略理
想的な量子化係数を求め、所定の係数語長にするために
四捨五入して量子化係数を得る第1ステップと、(2)
理想周波数特性を前記第1ステップで得られた量子化係
数によるフィルタの周波数特性との第1の誤差を所定周
波数にわたって求める第2ステップと、(3)前記第1
ステップで得られた量子化係数によるフィルタの周波数
特性のうち予め定めたリップル幅を越えた部分である第
2の誤差を所定の周波数にわたって求める第3ステップ
と、(4)前記第1の誤差と第2の誤差とを合計して量
子化係数の最適値を評価するための評価値を求める第4
ステップと、(5)前記第4ステップで求められた評価
値と、既に求められている評価値とを比較し、その結
果、前記第4ステップで求められた評価値が、既に求め
られている評価値よりよい場合、その量子化係数を保存
する第5ステップとからなり、量子化係数の所定のビッ
トを変化させながら前記第1ステップから第5ステップ
まで繰り返し実行し、最適な量子化係数を決定するもの
であり、第5の態様としては、前記第4ステップ1にお
いて、評価値を求める際、第2の誤差に重みづけをした
後、第1の誤差と合計して評価値を求めるものである。
【0011】
【発明の実施の形態】本発明に係るディジタルフィルタ
の量子化係数の決定方法は、(1)略理想的な量子化係
数を求め、所定の係数語長にするために四捨五入して量
子化係数を得る第1ステップと、(2)理想周波数特性
と前記第1ステップで得られた量子化係数によるフィル
タの周波数特性との第1の誤差を所定周波数にわたって
求める第2ステップと、(3)前記第1ステップで得ら
れた量子化係数によるフィルタの周波数特性のうち予め
定めたリップル幅を越えた部分である第2の誤差を所定
の周波数にわたって求める第3ステップと、(4)前記
第1の誤差と第2の誤差とを合計して量子化係数の最適
値を評価するための評価値を求める第4ステップと、
(5)前記第4ステップで求められた評価値と、既に求
められている評価値とを比較し、その結果、前記第4ス
テップで求められた評価値が、既に求められている評価
値よりよい場合、その量子化係数を保存する第5ステッ
プとからなり、量子化係数の所定のビットを変化させな
がら前記第1ステップから第5ステップまでを繰り返し
実行し、最適な量子化係数を決定するものであるから、
別のフィルタ回路を追加することなく、リップル幅の小
さいディジタルフィルタが得られる。
【0012】しかも、係数語長は所定のビット数で短い
から、回路規模は大きくならない。
【0013】
【実施例】以下に、本発明に係るディジタルフィルタの
量子化係数の決定方法の具体例を図面を参照しながら詳
細に説明する。図1乃至図5は本発明の具体例を示す図
であり、図には、ディジタルフィルタの量子化係数を所
定の係数語長にし、且つ、所定の周波数特性のディジタ
ルフィルタを得るための、ディジタルフィルタの量子化
係数の決定方法において、最適な量子化係数を得るため
に、得られたディジタルフィルタの周波数特性の、予め
定めたリップル幅を越えた量を評価する(S103,1
04,105)と共に、前記量子化係数を変化させなが
ら前記評価を繰り返し実行することで、最適な量子化係
数を決定することを特徴とするディジタルフィルタの量
子化係数の決定方法が示され、又、前記リップル幅を越
えた量と、理想周波数特性と前記得られたディジタルフ
ィルタの周波数特性との差とを合計した評価値に基づき
評価値を最小にする(ステップS104、S105)こ
とで、最適な量子化係数を決定するディジタルフィルタ
の量子化係数の決定方法が示され、更に、前記評価値を
得る際、前記リップル幅を越えた量には重みづけを行い
演算するディジタルフィルタの量子化係数の決定方法が
示されている。
【0014】図1を参照すると、本実施例は、非巡回形
ディジタルフィルタの係数をレメツ法で求め、その係数
を量子化して四捨五入する計算部S101と、誤差関数
E(f,{h})を算出する計算部S102と、ペナル
ティ関数P(f,{h})を算出する計算部S103
と、ペナルティ関数に重みWを乗じたものと誤差関数と
を加算したものを評価関数として計算する計算部S10
4と、この評価関数の値が既に得られている結果と比較
し小さければ、その状態と評価関数の値とを保持する保
持部S105と、すべての係数パターンが終了したかを
判別する判定部106と、各係数の下位ビットを1ビッ
トだけ修正させる修正部S107と、結果を出力する出
力部S108から構成される。
【0015】誤差関数E(f,{h})を算出する計算
部S102の計算手法について以下に詳細に述べる。図
3を参照すると、レメツ法で求めた係数を四捨五入して
得られた量子化係数での非巡回ディジタルフィルタの周
波数特性をR(f,{h})とし、fは周波数、hは量
子化された係数、{h}は量子化された係数の一つの組
み合わせを示す。またH(f)はリプル幅の無い理想の
周波数特性を示すとする。誤差関数(第1の誤差)を計
算するということは、
【0016】
【数2】
【0017】を計算するということである。ここでfe
ndはリプル帯域の周波数である。誤差関数は理想関数
H(f)から量子化された関数R(f,{h})の誤差
の全体の累積の量をあらわしたものである。次にペナル
ティ関数P(f,{h})(第2の誤差)を算出する計
算部S103について説明する。図4を参照すると、ペ
ナルティ関数は目的仕様の値とするリプル幅δからのず
れの量をリプル帯域内にわたって積分された量を意味す
る。即ち、図3の斜線部に対応する。ペナルティ関数は
以下のように示される。
【0018】
【数3】
【0019】ただし、関数G(f,{h})は
【0020】
【数4】
【0021】である。次に、評価関数Q({h})を算
出する計算部S104について説明する。評価関数はペ
ナルティ関数(2)式に重みWを乗じたものと誤差関数
(1)式を加算したものである。即ち、以下の(3)式
になる。
【0022】
【数5】
【0023】また、保持部S105は既に得られた過去
の評価関数の結果を保持し、現在の結果と比較し評価関
数が小さければ保持する部分である。また、判定部S1
06は予定した係数の組み合わせの全パターンが終了し
たかを判別する部分であり、本発明では組み合わせの大
きさを考慮して下位1ビットのみの変化の組み合わせと
した。また、修正部S107は量子化された係数のなか
で一つの係数に着目し、下位ビットのなかの一つのビッ
トを修正させる部分である。例えば、着目した係数が1
011011101の場合下位ビットの1つを変化させ
1011011100と修正することである。
【0024】次に、本発明を更に、具体的に説明する
と、まず、計算部S101において、非巡回形ディジタ
ルフィルタの係数をレメツ法で求め、その係数を所定の
係数語長で量子化して四捨五入を行う。この場合、量子
化される前の係数では図2に見られるように、リプル幅
は十分目的の仕様を満たしているが、係数が量子化され
ると図4に見られるように、特性が悪化し、目的の仕様
であるリプル幅±δを超えてしまう。次に、この状態で
の誤差関数を求める(S102)。この場合、(1)式
を使用して計算するが、実際は周波数特性の周波数の幅
δfを適当にとり図3で見られるように、量子化された
係数での非巡回ディジタルフィルタの周波数特性R
(f,{h})とリプル幅の無い理想の周波数特性を持
つH(f)との差をリプル帯域内で総和をとることにな
る。式にすると、
【0025】
【数6】
【0026】となる。ペナルティ関数を算出する計算部
(S103)についても、同様に計算を行い
【0027】
【数7】
【0028】となる。次に評価関数Q({h})を算出
する(S104)。次に、保持部(S105)で評価関
数の大きさの評価及び保持を行う。次に、評価関数の、
最小値を求めるためには修正部S107の量子化された
係数を修正する項ですべてのビットパターンについて係
数を修正させ、すべての係数のビットパターンに対しそ
れぞれ評価関数を算出して最小値を求めることが望まし
い。しかし、すべてのビットパターンについて行うと、
10ビットの係数で構成され、83タップのハーフバン
ド非巡回ディジタルフィルタの場合、102421=1.
65×1063であり非現実的である。
【0029】そこで、レメツ法を四捨五入することで量
子化した係数は、最適係数の組み合わせに対してそれほ
ど変化しなく、フィルタの全体の特性もそれほど変わら
ないと考え下位1ビットのみを変化させ、すべてのパタ
ーンについてシミュレーションを行うと、221=2.1
0×106 パターンであり実行にそれほど問題はない。
【0030】図5は本発明を適用するためのハードウェ
アを示し、ハードウェア1はシーケンサ2にコントロー
ルされて、ROM3に格納された量子化係数と、RAM
4に格納された畳み込みの演算結果とを取り出して所定
の乗算を乗算器5で行い、この結果をアキュムレータ6
に格納すると共に、畳み込みの演算結果をRAM4に格
納してディジタルフィルタを得るものである。
【0031】そして、上記ROM3の量子化係数を、
(1)略理想的な量子化係数を求め、所定の係数語長に
するために四捨五入して量子化係数を得る第1ステップ
S101と、(2)理想周波数特性と前記第1ステップ
で得られた量子化係数によるフィルタの周波数特性との
第1の誤差を所定周波数にわたって求める第2ステップ
S102と、(3)前記第1ステップで得られた量子化
係数によるフィルタの周波数特性のうち予め定めたリッ
プル幅を越えた部分である第2の誤差を所定の周波数に
わたって求める第3ステップS103と、(4)前記第
1の誤差と第2の誤差とを合計して量子化係数の最適値
を評価するための評価値を求める第4ステップS104
と、(5)前記第4ステップで求められた評価値と、既
に求められている評価値とを比較し、その結果、前記第
4ステップで求められた評価値が、既に求められている
評価値よりよい場合、その量子化係数を保存する第5ス
テップS105とを、量子化係数の所定のビットを変化
させながら(S107)、前記第1ステップから第5ス
テップまでを繰り返し実行し、最適な量子化係数を得
る。
【0032】なお上記ステップを記録したコンピュータ
上で読み出し可能な記録媒体にすることで、短時間で、
最適な量子化係数を得ることが出来るようになる。な
お、上記具体例では非巡回形ディジタルフィルタを例に
説明したが巡回形ディジタルフィルタ等あらゆるディジ
タルフィルタに適用出来る。
【0033】
【発明の効果】本発明に係るディジタルフィルタの量子
化係数の決定方法は上述のように構成したので、フィル
タ回路を追加することなく、リップル幅の小さいディジ
タルフィルタが得られる。しかも、係数語長は所定のビ
ット数で短いから、回路規模は大きくならない。
【図面の簡単な説明】
【図1】本発明の処理ステップを示す流れ図である。
【図2】量子化される前の係数による特性の一例を示す
グラフである。
【図3】誤差関数を説明するグラフである。
【図4】ペナルティ関数を説明するグラフである。
【図5】ハードウエアの構成を示す図である。
【図6】従来技術を示すブロック図である。
【図7】従来技術を示すブロック図である。
【符号の説明】
2 シーケンサ 3 ROM 4 RAM 5 乗算器 6 アキュムレータ S101 第1の工程 S102 第2の工程 S103 第3の工程 S104 第4の工程 S105 第5の工程

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 ディジタルフィルタの量子化係数を所定
    の係数語長にし、且つ、所定の周波数特性のディジタル
    フィルタを得るための、ディジタルフィルタの量子化係
    数の決定方法において、最適な量子化係数を得るため
    に、得られたディジタルフィルタの周波数特性の、予め
    定めたリップル幅を越えた量を評価すると共に前記量子
    化係数を変化させながら前記評価を繰り返し実行するこ
    とで、最適な量子化係数を決定することを特徴とするデ
    ィジタルフィルタの量子化係数の決定方法。
  2. 【請求項2】 前記リップル幅を越えた量と、理想周波
    数特性と前記得られたディジタルフィルタの周波数特性
    との差とを合計した評価値に基づきこの評価値を最小に
    することで、最適な量子化係数を決定することを特徴と
    する請求項1記載のディジタルフィルタの量子化係数の
    決定方法。
  3. 【請求項3】 前記評価値を得る際、前記リップル幅を
    越えた量には重みづけを行い演算することを特徴とする
    請求項1又は2記載のディジタルフィルタの量子化係数
    の決定方法。
  4. 【請求項4】 ディジタルフィルタの量子化係数の決定
    方法において、(1)略理想的な量子化係数を求め、所
    定の係数語長にするために四捨五入して量子化係数を得
    る第1ステップと、(2)理想周波数特性と前記第1ス
    テップで得られた量子化係数によるフィルタの周波数特
    性との第1の誤差を所定周波数にわたって求める第2ス
    テップと、(3)前記第1ステップで得られた量子化係
    数によるフィルタの周波数特性のうち予め定めたリップ
    ル幅を越えた部分である第2の誤差を所定の周波数にわ
    たって求める第3ステップと、(4)前記第1の誤差と
    第2の誤差とを合計して量子化係数の最適値を評価する
    ための評価値を求める第4ステップと、(5)前記第4
    ステップで求められた評価値と、既に求められている評
    価値とを比較し、その結果、前記第4ステップで求めら
    れた評価値が、既に求められている評価値よりよい場合
    その量子化係数を保存する第5ステップとからなり、 量子化係数の所定のビットを変化させながら前記第1ス
    テップから第5ステップまでを繰り返し実行し、最適な
    量子化係数を決定することを特徴とするディジタルフィ
    ルタの量子化係数の決定方法。
  5. 【請求項5】 前記第4ステップにおいて、評価値を求
    める際、第2の誤差に重みづけをした後第1の誤差と合
    計して評価値を求めることを特徴とする請求項4記載の
    ディジタルフィルタの量子化係数の決定方法。
  6. 【請求項6】 シーケンサにコントロールされてROM
    に格納された量子化係数と、RAMに格納された畳み込
    みの演算結果とを取り出して所定の乗算を行い、この結
    果をアキュムレータに格納すると共に、畳み込みの結果
    を前記RAMに格納するハードウェアを含み、ディジタ
    ルフィルタの量子化係数を所定の係数語長にし、且つ、
    所定の周波数特性のディジタルフィルタを得るための、
    ディジタルフィルタの量子化係数の決定方法において、
    最適な量子化係数を得るために、得られたディジタルフ
    ィルタの周波数特性の、予め定めたリップル幅を越えた
    量を評価すると共に前記量子化係数を変化させながら前
    記評価を繰り返し実行することで、最適な量子化係数を
    決定することを特徴とするディジタルフィルタの量子化
    係数の決定プログラムが記録されたコンピュータ上で読
    み出し可能な記録媒体。
  7. 【請求項7】 前記リップル幅を越えた量と、理想周波
    数特性と前記得られたディジタルフィルタの周波数特性
    との差とを合計した評価値に基づき評価値を最小にする
    ことで、最適な量子化係数を決定することを特徴とする
    請求項6記載のディジタルフィルタの量子化係数の決定
    プログラムが記録されたコンピュータ上で読み出し可能
    な記録媒体。
  8. 【請求項8】 前記評価値を得る際、前記リップル幅を
    越えた量には重みづけを行い演算することを特徴とする
    請求項6又は7記載のディジタルフィルタの量子化係数
    の決定プログラムが記載されたコンピュータ上で読み出
    し可能な記録媒体。
  9. 【請求項9】 シーケンサにコントロールされてROM
    に格納された量子化係数と、RAMに格納された畳み込
    みの演算結果とを取り出して所定の乗算を乗算器で行
    い、この結果をアキュムレータに格納すると共に、畳み
    込みの演算結果を前記RAMに格納するディジタルフィ
    ルタの前記量子化係数の決定方法において、(1)略理
    想的な量子化係数を求め、所定の係数語長にするために
    四捨五入して量子化係数を得る第1ステップと、(2)
    理想周波数特性と前記第1ステップで得られた量子化係
    数によるフィルタの周波数特性との第1の誤差を所定周
    波数にわたって求める第2ステップと、(3)前記第1
    ステップで得られた量子化係数によるフィルタの周波数
    特性のうち予め定めたリップル幅を越えた部分である第
    2の誤差を所定の周波数にわたって求める第3ステップ
    と、(4)前記第1の誤差と第2の誤差とを合計して量
    子化係数の最適値を評価するための評価値を求める第4
    ステップと、(5)前記第4ステップで求められた評価
    値と、既に求められている評価値とを比較し、その結
    果、前記第4ステップで求められた評価値が、既に求め
    られている評価値よりよい場合その量子化係数を保存す
    る第5ステップとからなり、 量子化係数の所定のビットを変化させながら前記第1ス
    テップから第5ステップまでを繰り返し実行し、最適な
    量子化係数を決定することを特徴とするディジタルフィ
    ルタの量子化係数の決定プログラムが記録されたコンピ
    ュータ上で読み出し可能な記録媒体。
  10. 【請求項10】 前記第4ステップにおいて、評価値を
    求める際、第2の誤差に重みづけをした後、第1の誤差
    と合計して評価値を求めることを特徴とする請求項9記
    載のディジタルフィルタの量子化係数の決定プログラム
    が記録されたコンピュータ上で読み出し可能な記録媒
    体。
JP30533597A 1997-11-07 1997-11-07 ディジタルフィルタの量子化係数の決定方法及びその決定プログラムが記録されたコンピュータ上で読み出し可能な記録媒体 Expired - Fee Related JP3235546B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP30533597A JP3235546B2 (ja) 1997-11-07 1997-11-07 ディジタルフィルタの量子化係数の決定方法及びその決定プログラムが記録されたコンピュータ上で読み出し可能な記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30533597A JP3235546B2 (ja) 1997-11-07 1997-11-07 ディジタルフィルタの量子化係数の決定方法及びその決定プログラムが記録されたコンピュータ上で読み出し可能な記録媒体

Publications (2)

Publication Number Publication Date
JPH11145839A true JPH11145839A (ja) 1999-05-28
JP3235546B2 JP3235546B2 (ja) 2001-12-04

Family

ID=17943884

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30533597A Expired - Fee Related JP3235546B2 (ja) 1997-11-07 1997-11-07 ディジタルフィルタの量子化係数の決定方法及びその決定プログラムが記録されたコンピュータ上で読み出し可能な記録媒体

Country Status (1)

Country Link
JP (1) JP3235546B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011517237A (ja) * 2008-04-10 2011-05-26 クゥアルコム・インコーポレイテッド ビデオ・コーディングにおける補間のための予測技法
JP2011523235A (ja) * 2008-01-08 2011-08-04 クゥアルコム・インコーポレイテッド 水平対称性および垂直対称性に基づくフィルタ係数のビデオ符号化
US9967590B2 (en) 2008-04-10 2018-05-08 Qualcomm Incorporated Rate-distortion defined interpolation for video coding based on fixed filter or adaptive filter

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011523235A (ja) * 2008-01-08 2011-08-04 クゥアルコム・インコーポレイテッド 水平対称性および垂直対称性に基づくフィルタ係数のビデオ符号化
US8638852B2 (en) 2008-01-08 2014-01-28 Qualcomm Incorporated Video coding of filter coefficients based on horizontal and vertical symmetry
JP2011517237A (ja) * 2008-04-10 2011-05-26 クゥアルコム・インコーポレイテッド ビデオ・コーディングにおける補間のための予測技法
US8831086B2 (en) 2008-04-10 2014-09-09 Qualcomm Incorporated Prediction techniques for interpolation in video coding
US9967590B2 (en) 2008-04-10 2018-05-08 Qualcomm Incorporated Rate-distortion defined interpolation for video coding based on fixed filter or adaptive filter
US10440388B2 (en) 2008-04-10 2019-10-08 Qualcomm Incorporated Rate-distortion defined interpolation for video coding based on fixed filter or adaptive filter
US11683519B2 (en) 2008-04-10 2023-06-20 Qualcomm Incorporated Rate-distortion defined interpolation for video coding based on fixed filter or adaptive filter

Also Published As

Publication number Publication date
JP3235546B2 (ja) 2001-12-04

Similar Documents

Publication Publication Date Title
US6606044B2 (en) Method and apparatus for generating a pulse width modulated signal
US7636747B2 (en) Digital low-pass filter
US9407236B2 (en) System and method for processing a signal with a filter employing FIR and IIR elements
US7876250B2 (en) Calibration circuit and method for A/D converter
EP1081863B1 (en) Delta-sigma modulator with two-step quantization, and method for using two-step quantization in delta-sigma modulation
US6967608B1 (en) Sigma-delta analog-to-digital converter (ADC) with truncation error cancellation in a multi-bit feedback digital-to-analog converter (DAC)
US7298310B2 (en) Continuous-time digital signal generation, transmission, storage and processing
US9094033B1 (en) Quantization noise-shaping device
JP2957183B2 (ja) 巡回型ディジタルフィルタ
US20040169596A1 (en) Higher order sigma-delta analog-to-digital converter based on finite impulse response filter
JP3235546B2 (ja) ディジタルフィルタの量子化係数の決定方法及びその決定プログラムが記録されたコンピュータ上で読み出し可能な記録媒体
US20060250287A1 (en) Digital filter and method of determining its coefficients
Krukowski et al. DSP system design: Complexity reduced IIR filter implementation for practical applications
FI74848C (fi) Kretsanordning foer taloeverfoering vid en abonnentlinje.
JPH0537381A (ja) ノイズシエーピング回路
Nerurkar et al. Low-power decimator design using approximated linear-phase N-band IIR filter
JP2733403B2 (ja) デシメーション用ディジタルフィルタ
JP3226660B2 (ja) ディジタルδς変調器
US6657572B2 (en) Digital noise-shaping filter with real coefficients and method for making the same
US7002997B2 (en) Interpolation filter structure
Sonika et al. Design and implementation of sigma–delta digital to analog converter
Medawar et al. Model order determination and segmentation of analog-digital converters integral non linearity
JPH03169124A (ja) オーバーサンプルa/d変換器
WO2023242108A1 (en) Amplitude limiting device and method for signal processing chain
JP2004289417A (ja) デジタルフィルタ

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees