JP2006511987A - Digital group delay compensator - Google Patents

Abstract

【課題】本発明はＤＳＯにおける最先端技術にある以下の問題を解決するためになされたものである。（１）多くの方式において、方式性能を最適にする最良の位相応答は、明確ではない。（２）異なる目的のための設計された方式は、最適性能の測定において異なる基準を有する。（３）オールパス・フィルターは所望の群遅延特性に応じて設計されるので、もし所望の群遅延特性が知られていなければ、そのようなフィルターをいかに設計するかは不明瞭である。（４）オールパス・フィルター設計に対する群遅延、仕様は、線形方式の周波数領域特性である。（たとえわずかな）非線形要素を含むシステムは、周波数領域と時間領域行動間の劣悪な相関性を示し得る。（５）方式群遅延特性は、正確な補正の提供に困難さを作るでこぼこであり得る（図５に示すように）。時間・領域性能のそれら自身に現れる補正においてどのように誤差になるか不明瞭である。
【解決手段】本発明のデジタル群遅延補正方式は、実装段階で用いられるデジタルオールパス・フィルターと、方式の全体性能が較正段階で測定され最適化されるそのような、実装段階で用いられるオールパス・フィルターに対する係数を発生する方式とから成るものである。The present invention has been made to solve the following problems in the state of the art in DSO. (1) In many systems, the best phase response that optimizes system performance is not clear. (2) Designed schemes for different purposes have different criteria in measuring optimal performance. (3) Since all-pass filters are designed according to the desired group delay characteristics, it is unclear how to design such a filter if the desired group delay characteristics are not known. (4) The group delay and specifications for the all-pass filter design are linear frequency domain characteristics. A system that includes (even a few) non-linear elements may exhibit poor correlation between frequency domain and time domain behavior. (5) The scheme group delay characteristics can be bumpy (as shown in FIG. 5), making it difficult to provide accurate correction. It is unclear how errors in corrections appearing in time / domain performance themselves.
The digital group delay correction scheme of the present invention includes a digital all-pass filter used in the implementation stage and an all-pass filter used in the implementation stage, such that the overall performance of the scheme is measured and optimized in the calibration stage. And a method for generating coefficients for the filter.

Description

本願は、２００２年１０月７日付申請の米国仮特許出願６０／４１６，７０５の便益を主張し、その全ての内容は、ここに、参照により取り入れられている。
この発明は、サンプル値データ・システムに関し、システムは少なくともアナログ入力信号から成るサブ・システム、いくかのアナログ・ハードウェア、アナログーデジタル変換器（ＡＤＣ）、デジタル信号処理（ＤＳＰ）のような処理要素及びデジタル形式の処理出力信号から成る。 This application claims the benefit of US Provisional Patent Application 60 / 416,705, filed Oct. 7, 2002, the entire contents of which are hereby incorporated by reference.
The present invention relates to a sampled data system, which is a subsystem comprising at least an analog input signal, some analog hardware, an analog-to-digital converter (ADC), a process such as digital signal processing (DSP). Consists of processed output signals in element and digital form.

この発明は、特に位相特性が副最適であるそのようなシステムに関する。振幅応答仕様がしばしば明確に表記されるが位相仕様はそうではないので、位相は、特別な興味である。振幅応答仕様は、しばしば直接周波数領域内で作られる。言い換えれば、仕様は、特別な周波数での所望振幅応答の特別な表記である。振幅応答を補正する設計されたフィルターは、周波数領域で、最も頻繁に指定され、設計され、そして評価される。しかしながら、これは位相には必ずしもそうではない。   The invention relates in particular to such systems where the phase characteristics are suboptimal. Phase is of special interest because the amplitude response specification is often clearly expressed, but the phase specification is not. Amplitude response specifications are often made directly in the frequency domain. In other words, the specification is a special notation of the desired amplitude response at a particular frequency. Designed filters that correct the amplitude response are most often specified, designed, and evaluated in the frequency domain. However, this is not necessarily the case for phase.

一般的に言えば、位相応答に対する要求は、線形であることである。これは、群遅延であり、位相を見る他の方法で、次の式で定義される。

（１）式
ここで、φは位相である。群遅延は、システムを通過する時周波数コンポーネントが経験する時間遅れである。線形、負位相は、群遅延が全周波数で一定である（つまり、全部の信号がシステムを通過する時、時間移動のみを経験する）ことを意味する。 Generally speaking, the requirement for phase response is linear. This is the group delay and is defined by the following equation in another way of looking at the phase.

(1) Formula
Here, φ is a phase. Group delay is the time delay experienced by the frequency component as it passes through the system. Linear, negative phase means that the group delay is constant at all frequencies (ie, only the time shift is experienced when all signals pass through the system).

群遅延および位相の表記は、本質的に等価であり、双方は交換して使用される。   Group delay and phase notations are essentially equivalent and both are used interchangeably.

一定の群遅延あるいは線形位相が位相補正システムの基本的な目標であるが、本願の発明者は、いくつかの問題が挙げられると判定した。   Although constant group delay or linear phase is the basic goal of the phase correction system, the inventors of the present application have determined that several problems can be raised.

これらの問題は、例で良く示される。図２は、LeCroy（登録商標）WaveMaster（登録商標）８６００Ａ（ＷＭ８６００Ａ あるいは単に８６００Ａ) デジタル・サンプリング・オシロスコープ（ＤＳＯ）のスッテプ応答を示す。このＤＳＯは、帯域幅６ＧＨｚ、スコープ２０ＧＳ／ｓ（この書き込み時間は世界で最高性能の実時間ＤＳＯである）。示されたステップは、立ち上がり時間３２ピコセコンドを提供するピコセコンド・パルス・ラボ（ＰＳＰＬ）１１１０−Ｃ・パルス発生器を用いたステップへのＤＳＯの応答である。８６００Ａの振幅応答は、６ＧＨｚ、３ｄＢポイントへ向かう４次ベッセル応答である。図２は、オーバシュート、その許容範囲２０％（最高ＤＳＯに一致）の測定を示し、しかし、測定立ち上がり時間は１１４ピコセコンドである。   These problems are best illustrated with examples. FIG. 2 shows the step response of a LeCroy® WaveMaster® 8600A (WM8600A or simply 8600A) digital sampling oscilloscope (DSO). This DSO has a bandwidth of 6 GHz and a scope of 20 GS / s (this writing time is the world's highest performance real-time DSO). The step shown is the response of the DSO to the step with a Picosecond Pulse Lab (PSPL) 1110-C pulse generator that provides a rise time of 32 picoseconds. The 8600A amplitude response is a 4th order Bessel response towards 6 GHz, 3 dB point. FIG. 2 shows a measurement of overshoot, its tolerance 20% (matching the highest DSO), but the measurement rise time is 114 picoseconds.

これら議論の目的で、厳密ではないが、立ち上がり時間は、直交加算で見積もられ、この意味で次の式に従う。

（２）式
（２）式を用いて、装置内部の立ち上がり時間は、１０９ピコセコンドとして計算される。 For the purposes of these discussions, although not exact, the rise time is estimated by orthogonal addition and, in this sense, follows the following equation:

(2) Using the equation (2), the rise time inside the apparatus is calculated as 109 picoseconds.

８６００Ａとして振幅応答ロールオフ特性を有するシステムに対して、理論は、０．３７５から０．５の帯域幅・立ち上がり時間積と予想する、受け入れられる乗数は、約０．４５である。このシステムは、乗数０．６５４である。乗数０．４５の見積もりと相違して、システムは、内部立ち上がり時間が４．１ＧＨｚの帯域幅に等しい。   For a system with an amplitude response roll-off characteristic as 8600A, the theory expects a bandwidth-rise time product of 0.375 to 0.5, and the accepted multiplier is about 0.45. This system has a multiplier of 0.654. Unlike the multiplier 0.45 estimate, the system has an internal rise time equal to a bandwidth of 4.1 GHz.

チャンネルの群遅延特性は、測定され図５に示される。それは、群遅延が一定でなく、むしろ６ＧＨｚで遅延３００ピコセコンドに達するパワー曲線に近いことがわかる。だから、位相応答は、非常に悪く、それが悪い立ち上がり性能の理由と考えられる。   The group delay characteristics of the channel are measured and shown in FIG. It can be seen that the group delay is not constant, but rather close to a power curve that reaches a delay of 300 picoseconds at 6 GHz. So the phase response is very bad, which is considered the reason for poor start-up performance.

この状況で、群遅延はオールパス・フィルターの使用を通して補正される。オールパス・フィルターは、図５に示す群遅延に対して補正のために設計される。補正の結果を図３に示す。図３は、問題のある結果である。立ち上がり時間は低くオーバシュートは大いに減っているが、不必要な前側ステップエッジ（プリシュート）がある。群遅延補正は、実際的に大略４００ピコセコンド、エッジを遅延らせる。スコープソフトウェアは、正しいトリガー位置を維持するために、波形を移動することによりこの遅れを考慮する。しかし、スコープユーザへは、チャンネルが、それが到達する前にエッジに反応するように見えるのでチャンネルが非因果であるように現れる。この行動は、プリシュートと呼ばれる。群遅延補正が正しくないように見える。   In this situation, the group delay is corrected through the use of an all-pass filter. The all-pass filter is designed to correct for the group delay shown in FIG. The correction result is shown in FIG. FIG. 3 shows a problematic result. Rise time is low and overshoot is greatly reduced, but there is an unnecessary front step edge (pre-shoot). Group delay correction actually delays the edge by approximately 400 picoseconds. The scope software takes this delay into account by moving the waveform to maintain the correct trigger position. However, to the scope user, the channel appears to be non-causal because the channel appears to react to the edge before it reaches. This behavior is called preshoot. Group delay correction seems to be incorrect.

従って、全周波数応答は、理想的に理論的観点から補正されていたが、ステップ応答は、理想的ではない。これは、非線形効果と他の理解不足のハードウェア行動などにより高速設計の場合に多々ある。この特別な問題への解決策は、ステップ応答が良好になるまでオールパス・フィルター係数を修正することである。   Thus, the full frequency response was ideally corrected from a theoretical point of view, but the step response is not ideal. This is often the case for high-speed designs due to non-linear effects and other poorly understood hardware behaviors. The solution to this special problem is to modify the allpass filter coefficients until the step response is good.

さて、応答を最適にできるオールパス・フィルター設計図を設計することがまず可能であると仮定する。用意の例に対して、これは、それほどのプリシュートなくして立ち上がり時間を最適にするオールパス・フィルターがあるということを意味する。現状の最先端技術は、そのようなフィルターが、フィルター係数を無作為に調整し、試行錯誤によって設計されることを要求する。そのような設計の結果は、図４に示すような結果を提供するでしょう。図４は、プリシュートが小さい、１．４％である応答を示す。オーバシュートは１３．４％で、非常に良好。測定立ち上がり時間は８０ピコセコンドであり、そのうちの７７．３ピコセコンドが内部立ち上がり時間であると翻訳する。方式は、０．４４の帯域幅・立ち上がり時間・積を有し、それは適当である。どのようにしてこの性能を持つオールパス・フィルターが、係数を無作為に選ぶことなく設計できたのかが、いまだ未決定である。   Now suppose it is possible to design an all-pass filter design that can optimize the response. For the example given, this means that there is an all-pass filter that optimizes the rise time without much preshoot. Current state-of-the-art technology requires such filters to be designed by trial and error, randomly adjusting the filter coefficients. The result of such a design will provide a result as shown in FIG. FIG. 4 shows the response with a small preshoot, 1.4%. Overshoot is very good at 13.4%. The measured rise time is 80 picoseconds, of which 77.3 picoseconds is translated to be the internal rise time. The scheme has a bandwidth, rise time, product of 0.44, which is appropriate. It is still undecided how an all-pass filter with this performance could be designed without randomly selecting the coefficients.

この例は、本願の発明者が取り扱う必要があると判断した以下記載の最先端技術におけるいくつかの問題点に光を投じる。
１．多くの方式において、方式性能を最適にする最良の位相応答は、明確ではない。
２．異なる目的のための設計された方式は、最適性能の測定において異なる基準を有する。
３．オールパス・フィルターは所望の群遅延特性に応じて設計されるので、もし所望の群遅延特性が知られていなければ、そのようなフィルターをいかに設計するかは不明瞭である。
４．オールパス・フィルター設計に対する群遅延、仕様は、線形方式の周波数領域特性である。（たとえわずかな）非線形要素を含むシステムは、周波数領域と時間領域行動間の劣悪な相関性を示し得る。
５．方式群遅延特性は、正確な補正の提供に困難さを作るでこぼこであり得る（図５に示すように）。時間・領域性能のそれら自身に現れる補正においてどのように誤差になるか不明瞭である。 This example sheds light on some of the problems in the state-of-the-art described below that the inventors of the present application have determined to be handled.
1. In many schemes, the best phase response to optimize the scheme performance is not clear.
2. Designed schemes for different purposes have different criteria in measuring optimum performance.
3. Since all-pass filters are designed according to the desired group delay characteristics, it is unclear how to design such a filter if the desired group delay characteristics are not known.
4). The group delay and specifications for the all-pass filter design are linear frequency domain characteristics. A system that includes (even a few) non-linear elements may exhibit poor correlation between frequency domain and time domain behavior.
5. Scheme group delay characteristics can be bumpy (as shown in FIG. 5), creating difficulties in providing accurate corrections. It is unclear how errors in corrections appearing in time / domain performance themselves.

従って、本発明は、開発と、ＡＤＣと他のデジタル化された波形のダウンストリーム処理間のサンプル方式の信号経路にデジタル信号処理（ＤＳＰ）要素（あるいはデジタルフィルター）の挿入とを含む。   Thus, the present invention includes development and the insertion of digital signal processing (DSP) elements (or digital filters) into the sampled signal path between the downstream processing of the ADC and other digitized waveforms.

本発明は、すでにデジタル化されたチャンネルが、本質的にあるいは振幅補正のためのデジタルのフィルターの使用を通して．規定の振幅応答特性に合致していると仮定する。第一の仮定は、チャンネルの応答特性が、非・理想群遅延あるいは位相応答により副・最適であり、そしてこれら特性を改善することが望ましいものとする。   The present invention allows the already digitized channel to be used essentially or through the use of a digital filter for amplitude correction. Assume that the specified amplitude response characteristics are met. The first assumption is that the channel response characteristics are sub-optimal due to non-ideal group delay or phase response and it is desirable to improve these characteristics.

本発明のデジタル群遅延補正方式は、実装段階で用いられるデジタルオールパス・フィルターと、方式の全体性能が較正段階で測定され最適化されるそのような、実装段階で用いられるオールパス・フィルターに対する係数を発生する方式とから成るものである。   The digital group delay correction scheme of the present invention includes coefficients for the digital all-pass filter used in the implementation phase and the all-pass filter used in the implementation phase, such that the overall performance of the scheme is measured and optimized in the calibration phase. It is composed of the generated system.

本発明は、以下の群遅延補正を方式に提供するものである。
１．最適方式性能を提供する、ゆえに、位相応答を直接的に定義する必要なく最良の位相応答を提供する。
２．所望の特性を直接的に開始することにより最適性能を指定するメカニズムを提供する。
３．種々の応答特性間のトレードオフを許容する群遅延補正。
４．群遅延特性が未知のときでもオールパス・フィルターを用いる。
５．理解不足あるいは非線形チャンネルの存在下でさえ利用できる。
６．時間・領域あるいは他の性能の局面への位相補正の厳密さにわりと鈍感である。 The present invention provides the following group delay correction method.
1. Provides optimal system performance and therefore provides the best phase response without the need to directly define the phase response.
2. Provides a mechanism to specify optimal performance by directly initiating desired properties.
3. Group delay correction that allows trade-offs between various response characteristics.
4). An all-pass filter is used even when the group delay characteristic is unknown.
5. It can be used even in the presence of lack of understanding or non-linear channels.
6). Insensitive to the rigor of phase correction to time / domain or other performance aspects.

更に、以下の群遅延補正を方式に提供するものである。
１．不完全な刺激を取り扱うことが可能である。
２．方式構成および異なる探査方式のようなチャンネル特性における変更に対して動的補正が可能である。
３．性能保証しているユーザにフィードバックで信頼性の高い補正を提供する。 Further, the following group delay correction is provided in the system.
1. It is possible to handle imperfect stimuli.
2. Dynamic correction is possible for changes in channel characteristics such as scheme configuration and different exploration schemes.
3. Provide highly reliable correction with feedback to users who have guaranteed performance.

図１は、これら目的を達成する群遅延補正方式１００の構成図を示す。   FIG. 1 shows a block diagram of a group delay correction method 100 that achieves these objects.

図１に示すように、較正刺激発生器１が用意される。方式を較正するとき、較正刺激発生器１は、スイッチ２を通じて前段増幅器３に切り替えられる。この構成のもとで、較正刺激発生器１からの刺激は、前段増幅器３、ＡＤＣ４から成るアナログチャンネルを通じて、任意メモリ（図示せず）の中に、振幅補正器３５および平均器５を通じて獲得される。刺激は獲得され、刺激を低雑音にし、高サンプル・レート形成のために繰り返し平均化さる。結果は刺激へのチャネル応答６として保持される。あるいは、入力に接続された探査器（プローブ）のような外部ハードウェアが、較正刺激発生器７の出力に接続されうる、その場合は、すべての獲得は、刺激へのチャンネル応答６に外部ハードウェアの特性を含む。   As shown in FIG. 1, a calibration stimulus generator 1 is prepared. When calibrating the scheme, the calibration stimulus generator 1 is switched through the switch 2 to the preamplifier 3. Under this configuration, the stimulus from the calibration stimulus generator 1 is acquired through an amplitude corrector 35 and an averager 5 in an arbitrary memory (not shown) through an analog channel consisting of a preamplifier 3 and an ADC 4. The The stimulus is acquired and the stimulus is made low noise and averaged repeatedly to create a high sample rate. The result is held as a channel response 6 to the stimulus. Alternatively, external hardware, such as a probe connected to the input, can be connected to the output of the calibration stimulus generator 7, in which case all acquisitions are external to the channel response 6 to the stimulus. Including wear characteristics.

前もって、較正刺激発生器１によって発生した刺激は、獲得され、広帯域、高精度装置によってデジタル化され、実際の刺激８として蓄積される。これは、性能追跡性のポイントを形成する。全体較正の精度は、実際の刺激８の精度に依存し、ゆえにそれは、高精度方法を用いて獲得されなければならない。   In advance, the stimulus generated by the calibration stimulus generator 1 is acquired, digitized by a broadband, high precision device and stored as the actual stimulus 8. This forms a point of performance traceability. The accuracy of the overall calibration depends on the accuracy of the actual stimulus 8, so it must be obtained using a high accuracy method.

チャンネル・インパルス応答９は、畳み込み演算復調器（デコンボルバ）１０を用いて実際の刺激８で、刺激へのチャンネル応答６を畳み込み演算復調することにより決定される。   The channel impulse response 9 is determined by convolutional demodulation of the channel response 6 to the stimulus with the actual stimulus 8 using a convolutional demodulator (deconvolver) 10.

チャンネル・インパルス応答９は、チャンネルの周波数応答を計算する１２に通され、更にチャンネルの群遅延特性を形成するために周波数で位相を微分する１４に通される。これは、群遅延仕様発生器１５への入力を形成する。   The channel impulse response 9 is passed through 12 which calculates the frequency response of the channel, and further through 14 which differentiates the phase in frequency to form the group delay characteristics of the channel. This forms the input to the group delay specification generator 15.

１５の前は、最適化方式１６である。１６は１７によって用意された最適化戦略をとり、この戦略を検索の発生に用いる。これは、１５に通したとき、１５を１４により用意された仕様を調整させる制御変数（あるいは設計規則）１８を選び始める。これは、一般的にパワー曲線近似のように、群遅延特性のいくらかの関数近似を調整することにより遂行される。   Before 15 is the optimization method 16. 16 takes the optimization strategy prepared by 17 and uses this strategy to generate the search. When it passes 15, it starts to select a control variable (or design rule) 18 that causes 15 to adjust the specifications prepared by 14. This is generally accomplished by adjusting some function approximation of the group delay characteristic, such as power curve approximation.

１５への入力として１４によって用意されたチャンネル群遅延特性の利用で十分であることは明白であるが、必要不可欠な局面ではない。群遅延仕様発生器１５は、単に同様に、測定された実際の群遅延特性から独立した群遅延仕様を発生することができる。   While it is clear that the use of the channel group delay characteristics provided by 14 as an input to 15 is sufficient, it is not an essential aspect. The group delay specification generator 15 can simply and similarly generate a group delay specification that is independent of the measured actual group delay characteristics.

１５により発生した群遅延特性は、オールパス・フィルターフィルター１９に通される。それから１９は、設計規則２０を用いて１５により用意された群遅延の補正をすることになっているデジタルオールパス・フィルターの係数を計算する。   The group delay characteristic generated by 15 is passed through the all-pass filter 19. Then 19 calculates the coefficients of the digital all-pass filter that is to use the design rule 20 to correct the group delay provided by 15.

オールパス・フィルターフィルター１９は、非線形方程式解析器を用いる。これは、非線形方程式解析器が成功する保証がないので、信頼性のない源である。しかしながら、もし制御変数１８によって書き取った状態空間が境界を有するならば、そのとき、フィルター係数上のすべての可能な制御変数の予備計算（あるいは少なくとも予備検査）に対する可能性が存在する。言い換えれば、これらの領域の信頼性は保証されることができる。フィルターフィルター１９は合致のためにでこぼこ特性を扱う必要がないが、代わりに条件の制限されたセットでの滑らかな曲線を扱うので、１４の出力で測定済み群遅延への前述の関数近似の使用は、信頼性を改善する遮蔽効果を有する。でこぼこ曲線への合致は、収束障害をもたらすことができる多くの極小を含む。   The all-pass filter 19 uses a nonlinear equation analyzer. This is an unreliable source as there is no guarantee that the nonlinear equation analyzer will be successful. However, if the state space written by the control variable 18 has boundaries, then there is a possibility for a preliminary calculation (or at least a preliminary check) of all possible control variables on the filter coefficients. In other words, the reliability of these areas can be guaranteed. Filter 19 does not need to deal with bumpy properties for matching, but instead handles smooth curves with a limited set of conditions, so the use of the above function approximation to the measured group delay with 14 outputs Has a shielding effect that improves reliability. The fit to the bumpy curve includes many local minima that can lead to convergence obstacles.

それから、１９によって生成した係数は、フィルター係数領域２１に積み込まれ、そして２２で描かれたデジタルオールパス・フィルターの貯蔵庫に積み込まれる。フィルターの貯蔵庫がある理由は、チャンネルを補正するために設計されたフィルターのサンプル・レートは刺激のサンプル・レートと同じである必要が無いからである、事実、普通それはより低いものです。更に、補正される方式のサンプル・レートは、もし刺激のサンプル・レートより低ければ、単・ショットの獲得で重要な時間領域補助変数の正確な測定量を提供するためにチャンネルをサンプリングするに不十分であろう。   The coefficients generated by 19 are then loaded into the filter coefficient area 21 and loaded into a digital all-pass filter reservoir, depicted at 22. The reason for the filter reservoir is that the filter sample rate designed to compensate for the channel does not have to be the same as the stimulus sample rate, in fact it is usually lower. Furthermore, if the sample rate of the corrected method is lower than the sample rate of the stimulus, it is not sufficient to sample the channel to provide an accurate measure of the time domain auxiliary variable that is important for single shot acquisition. It will be enough.

一度係数２１が生成されれば、時間・領域応答特性を評価することができる。   Once the coefficient 21 is generated, the time / domain response characteristics can be evaluated.

これは、理想刺激１１の生成で始まる。この刺激は、われわれが最適化された方式を望むための刺激である。畳み込み演算器１３を用いてチャンネル応答９で１１を畳み込み演算する。結果は理想刺激１１へのチャンネル応答である。この過程は、完全な刺激の生成の難しさを克服することに留意しよう。   This begins with the generation of the ideal stimulus 11. This stimulus is what we want for an optimized method. The convolution operation unit 13 is used to perform the convolution operation 11 on the channel response 9. The result is a channel response to the ideal stimulus 11. Note that this process overcomes the difficulty of generating complete stimuli.

前述のように、フィルター方式の設計されるサンプル・レートは、しばしば所望刺激を生成したサンプル・レートより低い。この理由については、畳み込み演算器１３の結果が、低域フィルター（ＬＰＦ）２３を通され、２４でダウンサンプル（間引き）されるからである。ＬＰＦ２３は、アンチエイリアシング・フィルタであり、そして半分の方式サンプル・レートの外側で単位利得を理想的に提供するために設計され、それ以降の信号を通過させない。   As mentioned above, the filter-designed sample rate is often lower than the sample rate that produced the desired stimulus. This is because the result of the convolution calculator 13 is passed through a low-pass filter (LPF) 23 and down-sampled (decimated) at 24. The LPF 23 is an anti-aliasing filter and is designed to ideally provide unity gain outside the half scheme sample rate and does not pass any further signals.

ダウンサンプル器２４は、所望刺激１１のサンプル・レート÷補正される方式のサンプル・レートに等しい因数Ｎでダウンサンプルする。もし因数Ｎが整数でなければ、そのとき、ＬＰＦ２３の出力は、それが整数になるよう再サンプルされる。ダウンサンプル器２４は、簡単なデシメータ（decimator）ではなく、むしろ２５で描写したＮ多相出力を有する。各々の位相は、評価の下で複数の同一位相補正フィルターを通じて供給される。各々のフィルターされた出力は、アップサンプル器２７の多相入力２６に供給される。このやり方で、所望の刺激１１をアナログチャンネルとフィルター係数２１によって定義された位相補正フィルターの組み合わせに用いた結果が生成される。そして、このもたらされた波形は計測器２８に通される。計測器は間単に測定オプション２９による興味の補助変数を測定し、それらを補助出力３０に通じて格付け方式３１に出力する。格付け方式の仕事は、測定済み補助変数３０の関数である格付けあるいはスコア３２を生成することである。格付け方式３１は、性能の格付け（rating）を生成するために格付け規則３３を適用する。副効果として、計測器２８と格付け方式３１は、出力でき、性能確認用に外部で観察できる性能結果のセット３４を生成する。   The downsampler 24 downsamples by a factor N equal to the sample rate of the desired stimulus 11 divided by the sample rate of the corrected scheme. If the factor N is not an integer, then the output of the LPF 23 is resampled so that it becomes an integer. The downsampler 24 is not a simple decimator, but rather has an N polyphase output depicted at 25. Each phase is fed through a plurality of identical phase correction filters under evaluation. Each filtered output is fed to the polyphase input 26 of the upsampler 27. In this manner, a result is generated using the desired stimulus 11 for the combination of the phase correction filter defined by the analog channel and the filter coefficient 21. This resulting waveform is then passed to instrument 28. The instrument simply measures the auxiliary variables of interest by the measurement option 29 and outputs them to the rating system 31 through the auxiliary output 30. The task of the rating scheme is to generate a rating or score 32 that is a function of the measured auxiliary variable 30. The rating scheme 31 applies a rating rule 33 to generate a performance rating. As a side effect, the instrument 28 and the rating system 31 generate a set 34 of performance results that can be output and observed externally for performance confirmation.

スコア３２は最適化方式１６に通され、そして我々はもとに戻る。今、最適化方式１６は、その出力変数、実際、それは状態空間で多次元座標を有する、に関する位相補正フィルターのスコアを有する。   Score 32 is passed to optimization scheme 16 and we go back. Now the optimization scheme 16 has a phase correction filter score for its output variable, in fact it has multidimensional coordinates in the state space.

この点での最適化システ１６は、最適化戦略１７に従って繰り返し、スコア３２が最大化されるあるいは方式性能結果３４が適当であるそのようにその出力変数を適合させる。これは、最適化方式１６が完了したとき、フィルター係数２１が、性能が最適で最適結果が３４で与えられるようなものである、そのような閉ループ方式を形成する。   The optimization system 16 at this point iterates according to the optimization strategy 17 and adapts its output variables so that the score 32 is maximized or the scheme performance result 34 is appropriate. This forms such a closed loop scheme in which when the optimization scheme 16 is complete, the filter coefficient 21 is such that the performance is optimal and the optimal result is given at 34.

最適化システ１６と最適化戦略１７が十分であると仮定して、制御変数１８は、スコア３２が最大化されるそのように見出されることができる。このスコア最大化は、仕様を満たすことを保証しないが、それは、スコア自身が適用された格付け規則３３を基礎にしているので、出来る限りの性能トレードオフが作られたことを保証する。   Assuming that the optimization system 16 and the optimization strategy 17 are sufficient, the control variable 18 can be found that way the score 32 is maximized. This score maximization does not guarantee that the specification is met, but it guarantees that the best possible performance trade-off has been made since the score itself is based on the applied rating rules 33.

スコアの最大化は、結果としての補正器の絶対群遅延に依存せず、測定された性能局面を最大限にするために、補正器の性能のみに依存したことが観察される。   It is observed that the maximization of the score does not depend on the absolute group delay of the resulting corrector, but only on the performance of the corrector in order to maximize the measured performance aspect.

また、この最適化方法は、実際の群遅延補正の誤差への方式感度を減じたことが観察される。制御変数１８の特別なセットは、評価される時、特別なスコア３２にもたらすフィルター係数２１の特別なセットを生成する最終結果を実現することでこの機能は理解される。１セットの制御変数がなぜ別のものより良いスコアを生成するかは、未知でありそして本質的に重要でない。   It is also observed that this optimization method has reduced method sensitivity to actual group delay correction errors. This function is understood by realizing a final result that, when evaluated, a special set of control variables 18 produces a special set of filter coefficients 21 that results in a special score 32. It is unknown and essentially unimportant why one set of control variables produces a better score than another.

それから、フィルター係数２１は、チャンネルに対する位相補正フィルター（３６）に積み込まれ、振幅補正フィルター３５と連携して、ユーザ入力信号３７をフィルターするために用いられ、そして補正された出力信号３８を提供する。   The filter coefficients 21 are then loaded into the phase correction filter (36) for the channel, and in conjunction with the amplitude correction filter 35, are used to filter the user input signal 37 and provide a corrected output signal 38. .

オーバシュートを改善する副益とプリシュートをもたらす不都合な副効果を有し立ち上がり時間を最適にする目的に対して、この方式は望ましくはＷＭ８６００Ａ ＤＳＯで利用されるが、すべての適当なデジタル蓄積型押しオシロスコープにおいて利用できうる。他の応用に適するためにこの特別な実装への明らかな修正の適用は、本発明の具体例で考察される。   For the purpose of optimizing rise time with the side effect of improving overshoot and the disadvantageous effect of preshooting, this scheme is preferably used in the WM8600A DSO, but all suitable digital storage types Available on push oscilloscopes. The application of obvious modifications to this particular implementation to suit other applications is discussed in embodiments of the present invention.

例えば、ＷＭ８６００Ａは、１０ｍＶの垂直分割（１０ｍＶ／ｄｉｖ）で１Ｖ／ｄｉｖまでの利得レンジで動作する４チャンネルを備える。一般に、それは、１０、２０、５０、１００、２００、５００および１０００ｍＶ／ｄｉｖの固定段階で動作する。各々のチャンネルは、Ｖ／ｄｉｖ設定の関数として異なる位相特性を有する。更に、装置に内在して、追加の４個の設定可能な前段増幅器がある。これら設定の記述はこの文書の範疇ではないが、これら４個の設定もまた位相に影響することへの注意で十分である。   For example, the WM8600A has 4 channels that operate in a gain range up to 1 V / div with 10 mV vertical division (10 mV / div). In general, it operates at fixed phases of 10, 20, 50, 100, 200, 500 and 1000 mV / div. Each channel has a different phase characteristic as a function of V / div setting. In addition, there are four additional configurable preamplifiers inherent in the device. A description of these settings is not within the scope of this document, but it is sufficient to note that these four settings also affect the phase.

チャンネル、Ｖ／ｄｉｖレンジおよび前段増幅器設定の組み合わせは、装置に対して全部で１１２個の異なる位相特性を生成する。   The combination of channel, V / div range and pre-amplifier setting produces a total of 112 different phase characteristics for the device.

これら種々の特性を生成する全部の設定は、図６に示された配列ないで工場で較正される。８６００Ａ４８のチャンネルは減衰器４３の出力に接続される。パルサー４０とパルスヘッド４１から成るステップ発生器３９は、減衰器４２および４３を通じてエッジを８６００Ａ４８のチャンネルにもたらす。   All settings that produce these various characteristics are calibrated at the factory without the arrangement shown in FIG. The 8600A48 channel is connected to the output of the attenuator 43. A step generator 39 consisting of a pulser 40 and a pulse head 41 provides an edge to the 8600A48 channel through attenuators 42 and 43.

入力エッジが１５ピコセコンドである間、減衰器の出力は、緩慢な減衰ステップである。減衰への主な貢献は表皮効果である。   While the input edge is 15 picoseconds, the output of the attenuator is a slow decay step. The main contribution to attenuation is the skin effect.

トリガー入力はケーブル４６を通してステップ発生器３９のトリガー出力に接続される。８６００Ａ４８は、またローカル・エリア・ネットワーク４９に接続される。較正の間、８６００Ａ４８は、またネットワーク４９に接続されたコンピュータ５０からネットワーク４９を通して遠隔コッマンドを受け取る。コンピュータ５０は、検査の下、指定のＶ／ｄｉｖおよび前段増幅器構成を仮定するために８６００Ａ４８に命令する。そして、コンピュータ５０は、ＧＰＩＢバス（一般目的装置バス）接続５１を通してプログラマブル減衰器ドライバー４５を指揮し、ステップ発生器３９からの９Ｖ信号が８６００Ａ４８によって獲得されたとき、垂直画面の８０％を占有するようにプログラマブル減衰器４２，４３から適当な量の減衰を指定する。それから、８６００Ａ４８は、コンピュータ５０で指揮され、信号を中心にするためのオフセット調整、水平分割時間（Ｔ／ｄｉｖ）、トリガー閾値およびトリガー遅れを、ステップの先行エッジが５ナノセコンド期間の水平中心に現れるように調整する。８６００Ａで平均化動作が入れられる。   The trigger input is connected through cable 46 to the trigger output of step generator 39. The 8600A 48 is also connected to the local area network 49. During calibration, the 8600 A 48 also receives remote commands through the network 49 from a computer 50 connected to the network 49. Computer 50 instructs 8600A48 to assume the specified V / div and preamplifier configuration under examination. The computer 50 then directs the programmable attenuator driver 45 through the GPIB bus (general purpose device bus) connection 51 and occupies 80% of the vertical screen when the 9V signal from the step generator 39 is acquired by the 8600A48. Thus, an appropriate amount of attenuation is designated from the programmable attenuators 42 and 43. The 8600A48 is then commanded by the computer 50 to adjust the offset to center the signal, horizontal split time (T / div), trigger threshold and trigger delay, with the leading edge of the step at the horizontal center of the 5 nanosecond period. Adjust to appear. An averaging operation is entered at 8600A.

１０００個の波形が獲得され、平均化される、２００ＧＳ／ｓサンプル・レートで１０００ポイント等価時間波形がもたらされる、そして、それらはネットワーク９０を通してコンピュータ５０にアップロードされる。   1000 waveforms are acquired and averaged, resulting in 1000 point equivalent time waveforms at a 200 GS / s sample rate, and they are uploaded to the computer 50 through the network 90.

コンピュータ５０は、本発明の目的と一致した較正プログラムを走らせ、チャンネル・インパルス応答を生成するために、これら正確な状況下で、サンプリングスコープ４４で生成した信号を獲得することにより前もって得られた結果でこの獲得を畳み込み演算復調する。そして、それは、これを、所望刺激へのチャンネル応答を生成するために５０ピコセコンドの立ち上がり時間を有する２次臨界制動（Ｑ＝５．０）方式をシミュレートするために内部的に生成した規定の理想ステップで畳み込み演算する。この結果は、ネットワーク４９で８６００Ａ４８に戻され、そこで後の利用用にそのハードディスクに蓄積される。   The computer 50 runs a calibration program consistent with the objectives of the present invention, and results obtained in advance by acquiring the signal generated by the sampling scope 44 under these precise conditions to generate a channel impulse response. The convolution operation is demodulated by this acquisition. And that is the specified internally generated to simulate a second critical braking (Q = 5.0) scheme with a rise time of 50 picoseconds to generate a channel response to the desired stimulus. Convolution calculation is performed in an ideal step. This result is returned to the 8600A 48 over the network 49 where it is stored on the hard disk for later use.

畳み込み演算復調―畳み込み演算ステップは、４３の出力に到達する減衰ステップを占める。   Convolutional operation demodulation—The convolutional operation step occupies an attenuation step reaching 43 outputs.

動作は全ての１１２個の組み合わせに対して繰り返され、そして８６００Ａ４８は較正設定から外される。   The operation is repeated for all 112 combinations and the 8600A48 is removed from the calibration settings.

特別な前段増幅器出力構成で、特別なＶ／ｄｉｖ設定で、与えられたチャンネル上の特別なサンプル・レートで、８６００Ａが動作するとき、群遅延補正フィルターを構築することによりそれは較正を完了しなければならない。実際上、この動作は、自己テスト配置で、工場で達成される。８６００Ａは、これら補正フィルターが一度構築されて、ハードディスクに蓄えられることを許すフィルター・キャシュ配列を利用する。フィルター・キャシュの制御は、フィルター読み込み５３、書き込み５４および上書き５５可能が指定されるキャシュ制御領域５２内の図７のダイアログで示される。一般に、示すように、フィルターは、もしそれらがあればディスクから読み出され、もしなければ構築後に書き込まれるように、それらは読み込みおよび書き込みをする。   When the 8600A operates with a special pre-amplifier output configuration, a special V / div setting, and a special sample rate on a given channel, it must complete calibration by building a group delay correction filter. I must. In practice, this operation is accomplished at the factory in a self-test arrangement. The 8600A utilizes a filter cache arrangement that allows these correction filters to be built once and stored on the hard disk. Control of the filter cache is shown in the dialog of FIG. 7 in the cache control area 52 where filter read 53, write 54 and overwrite 55 are specified. In general, as shown, filters read and write so that they are read from disk if they are present, and are written after construction if they are not.

この説明の目的で、フィルターが存在せず、特別設定で構築を必要とすると仮定する。構築を開始するために、所望の刺激への適当なチャンネル応答がハードディスクから読み取られる。６５で指定したようにアルファに対する値でカイザー・ベッセル・ウインドウ（Kaiser-Bessel window）の適用により微分が計算される。カイザー・ベッセル・ウインドウはよく知られている。それから、結果が、０Ｈｚと５８によって指定された補正の最大周波数間のＮ＋１個の等間隔ポイントのセット（集合）であるように、Ｃｈｉｒｐ−Ｚ変換（ＣＺＴ）が計算される（ここでＮは５７で指定される）。任意周波数範囲で任意数のポイントが用意できるのでＣＺＴが用いられる。加えるに、２個のＦＦＴの力のみが内部的に必要とされる。ＣＺＴはよく知られている。それから、位相が計算され、５９で指定された最大位相変化を用いてアンラップ（unwrapp）され，そして（１）式を用いて群遅延が計算される。これら全ての計算はよく知られている。   For the purposes of this description, assume that there are no filters and that construction is required with special settings. To initiate construction, the appropriate channel response to the desired stimulus is read from the hard disk. As specified in 65, the derivative is calculated by applying a Kaiser-Bessel window with the value for alpha. The Kaiser Bessel window is well known. A Chirp-Z transform (CZT) is then calculated so that the result is a set of N + 1 equally spaced points between the maximum frequencies of correction specified by 0 Hz and 58 (where N is 57). Since an arbitrary number of points can be prepared in an arbitrary frequency range, CZT is used. In addition, only two FFT forces are required internally. CZT is well known. The phase is then calculated, unwrapped using the maximum phase change specified at 59, and the group delay is calculated using equation (1). All these calculations are well known.

測定済みのチャンネル群遅延特性における計算結果は、各々の座標：（ｆ［ｎ］，ｇｄ_meas［ｎ］）は周波数に対する測定済みの群遅延を表す、ここで、ｎは、ｎ∈［０，Ｎ］である整数、であるようなＮ＋１個の要素を含む座標ベクトルとして表される。 The calculated result in the measured channel group delay characteristic is that each coordinate: (f [n], gd _meas [n]) represents the measured group delay with respect to frequency, where n is n∈ [0, N] is an integer, and is represented as a coordinate vector containing N + 1 elements.

もし振幅補正器（あるいは、また全ての他のデジタルフィルター）が利用されるばあい、その群遅延は説明されなければならない。これは、周波数ポイントｆ［ｎ］で振幅補正フィルターの群遅延をプロットすることにより、そして計算されたチャンネルの群遅延にこの遅れを逐一加えることによりなされる。更に、すぐに説明されるように、振幅補正フィルターは、評価の下でオールパス・フィルターとのカスケード接続で現れる。振幅補正器の群遅延を未補正の方式の計算された群遅延に加算することにより、および評価の下でオールパス・フィルターと振幅補正器をカスケード接続することによって、適切な効果が達成される。   If an amplitude corrector (or all other digital filters) is used, its group delay must be accounted for. This is done by plotting the group delay of the amplitude correction filter at the frequency point f [n] and adding this delay step by step to the group delay of the calculated channel. Furthermore, as will be explained immediately, the amplitude correction filter appears in cascade with an all-pass filter under evaluation. Appropriate effects are achieved by adding the group delay of the amplitude corrector to the calculated group delay of the uncorrected scheme and by cascading the all-pass filter and the amplitude corrector under evaluation.

適切な刺激を発生し、群遅延特性が測定されたので、われわれは、注意を最適器要素に向ける。   Now that we have generated the appropriate stimulus and the group delay characteristics have been measured, we turn our attention to the optimizer element.

前述のように、それは、チャンネルの性能を最適化するための最適器要素の仕事である。   As mentioned above, it is the work of the optimizer element to optimize the performance of the channel.

最適化の詳細を議論する前に、閉ループ回路が説明される。言い換えれば、スコア入力へ戻っての経路の周りの最適器出力での制御変数セットの仕様からの動作が、これら出力制御変数を選ぶ戦略のための配慮なしで、記述される。   Before discussing optimization details, a closed loop circuit is described. In other words, the behavior from the specification of the control variable set at the optimizer output around the path back to the score input is described without consideration for the strategy of choosing these output control variables.

一度これが説明されれば、最適化戦略は詳細に議論される。   Once this is explained, optimization strategies are discussed in detail.

８６００Ａにおいて、最適器は、パワーとバーニアと称される２個の出力制御変数を指定する。これらの値は、補正仕様発生器に提供される。   In 8600A, the optimizer specifies two output control variables called power and vernier. These values are provided to the correction specification generator.

まず、補正仕様発生器は、次の（３）式へ未補正方式の測定済み群遅延特性を合致させる。

（３）式 First, the correction specification generator matches the measured group delay characteristic of the uncorrected method to the following equation (3).

(3) Formula

ここでｆは周波数、Ｐは最適器により提供されたパワーである、そしてＡは、未補正方式の測定済み群遅延特性と（３）式の評価間の２乗平均誤差を最小にする値である。すなわち、Ａは、次の（４）式を最小にするように選ばれる。

（４）式 Where f is the frequency, P is the power provided by the optimizer, and A is a value that minimizes the mean square error between the measured group delay characteristics of the uncorrected scheme and the evaluation of equation (3). is there. That is, A is selected so as to minimize the following equation (4).

(4) Formula

Ａの値は、（５）式になる。

（５）式 The value of A is given by equation (5).

(5) Formula

群遅延仕様は、（６）式を用いて他のＮ＋１個の座標ベクトル（ｆ［ｎ］，ｇｄ_spec ［ｎ］）を生成することにより計算される。

（６）式 The group delay specification is calculated by generating another N + 1 coordinate vectors (f [n], gd _spec [n]) using equation (6).

(6) Formula

ここでＶは、最適器により提供されたバーニア値である。ゆえに、群遅延仕様は、チャンネルの実際群遅延特性の修正近似である。   Where V is the vernier value provided by the optimizer. Hence, the group delay specification is a modified approximation of the actual group delay characteristics of the channel.

それから、群遅延仕様は、オールパス・フィルターフィルターに通される。オールパス・フィルターフィルターは、ファイルと、図７に示されるダイアログを通してのファイルと修正、提供された群遅延仕様および提供された群遅延仕様を補正するオールパス・フィルター係数を決める方程式解析器、から読み取られた設計規則５１を用いる。   The group delay specification is then passed through an all-pass filter. The all-pass filter is read from the file and the file analyzer and modification through the dialog shown in Figure 7, the provided group delay specification and the equation analyzer that determines the all-pass filter coefficients that correct the provided group delay specification. The design rule 51 is used.

オールパス・フィルターは、複数のカスケード接続４次セクションから成る無限インパルス応答（ＩＩＲ）である。セクション数は補正６１の程度により指定される。一般的にいえば、高い程度の補正は、大規模フィルターにおいてもたらされ、長い実行時間を要する、しかし仕様への厳しい遵守を提供する。   An all-pass filter is an infinite impulse response (IIR) consisting of a plurality of cascaded fourth-order sections. The number of sections is specified by the degree of correction 61. Generally speaking, a high degree of correction is provided in large filters and takes a long run time but provides tight compliance with the specification.

アナログのオールパス・フィルターセクションは、（７）式で表される。

（７）式 The analog all-pass filter section is expressed by equation (7).

(7) Formula

ここでω０は中心周波数（ｒａｄ／ｓ単位）であり、Ｑは品質因子である。方式は、低制動（Ｑ＞０．５：underdampped）で提供され、このフィルターセクションは複素共役な一対の極（pair of poles）を有する。１個の極は、（８）式にある。

（８）式 Here, ω0 is a center frequency (in rad / s), and Q is a quality factor. The scheme is provided with low damping (Q> 0.5: underdampped) and this filter section has a complex conjugate pair of poles. One pole is in equation (8).

(8) Formula

他の極は、Ｒｅ（σ）−ｊ・Ｉｍ（σ）にある。同様に、複素共役な２個のゼロを有する。１個のゼロは、−Ｒｅ（σ）＋ｊ・Ｉｍ（σ）および他のゼロは、−Ｒｅ（σ）−ｊ・Ｉｍ（σ）にある。   The other pole is at Re (σ) −j · Im (σ). Similarly, it has two complex conjugate zeros. One zero is at -Re ([sigma]) + j.Im ([sigma]) and the other zero is at -Re ([sigma])-j.Im ([sigma]).

このフィルターは、群遅延（および位相）に影響を与えるが、振幅応答へは影響を与えない。   This filter affects the group delay (and phase) but not the amplitude response.

そのようなフィルター段の最大群遅延は、（９）式で発生する。

（９）式 The maximum group delay of such a filter stage is generated by equation (9).

(9) Formula

（９）式は常にω０より小さい、しかし高いＱ値でほぼω０に等しくなる。   Equation (9) is always less than ω0, but is almost equal to ω0 at high Q values.

ωｍで提供される最大群遅延は、（１０）式である。

（１０）式 The maximum group delay provided by ωm is Equation (10).

(10) Formula

デジタルオールパス・フィルターは、マッチドＺ−変換の利用によって作られる。マッチドＺ−変換は、極とゼロ位置に対する簡単な置換を含む。

（１１）式
ここで、Ｆｓはサンプル・レートである。 A digital all-pass filter is created by using a matched Z-transform. The matched Z-transform includes simple substitutions for the pole and zero positions.

(11) where Fs is the sample rate.

この置換は、次の伝達関数（１２）式を導く。

（１２）式
ここで、伝達関数は、単位利得で正規化されている。 This substitution leads to the following transfer function (12):

(12) Formula
Here, the transfer function is normalized by unit gain.

（１２）式は次の（１３）式に変形される。

（１３）式
ここで、α、βは、（１４）式で表される。

（１４）式 Expression (12) is transformed into the following expression (13).

(13) Formula Here, (alpha) and (beta) are represented by (14) Formula.

(14) Formula

オールパス・フィルターフィルターは、群遅延仕様が補正されるように、係数αおよびβを生成することである。群遅延仕様に加算されたオールパス・フィルターの群遅延が一定の値（ここで、一定値は、避けられない副作用としてフィルターによって提供された絶対遅延である）に等しい、ことを意味する。   The all-pass filter is to generate the coefficients α and β so that the group delay specification is corrected. This means that the group delay of the all-pass filter added to the group delay specification is equal to a certain value (where the constant value is the absolute delay provided by the filter as an inevitable side effect).

（１３）式でのフィルターセクションの群遅延は、（１５）式である。

（１５）式 The group delay of the filter section in equation (13) is equation (15).

(15) Formula

Ｓセクションを含むフィルターに対して、提供された全体の群遅延は、（１６）式である。

（１６）式
ここで、Ｓ∈［０，Ｓ）である。 For filters containing S sections, the overall group delay provided is (16).

(16) Formula
Here, Sε [0, S).

フィルターフィルターの目的地を、次の（１７）式を最小にするような、各々のセクションに対する係数αおよびβを計算するために、明白にできることである。

（１７）式
Ｄ_constは任意なので、フィルターのゼロ周波数群遅延を用いることができ、状況は以下のように簡単化できる。

（１８）式
ここで、

（１９）式
である。 The filter filter destination can be unambiguously calculated to calculate the coefficients α and β for each section such that the following equation (17) is minimized.

(17) Since the expression D _const is arbitrary, the zero frequency group delay of the filter can be used, and the situation can be simplified as follows.

Equation (18) where

(19)

（１８）式を最小にするために、勾配がゼロである点が判定される。つまり、これら係数値で群遅延が評価されるとき、全ての係数に対する二乗平均誤差の偏微分がゼロであるように、全てのｓに対してフィルター係数の値α_s および β_sが見出されたとき、極小値に到達する。 To minimize equation (18), the point at which the slope is zero is determined. That is, when the group delay is evaluated with these coefficient values, the filter coefficient values α _s and β _s are found for all s so that the partial derivative of the mean square error for all coefficients is zero. Reaches the local minimum.

これは、全ての係数に対して偏微分がゼロとして表されることを意味する。
全てのｓに対して、

であり、これらの偏微分は（２０）および（２１）式を導く。

（２０）式

（２１）式 This means that the partial derivative is expressed as zero for all coefficients.
For all s

These partial derivatives lead to equations (20) and (21).

(20) Formula

(21) Formula

（２０）および（２１）式は、二乗平均誤差の偏微分の評価を説明し、群遅延に対する解析関数および係数に対する群遅延の偏微分が要求される。   Equations (20) and (21) explain the evaluation of the partial differential of the mean square error, and require an analytical function for the group delay and a partial differential of the group delay for the coefficients.

各々の係数に対する相対群遅延の偏微分は、（２２）および（２３）式である。

（２２）式

（２３）式
ここで、

（２４）式

（２５）式
である。 The partial differential of relative group delay for each coefficient is given by equations (22) and (23).

(22) Formula

Equation (23) where

(24) Formula

(25)

この点で、（１９）式、（２２）式および（２３）式を知り、MathCAD内のGenfit 機能のような、全ての妥当な非線形方程式解析器で、十分にフィルターを解くことができた。実際に、解析器は、Levenberg-Marquardtアルゴリズムを用いる。   At this point, we knew (19), (22) and (23), and we were able to solve the filter well with all reasonable nonlinear equation analyzers such as the Genfit function in MathCAD. In practice, the analyzer uses the Levenberg-Marquardt algorithm.

必要条件は、α_sおよび β_sの値での、妥当な推測である。これらは、成功させるにふさわしい値を見出すことにより経験的に到達しうる、そして統計的に、α_sおよび β_sの値に対して計算された典型的な結果値を解析する。 A prerequisite is a reasonable guess at the values of α _s and β _s . These can be reached empirically by finding values that are suitable for success, and statistically analyze the typical result values calculated for the values of α _s and β _s .

（７）式により記述されたアナログ・オールパス・フィルターにより提供された更に少しの洞察を用いることができ、以下の方法を用いる。まず、最大遅延６４、補正用の最大周波数５８およびセクションの数６１が指定される。セクションの最大遅延は、セクション６１を最大遅延６４に分割することにより計算される。各段に対する中心周波数の値は、次の（２６）式を用いて設定される。

（２６）式 A little more insight provided by the analog allpass filter described by equation (7) can be used, and the following method is used. First, the maximum delay 64, the maximum frequency 58 for correction, and the number of sections 61 are specified. The maximum section delay is calculated by dividing section 61 into maximum delay 64. The value of the center frequency for each stage is set using the following equation (26).

(26) Formula

これは、図７に示す仕様に対して、３，４．１のｆ０の値および５．２ＧＨｚへ導く。それから、格段のＱは、（１０）式および配分されたセクションに対する最大遅延を用いて計算される。

（２７）式 This leads to a value of f0 of 3, 4.1 and 5.2 GHz for the specification shown in FIG. Then a significant Q is calculated using equation (10) and the maximum delay for the allocated section.

(27) Formula

これは、約２ＧＨｚの各セクション対して、１．５７，２．１４および２．７２および一定の“帯域幅”へ導く。   This leads to 1.57, 2.14 and 2.72 and a constant “bandwidth” for each section of about 2 GHz.

続ける前に、格段が最大遅延へ同じ寄与をすると仮定して、セクションあたりの最大遅延が計算されたことに注意することは有益である。広帯域に導く低Ｑは、各フィルター段の効果が全く大きな周波数レンジの上に感じられることを意味するので、これは、妥当である。   Before continuing, it is useful to note that the maximum delay per section has been calculated, assuming that the same contribution to the maximum delay is the same. This is reasonable because a low Q leading to a wide band means that the effect of each filter stage is felt over a quite large frequency range.

それからＱおよびω０値は、ｓ・領域極位置の決定のために（８）式で使われる。この極は、ｚ・領域極位置の決定のために（１１）式で使われる。この極は、α_s およびβ_s用の開始値を決めるために（１４）式で使われる。 The Q and ω0 values are then used in equation (8) to determine the s · region pole position. This pole is used in equation (11) to determine the z-region pole position. This pole is used in equation (14) to determine the starting values for α _s and β _s .

アナログフィルター方程式を用いる全ての計算は、デジタルフィルターの特性に精確には一致しないが、α_s およびβ_sの開始値が妥当に近い、つまり、非線形方程式解析器がそれから引き継ぐ、のが必要条件である。 All calculations using analog filter equations do not exactly match the characteristics of the digital filter, but require that the starting values of α _s and β _s are close to reasonable, that is, the nonlinear equation analyzer takes over from it. is there.

フィルター群遅延関数および偏微分を知り、開始フィルター係数で初期推測にそって、Levenberg-Marquardtアルゴリズムを繰り返し走らせる。各々の繰り返しにおいて、係数は、二乗平均誤差を減らすように調整される。Levenberg-Marquardtは、２個の共通な最小二乗最適化法間のバランスである。小さなステップが各繰り返しで二乗平均誤差の勾配ベクトルに沿って作られる最急降下法。最急降下法は非常に遅いが、極小値への収束を保証する。他の方法は、Newton-Gauss法である。Newton-Gauss法の収束は非常に早いが、発散もできる。Levenberg-Marquardtは、各々の繰り返し上でそれ自身の性能を測定する。成功的繰り返しは、引き続く繰り返し上でNewton-Gauss法を支持させる。失敗の繰り返しは、引き続く繰り返し上で最急降下法を支持させる。それが支持している方法は、値（λ）に依存する。   Know the filter group delay function and partial derivative, and run the Levenberg-Marquardt algorithm repeatedly according to the initial guess with the starting filter coefficients. At each iteration, the coefficients are adjusted to reduce the mean square error. Levenberg-Marquardt is a balance between two common least squares optimization methods. A steepest descent method in which small steps are made at each iteration along the mean square error gradient vector. The steepest descent method is very slow but guarantees convergence to a local minimum. Another method is the Newton-Gauss method. The Newton-Gauss method converges very quickly, but can diverge. Levenberg-Marquardt measures its own performance on each iteration. Successful iterations support the Newton-Gauss method on subsequent iterations. Repeated failures support the steepest descent method over subsequent iterations. The method it supports depends on the value (λ).

図９はLevenberg- Marquardtアルゴリズムの１回の繰り返しを示しているＮＳ図である。図９は、次の仮定を作る。ｇが、以下のような係数ベクトルのベクトルである。

（２８）式
ここで、ｉは繰り返し数を表わす。
ｇ₀は、初期推測を含むベクトルである。Ｍｓｅ₀は、初期推測値で（１８）式を用いて計算された初期二乗平均誤差である。
ステップ５および８で、Ｗは、単位行列（重み付けは利用していないので）である。
Ｘは、１０００に随意に初期化される。 FIG. 9 is an NS diagram showing one iteration of the Levenberg-Marquardt algorithm. FIG. 9 makes the following assumptions. g is a vector of coefficient vectors as follows.

Equation (28)
Here, i represents the number of repetitions.
g ₀ is a vector containing the initial guess. Mse ₀ is an initial estimated mean square error calculated using equation (18).
In steps 5 and 8, W is the identity matrix (since no weighting is used).
X is optionally initialized to 1000.

ステップ８で、逆行列が計算されなければならないことに注意。これに対してのテキストブックアルゴリズムがある、または、ＬＡＰＡＣＫあるいはＴＮＴのような公に利用可能なソフトを用いることができる。   Note that in step 8, the inverse matrix must be calculated. There is a textbook algorithm for this, or publicly available software such as LAPACK or TNT can be used.

以下に記載されるように、アルゴリズムへの変動は、繰り返しがｍｓｅの減少あるいは何らかの収束基準のいずれかにけっして合致しない場合に適用される。これは、もしステップ１１が、二乗平均誤差が改善されないことを検出すれば、Ｘ，ｇ_i が変更され、ｇ_i-1 で置き換えられる、そしてステップ８へ戻されることを意味する。それは、留数、ヤコビアンおよび近似ヘッセ行列の再計算を避けるので、これは、実際的に、より経済的である。 As described below, the variation to the algorithm applies when the iteration does not meet either the mse reduction or any convergence criteria. This means that if step 11 detects that the mean square error is not improved, then X, g _i is changed, replaced by g _i−1 , and returned to step 8. This is practically more economical as it avoids recalculation of residue, Jacobian and approximate Hessian.

複数の方法が繰り返しを停止するために使用される。
１．ｍｓｅに関する仕様に達する場合。ｍｓｅ仕様は、許容範囲６２（これは、習慣的にナノセコンドの実行値（ｒｍｓ）で指定される）により提供される。一般的に、これは、依存されず、ｍｓｅ仕様は．非常に低く保たれる。これは、もし方式が低いｍｓｅに達すれば、あとでの数回の繰り返しのみで極小値にあたるかも知れないからである。一般的に、数回の余分な繰り返しは、更により良い誤差の最小化に所望される。あなたは、許容範囲６２に使用された初期設定仕様６２が０であることを知ることができる。
２．λが最大値（１ｅ１０）に到達する場合。しばしば、これは発散を示すが、この状況は、もし収束が検出されなければ、収束ポイントでしばしば生じる。最低線は、λの非常に大きな値に対して、更なる収束は連続の繰り返し上で非常にゆっくりである、ゆえに、たとえそれが収束しなかったとしても、繰り返しは止めるべきであり、新しい戦略が試みられるべきである、ということである。
３．λが最小値（１ｅ−１０）に到達する場合―λの値で、方式は、うまく収束することが知られている。
４．収束ポイントで、λは、永久に２個あるいは３個の値の間を振動しうる。この発生は、まず、５サンプルの時定数をもつ簡単なデジタルフィルターへλのｌｏｇを適用することにより検出される。それから、λのｌｏｇとこの簡単フィルターの出力間の絶対値がとられ、５回の繰り返し後、それが２．５以下に落ちれば、繰り返しは停止される。
５．収束ポイントで、ｍｓｅは、非常にゆっくり変化する。これは、５サンプルの時定数をもつ簡単なデジタルフィルターへｍｓｅのｌｏｇを適用することにより検出される。それから、ｍｓｅのｌｏｇとこの簡単フィルターの出力間の絶対値がとられ、５回の繰り返し後、それが２．５以下に落ちれば、繰り返しは停止される。ｍｓｅのｌｏｇの利用は、Newton-Gauss法が二次収束を示す事実によって正当化される。
６．許容された繰り返しの最大数を超える場合。繰り返しの最大数は６３によって提供される。普通、述べられた他の条件の一つが長い期間このポイントの前で発生する。繰り返しの数に関する最大は、漠然と繰り返すことを防ぐために、安全網として置かれる。３０が良い値である。 Several methods are used to stop the iteration.
1. When the specification about mse is reached. The mse specification is provided by tolerance 62, which is customarily specified by the nanosecond run value (rms). In general, this is independent and the mse specification is. Kept very low. This is because if the method reaches a low mse, it may hit a local minimum only after a few iterations later. In general, several extra iterations are desired for even better error minimization. You can see that the default specification 62 used for the tolerance 62 is zero.
2. When λ reaches the maximum value (1e10). Often this indicates divergence, but this situation often occurs at the convergence point if no convergence is detected. The lowest line is for very large values of λ, and further convergence is very slow on successive iterations, so even if it does not converge, the iteration should be stopped and a new strategy That should be tried.
3. When λ reaches the minimum value (1e-10)-With the value of λ, the scheme is known to converge well.
4). At the convergence point, λ can oscillate between two or three values forever. This occurrence is first detected by applying a log of λ to a simple digital filter with a time constant of 5 samples. Then the absolute value between the log of λ and the output of this simple filter is taken, and if it falls below 2.5 after 5 iterations, the iteration is stopped.
5. At the convergence point, mse changes very slowly. This is detected by applying the mse log to a simple digital filter with a time constant of 5 samples. Then, the absolute value between the log of mse and the output of this simple filter is taken, and if it falls below 2.5 after 5 iterations, the iteration is stopped. The use of mse log is justified by the fact that the Newton-Gauss method exhibits quadratic convergence.
6). The maximum number of iterations allowed is exceeded. The maximum number of iterations is provided by 63. Normally, one of the other conditions mentioned occurs for a long period before this point. The maximum number of repetitions is set as a safety net to prevent vague repetitions. 30 is a good value.

一度、極小値が達成されたなら、二乗平均誤差の検査は最小性能をテストする。もし十分低くなければ、係数は、極小値からシステムを振るために無作為にかき乱され、絶対最小値で収束する望みをもって繰り返しは続く。群遅延特性の見積もりが極小に厄介をもたらさない単調曲線であるとき、これは、しばしば余計である。この無作為の係数かき回しを用いる選択権は、６０で制御される。   Once the local minimum is achieved, the root mean square error test tests the minimum performance. If not low enough, the coefficients are randomly perturbed to shake the system from the local minimum and repeat with the hope of converging at the absolute minimum. This is often superfluous when the estimation of the group delay characteristic is a monotonic curve that does not bother the minimum. The option to use this random coefficient thirst is controlled at 60.

適合は通常およそ１０の繰り返しで収束する。適合の完成で、オールパス・フィルター係数は（２８）式を用いたｇベクトルから積み出され、オールパス・フィルター実装が構築される。フィルターは（１３）式のカスケード結合差分方程式実装（２９）式から成る。

（２９）式 The fit usually converges in about 10 iterations. Upon completion of the fit, the all-pass filter coefficients are loaded from the g vector using equation (28) to build an all-pass filter implementation. The filter consists of a cascade coupled difference equation implementation (29) of equation (13).

(29) Formula

ここで、ｙ［Ｓ−１］［ｋ］は、フィルターのｋ番目の出力であり、ｘ［ｓ］［ｋ］は、ｓが０であるときを除くｙ［ｓ−ｌ］［ｋ］である、ここでｘ［０］［ｋ］はｋ番目のフィルターへの入力ポイントである。この状況は、図１０に図画的に描かれている。図１０は、３セクション（６次）のデジタルオールパス・フィルターを示す、高次フィルターは、複数のフィルターセクションをカスケード接続することで簡単に生成されることが理解される。   Here, y [S−1] [k] is the k-th output of the filter, and x [s] [k] is y [s−1] [k] except when s is 0. Where x [0] [k] is the input point to the kth filter. This situation is illustrated graphically in FIG. FIG. 10 shows a three-section (sixth order) digital all-pass filter. It is understood that a high-order filter is simply generated by cascading multiple filter sections.

このポイントで、オールパス・フィルターが生成され、それは、チャンネルの群遅延特性に沿って指定されたパワー値とバーニア値の関数である。   At this point, an all-pass filter is generated, which is a function of the power and vernier values specified along the group delay characteristics of the channel.

図１１は、オールパス・フィルターの結果が用意された群遅延補正仕様に適合することを示す。図１１は、オールパス・フィルター群遅延と群遅延補正仕様の合計が直線近似であるように、オールパス・フィルターが設計されることを示す。図１１は、また、オールパス・フィルターが、約±３ピコセコンドの最大誤差を有する仕様によく従っていることを示す。今、必要とされるものは、フィルター性能の評価である。   FIG. 11 shows that the result of the all-pass filter conforms to the prepared group delay correction specification. FIG. 11 shows that the all-pass filter is designed such that the sum of the all-pass filter group delay and the group delay correction specification is a linear approximation. FIG. 11 also shows that the all-pass filter follows the specification with a maximum error of about ± 3 picoseconds. What is needed now is an evaluation of filter performance.

評価を始めるために、生成されたオールパス・フィルターは、多相配列に装備される。オールパス・フィルターは、未補正チャンネル応答をサンプルするために用いられるそれより低いサンプル・レートで、サンプルするために一般的に設計されるので、この多相配列は必要である。例えば、８６００Ａで述べたように、未補正チャンネル応答は、２００ ＧＳ／ｓで生成される。方式の単ショットサンプルレートは、２０ＧＳ／ｓである。これは、生成されたオールパス・フィルターが未補正チャンネル応答を直接サンプルできないことを意味する。簡単なアプローチは、簡単に未補正チャンネル応答を間引くことであるが、これは情報の欠落を生じる。更に、間引かれた未補正チャンネル応答のサンプリングのフィルターされた結果は、フィルター性能評価に対して適当な情報を提供しない。   To start the evaluation, the generated allpass filter is equipped in a polyphase array. This all-phase arrangement is necessary because allpass filters are typically designed to sample at a lower sample rate than that used to sample the uncorrected channel response. For example, as described in 8600A, the uncorrected channel response is generated at 200 GS / s. The single shot sample rate of the system is 20 GS / s. This means that the generated allpass filter cannot directly sample the uncorrected channel response. A simple approach is to simply decimate the uncorrected channel response, but this results in a loss of information. Furthermore, the filtered result of the sampling of the decimated uncorrected channel response does not provide adequate information for filter performance evaluation.

この理由により、簡単な間引きの代わりに、複数―位相出力ダウンサンプル器が用いられる。ダウンサンプル器により用意された位相の数は、間引き因子に等しい。各々の位相は、オールパス・フィルターの同じレプリカ（つまり、いくつかの計数値を持つオールパス・フィルター要素、しかし別々の遅延線蓄積）を通される。各々のフィルターの結果は、同様のアップサンプル器配列を通して交互に重ねられる。最終的な結果は、設計されたオールパス・フィルターで未補正チャンネル応答をフィルタリングし、それにより未補正チャンネル応答のサンプル・レートが保存される。   For this reason, a multi-phase output downsampler is used instead of simple decimation. The number of phases provided by the downsampler is equal to the decimation factor. Each phase is passed through the same replica of the all-pass filter (ie, all-pass filter element with several counts, but separate delay line accumulation). The results of each filter are alternately stacked through a similar upsampler arrangement. The net result is to filter the uncorrected channel response with a designed all-pass filter, thereby preserving the sample rate of the uncorrected channel response.

また、振幅補正デジタルフィルターの使用がチャンネルに採用される時、振幅補正フィルターは、多相配列内の評価の下でオールパス・フィルターとカスケード接続される。   Also, when the use of an amplitude correction digital filter is adopted for a channel, the amplitude correction filter is cascaded with an all-pass filter under evaluation in a polyphase array.

この動作を実行する結果は、補正済みチャンネル応答である。言い換えれば、アップサンプル器の出力は、オールパス・フィルターにより補正されたチャンネル応答を提供する。このオールパス・フィルターが最適にチャンネルを補正するかどうかの議論はこのポイントにある。   The result of performing this operation is a corrected channel response. In other words, the output of the upsampler provides a channel response corrected by an all-pass filter. It is at this point that the all-pass filter optimally corrects the channel.

多相フィルター配列の使用のために、いくらかの注意が払われなければならない。最初に、未補正チャンネル応答は、全ての折り返し（エイリアシング）の可能性を最小にするためにローパスフィルターされなければならない。これは、オールパス・フィルターのナイキスト・レートで急峻な遮断フィルターを適用することにより達成される。更に、もし未補正チャンネル応答サンプル・レートがオールパス・フィルターサンプル・レートの整数倍でない場合、応答は、補間フィルターを用いて整数倍のサンプル・レートで、更に、再サンプルされる必要がある。例えば、もし、未補正チャンネル応答が、２００ＧＳ／ｓでサンプルされ、オールパス・フィルター要素が２０ＧＳ／ｓでサンプルすれば、ローパスフィルターは、１０ＧＳ／ｓまでの可能な限りの全周波数を通すために設計され、そして１０ＧＳ／ｓ以上の全ての周波数を除去する。とにかく、オールパス・フィルターは十分にそのチャンネルをサンプリングすべきなので、これは問題にならない。８６００Ａの場合、方式帯域幅は６ＧＨｚであり、入力は７ＧＨｚで完全に減衰されている。これは、ローパスフィルターがおよそ７ＧＨｚ付近でその遮断を始めることを許し、良好な減衰を達成するために、フィルターに対して３ＧＨｚ遷移帯域を提供する。   Some care must be taken for the use of polyphase filter arrays. First, the uncorrected channel response must be low pass filtered to minimize the possibility of all aliasing. This is achieved by applying a steep cutoff filter at the Nyquist rate of the all-pass filter. Furthermore, if the uncorrected channel response sample rate is not an integer multiple of the all-pass filter sample rate, the response needs to be resampled at an integer multiple sample rate using an interpolation filter. For example, if the uncorrected channel response is sampled at 200 GS / s and the all-pass filter element samples at 20 GS / s, the low-pass filter is designed to pass all possible frequencies up to 10 GS / s. And remove all frequencies above 10 GS / s. Anyway, this is not a problem because an allpass filter should sample that channel well. In the case of 8600A, the system bandwidth is 6 GHz and the input is completely attenuated at 7 GHz. This allows the low pass filter to begin its blockade around 7 GHz and provides a 3 GHz transition band for the filter to achieve good attenuation.

この種の反・折り返し（アンチエイリアシング）および補間フィルターの設計は、技術分野で公知の技術である。   This type of anti-aliasing and interpolation filter design is a well-known technique in the art.

注意を払うべき他の要素は、フィルター起動である。全フィルターは、フィルターが全時間入力信号をサンプリングしているわけではないという事実ゆえ、そこで、出力が安定する必要があるサンプルのいくらかの量を要求する。   Another factor to pay attention to is filter activation. All filters require some amount of sample where the output needs to be stable, because of the fact that the filter is not sampling the input signal all the time.

要求された時間の量は、オールパス・フィルターのインパルス応答の長さを基礎にする。示されたオールパス・フィルター（一般性を失わずに）は無限インパルス応答（ＩＩＲ）フィルター要素なので、始動時間を決定するために判定がなされなければならない。一般的に、その最終値の９９％への到達へのステップ応答に対して要求されたサンプル数を用いる。この記述において、獲得された未補正チャンネル応答は、期間が５ナノセコンド（ｎｓ）でエッジが２．５ｎｓポイントで生じ、エッジに先行するポイントは全て同じであるように、選ばれる。ステップの基準線を差し引くことにより、ゼロ値ポイントの２．５ｎｓ価値が生成される（５００ゼロ値ポイント）。これは、オールパス・フィルターのインパルス応答の長さが２０ＧＳ／ｓフィルターに対して５０ポイント以下である限り、ステップの基準線を差し引くことによって未補正チャンネル応答を正規化することは別として、特別な注意を必要としない。   The amount of time required is based on the length of the impulse response of the all-pass filter. Since the allpass filter shown (without loss of generality) is an infinite impulse response (IIR) filter element, a decision must be made to determine the start-up time. In general, the number of samples required for the step response to reaching 99% of its final value is used. In this description, the acquired uncorrected channel response is chosen such that the period occurs at 5 nanoseconds (ns), the edge occurs at 2.5 ns points, and the points preceding the edge are all the same. By subtracting the baseline of the step, a 2.5 ns value of zero value points is generated (500 zero value points). This is a special case, apart from normalizing the uncorrected channel response by subtracting the step baseline as long as the impulse response length of the all-pass filter is 50 points or less for a 20 GS / s filter. Does not require attention.

このポイントで、設計されたオールパス・フィルターに対する補正済みチャンネル応答が決定される。その性能評価を開始するために、この補正済み応答に関する測定量がとられる。８６００Ａに対して、重要な測定量は、立ち上がり時間、オーバシュートおよびプリシュートである。立ち上がり時間、オーバシュートは受け入れられた標準に従って測定される。標準は、プリシュートの質的な定義を提供するが、それらは量的な測定の方法を押し付けない。だから、プリシュート測定は、ここで記述されるカスタム・アルゴリズムを用いる。   At this point, the corrected channel response for the designed allpass filter is determined. To begin its performance evaluation, a measure for this corrected response is taken. For the 8600A, the important measurement quantities are rise time, overshoot and preshoot. Rise time and overshoot are measured according to accepted standards. Standards provide a qualitative definition of preshoots, but they do not impose quantitative measurement methods. So the preshoot measurement uses the custom algorithm described here.

読者は、図１２に向けられる、そこで、全ての３個の測定定義が示される。プリシュート測定は、追加の説明を要求する。   The reader is directed to FIG. 12, where all three measurement definitions are shown. Preshoot measurements require additional explanation.

プリシュートは、測定の開始および終了間の期間中基線から絶対最大プリシュート偏位に基づいて計算される。   The preshoot is calculated based on the absolute maximum preshoot deviation from the baseline during the period between the start and end of the measurement.

終了時間は、５０％遅延ポイントである。開始時間は、アパチア（時間窓）を差し引いた終了時間である。５０％遅延ポイントから間に合って逆向きに歩く、少なくとも以下の条件の一つが合致した、その後にのみプリシュート偏位が検討される。
１．波形ポイントの値が基線に触れるかあるいは以下になる。
２．波形ポイントの値が、ヒステリシス値（つまり、波形が変化した）より大きい量による、そのポイントまでの計算最小（つまり、そのポイントと５０％閾値交点間）より大きい。
３．波形ポイントの時間が、計画インターセプト時間と１０％遅延時間間の時間×インターセプト因子を差し引いた５０％遅延時間に等しい量より少ないかあるいは等しい。計画インターセプト時間は、１０％と９０％閾値交点間に描かれた直線が基線を捕らえる時間を計算することにより見出される。 The end time is a 50% delay point. The start time is the end time after subtracting the apache (time window). Prechute excursions are considered only after walking backwards in time from the 50% delay point and at least one of the following conditions is met.
1. The value of the waveform point touches the baseline or falls below.
2. The value of the waveform point is greater than the calculated minimum (ie, between that point and the 50% threshold intersection) by an amount greater than the hysteresis value (ie, the waveform has changed).
3. The time of the waveform point is less than or equal to the amount equal to the time between the planned intercept time and the 10% delay time multiplied by the 50% delay time minus the intercept factor. The planned intercept time is found by calculating the time at which the straight line drawn between the 10% and 90% threshold intersections captures the baseline.

アパチャ９９、ヒステリシス９８およびインターセプト因子の構成は、プリシュート設定９７に対するダイアログ領域の図８のダイアログに示される。   The configuration of the aperture 99, hysteresis 98 and intercept factor is shown in the dialog of FIG.

立ち上がり時間、オーバシュートおよびプリシュートは最適であることが望まれる。最適のステートメントは主観的であり、所望された最終方式に基礎がおかれる。この最適化の主観的な性質は、格付け方式により解決される。格付け方式の役割は、提供された補助変数測定量に基づいた性能の総合スコア（得点）を提供することである。これは、以下の関数を通して達成される。

（３０）式 Rise time, overshoot and preshoot are desired to be optimal. The optimal statement is subjective and is based on the desired final scheme. This subjective nature of optimization is solved by a rating scheme. The role of the rating system is to provide an overall performance score based on the provided auxiliary variable measures. This is accomplished through the following function:

(30) Formula

（３０）式は、困難な状況を提示する。しばしば、スコア上の測定された補助変数の関係は、定義するに簡単なものではない。このため、あいまい論理格付け方式が採用される。   Equation (30) presents a difficult situation. Often, the relationship of measured auxiliary variables on the score is not easy to define. For this reason, an ambiguous logical rating system is adopted.

あいまい論理の利用は、制御と最適化の最新技術で実行されるものとして良く知られている。ここで、私は、本発明を実行するために要求された関連情報への論議を限定する。   The use of fuzzy logic is well known as being performed with the latest technology in control and optimization. Here I limit my discussion to the relevant information required to carry out the present invention.

あいまい論理格付け方式は、３個の要素：メンバーシップ・セット、規則基準および非あいまい化要素、を要求する。メンバーシップ・セットは、高い、低いおよび中間の補助変数測定量を構成するものの主観的定義を提供する。更に、あいまいな性質は、故意に二重性及びメンバーシップの不完全性をもたらす。   The ambiguity logic grading scheme requires three elements: membership set, rule criteria, and unambiguous element. The membership set provides a subjective definition of what constitutes the high, low and medium auxiliary variable measures. Furthermore, the ambiguous nature deliberately results in duality and membership imperfections.

規則基準は、どのような格付けがそれらのそれぞれのセットで補助変数測定量のメンバーシップに関係するかの主観的ステートメントを提供する。   The rule criteria provides a subjective statement of what ratings relate to the membership of auxiliary variable measures in their respective sets.

非あいまい化要素は、最終の単一スコアを解決するために、適用された規則の全ての結果をとる。   The unambiguous element takes all the results of the applied rules to resolve the final single score.

主観的性質のため、メンバーシップ・セットおよび規則基準は、修正可能である。この機能は、最適化方式全体が、主観的要素の遅い決定で、容易に構築されることを許す。更に、簡単にこの構成を変えることによって、簡単に性能のトレードオフが可能となる。   Because of the subjective nature, membership sets and rule criteria can be modified. This feature allows the entire optimization scheme to be easily constructed with a slow determination of subjective factors. Furthermore, by simply changing this configuration, it is possible to easily trade off performance.

格付け方式構成を図８に示す。修正可能な局面は、あいまいメンバーシップ・セット７５およびあいまい規則基準７９として示される。   The rating system configuration is shown in FIG. The modifiable aspects are shown as ambiguous membership set 75 and ambiguous rule criteria 79.

メンバーシップ・セット７５は、低（Ｌ）、中（Ｍ）および高（Ｈ）の３個のセットの３個の測定補助変数、立ち上がり時間７８、オーバシュート７６およびプリシュート７７に対してメンバーシップを定義する。これら定義は、図１３に示すような区分的線形メンバーシップ関数へ導く。   Membership set 75 is membership to three sets of three measurement auxiliary variables, rise time 78, overshoot 76 and preshoot 77, low (L), medium (M) and high (H). Define These definitions lead to piecewise linear membership functions as shown in FIG.

評価の期間に、セット内の測定補助変数のメンバーシップの程度が決定されるが、立ち上がり時間メンバーシップは特別な扱いを必要とする。立ち上がり時間メンバーシップ・セットは、所望刺激の非ゼロ立ち上がり時間および方式帯域幅を説明しなければならない。この調整をするために用いられた補助変数は９４で示され、立ち上がりメンバーシップ定義７８へ調整をするために、知られた方式帯域幅と所望刺激の知られた実際の立ち上がり時間の結合に使われる。これは、次のように実行される。
１．内部立ち上がり時間は、（２）式に示す関係を用いて、７８の立ち上がり時間から直交の９４の立ち上がり時間を差し引きくことで計算される。図８に示す数に対して、内部立ち上がり時間は、それぞれ、低、中および高に対して６７．４６、７４．１６および８１． ８３ピコセコンドである。
２．帯域幅・立ち上がり時間積を定義するために、９４で指定された帯域幅がこれら立ち上がり時間に掛けられる。図８に示す数に対して、乗数は、それぞれ０．４０５、０．４４５および０．４９１である。
３．この帯域幅に適当な内部立ち上がり時間を形成するために、これら乗数は知られた方式帯域幅で分割される。この場合、知られた方式帯域幅は、９４で指定されたそれと同じなので、われらは、ステップ１で指定された内部立ち上がり時間に戻る。
４．ステップ３で計算された内部立ち上がり時間は、（２）式に示す関係を用いて直交の理想刺激の立ち上がり時間に加えられる。理想刺激の立ち上がり時間は、５０ピコセコンドである、だから、メンバーシップ決定に用いられる新しい立ち上がり時間は、それぞれ低、中および高い立ち上がり時間に対して８３．９７、８９．４４および９５．２３ピコセコンドである。 During the evaluation period, the degree of membership of the measurement auxiliary variables in the set is determined, but rise time membership requires special treatment. The rise time membership set must account for the non-zero rise time and scheme bandwidth of the desired stimulus. The auxiliary variable used to make this adjustment is shown at 94 and is used to combine the known system bandwidth and the known actual rise time of the desired stimulus to make adjustments to the rise membership definition 78. Is called. This is performed as follows.
1. The internal rise time is calculated by subtracting the orthogonal 94 rise times from 78 rise times using the relationship shown in equation (2). For the numbers shown in FIG. 8, the internal rise times are 67.46, 74.16 and 81.81 for low, medium and high, respectively. 83 picoseconds.
2. To define the bandwidth-rise time product, the bandwidth specified at 94 is multiplied by these rise times. For the numbers shown in FIG. 8, the multipliers are 0.405, 0.445, and 0.491, respectively.
3. These multipliers are divided by a known scheme bandwidth to form an appropriate internal rise time for this bandwidth. In this case, the known system bandwidth is the same as that specified in 94, so we return to the internal rise time specified in step 1.
4). The internal rise time calculated in step 3 is added to the rise time of the orthogonal ideal stimulus using the relationship shown in equation (2). The rise time of the ideal stimulus is 50 picoseconds, so the new rise times used for membership determination are 83.97, 89.44 and 95.23 picoseconds for low, medium and high rise times, respectively. .

一度、メンバーシップが決定されると、規則が実行される。普通、セットメンバーの全ての組み合わせに対して１個の規則がある。この場合、総計３３あるいは２７の組み合わせに対して３個のセット（Ｌ、ＭそしてＨ）で３個の測定補助変数がある。規則はメンバーシップに基づいた格付けに割り当てる。格付けは、典型的な学校文字格付け（成績評定）である。それらは、修飾語（プラスにｐ、マイナスにｍ）により続けられた文字格付け（Ａ、Ｂ、Ｃ、ＤおよびＦ）によって表される。文字格付けが修飾語域で複写されるとき、格付けは変更されない。だから、例えば、Ａｐ、ＣｍおよびＤＤは、それぞれ格付けＡ+、Ｃ-およびＤを参照する。   Once membership is determined, the rules are executed. There is usually one rule for all combinations of set members. In this case, there are three measurement auxiliary variables in three sets (L, M and H) for a total of 33 or 27 combinations. Rules are assigned to membership-based ratings. The rating is a typical school character rating (grading). They are represented by a character rating (A, B, C, D and F) followed by a modifier (plus p, minus m). When character ratings are copied in the qualifier area, the ratings are not changed. So, for example, Ap, Cm and DD refer to the ratings A +, C- and D, respectively.

各規則はテーブルで実行される。例えば、１個の規則は、もし（オーバシュートＩＳ低）ＡＮＤ（立ち上がり時間ＩＳ中）ＡＮＤ（プリシュートＩＳ高）であればＣ-である。ＩＳの評価はメンバーシップの程度を意味する。例えば、オーバシュートの評価ＩＳ低は、簡単にオーバシュート低セット内のオーバシュートのメンバーシップの程度である。更に、ＡＮＤの評価は、あいまいロジック内で２個の値の最小として定義される、つまり、Ａ ＡＮＤ Ｂ＝ｍｉｎ（Ａ，Ｂ）である。最後に、複数の規則内でサンプル格付けが存在するときはいつも、値たちは互いに論理的ＯＲにされる、ここでＯＲの評価は、あいまい論理内で２個の値の最大として定義される、つまり、Ａ ＯＲ Ｂ＝ｍａｘ（Ａ，Ｂ）である。   Each rule is executed on a table. For example, one rule is C- if (overshoot IS low) AND (during rise time IS) AND (preshoot IS high). The IS rating means the degree of membership. For example, the overshoot evaluation IS low is simply the degree of overshoot membership in the overshoot low set. Furthermore, the evaluation of AND is defined as the minimum of two values in the ambiguous logic, ie A AND B = min (A, B). Finally, whenever sample ratings exist within multiple rules, the values are logically ORed with each other, where the evaluation of OR is defined as the maximum of two values within ambiguous logic, That is, A OR B = max (A, B).

規則実行の完成で、各々の可能な文字格付け（Ｆ、Ｄ-、Ｄ、Ｄ+、Ｃ-、Ｃ、Ｃ+、Ｂ-、Ｂ、Ｂ+、Ａ-、Ａ、Ａ+）へ割り当てた０および１間の数がある。これらの結果は、１個の値に結合されなければならない。このステップは、非あいまい化 (defuzzification) と呼ばれる。   Assigned to each possible character rating (F, D-, D, D +, C-, C, C +, B-, B, B +, A-, A, A +) upon completion of rule execution There is a number between 0 and 1. These results must be combined into a single value. This step is called defuzzification.

学校格付け（評定）方式が持ちられるので、提供格付け、それらが内部的に強固にコード化される、の構成はない。以下の数値が、格付けに割り当てられる（表１参照）。

Since there is a school rating (grading) system, there is no composition of the provided ratings and those that are strongly coded internally. The following numbers are assigned to ratings (see Table 1).

非あいまい化は、重心あるいは結果の重み付け平均を計算することにより達成される。これは、各文字格付けに割り当てられた数に数値格付けを掛けた値の合計により、および各文字格付けに割り当てられた全ての数の合計で割ることにより達成される。   Deobfuscation is achieved by calculating a centroid or a weighted average of the results. This is accomplished by the sum of the number assigned to each character rating multiplied by the numeric rating and by dividing by the sum of all the numbers assigned to each character rating.

例えば、規則実行の結果が、Ｃ＝０．２、Ｂ＝０．８およびＡ＝０．４であれば、最終結果は次のようである。

For example, if the result of rule execution is C = 0.2, B = 0.8, and A = 0.4, the final result is as follows.

スコアの計算で、閉ループは、最適化要素の出力からこの要素の入力へもどして完了する。つまり、最適化方式は、群遅延特性を制御する値を生成することができ、それゆえ、オールパス・フィルター係数を生成することができる、そして、補正済み方式の性能スコアを制御変数の関数として得る。   In calculating the score, the closed loop is completed by returning from the output of the optimization element to the input of this element. That is, the optimization scheme can generate a value that controls the group delay characteristic, and therefore can generate an all-pass filter coefficient, and obtain the performance score of the corrected scheme as a function of the control variable. .

最適化の方法は、スコアを最大化する出力制御変数のセットを見つけ出すこと、と記述される。   The method of optimization is described as finding a set of output control variables that maximizes the score.

最適器要素は、ディスクから最適化戦略を読む。最適化戦略８０は修正可能であり、図８のダイアログに示される。   The optimizer element reads the optimization strategy from the disk. The optimization strategy 80 can be modified and is shown in the dialog of FIG.

パワー８２およびバーニア８７用の最適化構成が示される。パワー８２用の構成は、開始８３、終了８４、グリッド８４およびスキャン８２を含む。   An optimized configuration for power 82 and vernier 87 is shown. The configuration for power 82 includes a start 83, an end 84, a grid 84 and a scan 82.

同様に、バーニア８７用の構成は、開始８８、終了８９、グリッド９０およびスキャン９１を含む。この方式では、各々の補助変数用の開始、終了およびグリッド設定は、パワー／バーニア設定の可能な状態空間を定義する。開始と終了は補助変数上の境界を提供し、グリッドは細分性を指定する。例えば、８２に示すパワー設定に対して、０．２ステップで２から４までの１１個の可能なパワーがある。８７に示すバーニア設定に対して、全数３９６個のパワー／バーニア可能性に対して、３６個の可能性がある。   Similarly, the configuration for vernier 87 includes a start 88, an end 89, a grid 90 and a scan 91. In this scheme, the start, end and grid settings for each auxiliary variable define a possible state space for power / vernier settings. The start and end provide boundaries on the auxiliary variables, and the grid specifies granularity. For example, for the power setting shown at 82, there are 11 possible powers from 2 to 4 in 0.2 steps. For the vernier setting shown in 87, there are 36 possibilities for a total of 396 power / vernier possibilities.

最適化は、ます、初期スキャン、グリッドのスイープによって達成される。スキャン、グリッドは、同じ開始および終了補助変数により定義されるが、細分性はスキャン値に基づく。８２で提供された補助変数に対して、パワー、スキャン、グリッドは、１、２および３から成る。８７で提供された補助変数に対して、バーニア、スキャン、グリッドは、０．３、０．４、０．５、０．６、０．７、０．８、０．９および１．０から成る。この構成に対して、２４個のスキャン、グリッド要素がある。   Optimization is increasingly achieved by initial scan, grid sweep. The scan and grid are defined by the same start and end auxiliary variables, but the granularity is based on the scan value. For the auxiliary variables provided at 82, the power, scan, grid consists of 1, 2 and 3. For the auxiliary variables provided in 87, the vernier, scan and grid are from 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9 and 1.0 Become. For this configuration, there are 24 scan, grid elements.

初期スキャンの間、全てのスキャン、グリッド要素は評価され、トップ・スコアを有するグリッド要素は、より緊密な検査のために保持される。信頼性の程度と最適化の残りに要求される仕事の量間のトレードオフは、保持されたトップ・スコアの数に依存する。保持されたトップ・スコアの構成は８１に示される。この場合、保持されたトップ・スコアの数は、４である。   During the initial scan, all scans, grid elements are evaluated, and the grid element with the top score is retained for closer examination. The trade-off between the degree of reliability and the amount of work required for the rest of the optimization depends on the number of retained top scores. The composition of the retained top score is shown at 81. In this case, the number of retained top scores is four.

初期スキャンの結果は、図１４に画像的に示される、ここで初期スキャン、グリッドおよびもたらされた４個のトップ・スコアがはっきりと見える。図１４は、明瞭にするために上描きした実際のスコアをもって、示される。   The result of the initial scan is shown graphically in FIG. 14, where the initial scan, the grid and the resulting four top scores are clearly visible. FIG. 14 is shown with actual scores drawn above for clarity.

次のスキャンを実行するために、パワーとバーニア、スキャン、グリッド双方の細分性が半分にされ、そしてトップ・スコアについての四角を形成している８つの位置がスキャンされる。再度、トップ・スコアが保持される。保持されたトップ・スコアは、全てのスキャンのトップ・スコアであることに注意。これは、図１５に示される。   To perform the next scan, the granularity of both power and vernier, scan and grid are halved, and the eight positions forming the square for the top score are scanned. Again, the top score is retained. Note that the retained top score is the top score for all scans. This is shown in FIG.

スキャニングは同じ方法（これは、図１６および図１７に示される）で、パワーとバーニア、スキャン、グリッドの双方が８５および９０で指定されたグリッドサイズ以下になるまで続く。スキャンの間、補助変数、スキャン、グリッドのひとつがこれらグリッド仕様を下回れば、更に減少されない、そして検索四角は、残りの補助変数について、検索線になる。   Scanning continues in the same way (this is shown in FIGS. 16 and 17) until both power and vernier, scan and grid are below the grid size specified in 85 and 90. During the scan, if one of the auxiliary variables, scans, grids falls below these grid specifications, it is not further reduced, and the search square becomes the search line for the remaining auxiliary variables.

この過程は、トップ・スコアについての四角が多面体になる多変数に拡張することができる。   This process can be extended to multivariables where the square for the top score becomes a polyhedron.

検索の完了において、最高スコアを持つ要素が勝ち抜ける。   At the completion of the search, the element with the highest score wins.

あるいは、特に、デバッグ目的のため、全てのグリッドは、スコアの完全面対制御変数設定を生成するために、スキャンすることができる、そして全検索の結果は、更なる検討のためにディスクに蓄積することができる。これらの制御は９２および９３に示される。   Alternatively, especially for debugging purposes, all grids can be scanned to generate a complete face-to-face control variable setting of scores, and the results of all searches are stored on disk for further consideration. can do. These controls are shown at 92 and 93.

出力制御変数のどちらも、その開始あるいは終了限界で手摺付けされていないことを調べることが重要である。手摺は、検索領域が不十分であったことを示す。そのような場合、警告を発生する、あるいは検索領域の拡大が採用される。   It is important to check that neither output control variable is handrailed at its start or end limit. The handrail indicates that the search area was insufficient. In such a case, a warning is generated or the search area is expanded.

他の最適化戦略を採用することができ、本発明への明らかな向上として考えられることは、注目に値する。この具体例は、アルゴリズム検索を説明する。外見上魅力的であるが、スコア対制御変数面が次の特性で観察されるので、勾配方法は避けられる。
１．いくつかが、複数の極大を有する。
２．いくつかが、勾配に従って達することができない最大を有する。
３．全てが、勾配０の平坦である。
４．２回微分（勾配の微分）が不連続である。 It is worth noting that other optimization strategies can be employed and considered as a clear improvement to the present invention. This example illustrates an algorithm search. Although attractive in appearance, the gradient method is avoided because the score versus control variable surface is observed with the following characteristics:
1. Some have multiple maxima.
2. Some have a maximum that cannot be reached according to the gradient.
3. All are flat with a slope of zero.
4. The second derivative (gradient derivative) is discontinuous.

これら特性は、大きい程度に、あいまい論理格付け方式の使用に基づく、そして更に、図１３に示すように、区分的線形メンバーシップ関数に基づく。   These characteristics are to a large extent based on the use of an ambiguous logic rating scheme, and further based on a piecewise linear membership function, as shown in FIG.

８６００Ａ、チャンネル／利得、設定／増幅器に対するスコアの状態・空間対制御変数が図１８に示される。これは、９２および９３で構成されるように、デバッグ情報で全・検索を実行することにより生成された。   The score state / space versus control variable for 8600A, channel / gain, settings / amplifier is shown in FIG. This was generated by performing a full search with debug information, as configured by 92 and 93.

スコア対制御変数状況は、図１９に地形図的に示される、ここで４個のプロットが示される。１０１は、図１９の輪郭プロットを示す。この場合、最適スコアは、０．７２のバーニア値および３．０のパワー値で９７．５８であることが見出される。選ばれたバーニア値５６は、選ばれたパワー６６に沿って図７のダイアログに示される。図１９は、３個の他のプロットを示す、それぞれは、プリシュート対制御変数１０２、立ち上がり時間対制御変数１０３およびオーバシュート対制御変数１０４で上描きされたスコアを含む。
輪郭プロット The score vs. control variable situation is shown topographically in FIG. 19, where four plots are shown. 101 shows the contour plot of FIG. In this case, the optimal score is found to be 97.58 with a vernier value of 0.72 and a power value of 3.0. The selected vernier value 56 is shown in the dialog of FIG. 7 along with the selected power 66. FIG. 19 shows three other plots, each containing a score overlaid with preshoot vs. control variable 102, rise time vs. control variable 103 and overshoot vs. control variable 104.
Contour plot

図示された立ち上がり時間は、９６に指定されたように、３５ピコセコンドエッジのものである。これらのプロットは、最適設定が低・立ち上がり時間対高・プリシュートおよびオーバシュートをバランスすることで到達した事実を説明する。   The rise time shown is for 35 picosecond edges, as specified at 96. These plots illustrate the fact that the optimal setting was reached by balancing low / rise time vs. high / preshoot and overshoot.

最適化の結果は、評価セクション６７の図７のダイアログに示される。この示された結果は、所望の刺激６７の実際の入力エッジ立ち上がり時間、９６のエッジ速度仕様に対する計算済み最適済立ち上がり時間６９、オーバシュート７０およびプリシュート７１、デバッグ目的に対するトップ７２および基線７３計算および最後に、総合的スコア７４である。これらの結果は、性能確認のためにユーザへ提示することができる。   The result of the optimization is shown in the dialog of FIG. The results shown are the actual input edge rise time of the desired stimulus 67, the calculated optimal rise time 69 for the 96 edge speed specification, the overshoot 70 and preshoot 71, the top 72 and baseline 73 calculations for debug purposes. And finally, an overall score of 74. These results can be presented to the user for performance confirmation.

最適化が完成したとき、オールパス・フィルターが見出された最適条件下で構築される、そしてチャンネル上の獲得物を補正するために方式により使用される。   When optimization is complete, an all-pass filter is built under the optimal conditions found and used by the scheme to correct for acquisitions on the channel.

図２０で、チャンネル１０５の未補正群遅延が、この特性１０６のパワー曲線見積もりに沿って示される。最適器は１０７で示される領域を検索した、確かに（６）式の形式におけるそれらに制限された関数でこの領域を検索する。補正のための最終群遅延特性が１０８であることを観察することは面白い。１０８が１０５に非常に近くないだけではなくて、検索のために利用されたものとまったく同じ形式でのチャンネル特性の近似である１０６にさえ近くない。   In FIG. 20, the uncorrected group delay for channel 105 is shown along with the power curve estimate for this characteristic 106. The optimizer has searched the area indicated by 107, and indeed searches this area with a function limited to those in the form of equation (6). It is interesting to observe that the final group delay characteristic for correction is 108. Not only is 108 not very close to 105, it is not even close to 106, which is an approximation of the channel characteristics in exactly the same way that was used for the search.

実際問題として、図２の状況を補正するために近似特性１０６を用いることは、図３に示す標準以下の結果をもたらす、ところが、図２の補正のためにオールパス・フィルター１０９によって提供された補正を用いることは、図４に示す優れた補正をもたらす。図２１は、未補正と補正済みチャンネルの群遅延特性を示し、最適群遅延特性が、群遅延特性を一定および平坦にするもののなかで１つではないことを説明する。更に、図２１に示す群遅延特性の検査量無しは、立ち上がり時間およびプリシュートの同時最小化に関する様々な群遅延特性の最適に関する全ての手がかりを提供する。   In practice, using the approximate characteristic 106 to correct the situation of FIG. 2 yields the substandard results shown in FIG. 3, whereas the correction provided by the all-pass filter 109 for the correction of FIG. Using the results in the excellent correction shown in FIG. FIG. 21 shows the group delay characteristics of the uncorrected and corrected channels, and explains that the optimum group delay characteristic is not one of the constant and flat group delay characteristics. Furthermore, the absence of the inspection amount of the group delay characteristic shown in FIG. 21 provides all the clues regarding the optimization of various group delay characteristics regarding the simultaneous rise time and preshoot minimization.

この発明が、理論的な群遅延特性を最適にする必要なくして、（ある明らかな制約の範囲内で）チャンネルの群遅延特性を最適化できることは事実である。   It is true that the present invention can optimize the group delay characteristics of a channel (within certain obvious constraints) without having to optimize the theoretical group delay characteristics.

本発明の上記記述は、様々な修正、変更および追加可能であり、特許請求の範囲と要旨の範囲を逸脱しない範囲で、さまざまに変更可能であることはいうまでもない。   The above description of the present invention can be variously modified, changed, and added, and it goes without saying that various changes can be made without departing from the scope of the claims and the gist.

本発明の群遅延補正のブロック図を示す。FIG. 2 shows a block diagram of group delay correction of the present invention. 立ち上がり時間、オーバシュートの測定量で示された不十分な群遅延特性を有するＷＭ８６００Ａ ＤＳＯのチャンネル・ステップ応答を示す。Fig. 4 shows the channel step response of a WM8600A DSO with insufficient group delay characteristics as indicated by rise time, overshoot measure. 同じＤＳＯのチャンネル・ステップ応答であり、それによって群遅延補正が簡単に実行され、そしてプリシュートによって示された不十分な特性を有するものを示す。It shows the same DSO channel step response, whereby group delay correction is easily performed and has the poor characteristics shown by preshoot. 同じＤＳＯのチャンネル・ステップ応答であり、それによって群遅延補正が適正に実行され、そして立ち上がり時間、オーバシュートおよびプリシュートによって示された特性を示す。The same DSO channel step response, whereby group delay correction is performed properly and exhibits the characteristics exhibited by rise time, overshoot and preshoot. その特性のパワー曲線見積もりに沿った周波数の関数として未補正チャンネル群遅延特性を示す。The uncorrected channel group delay characteristic is shown as a function of frequency along with the power curve estimate of that characteristic. 較正装置とＷＭ８６００Ａの群遅延補正方式の校正のためのそれらの配列を示す図である。It is a figure which shows those arrays for calibration of a calibration apparatus and the group delay correction | amendment system of WM8600A. 群遅延測定の構成に用いられるＷＭ８６００Ａ内のダイアログ・ページ、オールパス・フィルター適用、評価、性能測定、格付けおよび最適化を示す。Figure 6 shows dialog page in WM8600A, allpass filter application, evaluation, performance measurement, rating and optimization used to configure group delay measurement. 群遅延測定の構成に用いられるＷＭ８６００Ａ内のダイアログ・ページ、オールパス・フィルター適用、評価、性能測定、格付けおよび最適化を示す。Figure 6 shows dialog page in WM8600A, allpass filter application, evaluation, performance measurement, rating and optimization used to configure group delay measurement. は、オールパス・フィルターフィルターを用いたLevenberg-Marquardtアルゴリズムの繰り返しの詳細を記述するNassi-Schneiderman（ＮＳ）図である。These are Nassi-Schneiderman (NS) diagrams describing details of iteration of the Levenberg-Marquardt algorithm using an all-pass filter filter. は、３セクション・オールパス・フィルターの実装を示す。Shows an implementation of a three-section allpass filter. は、オールパス・フィルターフィルターの結果を示し、その群遅延補正仕様への遵守を説明する。Shows the results of the all-pass filter filter and explains its compliance with the group delay correction specification. は、立ち上がり時間、オーバシュートおよびプリシュートがどのように測定されるかを説明する本文と一緒に用いられる。Is used in conjunction with the text to explain how rise time, overshoot and preshoot are measured. は、あいまい論理格付け方式のあいまいメンバーシップ・セットを示す。Indicates an ambiguous membership set for the ambiguous logical rating scheme. 性能最適化で用いたステップを記述している。Describes the steps used in performance optimization. 性能最適化で用いたステップを記述している。Describes the steps used in performance optimization. 性能最適化で用いたステップを記述している。Describes the steps used in performance optimization. 性能最適化で用いたステップを記述している。Describes the steps used in performance optimization. 最適器出力制御変数の関数として、全体方式性能の面プロットを示す。A surface plot of overall method performance as a function of the optimizer output control variable is shown. 性能最適化がオーバシュートおよびプリシュート用の仕様をいかにバランスさせるかを説明する図を含む。It includes diagrams illustrating how performance optimization balances overshoot and preshoot specifications. 群遅延補正可能性、それが、未補正チャンネルの群遅延および選定群遅延補正に沿った性能最適化の期間で調査されることを示す。We show that the group delay correction possibility is investigated in the period of performance optimization along with the group delay of the uncorrected channel and selected group delay correction. 独立に群遅延特性を考えることでは、方式性能が単に最適化できないことを示す目的に補正済みおよび未補正群遅延を示す。Considering group delay characteristics independently shows corrected and uncorrected group delays for the purpose of simply indicating that the system performance cannot be optimized.

符号の説明Explanation of symbols

較正刺激発生器１、平均器５、チャネル応答６、畳み込み演算器１３、群遅延仕様発生器１５、最適化方式１６、制御変数（あるいは設計規則）１８、オールパス・フィルターフィルター１９、フィルター係数領域２１、振幅補正器３５   Calibration stimulus generator 1, averager 5, channel response 6, convolution calculator 13, group delay specification generator 15, optimization method 16, control variable (or design rule) 18, all-pass filter filter 19, filter coefficient region 21 , Amplitude corrector 35

Claims (13)

実装段階で用いられるデジタルオールパス・フィルターと、方式の全体性能が較正段階で測定され最適化されるように実装段階で用いられるオールパス・フィルターに対する係数を発生する方式とから成ることを特徴とするデジタル群遅延補正方式。   A digital allpass filter used in the implementation stage and a scheme that generates coefficients for the allpass filter used in the implementation stage so that the overall performance of the system is measured and optimized in the calibration stage Group delay correction method. 最適性能が位相応答あるいは群遅延特性に直接的に基づかないことを特徴とする請求範囲１に記載の方式。   The method of claim 1, wherein optimal performance is not directly based on phase response or group delay characteristics. 前記較正段階において、方式の最適全体性能の定義が、ユーザ修正可能であり、方式ステップ応答内の立ち上がり時間、オーバシュートおよびプリシュートの測定量を基づく、そして最適化は、これら３つの特性のバランスをとることを特徴とする請求範囲１に記載の方式。   In the calibration phase, the definition of the optimal overall performance of the scheme is user modifiable and is based on rise time, overshoot and preshoot measurements in the scheme step response, and the optimization balances these three characteristics. The method according to claim 1, wherein: 最適化要素の出力はその要素が較正する制御変数であり、その要素の入力は出力制御変数に基づいた全体方式性能のスコアであり、それにより前記要素が前記出力を較正し、そして前記入力スコアを最大にするために工夫されたやり方で前記入力を検査する最適化要素と、
最適器出力および随意におよび方式の測定済みの未補正群遅延を、周波数領域群遅延仕様に変換する仕様発生器と、
周波数領域群遅延仕様を、周波数領域群遅延仕様が高位遵守で補正されるように、オールパス・フィルター係数に変換するオールパス・フィルターフィルター要素と、
この知られた刺激への未補正の方式の応答の測定を可能にするやり方で、チャンネル入力に取り付けができる刺激発生器と、
刺激への未補正の方式の応答をフィルターし、刺激への補正済み方式の応答を生成するオールパス・フィルターフィルター要素により提供された係数を基礎としたオールパス・フィルター実装を含むオールパス・フィルター配列と、
刺激への補正済み方式の応答上で種々の補助変数測定量を作る計測器と、
種々の補助変数測定量を全体補正済み方式性能のスコアに変換する格付け方式と
から成る性能を最適にする閉ループ方式を特徴とする請求範囲１に記載の方式。 The output of the optimization element is the control variable that the element calibrates, the input of the element is a global performance score based on the output control variable, whereby the element calibrates the output, and the input score An optimization element that examines the input in a way devised to maximize
A specification generator that converts the optimized output and optionally measured uncorrected group delay of the scheme into a frequency domain group delay specification;
An all-pass filter filter element that converts the frequency domain group delay specification into an all-pass filter coefficient so that the frequency domain group delay specification is corrected with high compliance;
A stimulus generator that can be attached to a channel input in a manner that allows measurement of an uncorrected manner response to this known stimulus;
An all-pass filter array including an all-pass filter implementation based on the coefficients provided by the all-pass filter element that filters the uncorrected response to the stimulus and generates a corrected response to the stimulus;
An instrument that produces various auxiliary variable measurements on the response of the corrected method to the stimulus,
The method according to claim 1, characterized by a closed loop method for optimizing performance comprising a rating method for converting various auxiliary variable measurement quantities into a score for the overall corrected method performance. 前記較正段階において、刺激への前記未補正方式の応答が、内部で発生された理想刺激と測定済みの未補正チャンネル応答特性を用いて計算されることを特徴とする請求範囲２に記載の方式。   3. The method of claim 2, wherein in the calibration step, the uncorrected response to the stimulus is calculated using an internally generated ideal stimulus and a measured uncorrected channel response characteristic. . 前記較正段階において、前記計測器によって生成された補助変数測定量に対してユーザ定義のあいまいなメンバーシップ・セット、および前記あいまいなメンバーシップ・セットの補助変数測定量のメンバーシップに基づいた格付け規則を提供するユーザ定義のあいまいな規則基準、および前記あいまいな規則基準の実行を基礎として単一スコアを生成する非あいまい化要素から成るあいまい論理格付け方式として、格付け方式が実装されることを特徴とする請求範囲２に記載の方式。   In the calibration stage, a user-defined ambiguous membership set for the auxiliary variable measure generated by the instrument, and a rating rule based on the membership of the ambiguous membership set auxiliary variable measure A rating method is implemented as an ambiguous logical rating method consisting of a user-defined ambiguous rule criterion that provides an unambiguous element that generates a single score based on the execution of the ambiguous rule criterion. The method according to claim 2. 前記較正段階において、オールパス・フィルターフィルターは、オールパス・フィルターの群遅延およびフィルター係数に関してこの関数の偏微分およびフィルター係数値を計算するための計数値での予想を定義する関数に連携してLevenberg-Marquardtアルゴリズムを用い、これら係数値は、提供された群遅延仕様と前記係数を用いて評価されたオールパス・フィルターの群遅延を定義する関数間の２乗平均誤差が最小になるように計算されることを特徴とする請求範囲２に記載の方式。   In the calibration stage, the all-pass filter filter works in conjunction with a function that defines the expectation at the count to calculate the partial derivative of this function and the filter coefficient value with respect to the group delay and filter coefficient of the all-pass filter. Using the Marquardt algorithm, these coefficient values are calculated to minimize the mean square error between the provided group delay specification and the function that defines the group delay of the allpass filter evaluated using the coefficients. The method according to claim 2, wherein: 前記較正段階において、知られた刺激への未補正方式の応答は、この追加のハードウェアの効果を補正に含むために知られている刺激が、探査要素のようなチャネルに接続された追加のハードウェアを通過するように、測定されることを特徴とする請求範囲２に記載の方式。   In the calibration phase, the uncorrected response to known stimuli is an additional stimulus connected to a channel, such as a probe element, to include the effect of this additional hardware in the correction. 3. The method according to claim 2, wherein the method is measured so as to pass through hardware. 較正段階において、オールパス・フィルター配列が、未補正方式の応答のサンプル・レートを保存している間、異なるサンプル・レートに対して設計されたオールパス・フィルターで知られた刺激への未補正方式の応答をフィルタリング可能な多相配列であることを特徴とする請求範囲２に記載の方式。   During the calibration phase, the all-pass filter array preserves the sample rate of the uncorrected response, while the uncorrected to-stimulus known to all-pass filter designed for different sample rates. The method according to claim 2, wherein the response is a polyphase array capable of filtering the response. 前記較正段階は、定期的に入れられ、チャンネル応答を変更するために、動的較正を許すことを特徴とする請求範囲２に記載の方式。   The method of claim 2, wherein the calibration step is entered periodically to allow dynamic calibration to change the channel response. 前記較正段階は、定期的に入れられ、チャンネル応答を変更するために、動的較正を許すことを特徴とする請求範囲８に記載の方式。   9. The method of claim 8, wherein the calibration step is entered periodically to allow dynamic calibration to change the channel response. 方式性能の最適化に寄与する前記測定量は、性能検査のために外部に提供されることを特徴とする請求範囲４に記載の方式。   The method according to claim 4, wherein the measurement amount contributing to optimization of the method performance is provided outside for performance inspection. 方式性能の最適化に寄与する前記測定量は、性能検査のために外部に提供されることを特徴とする請求範囲１１に記載の方式。   The method according to claim 11, wherein the measurement amount contributing to optimization of the method performance is provided outside for performance inspection.

Images