JP2779973B2 - 変調方式用トレリスコーディング - Google Patents

変調方式用トレリスコーディング

Info

Publication number
JP2779973B2
JP2779973B2 JP2122820A JP12282090A JP2779973B2 JP 2779973 B2 JP2779973 B2 JP 2779973B2 JP 2122820 A JP2122820 A JP 2122820A JP 12282090 A JP12282090 A JP 12282090A JP 2779973 B2 JP2779973 B2 JP 2779973B2
Authority
JP
Japan
Prior art keywords
sequence
code
trellis
trellis code
digital data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2122820A
Other languages
English (en)
Other versions
JPH0310423A (ja
Inventor
エム アイウボグルウ ヴェダッド
デヴィッド フォーニー ジュニア ジー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Motorola Solutions Inc
Original Assignee
Codex Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Codex Corp filed Critical Codex Corp
Publication of JPH0310423A publication Critical patent/JPH0310423A/ja
Application granted granted Critical
Publication of JP2779973B2 publication Critical patent/JP2779973B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L25/03343—Arrangements at the transmitter end
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L25/03012—Arrangements for removing intersymbol interference operating in the time domain
    • H04L25/03019—Arrangements for removing intersymbol interference operating in the time domain adaptive, i.e. capable of adjustment during data reception
    • H04L25/03038—Arrangements for removing intersymbol interference operating in the time domain adaptive, i.e. capable of adjustment during data reception with a non-recursive structure
    • H04L25/03044—Arrangements for removing intersymbol interference operating in the time domain adaptive, i.e. capable of adjustment during data reception with a non-recursive structure using fractionally spaced delay lines or combinations of fractionally integrally spaced taps
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L27/00—Modulated-carrier systems
    • H04L27/32—Carrier systems characterised by combinations of two or more of the types covered by groups H04L27/02, H04L27/10, H04L27/18 or H04L27/26
    • H04L27/34—Amplitude- and phase-modulated carrier systems, e.g. quadrature-amplitude modulated carrier systems
    • H04L27/3405—Modifications of the signal space to increase the efficiency of transmission, e.g. reduction of the bit error rate, bandwidth, or average power
    • H04L27/3416—Modifications of the signal space to increase the efficiency of transmission, e.g. reduction of the bit error rate, bandwidth, or average power in which the information is carried by both the individual signal points and the subset to which the individual points belong, e.g. using coset coding, lattice coding, or related schemes
    • H04L27/3422—Modifications of the signal space to increase the efficiency of transmission, e.g. reduction of the bit error rate, bandwidth, or average power in which the information is carried by both the individual signal points and the subset to which the individual points belong, e.g. using coset coding, lattice coding, or related schemes in which the constellation is not the n - fold Cartesian product of a single underlying two-dimensional constellation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L2025/03592—Adaptation methods
    • H04L2025/03598—Algorithms
    • H04L2025/03611—Iterative algorithms
    • H04L2025/03656—Initialisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L2025/03592—Adaptation methods
    • H04L2025/03598—Algorithms
    • H04L2025/03611—Iterative algorithms
    • H04L2025/03656—Initialisation
    • H04L2025/03662—Initialisation to a fixed value
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L25/00—Baseband systems
    • H04L25/02—Details ; arrangements for supplying electrical power along data transmission lines
    • H04L25/03—Shaping networks in transmitter or receiver, e.g. adaptive shaping networks
    • H04L25/03006—Arrangements for removing intersymbol interference
    • H04L2025/03777—Arrangements for removing intersymbol interference characterised by the signalling
    • H04L2025/03802—Signalling on the reverse channel
    • H04L2025/03808—Transmission of equaliser coefficients

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Power Engineering (AREA)
  • Digital Transmission Methods That Use Modulated Carrier Waves (AREA)
  • Error Detection And Correction (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Reduction Or Emphasis Of Bandwidth Of Signals (AREA)

Description

【発明の詳細な説明】 （産業上の利用分野） 本発明はチャンネルを通じてディジタルデータを送る
ための変調方式に関する。
（従来の技術） 近年、符号化変調（coded modulation）を用いて理想
的な帯域限定ガウスチャンネルの通信容量の達成に向け
て著しい進歩があった。理想的ガウスチャンネルは平坦
なスペクトルと付加的な白色ガウス雑音を有している。
理想的なガウスチャンネルでは、信号対雑音比（SN
R）が大きいか、あるいは等価的に記号当りのビット数
が大きくなると、その通信容量と非符号化直角振幅変調
（QAM）などの非符号化変調方式を用いて得られる通信
容量との差は、10-5〜10-6程度の誤り率では約9dBであ
る（Forney,et al.,“Efficient Modulator for Band−
Limited Channels,"IEEE J,Select.Areas Commun.,vol.
SAC−2,pp.632−647,1984）。周知の符号変調方法で6dB
程度の有効な「符号化利得」（coding gain）を得るこ
とができて、上述の差を大幅に埋めることができる。
理想的な帯域限定ガウスチャンネル用に有効な符号化
変調方法ではラティス（lattice）又はラティス形トレ
リス（trellis）符号を用いるが、これらのものはコセ
ット（coset）コードと見倣されている（Coset Codes−
Part I:Introduction and Geometrical Classificatio
n,“IEEE Trans.Infarm.Theory,vol.IT−34,Sept.,198
8）。このような符号を用いると、符号化利得がそのコ
セット符号に基づく「基本的な符号化利得」と信号立体
配座境界（signal constellation boundary）の形状に
基づく「形状利得」（shape gain）の二つに分れること
が認められている。
アンガーベックの１次元及び２次元ラティス形トレリ
ス符号（Ungerboeck,“Channel Coding with Multileve
l/Phase Signals",IEEE Transactions on Information
Theory Vol.IT−28,pp.55−67,January,1982）又はウエ
イの多次元符号（Ｌ−F.Wei,“Trellis−coded modulat
ion with multidimentional constellations,“IEEE Tr
ans.Inform.Theory,Vol.IT−33,pp.483−501.1987）の
ような符号で、最大6dBの基本的な符号化利得、あるい
は「誤り係数」（error coefficient）の影響を考慮す
れば、5dB程度の有効符号化利得を得ることができる
（上述のForney,“Coset Codes"参照）。
「形状利得」は、単純な直角振幅変調に普通用いられ
る方形境界と見倣される信号立体配座境界の形状による
符号化利得の改善を示す。整形（shaping）によってよ
り高次元の球面状の信号立体配座境界、あるいは等価的
に２次元の有効なガウス分布となるならば、最大πe/6
（1.53dB）倍の形状利得を得ることができる（上述のFo
rney,etal.参照）。
理想的なチャンネルでは、米国特許出願第062,497号
（出願日1987年６月12日）及び第181,203号（出願日198
8年４月13日）において述べているようにボロノイ（Vor
onoi）配列を用いて、あるいは米国特許出願第312,254
号（出願日1989年２月16日）に述べているようにトレリ
ス整形を用いて、1dB以上の形状利得が得られることが
分っている。
一般に、符号化変調方法は理想的なチャンネルを意図
したもので、実際のトレリス符号化変調方法で最大6dB
程度の符号化利得を得ることができ、従って理想的なチ
ャンネルの通信容量との差を大幅に埋めることができ
る。この符号化利得は、（実効）5dB程度の基本的な符
号化利得と1dB程度の形状利得が組合わさったものと見
倣すことができる。
平坦でないスペクトルと白色雑音を示す理想的でない
普通のチャンネルについては、従来線形等化技術を用い
てできるだけ理想的なものに近い等化チャンネルを作っ
ている。線形等化器は、記号間干渉（Intersymbol Inte
rference,ISI）が余りひどくなければ有効であるが、帯
域限度チャンネルで実際上最大の帯域幅を用いたくなる
場合のようにチャンネルが空列（nulls）あるいはそれ
に近いもの（near−nulls）を持っているときには、線
形等化技術では過剰雑音が増えてしまう。同様に、平坦
な周波数レスポンスを有し且つ雑音スペクトルが平坦で
ない通常のチャンネルに対して、線形等化は雑音信号中
の相関を効果的に利用できない。より一般的には、SN比
のスペクトルが信号帯域内で大きく変化するチャンネル
では線形等化器は適切に動作できないことがある。
非符号化システム用として、SN比のスペクトルが激し
く変化するチャンネルに対して線形等化器よりも大幅に
性能が優れている周知の２つの方法は、判定帰還等化
（DFE）と一般に用いられているプリコーディングであ
る。所謂従来の判定帰還等化では、線形フィルターを用
いて雑音フィルターと「プリカーソル」（pre−couso
r）記号間干渉を除去し、更に前の判定を利用して「ポ
ストカーソル」（post−corsor）を記号間干渉を除去す
る。「送信器における判定帰還」とも呼ばれる一般に用
いられているプリコーディングでも、モジュロ演算で送
信器中で引き算を行ってそれと匹敵する効果が得られ
る。判定帰還等化と異なって、一般のプリコーディング
では送信器中でチャンネルレスポンスの情報が必要とな
り、これもまた判定帰還等化と異なるが誤り伝播が起き
にくい。
SN比が大きい場合には、理想的なチャンネル用の符号
化変調方法を理想的な（正確な帰還）零強制（zero−fo
rced）判定帰還等化法と組合わせて理想的なチャンネル
の通信容量に近付けることが分っている（Price“Nonli
nearly feedback−equalized PAM versus capacity for
noisy filter channel"ICC Conf.Record,pp.22−12 to
22−17,1972,及びEyuboglu,“Detection of Severly D
istorted Signals Using Decision Feedback Noise Pre
diction with Interlearning,“IEEE Trans.Commu.vol.
COM−36,pp.401−490,April,1988参照）。確かに、SN比
が大きいときには、判定帰還等化を用いた非符号化直角
振幅変調によるチャンネルの通信容量と理想的なチャン
ネルそそれとのデシベル差も、10-5〜10-6程度の誤り率
では9dBである。符号化システムについては遅延なく行
われる判定は信頼性が低いので、残念乍ら判定帰還等化
を直接用いることはできない。符号化システムで判定帰
還等化に匹敵する性能を得ようとする方法が幾つか提案
されている（米国特許第4,631,735号（特許日1985年３
月26日）及び第4,713,829号（特許日1985年６月19日）
参照。そのうちの一つは低減状態シーケンス推定（redu
ced−state sequence estimation（RSSE））で、これに
より余り複雑なこともなく最大シーケンス推定（maximu
m likeli−food sequence estimation（MLSE））の性能
に近いものが得られる。この方法の最も簡単なものは同
時判定帰還デコーディング（PDFD）と呼ばれ、判定帰還
等化法に密接な関係がある。
符号化システム用の一般のプリコーディングは、米国
特許出願第208,867号（名称Partial Response Channel
Signaling Systems,出願日1988年６月15日及び本願と同
日出願の前記米国出願の一部継続出願に述べられてい
る。これら出願では、ｈ（Ｄ）＝１±Dnの形のレスポン
スを有する通常のパーシャルレスポンスチャンネルにつ
いて述べている。一般のプリコーディングによれば、記
号当りのビット数が大きい場合は、送信器中でチャンネ
ルレスポンスが分っていれば、理想的なチャンネルにつ
いて得られるのと同じ符号で且つデコーディングの際の
複雑さも同じで整形利得（shaping gain）以外は略々同
じ符号化利得（理想的な判定帰還等化の非符号化システ
ムに対し）をどんな通常のチャンネルについても得るこ
とができる。
（発明の目的及び概要） 本発明はトレリスプリコーディングと呼ばれ、理想的
なチャンネルについて得られるのと同様の大きさ、すな
わち、1dB程度の整形利得を、コードを余り複雑にする
ことなく通常のチャンネルで得るために一般のプリコー
ディングとトレリス整形の考えを組合わせ且つ拡張した
ものである。
チャンネルレスポンスｈ（Ｄ）と白色ガラス雑音を有
する通常の離散一時間（discrete−time）チャンネル
（通信速度で動作する）について、トレリスプリコーデ
ィングではチャンネルレスポンスｈ（Ｄ）形式的に反転
したものｇ（Ｄ）で瀘波したトレリスコードは一般に有
限状態トレリス（finite−state trellis）で表現でき
ないことが分っている。しかし、低減状態シーケンス推
定の概念を使えば、コードも余り複雑にすることなく最
大シーケンス推定の性能に近づくように基準コードCs′
を有限状態「スーパートレリス」（finite−state“sup
er−trellises"）でデコードできる。事実、そのような
方法の最も簡単なもの、即ち、スーパトレリスが普通の
コードトレリスに変る同時判定帰還デコーディング（PD
FD）及び４−状態２次元アンガーベック符号では、0.6
〜0.9dBの形状利得が二つの項（terms）を有するチャン
ネルレスポンスについて得られることが分った。
一般に、本発明はディジタルデータシーケンスを、通
常のレスポンスのチャンネルを通じてデータ伝送するた
め信号点シーケンス（signal point sequence）にマッ
プすることを特徴とする。このマッピングはディジタル
データシーケンスとチャンネルレスポンスに基づいてそ
の信号点シーケンスを使用可能なすべての信号点シーケ
ンスの部分集合から選択して行う。使用可能なすべての
信号点シーケンスは瀘波されたトレリスコードの基本領
域内に在る部分集合のものであり、その基本領域は有限
次元領域の単純なカルテシアン積以外のものである。
本発明の好ましい実施例は次のような機能を含む。
瀘波されたトレリス符号は、シーケンスがＣ′（Ｄ）
＝Ｃ（Ｄ）ｇ（Ｄ）のコードである。ここでｇ（Ｄ）は
チャンネルレスポンスに関係したレスポンスを形式的に
反転したものであり、Ｃ（Ｄ）は普通のトレリス符号に
おける符号シーケンスである。上述の選択ステップで
は、信号点シーケンスｅ（Ｄ）＝［ｘ（Ｄ）−ｃ
（Ｄ）］ｇ（Ｄ）（ｘ（Ｄ）はディジタルデータシーケ
ンスが最初にマップされる初期シーケンスである）の平
均パワーが最小になる傾向がある。ｘ（Ｄ）は通常のト
レリス符号の「単純なカルテシアン積である。
上述の選択は、通常のトレリスコードが有する状態数
より少ない状態数を使って瀘波されたトレリス符号につ
いて低減状態シーケンス推定に基づき行われる。
瀘波されたトレリス符号の基本領域は近似的にその符
号のボロノイ領域、特に、そのコード用のデコーダー、
例えば、１より大きいか等しい遅延Ｍを有する最小距離
デコーダー（minimum distance decoder）に近いデコー
ダーで瀘波されたトレリスコード中の零シーケンスにデ
コードされる信号点シーケンスの集合から成る。
信号点シーケンスを一連の推定ディジタル要素にデコ
ードし且つ無帰還シンドローム形成子HTを用いて推定デ
ィジタル要素の一部に基づくより数の少ないディジタル
要素のシンドロームを形成することで、ディジタルデー
タシーケンスを信号点シーケンスの雑音で劣化したもの
から取り出す。
初期のシーケンスは第２符号の変形による符号シーケ
ンスで、第２符号はトレリス又はラティス形の符号であ
る。
ディジタルデータシーケンスを、普通のトレリス符号
の合同クラス（congruence class）に属し且つそれを表
わす初期シーケンスにマップし、瀘波されたトレリス符
号の合同クラスに属し且つ初期シーケンスより平均パワ
ーが小さい信号点シーケンスを選択し、更にディジタル
データシーケンスの要素の一部をコセット表現（coset
representative）シーケンスを表わすより多数のディジ
タル要素を形成するためのコセット表現発生器（coset
representative generator）に加える。コセット表現発
生器は、ディジタルデータシーケンスの要素の一部にシ
ンドローム形成マトリックスHTの逆であるコセット表現
発生器マトリックス（H-1）Ｔを乗算する。
トレリス符号は線形または非線形トレリス符号の場合
がある。線形トレリス符号は４状態アンガーベッグ符号
である。トレリス符号は２値、３値あるいは４値ラティ
スを分割したものに基づくこともある。
データ要素の初期立体配座における信号点へのマッピ
ングは線形あるいは距離不変（distance invarient）で
ある。信号点シーケンスの選択に当っては更に、次元Ｎ
（例えばＮ＝２又はＮ＝４）での信号点シーケンスの最
大エネルギーを示すピークパワーを減少させられる。こ
の選択は信号点シーケンスが通常半径Rcの球面（spher
e）内に在るようにさせられる。
低減状態シーケンスの推定は、その都度、確実にシー
ケンスが許容されるものとなる操作、すなわち、低減状
態シーケンス推定器のトレリスにおいて選択された経路
のいずれもが次のときには最も選択される可能性のある
ものとはならないようにそれらの選択した経路の距離を
調整する操作を行なうステップから成る。これらの経路
は、トレリス内の推定の位置で特定の状態遷移と経路が
含むかどうかに基づいて選ばれる。この操作はトレリス
内の選択した経路に大きな距離を割り当てることから成
る。ディジタルデータシーケンスを信号点シーケンスに
マップするステップは、多数の所定相回転のうちの回転
を与えられた信号点シーケンスのチャンネルの影響を受
けたものからディジタルデータシーケンスを確実に取り
出せるようにする。ディジタルデータシーケンスを初期
立体配座に属する信号点シーケンスにマップするステッ
プは、初期立体配座から信号点を選び出すためのビット
グループにディジタルデータシーケンスのデータ要素を
交換するステップを含み、そのビットグループは90度の
相回転を１、２或いは３回受けられた伝送されたシーケ
ンスのチャンネルの影響を受けたものからそれらのビッ
トを確実に取出されるようになっている。
本発明の他を特徴はチャンネルを通じてディジタルデ
ータシーケンスを送受信するモデムである。このモデム
はディジタルデータシーケンスを通常のレスポンスのチ
ャンネルを通じでデータ伝送するための信号点シーケン
スにマップする手段と、チャンネルを通じて信号点シー
ケンスの信号点を送出する変調器と、信号点シーケンス
の多分チャンネルの影響を受けたものをチャンネルが受
信する復調器と、そのチャンネルの影響を受けた信号点
シーケスからディジタルデータシーケンスを取り出すた
めの手段から成る。上述のマッピング手段はディジタル
データシーケンスとチャンネルレスポンスに基づいてす
べての使用可能な信号点シーケンスの部分集合から信号
点シーケンスを選択するためのシーケンスセレクタを有
し、その部分集合内のすべての使用可能な信号点シーケ
ンスは瀘波されたトレリス符号の基本領域内に在り、更
にその基本領域は有限次元領域の単純なカルテシアン積
以外のものである。
本発明の好ましい実施例では、ディジタルデータシー
ケンスを取出す手段は適応線形等化器と、適応予測フィ
ルターと、デコーダーとから成り、予測フィルターの訓
練時には線形等化器の後、チャンネルレスポンスｂ
（Ｄ）が学習され、データ伝送時には予測フィルターは
固定化され、更にこの手段は等化器誤差を構成するため
に、予測フィルターの出力に生じた最終的な予測誤差を
通過させるｇ（Ｄ）素子を有する。
本発明の他の利点及び特徴は好ましい実施例につき以
下述べるところから明らかになるであろう。
（発明の実施例） 以下、添付図面に示した好適な実施例に基づいて本発
明を詳細に説明する。
尚、最初に本発明の基となる用語と原理につき説明す
る。
シーケンス アルファベットのＡから一連の要素は（a0,a1,・・
・）、｛aK,k０｝、或いは遅延演算子（delay operat
or）Ｄにおいて表わされた形式的なべき級数ａ（Ｄ）＝
a0,＋a1 Ｄ＋・・・として示す。Ａ（シーケンス空間
の要素のすべてのシーケンスの集合はＡ∞で示す。
ラティス Ｎ次元のラティスΛのサブグループはサブラティスと
呼ばれる。サブラティスΛ′はラティスΛをラテイマΛ
中のサブラティスΛ′の１Λ／Λ′１コセットに分割さ
せる。
本発明では本来複素信号を処理するので、実ラティス
Λの座標を複素（N/2）次元ラティスΛｃの座標の実数
部及び虚数部と同一種することにより実Ｎ次元ラティス
Λｒを複素ユークリッド（n/2）空間ＣN/2中に要素があ
る複素（N/2）次元ラティスΛｃと見倣すのが原則とし
て好ましい。例えば、２次元実ラティスZ2は複素ガウス
整数のラティス（リング）Ｇと呼ばれる１次元複素ガウ
ス整数のラティス（リング）Ｇと呼ばれる１次元複素ラ
ティスに対応する。
ラティス符号は単に在るラティスΛの要素のすべての
シーケンスの集合Λ∞である。
ラティス形トレリス符号 ２値のラティス形・トレリス符号はＣ（Λ／Λ′;C）
で示し、ここでΛ／Λ′は｜Λ／Λ′｜＝2k+rのオーダ
ーの（２値の）ラティスの分割、ＣはＳ＝２ν状態を有
しレートがk/（ｋ＋ｒ）の２値の重量コードであり、ν
はコード制約を示す。２値ラティスはサブラティスとし
て2nZNを有する整数Ｎ個組のＮ次元ラティスでのサブラ
ティスである。符号Ｃ用の重量符号化器（convolutiona
l encoder）のコードワードは或るコセットラベル表示
によってΛ′のコセットのシーケンスを指定する、ラテ
ィス形トレリス符号Ｃ中のコードシーケンスＣ（Ｄ）は
集合Λ∞の中で重量コードＣ中に或るコードワードによ
り多分選択できるサブラティスΛ′のコセットのシーケ
ンスに属するシーケンスである。ラティス形トレリス符
号ＣにおけるすべてのコードシーケンスＣ（Ｄ）は、
（ｋ＋γ）ビットのラベルがサブラティスΛ′のコセッ
トを表わすブランチを有する重量コードＣのトレリス用
で簡素に表現できる。
ラティス形トレリス符号Ｃの時零のラティス（time−
zero lattice）Λ０は、零状態から広がる2kトレリスブ
ランチに対応する実ラティスΛの2kコセットの合併した
ものであると定義する。
ラティス符号ΛはΛ′＝Λの縮退（degenerate）トレ
リス符号と見倣し得る。
線形トレリス符号 トレリス符号は、コードシーケンスＣ（Ｄ）中のいず
れか二つのコードシーケンスの和が別のコードシーケン
スであるならば、線形である。線形トレリス符号の簡単
な例はラティス符号Λ∞である。しかし、より重要な例
は所謂“mode−2"トレリス符号である。このようなトレ
リス符号は、Ｎ次元2N方向のラティス分割ZN/2ZN及び或
るレートがk/Nの２値重量コードＣに基づく符号Ｃ（ZN/
2ZN）と見倣すことができ、更に重量コードＣにおける
２値のＮ組のシーケンスと合同（mod 2）の整数Ｎ組の
シーケンスすべての集合として特徴付けし得る（前述の
Forney,Coset Codes−１参照）。重要なmod−２トレリ
ス符号は４状態２次元アンカーベック符号と多次元ウエ
イ符号及び２重ウエイ符号（dubl wei codes）とから成
る。
ラティス形トレリス符号Ｃが線形トレリス符号であれ
ば、二つのシーケンスａ（Ｄ）及びｂ（Ｄ）の差ａ
（Ｄ）−ｂ（Ｄ）がラティス形トレリス符号Ｃ中のコー
ドシーケンスＣ（Ｄ）の場合には、これら二つのシーケ
ンスを合同なモジュロＣと呼ぶ。
トレリス符号Ｃのイグゾースティブ（exhaustive）デ
コーダーはシーケンス空間（ＲN）∞中の任意のシーケ
ンスｒ（Ｄ）のトレリス符号Ｃ中のシーケンスＣ（Ｄ）
へのマップＣ（ｒ）である。特定のコードシーケンスＣ
（Ｄ）に関する判定領域Ｒ（Ｃ）はシーケンスＣ（Ｄ）
にマップするすべてのシーケンスｒ（Ｄ）である。シー
ケンスｒ（Ｄ）に関する明らかな誤り、すなわち、単な
る誤りはｅ（ｒ）＝ｒ（Ｄ）−Ｃ（ｒ）であり、シーケ
ンスＣ（Ｄ）に関する誤り領域はＲｅ（Ｃ）＝Ｒ（Ｃ）
−Ｃ（Ｄ）である。トレリス符号中のすべてのシーケン
スＣ（Ｄ）に体する全判定領域Ｒ（Ｃ）はシーケス空間
（ＲN）∞のイグゾースティブパーティション（eshaust
ive partition）である。
線形トレルス符号Ｃのフェアー且つイグゾーステップ
（fair,exhaustive）なデコーダーが、シーケンスｒ
（Ｄ）のＣ（Ｄ）へのマップならば、トレリス符号Ｃ中
のシーケンスＣ′（Ｄ）全部についてｒ（Ｄ）＋Ｃ′
（Ｄ）をＣ（Ｄ）＋Ｃ′（Ｄ）にマップするようなマッ
ピングを行なう。従って、コードシーケンス０に対応す
る判定領域がＲ（０）であるならば、いずれのコードシ
ーケンスＣ（Ｄ）にも対応する判定領域はＲ（Ｃ）＝Ｒ
（０）＋Ｃ（Ｄ）となり、トレリス符号Ｃ中のシーケン
スＣ（Ｄ）すべてに共通の誤り領域Ｒ（０）の変形（tr
anslates）Ｒ（０）＋Ｃ（Ｄ）から成るシーケンス空間
（RN）∞のイグゾースティブパーティションが存在す
る。
トレリス符号Ｃが線形トレリス符号の場合には、シー
ケンス空間（RN）∞に於ける二つのシーケンスは、それ
らの差がトレリス符号Ｃ中の要素であるならば、合同mo
d Ｃと呼ばれる。トレリス符号Ｃはシーケンス加算（se
quence addition）によるグループなので、合同mod Ｃ
は等価関係であり、且つシーケンス空間（RN）∞を等価
（合同）クラスに分割する。線形トレリス符号Ｃの基本
領域Ｒ（Ｃ）は夫々合同クラスmod Ｃ中の夫々一つのシ
ーケンスから成るシーケンスの集合である。従って、シ
ーケンス空間（RN）∞中のシーケンスγ（Ｄ）のいずれ
もトレリス符号Ｃ中のシーケンスＣ（Ｄ）と基本領域Ｒ
（Ｃ）中のシーケンスｅ（Ｄ）について和γ（Ｄ）＝Ｃ
（Ｄ）＋ｅ（Ｄ）として一意的に表わすことができる。
即ち、（RN）∞＝Ｃ＋Ｒ（Ｃ）として表現し得るコセッ
ト分解がある。明らかに、Ｒ（Ｃ）はそれがトレリス符
号Ｃに関してフェアーでイグゾスティブなデコーダーの
共通誤り領域Ｒ（０）であるならば、そしてその場合に
のみ線形トレリス符号の基本領域となる。従って、適当
なデコーダーを指定することにより基本領域を特定す
る。
トレリスプリコーディング 第１図及び以下の説明において、離散時間形チャンネ
ル（10）が送信器中のトレリスプリコーダ（11）の出力
と受信器中のデコーダー（13）の入力間で1/Tのボーレ
ートで動作すると仮定する。第１図において、チャンネ
ル10は因果関係のある（cansal）複素インパルス応答ｈ
（Ｄ）＝h0＋h1D＋h2D・・・（項hjは複素項である）と
Ｅ［|nk|2］＝N0のようになる離散時間複素白色ガウス
雑音シーケンスｎ（Ｄ）で特徴付けられる。一般性を失
うことなくh0＝１とする。もしｅ（Ｄ）がチャンネルへ
の複素入力シーケンスであるならば、受信シーケンスは
γ（Ｄ）＝ｙ（Ｄ）＋ｎ（Ｄ），ここでｙ（Ｄ）＝ｅ
（Ｄ）ｈ（Ｄ）は受信シーケンスの雑音のない部分であ
る。このチャンネルモデルは、どの連続時間又は離散時
間線形ガウスチャンネルも情報を失うことなくこの形に
換えることができるという意味で標準なものである。実
際上どのようにしてこれが行うことができるかについて
は後述する。
要するに、第２図で説明すればトレリスプリコーディ
ングは次の様に動作を行う。まず、チャンネル上に送出
すべき入力ビット（12）は公知の通信法、例えば非符号
化直角振幅変調（QAM）あるいは公知の符号化変調法に
応じて最初の信号点シーケンスＸ（Ｄ）にマップされる
（14）。すなわち、ｘ（Ｄ）は単にラティス符号Λ∞、
例えば直角振幅変調についての（Z2）∞であり得る公知
のラティス符号Ｃｃの変形Ｃｃ＋ａ（Ｄ）におけるシー
ケンスである。最初の立体配座（16）（信号点シーケン
スｘ（Ｄ）が取り出される使用可能な信号点すべての集
合）を或る第２トレリス符号Ｃｓの時間零（time−zer
o）のラティスΛSOの或る基本領域Ｒ ０内に或るように
する。従って、ｘ（Ｄ）∈（Ｒｃ）∞。
第２図において、まずＣｓは線形ラティス符号でなけ
ればならない。また符号Ｃｓは符号Ｃｃのサブコードで
なければならない。即ち、符号Ｃｓにおけるどのコード
シーケンスも符号Ｃｃ内にある。
第２に、符号Ｃｓ中のコードシーケンスＣ（Ｄ）は次
式の平均パワー（average power）を最小にするためト
レリスプコーダー中で選ばれる（18）。
ｅ（Ｄ）＝［ｘ（Ｄ）−Ｃ（Ｄ）］ｇ（Ｄ） ここでｇ（Ｄ）はチャンネルレスポンスｈ（Ｄ）の形
式的な反形1/h（Ｄ）である。
トレリスプリコーディングにおける重要なステップを
表わすのに約立つ方法について述べる。ｘ′（Ｄ）＝ｘ
（Ｄ）ｇ（Ｄ）とする。次に、||e（Ｄ）||2＝||x′
（Ｄ）−ｃ′（Ｄ）||2が最小になる。ｃ′（Ｄ）を求
める。ｃ′（Ｄ）はｃ（Ｄ）ｇ（Ｄ）の形のシーケンス
であり、ここでＣ（Ｄ）∈Csである。すべてこのような
ｃ′（Ｄ）の集合を瀘波されたトレリス符号Ｃｓ′＝Ｃ
s g（Ｄ）と呼ぶ。もしｘ（Ｄ）が符号Ｃｓの或る基本
領域Ｒ ０内に均一に分布するランダムなシーケンスであ
れば、ｘ′（Ｄ）は符号Ｃｓの基本領域Ｒ ０内に均一に
分布することに注意すること。これは、Ｖ（R0）＝Ｖ
（Ｒ′０）［ここで基本領域のボリュームＶ（Ｒ）は各
ラティス点に関連したＮ空間のボリュームである］及び
変換ｘ′（Ｄ）＝ｘ（Ｄ）ｇ（Ｄ）は１対１であること
から生じる。更に、ｅ（Ｄ）は符号Ｃ′ｓのボロノイ領
域Ｒｖ（Ｃ′ｓ）内に均一に分布することになる。（符
号のボロノイ領域は最小距離（minimum distance）デコ
ーダーによってその符号内の零シーケンスにデコードさ
れる信号点シーケンスの集合である。従って、ｅ（Ｄ）
の平均パワーPavgはボロノイ領域内のシーケンスの平均
パワーである。平均パワーPavgは一般に符号Ｃｓとｇ
（Ｄ）のマグニチュードレスポンス|G（Ｗ）｜間の相互
作用に依存するが、ｇ（Ｄ）の位相レスポンス（phase
response）とは無関係であることは留意すること。また
ｅ（Ｄ）は非相関シーケンス（即ち平坦なスペクトルを
有する）であることも実験により示すことができる。
受信シーケンスは次式で与えられる。
r(D)=e(D)h(D)+n(D)=x(D)-C(D)+n(D)=y(D+n(D) ここでｙ（Ｄ）はｘ（Ｄ）に対する合同モジュロCsで
ある。ＣｓはＣｓの線形サブコードであるから、ｙ
（Ｄ）＝ｘ（Ｄ）−ｃ（Ｄ）も（ｘ（Ｄ）と同様に）Ｃ
ｃの変形ＣＣ＋ａ（Ｄ）におけるシーケンスであり、d2
min（Ｙ）≧d2min（Ｃｃ）となる。符号Ｃｃ用のデコー
ダ（19）を用いてｙ（Ｄ）を検出でき、更にこのデコー
ダーは雑音ｎ（Ｄ）を有する理想的なチャンネルを通じ
てシーケンスｘ（Ｄ）を伝送するときと同じ性能（すな
わち、d2min（Ｃｃ））を効果的に達成できる。最後
に、ｘ（Ｄ）はｙ（Ｄ）に対して合同モジュロＣｓであ
る（Ｒ ０）中の固有のシーケンスであり、従って、共通
誤り領域が（Ｒ ０）である符号Ｃｘ用の簡単なデコーダ
ー（21）で、即ち、記号毎の“modΛso"操作で推定され
たｙ（Ｄ）から取り出すことができる（符号Ｃｓ内のコ
ードシーケンス０に対応するデコーダーの判定領域がＲ
（０）ならば、Ｃｓ内のコードシーケンスＣ（Ｄ）のい
ずれにも対応する判定領域はＲ（ｃ）＝Ｒ（０）＋ｃ
（Ｄ）であり、Ｃｓ内に全シーケンスｃ（Ｄ）に対して
共通な誤り領域があるのに留意すること）。入力ビット
は、推定したシーケンスｘ（Ｄ）を情報シーケンスに再
び変換する逆マッパー（23）によって検索できる。
トレリスプリコーディングの性能は比ｒ＝d2min/（P
avrN0）によって測定される。
瀘波されたトレリス符号 上述したように、トレリスプリコーディングにおいて
は||e（Ｄ）||2＝||x′（Ｄ）−ｃ′（Ｄ）||2（ここで
ｃ′（Ｄ）はｃ（Ｄ）ｇ（Ｄ）、ｃ（Ｄ）∈Ｃ Ｓの形の
シーケンス）を最小にするシーケンスｃ′（Ｄ）を求め
る。このようなｃ′（Ｄ）すべてを瀘波されたトレリス
符号Ｃ Ｓ′＝Ｃ Sgと呼ぶ。トレリスプリコーディングを
実行するためには、符号Ｃ Ｓ用の最小平均自乗誤差（以
下、MMSEと呼ぶ）デコーダーが必要となる。
Ｃ Ｓが線形であるので、Ｃ Ｓ′は線形符号であること
は明らかである。符号Ｃ Ｓを有限状態トレリスによって
表わすことができても、Ｃ Ｓ′は一般にそのように表わ
すことは出来ない。事実、Skが時点ｋでコードシーケン
スｃ（Ｄ）∈Ｃ Ｓを発生する符号化器の状態だとする
と、時点ｋにおけるシーケンスＣ′（Ｄ）＝Ｃ（Ｄ）ｇ
（Ｄ）の状態はCk′＝〔sk;pk〕であり、ここでpk＝〔c
k-1、ck-2,・・・〕はレスポンスがｇ（Ｄ）である「チ
ャンネル」の状態を表わす。ｇ（Ｄ）が有限字数（fini
te degree）だとしても、Pkのとり得る値の数は有限で
はない。なぜなら可能なコード記号Ck-i（ｉ＝1.2,・・
・）の集合はラティスのコセットであり、したがって無
限に多い要素を有するからである。したがって、一般
に、符号Ｃ Ｓ′用のMMSEデコーダーは存在可能なコード
シーケンスＣ（Ｄ）又はＣ′（Ｄ）すべてについてのト
リー（トレリスではない）検索によってのみ実現し得る
が、このようなトリー検索は実行不能である。
瀘波された２次元トレリス符号用の低減状態デコーダー 以下の説明では、レスポンスｈ（Ｄ）に最小位相レス
ポンスをもたせる。即ち、ｈ（Ｄ）のすべての核（pol
e）と零が単位円内或いは単位円上になるようにする。
これは操作要件ではないが、これにより部分最適デコー
ダーを用いた場合に性能が向上する。
低減状態シーケンス推定（RSSE）の原理を用いて、符
号Ｃ Ｓ′用の近最適「低減状態」トレリスデコーダーの
クラスをどのように構成するかについて説明する。
本節においては、符号Ｃ Ｓを分割Λs/Λｓ′＝Z2/R
m+rZ2に基づく２次元トレリス符号だと仮定する。これ
らの符号は、Rm+rZ2の固有のコセットに関連するブラン
チ毎に2m遷移を有するトレリスで表わすことができる。
つぎの節では、その方法をどのようにしてより高次元の
トレリス符号に拡張できるかを示す。２次元符号はｇ
（Ｄ）が複素数位のレスポンスのときに使用する最も自
然な符号であることは明らかである。
低減状態シーケンス推定の関連する２二つの原理の第
１は、フィルターレスポンスｇ（Ｄ）の字数がｋ以上の
ときでも、最後のｋ個のコード記号ck-1が古くなるにつ
れ（less recent）、それについて保持されている情報
が段々と粗くなり遂には全く無視される（ｉ＝ｋ）よう
にラティスΛ（１）、Λ（２）・・・、Λ（ｋ）のシー
ケンスがネストされている（すなわちΛ（ｉ）はΛ（ｉ
＋１）のサブラティスでなければならない）或るラティ
スΛ（ｉ）の｜Λs/Λ（ｉ）｜個のコセットΛ（ｉ）＋
ａ（ck-1）のうちの一つに於けるコード記号ck-1の親子
関係（membership）に関してのみそのコード記号を監視
することである。
したがって、もしΛｓとΛｓ′が２次元実（１次元複
素）ラティスならば、例えばΛｓ＝Z2およびΛｓ′＝
m+rZ2であるならば、２次元区画チェーン（partition c
hain）をZ2/Λ（ｋ）／・・・／Λ（１）、（Λ（ｉ）
＝RjiZ2、ここで１ｉｋ）と定義するので、Z2/Λ
（ｉ）はJi＝2ji程度の２次元ラティス区画である。
Z2中のコード記号ck-1（１ｉｋ）はΛ（ｉ）のJi
コセットのひとつに属する。このコセットをａ（ck-1）
で示す。したがって、時点ｋにおけるコードシーケンス
Ｃ′（Ｄ）＝Ｃ（Ｄ）ｇ（Ｄ）の「コセット状態」（co
set state）はtk＝〔ａ（ck-1）、・・・ａ（ck-n）〕
と定義できる。
次にコセット状態tkを符号エンコーダー状態（encode
r state）skと連結して「スーパー状態」（super−stat
e）Vkを得る。
vk＝［sk;tk］ ＝［sk;a（ck-1），・・・,a（ck-k）］． 現状態Vkとコード記号ckを与えられると、次の状態V
k+1は一意的に決まることに留意すること。この一意性
は区画のネストされた性質、すなわちΛ（ｉ）はつねに
Λ（ｉ＋１）のサブラティスであるということにより保
証される。
第３図において、スーパー状態により低減状態トレリ
スが定義され、これはしばしばスーパートレリスと呼ば
れる。このトレリスにおいて、スーパー状態（25）から
派生するすべてのブランチ（27）に関連する信号点は時
間零（time−zero）のラティスΛSOのコセットに属す
る。もしΛＳ′がΛ（ｉ）のサブラティスであるなら
ば、普通のトレリスにおけると同様にどのスーパー状態
からも2m個のコセットのブランチが派生する。これらの
ブランチの夫々はΛSOの任意の合併であるΛ′の2m個の
コセットの一つと関連している。他方、もしΛ（１）が
Λｓ′のサブラティスならば、ΛSOの任意のコセットの
合併であるΛ（１）の2j1-r個のコセットの一つ毎にブ
ランチが生じる。
Vkのとり得る値の数は有限である。事実、もしΛ
（ｉ）がｋより小さいｉすべてについてΛｓ′（jiｍ
＋ｒ）のサブラティスであり、Λ（ｋ）がΛSO（jk
ｒ）のサブラティスであるならば、スーパー状態の総数
は次のように与えられる。
Ｓ′＝ＳΠ１ｉＫ2ji-r 低減状態トレリスを説明したので、次にヴィタービの
アルゴリズムを用いてこれらのトレリスを探索する方法
を説明する。ｇ（Ｄ）＝gk（Ｄ）＋ｇ∞（Ｄ）と置く。
ここでgk（Ｄ）＝１＋g1D＋・・・＋gkDkは第１のｋ＋
１項に対応した多項式で、ｇ∞（Ｄ）は多分無限なスパ
ン（possible infinite span）の残留成分である。ｇ∞
（Ｄ）＝gN（Ｄ）/gD（Ｄ）と置く。ここでgN（Ｄ）及
びgD（Ｄ）はともに有限字数多項式である。したがっ
て、gN（Ｄ）は遅延が少なくともｋ＋１であるｇ
∞（Ｄ）と同じ遅延を有する。
低減状態デコーダへの入力がｘ′（Ｄ）と仮定する。
第４図において、任意の時点ｋでのコードシーケンス
ｃ′（Ｄ）のユークリッド距離の経路長（Enclidean di
stande path metric）をブランチ長（branch metrics）
γｊ（ｊｋ）の累積和Γｋ＝Σｊ ｋγｉと定義す
る。この累積は次に応じて計算され（31） γ（Ｄ）＝‖ｘ′（Ｄ）−ｃ′（Ｄ）‖２ =‖x(D)+[x(D)-c(D)][gＫ(D)-1]+w(D)-c(D)‖２ ここで,w（Ｄ）＝［ｘ（Ｄ）−ｃ（Ｄ）］ｇ
∞（Ｄ），これはｗ（Ｄ）が ｗ（Ｄ）＝−ｗ（Ｄ）［gD（Ｄ）−１］＋［ｘ（Ｄ）−
ｃ（Ｄ）］gN（Ｄ）， をｋ０についてはwk＝０として満足させることを意味
する。
［gk（Ｄ）−１］、gN（Ｄ）及び［１−gD（Ｄ）］は
すべて少なくとも１の遅延を有し、従って、ヴィタービ
アルゴリズム（VA）は併合経路（merging paths）を比
較し（33）且つ最小径路長を有する残存なシーケンスを
保存する（35）ことにより再帰的に進める（37）ことが
できるのに留意のこと。勿論、ここではブランチ長が残
存経路とは無関係な最大シーケンス推定（MLSE）におけ
るヴィタービアルゴリズムの動作とは対照的に、残存シ
ーケンスはck-1、・・・ck-2及びwkを通る残存経路によ
って決まる。従って、ヴィタービアルゴリズムでは残存
経路毎にこれらの量を記憶する必要がある。トレリスの
構成において、たとえフィルターレスポンスｇ（Ｄ）の
ｋ項のみが考慮されるにしても、上述の量の記憶値はす
べてブランチ長の計算に含まれる。
これらの低減状態デコーダーのうちで、複雑性に対す
る性能のトレードオフの点で特に際立ったものが一つあ
る。それは同時判定帰還デコーディング（PDFD）の特別
なシーケンスで、その場合には低減状態トレリスは単に
最初の符号Ｃｓのトレリスである。これはＫ＝０と決定
することで得られる。同時判定帰還デコーダー（以下PD
FDデコーダーと呼ぶ）はこのクラスでもっとも簡単なも
ので、しばし最適なデコーダーに近い動作をするが、そ
の性能は最も低い。
実際のヴィタービアルゴリズムは有限のデコーディン
グ遅れを持っている。このアルゴリズムによれば、時点
ｋの正しい符号がVkとだとすると、観測値γｋ、γk+1
・・・γK+Mに基づいてｋ番目の記号について効果的に
判定できると仮定できる（この仮定によれば、ヴィター
ビアルゴリズムは常に正しいコードシーケンスを選択す
る）。Ｍ＝０の場合には、そのようなデコーダーは単純
な判定帰還デコーダー（DFD）となり、その場合、各記
号間でデコーダーはそれ以前の判定結果を利用して「ポ
ストカーソル記号間干渉」を引き算し、ΛSOようのMMS
デコーダーを用いてΛSOの適当なコセットを選択するこ
とによりハード判定（hard−decision）デコーダーのよ
うに動作する。この場合、明らかに、チャンネルレスポ
ンスは関係なくエラーシーケンスは時間零のラティスΛ
SOのボロノイ領域［RV（ΛSO）］∞内に常にあり、この
領域の平均パワーは伝送された記号の平均パワーを決定
する。
低減状態デコーダー（以下RSSEデコーダーと呼ぶ）の
共通誤り領域Ｃ′Ｓの基本領域である。この領域の平均
パワーが得られる形状利得を決定する。この領域、従っ
て形状利得は、前にMMSEデコーダーでみたように、最初
の符号Ｃ Ｓ都フィルターレスポンスｇ（Ｄ）間の相互作
用によって大体決まる。
実際上、誤り領域形状利得は次のようにして計ること
ができる。符号Ｃ′Ｓの或る簡単な基本領域（Ｒ ０）∞
内に均一に分布する入力シーケンスｘ′（Ｄ）をデコー
ダーし、エラーシーケンスｅ（Ｄ）を得る。このシーケ
ンスはデコーダーの共通誤り領域に均一に分布する。出
力平均自乗誤差（MSE）が形状利得となる。Ｍ＝０では
ΛSOの形状利得を得る。Ｍが無限に増えてゆくにつれ
て、誤り領域が変化し、出力平均自乗誤差は使用されて
いる低減状態トレリスにより決まる限界に向かって単調
に減少する。
瀘波された多次元トレリス符号用の低減状態デコーダー 上述の低減状態デコーディング方法を、二重ウエイ符
号のようなより高次元（Ｎ２）の線形トレリス符号Ｃ
Ｓに適用する。二重ウエイは、ウエイの“Trellis−Cod
ed Modulation with Multidimentional Constellation
s"IEEE Trans.Inform.Theory,Vol.IT−33,pp.483−501,
1987に述べられているタイプのウエイ符号が二重になっ
たものである。これらの符号はmod−２トレリス符号
で、これらラティスパーティションΛS/Λ′Ｓ＝ZN/2ZN
及びZNにおいて2ZNのコセットを選択するレートがk/Nの
２値重量コードＣに基づくものと見倣すことができる。
これらのコセットはZ2内の2ZNのN/2コセットにより特定
できる。
Ｎ次元トレリスコードはN/2周期で周期的に変化する
２次元トレリスで表現できることになる。nN/2の時点で
はトレリスはＳ個の状態を有し、最初のＮ次元トレリス
と同じように各状態毎に2m個のブランチを有する。一
方、中間の時点（kN/2）＋ｊ（ｊ＝1,2・・・、（N/2−
１）では、状態の数が増え、その正確な数は使用する特
定の符号により決まる。
一例として、4D ８状態の二重ウエイ符号（4D ８−
state dual Wei code）を考える。この符号はパーティ
ションZ4/2Z4及びレートが1/4の重量エンコーダーに基
づく周期２（period−２）の時変トレリス符号と見倣す
ことができる。このトレリスを第５図に示す。ここで、
同時に８つの状態が存在し、各状態から二つの異なるブ
ランチが出てて、その合間に夫々一つのブランチが出て
いる状態が16存在していることに注意。
一旦２次元トレリスが得られると、低減状態デコーダ
ーは前節で述べたように定義できる。従って、ヴィター
ビアルゴリズムの動作はトレリスの時間とともに変化す
る性質を考慮する必要がある以外は前と同じである。ま
た、ハード判定デコーダー（Ｍ＝N/2−１）の形状利得
は時間零のラティスΛSOのそれとは同じでないかもしれ
ない。
離散時間チャンネルモデルの構成 これまでのところでは、次式で記述される標準的な離
散時間チャンネルを想定した。
γ（Ｄ）＝ｅ（Ｄ）ｈ（Ｄ）＋Ｗ（Ｄ） ここで、ｅ（Ｄ）は複素入力シーケンス、ｈ（Ｄ）は
h0＝１の複素で、因果関係のある（causal）最小位相レ
スポンス、Ｗ（Ｄ）はｅ（Ｄ）とは無関係な白色ガウス
雑音成分である。実際には物理的チャンネルはほとんど
この標準的なモデルとは合致しない。すなわち、チャン
ネルレスポンスは最小位相レスでないことも多く、雑音
は相関を取り得るし、更に、物理的チャンネルはしばし
ば連続時間のものである。従って、第６図において、実
際は物理的フィルタ（201）はしばしば送信器と受信器
に線形送信及び受信フィルタ（202）と（204）が付け加
えられて、標準モデルに従う離散時間チャンネルを構成
する。
標準的な離散時間チャンネルを設けることの他に、上
述のフィルターレスポンスの性能が最適になるのに役立
つことが望ましい。最適の送信フィルタはナイキスト帯
域内にれんが塀状（又は平坦な）スペクトルを有するこ
とを普通一般化したプリコーディングの場合に示されて
いる（連続時間チャンネルではこの結果は緩やかな条件
下で保持される。前述のPrice参照）。他方、最適の受
信フィルタは、ボーレート（及び最適サンプリング位
相）でサンプリングされる整合フィルター（チャンネル
レスポンス及び実際のチャンネルの雑音スペクトルで合
される）と、その後に設けられて最小位相組合わせ（mi
nimum−phase combined）レスポンスｈ（Ｄ）を生じる
離散時間雑音白色化フィルタは零強制線形等化器とその
出力に表われる残留雑音シーケンス用の最小位相線形予
測（誤差）フィルタとの縦結接続で説明できる。予測フ
ィルタはチャンネルモデルｈ（Ｄ）を表わす。
実際では、全離散時間チャンネルを標準的モデルから
はずれて記号間干渉と雑音との間でより良いトレードオ
フを得るのが好ましい場合がある。例えば、フィルタの
選択は出力平均自乗誤差（MSE）に基づいても良い。勿
論、記号間干渉が最小になるという保証ではない。それ
にも拘らず、適応が容易なのと、特にSN比が小さいとき
には誤り確率が（常にでないにしても）しばしば低くな
ると信じられているので、この判定基準を用いることが
多い。このMSE判定基準では、最適の送信器スペクトル
は異なり、情報理論で見られる「注水特性」（water−p
ouring characteristic）を持っている（J.Salz,“Opti
mum mean−squared error decision feedback equaliza
tion,"BSTJ,vol.52,pp.1341−1373,1973参照）。しかし
ながら、電話線上で見られる適度の或いは高いSN比につ
いては、「注水スペクトル」はれんが塀状のスペクトル
で密接に近似できる。最小MSE受信フィルタもボーレー
トでサンプルされる整合フィルタと白色残留エラーシー
ケンスを生じる離散時間フィルタから成る。この白色化
フィルタはMSE線形等化器をその出力に表われるエラー
シーケンス（記号間干渉と雑音）用の予測誤差フィルタ
ーレスポンスの縦続で表わすことができる。
上述のMSE判基準では、受信したシーケンスはｒ
（Ｄ）＝ｅ（Ｄ）ｈ（Ｄ）＋ｎ′（Ｄ）と書くことがで
き、ここでエラーシーケンスは信号に依存しまた多分非
ガウス形である。トレリスプリコーダーも同じように動
作できる。ここで、最適な送信フィルタを用いれば、前
レスポンスはSN比と無関係になる（事実、非記号間干渉
判定基準（no−ISI criterion）で得るものもこれと同
じフィルターである。）ことに留意するのも有益かもし
れない。
実際上、整合フィルターとMSE線形等化器の組合わせ
はT/M（Ｔはボー間隔、Ｍはエイリアシング（aliasin
g）を回避するのに十分な大きさに選ばれている）の分
数タップ間隔を有するディジタルトランスバーサル等化
器として実現できる。物理的チャンネルの特性はしばし
ば分からないので、この等化器を学習するために適応判
定訓練アルゴリズムが必要となる。これは、QPSK信号構
成を変調する擬似雑音（PN）シーケンスのような公知の
トレイニングシーケンスをデータ伝送に先立って伝送
し、次に最小平均自乗アルゴリズム（以下、LHSアルゴ
リズムと呼ぶ）を用いることにより達成できる（J.Proa
kis,“Digital Communications,"Mcgrow−Hill,1983参
照）。いったん等化器を学習してしまえば、適応最小MS
E線形予測器が実現できる。この予測器のタップ間隔は
Ｔで、残留誤差シーケンスを白色化する。その定常状態
係数がモデルの所望のチャンネルレスポンスｈ（Ｄ）を
形成する。これまでの説明では、すべてのフィルタが無
限長であるとした。勿論、実際には線形等化器と予測器
は有限長のフィルタで実現する。しかしながら、線形等
化器は予測器が十分の長さのものの場合には、これまで
の説明が近似的に当てはまる。
十分に長い訓練期間が終った後、チャンネルレスポン
スｈ（Ｄ）に関する情報が送信器に送り返されてトレリ
スプリコーディング時に使用される。データ伝送時には
チャンネルレスポンスの小さな変化を検出するように線
形等化器の係数を常に適応アルゴリズムで調整する。し
かし、予測フィルタの方は固定したままとする。この情
報を「サービスチャンネル」を使って送信器に送り返す
ことができ、更に送信器と送信器の間が適当な同期が維
持できるとすれば、予測器の更新も考えられる。或い
は、受信器が予測フィルタの係数の真の現在値を監視
し、もし喰い違いが大きくなすぎた時には新しい訓練信
号を要求するようにしてもよい。
モデムの実現 トレリスプリコーディングの応用の一つは、2954Hzの
ボーレートで19.2kb/sのビットレートで動作する。すな
わち、ボー当り6.5ビット送出する音声帯域モデムに対
するものである。送信器及び受信器は大抵ディジタルの
形で実現する。
このようなモデルの送信器（120）と受信器（104）と
を第７図及び第８図に夫々示す。上述の最適性に基づい
て、送信器フィルター（106）を過剰帯域幅が小さい
（12％）二乗余弦平方根特性を有する。即ち、れんが
塀状スペクトルを近似するように選ぶ。訓練時には、公
知の擬似ランダム４点QAM（直角振幅変調）シーケンス
（107）ｘ（Ｄ）を、受信器が最初にその適応等化器（1
08）を、次に適応予測フィルタ（110）を学習できるだ
けの長い時間、訓練／データスイッチ（105）を介して
伝送する。送信器フィルタの複素出力を搬送周波数w
C（ラジアン/s）に変調し、その変調信号の実数部をD/A
変換し、アナログフィルタで濾波し、チャンネルを通じ
て送信する（107）。受信器（104）では、受信信号はア
ナログフィルタ（109）で濾波され、十分高い公称サン
プリングレートでA/D変換される（サンプリング位相は
タイミング回復回路（timing recovery circuitry）に
より制御される）。ディジタルサンプルZNのシーケンス
（ここでｎはサンプリング指標）をタップ間隔T/Mの等
化器遅延線（108）に加える。
適応受信器の動作を説明するために、線形等化器の複
素係数をcn,（ここで−N1ｎN2（N1＋N2＋１タッ
プ））として示す。等化器の出力をボーごとに計算し、
変調してシーケンスＲ′ｋを得る。すべての係数は零に
初期設定されるものとする。初期値はまた（Chevillat
et al.,“Rapid Training of a Voice−band Date Mode
m Receiver Employing an Equalizer with Fractional
T−spaced Coefficients,IEEE Trans.Commu.,Vol.COM−
35,pp.869−876,Sept.1987）に述べられているような変
速初期設定方を用いて決めてもよい。いずれの場合で
も、線形等化器の係数は、ｃn,k＋１＝ｃn,k−αεkzn
★， （ｎ＝＝N1,・・・0,・・・N2,k＝ｒ′ｋ−Xkは等化
器出力と分かっている伝送記号xkとの間の誤差、ｋ＝n/
Mはボー間間隔の指標である）に応じて調整される。も
しステップサイズαが十分小さいと、係数はMSE（平均
自乗誤差）が最小になる値に収束する。更に、N1都N2が
十分大きいと、フィルタは先の述べた最適MSE線形等化
器に収束する。
いったん等化器が収束すると、その出力γ′ｋは係数
h0＝１（固定）、h1及びh2のＴ間隔予測（誤差）フィル
タに供給される。このフィルタがγ（Ｄ）、即ちチャン
ネルモデルの出力を生じる。その係数は ｈi,k＋１＝ｈi,k−βε★ k-iε′k,i＝1,2 ここで、 ε′ｋ＝rk−xk−xk-1h1,k−xk-2h2,k は予測後の最終的な誤り、βは他の小さなステップサイ
ズである。βが十分小さいと、これらの係数は平均自乗
誤差が最小となる値に収束する。もしチャンネルモデル
全体をここで仮定するように３次元モデルで表現できる
ならば、先に述べたように残留誤差シーケンスがほぼ白
色になると思われる。
収束後、係数h1とh2とはトレリスプリコーディング時
に使用するよう送信器に送り返される。これらは、例え
ば、係数を２進ワードに符号化し、４′−QAM信号方式
で送るだけで行うことができる。普通これらのワードは
フレームの開始を示すフラッグと伝送誤りを検出するた
めの誤り制御検査を含む小さなフレームで送られる。以
下の説明では、推定チャンネルレスポンスｈ（Ｄ）で示
し、その形式的逆（formal inverse）をｇ（Ｄ）で示
す。
データ端末装置（DTE）（120）からの実際のデータ伝
送時に、予測フィルター（110）は固定しておくが、線
形等化器（108）はチャンネルレスポンスの小さな変化
を検出するため絶えず判定指示モードとされる。トレリ
スプリコーデのため、判定は予測フィルター（110）の
出力ｈ（Ｄ）として得られるεｋを発生することは不可
能である。従って、等化器出力を再構成するために、予
測誤差フィルタの一の出力ｒkを推定したチャンネル記
号ｙ′ｋとの間の最終的な予測誤差ε′ｋ＝rk−ｙ′ｋ
がｇ（Ｄ）（122）を通される。推定値ｙ′ｋは簡単な
ラティス動作で遅延もなく得られるが、これはまた多少
の遅さはあるがヴィタービデコーダーから得ることもで
きる。実験によれば、この構造は判定誤りがあっても信
頼性良く動作する。
第７図において、トレリスプリコーダ（124）では符
号化用に４次元16状態ウエイ符号（Ｃｃとして示す）
を、整形用に２次元４状態アンガーベック符号（Ｃｓと
して示す）を用い、２次元（即ち、ボー）如に6.5ビッ
トを送出する。符号Ｃｓはレート1/2の２値重量エンコ
ーダー（binary convolutional encoder）と２次元パー
ティションZ2/2Z2に基づくmod 2のトレリス符号であ
る。等価的に、符号Ｃｓはレート2/4の重量エンコーダ
ーと４次元パーティーションZ4/2Z4で記憶できる。この
形で符号Ｃｓは４次元の時間零ラティスRZ4を有する。
他方、符号Ｃｃはレート3/4の重量エンコーダーに基づ
いており、パーティション2-3Z4/2-2Z4に基づくように
基準化される。この符号は４次元如に（等価的には２ボ
ー毎に）一つの冗長ビットが加わる。時間零ラティスRZ
4の基本領域は基準化されたラティス2-3Z4のどのコセッ
トからも正確に２2x6.5＋１個、即ち、|2-3Z4/RZ4|＝2
14の点を含んでいる。
小さなバッファー（130）に、信号間隔（20）毎に6.5
ビットのレートでデータ端末装置から受信したビットが
入る。連続したボーで、スクランブラー（scrambler）
（132）はこのバッファーから７或いは６ビットを交互
に取り出す。スクランブルされた（scrambled）ビット
は、I6（2j）〜I0（2j）及びI5（2i＋１）〜I0（2j＋
１）のラベルが付けられて二つの連続する時点において
所謂Ｉビット13個単位で２進エンコーダーに送られる。
第９図を参照すると、ＩビットI2（2j）I1（2j）は整
数mod 4を表わすものとされ、差分符号器（150）で差分
的に符号化されてI D2（2j）I D1（2j）＝I2（2j）I1
（2j）4I D2（2j−２）I D1（2j−２）（ここではm
od 4加算を示す）の関係に応じて二つの差分的に符号化
されたビットI D2（2j）及びI D1（2j）を得る。
ビットI D1（2j）とI D（2j）はレートが2/3の16状態
２進重量符号器（152）に入り、そこで一つの冗長ビッ
トY0（2j）が得られる。第10図を参照すると、この符号
器は４個の２遅延シフトレジスター（248）と３個のmod
2アダー（250）を有する順序回路を含む（この符号器
は他の回路を使っても実現できる）。
再び第９図を参照すると、ビットI D2（2j）I D1（2
j）と冗長ビットY0（2j）はビット変換器（154）に入
り、そこでは下記の表に応じて４個の出力ビットを発生
する。
これらの出力ビットを用いて、ユニオン（union）が
４次元グリッド（grid）2-3Z4＋（2-4,2-4,2-4,2-4）の
2-2Z4の16コセットのうちの一つを選ぶ。このようなコ
セットの夫々は２次元グリッド2-3Z2＋（2-4,2-4）にお
いて一対のコセット2-2Z2で表現できる。これらはZ1（2
j）Z0（2j）及びZ1（2j＋１）Z0（2j＋１）により個別
に選択される。
残りのＩビットI3（2j）〜I6（2j）は変らず、改めて
Z2（2j）〜Z5（2j）のラベルが付けられる。これらはZ1
（2j）Z0（2j）と組合わされて６個組みZ5（2j）Z4（2
j）・・・Z0（2j）を形成する。同様に、ＩビットI2（2
j＋１）〜I5（2j＋１）はZ1（2j＋１）Z0（2j＋１）と
ともに６個組みZ5（2j＋１）Z4（2j＋１）・・Z0（2j＋
１）を形成する。ＩビットI1（2j＋１）I0（2j＋１）は
順次レート1/2の逆シンドローム形成子（H-1）Ｔ（15
0）に入る。Ｈは上記において定義した二進符号Ｃｓの
シンドローム形成子である。第11A図を参照すると、
H-1）Ｔは２組のＳビットS1（2j）S0（2j）及びS1（2j
＋１）S0（2j＋１）を作る。前に述べたように、また前
記の米国特許出願“Trellis Shaping for Modulation S
ystems"に記載されているように、（H-1）Ｔは下に述べ
る（Ｈ）Ｔの逆であり、これを含めることで誤り伝播を
抑制する。
第12図を参照すると、上述のようにして発信した16ビ
ットに、グリッド2-3Z2＋（2-4,2-4）上に在る256ポイ
ントの２次元方形信号セットから選んだ二つの最初の信
号点ｒ（2j）及びｒ（2j−１）にマップされる。まず、
６個組みのＺビットを用いて64ポイントの象限−１の信
号セット（261）から信号点を選択する。この信号点は2
-2Z2のコセットである４個の部分集合（第12図では異な
る陰影がついている）に分けられる。信号点は、第12図
左下隅に示すラベリングに応じてZ1及びZ0が一緒になっ
てコセットの一つを選択するようにラベリングされる。
残りのビットZ5、Z4、Z3、Z1、のラベリングはコセット
のａについてだけ示してある。他のコセットについて
は、ポイントを象限１の信号点の中心（1/2、1/2）のま
わりを90度回転すると同じラベリングになるというルー
ルでラベリングを行うことができる。
ウエイ符号器（152）（第９図）により、象限１のポ
イントの許容シーケンス間の最小距離を大きく保持する
ことができる。
ＳビットS1及びS0が下記のルールに従って所期のポイ
ントの最終的な象限を決定する。
S1S0 象 限 00 １ 01 ４ 10 ２ 11 ３ 第13図を参照すると、象限１内の信号点はそれらがZ2
のコセットに留まるようにＳビットにより選ばれた象限
に移動させられる。これは象限１のポイントを（０、
０）、（０、１）、（１、１）又は（−１、０）でオフ
セットすることで行う。従って、許容シーケンス間の最
小距離は変らない。このようにして得られた信号点が最
初のシーケンスＸ（Ｄ）を形成する。従って、Ｓビット
は最初のシーケンシＸ（Ｄ）の要素についてＺ″10の2Z
2のコセットを決定するコセット表現シーケンスと見倣
すことができる。
第14図を参照すると、最初のシーケンスＸ（Ｄ）は同
時判定帰還ディコーディング（PDFD）（294）（これは
第９図の回路とともに、第７図のトレリスプリコーダー
の一部である）を用いて伝送シーケンスｅ（Ｄ）に変換
される。同時判定帰還ディコーディングの代りにより強
力なRSSEデコーダー或いは他の瀘波されたトレリス符号
Ｃｓ′用の複雑さを低減したデコーダー（reduced−com
plexity decoder）を用いてもよい。
先に見たように、最適デコーダーは整形コードＣｓか
らシーケンスｘ′（Ｄ）＝Ｘ（Ｄ）ｇ（Ｄ）とｃ′
（Ｄ）＝Ｃ（Ｄ）ｇ（Ｄ）との間の平均自乗誤差が最小
になるコードシーケンスＣ（Ｄ）を選択する。伝送され
たシーケンスは誤りシーケンスｅ（Ｄ）＝ｘ′（Ｄ）−
ｃ′（Ｄ）である。同時判定帰還ディコーデイングによ
り選択されたコードシーケンスは一般に最小平均自乗誤
差にならないが、実験によると過剰平均自乗誤差が小さ
い場合が多い。例えば、二つの係数を有するチャンネル
では同時判定帰還ディコーディングにより、h1及びh2の
値に応じて0.5〜0.85dBの整形利得（shaping gain）を
得ることができる。
ここで、同時判定帰還ディコーディングの動作を少し
詳しく考える。まず、整形コード（shaping cod）Ｃｓ
について説明する。
第13図に於いて、このコードの２次元記号は整数ラテ
ィスZ2（299）から選ばれる。これらの記号はZ2の2Z2中
の（４個の）コセットに対応し第13図の左下隅に示すよ
うに、Ａ、Ｂ、Ｃ及びＤのラベルを付された４つの部分
集合に分割される。
整形コードＣｓに於いてあり得るシーケンスＣ（Ｄ）
の全部を第15図のトレリス図で表わす。ここでは、どの
状態からも２本のブランチ（302）が出ていて、各ブラ
ンチは２次元部分集合を表わす。例えば、状態０はＡ及
びＢのラベルの付いは２本のブランチを有する。
同時判定帰還デコーディングはヴィタービアルゴリズ
ムを用いて、また４次元ウエイ符号器と同期して、ボー
ひとつ置きに二つの遅延した誤り記号ｅ（2j−Ｍ）とｅ
（2j＋１−Ｍ）（ここでＭは（偶数）はボーの数で測っ
たディコーディング遅れである）をリリースするような
反復的に動作する。各ボー間間隔毎にヴィタービアルゴ
リズムはトレリス図に於ける各状態を夫々対応する４つ
の径路距離λｉ（2j＋ｌ）（ｉ＝0,1,2,3,l＝0,1）を記
憶する。ここでｌは奇数或いは偶数のボーを示す。ヴィ
タービアルゴリズムまた前に仮定した各状態につき一づ
つの誤り記号ei（2j＋ｌ＋ｍ）（ｉ＝0,1,2,3,l＝0,1及
びｍ＝1,2・・・,M）の有限履歴を記憶する。繰返す毎
に（即ち各ボー毎に）経路長がブランチ距離だけ増分さ
れて経路が長くなる。ｉ番目の状態からの経路ブランチ
Ｐ（ｐ＝1,2）に対するブランチ距離は下記のように表
わされる。
bi,p（2j＋ｌ）＝|ei（2j＋ｌ−１）b1e ｉ（2j＋ｌ−２）b2＋ｘ（2j＋ｌ）−ｃi,p（2j＋
ｌ）|2 ここでｃi,p（2j＋ｌ）はブランチ距離を最小にする
ブランチに関連した2Z2のコセットからの記号である。
遷移後の各状態ｉ′毎に二つの併合する経路の累算距離
を比較し、短い方の経路を残存させるものと宣言する。
その経路距離は状態ｉ′の新しい経路距離となり、次の
式で与えられる残存遷移（surviving transition）（ｉ
＊,p＊）は後で使用するためその経路履歴に記憶された
ものの中で最も最近の誤り記号になる。
１ボー置きに或はｌ＝１のときに、アルゴリズムは最
小経路距離の状態を決定し、その誤り記号の履歴をＭ個
の記号について調べ、時間2j−Ｍ及び2j−Ｍ＋１の間そ
れらの誤り記号を出力として出す。
プリコーダー124により得られる誤り記号は、チャン
ネルレスポンスｈ（Ｄ）とは無関係に原点を中心にした
一辺が２の正方形であるサブラティス2Z2のボロノイ領
域内にある。h1とh2が共に非整数のときには、誤り記号
はその正方形内で無限に多数の値をとり得る。
２進ラティスのパーティション（partitions）に基づ
くトレリス符号を用いるトレリスプリコーディングにお
いては、伝送されたシーケンスの要素ejは正方形の境界
内にある2D立体配座に属する。更に、トレリスプリコー
ディングは2D立体配座のサイズを大きくする。これらの
影響で伝送された記号の最大／平均化が大きくなるが、
時にはこれが望ましくないこともある。この立体配座の
増大を減少させることができ、また同時判定帰還コーデ
ィングに制約を加えることにより（第４図）もっと円形
の境界を得ることができる。例えば、同時判定帰還デコ
ーディングに対して、大きさが或る所定の径RCより大き
くない要素ej、即ち|ej|Rcの大きさの要素の伝送シー
ケンスＣ（Ｄ）になるコードシーケンスＣ′（Ｄ）のみ
を（濾波された符号Ｃ Ｓ′から）選ぶように制約を加え
ることができる。半径Rcがかなり大きいと、デコーダは
制約を損なうことなく進むことができる。しかし、もち
半径Rcが小さすぎると、この制約を満足しないコードシ
ーケンスを選ばざるを得ないこともある。
この種の制約は、平均自乗誤差（MSE）寸法がRc2以上
のトレリスのブランチをディエンファシス（deenphasiz
e）し、それらに適当に選んだ数Ｑを掛けることによ
り、RSSE型デコーダに非常に簡単に組み込むことができ
る。数Ｑが大きくなればなる程、制約はハードになる。
この結果、制約円の外側の点を選ぶ可能性が減る。数Ｑ
が充分大きく、半径Rcが余り小さくなければ、制約円外
の点は決して選ばれない。もし、半径Rcが小さすぎると
きには、ブランチを拒否してはならないことに注意。な
ぜなら、拒否すると、デコーダはコードシーケンスとし
てイリーガルなものを選ばざるを得ないかもしれず、そ
の場合には最初のシーケンスｒ（Ｄ）が受信器を正確に
再現できない。
伝送シーケンスｅ（Ｄ）をチャンネルを通じて伝送す
る前に濾波するときには、濾波後にPARを最小にするた
めより高次元で制約を（シーケンスｅ（Ｄ）の連結する
要素のグループについて）加えることが有益である。例
えば、二つの最も最近のブランチ距離の和を半径の自乗
RC 2と比較することで制約を４次元で加えることができ
る。
ヴィタービアルゴリズムを更に僅かに変更して、それ
が選択するコードシーケンスＣ（Ｄ）が確実にCS′から
の許容されるシーケンスになるようにする。なぜなら、
そうしないと、最初のシーケンスｅ（Ｄ）が正確に再生
できないからである。ヴィタービアルゴリズムが判定を
下すために経路履歴を調べるときは常に他の経路につい
ても調べてそれらが同じ状態になるかどうかを判定す
る。同じ状態になるのでなければ、それらの現在の経路
距離を非常に大きな値に設定して経路を取り除く（prun
ed）。これにより、確実に許容コードシーケンスのみが
選ばれる。
プリコードされたシーケンスｅ（Ｄ）は送信器成形フ
ィルター（106）（第７図）に通され、D/A変換され、ア
ナログフロントエンド（analog front end）（107）で
濾波し、その後チャンネルを通じて伝送される。
受信器では、受信信号ｒ（ｔ）をまずアナログフィル
ター（109）（第７図）で濾波して帯域外雑音を除去
し、M/Tのレートでディジタルストリーム（zn）にA/D変
換する。このディジタルストリームはN1＋N2＋１のタッ
プとT/Mのタップ間隔を有する適応線形等化器（108）に
入力する。このフィルターの出力を1/Tのボーレートで
サンプルし、次に復調した後、予測フィルターｈ（Ｄ）
（110）を濾波して下記の受信シーケンスを近似的に生
じる。
ｒ（Ｄ）＝ｅ（Ｄ）ｈ（Ｄ）＋ｎ′（Ｄ）＝ ｘ（Ｄ）−ｃ（Ｄ）＋ｎ′（Ｄ）＝Ｙ（Ｄ）＋ ｎ′（Ｄ） 前に説明したようにｙ（Ｄ）の要素はz2の同じコセッ
ト内、従って2-3z2における2-2z2の同じコセット内にあ
る。それ故、ある得るシーケンスｙ（Ｄ）間の最小距離
はあり得る入力シーケンスｘ（Ｄ）間の最小距離よりも
小さくはなく、デコーダーを僅かに変更してシーケンス
ｙ（Ｄ）の要素yjについて潜在的に大きな信号セット境
界を考慮する必要がなければ、シーケンスｙ（Ｄ）をｘ
（Ｄ）についてヴィータビデコーダ（133）でデコード
できる。
要素yjに対する信号セット境界の形状及びサイズはチ
ャンネル係数h1とh2によって決まるのを示すことができ
る。例えば、もしh1とh2の両方が実数（real）であるな
らば、境界は原点を中心とした一辺が２（１＋h1＋h2）
長さの方形となる。もし、出力立体配座のサイズが重要
であるならば、訓練時に係数の大きさを限定するのが有
益かもしれない。これは制約を受けた適用アルゴリズム
で達成し得る。
デコーダ（133）をチャンネルフィルターによる立体
配座の拡張とは無関係にすることができる。もし、受信
シーケンスｙ（Ｄ）を、要素がラティス2z2のものであ
るシーケンスｔ（Ｄ）で変形すると、その変形されたシ
ーケンスｙ（Ｄ）−ａ（Ｄ）＝ｘ（Ｄ）−ｃ（Ｄ）−ａ
（Ｄ）は依然ｘ（Ｄ）mod Ｃ Ｓに等しい。というのは、
構成要素ｃ（Ｄ）＋ａ（Ｄ）は許容コードシーケンスで
あるからである。従って、受信シーケンスはラティス2z
2のボロノイ領域内に変更し得ることになる（ボロノイ
領域は例えば、Conway ＆ Sloane,Sphere Packings,Lat
tices,Groups,New York,Springer−Verlaf,1988に定義
されている）。（符号化）コードＣ Ｃに対するヴィター
ビアルゴリズムは、方形境界を有するこの変更シーケン
スで動作でき、遅延した推定シーケンスｙ″を出力でき
る。
ボー一つ置きにヴィタービアルゴリズムは二つの遅延
した判定ｙ″（2j）と、ｙ″（2j＋１）を生じる。これ
らから１ビットを抽出するために、2Dの要素がz2の同じ
コセット内に留まるように上述の判定を象限１に変換
（translate）することで、まずＺビットを得る。次
に、Ｚビットは第12図に示す逆マッピングにより抽出で
きる。
Ｓビットを抽出するために、下記に応じて（前と同様
に）象限にまずラベルを付ける。
象限 SQ1SQ2 １ 00 ２ 01 ３ 11 ４ 01 次に、ｙ″（2j）及びｙ″（2j＋１）の象限によりラ
ベルSQ1（2j）SQ0（2j）及びSQ1（2j＋１）SQ0（2j＋
１）が決まる。SQ1（ｉ）SQ0（ｉ）＝S1（ｉ）S0（ｉ）
B1（ｉ）B0（ｉ）であることを示すことは容易であ
る。
ここで、ｊ＝2jまたは2j＋１、＋は排他的倫理和演算
を示し、B1（ｉ）B0（ｉ）はPDFDによるプリコーディン
グ時に選ばれたコード記号ｃ（ｉ）についての2Z2のコ
セット（Ａ＝00、Ｂ−11、Ｃ−01及びＤ＝10）を示す２
進２個組みである。
第11図Ｂ及び第16図において、ラベルSQ1（ｉ）SQ0
（ｉ）は無帰還で、レート２のシンドローム形成手段HT
（256）を順次通過する。このシンドローム成形手段
は、コセットラベルB1（ｉ）B0（ｉ）のどの許容シーケ
ンスでもその出力にオール零のシーケンスが得られる性
質を有する。更に、（H-1）THTは恒等行列Ｉと等しい。
それ故、最初に（H-1）Ｔを通過しそのHTを通過するシ
ーケンスは変化しない。従って、第16図に示すように、
推定値yu（ｉ）が正しい限り、シンドローム形成手段の
出力に伝送されたビットI1′（2j＋１）I0′（2j＋１）
が得られる。シンドローム形成手段はHTは無帰還なの
で、たまたま誤りが起こったとしても、それが破局的な
誤り伝播につながることはない。
第16図に於いて、残りの情報ビットは、逆ビット変換
器（286）と下記の関係に基づいて動作するコーディン
グ作動デコーダーにより取り出すことができる。
I2′（2j）I1′（2j）＝ID2′（2j）ID1′（ 2j）4ID2′（2j−２）ID1′（2j）（2j−２） ここで、４は４を法とする引き算である。
第８図に於いて、Ｉビットは装置（133）の一部を構
成しバッファー（135）を介してデータ端末装置に出力
するディスクランブラー（descrambler）でデイスクラ
ンブルされる。
成形用作動コーディング（differential coding） チャンネルによって90k（ｋ＝1,2又は３）度の位相回
転が生ずるものとする。誤り点の象限１への変換は点
（1/2、1/2）を中心にして同じ量だけ回転する。ウエイ
符号は90k度の位相回転とは無関係なので、発信器で使
用するマッピングによってＺビットの正しい回復が保証
される。残念ながら、これは象限ラベルSQ1SQ0について
は適用できない。
この事態を避けるため、第17図に示す位相不変ラベリ
ング（phase−invariant labeling）に基づいてラベル
シーケンスSQ1SQ0を作ることができる。SQ1SQ0＝S1S0
2B1B0の関係が成立するのを保証するために差動符号化
動作が必要である。これは次のようにして行なわれる。
第18図に於いて、象限１のマッピング（258）により得
られた各信号点毎にそのサブクオードラントラベル（su
bquadrant label）SQ1SQ0を第19図に基づいてサブクオ
ードラント抽出器（subquadrant extractor）（306）に
より抽出する。整形差動符号器（309）とオフセット（3
10）のマップはビットSQ1SQ0とS1S0を用いて象限１の点
を二つの新しい点x0（ｉ）とx1（ｉ）にオフセットす
る。ここでｉ＝2j又はｉ＝2j＋１として、新しい点がZ2
の同じコセットに留まるようにする。このマッピングは
下の二つの表で記述できる。
PDFDディコーダーでは、１点x0（ｉ）はコセットＡ及
びＢに対応するブランチに用い、一方x1（ｉ）はコセッ
トＣ及びＤに対応するブランチに用いる。もしSQ1SQ0が
受信した点のサブクォードラントラベルだとすると、SQ
1SQ0＝S1S02B1B0であるのを示すことができる。した
がって、サブクォードラントラベル（回転不変な）をシ
ンドローム形成手段HTに通すことにより、90k度の位相
オフセットがあっても、ビットI0（2j＋１）,I1（2j＋
１）及びI2（2j＋１）を回復できる。
非線形トレリス符号の応用 線形（mod−２）トレリス符号によればあり得る形状
利得の大部分を達成できることが分かったが、ここでは
本発明の方法をどのようにして非線形トレリス符号Ｃに
適用するかを簡単に述べる。
実際に知られている非線形トレリス符号Ｃについて
も、符号器のどの状態sjでも次の信号点の集合は符号Ｃ
の時間零のラティスΛ０のコセットΛ０＋ａ（sj）であ
るような時間零のラティスが存在する。
符号Ｃの単純な基本領域はその符号の時間零のラティ
スΛ０の基本領域Ｒ ０二基づくハード判定デコーダーに
より指定できる。時点ｊに於いて状態sjを、またシーケ
ンス空間RNに於いてrjを与えられると、このデコーダー
はΛ０＋ａ（sj）における一意のコード記号cjをrj＝cj
＋ejのようなものとする。
なお、ejはＲ ０の要素である。次の状態sj+1はcjによ
り決められる。したがって、このハード判定デコーダー
はシーケンス空間（RN）∞内のどのシーケンスｒ（Ｄ）
もｒ（Ｄ）＝ｃ（Ｄ）＋ｅ（Ｄ）に分解する。ここでｃ
（Ｄ）はＣ内にあり、ｅ（Ｄ）は（R0）∞内にある。
従って、（R0）∞は符号Ｃの単純な基本領域であると
言える。シーケンス空間（RN）∞の全体はオーバーラッ
プしない変換値（nonoberlapping translates）（RN）
∞ｃ（Ｄ）でカバーされ、ｃ（Ｄ）は符号Ｃのすべての
コードシーケンスに共通である。
第３図以降に示したトレリスプリコーディングしステ
ムの実現は前に述べたとおりにする。データシーケンス
をまず単純な基本領域（RN）∞内にある最初のシーケン
スにマップする。濾波された符号Ｃ′＝Ｃ ｇ（Ｄ）用の
RSSEデコーダーは符号Ｃ′内のシーケンスｃ′（Ｄ）が
差のシーケンス（difference sequence）ｅ（Ｄ）＝ｘ
（Ｄ）ｇ（Ｄ）−ｃ′（Ｄ）の平均パワーが小さくなる
ようにする。シーケンスｅ（Ｄ）はその後伝送される。
雑音がないときには、チャンネルフィルタリングの後ｙ
（Ｄ）＝ｅ（Ｄ）ｈ（Ｄ）＝ｘ（Ｄ）−ｃ（Ｄ）を受信
する。
上述のところからｘ（Ｄ）はＣを法とするｘ（Ｄ）と
合同となることに注意。それゆえ、最初のシーケンス
は、最初に述べた符号Ｃの時間零のラティスの基本領域
に基づいてハード判定デコーダーを用いることにより受
信シーケンスｙ（Ｄ）から回復できる。
６角2D配座（Hexagonal 2D Constellations） もし成形トレリス符号Ｃ（Λ／Λ′;C）を、構成要素
2DラティスとサブラティスΛ２及びΛが６角2Dラティス
A2のものであるいわゆる３進又は４進ラティスのパーテ
ィションΛ／Λ′に基づく符号として選ぶと、伝送され
たシーケンスの要素ejは方形というより６角形の領域Rv
（Λ２′）内に入る。このような配座はより球面状のも
のに近い利点を有する。
他の実施例も添付の特許請求の範囲に入る。例えば、
他の低減状態デコーダ（例えば、Ｍアルゴリズム）も使
用することができる。
【図面の簡単な説明】
第１図はチャンネルモデルのブロック図、第２図はトレ
リスプリコーディング法を示すブロック図、第３図は低
減状態トレリスを示す図、第４図はヴィタービ（Viterb
i）アルゴリズムのステップを示す図、第５図はウエイ
（Wei）符号に対するトレリスを示す図、第６図はプリ
コーディングで用いる送信器及び受信器のブロック図、
第７図は送信器のブロック図、第８図は受信器のブロッ
ク図、第９図はトレリスプリコーディングのための２値
符号化を示すブロック図、第10図はウエイ２値重量符号
化器のブロック図、第11A図は２値逆シンドロームから
形成手段のブロック図、第11B図は２値シンドローム形
成手段のブロック図、第12図は信号セットの象限（quad
rant）を示す図、第13図は象限シフトを示す図、第14図
は第７図のトレリスプリコーダーの部分を示す図、第15
図はトレリス図、第16図はトレリスデコーダーの２値部
分を示す図、第17図は位相不変ラペリング法を示すブロ
ック図、第18図は立体配座形成手段のブロック図、更に
第19図は象限ラペリング法を示す図である。 104……受信器、105……訓練／データスイッチ、106…
…送信器フィルター、107……シーケンス、108……適応
等化器、120……送信器、109……アナログフィルター
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 昭63−240154（ＪＰ，Ａ) ＩＥＥＥ Ｔｒａｎｓ．ｏｎ Ｉｎｆ ｏｒｍａｔｉｏｎ Ｔｈｅｏｒｙ，Ｖｏ ｌ．ＩＴ−29，Ｎｏ．６，（Ｎｏｖ. 1983）Ｐ．820−824 ＩＥＥＥ Ｃｏｍｍｕｎｉｃａｔｉｏ ｎｓ Ｍａｇａｚｉｎｅ，Ｖｏｌ．29, Ｎｏ．12，（Ｄｅｃ．1991）Ｐ．25−34 (58)調査した分野(Int.Cl.6，ＤＢ名) H03M 13/00 - 13/22

Claims (27)

    (57)【特許請求の範囲】
  1. 【請求項１】レスポンスの反転ｇ（Ｄ）を有する通常の
    レスポンスｈ（Ｄ）で特徴付けられたチャンネルを通じ
    てデータ伝送を行うためにデジタルデータを信号点シー
    ケンスｅ（Ｄ）にマップする方法であって、 信号体系に従って上記デジタルデータをデータシーケン
    スｘ（Ｄ）にマップするステップと、 ｃ（Ｄ）ｇ（Ｄ）形式のすべてのシーケンスｃ′（Ｄ）
    のセットとしてろ波されたトレリス符号CS′を定めるこ
    とにより前もって決められた選択基準に従って第２トレ
    リス符号CS中からコードシーケンスＣ（Ｄ）を選択する
    ステップと、 シーケンスｘ′（Ｄ）とシーケンスｃ′（Ｄ）との間の
    相違として信号点シーケンスｅ（Ｄ）を発生させるステ
    ップとを有し、 上記データシーケンスｘ（Ｄ）が第１トレリス符号CCの
    変形CC＋ａ（Ｄ）におけるシーケンスであり、上記デー
    タシーケンスｘ（Ｄ）が第２トレリス符号CSの時間零
    （time−zero）ラティス∧SOの基本領域内の信号点から
    形成され、上記第２トレリス符号CSが上記第１トレリス
    符号CCのサブコードであり、 上記前もって決められた選択基準が‖ｘ′（Ｄ）−ｃ′
    （Ｄ）‖（ここで、ｘ′（Ｄ）＝ｘ（Ｄ）ｇ（Ｄ））を
    最小にする様になっており、 上記信号点シーケンスｅ（Ｄ）が上記ろ波されたトレリ
    ス符号Ｃ′Ｓの基本領域内にあり、上記基本領域が有限
    次元領域の単純なカルテシアン積以外のものであること
    を特徴とする変調方式トレリスコーディング方法。
  2. 【請求項２】上記第２トレリス符号CSが普通のトレリス
    符号であることを特徴とする請求項１に記載の方法。
  3. 【請求項３】上記第２トレリス符号CSの時間零ラティス
    ∧SOの基本領域が有限次元領域の単純なカルテシアン積
    であることを特徴とする請求項２に記載の方法。
  4. 【請求項４】上記ろ波されたトレリス符号Ｃ′Ｓからの
    上記コードシーケンスｃ′（Ｄ）の選択が低減状態シー
    ケンスの推定法によって実行されることを特徴とする請
    求項１に記載の方法。
  5. 【請求項５】低減状態シーケンスの推定に使う状態の数
    は普通のトレリス符号が有する状態の数よりも小さいこ
    とを特徴とする請求項４に記載の方法。
  6. 【請求項６】上記信号点シーケンスｅ（Ｄ）がろ波され
    たトレリス符号のボロノイ領域内に均一に分布している
    ことを特徴とする請求項１に記載の方法。
  7. 【請求項７】上記マップ方法が、さらに上記チャネル上
    を伝送される信号点シーケンスの雑音により劣化したも
    のからデジタルデータシーケンスを回復するステップを
    含み、このステップは信号点シーケンスを推定したデジ
    タル要素のシーケンスにディコードするステップと、推
    定したデジタル要素の一部に基づくより少数のデジタル
    要素のシンドロームを無帰還のシンドローム形成手段HT
    を用いて形成するステップとを含むことを特徴とする請
    求項１に記載の方法。
  8. 【請求項８】上記データシーケンスｘ（Ｄ）が上記普通
    のトレリス符号の合同クラスに属しかつそれを表わす様
    に上記デジタルデータを上記データシーケンスｘ（Ｄ）
    にマップし、 上記信号点シーケンスｅ（Ｄ）が上記ろ波されたトレリ
    ス符号の合同クラスに属し、かつそれを表わし、上記シ
    ーケンスｘ（Ｄ）よりも大きくない平均パワーを有する
    様に上記信号点シーケンスｅ（Ｄ）の選択が行われ、 上記デジタルデータのデータシーケンスｘ（Ｄ）へのマ
    ップが、上記デジタルデータの要素の一部を、コセット
    表現シーケンスを表わす多数のデジタル要素を形成する
    ためのコセット表現発生器に供給するステップを含むこ
    とを特徴とする請求項７に記載の方法。
  9. 【請求項９】上記コセット表現発生器は上記デジタルデ
    ータ要素の一部に上記ろ波されたトレリス符号用のシン
    ドローム形成マトリックスHTとは逆のコセット表現発生
    器マトリックス（H-1）Ｔを乗算することから成ること
    を特徴とする請求項８に記載の方法。
  10. 【請求項１０】上記普通のトレリス符号は線形トレリス
    符号であることを特徴とする請求項２に記載の方法。
  11. 【請求項１１】上記普通のトレリス符号は非線形トレリ
    ス符号であることを特徴とする請求項２に記載の方法。
  12. 【請求項１２】上記線形トレリス符号は４状態アンガー
    ベック符号であることを特徴とする請求項10に記載の方
    法。
  13. 【請求項１３】上記普通のトレリス符号は２進ラティス
    のパーティションに基づいていることを特徴とする請求
    項２に記載の方法。
  14. 【請求項１４】上記普通のトレリス符号は３進または４
    進ラティスのパーティションに基づいていることを特徴
    とする請求項２に記載の方法。
  15. 【請求項１５】上記デジタルデータの上記データシーケ
    ンスｘ（Ｄ）へのマッピングは線形あるいは距離不変で
    あることを特徴とする請求項８に記載の方法。
  16. 【請求項１６】上記信号点シーケンスを選択するステッ
    プは、Ｎ次元における上記信号点シーケンスの最大エネ
    ルギーを示すそのピークパワーを減らすよう制約を受け
    ていることを特徴とする請求項２に記載の方法。
  17. 【請求項１７】Ｎ＝２であることを特徴とする請求項16
    に記載の方法。
  18. 【請求項１８】Ｎ＝４であることを特徴とする請求項17
    に記載の方法。
  19. 【請求項１９】上記選択は上記信号点シーケンスが通常
    半径RCのある球面内にあるように制約されていることを
    特徴とする請求項18に記載の方法。
  20. 【請求項２０】上記低減状態シーケンス推定は、上記シ
    ーケンスｃ（Ｄ）が確実に許容シーケンスとなるような
    操作が毎回あるステップから成ることを特徴とする請求
    項４に記載の方法。
  21. 【請求項２１】上記操作は、上記低減状態シーケンス推
    定のトレリスにおける選択された経路の距離を、上記選
    択した経路はいずれも次の繰り返しの時には最も選択さ
    れ易いものにならないよう調整されることを特徴とする
    請求項20に記載の方法。
  22. 【請求項２２】上記経路はそれらが上記トレリス内の特
    定の位置で特定の状態遷移を含むかどうかに基づいて選
    ばれることを特徴とする請求項21に記載の方法。
  23. 【請求項２３】上記操作は大きな距離を上記トレリス内
    の上記選択された経路に割り当てることから成ることを
    特徴とする請求項21に記載の方法。
  24. 【請求項２４】上記デジタルデータシーケンスを上記信
    号点シーケンスにマッピングするステップは、上記デジ
    タルデータシーケンスを上記信号点シーケンスの多数の
    所定の位相回転のうちの一つの位相回転を受けかつチャ
    ンネルの影響を受けたものから回復できるようになされ
    ていることを特徴とする請求項２に記載の方法。
  25. 【請求項２５】上記デジタルデータをデータシーケンス
    ｘ（Ｄ）にマッピングするステップは、上記第２トレリ
    ス符号CSの時間零ラティス∧SOの基本領域から信号点を
    選択するためのビットグループに上記デジタルデータ中
    の上記データ要素を変換するステップを含み、上記ビッ
    トグループは90度の位相回転を１回、２回または３回受
    けた上記伝送シーケンスのチャンネルの影響を受けたも
    のから上記ビットが確実に回復できるようになされてい
    ることを特徴とする請求項１に記載の方法。
  26. 【請求項２６】反転ｇ（Ｄ）を有する通常のレスポンス
    ｈ（Ｄ）で特徴付けられたチャンネルを通じてデータ伝
    送を行うためにデジタルデータを信号点シーケンスｅ
    （Ｄ）にマップするための装置であって、上記デジタル
    データを受けとる手段と、 信号体系に従って上記デジタルデータをデータシーケン
    スｘ（Ｄ）にマップする手段と、 ｃ（Ｄ）ｇ（Ｄ）形式のすべてのシーケンスｃ′（Ｄ）
    のセットとしてろ波されたトレリス符号CS′を定めるこ
    とにより前もって決められた選択基準に従って第２トレ
    リス符号CS中からコードシーケンスＣ（Ｄ）を選択する
    手段と、 シーケンスｘ′（Ｄ）とシーケンスｃ′（Ｄ）との間の
    相違として信号点シーケンスｅ（Ｄ）を発生させる信号
    点シーケンス発生器とを有し、 上記データシーケンスｘ（Ｄ）が第１トレリス符号CCの
    変形CC＋ａ（Ｄ）におけるシーケンスであり、上記デー
    タシーケンスｘ（Ｄ）が第２トレリス符号CSの時間零
    （time−zero）ラティス∧SOの基本領域内の信号点から
    形成され、上記第２トレリス符号CSが上記第１トレリス
    符号CCのサブコードであり、 上記前もって決められた選択基準が‖ｘ′（Ｄ）−ｃ′
    （Ｄ）‖（ここで、ｘ′（Ｄ）＝ｘ（Ｄ）ｇ（Ｄ））を
    最小にする様になっており、 上記信号点シーケンスｅ（Ｄ）が上記ろ波されたトレリ
    ス符号CS′の基本領域内にあり、上記基本領域が有限次
    元領域の単純なカルテシアン積以外のものであることを
    特徴とする装置。
  27. 【請求項２７】上記装置が、さらに上記チャンネルを伝
    送される上記信号点シーケンスｅ（Ｄ）の上記チャンネ
    ルの影響を受けたものからデジタルデータを回復する手
    段を有し、 上記回復手段は、適応予測フィルターから成り、データ
    伝送時には上記予測フィルターは固定しておき、 上記装置がさらに上記適応予測フィルターの等化器誤差
    を再構成するため上記予測フィルタから最終的な予測誤
    差を通すｇ（Ｄ）素子を有することを特徴とする請求項
    26に記載の装置。
JP2122820A 1989-05-12 1990-05-12 変調方式用トレリスコーディング Expired - Lifetime JP2779973B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US35118689A 1989-05-12 1989-05-12
US351.186 1989-05-12

Publications (2)

Publication Number Publication Date
JPH0310423A JPH0310423A (ja) 1991-01-18
JP2779973B2 true JP2779973B2 (ja) 1998-07-23

Family

ID=23379927

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2122820A Expired - Lifetime JP2779973B2 (ja) 1989-05-12 1990-05-12 変調方式用トレリスコーディング

Country Status (9)

Country Link
EP (1) EP0397537B1 (ja)
JP (1) JP2779973B2 (ja)
AT (1) ATE147914T1 (ja)
CA (1) CA2012914C (ja)
DE (1) DE69029679T2 (ja)
DK (1) DK0397537T3 (ja)
ES (1) ES2099085T3 (ja)
GR (1) GR3023119T3 (ja)
HK (1) HK1008717A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU630417B2 (en) * 1989-02-16 1992-10-29 Codex Corporation Trellis shaping for modulation systems
CA2014867A1 (en) * 1989-05-12 1990-11-12 G. David Forney, Jr. Generalized partial response channel signaling systems
JP2560893B2 (ja) * 1990-07-23 1996-12-04 日本電気株式会社 データ信号受信装置
JP2560896B2 (ja) * 1990-07-31 1996-12-04 日本電気株式会社 最尤受信器
US5249200A (en) * 1991-07-30 1993-09-28 Codex Corporation Device and method for combining precoding with symbol-rate spectral shaping
US5396519A (en) * 1993-10-22 1995-03-07 At&T Corp. Method and apparatus for adaptively providing precoding and preemphasis conditioning to signal data for transfer over a communication channel
US5878077A (en) * 1995-10-10 1999-03-02 Paradyne Corporation Apparatus for high-speed simultaneous voice/data communications
JP3140974B2 (ja) * 1996-03-31 2001-03-05 富士通株式会社 判定方法及びプリコーダ装置
US6452978B1 (en) * 1999-02-11 2002-09-17 Tioga Technologies Inc. Combined shaping and peak-to-average reduction for single carrier modulation systems
US8064528B2 (en) 2003-05-21 2011-11-22 Regents Of The University Of Minnesota Estimating frequency-offsets and multi-antenna channels in MIMO OFDM systems

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
NL8202438A (nl) * 1982-06-16 1984-01-16 Philips Nv Eindinrichting voor een duplex transmissiestelsel.
JPH0653962B2 (ja) * 1985-07-19 1994-07-20 ユニ・チヤ−ム株式会社 使い捨て吸収性パンツおよびその製法
MA21077A1 (fr) * 1986-10-10 1988-07-01 Procter & Gamble Article absorbant comportant des doubles manchettes resistant aux fluides .
US4797898A (en) * 1986-11-21 1989-01-10 Racal Data Communications Inc. Method and apparatus for equalization of data transmission system
AU621536B2 (en) * 1987-02-24 1992-03-19 General Electric Capital Corporation Partial response channel signaling systems
US4894844A (en) * 1987-06-12 1990-01-16 Codex Corporation Signal constellations
JPH02111363A (ja) * 1988-10-21 1990-04-24 Kao Corp つかいすておむつ

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ＩＥＥＥ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ｍａｇａｚｉｎｅ，Ｖｏｌ．２９，Ｎｏ．１２，（Ｄｅｃ．１９９１）Ｐ．２５−３４
ＩＥＥＥ Ｔｒａｎｓ．ｏｎ Ｉｎｆｏｒｍａｔｉｏｎ Ｔｈｅｏｒｙ，Ｖｏｌ．ＩＴ−２９，Ｎｏ．６，（Ｎｏｖ．１９８３）Ｐ．８２０−８２４

Also Published As

Publication number Publication date
CA2012914C (en) 1999-05-04
DE69029679T2 (de) 1997-05-28
ATE147914T1 (de) 1997-02-15
DK0397537T3 (da) 1997-06-23
EP0397537B1 (en) 1997-01-15
ES2099085T3 (es) 1997-05-16
GR3023119T3 (en) 1997-07-30
CA2012914A1 (en) 1990-11-12
EP0397537A2 (en) 1990-11-14
EP0397537A3 (en) 1992-08-05
DE69029679D1 (de) 1997-02-27
HK1008717A1 (en) 1999-05-14
JPH0310423A (ja) 1991-01-18

Similar Documents

Publication Publication Date Title
US5159610A (en) Trellis precoding for modulation systems
US5214672A (en) Trellis precoding for fractional bits/baud
US5455839A (en) Device and method for precoding
JP3685269B2 (ja) 透明２進畳み込み符号を組み入れた回転不変トレリスコーダ及び方法
EP0624018B1 (en) Rotationally invariant multilevel coded systems
US5398073A (en) Concatenated coded vestigial sideband modulation for high definition television
KR100262426B1 (ko) 송신기 장치, 수신기 장치 및 다레벨 코드화 변조 방법
US4713829A (en) Coded modulation system with a simplified decoder capable of reducing the effects of channel distortion
EP0485108B1 (en) Coded modulation with unequal levels of error protection
US5040191A (en) Partial response channel signaling systems
US5263051A (en) Device and method of interleaving for a trellis precoding system
US5446758A (en) Device and method for precoding
JP2779973B2 (ja) 変調方式用トレリスコーディング
Laroia Coding for intersymbol interference channels-combined coding and precoding
US7003716B2 (en) Method and apparatus for using multi-dimensional trellis codes over multi-path channels
EP0383632B1 (en) Mapping digital data sequences
Shalvi et al. Signal codes
Reddy Voice-band modem: A device to transmit data over telephone networks: Advanced ideas which made high data rates possible
Hongchun Mid-voltage electric distribution line carrier communication technology based on TCM
Shivakumar TCM: Code Design and Improved Sequence Estimation on Channels subjected to ISI
Zhou et al. Coded reduced-bandwidth QAM with decision-feedback equalization
Benelli et al. New detection algorithm with reduced complexity
Paravalos et al. Performance of coded modulation on intersymbol interference channels
Arani Trellis coded modulation techniques
Wang et al. Trellis coded partial response signaling for power and bandwidth efficient digital transmission

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090515

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090515

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100515

Year of fee payment: 12

EXPY Cancellation because of completion of term