JPH114270A - デジタル伝送システムおよび方法 - Google Patents

Abstract

(57)【要約】 【課題】 入力データを保護するデジタル伝送システム
および方法を提供する。 【解決手段】 デジタル伝送システムは、系統的重畳コ
ードを入力データに適用することで、ブロック単位に
て、生成コードを生成する。トレリスは、パリティコー
ドビットから成る冗長データを加えることで、閉鎖され
る。次に、こうして符号化されたデータが、多次元デジ
タル変調されたシンボルに割当てられる。受信機端にお
いて、復号手段は、縦続された２つの経路に沿って、反
復的復号を遂行する。多次元デジタル変調されたシンボ
ルの各サブセット（部分集合）に対してハード判定の信
頼性が計算され、これからソフト判定が生成される。第
２の経路は、第１の経路によって生成された結果を使用
してソフト判定を生成する。このソフト判定が出力シン
ボルを決定するために用いられる。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、入力データを保護
するための、前記入力データに対する符号化手段および
反復的復号手段を含む、デジタル伝送システムに関す
る。前記符号化手段は、前記反復的復号を可能にするた
めに系統的重畳トレリス符号化(systemtic convolution
al trellis coding)を遂行するための第１のサブセッ
ト、および符号化されたデータをデジタル的に変調され
たシンボルに割当てるための第２のサブセットを含む。

【０００２】本発明は、同様に、このようなデジタル伝
送システム内において実現される入力データを保護する
ための方法に関する。

【０００３】このシステムは、ケーブルテレビジョンあ
るいは衛星テレビジョンに対するデジタル伝送、地上一
斉伝送、電話回線その他を通じてのデジタル伝送に利用
することが可能である。

【０００４】

【従来の技術】重畳符号化(convolutional coding)とデ
ジタル変調とを組み合わせた選択的保護システムが知ら
れている。より詳細には、このようなシステムの性能を
ビットエラー率の観点から向上させるためのターボコー
ド(turbo codes)と呼ばれる新たなクラスの重畳コード
が“Near Shannon limit error-correcting coding and
decoding：Turbo-codes(1)”,C.BERROU,A.GLVIEUX,P.TH
ITIMAJHIMA，Proeedingof ICC'93,Geneva,May 1993,pp.
1064-1071 において説明されている。これらターボコー
ドは、ビットエラー率で表現した場合に、Shannonによ
って与えられる理論的限界に近い性能を持つ。これら
は、並列に連結された重畳コードである。これら重畳コ
ードは、系統的なパンクチャされた(punctured)帰納的
コード(recursive codes)に基づく。つまり、これら
は、１／２なるレートのコードから導出され、これに対
して入力ビットは、２個の出力ビットを与え、パンクチ
ャリング(puncturing)は、ビット自身に適用される。こ
のような連結は、情報を含むデータを適当にインタリー
ビング(interleaving)することによって実現される。

【０００５】受信側では、ターボ復号と呼ばれる反復的
復号が遂行される。この反復的復号は、受信されたシン
ボルを数回復号することで、ビットエラー率の観点から
システムの性能を向上させることから成る。この一連の
反復的復号は、単一のソフト判定(soft-decision)ビタ
ビ復号器(Viterbi decoder)によって遂行される。この
復号器は、ハード判定(hard decision)を生成する従来
のビタビ復号器とは異なる。上記の文献においては、復
号器の出力上のソフト判定は、ハード判定信頼性比、つ
まり、判定が正しい尤度を生成する。この復号器に続い
て出力データのデインタリービング(deinterleaving)が
行なわれる。

【０００６】

【発明が解決しようとする課題】ただし、この文献にお
いて説明されるターボコードを、これに続く反復的復号
と共に使用する方法では、１／２なるレートのコードか
ら来るパンクチャされた系統的コードの制約を、特に、
このコードが、これらと共に用いられるデジタル変調と
別個に加えられる場合は、抑制することはできない。よ
り詳細には、これらコードは、低いスペクトラル効率
（２ビット／秒／Ｈｚ以下）を持つ変調、例えば、ＭＤ
Ｐ２およびＭＤＰ４位相変調にしか使用できないという
短所を持つ。つまり、これらコードに対応するビットレ
ートは、最大でも使用される帯域の２倍である。固定さ
れた占拠帯域に対してビットレートを増加させるために
は、直角振幅変調（quadrature amplitude modulation:
ＱＡＭ）タイプの高いスペクトラル効率の変調を利用す
ることが求められる。ただし、上に説明のパンクチャさ
れた重畳コードを、ＱＡＭ変調と平置して使用する方法
では、これらコードが、この変調を考慮して設計されて
ないために、最適な性能を達成することが不可能であ
る。

【０００７】

【課題を解決するための手段】本発明の一つの目的は、
このようなデジタル伝送システムの性能を向上させるこ
と、最小のＳ／Ｎ比にてシステムが正しく機能すること
を保証すること、およびスペクトル効率を向上させるこ
とに関する。

【０００８】この目的が、本発明によるシステムによっ
て達成される。このシステムは、Ｐ／（Ｑ×Ｍ）なる符
号化レートを持つ系統的重畳トレリス符号化を利用する
第一のサブセットを持つ。ここで、Ｍ，ＰおよびＱは整
数で、かつ、ＱおよびＭは１より大きい。前記系統的重
畳コードが、生成コードをブロック毎に生成するために
使用され、この重畳コードのトレリスは、少なくとも一
つのパリティコードビットを含む冗長データの追加によ
って閉鎖される。前記生成コードは、系統的重畳コード
を介して符号化されたデータと結合する（データを集め
る）マトリックスのロウ符号化およびカラム符号化によ
って生成された要素によって形成される。第二のサブセ
ットは、前記生成コードを、２^M個の状態を持つ次元Ｑ
を持つ多次元振幅変調と結合する。反復的復号としてブ
ロック復号が用いられる。

【０００９】生成コードおよび追加の冗長データを系統
的重畳コードに基づいて生成するために、符号器手段
は、出力状態および冗長シンボルを入力状態およびデー
タシンボルに基づいて定義する状態マシーンと呼ばれる
手段から構成される。

【００１０】好ましくは、この状態マシーンは、系統的
重畳コードの冗長シンボルおよびトレリスを閉鎖するた
めに使用されるシンボルを決定するための読出テーブル
に結合される。

【００１１】本発明によると、このシステムは、さら
に、反復符号化手段を含み、これは、連続して動作する
少なくとも二つの経路を持つ。そして、このシステム
は、第一の経路に沿って、この経路の各反復に対して、
第一の反復的復号を： ａ）系統的重畳コードに関係するハード判定を計算する
ための計算手段、 ｂ）各多次元変調サブセットと関連するハード判定の第
一の信頼性、および系統的重畳コードのトレリスと関連
する第二の信頼性を計算するための計算手段、 ｃ）各判定の前記第一と第二の信頼性の内の最小信頼性
を選択するための選択手段、および ｄ）前記の選択された最小信頼性とハード判定の関数と
して第一の経路の次の反復に対して使用するためのソフ
ト判定を選択するための選択手段、を用いて遂行し；第
二の経路に沿って、前記システムは、経路の各反復に対
して： ａ）パリティコードと関係するハード判定を計算するた
めの計算手段、 ｂ）第一の経路のハード判定の関数として第二の経路の
各ハード判定に対する第三の信頼性を計算するための計
算手段、および ｃ）前記第三の信頼性、第二の経路の前の反復から来る
ソフト判定、および第一の経路から来るハード判定の関
数としてソフト判定を計算するための手段を利用する。

【００１２】本発明はさらにデジタル伝送システム内で
利用される入力データを保護するための方法に関する。
この方法は、前記入力データに対する符号化フェーズお
よび反復的復号フェーズを含む。前記符号化フェーズ
は、前記反復的復号を可能にするための系統的重畳トレ
リス符号化を遂行する第一のステップ、および第一のス
テップと組み合わせて使用される、前記符号化されたデ
ータを、デジタル的に変調されたシンボルに割当てる第
二のステップを含む。本発明は、前記第一のステップの
際に、前記系統的重畳トレリス符号化がＰ／（Ｑ×Ｍ）
なる符号化レートを持つことを特徴とする。ここで、
Ｍ，ＰおよびＱは整数であり、かつ、ＱおよびＭは１よ
り大きい。前記系統的重畳コードは、生成コードをブロ
ック毎に生成するために使用され、この重畳コードのト
レリスは冗長データの追加によって閉鎖される。前記生
成コードは、系統的重畳コードを介して符号化されたデ
ータと結合する（データを集める）マトリックスのロウ
符号化およびカラム符号化によって生成された要素によ
って形成される。前記第二のステップは、前記生成コー
ドを、２^M個の状態を持つ次元Ｑを持つ多次元振幅変調
と結合する。前記反復的復号はブロック復号とされる。

【００１３】ここでは、Ｐ／（Ｑ×Ｍ）なるレートの系
統的重畳符号化について述べられる。このコードを、２
^M−状態（好ましくは、４−状態）の多次元デジタル変
調と結合されることにより、最適な性能が達成される。
この例（Ｍ＝２，Ｑ＝８，Ｐ＝１４，レート＝１４／１
６＝７／８）によると、このような符号化は、ビットス
トリームを処理することによって得られる。より詳細に
は、この処理の過程において、１４個のビットあるいは
７個のシンボル（入力シンボルと呼ばれる）が符号化す
るために取られ、８個のシンボル（出力シンボルと呼ば
れる）が生成される。Ｑ個のシンボル（それぞれ８個の
出力シンボル）が、２個の２^M−レベルシンボル（４レ
ベルシンボル、それぞれ｛＋１，−１，＋３，−３｝）
を選択し、結果として、シンボル当たりＭ個の出力ビッ
ト（４レベル４−ＡＭの場合は、シンボル当たり２個の
出力ビット）が生成される。この生成コードは、系統的
重畳コードを、情報ビットを含むマトリックスのロウと
カラムに適用することによって実現される。そして、ト
レリスを閉鎖するために、各ロウおよび各カラムに冗長
データが追加される。最後に、マトリックスから来る２
^M−ＡＭ（例えば、４−ＡＭ）シンボルが、生成コード
に従ってペアにて結合され、２^2M−ＱＡＭシンボル（例
えば、１６−ＱＡＭシンボル）が生成される。符号化さ
れたデータは次に従来の方法によって搬送波を用いて送
信される。

【００１４】受信機端におけるターボ復号の遂行を可能
にするために、生成コードは、系統的であることを要求
される。従って、系統的重畳コードを使用することが必
要である。つまり、入力データシンボルを符号化した後
に、出力上に入力シンボルが変化することなく現われる
ことが必要さされる。

【００１５】後に説明されるＰ／（Ｑ×Ｍ）、例えば、
７／８なるレートの重畳コードが、これらが、ある与え
られたＳ／Ｎ比に対して、より具体的には、４−ＡＭあ
るいは１６−ＱＡＭ変調に対して、最小のエラー率を与
えるように設計される。

【００１６】こうして、Ｓ／Ｎ比と、スペクトラル効率
の両方の観点から最適な性能を持つシステムが、７／８
なるレートの系統的重畳符号化を最適な方法にて実現す
る符号器構造と多次元変調とを組み合わせることによっ
て得られる。

【００１７】本発明によると、ここに開示される系統的
重畳コードを使用する生成コードは、直角振幅変調と、
並置するのではなく、結合される。

【００１８】このシステムは、さまざまな長所を持つ。

【００１９】パンクチャ（抑止）された２進コードをＭ
ＤＰ４位相変調と共に利用する従来の技術によるシステ
ムと比較して、本発明のシステムは、２倍高い伝送容量
（２から４ビット／秒／Ｈｚの間のスペクトラル効率）
を持つ。

【００２０】このシステムは、生成コードの反復的復号
を遂行するために単一のソフト判定復号器のみが必要と
されるために、ハードウエアがあまり複雑にならない。

【００２１】好ましくは、７／８なるレートの系統的重
畳コードが使用され、１４個の入力ビットに対して、１
６個の出力ビットが得られる。１６個の出力ビットを、
入力ビット、並びに、符号器の状態（メモリ）の関数と
して生成するための関数が、１６−ＱＡＭ変調に対して
最適化される。

【００２２】好ましくは７／８なるレートの系統的重畳
コードが選択され、これらコードの最小ユークリッド距
離と１６−ＱＡＭ変調の結合の最大化を目指すことで、
性能の向上が図られる。これは、より具体的には、符号
化と変調を結合することに関する。

【００２３】本発明のこれらおよびその他の特徴が、以
下に説明される実施例を参照することで、明白となるも
のである。

【００２４】

【発明の実施の形態】図１は、本発明によるベースバン
ドデジタル伝送システムの略図を示す。ソース５から入
来する保護されるべき入力データは、例えば、これら
を、別個にアドレスされるロウ(row)とカラム(column)
から形成されるメモリ１０に格納することによってマト
リックス(matrix)に編成される。このシステムは、ロウ
符号化(coding)手段１２、およびカラム符号化手段１４
を含む。これら２つの符号化手段によって、４−ＡＭデ
ジタル変調シンボル(digitally modulated symbols)に
割り当てられるデータが生成される。割当て要素１６
は、これら４−ＡＭシンボルを１６−ＱＡＭシンボルに
変換する。つまり、一対の４−ＡＭシンボルを結合する
ことで、１６−ＱＡＭシンボルが形成される。

【００２５】これらのシンボルは、従来の技術によって
チャネル１９を通じて受信機手段に送信される。受信さ
れたデータは、バッファ手段２０に送られ、ここで、後
に説明されるループ処理が遂行される。復号器は、順番
に動作する２つの経路を含む。第１の経路１は、送信さ
れたシンボルの最下位ビット（インデックスｉ）につい
ての決定に関し、第２の経路２は、送信されたシンボル
の最上位ビット（インデックスｊ）の決定に関する。

【００２６】経路１においては、バッファ手段２０の出
力から、データは、ビタビ復号器(Viterbi decoder)２
２_１に入る。これは、二つの出力を持ち、ハード判定出
力(hard-decision output)２１_１は、各反復に対して得
られた推定シンボルおよび推定ビットｉを供給し、ソフ
ト判定出力(soft-decision output)２３_１は、データイ
ンタリーバ(data interleaver)２４_１を通ってバッファ
メモリ２０にループバックされる。

【００２７】経路２においては、バッファ手段２０の出
力から、データは、パリティコード復号器(parity code
decorder)２２_２に入る。これは、二つの出力を持ち、
ハード判定出力２１₂は、各反復に対して得られた推定
ビット(estimated bits)ｊを供給し、ソフト判定出力２
３₂は、データインタリーバ２４₂を通ってバッファ２０
にループバックされる。

【００２８】経路２の復号は経路１の復号の後に、経路
１の復号器によって推定された受信されたシンボルとビ
ットｉに基づいて遂行される。

【００２９】推定シンボルは、反復処理が反復されるに
つれて信頼性が高まる。平均的には、エラーレートとし
て測定されたこの改善は、経路１では４〜５回の反復、
経路２では２〜３回の反復によって達成される。

【００３０】生成コード(product code)を形成するため
に、このマトリックスのロウの符号化が、ロウ符号化に
よって、以下のように遂行される。データは、ブロック
にて処理される。ここに説明される一例としての７／８
なるレートの系統的コードでは、１ブロックは、２×
（７Ｎ＋４）^２個のビットを含む。メモリ１０は、（７
Ｎ＋４）×（７Ｎ＋４）なる次元の情報マトリックス
［Ｉ］を格納する。このマトリックスは、４元データシ
ンボル｛＋１，−１，＋３，−３｝から構成され、各シ
ンボルは、２ビットに対応する。

【００３１】次に、マトリックス［Ｉ］の各ロウ（１ロ
ウ＝７Ｎ＋４個のシンボル）が、系統的重畳ロウ符号器
(systematic convolutional row coder)１２２（図３）
によって符号化され、データシンボル、および冗長シン
ボル(redundancy symbols)の両方が生成される。（デー
タシンボルは、符号化の前のマトリックス［Ｉ］の４元
(quaternary)シンボルに対応する４−ＡＭ４−レベルシ
ンボル｛＋１，−１，＋３，−３｝である）。各ロウに
対して、７／８なるレートの重畳符号器によって生成さ
れたＮ個の４−ＡＭ冗長シンボル（７Ｎ個のデータシン
ボルに対してＮ個の冗長シンボル）と、コードトレリス
(code trellis)を閉鎖する（終える）ための４個の４−
ＡＭ冗長シンボルが存在する。トレリスを閉じるための
これら４個のシンボルは、情報マトリックス(informati
on matrix)のロウの最後の４個のシンボルを用いて生成
される。マトリックスのカラムに対しても同様の動作が
遂行される。

【００３２】一例として７／８なるレートの系統的重畳
コード（符号器１２２）について説明する。７個の有益
なデータシンボルから、７個の有益なシンボル（系統的
重畳コード）と、これに追加しての１個の冗長シンボル
から構成される８個のシンボルが生成される。Ｎ＋１ブ
ロック（１ブロックは、７個のデータシンボル、つま
り、１４ビットを持つ）によって形成されるマトリック
スの第１のロウにつて考える。これらは、以下の通りで
ある：

【００３３】

【数１】 あるシンボル、例えば、Ｉ_1,1は、二つのビットｊ_1,1お
よびｉ_1,1から構成される。

【００３４】図３の略図に従って実現される生成コード
は、表１に示すようなマトリックスを与える。

【００３５】

【表１】 各ブロックに対して、系統的重畳コードの冗長シンボル
（つまり、２ビット）が計算される。ブロック１はＲ
_1,1を生成し、ブロック２はＲ_1,2を生成し、そしてこれ
が、ブロックＮによって、Ｒ_1,Nが生成されるまで行な
われる。

【００３６】符号器の初期状態は、０であるものと想定
する。Ｒ_1,Nを生成した後に、符号器１２２は、状態σ
（Ｎ）となる。トレリス閉鎖手段１２８を用いてトレリ
スが閉鎖される。これは、８−状態重畳コード(8-state
convolutional code)のトレリスにおける遷移に対応す
る４個のシンボルＴＲ_1,1，ＴＲ_1,2，ＴＲ_1,3，ＴＲ_{1 ,4}
を生成することで、トレリスの状態を０に強制すること
によって行なわれる。そして、この遷移の後、状態σ＝
０に到達する。上記は、８−状態コードの場合について
であるが、より多くの状態を持つコードに対しては、よ
り多くのトレリス閉鎖シンボル(trellis closing symbo
ls)を使用することが必要となる。シンボルＴＲ_1,1，Ｔ
Ｒ_1,2，ＴＲ_1,3，ＴＲ_1,4は、４個のデータシンボル
（Ｉ_1,7+1,...Ｉ_1,7N+4）とロウが符号化された後のト
レリスσ（Ｎ）の状態との関数であり、後に説明される
ように、σ（Ｎ）にてアドレスされるテーブルによって
生成される。

【００３７】符号化の後に、表１に示されるような４−
ＡＭシンボルのマトリックスが得られる。ここで：Ｉ
_m,nは、４−ＡＭデータシンボルから構成される（７Ｎ
＋４）×（７Ｎ＋４）なる次元を持つマトリックスであ
り；Ｒ_m,nは、７／８コードによって生成されたロウ冗
長シンボルに対応する４−ＡＭシンボルから構成される
（７Ｎ＋４）×Ｎなる次元(dimension)のマトリックス
であり；ＴＲ_m,nは、４−ＡＭトレリス閉鎖ロウ冗長シ
ンボル(trellis closing row redundancy symbols)から
構成される（７ Ｎ＋４）×４なる次元のマトリックス
であり；Ｃ_m,nは、カラム冗長シンボルから構成される
（Ｎ×７Ｎ＋４）なる次元のマトリックスであり；ＴＣ
m,nは、トレリス閉鎖カラム冗長シンボルから構成され
る（４×７Ｎ＋４）なる次元を持つマトリックスであ
る。

【００３８】ロウ符号器１２は、以下のように動作する
（図３）。入力シンボルＩ_m,nは、バッファ１２０に入
り、次に、７／８なるレートの符号器１２２に入る。符
号器１２２は、７個のデータシンボルから成る１ブロッ
クに対して、１個の冗長シンボルを生成する。マルチプ
レクサ１２４は、出力上のシンボルをシリアル化する。
こうして、マルチプレクサ１２４は、出力１３１上に、
順番に、８個のシンボルから成るグループを供給する。
ここで、各グループは、７個のデータシンボルと、その
ブロックに対応する１個の冗長シンボルから構成され
る。次に、マルチプレクサは、８個のシンボルから成る
全てのグループを順番に供給する。全てのグループが抽
出された後に、ロウの最後の４個のデータシンボルが抽
出される。その後、トレリス閉鎖要素１２８によって生
成された４個のトレリス閉鎖シンボルが抽出されるが、
これによって、シンボルの閉鎖（終わり）が決定され
る。コントローラ１７は、これらの動作を制御する。

【００３９】他のロウに対しても同様のプロセスが遂行
される。カラムに対しても類似するプロセスが実現され
る（カラム符号器１４）。第１のカラムの第１のブロッ
クは、シンボル：Ｉ_1,1，Ｉ_2,1．．．Ｉ_7N+4,1から形成
される。７個のシンボルから成るブロックのそれぞれ
に、１個の冗長シンボルが対応する。例えば、冗長シン
ボルＣ_1,1は、第１のブロックに対応し、冗長シンボル
Ｃ_N,1は、最後のブロックに対応する。最初のカラムに
対するトレリス閉鎖冗長シンボルは、シンボルＴ
Ｃ_1,1，ＴＣ_2,1，ＴＣ_3,1，ＴＣ_4,1であるが、これら
は、シンボルＩ_7N+1,1,...Ｉ_7N+4,1に基づいて生成され
る。初期データシンボル、ロウ符号化冗長シンボル、カ
ラム符号化冗長シンボル、トレリス閉鎖シンボルから成
る全てのデータによって生成コードが形成される。

【００４０】この生成コードの１つのロウによって、シ
ンボルの１つのブロックが形成され、この一つのブロッ
クが、４−ＡＭ変調シンボルを符号化するために用いら
れる。初期データシンボルは、生成コードにおいて、こ
れらがカラム毎に読まれてもロウ毎に読まれても変わら
ないために、生成コードのカラムの利用に当たっては、
初期データシンボルを再度使用する必要はない。このた
めに、生成コードのカラムについては、冗長シンボルの
みが、４−ＡＭ変調シンボルを符号化するために利用さ
れる（カラム符号器１４）。生成コードのロウおよびカ
ラムから来る４−ＡＭシンボルが、要素１６内で、１６
−ＱＡＭ変調を符号化するために用いられる。

【００４１】システムの性能を向上させるために、こう
して計算されたばかりの冗長シンボルについても符号化
することも可能である。

【００４２】例えば、マトリックスのカラムＲ_m,nおよ
びＴＲ_m,nを符号化することで（ロウ冗長カラム符号
化）、それぞれ、（Ｎ×Ｎ），（Ｎ×４），（４×
Ｎ），（４×４）なる次元を持つマトリックスＲ
Ｃ_m,n，ＴＲＣ_m,n，ＲＣＴ_m,n，ＴＲＣＴ_m,nが生成され
る（テーブル〓）。マトリックスのロウＣ_m,nおよびＴ
Ｃ_m,nについても同様に符号化され（カラム冗長ロウ符
号化）、それぞれ、（Ｎ×Ｎ），（Ｎ×４），（４×
Ｎ），（４×４）なる次元を持つマトリックスＣ
Ｒ_m,n，ＣＲＴ_m,n，ＴＣＲ_m,n，ＴＣＲＴ_m,nが生成され
る。

【００４３】この場合、上に説明したのと同一の要領
で、（７Ｎ＋４）×（７Ｎ＋４）なる次元を持つ情報マ
トリックスが、ロウおよびカラムに従って符号化され、
ロウ冗長（シンボルＲ_m,n，ＴＲ_m,n）、およびカラム冗
長（シンボルＣ_m,n，ＴＣ_m,n）が得られる。次に、シス
テムの性能を向上させるために、カラムに対してロウ冗
長が符号化され、ロウに対してカラム冗長が符号化され
る。例えば、７Ｎ＋４個のシンボル（Ｒ_1,1,...ＲＣ
_7N+4,1）から成るブロックを符号化することによって、
７／８なるレートのコード冗長から来る第１のＮ個のカ
ラム冗長シンボル（ＲＣ_1,1,...,ＲＣ_N,1）と、トレリ
スを閉鎖するための４個の冗長シンボル（ＲＣＴ_1,1か
らＲＣＴ_4,1）とが生成される。ロウ冗長の他のカラム
（Ｒ_1,n,...,Ｒ_7N+4,n）に対しても、ｎ＝１，．．．，
Ｎについて、および、（ＴＲ_1,1,...,ＴＲ_7N+4,1）から
（ＴＲ_1,4,...,ＴＲ_7N+4,4）までの４個のカラムについ
て、同様に符号化される。カラム冗長のロウ、つまり
（Ｃ_m,1,...,Ｃ_m,7N+4）なるロウについても、ｍ＝
１，．．．，Ｎについて、および、（ＴＣ_1,1,...,ＴＣ
_1,7N+4）から（ＴＣ_4,1,...,ＴＣ_4,7+4）までの４個の
ロウについて、同様に符号化される。

【００４４】こうして、以下のマトリックスが得られ
る：

【００４５】

【表２】 この表において： −マトリックス［Ｉ］は、入力データシンボルを含み、 −マトリックス［Ｒ］は、マトリックス［Ｉ］のロウ冗
長マトリックスであり、 −マトリックス［Ｃ］は、マトリックス［Ｉ］のカラム
冗長マトリックスであり、 −マトリックス［ＴＲ］は、マトリックス［Ｉ］のロウ
に対するトレリス閉鎖冗長マトリックス(trellis closi
ng redundancy matrix)であり、 −マトリックス［ＴＣ］は、マトリックス［Ｉ］のカラ
ムに対するトレリス閉鎖冗長マトリックスであり、 −マトリックス［ＲＣ］は、マトリックス［Ｒ］のカラ
ム冗長マトリックスであり、 −マトリックス［ＣＲ］は、マトリックス［Ｃ］のロウ
冗長マトリックスであり、 −マトリックス［ＴＣＲ］は、マトリックス［ＴＣ］の
ロウ冗長マトリックスであり、 −マトリックス［ＲＣＴ］は、マトリックス［Ｒ］のカ
ラムに対するトレリス閉鎖冗長マトリックスであり、 −マトリックス［ＴＲＣ］は、マトリックス［ＴＲ］の
カラム冗長マトリックスであり、 −マトリックス［ＴＲＣＴ］は、マトリックス［ＴＲ］
のカラムに対するトレリス閉鎖マトリックスである。

【００４６】−マトリックス［ＣＲＴ］は、マトリック
ス［Ｃ］のロウのトレリス閉鎖マトリックスであり、 −マトリックス［ＴＣＲＴ］は、マトリックス［ＴＣ］
のロウ符号化のトレリス閉鎖マトリックスである。

【００４７】次に、マトリックスのロウを符号化するた
めの図３に示されるロウ符号器１２の動作の詳細につい
てより詳細に説明する。

【００４８】バッファ１２０内に、符号化すべきロウが
格納される。一つのロウは、（１４Ｎ＋８）個のビッ
ト、つまり、（７Ｎ＋４）個の４元データシンボルから
構成される。例えば、ｋ番目のブロックに対しては、こ
のバッファは、１４個のビット（つまり、７個のシンボ
ル）を持つＮ個のブロック（ｉ₁（ｋ）,ｊ
₁（ｋ），．．．ｉ₇（ｋ），ｊ₇（ｋ））と、８個のビ
ット（つまり、４個のシンボル）から成る１つのブロッ
クを格納する：

【００４９】

【数２】 １４個のビットから成るＮ個のブロックには、次々と、
７／８なるレートの系統的重畳符号化が施される（符号
器１２２）。各ブロック（ｋ番目のブロック）に対し
て、符号器１２２は、図８に示される割当てを実現する
ことによって、ｋ＝１，．．．，Ｎに対して、そのブロ
ックの１４個の情報ビットと、一つの冗長シンボルＵ₈
（ｋ）に対応する、７個の４−ＡＭシンボルＵ₁（ｋ）
〜Ｕ₇（ｋ）を生成する。

【００５０】１４個の情報ビットから成る各ブロック
は、７／８なるレートの符号トレリスにおける遷移に対
応し、Ｎ＋１番目のオーダの最後のブロックは、このト
レリスを閉鎖する遷移に対応する。

【００５１】８個の情報ビット｛ｉ₁（Ｎ＋１），ｊ
₁（Ｎ＋１），ｉ₂（Ｎ＋１），ｊ₂（Ｎ＋１），ｉ₃（Ｎ
＋１），ｊ₃（Ｎ＋１），ｉ₅（Ｎ＋１），ｊ₅（Ｎ＋
１）｝、つまり、ロウの８個の最後のビットである４個
の４元シンボルに基づいて、図８によって与えられる割
当てられるとちょうど同様な、４−ＡＭシンボル、つま
り、Ｕ₁（Ｎ＋１），Ｕ₂（Ｎ＋１），Ｕ₃（Ｎ＋１），
Ｕ₅（Ｎ＋１）が生成され、次に、トレリスの閉鎖する
ための４個の冗長シンボルＵ₄（Ｎ＋１），Ｕ₆（Ｎ＋
１），Ｕ₇（Ｎ＋１） ，Ｕ₈（Ｎ＋１）が計算される。
これら冗長シンボルは、Ｎ番目のブロックの符号化の後
の符号器の状態σ_N+1と８個のビット｛ｉ₁（Ｎ＋１），
ｊ₁（Ｎ＋１），ｉ₂（Ｎ＋１），ｊ₂（Ｎ＋１），ｉ
₃（Ｎ＋１），ｊ₃（ Ｎ＋１），ｉ₅（Ｎ＋１），ｊ
₅（Ｎ＋１）｝の両方の関数である。これらは、トレリ
ス閉鎖要素１２８によって決定される。

【００５２】カラム符号器は、７／８なるレートの系統
的重畳符号化の出力に冗長シンボルのみが存在する点を
除いてロウ符号器と同一である。

【００５３】図４は、冗長の二重符号化を可能にする符
号器の略図を示す。図１と同一の要素は、同一の番号で
示す。説明の例においては、メモリＭ１０は、（７Ｎ＋
４）2個のシンボルを含む。もう一つのメモリＭＲは、
（７Ｎ＋４）（Ｎ＋４）個のロウ冗長シンボル（シンボ
ルＲ_m,n，ＴＲ_m,n）を含む。もう一つのメモリＭＣは、
（Ｎ＋４）（７Ｎ＋４）個のカラム冗長シンボル（シン
ボルＣ_m,n，ＴＣ_m,n）を含む。これらメモリＭＲおよび
ＭＣは、メモリ１０の内容のロウおよびカラム符号化を
終えた後にロードされる。次に、カラムに従ってＭＲの
内容の符号化が遂行され、ロウに従ってＭＣの内容の符
号化が行なわれ、それぞれ、（Ｎ＋４）²個の４−ＡＭ
シンボル（ＲＣ_m,n，ＴＲＣ_m,n，ＲＣＴ_m,n，ＴＲＣＴ
_m,n）、および（Ｎ＋４）²個の４−ＡＭシンボル（ＣＲ
_m,n，ＣＲＴ_m,n，ＴＣＲ_m,n，ＴＣＲＴ_m,n）が生成され
る。スイッチ１３およびスイッチ１５は、コントローラ
１７の制御下で動作を遂行することを確保する。

【００５４】最後に、表１あるいは表２の各生成コード
マトリックスに対して形成された全ての４−ＡＭシンボ
ルがペアにて結合され、これらがチャネルを通じて１６
−ＱＡＭ群(constellation)の複合シンボルの形式にて
（整列順序にて）伝送される。

【００５５】冗長符号化しない場合の生成コードのレー
トは： ρ₁ ＝ （７Ｎ＋４）²／｛（７Ｎ＋４）²＋２（７Ｎ²
＋３２Ｎ＋１６）｝ となる。Ｎ＝２０の場合は、レートは、０．７６５とな
り、スペクトラル効率はこのレートの４倍、つまり、
３．０６ビット／秒／Ｈｚとなる。

【００５６】二重冗長符号化を行なった場合は、生成コ
ードのレートは： ρ² ＝ （７Ｎ＋４）²／｛１６（Ｎ＋４）（Ｎ＋１）
＋（７Ｎ＋４）²｝ となる。

【００５７】この場合は、Ｎ＝２０の場合、レートは、
０．７２となり、スペクトラル効率は、２．８８ビット
／秒／Ｈｚとなる。冗長を符号化した場合は、０．１８
ビット／秒／Ｈｚのスペクトラル効率の損失が生ずる
が、ただし、システムの性能は向上する。

【００５８】図８は、ビットｉ，ｊの４−ＡＭ群(const
ellation)のシンボルへのビット割当てを示す。

【００５９】一次元の４−ＡＭ群(constellation)は、
セット(set)Ａ₀＝｛−３，-１，＋１，＋３｝によって
表される。セットＡ₀の第１の分割レベルは、２つのサ
ブセット(sub-set)Ｂ₀およびＢ₁から構成される。サブ
セットＢ₀＝｛３，−１｝とされ、サブセットＢ₁＝
｛１，−３｝とされる。あるシンボル、例えば、Ｉ_1,1
は、２個のビットｉ_1,1、およびｊ_1,1から構成される。
この第１のレベルには、ビットｉが割当てられ、Ｂ₀に
対してはｉ＝０とされ、Ｂ₁に対してはｉ＝１とされ
る。セットＡ₀の第２の分割レベルは、４つのサブセッ
トＣ₀，Ｃ₁，Ｃ₂，Ｃ₃から構成される。サブセットＣ₀
＝｛＋３｝，Ｃ₁＝｛＋１｝，Ｃ₂＝｛−１｝，Ｃ₃＝
｛−３｝とされる。この第２のレベルにインデックスｊ
が割当てられ、Ｃ₀あるいはＣ₁に対してはｊ＝０とさ
れ、Ｃ₂あるいはＣ₃に対しては、ｊ＝１とされる。セッ
トＣのインデックスは、それらを構成する分割に割当て
られたインデックスｊ，ｉの１０進値、つまり、２ｊ＋
ｉとされる。

【００６０】８−Ｄ群は、おのおのがＡ₀に属する８個
のシンボルから成るブロックのセットであるものと定義
される。図５は、Ａ₀が１次元（１−Ｄ）４−ＡＭ群で
ある８−Ｄ群（Ａ₀）⁸の分割ツリー(partition tree)を
表す。

【００６１】セット（Ａ₀）⁸は、（二乗）最小ユークリ
ッド距離に対するｄｏ²を持つ。このセットが、２ｄｏ²
の最小距離を持つ２個のサブセットに分割される。各サ
ブセットに、０あるいは１の値を持つビットＹ₀が割当
てられる。

【００６２】

【数３】 となるようなＢ_i1,...,Ｂ_i8に属するすべてのブロック
によって形成されるサブセットに対しては、Ｙ₀＝０が
割当てられ；

【００６３】

【数４】 となるようなＢ_i1...Ｂ_i8に属するすべてのブロックに
よって形成されるサブセットに対しては、Ｙ₀＝１が割
当てられる。

【００６４】こうして、Ｙ₀＝０は、１−Ｄサブセット
内に偶数個の要素を含む全ての４−ＡＭシンボルのブロ
ック（Ｕ₁...Ｕ₈）のセット、つまり、Ｂ₁＝｛＋１，−
３｝に対応する。

【００６５】同様に、Ｙ₀＝１は、１−Ｄサブセット内
に奇数個の要素を含む全ての４−ＡＭ シンボルブロッ
ク（Ｕ₁...Ｕ₈）のセット（集合）、つまり、Ｂ₀＝｛−
１，＋３｝に対応する。

【００６６】次に、それぞれの８−Ｄサブセットが、２
個の別の８−Ｄサブセットに分割され、これが反復され
る。

【００６７】各分割レベルに以下のように１ビットが割
当てられる： −Ｙ₀が第１のレベレに割当てられ； −Ｙ₁が第２のレベルに割当てられ； −Ｙ₂が第３のレベルに割当てられ； −Ｙ₃が第４のレベルに割当てられる。

【００６８】以下では、Ｙ₀＝０に対応するサブセット
についてのみ説明される。

【００６９】４番目の分割レベルの後に、８個のサブセ
ット：Ｓ₀，Ｓ₂，Ｓ₄，Ｓ₆，Ｓ₈，Ｓ₁₀，Ｓ₁₂，Ｓ
₁₄（Ｓ_i，ｉは偶数）が得られる。

【００７０】サブセットＳ_iのインデックスｉは、Ｓiに
割当てられた４ビットＹ₃，Ｙ₂，Ｙ₁，Ｙ₀の１０進値と
される。

【００７１】各サブセットは、形式Ｕ（Ｂ_i1...Ｂ_i8）
（サブセットの和）の形式を持ち、インデックス
（ｉ₁,...ｉ₈）のパリティ関係によって定義される。各
サブセットＳ_iにおける最小（二乗）距離は、４−ｄｏ²
である。各サブセットは、８個の４−ＡＭシンボルから
成る２¹²＝４０９６個のブロックを含む。

【００７２】各サブセットＳ_iは、１６個のサブセット
（Ｂ_i1...Ｂ_i8）から構成され、各サブセット
（Ｂ_i1...Ｂ_i8）は、２⁸＝２５６個の８−Ｄブロックを
含む。

【００７３】最後に、各サブセットＳiが、２個のサブ
セットＳ_i,0と、Ｓ_i,1とに分割される。ここで： −Ｓ_i,0は、そのブロックの最後の４−ＡＭシンボルが
正である（すなわちＣ₀あるいはＣ₁に属する）ようなＳ
iのブロックのサブセットであり、 −Ｓ_i,1は、そのブロックの最後の４−ＡＭシンボルが
負である（すなわちＣ₂あるいはＣ₃に属する）ようなＳ
iのブロックのサブセットである。

【００７４】こうして、Ｓ_i,0は、Ｓ_iの内の、最後のシ
ンボルＵ₈がＣ₀あるいはＣ₁となる、つまり、最後のシ
ンボルが、ビットｊ₈＝０に対応する８−Ｄブロックの
セットに対応する。Ｓ_i,0は、２¹¹個の要素を含む。

【００７５】Ｓ_i,1は、Ｓ_iの内の、ｊ₈＝１となるよう
な集合（Ｕ₁,...Ｕ₈）から成る。

【００７６】例えば、サブセットＳ_6,1は、（Ａ₀）⁸の
内の、ｊ₈＝１と、ビットｉ₁〜ｉ₈の以下の４つのパリ
ティ関係とを有する(verify)ブロック（Ｕ₁,Ｕ₂,...
Ｕ₈）のセットによって定義される：

【００７７】

【数５】 ここで、（ｉ_p，ｊ_p）は、４−ＡＭシンボルＵ_pに割当
てられたビットである（図８）。

【００７８】一般的なケースでは、ｉが偶数である場合
は、Ｓ_i,jは、４−ＡＭシンボルの内の、以下のパリテ
ィ関係を有する(verify)ブロックＵ＝（Ｕ₁,...,Ｕ₈）
のセット（集合）である：

【００７９】

【数６】 ここで、（Ｙ₃Ｙ₂Ｙ₁Ｙ₀）は、ｉのビット表現である。
すなわち：ｉ＝８Ｙ₃＋４Ｙ₂＋２Ｙ₁＋Ｙ₀である。ここ
で、Ｙ₀＝０である。また、（ｉ_p，ｊ_p）は、ブロック
Ｕ_pのｐ番目のシンボルのビット割り当て(bit allocati
on)であり、 Ｕ_ｐ＝３または−１であれば、ｉ_ｐ＝０ Ｕ_ｐ＝１または−３であれば、ｉ_ｐ＝１ Ｕ_ｐ＝１または３であれば、ｊ_ｐ＝０ Ｕ_ｐ＝−１または−３であれば、ｊ_ｐ＝１ である。

【００８０】こうして、全てのＳ_i,jブロック（２¹¹個
のブロック）を生成するためには、１１個のビット
ｉ₁，ｉ₂，ｉ₃，ｉ₅，ｊ₁，ｊ₂，ｊ₃，ｊ₄，ｊ₅，ｊ₆，
ｊ₇の全ての可能な組合せを走査することで十分であ
る。そして、任意の組合せに対して、他のビット
（ｉ₄，ｉ₆，ｉ₇，ｉ₈，ｊ₈）は、上に定義されたサブ
セットＳ_i,jのパリティ関係に基づいて計算することが
可能である。

【００８１】本発明によると、７／８なるレートの系統
的重畳符号(systematic convolutional code)は、以下
のようにして形成される：サブセットＳ_i,jが、トレリ
スの並列のブランチに割当てられる。また、偶数のｉを
持つサブセットＳ_i,jが利用される。これは、最小（二
乗）距離が、４ｄｏ²に等しくなることを保証する。こ
こで、ｄｏは、４−ＡＭ群の最小距離である。

【００８２】７／８なるレートを持つコードの場合は、
符号器のある与えられた状態から来る、８個の送信され
た４−ＡＭシンボル（つまり、１６ビット）に対する１
４個の入力ビット（この内の３個は符号化されたビット
で、１１個は符号化されてないビット）に対応する、８
個の別個の遷移が存在することが必要である。これによ
って、８−状態コードのトレリスが完全に接続される。

【００８３】系統的コードとするためには、つまり、８
−Ｄブロックの内の送信された最初の７個の４−ＡＭシ
ンボルが、７個のデータシンボル（あるいは１４個のビ
ット）となるようにするためには、２¹⁴個の遷移が、あ
る状態に基づいて、８個の４−ＡＭシンボルの２¹⁴個の
ブロックを生成し、最初の７個が、２¹⁴個の可能な組合
せを採用するようるすることが必要である。このために
は、一つの状態から来る８個の別個のブランチに対し
て、８個のサブセットＳ_i,jを割当てることで十分であ
る。ここで、ｉ＝０，２，４，６，８，１０，１２，１
４とされ、ｊは、任意の値とされる。

【００８４】図６は、７／８なるレートの最適な系統的
重畳コードのトレリスを示す。図において、σ_kは、瞬
間ｋにおける符号器の状態であり、σ_k+1は、瞬間ｋ＋
１における符号器の状態である。状態は、符号器のメモ
リ内の３個のビット（３個のシフトレジスタ）によって
定義される。この図は、さらに、サブセットＳ_i,jのさ
まざまなトレリス遷移への割当てを示す。このトレリス
が、以下のように分析される：符号器は、瞬間ｋｔにお
ける状態σ（ｋ）：σ_k＝（σ² _k，σ¹ _k，σ⁰ _k）に基づ
いて、瞬間（ｋ＋１）Ｔにおける別の状態σ（ｋ＋
１）：σ_k+1＝（σ² _k+1，σ¹ _k+1，σ⁰ _k+1）へと進む。

【００８５】こうして、符号器は、状態［１１１］か
ら、８個の状態［０００］［００１］［０１０］［０１
１］［１００］［１０１］［１１０］［１１１］のいず
れか１つに進む。

【００８６】例えば、状態００１から来る第３の遷移、
つまり、遷移００１→０１０は、Ｓ_10,1に対応すること
が示される。同様にして、トレリスの全体が分析され
る。

【００８７】図７は、７／８なるレートの符号器１２２
（図３）のブロック図を示す。符号器の入力上の１４個
のビット、つまり、（ｉ_l（ｋ），ｊ_l（ｋ））（ｌ＝
１．．．７）は、瞬間ｋにおいて、図７に示すように、
送信されたブロックＵ₁（ｋ），．．．Ｕ₇（ｋ）の最初
の７個のシンボルを選択する。冗長シンボルＵ
₈（ｋ）、つまり、（ｉ₈（ｋ），ｊ₈（ｋ））を計算す
るために、最初に、３個のビットＹ₃（ｋ），Ｙ
₂（ｋ），Ｙ₁（ｋ）に同じように対応するサブセットＳ
_iのインデックスｉ（偶数のｉ）が計算される。ここ
で、ｉ＝８Ｙ₃＋４Ｙ₂＋２Ｙ₁＋Ｙ₀、そして、Ｙ₀＝０
である。ｉ₈（ｋ）についても計算されるが、これは、
ビットｉ₁（ｋ），．．．，ｉ₇（ｋ）のパリティビット
である。ビットj₈（ｋ）は、その入力に対してビットＹ
₁，Ｙ₂，Ｙ₃を持つ、３／４なるレートの系統的重畳符
号器２３０の冗長ビットである。ビット（ｉ₈，ｊ₈）に
よってシンボルＵ₈（ｋ）が選択される。この３／４な
るレートの符号器の出力においては、符号器の次の状態
σ_k+1が得られるが、これは、ロウあるいはカラムの終
端の所でトレリスを閉鎖するために用いられる（ｋ＝
Ｎ）。

【００８８】ビットＹ₁（ｋ），Ｙ₂（ｋ），Ｙ₃（ｋ）
およびｉ₈（ｋ）は、ビットｉ₁（ｋ），ｉ
₂（ｋ），．．．ｉ₇（ｋ）の関数として、以下の式に従
って計算される：

【００８９】

【数７】 これらの式は、サブセットＳ_iのビットＹ₀，Ｙ₁，Ｙ₂，
Ｙ₃へのビット割当て（図５）から導出され、これが、
要素２１０内で実現される。

【００９０】符号器のこの構造（図７）は、Ｓ_i,j8（ｉ
＝８Ｙ₃＋４Ｙ₂＋２Ｙ₁）の全ての８−Ｄブロックを、
トレリスの状態σから別の状態への並列遷移に割当てる
ことを可能にする。

【００９１】図７に示した重畳符号器は、テーブル（図
１１）を介して実現することも、シフトレジスタ（図９
と図１０）を介して実現することも、あるいはコンピュ
ータのソフトウエアを介して実現することも可能であ
る。

【００９２】図１１に示すように、テーブル２２０（メ
モリ）は、冗長ビットｊ₈（ｋ）および 将来の状態σ
_k+1（２^ν個の状態を持つコードの場合はν個のビッ
ト）を、σ_k，Ｙ₁（ｋ），Ｙ₂（ｋ），Ｙ₃（ｋ）の関数
として与える。テーブル２２０は、Ｙ₁，Ｙ₂，Ｙ₃と共
に自身の出力σ_k+1も受信する。後者は、遅延セル２２
２を通じて入力のループバックされる。

【００９３】図９および図１０は、それぞれ、最適な８
−状態符号器（ν＝３）、および１６−状態符号器（ν
＝４）を示す。８−状態符号器の場合は、加算器セル３
１２1，遅延セル３１０₁，加算器セル３１２₂，遅延セ
ル３１０₂，加算器セル３１２₃，遅延セル３１０₃，加
算器セル３１２₄により連鎖が形成され、このシステム
の出力は、ｊ₈（ｋ）を生成する。

【００９４】加算器セル３１２₁は、Ｙ₁（ｋ）を受信
し、加算器セル３１２₂は、Ｙ₃（ｋ）を受信し、加算器
セル３１２₃は、Ｙ₂（ｋ），Ｙ₃（ｋ）を受信し、加算
器セル３１２₄は、Ｙ₁（ｋ），Ｙ₂（ｋ），Ｙ₃（ｋ）を
受信する。

【００９５】１６−状態符号器（図１０）の場合は、シ
ステムは、８−状態システムの場合と同一の要素によっ
て形成されるが、これに、遅延セル３１０4、および加
算器セル３１２₅が追加される。

【００９６】図１２は、トレリス閉鎖構成を示す。符号
器の状態σを考え、サブセットＳ_{i, j8}（８−Ｄサブセッ
ト）が、トレリスを閉鎖する遷移（２¹¹個の並列ブラン
チ）に割当てられるものとする。ここで、ｉ＝８Ｙ₃＋
４Ｙ₂＋２Ｙ₁である。

【００９７】トレリスが閉鎖され得る２¹¹個のブランチ
が存在するために、ブランチを、４個のデータシンボル
Ｕ₁，Ｕ₂，Ｕ₃，Ｕ₅、すなわち、８個の情報ビット
ｉ₁，ｊ₁，ｉ₂，ｊ₂，ｉ₃，ｊ₃，ｉ₅，ｊ₅の関数として
探すことができる。

【００９８】トレリスの閉鎖遷移(closing transition)
の際に、それぞれ、ビット（ｉ₁，ｊ₁），（ｉ₂，
ｊ₂），（ｉ₃，ｊ₃），（ｉ₅，ｊ₅）に対応する４個の
データシンボルＵ₁，Ｕ₂，Ｕ₃，Ｕ₅が送信される。

【００９９】計算は、２つのステップ（図１２）で行な
われる：ロウあるいはカラムの符号化の終端における符
号器の状態σ_N+1に基づいて、ビットＹ₁（Ｎ＋１），Ｙ
₂（Ｎ＋１），Ｙ₃（Ｎ＋１），ｊ₈（Ｎ＋１）が、表３
を含むテーブル２１０に基づいて生成される。

【０１００】

【表３】 ビットＹ₁（Ｎ＋１），Ｙ₂（Ｎ＋１），Ｙ₃（Ｎ＋
１），ｊ₈（Ｎ＋ １）に基づいて、ビット（ｉ₄，
ｊ₄），（ｉ₆，ｊ₆，），（ｉ₇，ｊ₇），（ｉ₈，ｊ₈）
（Ｎ＋１）が生成され、これから計算手段２４０におい
て、シンボルＵ₄（Ｎ＋１），Ｕ₆（Ｎ＋１），Ｕ₇（Ｎ
＋１），Ｕ₈（Ｎ＋１）が生成される。これらビット
は、以下のように計算される：

【０１０１】

【数８】 ビットｊ₄、およびｊ₆は、どのような値を取ることもで
き、これらは、例えば、０（ｊ₄＝ｊ₆＝０）と決められ
る。

【０１０２】ビットｊ₇は、先行する遷移の全てのビッ
ト（ｊ_1,...ｊ₇）のパリティビットであり、以下によっ
て与えられる：

【０１０３】

【数９】 これは、図１２に示す計算手段によって実現される。好
ましくは、これら計算は、コンピュータのソフトウエア
を介して実現される。

【０１０４】復号手段が、図１に示される。復号は、二
つの異なる段内で、複数のステップにて遂行される。第
一の段においては、ビットｉ、つまり、送信されたシン
ボルの最下位ビット（ＬＳＢ）の反復的復号が遂行され
る。

【０１０５】チャネルを通じて受信されたシンボルのマ
トリックスが、メモリ２０に格納される。このマトリッ
クスは、送信されたシンボルのマトリックスに対応する
（マトリックスの次元は、送信機端で符号化されたマト
リックスの次元と同一である）。

【０１０６】ロウに続いて、カラムが、順番に、独立し
て、復号される。各反復において、ビットｉ（ビットマ
トリックス）に関する判定（接続２１₁）が生成され、
次の反復の際に使用される実数シンボルマトリックス
（判定の信頼性）がメモリ２０内に格納される（接続２
３₁）。デインタリーバ２４₁によってデータが遅延され
る。

【０１０７】−ロウおよびカラムの復号のために、この
好ましい例においては、７／８なるレートの８−Ｄ重畳
コードに対応するソフト判定ビタビ復号器２２1が使用
される。

【０１０８】第２の段においては、第１のステップをあ
る回数（通常は、３あるいは４回）だけ反復した後に、
ステップ２（接続２５）に進み、ビットｊ、つまり、送
信されたシンボルの最上位ビット（ＭＳＢ）が復号され
る。

【０１０９】次に、ロウに続いて、カラムが、メモリ２
０内に格納された実数マトリックス、および第一の段に
おいて検出されたビットｉのマトリックスが用いられる
という意味で反復的に復号される。

【０１１０】ロウあるいはカラムの復号器２２₂として
は、生成コードの各ロウおよびカラムに対して７／８な
るレートの重畳コードのトレリスを閉鎖するときに用い
られたパリティコードのソフト判定復号器が用いられ
る。

【０１１１】最初に、第１の段（経路１）の動作につい
て説明する。図１３は、送信された４−ＡＭシンボルの
ＬＳＢビット（ビットｉ）に対する二重判定ビタビ復号
手段２２₁段の一般回路図を示す。これは： −マトリックスを計算するためのサブセット２２０ −ハード判定を生成するビタビ復号器２２２ −判定の信頼性を計算するためのサブセット２２４ −ソフト判定を計算するためのサブセット２２６ を含む。

【０１１２】系統的重畳コードの復号は、ソフト判定復
号アルゴリズムを適用することから成る。説明を簡単に
するために、一例として、７／８なるレートの系統的重
畳コードについて考える。表１に示すインデックス１を
持つロウについて具体的に説明すると、一連の生成コー
ドは、以下のシンボルから形成され、これらが送信端か
ら送信される（説明を簡単にするために、以下では、ロ
ウのインデックス（ここでは、ｉ＝１）は省略され
る）。： ７Ｎ＋４個のデータシンボル：Ｉ＝Ｉ_1，．．．，Ｉ
_7N+4 Ｎ個のコード冗長シンボル： Ｒ＝Ｒ_1，．．．，Ｒ_N ４個のトレリス閉鎖シンボル： ＴＲ＝ＴＲ₁，ＴＲ₂，ＴＲ₃，ＴＲ₄ 送信チャネルの不完全さのために、受信されたシンボル
Ｄ⁽⁰⁾＝（Ｄ⁽⁰⁾ ₁,...,Ｄ⁽⁰⁾ _8N+8）は、送信されたシン
ボルに対して差異を示す。

【０１１３】受信機端では複合シンボルが受信される
が、これは、チャネルを通った後の送信された１６−Ｑ
ＡＭシンボルに対応する。各複合シンボルは、２個の実
数シンボルのシーケンスであるとみなされる。次に、こ
れら実数シンボルが、送信機端に定義されるマトリック
スと同一構造を持つマトリックスに従ってメモリ２０
（図１）内に格納される。これら受信された実数シンボ
ルは、送信機端で使用されたのと同一の順番を守りなが
らマトリックスに配列される。ビットｉの復号プロセス
は反復的であるが、これは、マトリックスのロウが最初
に復号され、次に、カラムが復号されることを意味す
る。各反復において復号されるべきロウあるいはカラム
の数は、表１の場合（冗長の符号化を行なわない場合）
は、７Ｎ＋４に等しく、冗長が符号化される場合（表
２）は、８Ｎ＋８に等しい。

【０１１４】最初に、マトリックスのロウに対するｖ番
目の反復における、つまり、実数シンボルのブロック：
Ｄ^(v-1)＝（Ｄ^(v-1) ₁,...,Ｄ^(v-1) _8N+8）の反復的復号
について考える。インデックスｖは、反復の回数に対応
する整数である。復号によって８Ｎ＋８個の実数シンボ
ル（ソフト出力）のブロック：Ｄ^(v)＝（Ｄ^(v) ₁,...,Ｄ
^(v) _8N+8）が生成され、これが、それぞれ、次の反復
と、送信された４−ＡＭシンボル（Ｉ₁,...Ｉ_7N+4,
Ｒ₁,...Ｒ_N,ＴＲ₁,...ＴＲ₄）の第一の分割レベレのビ
ット（ＬＳＢビット）である送信されたビットｉ＝（ｉ
₁,...,ｉ_8N+8）に対応するビット＾ｉ^(v)＝（＾
ｉ^(v) ₁,...,＾ｉ^(v) _8N+8）の最適判定に加えられる。こ
こでは、７Ｎ＋４個のシンボル：Ｄ^(v-1) ₁,...,Ｄ^(v-1)
_7N+4がデータシンボルに対応し、Ｎ個のシンボル：Ｄ
^(v-1) _7N+5,...,Ｄ^(v-1) _8N+4が７／８なるレートのコー
ド冗長シンボルに対応し、４個のシンボル：Ｄ^(v-1)
_8N+5,...,Ｄ^(v-1) _{8N+ 8}がトレリスを閉鎖するための冗長
シンボルに対応するものと想定する。これらシンボルが
以下の順番で処理される：

【０１１５】

【数１０】 復号は、６つのステップにて遂行される。以下の説明
は、Ｄ^(v-1)からＤ^(v)を導出する方法について示す。

【０１１６】第１のステップは、距離(metrics)の計算
に関する。距離を計算するためのサブセット２２０（図
１３）は、８個のシンボルからなる各ブロックについて
（ｌ番目のブロック、ｌ＝０，．．．Ｎ−１）（Ｄ
^(v-l) _7l+1，...Ｄ^(v-l) _7l+7，Ｄ^{( v-l)} _7N+5+lについ
て）、これを検出すると共に各８−ＤサブセットＳ_i,j
における距離の計算を遂行し、さらに、生成コードの
ロウあるいはカラムの符号化の終端においてトレリスを
閉鎖する遷移に対応するブロック（Ｄ^(v-l) _7N+1，Ｄ^(v-
l) _7N+4，Ｄ^(v-l) _8N+5，Ｄ^(v-1) _8N+8）についても、これ
を検出すると共に距離の計算を遂行する。簡単のため
に、これら８−Ｄブロックは、（ｒ_1,...,ｒ₈）として
示される。距離の計算は、さまざまなステップによって
遂行される。

【０１１７】最初に距離が１−Ｄ群(constellation)に
おいて計算される。ｋ＝１，．．．７（ブロックの最初
の７個のシンボル）に対して、サブセットＢ₀＝｛３，
−１｝、およびＢ₁＝｛１，−３｝のそれぞれにおける
最も近い４−ＡＭシンボルが検出され、それぞれ、これ
に対応する距離：Ｍ_k,0、およびＭ_k,1が計算される。こ
こで、Ｍ_k,iは、ｒ_kと、Ｂ_iにおける最も近いシンボル
との間の二乗ユークリッド距離に等しい。

【０１１８】ｋ＝８に対して、各サブセットＣ_iにおけ
る、シンボルｒ₈の、それぞれ、Ｃ_i＝０，１ ，２，３
に対応する距離Ｍ8,0，Ｍ81，Ｍ8,2，Ｍ8,3が計算され
る。ここで、Ｃ_iは、４−ＡＭ群に割当てられた２ビッ
トの１０進形式で表現された値ｉに対応する４−ＡＭポ
イントを含む。

【０１１９】その後、これらの距離が、２−Ｄ群におい
て計算される。最初の３個の２−Ｄブロック（シンボル
ペア）、つまり、（ｒ₁，ｒ₂）（ｒ₃，ｒ₄）（ｒ₅，
ｒ₆）に対して、距離Ｍ⁽²⁾ _k,l（ｋ＝１，３，５）が、
４個の２−ＤサブセットＥ⁽²⁾ _l＝Ｂ_iＢ_i’において検出
および計算される。ここで、ｌ＝２ｉ＋ｉ’，ｉ＝０，
１，ｉ’＝０，１ ２−Ｄ距離(metric)は、２−Ｄブロックの２個のシンボ
ルの２個のｌ−Ｄ距離の総和として定義される。Ｅ(2)l
における（ｒ_k，ｒ_k+ｌ）の距離が、ｋ＝１，３，５に
対以下のように得られる： Ｍ⁽²⁾ _k,l＝Ｍ_k,i＋Ｍ_k+1,i' （ｌ＝０，１，２，３に
対して） ここで、ｌ＝２ｉ＋ｉ’である。

【０１２０】最後の２−Ｄブロックｒ₇，ｒ₈に対して、
距離Ｍ⁽²⁾ _7,l,jが、８個の２−ＤサブセットＥ⁽²⁾ _l,j＝
Ｂ_iＣ_2j+i'において、ｉ＝０，１，ｉ’＝０，１，ｊ＝
０，１に対して、以下のように計算される。ここで、ｌ
＝２ｉ＋ｉ’である。： Ｍ⁽²⁾ _7,l,j＝Ｍ_7,i＋Ｍ_8,2j+i' その後、この距離(metrics)が４−Ｄ群において計算さ
れる。４−Ｄブロック（ｒ₁ｒ₂ｒ₃ｒ₄）の距離Ｍ⁽⁴⁾ _1,l
が、８個の４−ＤサブセットＥ⁽⁴⁾ _l（ｌ＝０，
１，．．．７）に対して以下のように検出および計算さ
れる：

【０１２１】

【数１１】 各サブセットに対して、２個の４−Ｄ距離が計算され、
小さい方の距離が採用される。例えば、Ｅ⁽⁴⁾ ₀に対して
以下が計算される：Ｅ⁽²⁾ ₃Ｅ⁽²⁾ ₃における距離Ｍ⁽²⁾ _1,3
＋Ｍ⁽²⁾ _3,3；Ｅ⁽²⁾ ₃Ｅ⁽²⁾ ₃における距離Ｍ⁽²⁾ _1,3＋Ｍ
⁽²⁾ _3,3；Ｅ⁽⁴⁾ ₀における（ｒ₁ｒ₂ｒ₃ｒ₄）の距離Ｍ⁽⁴⁾
_1,0：これは、min［Ｍ⁽²⁾ _1,0＋Ｍ⁽²⁾ _3,0，Ｍ⁽²⁾ _1,3＋Ｍ
⁽²⁾ _3,3］に等しい。

【０１２２】各ブロック（ｒ₅ｒ₆ｒ₇ｒ₈）に対して、サ
ブセットＥ⁽⁴⁾ _l,jにおける距離Ｍ^{(4 )} _5,l,jが、ｌ＝０，
１，．．．７、およびｊ＝０，１に対して検出および計
算される。サブセットＥ⁽⁴⁾ _l,jは、Ｅ⁽⁴⁾ _lと、最後のシ
ンボルがｊ＝０に対しては正であり、ｊ＝１に対しては
負である点を除いて類似に定義される。例えば、Ｅ^{(4 )}
_0,j＝Ｅ⁽²⁾ ₀Ｅ⁽²⁾ ₀,_jＵＥ⁽²⁾ ₃Ｅ⁽²⁾ _3,jとして定義され
る。このために、第２の２−Ｄサブセットのインデック
スｋを、ｋ，ｊによって置き換えることで十分である。
Ｅ⁽⁴⁾ _0,jにおける距離は： Ｍ⁽⁴⁾ _5,0,j＝min［Ｍ⁽²⁾ _5,0＋Ｍ⁽²⁾ _7,0,j，Ｍ⁽²⁾ _5,3＋
Ｍ⁽²⁾ _7,3,j］ となる。

【０１２３】最後に、距離が１６個の８−Ｄサブセット
において計算される。偶数のｉに対するサブセット（部
分集合）Ｓ_i,jは、おのおのが２個の４−Ｄサブセット
の連接である４個の８−Ｄサブセット（部分集合）の和
集合である： Ｓ_i,j＝ＵＥ⁽⁴⁾ _lＥ⁽⁴⁾ _l'j 、ここで、ｉ₂＝０，１，ｉ
₃＝０，１そして：

【０１２４】

【数１２】 Ｓ_i,jにおけるｒ_1,...ｒ₈の距離の計算には、４個の８
−ＤサブセットＥ⁽⁴⁾ _lＥ⁽⁴⁾ _l',jにおける距離を計算す
ること、つまり、Ｅ⁽⁴⁾ _lにおける（ｒ₁ｒ₂ｒ₃ｒ₄）の距
離とＥ⁽⁴⁾ _l',jにおける（ｒ₅ｒ₆ｒ₇ｒ₈）の距離との総
和を計算することが必要となる。４個の距離の内の最小
によって、Ｓ_i,jにおける８−Ｄ距離Ｍ⁽⁸⁾ _i,jが与えら
れる。

【０１２５】各８−Ｄブロックに対して、各サブセット
Ｓ_i,jにおける距離が検出および計算され、これらの距
離がビタビ復号器に供給される。これら距離は、遷移
１，２，．．．，Ｎ＋１の際のトレリスブランチの距離
でもある。

【０１２６】これもやはり第１の段において、復号の第
２のステップが遂行される。サブセット２２２は、受信
されたシンボルシーケンスの従来のビタビ復号を遂行す
る。このようにして、以下のようなロウの復号された最
適シーケンス（ハード判定）が得られる： ＾Ｉ^(v)＝＾Ｉ^(v) ₁,...＾Ｉ^(v) _7N+4,＾Ｉ^(v) _7N+5,＾Ｉ
^(v) _8N+8および復号されたＬＳＢビットシーケンス： ＾ｉ^(v)＝＾ｉ^(v) ₁,...＾ｉ^(v) _8N+8および８−Ｄサブセ
ットに対応するシーケンス 復号された状態に対応する状態のシーケンスは：＾σ
⁽ⁱ⁾＝＾σ⁽ⁱ⁾ _0,...＾σ⁽ⁱ⁾ _N+1である。これは、Ｎ＋１
個の遷移あるいはブランチに対応する。ここで、＾σ
⁽ⁱ⁾ ₀＝＾σ⁽ⁱ⁾ _N+1＝０は、初期および最終の０の状態で
ある。状態距離Ｍ⁽ⁱ⁾ _j（σ）のベクトルが、各状態σ＝
０，．．．７、および各瞬間ｊ＝１，．．．Ｎ＋１につ
いて格納される。最終的に、テーブルにおいて生き残っ
た経路が格納される。ビタビ復号器２２２によって生成
されるこれら全ての結果は信頼性を計算するために使用
される。

【０１２７】第３のステップにおいて、復号されたシー
ケンス＾Ｉ^(v)の、各シンボル＾Ｉ^{( v)} _k、あるいは各ビ
ット＾ｉ^(v) _kの信頼性が、ｋ＝１，．．．８Ｎ＋８に対
して、サブセット２２４において計算される。この信頼
性は、復号されたシンボルの品質（正確さの確率）の尺
度である。この信頼性は以下のように書き表すことがで
きる： Ｆ⁽ⁱ⁾＝Ｆ⁽ⁱ⁾ _1,...Ｆ⁽ⁱ⁾ _8N+8 ｋ番目のオーダのシンボルの信頼性は、以下のように書
き表すことができる：

【０１２８】

【数１３】 ここで、Ｄ^(v-1)は、入力シンボルのシーケンスであ
り、Ｃ（＾Ｉ^(v) _k）は、＾Ｉ^(v) _kに近い４−ＡＭシンボ
ルに対応するコード語のセットである。信頼性Ｆ
^(v) _kは、以下のように書き表すことができる：

【０１２９】

【数１４】 総和の主項を取ることによって、以下のように書き替え
ることが可能である：

【０１３０】

【数１５】 この最小は、シンボル＾Ｉ^(v) _kに近い復号された４−Ａ
Ｍシンボルを生成するエラー経路との最大の対応を与え
る。この信頼性の定義は、ビット＾ｉ^(v) _kの信頼性の定
義でもある。事実、＾Ｉ^(v) _kに近いシンボルは、＾ｉ
^(v) _kの補数であるビットｉに対応する。

【０１３１】信頼性の計算は、以下のアルゴリズムに従
って行なわれる。

【０１３２】ビタビ復号器によって復号されたシーケン
ス＾Ｉ^(v) _kは、Ｎ＋１なる長さを持つトレリス内のある
経路に対応する。判定＾Ｉ^(v) _kの信頼性Ｆ^(v) _kを、ｋ＝
１，．．．８Ｎ＋８に対して計算するための計算アルゴ
リズムは以下の通りである：判定＾Ｉ^(v) _kの信頼性（ｋ
＝１，．．．８Ｎ＋８）、あるいはビット＾ｉ^(v) _kの信
頼性（ｋ＝１，．．．８Ｎ＋８）の計算は、２つのステ
ップにて遂行される。第１のステップは、信頼性を、並
列な遷移に対応するエラー経路と比較して計算すること
から成り、第２のステップは、信頼性を、トレリスのエ
ラー経路と比較して計算することから成る。最終的な信
頼性は、この２つの内の低い方の値として決定される。

【０１３３】最初に、並列なブランチに起因する信頼性
ＦＰが計算される。このプロセスは、シンボルシーケン
スＤ^(v-1) _k、およびＩ^(v) _kに関して、ブロック毎に遂行
される。各処理の結果として、ｌ番目の遷移（ｌ＝
０，．．．，Ｎ−１）に対応する８個のシンボル（Ｄ
^(v-l) _7l+1,...,Ｄ^(v-l) _7l+7,Ｄ^(v-l) _7N;5+l）に起因す
る信頼性と、（Ｎ＋１）番目の遷移（つまりトレリスを
閉鎖する遷移）に対応する８個のシンボル（Ｄ^(v-l)
_7N;1,...,Ｄ^(v-l) _7N+4,Ｄ^(v-l) _8N+5,...,Ｄ^(v-l) _8N+8）
に起因する信頼性を計算することが可能になる。トレリ
スの並列なブランチが、８−ＤサブセットＳ_i,jに割当
てられるために、この信頼性は、＾Ｉ^(v) _kに対応する復
号されたブロックを含む８−Ｄサブセットにおける判定
＾Ｉ^(v) _kの信頼性でもある（復号された８−Ｄサブセッ
トのシーケンスはビタビ復号器によって生成される）。

【０１３４】Ｓ_i（ｒ_1,...ｒ₈）は、例えば、ブロック
（Ｄ^(v-l) _1,...,Ｄ^(v-l) ₇,Ｄ^(v-l) _{7N +5}）であり、Ｓ_i,j
は、検出された４−ＡＭシンボル（ｄ_1,...ｄ₈）＝（＾
Ｉ^(v) _1,...,＾Ｉ^(v) _7,＾Ｉ^(v) _7N+5）に対応する復号さ
れた８−Ｄサブセットであるために、Ｓ_i,jにおける信
頼性ｒ_k（ｋ＝１，．．．８）計算は、煮詰めると、サ
ブセットＳ_0,j'における以下の量の信頼性の計算に帰着
する。

【０１３５】

【数１６】 こうして、全てのケースにおいて、これは、煮詰める
と、Ｓ_0,0あるいはＳ_0,1の信頼性の計算に帰着し、これ
は、アルゴリズムをより単純にする。

【０１３６】図１４は、サブセットＳ₀₀とＳ₀₁のトレリ
スを表す。ここで、トレリス内の各経路は、Ｂ
_i1Ｂ_i2...Ｂ_i7Ｃ_2j8+i8なる形式を持つサブセットに対
応する。

【０１３７】次に、Ｓ_0,0、つまり、Ｓ_i,j＝Ｓ_0,0に対
して、判定ｄ_k（ｋ＝１，．．．８）信頼性を計算する
ためのアルゴリズムについて説明する。

【０１３８】最初に、２−Ｄ距離の計算が以下のように
行なわれる：

【０１３９】

【数１７】 ここで、Ｍ_k,iは、Ｂ_iにおけるｒ_k（ｋ＝１，．．．
７）の距離であり；Ｍ_8,iは、Ｃ_iにおけるｒ₈の距離で
ある。

【０１４０】信頼性の計算がＳ_0,1に対して遂行される
場合は、Ｍ_8,iが、Ｃ₂およびＣ₃（ｉ＝２，３）につい
て計算される。

【０１４１】こうして、（ｒ_1,...ｒ₈）からの最も近い
経路が以下のようにＳ_0,0について求められる：Ｓ_0,0の
トレリスの上側部分と下側部分とは別々に計算される。
上側トレリスにおいては、ｋ＝１，２，３に対するＭ
（０，ｋ）＝ｍｉｎ（Ｍ_0,0（ｋ），Ｍ_{1 ,1}（ｋ））と、 Ｍ（０，４）＝ｍｉｎ（Ｍ_0,0（４），Ｍ_1,1（４） が計算される。

【０１４２】最小の値を持つビット（ｉ_1,...ｉ₈）が、
ｉ₁＝ｉ₂，ｉ₃＝ｉ₄，ｉ₅＝ｉ₆，ｉ₇＝ｉ₈として、テー
ブル［ｉ（０，１）．．．ｉ（０，８）内に格納され
る。そして：

【０１４３】

【数１８】 が計算される。

【０１４４】下側トレリスにおいては、ｋ＝１，２，３
に対するＭ（１，ｋ）＝ｍｉｎ（Ｍ_0,1（ｋ），Ｍ
_1,0（ｋ））と、 Ｍ（１，４）＝ｍｉｎ（Ｍ_0,1（４），Ｍ_1,0（４）） に対して計算され、そして：

【０１４５】

【数１９】 が計算される。

【０１４６】［ｉ（１，１），．．．ｉ（１，８）］に
おける最小に対応するビットｉ_1...ｉ₈が、ｉ₁＝￣
ｉ₂，ｉ₃＝￣ｉ₄，ｉ₅＝￣ｉ₆，ｉ₇＝￣ｉ₈として、格
納される。

【０１４７】シーケンス［ｉ（０，１），．．．ｉ
（０，８）］、および［ｉ（１，１），．．．ｉ（１，
８）］が２つの有効(valid)なシーケンスであるか否か
検証(verify)される。パリティビットｐ（０）、および
ｐ（１）が、それぞれ、シーケンス［ｉ（０，１），ｉ
（０，３），ｉ（０，５），ｉ（０，７）］、および
［ｉ（１，１），ｉ（１，３），ｉ（１，５），ｉ
（１，７）］に対して計算される。ｋ＝０，１に対し
て、ｐ（ｋ）＝０の場合は、対応するシーケンスは、ト
レリス（すなわちＳ_0,0）に属し、そうでない場合は、
そのシーケンスは、修正される。

【０１４８】２−Ｄ距離の差が、以下のように計算され
る：

【０１４９】

【数２０】 次に、４個の距離の最小が、２つの上側トレリス（ｑ＝
０）、および下側トレリス（ｑ＝１）のそれぞれに対し
て計算される：

【０１５０】

【数２１】 ｋ_min（ｑ）における最小を与えるインデックスｋが格
納され、第二の最小Δ₂（ｑ）が計算される。

【０１５１】パリティビットｐ（ｑ）＝１である場合
は、ビット（ｉ（ｑ，２ｋ_min（ｑ）−１），ｉ（ｑ，
２ｋ_min（ｑ））の補数が取られ、Δ（ｑ）の距離ＭＥ
Ｔ（ｑ）が増分される。この動作が、ｑ＝０（上側トレ
リス）と、ｑ＝１（下側トレリス）に対して遂行され
る。

【０１５２】次に、Δ_min＝｜ＭＥＴ（０）−ＭＥＴ
（１）｜が計算され、ＭＥＴ（０）とＭＥＴ（１）の内
のより低い値を与えるインデックスｃ（０あるいは１）
が格納される。

【０１５３】Ｓ_0,0において（ｄ_1,...ｄ₈）の信頼性Ｆ
Ｐ（１），．．．，ＦＰ（８）が以下のように初期化さ
れる：

【０１５４】

【数２２】 ここで、ＦＰ（ｋ）は、Ｓ_0,0におけるｄ_kの信頼性であ
る。

【０１５５】その後、信頼性ＦＰ（ｋ）（ｋ＝
１，．．．８）が以下のように更新される：ｋ＝
１，．．．８に対して： ＦＰ（ｋ）＝min［ＦＰ（ｋ），Δ_min］ ここで、ｉ（ｃ，ｋ）≠ｉ（１−ｃ，ｋ） ｋ＝１，２，３，４に対して： ｉ（０，２ｋ−１）＝ｉ（１，２ｋ−１）の場合は ＦＰ（２ｋ−１）＝min（ＦＰ（２ｋ−１），Ａ_k） ｉ（０，２ｋ）＝ｉ（１，２ｋ）の場合は ＦＰ（２ｋ−１）＝min（ＦＰ（２ｋ），Ａ_k） ここでｋ≠ｋmin（１−ｃ）の場合は Ａ_k＝Δ_min＋δ（１−ｃ，ｋ）＋［１−２ｐ（１−
ｃ）］Δ（１−ｃ） ｋ＝ｋ_min（１−ｃ）の場合は Ａ_k＝Δ_min＋Δ₂（１−ｃ）＋［１−２ｐ（１−ｃ）］
Δ（１−ｃ） 次に、トレリスのエラー経路に起因する信頼性が決定さ
れる（図１５）。

【０１５６】ロウの復号について考える（ステップ３０
０）。

【０１５７】最初に、＾Ｉ^(v) _k，Ｍ^(v) _k（σ），Ｄ
^(v-1) _kから開始される。

【０１５８】ここで、＾Ｉ^(v) _kは、ビタビ復号器によっ
てｋ＝１，．．．８Ｎ＋８に対して復号された４−ＡＭ
シンボルのシーケンスであり；Ｍ^(v) _k（σ）は、瞬間ｋ
（ｋ番目の遷移）（ｋ＝１，．．．Ｎ＋１）における状
態σの距離であり；Ｄ^(v-1) _kは、ｋ＝１，．．．８Ｎ＋
８に対する（先行する反復復号器によって生成された）
入力シンボルである。

【０１５９】次に（図１５のステップ３０１）、信頼性
Ｆ^(v)＝（Ｆ^(v) _k，ｋ＝１，．．．８Ｎ＋８）から信頼
性ＦＰ^(v)＝（ＦＰ^(v) _k，ｋ＝１，．．．８Ｎ＋８）の
アレイが計算される。

【０１６０】ここで、ＦＰ^(v) _kは、並列な遷移に起因す
る＾Ｉ^(v) _kの信頼性である。

【０１６１】次に、ｋ＝Ｎ＋１，．．．２（ここでｋは
一つの瞬間、つまり、遷移のインデックスに対応）に対
して以下の動作を遂行する（ステップ３０２）： ａ）復号経路におけるｋ番目の遷移の後の符号器の状態
＾σ^(v) _kに基づいて、復号経路の（ｋ−１）番目の遷移
の後に状態＾σ^(v) _k-1が決定され、＾σ^(v) _kの７個の他
の先駆状態、つまり、σ^(v) _j,k-1（ｊ＝１，．．．７）
についても決定される（ステップ３０４）。この目的の
ために、＾σ^(v) _kの値が、ｋを、１からＮ＋１に変動す
ることで、ビタビ復号器によって生成され、σ^(v) _j,k-1
の値がメモリ内に格納される。

【０１６２】ビタビ復号器内で、ｋ＝２，．．．Ｎ＋１
に対して計算され、これに格納され、

【０１６３】

【数２３】 として命名される、状態σ^(v) _1,k-1,σ^(v) _2,k-1,...σ
^(v) _7,k-1および＾σ^(v) _kの距離に基づいて、状態＾σ
^(v) _kの７個の累積距離(cumulated metrics)が、７個の
状態σ^(v) _j,k-1（ｊ＝１，．．．７）から来る７つの経
路に対して計算される。これら７つの累積距離は： δ（ｊ）＝Ｍ^(v) _k-1（σ^(v) _j,k-1）＋ＭＥＴ（σ^(v)
_j,k-1−−→＾σ^(v) _k） である。ここで、ＭＥＴ（σ^(v) _j,k-1−−→＾σ^(v) _k）
は、状態＾σ^(v) _j,k-1から状態＾σ^(v) _kへの遷移の距離
であり、これは、この遷移に割当てられた８−Ｄサブセ
ットの距離でもある。これら距離が、ビタビ復号の際に
メモリ内に格納される（ステップ３０６）。

【０１６４】最適距離と各累積距離との間の差が計算さ
れる： Δ（ｊ）＝δ（ｊ）−Ｍ^(v) _k（＾σ^(v) _k），（ｊ＝
１，．．．７） ここで、Ｍ^(v) _k（＾σ^(v) _k）は、状態＾σ^(v) _kの最適距
離である。

【０１６５】その後、状態＾σ^(v) _kへの７個の生き残っ
た先駆状態が調べられる。ｊ番目オーダの生き残った状
態の、＾σ^(v) _kからσ^(v) _j,k-1へのステップバックが行
なわれる。その後、状態σ^(v) _j,k-1のｊ番目の各生き残
った状態が、初期状態σ＝０に至まで調べられる。これ
は、遷移のインデックスをｋから１まで変動させること
からなる。

【０１６６】複雑さを減らすために、状態σ^(v) _j,k-1の
７個の生き残りを、瞬間１の代わりに、瞬間ｋ−Ｌにお
ける生き残りの状態まで調べることで、遷移の数を固定
させることも可能である。Ｌ＝３とした場合の性能の劣
化は無視できる程度である。ｊ番目オーダの生き残りの
ｋ’番目の遷移に割当てられた８個の４−ＡＭシンボル
が、８個の復号されたシンボルと、ｋ’について、比較
される。ここで、ｋ’は、前者の場合は、ｋから１まで
変化され、簡素化した第二の場合は、ｋから（ｋ−Ｌ）
まで変化される。復号されたシンボルと、同一ランクの
生き残りｊのｋ’番目の遷移のシンボルとが隣接する場
合は、復号されたシンボルの信頼性が、Δ（ｊ）と、こ
れが、この信頼性よりも低い場合は、置換される（ステ
ップ３１２）。

【０１６７】最小に対応する＾Ｉ^(v) _kに隣接するシンボ
ル^〜Ｉ^(v) _kのテーブルを、ｋを、１から８Ｎ＋８まで変
化させることで、計算する。１つのシンボルの信頼性を
更新する度に、その隣接シンボルも、これを、生き残り
ｊのｋ’番目のオーダの遷移と関連する対応する４−Ａ
Ｍシンボルと置換することによって、更新される。

【０１６８】最後に、復号されたシンボル＾Ｉ^(v) _kの信
頼性Ｆ^(v) _kと、隣接する対応するシンボル^〜Ｉ^(v) _kの信
頼性Ｆ^(v) _kが、ｋ＝１，．．．８Ｎ＋８に対して、得ら
れる（ステップ３２６）。

【０１６９】その後、復号の第四のステップにおいて、
この信頼性が、ソフト判定^〜Ｄ^(v) _k（ｋ＝１，．．．８
Ｎ＋８）を計算できるように正規化される。正規化され
た信頼性Ｆ^norm(v) _kを計算するには、３つの方法のいず
れかを使用することが可能である。つまり： Ｆ^norm(v) _k＝Ｆ^(v) _k／￣Ｆ あるいは Ｆ^norm(v) _k＝Ｆ^(v) _k＋（１−￣Ｆ） あるいは Ｆ^norm(v) _k＝（Ｆ^(v) _k／β₁）＋β₂ のいずれかが計算される。

【０１７０】ここで、￣Ｆは、全マトリックスについて
計算された信頼性Ｆ^(v) _kの平均に等しく、β₁およびβ₂
は、￣Ｆ＝β₁（１−β₂）を検証する定数である。

【０１７１】その後、第五のステップにおいて、重みな
しのソフト判定が計算される（図１３のサブセット２２
６）。

【０１７２】ソフト判定^〜Ｄ^(v) _kは、ビタビ復号器によ
って与えられた最適判定＾Ｉ^(v) _k、その正規化された信
頼性Ｆ^norm(v) _k、および、前に得られた４−ＡＭシンボ
ル^〜Ｉ^(v) _kのシーケンスに基づいて計算される。この４
−ＡＭシンボル^〜Ｉ^(v) _kは、シンボル＾Ｉ^(v) _kに隣接す
るシンボルである。つまり、｜^〜Ｉ^(v) _k−＾Ｉ^(v) _k｜＝
２である。これは、シンボル＾Ｉ^(v) _kの後に発生する可
能性が最も高い４−ＡＭシンボルに対応する。シンボル
^〜Ｄ^(v) _kは、以下によって与えられる：^〜 Ｄ^(v) _k＝１／２（＾Ｉ^(v) _k＋^〜Ｉ^(v) _k）＋ｓｇｎ（＾
Ｉ^(vk)−^〜Ｉ^(v) _k）Ｆ^{no rm(v)} ここで、関数ｓｇｎ、以下によって定義される： こうして、シンボル^〜Ｄ^(v) _kは、＾Ｉ^(v) _kと^〜Ｉ^(v) _kの
間の判定閾値から距離Ｆ^norm(v) _kの所に位置するシンボ
ルに対応する。Ｅ（Ｆ^norm(v) _k）＝１であるために、シ
ンボル^〜Ｄ^(v) _kは、４−ＡＭシンボルの中心付近に来
る。

【０１７３】第６のステップにおいて、性能を向上させ
るために、チャネルを通じて受信され、メモリ２０内に
格納されたシンボルＤ⁽⁰⁾ _kを用いて、^〜Ｄ^(v) _kに重みが
付けられ、次に、これを用いてＤ^(v) _kが以下のように計
算される： Ｄ^(v) _k＝α_v ^〜Ｄ^(v) _k＋（１−α_v）Ｄ⁽⁰⁾ _k ここで、α_vは、重み係数である。例えば、α₁＝０．
６；α₂＝０．９；そしてｖが１より大きな場合は、α_v
＝１とされる。目的は、第１の反復の際のエラーの伝搬
の効果を低減することにある。ステップ５とステップ６
は、サブセット２２６内で一緒に遂行される。

【０１７４】次に、第２の段（経路２）におけるビット
ｊを復号する動作について説明する。ビットｊ、つま
り、４−ＡＭシンボルのＭＳＢビットは、生成コードの
マトリックスの各ロウおよび各カラムにパリティコード
を適用することによって符号化され、これは、トレリス
を閉鎖するときに実現される。これが、ビットｉの場合
と同様に、反復的に復号される。

【０１７５】図１６は、送信された４−ＡＭシンボルの
ＭＳＢビットのパリティコードを復号するための復号手
段２２₁を含む段の一般回路図である。この段は： −パリティコードを復号し、ハード判定を与えるための
復号器３２２ −判定の信頼性を計算するためのサブセット３２４ −ソフト判定を計算するためのサブセット３２６ を含む。

【０１７６】第一の反復（ｍ＝１）に対しては、以下の
シンボルｘ⁽⁰⁾ _kが、チャネルの出力上に受信される： （Ｄ⁽⁰⁾ ₁,...Ｄ⁽⁰⁾ _7N+4,Ｄ⁽⁰⁾ _8N+5,...Ｄ⁽⁰⁾ _8N+7） 図１７は、パリティコードにて符号化された７Ｎ＋７個
のビット（ｊ₁,...ｊ_{7 N+4},ｊ_8N+5,ｊ_8N+6,ｊ_8N+7）をト
レリス表現にて示す。このトレリスにおいて、ポイント
ＩからポイントＦへの任意の経路は、７Ｎ＋７の長さを
持つあるコード語に対応する。ｍ番目のランクの反復に
対する７Ｎ＋７個のシンボルのブロックｘ^(m-1) _kの復号
は、３つのステップによって遂行される。

【０１７７】第１のステップ（ステップ３２２）におい
て、ｘ^(m-1) _kにいつてのハード判定復号が行なわれる。
サブセットＢ_＾ikにおいて、これらシンボルに、シンボ
ル毎に、閾値判定が適用される。ここで、＾ｉk（ｋ＝
１，．．．７Ｎ＋４，８Ｎ＋５， ８Ｎ＋６，８Ｎ＋
７）は、第一の段の反復符号化によって推定された収束
後の４−ＡＭシンボルのＬＳＢビットのシーケンスであ
る。この閾値判定によって、第１のビット推定＾ｊ^(m) _k
が生成される。ここで、＾ｊ^(m) _kは、Ｂ_＾ｉkにおける
判定が正である場合は０，負である場合は１である。

【０１７８】その後、各シンボルｘ^(m-1) _kに対して、最
初に、サブセットＢ_＾ikにおけるこのシンボルから判定
閾値ｔ^(m-1) _kまでの距離ｄ（ｘ^(m-1) _k，ｔ^(m-1) _k）の絶
対値が計算される。ここで、Ｂ₀＝｛３，−１｝におい
ては閾値は、＋１に等しく、Ｂ₁＝｛１，−３｝におい
ては閾値は、−１に等しい。次に、ｋに対して、距離ｄ
（ｘ^(m-1) _k，ｔ^(m-1) _k）の最小Δが計算され、第２の最
小Δ₂についても計算される。

【０１７９】最後に、ビット＾ｊ^(m) _kのパリティビット
ｐが計算される。パリティビットが満足できるものであ
る場合（つまり、ｐ＝０である場合）は、ビット＾ｊ
^(m) _kのシーケンスは、最適シーケンスである。そうでな
い場合は、ビット＾ｊ^(m) _kminの補数が取られる。ここ
で、ｋ_minは、距離ｄ（ｘ^(m-1) _k，ｔ^(m-1) _k）の最小Δ
を与えるインデックスである。

【０１８０】第二のステップにおいて、信頼性の計算が
行なわれる（ステップ３２４）。

【０１８１】判定＾ｊ^(m) _kの信頼性は、以下によって与
えられる：

【０１８２】

【数２４】 その後、信頼性が以下に従って正規化される：

【０１８３】

【数２５】 ここで、￣ＦＪは、信頼性ＦＪ^(m) _kの平均である。

【０１８４】第三のステップにおいて、ソフト判定ｘ
^(m) _kの計算が行なわれる（ステップ３２６）。この判定
は、ｔ^(m) _ｋ，＾ｊ^(m) _ｋ，ＦＪ^norm(m) _ｋの関数とし
て、以下に従って得られる：

【０１８５】

【数２６】 ここで、ｓｇｎ（．）は、符号関数である。

【０１８６】本発明が、７／８なるレートの系統的重畳
コードの場合について説明された。当業者においては、
同一の符号化および復号原理を、Ｐ／（Ｑ．Ｍ）なるレ
ートの他の系統的重畳コードに対して、次元Ｑおよびと
２M個の状態を持つ他の多次元振幅変調と結合して、適
用することも可能であることを理解できるものである。

【図面の簡単な説明】

【図１】本発明によるベースバンドデジタル伝送システ
ムの略図を示すで。

【図２】木（集合）Ａ0のサブセット（部分集合）への
分割を示す。

【図３】生成コードを生成するためのロウあるいはカラ
ム符号器の一般回路図を示す。

【図４】冗長シンボルについても符号化を行なうための
符号器を含むデジタル伝送システムを示す。

【図５】８−Ｄ星座に分割されたツリー構造（部分集
合）を示す。

【図６】７／８なるレートのコードのトレリスを示す。

【図７】４−ＡＭ８−Ｄ変調の結合された７／８なるレ
ートの系統的重畳符号器の一般回路図を示す。

【図８】４−ＡＭシンボルのビット割当てを示す。

【図９】８−状態コードに対する系統的重畳符号器を示
す。

【図１０】１６状態コードに対する系統的重畳符号器を
示す。

【図１１】３／４なるレートのコードに対する図７に示
す符号器の特定の実施例を示す。

【図１２】トレリス閉鎖シンボルを計算するための略図
を示す。

【図１３】本発明による符号化手段の第一の段を示す。

【図１４】サブセットＳ_0,0およびＳ_0,1のトレリスを示
す。

【図１５】第一の段において遂行される復号のさまざま
なステップの流れ図を示す。

【図１６】本発明による第二の段の復号手段を示す。

【図１７】パリティコードのトレリスを示す。

【符号の説明】

１ 経路 ２ 経路 ５ ソース １０ メモリ １２ ロウ符号化手段 １３ スイッチ １４ カラム符号化手段 １５ スイッチ １６ ４−ＡＭデジタル変調シンボル割当て要素 １７ コントローラ １９ チャネル ２０ バッファ手段 ２２1 ビタビ復号器 ２１1 ハード判定出力 ２３1 ソフト判定出力 ２４1 デジタルインタリーバ ２２2 パリティコード復号器 ２１1 ハード判定出力 ２３2 ソフト判定出力 ２４2 データインタリーバ １２０ バッファ １２２ 系統的重畳ロウ符号器 １２４ マルチプレクサ １２８ トレリス閉鎖手段 １３１ 出力 ２１０ テーブル ２２０ テーブル（メモリ） ２２２ 遅延セル ２３０ 系統的重畳符号器 ３１０ 遅延セル ３１２ 加算器セル ３２２ 復号器

フロントページの続き (71)出願人 590000248 Ｇｒｏｅｎｅｗｏｕｄｓｅｗｅｇ １, 5621 ＢＡ Ｅｉｎｄｈｏｖｅｎ， Ｔｈ ｅ Ｎｅｔｈｅｒｌａｎｄｓ (72)発明者 ダビッド、ジャヌラ フランス国ダヌマリー、リュ、デ、リラ、 10

Claims (7)

【特許請求の範囲】
1. 【請求項１】入力データを保護するためにデジタル伝送
   システム内で実現されるデジタル伝送方法であって、 前記入力データの符号化フェーズと反復的復号フェーズ
   とを備え、 前記符号化フェーズは、前記反復的復号を可能にするた
   めの系統的重畳トレリス符号化を遂行する第１のステッ
   プと、前記第１のステップと組み合わせて用いられる、
   前記符号化されたデータを、デジタル的に変調されたシ
   ンボルに割当てる第２のステップとを含み、 前記第１のステップの際に、前記系統的重畳トレリス符
   号化がＰ／（Ｑ．Ｍ）なる符号化レートを持ち、ここ
   で、Ｍ，ＰおよびＱは整数であり、かつ、ＱおよびＭは
   １より大きく、 前記系統的重畳コードは、生成コードをブロック毎に生
   成するために使用され、トレリスが冗長データの追加に
   よって閉鎖され、 前記生成コードが、系統的重畳コードを介して符号化さ
   れたデータを組み合わせたマトリックスのロウ符号化お
   よびカラム符号化によって生成された要素によって形成
   され、 前記第２のステップは、前記生成コードを、２^M個の状
   態を持つ次元Ｑを持つ多次元振幅変調と結合し、前記反
   復的復号がブロック復号であることを特徴とする方法。
2. 【請求項２】前記符号化レートは、７／８に等しく、 前記変調は、８次元を有する８−Ｄ変調であることを特
   徴とする請求項１記載の方法。
3. 【請求項３】入力データの保護を有するデジタル伝送シ
   ステムであって、 前記データに対する符号化手段と反復的復号手段とを備
   え、 前記符号化手段は： −前記反復的復号を可能にするための系統的重畳トレリ
   ス符号化を遂行するための第１のサブセット、および −前記符号化されたデータをデジタル的に変調されたシ
   ンボルに割当てるための第２のサブセットとを含み、 前記第１のサブセットは、Ｐ／（Ｑ．Ｍ）なる符号化レ
   ートを有する系統的重畳トレリス符号化を利用し、ここ
   で、Ｍ，ＰおよびＱは整数であり、かつ、ＱおよびＭは
   １より大きく、 前記系統的重畳コードは、生成コードをブロック毎に生
   成するために使用され、少なくとも１つのパリティコー
   ドビットを含む冗長データの追加によってトレリスが閉
   鎖され、 前記生成コードは、系統的重畳コードを介して符号化さ
   れたデータを組み合わせるマトリックスのロウ符号化お
   よびカラム符号化によって生成された要素によって形成
   され、 前記第２のサブセットは、前記生成コードを、２^M個の
   状態を持つ次元Ｑを有する多次元振幅変調と結合し、 前記反復的復号は、ブロック復号であることを特徴とす
   るデジタル伝送システム。
4. 【請求項４】前記符号化手段は、符号器の一連の状態を
   定義し、トレリス閉鎖冗長シンボルを生成するための状
   態マシーンと呼ばれる手段を含むことを特徴とする請求
   項３記載のシステム。
5. 【請求項５】前記符号化レートは、７／８に等しく、 前記変調は、８次元を有する８−Ｄ変調であり、 前記系統的重畳符号化手段は、７個の入力シンボルを、
   １個の冗長ビットを加えることによって、８個の出力シ
   ンボルに符号化することを特徴とする請求項３記載のシ
   ステム。
6. 【請求項６】前記系統的重畳符号化手段は、２個のシフ
   トセル段を含み、 前記出力シンボルは、これらシフトセルから来るデータ
   を線形結合することによって得られることを特徴とする
   請求項５記載のシステム。
7. 【請求項７】前記反復的復号手段は、連続して動作する
   少なくとも２つの経路を有し：第１の経路に沿って、前
   記システムは、この経路の各反復に対して、第１の反復
   的復号を： ａ）系統的重畳コードに関係するハード判定を計算する
   ための計算手段、 ｂ）それぞれの多次元変調サブセットと関連するハード
   判定の第１の信頼性と、系統的重畳コードのトレリスと
   関連する第２の信頼性とを計算するための計算手段、 ｃ）それぞれの判定の前記第１と第２の信頼性のうちの
   最小の信頼性を選択するための選択手段、および ｄ）選択された最小の信頼性とハード判定との関数とし
   て第１の経路の次の反復に対して使用するためのソフト
   判定を計算するための計算手段、を用いて遂行し；第２
   の経路に沿って、前記システムは、この経路の各反復に
   対して： ａ）パリティコードと関係するハード判定を計算するた
   めの計算手段、 ｂ）第１の経路のハード判定の関数として第２の経路の
   各ハード判定に対する第３の信頼性を計算するための計
   算手段、および ｃ）前記第３の信頼性、第２の経路の前の反復から来る
   ソフト判定、および第１の経路から来るハード判定の関
   数としてソフト判定を計算するための手段を利用するこ
   とを特徴とする請求項３から６のいずれか１つに記載の
   システム。