JP3274593B2 - 可逆変換可能な変換装置及び逆変換装置 - Google Patents

可逆変換可能な変換装置及び逆変換装置

Info

Publication number
JP3274593B2
JP3274593B2 JP24996295A JP24996295A JP3274593B2 JP 3274593 B2 JP3274593 B2 JP 3274593B2 JP 24996295 A JP24996295 A JP 24996295A JP 24996295 A JP24996295 A JP 24996295A JP 3274593 B2 JP3274593 B2 JP 3274593B2
Authority
JP
Japan
Prior art keywords
signal
quantized
signals
quantization
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP24996295A
Other languages
English (en)
Other versions
JPH0991271A (ja
Inventor
亮磨 大網
睦 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP24996295A priority Critical patent/JP3274593B2/ja
Priority to US08/720,327 priority patent/US5790441A/en
Publication of JPH0991271A publication Critical patent/JPH0991271A/ja
Priority to US09/127,635 priority patent/US6175661B1/en
Application granted granted Critical
Publication of JP3274593B2 publication Critical patent/JP3274593B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/007Transform coding, e.g. discrete cosine transform

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Discrete Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Complex Calculations (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明はディジタル信号の変
換符号化に関しており、特に画像信号の符号化に関す
る。
【0002】
【従来の技術】音声や画像信号の符号化方式として、線
形変換符号化方式が知られている。これは、離散化され
た信号を複数個合わせて線形変換し、その結果得られる
変換係数を符号化するもので、信号の統計的性質を考慮
して変換基底を選択することで圧縮符号化が実現でき
る。この線形変換として離散コサイン変換を用いる符号
化方式は、高い信号を持つマルコフモデルに従う信号に
ついて、最も高い圧縮符号化を実現できることが知られ
ており、国際標準化方式などに広く用いられている。
【0003】このように離散コサイン変換は、高圧縮符
号化を実現する上で有用であるが、変換基底が実数であ
るため、可逆符号化を実現するには量子化間隔を小さく
する必要があり、その結果符号化効率が低下するという
欠点を有する。
【0004】これに対し、符号化効率を低下させずに離
散コサイン変換等の可逆符号化を実現する方式に、特願
平7−174021号明細書「可逆変換を可能にするデ
ィジタル信号の変換符号化方式」(太田)に記載のもの
が知られている。この方式では、変換を近似した整数行
列を用い、変換係数の離散化構造を考慮して可逆量子化
を行って可逆符号化を実現する。以下でこの方式の原理
を説明する。
【0005】この方式では、まず、変換行列を行ごとに
定数倍し整数値に丸めた行列により、整数化されたN元
の原信号ベクトル(x0 ,…,xN-1 )を変換し、変換
領域でのベクトル(以後変換点と呼ぶ)(X0 ,…,X
N-1 )を得る。この変換により可逆符号化は実現できる
が、この変換点の密度は変換に用いた整数行列の行列式
Dの逆数1/Dとなるため、Dが大きい場合には、変換
領域内に変換点となり得ない無駄な整数格子点が多くな
り、符号化効率が低下する。
【0006】この冗長性を除くために、変換点の離散化
構造を考慮し可逆量子化する。変換点構造は各軸に周期
Dをもつことを証明できる。そこで、Dの倍数からなる
各軸の量子化周期を(d0 ,…,dN-1 )として、原点
付近の0≦X0 ≦d0 −1,…,0≦XN-1 ≦dN-1
1の領域内での可逆量子化を人為的に定義しておけば、
あとは周期性を利用して、任意の変換点の可逆量子化が
可能になる。
【0007】まず、(X0 ,…,XN-1 )をそれぞれ量
子化周期(d0 ,…,dN-1 )で割り、その商を
(a0 ,…,aN-1 )、剰余を(r0 ,…,rN-1 )と
し、この剰余(r0 ,…,rN-1 )に対して上で定義し
た量子化を行い、(r0 ,…,rN- 1 )の量子化値(q
0 ,…,qN-1 )を得る。そして、 Qi =ai i +qi (i=0,…,N−1) (1) により、変換点の量子化値(Q0 ,…,QN-1 )を得
る。ここで、mi (i=0,1,…,N−1)は、qi
の取り得る値の幅(レンジ)を表す。このような手法で
量子化することで、変換点のもつ冗長性を除去できる。
【0008】一方、逆変換では、まず(Q0 ,…,Q
N-1 )を(m0 ,…,mN-1 )で割って、商(a0
…,aN-1 )と剰余(q0 ,…,qN-1 )を求める。そ
してこの剰余(q0 ,…,qN-1 )に対して逆量子化を
行い、(r0 ,…,rN-1 )を求め、 Xi =ai i +ri (i=0,…,N−1) (2) により可逆に逆量子化できる。逆量子化後はもとの整数
行列の逆行列で変換点(X0 ,…,XN-1 )を線形変換
することで、原信号(x0 ,…,xN-1 )を得る。
【0009】2元離散コサイン変換の場合は、行列は、
【0010】
【数11】
【0011】と近似され、この場合は行列式D=2とな
るため、2×2、あるいは4×4,8×8,16×8等
の基本領域で可逆量子化を設定すれば、上記の方式で、
全ての入力に対する可逆量子化が可能になる。
【0012】4元離散コサイン変換の場合は、適当な整
数値c2 ,c4 ,c6 を用いて、
【0013】
【数12】
【0014】という行列変換で近似することができる。
これには、高速算法が存在して、
【0015】
【数13】
【0016】という4つの2×2行列変換に分解でき
る。このそれぞれの変換に上記の方法を適用することに
よって、容易に冗長度のない可逆な変換が可能になる。
【0017】8元離散コサイン変換の場合は、適当な整
数値c1 ,c2 ,c3 ,c4 ,c5,c6 ,c7 を用い
て、
【0018】
【数14】
【0019】という行列変換で近似することができ、4
元離散コサイン変換の場合と同様に高速算法が存在し
て、
【0020】
【数15】
【0021】と分解され、最初の8つの変換は、2×2
の行列変換なので、上記の方式が容易に適用できる。し
かし最後の4×4行列変換は、量子化を定義する変換領
域が大変大きなものとなり、現実的な回路を実現できな
いという問題があった。つまり、式(18)の行列の行
列式Dは、 D=(c1 2 −c7 2 +2c352 +(c3 2 −c5 2 +2c172 (19) で与えられ、このDの逆数1/Dが変換点の密度とな
る。よって上述の手法で量子化表を作成する場合には、
少なくともDの3乗の要素を持つ表を作る必要がある。
このように、表の大きさは行列式Dの3乗に比例するた
め、Dが大きい場合にはこの可逆量子化は実現困難とな
る。例えば、(c1 ,c3 ,c5 ,c7 )=(5,4,
3,1)である特願平7−174021号明細書に記載
の8元離散コサイン変換の場合は、行列式D=2593
であるため、最低25933 の要素をもつ量子化表が必
要となり実用的でない。
【0022】また前記特許に記載の8元可逆離散コサイ
ン変換では、図6のような回路で方式を実現している
が、式(10)から式(15)に該当する初段、中段の
バタフライ演算において、2つの演算結果のうち、一方
の最下位ビットを削除することで冗長性を除去している
ため、最下位ビットを削除された方のダイナミックレン
ジは他方に比べ1/2となる。この結果、最終的に得ら
れる変換係数のダイナミックレンジは各係数ごとに異な
り、このままでは、実際の離散コサイン変換の変換係数
とはダイナミックレンジが大きく異なることになる。
【0023】
【発明が解決しようとする課題】すなわち、本発明の目
的は、8元可逆離散コサイン変換方式において、式(1
8)の行列による変換および可逆量子化の容易に実現可
能な手法を与えると同時に、8元可逆離散コサイン変換
で得られる変換係数を、実際の8元離散コサイン変換の
それに、より近づくように修正を与えることである。
【0024】
【課題を解決するための手段】第1の発明は、画像や音
声などのサンプル化されたディジタル信号を変換符号化
する装置において,ディジタル信号を8個組み合わせて
8元離散コサイン変換する処理の中で、高速算法に従っ
て分解して得られる部分変換を近似する変換であり、符
号化対象となる入力ディジタル信号,あるいはその入力
ディジタル信号に対して線形変換や量子化などを行って
得られるディジタル信号から,整数4元ベクトル信号
(u 4 ,u 5 ,u 6 ,u 7 )を構成し,その整数4元ベクトル信号(u 4 ,
u 5 ,u 6 ,u 7 )を量子化信号(Q 1 ,Q 7 ,Q 3 ,Q 5 )へ可逆変換する装
置であって、前記整数4元ベクトル信号(u4,u5,u6,u7)
を、前記8元離散コサイン変換を近似した整数行列変換
を高速算法に従って分解することによって得られる整数
行列
【0025】
【数16】
【0026】で線形変換し変換係数信号(X1,X7,X3,X5)
を得る手段と、前記変換係数信号X 1 を予め定まった整数
値k 1 で割り,四捨五入して量子化信号Q 1 を得る量子化手
段と,前記変換係数信号X 7 を予め定まった整数値k 7 で割
り、四捨五入して量子化信号Q 7 を得る量子化手段と、前
記量子化信号Q 1 に前記整数値k 1 を乗じて,量子化代表信
号k 1 Q 1 を求める手段と,前記量子化信号Q 7 に前記整数値
k 7 を乗じて,量子化代表信号k 7 Q 7 を求める手段と,前記
変換係数信号X 1 から前記量子化代表信号k 1 Q 1 を減じて,
量子化残差信号に相当する剰余信号r 1 を求める手段と,
前記変換係数信号X 7 から前記量子化代表信号k 7 Q 7 を減じ
て,量子化残差信号に相当する剰余信号r 7 を求める手段
と,前記変換係数信号X 1 、X 7 の値が定まったときに前記
変換係数信号X 3 、X 5 としてとり得る値の集合を代表する
元を表す信号を代表元信号s 3 、s 5 とするときに、前記変
換係数信号X 1 、X 7 の値と前記代表元信号s 3 、s 5 の値との
対応関係、あるいは前記変換係数信号X 3 、X 5 と前記代表
元信号s 3 、s 5 との対応関係を示す情報を予め算出して記
録したテーブルを第1の信号変換テーブルとすると、前
記変換係数信号のうち,X 1 とX 7 ,もしくはX 3 とX 5 のどち
らか一方の組み合わせを用いて,前記第1の信号変換テ
ーブルに従って,前記代表元信号s 3 とs 5 を求める手段
と,前記変換係数信号X 3 から前記代表元信号s 3 を減じ
て,変換係数信号X 3 の大局信号成分p 3 を求める手段と,
前記変換係数信号X 5 から前記代表元信号s 5 を減じて,変
換係数信号X 5 の大局信号成分p 5 を求める手段と,前記整
数行列の要素の値から定まる定数をg=c 1 2 -c 7 2 +2c 3 c 5 ,h=
c 3 2 -c 5 2 +2c 1 c 7 とすると、前記大局信号成分p 3 、p 5 の値
はベクトル(h、g)、(−g、h)によって定まる格子
点に限定されることを利用し、前記大局信号成分p 3 ,p 5
の値の組み合わせごとに異なる量子化値に量子化する可
逆量子化を定めるテーブルを第5の 信号変換テーブルと
すると、前記大局信号成分p 3 ,p 5 を,前記第5の信号変
換テーブルに従ってまとめて変換し,大局量子化信号
q 3 ,q 5 を求める可逆量子化手段と,前記量子化信号Q 1 ,Q
7 の値が同じになる前記変換係数信号X 1 ,X 7 の値の組のそ
れぞれに対応する前記代表元信号s 3 ,s 5 の値をそれぞれ
別の局所量子化信号q' 3 ,q' 5 に量子化する量子化ルール
を予め決定して記述したテーブルであり、前記剰余信号
r 1 、r 7 と前記局所量子化信号q' 3 、q' 5 との対応関係を示
す情報を前記代表元信号s 3 ,s 5 のすべての組み合わせに
対して予め算出して記録してあり、前記量子化代表信号
k 1 Q 1 、k 7 Q 7 の値に応じて前記剰余信号r 1 、r 7 と前記局所
量子化信号q' 3 、q' 5 との対応関係の1つを選択できるテ
ーブルを第2の信号変換テーブルとすると、前記剰余信
号r 1 ,r 7 を,前記量子化代表信号k 1 Q 1 、k 7 Q 7 の値よって
選択される前記第2の信号変換テーブルに従ってまとめ
て変換し,前記局所量子化信号q' 3 ,q' 5 を求める手段
と,前記大局量子化信号q 3 に局所量子化信号q' 3 のレン
ジ幅を表す予め定められた整数値m 3 を乗じ,これに前記
局所量子化信号q' 3 を加算して,前記量子化信号Q 3 を得
る手段と,前記大局量子化信号q 5 に局所量子化信号q' 5
のレンジ幅を表す予め定められた整数値m 5 を乗じ,これ
に前記局所量子化信号q' 5 を加算して,前記量子化信号Q
5 を得る手段を持つことを特徴とする。
【0027】第2の発明は、画像や音声などのディジタ
ル信号の復号装置において,第1の発明の量子化信号(Q
1 ,Q 7 ,Q 3 ,Q 5 )を第1の発明の整数4元ベクトル信号(u 4 ,
u 5 ,u 6 ,u 7 )へ逆変換する装置であって、前記量子化信号Q
3 を第1の発明の予め定められた整数値m 3 で割り,第1
の発明の大局量子化信号q 3 を求める手段と,前記量子化
信号Q 5 を第1の発明の予め定められた整数値m 5 で割り,
第1の発明の大局量子化信号q 5 を求める手段と,前記大
局量子化信号q 3 に前記整数値m 3 を乗じた信号を,前記量
子化信号Q 3 から減じて第1の発明の局所量子化信号q' 3
を求める手段と,前記大局量子化信号q 5 に前記整数値m 5
を乗じた信号を,前記量子化信号Q 5 から減じて第1の発
明の局所量子化信号q' 5 を求める手段と,前記量子化信
号Q 1 に第1の発明の予め定められた整数値k 1 を乗じ,量
子化代表信号Q 1 k 1 を求める手段と,前記量子化信号Q 7
第1の発明の予め定められた整数値k 7 を乗じ,量子化代
表信号Q 7 k 7 を求める手段と,請求項1に記載の第2の信
号変換テーブルと逆の対応関係を示す情報を算出し、予
め記録したテーブルを第3の信号変換テーブルとする
と、前記局所量子化信号q' 3 とq' 5 とを,前記量子化代表
信号k 1 Q 1 、k 7 Q 7 の値よって選択される前記第3の信号変
換テーブルに従ってまとめて変換し,第1の発明の剰余
信号r 1 とr 7 を求める手段と,前記量子化代表信号Q 1 k
1 に,前記剰余信号r 1 を加算して,第1の発明の変換係
数信号X 1 を得る手段と,前記量子化代表信号Q 7 k 7 に,前
記剰余信号r 7 を加算して,第1の発明の変換係数信号X 7
を得る手段と,前記変換係数信号X 1 、X 7 と第1の発明の
代表元信号s 3 、s 5 の対応関係を示す情報を予め算出して
記録したテーブルであり、請求項1に記載の第1の信号変
換テーブルと同じ変換を実現するテーブルを第4の信号
変換テーブルとすると、前記変換係数信号X 1 とX 7 とを,
前記第4の信号変換テーブルに従ってまとめて変換し,
1の発明の代表元信号s 3 ,s 5 を求める手段と,請求項
1に記載の第5の信号変換テーブルと逆の対応関係を示
す情報を予め算出して記録したテーブルを第6の信号変
換テーブルとすると、前記大局量子化信号q 3 とq 5 とを,
前記第6の信号変換テーブルに従ってまとめて変換する
ことで,可逆量子化の逆変換を行い,第1の発明の大局
信号成分p 3 とp 5 を求める逆量子化手段と,前記大局信号
成分p 3 に前記代表元信号s 3 を加算して,第1の発明の変
換係数信号X 3 を求める手段と,前記大局信号成分p 5 に前
記代表元信号s 5 を加算して,第1の発明の変換係数信号
X 5 を求める手段と,前記変換係数信号(X 1 ,X 7 ,X 3 ,X 5 )を
第1の発明の行列
【0028】
【数17】
【0029】の逆行列で線形変換し、前記整数4元ベク
トル信号(u4,u5,u6,u7)を得る手段をもつことを特徴と
する。
【0030】第3の発明は、画像や音声などのサンプル
化されたディジタル信号を変換符号化する装置におい
て,符号化対象となるx0, x1, x2, x3, x4, x5, x6, x7
の8つの入力ディジタル信号から8元離散コサイン変換
に基づく変換により、Q0, Q1, Q2, Q3, Q4, Q5, Q6, Q7
の8つの量子化信号を得る可逆変換装置であって、前記
ディジタル信号x0とx7に対して、第1の整数行列
【0031】
【数18】
【0032】の変換および可逆量子化を行って量子化信
号u 0 とu 4 を求める手段と、前記ディジタル信号x 1 と x 6
に対して、前記第1の整数行列の変換および可逆量子化
を行って量子化信号u 2 とu 6 を求める手段と、前記ディジ
タル信号x 2 とx 5 に対して、前記第1の整数行列の変換お
よび可逆量子化を行って量子化信号u 3 とu 7 を求める手段
と、前記ディジタル信号x 3 とx 4 に対して、前記第1の整
数行列の変換および可逆量子化を行って量子化信号u 1
u 5 を求める手段と、前記量子化信号u 0 とu 1 に対して第2
の整数行列
【0033】
【数19】
【0034】変換および可逆量子化を行って量子化信
号v0とv1を求める手段と、前記量子化信号u 2 とu 3 に対し
て、前記第2の整数行列の変換および可逆量子化を行っ
て量子化信号v 2 とv 3 を求める手段と、前記量子化信号v 0
とv 2 に対して第3の整数行列
【0035】
【数20】
【0036】の変換および可逆量子化を行って前記量子
化信号Q 0 とQ 4 を求める手段と、前記量子化信号v 1 とv 3
対して第4の整数行列
【0037】
【数21】
【0038】の変換および可逆量子化を行って前記量子
化信号Q 2 とQ 6 を求める手段と、前記量子化信号(u 4 ,u 5 ,u
6 ,u 7 )に第1の発明の可逆変換を行って前記量子化信号
(Q 1 ,Q 7 ,Q 3 ,Q 5 )を求める手段を持つことを特徴とする。
【0039】第4の発明は、画像や音声などのディジタ
ル信号の復号装置において用いられる第3の発明の逆変
換装置であって、第3の発明の量子化信号Q 1 , Q 7 , Q 3 ,
Q 5 に第2の発明の逆変換を行って第3の発明の量子化信
号(u 4 ,u 5 ,u 6 ,u 7 )を求める手段と、第3の発明の量子化
信号Q 2 ,とQ 6 に対して第3の発明の第4の整数行列
【0040】
【数22】
【0041】を用いた逆量子化および逆変換を行って第
3の発明の量子化信号v 1 とv 3 求める手段と、第3の発
明の量子化信号Q 0 とQ 4 に対して第3の発明の第3の整数
行列
【0042】
【数23】
【0043】を用いた逆量子化および逆変換を行って第
3の発明の量子化信号v 0 とv 2 を求める手段と、前記量子
化信号v 0 とv 1 に対して第3の発明の第2の整数行列
【0044】
【数24】
【0045】を用いた逆量子化および逆変換を行って第
3の発明の量子化信号u 0 とu 1 を求める手段と、前記量子
化信号v 2 とv 3 に対して前記第2の整数行列を用いた逆量
子化および逆変換を行って第3の発明の量子化信号u 2
u 3 を求める手段と、前記量子化信号u 0 とu 4 に対して第3
の発明の第1の整数行列
【0046】
【数25】
【0047】を用いた逆量子化および逆変換を行って第
3の発明のディジタル信号x 0 とx 7 を求める手段と、前記
量子化信号u 2 とu 6 に対して前記第1の整数行列を用いた
逆量子化および逆変換を行って第3の発明のディジタル
信号x 1 とx 6 を求める手段と、前記量子化信号u 3 とu 7 に対
して前記第1の整数行列を用いた逆量子化および逆変換
を行って第3の発明のディジタル信号x 2 とx 5 を求める手
段と、前記量子化信号u 1 とu 5 に対して前記第1の整数行
列を用いた逆量子化および逆変換を行って第3の発明の
ディジタル信号x 3 とx 4 を求める手段をもつことを特徴と
する
【0048】第5の発明は、第1の発明の第1の信号変
換テーブルに従って代表元信号s 3 ,s 5 を求める手段にお
いて、第1の発明のc1,c3,c5,c7よりg=c1 2-c7 2+2c3c5,h
=c3 2-c5 2+2c1c7, D=(c1 2-c7 2+2c3c5)2+(c3 2-c5 2+2c
1c7)2で定まる定数g,h,Dを用いて、第1の発明の変換係
数信号X1,X7,X3,X5よりgX1+hX7、gX7-hX1、hX3+gX5、hX
5-gX3のいずれか1つの値を計算し、それをDで割ったと
きの剰余信号を第1の剰余信号とすると、前記第1の剰余
信号と前記代表元信号s 3 ,s 5 との対応関係を前記第1の
信号変換テーブルに記述しておき、前記第1の剰余信号
を前記第1の信号変換テーブルの入力として用いること
を特徴とする。
【0049】第6の発明は、第1の発明の第2の信号変
換テーブルに従って局所量子化信号q' 3 ,q' 5 を求める手
段において、第1の量子化信号Q 1 ,Q 7 、第1の発明の整
数値k1,k7、第5の発明の定数g,hよりgk1Q1+hk7Q7、gk7
Q7-hk1Q1のいずれか一方の値を計算し、それを第5の発
明の定数Dで割ったときの剰余信号を第2の剰余信号とす
ると、前記剰余信号r 1 、r 7 と前記局所量子化信号q' 3
q' 5 との対応関係を前記第2の剰余信号の値ごとに前記第
2の信号変換テーブルに記述しておき、前記第2の剰余信
号を,前記第2の信号変換テーブルのインデックスとし
て用いることを特徴とする。
【0050】第7の発明は、第2の発明の第3の信号変
換テーブルに従って剰余信号r 1 ,r 7 を求める手段におい
て、第1の発明の量子化信号Q 1 ,Q 7 、第1の発明の整数
値k 1 ,k 7 、第5の発明の定数g,hよりgk1Q1+hk7Q7、gk7Q7
-hk1Q1のいずれか一方の値を計算し、それを第5の発明
の定数Dで割ったときの剰余信号を第3の剰余信号とする
と、前記局所量子化信号q' 3 、q' 5 と前記剰余信号r 1 、r 7
との対応関係を前記第3の剰余信号の値ごとに前記第3の
信号変換テーブルに記述しておき、前記第3の剰余信号
を,前記第3の信号変換テーブルのインデックスとして
用いることを特徴とする。
【0051】第8の発明は、第2の発明の第4の信号変
換テーブルに従って代表元信号s 3 ,s 5 を求める手段にお
いて、第1の発明の変換係数信号X 1 ,X 7 、第5の発明の
定数g,hよりgX1+hX7、gX7-hX1のいずれか一方を計算
し、それを第5の発明の定数Dで割ったときの剰余信号
を第4の剰余信号とすると、前記第4の剰余信号と前記代
表元信号s 3 ,s 5 との対応関係を前記第4の信号変換テー
ブルに記述しておき、前記第4の剰余信号を、前記第4の
信号変換テーブルの入力として用いることを特徴とす
る。
【0052】
【作用】式(18)で示される4×4の行列変換で入力
(u4 ,u5 ,u6 ,u7 )を整数ベクトルとし、変換
点を(X1 ,X7 ,X3 ,X5 )とする。(X1
7)の2つの値が決まると、残りの(X3 ,X5 )の
取り得る値は、
【0053】
【数26】
【0054】に限定されることが証明できる。ここで、
g=c1 2 −c7 2 +2c3 5 ,h=c3 2 −c5 2
+2c1 7 で、n1 ,n2 は任意の整数、(s3 ,s
5 )は(X1 ,X7 )から限定される整数ベクトルであ
る。本発明では、この変換点構造を利用する。
【0055】はじめに、式(18)の行列で(u4 ,u
5 ,u6 ,u7 )を(X1 ,X7 ,X2 ,X3 )に線形
変換し、そのうちX1 ,X7 の2つについては、
【0056】
【数27】
【0057】と量子化する。ここにk1 ,k7 はX1
7 の量子化幅に相当する自然数、rnd(x)はxの
四捨五入値を返す関数である。このとき、剰余に相当す
るr1=X1 −Q1 1 ,r7 =X7 −Q7 7 も同時
に求めておく。
【0058】次に、X3 ,X5 を式(20)の関係を用
いて量子化する。(X3 ,X5 )を(X3 −s3 ,X5
−s5 )と(s3 ,s5 )の部分に分け、(X3
3 ,X5 −s5 )を大局量子化値(q3 ,q5 )へ、
(s3 ,s5 )を局所量子化値(q′3 ,q′5 )へ量
子化する。そして、この局所量子化値と大局量子化値か
ら、 Q3 =q3 3 +q′3 (23) Q5 =q5 5 +q′5 (24) により(Q3 ,Q5 )を求める。ここに、m3 ,m5
自然数であり、それぞれ局所量子化値q′3 ,q′5
レンジを表す。
【0059】
【数28】
【0060】となるため、(X3 −s3 ,X5 −s5
の取り得る値の全体は、各軸方向にD=h2 +g2 の周
期構造をもつ。そこで、(X3 −s3 ,X5 −s5
に、行列
【0061】
【数29】
【0062】による可逆量子化を従来技術の手法で行
い、これを(q3 ,q5 )とする。
【0063】ところで、X1 ,X7 は幅k1 ,k7 で量
子化されており、ある(Q1 ,Q7)に対してk1 ×k
7 通りの(X1 ,X7 )が対応し、同時にk1 ×k7
りの(s3 ,s5 )が対応している。このs3 ,s5
確定させるために、局所量子化値(q′3 ,q′5 )を
用いる。すなわち、k1 7 通りの(s3 ,s5 )と
(q′3 ,q′5 )が1対1に対応するように量子化す
る。(Q1 ,Q7 )が定まると(r1 ,r7 )と
(X1 ,X7 )が1対1に対応するため、(r1
7)と(s3 ,s5 )も1対1に対応する。また、
(r1 ,r7 )の取り得る値の範囲はあらかじめわかっ
ている。そこで、k1 7 通りの(r1 ,r7 )と
(q′3 ,q′5 )の対応関係を、代表元(s3
5 )の値を考慮して定義する。こうすれば、逆量子化
の際には、(q′3 ,q′5 )から求まる(r1
7 )と(Q1 ,Q7 )から(X1 ,X7 )が求まり、
(X1 ,X7 )から(s3 ,s5 )が求まるため、
(q′3 ,q′5 )から(s3 ,s5 )へ可逆に逆量子
化できることになる。
【0064】(r1 ,r7 )と(q′3 ,q′5 )の対
応関係は、(Q1 ,Q7 )の値によってかわるが、(X
1 ,X7 )=(k1 1 ,k7 7 )すなわち(r1
7)=(0,0)に対する代表元(s′3 ,s′5
が等しければ、(r1 ,r7)と代表元(s3 ,s5
の対応関係が等しくなる。よって、(r1 ,r7 )と
(q′3 ,q′5 )の対応関係は(X1 ,X7 )=(k
1 1 ,k7 7 )での代表元(s′3 ,s′5 )によ
って決定する。従って、この対応関係を取り得る代表元
(s′3 ,s′5 )の数だけ用意して表に記述しておけ
ば、この表を参照することで、(r1 ,r7 )から
(q′3 ,q′5 )への変換を実現できる。式(26)
の行列式は式(18)の行列のそれと同じくDであるた
め、取り得る代表元(s′3 ,s′5 )の値はD通りで
あり、必要な対応関係もD通りとなる。
【0065】以上の第1の発明を実現するには、
(X1 ,X7 )から(s3 ,s5 )を求める表、(X3
−s3 ,X5 −s5 )の可逆量子化を定義する表、(r
1 ,r7 )から(q′3 ,q′5 )を求める表の3種類
の表が必要である。このうち代表元(s3 ,s5 )を求
める表の要素の数は、取り得る代表元の数Dである。ま
た、(X3 −s3 ,X5 −s5 )を可逆量子化する際の
量子化周期を(i3 D,i5D)、スケーリング乗数を
(l3 ,l5 )とすると、(X3 −s3 ,X5 −s5
の可逆量子化に用いる表の要素の数はi3 5 Dであ
る。(r1 ,r7 )から(q′3 ,q′5 )を求める表
の要素の数は、(r1 ,r7 )の取り得る数k17
代表元の数Dをかけたk1 7 Dとなる。従って、必要
な表の要素の総数は、D(1+i3 5 +k1 7 )で
ある。実際には、i3 ,i5 ,k1 ,k7の値はそれほ
ど大きな値とはならないため、Dが大きい場合には、必
要な表の大きさは従来技術に比べてはるかに小さくな
る。
【0066】また、(X1 ,X7 ,X3 ,X5 )から
(Q1 ,Q7 ,Q3 ,Q5 )への可逆量子化において、
1 ,Q7 ,Q3 ,Q5 のダイナミックレンジはX1
7 ,X3 ,X5 のそれに比べ、それぞれ
【0067】
【外1】
【0068】倍になる。よって、これらの値がほぼ等し
くなるように、k1 ,k7 ,m3 ,m5 ,i3 ,i5
3 ,l5 を決定すれば、Q1 ,Q7 ,Q3 ,Q5 のダ
イナミックレンジをほぼ均一にできる。特に、なるべく
冗長性を残さずダイナミックレンジを一様にするために
は、
【0069】
【数30】
【0070】であればよい。
【0071】このように、第1の発明の可逆変換方式で
は、表の大きさを大幅に小さくでき、かつ変換係数のダ
イナミックレンジをほぼ等しくすることが可能である。
【0072】一方、第2の発明である(Q1 ,Q7 ,Q
3 ,Q5 )から(u4 ,u5 ,u6,u7 )への逆変換
は、以下のようにして実現できる。(Q1 ,Q7
3 ,Q5 )から(X1 ,X7 ,X3 ,X5 )への逆量
子化では、まず、Q3 ,Q5 をそれぞれm3 ,m5 で割
り、商q3 ,q5 、剰余q′3 ,q′5 を求める。そし
て、第1の発明の第2の数表と逆の対応関係を記述した
第3の表を用いて(q′3,q′5 )から(r1
7 )を求める。この(r1 ,r7 )を用いて、
(X1,X7 )をX1 =Q1 1 +r1 、X7 =Q7
7 +r7 により求める。また、q3 ,q5 に対して式
(26)の行列の逆量子化を従来技術の手法で行うこと
でX3 −s3 ,X5 −s5 が得られ、上で求まった(X
1 ,X7 )の値から第4の表を参照して、(s3
5 )が求まる。そして、X3 −s3 ,X5 −s5 にs
3 ,s5 をそれぞれ加えてX3 ,X5 が求まる。最後に
(X1 ,X7 ,X3 ,X5 )を、式(18)の行列の逆
行列で線形変換してもとのベクトル(u4 ,u5
6 ,u7 )が求まる。
【0073】特願平7−174021号公報に記載の8
元可逆離散コサイン変換では、式(16)から式(1
8)の最終段でのみ可逆量子化手法を用い、式(10)
から式(15)の初段、中段のバタフライ演算結果の冗
長性の除去は、演算結果の片方の最下位ビットを除去す
ることで行っている。しかし、この結果得られた変換係
数は、実際の離散コサイン変換のものとはダイナミック
レンジが大きく異なってしまう。そこで、初段と中段の
各バタフライ演算を、行列
【0074】
【数31】
【0075】の可逆変換で置き換える。この置き換えで
得られる8元可逆離散コサイン変換においては、各可逆
変換量子化において、各量子化値のダイナミックレンジ
がほぼ等しくなるように、量子化周期とスケーリング乗
数を選択することで、最終的に得られる量子化値Q0
1 ,Q2 ,Q3 ,Q4 ,Q5 ,Q6 ,Q7 のダイナミ
ックレンジをほぼ均一にできる。これが第3の発明であ
る。
【0076】同様に、特願平7−174021号公報に
記載の8元可逆離散コサイン逆変換では、中段と最終段
に、一方の最下位ビットを他方に付加してバタフライ演
算を行い、その結果に1/2をかける部分があるが、こ
の部分を行列
【0077】
【数32】
【0078】の可逆逆変換で置き換えることで第3の発
明の逆変換が実現できる。これが第4の発明である。
【0079】第1の発明の可逆変換方式では第1の数
表、第2の数表において、第2の発明の逆変換方式では
第3の数表、第4の数表においては、代表元(s3 ,s
5 )を求める必要がある。そこで、次にこの代表元(s
3 ,s5 )を求める手法について述べる。(X3
5 )に式(26)の転置行列をかけてできるベクトル
(hX3 +gX5 ,hX5 −gX3 )の各成分を、行列
式Dで割ったときの商と剰余をそれぞれ(α3
α5 ),(ρ3 ,ρ5 )とすると、同一の代表元
(s3 ,s5 )をもつ変換点(X3 ,X5 )に対して
は、この剰余(ρ3 ,ρ5 )の値は同じになる。すなわ
ち、(ρ3 ,ρ5 )の値より代表元(s3 ,s5 )を求
めることが可能である。
【0080】ここで、(ρ3 ,ρ5 )の取り得る値につ
いて考える。(α3 ,α5 )に式(26)の行列をかけ
たものを、(X3 ,X5 )から引いて得られるベクトル
を(t3 ,t5 )とすると、
【0081】
【数33】
【0082】となる。t3 ,t5 は整数であるため、
(ρ3 ,ρ5 )は、0≦ρ3 ≦D−1,0≦ρ5 ≦D−
1を満たす、式(26)の転置行列による変換の変換点
であることがわかる。一般には代表元(s3 ,s5 )を
求めるのに、ρ3 ,ρ5 の両方が必要であるが、g,h
が互いに素である場合には、1つのρ3 あるいはρ5
対して、(ρ3 ,ρ5 )の取り得る点はただ1点とな
る。従って、hX3 +gX5をDで割ったときの剰余ρ
3 、あるいはhX5 −gX3 をDで割ったときの剰余ρ
5 のどちらか一方と(s3 ,s5 )の対応関係を表に書
いておくことで、代表元(s3 ,s5 )を求めることが
可能である。
【0083】また、同一の代表元(s3 ,s5 )を与え
る(X1 ,X7 )の取り得る値は、
【0084】
【数34】
【0085】に限定されることが証明できる。ここで、
3 ,n4 は任意の整数、(s1 ,s7 )は整数ベクト
ルである。この(s1 ,s7 )と(s3 ,s5 )は1対
1に対応するため、同様の論法を用いて、(gX1 +h
7 ,gX7 −hX1 )をDで割ったときの剰余より
(s1 ,s7 )が求まり、これからさらに(s3
5 )が求まることがわかる。よって、g,hが互いに
素である場合には、gX1 +hX7 をDで割ったときの
剰余、あるいはgX7 −hX1 をDで割ったときの剰余
のどちらか一方と(s3 ,s5 )の対応関係を表に書い
ておくことで、代表元(s3 ,s5 )を求めることが可
能である。g,hが互いに素である場合に、この関係を
用いて代表元(s3 ,s8 )を数表から求めるのが、第
5、第8の発明、この関係を(X1 ,X7 )=(k1
1 ,k7 7 )に対して適用し、(r1 ,r7 )と
(q′3 ,q′5 )の対応関係を記述した表のインデッ
クスとして用いるのが、第6、第7の発明である。
【0086】
【発明の実施の形態】第1の発明の実施例を図1に示
す。
【0087】まず、整数4元ベクトル(u4 ,u5 ,u
6 ,u7 )は変換器100で変換され、(X1 ,X7
3 ,X5 )が求まる。このX1 ,X7 ,X3 ,X5
うち、X1 ,X7 は、演算器10,11において自然数
1 ,k7 で割った後四捨五入され、Q1 ,Q7 が求ま
る。また、乗算器18,19においてQ1 ,Q7
1 ,k7 をそれぞれ乗じ、加算器20,21において
それらの値をX1 ,X7 からそれぞれ引いてr1 ,r7
が求まる。一方、第1の数表Aを用いてX1 ,X7より
代表元(s3 ,s5 )が求まる。加算器12,13にお
いて(X1 ,X7 )からこの代表元(s3 ,s5 )を引
いて(X3 −s3 ,X5 −s5 )が求まり、可逆量子化
器110において式(26)の行列による可逆変換量子
化を行い、大局量子化値(q3 ,q5 )が求まる。さら
に、第2の数表Bを用いて(r1 ,r7 )より局所量子
化値(q′3 ,q′5 )が求まる。そして、乗算器1
4,15においてq′3 ,q′5 のレンジm3 ,m5
大局量子化値q3 ,q5 に乗じ、加算器16,17で局
所量子化値q′3 ,q′5 を加えることで、量子化値Q
3,Q5 が得られる。
【0088】第1の発明の別の実施例を図2に示す。こ
れが図1と異なるのは、第1の数表Cの入力がX3 ,X
5 となっている点である。
【0089】第2の発明の実施例を図3に示す。
【0090】量子化値(Q1 ,Q7 ,Q3 ,Q5 )のう
ち、Q3 ,Q5 は整数除算器30,31において、
3 ,Q5 の局所量子化値q′3 ,q′5 のレンジ
3 ,m5 で割られ、商が大局量子化値q3 ,q5 とな
り、剰余が局所量子化値q′3 ,q′5 となる。そし
て、第3の数表Eを用いてq′3 ,q′5 よりr1 ,r
7 が求まる。乗算器32,33においてQ1 ,Q7 の値
に自然数k1 ,k7 を乗じ、加算器34,35において
1 ,r7 を加えることで、Q1 ,Q7 の逆量子化値X
1,X7 が求まる。さらに逆量子化器200において、
式(26)の行列による逆量子化を行うことで、X3
3 ,X5 −s5 の値が求まる。先に求めたX1 ,X7
より第4の数表Fを用いて代表元(s3 ,s5 )が求ま
る。X3 −s3 ,X5 −s5 に、加算器36,37にお
いてs3 ,s5 を加えることでQ3 ,Q5 の逆量子化値
3 ,X5 が求まる。最後に逆変換器210において、
(X1 ,X7,X3 ,X5 )に対し式(18)の逆行列
による線形変換を行うことで、(u4,u5 ,u6 ,u
7 )が求まる。
【0091】第3の発明の実施例を図4に示す。
【0092】これは、図6の特願平7−174021号
公報に記載の8元可逆離散コサイン変換の分解手法と同
型であるが、初段、中段において、バタフライ演算を行
い、その演算結果の片方の最下位ビットを削除する部分
を行列
【0093】
【数35】
【0094】による変換および可逆量子化で置き換えて
いる点が異なる。初段および中段でも可逆量子化を行う
ことで、演算結果両方のダイナミックレンジをほぼ均等
にしつつ、冗長性を除去できる。例えば、この行列によ
る可逆変換量子化の量子化周期を(14,10)、スケ
ーリング乗数を(10,7)とすると、量子化によりダ
イナミックレンジはそれぞれ10/14,7/10倍と
なる。ここで
【0095】
【外2】
【0096】であり、量子化値のダイナミックレンジに
は殆ど差を生じない。このように、各段の可逆変換量子
化において2数のダイナミックレンジがほぼ等しくなる
ように量子化周期とスケーリング乗数を決定すれば、最
終的に得られる(Q0 ,Q1 ,Q2 ,Q3 ,Q4
5 ,Q6 ,Q7 )のダイナミックレンジもほぼ等しく
なる。
【0097】第4の発明の実施例を図5に示す。
【0098】これも特願平7−174021号公報に記
載の8元可逆離散コサイン逆変換の分解手法と同型であ
るが、中段、最終段において、一方のバタフライ演算の
入力に他方の入力の最下位ビットを付加し、バタフライ
演算を行い、その結果を1/2する部分を、行列
【0099】
【数36】
【0100】による逆量子化および逆変換で置き換えて
いる。
【0101】第5の発明の実施例は、g,hが互いに素
な場合に、第1の発明の実施例を示す図1の第1の数表
Aにおいて、X1 ,X7 よりz(X1 ,X7 )を求め、
その値から第1の数表Aにより代表元(s3 ,s5 )を
求めるものである。ここに、z(x,y)はgx+hy
を行列式Dで割ったときの剰余を返す関数である。以下
に(c1 ,c3 ,c5 ,c7 )=(5,4,3,1)の
場合に、第1の数表の具体例を挙げる。この場合には、
g=48,h=17,D=2593であり、gとhは互
いに素である。このとき第1の数表は表1のようにな
る。また、z(x,y)はgy−hzをDで割ったとき
の剰余を返す関数であってもよく、この場合も第1の数
表として、表1と同様の表を作成できる。
【0102】
【表1】
【0103】別の実施例は、第1の発明の実施例を示す
図2の第1の数表Cにおいて、X3,X5 よりz
(X5 ,X3 )を求め、その値から第1の数表Cにより
代表元(s3 ,s5 )を求めるものである。この場合も
第1の数表として、表1と同様の表を作成できる。
【0104】第6の発明の実施例は、第1の発明の実施
例を示す図1または図2の第2の数表Bにおいて、k1
1 ,k7 7 よりz(k1 1 ,k7 7 )を計算
し、その値をインデックスとして用いて第2の数表Bよ
り(q′3 ,q′5 )を求めるものである。(c1 ,c
3 ,c5 ,c7 )=(5,4,3,1)の場合に、k1
=k7 =m3 =m5 =3として作成した第2の数表の例
を以下に示す。インデックスz(k1 1 ,k7 7
=0のとき、(r1 ,r7 )と代表元(s3 ,s5 )の
対応関係は表2のようになることを考慮すると、例えば
表3のように(r1 ,r7 )と(q′3 ,q′5 )の対
応関係を定義できる。同様にして、このような表は各z
(k1 1 ,k7 7 )に対して作成でき、z(k1
1 ,k7 7 )=0,1,…,2592の全ての値に対
して作成した表全体が第2の数表となる。
【0105】
【表2】
【0106】
【表3】
【0107】第7の発明の実施例では、第2の発明の実
施例を示す図3の第3の数表Eにおいて、k1 1 ,k
7 7 より(k1 1 ,k7 7 )を計算し、その値を
インデックスとして用いて第3の数表Eより(r1 ,r
7 )を求めるものである。第3の数表Eとして、第1の
発明で用いる第2の数表の逆の対応関係を与える表を作
成することで、完全な逆変換が実現できる。例えば、第
1の発明の第2の数表でインデックスz(k1 1 ,k
7 7 )=0に対して表3を用いる場合には、第3の数
表のインデックスz(k1 1 ,k7 7 )=0に対す
る表は表4になる。このような表を全てのz(k
1 1 ,k7 7 )に対して作成した表全体が、第3の
数表Eとなる。
【0108】
【表4】
【0109】第8の発明の実施例は、第2の発明の実施
例を示す図3の第4の数表Fにおいて、X1 ,X7 より
z(X1 ,X7 )を求め、その値から第4の数表Fによ
り代表元(s3 ,s5 )を求めるものである。ここで、
第4の数表Fは、第5の発明の第1の数表と同一のもの
であればよい。
【0110】
【発明の効果】第1の発明では、8元可逆離散コサイン
変換に現れる4×4線形変換の実用的な量子化手法を与
える。例えば、(c1 ,c3 ,c5 ,c7 )=(5,
4,3,1)とすると特願平7−174021号公報に
記載の8元離散コサイン変換の場合は、行列式D=25
93であるため、特願平7−174021号公報に記載
の量子化手法では、少なくとも25933 の要素を持つ
量子化表が必要となる。しかし、本発明の手法では、k
1 =k7 =m3 =m5 とし、式(26)の行列の可逆量
子化での量子化周期を(2593,2593)、スケー
リング乗数を(51,51)とする場合には、ダイナミ
ックレンジを均一にする条件からk1 =k7=m3 =m
5 =7が求まり、表の要素の総数は2593×51とな
る。よって、表の要素の総数は約10万分の1となる。
【0111】第2の発明では、第1の発明で得られる量
子化値をもとの値に完全に再生する逆量子化方式を与え
る。
【0112】第3の発明では、8元可逆離散コサイン変
換の各段で可逆量子化を行うことで各変換係数のダイナ
ミックレンジが一様になり、実際の離散コサイン変換の
変換係数に近い変換係数が得られる8元可逆離散コサイ
ン変換を与える。その結果、符号化効率が向上し、ま
た、従来の8元離散コサイン変換との互換性の面でも有
利である。
【0113】第4の発明では、第3の発明で得られる変
換係数から原信号を完全に再生する逆変換方式を与え
る。
【0114】第5から第8の発明では、第1,第2の発
明で用いる数表の簡易な作成手法を与える。
【図面の簡単な説明】
【図1】本発明に従って構成した変換器の例である。
【図2】本発明に従って構成した変換器の例である。
【図3】本発明に従って構成した逆変換器の例である。
【図4】本発明に従って構成した8元可逆離散コサイン
変換の例である。
【図5】本発明に従って構成した8元可逆離散コサイン
逆変換の例である。
【図6】従来の8元可逆離散コサイン変換の例である。
【符号の説明】
10,11 入力をある数で割ってから四捨五入を行う
演算器 12,13,16,17,20,21 加算器 14,15,18,19 乗算器 30,31 商と剰余を求める整数除算器 32,33 乗算器 34,35,36,37 加算器 100 線形変換器 110 可逆変換量子化器 200 逆量子化器 210 線形変換器 300,310,320,330,340,350 可
逆符号器 360 可逆符号器 370 可逆符号器 380 可逆符号器 400 可逆復号器 410 可逆復号器 420 可逆復号器 430,440,450,460,470,480 可
逆復号器 500 可逆符号器 510 可逆符号器 520 可逆符号器

Claims (8)

    (57)【特許請求の範囲】
  1. 【請求項1】画像や音声などのサンプル化されたディジ
    タル信号を変換符号化する装置において,ディジタル信
    号を8個組み合わせて8元離散コサイン変換する処理の
    中で、高速算法に従って分解して得られる部分変換を近
    似する変換であり、符号化対象となる入力ディジタル信
    号,あるいはその入力ディジタル信号に対して線形変換
    や量子化などを行って得られるディジタル信号から,整
    数4元ベクトル信号(u4,u5,u6,u7)を構成し,その整数4
    元ベクトル信号(u4,u5,u6,u7)を量子化信号(Q1,Q7,Q3,Q
    5)へ可逆変換する装置であって、 前記整数4元ベクトル信号(u4,u5,u6,u7)を、前記8元離
    散コサイン変換を近似した整数行列変換を高速算法に従
    って分解することによって得られる整数行列 【数1】 で線形変換し変換係数信号(X1,X7,X3,X5)を得る手段
    と, 前記変換係数信号X1を予め定まった整数値k1で割り,四
    捨五入して量子化信号Q1を得る量子化手段と, 前記変換係数信号X7を予め定まった整数値k7で割り、四
    捨五入して量子化信号Q7を得る量子化手段と, 前記量子化信号Q1に前記整数値k1を乗じて,量子化代表
    信号k1Q1を求める手段と, 前記量子化信号Q7に前記整数値k7を乗じて,量子化代表
    信号k7Q7を求める手段と, 前記変換係数信号X1から前記量子化代表信号k1Q1を減じ
    て,量子化残差信号に相当する剰余信号r1を求める手段
    と, 前記変換係数信号X7から前記量子化代表信号k7Q7を減じ
    て,量子化残差信号に相当する剰余信号r7を求める手段
    と,前記変換係数信号X 1 、X 7 の値が定まったときに前記変換
    係数信号X 3 、X 5 としてとり得る値の集合を代表する元を
    表す信号を代表元信号s 3 、s 5 とするときに、前記変換係
    数信号X 1 、X 7 の値と前記代表元信号s 3 、s 5 の値との対応
    関係、あるいは前記変換係数信号X 3 、X 5 と前記代表元信
    号s 3 、s 5 との対応関係を示す情報を予め算出して記録し
    たテーブルを第1の信号変換テーブルとすると、 前記変
    換係数信号のうち,X1とX7,もしくはX3とX5のどちらか
    一方の組み合わせを用いて,前記第1の信号変換テーブ
    ルに従って,前記代表元信号s3とs5を求める手段と, 前記変換係数信号X3から前記代表元信号s3を減じて,変
    換係数信号X3の大局信号成分p3を求める手段と, 前記変換係数信号X5から前記代表元信号s5を減じて,変
    換係数信号X5の大局信号成分p5を求める手段と,前記整数行列の要素の値から定まる定数をg=c 1 2 -c 7 2 +2c
    3 c 5 ,h=c 3 2 -c 5 2 +2c 1 c 7 とすると、前記大局信号成分p 3 、p
    5 の値はベクトル(h、g)、(−g、h)によって定まる
    格子点に限定されることを利用し、前記大局信号成分
    p 3 ,p 5 の値の組み合わせごとに異なる量子化値に量子化
    する可逆量子化を定めるテーブルを第5の信号変換テー
    ブルとすると、 前記大局信号成分p3,p5を,前記第5の
    信号変換テーブルに従ってまとめて変換し,大局量子化
    信号q3,q5を求める可逆量子化手段と,前記量子化信号Q 1 ,Q 7 の値が同じになる前記変換係数信
    号X 1 ,X 7 の値の組のそれぞれに対応する前記代表元信号s
    3 ,s 5 の値をそれぞれ別の局所量子化信号q' 3 ,q' 5 に量
    子化する量子化ルールを予め決定して記述したテーブル
    であり、前記剰余信号r 1 、r 7 と前記局所量子化信号
    q' 3 、q' 5 との対応関係を示す情報を前記代表元信号s 3
    s 5 のすべての組み合わせに対して予め算出して記録して
    あり、前記量子化代表信号k 1 Q 1 、k 7 Q 7 の値に応じて前記
    剰余信号r 1 、r 7 と前記局所量子化信号q' 3 、q' 5 との対応
    関係の1つを選択できるテーブルを第2の信号変換テー
    ブルとす ると、前記剰余信号r 1 ,r 7 を,前記量子化代表
    信号k 1 Q 1 、k 7 Q 7 の値よって選択される前記第2の信号変
    換テーブルに従ってまとめて変換し,前記局所量子化信
    号q' 3 ,q' 5 を求める手段と , 前記大局量子化信号q3局所量子化信号q' 3 のレンジ幅
    を表す予め定められた整数値m3を乗じ,これに前記局所
    量子化信号q'3を加算して,前記量子化信号Q3を得る手
    段と, 前記大局量子化信号q5局所量子化信号q' 5 のレンジ幅
    を表す予め定められた整数値m5を乗じ,これに前記局所
    量子化信号q'5を加算して,前記量子化信号Q5を得る手
    段を持つことを特徴とする可逆変換装置
  2. 【請求項2】画像や音声などのディジタル信号の復号装
    置において,請求項1記載の量子化信号(Q1,Q7,Q3,Q5)を
    請求項1記載の整数4元ベクトル信号(u4,u5,u6,u7)へ逆
    変換する装置であって, 前記量子化信号Q3を請求項1記載の予め定められた整数
    値m3で割り,請求項1記載の大局量子化信号q3を求める
    手段と, 前記量子化信号Q5を請求項1記載の予め定められた整数
    値m5で割り,請求項1記載の大局量子化信号q5を求める
    手段と, 前記大局量子化信号q3に前記整数値m3を乗じた信号を,
    前記量子化信号Q3から減じて請求項1記載の局所量子化
    信号q'3を求める手段と, 前記大局量子化信号q5に前記整数値m5を乗じた信号を,
    前記量子化信号Q5から減じて請求項1記載の局所量子化
    信号q'5を求める手段と, 前記 量子化信号Q1に請求項1記載の予め定められた整数
    値k1を乗じ,量子化代表信号Q1k1を求める手段と, 前記量子化信号Q7に請求項1記載の予め定められた整数
    値k7を乗じ,量子化代表信号Q7k7を求める手段と,請求項1に記載の第2の信号変換テーブルと逆の対応関
    係を示す情報を算出し、予め記録したテーブルを第3の
    信号変換テーブルとすると、前記局所量子化信号q' 3
    q' 5 とを,前記量子化代表信号k 1 Q 1 、k 7 Q 7 の値よって選
    択される前記第3の信号変換テーブルに従ってまとめて
    変換し,請求項1記載の剰余信号r 1 とr 7 を求め る手段
    と, 前記量子化代表信号Q1k1に,前記剰余信号r1を加算し
    て,請求項1記載の変換係数信号X1を得る手段と, 前記量子化代表信号Q7k7に,前記剰余信号r7を加算し
    て,請求項1記載の変換係数信号X7を得る手段と,前記変換係数信号X 1 、X 7 と請求項1記載の代表元信号
    s 3 、s 5 の対応関係を示す情報を予め算出して記録したテ
    ーブルであり、請求項1に記載の第1の信号変換テーブル
    と同じ変換を実現するテーブルを第4の信号変換テーブ
    ルとすると、 前記変換係数信号X1とX7とを,前記第4の
    信号変換テーブルに従ってまとめて変換し,請求項1記
    載の代表元信号s3,s5を求める手段と,請求項1に記載の第5の信号変換テーブルと逆の対応関
    係を示す情報を予め算出して記録したテーブルを第6の
    信号変換テーブルとすると、 前記大局量子化信号q3とq5
    とを,前記第6の信号変換テーブルに従ってまとめて変
    換することで,可逆量子化の逆変換を行い,請求項1記
    載の大局信号成分p3とp5を求める逆量子化手段と, 前記大局信号成分p3に前記代表元信号s3を加算して,請
    求項1記載の変換係数信号X3を求める手段と, 前記大局信号成分p5に前記代表元信号s5を加算して,請
    求項1記載の変換係数信号X5を求める手段と, 前記変換係数信号(X1,X7,X3,X5)を請求項1記載の行列 【数2】 の逆行列で線形変換し、前記整数4 元ベクトル信号
    (u4,u5,u6,u7)を得る手段をもつこと, を特徴とする逆変換装置。
  3. 【請求項3】画像や音声などのサンプル化されたディジ
    タル信号を変換符号化する装置において,符号化対象と
    なるx0, x1, x2, x3, x4, x5, x6, x7の8つの入力ディ
    ジタル信号から8元離散コサイン変換に基づく変換によ
    り、Q0, Q1, Q2, Q3, Q4, Q5, Q6, Q7の8つの量子化信
    号を得る可逆変換装置であって、前記ディジタル信号x0
    とx7に対して、第1の整数行列 【数3】 の変換および可逆量子化を行って量子化信号u0とu4を求
    める手段と、 前記ディジタル信号x1と x6に対して、前記第1の整数行
    列の変換および可逆量子化を行って量子化信号u2とu6
    求める手段と、 前記ディジタル信号x2とx5に対して、前記第1の整数行
    列の変換および可逆量子化を行って量子化信号u3とu7
    求める手段と、 前記ディジタル信号x3とx4に対して、前記第1の整数行
    列の変換および可逆量子化を行って量子化信号u1とu5
    求める手段と、 前記量子化信号u0とu1に対して第2の整数行列 【数4】 の変換および可逆量子化を行って量子化信号v0とv1を求
    める手段と、 前記量子化信号u2とu3に対して、前記第2の整数行列の
    変換および可逆量子化を行って量子化信号v2とv3を求め
    る手段と、 前記量子化信号v0とv2に対して第3の整数行列 【数5】 の変換および可逆量子化を行って前記量子化信号Q0とQ4
    を求める手段と、 前記量子化信号v1とv3に対して第4の整数行列 【数6】 の変換および可逆量子化を行って前記量子化信号Q2とQ6
    を求める手段と、 前記量子化信号(u4,u5,u6,u7)に請求項1記載の可逆変換
    を行って前記量子化信号(Q1,Q7,Q3,Q5)を求める手段を
    持つことを特徴とする可逆変換装置
  4. 【請求項4】画像や音声などのディジタル信号の復号装
    置において用いられる請求項3記載の変換方式の逆変換
    装置であって、請求項3記載の量子化信号Q1, Q7, Q3, Q
    5に請求項2記載の逆変換を行って請求項3記載の量子化
    信号(u4,u5,u6,u7)を求める手段と、 請求項3記載の量子化信号Q2,とQ6に対して請求項3記載
    の第4の整数行列 【数7】 を用いた逆量子化および逆変換を行って請求項3記載の
    量子化信号v1とv3を求める手段と、 請求項3記載の量子化信号Q0とQ4に対して請求項3記載の
    第3の整数行列 【数8】 を用いた逆量子化および逆変換を行って請求項3記載の
    量子化信号v0とv2を求める手段と、 前記量子化信号v0とv1に対して請求項3記載の第2の整数
    行列 【数9】 を用いた逆量子化および逆変換を行って請求項3記載の
    量子化信号u0とu1を求める手段と、 前記量子化信号v2とv3に対して前記第2の整数行列を用
    いた逆量子化および逆変換を行って請求項3記載の量子
    化信号u2とu3を求める手段と、 前記量子化信号u0とu4に対して請求項3記載の第1の整数
    行列 【数10】 を用いた逆量子化および逆変換を行って請求項3記載の
    ディジタル信号x0とx7を求める手段と、 前記量子化信号u2とu6に対して前記第1の整数行列を用
    いた逆量子化および逆変換を行って請求項3記載のディ
    ジタル信号x1とx6を求める手段と、 前記量子化信号u3とu7に対して前記第1の整数行列を用
    いた逆量子化および逆変換を行って請求項3記載のディ
    ジタル信号x2とx5を求める手段と、 前記量子化信号u1とu5に対して前記第1の整数行列を用
    いた逆量子化および逆変換を行って請求項3記載のディ
    ジタル信号x3とx4を求める手段をもつことを特徴とする
    逆変換装置
  5. 【請求項5】請求項1記載の第1の信号変換テーブルに従
    って代表元信号s3,s5を求める手段において、 請求項1記載のc1,c3,c5,c7よりg=c1 2-c7 2+2c3c5,h=c3 2-
    c5 2+2c1c7, D=(c1 2-c7 2+ 2c3c5)2+(c3 2-c5 2+2c1c7)2
    で定まる定数g,h,Dを用いて、請求項1記載の変換係数信
    号X1,X7,X3,X5よりgX1+hX7、gX7-hX1、hX3+gX5、hX5-gX
    3のいずれか1つの値を計算し、それをDで割ったときの
    剰余信号を第1の剰余信号とすると、前記第1の剰余信号
    と前記代表元信号s 3 ,s 5 との対応関係を前記第1の信号
    変換テーブルに記述しておき、前記第1の剰余信号を
    記第1の信号変換テーブルの入力として用いること、 を特徴とする請求項1記載の可逆変換装置
  6. 【請求項6】請求項1記載の第2の信号変換テーブルに従
    って局所量子化信号q'3,q'5を求める手段において、 請求項1記載の量子化信号Q1,Q7、請求項1記載の整数値k
    1,k7、請求項5記載の定数g,hよりgk1Q1+hk7Q7、gk7Q7-h
    k1Q1のいずれか一方の値を計算し、それを請求項5記載
    の定数Dで割ったときの剰余信号を第2の剰余信号とする
    と、前記剰余信号r 1 、r 7 と前記局所量子化信号q' 3 、q' 5
    との対応関係を前記第2の剰余信号の値ごとに前記第2の
    信号変換テーブルに記述しておき、前記第2の剰余信号
    を,前記第2の信号変換テーブルのインデックスとして
    用いることを特徴とする請求項1記載の可逆変換装置
  7. 【請求項7】請求項2記載の第3の信号変換テーブルに従
    って剰余信号r1,r7を求める手段において、 請求項1記載の量子化信号Q1,Q7、請求項1記載の整数値k
    1,k7、請求項5記載の定数g,hよりgk1Q1+hk7Q7、gk7Q7-h
    k1Q1のいずれか一方の値を計算し、それを請求項5記載
    の定数Dで割ったときの剰余信号を第3の剰余信号とする
    と、前記局所量子化信号q' 3 、q' 5 と前記剰余信号r 1 、r 7
    との対応関係を前記第3の剰余信号の値ごとに前記第3の
    信号変換テーブルに記述しておき、前記第3の剰余信号
    を,前記第3の信号変換テーブルのインデックスとして
    用いることを特徴とする請求項2記載の逆変換装置
  8. 【請求項8】請求項2記載の第4の信号変換テーブルに従
    って代表元信号s3,s5を求める手段において、 請求項1記載の変換係数信号X1,X7、請求項5記載の定数
    g,hよりgX1+hX7、gX7-hX1のいずれか一方を計算し、そ
    れを請求項5記載の定数Dで割ったときの剰余信号を第4
    の剰余信号とすると、前記第4の剰余信号と前記代表元
    信号s 3 ,s 5 との対応関係を前記第4の信号変換テーブル
    に記述しておき、前記第4の剰余信号を、前記第4の信号
    変換テーブルの入力として用いることを特徴とする請求
    項2記載の逆変換装置
JP24996295A 1995-09-27 1995-09-27 可逆変換可能な変換装置及び逆変換装置 Expired - Fee Related JP3274593B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP24996295A JP3274593B2 (ja) 1995-09-27 1995-09-27 可逆変換可能な変換装置及び逆変換装置
US08/720,327 US5790441A (en) 1995-09-27 1996-09-27 Lossless transform coding system for digital signals
US09/127,635 US6175661B1 (en) 1995-09-27 1998-08-03 Lossless transform coding system for digital signals

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24996295A JP3274593B2 (ja) 1995-09-27 1995-09-27 可逆変換可能な変換装置及び逆変換装置

Publications (2)

Publication Number Publication Date
JPH0991271A JPH0991271A (ja) 1997-04-04
JP3274593B2 true JP3274593B2 (ja) 2002-04-15

Family

ID=17200786

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24996295A Expired - Fee Related JP3274593B2 (ja) 1995-09-27 1995-09-27 可逆変換可能な変換装置及び逆変換装置

Country Status (2)

Country Link
US (2) US5790441A (ja)
JP (1) JP3274593B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6058215A (en) * 1997-04-30 2000-05-02 Ricoh Company, Ltd. Reversible DCT for lossless-lossy compression
US6610835B1 (en) * 1998-02-12 2003-08-26 Emory University Sphingolipid derivatives and their methods of use
US6882685B2 (en) * 2001-09-18 2005-04-19 Microsoft Corporation Block transform and quantization for image and video coding
US7047266B2 (en) * 2002-06-19 2006-05-16 The Aerospace Corporation Merge and split discrete sine block transform method
US7437394B2 (en) * 2002-06-19 2008-10-14 The Aerospace Corporation Merge and split discrete cosine block transform method
US7062522B2 (en) * 2002-06-19 2006-06-13 The Aerospace Corporation Merge and split fast hartley block transform method
US7099908B2 (en) * 2002-06-19 2006-08-29 The Aerospace Corporation Merge and split generalized block transform method
US7099909B2 (en) * 2002-06-19 2006-08-29 The Aerospace Corporation Merge and split fast fourier block transform method
US7047267B2 (en) * 2002-06-19 2006-05-16 The Aerospace Corporation Merge and split Karhunen-Loeve block transform method
US7487193B2 (en) * 2004-05-14 2009-02-03 Microsoft Corporation Fast video codec transform implementations
JP2007299221A (ja) * 2006-04-28 2007-11-15 Samsung Electronics Co Ltd データ処理装置
US8942289B2 (en) * 2007-02-21 2015-01-27 Microsoft Corporation Computational complexity and precision control in transform-based digital media codec
KR101219309B1 (ko) * 2010-09-29 2013-01-08 전북대학교산학협력단 신호 처리 소자 및 이미지 처리 소자
US9378185B2 (en) * 2010-09-30 2016-06-28 Texas Instruments Incorporated Transform and quantization architecture for video coding and decoding
KR102558566B1 (ko) * 2021-03-09 2023-07-24 (주)비케이 벡터 이미지의 재생방법

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4261043A (en) * 1979-08-24 1981-04-07 Northrop Corporation Coefficient extrapolator for the Haar, Walsh, and Hadamard domains
EP0262460A3 (de) * 1986-09-30 1989-10-25 Siemens Aktiengesellschaft Anordnung zur optimierten Gewichtung uebertragener Transformationskoeffizienten bei Transformationscodierern zum Zwecke der Minimierung von Faltungsverzerrungen
JPH0262993A (ja) * 1988-08-29 1990-03-02 Mc Sci:Kk 位置検出型放射線検出装置及びその調整方法
US5293434A (en) * 1991-04-10 1994-03-08 International Business Machines Corporation Technique for use in a transform coder for imparting robustness to compressed image data through use of global block transformations
JPH06103301A (ja) * 1992-09-17 1994-04-15 Sony Corp 8x8離散コサイン変換回路および8x8離散コサイン逆変換回路
US5408425A (en) * 1993-05-25 1995-04-18 The Aerospace Corporation Split-radix discrete cosine transform
JP3697717B2 (ja) * 1993-09-24 2005-09-21 ソニー株式会社 2次元離散コサイン変換装置および2次元逆離散コサイン変換装置
JP2914226B2 (ja) * 1995-06-16 1999-06-28 日本電気株式会社 可逆変換を可能にするディジタル信号の変換符号化方式

Also Published As

Publication number Publication date
US5790441A (en) 1998-08-04
US6175661B1 (en) 2001-01-16
JPH0991271A (ja) 1997-04-04

Similar Documents

Publication Publication Date Title
JP3274593B2 (ja) 可逆変換可能な変換装置及び逆変換装置
JP2914226B2 (ja) 可逆変換を可能にするディジタル信号の変換符号化方式
Gersho et al. Vector quantization and signal compression
CN101399988B (zh) 减少位深的量子化方法
JPH0485621A (ja) 丸め装置
Amerijckx et al. Image compression using self-organizing maps
JP2002335161A (ja) 信号処理装置及び方法、信号符号化装置及び方法、並びに信号復号装置及び方法
JPH10285048A (ja) デジタルデータの符号化/復号化方法及び装置
CN115866252B (zh) 一种图像压缩方法、装置、设备及存储介质
JPH0783316B2 (ja) 多量ベクトル量子化方法及びその装置
CN100520765C (zh) 确定给定变换函数的变换元素的过程和设备,数字信号变换方法和设备及计算机可读介质
JP3877683B2 (ja) 量子化装置及び逆量子化装置、並びにそれらの装置を利用可能なオーディオ及び画像の符号化装置及び復号装置
Asif et al. Image codec by noncausal prediction, residual mean removal, and cascaded VQ
JPS61135286A (ja) 画像デ−タ圧縮装置
JP3979026B2 (ja) 信号復号方法および信号復号装置ならびに信号復号処理プログラムを記録した記録媒体
JP4438655B2 (ja) 符号化装置、復号装置、符号化方法及び復号方法
JP3099747B2 (ja) 可逆変換を可能にするディジタル信号の変換符号化方式
JP2005197989A (ja) べき乗演算回路、量子化回路および方法
JPH0621828A (ja) ベクトル量子化復号化器
JP2887843B2 (ja) 画像データ復元方法および装置
KR100402734B1 (ko) 부호화된 피승수를 사용하는 고정 소수점 곱셈 장치 및 그방법
JP2887842B2 (ja) 画像データ復元方法および装置
JPWO2008120279A1 (ja) 画像圧縮装置、画像圧縮方法、画像復元装置、及びプログラム
JPH1188183A (ja) ウェーブレット変換装置およびその方法並びにウェーブレット逆変換装置およびその方法並びに画像符号化装置およびその方法並びに画像復号化装置およびその方法
JPH0983378A (ja) 符号化装置および復号化装置

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees