JP2003009152A

JP2003009152A - ビデオ符号化におけるエッジブロックを検出して利用する方法および装置

Info

Publication number: JP2003009152A
Application number: JP2001186428A
Authority: JP
Inventors: Mei Shen Shen; メイ・シェンシェン; Wii Fuu Tekku; ウィー・フーテック
Original assignee: Matsushita Electric Industrial Co Ltd
Current assignee: Panasonic Holdings Corp
Priority date: 2001-06-20
Filing date: 2001-06-20
Publication date: 2003-01-10

Abstract

(57)【要約】【課題】ＤＣＴベースのビデオ符号化で通常よく見ら
れ、人間の視覚系には目障りかつ不快な、符号化された
写真のエッジ周囲のリンギング歪みを低減する。【解決手段】本発明ではビデオエンコーダにおいて、
３個の主要な領域についてＤＣＴ領域内でエッジブロッ
ク検出を実行し、エッジ情報をレート制御に適用して量
子化手順を適合的に調整する。本方法を用いることによ
り、良好な画像符号化品質が得られ、特にエッジ周囲の
歪みが消える。本方法は実装が簡単かつ計算量も大幅に
減る。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明はビデオ信号の圧縮お
よび符号化、特に高品質のビデオ信号符号化に関し、特
にビデオ符号化におけるエッジブロックを検出して利用
する方法および装置に関する。

【０００２】

【従来の技術】デジタルビデオデータは、ＪＰＥＧ、Ｍ
ＰＥＧ１、Ｈ．２６１、ＭＰＥＧ２、Ｈ．２６３、およ
びＭＰＥＧ４等の国際規格に従って大幅に圧縮すること
ができる。この１０年で符号化効率は段階的に向上して
きた。

【０００３】低ビットレートのビデオ符号化は一つの用
途トレンドを示す一方で、別のトレンドとしてＨＤＴ
Ｖ、ＨＤ−ＤＶＤ、Ｅ−Ｃｉｎｅｍａ等、高品質のスタ
ジオ符号化があり、ＭＰＥＧ２ブロードキャスト規格に
までも準拠する、ほぼ完璧な品質を要求する。

【０００４】周知のように、上述のビデオ符号化方法は
符号化効率が高いために有損失アプローチであると考え
られ、時として人間の目には極めて明瞭な歪みを生じる
ことがある。上述のビデオ符号化標準に共通する歪みの
一つとして、エンコーダがエッジを符号化する手法を持
たない場合にエッジの周囲に現われるリンギング歪みが
ある。

【０００５】また、エッジ歪み、すなわちリンギング歪
みは離散コサイン変換（ＤＣＴ）に基づく符号化におい
て不可避であると考えられている。その理由は、エッジ
ブロックでは他のブロックよりもはるかに多くのビット
を符号化することが必要であるが、従来のエンコーダで
はエッジと非エッジブロックを同等に扱うためである。

【０００６】ある種のビデオデコーダにおいて、リンギ
ング歪みを除去または減らすことにより、エッジを改善
しようとする。しかし、この方策では問題を完全に解決
することはできない。その理由は除去処理により写真や
エッジがぼやけたり、あるいは完全には歪みを除去する
ことができないからである。従ってより良い解決策はデ
コーダ側ではなく、エンコーダ側に求めるべきである。

【０００７】上述のビデオ符号化標準に基づいて、ピク
セルのフレームは多数の８×８ブロックにグループ分け
され、各８×８ブロックにＤＣＴが施される。エッジま
たは非エッジブロックのいずれであるかにかかわらず、
各ブロックに対し所定量のビットが割り当てられる。

【０００８】エッジブロックはＤＣＴの特性により多数
の高周波数成分を生成することが知られている。一方、
非エッジブロック、特にそれほど複雑でないブロックは
高周波数成分に寄与しない。上述のビデオ符号化スキー
ムにおけるビット割り当てと量子化は、低周波数帯域で
ＤＣＴ係数の符号化と伝送を行い、高周波数帯域でこれ
らのＤＣＴ係数を放棄および無視するように設計されて
いる。その結果、高周波数帯域でＤＣＴ係数が放棄され
るためにエッジブロックを完全に再構成することができ
ない。エッジ周囲におけるＤＣＴ係数を放棄することに
より生じる歪みをリンギング歪みあるいはＣｒｏｎｎａ
効果と呼び、これらはエッジ周囲の環または継ぎ当て
（パッチ）のように見える。

【０００９】これはビデオ符号化分野で非常にありふれ
た歪みであり、ＶＣＤ、ＤＶＤ、ＤＴＶ（デジタルＴ
Ｖ）、ＶＯＤ（ビデオ・オン・デマンド）、テレビ電
話、ビデオ会議等の既存製品に見られる。将来の高品質
ビデオ製品、特にＨＤ−ＤＶＤ、Ｅ−Ｃｉｎｅｍａ、デ
ジタルＨＤＴＶに対する画質に対する要求がますます厳
しくなるにつれて、エッジ周囲のリンギング歪みは視聴
者にとって実に不快であるため、エンコーダ側で解決さ
れねばならない。

【００１０】一方、高品質のビデオ符号化のために高ビ
ットレートを割り当てることができるが、多くのビット
はこれら非エッジブロックの符号化に用いられ、実際に
は高周波数帯域におけるＤＣＴ係数は無視できる。エッ
ジブロックに対する特別の配慮なしには、費用効果の高
い結果は得られないであろう。エッジ周囲の画質が良い
ことと、フレーム全体およびシーケンス全体に使われる
ビット数を減らすことのバランスをとるのが課題であ
る。

【００１１】エッジを扱うために、ＤＣＴの代わりに無
損失予測方法等の特別なビデオ符号化方法も考えられ
た。ＤＣＴによる以外の方法でも問題を解決できるが、
エッジの符号化にはより多くのビットが必要になると考
えられる。

【００１２】同じくＤＣＴベースのビデオ符号化スキー
ムに基づいて、上述のビデオ符号化標準を用いる必要が
ある場合、エッジブロック符号化に対して特別に配慮す
るスキームを検討する必要がある。従来の研究により、
空間領域におけるエッジブロックの検出を試みて、エッ
ジブロック情報を利用してデコーダ側でリンギング歪み
を減らした。

【００１３】高品質のビデオ符号化を行うには基本的
に、特別に配慮されたスキームをエンコーダ側で実行す
べきである。エッジ検出は空間領域と周波数領域の両方
で行うことができる。空間領域で行うエッジ検出はより
多くの計算と複雑さを伴なうのに対し、周波数領域で行
うエッジ検出はさほど複雑にならない。

【００１４】特別に配慮された符号化スキームは、エッ
ジブロック検出と識別されたエッジブロックへ特別なビ
ットを割り当てることから構成される。余分のビットが
フレーム全体ではなくエッジブロックに割り当てられ、
ここでの方策はエッジ周囲にリンギング歪みが生じない
ようにすることである。

【００１５】

【発明が解決しようとする課題】上述のとおり、現ビデ
オ符号化標準ではブロックの種類如何にかかわらず、す
べての８×８ブロックにＤＣＴを施す必要がある。エッ
ジブロックは高周波数帯域に多数のＤＣＴ係数を生成
し、非エッジブロックは低周波数帯域に集中してＤＣＴ
係数を生成する。

【００１６】従来のビット割り当ておよび量子化スキー
ムではエッジと非エッジのブロックを同等に扱う。その
結果、高周波数帯域で多数のＤＣＴ係数が放棄されて再
構成された画像のエッジ周囲にリンギング歪みが生じ
る。

【００１７】図１の（ａ）に示すように、リンギング歪
みはエッジ周囲の継ぎ当て（パッチ）のように見える。
これは、限られた数のビットしか割り当てられないため
に高周波数帯域でＤＣＴ係数が放棄されることにより生
じる。

【００１８】図１の（ｂ）に示すように、ｃｏｓｘ、ｃ
ｏｓ３ｘ、ｃｏｓ５ｘ等のＤＣＴによりエッジ状の信号
が表現される場合、用いられるＤＣＴ係数（ａ，ｂ，
ｃ）の個数が限られているために、エッジ信号を完全に
は復元できないことを示す。従って、余弦成分が協働し
てエッジ信号を反映するには個数が不足している場合、
これら補償されていない余弦波からの”リンギング”が
エッジの周囲に形成される。ここで、エッジ信号はＤＣ
Ｔにより、下記数１のように表される。

【００１９】

【数１】

【００２０】高品質のビデオ符号化の場合、高ビットレ
ートをエンコーダに割り当てることができる。しかし、
これら余分のビットは非エッジブロックを含むすべての
ブロックに割り当てられる。エッジブロックに対する特
別な配慮がまだなされていないため、結局高ビットレー
トビデオ符号化の場合でさえも依然としてリンギング歪
みがエッジの周囲に生じよう。

【００２１】リンギング歪みがエッジの周囲に生じた場
合は、特に高画質ビデオの場合、視聴者にとって非常に
不快である。本発明の目的は、エンコーダ側でのエッジ
ブロック符号化に対する特別な配慮スキームを用いてエ
ッジの周囲にリンギング歪みが生じるのを防ぐことであ
る。ここに述べる発明は、ビデオ符号化、特に高品質の
ビデオ符号化のためにエッジの周囲によく見られる歪み
を解決することを目的とする。

【００２２】

【課題を解決するための手段】本発明のビデオ符号化に
おけるエッジブロックを検出して利用する方法は、入力
ビデオ信号の現フレームをサンプリングしてピクセルデ
ータの複数のブロックを生成するステップと、前記サン
プリングされたブロックに離散コサイン変換を適用して
ＤＣＴ係数を生成するステップと、前記サンプリングさ
れたブロックの各々について前記ＤＣＴ係数を３つの主
要な領域にグループ分けするステップと、前記グループ
分けされたＤＣＴ係数に基づいて前記現ブロックがエッ
ジブロックであるか非エッジブロックであるかを識別す
るステップと、現ブロックに対して従来のレート制御に
より第１の量子化手順を生成するステップと、前記エッ
ジ情報を用いてエッジブロックに対して前記第１の量子
化手順を調整するステップと、エッジブロックに対して
前記調整された第１の量子化手順を用いて前記ＤＣＴ係
数を量子化するステップと、非エッジブロックに対して
第２の量子化手順を用いて前記ＤＣＴ係数を量子化する
ステップと、前記量子化されたＤＣＴ係数を走査するス
テップと、前記走査された量子化ＤＣＴ係数を可変長符
号化するステップとを有することを特徴としており、こ
れにより上記目的が達成される。

【００２３】本発明のビデオ符号化におけるエッジブロ
ックを検出して利用する方法は、ビデオ符号化における
エッジブロックを検出して利用する方法であって、入力
ビデオ信号の現フレームをサンプリングしてピクセルデ
ータの複数のブロックを生成するステップと、入力ビデ
オ信号の参照フレームをサンプリングしてピクセルデー
タの複数のブロックを生成するステップと、前記サンプ
リングされたピクセルデータのブロックに離散コサイン
変換を適用してＤＣＴ係数を生成するステップと、前記
サンプリングされたブロックの各々について前記ＤＣＴ
係数を３つの主要な領域にグループ分けするステップ
と、前記グループ分けされたＤＣＴ係数に基づいて前記
現ブロックがエッジブロックであるか非エッジブロック
であるかを識別するステップと、現ブロックに対して従
来のレート制御により第１の量子化手順を生成するステ
ップと、前記エッジ情報を用いてエッジブロックに対し
て前記第１の量子化手順を調整するステップと、エッジ
ブロックに対して前記調整された第１の量子化手順を用
いて前記ＤＣＴ係数を量子化するステップと、非エッジ
ブロックに対して第２の量子化手順を用いて前記ＤＣＴ
係数を量子化するステップと、前記量子化されたＤＣＴ
係数に逆量子化を施すステップと、前記逆量子化された
ＤＣＴ係数に逆離散コサイン変換を施すステップと、前
記逆離散コサイン変換の結果を再構成してフレームメモ
リに保存するステップと、前記保存されたデータを参照
として動き予測および補償を行うステップと、前記量子
化されたＤＣＴ係数を走査するステップと、前記走査さ
れた量子化ＤＣＴ係数を可変長符号化するステップとを
有することを特徴としており、これにより上記目的が達
成される。

【００２４】本発明のビデオ符号化におけるエッジブロ
ックを検出して利用する方法は、ビデオ符号化における
エッジブロックを検出して利用する方法であって、入力
ビデオ信号の現フレームをサンプリングしてピクセルデ
ータの複数のブロックを生成するステップと、前記サン
プリングされたピクセルデータのブロックに離散コサイ
ン変換を適用してＤＣＴ係数を生成するステップと、前
記サンプリングされたブロックの各々について前記ＤＣ
Ｔ係数を３つの主要な領域にグループ分けするステップ
と、前記グループ分けされたＤＣＴ係数に基づいて前記
現ブロックがエッジブロックであるか非エッジブロック
であるかを識別するステップと、現ブロックに対して調
整されたレート制御により第１の量子化手順を生成する
ステップと、前記エッジ情報を用いてエッジブロックに
対して前記第１の量子化手順を調整するステップと、エ
ッジブロックに対して前記調整された第１の量子化手順
を用いて前記ＤＣＴ係数を量子化するステップと、非エ
ッジブロックに対して第２の量子化手順を用いて前記Ｄ
ＣＴ係数を量子化するステップと、前記量子化されたＤ
ＣＴ係数を走査するステップと、前記走査された量子化
ＤＣＴ係数を可変長符号化するステップとを有すること
を特徴としており、これにより上記目的が達成される。

【００２５】本発明のビデオ符号化におけるエッジブロ
ックを検出して利用する方法は、入力ビデオ信号の現フ
レームをサンプリングしてピクセルデータからなる複数
のブロックを生成するステップと、入力ビデオ信号の参
照フレームをサンプリングしてピクセルデータからなる
複数のブロックを生成するステップと、前記サンプリン
グされたピクセルデータのブロックに離散コサイン変換
を適用してＤＣＴ係数を生成するステップと、前記サン
プリングされたブロックの各々について前記ＤＣＴ係数
を３つの主要な領域にグループ分けするステップと、前
記グループ分けされたＤＣＴ係数に基づいて前記現ブロ
ックがエッジブロックであるか非エッジブロックである
かを識別するステップと、現ブロックに対して調整され
たレート制御により第１の量子化手順を生成するステッ
プと、前記エッジ情報を用いてエッジブロックに対して
前記第１の量子化手順を調整するステップと、エッジブ
ロックに対して前記調整された第１の量子化手順を用い
て前記ＤＣＴ係数を量子化するステップと、非エッジブ
ロックに対して第２の量子化手順を用いて前記ＤＣＴ係
数を量子化するステップと、前記量子化されたＤＣＴ係
数に逆量子化を施すステップと、前記逆量子化されたＤ
ＣＴ係数に逆離散コサイン変換を施すステップと、前記
逆離散コサイン変換の結果を再構成してフレームメモリ
に保存するステップと、前記保存されたデータを参照と
して動き予測および補償を行うステップと、前記量子化
されたＤＣＴ係数を走査するステップと、前記走査され
た量子化ＤＣＴ係数を可変長符号化するステップとを有
することを特徴としており、これにより上記目的が達成
される。

【００２６】本発明のビデオ符号化におけるエッジブロ
ックを検出して利用する方法は、入力ビデオ信号の現フ
レームをサンプリングしてピクセルデータからなる複数
のブロックを生成するステップと、前記ピクセルデータ
の各ブロックがエッジブロックであるか非エッジブロッ
クであるかを識別するステップと、前記サンプリングさ
れたピクセルデータのブロックに離散コサイン変換を適
用してＤＣＴ係数を生成するステップと、現ブロックに
対して従来のレート制御により第１の量子化手順を生成
するステップと、前記エッジ情報を用いてエッジブロッ
クに対して前記第１の量子化手順を調整するステップ
と、エッジブロックに対して前記調整された第１の量子
化手順を用いて前記ＤＣＴ係数を量子化するステップ
と、非エッジブロックに対して第２の量子化手順を用い
て前記ＤＣＴ係数を量子化するステップと、前記量子化
されたＤＣＴ係数を走査するステップと、前記走査され
た量子化ＤＣＴ係数を可変長符号化するステップとを有
することを特徴としており、これにより上記目的が達成
される。

【００２７】本発明のビデオ符号化におけるエッジブロ
ックを検出して利用する方法は、入力ビデオ信号の現フ
レームをサンプリングしてピクセルデータからなる複数
のブロックを生成するステップと、入力ビデオ信号の参
照フレームをサンプリングしてピクセルデータからなる
複数のブロックを生成するステップと、前記ピクセルデ
ータの各ブロックがエッジブロックであるか非エッジブ
ロックであるかを識別するステップと、前記サンプリン
グされたピクセルデータのブロックに離散コサイン変換
を適用してＤＣＴ係数を生成するステップと、現ブロッ
クに対して従来のレート制御により第１の量子化手順を
生成するステップと、前記エッジ情報を用いてエッジブ
ロックに対して前記第１の量子化手順を調整するステッ
プと、エッジブロックに対して前記調整された第１の量
子化手順を用いて前記ＤＣＴ係数を量子化するステップ
と、非エッジブロックに対して第２の量子化手順を用い
て前記ＤＣＴ係数を量子化するステップと、前記量子化
されたＤＣＴ係数に逆量子化を施すステップと、前記逆
量子化されたＤＣＴ係数に逆離散コサイン変換を施すス
テップと、前記逆離散コサイン変換の結果を再構成して
フレームメモリに保存するステップと、前記保存された
データを参照として動き予測および補償を行うステップ
と、前記量子化されたＤＣＴ係数を走査するステップ
と、前記走査された量子化ＤＣＴ係数を可変長符号化す
るステップとを有することを特徴としており、これによ
り上記目的が達成される。

【００２８】本発明のビデオ符号化におけるエッジブロ
ックを検出して利用する方法は、入力ビデオ信号の現フ
レームをサンプリングしてピクセルデータからなる複数
のブロックを生成するステップと、前記ピクセルデータ
の各ブロックがエッジブロックであるか非エッジブロッ
クであるかを識別するステップと、前記サンプリングさ
れたピクセルデータのブロックに離散コサイン変換を適
用してＤＣＴ係数を生成するステップと、現ブロックに
対して調整されたレート制御により第１の量子化手順を
生成するステップと、前記エッジ情報を用いてエッジブ
ロックに対して前記第１の量子化手順を調整するステッ
プと、エッジブロックに対して前記調整された第１の量
子化手順を用いて前記ＤＣＴ係数を量子化するステップ
と、非エッジブロックに対して第２の量子化手順を用い
て前記ＤＣＴ係数を量子化するステップと、前記量子化
されたＤＣＴ係数を走査するステップと、前記走査され
た量子化ＤＣＴ係数を可変長符号化するステップとを有
することを特徴としており、これにより上記目的が達成
される。

【００２９】本発明のビデオ符号化におけるエッジブロ
ックを検出して利用する方法は、入力ビデオ信号の現フ
レームをサンプリングしてピクセルデータからなる複数
のブロックを生成するステップと、入力ビデオ信号の参
照フレームをサンプリングしてピクセルデータからなる
複数のブロックを生成するステップと、前記ピクセルデ
ータの各ブロックがエッジブロックであるか非エッジブ
ロックであるかを識別するステップと、前記サンプリン
グされたピクセルデータのブロックに離散コサイン変換
を適用してＤＣＴ係数を生成するステップと、現ブロッ
クに対して調整されたレート制御により第１の量子化手
順を生成するステップと、前記エッジ情報を用いてエッ
ジブロックに対して前記第１の量子化手順を調整するス
テップと、エッジブロックに対して前記調整された第１
の量子化手順を用いて前記ＤＣＴ係数を量子化するステ
ップと、非エッジブロックに対して第２の量子化手順を
用いて前記ＤＣＴ係数を量子化するステップと、前記量
子化されたＤＣＴ係数に逆量子化を施すステップと、前
記逆量子化されたＤＣＴ係数に逆離散コサイン変換を施
すステップと、前記逆離散コサイン変換の結果を再構成
してフレームメモリに保存するステップと、前記保存さ
れたデータを参照として動き予測および補償を行うステ
ップと、前記量子化されたＤＣＴ係数を走査するステッ
プと、前記走査された量子化ＤＣＴ係数を可変長符号化
するステップとを有することを特徴としており、これに
より上記目的が達成される。

【００３０】前記グループ分けされたＤＣＴ係数に基づ
いて前記現ブロックがエッジブロックであるか、あるい
は非エッジブロックであるかを識別するステップは、定
義された前記３つの領域のうち水平領域におけるＤＣＴ
係数の絶対値の和を水平エネルギーとして計算するステ
ップと、定義された前記３つの領域のうち垂直領域にお
けるＤＣＴ係数の絶対値の和を垂直エネルギーとして計
算するステップと、定義された前記３つの領域のうち対
角領域におけるＤＣＴ係数の絶対値の和を対角エネルギ
ーとして計算するステップと、前記水平エネルギーと垂
直エネルギーの差と平均を計算するステップと、前記差
を、前記平均により所定の閾値と比べて正規化するステ
ップと、前記正規化された結果が前記所定の閾値より大
きい場合に前記水平エネルギーまたは前記垂直エネルギ
ーを所定の値と比較するステップと、前記比較の後で水
平または垂直エッジブロックであるか非エッジブロック
であるかを判定するステップと、前記水平エネルギーと
垂直エネルギーの差と平均、および前記垂直エネルギー
と対角エネルギーの差と平均を計算するステップと、前
記差を、前記平均により所定の閾値と比べて正規化する
ステップと、前記のいずれかの正規化された結果が前記
所定の閾値より大きい場合に前記対角エネルギーを所定
の値と比較するステップと、前記比較の後で水平または
垂直エッジブロックであるか非エッジブロックであるか
を判定するステップとを有していてもよい。

【００３１】前記グループ分けされたＤＣＴ係数に基づ
いて前記現ブロックがエッジブロックであるか非エッジ
ブロックであるかを識別するステップは、定義された前
記３つの領域のうち水平領域におけるＤＣＴ係数の絶対
値の和を水平エネルギーとして計算するステップと、定
義された前記３つの領域のうち垂直領域におけるＤＣＴ
係数の絶対値の和を垂直エネルギーとして計算するステ
ップと、前記水平エネルギーと垂直エネルギーの差と平
均を計算するステップと、前記差を、前記平均により所
定の閾値と比べて正規化するステップと、前記正規化さ
れた結果が前記所定の閾値より大きい場合に前記水平エ
ネルギーまたは前記垂直エネルギーを所定の値と比較す
るステップと、前記比較の後で水平または垂直エッジブ
ロックであるか非エッジブロックであるかを判定するス
テップと、前記判定に基づいて非水平または垂直エッジ
ブロックでない場合に、定義された対角領域におけるＤ
ＣＴ係数の絶対値の和を対角エネルギーとして計算する
ステップと、前記水平エネルギーと垂直エネルギーの差
と平均、および前記垂直エネルギーと対角エネルギーの
差と平均をさらに計算するステップと、前記差を、前記
平均によりそれぞれ所定の閾値と比べて正規化するステ
ップと、前記のいずれかの正規化された結果が前記所定
の閾値より大きい場合に前記対角エネルギーを所定の値
と比較するステップと、前記比較の後で水平または垂直
エッジブロックであるか非エッジブロックであるかを判
定するステップとを有していてもよい。

【００３２】現ブロックの調整されたレート制御により
第１の量子化手順を生成するステップは、ビットレー
ト、フレームレート、１個のピクチャグループ（ＧＯ
Ｐ）における先のフレームで実際に用いられたビット、
およびＧＯＰサイズに基づいて現フレームの目標ビット
を計算するステップと、前記目標ビットをあるパーセン
テージ減らすために重み付けするステップと、前記重み
付けられた目標ビットを用いて第１の量子化手順を計算
するステップと、前記新規目標ビットに基づいて第１の
量子化手順を生成するステップとを有していてもよい。

【００３３】前記ピクセルデータの各ブロックがエッジ
であるか非エッジであるかを識別する方法は、前記ピク
セルデータのサンプリングされたブロックの平均値を計
算するステップと、前記ピクセルデータのサンプリング
されたブロックを多数のより小さいブロックに分割する
ステップと、前記ピクセルデータのサンプリングされた
ブロックの各々の前記平均値からの偏差を計算するステ
ップと、所定の閾値と比較して前記偏差の少なくとも１
個が前記平均よりはるかに大きい場合にエッジブロック
を決定するステップとを含んでいてもよい。

【００３４】前記方法は、前記現フレームを定常ビット
レート（ＣＢＲ）または可変長ビットレート（ＶＢＲ）
で符号化するステップを含んでいてもよい。

【００３５】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータの複数のブロック
を生成するサンプリング部と、サンプリング部により前
記サンプリングされたブロックに離散コサイン変換を適
用してＤＣＴ係数を生成する変換部と、前記サンプリン
グされたブロックの各々について前記ＤＣＴ係数を３つ
の主要な領域にグループ分けする分類部と、前記グルー
プ分けされたＤＣＴ係数に基づいて前記現ブロックがエ
ッジブロックであるか非エッジブロックであるかを識別
する識別部と、現ブロックに対して従来のレート制御に
より第１の量子化手順を生成する量子化手順生成部と、
前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに
対して前記調整された第１の量子化手順を用いて前記Ｄ
ＣＴ係数を量子化し、非エッジブロックに対して第２の
量子化手順を用いて前記ＤＣＴ係数を量子化する量子化
部と、前記量子化されたＤＣＴ係数を走査する走査部
と、前記走査された量子化ＤＣＴ係数を可変長符号化す
る符号化部とを備えており、これにより上記目的が達成
される。

【００３６】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータの複数のブロック
を生成するサンプリング部と、入力ビデオ信号の参照フ
レームをサンプリングしてピクセルデータの複数のブロ
ックを生成するブロック生成部と、前記サンプリングさ
れたピクセルデータのブロックに離散コサイン変換を適
用してＤＣＴ係数を生成する変換部と、前記サンプリン
グされたブロックの各々について前記ＤＣＴ係数を３つ
の主要な領域にグループ分けする分類部と、前記グルー
プ分けされたＤＣＴ係数に基づいて前記現ブロックがエ
ッジブロックであるか非エッジブロックであるかを識別
する識別部と、現ブロックに対して従来のレート制御に
より第１の量子化手順を生成する量子化手順生成部と、
前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに
対して前記調整された第１の量子化手順を用いて前記Ｄ
ＣＴ係数を量子化し、非エッジブロックに対して第２の
量子化手順を用いて前記ＤＣＴ係数を量子化する量子化
部と、前記量子化されたＤＣＴ係数に逆量子化を施す逆
量子化部と、前記逆量子化されたＤＣＴ係数に逆離散コ
サイン変換を施す逆変換部と、前記逆離散コサイン変換
の結果を再構成してフレームメモリに保存する保存部
と、前記保存されたデータを参照として動き予測および
補償を行う演算部と、前記量子化されたＤＣＴ係数を走
査する走査部と、前記走査された量子化ＤＣＴ係数を可
変長符号化する符号化部とを備えており、これにより上
記目的が達成される。

【００３７】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータの複数のブロック
を生成するサンプリング部と、サンプリング部により前
記サンプリングされたブロックに離散コサイン変換を適
用してＤＣＴ係数を生成する変換部と、前記サンプリン
グされたブロックの各々について前記ＤＣＴ係数を３つ
の主要な領域にグループ分けする分類部と、前記グルー
プ分けされたＤＣＴ係数に基づいて前記現ブロックがエ
ッジブロックであるか非エッジブロックであるかを識別
する識別部と、現ブロックに対して調整されたレート制
御により第１の量子化手順を生成する量子化手順生成部
と、前記エッジ情報を用いてエッジブロックに対して前
記第１の量子化手順を調整する調整部と、エッジブロッ
クに対して前記調整された第１の量子化手順を用いて前
記ＤＣＴ係数を量子化し、非エッジブロックに対して第
２の量子化手順を用いて前記ＤＣＴ係数を量子化する量
子化部と、前記量子化されたＤＣＴ係数を走査する走査
部と、前記走査された量子化ＤＣＴ係数を可変長符号化
する符号化部とを備えており、これにより上記目的が達
成される。

【００３８】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータの複数のブロック
を生成するサンプリング部と、入力ビデオ信号の参照フ
レームをサンプリングしてピクセルデータの複数のブロ
ックを生成するブロック生成部と、前記サンプリングさ
れたピクセルデータのブロックに離散コサイン変換を適
用してＤＣＴ係数を生成する変換部と、前記サンプリン
グされたブロックの各々について前記ＤＣＴ係数を３つ
の主要な領域にグループ分けする分類部と、前記グルー
プ分けされたＤＣＴ係数に基づいて前記現ブロックがエ
ッジブロックであるか非エッジブロックであるかを識別
する識別部と、現ブロックに対して調整されたレート制
御により第１の量子化手順を生成する量子化手順生成部
と、前記エッジ情報を用いてエッジブロックに対して前
記第１の量子化手順を調整する調整部と、エッジブロッ
クに対して前記調整された第１の量子化手順を用いて前
記ＤＣＴ係数を量子化し、非エッジブロックに対して第
２の量子化手順を用いて前記ＤＣＴ係数を量子化する量
子化部と、前記量子化されたＤＣＴ係数に逆量子化を施
す逆量子化部と、前記逆量子化されたＤＣＴ係数に逆離
散コサイン変換を施す逆変換部と、前記逆離散コサイン
変換の結果を再構成してフレームメモリに保存する保存
部と、前記保存されたデータを参照として動き予測およ
び補償を行う演算部と、前記量子化されたＤＣＴ係数を
走査する走査部と、前記走査された量子化ＤＣＴ係数を
可変長符号化する符号化部とを備えており、これにより
上記目的が達成される。

【００３９】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータからなる複数のブ
ロックを生成するサンプリング部と、前記ピクセルデー
タの各ブロックがエッジブロックであるか非エッジブロ
ックであるかを識別する識別部と、前記サンプリングさ
れたピクセルデータのブロックに離散コサイン変換を適
用してＤＣＴ係数を生成する変換部と、現ブロックに対
して従来のレート制御により第１の量子化手順を生成す
る量子化手順生成部と、前記エッジ情報を用いてエッジ
ブロックに対して前記第１の量子化手順を調整する調整
部と、エッジブロックに対して前記調整された第１の量
子化手順を用いて前記ＤＣＴ係数を量子化し、非エッジ
ブロックに対して第２の量子化手順を用いて前記ＤＣＴ
係数を量子化する量子化部と、前記量子化されたＤＣＴ
係数を走査する走査部と、前記走査された量子化ＤＣＴ
係数を可変長符号化する符号化部とを備えており、これ
により上記目的が達成される。

【００４０】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータからなる複数のブ
ロックを生成するサンプリング部と、入力ビデオ信号の
参照フレームをサンプリングしてピクセルデータからな
る複数のブロックを生成するブロック生成部と、前記ピ
クセルデータの各ブロックがエッジブロックであるか非
エッジブロックであるかを識別する識別部と、前記サン
プリングされたピクセルデータのブロックに離散コサイ
ン変換を適用してＤＣＴ係数を生成する変換部と、現ブ
ロックに対して従来のレート制御により第１の量子化手
順を生成する量子化手順生成部と、前記エッジ情報を用
いてエッジブロックに対して前記第１の量子化手順を調
整する調整部と、エッジブロックに対して前記調整され
た第１の量子化手順を用いて前記ＤＣＴ係数を量子化
し、非エッジブロックに対して第２の量子化手順を用い
て前記ＤＣＴ係数を量子化する量子化部と、前記量子化
されたＤＣＴ係数に逆量子化を施す逆量子化部と、前記
逆量子化されたＤＣＴ係数に逆離散コサイン変換を施す
逆変換部と、前記逆離散コサイン変換の結果を再構成し
てフレームメモリに保存する保存部と、前記保存された
データを参照として動き予測および補償を行う演算部
と、前記量子化されたＤＣＴ係数を走査する走査部と、
前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えており、これにより上記目的が達成され
る。

【００４１】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータからなる複数のブ
ロックを生成するサンプリング部と、前記ピクセルデー
タの各ブロックがエッジブロックであるか非エッジブロ
ックであるかを識別する識別部と、前記サンプリングさ
れたピクセルデータのブロックに離散コサイン変換を適
用してＤＣＴ係数を生成する変換部と、現ブロックに対
して調整されたレート制御により第１の量子化手順を生
成する量子化手順生成部と、前記エッジ情報を用いてエ
ッジブロックに対して前記第１の量子化手順を調整する
調整部と、エッジブロックに対して前記調整された第１
の量子化手順を用いて前記ＤＣＴ係数を量子化し、非エ
ッジブロックに対して第２の量子化手順を用いて前記Ｄ
ＣＴ係数を量子化する量子化部と、前記量子化されたＤ
ＣＴ係数を走査する走査部と、前記走査された量子化Ｄ
ＣＴ係数を可変長符号化する符号化部とを備えており、
これにより上記目的が達成される。

【００４２】本発明によるエッジブロックを検出して利
用するビデオ符号化装置は、入力ビデオ信号の現フレー
ムをサンプリングしてピクセルデータからなる複数のブ
ロックを生成するサンプリング部と、入力ビデオ信号の
参照フレームをサンプリングしてピクセルデータからな
る複数のブロックを生成するブロック生成部と、前記ピ
クセルデータの各ブロックがエッジブロックであるか非
エッジブロックであるかを識別する識別部と、前記サン
プリングされたピクセルデータのブロックに離散コサイ
ン変換を適用してＤＣＴ係数を生成する変換部と、現ブ
ロックに対して調整されたレート制御により第１の量子
化手順を生成する量子化手順生成部と、前記エッジ情報
を用いてエッジブロックに対して前記第１の量子化手順
を調整する調整部と、エッジブロックに対して前記調整
された第１の量子化手順を用いて前記ＤＣＴ係数を量子
化し、非エッジブロックに対して第２の量子化手順を用
いて前記ＤＣＴ係数を量子化する量子化部と、前記量子
化されたＤＣＴ係数に逆量子化を施す逆量子化部と、前
記逆量子化されたＤＣＴ係数に逆離散コサイン変換を施
す逆変換部と、前記逆離散コサイン変換の結果を再構成
してフレームメモリに保存する保存部と、前記保存され
たデータを参照として動き予測および補償を行う演算部
と、前記量子化されたＤＣＴ係数を走査する走査部と、
前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えており、これにより上記目的が達成され
る。

【００４３】

【発明の実施の形態】まず本発明の概要は以下の通りで
ある。すなわち本方法は周波数領域で行われたエッジブ
ロック検出、およびエッジブロック検出の情報を用いた
ビット割り当て用の特別な配慮スキームで構成される。

【００４４】本発明において、エッジブロックは水平、
垂直、および対角エッジに基づいて３個のグループにそ
れぞれ分類される。

【００４５】図２に示すように、水平エッジは特に第一
列において垂直方向により大きいＤＣＴ係数を生成し、
垂直エッジは特に第一行において水平方向により大きい
ＤＣＴ係数を生成し、対角エッジは対角領域でより大き
いＤＣＴ係数を生成することがわかる。これらは水平領
域（ＨＡ）、垂直領域（ＶＡ）、対角領域（ＤＡ）の３
領域に分割される。

【００４６】エッジブロックは水平状のブロック、垂直
状のブロック、あるいは対角状のブロックのいずれかで
あると想定される。エッジ検出はＨＡ、ＶＡ、ＤＡの３
領域においてＤＣＴ係数を調べることにより行われ、エ
ッジブロックであるか否かを判定する。

【００４７】ある領域のＤＣＴ係数が他の領域に比べて
はるかに大きい場合、エッジブロックであると見なされ
る。

【００４８】エッジブロックである場合、量子化ステッ
プ（量子化手順）が減る。現行の走査方法は既に対角Ｄ
ＣＴ係数を配慮するため、量子化は対角エッジよりも水
平および垂直エッジに対する減少幅がより大きい。

【００４９】空間領域で行われるエッジ検出方法を本発
明に適用することも可能である。エッジブロック情報が
マーク付けされて、ビット割り当て用のレート制御機能
がその情報を利用して量子化ステップ（量子化手順）を
適宜調整する。

【００５０】デジタルビデオフレームを多数の８×８ブ
ロックにグループ分けし、各８×８ブロックに８×８Ｄ
ＣＴを施す。

【００５１】図２に示すように、ＨＡ、ＶＡ、およびＤ
Ａの３領域におけるＤＣＴ係数の絶対値の平均値を計算
して、所定の閾値を用いて比較する。比較結果に基づい
て水平／垂直エッジブロックまたは対角エッジブロック
を決定する。水平／垂直エッジブロックまたは対角エッ
ジブロックに対して適当な重みを設定する。

【００５２】レート・コントローラはブロックに割り当
てられるビットを計算し、ブロック内の各ＤＣＴ係数を
量子化する量子化ステップ（量子化手順）を決定する。
量子化手順は上述の段階で設定された重みにより調整さ
れる。

【００５３】調整済み量子化手順によりＤＣＴ係数を量
子化した後で、ジグザグすなわち交互走査により、量子
化済み８×８ＤＣＴ係数を走査して１次元ＤＣＴ係数に
変換し、引き続き従来のＨｕｆｆｍａｎＶＬＣ（可変
長符号化）による符号化を行う。

【００５４】本発明の好適な実施の形態を図３〜１１に
示す。

【００５５】図３は、従来技術によるエンコーダのブロ
ック図を示す。図３に示すように、モジュール３０１に
おいて入力ソースを多数の８×８ブロックにサンプリン
グする。モジュール３０３において、ＤＣＴを、内部符
号化ブロックのために本来の８×８ブロックに適用し、
予測ブロックのために参照ブロックと現予測ブロックの
間の残余の８×８ブロックに施す。モジュール３０４で
各８×８ＤＣＴ係数に対して量子化を行い、その量子化
手順はモジュール３０５のレート制御により調整および
制御される。

【００５６】モジュール３０６でジグザグ走査または他
の種類の走査を行い、モジュール３０７で可変長符号化
（ＶＬＣ）を行ってビットストリームを生成する。

【００５７】予測されたフレームまたはブロックに対し
て、モジュール３０８で逆量子化を行い、引き続いてモ
ジュール３０９で逆ＤＣＴを実行する。

【００５８】逆量子化および逆ＤＣＴ実施後の再構成さ
れたフレームをモジュール３１１でフレームメモリに保
存する。モジュール３１２において、モジュール３１１
でフレームメモリに保存された、先に符号化されて局所
的に再構成されたフレーム内で動きベクトルを探索して
取得することにより、新しい入力フレーム／ブロックに
対して動き予測を実行する。モジュール３１２では動き
補償も実行して動きベクトルが指す参照ブロックと現符
号化ブロックとの間の残余を取得する。モジュール３０
２で残余ブロックが追加され、ＤＣＴを受けるべくモジ
ュール３０３へ送られる。

【００５９】図４は、実施の形態１によるエンコーダの
ブロック図を示す。図４に示すように、モジュール４０
１において入力ソースを多数の８×８ブロックにサンプ
リングする。モジュール４０３でＤＣＴを、内部符号化
ブロックのために本来の８×８ブロックに適用し、予測
ブロックのために参照ブロックと現予測ブロックの間の
残余の８×８ブロックに施す。モジュール４０４で各８
×８ＤＣＴ係数に対して量子化を行い、その量子化手順
はモジュール４０５のレート制御により調整および制御
される。

【００６０】モジュール４０６でジグザグ走査または他
の種類の走査を行い、モジュール４０７で可変長符号化
（ＶＬＣ）を行ってビットストリームを生成する。

【００６１】予測されたフレームまたはブロックに対し
て、モジュール４０８で逆量子化を行い、引き続いてモ
ジュール４０９で逆ＤＣＴを実行する。

【００６２】逆量子化および逆ＤＣＴ実施後の再構成さ
れたフレームをモジュール４１１でフレームメモリに保
存する。モジュール４１２において、モジュール４１１
でフレームメモリに保存された、先に符号化されて局所
的に再構成されたフレーム内で動きベクトルを探索して
取得することにより、新しい入力フレーム／ブロックに
対して動き予測を実行する。モジュール４１２では動き
補償も実行して動きベクトルが指す参照ブロックと現符
号化ブロックとの間の残余を取得する。モジュール４０
２で残余ブロックが追加され、ＤＣＴを受けるべくモジ
ュール４０３へ送られる。

【００６３】予測されたフレームについて、それが後続
フレームを予測するために参照される場合、モジュール
４０９の逆ＤＣＴの出力は、モジュール４１０に加算す
る必要があり、それにより局所的に再構成されたフレー
ム／ブロックを形成する。

【００６４】モジュール４１３においてエッジブロック
検出を行い、エッジブロック検出の情報を用いてモジュ
ール４０５で制御レートを制御し、モジュール４０４用
の適当な量子化手順を生成する。

【００６５】図５に示す本発明の別の実施の形態におい
て、エッジブロック検出が空間領域で行われる。

【００６６】図５に示すように、モジュール５０１にお
いて入力ソースを多数の８×８ブロックにサンプリング
する。モジュール５０３でＤＣＴを、内部符号化ブロッ
クのために本来の８×８ブロックに適用し、予測ブロッ
クのために参照ブロックと現予測ブロックの間の残余の
８×８ブロックに施す。モジュール５０４で各８×８Ｄ
ＣＴ係数に対して量子化を行い、その量子化手順はモジ
ュール５０５のレート制御により調整および制御され
る。

【００６７】モジュール５０６でジグザグ走査または他
の種類の走査を行い、モジュール５０７で可変長符号化
（ＶＬＣ）を行ってビットストリームを生成する。

【００６８】予測されたフレームまたはブロックに対し
て、モジュール５０８で逆量子化を行い、引き続いてモ
ジュール５０９で逆ＤＣＴを実行する。

【００６９】逆量子化および逆ＤＣＴ実施後の再構成さ
れたフレームをモジュール５１１でフレームメモリに保
存する。モジュール５１２において、モジュール５１１
でフレームメモリに保存された、先に符号化されて局所
的に再構成されたフレーム内で動きベクトルを探索して
取得することにより、新しい入力フレーム／ブロックに
対して動き予測を実行する。モジュール５１２では動き
補償も実行して動きベクトルが指す参照ブロックと現符
号化ブロックとの間の残余を取得する。モジュール５０
２で残余ブロックが追加され、ＤＣＴを受けるべくモジ
ュール５０３へ送られる。

【００７０】予測されたフレームについて、それが後続
フレームを予測するために参照される場合、モジュール
５０９の逆ＤＣＴの出力は、モジュール５１０に加算す
る必要があり、それにより局所的に再構成されたフレー
ム／ブロックを形成する。

【００７１】モジュール５１３においてエッジブロック
検出を行い、エッジブロック検出の情報を用いてモジュ
ール５０５で制御レートを制御し、モジュール５０４用
の適当な量子化手順を生成する。

【００７２】空間領域で行われるエッジブロック検出
は、８×８ブロックを４個または８個のより小さいブロ
ックに分割し、それらの８×８ブロックの平均値からの
偏差を所定の閾値と比較して調べることにより実現でき
る。

【００７３】図６は、図４の実施の形態１に基づくエッ
ジブロック検出モジュールの詳細動作を図１を示す。

【００７４】図６に示すように、モジュール６０１おい
て各８×８ブロックはＤＣＴに送られる。図２に示すＨ
Ａ領域内のＤＣＴ係数の絶対値の和Ｓｕｍ＿ｈをモジュ
ール６０２で計算する。図２に示すＶＡ領域内のＤＣＴ
係数の絶対値の和Ｓｕｍ＿ｖをモジュール６０３で計算
する。図２に示すＤＶ領域内のＤＣＴ係数の絶対値の和
Ｓｕｍ＿ｄをモジュール６０４で計算する。

【００７５】さらにモジュール６０５においてＳｕｍ＿
ｈとＳｕｍ＿ｖの差と平均を計算する。モジュール６０
６においてＳｕｍ＿ｄとＳｕｍ＿ｈ、およびＳｕｍ＿ｄ
とＳｕｍ＿ｖの差と平均を計算する。

【００７６】モジュール６０７において上記の差を平均
値により正規化し、結果を所定の閾値と比較する。結果
が閾値より大きく、同時にＳｕｍ＿ｈあるいはＳｕｍ＿
ｖが、所定値（ここでは１５０を用いた）と比較して非
常に大きい場合、モジュール６０８において水平エッジ
または垂直エッジであるか否かを判定する。

【００７７】対角エッジ検出も同様である。モジュール
６０９で差を正規化し、結果を所定の閾値と比較する。
結果の一方が閾値より大きく、同時にＳｕｍ＿ｄが所定
値（ここでは１５０を用いた）と比較して非常に大きい
場合、モジュール６１０において対角エッジであるか否
かを判定する。

【００７８】図７は、図４の実施の形態１に基づくエッ
ジブロック検出モジュールの詳細動作を示す。この方法
により計算量を節約することができる。第一ステップで
既にあるブロックが水平または垂直エッジであると識別
された場合、対角エッジブロック検出に関する計算を行
う必要がない。

【００７９】図７に示すように、モジュール７０１おい
て各８×８ブロックはＤＣＴに送られる。図２に示すＨ
Ａ領域内のＤＣＴ係数の絶対値の和Ｓｕｍ＿ｈをモジュ
ール７０２で計算する。図２に示すＶＡ領域内のＤＣＴ
係数の絶対値の和Ｓｕｍ＿ｖをモジュール７０３で計算
する。

【００８０】さらにモジュール７０４においてＳｕｍ＿
ｈとＳｕｍ＿ｖの差と平均を計算する。モジュール７０
５においてその差を平均値により正規化し、結果を所定
の閾値と比較する。

【００８１】結果が閾値より大きく、同時にＳｕｍ＿ｈ
あるいはＳｕｍ＿ｖが、所定値（ここでは１５０を用い
た）と比較して非常に大きい場合、モジュール７０６に
おいて水平エッジ／垂直エッジであるか否かを判定す
る。モジュール７０５によりそれが水平／垂直エッジブ
ロックのいずれでもないと判定された場合、図２に示す
ＤＶ領域内のＤＣＴ係数の絶対値の和Ｓｕｍ＿ｄを計算
する。

【００８２】モジュール６０６においてＳｕｍ＿ｄとＳ
ｕｍ＿ｈ、およびＳｕｍ＿ｄとＳｕｍ＿ｖの差と平均を
計算する。

【００８３】モジュール７０９で差を正規化し、結果を
所定の閾値と比較する。結果の一方が閾値より大きく、
同時にＳｕｍ＿ｄが所定値（ここでは１５０を用いた）
と比較して非常に大きい場合、モジュール７１０におい
て対角エッジであるか否かを判定する。

【００８４】図８は、定常ビットレート（ＣＢＲ）のケ
ースと可変ビットレート（ＶＢＲ）の両方のケースで使
用できる従来のレート制御による量子化手順を調整する
ためのブロック図を示す。

【００８５】モジュール８０１においてＤＣＴを行い、
各８×８ブロックに対するＤＣＴ係数がモジュール８０
３へ量子化のために送られる。エッジまたは非エッジブ
ロックであるか否かにかかわらず、モジュール８０２に
おいて量子化手順Ｑａを決定し、レート制御から生成す
る。レート制御においてＢで示す値は、現フレームに割
り当てられるビットの総数である。現フレームのビット
数は、定常ビットレート（ＣＢＲ）のケースと可変ビッ
トレート（ＶＢＲ）であってもよい。

【００８６】Ｂの値はビットレート、フレームレート、
ＧＯＰ（グループオブピクチャ）サイズ、および前のフ
レームで使われた実際のビットの影響を受ける。ＣＢＲ
の場合、割り当てられた数より多くのビットを現フレー
ムで使ったのであればいくつかの後続フレームに割り当
てられるビット数が減らされるが、ＶＢＲの場合、その
ような制限はない。

【００８７】モジュール８０４において走査と可変長符
号化（ＶＬＣ）を行う。

【００８８】図９は、ＣＢＲの場合におけるエッジ指向
のレート制御による量子化手順の調整１を示す。図９に
示すように、モジュール９０１においてＤＣＴを、また
モジュール９０２においてエッジブロック検出を行う。
エッジ／非エッジブロックの両方についてモジュール９
０３において量子化手順Ｑａをレート制御から生成し、
レート制御においてエッジ情報を用いて、エッジブロッ
クに対して量子化手順ＱａをＱｂに変換する。ここで、
エッジブロック符号化における基本ルールはエッジブロ
ックに対してより多くのビットを用いることであり、そ
れにより量子化手順をＱａからＱｂへ減らし、Ｑａ＞Ｑ
ｂとすべきである。

【００８９】非エッジブロックに対してはモジュール９
０４でＱａに基づく量子化が行われ、エッジブロックに
対してはモジュール９０５でＱｂに基づく量子化が行わ
れる。

【００９０】モジュール９０６において走査と可変長符
号化（ＶＬＣ）を行う。ここで、モジュール９０３にお
いてＢはレート制御に用いられ、現フレームに割り当て
られるビットの総数である。この場合、いくつかの後続
フレームに対するＢの値は小さくなる。その理由は、Ｑ
ｂ＜Ｑａであるために現フレームでエッジブロック符号
化に余分のビットが使われるためである。言い換えれ
ば、いくつかの後続フレームの画質は、後続フレームに
割り当てるビットの数が予想より少ないために影響を受
けるかもしれない。

【００９１】図１０は、ＣＢＲの場合におけるエッジ指
向の修正レート制御による量子化手順の調整２を示す。
基本概念は、非エッジブロック向けのビットを節約し
て、節約したのと同じ数のビットをエッジブロックのた
めに使うことである。

【００９２】修正レート制御において、現フレームの従
来の目標ビットはビットレート、フレームレート、ＧＯ
Ｐサイズ、および前のフレームで使われた実際のビット
に基づいて計算され、その結果得られた目標ビットはあ
る割合で減らされる。

【００９３】図１０に示すように、モジュール１００１
においてＤＣＴを、またモジュール１００２においてエ
ッジブロック検出を行う。非エッジブロックについてモ
ジュール１００３において本来のＱａより大きい量子化
手順Ｑａ’をレート制御から生成し、レート制御におい
てエッジ情報を用いて、エッジブロックに対して量子化
手順Ｑａ’をＱｂに変換する。ここで、エッジブロック
符号化における基本ルールはエッジブロックに対してよ
り多くのビットを、また非エッジブロックに対してより
少ないビットを用いることであり、それにより量子化手
順をＱａ’からＱｂへ減らし、Ｑａ’ ＞ＱｂかつＱａ
＞Ｑａ’ ＞Ｑｂとすべきである。

【００９４】非エッジブロックに対してはモジュール１
００４でＱａ’に基づく量子化が行われ、エッジブロッ
クに対してはモジュール１００５でＱｂに基づく量子化
が行われる。

【００９５】モジュール１００６において走査と可変長
符号化（ＶＬＣ）を行う。ここで、モジュール１００３
においてＢはレート制御に用いられ、現フレームに割り
当てられるビットの総数である。この場合、いくつかの
後続フレームに対するＢの値は予測値と同じに保たれ
る。その理由は、Ｑｂ＜Ｑａ’＜Ｑａであるために、現
フレームでエッジブロック符号化に、非エッジブロック
の符号化で節約された余分のビットが使われるためであ
る。言い換えれば、いくつかの後続フレームの画質は、
後続フレームに割り当てるビットの数が予想より少なく
ても影響を受けないであろう。

【００９６】図１１は、可変ビットレート（ＶＢＲ）符
号化の場合におけるエッジ指向の修正レート制御による
量子化手順の調整を示す。ＶＢＲの場合、あるフレーム
に対してはるかに多くのビットを用い、他のフレームに
対してはるかに少ないビットで済ますことができる。

【００９７】図１１に示すように、モジュール１１０１
においてＤＣＴを、またモジュール１１０２においてエ
ッジブロック検出を行う。非エッジブロックについてモ
ジュール１１０３で量子化手順Ｑａをレート制御から生
成し、レート制御においてエッジ情報を用いて、エッジ
ブロックに対して量子化手順ＱａをＱｂに変換する。こ
こで、エッジブロック符号化における基本ルールはエッ
ジブロックに対してより多くのビットを用いることであ
り、それにより量子化手順をＱａからＱｂへ下げて、Ｑ
ａ＞Ｑｂとすべきである。

【００９８】非エッジブロックに対してはモジュール１
１０４でＱａに基づく量子化が行われ、エッジブロック
に対してはモジュール１１０５でＱｂに基づく量子化が
行われる。

【００９９】モジュール１１０６において走査と可変長
符号化（ＶＬＣ）を行う。ここで、モジュール１１０３
においてＢはレート制御に用いられ、現フレームに割り
当てられるビットの総数である。この場合、いくつかの
後続フレームに対するＢの値は予測値と同じに保たれ
る。その理由は、ＶＢＲの場合、現フレームはＢ＋ΔＢ
を用いると仮定されるためである。言い換えれば、ＶＢ
Ｒの場合は異なるコンテンツに対してビット割り当てと
ビット消費が柔軟に行えるため、いくつかの後続フレー
ムの画質は影響を受けないであろう。

【０１００】図１２は、ブロック検出は内部符号化され
たフレーム／ブロックにのみ適用されることを示す。そ
の理由は、図４に示すように予測ブロックのＤＣＴ係数
は参照ブロックと現区画の間の差である残余から得られ
るため、周波数領域で実行されるブロックエッジ検出は
予測ブロックのエッジ情報を正確に反映しないためであ
る。エッジブロックに対しても動き予測および動き補償
が正確に行われると仮定すれば、各ブロックの残余値は
非常に小さく、そのＤＣＴ係数はすべて低周波数帯域に
中心が置かれるが、これは内部符号化されたフレーム／
ブロックにおける状態とは異なる。

【０１０１】しかし、特に動作中の領域において、動き
予測および動き補償が常に正確であるとは限らない。そ
の場合、エッジブロックは高周波数帯域で大きいＤＣＴ
係数をも生成するが、これは内部符号化されたフレーム
／ブロックでの状況と同じである。

【０１０２】図１２は、同じ方法を内部符号化されたフ
レーム／ブロックのみに適用してより優れた画質を提供
することが可能な一つのアプローチを示す。

【０１０３】

【発明の効果】本発明はエッジの周囲に現われるリンギ
ング歪みをエンコーダ側で防ぐ方法を提供する。本方法
を用いることにより、ビデオ符号化の品質を、ＭＰＥＧ
１、ＭＰＥＧ２、Ｈ．２６１、およびＨ．２６３等、従
来のビデオ符号化標準よりも大幅に向上させることがで
きる。

【０１０４】本方法を用いた可変ビットレート符号化の
場合、余分なビットを最も重要な場所、すなわちエッジ
ブロックに効率的に割り当てて、最小ビット数で画質を
最大にすることができる。

【０１０５】本方法を用いることにより、定常ビットレ
ート符号化の場合、エッジブロックに対して多くのビッ
トを用い、かつ非エッジブロックに対して少ないビット
で済ませて、同じ個数の目標ビットでより優れた画質を
実現することができる。

【０１０６】本方法を適用した後で被写体の品質はエッ
ジの周囲で大幅に向上し、かつ、圧縮画像の画質を定量
的に評価するための指標であるＰＳＮＲ（Peak Signal
to Noise Ratioをさほど変化させることなくエッジ周囲
のリンギング歪みが除去されて消滅する。

【０１０７】本方法は、上述のビデオ符号化標準におい
てリンギング歪みの除去が望まれる高品質の写真符号
化、およびそれらの各種用途に好適である。

【図面の簡単な説明】

【図１】（ａ）は、エッジの周囲に生じたリンギング
歪みの問題を示す図である。（ｂ）は、ＤＣＴに基づく
そのようなリンギング歪みの原因を説明した例を示す図
である。

【図２】３種類のエッジとそれらに対する大きいＤＣ
Ｔ係数の可能な分布を示す図である。

【図３】従来技術によるエンコーダのブロック図であ
る。

【図４】実施の形態１に基づくエンコーダのブロック
図である。

【図５】実施の形態２に基づくエンコーダのブロック
図である。

【図６】エッジブロック検出モジュールの動作１を示
す図である。

【図７】エッジブロック検出モジュールの動作２を示
す図である。

【図８】定常ビットレート（ＣＢＲ）および可変ビッ
トレート（ＶＢＲ）の両方のケースで使用できる従来の
レート制御による量子化手順を調整するためのブロック
図を示す。

【図９】定常ビットレート（ＣＢＲ）の場合における
エッジ指向のレート制御によるに量子化手順の調整方法
１を示す図である。

【図１０】定常ビットレート（ＣＢＲ）の場合におけ
るエッジ指向のレート制御によるに量子化手順の調整方
法２を示す図である。

【図１１】可変ビットレート（ＶＢＲ）の場合におけ
るエッジ指向のレート制御によるに量子化手順の調整方
法を示す図である。

【図１２】内部符号化されたフレーム／ブロックにの
み用いられるエッジブロック検出のためのブロックを示
す図である。

【符号の説明】

４０１ブロックサンプリングモジュール４０２残余ブロック追加モジュール４０３ＤＣＴモジュール４０４量子化モジュール４０５レート制御モジュール４０６ジグザグ走査モジュール４０７ＶＬＣモジュール４０８逆量子化モジュール４０９逆ＤＣＴモジュール４１０逆ＤＣＴ追加モジュール４１１フレームメモリ４１２動き予測および動き補償モジュール４１３エッジブロック検出モジュール

───────────────────────────────────────────────────── フロントページの続き (72)発明者テックウィー・フーシンガポール534415シンガポール、タイ・セン・アベニュー、ブロック1022、04− 3530番、タイ・セン・インダストリアル・エステイト、パナソニック・シンガポール研究所株式会社内Ｆターム(参考） 5C059 KK03 MA05 MA23 MC11 MC38 ME01 SS02 SS09 SS12 TA45 TB08 TC00 TC04 TC18 TC37 TC38 TD03 TD05 TD06 TD09 TD12 UA02 5J064 AA01 BA09 BA16 BB06 BC01 BC08 BC16 BC21 BD03

Claims

【特許請求の範囲】

【請求項１】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータの複数のブロックを生成するステップと、前記サンプリングされたブロックに離散コサイン変換を
適用してＤＣＴ係数を生成するステップと、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けするステッ
プと、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別するステップと、現ブロックに対して従来のレート制御により第１の量子
化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項２】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータの複数のブロックを生成するステップと、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータの複数のブロックを生成するステップと、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成するステッ
プと、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けするステッ
プと、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別するステップと、現ブロックに対して従来のレート制御により第１の量子
化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数に逆量子化を施すステップ
と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施すステップと、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存するステップと、前記保存されたデータを参照として動き予測および補償
を行うステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項３】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータの複数のブロックを生成するステップと、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成するステッ
プと、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けするステッ
プと、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別するステップと、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項４】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータからなる複数のブロックを生成するステップ
と、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータからなる複数のブロックを生成するステップ
と、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成するステッ
プと、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けするステッ
プと、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別するステップと、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数に逆量子化を施すステップ
と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施すステップと、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存するステップと、前記保存されたデータを参照として動き予測および補償
を行うステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項５】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータからなる複数のブロックを生成するステップ
と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別するステップと、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成するステッ
プと、現ブロックに対して従来のレート制御により第１の量子
化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項６】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータからなる複数のブロックを生成するステップ
と、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータからなる複数のブロックを生成するステップ
と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別するステップと、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成するステッ
プと、現ブロックに対して従来のレート制御により第１の量子
化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数に逆量子化を施すステップ
と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施すステップと、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存するステップと、前記保存されたデータを参照として動き予測および補償
を行うステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項７】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータからなる複数のブロックを生成するステップ
と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別するステップと、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成するステッ
プと、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項８】ビデオ符号化におけるエッジブロックを
検出して利用する方法であって、入力ビデオ信号の現フレームをサンプリングしてピクセ
ルデータからなる複数のブロックを生成するステップ
と、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータからなる複数のブロックを生成するステップ
と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別するステップと、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成するステッ
プと、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成するステップと、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整するステップと、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化するステップと、非エッジブロックに対して第２の量子化手順を用いて前
記ＤＣＴ係数を量子化するステップと、前記量子化されたＤＣＴ係数に逆量子化を施すステップ
と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施すステップと、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存するステップと、前記保存されたデータを参照として動き予測および補償
を行うステップと、前記量子化されたＤＣＴ係数を走査するステップと、前記走査された量子化ＤＣＴ係数を可変長符号化するス
テップとを有することを特徴とする方法。
【請求項９】請求項１〜４に記載のビデオ符号化にお
けるエッジブロックを検出して利用する方法において、
前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか、あるいは非エッジブ
ロックであるかを識別するステップは、定義された前記３つの領域のうち水平領域におけるＤＣ
Ｔ係数の絶対値の和を水平エネルギーとして計算するス
テップと、定義された前記３つの領域のうち垂直領域におけるＤＣ
Ｔ係数の絶対値の和を垂直エネルギーとして計算するス
テップと、定義された前記３つの領域のうち対角領域におけるＤＣ
Ｔ係数の絶対値の和を対角エネルギーとして計算するス
テップと、前記水平エネルギーと垂直エネルギーの差と平均を計算
するステップと、前記差を、前記平均により所定の閾値と比べて正規化す
るステップと、前記正規化された結果が前記所定の閾値より大きい場合
に前記水平エネルギーまたは前記垂直エネルギーを所定
の値と比較するステップと、前記比較の後で水平または垂直エッジブロックであるか
非エッジブロックであるかを判定するステップと、前記水平エネルギーと垂直エネルギーの差と平均、およ
び前記垂直エネルギーと対角エネルギーの差と平均を計
算するステップと、前記差を、前記平均により所定の閾値と比べて正規化す
るステップと、前記のいずれかの正規化された結果が前記所定の閾値よ
り大きい場合に前記対角エネルギーを所定の値と比較す
るステップと、前記比較の後で水平または垂直エッジブロックであるか
非エッジブロックであるかを判定するステップとを有す
ることを特徴とする方法。
【請求項１０】請求項１〜４に記載のビデオ符号化に
おけるエッジブロックを検出して利用する方法におい
て、前記グループ分けされたＤＣＴ係数に基づいて前記
現ブロックがエッジブロックであるか非エッジブロック
であるかを識別するステップは、定義された前記３つの領域のうち水平領域におけるＤＣ
Ｔ係数の絶対値の和を水平エネルギーとして計算するス
テップと、定義された前記３つの領域のうち垂直領域におけるＤＣ
Ｔ係数の絶対値の和を垂直エネルギーとして計算するス
テップと、前記水平エネルギーと垂直エネルギーの差と平均を計算
するステップと、前記差を、前記平均により所定の閾値と比べて正規化す
るステップと、前記正規化された結果が前記所定の閾値より大きい場合
に前記水平エネルギーまたは前記垂直エネルギーを所定
の値と比較するステップと、前記比較の後で水平または垂直エッジブロックであるか
非エッジブロックであるかを判定するステップと、前記判定に基づいて非水平または垂直エッジブロックで
ない場合に、定義された対角領域におけるＤＣＴ係数の
絶対値の和を対角エネルギーとして計算するステップ
と、前記水平エネルギーと垂直エネルギーの差と平均、およ
び前記垂直エネルギーと対角エネルギーの差と平均をさ
らに計算するステップと、前記差を、前記平均によりそれぞれ所定の閾値と比べて
正規化するステップと、前記のいずれかの正規化された結果が前記所定の閾値よ
り大きい場合に前記対角エネルギーを所定の値と比較す
るステップと、前記比較の後で水平または垂直エッジブロックであるか
非エッジブロックであるかを判定するステップとを有す
ることを特徴とする方法。
【請求項１１】請求項３、４、７および８に記載のビ
デオ符号化におけるエッジブロックを検出して利用する
方法において、現ブロックの調整されたレート制御によ
り第１の量子化手順を生成するステップは、ビットレート、フレームレート、１個のピクチャグルー
プ（ＧＯＰ）における先のフレームで実際に用いられた
ビット、およびＧＯＰサイズに基づいて現フレームの目
標ビットを計算するステップと、前記目標ビットをあるパーセンテージ減らすために重み
付けするステップと、前記重み付けられた目標ビットを用いて第１の量子化手
順を計算するステップと、前記新規目標ビットに基づいて第１の量子化手順を生成
するステップとを有することを特徴とする方法。
【請求項１２】請求項５〜８に記載のビデオ符号化に
おけるエッジブロックを検出して利用する方法におい
て、前記ピクセルデータの各ブロックがエッジであるか
非エッジであるかを識別する方法は、前記ピクセルデータのサンプリングされたブロックの平
均値を計算するステップと、前記ピクセルデータのサンプリングされたブロックを多
数のより小さいブロックに分割するステップと、前記ピクセルデータのサンプリングされたブロックの各
々の前記平均値からの偏差を計算するステップと、所定の閾値と比較して前記偏差の少なくとも１個が前記
平均よりはるかに大きい場合にエッジブロックを決定す
るステップとを含むことを特徴とする方法。
【請求項１３】前記現フレームを定常ビットレート
（ＣＢＲ）または可変長ビットレート（ＶＢＲ）で符号
化するステップを含む、請求項１〜１２に記載のビデオ
符号化におけるエッジブロックを検出して利用する方
法。
【請求項１４】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータの複数のブロックを生成する
サンプリング部と、サンプリング部により前記サンプリングされたブロック
に離散コサイン変換を適用してＤＣＴ係数を生成する変
換部と、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けする分類部
と、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別する識別部と、現ブロックに対して従来のレート制御により第１の量子
化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。
【請求項１５】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータの複数のブロックを生成する
サンプリング部と、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータの複数のブロックを生成するブロック生成部
と、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成する変換部
と、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けする分類部
と、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別する識別部と、現ブロックに対して従来のレート制御により第１の量子
化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数に逆量子化を施す逆量子化
部と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施す逆変換部と、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存する保存部と、前記保存されたデータを参照として動き予測および補償
を行う演算部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。
【請求項１６】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータの複数のブロックを生成する
サンプリング部と、サンプリング部により前記サンプリングされたブロック
に離散コサイン変換を適用してＤＣＴ係数を生成する変
換部と、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けする分類部
と、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別する識別部と、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。
【請求項１７】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータの複数のブロックを生成する
サンプリング部と、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータの複数のブロックを生成するブロック生成部
と、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成する変換部
と、前記サンプリングされたブロックの各々について前記Ｄ
ＣＴ係数を３つの主要な領域にグループ分けする分類部
と、前記グループ分けされたＤＣＴ係数に基づいて前記現ブ
ロックがエッジブロックであるか非エッジブロックであ
るかを識別する識別部と、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数に逆量子化を施す逆量子化
部と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施す逆変換部と、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存する保存部と、前記保存されたデータを参照として動き予測および補償
を行う演算部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。
【請求項１８】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータからなる複数のブロックを生
成するサンプリング部と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別する識別部と、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成する変換部
と、現ブロックに対して従来のレート制御により第１の量子
化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。
【請求項１９】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータからなる複数のブロックを生
成するサンプリング部と、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータからなる複数のブロックを生成するブロック
生成部と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別する識別部と、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成する変換部
と、現ブロックに対して従来のレート制御により第１の量子
化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数に逆量子化を施す逆量子化
部と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施す逆変換部と、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存する保存部と、前記保存されたデータを参照として動き予測および補償
を行う演算部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。
【請求項２０】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータからなる複数のブロックを生
成するサンプリング部と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別する識別部と、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成する変換部
と、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。
【請求項２１】入力ビデオ信号の現フレームをサンプ
リングしてピクセルデータからなる複数のブロックを生
成するサンプリング部と、入力ビデオ信号の参照フレームをサンプリングしてピク
セルデータからなる複数のブロックを生成するブロック
生成部と、前記ピクセルデータの各ブロックがエッジブロックであ
るか非エッジブロックであるかを識別する識別部と、前記サンプリングされたピクセルデータのブロックに離
散コサイン変換を適用してＤＣＴ係数を生成する変換部
と、現ブロックに対して調整されたレート制御により第１の
量子化手順を生成する量子化手順生成部と、前記エッジ情報を用いてエッジブロックに対して前記第
１の量子化手順を調整する調整部と、エッジブロックに対して前記調整された第１の量子化手
順を用いて前記ＤＣＴ係数を量子化し、非エッジブロッ
クに対して第２の量子化手順を用いて前記ＤＣＴ係数を
量子化する量子化部と、前記量子化されたＤＣＴ係数に逆量子化を施す逆量子化
部と、前記逆量子化されたＤＣＴ係数に逆離散コサイン変換を
施す逆変換部と、前記逆離散コサイン変換の結果を再構成してフレームメ
モリに保存する保存部と、前記保存されたデータを参照として動き予測および補償
を行う演算部と、前記量子化されたＤＣＴ係数を走査する走査部と、前記走査された量子化ＤＣＴ係数を可変長符号化する符
号化部とを備えた、エッジブロックを検出して利用する
ビデオ符号化装置。