JP4611535B2 - 符号化された画像を評価するための処理、装置及び、使用 - Google Patents
符号化された画像を評価するための処理、装置及び、使用 Download PDFInfo
- Publication number
- JP4611535B2 JP4611535B2 JP2000604372A JP2000604372A JP4611535B2 JP 4611535 B2 JP4611535 B2 JP 4611535B2 JP 2000604372 A JP2000604372 A JP 2000604372A JP 2000604372 A JP2000604372 A JP 2000604372A JP 4611535 B2 JP4611535 B2 JP 4611535B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion
- filter
- signal representing
- constructing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000000034 method Methods 0.000 title claims description 73
- 230000008569 process Effects 0.000 title description 20
- 230000033001 locomotion Effects 0.000 claims description 69
- 239000011159 matrix material Substances 0.000 claims description 48
- 238000001914 filtration Methods 0.000 claims description 38
- 239000013598 vector Substances 0.000 claims description 31
- 238000004364 calculation method Methods 0.000 claims description 23
- 230000000694 effects Effects 0.000 claims description 22
- 238000012545 processing Methods 0.000 claims description 20
- 238000012937 correction Methods 0.000 claims description 19
- 230000006870 function Effects 0.000 claims description 14
- 238000007781 pre-processing Methods 0.000 claims description 11
- 230000008447 perception Effects 0.000 claims description 8
- 238000013139 quantization Methods 0.000 claims description 4
- 230000008859 change Effects 0.000 claims description 3
- 238000000354 decomposition reaction Methods 0.000 claims description 2
- 230000011218 segmentation Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 5
- 230000004438 eyesight Effects 0.000 description 3
- 230000000873 masking effect Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 102000016550 Complement Factor H Human genes 0.000 description 2
- 108010053085 Complement Factor H Proteins 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 235000001291 Aechmea magdalenae Nutrition 0.000 description 1
- 244000179819 Aechmea magdalenae Species 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000012854 evaluation process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000000265 homogenisation Methods 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/537—Motion estimation other than block-based
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/115—Selection of the code volume for a coding unit prior to coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/154—Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
- Picture Signal Circuits (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Television Systems (AREA)
Description
本発明は、符号化された画像の品質を評価するための処理及び装置と、そのような処理及び装置の使用に関連する。
【0002】
ディジタルビデオシーケンスを符号化するシステムでは、信号雑音比を使用して、元の画像と比較することによる手順により、画像出力の品質を評価することを行うことが知られている。
【0003】
この比は、一般的にはPSNR(ピーク信号対雑音比)と呼ばれ、そして、最終画像の画素とオリジナル画像の画素の正方形の差を合計することにより得られる。
【0004】
しかしながら、この方法は、人間の視覚(HVS:人間の視覚システム)の心理視覚特性を考慮しない。確かに、人間の目は特定の空間周波数に更に敏感でありそして、物体の細部のその知覚は、その相対的な動きと明度とコントラストの現象に強く関連している。
【0005】
従って、従来の品質評価手順に従って、良好な符号化結果と良好な画像品質を有すると見なされるシーケンスは、このような方法で、所定の心理知覚特性が与えられたオブザーバに知覚されない。
【0006】
従って、本発明の目的は、オブザーバが有する知覚をできる限り近似することを可能とする画像の品質の評価を可能とすることである。
【0007】
人間のファクタ(HVS)の影響は、復号された画像の空間周波数の知覚内でMPEG2形式の従来の符号化器内で、8x8画像ブロックの高周波数に関する重みマトリクスを使用することにより、部分的には考慮されているが、しかし、動く物体の詳細の知覚に関しては全く考慮されていない。
【0008】
2つの画像間の格差を測定する研究の大部分は、本質的には、動きを考慮しない欠陥の静的な分析又は、空間周波数の分析に基づいている。
【0009】
更に、幾つかの従来の研究は、時間的な観点を考慮するが、しかし、動き自体は考慮せず、現在のマクロブロックと先行する画像の同じ部分の間の差(ひずみ)を使用する。
【0010】
これらの研究は画像内の動きの問題と共に人間の視覚の影響を考慮しない。
【0011】
本発明の目的は従来技術の問題を緩和することである。
【0012】
この目的は、符号化された画像の品質を評価する処理であって、
a)処理された信号を得るために画像を表す信号を処理するステップと、
b)ソースシーケンスに基づいて動画のフィールドを表す信号を、符号化された画像を表す信号に基づいて、構成するステップと、
c)異なる速度ベクトルを有する画素を決定することを可能とする動きのフィールドを構成するステップで推定された速度ベクトルに関して定義されたアドレスで、動きのフィールドのセグメント化を表す信号を構成し、且つ、動きの異なるフィールドを有する各領域を表す画像画素を蓄積するステップと、
d)その領域の推定された速度の関数として適用される、心理視覚人間フィルタを、決定し又は計算するステップと、
e)処理された信号をフィルタするステップと、
f)フィルタするステップ後に得られる画像を表す信号と、フィルタするステップ後に得られる復号された画像を表す信号の間の格差のマップを構成するステップとを有する処理により達成される。
【0013】
他の特徴に従って、画像の品質を評価する処理は、ステップの各々を、ソース画像と復号された画像に適用することよりなるステップを有する。
【0014】
他の特徴に従って、符号化された画像の品質を評価する処理は、動画像の知覚に関する速度と空間周波数の相対的な影響を考慮するために、フィルタするステップに先行し且つ推定された速度と考慮される周波数帯を考慮する曲線から得られる係数による重み付けよりなる、画像の周波数分解(FFT、サブバンド等)のステップを有する。
【0015】
他の特徴に従って、心理視覚フィルタステップは、一方では、関係している画素の周波数を表す局部的な影響及び、他方では、異なる速度の各領域の画像に基づいてピラミッドを構成することにより得られる複数の解像度のピラミッド内に画素が属するラプラスピラミッドのレベルに対応する推定された速度と周波数帯を考慮して、フィルタ曲線から得られるフィルタ係数による重み付け後に、処理されたソース画像のラプラスピラミッドと処理され復号された画像のラプラスピラミッドとの間のピラミッド間差を表すマトリクスに適用される。
【0016】
他の特徴に従って、心理視覚フィルタ曲線は、データベースの形式に配置され且つシステム内に蓄積されタ曲線の連続とおそらくこれらの曲線に基づく補間から構成されるか又は、各曲線を計算することを可能とする計算手段により実行された分析的表現により得られる。
【0017】
他の特徴に従って、格差のマップを構成するステップは、先行するステップ内で得られたフィルタされた複数の解像度のピラミッドを再構成することにより行われる。
【0018】
他の特徴に従って、画像を処理するステップは、ソース及び復号された画像をnレベルのラプラスピラミッドに分解するステップと、ピラミッド間差を構成するステップを有する。
【0019】
他の特徴に従って、動きの速度又は局部値は、フィルタの可能な構成により得られ、構成されたフィルタの適用又は、メジアンフィルタの適用が続く。
【0020】
他の特徴に従って、処理は、ガンマ補正とWeberの法則による補正を実行することにより、画像を予め補正するステップを有する。
【0021】
他の特徴に従って、ガンマ補正は、以下の公式
【0022】
【数6】
を実行する装置によって行われ、ここで、yは輝度、Vは輝度電圧、Eは輝度分析された画像の輝度、γは白黒画像管に対して約2.2の指数、そして、γaはカラーテレビジョンに対して共通の0.45の値を有する。
【0023】
他の特徴に従って、フィルタリングは、フィルタのデータベースに基づいて推定された速度に対応する心理視覚フィルタと、その速度が推定された領域に最も近い領域に対応する2つのフィルタの間の補間を構成することにより得られる。
【0024】
他の特徴に従って、考慮される画素piの相対的な局部的影響(In)は、ソースピラミッドと考慮される画素の同様なレベルの復号されたピラミッドの間のピラミッド間レベル対レベル差のq乗を表す値Enを計算することにより得られる。
【0025】
他の特徴に従って、Inの計算は、以下の公式、
【0026】
【数7】
を使用して計算され、ここで、En=(Diffn(pij))q,
Ek>Sの場合には、m(Ek)=Ek、
且つEk<Sの場合には、m(Ek)=S、であり
例えば、S=0.5%(最大可能なEkの値)である。
【0027】
他の特徴に従って、フィルタリングは、他よりも決定された方向に、画像の方向的フィルタリングを有する。
【0028】
他の特徴に従って、ガンマ補正は、以下の式、
【0029】
【数8】
を実行する計算装置により行われ、eは画素のグリッドレベル値、emaxは符号化が8ビットで行われる場合には最大値例256、Lmaxは、emaxcd/m2に対応する強度である。
【0030】
他の特徴に従って、Weberの法則は以下の関数
【0031】
【数9】
を実行する計算装置により実行される。
【0032】
他の特徴に従って、心理聴覚フィルタの計算は、以下の公式、
【0033】
【数10】
を実行する装置により得られ、α=2πf,f=空間周波数,v=速度である。
【0034】
本発明の他の目的は、本発明に従った処理を使用することである。
【0035】
この他の目的は、符号化中に符号化装置により使用されるパラメータの1つに関する処理を実行する計算装置により計算された心理視覚格差の関数として、動的な反作用による、符号化装置内での、本発明の処理の使用により達成される。
【0036】
他の特徴に従って、計算された格差は、所望のしきい値を超えるまで、符号化装置の符号化パラメータを変更するために、しきい値と比較される。
【0037】
他の特徴に従って、符号化パラメータの1つは、量子化間隔又は、画像のサイズ又は、グループオブピクチャGOPの形式の何れかである。
【0038】
他の特徴に従って、本発明の処理は、符号化装置の符号化パラメータに関して動作するために、計算された格差の均一性の分析で使用される。
【0039】
他の特徴に従って、本発明の処理は、一定の望ましい格差の関数として、その符号化が物体に向けられている画像の異なる物体の符号化パラメータを変更するのに使用される。
【0040】
他の特徴に従って、本発明の処理は、割り当てられたビットレートの動的な再配置を実行するのに使用される。
【0041】
本発明の最後の目的は、この処理を実行する装置を提案することである。
【0042】
この目的は、評価する装置が、
−処理されたソース画像信号と処理され復号された画像信号を得るために、ソース画像(10a)と復号された画像(10b)をあらわす信号を処理する手段(1a,1b)と、
−ソースと復号されたシーケンスの画像の各々に基づいて動きのフィールドの推定を表す信号を、各々の画像を表す信号に基づいて構成する手段(2a,2b)と、
−異なる速度ベクトルを有するソースと復号された画像の各々に対してそれらを決定することを可能とする動きのフィールドを構成するステップで推定された速度ベクトルに関して定義されたアドレスで、動きのフィールドのセグメント化を表す信号を構成し、且つ、動きの異なるフィールドを有する各領域Riを表す画像画素を蓄積する手段(3a,3b)と、
−その領域の推定された速度の関数として適用される、心理視覚人間フィルタを、決定し又は計算する手段(4,5)と、
−処理されたソース画像と処理され復号された画像の各々に適用されるフィルタする手段(6a,6b)と、
−フィルタするステップ後に得られる処理されたソース画像を表す信号と、フィルタするステップ後に得られる処理された復号された画像を表す信号の間の格差のマップを構成する手段(7)とを有することにより達成される。
【0043】
他の特徴に従って、心理視覚フィルタ手段は、一方では、関係している画素の周波数を表す局部的な影響及び、他方では、蓄積され且つ計算されたフィルタ曲線から得られるフィルタ係数による重み付けと、異なる速度の各領域の画像に基づいてこの複数の解像度ピラミッドを構成することにより得られる複数の解像度のピラミッド内に画素が属するラプラスピラミッドのレベルに対応する推定された速度と周波数帯を考慮した後に、処理されたソース画像のラプラスピラミッドと処理され復号された画像のラプラスピラミッドとの間の計算手段により計算されたピラミッド間差を表すマトリクスに適用される。
【0044】
他の特徴に従って、格差のマップを構成する手段は、フィルタされた複数の解像度のピラミッドを再構成することを行う。
【0045】
他の特徴に従って、処理する手段、構成する手段、決定する手段、構成する手段、フィルタする手段は、種々の手段を実現することを可能とするプログラムを含むために且つ計算のためにそして格差のマップを得るために必要なデータベースと中間情報を含むために十分なメモリに関連する少なくとも1つのマイクロプロセッサよりなる。
【0046】
本発明の他の特徴と優位点は、添付の図面を参照して、以下の説明を読めば更に明らかとなろう。
【0047】
本発明の第1の変形例を、符号化手順の出力で画像の品質を評価することを可能とする装置により行われるステップが、一方では、ソース画像(10a)からの信号を処理し、他方では、復号された画像(10b)を示す信号を処理する種々の装置を通して得られる、図1aを用いて説明する。各画像は、図1cに示されているように、マトリクスに配置された複数の画素pijにより表され、そのサイズは画像に対して望まれる定義に依存する。所定の画素pijに対して、特徴的な細部のサイズが対応し、それは、一方ではサイクルでの周波数によりそして、他方では秒当りの度での速度により、画像内の画素の数を定義するマトリクスのサイズの関数として表現される。第1の変形実施例に従った処理のステップの各々は、ソース画像と復号された画像の両方に与えられる。復号された画像の表現は、例えば、MPEGのような標準に従って伝送することを可能とする符号化復号装置の出力で得られるどのようなビデオ画像をも意味すると理解されるべきである。更によりよく理解するために、読者は、第1の実施例に従って実行される処理の1から7の番号が付された種々のステップを表す、付録1を参照できる。
【0048】
ソース画像(10a)と復号された画像(10b)を前処理するための第1の装置(1a,1b)は、画像を表す信号のガンマ補正とWeber則によりコントラストの補正を行う、前処理ステップと呼ぶ第1のステップの処理を実行することを可能とする。Weber則は、目はコントラストに敏感であるということと、光度Iを有する背景上に光度I+dIの光スポットを見ているときには、Weber比と呼ばれる比dI/Iは、非常に低い光度と非常に高い光度を除いては、実際的には、広い光度しきい値範囲にわたって約2%で一定であるということを考慮する。コントラストの補正は、例えば、高光度の領域に沿った平均光度の領域は、平均光度の領域に沿った低光度の領域よりも区別されないということに関連した、目の飽和を考慮する。
【0049】
この効果を考慮すると、陰極線管により行われる表示の光度を制御する電圧信号は、
【0050】
【数11】
により表されるいわゆるWeber則により補正され、Lmaxは、平方メートル当り約100カンデラに等しい最大光度
【0051】
【外1】
と望ましい光度Ldisplayを表す。
【0052】
この数学的な法則は、これらの計算を可能とする電子装置により実行される。例えば、そのような装置は、計算アルゴリズムに対応するプログラムを有するメモリと接続されたマイクロプロセッサによって構成できる。
【0053】
その部分に対して、ガンマ補正はテレビジョンの応答即ち、表示を可能とする管の特性を、回避することを可能とする。確かに、陰極線管表示装置は、非線形装置であり、そして、陰極線モニタのスクリーン上に再生される光強度は、補正無しでは、入力電圧に比例しない。ガンマ補正は、入力電圧に正確に且つ比例した対応する光度の再生を得るためにこの非線形性を補正する手順である。スクリーンからの画像は、画素pijの位置がマトリクスのインデックスiとjにより定義されるマトリクスとして組織化された複数の画素に副分割される。画素pijの値は所望の強度を表す。陰極線管に関連する現象を補正するために、以下の式に対応する補正則、
【0054】
【数12】
が所望の光度を得るための電圧を表すこの値に適用され、ガンマ(γ)は、陰極線管の特定の特徴に依存して、2.3と2.6の間の値を有する。この公式では、eは画素pijのグリッドレベル値、emaxは符号化が8ビットで行われる場合には例えば256のe最大値、Lmaxは、emaxcd/m2に対応する強度であり約100cd/m2である。
【0055】
ガンマ則の他の公式は、以下のようであり
【0056】
【数13】
ここで、yは輝度、Vは輝度電圧、Eは分析された画像の輝度、γは白黒画像管に対して約2.2の指数、そして、γaはカラーテレビジョンに対して共通の0.45の値、KsとKaは比例係数である。
【0057】
このガンマ補正とWeber動作は、処理回路(1a)の入力として受信された画素値を、図1bに示された曲線1に対応する法則に従う最終値P’ij=Ig(Pij)Pij・Igに変換する。ソース画像(10a)の各々は、複数の前処理された画素p’aijを発生し、そして、復号された画像(10b)の各々は、複数の前処理された画素p’bijを発生する。
【0058】
この処理動作と並行して、動き画像のフィールドの各ソースと復号された画像の構成を可能とするいわゆる動き補償の第2のステップ(2a,2b,図1)が、各画像シーケンスに基づいて実行される。動きのフィールドのこの構成は、例えば、MacGraw Hill Book社の”画像処理”通信と情報システムのエセックス”シリーズ”と題するDon Pearsonにより発行された、本の題47ページ等に説明されている方法により、従来の計算によりtとt−1の間で行われる。画像シーケンスにわたるこの動きの推定は、差分法又は、ブロックマッチング又は、フーリエ法又は、3次元空間内の推定方法の何れかを使用できる。各画像に対して、特定の数の動きベクトル(vi)がこのように得られ、そして、画像は動き情報に基づいて領域(R1,...,Rivi,...,Rnvn,図1d)にこのように分割され、従って、各領域(Rivi)は、この領域の全ての画素は単一の関連する速度ベクトル(vi)を有することを特徴とする。画像を一定の速度領域に分割することは、動きのフィールドのいわゆるセグメント化の第3のステップ(3a,3b)を構成し、各ソース及び復号された画像に与えられる。この動きのフィールドは従って、セグメント化技術により均一化され、そして、動きの近くの画素1つのそして同じ領域にグループ化される。このようにセグメント化された動きのこのフィールドは、画像により表されるシーンの物体の真の動きに近い。この均一化は、僅かなノイズ除去と少数の速度viに対応する異なる動きの数を減少することを可能とし、それにより、255*255画素pijよりなる画像の情況で(255)2の動きを計算し且つ蓄積することを避けるために、次のステップで計算され且つ蓄積されるフィルタの数を減少する。動きの推定は、1つの画像から他の画像のこれらの特定の要素の動きに続き構成される物体のエッジ又は角のような、シーン内の特定の物体の抽出に依存する技術も使用できる。これは、画像の異なる位置での動きに関する情報を提供しそして、残りの画像領域に動きベクトルを割り当てるのに補間手順が使用される。要素の角又はエッジの動きを測定する1つの仕方は、エッジを分離しそしてその後に動きの値を測定するために微分法による技術を使用するために、画像に高域通過フィルタを適用することである。境界の形成は、ノイズの効果を減少しそして、大きな動きの測定を可能とするために、低域通過フィルタの補助で減衰されることが可能である。低域通過フィルタは、例えば、以下のマトリクス
【0059】
【表1】
を介して、3*3の次元のマトリクス空間に対して構成されることが可能である。
【0060】
高域通過フィルタは例えば、以下のマトリクス
【0061】
【表2】
を介して、3*3の次元のマトリクス空間に対して構成されることが可能である。
【0062】
度当りのサイクルの推定された速度vを有するこの領域に属する画像の画素pijの推定された速度vを与えるテーブルは、後続の使用の観点から、動きのフィールドをセグメント化するための装置の蓄積手段内に図1dに示されたマトリクスの形式で蓄積される。
【0063】
手順は、各々に対して心理視覚フィルタ(4a,4b)を構成することよりなる、ソース(10a)と復号された(10b)画像の各々に対して並列して行われる第4のステップを介して継続する。この第4のステップは、動きの速度viと空間周波数fiの関数として人間のファクタHの影響を表現する、例えば、図3に示されているような複数の曲線を有するフィルタ曲線のデータベースを使用して行われる。これらの値vi,fiに対して、フィルタ値Hが対応する。速度viが、2つの曲線(HV1,HV2)の速度v1とv2の間にある場合には、装置は、対応する値Hを決定するために、補間を実行する。この補間は例えば、線形である。このステップは、心理視覚の影響の分析モデルに基づいて、所定の速度に対するHの直接的な計算により行われることも可能である。フィルタの分析モデルは、例えば、以下の公式
【0064】
【数14】
により表される。
【0065】
第5のステップでは、装置は、周波数領域内の且つ速度vと周波数fsに関連する、各フィルタ値H(fs,v)に対し、周波数領域内で、逆高速フーリエ変換(FFT−1)を適用することにより、空間領域内のフィルタ値h(s,v)を合成し、これは、式h(s,v)=FFT−1[H(fs,v)]表され、ここで、fsは度当りのサイクルでの細部の特徴的なサイズを表し、vは秒当りの継続時間で表現された動きを、そして、sは解像度である。
【0066】
第5のステップでソース画像(5a)と復号された(5b)画像の各々に対して空間領域でこのように決定された値hは、第6のステップ(それぞれ6a,6b)で、処理から生じるソース画像の前処理された画素p’aijと処理から生じる復号された画像の前処理された画素p’bijの各々に与えられる。
【0067】
各場合に、この第6のフィルタステップ(6a,6b)は1組のフィルタされた画素p’afijとp’bfijとなり、以後に、格差のマトリクス(Disp)を構成する最後のステップ(7)で、画素値の各組みの間の正方形の誤差を計算することにより使用される。
【0068】
【数15】
このマトリクスは、符号化復号手順により導入された、推定したい人間の目に知覚できる歪の客観的な評価を与える。
【0069】
本発明の第2の変形実施例を、第2の変形に従った処理の実行を可能とする種々の手段を表す、図2と共に説明する。更によりよく理解するために、読者は、第2の実施例に従って実行される処理の1から11の番号が付された種々のステップを表す、そして、ラプラスピラミッドを構成する動作を通して得られるサイズの減少も示す、付録2を参照できる。
【0070】
この変形例では、第1の変形例の最初の4つのステップは、即ち前処理(1a)、動きフィールドの構成(2a)及び、セグメント化(3a)と心理視覚フィルタ(4a)は、ソース画像(10a)に与えられる。ソース画像(10a)の処理と前処理ステップの結果からから生じ画素paij及び、復号された画像(10b)の前処理のステップの結果からの画素pbijは、各々がステップ(それぞれ5.1a,5.1b)で、1/2間引きフィルタリング(F1/2)を受ける。このフィルタリングは、所定のレベルn−1の画像Pn−1を表す画素のマトリクスに基づいて、次のレベルnの画像Pnを得ることを可能とする、低域通過フィルタである。これは関係、
n>0に対して、Pn=F1/2(Pn−1)
により表現される。P0はオリジナル画像である。
【0071】
例えば、間引きフィルタは、以下のマトリクス
【0072】
【表3】
を介して、3*3マトリクス空間に対して構成できる。
【0073】
計算装置によるこの1/2間引きフィルタリングの動作は、ソース画像Ps0を表すサイズm*nの画素のマトリクスを、サイズm/2*n/2のレベル1マトリクスPS1へ減少する結果を有し、ここで、レベルnのマトリクスPsnは、サイズm/2n*n/2nである。同様に、この1/2間引きフィルタリング動作は、復号された又は分解された画像Pd0を表すサイズm*nの画素のマトリクスを、サイズm/2*n/n2のレベル1のマトリクスPd1に減少させる結果を有し、ここで、レベルnのマトリクスPdnは、サイズm/2n*n/2nである。従って、各ソース及び復号された画像に対して、計算装置はレベルnと次のレベルn+1をメモリ内に蓄積する。
【0074】
その後に、次のステップ(それぞれ5.2a,5.2b)で、ラプラスピラミッドLnと呼ばれるものを構成するマトリックスの連続と呼ばれるものを得るために、以下の公式、
n<Nに対して、Ln=Pn−E2(Pn+1)
ここで、LN=PN、
に従って、計算装置は、レベルnの各画像Pnから、2(E2)により拡大された、すぐに連続するレベルの画像Pn+1を減じる。
【0075】
E2により行われる拡大動作は、サイズm*nの画像を得るために(サイズm/2*n/2の)画像Pn+1を補間することよりなる。
【0076】
この拡大又は補間動作は、補間されるがその位置の関数としての幾つかの補間マトリクスを含む。
【0077】
これは、ソース画像に対して、蓄積されたマトリクスのピラミッドLSnを構成し、そして、復号された又は分解された画像に対して蓄積されたマトリクスの第2のピラミッドLDnを構成することを可能とする。フィルタF1/2の選択によって、上述のステップの最後で得られる画像LSnは、値fn=1/(n+1)を中心とする回りの周波数帯内に含まれるエネルギーの良好な近似である。ラプラスピラミッド又は、いわゆるガウシャンピラミッドに関する及び、拡大マトリクスに関しては、読者は、1983年4月に発行された通信に関するIEEEトランザクションVOL.COM.31,No.4の、P.J.Burt及びEd.H.Adelsonによる、"コンパクトコード画像としてのラプラシアンピラミッド”と題する論文の第532ページから540頁を参照する。
【0078】
ラプラスピラミッド(LSn,LDn)は、ステップ(5.2aと5.2b)を介して得られる。
【0079】
次のステップで、装置は、同じ速度ベクトル(vi)により特徴化されそしてソース画像に与えられる動きフィールドセグメント化ステップ(3)の出力で定義される領域(Rivi)に基づいて、オリジナル領域画像R0から始まりそして、このオリジナル領域画像R0に、公式
Rn=G1/2(Rn−1)
ここで、R0=オリジナル領域画像、に従って1/2間引きメジアンフィルタG1/2を与えることにより、領域画像の複数の解像度ピラミッドRnを構成する。
【0080】
当業者には既知の、メジアンフィルタを構成することに関する更なる教示に関しては、読者は、1990年にKluwer Academic出版により出版された、I.PitasとA.N.Venetsapoulosによる”非線形ディジタルフィルタ、原理と応用”と題する本の4章を参照できる。
【0081】
(複数の解像度の)動きピラミッドは、ソース画像(10a)に対してのみ生成され、そして、LSnとLDnの画素の値は、周波数帯内にあるがRnを介して動きを有するエネルギーを表す。
【0082】
このステップでは、計算装置はステップ5.2に対応する計算を即ち、2だけ拡大されたすぐ後に連続するレベルn+1の画像Rn+1から、各レベルnに対応する画像Rnの減算を、実行しない。この計算ステップで、複数の解像度ピラミッドを構成するマトリクスは蓄積され、そして、Rnの各レベルnの各画素に対して、動きの局部値を得ることを可能とする。n*m画素の窓のメジアンフィルタは、画素の値をランク付けしそしてメジアン値を有する画素を維持することにより得られる。
【0083】
メジアンフィルタG1/2を次元m*nの画素Rnのマトリクスへ適用することは、次元m/2*n/2のマトリクスRn+1を得ることを可能とする。間引き動作は、メジアンフィルタの中に含まれている。メジアンフィルタは、画像Rnに関して、画像Pnに対するフィルタF1/2と、同じ効果を有し、それらのサイズを、水平方向と垂直方向に2だけ減少し、従来のマトリクスフィルタの代わりであるほかは、これは”メジアン”フィルタであり、即ち局部統計の分析に基づいている。
【0084】
ステップ5.2で計算されたラプラスピラミッド(LSn、LDn)は、その後に、以下の式
Diffn=LSn−LDn
に従ってレベル対レベルのピラミッド間差を計算する、ステップ7で示されたステップで使用される。
【0085】
これは、マトリクスDiffnを得ることを可能とし、その各係数は同じレベルnに対するソースラプラスピラミッド(LSn)と復号されたラプラスピラミッド(LDn)のマトリクスの係数の差の値を表現し、そして、0からnの各レベルに対してもそのように行うことが可能である。ラプラスピラミッドLSnでは、画素の値は周波数帯内にあるエネルギーを表す。2つの画像間の周波数格差は、ピラミッド間差LSn−LDnを考慮することにより所定の周波数帯に対して得られる。
【0086】
この結果は、実際には、周波数fnの活動度の相対的な影響の関係により表現される、この周波数帯に対する目の感度により重み付けされる。周波数fnの活動度のこの相対的な影響は、より高い周波数の大きな活動度によりマスクされ得る。マスキングステップ(8)で、この活動度の相対的な影響を決定し且つ考慮するために、計算装置は、画素pijの局部的な影響Enを評価することにより開始し、これは、ピラミッド間差の計算の結果の値により定義され、画素pijに与えられ、この結果はq乗にされ、
En=(Diffn(pij))q
この局部影響値は、計算装置が、以下の公式
【0087】
【数16】
Ek>Sの場合には、m(Ek)=Ek、
且つEk<Sの場合には、m(Ek)=S、であり
例えば、S=0.5%(最大可能なEkの値)、を実行する回路を通して活動度の相対的な影響を表現するマトリクスを決定することを可能とする。
【0088】
前の変形例のように、計算装置は、画像の視覚的知覚に関する人間のファクタの影響を表現する複数のフィルタリング曲線を含むデータベース(BD)を使用して、フィルタリングステップ4を実行する。これらのフィルタリング曲線は、周波数の値と画素pijに対応する速度に基づいて、この画素に対する重み係数Hを決定することを可能とする。このように、速度領域Rnに対応するマトリクスLnの各画素pijに対して、計算装置は、相対的な影響Inを重み付けする値Hを決定する。この重み付けステップ(9)は、式
Tn(pij)=In(pij)×H
を実行する計算装置を通して得られる。
【0089】
この式の実行は、マトリクスのピラミッドを得ることを可能とする。計算装置のプログラムがラプラスピラミッドのレベルnのマトリクスから画素を選択するときには、このレベルnに対して、空間周波数fnが対応し、そして、計算装置は、速度値vに対応する画像Rnの画素に関連させることができる。データベースとこれらのデータベースに蓄積された曲線を使用することにより、計算装置は、直接的に又は、2つの曲線の間を補間することによる何れかで、ゲイン係数Hの値を決定する。この第2の方法では、1つは、周波数量に対応する物体(ラプラスピラミッド)に直接働く。従って、全ての計算は周波数領域で行われるので空間領域への切換は必要ない。この値Hは、活動度の相対的な影響(In)を重み付けする。この重み付けステップ(9)は、人間が見ることにより好まれる真理視覚的方向を考慮するために、方向フィルタリングの要求を満たすためのオプションのステップ(10)に適用されるマトリクスのピラミッドを得ることを可能とする。
【0090】
このように、他に関して1つの方向を好む方向フィルタを通してマトリクスTnにより構成される画像をフィルタすることが可能であり、これらのフィルタは、画像ファクタTnの次元に対応する次元n*nの係数のマトリクスを構成する。0°方向フィルタマトリクスの例は、次元5/5に対する以下により与えられる。
【0091】
【表4】
90°方向フィルタマトリクスの例は以下に与えられる。
【0092】
【表5】
45°方向フィルタマトリクスの例は以下に与えられる。
【0093】
【表6】
この方向フィルタステップ(10)の結果は、ステップ(11)で複数の解像度のピラミッドP’nを式
P’n=E2(P’n+1)+Tn(n<N)
ここで、P’N=TN
を介して再構成するために加算器に送られる。
【0094】
従ってこれは、
P’N−1=E2(TN)+TN−1
を生じる。
【0095】
格差のマップを構成するマトリクスP’0を得るために、手順は、反復して繰り返される。
【0096】
本発明の2つの変形実施例のこれらのステップは、前述のステップを実行できる適切なプログラムを実行するマイクロプロセッサの助けで実行される。これらの回路は、実行されるプログラム、画素のマトリクス又は領域のマトリクス又は、次の計算ステップを予想することを可能とする中間結果又は、中間又は最終結果に適用されるフィルタを蓄積する蓄積手段も有する。
【0097】
これは、種々の符号化装置の主観的性能比較する、又は、種々の符号化アルゴリズムの主観的性能比較する及び/又は、画像処理による劣化の知覚を測定するのに使用される。この性能に従って、本発明の2つの変形実施例のうちの1つを実行する計算回路は、例えば、符号化の全体及び/又は局部的パラメータに関して行われた符号化された画像の主観的品質の測定を遡及させることにより、符号化を修正することができる。遡及が行われる全体的なパラメータは、例えば、平均ビットレートであり、そして、局部パラメータは、例えば、符号化中に使用される局部量子化間隔である。遡及は、符号化中に、局部量子化間隔、画像のサイズ、GOP(グループオブピクチャー)の形式に関して動的である。遡及はビデオディスク(DVD)又はCD−ROMの符号化の場合には反復して行われる。この場合には、エラーがしきい値以上で及び/又は全体の画像にわたって均一でない限り、計算回路の遡及は、全体的に及び/又は局部的に、符号化パラメータを非常に減少させる。
【0098】
最後に、評価の方法又は符号化器から発する画像のシーケンスの主観的品質の測定の最後から2番目の使用は、物体に向けられた符号化に関連する。この場合には、この装置により実行される方法の1つの計算装置の使用は、シーンの種々の物体の一定の主観的品質を保証し又は、所定の物体間相対主観的品質を保証することを可能とする。最後に、評価処理と装置は、放送されるプログラムの所定の且つ均一な主観的品質を保証するために、静的な多重を伴なう放送のチャネルの各々に割り当てられたビットレートの動的な再配置の状態を修正できる。
【0099】
当業者の可能な他の変更は、本発明の範囲内である。
【0100】
本発明の変形実施例は、動きのフィールドの推定を表す信号として、例えば、MPEG形式の符号化中に復号された画像を符号化/復号するための手順から生じるマクロブロック毎の動きベクトルを使用することよりなる。
【0101】
本発明の他の変形実施例は、復号された画像をノイズのあるソース画像と交換することよりなる。後者は、例えば、(全ての空間周波数帯でランダムで、可変で、均一な)白色ノイズが付加されたソース画像に基づいて構成できる。得られる格差マップは、符号化エラーが最も知覚的に”演繹的”である即ち符号化が適切に行われる前に、画像の領域の予測と見なされる。
【0102】
これらの格差マップは、将来の符号化手順中に歪又は符号化欠陥の発生を防ぐ目的でソース画像を前処理するために装置の実行に使用される。前処理装置は例えば、符号化歪の視覚性が最も低い画像の領域内で、格差マップにより供給される領域で、前フィルタのための回路及び/又は高周波数のエネルギーを減少する回路よりなる。
【0103】
これらの”演繹的な”格差マップは、符号化歪の視覚性が”演繹的に”更に低く予測される領域内の符号化に対して必要なビットレートを更に減少させるのに使用できる。
【0104】
これらの”演繹的な”格差マップは、知覚されること無しに、ソース又は復号された画像に挿入される”隠れた”情報の量(ウォーターマーク)を局部的に測定するのにも使用できる。
【0105】
付録1
方法1
ステップ1 画像の前補正:スクリーンのガンマ補正とコントラスト補正(Weber則)。
【0106】
ステップ2 ソースシーケンスに基づく且つ各画像に対する動画像のフィールドの構成。
【0107】
ステップ3 動きのフィールドのセグメント化。各画像に対して、領域へのセグメント化が、動き情報に基づいて、利用できる。
【0108】
従って、各領域(v)は、速度ベクトルvにより特徴化される。
【0109】
各画像(ソース又は、復号される)の各画素は、推定された速度v(度当りのサイクル)に対応する領域に属する。
【0110】
ステップ4 各領域(v)に対して、BDDフィルタ{H(fs,vi)i=,...N}及び、フィルタの補間に基づいて、対応する心理視覚フィルタを構成する。
【0111】
ステップ5 各領域(v)に対して、逆FFTによる空間フィルタの合成。
h(s,v)=FFT−1[H(fs,v)]
ステップ6 2つの他の画像:
ソースFと復号されたF、
を得るためのソースと復号された画像のフィルタリング。
【0112】
ソース/復号された画像の各画素は、Pの属する領域(v)に対応する、Pを中心として且つソース/復号された画像に与えられる、フィルタh(s,v)によりフィルタされる。
【0113】
ステップ7 格差又は心理視覚エラーのマップの構成
Err=(ソースF−復号されたF)n (n=2,又は、その他)
付録2
方法2
ステップ1 (方法1参照)
ステップ2 (方法1参照)
ステップ3 (方法1参照)
ステップ4 (方法1参照)
ステップ5 2ステップで構成される、ソースと復号された画像をNレベルのラプラスピラミッドへの分解:
−直前のレベル(複数の解像度ピラミッド、図4)の1/2間引きフィルタリング(低域通過)により、各レベルPnが最初に得られる。
n>0 Pn=F1/2(Pn−1)
P0=オリジナル画像
−Lnを得るために、各レベルPnから、2だけ拡大された直前のレベルが引かれる(ラプラスピラミッド、図5)。
n<Nに対して、Ln=Pn−E2(Pn+1)
LN=PN、
この計算は、図4に従って複数の解像度のピラミッドPnの表現と、図5に従ってラプラスピラミッドLnの表現を得ることを可能とする。
【0114】
フィルタF1/2が好適に選択される場合には、画像Lnは、
fn=1/(n+1)
を中心とする回りの周波数帯内に含まれるエネルギーの良好な近似である。
【0115】
最後に2つのラプラスピラミッドが使用できる:LSn(ソース)とLDn(復号された)。
【0116】
ステップ6 同じ原理により、領域画像の複数の解像度ピラミッドRnは、F1/2をG1/21/2間引き/メジアンフィルタにより置換することにより構成される。このように、ラプラスピラミッド(ステップ5)の各レベルの各画素に対して、動きの局部値が利用できる。
【0117】
ステップ7 レベル対レベルピラミッド間差の計算:
Diffn=LSn−LDn。
【0118】
ステップ8 周波数マスキングの原理の適用(テクスチャ/マスキング):
周波数fnの活動度の相対的な影響は、高周波数(fk<n)の大きな活動度によりマスクされる。
【0119】
画素piの相対的な局部影響、In(pi)は、
【0120】
【数17】
例えば、q=2、により定義される。
【0121】
ステップ9ソースと復号されたラプラスピラミッドのフィルタリング。
【0122】
Lnの各画素piは、Rn内にpiが属する領域(v)に対応する、値H(fn,v)と相対的な影響Inにより重み付けされる。
【0123】
Tn(pi)=In(pi)×H
ステップ10 方向フィルタリング:人間の注視により好まれる心理視覚方向を考慮するために、他の中から1つの方向を好む方向フィルタにより画像Tnをフィルタすることが可能である。
【0124】
ステップ11 格差又は心理視覚エラーのマップの構成:複数の解像度のピラミッドP’nは、
P’n=E2(P’n+1)+Tn(n<N)
P’N=TN
により再構成される。
【0125】
格差のマップはP’0に対応する。
【図面の簡単な説明】
【図1a】 処理の第1の変形例のステップの概略を示す図である。
【図1b】 処理するステップの結果のグラフィック表現を示す図である。
【図1c】 ソース画像のマトリクスの単純化された図である。
【図1d】 動きのフィールドをセグメント化した後に得られるマトリクスの単純化された図である。
【図2】 処理の第2の変形例の種々のステップの概略を示す図である。
【図3】 速度を決定するためにデータベース内に蓄積された、人間の視覚の心理視覚影響に対応するフィルタ曲線の群を示す図である。
【図4】 複数の解像度のピラミッドを示す図である。
【図5】 ラプラスピラミッドを示す図である。
Claims (29)
- 画像シーケンスの符号化された画像の品質を評価する方法であって、
a)前処理された信号を得るために、表示特性を考慮し、画像を表す信号を補正して前処理するステップと、
b)速度ベクトルを得るために画像間の動きを推定することにより、画像を表す信号に基づいて、動きベクトルフィールドを構成するステップと、
c)領域を得るために、前記速度ベクトルの動き値に従って前記動きベクトルフィールドをセグメント化するステップと、
d)前記領域の推定された速度の関数として適用される、心理視覚人間フィルタを、決定し又は計算するステップと、
e)前処理された信号をフィルタするステップと、
f)ソース画像を表す信号と、復号された画像を表す信号にステップa)からe)を実行することで、格差のマップを構成するステップとを有することを特徴とする方法。 - ステップa)からe)の各々を、ソース画像と復号された画像に適用することよりなるステップを有することを特徴とする請求項1に記載の符号化された画像の品質を評価する方法。
- 動画像の知覚に関する速度と空間周波数の相対的な影響を考慮するために、フィルタするステップに先行し且つ推定された速度と考慮される周波数帯を考慮する曲線から得られる係数による重み付けよりなる、画像の周波数分解のステップを有することを特徴とする請求項1に記載の符号化された画像の品質を評価する方法。
- 画像シーケンスの符号化された画像の品質を評価する方法であって、
a)前処理された信号を得るために、表示特性を考慮し、画像を表す信号を補正して前処理するステップと、
b)速度ベクトルを得るために画像間の動きを推定することにより、画像を表す信号に基づいて、動きベクトルフィールドを構成するステップと、
c)領域を得るために、前記速度ベクトルの動き値に従って前記動きベクトルフィールドをセグメント化するステップと、
d)前記領域の推定された速度の関数として適用される、心理視覚人間フィルタを、決定し又は計算するステップと、
e)前処理された信号をフィルタするステップと、
f)ソース画像を表す信号と、復号された画像を表す信号にステップa)からe)を実行することで、格差のマップを構成するステップとを有し、
心理視覚フィルタステップは、一方では、関係している画素の周波数を表す局部的な影響及び、他方では、異なる速度の各領域の画像に基づいてピラミッドを構成することにより得られる複数の解像度のピラミッド内に画素が属するラプラスピラミッドのレベルに対応する推定された速度と周波数帯を考慮して、フィルタ曲線から得られるフィルタ係数による重み付け後に、前処理されたソース画像のラプラスピラミッドと前処理され復号された画像のラプラスピラミッドとの間のピラミッド間差を表すマトリクスに適用されることを特徴とする方法。 - 心理視覚フィルタ曲線は、データベースの形式に配置され且つシステム内に蓄積されタ曲線の連続とおそらくこれらの曲線に基づく補間から構成されるか又は、各曲線を計算することを可能とする計算手段により実行された分析的表現により得られることを特徴とする、請求項4に記載の方法。
- 格差のマップを構成するステップは、先行するステップ内で得られたフィルタされた複数の解像度のピラミッドを再構成することにより行われることを特徴とする、請求項4に記載の方法。
- 画像を処理するステップは、ソース及び復号された画像をnレベルのラプラスピラミッドに分解するステップと、ピラミッド間差を構成するステップを有することを特徴とする、請求項4或は6に記載の方法。
- ステップb)の動き推定は、画像の特定の要素の動きを測定するために、前記特定の要素をフィルタリングすることで実行されることを特徴とする請求項1に記載の方法。
- 前記前処理するステップは、ガンマ補正とWeberの法則による補正を実行することを特徴とする請求項1或は4に記載の方法。
- フィルタリングは、フィルタのデータベースに基づいて推定された速度に対応する心理視覚フィルタと、その速度が推定された領域に最も近い領域に対応する2つのフィルタの間の補間を構成することにより得られることを特徴とする請求項1に記載の方法。
- 考慮される画素piの相対的な局部的影響(In)は、ソースピラミッドと考慮される画素の同様なレベルの復号されたピラミッドの間のピラミッド間レベル対レベル差のq乗を表す値Enを計算することにより得られる、ことを特徴とする請求項4に記載の方法。
- 前記フィルタするステップは、画像の方向的フィルタリングを有することを特徴とする請求項4に記載の方法。
- 画像を符号化する方法であって、パラメータを符号化中に、格差のマップに関連する心理視覚格差の測定を遡及させることで、請求項1乃至17のうち何れか一項に記載の方法により評価された符号化画像の品質に従って符号化が修正されることを特徴とする方法。
- 計算された格差は、所望のしきい値を超えるまで、符号化パラメータを変更するために、しきい値と比較される、ことを特徴とする請求項18に記載の方法。
- パラメータの1つは、量子化間隔又は、画像のサイズ又は、グループオブピクチャGOPの形式の何れかである、ことを特徴とする請求項19に記載の方法。
- 画像シーケンスの符号化された画像の品質を評価する装置であって、
−前処理されたソース画像信号と前処理され復号された画像信号を得るために、表示特性を考慮し、画像(10a)と復号された画像(10b)をあらわす信号を補正して前処理する手段(1a,1b)と、
−速度ベクトルを得るために画像間で動き推定をすることにより、各々の画像を表す信号に基づいて動きベクトルフィールドを構成する手段(2a,2b)と、
−2以上の領域を得るために、前記速度ベクトルの動き値に従って前記動きベクトルフィールドをセグメント化する手段(3a,3b)と、
−前記領域の推定された速度の関数として適用される、2以上の心理視覚人間フィルタを、決定し又は計算する手段(4,5)と、
−それぞれの前記心理視覚人間フィルタに従って、前処理されたソース画像と前処理され復号された画像の各々に適用されてフィルタする手段(6a,6b)と、
−フィルタするステップ後に得られる前処理されたソース画像を表す信号と、フィルタするステップ後に得られる前処理された復号された画像を表す信号の間の格差のマップを構成する手段(7)とを有する装置。 - 画像シーケンスの符号化された画像の品質を評価する装置であって、
−前処理されたソース画像信号と前処理され復号された画像信号を得るために、表示特性を考慮し、画像(10a)と復号された画像(10b)をあらわす信号を補正して前処理する手段(1a,1b)と、
−速度ベクトルを得るために画像間で動き推定をすることにより、各々の画像を表す信号に基づいて動きベクトルフィールドを構成する手段(2a,2b)と、
−領域を得るために、前記速度ベクトルの動き値に従って前記動きベクトルフィールドをセグメント化する手段(3a,3b)と、
−前記領域の推定された速度の関数として適用される、心理視覚人間フィルタを、決定し又は計算する手段(4,5)と、
前記前処理された信号をフィルタする手段と、
−フィルタするステップ後に得られる前処理されたソース画像を表す信号と、フィルタするステップ後に得られる前処理された復号された画像を表す信号の間の格差のマップを構成する手段とを備え、
心理視覚フィルタ手段は、一方では、関係している画素の周波数を表す局部的な影響及び、他方では、蓄積され且つ計算されたフィルタ曲線から得られるフィルタ係数による重み付けと、異なる速度の各領域の画像に基づいてこの複数の解像度ピラミッドを構成することにより得られる複数の解像度のピラミッド内に画素が属するラプラスピラミッドのレベルに対応する推定された速度と周波数帯を考慮した後に、前処理されたソース画像のラプラスピラミッドと前処理され復号された画像のラプラスピラミッドとの間の計算手段により計算されたピラミッド間差を表すマトリクスに適用されることを特徴とする装置。 - 格差のマップを構成する手段は、フィルタされた複数の解像度のピラミッドを再構成することを行うことを特徴とする、請求項21に記載の装置。
- 処理する手段、構成する手段、決定する手段、構成する手段、フィルタする手段は、種々の手段を実現することを可能とするプログラムを含むために且つ計算のためにそして格差のマップを得るために必要なデータベースと中間情報を含むために十分なメモリに関連する少なくとも1つのマイクロプロセッサよりなることを特徴とする請求項21乃至23のうち何れか一項に記載の装置。
- 画像はMPEG規格により符号化され、動画像のフィールドを表す信号を構成するステップは、MPEG規格にしたがって画像の符号化中に計算されたマクロブロックごとの動きベクトルを利用することを特徴とする請求項1に記載の方法。
- 画像の品質を評価する方法であって、
a)前処理された信号を得るために、表示特性を考慮し、画像を表す信号を補正して前処理するステップと、
b)速度ベクトルを得るために画像間の動きを推定することにより、画像を表す信号に基づいて、動きベクトルフィールドを構成するステップと、
c)領域を得るために、前記速度ベクトルの動き値に従って前記動きベクトルフィールドをセグメント化するステップと、
d)前記領域の推定された速度の関数として適用される、心理視覚人間フィルタを、決定し又は計算するステップと、
e)前処理された信号をフィルタするステップと、
f)ソース画像を表す信号と、ノイズが加算された前記ソース画像を表す信号にステップa)からe)を実行することで、格差のマップを構成するステップとを有することを特徴とする方法。 - 格差のマップに基づいて、符号化誤差に”演繹的に”最も感度の高い領域を予測する予測ステップ且つ、この予測の関数として領域を符号化する符号化ステップを有する、請求項26に記載の方法。
- 格差のマップの関数としてソース画像のプリフィルタリングを行うプリフィルタリングステップを有する請求項26に記載の方法。
- 付加が知覚されずに、画像に挿入できる情報(ウォーターマーク)の量を局部的に決定する請求項26に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR9902827A FR2790852B1 (fr) | 1999-03-08 | 1999-03-08 | Procede d'evaluation d'images codees, dispositif mettant en oeuvre le procede et utilisation du dispositif et procede |
FR9902827 | 1999-03-08 | ||
PCT/EP2000/001688 WO2000054220A1 (en) | 1999-03-08 | 2000-02-29 | Process, device and use for evaluating coded images |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002539657A JP2002539657A (ja) | 2002-11-19 |
JP4611535B2 true JP4611535B2 (ja) | 2011-01-12 |
Family
ID=9542928
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000604372A Expired - Lifetime JP4611535B2 (ja) | 1999-03-08 | 2000-02-29 | 符号化された画像を評価するための処理、装置及び、使用 |
Country Status (9)
Country | Link |
---|---|
US (1) | US7003037B1 (ja) |
EP (1) | EP1159711B1 (ja) |
JP (1) | JP4611535B2 (ja) |
CN (1) | CN1306457C (ja) |
AU (1) | AU3161500A (ja) |
DE (1) | DE60006651T2 (ja) |
FR (1) | FR2790852B1 (ja) |
TW (1) | TW517211B (ja) |
WO (1) | WO2000054220A1 (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3900017B2 (ja) * | 2002-06-04 | 2007-04-04 | 富士ゼロックス株式会社 | 画像処理装置 |
US7436890B2 (en) * | 2002-06-05 | 2008-10-14 | Kddi R&D Laboratories, Inc. | Quantization control system for video coding |
FR2865082A1 (fr) * | 2004-01-09 | 2005-07-15 | France Telecom | Procede, dispositif, programme d'ordinateur et support de donnees pour estimer la qualite perceptuelle d'une image decodee |
US7876977B2 (en) * | 2006-02-15 | 2011-01-25 | Conexant Systems, Inc. | Image processor and method of image rotation |
JP4703504B2 (ja) * | 2006-07-21 | 2011-06-15 | ソニー株式会社 | 画像処理装置、画像処理方法、及びプログラム |
CN101132597B (zh) * | 2006-08-25 | 2010-11-10 | 华为技术有限公司 | 资源分配方法、资源分配***、资源分配实体以及移动台 |
CN101222604B (zh) * | 2007-04-04 | 2010-06-09 | 晨星半导体股份有限公司 | 运算移动估计值与估算图像的移动向量的方法 |
TWI401944B (zh) * | 2007-06-13 | 2013-07-11 | Novatek Microelectronics Corp | 用於視訊處理系統之雜訊消除裝置 |
KR101243422B1 (ko) * | 2009-01-22 | 2013-03-13 | 가부시키가이샤 히다치 하이테크놀로지즈 | 전자 현미경 |
CN101583033B (zh) * | 2009-06-05 | 2011-01-26 | 中山大学 | 一种利用鲁棒水印保护h.264视频数据的方法 |
US9392267B2 (en) * | 2010-12-15 | 2016-07-12 | Tektronix, Inc. | System and methods to measure noise and to generate picture quality prediction from source having no reference |
US10129522B2 (en) * | 2011-11-28 | 2018-11-13 | Thomson Licensing | Processing device for the generation of 3D content versions and associated device for obtaining content |
WO2013147756A1 (en) * | 2012-03-28 | 2013-10-03 | Intel Corporation | Content aware selective adjusting of motion estimation |
WO2014032463A1 (en) | 2012-08-27 | 2014-03-06 | Thomson Licensing | Method and apparatus for estimating content complexity for video quality assessment |
US9262808B2 (en) * | 2013-02-07 | 2016-02-16 | Mitsubishi Electric Research Laboratories, Inc. | Denoising of images with nonstationary noise |
WO2016197393A1 (zh) * | 2015-06-12 | 2016-12-15 | 中国科学院自动化研究所 | 并行多相位图像插值装置和方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4984076A (en) * | 1988-07-27 | 1991-01-08 | Kabushiki Kaisha Toshiba | Image compression coding system |
US5128756A (en) * | 1990-12-11 | 1992-07-07 | At&T Bell Laboratories | High definition television coding arrangement with graceful degradation |
JP3105335B2 (ja) * | 1992-02-07 | 2000-10-30 | 株式会社ハドソン | 画像の直交変換符号化による圧縮・伸張方法 |
JP3634419B2 (ja) * | 1994-07-25 | 2005-03-30 | セイコーエプソン株式会社 | 画像処理方法および画像処理装置 |
GB2297450B (en) * | 1995-01-18 | 1999-03-10 | Sony Uk Ltd | Video processing method and apparatus |
JP3025415B2 (ja) * | 1995-01-20 | 2000-03-27 | ケイディディ株式会社 | ディジタル圧縮・再生画像の画質評価装置 |
KR0181036B1 (ko) * | 1995-04-08 | 1999-05-01 | 배순훈 | 움직임 영상의 이동 물체 분할 및 그 움직임 추정방법 |
JP3612360B2 (ja) * | 1995-04-10 | 2005-01-19 | 株式会社大宇エレクトロニクス | 移動物体分割法を用いた動画像の動き推定方法 |
US6674911B1 (en) * | 1995-09-14 | 2004-01-06 | William A. Pearlman | N-dimensional data compression using set partitioning in hierarchical trees |
AUPN727195A0 (en) * | 1995-12-21 | 1996-01-18 | Canon Kabushiki Kaisha | Motion detection method and apparatus |
JP3458581B2 (ja) * | 1996-01-11 | 2003-10-20 | Kddi株式会社 | ディジタル画像品質評価装置 |
US6271825B1 (en) * | 1996-04-23 | 2001-08-07 | Rainbow Displays, Inc. | Correction methods for brightness in electronic display |
JP3116994B2 (ja) * | 1996-08-29 | 2000-12-11 | 富士ゼロックス株式会社 | 画質予測装置および方法ならびに画質制御装置および方法 |
US6735253B1 (en) * | 1997-05-16 | 2004-05-11 | The Trustees Of Columbia University In The City Of New York | Methods and architecture for indexing and editing compressed video over the world wide web |
JPH11187273A (ja) * | 1997-12-22 | 1999-07-09 | Fuji Xerox Co Ltd | 画像分析装置および方法 |
-
1999
- 1999-03-08 FR FR9902827A patent/FR2790852B1/fr not_active Expired - Fee Related
-
2000
- 2000-02-25 TW TW089103327A patent/TW517211B/zh not_active IP Right Cessation
- 2000-02-29 CN CN00804728.6A patent/CN1306457C/zh not_active Expired - Lifetime
- 2000-02-29 WO PCT/EP2000/001688 patent/WO2000054220A1/en active IP Right Grant
- 2000-02-29 EP EP00909269A patent/EP1159711B1/en not_active Expired - Lifetime
- 2000-02-29 JP JP2000604372A patent/JP4611535B2/ja not_active Expired - Lifetime
- 2000-02-29 AU AU31615/00A patent/AU3161500A/en not_active Abandoned
- 2000-02-29 DE DE60006651T patent/DE60006651T2/de not_active Expired - Lifetime
- 2000-02-29 US US09/936,033 patent/US7003037B1/en not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
FR2790852A1 (fr) | 2000-09-15 |
JP2002539657A (ja) | 2002-11-19 |
EP1159711A1 (en) | 2001-12-05 |
DE60006651D1 (de) | 2003-12-24 |
DE60006651T2 (de) | 2004-09-30 |
US7003037B1 (en) | 2006-02-21 |
WO2000054220A1 (en) | 2000-09-14 |
EP1159711B1 (en) | 2003-11-19 |
FR2790852B1 (fr) | 2001-04-20 |
TW517211B (en) | 2003-01-11 |
AU3161500A (en) | 2000-09-28 |
CN1343342A (zh) | 2002-04-03 |
CN1306457C (zh) | 2007-03-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6137904A (en) | Method and apparatus for assessing the visibility of differences between two signal sequences | |
US6360022B1 (en) | Method and apparatus for assessing the visibility of differences between two signal sequences | |
JP4611535B2 (ja) | 符号化された画像を評価するための処理、装置及び、使用 | |
Rao et al. | A Survey of Video Enhancement Techniques. | |
KR101356548B1 (ko) | 하이 다이나믹 레인지 코덱들 | |
US7805019B2 (en) | Enhancement of decompressed video | |
US7430337B2 (en) | System and method for removing ringing artifacts | |
US20040012675A1 (en) | Method and apparatus for measuring the quality of video data | |
EP0961229A2 (en) | Non-linear adaptive image filter forsuppressing blocking artifacts | |
KR100754154B1 (ko) | 디지털 비디오 화상들에서 블록 아티팩트들을 식별하는 방법 및 디바이스 | |
Song et al. | Efficient debanding filtering for inverse tone mapped high dynamic range videos | |
JP3105335B2 (ja) | 画像の直交変換符号化による圧縮・伸張方法 | |
WO2006131866A2 (en) | Method and system for image processing | |
WO2020240509A1 (en) | Pre-processing for video compression | |
JP3627291B2 (ja) | ブロック歪み除去装置および方法 | |
Kumar et al. | A novel method for image compression using spectrum | |
Bordes et al. | Perceptually adapted MPEG video encoding | |
Akramullah et al. | Video quality metrics | |
KR100676226B1 (ko) | 동영상 코덱의 후처리 방법 및 이를 위한 에지 보상 및 향상 필터링 방법 | |
WO1994014138A1 (en) | Apparatus and methods for smoothing images | |
JP2004531161A (ja) | ディジタルビデオ信号を処理する方法及び復号器 | |
JP4450516B2 (ja) | 2つの信号配列間の視程差を評価するための方法及び装置 | |
KR100574595B1 (ko) | 두개의 신호 시퀀스들 사이의 가시성 차이들을 평가하기 위한 방법 및 장치 | |
KR100207392B1 (ko) | 텍스쳐 영역 판단장치 및 이를 이용한 복원 영상의 화질 평가 시스템 | |
Coudoux et al. | A perceptual approach to the reduction of blocking effect in DCT-coded images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060926 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090709 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090728 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20091023 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20091030 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100302 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20100531 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20100607 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100819 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100914 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101014 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131022 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4611535 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |