JP6360841B2 - 画像ダイナミックレンジ変換演算子を選択するための方法およびデバイス - Google Patents

画像ダイナミックレンジ変換演算子を選択するための方法およびデバイス Download PDF

Info

Publication number
JP6360841B2
JP6360841B2 JP2015559483A JP2015559483A JP6360841B2 JP 6360841 B2 JP6360841 B2 JP 6360841B2 JP 2015559483 A JP2015559483 A JP 2015559483A JP 2015559483 A JP2015559483 A JP 2015559483A JP 6360841 B2 JP6360841 B2 JP 6360841B2
Authority
JP
Japan
Prior art keywords
image
dynamic range
operator
modified
original image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015559483A
Other languages
English (en)
Other versions
JP2016517194A5 (ja
JP2016517194A (ja
Inventor
ボアタール ロナン
ボアタール ロナン
ソロー ドミニク
ソロー ドミニク
ボアタッチ カドゥ
ボアタッチ カドゥ
コジョ レミ
コジョ レミ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2016517194A publication Critical patent/JP2016517194A/ja
Publication of JP2016517194A5 publication Critical patent/JP2016517194A5/ja
Application granted granted Critical
Publication of JP6360841B2 publication Critical patent/JP6360841B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)

Description

本発明は、画像のダイナミックレンジを変換する、およびそのダイナミックレンジが変換された画像を符号化する一般的な分野に関する。
本発明は、画像ダイナミックレンジ変換演算子のセットから画像ダイナミックレンジ変換演算子を選択するためのデバイスおよび方法に関する。
このデバイスおよび方法は、例えば、画像のまたは画像シーケンスの、ダイナミックレンジを低減させるために、すなわち所与のダイナミック値レンジ(dynamic value range)に属するこの画像の(または画像シーケンスの各画像の)画素(pixels:ピクセル)の輝度(luminance)値を修正することにより、(オリジナルの画像シーケンスの)オリジナルの画像の低ダイナミック値レンジに属する輝度値を取得するために、使用できる。
このような方法またはデバイスは、顕著なおよび/または低減したダイナミックレンジの画像(または画像シーケンス)を符号化するために使用されるような画像または画像シーケンスを符号化するための方法やデバイスそれぞれにおいて、使用できる。
トーンマッピング演算子(TMOs)またはトーン再生装置を使用して、オリジナルの画像と呼ばれる画像のダイナミックレンジを修正する(変換または適合としても参照される)ことが知られている。このオリジナルの画像は、オリジナルの画像のダイナミックレンジを、例えば、この画像が表示されるスクリーンのオリジナルの画像のダイナミックレンジに適合させるように、ダイナミックレンジが低い画像(低ダイナミックレンジ画像)を取得するように、高ダイナミックレンジカメラによって、例えば取得されることができる。
以後では、画像のダイナミックレンジを変換し、適合し、または修正することは、この画像の輝度コンポーネント(値)を変換し、適合し、または修正することと等価である。
一旦そのダイナミックレンジが修正され、オリジナルの画像がディスプレイシステムのために意図される場合、この適合された画像の輝度コンポーネントは、ディスプレイ標準(BT709など)に適合するように量子化されおよび符号化される。この場合、我々は、輝度コンポーネントよりもルーマ(luma)コンポーネントに通常言及する。輝度は、その部分に関して、cd/m2と表される物理単位に対応する。
本発明は、輝度コンポーネントおよびルーマコンポーネントに等しく適用可能である。 これらのTMOsのうちの1つは、Reinhardによって開発され、一般にPTR演算子と呼ばれる(Reinhard, E., Stark, M., Shirley, P., and Ferwerda, J., "Photographic tone reproduction for digital images" ACM Transactions on Graphics 21 (July 2002))。
この画像ダイナミックレンジ変換演算子の原理は、式(1)で与えられるS字状の(sigmoid)マッピング曲線を使用することによって、画像の修正された輝度コンポーネントLdを取得するように、オリジナルの画像の輝度コンポーネントLwを修正することである:
ここで、Lwhiteは、高輝度値の区間を低減させるために使用される輝度値であり、Ldは、そのサイズが画像のサイズであるマトリクスであって、オリジナルの画像よりも低ダイナミック値レンジで表現される画像の画素の輝度値を含むマトリクスであり、Lsはそのサイズが画像のサイズであるマトリクスであって、式(2)によって得られる輝度値を含むマトリクスである:
ここで、aは、選択された露出値であり、一般にキー(key:鍵)と呼ばれるkは、式(3)によって与えられる画像の明るさ(brightness)の指標を定義する:
ここで、Nは画像内の画素の数であり、δは任意の特異性を回避する値であり、Lw(i)は画像の輝度コンポーネントLwの画素iの輝度値である。
値aおよびLwhiteは、このTMOの固定された2つのパラメータであり、例えば、パラメータaについては18%であり、およびパラメータLwhiteについてはオリジナルの画像の最大輝度値である。式(1)は、高輝度値の区間を低減させるのに使用されるファクタを無視して再公式化できる:
この画像シーケンスの他の画像のダイナミックレンジの画像シーケンスの各画像のダイナミックレンジを独立に修正する演算子を使用し、画像の各変換について、この画像の画素および画像シーケンス内で変換される画像に時間的に先行する予め定められた数の画像の画素に従ってキーを選択することも知られている(Kang, S. B., Uyttendaele, M., Winder, S., and Szeliski, R., "high dynamic range video," in [ACM SIG -GRAPH 2003 Papers on - SIGGRAPH '03 ], 319, ACM Press, New York, New York, USA (2003))。
より詳細には、キーは式(3)から算出され、ここで、Nは、変換される画像の画素の数と画像シーケンス内で時間的に先行する画像の画素の数との合計に等しい。
現在の画像のおよび先行する画像のキーに従って、動的に適合されるいくつかの先行する画像を使用する演算子を使用することも知られている(Ramsey, S., Ill, J. J., and Hansen, C, "Adaptive temporal tone mapping, "Computer Graphics and Imaging - 2004 (3), 3-7 (2004))。
人間の視覚システム(HVS)の視覚的反応を使用したオリジナルの画像を、その輝度値がスクリーンに適合したダイナミックレンジに属する画像と比較する演算子を使用することも知られており(Mantiuk, R., Daly, S., and Kerofsky, L, "Display adaptive tone mapping" ACM Transactions on Graphics 27, 1 (Aug. 2008))、このスクリーン上でのその視覚的認識ができるだけ小さい歪みである画像を取得することを可能にする。人間の視覚システムの反応の結果の間の残余誤差の最小化はこれらの方法の間に算出される。この最小化は区間的に線形であり画像ごとに算出される変換曲線をもたらす。
オリジナルの画像シーケンスの画像の間の明るさの時間的な一致を維持するために、画像ダイナミックレンジ変換演算子を、上述した、オリジナルのシーケンスの各画像に適用した結果として生じる画像シーケンスに対して、処理を適用することも知られている。
例えば、Boitard et al. (R. Boitard et al., “Temporal coherency for video tone mapping," in Proc. SPIE 8499, Applications of Digital Image Processing XXXV, 2012.)は、上述された画像ダイナミックレンジ変換演算子のうちの1つによって修正されたオリジナルの画像シーケンスの画像の輝度コンポーネントLdの値のダイナミックレンジは、オリジナルの画像シーケンスの大域的特性から算出された値によって低減されることを提案している。
低減されたたダイナミックレンジ輝度コンポーネントL’dは式(5)によって与えられる:
変形により、低減されたダイナミックレンジ輝度コンポーネントL’dは式(6)によって与えられる:
ここで、xは、例えば、ユーザによって固定された低減値におけるオフセットである。
画像ダイナミックレンジ変換演算子がPTR演算子である特別の場合では、値Rは式(7)よって与えられる:
この後者の実施形態によれば、オリジナルの画像シーケンスに存在するオブジェクトの認識を維持すること、およびオリジナルの画像シーケンスの画像の間の明るさの時間的な一致を確保にすることが可能になる。
一実施形態によれば、値Rは式(8)によって与えられる:
ここで、
は、オリジナルの画像シーケンスの変換される画像の輝度コンポーネントのキーであり、
は、オリジナルの画像シーケンスの輝度コンポーネントのキーのうちの最大のキーであり、
は、変換される画像の修正された輝度コンポーネントLdのキーであり、
は、オリジナルの画像シーケンスに起因する修正された輝度コンポーネントLdのキーのうちの最大のキーである。
上述したような画像ダイナミックレンジ変換演算子を評価することも知られている。これらの演算子は、オリジナルの画像シーケンスの画像の間の明るさの時間的な一致(coherent)を維持する処理によって、潜在的に補完され得る。
このような評価のために、この演算子を適用した結果として生じる画像の主観的品質を数値化する評価基準を使用することが知られている(Ledda et al., ”Evaluation of tone mapping operators using a high dynamic range display," in ACMSIG-GRAPH 2005 Papers, NewYork, NY, USA, 2005, SIGGRAPH'05, pp.640-648, ACM., and Akiko Yoshida, "Perceptual evaluation of tone mapping operators with real-world scenes," in Proceedings of SPIE 2005, vol.5666, pp. 192-203, SPIE)。
しかしながら、これらの結果として生ずる画像は、ストレージの目的のためにサイズを制限するために、または通信チャネルを介した伝送の目的のためにビットレートを制限するために、非常に頻繁に符号化されるので、本発明者は、符号化および復号化の後にひとたび再構築されたこれらの結果として生ずる画像は、上記基準によって評価されるこれらの結果として生ずる画像の主観的品質に対応したレンダリング品質を体系的に持たないということを見出した。
本発明の目的は、上述した不利な点の少なくとも1つを克服することである。
この目的のために、概略的には、画像ダイナミックレンジ変換演算子の選択は、上記画像ダイナミックレンジ変換演算子によって修正されたオリジナルの画像を符号化および復号化した後の再構築されたバージョンから算出される歪みに応じた品質基準の最適化に基づいている。
かくして、所与のビットレートに関し、修正されたダイナミックレンジの画像の主観的品質は、所与のビットレートに対して最適である。
本発明の一側面によれば、本発明は、品質基準の最適化によって、画像ダイナミックレンジ変換演算子のセットから画像ダイナミックレンジ変換演算子を選択するための方法に関する。ダイナミックレンジがオリジナルの画像よりも低い、修正された画像と呼ばれる画像を取得するために、各画像ダイナミックレンジ変換演算子がオリジナルの画像に適用され、本方法は、上記品質基準が、各画像ダイナミックレンジ変換演算子について、上記画像ダイナミックレンジ変換演算子によって修正された画像を符号化および復号化した後の再構築されたバージョンから算出される歪みに応じて算出される。
一実施形態によれば、上記歪みは、上記画像ダイナミックレンジ変換演算子によって修正されたオリジナルの画像および上記再構築されたバージョンの間で算出される。
変形形態によれば、この再構築されたバージョンのダイナミックレンジが、上記修正されたオリジナルの画像を取得するために使用されたそれのインバース(inverse:逆)である演算子を適用することによって拡張されると、上記歪みは、上記修正されたオリジナルの画像および上記再構築されたバージョンの間で算出される。
変形形態によれば、この再構築されたバージョンのダイナミックレンジが、上記修正された画像を取得するために使用されたそれのインバースである演算子を適用することによって拡張されると、上記歪みは、上記オリジナルの画像および上記再構築されたバージョンの間で算出される。
上記方法の変形形態によれば、上記品質基準は、上記修正および符号化されたオリジナルの画像の上記ビットレートにも応じている。
本発明の他の側面によれば、本発明は、画像ダイナミックレンジ演算子のセットの中から画像ダイナミックレンジ変換演算子を選択するためのデバイスに関する。上記デバイスは、ダイナミックレンジがオリジナルの画像より低い、修正された画像と呼ばれる画像を取得するために、画像ダイナミックレンジ変換演算子をオリジナルの画像に適用する手段と、ダイナミックレンジ変換演算子を選択するために品質基準を最適化するための手段と、を含み、上記デバイスは、各画像ダイナミックレンジ変換演算子に関して、上記品質基準が上記画像ダイナミックレンジ変換演算子によって修正された上記画像を符号化および復号化した後の再構築されたバージョンから算出される歪みに応じて算出されるように上記品質基準を最適化するための手段が構成されていることに特徴がある。
本発明の他の側面によれば、本発明は、輝度値が所与のダイナミック値レンジに属するオリジナルの画像シーケンスを変換するためのシステムに関する。上記システムは、その値がオリジナルの画像シーケンスより低いダイナミック値レンジに属する、修正された輝度コンポーネントを取得するために、オリジナルの画像シーケンスの各画像の上記輝度コンポーネントに適用されることが意図されるいくつかのダイナミックレンジ変換演算子を含み、上記システムは、上述したものに従う上記画像ダイナミックレンジ変換演算子の中からダイナミックレンジ変換演算子を選択するためのデバイスをも含むことを特徴とする。
本発明の他の側面によれば、本発明は、オリジナルの画像に画像ダイナミックレンジ変換演算子を適用することによって取得される、ダイナミックレンジがオリジナルの画像よりも低い画像を使用して、所与のダイナミックレンジのオリジナルの画像を符号化するための方法にも関する。本方法は、上記画像ダイナミックレンジ変換演算子が、上述したものに従った方法に応じて、画像ダイナミックレンジ変換演算子のセットから選択されることを特徴とする。
本発明の他の側面によれば、本発明は、画像ダイナミックレンジ変換演算子をオリジナルの画像に適用することによって取得される、ダイナミックレンジがオリジナルの画像よりも低い画像を使用して、所与のダイナミックレンジのオリジナルの画像を符号化するためのデバイスにも関する。本デバイスは、上記画像ダイナミックレンジ変換演算子が、上述したものに従ったデバイスに応じて、画像ダイナミックレンジ変換演算子のセットから選択されることを特徴とする。
本発明は、添付の図面を参照した、非限定的な実施形態および好適な実施形態によって、よりよく理解され記述されるであろう。
画像ダイナミックレンジ変換演算子を選択するための方法の一実施形態を示す図である。 画像ダイナミックレンジ変換演算子を選択するための方法の変形形態を示す図である。 画像ダイナミックレンジ変換演算子を選択するための方法の変形形態の図である。 本発明に従った方法を実行する、画像ダイナミックレンジ変換演算子を選択するためのデバイスのブロック図である。 本発明に従った画像ダイナミックレンジを変換するシステムのブロック図である。
これ以後、M個の画像ダイナミックレンジ変換演算子TMOi(i=1からM)のセットのうちから画像ダイナミックレンジ変換演算子を選択するためのいくつかの実施形態および変形形態が記述される。これらの実施形態および変形形態において同一の参照符号は同一の構成を示す。
このセットは、一例によれば、導入のセクションにおいて記述された1つ以上の画像ダイナミックレンジ変換演算子を含むことができる。さらに、この画像ダイナミックレンジ変換演算子という用語は、導入のセクションにおいて記述されたようなオリジナルの画像シーケンスの画像の間の明るさの時間的な一致を確保することを可能にする処理をも含み得る。この処理は、演算子に従って適用され、上記セットの1つ以上の演算子に適用することができる。
画像シーケンスの画像全てのダイナミックレンジが修正され(変換されまたは適応され)なければならない場合、画像ダイナミックレンジ変換演算子は画像シーケンスの各画像に適用される。
図1は、M個の画像ダイナミックレンジ変換演算子TMOi(i=1からM)のセットの中から画像ダイナミックレンジ変換演算子TMOoを選択するための方法の実施形態を図示している。
本方法は、そのセットのうちの各演算子TMOiが本方法の入力においてそれ自体を現す各画像I1に適用される、画像ダイナミックレンジ変換演算子を適用するステップ10を含む。画像li 2のうちの番号Mは、ステップ10の出力においてその後得られる。これらの画像li 2の各々は、修正された画像と呼ばれる、すなわちオリジナルの画像I1よりもそのダイナミックレンジが低い画像である。各画像I1に対してM個の画像Ii 2があることに注意されたい。
本方法はまた、各画像li 2が既知の方法に従って符号化される、符号化するステップ20を含む。この符号化する方法は、例えば、静止画の場合におけるJPEGタイプであり得て、または例えば、ITU-T H.265/MPEG-H Part 2 'High Efficiency Video Codec'(HEVC)タイプの画像シーケンス符号器であり得る。
本方法は、各画像Ii 2を符号化することによって得られた符号を復号した後に画像Ii 3が再構築される、画像を再構築するステップ30をも含む。この目的について、ステップ20の出力における符号は、ステップ20の間使用される、符号化方法の双対法(dual method)によって復号される。多くの画像Ii 3が、それゆえ、画像Ii 2として再構築される。
一般的な方法では、本方法は、画像ダイナミックレンジ変換演算子TMOiによって修正された画像Ii 2を符号化および復号化した後の再構築されたバージョンIi 3から算出される歪みDiに応じて、品質基準Qiが各画像ダイナミックレンジ変換演算子TMOiについて算出される、品質基準を最適化するステップ40をも含む。
図1の実施形態によれば、ステップ40の間、歪みDiは、画像Ii 2および画像Ii 3の間で算出される。
図2は、図1に関連して記述された実施形態の変形形態を図示している。
この変形形態によれば、本方法は、各画像Ii 3および各画像Ii 2のダイナミックレンジが上記画像Ii 2を取得するために使用されるTMOiのインバースである演算子EOiを適用することによって拡張される、ダイナミックレンジを拡張するステップ50を含む。
歪みDiは、かくして、そのダイナミックレンジがオリジナルの画像のものである2つの画像の間で算出される。すなわち、歪みDiは、上記画像ダイナミックレンジ変換演算子TMOiによって修正されたオリジナルの画像Ii 2と、上記画像ダイナミックレンジ変換演算子TMOiによって修正されたオリジナルの画像Ii 2を符号化および復号化した後の再構築されたバージョンとの間で算出される。画像Ii 2およびこの再構築されたバージョンのダイナミックレンジは、ステップ50の間、拡張される。
この変形形態によれば、オリジナルの画像を参照する必要なく、どれがより良い圧縮率を取得することを可能にする画像ダイナミックレンジ変換演算子であるかを知ることが可能である。
図3は、図1に関連して記述される実施形態の変形形態を図示している。
この変形形態によれば、歪みDiは、オリジナルの画像I1および画像Ii 3の間で算出され、この再構築されたバージョンIi 3のダイナミックレンジは、修正された画像Ii 2を取得するために使用されるTMOiのインバースである演算子EOiを適用することによって、拡張される(ステップ50)。
本発明は、画像または画像シーケンスの符号化または画像ダイナミックレンジ変換演算子のうちの1つのタイプに決して限定されることはない。
しかしながら、画像シーケンス符号化のための方法が時間的予測器を使用する場合、本発明者は、選択された画像ダイナミックレンジ変換演算子が、オリジナルの画像シーケンスの画像の間の時間的な一致を維持するために、その結果として得られる画像が処理されたもの(またはそれらのうちの1つ)であったことに気づいた。実際に、時間的予測器で使用される動き推定器のパフォーマンスの低下を引き起こす2つの主な理由がある。
1つめは、画像ダイナミックレンジ変換演算子によって修正された画像に何の処理も適用されなかった場合に現れる、ある画像から他の画像への輝度値のフリッカに由来する。これらのフリッカアーチファクトは、時間的に連続する画像に対するキー値の変化に起因する。実際に、キーkがある画像から他の画像に変化した場合、(S字状の)修正された曲線もまた変化し、オリジナルの画像において同様にもかかわらず、輝度値について異なる修正をもたらす。
2つめは、オリジナルの画像の明るさの時間的な一致が維持されないことに由来する。実際に、動き推定器の品質がオリジナルの画像および予測画像の間の差から得られる残差画像の低ダイナミックレンジに密接に関係するように、明るさに関して、予測画像とオリジナルの画像との不一致が大きければ大きいほど、この残差画像はより高いダイナミックレンジを持つであろう。
本方法の変形形態によれば、品質基準Qiは、修正されたIi 2および符号化されたオリジナルの画像のビットレートRiの関数でもある。
品質基準Qiは以下の式によって与えられる:
ここで、Riは画像のサイズ、または画像Ii 2から算出される画像シーケンスのビットレートである。
歪みDiは、例えば、平均二乗誤差(MSE)タイプの距離によって与えられる。本発明は、このような測定基準に限定されず、他の測定基準が使用できる。
本方法の最後に選択される画像ダイナミックレンジ変換演算子は、それゆえ、品質基準Qiを最適化(二乗誤差の場合は最小化)する。
画像ダイナミックレンジ変換演算子が式(2)および(4)によって与えられる場合、対応する演算子EOiは以下の式で与えられる:
ここで、
ここで、aは選択された露出値であり、kは式(3)によって与えられるキーである。
演算子が、この画像の画素と、画像シーケンス内で変換されるべき画像に時間的に先行する予め定められた数の画像の画素とに応じてキーを算出する場合、その後、新しいキーが使用されなければならない。
画像ダイナミックレンジ変換演算子が、人間の視覚システム(HVS)の視覚的反応を使用するオリジナルの画像をその輝度値がスクリーンに適応されるダイナミックレンジに属する画像と比較する場合、人間の視覚システムの反応の結果の間の残差の最小化がこれらの方法の間に算出される。この最小化は、部分ごとに線形であり画像毎に算出される変換曲線をもたらす。対応する演算子EOiは、そして、部分ごとに線形であり画像毎に算出される変換曲線をインバースすることによって算出され、これは各画像についてである。
画像ダイナミックレンジ変換演算子がオリジナルの画像シーケンスの画像の時間的な一致を維持する処理によって得られる場合に関連する変形形態によれば、インバース演算子がこの画像に適用される前に、この処理のインバース処理が、画像Ii 3に適用される。
例えば、この処理が式(9)によって与えられる場合、インバース処理は以下の式で与えられるだろう:
ここでL’dは画像Ii 3の輝度コンポーネントである。
そのハードウェア側面の1つによれば、本発明は、図4を参照して記述される、画像ダイナミックレンジ変換演算子を選択するためのデバイス400に関する。
デバイス400は、デジタルアドレスおよびデータバス40によって相互接続されている、以下の要素を含む:
− 算出ユニット43(中央処理ユニットともいう);
− メモリ45;
− デバイス400および接続41を介して接続された他の遠隔デバイスの間の相互接続のための、ネットワークインタフェース44。
算出ユニット43は、(できる限り専用の)マイクロプロセッサによって、(またできる限り専用の)マイクロコントローラなどによって実装され得る。メモリ45は、RAM(ランダムアクセスメモリ)、ハードディスク、EPROM(消去可能プログラム可能ROM)などの、揮発性および/または不揮発性の形態で実装され得る。デバイス400は、図1から3に関して記述された本発明に従った方法を実装するように構成される。
この目的のために、手段43、44およびできる限り45は、互いに協働して画像ダイナミックレンジ変換演算子TMOiをオリジナルの画像Iに適用し、そのダイナミックレンジがオリジナルの画像よりも低い修正された画像Ii 2を取得するとともに、ダイナミックレンジ変換演算子を選択する品質基準を最適化する。品質基準を最適化する手段は、上記画像ダイナミックレンジ変換演算子TMOiによって修正されたオリジナルの画像Ii 2を符号化および復号化した後の再構築されたバージョンIi 3から算出された歪みDiに応じて、上記品質基準Qiが各画像ダイナミックレンジ変換演算子TMOiについて算出されるように構成される。
ハードウェアの他の側面によれば、本発明は、その輝度値が所与のダイナミック値レンジ(HDR)に属する画像のダイナミックレンジを、その輝度値がオリジナルの画像よりも低ダイナミック値レンジ(LDR)に属する画像に変換するシステムCONVに関する。これは、通常、HDRからLDRへのダイナミックレンジ低減として言及される。
図5は本発明に従った方法を実装する画像を変換するためのシステムのブロック図を示す。
システムCONVは、その輝度値が画像SIO(HDR)よりも低ダイナミック値レンジLDRに属する、修正された画像を取得するために、オリジナルの画像SIOの輝度コンポーネントLwに適用されるべく意図されたM(>1)個のダイナミックレンジ変換演算子TMOiを含む。
カラー(colour:色)画像の場合、システムCONVは、このカラー画像SIOの輝度コンポーネントLwを取得するための手段GLWを有する。例えば、画像SIOが(R,G,B)色空間において表現される場合、画像は、輝度コンポーネントLwを形成する、(Χ,Y,Ζ)空間のYチャネルを回復するように、(Χ,Y,Ζ)色空間において表現されるために変換される。このような色空間変換手段を使用することは広く知られている。手段GLWの他の例は、本発明の範囲を離れること無く使用できる。システムCONVはまた、色の一定の彩度(saturation)および色相を保存する目的のための手段DIVおよびMULTを有する。これらの手段DIVは、カラー画像SIOに対応するR、GおよびBカラーコンポーネントをコンポーネントLwによって分割するように構成され、および手段MULTは、修正された輝度コンポーネントによってかくして修正されたR、GおよびBカラーコンポーネントを乗算するように構成される。この乗算により生ずる3つのコンポーネントは、そしてフローティング値で表現される。修正された画像LDRを取得するために、この乗算によって生ずるこれらの3つのコンポーネントは、システムCONVの手段Ftolの入力において提出され、修正されたカラー画像が表示されなければならないスクリーンについてのダイナミック値レンジに属する全体の値へのそれらの値の変換を受ける。
本発明によれば、変換システムは、M個の変換演算子TMOiの中からダイナミックレンジ変換演算子TMOoを選択するためのデバイスもまた有する。このデバイスは、図4に関連して記述されるデバイス400に従ったものである。
他の側面によれば、本発明は、所与のダイナミックレンジのオリジナルの画像を符号化するための方法に関し、およびそのダイナミックレンジがオリジナルの画像のものよりも低い画像は、画像ダイナミックレンジ変換演算子をオリジナルの画像に適用することによって得られる。
そのような符号化方法の例は、各オリジナルの画像(しばしばHDR画像と呼ばれる画像)を、そのダイナミックレンジが低い画像(しばしばLDR画像と呼ばれる画像)を使用して、予測することである。このタイプの符号化方法は、HDR画像およびLDR画像の両方を符号化するものも含む。
このようなタイプの符号化方法は、本発明によれば、LDR画像を取得するために使用される画像ダイナミックレンジ変換演算子が、図1から4に関連して記述される方法のうちの1つに従って、画像ダイナミックレンジ変換演算子のセットから選択されることに特徴がある。さらに、演算子EOiが選択方法によって使用される場合、演算子EOiは、演算子TMOiによって生み出されるもののインバースである演算を実行する。
図1から5において、示されるモジュールは、物理的に区別可能なユニットに対応してもしなくてもよい機能ユニットである。例えば、これらのモジュールまたはこれらのうちのいくつかは、単一のコンポーネントまたは回路内にグループ化され、または同じソフトウェアの機能を構成することができる。一方、いくつかのモジュールは、別々の物理的エントリから構成される。本発明に適合するデバイスおよびシステムは、完全なハードウェア実施形態、例えば、専用コンポーネント(例えば、ASIC(application specific integrated circuit)、FPGA(field-programmable gate array)、VLSI(very large scale integration)、若しくはデバイスに統合されるいくつかの電気的コンポーネントの形態で、またはハードウェア要素およびソフトウェア要素の混合の形態でも実装される。
[付記1]
品質基準を最適化することによって、画像ダイナミックレンジ変換演算子のセットから画像ダイナミックレンジ変換演算子を選択するための方法であって、各画像ダイナミックレンジ変換演算子(TMOi)はオリジナルの画像(I 1 )に適用されて(10)、ダイナミックレンジが前記オリジナルの画像よりも低い、修正された画像(I i 2 )と呼ばれる画像を取得し、
前記品質基準(Qi)は、前記画像ダイナミックレンジ変換演算子(TMOi)によって修正された前記画像(I i 2 )を符号化および復号化した後の再構築されたバージョン(I i 3 )から算出される歪み(Di)に応じて、各画像ダイナミックレンジ変換演算子(TMOi)について算出される、前記方法。
[付記2]
前記歪み(Di)は、前記画像ダイナミックレンジ変換演算子(TMOi)によって修正されたオリジナルの画像(I i 2 )と前記再構築されたバージョン(I i 3 )との間で算出される、付記1に記載の方法。
[付記3]
前記歪み(Di)は、それらのダイナミックレンジが、前記修正されたオリジナルの画像(I i 2 )を取得するために使用されるそれ(TMOi)のインバースである演算子(EOi)を適用することによって拡張されると、前記修正されたオリジナルの画像(I i 2 )および前記再構築されたバージョン(I i 3 )の間で算出される、付記2に記載の方法。
[付記4]
前記歪みは、前記再構築されたバージョンのダイナミックレンジが、前記修正された画像を取得するために使用されるそれ(TMOi)のインバースである演算子(EOi)を適用することによって拡張されると、前記オリジナルの画像および前記再構築されたバージョン(I i 3 )の間で算出される、付記1に記載の方法。
[付記5]
前記品質基準(Qi)は、修正および符号化されたオリジナルの画像のビットレート(Di)の関数でもある、付記2から4のいずれかに記載の方法。
[付記6]
画像ダイナミックレンジ演算子のセットから画像ダイナミックレンジ変換演算子を選択するためのデバイスであって、前記デバイスは、画像ダイナミックレンジ変換演算子(TMOi)をオリジナルの画像(I 1 )に適用して、ダイナミックレンジが前記オリジナルの画像のものより低い、修正された画像(I i 2 )と呼ばれる画像を取得する手段、およびダイナミックレンジ変換演算子を選択するための品質基準を最適化するための手段を有し、
前記品質基準を最適化するための手段は、前記品質基準(Qi)が前記画像ダイナミックレンジ変換演算子(TMOi)によって修正された画像(I i 2 )を符号化および復号化した後の再構築されたバージョンから算出される歪み(Di)に応じて、各画像ダイナミックレンジ変換演算子(TMOi)について算出されるよう構成されている、前記デバイス。
[付記7]
輝度値が所与のダイナミック値レンジに属するオリジナルの画像シーケンス(SIO)を変換するためのシステムであって、前記システムは、値が前記オリジナルの画像シーケンス(SIO)の値よりも低ダイナミック値レンジに属する、修正された輝度コンポーネント(Ld)を取得するために、前記オリジナルの画像シーケンス(SIO)の各画像の輝度コンポーネント(Lw)に適用されるよう意図された、いくつかのダイナミックレンジ変換演算子(TMOi)を備え、
付記6に記載の方法に従って、前記画像ダイナミックレンジ変換演算子の中からダイナミックレンジ変換演算子(TMO)を選択するためのデバイスをまた備える、前記システム。
[付記8]
オリジナルの画像に画像ダイナミックレンジ変換演算子を適用することによって取得される、ダイナミックレンジが前記オリジナルの画像のダイナミックレンジよりも低い画像を使用して、所与のダイナミックレンジの前記オリジナルの画像を符号化する方法であって、
画像ダイナミックレンジ変換演算子は、付記1から5のいずれかに記載の方法に従って、画像ダイナミックレンジ変換演算子のセットから選択される、前記方法。
[付記9]
画像ダイナミックレンジ変換演算子をオリジナルの画像に適用することにより取得される、ダイナミックレンジが前記オリジナルの画像のダイナミックレンジよりも低い画像を使用して、所与のダイナミックレンジの前記オリジナルの画像を符号化するためのデバイスであって、
前記画像ダイナミックレンジ変換演算子は、付記6に記載されたデバイスに従って、画像ダイナミックレンジ変換演算子のセットから選択される、前記デバイス。

Claims (7)

  1. 品質基準を最適化することによって、画像ダイナミックレンジ変換演算子のセットから画像ダイナミックレンジ変換演算子を選択する方法であって、各画像ダイナミックレンジ変換演算子はオリジナルの画像に適用されて、ダイナミックレンジが前記オリジナルの画像よりも低い、修正された画像と呼ばれる画像を取得し、
    前記品質基準は、前記修正された画像と前記画像ダイナミックレンジ変換演算子によって修正された前記画像を符号化および復号化した後の再構築されたバージョンとの間で算出される歪みに応じて、各画像ダイナミックレンジ変換演算子について算出される、前記方法。
  2. 記修正された画像を取得するために使用され変換演算子のインバースである演算子を適用することによって前記修正された画像および前記再構築されたバージョンのダイナミックレンジが拡張されると、前記修正された画像および前記再構築されたバージョンの間で前記歪みが算出される、請求項1に記載の方法。
  3. 前記品質基準は、修正および符号化されたオリジナルの画像のビットレートの関数でもある、請求項1または2に記載の方法。
  4. 画像ダイナミックレンジ演算子のセットから画像ダイナミックレンジ変換演算子を選択するデバイスであって、前記デバイスは、
    画像ダイナミックレンジ変換演算子をオリジナルの画像に適用して、ダイナミックレンジが前記オリジナルの画像のものより低い、修正された画像と呼ばれる画像を取得し、
    ダイナミックレンジ変換演算子を選択するための品質基準を最適化するよう構成されているプロセッサを有し、
    前記プロセッサは、前記品質基準が、前記修正された画像と前記画像ダイナミックレンジ変換演算子によって修正された画像を符号化および復号化した後の再構築されたバージョンとの間で算出される歪みに応じて、各画像ダイナミックレンジ変換演算子について算出されるよう、品質基準を最適化するようさらに構成されている、前記デバイス。
  5. 輝度値が所与のダイナミック値レンジに属するオリジナルの画像シーケンスを変換する装置であって、前記装置は、値が前記オリジナルの画像シーケンスの値よりも低ダイナミック値レンジに属する、修正された輝度コンポーネントを取得するために、前記オリジナルの画像シーケンスの各画像の輝度コンポーネントに適用されるよう意図された、いくつかのダイナミックレンジ変換演算子を備え、
    請求項4に記載のデバイスに従って、前記画像ダイナミックレンジ変換演算子の中からダイナミックレンジ変換演算子を選択するデバイスをまた備える、前記装置。
  6. オリジナルの画像に画像ダイナミックレンジ変換演算子を適用することによって取得される、ダイナミックレンジが前記オリジナルの画像のダイナミックレンジよりも低い画像を使用して、所与のダイナミックレンジの前記オリジナルの画像を符号化する方法であって、
    画像ダイナミックレンジ変換演算子は、請求項1から3のいずれかに記載の方法に従って、画像ダイナミックレンジ変換演算子のセットから選択される、前記方法。
  7. 画像ダイナミックレンジ変換演算子をオリジナルの画像に適用することにより取得される、ダイナミックレンジが前記オリジナルの画像のダイナミックレンジよりも低い画像を使用して、所与のダイナミックレンジの前記オリジナルの画像を符号化するデバイスであって、
    前記画像ダイナミックレンジ変換演算子は、請求項4に記載されたデバイスに従って、画像ダイナミックレンジ変換演算子のセットから選択される、前記デバイス。
JP2015559483A 2013-02-27 2014-02-25 画像ダイナミックレンジ変換演算子を選択するための方法およびデバイス Expired - Fee Related JP6360841B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
FR1351721 2013-02-27
FR1351721 2013-02-27
PCT/EP2014/053625 WO2014131755A1 (en) 2013-02-27 2014-02-25 Method and device for selecting an image dynamic range conversion operator

Publications (3)

Publication Number Publication Date
JP2016517194A JP2016517194A (ja) 2016-06-09
JP2016517194A5 JP2016517194A5 (ja) 2017-03-16
JP6360841B2 true JP6360841B2 (ja) 2018-07-18

Family

ID=50239592

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015559483A Expired - Fee Related JP6360841B2 (ja) 2013-02-27 2014-02-25 画像ダイナミックレンジ変換演算子を選択するための方法およびデバイス

Country Status (6)

Country Link
US (1) US9767542B2 (ja)
EP (1) EP2962277A1 (ja)
JP (1) JP6360841B2 (ja)
KR (1) KR20150123810A (ja)
CN (1) CN105144231B (ja)
WO (1) WO2014131755A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2922288A1 (en) 2014-03-18 2015-09-23 Thomson Licensing Method for processing a video sequence, corresponding device, computer program and non-transitory computer-readable medium
US20160292825A1 (en) * 2015-04-06 2016-10-06 Qualcomm Incorporated System and method to refine image data
US9979895B2 (en) * 2015-09-04 2018-05-22 Disney Enterprises, Inc. High dynamic range tone mapping
EP3244616A1 (en) * 2016-05-13 2017-11-15 Thomson Licensing A method for encoding an input video comprising a luma component and two chroma components, the method comprising reshaping of said input video based on reshaping functions
CN109923580B (zh) * 2016-11-04 2023-12-15 特利丹菲力尔有限责任公司 用于热视频的动态范围压缩
US10499042B2 (en) * 2017-04-01 2019-12-03 Intel Corporation Barreling and compositing of images
US10446022B2 (en) * 2017-06-09 2019-10-15 Here Global B.V. Reversible lane active direction detection based on GNSS probe data
CN110610457A (zh) * 2018-06-14 2019-12-24 杭州海康威视数字技术股份有限公司 全景图像拼接方法、装置以及***
CN115499632A (zh) * 2019-10-18 2022-12-20 华为技术有限公司 一种图像信号转换处理方法、装置及终端设备

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5734433A (en) * 1995-06-21 1998-03-31 Sony Corporation Picture encoding apparatus, picture encoding method, picture encoding and transmitting method, and picture record medium
US6091777A (en) * 1997-09-18 2000-07-18 Cubic Video Technologies, Inc. Continuously adaptive digital video compression system and method for a web streamer
US8218625B2 (en) * 2004-04-23 2012-07-10 Dolby Laboratories Licensing Corporation Encoding, decoding and representing high dynamic range images
ES2551561T3 (es) * 2006-01-23 2015-11-19 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. Codecs de alto rango dinámico
US8085852B2 (en) 2007-06-26 2011-12-27 Mitsubishi Electric Research Laboratories, Inc. Inverse tone mapping for bit-depth scalable image coding
EP2144444B1 (en) * 2008-07-10 2012-06-27 The University Of Warwick HDR video data compression devices and methods
KR101740741B1 (ko) 2009-02-11 2017-06-08 톰슨 라이센싱 톤 매핑 및 톤 역매핑을 이용하는 비트 심도 스케일링 가능 비디오 인코딩 및 디코딩을 위한 방법 및 장치
CN102388612B (zh) * 2009-03-13 2014-10-08 杜比实验室特许公司 高动态范围、可视动态范围和宽色域视频的分层压缩
CN102473289A (zh) * 2009-07-30 2012-05-23 惠普开发有限公司 用于色调映射图像的方法
US8576445B2 (en) 2011-06-28 2013-11-05 Konica Minolta Laboratory U.S.A., Inc. Method for processing high dynamic range images using tone mapping to extended RGB space

Also Published As

Publication number Publication date
EP2962277A1 (en) 2016-01-06
WO2014131755A1 (en) 2014-09-04
US9767542B2 (en) 2017-09-19
CN105144231A (zh) 2015-12-09
KR20150123810A (ko) 2015-11-04
US20160012573A1 (en) 2016-01-14
CN105144231B (zh) 2019-04-09
JP2016517194A (ja) 2016-06-09

Similar Documents

Publication Publication Date Title
JP6360841B2 (ja) 画像ダイナミックレンジ変換演算子を選択するための方法およびデバイス
JP2019198107A (ja) 適応色空間変換の符号化
JP6496046B2 (ja) ピクセルの処理およびエンコーディング
JP5579936B2 (ja) 最適化されたデブロッキングフィルタ
JP6719572B2 (ja) 高ダイナミックレンジ色変換補正
CN109891894B (zh) 用于恢复由重构产生的劣化帧的劣化图块的方法和装置
US9979973B2 (en) Encoding and decoding methods for adapting the average luminance of high dynamic range pictures and corresponding encoder and decoder
AU2008245952B2 (en) Image compression and decompression using the pixon method
US10045024B2 (en) Method and device for quantising the floating value of a pixel in an image
KR20210021577A (ko) 비디오 코딩에서의 필터링을 위한 장치 및 방법
US10742986B2 (en) High dynamic range color conversion correction
JP2024020330A (ja) エンコードされた画像データ
WO2022266955A1 (zh) 图像解码及处理方法、装置及设备
KR102312338B1 (ko) Ai 부호화 장치 및 그 동작방법, 및 ai 복호화 장치 및 그 동작방법
CN109906610B (zh) 使用滤波和子空间投影的视频编译的恢复
WO2024140951A1 (en) A neural network based image and video compression method with integer operations
CN115988201B (zh) 一种编码胶片颗粒的方法、装置、电子设备和存储介质
US10715772B2 (en) High dynamic range color conversion correction
EP3063940B1 (en) Method and device for predictive coding/decoding of a group of pictures of a sequence of images with conversion of the dynamic of the values of the pixels
TW202325023A (zh) 視頻編解碼系統中基於交叉分量線性模型的預測方法及裝置
WO2019071045A1 (en) HIGH DYNAMIC RANGE COLORING CORRECTION
WO2019071046A1 (en) HIGH DYNAMIC RANGE OF COLOR CONVERSION CORRECTION

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20161125

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20161128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180223

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180625

R150 Certificate of patent or registration of utility model

Ref document number: 6360841

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees