JP6708374B2 - 画像群内で修正可能要素のセットを決定するための方法、デバイス、プログラム、及び可読媒体 - Google Patents

画像群内で修正可能要素のセットを決定するための方法、デバイス、プログラム、及び可読媒体 Download PDF

Info

Publication number
JP6708374B2
JP6708374B2 JP2015120513A JP2015120513A JP6708374B2 JP 6708374 B2 JP6708374 B2 JP 6708374B2 JP 2015120513 A JP2015120513 A JP 2015120513A JP 2015120513 A JP2015120513 A JP 2015120513A JP 6708374 B2 JP6708374 B2 JP 6708374B2
Authority
JP
Japan
Prior art keywords
pixel
candidate
modifiable
determining
map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015120513A
Other languages
English (en)
Other versions
JP2016027697A (ja
Inventor
アントワーヌ ロバート
アントワーヌ ロバート
グエナエル ドーア
グエナエル ドーア
Original Assignee
コンテントアルモア
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コンテントアルモア filed Critical コンテントアルモア
Publication of JP2016027697A publication Critical patent/JP2016027697A/ja
Application granted granted Critical
Publication of JP6708374B2 publication Critical patent/JP6708374B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8358Generation of protective data, e.g. certificates involving watermark
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/0028Adaptive watermarking, e.g. Human Visual System [HVS]-based watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0021Image watermarking
    • G06T1/005Robust watermarking, e.g. average attack or collusion attack resistant
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/467Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2201/00General purpose image data processing
    • G06T2201/005Image watermarking
    • G06T2201/0053Embedding of the watermark in the coding stream, possibly without decoding; Embedding of the watermark in the compressed domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

以下では、ビデオ透かしの分野において修正可能要素のセットを決定するための方法が開示される。詳細には、オーディオビデオコンテンツを表すコード化されたビットストリームの画像群内で修正可能要素のセットを決定するための方法であって、ヒートマップを決定することを含む方法が開示される。対応するデバイスも開示される。
本節は、以下に記載および/または特許請求される本原理のさまざまな態様と関係付けられることができる、当技術のさまざまな態様を読者に紹介することが意図されたものである。この議論は、本原理のさまざまな態様のより良い理解を促進するための背景情報を読者に提供するという点において、助けになるものと思われる。したがって、これらの言明はこの観点から読まれるべきであり、従来技術を認めるものとして読まれるべきではないことが理解されるべきである。
トレイタトレーシングは、何らかの一意の識別子を用いて透かし入れされたコンテンツをクライアントに供給するものである。無許可の配信ネットワーク上で海賊版コピーが後に見つかった場合、不正を働く顧客を特定することが可能である。
コンテンツに透かし入れするための周知の方法の中で、あるアプローチは、圧縮されたフォーマットのビットストリームを、如何なる種類の復元も用いずに直接修正することを含む。その場合、主要な課題は、導入された変更が復号段階でビデオ品質を著しく損なわないことを保障することである。例えば文脈適応や算術符号化などの、先進のエントロピー符号化方法論の導入は、ビットストリームのそのような修正をより困難なものにしている。特に空間的伝播および時間的伝播に対して適切なケアが行われない場合、ビットストリームのただ1つの修正が壊滅的な劣化をもたらすおそれがある。予測に使用されるフレームに透かし入れされると、導入された変更が復号処理を通じて時間的に伝播され、それにより、導入された透かしの制御不能な伝播のため、透かしの知覚不可能性を危険にさらすおそれがある。
時間的ドリフトとも呼ばれる時間的伝播は、ビデオコーデックに通常使用されるメカニズムである時間的予測から起こる。それは、多数のフレームの多数のピクセルに影響を及ぼすことがあり、すなわち(i)所与のフレーム内で、いくつかのピクセルがそれらの予測に同じ参照ピクセルを使用することがあり、(ii)異なるフレームのピクセルも、同じ参照ピクセルを使用することがある。さらに、時間的予測に関わるサブピクセル補間が、修正の影響を一層拡大する。
透かしが埋込み段階にて挿入され得る(位置、値)のセットを特定するためのビットストリームの解析は、透かし前処理としても知られる。
透かし前処理の第1の解決策は、(大多数のコーデックにおける非参照Bフレームのような)符号化された非参照フレームに透かし入れするビットストリームビデオ透かし入れシステムで利用可能であり、したがって、構成によって導入された変更のどのような時間的伝播も回避する。しかしながら、参照フレームも大変重要である。実際、参照フレームに透かし入れできることは、埋込み率を高め、したがって、透かしの堅牢性を高める。さらに、いくつかの配信ネットワークは、参照フレームだけを使用して復号フレーム順序とレンダリングフレーム順序との間の整合を行うストリームを取り扱い、これは、より柔軟なストリーミング能力を示唆している。したがって、これらの参照フレームに透かし入れすることは、ビットストリーム透かし入れシステムにとって大変重要であるが、言うまでもなく、時間的伝播の対処に関する課題を生じさせる。
他のフレームの予測に使用されるフレーム(Iフレーム、参照BフレームまたはPフレーム)などの参照フレームの場合、米国特許公開第20130188712号明細書に開示されるように、第2の解決策は、各マクロブロックについて、それがフレーム内予測またはフレーム間予測を通じて他のマクロブロックのピクセル値にどれだけ影響を及ぼすかを示す圧縮影響値を計算するものである。しかしながら、これらの圧縮影響値を作り上げることは、実際にはかなり困難であり、大いにコンピュータを多用する。それは実際、ブロックの影響を数フレームにわたって遅れずに追従することを要求する。次いで、小さな影響値を有するマクロブロックは、透かし入れ用に選択される。こう言われているものの、米国特許公開第20130188712号明細書は、異なる変更の時間的伝播がオーバーラップし、ことによっては制御不能な視覚的アーティファクトをもたらすことがないようにするための、どのようなメカニズムも開示していない。
この解決策の変形形態が仏国特許公開第2949283号明細書に開示されている。ビデオストリームの後続イメージおよび先行イメージを復号するための(すなわちフレーム内予測またはフレーム間予測中に)参照としての役割を果たしていないマクロブロックを含むイメージは、ビデオストリーム中のビデオイメージの中からオンザフライで特定される。次いで、この非参照マクロブロックが、所望の識別情報、すなわち透かしを符号化する代替マクロブロックで置き換えられる。しかしながら、仏国特許公開第2949283号明細書は、参照としての役割を果たしていないマクロブロックがどのように特定されるかが明示的に開示されておらず、したがって、圧縮影響値を計算するという課題を解決していない。
したがって、予測による透かしの時間的伝播および空間的伝播に対処する、候補透かしを決定するための計算効率の良い方法が必要とされている。例えば、その空間的伝播が別のフレームによって予測に使用されるどのようなマクロブロックも内含しない透かし(位置、値)を考えることができる。これは、その空間時間的伝播マップが交差しない候補透かしのセットを選択するものとして知られる理想的なものよりも、いくらか厳しい選択であるが、それは、かなり効率良く計算され得る。
本原理は、オーディオビデオコンテンツを表すコード化されたビットストリームの修正可能要素のセットを決定するための方法であって、参照としての各ピクセルの使用を表すヒートマップを決定することを含む方法を提案することによって、従来技術の欠点のうち少なくとも1つを克服する。
実際、本原理の顕著なアイデアは、参照フレーム内の、どのような時間的伝播もない領域または制御された時間的伝播のある領域に透かし入れするということであり、第1のステップにおいて、ビットストリームを解析して、透かし入れ可能な各フレームについて、透かし入れに相応しい全ての場所、並びに関連付けられた代替値及び特徴(空間的伝播、並びに堅牢性及び忠実度のいくつかの判断基準)を合わせて見つけることと、参照フレームごとに、参照としての各ピクセル、すなわち他のフレームのいくつかの予測に関わるピクセルの使用を表す参照ヒートマップまたはヒートマップと呼ばれるマップを構築することとをどちらも含む。次いで、第2のステップにおいて、正しい場所のセットが堅牢性と忠実度の判断基準を満たすものとして、また対応する参照ヒートマップによって与えられる参照フレームの非参照領域内にその空間的伝播マップが制限されるものとして選択される。
この目的のために、オーディオビデオコンテンツを表すコード化されたビットストリームの画像群内で修正可能要素のセットを決定するための方法が開示される。修正可能要素が、コンテンツをコード化するビットストリーム中の構文要素に対応するのではなく区分に対応することに当業者なら気付くであろう。実際、CABACエントロピー符号化では、構文要素が非整数個のビットに符号化される。その結果、修正可能要素に関連付けられたビットストリームの区分は、単一の構文要素の符号化に寄与し、またはいくつかのそれらにさえ寄与することができるが、単一の構文要素を完全に符号化することは滅多にできない。換言すれば、修正可能要素は、ビットストリーム中の所与の位置の、固定長の代替値(例えば2バイトの長さの2進ワード)を含む。本方法は、位置、コード化されたビットストリームのその位置での修正値、および修正値に関連付けられた空間的伝播マップを含む候補修正可能要素のセットを決定することと、参照フレームの各ピクセルについて、コード化されたビットストリームの復号中の時間的予測のためのそのピクセルの使用を表す情報を含むヒートマップを決定することと、ヒートマップおよび修正可能要素の空間的伝播マップに従って、コード化されたビットストリームの候補修正可能要素の中から修正可能要素を取得することと、を含む。
変形形態によると、時間的予測のためのピクセルの使用を表す情報は、そのピクセルが時間的予測のために使用されたか否かを示す2進値である。別の変形形態では、時間的予測のためのピクセルの使用を表す情報は、そのピクセルが時間的予測のために使用される回数を含む。別の変形形態では、時間的予測のためのピクセルの使用を表す情報は、予測のために参照ピクセルを使用するピクセルに関連付けられた予測重みの和を含む。各変形形態は、有利には、以下に記載されるように、透かしの時間的伝播の対処に関する変形形態に適合される。
有利には、ヒートマップは、候補修正可能要素が存在する参照フレームについて決定される。有利な実施形態では、そのような参照フレームは、PフレームおよびB参照フレームに限定される。
特定の実施形態によると、ヒートマップを決定することは、画像群の復号される各フレームについて、時間的予測のためのピクセルの使用を表す情報を、例えばゼロに初期化することと、前記フレームを復号することと、前記復号されたフレームの復号された各マクロブロックについて、時間的予測のためのピクセルの使用を表す情報を、復号されたマクロブロックが指し示す参照フレームに関連付けられたヒートマップ内で更新することと、を含む。
別の特定の実施形態によると、修正可能要素を取得することは、逆順に走査される画像群の各フレームについて、その空間的伝播マップがフレームの時間的ヒートマップ及びオーバーラップしない候補修正可能要素を選択することと、時間的予測のためのピクセルの使用を表す情報を、選択された候補修正可能要素の修正値に関連付けられた空間的伝播マップのマクロブロックに参照として使用される全てのピクセルについて更新することと、を含む。有利には、修正可能要素を取得するためのこの第2のステップは、反対の復号順に果たされる。各フレームについて、このステップは、堅牢性と忠実度の判断基準を満たし、対応する参照ヒートマップによって与えられる参照フレームの非参照領域内に伝播する候補修正可能要素のセットを選択し、次いで、選択された要素のマクロブロックを予測するのに使用されたピクセルに従って、以前の参照ヒートマップを更新する。
第1の変形形態によると、候補修正可能要素を選択することは、空間的伝播マップの少なくとも1つのピクセルのヒートマップ内での値がゼロに等しくないときに、候補修正可能要素を放棄することを含む。有利には、この変形形態は、どのような時間的伝播も誘発しない透かしだけを維持する。第2の変形形態によると、候補修正可能要素を選択することは、各候補修正可能要素について、候補修正可能要素の空間的伝播マップ内の、ヒートマップに従った予測のために使用されるピクセルの数を含む第1の依存性値を決定することと、第1の閾値よりも大きなそれらの第1の依存性値を有する全ての候補修正可能要素を放棄することと、を含む。有利には、この変形形態は、空間的伝播マップの制御された数のピクセルだけが他のフレームによって予測のために使用されるため、制限された時間的伝播を誘発する可能性のある要素を保つ。第3の変形形態によると、候補修正可能要素を選択することは、各候補修正可能要素について、候補修正可能要素の空間的伝播マップ内の全てのピクセルに関連付けられた時間的予測のためのピクセルの使用を表す情報の和を含む第2の依存性値を決定することと、その第2の依存性値が第2の閾値を超える候補修正可能要素を放棄することと、を含む。有利には、この変形形態は、制御された時間的伝播を生み出す要素を選ぶ。例えば、この変形形態は、他のフレーム内の、指定された値よりも多くのピクセルに、透かしが直接影響を及ぼさないことを保障する。
視聴覚コンテンツを表すコード化されたビットストリームの画像群内で修正可能要素のセットを決定するためのデバイスが開示される。本デバイスは、少なくとも1つのプロセッサーを備え、その少なくとも1つのプロセッサーは、コード化されたビットストリーム中での位置、修正値および修正値に関連付けられた空間的伝播マップを備える候補修正可能要素のセットを決定することと、フレームの各ピクセルについて、コード化されたビットストリームの復号中のその時間的予測のためのピクセルの使用を表す情報を備えるヒートマップを決定することと、ヒートマップおよび修正可能要素の空間的伝播マップに従って、コード化されたビットストリームの候補修正可能要素の中から修正可能要素を選択することと、を行うように構成される。
視聴覚コンテンツを表すコード化されたビットストリームの画像群内で修正可能要素のセットを決定するためのデバイスが開示される。本デバイスは、コード化されたビットストリーム中での位置、修正値、および修正値に関連付けられた空間的伝播マップを備える候補修正可能要素のセットを決定するための手段と、フレームの各ピクセルについて、コード化されたビットストリームの復号中のその時間的予測のためのピクセルの使用を表す情報を備えるヒートマップを決定するための手段と、ヒートマップおよび修正可能要素の空間的伝播マップに従って、コード化されたビットストリームの候補修正可能要素の中から修正可能要素を選択するための手段と、を備える。
コンピュータプログラムプロダクトであって、プログラムコード命令を備え、そのプログラムがコンピュータ上で実行されると、開示された実施形態および変形形態のいずれかによる処理方法のステップを実行する、コンピュータプログラムプロダクト。
プロセッサー可読媒体であって、少なくとも開示された実施形態および変形形態のいずれかによる処理方法のステップをプロセッサーに実施させるための命令を記憶している、プロセッサー可読媒体。
本諸実施形態は、明示的に記載されていないが、任意の組合せまたは部分的組合せで用いられてよい。例えば、ヒートマップによって運搬(carry)される情報の任意の変形形態が、選択ステップまたはヒートマップ更新ステップと組み合わされてよい。加えて、本方法について記載された任意の特徴または変形形態は、開示された方法を処理することが意図されるデバイス、およびプログラム命令を記憶するコンピュータ可読記憶媒体と適合性がある。
本原理の他の特徴および利点は、添付された図面を用いて示される本原理の非限定的な実施形態の説明を通じて明らかとなるであろう。
本発明の特定及び非限定的な実施形態による、修正可能要素のセットを決定するためのデバイスを示す図である。 本原理の特定及び非限定的な実施形態による、図1のデバイスの例示的アーキテクチャを表す図である。 本原理の特定及び非限定的な実施形態による、修正可能要素のセットを決定するための方法の流れ図である。 本原理の特定及び非限定的な実施形態による、図3に示された流れ図の詳細を表す図である。 本原理の特定及び非限定的な実施形態による、図3に示された流れ図の詳細を表す図である。 本原理の特定及び非限定的な実施形態による、ヒートマップを決定する様子を示す図である。 本原理の特定及び非限定的な実施形態による、空間的伝播マップおよびヒートマップに従って修正可能要素を選択する様子を示す図である。
図1は、本原理の特定及び非限定的な実施形態による、修正可能要素のセットを決定するためのデバイス1を示す。デバイス1は、いくつかのフレームI、PおよびBでできている少なくとも1つの画像群を受信するように構成された入力部10を備える。画像I、P、Bは、供給源から取得することができる。本原理の異なる実施形態によると、供給源は、
− 例えばビデオメモリ、RAM、フラッシュメモリ、ハードディスクなどのローカルメモリ、
− 例えば大容量記憶装置、ROM、光ディスク、または磁気支持体とのインターフェースなどの記憶装置インターフェース、
− 例えば有線インターフェース(例えばバスインターフェース、広域ネットワークインターフェース、ローカルエリアネットワークインターフェース)、またはワイヤレスインターフェース(IEEE 802.11インターフェースやブルートゥースインターフェースなど)などの通信インターフェース、および
− 画像取込み回路(例として、例えばCCD(すなわち電荷結合素子)やCMOS(すなわち相補型金属酸化膜半導体)などのセンサ)
を備えるセットに属する。入力部10は、候補修正可能要素または候補透かしのセットを決定するように構成されたモジュール12に連結される。各候補修正可能要素は、コード化されたビットストリーム中での位置、修正値およびこの修正値に関連付けられた空間的伝播マップを備える。空間的伝播マップについては、以下に記載される。入力部10は、ヒートマップを決定するように構成されたモジュール14にも連結される。有利には、モジュール14は、復号器を備える。候補修正可能要素を決定するモジュール12およびヒートマップを決定するモジュール14は、同時にまたは任意の順序で動作する。モジュール16は、空間的伝播マップおよびヒートマップに基づいて修正可能要素を取得するように構成される。モジュール16は、出力部18に連結される。修正可能要素は、メモリ内に記憶されてもよく、または透かし埋込み器に送出されてもよい。例として、修正可能要素は、リモートまたはローカルメモリ、例えば、ビデオメモリまたはRAM、ハードディスク内に記憶される。変形形態では、修正可能要素は、透かし埋込み器に、記憶装置インターフェース、例えば大容量記憶装置、ROM、フラッシュメモリ、光ディスク、もしくは磁気記憶装置とのインターフェースによって送信され、かつ/または通信インターフェース、例えばポイントツーポイントリンク、コミュニケーションバス、ポイントツーマルチポイントリンク、もしくは同報ネットワークへのインターフェースを経由して伝送される。
図2は、本原理の特定及び非限定的な実施形態による、デバイス1の例示的アーキテクチャを表す。処理デバイス1は、例えばCPU、GPU、および/またはDSP(ディジタル信号プロセッサーという英語の頭文字)である1または複数のプロセッサー110を備え、それと共に内部メモリ120(例えばRAM、ROM、EPROM)を備える。処理デバイス1は、出力情報を表示し、並びに/またはユーザがコマンドおよび/もしくはデータを入力できるように適合された、1またはいくつかの入力/出力インターフェース130(例えばキーボード、マウス、タッチパッド、ウェブカメラ、ディスプレイ)と、処理デバイス1の外部にあることができる電源140とを備える。処理デバイス1は、ネットワークインターフェース(図示せず)も備えることができる。本原理の例示的で非限定的な実施形態によると、処理デバイス1は、メモリ120内に記憶されたコンピュータプログラムをさらに備える。コンピュータプログラムは命令を含み、その命令は、処理デバイス1によって、具体的にはプロセッサー110によって実行されると、図3で説明される処理方法を処理デバイス1に実行させる。変形形態によると、コンピュータプログラムは、処理デバイス1の外部の非一時的なディジタルデータ支持体、例えば、いずれも当技術分野で周知のHDD、CD−ROM、DVD、読出し専用ドライブおよび/もしくはDVDドライブ、ならびに/またはDVD読出し/書込みドライブなどの外部記憶媒体に記憶される。したがって、処理デバイス1は、コンピュータプログラムを読み出すためのインターフェースを備える。さらに、デバイス1は、1または複数のユニバーサルシリアルバス(USB)タイプの記憶デバイス(例えば「メモリスティック」)に、対応するUSBポート(図示せず)を通じてアクセスすることができる。例示的で非限定的な諸実施形態によると、処理デバイス1は、
− モバイルデバイス、
− 通信デバイス、
− ゲームデバイス、
− タブレット(またはタブレット型コンピュータ)、
− ラップトップ型コンピュータ、
− 静止画カメラ、
− ビデオカメラ、
− 符号化チップ、
− 復号チップ、
− 静止画サーバー、
− ビデオサーバー(例えば同報サーバー、ビデオオンデマンドサーバー、またはウェブサーバー)、および
− ビデオ共有プラットフォーム
を備えるセットに属するデバイスである。
図3は、本原理の特定及び非限定的な実施形態による、修正可能要素のセットを決定するための方法の流れ図を表す。
ステップS12において、候補修正可能要素のセットは、画像群をコード化するビットストリームの各フレームについて、例えば透かし入れアルゴリズムを実装するモジュール12によって取得される。候補修正可能要素は、コード化されたビットストリーム中での、透かしが後に埋込み段階で挿入される位置と、関連付けられた代替値を含む。以下では、この対(位置、代替値)は修正値と呼ばれ、どちらの用語も交換可能に使用される。候補修正可能要素は、誘発される空間的伝播マップも含む。変形形態では、候補修正可能要素は、堅牢性と忠実度のいくつかの判断基準などの特徴をさらに含む。有利には、従来技術のどのような透かし入れアルゴリズムも、候補修正可能要素を決定するための本原理と適合性がある。例えば国際公開第2010/021682号パンフレットには、そのようなアルゴリズムが記載されている。マークが動きベクトルによってビットストリーム中で運搬される、H.264透かし入れアルゴリズムに対する変形形態では、動きベクトルの代替値に関連付けられた空間的伝播は、代替動きベクトルからのブロックの予測から生じることを当業者なら理解するであろう。図7に表されるように、空間的伝播SP6は、フレームi=6のマクロブロック700によってトリガされ、その動きベクトルは透かし入れ処理によって代替値に修正することができ、それにより、隣接ブロックに変化を引き起こすことができる。空間的伝播マップSP6は、700に関する動きベクトルの代替値を使用することによってその復号が影響を受ける全てのピクセル、すなわち、この特定のケースにおけるマクロブロック700並びにその右および下の隣接するマクロブロックのピクセル、を備える。MPEG2に対する別の変形形態では、伝播マップが自明であり、代替値そのものに対応することを当業者なら理解するであろう。マークが探索されるフレームは、透かし入れ可能フレームと呼ばれる。変形形態では、Iフレームは透かし入れ可能フレームではない。したがって、画像群をコード化するビットストリームの復号が、このステップで必要とされる。
ステップS14において、ヒートマップが決定される。ヒートマップは、参照フレームの各ピクセルについて、コード化されたビットストリームの復号中の時間的予測のためのピクセルの使用(usage)を表す情報を含む。有利には、ヒートマップは、画像群の各フレームについて構築されるのではなく、候補修正可能要素が存在し、それが参照として使用されるフレームについてのみ構築される。したがって、修正値が動きベクトルに対応する変形形態では、Iフレームについてヒートマップが構築されない。それらが動きベクトルを受け入れない(do not host)ためである。一方、修正値がDCT係数に対応する変形形態では、Iフレームについてヒートマップを構築することが妥当である。ヒートマップは非参照フレームについて構築される必要はないが、これらのフレームは候補修正可能要素を含む。それにもかかわらず、実際上の理由から、非参照フレームについてもデフォルトで空のヒートマップを定義することが好都合となり得る。有利には、ヒートマップは、候補修正可能要素が見つかり得るGOPのフレームのサブセットに導入されることができる、PフレームおよびB参照フレームについて構築される。そのようなヒートマップは、値を対応するフレームの各ピクセルに関連付け、したがって、ビデオフレームと同じ寸法(幅および高さ)を有する。有利には、ヒートマップは、値の表として記憶される。表中の見出しは、フレーム内でのピクセルの位置に対応する。ヒートマップの値は、GOPのマクロブロックの復号全体を通じて情報を収集することによって得られる。第1の変形形態では、ヒートマップは、関連する参照フレームの各ピクセルについて、その時間的予測のためのピクセルの使用を表す情報を含み、すなわち、他のフレーム内の1またはいくつかのマクロブロックは復号処理中にそのピクセルの値を利用する。第1の変形形態によると、時間的予測のためのピクセルの使用を表す情報は、そのピクセルが時間的予測に使用された(1にセットされた2進値)か否(ゼロにセットされた2進値)かを示す2進値である。例えば、フレームの各ピクセルについて、その時間的予測のためのピクセルの使用を表す情報は、GOP復号の初めにゼロに初期化され、そのピクセルが別のフレームのマクロブロックの復号に使用される度に1にセットされる。第2の変形形態によると、時間的予測のためのピクセルの使用を表す情報は、そのピクセルが時間的予測に使用される回数を特徴付ける。例えば、フレームの各ピクセルについて、その時間的予測のためのピクセルの使用を表す情報は、GOP復号の初めにゼロに初期化され、そのピクセルが別のフレームのマクロブロックの復号に使用される度に、1だけインクリメントされる。第3の変形形態によると、時間的予測のためのピクセルの使用を表す情報は、累積予測重みであり、したがって、より細かな情報を運搬(carry)する。例えば、フレームの各ピクセルについて、その時間的予測のためのピクセルの使用を表す情報は、GOP復号の初めにゼロに初期化され、そのピクセルが別のフレームのマクロブロックの復号に使用される度に、予測中(ピクセルが2つの別個の参照フレームに由来する2つの異なるピクセルの重み付き平均として予測されることができるとき)または補間中(ピクセルがいくつかの参照ピクセルの補間に由来するサブピクセルによって予測されることができるとき)に使用された重みの分だけインクリメントされる。他の変形形態によると、ヒートマップは、ピクセルを参照として使用するマクロブロックに関係する追加情報、例えば、フレーム番号および(特定の参照ピクセルを使用する)予測されたピクセル位置を内含するリストを保持することもできる。
有利には、ステップS12およびステップS14は、同時に実施される。したがって、1回のGOP復号が、空間的伝播マップおよびヒートマップを取得するために実施される。しかし、本方法は、任意の順序で順次実施され、したがって個別の復号を要求するステップと適合性がある。
図4は、本原理の特定及び非限定的な実施形態による、図3に示された流れ図のステップS14の詳細図を提供する。加えて図6は、本原理の特定及び非限定的な実施形態による、ヒートマップを決定する様子を例示する。これらの図は一緒に説明される。フレームiおよび対応するヒートマップHMiの2次元表現が使用される。本表現によると、ヒートマップ内で2進値が使用され、時間的予測における、ピクセルまたはより正確にはマクロブロックMBのピクセルの使用を表す。フレームiは、N個のピクセルを備えるマクロブロックMBに分割される。図6では、黒いマクロブロック600は時間的予測にいおてまだ使用されていないマクロブロック610に対応し、一方白いマクロブロック620は時間的予測においてすでに使用されたマクロブロック630に対応する。しかし、本原理はこの規則に限定されず、整数値、実数値、コード化マルチカラーレベル(coding multi-colour level)を備える表を使用されることができる。ステップS14の処理は、各画像群の復号中に反復される。画像群内で、フレームカウンタが1に初期化され、群の終わりに達するまで1だけインクリメントされる。ステップS140において、現在のフレームiがテストされて、関連するヒートマップHMiが作成される必要があるかどうかを決定する。例えば、図6に表されるGOPは、第1に参照Iフレームを備え、第2に参照Pフレームを備え、第3にB非参照フレーム(bと記されている)を備える。先に公にされたように、ヒートマップは、I、PおよびB参照フレームなどの参照フレームについてのみ関連があり、詳しく言うと、GOPの候補要素を内含する参照フレームにのみ関連がある。候補要素が動きベクトルである変形形態では、参照フレームI(候補要素なし)についてヒートマップHM1が構築されず、フレームi=3(非参照bフレーム)に関連付けられたヒートマップHMiも同様である。実際には、入力フレームiについてテストS140がポジティブ(はい)である場合、対応するヒートマップHMiが作成され、ステップS142において初期化される。フレームの全てのピクセルについて、時間的予測のためのピクセルの使用を表す情報がゼロにセットされる。テストS140がネガティブ(いいえ)である場合、ステップS142はスキップされる。変形形態によると、このステップS142がスキップされず、非参照フレームの各ヒートマップ値がヌル値、例えば−1または0にセットされ、その後無視され、すなわちこれらのヒートマップは、GOPの後続フレームの復号中に更新されない。ステップS144において、現在のフレームは、マクロブロックMBから他のマクロブロックMBへと相次いで復号される。マクロブロックMBは、時間的予測を通じたマクロブロック間の依存性を記録することに注意して、最初の左上MBから最後の右下MBへと順次復号される。図6に表されるように、フレームi=3内でのマクロブロックMBの復号は、例えば、Pフレーム(i=2)のマクロブロック630およびIフレーム(i=1)のマクロブロック640を使用する。したがって、ステップ146において、ヒートマップHM2内のマクロブロック630のピクセルに対応する時間的予測のためのピクセルの使用を表す情報は、1にセットされる(白いマクロブロック620)。一方、ヒートマップHM1におけるマクロブロックは、変更されないままになっている。実際、候補要素が動きベクトルである変形形態では、Iフレームが候補要素を受け入れないため、それらのピクセルに時間的伝播情報が必要とされない。その結果、このステップ146では、先に復号された1からi−1の間のフレームに関連付けられたヒートマップが、現在のフレームi=3内の復号されたMBの依存性に従って順次更新される。この処理は、GOPの連続する各フレームについて反復される。GOPの各フレームを復号する間、関連がある各ヒートマップが更新され、そのヒートマップは、H.264では、最大12の参照フレームが標準規格で定義されているため、少なくとも1つから場合によっては最大12のヒートマップを備える。
図3に戻ると、ステップS16において、修正可能要素の空間的伝播マップおよび対応するヒートマップに基づいて、コード化されたビットストリームの候補修正可能要素の中から修正可能要素が選択される。図5は、本原理の特定及び非限定的な実施形態による、流れ図のこのステップS16を詳細に示す。加えて図7は、本原理の特定及び非限定的な実施形態による、修正可能要素を選択する様子を示す。図5および図7は、一緒に説明される。ステップS16は、GOPを逆順に、最後のフレームi=nから最初のフレームi=1まで処理することによって実行される。ステップS16は主として、2つの部分ステップを含む。第1に、空間的伝播(伝播マップ)および時間的伝播(ヒートマップ)に対して準拠する候補修正可能要素が、透かしとして選択され、第2に、代替値に関連付けられた空間的伝播マップのマクロブロックに参照されるピクセルに従って、ヒートマップが更新される。簡単に言えば、非参照フレーム(タイプb)の場合、選択戦略は、国際公開第2010/021682号パンフレットに記載されているような典型的な透かし入れシステムで使用されているものである。各候補位置について、その空間的伝播が先に選抜候補リストに入れられた候補修正可能要素とオーバーラップしない最も不可視かつ堅牢な候補修正可能要素が好ましくは透かしとして選択されることを当業者なら理解するであろう。したがって、図7の例示的なGOPでは、GOPの最後のフレームi=6が、GOPの最後のフレームであるため、参照として使用されないフレームPであり、動きベクトルの代替値に従って修正される各修正可能マクロブロック700は、他のフレームに時間的に伝播しない。先に記載された選択戦略が適用される。
一方、参照フレーム(タイプPおよびB)の場合、選択戦略は、(ステップS14において処理されるように)時間的伝播の所在確認ができる別の制約と共に適用される。例えば、図7の例示的なGOPでは、GOPのフレームi=4は、参照として使用されるPフレームである。候補修正可能要素に関連付けられた各修正可能マクロブロック710、720、730について、ステップS160、S162、およびS164が順次反復される。したがって、予備ステップにおいて、現在のフレームiの修正可能マクロブロック710が評価のために取得される。第1のステップS160において、(修正可能マクロブロック710または730に関連付けられた)候補修正可能要素の空間的伝播マップが処理されたフレームに関連付けられたヒートマップHM4とオーバーラップする場合、(修正可能マクロブロック710または730に関連付けられた)修正可能要素は、可能な透かしとして選択されない。これは、図7に、バツ印で消されたブロック710または730によって表されている。図7の2進表現では、「オーバーラップしている」とは、修正される要素による、空間的伝播マップ内の少なくとも1つの修正されるピクセルの位置が、時間的予測に使用されるピクセルの位置と同一であることを意味する。換言すれば、ヒートマップ(715または735)上に事実上マッピングされる空間的伝播マップ内の少なくとも1つのピクセルのヒートマップ内での値がゼロに等しくないときに、候補修正可能要素が放棄される。一方、(修正可能マクロブロック720に関連付けられた)候補修正可能要素の空間的伝播マップが処理されたフレームのHM4上のヒートマップ725とオーバーラップしないとき、(修正可能マクロブロック720に関連付けられた)修正可能要素がステップS162において可能な透かしとして選択される。したがって、フレームi=4上では、2つの修正可能要素が選択される。有利には、選択された透かしが、参照として使用されないピクセル(図7に示されるような対応するヒートマップの0値を有する黒色のピクセル)のみからなるこの変形形態は、どのような時間的伝播も構成上回避する。
しかし、他の変形形態では、選択の際に、いくつかのピクセルまたは全てのピクセルが低い参照スコア、すなわち対応するヒートマップ内での低い値を有する候補修正可能要素を追加することによって、選択は、より柔軟性のあるものになることができ、また制限された時間的伝播を可能にすることができる。例えば、候補修正可能要素が1以下のスコア(他方は0である)を有する1つのピクセルを使用している場合、それが1つの他のフレーム/ピクセルに時間的に伝播し、そのことは、来るべき参照についての補足情報をヒートマップが保持する場合に知られ得る。したがって、第1の変形形態では、各候補修正可能要素について、現在の候補修正可能要素の空間的伝播マップ内のヒートマップに従った時間的予測に使用されるピクセルの数を備える第1の依存性値が計算される。次に、第1の閾値よりも大きなこの第1の依存性値を有する全ての候補修正可能要素が放棄される。この変形形態によると、ヒートマップとわずかにオーバーラップする候補修正可能要素(結果的に修正可能マクロブロック730になる)が選択される。非2進ヒートマップと適合性がある第2の変形形態によると、各候補修正可能要素について、候補修正可能要素の空間的伝播マップ内のピクセルに関連付けられた時間的予測のためのピクセルの使用を表す情報の和を備える第2の依存性値が計算される。その後、第2の閾値よりも大きなこの第2の依存性値を有する全ての候補修正可能要素が放棄される。この変形形態によると、候補修正可能要素は、ほんの少数のマクロブロックにしか影響を及ぼさない限り選択される。
その結果、追加のステップS16は、記載された変形形態に応じて、挿入された透かしの時間的伝播を回避または制御することを可能にする。
さらに、最終ステップS164において、時間的予測のためのピクセルの使用を表す情報が、選択された候補修正可能要素の修正値に関連付けられた空間的伝播マップのマクロブロックに参照として使用される全てのピクセルについて更新される。実際、透かし入れシステムは、例えば動きベクトルの修正を通じて予測を修正するため、参照フレームが使用される方途も修正し、したがって参照ヒートマップもわずかにではあるが修正する。例えば、選択された修正値に関連付けられた空間的伝播マップのマクロブロック720が、図7のフレームi=4内に表されている。本来の動きベクトルが使用されるか、それとも代替動きベクトルが使用されるかに応じて、時間的予測は、フレームi=2の左下の2つのマクロブロックのうち1つを利用し、したがって、ヒートマップが更新されて(745)、両方のマクロブロックが保存されることを保障する必要がある。より正確には、本来の動きベクトルに関連付けられたブロック745は、ステップS146でヒートマップHM2内に現れるが、他方は、対応する修正可能要素が選択された後に、更新ステップS164中に現れる。したがって、選択された各透かしについて、空間的伝播マップのマクロブロックに参照されるフレームに関連付けられたヒートマップは、更新されて、この可能性のある代替配置の所在確認ができるようにする必要がある。
本明細書に記載された実装は、例えば、方法もしくは処理、装置、ソフトウェアプログラム、データストリーム、または信号の形で実装されてよい。議論された特徴の実装は、たとえ単一の形態の実装の文脈でしか議論されていない(例えば方法またはデバイスとしてしか議論されていない)としても、他の形態(例えばプログラム)で実装されることもできる。装置は、例えば、適切なハードウェア、ソフトウェア、およびファームウェアの形で実装されてよい。方法は、例として、例えばプロセッサーなどの装置の形で実装されてよく、プロセッサーは、例えばコンピュータ、マイクロプロセッサ、集積回路、またはプログラマブルロジックデバイスを含む、処理デバイスを一般的に指す。プロセッサーは、例えばコンピュータ、セル式電話、携帯/個人情報端末(「PDA」:portable/personal digital assistant)、およびエンドユーザ間の情報の通信を容易にする他のデバイスなどの通信デバイスも含む。
本明細書に記載されたさまざまな処理および特徴の実装は、種々の異なる機器またはアプリケーション、特に、例えば機器またはアプリケーションの形で具体化することができる。そのような機器の例は、符号化器、復号器、復号器からの出力を処理するポストプロセッサー、符号化器への入力を提供するプリプロセッサー、ビデオコーダ、ビデオ復号器、ビデオコーデック、ウェブサーバー、セットトップボックス、ラップトップ型コンピュータ、パーソナルコンピュータ、セル式電話、PDA、および他の通信デバイスを含む。明らかなはずであるように、機器は、移動式でよく、移動車両内に設置されることさえできる。
さらに、方法は、プロセッサーによって命令が実施されることによって実装されてよく、そのような命令(および/または実装によって生成されるデータ値)は、例えば集積回路、ソフトウェアキャリア、または、例えばハードディスク、コンパクトディスケット(「CD」)、(例えばブルーレイ、しばしばディジタル多用途ディスクもしくはディジタルビデオディスクと呼ばれるDVDなどの)光ディスク、ランダムアクセスメモリ(「RAM」)、もしくは読出し専用メモリ(「ROM」)などの他の記憶デバイスなどの、プロセッサー可読媒体に記憶されてよい。命令は、プロセッサー可読媒体上で実体的に具体化されるアプリケーションプログラムを形成してよい。命令は、例えば、ハードウェア、ファームウェア、ソフトウェア、または組合せの形でよい。命令は、例えば、オペレーティングシステム、個別のアプリケーション、またはその2つの組合せにおいて見られてよい。したがって、プロセッサーは、例えば、処理を行うように構成されたデバイスと、処理を行うための命令を有する(記憶デバイスなどの)プロセッサー可読媒体を含むデバイスの両方として、特徴付けられることができる。さらに、プロセッサー可読媒体は、命令に加えて、または命令の代わりに、実装によって生成されるデータ値を記憶することもできる。
当業者には明白となるように、実装は、例えば記憶されてもよく伝送されてもよい情報を保持するようにフォーマット化された、種々の信号を生成することができる。情報は、例えば、方法を実施するための命令、または記載された実装のうち1つによって生成されるデータを含むことができる。例えば、信号はフォーマット化されて、記載された実施形態の構文を書くもしくは読むためのルールをデータとして保持し、または記載された実施形態によって書かれた実際の構文値をデータとして保持することができる。そのような信号は、例えば、(例えばスペクトルの無線周波数部分を用いた)電磁波として、またはベースバンド信号としてフォーマット化されてよい。フォーマット化することは、例えば、データストリームを符号化し、符号化されたデータストリームで搬送波を変調することを含んでよい。信号が保持する情報は、例えば、アナログ情報でもよくディジタル情報でもよい。信号は、周知のように、種々の異なる有線リンクまたはワイヤレスリンクを経由して伝送されてよい。信号は、プロセッサー可読媒体に記憶されてよい。
いくつかの実装が記載されてきた。それにもかかわらず、さまざまな修正が行われてよいことが理解されよう。例えば、異なる実装の要素が組み合わされて、補足されて、修正されて、または除去されて、他の実装を生成してよい。さらに、他の構造および処理が、開示されたものの代わりに使われてよく、結果として得られる実装が、開示された実装と少なくともほぼ同じ機能を、少なくともほぼ同じ方途で実施して、少なくともほぼ同じ結果を達成することを、当業者なら理解するであろう。したがって、これらおよび他の実装が、本願によって企図される。
なお、出願当初の特許請求の範囲の記載は以下の通りである。
請求項1:
オーディオビデオコンテンツを表すコード化されたビットストリームの修正可能要素のセットを決定するための方法であって、画像群をコード化する前記コード化されたビットストリームの部分について、
候補修正可能要素のセットを決定するステップ(S12)であって、候補修正可能要素は、前記コード化されたビットストリームの所与の場所の区分についての修正値と、前記修正値に関連付けられた空間的伝播マップとを含み、前記空間的伝播マップ(SP6)は、前記コード化されたビットストリーム中の前記所与の場所に前記修正値が配置されるとき、その復号が影響を受けるピクセルを含む、ステップと、
参照フレームごとに、前記参照フレームの各ピクセルについて、画像群をコード化する前記コード化されたビットストリームの前記部分の前記復号中の時間的予測のための前記ピクセルの使用を表す情報を含むヒートマップ(HMi)を決定するステップ(S14)と、
前記候補修正可能要素のセットの中から修正可能要素のセットを取得するステップ(S16)であって、修正可能要素が、対応するヒートマップとオーバーラップしない空間的伝播マップを有する、取得するステップと、
を含む、前記方法。
請求項2:
時間的予測のための前記ピクセルの使用を表す前記情報を決定するステップは、前記ピクセルが前記時間的予測に使用されたかどうかを指示する2進値を含む、請求項1に記載の方法。
請求項3:
時間的予測のための前記ピクセルの使用を表す前記情報を決定するステップは、前記ピクセルが前記時間的予測に使用される回数を含む、請求項1に記載の方法。
請求項4:
時間的予測のための前記ピクセルの使用を表す前記情報を決定するステップは、予測に使用される前記ピクセルの累積重みを含む、請求項1に記載の方法。
請求項5:
前記参照フレームは、PフレームおよびB参照フレームを含む、請求項1に記載の方法。
請求項6:
ヒートマップを決定するステップは、前記画像群の各フレームについて、
時間的予測のためのピクセルの使用を表す前記情報を初期化するステップ(S142)と、
前記フレームを復号するステップ(S144)と、
前記復号されたフレームの復号された各マクロブロックについて、時間的予測のためのピクセルの前記使用を表す前記情報を、前記ピクセルが前記復号されたマクロブロックの参照として使用されたときに更新するステップ(S146)と、
を含む、請求項1乃至5のいずれか一項に記載の方法。
請求項7:
修正可能要素を取得するステップは、逆順に走査される前記画像群の各フレームについて、
その空間的伝播マップが前記フレームの前記ヒートマップとオーバーラップしない候補修正可能要素を選択するステップ(S160、S162)と、
時間的予測のための前記ピクセルの前記使用を表す前記情報を、前記選択された候補修正可能要素の前記修正値に関連付けられた前記空間的伝播マップのマクロブロックに参照として使用される全てのピクセルについて更新するステップ(S164)と、
を含む、請求項6に記載の方法。
請求項8:
候補修正可能要素を選択するステップは、前記空間的伝播マップ内の少なくとも1つのピクセルの前記ヒートマップ内での値がゼロに等しくないときに、候補修正可能要素を放棄するステップを含む、請求項7に記載の方法。
請求項9:
候補修正可能要素を選択するステップは、
各候補修正可能要素について、前記候補修正可能要素の前記空間的伝播マップ内の前記ヒートマップに従った予測に使用されるピクセルの数を含む第1の依存性値を決定するステップと、
第1の閾値よりも大きな前記第1の依存性値を有する全ての候補修正可能要素を放棄するステップと、
を含む、請求項7に記載の方法。
請求項10:
候補修正可能要素を選択するステップは、
各候補修正可能要素について、前記候補修正可能要素の前記空間的伝播マップ内のピクセルに関連付けられた、時間的予測のための前記ピクセルの前記使用を表す前記情報の和を含む第2の依存性値を決定するステップと、
第2の閾値よりも大きな前記第2の依存性値を有する全ての候補修正可能要素を放棄するステップと、
を含む、請求項7または9に記載の方法。
請求項11:
オーディオビデオコンテンツを表すコード化されたビットストリームの修正可能要素のセットを決定するためのデバイスであって、少なくとも1つのプロセッサー(110)を備え、前記少なくとも1つのプロセッサー(110)が、画像群をコード化する前記コード化されたビットストリームの部分について、
候補修正可能要素のセットを決定することであって、候補修正可能要素は、前記コード化されたビットストリームの所与の場所の区分についての修正値および前記修正値に関連付けられた空間的伝播マップを含み、前記空間的伝播マップ(SP6)は、前記コード化されたビットストリーム中の前記所与の場所に前記修正値が配置されるとき、その復号が影響を受けるピクセルを含む、決定することと、
参照フレームごとに、前記参照フレームの各ピクセルについて、画像群をコード化する前記コード化されたビットストリームの前記部分の前記復号中の前記時間的予測のためのピクセルの使用を表す情報を含むヒートマップを決定することと、
前記候補修正可能要素のセットの中から修正可能要素のセットを取得することであって、修正可能要素は、対応するヒートマップとオーバーラップしない空間的伝播マップを有する、取得することと、
を行うように構成される、前記デバイス。
請求項12:
オーディオビデオコンテンツを表すコード化されたビットストリームの修正可能要素のセットを決定するためのデバイスであって、画像群をコード化する前記コード化されたビットストリームの部分について、
候補修正可能要素のセットを決定するための手段(12)であって、候補修正可能要素は、前記コード化されたビットストリームの所与のものの区分についての修正値および前記修正値に関連付けられた空間的伝播マップを含み、前記空間的伝播マップ(SP6)が、前記コード化されたビットストリーム中の前記所与の場所に前記修正値が配置されるとき、その復号が影響を受けるピクセルを含む、決定するための手段と、
参照フレームごとにヒートマップを決定するための手段(14)であって、前記ヒートマップは、参照フレームの各ピクセルについて、画像群をコード化する前記コード化されたビットストリームの前記部分の前記復号中の前記時間的予測のためのピクセルの使用を表す情報を含む、決定するための手段と、
前記候補修正可能要素のセットの中から修正可能要素のセットを取得するための手段(16)であって、修正可能要素は、対応するヒートマップとオーバーラップしない空間的伝播マップを有する、取得するための手段と、
を備える、前記デバイス。
請求項13:
コンピュータプログラムプロダクトであって、プログラムコード命令を備え、そのプログラムがコンピュータ上で実行されると、請求項1乃至10のいずれか一項に記載の方法のステップを実行する、前記コンピュータプログラムプロダクト。
請求項14:
プロセッサー可読媒体であって、少なくとも請求項1乃至10のいずれか一項に記載の方法のステップをプロセッサーに実施させるための命令をその中に記憶している、前記プロセッサー可読媒体。

Claims (14)

  1. オーディオビデオコンテンツを表すコード化されたビットストリームの修正可能要素のセットを決定するための方法であって、画像群をコード化する前記コード化されたビットストリームの部分について、
    候補修正可能要素のセットを決定するステップ(S12)であって、候補修正可能要素は、前記コード化されたビットストリームの所与の場所の区分についての修正値と、前記コード化されたビットストリームの前記修正値の前記所与の場所の指示と、前記所与の場所の前記修正値に関連付けられた空間的伝播マップとを含み、前記空間的伝播マップ(SP6)は、前記コード化されたビットストリーム中の前記所与の場所に前記修正値が配置されるとき、その復号が影響を受けるピクセルを含む、ステップと、
    参照フレームごとに、前記参照フレームの各ピクセルについて、画像群をコード化する前記コード化されたビットストリームの前記部分の前記復号中の時間的予測のための前記ピクセルの使用を表す情報を含むヒートマップ(HMi)を決定するステップ(S14)と、
    前記候補修正可能要素のセットの中から修正可能要素のセットを取得するステップ(S16)であって、候補修正可能要素は、前記候補修正可能要素の前記空間的伝搬マップが、対応するヒートマップと交差しないときに、修正可能要素として選択される、取得するステップと、
    を含む、前記方法。
  2. 時間的予測のための前記ピクセルの使用を表す前記情報は、前記ピクセルが前記時間的予測に使用されたかどうかを指示する2進値である、請求項1に記載の方法。
  3. 時間的予測のための前記ピクセルの使用を表す前記情報は、前記ピクセルが前記時間的予測に使用される回数である、請求項1に記載の方法。
  4. 時間的予測のための前記ピクセルの使用を表す前記情報は、予測に使用される前記ピクセルの累積重みである、請求項1に記載の方法。
  5. 前記参照フレームは、PフレームおよびB参照フレームを含む、請求項1に記載の方法。
  6. ヒートマップを決定するステップは、前記画像群の各フレームについて、
    時間的予測のためのピクセルの使用を表す前記情報を初期化するステップ(S142)と、
    前記フレームを復号するステップ(S144)と、
    前記復号されたフレームの復号された各マクロブロックについて、時間的予測のためのピクセルの前記使用を表す前記情報を、前記ピクセルが前記復号されたマクロブロックの参照として使用されたときに更新するステップ(S146)と、
    を含む、請求項1乃至5のいずれか一項に記載の方法。
  7. 修正可能要素を取得するステップは、逆順に走査される前記画像群の各フレームについて、
    その空間的伝播マップが前記フレームの前記ヒートマップに関する判断基準を満たすピクセルを含む候補修正可能要素を選択するステップ(S160、S162)と、
    時間的予測のための前記ピクセルの前記使用を表す前記情報を、前記選択された候補修正可能要素の前記修正値に関連付けられた前記空間的伝播マップのマクロブロックに参照として使用される全てのピクセルについて更新するステップ(S164)と、
    を含む、請求項6に記載の方法。
  8. 候補修正可能要素を選択するステップは、前記空間的伝播マップ内の少なくとも1つの
    ピクセルの時間的予測のための前記使用を表す前記ヒートマップ内での前記情報が時間的予測に使用された前記ピクセルを指示するときに、候補修正可能要素を放棄するステップを含む、請求項7に記載の方法。
  9. 候補修正可能要素を選択するステップは、
    各候補修正可能要素について、前記候補修正可能要素の前記空間的伝播マップ内の前記ヒートマップに従った予測に使用されるピクセルの数を含む第1の依存性値を決定するステップと、
    第1の閾値よりも大きな前記第1の依存性値を有する全ての候補修正可能要素を放棄するステップと、
    を含む、請求項7に記載の方法。
  10. 候補修正可能要素を選択するステップは、
    各候補修正可能要素について、前記候補修正可能要素の前記空間的伝播マップ内のピクセルに関連付けられた、時間的予測のための前記ピクセルの前記使用を表す前記情報の和を含む第2の依存性値を決定するステップと、
    第2の閾値よりも大きな前記第2の依存性値を有する全ての候補修正可能要素を放棄するステップと、
    を含む、請求項7または9に記載の方法。
  11. オーディオビデオコンテンツを表すコード化されたビットストリームの修正可能要素のセットを決定するためのデバイスであって、少なくとも1つのプロセッサー(110)を備え、前記少なくとも1つのプロセッサー(110)が、画像群をコード化する前記コード化されたビットストリームの部分について、
    候補修正可能要素のセットを決定することであって、候補修正可能要素は、前記コード化されたビットストリームの所与の場所の区分についての修正値と、前記コード化されたビットストリームの前記修正値の前記所与の場所の指示と、前記所与の場所の前記修正値に関連付けられた空間的伝播マップとを含み、前記空間的伝播マップ(SP6)は、前記コード化されたビットストリーム中の前記所与の場所に前記修正値が配置されるとき、その復号が影響を受けるピクセルを含む、決定することと、
    参照フレームごとに、前記参照フレームの各ピクセルについて、画像群をコード化する前記コード化されたビットストリームの前記部分の前記復号中の時間的予測のための前記ピクセルの使用を表す情報を含むヒートマップを決定することと、
    前記候補修正可能要素のセットの中から修正可能要素のセットを取得することであって、候補修正可能要素は、前記候補修正可能要素の前記空間的伝搬マップが、対応するヒートマップと交差しないときに、修正可能要素として選択される、取得することと、
    を行うように構成される、前記デバイス。
  12. オーディオビデオコンテンツを表すコード化されたビットストリームの修正可能要素のセットを決定するためのデバイスであって、画像群をコード化する前記コード化されたビットストリームの部分について、
    候補修正可能要素のセットを決定するための手段(12)であって、候補修正可能要素は、前記コード化されたビットストリームの所与の場所の区分についての修正値と、前記コード化されたビットストリームの前記修正値の前記所与の場所の指示と、前記所与の場所の前記修正値に関連付けられた空間的伝播マップとを含み、前記空間的伝播マップ(SP6)が、前記コード化されたビットストリーム中の前記所与の場所に前記修正値が配置されるとき、その復号が影響を受けるピクセルを含む、決定するための手段と、
    参照フレームごとにヒートマップを決定するための手段(14)であって、前記ヒートマップは、参照フレームの各ピクセルについて、画像群をコード化する前記コード化されたビットストリームの前記部分の前記復号中の時間的予測のための前記ピクセルの使用を表す情報を含む、決定するための手段と、
    前記候補修正可能要素のセットの中から修正可能要素のセットを取得するための手段(16)であって、候補修正可能要素は、前記候補修正可能要素の前記空間的伝搬マップが、対応するヒートマップと交差しないときに、修正可能要素として選択される、取得するための手段と、
    を備える、前記デバイス。
  13. コンピュータプログラムであって、プログラムコード命令を備え、そのプログラムがコンピュータ上で実行されると、請求項1乃至10のいずれか一項に記載の方法のステップを実行する、前記コンピュータプログラム。
  14. プロセッサー可読媒体であって、少なくとも請求項1乃至10のいずれか一項に記載の方法のステップをプロセッサーに実施させるための命令をその中に記憶している、前記プロセッサー可読媒体。
JP2015120513A 2014-06-27 2015-06-15 画像群内で修正可能要素のセットを決定するための方法、デバイス、プログラム、及び可読媒体 Expired - Fee Related JP6708374B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP14306037.4 2014-06-27
EP14306037.4A EP2960854A1 (en) 2014-06-27 2014-06-27 Method and device for determining a set of modifiable elements in a group of pictures

Publications (2)

Publication Number Publication Date
JP2016027697A JP2016027697A (ja) 2016-02-18
JP6708374B2 true JP6708374B2 (ja) 2020-06-10

Family

ID=51228386

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015120513A Expired - Fee Related JP6708374B2 (ja) 2014-06-27 2015-06-15 画像群内で修正可能要素のセットを決定するための方法、デバイス、プログラム、及び可読媒体

Country Status (6)

Country Link
US (1) US9607349B2 (ja)
EP (2) EP2960854A1 (ja)
JP (1) JP6708374B2 (ja)
KR (1) KR102267770B1 (ja)
CN (1) CN105227961B (ja)
BR (1) BR102015015579A2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013112744A2 (en) * 2012-01-24 2013-08-01 Futurewei Technologies, Inc. Compressed domain watermarking with reduced error propagation
EP3340629A1 (en) * 2016-12-21 2018-06-27 Thomson Licensing Method and apparatus for embedding key information in an image
TWI684358B (zh) * 2017-04-21 2020-02-01 美商時美媒體公司 用於基於編碼器提示以演現及預編碼負載估計的系統及方法
US20200126582A1 (en) * 2017-04-25 2020-04-23 Sony Corporation Signal processing device and method, and program
EP3410717A1 (en) * 2017-05-31 2018-12-05 Thomson Licensing Methods and apparatus for candidate list pruning
CN112188151B (zh) * 2019-07-05 2023-06-23 浙江宇视科技有限公司 视频处理方法、装置及计算机可读存储介质
US10819923B1 (en) * 2019-11-19 2020-10-27 Waymo Llc Thermal imaging for self-driving cars

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005530462A (ja) * 2002-06-13 2005-10-06 ドルビー・ラボラトリーズ・ライセンシング・コーポレーション 次世代テレビジョンにおける暗号化および透かし処理を施される時間的および解像度レイヤ構造
JP2006121460A (ja) 2004-10-22 2006-05-11 Dainippon Printing Co Ltd 電子透かしの埋め込み方法および抽出方法
GB2425425B (en) 2005-04-22 2011-01-19 Sony Uk Ltd Data processing apparatus
CN101681499B (zh) * 2007-06-14 2013-04-24 汤姆逊许可证公司 修改经编码的比特流
JP5373910B2 (ja) * 2008-08-19 2013-12-18 トムソン ライセンシング Cabacストリームのコンプライアンス
US9042455B2 (en) * 2008-08-19 2015-05-26 Thomson Licensing Propagation map
CN102187673B (zh) * 2008-08-19 2014-07-30 汤姆森特许公司 亮度评估
EP2319244A1 (en) 2008-08-19 2011-05-11 Thomson Licensing Cabac/avc compliant watermarking of syntax elements in compressed video
CN102132564B (zh) * 2008-08-20 2013-09-11 汤姆森特许公司 用于压缩视频的水印制作的水印选取
KR101650882B1 (ko) * 2008-08-20 2016-08-24 톰슨 라이센싱 워터마킹의 블록 현상 및 충실도
FR2949283B1 (fr) 2009-08-19 2012-03-30 Neotion Procede et installation pour marquer en temps reel un flux video compose d'une succession d'images video codees selon la norme mpeg-2.
KR101195388B1 (ko) * 2010-10-29 2012-10-29 에스케이하이닉스 주식회사 데드 픽셀 보상 테스트 장치
KR20120089391A (ko) * 2010-11-10 2012-08-10 에스케이하이닉스 주식회사 내부전압 테스트 장치 및 이를 구비하는 이미지 센서
US9380186B2 (en) * 2012-08-24 2016-06-28 Digimarc Corporation Data hiding for spot colors in product packaging
WO2013112744A2 (en) 2012-01-24 2013-08-01 Futurewei Technologies, Inc. Compressed domain watermarking with reduced error propagation
WO2014037939A1 (en) * 2012-09-05 2014-03-13 Body Pass Ltd. System and method for deriving accurate body size measures from a sequence of 2d images
JP6495254B2 (ja) * 2013-06-12 2019-04-03 スリーエム イノベイティブ プロパティズ カンパニー 視覚的注意モデリングの結果の提示
WO2015006369A1 (en) * 2013-07-08 2015-01-15 Truestream Kk Real-time analytics, collaboration, from multiple video sources
WO2015023732A1 (en) * 2013-08-13 2015-02-19 H. Lee Moffitt Cancer Center And Research Institute, Inc. Systems, methods and devices for analyzing quantitative information obtained from radiological images
US9794984B2 (en) * 2013-09-17 2017-10-17 Qualcomm Incorporated Techniques for utilizing access point vicinity information
WO2015069824A2 (en) * 2013-11-06 2015-05-14 Lehigh University Diagnostic system and method for biological tissue analysis
US20150310601A1 (en) * 2014-03-07 2015-10-29 Digimarc Corporation Methods and arrangements for identifying objects

Also Published As

Publication number Publication date
KR102267770B1 (ko) 2021-06-23
CN105227961A (zh) 2016-01-06
EP2960855A1 (en) 2015-12-30
EP2960855B1 (en) 2020-06-03
US20150379659A1 (en) 2015-12-31
US9607349B2 (en) 2017-03-28
CN105227961B (zh) 2019-11-05
KR20160001714A (ko) 2016-01-06
JP2016027697A (ja) 2016-02-18
BR102015015579A2 (pt) 2016-08-09
EP2960854A1 (en) 2015-12-30

Similar Documents

Publication Publication Date Title
JP6708374B2 (ja) 画像群内で修正可能要素のセットを決定するための方法、デバイス、プログラム、及び可読媒体
JP6931690B2 (ja) コンテンツをエンコードする方法及び計算装置
JP6545318B2 (ja) 復号方法、装置、プログラム、記憶媒体
CN105392008B (zh) 一种预测编、解码方法和相应的编、解码器和电子设备
TW201830972A (zh) 用於視訊寫碼之低複雜度符號預測
KR20110061551A (ko) 상황-기반의 적응형 이진 산술 코딩(cabac)비디오 스트림 준수
TW201143463A (en) A video decoder and a video encoder using motion-compensated prediction
CN107431807A (zh) 内容自适应b‑图像模式视频编码
US10979704B2 (en) Methods and apparatus for optical blur modeling for improved video encoding
JP2012147291A (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2007110409A (ja) 画像処理装置及び画像処理方法をコンピュータに実行させるためのプログラム
WO2013112744A2 (en) Compressed domain watermarking with reduced error propagation
US10218978B2 (en) Data processing systems
CN117041597B (zh) 一种视频编码、解码方法、装置、电子设备及存储介质
CN110868601B (zh) 帧间预测方法、装置以及视频编码器和视频解码器
JP2009021786A (ja) 画像符号化装置及び画像符号化方法
JP2015185897A (ja) 画像符号化方法及び画像符号化装置
JP2009273064A (ja) エンコーダ評価方法、プログラム、及び、エンコーダ評価装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20170816

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181218

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200521

R150 Certificate of patent or registration of utility model

Ref document number: 6708374

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees