JP6810827B2 - 符号化装置、復号装置、符号化方法及び復号方法 - Google Patents
符号化装置、復号装置、符号化方法及び復号方法 Download PDFInfo
- Publication number
- JP6810827B2 JP6810827B2 JP2020505025A JP2020505025A JP6810827B2 JP 6810827 B2 JP6810827 B2 JP 6810827B2 JP 2020505025 A JP2020505025 A JP 2020505025A JP 2020505025 A JP2020505025 A JP 2020505025A JP 6810827 B2 JP6810827 B2 JP 6810827B2
- Authority
- JP
- Japan
- Prior art keywords
- block
- subblock
- coding
- unit
- decoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
- H04N19/423—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
- H04N19/463—Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/63—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/96—Tree coding, e.g. quad-tree coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Error Detection And Correction (AREA)
- Reduction Or Emphasis Of Bandwidth Of Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
まず、後述する本開示の各態様で説明する処理及び/または構成を適用可能な符号化装置及び復号装置の一例として、実施の形態1の概要を説明する。ただし、実施の形態1は、本開示の各態様で説明する処理及び/または構成を適用可能な符号化装置及び復号装置の一例にすぎず、本開示の各態様で説明する処理及び/または構成は、実施の形態1とは異なる符号化装置及び復号装置においても実施可能である。
(2)実施の形態1の符号化装置または復号装置に対して、当該符号化装置または復号装置を構成する複数の構成要素のうち一部の構成要素について機能または実施する処理の追加、置き換え、削除などの任意の変更を施した上で、本開示の各態様で説明する構成要素に対応する構成要素を、本開示の各態様で説明する構成要素に置き換えること
(3)実施の形態1の符号化装置または復号装置が実施する方法に対して、処理の追加、及び/または当該方法に含まれる複数の処理のうちの一部の処理について置き換え、削除などの任意の変更を施した上で、本開示の各態様で説明する処理に対応する処理を、本開示の各態様で説明する処理に置き換えること
(4)実施の形態1の符号化装置または復号装置を構成する複数の構成要素のうちの一部の構成要素を、本開示の各態様で説明する構成要素、本開示の各態様で説明する構成要素が備える機能の一部を備える構成要素、または本開示の各態様で説明する構成要素が実施する処理の一部を実施する構成要素と組み合わせて実施すること
(5)実施の形態1の符号化装置または復号装置を構成する複数の構成要素のうちの一部の構成要素が備える機能の一部を備える構成要素、または実施の形態1の符号化装置または復号装置を構成する複数の構成要素のうちの一部の構成要素が実施する処理の一部を実施する構成要素を、本開示の各態様で説明する構成要素、本開示の各態様で説明する構成要素が備える機能の一部を備える構成要素、または本開示の各態様で説明する構成要素が実施する処理の一部を実施する構成要素と組み合わせて実施すること
(6)実施の形態1の符号化装置または復号装置が実施する方法に対して、当該方法に含まれる複数の処理のうち、本開示の各態様で説明する処理に対応する処理を、本開示の各態様で説明する処理に置き換えること
(7)実施の形態1の符号化装置または復号装置が実施する方法に含まれる複数の処理のうちの一部の処理を、本開示の各態様で説明する処理と組み合わせて実施すること
まず、実施の形態1に係る符号化装置の概要を説明する。図1は、実施の形態1に係る符号化装置100の機能構成を示すブロック図である。符号化装置100は、動画像/画像をブロック単位で符号化する動画像/画像符号化装置である。
分割部102は、入力動画像に含まれる各ピクチャを複数のブロックに分割し、各ブロックを減算部104に出力する。例えば、分割部102は、まず、ピクチャを固定サイズ(例えば128x128)のブロックに分割する。この固定サイズのブロックは、符号化ツリーユニット(CTU)と呼ばれることがある。そして、分割部102は、再帰的な四分木(quadtree)及び/又は二分木(binary tree)ブロック分割に基づいて、固定サイズのブロックの各々を可変サイズ(例えば64x64以下)のブロックに分割する。この可変サイズのブロックは、符号化ユニット(CU)、予測ユニット(PU)あるいは変換ユニット(TU)と呼ばれることがある。なお、本実施の形態では、CU、PU及びTUは区別される必要はなく、ピクチャ内の一部又はすべてのブロックがCU、PU、TUの処理単位となってもよい。
減算部104は、分割部102によって分割されたブロック単位で原信号(原サンプル)から予測信号(予測サンプル)を減算する。つまり、減算部104は、符号化対象ブロック(以下、カレントブロックという)の予測誤差(残差ともいう)を算出する。そして、減算部104は、算出された予測誤差を変換部106に出力する。
変換部106は、空間領域の予測誤差を周波数領域の変換係数に変換し、変換係数を量子化部108に出力する。具体的には、変換部106は、例えば空間領域の予測誤差に対して予め定められた離散コサイン変換(DCT)又は離散サイン変換(DST)を行う。
量子化部108は、変換部106から出力された変換係数を量子化する。具体的には、量子化部108は、カレントブロックの変換係数を所定の走査順序で走査し、走査された変換係数に対応する量子化パラメータ(QP)に基づいて当該変換係数を量子化する。そして、量子化部108は、カレントブロックの量子化された変換係数(以下、量子化係数という)をエントロピー符号化部110及び逆量子化部112に出力する。
エントロピー符号化部110は、量子化部108から入力である量子化係数を可変長符号化することにより符号化信号(符号化ビットストリーム)を生成する。具体的には、エントロピー符号化部110は、例えば、量子化係数を二値化し、二値信号を算術符号化する。
逆量子化部112は、量子化部108からの入力である量子化係数を逆量子化する。具体的には、逆量子化部112は、カレントブロックの量子化係数を所定の走査順序で逆量子化する。そして、逆量子化部112は、カレントブロックの逆量子化された変換係数を逆変換部114に出力する。
逆変換部114は、逆量子化部112からの入力である変換係数を逆変換することにより予測誤差を復元する。具体的には、逆変換部114は、変換係数に対して、変換部106による変換に対応する逆変換を行うことにより、カレントブロックの予測誤差を復元する。そして、逆変換部114は、復元された予測誤差を加算部116に出力する。
加算部116は、逆変換部114からの入力である予測誤差と予測制御部128からの入力である予測サンプルとを加算することによりカレントブロックを再構成する。そして、加算部116は、再構成されたブロックをブロックメモリ118及びループフィルタ部120に出力する。再構成ブロックは、ローカル復号ブロックと呼ばれることもある。
ブロックメモリ118は、イントラ予測で参照されるブロックであって符号化対象ピクチャ(以下、カレントピクチャという)内のブロックを格納するための記憶部である。具体的には、ブロックメモリ118は、加算部116から出力された再構成ブロックを格納する。
ループフィルタ部120は、加算部116によって再構成されたブロックにループフィルタを施し、フィルタされた再構成ブロックをフレームメモリ122に出力する。ループフィルタとは、符号化ループ内で用いられるフィルタ(インループフィルタ)であり、例えば、デブロッキング・フィルタ(DF)、サンプルアダプティブオフセット(SAO)及びアダプティブループフィルタ(ALF)などを含む。
フレームメモリ122は、インター予測に用いられる参照ピクチャを格納するための記憶部であり、フレームバッファと呼ばれることもある。具体的には、フレームメモリ122は、ループフィルタ部120によってフィルタされた再構成ブロックを格納する。
イントラ予測部124は、ブロックメモリ118に格納されたカレントピクチャ内のブロックを参照してカレントブロックのイントラ予測(画面内予測ともいう)を行うことで、予測信号(イントラ予測信号)を生成する。具体的には、イントラ予測部124は、カレントブロックに隣接するブロックのサンプル(例えば輝度値、色差値)を参照してイントラ予測を行うことでイントラ予測信号を生成し、イントラ予測信号を予測制御部128に出力する。
インター予測部126は、フレームメモリ122に格納された参照ピクチャであってカレントピクチャとは異なる参照ピクチャを参照してカレントブロックのインター予測(画面間予測ともいう)を行うことで、予測信号(インター予測信号)を生成する。インター予測は、カレントブロック又はカレントブロック内のサブブロック(例えば4x4ブロック)の単位で行われる。例えば、インター予測部126は、カレントブロック又はサブブロックについて参照ピクチャ内で動き探索(motion estimation)を行う。そして、インター予測部126は、動き探索により得られた動き情報(例えば動きベクトル)を用いて動き補償を行うことでカレントブロック又はサブブロックのインター予測信号を生成する。そして、インター予測部126は、生成されたインター予測信号を予測制御部128に出力する。
予測制御部128は、イントラ予測信号及びインター予測信号のいずれかを選択し、選択した信号を予測信号として減算部104及び加算部116に出力する。
次に、上記の符号化装置100から出力された符号化信号(符号化ビットストリーム)を復号可能な復号装置の概要について説明する。図10は、実施の形態1に係る復号装置200の機能構成を示すブロック図である。復号装置200は、動画像/画像をブロック単位で復号する動画像/画像復号装置である。
エントロピー復号部202は、符号化ビットストリームをエントロピー復号する。具体的には、エントロピー復号部202は、例えば、符号化ビットストリームから二値信号に算術復号する。そして、エントロピー復号部202は、二値信号を多値化(debinarize)する。これにより、エントロピー復号部202は、ブロック単位で量子化係数を逆量子化部204に出力する。
逆量子化部204は、エントロピー復号部202からの入力である復号対象ブロック(以下、カレントブロックという)の量子化係数を逆量子化する。具体的には、逆量子化部204は、カレントブロックの量子化係数の各々について、当該量子化係数に対応する量子化パラメータに基づいて当該量子化係数を逆量子化する。そして、逆量子化部204は、カレントブロックの逆量子化された量子化係数(つまり変換係数)を逆変換部206に出力する。
逆変換部206は、逆量子化部204からの入力である変換係数を逆変換することにより予測誤差を復元する。
加算部208は、逆変換部206からの入力である予測誤差と予測制御部220からの入力である予測サンプルとを加算することによりカレントブロックを再構成する。そして、加算部208は、再構成されたブロックをブロックメモリ210及びループフィルタ部212に出力する。
ブロックメモリ210は、イントラ予測で参照されるブロックであって復号対象ピクチャ(以下、カレントピクチャという)内のブロックを格納するための記憶部である。具体的には、ブロックメモリ210は、加算部208から出力された再構成ブロックを格納する。
ループフィルタ部212は、加算部208によって再構成されたブロックにループフィルタを施し、フィルタされた再構成ブロックをフレームメモリ214及び表示装置等に出力する。
フレームメモリ214は、インター予測に用いられる参照ピクチャを格納するための記憶部であり、フレームバッファと呼ばれることもある。具体的には、フレームメモリ214は、ループフィルタ部212によってフィルタされた再構成ブロックを格納する。
イントラ予測部216は、符号化ビットストリームから読み解かれたイントラ予測モードに基づいて、ブロックメモリ210に格納されたカレントピクチャ内のブロックを参照してイントラ予測を行うことで、予測信号(イントラ予測信号)を生成する。具体的には、イントラ予測部216は、カレントブロックに隣接するブロックのサンプル(例えば輝度値、色差値)を参照してイントラ予測を行うことでイントラ予測信号を生成し、イントラ予測信号を予測制御部220に出力する。
インター予測部218は、フレームメモリ214に格納された参照ピクチャを参照して、カレントブロックを予測する。予測は、カレントブロック又はカレントブロック内のサブブロック(例えば4x4ブロック)の単位で行われる。例えば、インター予測部218は、符号化ビットストリームから読み解かれた動き情報(例えば動きベクトル)を用いて動き補償を行うことでカレントブロック又はサブブロックのインター予測信号を生成し、インター予測信号を予測制御部220に出力する。
予測制御部220は、イントラ予測信号及びインター予測信号のいずれかを選択し、選択した信号を予測信号として加算部208に出力する。
図11は、第1態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、符号化側におけるパーティション構造の候補の総数を低減し、符号化の複雑さを低減する。
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
図14は、第2態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、符号化側におけるパーティション構造の候補の総数を低減し、符号化の複雑さを低減する。
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
図16は、第3態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、符号化側におけるパーティション構造の候補の総数を低減し、符号化の複雑さを低減する。
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
図20は、第4態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、符号化側におけるパーティション構造の候補の総数を低減し、符号化の複雑さを低減する。
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
図22は、第5態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、いくつかの特定のブロックサイズで分割方向を符号化する必要がなく、符号化効率を向上させる。本開示は、また、符号化側における分割方向の候補の総数を低減し、符号化の複雑さを低減する。
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
図24は、第6態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、いくつかの特定のブロックサイズで分割方向を符号化する必要がなく、符号化効率を向上させる。本開示は、また、符号化側における分割方向の候補の総数を低減し、符号化の複雑さを低減する。
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
図26は、第7態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、いくつかの特定のブロックサイズで分割方向又は分割数を符号化する必要がなく、符号化効率を向上させる。本開示は、また、符号化側における分割方向の候補の総数を低減し、符号化の複雑さを低減する。
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
図28は、第8態様に係る符号化方法及び符号化装置によって行われる符号化処理を示す。
本態様は、いくつかの特定のブロックサイズで分割方向を符号化する必要がなく、符号化効率を向上させる。本開示は、また、符号化側における分割方向の候補の総数を低減し、符号化の複雑さを低減する。
[他の態様との組み合わせ]
本態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、本態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
上記のすべての態様において、より小さなパーティションの数とブロックを分割するための分割方向とを決定するために、1つ又は複数の閾値を用いることができる。閾値は、ピクチャタイプ、時間レイヤ、量子化パラメータ、スライス内のピクセル値アクティビティに従って、又は、4分木、2分木及び他の分割の組合せなどの分割パターンの組合せに従って、又は、三角形状分割のような他の符号化ツールの組合せに従って、適応的に変更することができる。閾値は、ブロック幅、ブロック高さなどのブロックサイズ、又はブロック幅とブロック高さとの乗算に従って適応的に変更することもできる。閾値は、ブロック形状及び/又は分割深さに従って適応的に変更することもできる。
以上の各実施の形態において、機能ブロックの各々は、通常、MPU及びメモリ等によって実現可能である。また、機能ブロックの各々による処理は、通常、プロセッサなどのプログラム実行部が、ROM等の記録媒体に記録されたソフトウェア(プログラム)を読み出して実行することで実現される。当該ソフトウェアはダウンロード等により配布されてもよいし、半導体メモリなどの記録媒体に記録して配布されてもよい。なお、各機能ブロックをハードウェア(専用回路)によって実現することも、当然、可能である。
図32は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex106、ex107、ex108、ex109、ex110が設置されている。
また、ストリーミングサーバex103は複数のサーバ又は複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。例えば、ストリーミングサーバex103は、CDN(Contents Delivery Network)により実現され、世界中に分散された多数のエッジサーバとエッジサーバ間をつなぐネットワークによりコンテンツ配信が実現されていてもよい。CDNでは、クライアントに応じて物理的に近いエッジサーバが動的に割り当てられる。そして、当該エッジサーバにコンテンツがキャッシュ及び配信されることで遅延を減らすことができる。また、何らかのエラーが発生した場合又はトラフィックの増加などにより通信状態が変わる場合に複数のエッジサーバで処理を分散したり、他のエッジサーバに配信主体を切り替えたり、障害が生じたネットワークの部分を迂回して配信を続けることができるので、高速かつ安定した配信が実現できる。
近年では、互いにほぼ同期した複数のカメラex113及び/又はスマートフォンex115などの端末により撮影された異なるシーン、又は、同一シーンを異なるアングルから撮影した画像或いは映像を統合して利用することも増えてきている。各端末で撮影した映像は、別途取得した端末間の相対的な位置関係、又は、映像に含まれる特徴点が一致する領域などに基づいて統合される。
コンテンツの切り替えに関して、図33に示す、上記各実施の形態で示した動画像符号化方法を応用して圧縮符号化されたスケーラブルなストリームを用いて説明する。サーバは、個別のストリームとして内容は同じで質の異なるストリームを複数有していても構わないが、図示するようにレイヤに分けて符号化を行うことで実現される時間的/空間的スケーラブルなストリームの特徴を活かして、コンテンツを切り替える構成であってもよい。つまり、復号側が性能という内的要因と通信帯域の状態などの外的要因とに応じてどのレイヤまで復号するかを決定することで、復号側は、低解像度のコンテンツと高解像度のコンテンツとを自由に切り替えて復号できる。例えば移動中にスマートフォンex115で視聴していた映像の続きを、帰宅後にインターネットTV等の機器で視聴したい場合には、当該機器は、同じストリームを異なるレイヤまで復号すればよいので、サーバ側の負担を軽減できる。
図35は、コンピュータex111等におけるwebページの表示画面例を示す図である。図36は、スマートフォンex115等におけるwebページの表示画面例を示す図である。図35及び図36に示すようにwebページが、画像コンテンツへのリンクであるリンク画像を複数含む場合があり、閲覧するデバイスによってその見え方は異なる。画面上に複数のリンク画像が見える場合には、ユーザが明示的にリンク画像を選択するまで、又は画面の中央付近にリンク画像が近付く或いはリンク画像の全体が画面内に入るまでは、表示装置(復号装置)は、リンク画像として各コンテンツが有する静止画又はIピクチャを表示したり、複数の静止画又はIピクチャ等でgifアニメのような映像を表示したり、ベースレイヤのみ受信して映像を復号及び表示したりする。
また、車の自動走行又は走行支援のため2次元又は3次元の地図情報などの静止画又は映像データを送受信する場合、受信端末は、1以上のレイヤに属する画像データに加えて、メタ情報として天候又は工事の情報なども受信し、これらを対応付けて復号してもよい。なお、メタ情報は、レイヤに属してもよいし、単に画像データと多重化されてもよい。
また、コンテンツ供給システムex100では、映像配信業者による高画質で長時間のコンテンツのみならず、個人による低画質で短時間のコンテンツのユニキャスト、又はマルチキャスト配信が可能である。また、このような個人のコンテンツは今後も増加していくと考えられる。個人コンテンツをより優れたコンテンツにするために、サーバは、編集処理を行ってから符号化処理を行ってもよい。これは例えば、以下のような構成で実現できる。
また、これらの符号化又は復号処理は、一般的に各端末が有するLSIex500において処理される。LSIex500は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化又は復号用のソフトウェアをコンピュータex111等で読み取り可能な何らかの記録メディア(CD−ROM、フレキシブルディスク、又はハードディスクなど)に組み込み、そのソフトウェアを用いて符号化又は復号処理を行ってもよい。さらに、スマートフォンex115がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データはスマートフォンex115が有するLSIex500で符号化処理されたデータである。
図37は、スマートフォンex115を示す図である。また、図38は、スマートフォンex115の構成例を示す図である。スマートフォンex115は、基地局ex110との間で電波を送受信するためのアンテナex450と、映像及び静止画を撮ることが可能なカメラ部ex465と、カメラ部ex465で撮像した映像、及びアンテナex450で受信した映像等が復号されたデータを表示する表示部ex458とを備える。スマートフォンex115は、さらに、タッチパネル等である操作部ex466と、音声又は音響を出力するためのスピーカ等である音声出力部ex457と、音声を入力するためのマイク等である音声入力部ex456と、撮影した映像或いは静止画、録音した音声、受信した映像或いは静止画、メール等の符号化されたデータ、又は、復号されたデータを保存可能なメモリ部ex467と、ユーザを特定し、ネットワークをはじめ各種データへのアクセスの認証をするためのSIMex468とのインタフェース部であるスロット部ex464とを備える。なお、メモリ部ex467の代わりに外付けメモリが用いられてもよい。
102 分割部
104 減算部
106 変換部
108 量子化部
110 エントロピー符号化部
112、204 逆量子化部
114、206 逆変換部
116、208 加算部
118、210 ブロックメモリ
120、212 ループフィルタ部
122、214 フレームメモリ
124、216 イントラ予測部
126、218 インター予測部
128、220 予測制御部
200 復号装置
202 エントロピー復号部
Claims (6)
- ピクチャに含まれる符号化対象ブロックを符号化する符号化装置であって、
回路と、
メモリと、を備え、
前記回路は、前記メモリを用いて、
前記符号化対象ブロックを第1サブブロック、第2サブブロック及び第3サブブロックへ第1方向に分割し、前記第2サブブロックは、前記第1サブブロック及び前記第3サブブロックの間に位置し、
前記第2サブブロックを2つのパーティションへ前記第1方向に分割することを禁止し、前記第2サブブロックを3つのパーティションへ前記第1方向に分割することを禁止せず、
前記第1サブブロック、前記第2サブブロック及び前記第3サブブロックを符号化する、
符号化装置。 - 前記回路は、さらに、
前記第2サブブロックが複数のパーティションへ分割される場合に、
前記第2サブブロックの分割方向を示す第1パラメータをビットストリームに書き込み、
前記第1パラメータが前記第1方向を示す場合に、前記第2サブブロックを3つのパーティションへ前記第1方向に分割し、
前記第1パラメータが前記第1方向と異なる第2方向を示す場合に、前記第2サブブロックの分割数を示す第2パラメータを前記ビットストリームに書き込み、前記第2サブブロックを前記第2パラメータによって示される数のパーティションへ前記第2方向に分割する、
請求項1に記載の符号化装置。 - ピクチャに含まれる符号化対象ブロックを符号化する符号化方法であって、
前記符号化対象ブロックを第1サブブロック、第2サブブロック及び第3サブブロックへ第1方向に分割し、前記第2サブブロックは、前記第1サブブロック及び前記第3サブブロックの間に位置し、
前記第2サブブロックを2つのパーティションへ前記第1方向に分割することを禁止し、前記第2サブブロックを3つのパーティションへ前記第1方向に分割することを禁止せず、
前記第1サブブロック、前記第2サブブロック及び前記第3サブブロックを符号化する、
符号化方法。 - 符号化ピクチャに含まれる復号対象ブロックを復号する復号装置であって、
回路と、
メモリと、を備え、
前記回路は、前記メモリを用いて、
前記復号対象ブロックを第1サブブロック、第2サブブロック及び第3サブブロックへ第1方向に分割し、前記第2サブブロックは、前記第1サブブロック及び前記第3サブブロックの間に位置し、
前記第2サブブロックを2つのパーティションへ前記第1方向に分割することを禁止し、前記第2サブブロックを3つのパーティションへ前記第1方向に分割することを禁止せず、
前記第1サブブロック、前記第2サブブロック及び前記第3サブブロックを復号する、
復号装置。 - 前記回路は、さらに、
前記第2サブブロックの分割方向を示す第1パラメータをビットストリームから読み解き、
前記第1パラメータが前記第1方向を示す場合に、
前記第2サブブロックを3つのパーティションへ前記第1方向に分割し、
前記第1パラメータが前記第1方向と異なる第2方向を示す場合に、
前記第2サブブロックの分割数を示す第2パラメータを前記ビットストリームから読み解き、
前記第2サブブロックを前記第2パラメータが示す数のパーティションへ前記第2方向に分割する、
請求項4に記載の復号装置。 - 符号化ピクチャに含まれる復号対象ブロックを復号する復号方法であって、
前記復号対象ブロックを第1サブブロック、第2サブブロック及び第3サブブロックへ第1方向に分割し、前記第2サブブロックは、前記第1サブブロック及び前記第3サブブロックの間に位置し、
前記第2サブブロックを2つのパーティションへ前記第1方向に分割することを禁止し、前記第2サブブロックを3つのパーティションへ前記第1方向に分割することを禁止せず、
前記第1サブブロック、前記第2サブブロック及び前記第3サブブロックを復号する、
復号方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862638620P | 2018-03-05 | 2018-03-05 | |
US62/638,620 | 2018-03-05 | ||
PCT/JP2019/008468 WO2019172203A1 (ja) | 2018-03-05 | 2019-03-04 | 符号化装置、復号装置、符号化方法及び復号方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020205800A Division JP7213227B2 (ja) | 2018-03-05 | 2020-12-11 | 符号化装置、復号装置、符号化方法及び復号方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019172203A1 JPWO2019172203A1 (ja) | 2020-12-03 |
JP6810827B2 true JP6810827B2 (ja) | 2021-01-06 |
Family
ID=67847292
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020505025A Active JP6810827B2 (ja) | 2018-03-05 | 2019-03-04 | 符号化装置、復号装置、符号化方法及び復号方法 |
JP2020205800A Active JP7213227B2 (ja) | 2018-03-05 | 2020-12-11 | 符号化装置、復号装置、符号化方法及び復号方法 |
JP2023004561A Pending JP2023029657A (ja) | 2018-03-05 | 2023-01-16 | 非一時的記憶媒体 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020205800A Active JP7213227B2 (ja) | 2018-03-05 | 2020-12-11 | 符号化装置、復号装置、符号化方法及び復号方法 |
JP2023004561A Pending JP2023029657A (ja) | 2018-03-05 | 2023-01-16 | 非一時的記憶媒体 |
Country Status (10)
Country | Link |
---|---|
US (3) | US11303895B2 (ja) |
EP (2) | EP4351147A3 (ja) |
JP (3) | JP6810827B2 (ja) |
KR (2) | KR20210005326A (ja) |
CN (4) | CN111801942B (ja) |
BR (1) | BR112020016755A2 (ja) |
CA (3) | CA3113521C (ja) |
MX (5) | MX2020009109A (ja) |
TW (3) | TWI783129B (ja) |
WO (1) | WO2019172203A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10735730B2 (en) * | 2018-03-07 | 2020-08-04 | Tencent America LLC | Flexible tree structure |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5263951B2 (ja) * | 2008-11-11 | 2013-08-14 | 日本電気株式会社 | Ofdm受信装置、リファレンスシンボルの補間方法および移動端末ならびにプログラム |
US9106910B2 (en) | 2009-06-23 | 2015-08-11 | Orange | Method of coding and decoding images, corresponding device for coding and decoding and computer program |
EP2485490B1 (en) | 2009-10-01 | 2015-09-30 | SK Telecom Co., Ltd. | Method and apparatus for encoding/decoding image using split layer |
WO2011121715A1 (ja) * | 2010-03-30 | 2011-10-06 | 株式会社 東芝 | 画像復号化方法 |
CN105704490B (zh) * | 2010-04-16 | 2018-07-31 | Sk电信有限公司 | 视频编码设备 |
PL3962088T3 (pl) * | 2010-11-04 | 2023-11-27 | Ge Video Compression, Llc | Kodowanie obrazu wspomagające scalanie bloków i tryb przeskoku |
EP3382903B1 (en) * | 2015-11-23 | 2020-12-30 | LG Electronics Inc. -1- | Method for transmitting and receiving channel state information in wireless communication system, and apparatus therefor |
EP4398578A2 (en) * | 2015-11-24 | 2024-07-10 | Samsung Electronics Co., Ltd. | Encoding sequence encoding method and device thereof, and decoding method and device thereof |
US20170244964A1 (en) * | 2016-02-23 | 2017-08-24 | Mediatek Inc. | Method and Apparatus of Flexible Block Partition for Video Coding |
WO2017205700A1 (en) * | 2016-05-25 | 2017-11-30 | Arris Enterprises Llc | Binary, ternary and quad tree partitioning for jvet coding of video data |
WO2017205704A1 (en) * | 2016-05-25 | 2017-11-30 | Arris Enterprises Llc | General block partitioning method |
US10779004B2 (en) * | 2016-10-12 | 2020-09-15 | Mediatek Inc. | Methods and apparatuses of constrained multi-type-tree block partition for video coding |
GB2557430B (en) * | 2016-10-12 | 2020-01-15 | Mediatek Inc | Methods and apparatuses of constrained multi-type-tree block partition for video coding |
CN116567236A (zh) * | 2016-12-16 | 2023-08-08 | 夏普株式会社 | 图像解码方法 |
KR20230133414A (ko) * | 2017-01-04 | 2023-09-19 | 삼성전자주식회사 | 비디오 복호화 방법 및 그 장치 및 비디오 부호화 방법 및 그 장치 |
CN116684603A (zh) | 2017-03-31 | 2023-09-01 | 松下电器(美国)知识产权公司 | 图像编码装置、图像解码装置及存储介质 |
CN112601084A (zh) * | 2017-06-28 | 2021-04-02 | 华为技术有限公司 | 一种图像数据的编码、解码方法及装置 |
-
2019
- 2019-03-04 JP JP2020505025A patent/JP6810827B2/ja active Active
- 2019-03-04 WO PCT/JP2019/008468 patent/WO2019172203A1/ja unknown
- 2019-03-04 KR KR1020217000249A patent/KR20210005326A/ko active Application Filing
- 2019-03-04 KR KR1020207024793A patent/KR102202553B1/ko active IP Right Grant
- 2019-03-04 CN CN201980017090.6A patent/CN111801942B/zh active Active
- 2019-03-04 EP EP24159854.9A patent/EP4351147A3/en active Pending
- 2019-03-04 BR BR112020016755-0A patent/BR112020016755A2/pt unknown
- 2019-03-04 CN CN202210404075.0A patent/CN114697652B/zh active Active
- 2019-03-04 CA CA3113521A patent/CA3113521C/en active Active
- 2019-03-04 MX MX2020009109A patent/MX2020009109A/es unknown
- 2019-03-04 CA CA3093204A patent/CA3093204C/en active Active
- 2019-03-04 EP EP19763904.0A patent/EP3748968B1/en active Active
- 2019-03-04 CN CN202210404314.2A patent/CN114697653B/zh active Active
- 2019-03-04 CN CN202210404029.0A patent/CN114697651B/zh active Active
- 2019-03-04 CA CA3221606A patent/CA3221606A1/en active Pending
- 2019-03-05 TW TW108107282A patent/TWI783129B/zh active
- 2019-03-05 TW TW112135106A patent/TW202404353A/zh unknown
- 2019-03-05 TW TW111139076A patent/TWI816578B/zh active
-
2020
- 2020-08-31 US US17/007,416 patent/US11303895B2/en active Active
- 2020-09-02 MX MX2022006678A patent/MX2022006678A/es unknown
- 2020-09-02 MX MX2022006682A patent/MX2022006682A/es unknown
- 2020-09-02 MX MX2022006679A patent/MX2022006679A/es unknown
- 2020-09-02 MX MX2022006680A patent/MX2022006680A/es unknown
- 2020-12-11 JP JP2020205800A patent/JP7213227B2/ja active Active
-
2022
- 2022-03-08 US US17/689,421 patent/US11792396B2/en active Active
-
2023
- 2023-01-16 JP JP2023004561A patent/JP2023029657A/ja active Pending
- 2023-09-06 US US18/462,232 patent/US20230421762A1/en active Pending
Also Published As
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7179832B2 (ja) | 画像符号化装置 | |
JP7102508B2 (ja) | 画像符号化装置 | |
JP6895645B2 (ja) | 信号依存型適応量子化を用いて動画像を符号化及び復号するための方法及び装置 | |
JP7086240B2 (ja) | 画像復号装置及び復号方法 | |
WO2018092868A1 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
WO2018092869A1 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
JP6946419B2 (ja) | 復号装置、復号方法及びプログラム | |
JP2021093766A (ja) | 画像符号化装置及び画像復号装置 | |
JP7087030B2 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
JP2020532226A (ja) | 画像符号化装置、画像復号装置、画像符号化方法、および画像復号方法 | |
JP6806916B2 (ja) | 復号装置及び復号方法 | |
JP2022008413A (ja) | 復号装置、符号化装置及び記録媒体 | |
JPWO2019155971A1 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
JP7026747B2 (ja) | 復号装置及び復号方法 | |
JP7017580B2 (ja) | 復号装置、画像復号装置及び復号方法 | |
JP2021002891A (ja) | 符号化装置及び符号化方法 | |
JP2020198655A (ja) | 復号装置及び復号方法 | |
JP6874159B2 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
JP2023029657A (ja) | 非一時的記憶媒体 | |
WO2019172202A1 (ja) | 符号化装置及び符号化方法 | |
JPWO2019225459A1 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
JP6798066B2 (ja) | 符号化装置、復号装置、符号化方法、復号方法及びピクチャ圧縮プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200730 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200730 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200901 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201030 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201117 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201211 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6810827 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |