TW202415065A - 編碼裝置及解碼裝置 - Google Patents
編碼裝置及解碼裝置 Download PDFInfo
- Publication number
- TW202415065A TW202415065A TW112147903A TW112147903A TW202415065A TW 202415065 A TW202415065 A TW 202415065A TW 112147903 A TW112147903 A TW 112147903A TW 112147903 A TW112147903 A TW 112147903A TW 202415065 A TW202415065 A TW 202415065A
- Authority
- TW
- Taiwan
- Prior art keywords
- filter
- block
- unit
- pixels
- image
- Prior art date
Links
- 238000001914 filtration Methods 0.000 claims description 70
- 230000004044 response Effects 0.000 claims description 5
- 238000012545 processing Methods 0.000 abstract description 176
- 238000000034 method Methods 0.000 description 145
- 230000033001 locomotion Effects 0.000 description 110
- 230000008569 process Effects 0.000 description 86
- 238000013139 quantization Methods 0.000 description 62
- 239000013598 vector Substances 0.000 description 55
- 238000010586 diagram Methods 0.000 description 50
- 238000006243 chemical reaction Methods 0.000 description 44
- 238000013213 extrapolation Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 17
- 238000011156 evaluation Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 13
- 230000005236 sound signal Effects 0.000 description 13
- 238000012937 correction Methods 0.000 description 12
- 230000008859 change Effects 0.000 description 10
- 230000011664 signaling Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 230000011218 segmentation Effects 0.000 description 8
- 230000009466 transformation Effects 0.000 description 7
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000000638 solvent extraction Methods 0.000 description 6
- 230000003044 adaptive effect Effects 0.000 description 5
- 238000009434 installation Methods 0.000 description 5
- 230000003068 static effect Effects 0.000 description 5
- 230000002457 bidirectional effect Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000009795 derivation Methods 0.000 description 4
- 238000010191 image analysis Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000000717 retained effect Effects 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 101100537098 Mus musculus Alyref gene Proteins 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 101150095908 apex1 gene Proteins 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 229910003460 diamond Inorganic materials 0.000 description 3
- 239000010432 diamond Substances 0.000 description 3
- 238000003702 image correction Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000000926 separation method Methods 0.000 description 3
- 101001121408 Homo sapiens L-amino-acid oxidase Proteins 0.000 description 2
- 102100026388 L-amino-acid oxidase Human genes 0.000 description 2
- 241000023320 Luma <angiosperm> Species 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000009792 diffusion process Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical group COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 239000000047 product Substances 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 101100012902 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) FIG2 gene Proteins 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/107—Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/117—Filters, e.g. for pre-processing or post-processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/167—Position within a video image, e.g. region of interest [ROI]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/42—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/577—Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
- H04N19/82—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/96—Tree coding, e.g. quad-tree coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Discrete Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
編碼裝置具備電路及記憶體,電路使用記憶體,從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器,並使用已決定的濾波器,對區塊邊界進行解區塊濾波處理,第1濾波器為使用區塊邊界之上側的M(M為2以上的整數)個像素、及區塊邊界之下側的M個像素的濾波器,第2濾波器為使用區塊邊界之上側的第1像素、及區塊邊界之下側的第2像素的濾波器,第1像素之數量為第1複數個候選值之任一個,第2像素之數量為第2複數個候選值之任一個,第1複數個候選值之每一個及第2複數個候選值之每一個為M或者是比M大的值。
Description
發明領域
本揭示是有關於一種編碼裝置、解碼裝置、編碼方法及解碼方法。
發明背景
迄今,作為用來編碼動態圖像的規格已有H.265。H.265亦被稱為HEVC(High Efficiency Video Coding/高效率視訊編碼)。
先行技術文獻
非專利文獻
非專利文獻1:H.265(ISO/IEC 23008-2 HEVC(High Efficiency Video Coding))
發明概要
發明欲解決之課題
在如此的編碼方式中,為了編碼效率的改善、畫質的改善、或者電路規模的削減等,所以期望有新方式的提案。
本揭示中的實施形態或者在其一部分所揭示的構成或方法之每一個,能對於例如編碼效率的改善、編碼/解碼處理量的削減、電路規模的削減、編碼/解碼速度的改善、編碼及解碼中,濾波器、區塊、尺寸、移動向量、參考圖片、參考區塊等之構成要素/動作的適當的選擇等之中的至少任1個有所貢獻。
另,本揭示也包括可提供上述以外的利益的構成或者方法的揭示。例如一邊抑制處理量的增加,且一邊改善編碼效率的構成或者方法等。
用以解決課題的手段
本揭示一態樣之編碼裝置具備電路及記憶體,前述電路使用前述記憶體,從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器,使用已決定的前述濾波器,對區塊邊界進行前述解區塊濾波處理,前述第1濾波器為使用前述區塊邊界之上側的M(M為2以上的整數)個像素、及前述區塊邊界之下側的M個像素的濾波器,前述第2濾波器為使用前述區塊邊界之上側的第1像素、及前述區塊邊界之下側的第2像素的濾波器,前述第1像素之數量為第1複數個候選值之任一個,前述第2像素之數量為第2複數個候選值之任一個,前述第1複數個候選值之每一個及前述第2複數個候選值之每一個為M或者是比M大的值。
本揭示一態樣之解碼裝置具備電路及記憶體,前述電路使用前述記憶體,從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器,使用已決定的前述濾波器,對區塊邊界進行前述解區塊濾波處理,前述第1濾波器為使用前述區塊邊界之上側的M(M為2以上的整數)個像素、及前述區塊邊界之下側的M個像素的濾波器,前述第2濾波器為使用前述區塊邊界之上側的第1像素、及前述區塊邊界之下側的第2像素的濾波器,前述第1像素之數量為第1複數個候選值之任一個,前述第2像素之數量為第2複數個候選值之任一個,前述第1複數個候選值之每一個及前述第2複數個候選值之每一個為M或者是比M大的值。
另,該等概括性或者是具體性的態樣,可以透過系統、裝置、方法、積體電路、電腦程式、或者、電腦可讀取之CD-ROM等之非暫時性記錄媒體來實現,也可以透過系統、裝置、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。
發明的效果
本揭示可提供一種編碼裝置、解碼裝置、編碼方法或者是解碼方法,前述編碼裝置、解碼裝置、編碼方法或者是解碼方法能對於例如編碼效率的改善、編碼/解碼處理量的削減、電路規模的削減、編碼/解碼速度的改善、編碼及解碼中濾波器、區塊、尺寸、移動向量、參考圖片、參考區塊等之構成要素/動作的適當的選擇等之中的至少任1個有所貢獻。
另,本揭示也包含可提供上述以外的利益的構成或者方法的揭示。例如一邊抑制處理量的增加,且一邊改善編碼效率的構成或者方法等。
較佳實施例之詳細說明
本揭示一態樣之編碼裝置具備電路及記憶體,前述電路使用前述記憶體,從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器,使用已決定的前述濾波器,對區塊邊界進行前述解區塊濾波處理,前述第1濾波器為使用前述區塊邊界之上側的M(M為2以上的整數)個像素、及前述區塊邊界之下側的M個像素的濾波器,前述第2濾波器為使用前述區塊邊界之上側的第1像素、及前述區塊邊界之下側的第2像素的濾波器,前述第1像素之數量為第1複數個候選值之任一個,前述第2像素之數量為第2複數個候選值之任一個,前述第1複數個候選值之每一個及前述第2複數個候選值之每一個為M或者是比M大的值。
依此,該編碼裝置可以削減使用在解區塊濾波處理之區塊邊界的上側或者左側的像素之數量,所以有可削減保持在記憶體的資料量之可能性。另,也可使用左側的像素來代替上側的像素,且使用右側的像素來代替下側的像素。
例如,前述第2濾波器也可以有:前述第1像素之數量與前述第2像素之數量相同的時候;及前述第1像素之數量與前述第2像素之數量不同的時候。
例如,前述第1複數個候選值之每一個、及前述第2複數個候選值之每一個,也可為4或者是比4大的值。
例如,前述複數個濾波器之中,前述第2濾波器以外的濾波器也可在區塊邊界之上側與下側使用相同數量之像素。
例如,也可因應前述區塊邊界的位置是否為已事先訂定的位置,來限制前述第1像素之數量可取得之值的最大值。
例如,已事先訂定的位置,也可為編碼樹單元(CTU)的上端。
另,將第2濾波器適用在垂直邊界及水平邊界時,在第2濾波器使用的像素數的限制也可只對於垂直邊界進行,也可對於垂直邊界及水平邊界進行。換言之,已事先訂定的位置也可只為CTU的上端,也可為CTU的上端或者下端。
例如,已事先訂定的位置,也可為編碼單元(CU)的上端。
另,將第2濾波器適用在垂直邊界及水平邊界時,在第2濾波器使用的像素數的限制也可只對於垂直邊界進行,也可對於垂直邊界及水平邊界進行。換言之,已事先訂定的位置也可只為CU的上端,也可為CU的上端或者下端。
例如,前述第1像素之數量可取得之值的最大值也可為:前述複數個濾波器之中,次於前述第2濾波器使用的像素之數量多的濾波器所使用的區塊邊界之上側的像素之數量以下。
例如,前述第1像素之數量可取得之值的最大值也可為:從包含前述解區塊濾波處理的迴路濾波處理所包含的處理排除前述第2濾波器的處理之中,使用的區塊邊界之上側的前述像素之數量最多的處理之前述區塊邊界之上側的前述像素之數量以下。
例如,當前述第1像素之數量與前述第2像素之數量不同時,前述第2濾波器之夾前述區塊邊界的濾波器分接頭(tap)長度也可為不同。
例如,當前述第1像素之數量與前述第2像素之數量不同時,前述第2濾波器也可使用前述第1像素,產生連續於前述第1像素之上側的第3像素,且前述第2濾波器為使用前述第1像素、前述第2像素、及前述第3像素的濾波器,前述第1像素之數量與前述第3像素之數量之和等於前述第2像素之數量。
本揭示一態樣之解碼裝置具備電路及記憶體,前述電路使用前述記憶體,從包括第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器,使用已決定的前述濾波器,對區塊邊界進行前述解區塊濾波處理,前述第1濾波器為使用前述區塊邊界之上側的M(M為2以上的整數)個像素、及前述區塊邊界之下側的M個像素的濾波器,前述第2濾波器為使用前述區塊邊界之上側的第1像素、及前述區塊邊界之下側的第2像素的濾波器,前述第1像素之數量為第1複數個候選值之任一個,前述第2像素之數量為第2複數個候選值之任一個,前述第1複數個候選值之每一個及前述第2複數個候選值之每一個為M或者是比M大的值。
依此,該解碼裝置可以削減使用在解區塊濾波處理之區塊邊界的上側或者左側的像素之數量,所以有可削減保持在記憶體的資料量之可能性。
例如,前述第2濾波器也可以有:前述第1像素之數量與前述第2像素之數量相同的時候;及前述第1像素之數量與前述第2像素之數量不同的時候。
例如,前述第1複數個候選值之每一個、及前述第2複數個候選值之每一個,也可為4或者是比4大的值。
例如,前述複數個濾波器之中,前述第2濾波器以外的濾波器也可在區塊邊界之上側與下側使用相同數量之像素。
例如,也可因應前述區塊邊界的位置是否為已事先訂定的位置,來限制前述第1像素之數量可取得之值的最大值。
例如,已事先訂定的位置,也可為編碼樹單元(CTU)的上端。
另,將第2濾波器適用在垂直邊界及水平邊界時,在第2濾波器使用的像素數的限制也可只對於垂直邊界進行,也可對於垂直邊界及水平邊界進行。換言之,已事先訂定的位置也可只為CTU的上端,也可為CTU的上端或者下端。
例如,已事先訂定的位置,也可為編碼單元(CU)的上端。
另,將第2濾波器適用在垂直邊界及水平邊界時,在第2濾波器使用的像素數的限制也可只對於垂直邊界進行,也可對於垂直邊界及水平邊界進行。換言之,已事先訂定的位置也可只為CU的上端,也可為CU的上端或者下端。
例如,前述第1像素之數量可取得之值的最大值也可為:前述複數個濾波器之中,次於前述第2濾波器使用的像素之數量多的濾波器所使用之區塊邊界之上側的像素之數量以下。
例如,前述第1像素之數量可取得之值的最大值也可為:從包含前述解區塊濾波處理之迴路濾波處理所包含的處理排除前述第2濾波器的處理之中,使用的區塊邊界之前述上側的像素之數量最多的處理之前述區塊邊界之上側的像素之數量以下。
例如,當前述第1像素之數量與前述第2像素之數量不同時,前述第2濾波器之夾前述區塊邊界的濾波器分接頭長度也可為不同。
例如,當前述第1像素之數量與前述2像素之數量不同時,前述第2濾波器也可使用前述第1像素,產生於前述第1像素之上側連續之第3像素,且前述第2濾波器為使用前述第1像素、前述第2像素、及前述第3像素的濾波器,前述第1像素之數量與前述第3像素之數量之和等於前述第2像素之數量。
本揭示一態樣之編碼方法是從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器,並使用已決定的前述濾波器,對區塊邊界進行前述解區塊濾波處理,前述第1濾波器為使用前述區塊邊界之上側的M(M為2以上的整數)個像素、及前述區塊邊界之下側的M個像素的濾波器,前述第2濾波器為使用前述區塊邊界之上側的第1像素、及前述區塊邊界之下側的第2像素的濾波器,前述第1像素之數量為第1複數個候選值之任一個,前述第2像素之數量為第2複數個候選值之任一個,前述第1複數個候選值之每一個及前述第2複數個候選值之每一個為M或者是比M大的值。
依此,該編碼方法可以削減使用在解區塊濾波處理之區塊邊界的上側或者左側的像素之數量,所以有可削減保持在記憶體的資料量之可能性。
本揭示一態樣之解碼方法是從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器,並使用已決定的前述濾波器,對區塊邊界進行前述解區塊濾波處理,前述第1濾波器為使用前述區塊邊界之上側的M(M為2以上的整數)個像素、及前述區塊邊界之下側的M個像素的濾波器,前述第2濾波器為使用前述區塊邊界之上側的第1像素、及前述區塊邊界之下側的第2像素的濾波器,前述第1像素之數量為第1複數個候選值之任一個,前述第2像素之數量為第2複數個候選值之任一個,前述第1複數個候選值之每一個及前述第2複數個候選值之每一個為M或者是比M大的值。
依此,該解碼方法可以削減使用在解區塊濾波處理之區塊邊界的上側或者左側的像素之數量,所以有可削減保持在記憶體的資料量之可能性。
進而,該等概括性或是具體性的態樣,可以透過系統、裝置、方法、積體電路、電腦程式、或者、電腦可讀取之CD-ROM等之非暫時性記錄媒體來實現,也可以透過系統、裝置、方法、積體電路、電腦程式、及記錄媒體的任意組合來實現。
以下,一邊參考圖式,一邊具體地說明實施形態。
另,在以下所說明的實施形態每一個都是顯示概括性或具體性的例子。在以下的實施形態中所示的數值、形狀、材料、構成要素、構成要素的配置位置及連接形態、步驟、步驟的順序等都只是一個例子罷了,其旨趣並非是來限定請求的範圍。又,以下的實施形態中之構成要素之中,針對未記載於顯示最上位概念的獨立請求項之構成要素,是當做為任意的構成要素來說明的。
(實施形態1)
首先針對可適用後述的本揭示之各態樣中所說明的處理及/或構成之編碼裝置及解碼裝置的一例,說明實施形態1的概要。惟,實施形態1只不過是可適用本揭示之各態樣所說明之處理及/或構成的編碼裝置及解碼裝置之一例罷了,在本揭示所說明的處理及/或構成也可實施於與實施形態1不同的編碼裝置及解碼裝置中。
對於實施形態1,適用在本揭示之各態樣所說明的處理及/或構成時,例如亦可以進行以下任一種方式:
(1)對於實施形態1之編碼裝置或者解碼裝置,在構成該編碼裝置或者解碼裝置之複數個構成要素之中,將與本揭示的各態樣中所說明的構成要素對應的構成要素,替換成本揭示的各態樣中所說明的構成要素;
(2) 對於實施形態1之編碼裝置或者解碼裝置,針對構成該編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素,先施予功能或者欲實施之處理的追加、替換、刪除等之任意的變更後,再將與本揭示之各態樣中所說明的構成要素對應的構成要素,替換成本揭示之各態樣中所說明的構成要素;
(3) 對於實施形態1之編碼裝置或者解碼裝置所要實施的方法,針對處理的追加、及/或該方法所含的複數個處理之中一部分的處理,先施予替換、刪除等之任意的變更後,再將與本揭示的各態樣中所說明的處理相對應的處理,替換成本揭示的各態樣中所說明的處理;
(4) 將構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素,和本揭示之各態樣中所說明的構成要素、具有本揭示之各態樣中所說明的構成要素所具備的功能之一部分之構成要素、或者要實施本揭示之各態樣中所說明之構成要素所要實施的處理之一部分的構成要素組合而實施;
(5)將具備構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素所具備的功能之一部分的構成要素、或者實施構成實施形態1之編碼裝置或者解碼裝置之複數個構成要素之中一部分的構成要素所實施的處理之一部分的構成要素,和本揭示之各態樣中所說明之構成要素、具備在本揭示之各態樣中所說明之構成要素所具備的功能之一部分之構成要素、或者是實施本揭示之各態樣中所說明之構成要素所實施之處理之一部分的構成要素組合來實施;
(6)對於實施形態1之編碼裝置或者解碼裝置所要實施的方法,在該方法所含的複數個處理之中,將對應於本揭示之各態樣中所說明之處理的處理,替換成本揭示之各態樣中所要說明的處理;
(7)將實施形態1之編碼裝置或者解碼裝置所要實施的方法所含的複數個處理之中的一部分處理,和本揭示之各態樣中所說明之處理相組合來實施。
另,本揭示之各態樣中所說明之處理及/或構成的實施方式並不限於上述例子。例如,也可以實施在與實施形態1中所揭示之動態圖像/圖像編碼裝置或者是動態圖像/圖像解碼裝置不同的目的而被利用的裝置中,也可以單獨地實施已在各態樣中所說明之處理及/或構成。又,也可將已在不同的態樣中說明的處理及/或構成組合來實施。
[編碼裝置的概要]
首先,說明實施形態1之編碼裝置之概要。圖1是顯示實施形態1之編碼裝置100之功能構成之方塊圖。編碼裝置100是以區塊單位編碼動態圖像/圖像之動態圖像/圖像編碼裝置。
如圖1所示,編碼裝置100為將圖像以區塊單位進行編碼之裝置,包含有:分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、區塊記憶體118、迴路濾波部120、幀記憶體122、內預測部124、間預測部126、及預測控制部128。
編碼裝置100,是例如藉由通用處理器及記憶體來實現。此時,當儲存在記憶體的軟體程式藉由處理器來執行時,處理器作為分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、內預測部124、間預測部126、及預測控制部128而發揮功能。又,編碼裝置100也可作為對應於分割部102、減法部104、轉換部106、量化部108、熵編碼部110、反量化部112、反轉換部114、加法部116、迴路濾波部120、內預測部124、間預測部126、及預測控制部128之專用的1個以上的電子電路來實現。
以下,針對編碼裝置100所含的各構成要素予以說明。
[分割部]
分割部102將輸入動態圖像所含的各圖片分割成複數個區塊,並將各區塊輸出至減法部104。例如,分割部102,首先將圖片分割成固定尺寸(例如128×128)之區塊。該固定尺寸的區塊有時被稱為編碼樹單元(CTU)。接著,分割部102根據遞迴性的四元樹(quadtree)及/或二元樹(binary tree)區塊分割,將固定尺寸的區塊之每一個分割成可變尺寸(例如64×64以下)的區塊。這個可變尺寸的區塊有時被稱為編碼單元(CU)、預測單元(PU)或者轉換單元(TU)。另,在本實施形態中,沒有區別CU、PU及TU的必要,也可以是圖片內的一部分或者全部的區塊成為CU、PU、TU的處理單位。
圖2是顯示實施形態1中的區塊分割一例之圖。在圖2中,實線是表示透過四元樹區塊分割所得到的區塊邊界,虛線是表示透過二元樹區塊分割所得到的區塊邊界。
在此,區塊10是128×128像素的正方形區塊(128×128區塊)。該128×128區塊10,首先是被分割成4個正方形的64×64區塊(四元樹區塊分割)。
左上的64×64區塊是進一步被垂直分割成2個矩形的32×64區塊,左邊的32×64區塊是進一步被垂直分割成2個矩形的16×64區塊(二元樹區塊分割)。其結果,左上的64×64區塊是被分割成2個16×64區塊11、12、及32×64區塊13。
右上的64×64區塊是被水平分割成2個矩形的64×32區塊14、15(二元樹區塊分割)。
左下的64×64區塊是被分割成4個正方形的32×32區塊(四元樹區塊分割)。4個32×32區塊之中,左上的區塊及右下的區塊被進一步分割。左上的32×32區塊是被垂直分割成2個矩形的16×32區塊,右邊的16×32區塊是進一步被水平分割成2個16×16區塊(二元樹區塊分割)。右下的32×32區塊是被水平分割成2個32×16區塊(二元樹區塊分割)。其結果,左下的64×64區塊是被分割成16×32區塊16;2個16×16區塊17、18;2個32×32區塊19、20;及2個32×16區塊21、22。
右下的64×64區塊23不分割。
如上,在圖2中,區塊10是根據遞迴性的四元樹及二元樹區塊分割,而被分割成13個可變尺寸的區塊11至23。如此之分割,有時被稱為QTBT(quad-tree plus binary tree)分割。
另,在圖2中,1個區塊是被分割成4個或者2個區塊(四元樹或者二元樹區塊分割),而分割並不限於此。例如,1個區塊也可被分割成3個區塊(三元樹區塊分割)。如此之包括三元樹區塊分割的分割有時被稱為MBT(multi type tree)分割。
[減法部]
減法部104是以分割部102所分割的區塊單位,從原訊號(原樣本)減去預測訊號(預測樣本)。即,減法部104是算出編碼對象區塊(以下,稱為目前區塊)的預測誤差(也稱為殘差)。接著,減法部104將所算出的預測誤差輸出至轉換部106。
原訊號是編碼裝置100的輸入訊號,為表示構成動態圖像之各圖片的圖像之訊號(例如亮度(luma)訊號及2個色差(chroma)訊號)。在以下內容中,也將表示圖像的訊號稱為樣本。
[轉換部]
轉換部106將空間區域的預測誤差轉換成頻率區域的轉換係數,且將轉換係數輸出至量化部108。具體來說,轉換部106,例如對於空間區域的預測誤差,進行已事先決定的離散餘弦轉換(DCT)或者離散正弦轉換(DST)。
另,轉換部106也可從複數個轉換型式之中適應性地選擇轉換型式,使用對應於所選擇的轉換型式之轉換基底函數(transform basis function),將預測誤差轉換成轉換係數。如此之轉換有時被稱為EMT(explicit multiple core transform)或者AMT(adaptive multiple transform)。
複數個轉換型式,例如包括有DCT-II、DCT-V、DCT-VIII、DST-I及DST-VII。圖3是顯示對應於各轉換型式之轉換基底函數之表。在圖3中,N顯示輸入像素的數。從該等複數個轉換型式之中的轉換型式的選擇,例如也可依據預測的種類(內預測及間預測),也可依據內預測模式。
顯示是否適用如此的EMT或者AMT之資訊(例如被稱為AMT旗標)以及顯示所被選擇的轉換型式的資訊是以CU等級而被進行訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如序列等級(sequence level)、圖片等級(picture level)、切片等級(slice level)、方塊(tile)等級或者CTU等級)。
又,轉換部106也可將轉換係數(轉換結果)再轉換。如此之再轉換有時被稱為AST(adaptive secondary transform)或者NSST(non-separable secondary transform)。例如,轉換部106依對應於內預測誤差之轉換係數的區塊所含的各個子區塊(例如4×4子區塊)進行再轉換。顯示是否適用NSST之資訊及有關於使用在NSST之轉換矩陣之資訊是以CU等級進行訊號化。另,該等資訊的訊號化沒有必要限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級或者CTU等級)。
在此,可分離(Separable)的轉換是指依方向分離輸入的維數,來進行數次轉換的方式,不可分離(Non-Separable)的轉換是指在輸入為多維時,將2個以上的維度匯整而視為1維,再一起進行轉換的方式。
例如,以不可分離的轉換之1例來說,可舉例有:在輸入為4×4的區塊時,將該區塊視為具有16個要素之一個陣列,並對該陣列,以16×16的轉換矩陣進行轉換處理。
又,同樣地,將4×4的輸入區塊視為如同具有16個要素之一整個陣列,之後對該陣列進行數次吉文斯旋轉(Givens rotation)之構成(Hypercube Givens Transform/超立方體吉文斯轉換),也是不可分離(Non- Separable)的轉換的例子。
[量化部]
量化部108將從轉換部106所輸出的轉換係數進行量化。具體來說,量化部108以預定的掃描順序來掃描當前區塊的轉換係數,根據對應於所掃描的轉換係數的量化參數(QP),而將該轉換係數進行量化。然後,量化部108將當前區塊之業經量化的轉換係數(以下稱為量化係數)輸出至熵編碼部110及反量化部112。
預定的順序是轉換係數的量化/反量化之用的順序。例如,預定的掃描順序是以頻率的升冪排序(從低頻到高頻的順序)或者降冪排序(從高頻到低頻的順序)來定義。
量化參數是指定義量化步階(量化幅寬)的參數。例如,若量化參數的值增加,則量化步階也會增加。即,若量化參數的值增加,量化誤差也會變大。
[熵編碼部]
熵編碼部110將從量化部108輸入的量化係數進行可變長度編碼,藉此產生編碼訊號(編碼位元流)。具體來說,熵編碼部110,例如是將量化係數進行二值化,且將二值訊號進行算術編碼。
[反量化部]
反量化部112將來自量化部108的輸入之量化係數進行反量化。具體來說,反量化部112以預定的掃描順序將當前區塊的量化係數進行反量化。然後,反量化部112將當前區塊的業經反量化的轉換係數輸出至反轉換部114。
[反轉換部]
反轉換部114將來自反量化部112之輸入的轉換係數進行反轉換,藉此將預測誤差復原。具體來說,反轉換部114對轉換係數進行與轉換部106所進行的轉換對應之反轉換,藉此將當前區塊的預測誤差進行復原。然後,反轉換部114將已復原的預測誤差輸出至加法部116。
另,已復原的預測誤差是因為量化的進行而失去了資訊,因此和減法部104所算出的預測誤差不一致。即,在已復原的預測誤差中含有量化誤差。
[加法部]
加法部116將來自反轉換部114之輸入的預測誤差、與來自預測控制部128之輸入的預測樣本相加,藉此再構成當前區塊。然後,加法部116將已再構成的區塊輸出至區塊記憶體118及迴路濾波部120。再構成區塊有時也被稱為局部解碼區塊。
[區塊記憶體]
區塊記憶體118是用以儲存於內預測被參考的區塊且為編碼對象圖片(以下稱為當前圖片)內的區塊。具體來說,區塊記憶體118儲存從加法部116輸出的再構成區塊。
[迴路濾波部]
迴路濾波部120對透過加法部116而再構成的區塊施加迴路濾波,且將已濾波的再構成區塊輸出至幀記憶體122。迴路濾波器是指在編碼迴路內所使用的濾波器(迴路內濾波器),例如包括解區塊濾波器(DF)、樣本適應性偏移(SAO)及適應性迴路濾波器(ALF)等。
在ALF中,適用用以移除編碼變形的最小平方誤差濾波器,例如按當前區塊內的各個2×2子區塊,根據局部性的梯度(gradient)的方向及活性度(activity),適用從複數個濾波器之中所選擇的1個濾波器。
具體來說,首先子區塊(例如2×2子區塊)被分類成複數個類別(例如15或者25類)。子區塊的分類是根據梯度的方向及活性度來進行。例如,使用梯度的方向值D(例如0至2或者0至4)與梯度的活性值A(例如0至4),而算出分類值C(例如C=5D+A)。然後,根據分類值C,使子區塊被分類成複數個類別(例如15或者25類)。
梯度的方向值D,例如是藉由比較複數個方向(例如水平、垂直及2個對角方向)的梯度來導出。又,梯度的活性值A,例如是藉由將複數個方向的梯度相加,並將加法結果進行量化來導出。
根據如此分類的結果,從複數個濾波器之中,決定子區塊用的濾波器。
以於ALF所使用的濾波器的形狀來說,例如利用圓對稱形狀。如圖4A至圖4C是顯示ALF所使用的濾波器的形狀的複數例之圖。圖4A顯示5×5菱形形狀濾波器,圖4B顯示7×7菱形形狀濾波器,圖4C是顯示9×9菱形形狀濾波器。顯示濾波器的形狀之資訊是以圖片等級來被進行訊號化。另,顯示濾波器的形狀之資訊的訊號化並不須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、方塊等級、CTU等級或者是CU等級)。
ALF的開啟/關閉,例如是以圖片等級或者CU等級來決定。例如,針對亮度,是以CU等級來決定是否適用ALF,針對色差,是以圖片等級來決定是否適用ALF。顯示ALF的開啟/關閉的資訊,是以圖片等級或者CU等級來進行訊號化。另,顯示ALF的開啟/關閉的資訊,並無須限定在圖片等級或者CU等級,也可為其他等級(例如序列等級、切片等級、方塊等級、或者CTU等級)。
可選擇的複數個濾波器(例如迄至15或25的濾波器)的係數組合是以圖片等級進行訊號化。另,係數組合的訊號化並無須限定在圖片等級,也可為其他等級(例如序列等級、切片等級、方塊等級、CTU等級、CU等級或者是子區塊等級)。
[幀記憶體]
幀記憶體122是一種用以儲存被使用在間預測的參考圖片之記憶部,有時也被稱為幀緩衝器。具體來說,幀記憶體122儲存已經由迴路濾波部120過濾的再構成區塊。
[內預測部]
內預測部124藉由參考區塊記憶體118所儲存的當前圖片內的區塊,進行當前區塊的內預測(也稱為畫面內預測),以產生預測訊號(內預測訊號)。具體來說,內預測部124藉由參考鄰接於當前區塊之區塊的樣本(例如亮度值、色差值)進行內預測,以產生內預測訊號,且將內預測訊號輸出至預測控制部128。
例如,內預測部124利用已事先規定的複數個內預測模式之中的1個,來進行內預測。複數個內預測模式包括1個以上的非方向性預測模式、及複數個方向性預測模式。
1個以上的非方向性預測模式,例如包括以H.265/HEVC(High-Efficiency Video Coding/高效率視訊編碼)規格(非專利文獻1)所規定的平面(Planar)預測模式及直流(DC)預測模式。
複數個方向性預測模式,例如包括以H.265/ HEVC規格所規定的33種方向的預測模式。另,複數個方向性預測模式,除了33種方向外,也可進一步包括32種方向的預測模式(合計共65種方向性預測模式)。圖5A是顯示內預測中的67種內預測模式(2個非方向性預測模式及65個方向性預測模式)之圖。實線箭頭符號表示以H.265/ HEVC規格所規定的33種方向,虛線箭頭符號是表示所追加的32種方向。
另,在色差區塊的內預測中,亮度區塊也可被參考。即,根據當前區塊的亮度成分,當前區塊的色差成分也可被預測。如此之內預測有時被稱為CCLM (cross- component linear model)預測。像這種參考亮度區塊之色差區塊的內預測模式(例如被稱為CCLM模式),也可作為1種色差區塊的內預測模式而加入。
內預測部124,也可根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。像這樣伴隨著補正的內預測有時被稱為PDPC(position dependent intra prediction combination)。顯示有無PDPC的適用之資訊(例如被稱為PDPC旗標),例如是以CU等級而被進行訊號化。另,該資訊的訊號化並無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、或者CTU等級)。
[間預測部]
間預測部126參考參考圖片,來進行當前區塊的間預測(也叫做畫面間預測),以此產生預測訊號(間預測訊號),其中該參考圖片是幀記憶體122所儲存的參考圖片,且為與當前圖片相異的參考圖片。間預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位來進行。例如,間預測部126針對當前區塊或者子區塊,在參考圖片內進行移動估測(motion estimation)。接著,間預測部126利用藉由移動估測而得到的移動資訊(例如移動向量)來進行移動補償,以此產生當前區塊或者子區塊的間預測訊號。然後,間預測部126將所產生的間預測訊號輸出至預測控制部128。
用於移動補償的移動資訊被進行訊號化。對於移動向量的訊號化,移動向量預測子(motion vector predictor)也可被使用。即,移動向量與移動向量預測子之間的差分也可被訊號化。
另,不僅使用透過移動估測所得到的當前區塊的移動資訊,也可使用鄰接區塊的移動資訊,來產生間預測訊號。具體來說,也可將根據透過移動估測所得到的移動資訊之預測訊號、與根據鄰接區塊的移動資訊之預測訊號予以加權加總,藉此以當前區塊內的子區塊單位來產生間預測訊號。如此之間預測(移動補償)有時被稱為OBMC (overlapped block motion compensation)。
在如此之OBMC模式中,顯示OBMC用的子區塊的尺寸之資訊(例如被稱為OBMC區塊尺寸)是以序列等級而被訊號化。又,顯示是否適用OBMC模式之資訊(例如被叫做OBMC旗標)是以CU等級而被訊號化。另,該等資訊的訊號化的等級並無須限定在序列等級及CU等級,也可為其他等級(例如圖片等級、切片等級、方塊等級、CTU等級、或者子區塊等級)。
針對OBMC模式,更具體地來進行說明。圖5B及圖5C是用以說明OBMC處理所進行的預測圖像補正處理的概要之流程圖及概念圖。
首先,使用被分配到編碼對象區塊之移動向量(MV),取得依通常的移動補償所得到之預測圖像(Pred)。
其次,將已編碼完畢的左鄰接區塊的移動向量(MV_L)適用在編碼對象區塊,取得預測圖像(Pred_L),將前述預測圖像與Pred_L加權、疊合,以此進行預測圖像的第1次補正。
以同樣方式,將已編碼完畢之上鄰接區塊的移動向量(MV_U)適用在編碼對象區塊,取得預測圖像 (Pred_U),將前述已進行第1次補正的預測圖像與Pred_U賦予權重、疊合,以此進行預測圖像的第2次補正,將此作為最後的預測圖像。
另,在此說明了使用左鄰接區塊與上鄰接區塊的2階段補正的方法,但也能作成使用右鄰接區塊或下鄰接區塊來進行比2階段更多次數的補正之構成。
另,進行疊合的區域,也可為僅只區塊邊界附近之一部分的區域,而非區塊整體的像素區域。
另,在此雖是針對來自1張參考圖片的預測圖像補正處理進行說明,但是在從複數張參考圖片來補正預測圖像的情況也是同樣的方式,從各參考圖片取得已補正的預測圖像後,將所得到的預測圖像進一步疊合,以此作為最後的預測圖像。
另,前述處理對象區塊也可為預測區塊單位,也可為將預測區塊進一步加以分割的子區塊單位。
作為判定是否適用OBMC處理的方法,例如有一種使用obmc_flag之方法,該obmc_flag是顯示是否適用OBMC處理的訊號。以一具體例來說,在編碼裝置中,判定編碼對象區塊是否屬於移動為複雜的區域,在屬於移動為複雜的區域時,設定值為1來作為obmc_flag,適用OBMC處理進行編碼,在不屬於移動為複雜的區域時,則設定值為0來作為obmc_flag,不適用OBMC處理來進行編碼。另一方面,在解碼裝置中,將記述在串流的obmc_flag解碼,以此因應該值,切換是否適用OBMC處理,來進行解碼。
另,移動資訊也可不被訊號化,而在解碼裝置側導出。例如也可採用以H.265/HEVC規格所規定的合併(merge)模式。又,例如也可於解碼裝置側進行移動估測,藉此導出移動資訊。此時,不使用當前區塊的像素值而進行移動估測。
在此,針對在解碼裝置側進行移動估測之模式來說明。在該解碼裝置側進行移動估測的模式有時被稱為PMMVD(pattern matched motion vector derivation)模式或者FRUC(frame rate up-conversion)模式。
FRUC處理之一例是顯示在圖5D中。首先,參考空間上或時間上鄰接於當前區塊的編碼完畢區塊之移動向量,產生複數個候選的清單(也可與合併清單為共通),該複數個候選的清單各自具有移動向量預測子。其次,從已登錄在候選清單的複數個候選MV之中選擇最佳候選MV。例如,算出候選清單所含的各候選的評價值,根據評價值,而選擇1個候選。
接著,根據所選擇的候選之移動向量,導出當前區塊用的移動向量。具體來說,例如將所選擇的候選之移動向量(最佳候選MV),就這樣導出來作為當前區塊用的移動向量。又,例如在參考圖片內之位置的周邊區域中進行圖案匹配,藉此也可以導出當前區塊用的移動向量,其中該參考圖片是對應於所選擇之候選的移動向量。即,對於最佳候選MV之周邊的區域,以同樣的方法進行估測,進而有評價值為好的數字之MV時,將最佳候選MV更新為前述MV,將該MV當做為當前區塊之最後的MV亦可。另,也可做成不實施該處理之構成。
在以子區塊單位進行處理時,也可構成為完全同樣的處理。
另,評價值可透過對應於移動向量之參考圖片內的區域、與預定區域之間的圖案匹配,來求取再構成圖像的差分值,藉此而算出。另,除了差分值外,也可使用除此以外的資訊,來算出評價值。
對於圖案匹配,是使用第1圖案匹配或者第2圖案匹配。第1圖案匹配及第2圖案匹配,有時分別被稱為雙向匹配(bilateral matching)以及模板匹配(template matching)。
在第1圖案匹配中,是在2個區塊之間進行圖案匹配,該2個區塊是不同的2個參考圖片內的2個區塊,且是沿著當前區塊的移動軌跡(motion trajectory)。因此,在第1圖案匹配中,使用沿著當前區塊的移動軌跡的其他參考圖片內之區域,來作為算出上述候選的評價值之用的預定區域。
圖6是用以說明在沿著移動軌跡的2個區塊間之圖案匹配(雙向匹配)一例之圖。如圖6所示,在第1圖案匹配下,在沿著當前區塊(Cur block)的移動軌跡之2個區塊,且為不同的2個參考圖片(Ref0、Ref1)內的2個區塊之配對(pair)之中,估測最為相配的配對,藉此導出2個移動向量(MV0、MV1)。具體來說,對於當前區塊,導出以候選MV所指定的第1編碼完畢參考圖片(Ref0)內的指定位置中之再構成圖像、與已將前述候選MV以顯示時間間隔進行定標(scaling)的對稱MV所指定的第2編碼完畢參考圖片(Ref1)內的指定位置中之再構成圖像間之差分,使用所得到的差分值來算出評價值。在複數個候選MV之中,選擇評價值為最佳值的候選MV,作為最後MV即可。
在連續的移動軌跡的假設之下,指示2個參考區塊的移動向量(MV0、MV1)相對於當前圖片(Cur Pic)與2個參考圖片(Ref0、Ref1)間之時間上的距離(TD0、TD1)成比例。例如,當前圖片是時間上位於2個參考圖片之間,在從當前圖片到2個參考圖片的時間上的距離相等時,在第1圖案匹配上,能導出鏡射對稱的雙向之移動向量。
在第2圖案匹配上,在當前圖片內的模板(在當前圖片內鄰接於當前區塊的區塊(例如上及/或左鄰接區塊))與參考圖片內的區塊之間,進行圖案匹配。因此,在第2圖案匹配上,使用鄰接於當前圖片內的當前區塊的區塊,以作為上述之候選的評價值之算出用的預定區域。
圖7是用以說明在當前圖片內的模板(Template)與參考圖片內的區塊之間的圖案匹配(模板匹配)一例之圖。如圖7所示,在第2圖案匹配中,在參考圖片(Ref0)內估測在當前圖片(Cur Pic)內和鄰接於當前區塊(Cur block)之區塊最匹配的區塊,藉此導出當前區塊的移動向量。具體來說,對於當前區塊,導出:左鄰接及上鄰接兩邊或者任一邊的編碼完畢區域的再構成圖像、與以候選MV所指定的編碼完畢參考圖片(Ref0)內的同等位置中的再構成圖像間之差分,且使用所得到的差分值,算出評價值,在複數個候選MV之中選擇評價值為最佳之值的候選MV,作為最佳候選MV,即可。
如此之顯示是否適用FRUC模式之資訊(例如被稱為FRUC旗標)是以CU等級而被訊號化。又,在適用FRUC模式時(例如FRUC旗標為真時),顯示圖案匹配之方法(第1圖案匹配或者第2圖案匹配)之資訊(例如被稱為FRUC模式旗標)是以CU等級而被訊號化。另,該等資訊之訊號化並不須限定於CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、CTU等級或者子區塊等級)。
在此,針對根據模型來導出移動向量的模式進行說明,其中該模型為假設為等速直線運動之模型。該模式有時被稱為BIO (bi-directional optical flow,雙向光流)模式。
圖8是用以說明假設為等速直線運動的模型之圖。在圖8中,(v
x,v
y)是表示速度向量,τ
0、τ
1各表示為當前圖片 (Cur Pic)與2個參考圖片(Ref
0,Ref
1)間的時間上的距離。(MVx
0,MVy
0)是表示對應於參考圖片Ref
0之移動向量,(MVx
1、MVy
1)是表示對應於參考圖片Ref
1之移動向量。
此時,速度向量(v
x,v
y)在等速直線運動的假設之下,(MVx
0,MVy
0)及(MVx
1,MVy
1)各表示為(v
xτ
0,v
yτ
0)及(-v
xτ
1,-v
yτ
1),使以下的光流等式(1)成立。
(數1)
在此,I
(k)是表示移動補償後之參考圖像k(k=0,1)的亮度值。該光流等式是顯示(i)亮度值的時間微分、(ii)水平方向的速度及參考圖像的空間梯度的水平成分的乘積、與(iii)垂直方向的速度及參考圖像的空間梯度的垂直成分的乘積之和等於零者。根據該光流等式與埃爾米特插值(Hermite interpolation)之組合,將從合併清單等所得到的區塊單位之移動向量以像素單位進行補正。
另,也能以異於根據假設等速直線運動之模型之移動向量的導出之方法,在解碼裝置側導出移動向量。例如,也可根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量。
在此,針對根據複數個鄰接區塊的移動向量,以子區塊單位導出移動向量的模式進行說明。該模式有時被稱為仿射移動補償預測(affine motion compensation prediction)模式。
圖9A是用以說明子區塊單位的移動向量之導出之圖,該導出是根據複數個鄰接區塊的移動向量來進行。在圖9A中,當前區塊含有16個4×4子區塊。在此,根據鄰接區塊的移動向量,導出當前區塊的左上角控制點的移動向量v
0,且根據鄰接子區塊的移動向量,導出當前區塊的右上角控制點的移動向量v
1。接著,使用2個移動向量v
0及v
1,經由以下的式(2),而導出當前區塊內的各子區塊的移動向量(v
x,v
y)。
(數2)
在此,x及y各表示子區塊的水平位置及垂直位置,w表示已事先訂定的權重係數。
在如此之仿射移動補償預測模式中,也可包括左上及右上角控制點的移動向量之導出方法相異之幾個模式。顯示如此之仿射移動補償預測模式之資訊(例如被稱為仿射旗標)是以CU等級而被進行訊號化。另,該顯示仿射移動補償預測模式之資訊的訊號化無須限定在CU等級,也可為其他等級(例如序列等級、圖片等級、切片等級、方塊等級、CTU等級或者子區塊等級)。
[預測控制部]
預測控制部128選擇內預測訊號及間預測訊號之任一種,且將所選擇的訊號作為預測訊號,而輸出至減法部104及加法部116。
在此,說明經由合併模式而導出編碼對象圖片的移動向量之例。圖9B是用以說明藉合併模式進行之移動向量導出處理之概要之圖。
首先,產生已登錄預測MV之候選的預測MV清單。以預測MV的候選來說,包括有:空間鄰接預測MV,為編碼對象區塊之空間上位於周邊的複數個編碼完畢區塊所具有之MV;時間鄰接預測MV,為投影到編碼完畢參考圖片中的編碼對象區塊之位置的附近區塊所具有的MV;結合預測MV,為組合空間鄰接預測MV及時間鄰接預測MV之MV值而產生的MV;以及零預測MV,其值為零的MV等。
其次,從已登錄在預測MV清單的複數個預測MV之中,選擇1個預測MV,以此將之決定作為編碼對象區塊的MV。
進而,在可變長度編碼部中,將merge_idx記述在串流中,並進行編碼,其中該merge_idx是顯示已選擇哪一預測MV之訊號。
另,登錄在圖9B中所說明之預測MV清單之預測MV只是一個例子,也可為和圖中的個數不同的個數,或者不含圖中的預測MV之一部分的種類之構成,或者追加了圖中的預測MV之種類以外的預測MV之構成。
另,也可使用藉合併模式所導出之編碼對象區塊的MV,進行後述的DMVR處理,藉此來決定最後的MV。
在此,針對使用DMVR處理來決定MV之例進行說明。
圖9C是用以說明DMVR處理的概要之概念圖。
首先,以已設定於處理對象區塊的最適合的MVP作為候選MV來說,依照前述候選MV,從L0方向的處理完畢圖片即第1參考圖片、及L1方向之處理完畢圖片即第2參考圖片,分別取得參考像素,取各參考像素的平均,以此產生模板。
其次,使用前述模板,分別估測第1參考圖片及第2參考圖片的候選MV之周邊區域,將成本為最小的MV決定作為最後的MV。另,成本值是利用模板的各像素值與估測區域的各像素值之差分值及MV值等來算出。
另,在編碼裝置及解碼裝置中,在此所說明的處理之概要基本上是共通的。
另,就算不是在此所說明的處理內容,只要是能估測候選MV的周邊而導出最後的MV之處理,也可使用其他處理。
在此,針對使用LIC處理來產生預測圖像的模式進行說明。
圖9D是用以說明使用依LIC處理之亮度補正處理的預測圖像產生方法之概要之圖。
首先,從參考圖片導出MV,其中該參考圖片是編碼完畢圖片,該MV是用以取得對應於編碼對象區塊之參考圖像。
其次,對於編碼對象區塊,利用左鄰接及上鄰接之編碼完畢周邊參考區域的亮度像素值、與位於以MV所指定的參考圖片內之同等位置之亮度像素值,擷取顯示亮度值在參考圖片與編碼對象圖片是如何變化的資訊,而算出亮度補正參數。
對於以MV所指定的參考圖片內之參考圖像,使用前述亮度補正參數,進行亮度補正處理,以此產生相對於編碼對象區塊之預測圖像。
另,圖9D中的前述周邊參考區域的形狀只是其中一例而已也可使用除此以外的形狀。
又,在此已針對從1張參考圖片來產生預測圖像的處理進行說明,但從複數張的參考圖片來產生預測圖像的情況也是同樣,先對已從各個參考圖片取得的參考圖像,以同樣的方法進行亮度補正處理,之後再產生預測圖像。
以判定是否適用LIC處理之方法來說,例如有使用lic_flag之方法,該lic_flag是顯示是否適用LIC處理的訊號。以具體的一例來說,在編碼裝置中,判定編碼對象區塊是否為屬於發生亮度變化之區域,若為屬於發生亮度變化的區域時,對lic_flag設定其值為1,適用LIC處理而進行編碼,若不屬於發生亮度變化之區域時,則對lic_flag設定其值為0,不適用LIC處理而進行編碼。另一方面,在解碼裝置中,將記述於串流之lic_flag進行解碼,以此因應該值來切換是否適用LIC處理,而進行解碼。
以判定是否適用LIC處理之另一方法來說,例如還有依照在周邊區塊是否適用過LIC處理而判定之方法。以具體的一例來說,編碼對象區塊為合併模式時,判定在於合併模式處理中的MV之導出時所選擇的周邊的編碼完畢區塊是否適用LIC處理而進行編碼,因應該結果,切換是否適用LIC處理,而進行編碼。另,在該例的情況,解碼中的處理也是完全相同。
[解碼裝置的概要]
其次,針對解碼裝置之概要進行說明,該解碼裝置可將從上述編碼裝置100所輸出的編碼訊號(編碼位元流)進行解碼。圖10是顯示實施形態1之解碼裝置200的功能構成之方塊圖。解碼裝置200是以區塊單位而將動態圖像/圖像進行解碼的動態圖像/圖像解碼裝置。
如圖10所示,解碼裝置200包含有:熵解碼部202、反量化部204、反轉換部206、加法部208、區塊記憶體210、迴路濾波部212、幀記憶體214、內預測部216、間預測部218、及預測控制部220。
解碼裝置200,例如可透過通用處理器及記憶體來實現。此時,記憶體所儲存的軟體程式經由處理器來執行時,處理器是作為熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、內預測部216、間預測部218、及預測控制部220而運作。又,解碼裝置200也可作為對應於熵解碼部202、反量化部204、反轉換部206、加法部208、迴路濾波部212、內預測部216、間預測部218、及預測控制部220之專用的1個以上的電子電路而附諸實現。
以下,針對解碼裝置200所含的各構成要素予以說明。
[熵解碼部]
熵解碼部202是將編碼位元流進行熵解碼。具體來說,熵解碼部202是例如進行從編碼位元流變成二值訊號的算術解碼。接著,熵解碼部202將二值訊號進行多值化(debinarize)。藉此,熵解碼部202是以區塊單位而將量化係數輸出至反量化部204。
[反量化部]
反量化部204將解碼對象區塊(以下稱為當前區塊)的量化係數進行反量化,其中前述解碼對象區塊為來自熵解碼部202的輸入。具體來說,反量化部204是針對當前區塊的各個量化係數,根據對應於該量化係數之量化參數,而將該量化係數進行反量化。然後,反量化部204是將當前區塊的業經反量化之量化係數(即轉換係數)輸出至反轉換部206。
[反轉換部]
反轉換部206將轉換係數進行反轉換,藉此將預測誤差復原,其中前述轉換係數為來自反量化部204之輸入。
例如已從編碼位元流解讀的資訊是顯示適用EMT或者AMT的時候(例如AMT旗標為真),反轉換部206是根據顯示所解讀的轉換型式的資訊,將當前區塊的轉換係數進行反轉換。
又,例如已從編碼位元流解讀的資訊是顯示適用NSST的時候,反轉換部206是對轉換係數適用反再轉換。
[加法部]
加法部208將預測誤差與預測樣本相加,藉此再構成當前區塊,其中前述預測誤差是來自反轉換部206之輸入,該預測樣本是來自預測控制部220之輸入。然後,加法部208將業經再構成的區塊輸出至區塊記憶體210及迴路濾波部212。
[區塊記憶體]
區塊記憶體210是用以儲存在內預測中被參考的區塊,且為解碼對象圖片(以下稱為當前圖片)內的區塊之記憶部。具體來說,區塊記憶體210儲存從加法部208所輸出的再構成區塊。
[迴路濾波部]
迴路濾波部212對已經由加法部208而再構成的區塊施行迴路濾波,且將業已濾波的再構成區塊輸出至幀記憶體214及顯示裝置等。
顯示已從編碼位元流解讀之ALF之開啟/關閉的資訊是顯示ALF之開啟的時候,根據一部分的梯度的方向及活性度,從複數個濾波器之中,選擇1個濾波器,將所選擇的濾波器適用於再構成區塊。
[幀記憶體]
幀記憶體214是用以儲存使用在間預測的參考圖片之記憶部,有時候也被稱為幀緩衝器。具體來說,幀記憶體214是儲存經由迴路濾波部212所濾波的再構成區塊。
[內預測部]
內預測部216是根據已從編碼位元流解讀的內預測模式,參考區塊記憶體210所儲存的當前圖片內的區塊,來進行內預測,以此產生預測訊號(內預測訊號)。具體來說,內預測部216參考鄰接於當前區塊的區塊之樣本(例如亮度值、色差值)來進行內預測,以此產生內預測訊號,且將內預測訊號輸出至預測控制部220。
另,在色差區塊的內預測中,選擇了參考亮度區塊的內預測模式時,內預測部216也可根據當前區塊的亮度成分,預測當前區塊的色差成分。
又,在已從編碼位元流解讀的資訊顯示PDPC的適用時,內預測部216是根據水平/垂直方向的參考像素的梯度,來補正內預測後的像素值。
[間預測部]
間預測部218參考幀記憶體214所儲存的參考圖片,來預測當前區塊。預測是以當前區塊或者當前區塊內的子區塊(例如4×4區塊)的單位進行。例如,間預測部218使用已從編碼位元流解讀的移動資訊(例如移動向量)來進行移動補償,以此產生當前區塊或者子區塊的間預測訊號,且將間預測訊號輸出至預測控制部220。
另,在已從編碼位元流解讀的資訊是顯示適用OBMC模式時,間預測部218不只是利用經由移動估測而得到的當前區塊的移動資訊,還利用鄰接區塊的移動資訊,產生間預測訊號。
又,在已從編碼位元流解讀的資訊是顯示適用FRUC模式時,間預測部218是依照已從編碼流解讀的圖案匹配的方法(雙向匹配或者模板匹配)來進行移動估測,藉此導出移動資訊。然後,間預測部218使用所導出的移動資訊,來進行移動補償。
又,間預測部218是適用BIO模式時,根據假設等速直線運動之模型,導出移動向量。又,在已從編碼位元流解讀的資訊顯示適用仿射移動補償預測模式時,間預測部218是根據複數個鄰接區塊的移動向量,而以子區塊單位導出移動向量。
[預測控制部]
預測控制部220是選擇內預測訊號及間預測訊號之任一個,且將所選擇的訊號作為預測訊號,而輸出至加法部208。
[解區塊濾波處理]
接著,一邊參考圖式,一邊具體地說明在如上構成的編碼裝置100及解碼裝置200中進行的解區塊濾波處理。另,雖然以下主要是說明編碼裝置100所具備的迴路濾波部120的動作,但解碼裝置200所具備的迴路濾波部212的動作也是同樣的。
如上述,編碼裝置100在將圖像進行編碼時,從原訊號減去內預測部124或者間預測部126所產生的預測訊號,藉此算出預測誤差。編碼裝置100對預測誤差施行正交轉換處理及量化處理等,以產生量化係數。進而,編碼裝置100將所得到的量化係數進行反量化及反正交轉換,藉此復原預測誤差。在此,因為量化處理是不可逆的處理,所以已復原的預測誤差相對於轉換前的預測誤差具有誤差(量化誤差)。
在迴路濾波部120所進行的解區塊濾波處理是一種以減少該量化誤差等之目的而實施的濾波處理。解區塊濾波處理是為了移除區塊雜訊而適用在區塊邊界。
圖11是顯示本實施形態之解區塊濾波處理之概要的流程圖。首先,迴路濾波部120,是例如使用區塊內的像素之像素值或者量化參數等,來判定是否對於處理對象的區塊邊界即對象邊界,進行解區塊濾波處理(S101)。在已判定進行解區塊濾波處理時(在S101,是),迴路濾波部120決定濾波器特性(S102),並使用已決定的濾波器特性,對對象邊界實施解區塊濾波處理(S103)。
例如,在濾波器特性的決定上,迴路濾波部120從在濾波器使用的像素之數量不同的幾種種類的濾波器候選中,來選擇使用的濾波器。例如,也可以存在有於濾波器使用的像素之數量少的濾波器即弱的(Weak)濾波器、於濾波器使用的像素之數量比弱的濾波器多的濾波器即強的(Strong)濾波器、及於濾波器使用的像素之數量比強的濾波器更多的濾波器即極強的(Super-Strong)濾波器等,來作為濾波器候選。
圖12是顯示前述濾波器候選之例之圖。例如,如圖12所示,以在各個濾波器使用的像素數來說,在弱的濾波器中使用夾邊界各3個像素,在強的濾波器中使用夾邊界各4個像素,在極強的濾波器中使用夾邊界各8個像素,也可使用與此相異的像素數。另,在此,雖然是顯示上下的區塊邊界之例,但在左右的區塊邊界也是同樣的。
又,在複數個濾波器候選中,雖然在濾波器使用的像素之數量相同,但也可以包括濾波係數不同因而濾波器特性不同的複數個濾波器。
另,在濾波器使用之像素之數量與濾波對象的像素之數量也可不同。例如,在強的濾波器,迴路濾波部120使用夾邊界各4個像素,來算出位置變化,但也可使用夾邊界各3個像素,來進行濾波處理。也就是說,在濾波器使用的像素之數量,也可多於濾波對象的像素之數量。
[濾波器候選的決定處理之第1態樣]
在上述之濾波器特性的決定(S102)中,迴路濾波部120決定複數個濾波器候選,並從已決定的複數個濾波器候選,選擇使用在解區塊濾波處理的濾波器。以下,針對前述濾波器候選的決定處理之第1態樣予以說明。圖13是顯示本實施形態之編碼裝置100之解區塊濾波處理所含的濾波器候選的決定處理之第1態樣的流程圖。
首先,迴路濾波部120取得對象邊界的位置,前述對象邊界是成為濾波對象的區塊邊界(S111)。另,以下,在鄰接於對象邊界的2個區塊之中,將下側或右側的區塊稱為對象區塊,將上側或左側的區塊稱為鄰接區塊。
接著,迴路濾波部120判定對象邊界的位置是否為已事先訂定的預定的位置(S112)。在此,預定的位置是指,例如也可為對象區塊所屬的CTU的上端,也可為對象區塊所屬的CTU的上端或者左端,也可為對象區塊所屬的CU的上端,也可為對象區塊所屬的CU的上端或者左端。也就是說,預定的位置是指包含有複數個區塊的單位區塊(CTU或者CU),可為對象區塊所屬的單位區塊的上端,也可為上端或者左端。
當對象邊界的位置為預定的位置時(在S112,是),迴路濾波部120將非對稱式濾波器追加到濾波器候選(S113)。具體來說,迴路濾波部120將非對稱式濾波器追加到濾波器候選,來替代在初期的複數個濾波器候選之中,在濾波器使用的像素之數量最多的濾波器候選。在此,非對稱式濾波器是指,在濾波器使用的像素之數量是夾邊界呈非對稱的濾波器。換言之,非對稱式濾波器是指:在濾波器使用之對象區塊內的像素之數量與鄰接區塊內的像素之數量不同的濾波器。具體來說,非對稱式濾波器是夾對象邊界的濾波器分接頭長度不同的濾波器。
例如,如圖12所示,存在有使用夾邊界各3個像素之弱的濾波器、使用夾邊界各4個像素之強的濾波器、使用夾邊界各8個像素之極強的濾波器來作為初期的濾波器候選時,迴路濾波部120將極強的濾波器替換成非對稱式的濾波器。即,迴路濾波部120亦可以決定要使用複數個候選之中哪一個濾波器,當使用的濾波器為極強的濾波器時,決定是否將極強的濾波器替換成非對稱式濾波器。
圖14是顯示替換後的濾波器候選之例的圖。例如,如圖14所示,極強的濾波器被替換成非對稱地使用夾邊界4個像素及12個像素的濾波器。例如,在非對稱式濾波器中,鄰接區塊側之使用的像素之數量,比對象區塊側之使用的像素之數量少。
又,在圖14所示之極強的濾波器所使用的鄰接區塊側的像素之數量,是比在圖12所示之極強的濾波器所使用的鄰接區塊側的像素之數量少。又,在圖14所示的極強的濾波器所使用的對象區塊側的像素之數量,是比在圖12所示的極強的濾波器所使用的對象區塊側的像素之數量多。又,圖14所示的極強的濾波器所使用的鄰接區塊側的像素之數量與對象區塊側的像素之數量之合計,等於圖12所示之極強的濾波器所使用的鄰接區塊側的像素之數量與對象區塊側的像素之數量之合計。
另,非對稱式濾波器的對象區塊側的像素之數量,也可與替換前的濾波器的對象區塊側的像素之數量相同。又,在非對稱式濾波器所使用的像素之數量的合計,也可與替換前的濾波器所使用的像素之數量的合計不同。
另一方面,對象邊界的位置不是預定的位置時(在S112,否),迴路濾波部120不將非對稱式濾波器追加到濾波器候選,例如,從初期的濾波器候選,來選擇使用的濾波器。例如,迴路濾波部120從圖12所示的不含非對稱式濾波器的複數個濾波器候選,來選擇使用的濾波器。
[第1態樣的效果]
如以上,依第1態樣之構成,有可削減保持在線記憶體之資料量的可能性。具體來說,使用非對稱式濾波器,改變在濾波器使用的像素之數量,可改變保存在記憶體之像素之數量。因此有可以削減已先儲存有區塊的像素值之記憶體的容量之可能性。
[濾波器候選之決定處理的第2態樣]
以下,針對濾波器候選的決定處理之第2態樣予以說明。在第1態樣中說明了在對象區塊側與鄰接區塊側使用分接頭長度不同的濾波器,來做為非對稱式濾波器之例。在本態樣中,使用含有外推處理的濾波器,來作為非對稱式濾波器。
圖15是顯示透過本實施形態之編碼裝置100,解區塊濾波處理所含的濾波器候選之決定處理的第2態樣之流程圖。
首先,迴路濾波部120取得對象邊界的位置,前述對象邊界是成為濾波對象的區塊邊界(S121)。接著,迴路濾波部120判定對象邊界的位置是否為已事先訂定的預定的位置(S122)。在此,預定的位置是指,例如也可為對象區塊所屬的CTU的上端,也可為對象區塊所屬的CTU的上端或者左端,也可為對象區塊所屬的CU的上端,也可為對象區塊所屬的CU的上端或者左端。也就是說,預定的位置是指包含有複數個區塊的單位區塊(CTU或者CU),也可為對象區塊所屬的單位區塊的上端,也可為上端或者左端。
當對象邊界為預定的位置時(在S122,是),迴路濾波部120將含有外推處理的濾波器加到濾波器候選(S123),前述含有外推處理的濾波器是藉由外推處理產生已事先訂定的預定的像素之像素值,並使用產生的像素值來實施濾波處理。具體來說,迴路濾波部120,將含有外推處理的濾波器追加到濾波器候選,來替代複數個濾波器候選之中,使用的像素之數量最多的濾波器候選。又,預定的像素是指鄰接區塊所含的像素,且為位於對象邊界附近的像素。
在此,例如圖12所示,存在有使用夾邊界各3個像素之弱的濾波器、使用夾邊界各4個像素之強的濾波器、使用夾邊界各8個像素之極強的濾波器,來作為初期的濾波器候選時,迴路濾波部120將極強的濾波器替換成含有外推處理的濾波器。
圖16是顯示替換後的濾波器候選之例之圖。例如,如圖16所示,在包含外推處理的濾波器中,迴路濾波部120使用對象邊界之上側的4個像素之像素值,藉由外推處理來產生該等4個像素之上側的4個像素之像素值。接著,迴路濾波部120進行使用了對象邊界之上側的4個像素之像素值、藉由外推處理所產生的4個像素、及對象邊界之下側的8個像素之像素值的濾波處理。
在此,外推處理是指,例如填充(padding)處理或者鏡射(mirroring)處理。在填充處理中,外推對象的像素之像素值,例如透過複製鄰接於該像素之像素的像素值來產生。例如,在圖16所示之例中,對象邊界之上側的第4個像素值會被複製。又,在鏡射處理中,以使用於外推處理的複數個像素值與外推對象之複數個像素值間的邊界,將使用在外推處理的複數個像素值反轉配置,藉此產生外推對象的複數個像素值。例如,在圖16所示的例中,將對象邊界之上側的4個像素值上下反轉,藉此來產生外推對象的4個像素值。在此,為了使在濾波器使用之像素數夾邊界呈對稱,而將補充不足的像素補足之處理稱為外推處理,但也可稱為外插處理、內插處理、像素產生處理等。
又,在圖16所示的極強的濾波器所使用的鄰接區塊側的像素之數量,是比在圖12所示之極強的濾波器所使用的鄰接區塊側的像素之數量少。又,在圖16所示之極強的濾波器所使用的對象區塊側的像素之數量,等於在圖12所示的極強的濾波器所使用的對象區塊側的像素之數量。又,外推對象的像素是指,在與對象邊界相反側(上側或者左側)中,與所使用的鄰接區塊側的像素鄰接的1個以上的像素。
又,使用藉由外推處理產生的像素值的濾波器,也可與替換前的濾波器相同。也就是說,使用藉由外推處理產生的像素值的濾波器,也可為使用夾區塊邊界相同數量的像素之像素值的濾波器。例如,在此例中,也可使用圖12所示之使用夾邊界各8個像素之極強的濾波器。
另一方面,當對象邊界的位置不是預定的位置時(在S122,否),迴路濾波部120不將含有外推處理的濾波器追加到濾波器候選,例如從初期的濾波器候選,選擇使用的濾波器。例如,迴路濾波部120從圖12所示之不含非對稱式濾波器的複數個濾波器候選,來選擇使用的濾波器。
[第2態樣的效果]
如上,依第2態樣之構成,有可削減保持在線記憶體之資料量的可能性。具體來說,使用含有外推處理的濾波器,可改變在濾波器使用的像素之數量。因此有如下的可能性,故,能削減已先儲存有區塊的像素值之記憶體的容量。
又,與第1態樣相較之下,無須改變濾波器本身,因此有使處理簡易化的可能性。
[變形例]
在第1態樣及第2態樣中所說明的非對稱式濾波器中,也可使在區塊邊界的鄰接區塊側(上側或者左側)使用的像素之數量,比在區塊邊界的對象區塊側(右側或者下側)使用的像素之數量少。
例如,非對稱式濾波器在區塊邊界的鄰接區塊側之中所需的像素之數量,也可以是濾波器候選(例如圖12、圖14及圖16所示的強的濾波器)使用的區塊邊界之鄰接區塊側的像素之數量以下,且前述濾波器候選在初期的濾波器候選所包括之中,次於替換對象的濾波器候選(例如圖12所示之極強的濾波器),使用的像素之數量少的濾波器。例如,在圖12、圖14及圖16所示之例中,由於強的濾波器是使用了夾邊界各4個像素,所以非對稱式濾波器在濾波邊界的左側或者上側使用的像素之數量為4個像素,等於強的濾波器使用的像素之數量。
又,例如,非對稱式濾波器在區塊邊界的鄰接區塊側中所需的像素之數量,也可以是不限於解區塊濾波器,而是從迴路濾波處理所包括的全部處理中排除替換前的濾波器候選(例如圖12所示的極強的濾波器)後的處理之中,使用的鄰接區塊側的像素之數量最多的處理所使用的鄰接區塊側的像素之數量以下。例如,在ALF處理之中,距離濾波對象像素有6個像素之遠的位置為止需要像素時,則非對稱式濾波器在區塊邊界的鄰接區塊側使用的像素之數量為6個像素以下。
上述處理也可以亮度(Luma)及色差(Chroma)來控制On/Off。例如,也可以對亮度及色差其中一者適用上述處理,對另一者不適用上述處理。又,也可以亮度與色差來切換動作。
又,也可以將顯示是否進行上述處理的資訊寫在語法(syntax)中。也就是說,編碼裝置也可以產生含有顯示是否進行上述處理之資訊的位元流。解碼裝置也可以從位元流,將顯示是否進行上述處理之資訊,依照已解碼的資訊,切換是否進行上述處理。
又,在上述說明中,當對象邊界的位置為已事先訂定的預定的位置時,判定是否使用非對稱式濾波器,但也可以藉由除此以外的手法,來判定是否使用非對稱式濾波器。例如,迴路濾波部120亦可對於使用非對稱式濾波器得到的圖像、及在未使用時得到的圖像之每一個,根據已事先訂定的基準算出評價值,並選擇評價值高的手法。例如,在此評價中,可使用RD(位元率失真)最佳化等。
又,在本實施形態中,「在濾波器使用的像素之數量」,也可以是指使用在濾波處理的所有像素,也可以是指使用在濾波處理的像素之中,位於夾濾波對象的邊界其中一邊的像素。
又,迴路濾波部120於使用在濾波處理的像素滿足預定的條件時,也可以將已事先規定的濾波器候選之中至少1個濾波器候選,替換成不同的濾波器候選,也可以將不同的濾波器候選追加到已事先決定的濾波器候選。即,在本實施形態中,迴路濾波部120也可以設定預定的濾波器作為候選,來替代極強的濾波器,也可以除了極強的濾波器之外也將預定的濾波器追加到濾波器候選。
又,使用在濾波處理的像素也可以是指,例如使用在濾波器適用判定的像素、使用在濾波器特性之決定的像素、或者適用濾波處理的像素。
另,在上述中,雖然主要是說明了編碼裝置100所具備的迴路濾波部120的動作,但是在解碼裝置200所具備的迴路濾波部212之中也是進行同樣的動作。
又,本實施形態所記載的全部處理不限於總是須要,也可只進行本實施形態之一部分處理。
[總結]
如上,本實施形態之編碼裝置100從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器(S102),使用已決定的濾波器,對區塊邊界進行解區塊濾波處理(S103)。第1濾波器是使用區塊邊界之上側的M(M為2以上的整數)個像素、及區塊邊界之下側的M個像素的濾波器,第2濾波器是使用區塊邊界之上側的第1像素、及區塊邊界之下側的第2像素的濾波器,第1像素之數量是第1複數個候選值之任一個,第2像素之數量是第2複數個候選值之任一個,第1複數個候選值之每一個及第2複數個候選值之每一個為M或者是比M大的值。
藉此,編碼裝置100可以削減使用在解區塊濾波處理之區塊邊界的上側或者左側的像素之數量,所以有可削減保持在記憶體的資料量之可能性。
例如,第2濾波器有:第1像素之數量與第2像素之數量相同的時候;及第1像素之數量與第2像素之數量不同的時候。
例如,第1複數個候選值之每一個及第2複數個候選值之每一個,為4或者是比4大的值。
例如,複數個濾波器之中,第2濾波器以外的濾波器在區塊邊界之上側與下側使用相同數量之像素。
例如,編碼裝置100因應區塊邊界的位置是否為已事先訂定的位置,來限制第1像素之數量可取得之值的最大值。
例如,已事先訂定的位置為編碼樹單元(CTU)的上端。例如,已事先訂定的位置為編碼樹單元(CTU)的上端及左端。例如,已事先訂定的位置為編碼單元(CU)的上端。例如,已事先訂定的位置為編碼單元(CU)的上端及左端。
例如,第1像素之數量可取得之值的最大值,複數個濾波器之中,次於第2濾波器(例如圖12所示之極強的濾波器)使用的像素之數量多的濾波器(例如圖12所示之強的濾波器)所使用的區塊邊界之上側的像素之數量以下。
例如,第1像素之數量可取得之值的最大值為:從含有解區塊濾波處理之迴路濾波處理所包含的處理排除第2濾波器(例如圖12所示之極強的濾波器)的處理之中,使用的區塊邊界之上側的像素之數量最多的處理之區塊邊界之上側的前述像素之數量以下。
例如,如於第1態樣所述,第2濾波器在第1像素之數量與第2像素之數量不同時,夾區塊邊界的濾波器分接頭長度為不同。
例如,如於第2態樣所述,第1像素之數量與第2像素之數量不同時,第2濾波器使用第1像素,產生連續於第1像素之上側的第3像素,且第2濾波器為使用第1像素、第2像素、及第3像素的濾波器,第1像素之數量與第3像素之數量之和等於第2像素之數量。
又,本實施形態之解碼裝置200從包含第1濾波器及第2濾波器之複數個濾波器,來決定使用在解區塊濾波處理的濾波器(S102),使用已決定的濾波器,對區塊邊界進行解區塊濾波處理(S103)。第1濾波器是使用區塊邊界之上側的M(M為2以上的整數)個像素、及區塊邊界之下側的M個像素的濾波器,第2濾波器是使用區塊邊界之上側的第1像素、及區塊邊界之下側的第2像素的濾波器,第1像素之數量是第1複數個候選值之任一個,第2像素之數量是第2複數個候選值之任一個,第1複數個候選值之每一個及第2複數個候選值之每一個為M或者是比M大的值。
藉此,解碼裝置200可以削減使用在解區塊濾波處理之區塊邊界的上側或者左側的像素之數量,所以有可削減保持在記憶體的資料量之可能性。
例如,第2濾波器有第1像素之數量與第2像素之數量相同的時候;及第1像素之數量與第2像素之數量不同的時候。
例如,第1複數個候選值之每一個及第2複數個候選值之每一個,為4或者是比4大的值。
例如,複數個濾波器之中,第2濾波器以外的濾波器使用在區塊邊界之上側與下側相同數量之像素。
例如,解碼裝置200因應區塊邊界的位置是否為已事先訂定的位置,來限制第1像素之數量可取得之值的最大值。
例如,已事先訂定的位置為編碼樹單元(CTU)的上端。例如,已事先訂定的位置為編碼樹單元(CTU)的上端及左端。例如,已事先訂定的位置為編碼單元(CU)的上端。例如,已事先訂定的位置為編碼單元(CU)的上端及左端。
例如,第1像素之數量可取得之值的最大值為:複數個濾波器之中,次於第2濾波器(例如圖12所示之極強的濾波器)使用的像素之數量多的濾波器(例如圖12所示之強的濾波器)所使用的區塊邊界之上側的像素之數量以下。
例如,第1像素之數量可取得之值的最大值為:從含有解區塊濾波處理之迴路濾波處理所包含的處理排除第2濾波器(例如圖12所示之極強的濾波器)的處理之中,使用的區塊邊界之上側的像素之數量最多的處理之區塊邊界之上側的前述像素之數量以下。
例如,如於第1態樣所述,第2濾波器在第1像素之數量與第2像素之數量不同時,夾區塊邊界的濾波器分接頭長度為不同。
例如,如於第2態樣所述,在第1像素之數量與第2像素之數量不同時,第2濾波器使用第1像素,產生連續於第1像素之上側的第3像素,且第2濾波器為使用第1像素、第2像素、及第3像素的濾波器,第1像素之數量與第3像素之數量之和等於第2像素之數量。
又,本實施形態之編碼裝置100具備有:分割部102,將圖像分割成複數個區塊;內預測部124,使用前述圖像所含的參考圖片,預測前述圖像所含的區塊;間預測部126,使用與前述圖像不同的其他圖像所含的參考區塊,預測前述圖像所含的區塊;迴路濾波部120,將濾波器適用在前述圖像所含的區塊;轉換部106,將藉由前述內預測部124或者前述間預測部126產生的預測訊號與原訊號之預測誤差轉換,產生轉換係數;量化部108,將前述轉換係數量化,產生量化係數;及熵編碼部110,將前述量化係數進行可變長度編碼,藉此產生編碼位元流。迴路濾波部120從包含第1濾波器及第2濾波器之複數個濾波器,決定使用在解區塊濾波處理的濾波器(S102),使用已決定的濾波器,對區塊邊界進行解區塊濾波處理(S103)。第1濾波器是使用區塊邊界之上側的M(M為2以上的整數)個像素、及區塊邊界之下側的M個像素的濾波器,第2濾波器是使用區塊邊界之上側的第1像素、及區塊邊界之下側的第2像素的濾波器,第1像素之數量是第1複數個候選值之任一個,第2像素之數量是第2複數個候選值之任一個,第1複數個候選值之每一個及第2複數個候選值之每一個為M或者是比M大的值。
又,本實施形態之解碼裝置200具備有:解碼部(熵解碼部202),將編碼位元流解碼,輸出量化係數;反量化部204,將前述量化係數反量化,輸出轉換係數;反轉換部206,將前述轉換係數反轉換,輸出預測誤差;內預測部216,使用圖像所含的參考圖片,來預測前述圖像所含的區塊;間預測部218,使用與前述圖像不同的其他圖像所含的參考區塊,來預測前述圖像所含之區塊;及迴路濾波部212,將濾波器適用在前述圖像所含之區塊。迴路濾波部212從包含第1濾波器及第2濾波器之複數個濾波器,決定使用在解區塊濾波處理的濾波器(S102),使用已決定的濾波器,對區塊邊界進行解區塊濾波處理(S103)。第1濾波器是使用區塊邊界之上側的M(M為2以上的整數)個像素、及區塊邊界之下側的M個像素的濾波器,第2濾波器是使用區塊邊界之上側的第1像素、及區塊邊界之下側的第2像素的濾波器,第1像素之數量是第1複數個候選值之任一個,第2像素之數量是第2複數個候選值之任一個,第1複數個候選值之每一個及第2複數個候選值之每一個為M或者是比M大的值。
[編碼裝置的安裝例]
圖17是顯示實施形態1之編碼裝置100之安裝例之方塊圖。編碼裝置100具備有電路160及記憶體162。例如,圖1所示之編碼裝置100之複數個構成要素是透過圖17所示之電路160及記憶體162來安裝。
電路160是進行資訊處理的電路,且為可對記憶體162進行存取的電路。例如,電路160是將圖像資訊編碼之專用或者通用的電子電路。電路160也可為如CPU般之處理器。又,電路160也可為複數個電子電路的集合體。又,例如電路160也可展現圖1等所示之編碼裝置100之複數個構成要素中除了用以記憶資訊的構成要素之外的複數個構成要素的作用。
記憶體162是記憶用以使電路160將圖像資訊編碼之資訊之專用或者通用的記憶體。記憶體162可為電子電路,也可連接於電路160。又,記憶體162也可包含在電路160。又,記憶體162也可為複數個電子電路的集合體。又,記憶體162也可為磁碟或者是光碟等,也可表現為儲存器(storage)或者是記錄媒體等。又,記憶體162可為非揮發性記憶體,也可為揮發性記憶體。
例如,記憶體162也可記憶被編碼的圖像資訊,也可記憶對應於已被編碼的圖像資訊之位元列。又,在記憶體162也可記憶用以使電路160將圖像資訊編碼的程式。
又,例如,記憶體162也可展現在圖1等所示之編碼裝置100之複數個構成要素之中用以記憶資訊之構成要素的作用。具體來說,記憶體162也可以展現圖1所示的區塊記憶體118及幀記憶體122的作用。更具體來說,記憶體162中也可記憶再構成完畢區塊及再構成完畢圖片等。
另,在編碼裝置100中,也可不用安裝圖1等所示的複數個構成要素全部,也可不用進行上述之複數個處理全部。圖1等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可透過其他裝置來執行。
[解碼裝置之安裝例]
圖18是顯示實施形態1之解碼裝置200之安裝例之方塊圖。解碼裝置200具備有電路260及記憶體262。例如,圖10所示之解碼裝置200的複數個構成要素是藉圖18所示之電路260及記憶體262來安裝。
電路260為進行資訊處理的電路,且為可對記憶體262進行存取的電路。例如,電路260是將圖像資訊解碼之專用或者通用的電子電路。電路260也可以是如CPU般之處理器。又,電路260也可為複數個電子電路的集合體。又,例如電路260也可展現圖10等所示之解碼裝置200之複數個構成要素中除了用以記憶資訊的構成要素之外的複數個構成要素的作用。
記憶體262是用以使電路260將圖像資訊解碼之資訊之專用或者通用的記憶體。記憶體262也可為電子電路,也可連接於電路260。又,記憶體262也可包含在電路260。又,記憶體262也可為複數個電子電路的集合體。又,記憶體262也可為磁碟或者是光碟等,也可表現為儲存器(storage)或者是記錄媒體等。又,記憶體262也可為非揮發性記憶體,也可為揮發性記憶體。
例如,記憶體262也可記憶已編碼之圖像資訊所對應的位元列,也可記憶已被解碼的位元列所對應之圖像資訊。又,記憶體262也可記憶用以使電路260將圖像資訊解碼的程式。
又,例如,記憶體262也可展現在圖10等所示之解碼裝置200之複數個構成要素之中用以記憶資訊之構成要素的作用。具體來說,記憶體262也可展現圖10所示之區塊記憶體210及幀記憶體214的作用。更具體來說,記憶體262中也可記憶再構成完畢區塊及再構成完畢圖片等。
另,在解碼裝置200中,也可不用安裝圖10等所示的複數個構成要素全部,也可不用進行上述之複數個處理全部。圖10等所示的複數個構成要素之一部分也可包含在其他裝置,上述之複數個處理之一部分也可透過其他裝置來執行。
[補充]
本實施形態中之編碼裝置100及解碼裝置200,分別可被作為圖像編碼裝置及圖像解碼裝置來利用,也可作為動態圖像編碼裝置及動態圖像解碼裝置來利用。
又,在本實施形態中,各構成要素可以專用的硬體構成,或透過執行適合各構成要素的軟體程式來實現。各構成要素也可讓CPU或者處理器等之程式執行部讀出記錄在硬碟或者半導體記憶體等之記錄媒體的軟體程式來執行,藉此來實現。
具體來說,編碼裝置100及解碼裝置200各自也可具有處理電路(Processing Circuitry)、及記憶裝置(Storage),前述記憶裝置是電連接於該處理電路,可由該處理電路進行存取。例如,處理電路對應電路160或260,記憶裝置對應記憶體162或262。
處理電路包含有專用的硬體及程式執行部至少一者,並使用記憶裝置來執行處理。又,記憶裝置在處理電路含有程式執行部時,記憶藉該程式執行部所執行之軟體程式。
在此,實現本實施形態之編碼裝置100或者解碼裝置200等之軟體為如下程式。
又,如上述,各構成要素也可為電路。該等電路也可以整體構成為1個電路,也可分別為個別的電路。又,各構成要素也可以通用式的處理器來實現,也可以專用的處理器來實現。
又,也可讓別的構成要素來執行特定的構成要素所要執行的處理。又,要執行處理的順序也可變更,複數個處理也可並行地執行。又,編碼解碼裝置也可包含有編碼裝置100及解碼裝置200。
以上,針對編碼裝置100及解碼裝置200之態樣,已根據實施形態來說明,但編碼裝置100及解碼裝置200的態樣並不限於前述實施形態。只要不脫離本揭示的旨趣,熟悉此項技藝之人士可思及之各種變形實施在本實施形態者、或者將不同實施形態的構成要素組合而所構建的形態,也可包括在編碼裝置100及解碼裝置200之態樣的範圍內。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。
(實施形態2)
在以上之各實施形態中,功能區塊每一個通常可藉MPU及記憶體等來實現。又,藉功能區塊每一個所進行的處理通常可以經由處理器等之程式執行部讀出ROM等之記錄媒體所記錄的軟體(程式)來執行,而予以實現。該軟體也可藉下載等來分發,也可記錄在半導體記憶體等之記錄媒體來分發。另,當然也可以將各功能區塊透過硬體(專用電路)來實現。
又,在各實施形態中所說明的處理也可以使用單一裝置(系統)進行集中處理來實現,或者也可以使用複數個裝置進行分散處理來實現。又,執行上述程式的處理器也可為單數個,也可為複數個。即,可進行集中處理,或者也可進行分散處理。
本揭示的態樣並不限於以上的實施例,可做各種變更,其等變更也包括在本揭示的態樣之範圍內。
進而在此,說明在上述各實施形態中所示之動態圖像編碼方法(圖像編碼方法)或動態圖像解碼方法(圖像解碼方法)之應用例及使用前述方法之系統。該系統是以具有使用圖像編碼方法之圖像編碼裝置、使用圖像解碼方法之圖像解碼裝置、及具有兩者之圖像編碼解碼裝置為特徵所在。針對系統中的其他構成,配合情況的需要,可適當地變更。
[使用例]
圖19是顯示實現內容分發服務之內容供給系統ex100之整體構成圖。將通訊服務之提供區域分割成所期望之大小,在各胞元(cell)內分別設置有為固定無線台之基地台ex106、ex107、ex108、ex109、ex110。
在該內容供給系統ex100中,經由網際網路服務提供者ex102或通訊網ex104、及基地台ex106至ex110,而將電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等各機器連接於網際網路ex101。該內容供給系統ex100可構成為組合上述任意要素而連接。也可不經過為固定無線台之基地台ex106至ex110,而是使各機器經由電話網路或者近距離無線等直接或間接地互相連接。又,串流伺服器ex103是經由網際網路ex101等而與電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、及智慧型手機ex115等之各機器連接。又,串流伺服器ex103是經由衛星ex116而與飛機ex117內之熱點內的終端機等連接。
另,也可利用無線存取點或熱點等,來替代基地台ex106至ex110。又,串流伺服器ex103也可以不經由網際網路ex101或者網際網路服務提供者ex102,而直接與通訊網ex104連接,也可不經由衛星ex116,而直接與飛機ex117連接。
攝像機ex113是數位相機等可進行靜態圖像攝影及動態圖像攝影之機器。又,智慧型手機ex115一般是指對應於2G、3G、3.9G、4G、以及今後被稱為5G之行動通訊系統的方式之智慧型話機、行動電話機、或者PHS(Personal Handyphone System)等。
家電ex118是包括在冰箱、或者家用燃料電池熱電共生系統之機器等。
在內容供給系統ex100中,讓具有攝影功能的終端機經由基地台ex106等而連接到串流伺服器ex103,以此可進行現場直播等。在現場直播中,終端機(電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、及飛機ex117内之終端機等)是將所得到的資料發送到串流伺服器ex103,該資料是對使用者使用該終端機所攝影的靜態圖像或者動態圖像內容進行在上述各實施形態所說明的編碼處理,且對藉編碼所得到的影像資料、及已將對應於影像的聲音編碼後的聲音資料進行多工而所得到者。即,各終端機是作為本揭示一態樣的圖像編碼裝置而發揮功能。
另一方面,串流伺服器ex103是對於有了請求的客戶端將被發送的內容資料進行串流分發。客戶端是指可將上述經過編碼處理的資料進行解碼之電腦ex111、遊戲機ex112、攝像機ex113、家電ex114、智慧型手機ex115、或者飛機ex117內的終端機等。已接收到所分發的資料的各機器將所接收的資料進行解碼處理後進行播放。即,各機器是作為本揭示一態樣之圖像解碼裝置而發揮功能。
[分散處理]
又,串流伺服器ex103也可為複數個伺服器或者是複數個電腦,將資料分散處理或記錄分發者。例如,串流伺服器ex103也可藉由CDN(Contents Delivery Network)來實現,透過連接分散在世界各地的多數邊緣伺服器(edge server)與邊緣伺服器間的網路來實現內容分發。在CDN中,因應客戶端而動態地分配實體上接近的邊緣伺服器。然後,內容被該邊緣伺服器快取及分發,以此可減少延遲的情況。又,在發生有任何錯誤時或者因流量增加等而使通訊狀態改變時,可以複數個邊緣伺服器分散處理,或者將分發主體切換到其他邊緣伺服器,而對已發生障礙的網路部分進行迂迴,來繼續進行分發,因此可實現高速且穩定的分發。
又,不只是分發自身的分散處理,也可將所攝影的資料的編碼處理在各終端機進行,也可在伺服器側進行,也可互相分擔來進行。舉一例來說,一般在編碼處理中,進行處理循環2次。第1次的循環,會檢測以幀或者場景單位的圖像之複雜度、或者編碼量。又,在第2次的循環,會進行維持畫質,並使編碼效率提高的處理。例如,終端機進行第1次的編碼處理,已收到內容的伺服器側進行第2次的編碼處理,以此可一邊減少在各終端機的處理負擔,又能一邊提高內容的品質及效率。此時,若有幾乎以實時接收而要解碼的請求時,也可將終端機已進行過第1次的編碼完畢資料在其他終端機接收且進行播放,因此能達到更靈活的實時分發。
舉另一例來說,攝像機ex113等是從圖像進行特徵量擷取,將有關於特徵量的資料作為元(meta)資料進行壓縮,而發送到伺服器。伺服器是例如從特徵量來判斷物件的重要性,而切換量化精度等因應圖像的意義來進行壓縮。特徵量資料對於伺服器上之再次壓縮時的移動向量預測之精度及效率提昇特別有效。又,也可在終端機進行VLC(可變長度編碼)等之簡易性編碼,在伺服器進行CABAC(上下文適應型二值算術編碼方式)等處理負荷大的編碼。
進而,以其他例來說,在體育場、購物商場、或者工廠等之中,會有經由複數個終端機而拍攝到幾乎相同的場景的複數個影像資料存在的情況。在該情況下,使用進行過拍攝的複數個終端機、及因應需要而未進行拍攝的其他終端機及伺服器,以例如GOP(Group of Picture)單位、圖片單位、或者將圖片分割之方塊單位等,分別分配編碼處理,來進行分散處理。藉此,可減少延遲,並實現更佳的實時性。
又,由於複數個影像資料為幾乎相同的場景,因此也可在伺服器進行管理及/或指示,將在各終端機所拍攝的影像資料相互參考。或者,也可使伺服器接收來自各終端機的編碼完畢資料,在複數個資料之間變更參考關係,或者將圖片本身進行補正或更換,來重新進行編碼。藉此,可產生將一個一個資料的品質及效率提高的串流。
又,伺服器也可先進行將影像資料的編碼方式變更的轉碼,再分發影像資料。例如,伺服器也可將MPEG系的編碼方式轉換成VP系,也可將H.264轉換成H.265。
如此,編碼處理可透過終端機或者是1個以上的伺服器來進行。藉此,在下文中,作為進行處理的主體是採用「伺服器」或者是「終端機」等的記述,但也可讓以伺服器所進行的處理的一部分或者全部在終端機來進行,也可讓以終端機所進行的處理的一部分或者全部在伺服器來進行。又,有關於該等部分,針對解碼處理也是同樣。
[3D、多視角]
近年來,將幾乎互相同步的複數個攝像機ex113及/或智慧型手機ex115等之終端機所攝影的不同場景、或者是相同場景以不同的視角拍攝的圖像或影像整合來利用的情形也變多了。以各終端機所拍攝的影像是根據另外取得的終端機間之相對的位置關係、或者影像所含的特徵點一致的區域等來整合。
伺服器不只將2維的動態圖像進行編碼,還可根據動態圖像的場景解析等,而自動或者是在使用者所指定的時刻,將靜態圖像進行編碼,再發送到接收終端機。伺服器進而在可取得攝影終端機之間的相對的位置關係時,不只是2維的動態圖像,還可根據從不同視角對相同場景拍攝的影像,來產生該場景的3維形狀。另,伺服器也可另外將透過點雲(point cloud)等所產生的3維的資料進行編碼,也可根據使用3維資料來辨識或者追蹤人物或物件的結果,從以複數個終端機拍攝的影像中選擇、或再構成,以產生要發送到接收終端機的影像。
如此進行後,使用者要任意選擇對應於各攝影終端機的各影像來觀賞場景也可,要觀賞從使用複數個圖像或者影像而再構成的3維資料剪出任意視點的影像的內容也可。進而,與影像同樣,也可從複數個不同視角收取聲音,令伺服器配合影像,與來自特定視角或空間的聲音和影像進行多工而發送。
又,近年來,Virtual Reality(VR/虛擬實境)及Augmented Reality(AR/擴增實境)等對現實世界與虛擬世界建立對應關係的內容也漸漸普及了。在VR的圖像的情況,也可使伺服器分別作出右眼用及左眼用的視點圖像,透過Multi-View Coding(MVC/多視角編碼)等,進行在各視點影像之間容許參考的編碼,也可不互相參考而作為不同串流來進行編碼。在解碼不同串流時,宜以因應使用者的視點而將虛擬的3維空間重現的方式,使其互相同步且播放。
在AR的圖像的情況,伺服器會根據3維上的位置或者使用者的視點的移動,而將虛擬空間上的虛擬物體資訊重疊在現實空間的攝像機資訊。解碼裝置也可取得或者保持虛擬物體資訊及3維資料,並因應使用者的視點的移動來產生2維圖像,而順利地接續,以此作成重疊資料。或者,解碼裝置也可除了虛擬物體資訊的請求指令外,將使用者的視點的移動也發送到伺服器,伺服器配合接收的視點的移動而從保持在伺服器的3維資料來作成重疊資料,且將重疊資料進行編碼,再分發到解碼裝置。另,也可以是:重疊資料除了RGB以外還具有顯示穿透度的α值,伺服器將從3維資料所作成的物件以外的部分之α值設定為0等,且使該部分為穿透的狀態下進行編碼。或者,伺服器也可如同色鍵(Chroma key)產生資料,該資料為將預定的值之RGB值設定為背景,物件以外的部份則設定為背景色。
同樣,被進行分發的資料的解碼處理也可在客戶端的各終端機進行,或是也可在伺服器側進行,或者也可相互分擔進行。以一例來說,某終端機也可先將接收請求送到伺服器,以其他終端機接收因應該請求的內容,進行解碼處理,並將已解碼完畢的訊號發送到具有顯示器的裝置。能在不依賴可通訊的終端機本身的性能之狀態下,將處理分散而選擇適合的內容,以此可播放畫質佳的資料。又,以另一例來說,也可一邊在TV等接收大尺寸的圖像資料,一邊將圖片分割後的方塊等一部分的區域在觀眾的個人終端進行解碼而顯示。藉此,可共享整體圖像,並可在身邊確認本身的負責領域或者想更加詳細確認的區域。
又,今後不管是室內或室外,在可使用近距離、中距離、或者長距離之數種無線通訊的狀況下,利用MPEG-DASH等之分發系統規格,一邊對於連線中的通訊切換適合的資料,一邊無縫地接收內容,這是可預想得到的。藉此,使用者不只是本身的終端機,也可一邊自由地選擇設在室內或室外之顯示器等之解碼裝置或者顯示裝置,一邊實時地進行切換。又,根據本身的位置資訊等,可一邊切換解碼的終端機及顯示的終端機,一邊進行解碼。藉此,使得如下方式也可變得可行,即:在往目的地的移動中,一邊讓埋設有可進行顯示的設備之旁邊的建築物的壁面或者是地面的一部分顯示地圖資訊,一邊移動。又,也可以基於網路上之對編碼資料的存取容易性,諸如有編碼資料會被可在短時間內從接收終端機進行存取的伺服器快取、或者是被複製到內容分發服務(Contents Delivery Service)中的邊緣伺服器等,來切換接收資料的位元率。
[可調式編碼]
有關於內容的切換,是利用顯示於圖20之可調式之串流來說明,該串流是應用在上述各實施形態所示的動態圖像編碼方法而被壓縮編碼的串流。伺服器雖然具有作為個別的串流,為內容相同但品質不同的複數個串流也無妨,但也可為靈活運用時間型/空間型可調式的串流之特徵來切換內容之構成,其中該時間型/空間型可調式的串流是如圖所示藉由分層來進行編碼而實現。即,解碼側因應例如性能的內在因素及通訊頻帶的狀態等之外在因素,來決定要解碼到哪一層,以此解碼側可自由地切換低影像解析度的內容及高影像解析度的內容,而進行解碼。例如想要把曾在移動中於智慧型手機ex115收看的影像的後續部分放到回家後以網路TV等的機器收看時,該機器只要將相同的串流進行解碼到不同層即可,因此可減輕伺服器側的負擔。
進而,如上述,在每層將圖片進行編碼,且在基本層的上位有加強層存在之實現可調性(scalability)之構成以外,也可為加強層含有基於圖像的統計資訊等之元資訊,解碼側根據元資訊,將基本層的圖片進行超影像解析,以此產生已高畫質化的內容。所謂超影像解析也可是同一解析度下的SN比的提昇、以及解析度的擴大之任一者。元資訊是包括用以特定超影像解析處理所使用的線性或者是非線性的濾波係數的資訊、或者、用以特定超影像解析處理所使用的濾波處理、機械學習或者是最小平方運算中的參數值的資訊等。
或者,也可為如下構成,即:因應圖像內的物件(object)等的意涵,將圖片分割成方塊等,解碼側選擇要解碼的方塊,以此只將一部分的區域進行解碼。又,把物件的屬性(人物、車、球等)與影像內的位置(同一圖像中的座標位置等),當做為元資訊來儲存,以此,解碼側可根據元資訊來特定所希望的物件的位置,並決定包含該物件的方塊。例如,如圖21所示,元資訊是使用HEVC中的SEI訊息等與像素資料不同之資料儲存構造來儲存。該元資訊是例如顯示主物件的位置、尺寸、或者色彩等。
又,也可以串流、序列或者隨機存取單位等由複數個圖片所構成的單位來儲存元資訊。藉此,解碼側可取得特定人物出現在影像內的時刻等,配合圖片單位的資訊,以此便可特定物件存在的圖片、及在圖片內之物件的位置。
[網頁的最適化]
圖22是顯示電腦ex111等之中網頁(web page)的顯示畫面例之圖。圖23是顯示智慧型手機ex115等之網頁的顯示畫面例之圖。如圖22及圖23所示,網頁有包括複數個鏈接圖像的情況,其中該等鏈接圖像為朝圖像內容的鏈接,該等鏈接圖像的看到方式會依據閱覽的設備而有所不同。在於畫面上看得到複數個鏈接圖像時,迄至使用者明白表示選擇鏈接圖像為止,或者是迄至鏈接圖像靠近畫面的中央附近或者鏈接圖像整體進入畫面內為止,顯示裝置(解碼裝置)是顯示各內容所具有的靜態圖像或I圖片來作為鏈接圖像,或以複數個靜態圖像或I圖片等顯示像gif動畫般的影像,或只有接收基本層而將影像進行解碼及顯示。
在由使用者選擇了鏈接圖像時,顯示裝置會將基本層視為最優先,來進行解碼。另,若在構成網頁的HTML中,有顯示可調式的內容的資訊時,顯示裝置也可進行解碼迄至加強層為止。又,為了保證實時性,在被選擇之前或者通訊頻帶極窄時,顯示裝置只對參考前方的圖片(I圖片、P圖片、僅只參考前方的B圖片)進行解碼及顯示,以此可減少前頭圖片的解碼時刻與顯示時刻間的延遲(從內容的解碼開始迄至顯示開始之延遲)。又,顯示裝置也可硬是忽視圖片的參考關係,而使全部的B圖片及P圖片為參考前方,先粗略地進行解碼,然後經過一段時間,隨著所接收的圖片的增加,再進行正常的解碼。
[自動行駛]
又,為了汽車的自動行駛或者支援行駛,而發送及接收2維或者3維的地圖資訊等之靜態圖像或者是影像資料時,接收終端機除了屬於1層以上的層級之圖像資料以外,也可接收天氣或者施工的資訊等來作為元資訊,並對該等資訊建立對應關係而進行解碼。另,元資訊也可屬於層,也可只單純地與圖像資料進行多工。
此時,由於含有接收終端機的汽車、空拍機或者飛機等會移動,因此接收終端機會在請求接收時,發送該接收終端機的位置資訊,以此可一邊切換基地台ex106至ex110,一邊實現無縫的接收及解碼。又,接收終端機可因應使用者的選擇、使用者的狀況或者通訊頻帶的狀態,而動態地切換將元資訊接收到哪一程度,或者將地圖資訊更新到何種程度。
如上進行,在內容供給系統ex100中,可讓客戶端實時接收使用者所發送的已編碼的資訊並將其解碼,且進行播放。
[個人內容的分發]
又,在內容供給系統ex100中,不只以透過影像分發業者所進行的高畫質進行長時間的內容,還能以透過個人所進行的低畫質進行短時間的內容的單點傳播(unicast)、或者多點傳播(multicast)進行分發。又,像這樣的個人的內容,認為今後也會增加。為了將個人內容做成更優異的內容,伺服器也可進行編輯處理,之後再進行編碼處理。這是例如可以如下構成來實現。
在攝影時實時或者先儲存後於攝影後,伺服器從原圖或者編碼完畢資料,進行攝影錯誤、場景搜尋、意義的解析、及物件檢測等之辨識處理。接著,伺服器根據辨識結果,而以手動或者自動地進行補正失焦或手震等、或者是刪除亮度比其他圖片低或未對焦的場景等重要性低的場景、或者是強調物件的邊緣、或者是變化色調等之編輯。伺服器根據編輯結果,而將編輯後的資料進行編碼。又,已知道攝影時間太長時,收視率會下降,伺服器也可根據圖像處理結果,不只是對如上述般重要性低的場景,亦對動作少的場景等自動地進行剪輯,以因應撮影時間而成為特定的時間範圍內的內容。或者,伺服器也可根據場景的意義解析的結果,來產生摘要(digest),且進行編碼。
另,在個人內容中,若保持原狀,也有成為著作權、著作人格權、或者肖像權等侵害的東西被拍進去的事例,也有共享的範圍超過所意圖的範圍等,對個人來說是不宜的情況。因此,例如,伺服器也可刻意地將畫面的周邊部的人臉或者是家裡等,變更成不對焦的圖像,來進行編碼。又,伺服器也可辨識在編碼對象圖像內是否有拍到與事先登錄的人物不同之人物的臉,若有拍到時,對臉的部分進行加上馬賽克等之處理。或者,在編碼的前處理或者後處理上,從著作權等的觀點來看,使用者對圖像指定想要加工的人物或者背景區域,伺服器將所指定的區域替換成別的影像,或者進行模糊焦點等的處理,也可。若是人物時,在動態圖像中,可一邊追蹤人物,一邊將臉的部分影像替換。
又,由於資料量小的個人內容的收看在實時性的要求高,因此雖然依頻帶寬度有所差異,但解碼裝置首先是以基本層最優先地接收,並進行解碼及播放。解碼裝置也可在這期間接收加強層,在有循環播放的情況等有播放2次以上的時候,連同加強層在內將高畫質的影像播放。若是已如此地進行可調式編碼之串流,就能提供如下體驗:雖然在未選擇時或者剛開始看的階段,是粗糙的動畫,但會漸漸地串流變精緻了,圖像變好。除了可調式編碼以外,以在第1次播放的粗糙的串流、及參考第1次動畫來編碼的第2次的串流,當做為1個串流來構成,也可提供同樣的體驗。
[其他使用例]
又,該等編碼或者解碼處理,一般來說是在各終端機所具有的LSIex500中來處理。LSIex500可以是單晶片,也可以是由複數個晶片所構成。另,也可將動態圖像編碼或者解碼用的軟體裝入能以電腦ex111等讀取的某些記錄媒體(CD-ROM、軟碟、或者硬碟等),並使用該軟體來進行編碼或者解碼處理。進而,智慧型手機ex115是附有攝像機時,也可發送以該攝像機取得的動畫資料。此時的動畫資料是已經透過智慧型手機ex115所具有的LSIex500進行編碼處理的資料。
另,LSIex500也可為下載應用軟體程式來啟動之構成。此時,首先,終端機要判定該終端機是否支援內容的編碼方式,或者是否具有特定服務的執行能力。在終端機未支援內容的編碼方式時,或者不具有特定服務的執行能力時,終端機要下載編解碼器或者應用軟體程式,之後進行內容的取得及播放。
又,不限於經由網際網路ex101的內容供給系統ex100,在數位式廣播用系統也可裝入上述各實施形態之至少動態圖像編碼裝置(圖像編碼裝置)或者動態圖像解碼裝置(圖像解碼裝置)之任一者。由於是利用衛星等而在廣播用的電波乘載已將影像與聲音進行多工處理的多工資料,來進行傳送接收,所以相對於內容供給系統ex100的易於進行單點傳播的構成,數位式廣播用系統雖有利於多點播送的差異,但有關於編碼處理及解碼處理,仍可做同樣的應用。
[硬體構成]
圖24是顯示智慧型手機ex115的圖。又,圖25是顯示智慧型手機ex115的構成例之圖。智慧型手機ex115包含有:天線ex450,是用以於與基地台ex110之間收發電波;攝像機部ex465,是可拍攝影像及靜態圖像;以及顯示部ex458,是顯示已將以攝像機部ex465所拍攝的影像、及以天線ex450所接收的影像等進行解碼之資料。智慧型手機ex115更包含有:操作部ex466,為觸控面板等;聲音輸出部ex457,為用以輸出聲音或者音響的揚聲器等;聲音輸入部ex456,為用以輸入聲音之麥克風等;記憶部ex467,可保存將所拍攝的影像或者靜態圖像、已錄取的聲音、已接收的影像或者靜態圖像、郵件等的已編碼的資料、或者已解碼的資料;及插槽部ex464,為與SIMex468之間的介面部,其中SIMex468為用以特定使用者,並以網路為首,實行對各種資料進行存取的認證。另,也可使用外接式記憶體代替記憶部ex467。
又,將顯示部ex458及操作部ex466等統合性地控制的主控制部ex460,與電源電路部ex461、操作輸入控制部ex462、影像訊號處理部ex455、攝像機介面部ex463、顯示器控制部ex459、調變/解調部ex452、多工/分離部ex453、聲音訊號處理部ex454、插槽部ex464、以及記憶部ex467是經由匯流排ex470來連接。
電源電路部ex461是藉由使用者的操作使電源開關成為開啟狀態時,從電池組對各部供應電力,藉此使智慧型手機ex115啟動成可動作的狀態。
智慧型手機ex115是基於具有CPU、ROM及RAM等之主控制部ex460的控制,進行通話及資料通訊等的處理。在通話時是將以聲音輸入部ex456所收音的聲音訊號在聲音訊號處理部ex454轉換成數位式聲音訊號,將該訊號在調變/解調部ex452進行頻譜擴散處理,在發送/接收部ex451實施數位類比轉換處理以及頻率轉換處理,之後再經由天線ex450進行發送。又,將接收資料放大,並實施頻率轉換處理以及類比數位轉換處理,在調變/解調部ex452進行頻譜反擴散處理,在聲音訊號處理部ex454轉換成類比聲音訊號,之後再將該訊號從聲音輸出部ex457進行輸出。在資料通訊模式時,透過本體部的操作部ex466等的操作,將正文、靜態圖像、或者影像資料經由操作輸入控制部ex462而送出至主控制部ex460,並同樣地被進行收發處理。在資料通訊模式時,於發送影像、靜態圖像、或者影像及聲音的情況,影像訊號處理部ex455是將記憶部ex467所保存的影像訊號、或者從攝像機部ex465所輸入的影像訊號透過上述各實施形態所示的動態圖像編碼方法進行壓縮編碼,且將業經編碼的影像資料送出至多工/分離部ex453。又,聲音訊號處理部ex454是將在以攝像機部ex465將影像或者靜態圖像等攝影中於聲音輸入部ex456所收音的聲音訊號進行編碼,且將業經編碼的聲音資料送出至多工/分離部ex453。多工/分離部ex453是將業經編碼完畢的影像資料及業經編碼完畢的聲音資料以預定的方式進行多工,且於調變/解調部(調變/解調電路部)ex452、及發送/接收部ex451實施調變處理及轉換處理,並經由天線ex450來發送。
在接收到電子郵件或者對話(chat)所附的影像、或者連結到網頁等的影像時,為了將經由天線ex450所接收到的多工資料進行解碼,多工/分離部ex453將多工資料進行分離,藉此把多工資料分成影像資料的位元串流及聲音資料的位元串流,經由同步匯流排ex470,而將業經編碼的影像資料供給至影像訊號處理部ex455,並將業經編碼的聲音資料供給至聲音訊號處理部ex454。影像訊號處理部ex455透過對應於上述各實施形態所示的動態圖像編碼方法之動態圖像解碼方法,而將影像訊號進行解碼,且透過顯示器控制部ex459,而從顯示部ex458,顯示被連結的動態圖像檔所含之影像或者靜態圖像。又,聲音訊號處理部ex454是將聲音訊號進行解碼,且從聲音輸出部ex457輸出聲音。另,由於實時串流傳輸(real-time streaming)已經普及了,依使用者的狀況,聲音的播放也可能會有對社會上不合適的場面發生。為此,作為初始值,聲音訊號不要播放,而只將影像資料播放的構成是較被希望的。也可以是只有在使用者進行了操作,如點選影像資料等的時候,將聲音同步地播放。
又,在此,是以智慧型手機ex115為例進行了說明,以終端機而言,也可考慮如下3種安裝形式,即,除了具有編碼器及解碼器兩者的訊號收發型終端機之外,還有只具有編碼器的發訊終端機、及只具有解碼器的收訊終端機。進而,在數位廣播用系統中,是以接收或者發送在影像資料上已有聲音資料等進行多工處理之多工資料的情形來說明,但多工資料上除了聲音資料以外,也可有與影像有關聯的文字資料等進行多工處理,也可接收或者發送影像資料本身,而不是多工資料。
另,以含有CPU的主控制部ex460控制編碼處理或者解碼處理的情形來說明,但終端機具備GPU的情況也居多。因此,如後述構成也可,即,透過在CPU與GPU共通化的記憶體、或者有將位址加以管理以形成可以共通使用之狀態的記憶體,來靈活運用GPU的性能,並將廣大區域匯整來一起處理者。藉此,可縮短編碼時間,確保實時性,可實現低延遲。尤其,不是利用CPU,而是透過GPU,以圖片等的單位匯整來一起進行移動估測、解區塊濾波器、SAO(Sample Adaptive Offset)、及轉換、量化的處理時,是有效率的。
也可以將本態樣與本揭示中的其他態樣之至少一部分組合來實施。又,也可以將本態樣的流程圖所記載的一部分處理、裝置的一部分構成、語法(syntax)的一部分等與其他態樣組合來實施。
(產業利用性)
本揭示是可利用在諸如電視機、數位影像錄影機、車用導航、行動電話機、數位照相機、數位影像攝影機、視訊會議系統、或者電子鏡等。
10~23:區塊
100:編碼裝置
102:分割部
104:減法部
106:轉換部
108:量化部
110:熵編碼部
112,204:反量化部
114,206:反轉換部
116,208:加法部
118,210:區塊記憶體
120,212:迴路濾波部
122,214:幀記憶體
124,216:內預測部
126,218:間預測部
128,220:預測控制部
160,260:電路
162,262:記憶體
200:解碼裝置
202:熵解碼部
ex100:內容供給系統
ex101:網際網路
ex102:網際網路服務提供者
ex103:串流伺服器
ex104:通訊網
ex106~ex110:基地台
ex111:電腦
ex112:遊戲機
ex113:攝像機
ex114:家電
ex115:智慧型手機
ex116:衛星
ex117:飛機
ex450:天線
ex451:發送/接收部
ex452:調變/解調部
ex453:多工/分離部
ex454:聲音訊號處理部
ex455:影像訊號處理部
ex456:聲音輸入部
ex457:聲音輸出部
ex458:顯示部
ex459:顯示器控制部
ex460:主控制部
ex461:電源電路部
ex462:操作輸入控制部
ex463:攝像機介面部
ex464:插槽部
ex465:攝像機部
ex466:操作部
ex467:記憶部
ex468:SIM
ex470:匯流排
ex500:LSI
圖1是顯示實施形態1之編碼裝置之功能構成的方塊圖。
圖2是顯示實施形態1中之區塊分割之一例之圖。
圖3是顯示對應於各轉換型式之轉換基底函數之表格。
圖4A是顯示ALF所使用之濾波器之形狀一例之圖。
圖4B是顯示ALF所使用之濾波器的形狀另一例之圖。
圖4C是顯示ALF所使用之濾波器的形狀另一例之圖。
圖5A是顯示內預測中之67個內預測模式之圖。
圖5B是用以說明藉OBMC處理之預測圖像補正處理之概要的流程圖。
圖5C是用以說明藉OBMC處理之預測圖像補正處理之概要的概念圖。
圖5D是顯示FRUC一例之圖。
圖6是用以說明在沿著移動軌跡的2個區塊間的圖案匹配(雙向匹配)之圖。
圖7是用以說明當前圖片內的模板與參考圖片內的區塊之間的圖案匹配(模板匹配)之圖。
圖8是用以說明假設等速直線運動之模型的圖。
圖9A是用以說明導出基於複數個鄰接區塊的移動向量之子區塊單位的移動向量的圖。
圖9B是用以說明合併模式之移動向量導出處理之概要之圖。
圖9C是用以說明DMVR處理之概要之概念圖。
圖9D是用以說明使用了LIC處理的亮度補正處理之預測圖像產生方法之概要之圖。
圖10是顯示實施形態1之解碼裝置的功能構成的方塊圖。
圖11是實施形態1之解區塊濾波處理的流程圖。
圖12是顯示實施形態1之濾波器候選之例的圖。
圖13是實施形態1之第1態樣之濾波器候選之決定處理的流程圖。
圖14是顯示實施形態1之第1態樣之濾波器候選之例的圖,前述濾波器候選包括非對稱式濾波器。
圖15是實施形態1之第2態樣之濾波器候選之決定處理的流程圖。
圖16是顯示實施形態1之第2態樣之包含外推處理的濾波器候選之例的圖。
圖17是顯示編碼裝置之安裝例的方塊圖。
圖18是顯示解碼裝置之安裝例的方塊圖。
圖19是實現內容分發服務之內容供給系統的整體構成圖。
圖20是顯示可調式編碼時之編碼構造一例之圖。
圖21是顯示可調式編碼時之編碼構造一例之圖。
圖22是顯示網頁的顯示畫面例之圖。
圖23是顯示網頁的顯示畫面例之圖。
圖24是顯示智慧型手機一例之圖。
圖25是顯示智慧型手機的構成例之方塊圖。
Claims (2)
- 一種解碼裝置,包括: 電路;及 記憶體, 前述電路使用前述記憶體,在動作中進行: 決定使用在解區塊濾波處理之第1像素的數量與第2像素的數量,前述第1像素位於區塊邊界的上側,且前述第2像素位於前述區塊邊界的下側; 決定前述區塊邊界的位置是否為預定位置;及 對前述區塊邊界執行前述解區塊濾波處理, 前述第1像素的數量與前述第2像素的數量是從候選中選擇,前述候選至少包含4以及大於4的M, 響應於前述區塊邊界的位置為前述預定位置,使用在前述解區塊濾波處理的前述第1像素的數量被限制為4。
- 一種編碼裝置,包括: 電路;及 記憶體, 前述電路使用前述記憶體,進行: 決定使用在解區塊濾波處理之第1像素的數量與第2像素的數量,前述第1像素位於區塊邊界的上側,且前述第2像素位於前述區塊邊界的下側; 決定前述區塊邊界的位置是否為預定位置;及 對前述區塊邊界執行前述解區塊濾波處理, 前述第1像素的數量與前述第2像素的數量是從候選中選擇,前述候選至少包含4以及大於4的M, 響應於前述區塊邊界的位置為前述預定位置,使用在前述解區塊濾波處理的前述第1像素的數量被限制為4。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862675303P | 2018-05-23 | 2018-05-23 | |
US62/675,303 | 2018-05-23 |
Publications (1)
Publication Number | Publication Date |
---|---|
TW202415065A true TW202415065A (zh) | 2024-04-01 |
Family
ID=68616664
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW108117541A TWI827605B (zh) | 2018-05-23 | 2019-05-21 | 解碼裝置及解碼方法 |
TW112147903A TW202415065A (zh) | 2018-05-23 | 2019-05-21 | 編碼裝置及解碼裝置 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW108117541A TWI827605B (zh) | 2018-05-23 | 2019-05-21 | 解碼裝置及解碼方法 |
Country Status (8)
Country | Link |
---|---|
US (6) | US11006110B2 (zh) |
JP (4) | JPWO2019225459A1 (zh) |
KR (1) | KR20210011378A (zh) |
CN (5) | CN117640952A (zh) |
BR (1) | BR112020019800A2 (zh) |
MX (1) | MX2020011173A (zh) |
TW (2) | TWI827605B (zh) |
WO (1) | WO2019225459A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116437105A (zh) * | 2017-05-19 | 2023-07-14 | 松下电器(美国)知识产权公司 | 解码装置和编码装置 |
Family Cites Families (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4145586B2 (ja) * | 2001-07-24 | 2008-09-03 | セイコーエプソン株式会社 | 画像処理装置及び画像処理プログラム、並びに画像処理方法 |
JP4114494B2 (ja) * | 2002-03-07 | 2008-07-09 | セイコーエプソン株式会社 | 画像処理装置及び画像処理プログラム、並びに画像処理方法 |
US20050281339A1 (en) * | 2004-06-22 | 2005-12-22 | Samsung Electronics Co., Ltd. | Filtering method of audio-visual codec and filtering apparatus |
NO322722B1 (no) * | 2004-10-13 | 2006-12-04 | Tandberg Telecom As | Fremgangsmate for videokoding gjennom reduksjon av blokkartefakter |
JP4455487B2 (ja) * | 2005-12-16 | 2010-04-21 | 株式会社東芝 | 復号化装置及び復号化方法及びプログラム |
KR101965781B1 (ko) * | 2007-04-12 | 2019-04-05 | 돌비 인터네셔널 에이비 | 비디오 인코딩 및 디코딩의 타일링 |
KR20090129926A (ko) * | 2008-06-13 | 2009-12-17 | 삼성전자주식회사 | 영상 부호화 방법 및 그 장치, 영상 복호화 방법 및 그 장치 |
EP2312853A1 (en) * | 2008-07-03 | 2011-04-20 | Sharp Kabushiki Kaisha | Filter device |
KR101590500B1 (ko) * | 2008-10-23 | 2016-02-01 | 에스케이텔레콤 주식회사 | 동영상 부호화/복호화 장치, 이를 위한 인트라 예측 방향에기반한 디블록킹 필터링 장치 및 필터링 방법, 및 기록 매체 |
JP5344238B2 (ja) * | 2009-07-31 | 2013-11-20 | ソニー株式会社 | 画像符号化装置および方法、記録媒体、並びにプログラム |
KR101457396B1 (ko) * | 2010-01-14 | 2014-11-03 | 삼성전자주식회사 | 디블로킹 필터링을 이용한 비디오 부호화 방법과 그 장치, 및 디블로킹 필터링을 이용한 비디오 복호화 방법 및 그 장치 |
US20110194613A1 (en) * | 2010-02-11 | 2011-08-11 | Qualcomm Incorporated | Video coding with large macroblocks |
US9185430B2 (en) * | 2010-03-15 | 2015-11-10 | Mediatek Singapore Pte. Ltd. | Deblocking filtering method and deblocking filter |
KR101604032B1 (ko) * | 2010-04-13 | 2016-03-17 | 삼성전자주식회사 | 트리 구조의 부호화 단위에 기초한 예측 단위를 이용하는 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법 및 그 장치 |
CN103109531B (zh) * | 2010-09-17 | 2016-06-01 | 日本电气株式会社 | 视频编码设备和视频解码设备 |
US9813738B2 (en) * | 2010-10-05 | 2017-11-07 | Hfi Innovation Inc. | Method and apparatus of adaptive loop filtering |
US10116932B2 (en) * | 2010-12-14 | 2018-10-30 | Sharp Kabushiki Kaisha | Image filter device, decoding device, encoding device, and data structure |
KR101604959B1 (ko) * | 2011-01-12 | 2016-03-18 | 미쓰비시덴키 가부시키가이샤 | 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법 및 화상 복호 방법 |
KR102005088B1 (ko) * | 2011-03-21 | 2019-10-01 | 엘지전자 주식회사 | 움직임 벡터 예측자 선택 방법 및 이를 이용하는 장치 |
US20120294353A1 (en) * | 2011-05-16 | 2012-11-22 | Mediatek Inc. | Apparatus and Method of Sample Adaptive Offset for Luma and Chroma Components |
JP2013118605A (ja) * | 2011-06-28 | 2013-06-13 | Sony Corp | 画像処理装置と画像処理方法 |
KR102067369B1 (ko) * | 2011-06-28 | 2020-01-16 | 소니 주식회사 | 화상 처리 장치, 화상 처리 방법 및 기록 매체 |
US9232237B2 (en) * | 2011-08-05 | 2016-01-05 | Texas Instruments Incorporated | Block-based parallel deblocking filter in video coding |
US9554128B2 (en) * | 2011-09-13 | 2017-01-24 | Hfi Innovation Inc. | Method and apparatus for reduction of deblocking filter |
US11184623B2 (en) * | 2011-09-26 | 2021-11-23 | Texas Instruments Incorporated | Method and system for lossless coding mode in video coding |
US8913656B2 (en) * | 2011-10-14 | 2014-12-16 | Mediatek Inc. | Method and apparatus for in-loop filtering |
US10645398B2 (en) * | 2011-10-25 | 2020-05-05 | Texas Instruments Incorporated | Sample-based angular intra-prediction in video coding |
PL2785057T3 (pl) * | 2011-11-25 | 2021-05-04 | Sun Patent Trust | Sposób przetwarzania obrazów i urządzenie do przetwarzania obrazów |
US20130170562A1 (en) * | 2011-12-28 | 2013-07-04 | Qualcomm Incorporated | Deblocking decision functions for video coding |
JP2014197723A (ja) * | 2012-01-06 | 2014-10-16 | ソニー株式会社 | 画像処理装置および方法 |
KR20130090465A (ko) * | 2012-02-06 | 2013-08-14 | 삼성전자주식회사 | 순차 주사 기반의 디블록킹 필터링 장치 및 방법 |
KR102057195B1 (ko) * | 2012-03-20 | 2019-12-18 | 삼성전자주식회사 | 트리 구조의 부호화 단위에 기초한 스케일러블 비디오 부호화 방법 및 장치, 스케일러블 비디오 복호화 방법 및 장치 |
US20150208092A1 (en) * | 2012-06-29 | 2015-07-23 | Samsung Electronics Co., Ltd. | Method and apparatus for encoding scalable video, and method and apparatus for decoding scalable video |
US20140056363A1 (en) * | 2012-08-23 | 2014-02-27 | Yedong He | Method and system for deblock filtering coded macroblocks |
JP2014207536A (ja) * | 2013-04-12 | 2014-10-30 | ソニー株式会社 | 画像処理装置および方法 |
US9877024B2 (en) * | 2015-03-06 | 2018-01-23 | Qualcomm Incorporated | Low complexity sample adaptive offset (SAO) coding |
US10419757B2 (en) * | 2016-08-31 | 2019-09-17 | Qualcomm Incorporated | Cross-component filter |
-
2019
- 2019-05-16 WO PCT/JP2019/019453 patent/WO2019225459A1/ja active Application Filing
- 2019-05-16 JP JP2020521189A patent/JPWO2019225459A1/ja active Pending
- 2019-05-16 CN CN202311577538.4A patent/CN117640952A/zh active Pending
- 2019-05-16 CN CN202311572275.8A patent/CN117640950A/zh active Pending
- 2019-05-16 CN CN202311571345.8A patent/CN117640949A/zh active Pending
- 2019-05-16 CN CN201980033271.8A patent/CN112136326B/zh active Active
- 2019-05-16 MX MX2020011173A patent/MX2020011173A/es unknown
- 2019-05-16 CN CN202311575799.2A patent/CN117640951A/zh active Pending
- 2019-05-16 BR BR112020019800-5A patent/BR112020019800A2/pt unknown
- 2019-05-16 KR KR1020207032829A patent/KR20210011378A/ko unknown
- 2019-05-21 TW TW108117541A patent/TWI827605B/zh active
- 2019-05-21 TW TW112147903A patent/TW202415065A/zh unknown
-
2020
- 2020-03-04 US US16/809,216 patent/US11006110B2/en active Active
-
2021
- 2021-04-09 US US17/227,015 patent/US11582450B2/en active Active
-
2022
- 2022-12-07 JP JP2022195831A patent/JP2023016992A/ja active Pending
- 2022-12-07 JP JP2022195830A patent/JP2023016991A/ja active Pending
-
2023
- 2023-01-03 US US18/149,525 patent/US11856192B2/en active Active
- 2023-01-04 US US18/150,023 patent/US11856193B2/en active Active
- 2023-01-05 US US18/150,659 patent/US11863743B2/en active Active
- 2023-11-15 US US18/510,427 patent/US20240107012A1/en active Pending
-
2024
- 2024-04-19 JP JP2024068053A patent/JP2024086961A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2024086961A (ja) | 2024-06-28 |
CN112136326B (zh) | 2023-12-12 |
CN117640951A (zh) | 2024-03-01 |
US20210227217A1 (en) | 2021-07-22 |
BR112020019800A2 (pt) | 2021-01-05 |
CN117640950A (zh) | 2024-03-01 |
CN117640952A (zh) | 2024-03-01 |
MX2020011173A (es) | 2020-11-12 |
US11856193B2 (en) | 2023-12-26 |
KR20210011378A (ko) | 2021-02-01 |
CN117640949A (zh) | 2024-03-01 |
US11006110B2 (en) | 2021-05-11 |
JPWO2019225459A1 (ja) | 2021-04-22 |
WO2019225459A1 (ja) | 2019-11-28 |
US20230156188A1 (en) | 2023-05-18 |
US20230156187A1 (en) | 2023-05-18 |
US20230142962A1 (en) | 2023-05-11 |
TW202013962A (zh) | 2020-04-01 |
JP2023016992A (ja) | 2023-02-02 |
TWI827605B (zh) | 2024-01-01 |
CN112136326A (zh) | 2020-12-25 |
US20200204802A1 (en) | 2020-06-25 |
US11856192B2 (en) | 2023-12-26 |
US11863743B2 (en) | 2024-01-02 |
JP2023016991A (ja) | 2023-02-02 |
US20240107012A1 (en) | 2024-03-28 |
US11582450B2 (en) | 2023-02-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102577599B1 (ko) | 부호화 장치, 복호 장치, 부호화 방법 및 복호 방법 | |
TWI838914B (zh) | 編碼裝置、解碼裝置及非暫時性電腦可讀取媒體 | |
TWI830328B (zh) | 編碼裝置、解碼裝置及電腦可讀取之非暫時性媒體 | |
TWI812414B (zh) | 編碼裝置、解碼裝置及記錄媒體 | |
JP7026747B2 (ja) | 復号装置及び復号方法 | |
WO2018225593A1 (ja) | 符号化装置、復号装置、符号化方法および復号方法 | |
TWI838995B (zh) | 圖像解碼裝置及解碼方法 | |
TW202402052A (zh) | 編碼裝置、解碼裝置及電腦可讀取之非暫時性媒體 | |
JP2024086961A (ja) | 符号化装置及び復号装置 | |
JP6767579B2 (ja) | 符号化装置、符号化方法、復号装置及び復号方法 | |
TWI833248B (zh) | 解碼方法及編碼方法 | |
KR102652134B1 (ko) | 부호화 장치, 복호 장치, 부호화 방법 및 복호 방법 | |
WO2019163794A1 (ja) | 符号化装置及び符号化方法 | |
TW202415063A (zh) | 非暫時性電腦可讀取媒體 | |
WO2019163795A1 (ja) | 符号化装置及び符号化方法 | |
WO2019146718A1 (ja) | 符号化装置、復号装置、符号化方法及び復号方法 | |
TWI841500B (zh) | 圖像編碼裝置、圖像編碼方法及非暫時性記憶媒體 | |
TW202420825A (zh) | 編碼裝置、解碼裝置、編碼方法、解碼方法及非暫時性記憶媒體 | |
TW202418802A (zh) | 編碼裝置、解碼裝置及非暫時性記憶媒體 | |
TW202420826A (zh) | 編碼方法、解碼方法、及處理包含模式資訊與移動資訊的位元串流的方法 | |
TW202423115A (zh) | 編碼裝置、解碼裝置、電腦可讀取之非暫時性的媒體 | |
TW202425641A (zh) | 編碼裝置、解碼裝置、編碼方法、及解碼方法 | |
TW202418804A (zh) | 編碼裝置及解碼裝置 | |
TW202425646A (zh) | 編碼裝置、解碼裝置及非暫時性記憶媒體 |