JP6985609B2 - 符号化装置、画像補間システム及び符号化プログラム - Google Patents
符号化装置、画像補間システム及び符号化プログラム Download PDFInfo
- Publication number
- JP6985609B2 JP6985609B2 JP2018097426A JP2018097426A JP6985609B2 JP 6985609 B2 JP6985609 B2 JP 6985609B2 JP 2018097426 A JP2018097426 A JP 2018097426A JP 2018097426 A JP2018097426 A JP 2018097426A JP 6985609 B2 JP6985609 B2 JP 6985609B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- auxiliary information
- network
- coding
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/167—Position within a video image, e.g. region of interest [ROI]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
- H04N19/463—Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
また、再構成対象ブロックには、HEVCのイントラ予測で予測残差の情報量が小さくなるよう、ブロック全体に均一な画像処理を施して、HEVC符号化器に入力する。言い換えると、HEVCでは予測精度が低いブロックや、一定の精度の主観画質を確保できれば符号化前の画像の画素を正確に再現する必要が少ない被写体に係るブロックを、再構成対象ブロックとし、HEVCが予測しやすい画素で構成させるようにすることで所望の画質を保ったまま符号化に要する符号量の低減を図る。復号側では、ブロック全体に均一な画像処理が施されているか否かを判定することにより、再構成対象ブロックを判別する。
以下、第1の実施形態について、図面を参照しながら説明する。
まず、本発明による符号化装置の処理について説明する。
図1に、本発明の第1の実施形態における符号化装置の処理フローを示す。
次に、上記の処理を実現するための符号化装置の構成例について説明する。
図2に、第1の実施形態における符号化装置10の構成例を示す。図示するように、符号化装置10は、ブロック分割部101と、符号化方式判定部102と、補助情報抽出部103と、補助情報エントロピー符号化部104と、画像変換部105と、イントラ予測部107と、変換/量子化部108と、エントロピー符号化部109と、逆量子化/逆変換部110と、予測用メモリ111と、を含んで構成される。
なお、本実施形態においては、上記予測残差を符号化するエントロピー符号化部109と補助情報を符号化する補助情報エントロピー符号化部104とが別々の機能ブロックである構成としたが、これらが同一の機能ブロックで構成されてもよい。すなわち、1つの符号化部によって、例えば共通のエントロピー符号化方式で、上記予測残差の符号化及び補助情報の符号化が行われる構成であってもよい。
次に、上記の処理方法及び機能構成によって生成された符号化データから画像を復号する復号装置の処理について説明する。
図3に、第1の実施形態における復号装置の処理フローを示す。
次に、上記の処理を実現するための復号装置の構成例について説明する。
図4に、第1の実施形態における復号装置20の構成例を示す。図示するように、復号装置20は、エントロピー復号部201と、逆変換/逆量子化部202と、イントラ予測部203と、予測用メモリ204と、再構成部205と、符号化方式判定部206と、補助情報エントロピー復号部207と、を含んで構成される。
以下、第2の実施形態について、図面を参照しながら説明する。以下に説明する第2の実施形態では、上述した第1の実施形態に対して、符号化装置及び復号装置の構成が異なる。
第2の実施形態における符号化装置30の構成を図5に示す。図示するように、符号化装置30は、前処理装置31と、従来型符号化装置32と、から構成される。前処理装置31は、ブロック分割部301と、符号化方式判定部302と、補助情報抽出部303と、補助情報エントロピー符号化部304と、画像変換部305と、変換後画像メモリ306と、を含んで構成される。従来型符号化装置32は、イントラ予測部307と、変換/量子化部308と、エントロピー符号化部309と、逆量子化/逆変換部310と、予測用メモリ311と、を含んで構成される。
次に、第2の実施形態における復号装置40の構成を図6に示す。図示するように、復号装置40は、従来型復号装置41と、後処理装置42と、から構成される。従来型復号装置41は、エントロピー復号部401と、逆変換/逆量子化部402と、イントラ予測部403と、予測用メモリ404と、を含んで構成される。後処理装置42は、再構成部405と、符号化方式判定部406と、補助情報エントロピー復号部407と、を含んで構成される。
<第3の実施形態>
以下、第3の実施形態について、図面を参照しながら説明する。
補間ネットワークを用いた画像符号化、復号処理の例を図7に示す。
上記の符号化処理及び復号処理を実現する符号化装置50及び復号装置60の構成例を、図8に示す。図示するように、符号化装置50は、画像欠損処理部501と、画像符号化部502と、欠損領域情報符号化部503と、から構成される。
まず、本発明による補間ネットワーク及び補助情報抽出ネットワークを用いた符号化処理及び復号処理について概要を説明する。
図9に、第3の実施形態による符号化処理及び復号処理の流れを示す。
次に、上記の符号化処理及び復号処理を実現する符号化装置及び復号装置の構成例を、図10に示す。図示するように、符号化装置70は、画像欠損処理部701と、画像符号化部702と、欠損領域情報符号化部703と、補助情報抽出部704と、補助情報符号化部705と、から構成される。
次に、補助情報抽出部704及び画像補間部803の構成、ならびに学習方法について説明する。
学習処理の流れを図12に示す。
以下、第4の実施形態について、図面を参照しながら説明する。
203,403…イントラ予測部、204,404…予測用メモリ、205,405…再構成部、206,406…符号化方式判定部、207,407…補助情報エントロピー復号部、408…出力ピクチャメモリ、50,70…符号化装置、501,701…画像欠損処理部、502,702…画像符号化部、503,703…欠損領域情報符号化部、704…補助情報抽出部、7041…補助情報抽出ネットワーク、705…補助情報符号化部、60,80…復号装置、601,801…画像復号部、602,802…欠損領域情報復号部、603,803…画像補間部、8031…補助情報参照ネットワーク、8032…欠損画像参照ネットワーク、8033…再構成ネットワーク、604…画像補間ネットワーク、805…補助情報復号部、9000…識別ネットワーク
Claims (8)
- 画像を符号化する符号化装置であって、
第一の画像に含まれる、所定の条件に合致する領域を取得する領域取得部と、
前記第一の画像と、取得された領域と、前記第一の画像から前記取得された領域が除かれた領域と、を関連付けることで、第二の画像を得る画像取得部と、
前記第二の画像を符号化する符号化部と、
前記第一の画像と前記取得された領域とを入力として画像補間を補助する情報である補助情報を出力する補助情報抽出ネットワークと、
前記補助情報を入力として補助情報参照による第一の中間画像を出力する補助情報参照ネットワークと、
前記取得された領域が除かれた領域と前記取得された領域とを入力として欠損画像参照による第二の中間画像を出力する欠損画像参照ネットワークと、
前記第一の中間画像と前記第二の中間画像とを入力として前記第二の画像を出力する再構成ネットワークと、
を備える符号化装置。 - 画像を符号化する符号化装置であって、
第一の画像に含まれる、所定の条件に合致する領域を取得する領域取得部と、
前記第一の画像と、取得された領域と、前記第一の画像から前記取得された領域が除かれた領域と、を関連付けることで、第二の画像を得る画像取得部と、
前記第二の画像を符号化する符号化部と、
前記第一の画像と欠損画像参照ネットワークから出力された第二の中間画像との差分画像と、前記取得された領域と、を入力として画像補間を補助する情報である補助情報を出力する補助情報抽出ネットワークと、
前記補助情報を入力として補助情報参照による第一の中間画像を出力する補助情報参照ネットワークと、
前記取得された領域が除かれた領域と前記取得された領域とを入力として欠損画像参照による前記第二の中間画像を出力する前記欠損画像参照ネットワークと、
前記第一の中間画像と前記第二の中間画像とを入力として前記第二の画像を出力する再構成ネットワークと、
を備える符号化装置。 - 前記欠損画像参照ネットワークは、前記第二の中間画像と前記第一の画像との画素誤差を最小化するように、前記第二の中間画像についての学習パラメータの学習を行う
請求項1又は請求項2に記載の符号化装置。 - 前記補助情報抽出ネットワークは、前記補助情報参照ネットワークによって出力される第一の中間画像と第一の画像との画素誤差を最小化するように、前記補助情報についての学習パラメータの学習を行う
請求項1から請求項3のうちいずれか一項に記載の符号化装置。 - 前記補助情報参照ネットワークは、前記第一の中間画像と前記第一の画像との画素誤差を最小化するように、前記第一の中間画像についての学習パラメータの学習を行う
請求項1から請求項4のうちいずれか一項に記載の符号化装置。 - 第一の画像を補間する画像補間システムであって、
第二の画像と、前記第二の画像に含まれる所定の条件に合致する領域である合致領域と、前記第二の画像から前記合致領域を除いた領域と、を関連付けることで、前記第一の画像及び補助情報を得る取得部と、
前記補助情報を用いて前記第一の画像を補間し、前記第二の画像に近似する画像を得る補間部と、
前記第二の画像と前記合致領域とを入力として画像補間を補助する情報である補助情報を出力する補助情報抽出ネットワークと、
前記補助情報を入力として補助情報参照による第一の中間画像を出力する補助情報参照ネットワークと、
前記合致領域が除かれた領域と前記合致領域とを入力として欠損画像参照による第二の中間画像を出力する欠損画像参照ネットワークと、
前記第一の中間画像と前記第二の中間画像とを入力として前記第一の画像を出力する再構成ネットワークと、
を有する画像補間システム。 - 第一の画像を補間する画像補間システムであって、
第二の画像と、前記第二の画像に含まれる所定の条件に合致する領域である合致領域と、前記第二の画像から前記合致領域を除いた領域と、を関連付けることで、前記第一の画像及び補助情報を得る取得部と、
前記補助情報を用いて前記第一の画像を補間し、前記第二の画像に近似する画像を得る補間部と、
前記第二の画像と欠損画像参照ネットワークから出力された第二の中間画像との差分画像と、前記合致領域と、を入力として画像補間を補助する情報である補助情報を出力する補助情報抽出ネットワークと、
前記補助情報を入力として補助情報参照による第一の中間画像を出力する補助情報参照ネットワークと、
前記合致領域が除かれた領域と前記合致領域とを入力として欠損画像参照による前記第二の中間画像を出力する前記欠損画像参照ネットワークと、
前記第一の中間画像と前記第二の中間画像とを入力として前記第一の画像を出力する再構成ネットワークと、
を有する画像補間システム。 - 請求項1から請求項5のうちいずれか一項に記載の符号化装置としてコンピュータを機能させるための符号化プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018097426A JP6985609B2 (ja) | 2018-05-21 | 2018-05-21 | 符号化装置、画像補間システム及び符号化プログラム |
US17/057,006 US11350134B2 (en) | 2018-05-21 | 2019-05-09 | Encoding apparatus, image interpolating apparatus and encoding program |
PCT/JP2019/018635 WO2019225344A1 (ja) | 2018-05-21 | 2019-05-09 | 符号化装置、画像補間システム及び符号化プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018097426A JP6985609B2 (ja) | 2018-05-21 | 2018-05-21 | 符号化装置、画像補間システム及び符号化プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019205010A JP2019205010A (ja) | 2019-11-28 |
JP6985609B2 true JP6985609B2 (ja) | 2021-12-22 |
Family
ID=68617148
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018097426A Active JP6985609B2 (ja) | 2018-05-21 | 2018-05-21 | 符号化装置、画像補間システム及び符号化プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11350134B2 (ja) |
JP (1) | JP6985609B2 (ja) |
WO (1) | WO2019225344A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11818373B1 (en) * | 2020-09-08 | 2023-11-14 | Block, Inc. | Machine-learning based data compression for streaming media |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE10300048B4 (de) * | 2002-01-05 | 2005-05-12 | Samsung Electronics Co., Ltd., Suwon | Verfahren und Vorrichtung zur Bildcodierung und -decodierung |
JP4956375B2 (ja) * | 2007-10-30 | 2012-06-20 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
KR20110059766A (ko) * | 2008-09-18 | 2011-06-03 | 톰슨 라이센싱 | 비디오 영상 프루닝 방법 및 장치 |
GB2526495B (en) * | 2013-03-15 | 2021-12-01 | Ernest Troxler Robert | Systems and methods for identifying and separately presenting different portions of multimedia content |
US9536335B2 (en) * | 2015-03-19 | 2017-01-03 | Sony Corporation | Using frequency decomposition for better color consistency in a synthesized region |
CN107847117B (zh) * | 2015-04-30 | 2019-12-17 | 富士胶片株式会社 | 图像处理装置及图像处理方法 |
WO2017041295A1 (en) * | 2015-09-11 | 2017-03-16 | Intel Corporation | Real-time face beautification features for video images |
WO2017080420A1 (en) * | 2015-11-09 | 2017-05-18 | Versitech Limited | Auxiliary data for artifacts –aware view synthesis |
US10846895B2 (en) * | 2015-11-23 | 2020-11-24 | Anantha Pradeep | Image processing mechanism |
US20190051039A1 (en) * | 2016-02-26 | 2019-02-14 | Sony Corporation | Image processing apparatus, image processing method, program, and surgical system |
US10715804B2 (en) | 2016-04-22 | 2020-07-14 | Sony Corporation | Encoding apparatus and encoding method as well as decoding apparatus and decoding method |
US20180300937A1 (en) * | 2017-04-13 | 2018-10-18 | National Taiwan University | System and a method of restoring an occluded background region |
KR101856546B1 (ko) * | 2017-06-29 | 2018-05-11 | 링크플로우 주식회사 | 영상에서 처리 대상 객체를 제거하는 방법 및 이러한 방법을 수행하는 장치 |
-
2018
- 2018-05-21 JP JP2018097426A patent/JP6985609B2/ja active Active
-
2019
- 2019-05-09 WO PCT/JP2019/018635 patent/WO2019225344A1/ja active Application Filing
- 2019-05-09 US US17/057,006 patent/US11350134B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20210112283A1 (en) | 2021-04-15 |
WO2019225344A1 (ja) | 2019-11-28 |
JP2019205010A (ja) | 2019-11-28 |
US11350134B2 (en) | 2022-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11159789B2 (en) | Generative adversarial network based intra prediction for video coding | |
JP4514734B2 (ja) | 動画像復号装置 | |
Kim et al. | Hierarchical prediction and context adaptive coding for lossless color image compression | |
RU2492586C2 (ru) | Способ автоматического формирования процедуры генерации прогнозируемого значения пикселя, способ кодирования изображений, способ декодирования изображений, соответствующее устройство, соответствующие программы и носители информации, которые хранят программы | |
JP2004519155A (ja) | 任意の形状のオブジェクトのテクスチャに適用される前処理方法 | |
JP5194119B2 (ja) | 画像処理方法及び対応する電子装置 | |
US11671576B2 (en) | Method and apparatus for inter-channel prediction and transform for point-cloud attribute coding | |
JP6356913B2 (ja) | グラフテンプレートから誘導された変換を用いてビデオ信号をデコーディング/エンコーディングする方法及び装置 | |
CN110383695B (zh) | 用于对数字图像或视频流进行编码和解码的方法和装置 | |
JP6727011B2 (ja) | 画像符号化装置及びその制御方法 | |
CN116438796A (zh) | 图像预测方法、编码器、解码器以及计算机存储介质 | |
JP6985609B2 (ja) | 符号化装置、画像補間システム及び符号化プログラム | |
JP2015035720A (ja) | 変換量子化方法、変換量子化装置及び変換量子化プログラム | |
WO2019225337A1 (ja) | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム及び復号プログラム | |
CN111901595B (zh) | 一种基于深度神经网络的视频编码方法及装置、介质 | |
JP2024511084A (ja) | ニューラルネットワークを用いた画像及びビデオコーディングにおける潜時特徴の多分布エントロピーモデリング | |
CN116325732A (zh) | 点云的解码、编码方法、解码器、编码器和编解码*** | |
CN107409216B (zh) | 图像编码和解码方法、编码和解码设备以及相应的计算机程序 | |
JP7185467B2 (ja) | 画像復号装置、画像符号化装置、画像処理システム及びプログラム | |
JP6557483B2 (ja) | 符号化装置、符号化システム、及びプログラム | |
JP7303456B2 (ja) | 符号化装置、符号化方法及びプログラム | |
JP7310919B2 (ja) | フィルタ生成方法、フィルタ生成装置及びプログラム | |
JP2010010768A (ja) | 画像符号化装置及び画像符号化方法 | |
WO2011049175A1 (ja) | 画像符号化装置、画像復号化装置、画像符号化方法、及び画像復号化方法 | |
JP2011109390A (ja) | 画像符号化装置、画像符号化方法、画像復号装置、及び、画像復号方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200820 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210701 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210803 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211001 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211026 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211108 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6985609 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |