WO2021002719A1 - 비디오 처리 방법 및 장치 - Google Patents

비디오 처리 방법 및 장치 Download PDF

Info

Publication number
WO2021002719A1
WO2021002719A1 PCT/KR2020/008704 KR2020008704W WO2021002719A1 WO 2021002719 A1 WO2021002719 A1 WO 2021002719A1 KR 2020008704 W KR2020008704 W KR 2020008704W WO 2021002719 A1 WO2021002719 A1 WO 2021002719A1
Authority
WO
WIPO (PCT)
Prior art keywords
video
neural network
video processing
tone mapping
processor
Prior art date
Application number
PCT/KR2020/008704
Other languages
English (en)
French (fr)
Inventor
김문철
기세환
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020200080914A external-priority patent/KR102364628B1/ko
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to US17/623,270 priority Critical patent/US20220366538A1/en
Priority to CN202080043521.9A priority patent/CN114096987A/zh
Publication of WO2021002719A1 publication Critical patent/WO2021002719A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/73—Deblurring; Sharpening
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4046—Scaling of whole images or parts thereof, e.g. expanding or contracting using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00—Image coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]

Definitions

  • the following embodiments relate to a video processing method and apparatus.
  • CNN Convolutional Neural Network
  • SR Super-Resolution
  • content-adaptive learning and transmission of model parameters of a neural network can improve SR performance so as to have higher reconstruction fidelity.
  • efficient transmission of neural network parameters is essential.
  • the following embodiments may provide a video processing technology.
  • a video processing method includes receiving a video including a plurality of temporal portions, and receiving a first model parameter corresponding to a first neural network for processing the entire video. And, receiving residuals between each of a plurality of second model parameters corresponding to a plurality of second neural networks for processing each of the plurality of temporal portions and the first model parameter; and the And performing at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal on the video based on residuals.
  • At least one of the first neural network and the plurality of second neural networks may include a light-weight residual dense block including at least one convolutional layer.
  • At least one of the first neural network and the plurality of second neural networks may include a plurality of light weight residual dense blocks configured in a cascade structure.
  • the light weight residual dense convexity may include a depth-wise separable convolution layer or a 1 ⁇ 1 ⁇ d convolution layer.
  • the depthwise separable convolution layer may include a depthwise convolution layer, a pointwise convolution layer, and a nonlinear activation function.
  • the performing may include restoring the plurality of second model parameters by adding the residuals to the first model parameter, and the plurality of temporal portions based on the plurality of second model parameters. It may include performing at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal for each of them.
  • the video processing method may further include receiving spatial segmentation information for a frame included in the plurality of temporal portions and category information of the segmented spatial region.
  • the performing may include dividing the frame into a plurality of spatial regions based on the spatial region division information and the category information, and based on the plurality of spatial regions and the category information, the It may include performing at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal for the video.
  • a video processing apparatus receives a video including a plurality of temporal portions, receives a first model parameter corresponding to a first neural network for processing the entire video, and receives the plurality of A receiver for receiving residuals between each of a plurality of second model parameters corresponding to a plurality of second neural networks for processing each of the temporal portions of the first model parameter, and the residuals ) Based on the video, at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal.
  • At least one of the first neural network and the plurality of second neural networks may include a light-weight residual dense block including at least one convolutional layer.
  • At least one of the first neural network and the plurality of second neural networks may include a plurality of light weight residual dense blocks configured in a cascade structure.
  • the lightweight residual dense block may include a depth-wise separable convolution layer or a 1 ⁇ 1 ⁇ d convolution layer.
  • the depthwise separable convolution layer may include a depthwise convolution layer, a pointwise convolution layer, and a nonlinear activation function.
  • the processor reconstructs the plurality of second model parameters by dividing the frame included in the video into a plurality of regions, and adding the residuals to the first model parameter, and the plurality of second models At least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal may be performed on each of the plurality of temporal parts based on parameters.
  • the receiver may further receive spatial region division information for frames included in the plurality of temporal portions and category information of the divided spatial regions.
  • the processor divides the frame into a plurality of spatial regions based on the spatial region partitioning information and the category information, and superimposes the video on the basis of the plurality of spatial regions and the category information. At least one of resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal may be performed.
  • a video processing method for performing at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal includes a plurality of temporal portions.
  • Receiving a video and model information related to a neural network for processing the video and obtaining a first model parameter corresponding to a first neural network for processing the entire video based on the model information, Acquiring a plurality of second model parameters corresponding to a plurality of second neural networks for processing each of the plurality of temporal portions based on the model information, and the first model parameter and the plurality of second And calculating residuals between model parameters, and transmitting the video and the residual.
  • the video processing method includes the steps of generating spatial segmentation information by dividing a frame included in the plurality of temporal portions, and a category of the segmented spatial region based on a signal characteristic of the segmented spatial region. It may further include generating information.
  • the transmitting may include compressing and transmitting at least one of the video, the residual, the spatial division information, and the category information.
  • the video processing method may further include training the plurality of second neural networks to minimize the residuals.
  • a video processing method for performing at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal includes a plurality of temporal portions.
  • a receiver that receives a video and model information related to a neural network for processing the video, and a first model parameter corresponding to a first neural network for processing the entire video based on the model information, and the model Obtaining a plurality of second model parameters corresponding to a plurality of second neural networks for processing each of the plurality of temporal portions based on information, and between the first model parameter and the plurality of second model parameters
  • a processor that calculates residuals and transmits the video and the residual.
  • the processor may generate spatial segmentation information by dividing the frames included in the plurality of temporal portions, and generate category information of the segmented spatial region based on a signal characteristic of the segmented spatial region. I can.
  • the processor may compress and transmit at least one of the video, the residual, the spatial division information, and the category information.
  • the processor may train the plurality of second neural networks to minimize the residuals.
  • FIG. 1A is a schematic block diagram of a video processing system according to an embodiment.
  • FIG. 1B is a schematic block diagram of a video processing apparatus of a transmitting end shown in FIG. 1A.
  • FIG. 1C is a schematic block diagram of a video processing apparatus of a receiver shown in FIG. 1A.
  • FIG. 2 shows an example of an operation of the video processing apparatus of the transmitter shown in FIG. 1B.
  • FIG. 3 shows another example of the operation of the video processing apparatus of the transmitter shown in FIG. 1B.
  • FIG. 4 shows an example of a structure of a neural network used by the video processing device of the transmitting end and the video processing device of the receiving end shown in FIG. 1A.
  • FIG. 5 shows an example of the structure of the LwRDB shown in FIG. 4.
  • FIG. 6 shows PSNR according to the video processing method in FIG. 1A.
  • FIG. 8 shows a sequence of operations of the video processing apparatus of the transmitter shown in FIG. 1B.
  • FIG. 9 shows a sequence of operations of the video processing apparatus of the receiving end shown in FIG. 1C.
  • first, second, A, B, (a) and (b) may be used. These terms are only used to distinguish the component from other components, and the nature, order, or order of the component is not limited by the term.
  • FIG. 1A is a schematic block diagram of a video processing system according to an embodiment
  • FIG. 1B is a schematic block diagram of a video processing apparatus of a transmitting end shown in FIG. 1A
  • FIG. 1C is a schematic block diagram of a receiving end shown in FIG. It shows a schematic block diagram of a video processing apparatus.
  • the video processing system 10 may process an image or video.
  • the image includes an image of an object made by refraction or reflection of light, and may mean representing the shape of an object using lines or colors.
  • Video can include frames. Also, the frame may include a plurality of pixels.
  • the video may include a plurality of temporal portions.
  • One temporal part may correspond to a group of one frame during one certain temporal duration, that is, one video clip which is usually a part (a certain temporal duration) of a longer recording. have.
  • the video may include scenes of multiple temporal durations according to the passage of time.
  • the video processing system 10 may perform at least one of super resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal on a video, a frame or image included in the video.
  • Super-resolution may mean video processing in which an input image having a low spatial resolution is converted into an input image having a high spatial resolution.
  • the video processing system 10 may perform super-resolution on a video, a frame included in the video, or an image using a neural network.
  • Neural networks can include statistical learning algorithms that mimic the neurons of biology in machine learning and cognitive science.
  • the neural network may refer to an overall model having problem-solving ability by changing the strength of synaptic bonding through learning by artificial neurons (nodes) forming a network through synaptic bonding.
  • the neural network may include a deep neural network.
  • Neural networks include CNN (Convolutional Neural Network), RNN (Recurrent Neural Network), perceptron, FF (Feed Forward), RBF (Radial Basis Network), DFF (Deep Feed Forward), LSTM (Long Short Term Memory), GRU (Gated Recurrent Unit), AE (Auto Encoder), VAE (Variational Auto Encoder), DAE (Denoising Auto Encoder), SAE (Sparse Auto Encoder), MC (Markov Chain), HN (Hopfield Network), BM (Boltzmann Machine) ), RBM(Restricted Boltzmann Machine), DBN(Depp Belief Network), DCN(Deep Convolutional Network), DN(Deconvolutional Network), DCIGN(Deep Convolutional Inverse Graphics Network), GAN(Generative Adversarial Network), LSM(Liquid State Machine) ), ELM (Extreme Learning Machine), ESN (E
  • the video processing system 10 includes a video processing device 100 at a transmitting end (hereinafter referred to as a video processing device 100) and a video processing device 500 at a receiving end (hereinafter referred to as a video processing device 500). do.
  • the video processing device 100 may process a video based on the video and model information, and transmit the processing result to the video processing device 500.
  • the processing result is the residual of the neural network model for performing at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal based on video and model information, and included in the video. It may include spatial region division information of the frame and category information of the divided spatial region.
  • the model information may include information on the type and structure of a neural network, and model parameters of a pre-trained neural network.
  • the video processing apparatus 100 generates a residual of a neural network model, spatial region division information of a frame included in the video, and category information of a segmented spatial region based on the video and model information, and the video processing apparatus 500 Can be transferred to. Also, the video processing apparatus 100 may compress the video and transmit the compressed video to the video processing apparatus 500.
  • the video processing device 500 may process a video based on a processing result received from the video processing device 100.
  • the video processing apparatus 500 performs super-resolution, inverse tone mapping, and/or inverse tone mapping to a video (or compressed video) based on the residual of the neural network model, spatial segmentation information of frames included in the video, and category information of segmented spatial regions. At least one of tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal may be performed.
  • the video processing apparatus 100 may train a neural network.
  • the video processing apparatus 100 may compress information on the learned neural network (eg, model parameters of a neural network, etc.) and transmit the compressed information to the video processing apparatus 500.
  • the information on the neural network may include model parameters of the neural network, a structure of the neural network, or a weight.
  • the model parameter may include a filter parameter of a convolutional neural network.
  • the video processing device 100 may transmit information on the neural network model to any video processing device 500.
  • the video processing apparatus 500 includes super-resolution, reverse or inverse tone mapping, tone mapping, frame interpolation, and motion based on information on a neural network model. At least one of motion deblurring, denoising, and compression artifact removal may be performed.
  • the video processing apparatus 100 may compress an image or video. Also, the compressed image or video may be transmitted to the video processing apparatus 500.
  • the video processing apparatus 500 includes super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, and dino for an image or video based on pre-stored information on a neural network and/or received information on a neural network. At least one of easing and compression distortion removal may be performed.
  • the video processing apparatus 100 may be located at a transmitting end.
  • the video processing apparatus 100 saves bandwidth by transmitting a video with a reduced spatial and/or temporal resolution implemented at a transmitting end, and information about a neural network previously stored at the receiving end and/or a received neural network. At least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal may be performed on a video having a reduced resolution using the information.
  • the video processing apparatus 100 includes a receiver 110 and a processor 130, and the video processing apparatus 500 includes a receiver 510 and a processor 530.
  • the video processing apparatus 100 may further include a memory 150, and the video processing apparatus 500 may further include a memory 550.
  • the receiver 110 may receive an image, a video, or a frame included in the video, and model information for video processing.
  • the receiver 110 may receive a video including a plurality of temporal portions and model information related to a neural network for processing the video.
  • the receiver 110 may output the received image and/or video to the processor 130 and the memory 150.
  • the receiver 510 may receive a video (or compressed video) including a plurality of temporal portions.
  • the receiver 510 includes a first model parameter and a first model parameter corresponding to a first neural network for processing the entire video, and a plurality of second neural networks for processing each of a plurality of temporal parts. 2 Can receive residuals between model parameters.
  • the receiver 530 may receive spatial domain division information for frames included in a plurality of temporal portions and category information of the divided spatial domain.
  • the receiver 510 may output the received video, first model parameter, residual, spatial division information, and category information to the processor 530 and the memory 550.
  • the processor 130 and the processor 530 may process data stored in the memory 150 and the memory 550, respectively.
  • the processor 130 and the processor 530 include computer-readable code (for example, software) stored in the memory 150 and the memory 550, and instructions generated by the processor 130 and the processor 530 ( instructions).
  • the "processor 130 and the processor 530" may be a data processing device implemented in hardware having a circuit having a physical structure for executing desired operations.
  • desired operations may include codes or instructions included in a program.
  • a data processing device implemented in hardware is a microprocessor, a central processing unit, a processor core, a multi-core processor, and a multiprocessor.
  • ASIC Application-Specific Integrated Circuit
  • FPGA Field Programmable Gate Array
  • the processor 130 may obtain a first model parameter corresponding to a first neural network for processing the entire received video based on the model information.
  • the first neural network may mean a neural network that is learned for all scenes.
  • the processor 130 may obtain the first model parameter from the first neural network for the purpose of processing the entire general video, which is not limited to only the received video.
  • the first neural network may mean a neural network that is learned for general video scenes.
  • the processor 130 may acquire a plurality of second model parameters corresponding to a plurality of second neural networks for processing each of a plurality of temporal portions based on the model information.
  • the number of the plurality of temporal parts may be equal to the number of video clips, each of which is usually a part (a certain temporal duration) of a longer recording. I can. Accordingly, the number of second neural networks may be equal to or less than the number of video clips included in the video. For example, in a small case, two or more video clips may correspond to one and the same second neural network model.
  • the processor 130 may train a first neural network and a plurality of second neural networks.
  • the processor 130 super-resolution, inverse tone mapping, tone mapping, frame interpolation, and motion to an image and/or video based on a plurality of divided spatial regions and residuals between the first model parameter and the plurality of second model parameters.
  • a first neural network and a plurality of second neural networks may be trained to perform at least one of blur removal, denoising, and compression distortion removal.
  • the processor 130 may train a first neural network and a plurality of second neural networks using an arbitrary loss function.
  • the processor 130 may train a plurality of second neural networks to minimize residuals between a first model parameter and a plurality of second model parameters.
  • the loss function will be described in detail with reference to FIG. 2.
  • At least one of the first neural network and the plurality of second neural networks may include a light-weight residual dense block (LwRDB) including at least one convolutional layer.
  • LwRDB light-weight residual dense block
  • At least one of the first neural network and the plurality of second neural networks may include a plurality of lightweight residual dense blocks configured in a cascade structure.
  • the loss function of the first neural network may be determined based on a video in which at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal has been performed.
  • the loss function of the first neural network is a frame in which at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal is performed, and a ground truth frame. It may be the L1 loss of the liver.
  • the loss function of the second neural network is a frame and ground truth in which at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal has been performed for the corresponding temporal partial video truth) an L1 loss function between frames, and a loss function for minimizing a difference between a first neural network parameter and a plurality of second model parameters based on the entire pre-trained video.
  • the second model parameter of each second neural network is a process corresponding to at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal for a corresponding temporal part. It can be trained to minimize the model residual value to be transmitted while performing optimally.
  • the loss functions of the first neural network and the second neural network will be described in detail with reference to FIG. 2.
  • the lightweight residual dense block may include a depth-wise separable convolution layer or a 1 ⁇ 1 ⁇ d convolution layer.
  • d may mean the number of convolution channels (or feature maps) in the depth direction.
  • the depthwise separable convolution layer may include a depthwise convolution layer, a point-wise convolution layer, and a nonlinear activation function.
  • the nonlinear activation function may include ReLU (Rectified Linear Unit), Leaky ReLU, Parametric ReLU, Softmax, Sigmoid, Tanh, exponential Linear Unit (ELU), and SoftPlus function.
  • ReLU Rectified Linear Unit
  • Leaky ReLU Parametric ReLU
  • Softmax Softmax
  • Sigmoid Sigmoid
  • Tanh Tanh
  • exponential Linear Unit ELU
  • SoftPlus SoftPlus
  • the processor 130 may calculate residuals between the first model parameter and the plurality of second model parameters, and transmit the video and the residual. For example, the processor 130 may transmit the video and the residual to the video processing device 500.
  • the processor 130 may generate spatial division information by dividing a frame included in a plurality of temporal portions.
  • the spatial segmentation information may include information related to a form in which a frame is segmented.
  • the spatial region division information may include the area, location, or number of division regions.
  • the processor 130 may generate category information of the divided spatial region based on a signal characteristic of the divided spatial region. For example, the processor 130 may divide a plurality of regions based on image complexity of the plurality of divided spatial regions, and may determine a category of the divided plurality of spatial regions. The process of generating category information will be described in detail with reference to FIG. 2.
  • the processor 130 may compress and transmit at least one of video, residual, spatial division information, and category information. For example, the processor 130 may compress residuals between a first model parameter and a plurality of second model parameters, and transmit the compressed residuals. The processor 130 may transmit the compressed residuals to the video processing apparatus 500.
  • the processor 130 may compress and transmit spatial region partitioning information for a plurality of spatial regions obtained by dividing a frame and category information for categories of a plurality of spatial regions. For example, the processor 130 may compress the spatial division information and the category information and transmit the compressed information to the video processing apparatus 500.
  • the processor 530 performs super-resolution, reverse or inverse tone mapping on an image and/or video based on residuals between a first model parameter and a plurality of second model parameters. , At least one of tone mapping, frame interpolation, motion deblurring, denoising, and compression artifact removal may be performed.
  • the processor 530 may restore a plurality of second model parameters by adding residuals to the first model parameter.
  • the processor 530 performs at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal for each of a plurality of temporal parts based on a plurality of second model parameters. Can be done.
  • the processor 530 may divide the frame into a plurality of spatial regions based on spatial region partitioning information and category information.
  • the processor 530 may perform at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal for a video based on a plurality of spatial regions and the category information. have.
  • the memory 150 and the memory 550 may store instructions (or programs) executable by the processor 130 and the processor 530.
  • the instructions may include instructions for executing the operation of the processor 130 and the processor 530 and/or the operation of each component of the processor 130 and the processor 530.
  • the memory 150 and the memory 550 may be implemented as a volatile memory device or a nonvolatile memory device.
  • the volatile memory device may be implemented with dynamic random access memory (DRAM), static random access memory (SRAM), thyristor RAM (T-RAM), zero capacitor RAM (Z-RAM), or twin transistor RAM (TTRAM).
  • DRAM dynamic random access memory
  • SRAM static random access memory
  • T-RAM thyristor RAM
  • Z-RAM zero capacitor RAM
  • TTRAM twin transistor RAM
  • Nonvolatile memory devices include EEPROM (Electrically Erasable Programmable Read-Only Memory), flash memory, MRAM (Magnetic RAM), Spin-Transfer Torque (STT)-MRAM (MRAM), Conductive Bridging RAM (CBRAM). , FeRAM (Ferroelectric RAM), PRAM (Phase change RAM), Resistive RAM (RRAM), Nanotube RRAM, Polymer RAM (PoRAM), Nano Floating Gate Memory (NFGM)), a holographic memory, a Molecular Electronic Memory Device, or an Insulator Resistance Change Memory.
  • EEPROM Electrically Erasable Programmable Read-Only Memory
  • flash memory includes MRAM (Magnetic RAM), Spin-Transfer Torque (STT)-MRAM (MRAM), Conductive Bridging RAM (CBRAM).
  • FeRAM Feroelectric RAM
  • PRAM Phase change RAM
  • Resistive RAM RRAM
  • Nanotube RRAM Nanotube RRAM
  • Polymer RAM Polymer RAM
  • NFGM Nano Floating Gate Memory
  • FIG. 2 shows an example of an operation of the video processing apparatus of the transmitter shown in FIG. 1B.
  • the receiver 110 may receive a video including a plurality of temporal portions (or a plurality of video clips) 110-1, 110-2, ... 110-n.
  • the processor 130 may process the received temporal portions 110-1, 110-2, ... 110-n.
  • the processor 130 uses the received video to provide a first neural network (or an AS (All-scene)-model) 210 and a plurality of second neural networks (eg, OS (one- scene)-models) (230-1, 230-2, ..., 230-n) can be trained.
  • a first neural network or an AS (All-scene)-model
  • a plurality of second neural networks eg, OS (one- scene)-models
  • the processor 130 may train the first neural network 210 using the entire video.
  • the processor 130 allows the client 250 to perform super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, and denoising for the entire video that has received the model parameters of the first neural network 210.
  • a model parameter of the neural network may be updated in a direction to minimize a loss function corresponding to the entire video.
  • the processor 130 may jointly minimize a residual of a filter parameter and a video loss by compressing a model parameter of the neural network based on learning of the model parameter of the neural network.
  • the residual of the filter parameter is transferred to the video processing device 500 only for the video clip under consideration, which is advantageous for image restoration applications in a receiver (eg, user terminal) with low complexity and limited computation and storage resources. Can work.
  • the client 250 may include a video processing device 500.
  • the processor 130 may perform transmission of at least one updated neural network for temporal portions of the video.
  • the processor 130 may use a parameter residual between the two neural network models to avoid overhead of neural network model parameters for each temporal portion.
  • the first neural network 210 trained on the entire video may be transmitted before video transmission, and the second neural network models 230-1, 230-2, learned for temporal portions, .. ., 230-n) may be transmitted before transmitting the temporal portion of each corresponding video.
  • the processor 130 learns neural networks to effectively perform image restoration (super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising and compression distortion removal, etc.) based on neural networks. I can make it.
  • the processor 130 allows the client 250 to perform super-resolution, reverse or inverse tone mapping, tone mapping, frame interpolation, and motion deblurring.
  • a parameter residual between two neural network models may be transmitted.
  • the processor 130 trains one neural network model to be over-fitting for each temporal part, and the other neural network model learns to over-fitting for the entire video. I can make it.
  • the processor 130 transfers the second neural networks 230-1, 230-2, ..., 230-n to a plurality of temporal portions (or a plurality of scenes) 110-1, 110-2, ... 110-n) can be used for learning.
  • the processor 130 trains the second neural network (or OS-model 1) 230-1 using the first temporal portion 110-1, and the second neural network (or OS-model 1) 230-1 -Model 2) can be trained using the second temporal part 110-2.
  • the processor 130 may train the second neural network (or OS-model n) by using the n-th temporal portion 100-n.
  • n may mean an integer of 1 or more.
  • the processor 130 may train the first neural network 210 to overfit the entire video.
  • Processor 130 includes a plurality of second neural networks (230-1, 230-2, ..., 230-n) in a plurality of temporal parts (110-1, 110-2, .. ., 110-n) You can learn to over-fitting each.
  • the second neural networks 230-1, 230-2, ..., 230-n are the first neural networks 210 and the second neural networks 230-1, 230-2, ..., 230 It can be learned so that residuals (or residuals of weights) between -n) are minimized.
  • the processor 130 may calculate residuals between the first neural network 210 and the plurality of second neural networks 230-1, 230-2, ..., 230-n. As shown in FIG. 2, the processor 130 differs between the model parameters of the first neural network (AS-model) 210 from the model parameters of the second neural network 230-n (or OS-model n). You can calculate the residual with.
  • the processor 130 compresses each of the learned first neural network 210, the learned second neural networks 230-1, 230-2, ..., 230-n, and the received video. It may be transmitted to the video processing device 500 or the client 250.
  • the processor 130 may compress information on the learned first neural network 210. For example, the processor 130 uses binary masking and K-means clustering to determine model parameters (or filter weights) of the learned first neural network 210 Can be compressed. The processor 130 may perform binary masking for zero weights and perform K-means clustering for non-zero weights.
  • the processor 130 may transmit the compressed model parameter of the first neural network 210 to the video processing device 500 or the client 250.
  • the processor 130 may compress the received video and transmit an image or an image to the client 250.
  • the processor 130 may transmit an encoded video bitstream.
  • the processor 130 may perform High Efficiency Video Coding (HEVC) compression on the video and transmit it to the receiving end or the client 250.
  • HEVC High Efficiency Video Coding
  • the processor 130 also compresses the residuals between the first neural network 210 and the plurality of second neural networks 230-1, 230-2, ..., 230-n, and the video processing apparatus 500 Alternatively, it may be transmitted to the client 250. As described above, the processor 130 may perform binary masking for weights equal to 0 for residuals and perform K-means clustering for weights other than zero.
  • the processor 530 of the video processing apparatus 500 may reconstruct (reconstruct) the received compressed model parameters.
  • the received compression model parameters may be residuals (or residuals of weights) corresponding to each temporal portion before the start of each corresponding temporal portion.
  • the processor 530 adds a residual (or weight residual) corresponding to each decompressed temporal part to the first received model parameter (or weight) of the first neural network.
  • Model parameters of s 230-1, 230-2, ..., 230-n can be recovered.
  • the processor 530 uses at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal using each second neural network corresponding to each temporal portion included in the video. You can do one.
  • the processor 130 may perform learning in a content-adaptive manner by training a neural network to overfit the entire video or a temporal part of the video. Thereafter, the processor 130 may transmit model parameters of the learned neural network.
  • the processor 130 may use a 320-frame training sequence (or video) composed of 10 different scenes. Each scene can include 32 frames.
  • the training sequence has 1920 ⁇ 1080@24fps as the ground truth, and the low-resolution version can be generated through 2 ⁇ downsampling.
  • encoding and decoding may be performed using HM 16.17 reference software.
  • the total loss function for training a neural network may include an SR loss and a weight residual (WR) cost.
  • SR loss can be expressed as in Equation 1.
  • y means a ground true frame
  • SR loss may mean an L1 loss function between a ground true frame and a frame on which super-resolution has been performed.
  • Equation 1 there may be a loss corresponding to at least one of inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal, which are other image restoration processes instead of the SR loss.
  • the WR cost can be used to minimize the residual of the weight (or model parameter) between the reference weight W ref that is pre-trained for the entire video sequence and the training weight W train for the temporal part during training.
  • the WR cost can be expressed as in Equation 2.
  • the WR cost may mean an L1 loss function between the reference weight and the training weight.
  • the first neural network (or AS model) 210 may have pre-trained reference weights for the entire sequence (or the entire video).
  • the total loss is a loss corresponding to at least one of super-resolution (SR), inverse tone mapping/tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal. ) Can be.
  • SR super-resolution
  • inverse tone mapping/tone mapping frame interpolation
  • motion blur removal denoising
  • compression distortion removal denoising
  • compression distortion removal denoising
  • the total loss is SR as shown in Equation 3 It can consist of losses and WR costs.
  • ⁇ means a hyper parameter, and can be determined empirically. For a small ⁇ value, for example, SR performance may increase, but WR cost may increase and weight compression performance may deteriorate. Conversely, for a large ⁇ value, SR performance may decrease, but WR cost may decrease, thereby improving weight compression performance. For example, ⁇ may be 0.003.
  • the processor 130 may train the first neural network 210 for all video frames (eg, 320 frames). In this case, a separate augmentation method is not used to over-fitting the training video data, and a random crop may be partially used.
  • the size of the input patch may be 60 ⁇ 60, and the size of the batch may be 2.
  • the processor 130 may learn up to 64,000 iterations on the first neural network 210, and in this case, the learning rate may be 0.001.
  • the processor 130 uses a plurality of temporal portions (or scenes) (110-1, 110-2, ... 110-n) of each frame (eg, 32 frames).
  • the second neural networks 230-1, 230-2, ..., 230-n may be trained.
  • the learned model parameter of the first neural network may be used as a reference weight.
  • the structure of the first neural network 210 and the plurality of second neural networks 230-1, 230-2, ..., 230-n is the same, and may be learned using different data.
  • the input patch size is 400 ⁇ 400
  • the second neural networks 230-1, 230-2, .. ., 230-n) may be set as a model parameter of the first neural network 210 that has been learned in advance.
  • the learning conditions may be the same for the first neural network 210 and the second neural networks 230-1, 230-2, ..., 230-n.
  • FIG. 3 shows another example of the operation of the video processing apparatus of the transmitter shown in FIG. 1B.
  • the processor 130 may divide a frame included in the video into a plurality of spatial regions and perform super-resolution on the video based on the plurality of spatial regions.
  • the processor 130 divides the frame into a plurality of spatial regions, and improves the image restoration performance of the client 250 by enabling processing of images corresponding to a plurality of spatial regions using a neural network suitable for the plurality of spatial regions. I can make it.
  • the client 250 provides information on each updated neural network for temporal portions of the received video, as well as segmentation information on spatial regions of frames of each visual portion and corresponding to each segmentation area. Image restoration performance can be improved by using the received neural network model.
  • the size of a single neural network needs to be large enough to achieve adequate performance for quality enhancement, and needs to be properly learned for a large amount of training samples. Since such a large-sized neural network requires complex operations and may require a large storage space to process inputs and generate outputs, it may be difficult to use in a user terminal having a limited computing capacity.
  • the processor 130 divides frames belonging to temporal parts into appropriate spatial regions (or a plurality of regions) in the content adaptive method described in FIG. 2, and processes a plurality of divided regions for processing each of the divided regions. By additionally using a neural network, super-resolution can be performed more efficiently.
  • the processor 130 may normatively define signaling for identifying which neural network is applied to the spatial division regions of each frame within each temporal portion of the video being served.
  • the processor 130 may normatively define a configuration representation of neural networks applied to a spatial region divided within each frame as a combination of the above-described signaling information.
  • a neural network performing super-resolution may increase the resolution by a specific factor (eg, 2 times).
  • the transmitting end may downscale the video (or content) to an reciprocal (1/2 times) of the same magnification and transmit it to the video processing apparatus 500.
  • the processor 130 may transmit a type of neural network or may transmit an actual neural network weight and topology.
  • the neural network may be learned specifically or fine-tuned with respect to the transmitted content (eg, video).
  • each neural network may be transmitted to a receiving end before or during transmission of each corresponding video clip (temporal portion).
  • the processor 530 reconstructs images (super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, and denoising) using a neural network corresponding to not only the temporal parts of the video but also the spatial regions of the frame. And at least one of compression distortion removal) may be performed.
  • the processor 130 may determine a category of a plurality of spatial regions based on features of the plurality of spatial regions obtained by dividing the frame.
  • the plurality of spatial regions may mean an image region or a frame region.
  • the processor 130 may improve the performance of video processing by using a plurality of neural networks that are learned on a group of images having specific categories according to the characteristics of the plurality of regions.
  • the processor 530 improves video processing performance by selectively applying a neural network suitable for each image region included in a video frame according to a category of characteristics of each spatial region in which a plurality of neural networks are trained exclusively. I can make it.
  • the processor 130 may transmit information on which neural network is applied to each spatial region.
  • the video processing apparatus 500 may be usefully applied to an IRQE (Image Restoration and Quality Enhancement) application in a user terminal having a limited computing capacity.
  • IRQE Image Restoration and Quality Enhancement
  • the video processing device 100 and the video processing device 500 include a related model (for example, a neural network model) or a model update (topology, architecture) in which the receiving end (or the client) and the transmitting end (or the server) will be used with the video. , And an associated weight), signaling may be provided between a transmitting end and a receiving end.
  • a related model for example, a neural network model
  • a model update topology, architecture
  • signaling may be provided between a transmitting end and a receiving end.
  • the processor 130 of the video processing device 100 is Transmission of network model information can be provided.
  • the processor 130 of the video processing apparatus 100 may transmit a model to be applied to the entire video to the video processing apparatus 500.
  • the processor 130 of the video processing device 100 transmits a model to be applied for a specific temporal part and a video corresponding to the temporal part to the video processing device 500. I can.
  • the video processing device 500 already has a global neural network (GNN) that has already been learned for a specific whole video, the video processing device 100 is configured with a model parameter (or a weight parameter) of the GNN.
  • the residual between model parameters of a local neural network (LNN) may be transmitted to the video processing apparatus 500.
  • the processor 130 may provide an indication of the optimization target.
  • the processor 130 may use a Uniform Resource Identifier (URI) representing a suitable vocabulary.
  • URI Uniform Resource Identifier
  • the video processing apparatus 100 may transmit information on which encoder and which encoding parameter are selected for video compression to the video processing apparatus 500.
  • the video processing apparatus 100 may transmit one or more values indicating a target error between the original data and the decoded data to the video processing apparatus 500.
  • the video processing apparatus 100 may be transmitted to the video processing apparatus 500 together with region division information for the IRQE application.
  • the neural network model may be transmitted to the video processing device 500.
  • the video processing apparatus 100 may transmit low-quality content to a device together with a neural network finely adjusted for video (or content). In this case, the following four cases can be considered.
  • Case A may be a case where the neural network is fine-tuned for the entire video.
  • the video processing apparatus 100 may transmit the neural network to the video processing apparatus 500 before or during the streaming of the video.
  • Video and related neural networks may be paired with a unique ID.
  • Case B may be a case where a plurality of neural networks are optimized for various temporal portions of a video.
  • the video may be divided temporally or by another method.
  • the video processing apparatus 100 may transmit each neural network or a difference between each neural network to the video processing apparatus 500 before or during streaming of each part of the video. Even in this case, different parts of the video and related neural networks may be paired.
  • Case C may be a case in which a plurality of neural networks are each optimized for various categories of video (or image) characteristics.
  • the video processing apparatus 100 may transmit a neural network model for a divided region (or image region) and region division information of an image to the video processing apparatus 500 before or during streaming of the image.
  • Case D may be a case in which a plurality of neural network models are already available at the receiving end for the target IRQE application.
  • the video processing apparatus 100 determines a neural network model to be optimally applied to each area of an image for IRQE, and video-processes the ID of the neural network model to be applied to the divided area (or area of the image) and area division information of the image. It can be transmitted to the device 500.
  • the processor 130 of the video processing apparatus 100 may transmit or update the neural network only once until a new version of the neural network is available. For example, the processor 130 may transmit or update the neural network to the video processing device 500 once a month.
  • the processor 130 of the video processing apparatus 100 may newly transmit or update the neural network model for each new video. For example, the processor 130 may transmit or update the neural network model multiple times per day to the video processing apparatus 500.
  • the processor 130 of the video processing device 100 transmits neural network models for all temporal parts of the video to the video processing device 500 when the neural network is finely adjusted for each of the temporal parts of a specific video. I can.
  • the processor 130 may transmit or update the neural network for all temporal portions of the video.
  • the processor 130 may transmit or update the corresponding neural network to the video processing apparatus 500 every 1-5 minutes corresponding to each temporal part.
  • the processor 130 of the video processing device 100 fine-tuned each of the plurality of neural networks for various video characteristic categories, and when the fine-tuned neural network is already available at the receiving end, it is intended to transmit. Only each image (or frame) of temporal parts of the video and/or neural network ID and/or image segmentation information for each temporal part may be transmitted to the video processing apparatus 500.
  • Neural networks can range in size from a few KB to hundreds of MB.
  • the bandwidth of the distribution channel may depend on the distribution channel.
  • the bandwidth may be the bandwidth of 2nd-generation (2G), 3G, 4G and 5G transmission networks.
  • the allowable latency is that if a single model is used for all videos, any small delay is acceptable, and delays in seconds or minutes are acceptable. In the case of a neural network finely adjusted for each content, a delay of about 1 second may be maximum tolerable.
  • the maximum allowable delay may be very small, such as a part of the sampling period.
  • the delay may be 3 milliseconds (one tenth of the sampling period).
  • the video processing apparatus 100 can perform content retrieval and retrieval through standardized signaling of a neural network expression in terms of inter-operability. It can provide an advantage to the negotiation interface.
  • the video processing device 100 may provide an advantage to a media consuming device through a standardized neural network representation suitable for AI (Artificial Intelligence) capabilities.
  • AI Artificial Intelligence
  • FIG. 4 shows an example of a structure of a neural network used by the video processing apparatus 100 and the video processing apparatus 500 shown in FIG. 1A
  • FIG. 5 shows an example of the structure of the lightweight residual dense block shown in FIG. Show.
  • the processor 130 of the video processing apparatus 100 and the processor 500 of the video processing apparatus 500 are provided with a first neural network 210 and a second neural network 230-1. , 230-2, ..., 230-n) can be used to perform video processing.
  • At least one of the first neural network 210 and the second neural networks 230-1, 230-2, ..., 230-n may include the neural network 400 having the structure of FIG. 4.
  • the neural network 400 may be referred to as an RLRD-SR (Replicated Light-Weight Residual Dense-Super Resolution) network.
  • the neural network 400 may include a convolution layer 410, a depthwise convolution layer 420, and a pointwise convolution layer 430.
  • the neural network 400 may include a set 440 of lightweight residual dense blocks, a convolution layer 450, a depth-wise convolution layer 460, and a point-wise convolution layer 470.
  • the neural network 400 may include a transpose convolution layer 480, a convolution layer 490-1, and a convolution layer 490-2.
  • the set of light-weight residual dense blocks 440 may include one or more light-weight residual dense blocks (LwRDB) 441.
  • the plurality of light weight residual dense blocks 441 may be connected in a cascade structure.
  • the processor 130 may perform video processing using a neural network composed of the duplicated lightweight residual dense blocks 441.
  • the plurality of lightweight residual dense blocks 441 may have shared parameters and may be connected in a cascade structure.
  • the processor 130 may improve super-resolution performance without increasing the number of model parameters by using N overlapped lightweight residual dense blocks 441 having shared parameters.
  • Each lightweight residual dense block 441 may include three convolutional layers.
  • the lightweight residual dense block 441 includes a depth-wise separable convolution layer for reducing learning parameters with the first two convolution layers, and a 1 ⁇ 1 convolution layer at the end. have.
  • weight compression efficiency may be improved by minimizing the weight transmitted during training.
  • FIG. 6 shows the PSNR according to the video processing method in FIG. 1A
  • FIG. 7 shows the PSNR and the bit size reduction rate according to the hyper parameter.
  • the performance of the video processing apparatus 100 may be measured through an experiment. Performance can be evaluated using a PC platform of 64-bit Windows 10 TM OS, Intel i7-8700K 3.7 GHz CPU, 64 GRAM, Python 3.6, PyTorch 0.4.0, Cuda v9.0 and CUDNN 7.0.
  • the three super-resolution models used may include an OS-model, an AS-model, and bicubic interpolation corresponding to the scene in order to upscale the scene of the video.
  • Table 1 shows that when ⁇ is set to 0.003, the number of centroids of K-mean clustering is set to 1000 for the AS-model and 300 for the OS-model, 10 scenes of the video Represents the PSNR and bpp (Bits Per Pixel) values.
  • a bi-cubic interpolation bpp (bpp bic) is the bit sizes of all the frames of each of the scene encoded on the 1200 kpbs (bit video) the height of the up-scaling video (H) a, (W) width, and with HM16.17 It can be obtained by dividing by the number of frames (n). That is, the bpp of the bicubic interpolation can be calculated as in Equation 4.
  • bpp (bpp AS ) a bit AS of parameters learned for initial transmission may be additionally considered.
  • the bit size of the AS-model can be divided by the number of scenes (S) to obtain a size allocated to one scene.
  • the bpp of the AS-model can be calculated as in Equation 5.
  • bpp bpp OS
  • bit OS-residual bit OS-residual
  • the graph of FIG. 6 may represent bicubic interpolation, the AS-model, and the PSNR-bpp of the OS-model.
  • the OS-model has a PSNR that is about 3 dB high and a PSNR that is about 0.7 dB for bicubic interpolation.
  • the graph of FIG. 7 may represent PSNR and weight compression performance for various ⁇ values. As the value of ⁇ increases, higher learning weight compression performance may be achieved, but PSNR performance may be lowered. Therefore, the ⁇ value needs to be determined in consideration of both the weight compression performance and the PSNR performance.
  • FIG. 8 shows a sequence of operations of the image processing apparatus of the transmitter shown in FIG. 1B.
  • the receiver 110 of the video processing apparatus 100 may receive a video including a plurality of temporal portions and/or model information related to a neural network for processing a video (810 ).
  • the processor 130 may obtain a first model parameter corresponding to a first neural network for processing the entire video based on the model information (830 ).
  • the processor 130 may obtain a plurality of second model parameters corresponding to a plurality of second neural networks for processing each of a plurality of temporal portions based on the model information (850 ).
  • the processor 130 may calculate residuals between the first model parameter and the plurality of second model parameters (operation 870).
  • the processor 130 may transmit video and residuals (890).
  • the processor 130 may generate spatial division information by dividing a frame included in a plurality of temporal portions.
  • the processor 130 may generate category information of the divided spatial region based on signal characteristics of the divided spatial region.
  • the processor 130 may compress and transmit at least one of video, residuals between the first neural network and a plurality of second neural networks, spatial division information, and category information.
  • the processor 130 may train a plurality of second neural networks to minimize residuals.
  • At least one of the first neural network and the plurality of second neural networks may include a light-weight residual dense block including at least one convolutional layer. At least one of the first neural network and the plurality of second neural networks may include a plurality of light weight residual dense blocks configured in a cascade structure.
  • the lightweight residual dense block may include a depth-wise separable convolution layer or a 1 ⁇ 1 ⁇ d convolution layer.
  • the depthwise separable convolution layer may include a depthwise convolution layer, a pointwise convolution layer, and a nonlinear activation function.
  • FIG. 9 shows a sequence of operations of the video processing apparatus of the receiving end shown in FIG. 1C.
  • the receiver 510 may receive a video including a plurality of temporal portions (910 ).
  • the receiver 510 may receive a first model parameter corresponding to a first neural network for processing the entire video (930 ).
  • the receiver 510 may receive residuals between the first model parameter and the plurality of second model parameters corresponding to the plurality of second neural networks for processing each of the plurality of temporal portions (950 ).
  • the receiver 510 may receive spatial domain division information for frames included in a plurality of temporal portions and category information of the divided spatial domain.
  • the spatial division information and the category information are the same as described above.
  • the processor 530 may perform at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal on the video based on the residuals (970 ).
  • the processor 530 may restore a plurality of second model parameters by adding residuals to the first model parameter.
  • the processor 530 performs at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal for each of a plurality of temporal parts based on a plurality of second model parameters. Can be done.
  • the processor 530 may divide the frame into a plurality of spatial regions based on the spatial region division information and the category information.
  • the processor 530 may perform at least one of super-resolution, inverse tone mapping, tone mapping, frame interpolation, motion blur removal, denoising, and compression distortion removal for a video based on a plurality of spatial regions and category information. .
  • At least one of the first neural network and the plurality of second neural networks may include a light-weight residual dense block including at least one convolutional layer. At least one of the first neural network and the plurality of second neural networks may include a plurality of light weight residual dense blocks configured in a cascade structure.
  • the lightweight residual dense block may include a depth-wise separable convolution layer or a 1 ⁇ 1 ⁇ d convolution layer.
  • the depthwise separable convolution layer may include a depthwise convolution layer, a pointwise convolution layer, and a ReLU (Rectified Linear Unit).
  • the method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium.
  • the computer-readable medium may include program instructions, data files, data structures, and the like alone or in combination.
  • the program instructions recorded on the medium may be specially designed and configured for the embodiment, or may be known and usable to those skilled in computer software.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic media such as floptical disks.
  • -A hardware device specially configured to store and execute program instructions such as magneto-optical media, and ROM, RAM, flash memory, and the like.
  • Examples of program instructions include not only machine language codes such as those produced by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.
  • the hardware device described above may be configured to operate as one or more software modules to perform the operation of the embodiment, and vice versa.
  • Software may contain computer programs, codes, instructions, or a combination of one or more of them, and configure the processing unit to behave as desired or process it independently or collectively. You can command the device.
  • Software and/or data may be interpreted by a processing device or, in order to provide instructions or data to a processing device, of any type of machine, components, physical device, virtual equipment, computer storage medium or device. , Or may be permanently or temporarily embodyed in a transmitted signal wave.
  • the software may be distributed over networked computer systems and stored or executed in a distributed manner.
  • Software and data may be stored on one or more computer-readable recording media.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Systems (AREA)

Abstract

비디오 처리 방법 및 장치가 개시된다. 일 실시예에 따른 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하는 단계와, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하는 단계와, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 단계와, 상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함한다.

Description

비디오 처리 방법 및 장치
아래 실시예들은 비디오의 처리 방법 및 장치에 관한 것이다.
초해상화(Super-Resolution(SR))를 위한 컨볼루션 뉴럴 네트워크(Convolutional Neural Network(CNN)는 이미지 복원에 있어서 높은 충실도(fidelity)의 우수한 성능을 보여주고 있다. 컴퓨터 비전(computer vision) 분야에서 CNN 기반 SR에 대하여 많은 연구가 이루어 지고 있다.
SR을 통해서, 낮은 공간 해상도(low spatial resolution)에서 효과적으로 비디오가 인코딩된 후 전달되고, 수신단에서 CNN 기반 SR 방법 등을 이용하여 높은 공간 해상도에서 높은 복원 충실도를 갖도록 복구하는 것이 가능해졌다.
또한, 뉴럴 네트워크의 모델 파라미터의 컨텐츠-적응적(content-adaptive) 학습 및 전송은 더 높은 복원 충실도를 가지도록 SR 성능을 향상시킬 수 있다. 이 경우, 효율적인 뉴럴 네트워크 파라미터의 전송이 필수적으로 요구된다.
아래 실시예들은 비디오 처리 기술을 제공할 수 있다.
일 실시예에 따른 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하는 단계와, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하는 단계와, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 단계와, 상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함한다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
상기 경량 잔차 밀집 볼록은, 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어 또는, 1×1×d 컨볼루션 레이어를 포함할 수 있다.
상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는, 뎁스와이즈 컨볼루션 레이어와, 포인트와이즈 컨볼루션 레이어와, 비선형 활성함수를 포함할 수 있다.
상기 수행하는 단계는, 상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하는 단계와, 상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함할 수 있다.
상기 비디오 처리 방법은, 상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주(category) 정보를 수신하는 단계를 더 포함할 수 있다.
상기 수행하는 단계는, 상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하는 단계와, 상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계를 포함할 수 있다.
일 실시예에 따른 비디오 처리 장치는, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하고, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하고, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 수신기와, 상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 프로세서를 포함한다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다.
상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는, 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
상기 경량 잔차 밀집 블록은, 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어 또는, 1×1×d 컨볼루션 레이어를 포함할 수 있다.
상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는, 뎁스와이즈 컨볼루션 레이어와, 포인트와이즈 컨볼루션 레이어와, 비선형 활성 함수를 포함할 수 있다.
상기 프로세서는, 상기 비디오에 포함된 프레임을 복수의 영역으로 분할하고, 상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하고, 상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
상기 수신기는, 상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 더 수신할 수 있다.
상기 프로세서는, 상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하고, 상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
다른 실시예에 따른 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 단계와, 상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하는 단계와, 상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하는 단계와, 상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하는 단계와, 상기 비디오 및 상기 잔차를 전송하는 단계를 포함한다.
상기 비디오 처리 방법은, 상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하는 단계와, 분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성하는 단계를 더 포함할 수 있다.
상기 전송하는 단계는, 상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송하는 단계를 포함할 수 있다.
상기 비디오 처리 방법은, 상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시키는 단계를 더 포함할 수 있다.
다른 실시예에 따른 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 방법은, 복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 수신기와, 상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하고, 상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하고, 상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하고, 상기 비디오 및 상기 잔차를 전송하는 프로세서를 포함한다.
상기 프로세서는, 상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하고, 분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성할 수 있다.
상기 프로세서는, 상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송할 수 있다.
상기 프로세서는, 상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
도 1a는 일 실시예에 따른 비디오 처리 시스템의 개략적인 블록도를 나타낸다.
도 1b는 도 1a에 도시된 송신단의 비디오 처리 장치의 개략적인 블록도를 나타낸다.
도 1c는 도 1a에 도시된 수신단의 비디오 처리 장치의 개략적인 블록도를 나타낸다.
도 2는 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 일 예를 나타낸다.
도 3은 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 다른 예를 나타낸다.
도 4는 도 1a에 도시된 송신단의 비디오 처리 장치와 수신단의 비디오 처리 장치가 사용하는 뉴럴 네트워크의 구조의 예를 나타낸다.
도 5는 도 4에 도시된 LwRDB의 구조의 예를 나타낸다.
도 6은 도 1a에 비디오 처리 방식에 따른 PSNR을 나타낸다.
도 7은 하이퍼 파라미터에 따른 PSNR 및 비트 크기 감소율을 나타낸다.
도 8은 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 순서를 나타낸다.
도 9는 도 1c에 도시된 수신단의 비디오 처리 장치의 동작의 순서를 나타낸다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
또한, 실시 예의 구성 요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 어떤 구성 요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결되거나 접속될 수 있지만, 각 구성 요소 사이에 또 다른 구성 요소가 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.
어느 하나의 실시 예에 포함된 구성요소와, 공통적인 기능을 포함하는 구성요소는, 다른 실시 예에서 동일한 명칭을 사용하여 설명하기로 한다. 반대되는 기재가 없는 이상, 어느 하나의 실시 예에 기재한 설명은 다른 실시 예에도 적용될 수 있으며, 중복되는 범위에서 구체적인 설명은 생략하기로 한다.
도 1a는 일 실시예에 따른 비디오 처리 시스템의 개략적인 블록도를 나타내고, 도 1b는 도 1a에 도시된 송신단의 비디오 처리 장치의 개략적인 블록도를 나타내고, 도 1c는 도 1a에 도시된 수신단의 비디오 처리 장치의 개략적인 블록도를 나타낸다.
도 1a 내지 도 1c를 참조하면, 비디오 처리 시스템(10)은 이미지 또는 비디오를 처리할 수 있다. 이미지는 빛의 굴절이나 반사 등에 의하여 이루어진 물체의 상을 포함하는 것으로, 선이나 색채를 이용하여 사물의 형상을 나타낸 것을 의미할 수 있다. 비디오는 프레임을 포함할 수 있다. 또한, 프레임은 복수의 픽셀을 포함할 수 있다.
비디오는 복수의 시간적 부분(temporal portion)을 포함할 수 있다. 하나의 시간적 부분은 하나의 일정 시간 구간(certain temporal duration) 동안의 한 프레임들의 그룹, 즉 하나의 비디오 클립(video clip which is usually a part (a certain temporal duration) of a longer recording)에 대응될 수 있다. 다시 말해, 비디오는 시간의 흐름에 따른 복수 시간 구간들(multiple temporal durations)의 장면들을 포함할 수 있다.
비디오 처리 시스템(10)은 비디오, 비디오에 포함된 프레임 또는 이미지에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
초해상화는 공간 해상도(spatial resolution)가 낮은 입력 이미지를 공간 해상도가 높은 입력 이미지로 변환시키는 비디오 처리를 의미할 수 있다. 비디오 처리 시스템(10)은 뉴럴 네트워크를 이용하여 비디오, 비디오에 포함된 프레임 또는 이미지에 초해상화를 수행할 수 있다.
뉴럴 네트워크(또는 인공 신경망)는 기계학습과 인지과학에서 생물학의 신경을 모방한 통계학적 학습 알고리즘을 포함할 수 있다. 뉴럴 네트워크는 시냅스의 결합으로 네트워크를 형성한 인공 뉴런(노드)이 학습을 통해 시냅스의 결합 세기를 변화시켜, 문제 해결 능력을 가지는 모델 전반을 의미할 수 있다.
뉴럴 네트워크는 심층 뉴럴 네트워크 (Deep Neural Network)를 포함할 수 있다. 뉴럴 네트워크는 CNN(Convolutional Neural Network), RNN(Recurrent Neural Network), 퍼셉트론(perceptron), FF(Feed Forward), RBF(Radial Basis Network), DFF(Deep Feed Forward), LSTM(Long Short Term Memory), GRU(Gated Recurrent Unit), AE(Auto Encoder), VAE(Variational Auto Encoder), DAE(Denoising Auto Encoder), SAE(Sparse Auto Encoder), MC(Markov Chain), HN(Hopfield Network), BM(Boltzmann Machine), RBM(Restricted Boltzmann Machine), DBN(Depp Belief Network), DCN(Deep Convolutional Network), DN(Deconvolutional Network), DCIGN(Deep Convolutional Inverse Graphics Network), GAN(Generative Adversarial Network), LSM(Liquid State Machine), ELM(Extreme Learning Machine), ESN(Echo State Network), DRN(Deep Residual Network), DNC(Differentiable Neural Computer), NTM(Neural Turning Machine), CN(Capsule Network), KN(Kohonen Network) 및 AN(Attention Network)를 포함할 수 있다.
비디오 처리 시스템(10)은 송신단의 비디오 처리 장치(100)(이하, 비디오 처리 장치(100) 이라함) 및 수신단의 비디오 처리 장치(500)(이하, 비디오 처리 장치(500) 이라함)을 포함한다.
비디오 처리 장치(100)는 비디오 및 모델 정보에 기초하여 비디오를 처리하고, 처리 결과를 비디오 처리 장치(500)으로 전송할 수 있다. 처리 결과는 비디오 및 모델 정보에 기초하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중 적어도 하나를 수행하기 위한 뉴럴 네트워크 모델의 잔차, 비디오에 포함된 프레임의 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 포함할 수 있다.
모델 정보는 뉴럴 네트워크의 종류, 구조에 대한 정보 및 미리 학습된(pre-trained) 뉴럴 네트워크의 모델 파라미터를 포함할 수 있다.
다시 말해, 비디오 처리 장치(100)는 비디오 및 모델 정보에 기초하여 뉴럴 네트워크 모델의 잔차, 비디오에 포함된 프레임의 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 생성하여 비디오 처리 장치(500)로 전송할 수 있다. 또한, 비디오 처리 장치(100)는 비디오를 압축하여 비디오 처리 장치(500)로 전송할 수 있다.
비디오 처리 장치(500)는 비디오 처리 장치(100)로부터 수신한 처리 결과에 기초하여 비디오를 처리할 수 있다. 비디오 처리 장치(500)는 뉴럴 네트워크 모델의 잔차, 비디오에 포함된 프레임의 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보에 기초하여 비디오(또는, 압축된 비디오)에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중 적어도 하나를 수행할 수 있다.
비디오 처리 장치(100)는 뉴럴 네트워크를 학습시킬 수 있다. 비디오 처리 장치(100)는 학습된 뉴럴 네트워크에 대한 정보(예를 들어, 뉴럴 네트워크의 모델 파라미터 등)를 압축하고 비디오 처리 장치(500)에 전송할 수 있다. 뉴럴 네트워크에 대한 정보는 뉴럴 네트워크의 모델 파라미터, 뉴럴 네트워크의 구조 또는 가중치를 포함할 수 있다. 예를 들어, 모델 파라미터는 컨볼루션 뉴럴 네트워크의 필터 파라미터를 포함할 수 있다.
비디오 처리 장치(100)는 뉴럴 네트워크 모델에 대한 정보를 임의의 비디오 처리 장치(500)에 전송할 수 있다. 비디오 처리 장치(500)는 뉴럴 네트워크 모델에 대한 정보에 기초하여 초해상화(super-resolution), 역톤매핑(reverse or inverse tone mapping), 톤매핑(tone mapping), 프레임 보간(frame interpolation), 움직임 흐림 제거(motion deblurring), 디노이징(denoising) 및 압축 왜곡 제거(compression artifact removal) 중에서 적어도 하나를 수행할 수 있다.
비디오 처리 장치(100)는 이미지 또는 비디오를 압축할 수 있다. 또한, 압축한 이미지 또는 비디오를 비디오 처리 장치(500)에 전송할 수 있다. 비디오 처리 장치(500)는 미리 저장된 뉴럴 네트워크에 대한 정보 및/또는 수신된 뉴럴 네트워크에 대한 정보에 기초하여 이미지 또는 비디오에 대하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
비디오 처리 장치(100)는 송신단에 위치할 수 있다. 비디오 처리 장치(100)는 송신단에서 구현되어 공간 및/또는 시간 해상도가 감소된 비디오를 전송함으로써 대역폭(bandwidth)을 절약하고, 수신단에서 미리 저장된 뉴럴 네트워크에 대한 정보 및/또는 수신된 뉴럴 네트워크에 대한 정보를 이용하여 해상도가 감소된 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
도 1b 및 도 1c의 예시와 같이, 비디오 처리 장치(100)는 수신기(110) 및 프로세서(130)를 포함하고, 비디오 처리 장치(500)는 수신기(510) 및 프로세서(530)을 포함한다. 비디오 처리 장치(100)는 메모리(150)를 더 포함할 수 있고, 비디오 처리 장치(500)는 메모리(550)를 더 포함할 수 있다.
수신기(110)는 이미지, 비디오 또는 비디오에 포함된 프레임 및 비디오 처리를 위한 모델 정보를 수신할 수 있다. 예를 들어, 수신기(110)는 복수의 시간적 부분들(temporal portions)을 포함하는 비디오 및 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신할 수 있다. 수신기(110)는 수신한 이미지 및/또는 비디오를 프로세서(130) 및 메모리(150)로 출력할 수 있다.
수신기(510)는 복수의 시간적 부분들을 포함하는 비디오(또는, 압축된 비디오)를 수신할 수 있다. 수신기(510)는 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터 및 제1 모델 파라미터와 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크에 대응하는 복수의 제2 모델 파라미터들 간의 잔차들을 수신할 수 있다.
수신기(530)는 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 수신할 수 있다.
수신기(510)는 수신한 비디오, 제1 모델 파라미터, 잔차, 공간 영역 분할 정보 및 범주 정보를 프로세서(530) 및 메모리(550)로 출력할 수 있다.
프로세서(130) 및 프로세서(530)는 각각 메모리(150) 및 메모리(550)에 저장된 데이터를 처리할 수 있다. 프로세서(130) 및 프로세서(530)는 메모리(150) 및 메모리(550)에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(130) 및 프로세서(530)에 의해 유발된 인스트럭션(instruction)들을 실행할 수 있다.
"프로세서(130) 및 프로세서(530)"는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(codes) 또는 인스트럭션들(instructions)을 포함할 수 있다.
예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 중 적어도 하나를 포함할 수 있다.
프로세서(130)는 모델 정보에 기초하여 수신한 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득할 수 있다. 다시 말해, 제1 뉴럴 네트워크는 전체 장면들에 대하여 학습되는 뉴럴 네트워크를 의미할 수 있다.
또한, 프로세서(130)는 수신한 비디오만에 한정되지 않는 일반적인 비디오 전체를 처리하기 위한 목적으로 제1 뉴럴 네트워크로부터 제1 모델 파라미터를 획득할 수 있다. 다시 말해, 제1 뉴럴 네트워크는 일반적인 비디오 장면들에 대하여 학습되는 뉴럴 네트워크를 의미할 수 있다.
프로세서(130)는 모델 정보에 기초하여 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득할 수 있다. 복수의 시간적 부분들의 수는 비디오에 포함된 시간 구간(certain temporal duration) 동안의 비디오 클립들(video clips, each of which is usually a part (a certain temporal duration) of a longer recording)의 수와 동일할 수 있다. 이에 따라, 제2 뉴럴 네트워크의 수는 비디오에 포함된 비디오 클립의 수와 같거나 적을 수 있다. 예를 들어, 적은 경우에는 두개 이상의 비디오 클립들이 하나의 동일한 제2 뉴럴 네트워크 모델에 대응되는 경우일 수 있다.
프로세서(130)는 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다. 프로세서(130)는 분할된 복수의 공간 영역 및 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들에 기초하여 이미지 및/또는 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있도록 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
프로세서(130)는 임의의 손실함수를 이용하여 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
예를 들어, 프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들을 최소화하도록 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다. 손실함수에 관해서는 도 2를 참조하여 자세하게 설명한다.
제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block(LwRDB))을 포함할 수 있다.
예를 들어, 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
제1 뉴럴 네트워크의 손실 함수는 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나가 수행된 비디오에 기초하여 결정될 수 있다. 예를 들어, 제1 뉴럴 네트워크의 손실함수는 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나가 수행된 프레임과 그라운드 트루스(ground truth) 프레임 간의 L1 손실일 수 있다.
제2 뉴럴 네트워크의 손실 함수는 대응하는 시간적 부분 비디오에 대하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나가 수행된 프레임과 그라운드 트루스(ground truth) 프레임 간의 L1 손실 함수와, 미리 학습된 비디오 전체에 기초한 제1 뉴럴 네트워크 파라미터와 복수의 제2 모델 파라미터들 간의 차이가 최소가 되도록 하는 손실 함수를 포함할 수 있다.
즉, 각각의 제2 뉴럴 네트워크의 제2 모델 파라미터는 대응하는 시간적 부분에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나에 해당하는 처리를 최적으로 수행하면서 전송해야하는 모델 잔차 값이 최소화되도록 학습될 수 있다. 제1 뉴럴 네트워크 및 제2 뉴럴 네트워크의 손실 함수에 대해서는 도 2를 참조하여 자세하게 설명한다.
경량 잔차 밀집 블록은 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어 또는 1 × 1 × d 컨볼루션 레이어를 포함할 수 있다. 여기서 d는 깊이 방향의 컨볼루션 채널들(또는 특징맵(feature maps))의 개수를 의미할 수 있다. 뎁스와이즈 세퍼러블 컨볼루션 레이어는 뎁스와이즈 컨볼루션 레이어, 포인트와이즈(point-wise) 컨볼루션 레이어 및 비선형 활성 함수를 포함할 수 있다.
예를 들어, 비선형 활성함수는 ReLU(Rectified Linear Unit), Leaky ReLU, Parametric ReLU, Softmax, Sigmoid, Tanh, exponential Linear Unit (ELU), SoftPlus 함수를 포함할 수 있다.
프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들을 계산하고, 비디오 및 잔차를 전송할 수 있다. 예를 들어, 프로세서(130)는 비디오 처리 장치(500)로 비디오 및 잔차를 전송할 수 있다.
프로세서(130)는 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성할 수 있다. 공간 영역 분할 정보는 프레임이 분할된 형태와 관련된 정보를 포함할 수 있다. 예를 들어, 공간 영역 분할 정보는 분할 영역의 넓이, 위치 또는 개수를 포함할 수 있다.
프로세서(130)는 분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 분할된 공간 영역의 범주(category) 정보를 생성할 수 있다. 예를 들어, 프로세서(130)는 복수의 분할된 공간 영역의 이미지 복잡도(image complexity)에 기초하여 복수의 영역을 분할하고, 분할된 복수의 공간 영역의 범주를 결정할 수 있다. 범주 정보를 생성하는 과정은 도 2를 참조하여 자세하게 설명한다.
프로세서(130)는 비디오, 잔차, 공간 영역 분할 정보 및 범주 정보 중 적어도 하나를 압축하여 전송할 수 있다. 예를 들어, 프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들을 압축하고, 압축된 잔차들을 전송할 수 있다. 프로세서(130)는 압축된 잔차들을 비디오 처리 장치(500)에 전송할 수 있다.
프로세서(130)는 프레임을 분할한 복수의 공간 영역(spatial regions)에 대한 공간 영역 분할 정보 및 복수의 공간 영역의 범주에 대한 범주 정보를 압축하여 전송할 수 있다. 예를 들어, 프로세서(130)는 공간 영역 분할 정보 및 범주 정보를 압축하여 비디오 처리 장치(500)에 전송할 수 있다.
프로세서(530)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들(residues)에 기초하여 이미지 및/또는 비디오에 초해상화(super-resolution), 역톤매핑(reverse or inverse tone mapping), 톤매핑(tone mapping), 프레임 보간(frame interpolation), 움직임 흐림 제거(motion deblurring), 디노이징(denoising), 압축 왜곡 제거(compression artifact removal) 가운데 적어도 하나를 수행할 수 있다.
프로세서(530)는 잔차들을 제1 모델 파라미터에 더함으로써(by adding) 복수의 제2 모델 파라미터들을 복원할 수 있다. 프로세서(530)는 복수의 제2 모델 파라미터들에 기초하여 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
프로세서(530)는 공간 영역 분할 정보 및 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할할 수 있다. 프로세서(530)는 복수의 공간 영역들 및 상기 범주 정보에 기초하여 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
메모리(150) 및 메모리(550)는 프로세서(130) 및 프로세서(530)에 의해 실행가능한 인스트럭션들(또는 프로그램)을 저장할 수 있다. 예를 들어, 인스트럭션들은 프로세서(130) 및 프로세서(530)의 동작 및/또는 프로세서(130) 및 프로세서(530)의 각 구성의 동작을 실행하기 위한 인스트럭션들을 포함할 수 있다.
메모리(150) 및 메모리(550)는 휘발성 메모리 장치 또는 불휘발성 메모리 장치로 구현될 수 있다.
휘발성 메모리 장치는 DRAM(dynamic random access memory), SRAM(static random access memory), T-RAM(thyristor RAM), Z-RAM(zero capacitor RAM), 또는 TTRAM(Twin Transistor RAM)으로 구현될 수 있다.
불휘발성 메모리 장치는 EEPROM(Electrically Erasable Programmable Read-Only Memory), 플래시(flash) 메모리, MRAM(Magnetic RAM), 스핀전달토크 MRAM(Spin-Transfer Torque(STT)-MRAM), Conductive Bridging RAM(CBRAM), FeRAM(Ferroelectric RAM), PRAM(Phase change RAM), 저항 메모리(Resistive RAM(RRAM)), 나노 튜브 RRAM(Nanotube RRAM), 폴리머 RAM(Polymer RAM(PoRAM)), 나노 부유 게이트 메모리(Nano Floating Gate Memory(NFGM)), 홀로그래픽 메모리(holographic memory), 분자 전자 메모리 소자(Molecular Electronic Memory Device), 또는 절연 저항 변화 메모리(Insulator Resistance Change Memory)로 구현될 수 있다.
도 2는 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 일 예를 나타낸다.
도 2를 참조하면, 수신기(110)는 복수의 시간적 부분(또는 복수의 비디오 클립들)들(110-1, 110-2, ... 110-n)을 포함하는 비디오를 수신할 수 있다. 프로세서(130)는 수신한 복수의 시간적 부분들(110-1, 110-2, ... 110-n)을 처리할 수 있다.
구체적으로, 프로세서(130)는 수신한 비디오를 이용하여 제1 뉴럴 네트워크(또는, AS(All-scene)-모델)(210) 및 복수의 제2 뉴럴 네트워크들(예를 들어, OS(one-scene)-모델들)(230-1, 230-2, ..., 230-n)을 학습시킬 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)를 비디오 전체를 이용하여 학습시킬 수 있다. 다시 말해, 프로세서(130)는 제1 뉴럴 네트워크(210)의 모델 파라미터를 수신한 비디오 전체에 대하여 클라이언트(250)가 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있도록, 비디오 전체에 대응하는 손실 함수를 최소화하는 방향으로 뉴럴 네트워크의 모델 파라미터를 업데이트할 수 있다.
프로세서(130)는 뉴럴 네트워크의 모델 파라미터의 학습에 기초하여 뉴럴 네트워크의 모델 파라미터를 압축을 수행하여 필터 파라미터의 잔차(residue) 및 비디오의 손실을 공동으로 최소화시킬 수 있다.
필터 파라미터의 잔차는 고려 중인 비디오 클립에 대해서만 비디오 처리 장치(500)로 이동되고, 이는 복잡도가 낮고, 제한된 계산 및 저장 자원을 갖는 수신기(예를 들어, 사용자 단말)에서의 이미지 복원 응용 분야에 유리하게 작용할 수 있다. 클라이언트(250)은 비디오 처리 장치(500)를 포함할 수 있다.
프로세서(130)는 비디오의 시간적 부분들(temporal portions)에 대해 적어도 하나 이상의 업데이트된 뉴럴 네트워크의 전송을 수행할 수 있다. 프로세서(130)는 각각의 시간적 부분에 대한 뉴럴 네트워크 모델 파라미터들의 오버헤드(overhead)를 피하기 위해서 두 개의 뉴럴 네트워크 모델들 사이의 파라미터 잔차를 이용할 수 있다.
전체 비디오에 대하여 학습된 제1 뉴럴 네트워크(210)는 비디오 전송 전에 전송될 수 있고, 시간적 부분들(temporal portions)에 대하여 학습된 제2 뉴럴 네트워크 모델들(230-1, 230-2, ..., 230-n)은 각각의 해당되는 비디오의 시간적 부분을 전송하기 전에 전송될 수 있다.
이를 통해, 프로세서(130)는 뉴럴 네트워크에 기반한 이미지 복원(초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 등)을 효과적으로 수행할 수 있도록 뉴럴 네트워크들을 학습시킬 수 있다. 프로세서(130)는 클라이언트(250)가 초해상화(super-resolution), 역톤매핑(reverse or inverse tone mapping), 톤매핑(tone mapping), 프레임 보간(frame interpolation), 움직임 흐림 제거(motion deblurring), 디노이징(denoising), 압축 왜곡 제거(compression artifact removal) 중 적어도 하나를 수행하기 위해 두 개의 뉴럴 네트워크 모델들 사이의 파라미터 잔차를 전송할 수 있다.
이 때, 프로세서(130)는 하나의 뉴럴 네트워크 모델을 각각의 시간적 부분에 대하여 과적합(over-fitting)되도록 학습시키고, 다른 하나의 뉴럴 네트워크 모델은 비디오 전체 (entire video)에 대하여 과적합되도록 학습시킬 수 있다.
프로세서(130)는 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)을 복수의 시간적 부분들(또는, 복수의 장면들)(110-1, 110-2, ... 110-n) 각각을 이용하여 학습시킬 수 있다.
예를 들어, 프로세서(130)는 제2 뉴럴 네트워크(또는, OS-모델 1)(230-1)를 제1 시간적 부분(110-1)을 이용하여 학습시키고, 제2 뉴럴 네트워크(또는, OS-모델 2)를 제2 시간적 부분(110-2)을 이용하여 학습시킬 수 있다. 마찬가지로, 프로세서(130)는제2 뉴럴 네트워크(또는, OS-모델 n)을 제 n 시간적 부분(100-n)을 이용하여 학습시킬 수 있다. 여기서 n은 1 이상의 정수를 의미할 수 있다.
이를 통해, 프로세서(130)는 제1 뉴럴 네트워크(210)를 전체 비디오에 과적합(overfitting)되도록 학습시킬 수 있다. 프로세서(130)는 복수의 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)을 비디오에 포함된 복수의 시간적 부분들(110-1, 110-2, ..., 110-n) 각각에 과적합(over-fitting) 되도록 학습시킬 수 있다.
제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)은 제1 뉴럴 네트워크(210)와 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n) 간의 잔차(또는, 가중치의 잔차)들이 최소화되도록 학습될 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)와 복수의 제2 뉴럴 네트워크(230-1, 230-2, ..., 230-n) 간의 잔차(residue)들을 계산할 수 있다. 도 2에 나타난 것과 같이, 프로세서(130)는 제2 뉴럴 네트워크(230-n)(또는, OS-모델 n)의 모델 파라미터로부터 제1 뉴럴 네트워크(AS-모델)(210)의 모델 파라미터 간의 차이로 잔차를 계산할 수 있다.
프로세서(130)는 학습된 제1 뉴럴 네트워크(210), 학습된 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)에 대한 정보 및 수신한 비디오 각각을 압축하여 비디오 처리 장치(500) 또는 클라이언트(250)로 전송할 수 있다.
프로세서(130)는 학습된 제1 뉴럴 네트워크(210)에 대한 정보를 압축할 수 있다. 예를 들어, 프로세서(130)는 학습된 제1 뉴럴 네트워크(210)의 모델 파라미터(또는, 필터 가중치)를 바이너리 마스킹(binary masking) 및 K-평균 클러스터링(K-means clustering)을 이용하여 모델 파라미터를 압축할 수 있다. 프로세서(130)는 0인 가중치(zero weight)들에 대해서는 바이너리 마스킹을 수행하고, 0이 아닌 가중치(non-zero weight)들에 대해서는 K-평균 클러스터링을 수행할 수 있다.
프로세서(130)는 압축된 제1 뉴럴 네트워크(210)의 모델 파라미터를 비디오 처리 장치(500) 또는 클라이언트(250)으로 전송할 수 있다. 프로세서(130)는 수신한 비디오를 압축하여 이미지 또는 클라이언트(250)로 전송할 수 있다. 프로세서(130)는 인코딩된 비디오 비트스트림(encoded video bitstream)을 전송할 수 있다. 예를 들어, 프로세서(130)는 비디오에 대하여 HEVC(High Efficiency Video Coding) 압축을 수행하여 수신단 또는 클라이언트(250)로 전송할 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)와 복수의 제2 뉴럴 네트워크(230-1, 230-2, ..., 230-n) 간의 잔차에 대해서도 압축을 수행하여 비디오 처리 장치(500) 또는 클라이언트(250)로 전송할 수 있다. 상술한 것과 마찬가지로, 프로세서(130)는 잔차들에 대하여, 0인 가중치들에 대해서 바이너리 마스킹을 수행하고, 0이 아닌 가중치들에 대해서는 K-평균 클러스터링을 수행할 수 있다.
비디오 처리 장치(500)의 프로세서(530)는 수신한 압축된 모델 파라미터들을 복구(reconstruct)할 수 있다. 상기 수신된 압축 모델 파라미터들은 대응되는 각각의 시간적 부분(temporal portion)의 시작 전에 각각의 시간적 부분에 대응하는 잔차(또는, 가중치의 잔차)들 일 수 있다.
프로세서(530)는 최초로 수신된 제1 뉴럴 네트워크의 모델 파라미터(또는, 가중치)에 압축이 해제된(decompressed) 각각의 시간적 부분에 대응하는 잔차(또는, 가중치의 잔차)를 더함으로써 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)의 모델 파라미터들을 복구할 수 있다.
프로세서(530)는 비디오에 포함된 각각의 시간적 부분에 대응되는 각각의 제2 뉴럴 네트워크를 이용하여 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
이하에서, 프로세서(130)가 제1 뉴럴 네트워크(210) 및 복수의 제2 뉴럴 네트워크(230-1, 230-2, ..., 230-n)를 학습시키는 방식에 대하여 구체적으로 설명한다.
프로세서(130)는 전체 비디오 또는 비디오의 시간적 일부에 대하여 과적합되도록 뉴럴 네트워크를 학습시킴으로써 컨텐츠 적응 적인(content-adaptive) 방식으로 학습을 수행할 수 있다. 그 후, 프로세서(130)는 학습된 뉴럴 네트워크의 모델 파라미터를 전송할 수 있다.
예시적인 학습 데이터셋으로, 프로세서(130)는 10 개의 상이한 장면들로 구성된 320 프레임의 학습 시퀀스(또는, 비디오)를 이용할 수 있다. 각각의 장면들은 32 개의 프레임들을 포함할 수 있다. 학습 시퀀스는 1920Х1080@24fps를 그라운드 트루스(ground truth)로 갖고, 저해상도 버전은 2× 다운샘플링을 통해 생성될 수 있다. 이 때, 인코딩 및 디코딩은 HM 16.17 기준 소프트웨어(reference software)를 이용하여 수행될 수 있다.
뉴럴 네트워크를 학습시키기 위한 전체 손실(total loss function)은 SR 손실 및 가중치 잔차(Weight Residual(WR)) 비용(cost)을 포함할 수 있다. SR 손실(loss)은 수학식 1과 같이 나타낼 수 있다.
Figure PCTKR2020008704-appb-img-000001
여기서, y는 그라운드 트루스 프레임을 의미하고,
Figure PCTKR2020008704-appb-img-000002
는 초해상화가 수행된 프레임을 의미할 수 있다. 다시 말해, SR 손실은 그라운드 트루스 프레임과 초해상화가 수행된 프레임 간의 L1 손실 함수를 의미할 수 있다.
수학식 1의 다른 일 예로서 SR 손실 대신 다른 이미지 복원 처리인 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나에 해당하는 손실(loss) 일수도 있다.
WR 비용은 학습하는 동안 전체 비디오 시퀀스에 대하여 미리 학습된 기준 가중치 W ref와 시간적 부분에 대한 학습 가중치 W train사이의 가중치(또는, 모델 파라미터)의 잔차를 최소화하기 위해 사용될 수 있다.
WR 비용은 수학식 2와 같이 나타낼 수 있다.
Figure PCTKR2020008704-appb-img-000003
즉, WR 비용은 기준 가중치와 학습 가중치 간의 L1 손실 함수를 의미할 수 있다. 제1 뉴럴 네트워크(또는, AS 모델)(210)은 전체 시퀀스(또는, 전체 비디오)에 대하여 미리 학습된 기준 가중치들을 가질 수 있다.
제1 뉴럴 네트워크(210)가 학습될 때, 전체 손실은 초해상화(SR), 역톤매핑/톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징, 압축 왜곡 제거 중 적어도 하나에 해당하는 손실(loss)일 수 있다. 제2 뉴럴 네트워크들(또는, OS 모델들)(230-1, 230-2, ..., 230-n)이 복수의 시간적 부분들에 대하여 학습될 때, 전체 손실은 수학식 3과 같이 SR 손실 및 WR 비용으로 구성될 수 있다.
Figure PCTKR2020008704-appb-img-000004
여기서, λ는 하이퍼 파라미터를 의미하고, 실험적으로(empirically) 결정될 수 있다. 작은 λ 값에 대해서, 예를 들어 SR 성능이 증가할 수 있지만 WR 비용이 증가하여 가중치 압축 성능이 열화될 수 있다. 큰 λ 값에 대해서는 반대로 SR 성능이 감소할 수 있지만 WR 비용이 감소하여 가중치 압축 성능이 향상될 수 있다. 예를 들어, λ는 0.003일 수 있다.
프로세서(130)는 제1 뉴럴 네트워크(210)를 전체 비디오 프레임들(예를 들어, 320 프레임들)에 대하여 학습시킬 수 있다. 이 때, 학습 비디오 데이터에 과적합(over-fitting) 되도록, 별도의 증강(augmentation) 방식은 사용되지 않고, 무작위 크롭(crop)이 일부 사용될 수 있다.
학습시에 입력 패치(patch)의 크기는 60×60이고, 배치(batch) 크기는 2일 수 있다. 프로세서(130)는 제1 뉴럴 네트워크(210)에 대하여 64,000 반복(iteration)까지 학습을 수행할 수 있고, 이 때, 학습률(learning rate)는 0.001일 수 있다.
프로세서(130)는 복수의 시간적 부분들(또는, 장면들) (110-1, 110-2, ... 110-n) 각각의 프레임들(예를 들어, 32 프레임들)을 이용하여 복수의 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)을 학습시킬 수 있다. 이 때, 학습된 제1 뉴럴 네트워크의 모델 파라미터가 기준 가중치로 사용될 수 있다.
이 때, 제1 뉴럴 네트워크(210) 및 복수의 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)의 구조는 동일하고, 상이한 데이터를 이용하여 학습될 수 있다. 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)을 학습함에 있어서, 입력 패치 크기는 400Х400이고, 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)의 초기 모델 파라미터는 미리 학습된 제1 뉴럴 네트워크(210)의 모델 파라미터로 설정될 수 있다. 그 외의, 학습 조건은 제1 뉴럴 네트워크(210)와 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)이 동일할 수 있다.
도 3은 도 1b에 도시된 송신단의 비디오 처리 장치의 동작의 다른 예를 나타낸다.
도 3을 참조하면, 프로세서(130)는 비디오에 포함된 프레임을 복수의 공간 영역으로 분할하고, 복수의 공간 영역에 기초하여 비디오에 초해상화를 수행할 수 있다. 프로세서(130)는 프레임을 복수의 공간 영역으로 분할하고, 복수의 공간 영역에 적합한 뉴럴 네트워크를 이용하여 복수의 공간 영역에 대응하는 이미지를 처리를 가능하게 함으로써 클라이언트(250)의 이미지 복원 성능을 향상시킬 수 있다.
클라이언트(250)는 수신한 비디오의 시간적 부분들에 대한 각각의 업데이트된 뉴럴 네트워크에 대한 정보 뿐 만 아니라, 각 시각적 부분의 프레임들의 공간적 영역(spatial region)에 대한 분할 정보와 각 분할 영역에 대응되는 수신된 뉴럴 네트워크 모델을 이용하여 이미지 복원 성능을 향상시킬 수 있다.
단일 뉴럴 네트워크의 크기는 품질 강화를 위하여 적합한 성능을 달성할 만큼 커야 하고, 많은 양의 학습 샘플들에 대하여 적절하게 학습되어야 할 필요가 있다. 이러한 커다란 크기의 뉴럴 네트워크는 복잡한 연산을 요구하고, 입력을 처리하고 출력을 생성하기 위해 큰 저장 공간을 필요로 할 수 있기 때문에, 제한된 연산 용량을 갖는 사용자 단말에서의 사용이 어려울 수 있다.
프로세서(130)는 도 2에서 설명한 컨텐츠 적응적인 방식에서 시간적 부분들에 속하는 프레임들을 적절한 공간 영역들(또는, 복수의 영역들)로 분할하고, 분할된 복수의 영역들 각각을 처리하기 위한 복수의 뉴럴 네트워크를 추가적으로 이용함으로써 초해상화를 더욱 효율적으로 수행할 수 있다.
이 때, 프로세서(130)는 서비스 중인 비디오의 각 시간적 부분내의 각 프레임의 공간 분할 영역들에 어떤 뉴럴 네트워크가 적용되는지를 식별하는 시그널링(signaling)을 규범적으로(normatively) 정의할 수 있다.
또한, 프로세서(130)는 각 프레임 내에 분할된 공간 영역에 적용되는 뉴럴 네트워크들에 대한 구성 표현(configuration representation)을 상술한 시그널링 정보의 조합으로 규범적으로 정의할 수 있다.
예를 들어, 초해상화를 수행하는 뉴럴 네트워크는 특정한 배율(factor)(예를 들어, 2배)로 해상도를 증가시킬 수 있다. 이 때, 송신단에서는 비디오(또는, 컨텐츠)를 동일한 배율의 역수(1/2배)로 다운 스케일링 하여 비디오 처리 장치(500)로 전송할 수 있다.
프로세서(130)는 비디오 처리 장치(500)에서 이미 뉴럴 네트워크를 가지고 있다면 뉴럴 네트워크의 유형을 전송하거나 실제 뉴럴 네트워크 가중치 및 토폴로지(topology)를 전송할 수 있다.
뉴럴 네트워크는 전송되는 컨텐츠(예를 들어, 비디오)에 대하여 특정적으로(dedicatedly) 학습되거나 미세 조정될(fine-tuned) 수 있다. 비디오의 시간적 부분들에 대하여 각각의 뉴럴 네트워크가 학습되는 경우, 각각의 뉴럴 네트워크는 각 해당되는 비디오 클립(시간적 부분)이 전송되기 전 또는 전송되는 동안에 수신단에 전송될 수 있다.
프로세서(530)는 비디오의 시간적 부분들 뿐 만 아니라 프레임의 공간적 영역들에 대해서도 각각 해당되는 뉴럴 네트워크를 이용하여 이미지 복원(초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나)을 수행할 수 있다.
프로세서(130)는 프레임을 분할한 복수의 공간 영역의 특징에 기초하여 복수의 공간 영역의 범주(category)를 결정할 수 있다. 이 때, 복수의 공간 영역은 이미지의 영역, 또는 프레임의 영역을 의미할 수 있다. 프로세서(130)는 복수의 영역의 특성에 따른 구체적 범주를 갖는 이미지의 그룹에 대하여 학습되는 복수의 뉴럴 네트워크를 이용함으로써 비디오 처리의 성능을 향상시킬 수 있다.
프로세서(530)는 복수의 뉴럴 네트워크들이 전용적으로(dedicatedly) 학습된 각 공간 영역의 특성의 범주에 따라 비디오의 프레임에 포함된 각 이미지 영역에 적합한 뉴럴 네트워크를 선택적으로 적용시킴으로써 비디오 처리 성능을 향상시킬 수 있다.
프로세서(130)는 각 공간 영역에 어떤 뉴럴 네트워크가 적용되는지에 대한 정보를 전송할 수 있다. 이를 통해, 비디오 처리 장치(500)는 제한된 연산 용량을 갖는 사용자 단말에서의 IRQE(Image Restoration and Quality Enhancement) 어플리케이션에 유용하게 적용될 수 있다.
비디오 처리 장치(100) 및 비디오 처리 장치(500)는 수신단(또는, 클라이언트)과 송신단(또는, 서버)이 비디오와 함께 사용될 관련 모델(예를 들어, 뉴럴 네트워크 모델) 또는 모델 업데이트(토폴로지, 아키텍처, 및 연관된 가중치)를 협상(negotiate)하기 위해서 송신단과 수신단 간에 시그널링을 제공할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 비디오 처리 장치(500)에 처리하야 할 비디오 또는 그의 시간적 부분들에 대응되는 뉴럴 네트워크 모델이 존재하지 않는 경우, 비디오 처리 장치(500)로 대응되는 뉴럴 네트워크 모델 정보의 전송을 제공할 수 있다.
모델이 특정한 비디오에 대하여 미세 조정된 경우, 비디오 처리 장치(100)의 프로세서(130)는 전체 비디오에 대하여 적용될 모델을 비디오 처리 장치(500)로 전송할 수 있다. 모델들이 비디오의 상이한 시간적 부분들에 대하여 미세조정된 경우, 비디오 처리 장치(100)의 프로세서(130)는 특정한 시간적 부분에 대하여 적용될 모델 및 시간적 부분에 대응하는 비디오를 비디오 처리 장치(500)로 전송할 수 있다.
만약 비디오 처리 장치(500)가 이미 특정한 전체 비디오에 대하여 학습된 전역 뉴럴 네트워크(Global Neural Network(GNN))을 가지고 있는 경우, 비디오 처리 장치(100)는 GNN의 모델 파라미터(또는, 가중치 파라미터)와 지역 뉴럴 네트워크(Local Neural Network(LNN)의 모델 파라미터 간의 잔차를 비디오 처리 장치(500)로 전송할 수 있다.
프로세서(130)는 최적화 타겟의 표시를 제공할 수 있다. 예를 들어, 프로세서(130)는 적합한 어휘를 나타내는 URI( Uniform Resource Identifier)를 사용할 수 있다.
비디오 처리 장치(100)는 비디오 압축에 있어 어떤 인코더 및 어떤 인코딩 파라미터가 선택되었는지에 대한 정보를 비디오 처리 장치(500)로 전송할 수 있다. 비디오 처리 장치(100)는 원본 데이터와 디코딩된 데이터 사이의 타겟 오류를 나타내는 하나 이상의 값을 비디오 처리 장치(500)에 전송할 수 있다.
만약 뉴럴 네트워크가 상이한 이미지 텍스처 특성의 범주(categories of image texture characteristics)에 대하여 미세 조정되고, 비디오 처리 장치(500)가 뉴럴 네트워크를 이미 가지고 있는 경우, 비디오 처리 장치(100)는 프레임의 공간적 영역(또는, 분할된 영역)에 적용될 뉴럴 네트워크 모델의 ID를 IRQE 어플리케이션을 위한 영역 분할 정보와 함께 비디오 처리 장치(500)로 전송할 수 있다.
만약 뉴럴 네트워크가 상이한 이미지 텍스처 특성의 범주에 대하여 미세 조정되고, 비디오 처리 장치(500)가 해당 뉴럴 네트워크 모델을 가지고 있지 않은 경우, 뉴럴 네트워크 모델이 비디오 처리 장치(500)에 전송될 수 있다.
비디오 처리 장치(100)는 비디오(또는, 컨텐츠)에 대하여 미세 조정된 뉴럴 네트워크와 함께 낮은 품질의 컨텐츠를 장치(device)로 전송할 수 있다. 이 경우, 다음과 같은 4 개의 경우를 고려할 수 있다.
케이스 A는 뉴럴 네트워크가 전체 비디오에 대하여 미세 조정된(fine-tuned) 경우일 수 있다. 비디오 처리 장치(100)은 뉴럴 네트워크를 비디오의 스트리밍 전 또는 스트리밍 동안 비디오 처리 장치(500)로 전송할 수 있다. 비디오 및 관련된 뉴럴 네트워크는 고유 ID로 페어링(paired)될 수 있다.
케이스 B는 복수의 뉴럴 네트워크들이 비디오의 다양한 시간적 부분들에 대하여 최적화된 경우일 수 있다. 이 때, 비디오는 시간적 또는 다른 방식에 의해 분할될 수 있다. 비디오 처리 장치(100)는 비디오의 각 부분의 스트리밍 전에 또는 스트리밍 동안에 각각의 뉴럴 네트워크 또는 각 뉴럴 네트워크의 차이를 비디오 처리 장치(500)로 전송할 수 있다. 이 경우에도, 상이한 비디오의 각 부분 및 관련된 뉴럴 네트워크가 페어링될 수 있다.
케이스 C는 복수의 뉴럴 네트워크들이 다양한 비디오(또는 이미지) 특성의 범주에 대하여 각각 최적화된 경우일 수 있다. 비디오 처리 장치(100)는 분할된 영역(또는, 이미지 영역)에 대한 뉴럴 네트워크 모델 및 이미지의 영역 분할 정보를 이미지의 스트리밍 전 또는 스트리밍 동안에 비디오 처리 장치(500)로 전송할 수 있다.
케이스 D는 복수의 뉴럴 네트워크 모델이 타겟 IRQE 어플리케이션에 대하여 수신단에서 이미 사용가능한 경우일 수 있다. 비디오 처리 장치(100)는 IRQE를 위한 이미지의 각 영역에 최적으로 적용될 뉴럴 네트워크 모델을 결정하고, 분할된 영역(또는 이미지의 영역)에 적용될 뉴럴 네트워크 모델의 ID 및 이미지의 영역 분할 정보를 비디오 처리 장치(500)로 전송할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 모든 컨텐츠들에 대하여 단일 뉴럴 네트워크 모델을 사용하는 경우, 새로운 버전의 뉴럴 네트워크가 이용 가능할 때까지 한 번만 뉴럴 네트워크를 전송 또는 업데이트할 수 있다. 예를 들어, 프로세서(130)는 한달에 한 번 뉴럴 네트워크를 비디오 처리 장치(500)로 전송 또는 업데이트할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 각각의 특정 비디오(또는, 컨텐츠)에 대하여 뉴럴 네트워크 모델이 미세 조정된 경우, 뉴럴 네트워크 모델을 새로운 비디오 마다 새롭게 전송 또는 업데이트할 수 있다. 예를 들어, 프로세서(130)는 하루에 복수회(multiple times per day) 뉴럴 네트워크 모델을 비디오 처리 장치(500)로 전송 또는 업데이트할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 특정 비디오의 시간적 부분들의 각각에 대하여 뉴럴 네트워크가 미세 조정된 경우, 그 비디오의 모든 시간적 부분들에 대한 뉴럴 네트워크 모델들을 비디오 처리 장치(500)로 전송할 수 있다. 이 경우, 프로세서(130)는 그 비디오의 모든 시간적 부분들에 대하여 뉴럴 네트워크를 전송 또는 업데이트할 수 있다. 예를 들어, 프로세서(130)는 각 시간적 부분에 대응되는 매 1-5 분마다 해당되는 뉴럴 네트워크를 비디오 처리 장치(500)로 전송 또는 업데이트할 수 있다.
비디오 처리 장치(100)의 프로세서(130)는 다양한 비디오 특성의 범주들에 대하여 복수의 뉴럴 네트워크를 각각 미세 조정하고(fine-tuned), 미세 조정된 뉴럴 네트워크가 수신단에서 이미 사용 가능한 경우, 전송하고자 하는 비디오의 시간적 부분들의 각 이미지(또는 프레임) 및/또는 각 시간적 부분에 대한 뉴럴 네트워크 ID 및/또는 이미지 분할 정보만을 비디오 처리 장치(500)로 전송할 수 있다.
뉴럴 네트워크의 크기는 수 KB에서 수백 MB에 이를 수 있다. 분배 채널(distribution channel)의 대역폭은 분배 채널에 의존할 수 있다. 예를 들어, 대역폭은 2G(2nd-generation), 3G, 4G 및 5G 전송망의 대역폭 일 수 있다.
허용 가능한 지연(latency)은 모든 비디오에 대하여 단일 모델을 사용하는 경우, 임의의 작은 지연도 허용 가능하고, 초 또는 분 단위의 지연도 허용될 수 있다. 각 컨텐츠에 대하여 미세 조정되는 뉴럴 네트워크의 경우는 약 1초 정도의 지연이 최대 허용 가능할 수 있다.
비디오의 각 시간적 부분에 대하여 미세 조정된 뉴럴 네트워크의 경우는, 최대 허용 가능한 지연은 샘플링 주기의 일부와 같이 매우 작을 수 있다. 예를 들어, 비디오 스트리밍에 대하여 지연은 3 밀리초(샘플링 주기의 10분의 1)일 수 있다.
상술한 바와 같이, 비디오에 포함된 프레임을 분할하여 이미지를 처리함으로써, 비디오 처리 장치(100)는 상호 운용성(inter-operability) 관점에서 뉴럴 네트워크 표현의 표준화된 시그널링을 통해, 컨텐츠 검색(retrieval) 및 협상 인터페이스에 이점을 제공할 수 있다.
또한, 비디오 처리 장치(100)는 AI(Artificial Intelligence) 역량에 적합한 표준화된 뉴럴 네트워크 표현을 통해 미디어 소비 장치(media consuming device)에 이점을 제공할 수 있다.
도 4는 도 1a에 도시된 비디오 처리 장치(100) 및 비디오 처리 장치(500)가 사용하는 뉴럴 네트워크의 구조의 예를 나타내고, 도 5는 도 4에 도시된 경량 잔차 밀집 블록의 구조의 예를 나타낸다.
도 4 및 도 5를 참조하면, 비디오 처리 장치(100)의 프로세서(130)와 비디오 처리 장치(500)의 프로세서(500)는 제1 뉴럴 네트워크(210) 및 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n)을 이용하여 비디오 처리를 수행할 수 있다.
제1 뉴럴 네트워크(210) 및 제2 뉴럴 네트워크들(230-1, 230-2, ..., 230-n) 중 적어도 하나는 도 4의 구조의 뉴럴 네트워크(400)를 포함할 수 있다. 뉴럴 네트워크(400)는 RLRD-SR(Replicated Light-Weight Residual Dense-Super Resolution) 네트워크로 지칭될 수 있다.
뉴럴 네트워크(400)는 컨볼루션 레이어(410), 뎁스와이즈 컨볼루션레 레이어(420), 포인트와이즈 컨볼루션 레이어(430)를 포함할 수 있다. 뉴럴 네트워크(400)는 경량 잔차 밀집 블록의 집합(440), 컨볼루션 레이어(450), 뎁스와이즈 컨볼루션 레이어(460), 포인트와이즈 컨볼루션 레이어(470)를 포함할 수 있다.
또한, 뉴럴 네트워크(400)는 트랜스포즈 컨볼루션 레이어(480), 컨볼루션 레이어(490-1) 및 컨볼루션 레이어(490-2)를 포함할 수 있다.
경량 잔차 밀집 블록의 집합(440)은 하나 이상의 경량 잔차 밀집 블록(Light-weight residual dense block(LwRDB))(441)을 포함할 수 있다. 복수의 경량 잔차 밀집 블록(441)은 캐스케이드 구조로 연결될 수 있다. 프로세서(130)는 복제된 경량 잔차 밀집 블록(441)들로 구성된 뉴럴 네트워크를 이용하여 비디오 처리를 수행할 수 있다.
복수의 경량 잔차 밀집 블록(441)은 공유 파라미터들을 가지고, 캐스케이드 구조로 연결될 수 있다. 프로세서(130)는 공유 파라미터를 가지는 N 개의 중복된 경량 잔차 밀집 블록(441)들을 이용하여 모델 파라미터의 수의 증가 없이 초해상화 성능을 향상시킬 수 있다.
각각의 경량 잔차 밀집 블록(441)은 3 개의 컨볼루션 레이어를 포함할 수 있다. 경량 잔차 밀집 블록(441)은 처음 두 개의 컨볼루션 레이어로 학습 파라미터들을 줄이기 위한 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어를 포함하고, 마지막에1×1 컨볼루션 레이어를 포함할 수 있다.
프로세서(130)는 잔차 가중치(residual weight)들만을 전송하기 때문에, 학습 동안에 전송하는 가중치를 최소화함으로써 가중치 압축 효율을 향상시킬 수 있다.
도 6은 도 1a에 비디오 처리 방식에 따른 PSNR을 나타내고, 도 7은 하이퍼 파라미터에 따른 PSNR 및 비트 크기 감소율을 나타낸다.
도 6 및 도 7을 참조하면, 비디오 처리 장치(100)의 성능이 실험을 통해 측정될 수 있다. 성능은 64-bit Windows 10 TM OS의 PC 플랫폼, Intel i7-8700K 3.7 GHz CPU, 64 GRAM, Python 3.6, PyTorch 0.4.0, Cuda v9.0 및 CUDNN 7.0을 사용하여 평가될 수 있다.
성능의 비교를 위하여 3 개의 초해상화 모델이 사용될 수 있다. 사용된 3 개의 초해상화 모델은 비디오의 장면을 업스케일링하기 위해 장면에 대응되는 OS-모델, AS-모델 및 바이큐빅 보간(bicubic interpolation)을 포함할 수 있다.
표 1은 λ가 0.003으로 설정되고, K-평균 클러스터링의 센트로이드(centroid)의 수가 AS-모델에 대하여 1000으로 설정되고, OS-모델에 대하여 300으로 설정되었을 때, 비디오의 10 개의 장면들에 대한 PSNR 및 bpp(Bits Per Pixel) 값을 나타낸다.
Figure PCTKR2020008704-appb-img-000005
바이큐빅 보간의 bpp(bpp bic)는 HM16.17을 이용하여 1200 kpbs에서 인코딩된 각각의 장면의 모든 프레임들의 비트 크기(bit video)를 업스케일링된 비디오의 높이(H), 너비(W) 및 프레임의 수(n)로 나눔으로써 획득될 수 있다. 즉, 바이큐빅 보간의 bpp는 수학식 4와 같이 계산될 수 있다.
Figure PCTKR2020008704-appb-img-000006
AS-모델에 대한 bpp(bpp AS) 계산을 위해, 최초의 전송을 위해 학습된 파라미터들의 비트(bit AS)가 추가적으로 고려될 수 있다. AS-모델의 비트 크기는 하나의 장면에 할당된 크기를 획득하기 위해 장면의 수(S)로 나뉘어질 수 있다. AS-모델의 bpp는 수학식 5와 같이 계산될 수 있다.
Figure PCTKR2020008704-appb-img-000007
OS-모델의 bpp(bpp OS)의 계산을 위해, 전송을 위한 학습된 잔차 파라미터(bit OS-residual)가 고려될 수 있다. OS-모델의 bpp는 수학식 6과 같이 계산될 수 있다.
Figure PCTKR2020008704-appb-img-000008
도 6의 그래프는, 바이큐빅 보간, AS-모델 및 OS-모델의 PSNR-bpp를 나타낼 수 있다. 도 6에서 OS-모델은 바이큐빅 보간에 대하여 약 3dB 높은 PSNR을 가지고, 약 0.7 dB 높은 PSNR을 가지는 것을 확인할 수 있다.
도 7의 그래프는 다양한 λ 값에 대하여 PSNR 및 가중치 압축 성능을 나타낼 수 있다. λ 값이 클수록 더 높은 학습 가중치 압축 성능이 달성될 수 있지만, PSNR 성능이 낮아질 수 있다. 따라서, λ값은 가중치 압축 성능과 PSNR 성능을 모두 고려하여 결정될 필요가 있다.
도 8은 도 1b에 도시된 송신단의 이미지 처리 장치의 동작의 순서를 나타낸다.
도 8을 참조하면, 비디오 처리 장치(100)의 수신기(110)는 복수의 시간적 부분들을 포함하는 비디오 및/또는 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신할 수 있다(810).
프로세서(130)는 모델 정보에 기초하여 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득할 수 있다(830).
프로세서(130)는 모델 정보에 기초하여 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득할 수 있다(850).
프로세서(130)는 제1 모델 파라미터와 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산할 수 있다(870).
프로세서(130)는 비디오 및 잔차들을 전송할 수 있다(890).
프로세서(130)는 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성할 수 있다. 프로세서(130)는 분할된 공간 영역의 신호 특징에 기초하여 분할된 공간 영역의 범주 정보를 생성할 수 있다.
프로세서(130)는 비디오, 제1 뉴럴 네트워크와 복수의 제2 뉴럴 네트워크들 간의 잔차들, 공간 영역 분할 정보 및 범주 정보 중 적어도 하나를 압축하여 전송할 수 있다.
프로세서(130)는 잔차들을 최소화하도록 복수의 제2 뉴럴 네트워크들을 학습시킬 수 있다.
제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다. 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
경량 잔차 밀집 블록은 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어, 또는 1×1×d 컨볼루션 레이어를 포함할 수 있다. 뎁스와이즈 세퍼러블 컨볼루션 레이어는 뎁스와이즈 컨볼루션 레이어, 포인트와이즈 컨볼루션 레이어 및 비선형 활성함수를 포함할 수 있다.
도 9는 도 1c에 도시된 수신단의 비디오 처리 장치의 동작의 순서를 나타낸다.
도 9를 참조하면, 수신기(510)는 복수의 시간적 부분들을 포함하는 비디오를 수신할 수 있다(910). 수신기(510)는 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신할 수 있다(930).
수신기(510)는 제1 모델 파라미터와 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 간의 잔차들을 수신할 수 있다(950).
수신기(510)는 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주(category) 정보를 수신할 수 있다. 공간 영역 분할 정보 및 범주 정보는 위에서 설명한 것과 동일하다.
프로세서(530)는 잔차들에 기초하여 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다(970).
프로세서(530)는 잔차들을 제1 모델 파라미터에 더함으로써 복수의 제2 모델 파라미터들을 복원할 수 있다. 프로세서(530)는 복수의 제2 모델 파라미터들에 기초하여 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
프로세서(530)는 공간 영역 분할 정보 및 범주 정보에 기초하여, 프레임을 복수의 공간 영역들(spatial regions)로 분할할 수 있다.
프로세서(530)는 복수의 공간 영역들 및 범주 정보에 기초하여 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행할 수 있다.
제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을 포함할 수 있다. 제1 뉴럴 네트워크 및 복수의 제2 뉴럴 네트워크들 중 적어도 하나는 캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록을 포함할 수 있다.
경량 잔차 밀집 블록은 뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어, 또는 1×1×d 컨볼루션 레이어를 포함할 수 있다. 뎁스와이즈 세퍼러블 컨볼루션 레이어는 뎁스와이즈 컨볼루션 레이어, 포인트와이즈 컨볼루션 레이어, ReLU(Rectified Linear Unit)를 포함할 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐 만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer programs), 코드(codes), 명령(instructions), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(components), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (24)

  1. 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하는 단계;
    상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하는 단계;
    상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 단계; 및
    상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계
    를 포함하는 비디오 처리 방법.
  2. 제1항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)
    을 포함하는 비디오 처리 방법.
  3. 제1항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록
    을 포함하는 비디오 처리 방법.
  4. 제2항에 있어서,
    상기 경량 잔차 밀집 블록은,
    뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어; 또는
    1×1×d 컨볼루션 레이어
    를 포함하는 비디오 처리 방법.
  5. 제4항에 있어서,
    상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는,
    뎁스와이즈 컨볼루션 레이어;
    포인트와이즈 컨볼루션 레이어; 및
    비선형 활성함수
    를 포함하는 비디오 처리 방법.
  6. 제1항에 있어서,
    상기 수행하는 단계는,
    상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하는 단계; 및
    상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계
    를 포함하는 비디오 처리 방법.
  7. 제1항에 있어서,
    상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주(category) 정보를 수신하는 단계
    를 더 포함하는 비디오 처리 방법.
  8. 제7항에 있어서,
    상기 수행하는 단계는,
    상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하는 단계; 및
    상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 단계
    를 포함하는 비디오 처리 방법.
  9. 복수의 시간적 부분(temporal portions)들을 포함하는 비디오를 수신하고, 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 수신하고, 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들 각각과 상기 제1 모델 파라미터 간의 잔차들(residues)을 수신하는 수신기; 및
    상기 잔차들(residues)에 기초하여 상기 비디오에 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 프로세서
    를 포함하는 비디오 처리 장치.
  10. 제9항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    적어도 하나의 컨볼루션 레이어를 포함하는 경량 잔차 밀집 블록(Light-weight residual dense block)을
    포함하는 비디오 처리 장치.
  11. 제9항에 있어서,
    상기 제1 뉴럴 네트워크 및 상기 복수의 제2 뉴럴 네트워크들 중 적어도 하나는,
    캐스케이드(cascade) 구조로 구성된 복수의 경량 잔차 밀집 블록
    을 포함하는 비디오 처리 장치.
  12. 제10항에 있어서,
    상기 경량 잔차 밀집 블록은,
    뎁스와이즈 세퍼러블 컨볼루션(depth-wise separable convolution) 레이어; 또는
    1×1×d 컨볼루션 레이어
    를 포함하는 비디오 처리 장치.
  13. 제12항에 있어서,
    상기 뎁스와이즈 세퍼러블 컨볼루션 레이어는,
    뎁스와이즈 컨볼루션 레이어;
    포인트와이즈 컨볼루션 레이어; 및
    비선형 활성 함수
    를 포함하는 비디오 처리 장치.
  14. 제9항에 있어서,
    상기 프로세서는,
    상기 비디오에 포함된 프레임을 복수의 영역으로 분할하고,
    상기 잔차들을 상기 제1 모델 파라미터에 더함으로써(by adding) 상기 복수의 제2 모델 파라미터들을 복원하고,
    상기 복수의 제2 모델 파라미터들에 기초하여 상기 복수의 시간적 부분들 각각에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는
    비디오 처리 장치.
  15. 제9항에 있어서,
    상기 수신기는,
    상기 복수의 시간적 부분들에 포함된 프레임에 대한 공간 영역 분할 정보 및 분할된 공간 영역의 범주 정보를 더 수신하는
    비디오 처리 장치.
  16. 제15항에 있어서,
    상기 프로세서는,
    상기 공간 영역 분할 정보 및 상기 범주 정보에 기초하여 상기 프레임을 복수의 공간 영역들(spatial regions)로 분할하고,
    상기 복수의 공간 영역들 및 상기 범주 정보에 기초하여 상기 비디오에 대해 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는
    비디오 처리 장치.
  17. 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 방법에 있어서,
    복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 단계;
    상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하는 단계;
    상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하는 단계;
    상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하는 단계; 및
    상기 비디오 및 상기 잔차를 전송하는 단계
    를 포함하는 비디오 처리 방법.
  18. 제17항에 있어서,
    상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하는 단계; 및
    분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성하는 단계
    를 더 포함하는 비디오 처리 방법.
  19. 제18항에 있어서,
    상기 전송하는 단계는,
    상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송하는 단계
    를 포함하는 비디오 처리 방법.
  20. 제17항에 있어서,
    상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시키는 단계를 더 포함하는 비디오 처리 방법.
  21. 초해상화, 역톤매핑, 톤매핑, 프레임 보간, 움직임 흐림 제거, 디노이징 및 압축 왜곡 제거 중에서 적어도 하나를 수행하는 비디오 처리 장치에 있어서,
    복수의 시간적 부분(temporal portions)들을 포함하는 비디오 및 상기 비디오를 처리하기 위한 뉴럴 네트워크와 관련된 모델 정보를 수신하는 수신기; 및
    상기 모델 정보에 기초하여 상기 비디오 전체를 처리하기 위한 제1 뉴럴 네트워크에 대응하는 제1 모델 파라미터를 획득하고, 상기 모델 정보에 기초하여 상기 복수의 시간적 부분들 각각을 처리하기 위한 복수의 제2 뉴럴 네트워크들에 대응하는 복수의 제2 모델 파라미터들을 획득하고, 상기 제1 모델 파라미터와 상기 복수의 제2 모델 파라미터들 간의 잔차들(residues)을 계산하고, 상기 비디오 및 상기 잔차를 전송하는 프로세서
    를 포함하는 비디오 처리 장치.
  22. 제21항에 있어서,
    상기 프로세서는,
    상기 복수의 시간적 부분들에 포함된 프레임을 분할하여 공간 영역 분할 정보를 생성하고,
    분할된 공간 영역의 신호 특징(signal characteristic)에 기초하여 상기 분할된 공간 영역의 범주 정보를 생성하는
    비디오 처리 장치.
  23. 제22항에 있어서,
    상기 프로세서는,
    상기 비디오, 상기 잔차, 상기 공간 영역 분할 정보 및 상기 범주 정보 중 적어도 하나를 압축하여 전송하는
    를 포함하는 비디오 처리 장치.
  24. 제21항에 있어서,
    상기 프로세서는,
    상기 잔차들을 최소화하도록 상기 복수의 제2 뉴럴 네트워크들을 학습시키는
    비디오 처리 장치.
PCT/KR2020/008704 2019-07-03 2020-07-03 비디오 처리 방법 및 장치 WO2021002719A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/623,270 US20220366538A1 (en) 2019-07-03 2020-07-03 Video processing method and apparatus
CN202080043521.9A CN114096987A (zh) 2019-07-03 2020-07-03 视频处理方法及装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20190080363 2019-07-03
KR10-2019-0080363 2019-07-03
KR10-2020-0080914 2020-07-01
KR1020200080914A KR102364628B1 (ko) 2019-07-03 2020-07-01 비디오 처리 방법 및 장치

Publications (1)

Publication Number Publication Date
WO2021002719A1 true WO2021002719A1 (ko) 2021-01-07

Family

ID=74100939

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/008704 WO2021002719A1 (ko) 2019-07-03 2020-07-03 비디오 처리 방법 및 장치

Country Status (4)

Country Link
US (1) US20220366538A1 (ko)
KR (1) KR102642058B1 (ko)
CN (1) CN114096987A (ko)
WO (1) WO2021002719A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114554213A (zh) * 2022-02-21 2022-05-27 电子科技大学 一种运动自适应和关注细节的压缩视频质量增强方法
CN114913095A (zh) * 2022-06-08 2022-08-16 西北工业大学 基于域适应的深度去模糊方法
CN115393227A (zh) * 2022-09-23 2022-11-25 南京大学 基于深度学习的微光全彩视频图像自适应增强方法及***

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220405880A1 (en) * 2021-06-17 2022-12-22 Nvidia Corporation Generative neural networks with reduced aliasing
WO2023224320A1 (ko) * 2022-05-17 2023-11-23 삼성전자 주식회사 영상의 화질을 향상시키기 위한 영상 처리 장치 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4462922B2 (ja) * 1999-06-30 2010-05-12 シャープ株式会社 動画像検索情報生成装置、動画像要約情報生成装置、および要約情報生成方法
JP2017138808A (ja) * 2016-02-03 2017-08-10 キヤノン株式会社 情報処理装置および情報処理方法
CN109218727A (zh) * 2017-06-30 2019-01-15 华为软件技术有限公司 视频处理的方法和装置
US20190098294A1 (en) * 2011-11-07 2019-03-28 Intel Corporation Cross-channel residual prediction
KR20190067111A (ko) * 2017-12-06 2019-06-14 한국과학기술원 움직임 흐림 제거 방법 및 장치

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11663476B2 (en) * 2017-12-15 2023-05-30 Electronics And Telecommunications Research Institute Method and device for providing compression and transmission of training parameters in distributed processing environment
US11164067B2 (en) * 2018-08-29 2021-11-02 Arizona Board Of Regents On Behalf Of Arizona State University Systems, methods, and apparatuses for implementing a multi-resolution neural network for use with imaging intensive applications including medical imaging
US11100617B2 (en) * 2018-10-12 2021-08-24 Korea Advanced Institute Of Science And Technology Deep learning method and apparatus for automatic upright rectification of virtual reality content
CN109697741B (zh) * 2018-12-28 2023-06-16 上海联影智能医疗科技有限公司 一种pet图像重建方法、装置、设备及介质
US11240492B2 (en) * 2019-01-22 2022-02-01 Apple Inc. Neural network based residual coding and prediction for predictive coding
US10771807B1 (en) * 2019-03-28 2020-09-08 Wipro Limited System and method for compressing video using deep learning
EP3973498A1 (en) * 2019-06-18 2022-03-30 Huawei Technologies Co., Ltd. Real-time video ultra resolution
US11120582B2 (en) * 2019-07-31 2021-09-14 Z2Sky Technologies Inc. Unified dual-domain network for medical image formation, recovery, and analysis
US10958869B1 (en) * 2019-11-14 2021-03-23 Huawei Technologies Co., Ltd. System, device and method for video frame interpolation using a structured neural network
US11651526B2 (en) * 2020-01-23 2023-05-16 Northeastern University Frontal face synthesis from low-resolution images
US11508037B2 (en) * 2020-03-10 2022-11-22 Samsung Electronics Co., Ltd. Systems and methods for image denoising using deep convolutional networks
US11889096B2 (en) * 2020-06-26 2024-01-30 Intel Corporation Video codec assisted real-time video enhancement using deep learning
US20220172452A1 (en) * 2020-11-30 2022-06-02 George Mason University Detecting objects non-visible in color images
US20240048777A1 (en) * 2021-01-19 2024-02-08 Alibaba Group Holding Limited Neural network based in-loop filtering for video coding
WO2022250388A1 (ko) * 2021-05-25 2022-12-01 삼성전자 주식회사 비디오 품질을 평가하는 전자 장치 및 그 동작 방법
US11830167B2 (en) * 2021-06-21 2023-11-28 Ping An Technology (Shenzhen) Co., Ltd. System and method for super-resolution image processing in remote sensing
US11778223B2 (en) * 2021-08-19 2023-10-03 Huawei Technologies Co., Ltd. Method, device, and medium for generating super-resolution video

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4462922B2 (ja) * 1999-06-30 2010-05-12 シャープ株式会社 動画像検索情報生成装置、動画像要約情報生成装置、および要約情報生成方法
US20190098294A1 (en) * 2011-11-07 2019-03-28 Intel Corporation Cross-channel residual prediction
JP2017138808A (ja) * 2016-02-03 2017-08-10 キヤノン株式会社 情報処理装置および情報処理方法
CN109218727A (zh) * 2017-06-30 2019-01-15 华为软件技术有限公司 视频处理的方法和装置
KR20190067111A (ko) * 2017-12-06 2019-06-14 한국과학기술원 움직임 흐림 제거 방법 및 장치

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ULUN ZHANG: "Residual Dense Network for Image Super-Resolution", ARXIV:1802.08797, 27 March 2018 (2018-03-27), pages 1 - 10, XP033476213, Retrieved from the Internet <URL:https://arxiv.org/pdf/1802.08797.pdf> *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114554213A (zh) * 2022-02-21 2022-05-27 电子科技大学 一种运动自适应和关注细节的压缩视频质量增强方法
CN114913095A (zh) * 2022-06-08 2022-08-16 西北工业大学 基于域适应的深度去模糊方法
CN114913095B (zh) * 2022-06-08 2024-03-12 西北工业大学 基于域适应的深度去模糊方法
CN115393227A (zh) * 2022-09-23 2022-11-25 南京大学 基于深度学习的微光全彩视频图像自适应增强方法及***

Also Published As

Publication number Publication date
KR20220000871A (ko) 2022-01-04
US20220366538A1 (en) 2022-11-17
KR102642058B1 (ko) 2024-03-04
CN114096987A (zh) 2022-02-25

Similar Documents

Publication Publication Date Title
WO2021002719A1 (ko) 비디오 처리 방법 및 장치
WO2020080623A1 (ko) 영상의 ａｉ 부호화 및 ａｉ 복호화 방법, 및 장치
WO2020080665A1 (en) Methods and apparatuses for performing artificial intelligence encoding and artificial intelligence decoding on image
WO2018221863A1 (en) Method and device for processing multi-channel feature map images
WO2016064185A1 (ko) 최적화 함수를 이용하여 그래프 기반 예측을 수행하는 방법 및 장치
WO2020071830A1 (ko) 히스토리 기반 움직임 정보를 이용한 영상 코딩 방법 및 그 장치
WO2020080698A1 (ko) 영상의 주관적 품질을 평가하는 방법 및 장치
WO2016129872A1 (ko) 그래프 기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
WO2019194460A1 (ko) 컨벌루션 뉴럴 네트워크를 이용한 영상 코딩 방법 및 그 장치
WO2019143026A1 (ko) 특징맵 압축을 이용한 이미지 처리 방법 및 장치
WO2021101243A1 (en) Apparatus and method for using ai metadata related to image quality
WO2017010850A1 (ko) 분리 가능한 그래프 기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
WO2016190690A1 (ko) 적응적인 분리가능한 그래프 기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
WO2021158085A1 (en) Neural network update method, classification method and electronic device
WO2019143027A1 (ko) 이미지 파이프라인 처리 방법 및 장치
EP4367628A1 (en) Image processing method and related device
WO2022075688A1 (en) Occlusion processing for frame rate conversion using deep learning
WO2021107695A1 (en) Method, device and electronic apparatus for transmitting and receiving speech signal
KR102642059B1 (ko) 다양한 영상 신호 특성의 다중 모델을 이용한 영상 화질 향상 방법 및 장치
WO2021256781A1 (ko) 영상을 처리하는 디바이스 및 그 동작 방법
WO2021096252A1 (en) Image providing apparatus and image providing method thereof, and display apparatus and display method thereof
WO2021034160A1 (ko) 매트릭스 인트라 예측 기반 영상 코딩 장치 및 방법
WO2023018179A1 (ko) 어플리케이션에 따라 ai 기반으로 영상을 재생하는 전자 장치 및 이에 의한 영상 재생 방법
WO2023080464A1 (ko) Ai 기반 필터링을 위한 영상 처리 방법 및 장치
WO2021210761A1 (ko) Ai 다운스케일 장치 및 그 동작방법, 및 ai 업스케일 장치 및 그 동작방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20835313

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20835313

Country of ref document: EP

Kind code of ref document: A1