CN112771871A - 时空运动矢量预测的简化 - Google Patents

时空运动矢量预测的简化 Download PDF

Info

Publication number
CN112771871A
CN112771871A CN201980063991.9A CN201980063991A CN112771871A CN 112771871 A CN112771871 A CN 112771871A CN 201980063991 A CN201980063991 A CN 201980063991A CN 112771871 A CN112771871 A CN 112771871A
Authority
CN
China
Prior art keywords
stmvp
video
candidate list
candidates
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201980063991.9A
Other languages
English (en)
Other versions
CN112771871B (zh
Inventor
韩钰
H·黄
W-J·钱
M·卡切维奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN112771871A publication Critical patent/CN112771871A/zh
Application granted granted Critical
Publication of CN112771871B publication Critical patent/CN112771871B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

一种用于对视频数据进行译码的设备和方法确定时空运动矢量预测器(STMVP)，使得不需要对STMVP进行运动矢量缩放。该设备可以确定候选列表。然后，该设备可以确定候选列表中的哪些候选具有相同的参考图片。然后，该设备可以基于候选列表中的被确定为具有相同的参考图片的候选来生成STMVP。然后，该设备可以使用STMVP来对视频数据的当前块进行译码。

Description

时空运动矢量预测的简化
本申请要求享受于2019年10月3日递交的美国专利申请No.16/592,005的优先权，该美国专利申请要求享受于2018年10月4日递交的美国临时专利申请No.62/741,413的权益，上述申请的全部内容通过引用的方式被并入本文中。
技术领域
本公开内容涉及视频编码(encoding)和视频解码(decoding)。
背景技术
数字视频能力可以被合并到各种各样的设备中，包括数字电视机、数字直播***、无线广播***、个人数字助理(PDA)、膝上型计算机或台式计算机、平板计算机、电子书阅读器、数字相机、数字记录设备、数字媒体播放器、视频游戏设备、视频游戏控制台、蜂窝或卫星无线电电话(所谓的“智能电话”)、视频电话会议设备、视频流设备等。数字视频设备实现视频译码(coding)技术(诸如在由MPEG-2、MPEG-4、ITU-T H.263、ITU-T H.264/MPEG-4(第10部分，高级视频译码(AVC))、高效率视频译码(HEVC)标准、ITU-T H.265/高效率视频译码(HEVC)所定义的标准以及此类标准的扩展中描述的那些技术)。通过实现这样的视频译码技术，视频设备可以更加高效地发送、接收、编码、解码和/或存储数字视频信息。
视频译码技术包括空间(图片内(intra-picture))预测和/或时间(图片间(inter-picture))预测以减少或去除在视频序列中固有的冗余。对于基于块的视频译码，视频切片(例如，视频图片或视频图片的一部分)可以被分割为视频块，视频块也可以被称为译码树单元(CTU)、译码单元(CU)和/或译码节点。图片的经帧内译码(I)的切片中的视频块是使用相对于同一图片中的相邻块中的参考样本的空间预测来编码的。图片的经帧间译码(P或B)的切片中的视频块可以使用相对于同一图片中的相邻块中的参考样本的空间预测或者相对于其它参考图片中的参考样本的时间预测。图片可以被称为帧，并且参考图片可以被称为参考帧。
发明内容
概括而言，本公开内容描述了用于视频译码中的帧间预测的技术。本公开内容的技术可以应用于任何现有视频编解码器，诸如HEVC(高效率视频译码)或者是任何将来的视频译码标准(诸如H.266/VVC(通用视频译码))中的高效译码工具。
在一个示例中，本公开内容描述了一种对视频数据进行译码的方法，所述方法包括：生成候选列表；确定所述候选列表中的两个或更多个候选是否具有相同的参考图片；基于所述候选列表中的具有相同的参考图片的所述两个或更多个候选来生成时空运动矢量预测器(STMVP)；以及使用所述STMVP来对所述视频数据的当前块进行译码。
在另一示例中，本公开内容描述了一种用于对视频数据进行译码的设备，包括：存储器，其被配置为存储所述视频数据的当前块；以及耦合到所述存储器的一个或多个处理器，所述一个或多个处理器被配置为：生成候选列表；确定所述候选列表中的两个或更多个候选是否具有相同的参考图片；基于所述候选列表中的具有相同的参考图片的所述两个或更多个候选来生成时空运动矢量预测器(STMVP)；以及使用所述STMVP来对所述视频数据的所述当前块进行译码。
在另一示例中，本公开内容描述了一种具有存储在其上的指令的计算机可读存储介质，所述指令在被执行时使得一个或多个处理器进行以下操作：生成候选列表；确定所述候选列表中的两个或更多个候选是否具有相同的参考图片；基于所述候选列表中的被确定为具有相同的参考图片的所述候选来生成时空运动矢量预测器(STMVP)；以及使用所述STMVP来对视频数据的当前块进行译码。
在又一示例中，本公开内容描述了一种用于对视频数据进行译码的设备，包括：用于生成候选列表的单元；用于确定所述候选列表中的两个或更多个候选是否具有相同的参考图片的单元；用于基于所述候选列表中的具有相同的参考图片的所述两个或更多个候选来生成时空运动矢量预测器(STMVP)的单元；以及用于使用所述STMVP来对所述视频数据的当前块进行译码的单元。
在附图和以下描述中阐述了一个或多个示例的细节。根据描述、附图和权利要求，其它特征、目的和优点将是显而易见的。
附图说明
图1是示出可以执行本公开内容的技术的示例视频编码和解码***的框图。
图2A和图2B是示出示例四叉树二叉树(QTBT)结构以及对应的译码树单元(CTU)的概念图。
图3是示出可以执行本公开内容的技术的示例视频编码器的框图。
图4是示出可以执行本公开内容的技术的示例视频解码器的框图。
图5是示出用于对当前块进行编码的示例方法的流程图。
图6是示出用于对视频数据的当前块进行解码的示例方法的流程图。
图7A是示出用于合并模式的示例空间相邻运动矢量候选的概念图。
图7B是示出用于高级运动矢量预测(AMVP)模式的示例空间相邻运动矢量候选的概念图。
图8A是示出示例时间运动矢量预测候选的概念图。
图8B是示出运动矢量缩放的示例的概念图。
图9是示出用于合并和跳过模式的空间和时间相邻运动矢量候选的概念图。
图10是示出根据参考图片进行子预测单元(PU)运动预测的示例的概念图。
图11A是示出具有四个子块的一个PU和其相邻块的示例的概念图。
图11B是示出具有四个子块的一个PU和其相邻块的示例的概念图。
图12是示出用于推导空间合并候选的示例空间相邻块的概念图。
图13是示出非子PU时空运动矢量预测器的示例的概念图。
图14是示出根据本公开内容的译码技术的流程图。
图15是示出根据本公开内容的技术的双向预测的概念图。
具体实施方式
概括而言，本公开内容技术与用于视频译码的时空运动矢量预测相关。例如，本公开内容描述了用于选择时空运动矢量预测器(STMVP)使得STMVP的运动矢量缩放不是必要的技术。在当前实现中，视频译码设备可以选择具有与视频数据的当前块不同的参考图片的运动矢量预测器。在这样的情况下，必须对运动矢量预测器进行缩放以指向视频数据的当前块的参考图片。本公开内容的技术可以应用于现有的视频编解码器(诸如HEVC(高效率视频译码))，或者可以应用于将来的视频译码标准中的译码工具。具体而言，视频译码设备生成候选列表。视频译码设备确定候选列表中的哪些候选具有相同的参考图片。然后，视频译码设备基于候选列表中的被确定为具有相同的参考图片的候选来生成STMVP。例如，视频译码设备可以选择具有与时间运动矢量预测器(TMVP)相同的参考图片的一个或多个候选，并且对其进行平均以创建STMVP。然后，视频译码设备使用STMVP来对视频数据的当前块进行译码。
在现有的视频译码标准中，编码器和解码器选择STMVP而不考虑在使用STMVP时运动矢量缩放操作是否将是必要的。运动矢量缩放操作增加了编码器和解码器的复杂性，并且增加了编码和解码时间。因此，本公开内容的技术可以使得视频译码设备能够避免对STMVP的运动矢量缩放操作。相反，如本公开内容中描述的，视频译码设备可以生成候选列表并且确定候选列表中的两个或更多个候选是否具有相同的参考图片。如果候选列表中的两个或更多个候选具有相同的参考图片，则视频译码设备可以基于候选列表中的具有相同的参考图片的两个或更多个候选来生成STMVP。然后，视频译码设备可以使用STMVP来对视频数据的当前块进行译码。然而，当视频译码设备确定在候选列表中不存在具有相同的参考图片的两个候选时，视频译码设备不基于候选列表中的两个或更多个候选来生成STMVP。以这种方式，视频译码设备可以避免执行可能减慢生成候选列表的过程的运动矢量缩放操作。
图1是示出可以执行本公开内容的技术的示例视频编码和解码***100的框图。概括而言，本公开内容的技术涉及对视频数据进行译码(编码和/或解码)。通常，视频数据包括用于处理视频的任何数据。因此，视频数据可以包括原始的未经编码的视频、经编码的视频、经解码(例如，经重构)的视频、以及视频元数据(例如，信令数据)。
如图1所示，在该示例中，***100包括源设备102，源设备102提供要被目的地设备116解码和显示的、经编码的视频数据。具体地，源设备102经由计算机可读介质110来将视频数据提供给目的地设备116。源设备102和目的地设备116可以包括各种各样的设备中的任何一种，包括台式计算机、笔记本计算机(即，膝上型计算机)、平板计算机、机顶盒、诸如智能电话之类的电话手机、电视机、相机、显示设备、数字媒体播放器、视频游戏控制台、视频流式传输设备等。在一些情况下，源设备102和目的地设备116可以被配备用于无线通信，并且因此可以被称为无线通信设备。
在图1的示例中，源设备102包括视频源104、存储器106、视频编码器200以及输出接口108。目的地设备116包括输入接口122、视频解码器300、存储器120以及显示设备118。根据本公开内容，源设备102的视频编码器200和目的地设备116的视频解码器300可以被配置为应用用于在本公开内容中描述的视频译码的技术。因此，源设备102表示视频编码设备的示例，而目的地设备116表示视频解码设备的示例。在其它示例中，源设备和目的地设备可以包括其它组件或布置。例如，源设备102可以从诸如外部相机之类的外部视频源接收视频数据。同样，目的地设备116可以与外部显示设备对接，而不是包括集成显示设备。
如图1所示的***100仅是一个示例。通常，任何数字视频编码和/或解码设备可以执行用于对视频数据进行译码的技术。源设备102和目的地设备116仅是这样的译码设备的示例，其中，源设备102生成经译码的视频数据以用于传输给目的地设备116。本公开内容将“译码”设备指代为执行对数据的译码(例如，编码和/或解码)的设备。因此，视频编码器200和视频解码器300分别表示译码设备(具体地，视频编码器和视频解码器)的示例。在一些示例中，设备102、116可以以基本上对称的方式进行操作，使得设备102、116中的每一者都包括视频编码和解码组件。因此，***100可以支持在视频设备102、116之间的单向或双向视频传输，例如，以用于视频流式传输、视频回放、视频广播或视频电话。
通常，视频源104表示视频数据(即原始的未经编码的视频数据)的源，并且将视频数据的顺序的一系列图片(也被称为“帧”)提供给视频编码器200，视频编码器200对用于图片的数据进行编码。源设备102的视频源104可以包括视频捕获设备，诸如摄像机、包含先前捕获的原始视频的视频存档单元、和/或用于从视频内容提供者接收视频的视频馈送接口。作为另外的替代方式，视频源104可以生成基于计算机图形的数据作为源视频，或者生成实时视频、被存档的视频和计算机生成的视频的组合。在每种情况下，视频编码器200可以对被捕获的、预捕获的或计算机生成的视频数据进行编码。视频编码器200可以将图片从所接收的顺序(有时被称为“显示顺序”)重新排列为用于译码的译码顺序。视频编码器200可以生成包括经编码的视频数据的比特流。然后，源设备102可以经由输出接口108将经编码的视频数据输出到计算机可读介质110上，以便由例如目的地设备116的输入接口122接收和/或取回。
源设备102的存储器106和目的地设备116的存储器120表示通用存储器。在一些示例中，存储器106、120可以存储原始视频数据，例如，来自视频源104的原始视频以及来自视频解码器300的原始的经解码的视频数据。另外或替代地，存储器106、120可以存储可由例如视频编码器200和视频解码器300分别执行的软件指令。尽管在该示例中被示为与视频编码器200和视频解码器300分开，但是应当理解的是，视频编码器200和视频解码器300还可以包括用于在功能上类似或等效目的的内部存储器。此外，存储器106、120可以存储例如从视频编码器200输出并且输入到视频解码器300的经编码的视频数据。在一些示例中，存储器106、120的部分可以被分配为一个或多个视频缓冲器，例如，以存储原始的经解码和/或经编码的视频数据。
计算机可读介质110可以表示能够将经编码的视频数据从源设备102输送到目的地设备116的任何类型的介质或设备。在一个示例中，计算机可读介质110表示通信介质，其使得源设备102能够例如经由射频网络或基于计算机的网络，来实时地向目的地设备116直接发送经编码的视频数据。输出接口108可以根据诸如无线通信协议之类的通信标准来对包括经编码的视频数据的传输信号进行调制，并且输入接口122可以根据诸如无线通信协议之类的通信标准来对所接收的传输信号进行调制。通信介质可以包括任何无线或有线通信介质，例如，射频(RF)频谱或一条或多条物理传输线。通信介质可以形成诸如以下各项的基于分组的网络的一部分：局域网、广域网、或诸如互联网之类的全球网络。通信介质可以包括路由器、交换机、基站、或对于促进从源设备102到目的地设备116的通信而言可以有用的任何其它设备。
在一些示例中，源设备102可以将经编码的数据从输出接口108输出到存储设备112。类似地，目的地设备116可以经由输入接口122从存储设备112存取经编码的数据。存储设备112可以包括各种分布式或本地存取的数据存储介质中的任何一种，诸如硬盘驱动器、蓝光光盘、DVD、CD-ROM、闪存、易失性或非易失性存储器、或用于存储经编码的视频数据的任何其它适当的数字存储介质。
在一些示例中，源设备102可以将经编码的视频数据输出到文件服务器114或者可以存储由源设备102生成的经编码的视频的另一中间存储设备。目的地设备116可以经由流式传输或下载来从文件服务器114存取被存储的视频数据。文件服务器114可以是能够存储经编码的视频数据并且将该经编码的视频数据发送给目的地设备116的任何类型的服务器设备。文件服务器114可以表示网页服务器(例如，用于网站)、文件传输协议(FTP)服务器、内容递送网络设备、或网络附加存储(NAS)设备。目的地设备116可以通过任何标准数据连接(包括互联网连接)来从文件服务器114存取经编码的视频数据。这可以包括适于存取被存储在文件服务器114上的经编码的视频数据的无线信道(例如，Wi-Fi连接)、有线连接(例如，DSL、电缆调制解调器等)、或这两者的组合。文件服务器114和输入接口122可以被配置为根据以下各项来操作：流式传输协议、下载传输协议、或其组合。
输出接口108和输入接口122可以表示无线发射机/接收机、调制解调器、有线联网组件(例如，以太网卡)、根据各种IEEE 802.11标准中的任何一种标准进行操作的无线通信组件、或其它物理组件。在其中输出接口108和输入接口122包括无线组件的示例中，输出接口108和输入接口122可以被配置为根据蜂窝通信标准(诸如4G、4G-LTE(长期演进)、改进的LTE、5G等)来传输数据(诸如经编码的视频数据)。在其中输出接口108包括无线发射机的一些示例中，输出接口108和输入接口122可以被配置为根据其它无线标准(诸如IEEE 802.11规范、IEEE 802.15规范(例如，ZigBeeTM)、BluetoothTM标准等)来传输数据(诸如经编码的视频数据)。在一些示例中，源设备102和/或目的地设备116可以包括相应的片上***(SoC)设备。例如，源设备102可以包括用于执行被赋予视频编码器200和/或输出接口108的功能的SoC设备，并且目的地设备116可以包括用于执行被赋予视频解码器300和/或输入接口122的功能的SoC设备。
本公开内容的技术可以应用于视频译码，以支持各种多媒体应用中的任何一种，诸如空中电视广播、有线电视传输、***传输、互联网流式视频传输(诸如基于HTTP的动态自适应流式传输(DASH))、被编码到数据存储介质上的数字视频、对被存储在数据存储介质上的数字视频的解码、或其它应用。
目的地设备116的输入接口122从计算机可读介质110(例如，存储设备112、文件服务器114等)接收经编码的视频比特流。来自计算机可读介质110的经编码的视频比特流可以包括由视频编码器200定义的诸如以下语法元素之类的信令信息(其也被视频解码器300使用)：所述语法元素具有描述视频块或其它译码单元(例如，切片、图片、图片组、序列等)的特性和/或处理的值。显示设备118将经解码的视频数据的经解码的图片显示给用户。显示设备118可以表示各种显示设备中的任何一种，诸如阴极射线管(CRT)、液晶显示器(LCD)、等离子显示器、有机发光二极管(OLED)显示器、或另一种类型的显示设备。
尽管在图1中未示出，但是在一些示例中，视频编码器200和视频解码器300可以各自与音频编码器和/或音频解码器集成，并且可以包括适当的MUX-DEMUX单元或其它硬件和/或软件，以处理在公共数据流中包括音频和视频两者的经复用的流。如果适用，MUX-DEMUX单元可以遵循ITU H.223复用器协议或其它协议(诸如用户数据报协议(UDP))。
视频编码器200和视频解码器300各自可以被实现为各种适当的编码器和/或解码器电路中的任何一种，诸如一个或多个微处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、分立逻辑、软件、硬件、固件、或其任何组合。当所述技术部分地用软件实现时，设备可以将用于软件的指令存储在适当的非暂时性计算机可读介质中，并且使用一个或多个处理器，用硬件来执行指令以执行本公开内容的技术。视频编码器200和视频解码器300中的每一者可以被包括在一个或多个编码器或解码器中，编码器或解码器中的任一者可以被集成为相应设备中的组合编码器/解码器(CODEC)的一部分。包括视频编码器200和/或视频解码器300的设备可以包括集成电路、微处理器、和/或无线通信设备(诸如蜂窝电话)。
视频编码器200和视频解码器300可以根据视频译码标准(诸如ITU-TH.265(也被称为高效率视频译码(HEVC)或对其的扩展(诸如多视图和/或可伸缩视频译码扩展))进行操作。替代地，视频编码器200和视频解码器300可以根据其它专有或行业标准(诸如联合探索模型(JEM)、VVC或VCC测试模型(VTM))进行操作。然而，本公开内容的技术不限于任何特定译码标准。
通常，视频编码器200和视频解码器300可以执行对图片的基于块的译码。术语“块”通常指代包括要被处理的(例如，在编码和/或解码过程中要被编码、被解码或以其它方式使用的)数据的结构。例如，块可以包括亮度和/或色度数据的样本的二维矩阵。通常，视频编码器200和视频解码器300可以对以YUV(例如，Y、Cb、Cr)格式表示的视频数据进行译码。也就是说，并不是对用于图片的样本的红色、绿色和蓝色(RGB)数据进行译码，视频编码器200和视频解码器300可以对亮度和色度分量进行译码，其中，色度分量可以包括红色色相和蓝色色相色度分量两者。在一些示例中，视频编码器200在进行编码之前将所接收的经RGB格式化的数据转换为YUV表示，并且视频解码器300将YUV表示转换为RGB格式。替代地，预处理和后处理单元(未示出)可以执行这些转换。
概括而言，本公开内容可以涉及对图片的译码(例如，编码和解码)以包括对图片的数据进行编码或解码的过程。类似地，本公开内容可以涉及对图片的块的译码以包括对用于块的数据进行编码或解码(例如，预测和/或残差译码)的过程。经编码的视频比特流通常包括用于表示译码决策(例如，译码模式)以及将图片分割为块的语法元素的一系列值。因此，关于对图片或块进行译码的引用通常应当被理解为对用于形成图片或块的语法元素的值进行译码。
HEVC定义了各种块，包括译码单元(CU)、预测单元(PU)和变换单元(TU)。根据HEVC，视频译码器(诸如视频编码器200)根据四叉树结构来将译码树单元(CTU)分割为CU。也就是说，视频译码器将CTU和CU分割为四个相等的、不重叠的正方形，并且四叉树的每个节点具有零个或四个子节点。没有子节点的节点可以被称为“叶节点”，并且这种叶节点的CU可以包括一个或多个PU和/或一个或多个TU。视频译码器可以进一步分割PU和TU。例如，在HEVC中，残差四叉树(RQT)表示对TU的分割。在HEVC中，PU表示帧间预测数据，而TU表示残差数据。经帧内预测的CU包括帧内预测信息，诸如帧内模式指示。
作为另一示例，视频编码器200和视频解码器300可以被配置为根据JEM进行操作。根据JEM，视频译码器(诸如视频编码器200)将图片分割为多个译码树单元(CTU)。视频编码器200可以根据树结构(诸如四叉树-二叉树(QTBT)结构)分割CTU。JEM的QTBT结构去除了多种分割类型的概念，诸如在HEVC的CU、PU和TU之间的分开。JEM的QTBT结构包括两个级别：根据四叉树分割而被分割的第一级别、以及根据二叉树分割而被分割的第二级别。QTBT结构的根节点对应于CTU。二叉树的叶节点对应于译码单元(CU)。
在一些示例中，视频编码器200和视频解码器300可以使用单个QTBT结构来表示亮度分量和色度分量中的每一者，而在其它示例中，视频编码器200和视频解码器300可以使用两个或更多个QTBT结构，诸如用于亮度分量的一个QTBT结构以及用于两个色度分量的另一QTBT结构(或者用于相应色度分量的两个QTBT结构)。
视频编码器200和视频解码器300可以被配置为使用每HEVC的四叉树分割、根据JEM的QTBT分割、或其它分割结构。为了解释的目的，关于QTBT分割给出了本公开内容的技术的描述。然而，应当理解的是，本公开内容的技术还可以应用于被配置为使用四叉树分割或者还使用其它类型的分割的视频译码器。
本公开内容可以互换地使用“NxN”和“N乘N”来指代块(诸如CU或其它视频块)在垂直和水平维度方面的样本大小，例如，16x16个样本或16乘16个样本。通常，16x16CU在垂直方向上将具有16个样本(y＝16)，并且在水平方向上将具有16个样本(x＝16)。同样地，NxNCU通常在垂直方向上具有N个样本，并且在水平方向上具有N个样本，其中N表示非负整数值。CU中的样本可以按行和列来排列。此外，CU不一定需要在水平方向上具有与在垂直方向上相同数量的样本。例如，CU可以包括NxM个样本，其中M不一定等于N。
视频编码器200对用于CU的表示预测和/或残差信息以及其它信息的视频数据进行编码。预测信息指示将如何预测CU以便形成用于CU的预测块。残差信息通常表示在编码之前的CU的样本与预测块之间的逐样本差。
为了预测CU，视频编码器200通常可以通过帧间预测或帧内预测来形成用于CU的预测块。帧间预测通常指代根据先前译码的图片的数据来预测CU，而帧内预测通常指代根据同一图片的先前译码的数据来预测CU。为了执行帧间预测，视频编码器200可以使用一个或多个运动矢量来生成预测块。视频编码器200通常可以执行运动搜索，以识别例如在CU与参考块之间的差方面与CU紧密匹配的参考块。视频编码器200可以使用绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)、或其它这种差计算来计算差度量，以确定参考块是否与当前CU紧密匹配。在一些示例中，视频编码器200可以使用单向预测或双向预测来预测当前CU。
JEM还提供仿射运动补偿模式，其可以被认为是帧间预测模式。在仿射运动补偿模式下，视频编码器200可以确定表示非平移运动(诸如放大或缩小、旋转、透视运动或其它不规则的运动类型)的两个或更多个运动矢量。
为了执行帧内预测，视频编码器200可以选择帧内预测模式来生成预测块。JEM提供六十七种帧内预测模式，包括各种方向性模式、以及平面模式和DC模式。通常，视频编码器200选择帧内预测模式，帧内预测模式描述要根据其来预测当前块(例如，CU的块)的样本的、当前块的相邻样本。假定视频编码器200以光栅扫描顺序(从左到右、从上到下)对CTU和CU进行译码，则这样的样本通常可以是在与当前块相同的图片中在当前块的上方、左上方或左侧。
视频编码器200对表示用于当前块的预测模式的数据进行编码。例如，对于帧间预测模式，视频编码器200可以对表示使用各种可用帧间预测模式中的哪一种的数据以及用于对应模式的运动信息进行编码。对于单向或双向帧间预测，例如，视频编码器200可以使用高级运动矢量预测(AMVP)或合并模式来对运动矢量进行编码。视频编码器200可以使用类似的模式来对用于仿射运动补偿模式的运动矢量进行编码。
如上所述，视频译码器(例如，视频编码器200或视频解码器300)可以应用帧间预测来生成用于当前图片的视频块的预测块。例如，视频译码器可以应用帧间预测来生成CU的预测块。如果视频译码器应用帧间预测来生成预测块，则视频译码器基于一个或多个参考图片的经解码的样本来生成预测块。通常，参考图片是除当前图片以外的图片。在一些视频译码规范中，视频译码器还可以将当前图片本身视为参考图片。视频译码器可以确定一个或多个参考图片列表。参考图片列表中的每一者包括零个或多个参考图片。参考图片列表之一可以被称为参考图片列表0(RefPicList0)，并且另一参考图片列表可以被称为参考图片列表1(RefPicList1)。为了便于解释，本公开内容可以将参考图片列表0称为列表0，并且可以将参考图片列表1称为列表1。
视频译码器可以应用单向帧间预测或双向帧间预测来生成预测块。当视频译码器应用单向帧间预测来生成用于视频块的预测块时，视频译码器基于单个参考图片的样本来确定用于视频块的单个参考块。参考块可以是与预测块相似的样本块。此外，当视频译码器应用单向帧间预测时，视频译码器可以将预测块设置为等于参考块。当视频译码器应用双向帧间预测来生成用于视频块的预测块时，视频译码器确定用于视频块的两个参考块。在一些示例中，两个参考块在不同参考图片列表中的参考图片中。另外，当视频译码器应用双向帧间预测时，视频译码器可以基于两个参考块来确定预测块。例如，视频译码器可以确定预测块，使得预测块的每个样本是两个参考块的对应样本的加权平均。参考列表指示符可以用于指示参考图片列表中的哪些参考图片列表包括用于确定参考块的参考图片。
如上所述，视频译码器可以基于参考图片的样本来确定参考块。在一些示例中，视频译码器可以确定参考块，使得参考块的每个样本等于参考图片的样本。在一些示例中，作为确定参考块的一部分，视频译码器可以从参考图片的样本中插值参考块的样本。例如，视频译码器可以确定预测块的样本是参考图片的两个或更多个样本的加权平均。
在一些示例中，当视频编码器200针对当前图片的当前块执行单向帧间预测时，视频编码器200识别参考图片列表之一中的一个或多个参考图片内的参考块。例如，视频编码器200可以在参考图片列表内的一个或多个参考图片内搜索参考块。在一些示例中，视频编码器200使用均方误差或其它度量来确定参考块和当前块之间的相似性。此外，视频编码器200可以确定用于当前块的运动参数。用于当前块的运动参数可以包括运动矢量和参考索引。运动矢量可以指示当前图片内的当前块的位置与参考图片内的参考块的位置之间的空间位移。参考索引指示包含参考图片列表的参考帧在参考图片列表内的位置。用于当前块的预测块可以等于参考块。
当视频编码器200针对当前图片的当前块执行双向帧间预测时，视频编码器200可以识别第一参考图片列表(“列表0”)中的参考图片内的第一参考块，并且可以识别第二参考图片列表(“列表1”)中的参考图片内的第二参考块。例如，视频编码器200可以分别在第一和第二参考图片列表中的参考图片内搜索第一和第二参考块。视频编码器200可以至少部分地基于第一和第二参考块来生成用于当前块的预测块。另外，视频编码器200可以生成指示当前块与第一参考块之间的空间位移的第一运动矢量。视频编码器200还可以生成第一参考索引，该第一参考索引标识包含第一参考块的参考图片在第一参考图片列表内的位置。此外，视频编码器200可以生成指示当前块与第二参考块之间的空间位移的第二运动矢量。视频编码器200还可以生成第二参考索引，该第二参考索引标识包括第二参考块的参考图片在第二参考图片列表内的位置。
当视频编码器200针对当前块执行单向帧间预测时，视频解码器300可以使用当前块的运动参数来识别当前块的参考块。然后，视频解码器300可以基于参考块来生成当前块的预测块。当视频编码器200执行双向帧间预测以确定用于当前块的预测块时，视频解码器300可以使用当前块的运动参数来确定两个参考块。视频解码器300可以基于当前块的两个参考样本来生成当前块的预测块。
在诸如对块的帧内预测或帧间预测之类的预测之后，视频编码器200可以计算用于该块的残差数据。残差数据(诸如残差块)表示在块与用于该块的预测块之间的逐样本差，该预测块是使用对应的预测模式来形成的。视频编码器200可以将一个或多个变换应用于残差块，以在变换域中而非在样本域中产生经变换的数据。例如，视频编码器200可以将离散余弦变换(DCT)、整数变换、小波变换或概念上类似的变换应用于残差视频数据。另外，视频编码器200可以在第一变换之后应用二次变换，诸如模式相关的不可分离二次变换(MDNSST)、信号相关变换、Karhunen-Loeve变换(KLT)等。视频编码器200在应用一个或多个变换之后产生变换系数。
如上所述，在任何变换以产生变换系数之后，视频编码器200可以执行对变换系数的量化。量化通常指代如下的过程：在该过程中，对变换系数进行量化以可能减少用于表示这些系数的数据量，从而提供进一步的压缩。通过执行量化过程，视频编码器200可以减小与一些或所有系数相关联的比特深度。例如，视频编码器200可以在量化期间将n比特的值向下舍入为m比特的值，其中n大于m。在一些示例中，为了执行量化，视频编码器200可以执行对要被量化的值的按位右移。
在量化之后，视频编码器200可以扫描变换系数，从而从包括经量化的变换系数的二维矩阵产生一维矢量。可以将扫描设计为将较高能量(并且因此较低频率)的系数放在矢量的前面，并且将较低能量(并且因此较高频率)的变换系数放在矢量的后面。在一些示例中，视频编码器200可以利用预定义的扫描顺序来扫描经量化的变换系数以产生经串行化的矢量，并且然后对矢量的经量化的变换系数进行熵编码。在其它示例中，视频编码器200可以执行自适应扫描。在扫描经量化的变换系数以形成一维矢量之后，视频编码器200可以例如根据上下文自适应二进制算术译码(CABAC)来对一维矢量进行熵编码。视频编码器200还可以对用于描述与经编码的视频数据相关联的元数据的语法元素的值进行熵编码，以供视频解码器300在对视频数据进行解码时使用。
为了执行CABAC，视频编码器200可以将上下文模型内的上下文分配给要被发送的符号。上下文可以涉及例如符号的相邻值是否为零值。概率确定可以是基于被分配给符号的上下文的。
视频编码器200还可以例如在图片报头、块报头、切片报头中为视频解码器300生成语法数据(诸如基于块的语法数据、基于图片的语法数据和基于序列的语法数据)、或其它语法数据(诸如序列参数集(SPS)、图片参数集(PPS)或视频参数集(VPS))。同样地，视频解码器300可以对这样的语法数据进行解码以确定如何解码对应的视频数据。
以这种方式，视频编码器200可以生成比特流，其包括经编码的视频数据，例如，描述将图片分割为块(例如，CU)以及用于这些块的预测和/或残差信息的语法元素。最终，视频解码器300可以接收比特流并且对经编码的视频数据进行解码。
通常，视频解码器300执行与由视频编码器200执行的过程相反的过程，以对比特流的经编码的视频数据进行解码。例如，视频解码器300可以使用CABAC，以与视频编码器200的CABAC编码过程基本上类似的、但是相反的方式来对用于比特流的语法元素的值进行解码。语法元素可以定义用于将图片分割为CTU、以及根据对应的分割结构(诸如QTBT结构)对每个CTU进行分割以定义CTU的CU的分割信息。语法元素还可以定义用于视频数据的块(例如，CU)的预测和残差信息。
残差信息可以由例如经量化的变换系数来表示。视频解码器300可以对块的经量化的变换系数进行逆量化和逆变换以重现用于该块的残差块。视频解码器300使用经信号通知的预测模式(帧内预测或帧间预测)和相关的预测信息(例如，用于帧间预测的运动信息)来形成用于该块的预测块。视频解码器300然后可以对预测块和残差块(在逐个样本的基础上)进行组合以重现原始块。视频解码器300可以执行额外处理，诸如执行去块过程以减少沿着块的边界的视觉伪影。
概括而言，本公开内容可能涉及“用信号通知”某些信息(诸如语法元素)。术语“用信号通知”通常可以指代对语法元素的值和/或用于对经编码的视频数据进行解码的其它数据的传送。也就是说，视频编码器200可以在比特流中用信号通知用于语法元素的值。通常，用信号通知指代在比特流中生成值。如上所述，源设备102可以基本上实时地或不是实时地(诸如可能在将语法元素存储到存储设备112以供目的地设备116稍后取回时发生)将比特流传输到目的地设备116。
图2A和2B是示出示例四叉树二叉树(QTBT)结构130以及对应的译码树单元(CTU)132的概念图。实线表示四叉树拆分，而虚线指示二叉树拆分。在二叉树的每个拆分(即非叶)节点中，用信号通知一个标志以指示使用哪种拆分类型(即，水平或垂直)，其中，在该示例中，0指示水平拆分，而1指示垂直拆分。对于四叉树拆分，由于四叉树节点将块水平地并且垂直地拆分为具有相等大小的4个子块，因此无需指示拆分类型。因此，视频编码器200可以对以下各项进行编码，而视频解码器300可以对以下各项进行解码：用于QTBT结构130的区域树级别(即实线)的语法元素(诸如拆分信息)、以及用于QTBT结构130的预测树级别(即虚线)的语法元素(诸如拆分信息)。视频编码器200可以对用于由QTBT结构130的终端叶节点表示的CU的视频数据(诸如预测和变换数据)进行编码，而视频解码器300可以对视频数据进行解码。
通常，图2B的CTU 132可以与定义与QTBT结构130的处于第一和第二级别的节点相对应的块的大小的参数相关联。这些参数可以包括CTU大小(表示样本中的CTU 132的大小)、最小四叉树大小(MinQTSize，其表示最小允许四叉树叶节点大小)、最大二叉树大小(MaxBTSize，其表示最大允许二叉树根节点大小)、最大二叉树深度(MaxBTDepth，其表示最大允许二叉树深度)、以及最小二叉树大小(MinBTSize，其表示最小允许二叉树叶节点大小)。
QTBT结构的与CTU相对应的根节点可以在QTBT结构的第一级别处具有四个子节点，每个子节点可以是根据四叉树分割来分割的。也就是说，第一级别的节点是叶节点(没有子节点)或者具有四个子节点。QTBT结构130的示例将这样的节点表示为包括具有实线分支的父节点和子节点。如果第一级别的节点不大于最大允许二叉树根节点大小(MaxBTSize)，则可以通过相应的二叉树进一步对它们进行分割。可以对一个节点的二叉树拆分进行迭代，直到从拆分产生的节点达到最小允许二叉树叶节点大小(MinBTSize)或最大允许二叉树深度(MaxBTDepth)。QTBT结构130的示例将这样的节点表示为具有虚线分支。二叉树叶节点被称为译码单元(CU)，其用于预测(例如，图片内或图片间预测)和变换，而不进行任何进一步分割。如上所讨论的，CU也可以被称为“视频块”或“块”。
在QTBT分割结构的一个示例中，CTU大小被设置为128x128(亮度样本和两个对应的64x64色度样本)，MinQTSize被设置为16x16，MaxBTSize被设置为64x64，MinBTSize(对于宽度和高度两者)被设置为4，并且MaxBTDepth被设置为4。首先对CTU应用四叉树分割以生成四叉树叶节点。四叉树叶节点可以具有从16x16(即MinQTSize)到128x128(即CTU大小)的大小。如果叶四叉树节点为128x128，则由于该大小超过MaxBTSize(即，在该示例中为64x64)，因此其将不被二叉树进一步拆分。否则，叶四叉树节点将被二叉树进一步分割。因此，四叉树叶节点也是用于二叉树的根节点，并且具有为0的二叉树深度。当二叉树深度达到MaxBTDepth(在该示例中为4)时，不允许进一步拆分。当二叉树节点具有等于MinBTSize(在该示例中为4)的宽度时，其意味着不允许进一步的水平拆分。类似地，具有等于MinBTSize的高度的二叉树节点意味着不允许针对该二叉树节点进行进一步的垂直拆分。如上所述，二叉树的叶节点被称为CU，并且根据预测和变换而被进一步处理，而无需进一步分割。
图3是示出可以执行本公开内容的技术的示例视频编码器200的框图。图3是出于解释的目的而提供的，并且不应当被认为对在本公开内容中泛泛地举例说明和描述的技术进行限制。出于解释的目的，本公开内容在视频译码标准(诸如HEVC视频译码标准和处于开发中的H.266视频译码标准)的背景下描述了视频编码器200。然而，本公开内容的技术不限于这些视频译码标准，并且一般地适用于视频编码和解码。
在图3的示例中，视频编码器200包括视频数据存储器230、模式选择单元202、残差生成单元204、变换处理单元206、量化单元208、逆量化单元210、逆变换处理单元212、重构单元214、滤波器单元216、解码图片缓冲器(DPB)218和熵编码单元220。
视频数据存储器230可以存储要由视频编码器200的组件来编码的视频数据。视频编码器200可以从例如视频源104(图1)接收被存储在视频数据存储器230中的视频数据。DPB 218可以充当参考图片存储器，其存储参考视频数据以在由视频编码器200对后续视频数据进行预测时使用。视频数据存储器230和DPB 218可以由各种存储器设备中的任何一种形成，诸如动态随机存取存储器(DRAM)(包括同步DRAM(SDRAM))、磁阻RAM(MRAM)、电阻性RAM(RRAM)、或其它类型的存储器设备。视频数据存储器230和DPB 218可以由相同的存储器设备或单独的存储器设备来提供。在各个示例中，视频数据存储器230可以与视频编码器200的其它组件在芯片上(如图所示)，或者相对于那些组件在芯片外。
在本公开内容中，对视频数据存储器230的引用不应当被解释为限于在视频编码器200内部的存储器(除非如此具体地描述)，或者不限于在视频编码器200外部的存储器(除非如此具体地描述)。确切而言，对视频数据存储器230的引用应当被理解为存储视频编码器200接收以用于编码的视频数据(例如，用于要被编码的当前块的视频数据)的参考存储器。图1的存储器106还可以提供对来自视频编码器200的各个单元的输出的临时存储。
对图3的各个单元进行说明以帮助理解由视频编码器200执行的操作。这些单元可以被实现为固定功能电路、可编程电路、或其组合。固定功能电路指代提供特定功能并且关于可以执行的操作而预先设置的电路。可编程电路指代可以被编程以执行各种任务并且以可以执行的操作来提供灵活功能的电路。例如，可编程电路可以执行软件或固件，软件或固件使得可编程电路以软件或固件的指令所定义的方式进行操作。固定功能电路可以执行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作类型通常是不可变的。在一些示例中，这些单元中的一个或多个单元可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。
视频编码器200可以包括由可编程电路形成的算术逻辑单元(ALU)、基本功能单元(EFU)、数字电路、模拟电路和/或可编程核。在其中使用由可编程电路执行的软件来执行视频编码器200的操作的示例中，存储器106(图1)可以存储视频编码器200接收并且执行的软件的目标代码，或者视频编码器200内的另一存储器(未示出)可以存储这样的指令。
视频数据存储器230被配置为存储所接收的视频数据。视频编码器200可以从视频数据存储器230取回视频数据的图片，并且将视频数据提供给残差生成单元204和模式选择单元202。视频数据存储器230中的视频数据可以是要被编码的原始视频数据。
模式选择单元202包括运动估计单元222、运动补偿单元224和帧内预测单元226。模式选择单元202可以包括额外的功能单元，其根据其它预测模式来执行视频预测。作为示例，模式选择单元202可以包括调色板单元、块内复制单元(其可以是运动估计单元222和/或运动补偿单元224的一部分)、仿射单元、线性模型(LM)单元等。
模式选择单元202通常协调多个编码通路(pass)，以测试编码参数的组合以及针对这样的组合所得到的率失真值。编码参数可以包括将CTU分割为CU、用于CU的预测模式、用于CU的残差数据的变换类型、用于CU的残差数据的量化参数等。模式选择单元202可以最终选择编码参数的具有比其它测试的组合更佳的率失真值的组合。
视频编码器200可以将从视频数据存储器230取回的图片分割为一系列CTU，并且将一个或多个CTU封装在切片内。模式选择单元202可以根据树结构(诸如上述HEVC的QTBT结构或四叉树结构)来分割图片的CTU。如上所述，视频编码器200可以通过根据树结构来分割CTU，从而形成一个或多个CU。这样的CU通常也可以被称为“视频块”或“块”。
通常，模式选择单元202还控制其组件(例如，运动估计单元222、运动补偿单元224和帧内预测单元226)以生成用于当前块(例如，当前CU，或者在HEVC中为PU和TU的重叠部分)的预测块。为了对当前块进行帧间预测，运动估计单元222可以执行运动搜索以识别在一个或多个参考图片(例如，被存储在DPB 218中的一个或多个先前译码的图片)中的一个或多个紧密匹配的参考块。具体地，运动估计单元222可以例如根据绝对差之和(SAD)、平方差之和(SSD)、平均绝对差(MAD)、均方差(MSD)等，来计算表示潜在参考块将与当前块的类似程度的值。运动估计单元222通常可以使用在当前块与所考虑的参考块之间的逐样本差来执行这些计算。运动估计单元222可以识别从这些计算所得到的具有最低值的参考块，其指示与当前块最紧密匹配的参考块。
运动估计单元222可以形成一个或多个运动矢量(MV)，所述运动矢量定义相对于当前块在当前图片中的位置而言参考块在参考图片中的的位置。然后，运动估计单元222可以将运动矢量提供给运动补偿单元224。例如，对于单向帧间预测，运动估计单元222可以提供单个运动矢量，而对于双向帧间预测，运动估计单元222可以提供两个运动矢量。然后，运动补偿单元224可以使用运动矢量来生成预测块。例如，运动补偿单元224可以使用运动矢量来取回参考块的数据。作为另一示例，如果运动矢量具有分数样本精度，则运动补偿单元224可以根据一个或多个插值滤波器来对用于预测块的值进行插值。此外，对于双向帧间预测，运动补偿单元224可以取回用于由相应的运动矢量标识的两个参考块的数据并且例如通过逐样本平均或加权平均来将所取回的数据进行组合。
作为另一示例，对于帧内预测或帧内预测译码，帧内预测单元226可以根据与当前块相邻的样本来生成预测块。例如，对于方向性模式，帧内预测单元226通常可以在数学上将相邻样本的值进行组合，并且跨当前块在所定义的方向上填充这些计算出的值以产生预测块。作为另一示例，对于DC模式，帧内预测单元226可以计算当前块的相邻样本的平均值，并且生成预测块以包括针对预测块的每个样本的该得到的平均值。
模式选择单元202将预测块提供给残差生成单元204。残差生成单元204从视频数据存储器230接收当前块的原始的未经编码的版本，并且从模式选择单元202接收预测块。残差生成单元204计算在当前块与预测块之间的逐样本差。所得到的逐样本差定义了用于当前块的残差块。在一些示例中，残差生成单元204还可以确定残差块中的样本值之间的差，以使用残差差分脉冲译码调制(RDPCM)来生成残差块。在一些示例中，可以使用执行二进制减法的一个或多个减法器电路来形成残差生成单元204。
在其中模式选择单元202将CU分割为PU的示例中，每个PU可以与亮度预测单元和对应的色度预测单元相关联。视频编码器200和视频解码器300可以支持具有各种大小的PU。如上所指出的，CU的大小可以指代CU的亮度译码块的大小，而PU的大小可以指代PU的亮度预测单元的大小。假定特定CU的大小为2Nx2N，则视频编码器200可以支持用于帧内预测的2Nx2N或NxN的PU大小、以及用于帧间预测的2Nx2N、2NxN、Nx2N、NxN或类似的对称的PU大小。视频编码器200和视频解码器300还可以支持针对用于帧间预测的2NxnU、2NxnD、nLx2N和nRx2N的PU大小的非对称分割。
在其中模式选择单元不将CU进一步分割为PU的示例中，每个CU可以与亮度译码块和对应的色度译码块相关联。如上所述，CU的大小可以指代CU的亮度译码块的大小。视频编码器200和视频解码器300可以支持2Nx2N、2NxN或Nx2N的CU大小。
如上所述，残差生成单元204接收用于当前块和对应的预测块的视频数据。然后，残差生成单元204为当前块生成残差块。为了生成残差块，残差生成单元204计算在预测块与当前块之间的逐样本差。因此，
变换处理单元206将一种或多种变换应用于残差块，以生成变换系数的块(本文中被称为“变换系数块”)。变换处理单元206可以将各种变换应用于残差块，以形成变换系数块。例如，变换处理单元206可以将离散余弦变换(DCT)、方向变换、Karhunen-Loeve变换(KLT)、或概念上类似的变换应用于残差块。在一些示例中，变换处理单元206可以对残差块执行多种变换，例如，初级变换和二次变换(诸如旋转变换)。在一些示例中，变换处理单元206不对残差块应用变换。
量化单元208可以对变换系数块中的变换系数进行量化，以产生经量化的变换系数块。量化单元208可以根据与当前块相关联的量化参数(QP)值来对变换系数块的变换系数进行量化。视频编码器200(例如，经由模式选择单元202)可以通过调整与CU相关联的QP值来调整被应用于与当前块相关联的系数块的量化程度。量化可能引起信息损失，并且因此，经量化的变换系数可能具有与变换处理单元206所产生的原始变换系数相比而言较低的精度。
逆量化单元210和逆变换处理单元212可以将逆量化和逆变换分别应用于经量化的变换系数块，以从变换系数块重构残差块。重构单元214可以基于经重构的残差块和由模式选择单元202生成的预测块来产生与当前块相对应的重构块(尽管潜在地具有某种程度的失真)。例如，重构单元214可以将经重构的残差块的样本与来自模式选择单元202所生成的预测块的对应样本相加，以产生经重构的块。
滤波器单元216可以对经重构的块执行一个或多个滤波器操作。例如，滤波器单元216可以执行去块操作以减少沿着CU的边缘的块效应伪影。在一些示例中，可以跳过滤波器单元216的操作。
视频编码器200将经重构的块存储在DPB 218中。例如，在其中不需要滤波器单元216的操作的示例中，重构单元214可以将经重构的块存储到DPB 218中。在其中需要滤波器单元216的操作的示例中，滤波器单元216可以将经滤波的重构块存储到DPB 218中。运动估计单元222和运动补偿单元224可以从DPB 218取回由经重构的(并且潜在地经滤波的)块形成的参考图片，以对后续编码的图片的块进行帧间预测。另外，帧内预测单元226可以使用在DPB 218中的当前图片的经重构的块来对当前图片中的其它块进行帧内预测。
通常，熵编码单元220可以对从视频编码器200的其它功能组件接收的语法元素进行熵编码。例如，熵编码单元220可以对来自量化单元208的经量化的变换系数块进行熵编码。作为另一示例，熵编码单元220可以对来自模式选择单元202的预测语法元素(例如，用于帧间预测的运动信息或用于帧内预测的帧内模式信息)进行熵编码。熵编码单元220可以对作为视频数据的另一示例的语法元素执行一个或多个熵编码操作，以生成经熵编码的数据。例如，熵编码单元220可以执行上下文自适应变长译码(CAVLC)操作、CABAC操作、可变-可变(V2V)长度译码操作、基于语法的上下文自适应二进制算术译码(SBAC)操作、概率区间分割熵(PIPE)译码操作、指数哥伦布编码操作、或对数据的另一种类型的熵编码操作。在一些示例中，熵编码单元220可以在其中语法元素未被熵编码的旁路模式下操作。
视频编码器200可以输出比特流，其包括用于重构切片或图片的块所需要的经熵编码的语法元素。具体地，熵编码单元220可以输出比特流。
关于块描述了上述操作。这样的描述应当被理解为用于亮度译码块和/或色度译码块的操作。如上所述，在一些示例中，亮度译码块和色度译码块是CU的亮度分量和色度分量。在一些示例中，亮度译码块和色度译码块是PU的亮度分量和色度分量。
在一些示例中，不需要针对色度译码块重复关于亮度译码块执行的操作。作为一个示例，不需要重复用于识别用于亮度译码块的运动矢量(MV)和参考图片的操作来识别用于色度块的MV和参考图片。确切而言，可以对用于亮度译码块的MV进行缩放以确定用于色度块的MV，并且参考图片可以是相同的。作为另一示例，对于亮度译码块和色度译码块，帧内预测过程可以是相同的。
视频编码器200表示被配置为对视频数据进行编码的设备的示例。视频编码器200包括被配置为存储视频数据的存储器(例如，视频数据存储器230)。视频编码器200还包括在电路中实现的一个或多个处理单元(例如，运动估计单元222)。视频编码器200(例如，运动估计单元222)可以被配置为生成候选列表并且确定候选列表中的两个或更多个候选是否具有相同的参考图片。视频编码器200(例如，运动估计单元222)可以被配置为基于候选列表中的具有相同的参考图片的两个或更多个候选来生成时空运动矢量预测器(STMVP)。视频编码器200还可以被配置为使用STMVP来对视频数据的当前块进行编码。
图4是示出可以执行本公开内容的技术的示例视频解码器300的框图。图4是出于解释的目的而提供的，并且不对在本公开内容中泛泛地举例说明和描述的技术进行限制。出于解释的目的，本公开内容根据HEVC的技术和正在开发的H.266视频译码标准来描述视频解码器300。然而，本公开内容的技术可以由被配置用于其它视频译码标准的视频译码设备来执行。
在图4的示例中，视频解码器300包括译码图片缓冲器(CPB)存储器320、熵解码单元302、预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310、滤波器单元312和解码图片缓冲器(DPB)314。预测处理单元304包括运动补偿单元316和帧内预测单元318。预测处理单元304可以包括加法单元，其根据其它预测模式来执行预测。作为示例，预测处理单元304可以包括调色板单元、块内复制单元(其可以形成运动补偿单元316的一部分)、仿射单元、线性模型(LM)单元等。在其它示例中，视频解码器300可以包括更多、更少或不同的功能组件。
CPB存储器320可以存储要由视频解码器300的组件解码的视频数据，诸如经编码的视频比特流。例如，可以从计算机可读介质110(图1)获得被存储在CPB存储器320中的视频数据。CPB存储器320可以包括存储来自经编码的视频比特流的经编码的视频数据(例如，语法元素)的CPB。此外，CPB存储器320可以存储除了经译码的图片的语法元素之外的视频数据，诸如表示来自视频解码器300的各个单元的输出的临时数据。DPB314通常存储经解码的图片，视频解码器300可以输出经解码的图片，和/或在解码经编码的视频比特流的后续数据或图片时使用经解码的图片作为参考视频数据。CPB存储器320和DPB 314可以由各种存储器设备中的任何一种形成，诸如动态随机存取存储器(DRAM)，包括同步DRAM(SDRAM)、磁阻RAM(MRAM)、电阻式RAM(RRAM)、或其它类型的存储器设备。CPB存储器320和DPB 314可以由相同的存储器设备或单独的存储器设备来提供。在各个示例中，CPB存储器320可以与视频解码器300的其它组件在芯片上，或者相对于那些组件在芯片外。
另外或替代地，在一些示例中，视频解码器300可以从存储器120(图1)取回经译码的视频数据。也就是说，存储器120可以如上文所讨论地利用CPB存储器320来存储数据。同样，当视频解码器300的一些或全部功能是用要被视频解码器300的处理电路执行的软件来实现时，存储器120可以存储要被视频解码器300执行的指令。
对在图4中示出的各个单元进行说明以帮助理解由视频解码器300执行的操作。这些单元可以被实现为固定功能电路、可编程电路、或其组合。类似于图3，固定功能电路指代提供特定功能并且关于可以执行的操作而预先设置的电路。可编程电路指代可以被编程以执行各种任务并且以可以执行的操作来提供灵活功能的电路。例如，可编程电路可以执行软件或固件，软件或固件使得可编程电路以软件或固件的指令所定义的方式进行操作。固定功能电路可以执行软件指令(例如，以接收参数或输出参数)，但是固定功能电路执行的操作的类型通常是不可变的。在一些示例中，这些单元中的一个或多个单元可以是不同的电路块(固定功能或可编程)，并且在一些示例中，一个或多个单元可以是集成电路。
视频解码器300可以包括由可编程电路形成的ALU、EFU、数字电路、模拟电路和/或可编程核。在其中由在可编程电路上执行的软件执行视频解码器300的操作的示例中，片上或片外存储器可以存储视频解码器300接收并且执行的软件的指令(例如，目标代码)。
熵解码单元302可以从CPB接收经编码的视频数据，并且可以对视频数据进行熵解码以重现语法元素。预测处理单元304、逆量化单元306、逆变换处理单元308、重构单元310和滤波器单元312可以基于从比特流中提取的语法元素来生成经解码的视频数据。
通常，视频解码器300逐块地重构图片。视频解码器300可以单独地对每个块执行重构操作(其中，当前正在被重构(即，被解码)的块可以被称为“当前块”)。
熵解码单元302可以对定义经量化的变换系数块的经量化的变换系数的语法元素以及诸如量化参数(QP)和/或变换模式指示之类的变换信息进行熵解码。逆量化单元306可以使用与经量化的变换系数块相关联的QP来确定量化程度，并且同样地，确定供逆量化单元306应用的逆量化程度。逆量化单元306可以例如执行按位左移操作以对经量化的变换系数进行逆量化。逆量化单元306从而可以形成包括变换系数的变换系数块。
在逆量化单元306形成变换系数块之后，逆变换处理单元308可以将一种或多种逆变换应用于变换系数块，以生成与当前块相关联的残差块。例如，逆变换处理单元308可以将逆DCT、逆整数变换、逆Karhunen-Loeve变换(KLT)、逆旋转变换、逆方向变换或另一种逆变换应用于系数块。
此外，预测处理单元304根据由熵解码单元302进行熵解码的预测信息语法元素来生成预测块。例如，如果预测信息语法元素指示当前块是经帧间预测的，则运动补偿单元316可以生成预测块。在这种情况下，预测信息语法元素可以指示在DPB 314中的要从其取回参考块的参考图片、以及标识相对于当前块在当前图片中的位置而言参考块在参考图片中的位置的运动矢量。运动补偿单元316通常可以以与关于运动补偿单元224(图3)所描述的方式基本类似的方式来执行帧间预测过程。
作为另一示例，如果预测信息语法元素指示当前块是经帧内预测的，则帧内预测单元318可以根据由预测信息语法元素指示的帧内预测模式来生成预测块。再次，帧内预测单元318通常可以以与关于帧内预测单元226(图3)所描述的方式基本上类似的方式来执行帧内预测过程。帧内预测单元318可以从DPB 314取回当前块的相邻样本的数据。
重构单元310可以使用预测块和残差块来重构当前块。例如，重构单元310可以将残差块的样本与预测块的对应样本相加来重构当前块。
滤波器单元312可以对经重构的块执行一个或多个滤波器操作。例如，滤波器单元312可以执行去块操作以减少沿着经重构的块的边缘的块效应伪影。不一定在所有示例中都执行滤波器单元312的操作。
视频解码器300可以将经重构的块存储在DPB 314中。如上所讨论的，DPB 314可以将参考信息(诸如用于帧内预测的当前图片以及用于后续运动补偿的先前解码的图片的样本)提供给预测处理单元304。此外，视频解码器300可以从DPB 314输出经解码的图片，以用于在诸如图1的显示设备118之类的显示设备上的后续呈现。
以这种方式，视频解码器300表示被配置为对视频数据进行解码的视频解码设备的示例。视频解码器300包括被配置为存储视频数据的存储器(例如，CPB存储器320)。视频解码器300包括在电路中实现的一个或多个处理单元(例如，运动补偿单元316)。视频解码器300(例如，运动补偿单元316)可以被配置为生成候选列表并且确定候选列表中的两个或更多个候选是否具有相同的参考图片。视频解码器300(例如，运动补偿单元316)还可以基于候选列表中的具有相同的参考图片的两个或更多个候选来生成STMVP。视频解码器300可以使用STMVP来对视频数据的当前块进行解码。
图5是示出用于对当前块进行编码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频编码器200(图1和2)进行了描述，但是应当理解的是，其它设备可以被配置为执行与图5的方法类似的方法。
在该示例中，视频编码器200最初预测当前块(350)。例如，视频编码器200可以形成用于当前块的预测块。视频编码器200(例如，运动估计单元222)可以执行用于生成STMVP的技术，作为预测当前块的一部分。例如，视频编码器200(例如，运动估计单元222)可以生成STMVP，如图13所示并且稍后在本公开内容中描述的。然后，视频编码器200可以计算用于当前块的残差块(352)。为了计算残差块，视频编码器200可以计算在原始的未经编码的块与用于当前块的预测块之间的差。然后，视频编码器200可以对残差块的系数进行变换和量化(354)。接下来，视频编码器200可以扫描残差块的经量化的变换系数(356)。在扫描期间或在扫描之后，视频编码器200可以对系数进行熵编码(358)。例如，视频编码器200可以使用CAVLC或CABAC来对系数进行编码。然后，视频编码器200可以输出块的经熵编码的数据(360)。
图6是示出用于对视频数据的当前块进行解码的示例方法的流程图。当前块可以包括当前CU。尽管关于视频解码器300(图1和3)进行了描述，但是应当理解的是，其它设备可以被配置为执行与图6的方法类似的方法。
视频解码器300可以接收用于当前块的经熵编码的数据(诸如经熵编码的预测信息和用于与当前块相对应的残差块的系数的经熵编码的数据)(370)。视频解码器300可以对经熵编码的数据进行熵解码以确定用于当前块的预测信息并且重现残差块的系数(372)。视频解码器300可以例如使用如由用于当前块的预测信息所指示的帧内或帧间预测模式来预测当前块(374)，以计算用于当前块的预测块。视频解码器300(例如，运动补偿单元316)可以执行用于生成STMVP的技术，作为预测当前块的一部分。例如，视频解码器300(例如，运动补偿单元316)可以生成STMVP，如图13所示并且稍后在本公开内容中描述的。然后，视频解码器300可以对所重现的系数进行逆扫描(376)，以创建经量化的变换系数的块。然后，视频解码器300可以对系数进行逆量化和逆变换以产生残差块(378)。最终，视频解码器300可以通过将预测块和残差块进行组合来对当前块进行解码(380)。
ITU-T视频译码专家组(VCEG)(Q6/16)和ISO/IEC运动图像专家组(MPEG)(JTC 1/SC 29/WG 11)正在研究针对具有显著超过当前HEVC标准(包括其对屏幕内容译码和高动态范围译码的当前扩展和近期扩展)的压缩能力的压缩能力的将来的视频译码技术的标准化的潜在需求。这些小组在被称为联合视频专家组(JVET)的联合协作中共同致力于这一探索活动，以评估由这一领域的专家提出的压缩技术设计。JVET于2015年10月19-21日期间首次会面。J.Chen等人的“Algorithm Description of Joint Exploration Test Model 7”，ITU-T SG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频专家组(JVET)，第7次会议，意大利都灵，2017年7月13-21日，文档JVET-G1001是联合探索测试模型7(JEM-7)的算法描述。JVET目前正在开发基于JEM的通用视频译码(VVC)标准。Bross等人的“Versatile VideoCoding(Draft 2)”，ITU-T SG 16WP 3和ISO/IEC JTC 1/SC 29/WG 11的联合视频专家组(JVET)，第11次会议，斯洛文尼亚卢布尔雅那，2018年7月10-18日，文档JVET-K1001(以下称为“JVET-K1001”)是VVC标准的草案。
在HEVC中，切片中的最大译码单元被称为译码树块(CTB)或译码树单元(CTU)。CTB包含四叉树，其节点是译码单元。在HEVC主简档中，CTB的大小范围可以从16x16到64x64(但是技术上可以支持8x8 CTB大小)。CU的大小可以与CTB相同，但是CU可以小至8x8。此外，利用一种模式(即，帧间译码或帧内译码)来对每个CU进行译码。当CU被帧间译码时，CU可以进一步被分割为2或4个PU，或者当进一步分割不适用时，仅变为一个PU。当在一个CU中存在两个PU时，这两个PU可以是一半大小的矩形，或者是大小等于CU的大小的1/4或3/4的两个矩形。当CU被帧间译码时，针对每个PU存在一个运动信息集合。另外，利用唯一的帧间预测模式来对每个PU进行译码，以推导运动信息集合。
在HEVC中，对于PU，存在两种帧间预测模式，分别被称为合并模式和高级运动矢量预测(AMVP)模式。在HEVC中，跳过模式被认为是合并模式的特例。在AMVP或合并模式下，针对多个运动矢量预测器来维护运动矢量(MV)候选列表。通过从MV候选列表中提取一个候选来生成PU的运动矢量以及合并模式下的参考索引。在HEVC中，MV候选列表包含用于合并模式的多达5个候选以及用于AMVP模式的仅两个候选。合并候选可以包含运动信息集合，例如，与两个参考图片列表(列表0和列表1)相对应的运动矢量和参考索引。如果合并候选是通过合并索引来标识的，则参考图片用于当前块的预测以及相关联的运动矢量。然而，在AMVP模式下，对于来自列表0或列表1的每个潜在预测方向，将参考索引连同对MV候选列表的MV预测器(MVP)索引一起明确地用信号通知，这是因为AMVP候选仅包含运动矢量。参考索引是指定参考图片列表中的参考图片的值。在AMVP模式下，可以进一步细化预测运动矢量。如上文可以看出，合并候选对应于完整的运动信息集合，而AMVP候选仅包含用于特定预测方向的一个运动矢量。从相同的空间和时间相邻块来类似地推导用于两种模式的候选。
对于特定PU(PU0)，可以从在图7A和图7B中所示的相邻块来推导空间MV候选，但是用于根据这些块来生成空间MV候选的方法对于合并和AMVP模式不同。具体而言，图7A是示出用于合并模式的示例空间相邻运动矢量候选的概念图。图7B是示出用于AMVP模式的示例空间相邻运动矢量候选的概念图。
在合并模式下，可以利用在图7A中所示的顺序来推导多达四个空间MV候选。具体而言，顺序如下：左侧(0)、上方(1)、右上方(2)、左下方(3)和左上方(4)。因此，在合并模式下，MV候选列表可以按照以下顺序包括：从覆盖左侧位置(0)的块推导的合并候选、从覆盖右侧位置(1)的块推导的合并候选、从覆盖右上方位置(2)的块推导的合并候选、从覆盖左下方位置(3)的块推导的合并候选、从覆盖左上方位置(4)的块推导的合并候选。
在AMVP模式下，相邻块被划分为两组。第一组是由覆盖位置0和1的块组成的左侧组。第二组是由覆盖2、3和4的块组成的上方组，如图7B所示。对于每个组，在相邻块中的引用与用信号通知的参考索引所指示的相同的参考图片的潜在候选具有要被选择以形成该组的最终候选的最高优先级。有可能不是所有的相邻块都包含指向相同参考图片的运动矢量。因此，如果无法找到这样的候选，则将第一可用候选进行缩放以形成最终候选，因此可以补偿时间距离差。
图8A和8B是示出时间运动矢量预测候选的概念图。图8A示出了TMVP候选的示例。将TMVP候选(如果启用并且可用的话)添加到MV候选列表中在空间运动矢量候选之后。针对TMVP候选的运动矢量推导的过程对于合并模式和AMVP模式两者而言是相同的，然而，在合并模式下，针对TMVP候选的目标参考索引始终被设置为0，而AMVP模式下，针对TMVP候选的参考图片索引由用信号通知的参考索引指示。
用于TMVP候选推导的主要块位置是在同位PU外部的右下方块(如图8A所示，作为块“T”)，以补偿对用于生成空间相邻候选的上方和左侧块的偏差。然而，如果该块位于当前CTB行外部或者运动信息是不可用的，则将该块替换为PU的中心块。
根据以切片级别指示的同位图片的同位PU来推导用于TMVP候选的运动矢量。用于同位PU的运动矢量被称为同位MV。
图8B示出MV缩放的示例。为了推导TMVP候选，可能需要对同位MV进行缩放以补偿时间距离差，如图8B所示。
对于跳过模式和合并模式，视频编码器200用信号通知合并索引以指示使用了合并候选列表中的哪个候选。在跳过模式和合并模式下，视频编码器200不发送帧间预测指示符、参考索引或MVD。在合并模式下，视频编码器200和视频解码器300考虑两种类型的合并候选：空间运动矢量预测器(SMVP)和TMVP。对于SMVP推导，在位于如图9中描绘的位置的候选中选择最多四个合并候选。推导的顺序为A1→B1→B0→A0→(B2)。仅当位置A1、B1、B0、A0的任何PU不可用或被帧内译码或在修剪之后来自位置A1、B1、B0、A0的候选总数小于四时，才考虑位置B2。
在TMVP的推导中，视频编码器200(例如，运动估计单元222)和视频解码器300(例如，运动补偿单元316)基于属于在用信号通知的参考图片列表内的当前图片的参考图片之一的同位PU来推导经缩放的运动矢量。视频编码器200在切片报头中明确地用信号通知要用于推导同位PU的参考图片列表。视频编码器200和视频解码器300使用图片顺序计数(POC)距离tb和td来获得用于时间合并候选的经缩放的运动矢量以及同位PU的经缩放的运动矢量，其中tb被定义为当前图片的参考图片与当前图片之间的POC差，并且td被定义为同位图片的参考图片与同位图片之间的POC差。时间合并候选的参考图片索引被设置为零。在HEVC草案规范中描述了缩放过程的实际实现。对于B切片，获得两个运动矢量并且将其组合以形成双向预测合并候选，一个用于参考图片列表0，而另一个用于参考图片列表1。
如图9中描绘的，视频编码器200(例如，运动估计单元222)和视频解码器300(例如，运动补偿单元316)在两个候选位置C和H之间选择同位PU。如果位置H处的PU不可用或是被帧内译码的或在当前CTU行外部，则使用位置C。否则，使用位置H来推导时间合并候选。
除了SMVP和TMVP之外，还存在两种额外类型的合成合并候选：组合双向预测MVP和零MVP。视频编码器200(例如，运动估计单元222)和视频解码器300(例如，运动补偿单元316)通过利用SMVP和TMVP来生成组合双向预测MVP。组合双向预测合并候选仅用于B切片。例如，原始合并候选列表中的具有mvL0和refIdxL0或者mvL1和refIdxL1的两个候选用于创建组合双向预测合并候选。
在候选选择的过程中，视频编码器200(例如，运动估计单元222)和视频解码器300(例如，运动补偿单元316)从候选列表中移除具有与按照处理顺序的先前候选相同的运动参数的候选。该过程被定义为修剪过程。此外，为了帮助并行合并处理，不考虑在相同的合并估计区域(MER)内的候选。避免了冗余的分区形状，以便不模拟虚拟2Nx2N分区。
在每个生成步骤之间，如果候选数量达到MaxNumMergeCand，则停止推导过程。在当前的公共测试条件下，MaxNumMergeCand被设置为等于5。由于候选数量是恒定的，因此使用截短的一元二值化来对最佳合并候选的索引进行编码。
如下值得一提的是合并模式和AMVP模式的若干其它方面。例如，视频编码器200和视频解码器300可以执行运动矢量缩放。假定运动矢量的值是与在呈现时间中的图片的距离成比例的。运动矢量将两个图片进行关联：参考图片和包含运动矢量的图片(即包含图片)。当一运动矢量被用于预测另一个运动矢量时，基于POC值来计算包含图片和参考图片的距离。
对于要被预测的运动矢量，其相关联的包含图片和参考图片两者可能是不同的。因此，计算新距离(基于POC)。视频编码器200(例如，运动估计单元222)和视频解码器300(例如，运动补偿单元316)可以基于这两个POC距离来对运动矢量进行缩放。对于空间相邻候选，用于两个运动矢量的包含图片是相同的，而参考图片是不同的。在HEVC中，运动矢量缩放适用于针对空间和时间相邻候选的TMVP和AMVP两者。
在另一示例中，视频编码器200(例如，运动估计单元222)和视频解码器300(例如，运动补偿单元316)可以执行人工运动矢量候选生成。如果运动矢量候选列表不是完整的，则可以生成人工运动矢量候选并且将其***到列表的末尾，直到该列表具有完整的候选集合为止。就人工运动矢量候选不表达任何可用的空间或时间相邻块的运动矢量的意义而言，它们是人工的。
在合并模式下，存在两种类型的人工MV候选：(1)组合候选和(2)零候选。如果第一种类型没有提供足够的人工候选来填充MV候选列表，则视频译码器在MV候选列表中包括一个或多个零候选。零候选是指定具有0大小的运动矢量的候选。仅针对B切片推导组合候选。对于已经在候选列表中并且具有必要的运动信息的每对候选，视频译码器可以将双向组合运动矢量候选推导为以下各项的组合：这一对中的第一候选的运动矢量(其中第一候选的运动矢量是指列表0中的图片)和这一对中的第二候选的运动矢量(其中第二候选的运动矢量是指列表1中的图片)。
在另一示例中，视频译码器(例如，视频编码器200或视频解码器300)可以执行用于候选***的修剪过程。来自不同块的候选可能恰好相同，这降低了合并/AMVP候选列表的效率。可以应用修剪过程来解决这个问题。修剪过程将一个候选与当前候选列表中的其它候选进行比较，以在一定程度上避免***相同的候选。为了降低复杂性，将修剪过程应用于有限数量的候选，而不是将每个潜在候选与所有其它候选进行比较。
提出了高级时间运动矢量预测，以允许每个PU获得多个运动信息集合(包括运动矢量和参考图片)。高级时间运动矢量预测器(ATMVP)中的运动信息仅来自参考图片。为了推导当前PU的ATMVP，第一步是确定将从何处取来时间运动矢量。高级时间运动矢量预测过程的这一步骤按照左、上、右上、左下和左上的顺序在五个相邻块中找出第一可用运动矢量。五个相邻块的定义与当前PU的空间合并候选相同。例如，如图9所示，五个相邻块是A0、A1、B0、B1和B2。为了避免相邻块的重复扫描过程，视频编码器200和视频解码器300可以仅在已经推导出的合并候选列表中找出第一合并候选的运动矢量，以确定从何处取来时间运动矢量。PU被拆分成正方形NxN子PU(例如，N被设置为4)。按照光栅扫描顺序递归地推导出子PU的运动矢量。
图10是示出根据参考图片进行子PU运动预测的概念图。在图10中，当前图片1000的时间矢量被示为指向参考图片1002。在图10中，当前图片1000被表示为“当前”，并且参考图片1002被表示为“参考”。参考图片1002中的PU 1004被示为划分成四个子PU 1006A、1006B、1006C、1006D，每个子PU具有其自己的运动矢量。本公开内容可以将子PU 1006A、1006B、1006C和1006D统称为“子PU 1006”。
此外，如图10的示例所示，视频编码器200和视频解码器300可以利用子PU 1006的运动矢量来生成ATMVP。例如，在图10的示例中，运动源图片1008包括子PU 1010。运动源图片1008可以是与参考图片1002相同的图片，并且子PU 1010可以是子PU 1006之一。在图10的示例中，运动源图片1008被表示为“运动源图片”。如果用于子PU 1010的运动矢量指向与运动源图片1008相距30个图片远的参考图片1012，则ATMVP可以指向与当前图片1000相距30个图片远的参考图片1014。在图10的示例中，参考图片1012被表示为“源图片的参考图片”。在图11的示例中，参考图片1014被表示为“当前图片的目标参考图片”。
时空运动矢量预测器(STMVP)不仅考虑时间运动矢量预测器，还考虑空间运动矢量预测器。通过对两个空间运动矢量预测器和一个时间运动矢量预测器的运动信息进行平均，视频译码器可生成以针对每个子PU的额外的合并候选(即，STMVP)，以实现进一步的Bjontegaard-Delta(BD)速率降低。
为了推导STMVP，视频译码器可以使用两个空间邻居和一个时间运动预测器来推导每个子PU中的运动矢量。关于图11A描述了用于推导STMVP的过程。图11A是示出具有四个子块的一个PU和其相邻块的示例的概念图。在用于推导STMVP的过程中，PU被拆分为正方形N×N子PU(例如，其中N被设置为4)。视频译码器可以以光栅扫描顺序递归地推导子PU的运动矢量。因此，用于块的STMVP可以包括用于该块的子PU中的每一者的运动信息集合(例如，运动矢量和参考索引)。在图11A的示例中，8×8PU 1100包含四个4×4子PU 1102A、1102B、1102C和1102D(统称为“子PU 1102”)。在图11A的示例中，子PU 1102被标记为A、B、C和D。在图11A中，当前帧中的相邻的N×N块1104A、1104B、1104C和1104D(统称为“相邻块1104”)被标记为a、b、c和d。
为了推导子PU A的运动矢量，视频译码器使用两个空间邻居1104B和1104C(b和c)和用于1102D(D)的一个时间运动矢量预测器。因此，如果视频译码器正在使用子PU来生成单向预测STMVP(即，单向预测子PU STMVP)，则视频译码器可以(1)将子PU 1102A(A)的列表X运动矢量的x分量设置为空间邻居1104B和1104C(b和c)的列表X运动矢量的x分量和用于1102D(D)的时间运动预测器的平均，并且(2)将子PU 1102A(A)的列表X运动矢量的y分量设置为空间邻居1104B和1104C(b和c)的列表X运动矢量的y分量和用于1104D(D)的时间运动预测器的平均，其中X为0或1。如果视频译码器正在生成双向预测子PU STMVP，则视频译码器可以以与上述相同的方式来确定子PU 1102A(A)的列表X运动矢量的x和y分量，并且可以以相同的方式(将X替换成Y)来确定子PU 1102A(A)的列表Y运动矢量的x和y分量。
在一些示例中，视频译码器使用两个空间邻居和一个时间运动矢量预测器来生成针对子PU中的每一者的STMVP。例如，视频译码器可以使用当前子PU的上方和左侧邻居和时间运动矢量预测器。对于子PU 1102B，视频译码器可以使用1104B和1104D(b和d)和用于1102D(D)的时间运动矢量预测器。对于子PU 1102C，视频译码器可以使用1104A和1104C(a和c)和用于1102D(D)的时间运动矢量预测器。对于子PU 1102D，视频译码器可以使用1104A和1104D(a和d)和用于1102D(D)的时间运动矢量预测器。
在其它示例中，视频译码器可以使用上方和左侧邻居以及时间运动矢量预测器。例如，对于子PU 1102B，视频译码器可以使用1104D和1102A(d和A)以及用于1102D(D)的时间运动矢量预测器。对于子PU 1102C，视频译码器可以使用1104A和1102A(a和A)以及用于1102D(D)的时间运动矢量预测器。对于子PU 1102D，视频译码器可以使用1102B和1102C以及用于1102D的时间运动矢量预测器。
图11B示出了用于推导STMVP的另一过程。在图11B的示例中，8×8PU 1110包含四个4×4子PU 1112A、1112B、1112C和1112D(统称为“子PU 1112”)。子PU 1112被标记为A、B、C和D。在图11B中，当前帧中的相邻N×N块1114A、1114B、1114C和1114D(统称为“相邻块1114”)被标记为a、b、c和d。
在图11B的示例中，视频译码器使用两个空间邻居1114B和1114C(b和c)以及两个时间运动预测器1112B和1112C(B和C)(而不是一个时间运动预测器)来推导子PU 1112A(A)的运动。
可以将非邻近空间合并候选预测技术用于将来的视频译码标准，诸如VVC。通过使用非邻近的空间合并候选，可以在大小方面增加合并候选列表，并且利用非邻近的空间相邻块来对其进行填充。图12是示出用于推导空间合并候选的示例空间相邻块的概念图。图12描绘了被标记为组1-5的五组空间相邻块。组1是邻近的空间相邻块的组并且表示如图9所示的块A0、A1、B0、B1和B2。组2-5是非邻近的空间相邻块。视频编码器200和视频解码器300可以使用非邻近的空间相邻块作为来自组2、组3、组4和/或组5的合并候选。
非子PU STMVP预测模式可以用于将来的视频译码标准，诸如VVC。图13是示出非子PU时空运动矢量预测器的示例的概念图。在图13的示例中，最多检查2个上方位置和2个左侧位置，即(位置_2(PU_宽度-1，-1)，位置_6(PU_宽度x 2，-1))(被示为位置2和6)、以及(位置_1(-1，PU_高度-1)，5(-1，PU_高度x 2))(被示为位置1和5)。通过对包括2个空间候选和1个时间候选的3个候选进行平均来生成非子PU STMVP。如果仅有两个候选是可用的，则通过对这两个候选进行平均来生成STMVP。如果仅有一个候选是可用的，则STMVP只是这一个运动矢量。
例如，为了通过对两个或更多个候选进行平均来生成单向预测非子PU STMVP，视频编码器(例如，视频编码器200或视频解码器300)可以将单向预测非子PU STMVP的列表A运动矢量的x分量设置为这些候选的列表A运动矢量的x分量的平均，其中A是0或1。另外，视频译码器可以将单向预测非子PU STMVP的列表A运动矢量的y分量设置为这些候选的列表A运动矢量的y分量的平均。为了通过对两个或更多个候选进行平均来生成双向预测非子PUSTMVP，视频译码器可以(1)将双向预测非子PU STMVP的列表A运动矢量的x分量设置为这些候选的列表A运动矢量的x分量的平均，其中A是0或1；(2)将双向预测非子PU STMVP的列表A运动矢量的y分量设置为这些候选的列表A运动矢量的y分量的平均；(3)将双向预测非子PUSTMVP的列表B运动矢量的x分量设置为这些候选的列表B运动矢量的x分量的平均，其中B是1-A；并且(4)将双向预测非子PU STMVP的列表B运动矢量的y分量设置为这些候选的列表B运动矢量的y分量的平均。
基于历史的运动矢量预测(HMVP)预测模式可以用于将来的视频译码标准，诸如VVC。在HMVP的情况下，视频译码器在编码和解码过程期间生成具有多个HMVP候选的表。视频译码器利用先前块所使用的运动矢量来填充该表。视频译码器应用先进先出(FIFO)规则来更新该表，并且视频译码器还在向该表中***新的HMVP候选时使用冗余校验。视频译码器可以在对经帧间预测的CU进行编码/解码时更新该表。视频译码器可以在合并模式和/或AMVP模式下使用HMVP表。在合并模式下，视频译码器可以将HMVP表中的运动矢量预测器添加到合并候选列表中。
可以组合地使用或单独地使用在本公开内容中提供的本公开内容的示例。这些示例可以由视频编码器200和视频解码器300中的任一者或两者来执行。
在许多视频标准以及视频编码器和解码器实现中，STMVP的生成需要运动矢量缩放操作。如上所述，视频译码器可以通过对三个运动矢量预测器的运动矢量进行平均来生成针对当前图片的块的STMVP：两个空间运动矢量预测器和一个时间运动矢量预测器。通常，三个运动矢量预测器的运动信息指示参考图片中的与相同对象相对应的位置。例如，三个运动矢量预测器的运动信息可以指示参考图片中的与在视频场景中正从左向右移动的汽车的前灯相对应的位置。如果三个运动矢量预测器中的第一运动矢量预测器具有指示与由第二和第三运动矢量预测器的运动信息指示的第二参考图片相比要早的第一参考图片中的位置的运动信息，则第一运动矢量预测器的运动信息的运动矢量在用于指示第二参考图片中的位置时可能太长或太短。例如，在涉及汽车前灯的示例中，第一运动矢量预测器的运动矢量可能指示位于前灯在第二参考图片中的位置的左侧的位置。因此，为了在STMVP中使用第一运动矢量预测器，视频译码器可以基于第一参考图片的POC值与当前图片的POC值之间的距离以及第二参考图片的POC值与当前图片的POC值之间的距离，来对第一运动矢量预测器的运动矢量进行缩放。例如，如果第一参考图片的POC值与当前图片的POC值之间的距离是第二参考图片的POC值与当前图片的POC值之间的距离的两倍，则视频译码器可以将第一运动矢量预测器的运动矢量的大小减小1/2。
然而，运动矢量缩放减慢了编码和解码过程，并且使编码器和解码器设计复杂化。例如，对用于生成STMVP所需要的运动矢量进行缩放可能延迟生成MV候选列表的过程。本公开内容的技术通过以避免运动矢量缩放的特定方式来生成STMVP，从而从视频编码器200和视频解码器300中移除STMVP的运动矢量缩放。这些技术可以加速编码和解码，可以简化视频编码器200和视频解码器300，并且可以在许多情况下允许并行处理。
根据本公开内容的技术，视频编码器200和视频解码器300可以根据具有相同的参考图片的候选来生成STMVP。例如，视频编码器200的运动估计单元222可以生成STMVP，并且运动补偿单元316可以生成STMVP，如下文所讨论的。本公开内容的技术可以用于生成子PUSTMVP和非子PU STMVP。本公开内容的技术可以用于从两个或更多个候选来推导运动矢量的领域。此外，本公开内容提出了可以从具有相同的参考图片的候选来推导STMVP。
图14是根据本公开内容的技术的译码的方法的流程图。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以生成用于运动矢量预测的候选列表(400)，如上文参照图9-13所讨论的。例如，视频编码器200和视频解码器300可以生成候选列表，该候选列表包括从第一相邻块推导的候选和从第二相邻块推导的候选，其中，第一相邻块是来自位于预定义位置的相邻块集合的第一可用相邻块，并且第二相邻块是位于预定义位置的另一相邻块集合当中的第一可用相邻块，如上文所讨论的。然后，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以确定候选列表中的两个或更多个候选是否具有彼此相同的参考图片(402)，即，这些候选的运动矢量指向相同的参考图片。换句话说，对于候选列表中的任何的第一候选和第二候选，如果：(1)第一候选和第二候选是单向候选并且第一候选和第二候选具有相同的列表0参考图片，(2)第一候选和第二候选是单向候选并且第一候选和第二候选具有相同的列表1参考图片，(3)第一候选是双向候选并且列表0参考图片与第二候选的列表0运动矢量相同，或者(4)第一候选是双向候选并且第一候选的列表1参考图片与第二候选的列表1参考图片相同，则第一候选可以被认为具有与第二参考图片相同的参考图片。列表X参考图片是列表X中的参考图片，并且列表X运动矢量是指示列表X参考图片中的位置的运动矢量，其中X是0或1。
在图14的示例中，如果候选列表中的候选中没有一个候选具有与这些候选中的任何其它候选相同的参考图片(402的“否”分支)，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以生成STMVP，而不对这些候选中的任何候选进行平均(404)。例如，视频译码器可以使用TMVP的运动矢量作为STMVP。在另一示例中，视频译码器可以使用空间运动矢量预测器的运动矢量作为STMVP。
在一些情况下，视频编码器200和视频解码器300可以使用双向预测来生成用于视频数据的当前块的预测块。图15是示出根据本公开内容的双向预测技术的概念图。在双向预测的情况下，视频编码器200和视频解码器300使用两个方向上的运动矢量：朝向列表0中的参考图片中的位置和朝向列表1中的参考图片中的位置。在图15中，示出了当前图片510内的当前块500。当使用双向预测时，当前块500具有列表0运动矢量502和列表1运动矢量504。视频编码器200和视频解码器300确定与由列表0运动矢量502在列表0参考图片520内标识的位置相对应的第一初步预测块。列表0参考图片520是参考图片列表0中的参考图片。另外，视频编码器200和视频解码器300确定与由列表1运动矢量504在列表1参考图片530内标识的位置相对应的第二初步预测块。列表1参考图片530是参考图片列表1中的图片。视频编码器200和视频解码器300可以基于第一初步预测块和第二初步预测块来生成用于当前块500的预测块。例如，用于当前块500的预测块中的每个样本可以等于第一初步预测块和第二初步预测块中的对应样本的平均。
返回参照图14，如果使用了双向预测(即，如果视频译码器正在生成双向预测STMVP)，并且这些候选在任一方向上都不具有相同的参考图片(402的“否”分支)，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以基于候选之一在L0方向上的运动矢量来生成在列表0方向上的STMVP，并且可以基于同一候选或不同候选在L1方向上的运动矢量来生成在L1方向上的STMVP(404)。换句话说，视频译码器可以生成双向预测STMVP，使得双向预测STMVP的列表0运动矢量指定候选之一的列表0运动矢量，并且使得双向预测STMVP的列表1运动矢量指定同一候选或不同候选的列表1运动矢量。
在其它示例中，如果没有候选具有相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)不生成STMVP。
如果候选中的两个或更多个候选具有彼此相同的参考图片(406的“是”分支)，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以选择具有彼此相同的参考图片的两个或更多个候选，并且基于所选择的候选的运动矢量来生成STMVP(406)。例如，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以将STMVP生成为具有彼此相同的参考图片的两个或更多个候选的列表0运动矢量的平均。在其它示例中，STMVP可以被生成为具有彼此相同的参考图片的两个或更多个候选的列表1运动矢量的平均。在其它示例中，STMVP可以是双向的，STMVP的列表0运动矢量可以被生成为两个或更多个候选的列表0运动矢量的平均，并且STMVP的列表1运动矢量可以被生成为两个或更多个候选的列表1运动矢量的平均。
在动作(404)或动作(406)中生成STMVP之后，视频编码器200和视频解码器300可以使用所生成的STMVP来对视频数据的当前块进行译码(408)。例如，为了使用所生成的STMVP来对视频数据的当前块进行编码，视频编码器200可以基于参考图片中的在由STMVP指示的位置处(或者，在子PU STMVP的情况下，在多个位置处)的样本来确定预测块。然后，视频编码器200可以生成指示当前块与参考块之间的差的残差数据。如在本公开内容中在别处描述的，视频编码器200可以向残差数据应用变换以生成变换系数，对变换系数进行量化，并且对指示经量化的变换系数的语法元素进行熵编码。
在一些示例中，为了使用所生成的STMVP来对视频数据的当前块进行解码，视频解码器300可以基于参考图片中的在由STMVP指示的位置处(或者，在子PU STMVP的情况下，在多个位置处)的样本来确定预测块。然后，视频解码器300可以将预测块的样本与残差数据相加以重构当前块。
在一些示例中，作为在动作(406)中生成STMVP的一部分，在使用双向预测(即，视频译码器正在生成双向预测STMVP)并且没有候选在一个方向上具有相同的参考图片(例如，列表0)但是两个或更多个候选在另一方向上具有相同的参考图片(例如，列表1)的情况下，视频编码器200和视频解码器300可以基于单个候选在没有候选具有相同的参考图片(例如，列表0)的方向上的运动矢量来生成在没有候选具有相同的参考图片(例如，列表0)的方向上的STMVP。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以基于在候选具有相同的参考图片(例如，列表1)的方向上具有相同的参考图片的候选来生成在候选具有相同的参考图片(例如，列表1)的方向上的STMVP。换句话说，在动作(406)中，为了在没有候选具有相同的列表X参考图片但是两个或更多个候选具有相同的列表Y参考图片时基于具有相同的参考图片的候选来生成双向预测STMVP，视频译码器可以将双向预测STMVP的列表X运动矢量设置为候选之一的列表X运动矢量，并且将双向预测STMVP的列表Y运动矢量设置为具有相同的列表Y参考图片的两个或更多个候选的列表Y运动矢量的平均。在该示例中，X等于0或1，并且Y等于1-X。
返回参照图13，在一个示例中，从一个上方候选6或2、一个左侧候选5或1以及TMVP来推导STMVP。在该示例中，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从6或2中选择具有与TMVP相同的参考图片的第一可用上方候选。如果TMVP使用双向预测，则视频编码器200和视频解码器300可以从6或2中选择在两个方向上具有相同的参考图片的候选。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从5或1中选择具有与TMVP相同的参考图片的第一可用左侧候选。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对第一可用上方候选、第一可用左侧候选和TMVP进行平均来生成STMVP。如果候选中仅有一个候选具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以对该候选和TMVP进行平均。如果没有候选具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以使用一个运动矢量，诸如TMVP运动矢量。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查上方候选和左侧候选以查看它们是否具有与TMVP相同的参考图片的顺序。
在一些示例中，如果视频编码器200和视频解码器300确定空间候选都不具有与TMVP相同的参考图片或者TMVP不可用，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从具有相同的参考图片的两个空间候选来推导STMVP。例如，在图15中，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从5或1中选择具有与候选6相同的参考图片的第一可用左侧候选，然后从该左侧候选和候选6来推导STMVP。如果视频编码器200和视频解码器300确定左侧候选都不具有与候选6相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从5或1中选择具有与候选2相同的参考图片的第一可用左侧候选，并且从该左侧候选和候选2来推导STMVP。在另一示例中，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从6或2中选择使用与候选5相同的参考图片的第一可用上方候选，并且从该上方候选和候选5来推导STMVP。如果视频编码器200和视频解码器300确定上方候选都不具有与候选5相同的参考，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从6或2中选择具有与候选1相同的参考图片的第一可用左侧候选，并且从上方候选和候选1来推导STMVP。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查上方候选和左侧候选以查看它们是否具有与TMVP相同的参考图片的顺序。
在使用双向预测的一些示例中，视频编码器200和视频解码器300可以单独地推导两个方向上的STMVP。例如，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以推导用于列表0方向的STMVP，从6或2中选择在列表0中具有与TMVP相同的参考图片的第一上方可用候选。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从5或1中选择在列表0中具有与TMVP相同的参考图片的第一可用左侧候选。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对在列表0方向上的所选择的上方候选、所选择的左侧候选和TMVP进行平均来生成列表0方向上的STMVP。如果候选中仅有一个候选在列表0方向上具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以对列表0方向上的候选和TMVP进行平均。如果没有候选在列表0方向上具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以使用列表0方向上的一个运动矢量，诸如列表0方向上的TMVP运动矢量。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以以相同方式来推导列表1方向上的STMVP。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查上方候选和左侧候选以查看它们是否具有与TVMP相同的参考图片的顺序。
在其它示例中，当使用双向预测时，如果视频编码器200和视频解码器300确定在列表0方向或列表0方向上空间候选都不具有与TMVP相同的参考图片或者TMVP不可用，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从两个空间候选来推导STMVP。例如，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从5或1中选择在列表0方向上具有与候选6相同的参考图片的第一可用左侧候选，然后从该左侧候选和候选6来推导列表0方向上的STMVP。如果左侧候选都不具有与候选6相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从5或1中选择在列表0方向上具有与候选2相同的参考图片的第一可用左侧候选，然后从该左侧候选和候选2来推导列表0方向上的STMVP。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以以相同方式来推导列表1方向上的STMVP。
在另一示例中，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以选择6或2中的在列表0方向上具有与候选5相同的参考的第一可用上方候选，并且然后从该上方候选和候选5来推导列表0方向上的STMVP。如果视频编码器200和视频解码器300确定上方候选都不具有与候选5相同的参考，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以选择6或2中的在列表0方向上具有与候选1相同的参考的第一可用左侧候选，并且从该上方候选和候选1来推导列表0方向上的STMVP。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以以相同方式来推导列表1方向上的STMVP。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查上方候选和左侧候选以查看它们是否具有与TVMP相同的参考图片的顺序。
在运动矢量预测器列表生成的另一示例中，在合并模式下，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以在合并列表中选择具有与TMVP相同的参考图片的前2个可用候选。然后，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对具有与TMVP相同的参考图片的前两个候选和TMVP本身进行平均来生成STMVP。如果视频编码器200和视频解码器300确定候选中仅有一个候选具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对该候选和TMVP进行平均来生成STMVP。如果视频编码器200和视频解码器300确定候选都不具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从单个运动矢量(诸如TMVP运动矢量)来生成STMVP。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查合并候选以查看它们是否具有与TVMP相同的参考图片的顺序。例如，该顺序可以与合并列表中的候选的顺序相同，或者是合并列表中的候选的不同顺序(例如，合并列表中的候选的逆序)。
在使用双向预测来生成运动矢量预测器列表的另一示例中，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以单独地推导两个方向上的STMVP。例如，在合并模式下，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以选择第一候选集合，该第一候选集合包括合并列表中的在列表0方向上具有与TMVP相同的参考图片的前2个可用候选。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对3个候选(即，合并列表中的在列表0方向上具有与TMVP相同的参考图片的前2个可用候选以及列表0方向上的TMVP本身)进行平均来生成列表0方向上的STMVP。如果视频编码器200和视频解码器300确定候选中仅有一个候选在列表0方向上具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对该候选和TMVP进行平均来生成STMVP。如果视频编码器200和视频解码器300确定候选都不具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从单个运动矢量(诸如TMVP运动矢量)来生成STMVP。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查合并候选以查看它们是否具有与TVMP相同的参考图片的顺序。例如，该顺序可以与合并列表中的候选的顺序相同，或者是合并列表中的候选的不同顺序(例如，合并列表中的候选的逆序)。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以以相同的方式但使用第二候选集合来推导列表1方向上的STMVP，该第二候选集合与第一候选集合可以相同或者可以不同。
在另一示例中，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从HMVP表中的候选和TMVP来推导STMVP。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以在HMVP表中选择具有与TMVP相同的参考图片的前2个可用候选。然后，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对3个候选(即，HMVP表中的具有与TMVP相同的参考图片的前2个可用候选以及TMVP本身)进行平均来生成STMVP。如果视频编码器200和视频解码器300确定HMVP表中的候选中仅有一个候选具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对该候选和TMVP进行平均来生成STMVP。如果视频编码器200和视频解码器300确定HMVP表中的候选都不具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从单个运动矢量(诸如TMVP运动矢量)来生成STMVP。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查HMVP候选以确定HMVP候选是否具有与TVMP相同的参考图片的顺序。例如，该顺序可以与HMVP表中的候选的顺序相同，或者可以是HMVP表中的候选的逆序。
在使用双向预测来生成运动矢量预测器列表(生成是双向预测)的一个示例中，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以从HMVP表中的候选和TMVP来在两个方向上单独地推导STMVP。例如，视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以在HMVP表中选择在列表0方向上具有与TMVP相同的参考图片的前2个可用候选。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对3个候选(即，HMVP表中的在列表0方向上具有与TMVP相同的参考图片的前2个可用候选以及TMVP本身)进行平均来生成列表0方向上的STMVP。如果视频编码器200和视频解码器300确定HMVP表中的候选中仅有一个候选在列表0方向上具有与TMVP相同的参考图片，则视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以通过对该候选和TMVP进行平均来生成STMVP。如果视频编码器200和视频解码器300确定HMVP表中的候选在列表0方向上都不具有与TMVP相同的参考图片，则视频编码器200和视频解码器300可以从单个运动矢量(诸如TMVP运动矢量)来生成STMVP。可以在视频编码器200和视频解码器300两者中预定义视频编码器200和视频解码器300可以检查HMVP候选以查看HMVP候选在列表0方向上是否具有与TVMP相同的参考图片的顺序。例如，该顺序可以与HMVP表中的候选的顺序相同，或者可以是HMVP表中的候选的逆序。视频编码器200(例如，视频编码器200的运动估计单元222)和视频解码器300(例如，视频解码器300的运动补偿单元316)可以以相同方式来推导列表1方向上的STMVP。
在一些示例中，视频编码器200和视频解码器300使用与上文讨论的空间候选不同的空间候选。参照图12，视频编码器200和视频解码器300可以从任何相邻位置选择空间候选，而不仅仅是组1的邻近位置。例如，视频编码器200和视频解码器300可以使用组2、组3、组4和/或组5中的空间候选。可以在编码器侧(例如，视频编码器200)和解码器侧(例如，视频解码器300)两者预定义或者可以在参数集中从视频编码器200向视频解码器300发送视频编码器200和视频解码器300可以使用的空间候选。
在一些示例中，由视频编码器200和视频解码器300用于推导STMVP的TMVP的位置可以与在HEVC中定义的TMVP的位置相同。在其它示例中，由视频编码器200和视频解码器300用于推导STMVP的TMVP的位置可以不同于在HEVC中定义的TMVP的位置。在一些示例中，视频编码器200和视频解码器300从预定义的对应块来推导TMVP。可以在编码器侧(例如，视频编码器200)和解码器侧(例如，视频解码器300)两者预定义或者可以在参数集中从视频编码器200向视频解码器300发送由视频编码器200和视频解码器300用于推导STMVP的TMVP的位置。
在一些示例中，视频编码器200和视频解码器300可以推导一个以上的STMVP候选。例如，视频编码器200和视频解码器300可以推导第一STMVP和第二STMVP并且将两者包括在候选列表中。可以根据本公开内容的任何技术来推导这些STMVP候选。
在一些示例中，可以在编码器侧(例如，视频编码器200)和解码器侧(例如，视频解码器300)两者预定义或者可以在参数集中从视频编码器200向视频解码器300发送运动矢量预测器列表(诸如合并列表)中的STMVP的位置。例如，视频编码器200和视频解码器300可以将STMVP添加到运动矢量预测器列表中在高级TMVP之后。
在一些示例中，可以在编码器侧(例如，视频编码器200)和解码器侧(例如，视频解码器300)两者预定义或者可以由视频编码器200经由序列参数集(SPS)、图片参数集(PPS)、切片报头或在CU级别用信号向视频解码器300通知视频编码器200和视频解码器300用于生成STMVP的候选的位置集合、运动矢量预测器列表中的STMVP的位置以及STMVP候选的数量。
要认识到的是，根据示例，本文描述的任何技术的某些动作或事件可以以不同的顺序来执行，可以被添加、合并或完全省略(例如，并非所有描述的动作或事件对于实施所述技术都是必要的)。此外，在某些示例中，动作或事件可以例如通过多线程处理、中断处理或多个处理器并发地而不是顺序地执行。
在一个或多个示例中，所描述的功能可以用硬件、软件、固件或其任何组合来实现。如果用软件来实现，则所述功能可以作为一个或多个指令或代码存储在计算机可读介质上或者通过其进行传输并且由基于硬件的处理单元执行。计算机可读介质可以包括计算机可读存储介质，其对应于诸如数据存储介质之类的有形介质或者通信介质，所述通信介质包括例如根据通信协议来促进计算机程序从一个地方传送到另一个地方的任何介质。以这种方式，计算机可读介质通常可以对应于(1)非暂时性的有形计算机可读存储介质、或者(2)诸如信号或载波之类的通信介质。数据存储介质可以是可以由一个或多个计算机或者一个或多个处理器访问以取得用于实现在本公开内容中描述的技术的指令、代码和/或数据结构的任何可用的介质。计算机程序产品可以包括计算机可读介质。
举例来说而非进行限制，这样的计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备、闪存、或者能够用于以指令或数据结构形式存储期望的程序代码以及能够由计算机访问的任何其它介质。此外，任何连接被适当地称为计算机可读介质。例如，如果使用同轴电缆、光纤光缆、双绞线、数字用户线(DSL)或者无线技术(例如，红外线、无线电和微波)从网站、服务器或其它远程源传输指令，则同轴电缆、光纤光缆、双绞线、DSL或者无线技术(例如，红外线、无线电和微波)被包括在介质的定义中。然而，应当理解的是，计算机可读存储介质和数据存储介质不包括连接、载波、信号或其它暂时性介质，而是替代地针对非暂时性的有形存储介质。如本文所使用的，磁盘和光盘包括压缩光盘(CD)、激光光盘、光盘、数字多功能光盘(DVD)、软盘和蓝光光盘，其中，磁盘通常磁性地复制数据，而光盘利用激光来光学地复制数据。上述各项的组合也应当被包括在计算机可读介质的范围之内。
指令可以由一个或多个处理器来执行，诸如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、或其它等效的集成或分立逻辑电路。因此，如本文所使用的术语“处理器”可以指代前述结构中的任何一者或者适于实现本文描述的技术的任何其它结构。另外，在一些方面中，本文描述的功能可以在被配置用于编码和解码的专用硬件和/或软件模块内提供，或者被并入经组合的编解码器中。此外，所述技术可以完全在一个或多个电路或逻辑元件中实现。
本公开内容的技术可以在多种多样的设备或装置中实现，包括无线手机、集成电路(IC)或一组IC(例如，芯片组)。在本公开内容中描述了各种组件、模块或单元以强调被配置为执行所公开的技术的设备的功能性方面，但是不一定需要通过不同的硬件单元来实现。确切而言，如上所述，各种单元可以被组合在编解码器硬件单元中，或者由可互操作的硬件单元的集合(包括如上所述的一个或多个处理器)结合适当的软件和/或固件来提供。
已经描述了各个示例。这些和其它示例在跟随的权利要求的范围内。

Claims (30)

1.一种对视频数据进行译码的方法，所述方法包括：
生成候选列表；
确定所述候选列表中的两个或更多个候选是否具有相同的参考图片；
基于所述候选列表中的具有相同的参考图片的所述两个或更多个候选来生成时空运动矢量预测器(STMVP)；以及
使用所述STMVP来对所述视频数据的当前块进行译码。
2.根据权利要求1所述的方法，其中，所述候选列表包括时间运动矢量预测器(TMVP)，并且生成所述STMVP包括：
基于所述TMVP和以下各项中的一项或多项的平均来生成所述STMVP：(i)所述候选列表中的从位于所述当前块上方的第一相邻块推导出的候选，或者(ii)所述候选列表中的从位于所述当前块的左侧的第二相邻块推导出的候选，
其中，所述第一相邻块是位于所述当前块上方的相邻块集合当中的、具有与所述TMVP相同的参考图片的第一可用块，并且
其中，所述第二相邻块是位于所述当前块的左侧的相邻块集合当中的、具有与所述TMVP相同的参考图片的第一可用块。
3.根据权利要求1所述的方法，其中，生成所述STMVP包括：
基于在所述候选列表中不存在具有与针对所述当前块的TMVP相同的参考图片的空间候选或者针对所述当前块的所述TMVP不可用，基于所述候选列表中的具有相同的参考图片的两个空间候选的平均来生成所述STMVP。
4.根据权利要求1所述的方法，其中，所述STMVP是双向的，并且生成所述STMVP包括：在每个方向上单独地推导所述STMVP。
5.根据权利要求1所述的方法，其中，所述STMVP是双向的，并且生成所述STMVP包括：基于在所述候选列表中不存在具有与所述当前块的TMVP相同的参考图片的空间候选或者基于所述当前块的所述TMVP不可用：
基于所述候选列表中的具有相同的参考图片的两个空间候选的列表0运动矢量的平均来生成所述STMVP的列表0运动矢量；以及
基于所述候选列表中的具有相同的参考图片的两个空间候选的列表1运动矢量的平均来生成所述STMVP的列表1运动矢量。
6.根据权利要求1所述的方法，其中，所述候选列表是合并候选列表，并且生成所述STMVP包括：
在所述候选列表中选择根据顺序首先出现在所述候选列表中的、具有与TMVP相同的参考图片的多达两个候选；以及
基于所述TMVP和所选择的候选中的一者或多者来生成所述STMVP。
7.根据权利要求1所述的方法，其中，所述STMVP是双向的，并且生成所述STMVP包括：
在所述候选列表中选择根据顺序首先出现在所述候选列表中的、在列表0方向上具有与TMVP相同的参考图片的多达两个候选的第一集合；
在所述候选列表中选择根据所述顺序或不同顺序首先出现在所述候选列表中的、在列表1方向上具有与所述TMVP相同的参考图片的多达两个候选的第二集合；
基于所述TMVP的列表0运动矢量和所述第一候选集合中的候选的运动矢量中的一者或多者来生成所述STMVP的列表0运动矢量；以及
基于所述TMVP的列表1运动矢量和所述第二候选集合中的候选的运动矢量中的一者或多者来生成所述STMVP的列表1运动矢量。
8.根据权利要求1所述的方法，其中，生成所述STMVP包括：
从基于历史的运动矢量预测(HMVP)表中的一个或多个候选和TMVP来推导所述STMVP。
9.根据权利要求1所述的方法，其中，所述STMVP是双向的，并且生成所述STMVP包括：
基于在基于历史的运动矢量预测(HMVP)表中的一个或多个候选和TMVP来单独地生成所述STMVP的列表0运动矢量和所述STMVP的列表1运动矢量。
10.根据权利要求1所述的方法，其中，生成所述候选列表包括：根据处于预定义位置集合处的块的运动信息来生成所述候选列表。
11.根据权利要求1所述的方法，其中，生成所述候选列表包括：根据处于在比特流中用信号通知的位置集合处的块的运动信息来生成所述候选列表，所述比特流包括所述视频数据的经编码的表示。
12.根据权利要求1所述的方法，其中，所述STMVP是第一STMVP，并且所述方法还包括：
生成第二STMVP；以及
将所述第一STMVP和所述第二STMVP包括在所述候选列表中。
13.根据权利要求1所述的方法，还包括：
在所述候选列表中的预定义位置处包括所述STMVP。
14.根据权利要求1所述的方法，还包括：
在所述候选列表中的位置处包括所述STMVP，其中，所述位置是在包括所述视频数据的经编码的表示的比特流中用信号通知的。
15.根据权利要求1所述的方法，其中，以下各项中的至少一项是在编码器和解码器两者中预定义的：生成所述STMVP所根据的候选、所述STMVP在所述候选列表中的位置、或所述候选列表中的STMVP候选的数量。
16.根据权利要求1所述的方法，其中，以下各项中的至少一项是在包括所述视频数据的经编码的表示的比特流中用信号通知的：生成所述STMVP所根据的候选、所述STMVP在所述候选列表中的位置、或所述候选列表中的STMVP候选的数量。
17.一种用于对视频数据进行译码的设备，包括：
存储器，其被配置为存储所述视频数据的当前块；以及
耦合到所述存储器的一个或多个处理器，所述一个或多个处理器被配置为：
生成候选列表；
确定所述候选列表中的两个或更多个候选是否具有相同的参考图片；
基于所述候选列表中的具有相同的参考图片的所述两个或更多个候选来生成时空运动矢量预测器(STMVP)；以及
使用所述STMVP来对所述视频数据的所述当前块进行译码。
18.根据权利要求17所述的设备，其中，所述候选列表包括时间运动矢量预测器(TMVP)，并且所述一个或多个处理器还被配置为：基于所述TMVP和以下各项中的至少一项的平均来生成所述STMVP：(i)所述候选列表中的从位于所述当前块上方的第一相邻块推导出的候选，或者(ii)所述候选列表中的从位于所述当前块的左侧的第二相邻块推导出的候选，
其中，所述第一相邻块是位于所述当前块上方的相邻块集合当中的、具有与所述TMVP相同的参考图片的第一可用块，并且
其中，所述第二相邻块是位于所述当前块的左侧的相邻块集合当中的、具有与所述TMVP相同的参考图片的第一可用块。
19.根据权利要求17所述的设备，其中，所述一个或多个处理器还被配置为：当在所述候选列表中不存在具有与用于所述当前块的TMVP相同的参考图片的空间候选或者用于所述当前块的所述TMVP不可用时，基于所述候选列表中的具有相同的参考图片的两个空间候选的平均来生成所述STMVP。
20.根据权利要求17所述的设备，其中，所述一个或多个处理器还被配置为：
通过在每个方向上单独地推导所述STMVP来生成所述STMVP。
21.根据权利要求17所述的设备，其中，所述STMVP是双向的，并且所述一个或多个处理器还被配置为：
基于所述候选列表中的具有相同的参考图片的两个空间候选的列表0运动矢量的平均来生成所述STMVP的列表0运动矢量；以及
当在所述候选列表中不存在使用与所述当前块的TMVP相同的参考图片的空间候选或者所述当前块的所述TMVP不可用时，基于所述候选列表中的具有相同的参考图片的两个空间候选的列表1运动矢量的平均来生成所述STMVP的列表1运动矢量。
22.根据权利要求17所述的设备，其中，所述候选列表是合并候选列表，并且所述一个或多个处理器还被配置为：
在所述候选列表中选择根据顺序首先出现在所述候选列表中的、具有与TMVP相同的参考图片的多达两个候选；以及
基于所述TMVP和所选择的候选中的一者或多者来生成所述STMVP。
23.根据权利要求17所述的设备，其中，所述STMVP是双向的，并且所述一个或多个处理器还被配置为：
在所述候选列表中选择根据顺序首先出现在所述候选列表中的多达两个候选的第一集合，所述第一候选集合中的每个候选在列表0方向上具有与TMVP相同的参考图片；
在所述候选列表中选择根据所述顺序或不同顺序首先出现在所述候选列表中的多达两个候选的第二集合，所述第二候选集合中的每个候选在列表1方向上具有与所述TMVP相同的参考图片；
基于所述TMVP的列表0运动矢量和所述第一候选集合中的候选的运动矢量中的一者或多者来生成所述STMVP的列表0运动矢量；以及
基于所述TMVP的列表1运动矢量和所述第二候选集合中的候选的运动矢量中的一者或多者来生成所述STMVP的列表1运动矢量。
24.根据权利要求17所述的设备，其中，所述一个或多个处理器还被配置为：
从基于历史的运动矢量预测(HMVP)表中的一个或多个候选和TMVP来推导所述STMVP。
25.根据权利要求17所述的设备，其中，所述STMVP是双向的，并且所述一个或多个处理器还被配置为：
基于在基于历史的运动矢量预测(HMVP)表中的一个或多个候选和TMVP来单独地生成所述STMVP的列表0运动矢量和所述STMVP的列表1运动矢量。
26.根据权利要求17所述的设备，其中，所述一个或多个处理器还被配置为：
根据处于预定义位置集合处的块的运动信息来生成所述候选列表。
27.根据权利要求17所述的设备，其中，所述一个或多个处理器还被配置为：
根据处于在比特流中用信号通知的位置集合处的块的运动信息来生成所述候选列表，所述比特流包括所述视频数据的经编码的表示。
28.根据权利要求17所述的设备，其中，所述STMVP是第一STMVP，并且所述一个或多个处理器还被配置为：
生成第二STMVP；以及
将所述第一STMVP和所述第二STMVP包括在所述候选列表中。
29.一种具有存储在其上的指令的计算机可读存储介质，所述指令在被执行时使得一个或多个处理器进行以下操作：
生成候选列表；
确定所述候选列表中的两个或更多个候选是否具有相同的参考图片；
基于所述候选列表中的被确定为具有相同的参考图片的所述候选来生成时空运动矢量预测器(STMVP)；以及
使用所述STMVP来对视频数据的当前块进行译码。
30.一种用于对视频数据进行译码的设备，包括：
用于生成候选列表的单元；
用于确定所述候选列表中的两个或更多个候选是否具有相同的参考图片的单元；
用于基于所述候选列表中的具有相同的参考图片的所述两个或更多个候选来生成时空运动矢量预测器(STMVP)的单元；以及
用于使用所述STMVP来对所述视频数据的当前块进行译码的单元。
CN201980063991.9A 2018-10-04 2019-10-04 时空运动矢量预测的简化 Active CN112771871B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201862741413P 2018-10-04 2018-10-04
US62/741,413 2018-10-04
US16/592,005 2019-10-03
US16/592,005 US11064192B2 (en) 2018-10-04 2019-10-03 Simplification of spatial-temporal motion vector prediction
PCT/US2019/054747 WO2020072935A1 (en) 2018-10-04 2019-10-04 Simplification of spatial-temporal motion vector prediction

Publications (2)

Publication Number Publication Date
CN112771871A true CN112771871A (zh) 2021-05-07
CN112771871B CN112771871B (zh) 2024-07-26

Family

ID=

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104170381A (zh) * 2012-03-16 2014-11-26 高通股份有限公司 在高效率视频译码及其扩展中的运动矢量译码及双向预测
CN108605136A (zh) * 2016-02-15 2018-09-28 高通股份有限公司 基于图片次序计数的运动矢量精简

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104170381A (zh) * 2012-03-16 2014-11-26 高通股份有限公司 在高效率视频译码及其扩展中的运动矢量译码及双向预测
CN108605136A (zh) * 2016-02-15 2018-09-28 高通股份有限公司 基于图片次序计数的运动矢量精简

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
F. LE LÉANNEC 等: "CE4 related: simplified non-sub-block STMVP", 《JOINT VIDEO EXPERTS TEAM (JVET) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11》, pages 1 - 11 *
JAEHO LEE 等: "CE4-related: Composite merge candidate", 《JOINT VIDEO EXPERTS TEAM (JVET) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11》, pages 1 - 3 *

Also Published As

Publication number Publication date
US20200112716A1 (en) 2020-04-09
EP3861747A1 (en) 2021-08-11
US11064192B2 (en) 2021-07-13
WO2020072935A1 (en) 2020-04-09

Similar Documents

Publication Publication Date Title
CN113196749B (zh) 用于译码视频数据的方法和设备
CN112534821B (zh) 运动向量预测子列表生成
CN113170180A (zh) 基于历史的运动矢量预测的简化
CN112262580B (zh) 用于视频编码的解码器侧运动矢量推导
WO2020061490A1 (en) History-based motion vector prediction for affine mode
KR20210046677A (ko) 애파인 모션 예측
CN113812148A (zh) 用于视频译码的参考图片重采样和帧间译码工具
JP2022521979A (ja) デコーダ側動きベクトル改良に対する制約
CN115336279A (zh) 视频译码中的一般约束信息语法
CN114128259A (zh) 用于视频译码的合并模式译码
WO2020069329A1 (en) Ultimate motion vector expression with adaptive directional information set
JP7474774B2 (ja) ビデオコーディングにおけるイントラブロックコピーモードのための動きベクトル予測子リスト生成
CN113508594A (zh) 视频编解码中三角形合并模式索引的信令
CN114128261A (zh) 用于视频译码的组合的帧间和帧内预测模式
CN112534820B (zh) 信令通知子预测单元运动矢量预测器
CN113170162B (zh) 用于视频译码的共享候选列表和并行候选列表推导
US11064192B2 (en) Simplification of spatial-temporal motion vector prediction
CN113940079A (zh) 用于视频译码的基于梯度的预测细化
WO2020056024A1 (en) Vector predictor list generation
CN113892264A (zh) 使用非矩形预测模式来减少用于视频数据预测的运动场存储
CN114009039A (zh) 视频译码中的时间运动矢量预测候选的推导
KR20230169958A (ko) 인터-예측 모드들에서의 템플릿 매칭 정세화
KR20220062521A (ko) 비디오 코딩에서 bdof 및 dmvr 의 조화된 조기 종료
CN115997381A (zh) 视频译码中具有色度缩放的亮度映射映射域中的局部照度补偿的模型参数推导
CN114073079A (zh) 带有运动信息采集缓冲器的运动矢量预测

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant