CN118202657A - 点云数据发送装置和方法以及点云数据接收装置和方法 - Google Patents
点云数据发送装置和方法以及点云数据接收装置和方法 Download PDFInfo
- Publication number
- CN118202657A CN118202657A CN202280073385.7A CN202280073385A CN118202657A CN 118202657 A CN118202657 A CN 118202657A CN 202280073385 A CN202280073385 A CN 202280073385A CN 118202657 A CN118202657 A CN 118202657A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- attribute
- cloud data
- points
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 228
- 239000000463 material Substances 0.000 claims description 47
- 230000005540 biological transmission Effects 0.000 abstract description 62
- 230000008569 process Effects 0.000 description 54
- 238000007906 compression Methods 0.000 description 51
- 230000006835 compression Effects 0.000 description 50
- 238000013139 quantization Methods 0.000 description 31
- 230000011664 signaling Effects 0.000 description 27
- 230000000875 corresponding effect Effects 0.000 description 20
- 238000005516 engineering process Methods 0.000 description 20
- 230000015654 memory Effects 0.000 description 17
- 230000006870 function Effects 0.000 description 16
- 230000009466 transformation Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 12
- 238000009877 rendering Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 230000014509 gene expression Effects 0.000 description 6
- 210000003128 head Anatomy 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000002310 reflectometry Methods 0.000 description 5
- 239000012634 fragment Substances 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 210000003423 ankle Anatomy 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 230000006837 decompression Effects 0.000 description 3
- 210000000245 forearm Anatomy 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000007774 longterm Effects 0.000 description 3
- 102100029091 Exportin-2 Human genes 0.000 description 2
- 101710147878 Exportin-2 Proteins 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000005538 encapsulation Methods 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000005192 partition Methods 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000010187 selection method Methods 0.000 description 2
- WPNJAUFVNXKLIM-UHFFFAOYSA-N Moxonidine Chemical compound COC1=NC(C)=NC(Cl)=C1NC1=NCCN1 WPNJAUFVNXKLIM-UHFFFAOYSA-N 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/177—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/96—Tree coding, e.g. quad-tree coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
根据实施方式的点云数据发送方法可以包括以下步骤:对点云数据进行编码;以及发送包括点云数据的比特流。根据实施方式的点云数据发送方法可以包括以下步骤:接收包括点云数据的比特流;以及对点云数据进行解码。
Description
技术领域
实施方式涉及一种用于处理点云内容的方法和装置。
背景技术
点云内容是由点云表示的内容,点云是属于表示三维空间的坐标系的点集合。点云内容可表达在三个维度配置的媒体,并且用于提供诸如虚拟现实(VR)、增强现实(AR)、混合现实(MR)和自驾驶服务的各种服务。然而,需要数万至数十万的点数据来表示点云内容。因此,需要一种高效地处理大量点数据的方法。
发明内容
技术问题
实施方式提供了一种用于高效地处理点云数据的装置和方法。实施方式提供了一种用于解决延迟和编码/解码复杂度的点云数据处理方法和装置。
实施方式的技术范围不限于上述技术目的,可扩展至本领域技术人员基于本文所公开的整个内容可推断出的其它技术目的。
技术方案
为了实现这些目的和其他优点,并且根据本公开的目的,如本文所体现和广泛描述的,一种发送点云数据的方法可以包括:对点云数据进行编码;以及发送包含点云数据的比特流。在本公开的另一方面,一种接收点云数据的方法可以包括:接收包含点云数据的比特流;以及对点云数据进行解码。
有益效果
根据实施方式的装置和方法可高效地处理点云数据。
根据实施方式的装置和方法可提供高质量的点云服务。
根据实施方式的装置和方法可提供点云内容以用于提供诸如VR服务和自驾驶服务的通用服务。
附图说明
附图被包括以提供本公开的进一步理解,并且被并入本申请中并构成本申请的一部分,附图示出本公开的实施方式并与描述一起用于说明本公开的原理。为了更好地理解下面描述的各种实施方式,应该结合附图参考以下实施方式的描述。贯穿附图将使用相同的标号来表示相同或相似的部分。附图中:
图1示出了根据实施方式的示例性点云内容提供***。
图2是示出了根据实施方式的点云内容提供操作的框图。
图3示出了根据实施方式的捕获点云视频的示例性处理。
图4示出了根据实施方式的示例性点云编码器。
图5示出了根据实施方式的体素的示例。
图6示出了根据实施方式的八叉树和占用代码的示例。
图7示出了根据实施方式的邻居节点图案的示例。
图8示出了根据实施方式的各个LOD中的点配置的示例。
图9示出了根据实施方式的各个LOD中的点配置的示例。
图10示出了根据实施方式的点云解码器。
图11示出了根据实施方式的点云解码器。
图12示出了根据实施方式的发送装置。
图13示出了根据实施方式的接收装置。
图14示出了根据实施方式的可与点云数据发送/接收方法/装置结合操作的示例性结构。
图15示出了根据实施方式的根据材料ID进行分组的示例;
图16示出了根据实施方式的八叉树结构中的每个相似属性的分组的示例;
图17示出了根据实施方式的搜索邻居点集的方法的示例;
图18示出了根据实施方式的点云数据发送装置;
图19示出了根据实施方式的点云数据接收装置;
图20示出了根据实施方式的包括点云数据和/或参数的比特流;
图21示出了根据实施方式的序列参数集的语法;
图22示出了根据实施方式的属性参数集的语法;
图23示出了根据实施方式的拼块参数集的语法;
图24示出了根据实施方式的属性数据头的语法;
图25示出了根据实施方式的发送点云数据的方法;以及
图26示出了根据实施方式的接收点云数据的方法。
具体实施方式
现在将详细参考本公开的优选实施方式,其示例示出于附图中。下面将参照附图给出的详细描述旨在说明本公开的示例性实施方式,而非示出可根据本公开实现的仅有实施方式。以下详细描述包括具体细节以便提供本公开的彻底理解。然而,对于本领域技术人员而言将显而易见的是,本公开可在没有这些具体细节的情况下实践。
尽管本公开中使用的大多数术语选自本领域中广泛使用的通用术语,但是一些术语由申请人任意选择并且在以下描述中根据需要详细说明其含义。因此,本公开应该基于术语的预期含义而非其简单名称或含义来理解。
图1示出了根据实施方式的示例性点云内容提供***。
图1所示的点云内容提供***可包括发送装置10000和接收装置10004。发送装置10000和接收装置10004能够有线或无线通信以发送和接收点云数据。
根据实施方式的点云数据发送装置10000可取得和处理点云视频(或点云内容)并将其发送。根据实施方式,发送装置10000可包括固定站、基站收发器***(BTS)、网络、人工智能(AI)装置和/或***、机器人、AR/VR/XR装置和/或服务器。根据实施方式,发送装置10000可包括被配置成使用无线电接入技术(例如,5G新RAT(NR)、长期演进(LTE))与基站和/或其它无线装置执行通信的装置、机器人、车辆、AR/VR/XR装置、便携式装置、家用电器、物联网(IoT)装置和AI装置/服务器。
根据实施方式的发送装置10000包括点云视频获取器10001、点云视频编码器10002和/或发送器(或通信模块)10003。
根据实施方式的点云视频获取器10001通过诸如捕获、合成或生成的处理过程来获取点云视频。点云视频是由点云表示的点云内容,点云是位于3D空间中的点集合,并且可被称为点云视频数据。根据实施方式的点云视频可包括一个或更多个帧。一个帧表示静止图像/画面。因此,点云视频可包括点云图像/帧/画面,并且可被称为点云图像、帧或画面。
根据实施方式的点云视频编码器10002对所获取的点云视频数据进行编码。点云视频编码器10002可基于点云压缩编码对点云视频数据进行编码。根据实施方式的点云压缩编码可包括基于几何的点云压缩(G-PCC)编码和/或基于视频的点云压缩(V-PCC)编码或下一代编码。根据实施方式的点云压缩编码不限于上述实施方式。点云视频编码器10002可输出包含编码的点云视频数据的比特流。比特流可不仅包含编码的点云视频数据,而且包括与点云视频数据的编码有关的信令信息。
根据实施方式的发送器10003发送包含编码的点云视频数据的比特流。根据实施方式的比特流被封装在文件或片段(例如,流片段)中,并且经由诸如广播网络和/或宽带网络的各种网络发送。尽管图中未示出,发送装置10000可包括被配置成执行封装操作的封装器(或封装模块)。根据实施方式,封装器可包括在发送器10003中。根据实施方式,文件或片段可经由网络发送到接收装置10004,或者存储在数字存储介质(例如,USB、SD、CD、DVD、蓝光、HDD、SSD等)中。根据实施方式的发送器10003能够经由4G、5G、6G等网络与接收装置10004(或接收器10005)有线/无线通信。另外,发送器可根据网络***(例如,4G、5G或6G通信网络***)执行必要的数据处理操作。发送装置10000可按照按需方式发送封装的数据。
根据实施方式的接收装置10004包括接收器10005、点云视频解码器10006和/或渲染器10007。根据实施方式,接收装置10004可包括被配置成使用无线电接入技术(例如,5G新RAT(NR)、长期演进(LTE))与基站和/或其它无线装置执行通信的装置、机器人、车辆、AR/VR/XR装置、便携式装置、家用电器、物联网(IoT)装置和AI装置/服务器。
根据实施方式的接收器10005从网络或存储介质接收包含点云视频数据的比特流或者封装有比特流的文件/片段。接收器10005可根据网络***(例如,4G、5G、6G等的通信网络***)执行必要的数据处理。根据实施方式的接收器10005可将所接收的文件/片段解封装并输出比特流。根据实施方式,接收器10005可包括被配置成执行解封装操作的解封装器(或解封装模块)。解封装器可被实现为与接收器10005分离的元件(或组件)。
点云视频解码器10006将包含点云视频数据的比特流解码。点云视频解码器10006可根据点云视频数据被编码的方法(例如,按点云视频编码器10002的操作的逆过程)来将点云视频数据解码。因此,点云视频解码器10006可通过执行点云解压缩编码(点云压缩的逆过程)来将点云视频数据解码。点云解压缩编码包括G-PCC编码。
渲染器10007渲染解码的点云视频数据。渲染器10007可通过不仅渲染点云视频数据,而且渲染音频数据来输出点云内容。根据实施方式,渲染器10007可包括被配置成显示点云内容的显示器。根据实施方式,显示器可被实现为单独的装置或组件而非包括在渲染器10007中。
图中由虚线指示的箭头表示接收装置10004所获取的反馈信息的传输路径。反馈信息是反映与消费点云内容的用户的交互性的信息,并且包括关于用户的信息(例如,头部取向信息、视口信息等)。具体地,当点云内容是用于需要与用户交互的服务(例如,自驾驶服务等)的内容时,反馈信息可被提供给内容发送方(例如,发送装置10000)和/或服务提供商。根据实施方式,反馈信息可在接收装置10004以及发送装置10000中使用,或者可不提供。
根据实施方式的头部取向信息是关于用户的头部位置、取向、角度、运动等的信息。根据实施方式的接收装置10004可基于头部取向信息来计算视口信息。视口信息可以是关于用户正在观看的点云视频的区域的信息。视点是用户通过其观看点云视频的点,并且可指视口区域的中心点。即,视口是以视点为中心的区域,并且区域的尺寸和形状可由视场(FOV)确定。因此,除了头部取向信息之外,接收装置10004还可基于装置所支持的垂直或水平FOV来提取视口信息。另外,接收装置10004执行注视分析等以检查用户消费点云的方式、点云视频中用户注视的区域、注视时间等。根据实施方式,接收装置10004可将包括注视分析结果的反馈信息发送到发送装置10000。根据实施方式的反馈信息可在渲染和/或显示过程中获取。根据实施方式的反馈信息可由包括在接收装置10004中的一个或更多个传感器取得。根据实施方式,反馈信息可由渲染器10007或单独的外部元件(或装置、组件等)取得。图1中的虚线表示发送渲染器10007所取得的反馈信息的过程。点云内容提供***可基于反馈信息来处理(编码/解码)点云数据。因此,点云视频数据解码器10006可基于反馈信息来执行解码操作。接收装置10004可将反馈信息发送到发送装置10000。发送装置10000(或点云视频数据编码器10002)可基于反馈信息来执行编码操作。因此,点云内容提供***可基于反馈信息高效地处理必要数据(例如,与用户的头部位置对应的点云数据)而非处理(编码/解码)整个点云数据,并将点云内容提供给用户。
根据实施方式,发送装置10000可被称为编码器、发送装置、发送器等,接收装置10004可被称为解码器、接收装置、接收器等。
根据实施方式的图1的点云内容提供***中(通过获取/编码/传输/解码/渲染的一系列过程)处理的点云数据可被称为点云内容数据或点云视频数据。根据实施方式,点云内容数据可用作涵盖与点云数据有关的元数据或信令信息的概念。
图1所示的点云内容提供***的元件可由硬件、软件、处理器和/或其组合实现。
图2是示出了根据实施方式的点云内容提供操作的框图。
图2的框图示出图1中描述的点云内容提供***的操作。如上所述,点云内容提供***可基于点云压缩编码(例如,G-PCC)来处理点云数据。
根据实施方式的点云内容提供***(例如,点云发送装置10000或点云视频获取器10001)可获取点云视频(20000)。点云视频由属于用于表达3D空间的坐标系的点云表示。根据实施方式的点云视频可包括Ply(Polygon文件格式或Stanford Triangle格式)文件。当点云视频具有一个或更多个帧时,所获取的点云视频可包括一个或更多个Ply文件。Ply文件包含诸如点几何和/或属性的点云数据。几何包括点的位置。各个点的位置可由表示三维坐标系(例如,由X、Y和Z轴组成的坐标系)的参数(例如,X、Y和Z轴的值)表示。属性包括点的属性(例如,关于各个点的纹理、颜色(YCbCr或RGB)、反射率r、透明度等的信息)。点具有一个或更多个属性。例如,点可具有颜色属性或者颜色和反射率两个属性。根据实施方式,几何可被称为位置、几何信息、几何数据等,并且属性可被称为属性、属性信息、属性数据等。点云内容提供***(例如,点云发送装置10000或点云视频获取器10001)可从与点云视频获取过程有关的信息(例如,深度信息、颜色信息等)取得点云数据。
根据实施方式的点云内容提供***(例如,发送装置10000或点云视频编码器10002)可对点云数据进行编码(20001)。点云内容提供***可基于点云压缩编码对点云数据进行编码。如上所述,点云数据可包括点的几何和属性。因此,点云内容提供***可执行对几何进行编码的几何编码并输出几何比特流。点云内容提供***可执行对属性进行编码的属性编码并输出属性比特流。根据实施方式,点云内容提供***可基于几何编码来执行属性编码。根据实施方式的几何比特流和属性比特流可被复用并作为一个比特流输出。根据实施方式的比特流还可包含与几何编码和属性编码有关的信令信息。
根据实施方式的点云内容提供***(例如,发送装置10000或发送器10003)可发送编码的点云数据(20002)。如图1所示,编码的点云数据可由几何比特流和属性比特流表示。另外,编码的点云数据可与点云数据的编码相关的信令信息(例如,与几何编码和属性编码有关的信令信息)一起以比特流的形式发送。点云内容提供***可将承载编码的点云数据的比特流封装并以文件或片段的形式将其发送。
根据实施方式的点云内容提供***(例如,接收装置10004或接收器10005)可接收包含编码的点云数据的比特流。另外,点云内容提供***(例如,接收装置10004或接收器10005)可将比特流解复用。
点云内容提供***(例如,接收装置10004或点云视频解码器10005)可将比特流中发送的编码的点云数据(例如,几何比特流、属性比特流)解码。点云内容提供***(例如,接收装置10004或点云视频解码器10005)可基于比特流中包含的与点云视频数据的编码有关的信令信息将点云视频数据解码。点云内容提供***(例如,接收装置10004或点云视频解码器10005)可将几何比特流解码以重构点的位置(几何)。点云内容提供***可通过基于重构的几何对属性比特流进行解码来重构点的属性。点云内容提供***(例如,接收装置10004或点云视频解码器10005)可根据重构的几何和解码的属性基于位置来重构点云视频。
根据实施方式的点云内容提供***(例如,接收装置10004或渲染器10007)可渲染解码的点云数据(20004)。点云内容提供***(例如,接收装置10004或渲染器10007)可使用各种渲染方法来渲染通过解码过程解码的几何和属性。点云内容中的点可被渲染为具有特定厚度的顶点、以对应顶点位置为中心的具有特定最小尺寸的立方体或者以对应顶点位置为中心的圆。渲染的点云内容的全部或部分通过显示器(例如,VR/AR显示器、一般显示器等)提供给用户。
根据实施方式的点云内容提供***(例如,接收装置10004)可取得反馈信息(20005)。点云内容提供***可基于反馈信息对点云数据进行编码和/或解码。根据实施方式的点云内容提供***的反馈信息和操作与参照图1描述的反馈信息和操作相同,因此省略其详细描述。
图3示出了根据实施方式的捕获点云视频的示例性过程。
图3示出参照图1至图2描述的点云内容提供***的示例性点云视频捕获过程。
点云内容包括表示位于各种3D空间(例如,表示真实环境的3D空间、表示虚拟环境的3D空间等)中的对象和/或环境的点云视频(图像和/或视频)。因此,根据实施方式的点云内容提供***可使用一个或更多个相机(例如,能够取得深度信息的红外相机、能够提取与深度信息对应的颜色信息的RGB相机等)、投影仪(例如,取得深度信息的红外图案投影仪)、LiDAR等来捕获点云视频。根据实施方式的点云内容提供***可从深度信息提取由3D空间中的点组成的几何形状并且从颜色信息提取各个点的属性以取得点云数据。根据实施方式的图像和/或视频可基于面向内技术和面向外技术中的至少一个来捕获。
图3的左侧部分示出面向内技术。面向内技术是指利用定位在中心对象周围的一个或更多个相机(或相机传感器)来捕获中心对象的图像的技术。面向内技术可用于生成向用户提供关键对象的360度图像的点云内容(例如,向用户提供对象(例如,诸如角色、玩家、对象或演员的关键对象)的360度图像的VR/AR内容)。
图3的右侧部分示出面向外技术。面向外技术是指利用定位在中心对象周围的一个或更多个相机(或相机传感器)来捕获中心对象的环境而非中心对象的图像的技术。面向外技术可用于生成提供从用户的视角出现的周围环境的点云内容(例如,可提供给自驾驶车辆的用户的表示外部环境的内容)。
如图所示,可基于一个或更多个相机的捕获操作来生成点云内容。在这种情况下,在相机之间坐标系可不同,因此点云内容提供***可在捕获操作之前校准一个或更多个相机以设定全局坐标系。另外,点云内容提供***可通过将任意图像和/或视频与通过上述捕获技术捕获的图像和/或视频合成来生成点云内容。点云内容提供***在生成表示虚拟空间的点云内容时可不执行图3中描述的捕获操作。根据实施方式的点云内容提供***可对捕获的图像和/或视频执行后处理。换言之,点云内容提供***可去除不想要的区域(例如,背景),识别捕获的图像和/或视频连接至的空间,并且当存在空间空洞时,执行填充空间空洞的操作。
点云内容提供***可通过对从各个相机取得的点云视频的点执行坐标变换来生成一条点云内容。点云内容提供***可基于各个相机的位置坐标对点执行坐标变换。因此,点云内容提供***可生成表示一个宽范围的内容,或者可生成具有高密度点的点云内容。
图4示出了根据实施方式的示例性点云编码器。
图4示出图1的点云视频编码器10002的示例。点云编码器重构并对点云数据进行编码(例如,点的位置和/或属性)以根据网络条件或应用调节点云内容的质量(例如无损、有损或接近无损)。当点云内容的总大小较大(例如,对于30fps给出60Gbps的点云内容)时,点云内容提供***可能无法实时流传输内容。因此,点云内容提供***可基于最大目标比特率来重构点云内容以根据网络环境等提供点云内容。
如参照图1和图2描述的,点云编码器可执行几何编码和属性编码。几何编码在属性编码之前执行。
根据实施方式的点云编码器包括坐标变换器(变换坐标)40000、量化器(量化和去除点(体素化))40001、八叉树分析器(分析八叉树)40002和表面近似分析器(分析表面近似)40003、算术编码器(算术编码)40004、几何重构器(重构几何)40005、颜色变换器(变换颜色)40006、属性变换器(变换属性)40007、RAHT变换器(RAHT)40008、LOD生成器(生成LOD)40009、提升变换器(提升)40010、系数量化器(量化系数)40011和/或算术编码器(算术编码)40012。
坐标变换器40000、量化器40001、八叉树分析器40002、表面近似分析器40003、算术编码器40004和几何重构器40005可执行几何编码。根据实施方式的几何编码可包括八叉树几何编码、直接编码、三联体几何编码和熵编码。直接编码和三联体几何编码选择性地或组合应用。几何编码不限于上述示例。
如图所示,根据实施方式的坐标变换器40000接收位置并将其变换为坐标。例如,位置可被变换为三维空间(例如,由XYZ坐标系表示的三维空间)中的位置信息。根据实施方式的三维空间中的位置信息可被称为几何信息。
根据实施方式的量化器40001将几何量化。例如,量化器40001可基于所有点的最小位置值(例如,X、Y和Z轴中的每一个上的最小值)来将点量化。量化器40001执行量化操作:将最小位置值与各个点的位置值之间的差乘以预设量化缩放值,然后通过对通过乘法获得的值进行舍入来寻找最近整数值。因此,一个或更多个点可具有相同的量化位置(或位置值)。根据实施方式的量化器40001基于量化位置执行体素化以重构量化点。如像素(包含2D图像/视频信息的最小单元)的情况中一样,根据实施方式的点云内容(或3D点云视频)的点可包括在一个或更多个体素中。作为体积和像素的复合体,术语体素是指当基于表示3D空间的轴(例如,X轴、Y轴和Z轴)将3D空间划分成单元(单位=1.0)时生成的3D立方空间。量化器40001可使3D空间中的点组与体素匹配。根据实施方式,一个体素可仅包括一个点。根据实施方式,一个体素可包括一个或更多个点。为了将一个体素表示为一个点,体素的中心的位置可基于包括在体素中的一个或更多个点的位置来设定。在这种情况下,包括在一个体素中的所有位置的属性可被组合并指派给体素。
根据实施方式的八叉树分析器40002执行八叉树几何编码(或八叉树编码)以按八叉树结构呈现体素。八叉树结构表示基于八进制树结构与体素匹配的点。
根据实施方式的表面近似分析器40003可分析并近似八叉树。根据实施方式的八叉树分析和近似是分析包含多个点的区域以高效地提供八叉树和体素化的过程。
根据实施方式的算术编码器40004对八叉树和/或近似八叉树执行熵编码。例如,编码方案包括算术编码。作为编码结果,生成几何比特流。
颜色变换器40006、属性变换器40007、RAHT变换器40008、LOD生成器40009、提升变换器40010、系数量化器40011和/或算术编码器40012执行属性编码。如上所述,一个点可具有一个或更多个属性。根据实施方式的属性编码同样应用于一个点所具有的属性。然而,当属性(例如,颜色)包括一个或更多个元素时,对各个元素独立地应用属性编码。根据实施方式的属性编码包括颜色变换编码、属性变换编码、区域自适应分层变换(RAHT)编码、基于插值的分层最近邻居预测(预测变换)编码以及具有更新/提升步骤的基于插值的分层最近邻居预测(提升变换)编码。根据点云内容,可选择性地使用上述RAHT编码、预测变换编码和提升变换编码,或者可使用一个或更多个编码方案的组合。根据实施方式的属性编码不限于上述示例。
根据实施方式的颜色变换器40006执行变换包括在属性中的颜色值(或纹理)的颜色变换编码。例如,颜色变换器40006可变换颜色信息的格式(例如,从RGB到YCbCr)。可选地,可根据包括在属性中的颜色值来应用根据实施方式的颜色变换器40006的操作。
根据实施方式的几何重构器40005重构(解压缩)八叉树和/或近似八叉树。几何重构器40005基于分析点分布的结果来重构八叉树/体素。重构的八叉树/体素可被称为重构的几何(恢复的几何)。
根据实施方式的属性变换器40007执行属性变换以基于重构的几何和/或不执行几何编码的位置来变换属性。如上所述,由于属性取决于几何,所以属性变换器40007可基于重构的几何信息来变换属性。例如,基于包括在体素中的点的位置值,属性变换器40007可变换该位置处的点的属性。如上所述,当基于包括在体素中的一个或更多个点的位置来设定体素的中心位置时,属性变换器40007变换一个或更多个点的属性。当执行三联体(trisoup)几何编码时,属性变换器40007可基于三联体几何编码来变换属性。
属性变换器40007可通过计算距各个体素的中心位置(或位置值)特定位置/半径内的邻近点的属性或属性值(例如,各个点的颜色或反射率)的平均来执行属性变换。属性变换器40007可在计算平均时根据从中心到各个点的距离来应用权重。因此,各个体素具有位置和计算的属性(或属性值)。
属性变换器40007可基于K-D树或莫顿码(莫顿code)搜索存在于距各个体素的中心位置特定位置/半径内的邻近点。K-D树是二叉搜索树,并且支持能够基于位置来管理点的数据结构,使得可快速地执行最近邻搜索(NNS)。通过将表示所有点的3D位置的坐标(例如,(x,y,z))呈现为比特值并将比特混合来生成莫顿码。例如,当表示点位置的坐标为(5,9,1)时,坐标的比特值为(0101,1001,0001)。根据比特索引按z、y和x的顺序混合比特值产生010001000111。该值被表示为十进制数1095。即,具有坐标(5,9,1)的点的莫顿码值为1095。属性变换器40007可基于莫顿码值对点进行排序并通过深度优先遍历过程执行NNS。在属性变换操作之后,当在用于属性编码的另一变换过程中需要NNS时使用K-D树或莫顿码。
如图所示,变换的属性被输入到RAHT变换器40008和/或LOD生成器40009。
根据实施方式的RAHT变换器40008基于重构的几何信息来执行用于预测属性信息的RAHT编码。例如,RAHT变换器40008可基于与八叉树中较低级别的节点关联的属性信息来预测八叉树中较高级别的节点的属性信息。
根据实施方式的LOD生成器40009生成细节级别(LOD)来执行预测变换编码。根据实施方式的LOD是点云内容的细节程度。随着LOD值减小,指示点云内容的细节劣化。随着LOD值增大,指示点云内容的细节增强。点可按LOD分类。
根据实施方式的提升变换器40010执行基于权重来变换点云属性的提升变换编码。如上所述,可以可选地应用提升变换编码。
根据实施方式的系数量化器40011基于系数来量化属性编码的属性。
根据实施方式的算术编码器40012基于算术编码对量化的属性进行编码。
尽管图中未示出,图4的点云编码器的元件可由包括被配置成与包括在点云提供设备中的一个或更多个存储器通信的一个或更多个处理器或集成电路的硬件、软件、固件或其组合实现。一个或更多个处理器可执行上述图4的点云编码器的元件的操作和/或功能中的至少一个。另外,一个或更多个处理器可操作或执行用于执行图4的点云编码器的元件的操作和/或功能的软件程序和/或指令集合。根据实施方式的一个或更多个存储器可包括高速随机存取存储器,或者包括非易失性存储器(例如,一个或更多个磁盘存储装置、闪存装置或其它非易失性固态存储器装置)。
图5示出了根据实施方式的体素的示例。
图5示出位于由三个轴(X轴、Y轴和Z轴)所组成的坐标系表示的3D空间中的体素。如参照图4所述,点云编码器(例如,量化器40001)可执行体素化。体素是指当基于表示3D空间的轴(例如,X轴、Y轴和Z轴)将3D空间划分成单元(单位=1.0)时生成的3D立方空间。图5示出通过八叉树结构生成的体素的示例,其中由两个极点(0,0,0)和(2d,2d,2d)限定的立方轴对齐边界框被递归地再分。一个体素包括至少一个点。可从与体素组的位置关系来估计体素的空间坐标。如上所述,体素具有类似2D图像/视频的像素的属性(例如,颜色或反射率)。体素的细节与参照图4描述的那些相同,因此省略其描述。
图6示出了根据实施方式的八叉树和占用代码的示例。
如参照图1至图4所描述的,点云内容提供***(点云视频编码器10002)或点云编码器(例如,八叉树分析器40002)基于八叉树结构来执行八叉树几何编码(或八叉树编码)以高效地管理体素的区域和/或位置。
图6的上部示出八叉树结构。根据实施方式的点云内容的3D空间由坐标系的轴(例如,X轴、Y轴和Z轴)表示。通过由两个极点(0,0,0)和(2d,2d,2d)限定的立方轴对齐边界框的递归再分来创建八叉树结构。这里,2d可被设定为构成围绕点云内容(或点云视频)的所有点的最小边界框的值。这里,d表示八叉树的深度。d的值在下式中确定。在下式中,(xint n,yint n,zint n)表示量化的点的位置(或位置值)。
如图6的上部的中间所示,整个3D空间可根据分区被划分成八个空间。各个划分的空间由具有六个面的立方体表示。如图6的右上部所示,八个空间中的每一个基于坐标系的轴(例如,X轴、Y轴和Z轴)再次划分。因此,各个空间被划分成八个更小的空间。所划分的更小的空间也由具有六个面的立方体表示。应用该分割方案,直至八叉树的叶节点变为体素。
图6的下部示出八叉树占用代码。生成八叉树的占用代码以指示通过划分一个空间而生成的八个划分的空间中的每一个是否包含至少一个点。因此,单个占用代码由八个子节点表示。各个子节点表示划分的空间的占用,并且子节点具有1比特的值。因此,占用代码被表示为8比特代码。即,当与子节点对应的空间中包含至少一个点时,节点被指派值1。当与子节点对应的空间中不包含点(空间为空)时,节点被指派值0。由于图6所示的占用代码为00100001,所以指示与八个子节点当中的第三子节点和第八子节点对应的空间各自包含至少一个点。如图所示,第三子节点和第八子节点中的每一个具有八个子节点,并且子节点由8比特占用代码表示。附图示出第三子节点的占用代码为10000111,并且第八子节点的占用代码为01001111。根据实施方式的点云编码器(例如,算术编码器40004)可对占用代码执行熵编码。为了增加压缩效率,点云编码器可对占用代码执行帧内/帧间编码。根据实施方式的接收装置(例如,接收装置10004或点云视频解码器10006)基于占用代码来重构八叉树。
根据实施方式的点云编码器(例如,图4的点云编码器或八叉树分析器40002)可执行体素化和八叉树编码以存储点位置。然而,点并不总是在3D空间中均匀分布,因此可能有存在较少点的特定区域。因此,对整个3D空间执行体素化是低效的。例如,当特定区域包含很少点时,在该特定区域中不需要执行体素化。
因此,对于上述特定区域(或八叉树的叶节点以外的节点),根据实施方式的点云编码器可跳过体素化并执行直接编码以直接对包括在特定区域中的点位置进行编码。根据实施方式的直接编码点的坐标被称为直接编码模式(DCM)。根据实施方式的点云编码器还可基于表面模型执行三联体几何编码,其要基于体素来重构特定区域(或节点)中的点位置。三联体几何编码是将对象表示为一系列三角形网格的几何编码。因此,点云解码器可从网格表面生成点云。根据实施方式的直接编码和三联体几何编码可选择性地执行。另外,根据实施方式的直接编码和三联体几何编码可与八叉树几何编码(或八叉树编码)组合执行。
为了执行直接编码,应该启用使用直接模式以应用直接编码的选项。要应用直接编码的节点不是叶节点,在特定节点内应该存在小于阈值的点。另外,要应用直接编码的点的总数不应超过预设阈值。当满足上述条件时,根据实施方式的点云编码器(或算术编码器40004)可对点位置(或位置值)执行熵编码。
根据实施方式的点云编码器(例如,表面近似分析器40003)可确定八叉树的特定级别(小于八叉树的深度d的级别),并且可从该级别开始使用表面模型以执行三联体几何编码,以基于体素来重构节点区域中的点位置(三联体模式)。根据实施方式的点云编码器可指定要应用三联体几何编码的级别。例如,当特定级别等于八叉树的深度时,点云编码器不在三联体模式下操作。换言之,仅当指定的级别小于八叉树的深度值时,根据实施方式的点云编码器才可在三联体模式下操作。根据实施方式的指定级别的节点的3D立方区域被称为块。一个块可包括一个或更多个体素。块或体素可对应于方块。几何被表示为各个块内的表面。根据实施方式的表面可与块的各条边相交至多一次。
一个块具有12条边,因此一个块中存在至少12个交点。各个交点被称为顶点。当共享边的所有块当中存在与边相邻的至少一个占用体素时,检测沿着边存在的顶点。根据实施方式的占用体素是指包含点的体素。沿着边检测到的顶点位置是沿着共享边的所有块当中与边相邻的所有体素的边的平均位置。
一旦检测到顶点,根据实施方式的点云编码器就可对边的起点(x,y,z)、边的方向向量(Δx,Δy,Δz)和顶点位置值(边内的相对位置值)执行熵编码。当应用三联体几何编码时,根据实施方式的点云编码器(例如,几何重构器40005)可通过执行三角形重构、上采样和体素化过程来生成恢复的几何(重构的几何)。
位于块的边处的顶点确定穿过块的表面。根据实施方式的表面是非平面多边形。在三角形重构过程中,基于边的起点、边的方向向量和顶点的位置值来重构由三角形表示的表面。三角形重构过程这样执行:①计算各个顶点的质心值,②从各个顶点值减去中心值,并且③估计通过减法获得的值的平方和。
估计和的最小值,并且根据具有最小值的轴执行投影过程。例如,当元素x最小时,各个顶点相对于块的中心投影在x轴上,并且投影在(y,z)平面上。当通过(y,z)平面上的投影获得的值为(ai,bi)时,通过atan2(bi,ai)估计θ的值,并且基于θ的值对顶点进行排序。下表示出了根据顶点数量创建三角形的顶点组合。顶点从1至n排序。下表示出对于四个顶点,可根据顶点组合构造两个三角形。第一个三角形可由排序的顶点当中的顶点1、2和3组成,第二个三角形可由排序的顶点当中的顶点3、4和1组成。
表2-1.从按1,…,n排序的顶点形成的三角形
n三角形
3(1,2,3)
4(1,2,3),(3,4,1)
5(1,2,3),(3,4,5),(5,1,3)
6(1,2,3),(3,4,5),(5,6,1),(1,3,5)
7(1,2,3),(3,4,5),(5,6,7),(7,1,3),(3,5,7)
8(1,2,3),(3,4,5),(5,6,7),(7,8,1),(1,3,5),(5,7,1)
9(1,2,3),(3,4,5),(5,6,7),(7,8,9),(9,1,3),(3,5,7),(7,9,3)
10(1,2,3),(3,4,5),(5,6,7),(7,8,9),(9,10,1),(1,3,5),(5,7,9),(9,1,5)
11(1,2,3),(3,4,5),(5,6,7),(7,8,9),(9,10,11),(11,1,3),(3,5,7),(7,9,11),(11,3,7)
12(1,2,3),(3,4,5),(5,6,7),(7,8,9),(9,10,11),(11,12,1),(1,3,5),(5,7,9),(9,11,1),(1,5,9)
执行上采样过程以沿着三角形的边在中间添加点,并且执行体素化。所添加的点基于上采样因子和块的宽度来生成。添加的点被称为细化顶点。根据实施方式的点云编码器可将细化顶点体素化。另外,点云编码器可基于体素化的位置(或位置值)来执行属性编码。
图7示出了根据实施方式的邻居节点图案的示例。
为了增加点云视频的压缩效率,根据实施方式的点云编码器可基于上下文自适应算术编码来执行熵编码。
如参照图1至图6所描述的,点云内容提供***或点云编码器(例如,点云视频编码器10002、图4的点云编码器或算术编码器40004)可立即对占用代码执行熵编码。另外,点云内容提供***或点云编码器可基于当前节点的占用代码和邻近节点的占用来执行熵编码(帧内编码),或者基于先前帧的占用代码执行熵编码(帧间编码)。根据实施方式的帧表示同时生成的点云视频的集合。根据实施方式的帧内编码/帧间编码的压缩效率可取决于所参考的邻近节点的数量。当比特增加时,运算变得复杂,但是编码可偏向一侧,这可增加压缩效率。例如,当给出3比特上下文时,需要使用23=8种方法来执行编码。为编码划分的部分影响实现复杂度。因此,有必要满足适当级别的压缩效率和复杂度。
图7示出基于邻居节点的占用来获得占用图案的过程。根据实施方式的点云编码器确定八叉树的各个节点的邻居节点的占用并且获得邻居图案的值。邻居节点图案用于推断节点的占用图案。图7的上部示出与节点对应的立方体(位于中间的立方体)以及与该立方体共享至少一个面的六个立方体(邻居节点)。图中所示的节点是相同深度的节点。图中所示的数字分别表示与六个节点关联的权重(1、2、4、8、16和32)。根据邻近节点的位置依次指派权重。
图7的下部示出邻居节点图案值。邻居节点图案值是乘以占用邻居节点(具有点的邻居节点)的权重的值之和。因此,邻居节点图案值为0至63。当邻居节点图案值为0时,指示节点的邻居节点当中不存在具有点的节点(无占用节点)。当邻居节点图案值为63时,指示所有邻居节点均是占用节点。如图所示,由于指派有权重1、2、4和8的邻居节点是占用节点,所以邻居节点图案值为15(1、2、4和8之和)。点云编码器可根据邻居节点图案值执行编码(例如,当邻居节点图案值为63时,可执行64种类型的编码)。根据实施方式,点云编码器可通过改变邻居节点图案值(例如,基于将64改变为10或6的表)来降低编码复杂度。
图8示出了根据实施方式的各个LOD中的点配置的示例。
如参照图1至图7描述的,在执行属性编码之前将编码的几何重构(解压缩)。当应用直接编码时,几何重构操作可包括改变直接编码的点的放置(例如,将直接编码的点放置在点云数据前面)。当应用三联体几何编码时,通过三角形重构、上采样和体素化来执行几何重构过程。由于属性取决于几何,所以基于重构的几何来执行属性编码。
点云编码器(例如,LOD生成器40009)可按LOD对点进行分类(重新组织)。图中示出与LOD对应的点云内容。图中最左侧画面表示原始点云内容。图中左起第二个画面表示最低LOD中的点分布,图中最右侧画面表示最高LOD中的点分布。即,最低LOD中的点稀疏分布,最高LOD中的点密集分布。即,随着LOD在图底部所指示的箭头所指的方向上升高,点之间的空间(或距离)变窄。
图9示出了根据实施方式的用于各个LOD的点配置的示例。
如参照图1至图8所描述的,点云内容提供***或点云编码器(例如,点云视频编码器10002、图4的点云编码器或LOD生成器40009)可生成LOD。通过根据设定的LOD距离值(或欧几里得距离集合)将点重新组织为细化级别的集合来生成LOD。LOD生成过程不仅由点云编码器执行,而且由点云解码器执行。
图9的上部示出分布在3D空间中的点云内容的点的示例(P0至P9)。在图9中,原始顺序表示在LOD生成之前点P0至P9的顺序。在图9中,基于LOD的顺序表示根据LOD生成的点的顺序。点按LOD重新组织。另外,高LOD包含属于较低LOD的点。如图9所示,LOD0包含P0、P5、P4和P2。LOD1包含LOD0的点、P1、P6和P3。LOD2包含LOD0的点、LOD1的点、P9、P8和P7。
如参照图4所描述的,根据实施方式的点云编码器可选择性地或组合地执行预测变换编码、提升变换编码和RAHT变换编码。
根据实施方式的点云编码器可为点生成预测器以执行用于设定各个点的预测属性(或预测属性值)的预测变换编码。即,可为N个点生成N个预测器。根据实施方式的预测器可基于各个点的LOD值、关于存在于各个LOD的设定距离内的邻近点的索引信息以及到邻近点的距离来计算权重(=1/距离)。
根据实施方式的预测属性(或属性值)被设定为通过将各个点的预测器中设定的邻居点的属性(或属性值)(例如,颜色、反射率等)乘以基于到各个邻居点的距离计算的权重(或权重值)而获得的值的平均。根据实施方式的点云编码器(例如,系数量化器40011)可量化和逆量化通过从各个点的属性(属性值)减去预测属性(属性值)而获得的残差(可称为残差属性、残差属性值或属性预测残差)。量化过程如下表所示配置。
表.属性预测残差量化伪代码
int PCCQuantization(int value,int quantStep){
if(value>=0){
return floor(value/quantStep+1.0/3.0);
}else{
return-floor(-value/quantStep+1.0/3.0);
}
}
表.属性预测残差逆量化伪代码
int PCCInverseQuantization(int value,int quantStep){
if(quantStep==0){
return value;
}else{
return value*quantStep;
}
}
当各个点的预测器具有邻居点时,根据实施方式的点云编码器(例如,算术编码器40012)可如上所述对量化和逆量化的残差值执行熵编码。当各个点的预测器没有邻居点时,根据实施方式的点云编码器(例如,算术编码器40012)可对对应点的属性执行熵编码,而不执行上述操作。
根据实施方式的点云编码器(例如,提升变换器40010)可生成各个点的预测器,设定计算的LOD并在预测器中注册邻居点,并且根据到邻居点的距离来设定权重以执行提升变换编码。根据实施方式的提升变换编码类似于上述预测变换编码,但不同之处在于,对属性值累积地应用权重。根据实施方式对属性值累积地应用权重的过程配置如下。
1)创建用于存储各个点的权重值的阵列量化权重(QW)。QW的所有元素的初始值均为1.0。将预测器中注册的邻居节点的预测器索引的QW值乘以当前点的预测器的权重,并将通过乘法获得的值相加。
2)提升预测过程:从现有属性值减去通过将点的属性值乘以权重而获得的值,以计算预测属性值。
3)创建称为updateweight和update的临时阵列,并且将临时阵列初始化为零。
4)将通过将针对所有预测器计算的权重乘以存储在与预测器索引对应的QW中的权重而计算的权重与updateweight阵列累加,作为邻居节点的索引。将通过将邻居节点索引的属性值乘以所计算的权重而获得的值与update阵列累加。
5)提升更新过程:将所有预测器的update阵列的属性值除以预测器索引的updateweight阵列的权重值,并将现有属性值与通过除法获得的值相加。
6)针对所有预测器通过将通过提升更新过程更新的属性值乘以通过提升预测过程更新的权重(存储在QW中)来计算预测属性。根据实施方式的点云编码器(例如,系数量化器40011)量化预测属性值。另外,点云编码器(例如,算术编码器40012)对量化属性值执行熵编码。
根据实施方式的点云编码器(例如,RAHT变换器40008)可执行RAHT变换编码,其中使用与八叉树中较低级别的节点关联的属性来预测较高级别的节点的属性。RAHT变换编码是通过八叉树向后扫描进行属性帧内编码的示例。根据实施方式的点云编码器从体素开始扫描整个区域并且在每一步重复将体素合并为更大的块的合并过程,直至到达根节点。仅对占用节点执行根据实施方式的合并过程。不对空节点执行合并过程。对空节点正上方的上节点执行合并过程。
下式表示RAHT变换矩阵。在该式中,表示级别l的体素的平均属性值。/>可基于/>和/>来计算。/>和/>的权重为/>和/>
这里,是低通值并且在次高级别的合并过程中使用。/>表示高通系数。每一步的高通系数被量化并经受熵编码(例如,由算术编码器400012编码)。权重被计算为/> 通过/>和/>创建根节点如下。
图10示出了根据实施方式的点云解码器。
图10所示的点云解码器是图1中描述的点云视频解码器10006的示例,并且可执行与图1所示的点云视频解码器10006的操作相同或相似的操作。如图所示,点云解码器可接收包含在一个或更多个比特流中的几何比特流和属性比特流。点云解码器包括几何解码器和属性解码器。几何解码器对几何比特流执行几何解码并输出解码的几何。属性解码器基于解码的几何和属性比特流执行属性解码,并且输出解码的属性。解码的几何和解码的属性用于重构点云内容(解码的点云)。
图11示出了根据实施方式的点云解码器。
图11所示的点云解码器是图10所示的点云解码器的示例,并且可执行解码操作,其是图1至图9所示的点云编码器的编码操作的逆过程。
如参照图1和图10所描述的,点云解码器可执行几何解码和属性解码。几何解码在属性解码之前执行。
根据实施方式的点云解码器包括算术解码器(算术解码)11000、八叉树合成器(合成八叉树)11001、表面近似合成器(合成表面近似)11002和几何重构器(重构几何)11003、坐标逆变换器(逆变换坐标)11004、算术解码器(算术解码)11005、逆量化器(逆量化)11006、RAHT变换器11007、LOD生成器(生成LOD)11008、逆提升器(逆提升)11009和/或颜色逆变换器(逆变换颜色)11010。
算术解码器11000、八叉树合成器11001、表面近似合成器11002、几何重构器11003和坐标逆变换器11004可执行几何解码。根据实施方式的几何解码可包括直接编码和三联体几何解码。直接编码和三联体几何解码选择性地应用。几何解码不限于上述示例,并且作为参照图1至图9描述的几何编码的逆过程执行。
根据实施方式的算术解码器11000基于算术编码将所接收的几何比特流解码。算术解码器11000的操作对应于算术编码器40004的逆过程。
根据实施方式的八叉树合成器11001可通过从解码的几何比特流获取占用代码(或关于作为解码结果取得的几何的信息)来生成八叉树。占用代码如参照图1至图9详细描述那样配置。
当应用三联体几何编码时,根据实施方式的表面近似合成器11002可基于解码的几何和/或生成的八叉树来合成表面。
根据实施方式的几何重构器11003可基于表面和/或解码的几何重新生成几何。如参照图1至图9所描述的,选择性地应用直接编码和三联体几何编码。因此,几何重构器11003直接导入关于应用了直接编码的点的位置信息并将其相加。当应用三联体几何编码时,几何重构器11003可通过执行几何重构器40005的重构操作(例如,三角形重构、上采样和体素化)来重构几何。细节与参照图6描述的那些相同,因此省略其描述。重构的几何可包括不包含属性的点云画面或帧。
根据实施方式的坐标逆变换器11004可通过基于重构的几何变换坐标来获取点位置。
算术解码器11005、逆量化器11006、RAHT变换器11007、LOD生成器11008、逆提升器11009和/或颜色逆变换器11010可执行参照图10描述的属性解码。根据实施方式的属性解码包括区域自适应分层变换(RAHT)解码、基于插值的分层最近邻居预测(预测变换)解码以及具有更新/提升步骤的基于插值的分层最近邻居预测(提升变换)解码。上述三个解码方案可选择性地使用,或者可使用一个或更多个解码方案的组合。根据实施方式的属性解码不限于上述示例。
根据实施方式的算术解码器11005通过算术编码对属性比特流进行解码。
根据实施方式的逆量化器11006逆量化关于解码的属性比特流或作为解码结果取得的属性的信息,并且输出逆量化的属性(或属性值)。可基于点云编码器的属性编码选择性地应用逆量化。
根据实施方式,RAHT变换器11007、LOD生成器11008和/或逆提升器11009可处理重构的几何和逆量化的属性。如上所述,RAHT变换器11007、LOD生成器11008和/或逆提升器11009可选择性地执行与点云编码器的编码对应的解码操作。
根据实施方式的颜色逆变换器11010执行逆变换编码以逆变换包括在解码的属性中的颜色值(或纹理)。可基于点云编码器的颜色变换器40006的操作选择性地执行颜色逆变换器11010的操作。
尽管图中未示出,图11的点云解码器的元件可由包括被配置成与包括在点云提供设备中的一个或更多个存储器通信的一个或更多个处理器或集成电路的硬件、软件、固件或其组合实现。一个或更多个处理器可执行上述图11的点云解码器的元件的操作和/或功能中的至少一个或更多个。另外,一个或更多个处理器可操作或执行用于执行图11的点云解码器的元件的操作和/或功能的软件程序和/或指令集合。
图12示出了根据实施方式的发送装置。
图12所示的发送装置是图1的发送装置10000(或图4的点云编码器)的示例。图12所示的发送装置可执行与参照图1至图9描述的点云编码器的那些相同或相似的一个或更多个操作和方法。根据实施方式的发送装置可包括数据输入单元12000、量化处理器12001、体素化处理器12002、八叉树占用代码生成器12003、表面模型处理器12004、帧内/帧间编码处理器12005、算术编码器12006、元数据处理器12007、颜色变换处理器12008、属性变换处理器12009、预测/提升/RAHT变换处理器12010、算术编码器12011和/或传输处理器12012。
根据实施方式的数据输入单元12000接收或获取点云数据。数据输入单元12000可执行与点云视频获取器10001的操作和/或获取方法(或参照图2描述的获取过程20000)相同或相似的操作和/或获取方法。
数据输入单元12000、量化处理器12001、体素化处理器12002、八叉树占用代码生成器12003、表面模型处理器12004、帧内/帧间编码处理器12005和算术编码器12006执行几何编码。根据实施方式的几何编码与参照图1至图9描述的几何编码相同或相似,因此省略其详细描述。
根据实施方式的量化处理器12001量化几何(例如,点的位置值)。量化处理器12001的操作和/或量化与参照图4描述的量化器40001的操作和/或量化相同或相似。细节与参照图1至图9描述的那些相同。
根据实施方式的体素化处理器12002将点的量化的位置值体素化。体素化处理器120002可执行与参照图4描述的量化器40001的操作和/或体素化过程相同或相似的操作和/或过程。细节与参照图1至图9描述的那些相同。
根据实施方式的八叉树占用代码生成器12003基于八叉树结构对点的体素化的位置执行八叉树编码。八叉树占用代码生成器12003可生成占用代码。八叉树占用代码生成器12003可执行与参照图4和图6描述的点云编码器(或八叉树分析器40002)的操作和/或方法相同或相似的操作和/或方法。细节与参照图1至图9描述的那些相同。
根据实施方式的表面模型处理器12004可基于表面模型执行三联体几何编码以基于体素重构特定区域(或节点)中的点位置。表面模型处理器12004可执行与参照图4描述的点云编码器(例如,表面近似分析器40003)的操作和/或方法相同或相似的操作和/或方法。细节与参照图1至图9描述的那些相同。
根据实施方式的帧内/帧间编码处理器12005可对点云数据执行帧内/帧间编码。帧内/帧间编码处理器12005可执行与参照图7描述的帧内/帧间编码相同或相似的编码。细节与参照图7描述的那些相同。根据实施方式,帧内/帧间编码处理器12005可包括在算术编码器12006中。
根据实施方式的算术编码器12006对点云数据的八叉树和/或近似八叉树执行熵编码。例如,编码方案包括算术编码。算术编码器12006执行与算术编码器40004的操作和/或方法相同或相似的操作和/或方法。
根据实施方式的元数据处理器12007处理关于点云数据的元数据(例如,设定值),并将其提供给诸如几何编码和/或属性编码的必要处理过程。另外,根据实施方式的元数据处理器12007可生成和/或处理与几何编码和/或属性编码有关的信令信息。根据实施方式的信令信息可与几何编码和/或属性编码分开编码。根据实施方式的信令信息可被交织。
颜色变换处理器12008、属性变换处理器12009、预测/提升/RAHT变换处理器12010和算术编码器12011执行属性编码。根据实施方式的属性编码与参照图1至图9描述的属性编码相同或相似,因此省略其详细描述。
根据实施方式的颜色变换处理器12008执行颜色变换编码以变换包括在属性中的颜色值。颜色变换处理器12008可基于重构的几何来执行颜色变换编码。重构的几何与参照图1至图9描述的相同。另外,其执行与参照图4描述的颜色变换器40006的操作和/或方法相同或相似的操作和/或方法。省略其详细描述。
根据实施方式的属性变换处理器12009执行属性变换以基于重构的几何和/或不执行几何编码的位置来变换属性。属性变换处理器12009执行与参照图4描述的属性变换器40007的操作和/或方法相同或相似的操作和/或方法。省略其详细描述。根据实施方式的预测/提升/RAHT变换处理器12010可通过RAHT编码、预测变换编码和提升变换编码中的任一种或组合对变换的属性进行编码。预测/提升/RAHT变换处理器12010执行与参照图4描述的RAHT变换器40008、LOD生成器40009和提升变换器40010的操作相同或相似的至少一个操作。另外,预测变换编码、提升变换编码和RAHT变换编码与参照图1至图9描述的那些相同,因此省略其详细描述。
根据实施方式的算术编码器12011可基于算术编码对编码的属性进行编码。算术编码器12011执行与算术编码器400012的操作和/或方法相同或相似的操作和/或方法。
根据实施方式的传输处理器12012可发送包含编码的几何和/或编码的属性和元数据信息的各个比特流,或者发送配置有编码的几何和/或编码的属性和元数据信息的一个比特流。当根据实施方式的编码的几何和/或编码的属性和元数据信息被配置成一个比特流时,比特流可包括一个或更多个子比特流。根据实施方式的比特流可包含信令信息和切片数据,信令信息包括用于序列级别信令的序列参数集(SPS)、用于几何信息编码信令的几何参数集(GPS)、用于属性信息编码信令的属性参数集(APS)和用于拼块级别信令的拼块参数集(TPS)。切片数据可包括关于一个或更多个切片的信息。根据实施方式的一个切片可包括一个几何比特流Geom00以及一个或更多个属性比特流Attr00和Attr10。
切片是指表示全部或部分编码点云帧的一系列句法元素。
根据实施方式的TPS可包括关于一个或更多个拼块中的各个拼块的信息(例如,关于边界框的坐标信息和高度/大小信息)。几何比特流可包含头和有效载荷。根据实施方式的几何比特流的头可包含GPS中所包括的参数集标识符(geom_parameter_set_id)、拼块标识符(geom_tile_id)和切片标识符(geom_slice_id)以及关于包含在有效载荷中的数据的信息。如上所述,根据实施方式的元数据处理器12007可生成和/或处理信令信息并将其发送到传输处理器12012。根据实施方式,执行几何编码的元件和执行属性编码的元件可如虚线所指示彼此共享数据/信息。根据实施方式的传输处理器12012可执行与发送器10003的操作和/或发送方法相同或相似的操作和/或发送方法。细节与参照图1和图2描述的那些相同,因此省略其描述。
图13示出了根据实施方式的接收装置。
图13所示的接收装置是图1的接收装置10004(或图10和图11的点云解码器)的示例。图13所示的接收装置可执行与参照图1至图11描述的点云解码器的那些相同或相似的一个或更多个操作和方法。
根据实施方式的接收装置可以包括接收器13000、接收处理器13001、算术解码器13002、基于占用代码的八叉树重构处理器13003、表面模型处理器(三角形重构、上采样、体素化)13004、逆量化处理器13005、元数据解析器13006、算术解码器13007、逆量化处理器13008、预测/提升/RAHT逆变换处理器13009、颜色逆变换处理器13010和/或渲染器13011。根据实施方式的各个解码元件可执行根据实施方式的对应编码元件的操作的逆过程。
根据实施方式的接收器13000接收点云数据。接收器13000可执行与图1的接收器10005的操作和/或接收方法相同或相似的操作和/或接收方法。省略其详细描述。
根据实施方式的接收处理器13001可从所接收的数据获取几何比特流和/或属性比特流。接收处理器13001可包括在接收器13000中。
算术解码器13002、基于占用代码的八叉树重构处理器13003、表面模型处理器13004和逆量化处理器13005可执行几何解码。根据实施方式的几何解码与参照图1至图10描述的几何解码相同或相似,因此省略其详细描述。
根据实施方式的算术解码器13002可基于算术编码对几何比特流进行解码。算术解码器13002执行与算术解码器11000的操作和/或编码相同或相似的操作和/或编码。
根据实施方式的基于占用代码的八叉树重构处理器13003可通过从解码的几何比特流(或关于作为解码结果取得的几何的信息)获取占用代码来重构八叉树。基于占用代码的八叉树重构处理器13003执行与八叉树的合成器11001的操作和/或八叉树生成方法相同或相似的操作和/或方法。当应用三联体几何编码时,根据实施方式的表面模型处理器13004可基于表面模型方法来执行三联体几何解码和相关几何重构(例如,三角形重构、上采样、体素化)。表面模型处理器13004执行与表面近似合成器11002和/或几何重构器11003的操作相同或相似的操作。
根据实施方式的逆量化处理器13005可逆量化解码的几何。
根据实施方式的元数据解析器13006可解析包含在所接收的点云数据中的元数据(例如,设定值)。元数据解析器13006可将元数据传递给几何解码和/或属性解码。元数据与参照图12描述的元数据相同,因此省略其详细描述。
算术解码器13007、逆量化处理器13008、预测/提升/RAHT逆变换处理器13009和颜色逆变换处理器13010执行属性解码。属性解码与参照图1至图10描述的属性解码相同或相似,因此省略其详细描述。
根据实施方式的算术解码器13007可通过算术编码对属性比特流进行解码。算术解码器13007可基于重构的几何对属性比特流进行解码。算术解码器13007执行与算术解码器11005的操作和/或编码相同或相似的操作和/或编码。
根据实施方式的逆量化处理器13008可逆量化解码的属性比特流。逆量化处理器13008执行与逆量化器11006的操作和/或逆量化方法相同或相似的操作和/或方法。
根据实施方式的预测/提升/RAHT逆变换处理器13009可处理重构的几何和逆量化的属性。预测/提升/RAHT逆变换处理器13009执行与RAHT变换器11007、LOD生成器11008和/或逆提升器11009的操作和/或解码相同或相似的一个或更多个操作和/或解码。根据实施方式的颜色逆变换处理器13010执行逆变换编码以逆变换包括在解码的属性中的颜色值(或纹理)。颜色逆变换处理器13010执行与颜色逆变换器11010的操作和/或逆变换编码相同或相似的操作和/或逆变换编码。根据实施方式的渲染器13011可渲染点云数据。
图14示出了根据实施方式的可与点云数据发送/接收方法/装置结合操作的示例性结构。
图14的结构表示服务器1460、机器人1410、自驾驶车辆1420、XR装置1430、智能电话1440、家用电器1450和/或头戴式显示器(HMD)1470中的至少一个连接到云网络1400的配置。机器人1410、自驾驶车辆1420、XR装置1430、智能电话1440或家用电器1450被称为装置。此外,XR装置1430可对应于根据实施方式的点云数据(PCC)装置或者可操作上连接到PCC装置。
云网络1400可表示构成云计算基础设施的一部分或存在于云计算基础设施中的网络。这里,云网络1400可使用3G网络、4G或长期演进(LTE)网络或5G网络来配置。
服务器1460可经由云网络1400连接到机器人1410、自驾驶车辆1420、XR装置1430、智能电话1440、家用电器1450和/或HMD 1470中的至少一个,并且可辅助连接的装置1410至1470的至少一部分处理。
HMD 1470表示根据实施方式的XR装置和/或PCC装置的实现类型之一。根据实施方式的HMD型装置包括通信单元、控制单元、存储器、I/O单元、传感器单元和电源单元。
以下,将描述应用了上述技术的装置1410至1450的各种实施方式。图14所示的装置1410至1450可操作上连接/联接到根据上述实施方式的点云数据发送/接收装置。
<PCC+XR>
XR/PCC装置1430可采用PCC技术和/或XR(AR+VR)技术,并且可被实现为HMD、设置在车辆中的平视显示器(HUD)、电视、移动电话、智能电话、计算机、可穿戴装置、家用电器、数字标牌、车辆、固定机器人或移动机器人。
XR/PCC装置1430可分析通过各种传感器或从外部装置获取的3D点云数据或图像数据并生成关于3D点的位置数据和属性数据。由此,XR/PCC装置1430可获取关于周围空间或真实对象的信息,并且渲染和输出XR对象。例如,XR/PCC装置1430可使包括关于所识别的对象的辅助信息的XR对象与所识别的对象匹配并输出匹配的XR对象。
<PCC+XR+移动电话>
XR/PCC装置1430可以通过应用PCC技术实现为移动电话1440。
移动电话1440可以基于PCC技术解码和显示点云内容。
<PCC+自驾驶+XR>
自驾驶车辆1420可通过应用PCC技术和XR技术被实现为移动机器人、车辆、无人驾驶飞行器等。
应用了XR/PCC技术的自驾驶车辆1420可表示设置有用于提供XR图像的手段的自驾驶车辆,或者作为XR图像中的控制/交互目标的自驾驶车辆。具体地,作为XR图像中的控制/交互目标,自驾驶车辆1420可与XR装置1430相区分并且可操作上与之连接。
具有用于提供XR/PCC图像的手段的自驾驶车辆1420可从包括相机的传感器获取传感器信息,并且基于所获取的传感器信息来输出所生成的XR/PCC图像。例如,自驾驶车辆1420可具有HUD并向其输出XR/PCC图像,从而向乘客提供与真实对象或呈现在画面上的对象对应的XR/PCC对象。
当XR/PCC对象被输出到HUD时,可输出XR/PCC对象的至少一部分以与乘客的眼睛所指向的真实对象交叠。另一方面,当XR/PCC对象输出在设置在自驾驶车辆内的显示器上时,可输出XR/PCC对象的至少一部分以与画面上的对象交叠。例如,自驾驶车辆1220可输出与诸如道路、另一车辆、交通灯、交通标志、两轮车、行人和建筑物的对象对应的XR/PCC对象。
根据实施方式的虚拟现实(VR)技术、增强现实(AR)技术、混合现实(MR)技术和/或点云压缩(PCC)技术适用于各种装置。
换言之,VR技术是仅提供真实世界对象、背景等的CG图像的显示技术。另一方面,AR技术是指在真实对象的图像上显示虚拟创建的CG图像的技术。MR技术与上述AR技术的相似之处在于,要显示的虚拟对象与真实世界混合和组合。然而,MR技术与AR技术的不同之处在于,AR技术在真实对象和作为CG图像创建的虚拟对象之间明确区分并且使用虚拟对象作为真实对象的补充对象,而MR技术将虚拟对象当作具有与真实对象等同的特性的对象。更具体地,MR技术应用的示例是全息服务。
最近,VR、AR和MR技术通常被称为扩展显示(XR)技术,而非彼此明确区分。因此,本公开的实施方式适用于VR、AR、MR和XR技术中的任一种。基于PCC、V-PCC和G-PCC技术的编码/解码适用于这种技术。
根据实施方式的PCC方法/装置可被应用于提供自驾驶服务的车辆。
提供自驾驶服务的车辆连接到PCC装置以进行有线/无线通信。
当根据实施方式的点云数据(PCC)发送/接收装置连接到车辆以进行有线/无线通信时,装置可接收/处理与AR/VR/PCC服务(可与自驾驶服务一起提供)有关的内容数据,并将其发送到车辆。在PCC发送/接收装置安装在车辆上的情况下,PCC发送/接收装置可根据通过用户接口装置输入的用户输入信号接收/处理与AR/VR/PCC服务有关的内容数据并将其提供给用户。根据实施方式的车辆或用户接口装置可接收用户输入信号。根据实施方式的用户输入信号可包括指示自驾驶服务的信号。
根据实施方式的点云数据发送方法/装置被解释为指代图1的发送装置10000、点云视频编码器10002和发送器10003、图2的获取20000/编码20001/发送20002、图4的编码器、图12的发送装置、图14的装置、图18的编码器、图25的发送方法等的术语。
根据实施方式的点云数据接收方法/装置被解释为指代图1的接收装置10004、接收器10005和点云视频解码器10006、图2的发送20002/解码20003/渲染20004、图10和图11的解码器、图13的接收装置、图14的装置、图19的解码器、图26的接收方法等的术语。
根据实施方式的点云数据发送/接收方法/装置可以称为根据实施方式的方法/装置。
根据实施方式,构成点云数据的几何数据、几何信息、位置信息等被解释为具有相同的含义。构成点云数据的属性数据、属性信息等被解释为具有相同的含义。
根据实施方式的方法/装置可以包括通过对具有相似属性的点进行分组的属性压缩方法。
实施方式涉及用于提高用于压缩三维点云数据的基于几何的点云压缩(G-PCC)的属性的压缩效率的方法。
实施方式旨在通过在考虑内容点之间的属性关联的情况下选择用于预测的邻居点集的方法来提高属性压缩效率。
根据实施方式的方法/装置可以包括相似的基于属性的分组方法、配置LOD和针对每个组选择邻居点集的方法以及用于支持上述方法的信令方法。
实施方式涉及用于提高用于压缩三维点云数据的基于几何的点云压缩(G-PCC)的属性的压缩效率的方法。
点云由点集合组成,并且点中的每个点可以具有几何信息和属性信息。几何信息是三维位置(XYZ)信息,并且属性信息是颜色(RGB、YUV等)和/或反射率的值。G-PCC编码过程可以包括压缩几何以及基于利用通过压缩改变的位置信息重构的几何(重构的几何=解码的几何)压缩属性信息。G-PCC解码过程可以包括接收编码的几何比特流和属性比特流、解码几何以及基于通过解码重构的几何解码属性信息。
在属性信息压缩过程中,预测变换、提升变换或RAHT用作技术。
在预测变换和提升变换中,可以通过将点划分为细节级别(以下称为LOD)来对点进行分组。
该操作称为LOD生成。在下文中,具有不同LOD的组可以称为LOD集合。
这里,L表示LOD并且是从0开始的整数。LOD0是由其间具有最长距离的点组成的集合。随着l增大,LOD1中的点之间的距离减小。(参见图8)。可能只有一个LOD。在这种情况下,点可以按莫顿顺序排列在一个LOD中。如图8所示,点云数据可以基于LOD而被渲染。
在生成LOD集合之后,可以基于LOD集合在具有相同或较低LOD的组(节点之间的距离较大的组)中搜索X(>0)个最近邻近邻居,并将其注册在预测器中作为邻居点集。X是可以被配置为邻居的点的最大数量。X可以作为用户参数被输入。
如图9所示,在LOD0和LOD1中搜索属于LOD1的P3的邻居。三个最近邻居节点可以是P2、P4和P6。这三个节点在P3的预测器中被注册为邻居点集。当只有一个LOD时,可以从在相同LOD中按顺序位于当前点之前的点当中选择三个最近邻居节点。
每个点可以具有一个预测器。从预测器中注册的邻居预测属性。预测器可以通过邻居点集预测属性。点的属性值与由该点的预测器预测的属性值之间的残差可以被编码并且发信号通知给接收器。
实施方式包括考虑内容点之间的属性关联的属性压缩方法。
根据实施方式的配置邻居点集的方法被改变。邻居点集配置方法可以应用于发送器和接收器。
实施方式可以通过在配置点的邻居点集时高效地改变配置以从具有相似属性的点集合获得邻居点集的方法来提高属性压缩效率。
实施方式的改变和组合是可能的。本公开中使用的术语可以基于该术语在相关领域中的常见使用范围内的其预期含义来理解。
实施方式提出了一种用于通过对可以基于内容中的点之间的属性关联选择的点集合进行分组来限制可以被选择为邻居集合的点集合的方法。
根据实施方式的邻居点集生成在PCC编码器的PCC编码/PCC解码器的PCC解码中执行。
根据实施方式的方法/装置可以包括以下操作并执行以下操作:
根据相似属性进行分组(S1500),针对每个组的LOD生成(S1501),以及针对每个组的基于LOD的邻居点集生成(S1502)。在下文中,将参考每个附图描述每个操作。
图15示出了根据实施方式的根据材料ID进行分组的示例。
根据实施方式的点云数据发送方法/装置(即,图1的发送装置10000、点云视频编码器10002和发送器10003、图2的获取20000-编码20001-发送20002、图4的编码器、图12的发送装置、图14的装置、图18的编码器、图25的发送方法等)可以对点云数据进行分组,如图15所示。
根据实施方式的点云数据接收方法/装置(即,图1的接收装置10004、接收器10005和点云视频解码器10006、图2的发送20002-解码20003-渲染20004、图10和图11中的解码器、图13的接收装置、图14的装置、图19的解码器、图26的接收方法等)可以对点云数据进行分组,如图15所示。
根据实施方式的方法/装置可以在生成LOD之前根据相似属性来对点云数据进行分组。
根据实施方式,可以基于材料ID执行分组(根据材料ID进行分组)。
当材料ID存在于关于点云的属性信息(属性数据)中时,点云可以按照材料ID被分组。
可以向解码器发信号通知是否执行按照材料ID进行分组。解码器可以生成相同分组。本实施方式所示的分组可以扩展到场景图上。
例如,参考图15,点云数据可以包括各种材料,诸如帽子1500、面部、前臂、踝关节1501、衬衫1502、裤子1503、手腕1504和鞋1505。根据实施方式的方法/装置可以基于ID识别材料。基于肤色,面部、前臂和踝关节1501可以具有相同的颜色。帽子、衬衫、裤子和鞋可以具有不同的颜色。具有相同颜色的材料可以具有相同的材料ID。例如,帽子1500的材料ID可以是1,面部、前臂和踝关节1501的材料ID可以是2,并且衬衫1502的材料ID可以是3。材料ID可以由整数或其它值表示。根据实施方式的方法/装置可以将具有相同材料ID的点云数据分类到相同的组中。由于所分组的点云数据具有相同/相似的属性,因此分组可以高效地用于属性压缩以压缩数据。
图16示出了根据实施方式的八叉树结构中的每个相似属性的分组的示例。
根据实施方式的点云数据发送方法/装置(即,图1的发送装置10000、点云视频编码器10002和发送器10003、图2的获取20000-编码20001-发送20002、图4的编码器、图12的发送装置、图14的装置、图18的编码器、图25的发送方法等)可以对点云数据进行分组,如图16所示。
根据实施方式的点云数据接收方法/装置(即,图1的接收装置10004、接收器10005和点云视频解码器10006、图2的发送20002-解码20003-渲染20004、图10和图11中的解码器、图13的接收装置、图14的装置、图19的解码器、图26的接收方法等)可以对点云数据进行分组,如图16所示。
当根据实施方式的方法/装置使用八叉树(诸如图16)时,点云数据可以在八叉树结构中按照相似属性来分组。
可以在八叉树结构中执行按照相似属性进行分组。在几何压缩过程中,可以配置八叉树。分组方法可以如下配置。
可以从根节点以广度优先遍历顺序(breath-first traverse order)检查节点之间的属性相似性(S1600)。
可以获得属于每个八叉树节点的点的属性的中值和最小值/最大值(S1601)。
当中值与最小值/最大值之间的差大于特定阈值时,可以检查节点的子节点是否被分组。
当中值与最小值/最大值之间的差小于特定阈值时,节点可以被设定为一个组(S1603)。
可以重复地执行操作S1601至操作S1602,直到叶节点之前的级别(S1604)。
是否按照八叉树节点执行分组可以被发信号通知给解码器。解码器可以生成相同分组。该实施方式所示的分组可以扩展到场景图。阈值可以作为编码器选项被输入。
参考图16,可以从根节点开始对一个或更多个节点进行分组。为了对具有相似属性的节点进行分组,一个或更多个节点(包括属性差在特定阈值内的点)可以被生成为一个组。属性差较大的节点可以被指定为单独的组,并且属性差较小的节点可以被指定为一个组。
根据实施方式的方法/装置可以针对每个组生成LOD。
可以生成根据相似属性的组,并且可以针对每个组生成LOD。点云的点基于x、y和z位置值被改变为莫顿码。基于莫顿码值对点进行排序。可以基于排序的点生成LOD,并且可以基于莫顿顺序排序LOD1集中的点。
LOD的最大数量(=l)可以作为编码器选项被输入,并且可以发信号通知给解码器。
当属于每个组的点的数量小于或等于N时,它们可以被视为一个LOD,而不执行LOD生成。N可以作为编码器选项被输入并且发信号通知给解码器。
图17示出了根据实施方式的搜索邻居点集的方法的示例。
根据实施方式的点云数据发送方法/装置(即,图1的发送装置10000、点云视频编码器10002和发送器10003、图2的获取20000-编码20001-发送20002、图4的编码器、图12的发送装置、图14的装置、图18的编码器、图25的发送方法等)可以搜索用于压缩点云数据的邻居点,如图17所示。
根据实施方式的点云数据接收方法/装置(即,图1的接收装置10004、接收器10005和点云视频解码器10006、图2的发送20002-解码20003-渲染20004、图10和图11中的解码器、图13的接收装置、图14的装置、图19的解码器、图26的接收方法等)可以搜索用于重构点云数据的邻居点,如图17所示。
根据实施方式的方法/装置可以基于LOD针对每个组生成邻居点集。
当基于距离搜索邻居点或最近邻居(NN)时,属性差可能大,如图15所示。换句话说,实施方式可以提供准确且高性能的压缩/恢复,因为具有相似属性的数据实际上被分组在一起以生成LOD和邻居点集。
可以针对每个组生成LODl集合,并且可以基于所生成的集合LODl、LOD0到LOD-i-1生成用于预测器的邻居点集。
可以针对每个组执行邻居点集生成。在生成属于每个组中的集合LODl的点Px的邻居点集时,可以针对邻居点集搜索属于集合LOD0至LODl-1的点和属于集合LODl的点当中的按顺序的先前点(或莫顿码小于或等于Px的莫顿码的点)。
在生成属于集合LODl的点Px的邻居点集时,可以在属于集合LOD0到LODl-1的点当中以及属于集合LODl的点当中的按顺序的先前点当中搜索具有最接近的莫顿代码的点。当存在一个LOD时,可以基于根据莫顿码排序的列表中的当前点的位置确定邻居点搜索范围。
通过将从Px到选定点周围的许多点的距离与作为邻居点搜索范围编号的searchRange进行比较,可以将最近点注册为与最大数量的邻居点一样多的邻居点。当LOD的数量为1时,通过比较Px与其数量对应于searchRange且在当前点的位置前面的点之间的距离,可以将与最大数量的邻居点一样多的最近点注册为邻居点。
在针对属于集合LODl的点Px生成邻居点集时,计算从邻居点搜索范围中的点到Px的距离,以搜索最近邻居点并且将其注册为Px的邻居。邻居点可以被注册为与最大数量的邻居点一样多。默认值为3,并且可以搜索多达三个邻居点。
根据捕获内容的对象、捕获内容的方式以及所使用的设备,内容的属性特征可以变化。考虑到内容的属性,可以提供分组方法以增加被选择为邻居的点的属性彼此相似的可能性。这可以减小属性比特流的大小,并因此提高压缩效率。
通过示例的方式描述了上述实施方式的操作。实施方式的操作不应被解释为由示例中的术语和/或顺序限制,而是旨在包括实施方式的范围内的变化/变型。
参考图17,根据莫顿顺序对作为编码(或解码)的当前目标的当前点P进行编码/解码。基于当前点P所属的LOD的索引,在属于索引小于或等于该LOD的索引的LOD的点当中找到与当前点P最相似的邻居点。因为点按莫顿码顺序排序,所以可以在当前点P的位置的前面找到莫顿码小于或等于当前点P的莫顿码的点。为此,可以设定邻居点搜索范围。搜索范围可以被不同地配置。搜索范围可以根据设定值使用,并且可以作为参数信息提供给解码器。在搜索范围中的点当中,最接近当前点的三个点可以被设定为当前点的邻居点集。可以改变被设定为邻居集的点的数量。
图18示出了根据实施方式的点云数据发送装置。
根据实施方式的点云数据发送方法/装置(即,图1的发送装置10000、点云视频编码器10002和发送器10003、图2的获取20000-编码20001-发送20002、图4的编码器、图12的发送装置、图14的装置、图25的发送方法等)可以对应于图18。图18的每个组件可以对应于硬件、处理器、软件和/或其组合。例如,发送装置可以称为编码器。发送装置可以包括存储器和/或处理器。
下面参考图18描述PCC数据编码器的框图。
编码器或编码装置称为编码器,并且解码器或解码装置称为解码器。PCC数据可以被输入到编码器并被编码,然后可以输出几何信息比特流和属性信息比特流。如下配置根据实施方式的属性信息编码器。邻居点集配置器可以执行上述实施方式的操作。
基于属性的分组配置器可以根据属性执行分组(参见图15等)。是否执行分组可以作为输入被接收。当期望分组时,可以执行分组。此外,可以接收分组类型以根据材料ID执行分组或通过八叉树结构中的相似属性执行分组。是否执行分组和分组类型可以被发送到解码器,并且可以恢复对应分组信息以恢复该组。基于属性的分组配置器可以将分组结果发送到解码器。
LOD配置器可以针对每个组配置LOD(参见图15和图16)。当组中的点的数量基于属于一个LOD的点的最小数量是小的时,可以仅配置一个LOD。
邻居点集配置器可以基于针对每个组生成的LOD配置与用于属性预测的点相距较近的距离的邻居点集(参见图17的描述等)。每个点的邻居点的最大数量可以被设定为用户编码选项,并且默认值可以是3。
参考图18,数据输入单元可以获取包含几何和/或属性的点云数据。可以获取编码所需的配置信息作为参数。坐标变换器可以将点的坐标变换到适于编码的坐标系中。几何信息变换量化处理器可以基于量化参数量化几何(点)。空间分区器可以对包括用于处理几何的点的空间进行分区。几何信息编码器可以通过体素化处理器来体素化几何。八叉树生成器可以在八叉树结构中呈现点。点云数据可以基于所生成的八叉树被编码。八叉树是具有多达8个子节点(子节点)的树结构。八叉树不仅可以包括(八叉)树,而且可以包括具有不同数量的子节点的树。几何信息预测器可以基于(八叉)树生成当前几何的预测值。通过仅编码当前几何的值与几何的预测值之间的残差值,可以有效地减小比特流的大小。几何信息熵编码器可以基于熵方法对几何进行编码。编码的几何被包括在比特流中(参见图20)。为了编码属性信息,几何信息编码器可以重构编码的几何。重构的几何信息被发送到属性信息编码器。
属性信息编码器可以将作为属性之一的颜色转换为适于通过颜色变换处理器编码的颜色表示。当在节点中包括的点当中合并冗余点时,可以执行重新着色。也就是说,点可以被重新着色。属性信息编码器可以基于RAHT、提升变换或预测对属性进行编码。属性信息编码器可以根据点的属性对点进行分组。分组配置器可以根据指示是否执行分组的信息、指示分组类型的信息和指示阈值的信息执行分组。与所应用的分组相关的信息(指示是否执行分组的信息、指示分组类型的信息、指示阈值的信息等)可以作为参数生成、被包括在比特流中并且被发送到解码器(参见图20等)。LOD配置器可以生成包括点云数据的LOD。LOD配置器可以根据被包括在一个LOD中的最小数量的点的设定生成LOD。指示被包括在一个LOD中的点的最小数量的信息可以生成为被包括在比特流中并被发送到解码器的参数(参见图20等)。邻居点集配置器可以生成邻居点集作为用于找到与当前点相似的点的候选。属性信息预测器可以使用来自邻居点集的与当前点最相似的点作为预测器。可以对当前点的属性值与预测器的属性值之间的残差进行编码,从而有效地减小比特流的大小。残差属性信息量化处理器可以基于量化参数量化属性信息。属性信息熵编码器可以基于熵方法对属性信息进行编码。编码的属性信息可以被包括在比特流中并且被发送(参见图20等)。
图18的发送装置的编码操作遵循以上给出的附图的描述。
图19示出了根据实施方式的点云数据接收装置。
根据实施方式的点云数据接收方法/装置(即,图1的接收装置10004、接收器10005和点云视频解码器10006、图2的发送20002-解码20003-渲染20004、图10和图11中的解码器、图13的接收装置、图14的装置、图26的接收方法等)可以对应于图19。图19的每个组件可以对应于硬件、处理器、软件和/或其组合。例如,接收装置可以称为解码器。接收装置可以包括存储器和/或处理器。图19的接收装置可以执行与图18的发送装置相对应的过程和相反的过程。
下面参考图19描述PCC数据解码器的框图。编码的几何信息比特流和属性信息比特流可以作为输入被提供给解码器,并且被解码以输出重构的PCC数据。如下配置根据实施方式的解码器的属性信息解码器。邻居点集配置器可以执行所描述的实施方式的操作。
基于属性的分组配置器可以通过对指示是否执行分组的信息、指示分组类型的信息和从编码器发送的分组信息进行解码来生成组。
LOD配置器可以针对每个组配置LOD。可以对从编码器发送的属于一个LOD的点的最小数量进行解码。当组中的点的数量基于最小数量是小的时,可以仅配置一个LOD。
邻居点集配置器可以是执行与编码器的邻居点集配置器相同的功能/操作的模块,并且可以与编码器的邻居点集配置器相同。
参考图19,几何信息解码器可以接收几何信息比特流(参见图20)。几何信息熵解码器可以基于熵方法对几何信息进行解码。八叉树重构器可以重构由编码器应用的(八叉)树。基于编码中使用的树,可以生成树,并且可以以相同的方式对点云数据进行解码。几何信息预测器可以以与编码器中相同的方式生成当前几何信息的预测器。可以通过将残差和预测值相加来重构点云数据。几何信息变换逆量化处理器可以逆量化和重构由编码器量化的几何信息。坐标逆变换器可以逆变换由编码器变换的坐标以重构几何信息。几何信息解码器可以重构比特流中包含的几何。为了递送对属性信息进行解码所需的几何信息,几何信息解码器可以重构几何信息并将重构的值发送到属性信息解码器。
属性信息解码器可以接收属性信息比特流(参见图20)。属性残差信息熵解码器可以基于熵方法对属性信息进行解码。属性信息解码方法可以包括RAHT和提升变换、预测,如在编码器的情况中一样。基于属性的分组配置器可以基于比特流中包括的参数(例如,与分组状态信息、分组类型信息、分组信息等相关的参数)对属性信息进行分组。LOD配置器可以基于被包括在比特流中的LOD相关参数(例如,指示被包括在一个LOD中的点的最小数量的信息)生成LOD。邻居点集配置器可以生成用于预测的邻居点候选集,像编码器一样。属性信息预测器可以预测当前点,像编码器一样。残差属性信息逆量化处理器可以逆量化由编码器量化的属性信息。当颜色由编码器变换时,颜色逆变换处理器可以逆变换颜色。属性信息解码器可以从属性信息比特流重构属性信息。基于几何信息和/或属性信息,根据实施方式的方法/装置可以渲染点云数据。
图19的接收装置的解码操作遵循上面给出的附图的描述。
图20示出了根据实施方式的包括点云数据和/或参数的比特流。
为了添加/执行实施方式,可以发信号通知相关信息。可以在发送端或接收端使用根据实施方式的信令信息。可以如下所述配置编码的点云。执行几何编码和/或属性编码的点云数据编码器可以生成编码的点云(或包括点云的比特流)。另外,与点云数据相关的信令信息可以由点云数据发送装置的元数据处理器生成和处理,并被包括在点云中,如下所述。
每个缩写具有以下含义。每个缩写可以在等同含义的范围内由另一术语指代。SPS:序列参数集;GPS:几何参数集;APS:属性参数集;TPS:拼块参数集;Geom:几何比特流=几何切片头+几何切片数据;Attr:属性比特流=属性图块头+属性图块数据。
根据实施方式的方法/装置可以在属性信息编码/解码过程中向SPS或APS添加序列的相似属性分组功能的相关信息。
当相同序列中存在具有不同属性特性的拼块或切片时,可以将序列的相似属性分组功能的相关信息添加到针对每个切片的TPS或Attr。
提供拼块或切片,以允许点云被分区成用于处理的区域。
当点云数据被分区成多个区域时,用于生成相应区域的不同邻居点集的选项可以被配置为提供呈现低复杂度和低可靠性的结果的选择方法或呈现高复杂度和高可靠性的选择方法。选项可以根据接收器的容量被不同地配置。当点云数据被分区成多个区域时,特定区域的属性特征可以与序列的属性特征不同。因此,当点云被划分成拼块时,可以将不同的最大范围的邻居点应用于每个拼块。当点云被划分成切片时,可以将不同的最大范围的邻居点应用于每个切片。
根据实施方式的点云数据发送方法/装置(即,图1的发送装置10000、点云视频编码器10002和发送器10003、图2的获取20000-编码20001-发送20002、图4的编码器、图12的发送装置、图14的装置、图18的编码器、图25的发送方法等)可以对点云数据进行编码、生成相关参数并且生成和发送比特流,如图20所示。
根据实施方式的点云数据接收方法/装置(即,图1的接收装置10004、接收器10005和点云视频解码器10006、图2的发送20002-解码20003-渲染20004、图10和图11中的解码器、图13的接收装置、图14的装置、图19的解码器、图26的接收方法等)可以接收图20的比特流,并且基于参数对点云数据进行解码。
根据实施方式的比特流可以包括SPS、GPS和APS。因为点云数据可以包括一个或更多个属性,所以可以包括一个或更多个APS。TPS可以包括关于与一个或更多个拼块相关的边界框的信息。关于边界框的信息可以包括边界框位置坐标、宽度、高度和深度。形成点云数据的编码/解码的基础的单元可以是切片。根据实施方式的切片可以是数据单元。比特流可以包含一个或更多个切片(数据单元)。切片单元可以包括切片头和切片数据。切片头可以包含关于切片中包括的几何的信令信息。例如,其可以包括参数集ID、拼块ID、切片ID、几何边界框位置、几何点编号等。在下文中,将参考每个附图描述参数。
图21示出了根据实施方式的序列参数集的语法。
属性信息编码/解码过程中的相似属性分组功能的相关信息可以被添加到序列参数集。可以高效地发信号通知对邻居点配置功能的支持。可以在信令信息的含义和功能的范围内理解信令信息的名称。
attr_group_flag[i]:可以指示是否在序列的属性压缩中使用属性分组。
attr_min_points_in_LOD[i]:可以指示用于在序列的属性压缩中生成LOD的属性分组中的点的最小数量。
attr_group_type[i]:可以指示序列的属性压缩中的属性分组方法。例如,它可以发信号通知为0=基于材料ID的分组,1=八叉树结构中的基于相似属性的分组等。可以改变与每个整数值相对应的信息。
profile_idc指示比特流符合的简档。
profile_compatibility_flags等于1指示比特流符合由等于j的profile_idc指示的简档。
sps_num_attribute_sets指示比特流中的编码的属性的数量。sps_num_attribute_sets的值可以在0至63的范围内。
attribute_dimension[i]指示第i属性的分量的数量。
attribute_instance_id[i]指示第i属性的实例ID。
根据实施方式的SPS还可以包括以下参数。
simple_profile_compliant指示比特流符合简单简档(当等于1时)还是不符合简单简档(当等于0时)。
Dense_profile_compliant指示比特流符合密集简档(当等于1时)还是不符合密集简档(当等于0时)。
predictive_profile_compliant指示比特流符合预测简档(当等于1时)还是不符合预测简档(当等于0时)。
main_profile_compliant指示比特流符合主简档(当等于1时)还是不符合主简档(当等于0时)。
reserved_profile_18bits在符合本文档的该版本的比特流中等于0。reserved_profile_18bits的其它值被保留,以供ISO/IEC将来使用。
slice_reordering_constraint指示比特流对编码的点云帧内的切片的重新排序或去除是敏感的(当等于1时)还是不敏感的(当等于0时)。如果当slice_reordering_constraint等于1时重新排序或去除切片,那么所得比特流可以不被完全解码。
unique_point_positions_constraint等于1指示每一个点在每个编码的点云帧中应具有唯一位置。unique_point_positions_constraint等于0指示两个或更多个点可以在编码的点云帧中具有相同的位置。
即使每个切片中的点具有唯一的位置,同一帧中的不同切片中的点也可以彼此匹配。在这种情况下,unique_point_positions_constraint被设定为0。
当unique_point_positions_constraint等于1时,即使同一帧中相同位置处的点具有不同的帧索引/数量属性值,也禁止所述点。
level_idc指示附录A中指定的、比特流符合的级别。比特流不应包括除附录A中指定的值之外的level_idc的任何值。level_idc的其它值被保留,以供ISO/IEC将来使用。
sps_seq_parameter_set_id标识供其它DU参考的SPS。sps_seq_parameter_set_id在符合本文档的该版本的比特流中应为0。sps_seq_parameter_set_id的其它值被保留,以供ISO/IEC将来使用。
frame_ctr_lsb_bits指定语法元素frame_ctr_lsb的以比特为单位的长度。
slice_tag_bits指定语法元素slice_tag的以比特为单位的长度。
bypass_stream_enabled指定用于算术编码语法元素的旁路bin是否是在单独数据流中递送的。当bypass_stream_enabled等于1时,使用固定长度组块序列(chunksequence)来复用两个数据流(11.3)。当bypass_stream_enabled等于0时,旁路bin形成算术编码比特流的一部分。
entropy_continuation_enabled指示DU的熵语法分析可以依赖于先前切片中的DU的最终熵语法状态(当等于1时)或不能依赖于该最终熵语法状态(当等于0时)。比特流一致性要求当slice_reordering_constraint为0时,entropy_continuation_enabled为0。
sps_extension_present指示语法元素sps_extension_data存在于SPS语法结构中(当等于1时)或不存在于SPS语法结构中(当等于0时)。在符合本文档的该版本的比特流中,sps_extension_present为0。sps_extension_present的值1被保留,以供ISO/IEC将来使用。
sps_extension_data可以具有任何值。其存在和值不影响解码器符合本文档的该版本中指定的简档。
seq_origin_bits指示除符号比特之外的每个seq_origin_xyz语法元素的以比特为单位的长度。
seq_origin_xyz[k]和seq_origin_log2_scale一起指示序列的XYZ原点和来自应用特定坐标原点的按序列坐标系单元的编码坐标。当seq_origin_bits为0时,seq_origin_xyz[k]和seq_origin_log2_scale应被推断为0。原点的第k XYZ分量由表达SeqOrigin[k]指定。
seq_bbox_size_bits指示每个语法元素seq_bbox_size_minus1_xyz的以比特为单位的长度。
seq_bbox_size_minus1_xyz[k]加1指示序列坐标系中的编码体积尺寸的第k XYZ分量。当seq_bbox_size_bits为0时,不指定编码的体积尺寸。
seq_unit_numerator_minus1、seq_unit_denominator_minus1和seq_unit_is_metres一起指示由序列坐标系的单位向量表示的长度。
seq_unit_is_metres等于1指示序列单位向量的长度。
seq_unit_is_metres等于0指示序列单位向量具有相对于以下应用特定坐标系单位向量长度AppUnit的长度。
seq_coded_scale_exponent、seq_coded_scale_mantissa_bits和seq_coded_scale_mantissa一起指示将编码的坐标系转换为序列坐标系的比例因子。比例因子由语法元素指示为大于或等于1的归一化二进制浮点值。seq_coded_scale_mantisssa_bits指示语法元素seq_coded_scale_mantissa的以比特为单位的长度。比例因子由表达SeqCodedScale指示。
geom_axis_order表示编码的点云的XYZ轴与STV轴之间的对应关系。
num_attributes指示由SPS属性列表列出的属性的数量。
AttrDim、AttrBitDepth和AttrMaxVal分别指示由变量AttrIdx标识的属性的分量的数量、比特深度和最大值。
AttrDim:=attr_components_minus1[AttrIdx]+1
AttrBitDepth:=attr_bitdepth_minus1[AttrIdx]+1
AttrMaxVal:=Exp2(AttrBitDepth)-1
_components_minus1[attrIdx]加1指定所标识的属性的分量的数量。
可以仅利用原始属性数据(attr_coding_type=3)对具有三个或更多个分量的属性进行编码。
attr_instance_id值可以用于在具有相同属性标签的属性之间进行区分。例如,点云可以具有从不同视点采样的多个颜色属性。在这种情况下,应用可以使用attr_instance_id来在视点之间进行区分。
attr_bitdepth_minus1[attrIdx]加1指定所标识的属性的所有分量的比特深度。
attr_label_known[attrIdx]、attr_label[attrIdx]和attr_label_oid[attrIdx]一起标识由所标识的属性承载的数据的类型。attr_label_known[attrIdx]指定属性是由attr_label[attrIdx]的值(当等于0时)在本文档中指定的属性还是由对象标识符attr_label_oid[attrIdx](当等于0时)标识的外部指定属性。
存在由attr_label标识的属性类型。比特流一致性要求由attr_label标识的属性应当具有与指定为有效的一样多的分量。attr_label的未指定值被保留,以供ISO/IEC将来使用。解码器应解码具有attr_label的保留值的属性。
在本文档中未指定由attr_label_oid标识的属性类型。
attr_property_cnt指示针对特性的SPS中的attribute_property语法结构的数量。
图22示出了根据实施方式的属性参数集的语法。
属性信息编码/解码过程中的相似属性分组功能的相关信息可以被添加到属性参数集。可以高效地发信号通知对邻居点配置功能的支持。可以在信令信息的含义和功能的范围内理解信令信息的名称。属性参数集可以称为关于属性的信令信息。
attr_group_flag:可以指示是否在序列的属性压缩中使用属性分组。
attr_min_points_in_LOD:可以指示用于在序列的属性压缩中生成LOD的属性分组中的点的最小数量。
attr_group_type:可以指示序列的属性压缩中的属性分组方法。例如,它可以发信号通知为0=基于材料ID的分组,1=八叉树结构中的基于相似属性的分组等。可以改变与每个整数值相对应的信息。
aps_attr_parameter_set_id指示针对由其它语法元素参考的APS的标识符。aps_attr_parameter_set_id的值可以在0至15的范围内。
aps_seq_parameter_set_id指定针对活动SPS的sps_seq_parameter_set_id的值。aps_seq_parameter_set_id的值可以在0至15的范围内。
Lifting_num_pred_nearest_neighbours指示要用于预测的最近邻居的最大数量。Lifting_num_pred_nearest_neighbours的值可以在1至xx的范围内。
Lifting_max_num_direct_predictors指示要用于直接预测的预测器的最大数量。Lifting_max_num_direct_predictors的值可以在0至lifting_num_pred_nearest_neighbors的范围内。在解码过程中使用的变量MaxNumPredictors的值如下给出:MaxNumPredictors=lift_max_num_direct_predicots+1。
根据实施方式的APS还可以包括如下参数。
num_attributes指示由SPS属性列表列出的属性的数量。
AttrDim、AttrBitDepth和AttrMaxVal分别指示由变量AttrIdx标识的属性的分量的数量、比特深度和最大值。
AttrDim:=attr_components_minus1[AttrIdx]+1
AttrBitDepth:=attr_bitdepth_minus1[AttrIdx]+1
AttrMaxVal:=Exp2(AttrBitDepth)-1
_components_minus1[attrIdx]加1指定所标识的属性的分量的数量。
可以仅利用原始属性数据(attr_coding_type=3)对具有三个或更多个分量的属性进行编码。
attr_instance_id值可以用于在具有相同属性标签的属性之间进行区分。例如,点云可以具有从不同视点采样的多个颜色属性。在这种情况下,应用可以使用attr_instance_id来在视点之间进行区分。
attr_bitdepth_minus1[attrIdx]加1指定所标识的属性的所有分量的比特深度。
attr_label_known[attrIdx]、attr_label[attrIdx]和attr_label_oid[attrIdx]一起标识由所标识的属性承载的数据的类型。attr_label_known[attrIdx]指定属性是由attr_label[attrIdx]的值(当等于0时)在本文档中指定的属性还是由对象标识符attr_label_oid[attrIdx]标识的外部指定属性(当等于0时)。
由attr_label标识的属性的类型在表9中指定。比特流一致性要求由attr_label标识的属性应当具有仅与指定为有效的一样多的分量。attr_label的未指定值被保留,以供ISO/IEC将来使用。解码器应解码具有attr_label的保留值的属性。
在本文档中未指定由attr_label_oid标识的属性类型。
attr_property_cnt指示针对特性的SPS中的attribute_property语法结构的数量。
图23示出了根据实施方式的拼块参数集的语法。
属性信息编码/解码过程中的相似属性分组功能的相关信息可以被添加到拼块参数集。可以高效地发信号通知对邻居点配置功能的支持。可以在信令信息的含义和功能的范围内理解信令信息的名称。
attr_group_flag:指示是否在拼块的属性压缩中使用属性分组。
attr_min_points_in_LOD:指示用于在拼块的属性压缩中生成LOD的属性分组中的点的最小数量。
attr_group_type:指示拼块的属性压缩中的属性分组方法。例如,它可以发信号通知为0=基于材料ID的分组,1=八叉树结构中的基于相似属性的分组等。可以改变每个整数值。
num_tiles指示针对比特流发信号通知的拼块的数量。当不存在时,num_tiles被推断为0。
tile_bounding_box_offset_x[i]指示笛卡尔坐标中第i拼块的x偏移。当不存在时,tile_bounding_box_offset_x[0]的值被推断为sps_bounding_box_offset_x。
tile_bounding_box_offset_y[i]指示笛卡尔坐标中第i拼块的y偏移。当不存在时,tile_bounding_box_offset_y[0]的值被推断为sps_bounding_box_offset_y。
tile_bounding_box_offset_z[i]指示笛卡尔坐标中第i拼块的z偏移。当不存在时,tile_bounding_box_offset_z[0]的值被推断为sps_bounding_box_offset_z。
根据实施方式的拼块参数集还可以包括以下参数。拼块参数集可以称为拼块清单。
ti_seq_parameter_set_id指示具有sps_seq_parameter_set_id的活动SPS。
ti_frame_ctr_lsb_bits指示语法元素ti_frame_ctr_lsb的以比特为单位的长度。ti_frame_ctr_lsb_bits可以与活动SPS的frame_ctr_lsb_bits相同。
ti_frame_ctr_lsb可以是用于下一编码的点云帧的FrameCtr的ti_frame_ctr_lsb_bits LSB。
tile_cnt指示由拼块清单列出的拼块的数量。
tile_id_bits指示每个语法元素tile_id的以比特为单位的长度。tile_id_bits等于0指示拼块应由索引tileIdx标识。
tile_origin_bits_minus1加1指示除符号比特之外的每个语法元素tile_origin_xyz的以比特为单位的长度。
tile_size_bits_minus1加1指示每个语法元素tile_size_minus1_xyz的以比特为单位的长度。
tile_id[tileIdx]指示拼块清单中的第tileIdx拼块的标识符。当tile_id_bits为0时,tile_id[tileIdx]的值被推断为tileIdx。tile_id的每一个值在拼块清单中可以是唯一的。
tile_origin_xyz[tileId][k]和tile_size_minus1_xyz[tileId][k]指示包括由等于tileId的slice_tag标识的切片的序列坐标系中的边界框。
tile_origin_xyz[tileId][k])指示拼块边界框的底角相对于拼块清单原点的第k XYZ坐标。
tile_size_minus1_xyz[tileId][k]加1指示拼块边界框的第k XYZ大小。
ti_origin_bits_minus1加1指示除符号比特之外的每个语法元素ti_origin_xyz的以比特为单位的长度。
ti_origin_xyz[k]和ti_origin_log2_scale一起指示由seq_origin_xyz[k]和seq_origin_log2_scale指定的序列坐标系的XYZ原点。ti_origin_xyz[k]和ti_origin_log2_scale的值可以分别与seq_origin_xyz[k]和seq_origin_log2_scale相同。
图24示出了根据实施方式的属性数据头的语法。
承载被包括在图20的比特流中的属性的数据单元(或切片)的头可以包括以下信息。
attr_group_flag:指示是否在切片的属性压缩中使用属性分组。
attr_min_points_in_LOD:可以指示用于在切片的属性压缩中生成LOD的属性分组中的点的最小数量。
attr_group_type:指示切片的属性压缩中的属性分组方法。例如,它可以发信号通知为0=基于材料ID的分组,1=八叉树结构中的基于相似属性的分组等。可以改变每个整数值。
attr_num_groups:指示在压缩切片的属性中根据材料ID执行分组时的所生成的组的数量。
attr_num_points:指示在压缩切片的属性中根据材料ID执行分组时的每个组的点的数量。
attr_group_split_flag:通过指示在压缩切片的属性中基于八叉树结构中的每个相似属性执行分组时是否针对每个八叉树节点执行分割来指示是否执行分组。
abh_attr_parameter_set_id指定活动APS的aps_attr_parameter_set_id的值。
abh_attr_sps_attr_idx指定活动SPS中的属性集。abh_attr_sps_attr_idx的值在活动SPS中可以在0至sps_num_attribute_sets的范围内。
ash_attr_geom_slice_id指定活动几何切片头的gsh_slice_id的值。
当所有属性数据单元(ADU)开始时,变量AttrIdx被设定为adu_sps_attr_idx:AttrIdx=adu_sps_attr_idx。
如果attr_coding_type不等于3,那么由ADU编码的属性可以具有多达三个分量。
adu_slice_id指示前一GDU slice_id的值。
图25示出了根据实施方式的发送点云数据的方法。
根据实施方式的点云数据发送方法可以包括:对点云数据进行编码(S2500)。
根据实施方式的点云数据发送方法还可以包括:发送包含点云数据的比特流(S2501)。
根据实施方式的点云数据发送方法符合图1的发送装置10000、点云视频编码器10002和发送器10003、图2的获取20000-编码20001-发送20002、图4的编码器、图12的发送装置、图14的装置、图18的编码器等的描述。
图26示出了根据实施方式的接收点云数据的方法。
根据实施方式的点云数据接收方法可以包括:接收包含点云数据的比特流(S2600)。
根据实施方式的点云数据接收方法还可以包括:对点云数据进行解码。
根据实施方式的点云数据接收方法/装置符合图1的接收装置10004、接收器10005和点云视频解码器10006、图2的发送20002-解码20003-渲染20004、图10和图11中的解码器、图13的接收装置、图14的装置、图19的解码器等的描述。
根据实施方式的点云数据发送方法可以包括:对点云数据进行编码,以及发送包含点云数据的比特流。
参考图15,关于根据材料ID进行分组,对点云数据进行编码可以包括:基于材料ID对点云数据进行分组,其中,点云数据可以包括具有材料ID的属性数据。属性数据可以包括颜色。点云数据的具有相同材料ID的属性数据可以彼此相似。拼块的具有第一材料ID作为属性数据的区域可以具有与属性数据相同或相似的属性(例如,颜色、反射率、材料等)。
参考图16,关于基于相似属性的分组,对点云数据进行编码可以包括:基于树对点云数据的几何数据进行编码,以及基于树对点云数据的属性数据进行分组,其中,属性数据的分组可以包括树中包括的节点中包括的一个或更多个点当中的具有相似属性数据的组点,并且基于一个或更多个点的属性数据的中值、最小值与最大值之间的差小于阈值,生成具有一个或更多个点的组。
参考图16,对点云数据进行编码还可以包括:生成针对所分组的属性数据的细节级别(LOD),其中,LOD中包括的点可以是基于莫顿码排序的。
参考图16,关于针对每个组的LOD生成,对点云数据进行编码的步骤还可以包括:基于LOD生成点云数据的邻居点集,其中,邻居点集可以是基于搜索范围从索引小于或等于具有该点云数据的LOD的索引的LOD中包括的点中搜索的。
参考图20,关于参数,比特流可以包括关于相似属性的分组的信息。
点云数据发送方法可以由发送装置执行。发送装置可以称为编码器。发送装置可以称为包括存储器和/或处理器的装置。发送装置可以包括:编码器,该编码器被配置为对点云数据进行编码;以及发送器,该发送器被配置为发送包含点云数据的比特流。
接收方法可以执行与发送方法相对应的过程和相反的过程。点云数据接收方法可以包括:接收包含点云数据的比特流,以及对点云数据进行解码。
对点云数据进行解码可以包括:基于材料ID对点云数据进行分组,其中,点云数据可以包括具有材料ID的属性数据。属性数据可以包括颜色,其中,点云数据的具有相同材料ID的属性数据可以彼此相似。
对点云数据进行解码可以包括:基于树对点云数据的几何数据进行编码;以及基于树对点云数据的属性数据进行分组,其中,对属性数据进行分组可以包括:对树中包括的节点中包括的一个或更多个点当中的具有相似属性数据的点进行分组;以及基于一个或更多个点的属性数据的中值、最小值与最大值之间的差小于阈值,生成具有一个或更多个点的组。
对点云数据进行解码还可以包括:生成针对所分组的属性数据的细节级别(LOD),其中,LOD中包括的点可以是基于莫顿码排序的。
对点云数据进行解码还可以包括:基于LOD生成点云数据的邻居点集,其中,邻居点集可以是基于搜索范围从索引小于或等于具有该点云数据的LOD的索引的LOD中包括的点中搜索的。
比特流可以包括关于相似属性的分组的信息。
点云数据接收方法可以由接收装置执行。接收装置可以称为解码器。接收装置可以称为包括存储器和/或处理器的装置。接收装置可以包括:接收器,该接收器被配置为接收包含点云数据的比特流;以及解码器,该解码器被配置为对点云数据进行解码。
被配置为对点云数据进行解码的解码器可以基于材料ID对点云数据进行分组,其中,点云数据可以包括具有材料ID的属性数据。属性数据可以包括颜色,其中,点云数据的具有相同材料ID的属性数据可以彼此相似。
上述实施方式提供了一种能够在考虑G-PCC属性编码/解码过程中的内容的点之间的属性关联的情况下限制可以被选择为用于预测的邻居点集的点的方法。
当内容包含具有色彩连续性/相似性且以高密度捕获的一个对象并且所捕获的区域为小区域时,可以存在具有属性彼此高度相关联(即使距邻居点的距离稍微长)的点的内容。这可以通过考虑内容的属性特性的情况下的分组来影响配置邻居点集,这可能影响属性压缩效率。
所提出的通过具有相似属性的点的分组进行属性压缩的方法可以在属性之间的关联由于内容的属性特性而为低时,去除干扰预测的信息,而不是有帮助。因此,这可以增大预测的平均值,以便不增大与点的属性值的残差,并且可以不向不重要的信息指派权重。因此,可以减小属性比特流的大小并且可以提高PSNR准确度。
因此,本实施方式可以基于在用于3D点云数据的压缩的基于几何的点云压缩(G-PCC)的编码器/解码器中考虑的内容属性特性提高属性压缩效率。
利用根据实施方式的方法/装置(发送方法/装置和/或接收方法/装置),可以通过以下操作来高效地编码/解码各种类型的点云数据:基于相似属性进行分组,以在考虑内容的属性特性的情况下有效地选择用于属性压缩的邻居点集,以及基于所分组的相似属性生成LOD。
关于根据上述实施方式的点云数据编码器(例如,邻居点集生成器),由于基于相似属性的分组方法、针对每个组配置LOD和邻居点集的方法和/或用于其的信令方法,所以根据实施方式的用于发送或接收点云数据的方法/装置可以利用最佳邻居点集提高属性压缩/解压缩的效率。
通过对具有相似属性的点进行分组来进行属性压缩的方法可以在属性之间的关联由于内容的属性特性而为低时,去除干扰预测的信息,而不是有帮助。因此,这可以增大预测的平均值,以便不增大与点的属性值的残差,并且可以不向不重要的信息指派权重。因此,可以减小属性比特流的大小并且可以提高PSNR准确度。
除了选择邻居点以提高属性压缩效率的方法(例如,通过将邻居点集的数量从三个增加到六个,或者通过从六个邻居点集候选中选择更好定位的点)之外,实施方式还可以在选择邻居点集之前通过基于相似属性的分组来设定邻居点选择的范围,从而增加邻居点具有彼此相似的属性的概率,这可以获得更好的压缩效率性能。
此外,例如,除了在生成补丁的过程中按照材料ID来分离补丁的方法之外,实施方式还可以包括:按照用于属性压缩的八叉树节点和/或材料ID来配置分组、按组配置LOD并且执行邻居节点搜索,从而基于相似属性提高压缩效率。
此外,除了简单地对包括多个切片的点云数据进行切片以用于可扩展性之外,实施方式还可以基于材料ID和/或八叉树节点对属性数据进行分组。
已从方法和/或装置的角度描述了实施方式,可应用方法和装置的描述以彼此补充。
尽管为了简单起见单独描述了附图,但是可通过将各个图中所示的实施方式合并来设计新的实施方式。根据本领域技术人员的需要设计可由计算机读取的记录有用于执行上述实施方式的程序的记录介质也落在所附权利要求及其等同物的范围内。根据实施方式的装置和方法可不限于上述实施方式的配置和方法。可通过选择性地组合所有或一些实施方式来对实施方式进行各种修改。尽管参照附图描述了优选实施方式,但本领域技术人员将理解,在不脱离所附权利要求中描述的本公开的精神或范围的情况下,可对实施方式进行各种修改和变化。这些修改不应从实施方式的技术思想或观点单独地理解。
实施方式的装置的各种元件可由硬件、软件、固件或其组合实现。实施方式中的各种元件可由单个芯片(例如,单个硬件电路)实现。根据实施方式,根据实施方式的组件可分别被实现为单独的芯片。根据实施方式,根据实施方式的装置的至少一个或更多个组件可包括能够执行一个或更多个程序的一个或更多个处理器。一个或更多个程序可执行根据实施方式的任一个或更多个操作/方法或者包括用于执行其的指令。用于执行根据实施方式的装置的方法/操作的可执行指令可被存储在被配置成由一个或更多个处理器执行的非暂时性CRM或其它计算机程序产品中,或者可被存储在被配置成由一个或更多个处理器执行的暂时性CRM或其它计算机程序产品中。另外,根据实施方式的存储器可用作不仅涵盖易失性存储器(例如,RAM),而且涵盖非易失性存储器、闪存和PROM的概念。另外,也可按载波(例如,经由互联网的传输)的形式实现。另外,处理器可读记录介质可分布到经由网络连接的计算机***,使得处理器可读代码可按分布式方式存储和执行。
在本说明书中,术语“/”和“、”应该被解释为指示“和/或”。例如,表达“A/B”可意指“A和/或B”。此外,“A、B”可意指“A和/或B”。此外,“A/B/C”可意指“A、B和/或C中的至少一个”。另外,“A/B/C”可意指“A、B和/或C中的至少一个”。此外,在本说明书中,术语“或”应该被解释为指示“和/或”。例如,表达“A或B”可意指1)仅A、2)仅B或3)A和B二者。换言之,本文献中使用的术语“或”应该被解释为指示“另外地或另选地”。
诸如第一和第二的术语可用于描述实施方式的各种元件。然而,根据实施方式的各种组件不应受上述术语限制。这些术语仅用于将一个元件与另一元件相区分。例如,第一用户输入信号可被称为第二用户输入信号。类似地,第二用户输入信号可被称为第一用户输入信号。这些术语的使用应该不脱离各种实施方式的范围来解释。第一用户输入信号和第二用户输入信号均是用户输入信号,但除非上下文清楚地另外规定,否则并不意指相同的用户输入信号。
用于描述实施方式的术语是为了描述具体实施方式而使用的,并非旨在限制实施方式。如实施方式的描述和权利要求中使用的,除非上下文清楚地另外规定,否则单数形式包括复数个所指对象。表达“和/或”用于包括术语的所有可能组合。诸如“包括”或“具有”的术语旨在指示图形、数量、步骤、元件和/或组件的存在,应该理解为不排除另外存在图形、数量、步骤、元件和/或组件的可能性。如本文所使用的,诸如“如果”和“当”的条件表达不限于可选情况,旨在解释为当满足特定条件时执行相关操作,或者根据特定条件解释相关定义。
本说明书中描述的根据实施方式的操作可由根据实施方式的包括存储器和/或处理器的发送/接收装置执行。存储器可存储程序以用于处理/控制根据实施方式的操作,并且处理器可控制本说明书中描述的各种操作。处理器可被称为控制器等。在实施方式中,操作可由固件、软件和/或其组合执行。固件、软件和/或其组合可被存储在处理器或存储器中。
根据上述实施方式的操作可以由根据实施方式的发送装置和/或接收装置执行。发送/接收装置可以包括:发送器/接收器,其被配置为发送和接收媒体数据;存储器,其被配置为存储用于根据实施方式的处理的指令(程序代码、算法、流程图和/或数据);以及处理器,其被配置为控制发送/接收装置的操作。
处理器可以称为控制器等,并且可以对应于例如硬件、软件和/或其组合。根据上述实施方式的操作可以由处理器执行。另外,处理器可以被实现为用于上述实施方式的操作的编码器/解码器。
本公开的模式
如上所述,在实现实施方式的最佳模式中描述了相关细节。
工业实用性
如上所述,实施方式全部或部分地可应用于点云数据发送/接收装置和***。
本领域技术人员可以在实施方式的范围内以各种方式对实施方式进行改变或修改。
实施方式可以包括权利要求及其等同物的范围内的变型例/修改例。
Claims (15)
1.一种发送点云数据的方法,所述方法包括以下步骤:
对点云数据进行编码;以及
发送包含所述点云数据的比特流。
2.根据权利要求1所述的方法,其中,对所述点云数据进行编码的步骤包括:
基于材料ID对所述点云数据进行分组,
其中,所述点云数据包括具有所述材料ID的属性数据,
其中,所述属性数据包括颜色,
其中,所述点云数据的具有相同材料ID的属性数据彼此相似。
3.根据权利要求1所述的方法,其中,对所述点云数据进行编码的步骤包括:
基于树对所述点云数据的几何数据进行编码;以及
基于所述树对所述点云数据的属性数据进行分组,
其中,对所述属性数据进行分组包括:
对所述树中包括的节点中包括的一个或更多个点当中的具有相似属性数据的点进行分组;以及
基于所述一个或更多个点的属性数据的中值、最小值与最大值之间的差小于阈值,生成具有所述一个或更多个点的组。
4.根据权利要求3所述的方法,其中,对所述点云数据进行编码的步骤还包括:
生成针对所分组的属性数据的细节级别LOD,
其中,所述LOD中包括的点是基于莫顿码排序的。
5.根据权利要求4所述的方法,其中,对所述点云数据进行编码的步骤还包括:
基于所述LOD生成所述点云数据的邻居点集,
其中,所述邻居点集是基于搜索范围从索引小于或等于具有所述点云数据的LOD的索引的LOD中包括的点中搜索的。
6.根据权利要求1所述的方法,其中,所述比特流包含关于相似属性的分组的信息。
7.一种用于发送点云数据的装置,所述装置包括:
编码器,所述编码器被配置为对点云数据进行编码;以及
发送器,所述发送器被配置为发送包含所述点云数据的比特流。
8.一种接收点云数据的方法,所述方法包括以下步骤:
接收包含所述点云数据的比特流;以及
对所述点云数据进行解码。
9.根据权利要求8所述的方法,其中,对所述点云数据进行解码的步骤包括:
基于材料ID对所述点云数据进行分组,
其中,所述点云数据包括具有所述材料ID的属性数据,
其中,所述属性数据包括颜色,
其中,所述点云数据的具有相同材料ID的属性数据彼此相似。
10.根据权利要求8所述的方法,其中,对所述点云数据进行解码的步骤包括:
基于树对所述点云数据的几何数据进行编码;以及
基于所述树对所述点云数据的属性数据进行分组,
其中,对所述属性数据进行分组包括:
对所述树中包括的节点中包括的一个或更多个点当中的具有相似属性数据的点进行分组;以及
基于所述一个或更多个点的属性数据的中值、最小值与最大值之间的差小于阈值,生成具有所述一个或更多个点的组。
11.根据权利要求10所述的方法,其中,对所述点云数据进行解码的步骤还包括:
生成针对所分组的属性数据的细节级别LOD,
其中,所述LOD中包括的点是基于莫顿码排序的。
12.根据权利要求11所述的方法,其中,对所述点云数据进行解码的步骤还包括:
基于所述LOD生成所述点云数据的邻居点集,
其中,所述邻居点集是基于搜索范围从索引小于或等于具有所述点云数据的LOD的索引的LOD中包括的点中搜索的。
13.根据权利要求8所述的方法,其中,所述比特流包含关于相似属性的分组的信息。
14.一种用于接收点云数据的装置,所述装置包括:
接收器,所述接收器被配置为接收包含所述点云数据的比特流;以及
解码器,所述解码器被配置为对所述点云数据进行解码。
15.根据权利要求14所述的装置,其中,被配置为对所述点云数据进行解码的所述解码器基于材料ID对所述点云数据进行分组,
其中,所述点云数据包括具有所述材料ID的属性数据,
其中,所述属性数据包括颜色,
其中,所述点云数据的具有相同材料ID的属性数据彼此相似。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2021-0149968 | 2021-11-03 | ||
KR20210149968 | 2021-11-03 | ||
PCT/KR2022/016952 WO2023080606A1 (ko) | 2021-11-03 | 2022-11-02 | 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 수신 장치 및 포인트 클라우드 데이터 수신 방법 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118202657A true CN118202657A (zh) | 2024-06-14 |
Family
ID=86241764
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280073385.7A Pending CN118202657A (zh) | 2021-11-03 | 2022-11-02 | 点云数据发送装置和方法以及点云数据接收装置和方法 |
Country Status (3)
Country | Link |
---|---|
KR (1) | KR20240101564A (zh) |
CN (1) | CN118202657A (zh) |
WO (1) | WO2023080606A1 (zh) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
SG11202102620XA (en) * | 2018-09-14 | 2021-04-29 | Huawei Tech Co Ltd | Improved attribute support in point cloud coding |
US20230171431A1 (en) * | 2020-03-11 | 2023-06-01 | Lg Electronics Inc. | Device for transmitting point cloud data, method for transmitting point cloud data, device for receiving point cloud data, and method for receiving point cloud data |
BR112022026363A2 (pt) * | 2020-06-24 | 2023-01-17 | Beijing Xiaomi Mobile Software Co Ltd | Método de codificação e decodificação de uma nuvem de pontos |
CN112785714A (zh) * | 2021-01-29 | 2021-05-11 | 北京百度网讯科技有限公司 | 点云实例标注方法及装置、电子设备和介质 |
CN113240786B (zh) * | 2021-05-10 | 2023-06-13 | 北京奇艺世纪科技有限公司 | 一种视频点云渲染方法、装置、电子设备及存储介质 |
-
2022
- 2022-11-02 WO PCT/KR2022/016952 patent/WO2023080606A1/ko active Application Filing
- 2022-11-02 KR KR1020247013871A patent/KR20240101564A/ko unknown
- 2022-11-02 CN CN202280073385.7A patent/CN118202657A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2023080606A1 (ko) | 2023-05-11 |
KR20240101564A (ko) | 2024-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114503571B (zh) | 点云数据发送装置和方法、点云数据接收装置和方法 | |
CN113597771B (zh) | 用于处理点云数据的设备和方法 | |
CN114503586A (zh) | 点云数据发送装置、点云数据发送方法、点云数据接收装置和点云数据接收方法 | |
CN114175100A (zh) | 用于处理点云数据的方法和装置 | |
CN115428467B (zh) | 点云数据发送设备和方法、点云数据接收设备和方法 | |
US11902348B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
CN114762334B (zh) | 点云数据发送装置、点云数据发送方法、点云数据接收装置和点云数据接收方法 | |
CN114009046A (zh) | 用于处理点云数据的装置和方法 | |
CN114073086A (zh) | 点云数据处理设备和方法 | |
US20220230360A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
US20230059625A1 (en) | Transform-based image coding method and apparatus therefor | |
CN115210765A (zh) | 点云数据发送装置、发送方法、处理装置和处理方法 | |
US12003769B2 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
US20230334703A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
CN114051730A (zh) | 处理点云数据的设备和方法 | |
US20230206510A1 (en) | Point cloud data processing device and processing method | |
US20230232042A1 (en) | Point cloud data transmission device, point cloud data transmission method, point cloud data reception device, and point cloud data reception method | |
CN117121487A (zh) | 点云数据发送设备、点云数据发送方法、点云数据接收设备和点云数据接收方法 | |
CN116438799A (zh) | 点云数据发送装置、点云数据发送方法、点云数据接收装置和点云数据接收方法 | |
CN117178555A (zh) | 点云数据发送设备、点云数据发送方法、点云数据接收设备和点云数据接收方法 | |
CN116508318A (zh) | 点云数据发送装置、点云数据发送方法、点云数据接收装置及点云数据接收方法 | |
CN114667542A (zh) | 点云数据发送装置、点云数据发送方法、点云数据接收装置以及点云数据接收方法 | |
CN114930860B (zh) | 点云数据发送装置、点云数据发送方法、点云数据接收装置和点云数据接收方法 | |
CN118202657A (zh) | 点云数据发送装置和方法以及点云数据接收装置和方法 | |
CN118235411A (zh) | 点云数据发送方法、点云数据发送装置、点云数据接收方法及点云数据接收装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |