CN112598572A - 一种筛选子块图像与处理单元的方法及装置 - Google Patents

一种筛选子块图像与处理单元的方法及装置 Download PDF

Info

Publication number
CN112598572A
CN112598572A CN202010019369.2A CN202010019369A CN112598572A CN 112598572 A CN112598572 A CN 112598572A CN 202010019369 A CN202010019369 A CN 202010019369A CN 112598572 A CN112598572 A CN 112598572A
Authority
CN
China
Prior art keywords
image
sub
block
new
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010019369.2A
Other languages
English (en)
Other versions
CN112598572B (zh
Inventor
虞露
王彬
王楚楚
孙宇乐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University ZJU
Original Assignee
Zhejiang University ZJU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University ZJU filed Critical Zhejiang University ZJU
Publication of CN112598572A publication Critical patent/CN112598572A/zh
Application granted granted Critical
Publication of CN112598572B publication Critical patent/CN112598572B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种筛选子块图像与处理单元的方法及装置。该发明用于多媒体领域中,从多视点子块拼接图像的码流中解码提取子块图像或处理单元,对子块图像或处理单元进行筛选,通过提取子块图像或处理单元相关信息和目标图像相关信息,判决该子块图像或处理单元与目标图像是否存在区域重叠,如果存在区域重叠,就使用子块图像或处理单元中的像素进行渲染得到部分的目标图像,否则,不进行渲染。本发明给出的方法在不降低渲染目标图像的质量下,可以有效降低渲染计算时间。本发明在提出一种筛选子块图像和处理单元的方法的同时,还提出了相应的装置。

Description

一种筛选子块图像与处理单元的方法及装置
技术领域
本发明专利属于子块图像处理领域,具体涉及一种多视点子块拼接图像在进行目标图像渲染前,进行子块图像和处理单元筛选的方法和装置。
背景技术
“沉浸感”作为一种主观评价,是指观看者对多媒体***建立、显示出来的虚拟场景的感知代入感。随着采集设备和显示设备的能力逐年增强,沉浸式媒体作为一种能够带给观看者强沉浸感的视觉多媒体,其编码、传输和渲染已经成为了工业界和科学界的研究热点。
随着沉浸式媒体支持观看自由度的增加,其带给观看者的视觉沉浸感得到明显增强。在三维空间下,观看者的观看自由度最多支持6个自由度,包括沿三维空间X,Y,Z轴平移和分别绕三个轴旋转。目前,观看者可以在限定空间(平移自由度受限)中任意移动位置、改变朝向来观看场景,从而获得交互感和运动视差,形成更强的视觉沉浸感。
为了支持有限空间的6自由度观看场景,沉浸式媒体需要渲染限定空间中任意位置、任意朝向的目标内容。多视点图像加深度信息是一种有效的沉浸式媒体表达方式,它由多个视点的纹理图像以及各纹理图像对应的深度图像组成。利用基于深度图像的视点合成技术,该表达方式可以根据目标图像的相机参数以及目标视点和已有视点的位置关系渲染得到目标视点的图像。但是由于多个视点之间一般存在较大的信息冗余,编码传输所有多视点源图像会造成编解码的代价很大。
多视点子块拼接图像有效地解决了上述问题。在编解码之前,通过分析多个视点之间的几何纹理关系,利用主视点(多视点图像中的某些包含完整视点信息的图像)图像尽可能剔除其他视点的冗余信息,因此除了主视点外的其他视点图像只保留特有的有效信息。考虑到编码效率,子图有效信息的保留一般用矩形区域表示,这样就形成多个矩形子块图像,最后将多个子块图像拼接成多视点子块拼接图像,如图1所示。经过上述操作后,需要编码传输的图像数据量能大大减少。
对于解码端,利用解码得到的子块图像信息,从解码得到的多视点子块拼接图像中提取所有子块图像。其中,所述的子块图像信息至少包括:子块图像的宽度、高度、子块图像的左上角像素在多视点拼接图像中的位置和子块图像的左上角像素在源视点图像中的位置。
目标图像合成是以子块图像为单位进行投影计算的。对于每个子块图像,利用子块图像所属单视点图像的相机参数和目标图像的相机参数关系,进行目标图像渲染,其中相机参数中的相机内参包括焦距、主点坐标和坐标轴倾斜参数,这些参数包含在下式的内参矩阵中。任意两个视点V1,V2间对应像素的视点间位置关系如下公式所示:
Figure BDA0002360157730000011
其中,utarget,vtarget是目标视点V1中像素点的坐标位置,
uref,vref是参考视点V2中像素点的坐标位置,
Figure BDA0002360157730000012
是目标视点V1的相机内参矩阵,
Figure BDA0002360157730000013
是参考视点V2的相机内参矩阵,
R和t表示参考视点V2处的相机坐标与目标视点V1处的相机坐标旋转平移关系,
zref是参考视点V2中像素点对应的深度值,
ztarget是目标视点V1中像素点对应的深度值,
最后对所有投影到目标图像的子块纹理信息进行融合处理,合成目标图像。与传输完整数量的多视点源图像相比,在相同码率下,目标图像的合成质量能得到显著的提升。
在实际的图像处理***中,解码端的处理时间是衡量该***是否可行的关键参数。而目前基于子块图像的目标图像合成依然有可改进优化的空间。多视点子块拼接图像中所有的子块图像联合描述了整个场景信息。而在观看者观看视角域有限的约束下,观看的每帧目标图像只覆盖部分的全部视角场景内容,这就会出现某个子块图像对于合成目标图像完全无信息贡献,如图2所示,子块图像2的内容渲染后与目标图像完全没有区域覆盖,这些对目标视点无贡献子块图像的逐像素投影计算增加了无效的计算负担。
发明内容
为了解决上述技术问题,本发明提出了一种筛选子块图像和处理单元的方法及装置。在每个子块图像或处理单元进行目标图像渲染前,添加预筛选过程,在目标视点观看位置和已有视点偏离距离和角度不大,子块图像或处理单元的大小所占视角范围不大,水平竖直一般小于90度,目标图像为非全景、有限视野范围的图像的前提下,用子块图像内的一定数量的代表点以及深度范围来描述子块图像或处理单元包含的场景范围,通过这些代表点落在目标图像上的情况来判决是否使用该子块图像或处理单元进行图像渲染,只对有效的子块图像或处理单元进行预渲染。这样节省了进行图像渲染的子块图像或处理单元数量,在不改变目标图像的合成质量的同时,降低了渲染计算时间。
本发明的第一目的是提供筛选子块图像的方法,包括如下内容:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中两参数值的关系满足 z_near_new≤z_far_new;
利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合深度信息所得一组空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中N为空间代表点的数量,i为0到N-1的整数;
根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像进行渲染。
进一步的,满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的N个代表点都在目标图像左边界左侧;
(2)投影到目标图像的N个代表点都在目标图像右边界右侧;
(3)投影到目标图像的N个代表点都在目标图像上边界上侧;
(4)投影到目标图像的N个代表点都在目标图像下边界下侧。
进一步的,所述N为8。
进一步的,所述子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值。
进一步的,所述子块图像的最近深度值和所述子块图像的最远深度值的确定方法为以下方法之一种:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值。
本发明的第二目的是提供筛选处理单元的方法,包括如下内容:
对于多视点子块拼接图像中的至少一个处理单元,根据码流中所述处理单元对应的信息传输单元的宽度W和高度H,计算该处理单元的宽度信息width和高度信息height,方法如下:
width=min{w0,W-Δw};
height=min{h0,H-Δh};
其中,{w0,h0}分别是处理单元的默认宽度和高度,{Δw,Δh}分别是所述处理单元相对于所述信息传输单元的位置偏移量;
从码流中获取所述信息传输单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息;
根据所述信息传输单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息和所述处理单元位置相对于所述信息传输单元位置的偏移量{Δw,Δh},计算所述处理单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息;
获取所述处理单元所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述处理单元的两个深度参数:z_near_new和z_far_new,其中z_near_new≤z_far_new;
利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合深度信息所得一组空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中N为空间代表点的数量,i为0到N-1的整数;
根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该处理单元与目标图像是否存在区域重叠;
如果存在区域重叠,使用处理单元中的像素进行渲染得到部分的目标图像,否则,不使用所述处理单元进行渲染。
进一步的,满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的N个代表点都在目标图像左边界左侧;
(2)投影到目标图像的N个代表点都在目标图像右边界右侧;
(3)投影到目标图像的N个代表点都在目标图像上边界上侧;
(4)投影到目标图像的N个代表点都在目标图像下边界下侧。
进一步的,所述N为8。
进一步的,所述子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值。
进一步的,所述子块图像的最近深度值和所述子块图像的最远深度值的确定方法为以下方法之一种:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值。
本发明的第三目的是提供筛选子块图像的装置,包括如下内容:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;
目标图像相关信息获取模块,用于获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
子块图像深度参数获取模块,用于获取两个深度参数z_near_new和z_far_new,其中 z_near_new≤z_far_new;
子块图像判决模块,用于利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合深度信息所得的N个空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中N为空间代表点的数量,i为0到N-1的整数;根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像进行渲染。
本发明的第四目的是提供筛选处理单元的装置,包括如下内容:
信息传输单元信息提取模块,输入为多视点子块拼接图像码流,输出为信息传输单元的宽度W和高度H、所述信息传输单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息;
处理单元信息提取模块,输入为处理单元的默认宽度和高度{w0,h0}、所述处理单元相对于所述信息传输单元的位置偏移量{Δw,Δh}和信息传输单元信息,输出为处理单元信息,包括:处理单元的宽度width和高度height、所述处理单元在多视点子块拼接图像中的位置信息、所述处理单元在源视点图像中的位置信息和该处理单元所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,处理单元信息提取模块根据信息传输单元信息、{w0,h0}和{Δw,Δh}计算处理单元信息,其中计算方法如下:
width=min{w0,W-Δw};
height=min{h0,H-Δh};
目标图像相关信息获取模块,用于获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
处理单元深度参数获取模块,用于获取两个深度参数z_near_new和z_far_new,其中 z_near_new≤z_far_new;
子块图像判决模块,用于利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合深度信息所得的N个空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中N为空间代表点的数量,i为0到N-1的整数;根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像进行渲染。
本发明由于采用以上技术方案,其具有以下优点:
在目标全景图像中,有效视角域只会占其中一小部分。通过对子块图像少量代表点的判断除去无效视角域的子块图像,只对有效的子块图像进行预渲染,这样能减少进行图像渲染的子块图像数量,因此可以在不改变目标图像的合成质量的同时,降低了渲染计算时间。特别需要说明的是本发明选取子块图像四个边界顶点作为子块图像的代表点,结合深度参数两个深度参数,可以保证八个空间代表点大于或等于原子块图像能表达的空间范围,这样进行快速预筛选能确保减少的是非有效视角域的子块图像,确保不改变目标图像的合成质量。
附图说明
结合附图,本发明的其他特点和优点可从下面通过举例来对本发明的原理进行解释的优选实施方式的说明中变得更清楚。
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是多视点子块拼接图像的生成示意图。
图2是多视点子块拼接图像中的子块图像映射到三维空间后与目标图像区域覆盖的示意图。
图3是子块图像四个边界顶点,以及该四顶点结合z_near_new和z_far_new所得的八个空间代表点示意图。
图4是本发明装置实施例流程图。
图5是多视点子块拼接图像、信息传输单元和处理单元关系示意图。
图6是当多视点子块拼接图像为主视图时,默认划分为多个子图示意图。
具体实施方式
为了进一步理解本发明,下面结合实施例对本发明的优选实施方案进行描述,但是应当理解,这些描述只是为进一步说明本发明的特征和优点,而不是对本发明权利要求的限制。
实施例1
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度 width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys)为(0, 0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中子块图像深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值 z_near和最远深度值z_far关系为z_near<=z_near_new<=z_far_new<=z_far。
如图3所示,子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值 z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs+width,ys)=(128,0),
(a2,b2)=(xs,ys+height)=(0,64),
(a3,b3)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(0,0,0.12),
(x1,y1,z1)=(a1,b1,z_near_new)=(128,0,0.12),
(x2,y2,z2)=(a2,b2,z_near_new)=(0,64,0.12),
(x3,y3,z3)=(a3,b3,z_near_new)=(128,64,0.12),
(x4,y4,z4)=(a0,b0,z_far_new)=(0,0,0.19),
(x5,y5,z5)=(a1,b1,z_far_new)=(128,0,0.19),
(x6,y6,z6)=(a2,b2,z_far_new)=(0,64,0.19),
(x7,y7,z7)=(a3,b3,z_far_new)=(128,64,0.19),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例2
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度 width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys)为(0, 0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和z_far_new,z_near_new等于z_near比如为0.1米和 z_far_new等于z_far比如为0.2米,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs,ys+height)=(0,64)
(a2,b2)=(xs+width,ys)=(128,0),,
(a3,b3)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(0,0,0.1),
(x1,y1,z1)=(a3,b3,z_near_new)=(128,64,0.1),
(x2,y2,z2)=(a2,b2,z_near_new)=(128 0,0.1),
(x3,y3,z3)=(a1,b1,z_near_new)=(0,64,0.1),
(x4,y4,z4)=(a0,b0,z_far_new)=(0,0,0.2),
(x5,y5,z5)=(a1,b1,z_far_new)=(0,64,0.2),
(x6,y6,z6)=(a2,b2,z_far_new)=(128,0,0.2),
(x7,y7,z7)=(a3,b3,z_far_new)=(128,64,0.2),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例3
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度 width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys)为(0, 0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和z_far_new,z_near_new等于子块图像内深度范围的深度最小值比如为0.13米和z_far_new等于子块图像内深度范围的深度最大值比如为0.18米,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs+width,ys)=(128,0),
(a2,b2)=(xs,ys+height)=(0,64),
(a0,b0)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_far_new)=(0,0,0.18),
(x1,y1,z1)=(a1,b1,z_far_new)=(128 0,0.18),
(x2,y2,z2)=(a2,b2,z_far_new)=(0,64,0.18),
(x3,y3,z3)=(a3,b3,z_far_new)=(128,64,0.18),
(x4,y4,z4)=(a0,b0,z_near_new)=(0,0,0.13),
(x5,y5,z5)=(a1,b1,z_near_new)=(128,0,0.13),
(x6,y6,z6)=(a2,b2,z_near_new)=(0,64,0.13),
(x7,y7,z7)=(a3,b3,z_near_new)=(128,64,0.13),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例4
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度 width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys)为(0, 0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和z_far_new,z_near_new等于子块图像内深度范围的深度最小值比如为0.13米和z_far_new等于子块图像内深度范围的深度最大值比如为0.18米,子块图像的最近深度和子块图像的最远深度可以通过从码流中直接解码得到;
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs+width,ys)=(128,0),
(a2,b2)=(xs,ys+height)=(0,64),
(a3,b3)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(0,0,0.13),
(x1,y1,z1)=(a1,b1,z_near_new)=(128,0,0.13),
(x2,y2,z2)=(a2,b2,z_near_new)=(0,64,0.13),
(x3,y3,z3)=(a3,b3,z_near_new)=(128,64,0.13),
(x4,y4,z4)=(a0,b0,z_far_new)=(0,0,0.18),
(x5,y5,z5)=(a1,b1,z_far_new)=(128,0,0.18),
6,y6,z6)=(a2,b2,z_far_new)=(0,64,0.18),
(x7,y7,z7)=(a3,b3,z_far_new)=(128,64,0.18),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例5
如图4所示,一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:宽度width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息 (xs,ys)为(0,0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
子块图像提取模块,输入为多视点子块拼接图像码流和子块图像信息,输出为至少一个子块图像,从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys)开始的、宽度为width、高度为height的子块图像;
目标图像相关信息获取模块,用于获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
子块图像深度参数获取模块,用于获取两个深度参数z_near_new和z_far_new,其中 z_near_new≤z_far_new;
子块图像判决模块,输入为子块图像信息、子块图像、目标图像的相关信息,码流信息为可选项,输出为使用子块图像中的像素进行渲染得到部分的目标图像。,对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和 z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中子块图像深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far关系为 z_near<=z_near_new<=z_far_new<=z_far,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs+width,ys)=(128,0),
(a2,b2)=(xs,ys+height)=(0,64),
(a3,b3)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(0,0,0.12),
(x1,y1,z1)=(a1,b1,z_near_new)=(128,0,0.12),
(x2,y2,z2)=(a2,b2,z_near_new)=(0,64,0.12),
(x3,y3,z3)=(a3,b3,z_near_new)=(128,64,0.12),
(x4,y4,z4)=(a0,b0,a_far_new)=(0,0,0.19),
(x5,y5,z5)=(a1,b1,z_far_new)=(128,0,0.19),
(x6,y6,z6)=(a2,b2,z_far_new)=(0,64,0.19),
(x7,y7,z7)=(a3,b3,z_far_new)=(128,64,0.19),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi),xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例6
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:宽度width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息 (xs,ys)为(0,0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
子块图像提取模块,输入为多视点子块拼接图像码流和子块图像信息,输出为至少一个子块图像,从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块,该子块即对应源视点图像中从位置(xs,ys)开始的、宽度为width、高度为height的子块图像;
子块图像判决模块,输入为子块图像信息、子块图像、目标图像的相关信息,码流信息为可选项,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和 z_far_new,z_near_new等于z_near比如为0.1米和z_far_new等于z_far比如为0.2米,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs,ys+height)=(0,64)
(a2,b2)=(xs+width,ys)=(128,0),
(a3,b3)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(0,0,0.1),
(x1,y1,z1)=(a3,b3,z_near_new)=(128,64,0.1),
(x2,y2,z2)=(a2,b2,z_near_new)=(128 0,0.1),
(x3,y3,z3)=(a1,b1,z_near_new)=(0,64,0.1),
(x4,y4,z4)=(a0,b0,z_far_new)=(0,0,0.2),
(x5,y5,z5)=(a1,b1,z_far_new)=(0,64,0.2),
(x6,y6,z6)=(a2,b2,z_far_new)=(128,0,0.2),
(x7,y7,z7)=(a3,b3,z_far_new)=(128,64,0.2),
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例7
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:宽度width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息 (xs,ys)为(0,0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
子块图像提取模块,输入为多视点子块拼接图像码流和子块图像信息,输出为至少一个子块图像,从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys)开始的、宽度为width、高度为height的子块图像;
子块图像判决模块,输入为子块图像信息、子块图像、目标图像的相关信息,码流信息为可选项,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和 z_far_new,z_near_new等于子块图像内深度范围的深度最小值比如为0.13米和z_far_new等于子块图像内深度范围的深度最大值比如为0.18米,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs+width,ys)=(128,0),
(a2,b2)=(xs,ys+height)=(0,64),
(a0,b0)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_far_new)=(0,0,0.18),
(x1,y1,z1)=(a1,b1,z_far_new)=(128 0,0.18),
(x2,y2,z2)=(a2,b2,z_far_new)=(0,64,0.18),
(x3,y3,z3)=(a3,b3,z_far_new)=(128,64,0.18),
(x4,y4,z4)=(a0,b0,z_near_new)=(0,0,0.13),
(x5,y5,z5)=(a1,b1,z_near_new)=(128,0,0.13),
(x6,y6,z6)=(a2,b2,z_near_new)=(0,64,0.13),
(x7,y7,z7)=(a3,b3,z_near_new)=(128,64,0.13),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例8
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:宽度width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息 (xs,ys)为(0,0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
子块图像提取模块,输入为多视点子块拼接图像码流和子块图像信息,输出为至少一个子块图像,从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys)开始的、宽度为width、高度为height的子块图像;
子块图像判决模块,输入为子块图像信息、子块图像、目标图像的相关信息,码流信息为可选项,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和 z_far_new,z_near_new等于子块图像内深度范围的深度最小值比如为0.13米和z_far_new等于子块图像内深度范围的深度最大值比如为0.18米,子块图像的最近深度和子块图像的最远深度可以通过从码流中直接解码得到;
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs+width,ys)=(128,0),
(a2,b2)=(xs,ys+height)=(0,64),
(a3,b3)=(xs+width,ys+height)=(128,64).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(0,0,0.13),
(x1,y1,z1)=(a1,b1,z_near_new)=(128,0,0.13),
(x2,y2,z2)=(a2,b2,z_near_new)=(0,64,0.13),
(x3,y3,z3)=(a3,b3,z_near_new)=(128,64,0.13),
(x4,y4,z4)=(a0,b0,z_far_new)=(0,0,0.18),
(x5,y5,z5)=(a1,b1,z_far_new)=(128,0,0.18),
(x6,y6,z6)=(a2,b2,z_far_new)=(0,64,0.18),
(x7,y7,z7)=(a3,b3,z_far_new)=(128,64,0.18),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)yomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例9
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度信息width、高度信息height、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度 z_near和最远深度z_far;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o、高度信息height_o、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:子块图像的代表性深度参数: z_near_new和z_far_new,z_near_new等于源视点图像的最近深度z_near,z_far_new等于源视点图像的最远深度z_far,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs+width,ys),
(a2,b2)=(xs,ys+height),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_far_new),
(x1,y1,z1)=(a1,b1,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a0,b0,z_near_new),
(x5,y5,z5)=(a1,b1,z_near_new),
(x6,y6,z6)=(a2,b2,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
将上述方法用于MPEG测试序列中的全景视频Technicolormuseum,测试渲染生成不同路径的视窗 (Posetrace)的结果如下,表格中数值为32帧的平均值。
表1 Posetrace1像素节省率
0-31 Frame 32-63Frame 64-96Frame
预筛选后保留像素数/(个) 2868224 2915776 2918528
总像素数/(个) 3098112 3047424 3047424
节省率 7.42% 4.32% 4.23%
表2 Posetrace2像素节省率
0-31 Frame 32-63Frame 64-96Frame
预筛选后保留像素数/(个) 2977600 2844224 2837248
总像素数/(个) 3098112 3047424 3047424
节省率 3.89% 6.67% 6.90%
实施例10
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度信息width、高度信息height、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度 z_near和最远深度z_far;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o、高度信息height_o、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:子块图像的代表性深度参数: z_near_new和z_far_new,z_near_new等于子块图像的最近深度,z_far_new等于子块图像的最远深度,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,x2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
将上述方法用于MPEG测试序列中的全景视频Technicolormuseum,测试渲染生成不同路径的视窗 (Posetrace)的结果如下,表格中数值为32帧的平均值。
表3 Posetrace1像素节省率
0-31 Frame 32-63Frame 64-96Frame
预筛选后保留像素数/(个) 2777586 2826592 2855040
总像素数/(个) 3098112 3047424 3047424
节省率 10.3% 8.13% 6.31%
表4 Posetrace2像素节省率
0-31 Frame 32-63Frame 64-96Frame
预筛选后保留像素数/(个) 2873856 2844224 2837248
总像素数/(个) 3098112 3047424 3047424
节省率 7.24% 6.67% 6.90%
实施例11
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中两参数值的关系满足 z_near_new≤z_far_new;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,
根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例12
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中两参数值的关系满足 z_near_new≤z_far_new;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,
根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠,若满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的八个代表点都在目标图像左边界左侧;
(2)投影到目标图像的八个代表点都在目标图像右边界右侧;
(3)投影到目标图像的八个代表点都在目标图像上边界上侧;
(4)投影到目标图像的八个代表点都在目标图像下边界下侧;
具体地,当目标图像位置坐标的原点坐标(0,0)为图像左上角,则若满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)xomax<0;
(2)xomin>width_o;
(3)yomax<0;
(4)yomin>height_o,
其中xomin为xoi中的最小值、xomax为xoi中的最大值,yomin为yoi中的最小值yomax为yoi中的最大值,其中i为0到7的整数,当目标图像位置坐标的原点坐标在图像非左上角的其他位置,也可类似推导得到判决公式;
如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例13
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中两参数值的关系满足 z_near_new≤z_far_new,子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,
实施例14
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中两参数值的关系满足 z_near_new≤z_far_new,子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值,子块图像的最近深度值和所述子块图像的最远深度值的确定方法为以下一种:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,
根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例15
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中两参数值的关系满足 z_near_new≤z_far_new,子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值,子块图像的最近深度值和所述子块图像的最远深度值的确定方法为以下一种:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,
根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠,若满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的八个代表点都在目标图像左边界左侧;
(2)投影到目标图像的八个代表点都在目标图像右边界右侧;
(3)投影到目标图像的八个代表点都在目标图像上边界上侧;
(4)投影到目标图像的八个代表点都在目标图像下边界下侧;
具体地,当目标图像位置坐标的原点坐标(0,0)为图像左上角,则若满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)xomax<0;
(2)xomin>width_o;
(3)yomax<0;
(4)yomin>height_o;
其中xomin为xoi中的最小值、xomax为xoi中的最大值,yomin为yoi中的最小值yomax为yoi中的最大值,其中i为0到7的整数,当目标图像位置坐标的原点坐标在图像非左上角的其他位置,也可类似推导得到判决公式;
如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例16
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
子块图像判决模块,输入为子块图像信息、目标图像的相关信息以及子块图像的代表性深度参数,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o、高度信息height_o和相机参数;获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中两参数值的关系满足z_near_new≤z_far_new;利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数;
根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例17
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
子块图像判决模块,输入为子块图像信息、目标图像的相关信息以及子块图像的代表性深度参数,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o、高度信息height_o和相机参数;获得所述子块图像的两个深度参数: z_near_new和z_far_new,其中两参数值的关系满足z_near_new≤z_far_new;利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数,
根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠若满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的八个代表点都在目标图像左边界左侧;
(2)投影到目标图像的八个代表点都在目标图像右边界右侧;
(3)投影到目标图像的八个代表点都在目标图像上边界上侧;
(4)投影到目标图像的八个代表点都在目标图像下边界下侧;
具体地,当目标图像位置坐标的原点坐标(0,0)为图像左上角,则若满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)xomax<0;
(2)xomin>width_o;
(3)yomax<0;
(4)yomin>height_o,
其中xomin为xoi中的最小值、xomax为xoi中的最大值,yomin为yoi中的最小值yomax为yoi中的最大值,其中i为0到7的整数,当目标图像位置坐标的原点坐标在图像非左上角的其他位置,也可类似推导得到判决公式;
如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例18
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
子块图像判决模块,输入为子块图像信息、目标图像的相关信息以及子块图像的代表性深度参数,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o、高度信息height_o和相机参数;获得所述子块图像的两个深度参数: z_near_new和z_far_new,其中两参数值的关系满足z_near_new≤z_far_new,子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数;根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例19
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
子块图像判决模块,输入为子块图像信息、目标图像的相关信息以及子块图像的代表性深度参数,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o、高度信息height_o和相机参数;获得所述子块图像的两个深度参数: z_near_new和z_far_new,其中两参数值的关系满足z_near_new≤z_far_new,子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值,子块图像的最近深度值和所述子块图像的最远深度值的确定方法为以下一种:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数;根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例20
一种筛选子块图像装置,具体包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,其中子块图像在多视点子块拼接图像中、源视点图像的位置信息可由子块图像的任一像素位置和对应在多视点子块拼接图像、源视点图像中的位置确定,比如子块图像的左上、右上、左下、右下、左上右1位置处像素在多视点子块拼接图像中的位置点信息;
子块图像判决模块,输入为子块图像信息、目标图像的相关信息以及子块图像的代表性深度参数,输出为使用子块图像中的像素进行渲染得到部分的目标图像。对于目标图像,获取其相关的信息,包括:宽度信息width_o、高度信息height_o和相机参数;获得所述子块图像的两个深度参数: z_near_new和z_far_new,其中两参数值的关系满足z_near_new≤z_far_new,子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值,子块图像的最近深度值和所述子块图像的最远深度值的确定方法为以下一种:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值;
利用所述源视点图像的相机参数和目标图像的相机参数,对四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys),
(a1,b1)=(xs,ys+height),
(a2,b2)=(xs+width,ys),
(a0,b0)=(xs+width,ys+height).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a1,b1,z_far_new),
(x1,y1,z1)=(a3,b3,z_far_new),
(x2,y2,z2)=(a2,b2,z_far_new),
(x3,y3,z3)=(a3,b3,z_far_new),
(x4,y4,z4)=(a1,b1,z_near_new),
(x5,y5,z5)=(a2,b2,z_near_new),
(x6,y6,z6)=(a0,b0,z_near_new),
(x7,y7,z7)=(a3,b3,z_near_new),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到7的整数;根据所得到的目标图像中的八个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠若满足以下任一条件, 则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的八个代表点都在目标图像左边界左侧;
(2)投影到目标图像的八个代表点都在目标图像右边界右侧;
(3)投影到目标图像的八个代表点都在目标图像上边界上侧;
(4)投影到目标图像的八个代表点都在目标图像下边界下侧;
具体地,当目标图像位置坐标的原点坐标(0,0)为图像左上角,则若满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)xomax<0;
(2)xomin>width_o;
(3)yomax<0;
(4)yomin>height_o;
其中xomin为xoi中的最小值、xomax为xoi中的最大值,yomin为yoi中的最小值yomax为yoi中的最大值,其中i为0到7的整数,当目标图像位置坐标的原点坐标在图像非左上角的其他位置,也可类似推导得到判决公式;
如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像的像素进行渲染得到部分的目标图像。
实施例21
一种筛选处理单元的方法,具体包括:
对于多视点子块拼接图像中的至少一个处理单元,根据码流中所述处理单元对应的信息传输单元的宽度W比如为512和高度H比如为256,计算该处理单元的宽度信息width和高度信息height,方法如下:
width=min{w0,W-Δw}=min{64,512-128}=64;
height=min{h0,H-Δh}=min{32,256-192}=32;
其中,{w0=64,h0=32}分别是处理单元的默认宽度和高度,{Δw=128,Δh=192}分别是所述处理单元相对于所述信息传输单元的位置偏移量;
根据所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xp1,yp1),比如为 (256,64)、所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xs1,ys1),比如为 (128,32)和所述处理单元位置相对于所述信息传输单元位置的偏移量{Δw,Δh}={128,192},计算所述处理单元在多视点子块拼接图像中的位置信息(xp,yp)、所述处理单元在源视点图像中的位置信息 (xs,ys),计算方法如下:
xp=xp1+Δw=256+128=374;
yp=yp1+Δh=64+192=256;
xs=xs1+Δw=128+128=256;
ys=ys1+Δh=32+192=224;
从码流中获取处理单元所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据处理单元的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的处理单元,该处理单元即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的处理单元;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数;
对所述的处理单元,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数: z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(256,224),
(a1,b1)=(xs+width,ys)=(320,224),
(a2,b2)=(xs,ys+height)=(256,256),
(a3,b3)=(xs+width,ys+height)=(320,256).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(256,224,0.12),
(x1,y1,z1)=(a1,b1,z_near_new)=(320,224,0.12),
(x2,y2,z2)=(a2,b2,z_near_new)=(256,256,0.12),
(x3,y3,z3)=(a3,b3,z_near_new)=(320,256,0.12),
(x4,y4,z4)=(a0,b0,z_far_new)=(256,224,0.19),
(x5,y5,z5)=(a1,b1,z_far_new)=(320,224,0.19),
(x6,y6,z6)=(a2,b2,z_far_new)=(256,256,0.19),
(x7,y7,z7)=(a3,b3,z_far_new)=(320,256,0.19),
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomix>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该处理单元与目标图像没有区域重叠,就不使用该处理单元用于后续渲染目标图像,否则该处理单元被用于后续渲染目标图像。
实施例22
一种筛选处理单元的方法,具体包括:
对于多视点子块拼接图像中的至少一个处理单元,根据码流中所述处理单元对应的信息传输单元的宽度W比如为300和高度H比如为220,计算该处理单元的宽度信息width和高度信息height,方法如下:
width=min{w0,W-Δw}=min{64,300-256}=44;
height=min{h0,H-Δh}=min{32,220-192}=28;
其中,{w0=64,h0=32}分别是处理单元的默认宽度和高度,{Δw=256,Δh=192}分别是所述处理单元相对于所述信息传输单元的位置偏移量;
根据所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xp1,yp1),比如为 (0,20)、所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xs1,ys1),比如为 (10,24)和所述处理单元位置相对于所述信息传输单元位置的偏移量{Δw,Δh}={256,192},计算所述处理单元在多视点子块拼接图像中的位置信息(xp,yp)、所述处理单元在源视点图像中的位置信息 (xs,ys),计算方法如下:
xp=xp1+Δw=0+256=256;
yp=yp1+Δh=20+192=212;
xs=xs1+Δw=10+256=266;
ys=ys1+Δh=24+192=216;
从码流中获取处理单元所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据处理单元的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的处理单元,该处理单元即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的处理单元;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数;
对所述的处理单元,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数: z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(266,216),
(a1,b1)=(xs+width,ys)=(310,216),
(a2,b2)=(xs,ys+height)=(266,244),
(a3,b3)=(xs+width,ys+height)=(310,244).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(266,216,0.12),
(x1,y1,z1)=(a1,b1,z_near_new)=(310,216,0.12),
(x2,y2,z2)=(a2,b2,z_near_new)=(266,244,0.12),
(x3,y3,z3)=(a3,b3,z_near_new)=(310,244,0.12),
(x4,y4,z4)=(a0,b0,z_far_new)=(266,216,0.19),
(x5,y5,z5)=(a1,b1,z_far_new)=(310,216,0.19),
(x6,y6,z6)=(a2,b2,z_far_new)=(266,244,0.19),
(x7,y7,z7)=(a3,b3,z_far_new)=(310,244,0.19),
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该处理单元与目标图像没有区域重叠,就不使用该处理单元用于后续渲染目标图像,否则该处理单元被用于后续渲染目标图像。
实施例23
一种筛选处理单元的方法,具体包括:
对于多视点子块拼接图像中的至少一个处理单元,根据码流中所述处理单元对应的信息传输单元的宽度W比如为300和高度H比如为220,计算该处理单元的宽度信息width和高度信息height,方法如下:
width=min{w0,W-Δw}=min{64,300-256}=44;
height=min{h0,H-Δh}=min{32,220-192}=28;
其中,{w0=64,h0=32}分别是处理单元的默认宽度和高度,{Δw=256,Δh=192}分别是所述处理单元相对于所述信息传输单元的位置偏移量;
根据所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xp1,yp1),比如为 (0,20)、所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xs1,ys1),比如为 (10,24)和所述处理单元位置相对于所述信息传输单元位置的偏移量{Δw,Δh}={256,192},计算所述处理单元在多视点子块拼接图像中的位置信息(xp,yp)、所述处理单元在源视点图像中的位置信息 (xs,ys),计算方法如下:
xp=xp1+Δw=0+256=256;
yp=yp1+Δh=20+192=212;
xs=xs1+Δw=10+256=266;
ys=ys1+Δh=24+192=216;
从码流中获取处理单元所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据处理单元的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的处理单元,该处理单元即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的处理单元;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数;
对所述的处理单元,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数: z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,
子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(256,224),
(a1,b1)=(xs+width,ys)=(320,224),
(a2,b2)=(xs,ys+height)=(256,256),
(a3,b3)=(xs+width,ys+height)=(320,256).
对应八个空间代表点(xi,yi,zi),i为0到7的整数,具体如下:
0,y0,z0)=(a0,b0,z_near_new)=(256,224,0.12),
(x1,y1,z1)=(a1,b1,z_near_new)=(320,224,0.12),
(x2,y2,z2)=(a2,b2,z_near_new)=(256,256,0.12),
3,y3,z3)=(a3,b3,z_near_new)=(320,256,0.12),
(x4,y4,z4)=(a0,b0,z_far_new)=(256,224,0.19),
(x5,y5,z5)=(a1,b1,z_far_new)=(320,224,0.19),
(x6,y6,z6)=(a2,b2,z_far_new)=(256,256,0.19),
(x7,y7,z7)=(a3,b3,z_far_new)=(320,256,0.19),
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=50或xomin=10或yomin=5或yomin=512,则判定该处理单元与目标图像有区域重叠,使用该处理单元用于后续渲染目标图像。
实施例24
一种筛选处理单元的方法,具体包括:
如图5所示,对于多视点子块拼接图像中的两个处理单元,根据码流中两个处理单元共同对应的信息传输单元的宽度W比如为300和高度H比如为220,分别计算处理单元A的宽度信息width_A、高度信息height_A和处理单元B的宽度信息width_B、高度信息height_B,方法如下:
width_A=min{w0,W-Δw_A}=min{64,300-128}=64;
height_A=min{h0,H-Δh_A}=min{32,220-160}=32;
width_B=min{w0,W-Δw_B}=min{64,300-256}=44;
height_B=min{h0,H-Δh_B}=min{32,220-192}=28;
其中,{w0=64,h0=32}分别是处理单元A和B的默认宽度和高度,{Δw_A=128,Δh_A=160} 分别是所述处理单元A相对于所述信息传输单元的位置偏移量,{Δw_B=256,Δh_B=192}分别是所述处理单元B相对于所述信息传输单元的位置偏移量;
根据所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xp1,yp1),比如为 (0,20)、所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xs1,ys1),比如为 (10,24)、所述处理单元A位置相对于所述信息传输单元位置的偏移量{Δw_A,Δh_A}={128,160}和所述处理单元B位置相对于所述信息传输单元位置的偏移量{Δw_B,Δh_B}={256,192},计算所述处理单元A在多视点子块拼接图像中的位置信息(xp_A,yp_A)、所述处理单元A在源视点图像中的位置信息(xs_A,ys_A)、所述处理单元B在多视点子块拼接图像中的位置信息(xp_B,yp_B)、所述处理单元B 在源视点图像中的位置信息(xs_B,ys_B),计算方法如下:
xp_A=xp1+Δw_A=0+128=128;
yp_A=yp1+Δh_A=20+160=180;
xs_A=xs1+Δw_A=10+128=138;
ys_A=ys1+Δh_A=24+160=184;
xp_B=xp1+Δw_B=0+256=56;
yp_B=yp1+Δh_B=20+192=212;
xs_B=xs1+Δw_B=10+256=266;
ys_B=ys1+Δh_B=24+192=216;
从码流中获取处理单元A和B共同所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度 z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据处理单元A的信息从多视点子块拼接图像的(xp_A,yp_A) 位置开始,提取宽度为width_A、高度为height_A的处理单元,该处理单元即对应源视点图像中从位置(xs_A,ys_A)开始的、宽度为width_A、高度为height_A的处理单元A;
从码流中获取多视点子块拼接图像,根据处理单元B的信息从多视点子块拼接图像的(xp_B,yp_B) 位置开始,提取宽度为width_B、高度为height_B的处理单元,该处理单元即对应源视点图像中从位置(xs_B,ys_B)开始的、宽度为width_B、高度为height_B的处理单元B;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数;
对所述的处理单元A,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数: z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,处理单元的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点对应八个空间代表点(A_xi,A_yi,A_zi),i为0到7的整数,利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(A_xoi,A_yoi),i为0到 7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决处理单元是否用于生成目标图像,判决条件如下:
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(A_xoi,A_yoi), A_xomin,A_xomax分别为八个(A_xoi,A_yoi)横坐标的最小最大值,A_yomin,A_yomax分别为八个 (A_xoi,A_yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)A_xomax<0
(2)A_xomin>width_o
(3)A_yomax<0
(4)A_yomin>height_o,
比如A_xomax=50或A_xomin=10或A_yomax=5或A_yomin=512,则判定该处理单元A与目标图像有区域重叠,使用该处理单元用于后续渲染目标图像;
对所述的处理单元B,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数: z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,处理单元的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点对应八个空间代表点(B_xi,B_yi,B_zi),i为0到7的整数,利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(B_xoi,B_yoi),i为0到 7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决处理单元是否用于生成目标图像,判决条件如下:
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(B_xoi,B_yoi), B_xomin,B_xomax分别为八个(B_xoi,B_yoi)横坐标的最小最大值,B_yomin,B_yomax分别为八个 (B_xoi,B_yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)B_xomax<0
(2)B_xomin>width_o
(3)B_yomax<0
(4)B_yomin>height_o,
比如B_xomax=-2或B_xomin=2058或B_yomax=-30或B_yomin=3000,则判定该处理单元B 与目标图像无区域重叠,就不使用该处理单元用于后续渲染目标图像。
实施例25
一种筛选处理单元的方法,具体包括:
对于多视点子块拼接图像中的一个信息传输单元,从码流中获取宽度W比如为300、高度H比如为220、左上角像素在多视点子块拼接图像中的位置信息(xp1,yp1),比如为(0,20)、所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xs1,ys1),比如为(10,24);
所述信息传输单元可以分割为多个处理单元,如图6所示,其中对于处理单元A和处理单元B,根据信息传输单元的宽度、高度H,分别计算处理单元A的宽度信息width_A、高度信息height_A和处理单元B的宽度信息width_B、高度信息height_B,方法如下:
width_A=min{w0,W-Δw_A}=min{64,300-128}=64;
height_A=min{h0,H-Δh_A}=min{32,220-160}=32;
width_B=min{w0,W-Δw_B}=min{64,300-256}=44;
height_B=min{h0,H-Δh_B}=min{32,220-192}=28;
其中,{w0=64,h0=32}分别是处理单元A和B的默认宽度和高度,{Δw_A=128,Δh_A=160} 分别是所述处理单元A相对于所述信息传输单元的位置偏移量,{Δw_B=256,Δh_B=192}分别是所述处理单元B相对于所述信息传输单元的位置偏移量;
根据所述信息传输单元的、所述处理单元A位置相对于所述信息传输单元位置的偏移量 {Δw_A,Δh_A}={128,160}和所述处理单元B位置相对于所述信息传输单元位置的偏移量 {Δw_B,Δh_B}={256,192},计算所述处理单元A在多视点子块拼接图像中的位置信息(xp_A,yp_A)、所述处理单元A在源视点图像中的位置信息(xs_A,ys_A)、所述处理单元B在多视点子块拼接图像中的位置信息(xp_B,yp_B)、所述处理单元B在源视点图像中的位置信息(xs_B,ys_B),计算方法如下:
xp_A=xp1+Δw_A=0+128=128;
yp_A=yp1+Δh_A=20+160=180;
xs_A=xs1+Δw_A=10+128=138;
ys_A=ys1+Δh_A=24+160=184;
xp_B=xp1+Δw_B=0+256=56;
yp_B=yp1+Δh_B=20+192=212;
xs_B=xs1+Δw_B=10+256=266;
ys_B=ys1+Δh_B=24+192=216;
从码流中获取处理单元A和B共同所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据处理单元A的信息从多视点子块拼接图像的(xp_A,yp_A) 位置开始,提取宽度为width_A、高度为height_A的处理单元,该处理单元即对应源视点图像中从位置(xs_A,ys_A)开始的、宽度为width_A、高度为height_A的处理单元A;
从码流中获取多视点子块拼接图像,根据处理单元B的信息从多视点子块拼接图像的(xp_B,yp_B) 位置开始,提取宽度为width_B、高度为height_B的处理单元,该处理单元即对应源视点图像中从位置(xs_B,ys_B)开始的、宽度为width_B、高度为height_B的处理单元B;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数;
对所述的处理单元A,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数: z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,处理单元的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点对应八个空间代表点(A_xi,A_yi,A_zi),i为0到7的整数,利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(A_xoi,A_yoi),i为0到 7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决处理单元是否用于生成目标图像,判决条件如下:
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(A_xoi,A_yoi), A_xomin,A_xomax分别为八个(A_xoi,A_yoi)横坐标的最小最大值,A_yomin,A_yomax分别为八个 (A_xoi,A_yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)A_xomax<0
(2)A_xomin>width_o
(3)A_yomax<0
(4)A_yomin>height_o,
比如A_xomax=50或A_xomin=10或A_yomax=5或A_yomin=512,则判定该处理单元A与目标图像有区域重叠,使用该处理单元用于后续渲染目标图像;
对所述的处理单元B,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数:z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,处理单元的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点对应八个空间代表点(B_xi,B_yi,B_zi),i为0到7的整数,利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(B_xoi,B_yoi),i为0到 7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决处理单元是否用于生成目标图像,判决条件如下:
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(B_xoi,B_yoi), B_xomin,B_xomax分别为八个(B_xoi,B_yoi)横坐标的最小最大值,B_yomin,B_yomax分别为八个 (B_xoi,B_yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)B_xomax<0
(2)B_xomin>width_o
(3)B_yomax<0
(4)B_yomin>height_o,
比如B_xomax=-2或B_xomin=2058或B_yomax=-30或B_yomin=3000,则判定该处理单元B 与目标图像无区域重叠,就不使用该处理单元用于后续渲染目标图像。
实施例26
一种筛选处理单元的方法,具体包括:
对于多视点子块拼接图像中C的一个信息传输单元,从码流中获取宽度W比如为300、高度H比如为220、左上角像素在多视点子块拼接图像中的位置信息(xp1,yp1),比如为(0,20)、所述信息传输单元的左上角像素在多视点子块拼接图像中的位置信息(xs1,ys1),比如为(10,24);
所述信息传输单元可以分割为多个处理单元,其中对于处理单元A和处理单元B,根据信息传输单元的宽度、高度H,分别计算处理单元A的宽度信息width_A、高度信息height_A和处理单元B的宽度信息width_B、高度信息height_B,方法如下:
width_A=min{w0,W-Δw_A}=min{64,300-128}=64;
height_A=min{h0,H-Δh_A}=min{32,220-160}=32;
width_B=min{w0,W-Δw_B}=min{64,300-256}=44;
height_B=min{h0,H-Δh_B}=min{32,220-192}=28;
其中,{w0=64,h0=32}分别是处理单元A和B的默认宽度和高度,{Δw_A=128,Δh_A=160} 分别是所述处理单元A相对于所述信息传输单元的位置偏移量,{Δw_B=256,Δh_B=192}分别是所述处理单元B相对于所述信息传输单元的位置偏移量;
根据所述信息传输单元的、所述处理单元A位置相对于所述信息传输单元位置的偏移量 {Δw_A,Δh_A}={128,160}和所述处理单元B位置相对于所述信息传输单元位置的偏移量 {Δw_B,Δh_B}={256,192},计算所述处理单元A在多视点子块拼接图像中的位置信息(xp_A,yp_A)、所述处理单元A在源视点图像中的位置信息(xs_A,ys_A)、所述处理单元B在多视点子块拼接图像中的位置信息(xp_B,yp_B)、所述处理单元B在源视点图像中的位置信息(xs_B,ys_B),计算方法如下:
xp_A=xp1+Δw_A=0+128=128;
yp_A=yp1+Δh_A=20+160=180;
xs_A=xs1+Δw_A=10+128=138;
ys_A=ys1+Δh_A=24+160=184;
xp_B=xp1+Δw_B=0+256=56;
yp_B=yp1+Δh_B=20+192=212;
xs_B=xs1+Δw_B=10+256=266;
ys_B=ys1+Δh_B=24+192=216;
从码流中获取处理单元A和B共同所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度 z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据处理单元A的信息从多视点子块拼接图像的(xp_A,yp_A) 位置开始,提取宽度为width_A、高度为height_A的处理单元,该处理单元即对应源视点图像中从位置(xs_A,ys_A)开始的、宽度为width_A、高度为height_A的处理单元A;
从码流中获取多视点子块拼接图像,根据处理单元B的信息从多视点子块拼接图像的(xp_B,yp_B) 位置开始,提取宽度为width_B、高度为height_B的处理单元,该处理单元即对应源视点图像中从位置(xs_B,ys_B)开始的、宽度为width_B、高度为height_B的处理单元B;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数;
对所述的处理单元A,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数:z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,处理单元的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点对应八个空间代表点(A_xi,A_yi,A_zi),i为0到7的整数,利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(A_xoi,A_yoi),i为0到 7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决处理单元是否用于生成目标图像,判决条件如下:
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(A_xoi,A_yoi), A_xomin,A_xomax分别为八个(A_xoi,A_yoi)横坐标的最小最大值,A_yomin,A_yomax分别为八个 (A_xoi,A_yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)A_xomax<0
(2)A_xomin>width_o
(3)A_yomax<0
(4)A_yomin>height_o,
比如A_xomax=50或A_xomin=10或A_yomax=5或A_yomin=512,则判定该处理单元A与目标图像有区域重叠,使用该处理单元用于后续渲染目标图像;
对所述的处理单元B,确定四个边界顶点的深度覆盖范围:包括处理单元的代表性深度参数: z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中处理单元深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值z_near和最远深度值z_far 关系为z_near<=z_near_new<=z_far_new<=z_far,处理单元的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点对应八个空间代表点(B_xi,B_yi,B_zi),i为0到7的整数,利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(B_xoi,B_yoi),i为0到 7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决处理单元是否用于生成目标图像,判决条件如下:
处理单元对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(B_xoi,B_yoi), B_xomin,B_xomax分别为八个(B_xoi,B_yoi)横坐标的最小最大值,B_yomin,B_yomax分别为八个 (B_xoi,B_yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)B_xomax<0
(2)B_xomin>width_o
(3)B_yomax<0
(4)B_yomin>height_o,
比如B_xomax=-2或B_xomin=2058或B_yomax=-30或B_yomin=3000,则判定该处理单元B 与目标图像无区域重叠,就不使用该处理单元用于后续渲染目标图像;
对于多视点子块拼接图像C中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys) 为(0,0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2 米;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和z_far_new,z_near_new比如为0.12米和z_far_new比如为0.19米,其中子块图像深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值 z_near和最远深度值z_far关系为z_near<=z_near_new<=z_far_new<=z_far,子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new和最远深度值z_far_new就有两个空间代表点,因此四个边界顶点对应八个空间代表点(xi,yi,zi),i为0到7的整数,利用所述源视点图像的相机参数和目标图像的相机参数关系,将八个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为 (xoi,yoi),i为0到7的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的八个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为八个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为八个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。
实施例27
一种筛选子块图像方法,具体包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的信息,包括:宽度width比如为128、高度height比如为64、该子块图像的左上角像素在多视点子块拼接图像中的位置信息(xp,yp)比如为(256,64)、该子块图像的左上角像素在源视点图像中的位置信息(xs,ys)为(0, 0)、子块图像所属源视点图像的相机参数和深度参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,深度参数包括图像的最近深度z_near比如为0.1米和最远深度z_far比如为0.2米;
从码流中获取多视点子块拼接图像,根据子块图像的信息从多视点子块拼接图像的(xp,yp)位置开始,提取宽度为width、高度为height的子块图像,该子块图像即对应源视点图像中从位置(xs,ys) 开始的、宽度为width、高度为height的子块图像;
对于目标图像,获取其相关的信息,包括:宽度信息width_o比如为2048、高度信息height_o 比如为2048、目标图像的相机参数,对所述的子块图像,确定四个边界顶点的深度覆盖范围:包括子块图像的代表性深度参数:z_near_new和z_far_new,z_near_new比如为0.13米和z_far_new比如为0.19米,其中子块图像深度覆盖范围的最近、最远深度值和源视点图像深度参数中的最近深度值 z_near和最远深度值z_far关系为z_near<=z_near_new<=z_far_new<=z_far,子块图像的每个代表点结合深度覆盖范围的最近深度值z_near_new、最远深度值z_far_new,和中心深度值z_mid=0.5* (z_near_new+z_far_new)=0.16米就有三个空间代表点。
因此,四个边界顶点(aj,bj),j为0到3的整数,具体如下:
(a0,b0)=(xs,ys)=(0,0),
(a1,b1)=(xs+width,ys)=(128,0),
(a2,b2)=(xs,ys+height)=(0,64),
(a3,b3)=(xs+width,ys+height)=(128,64).
对应12个空间代表点(xi,yi,zi),i为0到11的整数,具体如下:
(x0,y0,z0)=(a0,b0,z_near_new)=(0,0,0.12),
(x1,y1,z1)=(a1,b1,z_near_new)=(128,0,0.12),
2,y2,z2)=(a2,b2,z_near_new)=(0,64,0.12),
(x3,y3,z3)=(a3,b3,z_near_new)=(128,64,0.12),
4,y4,z4)=(a0,b0,z_far_new)=(0,0,0.19),
(x5,y5,z5)=(a1,b1,z_far_new)=(128,0,0.19),
(x6,y6,z6)=(a2,b2,z_far_new)=(0,64,0.19),
(x7,y7,z7)=(a3,b3,z_far_new)=(128,64,0.19),
(x8,y8,z8)=(a0,b0,z_mid)=(0,0,0.16),
(x9,y9,z9)=(a1,b1,z_mid)=(128,0,0.16),
(x10,y10,z10)=(a2,b2,z_mid)=(0,64,0.16),
(x11,y11,z11)=(a3,b3,z_mid)=(128,64,0.16),
利用所述源视点图像的相机参数和目标图像的相机参数关系,将12个空间代表点投影到目标图像位置,投影到目标图像位置的坐标为(xoi,yoi),i为0到11的整数,其中目标图像位置坐标的原点坐标(0,0)为图像左上角,预判决子块图像是否用于生成目标图像,判决条件如下:
子块图像对应的12个空间代表点投影到目标视点图像所在平面的坐标位置(xoi,yoi), xomin,xomax分别为12个(xoi,yoi)横坐标的最小最大值,yomin,yomax分别为2个(xoi,yoi)纵坐标的最小最大值,若满足以下任一条件:
(1)xomax<0
(2)xomin>width_o
(3)yomax<0
(4)yomin>height_o,
比如xomax=-2或xomin=2050或yomax=-30或yomin=3000,则判定该子块图像与目标图像没有区域重叠,就不使用该子块图像用于后续渲染目标图像,否则该子块图像被用于后续渲染目标图像。

Claims (18)

1.一种筛选子块图像方法,其特征在于,包括:
对于多视点子块拼接图像中的至少一个子块图像,从码流中获取该子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述子块图像的两个深度参数:z_near_new和z_far_new,其中z_near_new≤z_far_new;
利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合z_near_new和z_far_new所得N个空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中,N为空间代表点的数量,i为0到N-1的整数;
根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;
如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像进行渲染。
2.根据权利要求1所述的一种筛选子块图像的方法,其特征在于,满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的N个代表点都在目标图像左边界左侧;
(2)投影到目标图像的N个代表点都在目标图像右边界右侧;
(3)投影到目标图像的N个代表点都在目标图像上边界上侧;
(4)投影到目标图像的N个代表点都在目标图像下边界下侧。
3.根据权利要求1或2所述的一种筛选子块图像的方法,其特征在于,所述N为8。
4.根据权利要求1或2或3所述的一种筛选子块图像的方法,其特征还在于,所述子块图像的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值。
5.根据权利要求4所述的一种筛选子块图像的方法,其特征在于所述子块图像的最近深度值和所述子块图像的最远深度值的确定方法为以下方法之一种:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值。
6.一种筛选子块图像的装置,其特征在于,包括:
子块图像信息提取模块,输入为多视点子块拼接图像码流,输出为至少一个子块图像信息,信息包括:子块图像的宽度信息width、高度信息height、该子块图像在多视点子块拼接图像中的位置信息、该子块图像在源视点图像中的位置信息和该子块图像所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;
目标图像相关信息获取模块,用于获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
子块图像深度参数获取模块,用于获取两个深度参数z_near_new和z_far_new,其中z_near_new≤z_far_new;
子块图像判决模块,用于利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合深度信息所得的N个空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中N为空间代表点的数量,i为0到N-1的整数;根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像进行渲染。
7.根据权利要求6所述的一种筛选子块图像的装置,其特征在于,满足以下任一条件,则预判决子块图像与目标图像存在区域重叠:
(1)投影到目标图像的N个代表点都在目标图像左边界左侧;
(2)投影到目标图像的N个代表点都在目标图像右边界右侧;
(3)投影到目标图像的N个代表点都在目标图像上边界上侧;
(4)投影到目标图像的N个代表点都在目标图像下边界下侧。
8.根据权利要求6或7所述的一种筛选子块图像的装置,其特征在于,所述N为8。
9.根据权利要求6或7或8所述的一种筛选子块图像的装置,其特征还在于,所述子块图像的两个深度参数z_near_new和z_far_new由以下方法之一种:得到
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述子块图像的z_near_new等于z_near,所述子块图像的z_far_new等于z_far;
(2)所述子块图像的z_near_new等于该子块图像的最近深度值,所述子块图像的z_far_new等于该子块图像的最远深度值。
10.根据权利要求9所述的一种筛选子块图像的装置,其特征还在于所述子块图像的最近深度值和所述子块图像的最远深度值由以下方法之一种得到:
(1)从码流中直接解码得到所述子块图像的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述子块图像的所有像素中距离该子块所属的源视点最近的像素的深度值为所述子块的最近深度值;所述子块图像的所有像素中距离该子块所属的源视点最远的像素的深度值为所述子块的最远深度值。
11.一种筛选处理单元的方法,其特征在于,包括:
对于多视点子块拼接图像中的至少一个处理单元,根据码流中所述处理单元对应的信息传输单元的宽度W和高度H,计算该处理单元的宽度信息width和高度信息height,方法如下:
width=min{w0,W-Δw};
height=min{h0,H-Δh};
其中,{w0,h0}分别是处理单元的默认宽度和高度,{Δw,Δh}分别是所述处理单元相对于所述信息传输单元的位置偏移量;
从码流中获取所述信息传输单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息;
根据所述信息传输单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息和所述处理单元位置相对于所述信息传输单元位置的偏移量{Δw,Δh},计算所述处理单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息;
获取所述处理单元所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参;
获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
获得所述处理单元的两个深度参数:z_near_new和z_far_new,其中z_near_new≤z_far_new;
利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合z_near_new和z_far_new所得N个空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中,N为空间代表点的数量,i为0到N-1的整数;
根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该处理单元与目标图像是否存在区域重叠;
如果存在区域重叠,使用处理单元中的像素进行渲染得到部分的目标图像,否则,不使用所述处理单元进行渲染。
12.根据权利要求11所述的一种筛选处理单元的方法,其特征在于,满足以下任一条件,则预判决处理单元与目标图像存在区域重叠:
(1)投影到目标图像的N个代表点都在目标图像左边界左侧;
(2)投影到目标图像的N个代表点都在目标图像右边界右侧;
(3)投影到目标图像的N个代表点都在目标图像上边界上侧;
(4)投影到目标图像的N个代表点都在目标图像下边界下侧。
13.根据权利要求11或12所述的一种筛选处理单元的方法,其特征还在于,所述处理单元的两个深度参数z_near_new和z_far_new的确定方法为以下方法之一种:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述处理单元的z_near_new等于z_near,所述处理单元的z_far_new等于z_far;
(2)所述处理单元的z_near_new等于该处理单元的最近深度值,所述处理单元的z_far_new等于该处理单元的最远深度值。
14.根据权利要求13所述的一种筛选处理单元的方法,其特征在于所述处理单元的最近深度值和所述处理单元的最远深度值的确定方法为以下方法之一种:
(1)从码流中直接解码得到所述处理单元的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述处理单元的所有像素中距离该处理单元所属的源视点最近的像素的深度值为所述处理单元的最近深度值;所述处理单元的所有像素中距离该处理单元所属的源视点最远的像素的深度值为所述处理单元的最远深度值。
15.一种筛选处理单元的装置,其特征在于,包括:
信息传输单元信息提取模块,输入为多视点子块拼接图像码流,输出为信息传输单元的宽度W和高度H、所述信息传输单元在多视点子块拼接图像中的位置信息、所述信息传输单元在源视点图像中的位置信息;
处理单元信息提取模块,输入为处理单元的默认宽度和高度{w0,h0}、所述处理单元相对于所述信息传输单元的位置偏移量{Δw,Δh}和信息传输单元信息,输出为处理单元信息,包括:处理单元的宽度width和高度height、所述处理单元在多视点子块拼接图像中的位置信息、所述处理单元在源视点图像中的位置信息和该处理单元所属源视点图像的相机参数,其中相机参数包括相机朝向、相机位置坐标、相机内参,处理单元信息提取模块根据信息传输单元信息、{w0,h0}和{Δw,Δh}计算处理单元信息,其中计算方法如下:
width=min{w0,W-Δw};
height=min{h0,H-Δh};
目标图像相关信息获取模块,用于获取目标图像的宽度信息width_o、高度信息height_o和相机参数;
处理单元深度参数获取模块,用于获取两个深度参数z_near_new和z_far_new,其中z_near_new≤z_far_new;
子块图像判决模块,用于利用所述源视点图像的相机参数和目标图像的相机参数,对子块图像四个边界顶点结合深度信息所得的N个空间代表点(xi,yi,zi)进行投影,得到目标图像中的N个代表点;其中N为空间代表点的数量,i为0到N-1的整数;根据所得到的目标图像中的N个代表点的位置坐标(xoi,yoi),预判决该子块图像与目标图像是否存在区域重叠;如果存在区域重叠,使用子块图像中的像素进行渲染得到部分的目标图像,否则,不使用该子块图像进行渲染。
16.根据权利要求15所述的一种筛选处理单元的装置,其特征在于,满足以下任一条件,则预判决处理单元与目标图像存在区域重叠:
(1)投影到目标图像的N个代表点都在目标图像左边界左侧;
(2)投影到目标图像的N个代表点都在目标图像右边界右侧;
(3)投影到目标图像的N个代表点都在目标图像上边界上侧;
(4)投影到目标图像的N个代表点都在目标图像下边界下侧。
17.根据权利要求15或16所述的一种筛选处理单元的装置,其特征在于,所述处理单元的两个深度参数z_near_new和z_far_new由以下方法之一种:得到:
(1)从码流中解码得到源视点图像的最近深度值z_near和源视点图像的最远深度值z_far,所述处理单元的z_near_new等于z_near,所述处理单元的z_far_new等于z_far;
(2)所述处理单元的z_near_new等于该处理单元的最近深度值,所述处理单元的z_far_new等于该处理单元的最远深度值。
18.根据权利要求17所述的一种筛选处理单元的装置,其特征还在于所述处理单元的最近深度值和所述处理单元的最远深度值由以下方法之一种得到:
(1)从码流中直接解码得到所述处理单元的最近深度值和最远深度值;
(2)在解码重构的深度图像中,所述处理单元的所有像素中距离该处理单元所属的源视点最近的像素的深度值为所述处理单元的最近深度值;所述处理单元的所有像素中距离该处理单元所属的源视点最远的像素的深度值为所述处理单元的最远深度值。
CN202010019369.2A 2019-10-01 2020-01-08 一种筛选子块图像与处理单元的方法及装置 Active CN112598572B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201910946071 2019-10-01
CN2019109460713 2019-10-01

Publications (2)

Publication Number Publication Date
CN112598572A true CN112598572A (zh) 2021-04-02
CN112598572B CN112598572B (zh) 2022-04-15

Family

ID=75180210

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010019369.2A Active CN112598572B (zh) 2019-10-01 2020-01-08 一种筛选子块图像与处理单元的方法及装置

Country Status (1)

Country Link
CN (1) CN112598572B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113347403A (zh) * 2021-04-19 2021-09-03 浙江大学 一种图像处理方法及装置
CN114727084A (zh) * 2021-01-04 2022-07-08 浙江大学 一种筛选图像的方法及装置
WO2023050432A1 (zh) * 2021-09-30 2023-04-06 浙江大学 编解码方法、编码器、解码器以及存储介质
WO2023142127A1 (zh) * 2022-01-30 2023-08-03 浙江大学 编解码方法、装置、设备、及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130063487A1 (en) * 2011-09-12 2013-03-14 MyChic Systems Ltd. Method and system of using augmented reality for applications
CN103716629A (zh) * 2012-09-29 2014-04-09 华为技术有限公司 用于图像处理的方法、装置编码器和解码器
CN106791331A (zh) * 2017-01-13 2017-05-31 成都微晶景泰科技有限公司 基于透镜阵列成像的图像处理方法、装置及成像***
CN107808383A (zh) * 2017-10-13 2018-03-16 上海无线电设备研究所 一种强海杂波下sar图像目标快速检测方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130063487A1 (en) * 2011-09-12 2013-03-14 MyChic Systems Ltd. Method and system of using augmented reality for applications
CN103716629A (zh) * 2012-09-29 2014-04-09 华为技术有限公司 用于图像处理的方法、装置编码器和解码器
CN106791331A (zh) * 2017-01-13 2017-05-31 成都微晶景泰科技有限公司 基于透镜阵列成像的图像处理方法、装置及成像***
CN107808383A (zh) * 2017-10-13 2018-03-16 上海无线电设备研究所 一种强海杂波下sar图像目标快速检测方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114727084A (zh) * 2021-01-04 2022-07-08 浙江大学 一种筛选图像的方法及装置
CN114727084B (zh) * 2021-01-04 2023-10-03 浙江大学 一种筛选图像的方法及装置
CN113347403A (zh) * 2021-04-19 2021-09-03 浙江大学 一种图像处理方法及装置
CN113347403B (zh) * 2021-04-19 2023-10-27 浙江大学 一种图像处理方法及装置
WO2023050432A1 (zh) * 2021-09-30 2023-04-06 浙江大学 编解码方法、编码器、解码器以及存储介质
WO2023142127A1 (zh) * 2022-01-30 2023-08-03 浙江大学 编解码方法、装置、设备、及存储介质

Also Published As

Publication number Publication date
CN112598572B (zh) 2022-04-15

Similar Documents

Publication Publication Date Title
CN112598572B (zh) 一种筛选子块图像与处理单元的方法及装置
US11509933B2 (en) Method, an apparatus and a computer program product for volumetric video
US11405643B2 (en) Sequential encoding and decoding of volumetric video
ES2664746T3 (es) Predicción eficaz usando codificación de particiones
US9183669B2 (en) Method and apparatus for virtual viewpoint synthesis in multi-viewpoint video
ES2676055T3 (es) Receptor de imagen eficaz para múltiples vistas
EP2382791B1 (en) Depth and video co-processing
JP6005731B2 (ja) スケール非依存マップ
Salahieh et al. Test model for immersive video
KR20110059803A (ko) 중간 뷰 합성 및 멀티-뷰 데이터 신호 추출
US11069026B2 (en) Method for processing projection-based frame that includes projection faces packed in cube-based projection layout with padding
JP2022528540A (ja) 点群の処理
JP7344988B2 (ja) ボリュメトリック映像の符号化および復号化のための方法、装置、およびコンピュータプログラム製品
Bleyer et al. Temporally consistent disparity maps from uncalibrated stereo videos
US11948268B2 (en) Immersive video bitstream processing
CN111936929A (zh) 采用360°虚拟现实投影的投影布局的重构的基于投影的帧的样本适应性偏移滤波方法用于重构的基于投影的帧的样本适应性偏移滤波方法
CN114727084B (zh) 一种筛选图像的方法及装置
EP2839437B1 (en) View synthesis using low resolution depth maps
CN113347403B (zh) 一种图像处理方法及装置
WO2021136372A1 (en) Video decoding method for decoding bitstream to generate projection-based frame with guard band type specified by syntax element signaling
WO2021248921A1 (en) Video processing method for remapping sample locations in projection-based frame with hemisphere cubemap projection layout to locations on sphere and associated video processing apparatus
Guo et al. A three-to-dense view conversion system based on adaptive joint view optimization
CN109547772A (zh) 提升裸眼三维拼接屏三维质量的方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant