CN107113419B - 自动立体多视图*** - Google Patents
自动立体多视图*** Download PDFInfo
- Publication number
- CN107113419B CN107113419B CN201580071796.2A CN201580071796A CN107113419B CN 107113419 B CN107113419 B CN 107113419B CN 201580071796 A CN201580071796 A CN 201580071796A CN 107113419 B CN107113419 B CN 107113419B
- Authority
- CN
- China
- Prior art keywords
- pixel
- screen
- sampling
- texture
- views
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005070 sampling Methods 0.000 claims abstract description 43
- 238000000034 method Methods 0.000 claims abstract description 22
- 230000003287 optical effect Effects 0.000 claims abstract description 14
- 238000002156 mixing Methods 0.000 claims abstract description 11
- 230000001419 dependent effect Effects 0.000 claims description 2
- 230000000875 corresponding effect Effects 0.000 description 22
- 230000007704 transition Effects 0.000 description 15
- 210000003128 head Anatomy 0.000 description 10
- 230000000694 effects Effects 0.000 description 8
- 210000001747 pupil Anatomy 0.000 description 5
- 230000003068 static effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000004886 head movement Effects 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000003292 glue Substances 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000010561 standard procedure Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
- H04N13/31—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using parallax barriers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/349—Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
- H04N13/351—Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking for displaying simultaneously
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/368—Image reproducers using viewer tracking for two or more viewers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/376—Image reproducers using viewer tracking for tracking left-right translational head movements, i.e. lateral movements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
一种用于在具有像素栅格的显示屏(16)上自动立体表示图像的方法,其中由多个片段构成的视差分离光学板(18)安置在所述屏幕(16)的前方,并且至少一个用户的左眼和右眼用的图像信息用交错像素图案显示在所述屏幕上,所述方法包括以下步骤:a)应用分配算法以向至少两个纹理(L,R)分配每次要显示的全部所述图像信息,使得每个纹理包括一个视图用的信息;以及b)对于每个像素,应用取样算法以从纹理的所选区域取样图像信息以确定像素的图像内容,其中,当一个像素与多于一个纹理相关时,取样算法包括确定所述像素与每个所述纹理的相关度因数的步骤,以及根据对应的相关度因数混合每个所述纹理的取样结果的步骤;其特征在于在步骤(a)之前的以下步骤:‑从多个预定义查看模式中选择一种查看模式,所述预定义查看模式包括要显示不同数目个视图的查看模式;以及‑创建通道遮罩,其对于所述光学板(18)的每个片段限定N数目个通道,其中N大于或等于所述选定查看模式中的视图数目;‑为所述N个通道中的每个通道提供纹理;以及‑参照所述通道遮罩使每个屏幕像素与至少一个所述纹理相关。
Description
技术领域
本发明涉及一种用于在具有像素栅格的显示屏上自动立体表示图像的方法,其中由多个片段构成的视差分离光学板安置在屏幕的前方,并且至少一个用户的左眼和右眼用的图像信息用交错像素图案显示在屏幕上,所述方法包括以下步骤:
a)应用用于向至少两个纹理分配有待同时显示的总图像信息的算法,使得每个纹理包括用于一个视图的信息;以及
b)对于每个像素,应用用于从纹理的所选区域取样图像信息以确定像素的图像内容的取样算法,其中,当一个像素与多于一个纹理相关时,取样算法包括确定所述像素与所述纹理之一的相关度因数的步骤,以及根据对应的相关度因数混合每个所述纹理的取样结果的步骤。
背景技术
在自动立体显示器中,通过向查看者的左眼和右眼呈现稍微不同的视图可以实现三维视觉印象,从而使得两个视图的差异对应于近物相对于更远处的背景的视差位移。为了形成这些不同的视图,使用“视差分离光学板”,它能确保用户的左眼和右眼能看到不同的视图。所述光学板由多个片段构成,并且可以例如是透镜阵列,其中所述片段是透镜,并且使用如下效果:对于任何给定视点,屏幕上的一些像素放大,而其它像素仍然是不可见的。屏幕上的可见和不可见像素的位置取决于透镜阵列的配置和用户的眼睛的位置,从而使得可以在屏幕上显示图像信息,显示的方式使得对于给定的查看位置,查看者的一只眼睛只会看到属于一个视图的像素,而另一只眼睛只会察觉属于另一个视图的像素。作为替代方案,视差分离光学板可以由阻隔遮罩构成,其中所述片段形成透明和不透明部分的图案,或者视差分离光学板可以由等效的光学***构成。
在典型实施例中,透镜阵列由柱面透镜构成,这些柱面透镜相对于像素栅格列的方向有一定的倾斜度,以便避免波纹并相对于光学解析的不可避免的损失获得良好平衡的图像。
US 6 801 243 B1公开了一种所谓的多视图***。术语“多视图”是指视图的数目N大于2。同样,视图包括用于左眼的至少一个视图和用于右眼的至少一个视图,并且这两个视图构成所谓的立体视图对。然而,可能存在多个立体视图对,当用户相对于屏幕侧向移动头部时,这些立体视图对一个接一个地变成可见的。不同立体视图对的图像内容可以选择成使得它们不仅反映视差位移,还反映查看物体的视界角度的变化引起的三维物体的表观旋转,从而使得用户在移动头部时,会得到他实际上在“围绕”3D物体“移动”的印象。
US 2013/057575 A1公开了一种多视图***,该多视图***能允许改变视图的数目。
在常规多视图***中,当查看者将他的位置从一个立体视图对改变成相邻的立体视图对时,会发生相对突然的可察觉的转变。通过增加不同视图的数目N,可以使这些转变变得平滑。然而,视图数目增加的代价是分辨率降低,因为在N视图***中,特定眼睛每次最多只能看到屏幕像素线中的像素数目的1/N。
在已知的***中,通过透镜阵列与屏幕的像素栅格之间的轮廊分明的关系来确定视图的数目N,从而向每个透镜分配整数个像素,并且每个像素保存N个视图之一的内容。可以考虑透镜阵列的透镜和屏幕的像素线构成粗像素栅格,该粗像素栅格由高度对应于一个或多个屏幕像素线、宽度对应于各个透镜的宽度的“超级像素”构成。对于N个视图中的每个视图,每个超级像素必须包括被分配给该视图的至少一个屏幕像素。然而,有可能每个超级像素的屏幕像素数目不是整数。
WO 2008/011888 A1(EP 2 044 480 B1)公开了一种根据权利要求1的序言的***。这个***是两个视图的***(N=2),然而,其中每个视图和透镜和像素线的屏幕像素数目大于2。为了容许观察位置的变化,这个***可以配备有眼动追踪器,即用于确定用户的实际查看位置的相机和合适的软件,并且根据检测到的查看位置,动态地改变左右通道(即用于查看者的左眼或右眼的视图)的屏幕像素分配。在每个超级像素中,使用从给定查看位置不可见的屏幕像素显示可见的图像信息的副本,这会生成一定量的冗余,从而在用户移动头部时实现更大的稳固性,并且眼动追踪***要么无法获得,要么不够快速无法实时跟踪。另外,这种配置允许根据不同的查看距离调适***。
EP 2 044 480 B1中公开的***经过特别调适以利用现代的驱动显示屏用的图形卡的增强能力,尤其是对于被称为“纹理图”或简称为“纹理”的具体数据结构执行操作的能力。纹理是含有存储于“纹素”(类似于含有像素的常规位图)中的图像信息的二维阵列,并且这些“纹素”被映射成屏幕上的像素。在屏幕上的位置(x,y)中的像素中所显示的图像内容随着标明这个图像信息在纹理中的位置的两个纹理坐标(u,v)而变。按惯例0≤u≤1并且0≤v≤1,从而使得u和v是非整数值,其并不指代各个纹素。除了(u,v)坐标之外,还必须指定取样方法。取样方法可以是标准方法(比如“双立体取样”)或定制方法,并且其复杂度可能很简单,也可能很复杂。合适的取样方法的选择取决于多个方面,并且差不多总是需要做出取舍,其中既定图像质量和硬件能力是两个最重要的方面。
纹理提供了一种存储图像信息的有利的方式。然而,除非另外指出,否则在本发明的上下文中,将以更通用的方式对于任何含有某一视图的图像信息的结构以使用“纹理”这个术语。
用于这个***中可以获得的两个不同视图的图像信息存储于两个不同纹理中。每个屏幕像素被分配给通过两个通道显示的两个视图中的任一个视图。首先,分配的通道决定将要从哪个纹理中取样数据。然而,当像素位于两个通道之间的边界上(例如像素被分配给左通道,但是它的直接相邻像素已经被分配给右通道)时,***提供了这样的可能性:通过混合来自两个纹理的信息,混合的方式使得这个混合能以最大精确度反映边界位置,借此确定像素的图像内容。在某些类型的2视图自动立体显示器中,这些“边界”像素一般对于两只眼睛都是不可见的。当用户侧向移动头部或者改变离屏幕的观看距离时,这些像素可能至少临时变成可见的。在这些情况下,混合信息的特征会改善图像质量并且使得***更加稳固。
发明内容
本发明的目标是提供一种根据权利要求1的序言的自动立体***,该自动立体***提供更灵活的查看选项。
为了实现这个目标,根据本发明的方法的特征在于在步骤(a)之前的以下步骤:
-从多个预定义查看模式中选择一种查看模式,其包括要显示不同数目个视图的查看模式;以及
-创建通道遮罩,其对于光学板的每个片段限定N数目个通道,其中N大于或等于选定查看模式中的视图数目;
-为所述N个通道中的每个通道提供纹理;以及
-参照所述通道遮罩(M)使每个屏幕像素与至少一个所述纹理相关。
这种方法具有可以(例如)由用户或***本身选择将要显示的视图数目的优势,并且将手动地或自动地相应调适分配和取样算法。
此***使得能够(在很大程度上)自由选择多个查看者、多个视图、显示这些视图的多个通道,并且将这三个方面彼此自由分配,即使***正在运行时也可以如此。
另外,在给定时刻可以使用或者可以不使用追踪***。每种这些设置被称作“模式”,并且改变这些设置(即使在***操作期间也是可能的)是“改变模式”。
本发明利用如下事实:纹理的概念在组织任意可变数目个视图的图像信息时能提供很大的灵活性,并且使得这个信息可以用于根据需要显示,即使在动态地改变的情况下也是如此,尤其包括混合来自不同纹理的信息的可能性。当然,通道边界数目并且相应地位于通道边界上的像素数目随着视图数目增加,并且(例如)当用户从一个查看位置移动到另一个查看位置时这些边界像素变成可见是有规律的并且非常频繁的事件。因此,混合信息以便使从一个视图到另一个视图的转变变平滑的特征在多视图设置方面提供了特别的优势。
从属权利要求中提出本发明的更具体的任选特征。
根据本发明的***可以能够在任何时间确定显示器前方的用户的人数和位置。这可以容易(例如)通过使用追踪***实现。根据这个信息,算法可以决定在此情况下应当渲染多少视图,提供多少通道以传递这些视图(视图和通道的数目可以相等或者可以不相等)。如果只有一名用户,则只要提供3D内容文件通常包括的仅仅两个“原生”视图可能就够了。还会使用追踪来确保这名用户始终看到一致的立体图像。
如果第二位用户站到显示器前方,算法可以决定通过内插现有的两个视图而显现第三视图,并且通过使用眼动追踪器,利用针对在任何时间向这两位查看者每位提供一致的立体图像而经过优化的动态通道遮罩(但是对于某些位置群集,这一点恐怕是不可能的)。
如果有更多用户走过来,***可以“决定”通过使用被称作“2到N转换”的已知的方法来形成更多个视图。如果用户达到某个数目,该***可以“决定”关闭追踪***,这样会使***从动态模式转变成静态模式。替代地,***可以仍然测量一组用户的平均位置(“中心”)并且相应地微调该***。
甚至透镜阵列也可能发生这些模式变化。存在所谓的可切换透镜阵列,它由光学组件堆叠组成,其中可以(例如)通过施加电压来改变某一层的折射率。在没有电压的时候,光学堆叠(例如)是透明的,就像玻璃片一样,而电压接通的时候,光学堆叠的功能就变成透镜阵列。这个过程甚至可以允许将折射率任意地设置成两个给定索引n1与nm之间的任何值,从而使得可以将透镜的放大率调节成从1(不放大)到m(全放大率)的任何数值。
当有更多用户时,所述***可以使用这个特征增加放大率,因为这样会允许在更多的通道中显示更多的视图(但是分辨率降低)。
只有一个视图的特殊情况(“2D”模式)会使得透镜阵列关闭,以此方式为任何数目的用户在***中恢复完整的“原生”2D分辨率。
可以使用模式变化以动态方式为单个用户实现“环视”效应。为此,将用户的位置传递给软件,软件在屏幕上生成图像,从而使得呈现给用户的两个视图经过渲染以与用户的空间位置匹配。
除了在不同数目的视图之间选择之外,还提供在静态模式与动态模式之间切换的选项,在静态模式中查看位置是固定的,在动态模式中查看位置可以改变,并且基于位置追踪相应地调整屏幕内容。
本发明还可以用于实施超级多视图***,即这样一个***,其中视图的数目很多,源自相邻屏幕像素的光束很窄很密,以至于在查看位置上光束的宽度小于眼瞳的宽度,结果是查看者每次用同一只眼睛看到两个或更多个视图的叠加。除了使得视图之间的转变极其平滑之外,此***还可以有利地用于减轻或完全解决所谓的调节-转换冲突。本领域中众所周知,人所察觉的3D印象不仅取决于左眼和右眼之间的视差差别,而且取决于晶状体的焦距根据物距变化的调节。这两个因素有时可能彼此冲突,并且预期超级多视图***在此些情况下会改善3D效应的品质并且使3D图像的查看更合意。
在静态超级多视图***中,需要的视图数目必须很多,例如大概N=50或更多。因此,为了获得3D图像的合理分辨率(超级像素的小尺寸),屏幕网格的分辨率必须极高。本发明能将需要的视图数目减少成合理的值,(例如)N=6或N=8,减少的方法是通过组合多视图与眼动追踪功能,从而使得视图只需要覆盖两只眼睛瞳孔的宽度即可。
用于确定用户的左眼或右眼可看见的每个像素的内容的取样算法还可对于每个用户单独地配置。例如,众所周知,当人的大脑解释用两只眼睛看到的场景并且两个视图之间有视差位移时,从一只眼睛获得的信息一般比从另一只眼睛获得的信息占优势,并且这个优势对于每个人而言是不同的。本发明例如通过使呈现给优势眼的图像稍微淡化来补偿这种效应的可能性。
附图说明
现在将结合附图描述优选实施例,其中:
图1是根据本发明的自动立体***的框图;
图2是2个视图配置的透镜阵列和通道遮罩的横截面图;
图3是6个视图配置的透镜阵列和通道遮罩的放大横截面图;
图4是示出两个屏幕像素线中的几个像素与透镜阵列的柱状透镜之间的空间关系的示意性正视图;
图5到图9是示出在本发明的一个实施例中的不同配置的图;以及
图10是示出根据本发明的方法的流程图。
具体实施方式
图1示出了自动立体***,其包括计算机***10,(例如)个人计算机,计算机***10包括图形卡12,图形卡12驱动监视器14,以便在监视器的屏幕16上显示图像。透镜阵列18安置在屏幕16的前方,并且形成眼动追踪或头动追踪***20的一部分的摄像机附接到监视器14并且与计算机***10通信。
图形卡12能存取存储于计算机***10的存储器中的两个纹理L和R。纹理L存储左视图的图像信息,即显示给通过透镜阵列18观看屏幕16的用户(未图示)的左眼的图像信息。类似地,纹理R存储用于用户的右眼的右视图的图像信息。头动追踪***20跟踪用户的头部的任何移动,并且向计算机***发信号通知这些移动,计算机***接着将调适在屏幕16上显示的信息以与用户的改变的位置匹配。
图2是屏幕16和透镜阵列18的示意性横截面图。平坦屏幕16可以例如是包括TFT层的TFT屏幕。透镜阵列18通过透明板形成,该透明板具有平面背表面和波纹前表面,其限定平行柱面透镜22的阵列。为简单起见,这里示出透镜阵列18是与屏幕16的表面保持直接接触的实心块体。实际上,透镜阵列可包括具有不同折射指数的不同层,可能包括胶体层,胶体层将透镜阵列粘合到屏幕表面上。相反,透镜阵列可以通过气隙与屏幕隔开。
一组光线24代表一些光线,这些光线从屏幕16的TFT层中的各种点发射,并且每个光线穿过透镜22之一的顶点,然后最终在点U上重合,点U代表观看屏幕的用户或查看者的理想位置。穿过每个柱面透镜的顶点线的平面p被称为透镜阵列的主平面。平面o相当于透镜阵列的物体平面,但是从真正的物体平面位移,以便通过消除穿过透镜阵列层的光将被折射(即使这些层是形成平行面的板时也是如此)的效应,从而简化图示。因此,光线24在平面o中的发源点可以被认为是当从位于点U的源照明时,柱面透镜22的顶点线的投影。
图2还示出了用户的左眼和右眼26、28,并且代表用户的理想位置的点U被定义为是连接眼睛26和28(或者更准确地说是其瞳孔的顶点)的线的中心点。此外,图2示出了在物体平面o中发射的几个光束30、32、34、36,这些光束通过透镜阵列18的透镜偏转,然后朝向用户的眼睛26、28传播或者经过眼睛26、28。虽然光线24因为穿过透镜中心所以未被透镜偏转(至少在这个简化图示中是这样),但是光束30至36中的光线在柱面透镜的弯曲表面上被偏转(并且还被准直)。光束30的光线经过偏转使其入射到用户的左眼26上。类似地,光束32的光线经过偏转使其入射到用户的右眼28上。相反,光束34的中心光线穿过其对应透镜的中心因而未经偏转,该光束本身经过准直并且入射到用户两眼正中间的点U上。因此,这个光束和在屏幕上的对应像素是用户不可见的。类似地,光束36经过偏转,从而使得它经过用户的左眼,从而使得这个光束和对应像素也是用户不可见的。因而应理解,对于任何给定查看位置,在平面o中显示的图像细分成只对用户的左眼26可见的条带或片段,与之相间的是只对用户的右眼28可见的片段,并且放大率大于2时,这些片段被完全不可见的“不可见区域”隔开。具体来说,对应于光束34的区域将与左眼26对应的片段和(因此)图像信息的左通道同与右眼28对应的片段和右通道隔开。
透镜阵列18的这个特性表示为透镜通道遮罩M*,其将主平面p分成左通道区域38(图2中用白色示出)和右通道区域40(用黑色示出)。柱面透镜的顶点线构成从左通道区域38到右通道区域40的第一种转变。
由于透镜阵列是周期性的,所以第二种转变是在第一种转变之间的中间位置形成的,与透镜阵列18的邻近柱面透镜之间的边界重合。
如图2中进一步示出的,透镜通道遮罩M*可以投影到平面o中,位置U是投影中心。这样得到屏幕通道遮罩M,其具有投影的右通道区域42和投影的左通道区域44。当在平面o中、因此在屏幕16的表面中的像素落在左通道区域42内时,该像素与左通道对应或相关,而当它落在右通道区域44内时,它与右通道对应或相关。因此,对于完全包含在一个区域中的每个像素,可以判断这个像素是属于哪个通道,即如果能被看见的话,它将被哪只眼睛看见,或者会被哪只眼睛看见。
当第一种转变处的不可见区域和第二种转变处的不可见区域的宽度相等时,从用户到屏幕的距离被视为是最优的。当用户从屏幕后退得更远时,第一种不可见区域会缩小,并且在发散光束34入射到用户的两只眼睛26、28上时最终消失。相反,当用户趋近屏幕时,第二种不可见区域(通过光束36表示)会缩小并且最终消失。当一种类型的不可见区域消失时,左右通道不再完全分开,即一些像素或一部分像素用两只眼睛都能看到。
当在图2中用户向左或向右移动时,屏幕通道遮罩M将在相反的方向上位移,但是通过将屏幕上显示的图像位移相同的量,可以补偿这种效应。如果不存在头动或眼动追踪***,则图像当然会优选地在特定位置中显示,这个位置使得图像能被垂直方向和水平方向上对称地位于屏幕中心的用户最佳地查看。
从图2中可以进一步看出,屏幕通道遮罩M相比透镜通道遮罩M*放大。这个放大是由于光线24的投影,即光线24的发散,并且与各个柱面透镜的放大属性无关。
图3用放大比例示出了与图2相似的视图,但用的是6个视图的***。在这种情况下,对于透镜阵列中的每个单独的透镜22,屏幕通道遮罩M划分成六个通道1至6。总的来说,每个透镜的通道数目至少等于视图的期望数目N。但是,有可能一些通道含有冗余信息,并且每个透镜的通道数目大于视图的数目。
图3示出了侧向位置与查看位置相同的透镜22,因而用户正面查看该透镜22。其结果是,对于这个透镜,屏幕通道遮罩M与对应的透镜通道遮罩(图3中未示出)之间不存在偏移。对于被透镜22覆盖的通道1至6中的每个通道示出光束B1至B6。光束B2入射到查看者的左眼26的瞳孔46上,并且光束B5入射到右眼28的瞳孔上。其它光束B1、B3、B4和B6在此情况下是不可见的。不可见的还有光束A6和光束C1,光束A6源于通道遮罩M的相邻片段(对应于相邻透镜)的通道6,光束C1源于另一侧上的相邻片段的通道1。
光束B1至B6表示6个视图的***的六个不同视图。左眼和右眼可见的光束B2和B5形成立体视图对,从而使得当在屏幕上在对应的通道2和5中显示合适的图像信息时将察觉到3D图像。
当在图3中用户将他的头向右移动时,他将看到光束B1和B4,光束B1和B4形成另一立体视图对。相反,当他向另一侧移动时,他将看到光束B3和B6,光束B3和B6形成又一立体视图对。因此,即使在这个实例中通道遮罩M是静止的(当查看位置改变时不移动)时,只要用户的头部的侧向移动限于某一范围,他就能够仍然察觉到3D图像。为此目的,通道1到3必须包括左眼26用的图像信息,并且通道4到6必须包括右眼28用的图像信息。
在根据图3的多视图***中,只有在右眼用的通道的序数大于左眼用的序数时,用户才会看到立体视图对。当在图3中用户向右移动得足够远从而使得他看到光束A6和B3时,他的左眼26会察觉通道6的图像信息,他的右眼28会察觉通道3的图像信息,从而使得右眼用的通道的序数(3)将小于左眼用的通道的序数(6)。因此,用户会察觉到不现实的倒置的立体图像。当用户向左移动得足够远从而使得他的右眼28被光束C1入射时,也是同样的道理。
然而,虽然在图3中未图示,但是当用户进一步向左移动时,他的右眼28会连续地看到对应于左眼用的视图的光束C2、C3,然后是同样对应于右眼用的视图的光束C4。此时,左眼26会被分配给左眼的光束C1入射,并且用户会再次察觉到正确的3D图像。因而应理解,所述***提供多个合适的观看位置,从这些观看位置可以看到正确的3D图像,这些观看位置被将看到倒置图像的位置隔开。因为存在多于一个合适的查看位置,所以***能供多个查看者同时使用。
为了生成不与相邻视图共用图像信息的视图,通道遮罩M的六个通道每个必须对于每条线含有至少一个像素,这个像素是这个通道独有的(即相邻通道不覆盖这个像素的任何部分)。当然,有可能每个通道包括两个或更多个屏幕像素,这些屏幕像素被排他性地指派给这个通道。例如,当图3中的每个通道仅仅包括一个屏幕像素并且6个视图的通道遮罩M接着换成仅仅具有透镜22下方的三个通道的3个视图的通道遮罩时,于是每个通道将有两个像素。
应进一步理解,通道遮罩M的每个通道与获取所述通道的图像信息的来源纹理对应。因此,在图3中示出的例子中,将有六个不同的纹理。然而,例如简单地通过将图像信息重新分组成仅仅两个纹理(L和R),并且通过用2个视图的通道遮罩替换6个视图的通道遮罩,可以从图3中示出的6个视图的***切换成图1和图2中示出的2个视图的***。同样,可以任意改变视图的数目N,只要每个像素线中能满足每个通道和透镜应当有至少一个像素的要求即可。
图4示出了屏幕16的一部分的放大正视图,图中示出了两个像素线中每个像素线中的八个连续像素48以及透镜阵列18的单个透镜22的边界。
如图4中所示,透镜阵列18的柱面透镜22不是垂直地布置,但是相对于屏幕的垂直像素列形成某个角度α。能够任意地选择这个角度是有利的,原因有几个方面,其中包括能使不同类型的波纹和串扰降至最低。根据本发明的方法可以涉及任何期望的角度α,只要透镜布置提供足够量的视差即可,最迟在透镜倾斜已达到90度时并不是这样的情况。°
为简单起见,这里将假设屏幕是单色屏幕。EP 2 044 480 B1中对于2个视图的***说明了可以扩展到彩色屏幕,(例如)RGB屏幕,其中每个像素由子像素的彩色三元组构成。这里所公开的原理可以等效地应用于具有多于两个视图的***和***配置。
在这个实例中,由六个像素构成的组构成(两行连续线中各一组像素)并且位于单个透镜22的区域内的十二个像素用从到1到12的数字表示,其中下方线中的像素使用奇数,上方线中的像素使用偶数。
图4中用线b表示通道边界。可以看出像素与通道之间的关系不是唯一的。例如,在图4中的下方像素线中,像素并未完全配合到对应的通道条带中,但是左下角和右上角被切掉并且延伸到相邻通道中。在上方像素中,这种效应甚至更加明显,并且像素差不多被通道边界平分。当要决定应当在这些像素中显示哪些内容时,应当考虑到通道分配方面的不确定性。在给定的示例中,角度α选择成使得通道边界每隔一个像素线在相同位置上穿过像素(例如最下面的线中的像素1用与最上面的像素线中的像素1相同的方式被通道边界分开,其中像素1和3用虚线表示)。
有几种算法能用于向每个像素分配相关的一个通道或多个通道。一种可能性是将像素映射到通道遮罩M上,并且计算像素的表面积的与每个通道重叠的部分的大小。如果像素完全包含在一个通道中,则它将被唯一地分配给所述通道(相关度因数为1)。如果它与两个或更多个通道重叠,则用特定的相关度因数使它与这些通道每个相关,该相关度因数与像素和相应通道重叠的表面积成正比。
在这里优选的一种替代方法中,穿过每个像素的中心绘制水平线Y,使得线Y从像素的左边界到右边界的线段被通道边界b(例如图4中是通道3与4之间的边界)分成子线段h3和h4。于是,像素与每条通道的相关度分别与子片段h3和h4的长度成正比。
图4中示出的模式可以用于例如实施带有头动追踪功能的两个视图的***(N=2)。于是,例如,同一条线中并且在同一个柱状透镜22后面的六个像素中只有两个将是可见,每个视图一个像素。其余的四个像素将包括这两个可见像素的复本以实现冗余。
另一可能的操作模式将是12个视图的模式,其中图4中的十二个像素1至12每个都将是可见的,并且被分配给一个不同的视图。在六个视图的模式中,每隔一个像素将是可见的。***可以是静态的,即不带眼动追踪功能。
在又一模式中,透镜阵列可以移除,或者切换成非折射状态,并且***可以用2D模式操作从而提供最大分辨率。
在3D模式中,当透镜阵列生效时,每个柱状透镜22会在垂直于透镜方向的方向上放大像素。在6个视图的***中,例如,放大率必须至少是6:1,因为只有每隔五个像素必须实际上对于每只眼睛是可见的(在这个示例中,通道2的像素是对于左眼,通道5的像素是对于右眼)。为了使通道的可见部分保持尽可能彼此远离,实际上对于这种“间距较窄”的***实际常见的放大率是m=∞,从而使得对于每只眼睛,每个透镜下方的可见部分缩小成一条线。
图5是像素线Y的一部分的图示说明,其中像素48被单个透镜22覆盖。有待确定图像内容的像素的中心点表示为P。在像素线Y上,由透镜22限定的通道遮罩的区间受到点B0和B1限界。在像素线下方示出对应的通道遮罩M。在这个实例中,B0与B1之间的区间含有九个像素,并且因为选择通道数目N=6,所以通道遮罩M的对应的区间划分成六个通道1至6。
下文显示通道遮罩M是在像素线的方向上延伸的坐标轴线X,并且被归一化成从B0到B1的区间的宽度,从而使得B0具有坐标X=0并且B1具有坐标X=1。
所考虑的像素的中心点P恰好处于通道2内,并且像素的宽度覆盖通道2和3的一部分。
在这个实例中,所考虑的像素被唯一地分配给含有像素的中心点P的通道(通道2)。因此,将没有来自不同纹理的图像的混合,并且从一个视图到另一个视图的转变将是突然的。像素与其通道的相关度受被称作“取样宽度”e的参数的控制。在图5中,取样宽度是0,这意味着,只使用P的位置来确定这个像素对应的通道。
在图6中,取样宽度设置成e=1,以单个像素48的宽度为单位。取样宽度E限定取样区间,取样区间受到点P0和P1限界并且具有点P作为其中心。在通道遮罩M上,取样区间[P0,P1]覆盖通道2和3的一些部分。这些通道将取样区间分成不同大小的两个区段,这通过相关度矩形58表示。像素与每个通道的相关度因数被定义为对应片段的宽度与整个取样宽度e之间的比率。因此,在这个实例中,在P处的像素的最终图像内容将是与通道2和3对应的纹理的取样结果的加权平均(用相关度因数加权)。
图7示出e=1并且N=9的示例,从而使得所考虑的像素现在与通道3和4相关,而非像图6中一样与通道2和3相关。
图8示出一种配置,该配置与图6的区别在于取样宽度选择成小于1:e=0.5,结果是更多的像素将被唯一地分配给仅仅一个通道。因为通道的数目是恒定的(在这种情况下N=6),所以取样宽度更大将使得转变更平滑,从而使得在图8中,从一个到另一个的转变将比图5中平滑,但是不如图6中平滑。
图9示出了e=2.1并且N=9的示例。现在取样区间[P0,P1]不仅覆盖通道3和4并且覆盖通道2的一小部分。因此,在这个实例中,在P处的像素的最终图像内容将是与通道2到4对应的纹理的取样结果的加权平均(用相关度因数加权)。
图10中显示了示出根据本发明的方法的总体流程图。
在步骤S1中,选择有待显示的视图的数目N,这还决定了有待生成的纹理的数目。应注意,N不直接与屏幕16的物理特性相关,并且可以在1与从B0到B1的区间中的屏幕像素数目决定的某一上限之间自由选择。例如,当有头动追踪相机可供使用时,可以使用这个相机检测并且计算查看者的人数,接着将与查看者人数成正比或者成反比地自动调适N。
在步骤S2中,设置一种分配方案,该方案能确保可用图像信息将被分配到N个纹理上。在最简单的情况下,用包括N个不同视图的格式提供图像信息,并且已在步骤S1中选择这个数目N。接着在步骤S2中将每个视图的图像信息加载到一个不同的纹理中。
但是有可能选择小于可用的视图数目的N。于是可以丢弃一些可用视图。如果例如可用图像信息是8个视图的格式,并且用户或***选择N=4,则他或***可以决定丢弃四个外部视图。在这种情况下,从视图到视图的转变将与8个视图的配置中一样平滑,但是用户可以移动头部的范围将会变窄。作为替代方案,用户可以选择丢弃每隔一个视图,结果是移动范围将会与前面一样宽,但是从视图到视图的转变将会更明显,但是这种效应可以减轻,这是通过选择较大的取样宽度e以便增强通道混合,但是只有以增加相邻视图之间的“模糊”为代价才能实现。
相反,还可以将N选择成大于可用的视图数目。在这种情况下,可以将可用视图的复本加载到自由通道中。任选地,可以借助于内插或外插技术计算额外的视图。
如果将要显示场景的3D模型,则通过在3D模型中定位相应数目的虚拟相机,可以直接从这个模型计算任何数目的视图。
在步骤S2中设置分配方案,可以通过用户手动地执行,或者通过软件自动地执行。在后一种情况下,可以向用户提供不同选项之间的选择。
在步骤S3中,提示用户或***决定他或其是否想要使用眼动追踪。然而,应注意,这个决定与是否选择N=2或N>2无关。
当用户或***决定将不使用眼动追踪(N)时,在步骤S4中(例如)基于查看者位于最优观看距离并且在屏幕中心的前方的假设而创建静态通道遮罩。然而,用于选择查看位置的其它选项也是可能的。
当在步骤S3中选择了眼动追踪(Y)时,基于检测到的用户的查看位置将在步骤S5中创建动态通道遮罩。在显示器的前方有多于一个用户的多用户场景中,眼动追踪或头动追踪***可被配置成跟随这些用户中的特定一位用户。
在步骤S4或S5之后,将在步骤中S6(通过***)自动地或者通过用户手动地选择取样宽度e。
最后,显示算法在步骤S7中开始,然后通过将每个像素与N个通道中的一或多个通道相关,从N个纹理中取样图像数据,并且视情况基于选定取样宽度e混合图像数据,借此渲染所设置的N数目个视图。在3D影片的情况下,当然将在每个时隙中更新纹理的内容。
在图1中示出的自动立体***中,还可以将透镜阵列18换成不同的一个透镜阵列,以便相对于选定数目N个视图优化性能(尤其是分辨率)。更换透镜阵列18可能引起某些机械调节错误。然而,通道遮罩和取样程序可能容易适于补偿这些错误,如例如EP 2 615 838A1中所述。
Claims (6)
1.一种用于在具有像素栅格的显示屏(16)上自动立体表示图像的方法,其中由多个片段(22)构成的视差分离光学板(18)安置在所述显示屏(16)的前方,并且至少一个用户的左眼和右眼(26,28)用的图像信息用交错像素图案显示在所述显示屏(16)上,所述方法包括以下步骤:
a)应用分配算法以向至少两个纹理(L,R)分配每次要显示的全部所述图像信息,使得每个纹理包括一个视图用的信息;以及
b)对于每个屏幕像素(48),应用取样算法以从所述纹理的所选区域取样图像信息以确定所述像素的图像内容,其中,当一个屏幕像素(48)与多于一个纹理相关时,所述取样算法包括确定所述像素与每个所述纹理的相关度因数的步骤,以及根据所述对应的相关度因数混合每个所述纹理的取样结果的步骤;
其特征在于在步骤a)之前的以下步骤:
从多个预定义查看模式中选择一种查看模式,所述预定义查看模式包括要显示不同数目个视图的查看模式,所选择的查看模式中的视图数目大于两个;以及
创建通道遮罩(M),其对于所述光学板(18)的每个片段(22)限定N个通道,其中N大于或等于所述所选择的查看模式中的视图数目;
为所述N个通道中的每个通道提供纹理;以及
参照所述通道遮罩(M)使每个屏幕像素(48)与至少一个所述纹理相关。
2.根据权利要求1所述的方法,其中根据至少一个查看者的改变的查看位置动态地改变所述通道遮罩(M)。
3.根据权利要求1所述的方法,其中所述取样算法包括对于每个屏幕像素(48),计算取样区域并且从与所述像素相关的每个纹理中的所述取样区域取样图像信息的步骤。
4.根据权利要求2所述的方法,其中所述取样算法包括对于每个屏幕像素(48),计算取样区域并且从与所述像素相关的每个纹理中的所述取样区域取样图像信息的步骤。
5.根据权利要求1到4中任一项所述的方法,其包括自动地或者通过所述用户手动地确定取样宽度(e)的步骤,所述取样宽度(e)控制取样区间[P0,P1]的宽度,所述将每个像素与多个纹理相关的步骤包括下面的子步骤:
将所述取样区间[P0,P1]置于所述通道遮罩(M)中,所述取样区间的中心在所述像素的中心点(P)上,以及
基于所述取样区间与所述通道遮罩(M)中的与所述相应纹理对应的所述通道的重叠来确定所述像素与每个纹理的相关度因数。
6.根据权利要求1到4中任一项所述的方法,其包括用相机检测查看者的人数和将N设置成取决于所述检测到的查看者人数的值的步骤。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP14200536.2A EP3041231A1 (en) | 2014-12-30 | 2014-12-30 | Autostereoscopic multi-view system |
EP14200536.2 | 2014-12-30 | ||
PCT/EP2015/081389 WO2016107892A1 (en) | 2014-12-30 | 2015-12-30 | Autostereoscopic multi-view system |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107113419A CN107113419A (zh) | 2017-08-29 |
CN107113419B true CN107113419B (zh) | 2020-04-07 |
Family
ID=52282564
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201580071796.2A Active CN107113419B (zh) | 2014-12-30 | 2015-12-30 | 自动立体多视图*** |
Country Status (5)
Country | Link |
---|---|
US (1) | US10225540B2 (zh) |
EP (2) | EP3041231A1 (zh) |
JP (1) | JP6461353B2 (zh) |
CN (1) | CN107113419B (zh) |
WO (1) | WO2016107892A1 (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017188955A1 (en) * | 2016-04-28 | 2017-11-02 | Hewlett-Packard Development Company, L.P. | Digital display devices |
US10511831B2 (en) * | 2017-01-04 | 2019-12-17 | Innolux Corporation | Display device and method for displaying |
US10298921B1 (en) | 2018-02-27 | 2019-05-21 | Looking Glass Factory, Inc. | Superstereoscopic display with enhanced off-angle separation |
JP7145214B2 (ja) * | 2018-06-26 | 2022-09-30 | 京セラ株式会社 | 3次元表示装置、制御コントローラ、3次元表示方法、3次元表示システム、および移動体 |
EP3720125A1 (en) | 2019-04-02 | 2020-10-07 | SeeFront GmbH | Autostereoscopic multi-viewer display device |
EP3720126A1 (en) | 2019-04-02 | 2020-10-07 | SeeFront GmbH | Autostereoscopic multi-viewer display device |
EP3767946A1 (de) | 2019-07-17 | 2021-01-20 | SeeFront GmbH | Basisdisplay für eine autostereoskopische displayanordnung |
TWI767232B (zh) * | 2020-05-20 | 2022-06-11 | 財團法人工業技術研究院 | 透明顯示系統、視差校正方法與圖像輸出方法 |
WO2021237065A1 (en) * | 2020-05-21 | 2021-11-25 | Looking Glass Factory, Inc. | System and method for holographic image display |
WO2021262860A1 (en) | 2020-06-23 | 2021-12-30 | Looking Glass Factory, Inc. | System and method for holographic communication |
WO2022119940A1 (en) | 2020-12-01 | 2022-06-09 | Looking Glass Factory, Inc. | System and method for processing three dimensional images |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101529310B (zh) * | 2006-07-24 | 2012-10-17 | 西弗朗特有限公司 | 自动立体视觉*** |
CN103002303A (zh) * | 2011-09-07 | 2013-03-27 | 乐金显示有限公司 | 立体图像显示装置及其驱动方法 |
CN103581643A (zh) * | 2012-08-06 | 2014-02-12 | 索尼公司 | 显示单元和电子装置 |
CN103969836A (zh) * | 2014-05-21 | 2014-08-06 | 友达光电股份有限公司 | 一种用于多视点自由立体显示器的视角扩展方法 |
CN103995359A (zh) * | 2013-02-20 | 2014-08-20 | 富士通株式会社 | 图像显示装置及图像显示方法 |
CN104094596A (zh) * | 2012-02-02 | 2014-10-08 | 韩国科学技术研究院 | 用于使观看区域平坦化并使动态串扰最小化的裸眼立体3d图像显示装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB9715397D0 (en) | 1997-07-23 | 1997-09-24 | Philips Electronics Nv | Lenticular screen adaptor |
GB0010685D0 (en) * | 2000-05-03 | 2000-06-28 | Koninkl Philips Electronics Nv | Autostereoscopic display driver |
JP2012010085A (ja) * | 2010-06-24 | 2012-01-12 | Sony Corp | 立体表示装置及び立体表示装置の制御方法 |
EP2615838B1 (en) | 2012-01-12 | 2019-08-21 | SeeFront GmbH | Calibration of an autostereoscopic display system |
-
2014
- 2014-12-30 EP EP14200536.2A patent/EP3041231A1/en not_active Withdrawn
-
2015
- 2015-12-30 CN CN201580071796.2A patent/CN107113419B/zh active Active
- 2015-12-30 WO PCT/EP2015/081389 patent/WO2016107892A1/en active Application Filing
- 2015-12-30 EP EP15817420.1A patent/EP3241350B1/en active Active
- 2015-12-30 JP JP2017535374A patent/JP6461353B2/ja active Active
- 2015-12-30 US US15/536,045 patent/US10225540B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101529310B (zh) * | 2006-07-24 | 2012-10-17 | 西弗朗特有限公司 | 自动立体视觉*** |
CN103002303A (zh) * | 2011-09-07 | 2013-03-27 | 乐金显示有限公司 | 立体图像显示装置及其驱动方法 |
CN104094596A (zh) * | 2012-02-02 | 2014-10-08 | 韩国科学技术研究院 | 用于使观看区域平坦化并使动态串扰最小化的裸眼立体3d图像显示装置 |
CN103581643A (zh) * | 2012-08-06 | 2014-02-12 | 索尼公司 | 显示单元和电子装置 |
CN103995359A (zh) * | 2013-02-20 | 2014-08-20 | 富士通株式会社 | 图像显示装置及图像显示方法 |
CN103969836A (zh) * | 2014-05-21 | 2014-08-06 | 友达光电股份有限公司 | 一种用于多视点自由立体显示器的视角扩展方法 |
Also Published As
Publication number | Publication date |
---|---|
US10225540B2 (en) | 2019-03-05 |
EP3041231A1 (en) | 2016-07-06 |
WO2016107892A1 (en) | 2016-07-07 |
JP2018508812A (ja) | 2018-03-29 |
CN107113419A (zh) | 2017-08-29 |
JP6461353B2 (ja) | 2019-01-30 |
US20170347083A1 (en) | 2017-11-30 |
EP3241350B1 (en) | 2020-09-16 |
EP3241350A1 (en) | 2017-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107113419B (zh) | 自动立体多视图*** | |
JP6517245B2 (ja) | 三次元画像を生成するための方法及び機器 | |
US8130272B2 (en) | Method for autostereoscopically producing three-dimensional image information from scanned sub-pixel extracts and device for carrying out said method | |
US9432657B2 (en) | Naked-eye stereoscopic display apparatus, viewpoint adjustment method, and naked-eye stereoscopic vision-ready video data generation method | |
US9628784B2 (en) | Autostereoscopic display and method of displaying a 3D image | |
KR20080100206A (ko) | 온 더 플라이 하드웨어 기반 인터디지테이션 | |
CN102497563A (zh) | 跟踪式裸眼立体显示控制方法、显示控制装置和显示*** | |
TW201322733A (zh) | 影像處理裝置、立體影像顯示裝置、影像處理方法及影像處理程式 | |
CN111095080B (zh) | 在n视点立体显示屏上显示两视点立体图像的***和方法 | |
JP2008244835A (ja) | 立体表示装置および立体画像表示方法 | |
CN103535030B (zh) | 视差图像显示装置、视差图像生成方法、视差图像打印 | |
KR101669498B1 (ko) | 이미지 정보를 표시하는 방법 및 자동입체이미지 스크린 | |
CN108012556B (zh) | 自动立体*** | |
CN117063111A (zh) | 用于显示自动立体i视点图像的自动立体p视点显示屏和包括这种屏幕的显示设备 | |
de la Barré et al. | A new design and algorithm for lenticular lenses display | |
CN117041516A (zh) | 3d显示方法、3d显示器和显示设备 | |
WO2013110297A1 (en) | Autostereoscopic display and method of displaying a 3d image | |
KR20140079532A (ko) | 3차원영상 표시장치 및 그 구동방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |