CN113767316A - 在头戴式设备中的柔性显示设备上显示图像的方法和对应的装置 - Google Patents
在头戴式设备中的柔性显示设备上显示图像的方法和对应的装置 Download PDFInfo
- Publication number
- CN113767316A CN113767316A CN202080030935.8A CN202080030935A CN113767316A CN 113767316 A CN113767316 A CN 113767316A CN 202080030935 A CN202080030935 A CN 202080030935A CN 113767316 A CN113767316 A CN 113767316A
- Authority
- CN
- China
- Prior art keywords
- image
- flexible display
- display device
- display area
- rendered
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000012545 processing Methods 0.000 claims abstract description 52
- 230000002093 peripheral effect Effects 0.000 claims abstract description 19
- 238000009877 rendering Methods 0.000 claims description 14
- 238000003780 insertion Methods 0.000 claims description 8
- 230000037431 insertion Effects 0.000 claims description 8
- 230000002123 temporal effect Effects 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000009499 grossing Methods 0.000 description 7
- 238000001914 filtration Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 241000226585 Antennaria plantaginifolia Species 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 238000010295 mobile communication Methods 0.000 description 4
- 230000004069 differentiation Effects 0.000 description 3
- 230000004886 head movement Effects 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/011—Head-up displays characterised by optical features comprising device for correcting geometrical aberrations, distortion
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0123—Head-up displays characterised by optical features comprising devices increasing the field of view
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
Abstract
定义了用于在头戴式设备(HMD)中的柔性显示器上显示图像的方法和装置。一个或多个柔性显示设备可以***到HMD中。一个或多个柔性显示设备可以被HMD约束以采取特定弯曲形式并且翘曲在一个或多个柔性显示设备上显示的图像的视场(FOV)以改善用户体验。一个或多个柔性显示器的显示表面可以划分为显示区域,显示区域对应于焦点区域和***FOV。图像处理可以根据显示区域进行区分。
Description
技术领域
本公开总体上涉及头戴式设备领域。
背景技术
本文描述的任何背景信息旨在向读者介绍本领域的各个方面,这些方面可能与下面描述的本实施例有关。该讨论被认为有助于为读者提供背景信息以促进更好地理解本公开的各个方面。因此,应该理解应从这个角度阅读这些陈述。
头戴式显示器或头戴式设备(HMD)为用户提供沉浸在三维(3D)环境中的印象,并且被用在例如增强和虚拟现实(AR/VR)***中。中高端的HMD包括一个显示器(单目HMD)或两个显示器(例如每只眼睛一个显示器(双目HMD))。这些显示器通常具有曲率,以便提供最小的视觉畸变并获得与真实世界视觉相当的用户体验。当要在HMD上渲染的图像最初打算显示在具有平坦表面的显示设备上时,可以使用图像处理以使(多个)图像适应HMD的(多个)弯曲显示器,以便避免可能对用户体验产生不利影响并可能引起不适的视觉伪影。图像处理是每个HMD特有的,并随HMD提供。低成本HMD可以包括框架,该框架可以设有用于接收移动电话的布置(“基于智能手机的HMD”)。移动电话可以具有平坦的显示表面。将平坦的显示表面用于HMD会导致畸变的图像,这可以通过处理用于显示的图像(例如,通过使图像变形,就好像它在假想的弯曲表面上翘曲一样)来至少部分地补偿。但是,用户体验的质量仍然低于包括固定的弯曲显示器的中高端HMD。具有柔性显示器的移动设备(“柔性显示设备”)的出现为改善低成本HMD的用户体验创造了机会。
发明内容
根据本公开的一个方面,提供了一种用于在头戴式设备中的至少一个柔性显示设备上渲染图像的方法。方法包括:根据要在其上渲染图像的至少一个柔性显示设备的第一显示区域和要在其上渲染图像的至少一个柔性显示设备的第二显示区域,配置要在至少一个柔性显示设备上渲染的图像的图像处理特征,第二显示区域围绕第一显示区域,并且第一显示区域对应焦点视场且第二显示区域对应***视场,以及根据所配置的图像处理特征,在至少一个柔性显示设备的第一显示区域和第二显示区域上渲染图像。
根据该方法的另一方面,头戴式设备包括开口,开口被配置为接收至少一个柔性显示设备以用于将至少一个柔性显示设备***到头戴式设备中,当至少一个柔性显示设备***到头戴式设备中时,头戴式设备约束至少一个柔性显示设备以采取弯曲形式。
根据该方法的另一方面,方法还包括根据弯曲形式和至少一个柔性显示设备的尺寸,确定第一显示区域和第二显示区域的尺寸和位置。
根据该方法的另一方面,图像处理特征包括以下至少一个:对要在第一显示区域上渲染的图像应用比要在第二显示区域上渲染的图像更高的时间和/或空间分辨率图像处理;根据弯曲形式对要在第一显示区域上渲染的图像应用翘曲变换,以校正由头戴式设备中的镜头引起的畸变,并且对要在第二显示区域上渲染的图像不应用翘曲变换;通过从要在第一区域上渲染的图像的外显示区中提取图像特征,将要在第一区域上渲染的图像扩展到第二区域。
根据该方法的另一方面,第一显示区域和第二显示区域的尺寸和位置还根据:包括在头戴式设备中的一组镜头的焦距;一组镜头之间的焦点中心距离;眼睛到显示器距离;显示器到镜头距离;头戴式设备的用户的瞳孔间距。
根据该方法的另一方面,瞳孔间距由至少一个柔性显示设备基于至少一个柔性显示设备中的传感器元件来测量。
根据该方法的另一方面,至少一个柔性显示设备通过读取与头戴式设备相关联的快速响应代码来获得头戴式设备的属性。
根据该方法的另一方面,至少一个柔性显示设备通过读取结合在头戴式设备中的近场通信标签来获得头戴式设备的属性。
本公开还涉及一种用于在***头戴式设备时渲染图像的柔性显示设备,柔性显示设备包括处理器,处理器被配置为:根据要在其上渲染图像的柔性显示设备的第一显示区域和根据要在其上渲染图像的柔性显示设备的第二显示区域,配置要在柔性显示设备上渲染的图像的图像处理特征,第二显示区域围绕第一显示区域,并且第一显示区域对应焦点视场且第二显示区域对应***视场;以及根据所配置的图像处理特征,在柔性显示设备的第一显示区域和第二显示区域上渲染图像。
根据该柔性显示设备的另一方面,头戴式设备包括开口,开口被配置为接收柔性显示设备以用于将柔性显示设备***到头戴式设备中,当柔性显示设备***到HMD中时,头戴式设备约束柔性显示设备以采取弯曲形式,处理器还被配置为:根据弯曲形式和至少一个柔性显示设备的尺寸,确定第一显示区域和第二显示区域的尺寸和位置。
根据该柔性显示设备的另一方面,处理器还被配置为应用以下图像处理特征中的至少一个:对要在第一显示区域上渲染的图像应用比要在第二显示区域上渲染的图像更高的空间和/或时间分辨率图像处理;根据弯曲形式对要在第一显示区域上渲染的图像应用翘曲变换,以校正由头戴式设备中的镜头引起的畸变,并且对要在第二显示区域上渲染的图像不应用翘曲变换;通过从要在第一区域上渲染的图像的外显示区中提取图像特征,将要在第一区域上渲染的图像扩展到第二区域。
根据该柔性显示设备的另一方面,处理器还配置为从头戴式设备的用户获得瞳孔间距,以用于确定第一区域的中心位置。
根据该柔性显示设备的另一方面,处理器还被配置为从柔性显示设备中的传感器元件获得瞳孔间距。
根据该柔性显示设备的另一方面,处理器还被配置为一旦将柔性显示设备***到头戴式设备中就确定弯曲的形式。
根据该柔性显示设备的另一方面,处理器还被配置为从柔性显示设备中的快速响应代码读取器获得头戴式设备的属性,读取与头戴式设备相关联的快速响应代码。
根据该柔性显示设备的另一方面,柔性显示设备是移动通信设备。
根据该柔性显示设备的另一方面,移动通信设备是智能手机。
附图说明
本公开的更多优点将通过对特定的、非限制性实施例的描述而显现。为了描述可以获得本公开的优点的方式,本原理的特定描述通过参考在附图中图示的其具体实施例来呈现。附图描绘了本公开的示例性实施例并且因此不应被视为限制其范围。所描述的实施例可以组合以形成特定的有利实施例。在下面的图中,与之前图中已经描述的项目具有相同附图标记的项目将不再描述,以避免不必要地混淆本公开。将参考以下附图描述实施例,其中:
图1a是具有用于***显示设备的插槽的现有技术HMD。
图1b是图1a的现有技术HMD的顶视图。
图2a是根据实施例的HMD。
图2b是图2a的相同HMD的顶视图。
图3a至图3c是HMD接收单个柔性显示器的实施例,该单个柔性显示器可以采取弯曲的形式。
图4a/图4b是其中HMD被配置为接收两个柔性显示设备的实施例。
图5a至图5c图示了诸如在图4a/图4b的HMD中的多个柔性显示器的使用,并且特别图示了在这样的实施例中的显示区域中的显示区的定义。
图6a和图6b示出了使用单个柔性显示器并且一旦***就被HMD约束以采取双弯曲的形式的实施例。
图7a至图7c示出了在单个柔性显示器的显示区中如何定义区域。
图8a/图8b图示了根据区域区分的图像处理的特定实施例。
图9a/图9b图示了根据区域区分的图像处理的另一个特定实施例。
图10a图示了在柔性显示设备上显示的图像的视觉畸变,该视觉畸变可以由配备有一个或多个镜头的HMD的用户观察到。
图10b图示了如何校正图10a的畸变。
图11是图示了确定单个柔性显示设备的区域A和区域B的图解表示。
图12是供参考目的的区域A和区域B的图解表示。
图13是用于在HMD中的柔性显示设备上渲染图像的方法的实施例的流程图。
图14是用于在HMD中的柔性显示设备上渲染图像的方法的不同实施例的流程图。
图15是柔性显示设备的示例实施例。
应当理解,附图是为了说明本公开的概念,并不一定是用于说明本公开的唯一可能配置。
具体实施方式
本说明书图示了本公开的原理。因此将理解,本领域技术人员将能够设计出各种布置,该各种布置尽管在本文中未明确描述或示出,但是体现了本公开的原理并且被包括在本公开的精神和范围内。
本文中叙述的所有示例和条件语言旨在用于教育目的,以帮助读者理解本公开的原理和发明人为促进本领域所贡献的概念,并且应被解释为不限于这些具体叙述的示例和条件。
此外,本文中叙述本公开的原理、方面和实施例及其具体示例的所有陈述旨在涵盖其结构和功能等效物。此外,无论结构如何,此类等效物旨在包括当前已知的等效物以及将来开发的等效物,即所开发的执行相同功能的任何元件。
图1a是具有用于接收显示设备11a的插槽101的HMD 10。显示设备11a具有基本上平坦且刚性的显示器。例如,显示装置11a是诸如智能手机的移动通信设备。图1b是在由人12佩戴时从上方看到的相同HMD 10。显示设备11a可以***插槽101中并且在***位置11b中示出。类似HMD的示例是Google Cardboard和Daydream模型。
图2a是根据实施例的HMD 20。柔性显示设备21a可以***插槽201中。图2b是由人12佩戴的相同HMD 20的顶视图。柔性显示设备21a可以***插槽201中并且在***位置21b中示出。例如,柔性显示设备21a是诸如智能电话的柔性移动通信设备。根据实施例,代替在其一侧上具有插槽201,HMD 20可以在每一侧具有插槽,和/或在其顶部或底部具有插槽。根据实施例,HMD 20可以没有插槽,在这种情况下,柔性显示设备21a可以附接到HMD 20,该HMD 20具有用于接收柔性显示设备21a的开口或容器。如在图2b中可以观察到的,柔性显示设备21a在***位置21b时被约束为采取弯曲形式。正如将进一步讨论的,这种弯曲形式有助于改善用户12的***FOV中显示的图像的用户体验。
图3a至图3c是其中HMD接收单个柔性显示器30的实施例,一旦***根据实施例的HMD中,该柔性显示器30可以采取如图3a/图3b中所示的弯曲(例如,凹入)形式。显示器30的显示区可以如图所示被划分为多个区域,即显示区域A 301和显示区域B 302。区域B 302可以是由在***FOV中的弯曲显示区限定的区域,而区域A 301可以被限定为不在***FOV中的(基本上)非弯曲的或((基本上)平坦的)显示区。区域A和区域B的进一步定义可以在图12a和图12b中找到。
图4a/图4b是其中HMD 40被配置为接收两个柔性显示设备41a和42a的实施例。图4b是在由用户12佩戴时从上方看到的相同HMD 40。柔性显示器41a和42a在它们相应的***位置41b和42b中示出。
图5a至图5c图示了诸如在图4a/图4b的HMD 40中的多个柔性显示器的使用,并且特别图示了在这样的实施例中的显示区域中的显示区的定义。一旦***HMD 40中,两个柔性显示器41a和42a中的每一个都可以采用图5b的弯曲(例如,凹入)形式。区域A 501和区域B 502被定义在每个柔性显示器41a和42a的显示区中,其中区域A501被定义为不在用户12的***FOV中的(基本上)非弯曲的/平坦的区域,而区域B 502被定义为在用户12的***FOV中的(基本上)弯曲的区域。
图6a和6b示出了一个实施例,其中单个柔性显示器61a被使用,并且一旦***到HMD 60中就被HMD 60约束以采取双弯曲(例如,凹入)形式61b。
图7a至7c示出了在单个柔性显示器61a的显示区中如何定义区域A和B。单个柔性显示器61a的显示区被划分为两个图像区,每只眼睛一个区;左眼图像区70a和右眼图像区70b。两个图像区中的每一个都有自己的区域A和区域B;区域A701a和区域B 701b用于图像区70a,并且区域A702a和区域B 702b用于图像区70b。
在图3c、分别地图5c、分别地图7c中,区域A 301、分别地区域A 501、分别地区域A701a/702a被描绘为具有90度角度的矩形。根据实施例,区域A 301、分别地区域A 501、分别地区域A 701a/702a可以为具有圆边缘的(多个)矩形。根据实施例,区域A 301、分别地区域A 501、分别地区域A 701a/702a可以具有另一种形式,例如椭圆形式。区域B 302、分别地区域B 502、分别地区域B 701b/702b可以遵循区域A 301、分别地区域A 501、分别地区域A701a/702a的轮廓。
根据实施例(未示出),(多个)柔性显示设备经由配置在HMD的顶部或底部中的(多个)插槽***。根据实施例(未示出),一个或多个柔性显示设备一旦***到HMD中就可以弯曲成例如先前形式之一。根据实施例(未示出),HMD因此可以例如通过安装在HMD上的弹簧致动杠杆来迫使(约束)(多个)柔性显示设备在***一个或多个插槽之后采取期望的形式,该弹簧致动杠杆当由用户操作时向模具或垫施加机械压力,该模具或垫被配置为将(多个)柔性显示器弯曲成所期望的形式。
如前所示,图像区域B围绕区域A,并且要在区域B中显示的图像可能不需要像区域A中显示的图像那么多的细节,因为区域B对应于人眼无法观察详细信息的***FOV区域。然而,由于人眼对其***FOV中的常见细节(移动)高度敏感,因此图像区域B可能包括常见细节。因此,区域A和B的图像处理特征可能不同,这将在后面进一步讨论。例如,区域A在处理方面保持不变或对区域A应用不畸变算法(图像处理特征是应用不畸变算法),而区域B被平滑(图像处理特征是应用平滑),通常使用高斯、中值或平均滤波(图像处理特征是应用滤波)。可以将区域B的增加平滑或甚至普通平滑应用于图像的边缘;例如,由区域A和区域B之间的界限与图像边缘之间的距离加权,或者在区域A和区域B之间的界限上不进行平滑,但在区域B边缘附近/图像边缘附近进行普通平滑。滤波器的强度可以是区域B中距离的函数,例如:在区域B的开始处(即,图像的位置(0,y),y>yA,其中yA是根据垂直轴的区域A的开始,光栅扫描),滤波强度高或处于最大值,而在区域B的末端(即位置(xA,y),其中xA是区域A的开始),滤波强度低或最小。例如,将原图像的区域B替换为区域A边界中的图像扩展(图像处理特征是像素替换/像素扩展),例如区域A边界外的像素取最接近边界像素的值,或区域B是区域A的镜像(图像处理特征是镜像)。
图8a/图8b图示了根据显示区域区分的(不同的、区别的)图像处理的特定实施例。在图8a中,图像80具有由图像高度81和图像宽度82定义的周边。在图像80的周边内部,可以定义具有高度83和宽度84的焦点区80a。焦点区之外的区是例如在***FOV中的区并且由附图标记80b指示。位于焦点区80a中的图像80的部分可以与位于焦点区之外(80b)的部分不同地进行处理。图8b是这种不同处理的示例结果。在86a中,示出了3D立方体的图像。在86b中,图像与焦点区的周边85一起被示出。焦点区80a中的图像以高细节水平(高空间和/或时间分辨率、高比特率)进行处理,而焦点区(80b)外的图像以低(较低)细节水平(低(较低)空间和/或时间分辨率,低(较低)比特率)进行处理。所得图像用附图标记86c指示。根据实施例,焦点区80a对应于前面提到的柔性显示设备的区域A,并且80b对应于区域B。
图9a/图9b图示了根据区域区分的图像处理的另一个特定实施例。在图9a中,要显示的图像90由图像高度91和图像宽度92定义。虽然图像的图像区可以如附图标记90b所指示的那样定义,但在图像90的周边(周围)之外,区90a可以被定义为具有高度93和宽度94;该区将进一步称为扩展区90a。在图9b中,附图标记96a是带有其阴影的3D立方体的图像,用图像扩展区90a的周边描绘阴影,用虚线指示图像扩展区90a的周边。附图标记96b给出了如何使用图像90的外部分(位于图像的***区中的图像部分)来计算图像扩展区90a的图像的简单示例。附图标记96c描绘了所得的图像。根据实施例,图像区90b对应于前面提到的柔性显示设备的区域A,并且扩展区90a对应于区域B。根据实施例,基于从要在区域A中显示的图像的外区提取的数据,从要在区域A中显示的图像计算区域B的图像。
图10a图示了在柔性显示设备上显示的图像的视觉畸变,视觉畸变可由配备有一个或多个镜头(例如,每只眼睛一个镜头,或每只眼睛若干个镜头)的HMD的用户观察到。附图标记100a是显示的图像。附图标记101是镜头。附图标记102a是用户通过镜头101观察到的畸变图像。所示的畸变对应于枕形畸变。其他畸变可能是由HMD的(多个)镜头引起的,并且畸变可能是累积的。
图10b图示了可以如何校正图10a的畸变。通过在图像处理期间应用所谓的翘曲平移来使图像100b变形。翘曲变换对应于畸变的倒转并减少或消除由镜头101引起的畸变。这里图示了枕形畸变102a,其倒转是桶形畸变100b。由用户观察到的所得图像102b被校正。要通过图像处理应用于图像的翘曲变换的参数取决于所使用的(多个)镜头的特征(特性、参数、属性)。根据实施例,用于翘曲变换的图像处理仅应用于要在区域A中渲染的图像/图像的部分,并且因此不应用于区域B,因为如上所述区域B对应于用户的***FOV,其中人眼无法分辨详细信息。这有利地减少了渲染要在区域B中渲染的图像/图像的部分所需的图像处理工作。例如,畸变校正可以使用Brown-Conrady模型来实现,这里不再进一步解释。也可以应用其他类型的校正(诸如色差校正)以进一步改善图像质量。可能有助于定义可纠正由(多个)镜头引起的图像畸变的图像处理步骤的典型的镜头特征(特性、参数、属性)是镜头视场,该镜头视场由3D渲染器用于设置虚拟相机FOV;参数,该参数限定枕形畸变或限定用于校正枕形畸变的对应的桶形畸变图像处理操作的参数;用于色差校正的R、G和B通道系数。其他镜头特征可以有助于定义其他图像处理步骤,以进一步改善图像质量。
根据实施例,HMD与快速响应(QR)代码相关联,当被将使用(将被***)HMD的(多个)柔性显示设备中的QR代码读取器应用读取时,该QR代码使(这些)(多个)柔性显示设备能够获得HMD的特性(特征、参数、属性),这将使(多个)柔性显示设备能够定义和配置有助于在该HMD中的(多个)柔性显示设备上渲染图像的图像处理特征。例如,可以根据镜头特征、根据柔性显示器曲率以及根据区域A和B的尺寸来指定HMD特性。根据实施例,这种QR代码与HMD相关联(例如,印刷、盖印在其上)。根据实施例,可以基于例如HMD列表中的HMD选择或HMD类型/型号从网页获得QR代码。根据实施例,特性可以包括多组特性,其中每组特性与特定的柔性显示设备相关联。例如,相同HMD可能能够接收多种格式(例如,4英寸至5.5英寸)的柔性显示设备。例如,相同HMD可以接收柔性显示设备21a,该柔性显示设备一旦***HMD将被约束为采取图3b的形式21b,或者如果柔性显示设备具有更大的格式,则采取图7b的形式61a。例如,相同HMD可以接收一个柔性显示设备(图2至图3和图6至图7),或两个柔性显示设备(图4至图5)。相同HMD可以接收一个横向方向的柔性显示设备,或者横向或纵向方向的两个柔性显示设备。因此,要与HMD一起使用的(多个)柔性显示设备的图像处理特征可能取决于HMD的特性、所使用的(多个)柔性显示设备的类型、是使用一个还是两个柔性显示设备以及柔性显示设备的方向。虽然显示设备本身可以检测到显示设备的横向或纵向方向,但自动显示方向是不方便的,因为当显示设备用于HMD时,头部移动引起了不希望的影响。
根据实施例,HMD可以经由诸如Wi-Fi、蓝牙或近场通信(NFC)的无线传输方式将其特性传送到将使用HMD的(多个)柔性显示设备。例如,柔性显示设备可以通过读取结合在HMD中的NFC标签来读取特性。根据实施例,HMD用户可以指定将如何使用HMD的方式(单个/多个柔性显示设备、柔性显示器方向)并且(多个)柔性显示设备可以基于这些信息源确定区域A和B的大小,以及将哪些图像处理特征应用于每个区域中显示的图像。
根据实施例,区域A和B的特征(诸如尺寸和x-y位置)可以是用户(佩戴者)可定义的,或用户(佩戴者)可调节的。根据实施例,区域A和B可以根据HMD佩戴者的瞳孔间距(瞳孔间距的IPD或PD)居中。IPD是佩戴者特定的参数,该参数可以由传感器元件测量,该传感器元件可以帮助在将柔性显示设备***柔性显示设备之前或之后测量柔性显示设备中的诸如位移、距离、位置(例如,相机)的参数。或者,IPD可由HMD基于例如头围的测量来确定,可以当HMD自动调节或佩戴者手动调节时由HMD测量头带长度来获得该头围,或例如当头带是一种通用型时,可以从测量的施加在HMD的(多个)头带支架上的撕裂强度来获得该头围。或者,IPD可以基于例如由HMD佩戴者指定的HMD佩戴者的年龄来预配置;例如,如果佩戴者是成人,IPD可以设置为6.3厘米,如果佩戴者是儿童,IPD可以设置为5.1厘米。
根据实施例,区域A和B的特征也可以根据眼睛到显示器距离进行调整。眼睛到显示器距离可以是特定于每个HMD的参数。预先配置可以包括获得上述佩戴者特定参数、获得HMD参数、获得HMD的使用配置(例如,一个显示器、两个显示器、纵向或横向显示器方向)以及获得与HMD一起使用的(多个)柔性显示设备的参数(例如,屏幕尺寸、像素数)。预配置可以确定区域A和B的尺寸和位置,以及与这些区域中的每一个相关联的不同图像处理特征。
图11是图示了确定单个柔性显示设备的区域A和B的图解表示。A和B可以从例如以下特性(参数、属性)中定义:
-f,表示HMD中镜头***的镜头焦距;
-dIPD,附图标记1108,表示用户的瞳孔间距(以厘米为单位);
-dETS,附图标记1103,表示HMD的眼睛到显示器距离(以厘米为单位);
-dSTL,附图标记1102,表示HMD的显示器到镜头距离(以厘米为单位);
-wA,附图标记1121,表示所使用的柔性显示设备的区域A的像素宽度;
-α,附图标记1105,表示头部冠状面(即,从耳朵到耳朵定义的平面)与用户眼睛外部视觉边界(即,双目视觉的外部极限)之间的角度。通常,这个角度是62°,即大约π/3,并且可以被认为是固定值,而如果HMD中显示的图像响应头部移动(即根据头部移动引起平移),则此角度可以调整为30°或20°,这对应于眼睛识别符号或颜色的界限;
-ppcm,表示所用柔性显示设备每厘米的像素密度(RGB三元组)。通常,150-200表示全高清(HD)显示器。
假设柔性显示设备居中于HMD,即HMD中心与显示器中心对准,并且假设水平面双目视觉一般可能在-62°到+62°范围内,其中0°是直视方向(垂直于耳朵到耳朵平面):
wA=(2.tan(α).dETS+dIPD)/(f/f-dSTL))*ppcm
例如,考虑α=62°,dETS=2cm,dSTL=0.5cm,ppcm=150,f=3.5cm→wA(区域A的像素宽度)=1000个像素。在已知区域A 1121的像素宽度的情况下,区域B 1120的像素宽度可以计算为柔性显示器的像素宽度/4。在上面的示例中,仅计算了宽度。对于高度的计算,处理图像的纵横比的保留可用于确定它,其中:
纵横比=高度/宽度=tan(垂直FOV/2)/tan(水平FOV/2)
其中水平FOV/2=α,宽度=wA,并且纵横比通常等于16/9或3/4;可以从图像或显示特性中检索纵横比。
或者,区域A的高度等于处理图像的高度(即,因此区域B的“框架构件”120a、120b(参见图12)的厚度可以为零)。
当区域B的表面不是简单的矩形并且是例如椭圆形式时,wA定义了椭圆在其长轴上的宽度。
图12是供参考目的的区域A和B的图解表示。柔性显示设备的显示区域可以由外矩形定义。在图12a中,区域A121是内矩形,并且区域B 120可以表示为围绕区域A121的框架。区域B的“框架”具有上构件120a、下构件120b、左构件120c和右构件120d。上、下、左和右构件可具有相同、不同或可变的厚度。框架构件的厚度至少在框架构件的一些点处可以为零。在图12a中,区域A和B表示为两个纵向方向的矩形。然而,区域A和B可能具有横向方向,并且区域A和B的方向可能不同,例如区域A可能具有横向方向,而区域B具有纵向方向,反之亦然。区域A和B可以不是矩形形式,但是例如至少部分地具有椭圆形式的圆形,并且区域A和B可以组合这些形式中的任何一种,例如,虽然区域B是具有外部矩形形式的框架,但是如果区域B至少部分地是椭圆形式,诸如例如图12b中所示,则其内部形式可以至少部分地是椭圆形的。
图13是用于在头戴式设备中的至少一个柔性显示设备上渲染图像的方法的实施例的流程图1300。
在第一步骤1301中,根据要在其上渲染图像的至少一个柔性显示设备的第一显示区域和要在其上渲染图像的至少一个柔性显示设备的第二显示区域,配置要在至少一个柔性显示设备上渲染的图像的图像处理特征,第二显示区域围绕第一显示区域,并且第一显示区域对应焦点视场且第二显示区域对应***视场。示例图像处理特征是使用高或低空间和/或时间分辨率、平滑、应用滤波、像素替换、复制、图像扩展进行处理。
在步骤1302中,根据配置的图像处理特征,至少一个柔性显示设备一旦***所述头戴式设备中,在该至少一个柔性显示设备的第一显示区域和第二显示区域上渲染图像。图像可以是视频序列的帧。
图14是用于在头戴式设备中的至少一个柔性显示设备上渲染图像的方法的不同实施例的流程图1400。
在第一步骤1401中,从HMD获得HMD的属性。例如,这些属性可以包括与HMD中使用的镜头相关的特性,诸如焦距(长度)、镜头畸变、色差、镜头FOV,以及瞳孔间距(如果由HMD测量)、显示器到镜头距离、眼睛到显示器距离、柔性显示设备在***HMD时的可能的横向/纵向方向、柔性显示设备在***HMD时的曲率。
在步骤1402中,基于在步骤1301中获得的属性,确定第一显示区域(例如,区域A)和第二显示区域(例如,区域B)用于在柔性显示设备上渲染图像。第二显示区域围绕第一显示区域(例如,区域B可以看作区域A周围的框架),并且第一显示区域对应人眼的焦点视场,且第二显示区域对应人眼的***视场。
在步骤1403中,根据要在其中渲染图像的显示区域(例如,区域A或B),配置要在柔性显示器上渲染的图像的图像处理特征。示例图像处理特征是用高或低空间和/或时间分辨率、平滑、应用滤波、像素替换、复制、图像扩展进行处理
在步骤1404中,根据配置的图像处理特征,至少一个柔性显示设备一旦***头戴式设备中,在该至少一个柔性显示设备的第一显示区域和第二显示区域上渲染图像。图像可以是视频序列的帧。
图15是柔性显示设备的示例实施例。显示设备1500包括至少一个处理器1501,被配置为执行图13中所示的步骤。柔性显示设备还可以包括存储器1502,其可以被配置为存储数据,诸如图像处理前后的图像、图像处理特征配置设置、HMD的属性、区域A和B的定义以及处理器1501可执行的指令。一个或多个网络接口1503可以被配置为与诸如3G-5G/NR、NFC、蓝牙或WiFi的无线网络1510接口,并且可以例如被配置为读取HMD的属性,被配置为连接到其他设备、连接到LAN、WAN、连接到互联网。一个或多个***设备1504可以被配置为读取HMD的快速响应代码,在这种情况下***设备包括传感器,例如相机设备。显示器/输入1505可以被配置为渲染图像并接收用户输入。
应当理解,附图中的一些元件可能并非在所有实施例中都使用或不是必需的。一些操作可以并行执行。除了图示和/或描述的那些实施例之外的实施例也是可能的。例如,实现本原理的设备可以包括硬件和软件的混合。
应当理解,本公开的原理的方面可以体现为***、方法或计算机可读介质。因此,本公开的原理的方面可以采取完全硬件实施例、完全软件实施例(包括固件、常驻软件、微代码等)或结合硬件和软件方面的都可以在本文中通常被定义为“电路”、“模块”或“***”的实施例的形式。此外,本公开的原理的方面可以采取计算机可读存储介质的形式。可以利用一种或多种计算机可读存储介质的任何组合。
因此,例如,应当理解,本文呈现的图表示体现本公开的原理的说明性***组件和/或电路的概念视图。类似地,应当理解,任何流程图表、流程图、状态转换图、伪代码等表示可以实质表示在计算机可读存储介质中并因此由计算机或处理器执行的各种过程,无论这样的计算机或处理器是否被明确示出。
计算机可读存储介质可以采取计算机可读程序产品的形式,该计算机可读程序产品体现在一个或多个计算机可读介质中并且具有体现在其上的可由计算机执行的计算机可读程序代码。考虑到在其中存储信息的固有能力以及从其提供信息检索的固有能力,本文使用的计算机可读存储介质被认为是非暂时性存储介质。计算机可读存储介质可以是例如,但不限于,电子、磁、光、电磁、红外或半导体***、装置或设备,或前述的任何合适的组合。存储介质的某些或所有方面可能位于远程(例如,在“云”中)。应当理解,以下虽然提供了可以应用本原理的计算机可读存储介质的更具体示例,但仅是说明性的而非详尽的列表(如本领域普通技术人员容易理解的):硬盘、只读存储器(ROM)、可擦可编程只读存储器(EPROM或闪速存储器)、便携式光盘只读存储器(CD-ROM)、光存储设备、磁存储设备,或上述任何合适的组合。
Claims (10)
1.一种用于在头戴式设备中的至少一个柔性显示设备上渲染图像的方法(1300),所述方法包括:
根据要在其上渲染所述图像的所述至少一个柔性显示设备的第一显示区域和要在其上渲染所述图像的所述至少一个柔性显示设备的第二显示区域,配置(1301)要在所述至少一个柔性显示设备上渲染的图像的图像处理特征,所述第二显示区域围绕所述第一显示区域,并且所述第一显示区域对应焦点视场且所述第二显示区域对应***视场,以及
根据所配置的图像处理特征,在至少一个柔性显示设备的所述第一显示区域和所述第二显示区域上渲染(1302)图像。
2.根据权利要求1所述的方法,其中,所述头戴式设备包括开口,所述开口被配置为接收所述至少一个柔性显示设备以用于将所述至少一个柔性显示设备***到所述头戴式设备中,当所述至少一个柔性显示设备***到所述头戴式设备中时,所述头戴式设备约束所述至少一个柔性显示设备以采取弯曲形式。
3.根据权利要求2所述的方法,所述方法还包括根据所述弯曲形式和所述至少一个柔性显示设备的尺寸,确定所述第一显示区域和所述第二显示区域的尺寸和位置。
4.根据权利要求1至3中任一项所述的方法,其中,所述图像处理特征包括以下中的至少一个:
对要在所述第一显示区域上渲染的图像应用比要在所述第二显示区域上渲染的图像更高的空间和/或时间分辨率图像处理;
根据所述弯曲形式对要在所述第一显示区域上渲染的图像应用翘曲变换,以校正由所述头戴式设备中的镜头引起的畸变,并且对要在所述第二显示区域上渲染的图像不应用所述翘曲变换;
通过从要在所述第一区域上渲染的所述图像的外显示区中提取图像特征,将要在所述第一区域上渲染的图像扩展到所述第二区域。
5.根据权利要求3所述的方法,其中,所述第一显示区域和所述第二显示区域的所述尺寸和位置还根据:
包括在所述头戴式设备中的一组镜头的焦距;
包括在所述头戴式设备中的一组镜头之间的焦点中心距离;
眼睛到显示器距离;
显示器到镜头距离;
所述头戴式设备的用户的瞳孔间距。
6.根据权利要求5所述的方法,其中所述瞳孔间距由所述至少一个柔性显示设备基于所述至少一个柔性显示设备中的传感器元件来测量。
7.一种用于在***头戴式设备中时渲染图像的柔性显示设备(1500),所述柔性显示设备包括至少一个处理器(1501),所述至少一个处理器被配置为:
根据要在其上渲染所述图像的所述柔性显示设备的第一显示区域和根据要在其上渲染所述图像的所述柔性显示设备的第二显示区域,配置要在柔性显示器上渲染的图像的图像处理特征,所述第二显示区域围绕所述第一显示区域,并且所述第一显示区域对应焦点视场且所述第二显示区域对应***视场;以及
根据所配置的图像处理特征,在所述柔性显示设备的所述第一显示区域和所述第二显示区域上渲染图像。
8.根据权利要求7所述的柔性显示设备,所述头戴式设备包括开口,所述开口被配置为接收所述柔性显示设备以用于将所述柔性显示设备***到所述头戴式设备中,当所述柔性显示设备***到所述头戴式设备中时,所述头戴式设备约束所述柔性显示设备以采取弯曲形式,所述处理器还被配置为:
根据所述弯曲形式和所述至少一个柔性显示设备的尺寸,确定所述第一显示区域和所述第二显示区域的尺寸和位置。
9.根据权利要求7或8所述的柔性显示设备,其中,所述处理器还被配置为应用以下图像处理特征中的至少一个:
对要在所述第一显示区域上渲染的图像应用比要在所述第二显示区域上渲染的图像更高的空间和/或时间分辨率图像处理;
根据所述弯曲形式对要在所述第一显示区域上渲染的图像应用翘曲变换,以校正由所述头戴式设备中的镜头引起的畸变,并且对要在所述第二显示区域上渲染的图像不应用所述翘曲变换;
通过从要在所述第一区域上渲染的所述图像的外显示区中提取图像特征,将要在所述第一区域上渲染的图像扩展到所述第二区域。
10.根据权利要求7至9所述的柔性显示设备,其中,所述处理器还配置为从所述头戴式设备的用户获得瞳孔间距,以用于确定所述第一区域的中心位置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP19305383 | 2019-03-26 | ||
EP19305383.2 | 2019-03-26 | ||
PCT/US2020/023304 WO2020197878A1 (en) | 2019-03-26 | 2020-03-18 | Method for displaying images on a flexible display device in a head-mountable device and corresponding apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113767316A true CN113767316A (zh) | 2021-12-07 |
Family
ID=66041414
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080030935.8A Pending CN113767316A (zh) | 2019-03-26 | 2020-03-18 | 在头戴式设备中的柔性显示设备上显示图像的方法和对应的装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11947116B2 (zh) |
EP (1) | EP3948397A1 (zh) |
CN (1) | CN113767316A (zh) |
WO (1) | WO2020197878A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20240046410A1 (en) * | 2022-08-02 | 2024-02-08 | Qualcomm Incorporated | Foveated scaling for rendering and bandwidth workloads |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090040296A1 (en) * | 2007-08-06 | 2009-02-12 | Moscato Jonathan D | Head mounted display assembly |
US20100079356A1 (en) * | 2008-09-30 | 2010-04-01 | Apple Inc. | Head-mounted display apparatus for retaining a portable electronic device with display |
US20150219902A1 (en) * | 2014-02-06 | 2015-08-06 | Samsung Electronics Co., Ltd. | Electronic device including flexible display unit and operation method thereof |
CN107430281A (zh) * | 2015-06-23 | 2017-12-01 | 谷歌公司 | 带有双曲面显示器的头戴式显示器装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7495638B2 (en) * | 2003-05-13 | 2009-02-24 | Research Triangle Institute | Visual display with increased field of view |
EP1763960A1 (en) | 2004-06-30 | 2007-03-21 | Koninklijke Philips Electronics N.V. | Dominant color extraction using perceptual rules to produce ambient light derived from video content |
US20080174659A1 (en) | 2007-01-18 | 2008-07-24 | Mcdowall Ian | Wide field of view display device and method |
US9316834B2 (en) | 2011-11-24 | 2016-04-19 | Panasonic Intellectual Property Management Co., Ltd. | Head-mounted display device with foveated pixels |
KR102275778B1 (ko) | 2014-12-04 | 2021-07-09 | 삼성디스플레이 주식회사 | 헤드 마운티드 디스플레이 장치 |
US20170115489A1 (en) | 2015-10-26 | 2017-04-27 | Xinda Hu | Head mounted display device with multiple segment display and optics |
CN106681012A (zh) | 2015-11-05 | 2017-05-17 | 丰唐物联技术(深圳)有限公司 | 虚拟现实设备中显示屏的配置方法及装置 |
US10175487B2 (en) | 2016-03-29 | 2019-01-08 | Microsoft Technology Licensing, Llc | Peripheral display for head mounted display device |
US10665209B2 (en) * | 2017-05-18 | 2020-05-26 | Synaptics Incorporated | Display interface with foveal compression |
-
2020
- 2020-03-18 WO PCT/US2020/023304 patent/WO2020197878A1/en unknown
- 2020-03-18 CN CN202080030935.8A patent/CN113767316A/zh active Pending
- 2020-03-18 EP EP20717062.2A patent/EP3948397A1/en active Pending
- 2020-03-18 US US17/440,911 patent/US11947116B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090040296A1 (en) * | 2007-08-06 | 2009-02-12 | Moscato Jonathan D | Head mounted display assembly |
US20100079356A1 (en) * | 2008-09-30 | 2010-04-01 | Apple Inc. | Head-mounted display apparatus for retaining a portable electronic device with display |
US20150219902A1 (en) * | 2014-02-06 | 2015-08-06 | Samsung Electronics Co., Ltd. | Electronic device including flexible display unit and operation method thereof |
CN107430281A (zh) * | 2015-06-23 | 2017-12-01 | 谷歌公司 | 带有双曲面显示器的头戴式显示器装置 |
Non-Patent Citations (1)
Title |
---|
KONIECZNY J ET AL: "A Handheld Flexible Display System", IEEE VISUALIZATION, 23 October 2005 (2005-10-23), pages 1 - 2 * |
Also Published As
Publication number | Publication date |
---|---|
US11947116B2 (en) | 2024-04-02 |
US20220155596A1 (en) | 2022-05-19 |
EP3948397A1 (en) | 2022-02-09 |
WO2020197878A1 (en) | 2020-10-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10460459B2 (en) | Stitching frames into a panoramic frame | |
US10192361B2 (en) | Head-mounted display device and computer program | |
JP6531404B2 (ja) | 両眼光学拡張現実システムの範囲較正 | |
AU2015348151B2 (en) | Real-time visual feedback for user positioning with respect to a camera and a display | |
ES2253542T3 (es) | Procedimiento y sistema para producir informaciones formateadas relacionadas con los defectos, como minimo, de una aparato de una cadena, en especial por efecto borroso. | |
US8368762B1 (en) | Methods and apparatus for camera calibration based on multiview image geometry | |
JP4435145B2 (ja) | 幾何情報を校正してパノラマ映像を提供する方法および装置 | |
US20150381965A1 (en) | Systems and methods for depth map extraction using a hybrid algorithm | |
RU2672502C1 (ru) | Устройство и способ для формирования изображения роговицы | |
KR101661991B1 (ko) | 모바일 확장 공간에서의 3d 드로잉을 지원하기 위한 hmd 장치 및 방법 | |
KR20210005555A (ko) | 디지털 가능하게 보정된 수차가 있는 혼합 현실 광학 시스템 | |
US20170289461A1 (en) | Imaging device, imaging method, and program | |
CN112543318B (zh) | 3d显示屏补偿方法、***及计算机可读存储介质 | |
WO2019217260A1 (en) | Dynamic foveated display | |
JPWO2020170454A1 (ja) | 画像生成装置、ヘッドマウントディスプレイ、および画像生成方法 | |
CN111064895A (zh) | 一种虚化拍摄方法和电子设备 | |
KR102273059B1 (ko) | 얼굴 이미지를 강화하는 방법 및 장치, 전자 기기 | |
CN106919246A (zh) | 一种应用界面的显示方法和装置 | |
JP2019029721A (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN113767316A (zh) | 在头戴式设备中的柔性显示设备上显示图像的方法和对应的装置 | |
JP2020167659A (ja) | 画像処理装置、ヘッドマウントディスプレイ、および画像表示方法 | |
JP2021039444A5 (ja) | 画像処理装置及びその制御方法及びプログラム、及び、システム | |
WO2016158119A1 (ja) | 医療用観察装置、情報処理方法、プログラム、及びビデオ顕微鏡装置 | |
JP6821526B2 (ja) | 画像処理方法、画像処理装置、撮像装置、および、プログラム | |
CN114945943A (zh) | 基于虹膜大小估计深度 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |